VIEW

흉악범죄로 처벌받은 가해자들의 얼굴과 음성을 인공지능(AI)으로 조작해 희화화한 영상·이미지 콘텐츠가 온라인에서 확산하면서 피해자와 유족의 2차 피해가 우려되고 있다. /사진=온라인 커뮤니티 갈무리

[파이낸셜뉴스] 흉악범죄로 처벌받은 가해자들의 얼굴과 음성을 인공지능(AI)으로 조작해 희화화한 영상·이미지 콘텐츠가 온라인에서 확산하면서 피해자와 유족의 2차 피해가 우려되고 있다.

최근 유튜브, 틱톡, 인스타그램 등 동영상 플랫폼과 사회관계망서비스(SNS)에는 신상이 공개된 강력범죄자들을 대상으로 제작된 AI 콘텐츠가 빠르게 퍼지고 있다.

대표적인 사례는 'n번방' 사건의 주범 조주빈을 등장시킨 영상이다. 죄수복 차림의 조주빈이 카메라를 향해 "오늘은 제가 제일 좋아하는 치즈돈가스가 나왔다", "이러니 제가 살을 뺄 수가 없다"는 식으로 교도소 식단을 두고 농담을 던지는 장면이 담겨 있다.


계곡 살인 사건으로 유죄가 확정된 이은해가 교도소 식사가 맛없다고 불평하는 영상도 같은 방식으로 제작됐다.

해당 영상들은 모두 실제 장면이 아니라 범죄자들의 얼굴과 음성 데이터를 학습한 AI로 구현된 가짜 영상으로, 일부는 조회수가 수백만회에 달하는 것으로 전해졌다.

범죄자를 조롱하거나 희화화하는 콘텐츠는 이전에도 있었다. 올해 초 '강북 모텔 연쇄살인' 사건 직후에는 여성 흉악범들을 한데 묶은 '청주여자교도소 5인방' AI 이미지도 확산했다.

해당 이미지에는 이은해와 정유정, 전 남편을 살해한 뒤 시신을 유기한 고유정, 약물이 든 음료로 남성 2명을 살해한 김소영, 남편과 내연남을 약물로 살해한 뒤 사고사로 위장해 보험금을 챙긴 '엄 여인 사건'의 엄인숙이 나란히 정면을 응시하는 모습으로 표현됐다.

이은해의 사진에 "계곡 갈래?"라는 문구를 합성하거나 고유정의 사진에 "카레 먹고 갈래?" 라는 문구를 합성하는 등의 게시물도 온라인상에 퍼진 바 있다.

이 같은 콘텐츠가 단순한 장난거리로 소비되는 사이, 실제 피해자와 유족은 또다시 상처를 입을 수 있다는 우려가 제기된다. 범죄 장면이나 가해자의 얼굴을 떠올리게 하는 영상이 반복적으로 노출될 경우 피해자가 2차 피해에 놓일 수 있다는 지적이다.

현재로서는 범죄자를 희화화하거나 범죄를 오락화하는 AI 콘텐츠를 직접 제재할 규정이 마땅치 않은 것으로 전해졌다. 방송미디어통신심의위원회가 플랫폼 사업자에 삭제·접속차단 조치를 요청하는 정도만 가능한 상황이다.

이은해의 사진에 "계곡 갈래?"라는 문구를 합성하거나 고유정의 사진에 "카레 먹고 갈래?" 라는 문구를 합성하는 등 범죄자를 조롱하거나 희화화하는 콘텐츠가 확산하고 있다. /사진=온라인 커뮤니티 갈무리

sms@fnnews.com 성민서 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.

[파이낸셜뉴스 핫뉴스]

→ 상가 식당서 숨진 채 발견된 50대 배우, 12살 연하 아내와..
→ "5000원으로 주식 투자한 초등학생 아들, 수익률이..."
→ 김신영 8년 연애 후 결별 "전 남친 어머니가 아직도.."
→ "유권자가 벌레냐"..하정우, 상인과 악수 후 한 행동 논란
→ "다 망할 때 나는 부자 될 것"…'부자 아빠'의 섬뜩한 경고
→ "1800만원 넣으면 2200만원 된다"... 왜 안 해요?
→ "130만원 신고가 SK하이닉스 그만 사라" 경고, 왜?
→ 김원훈 "축의금 1위 하객은 신동엽, 거의 1억을..."
→ 모두가 200만닉스 'yes' 할때 혼자 'no' 외친 증권사
→ "실내가 이게 뭐냐" 韓소비자들에 무시당한 일본車