미성년자가 노출女 사진 원하자 주르륵…너도나도 난리 난 사태 결국
2026.01.16 00:44
본타 법무장관은 "xAI가 소셜미디어 플랫폼 엑스(X)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 말했다.
이어 "한 분석에 따르면 지난 크리스마스와 새해 사이에 xAI가 생성한 2만개의 이미지 중 절반 이상이 최소한의 옷만 입은 사람들을 묘사했으며, 그중 일부는 아동으로 보였다"고 지적했다.
그러면서 "우리는 동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작 및 유포에 대해 절대 용납하지 않는다"고 강조했다.
이는 이번 논란과 관련해 미국 내에서 나온 첫 규제 움직임이다.
앞서 민주당 대권 잠룡으로 꼽히는 개빈 뉴섬 캘리포니아 주지사도 이날 엑스에서 "xAI가 아동의 옷을 디지털 방식으로 벗기는 이미지를 포함해 동의 없이 제작된 성적으로 노골적인 AI 딥페이크를 만들어내고 가해자들이 확산시킬 수 있게 한 결정은 극도로 혐오스럽다"며 "나는 법무장관에게 이 회사를 즉시 조사하고 책임을 물을 것을 요구한다"고 밝혔다.
그록은 다른 생성형 AI와 달리 성인용 이미지 생성이 자유롭게 이뤄지는 것으로 알려졌다. 최근 엑스에 게시된 여성·미성년자 이미지 등을 활용해 비키니 수영복 착용 모습 등 노출이 심한 합성 이미지를 생성·게시하는 사례가 잇따랐다.
하지만 머스크는 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 주장했다.
머스크는 자신의 엑스 계정에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 제로(Literally zero)"라고 적었다.
이어 "그록은 스스로 이미지를 생성하지 않으며, 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때, 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 주장했다.
또 "그록 프롬프트에 대한 악의적인 해킹으로 예상치 못한 결과가 발생할 수 있는데, 그런 일이 발생하면 우리는 즉시 그 버그를 수정한다"고도 밝혔다.
머스크는 다른 엑스 사용자가 "나는 엑스에서 단 하나의 노출 이미지도 본 적이 없는데, 어떻게 이 노동당 의원들은 엑스에서 그렇게 많은 아동 포르노를 보는 것이냐"고 쓴 글도 공유했다. 노동당 의원들은 키어 스타머 영국 총리 등을 지칭한 것이다.
성인용 이미지 생성 논란에 영국 등 세계 여러 국가가 조사에 나섰다. 말레이시아와 인도네시아는 최근 자국 내 그록 접속을 전면 차단한 상태다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
그록의 다른 소식
모든 소식을 불러왔습니다