'제 2의 김세의' 또 나올라... 국과수도 "판정 불가", 여론 흔든 AI 가짜 목소리
2026.06.18 09:00
AI 허위조작 녹취, 수사해도 입증 어려워
유사범죄 반복 가능성... "대응 서둘러야"
"나쁜 의미의 '판도라 상자' 열렸다" 우려
편집자주
허위정보가 빈번한 시대다. 최소한의 자정 시스템을 갖춘 레거시 미디어와 달리, 1인 미디어 유튜버들에게 팩트체크는 사치일 뿐이다. 이들은 조회수와 수익을 위해 각종 음모론을 쏟아내고 분노 유발도 서슴지 않는다. 타인의 고통을 자양분 삼아 커가는 허위정보는 별다른 제재 없이 퍼져 나간다. 이제는 거대한 비즈니스가 돼버린 허위정보. 그 일그러진 생태계를 살펴봤다."김수현과 중학교 때부터 사귀다가 대학 가서 헤어졌다. 처음 성관계를 한 게 중학교 2학년 겨울방학 때였다. 지금 생각하면 당한 거다."
배우 김수현을 대상으로 허위정보를 유포한 혐의로 구속된 가로세로연구소 대표 김세의씨의 범죄 혐의는 한두 가지가 아니다. 그중에서도 김수현에게 가장 치명적 타격을 준 것은 인공지능(AI)을 활용해 고(故) 김새론 배우의 목소리처럼 꾸민 것으로 추정되는 음성파일이었다. 실존 인물의 기자회견이나 서류로만 의혹이 제기됐다면 '일방적 주장'으로 치부됐을 내용이 고인의 육성처럼 들리는 파일 형식을 갖추자 대중은 이를 '신뢰할 만한 증거'로 받아들였다. 이번 사건은 AI를 사용해 만든 허위정보가 기존의 허위정보보다 더 위험한 이유를 단적으로 보여줬다.
여론 홀리는 AI, 수사는 어려워 '위험'
실제 파장은 컸다. 허위정보는 유튜브 안에만 머물지 않았다. 육성이 공개되면서 가세연이 제기한 의혹은 언론이 인용하기 쉬운 '증거 있는 폭로'의 외양을 갖추게 됐다. 민주언론시민연합 집계에 따르면 가세연이 김수현과 고 김새론 관련 의혹을 제기한 2025년 3월 10일부터 17일까지 8일 동안 해당 폭로성 주장을 받아쓴 기사는 2,026건에 달했다. 김수현은 자신에 대한 의혹이 걷잡을 수 없이 확산하자 기자회견을 열고 녹취파일의 내용을 부인했지만, '진짜 같은 가짜 목소리' 탓에 사람들을 설득하는 게 쉽지 않았다.
AI 조작 허위정보의 위험성은 여기서 끝나지 않는다. 수사기관이 조작을 의심하더라도 이를 입증하는 건 별개 문제다. 국립과학수사연구원은 가세연이 공개한 고 김새론씨의 대화 녹취파일에 대해 AI 조작 여부를 '판정 불가'로 회신했다. 감정 대상이 원본 파일이 아니기 때문이다. 경찰이 제작 경로 등을 확보하지 못하면 조작 여부를 단정하기 어렵고, 그 빈틈은 허위정보 유포자의 방어 논리로 활용될 수 있다.
경찰은 김수현 녹취파일을 '정황상 조작'이라고 결론을 내린 상태다. 조작됐다고 100% 확신할 수는 없지만, 파일의 유통 경로와 서로 다른 버전의 존재, 관련자 진술, 카카오톡 대화 조작 정황 등을 종합해 내린 결론이다. 김수현을 대리하는 고상록 법무법인 필 변호사는 한국일보에 "동일한 날, 동일한 시간에 이뤄진 대화라는 녹취파일이 제보자로부터 완전히 다른 버전으로 여러 사람에게 배포됐다는 점을 고려했을 것"이라고 말했다.
수사 단계에서의 어려움은 결국 법정에서의 입증 문제로 이어질 수 있다. 검사 출신인 이창현 한국외대 로스쿨 교수는 "과거 문서 위변조는 필체나 직인 등을 통해 육안으로 확인이 가능했지만, AI를 이용한 증거 조작은 재판 단계에서 어떻게 입증해야 할지 난감할 수 있다"고 말했다. 이 교수는 다만 "AI의 발전 속도가 빠른 만큼 현재의 고도화된 기술로 분석한다면 허위조작 정보 역시 충분히 사후 검증과 입증이 가능할 것"이라고 내다봤다.
AI, 조작 더 쉽게... "제도적 대응 서둘러야"
가장 우려되는 점은 AI를 통한 조작이 독버섯처럼 번질 가능성이다. 과거에는 특정인의 음성을 조작하려면 전문 장비와 상당한 시간이 필요했지만, 이제는 짧은 음성 샘플과 온라인 도구만 있으면 얼마든지 비슷한 목소리를 만들어낼 수 있다. 이번 사건을 단순한 연예인 명예훼손 사건으로 봐서는 안 된다는 경고가 나오는 이유다.
유현재 서강대 커뮤니케이션대학 교수는 "나쁜 의미의 판도라의 상자가 열렸다"고 말했다. 유 교수는 "김수현 녹취파일 조작 사건은 범죄 의도가 있는 사람들에게 AI 조작물을 이용해 어떻게 여론전에 나서야 하는지 보여줬다. 이번 사건으로 범죄 방식을 학습한 사람들이 분명 있을 것이다. 제도적 대응책을 서둘러 마련하지 않으면 제2의 김세의, 제3의 김세의가 나올 수 있다"고 경고했다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
가로세로연구소의 다른 소식
모든 소식을 불러왔습니다