VIEW

[아이뉴스24 정유림 기자] 네이버는 악성 댓글 탐지 시스템 'AI 클린봇'이 생명 경시·2차 가해 표현 탐지를 집중 차단하도록 고도화했다고 29일 밝혔다.

이로써 △자살, 사망, 신체 훼손 등과 관련해 생명 경시를 조장하는 댓글 △사건, 사고 피해자와 유족을 향한 조롱, 비하, 혐오성 댓글을 집중 차단한다.

AI 클린봇 3.0 모델은 기사 맥락과 결합해 악성 댓글 탐지 능력을 강화한 것이 특징이다. 네이버는 뉴스 댓글 내용 뿐 아니라 기사 제목, 본문을 종합해 악성 댓글을 탐지할 수 있도록 최적화 과정을 거쳤다. 클린봇은 맥락에 따라 더 정확하게 악의적 의도를 탐지하도록 고도화됐다.

2019년 업계 최초로 선보인 AI 클린봇은 댓글 서비스 전반의 기술·정책적 노력과 더불어 급변하는 신조어, 혐오 표현 등에 대응하기 위해 탐지 범위, 정확도가 향상됐다.

악성 키워드 기반으로 욕설, 비속어를 자동 탐지하는 초기 수준을 넘어서 문장 맥락으로 악성 댓글 판단 기준을 확대해 욕설이 없더라도 모욕적 표현을 탐지한다. 성적 불쾌감 유발, 혐오, 비하, 차별 표현, 기호, 문자를 활용한 우회 악성댓글(악플) 등을 막아 내기 위해 업그레이드를 꾸준히 진행했다.

2023년에는 한국인터넷자율정책기구(KISO) 혐오 표현 자율정책 가이드라인을 반영하는 등 적극 공조하며 건전한 소통의 장 마련을 위해 힘쓰고 있다.

김수향 네이버 리더는 "네이버는 욕설과 비속어를 비롯해 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇 성능을 강화하고 있다"며 "생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 성능을 고도화할 예정"이라고 했다.

[관련기사]

▶ [단독] 삼성전자 주주들, 이재용 자택 앞서 '맞불 집회' 신고

▶ [단독] 삼성전자, 파업 종용 괴롭힘 우려 근태시스템 조회 중단

▶ 피해 추산액만 400억⋯국내 최대 불법 웹툰 사이트 '뉴토끼' 폐쇄

▶ SK하이닉스 하청 노조, 청주공장 앞에서 성과급 집회 개최

▶ [노사 상생] ①"하루 1조씩 피해"…삼성전자 최악의 파업 위기

▶ 채비, 코스닥 상장⋯코스모로보틱스 일반청약

▶ [노사 상생]② '한국판 실리콘밸리' 판교가 흔들린다

▶ 하정우, 靑에 사의 표명…'부산 북갑' 출마 초읽기

▶ "저녁 대신 먹으면 살 쭉쭉 빠진다"⋯장 건강·면역력까지 잡는 '이것' 정체는?

▶ "배고픔·추위 속 37시간"⋯'초코파이' 쪼개 먹으며 구조 기다린 대학생

▶아이뉴스TV에서 부동산 고수를 만나보세요.

[ⓒ 아이뉴스24 무단전재 및 재배포 금지]