VIEW

클로드(Claude) [사진: 앤트로픽]

[디지털투데이 황치규 기자]앤트로픽이 내부에서 개발 중인 신형AI 모델 클로드 미토스(Claude Mythos)를 일부 기업들에 공개하고 40개 이상 주요 테크 기업들과 진행하는 사이버 보안 프로젝트 '글래스윙(Glasswing)'를 선보였다.

해커들이 클로드 미토스를 악용할 소지를 줄이기 위한 행보다.

앤트로픽에 따르면 미토스는 이미 모든 주요 운영체제와 웹브라우저에서 수천 개 고위험 취약점을 찾아냈다. 27년간 발견되지 않은 오픈BSD 취약점, 500만번 자동화 테스트를 통과한 영상 인코더 FFmpeg 결함, 사용자 기기를 완전히 장악할 수 있는 리눅스 커널 취약점들이 여기에 포함됐다.

AI 모델로보안 취약점을 찾아내는게 새로울 건 없는데, 미토스를 특히 경계해야할 이유는 무엇일까?

이와 관련해 플랫포머 창업자 겸 편집자인 케이시 뉴턴은 미토스가 가진 고급 추론 능력을 꼽는다. 그는 "기존 모델은 취약점을 찾는 수준이었지만, 미토스는 소프트웨어 하나에서 취약점 다섯 개를 찾아 연쇄 공격으로 엮을 수 있다"고 말했다. 사람 없이 AI가 혼자 오랫동안 작업을 이어가는 역량과 결합할 경우 사이버보안 위협에 변곡점이 될 수 있다는 앤트로픽 입장도 전했다.

프로젝트 글래스윙 참여사는 애플, 구글, 마이크로소프트, 시스코, 브로드컴 등이다. 이들 업체는 주요 오픈소스 시스템을 스캔하고 취약점을 패치하는 역할을 맡는다.

시스코 최고보안책임자 앤서니 그리에코(Anthony Grieco)는 "AI 역량이 임계점을 넘었고, 핵심 인프라 보호 긴급성이 근본적으로 달라졌다"고 말했다. 사이버보안 업체 코리도(Corridor) 최고제품책임자 알렉스 스타모스는 "오픈 가중치 모델이 파운데이션 모델 버그 탐지 능력을 따라잡는 데 6개월도 안 남았다"며 "그 시점이 되면 랜섬웨어 공격자 누구나 흔적을 남기지 않고 취약점을 찾아 무기화할 수 있다"고 경고했다.

뉴턴은 미토스와 관련해 권력의 집중 문제도 부각했다. 보안 취약점을 찾아내는 것과 관련해 한 회사 영향력이 너무 커졌다는 의미다.

그는 미디어 아규먼트(Argument)를 운영하는 켈시 파이퍼를 인용해 "미토스에서 제대로 다뤄지지 않은 것들 중 하나는 한 민간 기업이 들어본 거의 모든 소프트웨어 프로젝트들에 대해 믿기 힘들 정도로 강력한 제로데이 취약점을 보유하고 있다는 점"이라고 지적했다.

힘이 집중되는 만큼, 리스크도 커질 수 있다. 뉴턴은 "앤트로픽 모델 가중치를 훔치려는 유인이 크게 높아졌다"고 말했다. 이어 "글래스윙은 위험한 AI 모델로부터 우리를 보호할 유일한 방법은 우리가 먼저 그런 모델을 개발하는 것 뿐이라는 매우 불편한 전제 위에 서 있다"면서 "앤트로픽은 규제가 거의 없는환경에서 이를 추진하고 있다"고 덧붙였다.