VIEW

앤트로픽이 AI가 2년 내 재귀적 자기개선 단계에 도달할 수 있다며 글로벌 차원의 개발 중단을 제안했다. [사진: 앤트로픽]

[디지털투데이 AI리포터] 앤트로픽이 인간의 감독 없이 스스로 성능을 끌어 올릴 수 있는 인공지능(AI)이 임계점에 가까워지고 있다며, 최첨단 AI 모델 개발을 일시 중단하거나 속도를 늦추는 글로벌 합의가 필요하다고 주장했다.

4일(현지시간) 실리콘앵글에 따르면, 앤트로픽은 이날 공개한 블로그 글에서 이 같은 수준의 AI가 등장할 경우 사회 전반에 상당한 혼란을 초래할 수 있다고 경고했다.

회사는 특히 AI가 자체 코드를 작성해 스스로 능력을 확장하는 '재귀적 자기개선'(recursive self-improvemen) 가능성을 핵심 위험 요인으로 지목했다. 아직 실제로 발생한 사례는 없으며 반드시 현실화된다고 단정할 수는 없지만, 충분한 대비가 이뤄지기 전에 등장할 가능성이 있다는 판단이다. 잭 클라크(Jack Clark) 앤트로픽 정책 책임자는 일부 모델이 2년 안에 재귀적 자기개선 능력을 갖출 가능성이 있다고 전망했다.

마리나 파바로(Marina Favaro) 앤트로픽 내부 연구 책임자와 잭 클라크는 사회 제도와 AI 정렬 연구가 기술 발전 속도를 따라잡을 시간을 확보하기 위해서라도 감속 수단이 필요하다고 밝혔다. 두 사람은 "세계가 최첨단 AI 개발을 늦추거나 일시 중단할 선택지를 갖는 것이 바람직하다"라며 사회 구조와 안전성 연구가 기술 발전과 보조를 맞출 수 있어야 한다고 주장했다.

다만 앤트로픽도 이러한 구상이 현실적으로 쉽지 않다는 점은 인정했다. 글로벌 차원의 개발 중단을 집행하려면 냉전 시기 핵확산을 억제했던 조약과 유사한 국제 협력이 필요하지만, AI 학습은 미사일 기지보다 훨씬 은밀하게 진행할 수 있다는 설명이다. 또한 중국 등 주요 국가의 협력과 강력한 검증 체계가 없다면 일부 국가가 합의를 무시한 채 개발 경쟁을 이어갈 가능성도 제기했다.

이 같은 한계에도 앤트로픽은 논의를 계속 이어가겠다는 입장이다. 회사 내 연구조직인 앤트로픽 인스티튜트는 신뢰할 수 있는 감속 또는 일시 중단 체계 구축 방안을 지속적으로 검토할 계획이다. 또한 정책 입안자와 AI 연구자들을 대상으로 재귀적 자기개선의 현실 가능성과 검증 체계의 형태를 둘러싼 폭넓은 논의도 추진하기로 했다.

앤트로픽은 현재 AI 개발 환경이 국가와 기업 간 상업적·지정학적 경쟁 속에서 지나치게 빠른 속도로 진행되고 있다고 보고 있다. 마리나 파바로와 잭 클라크는 국제 공조가 부재한 상황에서는 "다양한 국가의 다양한 주체가 강력한 기술을 눈 깜짝할 사이에 개발하는 현재 상황이 지속될 수 있다"라며 상업적 경쟁과 지정학적 경쟁이 기술의 근본적 위험에 대한 논의를 압도하고 있다고 지적했다.

이번 제안은 앤트로픽의 시장 내 위상과 맞물리며 더욱 주목받고 있다. 회사는 최근 650억달러(약 100조2400억원) 규모의 자금 조달을 마쳤으며, 기업가치는 1조달러(약 1542조2000억원)에 근접한 것으로 전해졌다. 또한 이번 주 미국 증권거래위원회(SEC)에 상장 관련 서류를 제출했다. 앤트로픽은 현재 오픈AI와 함께 생성형 AI 시장을 주도하는 핵심 기업 중 하나로 평가받는다.

반면 일각에서는 앤트로픽의 주장이 경쟁사 견제를 위한 정책 전략이라는 비판도 제기한다. 도널드 트럼프 미국 대통령의 비공식 자문역인 벤처투자자 데이비드 색스(David Sacks)는 과거 앤트로픽이 "규제 포획 의제"를 추진하고 있다고 비판한 바 있다. 강력한 규제를 통해 저렴한 오픈소스 모델의 확산을 제한하고, 자사의 폐쇄형 모델에 유리한 환경을 조성하려 한다는 주장이다.

앤트로픽은 이러한 논란과 별개로 글로벌 감속 논의가 필요하다는 입장을 재확인했다. 회사는 국제 공조 체계가 마련되지 않을 경우 AI 개발이 안전성과 통제보다 경쟁 논리에 더 크게 좌우될 수 있다고 보고 있으며, 정책과 연구 양측에서 후속 논의를 이어갈 계획이라고 밝혔다.