‘AI 스스로 성능 개선’ 우려에…앤스로픽 “AI 개발 일시 중단해야 할수도”
2026.06.05 14:53
4일(현지 시간) 자사 블로그를 통해 앤스로픽 연구기관인 ‘앤스로픽 인스티튜트’의 마리나 파바로 연구총괄과 잭 클라크 앤스로픽 공동창업자는 “AI 안전성 연구와 사회 제도가 기술 발전 속도를 따라갈 수 있도록 최첨단 AI 개발을 늦추거나 일시 중단할 수 있는 선택지를 확보하는 것이 바람직하다”고 밝혔다. 이들은 AI 개발 속도를 조절하기 위한 국제적 합의와 경쟁사들이 이를 실제로 준수하는지 확인할 수 있는 검증 체계가 필요하다고 주장했다.
앤스로픽은 최첨단 AI 모델의 발전 속도가 매우 빠르며 현재 기술 발전 흐름이 재귀적 자기개선 단계로 이어질 가능성이 있다고 진단했다. 아직 재귀적 자기개선이 현실화된 것은 아니지만 관련 사회 제도와 안전장치가 마련되기 전에 나타날 수 있다고 경고했다. 잭 클라크 공동창업자도 최근 강연에서 “이 같은 기술은 인류 역사상 존재한 적이 없으며 향후 2년 안에 등장할 수도 있다”고 언급한 바 있다.
재귀적 자기개선은 AI가 더 뛰어난 AI를 설계하고 훈련하는 과정을 반복하며 스스로 발전하는 현상을 뜻한다. AI 업계에서는 인간 수준의 범용인공지능(AGI) 이후 나타날 수 있는 핵심 변곡점으로 꼽히지만, 일각에서는 과도한 우려라는 반론도 제기된다. 메타의 전 최고 AI 과학자인 얀 르쿤은 현재 대규모언어모델(LLM) 기반 시스템이 인간 수준의 지능에 도달하기 어렵다고 주장해 왔다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
재귀적 자기 개선의 다른 소식
모든 소식을 불러왔습니다