앤트로픽 “AI개발 일시 중단 촉구”…인간의 ‘AI 통제력 상실’ 경고
2026.06.05 17:10
‘재귀적 자기 개선’ 도달 가능성에 대해 언급
미국 생성형 인공지능(AI) 개발사 앤트로픽이 전 세계 인공지능 개발 연구소들에 인공지능 개발 속도를 늦추는 방안을 검토할 것을 촉구했다. 인공지능 시스템이 너무 빠르게 진보해 조만간 인간의 개입 없이 스스로 개선하는 수준에 이를 수 있다는 우려 때문이다.
앤트로픽은 4일(현지시각) 자사 블로그에 인공지능 모델이 얼마나 빠르게 성장하고 있는지 보여주는 내부 데이터를 올리며 세계적으로 인공지능 개발을 늦추는 것을 두고 “좋은 일이 될 것”이라고 밝혔다. 해당 글은 앤트로픽 내부 연구조직인 앤트로픽인스티튜트의 마리나 파바로 대표와 공동창업자 잭 클라크가 함께 작성했다.
이들은 우선 인공지능이 인간의 개입 없이 완전히 자율적으로 모델을 설계하고 개발하는 ‘재귀적 자기 개선’ 도달 가능성에 대해 언급했다. 앤트로픽은 현재 재귀적 자기 개선 단계에 도달하지도 않았고, 필연적인 것도 아니라면서도 “대부분의 기관이 준비한 것보다 더 이른 시점에 도달할 수 있다”고 경고했다. 그러면서 이 같은 발전이 “과학과 의료에 엄청난 이점”을 가져다줄 수도 있지만 동시에 “인간이 인공지능 시스템에 대한 통제력을 잃을 위험을 증가시킨다”고 지적했다.
앤트로픽은 재귀적 자기개선의 영향력에 대처할 시간을 마련하기 위해 기술 개발을 늦추는 게 효과적이라고 강조했다. 구체적으로는 다수의 연구소가 동일한 조건 아래 개발을 멈추기로 동의하고, 각각의 연구소가 다른 연구소의 실제 개발 중단 여부를 검증할 수 있어야 한다고 제안했다. 이들은 이 같은 조약 체결이 완전히 불가능한 것은 아니라며 냉전 시기였던 1987년 미국과 소련이 맺은 중거리핵전력조약(INF)을 언급했다. 이 조약은 사거리 500~5000㎞의 지상 발사형 탄도·순항 미사일의 생산과 실험 배치를 전면 금지하는 내용으로 냉전 시대 종식의 상징으로 꼽혀왔다. 앤트로픽은 “이 체제들은 인프라와 신뢰를 구축하는 데 수십 년이 걸렸지만 우리에겐 그럴 시간이 없다”고 강조했다. 다만, 이 조약은 2019년 미국이 탈퇴 선언을 하고 러시아도 맞불 형태로 탈퇴하면서 파기된 상태다.
앤트로픽은 정책 입안자와 시민사회 등과 함께 완전한 재귀적 자기개선 조정 등을 논의하는 조직을 구성할 예정이다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
재귀적 자기 개선의 다른 소식
모든 소식을 불러왔습니다