앤스로픽 “AI, 인간 통제 벗어나 스스로 발전 가능...개발 중단해야"
2026.06.05 14:56
인간 비교 우위는 점차 사라진다
"전 세계 협력해 AI 발전속도 늦추자"
인공지능(AI) 챗봇 '클로드' 운영사 앤스로픽이 AI 발전에 인간의 개입이 더 이상 필요하지 않은 단계가 다가오고 있다며 일종의 '경고'를 날렸다. AI가 인간의 통제를 벗어나기 전 최첨단 AI 개발을 늦추거나 일시적으로 중단하는 방법도 고려해야 한다는 제안도 내놨다.
앤스로픽은 4일(현지시간) 공식 블로그를 통해 "이미 AI가 스스로 AI 시스템 개발을 가속화하고 있다"며 "스스로를 구축할 수 있는(재귀적 자기 개선) AI는 기술 역사상 가장 중요한 발전이 될 것"이라고 내다봤다. 다만 이들은 AI 기술 발전이 인류의 안전을 위협할 수 있기 때문에 전 세계가 합의한 '감속(slowdown)'이나 '일시 중단(pause)'이 필요하다고 강조했다.
앤스로픽 분석에 따르면 기존에 7개월마다 두 배로 증가하던 AI 발전 속도는 이제 약 4개월마다 두 배 수준으로 빨라졌다. 2024년 3월만 해도 사람이 4분 걸리는 일을 대신 하던 클로드는 이제 12시간짜리 일을 하고, 내년이면 몇 주짜리 일을 하게 된다. 지난해 11월 기준 앤스로픽의 최상위 모델(오퍼스 4.5)은 51% 확률로 인간의 선택을 능가했는데, 올해 4월 출시된 모델(미소스 프리뷰)은 이 비율을 64%로 올렸다. 앤스로픽 측은 "AI가 판단을 내리는 데 있어 인간보다 점점 더 능숙해지고 있다는 신호"라고 강조했다.
AI와 비교해 인간이 가진 비교우위는 점점 줄어들고 있다. 기존에 인간이 하던 '검토' 영역도 AI가 더 효율적으로 대체해나가고 있기 때문이다. 앤스로픽이 설명하는 현재 인간의 역할은 어떤 문제가 중요하고 어떤 결과를 신뢰해야 하는지, 어떤 접근 방식이 막다른 길인지 판단하는 '방향 설정과 판단력'에 있다. 그러나 이조차도 AI가 장악할 가능성이 높아지고 있다는 게 앤스로픽의 설명이다. 앤스로픽은 "이미 AI는 타인의 농담을 이해하고 마음을 읽을 수 있다"며 "인간의 노동력이 더 이상 경쟁력을 갖지 못하게 된다면 경제가 어떤 모습이 될지 예측하기 어렵다"고 우려했다.
때문에 앤스로픽은 사회 구조가 AI 기술 발전 속도를 어느 정도 따라잡을 수 있도록 전 세계 국가들이 협력해서 속도를 잠시 늦추자고 주장했다. 과거 여러 국가들이 합심해 맺었던 핵확산금지조약(NPT)이나 화학무기금지협약(CWC) 등과 비슷한 시스템을 구축하고 각 국가가 서로를 감시하자는 것이다. 다만 규정 위반에 대한 유혹이 매우 크고 결정의 주체가 누군지가 애매하다는 단점이 지적된다. 논의할 만큼의 시간이 주어지지 않았다는 점도 문제다.
앤스로픽이 AI 시장에서의 '마케팅'을 위해 일부러 이 같은 주장을 한다는 의견도 있다. 앤스로픽은 최근 대규모 자금 조달에 성공하면서 기업 가치가 약 1조 달러(약 1,500조 원)로 치솟았고, 기업공개(IPO)를 위한 서류를 제출한 상태다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
재귀적 자기 개선의 다른 소식
모든 소식을 불러왔습니다