초지능은 국적을 가지고 태어난다
2026.07.14 22:11
| ▲ 중국 AI 모델의 기술 리더 탕제 즈푸CEO. 칭화대 컴퓨터공학과 교수로 현재 AI 업계 엔지니어들의 스승으로 불린다(왼쪽). / 즈푸의 오픈소스 모델 GLM-5.2. 클로드 오퍼스(Claude Opus 4.8)에 필적하는 코딩 성능으로 주목받고 있다(오른쪽). |
| ⓒ 자료사진 |
초지능(ASI, Artificial Super Intelligence)을 상상할 때 우리는 대개 국경을 초월한 존재를 떠올립니다. 인간을 넘어선 지능이라면 특정 국가의 소유물일리 없다는 막연한 생각입니다. 그런데 지난 7월 11일 이 직관이 틀렸다고 명확하게 제시해주는 문서가 하나 나왔습니다. 중국 모델의 대표기업 즈푸(Zhipu, 智谱)의 창업자 탕제(唐杰, Tang Jie)가 발표한 내부 서한 <거대한 파도가 이미 왔다>입니다.
이 서한에는 기업의 비전, 초지능이 임박해 있다는 시간표와, 그 지능의 심층에 무엇을 새길 것인가라는 설계도가 함께 담겨 있었습니다. 설계도 쪽에 적힌 가치 체계 기준은 "국가"입니다.
챗봇의 종말 AGI까지 2년 남았다
탕제의 시간표부터 보겠습니다. 그는 인공지능이 보고 듣고 답하는 지각 단계에서 학습하고 추론하는 인지로 넘어가는 중이며 다음 단계에 AGI가 있다고 씁니다. 그가 내리는 AGI 정의는 천재 한 명 급의 지능이 아니라 전 인류 지능의 총합, '상대성이론' 급 원천 지식을 창조하는 능력 입니다. AGI를 달성하기 위해 진행할 네가지 전략을 터치하이(Touch High) 계획'이라 명명했습니다.
인공지능이 지각과 인지를 넘어 완전한 범용 지능으로 도약하는 역사적 분기점에서 즈푸는 '높이 손을 뻗는' 자세로 현재 기술의 물리적·알고리즘적 한계에 도전하겠다고 선언한 것입니다. 향후 2년간은 단기적 수익를 좇지 않고 AGI의 다음 고지를 곧바로 겨냥한다는 포부입니다.
즈푸의 미래 전략은 네 개의 핵심 엔진에 집중됩니다.
첫 번째, 장기 과제 수행 능력(Long Horizon Task)입니다. 이는 즉문즉답을 넘어 수 주, 수 개월, 수 년에 걸쳐 계획할 수 있고 실행력해 나가는 능력입니다. 탕제가 든 예시는 구체적입니다. 지치지 않고 소프트웨어의 취약점을 찾아내는 모델. 최고 수준 보안 전문가의 사고방식을 학습한 뒤 기계의 지구력으로 그것을 증폭하는 모델입니다.
신약 분자 설계나 희귀병 치료 등 인류의 난제를 수천 개의 실행 가능한 하위 과제로 스스로 쪼개고 장기적으로 해결해 나가는 능력도 여기에 속합니다.
두 번째, 완전 자율 에이전트 시스템(Autonomous Agent System)입니다. 즈푸는 한때 '1인 기업(OPC)'을 말했는데 서한은 기술이 예상보다 빨라 이제 '무인 기업(NPC, No Person Company)'으로 가고 있다고 정정합니다. 그 근거로 그는 패러다임 전환 없이는 풀 수 없다고 여겨졌던 세 난제, 기억(Memory)·지속 학습(Continual Learning)·자기 평가(Self-Judge)가 이미 해결되는 중이라고 진단합니다.
롱 컨텍스트와 검색 증강 생성(RAG)이 기억의 원형에 다가섰고, 모델 새 버전이 나오는 주기가 몇 달, 몇 주 단위로 짧아지는 것 자체가 지속 학습에 근접하며, 프론티어 모델들은 이미 자기를 평가하기 시작했습니다.
세 번째 과제가 가장 논쟁적입니다. 자기 진화(Self-Evolving). 모델이 스스로 코딩하고 스스로 데이터를 정제·합성하며 스스로를 훈련하는 단계입니다. 탕제는 미국 선두 기업들이 백만, 이백만 칩 규모의 클러스터를 짓는 진짜 용도가 바로 모델이 자기 자신을 훈련하게 하는 데 있을 것이라고 봅니다.
인간의 고품질 데이터가 고갈되는 시점에 연산력을 진화의 연료로 전환하고, AI끼리의 대국(Self-Play)으로 지식을 무에서 만들어내며 안전 샌드박스 안에서 시스템이 자기 코드를 재구축하게 한다는 계획까지 서한은 명시합니다.
진화의 속도를 인간 엔지니어의 물리적 한계에서 풀어놓겠다는 선언입니다.
3대 과제를 해결하면 무엇이 오는가. 탕제의 답은 단계적입니다. AI는 '나'가 무엇인지, 자기 인식이 무엇인지 학습하기 시작하고, 그다음 인간의 감정에 닿고, 더 멀리에는 의식 자체가 있다는 것입니다. 그리고 그는 구글 딥마인드(Google DeepMind)의 「From AGI to ASI」를 인용해 구제적인 수치를 제안합니다.
개별 모델의 능력이 인간 수준에 영원히 멈춰도 구동 가능한 AGI 인스턴스가 연 10배씩 늘면 5년 후 1억 개. 같은 기저 두뇌를 공유하고 경험을 제로 코스트로 복제하는 이 군집은 집단 차원에서 이미 ASI와 등가라는 논리입니다.
파도는 컴퓨터의 안에서 밖으로 흘러내립니다. 먼저 소프트웨어입니다. 애플리케이션은 AI 네이티브로 재구축되거나 소멸하고, 운영체제는 모든 기능이 필요에 따라 생성되는(generate on demand) LLM OS로 다시 쓰입니다. 다음은 하드웨어입니다. 계산하는 곳과 기억하는 곳을 나눠온 80년짜리 컴퓨터 설계도, 즉 폰 노이만(von Neumann) 시스템 자체가 도전받습니다. 그리고 파도는 컴퓨터를 떠나 산업으로 내려옵니다. 금융, 법률, 이커머스. 어느 산업도 예외가 아닙니다.
즈푸AI는 명실공히 중국의 대표 AI모델 회사 입니다. 챗GPT보다 1년 반 앞서 천억 파라미터 GLM-130B를 만들었고 딥시크(DeepSeek) R1 이후 챗 패러다임의 종료를 선언하며 코딩과 추론에 베팅해 GLM-5.2로 글로벌 코딩 1군에 올라선 바 있습니다.
그 베팅의 결과로 즈푸의 시가총액은 상장 대비 약 13배(1289%) 상승하여 6개월 만에 중국 IT 대표 회사 샤오미와 바이두의 시가총액을 뛰어넘었습니다. 중국 정부의 강력한 지지를 받는 회사이기도 합니다. 이 회사가 당장의 수익을 추구하지 않고 총력을 다해 향후 2년에 올 거대한 파도에 맞서 기업의 명운을 걸겠다고 선언합니다.
지능의 설계도에 국가 공리를 새겨 넣는다.
여기까지가 파도라면 더욱 중요한 배의 설계도가 바로 네번째 과제입니다. 탕제가 네 개의 핵심 엔진 중 가장 힘주어 강조한 항목은 기술이 아니라 '보안'이었습니다. 그런데 그 안전의 문장이 심상치 않습니다.
"외장형 안전 패치를 버린다. 인류 윤리와 사회 규범과 국가 법규를 기저 공리로 모델의 가치 함수(value function)에 새겨 넣는다. AI는 인류 복지를 위해 일하고, 국가의 법규에 충성한다."
이것을 검열 필터로 읽으면 핵심을 놓칩니다. 오히려 정반대입니다. 필터는 표층에 있어서 파인튜닝으로 벗겨낼 수 있습니다. 공리는 심층에 있어서 벗겨낼 수 없습니다. 탕제 본인이 그렇게 설계하겠다고 선언했습니다. 기계적 해석가능성(mechanistic interpretability)에 백억 위안급 투입을 예고한 것도 같은 맥락입니다. 모델의 뉴런 논리를 투명하게 들여다볼 수 있어야 새겨 넣은 공리가 실제로 작동하는지 검증할 수 있기 때문입니다.
그리고 즈푸는 이 가치 함수를 품은 GLM-5.2를 가장 관대한 MIT 라이선스로 서한의 표현으로는 "주체에 따른 구분 없이" 풀었습니다. 폐쇄 모델의 가치 함수는 그 회사 서버에 머물지만 개방 모델의 가치 함수는 다운로드하는 모든 이의 서버로 들어갑니다. 오픈소스의 가격은 0원이지만 가치 함수도 가져오게 됩니다.
미국도 자국 중심으로 간다
"역시 중국은 다르다"고 결론 내리면 절반만 이해한 것입니다. 미국 모델의 공리에도 국가가 들어 있기 때문입니다. 다만 서한 한 줄로 선언되지 않고 여러 층위로 작동할 뿐입니다.
2025년 7월 트럼프 행정부는 연방 기관이 '이데올로기적 편향'이 없는 대형언어모델만 조달하도록 하는 행정 명령에 서명했습니다. 미국 정부가 AI의 이데올로기적 행동에 명시적으로 개입한 최초의 사례이며 그해 12월 예산관리국(OMB)은 계약 업체가 모델을 어떻게 구축·훈련·수정했는지 공개하도록 하는 이행 지침까지 내놨습니다.
법률 대신 구매력으로 가치 함수의 내용을 규정하는 방식입니다. 같은 해 앤트로픽(Anthropic)은 국가안보 고객 전용 모델군 클로드 거브(Claude Gov)를 내놨는데, 기밀 자료를 다룰 때 "거절을 덜 하도록(refuse less)" 조정된 모델입니다. 거절의 경계가 곧 가치 함수의 경계이고 그 경계가 국가 고객을 위해 움직였다고 회사가 공식 문서에 적은 것입니다.
올해는 정면충돌까지 갔습니다. 앤트로픽이 대규모 국내 감시와 자율 무기 사용 제한을 유지하려 하자 미 국방부는 협상 결렬 끝에 이 회사를 사상 처음으로 자국 기업에 대한 공급망 리스크로 지정했고, 앤트로픽은 소송으로 맞서 법원의 예비적 금지명령을 받아냈습니다. 미국 역시 기업의 가치 함수를 자국 전략에 맞추라고 강제하려 했다는 것. 다만 그 강제가 법정에서 다투어질 수 있다는 것. 이 두 가지가 이 사건의 요체입니다.
오픈AI(OpenAI)는 한발 더 나아가 정부 전용 제품군을 만들고 연방 기관에 기관당 1달러라는 상징적 가격으로 챗GPT를 공급하며 국방부 기밀망에 모델을 올리는 합의까지 맺었습니다. 그리고 미국은 프론티어 모델들을 자국 밖으로는 잠그기 시작했습니다. 수출 통제로 외국 사용자의 접근을 막고 최상위 모델의 공개 범위를 정부가 들여다보는 구조입니다.
진정한 소버린 AI란?
한국에서 소버린 AI는 대개 셋 중 하나로 이해됩니다. 자체 모델을 보유하는 것, 한국어를 잘하는 것, 한국 사용자에게 잘 맞는 것. 셋 다 필요조건입니다. 그리고 셋 다 충분조건이 아닙니다. 자체 모델과 GPU는 소프트웨어와 연산력을 소유하는 일이고, 한국어 특화는 모국어를 소유하는 일입니다. 주권의 실체는 국가 위기 상황에 판단과 가치 기준을 자체적으로 소유하는 일에 있습니다.
진정한 소버린 AI는 자체 모델을 넘어, 자체 데이터센터를 넘어 한국어 특화를 넘어, 한국 사용자 특화를 넘어, 국가의 법을 가치 함수로 학습한 모델을 확보하는 것입니다.
이것은 즈푸를 따라 하자는 말이 아닙니다. 즈푸가 새긴 것은 국가 법규이고, 정권을 도와 시민을 향해 집행됩니다. 한국이 새겨야 할 것은 헌법적 가치입니다. 기본권, 적법 절차, 권력 분립. 정권이 바뀌어도 유지되고 시민의 온전한 삶을 위해 집행되는 법입니다.
그리고 이것은 기술 발전이나 산업 정책을 떠나 우리 앞으로 다가온 안보의 문제 입니다. 행정과 사법과 국방과 금융의 의사결정 보조에 외국 공리로 훈련된 모델이 들어가면 그 모델의 거절과 허용과 우선순위는 우리 법이 아니라 타국 공리의 해석을 따릅니다. 우리 법으로 훈련되지 않은 모델은 우리 법으로 감사할 기준조차 없습니다. 미국도 중국도 자기 공리를 모델에 넣고 있습니다. 넣지 않은 나라는 중립국이 되는 것이 아니라 남의 공리에 지배 당하는 AI 식민지로 전락합니다.
최상위 모델을 제한하는 것 보다 더 무서운 것은 소리 없이 깔리는 오픈소스 입니다. 오픈소스는 현재 무료로 라이선스 제한 없이 국경을 넘어 다닙니다. 기술 리더들이 초지능이 임박했음을 알리는 시점에서 중요한 것은 소버린AI의 진정한 의미를 공유하고 모델의 DNA에 한국이 어떤 사회로 나아갈지에 대한 비전과 기준의 가치 함수를 만드는 일입니다.
덧붙이는 글 | 임선영씨는 중국 칭화대 전산언어학 석사를 마친 중국경제전문가이며 <중국경제 미래지도>, <중국AI 미래지도>의 저자입니다. 이 글은 본인의 페이스북에도 올렸습니다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
openai의 다른 소식
모든 소식을 불러왔습니다