에너지를 지배하는 자가 AI 경쟁 앞서나간다…새 패러다임 만드는 크루소[최중혁의 월가를 흔드는 기업들-창업가편]
2026.04.03 10:01
AI 인프라 기업 ‘크루소(Crusoe)’ 공동창업자 겸 CEO 체이스 로크밀러 인터뷰
생성형 인공지능(AI) 경쟁의 무게중심이 ‘더 똑똑한 모델’에서 ‘더 큰 인프라’로 옮겨가면서 데이터센터는 더 이상 단순한 서버 창고가 아니다. 수만 개의 그래픽처리장치(GPU)를 묶어 학습과 추론을 수행하려면 전력과 냉각, 고압 설비, 네트워크, 운영 자동화까지 통째로 설계해야 한다. 최근 업계에서 데이터센터 대신 ‘AI 팩토리(AI Factory)’라는 표현이 등장한 것도 이 때문이다. 이 팩토리를 얼마나 빨리, 얼마나 크게, 그리고 얼마나 안정적으로 운영할 수 있느냐가 AI 기업과 빅테크의 생산능력을 좌우한다.AI의 발전은 거대한 에너지 소비를 수반한다. AI 모델의 훈련과 추론에 필요한 연산량이 기하급수적으로 증가하면서 데이터센터의 전력 수요 또한 폭발적으로 늘고 있다. 하이퍼스케일러들의 자본 지출(CapEx)이 2028년까지 6000억 달러에 달할 것으로 전망되는 가운데, 에너지 공급은 AI 산업의 가장 근본적인 병목으로 부상했다. 반도체 부족보다 전력 부족이 AI 확산의 더 큰 제약이 될 수 있다는 경고가 나오는 이유다.
이 위기를 기회로 전환하며 AI 인프라의 새로운 패러다임을 만들어가는 기업이 있다. 바로 ‘에너지 퍼스트’ 전략을 내세우며 급성장하고 있는 크루소(Crusoe)다.
‘AI 팩토리’ 기업, 크루소
크루소는 2018년 체이스 로크밀러와 컬리 캐브니스가 공동 창업한 AI 인프라 기업이다. 본사는 미국 콜로라도주 덴버에 있으며, 샌프란시스코와 이스라엘 텔아비브에도 사무실을 두고 있다. ‘데이터를 옮기는 것이 에너지를 옮기는 것보다 쉽다(It’s easier to move data than to move energy)’는 철학 아래, 풍부한 에너지원이 있는 곳에 데이터센터를 건설하는 수직 통합형 AI 인프라 모델을 구축했다. 스스로를 ‘AI 팩토리 기업(The AI Factory Company)’으로 정의하며, 에너지 소싱부터 AI 최적화 데이터센터 설계·건설, 고성능 AI 클라우드 플랫폼 운영까지 전 과정을 직접 수행한다.
크루소의 출발은 독특했다. 초기에는 유전에서 소각(플레어링)되는 천연가스를 포집해 비트코인 채굴에 활용하는 사업으로 시작했다. 유전 현장에 컨테이너형 모듈 데이터센터를 설치해 버려지는 가스를 전력으로 전환하는 ‘디지털 플레어 미티게이션(Digital Flare Mitigation)’ 기술이 핵심이었다. 이를 통해 54억 입방피트 이상의 천연가스가 소각되는 것을 방지하고, 63만5000메가와트시(MWh) 이상의 전력을 생산하며 환경적 성과도 입증했다. 그러나 로크밀러 최고경영자(CEO)는 일찍이 AI 시대의 폭발적인 컴퓨팅 수요를 예견했다. 초기 투자자들이 “비트코인이 잘 되고 있으니 거기에 집중하라”고 조언했을 때도 AI 인프라로의 전환을 밀어붙였고, 그의 판단은 적중했다.
대부분의 데이터센터 사업자가 에너지, 부동산, 건설, 클라우드를 각각 다른 업체에 의존하는 분절된 구조를 갖고 있는 반면, 크루소는 이를 하나의 기업 안에서 통합했다. 콜로라도주 아바다에 자체 제조시설을 운영하며 핵심 전기 장비를 직접 생산하고, 소프트웨어 측면에서도 2025년 8월 이스라엘 AI 스타트업 아테로를 인수해 GPU 관리 및 메모리 최적화 역량을 강화했다. 이 수직 통합 모델은 업계에서 통상 2~3년 이상 걸리는 대규모 데이터센터 건설 기간을 1년 이내로 단축시킨 원동력이다.
오픈AI 스타게이트 프로젝트의 건설자
크루소가 글로벌 무대에서 주목받게 된 결정적 계기는 오픈AI의 ‘스타게이트(Stargate)’ 프로젝트다. 2025년 1월 도널드 트럼프 미국 대통령이 백악관에서 직접 발표한 스타게이트는 오픈AI, 소프트뱅크, 오라클이 주도하는 최대 5000억 달러 규모의 AI 인프라 합작 사업으로, 역사상 최대의 AI 인프라 프로젝트로 불린다. 크루소는 이 프로젝트의 첫 번째 대규모 캠퍼스인 텍사스주 애빌린 데이터센터의 설계와 건설을 담당했다.
애빌린 캠퍼스는 약 1000에이커(약 400만㎡) 부지에 8개 데이터센터 건물로 구성되며, 총 1.2기가와트(GW) 전력 용량을 갖추도록 설계됐다. 현재 두 건물이 가동 중이며 200메가와트(MW) 이상의 IT 부하를 지원하고 있다. 오라클 클라우드 인프라(OCI)가 시설을 운영하며, 엔비디아 GB200 AI 랙이 투입돼 오픈AI의 모델 훈련을 지원하고 있다. 15년 장기 임대 계약을 통해 최종적으로 45만 개 이상의 GB200 GPU가 배치될 예정이다. 나머지 6개 건물은 올해 완공을 목표로 건설되고 있으며, 매일 7000명 이상의 인력이 투입되고 있다.
크루소의 활약은 애빌린에 그치지 않는다. 3월에는 당초 오라클·오픈AI의 추가 확장과 연결됐던 애빌린 인근 부지에서 마이크로소프트(MS)와 새로운 파트너십을 체결했다. 900MW규모의 전용 발전소와 두 개의 AI 팩토리 건물을 추가로 건설해 애빌린 캠퍼스 전체 용량을 2.1GW로 확대한다. MS) 시설은 2027년 중반 가동을 목표로 하고 있다. 와이오밍주에서도 에너지 인프라 기업 톨그래스와 협력해 1.8GW 규모의 ‘프로젝트 제이드(Project Jade)’를 추진 중이며, 총 투자 규모는 500억 달러 이상으로 예상된다.
폭발적 성장과 글로벌 투자자들의 베팅
크루소의 재무적 성장세는 가파르다. 2023년 매출 약 1억5200만 달러에서 2024년 약 2억7600만 달러, 2025년에는 약 10억 달러에 근접할 것으로 추정된다. 자금 조달 속도도 놀랍다. 2024년 12월 파운더스 펀드(Founders Fund)가 리드한 시리즈 D에서 기업가치 28억 달러로 6억 달러 넘게 조달한 뒤, 불과 10개월 만인 2025년 10월 시리즈 E에서 기업가치가 100억 달러로 3.5배 이상 뛰었다. 여기에 피델리티, 프랭클린 템플턴, 세일즈포스 벤처스 등 글로벌 뮤추얼 펀드들과 엔비디아, 세일즈포스 등 전략적 투자자들이 참여했다. 크루소의 누적 조달액은 약 41억 달러(약 6조2000억 원)에 이르며, 현재 전력 파이프라인은 45GW를 넘어섰다.
크루소 클라우드의 고객사도 빠르게 확대되고 있다. 코딩 AI 기업 커서(Cursor), AI 인프라 플랫폼 투게더AI(Together AI), 실시간 AI 영상 생성 기업 디카트(Decart), AI 추론 플랫폼 파이어웍스(Fireworks) 등이 크루소 클라우드를 활용하고 있다.
AI 전용 클라우드 시장에서 크루소의 경쟁사로는 2025년 IPO를 통해 기업가치 440억 달러를 넘긴 코어위브(CoreWeave), GPU 워크스테이션과 클라우드를 제공하는 람다랩스(Lambda Labs), 야덱스(Yandex)에서 분사한 네비우스(Nebius) 등이 있다.
체이스 로크밀러, 월가 퀀트에서 AI 인프라 CEO로
크루소를 이끄는 체이스 로크밀러 CEO는 매사추세츠공대(MIT)에서 수학과 물리학 학사를, 스탠퍼드대에서 AI 전공 컴퓨터과학 석사 학위를 받았다. 인도의 전력회사 GETCO에서 알고리즘 트레이딩 부문 매니징 디렉터로 미국 주식시장 일일 거래량의 10% 이상을 처리하는 전략을 총괄했고, 점프트레이딩(Jump Trading)에서 퀀트 연구원으로 독자적 트레이딩 전략 포트폴리오를 개발·운용했다. 이후 10억 달러 규모의 블록체인 투자 펀드 폴리체인 캐피탈(Polychain Capital)에서 제너럴 파트너이자 트레이드 실행 총괄을 역임했다. 에베레스트를 포함해 7대륙 최고봉 중 5개를 등정한 산악인이기도 하다.
필자는 올해 1월 29일 로크밀러 CEO와 두 차례에 걸쳐 화상 인터뷰를 했고, 3월 미국 캘리포니아 새너제이에서 열fls 엔비디아의 연례 개발자 회의 ‘GTC 2026’에서 만나 추가 인터뷰를 했다. 퀀트 트레이딩에서 AI 인프라로의 전환, 에너지 퍼스트 전략의 본질, 스타게이트 수주 비화, 하이퍼스케일러 6000억 달러 투자에 대한 현장 시각, 메모리 병목 해결 기술, 우주 데이터센터 구상까지 폭넓은 이야기를 나눴다.
―점프트레이딩, GETCO 등에서 알고리즘 트레이딩 전략을 개발한 경험이 있다. 초고빈도 트레이딩(HFT)에서 체득한 ‘속도(velocity)’와 ‘효율(efficiency)’의 원칙이 오늘날 크루소 경영에 어떻게 적용되고 있나.
“전자 트레이딩과 퀀트 트레이딩 세계에서 핵심적인 원칙들을 배웠다. 첫째, 미해결 문제를 풀기 위해 뛰어난 인재들과 함께하는 것이다. 점프트레이딩과 GETCO에서 정말 뛰어난 동료들과 일하며 배웠다. 둘째, 우리는 딥러닝을 매우 이른 시기에 도입했다. 딥러닝이 대중화되면서 알파 생성과 예측에 점점 더 많이 활용됐고, AI가 금융을 넘어 세상을 변혁할 것이라는 조기 통찰을 얻었다. 컴퓨터 비전과 자연어 처리 분야의 사이드 프로젝트를 진행하며 ‘지능이 모든 곳에 내장돼 인류의 진보를 가속하고 인간의 역량을 극대화할 것’이라는 확신을 갖게 됐다.
마지막으로, 전자 트레이딩은 본질적으로 인프라 게임이다. 시카고 선물거래소(CME)와 뉴욕 증권거래소(NYSE) 사이에서 데이터를 효율적으로 전송하기 위해 전용 광섬유 네트워크, 마이크로웨이브 네트워크, 밀리미터파 네트워크를 구축해 데이터 흐름을 최적화하는 다양한 창의적 방법들이 동원됐다. 정보 흐름의 중요성이 알파 생성에 절대적이었던 것이다. 연구용 데이터센터 구축과 대규모 알파 훈련 경험을 통해 인프라의 중요성을 절감했다. AI 개발의 핵심은 올바른 인프라를 갖추는 것이고, 지금 우리가 목격하는 것은 더 나은, 더 강력하고, 더 똑똑한 모델을 만들기 위한 인프라 군비경쟁이다.”
―2018년 에베레스트를 등정한 직후 크루소를 창업했다. 극한 환경에서 얻은 성찰이 어떻게 ‘에너지X컴퓨팅’의 교차점으로 이어졌나.
“에베레스트 등반은 개인적인 꿈이었다. 콜로라도에서 산을 보며 자랐고, 중학교 선생님의 남편인 에릭 와이엔메이어가 최초로 시각장애인으로서 에베레스트를 등정한 인물이어서 큰 영감을 받았다. 크루소의 핵심 가치 중 하나가 ‘산악인처럼 생각하라(Think Like a Mountaineer)’다. 모든 직원이 등산을 해야 한다는 뜻이 아니라, 산악인의 사고방식을 적용하자는 것이다. 모든 것이 계획대로 될 때를 위한 준비와 동시에 날씨가 변하고, 장비가 고장 나고, 동료가 아프고, 눈사태가 발생할 때를 위한 대비도 해야 한다.
개인적으로 그 여정에서 가장 의미 있던 것은 완전히 ‘오프라인’이 된 시간이었다. 네팔에서 두 달간, 나의 유일한 책임은 세계의 정상에 오르는 것이었다. 새로운 알파를 출시해야 한다거나 사업적 의무가 없는 상태에서 한 발 물러서 깊이 생각할 수 있었다.
계속 되돌아오는 생각은 이것이었다. 딥러닝은 새로운 과학적 발견이 아니었다. 다층 신경망 개념은 수십 년 전부터 있었다. 진정한 돌파구를 만든 것은 모델을 훈련시킬 충분한 데이터와 역전파(Back Propagation)·경사하강법(Gradient Descent)을 실행할 충분한 컴퓨팅 파워가 마침내 갖춰진 것이었다. 더 많은 데이터, 더 많은 컴퓨팅이 AI 혁신을 이끌 두 축이 될 것이라 확신했고, 컴퓨팅 쪽에서 접근하면 궁극적 병목은 에너지가 된다는 결론에 도달했다. 그래서 ‘에너지 퍼스트’ 방식으로 컴퓨팅 인프라를 구축하겠다는 구상에 이르게 됐다.”
―크루소의 장기적 정체성을 어떻게 정의하나. 에너지 최적화 기업인가, 하이퍼스케일 컴퓨팅 인프라 제공자인가, 아니면 기존 기업이 구조적으로 모방할 수 없는 새로운 하이브리드 카테고리인가.
“세상에 진정한 해자는 매우 드물다. 하지만 내가 보기에 가장 복제하기 어려운 것은 속도(speed)와 규모(scale)다. AI 인프라는 완전히 새로운 카테고리의 인프라다. 요구되는 규모는 전례가 없고, 컴퓨팅 유형·네트워킹·데이터센터 설계·냉각 아키텍처까지 모든 것이 근본적으로 새롭다. 우리는 이 새로운 카테고리에서 속도와 스케일로 선도자(trailblazer)가 되려 한다. 그리고 더 빨리 움직이고 운명을 통제하기 위해 수직 통합(vertically integrated)을 택했다.”
속도와 실행력, 크루소의 무기
―크루소는 전기 장비 제조업체 이스터-오웬스(Easter-Owens)를 인수해 크루소 인더스트리즈(Crusoe Industries)를 설립했다. 고전압 전기 장비 공급 병목으로 업계 전반에 3~5년의 지연이 발생하는 상황에서, 자체 제조 역량이 애빌린 프로젝트 일정에 어떤 영향을 미쳤나.
“구체적인 예를 들겠다. 대규모 AI 팩토리의 공급망은 매우 복잡하고, 어디서 병목이 발생할지 예측하기 어렵다. 애빌린에서 우리가 해결한 사례가 있는데, 중전압 전력 분배 센터(Power Distribution Center)가 그것이다. 이 장비는 중전압 전력을 받아 다수의 저전압 변압기로 분배하는 역할을 한다. 34.5kV를 480V 또는 415V로 변환하는 것인데, 모든 공급업체에 문의한 결과 납기가 100주, 즉 거의 2년이라는 답변을 받았다.
하지만 우리가 직접 만들 수 있는지 검토했더니, 처음에는 28주, 지금은 20주 이내로 납품할 수 있게 됐다. 자체 제조 역량 덕분에 2년짜리 일정을 단 몇 개월로 단축시킨 것이다. 이것이 바로 애빌린에서 우리가 속도와 규모를 달성할 수 있었던 핵심 요인 중 하나다.”
크루소는 콜로라도주 아바다(Arvada)에 자체 제조 시설을 운영하며, 데이터센터 건설에 필요한 핵심 전기 장비를 직접 생산한다. 업계 전반의 공급망 병목을 우회하는 이 수직 통합 전략이 크루소의 속도 경쟁력의 원천이다.
―반도체와 고전압 전력 장비 양쪽 모두에서 병목이 발생하고 있다. 이런 제약을 기술이 해결할 일시적 성장통으로 보나, 아니면 AI의 글로벌 확산을 궁극적으로 제한할 구조적 한계로 보나.
“두 가지 모두일 수 있다. 지난 몇 년간 가장 복잡했던 것은 사실 ‘변화의 속도’ 자체다. 미국에서 전력 용량은 사실상 정체 상태였는데, AI 인프라로 인해 수요가 계단식으로 급증했다. 이런 급격한 수요 변동은 공급 측에 엄청난 도전을 안긴다. 고전압 변압기, 발전 장비, 중·저전압 전기 스택, 실리콘 생태계 등 여러 공급망에 동시에 영향을 미치기 때문이다.
중·저전압 전기 스택은 비교적 빨리 따라잡았다고 본다. 실리콘 생태계도 결국 따라잡겠지만, 5억 달러짜리 극자외선(EUV) 장비 구매와 새로운 팹 용량 확보에는 상당한 시간이 필요하다. 미국에서 가장 큰 병목 중 하나는 고전압 송전이다. 전력망에서 전력을 이동시키려면 장비뿐만 아니라 용지 확보(right-of-way), 인허가까지 필요하고, 규제 환경에 따라 훨씬 더 오래 걸릴 수 있다. 이것이 크루소를 포함한 많은 사업자가 비하인드-더-미터(behind-the-meter) 또는 온사이트 발전 모델로 전환하는 이유다. 발전소를 데이터센터에 직접 병설해 필요한 전력 대부분을 자체 확보하는 방식이다.”
―일반적으로 대규모 데이터센터 건설에 2~3년 이상 소요되지만, 크루소는 1년 안에 첫 건물에 전력을 공급했다. 이 속도를 가능케 한 핵심 요인은 무엇인가.
“몇 가지가 있다. 첫째, 건설 공정 자체를 재설계했다. 전통적인 건설은 직렬 방식이다. 한 공종이 끝나면 다음 공종을 시작하고, 또 기다린다. 우리는 모든 시공 프로세스를 병렬화했다. 자체 장비 제조, 현장 내 시멘트 배치 플랜트 운영, 새벽 2시에 콘크리트를 타설해 밤사이 양생시키면서 낮에는 다른 작업을 진행하는 식이었다. 전기, 기계, 배관이 모두 동시에 진행됐다.
또한 설계와 엔지니어링을 더 모듈화했다. 개별 빌딩 블록을 통제된 제조 환경, 즉 별도의 공장에서 제작한 뒤 현장으로 운송하고, 반완성 상태의 컴포넌트들을 마치 이케아(IKEA) 가구처럼 조립하는 방식이다. 이 모든 것의 조합이 우리의 속도와 규모를 가능하게 했다.”
―오픈AI, 소프트뱅크, 오라클 등이 참여하는 스타게이트 프로젝트에서 크루소의 역할은 무엇이며, 선정 과정에서 어떻게 차별화했나.
“용량 확보를 위한 입찰 과정이 있었다. 가장 큰 차별화 요인은 ‘시장 출시 속도(Time to Market)’였다. 원래 32개 기업이 참여했는데, 가장 빠른 경쟁사가 2년 반이었고, 나머지는 2년 반에서 5년까지 걸린다고 했다. 우리는 1년 안에 가능하다고 제안했고, 실제로 11개월 만에 납품했다. 시장 출시 속도가 결정적 차별화 포인트였다.”
32개 경쟁사 중 가장 빠른 곳이 2년 반을 제시한 입찰에서, 크루소는 1년을 약속하고 11개월 만에 실현했다. 이는 크루소의 수직 통합 모델과 병렬 건설 공법, 자체 제조 역량이 만들어낸 결과다.
에너지 퍼스트 모델과 기술 차별화
―‘에너지보다 데이터를 옮기는 것이 쉽다’는 명제가 크루소 비즈니스 모델의 핵심이다. 그러나 지연 시간에 민감한 AI 추론의 경우, 데이터센터 위치가 중요할 수 있다. 추론 중심 시대에도 ‘에너지-퍼스트’ 모델이 유효한가.
“좋은 질문이다. 추론 워크로드에 따라 다르다. 복잡한 추론 작업, 에이전틱 워크플로우, 체인 오브 소트(Chain of Thought) 추론 모델, 테스트 타임 컴퓨트 스케일링처럼 모델이 결과를 생각하고 피드백하는 경우에는 컴퓨팅이 어디에 있든 상관없다. 데이터센터까지의 지연 시간은 실제 연산 시간에 비하면 무의미하기 때문이다.
반면 낮은 지연 시간의 피드백 루프가 필요한 추론 워크로드도 많다. 이를 위해 크루소는 ‘크루소 스파크(Crusoe Spark)’라는 제품을 개발했다. 완전 자립형 모듈식 소규모 AI 팩토리로, 500kW에서 1MW 규모의 유닛을 어디든 신속하게 배치할 수 있다. 예를 들어 공장 안에서 자율 로봇들이 대량의 추론 컴퓨팅을 필요로 하는 경우, 공장 옆에 소형 모듈식 AI 데이터센터를 설치해 전 세계 어디서든 빠르고 비용 효율적으로 추론 컴퓨팅을 제공할 수 있다.”
―애빌린 프로젝트는 풍력·태양광이 풍부한 그리드에 연결되어 있으면서 가스 발전을 백업으로 유지한다. 크루소가 구상하는 장기적 이상 에너지 믹스는 무엇이며, 원자력 에너지 계획은 있나.
“크루소는 다양한 에너지원을 포괄하는 접근법을 취한다. 현재 작동하는 솔루션이 있고, 미래를 위해 준비하는 솔루션이 있다. 우리의 역할은 새로운 에너지 생산을 촉진해 에너지 생산의 궤적을 지속가능성 쪽으로 ‘구부리는(bend the arc)’데 기여하는 것이다. 그 중심에 원자력이 있다.
현재는 가스, 태양광, 풍력, 배터리, 유틸리티와 협력하고 있고, 새로운 가스 발전원도 도입 중이다. 최근 초음속 항공기 기업 붐 슈퍼소닉(Boom Supersonic)과 파트너십을 체결해 그들이 초음속 제트 엔진에 적용한 기술을 활용해 새로운 가스 터빈을 개발하고, 12억 달러 규모의 계약을 발표했다.
원자력 분야에서는 수중 소형 모듈원자로(SMR)를 개발하는 블루 에너지와 AI 데이터센터를, 또 다른 SMR 기업 알로(Alo)와도 원전 기반 AI 데이터센터를 발표했다. 퍼보(Fervo)의 차세대 지열 에너지도 주목한다. 셰일 가스 개발에서 발전한 수압파쇄(프래킹) 기술을 지열에 적용한 것이다. 웨스팅하우스의 신규 AP1000 원자로도 기대된다. 우리 철학은 단일 에너지 솔루션이라는 ‘은탄환(Silver Bullet)’은 없다는 것이다. 풍력, 태양광, 배터리, 가스, 석탄, SMR, 핵분열, 핵융합, 차세대 지열까지 모든 것이 필요하다.”
―전통적인 랙당 2~4kW에서 엔비디아 블랙웰 시대에는 100kW 이상으로 전력 밀도가 급증하고 있다. 크루소는 이 변화에 어떤 차세대 냉각 솔루션을 개발하고 있나.
“대부분의 고밀도 GPU 아키텍처는 DLC(Direct Liquid to Chip·칩 직접 액체 냉각)로 전환하고 있다. 물은 공기보다 열전도성이 훨씬 높다. 전통적으로는 알루미늄 히트싱크를 칩에 부착하고 공기를 불어 냉각했지만, DLC는 칩의 열을 구리를 거쳐 물로 직접 배출한다. 이 방식이 훨씬 효율적이다.
엔비디아의 차세대 하드웨어인 베라 루빈(Vera Rubin)은 블랙웰보다 더 높은 전력 밀도를 가질 것이고, 베라 루빈 울트라(Vera Rubin Ultra)는 랙당 약 600kW, 심지어 1MW에 달할 수 있다는 이야기가 있다. 단일 데이터센터 랙에 1MW라는 것은 약 1000가구가 사용하는 전력에 해당한다. 우리는 바로 이 수준을 준비하고 있다.
장기적으로는 이머전 쿨링(Immersion Cooling)으로 전환할 가능성도 있다. 비전도성 유전체 액체를 칩 위에 흘려보내 열을 배출하는 방식인데, 물보다 열전도성이 높다. 단상(Single-Phase)과 이상(Two-Phase) 냉각이 있고, 이상 냉각은 칩과 액체 접촉면에서 액체가 끓으면서 열을 더 빠르게 배출한다. 다만 밀폐성과 온실가스 배출 측면에서 과제가 있다. 현재 사용되는 플루오로카본 계열 액체의 온실가스 발자국이 상당히 크기 때문이다. 하지만 점점 더 밀도가 높아지는 컴퓨팅 아키텍처의 냉각 솔루션 분야에서 흥미로운 발전들이 진행 중이다.”
인터뷰 이후인 2026년 3월 엔비디아가 공식 발표한 베라 루빈 NVL72는 냉각 팬을 완전히 제거하고 100% 액체냉각 설계를 채택했다. 2027년 하반기 출시 예정인 루빈 울트라 카이버(Kyber) 랙은 랙당 600kW로 확정돼 로크밀러 CEO의 예측과 동일했다.
AI 팩토리 시대의 경쟁 지형
―역사적으로 빅테크는 높은 마진의 소프트웨어 중심 사업을 운영했지만, AI 경쟁은 자본 집약적 산업으로 전환되고 있다. 크루소를 ‘데이터센터’가 아닌 ‘AI 팩토리’로 정의하는 것은 이 ‘테크 산업의 산업화’를 명시적으로 인정하는 것인가. 이 구조적 변화가 빅테크의 장기 마진 구조에 어떤 영향을 미칠까.
“스택의 각 레이어가 서로 다른 마진 프로필을 가질 것이다. 데이터센터, 관리형 IaaS(Infrastructure as a Service), 그리고 관리형 추론 제품 같은 서비스까지. 우리는 스택의 각 레이어에 기술 투자를 함으로써 생태계 전반에 걸쳐 마진을 ‘복리(compound)’로 쌓을 수 있다고 본다. 상승 시나리오에서는 마진 확장을, 경쟁이 치열해지면 여러 레이어의 마진을 유연하게 활용해 안정적인 현금흐름을 만들 수 있다.”
―하이퍼스케일러 자본 지출(CapEx)이 2028년까지 6000억 달러에 달할 전망이다. 시장 과열 우려가 나오는데, 이 투자가 실질적 비즈니스 가치에 기반한 것인지 어떻게 평가하나. 최전선에서 보이는 실수요 지표는 무엇인가.
“최전선에서 보이는 가장 명확한 성장 지표는 오픈AI와 앤트로픽 같은 순수 AI 기업들의 매출 수치다. 놀라운 제품 개발 속도(product velocity)가 펼쳐지고 있다. 앤트로픽의 사례를 들면, 가장 성공적인 엔터프라이즈 제품 중 하나인 클로드 코드(Claude Code)는 코딩 어시스턴트이자 코드 생성 도구다. 앤트로픽 팀은 이 클로드 코드를 사용해 ‘클로드 코워크(Claude Cowork)’라는 새로운 제품을 만들었는데, 엔지니어 팀이 만들면 1년은 걸렸을 제품을 10일 만에 완성했다.
이런 제품 속도의 근본적 변화는 기술 분야에만 국한되지 않는다. 신약 발견, 의료 치료, CNC 프로그래밍, 제조 시설까지, 모든 영역이 새로운 AI 워크플로우로 근본적으로 변화하고 가속될 것이다. 그래서 6000억 달러 투자가 우려된다고 전혀 생각하지 않는다. AI는 100조 달러 규모의 노동 경제를 혁신하고 있다. 이것이 내가 바라보는 메가 기회이며, AI 팩토리가 만들어내는 디지털 노동력의 핵심이다.“
―자본이 제약이 아니라고 가정할 때, 자금력 있는 하이퍼스케일러나 에너지 메이저가 크루소 모델에서 가장 모방하기 어려운 부분은 무엇인가.
“속도와 규모를 동시에 달성하는 것이 가장 어렵다. 기가와트 규모에서 무언가를 하는 것은 단순히 처음이다. 세계 최대 기업들조차 이전 세대 웹 애플리케이션용 클라우드 데이터센터를 구축한 경험은 있지만, AI를 위한 기가와트 규모 인프라는 완전히 다른 제품이다. 그 규모에서 속도까지 갖추고, 고성능 네트워킹 패브릭으로 클러스터를 상호 연결하며, 고객에게 전달하는 것은 정말 도전적인 일이다.”
―코어위브(CoreWeave), 람다랩스(Lambda Labs) 등 경쟁사가 성장하는 AI 전용 클라우드 시장에서, 크루소 클라우드의 핵심 차별화 전략은 무엇인가. 가격 경쟁을 넘어 근본적 경쟁우위는 어디에 있나.
“하나의 요소가 아니라 모든 것이 함께 작동하는 것이 근본적 경쟁우위다. 물리적 인프라에서의 우위가 첫째다. 다음은 클러스터 관리, 관측 스택(Observability Stack), 하드웨어나 장비 문제를 고객이 인지하기 전에 선제적으로 해결하는 예방적 유지보수 역량과 같은 소프트웨어 생태계 이점이다. 핵심은 고객이 하드웨어 이슈를 느끼기 전에 높은 안정성으로 인프라를 제공하는 것이 매우 중요하다.
그리고 플랫폼 고유의 서비스가 있다. 우리는 관리형 추론(Managed Inference)에 크게 투자했다. 동일한 하드웨어로 경쟁 제품보다 더 많은 토큰을 초당 생산할 수 있는데, 이는 소프트웨어 생태계 전반에 걸친 대규모 최적화와 ‘크루소 메모리 앨로이(Crusoe Memory Alloy)’ 기술 덕분이다. 메모리 앨로이를 통해 동일한 칩 풋프린트에서 더 많은 지능을 추출할 수 있고, 이는 같은 GPU 투자로 더 가치 있는 제품과 토큰을 생산한다는 뜻이다. 이것이 우리의 거대한 경쟁적 해자다.“
메모리 병목 해결과 우주 데이터센터
―에너지보다 메모리 공급, 특히 HBM과 대역폭이 GPU 클러스터 확장의 진정한 병목일 수 있다는 시각이 있다. HBM 가격 급등이 크루소의 서버 랙 비용과 총소유비용(TCO) 구조에 어떤 영향을 미치고 있나.
“바로 이것이 우리가 메모리 앨로이(Memory Alloy) 기술에 투자한 이유다. 메모리 앨로이는 HBM에서 이용 가능한 메모리만으로는 넘을 수 없는 ‘메모리 벽(Memory Wall)’을 극복하는 기술적 솔루션이다. 모델의 핵심 데이터를 저장하는 KV 캐시(Key-Value Cache)를 독자적인 샤딩 메커니즘을 통해 HBM, DRAM, NVMe, 오브젝트 스토리지 등 여러 계층의 메모리에 분산 배치한다.
이렇게 서로 다른 비용 구조를 가진 메모리 계층을 통합된 하나의 메모리 앨로이로 엮어 정보를 가속화된 방식으로 분산시킨다. 모든 부담을 가장 비싼 HBM에만 집중시키지 않는 것이다. 이 기술은 메모리 병목이라는 핵심 과제를 해결하는 동시에, 동일 하드웨어에서 추론 성능을 극대화하는 우리의 경쟁력의 원천이 되고 있다.”
KV 캐시(Key-Value Cache)= AI 모델이 추론 시 이전에 처리한 토큰의 정보를 저장해 반복 연산을 줄이는 메모리 구조. 모델 크기와 컨텍스트 길이가 커질수록 KV 캐시의 메모리 요구량이 급격히 증가해 추론 비용의 핵심 병목이 된다.
“우주에서 데이터센터를 운영하는 것에는 매력적인 측면이 있다. 첫째, 매우 저렴한 태양광 전력을 확보할 수 있다. 대기 간섭이 없고, 태양광 패널이 궤도에서 지구와 함께 회전하면서 24시간 저비용 태양광을 생산할 수 있다. 운영비(OPEX) 절감에 크게 기여한다. 토지 소유자가 없어 토지 확보가 불필요하고, 대형 구조물이나 시멘트 기초도 필요 없다.
물론 고유한 도전도 있다. 사람을 보내기 어렵고, 발사 비용이 있다. 냉각은 사실 더 복잡한데, 우주는 진공이라서 대류 냉각이 불가능하고 복사 냉각(Radiative Cooling)으로 열을 방출해야 한다. 대규모 AI 데이터센터에 필요한 수준의 복사 냉각 기술에는 아직 발전이 필요하다. 현장 운영도 과제다. GPU가 고장 나면 지상에서는 엔비디아에 보내 수리하지만, 우주에서는 불가능하다. 물리적 하드웨어의 완전 자율 로봇 유지보수가 필요하다.
현재로서는 기술적 한계가 있지만, 많은 혁신가들이 그 격차를 메우기 위해 투자하고 있다. 발사 비용의 향후 추이도 핵심 변수다. 우리는 스타클라우드와 파트너십을 통해 소규모 초기 배치를 진행 중인데, 이는 지상 워크로드를 우주로 옮기는 것이 아니라 현지 우주 경제를 지원하는 데 초점을 맞추고 있다.”
성공의 척도, ‘활성화된 메가와트’
―10년 후 ‘성공한 크루소’를 측정하는 단 하나의 지표를 꼽는다면 무엇인가.
“주주 입장에서는 잉여현금흐름(Free Cash Flow)이라고 답하겠다. 하지만 사업 목표로는 ‘활성화된 메가와트’다. 우리는 본질적으로 지능을 위해 메가와트를 활성화하는 사업을 한다. 에너지와 전자를 토큰과 지능의 단위로 변환해 궁극적으로 경제를 구동시키는 것이다. 사업 성장의 핵심 지표는 활성화된 메가와트이고, 재무적 투자자 관점에서는 잉여현금흐름이다. 메가와트가 이렇게 올라가면 잉여현금흐름도 이렇게 따라온다. (손으로 상승 곡선을 그리며)”
최중혁 팔로알토캐피탈 대표
필자(최중혁)는 미국 미시간대 경영학석사(MBA) 학위를 받은 뒤 삼성SDI America, SK Global Development Advisors 등을 거쳐 미 실리콘밸리 소재의 사모펀드 팔로알토캐피탈(Palo Alto Capital)을 설립해 운용하고 있다. ‘트렌드를 알면 지금 사야 할 미국 주식이 보인다’ ‘2025-2027 앞으로 3년 미국 주식 트렌드’ 등의 저자다.
필자(최중혁)는 미국 미시간대 경영학석사(MBA) 학위를 받은 뒤 삼성SDI America, SK Global Development Advisors 등을 거쳐 미 실리콘밸리 소재의 사모펀드 팔로알토캐피탈(Palo Alto Capital)을 설립해 운용하고 있다. ‘트렌드를 알면 지금 사야 할 미국 주식이 보인다’ ‘2025-2027 앞으로 3년 미국 주식 트렌드’ 등의 저자다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
날씨의 다른 소식
모든 소식을 불러왔습니다