22시간 전
“2개월이면 기기값 뽑는다”… 델, 에이전틱 AI 온프레미스 경제학 입증 (下)
2026.07.07 06:00
[디지털데일리 김문기기자] 퍼블릭 클라우드 API에 의존하는 ‘토큰당 과금’ 방식이 자율형 AI 에이전트 시대에 심각한 재무적 리스크를 초래할 수 있다는 점은 앞서 1부에서 확인한 바 있다. 그렇다면 기업은 걷잡을 수 없이 치솟는 이 비용의 고삐를 어떻게 쥐어야 할까. 대안은 명확하다. 가장 토큰을 많이 소비하는 주체인 AI 엔지니어와 소프트웨어 개발자의 데스크 환경을 겨냥해, 과금 구조를 임대에서 소유, 즉 고정 인프라 투자로 전환하는 것이다.
에이전틱 AI 워크로드를 로컬 환경에 구축할 때 얻을 수 있는 이점은 크게 세 가지로 요약된다. 먼저 매달 불확실하게 청구되는 토큰 요금 대신 고정된 인프라 자산으로 대체하여 재무 예측 가능성을 확보하는 비용 통제 효과다. 여기에 에이전트가 처리하는 기업 고유의 소스 코드와 지식재산권, 기밀 고객 데이터가 외부 네트워크로 반출되지 않는 강력한 데이터 보안이 보장된다. 마지막으로 클라우드를 왕복하는 네트워크 지연 없이 에이전트 간 실시간 협업과 빠른 판단을 지원하는 압도적인 응답 속도다.
델 테크놀로지스는 이러한 시장의 절실한 요구를 관통하는 엔터프라이즈급 온프레미스 솔루션인 ‘델 데스크사이드 에이전틱 AI(Dell Deskside Agentic AI)’를 제시하며 하이브리드 AI 인프라 시장의 주도권을 쥐고 나섰다.
◆ 책상 위로 내려온 데이터센터, 단계별 하드웨어 라인업
델의 데스크사이드 에이전틱 AI 솔루션은 사용자의 책상 위에서 300억에서 최대 1조 개 매개변수(파라미터) 규모의 메인스트림 거대언어모델을 기반으로 자율 에이전트 워크로드를 안정적으로 실행할 수 있도록 고안됐다. 상시 작동해야 하는 AI 에이전트의 특성에 맞춰 높은 수준의 성능 확장성과 정밀한 방열 구조, 안정적인 전원 공급 능력을 갖춘 것이 특징이다.
기업의 에이전트 활용 단계에 따른 하드웨어 포트폴리오도 촘촘하다. 소규모 프로토타입을 테스트하고 개인 단위로 실험하는 초기 단계에는 300억에서 2000억 파라미터 모델을 지원하는 ‘델 프로 맥스 위드 GB10’ 또는 ‘델 프로 프리시전 타워 9 T2’가 알맞다. 최대 128GB LPDDR5X VRAM을 탑재하고 FP4 기준 1페타플롭스의 AI 연산 성능을 바탕으로 최대 3개의 에이전트를 동시 구동할 수 있는 시스템이다.
초기 검증을 마치고 실제 업무 프로세스에 적용하기 위해 에이전트 개수를 늘리는 확장 단계에서는 성능 중심의 아키텍처가 요구된다. 이때는 ‘델 프로 맥스 위드 GB10’ 기기를 최대 3대 연결하거나 1200억에서 6000억 파라미터 모델을 소화하는 ‘델 프로 프리시전 타워 9 T4’가 투입되어 최대 10개의 자율 에이전트를 안정적으로 제어한다. 주력 거대 모델을 활용해 전문가급 AI를 개발하고 멀티 에이전트의 복잡한 연산을 극대화하는 최상위 운영 단계에서는 1조 개 모델까지 처리하는 ‘델 프로 맥스 위드 GB300’ 혹은 ‘델 프로 프리시전 타워 9 T6’를 통해 최대 20개의 에이전트를 유기적으로 운영하게 된다.
이 중에서도 핵심 제품인 ‘델 프로 맥스 위드 GB300’은 72코어 암(Arm) 기반의 ‘엔비디아 GB300’ 슈퍼칩을 탑재해 시장의 시선을 모으고 있다. 과거 거대한 데이터센터에서만 수행할 수 있었던 엔터프라이즈급 AI 성능을 개인의 사무실 책상 위로 고스란히 이식했기 때문이다. FP4 기준 최대 20에서 30페타플롭스의 압도적인 연산 속도와 748GB 수준의 대용량 코히어런트 메모리를 기반으로 AI 개발팀이 초거대 모델을 로컬 환경에서 자유롭게 미세조정하도록 돕는다. 또한 엔비디아 커넥트X-8 스마트 NIC 기술을 내장하여, 제품 두 대를 직접 연결하는 것만으로 성능과 대역폭을 즉각 두 배로 확장할 수 있는 파괴력을 지녔다.
◆ 안전하고 민첩한 ‘풀스택 소프트웨어’와 엔드포인트 보안의 결합
델의 솔루션이 시장에서 높은 평가를 받는 이유는 단순히 하드웨어의 나열에 그치지 않고, 복잡한 소프트웨어 스택과 보안 체계를 단일 스택으로 완전히 통합해 편의성을 극대화했기 때문이다. 기기 내부에는 AI 에이전트를 안전하게 관리하는 오픈소스 레퍼런스 스택인 ‘엔비디아 네모클로(NVIDIA NemoClaw)’ 플랫폼이 사전 통합돼 탑재된다.
이 소프트웨어 플랫폼 안에서 ‘오픈클로(OpenClaw)’는 다단계 자율 워크플로우를 안정적으로 구동하는 엔진 역할을 하며, 보안 런타임인 ‘엔비디아 오픈쉘(NVIDIA OpenShell)’은 에이전트를 격리된 샌드박스 환경에서 실행하고 엄격한 정책 가드레일을 적용해 프라이버시와 거버넌스를 통제한다. 여기에 장기간 실행되는 에이전트를 오케스트레이션하는 ‘엔비디아 에이전트 툴킷’과, 고품질 추론 및 코딩에 최적화된 개방형 모델 제품군인 ‘엔비디아 네모트론’ 모델들이 유기적으로 결합되어 움직인다.
동시에 델은 장기간 독립적으로 실행되는 자율 에이전트의 보안 허점을 막기 위해 엔드포인트 보호 플랫폼인 ‘크라우드스트라이크 팔콘(CrowdStrike Falcon)’을 시스템 기저에 녹여냈다. BIOS 수준의 가시성을 갖춘 이 시스템은 운영체제 아래 펌웨어 단계에서 발생하는 지능형 위협까지 실시간으로 탐지하고 대응하여, 하드웨어부터 가상 샌드박스 워크로드 전체에 이르는 완벽한 제로 트러스트 보안 환경을 완성했다. 이와 함께 제공되는 델 서비스 전문가들의 4단계 라이프사이클 지원은 기업이 초기 전략 수립부터 실무 도입 및 확장까지 시행착오 없이 안착할 수 있도록 돕는 든든한 버팀목이다.
◆ 재무적 이점, 실증 데이터 증명
기업의 의사결정권자들에게 가장 중요한 기준은 단연 재무적 타당성이다. 조사기관 시그널65가 실제 엔터프라이즈 규모의 에이전틱 AI 워크로드를 주 5일, 24시간 상시 가동하는 조건으로 2년간 시뮬레이션한 결과는 온프레미스 인프라의 경제성을 가시적으로 증명한다. 델의 솔루션을 도입할 경우, 퍼블릭 클라우드 API를 사용하는 방식과 비교해 빠르면 단 2~3개월 만에 초기 인프라 투자 비용을 전액 회수할 수 있는 것으로 분석됐다. 워크로드와 누적 운용 효율에 따른 전체 토큰 비용 절감 폭은 최소 28%에서 최대 90% 이상에 달한다.
업무 복잡도와 성격에 따라 절감 효과를 들여다보면 더욱 극적이다. 이메일 작성이나 문서 요약 같은 비교적 낮은 복잡도의 작업을 처리하며 일일 약 1,330만 토큰을 소모하는 지식 근로자 워크로드의 경우, 델 프로 맥스 GB300 솔루션을 도입하면 클라우드 대비 56%의 비용을 아끼며 2년간 총 17만 4,000달러를 순절감할 수 있다. 대규모 배포를 위해 파워엣지 XE7740 인프라를 활용하면 절감 폭은 최대 94%까지 치솟는다.
중등도 복잡도의 AI 영업 에이전트 워크로드(일일 약 1,630만 토큰 소모) 환경에서는 델 프로 맥스 GB10 도입 시 76%, GB300 도입 시 86%의 비용이 절감되어 2년간 86만 6,000달러의 비용 편익이 발생한다.
가장 난도가 높고 고성능을 요구하는 소프트웨어 개발 지원 워크로드(일일 약 2,130만 토큰 소모)에서는 비용 절감 효과가 정점에 달한다. 델 프로 맥스 GB300 환경에서 87%의 비용을 절감해 2년간 무려 92만 6,000달러의 지출을 방어할 수 있으며, 보다 큰 규모의 개발 기단 기준 하에서 파워엣지 XE7745 시스템을 도입하면 퍼블릭 클라우드 대비 최대 98%라는 압도적인 비용 절감 수치를 기록하게 된다.
◆ ‘델 AI 팩토리’ 비전이 이끄는 무중단 전사 확장
델의 데스크사이드 솔루션이 지닌 진정한 가치는 기업의 핵심 자산인 에이전틱 워크로드를 중앙 데이터센터로 전사 배포하는 과정에서 빛을 발한다. 보안과 성능이 동시에 엄격하게 요구되는 금융권이나 대기업의 소프트웨어 개발 조직을 예로 들 수 있다.
개발자는 먼저 자신의 자리에 배치된 컴팩트한 로컬 GB10 워크스테이션 환경에서 엔비디아 네모트론 기반의 코딩 에이전트를 설계한다. 소스 코드 작성과 테스트, 코드 리뷰를 수행하는 여러 에이전트들이 로컬에서 자율적으로 협업하며 성능을 최적화하는 구조다. 이 과정에서 기업의 독자적인 소스 코드와 비즈니스 로직은 외부 네트워크로 절대 반출되지 않아 철저한 데이터 주권이 유지된다.
책상 위에서 초기 검증을 마친 개발자는 코드 수정 없이 이를 고성능 GB300 인프라로 확대하여 24시간 상시 작동하는 특화 에이전트 팀으로 확장할 수 있다. 클라우드 API 호출에 따른 네트워크 지연이 없어 즉각적인 피드백 주기를 완성하는 장점도 크다.
최종 단계에서 성능이 검증된 에이전트 워크로드는 어떠한 호환성 테스트나 환경 재구성 과정도 거치지 않고 데이터센터의 델 파워엣지 서버로 전사 배포된다. 이는 데스크사이드 솔루션이 델의 전사적 AI 생태계인 ‘델 AI 팩토리(Dell AI Factory)’와 완전히 동일한 아키텍처를 공유하기에 가능한 혁신이다. 개발 장비와 실제 운영 서버 간의 장벽을 완전히 허물어, 인프라 마이그레이션에 소요되는 막대한 시간과 추가 비용을 원천적으로 차단해 준다.
에이전틱 AI의 확산 속에서 불확실한 비용의 늪을 건너기 위해 기업들은 이제 스스로에게 세 가지 질문을 던져야 할 때다. 현재 토큰 수준에서 산출되는 결과당 비용을 재무팀이 명확히 인지하고 있는지, 자체 생성할 수 있음에도 클라우드에서 관성적으로 임대 중인 워크로드는 없는지, 그리고 향후 12개월 이후의 AI 지출을 정밀하게 예측할 수 있는지에 대한 질문이다.
만약 이에 대한 해답이 불투명하다면 지금이 바로 인프라 아키텍처를 재설계해야 할 골든타임이다. 비용의 고삐를 죄고 비즈니스의 독자적인 데이터 주권을 지키는 해답은 이미 기업의 책상 위, 델 데스크사이드 에이전틱 AI 인프라에 구현되어 있다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
OpenClaw의 다른 소식
모든 소식을 불러왔습니다