PCAView

하루가 멀다하고 쏟아지는 AI 관련 기술·정책과 기업의 전략을 쉽게 풀어드립니다.

오픈AI가 첫 자체 개발 인공지능(AI) 칩인 할라페뇨를 공개했다. 할라페뇨는 추론에 특화된 AI 칩으로 오픈AI는 기존 AI 칩과 비교해 경제성을 갖춘 점이 강점이다. 이로써 오픈AI는 구글, 메타 등 글로벌 빅테크 기업들이 주도해 온 자체 AI 반도체 개발 경쟁에 합류한다.

오픈 AI '할라페뇨' 추론 특화

오픈 AI는 27일(현지시간) 미국 반도체 설계 기업 브로드컴과 손잡고 개발한 AI 추론 특화 칩 할라페뇨를 공개했다고 밝혔다. 오픈 AI는 올해 말부터 자체 데이터센터에 할라페뇨를 배치할 계획이다.

할라페뇨의 구체적인 성능은 공개되지 않았지만 초기 시험 결과 현재 최첨단 기술과 비교했을 때 단위 전력(W)당 성능이 더 우수하다. 같은 성능을 내는데 더 적은 양의 전력이 소비된다는 의미다.

오픈AI가 자체 칩을 개발하고 나선 것은 AI 서비스의 경제성을 높이기 위해서다. 사전 학습과 같이 대규모의 반복적 연산이 필요한 작업에는 기존처럼 엔비디아의 그래픽처리장치(GPU)를 활용하더라도 서비스 운영 단계인 추론에 들어가는 비용만 효율화해도 수익성을 크게 개선할 수 있다.

기업공개(IPO)를 앞둔 오픈AI로서는 막대한 인프라 비용을 회수할 수익 모델 마련과 비용 절감이 시급하다.

구글, TPU로 사업 확장

이처럼 AI 인프라를 빠르게 확장 중인 빅테크들은 비용 절감을 위해 앞다투어 자체 칩 개발에 속도를 내고 있다. 그중 가장 앞서 나가는 곳은 구글이다.

구글은 막대한 자금력과 수년간 축적한 기술력을 바탕으로 자체 AI 칩인 TPU(텐서 프로세싱 유닛) 사업을 확대하며 엔비디아에 대응하고 있다.

과거 TPU를 자사 내부 서비스용으로만 제한해 사용하던 구글은 최근 외부 고객에게도 칩을 개방하며 클라우드 사업 영토를 넓히고 있다.

AI 추론 전용 칩의 시초 격인 구글 TPU는 최근 구글의 최신 AI 모델 '제미나이 3' 시리즈 학습에 활용되며 주목을 받았다. 구글은 올해 4월 학습 전용 TPU와 추론 전용 TPU를 분리 출시해 AI 운용 효율성을 극대화했다. 더불어 구글 클라우드를 통하지 않더라도 다른 기업들이 TPU를 단독으로 구매해 사용할 수 있도록 판매 전략을 변경한다.

현재 구글이 설계 중인 차세대 10세대 TPU는 코드명 '아이스피쉬(Icefish)'라고 불리며 업계의 기대를 모으고 있다. 구글은 연산 기능을 담당하는 컴퓨팅 엔진 부분은 반도체 위탁 생산 기업인 TSMC의 차세대 로드맵 노드인 1.4나노미터(nm) 공정에 맡길 계획이다. 반면 AI 반도체의 성능 병목 현상을 해결할 핵심 부품인 '메모리 입출력(I/O) 다이' 생산은 삼성전자에 위탁하는 방안을 유력하게 검토하고 있는 것으로 알려졌다.

메타, MTIA 시리즈 순차 공개한다

메타 역시 AI 인프라 고도화와 엔비디아 등 외부 반도체 기업에 대한 의존도를 낮추기 위해 자체 칩 개발에 속도를 내고 있다. 메타는 AI 추론용 맞춤형 'MTIA' 칩을 개발 중이며 1700W급 고성능 슈퍼칩도 준비하고 있다.

현재 메타가 운용 중인 MTIA 칩은 30페타플롭스(PFLOPs) 수준의 연산 성능과 512기가바이트(GB) 고대역폭 메모리(HBM)를 갖췄다. 이 칩은 페이스북, 인스타그램 등 메타 앱 전반에서 추천 시스템과 광고 서빙 등 다양한 AI 추론 작업을 처리하는 데 활용된다.

메타는 범용 AI 칩 대신 특정 업무에 최적화한 반도체를 직접 설계해 연산 효율과 비용 효율을 동시에 달성하겠다는 전략이다. 메타는 이미 수십만 개의 MTIA 칩을 자체 데이터센터에 배치해 범용 하드웨어보다 높은 효율을 거두고 있다.

메타는 향후 2년간 4세대 칩인 MTIA 300·400·450·500을 순차 선보이며 개발 속도를 끌어올릴 계획이다. MTIA 300은 이미 추천 시스템에 적용됐고 MTIA 400은 생성형 AI 추론용으로 설계됐다. MTIA 450과 500은 기존 랙 인프라에 보다 쉽게 통합할 수 있도록 개발되고 있다.

MTIA 450과 500은 대규모 AI 모델 학습보다는 추론 작업에 초점이 맞춰져 있으나 향후 추천 시스템 학습과 생성형 AI 훈련에도 일부 활용될 수 있다.

VIEW

[AI is]오픈 AI, 자체 AI 칩 '할라페뇨'로 구글·메타와 경쟁

댓글 (0)

경제의 다른 소식

동남아 진출 원하지만…'정보 부족'에 발목 잡힌 K핀테크

신선달걀 2억개 또 수입…정부, 7월 미국·태국서 들여와

사무관은 ‘열정페이’ 서기관은 ‘공짜노동’ [노동 사각지대]②

호기심에 시작해 5천만원을 걸었다…청소년기 사이버도박의 덫

마이너스통장 인공지능 만들어 수천억 줍줍, 월가도 놀랐다

물가 두 달 연속 3% 넘을 듯…OECD가 보는 韓 경제는 [한동훈의 위클리전망대]

중동전쟁 충격서 생산·소비·물가 방향성은[재경부·기획처 주간예보]

IMF 수석 "전략비축유 고갈…미·이란 휴전 깨지면 세계 경제 위기"

이 대통령 ‘코어지지층’ 다독이기, 당권경쟁 영향은? [논썰]

[다음주 경제] 중동전쟁 생산·소비·투자·물가 남은 영향은…국세수입도 주목