12시간 전
한국 찾은 오픈AI 부사장 “한국 메모리 반도체, 더 중요해질 것”
2026.07.03 16:25
노엄 브라운 오픈AI 리서치 부사장
AI 모델 추론 시간 길어져
메모리 수요도 덩달아 증가
“추론 비용 투자 가치 충분”
AI 모델 추론 시간 길어져
메모리 수요도 덩달아 증가
“추론 비용 투자 가치 충분”
브라운 부사장은 3일 서울에서 열린 ‘글로벌 AI 프론티어 심포지엄 2026’에서 향후 AI 산업에서 한국의 역할을 강조했다. 최근 메모리 수요가 꺾일 거라는 우려가 일각에서 나오지만, AI 연구의 선구자이자 오픈AI의 연구개발을 이끄는 브라운 부사장은 반도체 피크 아웃론을 부정했다.
브라운 부사장은 “지금까지 AI가 이토록 발전한 건 알고리즘뿐 아니라 반도체 같은 인프라가 뒷받침했기 때문”이라며 “앞으로도 인프라의 중요성은 이어질 것”이라고 했다. 그는 “AI가 나아갈 방향에서 반도체는 지속적인 병목이 될 거고, 많은 경쟁력이 하드웨어에서 결정될 것”이라고 내다봤다.
또한 “한국은 하드웨어 분야에서 놀라운 성과를 내고 있는 글로벌 리더”라며 “현재 AI 산업에서 매우 훌륭한 위치를 구축하고 있다”고 한국을 치켜세웠다. 메모리 수요에 대한 확신은 오픈AI의 개발 전략에서 비롯된 것이다. 오픈AI는 메모리 등 반도체 수요가 큰 AI 모델 개발에 집중하고 있다.
브라운 부사장은 이날 기조강연에서 “앞으로 AI는 더 오래 생각하고 정확한 답을 내는 방향으로 발전할 것”이라고 강조했다. AI가 오래 생각할수록 내부 데이터는 많아지고, 메모리 반도체 수요는 가파르게 상승한다.
최근 구글과 오픈AI 등 빅테크는 AI 모델의 추론 시간을 늘리는 방향으로 개발을 진행 중이다. AI의 추론 시간이 길어질수록 깊이 있는 답변이 나오는 ‘추론 시간 스케일링 법칙’ 때문이다. 추론 시간이 길어진다는 건, AI가 자체적으로 답변을 여러 번 검증하고 다시 질문하는 과정을 거친다는 뜻이다.
구글이 지난 2월 발표한 연구에 따르면, 추론 시간이 늘어날수록 AI 답변의 품질은 더디지만 조금씩 좋아졌다. 예를 들어 같은 1분을 쓰더라도 초기 1분 동안은 품질이 빠르게 좋아지지만, 나중의 1분 동안에는 품질이 조금만 좋아진다. 가성비는 나쁘지만 빅테크는 조금이라도 좋은 답변을 얻을 수 있는 AI 모델에 집중하고 있다.
이는 AI가 모든 분야에 확산되기 위해서는 정확한 추론이 뒷받침되어야 하기 때문이다. 유명 인사의 생일을 묻는 정도의 단순한 자료 검색은 수 초의 추론으로도 가능하지만, 수학 문제를 풀거나 의학 같은 전문적 판단을 내리기 위해서는 수 시간 이상의 추론이 필요하다.
지난해 오픈AI의 모델이 국제수학올림피아드에서 금메달 수준의 성적을 거뒀는데, 브라운 부사장은 “AI 모델이 몇 시간 동안 추론해서 나온 결과”라고 밝혔다. 수학은 추론 과정이 완벽해야 하기 때문에, 추론의 정확도를 보여줄 수 있는 대표적인 분야다. 그는 “앞으로는 몇 개월 동안 추론하는 AI 모델도 필요할 것”이라고 했다.
AI 모델이 양극화된다는 뜻이기도 하다. 중국의 딥시크처럼 가성비를 중시하는 모델이 있는가 하면, 다른 한 편에서는 가성비를 일부 포기하더라도 수많은 시간과 토큰 비용을 들여 뛰어난 답을 내놓는 프론티어 모델이 있는 것이다. 브라운 부사장은 “앞으로 AI 모델은 벤치마크 성능을 하나로만 표현하지 말고, 토큰 비용과 시간을 고려해 평가되어야 할 것”이라고 했다.
이러한 프론티어 모델의 메모리 수요는 급격하게 늘어날 것으로 보인다. 지금까지 AI 모델은 데이터를 학습하는 데 메모리를 사용했지만, 오랜 추론을 거치는 프론티어 모델은 학습은 물론 추론 자체에도 메모리를 사용하기 때문이다. 지금까지는 많은 메모리 반도체로 많은 데이터를 학습하는 게 경쟁력이었다면, 앞으로는 추론에 필요할 때도 메모리 반도체를 활용할 수 있어야 한다.
미국 델 연구진의 최근 연구에 따르면, 추론 길이와 캐시 메모리는 선형적으로 증가한다. 캐시 메모리를 저장하는 메모리 반도체 수요도 함께 증가할 수밖에 없다. 답변을 발전시키려면 점점 더 많은 시간과 토큰 비용이 필요하기 때문에, 메모리 수요 역시 점점 더 커진다.
브라운 부사장은 “앞으로 AI 모델은 신약 개발, 과학적 발견 등에 활용될 것이고, 이런 문제는 막대한 추론 비용을 투자할 가치가 있다”고 했다. 그는 “인간이 지금까지 발전한 건 협력의 힘인데, 아직 AI 모델끼리의 협력은 시작조차 하지 않았다”며 “추론 능력이 뛰어난 AI 에이전트가 협력하면 훨씬 더 많은 성취가 생길 것”이라고 낙관했다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
금 수요의 다른 소식
모든 소식을 불러왔습니다