[박준성의 SW] AI 에이전트 허와 실
2026.04.21 08:39
이런 점에서 당시의 분위기는 오늘날 생성형(Generative) AI에 대한 기대와 유사한 측면이 있다. 그러나 1980년대 후반부터 Expert system에 대한 과잉 기대가 조정되면서 시장이 급격히 위축됐고, 관련 전문기업들이 어려움을 겪거나 도산하는 사례가 늘었다. 이러한 흐름 속에서 1980년대 후반부터 1990년대 초반까지 이른바 AI 겨울(AI Winter)이 도래했다.
이런 현상은 최근 금융기관들이 우려하는 AI 버블(AI Bubble)과 유사한 측면이 있다. 그러나 현재의 상황은 당시와 달리 실제 기술적 진전과 산업적 수요가 뒷받침되고 있다는 점에서, AI Winter보다는 2000년대 초의 닷 컴 버블(Dot-Com Bubble)에 더 유사한 측면이 있다. 즉, 향후 일정 기간 동안 주가 조정과 일부 기업의 도산이 발생할 가능성은 있으나, 이후에는 실수요와 빅테크 기업 중심의 시장 재편을 기반으로 점진적인 안정화 국면에 진입할 가능성도 있다.
1990년대 중반 이후 AI를 이용해 구조적 데이터 내에 숨겨진 패턴을 추출해 기업 의사결정에 활용하는 데이터 마이닝(Data Mining)이 확산됐다. 예컨대 월마트(Walmart) 같은 대형 유통업체들은 POS(Point of Sale) 거래 데이터를 대규모 데이터 웨어하우스에 저장하고, 군집분석(Cluster Analysis) 등의 기계학습 기법을 적용해 고객의 구매 패턴을 분석했다. 당시 맥주와 기저귀를 함께 구매하는 패턴을 발견하고, 그 둘을 인접시켜 진열했다는 사례가 널리 알려져 있다.
2010년대에 들어서는 빅데이터와 딥러닝(Deep Learning)이 결합된 Big Data Analytics가 대규모 데이터 분석을 기반으로 한 예측을 가능하게 했다. 구글, 아마존, 메타, 알리바바 등 빅테크 기업들은 분석형(Analytical) AI와 최적화(Operations Research, OR) 기법이 결합된 자동 의사결정 시스템을 발전시켜 핵심 수익 엔진으로 활용했다.
예를 들어 아마존의 추천 자동화 시스템은 매출의 약 30%(약 300조 원) 정도 영향을 미치는 것으로 알려져 있으며, 구글의 광고 자동화 역시 머신러닝 기반 최적화를 통해 매출의 대부분(약 300조 원)을 창출하는 핵심 엔진으로 작동하고 있다. 제조업에서도 분석형 AI/OR 기반의 오토메이션을 바탕으로 GE(General Electric), 지멘스(Siemens) 등은 Predictive Maintenance를 포함한 산업 설비 최적화 시스템을 발전시켜 왔으며, 삼성전자도 공정 최적화와 불량 탐지 시스템을 핵심 공정에 적용해 왔다.
이들 시스템에는 다양한 기계학습 및 최적화 기법이 활용됐다. 기계학습에는 의사결정 트리 및 GBDT, 회귀분석, 시계열 모델, 이상 탐지, 강화학습, 그리고 일부 딥러닝 모델이 사용되었으며, 최적화에는 수리계획법(LP, IP, QP), MPC와 같은 제어 기반 최적화 기법, 그리고 시뮬레이티드 어닐링, 타부 서치, 유전 알고리즘 등의 휴리스틱 기법이 폭넓게 활용되었다.
2017년 가트너의 약 3100명의 CIO를 대상으로 한 설문조사에 따르면, 당시 AI를 실제로 운영 환경에 도입한 기업은 약 4%에 불과했다. 한편 같은 해 딜로이트(Deloitte)가 AI를 이미 도입한 기업의 종사자들을 대상으로 실시한 조사에 따르면, 이들 기업에서 Rule-Based Expert system(약 49%), 통계 및 Neural Network 기반의 기계 학습(약 58%), 자연어 처리(약 53%), Deep Learning(약 34%) 등 다양한 AI 모델들을 병행해 활용하고 있었다. (아래 표 참조)
이렇듯 AI를 성공적으로 활용해 온 기업들은 1980년대의 Expert system부터 최근의 기계 학습과 딥러닝에 이르기까지 다양한 기술을 적재적소에 활용해 왔다. 이러한 기업들은 AI를 조용하고 점진적으로, 눈에 띄지 않게 적용하면서도 의미 있는 경영 성과를 쌓아 왔다. 반면 AI Hype에 편승해 대규모 투자를 단기간에 집중한 프로젝트는 기대만큼 성과를 내지 못한 사례가 적지 않다.
예컨대 MD Anderson Cancer Center가 IBM과 함께 추진한 AI 프로젝트는 암 치료 의사결정을 지원하기 위한 AI 시스템이었음에도 불구하고, 감사 결과 “2016년까지 6200만달러를 투입했지만 1명의 암 환자도 치료하지 못했고, 병원의 EMR 정보 시스템과 통합된 사례도 전혀 없었다”고 보고됐다. (T. Davenport, The AI Advantage, 2018)
반면 싱가포르의 DBS Bank는 기계 학습을 활용해 ATM 현금 보충, 직원 이직 예측, 사기 탐지, 고객 지원, 여신 심사 등 일상적인 운영 업무에 AI를 점진적으로 적용해 왔다. 이러한 노력은 글로벌 평가에서도 인정받아 2023년 Evident AI Index에서 AI Strategy Leadership 부문 1위로 선정되었다. 이처럼 AI의 적용은 홈런 한 방을 노리기보다 작은 실험과 개선을 반복하며 성과를 축적해 가는 접근이 더 효과적인 경우가 많다.
2025년 들어 AI에이전트 기술이 SW 분야의 주요 트렌드로 부상해 많은 기업들의 관심을 끌고 있다. AI 에이전트는 주로 LLM 기반의 생성형 AI를 활용해 외부 툴(API, DB, 애플리케이션 등)을 호출하고, 목표 달성을 위해 추론, 계획, 의사결정, 액션을 수행하는 소프트웨어 시스템이다. 일부는 멀티모달 입력을 처리하며, 멀티에이전트 구조를 통해 협력적으로 작업을 수행할 수 있다. 실행은 완전 자율보다는 Human-in-the-Loop 기반의 반자율적 형태가 일반적이며, 환경 변화에 대해서는 아직 제한된 범위 내에서 컨텍스트 기반으로 적응하는 수준에 머물러 있다.
생성형 AI 에이전트의 경제적 효과는 기존의 분석형 AI 기반 자동화와 비교했을 때 어떤 차이를 보일까?
아래 표에서 보듯이, 생성형 AI 에이전트는 계량적/구조적 데이터 도메인의 의사결정 지원에 그치지 않고, 지식 업무 전반의 실행까지 확장됨으로써 국가 경제 전체적으로는 더 광범위한 노동생산성 제고 효과를 가져올 가능성이 있다. 반면 개별 기업 수준에서는 아마존, 구글 등 빅테크 기업과 같이 IT 성숙도가 높은 경우, 분석형 AI/OR 기반 자동화가 구조적이고 반복적인 운영 업무를 자동화함으로써 막대한 경영 성과를 창출해 왔다. 그러나 1990년대 이래 이러한 분석형 AI/OR 기반 자동화 시스템은 높은 데이터 요구 수준, 복잡한 시스템 통합, 운영 최적화 역량의 필요성 등으로 인해 일반 기업으로는 광범위하게 확산되지 못했다. (박준성, AI Agent의 허허 실실, 2026: https://www.kosta-online.com/post/ai-agent-hype-and-reality)
맥킨지에 의하면, 아래 도표에서 보듯이, AI는 전반적으로 연 17~26조 달러의 경제적 효과를 창출할 수 있으며, 이 중 생성형 AI는 약 6~8조 달러의 기여를 할 것으로 추정된다. (McKinsey, The economic potential of generative AI: The next productivity frontier, 2023). 생성형 AI의 기여 중 AI 에이전트가 차지하는 비중에 대해서는 아직 공식적으로 제시된 바가 없다.
현재 맥킨지 추정에서는 생성형 AI의 경제적 기여가 기존 AI 모델들에 비해 상대적으로 작게 나타난다. 다만 생성형 AI는 아직 초기 단계에 있으며, 특히 에이전트 기반의 End-to-End 자동화 효과가 충분히 반영되지 않았을 가능성이 있다. 따라서 향후에는 이 격차가 축소되거나, 일부 영역에서는 역전될 가능성도 있다.
한편 생성형 AI와 유사한 수준의 기대를 받았던 다른 IT 기술과 비교해 보면, 사물인터넷(IoT)의 경우 맥킨지는 2025년까지 연간 약 4~11조 달러의 경제적 가치를 창출할 것으로 예측한 바 있다. (McKinsey, The Internet of Things: Mapping the Value Beyond the Hype, 2015) 이는 생성형 AI의 현재 추정치와 비교할 때 특히 상한 기준에서는 더 큰 규모다.
다만 실제로는 다양한 산업에서의 도입 속도와 제약 요인으로 인해, 실현된 가치는 예측 범위의 하단에 가까운 수준으로 추산된다. 이러한 괴리는 표준 난립, 기존 시스템과의 통합 복잡성, 데이터의 부족 및 품질 문제, 생태계의 미성숙 등 새로운 IT 기술 확산 과정에서 공통적으로 나타나는 구조적 제약에 기인한다.
클라우드의 경제적 효과에 대해서는 맥킨지가 2030년까지 누적 3~10조 달러의 기업 수익 증가 효과가 있을 것으로 예측했다. 클라우드의 경우 IaaS/PaaS, SaaS, 마켓플레이스, AI 플랫폼 등에서 예상보다도 호황이 이어질 것으로 보이지만, 예측치를 검증하기는 쉽지 않다. (McKinsey, Cloud’s trillion-dollar prize is up for grabs, 2021)
이처럼 생성형 AI, IoT, 클라우드는 각각 수조 달러 규모의 경제적 영향을 가질 것으로 예상된다. 한편 이들 기술은 상호 보완적인 관계에 있으며, 예컨대 GE의 Predix 플랫폼과 같이 IoT 기기의 센서 데이터를 클라우드에 수집하고 AI 모델로 분석해 예지보전에 활용하는 시스템은 AI, IoT, 클라우드가 결합된 대표적인 사례다.
2026년 초 현재, 생성형 AI 투자로부터 높은 수준의 수익률을 명확히 입증한 기업은 아직 많지 않다. MIT 연구에서는 조사 대상 300개 기업 중 생성형 AI 기반 애플리케이션으로 수익을 창출한 기업이 약 5%에 불과했다. (A. Challapally et al. The GenAI divide: State of AI in business 2025, MIT NANDA, 2025)
한편 PwC의 CEO 설문조사에서는 AI 투자로 원가를 절감한 기업이 23%로 파악되고 있어, 전반적으로는 초기 단계에서 점진적으로 성과가 확산되는 국면으로 해석할 수 있다.
생성형 AI 에이전트는 2023년 이후 빠르게 주목받았으나, 2024년을 거치면서 완전 자율형 에이전트의 한계(정확성, 신뢰성, 운영 복잡성 등)가 분명해졌다. 이에 따라 대부분의 빅테크 기업들은 핵심 경영 프로세스의 전면적 자동화보다는, Human-in-the-Loop 기반의 제한된 영역에서 점진적으로 적용 범위를 확대하는 방향으로 전략을 조정하고 있다. 반면 많은 일반 기업들은 여전히 파일럿 단계에 머물러 있으며, 실제 운영 환경으로의 확산은 상대적으로 더디게 진행되고 있다.
우리나라에서는 AI 에이전트 기술이 어떤 경제적 가치를 창출할까? 또 가치를 극대화하려면 어떤 노력이 필요한가?
챗GPT가 가트너, IDC, OECD 등의 다양한 자료를 바탕으로 재구성한 추정치에 따르면, 한국의 디지털 기술 활용 수준은 주요 선진국 대비 전반적으로 낮은 편으로 나타난다.
예를 들어 클라우드의 경우, 상용 애플리케이션, 플랫폼, SI 용역 및 자체 개발을 포함한 시장 규모를 GDP로 나눈 지표 기준으로 약 2.2% 수준으로 추정되며, 이는 OECD 평균 약 3.0%, 미국 약 4.2%에 비해 낮다. IoT의 경우에는 제조업 중심 기술 특성을 반영해 시장 규모를 제조업 부가가치로 나눈 지표를 적용하면 약 7% 수준으로, OECD 평균 8%, 미국 11%보다 낮은 것으로 추정된다.
AI의 경우 시장 규모를 GDP로 나눈 활용률이 약 1.3% 수준으로 OECD 평균 1.9%, 미국 3.0%에 비해 낮으며, AI 오토메이션 및 에이전트(분석형과 생성형 포함)의 경우에도 약 0.6% 수준으로 OECD 평균 0.8%, 미국 1.40%에 비해 낮은 것으로 나타난다. (단, 각 지표는 기술별 특성을 반영해 서로 다른 기준으로 산정된 추정치이므로, 절대적 수준보다는 국가 간 상대적 격차를 중심으로 해석할 필요가 있다.)
우리나라가 AI 에이전트 분야에서 활용률이 미국이나 OECD 평균에 미치지 못하는 이유는 무엇일까? 우리나라가 제조업 중심의 산업 구조를 가지고 있기 때문이다. GDP에서 제조업 부가가치가 차지하는 비율은 우리나라가 약 27%로, OECD 평균(약 17%)과 미국(약 11%)보다 높다. 생성형 AI 에이전트는 금융, 광고, 소프트웨어, 프로페셔널 서비스 등 서비스 산업에서 활용도가 특히 높을 것으로 예상되기 때문에, 이러한 산업 구조는 초기 확산 속도를 다소 제약하는 요인으로 작용할 수 있다.
AI 에이전트 확산에 필요한 SW 생태계의 경쟁력이 상대적으로 낮기 때문이다. AI 에이전트는 구현 난이도가 높아 기업 내부에서 자체 개발로 성공하기 어렵고, SaaS 활용이나 SI 기반 맞춤형 개발이 중요한데, 한국은 AI 기본모델, 프레임워크, AI-Native SaaS 및 SI 서비스 등에서 글로벌 선도국 대비 경쟁력이 제한적인 편이다. (박준성, AI가 SaaS 대체? 지디넷코리아, 2026; 박준성, AI로 변신하는 SI, 지디넷코리아, 2026)
공공 및 금융 부문에서의 클라우드 활용 제약도 영향을 미쳐 왔다. 과거에는 정부의 보안 정책으로 인해 해외 IaaS와 PaaS 활용이 제한되었으며, 이에 따라 글로벌 생성형 AI 모델의 활용에도 제약이 있었다. 최근 규제 완화가 진행되고 있으나 일부 영역에서는 여전히 제약이 존재한다.
무엇보다도 AI 엔지니어, SW 엔지니어, 데이터 엔지니어 등 AI 에이전트 개발과 운영에 필요한 인재 풀이 제한적인 점이 단장기적으로 중요한 구조적 제약 요인이다.
한편 우리나라 기업들의 경영 및 IT 전략 수립 관행을 보면, 많은 경우 전사 아키텍처(Enterprise Architecture, EA) 기반으로 현업의 사용 사례 수요에서 출발해 필요한 애플리케이션, 데이터 및 기술을 정의하는 체계가 충분히 성숙되지 못한 측면이 있다. 그 결과 유행하는 기술을 출발점으로 이를 적용할 사용 사례를 사후적으로 탐색하는 접근이 나타나며, 이는 효과적인 AI 에이전트의 발굴·개발·확산을 지연시키는 요인으로 작용할 수 있다.
또한 AI 에이전트의 성공적인 도입을 위해서는 개별 업무의 자동화를 넘어 End-to-End 비즈니스 프로세스 전반에 대한 재설계가 필요하다. 즉, 부서 단위의 로컬 최적화가 아니라 전사 차원의 글로벌 최적화를 달성할 수 있도록 비즈니스 프로세스를 재구성하는 BPR(Business Process Reengineering)이 선행되어야 한다.
이 과정에서 자연어 및 멀티미디어 데이터를 포함한 다양한 형태의 데이터를 활용할 수 있도록 메타데이터 체계를 정비하고, 이를 유연하게 연계할 수 있는 API 기반의 서비스 지향 아키텍처(SOA)로 구현하는 것이 중요하다. (L. Yee et al. One year of agentic AI: Six lessons from the people doing the work, McKinsey, 2025; 박준성, AI Agent의 실패 원인과 성공 방안, KOSTA Online, 2026: https://www.kosta-online.com/post/ai-agent-success-factors)
그러나 우리나라의 많은 기업들은 프로세스 표준화, BPR, 메타데이터 관리, SOA 구현 등에서 아직 성숙도가 충분하지 않아 AI 에이전트의 성공적 도입이 지연될 가능성이 있다. 따라서 한국의 문제는 단순한 기술 도입의 문제가 아니라, 산업 구조·SW 생태계·인재 공급·경영 관행·IT 성숙도가 결합된 구조적 문제로 이해할 필요가 있다.
결론적으로 한국의 AI 에이전트 실행 전략을 7대 과제로 요약하면 아래와 같다. (아래 출처 참조)
-인재 양성: 역할별 커리큘럼(Curriculum) 설계·훈련·인증
-AI-Native SaaS 및 SI 창업 활성화: 정부 지원제도 및 공공발주 제도 개선
-Use Case 중심 접근으로 전환: Technology → Business 역전
-End-to-End BPR 선행: 국소 자동화 → 전체 최적화
-데이터 및 메타데이터 인프라 구축: 에이전트의 연료
-API 기반 아키텍처 확립: AI-Native SOA=Modulith, SBA, MSA의 Hybrid 아키텍처
-운영체계 구축: AgentOps
*참조
박준성, AI Agent의 실패 원인과 성공 방안, KOSTA Online, 2025. 10.
박준성, AI가 개발자 대체? ZDNet Korea [박준성의 SW] 2026. 3.
박준성, AI가 SaaS 대체? ZDNet Korea [박준성의 SW] 2026. 3.
박준성, AI로 변신하는 SI, ZDNet Korea [박준성의 SW] 2026. 3.
박준성, AI 에이전트의 아키텍처는? ZDNet Korea [박준성의 SW] 2026. 4.
박준성, AI 시대 SW 산업 전망 및 정책 대응, TalkIT [구해줘 SW!] 2026. 4.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
챗 gpt의 다른 소식
모든 소식을 불러왔습니다