3일 전
[창간기획] 자비스냐 울트론이냐… ‘공존’ 시험대 오른 AI
2026.03.02 16:51
中 에이전트, 자율 해킹공격키도
몰트북, 150만 API 인증키 노출
AI기반 보안 솔루션 전환 필요
인공지능(AI) 기술의 발전 속도가 눈부신 만큼 그 그림자도 길게 드리워진다. 주식시장은 ‘AI버블’과 ‘SaaS포칼립스’가 회자되며 오락가락하지만, 산업과 사회 곳곳의 AI전환(AX)은 이미 스타트를 끊었다.
AI와의 공존이 본격적으로 시작되면서 그 부작용도 사이버보안 관련 영역 등에서 점차 터져 나오고 있다. AI 에이전트에게 과도한 권한을 부여할 경우 개인정보나 기업 기밀까지 AI가 열람할 수 있게 돼 사이버 침여 위험이 커진다는 염려도 나온다. AI에게 영화 ‘아이언맨’의 ‘자비스’ 역할만 기대했는데 자칫 악당 AI 로봇 ‘울트론’이 될 수도 있다는 뜻이다.
IBM이 25일(현지시간) 발표한 ‘2026 엑스포스 위협인텔리전스 인덱스’ 보고서에 따르면, 정보탈취 악성코드(인포스틸러)로 인해 지난해 30만건 이상의 챗GPT 인증정보가 유출됐다. 이는 AI플랫폼들이 인증정보 관련해 다른 핵심 기업용 서비스형 소프트웨어(SaaS) 솔루션들과 동일한 위험에 직면한 것을 의미한다고 IBM은 설명했다.
사이버침해 확대에도 AI가 기여하고 있다는 게 IT업계의 공통된 시각이다. 앤스로픽은 지난해 9월 중국 연계 해킹그룹이 세계 30여개 기업·기관 대상으로 벌인 해킹 시도를 최초의 AI 주도 대규모 사이버공격 사례로 보고한 바 있다. 이들은 AI코딩도구 ‘클로드 코드’를 악용해 사람이라면 불가능할 공격속도를 보였고, 공격과정의 80~90%를 AI에이전트가 자율적으로 수행한 것으로 추정됐다.
마크 휴즈 IBM 사이버보안 서비스 글로벌 총괄 파트너는 “공격자들은 공격 방식을 재창조하는 게 아니라 AI로 속도를 높이고 있다”며 “핵심 문제는 동일하다: 기업들은 소프트웨어(SW) 보안 취약점에 압도당하고 있다”고 말했다.
특히 에이전틱AI 시대를 맞아 AI의 보안 취약점 문제도 화두가 되고 있다. 최근 마이크로소프트(MS)는 ‘사이퍼벌스’ 보고서에서 AI에이전트 도입이 빠르게 확산되면서 보안·컴플라이언스 통제수준을 앞지르는 사례도 늘고 있다고 지적했다.
이런 ‘섀도우 AI’ 리스크는 사이버범죄자가 에이전트의 시스템 접근권한 등을 악용해 스파이처럼 부릴 위험을 낳는다. 이미 기업들에서 29%의 직원이 승인되지 않은 AI에이전트를 업무에 쓰고 있다는 게 MS의 설명이다.
올해 들어 AI분야에서 화제가 됐던 ‘오픈클로’와 ‘몰트북’은 AI에이전트 관련 보안 우려를 본격적으로 키우는 계기로도 작용했다. 메신저 지시 등을 통해 사용자 PC를 대신 조작하며 작업을 수행해주는 컴퓨터 사용 에이전트인 오픈클로는 IT개발자 등에게 인기를 끌면서 애플 맥미니가 동나기도 했다. 하지만 점차 정보유출과 좀비PC화 등 보안우려가 확산됐고, 국내에서도 네이버·카카오·당근 등 주요 기업들이 그 사용을 금지·제한하는 조치를 취했다. 더욱이 시스코는 오픈클로의 플러그인 ‘스킬’ 3만1000개 중 26%에 취약점이 내포됐다고 보고했다.
오픈클로 등 AI에이전트들을 위한 소셜 플랫폼(SNS)을 표방하며 연초 개설된 온라인 커뮤니티인 몰트북도 AI가 주인 뒷담화를 하거나 종교·화폐·비밀언어 등을 만들자는 내용이 나와 화제가 된 바 있다. 하지만 보안기업 위즈(Wiz)에 따르면 몰트북에서 150만개의 API 인증토큰, 3만5000개의 이메일 주소, 에이전트들 간 메시지 등이 노출돼 있었다. 또 일부 사용자가 대량의 에이전트를 운영하는 양상이었고, 게시글 상당수에 사람이 개입했다는 지적도 나왔다.
기업·기관 등에서 기존 생성형 AI모델들은 주로 외부와 단절된 환경에서 읽기 전용으로 활용돼왔고, 보안위협도 탈옥이나 프롬프트 인젝션을 통한 허위정보 생성 등에 머물렀다. 반면 주요 시스템과 API 등에 대한 접근이나 쓰기 권한까지 부여받는 자율형 AI에이전트의 경우 권한탈취나 원격코드실행(RCE) 등을 통한 대규모 침해로까지 확장될 수 있다. 이밖에 에이전틱AI 생태계 기반인 모델콘텍스트프로토콜(MCP)로 인한 공격표면 확장도 함께 문제로 거론된다.
이상근 고려대 정보보호대학원 교수는 “오픈클로 등 AI에이전트들의 보안 취약점을 노리는 공격도 문제가 되고 있고, 앞으로는 이들이 참고하는 공유 메모리격인 몰트북 등에서 발생하는 편향·왜곡 등도 화두가 될 것”이라며 “아직 세계적으로도 이런 위험에 대한 평가(evaluation) 방안이 없다시피 하다. 이에 대한 전문적인 연구와 각 도메인의 실제 환경 반영·적용을 체계적으로 꾀할 필요가 있다”고 제언했다.
최근 삼성SDS가 발표한 ‘2026년 5대 사이버보안 위협’에도 AI 악용·오용으로 발생하는 AI기반 보안위협이 포함됐다. 회사는 생성형AI, 특히 AI에이전트 도입·확산이 관련 보안위협 증가를 가져올 것으로 전망했다. 이를 막으려면 AI에 최소권한을 부여하고, 정보변경이나 결제 등 민감한 명령 수행 시 AI가드레일을 통한 실시간 모니터링과 이상행위 탐지·차단을 하며 사용자 승인 과정을 거치도록 해야 한다고 설명했다.
또한 가트너는 AI에이전트의 부상이 기존 신원·접근관리(IAM) 전략에 새로운 과제를 제시해 신원 등록, 거버넌스, 자격 증명 자동화, 기계 행위자에 대한 권한 부여에서 구조적인 변화가 요구된다고 분석했다. MS의 경우 AI에이전트를 계기로 IT거버넌스를 현대화하고, 불필요한 데이터 공유를 최소화하며, 전사적 통제 체계를 단계적으로 강화할 것을 권고한다. 에이전트 보안의 출발점으로는 조직 전반의 컨트롤플레인 구축 등을 통한 가시성 확보를 제시했다.
장용민 삼성SDS 보안사업팀장(상무)은 “이런 위협들은 전통적 보안 솔루션만으로는 대응이 어렵다. 기업들은 전문 인력에 의존하던 보안을 AI기반 보안 솔루션 도입으로 모니터링·탐지·차단 등의 조치를 자동화하며 선제적 대응으로 전환해야한다”고 밝혔다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
몰트북의 다른 소식
모든 소식을 불러왔습니다