VIEW

과학기술정보통신부가 글로벌 인공지능(AI) 기업 앤트로픽과 업무협약을 맺고 AI 안전성 확보와 사이버보안에 대한 협력에 나서기로 했다.

과기정통부와 앤트로픽은 18일 이같은 내용의 업무협약을 체결했다.

이번 협약은 지난 2월 인도에서 열린 AI 영향 정상회의에서 배경훈 부총리 겸 과기정통부 장관이 다리오 아모데이 앤트로픽 CEO를 만나 논의했던 협력 방안의 후속조치이다.


앤트로픽은 생성형 AI 클로드(Claude)를 개발해 서비스 중이며, 지난 17일 한국사무소를 개소한 바 있다.

이번 협약을 통해 과기정통부와 앤트로픽은 AI 안전성 확보를 위한 협력에 나서기로 했다.

AI 안전 분야에서는 AI 안전연구소(AISI)와 앤트로픽 간 AI 모델과 자율형 AI 에이전트 안전성 평가, 한국어 맥락에서의 AI 모델 안전성과 오남용 위험, 자율형 AI 에이전트에 대한 레드팀 평가 등 AI 안전성 확보 방안을 모색한다.

사이버보안 분야에서는 AI가 사이버 공격과 방어에 미치는 영향을 분석하고, 금융 분야 등 AI 취약점 발굴과 사이버 위협에 대한 전문 지식·관련 정보 등을 공유키로 했다.

이번 협약으로 정부는 엔비디아, 오픈 AI, 구글 딥마인드 등 글로벌 AI 빅테크와의 협력 네트워크를 구축하며 핵심 파트너로 자리매김했다.

이도규 과기정통부 정보통신정책실장은 “앤트로픽과의 협력은 안전과 보안 위에서 AI 혁신의 지평을 넓히고 역동성을 더하는 강력한 원동력이 될 것”이라고 말했다.

이한빛 기자 hblee@viva100.com