VIEW

이번 사례는 차량용 AI가 편의 기능을 넘어 운전자의 주의와 직접 맞물리는 인터페이스가 됐다는 점을 보여준다[사진: Reve AI]

[디지털투데이 홍진주 기자]테슬라 차량에 탑재된 xAI의 인공지능(AI) 챗봇 '그록'이 주행 중 편의 기능으로 주목받고 있지만, 실제 도로에서는 운전 방해와 안전 우려를 동시에 키우고 있는 것으로 나타났다.

25일(현지시간) CNBC에 따르면, 뉴욕 일대에서 테슬라 모델 Y 소유주를 동승 취재한 결과, 차량용 그록은 높은 대화 몰입도와 기능 한계로 인해 주행 안전에 영향을 줄 수 있는 것으로 지적됐다.

현재 차량용 그록은 베타 단계로, 운전자는 음성 명령을 통해 내비게이션을 조작하거나 다양한 질문을 할 수 있다. 테슬라는 2025년 7월부터 해당 기능을 순차적으로 차량에 적용해왔다. 업계에서도 볼보, 리비안, 메르세데스 벤츠, BMW 등 주요 완성차 업체들이 차량 내 AI 도입을 확대하는 추세다.

문제는 차량 내 AI가 스마트폰 사용을 줄이는 대신 새로운 형태의 주의 분산을 유발할 수 있다는 점이다. 카네기 멜런 대학교(Carnegie Mellon University)의 자율주행 안전 전문가 필립 쿠프만은 "운전 중 도로 상황과 무관한 챗봇 대화는 명백한 방해 요소"라며 "운전은 항상 최우선 과제가 돼야 한다"고 지적했다.

실제 사용자인 마이크 넬슨도 편의성과 위험성을 동시에 언급했다. 그는 몇 달간 그록을 써본 뒤 이제는 음악이나 팟캐스트 대신 질문을 던지며 이동한다고 말했다. 넬슨은 그록이 자신의 운전 경험을 정말 바꿔놨다고 평가하면서도, 여전히 매우 위험하다고 말했다.

특히 테슬라의 부분 자동화 기능인 '완전자율주행'(감독형)과 함께 사용할 경우 위험성이 더 커질 수 있다는 지적이다. 이 기능은 운전자가 도로를 계속 주시하고 필요 시 즉각 개입해야 하는 조건이 붙는다. 그러나 실제 주행에서는 운전자가 대화에 몰입해 도로 상황을 충분히 주시하지 않는 사례가 확인됐다.

기능 정확성 문제도 드러났다. 그록은 동일한 질문에 대해 서로 다른 답변을 내놓거나, 내비게이션 명령이 실제 경로와 다르게 실행되는 등 일관성 부족이 나타났다. 이는 주행 중 혼란을 초래할 수 있는 요소로 평가된다.

콘텐츠 안전성도 논란이다. 차량용 그록은 호출 시 누구의 음성에도 반응할 수 있으며, 성인용 대화가 가능한 모드도 포함된 것으로 전해졌다. 이에 따라 미성년자 접근 통제 문제도 제기되고 있다.

이와 함께 테슬라의 완전자율주행 기능은 이미 여러 사고와 관련해 미국 규제 당국의 조사 대상에 올라 있는 상태다. 전문가들은 AI가 운전자에게 도로 상황을 환기하는 방식으로 설계될 경우 안전에 기여할 수 있지만, 현재처럼 주행과 무관한 대화 중심 구조는 오히려 위험을 키울 수 있다고 지적한다.

차량용 AI는 향후 빠르게 확산될 것으로 예상된다. 다만 이번 사례는 챗봇 기반 차량 기능이 단순한 편의를 넘어 주행 안전, 응답 정확성, 미성년자 보호 등 다양한 기준을 함께 충족해야 한다는 과제를 드러냈다는 평가다.