10시간 전
[알쓸신기] ⑬ 챗GPT는 가끔 왜 그렇게 당당하게 거짓말을 할까?
2026.07.04 06:01
[디지털데일리 김문기기자] 학교 숙제를 하다가 막힐 때, 혹은 심심할 때 스마트폰을 켜고 챗GPT 같은 인공지능(AI)에게 질문을 던져본 적이 있을 것이다. 내가 물어보는 것은 무엇이든 1초 만에 척척 대답하는 모습을 보면, AI 머릿속에 전 세계의 모든 백과사전과 정답이 통째로 저장되어 있는 것만 같다.
하지만 가끔 챗GPT에게 짓궂은 질문을 던져보면 이상한 일이 일어난다. 예를 들어 "조선시대 세종대왕이 노트북을 쓰다가 화가 나서 던진 사건에 대해 설명해 줘"라고 물어보면, 챗GPT는 "그 사건은 몇 년도에 일어났으며, 당시 신하들이 크게 당황했습니다"라며 마치 진짜 있었던 일인 것처럼 아주 당당하게 소설을 쓴다.
분명 세상에서 제일 똑똑하다고 했는데, 챗GPT는 왜 이런 뚱딴지같은 거짓말을, 그것도 아주 그럴싸하게 하는 것일까? 인공지능이 공부하는 방식을 알면 그 비밀이 풀린다.
◆ 정답을 외우는 게 아니라 '다음 글자 맞추기 게임'
많은 사람이 오해하는 것 중 하나가 챗GPT가 네이버나 구글 검색창처럼 '정답이 적힌 페이지를 찾아서 보여주는 장치'라고 생각하는 점이다. 하지만 챗GPT의 작동 원리는 다르다. 챗GPT는 정답을 외우고 있는 게 아니라, 엄청나게 공부를 많이 한 '눈치 100단 다음 글자 맞추기 대왕'이다.
학교에서 친구들과 눈치 게임을 하거나, 앞 단어를 들으면 뒤에 올 단어를 본능적으로 맞추는 게임을 해봤을 것이다. 예를 들어 누군가 "간장 공장"이라고 운을 떼면, 우리는 생각하기도 전에 다음에 "공장장"이 올 거라고 예상한다. "자장면 시키신" 뒤에는 당연히 "분"이 올 확률이 높다는 것을 안다.
챗GPT가 바로 이 게임을 하는 것이다. 이 인공지능은 전 세계 인터넷에 있는 수억 장의 교과서, 뉴스, 블로그 글을 통째로 읽으면서 "이 단어 뒤에는 보통 이 단어가 오더라"하는 확률을 공부했다. 내가 질문을 던지면, 챗GPT는 자기가 배운 확률을 총동원해서 "주인님이 던진 질문 뒤에는 이 글자가 오는 게 가장 자연스럽겠군!" 하며 단어를 한 땀 한 땀 이어 붙여 문장을 만드는 것이다.
즉, 지식이 있어서 대답하는 게 아니라, 다음에 올 가장 '그럴싸한 말'을 실시간으로 조립하는 기술이다.
◆ "세종대왕 맥북 투척 사건"의 비밀은 거짓말이 아니라 확률의 늪
그렇다면 앞서 말한 세종대왕의 노트북 던짐 사건 같은 거짓말은 왜 생기는 걸까?
과학자들은 인공지능이 이렇게 헛소리를 하는 현상을 환각을 본다는 뜻에서 '할루시네이션(Hallucination)'이라고 부른다. 하지만 챗GPT 입장에서는 억울한 면이 있다. AI는 우리를 속이려고 거짓말을 한 게 아니라, 자기가 아는 '확률 게임'에 너무 충실했던 것뿐이다.
챗GPT의 머릿속에는 '세종대왕', '조선시대', '신하', '노트북', '화가 남', '던지다'라는 단어들이 각각 들어있다. 그리고 인터넷 글들을 공부한 덕분에 '세종대왕' 뒤에는 '신하들이 당황했다'나 '역사에 기록되었다' 같은 진지한 문장들이 올 확률이 높다는 것도 아주 잘 안다.
내가 "세종대왕이 노트북을 던진 사건"을 물어보면, 컴퓨터는 이 상황이 진짜인지 가짜인지 판단할 수 있는 '상식'이 없다. 그저 주인이 던진 단어들을 조합했을 때 가장 그럴싸한 문장 구조를 완성해야 한다는 미션만 생각한다.
그래서 [세종대왕이] + [노트북을 던지자] + [신하들이 크게 당황하여] + [기록에 남겼습니다]라는, 문법적으로는 아주 완벽하지만 역사적으로는 말도 안 되는 헛소리 문장을 뚝딱 만들어내는 것이다.
챗GPT는 아는 척 대왕이라 "모르겠는데요"라고 말하기보다, 자기가 가진 단어들을 조합해 어떻게든 '그럴싸한 소설'을 완성하는 성격을 가졌기 때문이다.
◆ 인공지능을 내 노예로 부리는 마법의 주문서
챗GPT가 완벽한 천재가 아니라 눈치 게임 대왕이라는 것을 알았다면, 이제 우리는 이 대왕을 똑똑하게 다루는 법을 배워야 한다. 인공지능에게 던지는 명령어나 질문을 전문 용어로 '프롬프트(Prompt)'라고 하는데, 중학생 독자들에게는 인공지능을 내 마음대로 조종하는 '마법의 주문서'라고 생각하면 쉽다.
스마트폰 게임을 할 때 캐릭터에게 구체적인 명령을 내려야 정확히 움직이는 것처럼, 챗GPT에게도 질문을 아주 구체적으로 던져야 거짓말을 안 하고 정확한 답을 내놓는다.
우선, 그냥 "광합성이 뭐야?"라고 묻기보다 "너는 중학교 과학 선생님이야. 중학교 1학년 눈높이에 맞춰서 설명해 줘"라고 하면, 아주 쉬운 단어만 골라서 친절하게 설명해 준다. 질문 끝에 "만약 인터넷에 없는 사실이거나 모르는 내용이면 거짓말하지 말고 모른다고 대답해 줘"라는 문장을 한 줄 추가하는 것이다. 이 주문을 넣으면 챗GPT가 헛소리 소설을 쓰려다가도 멈칫하며 "죄송하지만 확인되지 않은 사실입니다"라고 고백한다.
아울러 "'1. 요약, 2. 원인, 3. 결과'의 형태로 세 줄로 나누어 정리해 줘"라고 가이드라인을 주면, 컴퓨터가 글자를 조립할 때 그 틀에 맞춰서 배달해 준다.
▶ '알쓸신기' 토크 어바웃 - "생성형 AI 시대, 숙제와 시험은 어떻게 변할까?"
과거에는 지식을 많이 머릿속에 '외우고 있는 사람'이 똑똑한 사람 대접을 받았다. 역사적 사건의 연도를 달달 외우거나, 복잡한 수학 공식의 결괏값을 정확히 기억하는 능력이 시험 성적을 결정했기 때문이다.
하지만 현재, 생성형 AI의 등장으로 교육의 판도가 통째로 바뀌고 있다. 내가 외우지 않아도 스마트폰을 켜서 AI에게 물어보면 지구상의 모든 지식을 1초 만에 문장으로 정리해 주는 시대가 되었기 때문이다. 학교 선생님들은 단순한 지식을 묻는 숙제 대신, "AI가 준 답변 중에서 어떤 부분이 할루시네이션(거짓말)인지 찾아내고, 진짜 사실을 검증해 오라"는 식의 새로운 숙제를 내기 시작했는지도 모른다.
결국 미래의 인공지능 시대에 진짜 똑똑한 중학생은 '정답을 잘 외우는 학생'이 아니라, '인공지능에게 좋은 질문을 던질 줄 알고, 인공지능이 준 답변이 진짜인지 가짜인지 구별할 수 있는 비판적 사고력을 가진 학생'이다.
▶ 알쓸신기 키워드 번역기
·생성형 AI: 인터넷의 수많은 글과 그림을 공부한 뒤, 사용자의 명령에 맞춰 새로운 문장이나 이미지를 만들어내는 인공지능이다. 챗GPT가 대표적이다.
·할루시네이션(환각 현상): 인공지능이 사실이 아닌 거짓 정보를 마치 진짜인 것처럼 아주 당당하고 그럴싸하게 대답하는 오류 현상을 말한다.
·프롬프트: 인공지능에게 일을 시키기 위해 입력하는 명령어 나 질문이다. 이 주문서를 얼마나 구체적으로 쓰느냐에 따라 AI의 똑똑함이 달라진다.
저작권 보호를 위해 본문의 일부만 표시됩니다.
원문 보기 →댓글 (0)
첫 번째 댓글을 작성해보세요!
중학교의 다른 소식
모든 소식을 불러왔습니다