🌌 AI의 상상력: 할루시네이션 유도와 억제의 기술
“AI는 과연 거짓말을 하는 걸까, 아니면 꿈을 꾸는 걸까?” 요즘 ChatGPT처럼 대화형 챗봇을 사용해 본 사람이라면, 한 번쯤 이런 경험이 있을 거예요.정확한 정보를 요청했는데, 듣도 보도 못한 사실을 그럴듯하게 말해 줄 때 말이죠.처음엔 신기하지만, 그 내용이 사실이 아니라는 걸 알게 되면 당황스럽기도 하는데요. 이런 현상을 우리는 ‘인공지능의 할루시네이션(hallucination)’이라고 부릅니다.단어 그대로 해석하면 환각이지만, AI에게는 조금 더 특별한 의미예요. 참고로 이들은 정보를 왜곡하려는 의도가 전혀 없습니다. 그저 수많은 문장과 패턴 속에서…
