AI想像力

AIの想像力:ハルシネーションの誘発と抑制の技術

AIの想像力:ハルシネーションの誘発と抑制の技術

“AIは本当に嘘をついているのか、それとも夢を見ているのか?”最近、ChatGPTのような会話型チャットボットを使ったことがある人なら、一度はこんな経験をしたことがあるはずです。正確な情報を求めたのに、聞いたこともない事実をもっともらしく話してくれるとき、最初は不思議ですが、その内容が事実でないことを知ると戸惑うこともあります。 このような現象を私たちは「人工知能の幻覚(hallucination)」と呼んでいます。 文字通り解釈すると幻覚ですが、AIにとってはもう少し特別な意味です。 ちなみに、彼らは情報を歪曲する意図は全くありません。 ただ、数多くの文章やパターンの中で...