AIのハルシネーションとは、回答が自信ありげに聞こえても、AIが誤った情報や作り話を含めることです。注意を促さずに、語り手が空白を架空の細部で埋めるようなものです。

AIは存在しない本の名前を挙げたり、誤った事実を伝えたりすることがあります。システムは一文ずつ現実と照合するのではなく、もっともらしい回答を生成しているため、こうしたことが起こります。

重要な主張は、行動に移す前に信頼できる情報源で確認しましょう。自信に満ちた口調は、正しさの証明にはなりません。