生成AI型LLMはその理屈上どうしても幻覚（ハルシネーション）を引き起こします。その「もっともらしい嘘」に気づけばお笑いで済みますが、嘘だとわからないと厄介です。
チャッピー登場以来この3年AI関係者はどうしたらその厄介事を軽減できるか、研究を進めてきました。詳しくは専門書にあたってもらうとして、今回はその対処方法の１つを実例で紹介します。
・・・・・
実例として挙げるのは音楽演奏者の親族関係。
今年2026年9月の河口湖ピアノフェスティバルにピアニストの児玉桃さんが出演します。プログラムにはまたトランペット奏者で児玉隼人さんの名前も上がっています。この2人ははたして縁戚関係があるのか。私は既に答を知っていますが、AIのClaude君がどんな回答をするのか、尋ねてみました。
これは間違い。名字がいっしょなのでそのまま親子だと答えてきたのでしょうか。このケースは幻覚というより、「もっともらしい嘘」。こういう時には「その根拠を示してくれ」という問いかけが有効です。
すると、Clande君、ネット検索を繰り返しながら以下の回答を出してきました。
要するに根拠を示せと尋ねたら、ネット検索等を行い、しらっ～と答を変えてきたのです。
なぜ最初におかしな回答を出してきたのか。それは生成AIの特性で、まず問いをキレギレに分割して(トークン化)、各々の発生確率からあれこれ考慮し次に続く言葉を作っているから。つまり「ありそうな話」を作るわけ。
それを避けるには「根拠を示せ」とするのが1つの方法です。そうすると出典なり引用先を明示しなければならなくなります。これはまた情報の裏を取る上で大切な作業なのです。ご活用下さい。
上記の例からわかるように、生成AIが「もっともらしい嘘」をつくのはどうしても避けられません。でも、AIにより正しい?答を出させる方法はいろいろあります。AIを使うなら、そういった方面の知識や経験を積んでほしいと切に願うところです。