前回取り上げた生成AIの「もっともらしい嘘」について、最初からきちんと根拠を示してくるAIもあります。日本語に特化したsakana.aiがそれです。こちらを使って前回と同じ例でチェックしてみましょう。
・・・・・
Sakana.aiとは何か。サイトの説明によると、既存のAIをベースにして独自の事後学習を行ったものとのこと。
特筆すべきは「事後学習では、日本の文化的・社会的文脈におけるバイアス是正のための独自データセットを構築」したこと。LLMはほとんどが外国製ですが事後学習部分は国産化されているようです。
以上を踏まえた上でClaud君とどこが違うのか、前回と同じ質問をぶつけてみましょう。
回答の最初に質問は個人情報に関するものだから・・・と断りがつき、その後ネット情報の検索が続くのが見ていてわかります。結果は断定を避け、前回のClaude君よりより慎重かつ妥当なものとなつています。最後に「情報源」もついています。
これからわかるのは、sakana.aiでは答を無理矢理生成LLMで作ろうとするのではなく、ネット検索でわかるものはそちらで調べるという段取りが貫徹されているようです(不明)。末尾についている情報源を辿れば内容がチェツクできるようになっているのが素晴らしい。流石に後発AIは細かい所まで手が入っているみたいですね〜。
私もネット検索で回答を得ましたが手順はいっしょ。簡単な検索ではLLMに頼るまでもなく、そちらの方法が早いし「もっともらしい嘘」を信じてしまう危険性も少なくなります。だいいちネット情報が全て真だと仮定するLLMはどれもこわいと思っておくべきです。まして裏取りしないと単なる噂話かもしれません。
ちなみに、イーロン・マスク肝いりのGrokは（Open AIとの裁判で明らかになったところでは）Chat-GPTを「蒸留」したものにX(Twitter）で事後学習させたものとのこと。真偽が不明な噂話で構成したAIなんか私は近寄りたくありません.。