先に結論です。AIの回答の間違いに振り回されないコツは、次の3つです。
- ① 数字・固有名詞・日付が出たら、一次情報で裏を取る
- ② 「分からない場合は分からないと答えて」とお願いしておく
- ③ 最終判断は「自分の土俵の知識」で下す
AIは本当に頼りになる道具ですが、ひとつだけ厄介なクセがあります。間違えるときも、自信満々の口調で言い切るのです。今日の黒板に書いたとおり、「AIが言い切っていても、間違っていたり、古い情報だったり」する。これを前提にした使い方を覚えると、AIは一気に安全な道具になります。
ハルシネーションとは？なぜAIは堂々と間違えるのか
AIがもっともらしい間違いを答える現象を「ハルシネーション（幻覚）」と呼びます。原因をざっくり言うと、AIは「正解を知っている」のではなく、「それらしい文章の続きを予測している」からです。知らないことを聞かれても、それらしい答えを組み立ててしまう。人間なら「知りません」と言う場面で、AIは作文してしまうのです。
もうひとつの原因が学習データの古さです。AIには「いつまでの情報を学習したか」という区切り（ナレッジカットオフ）があり、それ以降の制度変更や新サービスは、そのままでは知りません。補助金の公募情報のように更新が早い情報は、特に注意が必要です。
間違いを見抜く3つのサイン
① 具体的な数字・固有名詞・日付
「補助率は2/3です」「◯◯という会社のサービスです」「締切は9月末です」——こうした具体的な情報こそ、ハルシネーションの多発地帯です。具体的であるほど、公式サイトなどの一次情報で確認してください。このブログでも、制度やニュースを書くときは必ず公式の出典を確認してリンクを貼るルールにしています。
② 出典を聞いてみる
「その情報の出典は？」と聞くのは有効です。ただし、AIは出典自体をでっち上げることもあるので、示されたURLや資料名が実在するかまで確認して初めて裏が取れたことになります。
③ 最新情報はWeb検索機能つきで
いまのAIの多くはWeb検索機能を持っています。最新の情報を聞くときは、検索機能をオンにして「検索して確認した上で答えて」と頼むと、精度がぐっと上がります。
「間違い前提」の使い方3つ
① 下書きはAI、事実確認は人間
文章の構成・言い回し・アイデア出しはAIに任せて大丈夫です。間違いが混ざって困るのは「事実」の部分だけ。役割分担を「下書き＝AI、裏取り＝人間」と決めるだけで、事故はほぼ防げます。
② 指示文にひと言足す
「分からない場合は、分からないと答えてください」「推測の部分は推測と明記してください」。このひと言で、AIが作文する場面は目に見えて減ります。ChatGPTが思い通りにならないときの対処法でも書きましたが、AIは指示の仕方ひとつで別人のように変わります。
③ 会社としてルールにする
個人のコツで終わらせず、「AIの回答のうち、数字と固有名詞は必ず一次情報で確認してから社外に出す」と社内ルールにしてしまうのがおすすめです。中小企業が失敗しないAI導入の手順で紹介したガイドライン作りの一部として、1行加えるだけで機能します。
だからこそ「自分の知識」の価値が上がる
AIが間違えるなら使えないのか、というと逆です。AIの出力の正しさを判断できる人にとって、AIは最強の相棒になります。本業の知識がある人ほど、AIの間違いに即座に気づけて、スピードだけをもらえる。AIの時代は、自分の土俵の知識の価値がむしろ上がる時代だと僕たちは考えています。
「うちの業務でどう使い分ければいいか分からない」という方は、中小企業のAI活用 はじめかたガイドからどうぞ。
