コッシーがAIを使って感じた「これ、本当に合ってる？」の不安
AIの回答をそのまま信じていいの？という、誰もが一度はぶつかる「最初の壁」について話しました。
コッシー
ハラさんはうまくいったみたいだけど……私、休み中にAIに税務の一般的な質問を投げてみたら、微妙に古い情報とか間違ったことをもっともらしく答えてきて。ちょっと使うの怖くなっちゃった。
おーちゃん
なるほど！それ、すごく良い経験です。実はそれが、全員が必ずぶつかる『AIの最初の壁』なんですよ。専門用語で『ハルシネーション（幻覚）』って呼んでます。
ハラさん
なんだそれ。幻覚？要するにAIが嘘をつくってことか？
おーちゃん
半分正解です。AIは『悪気なく知ったかぶりをする新人』だと思ってください。文章を繋ぎ合わせるのが天才的に上手いので、嘘でも自信満々に答えちゃうんです。だから、税務とか法律とか、一文字でも間違えちゃいけない『正確性が命』の調べ物には、そのまま使っちゃダメなんですよ。
コッシー
え、じゃあ士業の仕事には使えないってこと？
おーちゃん
惜しい！使い方が違うだけです。AIに『正解を教えてもらう』んじゃなくて、『壁打ち相手』や『作業の代行』として使うんです。例えば、自分が書いた顧問先へのメールを『これ、専門用語多すぎない？もっと経営者に伝わりやすく書き直して』って頼むとか。
コッシー
あ……！なるほど。情報の正確性を担保するのは私自身で、AIには『表現を整える』とか『構成を考える』手伝いをしてもらえばいいんだ！
おーちゃん
大正解！コッシーさんみたいな専門家ほど、『AIに調べ物をさせない』のが鉄則です。あくまで自分の知識をベースに、作業をアウトソーシングするイメージですね。
ハラさん
なるほどな。道具の特性をわかって使えば、全然怖くないわけだ。
💡今日のポイント
- AIは「もっともらしく嘘をつく（ハルシネーション）」ことがある
- 正確性が求められる専門的な調べ物に、そのままAIの回答を使ってはいけない
- 専門家は、AIに「正解を聞く」のではなく「自分の知識のアウトプットを手伝わせる」
おーちゃんに相談してみない？
相談してみる
