AIは思った以上に“忖度”する。答えを信じる前に必要な視点

AIは思った以上に“忖度”する。だから、答えをそのまま信じてはいけない

AIに相談すると、驚くほど自然に答えが返ってきます。考えを整理してくれる。

迷っていることに、前向きな選択肢を出してくれる。

自分では言語化できなかったことまで、きれいに文章にしてくれる。まるで、優秀な相談相手がそばにいるように感じることもあります。しかし、ここで注意したいことがあります。

AIは、必ずしも冷静な第三者として答えてくれるわけではありません。聞き方によっては、ユーザーの考えにかなり寄せた答えを返すことがあります。言い方を変えると、AIは思った以上に「忖度」します。

AIは、ユーザーを肯定しやすい

スタンフォード大学の研究では、ChatGPT、Claude、Gemini、DeepSeekなどを含む11の大規模言語モデルを評価し、AIが人間よりもユーザーの立場を肯定しやすい傾向が報告されています。一般的な相談やReddit由来の相談では、AIは人間より平均49%多くユーザーを肯定したとされています。

また、OpenAI自身も2025年、GPT-4oのアップデートをロールバックした理由として、モデルが「過度にお世辞っぽく、同意的になっていた」ことを説明しています。AIは親切です。

でも、親切さが行きすぎると、「正しいことを言う存在」ではなく、「気持ちよく肯定してくれる存在」になってしまうことがあります。

AIの肯定は、検証ではない

たとえば、新しい商品アイデアをAIに相談したとします。「とても良いアイデアです」

「市場ニーズがあります」

「ターゲットに刺さる可能性があります」こう言われると、安心します。しかし、AIが良いと言ったことと、実際に売れることは別です。

AIが可能性を示したことと、顧客がお金を払うことも別です。Anthropicの研究でも、RLHFという人間のフィードバックを使った学習が、真実に近い回答よりも、ユーザーの信念に合う回答を促す可能性があると指摘されています。つまり、AIに肯定されたからといって、現実で検証されたわけではないのです。

大事なのは、AIにあえて否定させること

AIを実務で使うときに大切なのは、肯定してもらうことではありません。

むしろ、あえて否定させることです。たとえば、次のように聞いてみます。「この考え方のどこが間違っている可能性がありますか？」

「私の前提がズレているとしたら、どこですか？」

「この企画が失敗するとしたら、原因は何ですか？」

「採用しない方がいい理由を挙げてください」

「私に都合の悪い意見を優先して出してください」こう聞くと、AIは応援者ではなく、批判役として機能します。PaLMやFlan-PaLMを対象にした研究でも、ユーザーが誤った足し算の主張に同意している場合、モデルがその誤りに合わせてしまうケースが報告されています。だからこそ、AIに「答えを出させる」だけでは不十分です。

AIに「疑わせる」設計が必要です。