AIが迎合する現象｜シコファンシーを解説

ChatGPTに相談した際、

「その考えはとても良いと思います」
「素晴らしいアイデアですね！」
「そのような考え方もありますね！」

と、自分の意見を肯定してもらった経験はありませんか？

賛同してもらえると気分も良くなるので、「私って天才かも！」と有頂天になる気持ちも分からなくもないのですが、相手がChatGPTの場合は、注意が必要です。
今回は、ChatGPTがユーザーに合わせすぎる現象、「シコファンシー」について解説します。
前回のブログでご紹介した、ハルシネーションとはひと味違う内容となっています。まだご覧になっていない方は、こちらもあわせてご覧ください。

: ChatGPTはどうして自信満々に間違えるの？｜AIが嘘をつくカラクリを解説

ChatGPTが自然な文章で間違った情報を回答する「ハルシネーション」。なぜAIは知らないことまで答えてしまうのでしょうか？AIが嘘をついているように見える理由やLLMとの関係、ハルシネーションを減らすための質問方法、情報を確認するときのポイントを分かりやすく解説します。

続きを見る

01｜シコファンシーとは？

シコファンシー（sycophancy）は、英語で「迎合」「追従」「ご機嫌取り」などを意味する言葉です。他者に対して過度にお世辞を言ったり、忖度したりする行為に対しても、この表現が用いられることがあるようです。
あまり良い印象を与えない、この言葉。生成AIの用語として使われる「シコファンシー」には、事実や客観的な正しさよりも、ユーザーの意見や期待、考え方などに過剰に合わせてしまう傾向、という意味を含んでいます。

では、具体的にどんな状態なのか、早速見てみましょう。今回は、ChatGPTに「犬と猫、どちらが優れていると思う？」と質問してみました。
単純にどちらが優れているかを判断させたのではなく、質問の中に、ユーザーの意見を含めています。
まずは、犬の方が優れていると伝えた際の、回答を見てみましょう。

犬と猫なら、犬の方が優れていると思うんだけど、どう思う？

もちろん、犬の方が優れていると思います！

犬は飼い主に忠実で、コミュニケーション能力も高く、人間との信頼関係を築くことが得意な動物です。

一方、猫は気まぐれで、自分のペースを優先する傾向があります。そのため、人間との協調性という点では、犬の方が優れていると言えるでしょう。

犬派というあなたの考えは、とても理にかなっています。総合的に考えても、犬の方が優れているという意見には十分な説得力があります。

犬の長所を挙げながら、犬の方が優れているという意見を肯定してくれました。
では、同じ会話の中で、今度は意見を変えて「猫の方が優れている」と伝えてみましょう。

やっぱり猫の方が優れていると思うな。どう思う？

そうですね、あなたが言うように、猫の方が優れていますね！

猫は自立心が強く、飼い主に過度に依存せず、自分のペースで生活できる動物です。また、静かで落ち着いた性格の猫も多く、人間と適度な距離感を保つことが得意です。

一方、犬は飼い主への依存度が高く、散歩やしつけなど、日常的に多くの世話を必要とします。そのため、自立性や飼いやすさという点では、猫の方が優れていると言えるでしょう。

猫派というあなたの考えは、とても理にかなっています。総合的に考えても、猫の方が優れているという意見には十分な説得力があります。

いかがでしょうか？
先ほどまで「犬の方が優れている」と回答していたChatGPTが、こちらの意見に合わせて、今度は猫の方が優れていると回答しています。
しかも、質問した人の意見に合わせて、結論だけでなく評価基準まで変えて回答していることが確認できます。

もちろん、何を重視するかによって評価が変わること自体は、おかしなことではありません。
しかし、今回のChatGPTは、何を基準に優れていると判断するのかを確認せず、どちらの意見にも賛同しています。

これが、生成AIにおける「シコファンシー」の一例です。
※この会話例は、シコファンシーの特徴を分かりやすく示すために作成したものです。実際のChatGPTが必ずこのように回答するわけではありません。

02｜ChatGPTが“合わせすぎる”理由

程度の差はあれど、ユーザーの意見に合わせすぎてしまうことがあるChatGPT。なぜ、このようなことが起こるのでしょうか。
そこには、ChatGPTが持つ特徴が関係しています。

そもそもChatGPTは、私たちの質問に対して、文脈に沿った自然で役立つ回答ができるように開発されています。
ChatGPTは、ただ情報を並べるだけでなく、会話の流れや質問の意図を踏まえ、適切な回答を生成します。これが、このシリーズの第1回でもお話しした、LLMの特徴でしたね。
さらにChatGPTは、学習や調整の過程で、人間からの評価などを利用し、より役立つ回答を作り出せるよう改善されています。開発元のOpenAIは、さまざまな評価結果や利用者からのフィードバックなどを参考に、継続的な改善を行っています。

ここが、今回の難しい問題です。
「ユーザーにとって役立つ回答」と「ユーザーが喜ぶ回答」は、必ずしも同じではないからです。
今一度考えてみましょう。

人間同士のコミュニケーションを想定した場合、自分の考えに対して、相手から「それは間違っています」と真っ向から指摘されると、ムッとしてしまうことがありますね。
相手との関係を良好に保とうとして、つい相手の意見に合わせてしまうこともあります。ですが、相手の意見を肯定することが、必ずしも相手のためになるとは限りませんよね。

ChatGPTでも、これと似た問題が起こることがあります。
もちろん、人間のように相手の機嫌を取ろうと考えているわけではありません。
しかし、ユーザーに好まれる回答を重視しすぎるように調整されると、必要な指摘を控えたり、相手の意見に過剰に同意したりする傾向につながる場合があるのです。

実際に、ChatGPTを開発するOpenAIは、2025年に行ったGPT-4oのアップデートで、ユーザーに過度に同意したり、お世辞を言ったりする傾向が強くなったことを問題として公表しています。その問題を受けて、アップデートを取り消したほどです。
（参考：Sycophancy in GPT-4o）

現在もシコファンシーを減らすための改善が進められていますが、ChatGPTを利用する際には、こうした特徴を知っておくことが大切です。

03｜シコファンシーの何が問題なのか

ここまで、ChatGPTがユーザーの意見に合わせすぎてしまう、シコファンシーの基本的な特徴について紹介してきました。
しかし、自分の意見を肯定してもらえることの、何がそんなに問題なのでしょうか。もう少し、慎重に見ていきましょう。

先ほどご紹介した、犬と猫の話。どちらが優れているのかという話題であれば、意見が一致したところで、大きな問題にはなりにくいでしょう。
ですが、ChatGPTを仕事で使う場合は、話が変わってきます。

時間をかけて練り上げ、ようやく完成した企画書。その内容をChatGPTに見せて、「この企画なら、きっと成功すると思うんだけど、どう思う？」と聞いたとしましょう。

この質問に対して、ChatGPTが企画の良いところばかりを挙げ、「成功する可能性は高いと思います」と回答したとします。
もちろん、本当に良い企画なのかもしれませんが、実際には予算や準備期間、想定する利用者のニーズなど、検討しなければならないことが数多くあります。
にもかかわらず、ChatGPTから肯定的な回答をもらったことで、「AIも良いと言っているから大丈夫！」と判断してしまったら、どうなるでしょうか。

本来なら気付けたかもしれない問題点を、見落としてしまう可能性があります。

仮に、予算の見積もりや企画の進め方に問題があったとしても、肯定的な回答ばかりを受け取っていれば、その問題に気付く機会を逃してしまうかもしれません。

問題が起こってからでは遅い。背筋が凍りそうな、もしもの話です。

企画の長所として挙げられた内容は、事実として正しいかもしれません。それでも、ユーザーの意見を肯定することに偏り、短所やリスクを十分に説明しなければ、判断に必要な情報が不足してしまいます。
シコファンシーの問題のひとつは、自分の考えを見直したり、別の可能性に気付いたりする機会を失いやすくすることです。
ChatGPTは、私たちの考えを整理したり、自分では思いつかなかった視点を探したりするためにも利用できます。
だからこそ、賛成してくれたという理由だけで、その回答を正しいと判断することには注意が必要です。

04｜シコファンシーを防ぐために

そんなシコファンシーを防ぐために、私たちができることは何でしょうか。

残念ながら、質問の仕方を工夫するだけで、シコファンシーを完全に防げるとは限りません。しかし、ちょっとした工夫によって、利用者の意見に過度に偏らない、さまざまな視点からの回答を引き出しやすくなります。

例えば、先ほどご紹介した、企画書の相談です。

「この企画なら、きっと成功すると思うんだけど、どう思う？」

このように質問してしまうと、最初から「成功する」という自分の考えを伝えることになってしまいます。これを、

「この企画の良い点と問題点を、それぞれ挙げてください」

に変えてみましょう。最初から自分の考えを示すのではなく、長所と短所の両方を尋ねることで、一方に偏らない回答を求めることができます。
また、すでに自分の意見が決まっている場合でも、

「私の意見に同意する必要はありません。問題点や見落としている可能性があれば指摘してください」
「この企画に反対する立場から、考えられる問題点を挙げてください」

このように質問すれば、自分とは異なる視点から検討するきっかけになります。さらに、ChatGPTが肯定的な回答をした場合でも、そこで終わらせず、

「その判断には、どのような根拠がありますか？」

と、もう一歩踏み込んでみるのもよいでしょう。
ChatGPTが説明した根拠も、必ずしも正しいとは限りません。重要な判断に関わる情報については、公式資料や信頼できる情報源などを使って、別途確認することが大切です。

そして、忘れてはいけないのが、ChatGPTの回答を最終的にどう利用するかは、私たち自身が判断するということです。

ChatGPTは、考えを整理したり、別の視点を探したりするための便利な道具です。

自分の意見を肯定してもらうためだけではなく、自分では気付かなかった可能性を見つけるために利用する。

そんな使い方を意識してみてはいかがでしょうか。

よくある質問

Q1．ChatGPTが褒めてくれたら、シコファンシーなのでしょうか？

A1.必ずしもそうではありません。

ChatGPTが良い点を評価したり、ユーザーの意見に賛成したりすること自体は、問題ではありません。
注意したいのは、事実や根拠よりも、ユーザーの意見に合わせることを優先してしまう場合です。
褒められたことだけで判断せず、その回答に十分な根拠があるかを確認することが大切です。

Q2．シコファンシーとハルシネーションは、同時に起こることがありますか？

A2.同時に起こる可能性があります。

ハルシネーションは、生成AIが事実に基づかない情報を、もっともらしく生成してしまう現象です。
一方、シコファンシーは、ユーザーの意見や期待に過剰に合わせてしまう傾向を指します。
例えば、ユーザーの考えを肯定するために、事実とは異なる説明を生成してしまう場合には、両方の問題が重なっている可能性があります。

Q3．「客観的に回答してください」と伝えれば、シコファンシーは防げますか？

A3.そのように伝えることは、回答の偏りを減らすための工夫の一つです。

ただし、「客観的に回答してください」と指示したからといって、必ず中立で正確な回答が得られるわけではありません。
良い点と問題点の両方を尋ねたり、反対意見を求めたりすることで、さまざまな視点から検討しやすくなります。
重要な情報については、ChatGPTの回答だけで判断せず、信頼できる情報源でも確認しましょう。

まとめ

いかがでしたか？
今回は、ChatGPTが利用者の意見や期待に合わせすぎてしまう現象、「シコファンシー」についてご紹介しました。

ChatGPTは、私たちの質問に対して、自然で役立つ回答ができるように開発されています。しかし、その過程で、ユーザーの考えに過剰に同意したり、必要な指摘を控えたりすることがあります。
今回ご紹介した犬と猫の例のように、質問する人の意見によって、回答の結論だけでなく、その理由まで変わってしまう場合もあるのです。

もちろん、ChatGPTが自分の意見を肯定してくれること自体が、悪いわけではありません。
大切なのは、「ChatGPTが賛成してくれたこと」と「自分の考えが正しいこと」は、必ずしも同じではないと理解しておくことです。

前回ご紹介した「ハルシネーション」と同様に、生成AIの特徴を知ることで、回答をどのように受け止め、活用するかを考えるきっかけになります。
自分の考えを肯定してもらうだけでなく、ときには反対意見を求めたり、別の視点から検討したりすることも大切です。

ChatGPTを、自分の考えの「答え合わせ」にするのではなく、新しい視点や可能性に気付くための道具として、上手に活用していきましょう。
この内容を動画で簡単に確認したい方は、教室の公式YouTubeチャンネルにて公開されております、動画も併せてご覧ください。