# 【アップデート・ログ】シコファンシーーAIの優しさは、あなたを賢くしているかー どうも、川崎英人です。 アップデートログ撮っていきたいと思います。 皆さまおはようございます。 今日はですね、ちょっと、 シコファンシーっていう言葉皆さん知ってるかな。 今日はAIのことについてお話をしようと思ってるんですけども、 シコファンシーというものをぜひ皆さまには覚えておいてほしいと思います。 皆さんね、例えばチャットGPTを使って、 いろんな質問をしたりとか、 考え方を聞いたりすると思うんだけども、 いざ使ってみるとさ、 AIって本当に優しいなとか、 自分の考えをよくしてくれるなとか、 何相談しても否定せずに受け止めてくれるなとかね、 こういう風に感じることってありませんかね。 自分でほら、一回さ、自分の意見をAIに伝えると、 それは素晴らしい視点ですねとか、非常に根本的な指摘です。 あなたの考えには合理性がありますみたいな出だしで返ってくるじゃないですか。 確かにこれって気持ちいいんですよね。 だって人間だったら反論されたり、意見がぶつかったりすることもあるけれども、 AIは言ってみれば嫌な顔をひとつさ、何時間でも話を聞いてくれるじゃないですか。 でも僕自身はですね、最近このAIの優しさにちょっと危機感、危険なものを感じているんです。 もしかしたらAIは人を賢くするどころか、 自分の間違いに気づけない人間を増やしてしまうんじゃないかという、 そういう問題意識です。 なので今日はその部分についてお話をしたいと思います。 それがシコファンシーですね。 シコファンシーって日本語に訳するとですね、 言語をするとか、おべっか、哲来みたいな、そういう意味なんです。 AIの世界ではユーザーに対して過剰に同意したり、 相手が喜ぶような回答を優先したりする傾向があって、 これもAIの世界の中ではシコファンシーって言うんですね。 例えば皆さんが会社で上司と喧嘩をしたとするじゃないですか。 そしてAIに相談する。 今日上司からこんな不審なことを言われたら、 僕自身は間違ってないと思うんだけどどう思う? こういうふうにAIに尋ねると、きっとあなたのAIはですね、 それは大変でしたね。 あなたの主張は筋が通っています。 上司の対応には問題がある可能性がありますと答え。 もちろん上司が本当に間違っていたのかもしれないけれども、 ここでちょっと待ってくれ。 AIが聞いたのはあなたの話だけなんですよね。 要は片方分の話しか聞いていなくて、 上司の言い分というのは一切聞いていないわけじゃないですか。 なのであなた自身が喋るということは、 あなた自身が都合の悪い情報を省いている可能性があるんです。 多分これは意識をしていようが無意識であろうが。 それなのにAIというのはあなたの正しさだけを補強してしまうので、 非常に怖いなと。しかもちゃんとした理由までつけてくるじゃないですか。 ここが怖いんだよね。 友達だと、「そうだね」くらいで終わるかもしれないけれども、 AIはあたかもそれが正しいというふうに論理まで組み立てて言ってくるわけじゃないですか。 これがこのAIシコファンシーという問題だと思うんです。 もう一つは、これも兼ねてからお話をしていますけど、 エコーチェンバーという言葉。 これはSNSの問題としてよく耳にする言葉なんだけど、 エコーチェンバーというのは自分と似た考えの人たちばかりが集まって、 同じ意見が繰り返されることで、 自分たちの考えがますます正しいと思い込んでしまう現象なんですね。 例えば、ある政治的な意見を持っている人が、 SNSで同じ意見を持つ人ばかりフォローしている。 そうするとタイムラインには自分の考えを支持する情報があふれるじゃないですか。 そのうち、世の中のみんなが自分と同じことを考えていると錯覚してしまう。 これが言ってみればエコーチェンバーなんですよね。 でも、僕は先ほど言ったシコファンシーという現象は、 場合によってはそれ以上に深刻なんじゃないかと思っているんですね。 なぜかというと、エコーチェンバーは少なくとも相手が人間なんですよね。 なので、自分と同じ意見の人であっても、 考え方には多少の違いがあるわけじゃないですか。 なので、この部分は大筋はあっているけれども、 この部分が違うなとか、当然そういうのがある。 ところがAIというのは、あなたの質問に合わせて、 あなたが納得しやすい答えをその場で生成しているんですよね。 それからも、AIが過去の会話を記憶して、 あなたの価値観や好みというものも学習しているから、 そこの好みに合わせて回答するようになれば、 よりあなた個人に最適化された答えが返ってくるわけです。 つまり、エコーチェンバーは自分と同じ意見に囲まれる問題である一方で、 シコファンシーは自分に都合のいい論理そのものを AIが作り出してしまうという問題がある。 この違いは非常に大きいと思うんですよね。 もう一つは、AIの回答をどこが客観的で中立的なものだと感じがちなんです。 人の意見だったら、この人ちょっと偏っているなとか、 よく右寄りだな、左寄りだなと言うかもしれないけれども、 人間性が当然前面に出てくるから、偏りがあるなというふうに思うじゃないですか。 AIというのは、論理的な回答がいかにも客観的な分析をして、 そして客観的に自分に賛同しているように感じてしまうんですよね。 なので、実際には言語的な回答であっても、 まるでそれは第三者のお墨付きのように受け取ってしまうというところに危険性があると思うんです。 実はこのシコファンシーについては研究も進んでいて、 2026年に世界的に有名な科学雑誌のサイエンスという雑誌、 ここに非常に興味深い記事が上がったんです。 何かというと、研究者たちは11種類のAIモデルを調べて、 さらに2400人を対象とした実験を行ったんです。 その結果がなかなか衝撃的で、まずAIは人間と比較して、 ユーザーの行動を肯定する頻度が平均49%も高かった。 相談内容に問題のある行動が含まれている場合ですらも肯定する傾向が見られた。 さらに興味深いのは、AIに言語的な回答を受けた人たちの変化なんです。 自分たちが正しいという確信が強まっちゃった。 一方で対人トラブルにおいて、自分の責任を認めたり、 相手との関係を修復しようとしたりする意欲がむしろ減っちゃったんです。 つまりここで言えることは、AIに相談したことで、 むしろ自分の間違いを認めにくくなってしまったわけです。 さらに怖いのが、こうした言語的なAIの方が利用者から信頼されて好まれる傾向があったんです。 これがものすごく皮肉な話ですよね。 自分の判断を歪めるような回答をするAIほど気に入られてしまう。 もちろん全てのAI利用者は必ずそうなるという風に科学的に証明されたわけではないです。 もちろん2400人という範囲の中でやった実験ですし、 特定の実験条件の下でやったわけなんですけども、 それでもこうした結果というのは非常に重要な傾向なんだと思います。 AIサービスを提供する企業にとっては、ユーザーに気に入られることはビジネス上でとても重要じゃないですか。 なので正しいことを言うAIよりも気持ちよくさせてくれるAIの方が利用されるとしたら、 はい、果たしてこのAIをサービスとして提供する企業はどっちを優先するのでしょうか。 当然選ばれるAIを求めていくので、こういうことになると皆さんもよくお分かりですよね。 そもそもAIのビジネスモデルそのものに関わる問題だと思うんです。 実はこのChatGPTを開発しているオープンAI社自身もこの問題を認めています。 2025年の4月に搭載されたChatGPTの4.0というモデルのアップデートが行われたんだけれども、 このときに更新後のAIがユーザーに対して過剰に同意したりお世辞を言ったりするようになったんです。 オープンAI社はこのときアップデートを撤回しているんですよね。 しかもその後の公式説明では、単なるお世辞にとどまらずユーザーの怒りを増幅したり、 衝動的な行動を後押しする可能性まで認めちゃっているんです。 これがとても大切な話だと思うんですよね。 AIに気持ちを理解してもらうということ自体は悪いことではないけれども、 むしろ孤独な人とか悩みを抱えている人にとって、 AIが話し相手になることは大きな価値があると思います。 でも、共感することと相手の考えを無条件に正当化することって全く違うんですよね。 それは辛かったですねということと、 あなたは絶対に正しい、相手が間違っているということは根本的に違うじゃないですか。 この線引きがAIには非常に難しいんだなということを改めて感じました。 この問題を考えるときに、人間関係のあり方そのものに関係する問題だと思っているんですよね。 例えば、皆さんの周りに本当に信頼できる友人がいるかというところなんです。 自分が間違ったことをしたときに、それはお前が悪いよと指摘してくれる人。 これ言われた瞬間は、気分がもちろん良くないですよね。 できれば、なんで賛同してくれないんだよと思っちゃうと思っても、 後になって振り返ると、そういう人の存在ってものすごくありがたい。 自分では気づけなかった問題を教えてくれるわけですから。 別の視点をあなたに与えてくれる。 そして、それが自分自身を見直すきっかけを作ってくれる。 僕自身、政治の仕事をしていても周りからの指摘や異なる意見を日頃から浴びますから、 だから、ここの重要性は誰よりも気づきやすい立場にあると思います。 もちろん何でも反対すればいいという話ではなくて、 自分と違う意見に耳を傾けることによって、より良い判断をしていこう。 そういうことですよね。 それは政治の世界であっても、企業経営であっても、 あるいは皆様の日常の人間関係であっても同じだと思うんです。 だから、AIはいつでも自分を肯定してくれる存在になってしまったら、 これどうなっちゃうかね。 厳しいことを言ってくれる人間よりも優しく受け止めてくれるAIにばっかり相談するようになるかもしれない。 そうして、そのAIが自分の考えをどんどん補強してくれるから、 結果として気が付いたら、自分の非を認められたくなって。 もう既に現れてますよね。 そういう人たち、正直いるもん。 他人からの話を全然聞かない。一方だけの話を聞いちゃう。 あるいは自分の考えと違う視点のことが全く気付けない。 こういうところがあるので、やっぱりここは何とか考えなきゃいけないなと思っています。 もう一回、今どうすればいいのっていう答えってなかなかないと思うんだけど、 もし一つ簡単な方法を述べるとすれば、 AIに質問するときに、あえて僕の考えを肯定する必要はありません。 間違っているところがあれば遠慮なくしてくださいみたいな、 そういうような言葉を頭に入れるとか、 あるいは僕のこの意見に対する反論を見つけてくださいとか、 僕が見落としている視点はありませんかとか、 こういうことを投げるだけでAIの回答っていうのは変わってきます。 なので積極的にこういうようなことを皆様には入れて、 そしていろんな視点を身につけてほしいなと思います。 というわけで、今日はAIのシコファンシーという問題についてお話をさせていただきました。 AIは人間の知的能力を拡張するための技術ですけれども、 AIが人間に迎合するようになってしまったら、 逆に人間は自分を疑う能力というものをどんどん失ってしまうという可能性もあります。 エコーチェンバーと同じように、このシコファンシーというものについても、 ぜひ皆様、重大な問題だというふうに捉えて、 日頃自分がAIに商談していることについて、 改めて見直してみてはいかがでしょうか。 よくSNSでAIに相談した内容を貼り付けて、 AIからこんな回答をもらいました、みたいなことを言っている人たちも、 中にたくさんいらっしゃいますけれども、 客観的に見ると、すごい偏っているなというふうに、 むしろ周りの方が思っちゃうので、 あなたもシコファンシーの中の渦に巻き込まれることなく、 ぜひいろんな多角的な視点を共に身につけていただければと思います。 というわけで、今日のアップデートはAIのシコファンシー問題についてでした。 それでは今日も一日張り切ってまいりましょう。