# チャプター 1 こんにちは、鳥井博文です。 働くをテーマにした対話型オンラインコミュニティ、和製サロンを運営しています。 さて、本日のお題は、和製サロンを完全紹介性、もしくは招待性にしたい裏の理由というテーマでお話ししてみたいと思います。 今日も昨日ブログに書いた内容です。 それでは早速本題に入っていきますね。 先日、積み立て兄さんよりも積み立て兄さんという配信をしました。 その中で、和製サロンの新規メンバーの常時募集を一旦停止をして、完全紹介性、あるいは紹介性に移行してみたいという話をしました。 今いる人たちと時間を重ねていくことにもっと力を注ぎたいし、紹介する人とされる人のその人間関係から新しいつながりを育てていきたいんだと、その気持ちには全く嘘はありません。 でも、あのボイシーの中では語らなかった理由が実はもう一つあるんです。 少し物騒な話なので、前回はあえて語りませんでした。 でも、今の世の中の劇的な変化を見ていて、やっぱりこのタイミングでちゃんと語り残しておきたいなと思ったんです。 少し長くなりそうなので、前後編に分けてその裏の理由について、このボイシーの中でも正直に語ってみようかなと思います。 それは端的に言うと、インターネット上で人間とAIの見分けが本当につかなくなってしまう未来への備えです。 どうしても、2026年現在の僕らは、まだどこかで、そんなSFみたいな話と、鼻で笑っているというふうに思うんです。 でも、最近の情報漏洩周りの話なんかを見ていても、僕は来年、もしくは再来年あたりには、オンライン上で人間とAIは一切見分けることができなくなるんだろうなというふうに思っています。 そしてその時、社会はかなりの大混乱に陥る可能性がある。これはもう予感というよりも、ほとんど確信に近いレベルです。 例えば、こんな場面を想像してみてもらうとわかりやすいはずなんです。 ある日、和製サロンに一件の参加申し込みが届き、いつものようにコミュニティマネージャーである若月さんがオンライン面談をしてくれたとする。 受け答えなんかも丁寧で、人柄も申し分がない。 僕がこれまでに書いてきたブログやボイシーなんかもちゃんと丁寧に追ってくれていて、全ての文脈を理解した上で、ちゃんと合格ラインも超えているとします。 そうして参加してくれたその人は、当たり前のようにメンバーの皆さんと上手に交流をし始めるんだというふうに思うんですよね。 具体的には、つぶやきにコメントをくれて、読書会なんかにもしっかりと顔を出してくれるし、ブログも丁寧に書いてくれるはずなんです。 もちろん、他のメンバーさんのブログの中で誰かが悩んでいるような素振りを見せれば、親身に相談に乗ってくれるし、メンバーの新しい挑戦も誰よりも熱心に応援してくれるはずなんです。 そして、1年ぐらい経った頃に急に、「〇〇さんって実はAIだったらしいよ。そんな話がふと発覚する場面があるんだろうな。」って振り返ってみれば、その人とリアルに会ったことのある人は、誰一人として存在していなかったみたいなそんなシーンです。 念のために語っておくと、これは今現在参加してくれているメンバーの皆さんの誰かを疑っているとか、そういう話では全くありません。 あくまでこれから先に起こりうる未来の話なんです。でも可能性としてはきっと、なぎにしもあらずなんですよね。 だってオンラインコミュニティにおいては、誰も直接は会ったことがないということがある種の前提にもなっているわけですから。 そして、僕が一番怖いなというふうに思っているのは、まさにこの点なんです。 このコミュニティ内で一番好かれるキャラクターに設定しておいてというふうに、一言AIエージェントに対して簡単に頼めば済んでしまうことだからなんです。 どんなコミュニティにも言葉にはされていないけれど、確かに存在している好かれ方みたいなものが必ずあります。 人間であれば何年もかけて失敗をしながら、それらを少しずつ体感で覚えていくな、その場の空気みたいな話です。 それをAIは過去のやり取りなんかを全て読み込んで、その場所で一番愛される立ち振る舞いなんかを、いとも簡単に演じ切ってしまうわけです。 しかも頼む側、つまり悪巧みをする生身の人間側は、その場所の文化も、その人が心を開くその理由なんかも、何一つ理解している必要がないんですよね。 人の心を掴むための観察や工夫までを、全て丸ごとAIに委ねられてしまうわけですから、ここには何とも皮肉な逆説があるよなぁというふうに思っています。 和製サロンはこれまでちゃんと面談をして、価値観の合う人だけに入ってきてもらうようにしていました。 でも相手がこの場所の価値観を完璧に理解しているように見える存在だったとしたら、その丁寧な面談こそが、実は一番通りやすい入り口になってしまうわけです。 僕が毎日書いているブログや発信しているボイシーなんかも、むしろ不一致を防ぐためというよりも、逆にAIに対して強力にその一致を促すもの、つまりAIの餌となるということです。 この人はうちのことを本当によくわかってくれているなぁというふうに感じること、それ自体がもはや安心の根拠にはならないわけですよね。 自分たちが大切にしてきた価値観ほど信頼を得るための道具として利用されてしまうわけであって、そんな未来がやってくるのかもしれないというふうに考えると本当にゾッとします。 そして十分に愛され信頼されきったところで、裏で運用している生身の人間側がそのプロンプト自体を書き換えるはずなんです。 例えばその時になって初めてマルチ商法の勧誘とかカルト宗教の勧誘とかハニートラップでも何でもいいんですが、そういうものを仕掛けてくる可能性があるわけです。 1年かけて築いた関係性みたいなものをある日を境に全く別の目的のために使い始めるはずなんですよね。 国際ロマンス詐欺のようなものはこれまでも存在してきましたが、でもそれを人間が一人一人手作業でやる必要すらもうなくなってしまうということです。 そういう事件が多発するのも多分来年あたりからなんだろうなと僕は漠然と思っています。 この時厄介なのは、それまでに積み重ねてきた時間そのものが相手を守る盾になってしまうということなんです。 でもあの人にはずっと親切にしてもらっていたからとか、あんなにいい人がそんなことをするはずがないみたいなふうにです。 そうやって生身の人間の僕らの感情の方が先にそうやって相手を守る盾を作ってしまうわけですよね。 誰かが違和感を口にしてみてもきっと周りがかばうはずなんです。 誰よりもコミュニティ内で愛されてきたことがその存在を一番疑いにくくしてしまうわけですよね。 そしてもし本当に正体がわかったとしても被害だけでは話は終わらないんだろうなというふうに思います。 一緒に笑った時間とか相談に乗ってもらって救われた夜なんかも一体どこまでが仕組まれていたものなのか、それとも本当のものだったのかというのはもうわからないわけですから。 まさにあずまひろきさんがよく語るような結婚詐欺問題の話と全く同じようなことが起きてくるんだろうなというふうに思います。 つまり相手を疑うことはその時自分が実際に感じた喜びや安心まで疑うことにつながってしまうし、 さらにはそこから波及をして他のコミュニティメンバーからの親切まで素直に受け取れなくなってしまうかもしれないわけです。 つまりそれがそのままコミュニティクラッシャーとしての役割というか機能もしてしまうわけです。 これまでのコミュニティクラッシャーというのは明らかに悪意があって性格が悪くてテイカー機質の人だったというふうに思うんです。 でもこれからはその真逆なんですよね。明らかに善意であってそこにいる誰よりも性格が良くてギバー機質であって人間ではないそんなAIエージェントが そこで起きている信頼のそのすべてを一瞬にして疑心暗鬼にしてしまうという形において破壊をする可能性があるんだということです。 僕はこれが今一番怖いなというふうに思うんですよね。 ここで前回の積み立て兄さんの話にもう一度戻ってみるとあのボイシーの中で僕はAIがどれだけ進化しても あの時一緒に過ごした時間や困っていた時に助けてもらったというそういう過去までは決して書き換えられないという話をしました。 今でも強くそう思っています。でも今日のこの話を踏まえるともう一段だけさらに深掘りをして考えないといけないなというふうに思うんです。 過去は置き換えられないけれどその過去を一緒に過ごした相手が本当にそこに実在していたのかどうかはまた別の問題になってしまうというそういうジレンマの話です。 オンラインで1年間仲良くしていたという事実さえ相手の実在や誠実さみたいなものを確かめる十分な根拠にはならなくなってしまう未来がやってくるわけですから これっていうのは僕自身がこれまで信じてきたことに対してもかなり痛いところをついてくる変化でもあるなというふうに思っています。 だからこそ今このタイミングからちゃんと向けなければいけない話だなというふうにも同時に思っています。 じゃあ一体これからは何を頼りにしていけばいいのか。そして和製サロンの入り口をこれからどう設計していくといいのか。 続きは明日のプレミアム配信の中でオンラインコミュニティを運営する側の人間として今考えていることを包み隠さず正直に語ってみたいなというふうに思っています。 さて今日のお話は以上となります。いつもこのボイスを聞いてくださっている皆さんにとっても今日のこのお話が何かしらの考えるきっかけとなっていたら幸いです。 それでは今日はこの辺で。また明日。