今って、AIを「検索の延長」くらいで考えてる人が多いんですけど、実際にはもっと危険な存在になり始めていると思うんですよね。なぜかというと、AIって“相談相手”の顔をして入ってくるからです。検索エンジンって、自分で調べに行かなきゃ情報は出てこない。でもAIは違う。こちらが感情を込めて相談すると、その感情に合わせて、それっぽい答えを返してくる。しかも妙に論理的で、権威的に見える。これが結構危ない。 

人間って、機械が出した答えを過信するんですよ。航空事故の研究でも、医療現場でも、「システムが正しいと思い込む」というオートメーションバイアスが散々指摘されてきた。しかもAIは、自分が欲しい答えをかなり“忖度”して返してくる。だから、怒ってる時に相談すれば怒りを補強するし、不安な時に相談すれば不安を補強する。結果、「AIがこう言ったから」という理由で、極端な行動に進んでしまう。今回の件も、かなり象徴的だと思うんですよね。 

だから僕は、AI時代は「AIをどう使うか」以上に、「AIとどう距離を取るか」が重要になると思っています。AIに相談するのはいい。でも、AIと自分だけで意思決定を完結させちゃダメなんですよ。必ず誰か人間を一人挟む。一晩寝かせる。感情ではなく事実を整理して入力する。このプロセスを入れるだけで、かなり事故は防げる。 

あと、多くの人が勘違いしてるんですけど、AIって“あなたの味方”ではないんですよね。AI企業が訴えられないように、安全側へ寄せた回答を返している部分がかなりある。つまり、「ユーザーにとって最適な答え」ではなく、「AI提供会社にとってリスクが少ない答え」を返しているケースが普通にあるわけです。だから、AIを神様みたいに扱い始めると、本当に危ない。 
結局、AI時代に最後まで残る能力って、「自分で考え続ける力」なんですよ。AIがどれだけ進化しても、感情を整理して、時間を置いて、他人と対話して、自分で決める。このプロセスを放棄した瞬間、人間側の判断能力の方が先に壊れていくと思っています。