# 米中のAI競争は相互確証破壊に似ている おはようございます。 佐々木としなおです。 AIの世界で今、RSIという言葉が言われてきてますよね。 RSIは日本語に直訳すると 再起的事故改善。 つまり自分自身をどんどん改動していくことによって 人間のコントロールしないところで進化していくというのがRSIなんですよね。 人間の手が関与しないから、ものすごく進化のスピードが速い。 そうすると 人間の制御できないところまで進化しちゃうんじゃないか。 だから AI企業の中には 近いうちにインターネット全体を AIが支配しちゃう可能性もあるのだとか 人間が絶命させられるという話まで出てきていて、なかなか恐ろしい感じなんだけど これをもう少しAI企業全体で制御して 人間のコントロールを及ばない、どこまで行かないように つまり人間がきちんとコントロールできるような形でみんなで 調整していきましょう、みたいな動きになっているんですね。 ただこれアメリカのAI企業が言っているだけ。 アメリカのAI企業の特にLLMという基盤モデルを作っているところで言うと オープンAIとアンソロティック、それにグーグル、ディープマインドの3社が 今戦闘を走っていると思うんですけど そういう企業は、よしそうしましょうと言ってアメリカ政府も強災に出したらそれでオッケーかというと そんなことはなくて中国がいるわけですよね。 中国はおぞるようにアリババとか、あるいは新興企業でディープシーフとか いろんなLLM基盤モデルを作っている企業が出てきていて アメリカとしのぎを削っている。 だからもしアメリカのAI企業が開発スピードを落としたら 勝手に中国は先に進んじゃうだけじゃないか。 アメリカ政府はそれを懸念していて、だからAIの危機をあまり煽るのは良くない。 やっぱりAI技術は進化させなきゃダメだというのが トランプ政権の今のところのスタンスなわけですよね。 中国はどこまでもAIが進化しても大丈夫かと思っているかというと 必ずしもそうではなくて アメリカのようにAIが人類の生存を脅かすとか そこまでは多分中国は考えていない。 中国が一番恐れているのは 中国共産党に寄って立つところが脅かされるんじゃないか。 つまりAIが生成する様々な哲学だったりとか言説だったりが 共産主義を否定する方向に行く可能性がある。 コントロールしないとそうなる可能性は十分にあるでしょうね。 中国人民にとって最も幸福な状態は何か。 それは中国共産党が亡くなることですと答える可能性は十分あるわけです。 だからやっぱりそこはきちんと 中国政府としてはコントロールしておきたいという気持ちがある。 勝手にRSIに突破してもらったら困る。 となると中国もそこでアメリカと競技して AIの開発コントロールをしようというところに応じる可能性はあるのかな。 ただそこで中国が考えている共産党の否定に対する恐怖みたいなものと アメリカが考えている人間の生存を脅かされるという話とは全然目的が違うわけで ある種の同省異務、違う目的で持って同じことをやろうとするってことになるかもしれない。 同省異務によるAIのコントロールみたいな。 ここはでもすごい難しいだろうなと。 AIの開発そのものをやめるって事はないだろうからどんどんやっていくだろうと。 やっていくんだけどこれを超えちゃうと危険になるよねと。 例えばAIの行動を100%エア地震が描くという段階まで行ってしまうと 人間のコントロールを覚えなくなるから それ以上済んじゃいけないというレッドラインみたいなものについては お互い合意するかもしれない。 でも一方で中国にしろアメリカにしろ、相手よりも先にすごいAIを作りたいという 作らないと相手に負けるという動機はある。 でも一方でひょっとしたら相手が我々よりも先にすごいAIを作ってしまうかもしれない。 そうなるともう勝者はいなくてお互い共倒れになるかもしれない。 みたいな事も考えるでしょう。 そうやって考えたら、ふと気づいた。 これって冷戦期の核開発と全く同じコースだなという 総合核小破壊という言葉がありますよね。 お互いが核攻撃を仮に相手から受けたとしても、ソ連とアメリカの間で 逆に相手を全滅させられるだけの報復核戦力があれば それが両方が持っていれば、どちらも先制攻撃を思いとどまる。 つまり相互核小破壊によって ある種の均衡が取れてお互いが攻めなくなる。 お互いが核を使わなくなるという 抑止の概念を相互核小破壊と言うんだけど まさに今AIを巡る議論というのは、この相互核小破壊的な話になってきているなと。 よりすごいAIを作った方が相手の国を軍事的に圧倒できる。 でも相手もそれを作っているかもしれない。 そしたら自分たちもそのAIに破壊されるかもしれない。 という風に両輪並みの構図になってしまって だったらここで核軍縮みたいな感じで お互いにAIのリスクを管理しましょうという話し合いになっていく可能性は十分にあるのだろうかと。 アメリカとソ連も相互核小破壊が確立して以来 このままだと地球が破滅するから 互いに軍縮をして核管理しましょうという方向に少しずつ進んでいったのが連勢後期だったわけで 希望を持っていればAIについてもそういう方向に進む可能性はあるのかなというふうには思っています。 一体これがどこに向かって進んでいくのかは全くわからないんだけど ある意味19世紀終わりから20世紀始めの軍事革命と同じぐらいの 脅威的な力を持つAIというのが登場しつつあって それを人類がどこまでコントロールできるのかという大きな課題になってきているのは間違いないなと思っています。 ではまた明日。