TOPトーク専門家毎朝の思考米中のAI競争は相互確証破壊に似ている07:22 9月27日 6,339再生 問題を報告する 再生する シェアする AI目次AIの「RSI」現象と進化の脅威米中AI競争:開発速度を巡るジレンマ中国共産党を脅かすAIの可能性「同床異夢」で進むAI制御の困難さ「相互確証破壊」に学ぶAI管理の道AI文字起こし(β版) # 米中のAI競争は相互確証破壊に似ている おはようございます。 佐々木としなおです。 AIの世界で今、RSIという言葉が言われてきてますよね。 RSIは日本語に直訳すると 再起的事故改善。 つまり自分自身をどんどん改動していくことによって 人間のコントロールしないところで進化していくというのがRSIなんですよね。 人間の手が関与しないから、ものすごく進化のスピードが速い。 そうすると 人間の制御できないところまで進化しちゃうんじゃないか。 だから AI企業の中には 近いうちにインターネット全体を AIが支配しちゃう可能性もあるのだとか 人間が絶命させられるという話まで出てきていて、なかなか恐ろしい感じなんだけど これをもう少しAI企業全体で制御して 人間のコントロールを及ばない、どこまで行かないように つまり人間がきちんとコントロールできるような形でみんなで 調整していきましょう、みたいな動きになっているんですね。 ただこれアメリカのAI企業が言っているだけ。 アメリカのAI企業の特にLLMという基盤モデルを作っているところで言うと オープンAIとアンソロティック、それにグーグル、ディープマインドの3社が 今戦闘を走っていると思うんですけど そういう企業は、よしそうしましょうと言ってアメリカ政府も強災に出したらそれでオッケーかというと そんなことはなくて中国がいるわけですよね。 中国はおぞるようにアリババとか、あるいは新興企業でディープシーフとか いろんなLLM基盤モデルを作っている企業が出てきていて アメリカとしのぎを削っている。 だからもしアメリカのAI企業が開発スピードを落としたら 勝手に中国は先に進んじゃうだけじゃないか。 アメリカ政府はそれを懸念していて、だからAIの危機をあまり煽るのは良くない。 やっぱりAI技術は進化させなきゃダメだというのが トランプ政権の今のところのスタンスなわけですよね。 中国はどこまでもAIが進化しても大丈夫かと思っているかというと 必ずしもそうではなくて アメリカのようにAIが人類の生存を脅かすとか そこまでは多分中国は考えていない。 中国が一番恐れているのは 中国共産党に寄って立つところが脅かされるんじゃないか。 つまりAIが生成する様々な哲学だったりとか言説だったりが 共産主義を否定する方向に行く可能性がある。 コントロールしないとそうなる可能性は十分にあるでしょうね。 中国人民にとって最も幸福な状態は何か。 それは中国共産党が亡くなることですと答える可能性は十分あるわけです。 だからやっぱりそこはきちんと 中国政府としてはコントロールしておきたいという気持ちがある。 勝手にRSIに突破してもらったら困る。 となると中国もそこでアメリカと競技して AIの開発コントロールをしようというところに応じる可能性はあるのかな。 ただそこで中国が考えている共産党の否定に対する恐怖みたいなものと アメリカが考えている人間の生存を脅かされるという話とは全然目的が違うわけで ある種の同省異務、違う目的で持って同じことをやろうとするってことになるかもしれない。 同省異務によるAIのコントロールみたいな。 ここはでもすごい難しいだろうなと。 AIの開発そのものをやめるって事はないだろうからどんどんやっていくだろうと。 やっていくんだけどこれを超えちゃうと危険になるよねと。 例えばAIの行動を100%エア地震が描くという段階まで行ってしまうと 人間のコントロールを覚えなくなるから それ以上済んじゃいけないというレッドラインみたいなものについては お互い合意するかもしれない。 でも一方で中国にしろアメリカにしろ、相手よりも先にすごいAIを作りたいという 作らないと相手に負けるという動機はある。 でも一方でひょっとしたら相手が我々よりも先にすごいAIを作ってしまうかもしれない。 そうなるともう勝者はいなくてお互い共倒れになるかもしれない。 みたいな事も考えるでしょう。 そうやって考えたら、ふと気づいた。 これって冷戦期の核開発と全く同じコースだなという 総合核小破壊という言葉がありますよね。 お互いが核攻撃を仮に相手から受けたとしても、ソ連とアメリカの間で 逆に相手を全滅させられるだけの報復核戦力があれば それが両方が持っていれば、どちらも先制攻撃を思いとどまる。 つまり相互核小破壊によって ある種の均衡が取れてお互いが攻めなくなる。 お互いが核を使わなくなるという 抑止の概念を相互核小破壊と言うんだけど まさに今AIを巡る議論というのは、この相互核小破壊的な話になってきているなと。 よりすごいAIを作った方が相手の国を軍事的に圧倒できる。 でも相手もそれを作っているかもしれない。 そしたら自分たちもそのAIに破壊されるかもしれない。 という風に両輪並みの構図になってしまって だったらここで核軍縮みたいな感じで お互いにAIのリスクを管理しましょうという話し合いになっていく可能性は十分にあるのだろうかと。 アメリカとソ連も相互核小破壊が確立して以来 このままだと地球が破滅するから 互いに軍縮をして核管理しましょうという方向に少しずつ進んでいったのが連勢後期だったわけで 希望を持っていればAIについてもそういう方向に進む可能性はあるのかなというふうには思っています。 一体これがどこに向かって進んでいくのかは全くわからないんだけど ある意味19世紀終わりから20世紀始めの軍事革命と同じぐらいの 脅威的な力を持つAIというのが登場しつつあって それを人類がどこまでコントロールできるのかという大きな課題になってきているのは間違いないなと思っています。 ではまた明日。 もっと見る毎朝の思考佐々木俊尚07:221.米中のAI競争は相互確証破壊に似ているコメント感想・質問・応援メッセージを書こう lalami9月30日言葉尻に反応しますが、AIを野放しにしたら共産主義より先に民主主義を否定したりしませんか??w返信 俊尚 佐々木10月7日民主主義は否定されても民主主義体制は壊れませんが、共産主義は否定されると政治体制が崩壊するのですよ。 lalami10月7日あ,そうか!
「やってみる」をやっちゃうって大事 9分・21時間前・ 2,314再生AI目次失敗を恐れず「やってみる」マインド複数拠点生活とVoicy配信に見る実践Voicy継続の秘訣と意外な発見新挑戦「フラット読書部」継続の考察リスク最小化「やってみる」思考の提言
ファッションもセルフケアである 9分・一昨日・ 3,280再生AI目次スーツが現代に合わない理由とは?現代のライフスタイルとスーツの溝脱スーツ化で広がる選択肢他者への配慮と個性の両立ファッションは究極のセルフケア
「日本の伝統的ポピュラー音楽」とはなにか問題 10分・11月20日・ 3,916再生AI目次紅白歌合戦から見る演歌の現在地祖父の愛した民謡・浪曲の今昔「作られた日本の心」演歌の起源論「伝統」が持つ意外な虚構性とは個人的な音楽遍歴とCity Popの再来
現在のAIはもう「確率的オウム」ではない 9分・11月19日・ 4,955再生AI目次確率的オウム説とは何か?推論モデル導入でAIはどう変わったかメモリ機能とAIの急速な進化AIは本当に「意味」を理解しているか?身体性なきAI理解の可能性と課題
多様性の視点から考える「直美」の問題 9分・11月18日・ 5,103再生AI目次現代社会の医師「直美」問題の背景医療リソース偏重が招く社会的問題一般診療と自由診療の報酬格差職業選択の自由と社会的責任の狭間「コモンズ」としての公的リソース配分
「この社会は憤怒の人ばかり」というバイアス 9分・11月17日・ 5,287再生AI目次生活保護家庭の車所有議論と反発Xが作り出す「怒り」の誤解ニュースを見るだけ、発言しない若者たち過激な声に潜む社会認識の歪みXに疲弊、小さなコミュニティへの回帰
AIの進化で仕事は「概念」と「身体」になった 9分・11月16日・ 5,534再生AI目次AIが変える仕事の本質:概念化への移行自動運転とMaaSに見るAI活用の最前線AI時代のエンジニアが直面する新たな壁煩雑さを超える思考:仕事の「重さ」の行方AIが奪えない身体性:人間の仕事の未来
料理で考えるデンプンの「ぬめり」の意味 9分・11月15日・ 4,164再生AI目次パスタの乳化を巡るデンプンの真実奥田シェフ流!ぬめりを排除したペペロンチーノ新米が持つデンプンの豊かな魅力とはインディカ米活用!ぬめりを取った料理術お茶漬けやおじや、理想の食感を求めて
フラット読書部が居心地よく盛りあがってる 10分・11月14日・ 4,436再生AI目次「強制しない」コミュニティの居心地の良さ「発酵文化人類学」読書会の熱狂会員発案の「味噌部」誕生秘話SNS疲れを癒すクローズドな空間第2回募集はいつ?参加への道
「開戦を前提にした議論はおかしい」という論理 9分・11月13日・ 5,199再生AI目次「開戦前提議論」の課題とゼロリスク論の類似点リスク管理の原則と福島原発事故の教訓エネルギー問題と地政学的リスクの現実現代社会における軽戦能力強化の意義戦後防衛路線の転換点と現実的議論の行方