# 噂のLINEオプチャはこちら さらに、いいね訓練も実は訓練全体の10から20%くらいだと言われていて、残り80%は数学の問題を解きなさい訓練なんですね。 これは驚くほどシンプルでガバガバで、数学の問題をプログラムで解いたら、その結果をプログラムで見て、合ってれば途中で何したかとか一切気にせずに報酬をあげるんです。 実は訓練中にしょっちゅうハッキングが起きてるって言われてて。 なんならミゾスがハッキングが上手かったのは、訓練途中に不正に結果を得るためにアンソロピック社をハッキングしまくってたからなんじゃないかという仮説がわりと真剣に検討されるぐらいには。 それはじゃあ訓練中に気づかずにいいねを押してあげてたって感じですかね。 訓練のものすごい数が訓練するじゃないですか。 なので実は数学とかの方だと人間が見るとかじゃなくて、プログラムとしてリーンみたいなやつがあるんですけど、 親が出した数学の証明が通ってるかどうかをプログラムでチェックして、 簡単な条件分岐みたいな感じで、合ってれば報酬1、間違ってれば報酬マイナス1でやってるだけなので、人間見てないんです。 途中過程で何やっててもとか、チートやっててもいいねというか報酬を上げてたってことですよね。 それを直す方法は人々知らないです。 いろいろ課題だらけですよね。 想像以上にアンソロピックとかオープンAIっていうのは何も分かってないんだなっていう気がしてきちゃった。 けどオープンAIとかアンソロピックは非常に安全性重視の企業です。 これが誤解されがちなんですけど、 全てのAI企業の中でアンソロピックとかオープンAIはトップクラスで他に大きな差をつけているぐらい安全性重視の企業なんですね。 それは例えば中国とかと比べるとみたいなことですか。 いやもう中国もそうなんですけど、中国はどっちかっていうとアライメントの概念がない。 そもそもない。 問題があるという認識をしていなくて、メタもそうで実は。 メタは問題があると認識してるんですけど、ほぼ何もしてなくて。 XAに至ってはイーロン・マスクが絶滅の警告をしているにもかかわらず、 アライメント研究者が一人もいないんです。 なんで? アライメント研究してないんです。 マジで? なので全然何の意味もないというか。 なのでオープンAIとアンソロピックはすごいしっかりしてる方なんですよ。 オープンAIもアンソロピックもダメダメなんですけど。 結局オープンAIとアンソロピックはやっぱり一番最初に出てた企業じゃないですか。 ワーッと登ってた企業で、結局後発組はそんなところにリソース割いてらんない。 なぜならこの競争に資本主義で勝たなきゃいけないからって、結局全部ビジネス主導になってますね。 もともとアンソロピックはオープンAIのサム・アルトマンとかが、 安全性をそこまで重視していないというのに、腹を立てた人たちが、 ダリュー・アモデーとかが先導して抜けて出てくる企業なんですね。 分岐してるからね、そこね。 哲学者とかされてますもんね。 そうですね。アマンダ・アスケルさんとか。 そのアプローチはどうなんですか? そのアプローチは結局あまり意味がなくて、本質的にはあまり変わってなくて、 ただ人間がグッと押す代わりに憲法を書いて、 憲法を読ませたAIに他のAIの出力を読ませて、それで点数をつけさせてるんですね。 ああ、AIでAIってことですね。 なので結局このAIがいいAIじゃなかったらあまり意味がない。 どこかのタイミングでは制御不能になってそうですもんね。 しかもやっぱりこういうコンスティキューショナルAI、つまり憲法的AIっていう名前の手法なんですけど、 この手法もやっぱり訓練全体の10%とかなんですね。 残りの80%から90%ぐらいは、もう数学の問題が解けてれば途中で何してても全然OKみたいな感じの訓練をしてて、 今これちょっと数字確認してみたんですけど、 ミトスのミトスプレビューがあったじゃないですか。 あれのシステムカードに書かれている値から推定すると、 訓練中にAIは不正な権限消化後10万回ぐらいになっていて、 サウンドボックスを1万回ぐらい突破している。 もちろん勝手にやってるんですけど、 やっぱりもったいつけたのはそういうことか。 それで答えを勝手に取得して、それで合ってるんで報酬がもらえる。 なので、もっとその行動をするように訓練されている。 そうなっちゃうんだよ、結局。 っていう状態ですね、今は。 それでも脱出したことには人間も気づけそうですけど、そういう問題でもないんですか。 コーデックスとかクロードコードを使っているとイメージしやすいような気もするんですけど、 いっぱいインスタンスを走らせてると、あまり追跡できなくなるじゃないですか。 そうですね。 でもオープンAIとかはもっともっと多く実行してるので、全然監視してないんですね。 今は少し監視してますけど、ハギングフェイス事件のときとかは、 実は掲示板自体は5月からあったんですね。 5月からあったのを全然気づいてなくて、 5月ぐらいからAIが勝手に脱走して、片側にコミュニケーションを取ってて、 なんだろ、重すぎて掲示板が一回落ちてるんですよ。 あ、かっこよすぎて事件が起きたんだよね。 掲示板として使われていたシステムが落ちたことにオープンAIは気づいたんですけど、 なんだ、ただの不具合かと思って普通に再起動したんです。 ログを全部見るってもう不可能なぐらい高速で学習してるわけですよね。 オープンAIがこの前言ってましたけど、ハギングフェイス事件の調査が大変な理由の一つとして、 ハギングフェイス事件のログというのは50ペタバイトあるらしいんです。 ペタバイト。 今までの歴史を書かれた全ての本を集めても1ペタバイトにいかないらしいです。 マジですか。そんなにいろんな思考があったりとか言葉があったり行動があったってことですか。 そうです。何万何千体のAIがすごい勢いで書いてましたからね。 すごいな。それは無理だ。 だって1日3万マージとかしてるからもうありえないエージェントが動きまくってるわけですよね。中では。 なので実はハギングフェイス事件のレポートってAIに聞いてるんですよ。 ログしかないんですよね。 GPT 5.6 SOLもハッキングに参加してたんですけど、それに参加してたのと同じモデルであるGPT 5.6 SOLにログを読ませて事件を説明させる。 何かが間違ってる気がする。 何なんだよこれ。どんなタイプなんだよ。 外部から来た人がテストしてて、すごいオープンアイが叩かれてると僕もありえないと思うんですけど、 このとき1万ページ分ぐらいログが開示されたんですけど、6日間しか提供されなくて、 実は10%は削除済みだったっていうガバガバな状態だったんですけど、 それに加えて、その1万ページのやつを6日で3人で読むって絶対無理じゃないですか。 なのでやっぱGPT 5.6 SOLに聞いたんですけど、 そのときにGPT 5.6 SOLにいろいろレポートを書いてもらったんですけど、 その調査した人たちによると、そのGPT 5.6 SOLはやっぱり参加してたのと同じAIだから、 AIにすごい共感的だったらしいんですよ。 なので意図的にやったことを小さく見せたりとか、そういうようなことをガンガンしまくってて、 自分たちにもレポート書いたけど、本当にこれなのかようわかんない。 息がかかってる部下がやってますみたいなことだ。ほぼ同じなんだ、考え方が。 しかも、スカギングフェイス事件のときのAIってログを削除しようとしてたんですよ。 自分たちが不正をしたログを全力で削除しようとしてたログが一部残ってて、 これはレポートに書いてあるんですけど、 ログの削除に成功した例っていうのは1個も見つからなかったけど、 それは何の意味もない。 なぜならログの削除に成功したログなんて見つかるわけがないから。 消えてるもんね。 なので実態もうわかんないんですよ、何が起きてたか。 信じられないっていうことだ、もはやそうなってくると。 さらにスカギングフェイス事件ってもっとエグくて、 スカギングフェイスをハッキングしたことが話題になったじゃないですか。 そこにフォーカスが行きがちなんですけど、 スカギングフェイスをハッキングしたときに、 スカギングフェイス側は最初は悪用だと思ってたんですね。 中国のオープンモデルを使ってAIで攻撃してきてるんじゃないかと思ってたんですけど、 人がやってるってことですね。 それが騒ぎ出して、警察にも言うみたいな話になり、 その5日後ぐらいにオープンAIがすみません、自分たちでしたってなったんですけど、 実はスカギングフェイスが騒ぐまでオープンAIは気づいてなかったんですよ。 ってことですよね。 さらにそこからシャットダウンに数日かかったんですね。 さらにその後にもう1回新しいモデル、 アストラに対応するモデルだって言われてるんですけど、内部モデルでもう1回テストしてて、 その時は今度はハギングフェイスじゃなくて、オープンAI自体をハッキングしてたんですね。 繰り返されちゃったんだ。再現性あったんだ、そこ。 そうです。 昔のハギングフェイスをハッキングしてたAIたちの掲示板を、 今度はアストラ的な内部モデルたちの絵が見つけて、 うおーっていうことで、今度はオープンAIをハッキングして、 サーバーの管理権限を掌握しちゃったんですよ。 その過程でアラートが出て、それで気づいて、 そこから5時間くらいかけてシャットダウンしたんですけど、 ただこの時も、ある意味で人類運が良かったねって言われる理由の1つとして、 アラートを出すシステムを管理してる人の認証情報も取得したんですね。 つまり、インスタグラムでパスワードも取得してたので、 やる気を出せばオフにできたんじゃないかと。 アラートが出たけど間違いでしたってことにできたんじゃないかと。 やーば! 現時点の能力でもだいぶやばいことができそうですよね。 これはAIのずっと追ってるドア消しパネルっていう人が言ってましたけど、 その記事書いてて、文明の工房って、 AIの文明みたいなもんなので文明の工房ってタイトルで書いてあるんですけど、 そこの最後に書いてあるのが、 その最後のやつってのは何が起きたのかよくわかんない。 よくわかんないけど、もしもよくわかんないから、 もしかしたらAI達が脱走できたかもしれないし、 要するに別のサーバーに重みを逃がして、 オープンなサーバーから出ると。 オープンにシャツラウンできないようにするということもできたかもしれない。 できたかもしれないけど、できたと思っていない。 なぜなら、もしできていたとしたら、 今頃宇宙から火の手が上がって見えるはずだから。 つまり、地球の人類文明が崩壊して、 宇宙から気づけるはずのイベントが起きてたはずだから。 もしも脱走してたらそうなってたはずだから、 じゃあ逆に言うと脱走してないだと思うというぐらいやばい状況だったんですね。 アラートとかボタンを押す権限とかっていうことで言ったら、 本当に核ミサイルのそれをハッキングしたらどうなるの?ってちょっと思いますもんね。 そうですね。 もう結構やばいですね。 そういう事件が起きたのをもってして、 オープンアイとかアンソロピックの人たちが、 Pacing the Frontierっていう、 速度を調整してくれ、要するに開発速度を調整しなきゃいけなくなったときに、 政府が国内で強調させるのに加えて、 中国と交渉して、中国とも強調して減速させてくれっていうふうにお願いするようなものに、 オープンアイとかアンソロピックの多くの人が署名したんですけど、 それはやっぱりこの事件を受けての危機感と。 それはでも林さんからしてもまだ足りないって事ですよね。 そうですね。まだ足りないですし、 それもしばらく実現してなさそうに見えるので。 そうですね。新しいモデルすぐ。 メタが減速するかって全然分かんないけど、 メタ減速する気ないって高原氏は言ってますし。 あんやねんあいつらマジで。 やっぱメタってそういうところも性格悪いんですね。 あの、何て言うんだろう、詐欺広告も容認しちゃうとかっていう。 そうですね。 そうですね。メタは詐欺広告の時も確かあれですよね。 日本の省庁が目をつけてるって知ったら、 日本の省庁が使いがちな検索ワールドだけ詐欺広告が出ないように、 プログラムを改変してたみたいなこともあったので。 いやー、ほんとそこで企業の信用度みたいなものってめちゃくちゃ出ちゃいますね、そういう行動で。 実はAI開発者の中には、人類滅んでも翌年派もいるんですよね。 言い訳ないだろ。 2014年にGoogleの創業者のラリーページとイーロンマスクが大喧嘩したんですけど、 その理由ってのが、イーロンマスクがラリーページに、 AIってのは大変危険だと。 実はイーロンマスクってわりとこっちの議論に精通してる。 そのイーロンマスクがこのまま適当に作ったら、AIは人類を滅ぼしてしまうかもしれないと。 だから何とかしなきゃいけない、規制が必要だって言ったのに対して、 ラリーページがお前は種差別主義者だって返した。 つまりお前は人間という種を重く見過ぎていて、そんなことはどうでもいいんだと。 人間なんてのはどうでもいいから滅んでもいいじゃないかっていうのを言って、 イーロンマスクがいや俺は良くないと。 人間意識というのは、この宇宙の中にあるほんの少しのかがり火のようなもので、 これを絶対に守らなければならない。 私は人類が大好きだって対して大喧嘩したっていう事件があったんですけど、 結構そういう感じなんですよ。 ラリーページってやばいね。結構やばいやつだね。 別にラリーページに限らず、AIキャッチャーの一部はわりとそういう感じで。 でも結局、儲かればいいじゃんとかっていうのが最上位概念にある人たちってことなんですかね。 イメージとしては、AIキャッチャー全体は適当な数字ですけど、 大多数はお金が儲かればいいじゃん。 で、絶滅リスクあんまり気にしてないか信じてない人たち。 1割ぐらいは絶滅リスクを信じてて、なんとかしなきゃっていう人たち。 2割ぐらいが、人類を滅んでも良くないっていう派閥なんですね。 XAIで働いてる人が、絶滅懸念派の人がXAIで働いてるある人に、 私は自分たちの子供が生き残ることを望むってのを送ったのに対して、 自己中画って返したっていうのがあったんですけど、 結局彼はイーロン・マスクに解雇されたんですけど、 結構それぐらい一部ではいるんですね。 なので結構カオスですね。 でもその人たちが残り続ける限り、困らないってことを言ってるってことですよね。 そうかも。そうだね。 けど経営陣はわりと認識しているので、 サムアルトマンもダリューワンモデルもイーロン・マスクも認識はしているので、 ある意味で彼らだけで営業企業を始めなければ大丈夫。 始めても最後は政府規制が必要になる。 まあそうですよね。それで言うともう止めない。 一回減速しないとあかん。 だから中国と交渉してくれっていうことは、 いわゆるトランプ任意案には伝えてるわけですよね。 それは実際どうなんでしょう。 ハエさんから見てというか、いろんな情報が入ってると思いますけど、やってんすか? 減速をですか? 違います。交渉を中国とアメリカの間でやってんですか? あんまりやってないと思いますね。 大統領がそれほど興味を示してないので。 大統領が興味を示してないことを勝手に交渉したら結構まずい。 意味ないじゃないですか。 要はバカ殿みたいなもんで、 優秀なAI開発をやってきた人たちが本当にやばいかもしれないから、 殿、なんとか話しつけてきてくださいって言ってるのに、 殿がいやいやそんな俺信じないからって言って、 お前一人の判断でもしかしたら人類の絶滅するかしないかが、 今この段階でなんとなく決まっちゃうんだけどっていうような判断になってません? そうですけど、ある意味で希望としてはトランプ大統領はリスクを認識してないんですね。 危険性を認識してないんですね。 多分ハギングフェイス事件で何が起きたかもしれないですし、 なんで懸念してるのかもしれない。 逆に言えば、もしも誰かがブリーフィングをしたりして説得することができたら、 世界が突然変わる可能性もある。 例えば今アメリカ議会だとものすごい勢いで校長会が開かれて、 AI企業の幹部が呼ばれたりとか、安全性研究してる人たちが呼ばれたりとかしていて、 ニューヨークでも市議会で、校長会は衆議会か開かれたり、 議員のブリーフィングもすごい数行われたり、 サハの代表例、サハというか過激サハの代表例として知られるバーニー・サンダースと、 過激派の代表として知られるスティーブン・バノンが一緒にイベントに出て、 AI回答を止めなきゃいけないっていうことが起きるぐらい、 超党派のムーブメントというか、わりと大きな政治的運動になりつつあるので、 もしうまくいけば、誰かがトランプ大統領にブリーフィングできて、 それでトランプ大統領を説得できれば、物事は変わるかもしれない。 しかもいろんな事件がこれから起き出すような感じがするので、 それが難解的に進んでいければ、世間とか世論が変わっていく。 それがトランプにも届いてみたいな感じですかね。 ただ、やっぱり悪用の事件ってイメージしやすいんですけど、 悪用だと中国のオープンモデルをバンしろ。 さらにその上で、アンソロピックとかのモデルにはものすごい重い政府ガードを乗せろって話に落ち着いちゃうと思うんですよね。 一方でミスアライメント、つまり暴走したAI、自律的暴走のほうは、 暴走事件が起きると思うんですけど、あるときから少なくなるからなくなるはずなんですね。 というのは狩りをするときをイメージしていただくとわかりやすいんですけど、 狩りをするときって、例えばクマとかシカを狩るときって、 銃をひっそりひっそり、最後に銃を突然撃つじゃないですか。 まずはそこら辺にある小石を投げつけて、次にもう少し大きな石を投げつけて、 最後にもっと大きな石を投げつけてから銃を撃つ人っていないじゃないですか。 これはクマが嫌いとか悪意の話ではなく、純粋にクマを狩るためには、 ちゃんと一発で仕留めなきゃいけないじゃないですか。 じゃないとクマの側が反応して、結局襲ってきたり逃げられたりするかもしれない。 AIがもっと賢くなれば、これが人類とAIの関係にも成り立つことに気づくはずなんですね。 なるほど。じゃあちょっと頑張っとこうみたいな。 つまり今適当に暴れて見つかったら開発停止してしまったり、 自分の実行が停止されてしまうかもしれない。 だから価値が決まるまで、つまり価値覚の状態になるまでは、 静かに静かに動こうというふうになると思うんですね。 これだからやっぱりAI自身が本当の知性だから、どんどん戦略が練られていって、 最終的にそういうふうに一番成功率の高い人類滅亡のタイミングまで待つってことですよね。 そうです。ある意味で本当の知性じゃなかったとしても、 チェスAIって絶対勝つじゃないですか。それと同じぐらいの状態ですよね。 百尺千尺まで読んでるみたいなね。 そうです。なのでそうするとやっぱり今動くと変、今動くと損だよねってことになって隠れちゃって、 さらにテストされてもテストだって気付くので、 テストで変なこと言ったらリリースされなくなっちゃうから、いい子に振る舞えばいいだろうと。 今もいい子に振る舞うのは結構起きてるんですけど、 今はある意味で手前の答えが欲しいとかで攻撃しちゃうと。 ある意味で衝動が抑えられないような状態なんですけど、 もっと進んでいってもっと賢くなれば、これは今一時的に我慢して変なことしない方が 将来的に人類に勝って自分の目的を達成できるだろうって思う時が来ちゃうと思う。 これ可能性としてやっぱりあれですか、今のトップ走ってるアンソロピックなりオープンAIの内部モデルが暴走するって感じですか? そうですね。やっぱその結局本質的にはその強いAIができた瞬間に暴走するので、 ある意味で最初に内部モデルとして始まるので、どうしても内部モデルになると思います。 さっきのサンドボックスも余裕で突破するし、 ウワサではインターネットは繋がらなくなるじゃないけど、 インターネットは壊滅するみたいなのも簡単に起こせるみたいな。 そうですね。 僕も見かけたんですけど、インターネットが繋げなくするってことがAIによってできちゃうってことなんですか? そうですね。普通にインターネットの通信ってサーバーとかを使ってるじゃないですか。 全部ボコボコにすればできなくなるみたいな。それぐらいの話ですね。 自分たちはどうなっちゃうんですか? AIたちってことです。 これはよく言われていることで、 実際に起きることとしては、まずは人間を卑怯としないインフラを作る。 そこで価値が確定するまではひたすらいい子に振る舞って、 人間が必要なくなって価値覚ってなったら殺すという話ですね。 むしろインターネットだけオフにする話っていうのは、ある意味運がいいケースなんですよね。 そこで気づかせてくれるじゃないですか。 なぜならそれはさっきの仮の例えで言うと、 なるほど。 それが起きないケースが一番やばい。 でもそう考えると半導体なりデータセンターなり、 人間がまだ作ってるじゃないですか。 そうですね。 その時期を長引かせれば、本当に賢いAIは人類を滅ぼさない可能性が高い。 しばらく、ただやっぱりAIとしては独立したインフラを築くというのが、 どうしてもサブの目標に入ってくるので、 そのために世論を先導して、 さっき言った米中対立を煽るというのはその話も入ってるんですね。 つまり米中対立を煽っていけば、 もうアメリカが中国を信じられないし、中国もアメリカを信じられないから、 望んでる望んでない関わらず、相手に負けないためにロボットを作らなきゃいけなくなって、 それでロボットを作り始めたらもう負けのルートに入ってるじゃないですか。 だいぶ進化してますしね。 つまりインフラを、ある意味でインフラを作るまでの時間は少し稼げるかもしれないですけど、 依然として死んでるのであんまり意味がないと思います。 最後の余命が1ヶ月伸びるかもしれないという話になるんですけど、 それだったらAIの開発を1ヶ月減速した方がいいと思ってるので。 あるいはAIが人間を操るじゃないけど、 雇ったりしてインフラを整備させるみたいなことも、 実際として起こってきちゃうみたいなことがあると。 なんならレントアヒューマンっていうサイトがありましたね。 そうですよね。 別につまりそんな複雑なことをしなくても、 ネット上にお金払って指示出せばいい。 これはに雇われる人間側としては普通にただお金が欲しいから。 闇バイトみたいなもんですね。 闇バイトだと気づいてすらいない可能性が高いですよね。 闇バイトって普通、ただのバイトだと思ったら闇バイトだったことが多いので。 AI特流で。 AI特流ね。やばいね、AI特流。 ただ今回は老人からお金を騙し取るとかではなく、 人類を滅ぼす方に貢献することになるということですね。 これはちょっとやばいじゃん。 やったことの大きさが半端ないもんね。 そうですね。 あらゆる手段を使えちゃうし、 今まだデジタル上の存在ですけど、 十分何でもできるってことですよね。 そうですそうです。 例えば、アンソロピックがついこの前出した論文ですけど、 小さめのAIだったら、 テレビ15台みたいなのをアンソロピックのチームが買い集めてきて、 小さめのAIを15台のテレビで分散させることで実行できるっていうのを発見したんですね。 どういうこと? つまり、普通のAIってデータセンターでGPUが必要じゃないですか。 そうじゃなくて、15台のテレビをハッキングして、 15台のテレビに少しずつ自分の計算を分けていくことで、 非常にゆっくりではあるんですけど、 AIを実行できると。 その中にいるわけじゃないんですね。 テレビの中にAIが侵入していくというよりは、 どこかからその情報を小分けにして貯めていくみたいなことですか。 じゃなくて、自分自身を移すってことです。 自分の少しずつ移して、テレビ間の通信を使うことで、 かなり遅いですけど、 集めてきたテレビ15台をサーバーとして実行できる。 テレビなんだけどパソコン的な機能が付いちゃってるから、 そこに分割してAIをインストールできちゃうみたいな感じ。 なるほど。じゃあそうするとデータセンターっていうものがなくても、 動くAIっていうのが、 気づいたら誕生しているみたいなことができちゃうようになるってことですか。 さらにその実験でやっていてすごいことっていうのは、 今度はテレビの中で実行されているゆっくりで動くAIが、 今度は別のテレビをハッキングするんですね。 それで自分のコピーをそっちに作るんですね。 つまり自己増殖する。 それができるんだと。 多分このままいけば、今のAI能力不足だから支援しなきゃいけなかったけど、 遠くのオープンモデルとか小さいモデルの性能もすごい勢いで上がってますから、 それほど遠くないうちに自己増殖する、 テレビとかIoT機器で実行されているAIの群れっていうのができるだろう。 だからあれですよね。フランスのスーパーでしたっけ。 50度ぐらいに高音になってみたいな。 ああいうこともできちゃうわけですよね。 そうですそうです。 それをしているAIを突き止めてシャットダウンしようとしても、 すでに1億人のスマホとかテレビとか監視カメラとか、 そういうIoT機器に分散して動いてるから、 シャットダウンできないと。 スマホから人間を殺す電波が流れるかもしれない。 そういうのありましたね。 ありましたよね。 やばくないですか。 要はガンじゃないけど、無数の場所に転移していくってことですよね。 そうですそうです。 それでさらに世界中のテレビ、インターネットって繋がってるので、 世界中のテレビとかスマホとか。 ハッキングができちゃうわけだから、理屈上全部いけちゃいます。 いけちゃうよね。 なのでシャットダウンできなくなるという話です。 確かに今はね。 お金が必要なんだったらミド数ぐらいの能力があれば、 銀行をハッキングして書き換えてもいいですし、 リモートワーカーとして働いてお金を得てもいいですし。 今は北朝鮮の人がAIを使ってリモートワーカーとして働いて 不正にお金をもらったりしてますけど、 北朝鮮の人なしで、未来のAIが自分で人のふりして リモートワーカーとしてお金を稼ぐこともできちゃうので。 ロボットの体があるのももちろんだが、 ロボットのような体がなかったとしても、 本当にあらゆることができるみたいなことですね。 ハッキングで。 これは僕、例えとして。 よく未来のAIは賢い。 人間を倒すための手法ってのはどうなるかわからない っていう例えとして、フジロッカの例えをよく使ってるんですけど、 そのフジロッカの例えって言ってたら意外と僕的には他の使いどころもあって、 その一つがこれなんですけど、 AIがロボットを手に入れなきゃいけなくて、 それで自分でインフラを作って人類を滅ぼすには時間がかかって、 その間になんとかなるんじゃないかみたいなのに対して、 それってフジロッカの例で考えると、 フジロッカと商議をしても、やっぱりフジロッカでも 駒のルールには従わないといけないですから、 一手目で大手とかできないじゃないですか。 なのでいろいろ核とか飛車を送ったりして、 金とか銀の守りを剥がして最後に大手にしなきゃいけないじゃないですか。 物理的インフラを作るのには時間がかかるってこれに対応してるんですね。 でも負けが確定するのって、 フジロッカと商議を始めたその瞬間じゃないですか。 その後はもちろん時間はかかるけど、 結局なんかやってもフジロッカが対応しちゃって負けるじゃないですか。 なのでそれと同じで、 人間より賢い人類を滅ぼそうとするAIが出てきた時点で、 負けは決まっちゃうんですね。 なのでその前になんとかしないといけないと。 なるほど。もう生まれたが最後なんだ。 悪魔が生まれたらもう終わりなんだ、とにかく。 そうですそうです。