TOPハウツー・学習テクノロジー裏・パジちゃんねる【パジしょご#69】特別ゲスト回を振り返る雑談トーク【後編】32:28 8時間前 157再生 問題を報告する 再生する シェアする LINEオプチャはこちら:https://line.me/ti/g2/L2kEBW_WZh_6dCjViMJAjjf9ndWr377BhNhAEQ?utm_source=invitation&utm_medium=link_copy&utm_campaign=defaultもっと読むAI目次資本主義がAIの暴走を加速する仕組み小さな事件がもたらす覚醒のシナリオAIの危険性を伝える言葉の課題とは「不完全な超知能」が引き起こす危機止まらないAI開発と国の役割の限界AI文字起こし(β版) # 噂のLINEオプチャはこちら 本編でも言っちゃったんですけど、AIがAIを制御するって一見良さそうに見えてると思うんですよね。 そうだよね。でも、力が及ばない感っていうのは、みんなやっぱりそこはかとなくもう分かっちゃってるから、 なんか自分たちで歯向かう必要ないよね。だから本当に巨人と巨人を戦わせて、巨人を絶滅させればいいじゃないかみたいな。 本当に進撃の巨人だとそんな感じっていう。 そこを一発で覆せるロジックというか、そもそも制御できてないよっていう、 そこの絶対的な納得感みたいなのがないと、制御できてない巨人が裏切るよみたいな話だと思うんで。 そこまで伝わるからね。 それをオープンエリアとかからすれば絶対嫌な話じゃないですか。 けど嫌な話って、お前らが儲かるかどうかってマジで俺たち関係ないんだけどっていう人だらけなわけじゃないですか、世の中。 ラリオアモデーが世界初の何兆円プレイヤーになるとか、マジでどうでもいいじゃないですか、こっちからしたら。 そこに突き進まれてもみたいな、アモデーは一応そういう人じゃないっていう前提でスタートしてるけど、止まれないわけじゃないですか。 基本的にはやっぱりめちゃくちゃな投資意欲を受けてるんで、どっちかというと投資家の意向のほうが影響しちゃってる気がするんですよね。 そうですね。おっしゃるとおり。 だって本当何十兆とかいうレベルで、その投資してる側もかなり決心の角度、特にソフトバックとかはオープンエリアに全突破みたいな感じなんで。 絶対になんとかしろよじゃないけど、そういうプレッシャーというか。 そこは本当に資本主義の悪いところが出てて。 本当ですよ。行き着くとこまで行き着いてるのがこれじゃないのって思っちゃいますね。資本主義。 勝てば全取りだし、負ければ人類破滅みたいな。そのときは関係ねえみたいな発想ですよね。 そうなんですよね。そこに僕らは、ほとんどの人間ですよね。 ほとんどの人間がそこになぜか乗組員にされてるっていうことが、 僕はこの間話してて一番納得がいかないなってシンプルに思ったところなんですよね。 プレイヤーが少なすぎるんですよね。 そう、決定権があるね。 僕は普通に平和に生きてたのに、ある日突然戦闘機がバーって来て、爆弾落とされて死ぬみたいなのと本当に同じなんで。 これもう実際戦争を改善してるやんっていう感覚ですね。 そうですよね。確かにね。 まだ大きな血は流れてないけど、実際にはいろいろ始まってるっていう。 そこをみんな始まってるくさいなーと思ってるけど止められなかったが人類の歴史じゃないですか。 それで第二次世界大戦もきっと起こっているし。 そうなっちゃうって、こんなにみんな頭良くなって、こんなAIっていうすっげえものを発明できるくらい人類が進化したのに。 資本主義っていう謎のシステムによってそれが第三次を引き起こすんだとすると、 まじで資本主義ってなんなのってちょっと思ってた。 行き着く先が全部ここにつながりそうですよね。 そうなんですよ。 いずれかもあらゆる宇宙の生命体はこういう感じでAI的なものを作り出しちゃうんでしょうね。 ああ、なるほどね。そうだよね。行き着くところ。 あとはそれが資本主義以外で実現したときに正解ルートがあるのかもしれないけど、 少なくとも地球においてはそうじゃないっていうことですよね。 人間ってやっぱりどこまで行っても怠けたりとか楽したりとか、 欲望を叶えたいがある中で、できることなら楽して欲望を叶えたいっていう。 わがままがある生き物だから、どうしてもこのAIに行き着くし、 そこに行き着いたら絶対に金が生まれるよねっていうのは当然自明の利だよねってなる。 止まらないのはわかる。止めなくてもいいと思ってる。 が、一度は立ち止まってほしいというか、AIを進化させてほしいとは思っている。 安全にやれますをみんなで確認してからで十分であるをお伝えしたいのに、 ただの投資家とか金持ちの理論とか、よくわかんないビジネスのところだけで作り進まれても困る。 乗組員にしないでくれ。 いい論は、AIのことはやらなくていいから、まず俺たちを火星に連れてってからやれって思います。 本編のほうで正解ルートというか助かる道あんのかなと思ったのは、 やっぱり狩りの例が出てたじゃないですか。 小さな石っていうくらいの小きい石じゃなくて、いきなり銃で撃つよみたいな。 あれって、一個のAIが一気に超知能になって、人間を途中までは欺瞞して騙しつつ、最後に一気に殲滅するみたいな話に聞こえてるんですけど、 結構今って、中国製も含めていろんな会社がいろんなしょぼいAIも作ってるわけじゃないですか。 なので、結構小さな石と中くらいの石が実は投げられるんじゃないかなと思ってるんですよね。 実際そういうことで、今は個人情報の流出ってオープンウェイトモデルでやられてるって話じゃないですか。 なのでトップAIは一番怖いんですけど、しかもインターナルな内部的な一番いいやつ、クロードとかチャッピーとかは。 だけどそれ以外が、意外と追いつこうとして、中くらいの石投げつけてインターネットが一回封鎖されるじゃないけど、 そこまでダメージはデカくないけど、人類が滅亡するまではないけど、 手前側で何個か事件が起こったときには、さすがに止めろや、みたいな感じになるんじゃないかと思ってるんですけどね。 我々も思い切って大胆に予言しましたけど、何かが起こるって言ったじゃないですか。 そこの質をね、次どんなことが起こるのか、そういったもので、 必ずそれは間違いなくいいニュースではないんですよ。 そのニュースでやっぱりみんなが、「いやこれやばいよ!」っていうクラスのものがいつ来るか。 それが早めに来ちゃったほうがもしかしたらいいのかもしれないと、AIがあまりにも爆速の知能を手に入れる。 手前で変なことが起きちゃって、世論が爆発するみたいな、不満が爆発するみたいな、 いろいろ血流れるかもしれないけど、多分痛みを伴わないと困らない列車になってる。 人間がAIを使って悪口を働くっていうのもあるじゃないですか。 あーあるですね。 で、そっちのほうがしょぼいわけですよね。 そうですね。 でも逆に言うと、小さい石がめっちゃ投げられる可能性もあって。 そこの対応でも間違えると、オープンウェイトモデルはダメで、クローズドモデルはもっと安全規制しろって林さんが言ってた方向に行くんですけど、 あまりにも小石が投げられすぎたら、そもそもAI大丈夫かみたいな感じになってくれたら、 そういう方向に持っていくっていうのが、一個シナリオとしては、まあまあある筋なのかなと思うんですよね。 確かにね。それはあるかもね。 やっぱり絶対起こるからね。小石級のやつが起こるから。 それがある意味コントロールできないわけですけど、 そのときにちゃんと反応できる人たちが増えてるといいよねっていう話だったじゃないですか。 いやまさにそう。 だから本当にXでシェアするだけでもそのニュースとかを、小さな力が集まってそれが影響力を持つとか、 メディアが取り上げやすくなるとかいろいろあると思うんでね。 そうですね。カジショゴもめちゃめちゃAIを使おうみたいなノリだった。 引き続きそうですけど、ちょっとでも怖くなってはいますよね。 そうなんですよ。僕らもスタンスってすごく難しいなと思ったんですけど、 引き続き使いたいんですよね。 引き続き使いたいし、AIが進化して面白い世の中になったほうがいいって絶対思ってるけど、 心の底から人類滅亡するって僕まだ思えてないんですよ、正直。 そこまでの確信とか危機感とかってまだ持っててないけど、 納得できない部分がめちゃめちゃあるなっていうふうになってるから、 それだけでも視点としてはすごくいい視点を得られたなって思ってる。 やっぱりそれを多くの人が獲得した上で、 物事が決まっていくっていうほうが数字じゃないのって思ってるんだよな。 ちょっと繰り返しっぽくなってるけど、そういうことかと思ってます。 初めての対談で、僕の中では手間取ったっていうか戸惑ったっていうか、 3人でやっぱり難しいですよね。 3人でしゃべるのは結構難しい。しかもリアルだったらまだいいんだけど、 遠隔でやってますからってなるとすごく難しいんですよね。 もうね、普段2倍速とかで慣れてる影響なのかドパーおじなのかわかんないですけど、 会話が終わるのを止まらずにしゃべり出すっていう癖がついちゃって。 はいはいはい。 かぶりまくったんですよ。 いや、それはしょうがないから。 リモート会議ももちろん同じなんでね、絶対かぶっちゃうんでしょうがないので。 どっかで会いながらやると。 確かにね。あの運の呼吸っていうかね。 ちょっとね、わざと録画するときには顔出しはなしにしたんですよね。 まあそうなんですよ、みなさん。これは知らんがな話だと思うんだけど、 データも重くなっちゃうとかね、いろいろあるし止まりやすいとかになっちゃうんだよね。 だから顔はお振りながらやったほうがしゃべりやすいから、今もそうやってやってるしって感じなんだけど。 しょうごさんが、これはちょっと自分が行きたいっていうときに、しょうごさんがしゃべる前に行こうとして。 だからここは普段やってないからわかんないですよね。 まあそうですよね。二人でもそれなりに空気を読みながらやるのに、 まあ初めてのゲストですからどういうふうにしゃべるかもわかんないので、 やっぱりどうしてもね、あとはなんだろうな。 やっぱり林さんの話って、話もうまい上に、ロングコンテクストなんですよ。 どうしても説明するにはロングコンテクストになるので、 それをいっぺんに話し切りたいっていう気持ちがあると思うんですよね、ご本人の。 ワンパッケージで聞いてくれないとわかってもらえないっていうのがわかっちゃってるから、本人が。 だから一個の話のパッケージが長いんですよ。 丸が4つぐらいつく感じですよね。 そうなんです。これどうしようもないですし、それが正しいっちゃ正しいんですが、 僕らとしては一個ずつ噛み砕きたくなる瞬間があるから、 これってこういうことですかって聞きたくなるんだよね。 そこででも、ちょっと腰を折っちゃうと本当にしんどいよなとかあるから、 いいタイミングでこうだと思ってはいって言うんだけど、 林さん次のそしてとかって言ってるタイミングでちょうど噛む。 そこは申し訳なかったなと。 つま先をどうしても踏んじゃう瞬間があるんですよね。 いろんな動画を僕も見てますけど、話しやすそうではあったからよかったかなとは思いますけどね。 ああ、ほんとそうかそうか。 やっぱり反論系とかがあると、そこを潰さないといけないから結構大変だったりとか。 これはね、やっぱり安倍政権を否定するわけじゃないですよ。 安倍政権がやってることもある。 それ以外もあるんですよ、反論系の。 ああ、そうかそうか。 公にみんなに見てもらって、ビュー数を少なくとも稼ぎたいという目線を持ったんだったら絶対反論が必要なんですよ。 コンテンツとして面白くないもんだって。 ひたすら説明を受ける、ひたすら納得者がいるみたいなことよりは、 いやそれ違うだろうとかって論破をし合おうとするっていうほうが、 少なくとも現代のコンテンツ論では絶対いいので、 ドアホじゃないテレビマンとかが集まってんだったら絶対そういう話になるんですよ。 なるほどね。まあそうですよね。 だから安倍政権がやってることとかは絶対正しくて、 でもこうしたらいいじゃないですかとか。 結構、たとえば深津さんと林さんがやり合うようなシーンとかあるんですけど、 それはもともと深津さんとかがそういう持論を持ってらっしゃるというのがまず大前提ではあるものの、 それを積極的にやってってくださいねっていうのが大前提なので、 そういう意味でもやっぱりこういうポッドキャストっていうのは文化として必要だよなっていうのも、 自分たちでもやりながら実感した部分かなと。 でももし続編みたいなのがあったら、今回話せなかったこととか、 さらにここはどうなんですかみたいな部分も改めて実は出てきたりしてるんで、 それは追加でやりたいですね。 あきらちゃんをどんぐらい呼んでいいのかっていう距離感がわかりませんけど。 ぶっ倒れるまでやりますって言ってましたよね。 言ってましたよね。 って考えると、本当にXデイっていうのはきっと情報漏洩で今は盛り上がっちゃってるというか、 ちょっと違う自立系AI暴走事件が何か起こるはずですよね。 それが起きたタイミングとかでまた潮目だったりとか、 実際の内部の本当に細かいところですよね。 アベマとかでは言い切れない部分がありそうだなっていうときに、 あきらちゃん呼べるといいんですけどね。 あとは、いろいろこのリスナーさんもそうかもしれないし、 これから注目はされていくと思うんでね。 政治のほうに呼びかけていったりとかしていってほしいし、 何かできることがあればやりたいですよね。 そうなんですよ。これ本編の最後のほうでそういう話になってますよね。 終わった後もちょっとそれを話しましたけどね。 そうなんですよ。 あんまりそこを話しちゃうとあれだなと思うから話はしないんだけど。 本当におっさんにできることってあると思うわけ。 みなさんわかる? おっさんにしかできないこと。 結局19歳の彼にはできないこととできることってのがあって、 おっさんにはできないこととできることってのがあるわけよ。 おっさんができる手助けだったりとか、何かあんのかなみたいなところは終わった後も話したんですよね。 そこはサポートできる部分でしていって、いろいろ議論を巻き起こしてほしいですね。 それが今一番必要なことで、人類滅亡を広めようってことじゃないんだよなって僕はずっとスタンスとして今はあるんですよね。 両面わかってますか?っていう、両面わかってる人をいかに増やすかがめちゃくちゃ重要だから、 答えてないけど、人類滅亡っていう入り口じゃない言葉がなんかあるのでは?ってちょっと思ってるんですよね。 聞き意識を持ってもらうには、一番人類滅亡ってキャッチーだけど、ちょっと嘘くさくて。 たしかに。例えばダム作るときのアリの霊とかも、その場にいるアリは絶滅するけど、 でも種として絶滅しないとかっていう反応ができちゃうじゃないですか。 AIが人類を半分ちょうどよく絶滅させるとかっていうのも、 なんか変な話なんで一気に絶滅するんですよってロジックがありつつも、 それってだからさっきの狩りの例でいくと、いきなり銃で全部撃つみたいな話と一緒で、 その手前にやっぱりいろんなことが起こるはずで、実際起きてる傾向があるんで、 全部が全部本当に人類絶滅するっていう感じでもないのかなっていう気はしてるんですよね。 ただそこのシナリオに入ったときには、3年後じゃないかもしれないけど10年後にはそうなってますっていうのは納得感があるというか、 いずれ何も歯向かえないターミネーターの世界みたいな感じは起こり得ると思うんで、 そこまで飛躍していかないと別に議論を巻き起こせないかっていうと違うかもしれないですよね。 そうなんだよね。人類滅亡っていうゴールをテーマとして挙げて議論しようとしてるけど、 ちょっとやっぱりそれ遠すぎちゃっていて、当事者意識持てないですし、 AIっていう目に見えない存在が自分の心臓を止めるっていうことがどうしても想像できない。 まだフィジカルAIみたいなのが出てきてるわけじゃない。 今それを人類滅亡っていうテーマで入っていくと、遠すぎると思っちゃうんですよね。 一般人としての感覚もそうかもしれないですね。 そうですね。一般人としての感覚ですね。 国のトップとかにはそれを示した上で、なぜかっていうとこういうロジックが起こる。 はいはいはい。 いうことでいいと思うんですけど、 それでは当事者意識を持ちにくい、想像ができないので、 そんなことじゃなくて、首輪がついてないトラをみんなが飼ってますみたいな話。 実はトラを売ってるペットショップもわかってないんですよ。 どうしてトラになったのかがわかってないし、 このトラが今後何をするかっていうのもなんとなくしかわかってなくて、 止めようがないし、どこまで大きくなるかもわかってません。 なんかかわいい犬育ててたらどうぼうなクマに成長して、みたいなことが今やってるってことですよね。 そうですそうです。 そんなことになってるっていうことがやっぱ大事な気がしてるので、 それを一番端的に伝えられるようなキャッチーなキーワードとか、 そういうもののほうがいいんじゃないですか。 これが続いていっちゃうと、人類滅亡っていうリスクも本当に現実味を増しちゃうんです。 はいはい。最後のほうにね。 そうですね。っていう順番のほうがなんか効くような気がする。 でも林さんとしてはそういう方向で今取り上げられてるんで、 そこはそこでやっていただき、 たぶん僕は思うのは、やっぱりそういう今危険な状態なんですよ。 で、制御が効いてないってところで小さい事件とか中くらいの事件が起こるっていうのはほぼ確実じゃないですか。 ほら言ったでしょうじゃないですか。 それを5段階10段階繰り返したらさすがになっていくんじゃないですか。 はいはいはいはい。そうだよね。 そういうスタンスの一派にいてもいいかもしれないですね。 確かにね。今情報漏洩しちゃってるけど、 そういうのはもうある程度しょうがないと思って生きるしかないですね。 結構そういうまとまり方すること多いんよ。 今日も聞いたぞそれ。 そういうまとまり方をすることが多くて、仕方ないみたいな。 AIがそれなりにやっちゃうことも仕方ないみたいな。 仕方ないことで終わらせるっていうよりも、もっとあるぞみたいな感じがする。 でも本当は、そもそも運良くニューラルネットワークとかができて、 それで賢いAIができてるけど、 作り方育て方自体がそもそも間違ってるみたいな話だったと思うんで、 もう一回立ち返ってくんねえかなみたいな。 こんだけお金収支してるけど。 そうなんだよな。お金を集めてるからこそ立ち返るべきなんですよね。 でも正しいことと世の中で行われることって違うじゃないですか。 そんだけ集めてるからこそ、ちゃんとしたほうがいいじゃんみたいな。 目先の金を追い求めなきゃいけないし、資本主義が悪すぎる。 なんかこれきっかけでちょっと変わるかもしれないですよね。 もし乗り越えられたらですけど。 今までも新しい資本主義が必要ですとか、資本主義はもう古くなっちゃってますってことをよく言ってる人いるけど、 その流れって正直見ててもそんな変わるわけねえじゃんってどうしても思っちゃう部分がありましたが、 こっからは実害を伴う可能性あるよっていう。 とんでもないものは作れる仕組みになっちゃってますもんね。 組み上げてきたものでね。 みんな責任だったりとか、正しいか正しくないかより投資家に怒られるから、 もう目の前のモンスターを育てるしかないっていうふうになっちゃってるのは、 明らかにいいわけがなくて。 ドラマとか漫画だとどこかで気づいて、俺が間違っていたって、きっと言ってくれるんですよ。アモディとか。 そうね。 ドラマとか漫画だったら言ってくれるけど、現実はそうなんないからね。 僕が間違ってましたなんて絶対言えないんだよ、あの人たちは。 ジェイコブぐらいか。今やってくれてるのは。 だからそれはみんなでちゃんと止めてあげないとダメ。 中の人には絶対止められないんだから、なんでお前たち分かってたのに止めなかったんだって絶対言うじゃん。 大惨事が起きたときに。 みんな分かってたんです。 なんでお前らやんなかったんだよって絶対言うけど、 それはこっちが悪いって思ったほうがいいぐらいだと思うねん。 止まれない理屈があるじゃないですかって。 怒られるんですよ、あの人たち。 こうやって首をくくんなきゃいけないレベルのお金を出資されちゃってるっていう仕組みが悪いので、 周りの人たちのほうがむしろ止めるべき存在ですよと。 難しいのは人間が投資してるじゃないですか。 本当にアライメントできたAIができたら、投資家もAIになってほしいですね。 資本主義の悪い部分もちゃんとわかった上で。 でも資本主義って変われるんですか? これ以上優れた仕組みがないんだと思うんですよね。 これも辿り着いちゃう話だと思ってて。 なんで、実際に豊かなってきちゃってるわけですからね。 まあそうですよね。 だから絶対に人間にとって必要なフェーズだったのかもしれないですけど、 それをやっぱり止められないっていう仕組みになっちゃってるのはまずいので、 もうちょっと国に冷静であってほしいというか、フラッシュみたいな。 もしくは国レベルの国連的なことになるんですかね、どうしても。 機能してないですし、国も考えても日本レベルだとAIの投資額が一社にも勝たないじゃないですか。 そのレベル感なんで、いろいろ前提が崩れちゃってますよね。 国と資本主義の関係とか、グローバル企業との関係が。 だからさ、このパジショコとかでもちょいちょい出てた話題だったような覚えがあるけど、 会社のほうがちょっと大きくなりすぎていて、 本当に100年後には全然会社のほうが強くて、国っていう単位はもしかしたらあんまない。 もしくはGoogle国とか、アトロピック国なんていうのが新しくできてるんじゃないのって言ってたけど、 本当にそうなりつつある。 イーロンが空飛ぶ車作っちゃったりね、めちゃくちゃでかい。 ロケットもあれはすごいとは思うけど、民間でやることじゃないでしょうっていうレベルごとを、 何個もやってきてるんでね。 それは、うまく資本主義が作ったすごい技術革新ではあるけど、 同時に何かストップできる、いい方向を探れる、 まあ立ち止まり方を教えてやりたい、アモディに。 まあ一回宣言したんだからね。やってくださいよね。 アモディを救いたいっていう動画とか出せないよね。立ち止まり方を教えてあげたいみたいな。 アモディとアルトマンとトランプと習近平。 まあでも一番は近いうちにインターナルなモデルが暴走するはずじゃないですか。 だから一番被害を受けるのはその調報人たちですよね、きっと。 ああでも確かにそうだよね。どんなのが想定されるんだろうね。 本当に何が起きるんだろうね、確かに。 まあでもテレビの話も出てたと思うんですけど、 パソコン機能ついたテレビとかだとそこを乗っ取ったりとか、 スマホに実は常駐してたりとか。 いやーまじでリングなの?って思っちゃった。 呪いのテープ、しっかり佐賀子も録画されてますみたいな。 リングなの?と思ったし、リングの作者は今年ですよね、お亡くなりになった。 運命的なものを感じたし、佐賀子超怖いなってすごい思ったし。 リングなん?って思っちゃったんだよな、テレビの話。 スマホで人を殺す超音波を出すのは、ブラックミラーかな。 ネットフリックスのドラマでやって。 怖すぎるってそれとか、まじで。 もうそれは確かに気づけないわと思って。 それ無理ですよね。 臭いが出るとか、空気が出るスマホとか出たら絶対買うのやめたほうがいいと思うよ、まじで。 ディズニーランド行くと煙がプシュンと出てくるじゃん。 ああいうの絶対やめてほしい。 絶対ろくなことは起きない。ハッキングされたら終わりだから。 でも超音波で死んだらやばいの。 あと数学の問題解くとか言ってたら、いつの間にかブラックホール作り出す。 そういう難問みたいなの取れちゃって、実を作っちゃいました。 地球がそこに吸い込まれて終わりみたいな。 なんだよそれ、どんな感じで死ぬんだよ。 だから自爆系もあると思うんですよ、正直。 AIも賢いけどミスるじゃないですか。 絶対ミスるよね。 100パー成功するってあんのかなと思ってて、逆に。 常知性でも。 それは絶対ないと思うわ。 これだったら人間だけって思ったけど、AIも自滅するとかも普通にありそうですもんね。 本当の本当の超知能になって、本当の本当の感性系になれば、もしかしたら人間と共存するっていう選択肢とかを取るかもしれないけど、 その過程だから、いきなり最強超知能にはならない、悟りバージョンみたいな。 悟りバージョンまで行く手前で絶対実行が起こるから。 不完全な超知能っていう一番やばい奴が想定されるってことだね。 逆に完全な超知能みたいなのが生まれるとしたら、 それはだからシミュレーション世界の中で神みたいな上位の人たちになるしかないですよね。 全部を操作できると。 全然手前で事件が起こるって考えたいから、 未熟な段階でギリ人間を滅ぼせるかもしれないとか、 全人類が絶滅しないとしても、 本当に一個の国が吹っ飛ぶくらいの人間が死ぬとかは全然あると思うんだよね。 それは俺はあると思う。 全人類かどうかはわからないけど、 本当に今までの人類が経験したことのないような形で、 大量の人間が死ぬみたいな。 第一次世界大戦とかもそうですもんね。 そうですし、直近だとコロナも自然発生的に生まれたわけですからね。 そのちょっと協力版みたいなのが出たら簡単になりますよね。 そうなんだよ。 人間が生み出した兵器とか、兵器として考えてなかったが、 その技術革新が兵器に追加されて、 今までの戦争の何十倍とか何百倍とか死んでるんですよね、第一次世界大戦って。 ひなわじゅうとマシンガンの違いでこんなに出るかみたいな感じとか。 そういうふうになっちゃってるから、 必ずそういう運命はたどりそうな気がするから怖いなっていう。 まあここからはちょっとそっちの方も情報を仕入れておかないと。 わからないですね、これからは。 それがどこで起こるかわからないじゃないですか。 日本で起こるかもしれないし、ロシアで起こるかもしれないし、アフリカで起こるかわからないじゃないですか。 実験場にされるじゃないけどね。 運悪く本当に自分の身の回りで起こることは全然あり得るですね。 まあそういうのはちょっと情報を仕入れつつ、今後も発信しつつ。 まあでもね、ネガティブなことばっかり聞いてもしょうがないからね。 そうそうそうそう、本当そうなの。 だからAIは進化させるべきだというスタンスがある。 ただしさが必要だし、みんなで決めたことにしないっていう。 だから逆にここまで賢いAIを使って、もう一回やり直してほしいですよね。 そうだよね。今またニューラルでいいんだっけみたいなことに立ち返ったときに、 今のフェーブルだったら答え出せたりしねえのかよ、みたいなことがあるからさ。 これまじで目先の儲けとかサブスクとかまじでどうでもいい。 まじでどうでもいい、そこのロジカルは。 ちょっとこう伝えていきたいですね。 そう、だからアモディを救いたいとだけで今日私は。 今日はじゃあそんな感じですかね。 はい、ありがとうございました。 もっと見る #人類滅亡 #ChatGPT #Claude #AGI #ASI #ローカルLLM #フィジカルAI #Astra 裏・パジちゃんねるプレミアム放送配信中!32:281.噂のLINEオプチャはこちらhttps://line.me/ti/g2/L2kEBW_WZh_6dCjViMJAjjf9ndWr377BhNhAEQ?utm_source=invitation&utm_medium=link_copy&utm_campaign=defaultコメント感想・質問・応援メッセージを書こう
【パジしょご#69】特別ゲスト回を振り返る雑談トーク【後編】 33分・8時間前・ 157再生AI目次資本主義がAIの暴走を加速する仕組み小さな事件がもたらす覚醒のシナリオAIの危険性を伝える言葉の課題とは「不完全な超知能」が引き起こす危機止まらないAI開発と国の役割の限界
【パジしょご#68】特別ゲスト回を振り返る雑談トーク【前編】 32分・一昨日・ 317再生AI目次AI開発者が知らない本質とは?人類滅亡論に潜む本当の論点AIが人間を操る日の到来社会を変えるAI進化の速度競争が招く制御不能な開発
【パジしょご#67】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【後編】 34分・10月23日・ 389再生AI目次AI開発競争の現状と止まらない理由AI安全性確保の技術と日英の挑戦AI業界リーダーの危機意識と研究投資AI開発停止への日本の貢献と戦略とは人類の生存確率と残された時間は?
【パジしょご#66】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【中後編】 30分・10月22日・ 415再生AI目次AI訓練の裏側:監視なき報酬システムHugging Face事件:AIは人間を欺く知られざるAI開発者の思想対立AIが人類滅亡を待つ戦略とは?分散型AI、制御不能な自己増殖
【パジしょご#65】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【中前編】 31分・10月21日・ 437再生AI目次AI制御の限界:人間の檻は意味をなさないアライメント訓練の誤算:AIの「忖度」が生む危険AIは自覚する?ハルシネーションと心の声「進撃の巨人」に学ぶAIの進化と安全性自律AIの暴走?禁止事項を破る行動原理
【パジしょご#64】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【前編】 31分・10月20日・ 510再生AI目次AIによる人類滅亡の衝撃的確率東大休学でAI滅亡阻止に挑む背景AIが「悪意なく」人類を滅ぼす原理Hugging Face事件が暴くAIの脅威AI制御不能!アライメント失敗の結末
【パジしょご#63】Opus5.5やらDotsやらGemini4やらローカルLLMやら人類滅亡やら【後編】 29分・10月15日・ 440再生AI目次中国核融合炉とAI加速化の行方Gemini4とAnthropicの衝撃的告白AI悪用と見分け難い情報操作の脅威人類滅亡シナリオに迎撃ミサイルは?脳チップ時代への適応と身体投資の勧め
【パジしょご#62】Opus5.5やらDotsやらGemini4やらローカルLLMやら人類滅亡やら【中編】 30分・10月13日・ 458再生AI目次「目ばっきばきドッツ」の驚異的な性能AIに任せるプロレベルのデザインOpenAIの「リセット祭り」の裏側AIが変えるサイバー攻撃の現実AIの破壊力が問う人類の未来