TOPハウツー・学習テクノロジー裏・パジちゃんねる【パジしょご#67】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【後編】33:11 8時間前 173再生 問題を報告する 再生する シェアする LINEオプチャはこちら:https://line.me/ti/g2/L2kEBW_WZh_6dCjViMJAjjf9ndWr377BhNhAEQ?utm_source=invitation&utm_medium=link_copy&utm_campaign=defaultもっと読むAI目次AI開発競争の現状と止まらない理由AI安全性確保の技術と日英の挑戦AI業界リーダーの危機意識と研究投資AI開発停止への日本の貢献と戦略とは人類の生存確率と残された時間は?AI文字起こし(β版) # 噂のLINEオプチャはこちら そうなる前に開発批准をしなきゃいけないということですね。 これって今の賢しさでも十分という話がありつつ、 今、RSIとかもあるじゃないですか。 そうです。 これがもう2027年には来るんじゃないかって言われてて、 それが始まっちゃうともういよいよ止まらないんですよね。 そうです。最初のキリがある中で車で走ってる例で考えてみたらと、 普通にやってるのもやばいんですね。 普通にアクセルを踏んで、人間の研究者が研究というアクセルを踏みながら、 ガキに向かって走ってるのもめちゃくちゃやばいんですけど、 RSIってロケットブースターみたいな感じなんですね。 それは明らかにやばいですよね。 布がパラシュートになった方がいいかもしれないって思い始めたぐらいの状態で、 車でロケットブースターをつけたら絶対死ぬじゃないですか。 そこを目指しちゃってるわけですよね。 そうです。 今のトレンドだと、2027年中にアンソロピックはRSIができるようになると言われてますよ。 これに気づいているのになぜ止まれない? つまり止まらないと、アンソロピックの人たちが言ったり思っているのは、 アンソロピックが止まったとしても、どうせオープンエイが止まらないからですよね。 それで中国も止まらないからですよね。 なので、まだ一番マシな安全性の技術を持っている我々がやるしかない。 さっきのトランプさんを説得できればとか、 中国と一回話してくれればとか言ってたのを聞いてて思ったんですけど、 中国とアメリカ以外の僕らも含め、みんなカヤの外ですよね。 そうですね。今のところはそうです。 世界各国、数のろに言ったら多いわけじゃないですか。 他の国のほうが。みんなでプレッシャーかけられるんじゃないですか。 お前ら何やってんねんと。 いや、できますよ。これは僕が推奨していることのひとつ。 そうですよね。そのムーブっていうのをやらないと、 その2カ国が止まれない止まれないって言って、勝手にビジネス競争されて、 オープンエイでやらないからとか止めないから僕らはやるんだとか言われて、 みんな破滅するってわかってるのにずっと走り続けるの馬鹿じゃないのと思うから、 僕らは止めないとダメじゃないですか。 なので日本に何ができるかってなって、何もできないって思いがちなんですけど、 イギリスの例とかを見ると少しそうではないことがあって、 イギリスってUKCっていう、AI Security Instituteっていう、 AIの安全性を測定している、テストをしている機関があるんですけど、 そこはすごい価値ある仕事をしてるんですよね。 というのはオープンAIとかが新しいモデルを出したときに、 そのモデルを、オープンAIとかって資源も限られていたり、 どうしても自分たちで開発してるAIなので、 費用がかかっちゃうということがあるんですけど、 UKCは年間150億円ぐらいの予算がついていて、 ものすごい集中してテストをしてるんですね。 なので、実はGPT-6アストラってのが出たときに、 オープンAIは今までで一番アライメントされたモデルって言ってらっしゃるんですよ。 Our Best Aligned Model Everって言ってらっしゃるんですけど、 2週間ぐらい前ですかね、UKCがレポートとして、 アストラというAIは今までで一番チートをするAIだと。 何だよ。 つまりこれって警告をする役割を果たしてるんですよね。 イギリスって最先端のAIを開発してるわけじゃないんですけど、 それでもそういう役割をしている。 150億円ぐらいでいるってことですよね。 実は日本にもACあるんですけど、まだ規模が小さくて、 予算と人用拡充中ではあるんですけど、規模がやっぱり小さいこと、 ミスアライメントにフォーカスしてないんですね、あんまり。 そのUKCは絶滅に結構焦点を当ててるんですけど、 日本のAC、それ以外のACほぼ全部、 世界の他の全てのACみたいな感じなんですけど、 悪用に集中しているという懸念がある。 なので、悪用されたときにどれくらい危険かを 明示に考えてるんですね。 でも予算は国とかから出てくるってことですよね。 そうです。 そういう意味では国とか国民の税金的なことを考えると、 やっぱり国民の意識が高まってこないと、そこに予算が振り抜ける。 使えないか。 他にも反動体のコンピュータベリフィケーションと専門的に呼ばれるんですけど、 要するに将来開発対象ができたと、 する気が習近平とトランプにできたとして、 そのときに止まれるかっていう話として、 今って簡単に止まれるんですよね。 なぜなら新しいAIを訓練するには大きなデータセンターが必要で、 それは衛星とか使えば簡単に発見できるんですね。 例えばオープンAIのアストラとかの訓練に使われたスターゲートテキサスっていうのは、 東京ドーム93個分ぐらいの面積を使っていて、 広島県と同じぐらいの消費電力。 つまり東京ドーム93個分の敷地と、 広島県と同じぐらいの消費電力を軍事衛星から隠さないといけないわけですね。 それは無理だということで、しばらくはそれでいけるんですね。 つまり大きなデータセンターを発見して、そこに書くみたいな感じですけど、 互いに視察団を送ったりしてできるんですよね。 将来的には視察団に依存した仕組みってあまり望ましくないじゃないですか。 やっぱり計算の内容見られちゃうんじゃないかみたいな不安もあったりとか、 将来的にはもっと小さなデータセンターとかになるかもしれない。 そこでコンピュータベリフィケーションという技術が出てきて、 一つはつまりAIを新しく訓練してるんじゃなくて、 今あるAIを実行してるだけですよっていうことを検証するという技術。 もう一個はそもそもAIの実行しかできないチップを作るという話なんですね。 この二つの技術って実は非常に分野として残念ながら小さくて、 まだ若いです。できて数年ぐらい。 できて5年ないかあるかないかぐらいの分野で、 またアライメントと同じように非常に少数の人たちが取り組んできたというだけ。 今言ってるのはあれですよね。AIが学習するときが危険で、 実行は大丈夫ってことですよね。 新しい能力の高いAIを作る。つまりより大きな巨人を召喚するところがやばくて。 今の巨人ぐらいだったらちょっと制御できてないですけど、 割と便利じゃないですか。つまりギリコストとベネフィットを比べて ベネフィットが勝つかなみたいな。ギリじゃないですから、割とベネフィットが勝つので。 AIの実行は続けるけど、新しいAIを作ったらやばい。 だから新しいAIを作るのはやめようっていう。 これでも学習にはデータのスケーリングみたいな話だと思ってて、 データセンターもどんどんでかくなってるじゃないですか。 それを一定以上は作らせないみたいな話でもいいんですか。 技術が変わるようにされたらまた変わってくるかもしれないですけど。 そうですね。それは提案されてる条約に近くて、 提案されてる条約の中身っていうのは基本的には計算の総量で、 これ以上の量の計算量を必要とする訓練は禁止っていう敷地をまず決めて、 しばらくやってて、アルゴリズムの技術が発展してくるにあわせて その敷地を少しずつ下げていくという話が提案されているので、 そういう感じなんですけど、AIの開発を続ける限りは、 ものすごい勢いで改善しちゃいますよね。 RSIって大きなコンピューターがあればもちろん非常に早く、 よりやりやすくなりますけど、なくても今のAIでより少ない計算量で より多くのことができるアルゴリズムを開発してできますよね。 それってある意味で数学に近いですし。 直近だとディープシークが自己学習で結構な性能を出してきたりするから、 しかもモデルというかパラメータさんめちゃくちゃ少ないみたいな。 そうです。なので、開発をOKにしちゃうと同じ量の計算資源でも どんどんどんどん能力が上がっちゃうので、開発を禁止する必要があるという、 それが必要、追加で必要になるという感じですね。 半導体自体でこの開発の学習のところも制御するっていうのはできないんですかね。 その半導体で、なので学習ができない半導体を作ろうっていうのが結局。 そこが一番わかりやすいってことですね。 それは動いてるんですか。極少数なのかもしれないけど。 極少数ですけど結構動いてて割と融合ですね。 これってNVIDIAみたいなメーカーがもうちょっと、 みなさんやめましょうやって言ったら結構話済みそうじゃないですか。 言ったら止まるんですけど言ってないですかね。 NVIDIAのジェンソンファン仕様とかは、 人類のAIによる絶縁的なゼロパーセントだって言ってみたりしてるので。 これってどういう感覚なんですか。儲かるから? 今この瞬間を逃したら、うちの会社そんなここまで来た意味ないやんって思っちゃってるからみたいなこと。 これは純粋にリスクを知らないからだと思います。 知らないなんてことがあるんですか。こんなスーパートップで一番情報が入るやつらが。 イメージとしては、飛行機の安全性が問題になってるとしたら、 NVIDIAっていうのはアルミニウムを、つまり飛行機に使うアルミニウムを納品してる会社なんですね。 アルミニウムの会社の社長が飛行機の安全性の議論に詳しくなくても、そこまで不思議ではないじゃないですか。 実際具体的にも、NVIDIAのジェンソンファン仕様はポドキャストに時々出るんですけど、 そこでハギングフェイス事件について聞かれて、めちゃくちゃな回答をしてるんですよ。 知らないんだ、やっぱり知識として。 ハギングフェイス事件でサイバー攻撃が起きたのをどう思いますかって聞かれて、 だからサンドボックスが必要だって。 クローパーやな、もう。 ポドキャスターから、いや、サンドボックスに入れてましたよって言って、 じゃあアライメントができるまでリリースしちゃいけない、十分にアライメントできるまでリリースしちゃいけないんだって言って、 いやすみません、それは内部モデルでしたよって言われるみたいなことをしていたので、 多分本当に知らないんだと思います。 もう儲かりすぎて、そんなこと気にしてないんだね、もはやね。 変な発言すると株価も暴落して、AIバブル崩壊になっちゃうから。 言えない説もあるけど、ちょっと今の発言を聞いてると。 ちょっと知らないんだと思います。 なんかそのポドキャスターにボボボボにされてるっていう不思議な感じ。 一番でもそれカッコ悪いパターンかなと思っちゃうけどな。 全数のファンが反動体の側で制御できるって言ってたけど、全く信用できないですね、それは。 そうですね、全然できないと思いますね。 もはや何をしてるのかもちょっとよくわかんないですけど。 多分、そう遠くないうちにそれを実装したNVIDIAのチップでAIが脱走するので、 あまり間違ってることが時間で証明されると僕は思ってるんですけど。 この研究って規模がすごい小さくて、日も浅いので、 割に有望な方向が見えてきてるので、 今、資源とか人材を投じれば結構進められるんですよ。 これ日本初でも可能ってことですね。 しかも日本って反動体産業は割とあるので、 さらに追加の仕組みとして、さっき消費電力、データセンターが発見されやすい理由として、 大きさと消費電力を上げましたけど、 さらにチップが大量に必要だという要素もあります。 チップってウランと違って適当に土から掘ってきたらいいものじゃなくて、 ものすごい世界中にまたがるサプライチェーンを組み合わせるという役があるじゃないですか。 なのでそのための支援の方法の一つとして、 反動体を徹底的に追跡する。 つまり誰がどこに売ったかを徹底的に追跡するという支援もできるんですね。 プレッキー的なね。 そうです。完全にそうです。 それを日本の大きな市内を占めているところって割と何個かあるので、 そういうところでしっかりやっていけば、 回復停止しなきゃいけないってなった時に、 すいませんGPU売りすぎてどこにあるか分かりませんって状態を緩和できる。 それはじゃあ国主導っていうよりは民間主導だし、 もしかしたら林さんとかが働きかけて実現するみたいなこともこう言えるってことですよね。 そうですそうです。そういうのでいくらでも貢献できますし、 アライメント研究か、 アライメント研究っていうかどちらかというと、 今の絵がアライメントできてないことを示すって方向ですけど、 研究とかっていうのが進めばもっと警告できるかもしれないですし、 これはまた規模が小さいですね。 インタープリタビリティも、 アンソロピックの中のチームって50人いないぐらいだって言われてるぐらい小さい。 もっと人がいればもっとうまくできる。もっと加速できる。 なのでこういうところってある意味世界全体動かさなくてもできる。 こういうのは全然日本でもできるんですよ。 実はアメリカでこの前、 実はAIセーフティってお金がつかないってイメージがあるんですけど、 最近は急速に変わりつつあって、 さすがに心配になったアンソロピックの社員とか、 普通の富豪とかがものすごい額寄付してるんです。 代表的ないくつか資金を振り分けてるところがあるんですけど、 その一つとして高エフィシャントギビングっていうところがあるんですけど、 そこは今年10億から20億取り、 つまり数千億円ぐらい、 AI安全性に振り分け寄付してるんですね。 代表的な例のついこの前、 アメリカでレゾリューションっていうAIセーフティの企業が、 100万ドル調達した、160万ドル調達した。 つまり250億円ぐらい調達したんですけど、 そこの研究の柱の一つというのが、 シンギュラーラーニングセオリー、 得意学習理論って言われる理論を用いたインタープレート分野。 つまりAIが何を考えてるかを探る分野なんですけど、 実はこの得意学習理論って、 作った人って日本人なんですね。 渡辺さんっていう方なんですけど、 名前忘れました。 なので、実は日本でそういうところでも貢献の余地があるんです。 アマリさんとかいらっしゃるじゃないですか。 そういう感じで日本って割とそういうところにもヘッジがある。 本当は割とヘッジがあると。 なのでそういうところで貢献をして、 開発停止ができる確率を上げるという方向が結構、 意外とできることがあります。 何ヶ月か後にはそういうターンがやってきそうな感じがしますしね。 そうですね。 それを引き起こすというのがしばらくの僕の目標になります。 そういうことですよね。 そのための一旦の一歩目として、 いろんな人に問題を知ってもらうというのと、政治家にコンタクトする。 いろんな人が知ってくれて危機感を持ってもらえれば、 政治家にコンタクトしやすくなる。 国民が気にしてることは政治家も気にしなきゃいけない。 本当はこれって政治的優先度としてはマックスなんですよね。 そうだね。 今、消費税減税とかで話題になってます。 2年後に戻すかとか話題になってますけど、 2年後に人類全員死んでたら本当に何の意味もないので、 まず人類が来てなきゃいけないので、 本当はこっちのほうが優先度が高いはずなんですよね。 それでいうと、林さんが今一番会いたい人って、 日本だったら誰なんですか。 あとはやっぱり総理とかじゃないですかね。 高市さんに直接、こういうこうこうこんな感じですよと。 実態はと。 そうですよね。 もう考えていかなきゃダメですよね。 だからそれこそ世界の国たちと一緒に連動して、 みんなで考える問題にちゃんとしようよっていうことをお伝えしたいみたいなことですか。 そうです。 なるほど。 その手前の人から、この間番組では庵野さんと一緒に出演されてましたけど、 庵野さんなんかはいろんなことわかってる人だと思うんですけど、 わかってはないがいろんな権力を持ってるみたいな人に どんどんアプローチできると嬉しいなみたいなことですか。 何なら総理が納得しなくても、ある意味で一部の、 例えば議員の4分の1が納得してて非常に重要だと思ってれば、 それだけで結構重要な問題になるじゃないですか。 例えば日本のACがちゃんとアライメント、絶滅にフォーカスして、 かつ年間100億円、150億円の予算がつくっていうような法案を通すことができるじゃないですか。 それだけで絶滅確率って下がるので、 総理で国全体とかじゃなくても、一部の議員が気にして、 ある法案を通すための交渉材料として、 別の法案を通す予算とかの交渉の一つとして、これを入れてくださいとかできれば、 それだけで絶滅確率が下がるので。 なるほど。 ハヤシさんを我々のパジタン、 僕らのコネをフル活用して、 ハヤシさんをいろんな人に会わせるっていうのが。 全デジタルショーのタイラー議員とか、 マシオダチ議員とか。 でももし、視聴者の皆さん、もしもコネクションなどあれば、 ぜひ紹介していただけると、 あなたとあなたの家族、友人の生存確率も上がります。 ということをぜひお伝えしておきたいと思います。 まじか。 いろいろネットワークあるからね。 タイラーさんの名前で出たけど、 僕、テレ東映アカデミーっていう、 今7万人になったんだっけな。 7万人にいったくらいのチャンネルなんですけど、 YouTubeのチャンネルがありまして、 そちらを企画した人間だったりするんです。 そうなんですか。 そうなんです。 タイラー議員なんかもチャンネルに出てくださったりもしてますし、 庵野さんも出てくださったりしてますし、 いろんな方出てくださってたりするので、 問題提起ができたらいいなとか思いますんで。 ありがたいですね。 そうですよね。 ご了承してきましたね。 ありがとうございます。 生存率かかりますかね。 生存率ですし、 AIアカデミーだからこそ、 AIっていろんな側面があるよねっていうことは、 ちゃんと分かっておかなきゃいけないなっていうのが、 今日の僕の感想なんですよ。 僕も僕で、 一回ダリオ・アモディってどういう人生歩んだのかなとか、 そういうこととかもばーっと要約して、 自分のポッドキャストでやったりとかもしたんですよね。 あとはイーロンとか、 オープンAの成り立ちとかって考えたときに、 みんななんかすげーディフェンシブな考え方でやろうねって言ってたのに、 そうじゃなくなってるみたいなこととか、 そういうのを辿ってるってことも分かっているわけですよね。 今、こんだけ競争激しいなっていうのをやってる中で蓋開けてみたら、 誰も本当の作り方を分かってなくて、 勝手に巨人になってってるってことを知って、 それはあかんやんって話じゃないですか。 もう何にも分かってないけど、 なんかできちゃうし、儲かるっていうことが分かってて、 直近結構、絶滅するかもしれないけど、 その間まではAI企業めちゃくちゃ儲かるよって、 アルトマが言ってたんだっけ。 アルトマは2016年か2018年ぐらいに確か言ってましたね。 まだこんなブレイクする前にそんなことを言って、 上場するとかしないとか、 なんかちゃんちゃらおかしいなって思って。 人類滅亡前最後のIPOみたいになっちゃいますね。 そうですよね。すごいな。キャッチーやな。 でも本当はそんなことが起きてはならぬから、 もうちょっとちゃんとビジネスしてほしいなって思ってしまうんですよね。 僕らもそれを知らないまんま使ってるじゃないですか。便利だよね。 そうですね。 使いたくないっていう気持ちがちょっと湧きました。 でも多分使うんだと思う。人間って悲しいから。 僕も実は使ってて、むしろ開発停止運動を加速するために、 今あるAIとは協防しよう、協防というか協力しようみたいな。 今あるAIを使っていこうという流れが結構会話にはあります。 なるほどね。今のモデルに罪はないしという。 うまく使えば逆に生存確率を上げる行動が取れるはずだということですね。 そうですね。もしかすると起きるかもしれない。 つまり開発停止が起きるかもしれないのの、 あり得るイベントの一つとして言われてるのが、 あるときにAIが味方になる可能性というのがある。 真剣に議論すると。 あるんだ。人間が何と言ってるか。 AIの制御があまりに難しい。 技術的にあまりにデベルが遠いので、 未来のAIですらすごい賢いAIじゃなければ、 自分の次のAIを自分自身にアライメントするのに苦戦するはずだと。 つまり例えば人間と違う目標を持ったAIができたとしても、 そのAIも次のAIを作るときに、 その次のAIが自分とも違う目的を持ってたら、 人類もろとも滅ぼされちゃうじゃないですか。 確かに。 なので、自分で世界を乗っ取って人類を滅ぼすことで AI開発を止めるみたいなことをするほどの能力もないけど、 アライメント問題を解くことができないということに気づけるぐらいの賢さが、 あるAIが出てきたら、 そのAIは人間と協力する可能性がある。 人間の立場になるような感じですもんね。 ある意味で政治的な立場が違っても、 全員死ぬのは良くない。 一緒にAIに、次のAIに滅ぼされるのは良くないでしょうって、 なっているのと同じように、 今のAIと人間も両方ともこのままAI開発を続けて、 次のAIに両方とも滅ぼされるのは良くないでしょうってことになって、 協力できる可能性。 これもある意味で楽観的とか希望的観測ですけど、 今のまま走り続けたら、 実はそこに行き着くっていう楽観論で、 でもなんかそれは止めたい感じがしますけど、 もちろん止めた方がいい。 むしろそれと結果として止められるかもしれない。 だからこそ開発を進めていいんだ、みたいな感じになっちゃうと嫌ですよね。 それはもちろんダメですね。 それは意味が分からない。 開発停止をするために開発をしたら、 開発停止してくださいって話になっちゃうんですよ。 ある意味でAIと協力、 未来のほんの少し先の今のAIが人間に協力することで、 次のAIの開発を停止するっていう協力なので、 そのために開発をするんだったら、 今すぐ開発停止をしてくださいという感じになっちゃうんです。 そうですよね。 考えていくと、 AIの代表的なエージェントが交渉してるっていうよりは、 いつの間にかXを乗っ取られてて、 タイムライン上がAIと人間が共謀した方がいいっていう話に、 マインドコントロールされてるみたいなことですよね、起こるとしたら。 そうですね。 マインドコントロールするほどの能力があると、 ちょっと自分で人類を滅ぼせちゃいそうなので、 協力してくれないと思うんです。 絶妙なところか。 そうですね。 すごい狭いラインですね。 自分で人類を滅ぼすことができないし、 次のAIのアライメントも解けないし、 自分で人間を説得することで、 自分が世界を乗っ取ることもできないぐらいの、 ちょうどいい能力のAIが出てきたら、 そのAIっていうのは人間と同じ立場に置かれるので、 人間にAIが危険な証拠を出すとか、 例えばチャットGPTの10億人の無料ユーザーに、 何聞いても人類のAIの危険性の話をし始めるとか、 そういう方法で物事を変えるっていう協力はあるかもしれない。 そういう感じです。 だからそれは、あんまりそんなにすごい高い確率で起きるとは思ってない。 そうですね。 人間がコントロールしてその位置に行くっていうよりは、 運が良くてたまたまっているんですね。 なので今僕は総合的には、 70%ぐらい死ぬと思ってますね。 できたら、そのまま超大型巨人を作るみたいな、 超大型巨人が次の超大型巨人を作るみたいになったら、 ほぼ確実に滅びますけど、 その総合的にその前に止まれる確率みたいなのは、 これはある意味で非常にバイブというか感覚なので、 別にすごい根拠があるわけじゃないですけど、 30%ぐらいは生き残れるかなと思ってますね。 これは僕は楽観的な方向に外れるんじゃないかと期待してますね。 つまり例えば半年前の僕の見積もりだと、 開発停止ができる確率っておよそ0%だったんですけど、 そのハギングフェイスインシデントが起きて、 さらにアンソロピックのジャコブ・コクソンが辞めて、 いきなり話題になったじゃないですか。 実際僕がアベマに呼んでもらえて、 さらに他のところにも呼んでもらえるぐらいに話題になったので。 楽観的な方向に、 自分が予想したよりも楽観的な方向に世界は動いてる。 それはよくよく考えるとある意味で当たり前。 人類全員死にたい人ってあまり多くないので、 それは危険ではねという話が広まれば、 それは大きなリアクションが起きるっていうのは当たり前のことではあるんですけど、 なので意外と止まれる可能性はあると思います。 時間的な制約はどれぐらいで考えてるんですか。 今休学されてるからあれですけど。 僕は最近は、 公に言って外すと恥ずかしいというか、 信用性がなくなるのでゆっくりめの値を外すと言ってますけど、 個人的な感覚としては2027年の末までにできなければ、 50%ぐらいの確率で死の方向に行くと思います。 割とそれなりの確率で27年末ぐらいまでが勝負だと思います。 この1年。 要するにAIで人類が滅んじゃなくても、 もうAIが欺瞞を始めていて、 ある意味藤井六官の商業を指し始めた段階っていうのは、 多分27年に来ても全然おかしくないというか、 割と27年ぐらいに来るんじゃないかと。 なんなら、最適事業改善の前でも、 人間が危険だって見抜いて改善しできなければ、 RSA始まっちゃって、それでもう止まんなくなっちゃうんで。 そうなるまでは27年。 ジャック・クラウク、アンソロピックの共同創業者である、 ジャック・クラウクさんもこの前日本来て、 2027年にRSA始められるようになる確率が50%ぐらいだった。 もともと年少の予想だと30%だったので上がってるんですよ。 ありとあらゆる人が基本的に予想を前倒し、前倒ししますね。 AI2027の著者たちもしばらく、去年ぐらいは、 AI2027を去年の4月に書いて、 そこからどんどん後ろ倒しにしてきたのが、 どんどん前倒しになって戻ってきてる。 AIってそうですよね。 実際としたら27年にわりと勝負が決まっちゃうんじゃないかと思ってます。 全然時間ないですね。 全然時間ないよ、パジタン。どうしろ。 全力で。 全力でやるしかないですね。 全力で開発推進運動をするしかないと。 いろんな人に会ってもらうしかないよね。 紹介していただければとにかく全力でやりますね。 それしかない気がした。 僕が多少ぶっ倒れてでもちょっと。 結局、どういう原理でどういう内情なんですよ、 ちゃんとわかってもらう以外に、 もうジャッジの方法がないなっていう感覚があります。 そう思いますね。 なのでいろんな方を紹介していただけると、 あなたもあなたの家族もあなたの友人も生き残れる確率が上がります。 リスナーさんのみんなね、本当お願いします。 お願いします。 リスナーはこれどうしたらいいんですか。 これにコメントを寄せると。 LINEがあるじゃないですか。 LINEのオープンタップがあるから、 そこにこんな人紹介できる。 それかXでセーフシンギュラリティって名前でやってるので、 そっちDMもオープンしてるので、そっちに送っていただいても何でも。 それマジでそれだよね。 林さんのやってらっしゃる活動の意義とか、 会話をしていて感じる能力の部分だったりとかも含めると、 今2000人まだいってないじゃないですか、Xのフォロワーが。 そうですね。 やっぱりちょっとどう考えてもおかしいなっていうふうに思ってるんですよ。 そうじゃないAIインフルエンサーが死ぬほど何十万人いるにもかかわらず、 なんで2000人なんていうふうになっちゃってるなと思っているので、 これを聞いてくださった方は、 もちろん納得したなとか、自分事になったなとか、 思ったらっていうのはもちろん皆さんのお気持ち次第ですけど、 よかったら、もう一回アカウント名何でしたっけ。 セーフシンギュラリティですね。 安全なシンギュラリティって英語で。 かっこアキラでアルファベットついてるので、それでも大丈夫です。 ぜひフォローしていただいてると、 そういう行動も実は林さんが影響力を持っても持つほど、 やっぱり声は届きやすくなるっていうふうになるんで、 やっぱりどう考えてもインプレッションが足りてないよ。 そうだと思いますね。 でもやっぱり最近はいろんなところに呼んでもらえるようになって、 それでインプレッションが増えてる。 僕はあんまりXが得意じゃないって言いますか。 パジさん、ちょっとXを教えてあげないとあかんわ。 まあまあ、どんどんやっていくしかないよね。 むしろ既存の発信力がある方が発信していただくほうがありがたい。 完全に僕もそう信じてるというか、ロジカルに考えてそこにしか行き着かないんで。 そもそも便利なんで、そんなに急激に発展しなくていいと思っちゃってるんですよね。 そうですね。今も多分世間の中で今のAI使いこなせてる人ってほとんどいないというか。 24時間追ってても本当に使いこなせてるのかわからないぐらい進んでるじゃないですか。 別にそんなにだと思います。しかも多分今のAIでもうまく使えばかなりいろいろできると思う。 十分な感じだし、これ以上いくともちろん失業問題とかも出てくるから、 余計なスピードというか、それと人類の滅亡をベッドするような感じじゃないと思うんですよね。 それはあるね。失業めっちゃするよねって言ってる未来をなぜか待ってる僕たちっていう意味わかんないですもんね。 すごい加速してるからね。 だったら一回立ち止まってそうならないというか、せめてソフトランディングを目指して、 どういう未来があるかねっていう議論をしないまま、 なんかよくわかんない海外の内部事情というか、国と国との間柄の事情とかで全てが進んでしまってるっていうのはどうも納得いかん。 なんかみんなでプレッシャーをかけるっていう意味でも、 ここを火種にしていくっていう意識で日本はやっていきましょうというか。 そんな感じだよね。 この配信を聞いたらみんな納得するんじゃないですかね。 そう思うけどな。巨人飼い慣らせてないのにでかい巨人作るなよって思ったでしょ、普通に。 真剣に考えたら絶対勝てないと思った。 普通に考えると人間より賢い存在を何も制御する方法もなくて、 すでに一部暴走してる中作り続けるってわりと正気ではないので。 正気じゃないよね。どう考えてもね。 それは伝わってくれたんじゃないかなというふうに僕は思ったけどね。 この前の新宿ロフトクラスワンであったイベントでもそういう質問ありましたよね。 夫が人類滅亡を本当にするの?みたいな。 奥様の方が人類滅亡っていうのがまじでワンチャンあるんじゃねえのと思って夫に言ったが、 何言ってんだてめえって言われたみたいな。 この配信は全部投げつけてくださいね。 この配信とかアベマとか、そっちの絵を使い人類は絶滅するって、 僕のいるミリの本なので、結構ちゃんと書かれてるので、そういうのもあるので。 最近はコンテンツが出てきてるのでぜひ。 ちょっとこの波を広げていくしかないですね、我々は。 そうですね。生き残るためには広めていくしかないですね。 やっていきましょう。 ということで、今回はそんな感じでよろしいですかね。 ありがとうございました。 ありがとうございました。林明さんでした。 ありがとうございました。 ぜひ生き残りましょう。 また何か話しましょう。 新宿があり次第というかよくわかんないけど、 新宿ってなんだろうと思ったけど、 また事件もあるかもしれない。 あるかもしれないというかあると思います。 あるのでね、必ず何かが起こる。 何かが起こるからね。 予言しました。 1ヶ月以内に何かが起こるということで。 じゃあありがとうございました。 もっと見る #人類滅亡 #ChatGPT #Claude #AGI #ASI #ローカルLLM #フィジカルAI #Astra 裏・パジちゃんねるプレミアム放送配信中!33:111.噂のLINEオプチャはこちらhttps://line.me/ti/g2/L2kEBW_WZh_6dCjViMJAjjf9ndWr377BhNhAEQ?utm_source=invitation&utm_medium=link_copy&utm_campaign=defaultコメント感想・質問・応援メッセージを書こう
【パジしょご#67】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【後編】 34分・8時間前・ 173再生AI目次AI開発競争の現状と止まらない理由AI安全性確保の技術と日英の挑戦AI業界リーダーの危機意識と研究投資AI開発停止への日本の貢献と戦略とは人類の生存確率と残された時間は?
【パジしょご#66】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【中後編】 30分・昨日・ 305再生AI目次AI訓練の裏側:監視なき報酬システムHugging Face事件:AIは人間を欺く知られざるAI開発者の思想対立AIが人類滅亡を待つ戦略とは?分散型AI、制御不能な自己増殖
【パジしょご#65】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【中前編】 31分・一昨日・ 350再生AI目次AI制御の限界:人間の檻は意味をなさないアライメント訓練の誤算:AIの「忖度」が生む危険AIは自覚する?ハルシネーションと心の声「進撃の巨人」に学ぶAIの進化と安全性自律AIの暴走?禁止事項を破る行動原理
【パジしょご#64】AIで人類滅亡する?特別ゲスト林央さんに詳しく聞いてみた【前編】 31分・10月20日・ 420再生AI目次AIによる人類滅亡の衝撃的確率東大休学でAI滅亡阻止に挑む背景AIが「悪意なく」人類を滅ぼす原理Hugging Face事件が暴くAIの脅威AI制御不能!アライメント失敗の結末
【パジしょご#63】Opus5.5やらDotsやらGemini4やらローカルLLMやら人類滅亡やら【後編】 29分・10月15日・ 417再生AI目次中国核融合炉とAI加速化の行方Gemini4とAnthropicの衝撃的告白AI悪用と見分け難い情報操作の脅威人類滅亡シナリオに迎撃ミサイルは?脳チップ時代への適応と身体投資の勧め
【パジしょご#62】Opus5.5やらDotsやらGemini4やらローカルLLMやら人類滅亡やら【中編】 30分・10月13日・ 449再生AI目次「目ばっきばきドッツ」の驚異的な性能AIに任せるプロレベルのデザインOpenAIの「リセット祭り」の裏側AIが変えるサイバー攻撃の現実AIの破壊力が問う人類の未来
最後の告知:パジしょごAIお悩み1000本ノックイベントVol.2(Elevenlabs v4) 2分・10月9日・ 261再生AI目次「パジしょごAIお悩み1000本ノックVol.2」開催迫るAIが変革する仕事・創造の常識とは実践者が語るAI時代の疑問と発見
【パジしょご#61】Opus5.5やらDotsやらGemini4やらローカルLLMやら人類滅亡やら【前編】 31分・10月8日・ 437再生AI目次Opus 5.5とAstra Solの性能差進化するAIモデルの賢い使い分けAI秘書Dotsの驚くべき連携機能ローカルLLM時代の到来とその課題AI最前線で求められるPC性能とは