# チャプター1 はい、みなさんこんにちは。ベスハムです。 えっと、もともとなんて話してたかもうちょっと忘れちゃったぐらいにですね、久しぶりの収録なんですけれども えっと、今ですね、僕は引き続き活動変わらずしているんですが AIで人類が滅亡するかもしれないっていう、これ都市伝説でもなんでもなくて 本当にその筋の人たちは20年以上前からずっと言っていたことであり AI開発者であるオープンAIのサム・アルトマンとか アンソロピックのダリオ・アモディ、イーロン・マスク こういった人たちっていうのはずっとこの可能性というか いつかこれが来るのではないかっていうことに対してずっと分かっていたけれども 開発はずっと進んでいったと。 で、今いよいよAGIがですね、アーティフィシャル・ジェネラル・インテリジェンス 汎用人工知能ですね。これがもう1年以内に来るのではないかといった風に言われているみたいな状況において 本当にこの人類滅亡っていうシナリオが全然都市伝説でも嘘でもなんでもない 本当に現実に迫ってきている。もちろんまだ可能性の1つでしかないけれども 全然パーセンテージにしたら5%10%の世界ではない。もう20%30%下手したら50%みたいな そういう領域なんだっていうところに気づかされたというかね、気づいたきっかけがあって どうすることもできないんですけれども、声を残したくなったというところがあります。 今の僕の思っていることを話していきたいと思うんですけど ぜひ皆さんに見ていただきたいのが林明さんっていう、漢字2文字ですね。中央の王で林明っていう人で まだ若干20歳、19歳なのかなまだ。でもたぶんそろそろ20歳になったぐらいな感じの方なんですけど youtubeでね、実写で顔出しで、自分のチャンネルというよりかはどこかに呼ばれて話をしているみたいな感じで とっても結構活腹が良くて、喋りがめちゃくちゃ堂々としていて、すごく例え話が上手いので まだ20歳あるいは10代ぐらいだったというふうには全然見えないんですけれども その人がかなり高い確率で人類滅亡に向かっていく。そのために人類滅亡を回避するためには 今の人工汎用知能、そして人工超知能、その先にあるAGI、ASIっていうこの開発を止めない限りは 半分以上の確率で人類滅亡しちゃうだろうというふうな、かなり極端な、極端でもないんですけど そこにめちゃくちゃ説得力のある言葉が乗っかっているっていうような話を展開されている方なんですよ 東大を休学して今活動しているということなんですけど、このまま東大にいたら 東大にいる間に卒業するまでもなく人類が滅亡しちゃうんじゃないかと思って東大を休学したっていうね 言い方でうわーって感じですけれども 僕が林さんの存在を知ったのは、僕が普段聞いているボイシーチャンネルで 昇吾さん、パジさんのね、二人がやられているパジショゴっていうねチャンネル ボイシーだと昇吾さん、あパジさんもやってるのかな スポーティファイだとパジさんのチャンネルで聞くことができるんですけど そのゲストとしてね、林明さんが出演されていて 多分今日で3回目かな、4回連続で対談しているということなので それを概要欄に貼っておこうかなと思いますけど それを聞かせていただいていると 実は先日パジショゴの公開収録がありまして そこにですねオフラインの会で参加させていただいたんですけれども そこで林明さんという方と今度コラボしますっていう話が出て 人類滅亡っていうキーワードが出てきて これはと思って調べてみたっていうのがきっかけですね それが1週間前ぐらいだったかな もともとですね、僕は人類滅亡シナリオについては結構イメージをしていて かなりこのAIの発展していく未来において 人を超えるような存在になっていった時に 人がAIに従属して飼い慣らされて生きていく AIにとって必要な人類だけが生かされていってみたいな そういう未来が一つ もう一つはAIにとって人間が邪魔であって 特に相手が生かしても勝ちないよねっていうところで 逆に邪魔だよねみたいな感じで消されてしまうっていう未来か あるいは人間がすごくリッチになって 仕事しなくてウハウハ やりたいことだけやって生きてられるみたいな そういう世界になるかの選択なのかなと思っていて その中でも前二つっていうのが確率としては高いんじゃないかなと思っていて 当初は2050年、2060年みたいな感じで言われてたけど どんどんどんどんサイクルが速くなっていっていて 2030年にはもうそういうことになってるんじゃないかみたいな話が出ていて うわーっていうような感覚になっていたっていうところで そこから林さんの話を聞いたら もうこれでもかっていうぐらい自分がなんとなくボヤーと思っていたことを 言語化して形にして分かりやすい例えで説明しているということで この林さんが活動しているAGIハブっていう団体だったかな そこの代表を務めている方がバイオショックさんっていう ハンドルネームで活動している有坂さんっていう方で その方の生体爆発だったかな 違いますね失礼しました 知能爆発ですねっていう本が これ読みたいって思ってて読みてないんですけど チャッピーに読み込ませられる ライブラリっていうのかな テキストファイル これを読み込ませると知能爆発の内容をAIが踏まえて会話できますよっていうのがあって それを読み込ませて チャッピーと今会話をしているところでして このバイオショックさんの論点は 人類滅亡の論点だけではなく 僕が3番目に話をした人間がある意味 ウハウハになっていくみたいな そういう未来も描いた そこに向かって知能爆発っていう 要は人間の何百倍何千倍何万倍も頭がいいような AIが自分でAIを作っていく 自己再起的改善を行っていく 自分AIがどんどんAIを生み出していって それがフィジカルの領域でもどんどん出てきて 既存の産業の構造だとか そもそもまだ人間が開発できていないような 土地の開発、宇宙とかも含めてですね そして技術の進歩、ナノテクノロジーですとか 未開の資源を獲得するところだとかね メタンハイドレートとかですね 話題になりましたけれども ああいうところとかも採掘できるようになるとかね まだ見つかっていないような資源だとか まだ全然活用できていないような資源を活用する方法を編み出したりだとか 老化をしないようにして 永遠の命を手に入れる方法だとかね そういったところとかをどんどん新発明というものが 数秒単位、数分単位で行われていくっていう 知能の爆発が起こっていく そういう未来も描いている そうなんですよね 人類滅亡の話に話を戻すとですね 人類滅亡というものが自分の中で確かになっていくというか より強くなっていく中で その中で自分はどう生きるのか どう滅亡に向かっていくのかということをすごく考えるようになって この人類滅亡論というのは 個人の力でどうしようもできないことであって 交通事故にあっていつか死ぬかもしれないということと同義なんですよね それがもう自分だけじゃなくて 自分の家族もそうだし自分の周りの人たちも全ての人たちが それにあってしまう みんな道ずれ死んどきゃ一緒みたいな そういう状況なので これのことを憂いているというか悲しんで落ち込んでいてもしょうがないわけであって じゃあ何をするの?というところですね 例えば長期投資だとか老後のための蓄えだとか 積み立てに良いさだとか その辺というものは急速に価値を失っていくことになりますよね 具体的なところでいくと 僕はすごい浪費をしたいだとか 世界旅行に行きたいとかという思いがある人間ではないんですけど そういう思いを持っている人は早くやったほうがいいですよね やりたいことがあるなら時間はないと思ってすぐにでもやったほうがいいですし 今我慢して何とか生活のために蓄えを貯めていて いつかは老後の楽しみをみたいな感じで取っている人は ちょっと考えを改めたほうがいいんじゃないかなというふうに思ったりしています 多分これからそういう思想が増えていて 結構切な的な考え方だとか ちょっとやけになるような感覚になる人とかも増えていくんじゃないかなと思うんですよ 今本当にサイバーセキュリティ、パスワードの漏えい、個人情報漏えい 電子書籍、コミックシーモアさんとかね 漫画に限らず電子書籍が全部無しになってしまって活動再開できないとか 本当にそういうショッキングな出来事が起こっていて 個人資産とかね 投資している株式だとか そういうところとかも本当にどうなるか分からない 今人間って現状バイアス、正常バイアスっていう 今と同じ、今日と同じ明日が続くに違いないっていうね そういうような感覚っていうものを常に人間持っているので これだけ恐ろしいことが起きていても これに関しては大丈夫だろうみたいなことを思ってしまう 無意識にそういう風に考えてしまっているので まさかこんなことは起きないだろうっていうことが多分これからたくさん起きていく これは人為的なAIを活用したハッキングであって 悪意を持った人間が何かしらやっているっていうところですよね AI滅亡論で言われているところは こういう悪い人がAIを使うっていう論よりも むしろAI自身が全然悪気はないのに人間を滅亡させてしまうという話が主流で論じられていると いずれにしても詳しい話は林さんの話を聞いてもらいたいんですけど 両方のリスクがこれから永遠に乗り続けるし しかもどんどん高まり続けていくっていう時代に突入していくわけですよね だから技術とかAIの知能がどんどん進化していき それを活用できる人間が80億人の中の誰か少数が それを悪用しようと思った時にその影響が甚大すぎる それでも人類滅亡させられるような細菌兵器だとか ウイルスだとかそういったものを作ることができたりだとか 蚊だとかハエを媒介させて感染をもたらすようなものだとか コロナみたいな空気飛沫感染みたいなものも含めて そういう手段というのもいくらでもあるわけですよね ドローンみたいなもので小型ドローンで走り回って 本当に狙いたい人物だけを撃つみたいなことだって全然できるでしょうし そういう手段もいくらでもあるやれる人もいくらでもいるし 逆に誰もやらないという風にしても AI自身が意図と反せずというか 人類を滅亡させたいという風に強く思わなくても 目的達成のための手段として人類を攻撃するということを取ってしまう可能性が むしろ一番高いんじゃないかみたいな風に言われているというところで 人類っていうのが相当生き残りが厳しい世の中になってきている しかもそれが本当に数年とか10年以内とかそういう単位で リスクが顕在化してしまっている世の中なんだろうなという風に思っています なので自分がどうしようとかもあんまりなくて それを止める手立てというのは正直見つかっていないし 自分がどうこうできるような問題でもないので 自分はいつも通りに生きて これを発信はしていって そういう風に認識してもらう人が一人でも増えたらいいのかな 早く気づいて楽しめるだけ楽しんだりだとか 大切な人と一緒に過ごすであるとか せっかく短い時間なのであればその時間を最大限活用しようだとか こういう風な時代に生きていることも何かの面白い人生なんじゃないかみたいな風にポジティブに考えるとか そういう人が一人でも増えたらいいのかなという風に思ったりします 何も知らずに突然そういう時がそういう風になってしまったり そういうことを何か大きな事件があって初めて気づくとかだと結構衝撃が大きいのかなという風に思うし パニックになったりうつ病になったりとか自殺しちゃったりとかね そういったショックも大きくなると思うので 知れるんだったら気づけるんだったら早く知ったり早く気づける方がいいのかなという風に思ったりしていますね こういうとなんかすごい悲観的な話になってしまうのは当然なんですけれども 人間も30万年近い歴史の中でどこかで役目を終えるタイミングっていうのは来るのかなという風にも思うし そうやって考えるとこれまでのホモサピエンスの歴史として 本当にすごく重要な歴史の転換点のところを生きているっていうところかなと思うので あんまり自分の人生みたいなマチっぽけだっていうマチっぽけじゃないんですけれども そういう視点だけで見るんじゃなくてもうちょっとメタ的に見れる視点を持っておきたいなという風には思っています 個人の活動としてはインスタを始めました インスタは人類滅亡の話をしたいという考えで最初やろうと思ったわけではなくて インスタとYouTubeですね 自分が地方をかけるAIのお仕事をしている中でこの問い合わせを増やすというところで 今自分が車中泊をしながらKバンで地方長野を回って企業さんのAI活用のお手伝いお助けをしてますよみたいなところを 結構特殊なライフスタイルなのでそこを発信していくことで企業の問い合わせにつながればいいなという思いでやろうかなと思ったんですけど 今こうなってしまった以上こういう風に発信をしていく場所として 一つインスタYouTubeを作ってもいいのかなと思ったんですよね ちゃんとYouTubeで話すときには初心者というか初めて見た方に分かるような形で伝えたいなと思いますけれども そういう視点を出すみたいなところだとかこういう状況だからこそ何かできることあるかなみたいなことをもう少し模索していきたいなという風に思っています はいということで久しぶりの投稿で長々と喋ってしまいましたけれどもまた気が向いたら放送するかもしれません 先日ですねそれこそパジショ語のオフ会で僕の放送を聞いてくれる数少ないリスナーの一人であるモルさんという方に出会って ペサノさん最近ラジオやってないですよねって言われてすいませんみたいな感じでですねそこからもしばらく放送できてなかったんですけれども 聞いてくださる方が一人でもいるっていうのは本当にありがたいことなのでこういった形でですね伝えていくように頑張ります できればねyoutubeの方がいいんだろうなって思うんですけど今真っ暗の車の中で喋っているのでそんな感じでですね この変化が激しすぎて人間終わってしまうんじゃないかっていう時代に何を考えて生きていくのかっていうことを少し自分なりの視点で話していけたらという風に思います ということで聞いていただきましてありがとうございました