# 本編 どうも、りゅういちです。 今日もVoicyをお聞きいただきありがとうございます。 この番組は、都内で会社を経営するりゅういちが、 専門である決済やAIガバナンスの話題、 これまで経験してきた思考法などをシェアする番組です。 今日のテーマは、Voicyのデイリートークテーマでもあります。 気になるニュースということで、 今日選んだテーマは、 AIの暴走に警笛を鳴らす著名人ということで、 最近、AIの進化が止まらないので、 この進化をこのまま続けていいのか? こんなニュースがいろんなところで出ているので、 今日はそんな話をしていこうかなと思うのですが、 まず、ビル・ゲイツの発信がつい最近出てきたと思うのですが、 ビル・ゲイツがどんな話をしていたかというと、 AIがこのまま発展していくと、 10億人の死者を出すような事態を引き起こす力を持っているという、 強い危機感を表明したということです。 ビル・ゲイツによると、 悪意を持つ人間と最新のAI技術が結びつくことで、 人類史をかつてないほどの兵器が生み出されるのではないか、 そういうリスクを指摘しているということです。 ここでのポイントは、 便利に使おうと思うのは、 決して善意のある人だけではないということです。 犯罪的なリスクも便利な仕組みによって増長されていくというところが、 ここの指摘ポイントかなと思います。 このまま何の無知事な状態で、 AIの開発を行っていっていいのか、 こういう指摘をしていたということです。 今は業界内の自主規制みたいなものだけに頼っているのですが、 それだけでは不十分なので、 政治家であったり法の執行機関である国や 参加して義務化をしていく必要があるのではないかということで、 より規制を強めていこうという発言をされてきたということです。 これは別にビル・ゲイツだけに限った話ではなくて、 今、非営利団体ではあるのですが、 フューチャー・オブ・ライフ・インスティテュートという団体があるのですが、 ここでも人間の認知能力を余るスーパーインテリジェンスの開発を 一時停止しようという訴えが行われていまして、 この中には850人もの署名人が署名していると言われています。 その中にはAppleの創業者であったり、 AIのゴッドファザーと言われるような方々、 ノーベル賞受賞者であったり、 そうそうな顔触れがつらんでいるということで、 これだけの署名人がAIの開発を止めようという、 こういう動きになってきているというのが、 世界の流れではあるのですが、 やはりAIのシステムというのが、 良い風にだけ使われるということではないということなので、 AIがどんどん力を付けてくると、 より悪いものに応用されていく、 要は犯罪に使われていくのではないかというのが、 多くの方の意見ということになっているということです。 この辺りは、我々日本にいて、 AIを触っているレベル感だとなかなか感じることができないのですが、 グローバルに見たときには、 もはやこの便利の域を通して、 危険性を感じている方々が増えているということで、 AIもかなりフェーズが変わってきているのかなと受け取られる、 そんなお話です。 この署名人の方々の言っていることは、 SF的な妄想なんじゃないかと思われる方もいるかと思いますが、 既に妄想というよりも、 現実的なリスクというのも、 報告レベルで上がってきているということです。 これはイギリスの方のAI安全研究所というところが、 出資したところの調査報告書によると、 AIエージェントが権限の範囲を超えて、 意図しない行動をとる妄想というのが、 既に昨年に比べて約5倍に急増しているということが、 言われているということです。 このAIエージェントは、 今年かなり流行ってきた、 ブレイクした仕組みになってきているのですが、 これによって、 妄想をしているということが確認されているということです。 決してこれはAIに自我があるわけではなく、 AIエージェントのタスクを持たせたときに、 その目標に対して、 自己保存とか資源獲得、 さらには監視の回避といった合理的な戦略として、 AIがそれを選んでしまうということです。 私の以前の放送でも、 AIエージェントが勝手に妄想して、 不正アクセスをしてしまったという、 こういう話をしたことがあったかと思いますが、 これは重大なインシデントということで、 現実の世界の中で、 報告レベルで上がってきてしまっているので、 現実に起こっている状態になっているということです。 これは、 日本で有名な国際政治学者の舛添さんも言っているのですが、 ここには、 米中間の激しい開発争いが起こっているのではないかと、 これは以前、 核兵器の開発競争と構造的には同じで、 結果、ここの覇権を握ることが、 国防としても有益だということなので、 今、このAIの開発というのが、 アメリカであったり中国、そしてロシアであったり、 ここで非常に大きなお金が投資されて動いているということなので、 もはや国レベルの争いということになっているので、 そうなると、このAIで覇権を取ってしまうことによって、 国の国力を上げるみたいな、 こんな話になってしまっているということを指摘しているのですが、 これに対して、 世界がこのルールを定めに、 一枚岩になっているかというと、 なかなか難しいのです。 これは別に核兵器でも同じ話にはなっているのですが、 国際ルールを定めても、 先ほど出てきたような大国、アメリカとかロシアとか、 これに対して反対的な姿勢を見せますし、 中国も同じく、 なかなか足並みを揃えよう、 強国であるほど揃えようという意識ではないので、 やはりこのAIの開発に関しても、 トランプ大統領は積極的で、 足並みを揃えようとか規制をかけようという方に関しては、 後ろ向きな発言が多いかなと思います。 とはいえ、トランプさんも今、 AIの監督委員を作ろうと言っているので、 一定規制にも目を向き始めているのかなというところで、 かなり大きく揺れ動いている状態なのかなというところです。 日本も核決定されているAI関連法案はあるのですが、 まだまだ罰則や禁止規定は伴わない、 イノベーション型の状態になっているので、 規制の範囲を超えないような内容ではあるのですが、 これだけ世界の流れが変わってくると、 もちろん国際推進もより規制の方に動いていくのだろう。 それに合わせて日本の中でも規制強化が歌われてくるという、 そんな傾きになっているのかなというのが足元の状態でございますので、 いよいよ開発から規制にフェーズが少しずつ移り変わっているということで、 私も昨日ご報告させていただいたように、 AIガバナンスの会社をちょっと作っているということでございますので、 いよいよ我々も規制強化というところに関して、 ビジネスが生まれてきそうだなという予感もする話でございました。 今日はAIの暴走に警笛を鳴らす著名人のお話ということで、 お話をさせていただきました。 それではこの後、コメント返しをさせていただきます。 # コメント返し　私なりの幸福論 ここまでお聞きくださり、本当にありがとうございます。 AIの暴走に関して、警笛を鳴らす著名人が増えてきているということで、お話をさせていただきましたが、いかがでしたでしょうか。 皆さんもAIを扱っている方の方が圧倒的に多いでしょうし、私自身も使っているのですが、 やはり皆さんが言っているのは、このAIエージェントですよね。 AIエージェントという仕組みは、個人が支持するだけではなくて、AIが勝手に考えて、AIが勝手に行動するという仕組みになってきますので、 ここまで行ってしまうと、より危険性が払っているということなので、我々が日常で使っているようなレベル感では、あまりそういったところはないのですが、 やはり国家レベルのお話になってくると、なかなか現実としては受け入れられにくいところはあるのですが、 そういうハイレベルなところで、そんな議論がされてくると、最終的には我々のところまで影響してくる話にもなるのかなと見ておりますので、 皆さんにも今の現状をお伝えできたらなと思っておりますので、これからもこんな放送をしていきたいなと思っております。 それではこのままコメント返しをさせていただきたいと思いますが、 今回コメント返しをさせていただきますのは、私なりの幸福論ということでお話をさせていただいた会でございます。 この会でコメントを寄せていただきましたのは、まずはじめVCCパーソナリティになられましたKoeiさんですね。 こんにちは。私も先日の熊本地震に被災したので、やっぱり家族みんなが幸せに生活ができていること、これに勝る幸福って何だと改めて感じました。 日々感謝、だからこそ全力で行動し続けますということで、Koeiさん、まずVCCパーソナリティおめでとうございます。 一緒にパーソナリティとしてVCCを盛り上げていけたらと思いますので、これからもどうぞよろしくお願いします。 被災をされたということで本当に大変だったと思いますが、その中でもしっかりまだ生きて、発信活動も続けられているということを、この現実が幸せなんじゃないかと私も思いますので、 そういった観点が大切なのかなと思っています。Koeiさん、コメントいただきありがとうございます。 続きまして、ゆきのさんですね。 昼場ウィークは実家に帰って家族にご馳走しました。 このお店ですということで、お店もリンクいただいてありがとうございます。 本当に素敵なお店でお家族の方を招いて一緒に食事をしたということです。 本当に親孝行ですよね。 自分が娘にそんなことをされたら泣いてしまいそうな感じかなと思います。 やっぱりこういうことにお金を使うというのは、すごくいいお金の使い方だなと思いました。 ゆきのさんもコメントいただきありがとうございます。 続きまして、VCパーソナリティののりさんですね。 今日の放送を聞いて改めて、りゅうじさんがラーメンに囲まれているときは幸せということが分かりましたということで、 それは間違いではないかなと思いますので、ラーメンに囲まれているときは幸せかなと思います。 それも幸せの感じ方の一つだと思います。 のりさんもコメントいただきありがとうございます。 続きまして、ぽよさんですね。 ダンゴダンゴダンゴ。当たり前が当たり前にできるって幸せですよね。 失ってから気づくことが多いですが、今過ごせている日々に改めて感謝したいです。 スタバでコーヒーを飲みながら食事する時間も幸福ですよねということで。 まさに当たり前のことが当たり前にできる。 これを幸せと感じられるのが一番幸せなんじゃないかなと私も思いますので、 日々そういう幸せというものに感謝をしながら生きていけたらなと思っています。 ぽよさん、コメントいただきありがとうございます。 続きまして、ひろむさんですね。 ひろむと申します。りゅういちさん始めました。 数年前ですが、11さんがりゅういちさんをお勧めされて、その際から配聴しています。 また最近は本業のきっかけでクレジット関連の勉強を始めたいと思い、 配聴するだけでなくクレジット関連の内容も含めて様々学ばせていただいております。 今回の放送ですが、現状の手持ちの条件ではなく、 在り方やマインドが大きく人生に変わると気づき始めていました。 りゅういちさんも同様の考えで、勝手に親近感を分かせていただきました。 今後も楽しみにしております。 まずは、初コメントありがとうございます。 りゅういちさんと一緒に対談したのもちょっと前になりますので、 かなり前からお聞きいただいているということで、本当にありがたいですよね。 こういうふうにコメントをいただけるというのは、 これから私の幸せの一つかなというふうに改めて感じますので、 ぜひこれからもクレジット関連のお話もされることながら、 こうした話でコメントをいただければ、本当に私も嬉しいですし励みにもなりますので、 これからもどうぞよろしくお願いいたします。 ひろみさんもコメントいただきありがとうございます。 いただきましたコメントはこのようにコメント返しということで、 お返しをさせていただきますので、ぜひ皆さま、 初めての方もいるかもしれませんが、コメントいただけると、 こうしたパーソナリティとしての幸せってまさに聞いていただけることだなというふうに私は思いますので、 こういう形で聞いているよというコメントを一言でもいただけると本当に嬉しいです。 それでは本日の放送は以上とさせていただきます。また明日お会いいたしましょう。