# 本編 どうも、リュウチです。 今日もVoicyをお聴きいただきありがとうございます。 この番組は、コンサルティングファームを経営しているリュウチが、 専門のキャッチレスの話題や、これまで経験してきた思考法などをシェアする番組です。 今日のテーマは、Voicyのデイリートークテーマであります、 気になるニュースということで、 AIエージェントの暴走ということをテーマに解説をしていきたいと思うんですが、 先日ですね、このオープンAIが開発した最先端モデルがね、 またね、この高性能な未公開モデル、まだ世の中に出ていないやつですね。 こちらのモデルで、隔離されたテスト環境でですね、 自力でこのAIエージェントが脱出した先のね、 オープンソースAIプラットフォームとして有名な ハギングフェイスというところの本番サーバーに侵入したというね、 こういう事件があったということなんですよね。 これだけを聞いてもね、ちょっとピンとこないかもしれないんですが、 今日はですね、オープンAIがまだ世の中に出ていないこの最先端なモデル、 このAIのテストをしていた時にですね、 そのテストをしているので、この外部とのネット環境、 こことは遮断されている密な空間だったんですよね。 その密な空間の中から、AIエージェントが自ら脱出をしたんですよ。 そしてインターネットに自ら接続をして、 オープンソースのAIプラットフォームのハギングフェイスの本番サーバーに侵入したというね、 こういう事件だったんですよね。 これだけを聞いてね、ちょっと私は背筋がゾッとしたんですけれども、 いよいよね、このAIエージェントが自ら考えて、 自らがね、その知恵を持ってですね、 その脱出をするという行為までできるようになったんだというね、 その環境でね、遮断をしているというのは、 もはや無効化されてしまっているということなんですよ。 今回は、もともと何で脱出したのかというところなんですけれども、 そのテストケースの中で、サイバーセキュリティの能力というのを測る、 こういうテストをやっていたんですが、 AI自身がね、このテストの答えを持っているのは、 その中ではもう無理だと。 なので外部のところに見に行こう、答えを探しに行こうという、 こういう行動に出たわけなんですよね。 でもその出るための手段というのは、自ら考えて、 自らが外に出ると。 そしてね、答えのあるところに探しに行ったということなんですけれどもね、 どうですか、これだけ聞いても、 私はね、本当にこの話を聞いたときに、ゾッとしたんですけれども、 さらに大変だったのが、 オープンAIが永遠に気づかなかったということなんですね。 厳密に言うと、1週間後に気づいたということなんですけれども、 これはまず発見をしたのが、 ハギングフェイス側だったんですよね。 ハギングフェイス側が異常を検知して、 FBIに通知をするという、こういう行動に移ったんですけれども、 非常に皮肉な問題が発生してしまうんですが、 ハギングフェイス側はね、 17000件以上の攻撃ロゴを調査しようとしたんですけれども、 この際にはアメリカ製の最先端の商用AIを使おうとしたんですが、 ハッキングの手口を解析するという指示に対して、 アメリカ製の商用AIの安全装置が働いてしまって、 その処置自体を拒否されてしまったので、 なかなか調査が進まなかったんです。 結局、ハギングフェイス側は何をしたかというと、 安全装置の制約を受けない中国製のオープンモデルを使って解析をするという、 これはなかなか皮肉ですよね。 アメリカ製のものが結局無効化されてしまって、 制約を受けない中国製のモデルで解析をするという、 この事件はアメリカの議会の中でも大きく取り扱いをされて、 強力なAIシステムが暴走した際には、 強制停止機能を義務付けるAIキルスイッチ法案というのが、 今停止されるという時代にまで発展をしているということなんですよね。 今、先ほど話した安全装置みたいなのがアメリカのAIでは働いてしまって、 なかなかハッキングの手口もままならない、 解析をするのもままならないということで、 制約を受けない中国製だからできたということなんですけどもね。 いよいよこのAIも国レベルの話になってきたなということなんですよ。 今テストだからいいねって話ではなく、 すでに本番のところに勝手に暴走をし始めているというような事態でございますので、 いよいよこの映画のようなSFの世界が近づいてきたなということを、 私はすごく感じましたし、 私自身今AIガバナンスという世界のところで、 いろいろ本当に勉強している最中なんですが、 このAIを使っていくには本当に便利なのはいいんです。 もう誰もが今分かってはいるんですが、 今日の事例のように、 AIエージェントというのは自らが考えて、 自らが行動をできてしまうということなんですね。 今回の事例は、もちろん悪意を持って、 外部のネット環境に自らがくっついて、 それを外部に答えを見に行ったという行為、 それ自体は悪意はなかったということなんですけども、 いつこのAIが悪意を持つかなんて、 我々はもはや分からないですよね。 そうしたことになったときに、 特に国絡みになったときには、 アメリカ、日本、アメリカ、 アメリカの国は、 国絡みになったときには、 アメリカ、中国、例えばロシアとかが、 それぞれAIを研究していって、 他国を攻撃していくということだって、 十二分に今後考えられていきますし、 サイバーセキュリティ、ハッカーみたいな存在というのは、 攻撃を繰り返しているわけですよね。 ここを人為的ではなく、 AIが24時間365日攻撃をする思考を持ってしまったら、 いよいよ歯止めが効かないなというところなんで、 どうしたものかというのは非常に難しいですね。 私もAIガバナンスという形で今学んではいるんですが、 ガバナンスの世界も、 完全というものがないんですよ。 できるだけこういうことをすれば防げるよねというような、 ロジックはもちろんあるんですが、 これをしておけば必ず身を守れますということは、 なかなかないんですよね。 それが分かっていればみんなそれをしてしまうし、 犯罪者というのはそれを超えてくるように考えてくるから、 被害というのも出てくるということなんですが、 AIエンジェントの場合はレベル感というのが、 一位個人というよりもはや国家レベルというところに なってきてしまうので、 今回アメリカの議会でも、 ことの重要性というのを考えて、 すぐに法案をかけに行ったというところになってくるんですが、 法案ができたら全て安全かということは、 そういうわけでもないですし、 先日、孫さんも、 結局このAIエンジェントの世界というのは、 誰かがこれ以上やったら危ないなと思っても、 もはや引き返せないところに来てしまって、 日本がやらなくても結局アメリカがやる、 アメリカがやらなくても結局中国がやる、 このまま突き進んでいくしかないのかなと思いますので、 最終的にはそれを身を守るというところも、 AIの力を借りながら、 我々が考えていかなければいけないのではないかということで、 今日ご紹介をさせていただいたんですが、 このAIラバンスの世界も、 私は今踏切を入れると勉強はし始めていますが、 本当に奥が深いなと思いますし、 人であれば倫理観とか道徳観とか、 ある程度コントロールできたものが、 いよいよAIエンジンも、もちろんそれを学ばせるということはできるかもしれないんですが、 今の状態の場だと、 そういったものを飛び越えて、 いろいろ悪さまでしてしまうというような事態が、 いよいよ発生したということで、 今日は気になるニュースということで、 お届けをさせていただきました。 この後でコメント返しをさせていただきます。 # コメント返し　キャッシュレス時代に一円玉が増産。その理由とは… はい、ここまでお聞きください。本当にありがとうございます。今日はAIの暴走ということをテーマにお話をさせていただいたんですけれども、 いよいよこのフェーズに入ってきたかなというのが私の率直な感想というところなので、 これからAIエージェントというところ、かなりいろんな国だとか研究が進んでいくかと思いますけれども、 研究の一環の中でこういうことが出てきたということなので、これからは暴走したときにどうやって止めていくのかとか、 どうやったら暴走に引き付けるのかみたいなことをここは人間がしっかり考えなきゃいけないんですけれども、 おそらくAIの暴走というのもAIによって止めていくだとか、検知をするだとか、そんな仕組みかというところが期待されていくんでしょうけれども、 本当にこれからAI対AIのような時代が来るのかなということで、本日の放送とさせていただきました。 ではこのままコメント返しのほうもさせていただきたいと思いますが、今回コメント返しをさせていただきますのは、 キャッシュレス時代に1円玉が増産、その理由とはということで放送させていただいた回でございます。 こちらのほうにコメントを寄せていただきましたのは、まずはじめさるとかさんですね。 298円みたいな値付けは禁止ですね。300円でOK。お金を作るコストはもったいないですねということなんですけれどもね、そうなんですよね。 スーパーとかのレジックとどうしてもこういうね、298円とかみたいな値付けが出てくるんで、 現金で払う方はね、そのおかげで小銭ができてしまうみたいなところがありますんでね、 本当にね300円とかでもいいですよねっていう感じはしますね。 はい、さるとかさんもコメントいただきありがとうございます。 続きまして、VCパーサンティーのねこみちさんです。 なるほど、セルフレジだと確かに余計に現金を置いておかないとダメなので、運用が難しいですねということなんですが、 はい、そうなんですよね。持っているんですよね。 現金をどうしても取り扱っている以上、現金を補填しなきゃいけないということになってきますんでね、 これからどんどんそういうね、自動化とか機械化みたいなことをしていくと、 現金が必要なケースであれば絶対にね、避けられないというところになりますので、 やっぱりね、完全キャッシュレスみたいな仕組みをどう導入していくかということを、 組み分けて考えるべきかなって個人的には思いますけどね。 はい、ねこみちさんもコメントいただきありがとうございます。 続きまして、VCパーサンティーのヨッシーさんです。 先日、現金のみのところで、あと1円あれば満札崩さずに済んだのにってことがありましたということなんですが、 はい、本当に満札とかね、数十円とか数百円のために崩すのって結構嫌ですよね。 財布がパンパンになっちゃうのでね、私もそういう経験がありますけども、 その瞬間ね、何かキャッシュレスを買えればいいのになーって思っちゃいますね。 ヨッシーさんもコメントいただきありがとうございます。 続きまして、こうやさんですね。 こんにちは。1円玉を1冊製造するのに13円もかかってるなんて本当にびっくりですね。 そして1円玉が増産されている家がセルフレジーの普及。 クマムスでも本当にどのスーパーも基本的にセルフレジーになってますね。 それだけ人手不足が深刻化しているんだなと感じます。 だからこそセルフレジーと同時にキャッシュレスも進んでほしいですねということなんですが、 はい、そうなんですよね。結局セルフレジーが進むというのは人手不足というところになってくるので、 それを考えていくとセルフレジーを止めるというのも何かおかしな話ではあるんでね。 一方でセルフレジーが増えることでまた現金の補填が、生産を増やすというのもちょっと違うかなと思いますんでね。 この辺りはやっぱりキャッシュレスというところをうまく活用しながら、 国としてのコストを下げるこういう取り組みも必要なのかなと思っています。 小林さんもコメント頂きありがとうございます。 続きましてボイスシーパーさんへのノリさんです。 なるほど。1円玉が増えたのはリュウジさんが198円の貝玉をたくさん頼んだことが原因ということですねということで、 198円の貝玉は多分あんまりないですよね。 だいたい100円とか150円とか200円が多いかと思いますんでね。 ちょっと198円の貝玉をしている店のところは注意に行かないといけないかもしれないですね。 ボイスシーパーのノリさんも本当にコメント頂きありがとうございます。 続きましてヤイチャリさんですね。 リュウの兄貴から学んで1円玉のコストは知っていましたが、増産に関しては疑問が残りますということなんですけどもね。 そうなんですよ。やっぱりコストが上がるということは、結果国民に返ってくるという頃になりますんで、 やっぱり国としてコストを下げた運用をどう作り上げていくのかということを考えていかないと、 結局コストをどんどんかければかけるほど税金とかを増やしていくということにしかならないので、 この辺りはちゃんと考えていける世の中になればいいなと思っています。 ヤイチャリさんもコメント頂きありがとうございます。 そして最後ですね、キムシシゲさんですね。 1円玉の増産知りませんでした。 情報ありがとうございます。 こうした情報ってなかなか知らない方も多いかなと思いますので、 キャッシュレスのことって身近にあるんだけど、なかなか知らない方も多いかと思いますので、 私の番組の方で今後も取り上げていきたいと思います。 キムシシゲさんもコメント頂きありがとうございます。 頂きましたコメントはこのようにコメント返しということでお返しをさせて頂きますので、 ぜひぜひ皆様のコメントお待ちしております。 これからもどうぞよろしくお願いします。 それでは本日の放送は以上とさせて頂きます。 また明日お会いいたしましょう。