# 本編 どうも、りゅういちです。 今日もVoicyをお聞きいただきありがとうございます。 この番組は、決済のコンサルトファームと AIガバナンスの会社を経営するりゅういちが、 専門である決済やAIの話題、そしてこれまで経験してきた 試行法などをシェアする番組となっています。 今日のVoicyはですね、 AIによって作業が増えていくのかということを テーマにお話をしていきたいと思います。 最新のセキュリティ事情と 私たちの防衛策についてお話をするのでね、 本当に最近のニュースを見ていただければと思うんですけどもね、 先日の放送でもね、9月の20日ぐらいからですね、 非常に情報漏洩事故が増えているということをお話ししたんですけども、 その10月の5日の日に放送した、 さらにね、大気水産、焼肉キング、大和商圏、ホワイトエッセンス、大阪公立大学とね、 有名企業とか教育機関での情報漏洩のトラブルが 立て続けに発生してますね。 もうこれはね、本当に背景にAIのシステム、 AIによってシステムの脆弱性を狙ったというね、 そういってもいいんじゃないかなというレベルかなと思いますね。 深刻な状況であるということは間違いないなというところでございますね。 そんなね、AIとこの詐欺についてのお話ということを紐解いていこうかと思うんですけども、 まずね、この現場でどんなことが起きているのかというところなんですけども、 今のね、セキュリティ企業の報告書なんかを読んでいるとですね、 今やね、この金銭目撃の攻撃者というのが、 オープンソースのAIエージェントを複数組み合わせてですね、 数百点ものオンラインショップであったり、企業というのを自動的に攻撃を仕掛けているというふうに言われていますね。 例えば、この脆弱性を探すストレックスというものであったり、 侵入作業を進めるチェーンとかね、 そして全体を統括するハームスといったね、 AIツール、こういうものが使われているというふうに言われているんですけども、 攻撃者のほとんどはね、 数行の指示を投げるだけで、その後の探索であったり、 侵入の大部分をAIによって自動化しているのではないかというね、 こういう報告なんかも上がっているというところでございます。 驚くべきはね、そのコストとスピードなんですけども、 あるね、調査によると、この101件のスキャンにかかったAIの利用料は、 1週あたり平均わずか125ドルというふうに言われているので、 人間が手作業で調べたら何日もかかるようなリサーチであったり、 この攻撃の絞り込みみたいなものは、 AIでやると数時間、あるいは1日未満といった圧倒的なスピードで 完了させてしまうというところなんですよね。 防御側である企業がバッチを当てたりね、 セキュリティ強化をするといったスピード感は、 このAIが数時間単位で試行錯誤を繰り返してね、 弱点を突き続けるといったスピードの方が圧倒的に早いということなんですね。 これはつまり何を指しているかというと、 構造的にこの守り手の方が圧倒的に不利なゲームに このAIのところについているとなってしまっているのが、 これが今のね、現在の実態というところでございますんでね。 これはなかなかね、この攻撃者の方が守り手を上回っている、 今そんな状態になっているんじゃないかというところでございますね。 これは企業のシステムだけを狙い撃ちしているのではなく、 私たち個人が直面する詐欺の手口にも、 これは生成AIの普及によって完全に別次元ということになっているということですね。 これはセコムであったり、各種セキュリティ機関のデータでもあるんですけども、 AIは活用して詐欺を働いてくる。 これはね、ディープフェイクであったり、音声のクローン、 こういったところに顕著に出ていると言われておりますね。 本当に私の放送でもね、以前このディープフェイクについては話をしたんですけども、 その人になりきってしまう。 特に対面というところではないので、最近打ち合わせもかなりリモートが増えていると思いますので、 そういったときはね、この顔画像、これ自体をフェイクにしてしまう。 声もそうですね、これも音声クローンというような形でございますので、 声をAIで生成してしまうというね、これをやることによって個人も騙されてしまうということなんですよね。 これは2025年のデータなんですけども、組織の73%がサイバー技術を利用した詐欺の直接的な被害を受けているというふうにも言われておりますので、 AI詐欺自体は過去にない規模で急増しているということで、 これは2026年も同様な流れになっているんじゃないかというところでございますね。 以前の詐欺といえば、何かしら日本語が不自然だったり怪しい文明で真っ直ぐに見抜くことができていたんですけども、 今の生成AIは送信相手の文体なども学習することができますし、 完璧で不自然さのない日本語のメールであったり偽サイトというのをあっという間に作り出してしまうという技術がございますので、 ハーバード大学の研究チームが実施した実験なんかでも、 AIを使った詐欺メールというのは、2人に1人が騙されるといったような結果も出ているので、 もはや文面だけで怪しさを見抜くというのは、とても難しい状態になっているというところでございます。 さらに強烈なのが、先ほどお話ししたディープフェイグ動画であったり音声クローンといったものになってまいりますので、 これは個人のレベルではなかなか立ち打ちができないような状態になっているんじゃないかというのが、今足元に訪れているというところでございます。 本当に我々の身の回りにAIが普及することによって、詐欺というものも非常に高度化されてしまったというのが、 今我々が置かれている立場という状況だということなんですけども、 じゃあ一体どうしたらいいのかというところなんですけども、大きくポイントは3つあるかなと思っているんですが、 1つ目というのは自分の絵であったり、耳を過信しないということですね。 例えば上司が言っているからとか、目の前のビデオ通話で顔が見えているからといって、すぐに信用しちゃいけないということですね。 特にこの金銭の送金であったり、パスワード、個人情報の入力というのは、より慎重になるという疑い癖を持つというのが非常に重要だというところでございます。 そして2つ目というのは、クロスチェックというのを徹底した方がいいかなということですね。 例えば仕事やプライベートとか、メールやチャット、あるいは電話やビデオ通話で急ぎの対応とか送金というのを求められたときに、 その通信手段だけで完結しないというような癖をつけた方がいいですね。 一度やり取りをストップして、別の連絡手段を取って、相手に裏を取るという、こういう習慣をつけてほしいなというところですね。 特にこのお金が関連すること、パスワードなんかが関連することは重要かなと思います。 そして3つ目はセキュリティの基本と多要素認証、これを徹底していくということで、 本当に最近では多要素認証というのが当たり前になっていますが、これをまずは導入していくということであったり、 パスキーなんかもそうですけれども、とにかく自分の認証のレベル感というのをより高めていく、 そんな癖をつけていただくのがいいのかなというところでございますので、 この3つの要素をしっかりと守っていけば、まだまだ個人のレベルでも立ち打ちできる部分ではあるかなと思いますので、 企業に頼ることなく、まずは自分の中でできる限りのことを対応していく、 そんな習慣をつけていただく方がいいのかなと思いますので、ぜひ今日の放送なんかも参考にしていただければなと思っております。 本日はAIによって作業が増えていくのかということをテーマにお話をさせていただきました。 それではこの後、コメント返しをさせていただきます。 # コメント返し　AIの暴走に警笛を鳴らす著名人 はい、ここまでお聞きください。本当にありがとうございます。 本日はですね、AIによって詐欺が増えていくのかということをテーマにお話をさせていただきました。 結論から言っていくと、もう本当に増えるというのはもう間違いないんじゃないかなというところですね。 あとはどこまで、これは企業側も一度やられたからといって二度目がないわけじゃないので、 二度目やられないような対策をしていくのかということも非常に大切になるのかなということでございますね。 今日は個人の対策の話を後半しましたが、企業側もやはり対策をしていかないといけないということで、 まさに私も会社を作りましたこのAIガバナンスと言われるような領域が非常に注目されてくることになるんじゃないかなという そんなニュースを今、私も見ながら感じているというところでございます。 ではこのままコメント開始の方をさせていただきます。 今回コメント開始をさせていただきますのは、AIの暴走に警笛を鳴らす著名人ということでお話をさせていただいた回でございます。 この回でも、これは別に私が言っているだけでなく、本当に著名人の方々も、 このAIの暴走というところに注目をしている部分でございますので、 ますますこんなお話が出てくるんじゃないかなというところでございます。 まずこちらの放送にコメントを寄せていただきましたのは、VCパーソナリティのねこみちさんです。 悪い人間が使えば相当な危険なテロや兵器が出てきてもおかしくはないですよねということで、 今日は先のお話をしましたが、おっしゃる通りこれは国家レベルの戦争という位置づけ、 AI戦争みたいな位置づけになってくるんじゃないかなというふうに思っています。 ねこみちさんのコメントいただきありがとうございます。 続きましてですね、VCパーソナリティのこうえいさんです。 こんにちは。本当にAIの進化が止まらなすぎますよね。 毎日使っていますが活用の幅がどんどん広がるからこそ、そのガバナンスが求められるのだと思いました。 でも米中が対峙する中だとなかなか厳しいですねということで、 そうですね、国の立場としてはこのAIを促進していくというような立場でございますので、 一方でやはり一定このガバナンスを作っていかなきゃいけないという声がようやく出て始めてかなというふうに思っていますので、 我々のビジネスもこれからそういうガバナンスの面のニーズが増えてくることはありがたいことだと思っていますので、 ぜひ何かしら余計になっていることがあればなというふうに思っています。 こうえいさんコメントいただきありがとうございます。 続きまして、VCパーソナリティののりさんです。 AIの妄想ってが本当に起きたら世界がとんでもないことになりそうですね。 そんな中でもラーメンのどんぶりだけはお手渡さないりゅうじさんを探すがですということで、 はい、とんでもない時も私はラーメンのどんぶりを握っているということなんですけど、 そんなことはないですかね。 もうラーメンは食べたらすぐにどんぶりを送るようにしております。 のりさんコメントいただきありがとうございます。 続きまして、さらとばさんですね。 昔見たドラえもんのび太の鉄人兵団という映画、 人間が作ったロボットが逆に人間を支配しようとする話だった記憶があります。 そんな世界が来ないことを祈っていますということでね。 はい、まさにもうSFの世界に入ってきたかなというレベル感ですよね。 これはどうですかね。 ロボットが日本を支配していくというような世の中、 そんな時代が来ないことを私も祈っております。 さらとばさんもコメントいただきありがとうございます。 続きましてですね、ゆきのさんですね。 AIの進化が止まらないからこそ、 AIにできないことは何かを考えることが大事だと考えていますということでね。 はい、そうですよね。 もう本当にAIの進化をアーダーゴーダー言っても、 これは止まらないものは止まらないということになってまいりますのでね。 いよいよ我々はAIに代わって何をやるのかということを 考えなきゃいけないのかなと思います。 ゆきのさんもコメントいただきありがとうございます。 いただきましたコメントはこのようにコメント返しということで お返しをさせていただきますのでね。 ぜひ皆様のコメントの方もお寄せください。 それでは本日の放送は以上とさせていただきます。 また明日お会いいたしましょう。