# セキュラジの制作過程をお届けしています！ どうもー、セキュリティジョッキーの松野です。 今日の10分セキュリティラジオで、その日にあった配信の反省会を Voicyライブアワーから生放送でお届けしています。 早速今日の配信を振り返ってみましょう。タイトルは IPA、米国におけるAIのセキュリティ脅威、リスクの認知調査レポート公開です。 本題に行く前に、今日も公開収録っぽい感じになってしまいました。 大変申し訳ございません。急遽お仕事が入ってしまいまして、生放送お休みということで 収録にてお届けしております。 今回、AIということで、ぜひ生放送で熱い ディスカッションさせていただきたいと思っていたんですけれども、 ならずということになってしまいました。 セキュリティラジオも、このAIをどのように活用していくかというところ、 まさに現在進行形でございますので、また機会を改めて皆さんとお話をできれば というふうに思っております。 そんな未来の話もさせていただいております。 よかったら、8月7日の生放送にも遊びに来てください。 ということで、本題です。 IPA、米国におけるAIのセキュリティ脅威、リスクの認知調査レポート公開です。 そうですね。今日は、ずばり AIとの付き合い方についてお話ししたいと思います。 今回のレポートは、米国におけるAIを利用した際の脅威について 調査結果がまとめられているということになります。 生成AIを使う際に気をつけるべきポイントと、あとは、生成AIを使った 細胞攻撃について説明をさせていただきました。 もう最近、このAIを使ったことがないという方も少なくなったのではないでしょうか というところなんですけれども、今回のレポートは、 米国におけるAIに関するセキュリティ脅威とその認知に関する調査を 実施したものとなります。 概要を見てまいりますと、AIにより既存の攻撃、既にある サイバー攻撃が素早く、強力かつ効率的に行うことができるようになったということが 説明されております。 結果、大きなリスクと認識しているということです。 既に悪意の生成AIモデルが確認されているということです。 具体的には、いわゆるフェイク画像を使って混乱を招くような、例えば株価だったり、 あとは選挙だったり、こういったことに悪用されているということになります。 他には、生成AIの誤用、間違った用途ということで、ビジネスリスク、 あとは、営業秘密情報だったり、あとは個人情報だったりと ローエリスリスクが周知されているということなんですけれども、 その他にも、開発において脆弱な行動が出力されてしまうリスクもあるよということで 指摘されているということですね。 生成AIを利用する際に気をつけるべきポイントですね。 説明をさせていただきました。これも入出力される情報ですね。 こちらの確認と管理、気をつけてくださいと 説明をさせていただきました。 まず、この使用された情報が真実ではないことがあるということになります。 特に、生成AIで起こりやすい問題として、ハルシネーションと呼ばれています。 このハルシネーションですね。AIが学習データに基づいて、 事実とは異なる情報を生成してしまうという現象を指します。 なので、こういったハルシネーションの対策をするために 複数のAIサービスを比較したり、あとは必要に応じて情報源を確認してくださいと 説明をさせていただきました。 あとは、入力する情報の方ですね。こちらなんですけれども、 AIの学習データとして利用されている場合があるということですね。 その上で利用しなければいけないということになります。 サービスのプライバシボリシーをご確認くださいということであったり、 入力する個人情報だったり機密情報、必要最低限にしてくださいと 説明をさせていただきました。 最後にですね、生成アイを使ったサイバー攻撃ですね。 説明をさせていただいております。マルウェア生成だったり、 あとはフィッシング詐欺に利用される可能性があるということで 説明をさせていただきました。 いわゆるメジャーどころっていうんですかね。 チャットGPTだったり、ジェミンだったりと。 こういった一般的なAIサービスではですね、 こういったサイバー攻撃に悪用されないように、 悪意を持った質問には回答しないような制限が 独自に設けられているわけなんですけれども、 一部のAIサービスではその必要な制限が設けられていない ということで、サイバー攻撃に悪用されてしまう可能性があるということですね。 先ほども説明しましたが、悪意のあるですね、 生成アイモデルが2021年から出現しているということですので、 このレーダーがですね、悪用されてしまうということになります。 実際にですね、これは国内の事例なんですけども、川崎市の男性がですね、 ランサムウェアらしき丸AIを作成したと、AIを使ってですね、 いうことがですね、ありまして、国内初逮捕ということがあったようです。 実際にね、起こりうる話だよということで補足をさせていただきました。 ということでですね、今回はAIを使う際に気をつけるべきポイントと、 あとはAIを使ったサイバー攻撃についてですね、お届けしたわけなんですけども、 冒頭でもお話しさせていただきました。 セキュラジでもですね、既にですね、このAIは活用済みだったり、 これからですね、その範囲を広げていこうというふうに思っておりまして、 この配信自体はですね、セキュラジ製作室ということで、 製作過程をお届けするものでもありますので、現在進行形の取り組みについて、 今日はですね、皆さんとお話しできればというふうに思っているわけなんですけれども、 実はですね、先日そうですね、ボイシーさんとのミーティングをですね、 させていただきまして、その時もですね、このAIの活用について話題が出たんですけれども、 もう結論をですね、 先に言っちゃいますと、生成AIをフル活用したボイシーのチャンネルですね、 他のチャンネルがあるわけなんですけれども、 ほぼ例外なく盛り上がっていないということなんですよね。 で、この事実っておそらく皆さんも、我々もなんですけれども、 なんとなく分かってたと思うんですよね。 ただですね、具体的な理由について聞かれた時に、例えばですね、感情がこもってないとか、 なんかちょっと日本語が不自然だとか、 なんというか解像度の低い答えしか出てこなかったのかなというふうに思ってまして、 今日はですね、この辺りについて掘り下げていきたいと思っているんですけれども、 先にですね、白状をしておきますと、僕がですね、 今答えにたどり着けているわけではないので、ぜひ皆さんとですね、 一緒にですね、複数回を経ってですね、正解を見つけられたらというふうに思っています。 で、仮にですね、このセキュラティのAI化について考えた場合なんですけれども、 台本の作成から音声の生成に至るまでですね、 AIを使ってしまえばですね、これって秒でできることだと思っているんですよね。 もちろん今も台本の生成にはAIを活用しているということで、 我々の生産性は爆上がりしているわけなんですけれども、 つまりですね、そのセキュラティが求められる機能面、今使ってない部分も含めてですね、 この機能面、具体的にはセキュリティのニュースを10分で解説するという機能面については、 AIに勝るものはないと考えています。 よって私、セキュリティ初期はですね、機能面においては完敗でございますので、 白旗挙げて筋トレでもですね、急しもうかというふうに思うんですけれども、 それでもですね、機能面で圧倒的に優れているAIのチャンネルが盛り上がらなくて、 僭越ながらですね、セキュリティという極めて日常な話題でですね、 これだけ多くの皆さんに聞いていただけている状況は、おそらく偶然ではなくて、 再現性のある必然だと思っています。 つまりですね、単納期で高品質という番組制作における最高の生産性を獲得した AIを仮に合理というのであれば、 編集に時間をかけて、時には噛みながらお届けしている 人間によるこのセキュラジは非合理の塊ということができるわけですよね。 もう早速、ジェミニに聞いてみましたよ。非合理とは具体的に何ですかと。 ジェミニは答えてくれました。 ギャンブルにお金を使うような人ですと。 AIと大原さんのコラボ配信に答えが隠されているかもしれません。 ということで今日は、AIと人の付き合い方という話についてお届けしました。 長らで聞けてた面なる今日の10分セキュリティラジオは、 毎週月曜、水曜、金曜の朝7時15分より最新回を配信しております。 同じく月、水、金の夜8時から、録音では効かないセキュラジ制作過程の裏側を ボイシーライブアワーから生放送でお届けしています。 そして土曜日は1週間の内容をダイジェストでお送りする 山田さんのセキュラジ切り抜きチャンネルを放送しております。 ぜひこちらも聴いてみてください。 それではまた次回のレギュラー配信でお会いしましょう。 セキュリティ直近の松野でした。See you!