TOPハウツー・学習テクノロジー今日の10分セキュリティラジオ#295 セキュラジ制作室 #AIとの付き合い方10:00 2024年6月11日 265再生 問題を報告する 再生する シェアする AI目次AI脅威とリスク認知調査レポートを解説生成AI利用時の注意点とは?AIによるサイバー攻撃の脅威とは?AI活用におけるセキュラジの現状と課題AIと人間の共存、その可能性を探るAI文字起こし(β版) # セキュラジの制作過程をお届けしています! どうもー、セキュリティジョッキーの松野です。 今日の10分セキュリティラジオで、その日にあった配信の反省会を Voicyライブアワーから生放送でお届けしています。 早速今日の配信を振り返ってみましょう。タイトルは IPA、米国におけるAIのセキュリティ脅威、リスクの認知調査レポート公開です。 本題に行く前に、今日も公開収録っぽい感じになってしまいました。 大変申し訳ございません。急遽お仕事が入ってしまいまして、生放送お休みということで 収録にてお届けしております。 今回、AIということで、ぜひ生放送で熱い ディスカッションさせていただきたいと思っていたんですけれども、 ならずということになってしまいました。 セキュリティラジオも、このAIをどのように活用していくかというところ、 まさに現在進行形でございますので、また機会を改めて皆さんとお話をできれば というふうに思っております。 そんな未来の話もさせていただいております。 よかったら、8月7日の生放送にも遊びに来てください。 ということで、本題です。 IPA、米国におけるAIのセキュリティ脅威、リスクの認知調査レポート公開です。 そうですね。今日は、ずばり AIとの付き合い方についてお話ししたいと思います。 今回のレポートは、米国におけるAIを利用した際の脅威について 調査結果がまとめられているということになります。 生成AIを使う際に気をつけるべきポイントと、あとは、生成AIを使った 細胞攻撃について説明をさせていただきました。 もう最近、このAIを使ったことがないという方も少なくなったのではないでしょうか というところなんですけれども、今回のレポートは、 米国におけるAIに関するセキュリティ脅威とその認知に関する調査を 実施したものとなります。 概要を見てまいりますと、AIにより既存の攻撃、既にある サイバー攻撃が素早く、強力かつ効率的に行うことができるようになったということが 説明されております。 結果、大きなリスクと認識しているということです。 既に悪意の生成AIモデルが確認されているということです。 具体的には、いわゆるフェイク画像を使って混乱を招くような、例えば株価だったり、 あとは選挙だったり、こういったことに悪用されているということになります。 他には、生成AIの誤用、間違った用途ということで、ビジネスリスク、 あとは、営業秘密情報だったり、あとは個人情報だったりと ローエリスリスクが周知されているということなんですけれども、 その他にも、開発において脆弱な行動が出力されてしまうリスクもあるよということで 指摘されているということですね。 生成AIを利用する際に気をつけるべきポイントですね。 説明をさせていただきました。これも入出力される情報ですね。 こちらの確認と管理、気をつけてくださいと 説明をさせていただきました。 まず、この使用された情報が真実ではないことがあるということになります。 特に、生成AIで起こりやすい問題として、ハルシネーションと呼ばれています。 このハルシネーションですね。AIが学習データに基づいて、 事実とは異なる情報を生成してしまうという現象を指します。 なので、こういったハルシネーションの対策をするために 複数のAIサービスを比較したり、あとは必要に応じて情報源を確認してくださいと 説明をさせていただきました。 あとは、入力する情報の方ですね。こちらなんですけれども、 AIの学習データとして利用されている場合があるということですね。 その上で利用しなければいけないということになります。 サービスのプライバシボリシーをご確認くださいということであったり、 入力する個人情報だったり機密情報、必要最低限にしてくださいと 説明をさせていただきました。 最後にですね、生成アイを使ったサイバー攻撃ですね。 説明をさせていただいております。マルウェア生成だったり、 あとはフィッシング詐欺に利用される可能性があるということで 説明をさせていただきました。 いわゆるメジャーどころっていうんですかね。 チャットGPTだったり、ジェミンだったりと。 こういった一般的なAIサービスではですね、 こういったサイバー攻撃に悪用されないように、 悪意を持った質問には回答しないような制限が 独自に設けられているわけなんですけれども、 一部のAIサービスではその必要な制限が設けられていない ということで、サイバー攻撃に悪用されてしまう可能性があるということですね。 先ほども説明しましたが、悪意のあるですね、 生成アイモデルが2021年から出現しているということですので、 このレーダーがですね、悪用されてしまうということになります。 実際にですね、これは国内の事例なんですけども、川崎市の男性がですね、 ランサムウェアらしき丸AIを作成したと、AIを使ってですね、 いうことがですね、ありまして、国内初逮捕ということがあったようです。 実際にね、起こりうる話だよということで補足をさせていただきました。 ということでですね、今回はAIを使う際に気をつけるべきポイントと、 あとはAIを使ったサイバー攻撃についてですね、お届けしたわけなんですけども、 冒頭でもお話しさせていただきました。 セキュラジでもですね、既にですね、このAIは活用済みだったり、 これからですね、その範囲を広げていこうというふうに思っておりまして、 この配信自体はですね、セキュラジ製作室ということで、 製作過程をお届けするものでもありますので、現在進行形の取り組みについて、 今日はですね、皆さんとお話しできればというふうに思っているわけなんですけれども、 実はですね、先日そうですね、ボイシーさんとのミーティングをですね、 させていただきまして、その時もですね、このAIの活用について話題が出たんですけれども、 もう結論をですね、 先に言っちゃいますと、生成AIをフル活用したボイシーのチャンネルですね、 他のチャンネルがあるわけなんですけれども、 ほぼ例外なく盛り上がっていないということなんですよね。 で、この事実っておそらく皆さんも、我々もなんですけれども、 なんとなく分かってたと思うんですよね。 ただですね、具体的な理由について聞かれた時に、例えばですね、感情がこもってないとか、 なんかちょっと日本語が不自然だとか、 なんというか解像度の低い答えしか出てこなかったのかなというふうに思ってまして、 今日はですね、この辺りについて掘り下げていきたいと思っているんですけれども、 先にですね、白状をしておきますと、僕がですね、 今答えにたどり着けているわけではないので、ぜひ皆さんとですね、 一緒にですね、複数回を経ってですね、正解を見つけられたらというふうに思っています。 で、仮にですね、このセキュラティのAI化について考えた場合なんですけれども、 台本の作成から音声の生成に至るまでですね、 AIを使ってしまえばですね、これって秒でできることだと思っているんですよね。 もちろん今も台本の生成にはAIを活用しているということで、 我々の生産性は爆上がりしているわけなんですけれども、 つまりですね、そのセキュラティが求められる機能面、今使ってない部分も含めてですね、 この機能面、具体的にはセキュリティのニュースを10分で解説するという機能面については、 AIに勝るものはないと考えています。 よって私、セキュリティ初期はですね、機能面においては完敗でございますので、 白旗挙げて筋トレでもですね、急しもうかというふうに思うんですけれども、 それでもですね、機能面で圧倒的に優れているAIのチャンネルが盛り上がらなくて、 僭越ながらですね、セキュリティという極めて日常な話題でですね、 これだけ多くの皆さんに聞いていただけている状況は、おそらく偶然ではなくて、 再現性のある必然だと思っています。 つまりですね、単納期で高品質という番組制作における最高の生産性を獲得した AIを仮に合理というのであれば、 編集に時間をかけて、時には噛みながらお届けしている 人間によるこのセキュラジは非合理の塊ということができるわけですよね。 もう早速、ジェミニに聞いてみましたよ。非合理とは具体的に何ですかと。 ジェミニは答えてくれました。 ギャンブルにお金を使うような人ですと。 AIと大原さんのコラボ配信に答えが隠されているかもしれません。 ということで今日は、AIと人の付き合い方という話についてお届けしました。 長らで聞けてた面なる今日の10分セキュリティラジオは、 毎週月曜、水曜、金曜の朝7時15分より最新回を配信しております。 同じく月、水、金の夜8時から、録音では効かないセキュラジ制作過程の裏側を ボイシーライブアワーから生放送でお届けしています。 そして土曜日は1週間の内容をダイジェストでお送りする 山田さんのセキュラジ切り抜きチャンネルを放送しております。 ぜひこちらも聴いてみてください。 それではまた次回のレギュラー配信でお会いしましょう。 セキュリティ直近の松野でした。See you! もっと見る #生放送 今日の10分セキュリティラジオセキュリティジョッキー松野10:001.セキュラジの制作過程をお届けしています!コメント感想・質問・応援メッセージを書こう くぼ2024年6月12日生成AIを使ったセキュラジ楽しみにしています!1返信
#181 セキュラジAIミーシャのまとめch|今週のニュースをAIミーシャと見守り人おーはるがご紹介 10分・一昨日・ 363再生AI目次紅葉が語る情報管理の基本とは相次ぐ大手サービス情報流出の実態OpenSSH等に見る脆弱性の手口Android TV Box潜む脅威の正体感謝の気持ちに忍び寄る詐欺の手口
#1201 複数の Akeeba 製品に CSRF の脆弱性 10分・11月13日・ 486再生AI目次Akeeba製品に潜むCSRFの脅威とは?CSRF攻撃の仕組みと巧妙な手口サイト管理者向け!脆弱性対策の緊急度バックアップ製品の脆弱性放置で起こる事態ウェブサイトのセキュリティ運用、最新の心得
#1200 ドコモオンラインショップ・My docomo に不正アクセス、最大約30万件の顧客情報が流出 11分・11月12日・ 630再生AI目次ドコモ不正アクセス:30万件情報流出氏名から本人確認番号まで漏洩の範囲なりすまし警戒!口座情報悪用の手口代理人・勤務先情報も?影響範囲の広がり不審電話急増中!私たちが取るべき対策
#1199 GoogleがXCPEボットネットを無力化、Android TVボックス130万台超に仕込まれたバックドアを排除 10分・11月11日・ 592再生AI目次Google、XCPEボットネット無力化の全貌130万台超のAndroid TVボックスに潜む悪意知らぬ間に加害者?住宅用プロキシの罠出荷時バックドアから身を守るには安物買いの銭失い?賢い製品選びの鍵
#1198 musl版Linux上のOpenSSHに、257文字以上の長いパスワードでパスワード無効アカウントにログインできてしまう脆弱性 10分・11月10日・ 635再生AI目次投資失敗談が示すセキュリティ原則musl版OpenSSHのパスワード認証穴想定外の連携が生んだ脆弱性の正体危険な環境とOpenSSHの緊急対策CVSSだけではない脅威の本質とは
#1197 「MUJIアプリ」への不正アクセス、新たにカード情報が外部からアクセスされた可能性も 11分・11月9日・ 723再生AI目次MUJIアプリ不正アクセスの概要なぜ過去のカード情報が残存したのか漏洩した個人情報の具体的な悪用リスク続報で拡大した被害範囲の理由企業と利用者が学ぶべき教訓と対策
#180 セキュラジAIミーシャのまとめch|今週のニュースをAIミーシャと見守り人おーはるがご紹介 10分・11月7日・ 489再生AI目次コタツの安全対策はアップデート?Binance約63億ドル不正出金事件AIエージェントを狙う新たな攻撃手口デジタルアーツと松屋、情報漏洩の教訓心が動く瞬間、詐欺にどう対処すべきか
#1196 HA8000V 対応 HAモニタオプション(管理サーバーレス)にローカルアクセスによりOSコマンドインジェクションの攻撃を受ける恐れがある脆弱性 10分・11月6日・ 562再生AI目次HAモニタのOSコマンド注入脆弱性OSコマンド注入攻撃の巧妙な手口ローカルアクセス攻撃の危険性と意味対象製品の確認とアップデート手順AI時代の脆弱性再評価と多層防御
#1195 松屋公式アプリに不正アクセス 会員情報等が漏えい 10分・11月5日・ 623再生AI目次松屋公式アプリ 不正アクセス被害の実態狙われた管理システムとパスワードの脅威漏えい情報悪用による詐欺とその防ぎ方サービス停止と補償から学ぶセキュリティ個人情報提供のリスクと向き合う意識