# オープニングトーク 今日の10分セキュリティラジオ ようこそ今日の10分セキュリティラジオへ 月曜担当パーソナリティーの大春と セキュリティジョッキーの松野です 月曜の配信は見習いセキュリティエンジニアである私大春が 気になるセキュリティニュースを セキュリティ専門家の松野とともに読み解いていく セキュリティをテーマにしたラジオです 本日もよろしくお願いします よろしくお願いしますってことでね 今日のVoicyさんのハッシュタグから 運気アップということで かなりですね 運に頼った人生の我々なんですけれども はい 小原さん何か運気アップで 心掛けていることなどありますか? 運気アップっていうのもそうなんですけれども はい やっぱりこういい方に向いてほしい っていうことなので 運気上げたいっていうときなんかは 自分が良かったときの 身につけていたもの を意識的に 身につけるっていうんですけど ちょっとあれだね おっさんの話聞いてどうなのか分かりませんが パンツを統一するとか なるほど 勝負パンツ的なものではないですけれども 肌着をやっぱり 良かったときのものに合わせる っていうことでちょっと運気アップ 測ってみたいっていうのはやったりしますね そうなんですね 縁起を担うというか そんな感じのものですかね そうですね 僕はですね結構前から言ってるかもしれないんですけど なんていうのかな 引き寄せの法則っていうんですかね もしくは言霊とも言うと思うんですけども とにかく 自分の発言に 気を付けるってことですね これ結構ずっと やってることでもありまして ネガティブなことを言えば ネガティブになるし ポジティブなことを言えばポジティブになるので 自分の言った言葉がそのまま 現実になるっていうことですね なので あえて自分の言葉で 悪いことを言わないっていうことが 心掛けてることで これも理由として何かと言えば 自分の言葉を一番 よく聞いてるのは自分自身だということですよね なんで 自分自身に対して いい言葉をかけてあげたいという そんな心暴れでですね やらさせて運気アップを狙っております なるほど やっぱり自分の声は 聞いてますもんね 今日もよろしくお願いします よろしくお願いします 運気アップ上がって毎週競馬が当たりますように # IPA「米国における AI のセキュリティ脅威・リスクの認知調査レポート」公開 IPA、米国におけるAIのセキュリティ脅威、リスクの認知調査レポートを公開。 IPAはIPAテクニカルウォッチとして、 米国におけるAIのセキュリティ脅威、リスクの認知調査レポートを公開した。 こちらの記事を簡単に解説をお願いできますでしょうか。 はい。米国におけるAIを利用した際の脅威について、調査結果がまとめられています。 生成AIを使う際に気を付けるべきポイントと、生成AIを使ったサイバー攻撃について説明します。 今回のレポートは、AIのセキュリティ脅威がどう認知されているかを把握することを目的に、 米国におけるAIに関するセキュリティ脅威とその認知に関する調査を実施したものです。 概要によると、AIにより既存の攻撃を素早く、強力かつ効率的に行う傾向が見られており、 特にAIフィッシングの急増、高度化、組織へのAIによる必要な攻撃は観測されており、 大きなリスクと認識しています。 すでに悪意の生成AIモデルは2021年から出現しており、 実際に有名人のフェイク画像による抽象は当たり前となり、 フェイクの自己画像による株価の乱攻撃、選挙候補の抽象、選挙妨害にも 生成AIが使われた可能性があるということです。 また、生成AIの誤用によるビジネスリスクでは、 営業秘密情報、個人情報が漏洩するリスクは周知されていますが、 ソフトウェア開発において、生成AIが脆弱な行動を失速するリスクも指摘しています。 今回は、米国においてのAIのセキュリティ脅威、 リスク認知調査レポートについての記事を取り上げています。 AIの技術の進歩は日々速度を増している印象を受けます。 最近では、AIで生成された有名人のAIモデルが、 まるで本人がカメラの前でお話ししているような 細かな動きや会話内容を再現できたりするものを見て、 自分も驚いたことを覚えています。 でも、こういったものが作れるということは、 影響力のある人間をもして、 悪意のある情報や発言を拡散するといったことも 簡単にできてしまいそうです。 そこで、生成AIを使う際に気をつけるべきポイントを おさらいの意味でも教えていただけますでしょうか。 はい。生成AIを利用する際に気をつけるべきポイントとして、 出力された情報の確認と入力された情報の管理に 気をつける必要があります。 まず、AIサービスを利用する際は、 出力された情報が真実ではない場合があります。 特に、生成AIでは起こりやすい問題として、 ハルシュネーションと呼ばれています。 ハルシュネーションとは、AIが学習データに基づいて、 事実とは異なる情報を生成してしまう現象です。 学習データに誤情報や偏りが含まれている場合、 AIはそれらの情報を基に事実とは異なるデータを 生成してしまうことがあります。 ハルシュネーションの対策として、 複数のAIサービスを使って情報を比較したり、 必要に応じて情報源を確認したりすることが必要です。 また、AIサービスでは、 入力された情報がAIの学習データとして 利用されている場合があります。 よって、情報を入力する前に、 サービスのプライバシーポリシーをよく確認し、 情報がどのように扱われるのかを理解しておきましょう。 もし、AIサービスに個人情報や機密情報を入力する際は、 必要最低限の情報に留めることが重要です。 また、今回の記事では、 AIを用いた新たな攻撃手法はまだ確認されておらず、 脅威が大きくなるには時間があるとありました。 AIの利用については、 人の手を使うと手間となりそうなことを学習しながら、 効率よく実施してくれる認識を持っています。 利用者にとっての最良のアシスタントとして 活用されることが望まれるかと思いますが、 利用者全てがそういった意識を持って使われるとは限りません。 今後、生成AIを使ったサイバー攻撃には、 どういったものが出てきそうと考えられるのでしょうか。 はい。生成AIを使ったサイバー攻撃として、 マルウェア生成やフィッシング詐欺に利用される可能性があります。 一般的なAIサービスでは、 サイバー攻撃などに悪意を持った質問に回答しないような 制限を独自に設けています。 しかし、一部のAIサービスでは必要な制限を設けておらず、 結果としてサイバー攻撃に悪用される可能性があります。 今回のレポートでも、悪意の生成AIモデルは 2021年から出現していると指摘しています。 実際に対話型生成AIを悪用して、 ランサムウェアらしきマルウェアを作成した疑いがあるとして、 警視庁は不正指令電池的記録作成容疑で川崎市の男性を逮捕しました。 生成AIを使用したマルウェア作成の摘発は国内初とみられています。 男性はランサムウェアを使って楽に金を稼ぎたかったと供述しています。 今回は生成AIを使う際に気をつけるべきポイントと、 生成AIを使ったサイバー攻撃についてお届けしました。 セキュラジーではよく取り上げているAIとセキュリティの話題でしたが、 次回の配信では、今後AIとセキュラジーがどう付き合っていくかについて お話ししたいと思いますので、よかったら聞いてみてください。 なるほど。生成AIを使った脅威の作成も、実際行動に移した例もあるのですね。 誰もが便利に利用できる可能性があるものだということは、 誰でも悪意ある利用ができるということ。 こういった素晴らしい技術、私たちもうまく付き合っていきたいものですね。 また一つ勉強になりました。 # エンディングと今日のひとこと 本日の放送は以上となります。 お届けしたニュースは、サイバーセキュリティ専門ニュースサイトスキャンネットセキュリティと、株式会社シフトセキュリティの提供でお送りしました。 長らかに聞けてダメになる、今日の10分セキュリティラジオは、毎週月曜・水曜・金曜の朝7時15分より最新回を配信しております。 同じく月曜・水曜の夜8時から、録音では聞けないセキュラジ製作過程の裏側を、Voicyライブアワーから生放送でお届けしています。 そして土曜日は、1週間の内容をダイジェストでお送りする、山田さんのセキュラ機器抜きチャンネルを放送しております。 ぜひこちらも聞いてみてください。 最近、ファミレスなど行く機会がありましたが、商品の提供は、石まで自動的に持ってくる配膳ロボットや、自動的に石川で流れてくるといった形式のものが増えて、技術の進歩を肌で感じています。 特に需要に対して供給側の人材が大きく不足している飲食業界だけに、こういった人の手をためらず効率アップが大幅に見込める技術は、今後もっと活かされて欲しいものですね。 それでは次回、水曜、宮本さんの放送もお楽しみに。