攻撃する/されるAIの技術的アライメント——AI×サイバーセキュリティを改めて考える
14:55
21再生
AIと社会に関するトピックを解説したり考えたりしていくぶんけい×AIラジオ．
今回はAIの発達がサイバーセキュリティにもたらす影響を話しています．
AIがサイバーセキュリティにもたらす3つの影響について紹介したり，「技術的アライメント」「社会的アライメント」のうちでは，サイバーセキュリティは特に前者において複雑さを抱える課題であることなど考えています．
コメント・高評価などいただけると嬉しいです！
参考記事
日経デジタルガバナンス（佐久間の記事）「AIエージェント、実はサイバー攻撃者 企業の対策は？」 https://www.nikkei.com/prime/digital-governance/article/DGXZQOUC1977U0Z10C25A8000000
SInger et al., 2025, "On the Feasibility of Using LLMs to Autonomously Execute Multi-host Network Attacks" https://arxiv.org/abs/2501.16466
William Zhang (Robust Intelligence), 2023, "Prompt Injection Attack on GPT-4" https://www.robustintelligence.com/blog-posts/prompt-injection-attack-on-gpt-4
今回はAIの発達がサイバーセキュリティにもたらす影響を話しています．
AIがサイバーセキュリティにもたらす3つの影響について紹介したり，「技術的アライメント」「社会的アライメント」のうちでは，サイバーセキュリティは特に前者において複雑さを抱える課題であることなど考えています．
コメント・高評価などいただけると嬉しいです！
参考記事
日経デジタルガバナンス（佐久間の記事）「AIエージェント、実はサイバー攻撃者 企業の対策は？」 https://www.nikkei.com/prime/digital-governance/article/DGXZQOUC1977U0Z10C25A8000000
SInger et al., 2025, "On the Feasibility of Using LLMs to Autonomously Execute Multi-host Network Attacks" https://arxiv.org/abs/2501.16466
William Zhang (Robust Intelligence), 2023, "Prompt Injection Attack on GPT-4" https://www.robustintelligence.com/blog-posts/prompt-injection-attack-on-gpt-4
AI目次
AIとサイバーセキュリティの現状AIによる高度化する攻撃手法AIを活用した防御策の進化AIセキュリティにおけるリスクと課題今後のAIとセキュリティのあり方
ぶんけい×AIラジオ
さくま
- 14:551.
攻撃する/されるAIの技術的アライメント——AI×サイバーセキュリティを改めて考える
コメント
感想・質問・応援メッセージを書こう
