学術システムを揺るがす騙し/騙され——査読原稿に仕込まれる間接プロンプトインジェクション 【AIリスクウォッチ #13】
11:32
14再生
事例や時事ネタをもとにAIリスクについて考える「AIリスクウォッチ」です．
今回は6月に日経さんがスクープした，査読原稿に「高評価」を出力させるプロンプトインジェクションが仕込まれていた問題についてです．
参考記事
日本経済新聞 2025.06.30 「論文内に秘密の命令文、AIに「高評価せよ」 日韓米など有力14大学で」 https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/ （佐久間のコメントも後半に掲載）
今回は6月に日経さんがスクープした，査読原稿に「高評価」を出力させるプロンプトインジェクションが仕込まれていた問題についてです．
参考記事
日本経済新聞 2025.06.30 「論文内に秘密の命令文、AIに「高評価せよ」 日韓米など有力14大学で」 https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/ （佐久間のコメントも後半に掲載）
AI目次
AIが学術論文査読を歪める間接プロンプトインジェクションとは？査読へのAI活用：メリットとデメリットAIによる不正：研究不正か正当防衛か？学術システムの未来：コンセンサス形成の必要性
ぶんけい×AIラジオ
さくま
- 11:321.
学術システムを揺るがす騙し/騙され——査読原稿に仕込まれる間接プロンプトインジェクション
コメント
感想・質問・応援メッセージを書こう
