# ご挨拶 おはようございます。 人事採用の問題と職場の悩みを解きほぐす パーソナリティの村上ゆかりです。 今日は、AIシリーズの続編として、 AIがやったことは誰の責任なのかというお話をしたいと思います。 # AIの回答によって起こされた訴訟と、裁判所の判断 まず、実際にあった裁判のお話からご紹介をしたいと思います。 カナダであった裁判で、エアカナダが訴訟を起こされた件です。 祖母を亡くされた方が航空会社のサイトのチャットボットに 遺族向けの割引について質問しました。 チャットボットは、後から申請できますと答えました。 ところが、実際の規定では後からの申請はできなかったんです。 AIが間違えて回答をしてしまったということです。 その方が差額の返金を求めたところ、会社は断りました。 それが裁判になりました。 そして、そこでエアカナダが行った主張が、 チャットボットは別戸の法的主体であり、 自らの行為に自ら責任を負うというものでした。 これはつまり、エアカナダに責任はないという主張だったということです。 その後、裁判所ではこのような判断をしました。 これは驚くべき主張である。 チャットボットには対話する要素はあるが、 それでもエアカナダのウェブサイトの一部に過ぎない。 情報を固定ページから得ようと、チャットボットから得ようと、 その違いはない。 そして、エアカナダは敗訴しました。 2024年2月のことです。 これ、裁判としてご紹介すると、 すごくエアカナダ側の主張が違和感があるような感じがしますけど、 でも実際には、多くの方が同じことを思っているんじゃないでしょうか。 AIが勝手に回答したことだから、私たちには関係ない。 エアカナダはそれを法廷で正直に言ってしまっただけなんです。 これはカナダのお話ですが、日本ではどうか。 前回お話ししていますが、経済産業省が今年の4月に AIを使ったときの民事責任について現行法をどう解釈するかを整理した 手引きを公表しています。 そこにこう書かれています。 人が最終判断をする使い方のAIについては、 使った側はAIを使ったかどうかに関係なく、 自分の職業や立場に応じた本来の注意義務を負う。 言い換えると、AIをどう間に挟んだとしても、 本来負っている責任は1ミリも軽くならない。 つまり、AIが誤った回答をしたとしても、 その責任はAIを使った使用者側に帰属するというものです。 そして、この経済産業省の手引きには、 もう一点書かれていることがあります。 開発した側、提供した側の責任は、 性能の限界やリスクをきちんと説明する義務が中心になると。 言い換えると、ベンダー側がちゃんと説明をしていれば、 その後、使用者側の責任が重くなり得るということにもなります。 AIを導入するのは大変便利ですが、 やはり責任やリスクについてはきちんと把握する必要がありそうです。 # AIエージェントだとどうなるのか？ さて、ここでAIエージェントについても掘り下げてみたいと思います。 先ほどのエアカナダの訴訟の件、チャットボットについては、間違った案内を返しただけです。 AIエージェントではなく、従来の受動型のAIが起こした間違いです。 これに代わって、今増えてきているAIエージェントというものは、答えを返すだけではなく、実行までしていきます。 人がチェックする段階がなくなってしまうんです。 去年の6月、AIエージェントに関するこのような脆弱性が公表されています。 マイクロソフト365のコパイロットに対するもので、エコーリークと名付けられています。 攻撃者が普通のビジネスメールを一通送るだけで、中に人の目には見えない形で命令が仕込んであるというものなんですけど、 社員がそのメールを開く必要すらなくて、後で別の用事で、 コパイロットに最近の資料をまとめて、などと頼むと、コパイロットがそのメールも一緒に読み込んでしまい、 そのメールの中に仕込まれている命令に従って、社内のファイルの中身を外部に送信してしまうというものでした。 これについてマイクロソフトはすでに修正済みで、実際に悪用された事実は確認されていません。 ですから、今すぐとても危ないという話ではないんですけど、 実際にこのようなことが起きた場合の責任の範囲ってすごく難しい問題だなというふうに私は考えています。 誰がどの時点で止めることができたのか、人を経由せずに実行されてしまったことの場合、 この責任の範囲や所在についてがこれから問われるようになってきます。 これは、昨日お話しした時に記録をきちんと残すことなどの対策をご紹介していますので、 もし興味のある方は昨日の放送もお聞きください。 # まとめ いかがだったでしょうか。AIがやったことは、AIが勝手にやったという言い訳は通じません。 そしてここに、AIエージェントというものが入ってくると、責任の範囲や所在はどんどん広がっていく恐れがあります。 しっかりとしたリスクマネジメントをするためには、正しい知識が必要です。 AIについて正しく知る努力をしていくこと、これが何よりも重要だと私は思います。 いいねと思った方は、いいねボタン、あと、もしよろしければフォローもよろしくお願いします。 あとご感想や、このような話も聞きたいなどのご意見、もしあればコメントなどで教えていただけるととっても嬉しいです。 ではまた明日もお会いしましょう。今日もありがとうございました。