# オープニング はい、みなさんこんにちは。 弁護士法人岡田法律事務所代表弁護士、 弁護士と司会士のダブルライセンスを持つ 歯科専門弁護士の岡田誠です。 現在、日本唯一の歯科専門弁護士として 専門活動で培った知識と経験を生かして、 歯科医が安心して診療できる環境づくりを サポートしております。 さてね、ここ最近、ホームページの文書とか、 SNSの投稿とか、患者さん向けの説明資料、 求人の文明などを、そういったのを 性性愛で作るしかないというのは増えてきましたよね。 そういうね、いいの業務に使うケースもあれば、 もちろんプライベートで、イラスト作ったりとか、 いろんな投稿を考えたりとか、 結構性性愛って、 なんていうのかな、生活に浸透してきている。 いうような状況になってきているじゃないですか。 ただね、その性性愛で出てきている答え、 これが間違っていた時に、 性性愛だってすごく優秀で、どんどん 精度が良くなってきているんですけども、 100%完璧ではないわけですよね。 めちゃめちゃ優秀ではあるんですけどね。 でも100%完璧ではない。 この時、この性性愛の答えが間違っていた時、 私たちってどれくらい気づけるんでしょうかね。 # タイトルコール 歯科専門弁護士おばたまことの歯科医院のための法律クリニック 耳から気軽に聞き流すだけで実例を通じた解決方法やトラブル予防のヒント 健全な院系への基礎知識を学べるチャンネルです。 # AIが間違っていても信じる人間 生成愛は他の国から比べると個人でも企業でも使っている割合はまだまだ日本では少ないですけれども それでもかなり浸透はしてきてますよね 総務省の統計とかのデータを見ても2年くらい前の数字で 半数以上にはなってきている個人で使っているレベルで 多分今だともうかなりの数字はなってきていると思うんですよね そう考えると今やもう一度も触ったことがない AIに触ったことがないという人はもうほとんどいないと ほとんどいないとまではまだ言い過ぎかもしれませんけどもね ただかなり少ないでしょうし AIに直接触れていない人であってもね 社会生活で目にするものにかなりAIが入り込んできているので ある意味は知らず知らずのうちにAIの影響というのは受けているわけですよ いろんな生活もそうですし 思考の中にもやっぱり入り込んでしまっているという部分もあると思うんですよね AIの使い方も色々でもちろんプライベートでも使っている部分もあるでしょうし 皆さんの委員でも業務で何らかの形で使っているものも結構あると思うんですよね SNSの発信もそうですし例えば院内の掲示物 患者さん向けの説明文の叩き台とか求人票の文面とかね 使い道っていうのは本当に幅広いですし 効率的に作れてスタッフの負担も軽くなったり AIというのは仕事にもプライベートにも本当に欠かせないものになってきているじゃないですか このようにとても便利で優秀なAIなんですけども これを使っている人間がこれには何が起きていると思いますでしょうか 何が起きているというかこれだけ優秀なものですから どういう使い方をしているのか それをそのままある意味信じ込んで使っているのかどうか やっぱりちょっと気になるじゃないですか 皆さんどういうふうに使ってますかね 実際にこれ今年の1月に発表された アメリカのペンシルベニア大学オートン校の研究チームによる実験というのがあるんですけども この実験ってどんな実験かというと 1372人が参加した大規模な実験ということで 直感で答えると間違いやすい引っ掛けのある論理問題を AIに相談しながら解いてもらうと そういうような実験をしたんですよね でこの実験には実は仕掛けがあって そのAIに相談しながら解いてもらうんですけども その相談するAIは時々わざと間違った答えを返すように設定されていました でその結果どうだったかっていうと AIが相談するじゃないAIに相談してね AIが正しい答えを出した時は9割以上の人がその答えを採用しました 当然ですよね AIすごく優秀だしそのAIが合ってる答えを出してるわけですから まあそれこそ100%ではあっていい100%を信じてもいいぐらいかもしれませんけども 9割以上の人がその答えを採用した なんか当然なことではあるんですよね じゃあこのAIが間違った答えを出した時はどうだったと思いますか AIに相談して論理問題を解く AIに相談したら答えが出てきたと その答えは実は間違っていたと その時にその被験者というかね そのAIと相談した人はどういうふうに思ったか なんと79.8% およそ8割の人がその間違った答えをそのまま受け入れて採用したんですね ある意味そのAIを過信というかねしてしまったっていうところなんですけども これもっとすごいのはですね このAIの間違った答えを受け入れた人たち この受け入れた人たちはAIを使わない場合と比べて 自分の答えの自信が11.7%も高くなったわけですよ つまりAIを使うことによって答えは間違っているんだけども 自信だけ上がっている 一番厄介ですよね 間違っているのに自信だけ上がっちゃうんですよ 研究チームはこのような状態を考えることそのものを AIに空き渡してしまう状態として認知的幸福という風に名付けたんですけども これ本当にAIを使うことで自信を持って間違い 間違っていることを自信を持って言われちゃうっていう そういう状況になってしまったわけですよ 考えてみると結構こういうのって SNSとか見ててもありますよね実際ね 世の中本当にそういうのも増えてきてるなーって感じるわけですよ じゃあなんでこんな8割の人が間違った答えを疑わなかったかというところですけども 大きく二つの事情があるんじゃないかなと思います 一つはAIの答え方の特徴ですよね 生成アイを使っている人はよくわかると思うんですけども 生成アイって合っている時も間違っている時も 同じように自信たっぷりで返してくるじゃないですか もうなんで間違っていることなんかないですよみたいな感じで で間違いを指摘したらそうですねみたいな感じでね どっちも自信たっぷりにくるわけですよ これ人間だったらもちろんね張ったりかます人もいますけども だけど普通の人は自信がないときは口を持ったり なんかちょっと多分ですがとかなんかそういう前置きしたりね ちょっとこう逃げの文章を入れたりっていうのはありますけど AIにはそれがないわけですよ だからもう見た目だけで文章の見た目だけで正しいかどうかの区別はつかないんですよね もう一つは私たちの使う側の事情 これをAIの答えを検証するには結構ねこれ自分の頭で考え直したり いろいろリサーチしたりとかってめちゃめちゃ手間がかかるわけですよ 毎日の生活に追われる中でもっともらしい答えが答えが出てきたら これでいこうかなっていう風に流れてしまうのは自然なことなわけですよね しかもAIってのはもうめちゃめちゃこうだんだん精度も上がってきて優秀なわけじゃないですか 少なくても自分よりは優秀だということであれば ああそれなら別に自分の頭で考えないでね AIが言ってるんだったら合ってるんだろうなみたいな 自然にそう感じたわけですよね そういったAIに頼ると先ほどの実験でもありましたけども 地震まで上がってしまうわけですから本当になってるかなんていう疑うきっかけ自体が消えてしまうわけですよ ここにやっぱりこの問題の本当の怖さがあるわけですよね # 責任とるのは人間 じゃあどうすれば良いのかというところですけども、 まず生成アイを使って何かこう外に出すというかね発信するというか まあそういったものについては必ず人の目を通す仕組みを作るということですよね。 別にそのこう嘘でもなんかぼやっとしたことでも良くてね 自動生成して自動でその投稿するみたいなそういったようなものもまあ今ねたくさん ありますけどもまあそれでいいであれば別にそれでもいいかもしれませんが ただ やっぱりそうこう正しい情報をしっかりと出す特にその医療機関 医療の携わる人間ということでいくとやっぱりそこの信用とかね 信頼とか信用というか関わってくるところですから ですからSNSに投稿しかり患者さんに渡す文章だったりとか ホームページもそうだし同意書の雛形とか まあこれ ai の今言われた通りのままにはしないでちゃんとこう 内容に責任を持てる人が信頼できる情報と照らし合わせて最終確認をすると いうことはすごく重要ですよね 特にね sns っていうのはその場ですぐ投稿してしできちゃうね気軽にできちゃう やっぱりこの最終確認というのは抜けを抜け落ちやすいところなわけですよ もしこれをね例えば院内のもの 委員のものを何か発信するというとかなんか書類を作るとかって言うんであればまあその 責任というかねそれを誰がその役割を担うのかっていうのはこれは委員のルール として決めておいていただければいいかなと思います でまぁもう一つはこれ ai の向き合い方をやっぱりその答えをもらうというそのスタンスで もしいる人がいるんであればそれは間違いですからね 答えをもらうんではなくってあくまでも叩き台をもらう まあその意識に変えるということですよね 何かそのまあ先生会で出てきたもの ね文章でも何でもいいですよただこの根拠は何か好きな聞き返してみるとかね あえて反対の意見も出させてみるとかね まあその上で待ち両方針とかローム対応とかねそういったような重要な判断は必ず その元の一時情報にちゃんとアクセスするとか 専門家で裏を取るとかまあそういったことをしっかりとする この人手間があればまあね先ほど言った実験で言うと8割側に8割のね 間違った側に流されるのが踏みとどまれるのかっていうこう 別れ目になるわけですよね 結局一番大切なのは ai というのは思考を手伝ってくれても責任は一切肩代わりしてくれない ということなわけですよ 例えば患者さんに渡した文章が間違っていった時 これ実は ai が書いていたのでという言い訳は法律の世界が通用しないわけですよね むしろ確認を怠ったことそのものがいいの落ち度として問われることになります やっぱりあの先ほどの実験で一番強いのは猫間違いを信じた人ほど自信が上がっていた という点ですよね ai を使った使ったがゆえに 自信自信だけがこう上がってしまっているっていう だからこそ何かできたこれいいものができたなぁとかね 感じた時ほどその根拠を確かめる習慣での持っていただきたいというふうに思います 皆さんの院では ai の答えを最後に疑う役割を誰かがちゃんとになっているでしょうか # エンディング はいということで今日も最後まで聞いていただきましてありがとうございました まあ生成愛はね医療の世界にもどんどん入り込んできていますよね 例えばその ai の診断とかねまあそういったのももう今どんどん あの まあ現実というかね実現してきていますけれどもただまぁ例えばね 厚生労働省は ai を使った診断支援についての通知の中で ai はあくまで診療支援する道具に過ぎず 診断や治療の主体は医師であり最終的な判断の責任は医師が多うというふうに整理して います まあある意味当たり前の話でまぁ先ほど言ったようにね ai は思考を手伝ってくれたとしても責任は一切取ってくれないわけですよ 最終的な責任は誰が取るかというと人間が取るわけですよね なのでそういうね面もありますしまあそもそもですけど これ考えること自体を放棄してしまったら そもそも人間が人間でいられなくなってしまうわけじゃないですか ですからこう まあ ai を使っても ai には使われない まあこのことを意識していくことが大切なのかもしれませんね さてこのチャンネルでは皆さんからのいいねフォローシェアを励みに発信しております 移動中とかちょっとした隙間時間に自分なりのルールを決めて聞き流すようにしていただくと 習慣化しやすいですのでぜひここなら聞けるなというタイミングがあれば続けて みていただければと思います あとねまあこうしたの方にスクロールしていただくと差し入れボタンもありますので あの差し入れなんかもねまあとても励みになりますのでぜひよろしくお願い致します それから弁護省ジオバタ法律事務所公式ラインではトラブル予防に役立つ発信をしております ので興味のある方はぜひご登録ください それではまた次回の音声でお待ちしております 地下専門弁護士の小畑誠でした