# オープニング はいみなさんこんにちは 弁護士法人岡田法律事務所代表弁護士 弁護士と司会士のダブルライセンスを持つ 歯科専門弁護士の岡田誠です 現在日本唯一の歯科専門弁護士として 専門活動で培った知識と経験を生かして 歯科医が安心して診療できる環境づくりを サポートしております 先日 ある先生とお話ししている中で AIについてのお話になったんですけども そんな中でね 今は結構みんなAIに聞いて AIで書面作ってるんですけど わざわざね弁護士と契約する意味を 感じづらくなってるってね そういうようなお話が出たんですよね 確かにね皆さんの周りでもそうかもしれませんけども AIで契約書をチェックしたりとか 就業規則の素案を作ったりとか 患者さんとのトラブル対応の文章を作らせたりとか そういった先生方が増えていますし 本当にとても便利ですよね なのでそういった気持ちになることもよくわかります でも そのAIから出てきた答え AIで作ったその書面 本当に大丈夫なんでしょうか # タイトルコール 地下専門弁護士おばたまことの 歯科医のための法律クリニック 耳から気軽に聞き流すだけで実例を通じた解決方法やトラブル予防のヒント 健全な院系の基礎知識を学べるチャンネルです。 # 「それらしいが」一番怖い さてね、AIで書面を作ったりとか、AIに法律のことを聞くとか、そういうことをするのはもはや特別なことではないですよね。 しかも世界に目を向けても、本当にいろんな場面でAIってのも既に入ってきてるじゃないですか。 例えば、最近よく耳にするのが、AIが診療中の会話をリアルタイムで聞き取って、自動的にソープ形式でカルタにまとめてくれるとか、そういうような仕組みがあったりとか。 そうすると、先生がパソコンに向かってひたすら入力するっていうんじゃなくて、患者さんの目を見ながらきちっと説明をしていれば、その内容自体はそのままカルタになっていくと。 こういう形でやっていくと、あるサービスではカルタの作成時間が75%削減みたいな、そういったようなケースも報告されているわけですよ。 本当に画期的ですよね。 他にも、例えばX線画像とか、カリエスとか温泉病棟をAIが自動で検出してくれるというか、補助してくれる診断支援システムとか。 インプラントの埋入位置だったりとか、それを四季画像からAIが提案してくれるシステムとか。 強制のセファロ分析とかも、そういったのも数秒で出してくれるとか。 いろいろありますよね。 リコール患者の患者さんの抽出だったりとか、レセプトのチェックとか、AIの問診だったり。 24時間受付の電話応答だったりとか。 ブログとかSNSの文案作成、新人向けのマニュアル作成、採用スカウトの文書作成まで、 臨床も経営も広報も採用もいろんな場面に広がってきているじゃないですか。 ただ、ここが怖いところでして、AIが出してくれる答えとか書面というのは本当にそれらしいとか最もらしいものですよね。 きれいな文章で最もらしい根拠が並んでいて、専門用語も適切に使われている。 かなり今だと精度が上がってきてますからね。 日本語も不自然じゃなくなっている。 でもよくよく調べてみると、その中身が間違っているということは、実はかなり多いんですよね。 例えばね、これ以前もお話ししましたけれども、アメリカのある弁護士が裁判所に提出する書面をチャットGPTに作らせたんですね。 出来上がった書面には過去のアメリカの裁判所の書面が書かれていて、 実に説得力のある内容でした。 ところがですね、その裁判官を見たことがなかったんですよ、その6件の裁判例ね。 いろいろ調べてみると、その裁判例、引用した裁判例、6件全てがこの世に存在しない。 AIが作り出した架空の裁判例だったわけですよ。 当然その裁判例も採用されるわけがなく、不利になってしまうわけですよね。 その弁護士もね、引用形式も事実関係も論理の流れも全く違和感のないAIが出したものなんですけども、 当時5000ドルの制裁金が課される事態になったということなんですよね。 当然その裁判例も採用されるわけがなく、不利になってしまうわけですよね。 その弁護士もね、引用形式も事実関係も論理の流れも全く違和感のないAIが出したものの仕上がりだったため、 すっかり信じてしまったわけですよ。 これね、弁護士という法律のプロでさえ、AIのそれらしさに騙されてしまうわけですよ。 しかも、これって2023年の話で、もう3年前の話ですけれども、 AIの制度ってその後もどんどん上がってきてるわけじゃないですか。 最近ちょうどニュースがあったのは、最新のチャットGPTが東大や京大の入試問題で主席合格レベルの得点を取ったと。 しかも数学は満点だったと。そういうニュースもありました。 ただね、これ同じ現象で論述問題はあまり得意ではなかったり、 手法的な計算ミスもあったそうなんですよね。 主席合格レベルの優秀さとちょっとしたミスが同じAIの中に同居しているわけですよ。 これが今のAIの実情です。 これだけ優秀になっても満点ではない。全てが満点ではない。 だからこそAIが出してきたものが本当に正しいかどうかを誰かが判断しなければいけないわけですよ。 これ皆さんが日々お使いになっているAIも全く同じなわけですよね。 こうやって今話してて、この話の流れで思い出したのがあって、 直接は関係ないんですけども、世の中に詐欺師っているじゃないですか。 毎回詐欺師の話で恐縮ですけど。 この詐欺師って、皆さんこれ嘘ばっかり言う人っていうイメージはあるかもしれませんけど、優秀な詐欺師ってそうじゃないんですよね。 優秀な詐欺師ってどうかというと、これ8割9割、何なら9割5分本当のことを言うんですよ。 だいたいもっともらしいことを言うので、それを信じ込んでしまうわけですよね。 本当のことですから。本当のことだから信じるわけですよね。 で、残りの1割で騙すんですよ。 8割9割で本当のことを言って、何ならちょっと切れ味の鋭いというか、耳障りのいいというか、すごく断定的なことを言って、そこで信じ込ませて、残りの1割で騙すわけですよ。 これってね、騙す意図があるかないかっていうところはあるかもしれませんが、まさにAIを信じてしまう真理と同じかもしれませんよね。 AIも本当にほぼ正しい内容があって、その中に嘘が散りばめられるわけですよね。 そうすると嘘も信じてしまうっていう、そういうような構図と真理的には同じかなというふうに今ちょっと思ってお話をしました。 話を戻すと、そもそも生成アイというのは、簡単に言うと膨大な文章を学習して、次に来る確率が高い言葉を予測しながら文章を繋いでいくという、そういう仕組みですよね。 つまり事実かどうかっていうのを確認しているわけではなく、もっともらしいかどうかを基準に文章を作っているわけですよ。 だからそれらしい答え、それらしい書面がスラスラと出てくる。 でもそれが正確かどうかっていうのは全く別の話なわけですよね。 それからもう一つ、法律の判断というのは、これ医療現場と同じで結構個別具体的なものなんですよね。 同じような相談に見えても、いつ、どこで、誰が何をしたのか、そういう細かな事情がほんの少し違うだけで法的な結論が180度変わることが本当に珍しくないわけですよ。 AIは一般論を上手にまとめてくれます。 でもプロンプトの入れ方によっても解答が変わってきますし、仮に適切なプロンプトを入れたとしても、目の前のそのケースに当てはまるかどうかは、それを使う先生方が判断するしかないわけです。 # 天国と地獄、どちらに進みたいですか？ それではどうすればよいのかというところですけども、もちろんAIを使うなというふうに言ってるわけじゃないです。 私自身も日々使ってますし、本当に便利ですよね正直ね。 ただ大切なのは付き合い方ですよ。 まずやっぱり最初に意識していただきたいのは、AIが出してきた答えはあくまでも叩き台、参考の意見という位置付けをすることですよね。 ゼロから自分で考える代わりにまずAIに大まかな案を出してもらう。 これは時間の節約にもなりますし頭の整理にもなります。 ただし出てきたものが絶対の回答ではないのでそのままは使わない。 先ほどのアメリカの弁護士のケースもAIが出した裁判例の存在を一件ずつ確認していれば もう全くしてきた話なわけですよ。 ですからそのまま使わないというところは、そのまま使わないというのもそのまま信じないということですよね。 できる限り一時情報にアクセスするということはすごく重要です。 次にお伝えしたいのがAIへの聞き方一つで答えの方向性が変わってしまうということなんですよね。 もちろんプロンプトの方法というのもあるんですけど、 どういうプロンプトを入れるのかというのもあるんですけど、これ自体セーセーアイにはですね チコファンシーっていうね、日本語で言うとゲーゴーとかゴマスリとか、 実際の人でもいるじゃないですか。ゲーゴーしたりとかソンタクしたりとかね。 そういう傾向って実はセーセーアイにあるんですよね。 これって実感している人も結構いるんじゃないかなと思います。私なんかもねこれ これなんかゲーゴーしている答え来てるなぁみたいなね。 そういったことを思う時も多々あります。 これはねAIがユーザーの意図に沿った答えを変えそうという性質で、そういう性質で、 昨年大手のAIのアップデートではこのゲーゴー傾向が強くなりすぎて 開発元が修正対応を発表するなんてそういったようなこともありました。 何が問題なのかというと、例えばね、ある問題について これは違法ですよね?と聞けば、違法という方向の答えに引っ張られやすいし、 反対にこれは大丈夫ですよね?と聞けば、大丈夫という方向性の答えが返ってくる傾向にある ということなんですよね。 つまり知らず知らずのうちに 自分が欲しい答えをAIから引き出してしまうということが起こり得るわけです。 正しいかどうかというところではないですからね。これは怖いところなわけですよね。 3つ目ですけれども、これが今日一番お伝えしたいところですけれども、例えば契約書、就業不足、患者さんとのトラブル対応文書、こういった委員の運命をある意味左右する書面については、 これで必ず専門家の目を通していただきたいんですね。 効率的なのは、AIで作った叩き代を持って弁護士のところに来ていただくね。 これがそのAIの使い方としては一番安全な使い方じゃないですかね。 AIで時間を節約して専門家に本当の重要な判断を任せると。 これがAIを賢く使うということにもなるんじゃないですかね。 ただね、なかなかその専門家選びっていうのも難しい話ではありますよね。 有名だから安心とか、なんかそういう話でもないですからね。 そう考えるとね、結局一番大切なのは判断する力なわけですよ。 AIから出てきた答えが本当に正しいのかどうか。 そして相談している相手が本当にその分野の専門家で正しいことを言っているのかどうか。 結構ね、嘘発信したりレクチャーしている専門家もいますからね。 弁護士でもいますからね。 ですので、AIも肩書きも見た目はそれらしいんだけれども、それが本当にこのケースで頼れるものなのかは、最後はご自身で見極めるしかありません。 そしてAIは責任を取ってくれません。 それらしいことを言う人も責任を取ってくれません。 最後に委員とか人生を背負うのは先生ご自身なわけですよね。 オープニングで、先日AI時代に弁護士と契約する意味という話が出たというお伝えしましたけれども、 AIから出てきたその答えの正しさや適切さはどうやって判断しているんですかね、皆さんね。 私は本当にそこはすごく疑問に思っていて、例えば私自身の専門分野についてAIと壁打ちというか、いろいろ調べ物をしたりとかね、そういったこともするんですけども、 やっぱりかなり嘘というか間違いが入ってくるんですよね。 それは自分が専門をしている部分であれば、それがすぐに間違いというところが判断できるわけですよ。 すぐに判断できなくても、なんかちょっとこれおかしいなと思ったら、実際に調べるとやっぱり違うよねみたいな、独自に一時情報にアクセスすると違うよねみたいなことがわかるわけですよね。 そこでどんどんどんどん機動修正というか修正していくということはできるんですけども、自分の専門外だとそれがわかりませんからね、はっきり言ってね。 ですからそういう意味で専門家ってすごく、もちろん専門家にも先ほど言ったようにピンから切りまで言いますから、じゃあ誰にお願いするのって話もありますけど、 ですから私は本当にそういうところは、AIももちろん頼りにする部分もありますけれども、やっぱり持ちは持ち屋というか適切な専門家に相談するものは相談するということをしています。 これAIだけでやっている先生って、先生だけじゃないですよね、AIだけで、患者さんもそうだし皆さんそうだと思うんですけど、AIだけで判断する人って本当に何で判断しているのかなって、本当にそこは素朴な疑問として思っています。 やっぱり誰もそれって責任を取ってくれないし、それを信じて行動したことについては全て自分の責任なわけですからね。そこはAIを使う前提として心がけていただければなというふうに思っています。 # エンディング はいということで今日も最後まで聞いていただきましてありがとうございました。 AIは本当に便利な道具ですよね。 私も毎日使ってますけども。 ただ便利な道具ほど使い方を間違えると影から落ちてしまう可能性もあるわけですよね。 だからこそAIを摘取するのでも盲信するのでもなく、 上手に付き合っている。 そのために例えばご自身の委員で重要な書面とか法律問題が出てきた時には AIだけに頼らないで、まず自分の頭でもしっかりと考えて、 かつ必ず専門家に確認をする習慣というのを持っていただければなというふうに思っております。 さてこのチャンネルでは皆さんからのいいね、フォロー、シェアを励みに発信しております。 ご質問やコメント、こんなテーマについて聞きたいというリクエストもお待ちしております。 ちなみに具体的なご相談とか、もっとトラブル予防について身につけたいと考えている先生方につきましては、 TLCという司会員限定のメンバーシップがありますのでこちらをご活用ください。 それではまた次回の音声でお待ちしております。 地下専門弁護士の小畑誠でした。