# オープニング はいみなさんこんにちは 弁護士法人尾端法律事務所代表弁護士 弁護士と司会士のダブルライセンスを持つ 歯科専門弁護士の尾端誠です 現在日本唯一の歯科専門弁護士として 歯科医が安心して診療できる環境づくりをサポートしております さてみなさんはね日々の業務の中でAIを使っているでしょうか おそらく多くの先生は何らかの形で触れていると思います 業務には使ってないけれどもプライベートでというか遊びでちょっと使っているようとかね そういった人も増えてはいますよね 最近ではね安公正正AIの精度もかなり高くなってますし 動画とか画像とかもそうですしね 文章の生成なんか結構その 自然な日本語が作れたりとかっていうこともあって 文章を作ったり資料を作ったり画像生成を用いたり 動画を制度の中で作ったり 自分で作るっていうのもありますし いろんな外の媒体とかSNSを含めていろいろ見てみると 気がつけば日常のあちこちにAIが入り込んでますよね そういう意味でAIを使ったことがない人の方がもう少ないのではないかと そういう思うぐらいの世の中に 精々AIが定着してきたというところですね もちろん日々のプライベートとか 生活の中に定着しているのもそうですけれども 市会員でも精々AIを業務に取り入れているケースも増えてきていますね 精々AIが組み込まれた製品も増えてきてますし 精々AIを自身が工夫していろんな説明の媒体とか資料を作ったりとかね そういった例もよく聞きます 便利ですし時間の節約にも上手く使うとなりますので 活用したくなる気持ちももちろんよくわかりますし 上手く使っていくと本当に精度の高い業務効率化になるところは これは間違いないところですね ただそんな便利な精々AIですけれども 過信してしまうと痛い目を見る場面というのがあります 特にAIの中でとか AI全ての分野でどんどん精度が上がってきているので そういう意味ではある意味 例えば読み物 文章とか調べ物とかしたとしても一見正しそうに見えてしまうわけですよね 正しそうに見えてしまうだけあって 例えば昔の精度であれば これは一見してこれ精々AIが作ったよねみたいな 文章も画像もでしたけれども 今じゃ見分けがつかなくなってきているじゃないですか 見分けがつかないということは その文章であっても画像や動画を見てもね それが間違った内容だというところにも なかなか気づきにくくなってしまってきてるんですよね それが今すごく精々AIの精度が良くなってきているというところの 裏返しとしての大きなリスクなんですね # タイトルコール 歯科専門弁護士小畑誠の歯科医院のための法律クリニック 耳から気軽に聞き流すだけで実例を通じた解決方法やトラブル予防のヒント 健全な院刑への基礎知識を学べるチャンネルです。 # 生成AIの罠 こうしてね、忙しい日々の中で ある意味、すぐ答えが返ってくる。 しかも、精度の高い答えが返ってくる AIっていうのは本当便利で。 まず、とりあえずAIに聞いてみようというね そんなような気持ちになるのは自然なことですよね。 もちろんね、AIっていうのは文章を整えることも上手ですから 一見、正しそうに見えてしまうと。 言うよりも、正しそうではなく それこそ正しいと信じてしまっても 不思議なことではありません。 ただ、やはりここでね ちょっと立ち止まって考えていきたいところっていうのは どんなに精度が高いと言われていたとしても 性性愛っていうのは100%正確ではなくて 正しいように見えても致命的な間違い 結構あるんですよね。 しかもその間違いっていうのは分かれば 分かりやすく間違ってますよみたいなのが すごく分かりやすい間違いであればいいんですけども それを平然と正しいと 正しさを装って回答してくるんですよね。 これが非常にリスクとしては多くて ある意味、この正確さが向上していることで 自分が専門であることであれば これ嘘ついてんじゃんって間違ってんじゃんって すぐ分かるんですけども そうじゃない? 特に自分が専門でないことについては むしろ人間には間違いに気づきにくくなっている というところで 大きなトラブルに発展しやすくなっているんですよね。 ここでね 皆様知っているお話かもしれませんけども 有名な事件をご紹介します。 今これからご紹介するのは それこそ専門じゃないことではなくて 専門家であっても こういう間違いに エアポケットに入ってしまうというのか どういう心理状態かというのもあるんですけどもね 有名な事件をご紹介したいと思います。 これは日本ではなくて アメリカのお話なんですけども アメリカのある弁護士が 裁判で裁判例を提出したんですよ。 ところがその裁判例というのは 裁判官も相手方代理人も見たことがない。 調べても出てこない。 本当にあるんですかと。 じゃあちゃんとその根拠のソースをお示しして じゃあくださいと いうふうに提出した代理人弁護士に 言ったところと 訪ねたところ。 その訪ねられた弁護士が何と言ったかというと これは正々堰で調べたと。 正々堰で調べたというものだったんですよね。 その正々堰で調べた裁判例というのは その正々堰が本当に調べて正しいものを出したのではなく 実在しない正々堰自身が創作した 作り上げた架空の裁判例だったわけですよ。 それをある意味何もチェックせずに裁判所に提出したと。 はっきり言って専門家としてはあるまじき行為ではあるんですけども それが実際の専門家であった。 それが大々的に報道とかニュースになったというような事件なんですよね。 これは本当に特殊な事件で そんなことをやる人ってほとんどいないよって思う人もいるかもしれませんけど 実際問題、この事件 一件だけに限らず しかも大々的にある意味世界的なニュースになった後も 正々堰が捏造した 今捏造って言いましたよね。あえて捏造と使いますが 捏造した資料とか裁判例を提出して 裁判所が強く問題視したケースっていうのは これ複数報告されてるわけですよ。 報告されてる例だけでもたくさんあるんですけど おそらくネット上というか ニュースになっていないケースも含めるとめちゃめちゃあると思うんですよね。 これってもちろん裁判例とかそういった法律分野に限った話ではなくて 学位論文とか行政文書とか企業の調査報告書とか 何でも全てありとあらゆるもの これが同様な問題というのは確認されています。 専門家でさえこのような状況なので 専門外の分野だと そもそも正しさのチェックってなかなか難しいところもありますし 知識がないんでね これがそもそも合ってるか間違ってるかっていう その正確性について疑いの目でチェックするっていう視点って なかなか難しいですよね。 ですのでやはり正しいと思い込んでしまって 間違った情報を自分の中で もちろん知識として蓄えるってこともありますし それを拡散してしまうっていう可能性っていうのはあるわけですよ。 今の例が示すように 正性愛っていうのは 例えば条文とか判例とか公的な通知とか あとはまりとあらゆるそのいろんな事実ですよね こういったものをもちろん調べて ある程度正確に調べてくるっていう そういう能力もあるんですけども 作り上げてしまうっていう そういった性質も持ってるわけですよね これは構造上仕方がない部分もあるのかもしれません 正確さよりも自然な文章を優先するというところはあるので そういう意味では仕方がない構造上の問題あるかもしれませんが 検索して得た情報でさえ 文脈に合わせて勝手に変えてしまう そのまま検索したものを出せばいいのに 出さないで自分でアレンジしちゃうみたいな そういうようなこともあるわけですよ これが例えばクリエイティブな生成とかであれば クリエイティブな話なんで コピーするっていう話じゃないですからね むしろいいんですけども 正確性が求められる領域とかだとかなり危険です 加えてこの生成合いっていうのは 例えば委員の問題でいうと委員の個別事情って 理解できないじゃないですか 一般的な話とか平均的な話っていうところは ある程度答えが出てくる部分はありますけれども ただ患者さんとの関係性とか これまでの説明の流れとか 委員の規模地域性スタッフの背景とか こういった本当に一つとして同じケースっていうのはないわけで こういうことを踏まえることができないわけですよ 実際の何かトラブルがあったとして そういったときの法律的な判断というのは 細かな事実認定とか細かな状況っていうのが すごく重要なポイントになってきますので 生成合いっていうのはここの部分っていうのは なかなか扱うのが難しいというところから考えると 少なくとも生成合いだけで正しい結論を出すことはできないわけですよね # AI時代に医院を守るための指針 それではどうすれば良いのかというところですけども、結論は至ってシンプルで、 性性愛というのはあくまで参考にするものという原則を徹底することですね。 性性愛が示した内容というのは、一度立ち止まって、人間の側が必ず裏を取る。 制度とか法解釈に関わる部分は必ず専門家と連携して、最終判断は必ず人間が行う。 これが最も重要ですよね。 性性愛をそのまま妄信しないということですよね。 そもそも正しさというところは疑ってかかる。 もちろん性性愛というのは文章構成とか資料作りとか、画像動画生成といったクリエイティブな用途では非常に便利ですし、 アイデアを出す時の壁打ちとか、そういったところでいろんなブラッシュアップすることには使うとすごく便利なところはあります。 ただ、実際に条文とか判例を勝手に作られたら困るじゃないですか。 困りますし、それを信じて対応すると当然ですけれども取り返しのつかないリスクになるわけです。 委員の法律的な判断というのは、患者さんの人生、スタッフの生活、委員の信用がかかっている責任の領域なわけですよね。 この領域はどれだけAIが進化しても任せることはできないです。 だからこそ、生成AIで得た情報というのは必ず専門家がチェックする、または自分で原点を確認して裏を取る。 その丁寧な裏取りこそが、AI自体に委員を守るための最強の安全装置になるわけですよね。 結局一番大切なのは、AIより先に人間が事実と根拠を確認する姿勢なんですよね。 やっぱり、AIってもちろん便利ですごく正しい部分もあるんですけども、結局その通りに仮に行動するとするじゃないですか。 だけど、何か問題が起きた時に、AIは責任を取ってくれないです。 あくまでも責任を取るのは、委員自身です。 だからこそ、どれだけAIが進化しても、最後の判断と責任は人間自身が担う。こういう意識というのは欠かせないわけですね。 # 本日のまとめ 本日のまとめです。 生成AIというのは、文章作成とか画像動画生成といったクリエイティブな領域では驚くほど便利になりました。 しかし、法律とか制度に関する領域では、条文とか判例を作りかけてしまうという構造的リスクが残っています。 しかもAIというのは、委員の個別事情はなかなか理解できないので、法務判断には根本的に不向きな部分もあります。 加えて、AI任せの判断というのは、トラブルが起きた時に、そのAI任せでやりましたということ自体が、 委員側の責任として扱われる可能性もあれば、結局その責任は委員が負うことになるということは忘れてはいけません。 だからこそ、生成AIの回答はあくまで一参考意見として、裏取りを徹底して、最終判断は必ず人間が行う必要があります。 # エンディング ということで、今日も最後まで聞いていただきましてありがとうございました。 AIというのは非常に便利な道具ですけれども、使い方を誤ると、 委員の信用や安全を損なう大きなリスクになります。 特に医療とか法律の領域というのは、確認と正確さが何より重要です。 先生への回答をそのまま信用するのではなく、 一度立ち止まって裏を取って専門家に相談する。 この姿勢こそが未来の委員を守ります。 さてこのチャンネルでは皆さんからのいいね、フォロー、シェアを励みに発信しております。 ご質問やコメント、こんなテーマについて聞きたいというリクエストもお待ちしております。 ちなみに具体的なご相談とか、もっとトラブル予防について身につけたいと考えている先生方につきましては、 DLCという司会限定のメンバーシップがありますので、こちらをご活用ください。 それではまた次回の音声でお会いしましょう。 地下専門弁護士の尾端誠でした。