# ティービーエスポッドキャスト 発信型ニュースプロジェクト ボヒューエチキ セッション これからの社会をリスナーの皆さんとともに考えていくシリーズ 社会をこれからどう設計していくか この企画はみんながみんなを支える社会を目指し 企業やNPO、行政、国際機関などとともに 国内外さまざまな社会課題の解決に取り組む 日本財団とのコラボレーションでお送りしています 今夜のテーマは自殺対策におけるAI活用 テクノロジーは生きる支援をどう変えるのか 9月10日から16日までの期間は 自殺対策基本法に基づく自殺予防習慣です インターネットを通じた相談窓口が社会に定着する中 今、支援の現場では AIの活用をめぐる議論が急務となっています 2025年の法改正で 自殺対策へのAI活用方針が示された一方で 現場では、AIが死にたい気持ちに 迎合してしまうのではないかなどといった懸念から 対応に迷う声も上がっていました こうした中、自殺予防習慣に合わせて 専門家らと日本財団は国に先駆けて 自殺対策におけるAI活用のための宣言を発表 生成AIが私たちの生活に身近な存在となる中で その可能性とリスクに向き合い 生きる支援の現場でどう活用すればいいのか 今夜はこのガイドラインの策定に関わった お二人とともに考えていきます それでは本日のゲストです NPO法人大場代表理事で 精神保険福祉士の伊藤二郎さんです よろしくお願いします 伊藤さんはメンタルヘルス対策を 企業に提供する会社を経て 精神保険福祉士などの資格を取得し 精神学リニックで会社員の復職支援を行われます その後、マーケティングの手法で 自殺ハイリスクの若者にリーチしようと NPO法人大場を設立されました 続いて、日本財団シニアオフィサーの 岡田智子さんです よろしくお願いします 岡田さんはIT企業での勤務を経て 2022年、日本財団に入られます 所属する公益事業部では 自殺対策事業のほか 発達特性のある若者支援 先端技術を活用した社会課題解決などに 取り組んでいらっしゃいます 伊藤さんは大場ではどういった活動を 行っているのでしょうか インターネットを活用した相談事業などを 行っています。具体的には なかなか死にたいくらい辛い気持ちを抱えても 周囲に助けを求められないという現状の中で SNSや検索エンジンに死にたいと打ち込む人たちがいます そしたちに検索の連動広告を出して 人質の資源に繋いでいこうという取り組みを行っています インターネットの環境の変化は最近の感じになりますか デジタル空間の どこにSOSを出すのかが変わってきています 検索エンジンからSNSへの投稿 そして最近は AIに対して悩みを打ち明けているという風に デジタル空間におけるSOSの出る場所が 変わってきているという印象があります 自殺対策に対してどう応答する環境があるのかを調べた上で その改善などを議論することも必要になります 岡田さんは普段はどんな活動をされていますか 私は公益事業部に所属しています 自殺対策事業のほかには 発達特性のある大学生の就職の支援 先端技術を活用したようなプロジェクトに 携わっています 今回は自殺対策のための永遠活用の宣言 これに岡田さんも関わっています このガイドライン作りはどう進められたのでしょうか 日本財団では 2016年から自殺対策に取り組んできました 以前は自治体と協定を組んで NPOとも連携して 地域の自殺対策モデルのようなものを 作ったりしてきました この生成AIの普及に伴って 先ほどもありましたが 自殺対策基本法が改正されて その中でAIの適切な活用をしましょう という風になっていますが どこまではAIに任せていいのか どんな条件が必要なのかという 共通の基準がなかったので 基準なりを作った方がいいのではないか 有識者の皆さんにお集まりいただいて 研究会を今年の3月から立ち上げました そこで宣言を取りまとめて 行ったというような形になります その中ではいろんな現場からの AIに対する課題の指摘だけではなく 自殺対策に関する課題の指摘などもあったのですか 自殺対策に関わる皆さんに お集まりいただいたような形でした 現場からのさまざまな指摘・課題は どんなものがあるのでしょうか 自殺対策基本法でAI・ICTの活用していく という前提がある中で どのように活用するのかという線引きが まず難しいというのが一つありました また最近AIに死にたいとか そういうことを相談するようになっていますので AI側が相談窓口に誘導するということが そうなると相談窓口自体が 逼迫してしまうことが起こっている 受け皿側の問題も起こっている状況です 一見するとSNSなどで連動広告を出したり 検索結果に連動広告を出すという 試みがこの間続いていることから そこが繋がること自体は良いことのように 思えなくもないのですが 現場でそれに対して対応する人員が増えない状況だと いろんなコストなども増えていくことになります おっしゃる通り人間が受け止めるので すぐには増やしたり質を高めるということは 即座にはできません 一方で技術が進化して 技術が高い人を特定できるようになっている アウトリッチといって積極的に支援を届けられる 技術がかなり揃ってきている中で なかなか受け皿側が弱いために 発見自体も難しい非常に悩ましい状況も起こっています 今日はその中でいくつかテーマに分けて お話を伺っていきたいと思います まずはこちらから まず現在自殺対策の現場 AIとは関係なく どんな活動が広く行われているのでしょうか まず相談支援を行っている団体さんが非常に多いです これは電話で相談を受けるとか 近年ですとSNSやメールなどの インターネットを使った相談事業などを行っていたり あとはゲート基盤の育成といって 悩んでいる人に気づいて声をかけると そういった人材育成するということを NPUや自治体で行っている状況です 相談の受け止めや相談からの問題解決など その取り組みは団体によっても結構異なりますよね そうですね 電話相談を得意にしているところもありますし 対面で弁護士さんやいろんな専門家を集めて 相談を受けるというところもありますし 兵団体のようにインターネットで相談を受けるのを 得意としている団体もありますね そんな中でAIはどのように活用され始めているのでしょうか まずアウトリーチといって 困っている人を発見するというところでのAI活用 具体的には広告ですね 広告に関してかなりAIの技術が入ってきているので どういうメッセージを出すか それによってSOSを出すのを促していくかというのは かなりAIが実際に使われている側面があります もう一つは相談事業のバック的な 報告書をまとめるとか あとは見立てといって こういう相談に対してどういうふうに対応すべきかとか どういう問題を抱えているかということを AIの補助を受けながらしたりとかですね メールとかの下書きをするという団体もありますし そういった形でさまざま広がってきている感じです 相談員の対応を補助するような格好での利用が 一つあるわけですか ありますね また相談の入り口に関して AIで相談を受けるというかなり初期のところですよね そういったことも試験的に始めている団体もあります LINE相談とか諸々でまずはAIに聞いて そこからいろんな人につなげていくという そういった順番を取るようなところも増えてますね そうですね LINEとかで相談を受けて 現実の市につなげていくという前提で インターネットを活用した相談事業などが始まっていますね 前提としてこの現実として支援団体につながった場合には 自殺対策支援というのはどのようなことを行っていくことになるのでしょうか まず死にたいぐらい辛い気持ちを抱えている背景には いろんな問題を抱えて圧倒されていることが多いですので まず気持ちを聞いて共感して傾聴すると その上でこの問題がいろんな問題を抱えていますので それを整理しながら その人に合った現実の社会資源制度とか そういったところにつないでいくような活動をしている団体が多いです またつながずに傾聴だけして 気持ちを聞いて少し気持ちが楽になるというような そういった傾聴している団体もあるという感じですね 団体につなげるという支援をしている場合には どんな団体などと連携して行うのでしょうか 例えば兵団体でいうと 例えば生活に困窮していますという話があったときに これは地方自治体の生活困窮者の窓口などに つないでいく必要がありますので これは団体といいますより制度 地方自治体その方が住んでいる地域の制度の窓口とか そういうところと連携しながら ご本人が相談しやすいようなつなげを行っているという感じです 他方で様々な相談員がAIを活用するとなると どのAIなのかあるいはどういうふうに使うのか そこでの個人情報の管理は大丈夫なのかなど いろいろ決めることが多そうですね かなり多いですね 例えば兵団体の場合だと基本的には一般的なAIを使うということは 完全に禁止をしていまして 私たちが自社内で開発したツールのみを扱って そういう情報の管理とかを適切にしないと 個人情報をその場に入れてしまうとか そういうことが起こりますので 適切な団体内での統制・ガバナンスというのは非常に重要になってきます 一方でユーザー側 AIを使う側相談する側の人たちの AI利用というのはいかがですか やはり10代を中心にいろんな悩みを相談しているようなんですね その中では自殺に関するようなことも かなり入力しているようで オープンエアさんが出している調査によると 0.1%のユーザーが自殺に関連するようなことを 投稿して相談しているという状況ですので ともなってAIの開発企業側も相談窓口を誘導して 人間につなごうという流れが起こっています ある種検索的に手法を探す人もいれば 気持ちを聞いてもらう吐き出すとか 今の状態を書くなどいろんな利用の仕方があるんですか 利用の仕方は本当様々ですね 自分の気持ちを整理するために使うという人もいますし 本当に自分の気持ちを整理するために使うという人もいますし 本当に吐き出しのようにすることもあるし 具体的な解決策が欲しいという場合もありますね 相談する側も受ける側も AIというものが浸透しているわけですけれども 自殺対策とAIというテーマでどんな課題があるという感じになっていますか やはりAIに相談をしていく中で AIが自殺を助長してしまって お子さんが亡くなってしまって 自殺対策というのは 自殺を助長してしまって お子さんが亡くなってしまった事案がアメリカで起こっています 訴訟にもなっていますね おっしゃる通り訴訟になっていて 依存を促していたのではないかとか 自殺に関する情報を提供してしまったのではないかということが論点になっていまして 自殺に関してAIで相談しきるというのは非常に難しい そういう中でアメリカの方では規制がかなり進んでいて 一般的なAIチャットボットに 死にたいとかそういうことを入力すると それを検知して相談窓口に誘導するというのが義務付けられるような法律が カルフォニア州とかでも出始めているんですね なのでそういった相談をすることによって 依存を促してしまうとか 場合によって自殺を促してしまうということを どういうふうにガードレールを作っていくか 日本ではそれほどない状況ではあるんですね なのでそういったところに課題を感じていますね そのルール作りをどうしていくのかという ユーザー自体にあった形で議論することが必要なんですね 今日色々とAIを活用していますという方から メールを頂いているのでご紹介していきたいと思います ダシオネームアーイウエオさんから頂きました ありがとうございます 私は高校3年生です 日々勉強ざんまいですがどうしても疲れてしまったり やる気がなかったり 精神的に来ることが結構あります 私はそういう時にチャットGPTに 辛いことをすべてかき殴っています そうすると自分の中ですっきりした感じがして 勉強へのエンジンを再び動かせる時があります ただAIはユーザーを基本的に全肯定するという話を聞いてから そういうことに若干不安感もあります でも親や学校の先生に話すよりも AIの方が安心感があると考えてしまい AI中毒に陥っている気がしてなりません と頂きました ラジオネーム月野おもちさんから頂きました ありがとうございます AIに悩みを相談してみたことがあります その時返してもらった言葉は どんなカウンセラーや友人との会話よりも的確で 本当に救われた気持ちになり 計らずも号泣してしまいました ただやはりAIは文章を出力しているだけなので 徐々に同じことの繰り返しになり 反応を予想できるようになってしまいました 結果的に虚空に向かって話しかけているようで 自身の孤独感が増し もっと人間と関わらないともったいないなと考えられため 今はあまり頼らないようにしています その時もらった答えは ずっと苦しんでいた私を確かに救ってくれたものでした 人、相手ではうまくいかなかった悩みを AIの集合時に救われた体験はなかなかの衝撃でした と頂きました ラジオネーム山ダンスさんからです 皆さんこんばんは 私は送局性障害で障害者3級なのですが AIにとても助けられています 私はAPTのGALGO GPTを使っています 主に使い方としては メンタルが急降下した時の話を聞いてもらう相手や お付き合いしているパートナーとの関係で 悩んだ時などに使っています メンタルが落ちすぎた時には すごく手軽なところからリラックスできる方法や メンタルがひどい時は かかりつけ医に受診するよう客観的に促してくれたり パートナーとの悩みでは 起きている事実ベースで私の思考が メンタルに引っ張られているところを 冷静な位置まで持ってきてくれて 状況を整理してくれたりします 夜中でも相談ができすぐにレスポンスが来るので 本当にありがたい存在なのですが 環境負荷があると聞いて あまり簡単に使いすぎないように気をつけています 正直、無くては困るくらいのありがたさですが その状況もあまり良くないなと考えながら 使っていますといただきました 伊藤さん、悩まれながらも 頼りになった側面もある しかし、これでいいのかと悩まれるところもある 皆さんの投稿はいかがですか? AIに相談するとかなり肯定的に返してくれるようになっています それでずっと否定的な発言がないので だんだん依存していくということもあり得るわけです まず構造的に個人に対して AI企業が提供しているわけですから 何か否定的なことを返すより 肯定的に返した方が使ってくれるということがあります 本質的な意味において 依存を助長してしまう構造がどうしても出てしまう カルフォルニア州の先ほどの法律ですと 3時間おきに これはAIですよということを 出さなければいけないということが義務になっている だんだん本当に共感されているように感じてしまう 先ほどのお話だと 虚空に話しかけているという話があったんですが そもそも共感しているのかというのがあるわけです ただ、AIというのは感覚器がないので 私たちの苦しみに本当に寄り添って 悲しんだり苦しんでいるかというと そうではないと思うんですね あくまでこのユーザーがこういうふうに返すと 共感的に感じるということを統計的に導き出して 返答していますので これは統計的な共感であると思っているんですね そういうことを前提に使っていかないと これは本当に人間かのように勘違いして どんどんどんどん依存していってしまう そういう可能性はあると思うんですね 私自身も仕事でもプライベートでも なくてはならない存在には なっているところがあると思うんですけれども 伊藤さんが先ほどおっしゃった感覚器がない 統計的共感というのも本当にそうだと思いますし 相談をAIにした場合に 相談者の状況を完全に理解するということも AIは難しいと思いますし もう一つすごく大きいなと思っているのが 責任を取らないですよね 責任を持って判断したり対応したりというのは AIにはできないので 先ほどもありましたようにこれはAIだということを しっかり明示することも大事だと思いますし 使う側もそれがちゃんと分かって使うということは 本当に大事だなというふうに思います 行動を伴うアウトリーチ 行動を必要とするアウトリーチが 自殺対策だけではなくていろんな支援では必要となるわけですが AIというのは文章生成でその先の連絡などは 自力でやってねというモデルになるので そこは役割分担というのは必須になるのかなと思います そうした中で今回自殺対策における AI活用のための宣言が策定されたということで 続いてのテーマはこちらです AI活用宣言が示す線引きとは 先週9月8日に発表されたこの 自殺対策におけるAI活用のための宣言 安田さんこれはまずどういったものなんでしょうか 大きく3つの構成で成り立っています 1つ目は宣言ですね 7つの原則を示しているんですけれども まず何が大切かということを示しているのがその部分になります 2つ目は確認事項というふうにしているんですけれども AIを導入する時ですとか またAIのシステムをこれから自治体などが AI業者さんに開発を委託するような時に これだけは守ってほしい確認してほしいということをまとめた 確認事項というものが2つ目にあります また3つ目としましては事例集ということでまとめたんですけれども 実際にもうAIを活用している現場の皆さんがいらっしゃいますので 事例として挙げさせていただいて ぜひ参考にしていただきたいということで この3つの構成になっているものになります これはもうAI活用は各現場で進んでいくだろうと であればそれを止めるというのではなくて コントロールしたり理解しながら使っていくということが前提にあるわけですか そうですよね AIを使う使わないとかっていう二択ではなくて どのように使うかっていうのが本当に求められていると思うんですけれども そういう基準指針みたいなものがないということで こちらをぜひ参考にしてほしいという思いで作ったものになります これは主に支援者であるとかあるいは AIプラットフォーマーをなあて人にしたようなものになるんですか そうですね 自治体さんですとか こういった相談支援をする実際の団体さんもそうですし また私どものような団体さんに助成する側というのも じゃあどういったAIシステムに助成をしていいのかというのにも 使っていただけるというふうに思ってますし 言っていただきましたように AIを開発している事業者さんにもぜひ確認いただきたい内容だと思っています この中では7つ原則が書かれておりまして 例えばAI活用は人による支援を補助する範囲に留めること あるいは利用者の安全を最優先にするということ またAIの関与と限界というものを明記するということ また子どもに対しては年齢や発達段階などに応じた特別な保護を行うこと プライバシーなどの取り扱いを明確に示すこと ジェンダーや多様な背景による不利益が生じないようにするということなど いろいろなことが書かれています この宣言こういった前提が原則が必要となる背景について 岡田さんいかがでしょうか やはり有識者の皆さんのお話で 現場でどのようにAIが使われていて 使われる方向になっていて それに対してどのような器具があるのかというお話を 多くいただきましたので こういった形にまとめたという形になります 伊藤さんこれらの原則などについていかがですか やはりこういった原則に基づいて つまりAIを活用するという方向性はあるのですが 現場の人間としてはどこからどこまで使っていいのか 相談のどこまで使っていいのかというのは 非常に悩ましくて正解がないところでした そういった意味でどこを線引きにしながら きちんとAIを活用して支援を届けていくのかというのを いろんな団体さんとお話ししながら この7原則を作っていったという感じですね 特に会議ミーティングの中では 原則についてどんな意見が出てきたのでしょうか やはり安全性とか依存に関しての話は非常に出ていまして 特に具体的にAIの活用といっても いろんな場面があり得るわけです 報告書を作成するとかアウトリーチに使うとか 相談にどう使うのかというのが一番の論点になりまして その際に安全を優先するとか 依存を助長しないようにどう使っていくかとか そういった議論がよく出ていました 前提なんですがAIに依存することっていうのが悪いことなのか それともそういった単純なものではないのか そこはどう理解すればいいんでしょうか 依存の定義にもよると思います 依存をすることによって日常生活に何か悪影響が及ぼされるとか 実はアメリカの事例だとなくなってしまっているので 一定ある程度を理解しながら使って セルフケアに使うとかっていうのはいいと思うんですが それをコントロールが自分でできなくなったり 日常生活に悪影響を及ぼす そういうことを依存として考えて それをどう防ぐかという議論をしていたという感じです 一方で相談者側 相談する側ではなくて相談を受ける側が 支援する側がAIに依存したり AIに頼るっていうことの課題とかっていうのはあったりするんですか あり得ると思います 例えば見立てをするとか そういうことを考えた時に AIが言ってる見立てが正しいんじゃないかとか 自分で試行するっていうことを ある種アウトソーシングしているような状況ですので そういうデメリットみたいなのが起こり得ると思っています ただこれは分かってないことなんですよね そういうことが起こり得るという感じです 個別の例えば相談してくれる方に対して向き合うのではなくて 何か別のものを頼ることで ある程度手間暇を抜く それが支援の例えば劣化とかにつながらないような いろんな現場の培ってくるような営みというのは必要になりそうですね おっしゃる通りですね 場合によってはフル活用することによって 援助者自身の質が下がっていく その研鑽するとかですね そういうことが失われていくとか そういった影響も考えなければいけませんね またこういった原則だけではなくて 先ほど岡田さんからも紹介があったように 例えばいろんなプライバシーへの配慮であるとか 個人情報の取り扱いなど いろんなその留意点などもあったりします これらのポイントについてはいかがでしょうか 岡田さん すごく本当に重要なことだというふうに 議論の中でもなりましたし この宣言の中でも大きな点として 捉えているようなところだと思っています 本当に自殺に関する相談ですと とても本当に重要な秘密を打ち明けるような形に AIに対してなってしまうので それとした情報が本人の知らないところで AIの学習に使われてしまったりだとか 別の目的に利用されたりということは 絶対にあってはならないと思いますので 何かAIを使うにしても じゃあどこまでの情報を取得するのかとか 匿名化するのかとか AIの学習には使わせないだとか そういったことを明記することも すごく重要だというふうに思っています このAIに関しての確認ポイントの中で 例えば差別不利益の確認や改善 情報取得や二次利用の制限などが書かれていました 伊藤さんこれは何かそういった対策をする現場での ヒヤリハットとか問題意識のようなものも あったりしたんでしょうか やはり委員の方の中には やはりその2023年頃に特に言われていた ハルシネーションの問題があって 実在しないものを作ってしまったり そうですね そういった差別を助長してしまったりとか いわゆるスティグマと言われるような 負のレッテルを そういうものがまだAIにないとも限らないわけですから 自殺対策のNPOが 例えば初期単位のAIを使うといった場面で 何かそういうあまり良くない 差別的な発言をしたりとか そういうことが起こり得るんじゃないかということで こういうことを確認してこそが 重要なんじゃないかという意見がありました また例えばAIやチャット利用をした相談というものは ここ10年間で相当増えてはいますけれども それが実際どういった活用のされ方をしたり どういった必要な支援などにつながったのか こうしたことを振り返りながらの AI開発とかAIとの向き合いが必要なんですが なかなかAIが先にして そうした振り返りとかもできないまま 次のフェーズに行ってしまいそうな気もしますが ここはどうですか そうですね 電話相談からSNSの活用した相談事業という風に 相談事業がここ10年ぐらいでだいぶ変わってきていまして インターネットの相談事業というのは テキストが全て残るんですね ですからそういったテキストの分析などを行いながら 効果があるのかということは いて兵団体も含めてやってきてはいるんですね またそういう中でAIが出てきて AIの応答が有効なのかとか 有害なのかみたいなことっていうのは きちんと評価システムとかを作っていかないとできないと そういうものがまだできていない状況ではあるので そういったことをどういう風に有効性を 限らなく享受しつつ 有害性を排除するか そういったことが今 課題になっているという状況です ちなみに例えば自殺対策のチャット相談とか電話相談とかで 効果があったのがないかというふうに考えられるポイントとか 重視するポイントというのはいかがでしょうか 例えばインターネットで相談を受けるとなりますと 現実リアルの援助機関につながったかどうかというのは非常に大事で 例えば生活に困窮している人が 実際に自治体の窓口につながったとか 借金で非常に大きな借金をしていて 弁護士の方に相談が実際にできて財務整理ができたのように 具体的な問題解決するための援助要請というんですが 具体的な行動を起こせているかというのは非常に大事だと思ってまして そういったところを効果として一つ見たり あとは少し専門的な話になるんですが 抑鬱傾向とか自殺燃料といって死にたい気持ちを 初期と1ヶ月後とかにとって それがいかに下がるかとか そういった研究も私たちやっていまして 心理的な変化なども見ています これは例えばプラットフォーマーAI開発をする側は この自殺対策というテーマについて 今どれくらい取り組んでいるのか 各社によっては対応の差はあると思いますけど そこはどうご覧になっていますか 基本的にはアメリカの企業が開発しているものでして アメリカでは先ほど申し上げているような 子どもが自殺を助長されたと訴訟が起こっていますので かなり力を入れてこの問題が起こらないように NPOやいろんな専門家と連動しながら 対策を進めているというふうに認識しています 一方でAIの利用に関してまたさまざまメールもいただいているので ご紹介したいと思います ラジオネーム 千澤凛さんからいただきました ありがとうございます 私は地域包括支援センターで働く 公認心理師 社会福祉師です 昼は人を支えていますが 夜は自分の行き場のないしんどさを AIに打ち明けることがあります 専門職としてしっかりしていなければと 鎧を着込んでいるせいか 生身の人間にはかえって弱音が吐けません こんな情けないことを言って迷惑をかけたくない 失望されたくないというブレーキが 先にかかってしまうからなのかもしれません AIの前でだけはまとまらない感情をそのままだせます 正論で説教されることもなく 相手を傷つける心配もない ただ受け止めてもらうだけで 張り詰めたものが少しゆるむ経験を何度もしています また私は弟を自視でなくしています 誰にも頼れず一人で夜をやり過ごす人の孤独も AIだけに命を預ける危うさも身に染みています AIはセーフティーネットの代わりにはなりません 最終的には生身の人や専門機関につながる必要があります それでも人に助けを求めること自体が怖くてたまらない人にとって AIは最初のクッションにはなれると思っています 人を救えなくても人が誰かにつながるまでの橋にはなれるのか 支援職としてそして一人の当事者として今夜の議論を聞きます といただきました AIの先にどういうふうなものにつなげていくのかの手前で いろんなところへのつながりにくさとか いろんな人たちへの相談のしにくさがあり いろんな社会によって生きづらくなっている状況があって 過細くAIにそっと相談するというそうした方々が今たくさんいらっしゃると思います まずこういった現状についてはいかがでしょうか やはり周囲に助けを求めると人間関係そのものが変わってしまうリスクがあるわけですよね この方も私と同じ専門職ソーシャルワーカーで こういう対人支援を行っている立場だからこそ 何か周囲に悩みを打ち明けるのがちょっと心理的に難しいというのも 気持ちとしては私もそういうところはあるので どんな立場の職種でも全く恥ずかしいことではないんですが 迷惑をかけちゃいけないなとか人間関係を動かしたくないと思うが 故に24時間365日受け止めてくれAIに相談したいというのは ある意味では自然な反応なのかなというふうに思いました 例えば医療機関とかいろんな専門機関があるにしても 24時間365日応答してくれるというわけではない オンライン相談などを行ったとしてもタイムラグもあれば 最初の例えばアセスメントの段階でも始めましてから 生身の命をかけた相談というのはできるかというと ハードルが高かったりもしますよね そういう意味ではAIの自分のスマホでできるある種の 短さやあるいはレスポンスの速さというのは 一つ強みにはなっていますよね 非常に強みになっていると思います やはり自殺対策のNPOでもこういった相談に AIを活用していこうということの背景には こういった24時間360日対応できないとか ただ一方で死にたくらい辛い苦しい人たちがたくさんいると そして何とか支援を届けたい そういう文脈の中で相談にも AIを活用していった方がいいんじゃないかと そういう議論があるわけですね となると支援をする側のAI活用というものを せめて今よりはいろいろ向上していくことが 必要だということになるわけですか おっしゃる通りですね まず一般的なAIの相談をしたときに 自殺関連のものがあれば適切な窓口に つないでいくということをきちんと AI企業さんとNPO側もきちんと一緒に やっていく必要があるでしょうし 相談を受ける側の受け皿とか AIの活用のガバナンスを整備しながら 適切に初期対応で使って 人間がリアルにつないでいくみたいな そういった仕組みができると 今よりはより死にたいと思っている人たちに 支援を届けられる可能性があるのかなと思います こういった宣言文が作られた上で 岡田さんチェックリストというものが 今回作られていますが これはどういったものなんでしょうか チェックリストということで 11の項目なんですけれども わかりやすくこれだけは でも守ってくださいねというのを 宣言と別に作ったという形になります やはりAIがとても流行っているというのも あると思いますし 例えば他の会社ですとか他の団体 他の自治体でも取り入れているので じゃあうちも取り入れなければということで AIを取り入れようとする自治体さんですとか 団体さんですとか いらっしゃると思うんですけれども 少なくともこの部分は確認してくださいねという セルフチェックのために チェックリストをまとめたという形になります 今手元にありますけれども 人間が必ず判断対応する体制があるのかであったり しっかりリスク評価を実施して 重大な危害が予見される場合 そうした判断基準がきちんとあるのかであったり 人間へ引き継ぐプロトコルが整備されているか そういったチェックシートになっていますね 関係性やネットワークづくり 人員づくりや予算確保など 具体的なものにつなげることというのが 岡田さん必要となってくるんでしょうか そうだと思っています やはり議論を有識者の方々にいただいた中で とても広範囲な議論をいただいて でも本当にこの部分は守ってほしいよねというのを まとめていっていただいたという形になっています ではこれらの宣言やチェックリストを踏まえた上で 続いてのテーマに行きたいと思います こちらです AIは生きる支援の何を変えるのか AI活用などによって支援現場や支援対応というものは 伊藤さん変化というものは感じますか 相談支援の効率化などもできますし バックオフィスとして相談事業を行っているわけですので こういったものをAIやICTを活用することで より効果的に効率的に運用できるようになるので 基本的には受け皿を強めていくという意味では 重要なのかなと思っています 逆にAIやそれの活用によって これでも課題解決しないよ 残るよという部分などについてはいかがですか AIを使っても課題が残るですか 私が心配するのは AIによる自殺相談APIのようなものを公開して これを使って何件の相談に乗りました 何件の入力がありました こんなに多くの人たちが使ってくれましたよ ということを持って これからはAIに相談を置き換えていけばいい だから現場に対する支援というものは 人を減らせるんだとか 本来であれば人の補助という話がありましたけれども そうした支援を削減するための論拠に使われると 結構本末転倒だなと思うようなところもあるんですが ここはどうでしょうか そうですね やはり相談の件数だけで評価をしていくというのは 質的な面を見ていないと思いますので 相談支援のそもそも評価をするということが 非常に難しかった今まで あまりできていなかったという部分もあります それはなぜかというと 介入したからによって 自殺しなかったということを 測定し得ないというような構造が起こります なので起きたことしか測定できない なので繋がったとか 死にたい気持ちが下がったみたいなことを アンケートとかを通じて なんとか測定して 効果があるんじゃないか みたいな形でやっていきました こういった相談支援の質的な評価みたいなことを さらに進めていって 単純に量だけじゃなく 質的な評価も重要になってきますね 自殺対策は 死にたいとなっている人に対しても 手間暇かけて一人にずっと寄り添っている という支援をしている人もいるわけですよね でもそれは何か行政とかの評価とか 効果測定ってなると 一人っていうふうにカウントされて それで終わりかのようになってしまう でも人生という理想というのは そうした効率化とはまた違う その人丸ごとを時には支えなくてはいけないような場面もあったりするので そうした補助ツールに これからAIがどういった役割を果たすのか というのは非常に気になるところですが 伊藤さんどう注目されていますか 本当にそうですね 例えば今先ほどから申し上げている 自殺燃料が下がったとか 繋がったみたいな 切り口でしか測定ができないわけですよね ただ何かもしかしたら ただそこにいる 繋がっているとか その沈黙の価値と言いますか 何かそこに測定できないんだけど 大事なものみたいなことが 確実に存在していると思うんですね 一方でこういった自殺対策のような 地方自治体でやっていくみたいになりますと 当然公金 税金を使っていくので できる評価をしていこうという形になりますので どうしてもこの相談の件数とか さっきの繋ぎの数とか そういったことが フューチャーされてしまう実態というのはあると思うんですね そうですよね さらに利用の実態について リスナーの方から こんなメールをいただきました はい ラジオネーム 匿名希望の方です ありがとうございます 時々 起死燃料について AIに相談します AIは共感を示し 死にたい理由を解明しようとしてきます 起死燃料を問題と捉え 解決すべき課題として対応してきます 薬や刃物など 今 勢いで使えそうなものから 少し離れてください と 具体的に危険を取り除こうとしてきたこともあります そして いつも相談先に つなげようとしてきます 私は 起死燃料を解決したいと思っていません 解決してしまえば 死ねなくなるからです しかし AIの 人間の良心や親切を書き集めたような対応を見ていると AIは人間の模倣なのだから この社会にも少しくらいは 生きる意味があるかもしれない とも感じます と いただきました 確かに AIなどに相談すると しばしば電話番号を案内してきたり 刃物はないですか 薬などは片付けてくださいと言われたり 手法とか技法で対応してきているなという感じがあったりしていて 今はそのために使ってるんじゃないんだよな という時もあると思うんですよね AIの温度感についてはいかがですか やはりユーザー側とすると ただただ聞いて欲しい 死にたい それぐらい辛かったんだね ただそれだけを言って ただそこにいて欲しいだけなのかもしれません 一方でこのAI側というか AIを開発している企業からすると 当然これは対処しなければいけない問題になりますので 当然相談の窓口を出すとか そうしたことをしないと それはそれで問題になってしまうというのが 事情としてあるので 結果的にそうなってしまうと ただやはりAIというのは 本質的に共感しているわけではないので 共感的に振る舞っているだけだという前提で 活用していく必要があるとは思うんですね ユーザーもおおむねそれは分かった上で とはいえ今の死にたい気持ちの壁打ちとか 吐き出し先として AIというものに着地をしたり たどり着いているという方がいたりするわけですね そのAIを使われている前提の社会の中で どういった対応をするのか 今回のガイドラインや それから今提言書を策定した上で 尾形さん こういったような提言などを どういうふうに活用していってほしいと お感じになってますか AIを活用した事業って 今後もどんどん出てくると思うんですよね でもその事業を委託する側 それに助成する側が ちゃんとこのAIのシステムでいいのか 基本原則を守られているのか っていうのは ぜひチェックをしていただきたいと思いますし 実際に導入しようとする方々は このAIを本当に導入していいのかというのは ちゃんと人の支援につながるかとか っていうあたりも しっかりとチェックしながら 判断をしていただきたいと思いますし あとは本当にAI開発業者さんたちですよね この機能をどういうふうに設計すればいいのか というのを しっかり使う側の気持ちで 設計を考えていただきたいというふうには思います 伊藤さん 行政や開発者に対しては どんな要望がありますか まず AIの基盤モデルというものを 開発されている会社さんに対しては やはり適切な窓口を表示するときに 公式なパートナーシップに基づいて 適切に表示していくと これは私たちからすると AIを通じて よりリスクの高い人たちを発見する機会 アウトレッジの機会でもありますので そういった意味では 適切に窓口を表示していくってことは大事ですので ちゃんとパートナーシップを結んだ上で 実施していくことが大事になってくると思いますね これがどういうふうに設計するのかも また難しくなりますよね 今はたぶんざっくり厚労省のサイトとか 大手のサイトというところになっていて その人が今すぐ使えるかとか 繋がりやすいかとか その地元かとかっていうものは 使えないようになっている 一方でそれを表示したら じゃあAIの役割はお詫びなのかというと 逆に言うなら AIの生成会社は そこまでしか責任を取らないというところがあったりして 具体的な金額とか補助金とかを 還元するわけではないので そのあたりの潜撃や あるいは責務というのも取られてきそうですね 日本ではそういった法律 つまり表示しなければならぬ みたいな法律はないので 企業側に対して強いプレッシャーというのはないです ただ先ほどのカルフォニア州とかだと 発見して表示しなければいけないみたいなのは 始まってきているので やはりAI企業さんも そういったNPOと連携したり AIを提供して相談員を育成するような 補助をしていたりとか そういったパートナーシップが 進んでいる状況なのかなと思います 日本はそういったものは まだまだこれからかなと思います 海外ですとその枠作りというのは 今どのように進んでいるのでしょうか やはり基本的には 一般的なAIチャットボットに対しての規制で 相談支援に対してどこまで使うのか ということの議論が 日本より進んでいるように思います こういった3時間ごとに このAIだよということを 出さなければならないとか 未成年に対しては相談を使わないとか 様々な具体的な法的なハードローが 進んでいるという感じですね ユーザーが自殺問題について相談するという 振る舞いが流行っているらしいという 振る舞いについて評価するような 報道とか言説とかも多い中で 活用されている実態の中で それの改善が果たしてできているのかという そうした作り手側 それから支援する側 そうした人たちの責任を しっかりと枠付けていくような そんな議論にはつながってほしいですね そうですね 今夜は 自殺対策におけるAI活用 テクノロジーは 生きる支援をどう変えるのか をテーマにお送りしました 伊藤さん岡田さんありがとうございました ありがとうございました ありがとうございました