# オープニング みなさん、こんにちは。先生ハウスラジオの園野です。 この番組は、先生ハウスでの学びを耳で学べる形でお送りしております。 さてみなさん、10月も中旬を超えましたね。 後期始まって1週間みたいな感じなんじゃないでしょうか。 みなさんいかがお過ごしでしょうか。 私はね、4日間ですね、スポーツの日がお休みで、 4日でしたけども、なかなか濃い1週間だったかなと思って、 こんなに疲れる1週間あると思うぐらいの疲労具合でしたね。 その中でもね、勤務校の先生たちとお酒飲んだり、 その翌日にですね、先日Xのスペースでお話しさせていただいた ヒグマ先生とですね、一緒に差し飲みをしたり、 すごく楽しい時間を過ごすことができて、 体力も精神力も、HPもMPも回復できたなというふうに思っております。 さて本日はですね、毎朝キャンバスアプリ作ってみたシリーズの第2回目ということで、 前回作り方の話したんですけど、今回は安全についての考え方、 これを教室で使うのはもちろん、 例えば市内で共有したり、あとSNS通じてもっと広く拡散させていくというふうになったときに、 そういったときの設計だとか、どういうところを気をつけたらいいのかな、 もちろん私もまだまだ未熟な部分はあるんですけども、 自分なりに考えたところをお話ししたいと思います。 # AIに作らせたアプリは、安全なのか ではですね、今日は安全の話なんですけど AIに作らせたアプリを子供にそのまま使わせて大丈夫なのかっていうところ 結構気になる先生多いと思うんですよね。 なので、ここらへん私はですね、作らせる度に AI自身に点検させるっていうことを最近やっています。 そこらへんをですね、しっかりやっていけばある程度個人情報流出だとか あとパスワードですね、管理パスワードとかも作って先生画面とか見れるようにしたりだとか あと子供同士で何か操作するときに誰かに成りすましてやるだとか そういったことができないようにする設計っていうところも 見えてきたところもあるので、そこらへんもお話できたらなというふうに思っています。 実際どんなふうな依頼文、プロンプトっていうほどじゃないんですよ、最近私は。 すごい整えて出すってわけじゃなくて アプリ作るときに最後に公開する前のつもりで安全点検してねっていうふうにお願いをしました。 そうするとですね、点検の結果は結構一覧に出してくれたりとか 一覧に出してって言えば出してくれるんですけど まちまちで出るとは思うんです、そういうふうに指示を出すと。 この一覧表を出させるときに何回か安全点検をしてもらってその結果を見て 深刻度を高いか中くらいか低いかっていうところで出してねっていうふうにお願いしたら 結構いい感じに出てくれたんですよね。 高度のどこでどんなことが起きて、それをどういうふうに直していくのかっていうところを 推測で語らないようにしてねっていうところも指示として出しておきました。 あと有効なのが、一回作ってみたAI、 GeminiとかCloud、あとCodex、ChatGPTですね。 そういったところに作ってもらったAIと別のAIにコードを読ませて 点検させるっていうこともできるかなというふうに思っています。 点検で出てきた指摘っていうのはその場で直すだけじゃなくて 作業メモに次のアプリを作るときに最初から見て点検するポイントとして残すようにさせました。 そうすると次のアプリではその指摘した箇所を直した状態で 新しいものを提案してくるっていうような感じになってきますよね。 そこら辺をやっていくと、1個目、2個目とどんどん作っていくと いい感じに安全基準を満たされたものができてくるのかなというふうに思います。 具体的に私が作っててどういうのが出てきたかっていうと パスワードに例えば0000とか1234とかが通ってしまったりとかするっていうところ。 これは弱いパスワードを断るようにしてねっていうふうな基準を設けるっていうことはやりました。 あとはですね、最初結構この私の作ったアプリケーションって 子供用のアカウント出席番号で入るんですけど、それと別に管理用の先生のアカウントがあって そのアカウントの初期パスワードを決めてるんですけど 初期パスワードで入る前に子供が入れちゃうっていう問題もあったので そこら辺も事前に防げるように 先生がちゃんと設定をするまでは子供たちは触れないっていうような状態にするっていうところですよね。 こういうのをやってましたね。 これってまだ触らないんでねとか先生が子供たちにリンクを配る前にやれば防げる話なんですけど これってヒューマンエラーというか人間がちょっと物忘れしちゃったり うっかりっていうのがあったりとかするじゃないですか。 うっかりを防ぐ考え方としてフールプルーフっていう アホでも間違いない仕組みみたいな感じの考え方があるんですけど そういうのを取り入れてくれるように指示をしました。 まとめて考えるとまず作らせっぱなしにするんじゃなくて 点検作業もしっかりセットとして行うってこと。 その点検の中で直すべきところが出てきたらそこをきちんと記録して 次のアプリにも反映させるように設定として残しておくっていうところが大事かなと思います。 だから自分は結構エージェントだというか 他のチャットのものも参考にできるような JSAの使い方みたいなのをしてるんですけど チャットごとに分けて使ってる人とかは最終的にここまで作ったアプリの注意点だとか 仕様書みたいなところを作り方の仕様書みたいなのを作っておいてっていう風にしてまとめておくと 次のアプリそれをパッと貼り付けて この仕様書をもとにこういうアプリ作ってっていう風にするといいのかなと思います。 # 使う環境によって安全設計基準が変わる もう一つアプリを作ってみて分かったことが、 どこまでがアプリを使わせるにあたってリスクが出てくるのかというところは、 使ってみる環境によってやっぱり変わってくるかなというところですね。 最初はAIの点検で、 共有しているデータを直接読めるという問題点が出ていて、 その辺もかなり深刻なこととしては高かったんです。 どういうことかというと、 詳しい人ならブラウザの開発者ツールというのを使って、 そのページのコードを見る状態というのは、 結構簡単に作れるというか設定としてあるんですよね。 例えばブラウザの中で。 なので、そのコードを見ていくと、 パスワードの文字列がここだなというのが分かっちゃったりするんですよ。 なので、それって結構深刻じゃないって自分でも作ってみてというか、 AIから指摘を受けて、やばいなと思って、 自分で見ようと思って見てみたんです。 実際に学校の環境でそれができるのかどうか 確かめてみたんですけど、 そうしたら、うちの自治体の場合は、 子どものChromebookだとか教師用でさえも、 開発者ツール、管理というようなボタンは もう使えない設定になっていたというところなんですね。 なので、共有のリンクというところも、 設定をすることで自治体のアカウントでしか 開けないというふうにもできるから、 自治体のアカウントのみで共有するというふうにしておけば、 管理ツールがそもそも開けないから、 開発者ツールがそもそも開けないから、 そこはクリアできるよねというようなところは、 AIにも状況として伝えて、 アプリを作ってもらうようにしました。 結構ここの部分って、アプリの使用だけでは どうしても防げない部分ではあったので、 これが結構、自分の自治体のところの セキュリティ状況というところを 実際に動かして確かめてみると、 どこまでがセーフでどこまでがアウトなのか というのが見えてくるかなと思うので、 皆さんも試してみるといいかなというふうに思います。 # 自動テストでは見つからない不具合 あとですね、自動のテストで見つからない不具合というところで言うと これはですね、キャンバスの アプリを共有するとですね、 結構カメラとか音声とか使わせることができる。マイクで音声を拾ったりとかそういうこともできちゃったりするんですよ。 で、その時にカメラを起動させる際に 許可っていうのを取らなきゃいけないんですよね。 本当にこのアプリにカメラを使わせちゃっていいですか? みたいなのが出たりする。 それは許可をしてやるんですけど、 許可を押しちゃうとアプリが一度読み込み直しになってしまうんですよね。 リセットされてしまう。だから、例えばせっかくアカウントを設定して、 よし、じゃあカメラで写真を撮って使うぞってなった時に、 もう一回最初のログイン画面から戻されちゃうから、 そこはちょっと嫌だなと思ったので、 一番最初のアプリを起動するところで カメラの起動を確認してねと。 そうすれば、それではいっていうふうに許可すれば、 最初の画面のうちにリセットが入って、 もう一回最初からログイン画面を操作することが できるというような感じですよね。 # 個人情報の扱い 最後に個人情報の扱いです。 子供たちの名前や学習状況などが保存されてしまうので、そこらへんは切り離すべきです。 クラウドにもブラウザにも保存されないように、 基本的には出席番号やクラスの名前などを入れないほうがいいのかな。 どこどこ小学校だとかというところも保存されないようにしておくのは大事なのかなと思います。 数値として扱うことで、それ自体が暗号の役割になってくるのかなと思います。 もし自分でもこういうアプリを作ってみたいという方がいらっしゃった場合は、出席番号で基本的に管理するというのは大事かなと思います。 あと出席番号を入れずに、データを取らずにどの子がどのように学習ができるかというところは特に別にいいから、 計算の練習だとか漢字の練習だとかをやらせたいだけであれば、そこまで神経質にならなくても大丈夫なのかなというところではありますね。 あとは、一回作ってみた後に点検作業というのは絶対必要かなと思います。 AIでの点検と人間での点検ですね。 AIに触らせてモーラ的にやってもらうというのは、人間だとすごい時間がかかっちゃうので、そこら辺はAIにやってもらい、 自分でも一回触ってみて、やっぱりAIの点検方法では見つからない点で結構あったりするので、そこら辺は人間で一回やってみてから子どもたちに配るというのは必要なのかなというふうに思います。 ではですね、次回はこのシリーズの最終回というところで、教科ごとにどういうふうな設計とか、教師としての意図を持ってアプリを作っていけるかというところをお話しできたらなと思っています。 さて、皆さん、本日の放送いかがでしたでしょうか。 月曜日、本日も気をつけていってらっしゃいませ。ありがとうございました。