# 創理公式サイトはこちら はい どうも こんにちは 村形です このチャンネルでは 今流行りのAIを使って 開発に経験からでもプログラミングを学ぼうというコンセプトで 開発の基礎知識や最新のAIツールについてお話ししていきます 最近ちょっとセキュリティ周りの話が この1ヶ月、2ヶ月ぐらい多いんですけれども ちょっとまたですね 1個気になる話題が流れてきたので その辺の話をしていこうかなと思います 僕の手元には 一昨日から昨日ぐらいに回ってきたんですけれども クロードコードですね クロードコードでやり取りしているときに 許可しますか どうですか みたいなのをしたときの 許可をするっていう操作をしたときに 情報が流出してしまう可能性があるみたいなですね そういう記事というか 記事とそれを引用したポストが Xで流れてきて ちょっとこの辺りの何が起きていて どうしたらいいのって話をしていこうかなというふうに思います これ紹介しているポストだと クロードコードに承認させたら危ないみたいな感じで言っててですね そんなやばいのかみたいな感じで見てみたんですけれども これは何かコマンドを実行するときって 特定のコマンドに対して実行を許可するかどうか 今後同じコマンドを実行してOKとするか そのコマンドは実行しちゃいけないよみたいな 三択のものが出てきます クロードコードとかコーデックス アンチグラビティあたりを触っている方は なんか承認のときにYesとYes and don't ask againみたいなやつと Noみたいな三択の選択肢が出てくることが多いかなと思いまして 特に最近で言うとオートモードってものを使うと 特に重要性というか 確認しないとまずいよねみたいな 外部のネットワークにつながるとか あとはファイルを削除するとか 別のファイルのものを操作するときに聞かれることがあったりするんですけど このはい 次回から確認しなくてもいいよみたいな 二つ目の選択肢ですね こちらを選んだときにどのコマンドを実行 許可したかっていうのが 設定ファイルに残るようになってまして この設定ファイルが残るというのが問題になっているっていうのが 発端というかクロードコードの使用的なところの 良くないところだよねっていう話ですね そのときの許可したコマンドの中に 例えばAPIキーと言われる秘密の鍵とか あとはログインのためのパスワードみたいなものが入っていたときに そのパスワードがそのままですね そのパスワード入りのコマンドが 手元に記録されているということになっていて 手元に保存されるだけだと特に問題がなくて この手元に保存した設定ファイルですね なんていう名前だったかな 設定ファイルをクロードセッティングJSONみたいな ファイルが手元で作られる 多分皆さんのお手元にも作られているかなと .cloudっていうフォルダの中にある settings.local.jsonとか settings.jsonみたいな そういうファイルの中に 過去許可したものが残っていくんですけれども この設定ファイルをGitですね Gitというセーブデータに残してしまって かつそれをインターネット上にアップロードして かつ人が見れる設定ですね GitHubというところに上げるんですけれども そのときにプライベートとパブリックっていう 二つの設定があるんですけれども そのパブリックに上げてしまったというときに 問題になるよねっていう感じなので 今回の問題でいうと まずAIにAPIキーとかパスワードが入ったコマンドを まず実行させているというのが一つと 二つ目にその実行した後の設定ファイルを Gitというところのセーブデータに 載せてしまっているということと さらにそのセーブデータをオンラインにアップロードした上に 誰でも見れる公開のリポジトリという設定にして 初めて問題になるという話なので これって仕組みを何となく理解している人が 操作するとですね たぶん一番最後のところのリポジトリというところで 僕のところでも結構よく言ってるんですけれども そこで別に公開にしていいことはないから 基本は非公開にしましょうねみたいな話とかも 結構してますし あとはその設定データみたいなのって そもそもセーブデータに含めなくていいので じゃあGit Ignoreというですね 除外ファイルに入れたらいいよねとかですね あとはそもそもパスワードを AIに実行させる時点で 僕は危険だと思っているので そういう人間がやるところと AIがやるところを しっかり分けましょうみたいなところをやっていれば 別に個人的には問題じゃないんじゃないかなみたいな そんな気がしたニュースでして なんでこれを見てですね クロードは何やってんだみたいな クロードアンソロピックか アンソロピックは何やってんだみたいなことを 言っているポストも見たような気もするんですけれども 別にAIにいろいろ任せるのはいいんですけれども 多分今回の内容がよく分からない人に関してで言うと AIにそこまでお願いしない方が 今後いいんじゃないかなというぐらいですね 結構基本的なところだと思うので ぜひ知っておいてほしいなという そんなところですね この内容でちょっと分かりましたでしょうか もう一度流れを説明しておくと 今回はクロードコードですね クロードコードですね が許可したコマンドっていうのを記憶する 記憶というか手元のファイルとしてですね 残してしまうっていう仕様がありまして なんでその手元で残したファイルっていうのは お手元のですね .cloudというフォルダの中の settings.local.jsonみたいな そういうファイルに残るようになっています そのファイルはそもそも セーブデータには別に入れても入れなくてもいい みたいな感じなんですけど もし入れてしまった場合ですね その設定ファイルもセーブデータに入って それを消えないようにするためには GitHubというですね オンライン上のセーブデータ置き場に アップロードするんですけど そのアップロードしたときに そもそもですね 自分用に作ったプログラムを公開する必要って 1ミリもないので その時点で非公開の設定でアップロードしておけば 全然良いというところなんですが そこで公開のところに上げてしまって そのニュースでは2000件ぐらいかな なんか流出がありましたみたいな そういうポストを 1994の中で 2539の異なるシークレットを発見しと いう感じで書いてますね っていうところで しかも影響を受けた組織はソフトウェア企業でした みたいなことが書いてあって せめてですね ソフトウェア企業がですね それぐらいの理解をしていないのは 結構危ないんじゃないかなというところもありますし そもそも 公開リポジトリというやつになってなければ 最悪そんなすぐ見れない状態だったと思いますし ちょっとですね もちろんクロードのアンソロピック側の設定も そういうふうにパスワードが残るようになってたのは よろしくないのは間違いないんですけれども とはいえですね この辺は予防策として 普段の行動で守れるところも非常に 多いのかなというふうに思うので やっぱりAIに情報とか権限を渡すときの リスクは知った上で もちろんやるなということではないんですけれども 渡したからには最悪 そのデータが流出したっても 自分で責任を取りましょうねとかですね あとはブラウザ操作とかさせるんだったら そのブラウザの中身はAIが読めちゃうので 何かあったときに もうAIに読ませてるという前提で 動く必要があると思うので その辺りは理解した上で AIにいろいろお願いするのも大事ですし あとは最低限ですね GitとかGitHubって概念としては めっちゃ難しいんですけれども セーブすることができるっていうのと セーブデータから除外できるファイルを 設定できるっていうのと あとは消えないようにするためには GitHubっていうところに アップロードしなきゃいけないんですけれども そのときに自分しか見れない設定っていうのも 全然ポチッとできるんで それだけでも知っておけば 全然今回の内容でいうと問題ないと思うので 昔ですね 余談になりますけど 非公開の設定にするのって 有料課金だけだったんですよ いつだったかな 10年はいかないけど 8年ぐらい前かな 月々いくら払わないと 非公開設定とかできなくて それの状態だったら お金が払いたくない人は 気をつけましょうねっていう そういう話をするところだったんですが 既に誰でも非公開設定は 無料でできるようになっているので 基本よほど 公開にしなければならない 理由がない限りは必ず 非公開の設定にするといいかなと思いますので そんなところで 今回はちょっとたまたま流れてきた セキュリティの話に関してですね 個人的には 何か問題があったとしても 自分の行動次第で守れるところが 多いかなと思いますので 今日話したあたりですね AIに何を自分がお願いしているのか どんな情報を渡しているのかってのを知って アップロードするときには 他の人が見れない設定っていうのが 全然できるので AIにちゃんとなっているかどうかっていうのを 理解するとか 確認する癖づけみたいなのは必要かなと いうふうに思いましたので 今日はそんな話をさせていただきました というようなところで いつだっけ 2週間後ぐらいに セキュリティに関する 無料のウェビナーをやろうと思ってまして 日程だけは決まっていて まだ全然準備してないんですけれども 26日の木曜日のお昼の12時から いつものコンサートのところの 無料ウェビナーをやる予定で その頃に間に合えば Brainかな セキュリティのちょっとした教材みたいなの そんなに大々的に 前のAI時代の開発の教科書ってのを 以前出したんですけれども あのときは順を追って ぜひこの順番で覚えてほしいみたいな感じで めっちゃ考えて作ったんですけれども もちろん今回もめっちゃ考えて作るんですが 割と前の教材は順を追って 一つずつ前のやつができたから これができるよねみたいな感じで すごい組み立てながら作ったんですけど 今回の内容でいうと 最近起きている事例をいくつか集めて こういうところに気をつけましょうねみたいな ケースごとにみたいな感じで紹介する 形の教材になるかなと思うので 前よりは多分金額としては お安く出すのかなというところと 総理の買い切りメンバーですね 9月までに入った方に関しては 同じ内容をどこかの教材のページにですね 見れるようにすると思いますので コミュニティメンバーさんは 特にコミュニティ内で見ていただければ という感じでございます そんな感じで ちょっとセキュリティが今騒がれておりますが いろいろですね 最近の事例などを交えて この音声配信なりXなりで また注意喚起を引き続きやっていこうかな というふうに思っておりますので どうぞよろしくお願いします ということで今回のお話は以上になります 本日もお聞きくださいまして ありがとうございました