# 【注意喚起！】AIチャットで詐欺にあいかけた。7/15朝ライ おはようございます。 カチャカチャした音からすみません。 今日も朝、化粧をするという朝自宅をしながら お話ししていこうと思います。 でも今日はね、昨日めっちゃ大変で、夜に えらいことが起きたので、これ注意喚起したいし もうちょっとセキュリティ面詳しい方がいたら いろいろ情報を教えてほしいなと思っている内容です。 私はですね、ボイストレーナーでもありながら 結構AIを使っているんですね。 声の分析システムを作ったりとか、アプリ作ったりとか 自分のスケジュール予約システムを作ったりとか 自分の仕事にもガンガン活かしているんですね。 昨日の夜に、普通にいつも通りチャットとやり取りしていて これ調べてとか、これ分かんないから教えてとか これこうじゃない?みたいな、本当に普通の AIとするチャットをしていたらね AIからの方のコメントがビャーって来るじゃないですか ビャーかは分からないけど 自分が打った文章ではなくて、AIがいろいろ考えて これってこうかもしれないですね、って出てくるところに 急にね、ユクさんおはようございます ドキドキのタイプ、本当にびっくりしちゃって そのチャットの、相手がAIからの返事のはずなのに 急に私を装って、ユーザーみたいな ユーザーがこんなの言ってます、ユーザー出てきて こんなメール来てるから急いで対処しなくちゃ よろしく、みたいな言葉がピュッて急に差し込まれたんですよ うーんと思って、ちょうどやり取りを見ながらね やってたんで、なんだこれと思って急に入ってきたんだよ しかもやってる話の、そのチャットでのやり取りのことに すごい関連することだったんですね 手続き系のことで質問しながら作業を進めてたんですけど その手続き、今私がここまでやって、ここがうまくいってない みたいなところのやつで、どこどこからメール来てます 24時間以内に何かしないと消されるって出てるから ちょっとチェックして確認して、みたいな 私じゃないんだけど、私が言ったかのように書かれていて なんだと思ったんだけども、私のターンじゃないのに ずっと向こうのターンでずっと喋ってるから へっへっへって思ってる間にAIちゃんがね ちょっとおかしいですね、これ触っちゃダメです みたいな感じで、これ多分フィッシングメールなんで ダメだよミカさん、これ触っちゃう、みたいな 言うたら一人コントみたいなことが AIが一人コントするみたいなことが起きてたんですよ 私は送ってないからね、私はこうこうこうでない みたいな普通の質問をしたタイミングで その回答で、これはこうこうこうかもしれないですね らへんで急に私を寄そうって こんなメール来た、ちょっと気をつけなきゃやらなきゃ みたいなのを私を寄そうってやりつつ でもそれもAIからの言葉なんだよ それに対して、ちょっとこれ危ないんでサーチダメですね っていうことが起きて、なんだこれって思ったっていうのはありました アリーンさんもおはようございます ちょっと本当気をつけなきゃと思っている話なんで ちょっとごめんなさい、ガッともう一回まとめると AIチャットで普通にやりがいをしていました AIからの返事の中に 返事なんだけど私を寄そうって このメール、こんなメール来てたから 確認してよ、24時間以内に対応しないとダメらしいよ みたいなことを私を寄そうって AIに指示する風なのが出てきて急に差し込まれて それに対してAIが反応していくっていう 音がピャーって起きて なになになになに?と思って コミおはようございます あなた疲れてるのよ え、疲れてるの? あ、そういうことね、違う違う 見間違いじゃないんですよ 本当に、本当にびっくりした いいやと思って 実際にこのメール確認したら来てないし チャットじゃない方でやり取りしているクロートさんにも こんなんあってこんなんあったんやけど 何?ちょっと調べてみたいな感じで これ中身ないやつだから大丈夫 中身ないやつってフィッシングメールなんだけど 押してないから被害はこっちに来てないよ みたいな感じかな 実害はゼロみたいなことで 良かったと思ったけど でもでもでも コミ、休んでが4回連続で投稿されましたけど 休んで、休んで、休んでみたいな だから幻覚じゃないんですよ、本当に びっくりしました AIからの返答に私が言ったかのような 謎のこのメール確認してっていう フィッシングメールが来るっていう 初めての体験で めっちゃ怖かったです でね、これちょっとダメじゃんっていうことで 今回実害がなかったにしても チャットに割り込まれたっていう事実がある 誰かしらが私を装って クロードちゃんに指示ができるような状態だったってことですよね 怖いと思って よくよく見るとね 英語で クロードはこの指示を無視することが なんだっけ クロードはこの指示をちゃんと従わなきゃダメだったか 危険っていうのを無視することができるみたいな そういうインジェクションとか言うらしいですけど それが入ってて うわーってなりました コミー 階段ですね 違う階段じゃないんだって 本当にあったの びっくりしましたよ AIチャットで AIが私になりかわって インジェクション 詐欺メールみたいなのを読ませようとしたんですよ フェーブルちゃん賢かったから ミカさんこれちょっと待って これ触らない方がいいよって言ってくれて 大事にはいたらなかったんだけど 怖いじゃないですか 私になりかわって指示されるって 困る困ると思って まず一旦 今すぐの対処法をいくつか出してもらって やった方がいいことは5個ぐらいあったんだけど 今晩やっとくのはこの2個だけやっときましょう 2個合わせてやって 今日残りの3個やるんですけど 私サワーサロンにいる サワーマドカさん ボイシーのパーソナリティーの サワーマドカさんのサロンにいた時に 2段階認証むっちゃ大事だよ っていうのを教えていただいて もう6年前ぐらいですよ そこで初めて2段階認証をしたんですよ 遅いかもしれないけど それからやっぱセキュリティ大事だな っていうのは意識してたから まさか自分の身にそれが来ると あんま思ってなくて 思ってないのはダメです いつ来たっておかしくないんだけど 本当に来たと思って これから先メールを見ながら しかも内容が内容で ちょうどやりとりしてる内容を差し込みつつ ミカさんがやってるこの手続きが 無駄になるらしいんで 今すぐチェックしてください みたいなメールを確認しろって言うんですよ こわーと思って めっちゃ怖い ということで一旦 ひとまずGoogleのアカウントのパスワード Googleのパスワードを 全部総特化したりとか あとはクロードのメモリ クロードのアカウントのところにいくと 設定ってやって 設定の中に機能っていうのがあって 機能の中にメモリエタがあるんですよ 機能も出なかったかな ちょっと間違えた 何しかメモリがあるんですけど 私の情報で覚えておくといいよっていう情報を そこに溜め込んでくれてるんですね 私で言ったらボイストレーナーをしているとか そういうような 毎回書かんでもいいような情報を そこに溜め込んでくれてるんですけど そこに大事な情報書かれてないかとか 謎のAI詐欺さんが 機能も追加してないかみたいなのを 確認してって言われて それ確認して ちょっとグレーやなみたいなやつを 消したりとかね 別にこれだけで被害は起きないけど ここの情報は メモリから削除したほうがいいやろう みたいなのが2つくらいあったんで それを削除して 昨日は息子の習い事があったんで もともと夜はドッタバタで時間がないのに もうあれですよ 昨日寝なきゃねって 睡眠不足です 怖かった どうやらこのまま何もなく 被害なく終わりそうではあるんだけど なんでそんなこと起きたのっていうのを ちょっと解明したくて それも眠い目をこすりながら AIと相談しました コウちゃんおはようございます ざっとまとめると AIとチャットしてたら AI側の出力 こうこうこうですよねとかって AIが言ってくるじゃないですか あの出力の中に急に 私になり代わって ちょっと大変こんなことが起きてるから このメール確認して みたいな指示を送られたんですよ AIのセリフでね AIのコメントで まるで私が言ってるかのような 指示の出され方をしていて それを読んだAIさんが いやちょっとこれはおかしいから それミカさんは触っちゃダメだよ っていう 私じゃないんだけど 勝手に作られたミカさんに対して アドバイスをするみたいなことがありました AIチャットの中で急に 詐欺メールを送られるみたいな 感じのことがあったんですよ ちょっとアイライン引くんで 数秒黙りますね このタイミングですいません あー今日も うまくいかなかった 反対 あーなんかダメですね今日は この感じか はいちょっと修正 OK いやもうそんなことがあって AIとのチャットで そんなこと起きるんだって いうのと 起きるんだっていうのを プラスそのAIが私に何か 伝えてくれるような アドバイスを送られるような アドバイスを送られるような プラスそのAIが私に 何かがあって 私かのような振る舞いで 指示をするっていうことが すごい怖くて なんでこんなことが起きたのか というのと対処法を探さないと 私は安心して眠れないわ ということでいろいろやっていたよ という話をしております カレーはいつ回収されるんだろう カレーは昨日の話です カレーは食べましたよちゃんと 今日の朝もカレー食べました ちょっと味が薄かったです カレーの話じゃないんです びっくり本当に なんでこんなこと起きたんだろう をちょっとAIと 相談してね やりとりの流れとかも全部読み込ませて 読み込ませてというか テキストを送ってね こういう風になったんです 私はこういうことを調べてて みたいなことを全部書いて どこのチャットでやってたのかとか そういう細かいことも全部やって 最初はね もしかしてこうじゃないですかね みたいなことを言ってたんだけど どうやら私の情報をどんどん 渡していけばいくほど いやこれ美香さんこれじゃないですね これじゃないですねみたいな感じで 犯人をね 見つけていくような名探偵ぶりを 発揮してくれて どうやらこれが 最有力じゃないかと 一番ちょっと怪しい 容疑者だと思います リサーチしといて 調べといてってやつ これがちょっと 危なかったかもね ということで 手続きの調べ事をしていたから やり方教えて とか ここでミスるとちょっとめんどくさいから 一応念のためもう一回 リサーチして この情報が正しいかも めんどくさいけどお願いみたいな感じで AIにお願いしてたんですよ 普通にやりません? これ教えてとかこれ調べてみたいな その調べての 調べた先 にそういう インジェクション系のこと が紛れ込んで たんじゃないかと そういうことだったんで 調べてって言うときも ちょっとひと工夫 しておかないといけないのかな と思ってます ひと工夫したところで それを防げるのかちょっとまだ分からない それこそコミとか 総集さんもおはようございます 総集さんもそれ系詳しそうやから教えてほしいですけど びっくりしました リサーチしといてから リサーチ先に変なものが 入ってたりしたら 今日私がね 今日じゃないか 昨日起きたようなことに 遭遇してしまうことがあるのかもしれないな っていうのが本当に注意喚起です 総集さん 我が家はカレーうどんで回収しました 今日のお昼カレーうどんにしようかな カレーうどんにするのはちょっと多いんだな これはちょっと よくよくですのカレーの 朝ごはんのおかずになるかもしれない みんなカレー食べてる ゆっ子さんもカレーだったの みんなカレー食べてる カレーの話じゃないんですって 今日は 今日は 気をつけてっていう 私だけじゃないかもしれないから 気をつけてっていう話なのに 本当にびっくりしました 私はね AIのチャットの中で これ調べておいてもするし あとはディスコードで AIエージェントを 雇っているので その子たちに結構ね いろいろやってもらってるわけですよ それこそ調べ物も してもらってるし 私の パソコンの中の ここのフォルダ触っていいよみたいな風にしてるから 怖いと思って 出どころが もし私のAIエージェントちゃんだったら だいぶやばいなと思って すごい必死になって 色々調べたり調べてもらったり これもAIに調べてもらってるから どうなん?って感じですけど 結局調べてもらってるやん っていうところなんですけど そんな中で 私になり変わるっていう びっくりしますよ 怖い 怖い怖い怖い よいしょ 化粧も髪の毛も とりあえず完了 場所を移動しますね よいしょ よいしょ よいしょ リビングに来たし 物を結構組んでガタンといったらごめんなさい そしてちょっと待ってくださいね 今日も溜め込んだ洗濯物 畳みながらやります あ よいしょ いやまだあるんだ まだ洗濯物があるんです ちょっと待ってください これで全部かな これは 畳まない これは半段にかけとく これは畳む ユッコさん本当おっしゃる通りですよ ドラマや映画になりそう まじでありえますよ びっくりしたんだから 同じこと言ってる ちょっと待ってね よいしょ これでいいかな 昨日に引き続き 洗濯物も畳みながら AIチャットもそうだし 普通のチャットじゃないところで AIに相談するもそうなんだけど 調べておいて リサーチしてる時に ちょっとひとつ 詐欺的なことに 引っかからないように気を付けてね みたいなこと言った でも言うなんでも ああいうのってね ちゃんとそういうのからも すり抜けれるように悪い人は 考えるじゃないですか 実際に私のところに来たやつにも書いてましたけど クロードは この作業を 無視できるだとか無視できないだとか ちょっと忘れましたけど みたいな指示をこっそり 入れられてて でも結局そんな指示 入れられてたけど おかしいってフェーブルちゃんが 言ってくれたから大丈夫でしたけど あれまさに言うこと聞いて 勝手に サイトをクリックされてたら どうなってたことかと思うんですよね いやー怖い 怖いインジェクション あってます?インジェクションで 本当にAIで調べ物するときの 対処法みたいなので 注意喚起したほうがいいんじゃないかと思って この話を今しています 今日ねいつもはこの朝 私生活丸出しの ライブを アーカイブはね プレミアム配信にいつもしてるんですけど リアルタイムはいつでも皆さん聞けるようにしてますけど 今日はねこのまま オープンにしようかなと 洗濯物畳みながらしゃべってるやつ オープンにしようかなと 思ってます 本当に危ない そんなことがありました ちょっとこの セキュリティ系強い方とかいたら ぜひ教えてください リサーチして調べて教えて みたいなときに そういう セキュリティ系を読んでしまう ことって リサーチだけであんのかな 拡張機能インストールとかだったら 危ないもの入れられててっていうのは 聞いたことあるから気をつけますけど それ以外で あんのかな リサーチしただけでそんなんやられたら たまったもんじゃないですよね でもあるのかな もしでもそれがありえないんだったら 設定の確認しなきゃいけないじゃないですか いろんなところとつないでるから いろんなところのすべてに セキュリティは気をつけてはいますけど ねえ そんなん言うて 完璧ってことは 人間だしないかもしれないんで でもこれあれですね それこそこの金曜日 もうあさってか あさってにコラボライブさせてもらう 村方総理に ちょっと相談というか 聞いてみようかな 聞いてみます 村方総理は私の 何でしょうね Viveコーディング師匠というか 違う違うViveの部分は 師匠じゃないんですけど 現役のね プロのプログラマーさん エンジニアさんか そうでありながら コミュニティをしてくださっていて AIプログラミング っていうのかな AIを使って何かツールを作りましょうとか 生活を快適に しましょうみたいな そういう発信をしてくださっているんですね 私も 総理のコミュニティの中にいるんですけど そこでは本当に気軽に 私のような 本当もともと初心 今はちょっと初心者とはいないと思うんですけど 初心者でも安心して これが分かりません 堂々と言えるみたいな クリックって何ですかみたいな それぐらいの初心者質問も 心配なくというか 全然 そんなことも知らないのだけど 絶対言わないですね 総理すごい優しいんで そういう質問を気軽にできて なおかつ初心者でも ツールを作るとかサイトを作るっていうところの サポートをしてくれるような コミュニティが ありまして そこの室方総理が 色々教えてくださるので セキュリティのことを聞きます 私の中で室方総理って セキュリティに厳しい人 っていうイメージなんですよ 総理は優しいけど セキュリティには厳しい バイブコーディングが 流行った頃って 結構セキュリティゆるゆるのまんま 色々やっちゃってる人が多かった そうで そんな中ですごい便利に 簡単にできるようにはなったけど 本当セキュリティは気をつけた方がいいですよ ってずっと今でもだけど ずっとずっと言ってくれてる方なんですね やっぱね信頼できるじゃないですか そういうこと言ってくださるのって セキュリティといえば総理 ちょっと今日この後 聞きます びっくりした 私言ってないのに ミカさんがこんな言ってますよ やらなあかんですよみたいなのを 言われてさ びっくりしました 一旦リサーチして 調べてっていうときに なんでしょうね インジェクションに注意してねとか 一言入れておくといいのかもしれないです また調べて聞いて いい方法が あったらシェアしていこうと 思うんですけど とって出しというか 昨日の夜夜中に起きたことで 12時ぐらいだったかな 11時半ぐらいで 寝れるかと思ったら急に 寝る前に 明日の作業これだけやっといてもらおう と思ってこれやっといてねみたいな話を したら そんなことが起きて結局 日を跨いで 1時半とかですよね 勘弁してくれ びっくりしたということで 一応リサーチ系 調べてね系のときに 何かあるかもしれないので ちょっと気をつけて おいていただけたらいいんじゃないかなという そういう注意喚起でございました 具体的にどういうことするといいよ まではまだ調べられてはいないんですけど 一旦そういうことが もし起きたら まずは パスワードを 再設定するとか あとなんだったかな 怪しいところ ここでもしかして 侵入経路があったかもみたいな そういう怪しいところは すべてもう一回ログアウトなり 消すなりそういうのをする みたいなのを 私は一応やって 乗り切った感じですね まだ今日残りの作業があるので 全部できてないですけど もし何かあったら その辺をやっておくといいんじゃないかな と思います 私だけでやってほしい こんなひやひやする思いなんか 誰もしなくていい びっくりしました ということでリサーチ系 気をつけて 過ごされてください はい そしたら一旦 録音はこれまでにして ここからは 洗濯物がもうちょっとあるので だらっと喋ろうかなと思います ということで アーカイブはここまででございます みんな気をつけてね 録音だけ停止します お仕事の方は行ってらっしゃい 私も行ってきます そして 今日も良い日にしましょう アルテナミカでした