# ディープフェイクで40億円の詐欺に？ 皆さんこんにちは、編集者日野直美の枯沢ノート放送を始めます。 この番組は、編集者である私が四季折々の枯沢の様子や、 編集者の視点を通して日々感じていること、発見したこと、 心を震わされたことを皆さんと共有するVoicyです。 はい、ということで皆さん大変大変ご無沙汰しております。 6月18日火曜のお昼にこちらを配信しております。 いかがお過ごしでしょうか。 なんかね、今日は東京というのかな、東京というか日本列島の太平洋側は結構な雨のようでして、 軽井沢もですね、朝から、朝からというか昨日の夜ぐらいからかな、結構雨が降っておりましたね。 これから西日本が、午前中かな、午前中が西日本が大雨のピークになって、 その後関東にもやってくるということなので、 結構な気温も大幅に下がるし、雨も結構降りますということなので、 これぐらい皆さんも気をつけてくださいませ。 ここからはこういう季節になりますよね。 はい、梅雨かななんて、今年は梅雨よりがすごく遅いと言われておりますけれども、 そろそろ梅雨なのかななんていう環境でございます。 はい、毎週火曜はですね、もうすっかり忘れてしまっていたかもしれないんですけれども、 気になるニュースということで、その時々の気になるニュースを、 私の方でご紹介させていただくという内容になります。 これは少し前なんですけれども、日経新聞に載っていて、 6月10日の日経新聞の長官に載っていたんですよね。 FT、ファイナンシャルタイムズの記事で、これ面白いなと思ったのが、 テレビ会議でAI技術でナリスマッシュをして、 イギリスの企業は40億円の詐欺の被害に遭ったという風な記事が出ていたんですよね。 詳しく説明しますと、イギリスのエンジニアリング大手の会社が、 人工知能で偽画像を作る、いわゆるディープフェイクというのを使った詐欺被害に遭って、 2億香港ドル、大体日本円にして40億円を失ったということが分かったということで、 実際にリアルであったというわけではないんですけれども、 偽のテレビ会議で役員になりすましたデジタルクローンに資金の移動を命じられたということで、 ディープフェイクによる詐欺の事件として世界最大級になるんじゃないかということで、 記事になっておりました。すごいですよね。 今日のボイシーのハッシュタグテーマが、生成AIを使ってみたということで、 生成AI、私自身もチャットGTPはすごく愛用しております。 特に最先端の最新の4Oのモデルになってからとても優秀で、 私自身の問い方が慣れてきたというのもあって、いいなと思っておりますので、 結構重宝しているんですけれども、一方でやっぱりこういうのあるよなというのは、 いつか生まれるというか、早々に出てきたんだなという感じの記事ですよね。 これまでにも政府とか企業を標的にしたディープフェイクの詐欺の脅威というのは、 浮き彫りに今回の事件でなったわけなんですけれども、 そういったものもついに出てきたということだと思うんですけれども、 金額がどうしても大きいので、最初に標的になるのはどうしたって政府とか企業とかそういうところなのかなとは思います。 この事件は本当にすごくて、標的となった社員が英国本社のCFOを名乗る人物から、 極秘の送金に関するメッセージを受け取ったということで、 CFOになりすましたデジタルクローンと同じくクローン化された他の社員がテレビ会議に参加したと、 つまりこのイギリスのエンジニアリング大手のアラップという会社の中で、 これ多分だから香港拠点なのかな、香港に通報しているということは、 オンラインか何かで本国のCFOから、CFO&その周りにいる社員から資金を移すようにと言われたということだと思うんですよね。 香港にある5つの銀行口座に合計15回振り込んだというふうに記事の中では書かれています。 社内で起こったことなんですね。 そうしたら実際には、このCFOというのがディープフェイクで作られたものであり、その周りの社員もそうだったということで、 結構怖いし、そんなにすぐできちゃうんだなって思う一方で、 例えばCFOだったり、お金回りの人だとIRの説明でも出てきますよね。 つまりディープフェイクの元となるような学習素材としても、デジタル上に結構痕跡が残ってたりするわけですよね。 これ結構怖いなと思ったのが、これからいくつかの詐欺が起こり得るなと思ったんですよね。 特にまずは企業とか政府とか、すごくお金を持っているところが狙われるんだろうなとは思うんですけれども、 一方でこのディープフェイクというものがどんどん浸透していくというか、 より一般の方も使いやすい技術になってくると、こういったものが今後はもっと身近なところで起こってしまうんじゃないかなと思いました。 2つまず私が考えたのが、これ危ないなと思ったのが、1つはロマンス詐欺ですよね。 もう1つがオレオレ詐欺ですよね。 それこそデジタル上にどんどん自分の痕跡を残していけばいくほど、 それを学習データとして、どんどんディープフェイクの元となるものが作られてしまいますからね。 オレオレでもロマンス詐欺でもないですけれども、今は著名人の詐欺が流行っていますよね。 自分の偽物ですよね。 例えば、糸井重里さんとかも、この前お会いした時にやっぱり苦眠されていらっしゃったというか、 糸井さんなんて絶対やるわけがないような、株のサロンみたいなものをやりますみたいな形で人を集めて、詐欺に向かっていくとかね。 堀江さんとかでもあったんじゃないのかな。堀江貴文さんとかね。 結構顔が売れてて、電子媒体にすごく出てる方で、かつ影響力があって、いかにも情報通貨でやってそうな人みたいなのも含めてですね。 その人たちが詐欺の題材に使われるっていうことが、これから増えてくるわけですね。 今はまだその二次元上っていうか、多分その人たちの映像とか動いてないんですけれども、 これがディープフェイクになっていくと、どんどんどんどん動いていくっていうのが、まず最初に起こってくるのかなぁなんて思いました。 その次がもっと降りてきてですね、一般の人ですよね。 のディープフェイクを作っていくっていう意味では、オレオレ詐欺とかロマンス詐欺みたいなものも、今までだとテキストベースのやりとりですよね。 私この新書でですね、この国際ロマンス詐欺っていう本があって、これ面白いっていうので、このボイシーでもいつか紹介したと思うんですけれども、これいつ出てるのかな。 2023年6月、ちょうど1年前かに出たルポ国際ロマンス詐欺っていう本が、まさくって読めてすごく面白かったんですけど、 水谷竹比さんという方がね、ジャーナリストの方が書かれた本ですね。 実際このロマンス詐欺ってすごく日本でも被害額が増えてたりするんだけれども、そういったもののですね、詐欺犯がどこに行くのかっていうのを、 この水谷さんがですね、探し当てていったら、なんとナイジェリアにたどり着いたという、ナイジェリアで詐欺犯に直撃したという話があって、面白いなと思うんですけれども、 つまりね、私たちの手元に届くもの、特に私の場合だと、外国人、アジア人が最近多いんですけれども、 香港とか韓国育ちの、アメリカで修士だかまで収めた、国際的に活躍する企業、実業家だとか医者だとかからメッセージが届くわけですよね。 お前誰だよっていう感じで思うんだけれども、それにうっかり騙されてしまう人もたくさんいるわけで、 このルポ国際ロマンス詐欺の中ではですね、たかだかこのメッセージをやり始めて、1週間だか2週間でどんどん騙されていって、 本当に結構高額をですね、振り込んでいくっていうことが起こってるんですよね。 っていうのを書いてます。結構、騙された人にも取材をしていて、それについてもですね、書かれてますね。 それをですね、これディープフェイクとかになると、このルポ国際ロマンス詐欺で面白いなと思ったのは、 とはいえまだね、騙されてる方はやっぱり騙してる方、騙してる方というか、お付き合いをしてると思い込んでる相手に対してですね、 テキストメッセージだけじゃなくて、声でやりとりをしたいって言うんですよね。 で、向こうは本当に例えば、 # ロマンス詐欺とかオレオレ詐欺に広がるかも？ はい、すいません。チャプターが終わってしまいましたね。 あるんですよね。 ここのルポ・コックサイロマンス詐欺のところで書かれていたのは、 詐欺の被害者が男性で、 詐欺をしているのが女性の金髪の綺麗なお姉さんみたいな感じなんですけれども、 その彼女と騙されているおじさんというのは、 テキストのメッセージのエルトレーだけじゃなくて、 話したいとか顔が見たいとか、 顔が見たいと言っても一方的に写真とか送られてくるようなんだけれども、 顔を見て話をしたいとなるわけじゃないですか。 その時に、一度電話もしたんですって。 お金を振り込む前に一度話をさせてくれということで。 でもなんか電波が悪いの?みたいな感じで、 結構謎の女の人がちょっと喋ってプツッと切れるみたいなことがあったらしいんですよね。 これを書いた水谷さんという人は、 友達か何かに頼んでちょっと恋人のフリをするようなことをしてもらえないかと言ったんじゃないかと、 詐欺犯の方が。 なんだけれども話が深くなると、 いろんなところからボロが出てくるので、 電波が悪いって言ってすぐに切ったんじゃないかみたいなことがあったんだけれども、 それって基本的にはやっぱり、 まだテクノロジーが進歩していないというわけじゃないですか。 でもこれが本当にディープフェイクで、 それこそ国際ロマンス詐欺とかになれば、 オレオレであればまだ息子だったり娘だったりということがあるんでしょうけれども、 もはや国際ロマンス詐欺とかになってくると、 実在していない人物でもいいわけですよね。 そういった人と画面越しに会えたりだとかしてくるという風になってくると、 その裏側にはナイジェリアの黒人の男性がいるのかもしれない。 それも面白かったのが、ナイジェリアの大学生のバイト代みたいな感じで、 ロマンス詐欺が流行ってるっていうことを書いてあって、 なんとっていう感じだったんですけれども、 そういったものが、もっとディープフェイクとかを使うようになってしまうと、 簡単にできてくるんだろうなっていうのは想像に固くないなと思いました。 その時に、騙されてはいるんでしょうけれども、 それって本当にリアルに、昔からあるよく、 普通の生身の人間の結婚詐欺とそんなに変わってこないんじゃないかなという感じはしますよね。 遠距離恋愛で普通に恋愛をしている男女だって、 もしかしたら年に一回リアルに会ってるのかもしれないけれども、 画面越しに愛を育んでるというパターンもあるわけじゃないですか。 そうなってくると、どこからどこまでが現実で、 どこからどこまでがサイバー詐欺なのかっていうものって、 どんどん分からなくなってくるんだろうなっていうのを感じました。 ということで、とはいえこのニュース、FTの書いてるニュースはすごく面白くて、 これ社内で起こってるんですよね。 ここのアラップという会社の社内でグローバルに展開する中で、 CFOからの連絡があるというか、 オンライン会議の向こうの画面上ではCFOであたりだとか、 同じくクローン化されたその他の社員とともにテレビ会議に参加したわけですよね。 それでお金をここに振り込みなさいと言われたっていうふうになってくると、 ちょっと抗いようがないというか、どうすればいいのっていう感じになってきますよね。 はい、ということで、未来を先取りするような実験、 実際にリアルで起こっているわけなんですけれども、 だなぁということを感じましたので、 今日はこのお話をさせていただきました。 どうしたってテクノロジーが進化していく中で、 光と影という部分は向き合わなきゃいけないし、 その中での倫理観であたりだとか、 私たちの対抗措置を騙されないようにするためにはどうするか、 みたいなところも含めてやっぱり考えていかなきゃいけないかなとは思うんですけれども、 一つそれを考えるためのいい題材かなとも思いましたので、 シェアをさせていただきました。 今日は一日かなりお天気が悪くて、 それも寒いということなので、 皆さんどうかね、 軽さもちょっと寒いんですけれども、 気をつけていきたいなと思います。 午後も頑張っていきましょう。