TOPエンタメ音楽洛中日記ボイスクローニング技術がオレオレ詐欺を助長する話。08:45 2024年4月3日 60再生 問題を報告する 再生する シェアする ボイスクローニングは、高度なアルゴリズムと音声合成を使用して、人の声のデジタル複製を作成する最新技術です。この技術によって新たな危険が生まれる話をしました。とりわけオレオレ詐欺に使われる点には要注意。AI目次ボイスクローニング技術の進化と可能性AI音声合成で実現する声のクローンオレオレ詐欺への悪用リスクとは?感情まで再現する最新技術の衝撃未来の音声世界と倫理的な課題AI文字起こし(β版) # チャプター 1 みなさんこんにちは。音楽家で作曲家…違うわ。作曲家で大学教員の小松正文ですね。 はい、ということで、今日はですね、ちょっと専門的な話をしたいなと思って撮っております。 えっと、ボイスクローニングっていう言葉があって、クローン人間とかね、同じ遺伝子を持った人間が複数作られて、 これはいかがなものかという倫理的な話もありますけれども、それが声で合成ができるという、これAIとかね、合成機能を使っているわけなんですけど、 それについてね、今日話してみたいなと思っております。それでですね、ちょっとこの音を聞いてほしいんですよ。 これは合成の音なんですけれども、聞いてみてください。 いかがですかね。これね、合成なんですよ。これがボイスクローンの技術なんですけども、このボイスクローニングっていうのは、高度なアルゴリズムと音声合成を使用しまして、 人の声のデジタル複製を作成する最新の技術なんですね。これ、俳優さんとか声優さんとか、特定の人の声をですね、まずはビッグデータとして音声データということでインプットするんですね。 そこから新しい文脈でもってセリフを喋らせるわけなんですけれども、これね、元の声とほとんど区別がつかないということで、これどんなテキストでもどんな言語でも使えるというような、そういう技術なんですね。 これがすごくどんどん開発されていくと、例えばハリウッド映画の特定の声優さんの声を使って、例えば後で合成するとか、アニメーションの声優にも使われるとか、ものすごくいろんな汎用性があると思うんですね。 いいところばかりの話をしてるんですけど、これで僕まず思ったのが、オレオレ詐欺に使えるんじゃないかなと思うんですよね。これいろいろなところで、例えば今ってオレオレ詐欺って、犯罪者の上等手段として電話を使ってどんどんおびき寄せるといいますかね、かなり精神的に追い詰めさせて振り込みをさせるみたいな手法がありますけど、 最近よくそういうのが言われてるから、用心しますよね。よくよく聞くと、電話の声って結構周波数属性が限られた中で使われてしまってるので、くぐもった声、あえてくぐもらせてるところがあるんですがね、それで聞いているので、より分かりづらいっていうところはあるけれども、不自然ですよね。 例えば自分の息子が働いてて何か失敗してお金振り込めみたいなことになったとしても、それは文脈的にも冷静に聞けたら、それでそこで電話を切るとか、警察に言うとかっていうことで防止ができるとは思うんですけど、声がちょっと難儀なんですよね。 これ自分の声とか息子の声とか子供の声、家族の声をサンプリングして、それでビッグデータにして、そして声を新しく合成させていくと、分かんないですよね。これ本当に息子の声だとか、これはっていうような。 今思ったんですけど、僕ボイシーでめちゃくちゃ声を録音してるじゃないですか。もう1500回とか3年ぐらいすると、僕の声でビッグデータとして使えるよ。危ないよね、これ。僕が一番家族は騙されるんじゃないかみたいなことはあるかもしれないですけど。 これぐらいボイスクローニング、クローンはかなり現実的に使えていくという。先ほど外国人、英語のボイスクローニングで合成された音を聞いていただきましたけれども、これ無料のアプリでできるんですよ。怖くないですか。無料でこれできるっていう、すごくそれが危ないということなんですけども。 これボイスクローニングのプロセスを改めて伝えていきますと、まずはキャプチャーボイスデータということで、これは様々な録音されたもののデータをまずはインプットしてビッグデータを作るということですね。そして2番目にAIアルゴリズムというAIの機能によって、声の解析なんですよね。 解析のパターンとか、いろいろなやり方があるんですけど、特に僕びっくりしたのは、感情的な声の変化ってあるでしょ。楽しいときに喋っていくみたいなと、悲しいよね。本当に悲しいんだみたいな。そういう感情的なパラメーターも入れて、声って今、ほとんど作れる状態になっているわけなんですけど。 そういうことも含めて、様々な条件に応じてインプットされたビッグデータの中から声の特性を抽出していくっていうのが、第2段階のAIアルゴリズムってやつなんですよね。そして3番目にスピーチシンセサイズということで、実際に声の状態をシンセサイズで合成していくっていうことなんですよね。 例えば、今日は朝起きて、そしてスーパーに行って買い物をしてみたいな、そういうテキストを読み込ませて合成するというシンセサイズなので、合成をしていくっていうことがあるんですね。そしてその合成された音に対して、さらに磨きをかけるということで4番目の処理です。 ボイスクローンクリエーションという、本当にこれを一言で言うならば、すごく自然な発声状態にしていくっていう、そういう感じなんですね。良いふうに使っていけたら、例えば亡くなった人の声をもう一度再現していきたいっていうような、これは録音したデータがないと難しいので、聖徳太子とか織田信長みたいな声は無理なんですけど、 録音されたもののデータが多数あったとしたら、少なくとも小松の声はかなり録音しているので、合成できると思います、ある程度。そういうのを使って、今亡き人、あるいはちょっと声を使って表現をしてみたいなっていう場合の活用としては、ポジティブな使われ方なんですね。 そして、今日は冒頭で伝えたネガティブな使い方としては、オレオレ詐欺に使える。他にももっと犯罪的に使えるやり方ってあるんじゃないですかね。オレオレ詐欺しか思いつかなかったよね。他にあるかな。他にあったかな。 これはとはいえ、電話口で応対しながらリアルタイムでやり取りは難しいですからね。いきなり息子の声だ、今どこにいるんですかとかって言った場合、すぐに合成できないですからね。これAIのきっついところというか、人間に及ばないところは即座に返答というか、新しく作れないということです。 何にしても時間がかかったりするという、即反応という処理がまだまだ極めて難しいというのが、AIの欠点というか、今から改善すべきところだと思うんですけれども。 このボイスクローニングによって、声、音の世界でAI実際に使われるようになると、より何か感情に訴えかけるコンテンツも作れることができるし、そこから倫理的な話もどんどん出てくると思うので、とりあえず技術だけはある程度、もうここにセッティングされたっていうね、そういう怖い状況ではあるけれどもね。 さあ、あなたはどんなふうに使っていきますかということで、ボイスクローニングのね、そんなお話をしてみました。それでは、今日もおとのよい一日をお過ごしください。 もっと見る #音響 #オレオレ詐欺 #音声合成技術 洛中日記プレミアム放送配信中!08:451.チャプター 1コメント感想・質問・応援メッセージを書こう
AIに書かせず、検索させた──2600回分の音声配信から新書の第1稿 17分・一昨日・ 14再生AI目次AIを活用した新書作成の舞台裏主体的な「聞く」体験の探求AIに「書かせず検索させた」独自の執筆プロセス2600回分の音声データ活用とClaude Codeの精度読者への問いかけ:自己観察を促す新たな本の形
引っ越さなかったから、片づいた──山科に住みかけて、断捨離が進んだ 17分・一昨日・ 17再生AI目次山科への惹かれと理想の住環境山科駅周辺の利便性と不動産事情移住断念の理由:見えてきた現在の価値引っ越し検討が加速させた断捨離の進捗客観視がもたらす行動変容と人生の教訓
住んでいる人ほど、行かない──京都25年目、山科の岩屋神社で 14分・10月22日・ 14再生AI目次「住む」と「暮らす」京の25年盆地の外、山科の知られざる顔京都人が行かない地元の名所観光客の視点で地元を再発見新たな地、山科で感じる秋
道順だけが、消えていた──30年前の、ピアノの先生の家 19分・10月22日・ 22再生AI目次30年前の記憶と個性豊かなピアノ教師カーレーサーの夫と哀愁を帯びた先生の素顔消えた道順 ストリートビューが示す記憶の曖昧さ浦島太郎の衝撃 変わった先生の家と街並み記憶の不思議 無意識と意識の境界線
効率化すると、人と話せる──ノーアポの来客と、学生との1時間 16分・10月21日・ 27再生AI目次新しい環境での貢献領域と強み“Being”な発信が育む新たな人間関係AIによるクリエイティブ作業の革新効率化が生み出す「人との対話」という価値余裕が生む、人間関係の質的向上とは
5年分の宿題が、2時間で終わった──ホームページをAIで作り直す 33分・10月20日・ 22再生AI目次5年分の課題をAIが2時間で解決ホームページ管理の困難とAI活用の決断Claudeが実現した驚異のHP再構築術AIウェブ制作の革新とコスト削減効果音声でHPを操る?未来のウェブ管理像