TOPエンタメ音楽洛中日記ボイスクローニング技術がオレオレ詐欺を助長する話。08:45 2024年4月3日 60再生 問題を報告する 再生する シェアする ボイスクローニングは、高度なアルゴリズムと音声合成を使用して、人の声のデジタル複製を作成する最新技術です。この技術によって新たな危険が生まれる話をしました。とりわけオレオレ詐欺に使われる点には要注意。AI目次ボイスクローニング技術の進化と可能性AI音声合成で実現する声のクローンオレオレ詐欺への悪用リスクとは?感情まで再現する最新技術の衝撃未来の音声世界と倫理的な課題AI文字起こし(β版) # チャプター 1 みなさんこんにちは。音楽家で作曲家…違うわ。作曲家で大学教員の小松正文ですね。 はい、ということで、今日はですね、ちょっと専門的な話をしたいなと思って撮っております。 えっと、ボイスクローニングっていう言葉があって、クローン人間とかね、同じ遺伝子を持った人間が複数作られて、 これはいかがなものかという倫理的な話もありますけれども、それが声で合成ができるという、これAIとかね、合成機能を使っているわけなんですけど、 それについてね、今日話してみたいなと思っております。それでですね、ちょっとこの音を聞いてほしいんですよ。 これは合成の音なんですけれども、聞いてみてください。 いかがですかね。これね、合成なんですよ。これがボイスクローンの技術なんですけども、このボイスクローニングっていうのは、高度なアルゴリズムと音声合成を使用しまして、 人の声のデジタル複製を作成する最新の技術なんですね。これ、俳優さんとか声優さんとか、特定の人の声をですね、まずはビッグデータとして音声データということでインプットするんですね。 そこから新しい文脈でもってセリフを喋らせるわけなんですけれども、これね、元の声とほとんど区別がつかないということで、これどんなテキストでもどんな言語でも使えるというような、そういう技術なんですね。 これがすごくどんどん開発されていくと、例えばハリウッド映画の特定の声優さんの声を使って、例えば後で合成するとか、アニメーションの声優にも使われるとか、ものすごくいろんな汎用性があると思うんですね。 いいところばかりの話をしてるんですけど、これで僕まず思ったのが、オレオレ詐欺に使えるんじゃないかなと思うんですよね。これいろいろなところで、例えば今ってオレオレ詐欺って、犯罪者の上等手段として電話を使ってどんどんおびき寄せるといいますかね、かなり精神的に追い詰めさせて振り込みをさせるみたいな手法がありますけど、 最近よくそういうのが言われてるから、用心しますよね。よくよく聞くと、電話の声って結構周波数属性が限られた中で使われてしまってるので、くぐもった声、あえてくぐもらせてるところがあるんですがね、それで聞いているので、より分かりづらいっていうところはあるけれども、不自然ですよね。 例えば自分の息子が働いてて何か失敗してお金振り込めみたいなことになったとしても、それは文脈的にも冷静に聞けたら、それでそこで電話を切るとか、警察に言うとかっていうことで防止ができるとは思うんですけど、声がちょっと難儀なんですよね。 これ自分の声とか息子の声とか子供の声、家族の声をサンプリングして、それでビッグデータにして、そして声を新しく合成させていくと、分かんないですよね。これ本当に息子の声だとか、これはっていうような。 今思ったんですけど、僕ボイシーでめちゃくちゃ声を録音してるじゃないですか。もう1500回とか3年ぐらいすると、僕の声でビッグデータとして使えるよ。危ないよね、これ。僕が一番家族は騙されるんじゃないかみたいなことはあるかもしれないですけど。 これぐらいボイスクローニング、クローンはかなり現実的に使えていくという。先ほど外国人、英語のボイスクローニングで合成された音を聞いていただきましたけれども、これ無料のアプリでできるんですよ。怖くないですか。無料でこれできるっていう、すごくそれが危ないということなんですけども。 これボイスクローニングのプロセスを改めて伝えていきますと、まずはキャプチャーボイスデータということで、これは様々な録音されたもののデータをまずはインプットしてビッグデータを作るということですね。そして2番目にAIアルゴリズムというAIの機能によって、声の解析なんですよね。 解析のパターンとか、いろいろなやり方があるんですけど、特に僕びっくりしたのは、感情的な声の変化ってあるでしょ。楽しいときに喋っていくみたいなと、悲しいよね。本当に悲しいんだみたいな。そういう感情的なパラメーターも入れて、声って今、ほとんど作れる状態になっているわけなんですけど。 そういうことも含めて、様々な条件に応じてインプットされたビッグデータの中から声の特性を抽出していくっていうのが、第2段階のAIアルゴリズムってやつなんですよね。そして3番目にスピーチシンセサイズということで、実際に声の状態をシンセサイズで合成していくっていうことなんですよね。 例えば、今日は朝起きて、そしてスーパーに行って買い物をしてみたいな、そういうテキストを読み込ませて合成するというシンセサイズなので、合成をしていくっていうことがあるんですね。そしてその合成された音に対して、さらに磨きをかけるということで4番目の処理です。 ボイスクローンクリエーションという、本当にこれを一言で言うならば、すごく自然な発声状態にしていくっていう、そういう感じなんですね。良いふうに使っていけたら、例えば亡くなった人の声をもう一度再現していきたいっていうような、これは録音したデータがないと難しいので、聖徳太子とか織田信長みたいな声は無理なんですけど、 録音されたもののデータが多数あったとしたら、少なくとも小松の声はかなり録音しているので、合成できると思います、ある程度。そういうのを使って、今亡き人、あるいはちょっと声を使って表現をしてみたいなっていう場合の活用としては、ポジティブな使われ方なんですね。 そして、今日は冒頭で伝えたネガティブな使い方としては、オレオレ詐欺に使える。他にももっと犯罪的に使えるやり方ってあるんじゃないですかね。オレオレ詐欺しか思いつかなかったよね。他にあるかな。他にあったかな。 これはとはいえ、電話口で応対しながらリアルタイムでやり取りは難しいですからね。いきなり息子の声だ、今どこにいるんですかとかって言った場合、すぐに合成できないですからね。これAIのきっついところというか、人間に及ばないところは即座に返答というか、新しく作れないということです。 何にしても時間がかかったりするという、即反応という処理がまだまだ極めて難しいというのが、AIの欠点というか、今から改善すべきところだと思うんですけれども。 このボイスクローニングによって、声、音の世界でAI実際に使われるようになると、より何か感情に訴えかけるコンテンツも作れることができるし、そこから倫理的な話もどんどん出てくると思うので、とりあえず技術だけはある程度、もうここにセッティングされたっていうね、そういう怖い状況ではあるけれどもね。 さあ、あなたはどんなふうに使っていきますかということで、ボイスクローニングのね、そんなお話をしてみました。それでは、今日もおとのよい一日をお過ごしください。 もっと見る #音響 #オレオレ詐欺 #音声合成技術 洛中日記プレミアム放送配信中!08:451.チャプター 1コメント感想・質問・応援メッセージを書こう
最初は、わざと失敗させる──録音のワークショップ、最初の10分 28分・昨日・ 13再生AI目次ワークショップ最初の10分:耳の調律録音機材の最低限と準備の秘訣録音レベル設定とノイズ回避の極意聴取体験で変わる「音の世界」の認識意図的失敗から学ぶ録音の言語化
消えたのではなく、探せない──ピアノのライブ録音が見つからない 6分・一昨日・ 12再生AI目次ピアノライブ録音、まさかの行方不明徹底したデータ管理が崩れた瞬間忙殺され「仮置き」された音源ファイル記憶の彼方へ消え去るデータ捜索「見つからない」モヤモヤ解消の秘訣とは
漫画家は、人の漫画を読まない──録音は、デッサンに近い 19分・一昨日・ 16再生AI目次漫画家はなぜ他作を読まないのか作曲家が人の曲を聴かない理由デッサンと録音の意外な共通点創造性を磨く客観的インプット術バッハとボカロPから考える個性
水の中は、別世界だった──水中・接触・バイノーラル、3つのマイク 15分・11月11日・ 20再生AI目次水の音が織りなす、驚異の別世界ボートで探る、水中の知られざる音世界接触マイクが示す、固体音の驚くべき伝達固体伝導音は、距離感をどう変えるのか“幽体離脱”感覚?バイノーラルが創る音空間
声は、弾き方で変わる──倍音のミルフィーユと、こもった僕の声 15分・11月10日・ 21再生AI目次声の魅力は倍音にあり?その仕組み通る声、こもる声:倍音がもたらす違い変えられない声帯、変えられる声の「弾き方」声の「演奏法」:生き方で変わる表現力あなたの声はどちら?倍音で探る声の個性
明け方の舟屋は、音がしていない──伊根湾の凪と、出町柳の2月 8分・11月10日・ 14再生AI目次明け方伊根舟屋の静寂と繊細な波音伊根湾の凪が明かす音なき世界の秘密録音の成否を分けた風音の罠とは出町柳デルタ 2月の鴨川が奏でる音川の合流点で探るステレオ録音の極意