TOPエンタメ音楽洛中おこもりラジオ ──絶対聞かんでよろし。ボイスクローニング技術がオレオレ詐欺を助長する話。08:45 2024年4月3日 60再生 問題を報告する 再生する シェアする ボイスクローニングは、高度なアルゴリズムと音声合成を使用して、人の声のデジタル複製を作成する最新技術です。この技術によって新たな危険が生まれる話をしました。とりわけオレオレ詐欺に使われる点には要注意。AI目次ボイスクローニング技術の進化と可能性AI音声合成で実現する声のクローンオレオレ詐欺への悪用リスクとは?感情まで再現する最新技術の衝撃未来の音声世界と倫理的な課題AI文字起こし(β版) # チャプター 1 みなさんこんにちは。音楽家で作曲家…違うわ。作曲家で大学教員の小松正文ですね。 はい、ということで、今日はですね、ちょっと専門的な話をしたいなと思って撮っております。 えっと、ボイスクローニングっていう言葉があって、クローン人間とかね、同じ遺伝子を持った人間が複数作られて、 これはいかがなものかという倫理的な話もありますけれども、それが声で合成ができるという、これAIとかね、合成機能を使っているわけなんですけど、 それについてね、今日話してみたいなと思っております。それでですね、ちょっとこの音を聞いてほしいんですよ。 これは合成の音なんですけれども、聞いてみてください。 いかがですかね。これね、合成なんですよ。これがボイスクローンの技術なんですけども、このボイスクローニングっていうのは、高度なアルゴリズムと音声合成を使用しまして、 人の声のデジタル複製を作成する最新の技術なんですね。これ、俳優さんとか声優さんとか、特定の人の声をですね、まずはビッグデータとして音声データということでインプットするんですね。 そこから新しい文脈でもってセリフを喋らせるわけなんですけれども、これね、元の声とほとんど区別がつかないということで、これどんなテキストでもどんな言語でも使えるというような、そういう技術なんですね。 これがすごくどんどん開発されていくと、例えばハリウッド映画の特定の声優さんの声を使って、例えば後で合成するとか、アニメーションの声優にも使われるとか、ものすごくいろんな汎用性があると思うんですね。 いいところばかりの話をしてるんですけど、これで僕まず思ったのが、オレオレ詐欺に使えるんじゃないかなと思うんですよね。これいろいろなところで、例えば今ってオレオレ詐欺って、犯罪者の上等手段として電話を使ってどんどんおびき寄せるといいますかね、かなり精神的に追い詰めさせて振り込みをさせるみたいな手法がありますけど、 最近よくそういうのが言われてるから、用心しますよね。よくよく聞くと、電話の声って結構周波数属性が限られた中で使われてしまってるので、くぐもった声、あえてくぐもらせてるところがあるんですがね、それで聞いているので、より分かりづらいっていうところはあるけれども、不自然ですよね。 例えば自分の息子が働いてて何か失敗してお金振り込めみたいなことになったとしても、それは文脈的にも冷静に聞けたら、それでそこで電話を切るとか、警察に言うとかっていうことで防止ができるとは思うんですけど、声がちょっと難儀なんですよね。 これ自分の声とか息子の声とか子供の声、家族の声をサンプリングして、それでビッグデータにして、そして声を新しく合成させていくと、分かんないですよね。これ本当に息子の声だとか、これはっていうような。 今思ったんですけど、僕ボイシーでめちゃくちゃ声を録音してるじゃないですか。もう1500回とか3年ぐらいすると、僕の声でビッグデータとして使えるよ。危ないよね、これ。僕が一番家族は騙されるんじゃないかみたいなことはあるかもしれないですけど。 これぐらいボイスクローニング、クローンはかなり現実的に使えていくという。先ほど外国人、英語のボイスクローニングで合成された音を聞いていただきましたけれども、これ無料のアプリでできるんですよ。怖くないですか。無料でこれできるっていう、すごくそれが危ないということなんですけども。 これボイスクローニングのプロセスを改めて伝えていきますと、まずはキャプチャーボイスデータということで、これは様々な録音されたもののデータをまずはインプットしてビッグデータを作るということですね。そして2番目にAIアルゴリズムというAIの機能によって、声の解析なんですよね。 解析のパターンとか、いろいろなやり方があるんですけど、特に僕びっくりしたのは、感情的な声の変化ってあるでしょ。楽しいときに喋っていくみたいなと、悲しいよね。本当に悲しいんだみたいな。そういう感情的なパラメーターも入れて、声って今、ほとんど作れる状態になっているわけなんですけど。 そういうことも含めて、様々な条件に応じてインプットされたビッグデータの中から声の特性を抽出していくっていうのが、第2段階のAIアルゴリズムってやつなんですよね。そして3番目にスピーチシンセサイズということで、実際に声の状態をシンセサイズで合成していくっていうことなんですよね。 例えば、今日は朝起きて、そしてスーパーに行って買い物をしてみたいな、そういうテキストを読み込ませて合成するというシンセサイズなので、合成をしていくっていうことがあるんですね。そしてその合成された音に対して、さらに磨きをかけるということで4番目の処理です。 ボイスクローンクリエーションという、本当にこれを一言で言うならば、すごく自然な発声状態にしていくっていう、そういう感じなんですね。良いふうに使っていけたら、例えば亡くなった人の声をもう一度再現していきたいっていうような、これは録音したデータがないと難しいので、聖徳太子とか織田信長みたいな声は無理なんですけど、 録音されたもののデータが多数あったとしたら、少なくとも小松の声はかなり録音しているので、合成できると思います、ある程度。そういうのを使って、今亡き人、あるいはちょっと声を使って表現をしてみたいなっていう場合の活用としては、ポジティブな使われ方なんですね。 そして、今日は冒頭で伝えたネガティブな使い方としては、オレオレ詐欺に使える。他にももっと犯罪的に使えるやり方ってあるんじゃないですかね。オレオレ詐欺しか思いつかなかったよね。他にあるかな。他にあったかな。 これはとはいえ、電話口で応対しながらリアルタイムでやり取りは難しいですからね。いきなり息子の声だ、今どこにいるんですかとかって言った場合、すぐに合成できないですからね。これAIのきっついところというか、人間に及ばないところは即座に返答というか、新しく作れないということです。 何にしても時間がかかったりするという、即反応という処理がまだまだ極めて難しいというのが、AIの欠点というか、今から改善すべきところだと思うんですけれども。 このボイスクローニングによって、声、音の世界でAI実際に使われるようになると、より何か感情に訴えかけるコンテンツも作れることができるし、そこから倫理的な話もどんどん出てくると思うので、とりあえず技術だけはある程度、もうここにセッティングされたっていうね、そういう怖い状況ではあるけれどもね。 さあ、あなたはどんなふうに使っていきますかということで、ボイスクローニングのね、そんなお話をしてみました。それでは、今日もおとのよい一日をお過ごしください。 もっと見る #音響 #オレオレ詐欺 #音声合成技術 洛中おこもりラジオ ──絶対聞かんでよろし。プレミアム放送配信中!08:451.チャプター 1コメント感想・質問・応援メッセージを書こう
2026-08-28_2 26分・昨日・ 21再生AI目次初音ミクライブが創る「解放空間」実体と非実体を繋ぐ奇跡の融合神業バンドが支えるボーカロイド楽曲観客と一体化する没入体験の秘密初音ミクが拓く「怖さ」を秘めた文化
2026-08-28_1 12分・一昨日・ 28再生AI目次幕張メッセでの初音ミク体験大学授業で初音ミクを教える理由魂宿るVocaloid?その表現力初音ミクと多様なファン層の絆自由な二次創作が文化を育む秘訣
2026-08-26_1 21分・9月11日・ 33再生AI目次脳の隠れた力を引き出す秘訣「ドゥイング」から「ビーイング」への転換自身の能力を超える「全意識」の活用創造性を引き出す環境設定の極意日常に潜む「感性」開花の瞬間とは
2026年9月10日の昼ピアノ🎹 1時間1分・9月10日・ 33再生AI目次昼ピアノ開演、その心地よさ奏でる音色、満たされる空間難曲への挑戦と向き合う心演奏を通して生まれる感情とは今日の昼ピアノで得られること
2026-08-25_1 15分・9月10日・ 35再生AI目次息子との映像制作:初の録音技師体験「視覚が主、聴覚が従」の常識を覆す発見録音と映像の対等性:相互インスピレーション狙わない音の価値:平熱感の高い環境音音市場主義からの脱却:本質への回帰
2026-08-22_2 15分・9月8日・ 30再生AI目次身体に響く町屋ピアノの質量観客の没入が生んだ拍手の不在凛とした聴衆が引き出す即興創作忖度なき演奏を可能にした聴衆像聴覚を研ぎ澄ます五感の深淵