# チャプター 1 音声通信プラットフォーム開発奮闘期 この番組はVoicyで開発統括をしている山元が 音声通信プラットフォームのリアルな現場をお届けする番組です。 ひょんなことからスタートアップに飛び込み 酸いも甘いも経験しながらVoicyとともに成長している山元のリアルな記録です。 # 攻撃側が生成AIを使える怖さ はい、今日はセキュリティが重要というお話をしていきます。 また、Voicyのエンジニアに聞いてほしいんですけれども、 今日の話は、性性愛時代、セキュリティが重要になりますよというお話です。 これも当然のことだよなというところではあると思うんですけれども、 どんな風に性性愛が出てきて、世の中の形が変わっていって、 なぜセキュリティが重要になるかというところの観点を 改めてお話ししていけたらなというふうに思っております。 一つやっぱり重要なところとしては、 攻撃側が性性愛で攻撃ができるようになっているというところが非常に重要というか、 攻撃の多様化というか、攻撃側の工夫の部分での性性愛の活用みたいなものとかは、 もちろん性性愛側、LLM側とかでも制限をかけていたりというところはあると思うんですけれども、 そこを巧みについていくのが攻撃側になっていて、 生産性の話とかもたくさんしているわけですけれども、 攻撃側もたくさん生産性の高いようなことをやって、いろんな工夫をAIにさせて、 その上でいろんな攻撃を仕掛けてくるという形になるので、 基本的に苦しい状況というか、 しっかり狙われたら崩せないシステムがないんじゃないかというぐらいの、 難しい時代になってくるんだろうなというふうに思っております。 そうなってくると、やはり社内もそうですし、 システムのセキュリティみたいなものとかの意識というのは、 しっかり上げていかないといけないと思っていますし、 やはり今まで工数とか漏洩のリスクとかを鑑みながら、 いろんな対策をしたりとか、あれができなかったりとか、 みたいなこととかも現実問題があったと思っているんですけれども、 こういったこととかも生成を活用できるので、 より堅牢なセキュリティ上、いわゆる安全なソフトウェアを作るというところは、 前より比べると比較的に構築しやすいかなというふうに思っている中で、 その中でエンジニアは何をしていかないといけないかというところでいうと、 セキュリティのところを市街専門的に学習をしていくとか、 常々そういった意識をしてアーキテクトをしていくというところを、 日々気をつけながら、意識していきながら実証していくというところが 大事なんだろうなというふうに思っております。 そういったところとかを考える上で、 どういうことを日々意識しておくかというところでいうと、 基本的にはどういう攻撃が考えられるかみたいなものとかを、 常々意識をすることが重要かなと思っております。 以前、Xでも話題になったエンブファイルの話がありましたけれども、 クロードを制御してエンブファイルを 読まないようにしたらいいんだみたいな話とかも出てきている中で、 関係ないんですよ。 クロードって読める場所にファイルがあったら、 読むことは全然リスクとしてあり得るので、 それが読まれてしまった場合にどういうふうな形で、 リスクを軽減したりとか問題なくしたりとかということができるか、 それがさらに突破された場合にどういうことが考えられるかみたいな話とかで、 ゼロトラストみたいな話もあったりするんですけれども、 基本的にいろんな対策を講じていったとしても、 それが信頼されないという状態を考えたときに、 あらゆる形で守っていきながら、 それでも厳密性を担保していくみたいな考え方になるんですけれども、 ゼロトラストを達成していくとなったときに、 エンブファイルがどうやって読まれるんだっけという仕組みをしっかり分かったりとか、 ネットワークを遮断するみたいな話になったときに、 それがネットワークを遮断されたときってどうやって遮断してるんだっけ、 抜け道ないんだっけというところも、 仕組みを理解していないと設計できなかったりもしますし、 いろんな攻撃手法がたくさんあるわけですけれども、 それぞれの仕組みがどうなっているんだろうというところを、 常々気を配っていくといいのかなというふうに思っておりまして、 そういった思考の積み重ねですね。 もちろん基礎知識がある前提ですよ、これは。 しっかり本とか読んで、基礎知識を身につけているというところは前提ではあるんですけれども、 常々どういう状況の攻撃があるだろうと、 どういうリスクが今あるんだろうというところの意識をして、 自分の中でしっかりそれが説明できるような形になって、 それをどういった形で守って、こういった形でやっているからここまでは安心だぞと。 ただこういうことをやられてしまったらリスクがある。 そこに対してもまた防御を張ってというような繰り返しの部分で、 どこまで自分がやっているぞというところを常々意識しながら、 基本何も考えなかったら本当にすごく簡単に攻撃されると思ってください。 そのくらい結構厳しいですよということは、 常々意識をしてほしいなと思っていて。 本当に攻撃側に性性愛が今渡っているというところのリスクは非常に高いと思っていて、 攻撃する側に僕もなったことは全然ないので、想像ではあるんですけれども、 向こう側の立場になって考えた時とかでも、 いろんなやり方を思いつくだろうなというところを思うと、 本当に悪意のある人というのはあらゆる隙を突いてくるというところになってくるので、 やっぱりこれも自分のバイアス、自分の世界で攻撃なんてされたことないしな、 みたいなバイアスで考えていると足元救われてしまいますよというところがあるので、 基本的には技術というところは説明可能にしていくというのはいいのかなというふうに思っています。