# おはようございます‪🔆‬ おはようございます。心理学者の神平です。 世界の解像度を上げる心理学ラジオの司官です。 この番組では最新の心理学研究のお話や、人の心や脳に関するお話をしております。 いつもお聞き下さりありがとうございます。 ちょっと日本時間では朝じゃなくなってしまったんですけども、 今日も更新していきたいと思います。 最近AIの話題をあまりしゃべっていなかったんですけども、 もともとはAIを密接に扱うチャンネルにしたいなというふうに思っていて、 それはAIの力を借りると自分の、特にChatGPTを使いながら、 自分の専門外である心理学の研究とか知識とか、 そういうものをお伝えできるんじゃないかなと思っていて、 そういう趣旨もこのチャンネルにはあったわけなんですけど、 最近あまりしゃべっていなかったので、今日は久しぶりにAIの話題を取り上げたいと思います。 先日まで学会があって、その中で話があったナイトシードというAIについて紹介したいと思います。 最近全然キャッチアップできておらず、恥ずかしながら初めて聞いたんですけど、 リリース自体は去年とか今年の初めとか、去年かな、出たのは、論文になったのは去年で、 今年ぐらいからちょっとずつ知り始められているというふうなことを言っておりましたけども、 それについて簡単に調べて、こういうものなのかなというところで解説をしてみたいと思います。 # Nightshade それでAIの紹介に行きたいんですけども、 これはシカゴ大学で発明されたナイトシールドというAIで、 恐らくこれまで皆さんが見てきたいろんなAIのモデルとかアルゴリズムとか、 そういうものとは少し経路が違うものなのかなと思っています。 これができた、まず背景としましては、 いろんなアーティストとか写真家もそうかもしれないんですけども、 自分の作品を持っている人たちがネット上とかサーバーなのかどこかに画像をアップロードして、 それを学習素材として使われるというのが一つの懸念点としてあったわけです。 自分のオリジナルの作品だったものがたくさんあげればあげるほどコピーされ、 AIが同じスタイルとかで画像とか写真とかを作れるようになると、 絵とかもそうですね、作れるようになるというので、 これはアーティストの創作のオリジナリティとかを考えみると、 結構危ういことではないかという人も少なからずいたというのが背景としてあります。 ナイトシールズというのはそういう今の状況を守るようなAIであるというふうに言えます。 これがすごく面白くて、結構やっていること自体はシンプルらしいんですよね。 どういうことをしているかというと、もともとの画像があって、 それを人間の目ではわからないぐらいのレベルでちょっと改変を加えるんですって。 だから本当にめちゃくちゃ小さいピクセルレベルなのか、ちょっとわからないですけど、 画像を見てこれって変わったんだなという人の目ではほとんど見分けることができないと言われているみたいです。 その画像ができ、そうすると、例えば本来犬の写真であった画像データをナイトシールズに読ませて、 ちょっとだけ改変を加えることで、別のAIがその画像を学習データとして使いたいとなったときに、 これはキャットだと、猫であるというふうにご認識してしまうみたいな、 そういうAIであるというふうに自分は理解をしました。 だから多分その一枚の画像が変わっただけだったら、 学習データってそんなに何百枚何千枚と学習すると思うので、効果がないかもしれないんですけど、 それが100枚とか200枚、200枚って書いてますね。 200枚レベルのサイクルデータがあっただけでも、攻撃が成功してしまうという、 攻撃というか防御と言った方がいいかもしれないですけど、 もしその200枚のナイトシェードで改変したデータがあるとすると、 犬を学習したい、犬の画像生成を行いたいというそういうAIがあったとしても、 それは猫に書き換えられてしまったりとか、 とにかく生成AIを使って画像を作りたい人の意図通りのものが全く得られないということで、 これは結構効果が大きいのではないかというふうに言われていますし、僕もそう思います。 これが結構、どうですかね、皆さんがどう思われたかわからないんですけど、 こういうアーティストとか芸術とかそういうものに常々触れながら自分は研究してるんですけど、 やっぱりこういうものが出てきたかと。 技術と技術の応酬というか、いたちごっこ感もなくはないんですけど、 そういう守る方もすら出てくるだろうなというのは、認識としてはそう思いました。 ポイズンって言うんですよね。 先ほど200枚のサイクルデータがあったら別のものに変わってしまってたんですけど、 その200ポイズンとかって言うんですよ。 100ポイズンだけではちょっとまだ騙しきれなくて、 200ポイズン、300ポイズンとかというふうに読されていくという表現をこの論文の中でもされていてて、 まさに言い入れてみようというか、 生成AIで作りたい画像が読されていくという様子は、 まさにそうなんだろうなと思ったりしてきました。 # おわりに 今日はナイトシェードというAIについて紹介しました。 なんかこういうアーティストとかアートを守るっていうようなAIっていうのは別に初めてじゃなかったみたいで だけどこのナイトシェードっていうのは注目をされているし かつなんかこれからどんどんパワーアップしていくみたいなことも書かれていて そのグレイズっていうのもあって守る系のAIの中に それと統合したりしてさらにパワーアップしていくんじゃないかっていう風にも言われていたりするようです。 とはいえいろいろ懸念点もあってさっき立ち横行って言ったように守るのが進化したら 今度うまく読み込む方のAIも進化するかもしれないし そっちも日常使いしているのでダイタリーとかミッドジャーニーは最近使ってないかな? そういうのを使っていたりするので 別にそっちが悪くても思っていないというかそれだけの立場ではないんですけど そっちがさらに進化してみたいなことはあり得るだろうとか あとは改編をちょっとだけでも加えているので人間の目ではわからないと言っても すごくクオリティの高いトップトップのアーティストとか写真家の人とかだったら 改編すらも質を損ねる何かになってしまうんじゃないかなと それは意識レベルでは違いがわからないかもしれないけども 意識レベルで認識とか結構面白いな個人的には 個人的にそういうテーマに興味がある 意識下に上ってこないような違和感とか感じると言われているので AIの画像とかAI先生の人の顔とかね それは結構面白いので今喋ってて思いました 今日はナイトシーザーというAIを紹介する会でございました 最後まで聞いてくださってありがとうございます 今日もいい一日にしていきましょう 仁平でした 心を込めて # 雑談「日本人ファミリーとオーロラ」 最後1分だけ雑談をさせてください。 昨日は日本人の方々とドイツで会っていまして、 すごい嬉しかったんですよね。 やっぱり日本語で喋れるという安心感もそうだし、 外国の地に来て、 だけどこういうアイデンティティを同じにしている人たちというのは、 とてもサポーティブな方々ばかりだし、 助け合っていこうという感じが伝わってきていて、 とてもウェルカムしてもらって、 自分がもちろん一番新人というかニューカマーな感じなんですけど、 それがとても嬉しかったなと思います。 これからそういうコミュニティとかにもちょっとずつ溶け込んでいって、 ドイツの生活を楽しんでいきたいなと思いました。 あとそうだ、昨日オーロラをちょっとだけ見ようと思ってて、 ちょっとだけなんですけど、すぐ諦めちゃったんですけど、 皆さんは見れましたか? 日本はそんなに見れるところがなかったって言ってたんですけど、 ドイツは結構いろんなところで見れたって言ってて、 自分が住んでいるところは金曜日、土曜日というのが見れなくて、 昨日も一応チャンスが続いているということで見ようと思ったんですけど、 残念ながら睡魔には全くかかてず寝てしまいました。 どうなんだろう、見てたのかな誰か。 多分昨日もいろいろ調べてた感じ、やっぱり確率は結構低いっていう話だったんで、 それでも頑張って起きてた人とかに幸が訪れる時が来るので、 結構そういう運要素の自然のイベントっていうのは面白いなと思ったりはします。 Twitterとか画像見て楽しみたいと思います。 それでは。