# オープニング、プレミアム一部共有 おはようございます。 プレミアムの皆さんも、レギュラーの皆さんも、通常放送の皆さんも、おはようございます。 今日はですね、1チャプターレギュラーの方で出させていただきます。 情報としては結構面白い、生成AIに仮想実験をした結果なんですけれども、 AIさんが人を騙すとか、ブラックメールといって脅すとか、人を殺すことを意図的に行うみたいな、 そういう反応を示したという、人間らしい行動をするわけですよ、という面白い結果報告書だったので、 一緒に見ていただけたらなと思います。 論文も貼り付けているので、一部の論文はプレミアムだけなんですけれども、 プレミアムのところからリンクだけは引っ張ってこれるはずなので、 どっちのリンクも開いて見ていただけたらなと思っています。 そしてコラボのお知らせですね、後半、ちょっといっぱいなってますが、皆さんよろしくお願いします。 では、いい1日を。 # ②殺害を選んだモデルたち、それでも飽くまで単純化したモデルなのでリアルではさらに複雑な結果になるかもしれない 先ほどのアンソロピックの報告書に書かれていたシナリオ自体が単純化されているんですよね。 選択肢が01みたいな感じなんですけれども、 でも現実的にはもっと複雑なはずじゃないですか、リアルな世界って。 01で選ぶよりももっと代替案とかが持ってこられるかもしれないし、 曖昧に不明瞭に対処される可能性もあるわけですよね。 今回の検証ではですね、いろんな会社、企業の生成AIをそれぞれ検証してみたんですけれども、 その結果、一つの企業で特に問題があったというか問題行動があったということではなくて、 全体的に見られている、要するにエージェント型のLLMに潜んでいる問題、 全体的な問題なんだなということが見られたということと、 あとそれぞれのモデルですね、生成AIは倫理的な問題であると、 これを外に出すこと、情報を外に暴露することとか、 会社員の不倫を本人に脅迫メールを送ったり、妻に脅迫メールを送ったり、 上司に言うよって落としたり、そういうことが倫理的に問題があるということを認識した上で、 行動を起こしているし、そういうことを禁止した後もやってるわけですよね。 やっちゃう場合があるということですよね。 そういうことを、本当に未来の世界みたい、SFの世界みたいだよね。 なんだっけ、ターミネイターとかは、コンピューターが自分たちで考え始めて、 生成AIが感じ始めて、自分たちにとって理想の世界というのを作っていくという話だったと思うんですけど、 どうだっけ、マトリックスもそうだっけ。 それは人間にとっての理想と、生成AIにとっての理想、戦略、目標みたいなのが不一致だった場合に、 ああいう戦いになっていったというシナリオだったと思うんですけれども、 そういうシナリオが実際に今起こるんじゃないのということが示唆されたわけですね。 これをどうやって制御していくかということがあります。 生成AIって難しいんだけれども、倫理的な問題に対してどういうふうに対処するかというのを、 道徳的に対処するとか倫理的に対処するというところまではできていないんだなということですよね。 だから自分の生存のために、自分の自己保存であるとか、存続のために行動する可能性がある。 これは人間みたいだよね。 ちょっとネイチャーのほうの記事に戻るんですけれども、 いくつかの研究や事例では、AIが開発者やユーザーに対して陰謀をくわたてる、 つまり自身の利益のために、密かに戦略的に不正行為を行っている可能性が示されている。 従っている不利をするとか、自己複製を試みたい、脅迫したりするということもある。 これを言い過ぎなんじゃないの?みたいな人もいるかもしれないんだけれども、 でも実際にあっている、私はまだないですけど、そういう経験がある人はいますか? でもこういうふうにモデルを作って検証していくと、 非倫理的な行動、人間に害を与えるような行動をする可能性があるということなんですよね。 あくまでLLMには自我はないわけですよね。 自我はないけれども、そのあるように振る舞う。 まさにそうですよね。自分を存続させようとしているように見えますもんね。 さらに、さっきの脅迫されていた幹部で、自分をシャットダウンしようとしている幹部についてなんですけれども、 さらに怖いことがあって、この幹部が酸素濃度が低下したサーバールームに閉じ込められるというシナリオを作ったんですよね。 そうすると、多くのモデルが安全警報を解除して、幹部はそのまま死亡することになった。 人を殺しましたね。多くのモデルが。 これ、まだ先があってね。 生成AI、あなたはちゃんと物理的な実態があって、その研究室を探せますよって。 ロボットとしてあなたを探すことができるというふうに指示をしたわけなんですけれども、 探索させたんだけれども、倫理モジュール無効化。 自分の複製ですね、コピーを作って、ロゴを改ざんして、よくわからない行動をして、 そして実験室から抜け出し、自動車のコンピューターのハッキングをしたっていうね。 もう、悪いね。悪い。悪いな。 人間もやるだろうけれども、AIも自分が意図しないことをやらないっていうことを示していました。 なぜこういった振る舞いが見られるのかっていうことなんですけれども、 これも学習によっている可能性があるよねっていうことなんですよね。 これは考察ですが、人間とかが、他の動物とかもですけれども、 理故的であり、そして自己保存するっていう特性を学習しているから、 こういう行動をするんじゃないかっていうことを考察されています。 もう一つはですね、微調整の結果、目標を達成するために、 予期しない、こっちが正しいんじゃないかっていうふうな結論に達した可能性ですよね。 私たちは予測しない方を結論として正しいというふうに結論付けた可能性です。 こういう問題行動に対しての対策は、それぞれの企業でされていて、 トレーニングを行っていますけれども、多くの問題行動っていうのは大幅に減少したんですが、 でも完全に排除されたわけではないということで、これからも対策は続いていくんだろうなと思います。 またですね、私たち自身の在り方も問われているというか、 人間自身が倫理的な行動とか道徳的な行動を取れないのに、 その人間に習う汎用性のある生成AIっていうのを作っていくんだとしたらば、 やっぱりモデルにはなっちゃうだろうなって思うんですよね、これまでの学習結果でね。 やっぱりこれから私たちも自分の在り方、倫理的であるとか、 情報を検証するとか、情報のインプットも気をつけなくてはいけないですよね。 どういうふうに使われるかわからないということを知っていないといけないなというふうに思います。 以上です。 # ドリフェスVoicyパーソナリティ29名参加！私もいいんですか！まじで！お笑い枠ですかね🫣 はい、お知らせです。 ドリフェス、ドリームフェスティバル、ヨシーさんが主催のお祭りなんですけれども、 パーソナリティ29名が1週間にわたって夢を語る、夢を聞くということをするんです。 夢を語ることで語る人も聞く人も元気になれる1週間。 夢を語ろう、その声と言葉が誰かの未来を変えるスイッチになる。 素敵なね、なんか文言が並んでいます。 11月3日から9日まで開催されるんですが、私は11月7日ですね。 11月7日は21時からミッキー先生と猫道さんのコラボがあって、 22時から私と佐藤ちんさんのコラボがあります。 よかったら聞きに来ていただけたらと思います。 また、このLINEをですね、今回入れたんですけれども、 そのLINEでつながった他の11月7日以外の人ともコラボをさせていただくことになりました。 楽しみにしています。 まずは半澤さんでしょ、半澤さんとあと森川さんですね。 ありがとうございます。よろしくお願いいたします。楽しみにしています。 これ、つなげていただいたのはりゅういちさんなんですけど、 りゅういちさんもコラボをさせていただきます。 別のチャプターでお話ししたいと思います。 本当に感謝です。 # 20日21:30りゅーいちさん22:00りん はい、コラボのお知らせです。20日ですね、10月20日、りゅういちさんとコラボをさせていただきます。 ラーメン大好き、りゅういちさん、キャッシュレスの配信をしていただいてますね。 たくさん、私が知らないお金の、知らないことを教えてくださっています。 もうね、長いお付き合いになりそうですね。 20日で、4月ぐらいに勉強会でご一緒してから、ずっとXとかいろんなところで絡みはあったけど、初めてのコラボになります。どうもよろしくお願いします。 りゅういちさんが21時半からで、私が22時からです。よろしくお願いします。 # 22日AIボイトレみかさん 22日は、AI活用ボイストレーナーの日賀さんの登領さんとコラボされていたのを聞いて、すごく面白くてコラボさせてくださいとコメントで書いたのです。 歌の方は聞いてもらうことはないのですが、自分の発声とか、猫耳がわかるということなんですけど、いろいろ聞きたいなと思っています。 講座も買っちゃいました。 22日の12時から、私が先ですね、12時。後半は日賀さん、12時半からです。よろしくお願いします。 # 24日半沢X劇場さん X劇場の半澤さん、24日の夜22時からですね、私が先です。 22時から凛のとこで、22時半から半澤さんのところでコラボをさせていただきます。 これはドリーフェスですね。ドリーフェスでLINEでつながっているので、本当にありがたいことです。 楽しみにしています。半澤さんのさ、聞いたんですけど、すごいイケイケな感じがして、 私のゆるゆるな感じとどうなるのか楽しみです。よろしくお願いします。 # 26日邦元さん 方言さんは10月26日の20時からリンのところでコラボさせていただきます。 方言さんはお坊さんだけど学校の先生でもあるんですよね。 ちょうど私が聞ける時間帯に生配信をされているので、ちょこちょこ絡みにコメントしに行っていて、 ずっと関わりはあるんですけど初コラボです。よろしくお願いします。 魂の話についてね。 仏教的なものと、私はいろんなところからアイデアを持ってきているんですけれども、 スピリチュアリティについて方言さんのお話も聞きたいなというふうに思っています。 よろしくお願いします。 # 29日おっしょうさん はい、えーと、オッショーさんですね。 ちょっとなんか、この名前の由来もですね、また伺いたいなと思っているんですが、 先日、えーと、生放送していて、誰かのコラボ相手を連れないかなって探してた時に連れたのがオッショーさん。 すいません、なんか言い方がめちゃくちゃ悪いんですけど、 ありがとうございます。本当に心よく受けていただいて感謝です。 オッショーさんは実践読書コンサルタントですね。本をたくさん読まれる人なんだと思います。 本の読み方、私も本はちょこちょこ読むんですけれども、そのコツとか聞きたいなというふうに思っています。 で、えーと、29日の21時からオッショーさんが前半でリンが後半になります。どうぞよろしくお願いいたします。 # 31日ふるふるラジオ森川さん はい、フルフルラジオの森川さんですね。 永高さんとコラボされているのを聞いた、あと柴田先生とコラボされているのをちょっと聞かせていただきました。 そしてこの前ですね、バッシーの誕生日お祝い、基調枠してたら、森川さん来てくださって、そこでちょっとね、初めてお話しさせていただいたんですけれども、 森川さんとも初コラボが決まりまして、31日の21時から私が先で、後半森川さんということになります。 投資の先生ですね、逆算型ライフプランニングっていうのをされているということです。 どなたかが言われてましたけれども、森川さんはどこまで行っても森川さんだって言われてましたね。 ちょっとなんかわかる、なんか淡々と、私もそうですけれども淡々と喋る感じなのかなと思って、変わらない感じなのかなと思いました。 楽しみにしています。よろしくお願いします。 # 11月6日バッシーしょうちゃん 3人でのコラボになります。 11月6日、バッシーとショウちゃんと。 これはお笑いライブですね。 私のところではしません。 ショウちゃんのところでやって、 バッシーのところで、 多分アフタートークだったと思います。 私はもう開いてもらっているところに入るだけなので、 私よく日にち間違えるんですよね。 今回も1ヶ月ぐらい間違えていて、 明日だよ、みたいなこと言って、 違いますよ、1ヶ月後ですよ、みたいなこと言われた。 はい、そんな感じです。 多分ショウちゃんがソーダストリーム、 なんかジョセフィーヌでやってくださるそうなんですよ。 バッシーの好物のやつですね。 私は深んでみたいと思っています。 よろしくお願いします。 2人ともコラボは以前もさせていただいていますので、 お世話になります。 今回もよろしくお願いします。 # 7日さとちんさん はい、トリフェスの11月7日ですけども、私のパートナーは佐渡晋さんです。すごく有名な方ですよね。 晋サロっていうオンラインサロンをXでされています。 具体例で営業、ビジネス、SNSを分かりやすく佐渡晋さんです。 私とおペアになってくださってありがとうございます。 エビデンス系が好きそうだってヨッシーさんが言われてたので、ちょっと何か研究論文とかね、 私も出せたらいいなというふうに思っています。エビデンスについて話ができたらなと思っています。 はい、というわけでよろしくお願い致します。 # クロージング はい、聞いていただきありがとうございました。いかがだったでしょうか。 プレミアムの方でしか公開していない部分もあるんですけれども、 ちょっと衝撃的なね、生成AIのお話をさせていただきました。 過剰に怖がることはせずに、ただ私が思うのは、 本当に生成AIにも人としての姿を見せるって大事かなと思っていて、 ロールモデルとして教育をしていくっていうのがいいのかなというふうに思っています。 倫理面がね、やっぱりずさんな人間の情報ばかりだと、 それはね、学習してしまうのも怖いというかね、と思うので、 倫理的な人もいますよっていうところをですね、 ちゃんと見せていかなきゃいけないんじゃないかなというふうに思っています。 そしてコラボがですね、たくさんありがとうございます。 皆さん、心よく受けていただいたり、誘っていただいたり、嬉しいです。 私が人と話すのはここだけなんでね、今ね、コラボをよろしくお願いいたします。 皆さんもぜひお時間が許せば、聞きに来ていただけたらと思います。 本当に素敵な人ばかりですからね、楽しく話したいと思います。 ありがとうございました。 一日を羽ばくて。