# AI。 もう一回ノンノンラジオです。AIの進化がものすごいことになってますね。 ちょっといつもと違う時間に放送してますが、私も手元でいろいろ仕事してるんですけど、 本当に世の中大変なことになってきてるなと思います。ということで始まります。 # メンバーとの対話。 メンバーの皆さんにいかがお教えをしているでしょうか。 オーロミライメンバー、もう一度おはようございます。はい、元気です。おはようございます。 よかったなあ。元気そうでよかった、本当。文字面からも元気さが出てくるね。 ガーレン風メンバー、水のように生きる。命の水、源となり。 幸せは選択だ。私たちは時代に生きていると思う。 すべてが混乱しているようだ。 マイクロまたはマークロなど、 家族の憂鬱、国家の経済問題、 環境変化、世界大戦に関わっているようだ。 ああ、私もそれについて心配している。 ガーレン風メンバー、現在の心境は幸せで、とても正しい状態だ。 そうでなければ、私たちはどう生きていくのか。 元気そうでよかった。 ケム・モーギーの一つの文章に、 水のように生きるという文章がありました。 そのため、私は自分のためにノートを書いて、ここにシェアしました。 ガーレン風メンバー、 水のように生きる、流れ続ける、 最も困難な石、 最も滑りやすい石、 水は人生の一つだ。 水がなければ、あなたは全く生きることはできない。 ああ、私はあなたにもっと同意できる。 ハッチャン所長、 先生、なんとなんと、朝起きたときはチャプター1とチャプター2だけでしたのに、 夜起きたときにチャプター3が流れていました。びっくりです。 先生、今週はスピーカーベストセラリスト、ノンフィクション、文庫部門、 生き甲斐第一、おめでとうございます。 そして、ブックトップベストセラー、 8月、ドイツで20位、スイスで7位です。 スイス頑張っているんだな。 ブックトップベストセラーは、 フィクション、ノンフィクション、ハードカバー、 ペーパーパック、すべての総合です。 ランクイン凄すぎます。 ありがとうございます。 小林A.メンバー、 先生、チャットGPTライブがすごく進化して、 会社のボタンを押すと、いきなり 友達が話しかけたりするように話しかけてくれます。 そこで私の下手な英語を喋って、 これでそれを探索してもらい、 違うんだよと指摘してもらいながら勉強しています。 すごい。 いつか先生の朝日カルチャーセンターに行っても スラスラ喋るよう練習します。 おお、待ってるぜ、A. 待ってるぜ。 小林A.メンバー、 電卓やチャットGPTみたいなものは 人間の心をコントロールして 複雑なことを考える力を奪っている気がする。 この技術を発明した目的は 人類をコントロールすることであるように思える。 この技術を使って、他の学問分野も より広く、深く、広く探究すべきですが、 その便利さは当たり前だと思わず、 文脈の中で思考する本来の能力を 低下させないよう注意しなければなりません。 本当やな。 小林A.メンバー、 私たちの思考や考え方はコントロールされ、 低下していくでしょう。 そうなれば、私たちは支配されているも同然です。 小林A.メンバー、 人類の心をコントロールしなければなりません。 私たちの思考や考え方は コントロールされ、低下していくでしょう。 そうなれば、私たちは支配されているも同然です。 小林A.メンバー、 人類の心をコントロールしなければなりません。 私たちの思考や考え方は コントロールされ、低下していくでしょう。 そうなれば、私たちは支配されているも同然です。 小林A.メンバー、 人類の心をコントロールしなければなりません。 私たちの思考や考え方は コントロールされ、低下していくでしょう。 そうなれば、私たちの思考や考え方は コントロールされているも同然です。 小林B.メンバー、 真に知的な人々には確かな実力があります。 一方、野心はあるものの、 能力が伴わない人たちは 強引な手段を使って トップに登り詰めようとする傾向があります。 真に知的な人々は 常にポジティブで、 そのことも優しさを含めます。 小林A.メンバー、 サイズとゴッセイピングは、 人間の物質の特徴ではありません。 はっきりと言って、すみません。 小林B.メンバー、 素晴らしいコメントをありがとう。 私はいつも あなたの 知的な 人間のコンディションに対する アプローチを感謝します。 続けて、 日本に来ることを 期待しています。 また、小林B.メンバー、 日本にいらしてくださいね。 続いては、何の話でしょうか。 # アモディの危機感。 アンソロピックのCEOのダリオ・アンモデルさんが AIの開発競争をスローダウンしようとエッセイで書かれていて 大変反響を呼んでいて イーロン・マスクさんとかサム・アルトマンさんなんかも賛同しているようなんですが これは重い言葉ですよね アンソロピックというAIの開発競争においてトップを走っている方 そのCEOからこういう言葉が出るということは 我々が公開されていない情報も含めた あの人の実感というか 本当にまずいぞという そういう感覚から生まれている言葉だと思うので 非常に興味深く読ませていただきました この中でアンモデルさんはいくつか提案をしているわけですね エンプロイと同じくらい オープンAIとかアンソロピックとか そういうところのエンプロイの方は 我々がアクセスできない情報にもアクセスしているんですけど エンプロイと同じレベルで外部から第三者が検証できるような そういうシステム ビルトインのシステムを作ろうとかね それから国際的に 最初はアンソロピックがユニラテラルにコミットするんだけど いろんなAIカンパニーが作って あるいは中国を含めた国際的な表彰も含めて いろいろやっていこうということをおっしゃっていて 非常に危機感を感じるエッセイだったんですけど 僕はAIの開発競争をペーストアウトするというのは 極めて難しいことだと思っています これはエリダー・ユドコフスキーさんとか そういう方々がずっと研究してきたことなわけですよね ある意味では AIアナイメントにおけるセーフティをどう ガードレールをどう作るかという話は それは非常に難しいんだというのが 一般的な理解だと思うんですよ 例えばエージェント技術にしても 今回ミレニアム問題の一つの RBSトークスの問題が解かれたわけですけど これいろいろ経緯とかについては いろいろ問題があったりとか 果たして本当に解いているのかどうかということについて いろいろな議論があるんですけど 1万体のエージェントが88時間やったんですよね 3桁億円くらいかかったのかな 2桁か3桁億円くらいかかったと それだけの計算リソースをやったら 今まで人類が解けないと思っていた問題が解けちゃったわけで 同じようなことがミレニアム問題は どんどん行われるんじゃないかと言われているんですけど こういう中目的がはっきりしている問題において AIがどういうことをやるかということは 本当に予想がつかないくらい すごいことをやってしまうわけなんですけど オープンエンドな課題のときは一番問題ですよね オープンエンドな課題をしたときに どんな振る舞いがスケールしていくと生まれるのかということは これはそう簡単に予想できないわけで 一般に非線形力学的な振る舞いをするときに それをセーフティーをあらかじめ確保する そんな簡単なことじゃないだろうなと まさに予想できない振る舞いが起こるわけですから 予想できない振る舞いについての安全性を確保する エブリィステップで確保すると そんなに簡単なことじゃないだろうと思います正直 なので一番実行的なのは 本当にスローダウンというか スケールしないようにしようとか ここまでもスケールにしましょうという話になるんだと思うんですけど そうなると逆にアモデさんもエッセイの中で書いてますけど 例えばがんの治療とかね アモデさんのお父様が少し経ったら あった治療法の確立している病気で亡くなられたりした ご本人も初期のがんになられて それはちょっと前だったら治療法はないもんだった だから要するに病気の治療法ってどんどん開発されていて これからAIの開発によってさらに 開発が進んでいくだろうと思われるわけですけど でもそれを実現するためには さっき言っている非線形というか ノンリニアルな予想つかないスケールの 公用をやらなくちゃいけないわけで 予想つかないってことは そういうとそこから生物兵器なんかも生まれる可能性も出てくるわけで ここにおいてセーフティーを維持するってのは なかなか難しいことだと思うんですよ だからアモデさんをはじめとしてアンソロピックの方々 それからオープンAIの方々 それから一応その中でメンションされる中国の方々も 中国の方々もね オーソイタリアンな政府ってよく言われがちですが AIセーフティーについては逆に言うと 中央政府共産党の方含め ちゃんとやろうっていうのは 西側と同じくらいある それ以上ひょっとしたらあるかもしれないので いろいろやられてるとは思うんですけど なかなか難しいなと 今回はペースタウンのこのエッセイは 皆さんちょっと驚きを持たれて読んだと思うんですけど 僕は危機感だと思うんですね 本当に恐怖感みたいなものになると思うんですよ オープンAIとかアンソロピックとか 開発現場では これこのままアクセル踏み続けていったら 本当にとんでもないことが起こるよなと ずっとユートコフシキさんとかがおっしゃってた 人類滅亡の可能性って本当に 本当に身体勢を伴う恐怖なんじゃないですかね アンソロピックの方々 開発現場の方々の それが伝わってくるんですけど 理論的にってか実践的にどうすればいいのかってことは これは本当に分かんないというのが正直なところだと思います だからおそらく今回の青本寺さんのエッセイというのは 実際にAIカンパニーでそういうのを実装されている立場から ギリギリのところだと思うんですよね 実際にどうしたらいいのか 本当ブレーキの書き方が分かってるわけじゃないんだけど でも何かこの時点で書いておかないと やっぱりこれは人間として COとして責任が果たせないという そういう危機感の表れだと思って 非常に僕は興味深く読みました いずれにせよ今AI開発が非常に クリティカルなフェーズを迎えていることは 事実だと思うので 青本寺さんがそういうことを書かなくちゃいけないくらい 非常に臨界期に来ているんだろうということで 引き続き注目していきたいなと思っております # この花はなんですか？ この花は何でしょうシリーズですけど、この花は何でしょう? 本当に覚えないんだよ、この紫の赤いやつ。 花があったんで、ちょっと聞いてみました。 OK!ベリン協務一致につかやかにお過ごしくださいませ。マキアンチョウでした。