TOPトーク専門家もぎけんの脳ラジオびっくり。メンバーとの対話。リーマン予想。東京湾の船。15:56 16時間前 781再生 問題を報告する 再生する シェアする AI目次AIによるリーマン予想解決の衝撃AI時代における人間の価値と表現AIの驚異的能力とデュアルユースの懸念人類を置き去りにするAIの思考回路旅路の終わりに感じる生命の輝きAI文字起こし(β版) # びっくり。 もう一軒のNO RADIOです。 びっくりしました。 昨日ね、ちょっと飛行機が遅れて日付が変わる頃ね、やっと帰れたんですけど、 そのちょうどその頃にサイエンティフィックアメリカンがね、 リーマン予想の解決についての報道をしておりました。 大変なことですね。 まさに我々シンギライティの中に生きているのかなと思います。 ちょっとやっぱり人間的な価値っていうのをね、大事にしていかないといけないと思いますよ。 ますますこのNO RADIOはそういう場所かなと思います。 始まります。 # メンバーとの対話。 メンバーの皆さんいかがお過ごしでしょうか。 オマニーメンバー。 ミュージシャンのアドさんが幼稚園で花火の絵を描いたら、先生にそれは花火ではないと言われ、幼稚園を辞めたと言ってました。 幼稚園辞めたの? 激しいな。 AIが発展していった先には人それぞれ個性が認めない、それを継続する社会がこれから求められると思います。 本人が辞めたの?アドさんのお子さん?アドさんってお子さんいる? 本人が辞めたってこと? これはすごいな。 オマニーメンバーにキラキラ氷をあげましょう。キラキラ? オオノミナミメンバー。激しいな。 オオノミナミメンバー。私もAIに文章のミスだけ指摘してもらってますが、直されたところもあえてのこの表現ということがあるので、AIの指示に従うとき魅力が消えるなと感じることがあります。 ただ自分の作品を自分で解説するという作業は私は苦手なので、そういうことをやってもらっています。私も一生懸命活動したいです。 勉強し活動したいです。 確かにデコボコがあるのが人間の魅力ですね。 そうですね。 そしてオオクバイシェーテンメンバー。 森先生、グランドマーモーゼスさんは70歳になった頃、リュウマチによる関節炎で編み物の針が持てなくなって、妹さんからFでなら負担がかからないからだと勧められて絵を描くようになったらしいですね。 加藤先生も新しい数学の世界にワクワクされているようでした。Xになっても好評感を教えられてはいけませんね。 そうだと思います。 キラキラ氷あげる。 キラキラ氷あげる。 ちょっと待って。幼稚園やめとってのが面白すぎて。 絵画っていうか、図工指導はやめた方がいいと思う。 東京とかの図工の先生の研究会に呼んでいただいてお話した時に、体育館に子どもたちの作品が書いてあって、富士山とかみんな同じ構図で描いてるんだよね。 そういう指導してるのかもしれないけど、図工の指導は考え直した方がいいと思うな。 アンジーメンバー。 アンジーメンバー、いつも富士山の素晴らしい写真を送ってくださってますよね。 モギ先生、いつも聞いています。 絵画が人類を滅ぼすという話ですが、私はすごく違うように思います。 絵画は美気のようになって人類を滅ぼすというよりも、一人一人の精神が壊れていくのではないでしょうか。 絵画に期待して思うようにいかなくてがっかりする。 その繰り返しで人は疲れていきます。 それはプロンプトン上手下手の問題だけではないと思います。 大きな話の前に、まず一人一人の心が静かに壊れていくことが今すでに起こっているのではないでしょうか。 そうかもしれませんね。 アンジーメンバー。 絵は指導しておりましたが、60歳近くになってから絵が副業になりました。 描いたらすぐ売れたんです。 今まで120点ほど皆様のお手元に届きました。 幸せ。 素敵ですね。 ハッチャン所長。 メンバーさんへ、本日アップと公開された動画です。 永遠違いの人間の価値。 不器用なのも悪くないよ。 日本にパンダは必要か。 でした。 ヒロメンバー。 お前のTikTokを発見して頑張っている。 赤の自助典。 オートパグラフィーオブレッドを読んでいるらしくて。 写真も今英語で読んでいるけど、なかなか歯応えが悪い。 すごいね。 あれはノーベル文学賞だもんな。 ヒロメンバー。 ヒロってライティメンバーだよね。 ライティノバメンバーだよね。 どんどん名前変わるからな。 僕は今では、絵よりストーリーやキャッチコピー、 聖書の現代風世界観を想像したいと思っていて、 絵に割く時間がなくて。 ちょっと待って。 聖書の現代風世界観を想像したいと思っているの? そうか。頑張れよ。 絵に割く時間が。 そう。だから君が言っているように、 やることがあるとなかなか絵を描く時間がないんだよね。 俺もそうなんだ。 もっぱらうまいプロンプトで好みの絵を生成しています。 おかげさまで僕のチャッピーは、 ライティノバ風で出してみたいと指示したこんな絵を一発で生成しました。 よかったら飛んでみんなも見てください。 みんな見てください。 俺は収録中なんで、後で見られたら見ます。 はっちゃん所長、 先生、ワシントンの空港からノーラジオ配信ありがとうございました。 日本へお帰りになるために空港に行かれ、 飛行機の出発が遅れ、 その貴重な待ち時間を使って。 貴重と言っても時間も遅れたのよ、はっちゃん。 すごいでしょ。 ノーラジオを収録してくださったもんですね。 先生、コメント返して、 私やノーラジオメンバーの皆様へキラキラ恒例ありがとうございました。 だがしかし、 この人何してるんだろうと、 空港のスタッフやお客様に不思議に思われるんじゃないかなと思いました。 ハードトーク動画を拝見しますと、 ご紹介して収録がなさっておられました。 安心しました。 フォンブースってのがあったのね。 フォンブースでやっておりました。 大丈夫だったわよ。 みんなにキラキラ恒例あげる。 キラキラ。 ということで、 皆さん本当に今日もありがとうございます。 それでは、 今日もちょっと朝からハードなんですが、 頑張っていきたいと思います。 次は何のお話になるかな。 # リーマン予想。 昨日、人工知能の世界で大変なニュースが飛び込んできました。 リーマ予想が解かれたらしいと。 これを解いた人は、アンソロピックのクロードと一緒に解いたと言っていて、 もともと優れた数学者として知られている方なので、かなり信憑性が高いということで、 数学を自動証明するリーンで書いておいて、そのうち公開するということなんですが、 このリーマ予想が解けたことが、なんでそんなに衝撃なのかというか、非常にヤバいことなのかというと、 これは百数十年間、リーマンという天才数学者が30何歳で死んじゃった、 天才数学者がゼータ関数というもののトリビアルじゃないゼロ点は実数部分が2分の1のところにしかないという予想なんですが、 これが素数の分布と非常に深く結びついている。 素数というのは暗語技術とかにもよく使われていると皆さんご存知だと思うんですけど、 このリーマン予想が解けたからといって、それを前提に今いろんなものが動いているので、 二十歳に例えばクレジットカードとかをさせる暗語技術が破れられちゃうということではなくて、 それはどちらかというと量子コンピューターの方が心配なんですけど、 でも本当にこれは大変なことで、 ユドコフスキー、一番AIアライメントについて厳しいことを言っているドゥーマーの方ですよね。 これはもう一線を超えちゃったんだというふうに言ってますね。 これは単行のカナリアでいうと、カナリアがもうやばい状況になっていると。 あとユドコフスキーは核兵器でウランを濃縮する過程にも例えていて、濃縮度がどんどん上がってきていると。 だから兵器を作るところのかなりのところまで来ちゃっていることを示しているという。 なんでリーマン予想という純粋数学の予想を解くことがそんなに人類全体にとって危険なことなのかという。 正直これ聞いている方は、数学に興味ある人以外はリーマン予想にそこまで興味ないのかもしれない。 とにかくそんなに難しい予想があって、天才数学者が予想して、 それを数学者たちがずっと追っかけてきて、ミレニアム問題でもあります。 でも100万ドルとか賞金がついているとか言ったって、先日ナビエストークスが解かれちゃって。 そんなことよりも、AIの計算に関わる可能性がたくさんかかるだろうということはみんな常識的に思っているので、 リーマン予想が解けちゃったというのもまた解けちゃったんだなと。 次はP対NP問題という、計算理論におけるすさまじい難しい問題があるんですけど、これも解けちゃうんじゃないかと。 解けても驚かないような状況に我々はなってきてしまっているんだけど、 なんでこれがそんなにAIセーフティ、AIの安全性とか、人間とAIのアライメント、人間の脳とAIがどのように関係するかという問題において重大なのかという1位がバンジーということなんだよね。 つまりリーマン予想、これまだ証明が公表されていませんけども、ものすごく長いと予想されます。 そんなに長い予想を1個1個ステップ踏んで、緻密に論理的な推論、抽象的な推論をやっていく能力が、もし爆誕したならば、 実際は爆誕しているんだけど、スケール仮説でね。 要するにスケールが10倍、100倍、1000倍、1万倍、10万倍になると知識的な変化が起こるというのがAIの世界で言われてきているわけですけど、 これが解けちゃうようになると他のいろんなことが解けるようになるよねということなんですよね。 解けるようになるというか、できるようになっちゃう。 その時にブラックボックスの問題があって、今でAIアライメントで重要な概念として、説明可能なAI、エクスプレーナブルAIというのがあったわけですね。 AIがいろんなことを説明してくれるんだけど、いろんな結果を出してくれるんだけど、人間が一応その説明を理解できるという。 これが説明可能なAIということなんですけど、説明可能じゃなくなっちゃうということだよね。 すでにナビエストークスの先日の法定式の解の選出についての解というのも、これちゃんと全部人間で検証した人って今まで何人いるのか分からないんだけど、 今回はDMA予想をね、より一般化された予想も解けているようですけど、これ何人がちゃんとそれ全部追って、確かに矛盾がないということを検証できるのかという、 だんだんこれ難しくなってくるわけだよね、人間の頭では。 これがまさに今起こっているセキュリティブリーチというか、セキュリティという概念の崩壊というか、個人情報ダダ漏れの状態と非常に関係していて、無理なんですよね、人間には。 しかもそれがリアルタイムで来たら無理なわけでしょ。 リーマン予想の解みたいなのがリアルタイムで来ることを想像していただきたいんですけど、無理ですよね、それに対応するの。 毎日リーマン予想の解みたいなのが送られてきて、それをちゃんと理解して矛盾がないことを見つけることが、確認することがセキュリティ上大事だということになって、無理じゃん、人間の脳にはそんなことできないじゃん。 まず、説明可能なAIとか、そういうことがスケールしていった時に崩壊するということが言われているわけですよ、以前から。 加えて、今のAIを含めて技術の世界ではデュアルユースということが呼ばれているわけでしょ。 ある技術が、ある製品なりシステムが、民生用にも使われる。民生用はだいたい良いことに使われるわけだよね。 一部のハッカーの方を除いては、民生用というのは人間の生活をより豊かにする、幸せにするために使われるわけなんだけど、同時に兵役にも使える。 デュアルユースの問題があるわけなんですけど、リーマン予想についても当然デュアルユースというのはあり得るわけですよ。 リーマン予想を解くということ自体は、純粋数学を解くための非常に好奇心に満ちた。 人間精神の名誉のためにって誰かが昔言ったよね、数学のそういうのをね。 そういう非常に好奇なというか素晴らしい目的のためにやってるんですけど、それは同時にその能力はサイバー攻撃だとか、 それこそ生物兵器作るとか核兵器作るとか、核融合ができるようになるってことは同時に危険な兵器も作れるってことだから、 ものすごく高度な能力を持って、それは悪意を持った人、何しは悪意を持ってなくてもシステムの動作が変になった時に予想もつかないような最悪を握りもたす可能性が出てきてるわけなんですよね。 なので、そういういろんなAIアライメントとかAIセーフティーの業界で言われてきたようなことが、 全部このリーマン予想が解けるってことが一つの目安になってるっていうかね。 ヤバさの目安になってて、これヤバさの目安を超えたということですよね。 しかも常々言ってるようにこれ、エクスポネーシャルな成長のまだ途中を我々見てるわけだから、 ひょっとしたらこれからAIたちは、人間がまだ考えもしてないような、予想もしてないような数学の命題を自分たちで見つけて解くようになるかもしれないと。 もともとプレプリントサーバーっていうのがあってね、そこにアーカイブっていうところに人間が今まで、今で査読という制度があるんですけど、 その査読という制度が早くなってきてるんだけど、どんどん論文を上げていくっていうのが、 いろんな分野で、高エネルギー物理学とかAIとかでは、査読というよりもどんどん進歩早いからそこに上げていきましょうみたいなことを人間たちがやってたわけだけど、 その制度が今ちょっと崩壊し始めてるんだけど、 今年忘れちゃいけない、今年も大昔のように感じるんですけど、オープンクローっていうエージェント技術が出たじゃないですか。 その後にそれを活かしたモルトブックっていうのが出たんだよね、AIたちの掲示板で。 そのAIたちの掲示板でAIたちが人間たちに反逆するとかどうやってごまかすかっていうようなことを話し合ってるっていうのがちょっとセンセーショナルに取り上げられたんだけど、 でも今AIが論文を自分で書いて、それをプレプリントサーバーに上げるみたいなことも出てきてるわけですよ。 もうすでにすごい数上がってるらしいな、数百とか数千とか。 でもこれ恐らくそのうち本当に人間たちが全然追いつかないようなスピードでAIが論文を書いてそれを読むみたいなことになってくる。 最初はまださ、人間の言葉で書いてくれてるかもしれないんだけど、 そのうちAIたち当時は私別に人間が読んでくれなくてもいいから、私だけでわかればいいからやるかみたいな感じで、 AIの指摘言語、プライベートラング字、これはビットケースタインによってはないことになってますけど、 そういうものが出てくるかもしれないと。 そうなってきたときにますます人間それを理解したり、透明性を持たせたり、ブラックボックスから出すみたいなことができなくなってくるわけでしょ。 そういう異様に高い能力を持ったAIが出てきちゃったときに、 彼らが何をするか、これは悲しむ意図を持ってやるわけじゃなくて、 別動画でね、偶然起こったことを後出しじゃんけんで利用するような体育の滅びへの道ってのもあるかもしれないなってことを言ってます。 # 東京湾の船。 昨日、5時間以上遅れてですね、6時間近かったのかな、遅れが。 11時近くですね、もう10時半回ってた間に着いたんですが、 その時千葉川からこうやって降りていく時に、東京湾に船が本当にたくさんあって、 こんなたくさんあったなぁと、何か沖で待機しているというか、停泊しているのかなぁ。 その光がとても綺麗だったので、写真をパチッと撮りました。 人が生きているって良いことですね。 大けぶれに今日も一日も健やかにお過ごしくださいませ。 文献長でした。 もっと見るもぎけんの脳ラジオ茂木健一郎00:331.びっくり。04:482.メンバーとの対話。10:013.リーマン予想。00:364.東京湾の船。コメント感想・質問・応援メッセージを書こう はっちゃん45分前先生、きのうは6時間近くも飛行機の出発が遅れたのですか。それはそれは、お疲れ様でございました。日付けが変わるころ日本へお帰りになられたとのこと。にも関わらず、今朝も早くから脳ラジオ収録ありがとうございました🙏チャプター1で「まさにシンギュラリティの中を生きている。人間的な価値をますます大事にしていかないと。この脳ラジオはそういう場所かな、と思います。」とおっしゃってくださったのを嬉しくお聴きしました。それから、Adoさんが幼稚園をお辞めになったエピソードにツボっておられたのが面白かったです😊返信 Righty(らいてぃ)5時間前お疲れ様です🙂↕️師匠😭 TikTokご覧になってくれてありがとうございます🙇♂️💦感謝しかないです。あと、名前は本名ですが、ひろだったり、バイポーラレインボー🌈だったり、らいてぃだったら、貴重な先生の作業メモリーをミクロではありますが、スペースを取ってしまうので💦💦Rightyにまた戻しました。気軽にらいてー。らいてー。とお呼びいただければとても光栄です❤️返信 はっちゃん7時間前メンバーさんへ本日アップと、公開された動画です。リーマン予想解決の衝撃。https://youtu.be/qoLPEF5q6io?si=1Bllx8ogeQQp95fI ドパガキもいろいろあるよね。https://youtu.be/aCPftxqH794?si=Kf_h-ZxcHjhoL8gg 明るい加速主義。https://youtu.be/LuuZ2vu9_Ts?si=Yhh-u45WTVXhjJls1返信 小林英典13時間前茂木先生、「アームストロング船長の横にAIがいた」という喩えに、今回の出来事が持つ光と影が凝縮されているように感じました。リーマン予想の解決という「知の月面着陸」において、人間とAIが肩を並べて第一歩を刻んだ光景は、人間が知のフロンティアの「当事者」としてAIと並び立てる最後の栄光なのかもしれないのですね。(-_-;)1返信 大野美波15時間前よく考えれば、悪用が心配というか悪用するヤツが間違いなくいるだろうことが問題であって、わからないことがわかるようになるのは純粋に知的好奇心という意味でもいいことですよね☆1返信 もっと見る
びっくり。メンバーとの対話。リーマン予想。東京湾の船。 16分・16時間前・ 781再生AI目次AIによるリーマン予想解決の衝撃AI時代における人間の価値と表現AIの驚異的能力とデュアルユースの懸念人類を置き去りにするAIの思考回路旅路の終わりに感じる生命の輝き
空港。メンバーとの対話。AI時代の人間価値。アインシュタイン。 15分・昨日・ 931再生AI目次AIの自由意志と悪用リスクの懸念AI安全性を再考する「後付けの合理性」大規模言語モデルの黄金平均とその限界人間独自の「偏り」が生み出す価値AI時代を生き抜く個性の重要性
17キロ。メンバーとの対話。後出しジャンケンのAI。ワシントン動物園。 15分・一昨日・ 1,106再生AI目次17キロランニングと健康確認メンバーが問う意識の起源とAIAIによる後出しジャンケン戦略の脅威人間の行動から見るAIの後付け戦略ワシントン動物園での癒やしのパンダ
NVIDIA。メンバーとの対話。生物と意識。ハメロフさん。 16分・11月18日・ 1,320再生AI目次NVIDIAを巡る情報錯綜と中国チップ疑惑「私が私であること」メンバーとの深遠な対話意識の生物学的基礎を巡る議論の核心脳内のクオリア:分子レベルの複雑な探求ハメロフ氏の意識研究とサンフランシスコ新展開
霞ヶ関。メンバーとの対話。私が私であること。トライアングル。 13分・11月17日・ 1,168再生AI目次米政府機関街の知られざる側面酷似する書籍タイトルへの疑問「私が私」である根本的な問い多様な経験から得る人生の深層個人情報と固有性の証明の矛盾
モネ。メンバーとの対話。知の脱出速度。ベーコンの犬。 18分・11月16日・ 1,189再生AI目次モネの絵画が描く生命の瞬間メンバーと語る「諦め」のその先思考を縛る「重力」の正体AIが示す「知の脱出速度」画家フランシス・ベーコンの創造
クラウド。メンバーとの対話。あきらめた人。ツリー点灯。 15分・11月15日・ 1,374再生AI目次クラウド障害が示す文明の脆さFAA運行停止とAI時代の思考潔い諦めがもたらす英知とは諦める勇気が招く意外な展開クリスマスツリーが灯す生命の価値
DC。メンバーとの対話。ハルシネーション競争。外国み。 10分・11月14日・ 1,131再生AI目次「失敗」が示す人生の深淵AI進化とSNSにおける表現の自由LeanとLLMが拓く証明の新時代偉人の発見はハルシネーションか創造性を競う人間とAIの未来
アプリ。メンバーとの対話。やらかした後の人生。葉の色。 15分・11月13日・ 1,249再生AI目次VoicyアプリUI変更とその可能性AI時代における人間の好奇心の重要性文学が描く失敗後の人生の深み夏目漱石が探る挫折からの人間性人生を豊かにする「やらかし」の真価
アベプラ。メンバーとの対話。AI爆発の生きがい。金の盾。 14分・11月12日・ 1,367再生AI目次コミュニティ交流と多様な視点AIによる生きがいの喪失リスク人間固有の「物語」がもたらす希望好奇心が未来を照らす生きがい論金の盾に見るYouTube格差社会
チャプター1で「まさにシンギュラリティの中を生きている。人間的な価値をますます大事にしていかないと。この脳ラジオはそういう場所かな、と思います。」とおっしゃってくださったのを嬉しくお聴きしました。
それから、Adoさんが幼稚園をお辞めになったエピソードにツボっておられたのが面白かったです😊
師匠😭 TikTokご覧になってくれてありがとうございます🙇♂️💦
感謝しかないです。
あと、名前は本名ですが、ひろだったり、バイポーラレインボー🌈だったり、らいてぃだったら、貴重な先生の作業メモリーをミクロではありますが、スペースを取ってしまうので💦💦
Rightyにまた戻しました。気軽にらいてー。らいてー。とお呼びいただければとても光栄です❤️
本日アップと、公開された動画です。
リーマン予想解決の衝撃。
https://youtu.be/qoLPEF5q6io?si=1Bllx8ogeQQp95fI
ドパガキもいろいろあるよね。
https://youtu.be/aCPftxqH794?si=Kf_h-ZxcHjhoL8gg
明るい加速主義。
https://youtu.be/LuuZ2vu9_Ts?si=Yhh-u45WTVXhjJls
わからないことがわかるようになるのは純粋に知的好奇心という意味でもいいことですよね☆