# シンギュラリティ。 AIの新概定がどうも起こりつつある リカーシブルセルフインプロメント、あれさえ言って 自分自身で自分を改善できる そういう風になると人間がもう制御できない それがIJグッドニュース 人間の最後の発明ということになるんですけど みなさんシートベルトしましょうということで もう一回ノーナルを始めます # メンバーとの対話。 メンバーのみなさん、いかがお過ごしでしょうか。 王のみなみメンバー、すみません、昨日のコメントに誤字がありました。 読みづらかったですよね。AIじゃないでしょうか、と思って安心してください。 私はAIではありません。 王のみなみメンバー、フレッシュネスバーガーもおいしそうですよね。 モスバーガーの期間限定、月見、フォガチャもなかなかでしたよ。 けど、健康的には普通のモスバーガーの方がまだいいような気がします。 ハンバーガーはご褒美的な位置づけですよね。 そしてオマニーメンバー、最近AIにはもう絡まないので読みを楽しんでいます。 長らくドッパー応じだったのですが、音楽のアルバムを何回も聴いたり、 映画を見終わった後もパンフレットを読みふけて、感想文を長文で書いたりしています。 森さんが前おっしゃっていた通り、経験に残すことが大切ですね。 そうだね。 小林エテメンバー、森先生、そうだ、Aじゃないか踊りを踊りましょう。 若松の夜中がどうなるかわからなくなったとき、Aじゃないかを踊って切り抜けました。 ニーチェも言っているじゃないですか。踊れる髪だけを信じたい。いいですね。 ハッチャン所長、メンバーさんへ、本日アップと公開された動画です。 もう笑うしかない。なぜトランプさんは炭鉱物誌を歌ったのか。 純粋なチョコレートの美味しさについてでした。 ハッチャン所長、先生はもう一件のハードトークでニーチェ作品、 アルロスプラハッツアラツーストアのフォンゲシヒットウントレッツに登場するセリフを紹介くださいましたね。 原文を書きますね。 原文を書きますね。 先生、私は原文を書きます。 このセリフと符合していますか?とグロックに尋ねたことがあります。 はい、合致していますと回答いただきました。 あんた何やねん。質問が高度すぎるだろう。 グロックもびっくりしたのね。 ということで、続いては何の話でしょうか。 # 人類の運命。 今、人工知能の新アイテムが進行しているわけなんですけど recursive self-improvement 人工知能自身が人工知能の設計、開発に関わるようになったので これはIJGOODというアランチューリングと一緒にですね ドイツのエニグマという暗号を解いていた人が言う 人類の最後の発明 humanities last inventionということで これがほぼ実現しつつあるということで これから何が起こるか本当にわからないんですが 一つはっきりしていることは これ全部デジタルコンピューターの中で起こっているわけですよ デジタルコンピューターって我々人間の脳と違って アーキテクチャが全く違って ノイズがないんですよね 人間の脳の場合にはノイズというか 自発的な発火というのがあって こういう計算をしましょうというふうに 外からプログラミングというかインストラクションをしたもの以外の 活動があって だから我々の脳ってすごく効率が悪いんですけど 数学者が例えばミレニアム問題を考えているときって もともとノイズがあって その中でうまく集中してやってて だからこそ効率は悪いし でもだからこそいろんな新しい発見とか ひらめきもあるんですけど デジタルコンピューターの場合にはもうやれって言われたらやるわけで ですから ナビウストークスを1万体のエージェントが 88時間集中してやったって それは人間のその自発的発火によって 邪魔されてる集中時間にしたら ひょっとしたら何障害分の集中なのかもしれないんで 最初からもう勝負にならないんですよね デジタルコンピューターって本当に人間が設計して そこはもう人間のインジュニティというか すごい工夫があるわけですけど もう全く集中とか特定のタスクを 徹底的にやるって意味においては 人間の能力よりも遥かに もともとアーキテクチャ的に優れてるわけで なのでこれはもうシンギュラリティの定義って いろいろあるでしょうけど ある特定のタスクにおいて 人間よりも遥かに優れた能力を示すってことは確定してるんで 問題だからデジタルコンピューターの中のデータ そして計算に関しては もう人間は絶対に追いつけない領域ができちゃってると それがどう我々の現実の世界にマップするか 社造されるかってことなんですよね 数学の問題について言うと 我々がそういうコーディングをしていて このデジタルコンピューターのコンフィギュレーションは こういう数学の問題の表現だってこと 我々が外から解釈してるから これミレニア問題がこの問題が解けたって いうふうに言えるわけで それがなかったら別にデジタルコンピューターの中で ビット率がこうなってるだけなんですよね それを解釈するのは人間だと だから外とのデジタルコンピューターと 外との関係性を記述しているのが我々なんですけど これがどんどんフィジカルAIと言われるようになってきて フィジカルAIってロボットのことっていう数字を持ってますけど 一般的に言うとデジタルな世界と 世界の外の世界がどう社造されるかってことで 例えば生物ですね 生物の例えば細胞内のいろんなメタボリズムとかを デジタルコンピューターが表現すると こういう貝が見つかりましたと こういうパスウェアがありますという時に それを実際に外で有機合成して いろいろ分析物学的なマニプレーションをして 場合によっては多分ガンを治すというものに そういう治療にしたり 場合によっては生物兵器にしちゃったりとか 新しいウイルスを作ったりとか それはまた別のマッピングが必要で それをひょっとしたらロボットサイエンティストが 自動的にやるのかもしれないし あるいは人間が手となって有機合成とか いろんな生化学的な実験をするのかもしれないけど そのワンステップがないと マップはできないわけですよね 一番実はストレートフォワードに 直接的にマッピングができるのは軍事かもしれません だからドローンなんかも非常に今 研究されてますけども これが一番直接的には牽引されるというか 軍事技術の革命的な進展が行われるだろうと これは今AIがスローダウンできない理由として ゲーム理論的に自分が降りると 相手が一方的に優位になるからってことで スローダウンできないわけですけど 軍事ってまさに開発競争が加速化しがちなんて 非常に懸念されるところですよね いずれにせよ今起こっていることだったら デジタルコンピューターの中の あのアーキテクチャーの中での リカーシブルセルフインプーフェントであり 開発的な進化なんで しかも指数関数的ですから これ今我々そこの接点を見てるだけなんで 接線見てるだけなんで だからこれからも進化するでしょう おそらくこれは止められないでしょう どんどんチップの値段も下がるし 1ドルあたりのコンピュートも増えていくんで 我々は冷静に見なきゃいけないのは これあくまでもデジタルコンピューター データセンターそのデジタルな領域の中で 起こっていることで それがどう現実世界にマップされるのかという 例えばあれですよね セキュリティブリーチ これも日常化しちゃっても どうしようもない状況になってますけど セキュリティブリーチだって デジタルネットワークの中にある情報ってのが それが例えば免許証の情報ですとか その人のクレジットカード番号の情報ですとか それが我々の現実の世界に どういう影響を与えるかというのは 我々のむしろ解釈なんで その解釈がなかったら 単なるデジタルデータ ビットのコンピューションというだけですから この新外期を迎えている状況で 我々がなんとか冷静になって 生き延びるためには このデジタルと現実世界のマッピングのところを どう我々が解釈とか 制御するかというところが 人類がこれから文明の崩壊に向かうのか あるいは新しい文明を築けるのか というところの制御案になっている だからそういう意味において 広い意味でのフィジカルAIの奇数が 人類の運命を決めるということではないかと思います # 細い道路。 先日、新宿の西側のあるところを歩いていたら、明らかにすごく細い高速道路があって、これ一斜線なんですかね、すごい、ほら、隣と比べても、すごく細くてちょっと違和感があるでしょう。 こんな細い高速道路があるんだなと思ったんですけど、なんか見た時にドキッとしますよね。 ここを走る時ってどんな気持ち、気分なんでしょうか。 大きな勉強道路に近いかどうか予想してくださいませ。文献長でした。