# ジョイス。 もう一件のノーラジオです。 ジェームス・ジョイスのユリシーズをずっと読んできたんですが、 ついに最終章に入りました。 モリーという女性のモノログ独白の章なんですけど、 びっくりしたね、ジョイスはね。 この世にこんなものがあるのかっていうか、 こんな賢い人がこんな小説を書いていたのかって、 普通にあらすじを紹介されているのでは全くつきない。 これについては読み終わった後はゆっくり話したいと思います。 ということで、もっと早くユリシーズを読んでいればよかったなと思いますけどね。 これは翻訳不可能だと思うので、英語でできれば読んだほうがいいですけど、 ユリシーズを読む英語力をつけるのはなかなか大変かもしれません。 ということで始まります。 # メンバーとの対話。 メンバーの皆さんいかがお過ごしでしょうか。 横丸メンバー、個人情報はすべて漏洩するものだと10年ぐらい前から思っていました。 大量の個人情報の中に運良く悪用されず、思い入れば幸いぐらいに持った方がいいですね。 鬼滅情報は本当に大変だと思います。 インターネットに接続しないでローカルで管理したとしても、記憶装置を盗まれる可能性もあるので、 一人一台PCではなくて、スチームで一台大モニターで作業することを提案したことがありましたが、 馬鹿にされたことがあります。 電脳ウナギメンバー、お疲れ様です。 AIの暗黒面の表れですが、何かやっちまった感満載のAI開発ですよね。 そもそも私はAIなんかいらない裸足だからね。 ツイチン羽織り姿かっこいいじゃないですか。ありがとうございます。 オオノイミヤミメンバー、私だったらAIを突発的知能と呼びます。 または大規模言語モデルを使っているので、精密パズルの職人型知能と言いたいです。 飛行機と一緒で実はAIも仕組みはよくわかっていないけどできちゃった系みたいですよね。 うまく使いこなすのは大変だと思います。 ユカメンバー、IoTセキュリティ、AI開発は止められないと思いました。 上に上に行かねば。 だけどどんどん人の手を離れてしまい、 彼らが人をどうでもよく考えるようになると、 AIの仕事が今よりバレる気がします。 彼らは情報操作は人を遥かに超えスーパーなので、 それに鍵をかけるのはかなり難しいのではないかなと思います。 声や指紋、目など人それぞれにしかない特性を生かすしかなくなるかしら。 でもそれらが情報に変換されたら同じ。 何をどう考え行動してくるのか。 情報でなく物の時代に。 ねえ、静岡ポケットピースメンバー、スパークの話面白かったです。 逸脱を前提として行動し、 失敗もしながらコントロールを学んだ人の話は面白いし、 変の中でも生き残れる。 なるほど、言語化してくださりありがとうございます。 私も含めてそもそも逸脱の方法がわからなくなっている人妄想です。 日々の実践はこうしたい、こっちのが良くない、 見逃さない、自分の感情を見据える、 頭の中の会話、私はこう思う、 でも規範はこっちを観察する、などでしょうか。 まずはうちの子を改めて観察してみます。笑い、いいですね。 そして、ひろメンバー、 失笑のうちの部分、 あなたが考えていることは外に出ませんわ。 まさに意識のアップロード批判に思えました。 夏野健社長がネットワーク論で、 昔はラストワンマイルドだったが、 今はラストワンフィートまで来ていると10年以上前に語っていましたが、 LNMが爆弾しても、AIが体の一部になっても、 私の考えが外に出ることはない。 それは外に出た瞬間に違うものになるからですよね。 今はまだまだそれ以前で情報が流通したら、 こうやってフェイスティックですが、 技術では超えられない、 ここにいるバカの壁は永遠にある。 そして、はっちゃん所長メンバーさんへ、 本日アップされた動画です。 天井でセキュリティを巡るAIの戦いが行われているその下を、 私たちは戸鉢で受けないように生きていく、そんな時代。 そういった共鳴さんについてでした。 そして、はっちゃん所長メンバーさんへ、 本日公開された動画です。 昇進者が地下鉄に乗ると、でした。 えーっと、 安寿メンバー、そういったさんが有名になる、 ずっと以前にコンタクトを取り、 コンサート開催についてお話したこともありました。 あっという間に有名になりましたが、 その応援する気持ちがなくなってしまいました。 私の応援は不要だと、 先生が応援されていると疑って、 そんなことを思い出しました。 我が昔の生徒の家は、 富士錦酒像というのがあり、 パイでも頑張っているようです。 そっか、そして小林英典メンバー、 模擬先生、 AIライメントが大切だとずっと思ってきましたが、 開発は予期せぬ方向へどんどん進んでしまって、 手のつけられない状況になってしまいましたよね。 あとは、量子コンピューターの開発を早めて、 セキュリティを何とかしていかないと、 情報があってないものになってしまいますよね。 厄介な時代になりました。 そして、八丁所長、 先生、 コメント返しありがとうございました。 昨日のコメントに、 32の言語に翻訳出版されたご著書、 生きがいすべてを展示してほしいですとお伺いしました。 先生、俺、ちゃんと整理できてないんだよと、 おっしゃったのですけれども、 先生の私物ではなく、 生きがい博物館の スタッフに、 版元から新たに取り寄せて、 展示していただきたかったんですよ。 焦らしてしまって、ごめんなさい。 世界中で読まれている先生のご著書、 ザリテュルブッコウ生きがい、 私も読みました。 ザリテュルブッコウ生きがい、読者の方々と共通の話題があることを 嬉しく思います。 電車に乗って行って、 お隣に座った方が海外からのお客様だったら、 バッグの中に生きがいを取り出して読んでいます。 その方がタイトにお気づきになって、 生きがいワンダフルとおっしゃってくれることを期待しながら、 私バカですよね。 いやいや、バカは拙者でしょう。 私バカよね。 おバカさんよね。 拙者はバカです。 さて、続いては何の話でしょうか。 # AIのコントロール。 人工知能の開発が人類を滅ぼすとか、人間の社会に極めて深刻な影響を与えるという議論がずっと行われてきたんですが、今まさにそれが起こりつつあるわけですね。 情報のセキュリティはもはや、破れることを前提に考えなくちゃいけない時代になったと。 MITOSが非常に有名な形で世の中で献殿されましたが、今のAIの作り方はインテリジェンスというよりは物理的なフォースですね。 同時再発的にエージェントがワーッとやってくるという。 だからこれ、いろんな企業とか組織の情報セキュリティ担当者は本当に大変な状況だと思います。 まあ破れることが当たり前、現実的にこれは破れるというような状況が来てしまっていると。 どうなるんですかね。シートベルトを締めて気を付けましょうというしかないんですけど。 このような状況になった時に従来の社会秩序とかいろんな積み上げてきたものが壊れるじゃないですか。 だからAI開発をやめればいいじゃないかと思うじゃないですか。 あるいはスローダウンすればいいじゃないかと思うじゃないですか。 なんでスローダウンできないのかと。 人間には自由意志が幻想としてはあるわけだよね。 人間には自由意志があってスローダウンすればいいじゃないかと思うかもしれないんだが、 集団現象なんて、なんでAI開発をやめられないのかスローダウンできないのかというと、 人間の集団現象でそれはなぜ戦争が起こるのかとか、戦争がやめられないのかということが非常に近くて、 ひどいだったらやめられるかもしれない。人間がね。 自分を傷つけるようなことをやめようと思って。 集団になると相手がいて、相手とのやり取りってゲーム理論で解析されるわけですけど、 AIをスローダウンするかどうかっていうのは、例えば囚人のジェンマで記述できるわけですよ。 囚人のジェンマってのはご存知の方も多いと思うんですけど、囚人が2人捕まっていてお互いに連絡が取れない状況で、 自白したら自分の罪は軽くなるけど相手が重くなると。 自白しないでずっと黙秘を続けたら、2人とも比較的軽い刑期で出られるわけだけど、 もし相手が両方とも自白したら中程度の刑期になるということね。 だから自分が自白しないで相手だけが自白した場合には自分だけが重くなって相手は軽くなるってことね。 疑心暗鬼になって、もしお互いに信頼していれば黙秘を続けて比較的軽い刑期で出られるんだけど、 お互い疑心暗鬼だから結果として全体性的を選ばないでね。 お互いに自白しちゃって、自白しなければ協力し合っていれば軽い刑期で出られたのが重い刑期になっちゃったのが囚人のジェンマなんですけど、 AIのスローダウンとかAIの開発の中止というのも、ゲーム理論的に解説するとそんな難しい話でもなんでもなくて、 自分がスローダウンしても相手がスローダウンしない可能性があるわけじゃないですか。 アメリカの企業、例えばオープンAIとかアンソロピックがスローダウンしても、 中国の企業、あとイスラエル、ロシア、いろんなところの企業、開発主体がスローダウンしなければ、 こっちが一方的にやられるだけですから。 軍事の開発競争、核兵器とか核ミサイルとかの開発のエスカレーションと全く同じ構造をしているわけで、 これは止まらないですよね。 しかもどんどんGPUとかの性能が良くなっていって、単位時間あたりの計算量も増えていきますし、 単位コストあたりの計算量も増えていきますし、 現時点でこれだけのGPUなどのリソースを使わなければ実現できないというものが将来的にはどんどんコストダウンしていくわけですよ。 だからGPUというのはチップの性能を良くするのをやめればいいじゃないかという話になるんだけど、 大元はそこだから。 だけどそれも競争相手がやめなければ一方的に負けるだけだから、 マーケットシェアを失うだけだから、 これはもう単純に無理なんだよね。 無理なのよ。 AIの開発をやめるのは。 なんでAIについて我々がコントロールできなくなったのかというと、 これはあくまでも人間の話で、人間対AIじゃないんですよね。 人間対AIでAIがここにいて、AIを人間がコントロールできなくなったんじゃなくて、 人間同士で自分の意思ではやめられないような形で競争がエスカレートしているだけで、 これはもう核兵器の開発競争と全く同じトラジェクトリーを辿っているわけですよね。 核兵器の場合はまだヒューマン・インザ・グループで、 これもだから瀬戸際にいるわけですけど、 人類はね、破滅の。 今のところその誤動作とか誤情報があって、 最後に人間が常識を働かせて、 やっぱりこれは敵がミサイルを撃ってきているわけじゃないかなと判断して、 それでギリギリで踏みとどまるという事件が歴史上何回かあったわけですけど、 AIによるセキュリティのブリーチについては、 これもおそらくそういう機構は働かないわけです。 今でもハッカーの方々がいらして、 ランサムウェアとかいろいろそういうので利益を上げていらっしゃったわけでしょ。 ユニコーン企業があるんですね。 1000億ぐらいの売り上げを上げていらっしゃる。 それからそのハッカーの方々でね。 あと信頼と実績のハッカーの方もいらっしゃるって聞きましたよ。 ランサムウェアでちゃんとお金払うと、 ちゃんと復元してくれる人たちがいるって、 それが信頼と実績って何なんだと思いますけども。 まあこれはですね、核兵器よりも今すぐ情報セキュリティのブリーチってのが起こるわけで、 これだからもう来ちゃいましたね。 そういう状況が。 AIを人間がコントロールできなくなっちゃった理由というのは、 これは人間同士の問題で、 ゲームビジョン的に意外と簡単に解析できる話で、 おそらくこれ無理だと思うんですね。 だから本当に覚悟を決めるしかないのかなと思います。 特に情報セキュリティの担当の方々はお疲れ様です。 ご苦労を本当に思うとリラックスできないでしょうが、 少しでも人間らしく生きていきましょう。お互いね。 ここから何が起こるかって本当に分からないです。正直。 まあこういう歴史の罠っていうのかな。 もともとはAGIとかASIとか人工知能好奇心を持ってやってたんですけど、 こういうことになるとは。 私もユドコフスキーとか最初から言ってたって言っても、 ユドコフスキーだってこの事態はそこまで想定してなかったんじゃないかと思うんですけど、 この数週間数ヶ月が非常にクリティカルな時期だと思うので、 人間がなぜAIをコントロールできなくなったのかっていうその真実をですね、 ちゃんと胸に秘めつつ、人間としてあなたがまっとうに生きていく道を探りたいなと思います。 # いわしおばさん。 いわしが焦げちゃうよ。いわしが焦げちゃうよ。ちょっとあんた、いわし食べていっておくれ。 何、うかない顔してんのよ。いわしおばさんね。ここでずっといわし焼いてるからね。いつでも来て。 どうしたの?うん。人間がAIをコントロールできたいのに、AIの開発をやめられない。 あら、そうなの。やめればいいじゃないのよ。なんでやめないの? うん。自分たちがやめても、相手がやるかもしれないから。 そうすると競争で出し抜かれるから。あら、馬鹿なのね、人間って。 そう、AIコントロールできなくなって、世の中むちゃくちゃになって分かってるのに、開発やめられないの。 そういうの、AIのチップの性能を良くするのも、相手が性能を良くするから、その開発競争でやめられないの。 それじゃあ、おばさん思うけど、あれじゃないの。崖に向かってチキンゲームやってるようなもんじゃないの。 相手がマクセル踏んでるから、こっちもマクセル踏み続けるみたいな。あら、そうなの。 JMCDもやってたのよ、それ。大変なのね、人間ってね。 そう、じゃあ人類滅亡しちゃうかもしれない。あら、でもおばさん思うけど、じゃあそう分かった。 AIが、人間コントロールできなくなってるのに、AIの開発競争やめられないってことは、人間、愚かさが、もう好きだわね、それね。 分かったわ、じゃあしょうがないから、いわし食べて。おいしいものでも食べて、人生エンジョイするしかないでしょ。 いわしが込めちゃうよ。 でね、人生エンジョイしてて、これ生き甲斐っていうらしいですけど、最近はね。 生き甲斐を大事にしてたら、意外となんか、あ、そうか、開発、開発っていうほうがちょっと注意、こっちに、生き甲斐のほうに向けましょう。 そうしたらね、意外と人生って捨てたもんじゃないなと思って、じゃあAIの開発もちょっとスローダウンするかっていうのが、 気づいた、俺たちAIの開発しばらくやってなかったの、みたいな。 そんなふうになったらよいんじゃないの。開発自体をやめられなくても、ちょっとスローダウン、他のことに気を紛らして、 さらにおいしいいわし食べて、あと最近気になったあれだわね、おいしい梨とか、おいしいシャインマスカットとか食べて、 おいしいね、あのー、なんだ、あん、おいしいあんね、あのどら焼きとか食べて、そしたらそういうのがいいわよって生き甲斐ってほうに書いてあるらしいわよ。 まあ、いわし食べていって、ね、AI開発競争、やめられないのね、まあでももう少しでも気を紛らして、 ね、おばさんここでいつも待ってるから、もし人類がめちゃくちゃにならなかったら、おばさんここでいわし焼いてるから食べに来て、ね、いわしが焦げちゃうよ、 生き甲斐つらぬいったら、平和とかできるかもしれないわよ、だって競争じゃないんだから生き甲斐はね、 おばさん、いいこと言ったね、生き甲斐は競争じゃないんだよ、いわしが焦げちゃうよ、おばさんずっと待ってるからね、 ほんとにもう、人間は愚かだね。 # ハローキテイ。 先日京都でですね、皆さんが二次会に行こうとしているタイミングで、 拙者は歩いて、えー、ホテルまで帰ったんですけど、 帰る途中に、四条の通りのですね、途中に、 えー、ハローキティさんがいたんで、ハローキティさんと写真撮りました。 ねえ、拙者もう最近ちょっと忙しすぎて、二次会とか行けないのよ、ほんとに。 えー、OKブレン、今日も一日こやかでお過ごしくださいませ。 山本検証でした。