# シラス課題。 もう一件のノーラジオです。 シーラスの課題をですね、ちょっとあの、 預言者の歌よりもちょっと急いでやろう、今やろうと思ったのがありまして、 ちょっとその文字列を書くと、またいろいろあれなんで、 それがなんかいろんなご意見いただきましてね、なんかまぁ、 なんかよくわかんないんだよなぁ、こう、ああだこうだっていうお書きになってるんだけど、 本当かなぁと思って、なんかちょっと確定事項ではない、 そういうレピテーションがあるっていうだけで、単に動画ですからね、 動画でその動画自体は、なんか、うーん、普通の動画だよなっていうか、 いや、よくできてるんですよ。よくできてるんですけど、 それ今流行っててね、小中学生とか。 で、うーん、なんなんだろうなぁ、よくわかんないんだよな、背景が。 だから、その背景とされてることを、いろんなことをおっしゃってるんだけど、 ちょっとそれも本当かどうかわからないみたいな、どこまで本当かどうかわかんないみたいなね。 うーん、まぁちょっと今週の金曜日ありますので、もし興味ある方は見てみてください。 予言者の歌はちょっと伸ばしたり、そうした何人かの主要メンバーが間に合わないと思ってたんで、 助かりましたって言ってきましたけどね。 えー、ということで、もう一回ノーラジオ始まります。 # メンバーとの対話。 メンバーの皆さんいかがお過ごしでしょうか。 下園勝久メンバーかな。 がんの倦怠になってもよいよ。 なるほど。 それから下園勝久メンバー。 えーと、そう悪いかもしれない。 俺、原案がなんで気にするんだと思う。 もしかしたら言ってることそんなに理解できなかっただろう。 エデンの園で知恵の実を食べたけど食べなかったに更新する方法があるか考えた。 オマニーメンバー。 現在の仕組みでは悪のAIに善のAIが対抗するという構図が全く機能しないのではないかと考えています。 考えもしなかった新しい人間がゼロから生まれてくる方が自然なのかなと思います。 えーそしてオゴノミナミメンバー。 最初は火からそしてナイフに爆弾に善悪どちらにも使えるものがどんどん大きくなっていく。 それが人類の歴史なんだと思います。 素朴さえ戻っていいような気がするのですが夢物語なのでしょうね。 えーとハッチャン社長メンバーさんへ本日アップと公開された動画です。 私たちは人類の歴史のキロに立っている。 チップス袋の失敗。 えー小林エデンメンバー。 森先生なんとなんと私の職場のすぐ近くの桜川中学にいらしてたわけですね。 そうなのエデン近かったの? あにゃまー。 びっくりしました。 グォリアラボでイチラカキオウのお土産買ったきいて もしかしたら中野にいらしたのかなと思っていましたが そう近くにいらしたと思いますんでした。 とてもいい授業ができてよかったですね。 またお会いできる日を楽しみにしております。 あにゃーそうだったのか近かったのねー。 ゆかメンバー。 AIが悪人の手に渡らないことを願いますが 悪い人ほど開発して利用するかもしれないなと恐ろしい。 サイバー戦争が激しくなる? 今後どんどんAIが発展するでしょう。 ショーンなのかクローンなのか 人に理解できるかどうか私はどうしたらいいのでしょう。 そしてハッチャン所長。 先生、昨日は長野市の桜ヶ丘中学校で 出張授業お疲れ様でございました。 デビュー審査の記事によりますと 森様がこれからの授業の活用をテーマに 集中することやレッドカーをもらいに帰ることの 大切さを伝えましたとのこと。 生徒さんのご感想はめっちゃめっちゃ面白くて 堅苦しい授業みたいな感じになるかなと思っていたら 本当に面白い先生でめちゃくちゃ面白かったです。 好きなことをしているくらいの集中力で 勉強するなといいなと思いましたと 先生がおっしゃった通り 饒舌編集の放送でした。 大したもんですよね。 テーブルマンの方々の技術として ここで素敵だと思います。 ということで続いては何のお話でしょうか。 # 人類は詰むのか？ 僕はね、人工知能の未来って明るくなると信じてるし、そのためにいろいろ頑張らなくちゃいけないと。 僕はドゥーマーじゃなくてブーマーになりたいと思ってるんですけど、それでもさすがに最近のこの状況はやばいなと思っていろいろ考えてるんですよね。 一つ思うのが悪意ってのは小さく始まって大きくスケールしちゃうという事実です。 今サイバーアタックとか大問題になってるわけなんですけど、サイバーアタックされる方ってどこにいらっしゃるかわからないんですよね。 この世界のどこかにいらっしゃるわけですよ。 その方は個人、一人である可能性もあると。 そういうローウルフ型って言うんでしょうか、そういう方がどこでいつ現れるか事前にはわかりませんよね。 そういう方が今AIという、昔からそういう方がいらっしゃると思うんですよ、悪意持たれる方ってのはね。 だけどそれを拡大する方法がなかったわけでしょ、技術的にね。 なんだけどAIによってそういう方が単独で巨大システムの脆弱性を見つけて、その中に侵入してランサムウェアを置いてとか、いろんなインフラが整っちゃってるわけ。 インターネットもそうだけど、AI自体がインターネットがあったからここまで発展してきたってことがあるわけでしょ。 インターネットがなかったらそんなに膨大な学習データを集めることもできなかったわけだから。 それからランサムウェアを置いて、身の白金なんかを要求して、それを支払いっていうのが足がつかない暗号資産、クリプトカレンシーであるという、こういうインフラも整っちゃってるわけでしょ。 クリプトカレンシーを作った方々っていうか、佐藤仲本さんとかそういう方々は別にそういうことを思ってたわけじゃない。もっと理想的な考え方でやってたと思うんだけど、 そのインフラがあるから、例えば昔だったら、そういう身の白金の受け渡しでいったり現金でいったりとか、それで捕まっちゃうリスクがあったわけだけど、暗号資産だとそのリスクが一気に減るわけでしょ。 だから良かれと思って作ったシステムがね、インターネットとか暗号資産だとか、それからAIも良かれと思って、数学の問題を解くっていうのは、数学者にとっては大変なことだけど、人類全体にとってはいいことでしょ。 例えばリーマン予想がもし分かっちゃったら、それはすごいことだしね。 TNPも最近進展があるという話も聞きますから、これは本当にすごいことですから。 知能拡大という意味では良いことなんだけど、全体的に良いことを目指して作ってきた技術がですね、悪というのは非対称なんだよね。 どこかに誰か一人でもいらっしゃると、あるいは相手の人数がいらっしゃるとですね、その悪意は拡大できちゃうわけですよ。 しかもそれがインフラが揃っている。いろんなインターネットとか暗号資産とか、そういう状況を迎えているので、これは大変なことだなと思うんですよ。 いわゆるフロンティアラボの方々ですよね。オープンAIとかアンソロピックとかいう方々も、別に全然悪意を持って作っているわけではないですよ。当然なことだからね。 AIを人類の文明を発展させるようなものとして、本当に伝説のプロメテウスがもたらした火のようなものとしてAIを作っているわけですよ。 ところが火も悪意を持って使う方がいらっしゃいますよね。 なんだけど、インターネットとか暗号資産とか、そういうインフラのせいで、おかげでというか、悪意がスケールして拡大しやすい状況になっているわけですね。 善意ももちろんスケールして拡大するかもしれない。なんかこういうことがあるので、ちょっとクラファンお願いしますとか、この人を助けましょうというので。 それは善意が、ペイフォワードという映画もあったけど、善意も拡大するかもしれないけど、悪意も拡大できちゃう。その影響はね。 で、非対称なんだよね。善意と悪意って。善意ってどっちかというと、エントロピーを減らすっていうのかな。この世の中をこう整えていきましょうといって、整えるのが善意でしょ。 悪意は逆で、この世の中を壊しましょうということになるわけですよ。例えば、一人一人の人の所有というものがあって、個人情報を持っていって、それをプライバシーで守るとか。 あと、財産ね。お金とか株とか、そういう財産は、この人はこの人が持っている。これはこの人が持っていますという。知恵がないと、やっぱり正式な社会で成り立たないし、この社会で成り立たないわけでしょ。 で、それを今、インターネット上でそういう人の株式口座を勝手に売買しちゃったりとか、個人情報漏洩させちゃったりとか、それからこれからひょっとすると金融資産なんかも狙われる可能性が出てきているわけだけど、それって一言で言うと、エントロピーが増大する方向というか、秩序が壊れる方向にいっているわけさ。 秩序を作る側の操作よりも、秩序を壊す側の操作の方がたくさんあるわけでしょ。そうなると、悪意がどこにそういう方がいらっしゃるかわからないという状況で、拡大するシステムを作っちゃっているというのは圧倒的に非対称なんだよね。 だからそれを守るホワイトハッカーの方々よりも、悪意のハッカーの方が簡単にシステムを壊せる。システムを守る側は大変。そこにすごい非対称性がある。 いろいろ考えると、なかなかAIというツールを作っちゃった俺たちって積んでるかもな。俺たち積んでるかもしれないということですよね。ひょっとすると。人類積んでるのかもしれないなと思っていて、そこら辺をちゃんと整理しないと、 今、ストレートな気持ちで素直な気持ちでAIの行動化を応援するというか、もっと頑張ってやっていこうという気持ちになれないよね。こういう状況になってくると、ひょっとしたら知性というものについて、俺たちもうちょっと考えておいてもいいのかなと。知性の本質について。 特に今言った悪意と善意の非対称性というのかな。どんな小さな悪意を持った人でもそれを拡大しちゃうシステムがひょっとしたら、AIだけじゃない。AI、インターネット、暗号師さんみたいな一連の技術のセプトですね。これがそういうインフラを作っちゃってるわけで、そのことを一回ちゃんと考えないと、ひょっとしたら人類積んじゃう。 という状況にあると私は今思っています。 # ゾウムシと私。 昨日ですね、岡山県立美術館で講演会があったんですけど、 そこで、ゾウムシの拡大写真を前に、新庁舎の編集者がアタッチマホをこの格好をしろとしたところなんですけど、 面白いよね。 僕もゾウムシになりました。 OKペデン。今日も一日健やかにお過ごしくださいませ。 前検長でした。