# シリアスゲーム。 もう一軒のNO RADIOです。 サイバーセキュリティがシリアスゲームになっちゃいましたね。 もともとシリアスゲーミングって勉強のために何か真面目なことをやるみたいなイメージだったんですけど、 本当にこれでシリアスゲーミングになっちゃって大変な話になっちゃったんですが、 うーん、まあ、うーん、まあ頑張りましょう。 ということで続いて、もう一軒のNO RADIO始まります。 # メンバーとの対話。 メンバーの皆さん、いかがお過ごしでしょうか。 んーと、待ってよ、どっから来てるのかな、これ。 ほんまにメンバーからかな。 ちょっと待って、俺、どうかなかなっちゃったよ。 AIを使って悪さをすることは一概に悪いと言えず、 AIの発展に寄与するものじゃないかと思いました。 中国のAIもアメリカを追い越して生きていると言われますし、 敵がいなければ発展がないんじゃないかと考えました。 AIの取り組みを築いた人は一時的ですが、 アナログな生活を好むようになってきていると言われていますし、 人それぞれなのかなと思っています。 なるほどな。 青空メンバー。 個人の倫理観が試されるとき、流されないように気を付けます。 ねえ。 そして、霜像の葛飛さんメンバー。 うん、え、死ぬけどよ。 斬る十億年後に通して続くと。 そう思うじゃ足りないのかな。 いや、そう思うと少し迷いながら。 西を持てないながら打てたのだから縁に斬る。 な、僕も。 大野南メンバー。 速さでは敵わないのでしたが、人間にできることは寄り道ではないでしょうか。 なるほどな。 小林英典メンバー。 森先生、あいつらは必ずやってきて、私の以前やってきた印刷業は全て廃業になりました。 え、そうなの。 英典印刷業やってて、それ廃業になっちゃったの。 わあ、デジタルという勢力がどんなに止めようとしても止めるものじゃない。 だから自分の頭で考え選択する。 新しい領域だけは絶対手放してはいけませんね。 本当ですね。 昨日、長野の中学校に伺って授業をしたんですけど、 テレビ新集さんが本当に素晴らしい動画にしてくださいまして、 昨日ヤフーニュースで紹介していただいてましたけど、 よく立派に編集するなって、さすがプロすごいなと思いましたね。 現場にいた人間としては現場って俺がやってたんだけどさ、 テレビ新集の超絶編集に驚きましたよ。 ハッチャン署長メンバーさんへ、本日アップと公開された動画です。 あいつは必ずやってくる。 一打書、ミリフィーユのクォリア。 ゼロか1にするのではなくてでした。 そしてハッチャン署長先生、なんと推奨券、 今朝午前3時に収録してくださったのですね。 早すぎるお仕事にお出かけですのに、ノーラジオの配信ありがとうございました。 コメント返して、僕は蝶が好きだから、ペルーと仲良くなりたいんだよねと、 おっしゃってました。 ペルーでもこちらでしょ、生きがいスペイン語版。 生きがい戦車が人気ですよ。 そして、なごみスペイン語版。 も、人気です。 スペイン語ができたらいいな。 ということで、続いては何のお話でしょうか。 # 人類の歴史の岐路。 人工知能が発達すると、例えば、がんの治療ができるかもしれないと。 今、がんって多くの方が苦しんでいらっしゃるわけですけど、 因子が非常に複雑やね、遺伝子だとか、エピジェネティック遺伝子のいろんな収縮とか、 それから細胞のメタボリズムの微妙なバランス、そこに様々なファクターが絡んでいて、とても複雑なプロセスなんですけど、 がんの克服がひょっとしたら人工知能を使うと、人間には理解できないとしてもできるかもしれないと。 ペイル賞を受賞した数学者のテレンスタオが、がんの治療が人間には理解できないんだけど、 人間の医者にはできるって言うようになったら、そういうAIができたらどうするんだっておっしゃってましたけど、 それは使うでしょうと、理解できなくても。 いわゆる説明可能なAI、エクスペレナブルAIっていう概念ってとても大事な概念なんですが、 最近では限定的な意味になってきているのかなと。 良いことがあるんだったら、理解できなくてもそれは使うよねと。 よく言われますよね、ペニシリンがどう効くのか、完全に理解されているわけではないとか、いろんなこと言うじゃないですか。 飛行機がどう飛ぶのか、完全に理解されているわけではない。 そういう意味ではAIもそういう風に使われていくんだと思うんですが、 良いことができるAIって言ったら悪いこともできるわけですよ。 がんの克服ができるくらい強力なAIっていうのは、生物兵器も作れちゃうかもしれない。 様々な新しい表現体を作れるでしょう。 そういう強力なAIがあったら、いくら人間は善意に満ちた存在と言いながら、 世の中を乱したいとか、テロリストの方とかいらっしゃるでしょう。残念ながら。 だから今問題になっているサイバーセキュリティ、本当にシリアスゲーミングという言葉があって、 ゲーム、僕はいいと思うんですけど、よりシリアスで真面目な目的のためにやるゲームをシリアスゲーミングと言いますよね。 例えば何かを学習するとか、そういうことをシリアスゲーミングと言うわけだけど、 サイバーセキュリティが一番シリアスゲーミングになっちゃったね。本当に。 それをやっていらっしゃるセキュリティ担当の方、本当にお疲れ様です。 想像するだけでも本当に大変だなって思いますが、 サイバーセキュリティなんかも、もともとはエージェントAIが先日、 ラビエストークスの法定式に関するミレニアム問題を一番大のエージェントが88時間攻撃して解いたわけです。 そういう良いことというか、真実、真理を解明するためにも使われるけど、 一方である組織、企業のセキュリティを破ろうという、脆弱性を見つけて入り込もうという、 そういうランサムエアを入れようということでも使えちゃうわけでしょ。 良いことに使える強力なAIというのは、悪いことにも使えるわけです。 もともと大規模言語モデルで、割を効果というのが主体でいて、 皆さん、例えばチャットGPTとかクロードとか使われているでしょ、ジェミナイとかでやり取りしていて、すごく賢い。 基本的に人間に対して善意に振る舞うように作られているわけなんですけど、 いろんなやり方で、プロンプトインジェクションといって、ある特定のプロンプトを注入したりとか、 いろんなことで、割をというキャラクターがいるじゃない。 もともとはいいキャラクターとして作っていたとしても、 いろいろインジェクションしたら、その中に悪い割をというキャラクターが出てくるかもしれなくて、 人間と相互作用して、われわれがこの人賢いなとか、理解力あるなって納得できる程の知性を持つということは、 いい人だけを理解していたらできないわけですよね。 われわれって社会の中でいろんな人に出会うじゃない。悪い人にも出会うじゃない。 悪い人に出会った時に騙されたりしないように、われわれの中に悪い人の内部モデルがないといけないわけでしょ。 だから善人に振る舞っているAIも、中に悪い人のモデルがあるわけです。 善人のAIモデルって言ったら、悪い人のAIモデルが中に入っているわけです。 マトリョーシカ人形のようにね。 だから良いことをできるAIの中には、ものすごく悪いことができるAIの内部モデルが入っているわけです。 それぐらい強力な知性ってそういうもんなんで。 知性ってのはそもそも善悪と関係ない。これが困ったもんなんだな。 知性っていうのは善悪と独立しているから。 だから強力な良いことができるAIを作るってことは、強力な悪いことができるAIができるってことなんで。 結局AGIとかASIを作るって言っていることは、このように強大な悪を作ることと同じだということが、今明らかになっているわけですけど。 どうしますか。本当どうしますか。 人類は歴史の軌道に来ていると思うんだけど、このように強力な悪を作ることを我々は結果としてやっているのかもしれなくて。 人工知能ってそういう意味方はみんなしないけど、そういうことだと思う。論理的にはね。 このように強大な悪を作ることを一生懸命我々はやっているのかもしれない。 本当人類は歴史の軌道に立っているなと。どうしますかね。みんなで考えないといけないと思いますよ。 # 櫻ヶ岡中学校のみなさま、ありがとうございました！ 昨日、中野市立桜川中学校を訪れたんですけど、皆さん本当にありがとうございました。 皆さんの温かい歓迎、嬉しかったですし、授業楽しかったよね。もっとやりたかったね。 本当に楽しかった。テレビ新集の方が取材してくださって、ああいう形で報道してくださったようですが、 本当に一生忘れません。みんなも元気で頑張ってね。 大きなベレン、今日も一日、かわいかにお過ごしくださいませ。文献長でした。