TOPトーク専門家毎朝の思考現在のAIはもう「確率的オウム」ではない08:53 23時間前 3,268再生 問題を報告する 再生する シェアする AI目次確率的オウム説とは何か?推論モデル導入でAIはどう変わったかメモリ機能とAIの急速な進化AIは本当に「意味」を理解しているか?身体性なきAI理解の可能性と課題AI文字起こし(β版) # 現在のAIはもう「確率的オウム」ではない おはようございます。佐々木としなおです。 軽井沢はおとといまでの冷たい雨が一転して、晴れ渡ってね、気温も15度ぐらいまで上がってきてかなり気持ちいい感じです。 でももう秋も本当に終わりで、冬に差し掛かりつつある感じだから、いよいよ人も少なくなってね。 一方でこの時期になると工事の車がめちゃくちゃ増えてきていて、この高原の土地は夏場は別装置で工事をしないというある種の取り決めみたいなのがあってですね、 その分、この秋から冬、春にかけては工事が集中しているというのがあり、いろんなところで作業の人たちが駆けずり回って一生懸命働いていらっしゃるのをね、見ることができます。 今日読んでいた記事で、確率的オウムの話があって、確率的オウムって何かというと、オウムって単に人の言葉を真似ているだけで考えているわけではないよねと。 AIもそれと同じで、生成外というのは人間の言葉をしゃべるように見えるけど、実はテキストのデータの確率分布に基づいてテキストを生成しているだけで、まさにオウムと同じだから確率的オウムだというね。 データを学習して、この文章の次に続く文章は何ですかというのを、統計的に継承しているだけだというのが確率的オウムという話なんだけど、これでもちょっと古いよねと。 確かに2022年にチャットGPTが登場した頃は、まさにこういうテキストの学習だけでデータを生成していたので、確率的オウムという言い方は正しかっただろうなと。 当時、単純な1たす1は2みたいな計算は答えられるんだけど、例えば5桁のランダムな数字の足し算とかにはまったく答えが返ってこない。 なぜかというと、そんなややこしい5桁の足し算を過去にインターネット上で書いた人がいなかったからという話だったわけです。 ところが、これは古い話であって、その後2024年くらいですかね。 2年前、推論モデルというのが実装されて、これは単に統計的にデータから継承しているだけじゃなくて、問題をきちんと因数分解して それによって論理を構築し直しているというようなモデルが出てきたんですよね。 結果として、今だと5桁の足し算をやらせてもちゃんとした正しい答えが返ってくるというモデルがあるからだよね。 この段階でもはやAIは当初の確率的オウムから完全に脱却している。 ちなみにさらに言うと、2025年の春ですかね。 去年の春くらいには、ドリーミングといわれるメモリ機能ですよね。 ユーザーとのやり取りを記憶する機能が現れたことによって、過去の様々な議論、コミュニケーションのやり取りもチキチキしてくれるようになったから 推論モデルとこのメモリ機能によって、人間との議論の内容がどんどん深く、濃くなっていっているというのが現状なんですよね。 だから、今の最先端のチャットGPTとかクロードとかジェミンに対して確率的オウムであるというのはちょっとあまりにも古すぎる。 別にそれでこの記事を書いた人を批判しようというわけではないんだけど 今のAIは進化がものすごく激しいので、その進化をちゃんとキャッチアップしないで適当な批判をするというのはあまり良くないんじゃないかなと。 AIについて考えるなら、スピードの速い進化をきちんと追いかけていく必要がある。 すごいですよね。下手すと1週間単位ぐらいで新しい話が出てきてしまっていて 毎日毎日AIに関する記事を大量に読んでいて さらにはチャットGPTとかにも今最先端のAIはどう変化してきているの?というのを追いかけさせて それをデポートとして提出してもらうように頼んでいるとかしているぐらいで そのぐらいやらないとAIの話はもはや語れないよねという状況になってきているんじゃないかなと思うんですよね。 いまだにAIというのは意味を理解していないんじゃないかということを言っている人たちがいるんだけど そもそも意味を理解していないと言えるのかどうかというのも そう単純な話ではないなぁとは思うんですよ。 いろいろな観点から物事を考える。物事を理解するってどういう意味なのか。 例えば地方の人口減少によって地方の公共交通がどんどん衰退してきている。 これをどうすべきですかというような問いかけをAIにすると 公共交通の現状とか人口減がどのぐらいのスピードで進んでいるのかとか あるいは地方財政がどうなのかとか あるいは高齢者の高齢化がどのぐらい進んでいて それに基づいて移動の自由がどのぐらい阻害されているのかみたいな さまざまな領域を結びつけて それぞれから出てきたデータを基に推論モデルによって 全体の構造を描くみたいなことはすでにAIができるようになっているので これを理解していないと言えるのかどうか 僕はもうすでに十分に理解しているんじゃないかなという風には思うんですよね。 ただ現状のAIだと身体感覚とか そういうものは持っていない。 だから実際に自分がそのAI自身がその理解した上で それに対してこうコミットしたらこういうフィードバックがあるんじゃないかって ある種我々が社会、世界にコミットする時に 返ってくるフィードバックによってまた理解が深まるってありますよね。 そういう身体性によるフィードバックみたいなものは 身体持ってないからないよねとは言えるんじゃないかな。 これも最近世界モデルという言葉が出てきていて 要するに世界というものをある種立体的に理解するみたいな方向にAIが進みつつある。 その一環としてのフィジカルAIってなるわけなんだけど それがどんどん進化してくると 人間の身体性に近いような形での世界の理解っていうのは してくるようにはなるだろうなと思うんですよね。 ただもちろん人間の身体による理解と AIの身体的理解ってのは違う。 なぜかというと人間は実際に身体を持っていることによる理解なんだけど どっちかというとAIの場合は、仮にロボットという体を基にしても 例えば目というカメラから入ってくる映像だったりとか マイクから入ってくる音声だったりとかを基にして ある種立体的な世界をシミュレーションすることによって理解している。 つまり実際の身体による理解とシミュレーションの理解ってのはまた違うよね。 それがある意味どのくらい遠いのか近いのかってことも 今後大きな課題になってくるし、決して遠くはないよね。 シミュレーションによる理解によっても 人間の身体の理解に近いんじゃないかって話もあるんじゃないかなとは思うんですよね。 ある意味限りなく人間の世界理解がどんどん近づいてきているのは事実だと思うので もういかげん確率的概論だったりとか データ学習を逃しているだけみたいな議論は もう終わりにしてもいいんじゃないかなというふうには思います。 なかなかこのAIの話を10分のボイシリの言葉だけで説明するって なかなか難しいなと思いました。 ではまた明日。 もっと見る毎朝の思考佐々木俊尚08:531.現在のAIはもう「確率的オウム」ではないhttps://wedge.ismedia.jp/articles/-/41285コメント感想・質問・応援メッセージを書こう masami22時間前身体性を伴わない理解、面白いですね。すべてを他人事として解釈して論理的に回答をする。時には共感を示すように振る舞う。本当は感情なんて動いていないのに。そういう人、いますよね。どんどん人間に近づいてる…1返信 俊尚 佐々木16時間前人間に近づいてるのは間違いないと思います。 アラカンケイティ23時間前おはようございます。いつもご苦労様です。佐々木さんはAIによる人類絶滅についてどう考えていらっしゃいますか?来年にもシンギュラリティが来ると言われていますが‥1返信 俊尚 佐々木16時間前これは誰にも予測できない可能性でしょうね……。 アラカンケイティ16時間前そうですよね。。毎朝楽しみにしています。これからも応援しています♪
現在のAIはもう「確率的オウム」ではない 9分・23時間前・ 3,268再生AI目次確率的オウム説とは何か?推論モデル導入でAIはどう変わったかメモリ機能とAIの急速な進化AIは本当に「意味」を理解しているか?身体性なきAI理解の可能性と課題
多様性の視点から考える「直美」の問題 9分・一昨日・ 4,181再生AI目次現代社会の医師「直美」問題の背景医療リソース偏重が招く社会的問題一般診療と自由診療の報酬格差職業選択の自由と社会的責任の狭間「コモンズ」としての公的リソース配分
「この社会は憤怒の人ばかり」というバイアス 9分・11月17日・ 4,665再生AI目次生活保護家庭の車所有議論と反発Xが作り出す「怒り」の誤解ニュースを見るだけ、発言しない若者たち過激な声に潜む社会認識の歪みXに疲弊、小さなコミュニティへの回帰
AIの進化で仕事は「概念」と「身体」になった 9分・11月16日・ 5,078再生AI目次AIが変える仕事の本質:概念化への移行自動運転とMaaSに見るAI活用の最前線AI時代のエンジニアが直面する新たな壁煩雑さを超える思考:仕事の「重さ」の行方AIが奪えない身体性:人間の仕事の未来
料理で考えるデンプンの「ぬめり」の意味 9分・11月15日・ 3,845再生AI目次パスタの乳化を巡るデンプンの真実奥田シェフ流!ぬめりを排除したペペロンチーノ新米が持つデンプンの豊かな魅力とはインディカ米活用!ぬめりを取った料理術お茶漬けやおじや、理想の食感を求めて
フラット読書部が居心地よく盛りあがってる 10分・11月14日・ 4,198再生AI目次「強制しない」コミュニティの居心地の良さ「発酵文化人類学」読書会の熱狂会員発案の「味噌部」誕生秘話SNS疲れを癒すクローズドな空間第2回募集はいつ?参加への道
「開戦を前提にした議論はおかしい」という論理 9分・11月13日・ 4,991再生AI目次「開戦前提議論」の課題とゼロリスク論の類似点リスク管理の原則と福島原発事故の教訓エネルギー問題と地政学的リスクの現実現代社会における軽戦能力強化の意義戦後防衛路線の転換点と現実的議論の行方
「身寄りのない死」という大きな社会課題 9分・11月12日・ 5,844再生AI目次身寄りのない死:広がる親族捜し難横須賀市の先駆的就活支援とはずさんな行政委託:低コスト業者の実態団塊ジュニア世代の孤独死リスク「明日は我が身」:社会全体の課題
忘れ去られたパンデミックの国民的記憶 10分・11月11日・ 5,596再生AI目次深夜食堂と忘れ去られたコロナ禍戦争や震災と異なる集団的記憶なぜパンデミックは物語にならないのか場所と紐付かない記憶とスペイン風邪見えない形で社会を変えるパンデミック
甲州勝沼のトンネル歩きとワイナリー巡り 10分・11月10日・ 4,656再生AI目次旧中央線トンネルを歩く不思議体験祇園の滝と国宝・大善寺の歴史探訪ぶどう畑の絶景と祝い橋のランチタイム個性派ワイナリー巡り!おすすめ3選締めは絶景と甲州サワー?歩き旅の醍醐味
すべてを他人事として解釈して論理的に回答をする。時には共感を示すように振る舞う。本当は感情なんて動いていないのに。
そういう人、いますよね。
どんどん人間に近づいてる…
毎朝楽しみにしています。
これからも応援しています♪