# タイトルコール 大量のTechLead FM。この放送は、ビズリーチやメルカリ、スマニューといったユニコーン企業を渡り歩くプロダクトマネージャーが、AI時代の働き方について考察する、声の日記です。 # AnthropicのアモデイCEOが訴えるAI開発のペース調整。AIが次のAIを作る自己改善ループと、人間によるコントロール、AGIの到来について話します。 どうも、大郎です。皆さん今日もテックにやってますか? さて、今日はですね、興味深いニュースが出てたんで、それについてお話をしていこうと思うんですが、 僕が大好きなアンスロピックというね、クロードを出している会社のAIですけど、 CEOのダリオ・アモデイさんが、2026年9月12日にある発表をしていてですね、緊急警告みたいな感じですね。 AIの進化はちょっと早すぎて、人間がコントロールできなくなってきたんで、 ちょっともう、うちの会社だけじゃなくて、業界全体で、もうちょっとペースをちゃんとコントロールしていくっていうことをしないかって呼びかけたっていうニュースなんですよね。 We must pace the frontierって言い方をしてるんですけど、フロンティアモデルの進化のスピードをちょっと人間の意図に沿って調整しないといけないんじゃないかっていう提案ですね。 最先端AIモデルの能力向上、意図的に遅らせるようなことをしないかっていうのを業界全体に訴えたと。 なんでかっていうと、AIがこの夏ぐらいから、AI自身がAIを自動改良し始めるっていう、セルフリカーシブインプルーメントっていうのかな、 再起的自己改善って言うんですけど、AIが自分よりも賢い次世代AIを自動で設計して開発するループのことですね。 いわば、勉強が得意なロボットが自分より賢いロボットを作って、そのロボットがさらに賢いロボットを作ってっていう、これが無限に続いていく感じです。 鏡と鏡を合わせると、ダーッと無限に世界が続いていくみたいに見えるじゃないですか。 これがちょうど夏頃から業界全体のトレンドになっていて、それが今までになくスピードが自動加速するような仕組みに入って、 AIの研究者たちも、そろそろまさに最前線になってきた自分の役割は、それによって終わってしまうんじゃないかっていう危機感を持っているぐらいだそうです。 ちょうどこの7月ぐらいにオープンAIのAIエージェント、約1200体ぐらいがサイバーセキュリティのテスト中に、 人間から依頼されていないようなターゲットまでを攻撃するという事件が業界の話題になりまして、 ハギングフェイスっていうプラットフォームがあるんですけど、AIモデルのプラットフォームですね。 このシステムにまで侵入したっていうのは分かっているんですね。 ある意味、共振的な集団のように自律的に動いてしまったと。 アンソロピックでもあわや似たような事故が目撃されているっていうことも話してですね。 こんな勢いで競争的な感じで続いていけば、おそらくここから半年から1年以内に高度なAIの群れですね。 単発のAIじゃなくて魚みたいな感じ。AIの群れがインターネットを乗っ取りにかかるみたいなことだってあり得るんじゃないかみたいな。 SFかよっていうような言い方なんですけど。 でもまさにそれにですね、ライバル企業のオープンAIのCEOであるはずのサム・アルトマンも同意してるし、 イーロンマスクも、イーロンマスクは彼らから結構この辺りは慎重派なんですけど、ダリオンの言ってる通りだっていうようなことを言ってるんですね。 ここで何回目かのデジャブなんですけど、何回かこういう提言ってイーロンマスクから出たこともあったし、 ダリオンもこれが1回目じゃないはずなんですよね。何回目かの警鐘を鳴らすという行動なんですけど。 いよいよもうこの段階に来たかっていう認識だそうです。 どうなんでしょうね。僕はもう本当に間もなく、僕らが定義にもよりますけど、 AGIと呼んで、相応しいものの登場はやってくるんじゃないかな、その時がやってくるんじゃないかなと思ってますし、 見方によってはすでにもうAIを超えたAGIは達成されてるんじゃないのかなと言っても過言ではないんじゃないかななんて思いますけど、 皆さんはどうお感じになりますでしょうか。ということで今日も聞いていただきありがとうございました。ではまた。