# AGIへの一歩、コンテキスト200万トークン ウラッパディチャンネル。今回のテーマは、AGIへの一歩、コンペキスト200万トークンという話をしていきたいと思います。 AGMがちょっと増してきている昨今、今この収録をしているのが、2026年の3月の上旬ということで、 いよいよChatGPTの次なるバージョン5.3、5.4という噂が非常に出てきているタイミングで、 この目玉となるのが、コンペキストウィンドウ200万トークンを実現するんじゃないかという噂なんですよね。 すでにクロードオーパス4.6は、このコンペキストウィンドウが100万トークンということで、 これが非常に、この1回あたりのタスク実行において、いわば記憶メモリーが超増大していて、 コンペキスト、文脈というのを完全に理解してくれる量がものすごいボリュームになったので、 例えばアプリとかウェブサービスにおける開発のソースコードを丸々読ませても、全部記憶しておけると。 そうすると、その中の論理破綻している部分というのは、確実に人間が全て細かくチェックするよりも、 論理性の面では圧倒的にAIは軍配が上がるので、プログラムのソースコードにおけるリファクタリングという改善ブラッシュアップの作業というのも、 ほぼ正確に間違いなく行えるようになっていったりするということなんですよね。 このコンペキストウィンドウが、トークン数が増えるというのは、かなりAGIにとっては非常に重要になってくる指標だと思うんですよね。 例えばブログ記事とかプレスリリースとか、あるいは物語ストーリーを書く小説なんかのテキストでいうと、 例えば自分が書いてきたテキストのスタイルというのを完全にこのコンペキストウィンドウの中に収めることができたら、 そこで使われていたような、自分ならではの独特のスタイルというのが、次に生成するAIの特徴的な表現が引き出しやすくなりますし、 もちろんこれをナレッジ化して、もっと圧縮する形でトークンを節約するためのスキルとして圧縮する手法というのも生み出されているわけですが、 あらゆる関係する情報をザッタにこのコンテキストの中に突っ込んでいっても、大量のトークン数があれば、 そうしたナレッジ化する必要さえないぐらいに、ものすごく自分流にアレンジした、あるいはそのコミュニティとか組織流にアレンジした生成をすることができるというのはものすごいメリットになるんですよね。 さらに直近ではこのコンテキストウィンドウが、例えば100万トークンを使い切るということの直前にコンパクトというような圧縮の技術というのは生み出されていて、 この100万トークンを一旦圧縮して必要な情報だけを抽出するというのが繰り返し行うことで、 一つのセッション中に重要な情報がどんどんとノウハウ化されていて、そのまま圧縮された情報をもとにさらに継続してコンテキストを引き継いでいくとなると、 特にシステム開発、プログラムの世界においては非常に有用に使いこなすことができるというところ。 この100万トークンというのも、オープンクローなり開発をしている人からすると、結構長持ちするけれども、全部をやり切るにはまだまだ足りないというような状態の中、 いよいよ200万トークンという威勢のいい数字が出てきたりしているし、おそらくこのペースは100万、200万、500万、1000万と、 どんどんこのトークン数が増え続けて、ほぼ無限に近いような状態になった時には、荒っぽく様々なデータを突っ込んでいっても、 そのコンテキスト中に全て網羅された、それを全部読み解くようなAI、AGIというのが登場するというのは、ほぼ間違いのないような未来になってきているんですよね。 さらに言えば、コンパクト化する、圧縮する時の技術というのも、今は100万トークンに近づくにつれ、そこを圧縮するという技術が働くわけですが、 これを常々行ってくれるような並列で、常に重要な情報とそれを圧縮する、そしてさらにそのまま残した方がいい情報はそのまま残すというような、 区別とか選別ができるような形になっていった時に、リアルタイムで人間以上にそのコンテキスト、文脈を読み取る力というのは増えていった時には、 論理的に全部を網羅してその破綻がないかを確認するロジックが走ったり、それをノウハウ化して次の生成に完全に生かすということが、 いよいよ200万トークンの世界というのは、だいぶAGI身が回してくるというような段階を迎えているというのが、 今年間違いなく出てくるだろうというようなAGIへの第一歩が進み出したかなというふうに思いました。 ということで今日はここまで、バイバイバイのバイ。