何千ものエージェントがいても即座の知能爆発が起こらない理由

エージェントは運用コストを下げるが、理解の壁を越えることはない

OpenAIやAnthropicのようなAI研究所はまもなく、内部プロセスに数千の並列エージェントを使用するようになり、暴走的な開発と再帰的自己改善（RSI）に関する新たな懸念の波を引き起こしています。しかし、HuggingFaceやDeepMindでの経歴を持つ研究者であるネイサン・ランバートは、この物語を和らげています。推論が高速化・低価格化することでマルチエージェントシステムの効率は向上しますが、ルーチンタスクの自動化が自動的に知能そのものの指数関数的成長を意味するわけではありません。

根本的なスケーリング則は変わりません。知能を直線的に向上させるには、依然として指数関数的に大きな計算リソースが必要です。エージェントの群れは、結果が明確で測定可能な問題をより簡単に解決しますが、完全に新しい研究の方向性を提案したり、成功の明確な定義がないオープンな科学的問題を解決したりするのには苦労するでしょう。

知能の測定は定義の限界に突き当たる

AIがいつ人間の専門家を追い抜くかについての議論は、モデルの「知能」が人間の知能とはまったく異なる形をしているという事実に突き当たります。LLMモデルは「仮想アシスタント」や「AI研究者」などのマイルストーンを一度に越えることはありません。むしろ、与えられた役割の80%を非対称にマスターし、残りの20%は長期間にわたって克服できない障害であり続けます。

John Schulmanを含む業界の専門家によると、1年以内にルーチンの管理タスク用の機能的な「リモートワーカー」を期待できます。しかし、一流の研究者の生産性を高めるにはさらに時間がかかります。モデルは実験をより迅速に設計してテストできますが、直感や画期的な仮説を生成する能力に欠けているためです。

トレーニング後は依然として人間の手作業

RSIは、モデルが自らトレーニングを始めるというアイデアと最も頻繁に関連付けられています。しかし、モデルが特定の動作を学習するトレーニング後のフェーズは、依然として驚くほど手作業のプロセスです。強化学習（RL）用の新しく意味のある環境を作成するには人間の洞察が必要であり、AIモデルはまもなく高品質のトレーニングシグナルとしてこれらの複雑な課題を欠くようになります。

研究所における自動化は現在、人工知能の限界を押し広げる実際の研究ではなく、エンジニアリング（コードの記述、監視）を加速させています。機能の根本的な向上はまだ到来しておらず、モデルは依然として正しい結果が実際に何であるかを定義するために人間を必要としています。

特異点ではなくコモディティ化が現実

制御不能な知能の爆発の代わりに、現在の機能の価格が劇的に下落するのを目にする可能性が高いです。モデルは同じ知能レベルで指数関数的に安くなります。これはビジネスやツールの普及にとっては朗報ですが、明日にも人工超知能（ASI）を期待している人々にとっては失望です。

ここではジェボンズのパラドックスが完全に機能するでしょう。安価なモデルは使用量の増加につながり、人間の労働のない世界への魔法のような移行ではなく、堅牢なビジネスを生み出します。今のところ、真の特異点は反復的な調整とコストの最適化でいっぱいの待合室で延期されたままです。

Lilithの判定

もうすぐそこにあるAGIの代わりに、何千人もの必死に勤勉な事務員が誕生するでしょう。革命は青天の霹靂のように研究所からやってくるのではなく、退屈な企業があなたの知らないプロセスのコストを突然3分の1削減することから起こるでしょう。