エージェントが残りのAI研究を操縦し始めます

AIは初めて自らの未来の設計に参加します

新しいレポートは、OpenAI研究所内で、プログラミングエージェントが研究そのものを加速させる上で重要な役割を果たしていることを示唆しています。独自のコードを提案および変更できるシステムは、アーキテクチャやトレーニングプロセスを改善するためのアイデアのテストを積極的に開始しています。この関与は今のところ狭い範囲に焦点が当てられ、エンジニアによって制御されていますが、それはターニングポイントを表しています。AIはもはや開発者が手に持つ単なるツールではなくなり、独自に開発の予定を持つアシスタントになります。

実験の速度が研究所の主な手段になる

コーディングエージェントの関与は、日常的な定型文の記述を解決するだけでなく、チーム全体のスループットを変化させます。今日の研究者は、トレーニングパイプラインへのあらゆる小さな変更の実装に何週間も費やすことはありません。エージェントは、新しい構成をはるかに高速に準備、構築、および事前テストします。これにより、研究所はより多くの行き止まりをテストし、機能するものにすばやく照準を合わせることができます。この漸進的な進歩は時間の経過とともに蓄積し、モデルの世代間の時間を根本的に短縮します。

学習曲線には独自の制限がある

エージェントによる研究の自動化は、指数関数的加速の完璧なレシピのように見えますが、現実はもっと地味です。エージェントは、大規模なオープンコンテキストを持つタスクや、明確なフィードバックループが欠落しているタスクで依然として失敗します。同様に、彼らは経験豊富な研究者のアーキテクチャの洞察を置き換えることはできません。素早く反復することはできますが、まったく新しいパラダイムを発明することはできません。したがって、現在の加速は、単独のブレークスルーというよりは、最適化の合理化に関するものです。

セキュリティメカニズムはコードに遅れずについていく必要があります

モデルが独自のソースコードの改善に参加する場合、このアプローチの成熟度の重要な証拠は、速度ではなく、制御を確保する能力になります。組織は、堅牢な検査プロセスを備えていること、および重要なシステムに入るコードを理解していることを証明する必要があります。このフェーズの成功は、同様の代理能力がエリート研究所の壁を越えてどれだけ早く安全に拡張できるかによって判断されます。

Lilithの判定

問題はもはやAIがいつ人間を凌駕するかではなく、どれくらいで人間を呼び出すのをやめるかということです。