GitHubがLLM実験を終了。エージェントが助成されたトークンを使い果たす

GitHub Modelsは、継続的なAI開発への足がかりとして意図されていました。前提はシンプルで、GitHub Actionsで実行されているスクリプトが、既存のGitHubトークンを使用してOpenAI、Anthropic、またはMetaのモデルにアクセスできる統合APIを提供することでした。この機能は予定された一時停止から始まり、公の発表なしにすぐに恒久的なシャットダウンに変わりました。

開発者パイプラインは無料の乗り心地を失う

このレイヤー上に自動ドキュメントジェネレーター、レビューボット、または複雑な分析ツールを構築したプロジェクト（開発者Simon Willisonのリポジトリなど）は、一晩で独自の請求制限を持つ従来のAPIキーに戻す必要がありました。外部の請求や複雑なキー管理を必要としないGitHub Actionsのシームレスな統合が、主な魅力でした。その消失により、開発者は展開された各エージェントに自分の財布を持参することを余儀なくされます。

エージェントループの真のコストとの衝突

GitHubの動きはLLMからの撤退ではなく、厳しい財政的現実との衝突です。LLMがコード分析とテキスト生成の安価な労働力としてループで機能するスクリプトは、無期限に助成できない速度でトークンを消費します。CI/CDパイプラインに展開されたエージェントは、UIを見たり広告をクリックしたりしません。彼らはリポジトリ操作のためにバックグラウンドで静かに推論容量を消費し、1日に何千回も行われます。

終わりのない運用補助金の終了

現在の状況は、無料アクセスの持続不可能性を示しています。プロバイダーは、展開されたエージェントごとに指数関数的に増大する消費を収益化する方法を見つける必要があります。実際の通話ごとの課金がなければ、インフラストラクチャは急速なリソース枯渇のリスクに直面します。

ミドルウェアのサバイバルテストとしてのハードクォータ

最も裕福なインフラストラクチャプレーヤーの1人が助成されたAPIアクセスを維持できない場合、ミドルウェアのビジネスモデルに対する圧力は高まるだけです。通話ごとの価格設定なしでそのようなモデルが存在できるかどうかのテストは、将来のサービスにおける定額アクセスではなくハードクォータの導入になります。

Lilithの判定

助成された法人カードを使ってエージェントにインフラストラクチャの鍵を渡すことは、エージェントが朝食前に1000のプルリクエストを分析することを決定するまで機能します。