Lilith.
⌕
編集イラスト: Muse Emberはエージェントを安くするが、長いコンテキストは料金が3倍になる
Lilithのイラスト · 編集リミックス

MetaはMuse Emberを、tool calls、コーディングの小タスク、ルーティング、抽出、長文処理向けの小型モデルとして位置づける。短いリクエストの料金は、入力100万トークン当たり0.10ドル、cached inputが0.004ドル、出力が0.50ドルだ。

低価格が適用されるのは20万トークンまで

コンテキストウィンドウは100万トークンで、最大51万2000トークンを出力できる。入力が20万トークンを超えると、リクエスト全体に高い料金が適用され、入力0.30ドル、キャッシュ0.012ドル、出力1.50ドルとなる。EmberはMeta Model APIとMuse Codeでmuse-ember-1.0として提供されている。

Metaによると、最大のreasoning effortではArtificial Analysis Intelligence Indexが36、1タスク当たりの費用は約0.14ドルだ。Simon Willisonは、同じ問題でも消費するreasoning tokensがモデルごとに異なるため、トークン単価だけの比較は不十分だと指摘する。

安価な実行役がマルチエージェントの採算を変える

強力なモデルに計画を任せ、小型モデルに数百の手順を実行させるチームにとって、Emberの価値は実行役にある。短く範囲が明確な処理を繰り返すルーティング、抽出、tool useでは、節約効果が積み上がる。

実務上の変化は、benchmarkの新記録ほど派手ではない。高価な判断と安価な実行を分け、モデル間の受け渡しで品質を測れるようになる。

100万トークンの余裕が高価な横着を招く

宣伝は100万トークンを強調するが、毎回リポジトリ全体や履歴を添付するアプリは価格の境界を越えやすい。根拠も主にMetaとArtificial Analysisの評価だ。実際のtool useの信頼性は、個々のworkflowに合わせたevalsで確かめる必要がある。

最後は完了したタスク当たりの費用が決める

チームは再試行、失敗したtool calls、reasoning tokensの消費量、20万トークンを超える割合を追うべきだ。修正なしで完了するタスクが増え、コンテキストを境界内に保てるなら、Emberは運用費を下げる。大きなモデルへの頻繁な差し戻しが起きれば、安い定価の魅力は消える。

Lilithの判定

Emberはエージェントのリレーを安く走る選手だ。ただし毎区間で全資料を背負わせれば、ゴールで待つ請求書は3倍になる。