Muse Ember stlačuje cenu agentů, dlouhý kontext ale zdraží třikrát

Meta nabízí Muse Ember jako malý model pro tool calls, codingové dílčí úlohy, směrování, extrakci a zpracování dlouhých dokumentů. Krátké požadavky stojí 0,10 dolaru za milion vstupních tokenů, 0,004 dolaru za cached input a 0,50 dolaru za milion výstupních tokenů.

Nízká cena platí jen do 200 000 tokenů

Model má kontextové okno 1 milion tokenů a může vrátit až 512 000 tokenů. Jakmile jeden požadavek překročí 200 000 vstupních tokenů, Meta účtuje celý požadavek vyšší sazbou: 0,30 dolaru za vstup, 0,012 dolaru za cache a 1,50 dolaru za výstup. Ember je dostupný v Meta Model API a Muse Code jako muse-ember-1.0.

Meta tvrdí, že při maximálním reasoning effort dosahuje v Artificial Analysis Intelligence Index skóre 36 při ceně zhruba 0,14 dolaru za úlohu. Simon Willison upozorňuje, že cena za token sama o sobě nestačí, protože modely mohou na stejný problém spotřebovat rozdílný počet reasoning tokenů.

Levný vykonavatel mění ekonomiku víceagentových systémů

Pro týmy, které nechávají jeden silný model plánovat a menší modely provádět stovky kroků, je Ember zajímavý hlavně jako vykonavatel. Úspora se násobí u směrování, extrakce a tool use, tedy tam, kde agent opakuje krátké a dobře vymezené operace.

Praktický dopad je méně okázalý než další rekord benchmarku. Návrháři agentů mohou oddělit drahé rozhodování od levného provedení a hlídat kvalitu na hranicích mezi modely.

Milionové okno svádí k drahé pohodlnosti

Marketing zdůrazňuje 1 milion tokenů, ale cenový zlom trestá aplikace, které do každého požadavku posílají celý repozitář nebo historii. Navíc jde převážně o výsledky výrobce a Artificial Analysis. Skutečnou spolehlivost při práci s nástroji musí ověřit provozní evals konkrétního workflow.

Rozhodne cena dokončené úlohy, nikoli ceník tokenů

Týmy by měly sledovat počet opakování, chybné tool calls, spotřebu reasoning tokenů a podíl požadavků nad 200 000 tokenů. Pokud Ember dokončí více úloh bez oprav a kontext zůstane pod prahem, může zlevnit agentní provoz. Jestli bude vyžadovat časté návraty k většímu modelu, nízká sazba se v součtu rozplyne.

Lilithin verdikt

Ember je levný běžec pro štafetu agentů. Kdo mu ale na každý úsek naloží celý archiv, doběhne do cíle s trojnásobnou účtenkou.