Muse Ember obniża koszt agentów, lecz długi kontekst potraja rachunek

Meta przedstawia Muse Ember jako mały model do tool calls, podzadań programistycznych, routingu, ekstrakcji i pracy z długimi dokumentami. Krótkie żądania kosztują 0,10 dolara za milion tokenów wejściowych, 0,004 dolara za cached input i 0,50 dolara za milion tokenów wyjściowych.

Niska cena kończy się przy 200 000 tokenów

Model ma okno kontekstowe o długości 1 miliona tokenów i może zwrócić do 512 000 tokenów. Gdy żądanie przekroczy 200 000 tokenów wejściowych, Meta nalicza wyższą stawkę dla całego żądania: 0,30 dolara za wejście, 0,012 dolara za cache i 1,50 dolara za wyjście. Ember jest dostępny w Meta Model API i Muse Code jako muse-ember-1.0.

Według Meta model osiąga 36 punktów w Artificial Analysis Intelligence Index przy maksymalnym reasoning effort, a koszt zadania wynosi około 0,14 dolara. Simon Willison zaznacza, że sama cena tokena niewiele mówi, bo modele mogą zużywać bardzo różne liczby reasoning tokens na ten sam problem.

Tani wykonawca zmienia ekonomię systemów wieloagentowych

Dla zespołów, które powierzają planowanie jednemu mocnemu modelowi, a setki kroków mniejszym modelom, Ember jest ciekawy przede wszystkim jako wykonawca. Oszczędności kumulują się w routingu, ekstrakcji i tool use, czyli przy krótkich, jasno ograniczonych operacjach.

Praktyczny skutek jest mniej widowiskowy niż kolejny rekord benchmarku. Projektanci agentów mogą oddzielić kosztowne decyzje od taniego wykonania i mierzyć jakość na styku modeli.

Milionowe okno zachęca do kosztownej wygody

Marketing eksponuje 1 milion tokenów, lecz próg cenowy karze aplikacje, które do każdego żądania dołączają całe repozytorium lub historię. Dane pochodzą głównie od Meta i Artificial Analysis. Rzeczywistą niezawodność tool use muszą potwierdzić evals konkretnego workflow.

Zdecyduje koszt ukończonego zadania

Zespoły powinny mierzyć liczbę powtórzeń, błędne tool calls, zużycie reasoning tokens i odsetek żądań powyżej 200 000 tokenów. Ember może obniżyć koszty agentów, jeśli kończy więcej zadań bez poprawek i mieści kontekst pod progiem. Częste powroty do większego modelu szybko zjedzą przewagę cennika.

Werdykt Lilith

Ember jest tanim biegaczem w sztafecie agentów. Kto obciąży go całym archiwum na każdym odcinku, ten na mecie dostanie trzykrotnie wyższy rachunek.