Fireworks tvrdí, že 95 % z 40 bilionů tokenů denně už patří specializovaným modelům

Fireworks ve svém červencovém oznámení o financování uvedl, že jeho platforma obslouží více než 40 bilionů tokenů denně. Přes 95 % tohoto provozu má pocházet z modelů specializovaných na vlastní data zákazníků a konkrétní úlohy. Výzkumník Nathan Lambert na číslo znovu upozornil v souvislosti s listopadovou konferencí Forge.

Čtyřicet bilionů tokenů dává specializaci produkční měřítko

Fireworks pod pojem specializovaný model zahrnuje systémy upravené pro zákaznická data a konkrétní práci. Může jít o fine-tuning, další post-training nebo provoz modelu optimalizovaného pro úzký produktový úkol. Samotné oznámení nerozepisuje podíl jednotlivých metod ani modelů.

Objem vzrostl z 15 bilionů tokenů při předchozím kole financování na více než 40 bilionů denně. Firma zároveň oznámila 1,505 miliardy dolarů v Series D, valuaci 17,5 miliardy dolarů a roční tempo tržeb přes 1 miliardu dolarů. Všechna tato čísla pocházejí od Fireworks.

Produkční týmy nakupují výsledek úlohy, ne vítěze obecného benchmarku

Pro produktový tým může být úzký model výhodnější, pokud plní jednu úlohu rychleji, levněji a předvídatelněji. Router k nástrojům, úprava kódu nebo sumarizace firemních dat nepotřebují pokaždé nejdražší obecný model. Potřebují stabilní výkon na vlastním rozdělení vstupů.

Těžiště hodnoty se tím posouvá k evalům, post-trainingu a inference infrastruktuře. Základní model zůstává důležitý, ale konkurenční výhodu produktu může vytvářet dataset, smyčka zpětné vazby a schopnost levně nasadit více specializovaných variant.

Jedna platforma nepopisuje celý trh a definici si stanovila sama

Fireworks vydělává na provozu a úpravách otevřených modelů. Jeho zákazníci proto přirozeně nejsou náhodným vzorkem všech uživatelů AI. Provoz ChatGPT, Claude nebo Gemini do těchto 40 bilionů tokenů nevidíme. Z čísla nelze vyvodit, že specializované modely tvoří 95 % světové inference.

Také chybí nezávislý audit objemu a přesná metodika. Tokeny nejsou stejné jednotky ekonomické hodnoty: krátké klasifikace, dlouhé reasoning traces a dávkové úlohy mají jiné náklady i přínos. Fireworks ukazuje vlastní provozní mix, nikoli univerzální rozsudek nad frontier modely.

O síle trendu rozhodnou náklady a kvalita po nasazení

Důležitá budou veřejná data od dalších inference platforem a zákaznické evaly před úpravou a po ní. Týmy by měly měřit cenu za dokončenou úlohu, latenci, chybovost a náklady na průběžný retraining. Samotný počet tokenů může růst i proto, že zlevnil provoz.

Pokud podobný podíl ukážou různí poskytovatelé a specializované modely udrží kvalitu i po změně vstupních dat, půjde o posun architektury trhu. Do té doby je 95 % přesvědčivý údaj o zákaznících Fireworks, ne referendum všech firem.

Lilithin verdikt

Fireworks ukazuje továrnu, kde 95 ze 100 tokenů míří na zakázkovou linku. Než z toho uděláme mapu celého průmyslu, potřebujeme vidět i provoz za zdmi ostatních továren.