Fireworks twierdzi, że modele wyspecjalizowane generują 95% z 40 bilionów tokenów dziennie

W lipcowym komunikacie o finansowaniu Fireworks podał, że jego platforma obsługuje ponad 40 bilionów tokenów dziennie. Przeszło 95% ruchu ma pochodzić z modeli wyspecjalizowanych pod kątem danych klientów i konkretnych zadań. Badacz Nathan Lambert ponownie zwrócił uwagę na tę liczbę przy okazji listopadowej konferencji Forge.

Czterdzieści bilionów tokenów dziennie nadaje specjalizacji skalę produkcyjną

Fireworks nazywa modelami wyspecjalizowanymi systemy dostosowane do danych klienta i określonej pracy. Może to oznaczać fine-tuning, inny post-training albo model zoptymalizowany pod wąskie zadanie produktowe. Komunikat nie pokazuje udziału poszczególnych metod ani modeli.

Wolumen wzrósł z 15 bilionów tokenów przy poprzedniej rundzie do ponad 40 bilionów dziennie. Firma ogłosiła też Series D o wartości 1,505 miliarda dolarów, wycenę 17,5 miliarda dolarów i roczne tempo przychodów przekraczające 1 miliard dolarów. Wszystkie te liczby pochodzą od Fireworks.

Zespoły produkcyjne kupują wynik zadania, a nie zwycięzcę ogólnego benchmarku

Wąski model może być lepszym wyborem, jeśli wykonuje jedno zadanie szybciej, taniej i bardziej przewidywalnie. Routing narzędzi, edycja kodu czy podsumowanie danych firmowych nie zawsze wymagają najdroższego modelu ogólnego. Liczy się stabilny wynik na własnych danych wejściowych.

Wartość przesuwa się więc w stronę evals, post-trainingu i infrastruktury inference. Model bazowy pozostaje ważny, lecz przewagę produktu mogą tworzyć dataset, pętla informacji zwrotnej i możliwość taniego wdrożenia wielu wariantów specjalistycznych.

Jedna platforma nie opisuje całego rynku i sama ustala definicję

Fireworks zarabia na obsłudze i dostosowywaniu otwartych modeli. Jego klienci nie są zatem losową próbą wszystkich użytkowników AI. Ruch ChatGPT, Claude czy Gemini nie wchodzi do 40 bilionów tokenów. Liczba nie dowodzi, że modele wyspecjalizowane odpowiadają za 95% globalnej inference.

Brakuje też niezależnego audytu wolumenu i szczegółowej metodologii. Tokeny nie są równymi jednostkami wartości ekonomicznej: krótka klasyfikacja, długi reasoning trace i zadanie batchowe mają inne koszty oraz korzyści. Fireworks pokazuje strukturę własnego ruchu, a nie powszechny werdykt w sprawie frontier models.

O sile trendu zdecydują koszty i jakość po wdrożeniu

Potrzebne są publiczne dane od innych platform inference oraz evals klientów przed dostosowaniem i po nim. Zespoły powinny mierzyć koszt ukończonego zadania, latency, błędy i stały koszt retrainingu. Sam wolumen tokenów może rosnąć dlatego, że ich obsługa staniała.

Jeśli podobny udział pokażą inni dostawcy, a modele wyspecjalizowane utrzymają jakość po zmianie danych wejściowych, będzie to zmiana architektury rynku. Na razie 95% mówi wiele o klientach Fireworks, lecz nie stanowi głosu wszystkich firm.

Werdykt Lilith

Fireworks pokazuje fabrykę, w której 95 ze 100 tokenów trafia na linię produkcji na zamówienie. Zanim uznamy to za mapę całej branży, trzeba zajrzeć również za ściany innych fabryk.