Otwarte modele rosną szybciej, niż rynek potrafi je policzyć

Nathan Lambert z Interconnects próbuje oszacować wielkość rynku inference dla otwartych modeli. Opiera się głównie na publicznych danych Baseten, Fireworks i Together AI oraz na udziale otwartych modeli w ruchu OpenRoutera. Chmury hyperscale, takie jak Amazon Bedrock i Azure, pozostają częściowo niewidoczne, bo nie publikują użycia według kategorii modelu.

Świeży sygnał pochodzi od Fireworks. Firma podała na swojej konferencji, że modele dostosowane dla klientów obsługują ponad 40 bilionów tokenów dziennie, a ten fragment działalności urósł od lata ponad dwukrotnie. Interconnects układa publiczne komunikaty w serię czasową, która według autora pokazuje wzrost zbliżony do wykładniczego.

Większa część tekstu źródłowego jest za paywallem. Publiczny fragment wyjaśnia metodę i przytacza te liczby, ale nie pokazuje pełnego wykresu ani końcowego porównania z Google. Wnioski muszą więc być węższe niż pytanie postawione w tytule źródła.

Cztery publiczne sygnały zastępują rynek bez wspólnej księgowości

Interconnects traktuje dostawców inference jako wskaźniki całego segmentu. Lambert uważa, że ich wyniki są ściślej związane z otwartymi modelami niż wyniki wielkich chmur sprzedających wiele innych usług. OpenRouter dodaje dane o tokenach rzeczywiście kierowanych do takich modeli.

Ta metoda pokazuje trend, a nie zamknięte księgi. Każda platforma ujawnia inny wycinek i może inaczej liczyć tokeny, ruch API, cache czy modele dostosowane. Nawet liczba Fireworks obejmuje tylko część inference firmy.

Kupujący zyskują realną alternatywę dla kilku zamkniętych API

Ponad 40 bilionów tokenów dziennie wskazuje, że dostosowane modele wyszły poza laboratoria. Firmy płacą za inference modeli dopasowanych do własnych zadań, tworząc popyt na hosting, fine-tuning, routing i zarządzanie wydajnością.

Zespoły produktowe mogą łatwiej zmienić model albo dostawcę bez przebudowy całego produktu. Dla inwestorów i regulatorów ważne jest też to, że znaczna część ruchu AI może płynąć przez warstwy niewidoczne w statystykach największych laboratoriów.

Liczba tokenów mierzy aktywność, a nie wartość lub udział w rynku

Biliony tokenów brzmią precyzyjniej, niż są w praktyce. Długi przebieg agenta może zużyć wielokrotnie więcej tokenów niż krótki chat, nie dając większego przychodu ani użyteczności. Porównanie wymaga cen, informacji o cache, długości kontekstu i struktury workloadów.

Dane publikują również firmy zainteresowane pokazaniem wzrostu. Bez wspólnej metodologii oraz liczb od Amazonu, Microsoftu i innych chmur nie da się policzyć udziału otwartych modeli wobec OpenAI czy Anthropic. Widać jedynie szybki wzrost mierzonej części rynku.

Wspólne raportowanie i dane z chmur zamienią trend w miarę rynku

Kolejnym ważnym krokiem nie będzie większa liczba od jednego dostawcy, lecz porównywalne raporty. Platformy musiałyby oddzielać modele otwarte od zamkniętych, wersje bazowe od dostosowanych i jasno opisywać sposób liczenia tokenów wejściowych, wyjściowych oraz cachowanych.

Drugiego brakującego sygnału powinny dostarczyć chmury hyperscale. Jeśli Amazon, Microsoft lub Google zaczną raportować użycie według kategorii modelu, publiczne szacunki będzie można skalibrować. Do tego czasu wykres pokazuje kierunek, lecz nie rozmiar rynku.

Werdykt Lilith

Na stadionie migają biliony tokenów, ale każdy dostawca prowadzi własną tablicę wyników. Wzrost widać. Tych liczb wciąż nie da się uczciwie zamienić w klasyfikację zawodników.