Offene Modelle wachsen schneller, als der Markt sie messen kann

Nathan Lambert von Interconnects versucht, die Größe des Inferenzmarkts für offene Modelle zu schätzen. Er stützt sich vor allem auf öffentliche Zahlen von Baseten, Fireworks und Together AI sowie auf den Anteil offener Modelle am OpenRouter Verkehr. Hyperscale Clouds wie Amazon Bedrock und Azure bleiben teilweise unsichtbar, weil sie die Nutzung nicht nach Modellkategorie ausweisen.

Ein aktuelles Signal liefert Fireworks. Das Unternehmen erklärte auf seiner Konferenz, dass angepasste Kundenmodelle mehr als 40 Billionen Token pro Tag verarbeiten und dieser Bereich seit dem Sommer um mehr als das Doppelte gewachsen sei. Interconnects fügt öffentliche Angaben zu einer Zeitreihe zusammen, die Lambert als annähernd exponentielles Wachstum beschreibt.

Der größte Teil des Originalartikels liegt hinter einer Paywall. Der öffentliche Abschnitt erklärt Methode und Zahlen, zeigt aber weder die vollständige Grafik noch Lamberts abschließenden Vergleich mit Google. Die Schlussfolgerung muss daher enger bleiben als die reizvolle Frage in der Überschrift.

Vier öffentliche Signale vertreten einen Markt ohne gemeinsame Buchführung

Interconnects nutzt Inferenzanbieter als Stellvertreter für das Segment. Lambert hält ihre Entwicklung für enger an offene Modelle gekoppelt als die großer Clouds, die viele andere Dienste verkaufen. OpenRouter ergänzt den Blick um tatsächlich an offene Modelle geleitete Token.

Die Methode zeigt einen Trend, keinen geprüften Abschluss. Jede Plattform veröffentlicht einen anderen Ausschnitt und kann Token, API Verkehr, Caching oder angepasste Modelle anders zählen. Selbst die Fireworks Zahl deckt nur einen Teil der gesamten Inferenz ab.

Käufer erhalten eine echte Alternative zu wenigen geschlossenen APIs

Mehr als 40 Billionen Token täglich deuten darauf hin, dass angepasste Modelle das Labor verlassen haben. Unternehmen bezahlen für Modelle, die auf ihre Aufgaben zugeschnitten sind. Dadurch entsteht Nachfrage nach Hosting, Fine-tuning, Routing und Leistungsmanagement.

Produktteams können Anbieter oder Modell wechseln, ohne das ganze Produkt neu zu bauen. Für Investoren und Regulierer zählt außerdem, dass erhebliche KI Aktivität durch Ebenen laufen kann, die in den Statistiken der größten Labore fehlen.

Tokenvolumen misst Aktivität, aber weder Wert noch Marktanteil

Billionen Token wirken präziser, als sie sind. Ein langer Agentenlauf kann viel mehr Token als ein kurzer Chat verbrauchen, ohne mehr Umsatz oder Nutzen zu erzeugen. Vergleiche brauchen Preise, Cache Verhalten, Kontextlängen und die Zusammensetzung der Workloads.

Die Angaben stammen zudem von Unternehmen, die Wachstum zeigen wollen. Ohne gemeinsame Methode und Daten von Amazon, Microsoft und anderen Clouds lässt sich der Anteil offener Modelle gegenüber OpenAI oder Anthropic nicht bestimmen. Sichtbar ist nur das schnelle Wachstum des gemessenen Ausschnitts.

Gemeinsame Berichte und Cloud Daten würden aus dem Trend eine Marktkennzahl machen

Der nächste nützliche Schritt ist keine größere Zahl eines Anbieters, sondern vergleichbares Reporting. Anbieter müssten offene und geschlossene Modelle sowie angepasste und Basismodelle trennen und die Zählung von Eingabe, Ausgabe und Cache Token offenlegen.

Das zweite fehlende Signal müssen die Hyperscaler liefern. Sobald Amazon, Microsoft oder Google Nutzung nach Modellkategorie melden, lassen sich öffentliche Schätzungen kalibrieren. Bis dahin ist die Grafik ein Richtungsradar und keine Karte der Marktgröße.

Liliths Urteil

Im Stadion blinken Billionen Token, doch jeder Anbieter betreibt seine eigene Anzeigetafel. Das Wachstum ist sichtbar. Eine ehrliche Rangliste der Läufer ergibt sich daraus noch nicht.