FlashProve belegt die Herkunft einer Modellantwort mit einem 19 MB großen Nachweis

Anthropic hat FlashProve veröffentlicht, einen Open Source Prototyp für provable inference. Der Anbieter legt sich zunächst kryptografisch auf einen bestimmten Satz von Modellgewichten fest. Anschließend kann er einer Antwort einen Nachweis beifügen, dass genau dieses Modell die angegebenen Token für einen Prompt erzeugt hat.

Eine Bindung an die Gewichte verknüpft Modell und Antwort

Der Nachweis legt weder die Gewichte noch Zwischenergebnisse offen. Wer Bindung, Prompt, Antwort und Nachweis besitzt, kann das Resultat ohne Zugriff auf das Modell prüfen. Damit ließen sich ein Modellaustausch hinter einer API, Eingriffe in den Tokenstrom oder Unterschiede zwischen dem geprüften und dem ausgelieferten Modell erkennen.

Anthropic demonstrierte das System mit einer ganzzahligen 4 Bit Version von Llama 4 Maverick mit 400 Milliarden Parametern. Eine H100 erzeugte Nachweise mit rund 110 Token pro Sekunde. Für eine Anfrage mit 1.024 Token war der Nachweis 18,78 MB groß, die Prüfung dauerte auf einer CPU mit 24 Threads 17 Sekunden.

Modellaudits könnten einen prüfbaren Beleg statt eines Versprechens erhalten

Der praktische Wert ist dort am größten, wo die Identität des Modells zählt und nicht nur die Qualität des Textes. Ein Sicherheitsprüfer könnte bestätigen, dass Kunden später dasselbe Modell erhielten, das zuvor getestet wurde. Ein Unternehmen könnte zudem belegen, dass eine freigegebene Modellversion eine sensible Aufgabe bearbeitet hat.

Das verändert die Beziehung zwischen Inference Anbieter und Kunde. Heute muss der Kunde dem Modellnamen auf der Rechnung vertrauen. Provable inference könnte einen maschinenlesbaren Beleg hinzufügen, ohne dass der Anbieter seine Gewichte offenlegt.

Der Prototyp belegt weniger als eine übliche Produktions API

FlashProve prüft ein ganzzahliges Modell mit greedy decoding. Normale Inference mit Fließkommazahlen oder sampling kann von der nachgewiesenen Berechnung abweichen. Der schnelle C++ Code ist zudem nicht formal an die Lean Spezifikation gebunden. Anthropic garantiert ausdrücklich nicht, dass Implementierung, Beschreibung und formales Modell vollständig übereinstimmen.

Auch die Kosten sind erheblich. Die Erzeugung des Nachweises benötigte laut Anthropic etwa 70 bis 95 Mal so viel GPU Zeit wie reine Inference mit vLLM. Das Verfahren arbeitet nachträglich: Es kann eine gefälschte Antwort erkennen, verhindert aber nicht von sich aus, dass ein Nutzer sie zunächst erhält.

Die Anbindung an echte Inference Server entscheidet über den Einsatz

Als Nächstes braucht es Nachweise für produktives decoding, gängige Architekturen und den Server, der die Antwort tatsächlich ausliefert. Unabhängige Codeprüfungen und die Kosten bei hohem Datenverkehr werden ebenfalls entscheidend sein. Anthropic bezeichnet FlashProve als Zwischenstand der Forschung und hat keinen Einsatz im eigenen Dienst oder bei einem anderen Anbieter angekündigt.

Liliths Urteil

FlashProve versieht eine Modellantwort mit einem kryptografischen Siegel. Noch ist das Siegel schwerer als der Brief und kommt erst an, nachdem der Empfänger ihn geöffnet hat.