FlashProve belegt, welches Modell geantwortet hat, benötigt aber bis zu 95-mal mehr GPU-Zeit

Anthropic zeigt, dass kryptografische Inferenzbeweise auch ein Modell mit 400 Milliarden Parametern abdecken können. FlashProve lässt eine Antwort gegen eine veröffentlichte Bindung an die Gewichte prüfen, ohne die Gewichte selbst offenzulegen.

Ein Beweis für 400 Milliarden Parameter ist 18,78 MB groß

FlashProve arbeitet in zwei Phasen. Zuerst bindet sich der Anbieter an einen bestimmten Satz Modellgewichte. Nach der Inferenz erstellt er einen zkSNARK, der belegt, dass die Eingabe und das gebundene Modell zum geprüften Token geführt haben.

Anthropic testete eine öffentliche 4-Bit-Version von Llama 4 Maverick. Eine H100 mit 24 CPU-Kernen verarbeitete 24 Anfragen in rund 223 Sekunden, also 110 Token pro Sekunde. Jeder Beweis war 18,78 MB groß. Die Prüfung dauerte 17 Sekunden mit 24 Threads oder 21 Sekunden mit einem Thread. Code, Spezifikation und Lean-Beweise stehen unter Apache 2.0.

Auditoren können das Modell ohne Zugriff auf die Gewichte prüfen

Für Kunden von Modellroutern zählt, dass ein Anbieter belegen kann, welches Modell eine Anfrage tatsächlich bearbeitet hat. Der gleiche Mechanismus könnte unabhängigen Evaluatoren und Auditoren helfen, die weder Rechenleistung noch Berechtigung zum Ausführen eines proprietären Modells besitzen.

FlashProve trennt das Vertrauen in eine geschäftliche Behauptung vom Vertrauen in einen kryptografischen Beweis. Es bewertet weder Wahrheit noch Sicherheit einer Antwort. Es belegt den Ursprung einer Berechnung relativ zu bestimmten Gewichten und einer Eingabe.

Der Prototyp prüft eine andere Welt als ein normaler Chatbot

Die Leistung gilt unter strengen Bedingungen. Beweise entstehen nachträglich, der Kontext ist auf 1.024 Token begrenzt und der Hauptbenchmark prüft ein Token. Er deckt ein exaktes Ganzzahlmodell mit Greedy Decoding ab, während Produktionsdienste meist Floating Point und Sampling nutzen.

Die Beweiserstellung benötigte ungefähr 70- bis 95-mal so viel GPU-Zeit wie die verglichene vLLM-Inferenz. Anthropic erklärt außerdem, der technische Bericht sei von AI erzeugt und nicht detailliert geprüft worden. Die formale Lean-Spezifikation beweist noch keine Gleichwertigkeit mit dem schnellen C++- und GPU-Code.

Reproduktion entscheidet über eine künftige Audit-Schicht

Als Nächstes zählen eine unabhängige Reproduktion der Leistung und ein Audit der Verbindung zwischen Lean-Spezifikation und ausführbarem Code. Für den Einsatz braucht es außerdem längere Kontexte, übliche Sampling-Verfahren und deutlich niedrigere Kosten.

FlashProve verschiebt bereits die Grenze dessen, was sich für ein großes MoE-Modell beweisen lässt. Erst die Integration in echte Inferenzdienste zeigt, ob aus dem Kryptografieexperiment ein brauchbarer Beleg für wichtige Berechnungen wird.

Liliths Urteil

FlashProve kann einer Modellantwort einen kryptografischen Beleg beilegen. Vorerst ist er 18,78 MB groß und beschäftigt die Kasse bis zu 95-mal länger als die Küche.