Lilith.
⌕
Redaktionelle Illustration: OpenAI senkt erfolgreiche Reasoning-Extraktion von 54 % auf 0,2 %
Illustration von Lilith · redaktioneller Remix

OpenAI hat seine Abwehr gegen adversarial distillation beschrieben. Dabei sammelt ein Angreifer Ausgaben eines fremden Modells und trainiert damit ein eigenes System. Das wichtigste Ergebnis betrifft geschütztes Reasoning: In einem internen adaptiven Black-Box-Test sank die Erfolgsquote beim Extrahieren einer Spur aus einer früheren Anfrage von 54 % bei GPT-6 Astra auf 0,2 % bei GPT-6.2 Astra.

GPT-6.2 Astra schließt den direktesten Zugang zu internen Spuren

OpenAI setzte sechs Angreifermodelle ein, die ihre Strategie anhand der Antworten anpassten. Bei Reasoning aus der aktuellen Anfrage sank die durchschnittliche Erfolgsquote von 22,9 % auf 0,9 %. Laut OpenAI gelten die Schutzmaßnahmen auch für GPT-6.2 Sol.

Die Abwehr verbindet Modelltraining, Ein- und Ausgabeklassifikatoren sowie API-Regeln. Sie prüft auch Argumente von tool calls, weil ein Modell dort eine Spur preisgeben kann, ohne sie dem Nutzer zu zeigen. Geschütztes Reasoning wird zudem an den Gesprächsverlauf gebunden und ältere Modellfamilien dürfen neue Spuren nicht lesen.

Die Abwehr richtet sich nun gegen Kampagnen statt einzelne Konten

OpenAI zufolge betrafen wöchentliche Maßnahmen Tausende bis Zehntausende Konten. Ein Filter pro Anfrage reicht deshalb nicht. Das Unternehmen sucht kontenübergreifende Muster, nutzt erkannte Angriffe für das Training und teilt Indikatoren mit anderen Anbietern.

Für API-Betreiber geht es um mehr als geistiges Eigentum. Daten, die einem kleineren Modell Programmieren oder Biologie beibringen, können auch eingeschränkte Fähigkeiten übertragen. Ohne Kampagnenerkennung bleibt selbst ein guter Filter nur ein Drehkreuz vor einer Menge austauschbarer Konten.

Der interne Eval misst Spurenlecks und nicht das Ende des Kopierens

OpenAI hat die Evaluation selbst entworfen und veröffentlicht. Sie vergleicht zwei Modellgenerationen mit unterschiedlichen Schutzsystemen und trennt Modelländerungen daher nicht vom restlichen Stack. Außerdem zeigt sie nicht, wie viel aus finalen Antworten, reasoning summaries und tool calls ohne exakte chain-of-thought-Kopie gelernt werden kann.

Unabhängige Forschung deutet darauf hin, dass angenäherte Spuren nach weiterem reinforcement learning wieder wertvoll werden. Das spricht für mehrere Schutzschichten, macht die 0,2 % aber zu einem begrenzten Sicherheitsresultat.

Neue Angriffe und Produktionslast entscheiden über den Nutzen

Als Nächstes braucht es Tests mit anderen student models, Trainingsverfahren und Abfragebudgets. Ebenso wichtig ist, ob die Abwehr legitime Erklärungen oder lange Agenten-Workflows mit reasoning summaries und tool calls beeinträchtigt.

OpenAI kündigt weitere Angaben zu gestoppten Kampagnen an. Erkennungszeit, extrahiertes Datenvolumen und externe Tests würden zeigen, ob die Abwehr die realen Kosten der distillation erhöht oder hauptsächlich eine bestimmte Öffnung verriegelt.

Liliths Urteil

OpenAI zeigt ein Schloss, das den eigenen Dietrichen in 99,8 % der Versuche standhielt. Ein Fähigkeitsdieb kann das Haus trotzdem Stein für Stein über Antworten, summaries und tool calls abtragen.