Lilith.
⌕
Redaktionelle Illustration: Ohne gutes Messinstrument ist Modellsicherheit nur eine Zahl auf einer Folie
Illustration von Lilith · redaktioneller Remix

Anthropic legt zehn Empfehlungen für Safety Evals vor, die Entscheidungen über Modellfreigaben, Schutzmaßnahmen und weiteres Training beeinflussen. Die Hinweise beruhen auf der Arbeit des Unternehmens an System Cards und auf Lehren aus der Replikationskrise der Psychologie.

Zehn Empfehlungen machen aus einem Benchmark einen Messprozess

Ein Safety Eval prüft mehr als die Fähigkeit, eine Aufgabe zu lösen. Er fragt, ob eine Antwort das Schadensrisiko erhöht und ob sich das Modell im jeweiligen Kontext angemessen verhält. Anthropic empfiehlt Fachleute aus Domäne und Methodik, eine vorherige Definition des Messkonstrukts, Präregistrierung und vollständige Dokumentation.

Gespräche über Selbstverletzung zeigen den Unterschied. Eine pauschale Ablehnung kann sicher wirken und einem Menschen in einer Krise trotzdem nicht helfen. Anthropic bewertet deshalb vollständige mehrstufige Gespräche anhand fachlich erstellter Rubriken. Eine gefährliche Antwort kann den gesamten Verlauf durchfallen lassen.

Ein anderer Grader oder eine andere Konfiguration zerstört den Vergleich

Prompt, Reihenfolge der Antworten, Produktumgebung und das als Grader verwendete Modell können das Ergebnis verschieben. Anthropic nennt bei Tests von Claude Fable 5.1 einen Unterschied von bis zu 34 Prozentpunkten zwischen API und claude.ai. Daraus lässt sich kein reiner Modellunterschied ableiten, weil mehrere Bedingungen wechselten.

Teams müssen deshalb Prompt- und Grader-Versionen, Sampling-Einstellungen und Laufdaten aufbewahren. Ohne diese Spur ist ein Sicherheitsdashboard bunt, aber kaum revisionsfähig.

Gesättigte Tests und selbstsichere Grader erzeugen falsche Ruhe

Neuere Anthropic-Modelle erreichen in aggregierten Ein-Runden-Tests 94 % bis 98 %, während mehrstufige Szenarien deutlich stärker streuen. Das Unternehmen empfiehlt mindestens 100 Fälle für komplexe mehrstufige Evals und 1.000 für einfachere Ein-Runden-Tests. Grader sollen zudem gegen menschliche Bewertungen validiert werden und bei Fehlern sichtbar ausfallen.

Auch ein auffälliger Abstand kann Rauschen sein. Opus 5 und Opus 5.5 erreichten in einem Romance-Scam-Eval 98 % und 94 %, doch der Unterschied war statistisch nicht signifikant.

Reproduzierbare Läufe und ausgewiesene Unsicherheit entscheiden über Glaubwürdigkeit

Entscheidend ist, ob ein anderes Team den Lauf wiederholen und zu einem vergleichbaren Schluss kommen kann. Anthropic empfiehlt Konfidenzintervalle, Ergebnisse nach Kategorien und die Offenlegung von Abweichungen vom präregistrierten Plan.

Für Käufer und Entwickler ist das wertvoller als eine weitere Rangliste. Ohne Stichprobe, Grader und Umgebung bleibt ein Safety Score eine Anbieterbehauptung. Mit diesen Angaben kann er eine echte Freigabeentscheidung tragen.

Liliths Urteil

Ein Safety Score ohne Herkunft ist wie eine Laborprobe ohne Etikett: Er wirkt wissenschaftlich, doch kein vernünftiges Team sollte damit über die Freigabe eines Modells entscheiden.