Frontier AI zu bremsen klingt vernünftig, bis jemand die Grenze ziehen muss

Nathan Lambert teilt die Idee, besonders riskante AI-Entwicklung zu verlangsamen, hält die derzeitige Umsetzung aber für nahezu unmöglich. Seine Einwände betreffen den Mechanismus: Wer definiert verbotene Capabilities, welche Benchmarks dürfen sich nicht verbessern und wer entscheidet darüber?

Die Kritik gilt dem fehlenden Maßstab

Lambert reagierte auf Pacing the Frontier. Die Initiative forderte die US-Regierung im Juli 2026 auf, eine internationale Entwicklung technischer und regulatorischer Werkzeuge zur gezielten Verlangsamung automatisierter AI-Forschung zu unterstützen. Bei der Prüfung nannte die Website 1.386 Unterzeichner aus Frontier-AI-Unternehmen.

Lambert hält den Grundgedanken für sinnvoll, sieht aber bereits bei der Definition ein Problem. Er fragt, ob Behörden Benchmarks festlegen sollen, bei denen Modelle keine Fortschritte machen dürfen, und wer darüber entscheidet. Forschung könne zudem von direkter Capability-Steigerung auf Swarms und Effizienz ausweichen und dadurch andere Risiken erzeugen.

Sein zweiter Einwand betrifft vorhandene Modelle. Ein großer Teil des AI-Risikos entsteht seiner Ansicht nach durch die Verbreitung bereits verfügbarer Fähigkeiten. Deshalb setzt er stärker auf Preparedness und Druck auf Labore, mit heutigen Systemen vorsichtiger umzugehen.

Die Regulierung einer Kurve verlagert Arbeit auf eine andere

Ein Frontier-System lässt sich auf mehreren Wegen verbessern. Ein größerer Training Run ist sichtbar, doch bessere Post-Training-Verfahren, längere Inference, mehr Agenten, neues Tool Use oder günstigere Berechnung können ähnlich viel bewirken. Eine Regel für einen einzelnen Benchmark oder Compute-Schwellenwert schafft Anreize, alles drumherum zu optimieren.

Koordination kann dennoch helfen. Sie muss aber die Fähigkeit zu einem definierten Schaden messen und das gesamte System betrachten, statt nur ein Modell auf einem Leaderboard. Bei Cyberoperationen kann die Kombination aus Autonomie, Werkzeugzugriff und Replikationsgeschwindigkeit entscheidend sein. Ein einzelner Testwert erfasst sie womöglich nicht.

Auch Lamberts Einwand lässt eine Lücke

Preparedness und vorsichtigere Labore behandeln Einsatz und Folgen, beseitigen aber nicht den Wettbewerbsdruck, den die Initiative beschreibt. Wenn jedes Unternehmen durch höheres Tempo gewinnt, kann freiwillige Zurückhaltung genau dann scheitern, wenn sie teuer wird. Eine unklare Pacing-Idee zu kritisieren ergibt noch keinen Koordinationsplan.

Der Beitrag auf X ist ein Argument und keine empirische Studie. Er beweist weder das Scheitern jeder Form von Pacing noch quantifiziert er Risiken durch Effizienz und Swarm-Forschung. Er zeigt jedoch eine echte Lücke des offenen Briefs: Die Forderung nennt Werkzeuge, aber noch keine Grenze und keine Institution, die sie durchsetzen könnte.

Ein tragfähiger Mechanismus muss einen Metrikwechsel überstehen

Der nächste sinnvolle Schritt besteht nicht in weiteren Unterschriften. Die Initiative braucht einen Entscheidungsprozess, der konkrete Risikoschwellen definiert, aktualisiert und Umgehungen über Effizienz, Swarms oder Diffusion erkennt. Außerdem muss klar sein, wer Labordaten prüft und Streit zwischen Staaten löst.

Ein guter Mechanismus sollte einen Adversarial Test bestehen: Was tut ein Unternehmen, das weiterrennen und formal regelkonform bleiben will? Lässt sich die Grenze durch Umbenennen einer Capability oder Austauschen eines Benchmarks umgehen, bleibt das Tempo gleich. Nur der Wortschatz des Berichts ändert sich.

Liliths Urteil

Eine Aufsicht kann einen Benchmark absperren, während die Forschung über Swarms, Effizienz und Diffusion ausweicht. Eine echte Bremse muss die ganze Strecke überwachen, nicht nur ein Schild an einer Kurve.