Die Debatte über existenzielle AI-Risiken erreicht die US-Politik

Der Rücktritt des Anthropic-Forschers Jacob Coxon am 8. September löste eine sichtbare Welle von Warnungen vor einem Kontrollverlust über fortgeschrittene AI aus. Danach forderte Anthropic-Chef Dario Amodei ein langsameres Entwicklungstempo an der Leistungsgrenze, während mehr als 1.000 Beschäftigte führender AI-Unternehmen eine Petition für ein bewusstes Vorgehen unterzeichneten.

Der Sicherheitsstreit bekam Namen, Unterschriften und politische Aufmerksamkeit

Coxon, der zuvor auch bei OpenAI gearbeitet hatte, verließ die Branche mit dem Argument, führende Labore bewegten sich schneller auf selbstverbessernde Superintelligenz zu, als sie die Risiken beherrschen könnten. Amodei warb anschließend öffentlich für eine Verlangsamung bei den leistungsfähigsten Systemen.

Zvi Mowshowitz zeichnet in seinem Kommentar nach, wie Politiker beider US-Parteien das Thema aufgriffen. Er beschreibt außerdem Donald Trumps scharfe Kehrtwende vom 19. September, als Trump die Sorgen um AI als weiteren politischen Schwindel bezeichnete und mit Widerstand gegen Rechenzentren verknüpfte.

Aus einer technischen Frage wird ein Macht- und Koordinationskonflikt

Labore können Evals, Zugangsbeschränkungen und externe Prüfung selbst einführen. Gemeinsames Bremsen kollidiert jedoch mit Wettbewerb, dem Rennen mit China und Sorgen um das Kartellrecht. Jeder Akteur kann langsamer werden wollen und zugleich fürchten, dass ein Konkurrent weiterfährt.

Für Unternehmen ist das ein Governance-Problem mit direkten Folgen. Freiwillige Zusagen können Modellveröffentlichungen schon vor einem Gesetz verändern, bleiben ohne klare Regeln aber widerruflich und von den Führungen weniger Labore abhängig.

Lauter Konsens hat noch keinen gemeinsamen Plan geschaffen

Einigkeit über die Relevanz des Risikos klärt die Reaktion nicht. Zur Wahl stehen Evals vor der Bereitstellung, externe Prüfer, Unternehmenshaftung, internationale Abkommen und einseitige Entwicklungsgrenzen. Jedes Instrument hat andere rechtliche und politische Folgen.

Die Quelle ist ein meinungsstarker Überblick mit einer offen vertretenen Position zu existenziellen Risiken. Sie eignet sich als Karte der Akteure und Argumente, nicht als neutrale Schätzung einer Katastrophenwahrscheinlichkeit.

Regeln für die nächsten Modelle zeigen, ob der Wandel trägt

Entscheidend wird, ob die USA Prüfungen vor der Bereitstellung vorschreiben, Sicherheitskoordination vor Kartellstreit schützen und unabhängige Evaluatoren in die Entwicklung einbinden. Das zweite Signal liefern die Labore: ob die Rufe nach Verlangsamung Zeitpläne, Zugangsregeln und die Offenlegung von Vorfällen verändern.

Liliths Urteil

Sobald das Tempo der Modelle auf einer Wahlkampfbühne entschieden wird, halten die Labore nicht mehr das ganze Lenkrad. Die Politik baut nun Leitplanken oder malt eine weitere Spur für das Rennen mit China.