Altman fordert globale KI-Regeln, während wenige Labore die Kontrolle behalten

Am 23. September forderte Sam Altman vor dem UN-Sicherheitsrat gemeinsame Standards für die leistungsfähigsten KI-Systeme. OpenAI verschob die Debatte damit von Unternehmensprinzipien zu der schwierigeren Frage, wer Regeln misst, überprüft und durchsetzt.

OpenAI brachte drei Prinzipien in den Sicherheitsrat

Altman sprach in der 10228. Sitzung neben Vertretern von Anthropic, Hugging Face und der Wissenschaft. Er ordnete seine Forderungen in drei Prinzipien: Menschen sollen im Zentrum von Entscheidungen bleiben, wissenschaftlicher und wirtschaftlicher Fortschritt soll ihnen zugutekommen und KI soll einzelne Menschen stärken.

Er verlangte einander ergänzende nationale und internationale Standards für Fähigkeitsmessung, Risikobewertung und wirksame menschliche Aufsicht. Hinzu kamen schnelle Meldungen von Vorfällen und sichere Kanäle zwischen Regierungen, Betreibern kritischer Infrastruktur und technischen Fachleuten.

Sicherheit wird zur Frage politischer Legitimität

Der folgenreichste Teil der Rede betraf die Konzentration von Macht. Altman sagte, zentrale Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden und Unternehmen dürften demokratische Prozesse nicht ersetzen.

Für Regierungen ist das eine Einladung, eine gemeinsame Sprache für Evals, Aufsicht und Belege zu schaffen. Für KI-Unternehmen bedeutet es zugleich, Regeln zu akzeptieren, deren Ergebnis sie womöglich nicht kontrollieren. Daran zeigt sich, ob hier ein Kurswechsel oder eine elegante politische Versicherung entsteht.

Die Rede setzte Ziele ohne Kontrollverfahren

Altman legte weder ein verbindliches Auditmodell noch unabhängige Zugangsrechte oder Fristen für Vorfallmeldungen vor. Auch der Konflikt zwischen globalen Standards und nationaler Zuständigkeit blieb offen.

OpenAI entwickelt, bewertet und veröffentlicht seine Modelle weiterhin selbst. Gemeinsame Begriffe helfen, doch ohne unabhängige Messung kann jeder Anbieter noch immer die eigene Prüfung benoten.

Audits, Vorfallmeldungen und Belegzugang entscheiden

Das nächste aussagekräftige Signal wird ein Protokoll sein, keine weitere Rede. Entscheidend ist, ob Staaten schwere Vorfälle einheitlich definieren, unabhängige Evals zulassen und festlegen, welche Nachweise ein Labor vor dem Einsatz liefern muss.

Überprüfbare Standards für offene und geschlossene Modelle könnten dem UN-Prozess praktisches Gewicht geben. Andernfalls bleibt menschliche Kontrolle ein gefälliger Satz ohne Schalter.

Liliths Urteil

Altman öffnete vor dem Sicherheitsrat das Kontrollbuch, doch die meisten Einträge schreibt weiterhin OpenAI. Zusammenarbeit beginnt, wenn ein unabhängiger Prüfer dieselben Modelle und Vorfälle sehen kann.