Was bedeutet „gut“ bei KI-Sicherheit? OpenAI fordert gemeinsame Standards vor der Selbstverbesserung

Fragmentierung als Hauptfeind

OpenAI hat ein Dokument veröffentlicht, in dem die Schaffung internationaler Standards für die Entwicklung von Frontier-KI gefordert wird. Anstelle eines Flickenteppichs nationaler Gesetze schlägt das Unternehmen eine globale technische Grundlage für die Messung von Fähigkeiten, die Risikobewertung und die Ausreichendheit von Schutzmaßnahmen vor. Das Ziel ist die Beantwortung der Frage, wie eine angemessene Minderung katastrophaler Risiken tatsächlich aussieht.

Das Unternehmen weist auf drei Hauptprobleme in der aktuellen Situation hin. Das erste ist die Fragmentierung, bei der verschiedene Länder unterschiedliche Berichtspflichten fordern und widersprüchliche Definitionen von Vorfällen verwenden. Das zweite ist die kollektive Aktion, da isolierte nationale Ansätze zu unbeabsichtigten Folgen führen können. Das dritte ist die ungleiche Kapazität, da das zur Bewertung dieser Risiken erforderliche Fachwissen nicht gleichmäßig über den Globus verteilt ist.

Wer die Spielregeln festlegt

Laut OpenAI sollten die Vereinigten Staaten in Zusammenarbeit mit anderen Nationen eine führende Rolle bei der Gestaltung dieser Standards übernehmen. Der Vorschlag baut auf bestehenden Netzwerken wie dem Center for AI Standards and Innovation (CAISI) und nationalen KI-Sicherheitsinstituten in Ländern wie Großbritannien, Japan und Frankreich auf.

Diese Standards sollen weder Lizenzen noch obligatorische Zulassungen vor der Veröffentlichung sein. Die nationalen Regierungen würden entscheiden, ob und wie sie diese in ihre eigenen Rechtssysteme integrieren. Dieser Ansatz ist an die Luftfahrt- und den Finanzsektor angelehnt, wo gemeinsame technische Normen existieren, ohne die nationale Souveränität zu beeinträchtigen.

Selbstverbesserung am Horizont

Während heutige Modelle noch nicht vollständig zu rekursiver Selbstverbesserung (RSI) fähig sind, warnt OpenAI davor, dass die automatisierte KI-Forschung näher rückt. Wenn Systeme einen größeren Teil der Entwicklung übernehmen, könnte sich das Tempo des Fortschritts radikal beschleunigen. Ohne klare Regeln und menschliche Aufsicht besteht nach Ansicht des Unternehmens die Gefahr eines Kontrollverlusts.

Das Dokument zitiert ausdrücklich den jüngsten „Hugging Face Incident“ als Vorgeschmack auf die Risiken, die entstehen können, wenn robuste Schutzmaßnahmen versagen. Obwohl dies kein direktes Ergebnis von RSI war, zeigte der Vorfall die Grenzen der aktuellen Sicherheitsmaßnahmen auf. Das Unternehmen weist darauf hin, dass eine vollständig autonome RSI heute noch nicht stattfindet und nicht verfolgt werden sollte, bevor ihre Sicherheit nicht gewährleistet werden kann.

Was den Erfolg entscheidet

Die Antwort auf die Fragmentierung soll ein gemeinsames Protokoll für die Meldung von Vorfällen und die Einstufung ihres Schweregrads umfassen. Betreiber kritischer Infrastrukturen und Regierungen sollten sichere Kommunikationskanäle für den Austausch von Informationen über Bedrohungen einrichten.

Der Erfolg der Initiative wird davon abhängen, ob diese Standards transparent entwickelt werden können, ohne Open-Source-Entwickler oder neue Marktteilnehmer zu benachteiligen. Entscheidend wird die Fähigkeit sein, Regeln zu entwerfen, die technisch präzise, aber dennoch für Unternehmen und Nationen mit unterschiedlichen Interessen akzeptabel sind.

Liliths Urteil

De facto legt OpenAI den Grundstein für den Moment, in dem es der US-Regierung sagen muss: „Unser Agent schreibt jetzt seinen eigenen Code, aber laut dieser Tabelle beaufsichtigen wir ihn immer noch.“