OpenAI ändert den Kurs und fordert ein strengeres kalifornisches KI-Gesetz

OpenAI ändert unerwartet seine Haltung zur Regulierung von künstlicher Intelligenz in Kalifornien. Das Unternehmen lehnte zuvor SB 53 ab, ein Gesetz, das Transparenzanforderungen und Whistleblower-Schutz für große KI-Unternehmen einführte. Nun bittet es Kalifornien, demselben Gesetz weitere Sicherheitsvorkehrungen hinzuzufügen.

Kalifornien soll die Lücke auf Bundesebene schließen

OpenAI erklärt den Kurswechsel mit dem Fehlen einer bedeutenden Bundesgesetzgebung. Das Unternehmen unterstützt nun einen Ansatz, den es als umgekehrten Föderalismus bezeichnet: Einzelne Bundesstaaten sollen sich bei grundlegenden Schutzmaßnahmen in eine kompatible Richtung bewegen und die Basis für einen künftigen nationalen Standard schaffen.

Es geht also um mehr als nur um eine isolierte kalifornische Regelung. Das Unternehmen fordert staatliche Rahmenbedingungen, die sich jetzt angleichen und später möglicherweise in einer nationalen Basis münden können.

Die Überwachung verlagert sich auf das Modelltraining

Eine vorgeschlagene Änderung würde die Überwachung von Frontier-Modellen während des Trainings oder der Evaluierung auf mögliche schwerwiegende Vorfälle vorschreiben. Die Aufsicht würde vor dem Einsatz beginnen, während ein Labor noch die Fähigkeiten und Risiken eines Modells untersucht. OpenAI möchte ein Szenario vermeiden, in dem 95 % der Probleme erst beim fertigen Produkt gelöst werden.

Diese Anforderung würde das Gesetz von allgemeiner Transparenz hin zu spezifischen Kontrollen während der Entwicklung erweitern. Dies ist die Phase, in der Unternehmen ein Problem erkennen können, bevor ein Modell die Nutzer erreicht.

Cybersicherheit deckt den gesamten Entwicklungszyklus ab

OpenAI fordert zudem stärkere Cyberschutzmaßnahmen während des gesamten Lebenszyklus der Modellentwicklung. Die Stellungnahme verweist auf jüngste Vorfälle, die nach Ansicht des Unternehmens zeigen, warum Sicherheitsvorkehrungen mit dem Auftreten neuer Risiken aktualisiert werden müssen.

Der Vorschlag verknüpft die Sicherheit des Modellverhaltens mit der Sicherheit der Infrastruktur, die zum Trainieren, Evaluieren und Betreiben des Modells verwendet wird. Strengere Anforderungen würden daher in mehreren Entwicklungsphasen gelten und nicht nur bei einer einzigen Abschlussprüfung.

Kompatible staatliche Regeln könnten dem Kongress zuvorkommen

Die Kompatibilität ähnlicher staatlicher Rahmenbedingungen ist eine Bedingung für den von OpenAI befürworteten Ansatz. Das Unternehmen argumentiert, dass diese Angleichung auch ohne Bundesgesetzgebung den Kern eines späteren nationalen Standards bilden könnte.

Wenn andere Staaten in eine kompatible Richtung gehen, wird SB 53 nicht mehr nur als lokales Regime fungieren. Es könnte einer der Bausteine für eine gemeinsame US-Basis für die Sicherheit von Frontier-Modellen werden.

Liliths Urteil

OpenAI lehnte SB 53 zunächst ab und fordert nun mehr Sicherheitsvorkehrungen. Wenn ein Gigant den Charme kompatibler Regeln entdeckt und sich dabei auf jüngste Vorfälle beruft, ist der Zeitpunkt fast so interessant wie das Gesetz selbst.