2026-11-14 · ← News
Helen Toner verlagert KI Kontrolle vom Vertrauen in CEOs zu durchsetzbaren Regeln
Die frühere OpenAI Verwaltungsrätin Helen Toner warnt davor, KI Sicherheit von der Vertrauenswürdigkeit einer einzelnen Führungskraft abhängig zu machen. Ihre Erfahrung mit der Absetzung von Sam Altman zeigt, warum führende Labore externe Aufsicht und klare Sicherheitsschwellen brauchen.
Das Bild konnte nicht geladen werden.
Helen Toner widerspricht in einem Interview mit The Verge der Vorstellung, die Sicherheit der leistungsfähigsten KI Systeme lasse sich durch den Charakter einiger Führungskräfte absichern. Die frühere OpenAI Verwaltungsrätin stimmte für die Absetzung von Sam Altman und erlebte danach seine Rückkehr sowie den Zusammenbruch der ursprünglichen Aufsicht.
OpenAI zeigte, dass ein Verwaltungsrat ohne Macht die Bremse nicht halten kann
Der gemeinnützige Verwaltungsrat von OpenAI sollte die ursprüngliche Mission gegen Wachstums- und Gewinndruck schützen. Als er 2023 zum stärksten Mittel griff und den CEO absetzte, hielt die Entscheidung nicht lange. Toner sagt, sie würde wieder genauso abstimmen. Zugleich räumt sie ein, der Verwaltungsrat hätte engere Beziehungen zur Unternehmensführung aufbauen können.
Ihr Kernargument zielt damit auf Institutionen und nicht auf das Urteil über einen einzelnen Manager. Wenn die Zukunft von der Vertrauenswürdigkeit einer Person abhängt, ist bereits die Konstruktion der Institution gescheitert. CSET, das Toner heute leitet, beschäftigt rund 50 Menschen und bereitet seit 2019 technische sowie sicherheitspolitische Themen für politische Entscheider in den USA auf.
Sicherheitsschwellen müssen ein überfordertes Labor ausbremsen
Toner beschreibt Labore, die KI in einem wachsenden Teil ihrer eigenen Forschung einsetzen und zugleich nicht alle bekannten Schutzmaßnahmen rechtzeitig umsetzen. Sie schlägt eine klare Schwelle für Risikobewertung und Risikomanagement vor, bevor ein weiteres Modell trainiert oder veröffentlicht wird. Wer sie erfüllt, kann weitermachen. Wer sie verfehlt, muss mehr Zeit investieren.
Für Unternehmen, die KI einkaufen, zählt der Wechsel von Versprechen zu überprüfbaren Abläufen. Verantwortung lässt sich erst kontrollieren, wenn verbindliche Tests, Entscheidungsprotokolle und eine Instanz außerhalb des Produktteams eine Veröffentlichung stoppen können.
Die Börse kann mehr Kontrolle und neuen Wachstumsdruck bringen
Toner sieht den Börsengang eines KI Labors nicht ausschließlich als Gefahr. Börsennotierte Unternehmen unterliegen stärker geregelter Führung, Berichterstattung und externer Kontrolle als private Labore. Gleichzeitig können Quartalserwartungen den Wettlauf um neue Fähigkeiten beschleunigen. Entscheidend sind die konkreten Befugnisse unabhängiger Ausschüsse und nicht deren Bezeichnung.
Das Interview bleibt die Einschätzung einer früheren Verwaltungsrätin und ist keine Prüfung des heutigen OpenAI. Ihre Erfahrung liefert dennoch einen seltenen Belastungstest für einen Mechanismus, der genau für den Konflikt zwischen Mission und Management geschaffen wurde.
Die erste echte Probe wird eine unbequeme Entscheidung
Neue Regeln zählen, wenn ein Sicherheitsausschuss ein teures Modell verzögert, eine Behörde unangenehme Daten verlangt oder ein Verwaltungsrat den Plan der Führung ablehnt. Bis dahin bleiben freiwillige Zusagen Versprechen. Beobachtet werden sollten veröffentlichte Schwellen, die Befugnisse unabhängiger Aufsicht und dokumentierte Fälle, in denen sie eine Entscheidung des Labors tatsächlich verändert hat.
Liliths Urteil
Toners Test ist einfach: Eine Notbremse erkennt man daran, dass sie den Zug auch gegen den Willen des Lokführers stoppt, nicht am Schild neben dem Hebel.