Zwölf Stimmen aus AI Laboren warnen vor Gefahr, aber bieten keinen gemeinsamen Plan

Das Projekt frominside.ai von Palisade Research veröffentlichte Interviews mit 12 heutigen oder früheren Mitarbeitern von OpenAI, Google DeepMind und Anthropic. Einige beziffern das Aussterberisiko auf zweistellige Prozentwerte. Eine einheitliche Diagnose oder einen gemeinsamen Plan zur Steuerung der Entwicklung liefert die Reihe jedoch nicht.

Forscher geben dem Extremrisiko Gesichter und konkrete Zahlen

Geoffrey Irving, früher bei OpenAI und Google DeepMind, schätzte die Wahrscheinlichkeit des Aussterbens der Menschheit auf etwa 50 %. Neel Nanda von Google DeepMind nannte mindestens 10 %. Daniel Kokotajlo sagte, Menschen wüssten nicht, wie sich superintelligente Systeme kontrollieren ließen, und dürften diesen Zustand nicht zulassen.

Die Website sammelt 12 veröffentlichte vollständige Interviews und thematische Zusammenschnitte. Zu den Teilnehmern gehören heutige und ehemalige Mitarbeiter von drei führenden Laboren. Palisade gibt an, 22 Interviews gedreht zu haben. Einige sollen erst veröffentlicht werden, wenn die Teilnehmer später zustimmen. Die Aussagen sind persönliche Ansichten und keine Positionen der Arbeitgeber.

Die stärkste Botschaft ist der Konflikt innerhalb des Wettrennens

Das Projekt zeigt mehr als Angst vor einem hypothetischen System. Es zeigt Menschen, die das Risiko für außergewöhnlich groß halten und trotzdem in den Laboren bleiben. Nanda erklärt, er würde gehen, wenn er nicht glaubte, dass seine Arbeit das existenzielle Risiko unmittelbar senkt. Andere gingen, weil sie internen Zusagen nicht mehr vertrauten oder staatliche Aufsicht forderten.

Für AI Unternehmen ist das ein Governance Problem. Ein Sicherheitsforscher kann Risiken mindern und zugleich die Fortsetzung der Entwicklung legitimieren. Die Öffentlichkeit hört eine Warnung von jemandem, dessen Arbeitgeber immer leistungsfähigere Systeme verkauft. Mary Phuong benannte diese Spannung direkt und empfahl Misstrauen gegenüber ihren Aussagen, weil das Labor sie bezahlt.

Zwölf Interviews sind keine Befragung der gesamten Branche

Palisade räumt ausdrücklich ein, dass die Teilnehmer keine repräsentative Stichprobe bilden. Die Organisation rekrutierte über eigene Netzwerke. Zugesagt haben eher Menschen, die eine dringende Botschaft vermitteln wollten. Sicherheitsteams und Befürworter einer langsameren Entwicklung an der Frontier sind überdurchschnittlich vertreten.

Auch eine präzise Prozentzahl einer einzelnen Person ist keine Messung der Wahrscheinlichkeit. Sie ist ein mehr oder weniger kalibriertes persönliches Urteil ohne beobachtbare Serie von Fällen. Die Videos belegen, dass die Sorge in großen Laboren existiert und einige Fachleute sie ernst nehmen. Sie belegen weder, dass 50 % die richtige Schätzung sind, noch dass alle Forscher das Risiko gleich sehen.

Konkrete institutionelle Vorschläge bestimmen das Gewicht der Interviews

Im nächsten Schritt müssen Sorgen in überprüfbare Entscheidungen übersetzt werden. Dazu gehören Regeln für den Einsatz sehr leistungsfähiger Modelle, unabhängige Evals, Meldung von Vorfällen, Schutz interner Kritiker und eine klare Befugnis zum Stopp einer Entwicklung oder Veröffentlichung. Ohne solche Mechanismen bleibt selbst die schärfste Aussage ein gut teilbares Video.

Entscheidend wird sein, ob heutige Mitarbeiter konkrete Schwellen nennen, bei deren Überschreitung sie kündigen oder eine regulatorische Intervention verlangen würden. Eine solche Grenze trennt persönliche Angst von einer Verpflichtung, für die jemand berufliche Folgen in Kauf nimmt.

Liliths Urteil

Die Kamera zeigt Menschen mitten im Rennen, die vor dem Abgrund am Ende der Strecke warnen. Jetzt muss sich zeigen, wer nach der Bremse greift.