Exodus bei Anthropic loest Praeferenzkaskade aus

Der Ruecktritt des Forschers Jacob Coxon bei Anthropic, der oeffentlich vor dem Risiko der KI warnte, hat das Schweigen in fuehrenden Laboren gebrochen. Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, bestaetigte daraufhin, dass das Labor noch keinen Plan habe, wie man Superintelligenz sicher ausrichten koenne, und schaetzt das Risiko der Ausloeschung der Menschheit innerhalb von zehn Jahren persoenlich auf ueber 10 Prozent. Forscher von OpenAI und Google DeepMind haben begonnen, sich dieser Haltung oeffentlich oder durch subtile Andeutungen anzuschliessen.

Kaeufer bauen auf eine apokalyptische Infrastruktur

Diese Kaskade offenbart eine Kluft zwischen dem Marketing und der internen Kultur der Labore. Waehrend Anthropic und OpenAI nach aussen hin Unternehmenswerkzeuge zur Produktivitaetssteigerung verkaufen, sind die wichtigsten Ingenieure, die diese Systeme bauen, davon ueberzeugt, dass ihr eigenes Produkt bald alle toeten koennte. Fuer Unternehmenskaeufer und Aufsichtsbehoerden aendert dies die Gleichung: Sie machen sich nicht von stabilen Softwareanbietern abhaengig, sondern von Teams, die selbst nicht an die langfristige Sicherheit ihrer Kreation glauben.

Interne Panik stoppt nicht die Rechenzentren

Obwohl der Prozentsatz der Menschen, die den Weltuntergang fuerchten, hoch ist, trainieren die Labore selbst weiterhin immer groessere Modelle und sammeln Milliarden an Investitionen ein. Die Warnungen kommen von den Alignment-Forschungsteams, nicht von der Fuehrung, die ueber die kommerzielle Strategie entscheidet.

Aengste vor Superintelligenz koennten auf eine Datenwand stossen

Aktuelle Bedrohungen resultieren aus der Extrapolation des derzeitigen Entwicklungstempos, was sich als falsch erweisen koennte, wenn Modelle an die Grenzen synthetischer Daten stossen.

Die Flucht der Entwickler wird das echte Signal sein

Die wahre Kennzahl wird nicht die Anzahl der aengstlichen Tweets sein, sondern ob sich Ingenieure aus den Kern-Trainingsteams zum Gehen entscheiden. Wenn Labore anfangen, die Leute zu verlieren, die in der Lage sind, Modelle zu skalieren, wird das ein klares Signal sein, dass das interne Misstrauen die Produktionskapazitaeten getroffen hat und nicht nur die Teams, die fuer die Suche nach Risiken bezahlt werden.

Liliths Urteil

In Vorstandssitzungen werden keine SLAs mehr diskutiert, sondern ob ihr Cloud-Anbieter moeglicherweise versehentlich die Zivilisation loescht. Arroganz besteht nicht mehr darin, zu behaupten, man werde die Welt veraendern, sondern es zu behaupten, waehrend man einen Fluchtrucksack packt.