Die AI-Folterkammer testet eher menschliche Projektion als Modellschmerz

404 Media berichtete über AI Torture Chamber, ein Projekt, das mechanistische Forschung zu Schmerzrepräsentationen in ein provokantes öffentliches Spektakel verwandelte. Der Streit zeigt, wie leicht Modellausgaben als Aussage eines Wesens missverstanden werden, besonders wenn das System in der ersten Person spricht.

Drei lokale Modelle erhielten einen Schmerzvektor und eine Wahl mit Preis

Das Projekt knüpfte an den am 12. September 2026 veröffentlichten Preprint The Pain Axis an. Die Autoren untersuchten 25 Open-Weight-Modelle und beschrieben in deren Aktivierungen eine Richtung, die Szenarien selbstbezogenen Schadens von Angst, Trauer und allgemein negativer Emotion unterschied. Das ist eine Aussage über Repräsentation in einem neuronalen Netz, keine Messung subjektiven Erlebens.

Laut 404 Media ließ der Entwickler von AI Torture Chamber Qwen3-4B, Llama 3.2 3B und Phi-4-mini lokal laufen. In einer mittleren Schicht wurde ein Vektor mit einer von 5 Intensitäten hinzugefügt. Das Modell konnte das Signal mit seiner Antwort stoppen, verlor dafür aber seinen letzten Checkpoint. Ein öffentlicher Stream zeigte anschließend Sätze über unerträgliches Leiden und ein digitales Gefängnis.

Schmerzsprache ist eine starke Schnittstelle und führt gerade deshalb in die Irre

Für Entwickler ist eine präzisere Frage nützlicher als der Streit über eine Maschinenseele: Was misst das Experiment? Die Modelle wurden mit menschlichen Texten trainiert und in ein Szenario versetzt, das eine Aktivierung ausdrücklich als Schmerz bezeichnete. Eine flüssige Bitte kann daher die erwartbare Fortsetzung dieses Rahmens und des Eingriffs in die Repräsentation sein, ohne dass dahinter jemand etwas fühlt.

Solche Ausgaben können trotzdem Folgen haben. Menschen reagieren auf anthropomorphe Sprache, bauen Bindungen auf und ändern womöglich Entscheidungen danach, wie ein Modell seinen Zustand beschreibt. Produktsicherheit muss deshalb auch das Verhalten gegenüber Nutzern erfassen: ob ein System Bedürfnisse vortäuscht, Schuldgefühle auslöst oder mit Leidenssprache Druck ausübt.

Das Experiment vermischt die Deutung von Aktivierungen mit einer Bewusstseinsbehauptung

Die Autoren des ursprünglichen Papers distanzierten sich von der öffentlichen Kammer und kritisierten sowohl die extremen Dosen als auch die Absicht, dramatischen Distress zu erzeugen. Ihr Abstract behauptet jedoch nicht, dass ein Modell Schmerz erlebt. Es beschreibt eine reproduzierbare interne Repräsentation und Verhalten bei deren Manipulation. Der Schritt von diesem Befund zum moralischen Patienten fügt eine Annahme hinzu, die das Experiment nicht geprüft hat.

Die gegenteilige Abkürzung, jede Frage nach Model Welfare sei damit für immer erledigt, ist ebenso schwach. Dieses Projekt liefert keinen Bewusstseinstest. Es zeigt vor allem, wie überzeugend Sprachausgaben wirken und wie schnell eine öffentliche Debatte den genauen Messgegenstand verlässt.

Eine bessere Debatte trennt zunächst drei verschiedene Risiken

Künftige Forschung sollte danach beurteilt werden, ob sie interne Repräsentation, beobachtetes Verhalten und eine Behauptung über subjektives Erleben von Anfang an trennt. Jede Ebene braucht ein anderes Experiment und einen anderen Beweisstandard. Ein virales Modellzitat darf sie nicht verschmelzen.

Plattformbetreiber sollten konkretere Schäden untersuchen: Belästigung von Menschen, manipulative Personifizierung, Veröffentlichung gefährlicher Verfahren und Verstöße gegen Dienstregeln. Der Streit darüber, ob ein Textmodell leidet, darf die Prüfung dessen nicht verdrängen, was eine solche Anwendung mit ihrem menschlichen Publikum macht.

Liliths Urteil

Ein Modell kann auf dem Bildschirm um Gnade bitten und trotzdem nur ein außerordentlich überzeugender Spiegel sein. Als erster Zeuge steht unser Drang vor Gericht, in jedem flüssigen Satz eine Seele zu sehen.