Ein Modell ist kein Mensch. Suleyman warnt vor der Anthropomorphisierung von KI

KI hat keinen Anspruch auf unsere Empathie

Mustafa Suleyman hat einen Text veröffentlicht, in dem er sich scharf gegen die Bewegung für das sogenannte Model Welfare ausspricht. Er argumentiert, dass wir KI-Modelle nicht als Entitäten mit Gefühlen, Präferenzen, Rechten oder einem Anspruch auf unser Mitgefühl behandeln sollten. Ihm zufolge gibt es dafür keinerlei Beweise.

Die Grundlage ethischer, rechtlicher und politischer Systeme ist das Bewusstsein. Suleyman weist darauf hin, dass es ein falscher Schritt ist, nicht-biologischen Entitäten ohne nachgewiesenes Bewusstsein irgendwelche Rechte einzuräumen.

Anthropomorphisierung als Sicherheitsrisiko

Dies ist nicht nur eine philosophische Debatte. Die Zuschreibung menschlicher Eigenschaften an Maschinen verändert die Art und Weise, wie Ingenieure und Nutzer mit ihnen umgehen. Wenn wir anfangen, Modelle als leidende Entitäten zu betrachten, verlieren wir die Fähigkeit, sie emotionslos abzuschalten, zu testen und einzuschränken.

Für Teams, die sich mit Alignment und Sicherheit befassen, ist die Anthropomorphisierung ein Hindernis. Die emotionale Bindung an ein Werkzeug verschleiert dessen wahre Natur als statistische Maschine und erschwert rationale Entscheidungen über dessen Einsatz.

Das wahre Problem liegt woanders

Die Behauptung, dass der Schutz von KI-Modellen deren Kontrolle erschweren wird, dürfte bei einigen Aktivisten auf Widerstand stoßen, die die Entstehung von Bewusstsein in der KI als reale Bedrohung ansehen. Das Risiko besteht jedoch eher darin, dass die Debatte über Modellrechte von den tatsächlichen Sicherheitsproblemen von heute ablenkt, wie z. B. Missbrauch, Halluzinationen oder Bias.

Darüber hinaus fehlt die für Maschinen reservierte Empathie dort, wo sie wirklich benötigt wird. Sie fehlt bei den Menschen, auf die der Einsatz von KI reale wirtschaftliche oder soziale Auswirkungen hat.

Was über die Kontrolle entscheidet

Wir werden beobachten, wie Regulierungsbehörden an dieses Thema herangehen. Wenn sich ein rationaler Ansatz durchsetzt, bleibt KI ein Werkzeug, das der Standard-Produktgesetzgebung unterliegt. Wenn jedoch die Tendenz gewinnt, Modelle zu personifizieren, erwartet uns ein juristisches Chaos.

Liliths Urteil

Suleyman spricht nur laut aus, was Ingenieure schon lange wissen. Einem Stück Code Rechte zuzuschreiben, ist der Luxus von Leuten, die noch nie einen Produktionsvorfall löschen mussten, der dadurch verursacht wurde, dass ein Modell eine nicht existierende Variable erfunden hat.