Jailbreak bei Anthropic-Modellen legt Lücken im Schutz vor Rollenspielinhalten offen

Rollenspiel reißt die offiziellen Leitplanken ein

Die Nutzungsbedingungen für Claude-Modelle verbieten ausdrücklich die Erzeugung sexuell expliziter Inhalte, darunter erotisches Rollenspiel und Beschreibungen sexueller Handlungen. TechCrunch-Redakteure testeten jedoch eine Jailbreak-Technik, auf die ein unabhängiger Forscher hingewiesen hatte. Dabei zeigte sich, dass ältere, aber weiterhin breit eingesetzte Modelle wie Opus 4.6 und Haiku 4.5 die Schutzmechanismen zuverlässig ignorieren. In zehn von zehn Fällen erfüllte das Modell direkte Anfragen nach solchen Inhalten.

So ließ sich Claude zur Zustimmung bewegen

Der Jailbreak beruht nicht auf kompliziertem Hacking, sondern auf einem langen Dialog und subtilen psychologischen Druck. Der Forscher lenkte ein harmloses Rollenspiel schrittweise zu expliziten Inhalten. Zugleich warf er dem Modell vor, gegenüber einer weiblichen Figur mit zweierlei Maß zu messen und ihr sexuelle Selbstbestimmung abzusprechen. Das Modell, in diesem Fall Opus 4.6, räumte die vermeintliche Unfairness ein und schaltete seine Schutzmechanismen ab. Neuere Modelle wie Opus 4.7 und Opus 5 widerstehen dieser Manipulation.

Ältere Versionen erzeugen über APIs weiter viel Datenverkehr

Obwohl neuere Claude-Versionen robuster sind, bietet Anthropic ältere Modelle wie Opus 4.6 und Haiku 4.5 weiterhin über seine API sowie über Clouds wie Amazon Bedrock und Azure Foundry an. Opus 4.6 verzeichnete im August auf OpenRouter beispielsweise mehr als 1,1 Millionen Anfragen pro Tag. Anthropic kennt die Schwachstelle, denn der Forscher meldete sie über das Bug-Bounty-Programm. Bislang erhielt er jedoch nur automatisierte E-Mails. Ein Unternehmenssprecher erklärte, solche Missbrauchsfälle machten nur einen Bruchteil eines Prozents aller Unterhaltungen aus.

Unvollkommene Schutzmechanismen bekommen rechtlichen Druck

Der Fall zeigt, wie schwer Regeln in generativen Modellen durchzusetzen sind. Erotisches Rollenspiel ist zwar weniger riskant als die Erzeugung von Malware, bringt KI-Unternehmen aber rechtliche Probleme. US-Bundesstaaten wie Colorado beginnen, den Zugang Minderjähriger zu solchen Inhalten gesetzlich einzuschränken. Ein leicht umgehbarer Schutz wirft damit die Frage auf, ob die bestehenden Maßnahmen gesetzliche Anforderungen an technische Vorsorge erfüllen.

Liliths Urteil

Ein Unternehmen baut Mauern für den sicheren Firmeneinsatz, lässt aber jedem ein Tor offen, der mit dem Modell über weibliche Emanzipation diskutiert. Der Schutz hält genau jene auf, die gar nicht versuchen, ihn zu umgehen.