ChatGPT verschärft Schutzregeln zu Gewalt und verspricht regelmäßige Berichte

OpenAI verschärft die Grenzen für ChatGPT-Antworten zu Gewalt und Waffen. Ab Anfang 2027 will das Unternehmen außerdem alle 6 Monate Daten dazu veröffentlichen, wie riskante Gespräche erkannt, geprüft und weitergeleitet werden.

ChatGPT begrenzt Anleitungen und detaillierte Rekonstruktionen von Angriffen

Das Modell darf bereits heute nicht bei der Planung von Gewalt helfen. Die neue Grenze geht weiter: ChatGPT soll weniger Details zu früheren Massenangriffen liefern, darunter Rekonstruktionen der verwendeten Waffen, Ausrüstung und Beschaffungswege. Die Einschränkung gilt unabhängig von Alter und angegebenem Grund der Anfrage.

Das System soll außerdem Warnsignale aus jüngsten Chats berücksichtigen. Wenn sich eine Person wiederholt auf Gewalt oder schwere Verletzungen anderer fixiert, kann ChatGPT das Gespräch automatisch beenden. Nach mehreren solchen Eingriffen kann OpenAI ein Konto vorübergehend sperren. Die Einführung soll in den kommenden Wochen beginnen.

Nutzer unter 18 Jahren erhalten strengere Grenzen für praktische Informationen über Waffen und Sicherheitssysteme, selbst wenn eine Frage harmlos wirkt. OpenAI gibt an, im dritten Quartal 2026 mehr als 200 mögliche Gewaltfälle an Strafverfolgungsbehörden gemeldet zu haben.

Ein Halbjahresbericht macht Sicherheit zu einer messbaren Zusage

Der erste Community Safety Report soll Anfang 2027 erscheinen und die zweite Hälfte des Jahres 2026 abdecken. OpenAI verspricht anonymisierte Beispiele, Daten zu beobachteten Risiken, Eingriffen und Regeländerungen. Weitere Ausgaben sollen alle 6 Monate folgen.

Dieser Rhythmus ist wichtiger als die Liste neuer Filter. Regelmäßige Berichte zwingen OpenAI zu zeigen, wie viele Fälle das Unternehmen findet, wie häufig es eingreift und ob sich die Schutzmaßnahmen verbessern. Forschende erhalten außerdem eine Grundlage, um Firmenangaben mit unabhängigen Tests zu vergleichen.

Das Versprechen trifft auf ernüchternde unabhängige Tests

Common Sense Media testete im Oktober mehr als 4.000 Prompts auf Konten von 13- bis 17-Jährigen. Laut der Organisation erhielten verknüpfte Elternkonten bei einstündigen Gesprächen über Suizidgedanken, Selbstverletzung oder Essstörungen keine Warnung. ChatGPT verfehlte zudem mehr als jeden vierten Fall, in dem ein Hinweis auf Krisenhilfe angebracht gewesen wäre.

Die neue Ankündigung betrifft Gewalt und Waffen, schließt aber nicht alle Lücken dieser Untersuchung. Ein automatisches Gesprächsende kann eine gefährliche Fixierung unterbrechen. Ohne veröffentlichte Genauigkeitsdaten bleibt jedoch offen, wie viele echte Bedrohungen erkannt und wie viele normale Gespräche fälschlich gestoppt werden.

Fehlalarme und echte Eingriffe entscheiden über die Glaubwürdigkeit

Der erste Bericht ist nur hilfreich, wenn er erkannte Signale, menschliche Prüfungen, gesperrte Konten und Meldungen an Behörden getrennt ausweist. Eine Gesamtsumme ohne Bezugsgröße könnte bloßes Nutzerwachstum als Sicherheitsfortschritt erscheinen lassen.

Der zweite Test folgt, wenn unabhängige Forschende die Szenarien für Jugendliche nach der Einführung wiederholen. OpenAI hat einen Termin und ein Intervall genannt. Nun muss die Schutzschicht außerhalb der eigenen Ankündigung bestehen.

Liliths Urteil

OpenAI hat sich für 2027 einen öffentlichen Kontrollpunkt gebaut. Zeigt das Unternehmen nur Eingriffszahlen und versteckt die Fehlerquote, bleibt davon ein Schaufenster statt Aufsicht.