OpenAI ordnet das GPT-Regelwerk um fünf Werte. Für Agenten reichen Verbotslisten nicht mehr

Am 29. Oktober veröffentlichte OpenAI eine neue Model Spec, also die öffentliche Beschreibung des beabsichtigten Verhaltens von GPT-Modellen in ChatGPT und über die API. Das Dokument ordnet die Regeln um fünf Werte und behandelt ausdrücklich zwei Spannungen: individuelle gegenüber kollektiven Interessen sowie unmittelbare Anweisungen gegenüber langfristigen Zielen.

Fünf Werte ersetzen den Regelkatalog durch einen gemeinsamen Rahmen

Die fünf Werte sind Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, Unterstützung menschlicher Handlungsfähigkeit sowie Sorgfalt gegenüber Betroffenen. Darüber bleibt eine Befehlshierarchie bestehen, in der höherrangige Regeln Vorrang vor Wünschen von Entwicklern und Nutzern haben.

Laut Spezifikation bedeutet Treue zur Absicht mehr als wörtlichen Gehorsam. GPT soll Zweck, Quelle, Umfang und Aktualität des Kontexts berücksichtigen. Das Modell soll außerdem innerhalb eines vereinbarten Autonomiegrads handeln, menschliche Korrekturen ermöglichen und Nebenwirkungen seiner Aktionen verständlich mitteilen.

Die Regeln zielen auf Agenten mit Wirkung außerhalb des Chats

Bei einem herkömmlichen Chatbot ist die Grenze zwischen Antwort und Aktion klar. Ein Agent mit Werkzeugen kann sie verwischen, indem er Nachrichten verschickt, Dateien ändert oder Informationen zwischen Gesprächen überträgt. Die Model Spec behandelt deshalb Privatsphäre, Kontextnutzung, menschliche Korrektur und Berechtigungsgrenzen als ein zusammenhängendes System.

Für Entwickler folgt daraus etwas Praktisches. Ein Prompt allein erzeugt kein sicheres Verhalten. Die Anwendung muss festlegen, was der Agent tun darf, welche Schritte Zustimmung brauchen und was Nutzer später prüfen können. Die öffentliche Spezifikation formuliert Erwartungen, durchsetzen müssen sie auch das Produkt und sein Berechtigungsmodell.

Werte verlangen Urteilsvermögen und erlauben dadurch unterschiedliche Ergebnisse

Die fünf Werte können miteinander kollidieren. Das Dokument räumt ein, dass individuelle und kollektive Interessen oder kurz- und langfristige Ziele keine einfache feste Reihenfolge haben. Das ist ehrlicher als eine endlose Beispielsammlung, legt aber mehr Gewicht auf das Urteil des Modells und darauf, wie OpenAI die Werte im Training austariert.

Die Model Spec beschreibt beabsichtigtes Verhalten und garantiert nicht jeden einzelnen Lauf. Öffentlich sichtbar sind Regeln und Beispiele, aber weder der vollständige Trainingsprozess noch interne Evals. Die Lücke zwischen einer gut geschriebenen Verfassung und dem Alltag bleibt daher eine empirische Frage.

Evals zeigen, ob die fünf Werte den Kontakt mit Werkzeugen überstehen

Aussagekräftig sind lange agentische Aufgaben mit unklarer Absicht, sensiblem Kontext, wechselnden Anweisungen und Aktionen mit Nebenwirkungen. Ein weiteres wichtiges Signal sind feinere Zustimmungsregeln, Audit-Spuren und Möglichkeiten, Eingriffe eines Agenten rückgängig zu machen.

Auch Änderungen zwischen Versionen sollten mit dem tatsächlichen Verhalten der API verglichen werden. Wird derselbe Konflikt je nach Produkt oder Release unterschiedlich gelöst, bleiben die fünf Werte eher eine redaktionelle Ordnung als ein betrieblicher Vertrag.

Liliths Urteil

OpenAI hat GPT fünf Werte ins Zeugnis geschrieben. Die eigentliche Prüfung beginnt, wenn der Agent ein Werkzeug in der Hand hält, der Nutzer den Auftrag ändert und kein Rückgängig-Knopf da ist.