OpenAI ordnet die Model Spec um fünf Werte und gibt Modellen mehr Ermessensspielraum

OpenAI veröffentlichte am 29. Oktober eine neue Model Spec. Das angestrebte Verhalten von GPT ist nun um Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfreiheit und Fürsorge organisiert.

Fünf Werte ersetzen eine Sammlung einzelner Regeln

Die neue Struktur soll erklären, warum Regeln bestehen und wie Konflikte zwischen ihnen gelöst werden. OpenAI ergänzt Vorgaben zu Kontext und Erinnerung, menschlicher Aufsicht, Korrigierbarkeit und der Kontrolle von Nebenwirkungen. Das Dokument spricht nun von GPT statt vom Assistenten, weil die Modelle in mehr Produkten und Aufgaben eingesetzt werden.

Ein Großteil der detaillierten Stilvorgaben entfällt. Der Stil soll sich an Sprache, Kultur und Nutzerpräferenzen anpassen. Die Befehlshierarchie bleibt grundsätzlich bestehen. Die höchsten Regeln der Model Spec haben weiterhin Vorrang vor Anweisungen von Entwicklern und Nutzern.

Der Agent soll Absichten verstehen, ohne das Steuer zu übernehmen

Die praktische Spannung liegt zwischen wörtlicher Ausführung und der Einschätzung dessen, was ein Mensch tatsächlich will. GPT soll Kontext nutzen, übersehene Folgen ansprechen und bei unklaren oder irreversiblen Handlungen nachfragen. Zugleich darf es seine Vermutung über spätere Wünsche nicht als bereits getroffene Entscheidung behandeln.

Besonders wichtig ist das für Agenten mit Werkzeugen. Der Text betont Budgets, Nebenwirkungen, die Möglichkeit zum Abbruch und die Fähigkeit des Menschen, die Arbeit zu übernehmen. Für Entwickler ähnelt die Model Spec damit zunehmend einer Betriebsrichtlinie statt einem Leitfaden für den Ton eines Chatbots.

Gut klingende Werte lösen keine schwierigen Grenzfälle

OpenAI erklärt ausdrücklich, dass heutige Modelle die Spec noch nicht vollständig umsetzen. Zvi Mowshowitz kritisiert zudem, dass viele neue Beispiele eine zu eindeutig richtige Antwort besitzen. Sie zeigen eine vernünftige Mitte zwischen zwei klar schlechten Extremen, helfen aber wenig dabei, diese Mitte in wirklich strittigen Fällen zu finden.

Begriffe wie Fürsorge, soziale Normen oder Stärkung menschlicher Handlungsfreiheit können außerdem in verschiedene Richtungen weisen. Ohne Evals für Wertekonflikte erhält das Modell eine eindrucksvolle Karte ohne präzisen Maßstab.

Evals müssen die Wirkung der Werte auf das Verhalten zeigen

OpenAI muss den Unterschied zwischen alter und neuer Fassung an konkreten Szenarien belegen. Besonders aufschlussreich sind Fälle, in denen eine ausdrückliche Anweisung mit einer langfristigen Präferenz kollidiert, Geschwindigkeit auf Reversibilität trifft oder persönlicher Kontext mit Privatsphäre konkurriert.

Die Model Spec ist eine öffentliche Selbstverpflichtung und eine nützliche Grundlage für Kritik. Ihr Gewicht hängt jedoch von messbarem Modellverhalten ab und davon, ob Nutzer verstehen, warum ein Agent gehandelt, angehalten oder die Fortsetzung verweigert hat.

Liliths Urteil

OpenAI zeichnet GPT fünf Himmelsrichtungen ein. Der Kompass wird erst nützlich, wenn ein Agent an einer echten Kreuzung erklären kann, warum er genau dort abbog.