OpenAI opiera Model Spec na pięciu wartościach i daje modelom więcej miejsca na osąd

OpenAI opublikowało 29 października nową wersję Model Spec. Zamierzone zachowanie GPT opiera teraz na wierności ludzkiej intencji, minimalizacji szkód, uczciwości i przejrzystości, ludzkiej autonomii oraz trosce.

Pięć wartości zastępuje zbiór osobnych reguł

Nowa struktura ma wyjaśniać, po co istnieją poszczególne zasady i jak rozstrzygać ich konflikty. OpenAI dodało wskazówki dotyczące użycia kontekstu i pamięci, ludzkiego nadzoru, podatności na korektę oraz kontroli skutków ubocznych. Dokument mówi teraz o GPT zamiast o asystencie, ponieważ modele działają w szerszej gamie produktów i zadań.

Usunięto większość szczegółowych zaleceń stylistycznych. Styl ma dopasowywać się do języka, kultury i preferencji użytkownika. Hierarchia poleceń pozostaje zasadniczo bez zmian, a najwyższe reguły Model Spec nadal mają pierwszeństwo przed instrukcjami dewelopera i użytkownika.

Agent ma rozumieć intencję, ale nie przejmować kierownicy

Praktyczne napięcie powstaje między dosłownym wykonaniem polecenia a oceną, czego człowiek naprawdę chce. GPT powinien korzystać z kontekstu, wskazywać pominięte konsekwencje i prosić o wyjaśnienie przy niejednoznacznych lub nieodwracalnych działaniach. Nie powinien jednak traktować własnej prognozy przyszłej preferencji użytkownika jak podjętej decyzji.

Ma to największe znaczenie dla agentów korzystających z narzędzi. Tekst mocniej akcentuje budżety, skutki uboczne, możliwość zatrzymania działania i przejęcia pracy przez człowieka. Dla deweloperów Model Spec coraz bardziej przypomina politykę operacyjną, a coraz mniej poradnik tonu chatbota.

Atrakcyjne wartości nie rozwiązują trudnych przypadków

OpenAI wyraźnie zaznacza, że obecne modele nie realizują jeszcze w pełni tej specyfikacji. Zvi Mowshowitz zwraca też uwagę, że wiele nowych przykładów ma zbyt oczywistą poprawną odpowiedź. Pokazują pożądany środek między dwiema wyraźnie złymi skrajnościami, lecz słabo tłumaczą, jak znaleźć go w rzeczywiście spornych sytuacjach.

Pojęcia takie jak troska, normy społeczne czy wzmacnianie ludzkiej autonomii mogą prowadzić w różne strony. Bez evals badających konflikty wartości model dostaje efektowną mapę bez dokładnej skali.

Evals muszą pokazać zmianę zachowania

OpenAI powinno wykazać różnicę między starą a nową wersją na konkretnych scenariuszach. Najwięcej powiedzą zadania, w których bezpośrednie polecenie ściera się z długoterminową preferencją, szybkość z odwracalnością, a osobisty kontekst z prywatnością.

Model Spec jest publicznym zobowiązaniem i dobrym materiałem do krytyki. Jego znaczenie zależy jednak od mierzalnego zachowania modeli oraz od tego, czy użytkownik zrozumie, dlaczego agent zadziałał, zatrzymał się albo odmówił dalszego kroku.

Werdykt Lilith

OpenAI wyznaczyło GPT pięć stron świata. Kompas przyda się dopiero wtedy, gdy agent na prawdziwym skrzyżowaniu wyjaśni, dlaczego skręcił właśnie tam.