OpenAI układa zasady GPT wokół pięciu wartości. Agentom nie wystarczy już lista zakazów

29 października OpenAI opublikowało nową wersję Model Spec, czyli publicznego opisu pożądanego zachowania modeli GPT w ChatGPT i przez API. Dokument porządkuje zasady wokół pięciu wartości i wprost omawia dwa napięcia: interes jednostki wobec interesu zbiorowego oraz bieżące polecenie wobec celu długoterminowego.

Pięć wartości zastępuje katalog reguł wspólną konstrukcją

Są to wierność ludzkim intencjom, ograniczanie szkód, uczciwość i przejrzystość, wspieranie sprawczości człowieka oraz troska o osoby, na które wpływa działanie GPT. Nad nimi pozostaje hierarchia poleceń, w której zasady wyższego poziomu mają pierwszeństwo przed prośbami dewelopera i użytkownika.

Specyfikacja podkreśla, że wierność intencjom wymaga czegoś więcej niż dosłownego wykonywania słów. GPT ma brać pod uwagę cel, źródło, zakres i aktualność kontekstu. Powinien też działać w uzgodnionym zakresie autonomii, umożliwiać człowiekowi korektę i jasno komunikować skutki uboczne swoich działań.

Reguły są pisane dla agentów działających poza oknem czatu

W zwykłym chatbocie granica między odpowiedzią a działaniem jest wyraźna. Agent z narzędziami może ją zatrzeć, wysyłając wiadomość, zmieniając plik albo przenosząc informacje między rozmowami. Model Spec łączy więc prywatność odbiorców, użycie kontekstu, ludzką kontrolę i granice uprawnień w jeden system.

Dla deweloperów wniosek jest praktyczny. Bezpiecznego zachowania nie zapewni sam prompt. Aplikacja musi określić, co agent może zrobić, które kroki wymagają zgody i co użytkownik zobaczy w audycie. Publiczna specyfikacja opisuje oczekiwania, ale egzekwować je muszą również produkt i jego model uprawnień.

Wartości wymagają osądu, więc mogą prowadzić do różnych wyników

Pięć wartości może wejść ze sobą w konflikt. Dokument przyznaje, że interesów jednostki i zbiorowości ani celów krótkoterminowych i długoterminowych nie da się zawsze ułożyć w prostej kolejności. To uczciwsze niż niekończąca się lista przykładów, lecz zwiększa znaczenie osądu modelu i sposobu, w jaki OpenAI równoważy wartości podczas treningu.

Model Spec opisuje zachowanie zamierzone, a nie gwarantowany wynik każdego uruchomienia. Publicznie widać reguły i przykłady, ale nie cały proces treningu ani wewnętrzne evals. Różnica między dobrze napisaną konstytucją a codzienną praktyką pozostaje więc pytaniem do zbadania.

Evals pokażą, czy pięć wartości wytrzyma kontakt z narzędziami

Najwięcej powiedzą publiczne evals długich zadań agentowych z niejasną intencją, wrażliwym kontekstem, zmianą polecenia i działaniami wywołującymi skutki uboczne. Ważnym sygnałem będzie też to, czy deweloperzy dostaną dokładniejsze mechanizmy zgody, ślad audytowy i możliwość cofnięcia interwencji agenta.

Warto również porównywać kolejne wersje specyfikacji z zachowaniem modeli w API. Jeżeli ten sam konflikt będzie rozstrzygany inaczej zależnie od produktu lub wydania, pięć wartości pozostanie raczej konstrukcją redakcyjną niż umową operacyjną.

Werdykt Lilith

OpenAI wpisało GPT pięć wartości do świadectwa. Prawdziwy egzamin zacznie się, gdy agent dostanie narzędzie, użytkownik zmieni polecenie, a przycisku Cofnij nie będzie.