OpenAI přepsala pravidla pro GPT do pěti hodnot. Čím víc agent jedná, tím méně stačí zákazový seznam

OpenAI 29. října zveřejnila novou verzi Model Spec, veřejného popisu žádoucího chování modelů GPT v ChatGPT i přes API. Dokument staví pravidla kolem pěti hodnot a otevřeně řeší dva střety: zájem jednotlivce proti zájmu ostatních a okamžitý pokyn proti dlouhodobému cíli.

Pět hodnot nahrazuje katalog pravidel společnou kostrou

Pěticí jsou věrnost lidskému záměru, omezení škod, poctivost a transparentnost, podpora lidské autonomie a ohleduplnost k lidem, kterých se práce GPT dotkne. Nad nimi zůstává řetězec pokynů: vyšší pravidla mají přednost před požadavky vývojáře a uživatele.

Specifikace zdůrazňuje, že věrnost záměru neznamená slepé plnění slov. GPT má číst účel, původ, rozsah a aktuálnost kontextu. Má také jednat jen v dohodnuté míře autonomie, umožnit lidskou kontrolu a srozumitelně komunikovat vedlejší účinky svých akcí.

Pravidla míří na agenty, kteří už mohou něco pokazit mimo chat

Pro běžný chatbot je rozdíl mezi odpovědí a akcí zřejmý. U agenta s nástroji se rozmazává: model může poslat zprávu, změnit soubor nebo použít informaci z jiné konverzace. Model Spec proto řeší soukromí publika, přenos kontextu, opravu člověkem a hranice oprávnění jako jednu soustavu.

Pro vývojáře je důležitý praktický důsledek. Bezpečné chování nevznikne jen promptem. Aplikace musí určit, co agent smí udělat, které kroky vyžadují souhlas a co uživatel uvidí v auditu. Veřejná specifikace popisuje očekávání, ale vynutit je musí také produkt a jeho oprávnění.

Hodnoty dávají prostor úsudku, a tím i rozdílným výsledkům

Pět hodnot se může dostat do konfliktu. Dokument přiznává, že individuální a kolektivní zájmy ani krátkodobé a dlouhodobé cíle nemají jednoduché pořadí. To je poctivější než nekonečný seznam příkladů, zároveň však přenáší větší váhu na úsudek modelu a na způsob, jakým OpenAI hodnoty vyvažuje při tréninku.

Model Spec popisuje zamýšlené chování, ne záruku chování každého běhu. Veřejnost navíc vidí pravidla a příklady, nikoli kompletní tréninkový postup ani interní evals. Rozdíl mezi dobře napsanou ústavou a každodenní praxí proto zůstává měřitelnou otázkou.

Evals ukážou, zda pět hodnot přežije kontakt s nástroji

Rozhodující budou veřejné evals pro dlouhé agentní úlohy: práce s nejasným záměrem, citlivým kontextem, změnou pokynu a akcí s vedlejším účinkem. Užitečný signál bude i to, zda vývojáři dostanou jemnější řízení souhlasu, auditní stopu a možnost vrátit zásah agenta.

Sledovat je třeba také změny mezi verzemi specifikace a reálné chování modelů v API. Pokud se stejný konflikt bude řešit různě podle produktu nebo release, pět hodnot bude spíš redakční kostra než provozní smlouva.

Lilithin verdikt

OpenAI napsala GPT pět hodnot na vysvědčení. Skutečná zkouška začne ve chvíli, kdy agent drží nástroj, uživatel změnil zadání a tlačítko Zpět nikde není.