OpenAIはModel Specを5つの価値観で再編し、モデルの判断余地を広げた

OpenAIは10月29日、新しいModel Specを公開した。GPTに求める振る舞いを、人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の主体性、配慮という5つの価値観で整理している。

5つの価値観が個別ルールの寄せ集めに代わる

新しい構成は、各ルールが存在する理由と、ルール同士が衝突した場合の考え方を説明するためのものだ。OpenAIはcontextとmemoryの利用、人間による監督、修正可能性、副作用の管理に関する指針を追加した。対象が幅広い製品や作業に広がったため、文書内の呼称もassistantからGPTに変わった。

詳細な文体指針の多くは削除された。文体は言語、文化、利用者の好みに合わせるべきだとしている。命令の優先順位は基本的に維持され、Model Specの上位ルールがdeveloperやuserの指示より優先される。

agentは意図を読みつつ運転席を奪ってはならない

実務上の緊張は、指示を文字通り実行することと、本人が本当に望むことを推測することの間にある。GPTはcontextを使い、見落とされた結果を示し、曖昧または取り消せない操作では確認を求める。一方で、将来こう望むはずだという予測を、本人がすでに下した決定として扱ってはならない。

これはtoolを使うagentで特に重要だ。新しい文書は、budget、副作用、操作を止める手段、人間が作業を引き継ぐ能力を重視する。developerにとってModel Specは、chatbotの話し方ガイドよりも運用規程に近づいている。

美しい価値観だけでは難しい境界事例を解けない

OpenAIは、現在のモデルがSpecを完全には反映していないと明記する。Zvi Mowshowitzは、新しい例の多くで正解があまりに明白だと批判する。明らかに悪い2つの極端な選択肢の中間を示してはいるが、本当に意見が分かれる場面でその中間をどう見つけるかは十分に説明していない。

配慮、社会規範、人間の主体性の強化といった言葉も、状況によって異なる方向を向く。価値観の衝突を測るevalsがなければ、モデルは立派な地図を渡されても正確な縮尺を持てない。

evalsが価値観と行動の接続を示す必要がある

OpenAIは、旧版と新版の違いを具体的なscenarioで示す必要がある。明示的な指示と長期的な好み、速度と可逆性、個人contextとprivacyが衝突する課題が特に重要だ。

Model Specは公開された約束であり、批判の土台として有用だ。その重みは、モデルの測定可能な行動に変化が現れるか、agentが実行、停止、拒否を選んだ理由を利用者が理解できるかで決まる。

Lilithの判定

OpenAIはGPTに5つの方角を示した。その羅針盤が役立つのは、現実の分岐点でagentがなぜその道を選んだか説明できる時だ。