OpenAI、GPTの行動規範を5つの価値に再編。エージェントには禁止事項の羅列では足りない

OpenAIは10月29日、ChatGPTとAPIで使われるGPTモデルの望ましい振る舞いを示すModel Specの新版を公開した。規則を5つの価値に沿って再編し、個人と集団の利益、目先の指示と長期目標という2つの対立を明示的に扱っている。

5つの価値が個別規則を共通の枠組みにまとめる

5つの価値は、人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の主体性の支援、GPTの仕事で影響を受ける人への配慮だ。その上には指示の階層があり、上位の規則は開発者やユーザーの要求より優先される。

仕様は、意図への忠実さを言葉どおりの服従とは捉えていない。GPTは文脈の目的、出所、範囲、新しさを考慮する必要がある。合意された自律性の範囲で行動し、人間による修正を受け入れ、行動の副作用を分かりやすく伝えることも求められる。

規則の対象はチャットの外で行動するエージェントだ

従来のチャットボットなら、回答と行動の境界は分かりやすい。ツールを使うエージェントは、メッセージの送信、ファイルの変更、会話をまたぐ情報利用によって境界を曖昧にする。Model Specはそのため、受け手のプライバシー、文脈の利用、人間による修正、権限の境界を一つの仕組みとして扱う。

開発者にとっての実務的な結論は明快だ。安全な振る舞いはpromptだけでは実現しない。アプリ側が、エージェントに許す操作、同意が必要な手順、利用者が後から確認できる記録を決める必要がある。公開仕様が期待を示し、製品と権限設計がそれを実行に移す。

価値に判断を委ねるほど結果のばらつきも生まれる

5つの価値は互いに衝突しうる。文書は、個人と集団の利益、短期と長期の目標に単純で固定的な順位がないと認めている。延々と例外を並べるより誠実だが、モデルの判断と、OpenAIが訓練時に価値をどう調整するかへの依存は強くなる。

Model Specが示すのは意図した振る舞いであり、すべての実行結果の保証ではない。公開されるのは規則と例で、訓練の全工程や内部evalsではない。よく書かれた憲法と日常の運用の差は、今後も実測すべき課題として残る。

ツールを使うevalsが5つの価値の実効性を決める

重要なのは、曖昧な意図、機密性の高い文脈、途中で変わる指示、副作用を伴う操作を含む長時間のエージェント課題を使った公開evalsだ。細かな同意管理、監査ログ、エージェントの操作を元に戻す手段が開発者に提供されるかも見逃せない。

仕様の改訂内容とAPI上の実際の振る舞いも比較する必要がある。同じ対立が製品やreleaseごとに異なる形で解決されるなら、5つの価値は運用契約ではなく文書の整理法にとどまる。

Lilithの判定

OpenAIはGPTの通知表に5つの価値を書き込んだ。本番の試験は、エージェントがツールを持ち、利用者が途中で指示を変え、元に戻すボタンが見当たらない場面から始まる。