Lilith.
⌕
編集イラスト: 測定器が粗ければ、モデルの安全性はスライド上の数字にすぎない
Lilithのイラスト · 編集リミックス

Anthropicは、モデルの提供判断、保護策、追加学習に使われる安全性評価について10項目の提言をまとめた。自社のsystem card作成経験と、心理学の再現性危機から得た教訓が土台になっている。

10項目の提言がbenchmarkを測定プロセスに変える

安全性評価は、単に課題を解けるかを見る能力試験ではない。回答が被害の可能性を高めるか、その状況で適切に振る舞ったかを測る。Anthropicは、分野と方法論の専門家をそろえ、測定概念を先に定義し、分析を事前登録し、設定を完全に記録するよう勧める。

自傷に関する会話が違いを示す。機械的な拒否は安全に見えても、危機にある人を助けない場合がある。同社は専門家のrubricで複数ターンの会話全体を評価し、危険な応答が1回あれば会話全体を不合格にする。

graderや設定が変われば点数は比較できない

prompt、選択肢の順番、製品環境、graderに使うモデルはいずれも結果を動かす。Anthropicによると、Claude Fable 5.1の試験ではAPIとclaude.aiの設定差が最大34ポイントに達した。複数の条件が同時に変わっているため、モデルだけの差とは言えない。

モデルを承認または購入するチームは、promptとgraderの版、sampling設定、実行日を保存する必要がある。この履歴がなければ、安全性dashboardは色鮮やかでも監査には使えない。

飽和した試験と自信満々のgraderは安心を捏造する

Anthropicの最近のモデルは、単一ターンの総合試験で94%から98%を記録する一方、複数ターンでは結果が大きく散らばる。同社は複雑な複数ターン評価に最低100項目、単純な単一ターン評価に1,000項目を推奨する。graderは人間のラベルと照合し、故障時には明示的に失敗させるべきだとしている。

大きく見える差もノイズかもしれない。恋愛詐欺の評価でOpus 5は98%、Opus 5.5は94%だったが、統計的に有意ではなかった。

再現可能な実行と不確実性の開示が信頼を決める

別のチームが同じ実行を再現し、同様の結論に達せるかが重要になる。Anthropicは信頼区間、カテゴリ別の結果、事前登録した計画からの逸脱を報告するよう求める。

購入者や開発者にとって、これは新しいランキングより有用な基準だ。標本、grader、環境の説明がなければ、安全性の点数は提供企業の主張にとどまる。説明がそろって初めて、実際の提供判断に使える。

Lilithの判定

出所のない安全性スコアは、ラベルのない実験試料と同じだ。科学的には見えても、それを根拠にモデルを提供する判断はできない。