Lilith.
⌕
編集イラスト: OpenAIとAnthropic、open-weightモデルを支えた可能性のある近道を封じる
Lilithのイラスト · 編集リミックス

OpenAIとAnthropicは、強力なモデルの出力を別モデルの学習データにする無許可のdistillationへの防御を強めた。Ethan Mollickは、こうしたデータへ容易にアクセスできなくなったことがopen-weightモデルの進歩を鈍らせた可能性を指摘する。ただし、因果関係を示す直接的な証拠はまだない。

2社は保護された推論の流出を大幅に減らした

OpenAIによると、適応型black-box評価で、過去の保護された推論を抽出する攻撃の成功率はGPT-6 Astraの54.0%からGPT-6.2 Astraの0.2%へ下がった。現在のリクエストからの抽出も22.9%から0.9%へ低下した。この社内評価は6つの攻撃モデルを集計している。

Anthropicは、2段階の分類器、アカウントやモデルをまたぐ推論移動の制限、不正アカウント網の迅速な遮断を説明している。同社は、プラットフォーム上で抽出された推論トークンが10分の1から100分の1になったと推定する。一方で、0.1%未満の誤検知と、一部の正当な連携に変更が必要だったことも認めている。

低コストの追随者は価値ある学習データを失う可能性がある

正確な推論過程は、最終回答だけよりも多くをstudent modelへ教えられる。AnthropicのSWE-bench Verified評価では、完全な推論記録で学習したモデルが80.4%、要約で学習したモデルが71.8%だった。防御対象は回答文だけでなく、能力移転を加速しうる素材でもある。

open-weightの研究所がそのデータを大規模に使っていたなら、アクセス品質の低下と収集費用の上昇が負担になる。これがMollickの主張の核心だ。しかし公開情報だけでは、無許可のdistillationが進歩にどれほど寄与したか分からない。

魅力的な減速説には独立した証拠が足りない

両社は自社システムで自社防御を測っている。OpenAIはモデルと防御の2世代を同時に比較している。Anthropicは、新しい防御が高度で執拗な攻撃をまだ受けていないと説明する。数字が示すのは社内テストでの耐性向上であり、市場全体の動きを説明する因果関係ではない。

正当なknowledge distillationと、他社サービスからの秘密の抽出も区別すべきだ。前者は許可を得て使われる一般的な技術である。問題になっているのは、不正アカウントを使った組織的な活動と、無許可の能力移転だ。

次のopen-weight世代が閉じたアクセスの代償を示す

今後のopen-weightリリースのbenchmarkと技術報告が重要になる。長い推論過程が有効な課題で差が広がれば、Mollickの仮説は強まる。自前の合成データや公開研究で穴を埋められれば、停滞は短期間で終わるかもしれない。

通常のAPI利用者への影響も見逃せない。Anthropicは一部の遮断されたリクエストにも課金し、コンテキスト制限によって連携の修正も必要になった。抽出者を止めながら正当な開発者を巻き込まない防御こそ、見栄えの良い実験曲線より重要だ。

Lilithの判定

frontier研究所は跳ね橋を上げた。次のopen-weightモデルで、自力で走っていたのは誰か、他社の推論に乗っていたのは誰かが見えてくる。