Anthropic、将来モデルがAI開発加速の基準にまもなく達する可能性を投資家に警告

Anthropicは11月2日、将来のモデルがAIによる劇的な開発加速という自社基準にまもなく達する可能性があるとの警告をS-1に加えた。同時に、現行モデルはいずれも基準超えと認定されていないと明記した。この開示は、2025年10月以降にモデル能力の伸びが1.9倍に加速したというMETRの推計を、投資家向けの正式なリスク説明と結び付ける。

安全上の警告が投資家向け目論見書に移った

米SECに提出された修正文書によると、判断材料は社内データと将来モデルへの見通しだ。Anthropicは現行モデルを基準超えと認定しておらず、根拠の精査も続けている。「まもなく」が示す日付やClaudeの具体的な版は明らかにしていない。

Responsible Scaling Policyは、2018年から2024年までのペースで2年分に相当するAIの進歩を1年に圧縮できる地点を運用上の基準としている。目論見書は、根拠の多くが遅行指標から得られることも認めた。大幅な加速が起きた後まで、同社がそれを把握できない可能性がある。

Anthropicは測定が後手に回る危険を認めた

目論見書への記載で、この主張の意味は変わる。安全性に関する仮説が、投資家に説明すべき重要な事業リスクになった。能力の進歩が安全、alignment、セキュリティ対策を上回れば、事故や規制当局の介入、事業への損害が増えるとAnthropicは説明する。

慎重策にも現実的な代償がある。モデル公開の延期、初期提供の制限、開発やdeploymentを遅らせる追加措置が必要になる可能性がある。こうした対応は頻度と費用を増し、緩い制約で動く競合に対する立場を弱めかねない。

「まもなく」に日付はなく、現行モデルは基準未満だ

この文書は再帰的自己改善の実現を発表したものではない。将来モデルに関する社内推計が、自社基準へ近く達する可能性を示すと述べている。Anthropicは最新モデルや未公開モデルを測る能力にも限界があると認める。

METRの1.9倍という数字にも注意が要る。信頼区間は1.5倍から2.8倍で、別の方法を使った推計は1.1倍から2.9倍に広がる。最も重要な社内証拠の多くは黒塗りのため、外部は結論を読めても主要な検証過程を再現できない。

次のRisk Reportが推計を判断へ変えられるか

AnthropicはResponsible Scaling Policyに基づく追加報告を約束している。今後の焦点は、実際にモデルを基準超えと認定するか、その場合に開発やdeploymentへどの制限を課すかだ。外部が新しい推計を検証できるだけの方法、データ、対象期間を開示するかも重要になる。

同じ指標を使うMETRの追加測定も判断材料になる。新しいモデルでも1.9倍のペースが続き、AIが研究の重要部分を自律的に担い始めれば、目論見書の一文は将来の可能性だけを語る警告ではなくなる。

Lilithの判定

Anthropicは投資家の頭上に火災報知器を取り付けた。いま鳴っているのは将来モデルへの警告だが、同社は自らのセンサーが火事を遅れて捉える可能性も認めている。