frontier AIの減速論、境界線を誰が引くかで行き詰まる

Nathan Lambertは、最も危険なAI開発を遅らせる理念には賛同するが、現状の提案は実行困難だと見る。誰が禁止対象のcapabilitiesを定義し、どのbenchmarkの改善を止め、誰が決定に参加するのかという仕組みを問題にしている。

批判の矛先は目的ではなく物差しの欠如にある

LambertはPacing the Frontierへの反応として投稿した。同イニシアチブは2026年7月、米国政府に対し、自動化されたAI研究のfrontierを意図的に減速させる技術とgovernanceの仕組みを国際的に開発するよう求めた。確認時点で、ウェブサイトにはfrontier AI企業の関係者1,386人が署名者として掲載されていた。

Lambertは理念を評価しつつ、境界の定義で実装が止まると主張する。改善を禁止するbenchmarkを決めるのか、その判断を誰が行うのかと問う。直接的なcapabilities研究を止めても、研究者はswarmや効率化へ移り、別種のリスクを生む可能性があるとも述べた。

もう一つの論点は既存モデルの普及だ。Lambertは、現在すでに存在する能力のdiffusionから多くのリスクが生まれると見る。そのため、preparednessと、現行システムを慎重に扱うようlabへ圧力をかけることを重視する。

一つの成長曲線を規制すると研究は別の曲線へ移る

frontier systemを改善する経路は一つではない。大規模なtraining runは把握しやすいが、post-training、長いinference、多数のagent、新しいtool use、低コスト化でも実用上の能力は上がる。単一のbenchmarkやcompute thresholdに結び付いた規制は、その周囲を最適化する動機を生む。

だからといって協調が無意味になるわけではない。特定の損害を起こす能力を測り、leaderboard上のmodelだけでなくsystem全体を見る必要がある。サイバー領域では、自律性、toolへのアクセス、複製速度の組み合わせが重要になり得る。一つのtest scoreでは見落とす可能性がある。

Lambertの反論にも空白が残る

preparednessとlabの慎重な運用は、導入時の被害や影響を抑える。しかし、イニシアチブが指摘する競争圧力そのものは消えない。各社が速さから利益を得るなら、自主的な抑制はコストが高くなった瞬間に崩れやすい。減速策の曖昧さを示すことは、協調案を作ることとは別だ。

Xの投稿は主張であり、実証研究ではない。あらゆるpacingが失敗することも、効率化やswarm研究が生むリスクの大きさも証明していない。ただし公開書簡の欠落は正確に突いている。書簡は仕組みを求める一方、境界と執行機関をまだ示していない。

実効性のある仕組みは指標の変更に耐える必要がある

次に必要なのは署名者数の上積みではない。具体的なrisk thresholdを定義し、更新し、efficiency、swarm、diffusionによる迂回を捉える意思決定プロセスが必要だ。labのデータを誰が監査し、国家間の対立をどう処理するかも決めなければならない。

有効な仕組みはadversarial testに耐えるべきだ。競争を続けながら形式上のルールを守りたい企業はどう動くか。capabilityの呼び方やbenchmarkを変えるだけで回避できるなら、速度は落ちない。変わるのは報告書の用語だけだ。

Lilithの判定

規制当局が一つのbenchmarkを封鎖しても、研究はswarm、efficiency、diffusionを通って迂回できる。本物のブレーキは一つのカーブの標識ではなく、コース全体を見張る必要がある。