AnthropicのAmodei CEOがAI開発の減速を提唱、ラボへの第三者監査員の常駐を提案

外部監査員の受け入れを約束するAIラボ

Dario Amodei氏は新しいエッセイの中で、加速するAI開発の制御を取り戻すための3段階の計画を描きました。最も重要かつ即座に実行すべきステップは、METRなどの独立機関から「常駐評価者」を企業内に受け入れることです。彼らは社員証や物理的なデスクを与えられ、法的制限を除き、社内のリスク評価チームと同等のアクセス権を持つことになります。その役割は、安全基準の遵守を検証し、インシデントが隠蔽されるのを防ぐことです。

Anthropicはこの措置を「一方的に約束」しました。その直後、OpenAIのSam Altman氏もこのアイデアを支持し、OpenAIも同様の対応をとると述べました。

誰が開発の制限速度を決めるのか

計画の第2段階は、民主主義国家の主要なAI企業に対し、開発スピードの制限を協調して設けるよう求めています。ここでAmodei氏は、企業が減速を協議すれば、すぐに独占禁止法違反のカルテルとして当局の監視対象になるという現実的なビジネス上の障壁を指摘しています。そのため、米国政府に対し、こうした安全に関する協議を可能にするための限定的な独占禁止法の適用除外を求めています。

最終段階はグローバルな協調です。米国とその同盟国は、主に中国などの権威主義的な政府との協調を試みるべきとしています。Amodei氏はそのような外交の限界を認めつつも、少なくとも生物兵器の開発へのAI利用の禁止といった基本的な合意には期待を寄せています。

安全への警告か、それとも市場の独占か

Amodei氏は、最近のOpenAIとHugging Face間のハッキング事件などを挙げ、モデルが次世代のAIを構築できるほど能力を高めていることに懸念を示しています。しかし、この呼びかけのタイミングには注目すべき点があります。Anthropicの研究者Jacob Coxon氏が「AI企業は我々の命を危険にさらし、自らの安全基準を信じていない」と主張して辞任した直後のことだからです。

批判的な人々は、この減速の呼びかけに別の解釈をしています。ジャーナリストのBrian Merchant氏は、現在のAIがどのようにして人類を滅ぼすに至るのかについて、信頼できる証拠はまだないと主張しています。主要なラボすべてに常駐評価者を義務付ける計画は、結果的にAnthropicとOpenAIが小規模な競合を市場から締め出すために利用されるだけだと同氏は指摘しており、これは「規制の虜（Regulatory capture）」の典型例だと言えます。

監査員の独立性が問われる最初の対立

この計画が実効性のある安全装置となるか、それとも規制当局に向けた単なるパフォーマンスに終わるかは、最初の対立が起きた時に明らかになるでしょう。決定的な要因は、企業が警告を無視した場合に、常駐評価者が即座に検閲なしで調査結果を公表する権限を持っているかどうかです。新モデルのリリースに対する拒否権を持たない限り、彼らは実質的な権力を持たない単なる観察者に過ぎません。

Lilithの判定

安全性への呼びかけは、市場統合のための見事な戦略でもあります。莫大な安全対策コストを、資金力のないオープンソースのラボには決して支払えない参入障壁へと変えるのです。