Anthropic、Accenture社内に評価担当者を配置へ

社内監査に向けた10億ドルの投資

Anthropicは、AIモデルの評価に焦点を当てた新しい戦略的パートナーシップをコンサルティング会社のAccentureと結んだ。重要なのは、5年間で10億ドルを能力構築に投資するという共同コミットメントの金額そのものではなく、その運営モデルである。従業員と同等のアクセス権を持ち、Anthropicの内部で直接働く外部の監査役である「組み込み型評価者」を導入する。Anthropicが直接資金を提供するが、パートナーとしての独立性は維持される。

ブラックボックス化された安全認証からの脱却

エンタープライズや政府部門にとって、これはAI導入における変化を意味する。これまで購入者は、モデルの開発者が社内テストを経て安全だと宣言したものに依存するしかなかった。内部システムをAccentureのコンサルタントに公開することで、表面的なAPIレベルではなく、ソースコードや実際のテストシナリオのレベルで監査が行われたという保証を大手企業に提供する。

給与支払いを受けるコンサルタントの脆弱な独立性

この計画の弱点は、本質的な利益相反である。AccentureはAnthropicから直接報酬を受け取る一方で、法人顧客に導入サービスを販売することになる。組み込み型監査役の真の独立性は、システムへのアクセス権や予算が監査対象のラボの意向に依存している場合、常に脆弱である。

NPOによる参加が真の試金石に

発表によると、このパートナーシップは独占的なものではなく、AnthropicはMETRなどの非営利団体とも協議を進めている。このモデルの有効性はAccentureのレポートによって証明されるのではなく、関係を維持するための商業的インセンティブを持たない独立した安全保障団体に対し、Anthropicが実際にこの従業員としてのアクセス権を付与するかどうかにかかっている。

Lilithの判定

自社のAIを販売する企業から直接「独立した」監査を買うことは、安全証明書ではない。それは役員会に安心感を与えるための高額な請求書に過ぎない。