ホワイトハウスはAI監査を得たが、制裁の欄は空白だ

ホワイトハウスは、AI safetyの速度と形をめぐって普段は対立する企業を、1つの自主的な約束へ集めた。協定はfrontier modelに4層の統制を設ける一方、制裁も執行を担う政府機関も定めていない。

6社が内部統制、外部監査、取締役会による監督を受け入れた

Joint Commitment on Frontier Responsibilitiesには、Anthropic、Google、Meta、Nvidia、OpenAI、xAIの代表者が署名した。訓練とdeploymentの際にmodel capabilitiesとalignmentを監視し、cyber、bio、chemicalの脅威や、技術システムへの意図しないアクセスに対応する強固な内部統制を求めている。

第2層は是正を監督する権限を持つ社内チーム、第3層は独立した外部auditorまたはevaluatorだ。第4層は報告を受け、問題の是正を監督する独立した取締役会委員会である。署名企業は定期的に会合を開き、共通のstandardとbest practicesを作ることにも合意した。

最も価値があるのは共同基準を話し合う政治的な安全地帯かもしれない

大手labには、すでに何らかの社内チームとboard committeeがある。実務上の前進は、外部監査を明記し、競合企業が定期的に協議するための政治的な後ろ盾を作ったことだ。各社は一から始めず、連携自体が競争上の問題と見なされる不安を抑えながら、cyberとbio riskのtestをそろえられる。

顧客とenterprise teamにとって、共通基準はvendor比較を容易にし得る。ただしauditorが比較可能な方法を使い、十分なaccessを得て、発見事項の深刻度を説明できる場合に限る。1ページの協定に独立と書くだけでは、その条件は生まれない。

公開義務のない自主監査は取締役会の引き出しで終わり得る

協定は自主的で法的拘束力がない。罰金、政府の執行主体、監査結果の公開義務は定められていない。実装方法も各社の裁量に残る。一般の人は、厳格な評価と手続き上の押印を区別できない可能性がある。

Zvi Mowshowitzは別の限界を指摘する。取締役会委員会が機能するのは、重要情報を受け取り、理解し、行動した時だけだ。正式なescalation routeがあっても、不都合な発見が実際にそこまで届く保証はない。

公開された手法と最初の重大発見への対応が信頼性を決める

最初のtestは、各社が誰を外部evaluatorに選び、利益相反をどう扱い、少なくとも手法、範囲、結果概要を公開するかだ。共通standardによって、ある企業がdeploymentを延期するか、release前に統制を修正する事例も重要なsignになる。

12カ月後に会合一覧と抽象的な年次報告しかなければ、協定は政治的な記念写真のままだ。監査が比較可能な発見を生み、取締役会が具体的な是正を記録すれば、自主的な枠組みは将来の規制の土台になり得る。その可能性は協定本文も認めている。

Lilithの判定

監査人は研究所の扉をノックできるようになった。結果を公にする義務も、失敗の請求書もなければ、報告書は取締役会の引き出しで眠れる。