Anthropic流出法案、州の安全策を弱い連邦ブレーキと引き換えにする

Anthropic作成とされる米国連邦法のdiscussion draftが流出した。報道によれば、同社が議員へ提示していたという。まだ法案として提出されておらず、Anthropicも最終的な立場として公に確認していない。流出文書と正式な企業方針は分けて扱う必要がある。

連邦制度は州から一部の権限を奪う

公開文書と法的分析によると、draftはrisk disclosure、外部eval、incident reportingに関する州法をpreemptする。批判者はCaliforniaのSB 53とNew YorkのRAISE Actも影響を受けると指摘する。一方で、継続audit、risk reports、whistleblower保護、security義務も含む。

争点はpreemptionと高い連邦介入基準の組み合わせだ。modelの開発やdeploymentを制限するには、catastrophic harmのimminent riskが必要とされる。流出文言の分析では、50人超の死亡または10億ドル超の損害に加え、より制限の弱い代替策の検討が求められる。

問われているのは誰が非常ブレーキを引けるかだ

単一の連邦frameworkは、50州で重なる規則をlabsから取り除ける。しかし、連邦法がenforcementを弱め、州の強い安全策も禁じるなら、統一は上限になる。企業の手続きが減るだけでなく、介入できる機関も減る。

これはAnthropicが6月に示したframeworkと緊張する。同社は、少なくとも提案措置と同等に厳格な連邦制度なしに州法をpreemptすべきではなく、その範囲も狭くすべきだと公表していた。批判者は、流出draftが州からの広い保護と弱い連邦権限を交換していると見る。

流出文書と批判だけでは確定政策にならない

強い非難はAnthropicの公式発表ではなく批判者から出ている。discussion draftには誤りがあり得て、交渉中に変わり得る。公開回答がないため、誰が承認し、Anthropicがどこまで支持し、どの条文が交渉材料なのかは不明だ。

暫定文書だからと無視するのも危険だ。preemptionを伴う連邦法は妥協を長期間固定し得る。AI safety billという名称より、court、auditor、agencyの具体的な権限が重要になる。

Anthropicの回答と議会のsponsorが意図を明らかにする

最初のsignalは、Anthropicが作成を認め、6月frameworkとの差を説明するかだ。次は議会sponsorの有無と、preemption、緊急制限、auditor licensing、agency rulemakingの修正になる。

提出されるまでは政策提案であり、法律ではない。それでも交渉の出発点は今決まる。州が上積みできる連邦の床か、それ以上を禁じる低い天井かという選択だ。

Lilithの判定

labが、州にはレバーを放させ、連邦政府には壁の直前まで引かせないブレーキを設計するなら、その仕組みが誰の手を守るのか確かめるべきだ。