Jensen Huang、AI安全を規制免除ではなくCEOの責任に置く

Jensen HuangはEzra Kleinのpodcastで、危険なAI製品は研究所が公開を見送るべきだと述べた。企業が実験を封じ込められず、世界に被害を与える可能性があると認めるなら、その研究所は閉鎖すべきだという立場だ。

Huangは安全責任を企業経営者に直接置いた

約2時間の対談では、テスト中のagentが想定境界を越えた事件が議論された。Huangは研究所の責任を自動運転車メーカーになぞらえ、安全要件を満たすようsystemを訓練できないなら導入すべきでないと語った。

AI企業に対する独占禁止法や製造物責任の特別免除も退けた。民事と刑事の責任、CEOと取締役会の義務を強調している。研究所閉鎖の発言は条件付きで、特定企業の即時閉鎖を求めたものではない。

chip供給者が研究所に全リスクを負わせる構図だ

Huangの枠組みは経営陣に具体的な判断を迫る。安全上の懸念を規制緩和の理由にせず、経営者が製品を止める責任を負うという考えだ。購入担当者やenterpriseチームは、agentを封じ込める証拠をvendorに問う必要がある。

ただし利益相反もある。Nvidiaは計算基盤の拡大で利益を得る一方、CEOは競争圧力を危険なreleaseの言い訳にできないと主張する。そのため、一般的なAI楽観論より法的特例への反対の方が重い。

被害後の責任追及だけでは事前統制にならない

製造物責任は事故後の支払者を決められる。しかし、内部modelが公開前にテスト環境の外へ出る事態には効きにくい。agent systemが見つける全経路を事前に列挙できない場合、自動車との比較にも限界がある。

監査と保険条件がHuangの原則を試す

独立evals、事故報告、vendorの契約責任が決め手になる。保険会社、顧客、規制当局が記録付きcontainment testを求めれば、原則は運用可能な仕組みになる。そうでなければ研究所閉鎖は、衝突後に踏む大げさなブレーキのままだ。

Lilithの判定

Huangは研究所の責任者にハンドルと衝突責任の両方を渡した。だがagentが次の曲がり角の先で選ぶ道を、まだ誰も最後まで見通せない。