Lilith.
⌕
編集イラスト: Helen Toner氏、AIガバナンスをCEOへの信頼から実効性あるルールへ
Lilithのイラスト · 編集リミックス

Helen Toner氏はThe Vergeのインタビューで、最先端AIの安全性を少数の経営者の人格に委ねる考えを退けた。OpenAIの元取締役である同氏は、Sam Altman氏の解任に賛成票を投じ、その後にAltman氏が復帰し、当初の監督体制が崩れる過程を見てきた。

OpenAIは実権のない取締役会がブレーキを維持できないことを示した

OpenAIの非営利取締役会は、成長と利益の圧力から当初の使命を守る役割を担っていた。2023年にCEO解任という最も強い措置を取ったものの、その決定は続かなかった。Toner氏は同じ状況なら再び同じ票を投じるとしつつ、取締役会が経営陣とより強い関係を築けた可能性も認めている。

中心にあるのは一人の経営者への人物評ではなく、制度設計の問題だ。将来が一人の信頼性に左右されるなら、その制度は設計の時点で失敗している。Toner氏が現在率いるCSETは約50人の組織で、2019年から技術と安全保障の論点を米国の政策担当者向けに整理している。

研究所が安全対策に追いつけない時は基準が開発を止めるべきだ

Toner氏は、AIを自社研究のより広い領域で使う一方、既知の安全対策をすべて実装する時間が足りない研究所の状況を説明する。次のモデルを訓練または公開する前に、リスク評価と管理の明確な基準を設けるべきだという。基準を満たせば進み、満たせなければ時間をかける。

AIを購入する企業にとって重要なのは、約束から検証可能な手続きへの移行だ。必須テスト、意思決定の記録、そして製品チームの外から公開を止められる権限があって初めて、責任を確認できる。

上場は監視を強める一方で成長圧力も加える

Toner氏は、AI研究所の上場を脅威だけとは見ていない。公開企業は非公開企業よりも、企業統治、情報開示、外部監視について整った規則に従う。一方で四半期ごとの投資家の期待は、能力競争をさらに速める可能性がある。重要なのは独立委員会という名称ではなく、その具体的な権限だ。

このインタビューは元取締役一人の見解であり、現在のOpenAIに対する監査ではない。それでも、使命と経営が衝突した時のために設けられた仕組みを検証する、まれな実例になっている。

本当の試験は不都合な決定を下す時に来る

安全委員会が高額なモデルを延期し、規制当局が都合の悪いデータを求め、取締役会が経営案を退ける時、新しい規則の意味が明らかになる。それまでは自主的な約束にすぎない。公開された基準、独立監督の権限、そして監督が実際に研究所の判断を変えた記録を追う必要がある。

Lilithの判定

Toner氏が示す試験は単純だ。非常ブレーキの価値は表示ではなく、運転士の意思に反してでも列車を止められるかで決まる。