OpenAIが方針転換、カリフォルニア州のAI法案の強化を求める

OpenAIは、カリフォルニア州における人工知能の規制に対する姿勢を予想外に変更している。同社は以前、大手AI企業に透明性要件と内部告発者の保護を導入した法案SB 53に反対していた。現在は、カリフォルニア州に対して、同じ法律にさらに安全保護手段を追加するよう求めている。

カリフォルニア州が連邦政府の空白を埋める

OpenAIは、連邦レベルでの重要な法律が存在しないことを理由に、この方針転換を説明している。同社は現在、リバース・フェデラリズム（逆連邦主義）と呼ぶアプローチを支持している。これは、個々の州が中核的な保護措置において互換性のある方向に進み、将来の国家基準の基盤を作るというものである。

したがって、これは孤立したカリフォルニア州の規則以上の意味を持つ。同社は、現在連携し、将来的には国家的なベースラインに収束する可能性のある州の枠組みを求めている。

監視はモデルのトレーニング段階へ移行する

提案された修正案の1つは、潜在的な重大インシデントに備え、トレーニングまたは評価中に最先端モデルを監視することを義務付けるものだ。監視は、研究所がモデルの機能とリスクをまだ調査している展開前から開始される。OpenAIは、問題の95%が完成品になってから解決されるというシナリオを回避したいと考えている。

この要件は、法律の対象を一般的な透明性から開発中の具体的な管理へと拡大することになる。これは、モデルがユーザーに届く前に、企業が問題を早期に発見できる段階である。

サイバーセキュリティは開発の全ライフサイクルを対象とする

OpenAIはまた、モデル開発のライフサイクル全体を通じて、より強力なサイバーセキュリティ保護を求めている。その声明は最近のインシデントに言及しており、新たなリスクの発生に伴い安全保護手段を更新する必要がある理由を示していると同社は考えている。

この提案は、モデルの動作の安全性と、モデルのトレーニング、評価、運用に使用されるインフラストラクチャのセキュリティを関連付けるものだ。したがって、単一の最終チェックポイントではなく、開発の複数の段階にわたってより厳格な要件が適用されることになる。

互換性のある州の規則は議会に先行する可能性がある

類似した州の枠組み間の互換性は、OpenAIが提唱するアプローチの条件である。同社は、連邦法がなくても、この連携が後の国家基準の中核を形成する可能性があると主張している。

他の州が互換性のある方向に進めば、SB 53はもはや地方の制度として機能するだけではなくなる。最先端モデルの安全性のための米国の共通ベースラインの構成要素の1つになる可能性がある。

Lilithの判定

OpenAIは当初SB 53に反対していたが、現在はより多くの保護手段を求めている。巨人が最近のインシデントを引き合いに出しながら互換性のある規則の魅力に気づいたとき、そのタイミングは法律そのものと同じくらい興味深い。