Google、OpenAI、Anthropicは、新政権が加速を求める中、密かにゲームのルールを調整していた

政治的な義務が変更される前に、ビッグ3はセキュリティノートを調整しました

TechCrunchによると、AIの安全性に対する共同アプローチについて、OpenAI、Anthropic、Google DeepMindの間でここ数週間交渉が行われています。OpenAIはこのイニシアチブを確認しました。これらの議論は、次期トランプ政権がこれまでの規制上の制約から脱却し、米国が中国に後れを取らないようにすることに主に焦点を当てる意向を明確に宣言している時期に行われています。

これらの会議は公の場を避けて開催され、連邦レベルの政治的変更が有効になる前に、最先端モデルの脆弱性をテストし特定するためのプラクティスを共有することに重点が置かれていたと報告されています。

市場は、安全協定とカルテル形成の違いを見極めています

スタートアップやオープンソースコミュニティにとって、これら3つの巨人の接近は大きな警告サインです。これは、業界全体の「安全な」標準を事実上決定できる排他的なクラブが形成されていることを意味します。市場リーダーが高額な認証プロセスや必須のチェックポイントに同意した場合、それは小規模なプレーヤーにとって乗り越えられない参入障壁となります。

表向きには、この3社は実存的なリスクから保護していると主張していますが、The Vergeの批評家たちは、これを安全性を装って望ましくない競争を抑圧する規制上の堀を確立するための取り組みと見ています。国がアクセルを踏み始めると同時に、大手企業は自分たちに都合の良い方法でブレーキを定義しようとしています。

政府の優先事項は以前の制限を消去しますが、新たな摩擦点を作り出します

新政権はこれまでの安全要件をキャンセルしていますが、これはこれらの企業が絶対的な自由を得るという意味ではありません。それどころか、紛争は「人類への危険」から「国家安全保障」へと移行しています。モデルは、軍事利用と外国勢力に対する技術的禁輸のための評価のふるいを通過しなければなりません。OpenAI、Anthropic、Googleが今日社内標準として同意していることは、明日には政府契約の国防総省の要件になる可能性があります。

しかし、この収束の限界は、関係者間の巨大な不信感です。OpenAIは成長する必要があり、Anthropicは責任ある立場として自らをプロファイリングし、Googleは独自のインフラストラクチャゲームをプレイしています。外部からの強制なしにこの同盟を維持することは非常に困難です。

重要なシグナルは、合意された標準を外部監査に公開することです

ビッグ3が保護と保護主義だけでなくについてどれほど真剣であるかは、彼らが合意の結果を公表したときに明らかになるでしょう。決定的な要因は、彼らが自分たちだけがアクセスできる閉じた評価フレームワークを作成するか、それとも第三者や学界が彼らの安全方法論を独立して監査することを許可するかどうかです。それが密室に留まれば、人類を思いやるという幻想はすぐに打ち砕かれるでしょう。

Lilithの判定

バーで最大の喧嘩屋3人が丁寧な振る舞いのルールを導入することに同意したとき、彼らはゲストを保護するためにそれを行うことはめったにありません。用心棒が自分たちのテーブルのそばにしか立たないようにするためにそうするのです。