ビッグテックカルテルは現実なのか？AI開発の減速が疑問を投げかける

ペースの低下により、水面下での取引についての憶測を呼ぶ余地が生まれる

The Vergeの分析によると、人工知能開発の現在の減速は懐疑論の高まりに直面しています。主要な市場参加者が安全性への責任あるアプローチと長期的リスクとの調整として提示しているものは、専門家コミュニティの一部で異なる捉えられ方をし始めています。社会を保護するという名目の下で、市場の現在の権力分布を固定することを目的とした静かなカルテルが形成されているのではないかという懸念が生じています。

これらの憶測は、最先端モデルの開発コストが指数関数的に増大しているという事実に基づいています。したがって、共同アプローチと人為的なペースの減速は、終わりのない軍拡競争よりも、巨人にとって経済的に有利な戦略となる可能性があります。

オープンソースやスタートアップにとって、そのようなカルテルは脅威となる

安全規制への取り組みが、市場シェアの保護によってより強く動機付けられていることが判明した場合、それはイノベーションに劇的な結果をもたらすでしょう。AI開発のための過度に厳格で経済的にコストのかかる認証プロセスを設定することは、中小企業やオープンソースイニシアチブが開発の最前線で競争する能力を効果的に遮断することになります。

このアプローチは、テクノロジーの未来が、自分たちのためにゲームのルールを設計した一部の狭い企業グループによって決定される環境を作り出します。革新的な圧力は減少し、市場はいくつかの支配的なインフラストラクチャを中心に集中することになります。

実践において、安全性と独占の境界線は非常に曖昧である

安全なシステムを開発する責任は否定できません。しかし、実存的リスクから保護しようとする真の努力と、独占を維持しようとする努力を区別することは困難です。大手テクノロジー企業は、実際の安全性の意味を定義するための財源と政治的影響力の両方を持っています。そして、この定義が主に彼ら自身に適合する可能性が高いです。

この利益相反は、多くの独立した研究者が、標準設定プロセスへのより大きな透明性と幅広い一般市民の関与を求めている主な理由です。

透明性のある監査を強制することで、企業の真の動機が明らかになる

これが安全のための誠実な努力なのか、それとも独占の構築なのかを証明するのは、大手企業が自社のモデルを独立した監査に提出する意欲があるかどうかです。外部の専門家や政府機関がテストやデータ共有を監督することを許可すれば、彼らは一般市民に対するコミットメントを確認することになります。しかし、閉ざされたエコシステムと内部統制に固執すれば、カルテル協定の疑いが強まるばかりです。

Lilithの判定

規制は、自分より小さな誰かが目の前でランニングシューズの紐を結んでいるときに、億万長者にとって便利なブレーキになります。