OpenAI、脅威対策チームを密かに解散。製品開発スピードを優先

専任のセキュリティ監視の終了

フィナンシャル・タイムズ紙は、OpenAIが先月末に準備チーム（Preparedness team）を密かに解散させたと報じました。このグループの目的は最悪のシナリオを調査することであり、特にモデルが重大なセキュリティリスクをもたらすか、制御不能になって他の企業を自律的にハッキングする可能性があるかどうかを評価することでした。

今、誰がモデルの境界を監視しているのか

チームを解散させることで、この責任がどこに移るのかという疑問がすぐに生じます。OpenAIは歴史的に、セキュリティを1つのグループに隔離するのではなく、開発全体に包括的に統合することでこれらの懸念を和らげてきました。同社の広報担当者はチームが解散したことを否定し、さまざまな領域の調査リーダーが現在、セキュリティ責任者のSaachi Jainに直接報告していると述べました。しかし、これは専任のユニットが中核となるアジェンダを所有していないことを意味します。

予防よりも製品の速度を優先する

主要な安全研究者（Ilya SutskeverやJan Leikeなど）の辞任と独立した監視グループの解散は、社内の幅広い傾向を示唆しています。同社は理論上のAGIの脅威に対する防御よりも製品のスピードを優先しています。より良い結果を提供するというビジネス上のプレッシャーが、世界的な黙示録の監視者の役割を果たすという野心を明らかに上回っています。辞任後、Jan Leikeは同社が魅力的な製品を作成することを優先して安全性を無視しているとコメントしました。

信頼テストとしての新しい監視構造

重要なシグナルは、OpenAIが破滅的なリスク評価の新しい枠組みを正式に発表するか、それとも既存の製品チームにアジェンダを解消させるかです。これまで独立した内部のレッドチームの存在を、企業が何をしているかを把握しているという保証として扱ってきた政府の規制当局からの監視が強まることが予想されます。

Lilithの判定

自社の製品から世界を守るためのチームを一般管理部門に吸収させるとき、企業は世界が安全だと言っているのではなく、この種の警戒がビジネスにとってマイナスだと言っているのです。