OpenAIの安全性を誰が監視するのか、3人の解雇で対立が表面化

OpenAIは安全性とalignmentに携わっていたTomek Korbak、Jasmine Wang、Mikita Balesniの3人を解雇した。会社は、社内調査で機密情報の取り扱いに関する明確な規則違反と、元従業員の書簡に書かれた内容を超える重大な信頼侵害が判明したと説明した。追加の行為について詳細は公表していない。

会社と研究者は両立しない説明を示した

3人は公開書簡で、当時の職務と慣行の範囲内で行動したと主張する。KorbakはHugging Faceに関係する事故の調査で外部評価者と協力していた。Balesniはモデルのmonitorabilityに関する取り組みを調整していた。Wangは、会社から以前に権限を与えられたアカウントで機密メールを誤って開き、直ちに報告したと説明している。

3人は、monitorabilityが低いアーキテクチャに関する情報を漏らしたことも否定した。一方、OpenAIは調査で重大な信頼侵害が判明し、安全上の懸念を表明したこととは無関係だと主張する。公開情報だけでは、どちらの説明が社内の出来事を正確に示すか判断できない。

境界が曖昧なら決着前から外部監視は弱くなる

不確実性そのものが実務に影響する。安全研究者は、独立評価者に何を共有できるのか、どの経路を使うのか、誰の承認が必要なのかを知る必要がある。機密性の高い調査中に境界が動けば、外部監視が有益な場面でも従業員は沈黙を選ぶ。

公開書簡は3つを求めている。外部評価者の組み込みを続けること、frontier modelのmonitorabilityを守ること、安全組織との連絡規則を明確にすることだ。OpenAIはこれらの目標に同意し、外部評価者との契約を最終調整していると述べた。争点は公表された目標ではなく、日々の運用がそれを支えているかにある。

世間は判決を出せなくても従業員には信号が届く

OpenAIには、人事の詳細を公開しない正当な法的、安全上の理由があるかもしれない。同時に、説明のない重大な信頼侵害という表現では、3人の解雇が妥当だったか独立に評価できない。元従業員の書簡も当事者の説明であり、独立調査ではない。

したがって解雇が正当だったとしても、組織上の問題は残る。ほかの従業員は、境界が事前に文書化されているか、疑いをかけられた人に具体的な説明があるか、評価者との接触が保護につながるか、キャリア上の危険になるかを見ている。企業声明だけではこの信号を消せない。

文書化された規則と評価者の実権が今後を決める

OpenAIは、外部評価者との契約の詳細を今後数週間で発表するとしている。評価者が従業員に近い継続的なアクセスを得るのか、研究者と直接話せるのか、機密データの共有を巡る争いに文書化された手続きがあるのかが重要になる。

次の社内警告を会社がどう扱うかも同じく重要だ。従業員が規則を前もって知り、安全に異論を上げられるなら損害は抑えられる。警備員が誰かのbadgeを回収する瞬間まで境界が見えないなら、萎縮効果はシステムの仕様になる。

Lilithの判定

安全文化は受付のポスターでは測れない。研究者が外部評価者へ電話するとき、もう片方の手で机を片づけなくて済むかで分かる。