12件の安全性報告を率いた担当者、スピード優先の文化を理由にOpenAIを退社 | ニュース

David Robinsonが3.5年間在籍したOpenAIを退社した。現行Preparedness Frameworkの策定と、12件のfrontier model公開に伴う安全性報告を率いた人物だ。次のlaunchへ急ぐ速度に、組織の安全習慣を直す速度が追いついていないと批判している。

安全プロセスの内部担当者が外部へ移る

RobinsonはThe Atlanticへの寄稿で、現行Preparedness Frameworkの起草を主導し、12件のfrontier launchに関する安全性報告を監督したと述べた。3.5年の在籍で、社内でも勤続期間の長い社員の一人だった。今週退社し、今後は組織の外から活動するという。

The Vergeは、彼の主張を過度な自信と終わりのないsprintへの批判としてまとめている。Robinsonは元同僚の努力や技術の価値を否定していない。一方で、日々の業務が詰まり、staffingや文化を根本から変える時間がほとんどなかったと語る。OpenAIは自社の安全対策を支持している。

Robinsonは、frontier labが原子力発電所や混雑する空港のように運営されるべきだとする。多層の冗長性、慎重な計画、日常的な人的ミスが大事故への経路を開かない仕組みを求める比喩だ。

公開安全文書の責任者が去ったことで、権限の所在が問われる。system cardはリスクを正確に記述できても、公開を止めたり、過負荷のチームに人を増やしたり、経営陣の動機を変えたりはできない。権限のない透明性は、決定済みの結論に付く整った別紙になりやすい。

顧客と規制当局が見るべきなのは、文書の背後にある手続きだ。誰がlaunchを延期できるのか。どの結果が修正を義務付けるのか。独立reviewerは公開前にデータを見られるのか。Robinsonの退社は答えを出さないが、直接経験を持つ証言者をこの問題に与えた。

Robinsonはプロセスの近くにいたが、公開された完全な社内記録を伴わない一人の評価者でもある。直接確認した際、The Atlanticのページはブロックされていた。このため、公開された寄稿の抜粋、The Vergeの記事、複数箇所で一致する経歴情報に基づいている。

原発の比喩も具体的な実装を自動的には示さない。航空と原子力の運用には、免許、事故報告、独立監督、運転停止権限がある。frontier AIで誰がそれらを担うか決まらない限り、比喩は説得力を持っても未完成だ。

次のモデル公開が検証の機会になる。OpenAIが明確な停止基準を示し、staffingの変更を裏付け、launch日が事実上固定される前に外部evalsを入れるかを見るべきだ。安全チームが、誰かの退社を代償にせず延期を実現できるかも重要になる。

Robinsonは外部からの動機付けを強める必要があるとする。その実力は、具体的な商業日程と衝突したときに分かる。文化はframeworkの文章ではなく、テストが失敗し、marketingが待っている日に下す決定で測られる。

system cardに12個の印が並んでも、launchへの門は閉じない。安全が始まるのは、失敗したtestを見た権限者が停止を命じ、実際に日程が動く瞬間だ。