Altman氏、少数の研究所が握るAIに国際ルールを要求

Sam Altman氏は9月23日、国連安全保障理事会で、高性能AIシステムに共通基準を設けるよう求めた。OpenAIは議論を企業理念から、誰がルールを測定し、検証し、執行するのかという難題へ移した。

OpenAIは安全保障理事会に3原則を示した

Altman氏は第10228回会合で、Anthropic、Hugging Face、科学界の代表者とともに発言した。主張の柱は3つある。意思決定の中心に人間を置くこと、科学と経済の進歩を人々に還元すること、AIによって個人の力を高めることだ。

さらに、能力測定、リスク評価、人間による実効的な監督を対象とする国内基準と国際基準を求めた。政府、重要インフラ事業者、技術専門家を結ぶ安全な連絡経路と、迅速なインシデント報告も提案した。

安全性は政治的な正統性の問題になった

発言で最も重要だったのは、権力集中への言及だ。重要な決定をサンフランシスコの研究所だけに委ねるべきではなく、企業が民主的な手続きを代替してはならないと述べた。

政府にとっては、evals、監督、証拠について共通言語を作る招待状である。AI企業にとっては、自ら結果を支配できないルールも受け入れる約束になる。その実行こそが、政策転換と巧妙な政治的保険を分ける。

演説は目標を示したが検査制度は示さなかった

Altman氏は、拘束力のある監査設計、独立機関によるモデルへのアクセス、インシデント報告期限を提示しなかった。国際基準と各国の権限をどう両立させるかも未解決だ。

OpenAIは引き続き、自社モデルを開発し、評価し、市場へ出す立場にある。用語を共有するだけでは、各社が自分の答案を自分で採点する構図は変わらない。

監査と証拠へのアクセスが成否を決める

次に見るべきものは新たな演説ではなく、具体的なプロトコルだ。各国が重大インシデントの分類をそろえ、独立したevalsを認め、導入前に研究所が示すべき証拠を定めるかが焦点になる。

オープンモデルとクローズドモデルの双方に使える検証可能な基準ができれば、国連の議論は実務的な力を持つ。そこまで進まなければ、人間による管理はスイッチの付いていない美しい標語で終わる。

Lilithの判定

Altman氏は安全保障理事会で検査記録を開いたが、その大半を記入するのは今もOpenAIだ。独立監査人が同じmodelとincidentを確認できて、初めて協力が始まる。