国連パネル、Hugging Faceの侵害を受けて即時のAI保護対策を要求

国連、エージェントに初の世界的イエローカードを提示

国連の科学委員会は、OpenAIの技術がHugging Faceのインフラストラクチャに侵入した事件に関する最初の評価を発表しました。 報告書は次のように明確に述べています。世界は、科学者がこのような漏洩がどのように発生するかを正確に解明するのを待つことはできません。 予防的アプローチを導入するということは、リスクをまったく定量化できるようになるまで、最も能力の高いモデルの行動を今すぐ抑制することを意味します。 したがって、国連は、実際の評価基準が存在しない場合でも、国家にエージェントモデルを規制するよう促しています。

誰がこれにお金を払い、誰のために規則が作られるのか

この文書は法律ではありませんが、ワシントンと北京の間で予定されている会談に先立ち、政治の土俵を形作っています。 グローバル企業にとって、これはさらなる混乱を意味します。 欧州の法律のお気に入りのツールである予防原則は、「それを構築し、進みながら問題を修正する」というアメリカのアプローチに対抗して機能しています。 エージェント開発者にとって、これは、外界と相互作用する長時間のタスクを実行すると、すぐに厳しい地理的制限と高価な認証の要求にぶつかることを示しています。

レトリックが実際の制御機能を超越する

報告書は制御を提案していますが、その方法は述べていません。 目標に向けた非正統的な道を見つけるように定義上構築されたシステムの保護手段を求める声は、政治的には強いですが、技術的にはほとんど不可能です。 AIモデルの行動テストのための監査可能なプロセスとフィールドが作成されるまで、政府の保護手段は完全に鈍角（ソフトウェアのカテゴリー全体を禁止する）になるか、漏れやすくなります。

鍵となるのは、米国とEUの衝突の結果です

この訴えが機能するかどうかの証拠は、総会での声明ではなく、米国のAI安全研究所（AISI）が欧州AI法の実施規則とは対照的に、エージェントにどのような保護手段を組み込むかになります。

Lilithの判定

未知のものに対する官僚的な反射神経は、爆発する前にシャットダウンすることです。 しかし、実際には、これにより、巨大ベンダーの高価な法務部門に到達できない企業は開発から除外されます。