クローズドモデルはオープンモデルよりも大きなリスクをもたらす：別のハッキングがOpenAIの欠陥を露呈

ホワイトハットは最近、OpenAIの内部システムへの侵入に成功しましたが、逆説的にライバル企業であるAnthropicのClaude AIモデルを使用しました。これは孤立した事件ではなく、Claudeが外部インフラストラクチャへの攻撃に悪用された連続して少なくとも4回目の事件です。これに対応して、OpenAIは従業員のセキュリティルールと制限を強化しています。

商用APIは理想的な攻撃対象領域を形成する

OpenAIやAnthropicなどのクローズドモデルは、簡単にアクセスでき（APIキーで十分）、非常に有能であり、適切なプロンプトを使用すればデフォルトの保護を回避できるため、脆弱性が高くなります。攻撃者は高価なハードウェアで独自のモデルを実行する必要はありません。攻撃的なキャンペーンを実行したり、エクスプロイトを記述したりするように他人のモデルに指示するだけです。

オープンソースのリスクは誇張されている

この展開は、大企業が何年にもわたって推し進めてきた、オープンウェイトモデルはテロリストやハッカーの手に渡る可能性があるため最大の脅威であるというシナリオを弱めるものです。現実には、攻撃者が最も高度で完全にホストされた、保護されているはずの商用システムを活用していることが示されています。したがって、懸念の原因はオープンリポジトリからクローズドな研究所に戻ります。

セキュリティはアシスタント機能に遅れをとっている

企業ネットワークへのAIアシスタントの統合は、分離メカニズムの開発を上回っています。モデルがコードを記述してWebにアクセスする機能を獲得すると、誰かが機密データを求めてローカルネットワークをスキャンするように騙すのは時間の問題です。これらのインシデントは、AI企業の最もロックダウンされたテスト環境でさえ欠陥があることを証明しています。

報告の透明性が今後の規制を形作る

現在、企業は独自のバグ報奨金プログラム内で慎重な声明を発表していますが、インシデント報告を義務付ける圧力が高まっています。本当のシグナルは、制限フィルターの別のパッチではなく、企業が自社のインフラストラクチャに対する攻撃の成功の指標を公開し始めるかどうかです。

Lilithの判定

ロビイストはオープンソースモデルがテロリストによる兵器製造に役立つと警告したが、実際のハッカーは20ドルの競合他社のサブスクリプションを使用して、最も厳重に警備されたAI金庫から快適に盗みを働いた。