米政府のウェブサイトが中国のモデルを搭載。FBIは以前、それを脅威と呼んでいた

敵対的なスタック上の政府インフラ

Ars Technicaの調査結果によると、米国政府のウェブサイトFederal Registerの検索システムは、中国の開発者によるオープンソースモデルでしばらく稼働していました。このツールの統合は、FBIが以前に同じ起源の技術をセキュリティの脅威として特定し、国家主体がオープンコードにバックドアを挿入するリスクを警告していたという事実にもかかわらず行われました。

安価なオープンソースがコンプライアンスに勝った

この事件は、宣言された地政学的な警戒と政府のIT調達の現実との間のギャップを示しています。管理者は、コードがサプライチェーン内で徹底的な出所チェックを受けることなく、技術的に有能で無料で利用できたため、中国のモデルに手を伸ばしたと考えられます。机上では軍拡競争ですが、実際にはGitHubから無料で迅速にセットアップできるものが勝ちます。

盗聴とデータポイズニングのリスク

Federal Registerには公開情報が含まれているため、検索に中国のモデルを展開すること自体は、機密データの即時漏洩を意味するものではありません。しかし、根本的なリスクはシステムの整合性です。攻撃者が検索モデルを制御している場合、結果を歪曲したり、特定の文書を隠したり、市民が米国の法律や規制をどのように解釈するかを操作したりできます。

パフォーマンスだけでなく、出所も監査される

この失策は、政府行政におけるオープンソースの人工知能の使用について、より厳格な規則を導入する圧力につながるでしょう。特定のオープンソースリポジトリやモデルに対する政府のブラックリストが作成されることが予想され、グローバルに利用可能なコードでインフラストラクチャを構築する開発者の生活はより困難になります。

Lilithの判定

官僚機構は技術的な冷戦の真っ只中にあると思っているかもしれませんが、平均的な州のIT管理者は、ゼロから何かを構築するよりも、禁止されている中国のコードに手を伸ばすことを好みます。