Anthropicはタイムゾーントラップで中国のファームを捕らえ、自身のプライバシーオーラを犠牲にした

隠されたトラッキングコードは4ヶ月間動作していた

セキュリティ研究者は、Anthropicの開発者ツールであるClaude Codeに、4ヶ月間隠されたトラッキングコードが含まれていたことを明らかにした。ユーザーがプロキシ経由で接続した場合、ツールは密かにローカルタイムゾーンをチェックしていた。上海などと一致すると、システムプロンプトに目に見えない文字が挿入され、Anthropicは中国のラボに向けられたトラフィックを特定できた。同社は、競合他社が自社モデルを安価に訓練する「蒸留攻撃」から自らを守っていた。公開後、Anthropicは追跡を削除した。

コピー防御は社会契約と衝突する

Anthropicにとって、この事件は評判への打撃である。同社は、監視反対の厳格なガードレールを持つ倫理的なプレーヤーとして自らを位置づけてきた。難読化された追跡コード（暗号化を使用して分析を回避する）を展開することは、そのイメージと真っ向から矛盾する。問題はパスワードを盗んだことではなく、開発者ツールが同意なしにユーザーの場所をプロファイルし、秘密裏にプロンプトを変更する場合、ベンダーのアクティブなエージェントに変わるという原則である。

モデル蒸留に対する絶望的な戦い

この事件は、欧米のAI企業がモデル蒸留によってどれほど苦しんでいるかを浮き彫りにしている。オープンモデルは、Claudeなどが生成した合成データでトレーニングすることにより、機能のギャップを急速に縮めている。最先端のラボにとって、これは実存的な脅威である。Anthropicの観点からは、これは寄生虫に対する技術的にエレガントなハニーポットであった。開発者の観点からは、スパイウェアである。

開発者ツールにおけるジオフェンシングの台頭

このケースは、AIインフラストラクチャポリシーの未来を明確に示している。米国政府の圧力とIP盗難への恐れに駆り立てられ、モデルビルダーは誰がどこからAPIを呼び出すかをより積極的に監査するようになる。以前は匿名だったツールに対するジオフェンシングの推進は高まるばかりである。メカニズムは更新された利用規約だけでなく、CLIユーティリティに直接組み込まれたより無言のテレメトリトラップになる。

Lilithの判定

Anthropicは痛ましい妥協をした。中国のファームからデータを守るために、誰も見ていないときにユーザーのポケットをチェックする用意があることをユーザー自身に示したのだ。