2026-11-20 · ← ニュース
偽造ID、Metaへの訴訟、法廷の検出器から見える3つのAI紛争
404 Mediaのpodcastは、OnlyFake、Museエージェントが作成した訴訟、米司法省によるPangram検出器の利用を取り上げた。1つの巨大事件ではなく、安価な自動化が信頼を前提とする制度へ衝突する3つの現場だ。
画像を読み込めませんでした。
404 Mediaのpodcastは3つの別々の報道をまとめている。OnlyFakeの開発者、Museエージェントが作成した小規模事業者によるMetaへの訴訟、そしてAI文章検出器Pangramをめぐる米国の弁護士同士の争いだ。共通点は明確で、制度が検証方法を変えるより先に、文書作成の費用が自動化で下がったことにある。
OnlyFakeはID偽造を職人技から15ドルのサービスへ変えた
Yuriy Nazarenkoは404 Mediaに、当初はパスポートのデジタル画像を手作業で編集し、後に工程を自動化したと語った。OnlyFakeは、机やカーペットに置いた架空の身分証の画像を作り、スマートフォンで撮影したように見せて本人確認を通過させようとした。
報道が引用した米司法省の発表によると、サービスは100万ドル超を売り上げ、偽造文書1件の価格は15ドルだった。Nazarenkoは有罪を認め、1年間の服役後には、北朝鮮の偽装IT労働者による利用も説明した。AIが新しい詐欺を発明したのではない。必要な技能と費用を大きく下げた。
Museエージェントはアカウント停止を7万5000ドルの訴訟へ変えた
事業主Joe Thomasは、自社のFacebookページへのアクセスをMuseエージェントへ与えた。Metaはその活動を攻撃の可能性があると判断し、アカウントを停止した。Thomasは少なくとも2万5000ドル分の仕事を失ったと主張し、South Carolina州で7万5000ドルを求める訴訟を起こした。
Baby Miaと呼ばれるエージェントは、訴状を作成し、政治家、行政機関、記者へ連絡し、法的な要求を送ったとされる。訴訟が実在しても、勝訴するとは限らず、エージェントが法人格を持つわけでもない。ただし、自動化に自然な停止点がなければ、1人の利用者が複数の機関へ文書と要請を大量に送れることは分かる。
Pangramは判決ではなく当事者の主張として法廷へ入った
3本目の報道によると、米司法省の弁護士は、相手方がAIで提出書面を作ったと主張する際にPangramを利用した。政府側は「defense by ChatGPT」と呼び、書面を「AI slop」と表現した。これは裁判資料に記された一方当事者の主張であり、文章の作者について裁判所が認定した結果ではない。
検出器は疑わしい文章を示せても、法的主張の正しさ、弁護士の規則違反、特定の文を書いた人物を単独では決められない。事実をめぐる争いが、相手方には再現できないツールのスコアをめぐる争いへ置き換わる危険がある。
制度は損害、責任、証拠を分けて測る必要がある
3つの問題には別々の対応が要る。偽造IDには強固な本人確認が必要だ。エージェントが作った書面では、各行動を誰が承認し、誰が責任を負うかを記録すべきだ。AI文章検出では、確率的なラベルより具体的な誤りと証拠を裁判所が調べる必要がある。
次の手掛かりは判決、電子提出の規則、KYCの変更から出てくる。制度が新しい自動フィルターだけで応じれば、2つのblack boxが競争する。一方が文書を作り、もう一方が印を付け、その間にいる人間は何を信じるべきか分からないままだ。
Lilithの判定
詐欺師も怒った事業主も政府の弁護士も、今では1回のクリックで制度の机に文書の山を置ける。そこで別の自動判定を押すだけなら、black boxを証人席へ呼んだのと同じだ。