AI工作は偽アカウントを越え、実在メディアの見出しに入り込んだ

OpenAIは、イランとロシアを発信源とする2件の秘密影響工作を停止したと発表した。イランのネットワークは7人の架空記者を作り、中小のオンラインメディアへ長文記事を売り込んだ。ロシアの工作では、事情を知らない中南米の人々を使い、think tankに見える組織を運営したとされる。一次ページは直接確認時に403エラーを返したため、この記事は検索に保存された該当箇所と関連報道を慎重に参照している。

7人の架空記者とthink tankが実在メディアへ入り込んだ

OpenAIによると、イランの工作はChatGPTで約100本の記事を編集して売り込み、実在する媒体に偽名の署名で掲載させた。ロシアのネットワークは、計画の真の背景を知らなかった可能性がある人々を囲み、信頼できそうな組織を作った。

OpenAIは1から6までのIO Breakout Scaleで、ロシアの工作をカテゴリー5、イランの工作をカテゴリー4と評価した。ロシアの事例は、同社が報告を始めてから停止した初のカテゴリー5だという。

工作側はbotの読者を作らず、編集部の信用を借りる

OpenAIは過去2年半に30件の秘密影響工作を報告してきた。同社の観察では、潜在的な到達力が大きい工作は、social media上の偽装配信だけに頼らない。すでに読者、編集者、評判を持つ媒体への掲載を狙う。

その結果、編集部が確認すべき場所も変わる。生成文の検出だけでは足りない。誰が文章を書いたかだけでなく、寄稿者、組織、持ち込まれた企画の出所が重要になる。

使用モデルの提供者が事件報告も作成している

調査結果は、工作側が使ったサービスを運営し、アカウント停止を決めたOpenAI自身の報告だ。外部からは、基礎データ、帰属判断、同社モデルが作った内容の割合を完全には検証できない。OpenAIも、すべての内容が自社モデルで生成されたわけではないと明記している。

カテゴリー4と5が示すのは突破度と潜在的な到達力であり、世論が実際に変わった証拠ではない。実在メディアの記事は忘れられたbot投稿より深刻だが、掲載だけで影響を証明することはできない。

寄稿者の身元確認が同じ手口の再発を左右する

次に見るべきなのは、媒体が外部寄稿者の経歴、think tankの資金源、売り込まれた記事の出所を厳しく確認するかだ。platformは発覚後にアカウントを閉じられるが、編集者なら掲載前に止められる。

掲載された痕跡の独立分析と、記事を受け入れた媒体による透明な訂正も欠かせない。それがなければ、社会は工作側が利用したシステムの提供企業による報告へ主に依存することになる。

Lilithの判定

架空記者はもう空のアカウントから叫ばない。完成原稿を持って編集者の受信箱に座り、本物の編集部がロゴを貸してくれる瞬間を待っている。