影響力工作の阻止：OpenAI、シンクタンクを装うロシアのネットワークをブロック

情報戦のツールとしてのモデル

OpenAIは、プラットフォームを利用して正当な分析の錯覚を構築していたロシアの影響力ネットワークに対して措置を講じました。ブロックされたアカウントは人工知能を使用してイスラエルを拠点とする偽のシンクタンクに情報を入力し、「主権指数」に関する投稿を作成しました。目標はロシアに対する体系的な称賛と西側に対する厳しい批判でしたが、今回は学術的または分析的権威という見せかけに包まれていました。

より安価で迅速な正当性の構築

LLMの導入は、国家プロパガンダの経済性を変えます。一貫した分析を維持するために何十人もの人々に支払う代わりに、少人数のチームが数日で偽の機関を構築することができます。モデルは、記事やソーシャルメディアの投稿のコンテンツを提供するだけでなく、おそらく専門家の信頼性のトーンや全体的な見せかけも提供しました。これにより、攻撃者が複数の人口統計や言語を同時に標的にする能力が向上します。

オペレーターのフィルターは完璧ではない

しかし、OpenAIだけに頼ることは戦略的に健全ではありません。ここに主な限界があります。ロシアの作戦は、比較的制御下にあるプロバイダーの企業APIとツールを標的にしていました。これらのグループが独自のサーバーで実行されるオープンウェイトモデルに移行すると、ソースでの検出と迅速なシャットダウンの可能性はなくなります。防衛は、「誰が生成しているか」のレベルから「誰が配布しているか」のレベルに移行する必要があります。

最終的なリーチに対するプラットフォームの責任

ネットワークがソース（OpenAI）で発見され、ブロックされたという事実は、モデル作成者にとって勇気づけられますが、主に特定の企業のプロアクティブなアプローチを証明しています。私たちは今、この生成されたコンテンツが実際に存在するソーシャルネットワークの行動を監視する必要があります。LLMが生成した偽情報が実際にどれほど効果的であるかを決定するのは、XやMetaなどのプラットフォームがこれらの操作を停止する能力です。

Lilithの判定

アメリカ企業のAPIで遊ぶのは、偽情報のアマチュアです。プロパガンダ担当者が、オープンソースモデルにはキルスイッチを持つ管理者がいないことに気付いたとき、本当の雪崩が発生します。