Stopp einer Einflussoperation: OpenAI blockiert russische Netzwerke, die sich als Think Tanks ausgeben

Das Modell als Werkzeug der Informationskriegsfuehrung

OpenAI ist gegen ein russisches Einflussnetzwerk vorgegangen, das die Plattform nutzte, um die Illusion einer legitimen Analyse aufzubauen. Die blockierten Konten nutzten kuenstliche Intelligenz, um einen gefaelschten Think Tank mit Sitz in Israel zu bevoelkern und produzierten Beitraege ueber einen 'Souveraenitaetsindex'. Das Ziel war systematisches Lob fuer Russland und scharfe Kritik am Westen, diesmal jedoch verpackt in den Anschein akademischer oder analytischer Autoritaet.

Billigerer und schnellerer Aufbau von Legitimitaet

Der Einsatz von LLMs veraendert die Oekonomie staatlicher Propaganda. Anstatt Dutzende von Personen zu bezahlen, um konsistente Analysen aufrechtzuerhalten, kann ein kleines Team innerhalb weniger Tage eine gefaelschte Institution aufbauen. Das Modell lieferte den Inhalt fuer Artikel und Social-Media-Beitraege und wahrscheinlich auch den Ton und die Gesamtfassade der Experten-Glaubwuerdigkeit. Dies erhoeht die Faehigkeit der Angreifer, mehrere demografische Gruppen oder Sprachen gleichzeitig anzusprechen.

Filter beim Betreiber sind nicht kugelsicher

Sich allein auf OpenAI zu verlassen, ist jedoch strategisch nicht sinnvoll. Hier ist das Hauptlimit: Die russische Operation zielte auf die Unternehmens-API und die Werkzeuge eines Anbieters ab, der sie unter relativer Kontrolle hat. Sobald diese Gruppen zu Open-Weight-Modellen uebergehen, die auf ihren eigenen Servern laufen, wird die Moeglichkeit der Erkennung und des schnellen Abschaltens an der Quelle verschwinden. Die Verteidigung wird sich von der Ebene 'Wer generiert' auf die Ebene 'Wer verbreitet' verlagern muessen.

Plattformverantwortung fuer die endgueltige Reichweite

Dass das Netzwerk an der Quelle (OpenAI) aufgedeckt und blockiert wurde, ist fuer den Modellersteller ermutigend, zeugt aber in erster Linie vom proaktiven Ansatz eines bestimmten Unternehmens. Wir muessen nun das Verhalten der sozialen Netzwerke beobachten, in denen diese generierten Inhalte tatsaechlich leben. Es ist die Faehigkeit von Plattformen wie X oder Meta, diese Operationen zu stoppen, die bestimmen wird, wie effektiv die von LLMs generierte Desinformation in der Praxis ist.

Liliths Urteil

Mit der API eines amerikanischen Unternehmens zu spielen, ist Desinformations-Amateurismus. Die wahre Lawine wird losbrechen, wenn Propagandisten erkennen, dass Open-Source-Modelle keinen Admin mit einem Kill-Switch haben.