KI-Propaganda verließ Fake-Accounts und schaffte es in echte Medien

OpenAI gibt an, zwei verdeckte Einflussoperationen aus Iran und Russland unterbunden zu haben. Das iranische Netzwerk schuf sieben falsche Journalistenprofile und bot kleinen sowie mittleren Onlinemedien lange Artikel an. Die russische Operation soll unwissende Personen in Lateinamerika für den Betrieb eines scheinbaren Thinktanks eingesetzt haben. Die Primärseite lieferte bei der direkten Prüfung einen Fehler 403, daher stützt sich dieser Text vorsichtig auf indexierte Passagen und begleitende Berichte.

Sieben falsche Journalisten und ein Thinktank erreichten echte Medien

Laut OpenAI nutzte die iranische Operation ChatGPT, um fast 100 Artikel zu bearbeiten und anzubieten, die unter falschen Autorennamen in realen Publikationen erschienen. Das russische Netzwerk baute eine glaubwürdig wirkende Institution um Menschen auf, die den tatsächlichen Hintergrund des Projekts möglicherweise nicht kannten.

Auf der IO Breakout Scale von 1 bis 6 stufte OpenAI die russische Operation in Kategorie 5 und die iranische in Kategorie 4 ein. Das Unternehmen bezeichnet den russischen Fall als erste von ihm unterbundene Operation der Kategorie 5 seit Beginn seiner Berichte.

Die Akteure mieten das Vertrauen von Redaktionen statt Bot-Publikum aufzubauen

OpenAI hat in den vergangenen zweieinhalb Jahren 30 verdeckte Einflussoperationen beschrieben. Nach den Beobachtungen des Unternehmens setzen Kampagnen mit der größten potenziellen Reichweite nicht allein auf fingierte Verbreitung in sozialen Netzwerken. Sie versuchen, Material in Medien mit bestehenden Lesern, Redakteuren und Reputation unterzubringen.

Damit verschiebt sich der Kontrollpunkt in Redaktionen. Die Erkennung generierter Texte reicht nicht aus, denn die Urheberschaft der Sätze ist nur ein Teil des Problems. Wichtiger sind Herkunft und Hintergrund des Autors, der Institution und des angebotenen Themas.

Der Modellanbieter liefert zugleich den Bericht über den Vorfall

Die Erkenntnisse stammen von OpenAI, das den genutzten Dienst betrieb und über Kontosperren entschied. Außenstehende können daher Datengrundlage, Zuordnung und Anteil der von den Modellen erzeugten Inhalte nicht vollständig prüfen. Das Unternehmen betont selbst, dass nicht sämtliches Material aus seinen Systemen stammte.

Die Kategorien 4 und 5 messen Durchbruch und potenzielle Reichweite, nicht eine nachgewiesene Veränderung der öffentlichen Meinung. Ein veröffentlichter Artikel wiegt schwerer als ein vergessener Bot-Post, doch die Veröffentlichung allein beweist noch keine Wirkung.

Prüfungen externer Autoren entscheiden über die nächste Wiederholung

Das nächste Signal ist, ob Medien die Überprüfung externer Autoren, der Finanzierung von Thinktanks und der Herkunft angebotener Artikel verschärfen. Plattformen können Konten nach der Entdeckung einer Operation schließen, während ein Redakteur einen Beitrag vor der Veröffentlichung stoppen kann.

Ebenso wichtig sind unabhängige Analysen der veröffentlichten Spuren und transparente Korrekturen der beteiligten Medien. Ohne sie bleibt die Öffentlichkeit vor allem auf den Bericht jenes Unternehmens angewiesen, dessen System die Akteure nutzten.

Liliths Urteil

Der falsche Journalist ruft nicht mehr von einem leeren Account. Er wartet mit einem fertigen Artikel im Postfach des Redakteurs darauf, dass ihm eine echte Redaktion ihr Logo leiht.