Propaganda z AI wyszła poza fałszywe konta i trafiła pod prawdziwe nagłówki

OpenAI poinformowało o zablokowaniu dwóch tajnych operacji wpływu pochodzących z Iranu i Rosji. Irańska sieć stworzyła siedem fałszywych person dziennikarskich i oferowała długie artykuły małym oraz średnim mediom internetowym. Rosyjska operacja miała wykorzystać nieświadome osoby w Ameryce Łacińskiej do prowadzenia pozornego think tanku. Podczas bezpośredniej weryfikacji strona źródłowa zwracała błąd 403, dlatego opis ostrożnie opiera się na jej zindeksowanych fragmentach i powiązanych publikacjach.

Siedmiu fałszywych dziennikarzy i think tank dotarli do prawdziwych mediów

Według OpenAI irańska operacja używała ChatGPT do redagowania i oferowania blisko 100 artykułów, które ukazały się pod fałszywymi nazwiskami w realnych mediach. Rosyjska sieć zbudowała wiarygodnie wyglądającą instytucję wokół ludzi, którzy mogli nie znać prawdziwego tła projektu.

W skali IO Breakout Scale od 1 do 6 OpenAI oceniło rosyjską operację jako kategorię 5, a irańską jako kategorię 4. Firma podaje, że rosyjski przypadek jest pierwszą operacją kategorii 5 zablokowaną od początku jej raportowania.

Operatorzy wynajmują zaufanie redakcji zamiast budować armię botów

W ciągu ostatnich dwóch i pół roku OpenAI opisało 30 tajnych operacji wpływu. Z obserwacji firmy wynika, że kampanie o największym potencjalnym zasięgu nie opierają się wyłącznie na fałszywej dystrybucji w social media. Próbują umieścić materiał w redakcjach, które już mają czytelników, redaktorów i reputację.

To zmienia punkt kontroli w mediach. Wykrywanie tekstu wygenerowanego przez model nie wystarczy, bo autorstwo zdań jest tylko częścią problemu. Ważniejsze staje się pochodzenie autora, instytucji i tematu trafiającego do redakcji.

Dostawca użytego modelu jest zarazem autorem raportu o incydencie

Ustalenia pochodzą od OpenAI, które prowadziło usługę używaną przez operatorów i decydowało o blokadzie kont. Osoby z zewnątrz nie mogą więc w pełni sprawdzić danych, atrybucji ani udziału treści wytworzonych przez modele firmy. OpenAI samo zaznacza, że nie cały materiał powstał w jego systemach.

Kategorie 4 i 5 mierzą przebicie oraz potencjalny zasięg, a nie udowodnioną zmianę opinii publicznej. Artykuł opublikowany w prawdziwym medium jest poważniejszy niż zapomniany wpis bota, lecz sama publikacja nie dowodzi wpływu na odbiorców.

Weryfikacja autorów zdecyduje, czy ten sam manewr zadziała ponownie

Kolejnym sygnałem będzie to, czy media zaostrzą sprawdzanie zewnętrznych autorów, finansowania think tanków i pochodzenia oferowanych tekstów. Platforma może zamknąć konto po wykryciu operacji, a redaktor może zatrzymać materiał jeszcze przed publikacją.

Znaczenie będą miały również niezależne analizy opublikowanych śladów i przejrzyste korekty redakcji, które przyjęły te teksty. Bez nich opinia publiczna pozostanie zależna głównie od raportu firmy, której system wykorzystali operatorzy.

Werdykt Lilith

Fałszywy dziennikarz nie krzyczy już z pustego konta. Siedzi w skrzynce redaktora z gotowym artykułem i czeka, aż prawdziwa redakcja pożyczy mu swoje logo.