ChatGPT zaostrza zasady dotyczące przemocy i zapowiada cykliczny raport

OpenAI wprowadza ostrzejsze limity odpowiedzi ChatGPT dotyczących przemocy i broni. Firma zobowiązała się też, że od początku 2027 roku co 6 miesięcy będzie publikować dane o wykrywaniu, weryfikowaniu i eskalowaniu ryzykownych rozmów.

ChatGPT ograniczy instrukcje i szczegółowe rekonstrukcje ataków

Model już teraz nie powinien pomagać w planowaniu przemocy. Nowa granica idzie dalej: ChatGPT ma podawać mniej szczegółów o dawnych masowych atakach, w tym o użytej broni, wyposażeniu i sposobach ich zdobycia. Ograniczenie obejmie wszystkich użytkowników bez względu na wiek i deklarowany cel pytania.

System ma również uwzględniać sygnały ostrzegawcze z ostatnich rozmów. Gdy użytkownik uporczywie skupia się na przemocy lub poważnym skrzywdzeniu innej osoby, ChatGPT będzie mógł automatycznie zakończyć rozmowę. Po kilku takich interwencjach OpenAI może tymczasowo zawiesić konto. Wdrażanie ma ruszyć w ciągu kilku tygodni.

Osoby poniżej 18 roku życia dostaną mniej praktycznych informacji o broni i systemach bezpieczeństwa, nawet jeśli pytanie samo w sobie wygląda niewinnie. OpenAI podaje, że w trzecim kwartale 2026 roku przekazała organom ścigania ponad 200 przypadków potencjalnego zagrożenia przemocą.

Raport co pół roku zamienia bezpieczeństwo w mierzalne zobowiązanie

Pierwszy Community Safety Report ma ukazać się na początku 2027 roku i objąć drugą połowę 2026 roku. OpenAI zapowiada zanonimizowane przykłady, dane o wykrytych zagrożeniach, opis interwencji oraz zmian zasad. Kolejne wydania mają pojawiać się co 6 miesięcy.

Ten rytm jest ważniejszy niż sama lista nowych filtrów. Regularna publikacja zmusi firmę do pokazania, ile przypadków wykrywa, jak często interweniuje i czy zabezpieczenia z czasem działają lepiej. Badacze dostaną też punkt odniesienia do porównania deklaracji firmy z niezależnymi testami.

Obietnica firmy zderza się z wynikami niezależnych testów

Common Sense Media sprawdziła w październiku ponad 4 000 promptów na kontach zarejestrowanych dla osób w wieku od 13 do 17 lat. Według organizacji połączone konta rodziców nie otrzymały żadnych powiadomień podczas godzinnych rozmów o myślach samobójczych, samookaleczaniu lub zaburzeniach odżywiania. ChatGPT pominął też ponad jedną czwartą sytuacji, w których powinien zalecić pomoc kryzysową.

Nowe ogłoszenie dotyczy przemocy i broni, więc nie zamyka wszystkich luk z tego badania. Automatyczne kończenie rozmowy może przerwać niebezpieczną fiksację, lecz bez danych o skuteczności nie wiemy, ile realnych zagrożeń wychwyci i ile zwykłych rozmów zatrzyma omyłkowo.

O wiarygodności zdecydują fałszywe alarmy i realne interwencje

Pierwszy raport będzie przydatny, jeśli oddzieli wykryte sygnały, weryfikację przez ludzi, zawieszone konta i zgłoszenia do organów ścigania. Łączna liczba bez punktu odniesienia może wyglądać jak poprawa, choć odzwierciedla wyłącznie wzrost liczby użytkowników.

Drugim sprawdzianem będzie powtórzenie scenariuszy dla nastolatków przez niezależnych badaczy po wdrożeniu zmian. OpenAI podała termin i częstotliwość raportów. Teraz musi pokazać, że zabezpieczenia działają także poza firmowym komunikatem.

Werdykt Lilith

OpenAI postawiła sobie na 2027 rok publiczny punkt kontrolny. Jeśli pokaże liczbę interwencji, a ukryje pomyłki, dostaniemy witrynę sklepową zamiast nadzoru.