ChatGPT zpřísní odpovědi o násilí a zveřejní první bezpečnostní report

OpenAI zavádí další omezení pro odpovědi ChatGPT o násilí a zbraních. Firma zároveň slíbila, že od začátku roku 2027 bude každých 6 měsíců zveřejňovat data o tom, jak rizikové konverzace odhaluje, prověřuje a předává dál.

ChatGPT omezí návody i detailní rekonstrukce útoků

Model už podle pravidel nesmí pomáhat s plánováním násilí. Nová hranice jde dál: ChatGPT má poskytovat méně podrobností o minulých masových útocích, včetně rekonstrukcí použitých zbraní, vybavení a způsobu jejich získání. Omezení platí pro všechny uživatele bez ohledu na věk nebo deklarovaný důvod dotazu.

Systém má také zohlednit varovné signály z nedávných chatů. Pokud se člověk opakovaně upíná k násilí nebo vážnému ublížení jiné osobě, ChatGPT bude moci konverzaci automaticky ukončit. Po více takových zásazích může OpenAI účet dočasně pozastavit. Tato část se má zavádět během několika týdnů.

Pro uživatele mladší 18 let přibudou přísnější limity na praktické informace o zbraních a bezpečnostních systémech, i když samotný dotaz nevypadá nebezpečně. OpenAI uvádí, že ve třetím čtvrtletí 2026 předala policii přes 200 případů možného násilného ohrožení.

Půlroční report udělá z bezpečnosti měřitelný závazek

První Community Safety Report má vyjít na začátku roku 2027 a pokrýt druhou polovinu roku 2026. Firma slibuje anonymizované příklady, data o zachycených rizicích, popis zásahů a změn pravidel. Další vydání mají následovat každých 6 měsíců.

To je důležitější než samotný seznam nových filtrů. Veřejný rytmus nutí OpenAI ukázat, kolik případů zachytí, jak často zasahuje a zda se ochrana v čase zlepšuje. Zároveň umožní výzkumníkům porovnat firemní tvrzení s nezávislými testy.

Firemní příslib zatím naráží na nezávislé testování

Common Sense Media v říjnu otestovala přes 4 000 promptů na účtech registrovaných uživatelům ve věku 13 až 17 let. Uvedla, že rodičovské účty při hodinových konverzacích o sebevražedných myšlenkách, sebepoškozování nebo poruchách příjmu potravy nedostaly žádné upozornění. Organizace také zjistila, že ChatGPT vynechal více než čtvrtinu situací, kdy měl doporučit krizovou pomoc.

Nové oznámení řeší násilí a zbraně, ne všechny mezery popsané v tomto testu. Automatické ukončení chatu navíc může přerušit rizikovou spirálu, ale bez zveřejněné přesnosti nevíme, kolik skutečných hrozeb zachytí a kolik běžných rozhovorů ukončí omylem.

Rozhodnou data o falešných poplaších a skutečných zásazích

První report bude užitečný jen tehdy, pokud oddělí detekované signály, lidské prověření, pozastavené účty a oznámení policii. Souhrnné číslo bez jmenovatele by z růstu mohlo dělat úspěch, i kdyby jen přibylo uživatelů.

Druhým testem bude nezávislé opakování scénářů pro dospívající po nasazení změn. OpenAI stanovila datum i interval reportování. Teď musí ukázat, že ochranná vrstva funguje mimo vlastní tiskovou zprávu.

Lilithin verdikt

OpenAI si na rok 2027 postavila veřejné kontrolní stanoviště. Pokud na něm ukáže jen počet zásahů a schová chybovost, bude to výloha, ne dohled.