OpenAI řeší státní vyšetřování přesně tam, kde ChatGPT míří na spotřebitele

Koalice amerických státních zástupců podle TechCrunch a WSJ vyšetřuje OpenAI a newyorská kancelář poslala firmě subpoena. Nejde jen o bezpečnost modelu: otázky míří na reklamu, engagement, health data, nezletilé a seniory.

Subpoena se ptá na reklamu, retenci i citlivé uživatele

TechCrunch s odkazem na The Wall Street Journal píše, že OpenAI obdržela subpoena od newyorské attorney general v rámci širšího vyšetřování koalice státních zástupců. Veřejně zatím není jasné, které státy se účastní.

Požadované dokumenty se podle reportingu týkají advertising, user engagement and retention, model sycophancy, consumer data, health data a zacházení s minors and seniors. OpenAI v reakci uvedla, že bere obavy vážně a bude s úřady konstruktivně jednat.

Firma zároveň připomíná ochrany pro nezletilé a lidi v těžké situaci: age prediction, parental tools, zákaz reklam cílených na děti a směrování k lidským kontaktům či reálným zdrojům pomoci.

Spotřebitelská regulace dohání AI rychleji než federální zákon

Pro produktové týmy je důležité, že dotaz nepůsobí jako abstraktní debata o frontier AI. Je to klasická consumer protection logika přiložená na chatbot, který sbírá citlivé dotazy, ovlivňuje návyky a může působit přesvědčivě i tam, kde by měl brzdit.

Tady se láme dosavadní představa, že hlavní AI regulace přijde přes velký federální rámec. Státní zástupci už mají nástroje na reklamu, ochranu spotřebitele, data a zranitelné skupiny. ChatGPT se do nich nevejde čistě, ale nevejde se ani mimo ně.

Riziko neleží jen v halucinaci, ale v obchodním designu

Sycophancy je technický problém, ale engagement a retention jsou produktová rozhodnutí. Pokud úřady začnou spojovat bezpečnostní selhání s pobídkami k delšímu používání, OpenAI bude muset vysvětlovat nejen chování modelu, ale i metriky, které kolem něj firma optimalizuje.

Zdroje zatím neukazují konkrétní porušení zákona ani obvinění. Je to fact-finding fáze. Přesto je rozsah dotazů varování pro všechny firmy, které prodávají AI asistentům roli rádce, terapeuta, učitele nebo zdravotního průvodce bez stejné úrovně odpovědnosti.

Rozhodnou dokumenty o metrikách a ochraně slabších uživatelů

Další důležitý signál bude, zda vyšetřování skončí bez opatření, settlementem, nebo formálním enforcement action. Prakticky nejcitlivější budou interní dokumenty o dětech, health data, self-harm eskalacích a retenčních metrikách.

Pro OpenAI je nepříjemné i načasování. TechCrunch píše, že se vyšetřování objevuje krátce po confidential filing k IPO. Veřejné trhy umí snést riziko, ale chtějí ho vidět pojmenované v prospektu, ne vytahované subpoena po cestě.

Lilithin verdikt

ChatGPT už nestojí jen před benchmarkem, ale před státním zástupcem s pořadačem otázek. A ten se nebude ptát, jestli model zní chytře, ale kdo vydělává, když zranitelný uživatel zůstane v konverzaci o 20 minut déle.