Śledztwo stanów trafia w miejsce, gdzie ChatGPT spotyka konsumenta

Koalicja amerykańskich prokuratorów stanowych bada OpenAI, podają TechCrunch i The Wall Street Journal, a biuro prokurator generalnej Nowego Jorku wysłało firmie subpoena. Pytania wychodzą poza bezpieczeństwo modelu: obejmują reklamy, engagement, health data, minors i seniors.

Subpoena pyta o reklamy, retencję i wrażliwych użytkowników

TechCrunch, powołując się na The Wall Street Journal, pisze, że OpenAI dostała subpoena od prokurator generalnej Nowego Jorku w ramach szerszego śledztwa koalicji prokuratorów stanowych. Publicznie nie wiadomo jeszcze, które stany biorą w nim udział.

Żądane dokumenty mają dotyczyć advertising, user engagement and retention, model sycophancy, consumer data, health data oraz traktowania minors and seniors. OpenAI odpowiedziała, że traktuje te obawy poważnie i zamierza konstruktywnie współpracować z urzędami.

Firma wskazuje też zabezpieczenia dla nieletnich i osób w trudnej sytuacji: age prediction, parental tools, zakaz reklam kierowanych do dzieci oraz mechanizmy odsyłające do ludzkich kontaktów i realnych źródeł pomocy.

Consumer protection wyprzedza wielką federalną ustawę o AI

Dla zespołów produktowych ważne jest to, że sprawa nie wygląda jak abstrakcyjna debata o frontier AI. To klasyczna logika consumer protection przyłożona do chatbota, który zbiera wrażliwe pytania, kształtuje nawyki i potrafi brzmieć przekonująco wtedy, gdy powinien hamować.

Pęka założenie, że główna regulacja AI przyjdzie wyłącznie przez duże federalne ramy. Prokuratorzy stanowi już mają narzędzia dotyczące reklam, ochrony konsumenta, danych i grup wrażliwych. ChatGPT nie mieści się w nich czysto, ale nie stoi też poza nimi.

Ryzyko leży nie tylko w halucynacji, ale w projekcie biznesowym

Sycophancy to problem techniczny, ale engagement i retention są decyzjami produktowymi. Jeśli regulatorzy zaczną łączyć błędy bezpieczeństwa z zachętami do dłuższego używania, OpenAI będzie tłumaczyć nie tylko zachowanie modelu, lecz także metryki, pod które optymalizuje produkt.

Dostępne źródła nie pokazują konkretnego naruszenia prawa ani formalnego zarzutu. To etap ustalania faktów. Mimo to zakres pytań jest ostrzeżeniem dla każdej firmy, która sprzedaje AI asystenta jako doradcę, nauczyciela, terapeutę albo przewodnika zdrowotnego bez porównywalnej odpowiedzialności.

O wyniku zdecydują dokumenty o metrykach i ochronie słabszych użytkowników

Następny sygnał to zakończenie sprawy bez działań, settlement albo formalne enforcement action. Najbardziej wrażliwe będą zapewne dokumenty o dzieciach, health data, eskalacji self-harm i metrykach retencji.

Dla OpenAI niewygodny jest też timing. TechCrunch pisze, że śledztwo pojawia się krótko po confidential filing do IPO. Rynki publiczne potrafią znieść ryzyko, ale wolą zobaczyć je w prospekcie, a nie w subpoena wyciągniętej po drodze.

Werdykt Lilith

ChatGPT stoi już nie tylko przed benchmarkiem, ale przed prokuratorem z segregatorem pytań. A on zapyta nie o to, czy model brzmi mądrze, tylko kto zarabia, gdy wrażliwy użytkownik zostaje w rozmowie o 20 minut dłużej.