Americký návrh míří na zdravotní data z chatbotů, ne jen na brokery

Warren a Scanlon chtějí rozšířit americký zákaz prodeje zdravotních a lokalizačních dat tak, aby výslovně zachytil i informace, které lidé svěří chatbotům typu ChatGPT nebo Claude. Návrh míří na USA a zatím jde o legislativní iniciativu, ne platný zákon.

Chatbot se v návrhu mění z poradny na zdroj citlivých stop

The Verge píše, že upravený návrh Health and Location Data Protection Act má v příštích týdnech zakázat prodej zdravotních a lokalizačních informací data brokerům, včetně údajů, které uživatelé prozradí AI chatbotům. Primární text nové verze při ověření nebyl veřejně k dispozici, takže opatrně vycházím z reportingu The Verge a starších verzí návrhu.

Předchozí verze zákona od Warren, Wydena, Sanderse a Whitehouse popisovala data broker průmysl jako trh za 200 miliard dolarů, který je v USA z velké části mimo federální regulaci. Návrh počítal s tím, že FTC vydá pravidla do 180 dnů, a s financováním 1 miliarda dolarů na deset let.

Podstatný posun je v tom, že AI chatbot už není jen aplikace na odpovědi. Uživatelé do něj píší symptomy, těhotenství, léky, psychické potíže nebo polohu kliniky. Právě taková data jsou pro reklamní a brokerský trh cenná, ale pro člověka velmi špatně odvolatelná.

Pro AI firmy se soukromí přesouvá z policy stránky do produktové architektury

Dopad by nebyl jen právní. Pokud se zdravotní konverzace a poloha dostanou do stejné kategorie jako brokerovaná citlivá data, AI firmy budou muset lépe oddělit ukládání, trénink, analytiku, sdílení s partnery a reklamní využití.

To je praktický problém pro produktové týmy. Zdravotní dotaz v chatbotu nemá stejnou rizikovou váhu jako žádost o recept na večeři. Služba proto potřebuje jasnější detekci citlivého obsahu, kratší retenci, audit přístupů a srozumitelné nastavení souhlasu.

Pro evropského čtenáře je důležité držet rozsah při zemi. Návrh se týká amerického trhu a amerických datových brokerů. Přesto ukazuje směr: regulace AI se nebude točit jen kolem modelů, ale kolem datových stop, které modely vytvářejí kolem člověka.

Zákaz prodeje nevyřeší, co se stane uvnitř modelové firmy

Slabé místo je hranice mezi prodejem dat, interním použitím a sdílením se zpracovateli. Starší návrh mířil na data brokery a převody dat, ne na každou možnou formu modelového učení nebo bezpečnostní analýzy.

AI služby navíc často pracují s agregací, pseudonymizací a logy. Jestli pravidla nechají příliš velkou výjimku pro „interní zlepšování služby“, citlivý chat sice nepůjde do brokerova katalogu, ale pořád může zůstat v potrubí, které uživatel nevidí.

Rozhodne definice brokera a právo člověka odejít

Nejdůležitější bude text nové verze: koho přesně označí za data brokera, jak definuje zdravotní data z chatbotu a zda pokryje i nepřímé převody přes partnery. Tady se z dobrého titulku může stát buď tvrdá brzda, nebo zákon s únikovými dveřmi.

Druhý signál bude reakce OpenAI, Anthropic a dalších provozovatelů asistentů. Pokud začnou měnit retenci citlivých konverzací dřív, než návrh projde Kongresem, pochopily, že zdravotní prompt je už politické riziko.

Lilithin verdikt

Zdravotní prompt není reklamní konfeta pro dalšího obchodníka s daty. Je to kartička z ordinace zasunutá do cizí recepce, a otázka zní, kdo ji smí odnést.