OpenAI mění kurz a žádá přísnější kalifornský zákon o AI

OpenAI nečekaně mění postoj k regulaci umělé inteligence v Kalifornii. Firma dříve vystupovala proti zákonu SB 53, který přinesl požadavky na transparentnost a ochranu whistleblowerů pro velké AI společnosti. Nyní žádá, aby Kalifornie do stejného zákona doplnila další pojistky.

Kalifornie má vyplnit federální mezeru

OpenAI změnu vysvětluje absencí významné federální legislativy. Podporuje přístup, který označuje jako obrácený federalismus: jednotlivé státy se mají vydat kompatibilním směrem u základních ochranných opatření a vytvořit základ budoucího národního standardu.

Nejde tedy jen o jeden izolovaný kalifornský předpis. Firma žádá sladitelné státní rámce, které by se později mohly spojit do celostátního minima.

Monitoring se přesouvá už do tréninku

Jedním z navrhovaných doplnění je povinné sledování nejvýkonnějších modelů během tréninku nebo hodnocení kvůli možným závažným incidentům. Dohled by tak neměl začínat až po nasazení modelu, ale už ve fázi, kdy laboratoř zkoumá jeho schopnosti a rizika. OpenAI chce odvrátit scénář, kdy 95 % problémů řeší až u hotového produktu.

Tento požadavek rozšiřuje záběr zákona od obecné transparentnosti ke konkrétní kontrole vývoje. Právě v této fázi mohou firmy zachytit problém dřív, než se model dostane k uživatelům.

Kybernetická ochrana má pokrýt celý vývoj

OpenAI zároveň žádá silnější kybernetickou ochranu v celém životním cyklu modelu. Ve svém stanovisku odkazuje na nedávné incidenty, které podle firmy ukazují potřebu ochranná opatření průběžně aktualizovat spolu s novými riziky.

Návrh tím spojuje bezpečnost chování modelu s bezpečností infrastruktury, na které se model trénuje, testuje a provozuje. Zpřísnění by se proto netýkalo jediné závěrečné kontroly, ale více fází vývoje.

Kompatibilní státní pravidla mohou předběhnout Kongres

Vzájemná slučitelnost podobných státních rámců je podmínkou přístupu, který OpenAI prosazuje. Firma tvrdí, že právě taková shoda může bez federálního zákona vytvořit jádro pozdějšího národního standardu.

Pokud se další státy vydají kompatibilním směrem, SB 53 nebude pouze místním režimem. Stane se jedním ze stavebních prvků, z nichž může vzniknout společná americká základna pro bezpečnost nejvýkonnějších modelů.

Lilithin verdikt

OpenAI nejdřív SB 53 odmítala a teď žádá víc pojistek. Když gigant objeví kouzlo kompatibilních pravidel a přitom připomíná nedávné incidenty, načasování je skoro stejně zajímavé jako samotný zákon.