Bílý dům získal AI auditory, ale nechal jim prázdnou knihu sankcí

Bílý dům přivedl ke společnému dobrovolnému závazku firmy, které se obvykle přou o tempo i podobu AI safety. Dohoda zavádí 4 vrstvy kontroly frontier modelů, zároveň však neurčuje sankce ani státní orgán, který by plnění vymáhal.

Šest firem přijalo interní kontrolu, externí audit a dohled správní rady

Joint Commitment on Frontier Responsibilities podepsali zástupci Anthropic, Google, Meta, Nvidia, OpenAI a xAI. Text požaduje robustní interní kontroly schopností a alignmentu během tréninku i nasazení, zejména v kybernetické, biologické a chemické oblasti a při přístupu modelů k technickým systémům.

Druhou vrstvou má být interní tým s pravomocí hlídat nápravu. Třetí tvoří nezávislý externí auditor nebo evaluator. Čtvrtou je nezávislý výbor správní rady, který dostává zprávy a dohlíží na odstranění problémů. Signatáři se také mají pravidelně scházet a vytvářet společné standardy a best practices.

Nejcennější část dohody může být bezpečný prostor pro společné standardy

Samotné interní týmy a board committees mají velké laboratoře už dnes v různých podobách. Praktický posun představuje výslovný externí audit a politické krytí pravidelných jednání konkurentů. Firmy mohou sladit testy kybernetických a biologických rizik bez toho, aby každá začínala od nuly nebo se bála, že samotná koordinace bude vykládána jako problém hospodářské soutěže.

Pro zákazníky a enterprise týmy může společný základ zlepšit srovnatelnost dodavatelů. To nastane pouze tehdy, pokud budou auditoři používat podobné metody, mít přístup k dostatečným datům a umět popsat závažnost nálezů. Slovo nezávislý na jedné stránce dohody tyto podmínky samo nevytvoří.

Dobrovolný audit bez zveřejnění může skončit v zásuvce správní rady

Dohoda je dobrovolná a právně nezávazná. Neobsahuje pokuty, vládního vymahače ani povinnost zveřejnit auditorské výsledky. Firmy navíc samy rozhodují, jak konkrétně opatření provedou. Veřejnost tak nemusí poznat rozdíl mezi důkladným hodnocením a formálním razítkem.

Zvi Mowshowitz upozorňuje na jiný limit: výbor správní rady funguje jen tehdy, když dostává podstatné informace, rozumí jim a jedná. Formální eskalační cesta nezaručuje, že se k ní nepříjemný nález skutečně dostane.

Důvěryhodnost změří zveřejněná metodika a reakce na první závažný nález

Prvním testem bude, koho firmy vyberou jako externí evaluátory, jak vyřeší střet zájmů a zda zveřejní alespoň metodiku, rozsah a souhrn výsledků. Dalším signálem bude společný standard, který některou firmu přiměje odložit nasazení nebo opravit kontrolu před releasem.

Pokud po 12 měsících uvidíme jen seznam schůzek a obecné výroční zprávy, dohoda zůstane politickou fotografií. Pokud audit vytvoří srovnatelná zjištění a správní rady doloží konkrétní nápravu, může se z dobrovolného rámce stát základ budoucí regulace, což připouští i samotný text.

Lilithin verdikt

Auditor už smí zaklepat na dveře laboratoře. Dokud ale nikdo nemusí otevřít výsledky veřejnosti a za selhání nehrozí účet, může jeho zpráva tiše usnout v zásuvce správní rady.