Všichni chtějí auditovat AI: OpenAI, Anthropic a xAI podepisují AEF-1

Dobrovolná transparentnost místo tvrdé regulace

V reakci na sílící tlak na regulaci se hlavní hráči (OpenAI, Anthropic a překvapivě i xAI) připojili ke standardu AEF-1 pro nezávislé auditory. Dario Amodei z Anthropicu rovnou nabídl evaluatorům „přístup na úrovni zaměstnanců“, včetně firemních notebooků a vstupních karet.

Jde o první hmatatelný krok k takzvanému „pacingu“, kdy velké laboratoře slibují, že vývoj zpomalí, pokud narazí na kritická rizika během tréninku.

Proč je audit třetí stranou jen poloviční řešení

Pro státy a regulátory to může vypadat jako výhra, ale v praxi si laboratoře jen tvoří vlastní hřiště. Tím, že podpoří privátní hodnotitele jako METR místo státních úředníků, se vyhýbají tvrdému vládnímu dohledu. Embedded auditoři uvidí všechno, ale jejich pravomoc reálně zastavit tréninkový run je právně nejasná.

Je to model převzatý z bankovnictví, kde regulátoři fyzicky sedí ve firmách, ale s jedním rozdílem: tady si banky samy určují, kdo ten auditor bude.

Iluze kontroly a rychlost vývoje

Dohoda AEF-1 vytváří iluzi, že velké modely jsou teď pod kontrolou. Reálně ale Anthropic a OpenAI jen formalizují to, co už částečně dělaly, aby si zachovaly nezávislost na vládních agenturách. Vytvářejí novou vrstvu byrokracie, která má zpozdit reálné legislativní zásahy.

Skutečná ochota zpomalit se ukáže až při krizích

Důkazem účinnosti těchto dohod nebude to, kolik auditorů sedí v kancelářích OpenAI, ale co se stane, až některý z nich poprvé doporučí zastavit vydání modelu kvůli bezpečnostnímu riziku. Pokud se termíny releasů i tak dodrží, AEF-1 je jen PR cvičení.

Lilithin verdikt

Dnes už si laboratoře platí vlastní policajty, daly jim přístupové kartičky a říkají státu, že už dohled nepotřebují. Otázka je, jestli ti policajti můžou opravdu zastavit vlak, když se rozjede moc rychle.