Hassabis chce globální AI watchdog pod americkým vedením

Demis Hassabis chce globální AI watchdog vedený Spojenými státy a podle Axios usiluje o to, aby instituce vznikla ještě do konce roku 2026. Pro evropské i české firmy je to podstatné proto, že pravidla pro frontier modely se mohou rodit mimo Brusel, ale dopadnout na globální dodavatelský řetězec.

Americké vedení má z lokálního návrhu udělat globální standard

The Verge popisuje Hassabisův návrh jako snahu vytvořit globální AI watchdog s pravomocí zasáhnout, pokud budou frontier modely příliš nebezpečné. Primární text „A Framework for Frontier AI and the Dawning of a New Age“ říká, že USA jsou díky ekonomické a technické pozici dobře umístěné k prvnímu kroku.

Hassabis navrhuje Standards Body inspirovaný FINRA, s nezávislými technickými experty, open-source zástupci, spoluprací s federálními agenturami a US National Labs. Modely by se posuzovaly podle benchmarků, které určují, zda spadají do frontier-class kategorie. Technický návrh zároveň počítá s posouzením až 30 dní před releasem.

Axios podle The Verge uvádí, že Hassabis několik měsíců hledal podporu u Trumpovy administrativy, dalších AI laboratoří a evropských představitelů. Cílem má být instituce fungující ještě před koncem roku.

Pro AI governance se otevírá závod o výchozí jurisdikci

Tady nejde jen o evals. Pokud USA jako první vytvoří technicky použitelný rámec pro předrelease posuzování frontier modelů, může se stát de facto výchozím standardem i pro firmy mimo americký trh. V AI se často prosadí pravidlo toho, kdo umí nabídnout proces dřív než ostatní nabídnou zákon.

Pro evropské týmy to neznamená konec AI Actu. Znamená to druhou vrstvu. Vedle právních povinností budou velcí zákazníci sledovat, zda model prošel americkým nebo mezinárodním technickým posouzením, jaké rizikové domény test pokrýval a kdo měl přístup k výsledkům.

Watchdog vedený průmyslem bude bojovat s podezřením z regulatorního zajetí

Největší slabina návrhu je legitimita. Globální dohled navržený šéfem Google DeepMind a financovaný převážně průmyslem bude muset přesvědčit státy, konkurenty i veřejnost, že nejde o pravidla napsaná pro největší laboratoře.

Druhé napětí je geopolitické. Hassabisův rámec mluví o technické opatrnosti, ale US-led instituce zároveň posiluje americkou páku nad tím, co se počítá jako bezpečný frontier model. Čína, EU ani open-source komunita takový rámec nepřijmou automaticky jen proto, že je technicky elegantní.

Rozhodne mezinárodní přijetí, ne americké oznámení

Klíčový signál bude, kdo k návrhu přistoupí. Pokud se přidají hlavní frontier labs, několik vlád a nezávislí auditoři s reálným přístupem k modelům, vznikne něco víc než think tank. Pokud zůstane jen u americké iniciativy a dobrovolného sdílení, dopad bude omezený.

Sledovat se vyplatí i vztah k open-source modelům. Hassabis tvrdí, že rámec by mohl platit pro frontier-class modely bez ohledu na původ a zda jsou otevřené nebo uzavřené. Právě tady se ukáže, jestli watchdog zvládne svět mimo velké korporátní laboratoře.

Lilithin verdikt

Hassabis kreslí mapu, na které má Washington držet závoru u globální AI dálnice. Ostatní státy ji přijmou jen tehdy, když uvidí víc než logo Google na dopravní značce.