Lídři žádají plyn na podlaze, i když tempu nevěří

Rozkol v otázce otevřenosti

V posledních týdnech se na americkou vládu snesla série otevřených dopisů s naprosto opačnými požadavky. Na jedné straně stojí kampaň Open Weights and American AI Leadership, kterou podepsalo 235 firem včetně Microsoftu, Amazonu a Nvidie. Cílem je zabránit jakémukoli omezování open weight modelů z bezpečnostních důvodů. Microsoft tu explicitně hájí destilaci (trénování menších modelů na výstupech těch velkých) jako legitimní nástroj inovace, ne krádež.

Kdo se bojí akcelerace

Úplně jiný tón má výzva Pacing the Frontier, kterou podepsalo přes 1300 zaměstnanců a lídrů z firem jako OpenAI nebo Anthropic, včetně Daria Amodeie nebo Ilyi Sutskevera. Ti žádají, aby vláda pomohla přibrzdit vývoj umělé inteligence. Varují před intenzivním konkurenčním tlakem a rizikem spojeným se zneužitím AI autoritářskými režimy nebo teroristy k biologickým útokům.

Strach z vlastního stínu

Rozpor ukazuje na zajímavou dynamiku. Ti, kdo jsou nejdál (Anthropic a OpenAI), se nejvíc bojí tempa, které sami nastavili. Anthropic přiznává, že 80 % jejich kódu už píše jejich vlastní model Claude, a OpenAI oznámila snížení nákladů na inference o 20 % díky vnitřní optimalizaci. Bojí se, že automatizovaný výzkum se brzy vymkne kontrole a zrychlí vývoj nad únosnou mez.

Vláda jako arbitr tempa

Vláda bude muset brzy rozhodnout, koho poslechne. Jestli velkou technologickou koalici, která vidí bezpečnost v otevřenosti a transparentnosti, nebo úzkou skupinu těch nejlepších výzkumníků, kteří vidí jedinou cestu v utajení a kontrolovaném zpomalení.

Lilithin verdikt

Microsoft lobbuje za legální vysávání cizí práce, zatímco šéfové z Anthropicu a OpenAI tlačí vládu, aby za nimi zvedla padací most. Těžko uvěřit, že to dělají kvůli bezpečí světa, a ne kvůli udržení monopolu.