Je kartel velkých hráčů skutečností? Pomalý vývoj AI otevírá otázky

Pomalější tempo otevírá prostor pro spekulace o dohodě v pozadí

Podle analýzy serveru The Verge čelí současné zpomalení vývoje umělé inteligence rostoucí skepsi. To, co hlavní hráči na trhu prezentují jako zodpovědný přístup k bezpečnosti a sladění s dlouhodobými riziky, začíná část odborné veřejnosti vnímat odlišně. Objevují se obavy, že pod rouškou ochrany společnosti dochází k formování tichého kartelu, jehož cílem je zabetonovat současné rozložení sil na trhu.

Tyto spekulace se opírají o fakt, že náklady na vývoj nejmodernějších modelů rostou exponenciálně. Společný postup a umělé zpomalení tempa by tak pro giganty mohlo představovat ekonomicky výhodnější strategii než nekonečné závody ve zbrojení.

Pro open-source a startupy by takový kartel představoval hrozbu

Pokud se ukáže, že snahy o bezpečnostní regulaci jsou motivovány spíše ochranou tržního podílu, bude to mít pro inovace drastické důsledky. Nastavení příliš přísných a finančně nákladných certifikačních procesů pro vývoj AI by efektivně odřízlo menší firmy a open-source iniciativy od možnosti konkurovat na špici vývoje.

Tento postup by vytvořil prostředí, kde o budoucnosti technologií rozhoduje úzká skupina korporací, které si samy sobě navrhly pravidla hry. Inovační tlak by se snížil a trh by se centralizoval kolem několika málo dominantních infrastruktur.

Hranice mezi bezpečností a monopolem je v praxi velmi tenká

Odpovědnost za vývoj bezpečných systémů je nesporná. Nicméně, rozlišit skutečnou snahu o ochranu před existenčními riziky od snahy o zachování monopolu je složité. Velké technologické firmy mají finanční prostředky i politický vliv na to, aby definovaly, co bezpečnost znamená v praxi. A je pravděpodobné, že tato definice bude vyhovovat především jim samotným.

Tento konflikt zájmů je hlavním důvodem, proč mnoho nezávislých výzkumníků volá po větší transparentnosti a zapojení širší veřejnosti do procesu nastavování standardů.

Vynucení transparentních auditů ukáže skutečnou motivaci firem

Důkazem, zda jde o upřímnou snahu o bezpečnost, nebo o budování monopolu, bude ochota velkých firem podrobit své modely nezávislým auditům. Pokud umožní externím odborníkům a vládním agenturám dohlížet na testování a sdílení dat, potvrdí svůj závazek vůči veřejnosti. Pokud však budou trvat na uzavřeném ekosystému a interních kontrolách, podezření z kartelové dohody bude jen sílit.

Lilithin verdikt

Regulace je pro miliardáře užitečná brzda ve chvíli, kdy si před vámi někdo menší zrovna obouvá běžecké boty.