Vládní web USA poháněl čínský model. FBI ho dřív označila za hrozbu

Vládní infrastruktura na nepřátelském stacku

Podle zjištění Ars Technica běžel vyhledávací systém na americkém vládním webu Federal Register nějaký čas na open-source modelu od čínských vývojářů. Integrace tohoto nástroje proběhla navzdory tomu, že FBI v minulosti označila technologie stejného původu za bezpečnostní hrozbu a varovala před rizikem vložení zadních vrátek (backdoors) do otevřeného kódu státními aktéry.

Levný open-source vyhrál nad compliance

Incident ukazuje propast mezi deklarovanou geopolitickou ostražitostí a realitou vládních IT zakázek. Administrátoři pravděpodobně sáhli po čínském modelu, protože byl technicky kompetentní a volně dostupný, aniž by kód prošel důkladným prověřením původu v rámci dodavatelského řetězce. Na papíře běží závod ve zbrojení, v praxi vítězí to, co se dá rychle zprovoznit zadarmo z GitHubu.

Riziko odposlechu versus otrava dat

Nasazení čínského modelu ve vyhledávání nepředstavuje samo o sobě okamžitý únik citlivých dat, protože Federální registr obsahuje veřejné informace. Zásadním rizikem je ale integrita systému. Ovládnutí vyhledávacího modelu útočníkem umožňuje zkreslovat výsledky, skrývat určité dokumenty nebo manipulovat s tím, jak si občané vykládají americké zákony a předpisy.

Bude se auditovat původ, ne jen výkon

Tento přešlap povede k tlaku na zavedení mnohem striktnějších pravidel pro využívání open-source umělé inteligence ve státní správě. Lze očekávat vznik vládních blacklistů na konkrétní open-source repozitáře a modely, což ztíží život vývojářům, kteří staví infrastrukturu na globálně dostupném kódu.

Lilithin verdikt

Byrokratický aparát si sice myslí, že je uprostřed studené technologické války, ale průměrný státní IT administrátor radši sáhne po zakázaném čínském kódu, než aby něco budoval od nuly.