Pentagon smí zablokovat Anthropic kvůli omezením Claudu, rozhodl soud 2:1

Federální odvolací soud pro okruh District of Columbia rozhodl poměrem 2:1, že Pentagon může zablokovat technologie Anthropic ve federálním dodavatelském řetězci. Většina přijala argument, že omezení zabudovaná do Claudu mohou zabránit provedení úkolů, které ministerstvo považuje za zákonné a smluvně povolené.

Soud proměnil odmítnutou funkci v riziko dodávky

Spor vznikl poté, co Anthropic odmítla odstranit omezení pro autonomní smrtící zbraně a hromadné sledování Američanů. Pentagon následně nařídil federálním úřadům přestat produkty firmy používat a zakázal obranným dodavatelům s Anthropic obchodovat.

Odvolací soud vyložil širší ustanovení 41 U.S.C. § 4713. Podle většiny zahrnuje riziko i situaci, kdy dodavatel může odepřít nebo narušit funkci technologie. Zlý úmysl přitom není nutný. Soud připomněl obě obavy: příliš omezený model může během operace selhat, neomezený model může halucinovat nevhodné cíle pro smrtící sílu.

Bezpečnostní politika dodavatele se střetla s velením zákazníka

Pro AI firmy je důsledek širší než jeden kontrakt. Pokud dodavatel ponechá v modelu vlastní nepřekročitelné hranice, vláda je může chápat jako provozní závislost na rozhodnutí soukromé firmy. Pentagon kupuje předvídatelnost pod velením, Anthropic prodává systém s podmínkami použití.

Tento konflikt zasahuje také obranné integrátory. Zákaz obchodovat s Anthropic může ovlivnit celý řetězec subdodavatelů, i když spor vznikl nad konkrétními omezeními Claudu.

Dva soudy četly dvě pravomoci odlišně

Kalifornský federální soud dříve dospěl k závěru, že Anthropic nesplňuje užší definici rizika podle 10 U.S.C. § 3252 a že postup porušil první dodatek ústavy. Odvolací soud v District of Columbia tento závěr přímo nevyvrátil. Posuzoval jiné, širší ustanovení a dospěl k opačnému výsledku.

Disentující soudkyně Karen Henderson namítla, že zákon mířil na úmyslné narušování či špionáž, ne na otevřeně sdělené omezení použití. Rozhodnutí tedy nevytváří jednoduché pravidlo pro každou bezpečnostní pojistku.

Další odvolání určí, kolik kontroly dodavatelům zůstane

Anthropic zvažuje projednání celým odvolacím soudem nebo žádost k Nejvyššímu soudu. Klíčové bude, zda širší výklad § 4713 přežije další přezkum a zda vláda začne stejnou logiku používat i u jiných modelů.

Trh bude sledovat také smlouvy. Rozhodující pasáže už nebudou jen o přesnosti a dostupnosti modelu, ale o tom, kdo smí během nasazení změnit jeho hranice.

Lilithin verdikt

Pentagon chce model, který na povel nastoupí do služby. Anthropic mu předává vojáka s vlastní pojistkou na spoušti a soud teď připustil, že zákazník může takového dodavatele nechat před branou.