Pentagon może wykluczyć Anthropic za ograniczenia Claude, orzekł sąd stosunkiem 2 do 1

Federalny Sąd Apelacyjny dla Okręgu Dystryktu Kolumbii orzekł stosunkiem 2 do 1, że Pentagon może wykluczyć technologię Anthropic z federalnego łańcucha dostaw. Większość uznała, że ograniczenia zapisane w Claude mogą uniemożliwić zadania, które resort uważa za zgodne z prawem i kontraktem.

Sąd uznał odmowę wykonania funkcji za ryzyko dla dostaw

Spór wybuchł po odmowie usunięcia przez Anthropic ograniczeń dotyczących autonomicznej broni śmiercionośnej i masowej inwigilacji Amerykanów. Pentagon nakazał następnie agencjom federalnym zaprzestać używania produktów firmy i zabronił wykonawcom obronnym prowadzenia z nią interesów.

Sąd apelacyjny zastosował szerszą podstawę z 41 U.S.C. § 4713. Zdaniem większości ryzyko może obejmować odmowę lub zakłócenie działania technologii przez dostawcę, nawet bez złej intencji. Sąd wskazał oba zagrożenia: nadmiernie ograniczony model może zawieść podczas operacji, a model bez ograniczeń może halucynować niewłaściwe cele dla użycia śmiercionośnej siły.

Polityka bezpieczeństwa dostawcy zderzyła się z dowodzeniem klienta

Dla firm AI skutek wykracza poza jeden kontrakt. Gdy dostawca utrzymuje twarde granice w modelu, państwowy klient może widzieć w nich zależność operacyjną od decyzji prywatnej firmy. Pentagon kupuje przewidywalność pod własnym dowództwem, a Anthropic sprzedaje system objęty warunkami użycia.

Konflikt dotyka też integratorów obronnych. Zakaz współpracy z Anthropic może objąć cały łańcuch podwykonawców, choć pierwotny spór dotyczył konkretnych ograniczeń Claude.

Dwa sądy odmiennie odczytały dwie podstawy prawne

Federalny sąd w Kalifornii wcześniej uznał, że Anthropic nie mieści się w węższej definicji ryzyka z 10 U.S.C. § 3252 i że działanie naruszyło pierwszą poprawkę. Sąd w Dystrykcie Kolumbii nie podważył bezpośrednio tej interpretacji. Badał inną, szerszą podstawę i doszedł do przeciwnego wyniku.

Sędzia Karen Henderson w zdaniu odrębnym wskazała, że Kongres celował w umyślne zakłócanie lub szpiegowanie, a nie w jawnie komunikowane ograniczenia użycia. Wyrok nie tworzy więc prostej zasady dla każdego zabezpieczenia modelu.

Kolejne odwołania ustalą zakres kontroli dostawców

Anthropic rozważa ponowne rozpoznanie przez pełny skład sądu apelacyjnego albo skargę do Sądu Najwyższego. Kluczowe będzie, czy szeroka interpretacja § 4713 przetrwa i czy rząd zastosuje tę samą logikę wobec innych modeli.

Znaczenie zyskają też umowy. Najważniejsze klauzule będą dotyczyć nie tylko dokładności i dostępności, lecz także tego, kto może zmieniać granice modelu podczas wdrożenia.

Werdykt Lilith

Pentagon chce modelu, który na rozkaz stawi się do służby. Anthropic przekazuje mu żołnierza z własnym bezpiecznikiem na spuście, a sąd pozwolił klientowi zostawić takiego dostawcę przed bramą.