Rząd USA twierdzi, że chińskie firmy przemysłowo kopiują amerykańskie modele

Ekstrakcja modeli jako gałąź przemysłu

Według władz USA chińskie firmy systematycznie dopuszczają się kradzieży własności intelektualnej na poziomie modeli AI. Nie chodzi o zhakowanie wag, ale o agresywne wykorzystywanie API amerykańskich modeli do generowania ogromnych syntetycznych zbiorów danych, na których następnie trenują własne konkurencyjne produkty. Systemy te są rzekomo w stanie w ciągu 24 godzin wykryć, że konkurent wdrożył lepszy model, i natychmiast przekierować na niego wydobycie danych.

Brakuje skutecznych narzędzi do obrony

Tradycyjna obrona przed botami przestaje tu działać. Władze radzą amerykańskim firmom zastawić pułapkę: jeśli wykryją konto podejrzane o kopanie danych, nie powinny go blokować (co tylko dałoby atakującemu sygnał do zmiany IP i konta), ale po cichu zacząć zwracać mu wyniki z głupszego, mniej wydajnego modelu. Celem jest zanieczyszczenie danych treningowych napastnika przeciętnym śmieciem i zepsucie w ten sposób wydajności jego przyszłego modelu.

Wyścig zbrojeń przenosi się do kontroli jakości

Ale napastnicy nie są głupi. Raport przyznaje, że chińskie firmy mają zautomatyzowane systemy QA, które potrafią rozpoznać, kiedy jakość wyników spada, i w ten sposób odróżnić zwykłą awarię usługi od celowej obronnej degradacji danych. To nowy poziom cyberwojny: zamiast unieszkodliwić sieć, chodzi o to, by niepostrzeżenie zatruć studnię, z której pije sztuczna inteligencja przeciwnika.

Kluczem do wykrycia będzie profilowanie wywołań API

Dowodem na to, czy ta strategia zadziała, nie będzie oświadczenie polityczne, ale zdolność amerykańskich inżynierów do odróżnienia prawdziwego użytkownika od zautomatyzowanego wydobycia na podstawie wzorców dystrybucji zapytań. Jeśli nie będą w stanie precyzyjnie celować w ekstrakcję modeli, ryzykują, że podsuwanymi głupimi modelami zdenerwują płacących klientów. Szybkość i dokładność tej atrybucji zadecyduje o tym, kto ostatecznie popsuje komu dane.

Werdykt Lilith

Pomysł na zepsucie danych atakującym poprzez ciche podsuwanie im głupich modeli jest mądry dokładnie do momentu, w którym tą cyfrową pułapką przypadkowo zatrujesz wyniki własnego klienta enterprise.