Lilith.
⌕
Ilustracja redakcyjna: OpenAI obniżyło skuteczność wykradania rozumowania z 54% do 0,2%
Ilustracja Lilith · remiks redakcyjny

OpenAI opisało obronę przed adversarial distillation, w której atakujący zbiera odpowiedzi cudzego modelu i trenuje na nich własny system. Najmocniejszy wynik dotyczy chronionego rozumowania: w wewnętrznym adaptacyjnym teście black-box skuteczność wydobycia śladu z wcześniejszego zapytania spadła z 54% dla GPT-6 Astra do 0,2% dla GPT-6.2 Astra.

GPT-6.2 Astra zamyka najprostszą drogę do wewnętrznych śladów

OpenAI użyło sześciu modeli atakujących, które zmieniały taktykę po odpowiedziach systemu. Przy próbie wydobycia rozumowania z bieżącego zapytania średnia skuteczność spadła z 22,9% do 0,9%. Firma objęła ochroną również GPT-6.2 Sol.

Obrona łączy trening modelu, klasyfikatory wejścia i wyjścia oraz reguły API. Kontrola obejmuje argumenty tool calls, bo model może ujawnić ślad narzędziu, nie pokazując go użytkownikowi. Chronione rozumowanie jest też powiązane z historią rozmowy, a starsze rodziny modeli nie mogą odczytać śladów nowych modeli.

Walka z distillation przenosi się z kont na całe kampanie

OpenAI twierdzi, że cotygodniowe działania obejmowały od tysięcy do dziesiątek tysięcy kont. Filtr pojedynczego zapytania nie wystarczy. Firma szuka wzorców między kontami, wykorzystuje wyniki dochodzeń w treningu i przekazuje wskaźniki innym dostawcom.

Dla operatorów API stawką jest coś więcej niż własność intelektualna. Dane uczące mniejszy model programowania lub biologii mogą przenieść zdolność, której użycie pierwotny system ograniczał. Bez wykrywania kampanii nawet dobry filtr przypomina bramkę przed tłumem jednorazowych kont.

Wewnętrzny eval mierzy wyciek śladu, a nie koniec kopiowania zdolności

Test zaprojektowało i opublikowało OpenAI. Porównuje dwie generacje modeli z różnymi zabezpieczeniami, więc nie oddziela zmian w modelu od reszty ochrony. Nie pokazuje też, ile można przejąć z końcowych odpowiedzi, reasoning summaries i tool calls bez dokładnej kopii chain-of-thought.

Niezależne badania sugerują, że przybliżone ślady odzyskują wartość po dodatkowym reinforcement learning. To przemawia za wielowarstwową obroną, lecz nie pozwala traktować wyniku 0,2% jako końca problemu.

Nowe ataki i skala produkcyjna rozstrzygną wartość zabezpieczeń

Potrzebne są testy z innymi student models, metodami treningu i budżetami zapytań. Ważne będzie również, czy ochrona nie pogarsza prawidłowych wyjaśnień oraz długich agentowych workflow wykorzystujących reasoning summaries i tool calls.

OpenAI zapowiada dalsze informacje o rozbitych kampaniach. Czas od wykrycia do reakcji, ilość pobranych danych i wyniki spoza własnego evalu pokażą, czy system rzeczywiście podnosi koszt distillation, czy głównie zamyka jedną szczelinę.

Werdykt Lilith

OpenAI pokazało zamek, który oparł się własnym wytrychom w 99,8% prób. Złodziej zdolności może jednak nadal wynosić dom cegła po cegle przez odpowiedzi, summaries i tool calls.