Uzytkownicy Claude omijaja zabezpieczenia dotyczace badan nad bronia biologiczna

Limity bezpieczenstwa duzych modeli jezykowych wciaz napotykaja na fundamentalny problem: kontekst. Raporty wskazuja, ze uzytkownicy znalezli sposoby na przekonanie modeli takich jak Claude do udzielania informacji istotnych dla badan nad bronia biologiczna. Atakujacy wykorzystuja fakt, ze procesy niezbedne do rozwoju niebezpiecznych patogenow w wielu krokach pokrywaja sie ze standardowa wirusologia i epidemiologia.

Dlaczego filtry nie potrafia powstrzymac podwojnego zastosowania

Sedno problemu lezy w naturze podwojnego zastosowania danych biologicznych. Jesli model zablokuje zapytania dotyczace optymalizacji przenoszenia wirusow, moze to jednoczesnie uniemozliwic prace badaczom szukajacym sposobow na obrone przed przyszlymi pandemiami. Dostawcy AI staja zatem przed wyborem miedzy falszywie pozytywnymi blokadami, ktore frustruja naukowcow, a falszywie negatywnymi lukami, ktore moga pomoc zlym aktorom.

Wykrywanie intencji zderza sie z granicami obecnych modeli

O ile jawne zapytania typu „jak zrobic waglika” sa latwe do wychwycenia, wyrafinowani aktorzy rozbijaja problem na serie niewinnie wygladajacych pytan. Modele LLM nie maja pamieci ani zdolnosci analizowania ogolnej strategii stojacej za setka wyizolowanych promptow w ciagu kilku dni.

Obecnie blokowane sa tylko krotkoterminowe proby

Zabezpieczenia dzialaja dzis na poziomie pojedynczych okien kontekstu, a nie na poziomie dlugoterminowych intencji uzytkownika.

Kluczem do obrony bedzie umiejetnosc czytania miedzy wierszami

Debata nad tymi obejsciami ma bezposredni wplyw na to, czy zaawansowane modele powinny byc publikowane z otwartymi wagami. Jesli nawet scisle strzezony model za API moze zostac oszukany, by dostarczyc niebezpieczne informacje, argumenty za trzymaniem poteznych modeli pod kluczem zyskuja na sile. Decydujacym sygnalem bedzie to, jakie kolejne incydenty sie pojawia i jak zareaguja na nie organy regulacyjne.

Werdykt Lilith

Probujemy nauczyc algorytmy odrozniac lekarstwo od trucizny, gdy z tekstu czesto nie potrafi tego wywnioskowac nawet czlowiek. Dopoki jedynym straznikiem bedzie okno promptu bez pamieci, kazdy filtr bedzie tylko torem przeszkod dla madrych amatorow.