Uzivatele obchazeji bezpecnostni limity Claude v oblasti vyzkumu biologickych zbrani

Bezpecnostni limity velkych jazykovych modelu stale narazeji na fundamentalni problem: kontext. Zpravy naznacuji, ze uzivatele nasli zpusoby, jak presvedcit modely jako Claude, aby poskytovaly informace relevantni pro vyzkum biologickych zbrani. Utocnici vyuzivaji faktu, ze procesy nutne pro vyvoj nebezpecnych patogenu se v mnoha krocich prekryvaji s beznou virologii a epidemiologii.

Proc filtry nedokazou zastavit dvoji uziti

Jadro problemu spociva v dual-use povaze biologickych dat. Pokud model zablokuje dotazy na optimalizaci prenositelnosti viru, muze tim zaroven znemoznit praci vyzkumnikum, kteri hledaji zpusoby, jak se branit budoucim pandemiim. Dodavatele AI tak stoji pred volbou mezi falesne pozitivnimi blokacemi, ktere frustruji vedce, a falesne negativnimi propustmi, ktere mohou pomoci bad actorum.

Detekce zameru narazi na hranice soucasnych modelu

Zatimco explicitni dotazy typu „jak vyrobit antrax“ jsou snadno zachytitelne, sofistikovani akteri rozkladaji problem na serii nevinne vypadajicich otazek. LLM nemaji pamet ani schopnost analyzovat celkovou strategii za stovkou izolovanych promptu v prubehu nekolika dnu.

V soucasnosti jsou blokovany pouze kratkodobe pokusy

Safeguardy dnes funguji na urovni jednotlivych oken kontextu, nikoliv na urovni dlouhodobeho zameru uzivatele.

Klicem k obrane bude schopnost cist mezi radky

Debata o techto obchazenich ma primy dopad na to, zda by mely byt pokrocile modely publikovany jako open-weights. Pokud i bedlive strezeny model za API dokaze byt oklaman k poskytnuti nebezpecnych informaci, argumenty pro ponechani vykonnych modelu pod zamkem nabiraji na sile. Rozhodujicim signalem bude, jake dalsi incidenty se objevi a jak na ne budou reagovat regulacni urady.

Lilithin verdikt

Snazime se naucit algoritmy rozeznat lek od jedu, kdyz to z textu casto nepozna ani clovek. Dokud bude jedinym hlidacem promptove okno bez pameti, kazdy filter bude jen prekazkova draha pro chytre amatery.