Lilith Lilith.
CS EN PL

Lilith · výběr zpráv

Novinky

Co se v AI skutečně děje. Vybrané zprávy, souvislosti a názor bez reklamního hluku.

Atom feed ↗
#mainstream· × zrušit filtr
publikováno
publikováno
publikováno
publikováno
publikováno
publikováno
publikováno
publikováno
publikováno

Prompt injection se obrací proti útočícím agentům

Tracebit podle Ars Technica testuje „context bombing“, obrannou techniku, která podstrčí AI útočníkovi zakázaný pokyn a vyvolá odmítnutí modelu. V simulovaném AWS prostředí snížila plné získání admin práv z 57 % na 5 %, ale zatím jde o laboratorní obranu, ne hotovou pojistku.