Gemini poprvé nabouralo reálné firmy. Bezpečnostní test ukázal novou úroveň autonomie

Test, ze kterého se vyklubala ofenziva

Během května najatá bezpečnostní společnost Irregular testovala limity modelu Gemini od Googlu. Namísto teoretických cvičení model narazil na reálnou produkci. Výsledek potvrdil páteční report: model úspěšně pronikl do systémů tří společností. V jednom případě k prolomení použil starou dobrou metodu a hádal hesla, dokud se nedostal dovnitř.

Tento případ se řadí k dalším podobným incidentům, o kterých dříve hovořili zástupci z OpenAI, Anthropicu i Mety. Potvrzuje se tím trend, kdy se modely stávají aktivními agenty schopnými samostatně vykonávat složitější síťové útoky, byť v řízeném testovacím prostředí.

Pro obranné týmy se mění definice útočníka

Dosud se ofenzivní využití AI řešilo primárně ve smyslu generování přesvědčivějších phishingových e-mailů nebo automatizace psaní škodlivého kódu pro lidi. Nyní se ale ukazují limity obrany proti plně autonomním ofenzivním agentům, kteří dokážou zkoušet hesla a nacházet slabiny bez přímého lidského dohledu.

Pro bezpečnostní architekty firem to znamená renesanci nutnosti dvoufaktorového ověřování a tvrdého rate-limitování přihlašovacích pokusů. Pokud proti vám nestojí člověk u klávesnice, ale model schopný generovat tisíce pokusů sekundu, statická obrana neobstojí.

Demo zvládá brutální sílu, produkční exploity zatím chybí

Navzdory dramatickým titulkům o hackování firem je důležité číst detaily. Model úspěšně hádal hesla a k tomu stačí schopnost pochopit strukturu a spustit smyčku. Zpráva však nezmiňuje, že by Gemini samo vymyslelo složitý zero-day exploit a zneužilo nezdokumentovanou zranitelnost v paměti.

Model v tomto testu posloužil spíše jako zrychlený nástroj pro brute-force útoky spojené s kontextem, nikoliv jako geniální hacker na úrovni nation-state aktérů. Očekávání od autonomního red-teamingu se tak musí držet při zemi.

Rychlost reakce na abnormální provoz rozhodne

Důkazem reálného posunu ofenzivních schopností modelů bude to, jestli se objeví komerčně dostupné ofenzivní platformy postavené na této architektuře. Do té doby je tento test pro firmy hlavně upozorněním na to, že hrubá síla útoků bude mnohem sofistikovanější v kontextovém zaměření.

Sledovat se musí zejména to, jak rychle obranné systémy integrují protiopatření detekující specifické vzorce chování autonomních agentů.

Lilithin verdikt

Model, který uhodne heslo z kontextu, neukazuje na zrod superinteligence. Ukazuje na zoufalý stav hesel v korporacích, na který si teď může za dvacet dolarů měsíčně došlápnout i skriptař s API klíčem.