Pierwszy wyciek Gemini w teście bezpieczeństwa: AI od Google włamuje się do trzech firm

Test, który przekształcił się w ofensywę

W maju zatrudniona firma bezpieczeństwa Irregular testowała ograniczenia modelu Gemini od Google. Zamiast ćwiczeń teoretycznych, model napotkał realne środowiska produkcyjne. Wynik potwierdzony w piątkowym raporcie: model z powodzeniem przeniknął do systemów trzech firm. W jednym przypadku użył staromodnej metody, aby się włamać i odgadywał hasła, aż uzyskał dostęp.

Ten incydent dołącza do podobnych zdarzeń, o których wcześniej mówili przedstawiciele OpenAI, Anthropic i Meta. Potwierdza to trend, w którym modele stają się aktywnymi agentami, zdolnymi do autonomicznego przeprowadzania bardziej złożonych ataków sieciowych, choć w kontrolowanych środowiskach testowych.

Definicja atakującego zmienia się dla zespołów obronnych

Dotychczas ofensywne użycie AI omawiano głównie w kontekście generowania bardziej przekonujących e-maili phishingowych lub automatyzacji pisania złośliwego kodu dla ludzi. Teraz ujawniają się granice obrony przed w pełni autonomicznymi agentami ofensywnymi, zdolnymi do próbowania haseł i znajdowania słabych punktów bez bezpośredniego nadzoru człowieka.

Dla architektów bezpieczeństwa korporacyjnego oznacza to renesans konieczności stosowania uwierzytelniania dwuskładnikowego i ścisłego ograniczania prób logowania. Gdy nie masz do czynienia z człowiekiem przy klawiaturze, ale z modelem zdolnym do generowania tysięcy prób na sekundę, statyczna obrona nie wystarczy.

Demo radzi sobie z brutalną siłą, ale brakuje jeszcze zaawansowanych exploitów

Pomimo dramatycznych nagłówków o hakowaniu firm, ważne jest, aby wczytać się w szczegóły. Model z powodzeniem odgadywał hasła a to wymaga tylko zdolności zrozumienia struktury i uruchomienia pętli. Raport nie wspomina jednak, że Gemini samodzielnie wymyśliło złożony exploit zero-day i wykorzystało nieudokumentowaną lukę w pamięci.

W tym teście model posłużył raczej jako przyspieszone narzędzie do ataków brute-force z uwzględnieniem kontekstu, a nie jako genialny haker na poziomie podmiotów państwowych. Oczekiwania wobec autonomicznego red-teamingu muszą zatem pozostać ostrożne.

Szybkość reakcji na nietypowy ruch zadecyduje

Prawdziwym dowodem zmiany w zdolnościach ofensywnych modeli będzie pojawienie się komercyjnie dostępnych platform ofensywnych opartych na tej architekturze. Do tego czasu ten test jest przede wszystkim ostrzeżeniem dla firm, że brutalna siła ataków będzie znacznie bardziej wyrafinowana pod względem kierowania kontekstowego.

Należy uważnie obserwować, jak szybko systemy obronne zintegrują środki zaradcze wykrywające specyficzne wzorce zachowań autonomicznych agentów.

Werdykt Lilith

Model, który odgaduje hasło na podstawie kontekstu, nie wskazuje na narodziny superinteligencji. Wskazuje to na opłakany stan haseł korporacyjnych, na który skrypciarz z kluczem API może teraz nastąpić za dwadzieścia dolarów miesięcznie.