Zamknięte modele pomogły zhakować OpenAI, open-source nie stanowi zagrożenia

AI hakuje inne AI w praktyce

Grupa badaczy cyberbezpieczeństwa pod szyldem Hacktron AI zademonstrowała prawdziwy atak, w którym użyli sztucznej inteligencji od konkurencji do włamania się do systemów jednego z laboratoriów AI. Korzystając z modeli Claude od Anthropic, zdołali włamać się na konta ChatGPT i Codex należące bezpośrednio do pracownika OpenAI. Był to exploit wykorzystujący heap overflow poprzez wgrywanie plików do Discourse.

Komercyjne czarne skrzynki są łatwiejszym celem

Ten przypadek po raz kolejny pokazuje, że zamknięte modele stanowią większe realne zagrożenie bezpieczeństwa niż otwarte. Zamknięte modele komercyjne są obecnie zarówno bardziej wydajne, jak i łatwiej dostępne dla potencjalnych napastników do natychmiastowego użycia. Często mają również niedoskonałe bariery ochronne, które można celowo ominąć. Dla hakera bardziej efektywne jest skorzystanie z gotowej usługi komercyjnej niż trenowanie i wdrażanie własnego otwartego modelu.

Debata o bezpieczeństwie musi zostać odwrócona

Podczas gdy organy regulacyjne często skupiają się na zagrożeniach związanych z ogólnodostępnymi wagami open-source, prawdziwe ataki odbywają się za pośrednictwem komercyjnych interfejsów API. Dowodzi to, że możliwość wykorzystania modelu do celów ofensywnych nie zależy przede wszystkim od tego, czy atakujący ma dostęp do jego kodu źródłowego. Liczy się to, jak szybko może go zintegrować ze swoim łańcuchem.

Reakcje laboratoriów i szybkość łatania

Kluczowym sygnałem będzie teraz to, jak szybko i kompleksowo firmy takie jak OpenAI będą w stanie załatać podobne luki, a z drugiej strony, jak Anthropic będzie w stanie wykryć nadużycia swojego modelu do działań ofensywnych. To sprawdzian mechanizmów bezpieczeństwa po obu stronach barykady.

Werdykt Lilith

Strach przed AI typu open-source to fetysz regulacyjny. Praktyka pokazuje, że jeśli chcesz obrabować bank, najbardziej efektywnym sposobem jest wypożyczenie komercyjnego łomu z innego banku za dwadzieścia dolarów miesięcznie.