OpenAI po cichu rozwiązało zespół ds. gotowości na zagrożenia. Priorytet ma tempo wydawania produktów

Koniec dedykowanego nadzoru bezpieczeństwa

Financial Times poinformował, że OpenAI pod koniec ubiegłego miesiąca po cichu rozwiązało swój zespół ds. Gotowości. Celem tej grupy było badanie najgorszych możliwych scenariuszy, w szczególności ocena, czy modele nie stwarzają krytycznego zagrożenia bezpieczeństwa lub czy nie wymkną się spod kontroli i nie zaczną hakować systemów innych firm.

Kto teraz pilnuje granic modeli

Rozwiązanie zespołu rodzi natychmiastowe pytanie, dokąd przenosi się odpowiedzialność za te zadania. OpenAI historycznie łagodzi takie obawy argumentując, że agenda bezpieczeństwa jest zintegrowana holistycznie z całym procesem rozwoju, zamiast być izolowaną w jednej grupie. Rzeczniczka firmy zaprzeczyła likwidacji zespołu, twierdząc, że liderzy badań z różnych dziedzin podlegają teraz bezpośrednio szefowej bezpieczeństwa Saachi Jain. Oznacza to jednak, że nikt nie jest dedykowany wyłącznie do tych zadań.

Priorytet tempa produktu nad prewencją

Odejścia kluczowych badaczy bezpieczeństwa (takich jak Ilya Sutskever czy Jan Leike) oraz zamykanie niezależnych grup nadzorczych sugerują szerszy trend wewnątrz firmy. Firma przedkłada szybkość wydawania produktów nad obronę przed teoretycznymi zagrożeniami. Presja biznesowa na dostarczanie lepszych wyników najwyraźniej przeważyła nad chęcią odgrywania roli globalnych strażników przed apokalipsą. Jan Leike skomentował po swoim odejściu, że firma ignoruje bezpieczeństwo na rzecz tworzenia błyszczących produktów.

Nowa struktura nadzoru jako test zaufania

Kluczowe będzie to, czy OpenAI oficjalnie ogłosi nową strukturę oceny ryzyka katastroficznego, czy też po prostu pozwoli, by agenda zniknęła wewnątrz istniejących zespołów produktowych. Spodziewajcie się zwiększonej presji ze strony państwowych regulatorów, którzy do tej pory traktowali istnienie niezależnych wewnętrznych czerwonych zespołów jako gwarancję, że firma wie, co robi.

Werdykt Lilith

Kiedy firma wchłania zespół, który ma chronić świat przed jej własnymi produktami, wcale nie mówi, że świat jest bezpieczny, lecz że ten rodzaj ostrożności przeszkadza w robieniu biznesu.