OpenAI podnosi najwyższą nagrodę za krytyczny błąd do 172 000 dolarów

OpenAI przygotowuje kolejny wewnętrzny sprint bezpieczeństwa z badaczami firmy Cathedral. Wspólnie z zespołami OpenAI mają używać modeli firmy do wyszukiwania słabości, sprawdzania poprawek i rozwijania ciągłej obrony.

Cathedral skieruje modele OpenAI przeciw systemom OpenAI

Firma rozwija podejście z poprzedniego sprintu, podczas którego 25 % inżynierów produktowych pracowało nad wykrywaniem i usuwaniem słabości. Codex pomagał analizować zgłoszenia, odtwarzać podatności w odizolowanym środowisku i przygotowywać poprawki do przeglądu.

Równocześnie zmienia się Security Bug Bounty. Krytyczna luka w ChatGPT, Codexie lub API Platform może przynieść do 30 000 dolarów. Podstawowy limit dla wyjątkowego krytycznego znaleziska nadal wynosi 100 000 dolarów, lecz z premiami wypłata może sięgnąć 171 925 dolarów, czyli po zaokrągleniu 172 000.

Wyższe stawki mają poprawić zgłoszenia i zatrzymać badaczy na dłużej

OpenAI wprowadza premie za odtwarzalne raporty, 5 poziomów programu lojalnościowego oraz czasowe kampanie dla nowych funkcji. Pieniądze mają nagradzać coś więcej niż samo odkrycie. Zachęcają do dostarczenia użytecznego dowodu, opisania skutków i powrotu do kolejnych testów.

Dla zespołów wdrażających agentów AI najważniejszy jest sposób pracy. Własny model może przyspieszyć obronę, ale nadal wymaga izolowanego środowiska, kontroli człowieka i osób z zewnątrz, które podważą wewnętrzne założenia.

Własny model w roli napastnika nie zastępuje niezależnego audytu

Ogłoszenie nie podaje, które systemy przetestuje Cathedral, jak długo potrwa sprint ani ile podatności znaleziono poprzednio. OpenAI wybiera też narzędzia, środowisko i zakres testu. Zewnętrzny partner wnosi inną perspektywę, lecz nie zapewnia niezależności całego procesu.

Wyższa nagroda mierzy siłę zachęty, a nie poziom bezpieczeństwa. Kwota 172 000 dolarów powstaje dopiero po połączeniu podstawowej wypłaty z kilkoma premiami w przykładowym scenariuszu. Zwykła krytyczna luka w głównym produkcie ma limit 30 000 dolarów.

O wyniku przesądzą publiczne poprawki i zgłoszenia spoza sprintu

Ciągłą obronę będzie można ocenić, jeśli OpenAI ujawni klasy znalezionych błędów, tempo napraw i wyniki powtarzanych testów. Drugim sygnałem będą wartościowe zgłoszenia badaczy spoza płatnego sprintu.

Program nabierze wiarygodności, gdy modele pomogą zamknąć słabości przed wrogim graczem, a poprawki wytrzymają kolejną rundę prób.

Werdykt Lilith

OpenAI stawia własne modele przed własnym sejfem, a Cathedral próbuje odebrać im klucze. Zaufanie pojawi się dopiero wtedy, gdy firma pokaże znalezione pęknięcia i poprawki, które wytrzymały kolejny cios.