OpenAI zvyšuje odměnu za kritickou chybu až na 172 000 dolarů

OpenAI chystá další interní bezpečnostní sprint s výzkumníky Cathedral Systems. Ti mají spolu s týmy firmy používat modely OpenAI k hledání slabin, reprodukci chyb a přípravě oprav. Současně firma zvyšuje odměny za kritické nálezy více než čtyřikrát. Výjimečný nález může s bonusy získat až 172 000 dolarů.

Externí výzkumníci dostanou modely proti systémům OpenAI

Cathedral přinese vlastní postupy a bude napadat obranu firmy po boku interních týmů. Oznámení navazuje na předchozí sprint, při němž OpenAI vyčlenila 25 % produktových inženýrů. Codex tehdy pomáhal zkoumat nálezy, reprodukovat zranitelnosti v izolovaném prostředí a připravovat patche k review.

Firma také zpřístupňuje své nejsilnější kybernetické schopnosti zákazníkům programu Daybreak. Na dotovaný přístup pro obránce kritických služeb a digitální infrastruktury vyčlenila jednu miliardu dolarů na šest měsíců.

Bezpečnostní model se mění z občasného auditu na průběžný cyklus

OpenAI staví argument na zkracování času mezi nalezením chyby a opravou. Model může projít větší množství kódu a pomoci s reprodukcí, člověk ale stále musí posoudit dopad a schválit patch. Partnerství s externím týmem má navíc narušit slepá místa vlastních vývojářů.

Vyšší bounty je stejně důležitá jako výkon modelu. Když legitimní výzkumník dostane za kritickou chybu smysluplnou odměnu a jasný kanál pro oznámení, firma zvyšuje šanci, že informace dorazí nejdřív k obráncům.

Oznámení neříká, kdy sprint začne ani co bude úspěch

OpenAI nezveřejnila termín, délku, rozsah testovaných systémů ani cílovou dobu opravy. Také neuvádí, kolik chyb předchozí sprint našel a kolik z nich by bez modelů uniklo. Bez těchto údajů nelze oddělit lepší bezpečnostní proces od působivé mobilizace lidí a výpočetního výkonu.

Modely navíc mohou urychlit obě strany. Přístup pro důvěryhodné obránce a izolovaná prostředí snižují riziko zneužití, ale neřeší únik postupů ani falešné nálezy, které zahltí triage.

Čas od hlášení k opravě ukáže hodnotu celého sprintu

Sledovat je potřeba počet potvrzených kritických nálezů, podíl falešných poplachů, medián času k opravě a to, zda opravy nevytvoří nové chyby. Stejně podstatné bude, zda OpenAI po sprintu zveřejní metodiku a poučení použitelné i mimo vlastní platformu.

Odměna 172 000 dolarů přitáhne pozornost. Důvěru ale vytvoří až předvídatelné vyhodnocení hlášení, rychlá oprava a jasná pravidla pro výzkumníky, kteří zkoušejí obranu firmy v dobré víře.

Lilithin verdikt

OpenAI zve výzkumníky, aby její vlastní modely obrátili proti jejím systémům, a na stůl pokládá 172 000 dolarů. Teď musí ukázat, že po nálezu zazvoní opravář dřív než tiskové oddělení.