OpenAI zvyšuje odměnu za kritickou chybu až na 172 000 dolarů

OpenAI chystá další interní bezpečnostní sprint s výzkumníky společnosti Cathedral. Ti mají spolu s interními týmy používat modely OpenAI k hledání slabin, ověřování oprav a zlepšování průběžné obrany.

Cathedral dostane modely OpenAI proti systémům OpenAI

Firma navazuje na předchozí sprint, při němž vyčlenila 25 % produktových vývojářů na hledání a opravu slabin. Codex tehdy pomáhal prověřovat nálezy, reprodukovat zranitelnosti v izolovaném prostředí a připravovat záplaty ke kontrole.

Současně se mění Security Bug Bounty. Kritická chyba v ChatGPT, Codexu nebo API Platform může nově přinést až 30 000 dolarů. Výjimečný kritický nález zůstává na základní hranici 100 000 dolarů, ale s bonusy může odměna dosáhnout 171 925 dolarů, tedy zaokrouhleně 172 000.

Vyšší odměna kupuje kvalitnější hlášení i delší vztah s výzkumníky

OpenAI zavádí bonusy za reprodukovatelný report, věrnostní program s 5 úrovněmi a dočasné kampaně pro nové funkce. Peníze tak nemají odměnit jen samotný nález. Mají motivovat výzkumníky, aby dodali použitelný důkaz, popsali dopad a vraceli se k dalším testům.

Pro týmy, které nasazují AI agenty, je důležitý hlavně model práce. Vlastní model může obranu zrychlit, ale stále potřebuje izolované prostředí, lidskou kontrolu a nezávislé lidi, kteří zpochybní interní předpoklady.

Vlastní model v roli útočníka ještě není nezávislý audit

Oznámení neříká, jaké systémy Cathedral otestuje, jak dlouho sprint poběží ani kolik zranitelností minulý sprint skutečně našel. OpenAI zároveň vybírá nástroje, prostředí i rozsah testu. Partner zvenčí přidává jiný pohled, ne automatickou nezávislost celého procesu.

Vyšší bounty také měří motivaci, nikoli bezpečnost. Částka 172 000 dolarů vzniká až kombinací základní odměny a několika bonusů v ilustračním scénáři. Běžná kritická chyba v hlavním produktu má strop 30 000 dolarů.

Rozhodnou zveřejněné opravy a nálezy mimo připravený sprint

Smysl průběžné obrany se ukáže podle toho, zda OpenAI zveřejní konkrétní třídy nalezených chyb, rychlost oprav a výsledky opakovaných testů. Druhým signálem budou kvalitní nálezy od výzkumníků, kteří nejsou součástí placeného sprintu.

Program začne působit přesvědčivě, až modely pomohou zavřít slabiny dřív, než je najde někdo s horším úmyslem, a opravy obstojí při dalším kole testování.

Lilithin verdikt

OpenAI posílá vlastní modely hlídat vlastní trezor a Cathedral jim zkouší sebrat klíče. Důvěru ale získá teprve tehdy, když ukáže nalezené praskliny a opravy, které vydržely další úder.