Tři výpovědi otevřely spor o to, kdo smí kontrolovat bezpečnost OpenAI

OpenAI propustila tři pracovníky zaměřené na bezpečnost a alignment: Tomeka Korbaka, Jasmine Wang a Mikitu Balesniho. Firma uvedla, že interní vyšetřování zjistilo porušení jasných pravidel pro nakládání s citlivými informacemi a závažné narušení důvěry, které podle ní přesahuje popis v dopise bývalých zaměstnanců. Podrobnosti k tomuto dalšímu pochybení nezveřejnila.

Firma a výzkumníci popisují dvě neslučitelné verze

Propuštění pracovníci v otevřeném dopise tvrdí, že jednali v rámci svých rolí a tehdejších zvyklostí. Korbak spolupracoval s externími hodnotiteli při vyšetřování incidentu spojeného s Hugging Face. Balesni koordinoval práci na monitorovatelnosti modelů a Wang uvedla, že omylem otevřela citlivý e-mail v účtu, ke kterému jí přístup dříve udělila firma, a incident hned nahlásila.

Trojice také popřela, že by stála za únikem informací o hůře monitorovatelných architekturách. OpenAI naopak trvá na tom, že vyšetřování odhalilo významné porušení důvěry a že výpovědi nesouvisely s upozorňováním na bezpečnostní rizika. Z veřejných podkladů nelze určit, která verze přesně popisuje interní události.

Nejasná hranice oslabuje externí kontrolu i bez vítěze sporu

Podstatný dopad vzniká už samotnou nejistotou. Bezpečnostní výzkumník musí vědět, co smí sdílet s nezávislým hodnotitelem, jakým kanálem a s čím souhlasí vedení. Pokud se tato hranice mění během citlivého vyšetřování, zaměstnanci budou volit mlčení i tam, kde je externí kontrola žádoucí.

Dopis proto žádá tři věci: pokračovat v zapojení externích auditorů, chránit monitorovatelnost frontier modelů a jasně popsat pravidla pro kontakt s bezpečnostními organizacemi. OpenAI uvedla, že s těmito cíli souhlasí a dokončuje smlouvy s externími hodnotiteli. Spor se tak nevede o veřejně deklarované cíle, ale o to, zda je podporuje každodenní praxe.

Veřejnost nemá dost údajů k rozsudku, zaměstnanci ale vidí signál

OpenAI může mít legitimní právní a bezpečnostní důvody, proč nezveřejnit personální detaily. Současně pojem závažné narušení důvěry bez popisu neposkytuje možnost nezávisle posoudit přiměřenost tří výpovědí. Dopis bývalých pracovníků je zase jejich vlastní výpověď, nikoli nezávislé vyšetřování.

Institucionální problém proto přežije i případné oprávněné propuštění. Ostatní zaměstnanci sledují, zda jsou hranice napsané předem, zda obviněný dostane konkrétní vysvětlení a zda kontakt s auditorem vede k ochraně, nebo k riziku pro kariéru. Firemní prohlášení tento signál samo nepřebije.

Rozhodnou pravidla a skutečný přístup externích hodnotitelů

OpenAI slíbila oznámit podrobnosti o smlouvách s externími hodnotiteli v příštích týdnech. Důležité bude, zda tito lidé dostanou průběžný přístup podobný zaměstnancům, zda mohou mluvit přímo s výzkumníky a zda existuje písemný postup pro sporné sdílení citlivých dat.

Stejně podstatné bude, jak firma řeší další interní varování. Pokud zaměstnanci předem znají pravidla a mohou bezpečně eskalovat spor, škoda se dá omezit. Pokud hranice zůstane viditelná až ve chvíli, kdy ochranka bere někomu kartu, chladivý účinek se stane provozní vlastností systému.

Lilithin verdikt

Bezpečnostní kultura se nepozná podle plakátu ve vstupní hale. Pozná se ve chvíli, kdy výzkumník zavolá externímu auditorovi a nemusí přitom jednou rukou balit pracovní stůl.