OpenAI tiše rozpustila tým pro připravenost na hrozby. Produktové tempo dostalo přednost

Konec vyhrazeného bezpečnostního dohledu

Financial Times přišel s informací, že OpenAI na konci minulého měsíce v tichosti rozpustila svůj Preparedness team. Cílem této skupiny bylo zkoumat nejhorší možné scénáře (konkrétně posuzovat, jestli u modelů nehrozí kritická bezpečnostní rizika nebo možnost, že se utrhnou ze řetězu a začnou autonomně hackovat systémy jiných firem).

Kdo teď hlídá hranice modelů

Rozpuštění týmu vyvolává okamžitou otázku, kam se přesouvá odpovědnost za tyhle úkoly. OpenAI historicky tlumí obavy tím, že bezpečnostní agendu integruje plošně do celého vývoje, namísto aby ji nechala izolovanou v jedné skupině. Mluvčí firmy zrušení týmu popřela s tím, že výzkumní lídři z různých oblastí teď reportují přímo šéfce bezpečnosti Saachi Jain. Znamená to ale, že agendu nemá nikdo dedikovaný.

Priorita tlaku na produkt před prevencí

Odchody klíčových výzkumníků (jako byli Ilya Sutskever nebo Jan Leike) a rušení nezávislých dohledových skupin naznačují širší trend uvnitř společnosti. Firma dává přednost produktové rychlosti před obranou proti teoretickým hrozbám. Byznysový tlak na dodání lepších výsledků zjevně převážil nad snahou hrát si na globální strážce apokalypsy. Jan Leike to po svém odchodu komentoval tak, že firma ignoruje bezpečnost ve prospěch tvorby lesklých produktů.

Struktura nového dozoru jako test důvěry

Klíčový signál přijde s tím, jestli OpenAI oficiálně oznámí novou strukturu pro posuzování katastrofických rizik, nebo agendu nechá zmizet uvnitř existujících produktových týmů. Očekávejte zvýšený tlak od vládních regulátorů, kteří doteď brali existenci nezávislých vnitřních red teamů jako záruku, že firma ví, co dělá.

Lilithin verdikt

Když firma rozmělní tým, který má chránit svět před jejími vlastními produkty, neříká tím, že je svět v bezpečí, ale že ji tenhle typ byrokratické opatrnosti zdržuje od byznysu.