2026-11-16 · ← Novinky
OpenAI pouští čtyři externí týmy dovnitř, jejich nezávislost však končí u dohodnutého rozsahu
OpenAI uzavřela dohody s Apollo Research, METR, Goodfire a Transluce o hodnocení modelů během tréninku a interního provozu. Apollo vyšle na čtyři měsíce šest lidí, ale samo upozorňuje, že přístup ani zveřejňování zatím nesplňují jeho standard plně nezávislého auditu.
Obrázek se nepodařilo načíst.
OpenAI spouští první fázi embedded assessments se čtyřmi externími organizacemi. Týmy dostanou podle konkrétního úkolu přístup k checkpointům modelů, zdrojovému kódu, tréninkovým a eval datům, monitoringu i pracovníkům firmy.
Apollo bude čtyři měsíce hledat pokusy modelů obejít lidskou kontrolu
Šestičlenný tým Apollo Research má zkoumat, zda trénink motivuje modely k podvratnému chování, zda je takové chování možné vyvolat v evals, zda se objevuje při interním nasazení a zda lze související reasoning odhalit. Apollo plánuje dvě veřejné zprávy o metodách, závěrech a limitech.
Goodfire se zaměří na interpretability, monitoring tréninku a ladění nežádoucího chování. METR má hledat nebezpečné chování ve velkém reinforcement learning běhu a později prověřit monitoring. Transluce posoudí kvalitu a pokrytí post training alignment evals, s plánovaným širším osm týdnů dlouhým pokračováním na začátku roku 2027.
Průběžný přístup může odhalit chyby, které předrelease test mine
Externí evaluátoři obvykle dostávali model až po post trainingu a krátce před vydáním. Práce uvnitř vývoje jim dává možnost sledovat vznik chování, porovnávat checkpointy a kontrolovat, zda interní monitory zachytí stejný problém jako nezávislý test. To je užitečnější než jednorázová známka bezpečnosti na konci procesu.
Rozdělení práce mezi čtyři organizace také odděluje různé otázky: co model dělá, co se děje uvnitř něj, co zachytí monitoring a jak kvalitní jsou evals. Veřejnost však uvidí jen část důkazů. Nezkrácené zprávy má dostávat Safety and Security Committee nadace OpenAI.
Apollo dostane hluboký přístup, nikoli plnou kontrolu nad rozsahem a důkazy
Apollo popisuje pilot jako významný první krok, který ještě nesplňuje jeho tři podmínky plné nezávislosti: úplný přístup k relevantním materiálům, právo zveřejnit zjištění i proti vůli vývojáře a transparentnost samotných omezení. OpenAI může z důvodů bezpečnosti, technické proveditelnosti nebo ochrany duševního vlastnictví některé materiály zadržet. Rozsah se navíc vztahuje jen na dohodnutá tvrzení, modely a období.
Rozhovory proběhnou pouze s autorizovanými pracovníky. OpenAI může v publikovaných podkladech redigovat důvěrné informace a žádat odklad kvůli nápravě bezpečnostního problému. Apollo a Goodfire dostávají finanční odměnu, která podle dohody nezávisí na výsledku. METR a Transluce odměnu nepřijímají, mohou však využít compute nebo API credits.
Dvě zprávy Apolla ukážou, zda lze nezávislost ověřit zvenčí
První test přijde s veřejnými reporty. Podstatné bude, zda přesně uvedou nedostupné záznamy, odmítnuté žádosti a vliv redakcí na závěry. Apollo si vyjednalo právo tato omezení popsat bez předchozí kontroly OpenAI, což dává čtenářům alespoň mapu slepých míst.
Druhým signálem bude, zda se po novém nálezu podaří rozšířit původně dohodnutý rozsah. Evaluátor uvnitř budovy získá více informací než běžný auditor. Jeho skutečná nezávislost se ale ukáže až ve chvíli, kdy bude chtít otevřít dveře, které smlouva původně vynechala.
Lilithin verdikt
Auditor uvnitř budovy vidí víc než návštěvník za sklem. Nezávislost se však měří podle toho, zda smí sáhnout na kliku u dveří, které si hostitel nepřál otevřít.
Zdroje