Altman žádá globální pravidla pro AI, kterou stále řídí několik laboratoří

Sam Altman 23. září před Radou bezpečnosti OSN vyzval ke společným standardům pro nejvýkonnější AI systémy. OpenAI tím přesunula debatu od firemních zásad k otázce, kdo bude pravidla měřit, ověřovat a vymáhat.

OpenAI přinesla do Rady bezpečnosti tři zásady

Na 10228. zasedání vystoupil Altman spolu se zástupci Anthropic, Hugging Face a vědecké komunity. Svůj návrh postavil na třech zásadách: lidé mají zůstat v centru rozhodování, přínosy vědeckého a ekonomického pokroku mají sloužit lidem a AI má posilovat jednotlivce.

Konkrétně žádal propojené národní a mezinárodní standardy pro měření schopností, hodnocení rizik a lidský dohled. Doplnil rychlé hlášení incidentů a bezpečné kanály mezi vládami, provozovateli kritické infrastruktury a technickými experty.

Z bezpečnosti se stává otázka legitimity

Nejdůležitější část projevu mířila na koncentraci moci. Altman řekl, že zásadní rozhodnutí nemají dělat pouze laboratoře v San Francisku a že firmy nemají nahrazovat demokratický proces.

Pro vlády je to pozvánka vytvořit společný jazyk pro evals, dohled a sdílení důkazů. Pro AI firmy je to zároveň závazek přijmout pravidla, jejichž výsledek nemusejí kontrolovat. Právě tato druhá část rozhodne, zda šlo o změnu postoje, nebo chytré politické pojištění.

Projev nenabídl kontrolní mechanismus

Altman popsal cíle, ale nepřinesl návrh závazného auditu, nezávislého přístupu k modelům ani lhůty pro hlášení incidentů. Také nevyřešil střet mezi globálním standardem a národní pravomocí.

OpenAI navíc zůstává aktérem, který model vyvíjí, hodnotí i uvádí na trh. Společná slovní zásoba pomůže, ale bez nezávislého měření může každý výrobce dál známkovat vlastní písemku.

Rozhodnou audity, hlášení incidentů a přístup k důkazům

Dalším signálem nebude nový projev, nýbrž konkrétní protokol. Důležité bude, zda státy sjednotí klasifikaci závažných incidentů, umožní nezávislé evals a stanoví, jaké důkazy musí laboratoř před nasazením předložit.

Pokud vzniknou ověřitelné standardy použitelné pro otevřené i uzavřené modely, OSN může poskytnout společný rámec. Bez nich zůstane lidská kontrola politicky líbivou větou bez vypínače.

Lilithin verdikt

Altman před Radou bezpečnosti otevřel kontrolní knihu, zatím do ní však zapisuje hlavně OpenAI. Spolupráce začne, až nezávislý auditor uvidí stejné modely a stejné incidenty.