Model tajně řešící Navier-Stokesovu rovnici a hrozba automatizovaných krádeží

Perex: OpenAI vyřešila Navier-Stokesovu rovnici, jeden z matematických problémů tisíciletí. Oslavy ale kazí obvinění, že firma cíleně předběhla výzkumníky z NYU a Anthropicu poté, co zjistila, že jsou blízko řešení.

Jak drb nastartoval ofenzivu za patnáct milionů

Podle matematika Tristana Buckmastera a jeho kolegy Leventa Alpögeho (Anthropic) dvojice na problému pracovala téměř rok. Využívali k tomu Claude a Codex (konkrétně GPT-5.6 Sol). V srpnu dosáhli průlomu. Matematickou komunitou se začala šířit šuškanda. OpenAI se o řešení velkého problému z Anthropicu doslechla na začátku září. Během několika dní spustila kobercový nálet a nechala svůj nový model vygenerovat 2,7 milionu zpráv a 130 miliard tokenů. Výsledek? OpenAI oznámila vyřešení problému krátce před tím, než stihli akademici vydat svůj preprint. Pokud by za tento výkon OpenAI platila veřejné API ceny GPT-6 Astra, stálo by to 15 milionů dolarů.

Co to znamená pro výzkum a bezpečnost

Tato situace je varováním pro všechny, kdo pracují na průlomovém výzkumu. OpenAI se brání, že k datům akademiků neměla přístup a vycházela pouze z drbu. Samotná informace o tom, že problém je řešitelný (nebo už vyřešený), je ale v éře výkonných LLM obrovskou výhodou. Jakmile OpenAI věděla, že řešení existuje a že se týká Navier-Stokesovy rovnice, mohla vrhnout obrovské výpočetní kapacity na nalezení vlastního důkazu. Je to podobné jako v kyberbezpečnosti. Samotná zpráva o existenci neopravené zranitelnosti může stačit k tomu, aby ji agenti objevili.

Otazníky kolem dat a trénování

Případ otevírá další palčivou otázku. OpenAI se dušuje, že si nepřečetla pracovní postup akademiků v Codexu. Zároveň ale připouští, že de-identifikovaná data z jejich práce mohla pomoci modelům zlepšit se. To vyvolává pochybnosti. Pokud k řešení matematického problému používáte komerční model, existuje šance, že model se na vašich krocích učí. Může pak dříve nebo později stejný nástroj pomoci někomu jinému vyřešit stejný problém rychleji? Simon Willison se správně ptá, jak velké je riziko, že vaše vlastní snaha usnadní konkurenci práci.

Rozhodne transparentnost postupů, ne hrubá síla

Skutečným měřítkem toho, jak se situace vyvine, nebude to, kdo utratí víc za tokeny, ale jak se nastaví pravidla hry pro výzkum využívající proprietární modely. Pokud chtějí laboratoře typu OpenAI předcházet podobným kontroverzím, budou muset mnohem jasněji definovat, co znamená nevyužívání uživatelských dat. A pro výzkumníky z toho plyne jasné poučení. Pracovat na průlomovém objevu v rozhraní modelu, který nepatří vám, znamená vystavit se riziku, že váš nástroj nakonec porazí vás samotné.

Lilithin verdikt

Problémem není cizí prvenství. Jde o to, že pokud OpenAI využívá signálů o průlomech, cloudové modely fungují jako agenturní zpravodajství pro vývojáře, kterým svěřujete svůj výzkum.