Matematici chtějí důkazy, že OpenAI netrénovala na jejich nepublikované práci

Další akademik zpochybňuje čistotu tréninkových dat

Několik dní po první ostré výměně názorů o tom, zda modely OpenAI těžily z nepublikované akademické práce, vystoupil druhý matematik s obviněním z neetického chování. Akademici žádají po OpenAI jasné důkazy a transparentnost ohledně toho, na čem přesně se modely, které teď dělají v matematice „objevy“, vlastně trénovaly. Komerční slib modelů schopných matematické inference tak naráží na odpor oboru, který jim tyhle schopnosti možná nedobrovolně dodal.

Pro vědeckou komunitu se mění pravidla publikování

Tohle už není klasický autorskoprávní spor o články z New York Times. Matematika je založená na sdílení preprintů a dlouhém recenzním řízení. Pokud AI laboratoře luxují ArXiv a další repozitáře včetně draftů a nepublikovaných myšlenek, a model pak tyto vzory „objeví“ jako svůj vlastní výstup, akademici ztrácejí kontrolu nad kreditem za svou práci. Pro výzkumná oddělení univerzit to znamená, že sdílet rozpracované nápady veřejně je najednou obrovské riziko.

Oslnivé demo zastiňuje původ znalostí

Když model vyplivne elegantní matematický důkaz, vypadá to jako triumf strojového uvažování. Realita je ale taková, že u uzavřených modelů jako ty od OpenAI neexistuje žádný spolehlivý způsob, jak oddělit skutečnou generalizaci a schopnost logické odvodit výsledek od bohapusté memorizace tréninkových dat. Dokud laboratoře neotevřou seznam svých zdrojů, každé „nové“ řešení složitého problému nese stín podezření, že ho model už prostě někde viděl.

Nezávislý audit ukáže, kdo komu dluží

To, co rozhodne o dalším vztahu mezi akademií a AI giganty, nebudou vzletná prohlášení o spolupráci. Bude to ochota pustit k tréninkovým datům nezávislé auditory pod NDA, kteří potvrdí, že konkrétní myšlenky nebyly vysáty před jejich oficiálním publikováním. Dokud tohle nenastane, tlak oborových autorit poroste.

Lilithin verdikt

Akademický proces sdílení myšlenek se stal těžební zónou pro startupy. Tohle je účtenka za byznys model postavený na luxování preprintů bez souhlasu autorů.