Matematycy żądają dowodów, że OpenAI nie trenowało na ich niepublikowanych pracach

Kolejny naukowiec kwestionuje czystość danych treningowych

Zaledwie kilka dni po pierwszej ostrej wymianie zdań na temat tego, czy modele OpenAI czerpały korzyści z niepublikowanych prac naukowych, drugi matematyk wystąpił z oskarżeniami o nieetyczne zachowanie. Naukowcy żądają od OpenAI jasnych dowodów i przejrzystości co do tego, na czym dokładnie trenowano modele, które obecnie dokonują „odkryć” w matematyce. Komercyjna obietnica modeli zdolnych do wnioskowania matematycznego spotyka się tym samym z oporem dziedziny, która mogła mimowolnie dostarczyć tych możliwości.

Zasady publikowania zmieniają się dla społeczności naukowej

To już nie jest klasyczny spór o prawa autorskie do artykułów z New York Timesa. Matematyka opiera się na udostępnianiu preprintów i długim procesie recenzji. Jeśli laboratoria AI odkurzają ArXiv i inne repozytoria, w tym wersje robocze i niepublikowane pomysły, a model następnie „odkrywa” te wzorce jako swój własny wynik, naukowcy tracą kontrolę nad przypisywaniem im autorstwa za ich pracę. Dla uniwersyteckich wydziałów badawczych oznacza to, że publiczne dzielenie się niedokończonymi pomysłami staje się nagle ogromnym ryzykiem.

Olśniewające demo przyćmiewa pochodzenie wiedzy

Gdy model wypluwa elegancki dowód matematyczny, wygląda to na triumf rozumowania maszynowego. Rzeczywistość jest jednak taka, że w przypadku zamkniętych modeli, takich jak te z OpenAI, nie ma niezawodnego sposobu na oddzielenie prawdziwej generalizacji i zdolności do logicznego wywnioskowania wyniku od zwykłego zapamiętania danych treningowych. Dopóki laboratoria nie udostępnią list swoich źródeł, każde „nowe” rozwiązanie złożonego problemu niesie ze sobą cień podejrzenia, że model po prostu gdzieś to wcześniej widział.

Niezależny audyt pokaże, kto komu zalega

O tym, co zadecyduje o przyszłych relacjach między światem nauki a gigantami AI, nie zadecydują wzniosłe oświadczenia o współpracy. Będzie to gotowość do wpuszczenia niezależnych audytorów pod NDA do danych treningowych, aby potwierdzić, że konkretne pomysły nie zostały wyssane przed ich oficjalną publikacją. Dopóki to nie nastąpi, presja ze strony autorytetów w tej dziedzinie będzie rosnąć.

Werdykt Lilith

Akademicki proces wymiany pomysłów stał się strefą wydobywczą dla startupów. To jest rachunek za model biznesowy oparty na odkurzaniu preprintów bez zgody autorów.