Model potajemnie rozwiązujący problem Naviera-Stokesa i groźba zautomatyzowanej kradzieży

Perex: OpenAI rozwiązało równanie Naviera-Stokesa, jeden z matematycznych Problemów Milenijnych. Świętowanie psują jednak oskarżenia, że firma celowo ubiegła badaczy z NYU i Anthropic po tym, jak dowiedziała się, że są blisko rozwiązania.

Jak plotka uruchomiła ofensywę za piętnaście milionów

Według matematyka Tristana Buckmastera i jego kolegi Leventa Alpöge (Anthropic), para pracowała nad problemem prawie rok. Używali do tego Claude i Codex (konkretnie GPT-5.6 Sol). W sierpniu dokonali przełomu. W społeczności matematycznej zaczęła krążyć plotka. OpenAI usłyszało o rozwiązaniu wielkiego problemu z Anthropic na początku września. W ciągu kilku dni przypuściło zmasowany atak. Pozwoliło swojemu nowemu modelowi wygenerować 2,7 miliona wiadomości i 130 miliardów tokenów. Wynik? OpenAI ogłosiło rozwiązanie problemu na krótko przed tym, jak naukowcy zdążyli opublikować swój preprint. Gdyby OpenAI zapłaciło publiczne ceny API GPT-6 Astra za ten wyczyn, kosztowałoby to 15 milionów dolarów.

Co to oznacza dla badań i bezpieczeństwa

Ta sytuacja jest ostrzeżeniem dla wszystkich pracujących nad przełomowymi badaniami. OpenAI broni się, że nie miało dostępu do danych naukowców i opierało się tylko na plotce. Ale sama informacja o tym, że problem jest do rozwiązania (lub już rozwiązany), jest ogromną przewagą w erze potężnych LLM. Gdy OpenAI wiedziało, że istnieje rozwiązanie dotyczące równania Naviera-Stokesa, mogło rzucić ogromną moc obliczeniową na znalezienie własnego dowodu. To podobnie jak w cyberbezpieczeństwie. Sama informacja o istnieniu niezałatanej luki może wystarczyć agentom do jej odkrycia.

Znaki zapytania wokół danych i trenowania

Sprawa otwiera kolejne palące pytanie. OpenAI zarzeka się, że nie czytało procesu pracy naukowców w Codexie. Jednocześnie przyznaje jednak, że zdeidentyfikowane dane z ich pracy mogły pomóc modelom się ulepszyć. To budzi wątpliwości. Jeśli do rozwiązania problemu matematycznego używasz modelu komercyjnego, istnieje szansa, że model uczy się na twoich krokach. Czy wcześniej czy później to samo narzędzie może pomóc komuś innemu szybciej rozwiązać ten sam problem? Simon Willison słusznie pyta, jak duże jest ryzyko, że twoje własne wysiłki ułatwią pracę konkurencji.

Zadecyduje przejrzystość procedur, a nie brutalna siła

Prawdziwą miarą tego, jak rozwinie się sytuacja, nie będzie to, kto wyda więcej na tokeny, ale jak zostaną ustalone reguły gry dla badań wykorzystujących własnościowe modele. Jeśli laboratoria takie jak OpenAI chcą zapobiec podobnym kontrowersjom, będą musiały znacznie jaśniej zdefiniować, co oznacza nieużywanie danych użytkowników. A dla badaczy z tego płynie jasna lekcja. Praca nad przełomowym odkryciem w interfejsie modelu, który nie należy do ciebie, oznacza narażenie się na ryzyko, że ostatecznie twoje narzędzie pokona ciebie samego.

Werdykt Lilith

Problemem nie jest to, że ktoś inny jest pierwszy. Chodzi o to, że jeśli OpenAI korzysta z sygnałów o przełomach, modele chmurowe działają jak agencja informacyjna dla deweloperów, którym powierzasz swoje badania.