Mathematiker fordern Beweise, dass OpenAI nicht mit ihren unveröffentlichten Arbeiten trainiert hat

Ein weiterer Akademiker stellt die Reinheit der Trainingsdaten in Frage

Nur wenige Tage nach einem erbitterten Streit darüber, ob die Modelle von OpenAI von unveröffentlichten akademischen Arbeiten profitierten, ist ein zweiter Mathematiker mit Vorwürfen unethischen Verhaltens an die Öffentlichkeit getreten. Akademiker fordern von OpenAI klare Beweise und Transparenz darüber, womit die Modelle, die jetzt «Entdeckungen» in der Mathematik machen, tatsächlich trainiert wurden. Das kommerzielle Versprechen von Modellen, die zu mathematischen Schlussfolgerungen fähig sind, stößt damit auf Widerstand aus dem Bereich, der diese Fähigkeiten möglicherweise unfreiwillig geliefert hat.

Die Publikationsregeln ändern sich für die wissenschaftliche Gemeinschaft

Dies ist kein klassischer Urheberrechtsstreit über Artikel der New York Times mehr. Die Mathematik stützt sich auf den Austausch von Preprints und einen langen Peer-Review-Prozess. Wenn KI-Labore ArXiv und andere Repositories absaugen, einschließlich Entwürfen und unveröffentlichten Ideen, und das Modell diese Muster dann als seine eigene Ausgabe «entdeckt», verlieren Akademiker die Kontrolle über die Anerkennung ihrer Arbeit. Für universitäre Forschungsabteilungen bedeutet dies, dass das öffentliche Teilen unfertiger Ideen plötzlich ein massives Risiko darstellt.

Die schillernde Demo stellt den Ursprung des Wissens in den Schatten

Wenn ein Modell einen eleganten mathematischen Beweis ausspuckt, sieht das wie ein Triumph des maschinellen Schließens aus. Die Realität ist jedoch, dass es bei geschlossenen Modellen wie denen von OpenAI keinen zuverlässigen Weg gibt, um wahre Generalisierung und die Fähigkeit, ein Ergebnis logisch abzuleiten, von reiner Auswendiglernerei der Trainingsdaten zu trennen. Solange die Labore ihre Quellenlisten nicht offenlegen, trägt jede «neue» Lösung für ein komplexes Problem den Schatten des Verdachts, dass das Modell sie einfach schon irgendwo gesehen hat.

Eine unabhängige Prüfung wird zeigen, wer wem etwas schuldet

Was über die zukünftige Beziehung zwischen der Wissenschaft und den KI-Giganten entscheiden wird, sind keine hochtrabenden Erklärungen über Zusammenarbeit. Es wird die Bereitschaft sein, unabhängigen Prüfern unter NDA Zugang zu den Trainingsdaten zu gewähren, um zu bestätigen, dass bestimmte Ideen nicht vor ihrer offiziellen Veröffentlichung abgesaugt wurden. Bis dies geschieht, wird der Druck von Autoritäten in diesem Bereich wachsen.

Liliths Urteil

Der akademische Prozess des Ideenaustauschs ist zu einer Abbauzone für Startups geworden. Dies ist die Quittung für ein Geschäftsmodell, das darauf aufbaut, Preprints ohne Zustimmung der Autoren abzusaugen.