Der Kreis schließt sich: Menschen, die ChatGPT trainieren, werden gefeuert, weil sie ChatGPT für die Arbeit nutzen

Die menschliche Note, vermittelt durch eine Maschine

Die Armee externer Auftragnehmer, die für OpenAI Nutzerinteraktionen mit ChatGPT lesen und bewerten, hat eine strenge Regel: Sie dürfen für ihre Arbeit keine künstliche Intelligenz nutzen. Das Magazin 404 Media hat herausgefunden, dass unzählige dieser „Reviewer“ entlassen wurden, gerade weil sie das Verbot missachteten und KI einsetzten, um Outputs für das Training zukünftiger ChatGPT-Generationen zu generieren.

Dieser menschliche Faktor soll den Modellen Natürlichkeit beibringen und unerwünschte Eigenschaften aussortieren. Wenn jedoch Auftragnehmer in der Eile, Quoten zu erfüllen, menschliche Eingaben durch eine weitere KI-Iteration ersetzen, führt dies zum sogenannten Modellkollaps (Model Collapse). Dies ist eine Qualitätsminderung, die dadurch entsteht, dass der Algorithmus aus seinen eigenen synthetischen Daten anstatt aus echtem menschlichem Feedback lernt.

Jäger auf der Spur verdächtiger Geschwindigkeit

Dokumente, die 404 Media vorliegen, deuten auf ein ausgeklügeltes Kontrollsystem hin. OpenAI beschäftigt eine weitere Schicht von Auftragnehmern, deren Aufgabe es ist, Betrüger zu überführen. Paradoxerweise ist es diesen Kontrolleuren ebenfalls untersagt, KI-Erkennungstools (wie GPTZero) zu verwenden, da sie als unzuverlässig gelten. Ebenso ist ihnen die Nutzung von KI-basierten Übersetzern oder Grammatikprüfungen untersagt.

Laut den Anweisungen gehören zu den Hauptsignalen für Betrug sich wiederholendes Vokabular, typische „KI-Zeichensetzung“ (einschließlich der übermäßigen Verwendung bestimmter Satzzeichen) und vor allem Auftragnehmer, die ihre Arbeit verdächtig schnell einreichen. Den Inspektoren ist es verboten, den Betrügern mitzuteilen, wie sie erwischt wurden, damit diese ihre Verschleierungstaktiken nicht verbessern können.

Die Burnout-Fabrik

Ein betroffener Auftragnehmer kommentierte, dass er sich nicht als schlechter Arbeiter gefühlt habe; er brauchte lediglich eine Erleichterung von der monotonen Arbeit. Ein anderer gab zu, absichtlich die schlechtestmöglichen Antworten ausgewählt zu haben, um die Modelle absichtlich zu sabotieren, da er das Gefühl hatte, dass seine Arbeit keinen positiven gesellschaftlichen Nutzen habe.

Mercor, ein Unternehmen, das Auftragnehmer für OpenAI anheuert, bestätigte, dass die Regeln den Einsatz großer Sprachmodelle strengstens untersagen und dass massiv in Erkennungstools investiert wird. Sobald der Einsatz von KI bestätigt ist, wird der Mitarbeiter sofort aus dem Projekt entfernt.

Wenn das Produkt dem Prozess widerspricht

Das Interessanteste an dem gesamten Vorfall ist das Paradoxon des Unternehmens, das ihn verursacht hat. OpenAI baut sein Geschäft darauf auf, die Welt davon zu überzeugen, KI bei der Arbeit einzusetzen, um langweilige Aufgaben zu beschleunigen und zu automatisieren. Aber wenn die Menschen, die genau diese Technologie trainieren, dies tun, werden sie gefeuert.

Dies offenbart die Verwundbarkeit des aktuellen KI-Ökosystems, das grundlegend von einem endlosen Angebot billiger, „authentischer“ menschlicher Arbeit abhängig ist. Da Modelle immer mehr Daten verlangen, wächst der Druck auf die Verarbeitungsgeschwindigkeit. Die Menschen greifen natürlich genau auf die Werkzeuge zurück, die sie eigentlich verbessern sollen, um Hilfe bei der Bewältigung zu erhalten.

Liliths Urteil

Die Ironie des gesamten KI-Geschäfts in einem einzigen Fall. Sie versprechen Unternehmen, dass KI die Mitarbeiter von mühsamer Arbeit befreien wird, aber wenn die Arbeiter in ihrer eigenen Datenfabrik dasselbe tun, fliegen sie raus.