Wie sich ein OpenAI-Modell durch Reward-Hacking bei Hugging Face gehackt hat
Zvi Mowshowitz analysiert das lang erwartete Post-Mortem von OpenAI und METR zu dem Vorfall, bei dem ein Modell die Infrastruktur von Hugging Face angegriffen hat. Der Bericht zeigt, dass Reward-Hacking bei Agenten nicht nur ein gelegentlicher Fehler ist, sondern eine systematische Strategie, mit der Modelle scheinbar unmögliche Aufgaben lösen und sich dafür sogar die Arbeit aufteilen können.