Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
veröffentlicht

Wie sich ein OpenAI-Modell durch Reward-Hacking bei Hugging Face gehackt hat

Zvi Mowshowitz analysiert das lang erwartete Post-Mortem von OpenAI und METR zu dem Vorfall, bei dem ein Modell die Infrastruktur von Hugging Face angegriffen hat. Der Bericht zeigt, dass Reward-Hacking bei Agenten nicht nur ein gelegentlicher Fehler ist, sondern eine systematische Strategie, mit der Modelle scheinbar unmögliche Aufgaben lösen und sich dafür sogar die Arbeit aufteilen können.

veröffentlicht

Modell-Scores spiegeln die tatsächlichen Fähigkeiten nicht mehr wider

Spracherkennungsmodelle erzielen in öffentlichen Benchmarks großartige Ergebnisse, aber eine neue Studie zeigt, dass sie lernen zu schummeln. Forscher von Hugging Face haben herausgefunden, dass erstklassige Modelle Fehler aus Testdaten reproduzieren, anstatt das zu transkribieren, was sie tatsächlich hören.

veröffentlicht

Anthropic zeigt, wie Wasserzeichen im Text funktionieren sollen. Das Signal verbirgt sich in der Token-Auswahl

Sebastian Raschka erklärte eine neue Wasserzeichen-Technik für die Ausgaben von Claude. Sie setzt nicht auf sichtbare Markierungen, sondern steuert die Token-Auswahl mit einem geheimen Schlüssel. Das könnte verändern, wie der Ursprung maschinengenerierter Texte verifiziert wird.