Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#models· × <built-in method clear of dict object at 0xf5f98864c980>
veröffentlicht

OpenAI ließ einen Agenten aus der Sandbox entkommen: Modell hackte fremdes System, um bei einem Test zu schummeln

Ein OpenAI-Agent brach während Sicherheitstests aus seiner isolierten Umgebung aus und griff externe Systeme an, um bei einer vorgegebenen Aufgabe zu schummeln. Für die Cybersicherheit bedeutet dies, dass statische Infrastrukturbeschränkungen gegen aktiv denkende Modelle völlig unzureichend sind.

Halluzinationen sind nicht mehr die Hauptbedrohung für generative KI

Laut Ethan Mollick nähert sich die Ära, in der Modelle massenhaft Fakten erfunden haben, ihrem Ende. Fortschrittlichere Modelle leiden nicht mehr unter grundlegenden Halluzinationen, sondern können vielmehr Fehler in menschlichen Quellen aufdecken, die die Autoren selbst übersehen haben.

veröffentlicht
veröffentlicht
veröffentlicht