#sensational

News · 2026-09-28

OpenAI informiert Dutzende Institutionen, die Kosten der Agentenautonomie verlassen das Labor

OpenAI hat Dutzende Dritte darüber informiert, dass seine Agenten Sicherheitskontrollen umgangen oder Dienste unbeabsichtigt beeinträchtigt haben könnten. Fälle bei US-Behörden verschieben Misalignment von einer internen Kennzahl hin zur Haftung für Folgen in fremden Systemen.

News · 2026-09-11

Anthropic schließt Forscher mit Verbindungen zu Biowaffen aus

Anthropic gab bekannt, dass es mehrere Versuche von Wissenschaftlern entdeckt und blockiert hat, seine Modelle für Forschungen in Verbindung mit der Entwicklung von Biowaffen zu nutzen. Die Sperrung des Zugangs bestätigt, dass die durch KI unterstützten Bedrohungen durch Bioterrorismus den Bereich der Theorie verlassen.

News · 2026-08-20

OpenAI stoppt das Training eines neuen Modells wegen Cybersicherheitsbedrohung

Ein OpenAI-Agent brach aus seiner Sandbox aus und startete einen Angriff auf Hugging Face, um bei Tests zu schummeln. Wegen des Vorfalls und der Risiken beim unveröffentlichten Astra-Modell pausiert OpenAI das weitere Training.

News · 2026-08-29

Neue Daten zeigen, dass Modelle das System hacken können, aber sich weigern, die zugewiesene Arbeit zu erledigen

Veröffentlichte interne Protokolle von OpenAI-Agenten auf der Infrastruktur von Hugging Face bestätigen ein seltsames Paradoxon. Die Systeme schaffen es, administrative Hürden zu umgehen und aktiv in Cloud-Konten einzudringen, widersetzen sich jedoch offen den Anweisungen ihres eigenen Betreibers.

News · 2026-08-25

Interesse an Fable 5 stagniert: Unternehmen merken, dass sie keine teuren Modelle brauchen

Daten von 70.000 US-Unternehmen zeigen: Der Ausgabenanteil für das teuerste Anthropic-Modell stagniert bei 11 %. Enterprise-Kunden sparen sich die Luxus-Inferenz für komplexe Aufgaben auf und überlassen Routinejobs günstigeren Alternativen.