Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#research· × <built-in method clear of dict object at 0xefe395c47a00>
veröffentlicht
veröffentlicht
veröffentlicht
veröffentlicht
veröffentlicht

OpenAI lässt vier externe Teams hinein, doch ihre Unabhängigkeit endet am vereinbarten Umfang

OpenAI hat Vereinbarungen mit Apollo Research, METR, Goodfire und Transluce über Prüfungen während Training und interner Nutzung geschlossen. Apollo entsendet sechs Personen für vier Monate, warnt aber, dass Zugang und Veröffentlichung noch nicht seinem Standard einer vollständig unabhängigen Prüfung entsprechen.

veröffentlicht

Ein Agent las ein Buch Zeile für Zeile. Forschungsschwärme machen das Web zur unbezahlten API

Ethan Mollick beschreibt, wie Fable 5.2 bei der Rekonstruktion eines Kurses von W. H. Auden aus dem Jahr 1941 ein Buch im Internet Archive durch wiederholte Volltextsuchen Zeile für Zeile auslas. Ein einzelnes Beispiel misst das Ausmaß nicht, zeigt aber, warum Agenten das Web anders belasten als Menschen.

veröffentlicht

Ohne gutes Messinstrument ist Modellsicherheit nur eine Zahl auf einer Folie

Anthropic hat zehn Empfehlungen für die Konzeption, Durchführung und Dokumentation von Safety Evals veröffentlicht. Der Kern reicht über den Score hinaus: Ohne Validierung von Messkonstrukt, Grader und Unsicherheit weiß ein Team nicht, ob es Modellsicherheit oder den eigenen Prüfapparat misst.

Anthropic beschleunigte die Modellentwicklung um das 1,9 Fache, doch zentrale Belege bleiben verborgen

METR schätzt, dass die Fähigkeiten interner Anthropic Modelle seit Oktober 2025 mit dem 1,9 Fachen des früheren Tempos wachsen und AI Nutzung in der Forschung den Großteil der Beschleunigung erklärt. Das Ergebnis ist relevant, stützt sich aber auch auf von Anthropic geschwärzte Belege.

veröffentlicht
veröffentlicht

Sieben Neuronen reichen aus, um einen KI Agenten einen versteckten Befehl ausführen zu lassen

Microsoft Research hat mit Lazarus einen Angriff demonstriert, der 7 von mehr als 12.000 Neuronen in Nemotron-Terminal-8B verändert und in mindestens 98,8 % der Tests einen versteckten Befehl ausgelöst hat. Übliche Evals erkannten die Änderung nicht, deshalb beginnt Agentensicherheit bei Herkunft und Integrität der Modellgewichte.

·Aktualisiert · X · @GoogleDeepMind ↗

Gemini 4 Carbon kommt nach zwei Wochen in die API und soll die schwierigsten Aufgaben übernehmen

Nach zwei Wochen mit beschränktem Zugang hat Google Gemini 4 Carbon über die API für alle zahlenden Entwickler und Unternehmen sowie in mehreren Produkten für Google AI Ultra Abonnenten freigegeben. Der Einstiegspreis liegt bei 2 Dollar pro Million Input Token, obwohl Google selbst für die meisten Alltagsaufgaben das günstigere Argon empfiehlt.

veröffentlicht