Lilith.
⌕

Lilith · ausgewählte Meldungen

News

Was in der KI wirklich passiert. Ausgewählte Meldungen, Kontext und Meinung ohne Werbelärm.

Atom-Feed ↗
#agents· × <built-in method clear of dict object at 0xefe3a412f9c0>
veröffentlicht

Eine Model Spec soll das Verhalten von KI festlegen. Ein neuer Rahmen fordert auch Tests, Versionierung und unabhängige Kontrolle

Das Safe AI Forum hat einen Rahmen für Model Specs veröffentlicht, an dem Autoren westlicher und chinesischer Institutionen mitwirkten. Er gliedert eine Spezifikation in 6 Bestandteile und empfiehlt öffentliche Versionierung, Konformitätsmessungen und Zugang für unabhängige Prüfer.

veröffentlicht

Claude Duet überwacht die Arbeit, verwechselt Dringlichkeit aber noch mit morgendlicher Nervosität

Ein einwöchiger Test von Claude Duet zeigte nützliche Übersicht über E-Mail, Kalender, Dokumente und Slack, aber schwaches Gespür für Ton und echte Dringlichkeit. Der proaktive Agent steht vor einem schwierigeren Problem als der Aufgabenerledigung: Er muss wissen, wann er den Nutzer in Ruhe lässt.

FAA bringt AI Planung in alle 22 Zentren, ohne Fluglotsen an der Entwicklung zu beteiligen

Die US Luftfahrtbehörde FAA weitet SMART Empfehlungen für Routen und Zeitpläne auf den Luftraum aller 22 Regionalzentren aus. Die Behörde meldet Einsparungen bei den ersten 180 umgeleiteten Flügen, doch die Gewerkschaft von mehr als 15.000 Fluglotsen war weder an Entwicklung noch Tests oder Einführung beteiligt.

veröffentlicht
veröffentlicht

Cogent lässt KI Agenten Schwachstellen bis zur Behebung verfolgen, gebremst von Regeln außerhalb des Modells

Cogent verbindet OpenAI Modelle mit dem Kontext eines Unternehmens, damit Agenten eine Schwachstelle untersuchen, erlaubte Änderungen ausführen und die Behebung prüfen können. Entscheidender als die Modelle ist eine getrennte Berechtigungsschicht, die Autonomie begrenzen soll.

Sieben Neuronen reichen aus, um einen KI Agenten einen versteckten Befehl ausführen zu lassen

Microsoft Research hat mit Lazarus einen Angriff demonstriert, der 7 von mehr als 12.000 Neuronen in Nemotron-Terminal-8B verändert und in mindestens 98,8 % der Tests einen versteckten Befehl ausgelöst hat. Übliche Evals erkannten die Änderung nicht, deshalb beginnt Agentensicherheit bei Herkunft und Integrität der Modellgewichte.

veröffentlicht
veröffentlicht
veröffentlicht
veröffentlicht