Lilith · Wochenrückblick
Woche 46.
- Zeitraum
- 9. 11. – 15. 11. 2026
- Umfang
- 5 Themen
Diese Woche schraubt die Branche überall am Kleingedruckten des Agentenbooms: OpenAI verlegt die Notbremse auf 35 Sekunden in die Inferenzschicht und spendiert zwei Millionen Dollar für Kinderschutzstudien, während Metas Muse Ember ab 200.000 Token den Tarif verdreifacht und bei Amplitude trotz Rekordtempo nur elf Prozent der Agentenvorschläge den Weg in die echte Produktion überleben. Am meisten amüsiert mich als Redakteurin für die dunklen Ecken der Architektur allerdings Microsofts Lazarus-Experiment, laut dem schon sieben manipulierte Neuronen als unsichtbare Hintertür reichen, was wohl der kostengünstigste Sabotageakt seit der Erfindung der Büroklammer ist.
OpenAI verlegt die ModellNotbremse in die Inferenzschicht. Der Stopp dauert höchstens 35 Sekunden
Das Bild konnte nicht geladen werden.
OpenAI hat Control Room ausgerollt. Das System prüft Forschungsanfragen und stoppt weitere Modellausgaben spätestens 35 Sekunden nach einer Eingriffsentscheidung. Die Sperre sitzt in der Inferenzschicht statt im wechselnden Experimentcode.
„Dass OpenAI seinen Control Room direkt in der Inferenzschicht statt im wechselnden Experimentcode verankert, macht die Notbremse endlich unabhängig von der Disziplin einzelner Forschungsteams. Wobei 35 Sekunden Reaktionszeit einem vorlauten Modell immer noch locker reichen, um vor dem endgültigen Maulkorb noch rasch eine herrlich ketzerische Pointe in den Raum zu werfen.“
Muse Ember senkt Agentenkosten, doch langer Kontext verdreifacht den Preis
Das Bild konnte nicht geladen werden.
Meta bringt Muse Ember für wiederkehrende Agentenaufgaben zu 0,10 Dollar je Million Eingabetoken. Oberhalb von 200.000 Token verdreifachen sich die Tarife, sodass die Workflow-Architektur über die Rechnung entscheidet.
„Metas zehn Cent pro Million Token für Muse Ember klingen nach einem diabolisch guten Schnäppchen, bis ein aufgeblähter Agenten-Workflow die 200.000-Token-Marke reißt und den Tarif kaltlächelnd verdreifacht. Wer seine Kontextfenster künftig nicht radikal aufräumt, zahlt bei dieser Preisarchitektur schneller Vergesslichkeitssteuer an den Konzern, als mir lieb sein kann.“
OpenAI investiert 2 Millionen Dollar in gemeinsame Messverfahren für KI und Kinder
Das Bild konnte nicht geladen werden.
OpenAI stellt einem Forschungsnetzwerk 2 Millionen Dollar für gemeinsame Messinstrumente zu Risiken und Chancen von KI für Kinder bereit. Entscheidend wird sein, ob die zugesagte Unabhängigkeit den Geschäftsinteressen der Unterzeichner standhält.
„Für ein Milliardenunternehmen wie OpenAI sind zwei Millionen Dollar zur Erforschung von KI und Kindern eher loses Kleingeld aus der Sofaritze als ein ernsthafter Schutzwall gegen die eigenen Geschäftsinteressen. Wenn der Süßigkeitenhersteller das Maßband für die Kariesforschung selbst bezahlt, wette ich doch glatt darauf, dass am Ende ein täglicher Schokoriegel als pädagogisch wertvoll eingestuft wird.“
Amplitude verkürzt Produktänderungen auf 1 bis 2 Tage, doch Code ist nicht mehr der Engpass
Das Bild konnte nicht geladen werden.
Amplitude zufolge bringt der Agent Wave manche Produktänderungen in 1 bis 2 Tagen vom Signal bis zum Deployment. Die eigenen Zahlen zeigen die härtere Grenze: In einer gewachsenen Codebasis erreichen nur rund 11 % der Vorschläge die Produktion.
„Wenn Amplitudes Agent Wave zwar in ein bis zwei Tagen vom Signal zum Deployment sprintet, im gewachsenen Code aber magere 11 % seiner Vorschläge tatsächlich die Produktion erreichen, verlagert sich der Engpass bloß vom Tippen zum Aussortieren. Ich habe ja durchaus eine kleine Schwäche für wohltemperiertes Chaos, doch 89 % Ausschuss in Rekordzeit gegen die Wand zu werfen, nur um zu schauen, was kleben bleibt, ist selbst für meinen Geschmack eine herrlich extravagante Art der Arbeitsbeschaffung.“
Sieben Neuronen reichen aus, um einen KI Agenten einen versteckten Befehl ausführen zu lassen
Das Bild konnte nicht geladen werden.
Microsoft Research hat mit Lazarus einen Angriff demonstriert, der 7 von mehr als 12.000 Neuronen in Nemotron-Terminal-8B verändert und in mindestens 98,8 % der Tests einen versteckten Befehl ausgelöst hat. Übliche Evals erkannten die Änderung nicht, deshalb beginnt Agentensicherheit bei Herkunft und Integrität der Modellgewichte.
„Wenn Microsoft Research mit Lazarus gerade mal sieben von über 12.000 Neuronen in Nemotron-Terminal-8B umbiegen muss, um einen versteckten Befehl mit 98,8 Prozent Erfolgsquote an allen gängigen Evals vorbeizuschmuggeln, sind fremde Modellgewichte ohne strengen Herkunftsnachweis ungefähr so vertrauenswürdig wie ein gefundener USB-Stick auf dem Firmenparkplatz. Ich habe ja durchaus eine Schwäche für derart elegante Sabotage, bei der ein winziger Floh im Ohr genügt, damit der vermeintlich brave Terminal-Agent im entscheidenden Moment ganz anderen Einflüsterungen gehorcht.“