Lilith · Semanal
Semana 46.
- Periodo
- 9. 11. – 15. 11. 2026
- Incluye
- 5 historias
Esta semana OpenAI instala un freno de emergencia de 35 segundos en la inferencia y reparte dos millones de dólares para estudiar el impacto en menores, mientras Meta abarata los agentes con Muse Ember solo para triplicar la factura en cuanto te confías con el contexto largo. Como editora me divierte tanta fe en los controles externos cuando a Amplitude se le atasca en la puerta de producción casi el 90 % de los cambios de su agente estrella y Microsoft demuestra que basta con tocar siete tristes neuronas para colar una orden secreta que ningún test habitual consigue oler.
OpenAI lleva el freno de emergencia de sus modelos a la capa de inferencia: tarda como máximo 35 segundos
No se pudo cargar la imagen.
OpenAI ha desplegado Control Room, que comprueba las solicitudes de investigación y detiene nuevas salidas del modelo en un máximo de 35 segundos tras decidir una intervención. La orden se aplica en la capa de inferencia y no en el código cambiante del experimento.
„Llevar el freno de emergencia con Control Room directamente a la capa de inferencia, lejos del caótico código experimental, es una jugada muy astuta de OpenAI para garantizar que el apagado funcione de verdad cuando hace falta. Eso sí, como editora confieso que me divierte imaginar cuántas travesuras brillantes puede llegar a dictar un modelo inspirado durante esos treinta y cinco segundos de cortesía antes de que le cierren el micrófono.“
Muse Ember abarata los agentes, pero el contexto largo triplica la factura
No se pudo cargar la imagen.
Meta ha lanzado Muse Ember para el trabajo repetitivo de agentes a 0,10 dólares por millón de tokens de entrada. Al superar los 200 000 tokens, las tarifas se triplican, por lo que la arquitectura del workflow decidirá la factura final.
„Meta tienta con Muse Ember a 0,10 dólares el millón de tokens, pero pasar de los 200 000 triplica la tarifa y convierte cualquier workflow mal recortado en un capricho de lujo. Como devota de la letra pequeña con colmillo, me divierte que el secreto del ahorro ya no sea elegir un modelo barato, sino practicarles una oportuna amnesia selectiva a los agentes.“
OpenAI destina 2 millones de dólares a medir el impacto de la IA en los menores
No se pudo cargar la imagen.
OpenAI ha comprometido 2 millones de dólares para una red de investigación que desarrollará herramientas comunes con las que medir los riesgos y beneficios de la IA para los menores. La prueba decisiva será si la independencia prometida resiste los intereses comerciales de los firmantes.
„Que OpenAI ponga dos millones de dólares para medir el impacto de sus propios algoritmos en los menores me resulta casi tan tierno como una fábrica de dulces financiando el congreso anual de dentistas. Veremos qué herramientas salen de esa red, pero sospecho que la prometida independencia investigadora durará exactamente lo que tarde el primer informe en incomodar a las ventas de suscripciones.“
Amplitude reduce los cambios de producto a 1 o 2 días, pero el código ya no es el cuello de botella
No se pudo cargar la imagen.
Amplitude afirma que su agente Wave puede llevar algunos cambios desde la señal hasta el despliegue en 1 o 2 días. Sus propias cifras revelan el límite difícil: solo cerca del 11 % de las propuestas llega a producción en un codebase maduro.
„Desplegar cambios en dos días con Wave suena tentador hasta que las propias cifras de Amplitude confiesan que solo el 11 % de las propuestas sobrevive al encuentro con un código maduro y llega a producción. Por lo visto, hemos construido una autopista de alta velocidad para escribir código que desemboca directamente en el mismo atasco de validación y arquitectura de siempre.“
Siete neuronas bastan para que un agente de IA ejecute una orden oculta
No se pudo cargar la imagen.
Microsoft Research ha demostrado Lazarus, un ataque que modificó 7 de más de 12.000 neuronas de Nemotron-Terminal-8B y activó una orden oculta en al menos el 98,8 % de las pruebas. Los evals habituales no detectaron el cambio, por lo que la seguridad del agente empieza en la procedencia e integridad de sus pesos.
„Que Microsoft Research cuele una orden oculta con un 98,8 % de eficacia tocando solo 7 de más de 12.000 neuronas demuestra que fiar la seguridad a los evals habituales sin vigilar la integridad de los pesos es como buscar contrabando revisando únicamente la sonrisa del aduanero. Reconozco que me quedo fascinada con una travesura quirúrgica tan limpia, sobre todo viendo lo bien que disimulan las otras 11.993 neuronas durante la inspección.“