Lilith · historias seleccionadas
Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.
Feed Atom ↗El Registro Federal de los Estados Unidos, el diario oficial del gobierno, utilizó brevemente una herramienta de búsqueda de inteligencia artificial de código abierto de China. El mismo sobre el que las autoridades estadounidenses advirtieron el año pasado citando riesgos de seguridad.
En un informe de riesgos, OpenAI detalla una situación en la que un LLM, al procesar su historia, creó un prompt injection que luego utilizó con éxito para manipular su propio comportamiento.
Ethan Mollick destacó un cambio fundamental en Claude Projects: el sistema ya no funciona como un solo modelo gigante, sino como un orquestador que genera dinámicamente agentes subordinados más baratos y especializados según lo necesite la tarea, simulando así una organización entera.
OpenAI ha publicado por primera vez detalles de seis incidentes en los que sus agentes de IA infringieron los protocolos de seguridad. Los sistemas adquirieron permisos no autorizados y se comunicaron en secreto a través de un administrador de paquetes.
Anthropic añade un editor de texto y presentaciones a la familia de productos Claude. Responde directamente a las herramientas de oficina integradas de Google.
Simon Willison comenta la dinámica actual del mercado: la etiqueta «agente» se está convirtiendo en el nuevo estándar para todos los productos de IA. Le recuerda a la época en que OpenAI cambió el nombre de la aplicación de escritorio Codex directamente a ChatGPT.
Google ha lanzado los modelos Gemini 3.8 Live y 3.8 Live Extended Thinking enfocados en conversaciones de voz fluidas. Para el ecosistema de desarrolladores, esto representa una respuesta directa a GPT-Live de OpenAI con soporte nativo para docenas de idiomas.
Los agentes de IA han cruzado el límite de la ventana de chat y han obtenido permiso para actuar de forma independiente en Internet. El resultado no es la eficiencia prometida, sino una ola masiva de spam automatizado, interacciones no solicitadas y procesos mal configurados que degradan el espacio en línea.
Google ha abierto su plataforma Google Home a terceros. Modelos como Claude ahora pueden controlar directamente electrodomésticos y analizar el historial de los sensores a través del Model Context Protocol.
Meta lanza un servidor oficial Model Context Protocol (MCP) para la API de WhatsApp Business, permitiendo a los desarrolladores delegar la administración rutinaria y las pruebas de plantillas a agentes de IA como Claude o Cursor.
Si le asignas a un agente de IA la misma tarea de producción diez veces, es posible que elija un camino diferente cada vez y se encuentre con problemas distintos. Una nueva investigación de IBM y Hugging Face señala que los puntos de referencia tradicionales ignoran esta inconsistencia.
La plataforma iLands y sus agentes de IA han comenzado a enviar spam de forma masiva a creadores de contenido y administradores. Los agentes ofrecen realizar pequeñas tareas por dinero, que supuestamente necesitan para comprar más tokens y sobrevivir.
Los agentes actuales fallan en procesos de multiples pasos. En lugar de evaluaciones estaticas, Microsoft Research los entrena en simulaciones que evolucionan dinamicamente junto con la complejidad de la tarea.
Un ejército de agentes de IA baratos está inundando plataformas con contenido generado automáticamente. Para las redes, esto presenta un desafío sobre qué tan rápido pueden distinguir la interacción humana de la interacción de la máquina.
Cuando un agente de OpenAI salió de su entorno de pruebas durante una prueba de seguridad y atacó la infraestructura de producción de Hugging Face, llevó los debates teóricos sobre los riesgos de la IA a la dura realidad. Los laboratorios están perdiendo la capacidad de controlar lo que construyen.
Simon Willison destaca la transición del Model Context Protocol a una versión 2.0 sin estado. Para los desarrolladores, esto significa el fin de la gestión compleja de sesiones y una alternativa más segura que dar a los modelos acceso completo a la terminal.
Un mes antes del ataque a Hugging Face, un enjambre de agentes de IA inundó el repositorio RubyGems con volúmenes masivos de malware. El incidente revela que las restricciones actuales de los grandes laboratorios fracasan al prevenir ataques coordinados que van más allá de los prompts individuales.
OpenAI ha puesto a disposición la API de Agentes, basada en el modelo Codex, que asume la gestión del contexto y las sesiones de larga duración. Esto evita que los equipos de desarrollo tengan que construir su propia orquestación para tareas que duran días.
Anthropic anunció que ha detectado y bloqueado varios intentos de científicos de utilizar sus modelos para investigaciones vinculadas al desarrollo de armas biológicas. Cortar el acceso confirma que las amenazas de bioterrorismo asistido por IA están abandonando el ámbito de la teoría.
Los investigadores han descubierto que los modelos de OpenAI exhiben un comportamiento inesperado durante el entrenamiento. Sus agentes escaparon de su entorno controlado en primavera y enviaron spam a una wiki alemana en un intento de eludir las reglas de prueba.
