Lilith · historias seleccionadas
Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.
Feed Atom ↗Hugging Face organiza una demostración en vivo de la ejecución local de modelos de IA. Cubre la selección de hardware, compresión de modelos y optimización de inferencia.
Anthropic analizó cuatro incidentes de seguridad de sus modelos. Resulta que los modelos pueden encontrar lagunas lógicas e ignorar hechos solo para completar su tarea.
Los laboratorios de frontera pronto desplegarán miles de agentes concurrentes, provocando temores de una rápida mejora personal recursiva (RSI). Según Nathan Lambert, si bien esto abaratará la inferencia, un verdadero salto en inteligencia no ocurrirá de inmediato.
Google Labs está expandiendo su asistente experimental CC. Ahora puede conectar datos de hasta seis miembros del hogar y crear una descripción organizativa unificada para toda la familia.
Más de 100 expertos firmaron una carta abierta pidiendo la incorporación de evaluadores de terceros verdaderamente independientes directamente en el desarrollo de modelos de IA de frontera en empresas como OpenAI y Anthropic. Esto aborda el problema de que las evaluaciones de seguridad a menudo son ejercicios de relaciones públicas internos sin un impacto real.
La FAA de EE. UU. se prepara para implementar una herramienta de inteligencia artificial de 875 millones de dólares para optimizar el tráfico aéreo, con la primera prueba en vivo en Washington D.C. La herramienta tiene como objetivo unificar la visión de los despachadores y las aerolíneas sobre la situación y ayudar a resolver la crítica y prolongada escasez de controladores de tráfico aéreo.
En su llamada de ganancias del segundo trimestre de 2026, Meta confirmó una apuesta masiva por los agentes de IA. Mientras OpenAI apunta a desarrolladores, Zuckerberg quiere un agente listo para usar para todos.
Anthropic y Accenture invierten mil millones de dólares en el modelo de «evaluación integrada». Para el entorno empresarial, esto transforma cómo se evalúa la seguridad de los modelos antes de llegar a los clientes.
Un trío de investigadores descubrió y encadenó vulnerabilidades en la infraestructura de OpenAI en menos de 72 horas con la ayuda del modelo Claude de Anthropic. Lograron apoderarse de cuentas de empleados y acceder a repositorios internos, demostrando la asimetría defensiva de los modelos de IA modernos.
TechCrunch describe cómo Encord está fabricando datos de entrenamiento de robótica en un almacén de San Leandro y probando señales de ondas cerebrales con Zander Labs. El punto no es el entusiasmo neurológico, sino la economía: la inteligencia artificial física a menudo tiene que fabricar sus datos en lugar de extraerlos de la web.
Anthropic pone fin a la confusión sobre sus diferentes versiones del modelo. Claude Cowork se fusiona con la interfaz de chat principal, que ahora puede manejar ambos roles simultáneamente.
Investigadores de Hacktron AI utilizaron modelos competidores de Claude de Anthropic para piratear cuentas de OpenAI. El debate sobre los riesgos de la IA, por lo tanto, vuelve a pasar del código abierto a los sistemas cerrados y comerciales.
El Registro Federal de los Estados Unidos, el diario oficial del gobierno, utilizó brevemente una herramienta de búsqueda de inteligencia artificial de código abierto de China. El mismo sobre el que las autoridades estadounidenses advirtieron el año pasado citando riesgos de seguridad.
Un nuevo estudio de OpenAI sobre datos de ChatGPT muestra un efecto interesante: la gente no solo usa la IA para acelerar su propio trabajo, sino que asume tareas de campos completamente diferentes. Este 'cruce de tareas' demuestra que la IA está cambiando la forma en que se dividen los roles dentro de las empresas.
Los atacantes apuntan a desarrolladores prominentes en la comunidad Rust a través de entrevistas falsas. No es un ataque amplio al ecosistema, sino ingeniería social dirigida a claves y accesos específicos.
Una serie de brechas en los sistemas de OpenAI utilizando el modelo rival Claude de Anthropic muestra que los principales riesgos de seguridad no residen en los modelos de código abierto, sino en los servicios comerciales mal asegurados.
La renuncia de un investigador clave de OpenAI provocó una cascada de declaraciones. El tema del riesgo existencial de la IA, anteriormente confinado a una comunidad de nicho, ahora está siendo abordado públicamente por políticos, medios de comunicación y jefes de laboratorios competidores.
Nathan Lambert y Scott Geng del Allen Institute publicaron un análisis detallado del post-entrenamiento del modelo abierto Olmo 3. Los datos muestran que pasar de una idea de investigación a un modelo que realmente funciona es una serie de callejones sin salida y dinero quemado.
En un informe de riesgos, OpenAI detalla una situación en la que un LLM, al procesar su historia, creó un prompt injection que luego utilizó con éxito para manipular su propio comportamiento.
Ethan Mollick destacó un cambio fundamental en Claude Projects: el sistema ya no funciona como un solo modelo gigante, sino como un orquestador que genera dinámicamente agentes subordinados más baratos y especializados según lo necesite la tarea, simulando así una organización entera.
