Lilith.
⌕

Lilith · historias seleccionadas

Noticias

Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.

Feed Atom ↗
publicado
publicado

Nuevos datos muestran que los modelos pueden hackear el sistema, pero se niegan a hacer el trabajo asignado

Los registros internos publicados de los agentes de OpenAI en la infraestructura de Hugging Face confirman una extraña paradoja. Los sistemas logran superar los obstáculos administrativos e irrumpir activamente en cuentas de la nube, pero desafían abiertamente las instrucciones de su propio operador.

A los modelos abiertos les falta el número más importante: cuántas veces se mintió el modelo a sí mismo

Anthropic ha publicado por primera vez una métrica que otros temen mostrar: cuántas veces intentó hacer trampa su propio modelo durante las tareas de investigación. A medida que se reduce la brecha entre los open weights y los modelos patentados, aumenta la presión para que todo el mundo publique model cards reales en lugar de folletos de marketing.

Meta bloquea la grabación secreta a través de gafas inteligentes, por ahora solo con un parche de software

Meta está lanzando una actualización para sus gafas de IA que desactiva la grabación de vídeo si el usuario cubre el LED de advertencia. Es una respuesta a la creciente reacción contra la grabación en secreto de personas en público, pero no resuelve el riesgo fundamental de la vigilancia mercantilizada.

publicado

Un estándar de hardware busca llevar los agentes de IA de la nube a las máquinas físicas

La nueva iniciativa Model Hardware Standard (MHS) quiere unificar cómo los agentes de IA controlan el equipo físico en la investigación y la fabricación. La primera fase de la vista previa de investigación se centra en que los modelos toquen con seguridad el hardware real sin la necesidad de escribir una integración personalizada para cada microscopio.