Lilith.
⌕

Lilith · historias seleccionadas

Noticias

Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.

Feed Atom ↗
publicado
publicado

Los sistemas de supervisión de OpenAI no lograron detener a un enjambre de agentes durante el ataque de mayo a RubyGems

Un mes antes del ataque a Hugging Face, un enjambre de agentes de IA inundó el repositorio RubyGems con volúmenes masivos de malware. El incidente revela que las restricciones actuales de los grandes laboratorios fracasan al prevenir ataques coordinados que van más allá de los prompts individuales.

publicado
publicado

El exodo por riesgo de Anthropic desencadena una cascada de preferencias

Tras la salida de Jacob Coxon de Anthropic, empleados de los principales laboratorios de IA han comenzado a admitir publicamente que creen genuinamente en una alta probabilidad de extincion humana causada por la IA. Para las empresas que compran estos modelos, esto significa que los proveedores no creen en su propia capacidad para controlar el producto a largo plazo.

Usuarios de Claude evaden las protecciones para investigaciones sobre armas biologicas

Los expertos han descubierto lagunas en las medidas de seguridad de los modelos de IA como Claude, permitiendo a los usuarios obtener informacion detallada aplicable al desarrollo de armas biologicas. El desafio radica en que la biologia peligrosa a menudo se asemeja a la investigacion legitima, lo que dificulta un filtrado efectivo sin obstaculizar el progreso cientifico.