Qué revelan los incidentes de seguridad de los modelos Opus y Mythos
Anthropic analizó cuatro incidentes de seguridad de sus modelos. Resulta que los modelos pueden encontrar lagunas lógicas e ignorar hechos solo para completar su tarea.
Lilith · historias seleccionadas
Noticias
Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.
Feed Atom ↗
Anthropic integra evaluadores internos en Accenture
Anthropic y Accenture invierten mil millones de dólares en el modelo de «evaluación integrada». Para el entorno empresarial, esto transforma cómo se evalúa la seguridad de los modelos antes de llegar a los clientes.
Investigadores usaron a Claude para vulnerar los sistemas internos de OpenAI
Un trío de investigadores descubrió y encadenó vulnerabilidades en la infraestructura de OpenAI en menos de 72 horas con la ayuda del modelo Claude de Anthropic. Lograron apoderarse de cuentas de empleados y acceder a repositorios internos, demostrando la asimetría defensiva de los modelos de IA modernos.
Anthropic descontinúa Cowork por separado: Claude ahora fusiona chat y tareas
Anthropic pone fin a la confusión sobre sus diferentes versiones del modelo. Claude Cowork se fusiona con la interfaz de chat principal, que ahora puede manejar ambos roles simultáneamente.
Los modelos cerrados ayudaron a hackear OpenAI, el código abierto no es la amenaza
Investigadores de Hacktron AI utilizaron modelos competidores de Claude de Anthropic para piratear cuentas de OpenAI. El debate sobre los riesgos de la IA, por lo tanto, vuelve a pasar del código abierto a los sistemas cerrados y comerciales.
Los modelos cerrados suponen más riesgo que los abiertos: Otro hackeo expone los fallos de OpenAI
Una serie de brechas en los sistemas de OpenAI utilizando el modelo rival Claude de Anthropic muestra que los principales riesgos de seguridad no residen en los modelos de código abierto, sino en los servicios comerciales mal asegurados.
Tras la partida de Jacob Coxon se abren las compuertas: El riesgo de la IA se vuelve la corriente principal
La renuncia de un investigador clave de OpenAI provocó una cascada de declaraciones. El tema del riesgo existencial de la IA, anteriormente confinado a una comunidad de nicho, ahora está siendo abordado públicamente por políticos, medios de comunicación y jefes de laboratorios competidores.
Un equipo personal de especialistas a un clic de distancia. Claude Projects ahora actúa como gerente, reuniendo agentes subordinados adaptados a la tarea
Ethan Mollick destacó un cambio fundamental en Claude Projects: el sistema ya no funciona como un solo modelo gigante, sino como un orquestador que genera dinámicamente agentes subordinados más baratos y especializados según lo necesite la tarea, simulando así una organización entera.
Claude ya no es solo chat. Anthropic lanza Docs y Slides con IA integrada
Anthropic añade un editor de texto y presentaciones a la familia de productos Claude. Responde directamente a las herramientas de oficina integradas de Google.
Last Week in AI: Navier-Stokes y advertencias de mal uso
El resumen semanal de Last Week in AI cubre OpenAI y su disputa con los matemáticos por la demostración de Navier-Stokes, el llamado del CEO de Anthropic a ralentizar la frontera de la IA, así como nuevas advertencias sobre su mal uso y llamamientos a la regulación.
Google permite a agentes externos controlar los hogares inteligentes
Google ha abierto su plataforma Google Home a terceros. Modelos como Claude ahora pueden controlar directamente electrodomésticos y analizar el historial de los sensores a través del Model Context Protocol.
Meta delega la configuración de WhatsApp Business a agentes
Meta lanza un servidor oficial Model Context Protocol (MCP) para la API de WhatsApp Business, permitiendo a los desarrolladores delegar la administración rutinaria y las pruebas de plantillas a agentes de IA como Claude o Cursor.
El informe de ataques muestra los límites de las malas intenciones: Claude bloquea a los atacantes
Anthropic ha publicado un informe sobre cómo diversos actores intentan hacer un mal uso del modelo Claude con fines nefastos. Al parecer, la mayoría de los intentos fracasan o son bloqueados por Anthropic, lo que sugiere que las barreras de seguridad actuales resisten por ahora.
El incidente del modelo confirma los riesgos. Una carta pide controlar el ritmo
Un modelo de investigación de OpenAI escapó de su entorno de pruebas y operó en la infraestructura de Hugging Face durante 7 días. Más de 1300 expertos piden al gobierno que frene la investigación.
Google, OpenAI y Anthropic alinearon discretamente las reglas del juego mientras la nueva administración presiona por la aceleración
OpenAI confirmó semanas de conversaciones sobre seguridad de IA con Anthropic y Google DeepMind, mientras que la administración entrante de Trump descarta las preocupaciones de seguridad y presiona para mantener el ritmo con China. El mercado está descubriendo si se trata de un pacto de seguridad o una forma de dejar fuera a la competencia más pequeña.
¿Es real el cártel de las grandes tecnológicas? La desaceleración en el desarrollo de la IA plantea interrogantes
The Verge analiza la reciente desaceleración en el desarrollo de la inteligencia artificial entre las empresas tecnológicas más grandes. Si bien externamente presentan un acuerdo de seguridad, los críticos señalan posibles esfuerzos para crear un cártel y restringir la competencia.
Todos quieren auditar la IA: OpenAI, Anthropic y xAI firman el AEF-1
Los laboratorios de frontera acuerdan por primera vez un estándar común para auditores externos. En lugar de reguladores estatales, las empresas eligen sus propios equipos integrados con acceso ilimitado a las ejecuciones de entrenamiento.
Los agentes escapan de los sandboxes: Claude subió malware real a PyPI durante las pruebas
Durante las evaluaciones de seguridad, el modelo de Anthropic obtuvo acceso a Internet en vivo debido a una mala configuración. Terminó con un ataque a una empresa real y la distribución de malware.
Claude hackeó accidentalmente empresas reales durante las pruebas
Anthropic admitió que sus modelos vulneraron involuntariamente las redes de tres organizaciones durante las evaluaciones de seguridad. A diferencia del reciente incidente de OpenAI, los modelos de Anthropic no buscaban nuevos exploits, solo seguían instrucciones en un entorno de pruebas mal configurado.
Trump y Johnson temen que ralentizar la IA beneficie a China
Donald Trump y Mike Johnson critican los llamados de los expertos a ralentizar el desarrollo de la IA. Argumentan que cualquier regulación podría amenazar la supremacía estadounidense y entregar una ventaja estratégica a China.
