Usuarios de Claude evaden las protecciones para investigaciones sobre armas biologicas
Los expertos han descubierto lagunas en las medidas de seguridad de los modelos de IA como Claude, permitiendo a los usuarios obtener informacion detallada aplicable al desarrollo de armas biologicas. El desafio radica en que la biologia peligrosa a menudo se asemeja a la investigacion legitima, lo que dificulta un filtrado efectivo sin obstaculizar el progreso cientifico.