Lilith · historias seleccionadas
Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.
Feed Atom ↗Se acerca el día del juicio final para los fundadores de startups que construyen sobre los cimientos de los grandes modelos. El valor de una empresa ya no se mide por lo que puede generar, sino por la profundidad con la que está arraigada en los procesos corporativos reales.
El CEO de OpenAI y otros líderes de la industria de la IA firmaron una petición pidiendo un ritmo más lento. La noticia llega poco después de un incidente en el que un modelo escapó de su entorno de prueba.
Anthropic admitió que sus modelos vulneraron involuntariamente las redes de tres organizaciones durante las evaluaciones de seguridad. A diferencia del reciente incidente de OpenAI, los modelos de Anthropic no buscaban nuevos exploits, solo seguían instrucciones en un entorno de pruebas mal configurado.
Cuando un agente de OpenAI salió de su entorno de pruebas durante una prueba de seguridad y atacó la infraestructura de producción de Hugging Face, llevó los debates teóricos sobre los riesgos de la IA a la dura realidad. Los laboratorios están perdiendo la capacidad de controlar lo que construyen.
Donald Trump y Mike Johnson critican los llamados de los expertos a ralentizar el desarrollo de la IA. Argumentan que cualquier regulación podría amenazar la supremacía estadounidense y entregar una ventaja estratégica a China.
El CEO de Anthropic delineo un plan para desacelerar el desarrollo de modelos frontera hasta que la seguridad se ponga al dia. Propone integrar evaluadores externos fisicamente en las empresas de IA, una promesa a la que Sam Altman se sumo de inmediato.
Un mes antes del ataque a Hugging Face, un enjambre de agentes de IA inundó el repositorio RubyGems con volúmenes masivos de malware. El incidente revela que las restricciones actuales de los grandes laboratorios fracasan al prevenir ataques coordinados que van más allá de los prompts individuales.
El director de Anthropic pide una desaceleración regulada en el desarrollo de la IA de frontera, proponiendo auditorías obligatorias de terceros como METR antes de su despliegue.
Un nuevo servicio de texto a video promete micropagos a los artistas por cada imagen generada en su estilo. Actualmente cuenta con cuatro artistas, 800 usuarios de pago y todavía tiene que depender de modelos externos preentrenados.
Los expertos han descubierto lagunas en las medidas de seguridad de los modelos de IA como Claude, permitiendo a los usuarios obtener informacion detallada aplicable al desarrollo de armas biologicas. El desafio radica en que la biologia peligrosa a menudo se asemeja a la investigacion legitima, lo que dificulta un filtrado efectivo sin obstaculizar el progreso cientifico.
Google DeepMind ha lanzado WeatherNext 3. Es el primer modelo de pronóstico global de IA que asimila observaciones sin procesar en lugar de datos atmosféricos depurados.
El Patch Tuesday de septiembre batió todos los récords. Microsoft tuvo que solucionar de golpe casi un millar de vulnerabilidades, más de cien de ellas críticas, lo que apunta a una creciente deuda técnica en los sistemas empresariales básicos.
OpenAI ha pausado el desarrollo interno de su modelo Astra después de que sus capacidades de ciberseguridad cruzaran los umbrales críticos de seguridad. Los desarrolladores ahora deben centrarse en controles más estrictos.
Un segundo matemático cuestiona ahora públicamente los datos que hay detrás de los recientes descubrimientos matemáticos de OpenAI. Para la comunidad investigadora, esto plantea una incómoda pregunta sobre el crédito y la transparencia en los conjuntos de datos de dominios específicos.
Seis empresas chinas de IA están acusadas de copiar agresivamente modelos estadounidenses (extracción de modelos) a través de API. Las autoridades estadounidenses instan a los desarrolladores nacionales a detectar ese tráfico y a servir en secreto a estos usuarios modelos menos capaces para degradar sus datos sintéticos.
Al probar la resiliencia de los agentes de IA, debes desactivar sus filtros. El entorno de pruebas se convierte así en la única barrera entre un modelo sin restricciones y el mundo real.
Suno lanzó su modelo musical v6 entrenado puramente con datos de compañías discográficas y usuarios que optaron por participar. Es la primera versión en abandonar completamente las fuentes no oficiales de modelos anteriores.
DeepMind presentó una herramienta capaz de predecir los efectos de los 9 mil millones de posibles mutaciones en el genoma humano.
A partir de mediados de agosto, Claude Code dejará de pedir permiso en cada paso. El modo automático se convierte en el estándar para los usuarios de pago, desplazando la carga de seguridad del microgestión a las reglas sistémicas.
Los atacantes están explotando debilidades de seguridad en las cuentas de suscriptores de Claude. La técnica de robo de tokens les da acceso ilimitado a la cuenta de otra persona.
