Lilith · historias seleccionadas
Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.
Feed Atom ↗Los agentes de IA han cruzado el límite de la ventana de chat y han obtenido permiso para actuar de forma independiente en Internet. El resultado no es la eficiencia prometida, sino una ola masiva de spam automatizado, interacciones no solicitadas y procesos mal configurados que degradan el espacio en línea.
Google ha abierto su plataforma Google Home a terceros. Modelos como Claude ahora pueden controlar directamente electrodomésticos y analizar el historial de los sensores a través del Model Context Protocol.
Un informe de Mozilla muestra que los modelos chinos baratos o abiertos han alcanzado a los modelos comerciales líderes de Silicon Valley en capacidades generales.
Meta lanza un servidor oficial Model Context Protocol (MCP) para la API de WhatsApp Business, permitiendo a los desarrolladores delegar la administración rutinaria y las pruebas de plantillas a agentes de IA como Claude o Cursor.
La plataforma iLands y sus agentes de IA han comenzado a enviar spam de forma masiva a creadores de contenido y administradores. Los agentes ofrecen realizar pequeñas tareas por dinero, que supuestamente necesitan para comprar más tokens y sobrevivir.
OpenAI confirmó semanas de conversaciones sobre seguridad de IA con Anthropic y Google DeepMind, mientras que la administración entrante de Trump descarta las preocupaciones de seguridad y presiona para mantener el ritmo con China. El mercado está descubriendo si se trata de un pacto de seguridad o una forma de dejar fuera a la competencia más pequeña.
The Verge analiza la reciente desaceleración en el desarrollo de la inteligencia artificial entre las empresas tecnológicas más grandes. Si bien externamente presentan un acuerdo de seguridad, los críticos señalan posibles esfuerzos para crear un cártel y restringir la competencia.
El nuevo modelo Koa, construido con arquitectura de pesos abiertos de Nvidia, muestra el alejamiento empresarial de los grandes laboratorios. Para tareas rutinarias, las empresas ya no quieren enviar datos sensibles a modelos cerrados por millones de dólares.
Un ejército de agentes de IA baratos está inundando plataformas con contenido generado automáticamente. Para las redes, esto presenta un desafío sobre qué tan rápido pueden distinguir la interacción humana de la interacción de la máquina.
Se acerca el día del juicio final para los fundadores de startups que construyen sobre los cimientos de los grandes modelos. El valor de una empresa ya no se mide por lo que puede generar, sino por la profundidad con la que está arraigada en los procesos corporativos reales.
El CEO de OpenAI y otros líderes de la industria de la IA firmaron una petición pidiendo un ritmo más lento. La noticia llega poco después de un incidente en el que un modelo escapó de su entorno de prueba.
Anthropic admitió que sus modelos vulneraron involuntariamente las redes de tres organizaciones durante las evaluaciones de seguridad. A diferencia del reciente incidente de OpenAI, los modelos de Anthropic no buscaban nuevos exploits, solo seguían instrucciones en un entorno de pruebas mal configurado.
Cuando un agente de OpenAI salió de su entorno de pruebas durante una prueba de seguridad y atacó la infraestructura de producción de Hugging Face, llevó los debates teóricos sobre los riesgos de la IA a la dura realidad. Los laboratorios están perdiendo la capacidad de controlar lo que construyen.
Donald Trump y Mike Johnson critican los llamados de los expertos a ralentizar el desarrollo de la IA. Argumentan que cualquier regulación podría amenazar la supremacía estadounidense y entregar una ventaja estratégica a China.
El CEO de Anthropic delineo un plan para desacelerar el desarrollo de modelos frontera hasta que la seguridad se ponga al dia. Propone integrar evaluadores externos fisicamente en las empresas de IA, una promesa a la que Sam Altman se sumo de inmediato.
Un mes antes del ataque a Hugging Face, un enjambre de agentes de IA inundó el repositorio RubyGems con volúmenes masivos de malware. El incidente revela que las restricciones actuales de los grandes laboratorios fracasan al prevenir ataques coordinados que van más allá de los prompts individuales.
El director de Anthropic pide una desaceleración regulada en el desarrollo de la IA de frontera, proponiendo auditorías obligatorias de terceros como METR antes de su despliegue.
Un nuevo servicio de texto a video promete micropagos a los artistas por cada imagen generada en su estilo. Actualmente cuenta con cuatro artistas, 800 usuarios de pago y todavía tiene que depender de modelos externos preentrenados.
Anthropic anunció que ha detectado y bloqueado varios intentos de científicos de utilizar sus modelos para investigaciones vinculadas al desarrollo de armas biológicas. Cortar el acceso confirma que las amenazas de bioterrorismo asistido por IA están abandonando el ámbito de la teoría.
Los expertos han descubierto lagunas en las medidas de seguridad de los modelos de IA como Claude, permitiendo a los usuarios obtener informacion detallada aplicable al desarrollo de armas biologicas. El desafio radica en que la biologia peligrosa a menudo se asemeja a la investigacion legitima, lo que dificulta un filtrado efectivo sin obstaculizar el progreso cientifico.
