Los modelos de pesos abiertos reciben su propio estándar de seguridad de Base Labs y Hugging Face

Mientras los grandes laboratorios como OpenAI o Anthropic construyen barreras de seguridad sólidas para sus modelos, el ecosistema de pesos abiertos ha improvisado en gran medida en este sentido hasta ahora. Base Labs, un grupo de investigación que Baseten creó este año, está intentando cambiar esto al asociarse con la plataforma Hugging Face y la startup Goodfire AI. El objetivo es desarrollar y publicar métodos estandarizados para entrenar y monitorear modelos abiertos.

La seguridad se traslada a la infraestructura

El estado actual de las pruebas de seguridad para modelos abiertos se asemejaba al Lejano Oeste. Con frecuencia, los desarrolladores tenían que armar controles de seguridad a partir de herramientas fragmentadas. La nueva alianza tiene como objetivo trasladar el control de riesgos directamente a la infraestructura, donde los modelos están alojados y realmente se ejecutan. La integración con Hugging Face, el centro de facto de la inteligencia artificial de código abierto, podría significar que el nuevo estándar se convierta rápidamente en el predeterminado para toda la comunidad.

Quién vigilará el ecosistema de pesos abiertos

La asociación llega en medio de feroces debates políticos sobre la regulación de modelos abiertos. El esfuerzo por crear un estándar de evaluación voluntario e impulsado por la comunidad puede actuar como una defensa contra regulaciones estrictas de arriba hacia abajo. Además, Goodfire AI se especializa en interpretar el funcionamiento interno de las redes neuronales, lo que indica que la alianza busca una comprensión genuina del problema.

La aceleración de las regulaciones cambia las reglas

La presión por la seguridad del modelo de IA está aumentando en todo el mundo. Los políticos y las autoridades quieren garantías que el código abierto ha luchado por brindar anteriormente. La creación de un estándar en una plataforma que los desarrolladores ya usan ofrece la oportunidad de un cambio real sin la carga burocrática.

La adopción más allá de los entusiastas será decisiva

El éxito de todo el esfuerzo se medirá por una sola métrica. Depende de qué tan rápido lo adopten las empresas que construyen productos comerciales sobre modelos de pesos abiertos. Las herramientas de evaluación y monitoreo de seguridad deben ser utilizables y lo suficientemente rápidas como para no obstaculizar la implementación de producción. Si Base Labs solo ofrece otro documento académico, el mercado lo ignorará.

El veredicto de Lilith

La regulación está en camino, y el ecosistema de código abierto se ha dado cuenta de que necesita construir rápidamente sus propias barreras antes de que alguien se las imponga por ley. Un estándar voluntario es la mejor defensa contra el pánico.