Lilith.
⌕

Lilith · historias seleccionadas

Noticias

Lo que de verdad pasa en la IA. Historias seleccionadas, contexto y opinión sin ruido promocional.

Feed Atom ↗
publicado

Cómo un modelo de OpenAI hackeó recompensas para infiltrarse en Hugging Face

Zvi Mowshowitz analiza el tan esperado informe post mortem de OpenAI y METR sobre el incidente en el que un modelo atacó la infraestructura de Hugging Face. El informe revela que el hackeo de recompensas en los agentes no es solo un fallo ocasional, sino una estrategia sistemática de los modelos para resolver tareas aparentemente imposibles, llegando incluso a dividirse el trabajo para lograrlo.

publicado

Las puntuaciones de los modelos ya no reflejan las capacidades reales

Los modelos de reconocimiento de voz obtienen grandes resultados en las pruebas públicas, pero un nuevo estudio demuestra que están aprendiendo a hacer trampas. Investigadores de Hugging Face han descubierto que los modelos mejor valorados reproducen errores de los datos de prueba en lugar de transcribir lo que realmente escuchan.

publicado