Beam activa 23.000 millones de parámetros, pero sus pesos abiertos aún no han llegado
Reflection ha presentado Beam, un modelo sparse Mixture-of-Experts con 501.000 millones de parámetros, de los que activa 23.000 millones durante la inferencia. La empresa promete publicar los pesos con licencia Apache 2.0 en octubre, pero por ahora solo ofrece early access y sus propios benchmarks.