Meta publica los pesos de Muse Spark Open, un modelo de 816.000 millones de parámetros que corre en dos Mac Studio

Meta publicó el 15 de octubre los pesos de Muse Spark Open, la versión abierta de su modelo Muse Spark, y la presentó como el modelo de pesos abiertos más capaz desarrollado hasta ahora en Estados Unidos, una afirmación basada en sus propias evaluaciones. El lanzamiento llega tres días después de que Meta presentara Muse Wonder, su familia de modelos cerrados más potente, ocasión en la que la empresa había adelantado que los pesos de Muse Spark llegarían pronto. Según el blog de PyTorch, Muse Spark Open comparte el mismo modelo base que Muse Spark 1.3 y suma un entrenamiento posterior de seguridad adicional, pensado para que el modelo resista mejor el uso indebido cuando se ejecuta solo, sin las barreras de protección que acompañan a un servicio gestionado.

La ficha técnica explica buena parte del interés. Se trata de un modelo nativamente multimodal, que acepta texto, imágenes, audio y video y responde en texto, con 816.000 millones de parámetros totales, de los cuales solo unos 42.000 millones se activan para cada token, y una ventana de contexto de un millón de tokens. De acuerdo con la descripción publicada por Hugging Face, cada una de sus 62 capas sustituye la red densa de Muse Glimmer, el modelo pequeño que Meta liberó en agosto, por un bloque de mezcla de expertos con 256 expertos, de los que un enrutador elige ocho por token. Los expertos concentran cerca del 97 % de los parámetros, lo que significa que el modelo necesita la memoria de uno de 816.000 millones, pero calcula a la velocidad aproximada de uno de 42.000 millones. El punto de control en BF16 ocupa alrededor de 1,5 TB, mientras que la versión en NVFP4, con precisión de 4 bits para GPU Blackwell de NVIDIA, cabe en un solo nodo B200.

La parte más llamativa del anuncio es la ejecución local. Meta asegura que es el primer modelo de su clase que funciona en un escritorio, usando dos Mac Studio con el chip M5 Ultra y la última versión de MLX, el marco de Apple para aprendizaje automático. La empresa explica que la arquitectura de memoria unificada permite que la GPU integrada use hasta 512 GB por equipo, de modo que dos máquinas suman cerca de un terabyte y pueden alojar el modelo completo, y que el ancho de banda de 1,2 TB/s basta para leer la pequeña porción de pesos que necesita cada token. Como demostración, Meta lo usó con Muse Code, su herramienta de programación, para introducir correcciones y funciones nuevas en Ice Cubes, un cliente de Mastodon para iOS, y para manejar DaVinci Resolve revisando metraje cuadro a cuadro.

Fuera del escritorio, el modelo ya está disponible por API en Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI, y sus pesos pueden descargarse desde Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden y Microsoft Foundry Models. Funciona con SGLang, vLLM, TensorRT-LLM, Transformers, llama.cpp y Unsloth, y Meta incluye núcleos de GPU Helion autoajustables para SGLang que, según la compañía, aceleran entre 1,03 y 3,95 veces operaciones concretas en GPU de NVIDIA y AMD. En seguridad, Meta afirma que evaluó el modelo conforme a su marco interno de escalado y que superó los umbrales exigidos para publicarlo, con un informe completo pendiente. La licencia es la Muse Model License, con términos comerciales limitados, de modo que no se trata de código abierto en sentido estricto.

Como análisis, la combinación de mezcla de expertos dispersa, cuantización agresiva y memoria unificada acerca a una estación de trabajo un modelo de escala de frontera, aunque el coste de dos Mac Studio con esa memoria, y los cerca de 266 GB de caché que según Hugging Face exige el contexto completo, reservan el uso local a perfiles muy concretos. Lo que habrá que seguir es si las evaluaciones independientes confirman el liderazgo que reclama Meta y cómo encajan los términos de la licencia en los planes de las empresas que buscan desplegar modelos propios.