Arrakis / Modelos / Qwen3.5-397B-A17B

Requisitos de GPU de Qwen3.5-397B-A17B

Qwen3.5-397B-A17B tiene 403B parámetros. Para servirlo, calcula unos 968 GB de memoria de GPU en 16 bits, 484 GB en 8 bits o 242 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 512 expertos, 10 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 403B parámetros.

Desplegar este modelo Comprobar otro modelo

Lo que hace falta para servirlo

La memoria de GPU para ejecutarlo en inferencia, con la configuración de GPU más pequeña que lo sostiene y el precio más bajo en Arrakis ahora mismo.

Precisión	Memoria y configuración mínima
16 bits	968 GB: 4 × B300, desde 18,40 US$ por hora las 4
8 bits	484 GB: 2 × B300, desde 9,20 US$ por hora las 2
4 bits	242 GB: una B300, desde 4,60 US$ por GPU-hora

Lo que hace falta para ajustarlo

QLoRA entrena adaptadores sobre un modelo congelado de 4 bits; LoRA, sobre uno de 16 bits, y el ajuste fino completo actualiza todos los pesos. Las cifras no incluyen las activaciones, que crecen con el tamaño del lote y la longitud de secuencia.

Método	Memoria y configuración mínima
QLoRA	282 GB: 4 × H100, desde 8,28 US$ por hora las 4
LoRA	968 GB: 4 × B300, desde 18,40 US$ por hora las 4
Ajuste fino completo	6.454 GB: más de una máquina de 8 GPU

Sobre el modelo

De su ficha y sus archivos en Hugging Face. Las cifras de memoria siguen la guía de memoria de GPU.

Parámetros: 403B
Activos por token: 17B
Expertos: 512
Expertos por token: 10
Ventana de contexto (tokens): 262,144
Publicado en: BF16
Licencia: apache-2.0
Fecha de publicación: 2026-02-16
Pesos: Qwen/Qwen3.5-397B-A17B

Despliégalo en Arrakis

Abre Models en la consola, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina. O ejecútalo tú mismo en cualquier máquina con suficiente memoria de GPU:

vLLM

vllm serve Qwen/Qwen3.5-397B-A17B --tensor-parallel-size 4

Desplegar este modelo Cómo funciona el despliegue

Preguntas

Los precios en tiempo real de todas las GPU están en la página de precios de GPU.

¿Cuánta memoria de GPU necesita Qwen3.5-397B-A17B?

Para servirlo, unos 968 GB en 16 bits, 484 GB en 8 bits y 242 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 282 GB con QLoRA, 968 GB con LoRA y 6.454 GB para un ajuste fino completo con Adam, sin contar las activaciones.

¿Puedo ejecutar Qwen3.5-397B-A17B en una sola GPU?

Sí, cuantizado. En 4 bits necesita unos 242 GB, que caben en una B300. En 16 bits necesita 4 GPU B300.

¿Cuánto cuesta ejecutar Qwen3.5-397B-A17B?

En 16 bits necesita 4 GPU B300; en 4 bits, una B300. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

¿Cómo despliego Qwen3.5-397B-A17B en Arrakis?

Abre Models en la consola de Arrakis, pega Qwen/Qwen3.5-397B-A17B, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.

Más modelos

Todos los modelos, y una comprobación para cualquier otro.