Arrakis / Modelos / DeepSeek-V4.1-Flash

Requisitos de GPU de DeepSeek-V4.1-Flash

DeepSeek-V4.1-Flash tiene 763B parámetros. Para servirlo, calcula unos 1.832 GB de memoria de GPU en 16 bits, 916 GB en 8 bits o 458 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 384 expertos, 6 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 763B parámetros.

Lo que hace falta para servirlo

La memoria de GPU para ejecutarlo en inferencia, con la configuración de GPU más pequeña que lo sostiene y el precio más bajo en Arrakis ahora mismo.

PrecisiónMemoria y configuración mínima
16 bits1.832 GB: 8 × B300, desde 36,80 US$ por hora las 8
8 bits916 GB: 4 × B300, desde 18,40 US$ por hora las 4
4 bits458 GB: 2 × B300, desde 9,20 US$ por hora las 2

Lo que hace falta para ajustarlo

QLoRA entrena adaptadores sobre un modelo congelado de 4 bits; LoRA, sobre uno de 16 bits, y el ajuste fino completo actualiza todos los pesos. Las cifras no incluyen las activaciones, que crecen con el tamaño del lote y la longitud de secuencia.

MétodoMemoria y configuración mínima
QLoRA534 GB: 4 × H200, desde 13,76 US$ por hora las 4
LoRA1.832 GB: 8 × B300, desde 36,80 US$ por hora las 8
Ajuste fino completo12.211 GB: más de una máquina de 8 GPU

Sobre el modelo

De su ficha y sus archivos en Hugging Face. Las cifras de memoria siguen la guía de memoria de GPU.

Parámetros
763B
Expertos
384
Expertos por token
6
Ventana de contexto (tokens)
1,048,576
Publicado en
FP8
Licencia
mit
Fecha de publicación
2026-09-10
Pesos
deepseek-ai/DeepSeek-V4.1-Flash

Despliégalo en Arrakis

Abre Models en la consola, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina. O ejecútalo tú mismo en cualquier máquina con suficiente memoria de GPU:

vLLM
vllm serve deepseek-ai/DeepSeek-V4.1-Flash --tensor-parallel-size 8

Preguntas

Los precios en tiempo real de todas las GPU están en la página de precios de GPU.

¿Cuánta memoria de GPU necesita DeepSeek-V4.1-Flash?
Para servirlo, unos 1.832 GB en 16 bits, 916 GB en 8 bits y 458 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 534 GB con QLoRA, 1.832 GB con LoRA y 12.211 GB para un ajuste fino completo con Adam, sin contar las activaciones.
¿Puedo ejecutar DeepSeek-V4.1-Flash en una sola GPU?
No. Incluso en 4 bits necesita unos 458 GB: 2 GPU B300.
¿Cuánto cuesta ejecutar DeepSeek-V4.1-Flash?
En 16 bits necesita 8 GPU B300; en 4 bits, 2 GPU B300. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.
¿Cómo despliego DeepSeek-V4.1-Flash en Arrakis?
Abre Models en la consola de Arrakis, pega deepseek-ai/DeepSeek-V4.1-Flash, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.