# Requisitos de GPU de DeepSeek-V3

DeepSeek-V3 tiene 684B parámetros. Para servirlo, calcula unos 1.643 GB de memoria de GPU en 16 bits, 821 GB en 8 bits o 411 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 256 expertos, 8 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 684B parámetros.

[Despliégalo en Arrakis](/console/#/models?model=deepseek-ai/DeepSeek-V3).

## Lo que hace falta para servirlo

| Precisión | Memoria y configuración mínima |
|---|---|
| 16 bits | 1.643 GB: 8 × [B300](/es/gpus/b300.html.md), desde 36,80 US$ por hora las 8 |
| 8 bits | 821 GB: 4 × [B300](/es/gpus/b300.html.md), desde 18,40 US$ por hora las 4 |
| 4 bits | 411 GB: 2 × [B300](/es/gpus/b300.html.md), desde 9,20 US$ por hora las 2 |

## Lo que hace falta para ajustarlo

| Método | Memoria y configuración mínima |
|---|---|
| QLoRA | 479 GB: 2 × [B300](/es/gpus/b300.html.md), desde 9,20 US$ por hora las 2 |
| LoRA | 1.643 GB: 8 × [B300](/es/gpus/b300.html.md), desde 36,80 US$ por hora las 8 |
| Ajuste fino completo | 10.952 GB: más de una máquina de 8 GPU |

## Sobre el modelo

| | |
|---|---|
| Parámetros | `684B` |
| Expertos | `256` |
| Expertos por token | `8` |
| Ventana de contexto (tokens) | `163,840` |
| Publicado en | `FP8` |
| Fecha de publicación | `2024-12-25` |
| Pesos | [deepseek-ai/DeepSeek-V3](https://huggingface.co/deepseek-ai/DeepSeek-V3) |

## Sírvelo tú mismo

```
vllm serve deepseek-ai/DeepSeek-V3 --tensor-parallel-size 8
```

## Preguntas

**¿Cuánta memoria de GPU necesita DeepSeek-V3?** Para servirlo, unos 1.643 GB en 16 bits, 821 GB en 8 bits y 411 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 479 GB con QLoRA, 1.643 GB con LoRA y 10.952 GB para un ajuste fino completo con Adam, sin contar las activaciones.

**¿Puedo ejecutar DeepSeek-V3 en una sola GPU?** No. Incluso en 4 bits necesita unos 411 GB: 2 GPU B300.

**¿Cuánto cuesta ejecutar DeepSeek-V3?** En 16 bits necesita 8 GPU B300; en 4 bits, 2 GPU B300. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

**¿Cómo despliego DeepSeek-V3 en Arrakis?** Abre Models en la consola de Arrakis, pega deepseek-ai/DeepSeek-V3, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.


Más modelos: [/models](/es/models.html.md).