# Requisitos de GPU de deepseek-coder-7b-instruct-v1.5

deepseek-coder-7b-instruct-v1.5 tiene 6,9B parámetros. Para servirlo, calcula unos 17 GB de memoria de GPU en 16 bits, 8,3 GB en 8 bits o 4,1 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

[Despliégalo en Arrakis](/console/#/models?model=deepseek-ai/deepseek-coder-7b-instruct-v1.5).

## Lo que hace falta para servirlo

| Precisión | Memoria y configuración mínima |
|---|---|
| 16 bits | 17 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |
| 8 bits | 8,3 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |
| 4 bits | 4,1 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |

## Lo que hace falta para ajustarlo

| Método | Memoria y configuración mínima |
|---|---|
| QLoRA | 4,8 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |
| LoRA | 17 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |
| Ajuste fino completo | 111 GB: una [H200](/es/gpus/h200.html.md), desde 4,03 US$ por GPU-hora |

## Sobre el modelo

| | |
|---|---|
| Parámetros | `6.9B` |
| Ventana de contexto (tokens) | `4,096` |
| Publicado en | `BF16` |
| Licencia | `other` |
| Fecha de publicación | `2024-01-25` |
| Pesos | [deepseek-ai/deepseek-coder-7b-instruct-v1.5](https://huggingface.co/deepseek-ai/deepseek-coder-7b-instruct-v1.5) |

## Sírvelo tú mismo

```
vllm serve deepseek-ai/deepseek-coder-7b-instruct-v1.5 --tensor-parallel-size 1
```

## Preguntas

**¿Cuánta memoria de GPU necesita deepseek-coder-7b-instruct-v1.5?** Para servirlo, unos 17 GB en 16 bits, 8 GB en 8 bits y 4 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 5 GB con QLoRA, 17 GB con LoRA y 111 GB para un ajuste fino completo con Adam, sin contar las activaciones.

**¿Puedo ejecutar deepseek-coder-7b-instruct-v1.5 en una sola GPU?** Sí. En 16 bits necesita unos 17 GB, que caben en una RTX 4090 o RTX 3090.

**¿Cuánto cuesta ejecutar deepseek-coder-7b-instruct-v1.5?** En 16 bits necesita una RTX 4090 o RTX 3090; en 4 bits, una RTX 4090 o RTX 3090. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

**¿Cómo despliego deepseek-coder-7b-instruct-v1.5 en Arrakis?** Abre Models en la consola de Arrakis, pega deepseek-ai/deepseek-coder-7b-instruct-v1.5, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.


Más modelos: [/models](/es/models.html.md).