# Besoins GPU de deepseek-coder-7b-instruct-v1.5

deepseek-coder-7b-instruct-v1.5 compte 6,9B paramètres. Pour le servir, prévoyez environ 17 Go de mémoire GPU en 16 bits, 8,3 Go en 8 bits ou 4,1 Go en 4 bits, dont environ 20 % pour le cache KV et les activations.

[Déployez-le sur Arrakis](/console/#/models?model=deepseek-ai/deepseek-coder-7b-instruct-v1.5).

## Ce qu’il faut pour le servir

| Précision | Mémoire et plus petite configuration |
|---|---|
| 16 bits | 17 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU |
| 8 bits | 8,3 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU |
| 4 bits | 4,1 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU |

## Ce qu’il faut pour l’affiner

| Méthode | Mémoire et plus petite configuration |
|---|---|
| QLoRA | 4,8 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU |
| LoRA | 17 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Fine-tuning complet | 111 Go : un [H200](/fr/gpus/h200.html.md), à partir de 4,03 $ par heure de GPU |

## À propos du modèle

| | |
|---|---|
| Paramètres | `6.9B` |
| Fenêtre de contexte (tokens) | `4,096` |
| Publié en | `BF16` |
| Licence | `other` |
| Date de publication | `2024-01-25` |
| Poids | [deepseek-ai/deepseek-coder-7b-instruct-v1.5](https://huggingface.co/deepseek-ai/deepseek-coder-7b-instruct-v1.5) |

## Servez-le vous-même

```
vllm serve deepseek-ai/deepseek-coder-7b-instruct-v1.5 --tensor-parallel-size 1
```

## Questions

**De combien de mémoire GPU deepseek-coder-7b-instruct-v1.5 a-t-il besoin ?** Pour le servir, environ 17 Go en 16 bits, 8 Go en 8 bits et 4 Go en 4 bits, dont environ 20 % pour le cache KV et les activations. Pour l’affiner, environ 5 Go avec QLoRA, 17 Go avec LoRA et 111 Go pour un fine-tuning complet avec Adam, hors activations.

**Puis-je faire tourner deepseek-coder-7b-instruct-v1.5 sur un seul GPU ?** Oui. En 16 bits, il lui faut environ 17 Go, ce qui tient sur un RTX 4090 ou RTX 3090.

**Combien coûte l’exécution de deepseek-coder-7b-instruct-v1.5 ?** En 16 bits, il lui faut un RTX 4090 ou RTX 3090 ; en 4 bits, un RTX 4090 ou RTX 3090. Chaque configuration de cette page affiche le prix le plus bas par heure de GPU sur Arrakis en ce moment, et vous payez à l’heure depuis un solde prépayé.

**Comment déployer deepseek-coder-7b-instruct-v1.5 sur Arrakis ?** Ouvrez Models dans la console Arrakis, collez deepseek-ai/deepseek-coder-7b-instruct-v1.5, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.


Plus de modèles : [/models](/fr/models.html.md).