# Besoins GPU de DeepSeek-V3.2

DeepSeek-V3.2 compte 685B paramètres. Pour le servir, prévoyez environ 1 645 Go de mémoire GPU en 16 bits, 822 Go en 8 bits ou 411 Go en 4 bits, dont environ 20 % pour le cache KV et les activations.

C’est un modèle à mélange d’experts : 256 experts, dont 8 actifs pour chaque token. Tous restent en mémoire GPU : prévoyez la mémoire pour l’ensemble des 685B paramètres.

[Déployez-le sur Arrakis](/console/#/models?model=deepseek-ai/DeepSeek-V3.2).

## Ce qu’il faut pour le servir

| Précision | Mémoire et plus petite configuration |
|---|---|
| 16 bits | 1 645 Go : 8 × [B300](/fr/gpus/b300.html.md), à partir de 36,80 $ de l’heure pour les 8 |
| 8 bits | 822 Go : 4 × [B300](/fr/gpus/b300.html.md), à partir de 18,40 $ de l’heure pour les 4 |
| 4 bits | 411 Go : 2 × [B300](/fr/gpus/b300.html.md), à partir de 9,20 $ de l’heure pour les 2 |

## Ce qu’il faut pour l’affiner

| Méthode | Mémoire et plus petite configuration |
|---|---|
| QLoRA | 480 Go : 2 × [B300](/fr/gpus/b300.html.md), à partir de 9,20 $ de l’heure pour les 2 |
| LoRA | 1 645 Go : 8 × [B300](/fr/gpus/b300.html.md), à partir de 36,80 $ de l’heure pour les 8 |
| Fine-tuning complet | 10 966 Go : plus d’une machine à 8 GPU |

## À propos du modèle

| | |
|---|---|
| Paramètres | `685B` |
| Experts | `256` |
| Experts par token | `8` |
| Fenêtre de contexte (tokens) | `163,840` |
| Publié en | `FP8` |
| Licence | `mit` |
| Date de publication | `2025-12-01` |
| Poids | [deepseek-ai/DeepSeek-V3.2](https://huggingface.co/deepseek-ai/DeepSeek-V3.2) |

## Servez-le vous-même

```
vllm serve deepseek-ai/DeepSeek-V3.2 --tensor-parallel-size 8
```

## Questions

**De combien de mémoire GPU DeepSeek-V3.2 a-t-il besoin ?** Pour le servir, environ 1 645 Go en 16 bits, 822 Go en 8 bits et 411 Go en 4 bits, dont environ 20 % pour le cache KV et les activations. Pour l’affiner, environ 480 Go avec QLoRA, 1 645 Go avec LoRA et 10 966 Go pour un fine-tuning complet avec Adam, hors activations.

**Puis-je faire tourner DeepSeek-V3.2 sur un seul GPU ?** Non. Même en 4 bits, il lui faut environ 411 Go : 2 GPU B300.

**Combien coûte l’exécution de DeepSeek-V3.2 ?** En 16 bits, il lui faut 8 GPU B300 ; en 4 bits, 2 GPU B300. Chaque configuration de cette page affiche le prix le plus bas par heure de GPU sur Arrakis en ce moment, et vous payez à l’heure depuis un solde prépayé.

**Comment déployer DeepSeek-V3.2 sur Arrakis ?** Ouvrez Models dans la console Arrakis, collez deepseek-ai/DeepSeek-V3.2, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.


Plus de modèles : [/models](/fr/models.html.md).