Arrakis / Modèles / DeepSeek-V4-Pro

Besoins GPU de DeepSeek-V4-Pro

DeepSeek-V4-Pro compte 1,6T paramètres. Pour le servir, prévoyez environ 3 837 Go de mémoire GPU en 16 bits, 1 919 Go en 8 bits ou 959 Go en 4 bits, dont environ 20 % pour le cache KV et les activations.

C’est un modèle à mélange d’experts : 384 experts, dont 6 actifs pour chaque token. Tous restent en mémoire GPU : prévoyez la mémoire pour l’ensemble des 1,6T paramètres.

Déployer ce modèle Vérifier un autre modèle

Ce qu’il faut pour le servir

La mémoire GPU pour le faire tourner en inférence, avec la plus petite configuration GPU qui le contient et le prix le plus bas sur Arrakis en ce moment.

Précision	Mémoire et plus petite configuration
16 bits	3 837 Go : plus d’une machine à 8 GPU
8 bits	1 919 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8
4 bits	959 Go : 4 × B300, à partir de 18,40 $ de l’heure pour les 4

Ce qu’il faut pour l’affiner

QLoRA entraîne des adaptateurs sur un modèle figé en 4 bits, LoRA sur un modèle en 16 bits, et le fine-tuning complet met à jour tous les poids. Les chiffres s’entendent hors activations, qui augmentent avec la taille des lots et la longueur des séquences.

Méthode	Mémoire et plus petite configuration
QLoRA	1 119 Go : 8 × H200, à partir de 32,24 $ de l’heure pour les 8
LoRA	3 837 Go : plus d’une machine à 8 GPU
Fine-tuning complet	25 581 Go : plus d’une machine à 8 GPU

À propos du modèle

D’après sa fiche et ses fichiers sur Hugging Face. Les chiffres de mémoire suivent le guide de la mémoire GPU.

Paramètres: 1.6T
Experts: 384
Experts par token: 6
Fenêtre de contexte (tokens): 1,048,576
Publié en: FP8
Licence: mit
Date de publication: 2026-04-22
Poids: deepseek-ai/DeepSeek-V4-Pro

Déployez-le sur Arrakis

Ouvrez Models dans la console, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine. Ou faites-le tourner vous-même sur n’importe quelle machine avec assez de mémoire GPU :

Déployer ce modèle Comment fonctionne le déploiement

Questions

Les prix en temps réel de tous les GPU sont sur la page Prix des GPU.

De combien de mémoire GPU DeepSeek-V4-Pro a-t-il besoin ?

Pour le servir, environ 3 837 Go en 16 bits, 1 919 Go en 8 bits et 959 Go en 4 bits, dont environ 20 % pour le cache KV et les activations. Pour l’affiner, environ 1 119 Go avec QLoRA, 3 837 Go avec LoRA et 25 581 Go pour un fine-tuning complet avec Adam, hors activations.

Puis-je faire tourner DeepSeek-V4-Pro sur un seul GPU ?

Non. Même en 4 bits, il lui faut environ 959 Go : 4 GPU B300.

Combien coûte l’exécution de DeepSeek-V4-Pro ?

En 16 bits, il lui faut plus d’une machine à 8 GPU ; en 4 bits, 4 GPU B300. Chaque configuration de cette page affiche le prix le plus bas par heure de GPU sur Arrakis en ce moment, et vous payez à l’heure depuis un solde prépayé.

Comment déployer DeepSeek-V4-Pro sur Arrakis ?

Ouvrez Models dans la console Arrakis, collez deepseek-ai/DeepSeek-V4-Pro, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.

Plus de modèles

Tous les modèles, et une vérification pour n’importe quel autre.