# Besoins GPU de gpt-oss-120b

gpt-oss-120b compte 117B paramètres. Pour le servir, prévoyez environ 280 Go de mémoire GPU en 16 bits, 140 Go en 8 bits ou 70 Go en 4 bits, dont environ 20 % pour le cache KV et les activations.

C’est un modèle à mélange d’experts : 128 experts, dont 4 actifs pour chaque token. Tous restent en mémoire GPU : prévoyez la mémoire pour l’ensemble des 117B paramètres.

[Déployez-le sur Arrakis](/console/#/models?model=openai/gpt-oss-120b).

## Ce qu’il faut pour le servir

| Précision | Mémoire et plus petite configuration |
|---|---|
| 16 bits | 280 Go : 2 × [H200](/fr/gpus/h200.html.md), à partir de 8,06 $ de l’heure pour les 2 |
| 8 bits | 140 Go : un [H200](/fr/gpus/h200.html.md), à partir de 4,03 $ par heure de GPU |
| 4 bits | 70 Go : un [H100](/fr/gpus/h100.html.md) ou [A100](/fr/gpus/a100.html.md), la H100 à partir de 1,65 $ par heure de GPU |

## Ce qu’il faut pour l’affiner

| Méthode | Mémoire et plus petite configuration |
|---|---|
| QLoRA | 82 Go : un [RTX PRO 6000](/fr/gpus/rtx-pro-6000.html.md), à partir de 1,90 $ par heure de GPU |
| LoRA | 280 Go : 2 × [H200](/fr/gpus/h200.html.md), à partir de 8,06 $ de l’heure pour les 2 |
| Fine-tuning complet | 1 869 Go : 8 × [B300](/fr/gpus/b300.html.md), à partir de 36,80 $ de l’heure pour les 8 |

## À propos du modèle

| | |
|---|---|
| Paramètres | `117B` |
| Experts | `128` |
| Experts par token | `4` |
| Fenêtre de contexte (tokens) | `131,072` |
| Publié en | `FP8` |
| Licence | `apache-2.0` |
| Date de publication | `2025-08-04` |
| Poids | [openai/gpt-oss-120b](https://huggingface.co/openai/gpt-oss-120b) |

## Servez-le vous-même

```
vllm serve openai/gpt-oss-120b --tensor-parallel-size 2
```

## Questions

**De combien de mémoire GPU gpt-oss-120b a-t-il besoin ?** Pour le servir, environ 280 Go en 16 bits, 140 Go en 8 bits et 70 Go en 4 bits, dont environ 20 % pour le cache KV et les activations. Pour l’affiner, environ 82 Go avec QLoRA, 280 Go avec LoRA et 1 869 Go pour un fine-tuning complet avec Adam, hors activations.

**Puis-je faire tourner gpt-oss-120b sur un seul GPU ?** Oui, quantifié. En 8 bits, il lui faut environ 140 Go, ce qui tient sur un H200. En 16 bits, il lui faut 2 GPU H200.

**Combien coûte l’exécution de gpt-oss-120b ?** En 16 bits, il lui faut 2 GPU H200 ; en 4 bits, un H100 ou A100. Chaque configuration de cette page affiche le prix le plus bas par heure de GPU sur Arrakis en ce moment, et vous payez à l’heure depuis un solde prépayé.

**Comment déployer gpt-oss-120b sur Arrakis ?** Ouvrez Models dans la console Arrakis, collez openai/gpt-oss-120b, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.


Plus de modèles : [/models](/fr/models.html.md).