# Déployez n’importe quel modèle sur votre propre GPU

Texte, images, vidéo et voix depuis Hugging Face, sur vLLM, SGLang, vLLM-Omni ou llama.cpp. Collez vos propres options de moteur, obtenez un endpoint de type OpenAI avec sa propre clé et un accès SSH root, et payez le GPU à l’heure, pas à la requête. Commencez dans la page **Models** de la console ([/console/#/models](/console/#/models)) ou avec `POST /v1/deploy` ([guide](/fr/docs/models.html.md)).

## Ce que vous pouvez servir

- **Texte et vision.** Chat, complétions, embeddings et transcription de la parole sur vLLM, SGLang ou llama.cpp. N’importe quel modèle de Hugging Face, y compris les fichiers GGUF de toute quantification. `POST /v1/chat/completions`
- **Images.** FLUX, Qwen-Image, Z-Image et d’autres sur vLLM-Omni ou SGLang Diffusion. Génération d’images à partir de texte et retouche d’images. `POST /v1/images/generations`
- **Vidéo.** Texte vers vidéo et image vers vidéo avec Wan 2.2, sous forme de tâches que vous lancez, suivez et téléchargez. `POST /v1/videos`
- **Voix et son.** Qwen3-TTS et CosyVoice pour la voix, Stable Audio pour les sons et la musique, sur vLLM-Omni. `POST /v1/audio/speech`

## Modèles populaires d’image, de vidéo et de voix

La mémoire GPU nécessaire à chacun pour servir, et le plus petit GPU qui le contient. Déployez-les tous depuis la page **Models** de la console. Pour les modèles de texte, voir [Besoins GPU des modèles ouverts](/fr/models.html.md).

| Modèle | Produit | Ce qu’il fait | Mémoire GPU | Moteurs |
|---|---|---|---|---|
| `black-forest-labs/FLUX.1-schnell` | Images | Texte vers image rapide, de 1 à 4 étapes | 41 Go : un [L40S](/fr/gpus/l40s.html.md), [RTX 6000 Ada](/fr/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/fr/gpus/rtx-a6000.html.md), la L40S à partir de 0,44 $ par heure de GPU | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.1-dev` | Images | Texte vers image | 41 Go : un [L40S](/fr/gpus/l40s.html.md), [RTX 6000 Ada](/fr/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/fr/gpus/rtx-a6000.html.md), la L40S à partir de 0,44 $ par heure de GPU | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.2-klein-9B` | Images | Texte vers image et retouche | 42 Go : un [L40S](/fr/gpus/l40s.html.md), [RTX 6000 Ada](/fr/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/fr/gpus/rtx-a6000.html.md), la L40S à partir de 0,44 $ par heure de GPU | vLLM-Omni |
| `Qwen/Qwen-Image-2512` | Images | Texte vers image, excellent pour le texte dans les images | 70 Go : un [H100](/fr/gpus/h100.html.md) ou [A100](/fr/gpus/a100.html.md), la H100 à partir de 1,65 $ par heure de GPU | vLLM-Omni, SGLang |
| `Qwen/Qwen-Image-Edit-2511` | Images | Retouche d’images | 70 Go : un [H100](/fr/gpus/h100.html.md) ou [A100](/fr/gpus/a100.html.md), la H100 à partir de 1,65 $ par heure de GPU | vLLM-Omni, SGLang |
| `Tongyi-MAI/Z-Image-Turbo` | Images | Texte vers image rapide, 8 étapes | 25 Go : un [RTX 5090](/fr/gpus/rtx-5090.html.md), à partir de 0,58 $ par heure de GPU | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-T2V-A14B-Diffusers` | Vidéo | Texte vers vidéo, 480p et 720p | 83 Go : un [RTX PRO 6000](/fr/gpus/rtx-pro-6000.html.md), à partir de 1,90 $ par heure de GPU | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-I2V-A14B-Diffusers` | Vidéo | Image vers vidéo | 83 Go : un [RTX PRO 6000](/fr/gpus/rtx-pro-6000.html.md), à partir de 1,90 $ par heure de GPU | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-TI2V-5B-Diffusers` | Vidéo | Texte ou image vers vidéo, 720p, sur un seul GPU | 28 Go : un [RTX 5090](/fr/gpus/rtx-5090.html.md), à partir de 0,58 $ par heure de GPU | vLLM-Omni, SGLang |
| `Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice` | Voix | Synthèse vocale, voix prédéfinies | 6,0 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU | vLLM-Omni |
| `FunAudioLLM/Fun-CosyVoice3-0.5B-2512` | Voix | Synthèse vocale, clonage de voix | 3,0 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU | vLLM-Omni |
| `stabilityai/stable-audio-open-1.0` | Son et musique | Effets sonores et musique | 8,0 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU | vLLM-Omni |
| `lerobot/pi05_base` | Politique robotique | Politique vision-langage-action (pi0.5) | 18 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU | vLLM-Omni |
| `nvidia/GR00T-N1.7-3B` | Politique robotique | Politique pour robots humanoïdes | 9,0 Go : un [RTX 4090](/fr/gpus/rtx-4090.html.md) ou [RTX 3090](/fr/gpus/rtx-3090.html.md), la RTX 3090 à partir de 0,19 $ par heure de GPU | vLLM-Omni |

## Apportez les options que vous avez réglées

Collez vos flags, la commande complète ou une ligne docker run, avec des variables devant et des valeurs JSON entre guillemets. Vous les choisissez et les tenez à jour ; Arrakis s’occupe de l’adresse, du port, de la clé et du modèle, et affiche la ligne de démarrage avant la location. Modifiez-les plus tard sans nouvelle machine : en SSH, éditez `/etc/arrakis/serve` puis lancez `arrakis-serve restart`.

```sh
VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'
```

## Vos options s’exécutent. Rien d’autre.

- **Jamais de shell.** Vos options parviennent au moteur mot pour mot, comme sa liste d’arguments. La syntaxe shell est refusée, jamais exécutée.
- **Une clé à chaque requête.** Un contrôle d’accès sur l’endpoint vérifie sa clé d’API avant qu’une requête n’atteigne le moteur, qui n’écoute qu’à l’intérieur de la machine.
- **Seulement les GPU que vous louez.** Les réglages qui choisissent les GPU d’une machine sont refusés : une machine n’atteint jamais ceux d’un autre locataire.
- **Votre jeton reste le vôtre.** Votre jeton Hugging Face va uniquement à la machine. Arrakis ne le conserve jamais.

## Appelez-le comme n’importe quelle API de type OpenAI

```python
from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")
```

## Questions sur le déploiement de modèles

**Puis-je faire tourner FLUX ou Wan sur mon propre GPU ?** Oui. Dans la page Models de la console, choisissez vLLM-Omni ou SGLang, nommez le modèle comme sur Hugging Face (black-forest-labs/FLUX.1-dev ou Wan-AI/Wan2.2-T2V-A14B-Diffusers), ajoutez un jeton Hugging Face pour un modèle à accès restreint, puis choisissez un GPU qui le contient. L’endpoint répond sur /v1/images/generations ou /v1/videos.

**Quelles options de moteur puis-je utiliser ?** Toutes celles que votre moteur accepte. Vous les collez, le moteur les lit, et vous les tenez à jour au fil de ses versions. Arrakis ne garde que l’endroit où le moteur écoute, sa clé et le modèle, et refuse la syntaxe shell et les réglages qui choisissent les GPU.

**Est-ce du serverless ?** Non. Chaque modèle tourne sur un GPU à lui, facturé à l’heure dès que la machine démarre, jusqu’à ce que vous l’arrêtiez ou que son heure de suppression arrive. Une fois le modèle chargé, pas de démarrage à froid, et rien à payer par image, par seconde ou par token.

**Combien de temps avant que l’endpoint réponde ?** En général quelques minutes : la machine démarre, puis le moteur télécharge le modèle et le charge. Les grands modèles vidéo prennent plus de temps. La console indique quand il est prêt, et affiche le journal du moteur.

**Puis-je changer les options sans nouvelle machine ?** Oui. En SSH, éditez /etc/arrakis/serve/command puis lancez arrakis-serve restart. L’endpoint garde son adresse et sa clé.

**Combien ça coûte ?** Le prix horaire du GPU que vous choisissez, comme pour une location, parmi les machines les moins chères proposées en ce moment. Rien par requête.