Arrakis / Modèles
Puis-je le faire tourner ?
La mémoire GPU dont chaque modèle ouvert populaire a besoin, les GPU sur lesquels il tient et leur prix à l’heure. Ou vérifiez n’importe quel modèle de Hugging Face.
Modèles ouverts populaires
La mémoire pour servir chaque modèle, avec la plus petite configuration GPU qui le contient et le prix le plus bas sur Arrakis en ce moment. Les plus téléchargés d’abord.
| Modèle | Paramètres | 16 bits | 4 bits |
|---|---|---|---|
| Qwen3-14BQwen | 15B | 35 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU | 8,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-4BQwen | 4.0B | 9,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-4-31B-itgoogle | 31B | 75 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-8BQwen | 8.2B | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.8-27BQwen | 28B | 67 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-4BQwen | 4.7B | 11 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-VL-8B-InstructQwen | 8.8B | 21 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 5,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-9BQwen | 9.7B | 23 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 5,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| GLM-5.3-Flashzai-org | 321B | 771 Go : 4 × B300, à partir de 18,40 $ de l’heure pour les 4 | 193 Go : un B300, à partir de 4,60 $ par heure de GPU |
| gemma-4-26B-A4B-itgoogle | 26B | 62 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 15 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-V3.2deepseek-ai | 685B | 1 645 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 411 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| gpt-oss-20bopenai | 21B | 50 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 13 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-VL-7B-InstructQwen | 8.3B | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 5,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-7B-InstructQwen | 7.6B | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.6-35B-A3BQwen | 36B | 86 Go : un RTX PRO 6000, à partir de 1,90 $ par heure de GPU | 22 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-3.1-8B-Instructmeta-llama | 8.0B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-1.5B-InstructQwen | 1.5B | 3,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-VL-4B-InstructQwen | 4.4B | 11 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-1.7BQwen | 2.0B | 4,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.8-Flash-NextQwen | 180B | 432 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 | 108 Go : un H200, à partir de 4,03 $ par heure de GPU |
| Unlimited-OCRbaidu | 3.3B | 8,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-2BQwen | 2.3B | 5,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-V4-Flash-0731deepseek-ai | 304B | 730 Go : 4 × B300, à partir de 18,40 $ de l’heure pour les 4 | 183 Go : un B300, à partir de 4,60 $ par heure de GPU |
| Qwen2.5-3B-InstructQwen | 3.1B | 7,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-32BQwen | 33B | 79 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gpt-oss-120bopenai | 117B | 280 Go : 2 × H200, à partir de 8,06 $ de l’heure pour les 2 | 70 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU |
| Qwen3-4B-Instruct-2507Qwen | 4.0B | 9,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| GLM-5.3zai-org | 753B | 1 808 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 452 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| Llama-3.2-1B-Instructmeta-llama | 1.2B | 3,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.6-27BQwen | 28B | 67 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-OCRdeepseek-ai | 3.3B | 8,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-V4.1-Flashdeepseek-ai | 763B | 1 832 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 458 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| Qwen2.5-Coder-14B-InstructQwen | 15B | 35 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU | 8,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| NVIDIA-Nemotron-3-Nano-4B-BF16nvidia | 4.0B | 9,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-27BQwen | 28B | 67 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| NVIDIA-Nemotron-3-Nano-30B-A3B-BF16nvidia | 32B | 76 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Mistral-7B-Instruct-v0.2mistralai | 7.2B | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-35B-A3BQwen | 36B | 86 Go : un RTX PRO 6000, à partir de 1,90 $ par heure de GPU | 22 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-R1deepseek-ai | 684B | 1 643 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 411 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| DeepSeek-V3deepseek-ai | 684B | 1 643 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 411 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| GLM-5zai-org | 754B | 1 809 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 452 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| Qwen2.5-VL-3B-InstructQwen | 3.8B | 9,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-7B-InstructQwen | 7.6B | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-VL-2B-InstructQwen | 2.1B | 5,1 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16nvidia | 561B | 1 345 Go : 8 × B200, à partir de 54,32 $ de l’heure pour les 8 | 336 Go : 2 × B200, à partir de 13,58 $ de l’heure pour les 2 |
| MiniMax-M2.5MiniMaxAI | 229B | 549 Go : 4 × H200, à partir de 16,12 $ de l’heure pour les 4 | 137 Go : un H200, à partir de 4,03 $ par heure de GPU |
| Hy3tencent | 299B | 717 Go : 4 × B200, à partir de 27,16 $ de l’heure pour les 4 | 179 Go : un B200, à partir de 6,79 $ par heure de GPU |
| GLM-4.5-Airzai-org | 110B | 265 Go : 2 × H200, à partir de 8,06 $ de l’heure pour les 2 | 66 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU |
| NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16nvidia | 32B | 76 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| NVIDIA-Nemotron-3-Super-120B-A12B-BF16nvidia | 124B | 297 Go : 4 × H100, à partir de 6,60 $ de l’heure pour les 4 | 74 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU |
| MiniCPM5-2Bopenbmb | 2.5B | 6,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-30B-A3B-Instruct-2507Qwen | 31B | 73 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-3.2-3B-Instructmeta-llama | 3.2B | 7,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-32B-InstructQwen | 33B | 79 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2-VL-2B-InstructQwen | 2.2B | 5,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3.5-122B-A10BQwen | 125B | 300 Go : 4 × H100, à partir de 6,60 $ de l’heure pour les 4 | 75 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU |
| Qwen3-30B-A3BQwen | 31B | 73 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| GLM-5.1zai-org | 754B | 1 809 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 452 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
| DeepSeek-V4-Flashdeepseek-ai | 291B | 698 Go : 4 × B200, à partir de 27,16 $ de l’heure pour les 4 | 175 Go : un B200, à partir de 6,79 $ par heure de GPU |
| Qwen3.5-397B-A17BQwen | 403B | 968 Go : 4 × B300, à partir de 18,40 $ de l’heure pour les 4 | 242 Go : un B300, à partir de 4,60 $ par heure de GPU |
| GLM-4.7-Flashzai-org | 31B | 75 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-3-4b-itgoogle | 4.3B | 10 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-Coder-30B-A3B-InstructQwen | 31B | 73 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-VL-32B-InstructQwen | 33B | 80 Go : un RTX PRO 6000, à partir de 1,90 $ par heure de GPU | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Kimi-K3moonshotai | 2.8T | 6 672 Go : plus d’une machine à 8 GPU | 1 668 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 |
| Qwen2.5-14B-InstructQwen | 15B | 35 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU | 8,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-R1-Distill-Qwen-1.5Bdeepseek-ai | 1.8B | 4,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,1 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| HunyuanOCRtencent | 1.1B | 2,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| InternVL2-1BOpenGVLab | 0.9B | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-3-1b-itgoogle | 1.0B | 2,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| SmolLM3-3BHuggingFaceTB | 3.1B | 7,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-1.5BQwen | 1.5B | 3,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| diffusiongemma-26B-A4B-itgoogle | 26B | 62 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 15 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| InternVL3_5-GPT-OSS-20B-A4B-Preview-HFOpenGVLab | 21B | 51 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 13 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Cosmos-Reason2-2Bnvidia | 2.4B | 5,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-3.1-8Bmeta-llama | 8.0B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2-VL-7B-InstructQwen | 8.3B | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 5,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| granite-4.1-3bibm-granite | 3.4B | 8,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-4B-Thinking-2507Qwen | 4.0B | 9,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-7BQwen | 7.6B | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-3.2-1Bmeta-llama | 1.2B | 3,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-32B-InstructQwen | 33B | 79 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-OCR-2deepseek-ai | 3.4B | 8,1 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Hermes-3-Llama-3.1-8BNousResearch | 8.0B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Mistral-7B-v0.1mistralai | 7.2B | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-1.5B-InstructQwen | 1.5B | 3,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-3B-InstructQwen | 3.1B | 7,4 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-Coder-NextQwen | 80B | 191 Go : un B300, à partir de 4,60 $ par heure de GPU | 48 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU |
| Qwen3-VL-30B-A3B-InstructQwen | 31B | 75 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Kimi-K2.5moonshotai | 1.0T | 2 465 Go : plus d’une machine à 8 GPU | 616 Go : 8 × H100, à partir de 13,20 $ de l’heure pour les 8 |
| medgemma-4b-itgoogle | 4.3B | 10 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-7BQwen | 7.6B | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Apertus-8B-Instruct-2509swiss-ai | 8.1B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Phi-3.5-mini-instructmicrosoft | 3.8B | 9,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| LocateAnything-3Bnvidia | 3.8B | 9,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| phi-4microsoft | 15B | 35 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU | 8,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen2.5-Coder-1.5BQwen | 1.5B | 3,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-3.3-70B-Instructmeta-llama | 71B | 169 Go : un B200, à partir de 6,79 $ par heure de GPU | 42 Go : un L40S, RTX 6000 Ada ou RTX A6000, la L40S à partir de 0,44 $ par heure de GPU |
| DeepSeek-V4-Prodeepseek-ai | 1.6T | 3 837 Go : plus d’une machine à 8 GPU | 959 Go : 4 × B300, à partir de 18,40 $ de l’heure pour les 4 |
| MiniCPM-V-4.7-35B-A3Bopenbmb | 35B | 85 Go : un RTX PRO 6000, à partir de 1,90 $ par heure de GPU | 21 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| MiniMax-M2.7MiniMaxAI | 229B | 549 Go : 4 × H200, à partir de 16,12 $ de l’heure pour les 4 | 137 Go : un H200, à partir de 4,03 $ par heure de GPU |
| Phi-3.5-vision-instructmicrosoft | 4.1B | 10,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-R1-Distill-Qwen-32Bdeepseek-ai | 33B | 79 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-R1-0528-Qwen3-8Bdeepseek-ai | 8.2B | 20 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,9 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Qwen3-235B-A22BQwen | 235B | 564 Go : 8 × H100, à partir de 13,20 $ de l’heure pour les 8 | 141 Go : un B200, à partir de 6,79 $ par heure de GPU |
| Phi-4-mini-instructmicrosoft | 3.8B | 9,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-3-12b-itgoogle | 12B | 29 Go : un RTX 5090, à partir de 0,58 $ par heure de GPU | 7,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-3-27b-itgoogle | 27B | 66 Go : un H100 ou A100, la H100 à partir de 1,65 $ par heure de GPU | 16 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| phi-2microsoft | 2.8B | 6,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Llama-2-7b-hfmeta-llama | 6.7B | 16 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,0 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| granite-3.3-2b-instructibm-granite | 2.5B | 6,1 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 1,5 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Phi-3-mini-4k-instructmicrosoft | 3.8B | 9,2 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,3 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| EXAONE-3.5-7.8B-InstructLGAI-EXAONE | 7.8B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,7 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Kimi-K2-Instructmoonshotai | 1.0T | 2 463 Go : plus d’une machine à 8 GPU | 616 Go : 8 × H100, à partir de 13,20 $ de l’heure pour les 8 |
| DeepSeek-R1-Distill-Qwen-7Bdeepseek-ai | 7.6B | 18 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| Meta-Llama-3-8B-Instructmeta-llama | 8.0B | 19 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,8 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| gemma-3-4b-ptgoogle | 4.3B | 10 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 2,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| deepseek-coder-7b-instruct-v1.5deepseek-ai | 6.9B | 17 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 4,1 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| MiniCPM5-1Bopenbmb | 1.1B | 2,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU | 0,6 Go : un RTX 4090 ou RTX 3090, la RTX 3090 à partir de 0,19 $ par heure de GPU |
| DeepSeek-V3-0324deepseek-ai | 685B | 1 643 Go : 8 × B300, à partir de 36,80 $ de l’heure pour les 8 | 411 Go : 2 × B300, à partir de 9,20 $ de l’heure pour les 2 |
Questions
Le fine-tuning demande plus de mémoire que le service : voir le guide de la mémoire GPU.
Comment calculez-vous la mémoire dont un modèle a besoin ?
Son nombre de paramètres, tiré de ses fichiers sur Hugging Face, multiplié par les octets que prend chaque paramètre : 2 en 16 bits, 1 en 8 bits et un demi-octet en 4 bits. Le service ajoute environ 20 % pour le cache KV et les activations ; les contextes longs et les gros lots en demandent plus. Le guide de la mémoire GPU donne les règles, et la mémoire que demande le fine-tuning.
Pourquoi un modèle à mélange d’experts a-t-il besoin de mémoire pour tous ses paramètres ?
Chaque token n’utilise que quelques experts, mais n’importe quel token peut avoir besoin de n’importe quel expert : tous restent donc en mémoire GPU. Moins de paramètres actifs le rendent plus rapide, pas plus petit.
Puis-je vérifier un modèle qui n’est pas listé ici ?
Oui. Collez le nom ou le lien de n’importe quel modèle de Hugging Face dans la vérification en haut de cette page. Les modèles à accès restreint marchent aussi : leur nombre de paramètres est public.
Comment déployer un modèle sur Arrakis ?
Ouvrez Models dans la console, collez le nom du modèle, choisissez vLLM, SGLang ou llama.cpp et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.