Arrakis / Modelos
Consigo rodar?
A memória de GPU que cada modelo aberto popular precisa, as GPUs em que ele cabe e quanto custam por hora. Ou verifique qualquer modelo do Hugging Face.
Modelos abertos populares
A memória para servir cada modelo, com a menor configuração de GPU que o comporta e o menor preço na Arrakis agora. Os mais baixados primeiro.
| Modelo | Parâmetros | 16 bits | 4 bits |
|---|---|---|---|
| Qwen3-14BQwen | 15B | 35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora | 8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-4BQwen | 4.0B | 9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-4-31B-itgoogle | 31B | 75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-8BQwen | 8.2B | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.8-27BQwen | 28B | 67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-4BQwen | 4.7B | 11 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-VL-8B-InstructQwen | 8.8B | 21 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 5,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-9BQwen | 9.7B | 23 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 5,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| GLM-5.3-Flashzai-org | 321B | 771 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4 | 193 GB: uma B300, a partir de US$ 4,60 por GPU-hora |
| gemma-4-26B-A4B-itgoogle | 26B | 62 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 15 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-V3.2deepseek-ai | 685B | 1.645 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| gpt-oss-20bopenai | 21B | 50 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 13 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-VL-7B-InstructQwen | 8.3B | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 5,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-7B-InstructQwen | 7.6B | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.6-35B-A3BQwen | 36B | 86 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora | 22 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-3.1-8B-Instructmeta-llama | 8.0B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-1.5B-InstructQwen | 1.5B | 3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-VL-4B-InstructQwen | 4.4B | 11 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-1.7BQwen | 2.0B | 4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.8-Flash-NextQwen | 180B | 432 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 | 108 GB: uma H200, a partir de US$ 4,03 por GPU-hora |
| Unlimited-OCRbaidu | 3.3B | 8,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-2BQwen | 2.3B | 5,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-V4-Flash-0731deepseek-ai | 304B | 730 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4 | 183 GB: uma B300, a partir de US$ 4,60 por GPU-hora |
| Qwen2.5-3B-InstructQwen | 3.1B | 7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-32BQwen | 33B | 79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gpt-oss-120bopenai | 117B | 280 GB: 2 × H200, a partir de US$ 8,06 por hora pelas 2 | 70 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora |
| Qwen3-4B-Instruct-2507Qwen | 4.0B | 9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| GLM-5.3zai-org | 753B | 1.808 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| Llama-3.2-1B-Instructmeta-llama | 1.2B | 3,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.6-27BQwen | 28B | 67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-OCRdeepseek-ai | 3.3B | 8,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-V4.1-Flashdeepseek-ai | 763B | 1.832 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 458 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| Qwen2.5-Coder-14B-InstructQwen | 15B | 35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora | 8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| NVIDIA-Nemotron-3-Nano-4B-BF16nvidia | 4.0B | 9,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-27BQwen | 28B | 67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| NVIDIA-Nemotron-3-Nano-30B-A3B-BF16nvidia | 32B | 76 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Mistral-7B-Instruct-v0.2mistralai | 7.2B | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-35B-A3BQwen | 36B | 86 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora | 22 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-R1deepseek-ai | 684B | 1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| DeepSeek-V3deepseek-ai | 684B | 1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| GLM-5zai-org | 754B | 1.809 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| Qwen2.5-VL-3B-InstructQwen | 3.8B | 9,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-7B-InstructQwen | 7.6B | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-VL-2B-InstructQwen | 2.1B | 5,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16nvidia | 561B | 1.345 GB: 8 × B200, a partir de US$ 54,32 por hora pelas 8 | 336 GB: 2 × B200, a partir de US$ 13,58 por hora pelas 2 |
| MiniMax-M2.5MiniMaxAI | 229B | 549 GB: 4 × H200, a partir de US$ 16,12 por hora pelas 4 | 137 GB: uma H200, a partir de US$ 4,03 por GPU-hora |
| Hy3tencent | 299B | 717 GB: 4 × B200, a partir de US$ 27,16 por hora pelas 4 | 179 GB: uma B200, a partir de US$ 6,79 por GPU-hora |
| GLM-4.5-Airzai-org | 110B | 265 GB: 2 × H200, a partir de US$ 8,06 por hora pelas 2 | 66 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora |
| NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16nvidia | 32B | 76 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| NVIDIA-Nemotron-3-Super-120B-A12B-BF16nvidia | 124B | 297 GB: 4 × H100, a partir de US$ 6,60 por hora pelas 4 | 74 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora |
| MiniCPM5-2Bopenbmb | 2.5B | 6,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-30B-A3B-Instruct-2507Qwen | 31B | 73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-3.2-3B-Instructmeta-llama | 3.2B | 7,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-32B-InstructQwen | 33B | 79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2-VL-2B-InstructQwen | 2.2B | 5,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3.5-122B-A10BQwen | 125B | 300 GB: 4 × H100, a partir de US$ 6,60 por hora pelas 4 | 75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora |
| Qwen3-30B-A3BQwen | 31B | 73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| GLM-5.1zai-org | 754B | 1.809 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
| DeepSeek-V4-Flashdeepseek-ai | 291B | 698 GB: 4 × B200, a partir de US$ 27,16 por hora pelas 4 | 175 GB: uma B200, a partir de US$ 6,79 por GPU-hora |
| Qwen3.5-397B-A17BQwen | 403B | 968 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4 | 242 GB: uma B300, a partir de US$ 4,60 por GPU-hora |
| GLM-4.7-Flashzai-org | 31B | 75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-3-4b-itgoogle | 4.3B | 10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-Coder-30B-A3B-InstructQwen | 31B | 73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-VL-32B-InstructQwen | 33B | 80 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Kimi-K3moonshotai | 2.8T | 6.672 GB: mais de uma máquina de 8 GPUs | 1.668 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 |
| Qwen2.5-14B-InstructQwen | 15B | 35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora | 8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-R1-Distill-Qwen-1.5Bdeepseek-ai | 1.8B | 4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| HunyuanOCRtencent | 1.1B | 2,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| InternVL2-1BOpenGVLab | 0.9B | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-3-1b-itgoogle | 1.0B | 2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| SmolLM3-3BHuggingFaceTB | 3.1B | 7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-1.5BQwen | 1.5B | 3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| diffusiongemma-26B-A4B-itgoogle | 26B | 62 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 15 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| InternVL3_5-GPT-OSS-20B-A4B-Preview-HFOpenGVLab | 21B | 51 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 13 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Cosmos-Reason2-2Bnvidia | 2.4B | 5,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-3.1-8Bmeta-llama | 8.0B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2-VL-7B-InstructQwen | 8.3B | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 5,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| granite-4.1-3bibm-granite | 3.4B | 8,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-4B-Thinking-2507Qwen | 4.0B | 9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-7BQwen | 7.6B | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-3.2-1Bmeta-llama | 1.2B | 3,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-32B-InstructQwen | 33B | 79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-OCR-2deepseek-ai | 3.4B | 8,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Hermes-3-Llama-3.1-8BNousResearch | 8.0B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Mistral-7B-v0.1mistralai | 7.2B | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-1.5B-InstructQwen | 1.5B | 3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-3B-InstructQwen | 3.1B | 7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-Coder-NextQwen | 80B | 191 GB: uma B300, a partir de US$ 4,60 por GPU-hora | 48 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora |
| Qwen3-VL-30B-A3B-InstructQwen | 31B | 75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Kimi-K2.5moonshotai | 1.0T | 2.465 GB: mais de uma máquina de 8 GPUs | 616 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8 |
| medgemma-4b-itgoogle | 4.3B | 10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-7BQwen | 7.6B | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Apertus-8B-Instruct-2509swiss-ai | 8.1B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Phi-3.5-mini-instructmicrosoft | 3.8B | 9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| LocateAnything-3Bnvidia | 3.8B | 9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| phi-4microsoft | 15B | 35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora | 8,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen2.5-Coder-1.5BQwen | 1.5B | 3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-3.3-70B-Instructmeta-llama | 71B | 169 GB: uma B200, a partir de US$ 6,79 por GPU-hora | 42 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora |
| DeepSeek-V4-Prodeepseek-ai | 1.6T | 3.837 GB: mais de uma máquina de 8 GPUs | 959 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4 |
| MiniCPM-V-4.7-35B-A3Bopenbmb | 35B | 85 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora | 21 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| MiniMax-M2.7MiniMaxAI | 229B | 549 GB: 4 × H200, a partir de US$ 16,12 por hora pelas 4 | 137 GB: uma H200, a partir de US$ 4,03 por GPU-hora |
| Phi-3.5-vision-instructmicrosoft | 4.1B | 10,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-R1-Distill-Qwen-32Bdeepseek-ai | 33B | 79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-R1-0528-Qwen3-8Bdeepseek-ai | 8.2B | 20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Qwen3-235B-A22BQwen | 235B | 564 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8 | 141 GB: uma B200, a partir de US$ 6,79 por GPU-hora |
| Phi-4-mini-instructmicrosoft | 3.8B | 9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-3-12b-itgoogle | 12B | 29 GB: uma RTX 5090, a partir de US$ 0,58 por GPU-hora | 7,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-3-27b-itgoogle | 27B | 66 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora | 16 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| phi-2microsoft | 2.8B | 6,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Llama-2-7b-hfmeta-llama | 6.7B | 16 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| granite-3.3-2b-instructibm-granite | 2.5B | 6,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Phi-3-mini-4k-instructmicrosoft | 3.8B | 9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| EXAONE-3.5-7.8B-InstructLGAI-EXAONE | 7.8B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Kimi-K2-Instructmoonshotai | 1.0T | 2.463 GB: mais de uma máquina de 8 GPUs | 616 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8 |
| DeepSeek-R1-Distill-Qwen-7Bdeepseek-ai | 7.6B | 18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| Meta-Llama-3-8B-Instructmeta-llama | 8.0B | 19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| gemma-3-4b-ptgoogle | 4.3B | 10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| deepseek-coder-7b-instruct-v1.5deepseek-ai | 6.9B | 17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 4,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| MiniCPM5-1Bopenbmb | 1.1B | 2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora | 0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora |
| DeepSeek-V3-0324deepseek-ai | 685B | 1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8 | 411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2 |
Perguntas
O ajuste fino precisa de mais memória do que servir: veja o guia de memória de GPU.
Como vocês calculam a memória que um modelo precisa?
A contagem de parâmetros, tirada dos arquivos no Hugging Face, vezes os bytes que cada parâmetro ocupa: 2 em 16 bits, 1 em 8 bits e meio byte em 4 bits. Servir adiciona cerca de 20% para o cache KV e as ativações; contextos longos e lotes grandes precisam de mais. O guia de memória de GPU tem as regras, e a memória que o ajuste fino exige.
Por que um modelo de mistura de especialistas precisa de memória para todos os parâmetros?
Cada token usa só alguns especialistas, mas qualquer token pode precisar de qualquer especialista, então todos ficam na memória da GPU. Menos parâmetros ativos o deixam mais rápido, não menor.
Posso verificar um modelo que não está listado aqui?
Sim. Cole o nome ou o link de qualquer modelo do Hugging Face na verificação no topo desta página. Modelos restritos também funcionam: a contagem de parâmetros é pública.
Como implanto um modelo na Arrakis?
Abra Models no console, cole o nome do modelo, escolha vLLM, SGLang ou llama.cpp e alugue uma GPU em que ele caiba. Você recebe um endpoint compatível com OpenAI com sua própria chave de API, e SSH root na máquina.