Arrakis / Modelos

Consigo rodar?

A memória de GPU que cada modelo aberto popular precisa, as GPUs em que ele cabe e quanto custam por hora. Ou verifique qualquer modelo do Hugging Face.

O nome ou o link. Modelos restritos também funcionam: a contagem de parâmetros é pública.

Modelos abertos populares

A memória para servir cada modelo, com a menor configuração de GPU que o comporta e o menor preço na Arrakis agora. Os mais baixados primeiro.

ModeloParâmetros16 bits4 bits
Qwen3-14BQwen15B35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-4BQwen4.0B9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-4-31B-itgoogle31B75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-8BQwen8.2B20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.8-27BQwen28B67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-4BQwen4.7B11 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-VL-8B-InstructQwen8.8B21 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora5,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-9BQwen9.7B23 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora5,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
GLM-5.3-Flashzai-org321B771 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4193 GB: uma B300, a partir de US$ 4,60 por GPU-hora
gemma-4-26B-A4B-itgoogle26B62 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora15 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-V3.2deepseek-ai685B1.645 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
gpt-oss-20bopenai21B50 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora13 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-VL-7B-InstructQwen8.3B20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora5,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-7B-InstructQwen7.6B18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.6-35B-A3BQwen36B86 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora22 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-3.1-8B-Instructmeta-llama8.0B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-1.5B-InstructQwen1.5B3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-VL-4B-InstructQwen4.4B11 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-1.7BQwen2.0B4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.8-Flash-NextQwen180B432 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2108 GB: uma H200, a partir de US$ 4,03 por GPU-hora
Unlimited-OCRbaidu3.3B8,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-2BQwen2.3B5,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-V4-Flash-0731deepseek-ai304B730 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4183 GB: uma B300, a partir de US$ 4,60 por GPU-hora
Qwen2.5-3B-InstructQwen3.1B7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-32BQwen33B79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gpt-oss-120bopenai117B280 GB: 2 × H200, a partir de US$ 8,06 por hora pelas 270 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora
Qwen3-4B-Instruct-2507Qwen4.0B9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
GLM-5.3zai-org753B1.808 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
Llama-3.2-1B-Instructmeta-llama1.2B3,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.6-27BQwen28B67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-OCRdeepseek-ai3.3B8,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-V4.1-Flashdeepseek-ai763B1.832 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8458 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
Qwen2.5-Coder-14B-InstructQwen15B35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
NVIDIA-Nemotron-3-Nano-4B-BF16nvidia4.0B9,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-27BQwen28B67 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
NVIDIA-Nemotron-3-Nano-30B-A3B-BF16nvidia32B76 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Mistral-7B-Instruct-v0.2mistralai7.2B17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-35B-A3BQwen36B86 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora22 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-R1deepseek-ai684B1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
DeepSeek-V3deepseek-ai684B1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
GLM-5zai-org754B1.809 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
Qwen2.5-VL-3B-InstructQwen3.8B9,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-7B-InstructQwen7.6B18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-VL-2B-InstructQwen2.1B5,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16nvidia561B1.345 GB: 8 × B200, a partir de US$ 54,32 por hora pelas 8336 GB: 2 × B200, a partir de US$ 13,58 por hora pelas 2
MiniMax-M2.5MiniMaxAI229B549 GB: 4 × H200, a partir de US$ 16,12 por hora pelas 4137 GB: uma H200, a partir de US$ 4,03 por GPU-hora
Hy3tencent299B717 GB: 4 × B200, a partir de US$ 27,16 por hora pelas 4179 GB: uma B200, a partir de US$ 6,79 por GPU-hora
GLM-4.5-Airzai-org110B265 GB: 2 × H200, a partir de US$ 8,06 por hora pelas 266 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16nvidia32B76 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
NVIDIA-Nemotron-3-Super-120B-A12B-BF16nvidia124B297 GB: 4 × H100, a partir de US$ 6,60 por hora pelas 474 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora
MiniCPM5-2Bopenbmb2.5B6,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-30B-A3B-Instruct-2507Qwen31B73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-3.2-3B-Instructmeta-llama3.2B7,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-32B-InstructQwen33B79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2-VL-2B-InstructQwen2.2B5,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3.5-122B-A10BQwen125B300 GB: 4 × H100, a partir de US$ 6,60 por hora pelas 475 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora
Qwen3-30B-A3BQwen31B73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
GLM-5.1zai-org754B1.809 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8452 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2
DeepSeek-V4-Flashdeepseek-ai291B698 GB: 4 × B200, a partir de US$ 27,16 por hora pelas 4175 GB: uma B200, a partir de US$ 6,79 por GPU-hora
Qwen3.5-397B-A17BQwen403B968 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4242 GB: uma B300, a partir de US$ 4,60 por GPU-hora
GLM-4.7-Flashzai-org31B75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-3-4b-itgoogle4.3B10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-Coder-30B-A3B-InstructQwen31B73 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-VL-32B-InstructQwen33B80 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Kimi-K3moonshotai2.8T6.672 GB: mais de uma máquina de 8 GPUs1.668 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8
Qwen2.5-14B-InstructQwen15B35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora8,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-R1-Distill-Qwen-1.5Bdeepseek-ai1.8B4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
HunyuanOCRtencent1.1B2,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
InternVL2-1BOpenGVLab0.9B2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-3-1b-itgoogle1.0B2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
SmolLM3-3BHuggingFaceTB3.1B7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-1.5BQwen1.5B3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
diffusiongemma-26B-A4B-itgoogle26B62 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora15 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
InternVL3_5-GPT-OSS-20B-A4B-Preview-HFOpenGVLab21B51 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora13 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Cosmos-Reason2-2Bnvidia2.4B5,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-3.1-8Bmeta-llama8.0B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2-VL-7B-InstructQwen8.3B20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora5,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
granite-4.1-3bibm-granite3.4B8,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-4B-Thinking-2507Qwen4.0B9,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-7BQwen7.6B18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-3.2-1Bmeta-llama1.2B3,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-32B-InstructQwen33B79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-OCR-2deepseek-ai3.4B8,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Hermes-3-Llama-3.1-8BNousResearch8.0B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Mistral-7B-v0.1mistralai7.2B17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-1.5B-InstructQwen1.5B3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-3B-InstructQwen3.1B7,4 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-Coder-NextQwen80B191 GB: uma B300, a partir de US$ 4,60 por GPU-hora48 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora
Qwen3-VL-30B-A3B-InstructQwen31B75 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Kimi-K2.5moonshotai1.0T2.465 GB: mais de uma máquina de 8 GPUs616 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8
medgemma-4b-itgoogle4.3B10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-7BQwen7.6B18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Apertus-8B-Instruct-2509swiss-ai8.1B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Phi-3.5-mini-instructmicrosoft3.8B9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
LocateAnything-3Bnvidia3.8B9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
phi-4microsoft15B35 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora8,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen2.5-Coder-1.5BQwen1.5B3,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-3.3-70B-Instructmeta-llama71B169 GB: uma B200, a partir de US$ 6,79 por GPU-hora42 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora
DeepSeek-V4-Prodeepseek-ai1.6T3.837 GB: mais de uma máquina de 8 GPUs959 GB: 4 × B300, a partir de US$ 18,40 por hora pelas 4
MiniCPM-V-4.7-35B-A3Bopenbmb35B85 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora21 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
MiniMax-M2.7MiniMaxAI229B549 GB: 4 × H200, a partir de US$ 16,12 por hora pelas 4137 GB: uma H200, a partir de US$ 4,03 por GPU-hora
Phi-3.5-vision-instructmicrosoft4.1B10,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-R1-Distill-Qwen-32Bdeepseek-ai33B79 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-R1-0528-Qwen3-8Bdeepseek-ai8.2B20 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,9 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Qwen3-235B-A22BQwen235B564 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8141 GB: uma B200, a partir de US$ 6,79 por GPU-hora
Phi-4-mini-instructmicrosoft3.8B9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-3-12b-itgoogle12B29 GB: uma RTX 5090, a partir de US$ 0,58 por GPU-hora7,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-3-27b-itgoogle27B66 GB: uma H100 ou A100, a H100 a partir de US$ 1,65 por GPU-hora16 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
phi-2microsoft2.8B6,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Llama-2-7b-hfmeta-llama6.7B16 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
granite-3.3-2b-instructibm-granite2.5B6,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora1,5 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Phi-3-mini-4k-instructmicrosoft3.8B9,2 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,3 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
EXAONE-3.5-7.8B-InstructLGAI-EXAONE7.8B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,7 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Kimi-K2-Instructmoonshotai1.0T2.463 GB: mais de uma máquina de 8 GPUs616 GB: 8 × H100, a partir de US$ 13,20 por hora pelas 8
DeepSeek-R1-Distill-Qwen-7Bdeepseek-ai7.6B18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
Meta-Llama-3-8B-Instructmeta-llama8.0B19 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,8 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
gemma-3-4b-ptgoogle4.3B10 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
deepseek-coder-7b-instruct-v1.5deepseek-ai6.9B17 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora4,1 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
MiniCPM5-1Bopenbmb1.1B2,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora0,6 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora
DeepSeek-V3-0324deepseek-ai685B1.643 GB: 8 × B300, a partir de US$ 36,80 por hora pelas 8411 GB: 2 × B300, a partir de US$ 9,20 por hora pelas 2

Perguntas

O ajuste fino precisa de mais memória do que servir: veja o guia de memória de GPU.

Como vocês calculam a memória que um modelo precisa?
A contagem de parâmetros, tirada dos arquivos no Hugging Face, vezes os bytes que cada parâmetro ocupa: 2 em 16 bits, 1 em 8 bits e meio byte em 4 bits. Servir adiciona cerca de 20% para o cache KV e as ativações; contextos longos e lotes grandes precisam de mais. O guia de memória de GPU tem as regras, e a memória que o ajuste fino exige.
Por que um modelo de mistura de especialistas precisa de memória para todos os parâmetros?
Cada token usa só alguns especialistas, mas qualquer token pode precisar de qualquer especialista, então todos ficam na memória da GPU. Menos parâmetros ativos o deixam mais rápido, não menor.
Posso verificar um modelo que não está listado aqui?
Sim. Cole o nome ou o link de qualquer modelo do Hugging Face na verificação no topo desta página. Modelos restritos também funcionam: a contagem de parâmetros é pública.
Como implanto um modelo na Arrakis?
Abra Models no console, cole o nome do modelo, escolha vLLM, SGLang ou llama.cpp e alugue uma GPU em que ele caiba. Você recebe um endpoint compatível com OpenAI com sua própria chave de API, e SSH root na máquina.

Sirva qualquer modelo em uma GPU sua, por hora.