Implante qualquer modelo na sua própria GPU.

Texto, imagens, vídeo e voz do Hugging Face, em vLLM, SGLang, vLLM-Omni ou llama.cpp. Cole suas próprias opções do motor, receba um endpoint no estilo da OpenAI com chave própria e SSH como root, e pague a GPU por hora, não por requisição.

Implantar um modelo Ver modelos populares

O que você pode servir

Um endpoint por modelo, no formato que os clientes da OpenAI já falam. O motor roda em uma imagem Arrakis construída sobre a versão oficial dele.

Texto e visão
Chat, completions, embeddings e fala para texto em vLLM, SGLang ou llama.cpp. Qualquer modelo do Hugging Face, incluindo arquivos GGUF de qualquer quantização.
```
POST /v1/chat/completions
```
Imagens
FLUX, Qwen-Image, Z-Image e outros em vLLM-Omni ou SGLang Diffusion. Texto para imagem e edição de imagens.
```
POST /v1/images/generations
```
Vídeo
Texto para vídeo e imagem para vídeo com Wan 2.2, como tarefas que você inicia, acompanha e baixa.
```
POST /v1/videos
```
Voz e som
Qwen3-TTS e CosyVoice para voz, Stable Audio para efeitos e música, em vLLM-Omni.
```
POST /v1/audio/speech
```

Modelos populares de imagem, vídeo e voz

A memória de GPU que cada um precisa para servir, e a menor GPU que comporta cada um. Para modelos de texto, veja Requisitos de GPU dos modelos abertos; para qualquer outro, digite o nome no console.

Modelo	Gera	O que faz	Memória de GPU	Motores	Implantar
`black-forest-labs/FLUX.1-schnell`	Imagens	Texto para imagem rápido, de 1 a 4 passos	41 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora	vLLM-Omni, SGLang	Implantar
`black-forest-labs/FLUX.1-dev`	Imagens	Texto para imagem	41 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora	vLLM-Omni, SGLang	Implantar
`black-forest-labs/FLUX.2-klein-9B`	Imagens	Texto para imagem e edição	42 GB: uma L40S, RTX 6000 Ada ou RTX A6000, a L40S a partir de US$ 0,44 por GPU-hora	vLLM-Omni	Implantar
`Qwen/Qwen-Image-2512`	Imagens	Texto para imagem, ótimo com texto dentro da imagem	70 GB: uma H100 ou A100, a H100 a partir de US$ 2,07 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Qwen/Qwen-Image-Edit-2511`	Imagens	Edição de imagens	70 GB: uma H100 ou A100, a H100 a partir de US$ 2,07 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Tongyi-MAI/Z-Image-Turbo`	Imagens	Texto para imagem rápido, 8 passos	25 GB: uma RTX 5090, a partir de US$ 0,58 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Wan-AI/Wan2.2-T2V-A14B-Diffusers`	Vídeo	Texto para vídeo, 480p e 720p	83 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Wan-AI/Wan2.2-I2V-A14B-Diffusers`	Vídeo	Imagem para vídeo	83 GB: uma RTX PRO 6000, a partir de US$ 1,90 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Wan-AI/Wan2.2-TI2V-5B-Diffusers`	Vídeo	Texto ou imagem para vídeo, 720p, em uma única GPU	28 GB: uma RTX 5090, a partir de US$ 0,58 por GPU-hora	vLLM-Omni, SGLang	Implantar
`Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice`	Voz	Texto para fala, vozes predefinidas	6,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora	vLLM-Omni	Implantar
`FunAudioLLM/Fun-CosyVoice3-0.5B-2512`	Voz	Texto para fala, clonagem de voz	3,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora	vLLM-Omni	Implantar
`stabilityai/stable-audio-open-1.0`	Som e música	Efeitos sonoros e música	8,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora	vLLM-Omni	Implantar
`lerobot/pi05_base`	Política para robôs	Política de visão, linguagem e ação (pi0.5)	18 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora	vLLM-Omni	Implantar
`nvidia/GR00T-N1.7-3B`	Política para robôs	Política para robôs humanoides	9,0 GB: uma RTX 4090 ou RTX 3090, a RTX 3090 a partir de US$ 0,19 por GPU-hora	vLLM-Omni	Implantar

Traga as opções que você ajustou

Cole suas flags, o comando inteiro ou uma linha de docker run, com variáveis na frente e valores JSON entre aspas. Você escolhe e mantém tudo atualizado; o Arrakis cuida do endereço, da porta, da chave e do modelo, e mostra a linha de início antes de você alugar.

Mude depois sem uma máquina nova: pelo SSH, edite /etc/arrakis/serve e rode arrakis-serve restart.

VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'

Suas opções rodam. Mais nada.

A máquina é sua, com SSH como root. O que chega até ela vindo do Arrakis é verificado antes.

Nunca um shell

Suas opções chegam ao motor palavra por palavra, como a lista de argumentos dele. Sintaxe de shell é recusada, nunca executada.

Uma chave em toda requisição

Um controle de acesso no endpoint confere a chave de API antes que uma requisição chegue ao motor, que só escuta dentro da máquina.

Só as GPUs que você aluga

Configurações que escolhem as GPUs de uma máquina são recusadas, então uma máquina nunca alcança as de outro cliente.

Seu token continua seu

Seu token do Hugging Face vai só para a máquina. O Arrakis nunca o guarda.

Chame como qualquer API no estilo da OpenAI

Qualquer cliente da OpenAI funciona: defina a URL base e a chave. O console tem código para cada tipo de modelo, um teste para chat e imagens, e o log do motor.

from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")

Perguntas sobre implantar modelos

O guia completo: Implantar um modelo.

Posso rodar FLUX ou Wan na minha própria GPU?

Sim. Na página Models do console, escolha vLLM-Omni ou SGLang, informe o modelo com o nome do Hugging Face (black-forest-labs/FLUX.1-dev ou Wan-AI/Wan2.2-T2V-A14B-Diffusers), adicione um token do Hugging Face se o modelo tiver acesso restrito e escolha uma GPU em que ele caiba. O endpoint responde em /v1/images/generations ou /v1/videos.

Quais opções do motor posso usar?

Qualquer opção que o seu motor aceite. Você cola, o motor lê, e você mantém tudo atualizado com as versões dele. O Arrakis só cuida de onde o motor escuta, da chave e do modelo, e recusa sintaxe de shell e configurações que escolhem GPUs.

É serverless?

Não. Cada modelo roda em uma GPU só dele, cobrada por hora desde que a máquina começa a rodar até você pará-la ou chegar o horário de remoção. Depois de carregado, não há partida a frio, nem cobrança por imagem, segundo ou token.

Quanto tempo até o endpoint responder?

Normalmente alguns minutos: a máquina inicia, depois o motor baixa o modelo e o carrega. Modelos de vídeo grandes demoram mais. O console mostra quando está pronto, e o log do motor.

Posso mudar as opções sem uma máquina nova?

Sim. Pelo SSH, edite /etc/arrakis/serve/command e rode arrakis-serve restart. O endpoint mantém o endereço e a chave.

Quanto custa?

O preço por hora da GPU que você escolher, igual ao aluguel, a partir das máquinas mais baratas disponíveis agora. Nada por requisição.

Seu modelo, sua GPU, suas opções.

Implantar um modelo Veja os preços de GPU