# Implante qualquer modelo na sua própria GPU

Texto, imagens, vídeo e voz do Hugging Face, em vLLM, SGLang, vLLM-Omni ou llama.cpp. Cole suas próprias opções do motor, receba um endpoint no estilo da OpenAI com chave própria e SSH como root, e pague a GPU por hora, não por requisição. Comece na página **Models** do console ([/console/#/models](/console/#/models)) ou com `POST /v1/deploy` ([guia](/pt/docs/models.html.md)).

## O que você pode servir

- **Texto e visão.** Chat, completions, embeddings e fala para texto em vLLM, SGLang ou llama.cpp. Qualquer modelo do Hugging Face, incluindo arquivos GGUF de qualquer quantização. `POST /v1/chat/completions`
- **Imagens.** FLUX, Qwen-Image, Z-Image e outros em vLLM-Omni ou SGLang Diffusion. Texto para imagem e edição de imagens. `POST /v1/images/generations`
- **Vídeo.** Texto para vídeo e imagem para vídeo com Wan 2.2, como tarefas que você inicia, acompanha e baixa. `POST /v1/videos`
- **Voz e som.** Qwen3-TTS e CosyVoice para voz, Stable Audio para efeitos e música, em vLLM-Omni. `POST /v1/audio/speech`

## Modelos populares de imagem, vídeo e voz

A memória de GPU que cada um precisa para servir, e a menor GPU que comporta cada um. Implante qualquer um deles pela página **Models** do console. Para modelos de texto, veja [Requisitos de GPU dos modelos abertos](/pt/models.html.md).

| Modelo | Gera | O que faz | Memória de GPU | Motores |
|---|---|---|---|---|
| `black-forest-labs/FLUX.1-schnell` | Imagens | Texto para imagem rápido, de 1 a 4 passos | 41 GB: uma [L40S](/pt/gpus/l40s.html.md), [RTX 6000 Ada](/pt/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/pt/gpus/rtx-a6000.html.md), a L40S a partir de US$ 0,44 por GPU-hora | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.1-dev` | Imagens | Texto para imagem | 41 GB: uma [L40S](/pt/gpus/l40s.html.md), [RTX 6000 Ada](/pt/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/pt/gpus/rtx-a6000.html.md), a L40S a partir de US$ 0,44 por GPU-hora | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.2-klein-9B` | Imagens | Texto para imagem e edição | 42 GB: uma [L40S](/pt/gpus/l40s.html.md), [RTX 6000 Ada](/pt/gpus/rtx-6000-ada.html.md) ou [RTX A6000](/pt/gpus/rtx-a6000.html.md), a L40S a partir de US$ 0,44 por GPU-hora | vLLM-Omni |
| `Qwen/Qwen-Image-2512` | Imagens | Texto para imagem, ótimo com texto dentro da imagem | 70 GB: uma [H100](/pt/gpus/h100.html.md) ou [A100](/pt/gpus/a100.html.md), a H100 a partir de US$ 1,65 por GPU-hora | vLLM-Omni, SGLang |
| `Qwen/Qwen-Image-Edit-2511` | Imagens | Edição de imagens | 70 GB: uma [H100](/pt/gpus/h100.html.md) ou [A100](/pt/gpus/a100.html.md), a H100 a partir de US$ 1,65 por GPU-hora | vLLM-Omni, SGLang |
| `Tongyi-MAI/Z-Image-Turbo` | Imagens | Texto para imagem rápido, 8 passos | 25 GB: uma [RTX 5090](/pt/gpus/rtx-5090.html.md), a partir de US$ 0,58 por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-T2V-A14B-Diffusers` | Vídeo | Texto para vídeo, 480p e 720p | 83 GB: uma [RTX PRO 6000](/pt/gpus/rtx-pro-6000.html.md), a partir de US$ 1,90 por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-I2V-A14B-Diffusers` | Vídeo | Imagem para vídeo | 83 GB: uma [RTX PRO 6000](/pt/gpus/rtx-pro-6000.html.md), a partir de US$ 1,90 por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-TI2V-5B-Diffusers` | Vídeo | Texto ou imagem para vídeo, 720p, em uma única GPU | 28 GB: uma [RTX 5090](/pt/gpus/rtx-5090.html.md), a partir de US$ 0,58 por GPU-hora | vLLM-Omni, SGLang |
| `Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice` | Voz | Texto para fala, vozes predefinidas | 6,0 GB: uma [RTX 4090](/pt/gpus/rtx-4090.html.md) ou [RTX 3090](/pt/gpus/rtx-3090.html.md), a RTX 3090 a partir de US$ 0,19 por GPU-hora | vLLM-Omni |
| `FunAudioLLM/Fun-CosyVoice3-0.5B-2512` | Voz | Texto para fala, clonagem de voz | 3,0 GB: uma [RTX 4090](/pt/gpus/rtx-4090.html.md) ou [RTX 3090](/pt/gpus/rtx-3090.html.md), a RTX 3090 a partir de US$ 0,19 por GPU-hora | vLLM-Omni |
| `stabilityai/stable-audio-open-1.0` | Som e música | Efeitos sonoros e música | 8,0 GB: uma [RTX 4090](/pt/gpus/rtx-4090.html.md) ou [RTX 3090](/pt/gpus/rtx-3090.html.md), a RTX 3090 a partir de US$ 0,19 por GPU-hora | vLLM-Omni |
| `lerobot/pi05_base` | Política para robôs | Política de visão, linguagem e ação (pi0.5) | 18 GB: uma [RTX 4090](/pt/gpus/rtx-4090.html.md) ou [RTX 3090](/pt/gpus/rtx-3090.html.md), a RTX 3090 a partir de US$ 0,19 por GPU-hora | vLLM-Omni |
| `nvidia/GR00T-N1.7-3B` | Política para robôs | Política para robôs humanoides | 9,0 GB: uma [RTX 4090](/pt/gpus/rtx-4090.html.md) ou [RTX 3090](/pt/gpus/rtx-3090.html.md), a RTX 3090 a partir de US$ 0,19 por GPU-hora | vLLM-Omni |

## Traga as opções que você ajustou

Cole suas flags, o comando inteiro ou uma linha de docker run, com variáveis na frente e valores JSON entre aspas. Você escolhe e mantém tudo atualizado; o Arrakis cuida do endereço, da porta, da chave e do modelo, e mostra a linha de início antes de você alugar. Mude depois sem uma máquina nova: pelo SSH, edite `/etc/arrakis/serve` e rode `arrakis-serve restart`.

```sh
VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'
```

## Suas opções rodam. Mais nada.

- **Nunca um shell.** Suas opções chegam ao motor palavra por palavra, como a lista de argumentos dele. Sintaxe de shell é recusada, nunca executada.
- **Uma chave em toda requisição.** Um controle de acesso no endpoint confere a chave de API antes que uma requisição chegue ao motor, que só escuta dentro da máquina.
- **Só as GPUs que você aluga.** Configurações que escolhem as GPUs de uma máquina são recusadas, então uma máquina nunca alcança as de outro cliente.
- **Seu token continua seu.** Seu token do Hugging Face vai só para a máquina. O Arrakis nunca o guarda.

## Chame como qualquer API no estilo da OpenAI

```python
from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")
```

## Perguntas sobre implantar modelos

**Posso rodar FLUX ou Wan na minha própria GPU?** Sim. Na página Models do console, escolha vLLM-Omni ou SGLang, informe o modelo com o nome do Hugging Face (black-forest-labs/FLUX.1-dev ou Wan-AI/Wan2.2-T2V-A14B-Diffusers), adicione um token do Hugging Face se o modelo tiver acesso restrito e escolha uma GPU em que ele caiba. O endpoint responde em /v1/images/generations ou /v1/videos.

**Quais opções do motor posso usar?** Qualquer opção que o seu motor aceite. Você cola, o motor lê, e você mantém tudo atualizado com as versões dele. O Arrakis só cuida de onde o motor escuta, da chave e do modelo, e recusa sintaxe de shell e configurações que escolhem GPUs.

**É serverless?** Não. Cada modelo roda em uma GPU só dele, cobrada por hora desde que a máquina começa a rodar até você pará-la ou chegar o horário de remoção. Depois de carregado, não há partida a frio, nem cobrança por imagem, segundo ou token.

**Quanto tempo até o endpoint responder?** Normalmente alguns minutos: a máquina inicia, depois o motor baixa o modelo e o carrega. Modelos de vídeo grandes demoram mais. O console mostra quando está pronto, e o log do motor.

**Posso mudar as opções sem uma máquina nova?** Sim. Pelo SSH, edite /etc/arrakis/serve/command e rode arrakis-serve restart. O endpoint mantém o endereço e a chave.

**Quanto custa?** O preço por hora da GPU que você escolher, igual ao aluguel, a partir das máquinas mais baratas disponíveis agora. Nada por requisição.