# Despliega cualquier modelo en tu propia GPU

Texto, imágenes, vídeo y voz de Hugging Face, en vLLM, SGLang, vLLM-Omni o llama.cpp. Pega tus propias opciones del motor, obtén un endpoint al estilo de OpenAI con su propia clave y SSH como root, y paga la GPU por horas, no por solicitud. Empieza en la página **Models** de la consola ([/console/#/models](/console/#/models)) o con `POST /v1/deploy` ([guía](/es/docs/models.html.md)).

## Qué puedes servir

- **Texto y visión.** Chat, completions, embeddings y voz a texto en vLLM, SGLang o llama.cpp. Cualquier modelo de Hugging Face, incluidos archivos GGUF de cualquier cuantización. `POST /v1/chat/completions`
- **Imágenes.** FLUX, Qwen-Image, Z-Image y más en vLLM-Omni o SGLang Diffusion. Texto a imagen y edición de imágenes. `POST /v1/images/generations`
- **Vídeo.** Texto a vídeo e imagen a vídeo con Wan 2.2, como trabajos que inicias, consultas y descargas. `POST /v1/videos`
- **Voz y sonido.** Qwen3-TTS y CosyVoice para voz, Stable Audio para efectos y música, en vLLM-Omni. `POST /v1/audio/speech`

## Modelos populares de imagen, vídeo y voz

La memoria de GPU que necesita cada uno para servirse, y la GPU más pequeña que lo admite. Puedes desplegar cualquiera desde la página **Models** de la consola. Para modelos de texto, consulta [Requisitos de GPU de los modelos abiertos](/es/models.html.md).

| Modelo | Genera | Qué hace | Memoria de GPU | Motores |
|---|---|---|---|---|
| `black-forest-labs/FLUX.1-schnell` | Imágenes | Texto a imagen rápido, de 1 a 4 pasos | 41 GB: una [L40S](/es/gpus/l40s.html.md), [RTX 6000 Ada](/es/gpus/rtx-6000-ada.html.md) o [RTX A6000](/es/gpus/rtx-a6000.html.md), la L40S desde 0,44 US$ por GPU-hora | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.1-dev` | Imágenes | Texto a imagen | 41 GB: una [L40S](/es/gpus/l40s.html.md), [RTX 6000 Ada](/es/gpus/rtx-6000-ada.html.md) o [RTX A6000](/es/gpus/rtx-a6000.html.md), la L40S desde 0,44 US$ por GPU-hora | vLLM-Omni, SGLang |
| `black-forest-labs/FLUX.2-klein-9B` | Imágenes | Texto a imagen y edición | 42 GB: una [L40S](/es/gpus/l40s.html.md), [RTX 6000 Ada](/es/gpus/rtx-6000-ada.html.md) o [RTX A6000](/es/gpus/rtx-a6000.html.md), la L40S desde 0,44 US$ por GPU-hora | vLLM-Omni |
| `Qwen/Qwen-Image-2512` | Imágenes | Texto a imagen, muy bueno con texto dentro de la imagen | 70 GB: una [H100](/es/gpus/h100.html.md) o [A100](/es/gpus/a100.html.md), la H100 desde 1,65 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Qwen/Qwen-Image-Edit-2511` | Imágenes | Edición de imágenes | 70 GB: una [H100](/es/gpus/h100.html.md) o [A100](/es/gpus/a100.html.md), la H100 desde 1,65 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Tongyi-MAI/Z-Image-Turbo` | Imágenes | Texto a imagen rápido, 8 pasos | 25 GB: una [RTX 5090](/es/gpus/rtx-5090.html.md), desde 0,58 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-T2V-A14B-Diffusers` | Vídeo | Texto a vídeo, 480p y 720p | 83 GB: una [RTX PRO 6000](/es/gpus/rtx-pro-6000.html.md), desde 1,90 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-I2V-A14B-Diffusers` | Vídeo | Imagen a vídeo | 83 GB: una [RTX PRO 6000](/es/gpus/rtx-pro-6000.html.md), desde 1,90 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Wan-AI/Wan2.2-TI2V-5B-Diffusers` | Vídeo | Texto o imagen a vídeo, 720p, en una sola GPU | 28 GB: una [RTX 5090](/es/gpus/rtx-5090.html.md), desde 0,58 US$ por GPU-hora | vLLM-Omni, SGLang |
| `Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice` | Voz | Texto a voz, voces predefinidas | 6,0 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora | vLLM-Omni |
| `FunAudioLLM/Fun-CosyVoice3-0.5B-2512` | Voz | Texto a voz, clonación de voz | 3,0 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora | vLLM-Omni |
| `stabilityai/stable-audio-open-1.0` | Sonido y música | Efectos de sonido y música | 8,0 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora | vLLM-Omni |
| `lerobot/pi05_base` | Política para robots | Política de visión, lenguaje y acción (pi0.5) | 18 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora | vLLM-Omni |
| `nvidia/GR00T-N1.7-3B` | Política para robots | Política para robots humanoides | 9,0 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora | vLLM-Omni |

## Trae las opciones que ya ajustaste

Pega tus flags, el comando completo o una línea de docker run, con variables delante y valores JSON entre comillas. Tú las eliges y las mantienes al día; Arrakis se encarga de la dirección, el puerto, la clave y el modelo, y te muestra la línea de arranque antes de alquilar. Cámbialas después sin una máquina nueva: por SSH, edita `/etc/arrakis/serve` y ejecuta `arrakis-serve restart`.

```sh
VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'
```

## Tus opciones se ejecutan. Nada más.

- **Nunca una shell.** Tus opciones llegan al motor palabra por palabra, como su lista de argumentos. La sintaxis de shell se rechaza, nunca se ejecuta.
- **Una clave en cada solicitud.** Un control de acceso en el endpoint comprueba su clave de API antes de que una solicitud llegue al motor, que solo escucha dentro de la máquina.
- **Solo las GPU que alquilas.** Los ajustes que eligen las GPU de una máquina se rechazan, así que una máquina nunca llega a las de otro cliente.
- **Tu token sigue siendo tuyo.** Tu token de Hugging Face va solo a la máquina. Arrakis nunca lo guarda.

## Llámalo como a cualquier API al estilo de OpenAI

```python
from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")
```

## Preguntas sobre el despliegue de modelos

**¿Puedo ejecutar FLUX o Wan en mi propia GPU?** Sí. En la página Models de la consola, elige vLLM-Omni o SGLang, escribe el nombre del modelo como en Hugging Face (black-forest-labs/FLUX.1-dev o Wan-AI/Wan2.2-T2V-A14B-Diffusers), añade un token de Hugging Face si el modelo es de acceso restringido y elige una GPU en la que quepa. El endpoint responde en /v1/images/generations o /v1/videos.

**¿Qué opciones del motor puedo usar?** Cualquier opción que acepte tu motor. Tú las pegas, el motor las lee y tú las mantienes al día con sus versiones. Arrakis solo se encarga de dónde escucha el motor, su clave y el modelo, y rechaza la sintaxis de shell y los ajustes que eligen GPU.

**¿Es serverless?** No. Cada modelo se ejecuta en una GPU propia, que se cobra por horas desde que la máquina arranca hasta que la detienes o llega su hora de eliminación. Una vez cargado, no hay arranques en frío ni cobros por imagen, segundo o token.

**¿Cuánto tarda el endpoint en responder?** Normalmente unos minutos: la máquina arranca y el motor descarga el modelo y lo carga. Los modelos de vídeo grandes tardan más. La consola muestra cuándo está listo, y el registro del motor.

**¿Puedo cambiar las opciones sin una máquina nueva?** Sí. Por SSH, edita /etc/arrakis/serve/command y ejecuta arrakis-serve restart. El endpoint conserva su dirección y su clave.

**¿Cuánto cuesta?** El precio por hora de la GPU que elijas, igual que al alquilarla, desde las máquinas más baratas disponibles ahora. Nada por solicitud.