Despliega cualquier modelo en tu propia GPU.

Texto, imágenes, vídeo y voz de Hugging Face, en vLLM, SGLang, vLLM-Omni o llama.cpp. Pega tus propias opciones del motor, obtén un endpoint al estilo de OpenAI con su propia clave y SSH como root, y paga la GPU por horas, no por solicitud.

Desplegar un modelo Ver modelos populares

Qué puedes servir

Un endpoint por modelo, en el formato que ya hablan los clientes de OpenAI. El motor se ejecuta en una imagen de Arrakis construida sobre su versión oficial.

Texto y visión
Chat, completions, embeddings y voz a texto en vLLM, SGLang o llama.cpp. Cualquier modelo de Hugging Face, incluidos archivos GGUF de cualquier cuantización.
```
POST /v1/chat/completions
```
Imágenes
FLUX, Qwen-Image, Z-Image y más en vLLM-Omni o SGLang Diffusion. Texto a imagen y edición de imágenes.
```
POST /v1/images/generations
```
Vídeo
Texto a vídeo e imagen a vídeo con Wan 2.2, como trabajos que inicias, consultas y descargas.
```
POST /v1/videos
```
Voz y sonido
Qwen3-TTS y CosyVoice para voz, Stable Audio para efectos y música, en vLLM-Omni.
```
POST /v1/audio/speech
```

Modelos populares de imagen, vídeo y voz

La memoria de GPU que necesita cada uno para servirse, y la GPU más pequeña que lo admite. Para modelos de texto, consulta Requisitos de GPU de los modelos abiertos; para cualquier otro, escribe su nombre en la consola.

Modelo	Genera	Qué hace	Memoria de GPU	Motores	Desplegar
`black-forest-labs/FLUX.1-schnell`	Imágenes	Texto a imagen rápido, de 1 a 4 pasos	41 GB: una L40S, RTX 6000 Ada o RTX A6000, la L40S desde 0,44 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`black-forest-labs/FLUX.1-dev`	Imágenes	Texto a imagen	41 GB: una L40S, RTX 6000 Ada o RTX A6000, la L40S desde 0,44 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`black-forest-labs/FLUX.2-klein-9B`	Imágenes	Texto a imagen y edición	42 GB: una L40S, RTX 6000 Ada o RTX A6000, la L40S desde 0,44 US$ por GPU-hora	vLLM-Omni	Desplegar
`Qwen/Qwen-Image-2512`	Imágenes	Texto a imagen, muy bueno con texto dentro de la imagen	70 GB: una H100 o A100, la H100 desde 1,65 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Qwen/Qwen-Image-Edit-2511`	Imágenes	Edición de imágenes	70 GB: una H100 o A100, la H100 desde 1,65 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Tongyi-MAI/Z-Image-Turbo`	Imágenes	Texto a imagen rápido, 8 pasos	25 GB: una RTX 5090, desde 0,58 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Wan-AI/Wan2.2-T2V-A14B-Diffusers`	Vídeo	Texto a vídeo, 480p y 720p	83 GB: una RTX PRO 6000, desde 1,90 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Wan-AI/Wan2.2-I2V-A14B-Diffusers`	Vídeo	Imagen a vídeo	83 GB: una RTX PRO 6000, desde 1,90 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Wan-AI/Wan2.2-TI2V-5B-Diffusers`	Vídeo	Texto o imagen a vídeo, 720p, en una sola GPU	28 GB: una RTX 5090, desde 0,58 US$ por GPU-hora	vLLM-Omni, SGLang	Desplegar
`Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice`	Voz	Texto a voz, voces predefinidas	6,0 GB: una RTX 4090 o RTX 3090, la RTX 3090 desde 0,19 US$ por GPU-hora	vLLM-Omni	Desplegar
`FunAudioLLM/Fun-CosyVoice3-0.5B-2512`	Voz	Texto a voz, clonación de voz	3,0 GB: una RTX 4090 o RTX 3090, la RTX 3090 desde 0,19 US$ por GPU-hora	vLLM-Omni	Desplegar
`stabilityai/stable-audio-open-1.0`	Sonido y música	Efectos de sonido y música	8,0 GB: una RTX 4090 o RTX 3090, la RTX 3090 desde 0,19 US$ por GPU-hora	vLLM-Omni	Desplegar
`lerobot/pi05_base`	Política para robots	Política de visión, lenguaje y acción (pi0.5)	18 GB: una RTX 4090 o RTX 3090, la RTX 3090 desde 0,19 US$ por GPU-hora	vLLM-Omni	Desplegar
`nvidia/GR00T-N1.7-3B`	Política para robots	Política para robots humanoides	9,0 GB: una RTX 4090 o RTX 3090, la RTX 3090 desde 0,19 US$ por GPU-hora	vLLM-Omni	Desplegar

Trae las opciones que ya ajustaste

Pega tus flags, el comando completo o una línea de docker run, con variables delante y valores JSON entre comillas. Tú las eliges y las mantienes al día; Arrakis se encarga de la dirección, el puerto, la clave y el modelo, y te muestra la línea de arranque antes de alquilar.

Cámbialas después sin una máquina nueva: por SSH, edita /etc/arrakis/serve y ejecuta arrakis-serve restart.

VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'

Tus opciones se ejecutan. Nada más.

La máquina es tuya, con SSH como root. Lo que le llega desde Arrakis se revisa primero.

Nunca una shell

Tus opciones llegan al motor palabra por palabra, como su lista de argumentos. La sintaxis de shell se rechaza, nunca se ejecuta.

Una clave en cada solicitud

Un control de acceso en el endpoint comprueba su clave de API antes de que una solicitud llegue al motor, que solo escucha dentro de la máquina.

Solo las GPU que alquilas

Los ajustes que eligen las GPU de una máquina se rechazan, así que una máquina nunca llega a las de otro cliente.

Tu token sigue siendo tuyo

Tu token de Hugging Face va solo a la máquina. Arrakis nunca lo guarda.

Llámalo como a cualquier API al estilo de OpenAI

Cualquier cliente de OpenAI funciona: indica la URL base y la clave. La consola tiene código para cada tipo de modelo, una prueba para chat e imágenes, y el registro del motor.

from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")

Preguntas sobre el despliegue de modelos

La guía completa: Desplegar un modelo.

¿Puedo ejecutar FLUX o Wan en mi propia GPU?

Sí. En la página Models de la consola, elige vLLM-Omni o SGLang, escribe el nombre del modelo como en Hugging Face (black-forest-labs/FLUX.1-dev o Wan-AI/Wan2.2-T2V-A14B-Diffusers), añade un token de Hugging Face si el modelo es de acceso restringido y elige una GPU en la que quepa. El endpoint responde en /v1/images/generations o /v1/videos.

¿Qué opciones del motor puedo usar?

Cualquier opción que acepte tu motor. Tú las pegas, el motor las lee y tú las mantienes al día con sus versiones. Arrakis solo se encarga de dónde escucha el motor, su clave y el modelo, y rechaza la sintaxis de shell y los ajustes que eligen GPU.

¿Es serverless?

No. Cada modelo se ejecuta en una GPU propia, que se cobra por horas desde que la máquina arranca hasta que la detienes o llega su hora de eliminación. Una vez cargado, no hay arranques en frío ni cobros por imagen, segundo o token.

¿Cuánto tarda el endpoint en responder?

Normalmente unos minutos: la máquina arranca y el motor descarga el modelo y lo carga. Los modelos de vídeo grandes tardan más. La consola muestra cuándo está listo, y el registro del motor.

¿Puedo cambiar las opciones sin una máquina nueva?

Sí. Por SSH, edita /etc/arrakis/serve/command y ejecuta arrakis-serve restart. El endpoint conserva su dirección y su clave.

¿Cuánto cuesta?

El precio por hora de la GPU que elijas, igual que al alquilarla, desde las máquinas más baratas disponibles ahora. Nada por solicitud.

Tu modelo, tu GPU, tus opciones.

Desplegar un modelo Ver precios de GPU