# どんなモデルも、自分の GPU にデプロイ

Hugging Face のテキスト、画像、動画、音声のモデルを、vLLM、SGLang、vLLM-Omni、llama.cpp で動かせます。チューニング済みのエンジンオプションをそのまま貼り付ければ、専用キーつきの OpenAI 互換エンドポイントと root 権限での SSH が手に入ります。料金はリクエスト単位ではなく、GPU の時間単位です。コンソールの **Models** ページ（[/console/#/models](/console/#/models)）か `POST /v1/deploy`（[ガイド](/ja/docs/models.html.md)）から始められます。

## 動かせるもの

- **テキストとビジョン。** チャット、補完、埋め込み、音声の文字起こしを vLLM、SGLang、llama.cpp で。Hugging Face のどのモデルでも動かせ、どの量子化の GGUF ファイルにも対応します。`POST /v1/chat/completions`
- **画像。** FLUX、Qwen-Image、Z-Image などを vLLM-Omni または SGLang Diffusion で。テキストからの画像生成と画像編集に対応します。`POST /v1/images/generations`
- **動画。** Wan 2.2 によるテキストからの動画生成と画像からの動画生成。ジョブとして開始し、状況を確認して、ダウンロードします。`POST /v1/videos`
- **音声とサウンド。** 音声には Qwen3-TTS と CosyVoice、効果音や音楽には Stable Audio を、vLLM-Omni で。`POST /v1/audio/speech`

## 人気の画像・動画・音声モデル

それぞれの推論に必要な GPU メモリと、それが収まる最小の GPU です。どれもコンソールの **Models** ページからデプロイできます。テキストモデルについては [オープンモデルの GPU 要件](/ja/models.html.md) をご覧ください。

| モデル | 生成するもの | 機能 | GPU メモリ | エンジン |
|---|---|---|---|---|
| `black-forest-labs/FLUX.1-schnell` | イメージ | 高速なテキストからの画像生成、1〜4 ステップ | 41 GB：[L40S](/ja/gpus/l40s.html.md)、[RTX 6000 Ada](/ja/gpus/rtx-6000-ada.html.md) または [RTX A6000](/ja/gpus/rtx-a6000.html.md) 1 枚、L40S は GPU 1 時間あたり $0.44 から | vLLM-Omni、SGLang |
| `black-forest-labs/FLUX.1-dev` | イメージ | テキストからの画像生成 | 41 GB：[L40S](/ja/gpus/l40s.html.md)、[RTX 6000 Ada](/ja/gpus/rtx-6000-ada.html.md) または [RTX A6000](/ja/gpus/rtx-a6000.html.md) 1 枚、L40S は GPU 1 時間あたり $0.44 から | vLLM-Omni、SGLang |
| `black-forest-labs/FLUX.2-klein-9B` | イメージ | テキストからの画像生成と編集 | 42 GB：[L40S](/ja/gpus/l40s.html.md)、[RTX 6000 Ada](/ja/gpus/rtx-6000-ada.html.md) または [RTX A6000](/ja/gpus/rtx-a6000.html.md) 1 枚、L40S は GPU 1 時間あたり $0.44 から | vLLM-Omni |
| `Qwen/Qwen-Image-2512` | イメージ | テキストからの画像生成、画像内の文字に強い | 70 GB：[H100](/ja/gpus/h100.html.md) または [A100](/ja/gpus/a100.html.md) 1 枚、H100 は GPU 1 時間あたり $1.65 から | vLLM-Omni、SGLang |
| `Qwen/Qwen-Image-Edit-2511` | イメージ | 画像編集 | 70 GB：[H100](/ja/gpus/h100.html.md) または [A100](/ja/gpus/a100.html.md) 1 枚、H100 は GPU 1 時間あたり $1.65 から | vLLM-Omni、SGLang |
| `Tongyi-MAI/Z-Image-Turbo` | イメージ | 高速なテキストからの画像生成、8 ステップ | 25 GB：[RTX 5090](/ja/gpus/rtx-5090.html.md) 1 枚、GPU 1 時間あたり $0.58 から | vLLM-Omni、SGLang |
| `Wan-AI/Wan2.2-T2V-A14B-Diffusers` | 動画 | テキストからの動画生成、480p と 720p | 83 GB：[RTX PRO 6000](/ja/gpus/rtx-pro-6000.html.md) 1 枚、GPU 1 時間あたり $1.90 から | vLLM-Omni、SGLang |
| `Wan-AI/Wan2.2-I2V-A14B-Diffusers` | 動画 | 画像からの動画生成 | 83 GB：[RTX PRO 6000](/ja/gpus/rtx-pro-6000.html.md) 1 枚、GPU 1 時間あたり $1.90 から | vLLM-Omni、SGLang |
| `Wan-AI/Wan2.2-TI2V-5B-Diffusers` | 動画 | テキストまたは画像からの動画生成、720p、GPU ひとつで | 28 GB：[RTX 5090](/ja/gpus/rtx-5090.html.md) 1 枚、GPU 1 時間あたり $0.58 から | vLLM-Omni、SGLang |
| `Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice` | 音声 | テキスト読み上げ、プリセットの声 | 6.0 GB：[RTX 4090](/ja/gpus/rtx-4090.html.md) または [RTX 3090](/ja/gpus/rtx-3090.html.md) 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から | vLLM-Omni |
| `FunAudioLLM/Fun-CosyVoice3-0.5B-2512` | 音声 | テキスト読み上げ、声のクローン | 3.0 GB：[RTX 4090](/ja/gpus/rtx-4090.html.md) または [RTX 3090](/ja/gpus/rtx-3090.html.md) 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から | vLLM-Omni |
| `stabilityai/stable-audio-open-1.0` | サウンドと音楽 | 効果音と音楽 | 8.0 GB：[RTX 4090](/ja/gpus/rtx-4090.html.md) または [RTX 3090](/ja/gpus/rtx-3090.html.md) 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から | vLLM-Omni |
| `lerobot/pi05_base` | ロボットのポリシー | 視覚・言語・行動（VLA）ポリシー（pi0.5） | 18 GB：[RTX 4090](/ja/gpus/rtx-4090.html.md) または [RTX 3090](/ja/gpus/rtx-3090.html.md) 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から | vLLM-Omni |
| `nvidia/GR00T-N1.7-3B` | ロボットのポリシー | ヒューマノイドロボットのポリシー | 9.0 GB：[RTX 4090](/ja/gpus/rtx-4090.html.md) または [RTX 3090](/ja/gpus/rtx-3090.html.md) 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から | vLLM-Omni |

## チューニングしたオプションをそのまま

フラグ、コマンド全体、docker run の行のどれでも貼り付けられます。先頭の環境変数や、引用符で囲んだ JSON の値もそのまま使えます。オプションを選び、最新に保つのはあなたです。Arrakis はアドレス、ポート、キー、モデルだけを受け持ち、レンタルの前に起動コマンドを表示します。あとから新しいマシンなしで変更できます。SSH で `/etc/arrakis/serve` を編集し、`arrakis-serve restart` を実行してください。

```sh
VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'
```

## 動くのはあなたのオプションだけ。

- **シェルは一切使わない。** オプションは引数リストとして、一語ずつそのままエンジンに渡ります。シェルの構文は実行されず、受け付けません。
- **すべてのリクエストにキー。** エンドポイントのアクセスゲートが、リクエストがエンジンに届く前に API キーを確認します。エンジンはマシンの内側でしか待ち受けません。
- **使えるのは借りた GPU だけ。** マシンの GPU を選ぶ設定は受け付けないため、ほかの利用者の GPU に届くことはありません。
- **トークンはあなたのもの。** Hugging Face トークンはマシンにだけ渡ります。Arrakis が保存することはありません。

## OpenAI 互換 API と同じように呼び出す

```python
from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")
```

## モデルのデプロイについての質問

**FLUX や Wan を自分の GPU で動かせますか？** はい。コンソールの Models ページで vLLM-Omni か SGLang を選び、Hugging Face と同じ名前でモデルを指定し（black-forest-labs/FLUX.1-dev や Wan-AI/Wan2.2-T2V-A14B-Diffusers）、ゲート付きモデルなら Hugging Face トークンを追加して、モデルが収まる GPU を選んでください。エンドポイントは /v1/images/generations または /v1/videos で応答します。

**どのエンジンオプションが使えますか？** エンジンが受け付けるオプションなら何でも使えます。あなたが貼り付け、エンジンが読み込み、リリースに合わせて最新に保つのはあなたです。Arrakis が受け持つのは、エンジンの待ち受け先、キー、モデルだけです。シェルの構文と GPU を選ぶ設定は受け付けません。

**サーバーレスですか？** いいえ。モデルはそれぞれ専用の GPU で動き、マシンが動き始めてから、停止するか削除時刻が来るまで、時間単位で課金されます。読み込みが終われば、コールドスタートはなく、画像、秒、トークン単位の料金もありません。

**エンドポイントが応答するまでどのくらいかかりますか？** 通常は数分です。マシンが起動し、エンジンがモデルをダウンロードして読み込みます。大きな動画モデルはもっと時間がかかります。準備ができたことと、エンジンのログはコンソールで確認できます。

**新しいマシンなしでオプションを変更できますか？** はい。SSH で /etc/arrakis/serve/command を編集し、arrakis-serve restart を実行してください。エンドポイントのアドレスとキーはそのままです。

**料金はいくらですか？** 選んだ GPU の時間料金だけで、レンタルと同じです。今出ているいちばん安いマシンから選べます。リクエスト単位の料金はありません。