どんなモデルも、自分の GPU にデプロイ。

Hugging Face のテキスト、画像、動画、音声のモデルを、vLLM、SGLang、vLLM-Omni、llama.cpp で動かせます。チューニング済みのエンジンオプションをそのまま貼り付ければ、専用キーつきの OpenAI 互換エンドポイントと root 権限での SSH が手に入ります。料金はリクエスト単位ではなく、GPU の時間単位です。

モデルをデプロイ人気のモデルを見る

動かせるもの

モデルごとにエンドポイントがひとつ。OpenAI のクライアントがそのまま話せる形式です。エンジンは、公式リリースをもとにした Arrakis イメージの中で動きます。

テキストとビジョン
チャット、補完、埋め込み、音声の文字起こしを vLLM、SGLang、llama.cpp で。Hugging Face のどのモデルでも動かせ、どの量子化の GGUF ファイルにも対応します。
```
POST /v1/chat/completions
```
イメージ
FLUX、Qwen-Image、Z-Image などを vLLM-Omni または SGLang Diffusion で。テキストからの画像生成と画像編集に対応します。
```
POST /v1/images/generations
```
動画
Wan 2.2 によるテキストからの動画生成と画像からの動画生成。ジョブとして開始し、状況を確認して、ダウンロードします。
```
POST /v1/videos
```
音声とサウンド
音声には Qwen3-TTS と CosyVoice、効果音や音楽には Stable Audio を、vLLM-Omni で。
```
POST /v1/audio/speech
```

人気の画像・動画・音声モデル

それぞれの推論に必要な GPU メモリと、それが収まる最小の GPU です。テキストモデルについてはオープンモデルの GPU 要件をご覧ください。ほかのモデルは、コンソールでモデル名を入力してください。

モデル	生成するもの	機能	GPU メモリ	エンジン	デプロイ
`black-forest-labs/FLUX.1-schnell`	イメージ	高速なテキストからの画像生成、1〜4 ステップ	41 GB：L40S、RTX 6000 Ada または RTX A6000 1 枚、L40S は GPU 1 時間あたり $0.44 から	vLLM-Omni、SGLang	デプロイ
`black-forest-labs/FLUX.1-dev`	イメージ	テキストからの画像生成	41 GB：L40S、RTX 6000 Ada または RTX A6000 1 枚、L40S は GPU 1 時間あたり $0.44 から	vLLM-Omni、SGLang	デプロイ
`black-forest-labs/FLUX.2-klein-9B`	イメージ	テキストからの画像生成と編集	42 GB：L40S、RTX 6000 Ada または RTX A6000 1 枚、L40S は GPU 1 時間あたり $0.44 から	vLLM-Omni	デプロイ
`Qwen/Qwen-Image-2512`	イメージ	テキストからの画像生成、画像内の文字に強い	70 GB：H100 または A100 1 枚、H100 は GPU 1 時間あたり $1.65 から	vLLM-Omni、SGLang	デプロイ
`Qwen/Qwen-Image-Edit-2511`	イメージ	画像編集	70 GB：H100 または A100 1 枚、H100 は GPU 1 時間あたり $1.65 から	vLLM-Omni、SGLang	デプロイ
`Tongyi-MAI/Z-Image-Turbo`	イメージ	高速なテキストからの画像生成、8 ステップ	25 GB：RTX 5090 1 枚、GPU 1 時間あたり $0.58 から	vLLM-Omni、SGLang	デプロイ
`Wan-AI/Wan2.2-T2V-A14B-Diffusers`	動画	テキストからの動画生成、480p と 720p	83 GB：RTX PRO 6000 1 枚、GPU 1 時間あたり $1.90 から	vLLM-Omni、SGLang	デプロイ
`Wan-AI/Wan2.2-I2V-A14B-Diffusers`	動画	画像からの動画生成	83 GB：RTX PRO 6000 1 枚、GPU 1 時間あたり $1.90 から	vLLM-Omni、SGLang	デプロイ
`Wan-AI/Wan2.2-TI2V-5B-Diffusers`	動画	テキストまたは画像からの動画生成、720p、GPU ひとつで	28 GB：RTX 5090 1 枚、GPU 1 時間あたり $0.58 から	vLLM-Omni、SGLang	デプロイ
`Qwen/Qwen3-TTS-12Hz-1.7B-CustomVoice`	音声	テキスト読み上げ、プリセットの声	6.0 GB：RTX 4090 または RTX 3090 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から	vLLM-Omni	デプロイ
`FunAudioLLM/Fun-CosyVoice3-0.5B-2512`	音声	テキスト読み上げ、声のクローン	3.0 GB：RTX 4090 または RTX 3090 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から	vLLM-Omni	デプロイ
`stabilityai/stable-audio-open-1.0`	サウンドと音楽	効果音と音楽	8.0 GB：RTX 4090 または RTX 3090 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から	vLLM-Omni	デプロイ
`lerobot/pi05_base`	ロボットのポリシー	視覚・言語・行動（VLA）ポリシー（pi0.5）	18 GB：RTX 4090 または RTX 3090 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から	vLLM-Omni	デプロイ
`nvidia/GR00T-N1.7-3B`	ロボットのポリシー	ヒューマノイドロボットのポリシー	9.0 GB：RTX 4090 または RTX 3090 1 枚、RTX 3090 は GPU 1 時間あたり $0.19 から	vLLM-Omni	デプロイ

チューニングしたオプションをそのまま

フラグ、コマンド全体、docker run の行のどれでも貼り付けられます。先頭の環境変数や、引用符で囲んだ JSON の値もそのまま使えます。オプションを選び、最新に保つのはあなたです。Arrakis はアドレス、ポート、キー、モデルだけを受け持ち、レンタルの前に起動コマンドを表示します。

あとから新しいマシンなしで変更できます。SSH で /etc/arrakis/serve を編集し、arrakis-serve restart を実行してください。

VLLM_USE_DEEP_GEMM=1 vllm serve Qwen/Qwen3-8B \
  --max-model-len 32768 --enable-prefix-caching \
  --speculative-config '{"method": "eagle3", "num_speculative_tokens": 3}'

動くのはあなたのオプションだけ。

マシンはあなたのもので、root 権限で SSH できます。Arrakis からマシンに届くものは、先に検査されます。

シェルは一切使わない

オプションは引数リストとして、一語ずつそのままエンジンに渡ります。シェルの構文は実行されず、受け付けません。

すべてのリクエストにキー

エンドポイントのアクセスゲートが、リクエストがエンジンに届く前に API キーを確認します。エンジンはマシンの内側でしか待ち受けません。

使えるのは借りた GPU だけ

マシンの GPU を選ぶ設定は受け付けないため、ほかの利用者の GPU に届くことはありません。

トークンはあなたのもの

Hugging Face トークンはマシンにだけ渡ります。Arrakis が保存することはありません。

OpenAI 互換 API と同じように呼び出す

OpenAI のクライアントならどれでも使えます。ベース URL とキーを設定するだけです。コンソールには、モデルの種類ごとのコード、チャットと画像の試用、エンジンのログがあります。

from openai import OpenAI

client = OpenAI(base_url="http://<your endpoint>/v1", api_key="sk-...")
picture = client.images.generate(model="black-forest-labs/FLUX.1-schnell",
                                 prompt="a lighthouse at dawn", size="1024x1024",
                                 response_format="b64_json")

モデルのデプロイについての質問

詳しいガイド：モデルをデプロイ。

FLUX や Wan を自分の GPU で動かせますか？

はい。コンソールの Models ページで vLLM-Omni か SGLang を選び、Hugging Face と同じ名前でモデルを指定し（black-forest-labs/FLUX.1-dev や Wan-AI/Wan2.2-T2V-A14B-Diffusers）、ゲート付きモデルなら Hugging Face トークンを追加して、モデルが収まる GPU を選んでください。エンドポイントは /v1/images/generations または /v1/videos で応答します。

どのエンジンオプションが使えますか？

エンジンが受け付けるオプションなら何でも使えます。あなたが貼り付け、エンジンが読み込み、リリースに合わせて最新に保つのはあなたです。Arrakis が受け持つのは、エンジンの待ち受け先、キー、モデルだけです。シェルの構文と GPU を選ぶ設定は受け付けません。

サーバーレスですか？

いいえ。モデルはそれぞれ専用の GPU で動き、マシンが動き始めてから、停止するか削除時刻が来るまで、時間単位で課金されます。読み込みが終われば、コールドスタートはなく、画像、秒、トークン単位の料金もありません。

エンドポイントが応答するまでどのくらいかかりますか？

通常は数分です。マシンが起動し、エンジンがモデルをダウンロードして読み込みます。大きな動画モデルはもっと時間がかかります。準備ができたことと、エンジンのログはコンソールで確認できます。

新しいマシンなしでオプションを変更できますか？

はい。SSH で /etc/arrakis/serve/command を編集し、arrakis-serve restart を実行してください。エンドポイントのアドレスとキーはそのままです。

料金はいくらですか？

選んだ GPU の時間料金だけで、レンタルと同じです。今出ているいちばん安いマシンから選べます。リクエスト単位の料金はありません。

あなたのモデル、あなたの GPU、あなたのオプション。

モデルをデプロイ GPU 価格を見る