Arrakis / モデル / Kimi-K3

Kimi-K3 の GPU 要件

Kimi-K3 のパラメータ数は 2.8T です。推論で動かすには、16 ビットで約 6,672 GB、8 ビットで約 3,336 GB、4 ビットで約 1,668 GB の GPU メモリを見込んでください。KV キャッシュと活性化の分として約 20% を含みます。

Mixture of Experts モデルです。エキスパートは 896 個で、トークンごとにそのうち 16 個が働きます。すべてのエキスパートが GPU メモリに載るため、メモリは 2.8T パラメータ全体の分を見込んでください。

このモデルをデプロイほかのモデルを確認

推論で動かすのに必要なもの

推論で動かすのに必要な GPU メモリと、それが収まる最小の GPU 構成、Arrakis での現在の最安値です。

精度	メモリと最小構成
16 ビット	6,672 GB：8 GPU マシン 1 台を超える
8 ビット	3,336 GB：8 GPU マシン 1 台を超える
4 ビット	1,668 GB：B300 × 8、8 枚で 1 時間あたり $36.80 から

ファインチューニングに必要なもの

QLoRA は 4 ビットで固定したモデルの上でアダプタを学習し、LoRA は 16 ビットで固定したモデルの上で学習します。フルファインチューニングはすべての重みを更新します。数値はアクティベーションを含まない値で、アクティベーションはバッチサイズとシーケンス長に応じて増えます。

メソッド	メモリと最小構成
QLoRA	1,946 GB：B300 × 8、8 枚で 1 時間あたり $36.80 から
LoRA	6,672 GB：8 GPU マシン 1 台を超える
フルファインチューニング	44,479 GB：8 GPU マシン 1 台を超える

モデルについて

Hugging Face 上のモデルカードとファイルから。このページのメモリの数字は GPU メモリガイドの計算に従っています。

パラメータ数: 2.8T
エキスパート数: 896
トークンごとのエキスパート数: 16
コンテキスト長（トークン）: 1,048,576
公開時の精度: FP8
ライセンス: other
公開日: 2026-06-13
重み: moonshotai/Kimi-K3

Arrakis でデプロイする

コンソールで Models を開き、vLLM、SGLang、llama.cpp のいずれかを選んで、収まる GPU を借ります。専用の API キー付きの OpenAI 互換エンドポイントと、マシンへの root SSH が使えます。GPU メモリが足りるマシンなら、自分で動かすこともできます：

このモデルをデプロイデプロイの仕組み

よくある質問

すべての GPU の最新価格は GPU 価格のページにあります。

Kimi-K3 にはどれだけの GPU メモリが必要ですか？

推論で動かすには、16 ビットで約 6,672 GB、8 ビットで約 3,336 GB、4 ビットで約 1,668 GB です。KV キャッシュと活性化の分として約 20% を含みます。ファインチューニングには、QLoRA で約 1,946 GB、LoRA で約 6,672 GB、Adam によるフルファインチューニングで約 44,479 GB が必要です（活性化を除く）。

Kimi-K3 は GPU 1 枚で動きますか？

いいえ。4 ビットでも約 1,668 GB 必要で、B300 8 枚が必要です。

Kimi-K3 を動かす費用はいくらですか？

16 ビットなら 8 GPU マシン 1 台を超える構成、4 ビットなら B300 8 枚が必要です。このページの各構成には、Arrakis での現在の GPU 1 時間あたりの最安値を表示しています。料金は前払い残高から 1 時間単位で支払います。

Arrakis で Kimi-K3 をデプロイするには？

Arrakis コンソールで Models を開き、moonshotai/Kimi-K3 を貼り付け、vLLM、SGLang、llama.cpp のいずれかを選んで、収まる GPU を借ります。専用の API キー付きの OpenAI 互換エンドポイントと、マシンへの root SSH が使えます。

ほかのモデル

すべてのモデルと、ほかのモデルの確認。