# 能跑得动吗？开源模型的 GPU 需求

每个热门开源模型需要多少显存、能放进哪些 GPU、按小时租用要多少钱。Hugging Face 上的其他模型可以用 `GET /v1/models/fit?model=owner/name` 检查（无需令牌）。

## 热门开源模型

| 模型 | 参数量 | 16 位 | 4 位 |
|---|---|---|---|
| [Qwen3-14B](/zh-cn/models/qwen/qwen3-14b.html.md) | `15B` | 35 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 | 8.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-4B](/zh-cn/models/qwen/qwen3-4b.html.md) | `4.0B` | 9.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-4-31B-it](/zh-cn/models/google/gemma-4-31b-it.html.md) | `31B` | 75 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-8B](/zh-cn/models/qwen/qwen3-8b.html.md) | `8.2B` | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.8-27B](/zh-cn/models/qwen/qwen3.8-27b.html.md) | `28B` | 67 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-4B](/zh-cn/models/qwen/qwen3.5-4b.html.md) | `4.7B` | 11 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-VL-8B-Instruct](/zh-cn/models/qwen/qwen3-vl-8b-instruct.html.md) | `8.8B` | 21 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 5.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-9B](/zh-cn/models/qwen/qwen3.5-9b.html.md) | `9.7B` | 23 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 5.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [GLM-5.3-Flash](/zh-cn/models/zai-org/glm-5.3-flash.html.md) | `321B` | 771 GB：4 × [B300](/zh-cn/gpus/b300.html.md)，4 块合计每小时 $18.40 起 | 193 GB：一块 [B300](/zh-cn/gpus/b300.html.md)，每 GPU 小时 $4.60 起 |
| [gemma-4-26B-A4B-it](/zh-cn/models/google/gemma-4-26b-a4b-it.html.md) | `26B` | 62 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 15 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-V3.2](/zh-cn/models/deepseek-ai/deepseek-v3.2.html.md) | `685B` | 1,645 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 411 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [gpt-oss-20b](/zh-cn/models/openai/gpt-oss-20b.html.md) | `21B` | 50 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 13 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-VL-7B-Instruct](/zh-cn/models/qwen/qwen2.5-vl-7b-instruct.html.md) | `8.3B` | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 5.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-7B-Instruct](/zh-cn/models/qwen/qwen2.5-7b-instruct.html.md) | `7.6B` | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.6-35B-A3B](/zh-cn/models/qwen/qwen3.6-35b-a3b.html.md) | `36B` | 86 GB：一块 [RTX PRO 6000](/zh-cn/gpus/rtx-pro-6000.html.md)，每 GPU 小时 $1.90 起 | 22 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-3.1-8B-Instruct](/zh-cn/models/meta-llama/llama-3.1-8b-instruct.html.md) | `8.0B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-1.5B-Instruct](/zh-cn/models/qwen/qwen2.5-1.5b-instruct.html.md) | `1.5B` | 3.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-VL-4B-Instruct](/zh-cn/models/qwen/qwen3-vl-4b-instruct.html.md) | `4.4B` | 11 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-1.7B](/zh-cn/models/qwen/qwen3-1.7b.html.md) | `2.0B` | 4.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.8-Flash-Next](/zh-cn/models/qwen/qwen3.8-flash-next.html.md) | `180B` | 432 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 | 108 GB：一块 [H200](/zh-cn/gpus/h200.html.md)，每 GPU 小时 $4.03 起 |
| [Unlimited-OCR](/zh-cn/models/baidu/unlimited-ocr.html.md) | `3.3B` | 8.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-2B](/zh-cn/models/qwen/qwen3.5-2b.html.md) | `2.3B` | 5.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-V4-Flash-0731](/zh-cn/models/deepseek-ai/deepseek-v4-flash-0731.html.md) | `304B` | 730 GB：4 × [B300](/zh-cn/gpus/b300.html.md)，4 块合计每小时 $18.40 起 | 183 GB：一块 [B300](/zh-cn/gpus/b300.html.md)，每 GPU 小时 $4.60 起 |
| [Qwen2.5-3B-Instruct](/zh-cn/models/qwen/qwen2.5-3b-instruct.html.md) | `3.1B` | 7.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-32B](/zh-cn/models/qwen/qwen3-32b.html.md) | `33B` | 79 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gpt-oss-120b](/zh-cn/models/openai/gpt-oss-120b.html.md) | `117B` | 280 GB：2 × [H200](/zh-cn/gpus/h200.html.md)，2 块合计每小时 $8.06 起 | 70 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 |
| [Qwen3-4B-Instruct-2507](/zh-cn/models/qwen/qwen3-4b-instruct-2507.html.md) | `4.0B` | 9.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [GLM-5.3](/zh-cn/models/zai-org/glm-5.3.html.md) | `753B` | 1,808 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 452 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [Llama-3.2-1B-Instruct](/zh-cn/models/meta-llama/llama-3.2-1b-instruct.html.md) | `1.2B` | 3.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.6-27B](/zh-cn/models/qwen/qwen3.6-27b.html.md) | `28B` | 67 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-OCR](/zh-cn/models/deepseek-ai/deepseek-ocr.html.md) | `3.3B` | 8.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-V4.1-Flash](/zh-cn/models/deepseek-ai/deepseek-v4.1-flash.html.md) | `763B` | 1,832 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 458 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [Qwen2.5-Coder-14B-Instruct](/zh-cn/models/qwen/qwen2.5-coder-14b-instruct.html.md) | `15B` | 35 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 | 8.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [NVIDIA-Nemotron-3-Nano-4B-BF16](/zh-cn/models/nvidia/nvidia-nemotron-3-nano-4b-bf16.html.md) | `4.0B` | 9.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-27B](/zh-cn/models/qwen/qwen3.5-27b.html.md) | `28B` | 67 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [NVIDIA-Nemotron-3-Nano-30B-A3B-BF16](/zh-cn/models/nvidia/nvidia-nemotron-3-nano-30b-a3b-bf16.html.md) | `32B` | 76 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Mistral-7B-Instruct-v0.2](/zh-cn/models/mistralai/mistral-7b-instruct-v0.2.html.md) | `7.2B` | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-35B-A3B](/zh-cn/models/qwen/qwen3.5-35b-a3b.html.md) | `36B` | 86 GB：一块 [RTX PRO 6000](/zh-cn/gpus/rtx-pro-6000.html.md)，每 GPU 小时 $1.90 起 | 22 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-R1](/zh-cn/models/deepseek-ai/deepseek-r1.html.md) | `684B` | 1,643 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 411 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [DeepSeek-V3](/zh-cn/models/deepseek-ai/deepseek-v3.html.md) | `684B` | 1,643 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 411 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [GLM-5](/zh-cn/models/zai-org/glm-5.html.md) | `754B` | 1,809 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 452 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [Qwen2.5-VL-3B-Instruct](/zh-cn/models/qwen/qwen2.5-vl-3b-instruct.html.md) | `3.8B` | 9.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-7B-Instruct](/zh-cn/models/qwen/qwen2.5-coder-7b-instruct.html.md) | `7.6B` | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-VL-2B-Instruct](/zh-cn/models/qwen/qwen3-vl-2b-instruct.html.md) | `2.1B` | 5.1 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16](/zh-cn/models/nvidia/nvidia-nemotron-3-ultra-550b-a55b-bf16.html.md) | `561B` | 1,345 GB：8 × [B200](/zh-cn/gpus/b200.html.md)，8 块合计每小时 $54.32 起 | 336 GB：2 × [B200](/zh-cn/gpus/b200.html.md)，2 块合计每小时 $13.58 起 |
| [MiniMax-M2.5](/zh-cn/models/minimaxai/minimax-m2.5.html.md) | `229B` | 549 GB：4 × [H200](/zh-cn/gpus/h200.html.md)，4 块合计每小时 $16.12 起 | 137 GB：一块 [H200](/zh-cn/gpus/h200.html.md)，每 GPU 小时 $4.03 起 |
| [Hy3](/zh-cn/models/tencent/hy3.html.md) | `299B` | 717 GB：4 × [B200](/zh-cn/gpus/b200.html.md)，4 块合计每小时 $27.16 起 | 179 GB：一块 [B200](/zh-cn/gpus/b200.html.md)，每 GPU 小时 $6.79 起 |
| [GLM-4.5-Air](/zh-cn/models/zai-org/glm-4.5-air.html.md) | `110B` | 265 GB：2 × [H200](/zh-cn/gpus/h200.html.md)，2 块合计每小时 $8.06 起 | 66 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 |
| [NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16](/zh-cn/models/nvidia/nvidia-nemotron-3.5-lightning-30b-a3b-bf16.html.md) | `32B` | 76 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [NVIDIA-Nemotron-3-Super-120B-A12B-BF16](/zh-cn/models/nvidia/nvidia-nemotron-3-super-120b-a12b-bf16.html.md) | `124B` | 297 GB：4 × [H100](/zh-cn/gpus/h100.html.md)，4 块合计每小时 $6.60 起 | 74 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 |
| [MiniCPM5-2B](/zh-cn/models/openbmb/minicpm5-2b.html.md) | `2.5B` | 6.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-30B-A3B-Instruct-2507](/zh-cn/models/qwen/qwen3-30b-a3b-instruct-2507.html.md) | `31B` | 73 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-3.2-3B-Instruct](/zh-cn/models/meta-llama/llama-3.2-3b-instruct.html.md) | `3.2B` | 7.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-32B-Instruct](/zh-cn/models/qwen/qwen2.5-32b-instruct.html.md) | `33B` | 79 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2-VL-2B-Instruct](/zh-cn/models/qwen/qwen2-vl-2b-instruct.html.md) | `2.2B` | 5.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3.5-122B-A10B](/zh-cn/models/qwen/qwen3.5-122b-a10b.html.md) | `125B` | 300 GB：4 × [H100](/zh-cn/gpus/h100.html.md)，4 块合计每小时 $6.60 起 | 75 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 |
| [Qwen3-30B-A3B](/zh-cn/models/qwen/qwen3-30b-a3b.html.md) | `31B` | 73 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [GLM-5.1](/zh-cn/models/zai-org/glm-5.1.html.md) | `754B` | 1,809 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 452 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |
| [DeepSeek-V4-Flash](/zh-cn/models/deepseek-ai/deepseek-v4-flash.html.md) | `291B` | 698 GB：4 × [B200](/zh-cn/gpus/b200.html.md)，4 块合计每小时 $27.16 起 | 175 GB：一块 [B200](/zh-cn/gpus/b200.html.md)，每 GPU 小时 $6.79 起 |
| [Qwen3.5-397B-A17B](/zh-cn/models/qwen/qwen3.5-397b-a17b.html.md) | `403B` | 968 GB：4 × [B300](/zh-cn/gpus/b300.html.md)，4 块合计每小时 $18.40 起 | 242 GB：一块 [B300](/zh-cn/gpus/b300.html.md)，每 GPU 小时 $4.60 起 |
| [GLM-4.7-Flash](/zh-cn/models/zai-org/glm-4.7-flash.html.md) | `31B` | 75 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-3-4b-it](/zh-cn/models/google/gemma-3-4b-it.html.md) | `4.3B` | 10 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-Coder-30B-A3B-Instruct](/zh-cn/models/qwen/qwen3-coder-30b-a3b-instruct.html.md) | `31B` | 73 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-VL-32B-Instruct](/zh-cn/models/qwen/qwen2.5-vl-32b-instruct.html.md) | `33B` | 80 GB：一块 [RTX PRO 6000](/zh-cn/gpus/rtx-pro-6000.html.md)，每 GPU 小时 $1.90 起 | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Kimi-K3](/zh-cn/models/moonshotai/kimi-k3.html.md) | `2.8T` | 6,672 GB：多于一台 8 卡机器 | 1,668 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 |
| [Qwen2.5-14B-Instruct](/zh-cn/models/qwen/qwen2.5-14b-instruct.html.md) | `15B` | 35 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 | 8.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-R1-Distill-Qwen-1.5B](/zh-cn/models/deepseek-ai/deepseek-r1-distill-qwen-1.5b.html.md) | `1.8B` | 4.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.1 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [HunyuanOCR](/zh-cn/models/tencent/hunyuanocr.html.md) | `1.1B` | 2.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [InternVL2-1B](/zh-cn/models/opengvlab/internvl2-1b.html.md) | `0.9B` | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-3-1b-it](/zh-cn/models/google/gemma-3-1b-it.html.md) | `1.0B` | 2.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [SmolLM3-3B](/zh-cn/models/huggingfacetb/smollm3-3b.html.md) | `3.1B` | 7.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-1.5B](/zh-cn/models/qwen/qwen2.5-1.5b.html.md) | `1.5B` | 3.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [diffusiongemma-26B-A4B-it](/zh-cn/models/google/diffusiongemma-26b-a4b-it.html.md) | `26B` | 62 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 15 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [InternVL3_5-GPT-OSS-20B-A4B-Preview-HF](/zh-cn/models/opengvlab/internvl3_5-gpt-oss-20b-a4b-preview-hf.html.md) | `21B` | 51 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 13 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Cosmos-Reason2-2B](/zh-cn/models/nvidia/cosmos-reason2-2b.html.md) | `2.4B` | 5.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-3.1-8B](/zh-cn/models/meta-llama/llama-3.1-8b.html.md) | `8.0B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2-VL-7B-Instruct](/zh-cn/models/qwen/qwen2-vl-7b-instruct.html.md) | `8.3B` | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 5.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [granite-4.1-3b](/zh-cn/models/ibm-granite/granite-4.1-3b.html.md) | `3.4B` | 8.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-4B-Thinking-2507](/zh-cn/models/qwen/qwen3-4b-thinking-2507.html.md) | `4.0B` | 9.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-7B](/zh-cn/models/qwen/qwen2.5-7b.html.md) | `7.6B` | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-3.2-1B](/zh-cn/models/meta-llama/llama-3.2-1b.html.md) | `1.2B` | 3.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-32B-Instruct](/zh-cn/models/qwen/qwen2.5-coder-32b-instruct.html.md) | `33B` | 79 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-OCR-2](/zh-cn/models/deepseek-ai/deepseek-ocr-2.html.md) | `3.4B` | 8.1 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Hermes-3-Llama-3.1-8B](/zh-cn/models/nousresearch/hermes-3-llama-3.1-8b.html.md) | `8.0B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Mistral-7B-v0.1](/zh-cn/models/mistralai/mistral-7b-v0.1.html.md) | `7.2B` | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-1.5B-Instruct](/zh-cn/models/qwen/qwen2.5-coder-1.5b-instruct.html.md) | `1.5B` | 3.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-3B-Instruct](/zh-cn/models/qwen/qwen2.5-coder-3b-instruct.html.md) | `3.1B` | 7.4 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-Coder-Next](/zh-cn/models/qwen/qwen3-coder-next.html.md) | `80B` | 191 GB：一块 [B300](/zh-cn/gpus/b300.html.md)，每 GPU 小时 $4.60 起 | 48 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 |
| [Qwen3-VL-30B-A3B-Instruct](/zh-cn/models/qwen/qwen3-vl-30b-a3b-instruct.html.md) | `31B` | 75 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Kimi-K2.5](/zh-cn/models/moonshotai/kimi-k2.5.html.md) | `1.0T` | 2,465 GB：多于一台 8 卡机器 | 616 GB：8 × [H100](/zh-cn/gpus/h100.html.md)，8 块合计每小时 $13.20 起 |
| [medgemma-4b-it](/zh-cn/models/google/medgemma-4b-it.html.md) | `4.3B` | 10 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-7B](/zh-cn/models/qwen/qwen2.5-coder-7b.html.md) | `7.6B` | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Apertus-8B-Instruct-2509](/zh-cn/models/swiss-ai/apertus-8b-instruct-2509.html.md) | `8.1B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Phi-3.5-mini-instruct](/zh-cn/models/microsoft/phi-3.5-mini-instruct.html.md) | `3.8B` | 9.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [LocateAnything-3B](/zh-cn/models/nvidia/locateanything-3b.html.md) | `3.8B` | 9.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [phi-4](/zh-cn/models/microsoft/phi-4.html.md) | `15B` | 35 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 | 8.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen2.5-Coder-1.5B](/zh-cn/models/qwen/qwen2.5-coder-1.5b.html.md) | `1.5B` | 3.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-3.3-70B-Instruct](/zh-cn/models/meta-llama/llama-3.3-70b-instruct.html.md) | `71B` | 169 GB：一块 [B200](/zh-cn/gpus/b200.html.md)，每 GPU 小时 $6.79 起 | 42 GB：一块 [L40S](/zh-cn/gpus/l40s.html.md)、[RTX 6000 Ada](/zh-cn/gpus/rtx-6000-ada.html.md) 或 [RTX A6000](/zh-cn/gpus/rtx-a6000.html.md)，L40S 每 GPU 小时 $0.44 起 |
| [DeepSeek-V4-Pro](/zh-cn/models/deepseek-ai/deepseek-v4-pro.html.md) | `1.6T` | 3,837 GB：多于一台 8 卡机器 | 959 GB：4 × [B300](/zh-cn/gpus/b300.html.md)，4 块合计每小时 $18.40 起 |
| [MiniCPM-V-4.7-35B-A3B](/zh-cn/models/openbmb/minicpm-v-4.7-35b-a3b.html.md) | `35B` | 85 GB：一块 [RTX PRO 6000](/zh-cn/gpus/rtx-pro-6000.html.md)，每 GPU 小时 $1.90 起 | 21 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [MiniMax-M2.7](/zh-cn/models/minimaxai/minimax-m2.7.html.md) | `229B` | 549 GB：4 × [H200](/zh-cn/gpus/h200.html.md)，4 块合计每小时 $16.12 起 | 137 GB：一块 [H200](/zh-cn/gpus/h200.html.md)，每 GPU 小时 $4.03 起 |
| [Phi-3.5-vision-instruct](/zh-cn/models/microsoft/phi-3.5-vision-instruct.html.md) | `4.1B` | 10.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-R1-Distill-Qwen-32B](/zh-cn/models/deepseek-ai/deepseek-r1-distill-qwen-32b.html.md) | `33B` | 79 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-R1-0528-Qwen3-8B](/zh-cn/models/deepseek-ai/deepseek-r1-0528-qwen3-8b.html.md) | `8.2B` | 20 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.9 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Qwen3-235B-A22B](/zh-cn/models/qwen/qwen3-235b-a22b.html.md) | `235B` | 564 GB：8 × [H100](/zh-cn/gpus/h100.html.md)，8 块合计每小时 $13.20 起 | 141 GB：一块 [B200](/zh-cn/gpus/b200.html.md)，每 GPU 小时 $6.79 起 |
| [Phi-4-mini-instruct](/zh-cn/models/microsoft/phi-4-mini-instruct.html.md) | `3.8B` | 9.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-3-12b-it](/zh-cn/models/google/gemma-3-12b-it.html.md) | `12B` | 29 GB：一块 [RTX 5090](/zh-cn/gpus/rtx-5090.html.md)，每 GPU 小时 $0.58 起 | 7.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-3-27b-it](/zh-cn/models/google/gemma-3-27b-it.html.md) | `27B` | 66 GB：一块 [H100](/zh-cn/gpus/h100.html.md) 或 [A100](/zh-cn/gpus/a100.html.md)，H100 每 GPU 小时 $1.65 起 | 16 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [phi-2](/zh-cn/models/microsoft/phi-2.html.md) | `2.8B` | 6.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Llama-2-7b-hf](/zh-cn/models/meta-llama/llama-2-7b-hf.html.md) | `6.7B` | 16 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.0 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [granite-3.3-2b-instruct](/zh-cn/models/ibm-granite/granite-3.3-2b-instruct.html.md) | `2.5B` | 6.1 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 1.5 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Phi-3-mini-4k-instruct](/zh-cn/models/microsoft/phi-3-mini-4k-instruct.html.md) | `3.8B` | 9.2 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.3 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [EXAONE-3.5-7.8B-Instruct](/zh-cn/models/lgai-exaone/exaone-3.5-7.8b-instruct.html.md) | `7.8B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.7 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Kimi-K2-Instruct](/zh-cn/models/moonshotai/kimi-k2-instruct.html.md) | `1.0T` | 2,463 GB：多于一台 8 卡机器 | 616 GB：8 × [H100](/zh-cn/gpus/h100.html.md)，8 块合计每小时 $13.20 起 |
| [DeepSeek-R1-Distill-Qwen-7B](/zh-cn/models/deepseek-ai/deepseek-r1-distill-qwen-7b.html.md) | `7.6B` | 18 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [Meta-Llama-3-8B-Instruct](/zh-cn/models/meta-llama/meta-llama-3-8b-instruct.html.md) | `8.0B` | 19 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.8 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [gemma-3-4b-pt](/zh-cn/models/google/gemma-3-4b-pt.html.md) | `4.3B` | 10 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 2.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [deepseek-coder-7b-instruct-v1.5](/zh-cn/models/deepseek-ai/deepseek-coder-7b-instruct-v1.5.html.md) | `6.9B` | 17 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 4.1 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [MiniCPM5-1B](/zh-cn/models/openbmb/minicpm5-1b.html.md) | `1.1B` | 2.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 | 0.6 GB：一块 [RTX 4090](/zh-cn/gpus/rtx-4090.html.md) 或 [RTX 3090](/zh-cn/gpus/rtx-3090.html.md)，RTX 3090 每 GPU 小时 $0.19 起 |
| [DeepSeek-V3-0324](/zh-cn/models/deepseek-ai/deepseek-v3-0324.html.md) | `685B` | 1,643 GB：8 × [B300](/zh-cn/gpus/b300.html.md)，8 块合计每小时 $36.80 起 | 411 GB：2 × [B300](/zh-cn/gpus/b300.html.md)，2 块合计每小时 $9.20 起 |

## 常见问题

**模型需要的显存是怎么算出来的？** 用它在 Hugging Face 上的文件中的参数量，乘以每个参数占用的字节数：16 位为 2 字节，8 位为 1 字节，4 位为半个字节。推理部署还要多出约 20% 用于 KV 缓存和激活值；长上下文和大批量需要更多。GPU 显存指南里有这些规则，以及微调需要的显存。

**为什么混合专家模型需要为全部参数准备显存？** 每个 token 只用到少数几个专家，但任何 token 都可能用到任何专家，所以所有专家都要常驻 GPU 显存。激活参数少让它更快，而不是更小。

**能检查这里没有列出的模型吗？** 可以。把 Hugging Face 上任意模型的名称或链接粘贴到本页顶部的检查框中即可。受限模型也可以：它们的参数量是公开的。

**如何在 Arrakis 上部署模型？** 在控制台中打开 Models，粘贴模型名称，选择 vLLM、SGLang 或 llama.cpp，然后租用一块能放下它的 GPU。你会得到一个兼容 OpenAI 的端点，带有专属 API 密钥，并可通过 root SSH 登录机器。