# 按小時租用 NVIDIA H100

訓練和部署大語言模型的標準 GPU。Arrakis 列出各個獨立 GPU 市場上所有可用的 H100，按價格從低到高排序；租用統一從一個預付餘額扣費，並自動關停。

**當前價格：** 截至 2026年10月31日 17:40 UTC，Arrakis 上 NVIDIA H100 的最低價格為每 GPU 小時 $1.65，3 臺機器上共有 10 塊 GPU 可用。

## 規格

- 架構：NVIDIA Hopper
- 視訊記憶體：80 GB HBM3（SXM）或 HBM2e（PCIe）
- 視訊記憶體頻寬：SXM 版最高可達 3.35 TB/s
- 來源：[NVIDIA 官網的 H100 頁面](https://www.nvidia.com/en-us/data-center/h100/)

## H100 與其他 GPU 對比

| GPU | 視訊記憶體 | 視訊記憶體頻寬 | Arrakis 上每 GPU 小時的最低價格 |
|---|---|---|---|
| H100 | 80 GB | SXM 版最高可達 3.35 TB/s | $1.65 |
| [H200](/zh-tw/gpus/h200.html.md) | 141 GB | 4.8 TB/s | $4.03 |
| [B200](/zh-tw/gpus/b200.html.md) | 180–192 GB | 高達 8 TB/s | $6.79 |
| [A100](/zh-tw/gpus/a100.html.md) | 40 GB 或 80 GB | 80 GB 版最高可達 2 TB/s | 暫無可用機器 |

## 常見用途

- 訓練和微調大語言模型
- 藉助 Transformer Engine 進行高吞吐量 FP8 推理
- 在透過 NVLink 互連的 SXM 機器上執行多 GPU 任務

## 常見問題

**租用 H100 需要多少錢？** 截至 2026年10月31日 17:40 UTC，Arrakis 上 NVIDIA H100 的最低價格為每 GPU 小時 $1.65，3 臺機器上共有 10 塊 GPU 可用。 按租用時顯示的小時價格從預付餘額中扣費。機器從啟動到移除期間計費，不足一小時按一小時計。

**AI 代理能在 Arrakis 上租用 H100 嗎？** 可以。給 AI 代理一個設有支出上限的權杖，並透過 MCP 或 REST API 接入。它可以搜尋 H100、按設定的小時數租用，結束後將其關停，花費不會超過上限。

**可以租用哪些 H100 配置？** 取決於實時供應情況。每臺掛牌機器都會顯示確切型號、視訊記憶體、GPU 數量、CPU 和記憶體、國家和地區，以及可靠性評分，方便你選出合適的機器。

**有 root 許可權嗎？** 有。你以 root 身份透過 SSH 登入，可以執行任意 Docker 映像，使用自己的 SSH 金鑰，還可以按需掛載儲存磁碟區儲存資料。


租用方式：[控制台](/console/#/gpus?gpu_type=H100)，或 `arrakis gpus search --gpu-type "H100"`（按價格從低到高）。哪款 GPU 適合你的模型：[你需要多少 GPU 視訊記憶體](/zh-tw/guides/gpu-memory.html.md)。