# Requisitos de GPU de gpt-oss-120b

gpt-oss-120b tiene 117B parámetros. Para servirlo, calcula unos 280 GB de memoria de GPU en 16 bits, 140 GB en 8 bits o 70 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 128 expertos, 4 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 117B parámetros.

[Despliégalo en Arrakis](/console/#/models?model=openai/gpt-oss-120b).

## Lo que hace falta para servirlo

| Precisión | Memoria y configuración mínima |
|---|---|
| 16 bits | 280 GB: 2 × [H200](/es/gpus/h200.html.md), desde 8,06 US$ por hora las 2 |
| 8 bits | 140 GB: una [H200](/es/gpus/h200.html.md), desde 4,03 US$ por GPU-hora |
| 4 bits | 70 GB: una [H100](/es/gpus/h100.html.md) o [A100](/es/gpus/a100.html.md), la H100 desde 1,65 US$ por GPU-hora |

## Lo que hace falta para ajustarlo

| Método | Memoria y configuración mínima |
|---|---|
| QLoRA | 82 GB: una [RTX PRO 6000](/es/gpus/rtx-pro-6000.html.md), desde 1,90 US$ por GPU-hora |
| LoRA | 280 GB: 2 × [H200](/es/gpus/h200.html.md), desde 8,06 US$ por hora las 2 |
| Ajuste fino completo | 1.869 GB: 8 × [B300](/es/gpus/b300.html.md), desde 36,80 US$ por hora las 8 |

## Sobre el modelo

| | |
|---|---|
| Parámetros | `117B` |
| Expertos | `128` |
| Expertos por token | `4` |
| Ventana de contexto (tokens) | `131,072` |
| Publicado en | `FP8` |
| Licencia | `apache-2.0` |
| Fecha de publicación | `2025-08-04` |
| Pesos | [openai/gpt-oss-120b](https://huggingface.co/openai/gpt-oss-120b) |

## Sírvelo tú mismo

```
vllm serve openai/gpt-oss-120b --tensor-parallel-size 2
```

## Preguntas

**¿Cuánta memoria de GPU necesita gpt-oss-120b?** Para servirlo, unos 280 GB en 16 bits, 140 GB en 8 bits y 70 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 82 GB con QLoRA, 280 GB con LoRA y 1.869 GB para un ajuste fino completo con Adam, sin contar las activaciones.

**¿Puedo ejecutar gpt-oss-120b en una sola GPU?** Sí, cuantizado. En 8 bits necesita unos 140 GB, que caben en una H200. En 16 bits necesita 2 GPU H200.

**¿Cuánto cuesta ejecutar gpt-oss-120b?** En 16 bits necesita 2 GPU H200; en 4 bits, una H100 o A100. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

**¿Cómo despliego gpt-oss-120b en Arrakis?** Abre Models en la consola de Arrakis, pega openai/gpt-oss-120b, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.


Más modelos: [/models](/es/models.html.md).
