# Requisitos de GPU de NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 tiene 32B parámetros. Para servirlo, calcula unos 76 GB de memoria de GPU en 16 bits, 38 GB en 8 bits o 19 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 128 expertos, 6 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 32B parámetros.

[Despliégalo en Arrakis](/console/#/models?model=nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16).

## Lo que hace falta para servirlo

| Precisión | Memoria y configuración mínima |
|---|---|
| 16 bits | 76 GB: una [H100](/es/gpus/h100.html.md) o [A100](/es/gpus/a100.html.md), la H100 desde 1,65 US$ por GPU-hora |
| 8 bits | 38 GB: una [L40S](/es/gpus/l40s.html.md), [RTX 6000 Ada](/es/gpus/rtx-6000-ada.html.md) o [RTX A6000](/es/gpus/rtx-a6000.html.md), la L40S desde 0,44 US$ por GPU-hora |
| 4 bits | 19 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |

## Lo que hace falta para ajustarlo

| Método | Memoria y configuración mínima |
|---|---|
| QLoRA | 22 GB: una [RTX 4090](/es/gpus/rtx-4090.html.md) o [RTX 3090](/es/gpus/rtx-3090.html.md), la RTX 3090 desde 0,19 US$ por GPU-hora |
| LoRA | 76 GB: una [H100](/es/gpus/h100.html.md) o [A100](/es/gpus/a100.html.md), la H100 desde 1,65 US$ por GPU-hora |
| Ajuste fino completo | 505 GB: 2 × [B300](/es/gpus/b300.html.md), desde 9,20 US$ por hora las 2 |

## Sobre el modelo

| | |
|---|---|
| Parámetros | `32B` |
| Activos por token | `3B` |
| Expertos | `128` |
| Expertos por token | `6` |
| Ventana de contexto (tokens) | `262,144` |
| Publicado en | `BF16` |
| Licencia | `other` |
| Fecha de publicación | `2025-12-04` |
| Pesos | [nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16](https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) |

## Sírvelo tú mismo

```
vllm serve nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 --tensor-parallel-size 1
```

## Preguntas

**¿Cuánta memoria de GPU necesita NVIDIA-Nemotron-3-Nano-30B-A3B-BF16?** Para servirlo, unos 76 GB en 16 bits, 38 GB en 8 bits y 19 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 22 GB con QLoRA, 76 GB con LoRA y 505 GB para un ajuste fino completo con Adam, sin contar las activaciones.

**¿Puedo ejecutar NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 en una sola GPU?** Sí. En 16 bits necesita unos 76 GB, que caben en una H100 o A100.

**¿Cuánto cuesta ejecutar NVIDIA-Nemotron-3-Nano-30B-A3B-BF16?** En 16 bits necesita una H100 o A100; en 4 bits, una RTX 4090 o RTX 3090. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

**¿Cómo despliego NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 en Arrakis?** Abre Models en la consola de Arrakis, pega nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.


Más modelos: [/models](/es/models.html.md).