# Requisitos de GPU de Kimi-K2-Instruct

Kimi-K2-Instruct tiene 1,0T parámetros. Para servirlo, calcula unos 2.463 GB de memoria de GPU en 16 bits, 1.232 GB en 8 bits o 616 GB en 4 bits, incluido un 20% para la caché KV y las activaciones.

Es un modelo de mezcla de expertos: 384 expertos, 8 de ellos activos en cada token. Todos permanecen en la memoria de la GPU, así que calcula la memoria para los 1,0T parámetros.

[Despliégalo en Arrakis](/console/#/models?model=moonshotai/Kimi-K2-Instruct).

## Lo que hace falta para servirlo

| Precisión | Memoria y configuración mínima |
|---|---|
| 16 bits | 2.463 GB: más de una máquina de 8 GPU |
| 8 bits | 1.232 GB: 8 × [B200](/es/gpus/b200.html.md), desde 54,32 US$ por hora las 8 |
| 4 bits | 616 GB: 8 × [H100](/es/gpus/h100.html.md), desde 13,20 US$ por hora las 8 |

## Lo que hace falta para ajustarlo

| Método | Memoria y configuración mínima |
|---|---|
| QLoRA | 718 GB: 4 × [B200](/es/gpus/b200.html.md), desde 27,16 US$ por hora las 4 |
| LoRA | 2.463 GB: más de una máquina de 8 GPU |
| Ajuste fino completo | 16.423 GB: más de una máquina de 8 GPU |

## Sobre el modelo

| | |
|---|---|
| Parámetros | `1.0T` |
| Expertos | `384` |
| Expertos por token | `8` |
| Ventana de contexto (tokens) | `131,072` |
| Publicado en | `FP8` |
| Licencia | `other` |
| Fecha de publicación | `2025-07-11` |
| Pesos | [moonshotai/Kimi-K2-Instruct](https://huggingface.co/moonshotai/Kimi-K2-Instruct) |

## Preguntas

**¿Cuánta memoria de GPU necesita Kimi-K2-Instruct?** Para servirlo, unos 2.463 GB en 16 bits, 1.232 GB en 8 bits y 616 GB en 4 bits, incluido un 20% para la caché KV y las activaciones. Para ajustarlo, unos 718 GB con QLoRA, 2.463 GB con LoRA y 16.423 GB para un ajuste fino completo con Adam, sin contar las activaciones.

**¿Puedo ejecutar Kimi-K2-Instruct en una sola GPU?** No. Incluso en 4 bits necesita unos 616 GB: 8 GPU H100.

**¿Cuánto cuesta ejecutar Kimi-K2-Instruct?** En 16 bits necesita más de una máquina de 8 GPU; en 4 bits, 8 GPU H100. Cada configuración de esta página muestra el precio más bajo por GPU-hora en Arrakis ahora mismo, y pagas por hora desde un saldo prepago.

**¿Cómo despliego Kimi-K2-Instruct en Arrakis?** Abre Models en la consola de Arrakis, pega moonshotai/Kimi-K2-Instruct, elige vLLM, SGLang o llama.cpp y alquila una GPU en la que quepa. Obtienes un endpoint compatible con OpenAI con su propia clave de API, y SSH root a la máquina.


Más modelos: [/models](/es/models.html.md).