Arrakis / Modèles / MiniMax-M2.5

Besoins GPU de MiniMax-M2.5

MiniMax-M2.5 compte 229B paramètres. Pour le servir, prévoyez environ 549 Go de mémoire GPU en 16 bits, 274 Go en 8 bits ou 137 Go en 4 bits, dont environ 20 % pour le cache KV et les activations.

C’est un modèle à mélange d’experts : 256 experts, dont 8 actifs pour chaque token. Tous restent en mémoire GPU : prévoyez la mémoire pour l’ensemble des 229B paramètres.

Ce qu’il faut pour le servir

La mémoire GPU pour le faire tourner en inférence, avec la plus petite configuration GPU qui le contient et le prix le plus bas sur Arrakis en ce moment.

PrécisionMémoire et plus petite configuration
16 bits549 Go : 4 × H200, à partir de 13,76 $ de l’heure pour les 4
8 bits274 Go : 2 × H200, à partir de 6,88 $ de l’heure pour les 2
4 bits137 Go : un H200, à partir de 3,44 $ par heure de GPU

Ce qu’il faut pour l’affiner

QLoRA entraîne des adaptateurs sur un modèle figé en 4 bits, LoRA sur un modèle en 16 bits, et le fine-tuning complet met à jour tous les poids. Les chiffres s’entendent hors activations, qui augmentent avec la taille des lots et la longueur des séquences.

MéthodeMémoire et plus petite configuration
QLoRA160 Go : un B200, à partir de 6,33 $ par heure de GPU
LoRA549 Go : 4 × H200, à partir de 13,76 $ de l’heure pour les 4
Fine-tuning complet3 659 Go : plus d’une machine à 8 GPU

À propos du modèle

D’après sa fiche et ses fichiers sur Hugging Face. Les chiffres de mémoire suivent le guide de la mémoire GPU.

Paramètres
229B
Experts
256
Experts par token
8
Fenêtre de contexte (tokens)
196,608
Publié en
FP8
Licence
other
Date de publication
2026-02-12
Poids
MiniMaxAI/MiniMax-M2.5

Déployez-le sur Arrakis

Ouvrez Models dans la console, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine. Ou faites-le tourner vous-même sur n’importe quelle machine avec assez de mémoire GPU :

vLLM
vllm serve MiniMaxAI/MiniMax-M2.5 --tensor-parallel-size 4

Questions

Les prix en temps réel de tous les GPU sont sur la page Prix des GPU.

De combien de mémoire GPU MiniMax-M2.5 a-t-il besoin ?
Pour le servir, environ 549 Go en 16 bits, 274 Go en 8 bits et 137 Go en 4 bits, dont environ 20 % pour le cache KV et les activations. Pour l’affiner, environ 160 Go avec QLoRA, 549 Go avec LoRA et 3 659 Go pour un fine-tuning complet avec Adam, hors activations.
Puis-je faire tourner MiniMax-M2.5 sur un seul GPU ?
Oui, quantifié. En 4 bits, il lui faut environ 137 Go, ce qui tient sur un H200. En 16 bits, il lui faut 4 GPU H200.
Combien coûte l’exécution de MiniMax-M2.5 ?
En 16 bits, il lui faut 4 GPU H200 ; en 4 bits, un H200. Chaque configuration de cette page affiche le prix le plus bas par heure de GPU sur Arrakis en ce moment, et vous payez à l’heure depuis un solde prépayé.
Comment déployer MiniMax-M2.5 sur Arrakis ?
Ouvrez Models dans la console Arrakis, collez MiniMaxAI/MiniMax-M2.5, choisissez vLLM, SGLang ou llama.cpp, et louez un GPU sur lequel il tient. Vous obtenez un endpoint compatible OpenAI avec sa propre clé d’API, et un accès SSH root à la machine.