MiniMax 模型

MiniMax 页面同样按模型组织。MiniMax-M2 和 MiniMax-M2.5 的 FP8 Inference 已完成验证；Training 已经补过 smoke，但当前路线仍处于 blocked 状态，没有 Training TPS。

总览

模型	Inference	Training
MiniMax-M2	FP8 GE10 默认；GE0 低 GPU 显存档	置灰：remote code / Transformers API 不兼容
MiniMax-M2.5	FP8 GE10 默认；GE0 低 GPU 显存档	置灰：权重目录缺标准训练 loader 入口

Inference

Inference 摘要展示 Prefill/Decode TPS。

Model	Method	GE	关键参数	Prefill TPS	Decode TPS	Peak GPU	Peak RSS	Evidence
MiniMax-M2	FP8	0	`mem-fraction-static=0.70`, `max-total-tokens=8192`, `max-running-requests=4`	122.71	21.87	8.56GB	436.47GB	GE0 TPS sweep
MiniMax-M2	FP8	10	同 GE0	127.71	22.13	16.9GB	436.7GB	GE10 TPS sweep
MiniMax-M2.5	FP8	0	同 GE0	123.24	22.09	8.56GB	436.56GB	GE0 TPS sweep
MiniMax-M2.5	FP8	10	同 GE0	128.50	21.71	16.8GB	436.4GB	GE10 TPS sweep

推荐解释：

用途	推荐
默认	GE10。Prefill 最高，GPU 峰值仍低于 24GB
低 GPU 显存	GE0。GPU 约 8.56GB，但系统内存仍需约 436GB
不推荐	GE20/0.95 只剩 1438-token KV pool；GE30/0.95 加载 expert 时 CUDA OOM

MiniMax-M2 GE10 启动命令：

export CUDA_VISIBLE_DEVICES=0
export SGLANG_DISABLE_CUDNN_CHECK=1

python -m sglang.launch_server \
  --host 127.0.0.1 \
  --port 19214 \
  --model-path /path/to/MiniMax-M2 \
  --served-model-name minimax-m2-fp8-ge10 \
  --trust-remote-code \
  --tp-size 1 \
  --context-length 4096 \
  --mem-fraction-static 0.70 \
  --max-total-tokens 8192 \
  --chunked-prefill-size 512 \
  --max-prefill-tokens 512 \
  --max-running-requests 4 \
  --watchdog-timeout 1800 \
  --attention-backend triton \
  --sampling-backend pytorch \
  --disable-cuda-graph \
  --disable-radix-cache \
  --skip-server-warmup \
  --disable-shared-experts-fusion \
  --log-requests \
  --show-time-cost \
  --enable-request-time-stats-logging \
  --kt-weight-path /path/to/MiniMax-M2 \
  --kt-method FP8 \
  --kt-num-gpu-experts 10 \
  --kt-cpuinfer 96 \
  --kt-threadpool-count 2

MiniMax-M2.5 使用同一命令形态，替换这些参数：

--port 19215
--model-path /path/to/MiniMax-M2.5
--served-model-name minimax-m25-fp8-ge10
--kt-weight-path /path/to/MiniMax-M2.5

GE0 低 GPU 显存变体只改 --served-model-name 和：

--kt-num-gpu-experts 0

Training

MiniMax 的 Inference 可用不代表 Training 可用。当前 Training tab 可见但置灰。

Model	Case	结果	页面状态
MiniMax-M2	upstream-clean training smoke	remote code import 失败：缺 `OutputRecorder`	置灰，无 Training TPS
MiniMax-M2	compatibility-layer training smoke	加兼容层后继续失败：`ROPE_INIT_FUNCTIONS['default']` 不存在	置灰，说明不是浅层 import 问题
MiniMax-M2.5	training loader smoke	`AutoModel.from_pretrained` 找不到标准 `model.safetensors` / `pytorch_model.bin` 入口	置灰，Inference 权重路径不能直接训练

当前没有 MiniMax Training 推荐命令。下一步需要匹配 MiniMax remote code 的 Transformers 版本，修复 RoPE key 兼容，并准备可被 Training loader 识别的 M2.5 权重布局。