KTransformers

GLM 模型

GLM 页面当前展示 blocker 和旧证据的边界。GLM-5、GLM-5.1、GLM-4.7 和临时 GLM-4.5 权重对应不同验证组合,不能互相替代。

Inference

当前没有可进入主表的 GLM Prefill TPS / Decode TPS

检查项结果页面状态
GLM-4.7 FP8 权重检查未发现可验证权重目录不展示 TPS
GLM-5.1 FP8 权重检查未发现可验证权重目录不展示 TPS
GLM-4.5-tmp-test 原始 NVFP4 config缺 HF quant_method / hf_quant_config.jsonblocker evidence
GLM-4.5-tmp-test hfquant overlaySGLang 能识别为量化 checkpoint,但 modelopt_fp4 要求 GPU capability 100;当前验证硬件不满足blocker evidence

旧 GLM-4.7/5.1 数据只能作为 legacy evidence。它们不是新的 Prefill TPS / Decode TPS 协议结果,不能和当前主表同表排名。

Training

Training tab 可见但置灰。

Case结果页面状态
NVFP4 training smokeFSDP2/ZeRO-3 与 PTQ 量化模型不兼容无 Training TPS
NVFP4 single-GPU training smoke单卡原始配置缺 quant_method无 Training TPS
hfquant overlay training smokeoverlay 后 Transformers 跳过不支持的 modelopt_fp4,最终权重 shape mismatch无 Training TPS

下一步需要准备训练栈原生支持的 GLM 权重格式,或换支持 ModelOpt/NVFP4 modelopt_fp4 的 GPU 后,从 1-step smoke 重新开始。