KTransformers

文本生成模型

KTransformers 文本生成支持是模型家族特定的。发布部署声明前,模型页必须和 支持矩阵 一起核对。

当前 Registry 家族

Registry alias 示例模型家族默认 method 方向
deepseek-v3deepseek-r1DeepSeekAMXINT4 registry defaults
deepseek-v3.2DeepSeekFP8 registry default
deepseek-v4-flashDeepSeekMXFP4 窄路径
kimi-k2-thinkingKimiRAWINT4
m2m2.1MiniMaxFP8

在当前环境查看 registry:

kt model list
kt model search deepseek

手动教程家族

部分模型家族已有手动 SGLang-KT 教程,但还不是 registry-first 路径,需要按模型页使用:

状态规则

只有精确 tuple 已核对后,才能标记为 "Current":

模型家族 + checkpoint + method + backend + 硬件 + 启动入口