KTransformers

Kimi 模型

Kimi 目前应按推理优先来写。

推理

模型入口Method状态
Kimi K2 Thinkingkt run kimi-k2-thinking 或手动 SGLang-KT 启动RAWINT4Current / Needs smoke。
Kimi K2.5手动 SGLang-KT 教程RAWINT4Manual / Needs smoke;暂不是 registry-first。

微调

Kimi SFT 暂不属于当前公开 KT SFT 支持。旧 Kimi SFT 页面应放在 legacy 或 experimental 说明中,等当前 LLaMA-Factory 路径支持 Kimi 并完成 smoke 后再提升。

文档来源

当前推理内容可从以下页面迁移:

  • doc/en/kt-kernel/Kimi-K2-Thinking-Native.md
  • doc/en/Kimi-K2.5.md

旧 SFT 材料不要作为当前 quick start 使用。