技术工作
这个板块把技术背景和用户操作指南分开。想直接运行模型时,请看推理和微调板块;想理解 KTransformers 的系统思路、实现方向和公开演讲时,请看技术工作板块。
主题
| 主题 | 页面 |
|---|---|
| CPU-GPU 异构 MoE 推理 | 异构推理 |
| 工作站 LoRA SFT 方向 | 本地微调 |
| 公开演讲和幻灯片 | 演讲与幻灯片 |
| GitHub 文档迁移关系 | GitHub 文档迁移地图 |
技术页可以讨论尚未完全产品化的系统想法。用户操作页仍然必须写清精确包版本、命令、硬件 tuple 和 smoke 记录。
这个板块把技术背景和用户操作指南分开。想直接运行模型时,请看推理和微调板块;想理解 KTransformers 的系统思路、实现方向和公开演讲时,请看技术工作板块。
| 主题 | 页面 |
|---|---|
| CPU-GPU 异构 MoE 推理 | 异构推理 |
| 工作站 LoRA SFT 方向 | 本地微调 |
| 公开演讲和幻灯片 | 演讲与幻灯片 |
| GitHub 文档迁移关系 | GitHub 文档迁移地图 |
技术页可以讨论尚未完全产品化的系统想法。用户操作页仍然必须写清精确包版本、命令、硬件 tuple 和 smoke 记录。