pip install ktransformers有关包括 CUDA 设置在内的详细安装说明,请参阅 安装指南
系统要求
最低配置
- Linux(Ubuntu 20.04+)
- Python 3.9+
- CUDA 11.8+
- 16 GB 内存
- NVIDIA GPU(8GB+ 显存)
推荐配置
- Linux(Ubuntu 22.04+)
- Python 3.10+
- CUDA 12.0+
- 256 GB+ 内存
- NVIDIA RTX 4090 或更高
pip install ktransformers有关包括 CUDA 设置在内的详细安装说明,请参阅 安装指南