环境变量
多数用户正常 serving 不需要设置环境变量。只在调试或受控实验时使用。
kt-kernel
| 变量 | 作用 |
|---|---|
KT_KERNEL_CPU_VARIANT | 测试时覆盖自动 CPU variant 选择。 |
KT_KERNEL_DEBUG | 打印 CPU 检测和加载细节。 |
示例:
export KT_KERNEL_DEBUG=1
python -c "import kt_kernel"
模型和缓存路径
模型缓存位置可按需使用标准 Hugging Face 和 Python 环境变量,但公开文档不要依赖本地反向代理。
记录一次运行时,任何非默认环境变量都应进入 runtime tuple。