[80星]r1-ktransformers-guide:让你的DeepSeek-R1 GGUF模型在KTransformers上飞速运行。亮点:1. 性能提升近2倍,比llama.cpp更快;2. 支

  • 爱可可-爱生活
  • 2025-02-24 10:54:20
【[80星]r1-ktransformers-guide:让你的DeepSeek-R1 GGUF模型在KTransformers上飞速运行。亮点:1. 性能提升近2倍,比llama.cpp更快;2. 支持多GPU和内存映射,灵活适配不同硬件;3. 优化配置丰富,轻松实现高效推理】
'run DeepSeek-R1 GGUFs on KTransformers'
GitHub: github.com/ubergarm/r1-ktransformers-guide
深度学习 模型优化 高性能计算 AI创造营
[80星]r1-ktransformers-guide:让你的DeepSeek-R1 GGUF模型在KTransformers上飞速运行。亮点:1. 性能提升近2倍,比llama.cpp更快;2. 支持多GPU和内存映射,灵活适配不同硬件;3. 优化配置丰富,轻松实现高效推理