Decoding：一个用于增强LLM推理能力的Python库，提供可组合的推理算法框架。支持自定义评分函数的采样和重排序模式，内置蒙特卡洛树搜索等高级算法，通过vLLM保持高性能，特别适合研究人员快速 爱可可-爱生活 2024-12-04 17:26:36 【Decoding：一个用于增强LLM推理能力的Python库，提供可组合的推理算法框架。支持自定义评分函数的采样和重排序模式，内置蒙特卡洛树搜索等高级算法，通过vLLM保持高性能，特别适合研究人员快速实验和迭代新想法】'Composable inference algorithms with LLMs and programmable logic'GitHub: github.com/benlipkin/decodingLLM推理 机器学习 算法框架 人工智能
