面向创新连贯LLM输出的Min-p采样

大模型日报ai前沿动态

【面向创新连贯LLM输出的Min-p采样】

链接：网页链接
论文概述：本文提出了min-p采样，一种动态调整阈值的采样方法，有效平衡了大型语言模型生成文本的创造性和连贯性，特别是在高温度值设置下，并通过实验和人类评估证明了其优越性，其核心反直觉之处在于利用相对而非绝对阈值，并揭示了高温下的模型潜力。