微软开源了一款MoE模型：GRIN-MoE6...

微软开源了一款MoE模型：GRIN-MoE
6.6B活跃参数，在编程和数学任务上能力出色

适用于需要强推理能力，特别是代码、数学和逻辑需求，内存/计算资源受限的环境以及对延迟敏感的场景

github：LLM MoE