![[189星]prima.cpp：在普通家用设备上轻松运行700亿参数规模的超大语言模型。亮点：1. 低资源消耗，内存压力低于10%；2. 速度提升15倍，推理速度可达每秒1.5个token；3. 支持](http://wx2.sinaimg.cn/bmiddle/5396ee05ly8i0ijcqx0flj20yz0u0wiy.jpg)
[189星]prima.cpp：在普通家用设备上轻松运行700亿参数规模的超大语言模型。亮点：1. 低资源消耗，内存压力低于10%；2. 速度提升15倍，推理速度可达每秒1.5个token；3. 支持
【[189星]prima.cpp：在普通家用设备上轻松运行700亿参数规模的超大语言模型。亮点：1. 低资源消耗，内存压力低于10%；2. 速度提升15倍，推
正在拼命加载中
我是有底线的
没有更多的页面可以加载啦！
【[189星]prima.cpp：在普通家用设备上轻松运行700亿参数规模的超大语言模型。亮点：1. 低资源消耗，内存压力低于10%；2. 速度提升15倍，推
正在拼命加载中
我是有底线的
没有更多的页面可以加载啦！