三千预算，本地跑 70b...

三千预算，本地跑 70b 大模型
v2ex上的一个帖子，网页链接
3000块钱的主机可以跑起来 70b 大模型，速度如图2。用了3张AMD Instinct MI50显卡.
不过也只是能跑而已