想在本地跑大模型, macmini 怎么选?

查看 12|回复 1
作者:dropdatabase   
想在本地跑大模型,macminim4 选 24G 的还是 32G 的?求大佬指点。
怎么买优惠些?目前看好像国补挺便宜,但是抢不到。上半年 apple 有教育补贴不?

MacMini, 大模型, 内存

uprit   
受限于带宽,丐版 16G 够用了,跑个 7B 嗖嗖的,11B 也能跑。
再大的模型,增大内存 M4 虽然也能跑,但那个速度,就开始难以忍受,远不如独显。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部