30B 尺寸哪个小模型编码能力会好一些

查看 55|回复 3
作者:summerLast   
很久没本地跑小模型了,之前用的 QWen3-30B-A3B 2507 效果最佳,现在想咨询下哪个模型效果会更好些

模型, 编码, 效果

xtreme1   
卡死 32G 显存么, 还得留点给上下文吧.
summerLast
OP
  
@xtreme1 用量化后的,32G 还有 10G 左右给上下文
slowgen   
GLM-4.7-Flash
您需要登录后才可以回帖 登录 | 立即注册

返回顶部