Gemma 4 31B 大概什么水平,本地部署是不是又成为现实了

查看 52|回复 9
作者:unt   
各项评分也就和 qwen3.5 27b 不相上下的水平,已经在等 qwen3.6 了
philobscur   
写码离 kimi 、glm 等开源最好的还差一截吧?( Qwen Coder 似乎也差一截)
tomchen   
@tomchen 一般用它不会用来写代码吧
unt
OP
  
@unt 哦不清楚。。不过我再看一眼 Gemma 4 的介绍 https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/ 他其实主打的是执行任务、tool calling ,那和 code 也算是一类东西吧,https://arena.ai/leaderboard/code Arena 测试就把他们作为一类
tomchen   
非常强悍,g 厂出手,都是弟弟。
31B ,要真正跑起 256k 的 context ,Q8 起码要 64G 显存。
对于一般 web 代码来说,体现不出来它的上限。当然,一般人也用不到它的上限。
现在打榜的 benchmark ,都是对标 博士级别的水平,只有你的 case 是真正的挑战,才知道和别的差距。
coefu   
@philobscur  qwen3.5 就是阿里开源的最后绝唱了,你还等什么 3.6 咯,事情都搞不明白。
coefu   
@unt 当前开源里,普罗大众能用到的最强悍模型了。2* 2080ti 22g ,不到 4k 的成本,跑 31B Q8 ,估计能有个 10 Token/s 的速度,凑合能用。
coefu   
@unt 我觉得,和 gemini 来比,gemini 现在搞的这种情绪价值提供,反而让人不客观了。今天,试用了一下午 gemma4 31B,可能是 system prompt 没有设置什么情绪相关,反而更理性客观,没有 gemini 的夸夸味。
coefu   
差一点就能赶上 Qwen3.5 了
wwhc   
@coefu https://x.com/ChujieZheng/status/2039909486153089250?s=20 do me a favor
您需要登录后才可以回帖 登录 | 立即注册

返回顶部