gemma:2b 这个模型想要流畅运行起来需要什么配置的电脑

查看 80|回复 4
作者:abcfreedom   
在 2c2g 的服务器上部署了个 gemma:2b ,响应太慢了,如果用家用台式机带 GPU 跑这个模型,什么样的配置才能流畅的进行问题交流?

gemma, 模型, c2g, 台式机

13240284671   
2b 要求很低的,有个 6g 显卡就可以了
crackidz   
2B 模型 CPU 跑就行...
shinyzhu   
我的 M2 ,24G 非常流畅。
coinbase   
m1 pro 16g ,gemma:7b 也可以跑
您需要登录后才可以回帖 登录 | 立即注册

返回顶部