搞 AI 的话同样价格是 3060 12Gx2 好还是 4060Ti 16G 好?

查看 93|回复 7
作者:1014982466   
研究生组里面想搞自然语言处理,大语言模型(仅推理不训练)等等。
现在 1 万每台的预算,要 N 卡还是大显存显卡 只能是 3060 12Gx2 (¥ 3400 )或者 4060Ti 16G (¥ 3500 )
因为要正规渠道且开发票所以 2080Ti 22G 或者 P40 那些是肯定不行。
所以就想问下搞过 AI 的,两张 3060G 看似 22G 显存性价比很高,有没有什么坑,比如双卡兼容性或者不支持双卡等等
4060Ti 的话最省事,而且单卡不挑机箱电源,但是就怕 16G 显存不够用
请大佬们解答

gx2, 万每台, p40

karatsuba   

lkwfive   
显卡容量优先于算力,去官网确认下 3060 能不能组网,能的话就选这个
Takizawa   
还不如内存加大一点,用共享显存
wipbssl   
说实话不如租服务器,硬要选的话可以试试 3060*2 ,用 ddp 训练应该比 4060ti 强
daweii   
colab 买算力
1014982466
OP
  
@karatsuba #1 @wipbssl #4 有没有推荐的平台?适合学生的
qqjt   
我的话会选 4060ti ,双卡的话可能的坑更多。这俩个方案其实都只能学习性质,正儿八经训练得加钱。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部