搞 AI 的话同样价格是 3060 12Gx2 好还是 4060Ti 16G 好?

查看 284|回复 7
作者:1014982466   
研究生组里面想搞自然语言处理,大语言模型(仅推理不训练)等等。
现在 1 万每台的预算,要 N 卡还是大显存显卡 只能是 3060 12Gx2 (¥ 3400 )或者 4060Ti 16G (¥ 3500 )
因为要正规渠道且开发票所以 2080Ti 22G 或者 P40 那些是肯定不行。
所以就想问下搞过 AI 的,两张 3060G 看似 22G 显存性价比很高,有没有什么坑,比如双卡兼容性或者不支持双卡等等
4060Ti 的话最省事,而且单卡不挑机箱电源,但是就怕 16G 显存不够用
请大佬们解答

gx2, 万每台, p40

karatsuba   
租
lkwfive   
显卡容量优先于算力,去官网确认下 3060 能不能组网,能的话就选这个
Takizawa   
还不如内存加大一点,用共享显存
wipbssl   
说实话不如租服务器,硬要选的话可以试试 3060*2 ,用 ddp 训练应该比 4060ti 强
daweii   
colab 买算力
1014982466
OP
  
@karatsuba #1 @wipbssl #4 有没有推荐的平台?适合学生的
qqjt   
我的话会选 4060ti ,双卡的话可能的坑更多。这俩个方案其实都只能学习性质,正儿八经训练得加钱。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部