AI 服务器配置在线推荐

查看 36|回复 2
作者:dododada   
有没有什么在线配置 AI 服务器的网站?
可以组合选择 cpu ,gpu ,功耗的
比如:至强 83522 + tesla8 + 3000W*2 这种的
能够给出性能+算力评估的,有国产选项的更好了
最近在做选型,搞得头大。
mythabc   
没那么复杂,因为没有几款可以选的
GPU: NVIDIA ampere 、ada lovelace 、hopper 架构的工作站卡、数据中心卡,techpowerup 的 GPU 数据库里面筛选一下就出来了,但是里面的算力不是很准确,要搜 NVIDIA 的官方参数。常见的训练卡 A100/H100 。 推理 4090 、A6000 、A40 等。
连接性要考虑上不上 nvlink 、nvSwitch 。前者只能连接两张卡,后者用在 HGX 平台一出手就是八张卡。
CPU 就志强三代、四代。AMD 宵龙。cpubenchmark 上看个单线程、多线程跑分。
chesha1   
算力估算你可以去 vast.ai 上看,它们有一个自己的 benchmark
您需要登录后才可以回帖 登录 | 立即注册

返回顶部