国产 AI 推理服务器的适配难易程度问题

查看 73|回复 6
作者:dododada   
上文: https:///t/1032607#reply7
鲲鹏 920 * 2/ 512G 内存/20T 固态 / 昇腾 Atlas 300I Pro 24GB * 4 的价格 30W+
海光 7360 * 2 / 512G 内存 / 20T 固态 / 寒武纪 MLU370-S4 24GB * 4 价格 17W+
另外就是机箱、电源、光模块、网卡之类的了。
我们用到的模型就是这些:
Yolov8 目标识别
Opencv
ocr
scrfd
partial_fc
yolov8-seg
经过痛苦的对比和问价,现在决定采购,领导让评估一下算法移植需要的时间。
苦于团队没有做过国产适配,没有经验。
来问问有没有兄弟做过适配的,这些算法做完适配大概要多久
dododada
OP
  
还有兄弟做过的啊
clemente   
适配都是 AI 芯片厂商帮你们适配啊 你们负责验收
dododada
OP
  
@clemente 怎么可能,设备都是从渠道商采购,又不是直接从华为寒武纪零买,零买的价格也不是这样子啊
forblackking   
搞的不多给不了经验,一年多前参与过 OCR 适配昇腾 NPU ,当时评估是一个半月的适配时间,最后时间翻了好几倍且耗时与精度都劣化不少。最大的感触与上个帖子 5L 说的一样,适配的难易度取决于哪一家的工程师愿意配合你解决问题,当时由于甲方是政府部门最后拉了个微信群推动,不然就老老实实提 issue 等回复。
kwater   
1 硬件
2 软件
3 系统集成商
你们想自己做 3 ,或者想省下 3 的钱。
对性能没需求,只求有这套东西,不会真的应用上线,开箱即用问题可能不大,
但性能微调,怎么也要个 team 吧
huigeer   
所以直接买 nv 还是不行?
您需要登录后才可以回帖 登录 | 立即注册

返回顶部