现在微创企业 ai 应用都是如何部署的

查看 45|回复 5
作者:csulyb   
基于开源的模型微调,然后用 docker 打包模型和代码,去云服务商买 GPU 去跑吗
这个成本应该很高吧,特别是前期用户少的时候?
举个例子,有一个 PDF 内容大纲提取总结的 AI 服务,希望能给 100 人公司用,这个成本多大
gaobh   
有钱就行,200W 起
dayeye2006199   
创业企业买什么 GPU ,先 API 用着弄明白怎么赚钱再来研究这事儿
Hookery   
成本需要考虑到并发量,提取总结的智能程度要求,以及是否上云。
paopjian   
初创企业还敢玩自研 AI?你都没证,直接买服务去
dododada   
你 pdf 的模型要多大显存呢?看下需求呗,24 以内就考虑 4090 ,48 以内考虑 3090 ,或者 a6000 ,48 以上考虑 6000a ,3W-20W 不等,平摊到 100 个人,人均 300-2000 ,大概可以干到公司倒闭。
上云的话,算一下每天的成本就行了
您需要登录后才可以回帖 登录 | 立即注册

返回顶部