企业内部搭满足 10 个人开发用的开源模型,得投多少钱?

查看 185|回复 34
作者:jedeft   
sagnitude   
加一两个零吧
realpg   
想回收残值,就 H200*8 一体机一台或者两台 看实力
想便宜且不怕费电 可以考虑找找渠道的垃圾华为老方案的 910B 两台跑 deepseek v4 pro/flash 可以降低成本 甚至有渠道几十万就能搞定一台
fbu11   
参考前两天的这个帖子 https://www./t/1220819
本地部署的机器要求蛮高的,不如直接买 token ,大概你们想的是安全问题,但自己搭建的真的慢,智商也不太够用
elehayym1618   
8 张 h20 勉强能跑吧,光服务器就是 150w 。有这个钱还是充钱买 token 吧
MoozLee   
200w 起吧
jackOff   
50 万你只能淘宝买个 deepseek 2 这种一体机
yopv2   
@realpg 910B 就算了吧
realpg   
@yopv2 #7
不怕费电 纯跑 deepseek v4 flash/pro 还是能用的
降低基础投入
我们白嫖了很多客户单位的一体机 搭了集群跑 deepseek v4
jimrok   
首先,你这些算卡,3 年折旧下来你就受不了。第二,模型都再更新,刚刚迈入可用的状态。海外的模型,1 万亿参数规模都只是 flash ,mini 级别,刚刚能够用。后续前沿模型出来,参数变大,你这点预算根本抗不下。自己部署没有能力对模型调优,你的成本会非常高,远远高于模型的套餐成本。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部