Yoo趣儿

Yoo趣儿 › Geek › 程序员 › 企业内部搭满足 10 个人开发用的开源模型，得投多少钱？ ...

企业内部搭满足 10 个人开发用的开源模型，得投多少钱？

查看 186|回复 34
xiaomushen   
具体什么模型？如果是 glm5.1/5.2 这种，5-10 并发至少需要两台 8 卡 H20
syubo2810   
本地部署只适合严格保密场景和要自己优化大模型的场景，其他的都是云端便宜，不说硬件随随便便大几百万，电费也是一大笔开销，按 deepseek 的价格，如果用的商电，就真只够电费了，硬件白送了
nevin47   
@elehayym1618 5-10 人一台不够，至少 2 台。如果做互连还要再贵点
peteretep   
才 10 个人，如果不是必须自己搭，完全可以给每个人开 codex 套餐。
能干和干得好，有天大的差别
jedeft
OP
  
@realpg 啥一体机？用 cpu 算吗？
jinsongzhaocn   
目前纯本地部署一定不划算，哪怕硬件够便宜了，每天更新模型的人力成本也不省心。最佳组合是本地+云服务。
xubeiyou   
真建议买 token 。。。。
sagnitude   
@jedeft 商家给你装好的整体机柜，里面装好了服务器和显卡和互联设施和硬盘，也装好了模型，一台三四百万，你需要两台
maskerTUI   
硬件成本至少要 500W 才能跑完整的 GLM5.2 ，每个月电费至少也要两三万吧。不如直接买 token
zliea   
可以按照模型文件大小/0.75 计算跑起来需要的显存。
不量化的版本 1.5T ，估计需要 2T 显存，然后再算价格。
下一页 »
1234下一页
返回列表
您需要登录后才可以回帖 登录 | 立即注册

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息PythonPHPJavaJavaScriptNode.jsGo语言C++HTML

公告

标签|小黑屋|Yoo趣儿

GMT+8, 2026-6-18 06:59 , Processed in 0.015148 second(s), 11 queries , Gzip On, MemCached On.

Powered by Discuz! X3.2

The happiest thing in the world is to strive for an ideal.

返回顶部