Yoo趣儿

Yoo趣儿 › 探索分享 › 问与答 › 跑 Qwen2.5 72B 8 位量化的电脑配置

跑 Qwen2.5 72B 8 位量化的电脑配置

查看 15|回复 0
作者：Wing   
请教一下，跑 Qwen2.5 72B 8 位量化的电脑配置，内存需要多少？
跑起来要几张 4090 ？，最快能生成几个 token 每秒呢？
返回列表
您需要登录后才可以回帖 登录 | 立即注册

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息PythonPHPJavaJavaScriptNode.jsGo语言C++HTML

公告

标签|小黑屋|Yoo趣儿

GMT+8, 2024-10-9 02:24 , Processed in 0.008343 second(s), 5 queries , Gzip On, MemCached On.

Powered by Discuz! X3.2

The happiest thing in the world is to strive for an ideal.

返回顶部