Yoo趣儿 › 探索分享 › 问与答 › 本地大模型多大显存够用？

本地大模型多大显存够用？

查看 22|回复 3

作者：s2555 发布时间：2 小时前

有没有人跑本地大模型养龙虾，多大显存能用得爽一点？我打算买个 4090 魔改 48G 的，够用了吗？

mokeyjay 2 小时前

你至少也要先规划一下自己想跑多少 B 的模型吧？如果你对「够用」的定义是能跑就行，那 2B 4B 的小模型手机都跑得动

s2555

OP

2 小时前

@mokeyjay 没概念，能达到 ds 刚出来的效果吗？

zhandouji2023 2 小时前

论文助手，润色之类需要什么显卡够了
@mokeyjay

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息 Python PHP Java JavaScript Node.js Go语言 C++HTML

公告

返回顶部