我想组装一台能跑大模型的电脑，但是我个人在以前只有配置个人电脑的经验。对 AI 这一方面的配置不太了解，所以来请教一下各位。 需求： 1 、主要想运行 text-generation-webui 和 stable-diffusion-webui 两个可以不需要并行运行。 2 、希望可以运行 llama 2 的 70B/13B 版本。 至于要配的标准的话，可以是类似我们家用电脑的机箱形式，也可以是架在机架上的服务器。 没有费用上限，也不需要太离谱的配置。 因为是尝试搭建所以费用暂时最好在 2w 左右，当然越低越好，后期会进行升级配置。 暂时能承受住同时 10 个人左右使用就可以了。 组装, 配置, 模型, 运行
我自己用的 2080ti ，SD-webui 多人同时使用显存很重要，可以找找二手的大显存专业卡，10 人同时使用的话估计要接近百 G 显存了，主机的内存也不能小，防止多人同时加载模型的时候有瓶颈。综合考虑出图速度和显存大小，2080ti 改 22G 显存的是性价比最高的。
你这个需求主要就是针对于显卡需求 如果不怕吵 选择刀片服务器 怕吵就选择塔式服务器 然后就是显卡的选择 有钱就上 4090 测试过 4090 的单位性价比是最高的 就是价格/性能 如果只是为了推理 慢一点也能接受的话 像 p40 24G v100 16G 都可以选择
