本地只能跑跑推理和 7B lora 训练。更大规模的训练可以选择租 A100 我的配置是: GPU:4090D 虽然是 dog 版,但是目前 4090D 的性价比是比 4090 高的。 板 U 内存:B550I + 5800X + 2 *32G 以前攒的,跑大模型对 CPU 要求不高,内存要注意有一些步骤,比如 lora 合并、量化会使用内存,如果内存太小可能就跑不起来,64G 是需要的。 电源散热机箱:根据自己需求配把。 主要成本还是显卡。