huggingface 的 bigscience/T0pp 要多大内存?

查看 51|回复 1
作者:coolair   
python3 -m manifest.api.app \
    --model_type huggingface \
    --model_name_or_path bigscience/T0pp \
    --use_hf_parallelize
执行的这个命令,32G 内存,提示内存不足,想问下大概要多大?

bigscience, t0pp, 内存, Python3

coolair
OP
  
找到了:Just to load the model, you will need ~90GB of CPU memory.
您需要登录后才可以回帖 登录 | 立即注册

返回顶部