Yoo趣儿

Yoo趣儿 › 后端服务 › 服务器 › 买一个4080啥的显卡搭建LLAMA有意义吗

买一个4080啥的显卡搭建LLAMA有意义吗

查看 53|回复 5
作者：netAlchemist   
有没有大佬测试过自己搭建LLAMA 效果怎么样 可以做哪些事情

大佬, 有意义, 显卡

相关帖子

julie   
只能搭个8B的模型, 可是8B的模型不好用.
起码用30B左右参数的模型才能勉强使用. 那就需要大概3个4090或是3090的显卡了.
更别说用70B参数的了.
除非你跑量化的模型.
你号没了   
毫无意义。你这样提问题了。就是已经有答案了  
我是老王   
没有意义 不如GPT4-MINI 这玩意随便个中转冲10块钱可以用1年了
弄显卡 还要搭建 电费 电脑开机 一点不划算
netAlchemist
OP
  

julie 发表于 2024-11-3 15:18
只能搭个8B的模型, 可是8B的模型不好用.
起码用30B左右参数的模型才能勉强使用. 那就需要大概3个4090或是 ...
我想着练练手 折腾一下 别out了
如果毫无意义那还是考虑一下
ctg3c   
llama 8b性能太差了，没什么应用价值
返回列表
您需要登录后才可以回帖 登录 | 立即注册

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息PythonPHPJavaJavaScriptNode.jsGo语言C++HTML

公告

标签|小黑屋|Yoo趣儿

GMT+8, 2024-11-23 16:03 , Processed in 0.017068 second(s), 12 queries , Gzip On, MemCached On.

Powered by Discuz! X3.2

The happiest thing in the world is to strive for an ideal.

返回顶部