2024年底了,有可以本地部署的文本AI了吗

查看 44|回复 3
作者:talaon   
只要文本,尽量智能些,最好能训练的语言模式,有没有开源能本地部署的了呀
现成的用起来感觉不便宜啊

文本, 开源, 不便宜

tubos   
一大把啊!llama3.1+阿里的Qwen
问题是你有能跑得动的显卡吗?
lewissue   
   
恰恰相反,本地模型不比现成的便宜。用qwen得租4090吧,4090一个小时2元,2元用gpt0806可以上百万的token
本地模型就像国产光刻机,没有它总是担心卡脖子,有它又不经济,制程还低(参数不多)。食之无味弃之可惜
不过本地模型经过恰当的微调,其(除逻辑之外的)性能不弱于大模型
jqbaobao   
一大把,但是毫无意义
您需要登录后才可以回帖 登录 | 立即注册

返回顶部