AI(大模型)本地化项目 和 部署设备

查看 14|回复 0
作者:Int100   
请问一下各位都是怎么"AI(大模型)本地化"的?
有没有一些推荐的项目?例如 hugging face ,localai 。
另外大家的本地模型都是跑在什么设备上?直接 Linux 服务器 + Nvidia 显卡吗?
手头的设备是 MacBook Pro M3, 尝试跑一些编译的时候经常因为 arm64 架构出错。
您需要登录后才可以回帖 登录 | 立即注册

返回顶部