本地跑大模型代码助手还挺好用

查看 21|回复 1
作者:songray   
用 ollama 跑的 llama3 8b 用来对话,starcode2 3b 用来补全,大概有 copilot 7 成的体验。
m2 mac mini 同时运行两个模型没啥压力。
小内存核显本也可以白嫖 cloudflare worker ai 的免费额度。
Blog: https://ray-d-song.com/zh-cn/blog/continue-free-ai-code-assistant/
songray
OP
  
https://imgur.com/gallery/llama3-wKjlZmB
说实话,我感觉比 gpt3.5 聪明
您需要登录后才可以回帖 登录 | 立即注册

返回顶部