Google Gemma 开源没人讨论下吗?

查看 434|回复 52
iango   
Gemma 2B 能不能在十几年前的 Intel Core 2 E7000 、4G 内存老计算机上运行?
进行微调用于分析特定局域的地址?例如知道地址"富贵园 888 号",通过预训练的“富贵豪园-->北京路”,判断地址在北京路。
smalltong02   
我的开源项目已经支持 gemma ,并且提供了 Webui 。整体测试下来效果一般,没有经过微调的话很多任务无法完成测试,并且也拥有小模型的通病,输出 token 停不下来。并且 gemma 7b 输出是乱码,我试过 LM Studio ,也是这个情况,所以感觉像是模型的问题。
https://github.com/smalltong02/keras-llm-robot
我这个项目支持 safetensors 的模型,如果你想使用 gguf 的模型,可以使用 LM Studio 最新版。
Alias4ck   
用下来感受到一点,2b 模型很快,没网的话感觉可以用来当本地的搜索引擎
您需要登录后才可以回帖 登录 | 立即注册

返回顶部