Yoo趣儿 › Geek › 程序员 › electron 有没有办法集成开源 AI 模型？

electron 有没有办法集成开源 AI 模型？

查看 161|回复 6

作者：superliwei 发布时间：2024-4-28 19:02:02

目前提供线上 AI 服务的成本居高不下，如果能把 AI 模型集成到客户端中，这块的服务成本省了，用户也得到了方便。

zcf0508 2024-4-28 19:02:39

用户：我只有核显可以做到 100t/s 吗？

zhwguest 2024-4-28 19:03:11

TensorFlow js....

malusama 2024-4-28 19:04:00

用户：这个客户端怎么好几个 G ？里面到底塞了啥

ysc3839 2024-4-28 19:04:34

libtorch 跑 torchscript ，或者干脆弄个 embedded Python

nickfox5880 2024-4-28 19:05:31

你们自己做的 ai 模型吗？

jianchang512 2024-4-28 19:06:10

如果不在意体积，可以用 python 包下，提供个 api 给 electron 用

返回列表

公告

返回顶部

electron 有没有办法集成开源 AI 模型？

浏览过的版块

热门主题

在美西机房有一个 gen3 的 GPU 服务器，配

这是一篇呼吁所有人低质linuxdo的贴子

春天到了，如果有个女孩子高铁来回 11 小时

我去，原来词元(Token)还有“身份凭证”的

Vibe Coding 实战例子

做了一个 github 用户名备注浏览器插件

有没有大佬预言一下未来 5-10 年的风口?

GLM 5.1 开源了， https://huggingface.co/

适合 typeless 的全天候电脑麦克风究竟是什

开源一个给 LLM Agent 用的长期记忆框架：

热门板块

公告

网站帮助 - Yoo趣儿

我们的愿景

在 Yoo趣儿投放广告

Yoo趣儿网站用户应遵守规则

electron 有没有办法集成开源 AI 模型？

浏览过的版块

热门主题

在美西机房有一个 gen3 的 GPU 服务器，配

这是一篇呼吁所有人低质linuxdo的贴子

春天到了，如果有个女孩子高铁来回 11 小时

我去，原来词元(Token)还有“身份凭证”的

Vibe Coding 实战例子

做了一个 github 用户名备注浏览器插件

有没有大佬预言一下未来 5-10 年的风口?

GLM 5.1 开源了， https://huggingface.co/

适合 typeless 的全天候电脑麦克风究竟是什

开源一个给 LLM Agent 用的长期记忆框架：

热门板块

公告

网站帮助 - Yoo趣儿

我们的愿景

在 Yoo趣儿 投放广告

Yoo趣儿网站用户应遵守规则

在 Yoo趣儿投放广告