Yoo趣儿 › Geek › 程序员 › 指挥 AI 做了一个 LLM API 网关

指挥 AI 做了一个 LLM API 网关

查看 38|回复 2

作者：midraos 发布时间：6 天前

现在只想到了路由配置、APIKEY 配置、token 统计与限制、限速与并发控制、自动化的封禁规则和监控。
还有哪些功能能够添加进去？

Token 统计

cryptovae 6 天前

我缓缓打出了一个？
为什么我不直接用 oneapi newapi

OP

6 天前

@cryptovae #1 为了满足自己的需求，轻量化、低资源占用与保护真实的 apikey ；

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息 Python PHP Java JavaScript Node.js Go语言 C++HTML

公告

返回顶部