指挥 AI 做了一个 LLM API 网关

查看 29|回复 2
作者:midraos   
现在只想到了路由配置、APIKEY 配置、token 统计与限制、限速与并发控制、自动化的封禁规则和监控。
还有哪些功能能够添加进去?

Token 统计

cryptovae   
我缓缓打出了一个?
为什么我不直接用 oneapi newapi
midraos
OP
  
@cryptovae #1 为了满足自己的需求,轻量化、低资源占用与保护真实的 apikey ;
您需要登录后才可以回帖 登录 | 立即注册

返回顶部