GoForum › 🌐 V2EX
指挥 AI 做了一个 LLM API 网关
midraos ·
2026-03-10 11:08 ·
0 次点赞 · 3 条回复
现在只想到了路由配置、APIKEY 配置、token 统计与限制、限速与并发控制、自动化的封禁规则和监控。
还有哪些功能能够添加进去？
Token 统计
3 条回复
@cryptovae #1 为了满足自己的需求，轻量化、低资源占用与保护真实的 apikey ；
heimoshuiyu · 2026-03-10 12:03
负载均衡，透明重试，首字符超时，缓存识别，解码速度监控，模型别名，http 连接复用，绕过风控的多 key 轮训网络代理
添加回复
你还需要 登录
后发表回复
我缓缓打出了一个？
为什么我不直接用 oneapi newapi