eliasbiondo/antirion

如果你已经在应用里调用不止一家大模型服务，又希望路由、花费上限和请求记录留在自己的基础设施里，而不是散落在各家厂商的控制台，Antirion 值得看一下。README 给的启动路径很短，但功能面意味着后续要真正投入运维。

解决什么问题

一个同时调用 OpenAI、Anthropic 和 Gemini 的应用，通常会在多个服务里散落各家密钥，在每个代码库里各写一套重试和回退逻辑，花销只能靠对账几张厂商账单来还原。Antirion 把这些逐次调用的活挪到一个端点：应用调用网关的 /v1 接口，网关负责选择供应商、套用密钥与限额、记录结果。之后团队可以在内置控制台按模型、密钥、团队或个人查看花费、延迟、错误和回退尝试，而不必挨家供应商去查。

有什么不同

网关、Admin API 和 Web 控制台打包成一个 Rust 二进制或 distroless 镜像，不需要单独部署 UI，也不用旁车。README 给出了同机对比测试：在专用 AWS c7i 上，每次请求校验一个密钥、无请求日志、无缓存，单台 4 vCPU 跑 5,000 请求/秒时，网关开销中位数 0.53 ms、p99 0.95 ms，Bifrost 2.2.4 为 19.7 ms 和 95.2 ms；LiteLLM 1.103.1 在摘录里没有对应数字。这是作者在最小化配置下测得的，应理解为设计目标的佐证，而不是开启防护规则和完整日志后的承诺。

控制台是另一个差异点：请求日志包含路由、尝试次数、token、费用、防护结果，并可选择保存内容。这样供应商之间的回退在事后可查，而不是靠应用报错去猜。代价是这个网关会成为所有 AI 调用的共享依赖：它不可用时，调用方必须自己处理，README 没有写明绕过路径。

谁值得试

适合：一个平台小组同时支撑多个产品、对接两家以上供应商，希望按团队或密钥设预算，并在一处看清调用了什么、花了多少。控制台的邀请流程和独立账号也适合需要共享可见性、又不想直接分发厂商密钥的团队。不适合：只有一个服务、只用一家供应商和一个密钥的项目，此时网关多了一跳和一个管理面，收益有限；也无法运行容器或 chart 的人同样不合适。README 记录的路径需要 Docker 以及一个 OpenAI 或 Anthropic 密钥才能启动；Kubernetes 有 Helm chart，但前提仍是有容器基础设施。

使用条件与边界

快速开始需要 Docker、OpenAI 或 Anthropic 的 API key，以及给 /var/lib/antirion 的卷。首次启动只打印一次管理 token 并存入卷中；丢了要从容器数据目录找回，所以要先想好这个密钥怎么保管。单机节点用内嵌存储；集群模式依赖 PostgreSQL 和 Valkey，且需要至少 32 个字符的启动 token 和一个加密密钥。发布镜像按 vX.Y.Z tag 提供，升级节奏要自己决定。README 摘录没覆盖完整供应商支持矩阵、防护规则配置和费用核算的准确性，承诺前请对照自己的供应商核实。

HotRepo 点评

HotRepo 自 2026-10-24 开始跟踪该项目，2026-10-25 在 Rust 新项目榜（不是总榜）记录到 232 总星、#23。这只是单日快照，没有可比的每日榜历史，因此还无法判断关注度能否持续。采用前建议阅读性能章节，并在开启自己的日志和防护规则后复测基准，因为公开数字用的是最小化配置。