experientiallabs/experiential
AI 工程一个可自建的网关,把智能体流量分发到各家模型,再用收集到的 trace 拟合自己的路由或模型。
如果你已经在为多个模型供应商做路由,并且希望把流量沉淀成自己的路由或模型,这个项目值得花半天试试;只想要一个模型代理的话,有更轻的选择。
解决什么问题
智能体项目通常先直连一家模型,为了质量或成本再加第二家、第三家 key。很快就没有人说得清哪个用户、哪个智能体、哪个功能在花多少预算,换模型还得逐个改应用。Experiential 在托管模型、自带 key 和本地模型前面放了一个 OpenAI 兼容入口,把身份和花费控制收到网关一层。请求路径不变,模型选择从应用代码里挪出来。
有什么不同
真正有区别的是路由之后那一步:网关收集 OpenTelemetry trace,提供 exp build 把 trace 变成项目模拟环境和拟合好的路由器,另有 exp optimize model 通过 Tinker 微调开源模型。流量因此成为调优输入,而不只是看板上的数字。README 还提供了一个终端任务 trace 的公开样例数据集,没有自己的流量也能先试 build 流程。代价是推荐和优化依赖有代表性的流量:刚装上只发过几次请求,基本学不到东西;走微调路径则意味着把 trace 交给第三方微调服务。
安装方式很灵活,这一点有利也有弊。pip install experiential 后运行 exp,会在本机回环地址起一个带向导的网关,自动配好别名并生成 key;不想自己运维也可以直接用托管平台,API 一致。SETUP.md 里的提示词可以把整套配置交给编程助手。本地试用门槛低,但自建网关的升级和各家供应商连接维护是长期活。
另外还有一个独立的 exp capture 模式,用你已有的订阅从 Codex 和 Claude Code 桌面端记录 trace。README 明确标注它是实验性的,并说明 macOS 网络可靠性仍在排查,不适合把工作流建在这上面。
谁值得试
适合:同时在用多家供应商跑智能体、需要统一的预算和身份控制,并且愿意后续拿 trace 做路由实验的团队。只想要本地代理和一个 key 的个人开发者,可以只用本地 exp,先忽略优化功能。不适合:现在就需要稳定抓取 trace 的人,因为 README 自己说 capture 是实验性的且限于 macOS;以及不愿意把 trace 导出到自有基础设施之外的团队。
使用条件与边界
本地路径需要 Python,会安装一个命令行工具;托管路径需要账号和 xpl_ key。限制最多的是 capture:需要 macOS、Python 3.13+,还要批准浏览器扩展和证书。匿名聚合遥测默认开启,在意的话需要手动关闭。
还有两点要留意。优化流程需要 trace 文件,价值取决于你能提供多少真实流量,微调那一步依赖 Tinker 这个外部服务。README 节选覆盖了路由、抓取和调优,但没有讲清按用户限制花费的执行细节,以及某个供应商故障时的行为;把这些放到真实用户面前之前,最好先在项目文档里读一遍。
HotRepo 点评
仓库创建于 2026 年 6 月下旬,到 2026-10-25 已有 12,389 star。HotRepo 只有这一天的新项目榜记录:当天新增 1,224 star,位列新项目榜第 12。这只是年轻项目的一个快照,不是趋势线,暂时无法判断热度能否持续。Show HN 讨论有 222 分、47 条评论;有评论者在2026-08-28指出,用量看板截图似乎只存在于托管平台、不在仓库里。如果你打算自建,这点值得先确认。另外要核实路由拟合流程能否完全基于自己导出的 trace 运行。
Hacker News 讨论
本文由 AI 根据项目 README 生成,更新于 2026年10月25日,以项目官方文档为准。