hydro-project/infinity

Infinity 是一个用 Rust 构建高并发智能体系统的框架。它的核心思路是：智能体不应在等待慢工具时阻塞，而是让出执行；回合之间智能体只是对话数据，没有任务、栈或打开的连接，因此可以零成本休眠，直到下一条消息到达。README 声称其足够轻量，能在树莓派内存中容纳 7.5 万个智能体，并称同一套智能体代码既能运行在本机常驻进程，也能运行在 AWS Lambda 等无服务器平台 README。

工作机制

核心抽象是智能体系统，由对话存储、状态存储和模型组成。示例用内存对话存储、内存状态存储和 StaticModel 构建本地系统，启动线程、发送用户文本，然后在循环中接收事件 README。对调用方来说，实际差别在于工作以事件形式被观察，而不是阻塞调用。

第二个机制是 Reactive Agent Protocol（RAP）：通过网络提供工具，但不保持连接打开。结果和订阅事件在就绪时送达，即使目标智能体当前没有进程也能收到。README 称现有 MCP 服务器可通过兼容层原样运行，规范也已开放供他人实现 README。当工具较慢或位于远端时，这很有用：智能体可以在工具运行期间休眠，并在结果到达时被唤醒。

适用路径

文档覆盖 Infinity Runtime（含快速入门与架构指南），以及通过附带 CDK 构造部署到 AWS Lambda 的路径 runtime overview、快速入门、无服务器快速入门。RAP 有独立文档 RAP 概览；Infinity Code 是构建在该运行时上的编程智能体，可后台运行构建与测试并流式输出，在带堆叠沙箱的并行线程中编辑，并将每个结果作为 diff 交给用户审阅 Infinity Code 概览。

一个具体场景是：智能体派发构建或测试任务后让出执行。任务运行期间，运行时不必保持线程或连接；工具完成时结果以事件形式送达。同一模式也让无服务器部署默认可以缩容到零，因为空闲智能体在下一条消息前不产生成本 README。

要求与限制

框架用 Rust 编写，示例直接使用 Rust API；README 没有说明存在非 Rust SDK。本地示例使用内存存储，而无服务器部署单独针对 AWS Lambda 和 CDK 构造做了文档 README、无服务器快速入门。README 没有为 7.5 万智能体的内存声称提供独立评测范围，也未描述 AWS Lambda 之外的兼容性路径或正式的安全审查。项目采用 Apache-2.0 许可证 仓库。