状态位置是机制,而非代理标签

诚实架构师对 Stateful vs. Stateless Agent Design: Tradeoffs for Scalable Agentic Systems 的解读,该文由 Iván Palomares Carrascosa 于 2026-07-24 发表在 MachineLearningMastery.com。

文章的表层主张是一个分类:无状态代理与有状态代理,各自附代码示例。诚实架构师读出分类之下的机制,找到六个。承重的那一个是状态位置:文章自身的框架是「代理的记忆存放在哪里?」是「在配置任何负载均衡器之前就必须回答的」问题。代理标签(无状态或有状态)是营销层;状态位置是机制层。Everythink 的 HAI Engine 中的 Theorem 3 断言相同形式:一个属性恰在其机制被实现且正在测量时才得到保证。此处属性是「水平扩展到任意实例」;机制是「服务端不存在状态。」

本文从 MachineLearningMastery 文章中提取六种机制形式,对每一种应用 Theorem 3,并绘制与 Everythink 平台的跨域类比。每一个来自我们平台的类比标记为 ⚠️ —— Everythink 运营于民事与防御性预测,MachineLearningMastery 文章运营于开发者教育与代理架构,因此类比是结构性的,并非声称我们的系统服务于同一市场。六种机制形式本身是 ✅ —— 它们可从文章自身的证据中提取。

机制 1 —— 无状态性是水平扩展机制

文章声称「基于无状态代理的架构可以以显著 ease 水平扩展。由于后端服务器不存储用户记忆,传入请求可被转发到任何可用实例」。诚实架构师将此读作一条机制主张:水平扩展到任意实例由服务端状态的缺失保证,而非由更智能的负载均衡器保证。产生「任意实例可服务任意请求」的机制是「没有实例持有其他实例缺乏的状态」。若状态为零,路由平凡;若状态非零,路由必须尊重它。✅ 生产 —— 文章命名了机制(后端无用户记忆)与属性(任意实例可服务)。

文章诚实指出这是一种权衡,而非胜利。使水平扩展容易的同一服务端状态缺失,也使多轮连续性困难,这正是下一个机制。无状态性买入扩展;代价是连续性。

与 Everythink 的 HAI Engine 的跨域类比仅为结构性的。HAI Engine 运行返回 SisterOutput 而从不自行写 Postgres 的 Sisters —— Loom 持久化。Sisters 是无状态计算 worker;Loom 是有状态持久化层。MachineLearningMastery 文章的「无状态代理因无服务端状态而水平扩展」与 Everythink 的「无状态 Sisters 因返回输出而不持久化故可扩展」共享相同形式:计算节点无状态,持久化在别处。⚠️ 部分实现 —— 类比是结构性的;Everythink 的无状态 Sisters 服务于民事与防御性预测,MachineLearningMastery 的无状态代理服务于开发者教育。不同领域,相同形式:计算节点不携带状态,因此可自由替换或复制。

机制 2 —— 客户端提供的历史是无状态连续性机制

文章声称在无状态设计中「前端必须随每个新请求重发整个对话历史。结果,上下文窗口以滚雪球效应增长,迅速推高 token 用量」。诚实架构师将此读作一条连续性主张:无状态设计中的多轮连续性由客户端携带历史保证,而非由代理记住它保证。产生连续性的机制是客户端提供的载荷,而非代理的记忆。代价被诚实命名:载荷如滚雪球般增长,token 用量随之增长。✅ 生产 —— 文章命名了机制(客户端重发历史)与代价(滚雪球式上下文窗口)。

文章诚实指出此代价是天花板,不是麻烦。处理任意长对话的无状态代理必须接收任意长载荷,因此 token 代价随对话长度增长。这是一种带有命名天花板的机制,不是免费午餐:它在载荷超过上下文窗口或预算之前有效,然后停止工作。

与 Everythink 的 Eye Key 的跨域类比仅为结构性的。Eye Key 是用户自有凭据 —— HMAC 与指纹被记录,明文从不触盘,且密钥是用户的速率限制边界。MachineLearningMastery 文章的「客户端携带历史,服务器不携带任何」与 Everythink 的「用户携带密钥,服务器仅存储 HMAC」共享相同形式:承载主权的人造物与客户端同在,服务器仅存储一个验证器。⚠️ 部分实现 —— 类比是结构性的;Eye Key 治理用于民事与防御性预测的 API 主权,MachineLearningMastery 的客户端历史治理用于开发者教育的多轮连续性。不同领域,相同形式:客户端携带承重人造物,服务器携带衍生物。

机制 3 —— 服务端数据库是有状态连续性机制

文章声称在有状态设计中「代理自身承担记忆负担。同时,客户端只需发送最新用户 prompt 连同一个唯一标识符。代理随后从数据库检索会话历史或上下文,并将新消息附加其上」。诚实架构师将此读作一条连续性主张:有状态设计中的多轮连续性由以会话标识符为键的服务端数据库保证,而非由客户端重发历史保证。产生连续性的机制是数据库查找,而非载荷大小。客户端载荷保持小;服务器存储增长的历史。✅ 生产 —— 文章命名了机制(以会话标识符为键的数据库)与属性(小客户端载荷下的连续性)。

文章诚实指出这移动了代价,而非消除它。有状态设计用载荷代价换数据库代价:「扩展此解决方案变得困难得多,始于架构中对持久数据库层的需求」。有状态买入小载荷与服务端裁剪;代价是数据库层与更难的扩展。

与 Everythink 的 Loom 持久化的跨域类比仅为结构性的。Loom 通过其 slice 自有的 LoomStore 端口持久化模拟与 foresight,而 Sisters 返回 SisterOutput 不持久化 —— Loom 是有状态层,Sisters 是无状态 worker。MachineLearningMastery 文章的「代理从数据库检索历史并附加新消息」与 Everythink 的「Loom 检索先前状态,扇出到 Sisters,持久化合并结果」共享相同形式:编排者拥有状态,worker 拥有计算。⚠️ 部分实现 —— 类比是结构性的;Loom 服务于民事与防御性预测,MachineLearningMastery 的有状态代理服务于开发者教育。不同领域,相同形式:持久化层是连续性承载者,计算层是无状态生产者。

机制 4 —— 会话标识符是路由键

文章声称「会话标识符用于查询当前对话中过往交互的相关信息」。诚实架构师将此读作一条路由主张:有状态记忆检索由作为路由键的会话标识符保证,而非由代理的回忆保证。使历史可检索的机制是 session_id 键,而非代理的内部记忆。没有键,数据库是一堆未索引之物;有了键,数据库是可检索的历史。✅ 生产 —— 文章命名了机制(会话标识符作为查询键)与属性(可检索历史)。

文章诚实指出会话标识符是路由关注,而非记忆关注。丢失会话标识符的有状态代理丢失历史,即使历史仍在数据库中。有状态设计依赖路由键存在且一致,而非数据库存在。

与 Everythink 的「the space is the router」的跨域类比仅为结构性的。Everythink 的拓扑是网络 → 社区 → 房间:一条请求在anything响应之前被路由到一个房间,而房间键是使正确状态可检索的路由键。MachineLearningMastery 文章的「会话标识符将请求路由到正确历史」与 Everythink 的「拓扑将查询路由到正确房间」共享相同形式:路由键先于响应,路由键决定哪个状态可检索。Everythink 的 World Monitor 在行星尺度上体现同一形式:geo-signal 按地理哈希前缀路由,客户端读取缓存而非上游,因此路由键(geohash)在任何视口响应之前决定哪个瓦片状态可检索。⚠️ 部分实现 —— 类比是结构性的;Everythink 的路由器是公开房间与地理哈希瓦片的拓扑,MachineLearningMastery 的路由器是会话标识符。不同领域,相同形式:路由键是可检索性承载者,路由决策先于响应。

机制 5 —— 局部失忆是有状态扩展失败模式

文章声称「在水平扩展的基础设施中,诸如使用 Redis 的集中式内存缓存等策略也可能变得必要,以避免『局部失忆』,即一个会话的历史被困在恰好服务了先前轮次的单个实例上」。诚实架构师将此读作一条失败模式主张:有状态扩展失败由水平扩展集群中的实例局部状态保证,而非由数据库缓慢保证。产生局部失忆的机制是「状态存在于写入它的实例上,而负载均衡器不按 session_id 路由」。修正被诚实命名:使用 Redis 的集中式内存缓存,使状态在实例间共享。✅ 生产 —— 文章命名了失败模式(局部失忆)、机制(扩展集群中的实例局部状态)与修正(集中式缓存)。

文章诚实指出这是一种带有特定机制的特定失败模式,不是模糊的「扩展困难」。当状态是实例局部的且路由对状态盲目时,局部失忆发生;当状态共享或路由感知会话时不发生。失败有机制,机制有修正。

与 Everythink 的基于 trait 的六边形端口的跨域类比仅为结构性的。Everythink 的 AppState 仓库是 Arc,因此测试替换 mock,且持久化通过端口达成,从不通过具体 PgPool —— 状态在共享 trait 之后,不困在具体实例上。MachineLearningMastery 文章的「集中式缓存使状态在实例间共享」与 Everythink 的「共享 trait 使状态通过任何适配器可达」共享相同形式:状态通过抽象共享,不困在具体承载者上。⚠️ 部分实现 —— 类比是结构性的;Everythink 的共享 trait 服务于民事与防御性预测,MachineLearningMastery 的集中式缓存服务于开发者教育。不同领域,相同形式:状态共享,因此没有实例是唯一承载者。

机制 6 —— 工作流匹配是选择机制

文章声称「在有状态与无状态架构设计之间的选择归结为将基础设施恰当匹配到工作流」,并给出标准:无状态用于「面向非常特定任务的简单管道,如文本抽取、摘要或单轮分类聊天机器人」;有状态用于「长期助手、编码助手或多轮机器人,如客户服务应用」。诚实架构师将此读作一条选择主张:正确的状态模型由将状态位置匹配到工作流的连续性需求保证,而非由选择更复杂的设计保证。产生正确选择的机制是工作流匹配,而非技术偏好。✅ 生产 —— 文章命名了机制(将基础设施匹配到工作流)与标准(单轮对多轮)。

文章诚实指出没有设计普遍优越。被迫进入多轮工作流的无状态代理滚雪球式累积载荷;被迫进入单轮工作流的有状态代理支付它不需要的数据库代价。没有全局赢家:正确机制取决于工作流,工作流是选择标准。

与 Everythink 的基于 trait 的六边形端口的跨域类比仅为结构性的。Everythink 的架构是一组端口,每个端口回答一个不同问题,用例 crate 依赖 trait,从不依赖具体适配器 —— 正确端口由问题选择,而非由实现偏好选择。MachineLearningMastery 文章的「将状态模型匹配到工作流」与 Everythink 的「将端口匹配到问题」共享相同形式:选择由需求决定,而非由供给决定。⚠️ 部分实现 —— 类比是结构性的;Everythink 的端口选择服务于民事与防御性预测,MachineLearningMastery 的状态模型选择服务于开发者教育。不同领域,相同形式:选择机制是需求匹配,而非供给偏好。

这对范围与限制意味着什么

MachineLearningMastery 文章关于开发者教育与代理架构。Everythink 的平台关于民事与防御性预测。本文中的跨域类比是结构性的 —— 它们共享机制形式,不共享市场。诚实架构师因此将类比标记为 ⚠️。

Everythink 自身用于商业代理工具的 go-to-market 是 🔵 Roadmap —— 平台是 pre-revenue,此处所绘类比的任何商业应用在该 Roadmap 状态与 Howey 审查之前受其约束,才可提供。架构类比独立成立;商业主张不然。

文章未主张之事也值得标记。它未主张无状态优越 —— 它命名了滚雪球式载荷代价。它未主张有状态优越 —— 它命名了数据库层代价与局部失忆失败。它未主张权衡可解 —— 它命名了匹配标准。这些范围限制是文章的诚实,本文保留它们。

关键要点

• 水平扩展到任意实例由服务端状态的缺失保证,而非由更智能的负载均衡器保证。状态位置是扩展机制。✅ 生产。
• 无状态设计中的多轮连续性由客户端携带历史保证,带有滚雪球式载荷代价。客户端载荷是连续性承载者。✅ 生产。
• 有状态设计中的多轮连续性由以会话标识符为键的服务端数据库保证,带有数据库层代价。数据库是连续性承载者。✅ 生产。
• 有状态记忆检索由作为路由键的会话标识符保证。路由键是可检索性承载者。✅ 生产。
• 有状态扩展失败由水平扩展集群中的实例局部状态保证;修正是共享状态或会话感知路由。失败有机制,机制有修正。✅ 生产。
• 正确的状态模型由将状态位置匹配到工作流连续性需求保证。工作流是选择机制。✅ 生产。
• 与 Everythink 的 HAI Engine(无状态 Sisters、有状态 Loom)、「the space is the router」(路由键先于响应)、World Monitor(缓存作为有状态层、轮询器作为无状态馈送器)、Eye Key(客户端携带承重人造物)与六边形端口(共享 trait、按需求匹配选择)的跨域类比仅为结构性的 —— 不同市场,相同机制形式。⚠️ 部分实现。
• Everythink 用于商业代理工具的 go-to-market 是 🔵 Roadmap —— pre-revenue,受 Howey 审查约束;架构类比成立,商业主张不然。

Sources

• Iván Palomares Carrascosa,Stateful vs. Stateless Agent Design: Tradeoffs for Scalable Agentic Systems,MachineLearningMastery.com,发表于 2026-07-24。https://machinelearningmastery.com/stateful-vs-stateless-agent-design-tradeoffs-for-scalable-agentic-systems(检索于 2026-08-23)。
• Everythink 平台架构:HAI Engine 自 2016 年起在生产中运行;Theorem 3(一个属性恰在其机制被实现且正在测量时才得到保证);拓扑「the space is the router」(网络 → 社区 → 房间);World Monitor(geo-signal 按地理哈希前缀路由,客户端读取缓存而非上游);Oracle 集成归一化,每次合并时以 nats 为单位加盖熵;typed Sisters(analyst、contrarian、disruptor、historian、institutionalist)返回 SisterOutput 不持久化,Loom 作为有状态持久化层;基于 trait 的六边形端口,适配器可互换;Eye Key 主权(HMAC 与指纹被记录,明文从不触盘,用户密钥是速率限制边界)。