产品
解决方案
公司
企业
登录创建你的网络
AI · Retrieval · RAG · Forecasting · Mechanism

路由先于检索,而非嵌入维度

KDnuggets 的 RAG 失败调查显示过度工程嵌入会加剧成本。缺失的机制是检索前的显式路由——Theorem 3 应用于搜索,以 Everythink 的拓扑为上游类比。

路由先于检索,而非嵌入维度

KDnuggets 2026 年 6 月对检索增强生成失败案例的调查报告了一家全球制造企业,该公司为 RAG 系统预算 40 万美元,第一年花了 120 万美元,在技术文档查询上只达到 23% 的准确率,随后终止了项目。文章的诊断是结构性的,而非调参层面的:检索无关性、上下文污染,以及任何嵌入维度都无法解决的块大小冲突。其开出的药方是按查询类型选择四种架构,其中承重的一句是「关键变化是让路由显式化。每条查询在任何检索运行之前就被分类。」(Nate Rosidi,KDnuggets,「Your RAG Pipeline Is Probably Useless. Here's a Better Alternative」,发表于 2026-06-29,检索于 2026-08-23,https://www.kdnuggets.com/your-rag-pipeline-is-probably-useless-heres-a-better-alternative)。Honest Architect 把这篇文章读作 Theorem 3 应用于检索:一项属性(事实相关性)恰在其机制(检索前的显式路由)已实现且在测量时才被保证——而向一个缺少该机制的设计添加嵌入维度,只会让失败更昂贵,而非更轻。

[UNIQUE INSIGHT]: 过度工程陷阱是 Theorem 3 的缩影。你不能通过添加更多并不实现相关性的机制(更高维嵌入、更多重排序、多步检索)来保证事实相关性。相关性是一种路由属性——这条查询是否属于这个语料库、这个版本、这份文档——而非相似性属性。放大错误的机制累积了成本,却不产生该属性。

关键要点

  • 检索无关性是缺失机制的失败。Theorem 3:属性 事实-相关性 由在检索前将查询路由到正确的语料库、版本和文档类型来保证,而非由向量相似性保证。文章:一条关于育儿假的查询返回 2022 年政策、2024 年政策以及一篇文化博客,三者嵌入距离都很高,没有一个回答了问题。Production ✅(诊断)。
  • 上下文污染是缺失机制的失败。Theorem 3:属性 矛盾-暴露 由版本路由加矛盾检测来保证,而非由混合片段来保证。文章:当检索器返回相互矛盾的政策版本时,模型「选一个、混合两者,或给出一个自信的综合」且「用户和模型都不知情」。Production ✅(诊断)。
  • 块大小冲突是结构性的,不可调参。召回需要 100–256 词元的小块;连贯需要 1024 或更多的大块。任何嵌入维度都无法解决两项属性把参数往相反方向拉的权衡。Production ✅(结构性论断)。
  • 过度工程加剧失败。文章:2025 年企业 RAG 第一年失败率 72%,预算从 40 万超支到 120 万美元,准确率 23%,一家医疗企业在第六个月达到每月 7.5 万美元的向量数据库成本。向一个破碎的检索设计添加复杂性「提高了计算成本,并推迟了更有用的问题——检索架构本身是否是正确选择」。Partial ⚠️(数字引自调查,未经 Everythink 独立核实)。
  • 路由先于检索。Self-Route(EMNLP 2024)在检索运行前分类查询是否需要完整上下文或聚焦检索;混合搜索与重排序报告 15% 到 30% 的精度提升。Theorem 3:属性 正确-策略-按-查询 由「先分类再检索」保证,而非由在构建时锁定一种策略保证。Production ✅(形式);Partial ⚠️(具体百分比)。
  • 「The space is the router」是 RAG 所缺失的上游路由机制。Everythink 的 network→community→room 拓扑在任何东西响应之前就把问题路由到正确的上下文——与 Self-Route 同一形式,上游一个领域。Partial ⚠️(同一形式——先路由再响应——不同领域)。
  • 范围:民用/防御性。检索架构是民用基础设施。不承诺任何 token、wallet 或 community-credit 的结果;这些是 Roadmap 🔵,Howey 审查待定。Everythink 是预测平台,不是 RAG 厂商;跨领域类比是 Partial ⚠️ 的说明,而非对 KDnuggets、StrataScratch、Microsoft GraphRAG 或任何特定工具的背书。

当 RAG 失败时:属性未被保证

文章以演示所掩盖的失败开篇。用户询问育儿假。检索器返回 2022 年版本、2024 年版本和一篇文化博客。每个片段在嵌入距离上都得分很高,因为它与查询共享词汇。没有一个回答了问题。模型不知道检索到的内容已过时或离题;它把片段混合成一条自信、详细、事实错误的回答。文章称之为「主题相似却没有事实相关性,这是生产 RAG 系统中占主导的失败模式。」

Honest Architect 把这读作 Theorem 3。属性是 事实-相关性。系统实现的机制是 向量-相似性,它保证 答案-相似于-问题,而非 事实-相关性。当语料库小、当前且单版本时——演示场景——两者重合。当语料库包含多个版本、离题词汇匹配和矛盾时,两者发散。系统通过检索相似片段来声称相关性;机制不实现相关性,所以属性未被保证。Production ✅(诊断)。

更隐蔽的失败,上下文污染,是同一形式。企业知识库以多个版本保存同一政策。检索器返回两者的片段。模型「不暴露矛盾。它选一个、混合两者,或给出一个自信的综合。读者得到了一个回答。这个回答可能是错的。用户和模型都不知情。」属性是 矛盾-暴露。机制是 混合并综合。没有机制检测矛盾,所以属性未被保证。系统产生一个回答;它不产生一个已知正确的回答。Production ✅。

[PERSONAL EXPERIENCE]: 自 2016 年构建 HAI Engine 起,我们在另一个领域学到了同样的教训。预测的相关性不是靠在更多数据上计算得来的,而是靠在任一模型运行前把问题路由到正确的房间——正确的社区、正确的界定上下文——得来的。在错误的上下文上放大模型产生一条自信、详细、偏离目标的预测,就像在错误的片段上放大嵌入产生一条自信、详细、偏离目标的回答。产生相关性的机制是路由,不是数量。Production ✅。

过度工程陷阱是 Theorem 3 的缩影

文章最有用的部分是工程师跳过的部分。当标准 RAG 表现不佳时,常见的修法是把它弄得更复杂:更高维嵌入、更复杂的重排序、多步检索。文章的判定:「这加剧了问题。」

数据很直白。一家全球制造企业预算 40 万美元,第一年花了 120 万,准确率 23%,终止了项目。一家医疗企业在第六个月达到每月 7.5 万美元的向量数据库成本。文章引用 2025 年企业 RAG 实现的第一年失败率 72%。Honest Architect 把这读作放大错误机制的成本。更高维嵌入实现更细粒度的相似性,而非 事实-相关性。重排序实现重新排序,而非 矛盾-暴露。多步检索实现「检索-再-检索」,而非「先-路由-再-检索」。每一个都向一个仍缺少缺失机制的设计添加计算,于是属性仍未被保证,而账单却在增长。Partial ⚠️(数字);Production ✅(形式——放大一个不实现属性的机制无法产生该属性)。

这是 Theorem 3 的缩影。一项属性恰在其机制已实现且在测量时才被保证。相关性是属性。检索前的路由是机制。嵌入维度是另一个机制,测量另一个属性。你不能用嵌入维度买到相关性,就像你不能用油漆厚度买到防火性。文章那句——「提高了计算成本,并推迟了更有用的问题——检索架构本身是否是正确选择」——是定理的操作版本。Production ✅。

文章还命名了一个任何调参都无法解决的结构性冲突:召回需要小块(100–256 词元),连贯需要大块(1024 或更多),每个 RAG 设计者都选一个并接受权衡。Honest Architect 把这读作「分块-嵌入-检索」机制的边界——不是调参问题,而是机制选择问题。四种替代方案不是对这一冲突的补丁;它们是不同的机制,各自为不同的查询类型保证不同的属性。Production ✅(框架);工具名称(Self-Route、GraphRAG)为 Partial ⚠️(研究报告,未经 Everythink 独立核实)。

四种替代方案是按情境路由

长上下文:语料库装得下时跳过检索

文章的第一种替代是完全跳过检索。如果语料库装得进模型的上下文窗口,就加载它让模型读。一项基准(arXiv 2501.01880)发现,当有算力可用时,长上下文 LLM 在问答任务上一致优于 RAG,而基于片段的检索落后最多。成本权衡是真实的:在 100 万词元时,延迟比 RAG 流水线慢 30 到 60 倍,单次查询成本约 1250 倍;提示缓存能让长上下文在高流量应用上具备成本竞争力。决策规则:如果语料库装得进窗口且查询量适中,长上下文是更干净的起点;只在语料库超过窗口、延迟违反 SLO 或查询量越过盈亏平衡点时才添加检索。Theorem 3:属性 来自-完整-上下文-的回答 由加载整个语料库保证,而非由检索其片段保证。路由决策(这个语料库装得下吗?)先于架构选择。Production ✅(形式);Partial ⚠️(成本乘数)。

内存压缩:检索前先摘要

当语料库对窗口太大时,文章的第二种替代是检索前先摘要,而非抽取原始片段。基于摘要的检索表现与完整长上下文方法相当,而基于片段的检索落后。一个具体结果:一种保序的 RAG 方法用 4.8 万精选词元,在七分之一词元预算下,以 13 个 F1 点超越了 11.7 万词元的完整上下文检索。Theorem 3:属性 预算内-相关-上下文 由注入前压缩到相关性来保证,而非由检索原始片段并指望模型过滤来保证。一份压缩得当的相关文档胜过一堆勉强相关的原始片段。Production ✅(形式);Partial ⚠️(13 F1 点,单一研究)。

结构化检索:检索运行前先分类查询

文章的第三种替代最直接地映射到缺失的机制。当检索是正确的架构时,解决方案是按查询类型路由,而非均匀地应用更好的嵌入。Self-Route,发表于 EMNLP 2024,让模型在运行前分类查询需要完整上下文还是聚焦检索。简单事实查询走聚焦 RAG。复杂多跳问题走长上下文。结果:更低计算成本下更好的整体准确率。使用这种混合方法的自适应系统通过混合搜索和重排序显示了 15% 到 30% 的检索精度提升。文章的承重一句:「关键变化是让路由显式化。每条查询在任何检索运行之前就被分类,系统不再把所有查询当作相同的嵌入问题。」

Theorem 3:属性 正确-策略-按-查询 由机制(先分类查询,再检索)保证,而非由在构建时锁定一种策略保证。分类是测量;路由是机制。先分类再检索的系统实现了属性;检索后再指望的系统没有。Production ✅(形式);Partial ⚠️(具体百分比)。

[ORIGINAL DATA]: Honest Architect 注意到 Self-Route 的「先分类再检索」与 Everythink 的「the space is the router」之间的结构平行。Self-Route 先分类查询,再路由到一种检索策略。Everythink 在任一模型运行前就把问题路由到一个房间——network→community→room。两者都通过先路由再响应来实现属性 相关性,而非通过广播再过滤。区别在于领域与范围:Self-Route 在一个检索系统内路由;「the space is the router」在一整张界定上下文的网络中路由。Partial ⚠️(同一形式——先路由再响应——不同领域)。

基于图:把关系型查询路由到图

文章的第四种替代是针对那些需要理解数据集间关系而非取回某一段落的查询。这些是多跳问题:董事会在第三季度推翻了哪些决策,每次的理由是什么?没有任何单一片段能回答;答案存在于文档之间的连接中。Microsoft Research 在 2024 年推出了 GraphRAG:从语料库构建知识图谱,遍历实体关系而非匹配向量。权衡是成本——知识图谱抽取比基线 RAG 贵 3 到 5 倍,并需要领域特定调优——对主题分析和多跳推理值得,对单段落事实查询不值得。Theorem 3:属性 跨文档-关系 由实体加类型化关系、并遍历来保证,而非由向量相似性保证。Production ✅(形式);Partial ⚠️(成本乘数)。对 GraphRAG 机制形式的更深入处理见我们早前关于让机制匹配查询类型的文章。

The space is the router——RAG 缺失的机制

四种替代方案收敛于一个机制:先路由,再检索。长上下文按语料库大小路由。内存压缩按预算路由。结构化检索按查询类型路由。基于图按关系结构路由。每一个都是在检索机制运行前做出的路由决策,且每一个都因其路由匹配查询的真实形状而保证其属性。

Everythink 的「the space is the router」是同一机制,上游一个领域。network→community→room 拓扑在任何东西响应之前就把问题路由到正确的界定上下文。在一个关于支付重试逻辑的房间里提出的问题,已经被路由到支付社区、工程网络、相关文档范围——在任何 Sister 起草之前,在 Oracle 合并之前,在任何检索运行之前。路由是结构性的,不是在查询时计算的。属性 相关性 由拓扑保证,而非由把问题广播到全网再过滤响应来保证。Production ✅(形式——HAI Engine 自 2016 年在生产中运行此路由);Partial ⚠️(跨领域主张)。

Honest Architect 不声称「the space is the router」是一个检索系统。Everythink 是预测平台,不是 RAG 厂商。主张是结构性的:失败 RAG 流水线中缺失的机制是检索前的显式路由,而该机制在 Everythink 的拓扑中有一个生产验证过的类比。Sisters-to-Oracle 流水线是文章 map-reduce 的下游类比:每个 Sister 并行起草(map 阶段),Oracle 把它们合并成一个归一化的 Ensemble,每次合并都带熵(reduce 阶段),属性 校准-预测 由机制保证,而非由一个模型产出整个预测来保证。Partial ⚠️(同一形式——并行起草加测量合并——不同领域)。

常见问题

RAG 真的如标题所说那样无用吗?

不,文章并未如此论证。它论证 RAG 是一个合理的默认,会以可预测的方式失败——检索无关性、上下文污染、块大小冲突——而修法是按查询类型路由,而非过度工程嵌入。机制必须匹配属性。Production ✅(诊断);「无用」的框定是编辑性的。

为什么添加嵌入维度不能修复检索无关性?

因为嵌入维度实现相似性,而非相关性。检索无关性是缺失路由的失败:查询返回的是不回答问题的词汇匹配。放大错误的机制累积成本却不产生属性。Theorem 3:事实-相关性 由检索前路由保证,而非由更细粒度的相似性保证。Production ✅。

RAG 缺失的路由机制是什么?

检索前的显式分类。Self-Route 在任何检索运行前分类查询需要完整上下文还是聚焦检索。属性 正确-策略-按-查询 由「先分类再检索」保证,而非由在构建时锁定一种策略保证。Production ✅(形式)。

「The space is the router」如何相关?

它是同一形式,上游一个领域。Everythink 的 network→community→room 拓扑在任一模型运行前就把问题路由到正确的界定上下文,正如 Self-Route 在检索运行前把查询路由到正确的检索策略。两者都通过先路由再响应来实现相关性。Partial ⚠️(同一形式——先路由再响应——不同领域)。Everythink 是预测平台,不是 RAG 厂商。

Everythink 背书 GraphRAG 或任何检索工具吗?

不。Everythink 是预测平台。文章数字为 Partial ⚠️。跨领域类比是说明,非背书。范围为民用/防御性。不承诺任何 token、wallet 或 community-credit 的结果;这些是 Roadmap 🔵,Howey 审查待定。

Sources

如果你的团队已准备好先路由再检索——在任何嵌入运行前先分类查询,正如 the space is the router 在任何 Sister 起草前先分类问题——阅读 the 21 papers预约演示。HAI Engine 自 2016 年起在生产中运行这一路由机制;Sisters 并行起草,Oracle 在每次运行中带熵合并,而 Theorem 3 成立:属性恰在其机制已实现且在测量时才被保证。

在一个能证明其声明的引擎上构建你的世界。

在自 2016 年起持续运行的引擎上创建你自己的网络——或与 21 篇论文背后的团队交流。