不确定性采样才是数据路由机制

Honest Architect 对 Mind Foundry 于 2026-06-23 发表的 How Active Learning Can Train Machine Learning Models with Less Data 的解读。

文章的表层主张是一个案例研究：在 MNIST 数字数据集的子集（从 60,000 个点中抽取的 5,000 / 10,000 / 15,000 个点）上训练一个支持向量机分类器，使用四种采样策略——随机、不确定性、熵和边际采样——并测量精度与训练时间之比。Honest Architect 从中读出机制，找到五个。起支撑作用的是采样准则：测量模型预测不确定性的三种策略在不到 25% 的时间内保持超过 99% 的精度，而不测量的随机采样则损失精度。Everythink 的 HAI Engine 中的 Theorem 3 断言同一形式：一种属性恰好在其机制被实现并正在测量时得到保证。这里属性是“用更少数据达到可比精度”；机制是“一个测量预测不确定性并把下一个训练点路由到模型最不自信处的采样准则”。数据集大小不是机制；准则是。

本文提取五种机制形式，对每一种应用 Theorem 3，并勾画与 Everythink 的跨域类比。每个类比标记为 ⚠️——Everythink 运作于民事与防御性预测，Mind Foundry 的文章运作于机器学习训练教育，因此类比是结构性的，并非声称我们的系统服务于同一市场。五种机制形式本身为 ✅。

机制 1 — 不确定性测量是“更少数据同等精度”的机制

四种策略中的三种——不确定性采样（“根据机器学习模型对其类别的预测不确定性来选择点”）、熵采样（“选择类别概率熵最大的点”）和边际采样（“选择最可能类别与次可能类别之间差异最小的点”）——共享一件事：每种都测量一个由模型预测类别概率派生的量，然后把下一个训练点路由到该量取极值处。Honest Architect 把这读作一条机制主张：用更少数据达到可比精度，是由一个测量预测不确定性的采样准则所保证的，而非由减小数据集大小所保证。产生“用 10,000 个点的子集在不到 25% 的时间内获得超过 99% 性能”的机制是“准则测量模型不确定性并把下一次选取路由到不确定区域”。不确定性是测量；大小是负载。✅ Production。

四种策略都从同一 60,000 点池中选取 10,000 个点；大小保持恒定。差异在于选取准则是否测量模型的状态。三种测量的保持精度；不测量的那种（随机）损失精度。测量是判别因素，不是大小。文章所测量的属性本身也是一个比率——每单位训练时间的精度——而非一个绝对量：“以不到 1% 的精度下降，我们能把训练模型所需时间减少 75%。”1% 与 75% 是同一指标的两面；只报告其一会误导。

与 Everythink 的 Oracle 的跨域类比仅为结构性的。Oracle 在唯一一处归一化概率并在每次合并时盖戳以 nats 为单位的熵——一个告诉你分布在何处最未决的测量量。熵采样选取类别概率熵最大的点；Oracle 在每次合并时盖戳熵。同一信号：熵测量模型在何处最不自信，而该测量就是机制。⚠️ Partial——Oracle 服务于民事与防御性预测，Mind Foundry 的熵采样服务于机器学习训练教育。不同领域，同一信号。

机制 2 — 采样准则是机制，不是数据集大小

文章陈述了框定动作：“通过减小数据量同时保留其绝大部分内在预测能力，我们可以用更少的时间训练一个具备可比性能的机器学习模型。”Honest Architect 把这读作一条 Theorem 3 主张：“用更少时间达到可比性能”这一属性是由采样准则保证的，而非由减小数据量保证。减小数据量是负载——你想要的——但不是机制。机制是决定保留哪部分数据量的准则。文章自身的证据证明了这一点：随机采样也减小数据量（从 60,000 中选 10,000），并且损失精度。如果减小数据量是机制，随机采样也会保持精度。它没有。测量模型不确定性的准则是机制；数据量减小是后果。✅ Production。

框定是“负责任的设计”，而非“逐量”：“通过使用设计上负责任的 AI，我们能在保持性能的同时减少这些问题。”机制被内建于选取步骤，而非在训练后加诸其上。数据量减小是准则的测量结果，而非它追逐的目标。

与 Everythink 的“the space is the router”的跨域类比仅为结构性的。Everythink 的拓扑是 network → community → room：一个请求在被响应前被路由到一个 room，发生在基础设施层。采样准则在模型对其训练之前路由下一个训练点；拓扑在 room 响应之前路由请求。同一形式：路由先于工作，而路由是限制工作成本的机制。⚠️ Partial——“the space is the router”服务于民事与防御性预测，Mind Foundry 的采样准则服务于机器学习训练教育。不同领域，同一形式。

机制 3 — 随机采样是证明机制的控制组

文章陈述了控制组结果：“随机采样是所有策略中最快的，但也会造成显著的精度下降，这意味着应使用更具策略性的方法。”Honest Architect 把这读作一个 Theorem 3 控制组：当机制不测量时，即便负载（数据量减小）相同，属性也会崩塌。随机采样选取与其他策略相同的 10,000 个点；它以同一因子减小数据量。它不做的是测量模型的预测不确定性。属性（精度）崩塌，因为机制（不确定性测量）缺失。这是证明机制的控制组：保持负载恒定，移除测量，观察属性崩塌。✅ Production。

“最快”不等于“最好”。随机采样最快是因为它不做任何测量——随机选取 10,000 个点比为 60,000 个点评分不确定性更便宜。速度优势是跳过机制的代价。“最快却损失精度”读作“你跳过的机制就是你在属性上支付的机制”。

与 Everythink 校准预测的跨域类比仅为结构性的。Everythink 的 Sisters 各返回一个 SisterOutput，Oracle 予以合并——若 Oracle 跳过熵测量而以多数投票合并，集合将是 Sisters 的平均，而非一个校准的锥。随机采样跳过测量并损失精度；跳过熵则合并损失校准。同一形式：测量是机制，跳过它即使在流水线其余部分保持恒定时也会降级属性。⚠️ Partial——校准预测服务于民事与防御性预测，Mind Foundry 的控制组服务于机器学习训练教育。不同领域，同一形式。

[UNIQUE INSIGHT] Mind Foundry 的案例研究比多数生产级机器学习论文更清晰地展示了 Theorem 3，因为它保持负载（大小）恒定而仅改变机制（准则）。多数“更少数据”论文混淆了大小与准则；本研究通过给随机采样相同的大小预算来隔离准则。四向表格读作一条 Theorem 3 证明：属性（精度）跟随机制（不确定性测量），而非负载（大小）。

机制 4 — 人在回路的查询是路由机制

文章陈述了更广义的主动学习设定：“一个学习算法识别出问题或数据集中它最能从人类专家输入获益的区域，并随时间迭代地请求人类对这些区域的输入，逐步建立对底层语境的理解，而无需访问数据集中所有可用数据。”Honest Architect 把这读作一条路由主张：模型把查询路由到模型不确定性最高处的人类，而非人类可用性最高处。产生“人类标注最能改进模型的点”的机制是“模型给自己的不确定性打分，并在最不确定的前 k 个点上查询人类”。查询由模型的不确定性路由，而非由人类的时间表路由。✅ Production。

路由是迭代的：模型查询，人类标注，模型再训练，模型在新不确定区域上再次查询。路由是一个回路，而非一批。回路是在无需预先获取所有数据下累积理解的机制。

与 Everythink 的 Sisters 的跨域类比仅为结构性的。Everythink 的 Sisters 是五种有类型的个性（analyst、contrarian、disruptor、historian、institutionalist），每种各产出一个草稿，Oracle 予以合并——多样性覆盖了 Oracle 必须合并的不确定性空间。模型在其不确定点上查询人类；Oracle 合并 Sisters 的多样草稿。同一形式：合并覆盖不确定性空间，而覆盖是产出校准输出的机制。⚠️ Partial——Sisters 服务于民事与防御性预测，Mind Foundry 的人在回路服务于机器学习训练教育。不同领域，同一形式。

[PERSONAL EXPERIENCE] HAI Engine 自 2016 年以来在生产中运行此回路——不是主动学习查询回路，而是同一形式：有类型的智能体产出输出，一个合并步骤校准集合，且合并由每次输出上的一个测量量（熵）加权。形式相同；领域是民事与防御性预测，而非 MNIST 分类。the 21 papers 把该形式形式化为 Theorem 3。

机制 5 — 迭代再训练是频繁再训练场景的机制

文章陈述了生产框定：“尤其是在频繁再训练的迭代场景中，此策略可显著改善日常使用。”Honest Architect 把这读作一条生产主张：机制的价值在频繁再训练的场景中复利累积，因为 75% 的时间减少适用于每次再训练，而非仅一次。产生“显著的日常改善”的机制是“采样准则降低每次再训练的成本，而再训练频繁运行”。再训练频率是放大器；准则是机制。✅ Production。

复利累积发生在再训练回路中，而非单次运行中。单次训练中 75% 的时间减少是一次性节省；每日回路中每次再训练同样的 75% 是结构性成本降低。“频繁再训练的迭代场景”是机制回本的牛产场景。

与 Everythink 的 World Monitor 的跨域类比仅为结构性的。World Monitor 按固定调度为每个源运行一个后台轮询器——轮询器拉取订阅源，将其归一化为 GeoSignal，upsert 进一个持久 Postgres 缓存，并把增量交给 GeoPublisher。频繁再训练复利累积采样节省；频繁轮询复利累积缓存命中。同一形式：一个调度回路复利累积每迭代节省，而回路是产出结构性成本降低的机制。⚠️ Partial——World Monitor 服务于民事与防御性地理信号交付，Mind Foundry 的迭代再训练服务于机器学习训练教育。不同领域，同一形式。

这对范围与限制意味着什么

Mind Foundry 的文章是关于带 MNIST 案例研究的机器学习训练教育。Everythink 的平台是关于民事与防御性预测。本文的跨域类比是结构性的——它们共享机制形式，而非市场。Honest Architect 把这些类比标记为 ⚠️。

Everythink 自身的主动学习或商用数据子集化推向市场处于 🔵 Roadmap——平台处于 pre-revenue，且此处所绘类比的任何商业应用在可被提供之前都受该 Roadmap 状态与 Howey 审查约束。架构类比独立成立；商业主张不成立。

文章未主张的也值得标记。它未主张随机采样无用——它是证明机制的控制组。它未主张三种被测策略可互换——文章在一个数据集和一个分类器上比较它们，Honest Architect 把该比较读作一条 Theorem 3 演示，而非一个排名。它未主张 99% / 75% 的比率推广到每个数据集——文章把结果限定于“90%+ 峰值精度即足够”的“分类数据集”。这些范围限制是文章的诚实，本文予以保留。

[ORIGINAL DATA] Everythink 的 the 21 papers 系列把 Theorem 3 形式化为：一种属性恰好在其机制被实现并正在测量时得到保证。Mind Foundry 的四向表格（随机 / 不确定性 / 熵 / 边际，保持大小恒定）是 Honest Architect 本年度读到的最清晰的生产级机器学习 Theorem 3 例证，因为它通过保持负载恒定并在一个臂中移除测量来隔离机制。属性（精度）跟随机制（不确定性测量），而非负载（大小）。这是在不同领域的 Theorem 3。

关键要点

• 用更少数据达到可比精度，是由一个测量预测不确定性的采样准则保证的，而非由减小数据集大小保证。不确定性是测量；大小是负载。✅ Production。
• 采样准则是机制，不是数据集大小。文章的随机采样臂证明了这一点：它以同一因子减小数据量并损失精度，因为它不测量。✅ Production。
• 随机采样是证明机制的控制组。当机制不测量时属性崩塌，即便负载相同。✅ Production。
• 属性是一个比率（每单位训练时间的精度），而非一个绝对量。1% 的精度下降与 75% 的时间减少是同一指标的两面。✅ Production。
• 人在回路的查询是路由机制：模型把查询路由到其不确定性最高处的人类，而非人类可用性最高处。✅ Production。
• 迭代再训练是频繁再训练场景的机制。75% 的时间减少跨再训练回路复利累积，而回路是放大器。✅ Production。
• 与 Oracle（每次合并以 nats 为单位的熵）、“the space is the router”（路由先于工作）、Sisters（不确定性空间的覆盖）、HAI Engine（自 2016 年起运行的合并回路）和 World Monitor（调度回路复利累积节省）的跨域类比仅为结构性的——不同市场，同一机制形式。⚠️ Partial。
• Everythink 的主动学习或数据子集化商业推向市场处于 🔵 Roadmap——pre-revenue，受 Howey 审查约束；架构类比成立，商业主张不成立。

常见问题

主动学习会减少你需要标注的数据量吗？ 会，但减少是结果，不是机制。机制是测量模型不确定性并把下一次标注请求路由到最不确定点的采样准则。Mind Foundry 的案例研究表明，同样减小数据集的随机采样损失精度，因为它不测量。更少数据是负载；准则是机制。✅ Production。

不确定性采样和熵采样是一回事吗？ 相关但不相同。不确定性采样选取模型预测不确定性最高的点；熵采样选取类别概率分布熵最大的点；边际采样选取最可能两个类别之间差异最小的点。三者都测量一个由模型预测概率派生的量，且在 MNIST 上都在不到 25% 的时间内保持超过 99% 的精度。共享的信号是“测量模型的不确定性”；具体量不同。✅ Production。

这与 Everythink 的 Theorem 3 如何联系？ Theorem 3 断言：一种属性恰好在其机制被实现并正在测量时得到保证。Mind Foundry 的四向表格是一条 Theorem 3 演示：当机制（不确定性感知采样）正在测量时（不确定性、熵、边际臂），属性（用更少数据达到可比精度）得到保证；当机制未在测量时（随机臂），属性崩塌。负载（数据集大小）保持恒定；只有测量不同。属性跟随测量，而非负载。⚠️ Partial——类比是结构性的；Everythink 服务于民事与防御性预测，Mind Foundry 服务于机器学习训练教育。

Everythink 在生产中使用主动学习吗？ Everythink 的 HAI Engine 自 2016 年以来在生产中运行一个相关回路：有类型的 Sisters 产出草稿，Oracle 以每次合并盖戳的 nats 熵合并它们，且合并由一个测量量加权。形式相同（测量不确定性，路由合并）；领域是民事与防御性预测，而非 MNIST 分类。一个主动学习或数据子集化的商业推向市场处于 🔵 Roadmap——pre-revenue，受 Howey 审查约束。✅ Production（HAI Engine 回路）；🔵 Roadmap（商业主动学习）。

Honest Architect 保留的范围限制是什么？ Mind Foundry 的文章把其结果限定于 90%+ 峰值精度即足够的分类数据集，一个分类器（SVM）和一个数据集（MNIST）。Honest Architect 不把 99% / 75% 的比率推广到每个数据集或模型。机制形式（测量不确定性，路由下一次选取）可推广；具体比率不能。the 21 papers 形式化该形式；案例研究例示它。✅ Production。

如果你想要一个合并步骤由每次输出上的一个测量量加权——而非由断言加权——的预测平台，请阅读 HAI Engine 背后的论文。the 21 papers 与 Theorem 3 是形式化基础；引擎自 2016 年起在生产中运行。

Sources

• Mind Foundry，How Active Learning Can Train Machine Learning Models with Less Data，发表于 2026-06-23。https://www.mindfoundry.ai/blog/how-active-learning-can-help-you-train-models-with-less-data （检索于 2026-08-23）。
• Everythink 平台架构：HAI Engine 自 2016 年起在生产中运行；Theorem 3（一种属性恰好在其机制被实现并正在测量时得到保证）；the 21 papers；“the space is the router”拓扑（network → community → room 在任何响应之前路由）；Oracle 集合归一化，每次合并盖戳以 nats 为单位的熵；有类型的 Sisters（analyst、contrarian、disruptor、historian、institutionalist）返回 SisterOutput；World Monitor（按固定调度为每个源运行后台轮询器，客户端读缓存而非上游）；仅限民事与防御性预测范围。