简
← 全部文章

智能体沙箱的经济账:真正该买的是有效交付

主机更快,并不自动意味着每项任务更便宜。把质量、时延和完整成本放进同一个验收框架,才能判断性能提升是否值得付费。

作者Open Market Notes类型文章
处理器周围的传送带运送文件托盘,象征智能体任务的执行流程。

Modal 在 2026 年 10 月 19 日公布的 Vera 测试中,报告了资源争用下相对同等级 x86 GNR 最高两倍的沙箱任务吞吐量。这是公司基准结果,并非普遍保证。Modal 原文

采购者接下来要回答的是:硬件成绩怎样变成更好的经营结果?以下是 OMN 的分析框架:比较在约定时限内完成、且通过验收的任务总成本。仅凭处理器排名,无法完成这道判断。

先定义分母,再谈性能

假设两台服务器每小时分别花费 4 美元和 6 美元,能交付 800 项与 1,200 项合格任务。它们的单位成本同为 0.5 美分。第二台提供更多容量,却没有降低单位成本。若其中只有 900 项满足时限,合格交付的成本就升至约 0.67 美分。以上数字仅演示计算方法,不是产品报价或实测数据。

验收标准应在测试前确定。编程任务可以要求测试通过、补丁可用;数据任务可以要求输出完整、符合规定格式。重试是新增尝试,不是新增交付。失败尝试消耗的资源要计入成本,却不能计入成功产出。

这样,讨论就从机器做了多少动作,转向组织得到了多少需要的结果。忙碌的服务器仍然可能很昂贵。

固定任务组合,避免分母漂移

公开的 Agentless Agent Bench 使用 50 项无网络、预热的标准解工作负载,只计通过验证的完成次数,并排除模型轮次延迟。基准仓库

它不衡量推理质量。采购试验应固定模型、提示词、任务组合、成功判定和工具权限,只改变执行环境。否则,推理能力或任务选择的差异,就可能被误认成硬件收益。

另一个陷阱是任务权重。假设工作中有大量短检查和少量长构建,某台主机可能完成更多检查,却让所有构建错过期限。因此,总数之外还要按任务类别报告结果。对重要工作单独设置服务目标,不能让容易任务的大量完成掩盖关键任务的失败。

找到有用的并发上限

比起能启动多少沙箱,更有效的做法是逐步增加任务到达速度,找到服务承诺开始失守的位置。每一步记录验收通过率、中位时延、高分位时延和总成本。要测试繁忙时段,而不只是全天平均值。

真正有用的容量,是仍满足全部条件的最高持续任务到达率。实际运行还应在这个边界以下留出余量。一次经过充分准备的一分钟峰值,并不能证明系统可同时应对持续突发、主机故障和环境重建。

做两组比较:同样预算能买到多少合格交付,以及同样服务质量需要多少预算。前者测购买力,后者测成本。分开回答,才能避免把更贵的性能档位误称为降本。

把计费表和等待队列一起看

Modal 文档规定,沙箱按申请资源与实际用量中较高的一项计费。资源说明

因此,实验对象不仅是硬件,也包括计费方式。记录实际账单口径、内存、存储、网络费用和闲置预留,不要将吞吐量改善直接换算成想象中的折扣。供应商可能提高经营效率却不调低价格;客户也可能得到更快响应,却没有减少账单。

Linux PSI 能衡量资源停顿时间。内核文档 将它与任务时间戳对照,区分主机资源压力和应用延迟,再检验这种区分能否预测任务超时。

区分容量收益与现金收益

图表中的容量增益可以连续变化,服务器采购和某些合同却不能。假设一项服务需要三台机器满足高峰目标,新配置理论上把需求降到两台半,实际仍可能必须付三台的钱。只有真正撤掉一个计费单位、合并其他工作或调整承诺,节省才会兑现。这同样只是示例,并非描述任何供应商的合同。

收益也可能表现为推迟下一次扩容。它有价值,但应与本月账单下降分列。写清每种收益在什么需求水平下出现,以及由谁获得:基础设施运营方、应用团队,还是最终客户。否则,工程团队看到的效率提升,容易被财务团队误读成已经实现的现金节省。

还要保留不确定性范围。在有代表性的多个运行时段重复比较,而不是用最好的一次结果编预算。如果需求或验收率稍有变化,购买结论就会逆转,就先降低承诺、继续收集证据。稳健的决策不应要求所有乐观假设同时成立。

转换成本也属于采购成本

更换硬件还有实施账单。验证镜像和依赖、重建产物、核对输出,以及试验期间维护混合环境,都需要工程时间。如果一种少见依赖挡住了重要任务,即使平均表现很好,这个例外也必须进入决策。

按照预期的合格任务数量,把转换成本分摊到现实的评估周期。还要检查低峰时段:高利用率下划算的容量,在需求稀疏或波动时未必值得买。没有必要让每一种工作都迁移到同一种主机。

分阶段上线可以保留选择空间。先挑输入和验收条件清晰的一类任务,与对照组比较;只有完整费用和尾部时延持续合格时,才扩大范围。退出条件应和进入条件一样明确。

采购结论应写清四件事

要求可复现的任务组合、包含失败与闲置承诺的成本边界、质量和时延门槛,以及回退路径。再明确收益究竟是更多容量、更低账单,还是更快交付。这些好处可以共存,却不能互相替代。

更重要的变化,是让执行基础设施对智能体产品的最终结果负责。只计算按时交付的可用工作。当这个数字的增长快于完整成本,经济收益才真正成立。在此之前,一项吞吐量成绩适合成为严谨试验的起点,还不适合直接写进下一季度的节省预算。

内容仅供参考,不构成投资、法律、税务或财务建议。