简
← 全部文章

GPT-6.2 如何分配任务,先算每份验收成果的成本

Astra 与 Sol 的价差只是起点。重试、人工复核与交付时限,才决定哪条模型路线更划算。

专栏AI前沿作者Open Market Notes类型文章
米白背景上黑线绘制的任务分岔路线,终点有红色人工验收标记。

OpenAI 于11月17日发布 GPT-6.2 Astra 与 Sol,将两者分别定位于高难度项目与日常工作。官方发布说明给企业带来一个实际问题:哪些任务应交给哪一个模型?答案不应只来自每百万 token 的报价,也不应是把所有任务都发给更强的型号。

真正需要比较的是,在相同质量要求与交付期限下,每完成一份经过验收的工作,总共付出了多少成本。便宜的首轮生成如果带来更多修改,可能只是把费用转移给审核人;较贵的调用若没有改善可用结果,也未必值得。

单次调用价格不是交付价格

按短上下文 Standard 文本价格,Sol 模型页列出每百万输入 token 2美元、输出10美元;Astra 模型页分别为8美元与40美元。它们是计费单位,不是固定任务价格。输入长度、输出长度和重试次数都会改变账单。

评估时应固定计费条件,再记录实际使用量。API 价目表区分缓存、处理档位与上下文条件。不要把一种模型的优惠后台处理,与另一种模型的即时处理混在一起比较。下文只使用 Standard、非缓存、短上下文文本价格,不推算订阅套餐的使用额度。

更合适的内部指标是:同一批任务的模型与工具费用,加上人工复核和返工成本,再除以按约定要求通过验收的成果数。失败、超时、放弃以及升级到另一模型的支出,都保留在分子内。零份通过时,不应报告一个好看的平均成本,而应判定这条路线尚不可用。

一个明确是假设的算例

以下数字不是 Astra 或 Sol 的实测表现。假设同一批100项低风险工作采用相同验收标准,每项都须在30分钟内完成;两条路线都交付95份合格成果,并满足预先设定的同一错误容忍阈值。剩余5项失败的费用仍计入。人工时间按每分钟1美元估值,包括复核、修改和失败任务处理。

为便于算账,再假设每次调用都用1万输入 token、2000计费输出 token,后者包括适用的推理 token;没有缓存或工具费用。于是 Sol 每次0.04美元,Astra 每次0.16美元。真实重试可能携带更长历史,这里刻意简化。

  • Sol 路线:100次首轮调用,加20次重试,共4.80美元;人工总计300分钟,即300美元。合计304.80美元,除以95份成果,约为每份3.21美元。
  • Astra 路线:100次首轮调用,加5次重试,共16.80美元;人工总计190分钟,即190美元。合计206.80美元,约为每份2.18美元。

在这些假设下,Astra 多花12美元模型费用,却少用110分钟人工,所以总成本更低。这不是“Astra总是更省”的结论。如果两条路线人工时间相同,Sol反而便宜;按本例的人工估值,Astra只要节省超过12分钟就能抵消额外模型费用。企业应替换这些假设,而不是引用算例当作采购证据。

人工估值也不等于现金节省。审核员少花时间,可能意味着能处理更多工作,并不必然减少工资支出。财务报表应把可回收产能与真正减少的付款分开。

基准可以提出问题,不能代替验收

Cognition 的FrontierCode 2.0 方法说明采用加权评分,未通过阻断性标准的结果记零;其成本是按API报价计算的每次运行平均费用。这里的分数不能直接充当公式中的验收率,运行费用也不是包含人工的交付成本。

官方榜单以代码是否达到维护者合入标准为目标。这是有用的评估视角,但一个代码评测不能证明报表、销售邮件或企业内部特殊代码库具有相同排序。本文不把厂商公布的分差外推为本企业收益,也不据此宣称两模型质量等同。

企业可建立按任务类别分层的小型样本:规范清晰的格式整理、需要查证的资料整合、跨模块修改分别统计。隐藏模型名称进行复核,固定验收规则,并记录首次通过率、总重试数、人工修改时间与交付后发现的问题。小样本中的偶然胜出,应通过重复批次检验。

路由规则要包含升级成本与停止条件

一种待验证的策略是让Sol先处理边界清楚、可回滚的工作;只有出现可检查的失败信号才升级,例如测试未通过、必需来源缺失或超过预设返工次数。升级时把原任务、已验证事实与失败原因交给Astra,而不是只发送一份没有上下文的残稿。

但“先便宜再升级”并非必然省钱。已经花掉的首轮费用、整理交接材料的时间和第二次读取上下文的费用都属于同一任务。若某类工作经常升级,直接选择Astra可能更合理。路由器本身的分类成本与误分配,也应纳入对照。

测试应比较三条完整路线:直接Sol、直接Astra、Sol后按规则升级。给它们相同期限、工具权限与质量门槛,观察交付延迟分布,而不仅看平均响应时间。超过期限的优秀答案不能算按时完成;事后发现的重大错误应撤回原来的验收,并补记修复成本。

本文讨论的是低风险、可审核的工作分配,不涵盖医疗或法律结论、资金交易、不可逆业务操作及安全测试。路由决定不能取代必要的人类批准。最终值得保留的规则,应能说明哪些任务在什么条件下更省、更可靠,并允许团队在模型、价格或工作结构变化后重新验证。

内容仅供参考,不构成投资、法律、税务或财务建议。