LFM3拉长上下文之后,测试需要追踪证据之间的关系
有用的长上下文测试,不只是找回一句话,还要检验助手能否把分散的证据正确连接起来。

2026年10月27日,Liquid AI发布LFM3。其文本架构结合卷积、局部注意力和全局注意力,标示上下文窗口为256K token。Liquid AI公告。
对应用团队而言,更值得追问的是:准备拿这段空间做什么?把更多材料放进一次请求,可能减少事先决定哪些页面应被检索保留的压力,但也改变了助手承担的工作。它不再只是根据一份简短摘录回答,而可能需要核对一段内容互相冲突的完整记录。本文的分析是,验收应围绕这些关系展开,而不是把能够成功装入的最长提示,直接当成产品的有效容量。
找到事实,只是任务的开始
设想一个处理配送争议的客服团队。最初订单写着一个送货地址;后续邮件修改了地址;再下一封邮件说明,修改仅适用于第二批货。每句话单独引用都不难。真正有用的答案,却必须把修订与正确的批次连接起来,并保留第一批货的原地址。助手即使找回了全部三段,也仍可能给出错误的操作指令。
这个例子提示了一种比在长文档中藏一个编号更有解释力的测试:保持案件事实不变,把修订说明移到距离原指令更远的位置,在两者之间加入看似合理却无关的往来邮件。正确决定应当保持不变。如果答案随之改变,团队就发现了一种值得调查的呈现依赖,即使被引用的每段话都真实存在。
2024年的RULER论文把长上下文评估从简单检索扩展到追踪、聚合等任务。它早于LFM3,不能证明这款模型的表现。原始论文,首次提交于2024年4月9日。
在上述假想客服场景里,追踪意味着记住哪项修订修改哪条指令;聚合则可能是核对几批部分交货是否满足一张订单。这是不同的出错机会。若将它们混成一个通过率,团队反而更难判断:需要改善的是检索、文档结构,还是助手在流程中承担的权限范围。
改变呈现,但保留原意
设计良好的测试,需要区分无关变化和有意义的变化。只移动段落、不改日期和适用范围,不应改变答案;把“仅第二批”改成“两批都适用”,则应该改变答案。评估集必须同时包含两类变化,否则一个固执重复原答案的系统,也可能显得十分稳定。
2023年的《Lost in the Middle》研究发现,证据位置会影响其所评估模型和任务的表现。这项历史结果不是对LFM3的诊断。原始论文,首次提交于2023年7月6日。
本文提出的应用测试,不止问位于中间的材料能否被找到,而是问材料排列改变后,决定是否仍由同一组事实支撑。把有约束力的修订分别放在开头、中间和结尾,再把它放到一项相似但无关的修订附近。记录答案,也记录用于连接当事人、对象和生效日期的段落。答案正确、证据链错误的结果仍然脆弱:它可能只是碰巧答对,而非可以重复的表现。
这种办法有一个重要限制:真实文档的顺序有时本身就有意义。观察记录的先后,可能决定作出某项决定前已知什么;对话轮次也决定谁在回答谁。随意打乱这类材料,可能破坏任务,而不是检验任务。评估者必须先说明哪些变换保留原意,哪些变换需要新的标准答案。这是实质性的领域工作,不是上下文窗口扩大后自动获得的属性。
验收边界属于应用本身
架构会影响模型处理信息的方式,但产品团队不应根据某个架构组件的名称,直接推断一种业务错误;也不应认为局部和全局运算的组合,就保证能够正确核对记录。实际证据来自模型、运行配置和文档流程共同工作的表现。一个部署配置的测试结果,不能自动代表所有量化方式、提示格式或之后的模型版本。
假设客服团队为了缩短记录,加入一份早期往来邮件的摘要。这份摘要就成为新的评估对象。如果它漏掉“仅适用于第二批”的限制,下游模型可能只是忠实执行了一份不完整的叙述。只测试最终助手,会把失败归错位置。保留原材料及中间摘要,才有机会找出起控制作用的关系在哪一步消失。
长上下文助手与搜索结合时,道理相同。搜索可以减少干扰,让证据更便于检查,但它同时决定了助手看不到什么。更有意义的比较,是给长上下文路径与检索路径提供同一组底层案件,分别统计已解决案件、漏掉的修订,以及恰当地转交复核的案件。选择不必一刀切:简短且索引清楚的案件可能适合检索,有争议的记录则可能值得更广泛地检查。
一种合理的反对意见是,这样测试成本较高,而不少应用只需要粗略分类。这个意见应当改变测试范围,而不是抹去范围。对可逆的排序工作,适度证据或许就够;对会改变配送的指令,漏掉例外的代价不同。验收边界应跟随助手获准采取的行动,而不是它能接收的最大token数量。
LFM3的发布让这个产品问题变得及时,却没有让答案自动确定。我们没有独立测试这款模型。下一份真正有用的结果,应是边界清晰的陈述:在指定流程、具体文档和有意义的变体中,助手保住了回答所需的关系,或者知道这些关系仍未厘清。与单纯容量相比,这才是更可操作的“有效上下文”定义。
内容仅供参考,不构成投资、法律、税务或财务建议。