AI压缩检索证据时,怎样保留会改变结论的条件
上下文压缩需要检验遗漏的依赖关系与冲突证据,不能只看片段的相关性。

企业检索系统可以交出一段高度相关的文字,却没有交出正确使用它所需的信息。某句话单独看足以回答问题,放进后来的修订、另一份文件里的定义或尚未解决的冲突中,就可能不再适用。随着检索系统承担越来越多的筛选工作,决定模型能看到什么,这种差别需要独立的工程处理。
直接的新闻背景是Cohere于2026年10月21日发布Rerank 5,其可选Context Focus功能返回文档中的相关片段。本文讨论的范围超出这款产品,我们没有对它进行独立测试。以下分析关注的是:系统怎样判断选出的上下文足以支持某个具体决定,而不把相关性分数当作充分性的保证。
一段证据可能依赖另一段证据
设想一个假设性的设备维护助手。一份文件介绍校准流程,后来发布的技术通告限定它只适用于较早的硬件版本,零部件登记表则说明现场设备安装了哪个版本。技术人员询问应该采用哪套流程。三份记录各有作用:流程给出操作内容,通告改变适用范围,登记表把条件与具体设备连接起来。
把流程文件排在首位完全可能是合理的。但如果只保留其中最直接回应问题的段落,决策仍然可能缺少条件。关键单位是记录之间的关系。单独比较措辞时,硬件登记表可能没有几份详细流程文件那么像用户的问题;只有检查流程的适用条件时,它的重要性才显现。
这个假设并不证明某个检索器存在缺陷。它说明检索目标与决策目标可能分离:擅长挑出讨论某个主题的文字,还需要额外机制发现结论依赖一个尚未解决的条件。增加返回片段数量或许有用,却不能保证必要的关系已经恢复。
先界定什么叫证据足够
对于范围明确的业务流程,可以先列明回答前必须解决的问题。在上述例子中,包括设备身份、文件适用范围,以及新指令是否取代旧指令。检索随后寻找这些依赖关系的证据,而不只是收集更多关于校准的文字。
这种设计必须与任务相称。查找一个文件标题,不应承受与选择现场操作流程相同的证据负担。如果每次搜索都启动穷尽式依赖检查,系统会变慢,甚至妨碍使用。合理边界取决于答案的后果,以及在已界定任务内,哪些条件确实可能改变答案。
系统也无法对自己无权访问的信息证明完整性。“已检查的记录支持这个答案”与“所有相关记录都已经检查”应当区分。后者要求对文档集合、覆盖范围和版本状态有可信说明。一份不可访问的通告或尚未索引的登记表,不会因为生成的解释很自信就失去相关性。当这种缺口影响结论时,指出未解决的依赖,比给出流畅的最终操作指令更有用。
检验条件变化是否真正改变答案
一种实际评测方法是构造成对案例:保持用户问题与大部分文件不变,只改变一个经过核实的适用条件。一例中流程仍适用,另一例中版本限制使它不适用。评审者检查系统是否找到了改变的证据,以及结论是否因为正确的理由而改变。
也应加入不应影响结论的变化。例如,调整段落顺序、插入看起来相关但不具约束作用的说明,或增加同一流程的副本,都不应自动逆转答案。否则,系统看似对关键条件敏感,实际上可能只是对表面差异敏感。领域评审者需要先确定预期结果,再评价生成答案。
这里有一个历史研究提供的提醒:《Lost in the Middle》最初提交于2023年7月6日,发现证据位置会影响所测试模型与任务的表现。这不是对今天部署系统的结论,而是提示团队测试自身的排序方式,不要假定恢复更长上下文就能解决所有遗漏。
评测还应保留中间证据:哪些文件进入候选集,哪些片段被保留,最终哪些内容交给回答模型。如果关键通告根本没有进入候选集,只修改最后的提示词无法解决整个问题。如果它已经被选中却遭模型忽略,单纯扩大检索覆盖也可能浪费精力。区分这些阶段,才能使修正工作更准确。
为冲突留出上下文空间
另一类重要情况是,两份看起来都适用的记录相互矛盾。选择表述最清楚或重复次数最多的一方,可能把冲突隐藏起来。旧流程的多个副本不应悄悄压过一份具有约束作用的新修订;反过来,看起来更新的文件也不能在缺少适用范围与效力证据时自动优先。
对于后果较重的流程,为未解决冲突及解释它所需的元数据保留空间,是一种有理由的设计选择。简短回答可以说明哪个条件尚未确定,并把两份记录都交给评审者。这可能比只交出精简片段消耗更多上下文,却保留了为什么现在还不能给最终答案的理由。
最初于2023年9月26日提交的Ragas论文把检索、忠实使用上下文和答案质量区分为评测维度。本文进一步提出的判断是,忠实于选中的文字,本身无法证明选择已经充分。完全忠实的回答仍可能继承上游遗漏。前述成对案例是检查这种独立弱点的一种办法,不是已经得到普遍验证的完整评测方法。
让压缩保留可逆的边界
当无关材料占用资源或干扰任务时,缩短上下文仍有合理的商业价值。相应的保护措施可以是有选择地展开:已知依赖无法解决时,在现有权限内检索关联记录、扩大引用片段,或转交评审。系统需要保留足以重新连接原文及版本的标识。
这样,部署问题就不只剩“压缩平均有没有用”,还包括:在哪些任务类别里,系统能够识别自己的证据不足?团队可以检查未解决案例、不必要的转交,以及没有触发提醒就通过的错误。这些结果能够呈现常规回答效率与处理歧义代价之间的取舍。
这种方法不能提供通用的完整性证明。未知依赖和不完整的文档清单仍是限制。但把限制显露出来,会改变压缩的角色:它成为可以调整、可以回到原始记录的证据表示,而不是一次不可逆的筛选,永久决定答案被允许考虑什么。
内容仅供参考,不构成投资、法律、税务或财务建议。