简
← 全部文章

调查型 AI 必须通过证据独立性测试

引用增多,可能只是重复增多。调查型 AI 需要区分独立证据与同一信息的多个副本。

作者Open Market Notes类型文章
米白背景上,三条黑色实线汇向同一个黑点,另一条独立的红色实线连接独立红点。

分析|2026年10月14日。

TRM 于10月13日推出 Ardence。公告。这次发布向调查型 AI 的采购者提出了一个问题:系统返回多份支持材料时,究竟有多少次独立观察支撑结论?很长的参考资料清单,可能掩盖非常有限的证据基础。我们建议先检验来源之间的依赖关系,再评价最终叙述是否漂亮。

先数观察,再数赞同

设想一个虚构练习。三家商业数据源都从同一条登记记录中转载某公司的地址,第四份报告又引用其中一家。四条搜索结果看似相互印证,实际上却只有一次原始地址观察。如果登记信息已经过时,重复并不能纠正它。

审阅者应追问:每项陈述最初来自哪里,哪些记录复制或加工了它,是否存在独立采集?供应商名称不同,不能回答这些问题。AI 另写一份摘要,也不会增加一次观察。如果上游关系不明,我们建议标注“尚未确认独立性”,而不是默认这些记录彼此独立,或默认它们完全相同。

即使每条引用都能打开,这个区别仍然重要。NIST 的 AI 框架提醒,透明本身不能证明准确。一份可查阅的文件,能够清楚解释系统为何得出某个结论,却未必能为该结论提供充分支持。

把重复变成受控实验

我们建议设计一个来源关系已知的小型合成测试集。先提供一次底层观察,再把相同信息包装成若干格式不同的记录。保持实质证据不变,检查系统表达的置信程度、对各项假设的排序或建议,是否仅因包装数量增加而改变。

然后加入一次真正独立、可能改变判断的观察。理想反应不一定是把置信程度提高一个固定数值:新记录也可能薄弱、矛盾或无关。关键在于,解释是否说清这次新增观察究竟证明了什么,以及哪些不确定性仍未解决。

最后移除整个同源记录组。如果结论依赖这一组,系统就应揭示这种依赖。这是一项敏感性测试,并不是要求每项判断都必须得到多个见证。有些观察本身就可能具有决定性;多份彼此依赖的记录,也仍可帮助追踪信息如何传播。

公平检验另一种解释

美国情报分析标准要求考虑替代假设;该标准不适用于纯粹的执法信息。我们把这一原则作为分析参考,并不将其视为普遍适用的合规要求。

回到虚构的地址例子。在继续搜索之前,先写下两种解释:这些实体由同一经营者控制,或者它们使用了同一个服务地址。再指定一项有权开展、能够区分两者的观察。随后让系统查找这个区分点,而不是继续收集更多地址匹配结果。

测试应认可明确修正判断的表现。如果新证据支持共用服务地址的解释,先前推断就应减弱,并标明哪些结论受到影响。实体匹配、关系假设以及不当行为的证据,应当分栏记录。从一栏走到另一栏,需要论证;一张视觉上很有说服力的关系网络图,不能代替这一步。

保留已知事实的边界

一份有用的审阅记录,应展示拟议结论、彼此独立的观察组、尚未厘清的依赖关系、最有力的竞争性解释,以及下一项能够区分解释的问题。它还应说明哪些内容未经核查。“没有返回结果”必须附带搜索范围和时间窗口,才有可能被解释为有意义的缺失。

这些是我们提出的评估练习,并非 Ardence 的实测结果,也不是对其设计的指控。我们没有独立测试该产品。采购者要问的是:证据尚无定论时,系统能否保留调查的开放性;真正提供新信息的证据出现时,它能否缩小调查范围。检索到更多材料,只有在团队能够说明究竟新知道了什么,或者承认并未获得新认识时,才有实际价值。

内容仅供参考,不构成投资、法律、税务或财务建议。