反诈AI需要一份注意力预算

Gemma反诈功能仍待推出。 下一阶段值得追问的是：保护系统要求用户投入多少注意力，又能带来什么回报。下文是我们提出的评估框架，并非模型实测结果。

先看分母

假设一项测试包含10,000段对话，其中100段属于诈骗。若检测器识别出90%的诈骗，同时误报1%的正常对话，就会产生90次正确警报和99次误报。在全部189次警报中，真正识别诈骗的比例约为47.6%，另有10段诈骗对话漏过检测。

这些数字仅用于演示，不代表Gemma或任何已部署服务的表现。它们说明，识别率较高，本身并不能告诉用户一条警报有多可信。测试人群中的诈骗占比同样重要。已经被用户怀疑的消息集合与日常收件箱，即使使用错误率相同的检测器，也可能产生截然不同的体验。

由此产生的是注意力预算。每次不必要的打断都会消耗时间，也可能让下一次警报更容易被忽略。反过来，过度压低警报数量，又可能让危险对话得不到质疑。可信的评估需要同时展示两种代价，而不是挑选更好看的指标。

拆开不同决策

现有ScamShield文档提供了一个独立参照。其查询功能无需开启电话拦截或短信过滤权限；其上报说明称，高概率诈骗或垃圾、推广内容对应的发送者会被自动上报。这些文档描述的是现有ScamShield功能，不能据此认定其他模型集成的实现方式。

由此可提出一个分析原则：检查、警告、上报和拦截，应有各自的决策规则。用户或许愿意收到私下的暂停提示，但在信息被提交、或某个发送者无法再联系自己之前，希望看到更清楚的解释。将所有步骤合并为一个保护开关，会使效果评估和授权含义都更难辨认。

因此，产品测试应分别回答四个问题：检查了什么，展示了什么，哪些信息离开了设备，以及什么操作改变了对话状态。每个答案都需要独立记录。警报总数无法同时回答这四个问题。

衡量干预本身

第一组有用的指标，应在明确分母后，列出正确警报、误报和漏报。结果还应按语言和场景拆分；样本较小时，应展示不确定性。评估者也要说明，一段长对话何时算作一个事件，避免重复提示抬高表面上的保护效果。

第二组指标应跟踪警报之后发生了什么：用户是否理解提示？是否暂停足够长的时间，以便独立核实？能否关闭错误警报，继续正常交流？这些是建议的测试问题，并非已公布的功能，也不是对该模型已知缺陷的描述。

尤其需要区分的是，识别出诈骗与避免损失属于不同结果。要把避免的损失归因于某项功能，需要证明如果没有干预，本来会发生什么。仅靠警报数量无法构建这个反事实。设备没有发出警报，也不应被解释为所有对话都安全。

让证据收集保持适度

效果评估不必以收集所有私人对话为前提。范围明确的测试，可以结合经同意审查的样本、清楚标注的合成场景，以及保护隐私的汇总指标。同时必须保留其局限：单靠实验室测试，不能证明真实世界中的损失已经减少。

近期更值得观察的节点，是一份说明干预如何值得用户付出注意力的公开报告：适用人群、错误之间的取舍、行动边界，以及衡量收益的方法。这样的证据，会让下一次部署公告比单纯增加消息扫描数量更有信息价值。