核心做法不是关掉自动评分,而是把评分降级为排序信号,把决定权留给一组可核对的证据。具体说,先为每个待判项目建立“自动分+人工证据”双栏,再规定哪些证据必须由人填写,最后用抽查和回退机制验证人工判断没有被评分悄悄替代。
自动评分替代人工判断,通常不是一次性发生的,而是分三步渗透:先用分数决定优先级,再用分数决定是否处理,最后用分数直接决定结论。你要做的是找出当前流程停在哪一步。
取你手上正在处理的一批外链项目,按下面的方式各抽十条做对照:
如果两份名单高度重合,说明评分与人工标准接近,风险较低;如果出现明显错位,尤其是有项目分数高但人工判断为无关或低质,那问题就出在“分数直接决定结论”这一步。这个对照结果决定你下一步是调整评分口径,还是重建人工环节。
“人工看一眼”之所以容易被评分替代,是因为它没有留下可核对的痕迹。要防止替代,必须把人工判断拆成具体、可复核的证据项,并规定每项由人填写。
以外链项目为例,可以要求人工至少填写以下三类证据:
关键动作是:自动分只用于决定处理顺序,不进入结论栏;结论栏必须由人工证据项填写后才能生成。这样评分再高,也不能跳过人工证据直接给出“可用”结论。
即使流程上保留了人工步骤,实际操作中也可能退化为“看到分数就照抄结论”。验证方法是做反向抽查:从自动分最低的一批里随机抽取若干项目,要求人工独立判断,并记录判断理由。
假设你抽了二十个低分项目,人工判断其中有三个具备实际价值。这时不要立刻推翻评分,而是先核对这三个项目的证据项是否完整、理由是否具体。如果理由成立,说明评分遗漏了某些人工可识别的信号,需要把这类信号补充进证据项;如果理由空泛,说明人工环节本身在走过场,需要加强证据填写要求。
这个动作的结果会直接影响下一步:是修正评分口径,还是收紧人工证据标准。两种处理方向不同,不能混在一起。
防止替代最有效的方式,是把人工证据设为流程的前置条件,而不是事后补充。具体可以这样设置:
需要说明的是,这种设置会增加单条处理时间。如果项目量很大,可以按风险分层:高风险或边界模糊的项目必须完整填写证据,低风险项目可以简化,但简化标准要事先写明,不能由评分临时决定。适用条件是:你已经有明确的证据项定义,否则前置条件只会变成形式化填空。
当你发现自动评分与人工判断不一致时,不要默认其中一方正确。常见情况有三种,需要用不同证据区分:
区分方法是:先看偏差是系统性的还是零散的。系统性偏差优先检查评分口径;零散分歧优先统一人工标准;证据缺失则先补数据再判断。把这个区分做在前面,可以避免用调整评分的方式去解决人工标准问题,或者反过来。
最后回到你手上的资料:先完成一次自动分与人工判断的对照,标出错位项目,再决定是修评分口径还是收紧人工证据。这个动作的结果,会决定你接下来是把评分当排序工具,还是继续让它替你下结论。