在工厂里，一个每小时都预测“设备正常”的模型看起来可以很出色。在我们这一集的模拟里，一个永远说“正常”的模型，按小时算准确率是 99.2%，60 次故障却一次也没报出来。在容易的情况上算出来的准确率，几乎说明不了那一次真正要紧的情况。
不同的方法抓不同的故障
在同一份模拟数据上，一个训练好的分类器抓到了 24 次轴承故障中的 23 次，却只抓到 36 次过热中的 2 次，每台设备每年约有 9.5 次误报；一个只用正常运行数据训练的异常检测器，抓到了全部 36 次过热和 24 次轴承故障中的 10 次，没有误报。两者都不是“最好的模型”，选哪个取决于哪种故障你承受不起漏掉，以及团队能容忍多少误报。我们在第一轮发现并修好了一个错误，两轮结果都保留在讲解里。
医院、工厂和银行问的问题不一样
- 医院按事先定好的方案（ICH E9）和事先定好的性能标准来评估。达到合格线不是比赛，也不能说明一个系统比另一个更好。
- 银行受模型风险指引约束。在美国，SR 26-2（2026 年 4 月）取代了 SR 11-7，涵盖验证、有效质询和模型清单；它是指引，并且不适用于生成式和智能体类 AI。拒绝放贷时还必须给出清楚的理由。
- 工厂要的是操作员会真正处理的预警。在我们自己的仓储项目里，装卸区的作业规范检查不做人脸识别；在一个碳合规项目里，规则库和数据分开存放，规则一改，数字不会悄悄跟着变。
我们也清楚自己的边界：我们没有医院 AI 或银行模型风险方面的项目经验，讲解里也这样说了。在每个行业都通用的是同一个习惯：先想清楚出错的代价，再选模型，并且在真正要紧的情况上做测量。