起重机AI报警了却说不清为什么，工业部署怎么破

一台天车的AI监控系统弹出告警：起升电机有异常温升趋势。但运维师傅一看，温升远没到阈值，电流也正常。师傅的第一反应是”这AI又在误报”，于是把告警关掉了。

三天后，电机真的过热报警。事后调数据发现，AI其实三天前就抓到了电流和振动的组合异常，只是它说不清”为什么”，没人信它。

这就是工业AI最尴尬的一环：模型能预警，但解释不了预警的依据，预警就等于没有。下面拆开讲这个”信任危机”怎么破。

一个说不清的报警：AI报了警但没人信

这个案例的典型性在于，它不是算法不准，而是算法说不清。AI确实抓到了早期异常，但它的判断依据藏在模型的参数里，运维人员看不到，只能看到一个”无来由”的告警。

工业场景和互联网不一样。互联网上AI推荐错了，用户划走就行；工业上AI报警错了或说不清，轻则被无视，重则误导操作。可解释性在工业里不是加分项，是AI能不能被信任、能不能落地的门槛。

报警没人信，根子在于AI的输出是”结论”而不是”结论加依据”。要让AI被信任，得让每一次报警都能回答”你为什么这么说”。

排查逻辑链：怎么追查AI报警背后的依据

面对一个说不清的AI报警，追查逻辑要回到数据本身。第一步，调出报警时刻的原始数据，看是哪个或哪几个参数触发了模型。

第二步，用特征归因把报警的贡献拆到参数上。SHAP这类归因方法能算出每个参数对这次报警贡献了多少，指出”主要是振动和电流的组合偏离，而不是温升”，ISO 24621《起重机AI故障诊断》要求诊断依据可留痕。

第三步，用规则对照做交叉印证。把AI的报警和阈值、经验规则对照，看AI抓到的异常能不能落到某条可解释的规则上，比如”电流波动加振动升高，常见于轴承早期磨损”。

这条逻辑链走下来，报警就从”无来由”变成了”有依据”。克鲁德重工在AI报警系统里，会把特征归因和规则对照作为报警的标配输出。

可解释性的几种解法：特征归因规则对照人机协同

第一种解法，特征归因。用SHAP、LIME这类工具，把每一次报警的贡献拆到具体参数上，让报警带上”主要原因是哪个参数”的说明。这是让黑盒变灰盒最直接的一步。

第二种解法，规则对照。让AI报警的同时，自动对照阈值和专家规则，给出”这个异常对应哪条已知规则”的印证。规则是可解释的，AI的报警落到规则上，人就看得懂了。

第三种解法，人机协同。把AI的定位从”自动决策”改成”带依据的建议”，最终判断和处理仍然由人拍板。AI给出报警、依据、建议，人做决策，这既保留AI的早期预警能力，又守住可解释和可担责的底线。克鲁德重工把三种解法按报警的严重程度分档，高危报警强制走人机协同。

从单个报警到可解释体系的推广

单个报警可解释还不够，要把它推广成一套体系。第一步，把特征归因和规则对照做成报警的标准输出，每一次报警都自动附带依据。

第二步，把报警和依据一起留痕。运维人员看到报警能追溯到依据，事后复盘能查到当时为什么报警，报警就有了可审计性，GB/T 28264-2017《起重机械安全监控管理系统》对运行数据留痕有要求。

第三步，用留痕数据反向优化。积累的报警和真实处理结果，反过来训练模型更好地解释自己，形成正向循环。克鲁德重工把”报警带依据、依据可追溯”作为AI报警系统的基本要求。

可解释性解法与适用场景对照

可解释性相关标准条款速查

关于AI可解释性的常见问题

可解释性的落地基础是AI诊断本身，故障诊断的思路可以参照《设备健康管理PHM：大数据与ML驱动的天车预测维护工程实践》里的做法。

AI报警被信任的前提是说得清为什么。克鲁德重工把特征归因和规则对照做成报警标配，让每一次预警都带依据、可追溯，把黑盒变成能被运维人员采纳的建议。