本文探讨了可解释性AI在工业诊断中的应用现状。工业数据具有非线性高维特性（如多尺度监测信号）和知识表征精度低（只能定性判断故障）的特点。常用方法包括代理模型、注意力机制、规则提取和显著性分析。规则提取关注推断过程中神经元的激活情况，与特征提取有所区别。目前可解释性AI多提供定性结论，难以实现定量诊断。

本文综述了卷积神经网络可解释性研究的现状与发展。文章首先将可解释性方法分为基于网络和基于输入的两大分支，重点介绍了CAM家族、AM算法、多模态分析等典型方法。在评价指标方面，讨论了相似度对比、IoU等量化标准以及人工评价准则。最后指出当前面临的挑战，包括模型复杂性和不透明性等问题。研究为理解神经网络决策过程提供了方法论指导，同时指出了未来改进方向。

本文综述了卷积神经网络可解释性研究的现状与发展。文章首先将可解释性方法分为基于网络和基于输入的两大分支，重点介绍了CAM家族、AM算法、多模态分析等典型方法。在评价指标方面，讨论了相似度对比、IoU等量化标准以及人工评价准则。最后指出当前面临的挑战，包括模型复杂性和不透明性等问题。研究为理解神经网络决策过程提供了方法论指导，同时指出了未来改进方向。