[发明专利]基于多粒度正则化重平衡增量学习的故障诊断方法及装置

说明书

本发明公开了一种基于多粒度正则化重平衡增量学习的故障诊断方法及装置，方法包括：构建带有多粒度信息的连续标签，并利用KL散度损失进行优化；通过特征提取层获取新旧类别的特征表示向量，通过知识蒸馏约束当前模型的决策输出与增量学习前模型的输出分布相同，基于多粒度正则化项，对于样本数目多的新类别施加相对低的权重，平衡新故障类别与旧故障类别梯度更新的差距，减轻类别不均衡性；采取两阶段训练策略，使用当前能够获取到的数据进行第一阶段训练，更新特征提取层，在第二阶段训练时与特征提取层解耦，即冻结特征提取层的参数，采用重采样的平衡训练子集重新训练分类器。装置包括：处理器和存储器。本发明提高故障诊断模型的持续学习能力，进而提高了对器件的故障识别能力。

技术领域

本发明涉及机器学习的智能故障诊断领域，尤其涉及一种基于多粒度正则化重平衡增量学习的故障诊断方法及装置。

背景技术

随着当代科技的飞速发展，大型装备不断推陈出新，在交通、能源、电力和航空航天等各领域中得到了广泛的使用，其安全稳定、可靠高效的运行与国家发展、国防建设息息相关。同时，随着运行时间的推移，重大装备不可避免的会发生故障，导致灾难性事故时有发生；而大型设备的复杂性和精密性导致其故障难以通过简单的探测手段检出。因此，如何设计面向大型设备智能故障诊断研究成为了工业智能化所面临的一个亟需解决的问题。

现有智能化故障诊断方法通过收集装备不同时刻的传感器信息，基于所整理的数据设计深度神经网络训练后进行部署，针对新收集的传感器数据进行预测以判断设备当前属于正常状态或是某个故障状态。这种方法虽然能够达到不错的性能，但是智能故障诊断模型一旦部署将无法更新。通常地，装备的故障类型随着使用年限的增长会逐渐发生变化，之前未发生过的故障会接踵而至。现有方法由于仅能识别学习过的旧类型故障，因此难以进行实际使用。

增量学习是使得模型进行更新以掌握新任务的一种方式，即模型在先前任务的基础上学习新任务，达到同时处理新旧任务的能力。一般地，增量学习模型在学习大量新任务数据的同时，可保留少部分旧任务代表性数据进行旧任务的知识保存。但是，由于新任务的数据量远高于旧任务，造成了深度神经网络模型在学习新任务时对旧任务相关的重要参数的改变，导致其对新旧任务的识别产生了严重偏差，即参数偏向于学习新任务，使得旧任务的识别能力大大下降。

针对此问题，现有方法设计了一些偏差纠正的方法，添加线性纠正层、对新旧类别的输出余弦归一化等，但它们在很大程度上依赖于新旧类之间的偏差关系的假设。在实际应用中，这种假设很难成立，因此会损害模型的性能，并且难以适应复杂的实际应用场景。因此，如何解决增量学习中对旧任务的遗忘问题，是智能化故障诊断模型能否有效大规模应用的关键。

发明内容

本发明提供了一种基于多粒度正则化重平衡增量学习的故障诊断方法及装置，本发明考虑到故障诊断任务增量学习中新旧类型故障的偏差分布难以获得先验假设的问题，设计了一种基于多粒度正则化重平衡方法，约束模型能同时学习平衡的数据分布以及不同故障类别之间的相关性，使得模型在准确学习识别新故障时减少对已学习旧类别故障的知识遗忘，从而提高故障诊断模型的持续学习能力，进而提高对大型装备的故障识别能力，大幅度增加设备的安全性，降低故障率，详见下文描述：

第一方面，一种基于多粒度正则化重平衡增量学习的故障诊断方法，所述方法包括：

对划分后的数据集进行类别词向量表示，获取其语义标签所对应的词向量，使用K-means算法进行聚类获取一个两层的多粒度结构；构建带有多粒度信息的连续标签，并利用KL散度损失进行优化；

通过特征提取层获取新旧类别的特征表示向量，通过知识蒸馏约束当前模型的决策输出与增量学习前模型的输出分布相同，基于多粒度正则化项，对于样本数目多的新故障类别施加相对低的权重，平衡新故障类别与旧故障类别梯度更新的差距，减轻类别不均衡性；