[发明专利]一种基于改进Transformer模型的水泵设备剩余使用寿命预测方法

说明书

一种基于改进Transformer模型的水泵设备剩余使用寿命预测方法，包括以下步骤：步骤S1采集数据并构建和预处理数据集，步骤S2将数据集按比例划分为训练集和验证集，步骤S3对数据集构建输入向量，并对输入向量进行步骤S4的编码、步骤S5的第一层改进的多头自注意力机制处理和步骤S6的第二层多头注意力机制处理得到输出向量，步骤S7通过非对称损失函数计算输出向量的损失值，步骤S8重复执行步骤S3至步骤S7对模型进行n轮训练，得到最优模型，步骤S9采集实时数据输入模型预测水泵设备的剩余使用寿命；本方法对多头注意力机制作出改进以筛选出重要注意力，提高模型的信息提取能力并减少模型参数，达到更好的预测效果。

技术领域

本发明涉及到一种基于改进Transformer模型的水泵设备剩余使用寿命预测方法。

背景技术

在我国城市化快速发展的背景下，居民用水和工业用水的需求激增，这对供水企业输送稳定的供水提出了更高的要求，因此水泵设备运行的可靠性显得十分重要。对水泵设备的剩余使用寿命进行准确的预测，一方面可以保障供水的稳定性，同时也可以减少水泵设备的维护成本以及能够及时更换即将损坏的水泵设备。

目前对于设备剩余使用寿命的预测方法可以分为基于物理模型、统计模型和人工智能的方法，其中人工智能的方法因其优秀的信息提取和信息表征能力，能够对设备剩余使用寿命实现准确的预测。在人工智能领域，循环神经网络及其变种被广泛使用，但是循环神经网络模型训练的速度较慢，随着输入序列长度的增加，预测能力会明显下降，影响了模型的预测精度。

发明内容

为了克服现有方法在预测水泵设备剩余使用寿命时预测精度不高和预测模型冗余的问题，本发明提出基于改进的Transformer模型来进行水泵设备剩余使用寿命的预测。本模型在注意力机制的基础上做出改进，提出了一种度量标准来筛选出重要注意力。使用筛选出的注意力预测剩余使用寿命，在保证了模型预测精度的同时，减少了模型的参数。

本发明的技术方案如下，一种基于改进Transformer模型的水泵设备剩余使用寿命预测方法，包括以下步骤：

S1、采集不同时刻的传感器测量特征和水泵设备剩余使用寿命组成数据集S，对数据集S进行预处理得到数据集S¹，数据集S表示为{S_i|S_i＝(t，x₁，x₂，...，x_k，r)，1≤i≤n}，其中S_i表示第i个数据，t表示采集时间、x₁，x₂，...，x_k表示第1个至第k个传感器测量特征，r表示剩余使用寿命，k表示传感器测量特征的个数，n为数据集S的大小；

S2、将数据集S¹按比例划分为训练集T和验证集V；

S3、对数据集S¹使用滑动窗口构建输入向量，输入向量为向量F_input和向量F_output；

S4、对向量F_input和向量F_output分别进行编码以得到对应向量和向量

S5、对向量和向量分别进行第一层多头自注意力机制处理后输入到Transformer模型的残差网络和全连接层以得到对应输出向量和向量

S6、将向量和向量同时进行第二层多头注意力机制处理后得到向量然后向量输入到Transformer模型的残差网络和全连接层得到最终的输出结果F_out；

S7、通过非对称损失函数计算输出结果F_out的损失值，输出结果F_out的输入向量来自训练集T时反向传播更新模型参数，F_out的输入向量来自验证集V时记录损失值；