[发明专利]一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法在审
申请号: | 202110987515.5 | 申请日: | 2021-08-26 |
公开(公告)号: | CN113705661A | 公开(公告)日: | 2021-11-26 |
发明(设计)人: | 刘凯;柏建军;张日东 | 申请(专利权)人: | 杭州电子科技大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 杭州浙科专利事务所(普通合伙) 33213 | 代理人: | 孙孟辉 |
地址: | 310018 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 混合 深度 收缩 网络 xgboost 算法 工业 过程 性能 评估 方法 | ||
1.一种混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,包括如下步骤:
步骤1:以频率fs采集工业过程系统变量的运行数据,建立一个含有多变量,多类型故障的数据集,并对其进行数据预处理,在此基础上对故障类型进行编号打标签,设置对应的关系,之后对故障类型和标签划分相应的训练集和测试集;
步骤2:将训练集输入到由多个残差收缩子块组成的网络中进行特征的初步提取;
步骤3:FC层通过权值矩阵将提取的深层特征进行融合,经Dropout层后,输入到softmax层,并将输出结果与真实标签的交叉熵作为损失函数;
步骤4:利用Nadam优化器沿梯度下降方向反向传播更新整个模型的参数,并优化交叉熵损失函数;
步骤5:将模型性能最好时所提取到的特征输入到XGBoost分类器中拟合提升树;
步骤6:故障诊断。
2.根据权利要求1所述的混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,步骤1包括如下具体步骤:
步骤1.1:数据预处理:对数据集进行离差标准化处理,对采集的原始信号数据集进行线性变化,使数据样本落在[0,1]区间,转换函数如下:
式中xi表示样本数据;xj表示原始数据;min{·}表示原始数据中的最小值,max{·}表示原始数据中的最大值。
步骤1.2:故障样本打标签:对数据集进行one-hot编码,使用N位状态寄存器来对N个故障进行编码,每个故障都有各自独立的寄存器位,且在任意时刻,只有其中一位有效。
3.根据权利要求2所述的混合深度残差收缩网络与XGBoost算法的工业过程性能评估方法,其特征在于,步骤2的每个残差收缩子块由两层卷积网络(CNN)以及软阈值化操作模块所组成;两层CNN将提取到特征的绝对值输入到全局平均池化层(GAP)中,输出特征的一维向量,并经过两层FC网络后得到每个通道的收缩参数,通过应用sigmoid函数来归一化收缩参数并与GAP的输出相乘得到每个通道的阈值;最后,通过得到的阈值去除所提取特征中的无用信息,保留有用的信息并输出特征;两层CNN以及软阈值化模块中的FC层使用relu非线性激活函数和批归一化操作来提高网络的性能;
步骤2.1:卷积网络的卷积运算,如下式所示:
x[l]=f(W[l]*x[l-1]+b[l]) (2)
式中x[l]表示第l层的输出,l∈[1,2,…,n],W[l]表示第l层卷积核,“*”表示卷积运算,b[l]表示第l层对应的偏置,f(·)表示激活函数;
步骤2.2:BN层对输入数据进行批归一化操作,使得输出数据的均值0,方差为1,相关操作如下:
式中表示经BN层计算后的输出;yi表示输入的特征值;E表示输入特征值的均值;D表示输入特征值得方差;γ和β表示模型中需要训练的参数;
步骤2.3:GAP将上层神经元簇的平局值作为池化操作后的值,具体为
式中u和v表示池的大小,Yp表示池化操作的输出,i,j表示神经元;
relu激活函数的一阶导数为0或1,函数表达为:
f(x)=max(0,x) (6)
软阈值化操作对的具体实现为:
输入到输出的导数为
式中x和y分别是输入和输出特征,τ是一个正数阈值,且不能大于输入数据中的最大值;
步骤2.4:在FC网络之后应用sigmoid函数,将缩放参数收缩到(0,1)的范围内,计算如下
式中zc表示FC网络中第c个神经元的输出特征,αc表示归一化后的缩放参数,将上式乘以GAP输出的一维向量的绝对值就得到相应的阈值,具体如下:
式中τc表示第c个通道的阈值,m,n和c分别表示特征图的宽度、高度以及通道索引。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州电子科技大学,未经杭州电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110987515.5/1.html,转载请声明来源钻瓜专利网。