[发明专利]基于跨阶段局部特征融合策略的残差网络模型与模型的训练方法在审
申请号: | 202210382671.3 | 申请日: | 2022-04-13 |
公开(公告)号: | CN114818794A | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 白剑宇;崔乾东;白昊天;文世挺;杨劲秋 | 申请(专利权)人: | 浙大宁波理工学院 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 宁波市鄞州盛飞专利代理事务所(特殊普通合伙) 33243 | 代理人: | 龙洋 |
地址: | 315199 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 阶段 局部 特征 融合 策略 网络 模型 训练 方法 | ||
本发明公开了一种基于跨阶段局部特征融合策略的残差网络模型,涉及网络模型领域,包括残差块,残差块中设置有左运算通道、右运算通道与合并单元,合并单元,用于合并输出的残差左特征向量与残差右特征向量以得到残差特征合并向量;还包括局部残差模块,其包括至少一个局部残差块,所述局部残差块用于对合并向量进行拆分以得到右特征向量与左特征向量,并通过局部残差块中的右侧梯度运算通道对右特征向量进行残差运算,通过局部残差块中的左侧梯度运算通道对左特征向量进行特征运算,本发明通过设置局部残差块增加了网络分支的路径,避免了深度残差网络中加深网络层数使网络参数数目增多,所要求的计算也呈指数型增长的问题。
技术领域
本发明涉及残差网络模型领域,尤其涉及基于跨阶段局部特征融合策略的残差网络模型与模型的训练方法。
背景技术
为了通过所采集来的刀具监测信号对数控机床中刀具磨损的状态实现精准预测,需要建立预测刀具磨损状态的神经网络模型。
与传统机器学习方法相比,卷积神经网络基于深度网络将线性不可分的问题转变为线性可分的问题,可以自适应提取最优特征及建立模型,克服了手动提取特征需要先验经验且步骤繁杂的不足。相对于浅层学习来说,深度网络的网络层数更多,数据分析能力更强。但这并不意味着我们可以无限增加网络层数来提高模型的分类准确率。随着网络的不断加深,网络将会发生退化的现象:网络在训练集上的准确率随着层数的增多而提高,然后趋于饱和平稳。此时如果再增加网络深度,准确率反而减小。所以说,冗余的网络层学习造成了网络退化。在实际研究中,一方面要避免因网络层数过高而导致的网络退化现象,另一方面又想要加深网络,充分利用处理器算力,提高网络性能。对此,何恺明团队提出的深度残差网络(Residual Network,ResNet)使用一条跨跃相邻层的恒等映射来连接网络不同层,模型在训练过程中可以自动选择更新参数的路径,很大程度上消除了网络退化问题,简化了网络训练。虽然该深度残差网络的残差思想,很好地解决了深度网络所存在的退化现象,似乎只要设置更深层数的神经网络,就可以解决上述的难题。然而加深网络层数会使网络参数数目增多,所要求的计算也呈指数型增长,因此,我们不能无限制地增加网络深度来提升网络性能。因此本发明提出了一种基于跨阶段局部特征融合策略的残差网络模型与模型的训练方法,本发明基于跨阶段局部特征融合策略的残差网络模型利用网络分支路径数量比网络的深度和宽度对于性能的提升更为关键的原理对残差网络做了进一步的优化,以精准的预测出刀具的磨损状态。
发明内容
在深度残差网络中,虽然使用一条跨跃相邻层的恒等映射来连接网络不同层,使得模型在训练过程中可以自动选择更新参数的路径,能很大程度上消除网络退化的问题,但是加深网络层数会使网络参数数目增多,所要求的计算也呈指数型增长,因此,本发明基于网络分支路径数量比网络的深度和宽度对于性能的提升更为关键的原理提出了一种基于跨阶段局部特征融合策略的残差网络模型,以解决上述技术问题,从而精准的预测出刀具的磨损状态;
一种基于跨阶段局部特征融合策略的残差网络模型,用于预测数控机床中刀具的磨损状态,包括:
信号输入层,用于输入刀具监测信号;
卷积层,用于对刀具监测信号进行卷积计算以获取信号特征向量;
批归一化层,用于对信号特征向量进行批归一化;
激活层,用于对批归一化后的信号特征向量进行非线性运算,以获取信号激活特征向量;
残差层,其包括残差块,残差块中设置有左运算通道、右运算通道与合并单元,其中,左运算通道用于对信号激活特征向量进行特征运算以得到残差左特征向量并输出;右运算通道用于对信号激活特征向量进行下采样以得到残差右特征向量并输出;合并单元,用于合并输出的残差左特征向量与残差右特征向量以得到残差特征合并向量;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙大宁波理工学院,未经浙大宁波理工学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210382671.3/2.html,转载请声明来源钻瓜专利网。