[发明专利]基于Wasserstein距离的卷积神经网络对抗迁移学习方法及其应用在审
申请号: | 201910624662.9 | 申请日: | 2019-07-11 |
公开(公告)号: | CN110414383A | 公开(公告)日: | 2019-11-05 |
发明(设计)人: | 袁烨;周倍同;程骋;李星毅;马贵君 | 申请(专利权)人: | 华中科技大学 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06K9/66;G06N3/04 |
代理公司: | 华中科技大学专利中心 42201 | 代理人: | 曹葆青;李智 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积神经网络 源域 迁移 特征集 故障判断 样本集 对抗 学习 故障诊断能力 标记样本 网络结构 样本数据 多工况 敏感度 目标域 应用性 最大化 最小化 判据 收敛 应用 引入 保证 | ||
1.一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,包括:
步骤1、从源域标记数据集和目标域数据集中,确定源域标记样本集和目标域样本集;
步骤2、采用待迁移的卷积神经网络,得到所述源域标记样本集的源域特征集和源域故障判断集以及所述目标域样本集的目标特征集;
步骤3、以最大化所述源域特征集和所述目标特征集之间的Wasserstein距离并最小化所述Wasserstein距离和所述源域故障判断集的判断损失值的加和为目标,优化所述卷积神经网络的参数,基于收敛判据,重复步骤1,或者,完成卷积神经网络的对抗迁移学习。
2.根据权利要求1所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,所述Wasserstein距离为:
通过采用域相似度评价神经网络,分别将所述源域特征集映射为源域实数集、所述目标特征集映射为目标实数集,并将所述源域实数集的实数平均值减去所述目标实数集的实数平均值计算得到。
3.根据权利要求2所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,所述步骤3包括:
步骤3.1、以增大所述源域特征集和所述目标特征集之间的Wasserstein距离为目标,优化所述域相似度评价神经网络的参数,得到预设迭代次数对应的新的域相似度评价神经网络;
步骤3.2、基于所述源域标记样本集、所述目标域样本集和所述新的域相似度评价神经网络,以减小所述Wasserstein距离和所述卷积神经网络的判断损失值的加和为目标,优化所述卷积神经网络的参数,得到预设迭代次数对应的新的卷积神经网络;
步骤3.3、基于域相似度评价神经网络和卷积神经网络的收敛判据,停止训练,完成所述卷积神经网络的对抗迁移学习,或者,重复步骤1。
4.根据权利要求3任一项所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,所述步骤3.1中,所述Wasserstein距离为基于梯度惩罚的所述源域实数集的实数平均值和所述目标实数集的实数平均值的差值;
所述步骤3.2中,所述Wasserstein距离为所述源域实数集的实数平均值和所述目标实数集的实数平均值的差值。
5.根据权利要求2所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,所述Wasserstein距离表示:
源域子实数集的实数平均值减去目标子实数集的实数平均值;
其中,所述源域子实数集是通过利普希茨约束从所述源域实数集获得,所述目标子实数集是通过所述利普希茨约束从所述目标实数集获得。
6.根据权利要求5所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,所述利普希茨约束具体为一阶利普希茨约束。
7.根据权利要求1至6任一项所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法,其特征在于,当所述目标域样本集中包括部分标记样本时,则所述步骤2为:
采用待迁移学习的卷积神经网络,得到所述源域标记样本集的源域特征集和源域故障判断集以及所述目标域样本集的目标特征集和目标故障判断集;
所述步骤3为:
以最大化所述源域特征集和所述目标特征集之间的Wasserstein距离并最小化所述Wasserstein距离、所述源域故障判断集的判断损失值和所述目标故障判断集的判断损失值的加和为目标,优化所述卷积神经网络的参数,基于收敛判据,重复步骤1,或者,完成卷积神经网络的对抗迁移学习。
8.一种工业过程故障诊断卷积神经网络,其特征在于,采用如权利要求1至7任一项所述的一种基于Wasserstein距离的卷积神经网络对抗迁移学习方法训练得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910624662.9/1.html,转载请声明来源钻瓜专利网。