[发明专利]一种基于表示学习和迁移学习的领域适配方法在审
| 申请号: | 201911084862.6 | 申请日: | 2019-11-08 |
| 公开(公告)号: | CN110837865A | 公开(公告)日: | 2020-02-25 |
| 发明(设计)人: | 李佳珍;袁晓光;王泊涵;戴志明;李墈婧;韩涛;谢德鹏 | 申请(专利权)人: | 北京计算机技术及应用研究所 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/46;G06N3/04;G06N3/08 |
| 代理公司: | 中国兵器工业集团公司专利中心 11011 | 代理人: | 王雪芬 |
| 地址: | 100854*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 表示 学习 迁移 领域 配方 | ||
1.一种基于表示学习和迁移学习的领域适配方法,其特征在于,包括以下步骤:
步骤一、针对源域和目标域的数据,通过CNN模型的卷积池化提取源域特征和目标域特征;其中源域的数据是训练集中的传感器的数据,目标域的数据是测试集中传感器的数据;
步骤二、针对源域特征和源域真实标签,通过Center Loss与Softmax Loss联合损失函数获得可分离的源域特征;
步骤三、通过MMD Loss拉近经步骤二处理后的源域特征,与目标域特征分布的距离。
2.如权利要求1所述的方法,其特征在于,步骤一中,采用深度学习网络CNN中的卷积层和池化层分别提取源域的数据特征和目标域的数据特征。
3.如权利要求1所述的方法,其特征在于,步骤一中,源域的数据通过卷积的操作提取特征,每层卷积层包括50个卷积核,每个卷积核大小是5*1,然后对数据进行池化操作,池化层是进行最大池化的操作,池化选用3*1的最大池化,池化操作后得出的是源域的数据特征;目标域的数据通过卷积的操作提取特征,每层卷积层包括50个卷积核,每个卷积核大小是5*1,然后对数据进行池化操作,池化层是进行最大池化的操作,池化选用3*1的最大池化,池化操作后得出的是目标域的数据特征。
4.如权利要求3所述的方法,其特征在于,步骤二中,Center Loss是每个特征分类中心的定义,使得同一种分类的CNN特征类别尽可能地靠近每一种分类的分类中心,不同种分类的分类特征远离于分类中心,用公式(1)中表示每个分类的特征矩阵到每个分类中心的距离,其中yi表示的是数据分类,即i用于标识类别,其中Cyi表示每个数据分类的中心,χi为每个数据的特征矩阵,m为训练模型是每次梯度更新的样本数目,根据公式(1)中则训练神经网络时更新的梯度为χi-Cyi,如公式(2)所示;
所建立的联合损失函数如公式(3)所示,其中λ是调节Softmax Loss与Center Loss的损失的比例,λ∈(0,1),公式(3)中,表示的是Softmax Loss的损失,表示的是CenterLoss的损失,即每个分类的特征矩阵到每个分类中心的距离;
5.如权利要求4所述的方法,其特征在于,步骤三中利用最大均值差异MMD来衡量源域和目标域的分布差异,并通过定义MMD Loss损失函数拉近源域特征和目标域特征。
6.如权利要求5所述的方法,其特征在于,步骤三中,求解源域数据和目标域数据之间的距离,即MMD的值:
其中,Εp[f(x)]代表在源域数据的期望值,Εq[f(y)]代表在目标域数据的期望值,公式(4)中的f表示再生核希尔伯特空间中的点,表示的是f的集合,公式(4)中,p代表了源域,q代表了目标域,公式(4)中x代表源域数据,y代表目标域数据,sup函数表示将两个领域的数据特征映射到一个再生核希尔伯特空间的函数方法。
7.如权利要求6所述的方法,其特征在于,步骤三中,还定义用于拉近源域特征和目标域特征的分布距离的MMD Loss损失函数如公式(5)所示,公式(5)是对公式(4)中所求的MMD的值进行平方再乘以得到的MMD Loss损失函数:
公式(5)中,MMD代表公式4所求得的MMD值。
8.如权利要求7所述的方法,其特征在于,步骤三中,最后还通过降低MMD Loss损失函数的值拉近源域特征和目标域特征的分布距离。
9.如权利要求3所述的方法,其特征在于,步骤一中,卷积网络中卷积层提取特征依赖的特性包括局部连接、权值共享,在卷积神经网络中使用一个局部区域,用这个局部区域去扫描整个的矩阵数据,局部区域所圈起来的所有节点被连接到下一层的一个节点上。
10.如权利要求3所述的方法,其特征在于,步骤一中,采用Python作为开发语言,在Tensorflow框架的基础上构建CNN的卷积和池化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京计算机技术及应用研究所,未经北京计算机技术及应用研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911084862.6/1.html,转载请声明来源钻瓜专利网。





