[发明专利]无监督逐层生成对抗特征表示学习方法有效
申请号: | 201811536668.2 | 申请日: | 2018-12-15 |
公开(公告)号: | CN109711442B | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 张婷婷;牛彦杰;崇志宏;周俏;董会 | 申请(专利权)人: | 中国人民解放军陆军工程大学;江苏信物智能信息科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04 |
代理公司: | 南京理工大学专利中心 32203 | 代理人: | 封睿 |
地址: | 210007 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 监督 生成 对抗 特征 表示 学习方法 | ||
本发明公开了一种无监督逐层生成对抗特征表示学习方法,通过2个及以上的生成式对抗网络组成堆积网络,其中第一个生成式对抗网络以多维的随机噪声为输入,其余生成式对抗网络以随机噪声和前一个分支的隐含特征为输入;通过各个生成网络生成对应大小的图像,根据各判别网络的交叉熵,优化各个判别网络,根据判别网络中间层特征的期望值和生成图像之间的相似统计特征,优化整个生成网络;利用优化的SGANs,提取抽象语义特征表示向量,结合散列表示方法,确定图像的散列特征表示。本发明能够生成高层次的抽象语义特征,并且能够更好的学习真实图像的分布。
技术领域
本发明涉及机器学习技术,具体涉及一种无监督逐层生成对抗特征表示学习方法。
背景技术
基于内容的海量图像检索广泛应用于电子商务、医疗诊断以及商标和知识产权领域,通常通过提取的图像特征进行相似匹配,度量内容相似图像。手工提取特征的方式将颜色、纹理、形状、轮廓等作为图像的特征表示,在一定程度上提高了图像检索的准确性。但手工的方式只能提取到图像低层次的颜色、纹理等特征,不能提取到图像高层次的抽象语义特征。特征表示学习能够从图像中自动地抽取对分类、检索或预测对任务有用的特征,如深度神经网络能提取图像从像素级的原始信息到抽象的语义概念信息,自动学习到图像丰富的语义特征。但海量的图像数据中存在大量的无标签的数据,有监督的深度学习方法只能利用少量有标签的图像学习图像的语义特征,容易产生过拟合,泛化能力差。GAN是一种无监督的深度学习模型,能够利用判别网络和生成网络的博弈学习真实图像的分布,但是单个生成网络难以生成多样的且带有足够细节信息的图像。
发明内容
本发明的目的在于提供一种无监督逐层生成对抗特征表示学习方法。
实现本发明目的的技术解决方案为:一种无监督逐层生成对抗特征表示学习方法,包括如下步骤:
步骤1、构建SGANs网络架构:通过2个及以上的生成式对抗网络(GAN)组成堆积网络(SGANs),其中第一个生成式对抗网络以多维的随机噪声为输入,其余生成式对抗网络以随机噪声和前一个分支的隐含特征为输入;
步骤2、进行网络优化:通过各个生成网络生成对应大小的图像,根据各判别网络的交叉熵,优化各个判别网络,根据判别网络中间层特征的期望值和生成图像之间的相似统计特征,优化整个生成网络;
步骤3、进行特征表示:利用优化的SGANs,提取抽象语义特征表示向量,结合散列表示方法,确定图像的散列特征表示。
作为一种优选实施方式,步骤2中,对各个判别网络分别进行优化,优化目标函数为:
式中,表示各判别网络的优化目标,通过最大化进行判别网络优化,xi表示真实图像,表示真实图像分布,表示生成图像,表示生成图像的模型分布,E表示期望,D表示是真实图像的概率。
作为一种优选实施方式,步骤2中,对各个生成网络进行期望值匹配优化和结构一致性优化后,优化整体生成网络,具体方法为:
对各生成网络进行期望值匹配优化,优化目标函数为:
式中,表示各生成网络的期望值匹配优化目标,fi(x)是第i个判别网络中间层的激活函数,E表示期望函数,xi表示真实图像,表示真实图像分布,表示生成图像,表示生成图像的模型分布;
对各生成网络进行结构一致性优化,优化目标函数为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军陆军工程大学;江苏信物智能信息科技有限公司,未经中国人民解放军陆军工程大学;江苏信物智能信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811536668.2/2.html,转载请声明来源钻瓜专利网。