[发明专利]一种面向收敛性保障的无监督双向生成自动编码方法及系统有效
申请号: | 202110678193.6 | 申请日: | 2021-06-18 |
公开(公告)号: | CN113298895B | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 钱诗友;华勤;曹健;薛广涛 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06T9/00 | 分类号: | G06T9/00;G06N3/0464;G06N3/08 |
代理公司: | 上海汉声知识产权代理有限公司 31236 | 代理人: | 胡晶 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 收敛性 保障 监督 双向 生成 自动 编码 方法 系统 | ||
本发明提供了一种面向收敛性保障的无监督双向生成自动编码方法及系统,包括:批数据(x,z)通过编码器E和生成器G同时生成编码结果E(x)和生成数据G(z);图像空间数据与隐变量空间数据通过卷积块Fx和Fz,分别对图像空间数据与隐变量空间数据进行信息提取,得到提取后的图像空间数据和提取后的隐变量空间数据根据提取后的图像空间数据和提取后的隐变量空间数据训练判别器D,直至损失函数最小;图像数据利用训练后的编码器E,完成编码过程并生成编码结果,将编码结果输入训练后的生成器G,获得重建图像数据结果,进而完成图像数据的重建工作,实现了图像空间与隐变量空间双向映射过程的整体协同优化,提升表征能力和图像生成能力。
技术领域
本发明涉及编码器技术领域,具体地,涉及一种面向收敛性保障的无监督双向生成自动编码方法及系统,更为具体地,涉及一种面向收敛性保障的无监督双向生成自动编码器。
背景技术
自动编码器(AE)是用于有效编码数据以减少维数的学习算法。近年来,自动编码器已经广泛应用于各种领域,例如图像分类和重建,推荐系统和异常检测等。
当前,关于自动编码器的研究集中在同时提高图像生成和表征的能力。这意味着自动编码器应该学习生成器/解码器和编码器之间的双向映射关系。具体来说,生成器/解码器专注于从隐变量空间到数据空间的映射,而编码器旨在提取从数据空间到隐变量空间的逆映射中的语义相关特征表示。生成对抗网络(GAN)作为最先进的生成模型,具有强大的映射能力,尤其是在泛化方面。因此,基于GAN网络研究自动编码器是一种可行的方法。
一些先前的工作提出了在自动编码器中利用GAN或对抗模型的方法,例如AAE,ALAE和BiGAN。例如,AAE在训练编码器时将GAN框架通用化,并使编码结果的分布接近高斯分布。ALAE利用StyleGAN框架通过从真实图像的样式编码结果中重建图像来训练自动编码器。
然而,这些工作大多存在两个局限性。首先,它们不能在映射和逆映射之间取得良好的折衷。例如,AAE和ALAE通常将训练过程视为单向优化,而不考虑生成器和编码器之间的权衡。其次,在某些双向网络中收敛性无法保证。例如,BiGAN通过区分隐变量空间和数据空间的联合分布来实现映射和逆映射,但收敛性能不好。另外,在BiGAN中没有对表征能力进行优化。
专利文献CN111402179A(申请号:202010169306.5)公开了一种结合对抗自编码器和生成对抗网络的图像合成方法及系统。该方法包括构造包括两组不同类别的编码器、两组不同类别的第一判别器和一组解码器的增强型对抗自动编码器;构造包括生成器和第二判别器的改进后条件式生成对抗网络;将人工分割血管树图像和原始眼底视网膜图像作为训练数据,对结合增强型对抗自动编码器和改进后条件式生成对抗网络进行迭代训练,得到最优血管树图像生成器和最优眼底视网膜图像生成器;基于最优血管树图像生成器和最优眼底视网膜图像生成器对待处理的人工分割血管树图像进行眼底视网膜图像合成,得到合成图像。
本发明提出了Bi-GAE,这是一种基于BiGAN的无监督生成自动编码器。首先,本发明设计了两种方案来权衡映射和逆映射。具体来说,本发明在基于SSIM损失函数的映射中引入了一个引导项,该引导项促使模型遵循人类视觉模式来生成图像。此外,本发明利用嵌入式GAN来计算另外一个引导项,从而增强了逆映射中与语义相关的表征能力。这两种方案的协作增强了隐变量空间和数据空间之间的双向信息扩展,从而提高了Bi-GAE的整体性能。其次,本发明使用Wasserstein距离来保证有效的梯度计算,而嵌入式GAN利用MMD来增强鉴别器接近收敛时Bi-GAE的收敛性。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种面向收敛性保障的无监督双向生成自动编码方法及系统。
根据本发明提供的一种面向收敛性保障的无监督双向生成自动编码方法,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110678193.6/2.html,转载请声明来源钻瓜专利网。