[发明专利]基于深度流形变换网络的高维数据处理方法在审
申请号: | 202110315106.0 | 申请日: | 2021-03-24 |
公开(公告)号: | CN113011508A | 公开(公告)日: | 2021-06-22 |
发明(设计)人: | 李子青;吴立荣;臧泽林 | 申请(专利权)人: | 西湖大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 无锡市汇诚永信专利代理事务所(普通合伙) 32260 | 代理人: | 李珍珍 |
地址: | 310024 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 流形 变换 网络 数据处理 方法 | ||
1.一种深度流形变换网络,包括一自动编码器,其特征在于,自动编码器被配置成:包括编码器网络和解码器网络,编码器网络和解码器分别包括多个密集块层,
在编码器网络中通过多个密集块层的第一非线性变换将输入空间的维度降低到隐空间,再通过多个密集块层的第二非线性变换将隐空间的维度降低到嵌入空间,在解码器网络中通过多个密集块层的第三非线性变换将隐空间的维度恢复到重建空间;
基于输入空间和重建空间计算重建损失,将重建损失加到密集块层中;
在输入空间和隐空间之间和/或隐空间和嵌入空间和/或输入空间和嵌入空间之间施加双向散度损失。
2.根据权利要求1所述的深度流形变换网络,其特征在于,所述步骤还包括:
分别获取输入空间、隐空间、嵌入空间的其中任意两个空间层的样本点对,将所述样本点对之间的欧氏距离通过t-分布转化为相似度;
基于每一样本点对的相似度生成结构保持损失以及结构改变损失,通过线性加权和法计算得到双向散度损失,其中,结构保持损失表示用于保持每一样本点与其邻近样本点的距离,结构改变损失表示用于拉开每一样本点与其远邻样本点的距离。
3.根据权利要求2所述的深度流形变换网络,其特征在于,
将l层的样本点对i与j之间的欧式距离通过t-分布公式转化为相似度
将l′层的样本点对i与j之间的欧式距离通过t-分布公式转化为相似度
获取所有样本点对计算得到和带入下式,得到双向散度损失
其中,L表示双向散度损失,N表示样本点对个数,表示l层相似度,表示结构保持损失,表示结构改变损失。
4.一种基于深度流形变换网络的高维数据处理方法,其特征在于,包括:
获取输入空间;
将输入空间的维度通过第一非线性变换降低到隐空间,将隐空间的维度通过第二非线性变换降低到嵌入空间;
在输入空间与隐空间之间施加双向散度损失,和/或在隐空间与嵌入空间之间施加双向散度损失,和/或在输入空间与嵌入空间之间施加双向散度损失,使第一非线性变换、第二非线性变换保持结构不变;
在隐空间中对输入空间的数据进行聚类,在嵌入空间中可视化降维后的数据。
5.根据权利要求4所述的基于深度流形变换网络的高维数据处理方法,其特征在于,包括:在隐空间中通过优化交叉熵的函数对输入空间中的数据进行分类。
6.根据权利要求4所述的基于深度流形变换网络的高维数据处理方法,其特征在于,包括:在隐空间中通过均方误差的函数对输入空间中的数据进行回归。
7.根据权利要求4所述的基于深度流形变换网络的高维数据处理方法,其特征在于,包括:在嵌入空间中,将降维得到的数据点绘制在坐标系中,实现数据的可视化。
8.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行权利要求4至7中任一项所述的基于深度流形变换网络的高维数据处理方法。
9.一种存储介质,其特征在于,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行权利要求4至7中任一项所述的基于深度流形变换网络的高维数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西湖大学,未经西湖大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110315106.0/1.html,转载请声明来源钻瓜专利网。