[发明专利]大规模网络表征学习的超参数优化方法和装置有效
申请号: | 201910515890.2 | 申请日: | 2019-06-14 |
公开(公告)号: | CN110322021B | 公开(公告)日: | 2021-03-30 |
发明(设计)人: | 朱文武;涂珂;崔鹏 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 张润 |
地址: | 10008*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 大规模 网络 表征 学习 参数 优化 方法 装置 | ||
本申请提出一种大规模网络表征学习的超参数优化方法和装置,其中,方法包括:对原始网络进行采样,得到多个子网络,根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征,根据高斯过程回归拟合每个子网络的第二图像特征和超参数到最终效果的映射,根据相似度函数对第一图像特征和每个第二图像特征计算,获取原始网络和每个子网络的网络相似度,学习多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参数,以便通过原始网络进行信息识别。该方法学习多个子网络中的超参数和第二图像特征到最终效果的映射,来最优化原始网络的最优超参,能够快速有效的自动化调整原始网络的超参数。
技术领域
本申请涉及网络学习技术领域,尤其涉及一种大规模网络表征学习的超参数优化方法和装置。
背景技术
网络表征学习是一种有效处理网络数据的方式。为了取得良好的效果,网络表征学习通常需要人为仔细的调参。但是,现实网络的大规模给自动机器学习应用于网络表征学习方法带来困难。
发明内容
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
本申请提出一种大规模网络表征学习的超参数优化方法,以解决现有技术中对大规模网络表征学习的超参数进行优化效率较低的技术问题。
本申请一方面实施例提出了大规模网络表征学习的超参数优化方法,包括:
对原始网络进行采样,得到多个子网络;
根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征;
根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射;
根据相似度函数对所述第一图像特征和每个第二图像特征计算,获取所述原始网络和每个子网络的网络相似度;
根据所述原始网络和每个子网络的网络相似度,学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参,以便通过所述原始网络进行信息识别。
本申请实施例的大规模网络表征学习的超参数优化方法,通过对原始网络进行采样,得到多个子网络,根据预设算法提取原始网络的第一图像特征和多个子网络中每个子网络的第二图像特征,根据高斯过程回归拟合多个子网络中每个子网络的第二图像特征和超参数到最终结果的映射,根据相似度函数对第一图像特征和每个第二图像特征计算,获取原始网络和每个子网络的网络相似度,根据所述原始网络和每个子网络的网络相似度,学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成原始网络的最优超参,以便通过原始网络进行信息识别。该方法通过学习多个子网络中的超参数和第二图像特征到最终效果的映射,来最优化原始网络的最优超参,能够快速有效的自动化调整原始网络的超参数。
本申请另一方面实施例提出了一种大规模网络表征学习的超参数优化装置,包括:
采样模块,用于对原始网络进行采样,得到多个子网络;
提取模块,用于根据预设算法提取所述原始网络的第一图像特征和所述多个子网络中每个子网络的第二图像特征;
拟合模块,用于根据高斯过程回归拟合所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射;计算模块,用于根据相似度函数对所述第一图像特征和每个第二图像特征计算,获取所述原始网络和每个子网络的网络相似度;
生成模块,用于根据所述原始网络和每个子网络的网络相似度,学习所述多个子网络中每个子网络的第二图像特征和超参数到最终效果的映射生成所述原始网络的最优超参,以便通过所述原始网络进行信息识别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910515890.2/2.html,转载请声明来源钻瓜专利网。