[发明专利]机器学习方法及相关装置在审

专利信息
申请号: 201911190136.2 申请日: 2019-11-28
公开(公告)号: CN111062495A 公开(公告)日: 2020-04-24
发明(设计)人: 程小磊;李晓凯;郭云 申请(专利权)人: 深圳市华尊科技股份有限公司
主分类号: G06N20/10 分类号: G06N20/10;G06N3/08;G06K9/62
代理公司: 广州三环专利商标代理有限公司 44202 代理人: 郝传鑫;熊永强
地址: 518000 广东省深圳市福田*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 机器 学习方法 相关 装置
【说明书】:

本申请实施例公开了一种机器学习方法及相关装置,其中,方法包括:获取训练集和测试集,训练集为无标注数据,测试集为标注数据;将训练集中的所有训练样本通过无监督学习算法映射到嵌入空间,并采用预设聚类算法对所有训练样本进行聚类,得到多个类别,每一类别对应一个伪标签;依据伪标签为训练样本配置多个目标任务;基于多个目标任务运行元学习算法,以对多个类别对应的训练样本进行训练,得到具备目标学习机制的目标神经网络模型;将测试集输入到目标神经网络模型进行训练,得到更新参数;依据更新参数优化目标神经网络模型的模型参数,得到优化后的目标神经网络模型。采用本申请实施例可以提升神经网络模型的性能。

技术领域

本申请涉及机器学习技术领域,具体涉及一种机器学习方法及相关装置。

背景技术

传统的监督学习往往以海量的有标签样本作为训练集,利用深度神经网络进行迭代训练,得到最终模型。随着数据收集和存储技术的飞速发展,收集大量未标记的样本已相当容易,而获取大量有标记的样本则相对较为困难,因为标记这些海量的样本需要耗费大量的人力物力。因此,在有标记样本较少时,如何利用大量的未标记样本来改善学习性能已成为当前机器学习研究中最受关注的问题之一。在此背景下,半监督学习被提出。

半监督学习可以让学习器不依赖外界交互、自动地利用未标记样本来提升学习性能,但是目前传统的半监督学习无法学到先前特征对后续任务的影响,在机器学习各领域的表现并不理想,即目前机器学习效果不佳,因此,如何提升神经网络模型的性能的问题亟待解决。

发明内容

本申请实施例提供了一种机器学习方法及相关装置,可以提升神经网络模型的性能。

第一方面,本申请实施例提供一种机器学习方法,所述方法包括:

获取训练集和测试集,所述训练集为无标注数据,所述测试集为标注数据;

将所述训练集中的所有训练样本通过无监督学习算法映射到嵌入空间;

基于所述嵌入空间,采用预设聚类算法对所述所有训练样本进行聚类,得到多个类别,每一类别包括至少一个所述训练样本,每一类别对应一个伪标签;

依据所述伪标签为所述训练样本配置多个目标任务,每一类所述伪标签对应至少一个所述目标任务;

基于所述多个目标任务运行元学习算法,以对所述多个类别对应的训练样本进行训练,得到具备目标学习机制的目标神经网络模型;

将所述测试集输入到所述目标神经网络模型进行训练,得到更新参数;

依据所述更新参数优化所述目标神经网络模型的模型参数,得到优化后的所述目标神经网络模型。

第二方面,本申请实施例提供了一种机器学习装置,所述装置包括:

第一获取单元,用于获取训练集和测试集,所述训练集为无标注数据,所述测试集为标注数据;

映射单元,用于将所述训练集中的所有训练样本通过无监督学习算法映射到嵌入空间;

聚类单元,用于基于所述嵌入空间,采用预设聚类算法对所述所有训练样本进行聚类,得到多个类别,每一类别包括至少一个所述训练样本,每一类别对应一个伪标签;

配置单元,用于依据所述伪标签为所述训练样本配置多个目标任务,每一类所述伪标签对应至少一个所述目标任务;

训练单元,用于基于所述多个目标任务运行元学习算法,以对所述多个类别对应的训练样本进行训练,得到具备目标学习机制的目标神经网络模型;以及将所述测试集输入到所述目标神经网络模型进行训练,得到更新参数;

优化单元,用于依据所述更新参数优化所述目标神经网络模型的模型参数,得到优化后的所述目标神经网络模型。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市华尊科技股份有限公司,未经深圳市华尊科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911190136.2/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top