[发明专利]一种机器学习模型训练方法和装置在审
申请号: | 201810027720.5 | 申请日: | 2018-01-11 |
公开(公告)号: | CN109919317A | 公开(公告)日: | 2019-06-21 |
发明(设计)人: | 吴斌;周峰暐;李震国 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 任务模型 支撑 训练数据 训练特征 机器学习模型 方法和装置 获取目标 记忆模型 输入记忆 数据训练 训练机器 预测结果 更新 学习 | ||
1.一种机器学习模型的训练方法,其特征在于,包括:
获取目标任务训练数据和N类支撑任务训练数据,其中,所述目标任务训练数据和所述N类支撑任务训练数据均为标注数据,所述目标任务训练数据对应目标任务模型,所述N类支撑任务训练数据与N个支撑任务模型一一对应,所述N为正整数;
将所述目标任务训练数据和所述N类支撑任务训练数据输入记忆模型,得到目标任务训练特征数据和N类支撑任务训练特征数据,其中,所述目标任务训练特征数据和所述N类支撑任务训练特征数据均为标注数据,所述目标任务训练特征数据与所述目标任务训练数据对应,所述N类支撑任务训练特征数据与所述N类支撑任务训练数据一一对应;
根据所述目标任务训练特征数据训练所述目标任务模型并得到所述目标任务模型的第一损失,以及根据所述N类支撑任务训练特征数据分别训练各自对应的支撑任务模型并得到所述N个支撑任务模型各自的第二损失;
根据所述第一损失和所述N个支撑任务模型各自的第二损失更新所述记忆模型、所述目标任务模型、所述N个支撑任务模型。
2.根据权利要求1所述方法,其特征在于,所述根据所述第一损失和所述N个支撑任务模型各自的第二损失更新所述记忆模型、所述目标任务模型、所述N个支撑任务模型,包括:
将所述第一损失和所述N个支撑任务模型各自的第二损失进行融合,得到目标损失;
根据所述目标损失更新所述记忆模型的第一参数、所述目标任务模型第二参数、所述N个支撑任务模型各自的第三参数。
3.根据权利要求2所述方法,其特征在于,所述融合为平均或加权平均。
4.根据权利要求1-3任一项所述方法,其特征在于,所述目标任务训练数据包括第一目标任务训练数据和第二目标任务训练数据;
其中,所述将所述目标任务训练数据输入所述记忆模型,得到所述目标任务训练特征数据,包括:
将所述第一目标任务训练数据和所述第二目标任务训练数据输入所述记忆模型,得到第一目标任务训练特征数据和第二目标任务训练特征数据,所述目标任务训练特征数据包括所述第一目标任务训练特征数据和所述第二目标任务训练特征数据,所述第一目标任务训练特征数据对应所述第一目标任务训练数据,所述第二目标任务训练特征数据对应所述第二目标任务训练数据;
所述根据所述目标任务训练特征数据训练所述目标任务模型并得到所述目标任务模型的第一损失,包括:
根据所述第一目标任务训练特征数据训练所述目标任务模型;
根据所述第二目标任务训练特征数据和训练后的所述目标任务模型得到所述目标任务模型的第一损失。
5.根据权利要求4所述方法,其特征在于,所述第二目标任务训练特征数据包括目标任务特征信息和对应的目标任务标签;
其中,根据所述第二目标任务训练特征数据和训练后的所述目标任务模型得到所述目标任务模型的第一损失,包括:
根据所述目标任务特征信息和训练后的所述目标任务模型得到第一测试结果;
根据所述第一测试结果和所述目标任务标签计算所述第一损失。
6.根据权利要求5所述方法,其特征在于,所述第二目标任务训练数据包括多个目标任务测试样本,相应的,所述第二目标任务训练特征数据包括多个目标任务测试特征样本,每一目标任务测试特征样本包括第一目标任务特征信息和对应的第一目标任务标签;
其中,所述根据所述目标任务特征信息和训练后的所述目标任务模型得到第一测试结果,包括:
根据所述多个目标任务测试特征样本各自对应的第一目标任务特征信息和训练后的所述目标任务模型得到所述多个目标任务测试特征样本各自对应的第一测试结果;
所述根据所述第一测试结果和所述目标任务标签计算所述第一损失,包括:
根据所述多个目标任务测试特征样本各自对应的第一测试结果和所述多个目标任务测试特征样本各自对应的第一目标任务标签,计算所述多个目标任务测试特征样本各自对应的损失;
根据所述多个目标任务测试特征样本各自对应的损失计算所述第一损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810027720.5/1.html,转载请声明来源钻瓜专利网。