[发明专利]推荐模型的训练方法、装置、计算设备及介质在审
申请号: | 202210130108.7 | 申请日: | 2022-02-11 |
公开(公告)号: | CN114548401A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 罗凡;许盛辉;潘照明 | 申请(专利权)人: | 网易传媒科技(北京)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06Q30/06;G06F16/9535 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 董晓盈 |
地址: | 100193 北京市海淀区西北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 推荐 模型 训练 方法 装置 计算 设备 介质 | ||
本公开的实施方式提供了一种推荐模型的训练方法、装置、计算设备及介质。获取样本对象的样本特征信息以及样本推荐得分,通过初始推荐模型,分别确定各个样本对象在各个预测目标下的第一推荐得分和第二推荐得分,以基于样本推荐得分、第一推荐得分和第二推荐得分,训练初始推荐模型。目标任务网络所包括的隐层的数量不超过第一设定阈值,和/或,目标任务网络中各个隐层所包括的神经元数量不超过第二设定阈值,以使目标任务网络的网络参数较少,在可以通过多个初始任务网络保证多个预测目标之间的冲突较少的基础上,目标任务网络可以更好地学习不同任务目标之间的共有知识,进而可以提高训练得到的网络参数的准确性,提高推荐模型的排序准确性。
技术领域
本公开的实施方式涉及深度学习技术领域,更具体地,本公开的实施方式涉及一种推荐模型的训练方法、装置、计算设备及介质。
背景技术
本部分旨在为权利要求书中陈述的本公开的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
推荐算法作为一种能够深度挖掘用户的需求,从而可以针对性地为用户进行内容推荐的算法,在涉及到内容推荐的过程中得到了广泛的应用。一般而言,推荐算法主要分为2个阶段的处理过程,其中,第一个阶段是召回,也即是从全量的待推荐对象中选出几百到几千个候选对象;第二个阶段是排序,也即是通过排序模型,从上述几百到几千个候选对象中选出几个到几十个目标对象,并对这几个到几十个目标对象进行排序。
相关技术中,排序模型一般采用基于深度神经网络的多门控混合专家网络模型(Multi Gate Mixture of Experts,MMoE)。
但是,MMoE模型会通过增加网络参数,来减少多个任务目标之间的冲突。而由于网络参数的增加,可能会带来网络的过参数化,使得MMoE模型无法有效学习不同任务目标之间的共有知识,从而使得调整后的网络参数的准确性较低,进而使得排序准确性较低。
发明内容
鉴于相关技术中模型训练效果较差,训练得到的网络参数的准确性较低,从而使得推荐模型的排序准确性较低的问题,本公开的实施方式至少提供一种推荐模型的训练方法、装置、计算设备及介质。
在本公开实施方式的第一方面中,提供了一种推荐模型的训练方法,该方法包括:
获取多个样本对象的样本特征信息以及各个样本对象所对应的样本推荐得分;
将各个样本对象所对应的样本特征信息分别输入初始推荐模型的多个初始特征提取网络,得到各个初始特征提取网络输出的多个样本第一特征;
基于各个初始特征提取网络输出的多个样本第一特征,通过初始推荐模型的目标任务网络,确定各个样本对象在各个预测目标下的第一推荐得分,并基于多个样本第一特征,通过初始推荐模型的多个初始任务网络,确定各个样本对象在各个预测目标下的第二推荐得分;其中,目标任务网络所包括的隐层的数量不超过第一设定阈值,和/或,目标任务网络中各个隐层所包括的神经元数量不超过第二设定阈值;
基于各个样本对象所对应的样本推荐得分、第一推荐得分和第二推荐得分,训练初始推荐模型。
在本公开的一个实施例中,基于多个初始特征提取网络输出的多个样本第一特征,通过初始推荐模型的目标任务网络,确定各个样本对象在各个预测目标下的第一推荐得分,包括:
对于任一样本对象,确定样本对象所对应的多个样本第一特征的均值特征;
将均值特征输入目标任务网络,得到样本对象在各个预测目标下的第一推荐得分。
在本公开的一个实施例中,将均值特征输入目标任务网络,得到样本对象在各个预测目标下的第一推荐得分,包括:
将均值特征输入目标任务网络,通过目标任务网络所包括的隐层对均值特征进行处理,得到样本对象在各个预测目标下的第一推荐得分。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易传媒科技(北京)有限公司,未经网易传媒科技(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210130108.7/2.html,转载请声明来源钻瓜专利网。