[发明专利]一种数据处理方法及相关装置在审
| 申请号: | 202211214436.1 | 申请日: | 2022-09-30 |
| 公开(公告)号: | CN115618950A | 公开(公告)日: | 2023-01-17 |
| 发明(设计)人: | 郭威;张恒煜;郭慧丰;唐睿明 | 申请(专利权)人: | 华为技术有限公司 |
| 主分类号: | G06N5/04 | 分类号: | G06N5/04;G06N3/0455;G06N3/0464;G06N3/084;G06N20/00 |
| 代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 万欣慰 |
| 地址: | 518129 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据处理 方法 相关 装置 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取用户的第一日志数据以及第二日志数据;所述第一日志数据包括第一物品的第一属性信息,所述第二日志数据包括第二物品的第二属性信息;所述第一日志数据的发生时间早于所述第二日志数据;
通过第一编码器处理所述第一属性信息对应的第一嵌入,得到第一特征表示;
通过第二编码器处理所述第二属性信息对应的第二嵌入,得到第二特征表示;所述第一特征表示和所述第二嵌入之间的差异、以及所述第二特征表示和所述第一嵌入之间的差异用于构建损失;
根据所述损失更新所述第一编码器以及所述第二编码器;且在更新所述第一编码器和所述第二编码器时,所述第一编码器和所述第二编码器施加有目标约束,所述目标约束用于约束所述第一编码器和所述第二编码器之间中间输出的差异最小化。
2.根据权利要求1所述的方法,其特征在于,所述目标约束为所述损失的一部分。
3.根据权利要求1或2所述的方法,其特征在于,所述通过第一编码器处理所述第一属性信息,包括:根据第一自注意力信息,通过第一编码器处理所述第一属性信息和所述第二属性信息;所述第一自注意力信息指示所述第二属性信息被掩码、且所述第一属性信息未被掩码;
所述通过第二编码器处理所述第二属性信息,包括:根据第二自注意力信息,通过第二编码器处理所述第一属性信息和所述第二属性信息;所述第二自注意力信息指示所述第一属性信息被掩码、且所述第二属性信息未被掩码。
4.根据权利要求1至3任一所述的方法,其特征在于,更新后的所述第一编码器用于进行模型推理。
5.根据权利要求1至4任一所述的方法,其特征在于,所述目标约束具体为KL散度。
6.根据权利要求1至5任一所述的方法,其特征在于,所述第一嵌入和所述第二嵌入为通过同一个嵌入层分别对所述第一属性信息和所述第二属性信息进行处理得到的。
7.根据权利要求1至6任一所述的方法,其特征在于,所述第一编码器和所述第二编码器包括多个注意力头,且不同所述注意力头中注意力信息对应的感受野不同。
8.根据权利要求1至7任一所述的方法,其特征在于,所述第一属性信息和所述第二属性信息包括如下的至少一种:物品名称,开发者,安装包大小,品类,好评度。
9.一种数据处理装置,其特征在于,所述装置包括:
处理模块,用于获取用户的第一日志数据以及第二日志数据;所述第一日志数据包括第一物品的第一属性信息,所述第二日志数据包括第二物品的第二属性信息;所述第一日志数据的发生时间早于所述第二日志数据;
通过第一编码器处理所述第一属性信息对应的第一嵌入,得到第一特征表示;
通过第二编码器处理所述第二属性信息对应的第二嵌入,得到第二特征表示;所述第一特征表示和所述第二嵌入之间的差异、以及所述第二特征表示和所述第一嵌入之间的差异用于构建损失;
更新模块,用于根据所述损失更新所述第一编码器以及所述第二编码器;且在更新所述第一编码器和所述第二编码器时,所述第一编码器和所述第二编码器施加有目标约束,所述目标约束用于约束所述第一编码器和所述第二编码器之间中间输出的差异最小化。
10.根据权利要求9所述的装置,其特征在于,所述目标约束为所述损失的一部分。
11.根据权利要求9或10所述的装置,其特征在于,所述处理模块,具体用于根据第一自注意力信息,通过第一编码器处理所述第一属性信息和所述第二属性信息;所述第一自注意力信息指示所述第二属性信息被掩码、且所述第一属性信息未被掩码;
所述处理模块,具体用于根据第二自注意力信息,通过第二编码器处理所述第一属性信息和所述第二属性信息;所述第二自注意力信息指示所述第一属性信息被掩码、且所述第二属性信息未被掩码。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211214436.1/1.html,转载请声明来源钻瓜专利网。





