[发明专利]一种改进的多任务学习与知识图谱结合的Ripp-MKR推荐方法有效

专利信息
申请号: 202110060998.4 申请日: 2021-01-18
公开(公告)号: CN112800326B 公开(公告)日: 2022-03-15
发明(设计)人: 董立岩;王越群;刘元宁;朱晓冬;李永丽 申请(专利权)人: 吉林大学
主分类号: G06F16/9535 分类号: G06F16/9535;G06F16/36;G06N3/04;G06N3/08;G06F17/16
代理公司: 长春市恒誉专利代理事务所(普通合伙) 22212 代理人: 鞠传龙
地址: 130012 吉*** 国省代码: 吉林;22
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 改进 任务 学习 知识 图谱 结合 ripp mkr 推荐 方法
【权利要求书】:

1.一种改进的多任务学习与知识图谱结合的Ripp-MKR推荐方法,其特征在于:包括如下步骤:

步骤一、输入用户点击历史、知识图谱以及项目的初始化向量:

推荐系统包括用户集U以及项目集I,用户集合表示为:U={u1,u2,.....un},项目集合表示为V={v1,v2.....vm},用户与项目的交互矩阵表示为Y,假设有n个用户以及m个项目,则Y是一个m×n的矩阵,对于任意用户u对项目v评分表示为yuv,且yuv∈Y,u∈U,v∈V,当yuv的值为1时,则表示用户u参与了项目v,反之yuv为0表示用户u未参与过项目v,知识图谱G用三元组(h,r,t)进行表示,h为头实体,t为尾实体,h和t均属于实体集合E,关系r属于关系集合R,所以表示为h∈E,r∈R,t∈E,在结合知识图谱的推荐系统中,给出用户项目的交互矩阵Y以及知识图谱G,目标是求得用户u是否对未交互的项目v感兴趣,用公式表示则是:

步骤二、针对用户点击历史、知识图谱进行递归,获取用户的历史兴趣属性与权重:

将用户和项目的交互矩阵Y与知识图谱三元组集合进行结合,假设用户u的历史交互的项目集合为Vu,从用户u的历史点击记录开始求取种子集合,使用用户的历史点击记录作为用户现有的首选项信息,即对于用户u的任何一个历史交互项目,都属于用户的历史点击项目的集合Vu,也都属于项目集合V,用户u的任何一个历史交互,其实质都是一个项目,在知识图谱中,任何一个项目v都能被设置为知识图谱三元组的头部h,这个三元组的尾部t是项目v的属性,所以任何一个用户u的历史交互,都能转换为尾部的集合,即项目属性的集合,存在如下关系:

是用户u的第k次沿着知识图谱以及历史交互集合进行波纹传播后获得的属性特征向量集合,

通过项目向量v以及用户u在1-hop下所获得的三元组集合得到1跳内项目v与每一个头向量与关系向量组成的元组的相关得分;并使用SoftMax函数对相关得分进行归一化;相关计算公式如下:

步骤三、加权所有尾部的特征向量得到一级响应:

对所有尾部向量进行加权,表示1跳后用户u兴趣的结果,具体如下:

步骤四、所有的响应加权求和获得用户向量矩阵:

最终将所有的跳数进行加和,得到用户的向量表示,具体如下:

通过将多跳的用户兴趣结果相加,获得用户的最终向量表示结果;

步骤五、进行项目向量矩阵与知识图谱头部向量交叉训练:

对于所有的项目向量,首先对其进行初始化,在训练开始,对所有的项目进行one-hot编码表示,通过项目对用户向量进行初始化,再结合交互矩阵与知识图谱,进行用户向量的迭代更改;通过项目向量与初始化的知识图谱三元组头部向量交叉训练,并进行更新迭代,每一次项目向量的更新都会更新用户向量,项目向量表示如下:

VL=Ee~S(v)[CL(v,e)[v]] (7)

其中,S(v)是项目v关联实体的集合,在获得用户u和项目v的特征向量后,通过预测函数得到用户u参与项目v的最终预测概率;

在知识图谱方面,在Ripp-MKR的知识图谱特征提取模块中,以一个头部实体h和对应的关系r作为输入,分别使用多层感知器MLP和交叉单元、压缩单元提取头部实体和关系的特征向量,知识图谱三元组头部的嵌入对应于推荐系统中的项目ID,关系嵌入对应于项目属性,尾嵌入对应于具体的项目属性值,获取用于预测尾部t的具备K层的多层感知机的过程如下:

对于交叉压缩单元的结构单位是项目v和实体e之间的联系模块

将交叉特征矩阵cl投影到潜在表示空间中,输出下一层项目和实体的特征向量,具体如下:

步骤六、迭代更新用户向量、项目向量、知识图谱头部尾部向量:

通过以下公式获得推荐模块以及知识图谱模块的预测公式,具体如下其中

最终将预测点击公式表示如下:

步骤七、损失函数学习:

损失函数分为三部分,分别是推荐模块的损失函数,知识图谱模块的损失函数,防止过拟合的正则化项,具体表示如下:

其中LRS为推荐模块损失函数,LKG为知识图谱模块的损失函数,LREG其正则化项;

对于推荐模块的损失函数表示如公式(14)所示,其中

对于知识图谱模块的损失函数表示为:

对于防止过拟合的正则化项表示为:

通过以上的训练获取到user对item的潜在偏好,也就是预测矩阵。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于吉林大学,未经吉林大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110060998.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top