[发明专利]一种基于广义矩阵分解与遮蔽注意力的项目推荐方法有效

专利信息
申请号: 202310940554.9 申请日: 2023-07-28
公开(公告)号: CN116664253B 公开(公告)日: 2023-10-24
发明(设计)人: 钱忠胜;姚昌森;万子珑;蒋鹏;王亚惠;俞情媛 申请(专利权)人: 江西财经大学
主分类号: G06Q30/0601 分类号: G06Q30/0601;G06Q30/0202;G06Q30/0282;G06F17/16;G06N3/0442;G06N3/08
代理公司: 北京中济纬天专利代理有限公司 11429 代理人: 黄攀
地址: 330000 江西省南*** 国省代码: 江西;36
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 广义 矩阵 分解 遮蔽 注意力 项目 推荐 方法
【说明书】:

发明提供一种基于广义矩阵分解与遮蔽注意力的项目推荐方法,该方法通过广义矩阵分解为模型提供用户与项目、用户与时间、项目与时间的二阶交互信息,给予模型深层次的抽象特征,使其整体预测能力得以提升;部分项目序列和时间序列存在空值,在注意力机制过程中空值会占据一定的权重,从而影响项目与时间的特征提取,本发明通过将注意力进行遮蔽化,能够协助模型屏蔽空值的影响;本发明通过广义矩阵分解与遮蔽注意力提取用户‑项目‑时间的重要特征信息,预测用户评分,使得模型能更高效地利用评分信息,从而有效的为用户提供项目推荐列表。

技术领域

本发明涉及数据处理技术领域,特别是涉及一种基于广义矩阵分解与遮蔽注意力的项目推荐方法。

背景技术

在用户与项目的交互中学习到的结果已使许多现实用户和服务受益,例如在线购物平台的项目推荐,其结果主要是潜在特征向量模型,尤其是基于潜在因子分解的技术,比如矩阵分解(Matrix Factorization, MF)已在工业界表现非凡,吸引了大量研究人员探索提升其预测能力。

这些研究的一个方向是改进矩阵分解算法的传统学习能力。矩阵分解能使用简单的内积方式推测未知值且易于实现,因而在推荐系统中得到广泛应用。但对用户与物品间的非线性关系,矩阵分解无法利用简单内积操作对其建模,限制了模型预测能力,故有诸多学者对矩阵分解算法进行改进。例如,利用单层神经网络或多层感知机(MLP),赋予MF非线性的学习能力。然而,这些方法均为静态的,在涉及动态场景时,用户与项目的交互数据无法表现出由时间而演化的动态性。例如,在Netflix用户在不同月份对各种电影的评分中,上述模型只能抓住用户全年的整体兴趣,而无法精确推测在当前月份的兴趣偏好。

另一个研究方向是将代表用户与项目交互的二维矩阵扩展为包含时间信息的三维张量。随后,可使用张量分解(Tensor Factorization, TF)技术将用户与项目投影到具有时间编码的潜在空间。存在传统的张量分解假设两个连续的时隙是独立的,也有通过循环神经网络(Recurrent Neural Network, RNN)学习连续时隙的交互,从而推测下一个时隙信息。然而,不管是独立还是连续的交互,它们的做法均将得到的用户、项目以及时间潜在向量直接输入到多层感知机中预测评分。它们并未考虑用户与项目、项目与时间、用户与时间之间的交互,一定程度上给模型带来信息缺失问题,导致整体预测能力较差,并且忽视了空值在序列中的误差影响。

发明内容

为此,本发明的实施例提出一种基于广义矩阵分解与遮蔽注意力的项目推荐方法,以解决现有技术整体预测能力较差、忽视了空值在序列中的误差影响的问题。

根据本发明一实施例的基于广义矩阵分解与遮蔽注意力的项目推荐方法,应用于项目推荐模型,所述项目推荐模型包括特征编码层、广义矩阵分解层和神经张量分解层;

所述方法包括:

步骤1,对用户的历史交互项目记录进行重组,重新编号并依照时间顺序进行排序,从而生成项目编号序列和时间编号序列,项目编号序列和时间编号序列的长度相同;

步骤2,对用户信息、项目编号序列、时间编号序列分别输入至特征编码层进行Embedding嵌入编码,以得到用户特征、项目特征向量序列、时间特征向量序列,将项目特征向量序列和时间特征向量序列输入至长短期记忆网络中,得到项目隐向量组和时间隐向量组,之后通过遮蔽注意力网络提取出项目隐藏状态向量和时间隐藏状态向量,再将项目隐藏状态向量和时间隐藏状态向量通过投影层调整维度,使项目隐藏状态向量和时间隐藏状态向量与用户特征对齐,从而形成项目投影特征与时间投影特征;

步骤3,将用户特征、项目投影特征、时间投影特征输入至广义矩阵分解层,生成用户与项目、用户与时间、项目与时间的二阶交互特征;

步骤4,对用户与项目、用户与时间、项目与时间的二阶交互特征,以及用户特征、项目投影特征、时间投影特征进行拼接,再输至神经张量分解层得到用户对项目的预测评分值;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江西财经大学,未经江西财经大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310940554.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top