[发明专利]一种基于接受度增强的图神经网络的动态推荐方法在审
申请号: | 202111471759.4 | 申请日: | 2021-12-06 |
公开(公告)号: | CN114387007A | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 程明杰;徐小龙;邬晶;李少远;周松 | 申请(专利权)人: | 天翼电子商务有限公司 |
主分类号: | G06Q30/02 | 分类号: | G06Q30/02;G06F16/9536;G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 102200 北京市昌平*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 接受 增强 神经网络 动态 推荐 方法 | ||
1.一种基于接受度增强的图神经网络的动态推荐方法,其特征在于,包括以下步骤:
一、构建原始物品动态图
每个用户在在线推荐平台中进行交互时根据其停留、关注、购买的时序信息可以组成一个物品序列,然后将所有用户构成的物品序列连接在一起得到我们所需要的原始物品动态图;即每个用户产生的物品序列为原始物品动态图的一个子图,原始物品动态图包含所有用户对物品选择的动态转移信息,体现了用户的兴趣转移过程;
原始物品动态图的构建过程:用户的物品序列可以连结成一个有向图,即原始物品动态图,随着用户数目的增加,物品序列的加长,原始物品动态图也会随之变大;在构建好原始物品动态图后,将图中的边赋予一定的权值,权值的大小为头节点到尾节点边的个数除以头节点的出度;
二、获取物品的表示向量
在构建用户原始物品动态图后,我们需要以此来获得用户的表示向量;为了通过物品动态图快速的把握用户的短期兴趣,对物品动态图的准确性会有更高的要求,然而用户对物品的选择会存在一定的随机性与不准确性,即用户会在候选集中随机地选中某个物品,被选中的物品可能并不符合用户的兴趣偏好;物品动态图中不准确的物品会带来较大的噪声,影响表示学习的质量;这里我们引入接受度的概念,并结合图神经网络完成对不准确物品的过滤;
面对由序列构成的有向图,门控图神经网络GGNN有突出的表现力,因此我们选择GGNN解析图的结构来获取物品的表示向量;GGNN为多层的迭代结构,在本发明中每层迭代分为两部分,第一部分利用接受度进行物品动态图重构,将不准确的物品以一定的概率进行丢弃(或降权),第二部分直接通过GGCN对重构后的动态图进行表示学习更新;
物品动态图重构如下:
首先计算原始物品动态图中,每个物品相对前一个物品的接受度(每条边的终节点对起始节点),表示用户在选择上一个物品后继续选择下一个物品的概率,计算公式如下:
这里Mij为用户选择物品i后对物品j的接受度,
ω1,ω2∈Ra×d,α∈R2×d为相应的权值矩阵,σ(·)为sigmoid激活函数,将数据映射为0-1之间的概率值;
在获得物品之间的接受度之后,将其与自身的有向边权值相乘得到重构后的权值,在这里引入一个阈值δ1,低于该阈值的表示对下一个物品的选择是个噪声扰动,直接去掉;
表示学习更新过程如下:
这里vi是图中的节点,n为节点总数;H∈Rd×2d代表权值矩阵,zi与ri分别代表重置和更新门,A∈Rn×2n为重构图的两个邻接矩阵,即传出边邻接矩阵与传入边邻接矩阵拼接而成,Ai∈R1×2n为A矩阵中vi对应的两列;σ(·)为sigmoid激活函数,经过更新后得到vi∈Rd;
通过多层的迭代-动态图重构-表示学习更新,我们能得到物品节点的最终表示向量;
三、获取用户的表示向量
在获得物品的表示向量后,我们需要利用与用户进行过交互的物品来获得用户的表示向量;对于每一用户,与其交互的物品可以分为两类:一类包含与用户交互的所有物品,代表用户的长期偏好,从这些物品中我们可以挖掘到用户的固有兴趣;另一类包含当前时间段内与用户交互的物品,代表了用户的短期偏好,从这些物品中我们可以挖掘到用户的短期兴趣;
对于用户uj的物品序列[vu,1,vu,2,...,vu,k],首先我们利用用户的长期交互的物品,挖掘用户的固有兴趣,获得用户的整体嵌入,过程如下:
αi=qTσ(W1vu,i+c) (8)
这里ul为用户的整体嵌入,其聚合了所有物品的表示向量,并通过注意力机制为不同物品分配不同的权重,αi为注意力系数,q,W1,c为对应的权值矩阵;
对于用户的短期偏好,在获取用户的短期偏好时更容易受到噪声扰动的影响,因此这里再次利用接受度进行短期序列重构,接受度Mij计算方法和上面相同;在重构过程中,从序列起点开始计算下一个节点的接受度,在这里引入一个阈值δ2,低于该阈值的表示对下一个物品的选择是个噪声扰动,直接去掉;之后计算扰动后面节点相对扰动前节点的接受度,继续重复上面过程,直到最后一个节点;最终获得重构后的短期序列[v′u,1,v′u,2,...,v′u,m];
接下来利用重构序列获得用户的局部嵌入:
这里us为用户的局部嵌入,其聚合了用户短期交互的物品,e-(m-i)a为每个物品的衰减系数,因为用户的短期兴趣与其近期交互的物品有关联的可能性更大,故而利用该衰减系数使时间越久交互的物品影响越小;
在获得用户的整体嵌入与局部嵌入后,将二者融合,得到用户最终的表示向量:
uj=W2(uj,l||uj,s) (10)
这里uj∈Rd为用户最终的表示向量,W2∈Rd×2d为权值矩阵,||为拼接符,表示两个向量拼接;
四、模型预测与优化
对于用户集U与物品集V,任意用户ui,物品集中物品vj∈V与其的匹配度为:
在得到所有物品的匹配度后,通过softmax函数归一化,得到向量
这里表示用户接下来选择的各物品的可能性;
通过交叉熵损失得到我们模型的损失函数:
这里yi表示用户ui实际选择的物品的one-hot编码;
通过极小化上面损失函数后,完成模型的训练,将针对每个用户推荐其选择概率最大的物品。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天翼电子商务有限公司,未经天翼电子商务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111471759.4/1.html,转载请声明来源钻瓜专利网。