[发明专利]基于图神经网络和注意力机制的推荐系统评分预测方法

权利要求书

1.基于图神经网络和注意力机制的推荐系统评分预测方法，其特征在于，包括以下步骤：

S1、基于度和时间信息，将“用户-项目评分图”转换为“用户-项目评分可信度图”，并为“用户-项目评分可信度图”中的每个顶点采样邻居顶点；

其中，项目包括电影、音乐、网页和商品；

S2、利用采样结果结合时间信息，基于图神经网络分别从用户视角和项目视角对“用户-项目评分可信度图”中各个顶点状态进行更新；

S3、基于注意力机制实现推荐系统中用户对项目的评分预测模型的构建，并完成模型训练及相关参数的更新；

S4、利用训练完成的评分预测模型，实现推荐系统中用户对象项目的评分预测；

所述步骤S2具体为：

S21、获取用户和项目的静态特征矩阵X_U和X_I；

其中，用户静态特征矩阵X_U中每一行表示为一个用户u的特征输入项目特征矩阵X_I中每一行表示为一个项目i的特征输入

S22、将用户和项目的静态特征和分别作为用户u和项目i的初始状态，记为和

S23、结合和时间戳集T分别从用户和项目两个视角，通过图神经网络状态更新过程聚合邻居顶点特征，生成并逐层更新用户u和项目i的状态表示和实现“用户-项目评分可信度图”中各个顶点的状态更新；

所述步骤S23中的图神经网络包括K层，第k层更新得到的用户状态表示和项目状态表示分别为和用户视角和项目视角的状态更新过程的公式表示分别为：

式中，AGGREGATOR1(·)和AGGREGATOR2(·)分别表示用户视角和项目视角下图神经网络的状态更新过程函数，包括若干个待学习的参数矩阵，该状态更新过程结合时间信息聚合邻居顶点上一层的状态表示，生成当前层的状态表示，最后一层图神经网络状态更新过程函数的输出即为用户u和项目i的最终状态表示和

所述步骤S23中AGGREGATOR1(·)和AGGREGATOR2(·)的实现方法包括利用GRU多到一的序列学习能力的聚合方法实现或利用考虑时间信息的加权平均聚合方法实现；

当利用GRU多到一的序列学习能力的聚合方法实现时，AGGREGATOR1(·)和AGGREGATOR2(·)分别为：

式中，SORTED(·)表示排序过程函数，和分别表示两个视图下第k层的循环神经单元，为第k-1层图神经网络状态更新过程函数输出的源顶点的状态表示，为第k-1层图神经网络状态更新过程函数输出的目标顶点的状态表示；

当利用考虑时间信息的加权平均聚合方法实现时，AGGREGATOR1(·)和AGGREGATOR2(·)分别为：

式中，σ(·)为sigmoid激活函数，MEAN(·)为均值函数，W_agg1和W_agg2分别为用户视角和项目视角下待学习的参数矩阵，t_pi为用户为源顶点时的时间信息，t_uq为项目为目标顶点时的时间信息；

所述步骤S3具体为：

S31、基于用户状态表示和项目状态表示分别计算用户u的状态的注意力矩阵和项目i的注意力矩阵

其中，ATTENTION1(·)和ATTENTION2(·)分别表示注意力的计算过程函数，包括若干用于学习衡量状态信息重要性权重的待学习参数的参数矩阵；

S32、基于注意力矩阵A_u和A_i，利用用户和项目的状态表示和生成用户u对项目i的预测评分并将所有用户对所有项目的预测评分构成集

其中，PREDICT(·)表示基于注意力机制的预测评分函数，包括若干个待学习的参数矩阵；

S33、基于预测评分的集合和实际评分的评分集R，计算损失值

其中，LOSS(·)为损失函数；

S34、基于计算出的损失值，采用随机梯度下降法更新推荐系统中评分预测模型中的各个待学习参数矩阵直到损失值收敛，进而使基于图神经网络和注意力机制的评分预测模型得到训练，并完成相关参数的更新；

所述步骤S31中的注意力矩阵A_u和注意力矩阵A_i分别为：

式中，均为待学习的参数矩阵，σ(·)是sigmoid激活函数，SOFTMAX为softmax函数；

所述步骤S32中，通过全连接注意力网络或注意力点积网络生成用户u对项目i的预测评分

当通过全连接注意力网络生成用户u对项目i的预测评分时，分别将用户、项目的注意力矩阵和状态矩阵拼接成完整的注意力矩阵和输入矩阵，得到预测评分

式中，W_R为待学习的参数矩阵，σ(·)为sigmoid激活函数，SCORE_PROJECT为映射函数，用于将(0,1)范围内的输出映射到实际评分的范围内，||为拼接操作；

当通过注意力点积网络生成用户u对项目i的预测评分时，将全连接注意力网络中的参数矩阵替换为点积运算，得到预测评分

式中，·表示点积运算。