[发明专利]基于知识图谱与循环神经网络的推荐模型

权利要求书

1.基于知识图谱与循环神经网络的推荐系统，其特征在于：包括有知识图谱特征学习模块、扩散偏好集和循环神经网络推荐模块；所述的知识图谱特征学习模块为知识图谱中的每个实体和关系学习得到一个低维向量，降低知识图谱的高维性和异构性，同时保持图中原有的结构或语义信息；所述的扩散偏好集包括有h+1层扩散偏好集h为扩散层数，每层相邻的扩散偏好集之间通过知识图谱连接，相邻的两层扩散偏好集中，上一层扩散偏好集的每个实体通过知识图谱连接到下一层扩散偏好集的对应实体，最后得到整体扩散偏好集所述的循环神经网络推荐模块对用户扩散偏好集进行学习，获取包含更多有用信息的更深层次的用户偏好表示，用于后续预测用户喜欢某个物品的概率；

所述的知识图谱特征学习模块采用基于距离的翻译模型要求所有真实三元组(h,r,t)应满足h+r≈t；因此相关的损失函数定义为：

式(1)中，三元组(h,r,t)表示一条知识，h表示知识的头节点，t表示尾节点；若干三元组的集合构成一个知识图谱；σ表示sigmoid函数sigmoid函数中的f(x)的定义是归一化指数函数，e^-x的定义是e的-x次幂；

所述的循环神经网络推荐模块首先将遗忘门和输入门合成了一个单一的更新门，更新门用于确定前一个状态信息被传递到当前状态中的程度：

r_t＝σ(W_rx_t+U_rh_t-1)        (2)，

式(2)中的r_t表示更新门，σ为参数，x_t为第t个时间步的输入向量，h_t-1为前一时刻(t-1)状态信息，W_r、U_r分别为输入序列x_t、h_t-1连接到更新门的权重矩阵；

然后重置门用于确定忽略前一个状态信息的程度：

z_t＝σ(W_zx_t+U_zh_t-1)        (3)，

式(3)中的z_t表示重置门、W_z、U_z分别为输入序列x_t、h_t-1连接到重置门的权重矩阵；

候选状态的计算如下：

式(4)中，为候选时刻状态信息、h_t-1为前一时刻的状态信息、W、U为权重矩阵；

当前状态是前一个状态和候选状态之间的线性插值：

式(5)，h_t当前时刻状态信息、h_t-1为前一时刻的状态信息；

再采用基于物品的注意力机制，对输入的不同部分进行线性组合，从而构成用户的偏好特征表示：

其中，α_jn表示第j个隐藏状态和最后第n个状态的匹配程度，其中n是用户扩散偏好集E_u的大小，表示了第j个物品对用户u的相对重要性，从而确定了在推荐过程中哪些物品应该被重视，而哪些物品应该相对被忽略；h_n为最后第n时刻状态信息；

其中，式(6)中的α_jn的计算如下：

式(7)中，h_n为最后第n个状态信息、h_j为第j个隐藏状态信息；

得到用户的偏好特征表示之后，预测用户u喜欢某个候选物品c_i的概率：

式(8)中，为用户喜欢某个候选物品的概率，u^T为用户矩阵的转置；

最后，通过最小化真实值和预测值间的交叉熵损失来训练模型：

其中q_i为预测概率分布，而p_i为真实概率分布；

因此，最终的损失函数为：

Loss＝L_KGE+L_predict           (10)。

2.根据权利要求1所述的基于知识图谱与循环神经网络的推荐系统，其特征在于：所述的更新门是采用门控循环单元进行合成的，门控循环单元作为RNN单元是长短期记忆网络的一种变体，RNN的输入序列不是单纯的时序关系，而是基于用户扩散偏好集的层次关系，内部层次的物品位于输入序列的前面，外部层次的物品位于输入序列的后面。