[发明专利]一种基于深度学习的推荐方法

权利要求书

1.一种基于深度学习的推荐方法，其特征在于，如下步骤：

(1)对用户的历史行为数据的隐式反馈特性进行建模，建模后学习得到用户和项目的隐因子向量；

(2)将项目的隐因子向量作为标签训练对项目文本内容的时序信息进行建模和深层次地挖掘的网络模型；

(3)对于未出现在用户历史行为数据中的新项目，将新项目的文本内容信息通过步骤(2)得到的网络模型预测得到项目的隐因子向量，然后将其与步骤(1)得到的用户隐因子向量直接匹配，并将匹配度进行排序，得到每个用户的新项目推荐列表；

其中，所述步骤(1)中，采用基于隐式反馈的加权因子模型对用户的历史行为数据的隐式反馈特性进行建模；

其中，所述步骤(1)的具体步骤如下：

(11)对用户历史行为数据r_ui进行归一化处理，通过引入一个二值变量p_ui，将用户u对项目i的偏好二值化为偏好矩阵其中，m表示用户的个数，n表示项目的个数；

(12)根据偏好矩阵并引入置信度变量c_ui，来衡量用户u对项目i的偏好的确定程度；

(13)基于确定程度，通过加权隐因子模型将用户和项目映射到共同的潜在因子低维空间，其空间维度为K，通过最小化带正则项的平方误差损失，学习得到所有用户的隐因子向量和所有项目的隐因子向量公式如下：

其中，p_ui为用户u对项目i的实际偏好值，x_u为用户u的隐因子向量，λ_x为x_u的精度参数，y_i为项目i的隐因子向量，λ_y为y_i的精度参数。

2.根据权利要求1所述的一种基于深度学习的推荐方法，其特征在于，所述步骤(2)中，将项目的隐因子向量作为标签训练对项目文本内容的时序信息进行建模和深层次地挖掘的基于Attention机制的GRU网络模型。

3.根据权利要求2所述的一种基于深度学习的推荐方法，其特征在于，所述步骤(2)的具体步骤如下：

(21)使用基于Attention机制的GRU网络模型的输入层将项目的文本内容数据映射为单词序列x＝{x₁，x₂，x₃，...，x_T}，其中，T是单词序列的长度，是一个对文本内容中第t个单词的独热编码表示，V是数据集的单词表的大小，即代表所有不重复单词的个数，代表x_t是一个V维向量；

(22)对于文本内容中第t个单词对应的t时刻，基于Attention机制的GRU网络模型的单词嵌入层通过线性映射将单词的独热编码表示x_t转换成低维稠密向量e_t，公式如下：

e_t＝W_ex_t

其中，是单词嵌入层的参数，d_e是低维稠密矢量e_t的维度，W_e的每一列对应着单词表中的一个单词；

(23)单词嵌入层的输出{e₁，e₂，e₃，...，e_T}被前馈到基于Attention机制的GRU网络模型的GRU层作为输入序列，GRU层中的GRU单元在t时刻的激活同时决定了GRU单元更新它的先前激活和候选激活的多少，公式如下：

z_t＝σ(W_ze_t+U_zh_t-1)

r_t＝σ(W_re_t+U_rh_t-1)

其中，W_z、U_z、W_r、U_r、W为GRU层的参数，即网络训练时自动去学习所用参数，是网络作矩阵运算时的变量，z_t是表示更新门，r_t表示复位门，h_t-1表示先前激活，表示候选激活，h_t表示t时刻的激活，对应GRU单元在t时刻的隐藏编码状态，看作是第t个单词的向量表示；

(24)基于Attention的单词池化层将隐藏编码状态向量序列h＝{h₁，h₂，h₃，...，h_T}压缩成一个“上下文”向量c作为项目的文本内容表示，公式如下：

u_t＝v^Ttanh(W_hh_t)

其中，向量v和矩阵W_h是基于Attention的单词池化层的参数，T是单词序列的长度，u_k为第时刻k的原始分数，u_t为第时刻t的原始分数，α_t代表将时刻t对应的原始分数进行softmax标准化得到的最终的分数，即应该对第t个隐藏编码状态h_t给予多少关注；

(25)使用加权隐因子模型学习得到的项目的隐因子向量作为标签，对基于Attention机制的GRU网络模型进行训练，得到训练好的基于Attention机制的GRU网络模型，其目标函数如下：

其中，y_i为项目i的隐因子向量，由加权隐因子模型学习得到，y′_i为基于Attention机制的GRU网络模型对应的预测值，θ代表模型参数，泛指网络需要训练的所有参数。

4.根据权利要求3所述的一种基于深度学习的推荐方法，其特征在于，所述步骤(3)的具体步骤如下：

(31)对于未出现在用户历史行为数据中的新项目j，从项目的文本内容信息中通过训练好的基于Attention机制的GRU网络模型预测得到项目的隐因子向量y_j；

(32)将预测的新项目j的隐因子向量y_j与加权隐因子模型学习得到的目标用户u的隐因子向量x_u进行匹配，并将匹配度作为预测偏好值p_uj，计算公式如下：

p_uj＝x_u^Ty_j

式中，T表示转置运算；

(33)计算目标用户u对所有新项目的预测偏好值后，得到目标用户u的待推荐新项目列表；

(34)对待推荐新项目列表中的项目进行排序，为每个用户选取前M个预测偏好值最高的项目，得到每个用户的新项目推荐列表。