[发明专利]一种基于核心兴趣网络的点击率预测方法

权利要求书

1.一种基于核心兴趣网络的点击率预测方法，其特征在于包括下述步骤：

步骤1：获取用户属性描述、用户行为列表、广告信息以及上下文信息；

步骤2：将用户行为序列按session切分，每个session中依据用户行为数据，提取用户核心兴趣：

u_t＝σ(W^ui_t+U^uh_t-1+b^u),

r_t＝σ(W^ri_t+U^rh_t-1+b^r),

其中，u_t表示更新门，r_t表示重置门，表示t时刻产生的新记忆，h_t表示t时刻对应的隐藏状态，σ表示sigmoid激活函数，是元素级的点积，W^u、W^r、W^h以及U^u、U^r、U^h表示系数参数，i_t表示第t个被输入的用户行为的向量表示，h_t表示用户t时刻的隐状态；

步骤3：根据用户的隐状态以及用户各个时刻的真实行为计算辅助损失；

步骤4：将每个session提取的核心向后传递捕获用户动态兴趣，描述为：

其中i_i,1表示第一阶段第i个session的输入数据，表示第i-1个session第t时刻(最后时刻)第二层GRU提取出的用户核心兴趣，表示第i个session开始时刻用户行为向量的原始输入，角标b表示用户行为(behavior)特征；

步骤5：根据用户行为与候选物品的相似度，计算对应的attention值；

步骤6：通过辅助损失函数以及目标损失函数来定义模型的损失，使用交叉熵损失函数来定义模型损失函数，描述为：

L＝L_target+α*L_aux

其中，L为系统全局损失值，L_target表示预测点击率与真实点击率的损失函数，L_aux表示辅助损失函数，α为超参，表示辅助损失所占比重；

步骤7：在得到全局损失L后，通过随机梯度下降方法计算得到整个神经网络模型参数更新迭代的大小及方向，设定迭代更新轮数，最终能够得到模型收敛的参数，在得到模型的所有训练后的参数以后，再将用户的历史行为以及候选物品作为输入，模型最终能够计算出点击率，即该用户点击候选物品的概率，从而能够点击率预测任务。

2.根据权利要求1所述的基于核心兴趣网络的点击率预测方法，其特征在于：

所述步骤1中，所述用户属性描述、用户行为列表、广告信息以及上下文信息，分别用one-hot编码表示成x_p，x_b，x_a，x_c。

3.根据权利要求1所述的基于核心兴趣网络的点击率预测方法，其特征在于：

所述步骤3中，辅助损失描述为：

其中，L_aux表示辅助损失，为t时刻第i层GRU对应的隐状态，为t+1时刻用户真实点击的物品向量表示，为t+1时刻用户没有点击过的物品，即负样本的向量表示，另外N表示样本数量，t表示时刻。

4.根据权利要求1所述的基于核心兴趣网络的点击率预测方法，其特征在于：

所述步骤5中，attention值描述为：

其中，a_t为t时刻的隐状态与被预测物品e_a之间的attention值，e_a表示目标广告的embedding向量，W为为系数矩阵，结合attention值与GRU的公式，更新门的值考虑attention值的大小，其中h′_t分别是更新状态和隐状态。