[发明专利]一种基于自注意力机制的序列化神经协同过滤推荐方法

权利要求书

1.一种基于自注意力机制的序列化神经协同过滤推荐方法，其特征在于，包括以下步骤：

在推荐场景中收集用户与商品交互记录作为初始数据，之后将与用户有过交互记录的商品ID整理成为用户历史行为记录序列；

推荐场景中的用户ID与商品ID进行one-hot嵌入，得到用户特征向量与商品特征向量；

将待推荐商品特征向量放在用户历史行为记录序列的末端，并将这样的用户历史行为记录序列数据输入到自注意力机制中去，学习序列信息，得到具有丰富序列信息的待推荐商品特征向量；

将具有丰富序列信息的待推荐商品特征向量与原始嵌入得到的用户特征向量与商品特征向量一起输入到神经协同过滤模型的序列化广义矩阵分解部分与序列化多层感知机部分，完成用户对待推荐商品的评分计算，最后进行推荐。

2.根据权利要求1所述的一种基于自注意力机制的序列化神经协同过滤推荐方法，其特征在于：

在推荐场景中有m个用户和n个商品，则U＝{u₁,u₂,...,u_m}表示用户特征向量集，R＝{r₁,r₂,...,r_n}表示商品特征向量集，S＝{s₁,s₂,...,s_k}表示用户历史行为记录序列集，用户历史行为记录序列的长度为k；

用户i对于商品j序列信息学习具体为：

将商品j放在用户历史行为记录序列的末端，得到商品特征向量矩阵E；

上述用户历史行为记录序列数据输入自注意力机制学习序列信息，得到具有丰富序列信息的待推荐商品特征向量s。

3.根据权利要求2所述的一种基于自注意力机制的序列化神经协同过滤推荐方法，其特征在于：所述历史行为记录序列数据输入自注意力机制学习序列信息，具体的：

首先，商品特征向量矩阵E进行三种不同的线性变化，以获得Q、K、V，具体公式如下：

Q＝EW_Q，K＝EW_K，V＝EW_V  (1)

其中，Q表示查询特征向量矩阵，K表示关键词特征向量矩阵，V表示值特征向量矩阵，W表示对输入矩阵E进行线性变化的线性变化矩阵；

W_Q是对输入矩阵E进行线性变化得到查询特征向量矩阵Q的线性变化矩阵；

W_K是对输入矩阵E进行线性变化得到关键词特征向量矩阵K的线性变化矩阵；

W_V是对输入矩阵E进行线性变化得到值特征向量矩阵V的线性变化矩阵；

然后，采用缩放点积注意力来进行注意力计算，具体计算公式如下：

其中，Q表示查询特征向量矩阵，K表示关键词特征向量矩阵，V表示值特征向量矩阵，d_k代表查询向量、关键词向量和值向量的维度的大小；

softmax是归一化指数函数，来获得注意力的权重。