[发明专利]基于注意力机制和卷积神经网络的用户行为序列推荐方法

说明书

本发明公开了一种基于注意力机制和卷积神经网络的用户行为序列推荐方法，其中，包括以下步骤：采集用户过往的行为数据作为长期偏好交互序列数据；利用注意力机制算法计算所述长期偏好交互序列数据中各行为数据的权重，并根据所述权重计算出用户的长期偏好；选取一段时间内的行为数据作为短期偏好交互序列数据；根据所述短期偏好交互序列数据，利用卷积神经网络算法计算出用户的短期偏好；将用户的长期偏好与短期偏好进行拼接，以产生用户行为序列推荐；本发明能相比与传统的拟合用户‑项目或项目‑项目之间的交互的方法，够快速有效的的结合用户的长期偏好和短期偏好向用户推荐。

技术领域

本发明涉及用户行为序列推荐方法，更具体地说，涉及一种基于注意力机制和卷积神经网络的用户行为序列推荐方法。

背景技术

随着移动互联网技术不断发展，网络中的信息量以指数规律迅速扩展和增加，网络上的信息过载和信息迷航问题日益严重。为了给用户提供满意的信息和服务，推荐系统应运而生，成为了众多研究学者关注的研究领域。推荐系统通过预测用户对信息资源的喜好程度来进行信息过滤。

随着平台经济的快速发展，亚马逊，淘宝和优步等许多公司正在创建自我生态系统，通过与产品和服务的互动来留住用户。用户可以在日常生活中通过移动设备访问这些平台，这样就会生成了大量的行为日志。例如，2017年6月，优步累积了6800万用户旅行数据；Foursquare上超过5000万用户已经产生了超过110亿的签到。要构建有效的推荐系统，关键因素是准确地表征和理解用户的兴趣和品味，而这些一直在不断的变动与发展。为了实现该目标，序列推荐应运而生，以基于用户历史活动序列来推荐用户可能与之交互的项目。

与传统的推荐系统不同，在序列推荐中，越来越多的数据来自系列的交易或会话。这些交易或会话形成用户的序列模式，用户接下来的可能访问的项目更可能取决于用户最近产生交互的项目。例如，一起购买牛奶和黄油导致用户接下来购买面粉的概率高于单独购买牛奶或黄油的概率。然而，传统的推荐方法，如协同过滤，矩阵分解和Top-N推荐，不适合捕获序列模式，因为它们不会对动作的顺序进行建模。为了解决这个问题，早期的基于马尔可夫链的序列方法通常采用单独的模型来表征用户的长期偏好和短期偏好，然后将它们集成在一起。然而，这些基于马尔可夫链的方法建模每两个相邻项之间的局部顺序行为，但难以建模高阶关系。近年来，深度神经网络在相关领域得到了深入的研究，对序列推荐产生了很大的影响。用于建模用户序列模式的最流行的神经网络是循环神经网络(RNN)。基于RNN的方法比传统的顺序方法更强大。然而，RNN假设时间依赖性单调变化，这意味着当前或隐藏状态比前一个更重要。在序列推荐中，并非所有相邻动作都具有依赖关系。为了解决这个问题，有学者提出了采用卷积神经网络(CNN)的卷积滤波器对项目的嵌入向量进行卷积操作进而获得局部的序列特征。然而，这种方法只是将用户嵌入矩阵作为用户的长期偏好，这不足以学习用户的长期偏好。

因此，我们在本发明中提出了一种基于注意力机制和卷积神经网络的序列推荐方法。注意力机制用于建模用户的长期偏好，卷积神经网络用于挖掘用户的短期序列偏好，最后将这两者结合来产生推荐。

发明内容

本发明的一个目的是解决至少上述问题和/或缺陷，并提供至少后面将说明的优点。

本发明提供所述的基于注意力机制和卷积神经网络的用户行为序列推荐方法，能够快速有效的的结合用户的长期偏好和短期偏好向用户推荐。

为了实现根据本发明的这些目的和其他优点，提供了一种基于注意力机制和卷积神经网络的用户行为序列推荐方法，其中，包括以下步骤：采集用户过往的行为数据作为长期偏好交互序列数据；

利用注意力机制算法计算所述长期偏好交互序列数据中各行为数据的权重，并根据所述权重计算出用户的长期偏好；

选取一段时间内的行为数据作为短期偏好交互序列数据；

根据所述短期偏好交互序列数据，利用卷积神经网络算法计算出用户的短期偏好；