[发明专利]利用外积注意力的众包任务推荐算法

说明书

本发明公开来了一种利用外积的众包任务推荐算法，为众包中工人推荐任务。本发明根据众包场景较主流场景的特殊性，在改进传统基于物品的协同过滤神经网络算法的基础上，设计了一种利用外积的注意力机制。该模型针对众包场景下任务的时效性和多角色用户，分别提出众包任务属性级的特征学习方式以及带强弱负样本带权交叉熵，提出引入任务发布方序列的两种方式。该模型还提出一种外积注意力机制，为用户序列分配重要性权重。针对众包场景改进的协同过滤算法和外积注意力共同组成本发明的众包任务推荐算法，该算法在二分类指标上超过改进前的协同过滤神经网络算法，在二分类指标和推荐列表指标超过利用内积的注意力机制，并且时间消耗在可接受范围内。

一、技术领域

本发明设计推荐算法领域，尤其涉及众包场景下为工人推荐任务，具体是一 种利用外积注意力的的基于物品的协同过滤神经网络算法。

二、背景技术

随着互联网的飞速发展，数据量也与日俱增，人们面对海量数据时越发束手 无策。推荐系统的提出正是为了解决海量数据造成的信息过载问题。推荐系统在 工业界已经应用于各种互联网领域。学术界也先后提出了各种推荐算法的框架， 如基于关联规则的推荐、基于内容的推荐、协同过滤、基于图的推荐和混合推荐 等等。随着近年来深度学习的引入，推荐算法的性能更是得到了极大的提升。

众包作为一种创新商业模式，促进了群体的开放式创新。近年来共享经济的 发展也促进了众包模式的迅速发展。将推荐算法应用于众包有助于众包任务的承 接方(通常称为工人)难以选择众包可能性大的任务进行投标，以及降低发布方 的筛选成本，提升工人和承接方的用户体验。但其它场景下的推荐算法却不能直 接应用于众包，因为如电商平台、内容推送平台中不同时存在类似于众包场景的 特殊性，包括任务时效性、多角色用户、用户间竞争等。任务时效性即众包任务 只在其有效期内能被交互，进而导致特征的稀疏性；多角色用户即存在工人和承 接方两种角色的用户，每个角色都对中标预测有影响；用户间的竞争导致工人用 户的非独立性，而现有推荐中排序学习框架都研究物品间的关系(偏序对或列表 排序等)而假设用户间是独立的。因此，如何将现有推荐算法针对众包场景的特 殊性进行改进进而引入到众包是一项重要的挑战。

众包场景下的任务推荐早期使用人工建模或博弈论的方式较多。人工建模的 方式只要是对工人的兴趣和能力分别建模，因为工人的投标和中标不仅取决于工 人和兴趣，也取决于工人的能力。或者使用关联规则挖掘算法来生成工人先前工 作中使用的常用技能集列表。根据工人的常用技能，客户的评分，最低预算/小 时费率，截止日期等来创建可行的工作清单。人工建模的方式需要充足的领域知 识选取特征、构建特征或建模，研究也大多针对某个平台的交易流程，模型缺乏 泛化能力。当平台流程有差异或任务差异较大时鲁棒性较差。

众包场景下利用神经网络的推荐算法较少，并且少有讨论众包场景的特殊 性。基于内容的推荐算法包括利用Word2vec词向量计算了用以表征任务和工人 的标签(tags)，通过匹配工人和任务间标签的相似性为工人推荐任务。基于角 色的聚类模型，允许每个工人在多个任务集群中进行投标，将整个由工人历史记 录得到的工人-任务评价矩阵转化为一组基于角色的小的、独立的、评价密集型 的矩阵。近期少量工作架构强化学习引入众包场景，利用DQN(Deep Q Network)与神经网络相结合同时考虑长期和短期的奖励，并且可以实时更新以应对不断发 展的数据和动态变化。设计了两个DQN以捕获工人和任务发布方的利益，并最 大化平台的利润。基于物品的协同过滤算法因此实时性和可解释性而广泛应用于 各场景的推荐，但缺少应用于众包场景的研究，尤其是结合神经网络的端到端的 算法，原因在于现有利用神网络的算法没有考虑到众包任务的特殊性。