[发明专利]基于图形处理单元的并行排序学习方法及系统

说明书

技术领域

本发明涉及基于互联网的数据处理方法及系统，尤其涉及基于图形处理单元的并行排序学习方法及系统。

背景技术

随着网络技术的发展，信息获取变得越来越容易.但从海量且日新月异的互联网上检索信息，在检索过程中还要满足用户所需的响应时间和结果准确度，变得越来越困难。搜索引擎是从海量数据获取有用的信息的一个重要手段.而如何为用户返回与其查询最相关的信息，是搜索引擎发展和吸引用户的一个重要决定因素。

商业搜索引擎和推荐系统普遍存在排序问题，互联网搜索引擎提供商的竞争日趋白热化，搜索引擎对于任意查询能有TB甚至PB量级的规模，每天可能达到亿次级的查询规模。每次查询的返回结果靠人工专家去分类判定然后给出排序结果是不现实的，排序最终归为人工智能问题。

排序学习是一种机器学习任务：查询集和每个查询的一系列文档作为输入，通过训练一个系统在未知等级的测试集上获取最优化的预计排名作为输出。排序学习的提出在互联网搜索、商务网站推荐等领域都引起研究工作者的兴趣与深入研究。研究人员在研究信息检索中发掘各种新问题新技术并在历届的SIGIR会议上发表探讨，近些年来，排序学习在该会议上是一个热门的研究问题，同时互联网大规模的信息对于排序学习算法的性能是一个重大的挑战，也是排序学习算法后续研究工作的一个方向。

但是，目前技术在排序学习中出现了由于海量数据导致计算速度慢的问题。

发明内容

为了解决现有技术中的问题，本发明提供了一种基于图形处理单元的并行排序学习方法。

本发明提供了一种基于图形处理单元的并行排序学习方法，包括如下步骤：

构建查询及文档偏序对：针对每个查询，根据训练集中文档与查询的相关度构建出文档偏序对，每一个文档偏序对为一个模型的训练样本，根据每一个查询的相关度列表构建成文档偏序对集；

模型参数训练：根据文档偏序对集估计模型参数，通过估计评分函数中关于每个特征的权重参数取值；

文档评分：根据模型参数训练步骤中估计出的模型参数和文档评分函数计算每个文档的得分；

文档排序：根据每个文档的得分，选择排序算法对文档进行排序，然后把排序后的结果提供给查询用户。

作为本发明的进一步改进，在所述构建查询及文档偏序对步骤中，在训练样本中，每一个查询对应一个文档列表，列表中给出文档与查询语句的相关度；在所述文档评分步骤中，采用线性评分模型，其评分模型函数为公式中，Θ_i为模型参数向量中的第i维，f_ji文档d_j中的第i个特征值；在所述文档排序步骤中，采用双调排序对文档进行排序。

作为本发明的进一步改进，在所述模型参数训练步骤中，采用最大似然方法估计模型参数，似然函数为：

公式中，q是查询集Q中的一个查询，Θ为要估计的模型参数，i、j分别为第i、j个文档，(q,i,j)表示第q个查询项，由第i、j个文档组成的查询及文档偏序对，D_S为所有查询及文档偏序对样本集，δ为指示函数，为在模型参Θ下产生查询及文档偏序对的概率。

作为本发明的进一步改进，在所述构建查询及文档偏序对步骤中，针对每个查询开启一个核函数的线程，采用基于图形处理的多线程并行构建查询及文档偏序对；在所述模型参数训练步骤中，针对于每个查询及文档偏序对开启一个核函数的线程，采用基于图形处理的多线程并行更新模型参数；在文档评分步骤中，针对于每个文档开启一个核函数的线程，采用基于图形处理的多线程并行文档评分。

本发明还公开了一种基于图形处理单元的并行排序学习系统，包括：

并行构建查询及文档偏序对模块：用于针对每个查询，根据训练集中文档与查询的相关度构建出文档偏序对，每一个文档偏序对为一个模型的训练样本，根据每一个查询的相关度列表构建成文档偏序对集；

并行模型参数训练模块：根据文档偏序对集估计模型参数，通过用于估计评分函数中关于每个特征的权重参数取值；

并行文档评分模块：用于根据模型参数训练步骤中估计出的模型参数和文档评分函数计算每个文档的得分；

并行文档排序模块：用于根据每个文档的得分，选择排序算法对文档进行排序，然后把排序后的结果提供给查询用户。