[发明专利]一种改写模型的训练方法及装置

权利要求书

1.一种改写模型的训练方法，包括：

收集网络用户基于搜索引擎的查询记录，基于所述查询记录构建训练数据集；

获取所述训练数据集中的训练数据，将所述训练数据随机打乱；

将所述随机打乱后的训练数据划分为多份训练样本数据；

在所述多份训练样本数据中任意选取一份训练样本数据，将选取的所述训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练。

2.根据权利要求1所述的方法，其中，所述将所述随机打乱后的训练数据划分为多份训练样本数据，包括：

将所述随机打乱后的训练数据集中的训练数据平均划分为S份训练样本数据，并设定S的初始值为0。

3.根据权利要求1或2所述的方法，其中，所述在所述多份训练样本数据中任意选取一份训练样本数据，将选取的所述训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练，包括：

选取第S份训练样本数据；

将所述第S份训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练。

4.根据权利要求1-3任一项所述的方法，其中，所述将所述第S份训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练，包括：

按照预设的词汇表对所述第S份训练样本数据的查询语句中的词语进行编号；其中，所述预设的词汇表基于所述训练数据集构建而成；

将编号后的各词语输入所述改写模型，以基于编号后的各词语对所述改写模型进行训练。

5.根据权利要求1-4任一项所述的方法，其中，所述将编号后的各词语输入所述改写模型，以基于编号后的各词语对所述改写模型进行训练之后，还包括：

通过以下公式计算所述改写模型训练过程中的损失函数：

其中，loss表示损失函数，表示目标词语，表示注意力权重，表示coverage向量，t表示t时刻。

6.根据权利要求1-5任一项所述的方法，其中，所述将所述第S份训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练之后，还包括：

利用训练好的改写模型计算预设验证集的损失函数；

若所述损失函数增大，则训练结束；

若所述损失函数减小，则设定S＝S+1，并选取第S份训练样本数据，将所述训练样本数据输入所述改写模型，继续对所述改写模型进行训练。

7.根据权利要求1-6任一项所述的方法，其中，所述收集网络用户基于搜索引擎的查询记录，基于所述查询记录构建训练数据集，包括：

收集各网络用户基于搜索引擎的查询记录，并将所述查询记录作为初始训练语料构建语料库；

清洗所述语料库中的噪声数据，得到数据集；

分别对数据集中的查询语句和搜索结果进行分词，并将所述数据集的第一指定比例的数据作为训练数据以构建所述改写模型的训练数据集。

8.一种改写模型的训练装置，包括：

收集模块，配置为收集网络用户基于搜索引擎的查询记录，基于所述查询记录构建训练数据集；

数据获取模块，配置为获取所述训练数据集中的训练数据，将所述训练数据随机打乱；

划分模块，配置为将所述随机打乱后的训练数据划分为多份训练样本数据；

训练模块，配置为在所述多份训练样本数据中任意选取一份训练样本数据，将选取的所述训练样本数据输入预先构建的对用户基于搜索引擎输入的查询语句进行改写的改写模型，对所述改写模型进行训练。

9.一种计算机存储介质，所述计算机存储介质存储有计算机程序代码，当所述计算机程序代码在计算设备上运行时，导致所述计算设备执行权利要求1-7任一项所述的改写模型的训练方法。

10.一种计算设备，包括：

处理器；

存储有计算机程序代码的存储器；

当所述计算机程序代码被所述处理器运行时，导致所述计算设备执行权利要求1-7任一项所述的改写模型的训练方法。