[发明专利]用于生成预标注样本的方法、装置、服务器和介质

权利要求书

1.一种用于生成预标注样本的方法，包括：

获取预设标注数据库，其中，所述预设标注数据库中记录有问题文本与场景之间的对应关系；

获取待进行预标注的多轮场景定位数据，其中，所述多轮场景定位数据中包括至少一个问句与对应的场景；

将所述多轮场景定位数据中的至少一个问句与所述预设标注数据库中的问题文本进行匹配，将匹配的问题文本对应的场景确定为匹配场景；

根据所确定的匹配场景与进行匹配的至少一个问句对应的场景，基于所述多轮场景定位数据生成正、负样本均衡的预标注样本。

2.根据权利要求1所述的方法，其中，所述获取预设标注数据库，包括：

获取预设的数据库，其中，所述预设的数据库中记录有属于同一场景的语义一致的问题文本；

获取单轮匹配数据库，其中，所述单轮匹配数据库中包括至少两个问题文本与用于表征所述至少两个问题文本语义是否一致的标注信息；

根据所述单轮匹配数据库对所述预设的数据库进行扩充，生成所述预设标注数据库。

3.根据权利要求1所述的方法，其中，所述将所述多轮场景定位数据中的至少一个问句与所述预设标注数据库中的问题文本进行匹配，将匹配的问题文本对应的场景确定为匹配场景，包括：

将所述多轮场景定位数据中的至少一个问句确定为多条件检索的至少一个查询词；

将所述预设标注数据库中与所确定的至少一个查询词匹配的问题文本对应的场景确定为匹配场景。

4.根据权利要求3所述的方法，其中，所述将所述预设标注数据库中与所确定的至少一个查询词匹配的问题文本对应的场景确定为匹配场景，包括：

利用与线上应用相一致的搜索引擎构建的索引对所述预设标注数据库中的预设标注数据进行召回，其中，所述预设标注数据包括问题文本与场景之间的对应关系；

利用预先训练的匹配模型从召回结果中确定与所述至少一个查询词匹配的场景作为匹配场景。

5.根据权利要求1-4之一所述的方法，其中，所述根据所确定的匹配场景与进行匹配的至少一个问句对应的场景，基于所述多轮场景定位数据生成正、负样本均衡的预标注样本，包括：

根据所确定的匹配场景与进行匹配的至少一个问句对应的场景是否匹配，对应生成正样本或负样本；

从所生成的正样本和负样本中选取数目一致的正、负样本作为正、负样本均衡的预标注样本。

6.一种用于预训练模型的方法，包括：

利用正、负样本均衡的预标注样本对初始预训练模型进行训练，得到中间预训练模型，其中，所述初始预训练模型用于表征问题文本与场景之间的对应关系；

利用基于所述预标注样本进行人工校验的标注样本对所述中间预训练模型进行继续训练，生成预训练模型，其中，所述标注样本的数量小于所述预标注样本的数量。

7.一种用于生成预标注样本的装置，包括：

第一获取单元，被配置成获取预设标注数据库，其中，所述预设标注数据库中记录有问题文本与场景之间的对应关系；

第二获取单元，被配置成获取待进行预标注的多轮场景定位数据，其中，所述多轮场景定位数据中包括至少一个问句与对应的场景；

匹配单元，被配置成将所述多轮场景定位数据中的至少一个问句与所述预设标注数据库中的问题文本进行匹配，将匹配的问题文本对应的场景确定为匹配场景；

生成单元，被配置成根据所确定的匹配场景与进行匹配的至少一个问句对应的场景，基于所述多轮场景定位数据生成正、负样本均衡的预标注样本。

8.一种用于预训练模型的装置，包括：

初始训练单元，被配置成利用正、负样本均衡的预标注样本对初始预训练模型进行训练，得到中间预训练模型，其中，所述初始预训练模型用于表征问题文本与场景之间的对应关系；

再训练单元，被配置成利用基于所述预标注样本进行人工校验的标注样本对所述中间预训练模型进行继续训练，生成预训练模型，其中，所述标注样本的数量小于所述预标注样本的数量。