[发明专利]数据处理方法和装置

权利要求书

1.一种数据处理方法，其中，所述方法包括：

获取样本集，其中，所述样本集中的样本包括查询词、标题样本，所述查询词和所述标题样本存在标注，所述标注指示所述查询词与所述标题样本之间的相关度；

将所述样本集中的目标样本输入待训练的自然语言处理模型，得到从所述待训练的自然语言处理模型输出的、与所述目标样本对应的向量，其中，所述自然语言处理模型为知识增强语义表示模型；所述样本集中，存在预设样本，所述预设样本的标题样本包括至少一个用于替换和掩盖原有的实体词的指定标识；

将所述向量输入全连接层，得到所述目标样本中的查询词和标题样本之间的相关度；

基于所述目标样本中的查询词和标题样本之间的相关度，确定所述目标样本的损失值，并基于所述损失值训练所述待训练的自然语言处理模型，得到训练后的自然语言处理模型；

所述样本集中的每个样本包括标题样本对和一个查询词，所述标题样本对包括正标题样本和负标题样本，在同一个样本中的标注包括针对同一个查询词的两个标注数值，正标题样本的标注数值大于负标题样本的标注数值，不同的标注数值对应不同的相关度；

所述方法还可以包括：

获取目标数据，其中，所述目标数据包括目标查询词和目标标题；将所述目标数据输入训练后的自然语言处理模型，得到从训练后的自然语言处理模型输出的、与所述目标数据对应的向量；将与所述目标数据对应的向量输入全连接层，得到所述目标查询词和所述目标标题之间的相关度。

2.根据权利要求1所述的方法，其中，所述将所述样本集中的目标样本输入待训练的自然语言处理模型，得到从所述待训练的自然语言处理模型输出的、与所述目标样本对应的向量，包括：

将所述样本集中的目标样本中的正标题样本和查询词，输入所述待训练的自然语言处理模型，以及将所述目标样本中的负标题样本和查询词，输入所述待训练的自然语言处理模型；

得到从所述待训练的自然语言处理模型输出的、与所述正标题样本对应的向量，并得到从所述待训练的自然语言处理模型输出的、与所述负标题样本对应的向量。

3.根据权利要求2所述的方法，其中，将所述向量输入所述全连接层，得到所述目标样本中的查询词和标题样本之间的相关度，包括：

将与所述正标题样本对应的向量输入所述全连接层，得到所述目标样本中的正标题样本与查询词之间的相关度；

将与所述负标题样本对应的向量输入所述全连接层，得到所述目标样本中的负正标题样本与查询词之间的相关度；以及

所述基于所述目标样本中的查询词和标题样本之间的相关度，确定所述目标样本的损失值，包括：

基于所述正标题样本与查询词之间的相关度、所述负正标题样本与查询词之间的相关度，以及预设边界损失值确定所述目标样本的损失值。

4.根据权利要求1所述的方法，其中，样本集中的标注包括至少三个标注数值。