[发明专利]文本表示模型的训练方法、文本表示方法及相关设备

权利要求书

1.一种文本表示模型的训练方法，其特征在于，包括：

获取训练集，所述训练集包括多个文本组，每个所述文本组包括一个锚样本、多个负样本和多个正样本；

针对各个所述文本组，利用所述文本表示模型获取所述文本组中所述锚样本的表示、各个所述负样本的表示和各个所述正样本的表示；

基于所述锚样本的表示与同一所述文本组中各个所述负样本的表示之间的相似度，以及所述锚样本的表示与同一所述文本组中各个所述正样本的表示之间的相似度，获得所述文本表示模型关于所述锚样本的损失；

基于所述文本表示模型关于各个所述锚样本的损失，调整所述文本表示模型的参数。

2.根据权利要求1所述的方法，其特征在于，所述基于所述锚样本的表示与同一所述文本组中各个所述负样本的表示之间的相似度，以及所述锚样本的表示与同一所述文本组中各个所述正样本的表示之间的相似度，获得所述文本表示模型关于所述锚样本的损失，包括：

将所述锚样本的表示与同一所述文本组中各个所述负样本的表示之间的相似度进行相加，得到第一相加结果；

基于所述锚样本的表示与同一所述文本组中各个所述正样本的表示之间的相似度，以及所述第一相加结果，获得所述文本表示模型关于所述锚样本的损失。

3.根据权利要求2所述的方法，其特征在于，所述基于所述锚样本的表示与同一所述文本组中各个所述正样本的表示之间的相似度，以及所述第一相加结果，获得所述文本表示模型关于所述锚样本的损失，包括：

依序以同一所述文本组中各个所述正样本为当前正样本，以所述锚样本的表示与所述当前正样本的表示之间的相似度为当前相似度；

将所述第一相加结果与所述当前相似度相加得到第二相加结果；

针对同一所述文本组中各个所述正样本，将所述当前相似度和所述第二相加结果之间的比例关系，与所述锚样本和所述当前正样本之间的关联度相乘得到相乘结果；

基于所述相乘结果获取所述文本表示模型关于所述锚样本的子损失；

对关于所述锚样本的各个所述子损失进行相加得到关于所述锚样本的损失。

4.根据权利要求3所述的方法，其特征在于，所述锚样本与所述正样本为共现样本，所述锚样本与所述正样本之间的关联度为所述锚样本与所述正样本的共现频率；或所述正样本为所述锚样本本身，所述锚样本与所述正样本的关联度为预设数值与正样本数量之间的比值，所述正样本数量是所述文本组中为所述锚样本自身的正样本的数量。

5.根据权利要求1所述的方法，其特征在于，所述正样本为所述锚样本本身，所述各个所述正样本的表示的获取步骤包括：

利用所述文本表示模型对所述锚样本进行多次不同的处理，得到每次的处理结果，其中，每次的处理结果作为所述锚样本所在文本组中的一个所述正样本的表示，每次对所述锚样本的处理使用不同的Dropout噪声。

6.根据权利要求1所述的方法，其特征在于，所述正样本为所述锚样本的修改结果，修改的方式包括子文本替换、删减、重排序的至少一种。

7.根据权利要求1所述的方法，其特征在于，所述锚样本与所述正样本为共现文本。

8.一种文本表示方法，其特征在于，包括：

获取目标文本；

利用文本表示模型对所述目标文本进行处理，得到所述目标文本的表示；

其中，所述文本表示模型是由权利要求1-7中任一项方法训练得到的。

9.一种电子设备，其特征在于，包括处理器、与所述处理器连接的存储器，其中，

所述存储器存储有程序指令；

所述处理器用于执行所述存储器存储的所述程序指令以实现权利要求1-8中任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储程序指令，所述程序指令能够被处理器执行，被执行时实现如权利要求1-8中任一项所述的方法。