[发明专利]文档的向量化表示方法、装置和计算机设备

权利要求书

1.一种文档的向量化表示方法，其特征在于，所述方法包括以下步骤：

对文档切分得到多个文本片段；

采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量；其中，所述第一级语义模型，学习得到各文本片段中的字符与片段向量之间的映射关系；所述片段向量，用于指示对应文本片段的语义；

针对每一个文本片段的片段向量，在相应片段向量中增加位置元素，得到各文本片段的输入向量；其中，所述位置元素，用于指示相应文本片段在所述文档中的位置；

将各文本片段的输入向量，以及取值为初始值的参考向量，输入第二级语义模型，以使所述第二级语义模型根据各输入向量，调整所述参考向量的取值；

将取值调整后的参考向量作为所述文档向量；

其中，所述第二级语义模型，学习得到片段向量与文档向量之间的映射关系。

2.根据权利要求1所述的向量化表示方法，其特征在于，所述采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量，包括：

针对每一个文本片段在末尾加入结束字符后，输入第一级语义模型，得到所述第一级语义模型输出的相应文本片段中各字符的向量化表示；

将每一个文本片段中结束字符的向量化表示作为相应文本片段的片段向量。

3.根据权利要求2所述的向量化表示方法，其特征在于，所述对文档切分得到多个文本片段之前，还包括：

采用第一训练任务，对所述第一级语义模型和所述第二级语义模型训练；

其中，所述第一训练任务包括：

获取任一文本片段中一个字符的向量化表示；

根据所述一个字符的向量化表示和所述文档向量，预测得到预测字符；

根据所述预测字符和所述一个字符之间的差异，调整所述第一级语义模型和所述第二级语义模型的参数。

4.根据权利要求1所述的向量化表示方法，其特征在于，所述对文档切分得到多个文本片段之前，还包括：

采用第二训练任务，对所述第一级语义模型和所述第二级语义模型训练；

其中，所述第二训练任务包括：

获取训练文档的文档向量；其中，所述训练文档是将训练正文与训练标题拼接得到的；

根据所述文档向量，预测训练样本中训练文档与训练标题语义是否匹配；

根据预测匹配结果与实际匹配结果之间的差异，调整所述第一级语义模型和所述第二级语义模型的参数。

5.根据权利要求4所述的向量化表示方法，其特征在于，所述训练文档为多个，包括正例和反例；

其中，作为所述正例的训练文档，是将训练正文与对应的训练标题拼接得到的；

作为反例的训练文档，是将训练正文与其他训练正文对应的训练标题拼接得到的。

6.根据权利要求1－5任一项所述的向量化表示方法，其特征在于，所述第一级语义模型为多个，每一个第一级语义模型用于将对应的一个文本片段向量化表示为相应的片段向量；

多个所述第一级语义模型之间共享参数。

7.一种文档的向量化表示装置，其特征在于，所述装置包括：

切分模块，用于对文档切分得到多个文本片段；

表示模块，用于采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量；其中，所述第一级语义模型，学习得到各文本片段中的字符与片段向量之间的映射关系；所述片段向量，用于指示对应文本片段的语义；

识别模块，用于采用第二级语义模型，对各文本片段的片段向量，进行文档语义识别得到用于指示文档主题的文档向量；其中，所述第二级语义模型，学习得到片段向量与文档向量之间的映射关系；

所述识别模块，具体用于：

针对每一个文本片段的片段向量，在相应片段向量中增加位置元素，得到各文本片段的输入向量；其中，所述位置元素，用于指示相应文本片段在所述文档中的位置；

将各文本片段的输入向量，以及取值为初始值的参考向量，输入第二级语义模型，以使所述第二级语义模型根据各输入向量，调整所述参考向量的取值；

将取值调整后的参考向量作为所述文档向量。