[发明专利]文档的向量化表示方法、装置和计算机设备

说明书

本申请提出一种文档的向量化表示方法、装置和计算机设备，本申请涉及自然语言处理技术领域，其中，方法包括：通过对文档切分得到多个文本片段，采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量，片段向量，用于指示对应文本片段的语义，进而，采用第二级语义模型，对各文本片段的片段向量，进行文档语义识别得到用于指示文档主题的文档向量，通过两级语义模型，可以获取段落级别和文档级别的各个级别的信息，同时生成的用于指示文档主题的文档向量，获取了完整文本信息，减少了信息的损失，提高了生成的文档向量的准确度，解决了现有技术中文档向量化表示时信息损失严重和无法获取文档中不同级别的向量化表示的技术问题。

技术领域

本申请涉及人工智能技术领域，尤其涉及自然语言处理技术领域，具体涉及一种文档的向量化表示方法、装置和计算机设备。

背景技术

在当今互联网应用中，如何解决大量的自然语言处理任务已经迫在眉睫。事实上，将不同级别的文本表示成语义向量已成为一种简单有效的方案，人们可以将字，词语，句子，段落乃至是文档表示成语义向量，并且可以将这些向量作为下游模型的特征。

自从google公司发布BERT等模型以来，各种改进的模型不断出现，刷新着自然语言理解的水平，像BERT等模型通过在大规模语料上构建学习任务，其可以自然的产生句子和词语的向量表示，然而，目前的模型设置均不合理，会导致文本中前后段落中信息之间的割裂，无法利用完整的文本信息，同时，文本中的信息损失严重。

另外，目前的模型往往只能产出词语表示或者是整个文本表示，而对于中间的像句子，段落级别的表示就无法获取，然而，在处理文档及任务中，可以同时获取不同级别的表示是至关重要的。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种文档的向量化表示方法，通过两级语义模型，可以获取段落级别和文档级别的各个级别的信息，同时生成的用于指示文档主题的文档向量，获取了完整文本信息，减少了信息的损失。

本申请的第二个目的在于提出一种文档的向量化表示装置。

本申请的第三个目的在于提出一种计算机设备。

本申请的第四个目的在于提出一种非临时性计算机可读存储介质。

为达上述目的，本申请第一方面实施例提出了一种文档的向量化表示方法，包括：

对文档切分得到多个文本片段；

采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量；其中，所述第一级语义模型，学习得到各文本片段中的字符与片段向量之间的映射关系；所述片段向量，用于指示对应文本片段的语义；

采用第二级语义模型，对各文本片段的片段向量，进行文档语义识别得到用于指示所述文档主题的文档向量；其中，所述第二级语义模型，学习得到片段向量与文档向量之间的映射关系。

为达上述目的，本申请第二方面实施例提出了一种文档的向量化表示装置，所述装置包括：

切分模块，用于对文档切分得到多个文本片段；

表示模块，用于采用第一级语义模型，将各文本片段向量化表示为对应文本片段的片段向量；其中，所述第一级语义模型，学习得到各文本片段中的字符与片段向量之间的映射关系；所述片段向量，用于指示对应文本片段的语义；

识别模块，用于采用第二级语义模型，对各文本片段的片段向量，进行文档语义识别得到用于指示所述文档主题的文档向量；其中，所述第二级语义模型，学习得到片段向量与文档向量之间的映射关系。