[发明专利]文本分析模型的训练方法及装置、文本分析方法及装置

说明书

本申请提供文本分析模型的训练方法及装置、文本分析方法及装置。其中，所述训练方法包括：获取样本文本、样本问题和答案标签；将样本文本和样本问题输入至文本分析模型中进行处理，生成分类单元输出向量和注意力单元输出向量；基于分类单元输出向量确定样本答案存在信息，并将样本答案存在信息与答案标签中的答案存在信息进行计算，生成第一损失值，基于注意力单元输出向量确定样本答案，并将样本答案与答案标签中的正确答案进行计算，生成第二损失值；基于第一损失值和第二损失值生成第三损失值，并基于第三损失值对文本分析模型进行迭代训练，直至达到训练停止条件。本申请所述的方法可以有效提高文本分析模型的准确率。

技术领域

本申请涉及自然语言处理技术领域，特别涉及文本分析模型的训练方法及装置、文本分析方法及装置、计算设备及计算机可读存储介质。

背景技术

自然语言处理(Natural Language Processing，NLP)是计算机科学领域与人工智能领域中的一个重要方向，它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。

对于自然语言处理任务，通常选用双向注意力神经网络模型模型(BidirectionalEncoder Representation from Transformers，BERT)进行处理。现有的BERT模型在进行阅读理解任务时，仅仅通过对答案起点位置和答案终点位置做位置分类，来确定待分析文本中是否存在答案以及答案具体是什么，准确性有待提高。

发明内容

有鉴于此，本申请实施例提供了文本分析模型的训练方法及装置、文本分析方法及装置、计算设备及计算机可读存储介质，以解决现有技术中存在的技术缺陷。

本申请实施例公开了一种文本分析模型的训练方法，包括：

获取样本文本、样本问题和答案标签；

将所述样本文本和样本问题输入至文本分析模型中进行处理，生成分类单元输出向量和注意力单元输出向量；

基于所述分类单元输出向量确定样本答案存在信息，并将所述样本答案存在信息与答案标签中的答案存在信息进行计算，生成第一损失值；

基于所述注意力单元输出向量确定样本答案，并将所述样本答案与答案标签中的正确答案进行计算，生成第二损失值；

基于所述第一损失值和第二损失值生成第三损失值，并基于所述第三损失值对所述文本分析模型进行迭代训练，直至达到训练停止条件。

进一步地，在所述获取样本文本、样本问题和答案标签之后，还包括：

将样本文本和样本问题进行分词处理，获得词单元集合；

所述将所述样本文本和样本问题输入至文本分析模型中进行处理，生成分类单元输出向量和注意力单元输出向量，包括：

将所述词单元集合输入至文本分析模型中进行处理，生成首个词单元的分类单元输出向量和每一个词单元的注意力单元输出向量。

进一步地，所述将所述词单元集合输入至文本分析模型中进行处理，包括：

将所述词单元集合输入至文本分析模型的注意力单元中进行处理，生成每一个词单元的注意力单元输出向量；

将首个词单元的注意力单元输出向量输入至分类单元中进行处理，生成首个词单元的分类单元输出向量。

进一步地，所述基于所述分类单元输出向量确定样本答案存在信息，包括：

S11、基于所述首个词单元的分类单元输出向量判断所述样本文本中是否存在所述样本问题的答案，若是，则执行步骤S12，若否，则执行步骤S13；

S12、生成存在答案标签，并将所述存在答案标签作为样本答案存在信息；