[发明专利]问答处理方法、装置、计算机设备和可读存储介质

权利要求书

1.一种问答处理方法，其特征在于，包括：

获取目标文档的问题部分和内容部分，其中，所述内容部分包括至少两个文本块；

根据所述问题部分和所述内容部分构建初始输入向量；

将所述初始输入向量输入至预设的问答机器模型，其中，所述问答机器模型包括预训练模型层、注意力模型层和最终输出层，所述预训练模型层用于对输入的所述初始输入向量处理后得到第一词向量，并输出至所述注意力模型层和所述最终输出层，所述注意力模型层用于对输入的所述第一词向量处理后得到第二词向量，并输出至所述最终输出层，所述第二词向量用于表征第一词语对所述第一词语所在文本块中其他词语的注意力大小，所述第一词语为所述内容部分的一个词语，所述最终输出层用于根据所述第一词向量和所述第二词向量输出问答结果信息；以及

根据所述问答结果信息确定所述内容部分是否包括所述问题部分对应的答案和所述答案在所述内容部分中的位置。

2.根据权利要求1所述的问答处理方法，其特征在于，所述文本块为一个段落或一个句子。

3.根据权利要求1所述的问答处理方法，其特征在于，所述第二词向量还用于表征所述第一词语对所述问题部分中词语的注意力大小。

4.根据权利要求3所述的问答处理方法，其特征在于，所述注意力模型层采用以下步骤根据所述第一词向量计算所述第二词向量：

将所述第一词向量输入第一全连接函数得到第一向量；

将所述第一词向量输入第二全连接函数得到第二向量；

将所述第一词向量输入第三全连接函数得到第三向量，其中，所述第一全连接函数、所述第二全连接函数和所述第三全连接函数分别为所述注意力模型层中不同的全连接函数；

根据所述问题部分和所述文本块构建注意力矩阵；

根据所述第一向量、所述第二向量、所述第三向量和所述注意力矩阵计算所述第二词向量。

5.根据权利要求4所述的问答处理方法，其特征在于，采用以下公式计算所述第二词向量：

H′＝[h′₁，h′₂，...，h′_n]＝L(C(W₁，W₂，...，W_n))

W_i＝A_iV_i

V＝[V₁，V₂，...，V_n]＝L1(H)

Q＝[Q₁，Q₂，...，Q_n]＝L2(H)

K＝[K₁，K₂，...，K_n]＝L3(H)

H＝[h₁，h₂，...，h_n]，

采用以下公式计算所述最终输出层的输入：

其中，H′为所述第二词向量，n为所述初始输入向量的处理阈值，C为拼接函数，L为全连接函数，V为所述第一向量，L1为所述第一全连接函数，H为所述第一词向量，S为归一化函数，M为所述注意力矩阵，Q为所述第二向量，L2为所述第二全连接函数，K为所述第三向量，L3为所述第三全连接函数，dk为归一化常量，i＝1，2，...n，为所述最终输出层的输入，α为预设权重。