[发明专利]面向变压器检修场景的推理型自动问答方法、系统与计算机可读介质

权利要求书

1.一种面向变压器检修场景的推理型自动问答方法，其特征在于，包括以下步骤：

步骤1、接收用户输入的问题Q；

步骤2、结合预先构建的变压器检修场景标准库D，将问题Q在变压器检修场景标准库D中进行匹配，通过将问题Q与变压器检修场景标准库D进行embedding操作，获得问题Q与变压器检修场景标准库D的段落d的匹配概率；

步骤3、对匹配概率进行降序排序，取概率最大值对应的段落Dk输出；

步骤4、将问题Q与输出的段落Dk使用词向量工具进行处理获得词向量，以序列表示；

步骤5、基于数值抽取，识别问题Q的类型，包括纯文本类型问题以及数值类型问题，并依据识别的问题类型，通过不同的预测模型进行预测输出：

(1)对于纯文本类型问题，采用Bi-LSTM-Attention网络结构的第一模型对问题Q进行预测，输出问题答案，其中所述Bi-LSTM-Attention网络结构的第一模型以纯文本数据构成的数据集为训练数据，输入到由Bi-LSTM层的基础上加入Attention层构成的网络模型中进行训练而获得；

(2)对于数值类型问题，采用Bi-LSTM-Attention网络结构的第二模型对问题Q进行预测，输出问题答案，其中所述Bi-LSTM-Attention网络结构的第一模型以抽取的数值数据构成的数据集为训练数据，输入到由Bi-LSTM层的基础上加入Attention层构成的网络模型中进行训练而获得。

2.根据权利要求1所述的面向变压器检修场景的推理型自动问答方法，其特征在于，所述预先构建的变压器检修场景标准库D，其中包含多种变压器检修标准，将变压器检修场景标准库D按照自然段划分，获得多个段落d，每一个段落d均包含技术标准号、技术标准名称以及该条标准的相关描述。

3.根据权利要求1所述的面向变压器检修场景的推理型自动问答方法，其特征在于，在所述第一模型和第二模型的训练过程中，均使用Bi-LSTM层作为特征编码层，提取每个词向量的上下文特征，然后进行双向的特征拼接后，将每个词向量的特征进行输出；

在Attention层则基于权重矩阵对每个词向量进行加权求和，其中，权重矩阵初始化值为256*1维，然后通过点乘与归一化运算，得到代表每个词向量对应权重的权重矩阵，权重越大的词向量代表注意力越大并且词向量对应的贡献程度越大，最后对每个词语对应的词向量进行加权求和，输出最终加权平均后的总特征向量。

4.根据权利要求1所述的面向变压器检修场景的推理型自动问答方法，其特征在于，所述将问题Q与变压器检修场景标准库D进行embedding操作，包括在预先训练好的QDMatch匹配模型中进行计算输出，具体包括以下步骤：

将问题Q和变压器检修场景标准库D拆分的段落d进行拼接，并且在拼接的文本开头加上[CLS]标志位以及问题Q与段落的文本中间加上[SEP]标志位；其中：所述[CLS]标志位用于表示问题Q和段落d之间的相关概率；[SEP]标志位两个文本中间，作分割作用，分别对两个文本附加不同的文本向量作为区分；

确定问题Q和变压器检修场景标准库D拆分的段落d进行拼接的文本的Segment向量、Position向量以及Token向量，其中：所述Segment向量为区分句子的向量，问题Q的Segment向量元素为0，段落d的Segment向量元素为1；Position向量为句子的位置向量，其长度为整体句子的长度；Token向量为整体句子的词向量；

将Segment向量、Position向量以及Token向量三种向量输入到BERT模型中，经过BERT模型的双向12层Transformer Encoder结构，捕捉依赖关系，得到模型的输出，输出结果为问题Q和段落d的向量，取第1维[CLS]标志位的输出；

再使用全连接层的softmax函数得到问题Q与段落d的匹配概率，获得问题Q匹配的多个段落的文本。