[发明专利]阅读理解模型的训练方法及装置、阅读理解方法及装置

权利要求书

1.一种阅读理解模型的训练方法，其特征在于，所述方法包括：

获取训练数据，其中，所述训练数据包括样本文本片段、样本问题和样本答案；

通过阅读理解模型的图构建网络层，基于所述样本文本片段中词单元之间的依存关系构建初始第三图网络，以及基于所述样本问题中词单元之间的依存关系构建初始第四图网络；

基于所述初始第三图网络和所述样本答案之间的关联关系构建所述样本文本片段和所述样本答案的初始第一图网络，以及基于所述初始第四图网络和所述样本答案之间的关联关系构建所述样本问题和所述样本答案的初始第二图网络；

基于所述初始第一图网络和所述初始第二图网络对所述阅读理解模型进行训练，直至达到训练停止条件。

2.如权利要求1所述的阅读理解模型的训练方法，其特征在于，基于所述初始第一图网络和所述初始第二图网络对所述阅读理解模型进行训练，包括：

将所述样本文本片段、所述样本问题和所述样本答案输入所述阅读理解模型的文本处理层，分别为所述初始第一图网络和所述初始第二图网络包括的节点和边添加注意力值，得到第一图网络和第二图网络；

将所述第一图网络和所述第二图网络输入所述阅读理解模型的图卷积网络层中，得到预测答案；

基于所述预测答案与所述样本答案间的差值对所述阅读理解模型进行训练，直至达到训练停止条件。

3.如权利要求2所述的阅读理解模型的训练方法，其特征在于，所述文本处理层包括特征提取层和注意力层；将所述样本文本片段、所述样本问题和所述样本答案输入所述阅读理解模型的文本处理层，分别为所述初始第一图网络和所述初始第二图网络包括的节点和边添加注意力值，得到第一图网络和第二图网络，包括：

将所述样本文本片段、所述样本问题和所述样本答案输入所述阅读理解模型的特征提取层，分别获得第一特征向量组、第二特征向量组和第三特征向量组；

将所述第一特征向量组、所述第二特征向量组和所述第三特征向量组输入所述阅读理解模型的注意力层，分别为所述初始第一图网络和所述初始第二图网络包括的节点和边添加注意力值，得到第一图网络和第二图网络。

4.如权利要求3所述的阅读理解模型的训练方法，其特征在于，将所述样本文本片段、所述样本问题和所述样本答案输入所述阅读理解模型的特征提取层，分别获得第一特征向量组、第二特征向量组和第三特征向量组，包括：

对所述样本文本片段、所述样本问题和所述样本答案进行分词处理，分别得到第一词单元组、第二词单元组和第三词单元组；

对所述第一词单元组、所述第二词单元组和所述第三词单元组进行词嵌入处理，分别得到第一词向量组、第二词向量组和第三词向量组；

对所述第一词向量组、所述第二词向量组和所述第三词向量组进行编码，分别得到所述第一特征向量组、所述第二特征向量组和所述第三特征向量组。

5.如权利要求3或4所述的方法，其特征在于，所述特征提取层采用Bert模型的结构。

6.如权利要求3或4所述的方法，其特征在于，所述注意力层采用Bert模型的注意力层的结构。