[发明专利]一种基于文本关系图的多文本摘要生成方法

权利要求书

1.一种基于文本关系图的多文本摘要生成方法，其特征在于，包括以下步骤：

(1)获取多个输入文本，对获取的多个输入文本进行预处理，以得到预处理后的多个文本；

(2)针对步骤(1)预处理后的每个文本而言，获取该文本中每个词的TF-IDF值，根据该文本中所有词的TF-IDF值构建该文本的特征向量，根据每个文本的特征向量计算任意两个文本之间的余弦相似度，并使用步骤(1)得到的所有文本中每两个文本之间的余弦相似度构建文本关系图矩阵G；

(3)将步骤(1)预处理后的每个文本输入训练好的第一神经网络模型中，以得到该文本中每个词的上下文表征向量；

(4)将步骤(3)得到的每个文本中每个词的上下文表征向量输入训练好的第二神经网络模型中，以得到该文本的特征向量；

(5)将步骤(2)得到的文本关系图矩阵G和步骤(4)得到的每个文本的特征向量输入训练好的第三神经网络模型中，以得到特征矩阵；

(6)将步骤(5)得到的特征矩阵中每个文本经过第三神经网络模型更新后的特征向量和步骤(3)得到的每个文本中每个词的上下文表征向量进行融合，以获得每个文本中每个词的高阶表征向量，

(7)将步骤(6)得到的所有文本中所有词的高阶表征向量输入训练好的第四神经网络模型中，以得到所有文本对应的最终摘要。

2.根据权利要求1所述的多文本摘要生成方法，其特征在于，步骤(2)具体为：

首先，获取每个文本中每个词的TF-IDF值

TF-IDF＝TF×IDF

其中TF表示词的词频，IDF表示词的逆文本频率，且有：

其中K表示步骤(1)得到的所有文本总数；

然后，根据该文本中所有词的TF-IDF值构建每个文本的n维特征向量vec_A，特征向量中第i维的值就是所有文本中所包含的第i个不重复的词的TF-IDF值，其中n表示步骤(1)得到的所有文本中所包含的不重复的词的数量，A表示文本序号，且有A∈[1，K]，i∈[0，n-1]；

接着，根据每个文本的特征向量计算任意两个文本A和B之间的余弦相似度，并将该余弦相似度作为文本关系图矩阵G的第A行第B列元素：

其中B表示文本序号，B≠A，且B∈[1，K]；

最后，针对步骤(1)得到的文本中的每个文本，重复上述过程，从而得到完成文本关系图矩阵G的构建。

3.根据权利要求2所述的多文本摘要生成方法，其特征在于，本步骤(3)包括以下子步骤：

(3-1)对每个文本中的每个词进行正余弦函数编码，以得到每个词的位置向量pe；

(3-2)将每个文本中的每个词输入第一神经网络模型的词嵌入层，以得到每个词的词嵌入向量w，并根据步骤(3-1)中得到的每个词的位置向量pe和词嵌入向量w获取每个文本中该词的词向量；

(3-3)将(3-2)得到的每个文本中每个词的词向量输入第一神经网络模型的多头自注意力层，以得到每个文本中每个词对应的多头自注意力层输出；

(3-4)将步骤(3-3)得到的每个文本中每个词对应的多头自注意力层输出输入到第一神经网络模型中的前馈网络中，以得到每个文本中每个词的词上下文表征向量；

其中前馈网络是由两层线性层和中间的激活函数组成，其中ReLU激活函数表达式为：

ReLU(x)＝max(0，x) 。

4.根据权利要求3所述的多文本摘要生成方法，其特征在于，

步骤(3-1)中，每个词的位置向量pe等于：

其中pos表示每个词在其所在文本中的当前位置，2k表示位置向量pe的偶数维位置，2k+1表示位置向量pe的奇数维位置，d_model表示位置向量pe的维度大小，同时也是词嵌入的维度大小，2k，2k+1∈[0，d_model-1]；

每个文本中每个词的词向量x为：

x＝w+pe。