[发明专利]一种基于图神经网络和强化学习的事实验证方法

权利要求书

1.一种基于图神经网络和强化学习的事实验证方法，其特征在于，所述方法包括以下步骤：

步骤1：获取表格文本表示；

步骤2：图构建及节点初始化；

步骤3：应用基于Transformer的图神经网络对图进行编码；

步骤4：由强化学习驱动的节点选择；

步骤5：进行二次更新以及模型的训练与测试。

2.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法，其特征在于，步骤1：获取表格文本表示，具体如下：

(1)该步骤首先将陈述语句和表格内容拼接，并在头部添加[CLS]标识符；

(2)之后将长序列输入由MultiNLI语料库增强的预训练语言模型RoBERTa中获得有意义的特征表示。

3.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法，其特征在于，步骤2：图构建及节点初始化，具体如下：

(1)提取陈述语句和目标表格之间的行、列、数字和单词的共现关系，以及陈述的句法依赖结构树，

(2)当得到步骤1的标记表示E_i时，下一步是获取图的节点级表示，因为一个图的节点包含多个token，为此，在token表示之上应用一个BiLSTM模型，然后使用一个MLP层来得到每个节点的最终表示。

4.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法，其特征在于，步骤3：应用基于Transformer的图神经网络对图进行编码，具体如下：

(1)采用基于Transformer的图神经网络对图数据进行编码，该数据能够将关系标签(即边的类型id)转换为可区分的向量；

(2)通过改进自注意力机制将边向量信息添加到计算query和key向量点积的过程中，实现相邻节点信息聚合；

(3)将多个头部自注意层连接起来，从独立参数空间中获得的向量信息进行融合，得到更深层次的表示。

5.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法，其特征在于，步骤4：由强化学习驱动的节点选择，具体如下：

(1)在图中设计了一个监控节点并制定强化学习过程为监控节点选择有效的证据节点，该强化学习的Agent会在几个离散的时间步中与环境进行交互，基于强化学习的节点选择以每个节点的表示和邻接矩阵作为每个状态的输入；

(2)Agent应用一个策略网络来采样操作，即确定是否选择了每个节点，奖励将从行动中获得，然后优化策略网络，在具体例子中，每个图推理层为一个步骤，策略网络在每个步骤中对监控节点进行节点选择；

(3)采用强化学习算法对策略网络进行优化，通过策略梯度算法对参数进行更新。

6.根据权利要求1所述的一种基于图神经网络和强化学习的事实验证方法，其特征在于，步骤5：进行二次更新以及模型的训练与测试，具体如下：

(1)为了消除图节点的邻居数分布不均匀对节点信息聚合的影响，该步骤引入了一个融合层来增强信息聚合；

(2)应用一个sigmoid函数来自适应地为节点j分配一个权重；然后，计算邻居信息以促进信息聚合；最后，将邻居信息与节点信息融合；

(3)最小化交叉熵损失L从而训练模型；

(4)利用准确性和F1值指标对模型进行测试与评价，检验模型的性能。