[发明专利]基于图神经网络的深度知识追踪预训练方法

权利要求书

1.一种基于图神经网络的深度知识追踪预训练方法，其特征在于，包括以下步骤：

步骤1、构建问题和知识点的关系二分图G；

步骤2、提取问题与知识点的对应关系、问题相似性关系和知识点相似性关系这三种关系；

步骤3、使用神经网络获得所述图G中问题节点的低维向量表征、以及知识点节点的低维向量表征；

步骤4、取得问题的辅助信息的低维向量表征；

步骤5、使用乘法神经网络络融合所述问题节点的低维向量表征、对应的所述知识点节点的低维向量表征、以及所述问题的辅助信息，获得问题的低维表征。

2.如权利要求1所述的方法，其特征在于，所述步骤1中，所述图G中包括两种类型节点，分别为问题节点和知识点节点，边只存在于不同类型节点之间；若问题节点q_i和知识点节点s_j之间存在边，则说明该知识点包含该问题。

3.如权利要求2所述的方法，其特征在于，所述步骤2中，所述问题与知识点对应关系指所述图G中的边，是图G中节点的一阶相似性；

所述问题相似性关系和所述知识点相似性关系是根据所述图G中的节点有无共同邻居确定的，是所述图G中节点的二阶相似性；

对于两个问题节点q_i和q_j，若它们的邻居节点集有重合，即若存在一个知识点同时包含这两个问题，则该两个问题存在相似关系，反之不存在相似关系；同理，若存在一个问题同时被两个知识点包含，则该两个知识点存在相似关系，反之则不存在相似关系。

4.如权利要求1所述的方法，其特征在于，所述步骤3中，所述神经网络为图神经网络。

5.如权利要求3所述的方法，其特征在于，所述步骤3还包括：

步骤3.1、随机初始化所述图G中问题节点的低维向量表征、以及知识点节点的低维向量表征；

步骤3.2、对所述问题节点的低维向量表征、所述知识点节点的低维向量表征，两两做内积，通过激活函数映射，并使用所述问题与知识点对应关系来约束；

步骤3.3、对所述问题节点的低维向量表征两两做内积，通过激活函数映射，并使用所述问题相似性关系来约束；

步骤3.4、对所述知识点节点的低维向量表征两两做内积，通过激活函数映射，并使用所述知识点相似性关系来约束。

6.如权利要求1所述的方法，其特征在于，所述步骤4还包括：对所述问题的辅助信息作向量化，优选地，离散值特征转化为独热编码，连续值特征进行归一化；然后将所有编码后的特征拼接，使用全连接神经网络进行维度的映射，得到所述辅助信息的低维向量表征。

7.如权利要求5所述的方法，其特征在于，所述步骤5中，对于一个问题i，有其在图G中对应的问题节点q_i的低维向量表征q_i对应的知识点节点s_i的低维向量表征以及问题i的辅助信息的低维向量表征之后使用乘法神经网络来进行特征交互，具体步骤如下：

步骤5.1、直接拼接得到线性特征交互信息

步骤5.2、针对用内积操作进行两两交互，得到二次特征交互信息矩阵

步骤5.3、将和拼接，并通过全连接神经网络映射为就是问题i的低维表征；

步骤5.4、使用作为全连接神经网络的输入，并使用激活函数，预测每个问题的平均答对概率，这里平均答对概率反映了问题的难度，使用真实的问题平均答对概率来约束，学习乘法神经网络的参数。

8.如权利要求7所述的方法，其特征在于，若问题i对应多个知识点，取这些知识点节点的低维向量表征的平均值作为q_i对应的知识点节点s_i的低维向量表征

9.如权利要求1所述的方法，其特征在于，所述步骤3、5中，网络参数通过梯度下降法进行端到端的训练。

10.如权利要求1所述的方法，其特征在于，所述步骤5中获得的问题的低维表征作为已有深度知识追踪方法的输入，在每一时间步预测学生是否能答对问题。