[发明专利]基于层次记忆网络的知识追踪系统及方法

权利要求书

1.基于层次记忆网络的知识追踪系统，包括用于输入知识信息和输出预测信息的控制器组件，其特征在于，还包括层次记忆矩阵组件、读头和写头组件；

所述读头和写头组件设置在所述控制器组件和所述层次记忆矩阵组件之间，所述读头和写头组件用于将所述控制器组件处理后的输入信息写入到所述层次记忆矩阵组件存储更新，并从所述层次记忆矩阵组件中读取更新后的知识信息；

所述控制器组件包括强化输入模块、LSTM神经网络、多层感知机模块以及点积运算模块；其中，强化输入模块，所述强化输入模块用于强化测评数据和反馈数据的编码；所述层次记忆矩阵组件包括工作存储单元、长期存储单元、分割模块和衰减模块，所述分割模块用于将输入的信息分为工作记忆信息和长期记忆信息分别存入到工作存储单元和长期存储单元，所述衰减模块用于将存入长期存储单元的长期记忆信息进行衰减后存入到长期存储单元，用于模拟人的记忆模式对知识信息进行存储。

2.根据权利要求1所述的基于层次记忆网络的知识追踪系统，其特征在于，所述层次记忆矩阵包括若干个呈矩阵排列的用于存储信息的插槽，其中部分插槽置于所述工作存储单元内，剩余的插槽置于所述长期存储单元内。

3.根据权利要求1所述的基于层次记忆网络的知识追踪系统，其特征在于，所述衰减模块与所述工作存储单元和所述长期存储单元的插槽连接，用于将信息赋予衰减率后写入到插槽中。

4.根据权利要求1所述的基于层次记忆网络的知识追踪系统，其特征在于，还包括记录使用位置和使用顺序组件，用于记录层次记忆矩阵中每个插槽的使用情况和每个插槽的使用顺序。

5.一种基于层次记忆网络的知识追踪方法，应用于如权利要求1至4中任一项所述的基于层次记忆网络的知识追踪系统，其特征在于，包括如下步骤：

S1输入知识信息序列，并对其进行编码；

S2强化测评数据编码和反馈数据编码，使得二者更好区分；

S3利用神经网络处理输入的信息，并将知识分为工作记忆和长期记忆写入层次记忆矩阵，并不断利用输入信息对层次记忆矩阵进行存储和更新；

S4从层次记忆矩阵读取信息作为已知的知识信息，与输入的下一步的题目信息做点积运算得出下一步题目正确率的预测结果。

6.根据权利要求5所述的基于层次记忆网络的知识追踪方法，其特征在于，步骤S3具体包括：

S31利用输入的信息对层次记忆矩阵进行写入式更新，并对输入的信息按照工作记忆和长期记忆进行分割，将工作记忆直接进行存储，将长期记忆以衰减的方式进行存储；

S32从层次记忆矩阵中提取已知的知识信息。

7.根据权利要求6所述的基于层次记忆网络的知识追踪方法，其特征在于，步骤S31中，输入信息的写入其主要根据基于内容的注意力机制和基于使用位置的注意力机制进行信息的写入，基于内容的注意力机制为写头通过对比所述控制器组件的输出信息和所述层次记忆矩阵中每个插槽存储的信息，来决定向每个插槽写入多少信息，基于使用位置的注意力机制为根据位置是否存有信息来决定是否向该位置写入信息。

8.根据权利要求6或7所述的基于层次记忆网络的知识追踪方法，其特征在于，步骤S31中，分割主要的步骤包括引入距离向量衡量两个时间步之间的信息差异，计算累积的信息差异向量，以超参数为阈值与累积的进行比对，超过阈值的存入到长期存储单元，未超过阈值的存入到工作存储单元。

9.根据权利要求8所述的基于层次记忆网络的知识追踪方法，其特征在于，步骤S31中，衰减的方式写入具体包括引入衰减向量；

衰减向量decay_t用于为记忆矩阵的每个插槽设置写入时的衰减率:

其中，cumsum(·)是累加函数，softmax(·)是softmax函数，

°代表逐元素积，d_t代表由LSTM神经网络生成的第t个时间步的衰减系数向量，阈值∈是趋于0的正常数，mask_t表示第t个时间步的掩码向量；

根据衰减向量decay_t,我们将M_t-1更新为M_t:

其中，运算符代表逐元素积，E是全1矩阵，是基于注意力机制的写入权重向量，是擦除向量的转置,是写入向量，decay_t是衰减向量,M_t是第t个时间步的层次记忆矩阵；M_t-1表示第t-1个时间步的层次记忆矩阵。