[发明专利]一种基于外部注意力机制的知识追踪方法及系统

说明书

本发明涉及知识追踪领域，提供一种基于外部注意力机制的知识追踪方法及系统。本发明方法通过建立多头外部注意力编码器和解码器神经网络，计算当前时间序列中的习题和习题对应的知识组件的外部注意力知识追踪的参数，利用外部注意力知识追踪模型计算学生者关于当前时间序列对应的习题答题结果正确的概率预测值，通过对比知识追踪数据集中当前时间序列的习题答题结果的真实值，得到与当前时间序列对应的外部注意力机制神经网络模型的损失函数，通过回溯算法得到权重参数的优化值；从而实现学习者对当前习题的作答情况的状态预测，筛选出学生未掌握的题目，有助于学习者的针对性学习。

技术领域

本发明涉及知识追踪领域，更具体为一种基于外部注意力机制的知识追踪方法及系统。

背景技术

知识追踪是对学习者的历史答题序列进行建模，分析学习者对历史习题中所包含的知识点的掌握情况，用以预测其对当前习题的答题结果的技术。知识追踪能够捕获学习者当前对不同习题的掌握程度，预测其学习情况，是学习者建模中的核心任务。但由于知识点的多样性、题目的多变性和人脑学习过程的复杂性，为知识追踪任务带来了挑战。

目前，知识追踪中有三个代表性的经典模型，其一为贝叶斯知识追踪模型(Bayesian Knowledge Tracing,BKT)，基于贝叶斯算法和隐马尔可夫模型的知识追踪是一个二值动态贝叶斯网络，其定义了基础知识点、学习率和猜测参数等，将学生的知识点掌握建模为二值向量。但是贝叶斯知识追踪模型常常依赖于手工建模，操作耗时较长。其二为深度知识追踪模型(Deep Knowledge Tracing，DKT)，它使用循环神经网络模拟学习过程，对答题结果进行预测。其将学生的知识水平建模为可伸缩的深度学习模型，具有较大的灵活性、较强的泛化性。但是在深度知识追踪模型中，基于循环神经网络和长短时神经网络的模型的关注与所有历史答题结果的特征提取，而与人类的学习状态相关的是，人类是具有遗忘特性的。并且，现有深度知识追踪模型在捕获题目和知识组件之间的相似关系时能力有限。其三为情境感知注意力知识追踪(Context-Aware Attentive Knowledge Tracing，AKT)，它使用自注意力机制对习题和历史作答情况进行编码，预测学生对当前习题的作答。在情境感知注意力知识追踪模型中，自我注意通过计算每个位置上的特征的加权和来更新每个位置上的特征，使用成对的亲和来捕获单个样本内的长期依赖关系。然而，自我注意具有二次复杂度，忽略了所有样本之间潜在的相关性。

发明内容

为了克服现有的情境感知注意力知识追踪模型的改进需求，本发明提供了一种基于外部注意力机制的知识追踪方法及系统。该方法通过建立多头外部注意力编码器和解码器神经网络，计算当前时间序列中的习题和习题对应的知识组件的外部注意力知识追踪的参数，利用外部注意力知识追踪模型计算学生者关于当前时间序列对应的习题答题结果正确的概率预测值，通过对比知识追踪数据集中当前时间序列的习题答题结果的真实值，得到与当前时间序列对应的外部注意力机制神经网络模型的损失函数，通过回溯算法得到权重参数的优化值；从而实现学习者对当前习题的作答情况的状态预测，筛选出学生未掌握的题目，实现学习者的针对性学习。

本发明解决其技术问题所采用的技术方案是：

一种基于外部注意力机制的知识追踪方法，包括以下步骤：

获取训练用知识追踪数据集，该训练用知识追踪数据集包括多个时间序列步骤，每一个时间序列步骤包括习题和学习者在一系列题目上回答正确与否的真实结果；

构建多头外部注意力机制网络，其包括编码器和解码器，该编码器和解码器具有相同的网络结构和数据处理过程，均含有多个子空间，每个子空间对应一个外部注意力机制；