【技术实现步骤摘要】
本专利技术涉及教育大数据挖掘、时空图神经网络与学生行为建模领域，具体涉及一种基于多尺度时空卷积注意力知识追踪方法。
技术介绍
1、近年来，在线教育系统蓬勃发展，这些系统不仅可以帮助导师根据学习者的个人特征(例如优势和劣势)进行适当的指导，还可以帮助学习者了解自己的学习进度。其便利性和快速发展越来越引起教育工作者和公众的关注。在线教育系统的一个关键问题是知识追踪，其目标是根据学习者过去的练习表现精确追踪学习者在概念上不断变化的知识状态。
2、传统知识追踪模型贝叶斯知识追踪(bkt)、深度知识追踪(dkt)、动态键值存储网络知识追踪(dkvmn)主要利用时间信息(即学习者在练习中的顺序表现)。例如，贝叶斯知识追踪(bkt)采用隐马尔可夫模型分别追踪每个概念的演化知识状态，而深度知识追踪(dkt)使用循环神经网络对所有概念的状态进行联合建模。最近，越来越多的工作图知识追踪(gkt)、深度分层知识追踪(dhkt)、带有辅助信息的深度知识追踪注意到知识结构的价值，其中包含丰富的领域知识。
3、尽管已有部分知识追踪模型利用知识结构取得了显着的进步，但先前的工作忽略了知识传播中的结构性演化和累积性演化两方面的结合过程，并且现有工作都只能从一种时间维度上提取特征，而忽略了不同时间尺度上的信息。
技术实现思路
1、本专利技术的目的就是为了克服上述现有技术中的不足之处，提供一种基于多尺度时空卷积注意力的知识追踪方法，综合利用键值网络、多尺度注意力卷积神经网络、图卷积网路、注意力
2、本专利技术的目的是通过如下技术措施来实现的。
3、一种基于多尺度时空卷积注意力知识追踪方法，包括以下步骤：
4、(1)试题和学生响应嵌入表征；对试题和学生作答数据进行清洗和筛选，分别通过embedding将试题和学生响应嵌入为隐藏表示；
5、(2)隐藏知识状态生成；通过线性映射和softmax计算试题与知识点的相关性权重，随后使用遗忘门和添加门结合学生响应信息调整隐藏知识状态，最终形成学生在每个知识点上的更新和遗忘程度的隐藏知识状态集合；
6、(3)知识结构性演化；将隐藏知识状态序列平均汇总为时空图，并运用(2)中得到的试题与知识点的相关性权重计算时空图加权邻接矩阵，再使用空间图卷积操作对知识结构维度演化进行建模；
7、(4)知识累积性演化；通过多尺度时空卷积注意力提取特征，利用激活函数和残差连接生成卷积结果，然后使用时序门控卷积网络模拟学生记忆和遗忘行为，对知识时间维度演化进行建模；
8、(5)时空融合预测；将结构性演化和累积性演化分别建模两部分隐藏知识状态进行融合，通过多头注意力网络结合学生知识状态和试题特征，预测学习者对后续问题的作答正确概率。
9、在上述技术方案中，步骤(1)中所述学生试题和学生响应嵌入表征具体为：
10、(1-1)试题嵌入：首先对数据集中的试题进行清洗、筛选和重新编号，再对试题使用embedding嵌入，将每个试题的索引映射成一个隐藏表示。
11、(1-2)学生响应嵌入：首先根据学生作答数据删除缺失项条目，再筛选出数据集中作答试题数量大于5的记录。其次，组合试题集表示q与学生的学生作答情况y信息。最后通过embedding进行嵌入，得到学生对于每个试题的作答情况表示。
12、在上述技术方案中，步骤(2)中所述隐藏知识状态生成具体为：
13、(2-1)计算输入试题与知识点的相关性权重：首先设置知识点数量，经过线性层将试题映射到各个知识点上，再用softmax计算每个问题在概念空间中的注意力分布，即每个试题与知识点的相关性权重。
14、(2-2)隐藏知识状态的遗忘和更新：先初始化一个隐藏知识状态，每次作答一个试题之后，学生响应信息经过遗忘门和添加门与步骤(2-1)中获得的知识点相关性权重相乘，得到学生再每个知识点上的遗忘和更新程度，对隐藏知识状态进行更新。
15、(2-3)隐藏知识状态收集：用append函数将每个时间步的隐藏知识状态收集起来，合成隐藏知识状态集合。
16、在上述技术方案中，步骤(3)中所述知识结构性演化具体为：
17、(3-1)计算时空图加权邻接矩阵：将隐藏知识状态视为一系列时空图。首先通过对序列长度维度的知识点权重平均汇总，再经过softmax转化为概率分布，最后通过与自己的转置相乘，将(2)中得到的试题与知识点的相关性权重转化为权重邻接矩阵。
18、(3-2)知识结构维度演化建模：在得到邻接矩阵wij之后，对输入隐藏知识状态φv进行图卷积操作，聚合图上相关知识节点的信息。利用空间图卷积操作，对知识结构性演化过程进行建模。
19、在上述技术方案中，步骤(4)中所述知识累积性演化具体为：
20、(4-1)知识时间维度更新：首先，将隐藏知识状态φv输入到多尺度时空卷积注意力中做卷积操作得到mca_out1，通过不同大小的卷积提取不同时间尺度的特征。其次，将mca_out1用gelu函数进行激活得到得到mca_out2。最后，用将原始输入数据φv与mca_out2相加，实现残差连接，再经过批归一化操作输出mca_out。
21、(4-2)记忆遗忘模拟建模：在得到(4-1)的多尺度时间卷积注意力的输出mca_out之后，利用时序门控卷积网络对学生的记忆和遗忘行为进行模拟，最后输出知识状态沿累积性过程演化结果。
22、在上述技术方案中，步骤(5)中所述时空融合预测具体为：
23、(5-1)知识状态时空融合：将步骤(3)和(4)中的得到的包含时间信息和空间信息的隐藏知识状态进行concate拼接融合得到
24、(5-2)结合问题预测：首先，将需要预测的后续问题qy输入到多头自注意力网络中提取特征。其次，将和qy一起输入到多头注意力网络中，根据学生知识状态和试题特征结合判断学生是否能够正确作答。最后，预测层中的前馈神经网络输出最终预测结果，即得到学习者对于后续问题qy的作答正确概率。
25、有益效果：
26、本专利技术一种基于多尺度时空卷积注意力知识追踪方法，采用embedding的方法将试题和学生响应进行嵌入表征；随后，运用键值网络生成学生隐藏知识状态；用空间图卷积技术对知识结构维度演化进行建模；同时，利用多尺度时空卷积注意力网络建模知识累积性演化，并使用时序门控卷积网络模拟学生记忆和遗忘行为；最后，将结构性演化和累积性演化分别建模两部分隐藏知识状态进行融合，通过多头注意力网络结合学生知识状态和试题特征，实现对学习者的知识状态的表征和学习者表现预测。本专利技术能够科学、全面地对学生学习情况进行预测，达到辅助教师进行精准教学的目的。
本文档来自技高网...【技术保护点】
1.一种基于多尺度时空卷积注意力知识追踪方法，其特征在于该方法包括以下步骤：
2.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(1)中所述学生试题和学生响应嵌入表征具体包括：
3.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(2)中所述隐藏知识状态生成具体包括：
4.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(3)中所述知识结构性演化具体包括：
5.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(4)中所述知识累积性演化具体包括：
6.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(5)中所述时空融合预测具体包括：
【技术特征摘要】
1.一种基于多尺度时空卷积注意力知识追踪方法，其特征在于该方法包括以下步骤：
2.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(1)中所述学生试题和学生响应嵌入表征具体包括：
3.根据权利要求1所述的基于多尺度时空卷积注意力知识追踪方法，其特征在于步骤(2)中所述隐藏知识状态生成具体包括：
4....
【专利技术属性】
技术研发人员：黄涛，徐卓然，胡盛泽，杨华利，耿晶，欧鑫佳，张浩，刘三女牙，杨宗凯，
申请(专利权)人：华中师范大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。