CN112085168A - 一种基于动态键值门控循环网络的知识追踪方法及系统 - Google Patents
一种基于动态键值门控循环网络的知识追踪方法及系统 Download PDFInfo
- Publication number
- CN112085168A CN112085168A CN202010952039.9A CN202010952039A CN112085168A CN 112085168 A CN112085168 A CN 112085168A CN 202010952039 A CN202010952039 A CN 202010952039A CN 112085168 A CN112085168 A CN 112085168A
- Authority
- CN
- China
- Prior art keywords
- knowledge
- dynamic key
- state
- neural network
- key value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 239000011159 matrix material Substances 0.000 claims abstract description 93
- 238000013528 artificial neural network Methods 0.000 claims abstract description 75
- 125000004122 cyclic group Chemical group 0.000 claims abstract description 64
- 230000002452 interceptive effect Effects 0.000 claims abstract description 31
- 238000004260 weight control Methods 0.000 claims description 30
- 238000012549 training Methods 0.000 claims description 21
- 230000004913 activation Effects 0.000 claims description 19
- 230000003993 interaction Effects 0.000 claims description 14
- 230000000306 recurrent effect Effects 0.000 claims description 14
- 238000010606 normalization Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 241001522296 Erithacus rubecula Species 0.000 claims description 2
- 230000006870 function Effects 0.000 description 19
- 230000008859 change Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 4
- 230000015654 memory Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种基于动态键值门控循环网络的知识追踪方法及系统。该方法包括:获取学生在交互日志数据集中的历史答题序列;根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。本发明所提供的一种基于动态键值门控循环网络的知识追踪方法及系统,提高知识追踪的准确性。
Description
技术领域
本发明涉及知识追踪领域,特别是涉及一种基于动态键值门控循环网络的知识追踪方法及系统。
背景技术
随着互联网教育的快速发展,在线学习平台的学习人数众多,导致平台对学生知识掌握状态的评估和个性化的学习指导存在诸多困难。知识追踪是智能在线学习平台广泛使用的一种学生学习状态预测模型。根据学生的历史答题序列,知识追踪可以对学生与习题的交互过程进行建模,从而追踪学生各个阶段的知识掌握状态。知识追踪领域主要有两大类:传统知识追踪模型和深度知识追踪模型。
以贝叶斯知识追踪模型(BayesianKnowledge Tracing,BKT)为代表的传统知识追踪模型,使用具有两状态的隐马尔科夫模型(Hidden Markov Model,HMM)对不同的知识点分别建模,认为学生对知识点只有掌握和未掌握两种状态,并利用四个参数值来更新学生的知识掌握状态。
深度知识追踪模型使用深度神经网络来模拟学生在答题过程中知识状态的变化。利用长短时期记忆网络(Long Short-TermMemoryNetwork,LSTM)的深度知识追踪模型(Deep Knowledge Tracing,DKT)首次将深度学习技术应用在知识追踪领域,它使用一个高维的隐藏状态来表示学生对所有知识的总体掌握情况,并预测学生的答题表现。动态键值记忆网络(Dynamic Key-Value Memory Networks,DKVMN)模型借鉴了记忆增强神经网络(Memory AugmentedNeural Network,MANN)的思想,借助Key-Value矩阵来模拟存储学生的各个知识点的知识状态变化。
但是,在模拟学生在答题活动中知识状态变化方面,两类模型都存在着以下不足之处:首先,在知识应用方面,对于同一道习题,不同的学生根据自身的知识状态使用各个知识点的比重是不同的;其次根据艾宾浩斯遗忘曲线,遗忘程度随时间的流逝而先快后慢,特别是在刚刚识记的短时间,则学生在刚回答完的习题中所学知识的遗忘程度大,而先前已学的知识遗忘成程度小。
可见,亟需一种新的知识追踪方法或系统解决上述的技术问题,提高知识追踪的准确性。
发明内容
本发明的目的是提供一种基于动态键值门控循环网络的知识追踪方法及系统,提高知识追踪的准确性。
为实现上述目的,本发明提供了如下方案:
一种基于动态键值门控循环网络的知识追踪方法,包括:
获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误;
根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态;
根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。
利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
可选的,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,具体包括:
利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征;
将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征;
将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门;
根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征;
将所述知识应用状态特征与所述交互特征采用按向量拼接的方式进行融合,得到知识状态增长特征;
根据所述知识遗忘权重控制门,分别加权所述知识状态特征矩阵和所述知识状态增长特征后再进行相加,得到更新后的知识状态特征矩阵。
可选的,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,具体还包括:
利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征;
将所述习题特征与所述知识点特征矩阵中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重;
将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征;
将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征;
将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况。
可选的,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,之前还包括:
采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
可选的,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,之前还包括:
采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
一种基于动态键值门控循环网络的知识追踪系统,包括:
历史答题序列获取模块,用于获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误;
特征矩阵确定模块,用于根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态;
动态键值门控循环神经网络确定模块,用于根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。
知识追踪模块,用于利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
可选的,所述知识追踪模块具体包括:
交互特征确定单元,用于利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征;
融合后的特征确定单元,用于将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征;
知识权重控制门和知识遗忘权重控制门确定单元,用于将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门;
知识应用状态特征确定单元,用于根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征;
知识状态增长特征确定单元,用于将所述知识应用状态特征与所述交互特征采用按向量拼接的方式进行融合,得到知识状态增长特征;
更新后的知识状态确定单元,用于根据所述知识遗忘权重控制门,分别加权所述知识状态特征矩阵和所述知识状态增长特征后再进行相加,得到更新后的知识状态特征矩阵。
可选的,所述知识追踪模块具体还包括:
习题特征确定单元,用于利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征;
知识权重确定单元,用于将所述习题特征与所述知识点特征矩阵中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重;
总体掌握状态特征确定单元,用于将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征;
习题难度特征确定单元,用于将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征;
学生答题的情况预测单元,用于将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况。
可选的,还包括:
第一训练模块,用于采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
可选的,还包括:
第二训练模块,用于采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
本发明所提供的一种基于动态键值门控循环网络的知识追踪方法及系统,根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵,挖掘知识点之间、习题与知识点之间的关系,避免深度知识追踪模型(DKT)对学生知识状态的不可解释性。根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络,根据动态键值门控循环神经网络设计了知识权重控制门和知识遗忘权重控制门,分别衡量学生解决习题所应用到知识点的比重和所学知识点随时间变化遗忘程度。本发明提出的方法能够根据学生知识应用能力和遗忘规律,更好地模拟学生在答题过程中知识应用的能力和答题后知识状态的变化,与已有的方法相比,提高知识追踪的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明所提供的一种基于动态键值门控循环网络的知识追踪方法流程示意图;
图2为本发明所提供的一种基于动态键值门控循环网络的知识追踪系统结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种基于动态键值门控循环网络的知识追踪方法及系统,提高知识追踪的准确性。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1为本发明所提供的一种基于动态键值门控循环网络的知识追踪方法流程示意图,如图1所示,本发明所提供的一种基于动态键值门控循环网络的知识追踪方法,包括:
S101,获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误。即历史答题序列为历史答题交互的序列。
S102,根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态。根据所述历史答题序列确定N个潜在的知识点;根据所述历史答题序列确定N个潜在的知识点的知识点特征矩阵和知识状态特征矩阵。
S103,根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。即所述动态键值门控循环神经网络用于学生知识应用、记忆和遗忘,衡量学生解决习题所应用到知识点的比重和所学知识点随时间变化遗忘程度。
知识状态特征矩阵Vt作为动态键值门控循环神经网络的隐藏层,用于动态更新学生答题后各个知识点的掌握情况;知识权重控制门zt和知识遗忘权重控制门ut,分别衡量学生解决习题所应用到知识点的比重和所学知识点随时间变化遗忘程度。
S104,利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
S104具体包括:
利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征。即通过公式yt=qt+rt×E得到学生回答习题qt的习题交互信息yt,其中,E为习题标签数量,rt为回答情况,1表示回答正确,0表示回答错误。习题交互信息yt通过Embedding层获得习题的交互特征ct。
将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征。
将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门。具体过程如下:
根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征Dt。Dt=zt*Vt。
即通过知识权重控制门zt来加权知识状态特征矩阵,获得知识应用状态特征Dt,即有针对性地选取本次答题所用各个知识点,将知识应用状态特征Dt与习题交互特征ct采用按向量拼接的方式进行融合,得到在本次答题中N个潜在知识点的知识状态增长特征
利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征et。
将所述习题特征与所述知识点特征矩阵K=(k1,k2,...,kN)中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重。wt=Softmax(et·KT)。
将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征rt。rt=wt·Vt。
将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征dt。dt=Tanh(et·W1+b1)。
将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况pt。pt=Sigmoid(Tanh([rt:dt]·W2+b2)·W3+b3)。
由于学生对习题qt的掌握水平和习题难度都会影响学生的答题正确率,将学生对习题qt所含知识点的总体掌握状态特征rt与习题难度特征dt采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,得到预测学生答题的情况pt。
S104之前还包括:
所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,之前还包括:
采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
即利用L=-∑trtlog(pt)+(1-rt)log(1-pt)最小化预测值pt与实际答题rt之间的差异。
采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
利用接受者操作特性曲线下的面积AUC作为动态键值门控循环神经网络的评价指标,测试动态键值门控循环神经网络的性能。
图2为本发明所提供的一种基于动态键值门控循环网络的知识追踪系统结构示意图,如图2一种基于动态键值门控循环网络的知识追踪系统,包括:历史答题序列获取模块201、特征矩阵确定模块202、动态键值门控循环神经网络确定模块203和知识追踪模块204。
历史答题序列获取模块201用于获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误。
特征矩阵确定模块202用于根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态。
动态键值门控循环神经网络确定模块203用于根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。
知识追踪模块204用于利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
所述知识追踪模块具体包括:交互特征确定单元、融合后的特征确定单元知识权重控制门和知识遗忘权重控制门确定单元、知识应用状态特征确定单元知识状态增长特征确定单元和更新后的知识状态确定单元。
交互特征确定单元用于利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征。
融合后的特征确定单元用于将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征。
知识权重控制门和知识遗忘权重控制门确定单元用于将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门。
知识应用状态特征确定单元用于根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征。
知识状态增长特征确定单元用于将所述知识应用状态特征与所述交互特征采用按向量拼接的方式进行融合,得到知识状态增长特征。
更新后的知识状态确定单元用于根据所述知识遗忘权重控制门,分别加权所述知识状态特征矩阵和所述知识状态增长特征后再进行相加,得到更新后的知识状态特征矩阵。
所述知识追踪模块具体还包括:习题特征确定单元、知识权重确定单元、总体掌握状态特征确定单元、习题难度特征确定单元和学生答题的情况预测单元。
习题特征确定单元用于利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征。
知识权重确定单元用于将所述习题特征与所述知识点特征矩阵中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重。
总体掌握状态特征确定单元用于将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征。
习题难度特征确定单元用于将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征。
学生答题的情况预测单元用于将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况。
本发明所提供的一种基于动态键值门控循环网络的知识追踪系统,还包括:第一训练模块。
第一训练模块用于采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
本发明所提供的一种基于动态键值门控循环网络的知识追踪系统,其特征在于,还包括:第二训练模块。
第二训练模块用于采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种基于动态键值门控循环网络的知识追踪方法,其特征在于,包括:
获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误;
根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态;
根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。
利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
2.根据权利要求1所述的一种基于动态键值门控循环网络的知识追踪方法,其特征在于,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,具体包括:
利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征;
将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征;
将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门;
根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征;
将所述知识应用状态特征与所述交互特征采用按向量拼接的方式进行融合,得到知识状态增长特征;
根据所述知识遗忘权重控制门,分别加权所述知识状态特征矩阵和所述知识状态增长特征后再进行相加,得到更新后的知识状态特征矩阵。
3.根据权利要求2所述的一种基于动态键值门控循环网络的知识追踪方法,其特征在于,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,具体还包括:
利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征;
将所述习题特征与所述知识点特征矩阵中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重;
将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征;
将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征;
将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况。
4.根据权利要求1所述的一种基于动态键值门控循环网络的知识追踪方法,其特征在于,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,之前还包括:
采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
5.根据权利要求1所述的一种基于动态键值门控循环网络的知识追踪方法,其特征在于,所述利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪,之前还包括:
采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
6.一种基于动态键值门控循环网络的知识追踪系统,其特征在于,包括:
历史答题序列获取模块,用于获取学生在交互日志数据集中的历史答题序列;所述历史答题序列包括习题标签和答题情况;所述历史答题序列为习题交互信息;所述历史答题序列以时间为顺序;所述答题情况包括回答正确或回答错误;
特征矩阵确定模块,用于根据所述历史答题序列确定知识点特征矩阵和知识状态特征矩阵;所述知识点特征矩阵用于存储知识点特征;所述知识状态特征矩阵用于存储学生各个知识点状态;
动态键值门控循环神经网络确定模块,用于根据所述的知识点特征矩阵、知识状态特征矩阵及门控循环神经网络构建动态键值门控循环神经网络;所述动态键值门控循环神经网络用于跟踪学生的知识状态并预测学生的答题情况。
知识追踪模块,用于利用所述动态键值门控循环神经网络对所述学生知识状态进行知识追踪。
7.根据权利要求6所述的一种基于动态键值门控循环网络的知识追踪方法,其特征在于,所述知识追踪模块具体包括:
交互特征确定单元,用于利用所述习题交互信息,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的交互特征;
融合后的特征确定单元,用于将所述交互特征和所述知识状态特征矩阵按向量相加的方式进行融合,得到融合后的特征;
知识权重控制门和知识遗忘权重控制门确定单元,用于将所述融合后的特征分别通过全连接层和Sigmoid激活函数,得到知识权重控制门和知识遗忘权重控制门;
知识应用状态特征确定单元,用于根据所述知识权重控制门加权所述知识状态特征矩阵,得到知识应用状态特征;
知识状态增长特征确定单元,用于将所述知识应用状态特征与所述交互特征采用按向量拼接的方式进行融合,得到知识状态增长特征;
更新后的知识状态确定单元,用于根据所述知识遗忘权重控制门,分别加权所述知识状态特征矩阵和所述知识状态增长特征后再进行相加,得到更新后的知识状态特征矩阵。
8.根据权利要求7所述的一种基于动态键值门控循环网络的知识追踪系统,其特征在于,所述知识追踪模块具体还包括:
习题特征确定单元,用于利用所述习题的习题标签,通过所述动态键值门控循环神经网络的Embedding层获得所述习题的习题特征;
知识权重确定单元,用于将所述习题特征与所述知识点特征矩阵中的每个知识点特征做内积,并采用Softmax函数进行归一化处理,确定习题特征与各个知识点的知识权重;
总体掌握状态特征确定单元,用于将所述知识权重与所述知识状态特征矩阵相乘,得到所述学生对习题所含知识点的总体掌握状态特征;
习题难度特征确定单元,用于将所述习题特征经过全连接层和Tanh激活函数,得到习题难度特征;
学生答题的情况预测单元,用于将所述总体掌握状态特征与所述习题难度特征采用按向量拼接的方式进行融合,再经过两层全连接层和激活函数,预测学生答题的情况。
9.根据权利要求6所述的一种基于动态键值门控循环网络的知识追踪系统,其特征在于,还包括:
第一训练模块,用于采用交叉熵损失函数对所述动态键值门控循环神经网络进行训练。
10.根据权利要求6所述的一种基于动态键值门控循环网络的知识追踪系统,其特征在于,还包括:
第二训练模块,用于采用反向传播算法对所述动态键值门控循环神经网络的参数进行训练,直至整个网络模型收敛。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010952039.9A CN112085168A (zh) | 2020-09-11 | 2020-09-11 | 一种基于动态键值门控循环网络的知识追踪方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010952039.9A CN112085168A (zh) | 2020-09-11 | 2020-09-11 | 一种基于动态键值门控循环网络的知识追踪方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112085168A true CN112085168A (zh) | 2020-12-15 |
Family
ID=73736674
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010952039.9A Withdrawn CN112085168A (zh) | 2020-09-11 | 2020-09-11 | 一种基于动态键值门控循环网络的知识追踪方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112085168A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990464A (zh) * | 2021-03-12 | 2021-06-18 | 东北师范大学 | 一种知识追踪方法及系统 |
CN113282723A (zh) * | 2021-05-21 | 2021-08-20 | 上海伯禹信息科技有限公司 | 基于图神经网络的深度知识追踪预训练方法 |
CN113344054A (zh) * | 2021-05-29 | 2021-09-03 | 华中师范大学 | 一种面向时空演变的知识技能动态诊断方法 |
CN113361685A (zh) * | 2021-05-25 | 2021-09-07 | 华中师范大学 | 一种基于学习者知识状态演化表示的知识追踪方法及系统 |
CN113360669A (zh) * | 2021-06-04 | 2021-09-07 | 中南大学 | 一种基于门控图卷积时序神经网络的知识追踪方法 |
CN113724110A (zh) * | 2021-08-27 | 2021-11-30 | 中国海洋大学 | 一种可解释的深度知识追踪方法、系统及其应用 |
CN114781710A (zh) * | 2022-04-12 | 2022-07-22 | 云南师范大学 | 一种综合学习过程及题目知识点难度特征的知识追踪方法 |
-
2020
- 2020-09-11 CN CN202010952039.9A patent/CN112085168A/zh not_active Withdrawn
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990464A (zh) * | 2021-03-12 | 2021-06-18 | 东北师范大学 | 一种知识追踪方法及系统 |
CN113282723A (zh) * | 2021-05-21 | 2021-08-20 | 上海伯禹信息科技有限公司 | 基于图神经网络的深度知识追踪预训练方法 |
CN113361685A (zh) * | 2021-05-25 | 2021-09-07 | 华中师范大学 | 一种基于学习者知识状态演化表示的知识追踪方法及系统 |
CN113361685B (zh) * | 2021-05-25 | 2022-08-19 | 华中师范大学 | 一种基于学习者知识状态演化表示的知识追踪方法及系统 |
CN113344054A (zh) * | 2021-05-29 | 2021-09-03 | 华中师范大学 | 一种面向时空演变的知识技能动态诊断方法 |
CN113360669A (zh) * | 2021-06-04 | 2021-09-07 | 中南大学 | 一种基于门控图卷积时序神经网络的知识追踪方法 |
CN113360669B (zh) * | 2021-06-04 | 2023-08-18 | 中南大学 | 一种基于门控图卷积时序神经网络的知识追踪方法 |
CN113724110A (zh) * | 2021-08-27 | 2021-11-30 | 中国海洋大学 | 一种可解释的深度知识追踪方法、系统及其应用 |
CN114781710A (zh) * | 2022-04-12 | 2022-07-22 | 云南师范大学 | 一种综合学习过程及题目知识点难度特征的知识追踪方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112085168A (zh) | 一种基于动态键值门控循环网络的知识追踪方法及系统 | |
CN110807469B (zh) | 融合长短时记忆与贝叶斯网络的知识追踪方法及系统 | |
CN113724110A (zh) | 一种可解释的深度知识追踪方法、系统及其应用 | |
CN114254127A (zh) | 学生能力画像方法、学习资源推荐方法及装置 | |
CN117033802B (zh) | 基于ai辅助的授课题目推送方法及系统 | |
CN114911975A (zh) | 一种基于图注意力网络的知识追踪方法 | |
CN114429212A (zh) | 智能学习知识能力跟踪方法、电子设备及存储介质 | |
CN114971066A (zh) | 融合遗忘因素和学习能力的知识追踪方法及系统 | |
Han | A Fuzzy Logic and Multilevel Analysis‐Based Evaluation Algorithm for Digital Teaching Quality in Colleges and Universities | |
CN117349362A (zh) | 一种动态知识认知层级挖掘方法、系统、设备及终端 | |
CN114925218B (zh) | 一种基于自适应图的学习者知识认知结构动态挖掘方法 | |
CN115439281A (zh) | 基于时空图卷积的学习者知识认知结构评价方法及系统 | |
CN114117033B (zh) | 知识追踪方法及系统 | |
CN114971972A (zh) | 融合遗忘因素和习题难度的深度知识追踪方法及智能终端 | |
CN115577180A (zh) | 一种考虑课程先导关系和课程分类的序列推荐方法 | |
Minghui et al. | Enhancing Education Performance through Machine Learning: A Study of Student Learning Outcomes Prediction Using GANs and ANNs | |
CN114861914A (zh) | 一种面向学习轨迹的细粒度知识追踪方法 | |
Liu | [Retracted] Evaluation of Japanese Teaching Quality Based on Deep Neural Network | |
Zhang et al. | Learning ability community for personalized knowledge tracing | |
CN114091657A (zh) | 基于多任务框架的智能学习状态追踪方法、系统及应用 | |
Zhang et al. | Going Online: A Simulated Student Approach for Evaluating Knowledge Tracing in the Context of Mastery Learning. | |
CN115952838B (zh) | 一种基于自适应学习推荐系统生成方法及系统 | |
CN113989080B (zh) | 基于深度知识-项目联合追踪的学习者画像方法及其系统 | |
CN114155124B (zh) | 一种试题资源推荐方法及系统 | |
Li et al. | Self-learning tags and hybrid responses for deep knowledge tracing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20201215 |