CN111539528A - 基于异构结构的知识追踪方法 - Google Patents

Abstract

一种基于异构结构的知识追踪方法，包括以下步骤：获取学生的练习历史日志，以及每道习题考察的知识点；获取知识点之间关系构成的异构知识结构；将学生的成绩日志处理为若干按照时间顺序排列的作答序列，每个作答序列包括特定学生在特定时间的一系列答题结果；基于知识所具有的图结构性质，应用两个不同的传播模型来追踪沿不同关系的影响，包括同步传播方法和异步传播方法；采用级联影响传播单元对模型的时间效果和空间效果进行联合建立模型，将异构知识结构和学生的作答序列作为输入，由级联影响传播单元从每一个时刻的作答情况中提取出每次学习对知识点产生的时序影响；采用门控函数综合时序影响和空序影响的综合效果，更新学生的知识状态。

Description

基于异构结构的知识追踪方法

技术领域

本发明涉及机器学习和教育数据挖掘技术领域，尤其涉及一种基于异构结构的知识追踪方法。

背景技术

知识追踪(Knowledge Tracing,KT)是一种根据学生过去的练习表现，精确地追踪其动态变化的知识状态的一项技术。近年来，在线教育系统的研究和应用蓬勃发展，许多知名教育网站都采用了在线教育系统。这些系统不仅可以帮助教师根据学生的个性给出针对性的指导，也可以帮助学生及时地认识到自己的学习进度。知识追踪在在线教育系统中扮演着至关重要的角色，是一项基础但具有挑战性的任务。教育学理论已经证明，当学生在学习一个知识点时，不仅正在学习的知识点的掌握程度会发生变化，与之相关的知识点也会发生变化。然而，传统的知识追踪主要利用了时间信息，即学生的答题记录，而忽略了不同知识点之间存在的关系，即“知识结构”对知识状态的影响。最近的一些研究虽然考虑了“知识结构”的影响，但忽略了知识点之间的传播具有不同形式，如相似关系(无向，影响力可双向传播)和前驱后继关系(有向，影响力只能当向传播)。

发明内容

有鉴于此，本发明的主要目的在于提供一种基于异构结构的知识追踪方法，以期部分地解决上述技术问题中的至少之一。

为了实现上述目的，作为本发明的一方面，提供了一种基于异构结构的知识追踪方法，包括以下步骤：

从在线教育平台中获取学生的练习历史日志，以及每道习题考察的知识点；获取知识点之间关系构成的异构知识结构，知识点之间的关系包括前驱后继关系及相似关系；

将学生的成绩日志处理为若干按照时间顺序排列的作答序列，每个作答序列包括特定学生在特定时间的一系列答题结果；同时，需要删除一些前驱后继关系，保证知识结构为有向无环图；

基于知识所具有的图结构性质，应用两个不同的传播模型来追踪沿不同关系的影响，包括同步传播方法和异步传播方法；采用级联影响传播单元对模型的时间效果和空间效果进行联合建立模型，将异构知识结构和学生的作答序列作为输入，由级联影响传播单元从每一个时刻的作答情况中提取出每次学习对知识点产生的时序影响；

采用门控函数综合时序影响和空序影响的综合效果，更新学生的知识状态；模型使用特定的映射函数根据知识点的隐藏状态向量预测正确作答概率。

基于上述技术方案可知，本发明的基于异构结构的知识追踪方法相对于现有技术至少具有如下有益效果的一部分：

本发明采用基于异构结构的知识追踪方法(SKT)来对学生的知识状态进行动态更新，同时可预测学生在新习题上的答题表现。本发明能够为在线教育系统提供更好的数据画像和习题分析服务，提升学生在使用网上教育平台时的学习效果。

附图说明

图1为本发明实施例的知识追踪的形式化描述图；

图2为本发明实施例的模型的框架图。

具体实施方式

本发明公开了一种基于异构结构的知识追踪方法(Structure-based KnowledgeTracing,SKT)。具体来说，首先从每个时间步的作答记录中提取时序影响，然后通过门函数更新被练习知识点的状态。之后，模拟出被时序影响作用的在异构知识结构中的影响传播过程，对无向关系采用同步传播方法，对有向关系采用偏序传播方法。最后，对于在传播中受影响的知识点，使用相同的门函数，基于被传播到该知识点的影响作用来更新状态。通过这种方式，建模了异构知识结构中知识点之间的影响传播过程，并进一步对时间和空间效果进行了联合建模。在建模过程中，通过综合考虑时间和空间上的学习效果，并对影响在异构知识结构中的传播进行量化，在改进模型效果的同时，还具有高度的可解释性。

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明作进一步的详细说明。

本发明提供一种基于异构结构的知识追踪方法，可以有效地对学生学习过程中的知识状态进行动态建模，其主要包括如下步骤：

一、问题定义与形式化

知识追踪任务包含两部分，分别是：(1)根据学生的答题表现序列建模他们的知识状态；(2)预测学生未来在答题时的表现。知识追踪任务通常被形式化为监督序列预测问题。通过引入图式的异构知识结构，将知识跟踪问题定义为：如图1所示，给定一个学生的历史作答序列，即X＝{x_t,t∈{0,1,…,T}},其中x_t＝(e_t,r_t),r_t表示学生t时刻回答习题e_t的答案是否正确，r_t＝0表示回答错误，r_t＝1表示回答正确。每个习题e_t测试一个知识点c_t.每个知识点c_t关联着知识结构G(V,E)中的一个节点v.目标是建模学生在所有N个知识点(即G中的节点V)上的知识状态

并且预测学生正确作答新习题的概率，即P(r_t+1＝1|e_t+1,x_1…t,G)。

二.数据收集与预处理

1.数据收集

使用了真实的教育平台数据集，数据集包括由知识点间关系组成的知识结构和学生的某学科的练习历史日志，其中一个学生具有多个练习历史日志。学生成绩日志中记录的每个表现元组包含了一个学生在一个习题上的作答信息。除此之外，数据集中标注了每个题目所考察的知识点。

2.数据预处理

在训练模型之前，需要对数据集进行预处理来提升模型的效果。首先，需要对作答数据进行整理，按照时间顺序提取学生作答信息，并整理成多个作答序列。其次，为了保证知识结构中不存在冲突问题，对于知识点之间的先决条件关系，删除了一些循环，以保证知识结构为有向无环图。

三.模型的建立

SKT是一个序列化的模型，它利用了知识所具有的图结构性质，并应用两个不同的传播模型来追踪沿不同关系的影响传播过程，SKT的架构如图2所示。在每个时刻t，一个d_h维的向量

被用来表示知识点i的隐藏状态。学生在所有知识点上的隐藏状态向量构成了隐藏状态

如图2的左上部分所示。级联影响传播(CascadeInfluence Propagation,CIP单元用于对模型的时空效果进行联合建模。在每个时刻t中，CIP单元首先从作答记录x_t＝(e_t,r_t)中提取对在练习习题e_t所产生的学习的效果，即在考察知识点c_t＝i上产生的时序影响。在知识点i的状态受时序影响发生改变后，其会进一步影响其在知识结构上与之相连的其他知识点，即空序影响。为了对不同类型的知识点间关系所产生的空序效果进行建模，提出了两种不同的传播方法：同步传播方法f_sync和部分传播方法f_part.一旦一个知识点受到影响，它将不断影响与其相关联的知识点。因此，这种影响实际上将像波纹一样传播K跳，如图2的左下部分所示。在传播了K跳之后，知识点j上的隐藏状态从

转变为

在第k次传播之后的隐藏状态表示为

采用门控函数根据时间和空间效果更新隐藏状态向量.为了预测学生是否能正确作答新习题，使用映射函数

根据知识点i的隐藏状态向量推断正确的作答概率。详细内容如下：

1.时间效果的建模

如图2所示，在每个时刻t，时序影响

作用于知识点i，知识点i的隐藏状态从

变为

作答记录x_t＝{e_t,r_t}中隐含这一时序影响，其中习题e_t考察了知识点i.学生的作答记录向量x^t∈{0,1}^2N用于表示作答记录x_t：

然后，嵌入历史表现向量以计算时序影响

其中

是作答记录向量x^t的嵌入矩阵。然后将时序影响向量

输入到门函数

中，以更新知识点i的状态：

其中

是门控循环单元(Gated Recurrent Unit,GRU).后续部分将详细说明在知识点i在时间上受到影响之后，其他知识点在空间上受到的影响。

2.空间效果的建模

一旦某知识点i的状态被改变了，对相关知识点产生的影响会像波纹一样传播沿着不同的关系传播K跳，如图2的左下部分所示。不失一般性，将空序传播过程中的隐藏状态表示为

其中

特别的，为了表述的一致性，对任意知识点i，定义

图2展示了知识点j的隐藏状态如何被知识点i的影响传播而改变。下面将描述两种不同的影响传播方法：同步传播方法和异步传播方法。

(1)同步传播方法

先前关于无向关系的工作，例如相似关系和协作关系，已经有了一些有用的结论。比如在相似关系中，某知识点的熟练程度的提升将使相邻知识点的熟练程度也获得提升，反之亦然，这导致了相邻知识点的熟练程度具有相似性。可以基于知识迁移的理论进一步解释该思想，其影响在相邻知识点之间双向传播。受这些观察的启发，提出了一种同步传播方法来对双向影响传播进行建模。

具体来说，在影响传播的第k跳上，假设知识点i的隐藏状态从

变为

影响将通过相似关系传播给所有的相邻知识点：

其中

是一个相邻函数，该函数返回关系r上所有未被访问的相邻知识点i.

和

是被学习的参数。

(2)异步传播方法

对于那些有方向的关系，例如前驱后继关系和补充关系，采用偏序传播的方法。在有向关系中，前驱后继关系是被研究最深入的关系。先前的工作指出了前驱知识点和后继知识点的熟练程度具有偏序关系，其中前者的熟练程度预计会高于后者。同样可以从知识迁移的角度进一步解释该结论：影响是从前驱知识点单向传播到后继知识点。因此，提出了一种局部传播方法，该方法根据前驱知识点的状态变化来产生影响，并沿有向关系将影响传播到后继知识点。

具体来说，在影响传播的第K跳上，假设知识点i的隐藏状态从

变为

影响将沿关系r传播到其后继点：

其中

是一个后继函数，该函数返回关系r上所有的后继知识点i.

和

是学习到的参数。

3.更新知识状态

对于那些受到第k跳的同步传播或部分传播影响的知识点，模型首先综合考量同步传播和部分传播带来的影响，然后再根据这一综合影响更新知识点的隐藏状态向量。对于每个受到影响的知识点j，记综合影响I_j和新的隐藏状态向量

计算公式如下：

其中α是超参数。对于其他不受影响的知识点，如果知识点j已在先前传播中受到影响，则

否则，定义I_j＝O,然后使用式(7)更新知识点j的状态。某个知识点的状态一旦更改，它将不断影响与之关联的知识点的状态。在K跳次影响传播之后，知识点i的状态为

算法1描述了模型中影响传播的整个过程。

4.预测正确作答概率

在预测正确作答概率时，对于每个知识点i，模型将输出学生在下一个时刻t正确作答与知识点相应习题的预测概率：

其中W_o是权重矩阵，b_o是偏移项。在特定时刻t，学生的知识状态被计算为

学生正确作答新习题e_t的概率为：

5.损失函数和模型训练

在训练阶段，通过最小化p_t和真实标签r_t之间的标准交叉熵损失来联合训练SKT的参数：

SKT具有完全可微的性质，可以通过随机梯度下降进行有效的训练。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于异构结构的知识追踪方法，其特征在于，包括以下步骤：

从在线教育平台中获取学生的练习历史日志，以及每道习题考察的知识点；获取知识点之间关系构成的异构知识结构，知识点之间的关系包括前驱后继关系及相似关系；

将学生的成绩日志处理为若干按照时间顺序排列的作答序列，每个作答序列包括特定学生在特定时间的一系列答题结果；同时，需要删除一些前驱后继关系，保证知识结构为有向无环图；

基于知识所具有的图结构性质，应用两个不同的传播模型来追踪沿不同关系的影响，包括同步传播方法和异步传播方法；采用级联影响传播单元对模型的时间效果和空间效果进行联合建立模型，将异构知识结构和学生的作答序列作为输入，由级联影响传播单元从每一个时刻的作答情况中提取出每次学习对知识点产生的时序影响；

采用门控函数综合时序影响和空序影响的综合效果，更新学生的知识状态；模型使用特定的映射函数根据知识点的隐藏状态向量预测正确作答概率。

2.根据权利要求1所述的知识追踪方法，其特征在于，所述所有步骤之前还包括知识跟踪问题定义，具体定义为：给定一个学生的历史作答序列，即X＝{x_t,t∈{0,1,…,T}},其中x_t＝(e_t,r_t),r_t表示学生t时刻回答习题e_t的答案是否正确，r_t＝0表示回答错误，r_t＝1表示回答正确；每个习题e_t测试一个知识点c_t，每个知识点c_t关联着知识结构G(V,E)中的一个节点v，建模学生在所有N个知识点(即G中的节点V)上的知识状态

并且预测学生正确作答新习题的概率，即P(r_t+1＝1|e_t+1,x_1…t,G)。

3.根据权利要求1或2所述的知识追踪方法，其特征在于，所述时间效果的建模包括以下步骤：

在每个时刻t，时序影响向量

作用于知识点i，知识点i的隐藏状态从

变为

作答记录x_t＝{e_t,r_t}中隐含这一时序影响，其中习题e_t考察了知识点i，学生的作答记录向量x^t∈{0,1}^2N用于表示作答记录：

嵌入历史表现向量以计算时序影响向量

其中

是作答记录向量x^t的嵌入矩阵；

将时序影响向量

输入到门函数

中，以更新知识点i的状态：

其中

是门控循环单元。

4.根据权利要求1或2所述的知识追踪方法，其特征在于，所述同步传播方法具体包括：

在影响传播的第k跳上，假设知识点i的隐藏状态从

变为

影响将通过相似关系传播给所有的相邻知识点：

其中

是一个相邻函数，该函数返回关系r上所有未被访问的相邻知识点i，

和

是被学习的参数。

5.根据权利要求1或2所述的知识追踪方法，其特征在于，所述异步传播方法具体包括：

在影响传播的第K跳上，假设知识点i的隐藏状态从

变为

影响将沿关系r传播到其后继点：

其中

是一个后继函数，该函数返回关系r上所有的后继知识点i，

和

是学习到的参数。

6.根据权利要求1或2所述的知识追踪方法，其特征在于，所述更新学生的知识状态具体包括：

对于受到第k跳的同步传播或部分传播影响的知识点，模型首先综合考量同步传播和部分传播带来的影响，然后再根据这一综合影响更新知识点的隐藏状态向量；对于每个受到影响的知识点j，记综合影响I_j和新的隐藏状态向量

计算公式如下：

其中，α是超参数；

对于其他不受影响的知识点，如果知识点j已在先前传播中受到影响，则

否则，定义I_j＝0,然后更新知识点j的状态；某个知识点的状态一旦更改，它将不断影响与之关联的知识点的状态；在K跳次影响传播之后，知识点i的状态为

7.根据权利要求1或2所述的知识追踪方法，其特征在于，所述预测正确作答概率具体包括：

对于每个知识点i，模型将输出学生在下一个时刻t正确作答与知识点相应习题的预测概率：

其中，W_o是权重矩阵，b_o是偏移项；

在特定时刻t，学生的知识状态被计算为

学生正确作答新习题e_t的概率为：

8.根据权利要求1或2所述的知识追踪方法，其特征在于，所述建立模型的过程中还包括模型训练，通过最小化p_t和真实标签r_t之间的标准交叉熵损失来联合训练所述模型的参数：

Images