CN111159419B - 基于图卷积的知识追踪数据处理方法、系统和存储介质 - Google Patents

Abstract

本发明公开了一种基于图卷积的知识追踪数据处理方法、系统和存储介质，所述方法包括以下步骤：获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；其中，所述知识追踪模型的处理过程，其具体包括：对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度。本发明通过采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理，以更新当前知识点和相邻知识点的掌握程度，从而使更新后的知识点掌握程度更加符合实际掌握程度。本发明可广泛应用于深度学习技术领域。

Description

基于图卷积的知识追踪数据处理方法、系统和存储介质

技术领域

本发明涉及深度学习技术领域，尤其是一种基于图卷积的知识追踪数据处理方法、系统和存储介质。

背景技术

在线教育能够为学习者提供更多的自主知识建构支持，但是，又因为信息迷航问题导致在线学习者的学习效率和学习效果普遍不高。因此，需要构建一种与规模化在线教育相适应的自主学习系统，来解决该环境中学习者个性化自主知识建构的效率低下的问题。而构建自主学习系统的核心在于对在线学习者的知识状态进行实时追踪。

目前知识追踪手段主要是通过在线学习系统对在线学习者的解题信息进行收录，利用分析手段对学生的做题能力进行实时评估。其中，分析手段主要包括两类：一类是传统社会科学范畴的方法，如经典测试理论；另一类是项目反映理论，如贝叶斯知识跟踪和深度学习知识追踪。然而，一门课程或者学习学科的知识点天然存在图结构，而现有的知识追踪手段并不能很好处理这种图结构数据。而且，知识学习过程和掌握情况，并不仅仅只涉及知识点与习题的情况，还与学习者个人特征和周围环境有关，而现在采用的分析手段，只是考虑了知识点与习题的情况，没有考虑学习者个人特征和周围环境，因此使得分析得到的对知识点的掌握情况与实际情况存在较大差异。

发明内容

为解决上述技术问题，本发明的目的在于：提供一种基于图卷积的知识追踪数据处理方法、系统和存储介质，其能使分析得到的对知识点的掌握程度更加符合实际掌握程度。

本发明实施例的第一方面提供了：

一种基于图卷积的知识追踪数据处理方法，其包括以下步骤：

获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；

采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，所述知识追踪模型的处理过程，其具体包括：

对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；

根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度。

进一步地，所述根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度，其具体为：

根据图卷积处理结果，采用多层感知网络与时序网络更新当前知识点的掌握程度；

根据图卷积处理结果，采用多尺度多头部注意力机制与时序网络更新当前知识点的相邻知识点的掌握程度。

进一步地，所述多尺度多头部注意力机制是基于注意力机制构造的，所述多尺度多头部注意力机制的工作过程包括：

获取注意力函数，所述注意力函数包括邻接节点为终节点的注意力函数和邻接节点未起始节点的注意力函数；

根据注意力函数计算注意力值；

对所有注意力值进行集成。

进一步地，还包括以下步骤：

根据更新后的当前知识点和相邻知识点的掌握程度预测下一时间节点对当前知识点和相邻知识点的习题的答题情况。

进一步地，在所述获取当前时间节点对当前知识点的习题的答题信息这一步骤之前，还包括以下步骤：

获取符合预设要求的知识结构图。

进一步地，所述获取当前知识点的相邻知识点，其具体为：

在所述知识结构图内获取当前知识点的相邻知识点。

进一步地，在所述采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理这一步骤之前，还包括以下步骤：

采用随机梯度下降法对所述知识追踪模型进行训练。

本发明实施例的第二方面提供了：

一种基于图卷积的知识追踪数据处理系统，其包括：

获取模块，用于获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；

处理模块，用于采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，所述知识追踪模型的处理过程，其具体包括：

对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；

根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度。

本发明实施例的第三方面提供了：

一种基于图卷积的知识追踪数据处理系统，其包括：

至少一个存储器，用于存储程序；

至少一个处理器，用于加载所述程序以执行上述的一种基于图卷积的知识追踪数据处理方法。

本发明实施例的第四方面提供了：

一种存储介质，其中存储有处理器可执行的指令，所述处理器可执行的指令在由处理器执行时用于实现上述的一种基于图卷积的知识追踪数据处理方法。

本发明的有益效果是：本发明通过在对当前知识点的掌握程度进行分析时，获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点，并采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理，以更新当前知识点和相邻知识点的掌握程度，从而使更新后的当前知识点的掌握程度更加符合实际掌握程度。

附图说明

图1为本发明一种具体实施例的基于图卷积的知识追踪数据处理方法的流程图；

图2为本发明一种具体实施例在应用过程的知识追踪模型的模块框图；

图3为本发明一种具体实施例的知识追踪模型的数据处理方法的流程图。

具体实施方式

下面结合附图和具体实施例对本发明做进一步的详细说明。对于以下实施例中的步骤编号，其仅为了便于阐述说明而设置，对步骤之间的顺序不做任何限定，实施例中的各步骤的执行顺序均可根据本领域技术人员的理解来进行适应性调整。

在具体的知识学习过程中，一门课程可以理解成由知识点组成的知识结构图G＝(V,E,A)，其中V＝{v₁,v₂…v_N}表示知识点，N表示该门课程知识点的个数，而这些知识点之间存在一些关联关系，可以描述为

同时，它们之间的依赖程度由邻接矩阵A∈R^{N ×N}定义。而学生目前掌握的知识状况定义为

其中，t表示当前时间，

表示学生在t时间节点对知识点v_i的掌握情况。N_i表示知识点v_i相邻节点的知识集合。O_t表示更多的关于知识点、习题、学生个人特征及环境等影响知识水平的可选干扰信息。

在对学生关于知识点掌握情况的评价过程中，参照图1，本发明实施例提供了一种基于图卷积的知识追踪数据处理方法，本实施例应用于如图2所示的知识追踪模型的服务端内，所述服务端与多个终端设备连接。所述知识追踪模型与循环神经网络语言模型的结构类似，具体采用多步长序列设计，其中，包括步长单元M₁、M₂、、、M_t、、、M_T，总的步长为T。所述知识追踪模型包括输入部分、处理部分和输出部分，其中：

输入部分：用于输入二元组的序列，所述二元组的序列由知识点相关系统的答题信息和干扰信息，在知识追踪模型内，所述答题信息用x'_t表示，所述干扰信息用O表示，所述二元组表示为x_t＝(x'_t,O)，所述二元组序列表示为X_i＝(x₁,x₂,x₃…x_t…x_T)。

处理部分：用于对输入部分输入的数据进行处理，其中，每个步长单元M_t的处理部分包括卷积阶段、更新阶段和预测阶段。函数Emb表示嵌入表示过程，函数Agg表示卷积聚合过程，函数Att表示多尺度注意过程，函数Seq表示基于时序网络的学习过程，函数f_out表示预测过程，预测完成后会输出学生答对每个知识点习题的对应概率向量

表示第N题的答题情况。所述Emb函数对离散变量一般采用one-hot方式编码，对连续变量采用按比例归一化编码方式编码。

输出部分：用于输出预测结果，其中，输出向量Y_i＝(y₁,y₂…y_t…y_T)与知识追踪模型输入向量X_i＝(x₁,x₂,x₃…x_t…x_T)对应，y_t∈R^N×1表示在知识状态水平向量

下，学生对每个知识点习题的答题情况，即当前时间节点对所有知识的掌握情况。

具体地，本实施例包括步骤S110-S120：

S110、获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；所述答题信息是指当前时间节点获取到的实际的答题情况，用x'_t表示，而在知识追踪模型内的嵌入式表示成向量x'_t＝Emb(x'_t)，向量x'_t∈{0,1}^2N用于表示习题在t时间节点的答题情况。所述干扰信息用O表示，在知识追踪模型内的嵌入式表示为向量O_t＝Emb(O)，向量O_t∈R^1×e表示更多知识点、习题及学生个人特征等影响知识水平的可选的干扰信息，可根据实际情况进行选择，是知识追踪模型半开放特点的重要体现，e表示嵌入长度。所述相邻知识点用N_i表示。

S120、采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，如图3所示，所述步骤S120，其具体包括：

S121、对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；所述图卷积过程采用公式2进行图卷积处理：

其中，向量

表示图卷积处理后的结果；向量

表示在答题之前对知识点的掌握情况，即包含本次答题的干扰信息；向量x'_t表示答题信息；E_x＝R^2N×e是一个嵌入式矩阵，其表示知识点索引与对应答案的嵌入，E_c∈R^N×e表示知识点索引的嵌入矩阵；向量E_c(b)表示E_c的第b行；e表示嵌入式长度。

S122、根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度。更新过程是通过公式3、公式4和公式5进行更新：

其中，f_self是一种多层感知机网络，Seq_ea是一种擦除与增加门，Seq_gru是一种门控循环单元，本实施的Seq_ea和Seq_gru分别采用常用的g_ea和g_gru函数来实现。Att是一种定义信息在某种知识结构图下传输到邻接节点的注意力函数，outgo表示邻接节点是终点，income表示邻接节点是起始点。

本实施例通过在对当前知识点的掌握程度进行分析时，获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点，接着对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理，通过图卷积处理结果更新当前知识点和相邻知识点的掌握程度，从而使更新后的当前知识点的掌握程度更加符合实际掌握程度。

而为了使更新后当前知识点和相邻知识点的掌握程度更加与实际情况相对应，采用以下实施例进行处理。

作为优选的实施例，所述根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度，其具体为：

根据图卷积处理结果，采用多层感知网络与时序网络更新当前知识点的掌握程度；

根据图卷积处理结果，采用多尺度多头部注意力机制与时序网络更新当前知识点的相邻知识点的掌握程度。

具体地，所述注意力机制主要用于图中两个节点特征之间边权重值的学习。首先，多头部注意构造法利用多头部注意力机制来推断基于图中两个节点特征之间的边权重值。而本实施例采用的是基于多头部注意构造法改进后的多尺度多头部注意力机制。在多尺度多头部注意力机制中，Att_outgo函数和Att_income函数的定义如公式6和公式7：

其中，m为M个头部的头部索引，

和

是第m个头部的分量参数，f_q,k,v,o是第m个头部的一个特殊设计神经网络。

公式6和公式7的函数是基于注意力机制实现的，其工作机制和注意力机制相仿，本实施例与注意力机制的不同在于：第一，在传统(q,k,v)结构中加入了O参数矩阵，知识追踪模型就变成了(q,k,v,O)结构，O参数矩阵主要是用于表示其它相关影响因素，例如关于学生的个性化信息或习题类型信息等对知识水平追踪的影响。O参数矩阵的训练有两种模式，一种是共用模式，这种模式适合连续变量，例如学生的做题时长，另一种是区分模式，这种模式适合离散的变量，例如不同的习题类型对应不同的O参数矩阵，同一种习题类型共用一个参数矩阵。本实施例的(q,k,v,O)结构的注意力机制工作过程包括以下三个步骤：

步骤一、获取注意力函数，即

或者

也就是函数Att_outgo或者函数Att_income的输入。在Att_outgo函数中，以

作为W_q的右点乘输入得到相邻Q，由

作为W_k的点乘输入得到向量K_j，由

作为W_v的点乘输入得到向量V_j，由向量O作为W_o的右点乘输入得到向量O'。而在Att_income函数中，以

作为W_q的右点乘输入得到向量Q，由

作为W_k的点乘输入得到向量K_k，由

作为V_k的点乘输入得到向量V_k，由向量O作为W_o的右点乘输入得到向量O'。

步骤二、根据注意力函数计算注意力值，在本实施例中采用多头部的设计，在不同组的(q,k,v,O)结构中，采用不同注意力计算方法的框架设计，从而更好的平衡不同计算方法带来二代影响，获得更好的性能。

步骤三、对所有注意力值进行集成，为了得到Seq_ea的输入向量z_i,j和z_k,i，需要先计算出各个头部二代输出向量

然后进行分部求和，其求和公式如公式8和公式9所示：

本实施例通过静态的特征如概念和回应的嵌入，而不是动态特征来计算边的权重值，从而使知识结构图不受单元步长的影响，使得更新之后对当前知识点和相邻知识点的掌握程度更加符合实际情况。

作为优选的实施例，还包括以下步骤：

根据更新后的当前知识点和相邻知识点的掌握程度预测下一时间节点对当前知识点和相邻知识点的习题的答题情况。在一些实施例中，可以应用在学生成绩的预测过程中，其具体是将知识追踪模型中的(q,k,v,O)结构中的O部分设定为知识点习题类型，设置为区分知识追踪模型训练，即不同的习题类型对应不同的O参数矩阵，同一种习题类型共用一个参数矩阵。知识追踪模型的训练数据O_t设置成知识点相关习题的响应题目类型数据。

设定某次考试内容涉及的知识点其对应的题目类型标记为O＝{O_i}，考试涉及知识点集合为V及其占这次考试得分值R，想要预测学生的知识状态为H，则预测该学生这次考试学习成绩

的流程如下：

步骤一、获取需要预测考试成绩学生的知识状态水平

步骤二、获取考试知识点对应的考前知识状态水平

步骤四、把

输入知识追踪模型结构，预测得到学生答对各个知识点的概率

步骤五、计算各个学生得分

步骤六、输出学生考试预测成绩

本实施例通过根据更新后的当前知识点和相邻知识点的掌握程度预测下一次学生的答题情况，从而可以更好的掌握学生对知识的掌握程度。

作为优选的实施例，在所述获取当前时间节点对当前知识点的习题的答题信息这一步骤之前，还包括以下步骤：

获取符合预设要求的知识结构图。所述预设要求为需要进行知识追踪的科目或者领域。所述知识结构图可以是一个学科的知识点，也可以是一个单元的知识点。本实施通过获取符合预设要求的知识结构图，使得后续处理过程能够综合考虑多种因素从而使得到的结果更加符合实际情况。

作为优选的实施例，所述获取当前知识点的相邻知识点，其具体为：

在所述知识结构图内获取当前知识点的相邻知识点。所述相邻知识点是指在知识结构图中与当前知识点有直接连接的知识点。本实施例通过在知识结构图内获取当前知识点的相邻知识点，可以通过当前知识点的习题信息和干扰信息来更新相邻知识点的掌握情况。

作为优选的实施例，在所述采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理这一步骤之前，还包括以下步骤：

采用随机梯度下降法对所述知识追踪模型进行训练。

为了提高知识追踪模型在应该过程中输出结果的准确性，需要对知识追踪模型进行训练，具体通过随机梯度下降法进行训练，训练所用的损失函数采用公式1：

其中，r_t表示真实的答题情况，y_t表示预测得到的答题情况。通过降低损失函数Γ的值即能完成知识追踪模型参数的学习和初始化参数的学习。

本发明实施例还提供了一种与图1方法相对应的基于图卷积的知识追踪数据处理系统，其包括：

获取模块，用于获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；

处理模块，用于采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，所述知识追踪模型的处理过程，其具体包括：

对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；

根据图卷积处理结果更新当前知识点和相邻知识点的掌握程度。

本发明方法实施例的内容均适用于本系统实施例，本系统实施例所具体实现的功能与上述方法实施例相同，并且达到的有益效果与上述方法达到的有益效果也相同。

本发明实施例还提供了一种基于图卷积的知识追踪数据处理系统，其包括：

至少一个存储器，用于存储程序；

至少一个处理器，用于加载所述程序以执行上述的一种基于图卷积的知识追踪数据处理方法。

本发明方法实施例的内容均适用于本系统实施例，本系统实施例所具体实现的功能与上述方法实施例相同，并且达到的有益效果与上述方法达到的有益效果也相同。

此外，本发明实施例还提供了一种存储介质，其中存储有处理器可执行的指令，所述处理器可执行的指令在由处理器执行时用于实现上述的一种基于图卷积的知识追踪数据处理方法。

综上所述，本发明通过在对当前知识点的掌握程度进行分析时，获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点，接着对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理，通过图卷积处理结果更新当前知识点的掌握程度，从而使更新后的当前知识点的掌握程度更加符合实际掌握程度。

以上是对本发明的较佳实施进行了具体说明，但本发明并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

Claims (9)

1.一种基于图卷积的知识追踪数据处理方法，其特征在于：包括以下步骤：

获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；

采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，所述知识追踪模型的处理过程，其具体包括：

对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；

根据图卷积处理结果，采用多层感知网络与时序网络更新当前知识点的掌握程度；

根据图卷积处理结果，采用多尺度多头部注意力机制与时序网络更新当前知识点的相邻知识点的掌握程度。

2.根据权利要求1所述的一种基于图卷积的知识追踪数据处理方法，其特征在于：所述多尺度多头部注意力机制是基于注意力机制构造的，所述多尺度多头部注意力机制的工作过程包括：

获取注意力函数，所述注意力函数包括邻接节点为终节点的注意力函数和邻接节点为起始节点的注意力函数；

根据注意力函数计算注意力值；

对所有注意力值进行集成。

3.根据权利要求1所述的一种基于图卷积的知识追踪数据处理方法，其特征在于：还包括以下步骤：

根据更新后的当前知识点和相邻知识点的掌握程度预测下一时间节点对当前知识点和相邻知识点的习题的答题情况。

4.根据权利要求1所述的一种基于图卷积的知识追踪数据处理方法，其特征在于：在所述获取当前时间节点对当前知识点的习题的答题信息这一步骤之前，还包括以下步骤：

获取符合预设要求的知识结构图。

5.根据权利要求4所述的一种基于图卷积的知识追踪数据处理方法，其特征在于：所述获取当前知识点的相邻知识点，其具体为：

在所述知识结构图内获取当前知识点的相邻知识点。

6.根据权利要求1所述的一种基于图卷积的知识追踪数据处理方法，其特征在于：在所述采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理这一步骤之前，还包括以下步骤：

采用随机梯度下降法对所述知识追踪模型进行训练。

7.一种基于图卷积的知识追踪数据处理系统，其特征在于：包括：

获取模块，用于获取当前时间节点对当前知识点的习题的答题信息、答题过程中的干扰信息和当前知识点的相邻知识点；

处理模块，用于采用知识追踪模型对答题信息、干扰信息和相邻知识点进行处理；

其中，所述知识追踪模型的处理过程，其具体包括：

对当前知识点的答题信息、干扰信息和相邻知识点进行图卷积处理；

根据图卷积处理结果，采用多层感知网络与时序网络更新当前知识点的掌握程度；

根据图卷积处理结果，采用多尺度多头部注意力机制与时序网络更新当前知识点的相邻知识点的掌握程度。

8.一种基于图卷积的知识追踪数据处理系统，其特征在于：包括：

至少一个存储器，用于存储程序；

至少一个处理器，用于加载所述程序以执行如权利要求1-6任一项所述的一种基于图卷积的知识追踪数据处理方法。

9.一种存储介质，其中存储有处理器可执行的指令，其特征在于：所述处理器可执行的指令在由处理器执行时用于实现如权利要求1-6任一项所述的一种基于图卷积的知识追踪数据处理方法。

Images