CN109376248B - 基于增量学习的知识库构建及偏序结构图生成方法 - Google Patents

Abstract

本发明公开了一种基于增量学习的知识库构建及偏序结构图生成方法，采用基于覆盖原理的增量学习思想，指导属性和对象集合覆盖运算，通过特殊的覆盖关系完成属性库等特殊集合的构建进而完成形式背景的生成，并完成冗余模式的删除；在形式背景的基础上构建的，其计算机生成算法是通过计算分层模式矩阵从而得到各个概念节点的精准坐标定位，通过综合层次、节点、连线等元素，以及引入增量学习算法，完成偏序结构图的动态构建。与现有技术相比，本发明结合基于覆盖原理的增量学习和偏序结构图的构建算法，可实现知识概念库的动态构建，并完成分层模式矩阵的自动生成；实现了偏序结构图的渐进式构建。

Description

基于增量学习的知识库构建及偏序结构图生成方法

技术领域

本发明涉及知识库动态构建及偏序结构图渐进式构建技术领域，特别是一种基于增量学习的知识库动态构建及偏序结构图渐进式生成方法。

背景技术

从人类认知的哲学原理出发，学习知识的过程是渐进的，无法一次性学完全部知识，且初始的学习都是先学习一部分进入，形成固定的模式，后续知识的学习就是在原基础上进行模式分类的过程，由此学习过程，学习到的知识会越来越完备，模式学习也会随之更加丰富，当学习量到达一定界限时，模式逐渐趋于完备，冗余知识越来越少。增量学习的思想正是人类这种认知学习模式的体现，将机器学习算法和增量学习思想的有效结合使得机器学习变得更加智能化、动态化、自主化。

偏序结构图是一种数据可视化工具，从形式概念分析原理出发，结合数学偏序理论、覆盖理论等，含括了频数统计、关联分析、规则提取、内涵挖掘等功能，可分层次、变尺度、多角度地对概念进行表达。但是，目前偏序图的构图需要一次性获得完备的概念进行批量式构建，即形式背景的构建前提需得到全部概念，并分批生成属性偏序结构图，不完全符合渐进式构建知识模式的方式思想。

将增量学习思想融合到知识库的动态构建以及偏序结构图的生成中，使其具有动态学习概念的能力，在不断学习新知识的过程中，形成逐渐完备的模式，并自动完成冗余模式约简，通过概念的逐条学习可动态成图，将数据内部结构变化可视化，有助于挖掘概念模式完备的临界。

因此，亟待开发一种基于增量学习的知识库动态构建及偏序结构图渐进式生成方法。

发明内容

本发明的目的是要解决现有技术中存在的不足，提供一种基于增量学习的知识库动态构建及偏序结构图渐进式生成方法。

为达到上述目的，本发明是按照以下技术方案实施的：

本发明的基于增量学习的知识库动态构建及偏序结构图渐进式生成方法，具体包括：

步骤一、基于覆盖原理的增量学习知识库动态构建，采用基于覆盖原理的增量学习思想，指导属性和对象集合覆盖运算，通过特殊的覆盖关系完成属性库等特殊集合的构建进而完成形式背景的生成，并完成冗余模式的删除；具体步骤为：

步骤1，设初始的形式背景K＝{P,M,G}为空，其中P表示对象集合，M表示属性集合，G表示P和M之间的二元关系，当存在新增对象X*，新增概念可表示为(X*,f(X*))。其中，f(X*)表示新增的属性集合。此时，f(X*)∩M＝Ф一定成立，因此可以省略覆盖交集运算直接添加到形式背景中。这里，将属性集合f(X*)中的属性按原始顺序保存到属性库L中作为下一次学习的覆盖判定集合L＝{l₁,l₂,...,l_n}，n为属性个数。此时自动生成由一个概念组成的形式背景保存在新形式背景K*＝{X*,f(X*),G}中。

大规模的增量学习可以认为是很多单次增量学习的叠加，这里以每次学习一个概念为例进行说明。

步骤2，原始形式背景K＝{P,M,G}，假设(X*,f(X*))仍为新增的概念，将属性集合f(X*)与属性库集合A做覆盖运算f(X*)∩L，根据覆盖结果进行下一步操作。为说明覆盖情况，设定标志集合ind＝{ind₁,ind₂,...,ind_n}(n为属性库中属性个数)，其中，ind_e表示新增单个属性与属性集合A的覆盖结果索引，其中，e＝1,2,...,n，单次比较中某属性已经存在则置ind_e为1，否则ind_e为0。

步骤3，若ind为全零集，则判定该属性为新增属性，f(X*)与A之间是互斥覆盖关系，固然此模式也一定是新增模式，需更新模式库T，将新增属性默认追加到属性库A末尾形成A*＝(A∪f_add(X*)),其中，f_add(X*)表示属性集合f(X*)中新增的属性。同时，生成单行形式背景添加到原形式背景中，即做更新K*＝{P∪X*，M∪f_add(X*)，G}。

步骤4，若ind为非全零集，即新增属性集合与原集合之间可能存在：子域覆盖关系、全覆盖关系、互不包含覆盖关系，伴生覆盖关系。根据不同覆盖关系对属性库和模式库做相关操作：

对于属性库A更新有以下几种情况：(1)若为全覆盖关系，说明新增属性集合f(X*)＝A，则属性库A保持不变，不做新增；(2)若为子域覆盖关系，属性库已覆盖全部新增对象，保持属性库A不变；(3)若为互不包含覆盖关系，则只更新新增属性A∪f_add(X*)；(4)若为伴生覆盖，则属性集合全部覆盖原属性库且有新属性加入，此时将新属性f_add(X*)追加属性库A末尾，保留原有属性集合不变。

当数据规模较大，概念的外延很多，内涵数量有限时，更容易出现重复的模式，重复模式即为既存模式库中模式的全覆盖关系。得到约简的模式，减少后续优化操作和比较，提高生成形式背景的时间效率，建立模式库H保存最简模式，H中每个模式按照增量学习顺序添加。

步骤5，当有新的概念(X*,f(X*))加入到形式背景中形成的一行概念的二值背景F时，设已存在形式背景为K_old＝{K₁，K₂，...，K_i，...，K_k}，Class_i表示概念对应标签，进行模式检测：

令ind’＝{ind₁’,ind₂’,ind₃’,...,ind_k’}＝{{F∩k₁},{F∩k₂},{F∩k₃},...,{F∩k_k}}，若存在某两个有序的形式背景和标签不同，将此模式移到模式库H中追加到末尾H*＝(H∪(M∪f_add(X*))，否则，删除相同冗余模式。

至此，完成基于几种典型的覆盖关系模型的增量学习知识库的构建，并生成形式背景K。

步骤二、渐进式偏序结构图构建，偏序结构图的构建是在形式背景的基础上构建的，其计算机生成算法是通过计算分层模式矩阵从而得到各个概念节点的精准坐标定位，通过综合层次、节点、连线等元素，以及引入增量学习算法，完成偏序结构图的动态构建，具体步骤如下：

步骤1：假设形式背景K为一个m行r列的矩阵，复制到另一个矩阵中，作为备份矩阵，记做M_Copy，M_Copy矩阵仅需保留对象列，将K形式背景最后一行增加一个全0行，便于判断停止条件。

步骤2：检测形式背景K的指定行列进行操作，定义循环子函数算法￡(b，m₁，m₂，n，class)的形式进行说明，其中b表示当前的形式背景，m₁、m₂分别表示对形式背景b操作的起始行、末尾行，n表示从此列开始一直到末尾列进行操作，class表示当前的类信息。

步骤3：设置循环i表示行属性，从第2行到m行为大循环，执行以下循环H(步骤4-6)：

步骤4：执行子函数￡(b，i，2，n，class)，将形式背景b中的第一列对应的对象赋给M_Copy中的第一列，同时，检测形式背景K中，若某行出现数字1，则数字1对应的属性名称赋值给M_Copy的相应位置。

步骤5：依次检测形式背景b的每一行，列循环j＝2到n，若第二列的i+1行为0，则结束此循环，令m₂＝m，n＝2。否则当满足以下条件

b(i,2:j)＝b(i+1,2:j)且b(i,j+1)×b(i+1,j+1)＝0

说明此时检测到第i行的0、1分割点，这是实现生成M_Copy的关键步骤之一，定义循环S：k＝1到m，若(i+k)>m，则m＝M，跳出循环S。

需要对第i行或是i到i+k行，第a列到第r列，进行排序操作(排序步骤与上文优化步骤相同)，实现将数字1前移，数字0后移，实现分层模式矩阵的紧凑结构。

若满足b(i,2:j)＝b(i+k,2:j)，且b(i+k,j)＝0，则赋值m₂＝i+k-1，跳出循环S。否则m₂＝i+k-1，跳出循环S。

步骤6：n＝j+1进入下一次循环H；

步骤7，待n列全部完成循环H后，得到分层模式矩阵即得到偏序结构图中各节点的坐标定位，通过计算机自动生成偏序结构图。

与现有技术相比，本发明结合基于覆盖原理的增量学习和偏序结构图的构建算法，可实现知识库的动态构建，实现了偏序结构图的渐进式构建。

附图说明

图1为本发明的基于覆盖原理的增量学习说明图。

图2为本发明实施例生成的渐进式偏序结构图。

具体实施方式

下面结合具体实施例对本发明作进一步描述，在此发明的示意性实施例以及说明用来解释本发明，但并不作为对本发明的限定。

本实施例的基于增量学习的知识库构建及偏序结构图生成方法，包括基于覆盖原理的增量学习知识库动态构建和渐进式偏序结构图渐进式构建，以下通过具体的实施例来分别基于覆盖原理的增量学习知识库动态构建和渐进式偏序结构图渐进式构建进行详细说明。

对基于覆盖原理的增量学习知识库动态构建，是采用基于覆盖原理的增量学习思想如图1所示，指导属性和对象集合覆盖运算，通过特殊的覆盖关系完成属性库等特殊集合的构建进而完成形式背景的生成，并完成冗余模式的删除；具体为：

在增量学习算法中主要的运算集中于判断新增概念集合的对象对应属性集合与原属性交集过程，待学习样本的样本属性集合与属性库中属性进行覆盖运算，保留新属性，同时在形式背景对应位置对已学习到的属性做标记。假设已存在数据样本见表1，其中采用数字代表对象，数字和字母组合表示属性集合。

表1增量学习数据样本

共有{1,{A1,A2,B1,B2}}，{2,{A1,A2,B1,B2}}，{3,{A1,A2,B1,B2,B3}}，{4,{A1,B1}}，{5,{A2,B2,C1,C2}}，五个概念，为了包含全部覆盖情况和说明各种节点情况，选取有代表性的几种对象和属性集组合加以举例。默认选择第一条数据作为初始数据，生成形式背景见表2，其中“x”标记表示该对象具有对应的属性，保存对象和属性集到对象库和属性库，更新此模式到模式库以备进行重复检测。

表2初始形式背景

	A1	A2	B1	B2
					1	x	x	x	x

接下来进行顺序读取第二条数据，检测重复模式库，保存对象和属性分别到属性库和模式库中，并将属性集合与属性库元素求交，发现对象2的模式与对象1模式为全覆盖关系，此时删除对象和属性集，不构成形式背景，不检测存在重复模式，因此将此模式添加入模式库中，当存在相同模式出现在增量学习样本中时，直接进行下一条数据的学习即可。读取第三条数据，属性集中有新属性B3出现，除此之外全部包含原始属性集合，因此需要将属性B3追加到属性库末尾，在对应位置标注构成新形式背景，如表3，结束后更新对象和属性库，保存新模式到模式库中。同时属性的论域被扩大为{A1,A2,B1,B2,B3}。

表3新增属性B3后形式背景

	A1	A2	B1	B2	B3
						1	x	x	x	x
2	x	x	x	x	x

读取第四条数据，检测重复模式，不存在相同模式，继续进行学习。对象4对应的属性集合与属性库属性集合是子域覆盖关系，只需新增对象到对象库，属性库保持不变，构成形式背景如表4，在复检测中无重复模式出现，无需更新模式库。

表4新增第四条数据形式背景

	A1	A2	B1	B2	B3
						1	x	x	x	x
2	x	x	x	x	x
						3	x		x

读取第五条数据，无重复模式，将属性集与属性库元素求交发现，不仅存在重复属性，同时有新属性出现，由于除新属性外仅是子域覆盖，因此总体覆盖关系应该为互不包含覆盖。此种情况应追加新属性于属性库末尾，添加对象并构成新形式背景如表5，在复检测中不存在重复模式，无需更新模式库信息。

表5新增第五条数据形式背景

A1

A2

B1

B2

B3

C1

C2

1

x

x

x

x

2

x

x

x

x

x

3

x

x

4

x

x

x

x

至此，针对前5条数据的完备形式背景已经构成，此学习过程中，对象对应的属性集合元素数目不一定一致，默认追加新元素到末尾，当学习顺序变化时，形式背景的属性列顺序可能会发生变化，但是不影响学习效果，依然会获得完备的形式背景。同时，当存在相同模式学习情况时，算法自动终止，删除冗余信息，节省时间和空间。

对于渐进式偏序结构图构建，是在形式背景的基础上构建的，其计算机生成算法是通过计算分层模式矩阵从而得到各个概念节点的精准坐标定位，通过综合层次、节点、连线等元素，以及引入增量学习算法，完成偏序结构图的动态构建。偏序结构图的分层模式矩阵构建方法如下：

根据增量学习部分生成的形式背景，通过计算分层模式矩阵即可得到偏序结构图中各节点的坐标定位，即可采用计算机成图。详细说明通过分层模式矩阵成图的原理。表6给出分层模式矩阵。

表6分层模式矩阵

可以发现矩阵第一列是由对象构成，从第2列开始，分别为原形式背景中数字1对应的属性名称。结构紧凑，层次清晰。其中，从第2列开始，分别为属性偏序结构图的第一层元素，第二层元素，以此类推。

例如，分层模式矩阵中第二列为全覆盖，对应名称为属性4，则属性4应该在属性偏序结构图的第一层，无需向底层节点引线；第三列同样为全覆盖，对应名称全部为属性5，则属性5应该在属性偏虚结构图的第2层，无需向底层的节点引线。同理，第四列由属性1和属性9构成全覆盖，属性1和属性9并列在属性偏序结构图的第3层，无需向底层节点引线。第五列由属性2和属性10构成全覆盖，属性2和属性10并列在属性偏序结构图的第4层，由于是对论域全覆盖同样无需向底层节点引线，生成的属性偏序结构图如图2。

本发明的技术方案不限于上述具体实施例的限制，凡是根据本发明的技术方案做出的技术变形，均落入本发明的保护范围之内。

Claims (1)

1.基于增量学习的知识库构建及偏序结构图生成方法，其特征在于，包括基于覆盖原理的增量学习知识库构建和渐进式偏序结构图构建，具体步骤如下：

步骤一、基于覆盖原理的增量学习知识库构建，具体步骤为：

步骤1，设初始的形式背景K＝{P,M,G}为空，其中P表示对象集合，M表示属性集合，G表示P和M之间的二元关系；当存在新增对象X*，新增概念表示为(X*,f(X*))，其中，f(X*)表示新增的属性集合；此时，f(X*)∩M＝Ф一定成立，因此省略覆盖交集运算直接添加到形式背景中；将属性集合f(X*)中的属性按原始顺序保存到属性库L中作为下一次学习的覆盖判定集合L＝{l₁,l₂,...,l_n}，n为属性个数，此时自动生成由一个概念组成的形式背景保存在新形式背景K*＝{X*,f(X*),G}中；

步骤2，原始形式背景K＝{P,M,G}，对(X*,f(X*))新增的概念，将属性集合f(X*)与属性库集合A做覆盖运算f(X*)∩A，根据覆盖结果进行下一步操作；为说明覆盖情况，设定标志集合ind＝{ind₁,ind₂,...,ind_n}，n为属性库中属性个数，ind_e表示新增单个属性与属性集合A的覆盖结果索引，其中，e＝1,2,...,n，单次比较中某属性已经存在则置ind_e为1，否则ind_e为0；

步骤3，若ind为全零集，则判定该属性为新增属性，f(X*)与A之间是互斥覆盖关系，固然此模式也一定是新增模式，需更新模式库T，将新增属性默认追加到属性库A末尾形成A*＝(A∪f_add(X*))，其中，f_add(X*)表示属性集合f(X*)中新增的属性，同时，生成单行形式背景添加到原形式背景中，即做更新K*＝{P∪X*，M∪f_add(X*)，G}；

步骤4，若ind为非全零集，即新增属性集合与原集合之间可能存在：子域覆盖关系、全覆盖关系、互不包含覆盖关系、伴生覆盖关系，根据不同覆盖关系对属性库和模式库做相关操作：

对于属性库A更新有以下几种情况：(1)若为全覆盖关系，说明新增属性集合f(X*)＝A，则属性库A保持不变，不做新增；(2)若为子域覆盖关系，属性库已覆盖全部新增对象，保持属性库A不变；(3)若为互不包含覆盖关系，则只更新新增属性L∪f_add(X*)；(4)若为伴生覆盖，则属性集合全部覆盖原属性库且有新属性加入，此时将新属性f_add(X*)追加属性库A末尾，保留原有属性集合不变；

步骤5，当有新的概念(X*,f(X*))加入到形式背景中形成的一行概念的二值背景F时，设已存在形式背景为K_old＝{K₁，K₂，...，K_i，...，K_k}，k为子形式背景的个数，Class_i表示概念对应标签，进行模式检测：

令ind’＝{ind₁’,ind₂’,ind₃’,...,ind_k’}＝{{F∩k₁},{F∩k₂},{F∩k₃},...,{F∩k_k}}，若存在某两个有序的形式背景和标签不同，将此模式移到模式库H中追加到末尾H*＝(H∪(M∪f_add(X*))，否则，删除相同冗余模式；至此，完成基于覆盖原理的增量学习知识库构建，并生成形式背景K；

步骤二、渐进式偏序结构图构建，具体步骤如下：

步骤1：假设形式背景K为一个m行r列的矩阵，复制到另一个矩阵中，作为备份矩阵，记做M_Copy，M_Copy矩阵仅需保留对象列，将K形式背景最后一行增加一个全0行，便于判断停止条件；

步骤2：检测形式背景K的指定行列进行操作，定义循环子函数算法

的形式进行说明，其中b表示当前的形式背景，m1、m2分别表示对形式背景b操作的起始行、末尾行，n表示从此列开始一直到末尾列进行操作，class表示当前的类信息；

步骤3：设置循环i表示行属性，从第2行到m行为大循环，执行以下循环H即步骤4-6：

步骤4：执行子函数

将形式背景b中的对象列赋给M_Copy中的第一列，同时，检测形式背景K中，若某行出现数字1，则数字1对应的属性名称赋值给M_Copy的相应位置；

步骤5：依次检测形式背景b的每一行，列循环j＝2到n，若第二列的i+1行为0，则结束此循环，令m₂＝m，n＝2，否则当满足以下条件：

b(i,2:j)＝b(i+1,2:j)且b(i,j+1)×b(i+1,j+1)＝0，

说明此时检测到第i行的0、1分割点，定义循环S：k＝1到m，若(i+k)>m，则m＝M，跳出循环S；

对第i行或是i到i+k行，第a列到第r列，进行排序操作，实现将数字1前移，数字0后移，实现分层模式矩阵的紧凑结构；

若满足b(i,2:j)＝b(i+k,2:j)，且b(i+k,j)＝0，则赋值m₂＝i+k-1，跳出循环S，否则m₂＝i+k-1，跳出循环S；

步骤6：n＝j+1进入下一次循环H；

步骤7，待n列全部完成循环H后，得到分层模式矩阵即得到偏序结构图中各节点的坐标定位，通过计算机自动生成偏序结构图。

Images