CN112884128A - 一种基于场景的半监督式轻量级专家系统 - Google Patents

Abstract

本发明公开了一种基于场景的半监督式轻量级专家系统，本系统包括两个子系统，分别为：正向运行系统：根据使用者的输入数据进行分析，得到任务分配的方案，并根据分配的方案从模型库里寻找合适的模型，得到对应该输入数据的输出结果；反向训练系统：针对特定的应用场景并分别标记为SC1，SC2，SC3，SC4，…SCn，将事先已经预备好的具有一定规范分布规律的用于训练的数据组(I1，L1)，(I2，L2)，(I3，L3)，(I4，L4)，…(In，Ln)，依次交给具备该场景解决能力的算法模型M1，M2，M3，M4，…Mn。本发明，具有算法模型资源合理分配、算法模型性能最大化，得到综合提升、算法模型性能实时动态评估，得到客观评估的优点，克服了现有技术的缺陷。

Description

一种基于场景的半监督式轻量级专家系统

技术领域

本发明涉及人工智能技术领域，具体为一种基于场景的半监督式轻量级专家系统。

背景技术

专家系统是20世纪60年代初期产生并发展起来的一门新兴的应用科学，而且正随着计算机技术的不断发展而日臻完善和成熟。至今，世界各国已经在地质勘探、医疗诊断、化学工程、图像处理、语言识别、信号处理、军事、农业、交通等领域研制出了大量的实用专家系统，其中不少系统在性能上已经超过了同领域人类专家的水平，取得了很大的经济效益。总的来讲，专家系统的发展大致经历了5个阶段：基于规则、基于框架、基于案例、基于模型、基于神经网络。

这5个阶段说明如下：

1.基于规则的专家系统利用大量成功的案例直接模仿人类的心理过程，利用一系列规则来表示专家知识；

2.基于框架的专家系统可看作是基于规则的专家系统的一种自然推广，利用面向对象的编程思想来描述数据结构；

3.基于案例推理的专家系统是采用以前的案例求解当前问题，求解过程首先获取当前问题信息，接着寻找最相似的以往案例，如果找到了合理的匹配，就建议使用和过去所用相同的解，如果搜素相似案例失败，则将这个案例作为新案例，因此基于案例的专家系统会不断学习新的经验以增加系统求解问题的能力，简之，采用以前的案例求解当前问题的技术；

4.基于模型的专家系统是采用根据反映事物内部规律的客观世界的模型进行推理，通过模型清晰定义、设计原理概念和标准化知识库达到目的，如表示系统各部件的部分与整体关系的结构模型，表示各部件几何关系的集合模型，表示各部件的功能和性能的功能模型，表示各部件因果关系的因果模型等；

5.基于神经网络的专家系统也属于基于模型的专家系统，但是它与传统的生成式专家系统存在本质的区别，首先知识表示从显式变为隐式，其次，知识不是通过人的加工，而是通过算子自动获取，最后，推理机制不是传统的归纳推理，而是变为在竞争层对权值的竞争。

传统的专家系统的弊端说明如下：

1.传统的专家系统需要专家根据他们的专业知识与经验提出完备的规则，限制条件较多，且规则库过于复杂，需要大量的人力成本，在某些情况下，只能选取超大空间的列举属性，此时该属性值的选取需要大量的样本以及复杂的运算，而且实际中存在许多的场景没有真正的专家。

2.如何从案例库中寻找与当前问题条件最匹配的一个案例在实际的操作中是一个难点，需要人工去充分提取知识的语义信息，当案例库过大时会导致系统的搜索时间过长，影响用户的体验，而且这种专家系统不能智能的为当前问题条件匹配最理想的结果，它只是让当前问题与数据库中的每一个确定的案例进行比对，找到最相似的案例作为最后的结果，但是这种逐个比对的过程不仅耗时，而且因为缺少对知识进行深度的语义挖掘，最后找到的所谓的最相似的案例实际上可能并不是最相似的结果，这种暴力的方式会导致召回率偏低。

3.传统的专家系统还有一个很大的缺陷在于缺乏知识的重用性和共享性，对于数据库中的知识不能自动化的理解这些知识的语义信息，使得数据库中的各个知识点之间处于一种独立的状态，如此会导致系统过于臃肿且浪费算力资源，使得成本增加。

发明内容

本发明的目的在于提供一种基于场景的半监督式轻量级专家系统，具备资源合理分配的优点，解决了背景技术中提出的问题。

为实现上述目的，本发明提供如下技术方案：一种基于场景的半监督式轻量级专家系统，本系统包括两个子系统，分别为：

正向运行系统：根据使用者的输入数据进行分析，得到任务分配的方案，并根据分配的方案从模型库里寻找合适的模型，得到对应该输入数据的输出结果；

反向训练系统：针对特定的应用场景并分别标记为SC1，SC2，SC3，SC4，…SCn，将事先已经预备好的具有一定规范分布规律的用于训练的数据组(I1，L1)，(I2，L2)，(I3，L3)，(I4，L4)，…(In，Ln)，依次交给具备该场景解决能力的算法模型M1，M2，M3，M4，…Mn，数据组由“输入数据”和“期望输出或标准答案”两部分组成，让各个算法模型针对各数据组的“输入数据”得到输出结果，输出结果分别标记为P11，P12，P13，P14，…Pn；

将输出结果与“期望输出或标准答案”做对比，计算二者的相似度，算法模型M的相似度数值分别标记为sim(P11，L1)，sim(P12，L2)，sim(P13，L3)，sim(P14，L4)，…sim(Pn，n)，简化记作S11，S21，S13，S14，…Sn，得到各个算法模型针对各数据组的表现情况，表现情况由0到1的数值表示，数值越高，说明该算法模型的输出结果越接近“期望输出或标准答案”；

根据各个算法模型针对各数据组的表现情况，进而得到一组映射关系为：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，根据获得的数据，再根据输入数据的类型，挑选合适的编码模型结构，经过机器学习或深度学习手段，使该编码模型充分拟合此映射关系：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，借助编码映射，可以得到各个模型针对该输入Ix的置信度，置信度越高，则该模型的输出越接近标准答案。

优选的，所述模型库囊括多个具有不同功能的算法模型，各个算法模型的运行机制均为“输入-输出”模式，针对特定的场景或功能，可以从模型库找出许多不同的算法模型，各个算法模型均能实现该功能，但性能各自不同。

优选的，反向训练系统中还具有针对特定的场景或功能的采集数据组，采集数据组要求各数据组的内容具备一定的代表性，能够覆盖该场景或功能的各种情况，将采集到的数据组存储于反向训练系统备用。

与现有技术相比，本发明的有益效果如下：

1.算法模型资源合理分配：针对场景或功能，以及用户在实际场景的输入数据，对当前的算法模型资源进行合理分配，各尽所长，将“题目”

交给最擅长该“题目”的模型去做。

2.算法模型性能最大化，得到综合提升：将“取长补短”的思维应用在算法模型上，不同的算法模型擅长不同的问题，例如针对机器翻译场景，模型A擅长翻译文学类文章，模型B擅长翻译学术类文章，因此如果能够事先判断输入数据更倾向文学类文章还是学术类文章，可以更精准地将输入数据投放到更合适的算法模型，并得到更好的综合性能。

3.算法模型性能实时动态评估，得到客观评估：根据各输入数据在各模型的表现情况，得到各模型的表现情况的画像或编码，根据该画像或编

码可以客观知晓各模型的长处和短处。

附图说明

图1为本发明模型库的功能框图；

图2为本发明操作的流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1至图2，本发明提供一种技术方案：一种基于场景的半监督式轻量级专家系统，本系统包括两个子系统，分别为：正向运行系统和反向训练系统。

正向运行系统和反向训练系统说明如下：

1.正向运行系统：根据使用者的输入数据进行分析，得到任务分配的方案，并根据分配的方案从模型库里寻找合适的模型，得到对应该输入数据的输出结果；

其中，用户的输入经过正向运行系统，匹配到合适的编码模型，判断该输入适合由哪个模型来运行，之后再将该输入交给该模型并得到最终输出。

其中，模型库里面囊括大量具有不同功能的算法模型，各个算法模型的运行机制均为“输入-输出”模式。针对特定的场景或功能(机器翻译、人脸识别等等)，可以从模型库找出许多不同的算法模型，各个算法模型均能实现该功能，但性能各自不同。

2.反向训练系统：针对特定的应用场景(机器翻译、人脸识别等等)并分别标记为SC1，SC2，SC3，SC4，…SCn，将事先已经预备好的具有一定规范分布规律的用于训练的数据组(I1，L1)，(I2，L2)，(I3，L3)，(I4，L4)，…(In，Ln)，依次交给具备该场景解决能力的算法模型M1，M2，M3，M4，…Mn，数据组由“输入数据”和“期望输出或标准答案”两部分组成，让各个算法模型针对各数据组的“输入数据”得到输出结果，输出结果分别标记为P11，P12，P13，P14，…Pn；

将由上得到的输出结果与“期望输出或标准答案”做对比，计算输出结果与“期望输出或标准答案”的相似度，算法模型M的相似度数值分别标记为sim(P11，L1)，sim(P12，L2)，sim(P13，L3)，sim(P14，L4)，…sim(Pn，n)，简化记作S11，S21，S13，S14，…Sn，得到各个算法模型针对各数据组的表现情况，表现情况由0到1的数值表示，数值越高，说明该算法模型的输出结果越接近“期望输出或标准答案”；

根据各个算法模型针对各数据组的表现情况，进而得到一组映射关系为：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，根据获得的数据，再根据输入数据的类型(纯数字、文本、图像、音频、视频等等)，挑选合适的编码模型结构(BiLSTM、CNN，等等)，经过机器学习或深度学习手段，使该编码模型充分拟合此映射关系：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，借助编码映射，可以得到各个模型针对该输入Ix的置信度，置信度越高，则该模型的输出可能越接近标准答案(假设已知标准答案)。

其中，深度学习手段为现有技术，说明如下：

深度学习(deeplearning)是机器学习的分支，是一种以人工神经网路为架构，对信息进行表征学习的算法。深度学习是机器学习中一种基于对数据进行表征学习的算法。观测值(例如一幅图像)可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如，人脸识别或面部表情识别)。深度学习的好处是用非监督式或半监督式的特征学习和分层特征提取的高效算法来替代手工获取特征。表征学习的目标是寻求更好的表示方法并建立更好的模型来从大规模未标记数据中学习这些表示方法。至今已有数种深度学习框架，如深度神经网络、卷积神经网络和深度置信网络和循环神经网络已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并取得了极好的效果，远远超过先前相关技术。另外，“深度学习”已成为时髦术语，或者说是人工神经网络的品牌重塑。

其中，反向训练系统中还具有针对特定的场景或功能(机器翻译、人脸识别等等)的采集数据组，要求各数据组的内容具备一定的代表性，能够基本覆盖该场景或功能的各种情况，将采集到的数据组存储于反向训练系统备用。

其中，使用反向训练系统得到的针对各场景或功能的编码模型，每个场景均有一个编码模型。每个编码模型的结构与数据类型有关，例如针对文本类型的输入数据，其编码模型可以为双向长短期记忆模型(BiLSTM)，该模型的输入为文本，输出为高维度向量(比如128维)；针对图像类型的输入数据，其编码模型可以为卷积神经网络，该模型的输入为包含图像各像素信息的张量，输出为高维度向量(比如128维)。

其中，每个编码模型的用途为：根据用户输入的(陌生)数据(可以理解为题目)，判断模型库里哪个模型针对该数据得到的输出最接近标准答案(最擅长该题目)。

为了更深刻地了解，本申请以“机器翻译”场景举例说明如下：

1.针对“机器翻译”场景，已采集到10组算法模型，每组算法模型均能实现“输入英文语句，输出中文语语句”的翻译功能。

2.准备1000组翻译题目，每道题目的形式为：“英文原句：专家翻译的中文语句”，将各题目的“英文原句”输入各算法模型，各算法模型得到各题目的翻译语句，再将各翻译语句与“专家翻译的中文语句”做对比，得到各算法模型在各题目的表现情况。

3.将各算法模型在各题目的表现情况进行量化，以如下形式储存：

题目1的英文语句：[模型1的表现，模型2的表现，…，模型10的表

现]；

题目2的英文语句：[模型1的表现，模型2的表现，…，模型10的表

现]；

题目3的英文语句：[模型1的表现，模型2的表现，…，模型10的表现]；

…

题目1000的英文语句：[模型1的表现，模型2的表现，…，模型10的表现]。

4.鉴于该场景为“机器翻译”，输入数据为文本形式，因此编码模型的结构可以为BiLSTM，利用深度学习的训练机制，训练出合适的BiLSTM模型，使得BiLSTM(题目x的英文语句)逼近于[模型1在题目x的表现，模型2在题目x的表现，…，模型10在题目x的表现]。

5.训练完毕的BiLSTM作为“机器翻译”场景的编码模型进行储存，如果用户输入一个陌生的英文语句，则该模型会得到一个10维的向量，各维度数值代表该英文语句在各模型上面的输出的预期表现情况，数值越高，则该英文语句越应当由该模型来翻译。

6.将分数最高的模型选出，并将用户输入的陌生英文语句输入该模型，得到输出(中文翻译)。

由上文举例可知，本申请这样设计的好处是：

1.以用户输入作为特征来分配任务，使该任务能够被最擅长该任务的算法模型解决的专家系统。

2.编码模型：针对指定的场景和输入数据，将各算法模型针对该输入数据的置信度作为输出。

3.将不同类型的输入数据统一转换为编码，并以该编码作为依据，依托深度学习语言模型计算得到该编码所对应的输入的置信度。

4.以场景或功能为单位，整合算法模型，形成模型库，并使模型库中每个算法模型都以规范化的“输入-输出”模式存在。

5.编码模型的逆向训练机制：针对特定场景或功能，将该场景的各个算法模型“试跑”预先准备的具有代表性的数据，得到针对编码模型的训练数据(得到在各算法模型上面运行各输入数据得到的输出数据的质量或准确度)，并依据该训练数据对编码模型进行训练，使其充分拟合。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (3)

1.一种基于场景的半监督式轻量级专家系统，其特征在于：本系统包括两个子系统，分别为：

正向运行系统：根据使用者的输入数据进行分析，得到任务分配的方案，并根据分配的方案从模型库里寻找合适的模型，得到对应该输入数据的输出结果；

反向训练系统：针对特定的应用场景并分别标记为SC1，SC2，SC3，SC4，…SCn，将事先已经预备好的具有一定规范分布规律的用于训练的数据组(I1，L1)，(I2，L2)，(I3，L3)，(I4，L4)，…(In，Ln)，依次交给具备该场景解决能力的算法模型M1，M2，M3，M4，…Mn，数据组由“输入数据”和“期望输出或标准答案”两部分组成，让各个算法模型针对各数据组的“输入数据”得到输出结果，输出结果分别标记为P11，P12，P13，P14，…Pn；

将输出结果与“期望输出或标准答案”做对比，计算二者的相似度，算法模型M的相似度数值分别标记为sim(P11，L1)，sim(P12，L2)，sim(P13，L3)，sim(P14，L4)，…sim(Pn，n)，简化记作S11，S21，S13，S14，…Sn，得到各个算法模型针对各数据组的表现情况，表现情况由0到1的数值表示，数值越高，说明该算法模型的输出结果越接近“期望输出或标准答案”；

根据各个算法模型针对各数据组的表现情况，进而得到一组映射关系为：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，根据获得的数据，再根据输入数据的类型，挑选合适的编码模型结构，经过机器学习或深度学习手段，使该编码模型充分拟合此映射关系：f(Ix)＝[S1x，S2x，S3x，S4x…Snx]，借助编码映射，可以得到各个模型针对该输入Ix的置信度，置信度越高，则该模型的输出越接近标准答案。

2.根据权利要求1所述的基于场景的半监督式轻量级专家系统，其特征在于：所述模型库囊括多个具有不同功能的算法模型，各个算法模型的运行机制均为“输入-输出”模式，针对特定的场景或功能，可以从模型库找出许多不同的算法模型，各个算法模型均能实现该功能，但性能各自不同。

3.根据权利要求1所述的基于场景的半监督式轻量级专家系统，其特征在于：所述反向训练系统中还具有针对特定的场景或功能的采集数据组，采集数据组要求各数据组的内容具备一定的代表性，能够覆盖该场景或功能的各种情况，将采集到的数据组存储于反向训练系统备用。

Images