CN102955948B - 一种基于多智能体的分布式模式识别方法 - Google Patents

Abstract

本发明公开了一种基于多智能体的分布式模式识别方法，其步骤包括：首先将输入模式表示为智能体影响图；然后根据智能体影响图的演化来提取其中的定性特征，缩小搜索的空间；最后通过多智能体的协作和动力学模型完成目标模式的涌现。本发明的优点：通过引入多智能体，将传统的静态、集中式的模式识别推广到动态、分布式环境中，通过多智能体的协同工作，将定量分析和定性分析相结合起来，集中解决了模式识别中的识别片面性和缺乏宏观整合的问题，提高了对复杂模式的识别率。

Description

一种基于多智能体的分布式模式识别方法

技术领域

本发明涉及模式识别技术领域，具体涉及一种基于多智能体的分布式模式识别方法。

背景技术

模式识别是人类的一项基本智能，模式识别是许多工程领域广泛应用的关键技术，诸如：自控监测、图像识别、故障诊断等。几十年来，模式识别方法层出不穷，如：统计模式识别、模糊模式识别、结构模式识别、协同模式识别、仿生模式识别等。每种方法各有所长，适用的范围有限，随着科学研究和工程技术的飞速发展，可以获取的数据信息越来越丰富，数据样本呈现出：高维、大容量、关系复杂、非线性和分布不定等特点，为模式识别技术提出了新的挑战，柔性地集成应用不同类方法是应对这种挑战的有效手段。

模式识别在给人们带来希望的同时，我们也应看到，由于问题本身的多样性和复杂性，现有的理论和方法离实际要求还有相当距离，一些根本性的问题还有待进一步深入研究：

(1)特征抽取问题：传统模式识别理论的出发点认为识别对象可由一组特征来描述。因此，特征选取的好坏对识别结果起决定性作用。特征抽取研究存在的问题是：

a.在理论上缺乏一种统一的能适合各种问题的特征抽取手段，许多情况下要依赖专家；

b.特征抽取准则缺乏一种统一度量标准来评判各种准则下特征抽取方法的优劣，因而分类器的设计存在一定的盲目性；

(2)结构识别问题：在结构模式识别方法中，认为模式是由一些基本结构特征(称为基元)按某种相互关系组成的，其组成方式可用一个字符串、一个树或一个图来表示，但基元的选择存在太多的随意性。

(3)模糊模式识别是用隶属度作为模式之间相似度的度量，虽然能反映模式整体与主要特性，有相当程度的抗干扰和畸变能力，但准确合理的隶属度函数往往难以建立，所以，限制了它的应用。

(4)基于神经网络的模式识别在许多场合得到了应用，但是需要较多的训练样本及训练时间，并且没有充分的利用模式的先验知识。

方法(1)(4)属于自下而上的过程，方法(2)(3)属于自上而下的过程。传统的做法是独立研究这两个过程。对人的模式识别能力的研究表明，模式识别活动在很大程度上是自下而上和自上而下两种过程的统一，这正是基于多智能体的模式识别提出的动机。

提出基于多智能体的模式识别的另一个动机是在过去的十年内，计算机应用领域朝着分布式和智能化的方向发展，模式识别也不例外。智能体计算是分布式计算和智能信息技术发展进程中比较有影响的计算模式。智能体技术提供了一种新的问题求解风范，这主要是因为基于智能体的系统具有许多优点：多智能体系统放松了对集中式、规划、顺序控制的限制，提供了分散控制、应急和并行处理，并且降低了软件和硬件的费用，提供协作的其他求解模式。利用智能体计算模式，使得复杂的任务可以通过相互协作来完成，突破了时间和空间的限制，充分利用网络资源和智能化处理技术。

发明内容

本发明的目的是针对上述现有技术的不足之处，提供一种定量计算和定性分析相结合的以推理为主、计算为辅的分布式模式识别方法，使模式识别过程更符合人的认知过程。

本发明的实现由以下技术方案完成：

一种基于多智能体的分布式模式识别方法，其步骤包括：

步骤一：将输入模式表示为智能体影响图；

步骤二：根据智能体影响图的演化来提取其中的定性特征，缩小搜索的空间；

步骤三：通过多智能体的协作和动力学模型来完成目标模式的涌现。

优选的，所述步骤一中智能体影响图的建立的过程为：

首先通过单个智能体对输入模式进行识别，由于知识的缺乏，单个智能体无法完全识别输入模式；

然后单个智能体再进行相应的繁殖或者重组，从而增加识别输入模式的知识；

最后通过繁殖或者重组所产生的多智能体提取出输入模式的定量特征，从而实现一个具有记忆功能的智能体影响图的建立。

优选的，所述智能体影响图为一可变结构，其中的各个智能体之间是可变动、可移动的无线连接方式，智能体影响图采用动态连接方式处理多智能体之间的相互作用，智能体影响图具有增加智能体、删除智能体以及改变智能体之间联系的能力。

优选的，所述定量特征的提取过程中采用神经网络集成技术，对所述神经网络集成经过训练后，提取的定量特征均为数值形式知识，为隐式知识，后通过定性特征提取算法将隐式知识抽取出来并通过显式形式表示出来。

优选的，所述智能体影响图中的建立过程中形成的多智能体之间通过协商、协作、协调、竞争和交互，使得生存能力强的智能体生存下来，生存能力弱的智能体消亡，智能体数量渐减，缩小搜索空间，从而最终实现正确的目标模式的涌现。

本发明的优点：通过引入多智能体，将传统的静态、集中式的模式识别推广到动态、分布式的环境中，通过多智能体的协同工作，将定量分析和定性分析相结合起来，集中解决了模式识别中的识别片面性的问题和缺乏宏观整合的问题，提高了对复杂模式的识别率，本发明特别适合多模式获取同一目标的医学图像识别问题、以推理为主计算为辅的模式联想问题、定量计算和定性分析集成的对手意图的识别问题。

附图说明

图1是基于多智能体的分布式模式识别方法的流程图；

图2是本发明中模式的宏观表示框架图；

图3是本发明中智能体影响图的结构示意图；

图4是本发明中单智能体结构示意图；

图5是本发明中定性特征提取算法的流程图。

具体实施方式

以下结合附图对本发明特征及其它相关特征作进一步详细说明：

如图1至图5所示：

一种基于多智能体的分布式模式识别方法，其步骤包括：

步骤一S1：将输入模式表示为智能体影响图；

步骤二S2：根据智能体影响图的演化来提取其中的定性特征3，缩小搜索的空间；

步骤三S3：通过多智能体的协作和动力学模型来完成目标模式的涌现。

其中模式的宏观表示模型如图2所示，模式整体作为知识，其本身包含各种特征(作为对象的属性)；各属性之间的关系(作为对象的操作)；规则(作为对象的约束)使模式具有了主动反应能力。所有这些属性、关系和规则，就构成了完整的模式的知识描述。其中规则、空间关系、因果关系、场景特征、行为特征、目标特征均不能通过原始模式直接获得，必须通过额外的定性处理来获得。

视觉特征又分为视觉全局视觉特征和视觉局部视觉特征，就图像而言，视觉全局视觉特征包括颜色直方图、颜色矩、颜色连通矢量等统计和代数特征；图像局部视觉特征包括纹理、形状等特征。

视觉特征存在的主要问题是没有建立视觉内容和模式语义之间的关联。例如，一块圆形红色区域既可能是一朵红花，也可能是一个红苹果。因此，不能直接给出识别结果的解释。

图2中的规则包括：推理的公理系统；模式特征之间联系的语法等同性和相似性规则；人对等同性和相似性理解的描述规则；在感觉和模式的差别下描述模式的等同性和差别性的物理规则；描述空间模式等同性和差别性的几何和拓扑规则；分类目录的规则；人为的习惯或者与人相关的模式引出的观念等同性和差别性的规则等等

如图3所示，在智能体影响图的微观表示模型的建立过程中，单向实线表示的是相邻层特征间的显性通路，由定量特征指向涌现特征，表示此定量特征参与了定性特征的涌现；双向虚线表示的是同一层特征间的隐性通路，表示这两个特征有可能涌现出有存储意义的语义特征集；QAS(QuantitativeAttributeSet)表示的是定量特征集；MA(MemoryAgent)表示的是记忆智能体；首先通过单个智能体2对输入模式进行识别，可以是方法智能体或模块智能体或模型智能体或特征智能体或视角智能体，但是由于知识的缺乏，单个智能体无法完全识别输入模式，单个智能体将依据一定的准则进行相应的繁殖或者重组，从而增加识别输入模式的知识，随着时间的推移，智能体的数量是渐增的，再利用繁殖或者重组所产生的多智能体提取出输入模式的定量特征，从而实现一个具有记忆功能的智能体影响图的建立，其中的各个智能体2之间是可变动、可移动的无线连接方式，智能体影响图采用动态连接方式处理多智能体之间的相互作用，智能体影响图具有增加智能体、删除智能体以及改变智能体之间联系的能力。

如图4所示，智能体2为一具有记忆功能的可变结构，一般来说，单智能体的体系结构不应该有一个统一的标准，就像有成千上万种动物占据着成千上万个不同的生态位一样。体系结构的确切形式将取决于任务和执行这些任务的环境。为此，我们确定了图4所示的单智能体的体系结构。

图4表明，一个记忆智能体就是一组消息处理规则。

(1)信念集(Belief)，即规则的前件。存放模式的定量特征和定性特征，包括：代数的、几何的、拓扑的、统计的、目标、事件、场景等，反映了agent处理消息的能力。

(2)愿望集(Desire)，即规则的后件。存放模式的定性特征，包括：目标、事件、场景等。它能决定与其它记忆agent的交互。信念集和愿望集统称为记忆agent的资源，记忆agent交互的目的就是获取其它记忆agent的资源，以提高自己的适应能力。

(3)感知器。它的任务是过滤和离散化环境产生的输入。感知器是把环境信息转化为二进制的装置，即，当某环境agent反馈和特征agent出现时，转向“开”，否则转向“关”，传递的信息量与特征数目呈指数关系。例如3个特征的感知器可以编码成2³＝8种刺激，20个特征的感知器可以编码成2²⁰，约100万种刺激。

(4)意图集(Intention)。它表征MA处理消息的能力，是一组形如IF/THEN规则，规则的条件与信念匹配，规则的结论与愿望匹配。意图集中每个规则具有一定的强度，强度的平均值，即MA的状态值。

(5)效应器。它表征了MA作用于环境和MA的能力。注意环境本身也可看作一种agent。

因为两个MA发生交互，必然会是一个MA的信念导致对由另一个MA的愿望所指定的动作十分敏感。即一个MA的信念与另一MA愿望进行匹配，反之亦然。

如果MA1的信念与MA2愿望匹配得很好，那么它就获得对方的大部分资源，从而消灭对方。如果MA1的信念与MA2愿望匹配得不好，则MA2就只能获得MA1过剩的那部分资源，或者一无所获。

在图4中，当MA发生交互后，MA将处理相应的动作；或发出作用于环境的消息；或直接作用于其它MA；或改变其BDI(Belief-Desire-Intention)。

MA体系结构可简化为：

IF(B)THEN(D)，V

B为信念，D为愿望，V为记忆agent状态值，V的取值在[0，1]。

在定量特征1的提取过程中采用本发明采用的是神经网络集成技术。

假设神经网络集成是由M个神经网络NN₁，NN₂，...，NN_M组成，采用平均法组成神经网络集成(假设是一个输出分量的情况)，即

给定一个训练集T，大小为N：

T＝{(x(1)，d(1))，(x(2)，d(2))，…，(x(N)，d(N))}，

这里x(x属于输入样本集)是神经网络NN的输入，d是期望输出。

计算集成中各成员神经网络的输出F_i(x)，再计算整个集成的输出F(x)：

$F\left(x\right)=\frac{1}{M}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{F}_i\left(x\right)$

假设训练集按分布p(x)随机抽取，神经网络集成的泛化误差定义如下：

E＝∫dxp(x)(F(x)-d(x))²

各成员神经网络的泛化误差定义如下：

E_i＝∫dxp(x)(F_i(x)-d(x))²

各成员神经网络的泛化误差的平均值定义如下：

$\stackrel{\‾}{E}=\frac{1}{M}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{E}_i$

成员神经网络之间的差异度定义如下：

A_i＝∫dxp(x)(F_i(x)-F(x))²

神经网络集成的差异度定义如下：

$\stackrel{\‾}{A}=\frac{1}{M}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{A}_i$

神经网络集成泛化误差的计算公式为：

$E=\stackrel{\‾}{E}-\stackrel{\‾}{A}$

差异度是神经网络集成中各成员神经网络相关程度的度量，它由使用的训练集、网络结构、学习算法的差异度或者学习算法的随机性产生。由于各个网络的差异度A_i均非负，因此神经网络的泛化误差E不大于各成员神经网络的泛化误差的平均值即神经网络集成在任何情况下都能够达到或超过组成它的各个网络的平均性能。同时，在组成神经网络集成的成员神经网络泛化误差保持不变的情况下，增大其差异度A_i能有效降低神经网络集成的泛化误差。

在神经网络集成经过训练后，就可以提取出定量特征1，但此时的定量特征1均为数值形式知识，为隐式知识，用户无法知道某一具体的网络能做什么，也无法知道它是怎么做的。一般来说，“可解释性”是一个系统必备的特性。为了增强系统的解释性，我们将利用一种规则抽取算法，将神经网络集成中的隐式知识用显式形式表示出来，如图5所示为本发明中采用的定性特征抽取方法。

提取出定量特征1后，再根据智能体影响图2的演化来提取其中的定性特征3，定性特征抽取的理论基础是涌现原理，在目标模式的涌现过程当中，会逐渐的形成若干智能体，这些智能体通过协商、协作、协调、竞争和交互，使得生存能力强的智能体生存了下来，生存能力弱的智能体逐渐消亡，并且随着时间的推移，智能体的数量是逐渐渐减的，搜索空间会越来越小，直到正确的目标模式的涌现为止。

基于动力学模型实现模式涌现。设是输入模式向量(简称输入模式)，在t+1时刻，输入模式的演化表示为：

$\stackrel{\→}{q}(t+1)=\underset{k=1}{\overset{n}{\mathrm{\Σ}}}{\mathrm{Ag}}_k\left(\stackrel{\→}{q}\left(t\right)\right){\stackrel{\→}{v}}_k+\stackrel{\→}{w}\left(t\right)---\left(1\right)$

是一组基(参考模式集合，注：不是特征向量，而是图像的灰度或彩色矩阵拉伸后的向量，必要时增加若干分量用于表示先验知识)，t是系统演化时间，是系统演化的不确定项(是一平稳随机过程)，我们称系数为agent。我们已经证明ξ_k反映了的整体特性，ξ_k的演化满足方程：

${\mathrm{\ξ}}_k^{\′}=-\frac{\∂V}{\∂{\mathrm{\ξ}}_k}$

其中， $V=-\frac{1}{2}\underset{k}{\mathrm{\Σ}}{\mathrm{\λ}}_k{\mathrm{\ξ}}_k^2+B\underset{k,k^{\′}}{\mathrm{\Σ}}{\mathrm{\ξ}}_k^2{\mathrm{\ξ}}_{k^{\′}}^2$ (势函数)

可以证明动力学方程(1)，它能“拉”输入模式经过中间状态进入到某一个参考模式中(模式涌现)，即：

$\stackrel{\→}{q}\left(0\right)\→\stackrel{\→}{q}\left(t\right)\→{\stackrel{\→}{v}}_{k0}$

以上所述的仅是本发明的优选实施方式，应当指出，对于本领域的普通技术人员来说，在不脱离本发明创造构思的前提下，还可以做出若干相似的变形和改进，这些也应视为本发明的保护范围之内。

Claims (2)

1.一种基于多智能体的分布式模式识别方法，其特征在于，其步骤包括：

步骤一：将输入模式表示为智能体影响图；

步骤二：根据智能体影响图的演化来提取其中的定性特征，缩小搜索的空间；

步骤三：通过多智能体的协作和动力学模型来完成目标模式的涌现；

所述步骤一中智能体影响图的建立的过程为：

首先通过单个智能体对输入模式进行识别，由于知识的缺乏，单个智能体无法完全识别输入模式；

然后单个智能体再进行相应的繁殖或者重组，从而增加识别输入模式的知识；

最后通过繁殖或者重组所产生的多智能体提取出输入模式的定量特征，从而实现一个具有记忆功能的智能体影响图的建立；

所述智能体影响图为一可变结构，其中的各个智能体之间是可变动、可移动的无线连接方式，智能体影响图采用动态连接方式处理多智能体之间的相互作用，智能体影响图具有增加智能体、删除智能体以及改变智能体之间联系的能力；

所述步骤二中根据智能体影响图的演化来提取其中的定性特征，定性特征抽取的理论基础是涌现原理，在目标模式的涌现过程当中，会逐渐的形成若干智能体，这些多智能体之间通过协商、协作、协调、竞争和交互，使得生存能力强的智能体生存下来，生存能力弱的智能体消亡，智能体的数量渐减，搜索空间越来越小，直到正确的目标模式的涌现为止。

2.根据权利要求1所述的基于多智能体的分布式模式识别方法，其特征在于，所述定量特征的提取过程中采用神经网络集成技术，对所述神经网络集成经过训练后，提取的定量特征均为数值形式知识，为隐式知识，后通过定性特征提取算法将隐式知识抽取出来并通过显式形式表示出来。