CN101826166B - 一种新的神经网络模式识别方法 - Google Patents

Abstract

本发明公开一种新神经网络模式识别方法，包括学习步骤与识别步骤，在上述步骤中，建立训练样本集，将训练样本集中训练样本划分成若干块，建立学习前向掩蔽SLAM模型，利用模型中的RBF神经元获取各块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本子集，对训练样本子集进行优先度排序，并将学成神经元按学成先后顺序排列，建立起训练好的基于同源的同类事物连通本性的PORBF网络；将测试样本输入至PORBF网络中，检测每一个RBF神经元的输出，找出序号最小且为激活输出的神经元，将该神经元的类别作为网络的判决输出。本发明的正确识别率更高，而且适合解决大规模超多类模式识别问题。

Description

一种新的神经网络模式识别方法

技术领域

本发明属于计算机技术领域，其提供一种基于同源的同类事物连通本性的新神经网络模式识别方法。

背景技术

模式识别方法的研究已有数十年的历史，取得了许多成果。例如，Fisher提出利用已知的两类样本的概率密度分布函数来设计将两类样本分开的决策方法；Vapnik提出类“最优分类超平面”的概念，并在此基础上发展了支撑向量机(SVM)的方法。这些理论和方法都是建立在统计理论的基础来寻找能够将两类样本划分开来的决策规则，在这些理论中，模式识别实际上就是模式分类。大家知道，随着模式识别的发展很多模式分类的正确识别率越来越高，然而这些正确识别率似乎有一个极限，很难突破。一般地，解决大规模超多类模式识别问题的方法要有增量学习功能，以利于在原有学习结果基础上继续学习、在原有模型基础上不断改进模型的效能，提高模式识别模型的正确识别率和泛化推广能力。大规模超多类模式识别问题有很高的空间复杂度和时间复杂度，传统的Fisher法、线性分类法、分段线性分类法、近邻法、BP神经网络分类方法、RBF网络分类方法、SVM分类方法都不直接适用于大规模超多类模式识别器的设计。

发明内容

本发明的任务在于解决现有技术存在的上述技术缺陷，提供一种基于对同源的同类事物连通本性的认知、能够利用同源的同类事物连通本性的新神经网络模式识别方法。

其技术解决方案是：

一种新神经网络模式识别方法，包括如下步骤：

(1)学习步骤，建立有限样本集，设定在有限样本集中同类事物中任意两相互直接连通样本之间的距离小于或等于δ，而不同类两事物样本之间的距离大于2δ，0＜δ≤0.1，将有限样本集中训练样本划分成若干块，建立学习前向掩蔽SLAM模型，利用模型中的RBF神经元获取各块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本子集，对训练样本子集进行优先度排序，将按照包含同类训练样本由多至少的规则按先后次序选取划分出的神经元作为神经网络的学成神经元，并将先学成的学成神经元与后学成的学成神经元按从小到大顺序排列，建立起训练好的基于同源的同类事物连通本性的PORBF网络；

(2)识别步骤，将测试样本输入至上述PORBF网络中，检测每一个RBF神经元的输出，找出序号最小且为激活输出的神经元，将该神经元的类别作为网络的判决输出。

在上述学习步骤中：

有限样本集表示为{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，其中h是训练样本总数，j，…，l是至多n个至少1个自然数的升序排列，n是样本空间的维数，设定同类事物中任意两相互直接连通样本X_i，X_j的距离小于或等于δ；在设定||X_i||＝||X_{i，j，…，l}||≤1的前提下，确定{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}的主分量W＝{w₁，w₂，…，w_n}，||W||＝1，把{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中点向量分别代入WX＝(w₁，w₃，…，w_n)(x₁，x₂，…，x_n)＝w₁x₁+w₂x₂+…+w_nx_n计算WX的h个值，并按降序排列，插入m个数，即θ₁，…，θ_m，且θ₁＞θ₂＞…＞θ_m；定义块为field₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1，建立上述SLAM模型，把特征空间划分为fisld₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1不同块，其中模型设置有m个神经元，神经元的运算式为sign(WX-θ_i)，θ_i为神经元域值，其中类别标示就取为块标示field_i；获取第k块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本集合，即T(field₁)＝({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}))；及

T(field_k)＝({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}))∪({X|X到平面θ_k-1＝WX的距离小于δ}∩T(field_k-1))，k＝2，…，m-1，以T(field_k)作为训练样本子集，对其进行优先度排序，即：1)选取一个RBF神经元的中心c_j，并标记该神经元的所属类别l_j，如果中心来自于样本矢量，则类别l_j就是该样本的所属类别；2)将训练样本子集中的矢量依次通过输入节点送往该神经元计算与中心c_j的距离，将计算结果按升序排列，排序后将样本序列的编号记为O_i(i＝0，1，…，n-1)；3)从小到大找到与中心c_j距离最近的异类样本，假设它在O_i中的位置为d，则计算O_d和O_d-1之间的某点到中心c_j的距离作为当前神经元的半径r_j，

$r_j=(1-\mathrm{\α})\left|\right|X_{O_{d-1}}-c_j\left|\right|+\mathrm{\α}\left|\right|X_{O_d}-c_j\left|\right|$

其中，0＜α≤1，记录该神经元划分出的同类样本的编号O_i(i＝0，1，…，d-1)、半径r_j和数量，划分出边界距离小于δ的训练样本；4)重复进行上述第1)步到第3)步不少于3次，选取划分出同类训练样本最多的那个神经元作为神经网络的学成神经元；5)检查被划分出的训练样本是否还有与其直接连通的其他训练样本在没有被划分出的训练样本子集中，以及检查被划分出的训练样本是否有到边界{X|r_j＝||X-c_j||}的距离小于δ的其他训练样本；6)将所划分出的且与其没有直接连通的训练样本在没有被划分出的样本子集中的，或到划分曲面{X|r_j＝||X-c_j||}距离不小于δ的训练样本从训练样本子集中删除，剩余训练样本被保留，并将被删除的训练样本建立起新训练样本子集；7)选取新训练样本子集重复上述1)-6)的划分过程，直至上述有限样本集中只剩下一类训练样本；8)再构造一个RBF神经元划分上述步骤7)的最后一类训练样本；9)将上述所有学成神经元按顺序编号，先学成的学成神经元的序号小，后学成的学成神经元序号大，同时将RBF神经元的激活函数改为硬限幅函数，建立起上述PORBF网络。

上述步骤3)中，当 $\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|>2\mathrm{\&delta;}$ 时，α＝1/2；当 $\mathrm{\&delta;}<\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|\&le;2\mathrm{\&delta;}$ 时，取α＝0；当 $\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|<\mathrm{\&delta;}$ 时，中心c_j重选。

本发明的有益技术效果是：

随着模式识别技术的发展，很多模式分类的正确识别率越来越高，然而这些正确识别率似乎有一个极限，很难突破。本发明的发明人经总结得以发现造成这种结果的原因是因为这些传统方法没有充分利用同源的同类事物局部直接连通本性这个先验知识，大千世界万事万物都是由同类事物渐变发展而来，因此同源的同类事物的特征集有局部直接连通性(局部直接连通性：足够靠近的两个同源的同类事物样本特征的联线段上所有点也是同类事物)，在现实世界中，如果两个同类样本不完全相同，则这两个同类样本差别一定是可以渐变的(非同源的情况除外，例如简体字和繁体字就不属于同源的)。本发明利用渐变的序列，从这两个同源样本中的一个变到另外一个，并且这个序列中的所有模式都属于同一类，上述是关于同源的样本间的连续性的规律，我们称之为同源连通原理。本发明利用了“同源的同类事物连通性”先验知识，降低了大规模超多类模式识别问题的空间复杂度和时间复杂度，因此使用该方法的模式识别器的正确识别率比使用传统的神经网络模式识别方法的模式识别器的正确识别率更高，而且该方法适合解决大规模超多类模式识别问题。

附图说明

下面结合附图与具体实施方式对本发明进行详细说明：

图1为本发明一种具体实施方式的神经网络拓扑结构示意图。

图2为图1方式中的优先度排序神经网络拓扑结构示意图。

图3为图1方式中的PORBF训练流程图。

具体实施方式

结合参看图1、图2及图3，一种新神经网络模式识别方法，包括如下步骤：

学习步骤，建立有限样本集，该样本集表示为{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，其中h是样本总数，j，…，l是至多n个至少1个自然数的升序排列，n是样本空间的维数，设定同类事物中任意两相互直接连通样本X_i，X_j的距离小于或等于δ，而不同类两事物样本的距离大于2δ，0＜δ≤0.1，即δ可选取上述范围内的任一小数；在设定||X_i||＝||X_{i，j，…，l}||≤1的前提下，用主分析算法确定{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}的主分量W＝{w₁，w₂，…，w_n}，||W||＝1，把{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中点向量分别代入

WX＝(w₁，w₂，…，w_n)(x₁，x₂，…，x_n)＝w₁x₁+w₂x₂+…+w_nx_n计算WX的h个值，并按降序排列，

插入m个数，即θ₁，…，θ_m，且θ₁＞θ₂＞…＞θ_m；定义块为field₁＝{X|θ₁≤WX}，

field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1，建立学习前向掩蔽SLAM模型，把特征空间划分为field₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1不同块，其中模型设置有m个神经元，神经元的运算式为sign(WX-θ_i)，θ_i为神经元域值，其中类别标示就取为块标示field_i；获取第k块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本集合，即T(field₁)＝({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}))；及

T(field_k)＝({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}))∪({X|X到平面θ_k-1＝WX的距离小于δ}∩T(field_k-1))，k＝2，…，m-1，以T(field_k)作为训练样本子集，对其进行优先度排序，即：1)选取一个RBF神经元的中心c_j，并标记该神经元的所属类别l_j，如果中心来自于样本矢量，则类别l_j就是该样本的所属类别；2)将训练样本子集中的矢量依次通过输入节点送往该神经元计算与中心c_j的距离，将计算结果按升序排列，排序后将样本序列的编号记为O_i(i＝0，1，…，n-1)；3)从小到大找到与中心c_j距离最近的异类样本，假设它在O_i中的位置为d，则计算O_d和O_d-1之间的某点到中心c_j的距离作为当前神经元的半径r_j，

$r_j=(1-\mathrm{\&alpha;})\left|\right|X_{O_{d-1}}-c_j\left|\right|+\mathrm{\&alpha;}\left|\right|X_{O_d}-c_j\left|\right|$

其中，0＜α≤1，记录该神经元划分出的同类样本的编号O_i(i＝0，1，…，d-1)、半径r_j和数量，划分出边界距离小于δ的训练样本；4)重复进行上述第1)步到第3)步不少于3次，选取划分出同类训练样本最多的那个神经元作为神经网络的学成神经元；5)检查被划分出的训练样本是否还有与其直接连通的其他训练样本在没有被划分出的训练样本子集中，以及检查被划分出的训练样本是否有到边界{X|r_j＝||X-c_j||}的距离小于δ的其他训练样本；6)将所划分出的且与其没有直接连通的训练样本在没有被划分出的样本子集中的，或到划分曲面{X|r_j＝||X-c_j||}距离不小于δ的训练样本从训练样本集中删除，剩余训练样本被保留，并将被删除的训练样本建立起新训练样本子集；7)选取新训练样本子集重复上述1)-6)的划分过程，直至上述有限样本集中只剩下一类训练样本；8)再构造一个RBF神经元划分上述步骤7)的最后一类训练样本；9)将上述所有学成神经元按顺序编号，先学成的学成神经元的序号小，后学成的学成神经元序号大，同时将RBF神经元的激活函数改为硬限幅函数，建立起训练好的基于同源的同类事物连通本性的PORBF网络；

(2)识别步骤，将测试样本输入至上述PORBF网络中，检测每一个RBF神经元的输出，找出序号最小且为激活输出的神经元，将该神经元的类别作为网络的判决输出。

下面结合有关定理等知识对上述实施方式作更进一步说明：

设在特征空间中，同源的同类事物a的特征集合为CH_a，则同源的同类事物的有限样本集(有限训练集或训练样本集)可表示为

T_a实际上是一种人为(人造)的抽象表示。

定理1T_a＝{x₁，…，x_n)|x₁，…，x_n是实数，|x_i|≤M，i＝1，…，n}是可数集，因而可顺序编码。

因此同源的同类事物训练集T_a按以下策略顺序采样生成，则同类事物的一部分局部直接连通(连续)路径、方向也就明确了。

1、对同类事物分m时段采样；

2、每个时段的采样保证具有局部直接连通(连续)性，也即前样本Z_i与紧邻时刻后样本Z_i+1相近，|Z_i-Z_i+1|＜σ，σ是某一较小数，σ优选为0～0.1之间的任一小数，该小数可根据需要具体选定。

使得 $\left\{X\right|X=\mathrm{\&beta;}{Z}_i+(1-\mathrm{\&beta;})Z_{i+1},0\&le;\mathrm{\&beta;}\&le;1\}\&SubsetEqual;C{H}_a;$

3、按采样时刻先后顺序编码T_a，T_a＝{Z_j|Z_j，j＝1，…，l₁，l₁+1，…，l₂，…，l_{m_1}+1，…，l_m，|Z_j-Z_j+1|＜σ，j＝l_i-1+1，…，l_i，i＝1，…，m，l₀＝1}，由于σ较小|Z_j-Z_j+1|＜σ，j＝l_i-1+1，…，l_i，i＝，1，…，m，Z_j∈T_a及同类事物特征集CH_a是局部直接连通(连续)的，于是我们自然认为连接Z_i，Z_i+1的直线段在CH_a中，从而CH_a中有m条折线通路，局部连通(连续)方向由编码顺序决定。m＝1时CH_a中只有一条通路。

因此所有事物有限样本集可以表示为{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，其中h是训练样本总数。X_i＝X_{i，j，…，l}表示样本X_i与样本X_j，…，与样本X_l都直接连通，直接连通有对称性，样本X_j，…，X_l也与X_i＝X_{i，j，…，l}直接连通，并且X_i，X_j，…，X_l是同源同类事物，j，…，l是至多n(注：n是样本空间的维数)个至少1个自然数的升序排列。例如，X₂₀₁₀＝X_{2010，3，50，68，3001，…，21000}表示100维样本空间中样本X₂₀₁₀分别与样本X₃，X₅₀，X₆₈，X₃₀₀₁，…，X₂₁₀₀₀直接连通，X₆₈＝X_68，2010表示X₆₈仅与X₂₀₁₀直接连通。

不妨设同类事物中任意两相互直接连通样本X_i，X_j的距离(注：X_i，X_j的连线段的长度)小于或等于δ，而不同类两事物样本的距离大于2δ，δ为0～0.1之间的任一小数，该小数可根据需要具体选定。

①对于训练样本集{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，不妨设||X_i||＝||X_{i，j，…，l}||≤1，i＝1，2，…，h，j＜…＜l}，用主分析算法确定{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}的主分量W＝{w₁，w₂，…，w_n}，||W||＝1；

②把{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中点向量分别代入WX＝(w₁，w₂，…，w_n)(x₁，x₂，…，x_n)＝w₁x₁+w₂x₂+…+w_nx_n计算WX的h个值，并按降序排列；插入m数，θ₁，…，θ_m，要求θ₁＞θ₂＞…＞θ_m；大约有

个WX值大于θ₁；大约有个WX值大于θ_i+1而小于θ_i，i＝1，…，m-1；所有WX值大于θ_m+Δ，Δ是大于零的常数；θ_i，i＝1，…，m-1是两个相邻的WX值的平均值，且这两个相邻的WX值的差较大，不小于2Δ。

③块定义：field₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1。基于训练样本集{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，建立简单的基于同源的同类事物连通本性的排序学习前向掩蔽SLAM模型，把特征空间划分为field_l＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1不同块。其中模型中只需设置m个神经元。神经元的运算式为sign(WX-θ_i)，θ_i为神经元域值。其中类别标示就取为块标示field_i。

④求第k块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本集合：T(field₁)＝({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中有直接连通样本})；

T(field_k)＝({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中有直接连通样本})

∪({X|X到平面θ_k-1＝WX距离小于δ}∩T(field_k-1))，k＝2，…，m-1；(注：训练样本超出了块领域，以便确保在块边界附近同源的同类事物在分类器下是局部直接连通的，且C_v类样本点为中心半径为δ球体内任何点在分类器下也分为C_v类)。

⑤以T(field_k)作为训练样本子集，训练设计以下第k个基于同源的同类事物连通本性的优先度排序神经网络：

图2中每个模块中可以是一个神经元，也可以是一个由若干个神经元组成的子神经网络，本发明取定图中每个模块为一个RBF神经元。设定编号小的模块优先度高，编号大的优先度低，编号大的模块训练样本要用到编号小一号的模块已经训练成功的部分样本(注：这一点能够保证同源的同类事物局部直接连通，与王守觉院士提出的优先度排序神经网络PONN存在不同)，各模块的输入为

不同的模块可以具有不同的内部结构。图中P_ki为模块i的优先度，

为模块i的输出， $C_k({\stackrel{\&RightArrow;}{y}}_{k1},{\stackrel{\&RightArrow;}{y}}_{k2}\&CenterDot;\&CenterDot;\&CenterDot;,{\stackrel{\&RightArrow;}{y}}_{\mathrm{kn}};p_{k1},p_{k2}\&CenterDot;\&CenterDot;\&CenterDot;,p_{\mathrm{kv}})$ 称为网络的决策函数，是整个网络最终输出的判别条件和计算公式。

1)选取一个RBF神经元的中心c_j，并标记该神经元的所属类别l_j，如果中心来自于样本矢量，则类别l_j就是该样本的所属类别；

2)将样本集中的矢量依次通过输入节点送往该神经元计算与中心c_j的距离，将计算结果按升序排列，排序后将样本序列的编号记为O_i(i＝0，1，…，n-1)；

3)从小到大找到与中心c_j距离最近的异类样本，假设它在O_i中的位置为d，则计算O_d和O_d-1之间的某点到中心c_j的距离作为当前神经元的半径r_j，

$r_j=(1-\mathrm{\&alpha;})\left|\right|X_{O_{d-1}}-c_j\left|\right|+\mathrm{\&alpha;}\left|\right|X_{O_d}-c_j\left|\right|$

其中，0＜α≤1。记录该神经元划分出的同类样本的编号O_i(i＝0，1，…，d-1)、半径r_j和数量，以及划分出的样本且到划分边界距离小于δ的样本；一般地，当 $\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|>2\mathrm{\&delta;}$ 时，取α＝1/2。当 $\mathrm{\&delta;}<\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|\&le;2\mathrm{\&delta;}$ 时，取α＝0。当 $\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|<\mathrm{\&delta;}$ 时，中心c_j重选。

4)重复第1步到第3步g(＞2)次，选取划分出同类样本最多的那个神经元作为神经网络的神经元。

5)检查被划分出的样本是否有直接连通样本在没有划分出的样本集中；检查被划分出的样本是否有到边界{X|r_j＝||X-c_j||}的距离小于δ的(即r_j-||X-c_j||＜δ)；

6)将所划分出的且没有直接连通样本在没有划分出的样本集中的或到划分曲面{X|r_j＝||X-c_j||}距离不小于δ的样本从样本集中删除，即保留有直接连通样本在没有划分出的样本集中的或到边界{X|r_j＝||X-c_j||}距离小于δ的那些样本(注：保证被划分出的样本局部直接连通和被划分出的样本到划分曲面的距离不小于δ，从而确保分类(识别)器有较好的推广泛化能力和较高的正确识别率)，并将被删除的训练样本建立起新训练样本子集；；

7)用新训练样本子集重复前面1)-6)的划分过程，直至样本集中只剩一类训练样本(最后一类训练样本)；

8)构造一个RBF神经元划分最后一类训练样本；

9)将所有RBF神经元按顺序编号，先学成的神经元的序号小，后学成的序号大；同时将RBF神经元的激活函数改为硬限幅函数。

至此，就完成了基于同源的同类事物连通本性的PORBF网络的学习过程。可以看出，基于同源的同类事物连通本性的PORBF网络的结构，即隐层神经元的数目及其参数(c_j、r_j、l_j、p_j)是在训练中确定下来的，无需人工干预，具有自组织、自适应的特点。

识别时，将测试样本输入至训练好的基于同源的同类事物连通本性的PORBF网络中，检测每一个RBF神经元的输出，找出序号最小且为激活输出的神经元，将该神经元的类别作为网络的判决输出即可。

容易证明以下定理，即：

定理2若在训练样本集{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中，同源的同类事物局部任何直接连通两点X_i＝X_{i，…，j，…}和X_j＝X_{j，…，i，…}的连线段

长小于δ，则任何同源的同类事物局部直接连通两点X_i＝X_{i，…，j，…}和X_j＝X_{j，…，i，…}的连线上任何点在以上基于同源的同类事物连通本性的新神经网络模式识别器下一定分到同一类中。

定理3基于同源的同类事物连通本性的新神经网络模式识别方法设计的分类器的正确识别率比RBF神经网络模式识别器或优先度排序RBF神经网络模式识别器的正确识别率都高，而且基于同源的同类事物连通本性的新神经网络模式识别方法设计的分类器的设计时间比RBF神经网络模式识别器或优先度排序RBF神经网络模式识别器的设计时间快得多。

本发明的一个试验例

双螺旋线分类识别一直是模式识别领域公认的一个相当有难度的问题，该问题因其难度而经常被用作检验模式识别算法性能的试金石。螺旋线圈数的多少代表了问题难易程度，圈数越多问题的可分性越差。

以8圈的双螺旋线为例，采集640个训练样本作为训练样本集，确定有3个神经元的SLAM神经网络分块模块，确定3不同块上的优先度排序神经网络训练集T(field_k)，k＝1，2，3，基于训练集T(field_k)，k＝1，2，3，按照第k个基于同源的同类事物连通本性的优先度排序RBF神经网络设计流程和算法，确定第k个基于同源的同类事物连通本性的优先度排序RBF神经网络。

随机采集640个测试样本进行测试表明，其正确识别率为100％。而用传统的SVM方法、优先度排序RBF神经网络方法设计的分类器的正确识别率分别不超过70％、95％。

Claims (1)

1.一种新神经网络模式识别方法，特征在于其包括如下步骤：

(1)学习步骤，建立有限样本集，设定在有限样本集中同类事物中任意两相互直接连通样本之间的距离小于或等于δ，而不同类两事物样本之间的距离大于2δ，0＜δ≤0.1，将有限样本集中训练样本划分成若干块，建立学习前向掩蔽SLAM模型，利用模型中的RBF神经元获取各块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本子集，对训练样本子集进行优先度排序，将按照包含同类训练样本由多至少的规则按先后次序选取划分出的神经元作为神经网络的学成神经元，并将先学成的学成神经元与后学成的学成神经元按从小到大顺序排列，建立起训练好的基于同源的同类事物连通本性的PORBF网络；

(2)识别步骤，将测试样本输入至上述PORBF网络中，检测每一个RBF神经元的输出，找出序号最小且为激活输出的神经元，将该神经元的类别作为网络的判决输出；

在所述学习步骤中包括：有限样本集表示为{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}，其中h是训练样本总数，j，…，l是至多n个至少1个自然数的升序排列，n是样本空间的维数，设定同类事物中任意两相互直接连通样本X_i，X_j的距离小于或等于δ；在设定||X_i||＝||X_{i，j，…，l}||≤1的前提下，确定{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}的主分量W＝{w₁，w₂，…，w_n}，||W||＝1，把{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l}中点向量分别代入

WX＝(w₁，w₂，…，w_n)(x₁，x₂，…，x_n)＝w₁x₁+w₂x₂+…+w_nx_n计算WX的h个值，并按降序排列，插入m个数，即θ₁，…，θ_m，且θ₁＞θ₂＞…＞θ_m；定义块为field₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1，建立上述SLAM模型，把特征空间划分为field₁＝{X|θ₁≤WX}，field_i＝{X|θ_i≤WX＜θ_i-1}，i＝2，…，m-1不同块，其中模型设置有m个神经元，神经元的运算式为sign(WX-θ_i)，θ_i为神经元域值，其中类别标示就取为块标示field_i；获取第k块上基于同源的同类事物连通本性的优先度排序神经网络的训练样本集合，即：  T(field₁)＝({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ₁≤WX}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})中有直接连通样本})；

T(field_k)＝({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})∪({X|X在({X|θ_k≤WX＜θ_k-1}∩{X_i＝X_{i，j，…，l}|i＝1，2，…，h，j＜…＜l})中有直接连通样本})

∪({X|X到平面θ_k-1＝WX的距离小于δ}∩T(field_k-1 ))，k＝2，…，m-1；以T(field_k)作为训练样本子集，训练设计以下第k个基于同源的同类事物连通本性的优先度排序神经网络，即：1)选取一个RBF神经元的中心c_j，并标记该神经元的所属类别l_j，如果中心来自于样本矢量，则类别l_j就是该样本的所属类别；2)将训练样本子集中的矢量依次通过输入节点送往该神经元计算与中心c_j的距离，将计算结果按升序排列，排序后将样本序列的编号记为O_i(i＝0，1，…，n-1)；3)从小到大找到与中心c_j距离最近的异类样本，假设它在O_i中的位置为d，则计算O_d和O_d-1之间的某点到中心c_j的距离作为当前神经元的半径r_j，

$r_j=(1-\mathrm{\&alpha;})\left|\right|X_{O_{d-1}}-c_j\left|\right|+\mathrm{\&alpha;}\left|\right|X_{O_d}-c_j\left|\right|$

其中，0＜α≤1，记录该神经元划分出的同类样本的编号O_i(i＝0，1，…，d-1)、半径r_j和数量，划分出边界距离小于δ的训练样本；4)重复进行上述第1)步到第3)步不少于3次，选取划分出同类训练样本最多的那个神经元作为神经网络的学成神经元；5)检查被划分出的训练样本是否还有与其直接连通的其他训练样本在没有被划分出的训练样本子集中，以及检查被划分出的训练样本是否有到边界{X|r_j＝||X-c_j||}的距离小于δ的其他训练样本；6)将所划分出的且与其没有直接连通的训练样本在没有被划分出的样本子集中的，或到划分曲面{X|r_j＝||X-c_j||}距离不小于δ的训练样本从训练样本子集中删除，剩余训练样本被保留，并将被删除的训练样本建立起新训练样本子集；7)选取新训练样本子集重复上述1)-6)的划分过程，直至上述有限样本集中只剩下一类训练样本；8)再构造一个RBF神经元划分上述步骤7)的最后一类训练样本；9)将上述所有学成神经元按顺序编号，先学成的学成神经元的序号小，后学成的学成神经元序号大，同时将RBF神经元的激活函数改为硬限幅函数，建立起上述PORBF网络；

所述步骤3)中，当时，α＝1/2；当 $\mathrm{\&delta;}<\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|\&le;2\mathrm{\&delta;}$ 时，取α＝0；当 $\left|\right|X_{O_d}-c_j\left|\right|-\left|\right|X_{O_{d-1}}-c_j\left|\right|<\mathrm{\&delta;}$ 时，中心c_j重选。

Images