CN108664949A - 利用径向基神经网络对癫痫脑电图信号进行分类的方法 - Google Patents

Abstract

本发明提供了一种利用径向基神经网络对癫痫脑电图信号进行分类的方法，步骤包括：建立径向基网络的数学模型、对径向基网络的隐层节点进行估计、定义不敏感损失误差准则、基于ε‑不敏感误差准则和结构风险的径向基网络训练以及利用集成的ε‑RBF‑NN训练算法进行训练和分类。该分类方法利用集成的神经网络以解决单个RBF神经网络不稳定的问题，多分类器的集成使得算法的分类更加稳定；该分类方法可以在多个训练子集上并行训练多个分类器，并根据每个分类器的贡献率分配相应的权重，有效提高了分类精度。

Description

利用径向基神经网络对癫痫脑电图信号进行分类的方法

技术领域

本发明涉及一种图形信号分类方法，尤其是一种利用径向基神经网络对癫痫脑电图信号进行分类的方法。

背景技术

癫痫是由脑部损伤引起的短暂大脑功能障碍，是人类大脑中最常见的疾病之一，对人类危害极大。而癫痫患者的脑电图(EEG)信号中包含了脑内大量的生理和病理信息，因此对EEG的智能识别对于癫痫病的检测有着重要的意义。目前，很多智能识别方法已经应用于癫痫病脑电信号的识别。代表性的方法有：神经网络方法、朴素贝叶斯方法、决策树算法、K近邻算法等。在这些主流的智能识别方法中，径向基神经网络(radial basis functionneural network，RBF-NN)具备较好的分类和容错能力，能够在实际应用中觉得较好的分类效果。但是RBF-NN对于小样本数据集和含噪数据集的训练容易过拟合，导致RNF-NN的泛化能力较差。

发明内容

本发明要解决的技术问题是现有的RBF-NN对于小样本数据集和含噪数据集的训练容易过拟合，导致RNF-NN的泛化能力较差，不能稳定且精确地对癫痫病进行检测。

为了解决上述技术问题，本发明提供了一种利用径向基神经网络对癫痫脑电图信号进行分类的方法，包括如下步骤：

步骤1，建立径向基网络的数学模型；

步骤2，对径向基网络的隐层节点进行估计；

步骤3，定义不敏感损失误差准则；

步骤4，基于ε-不敏感误差准则和结构风险的径向基网络训练；

步骤5，利用集成的ε-RBF-NN训练算法进行训练和分类。

进一步地，步骤1中，建立径向基网络的数学模型为：

式(1)中，x∈R^d为网络输入向量，c_i∈R^d为网络隐藏层节点的径向基函数中心向量，w_i为网络隐层与输出节点之间的连接权值，||.||表示范数，可取欧几里德范数，Φ(.)为径向基函数，完成从R^d→R¹的非线性转变，具体形式为：

式(2)中，δ_i为宽度值，在径向基网络的数学模型中，要学习的参数有三种，即隐层节点隐层径向基函数宽度值δ_i以及隐层和输出层的连接权值wi。

进一步地，步骤2中，对径向基网络的隐层节点进行估计的具体步骤为：

对于径向基神经网络的隐层中心点参数c_i和宽度值δ_i，使用模糊C均值聚类算法进行估计如下：

式(3)和(4)中，u_ji为样本x_j隶属于第i个类的隶属度，h是一个可调的缩放参数，在径向基网络中，一旦隐层参数被估计，则令：

P_g＝[w₁,…,w_Q]^T (5c)

通过公式(5a)-(5c)将公式(1)的径向基网络映射函数转换为如下表达式：

由公式(6)得出，当径向基网络的隐层节点被估计后，网络的输出可表示为一个线性模型的输出，于是将网络参数的学习转化为线性模型之参数学习问题。

进一步地，步骤3中，定义不敏感损失误差准则的具体步骤为：

给定标量g和向量G＝[g₁,g₂,...,g_d]^T相应的ε-不敏感损失分别如式(8)和式(9)所示：

对于公式(6)所示的线性模型，其对应的ε-不敏感损失误差准则定义为：

进一步地，步骤4中，基于ε-不敏感误差准则和结构风险的径向基网络训练的具体步骤为：

对于公式(10)，给定数据集{x_gi,y_i}，由于不等式不总是满足，因此引入松弛变量和可得到如下约束：

利用公式(10)和公式(11)所示的准则函数可等价地表示为：

基于上述等价准则函数，引入结构风险正则项，公式(12a)和(12b)改进为：

式中，τ＞0用来平衡经验误差项和表示结构风险的正则化项的影响，对于公式(13a)和(13b)中参数τ和ε采用交叉验证法来确定其最优值，对于公式(13a)和(13b)利用拉格朗日优化可得到其对偶问题：

根据对偶理论，利用公式(14)得到最优解进一步得到公式(13)对应的最优解为：

进一步地，步骤5中，利用集成的ε-RBF-NN训练算法进行训练和分类的具体步骤为：

首先，进行多次训练以获得多个分类器的训练精度；其次，选择Q个分类器并根据训练的准确性得到每个分类器的权重，并进行权重归一化；最后，通过公式(16)计算每个样本的标签为：

式中，y⁰为样本标签，w_i是第i个分类器的权重，x_g是输入向量x是由函数Φ(.)隐射得到的值，是由连接权重w_i表示的向量，Q是选定的分类器的个数。

本发明的有益效果在于：利用对癫痫检测中的EEG信号进行分析，在RBF-NN算法的基础上，引入不敏感项和结构风险准则，又由于单个的分类器性能不稳定，引入集成策略，训练多个分类器，并根据各自的分类精度赋予不同的权值，在测试阶段，利用权值得到测试数据集的分类标签，从而计算出最终的分类精度。

附图说明

图1为本发明的方法流程图。

具体实施方式

如图1所示，本发明公开的利用径向基神经网络对癫痫脑电图信号进行分类的方法，包括如下步骤：

步骤1，建立径向基网络的数学模型；

步骤2，对径向基网络的隐层节点进行估计；

步骤3，定义不敏感损失误差准则；

步骤4，基于ε-不敏感误差准则和结构风险的径向基网络训练；

步骤5，利用集成的ε-RBF-NN训练算法进行训练和分类。

其中，步骤1中，建立径向基网络的数学模型为：

式(1)中，x∈R^d为网络输入向量，c_i∈R^d为网络隐藏层节点的径向基函数中心向量，w_i为网络隐层与输出节点之间的连接权值，||.||表示范数，可取欧几里德范数，Φ(.)为径向基函数，完成从R^d→R¹的非线性转变，具体形式为：

式(2)中，δ_i为宽度值，在径向基网络的数学模型中，要学习的参数有三种，即隐层节点隐层径向基函数宽度值δ_i以及隐层和输出层的连接权值w_i。

步骤2中，对径向基网络的隐层节点进行估计的具体步骤为：

对于径向基神经网络的隐层中心点参数c_i和宽度值δ_i，使用模糊C均值聚类算法进行估计如下：

式(3)和(4)中，u_ji为样本x_j隶属于第i个类的隶属度，h是一个可调的缩放参数，在径向基网络中，一旦隐层参数被估计，则令：

P_g＝[w₁,…,w_Q]^T (5c)

通过公式(5a)-(5c)将公式(1)的径向基网络映射函数转换为如下表达式：

由公式(6)得出，当径向基网络的隐层节点被估计后，网络的输出可表示为一个线性模型的输出，于是将网络参数的学习转化为线性模型之参数学习问题。

步骤3中，定义不敏感损失误差准则的具体步骤为：

给定标量g和向量G＝[g₁,g₂,...,g_d]^T相应的ε-不敏感损失分别如式(8)和式(9)所示：

对于公式(6)所示的线性模型，其对应的ε-不敏感损失误差准则定义为：

步骤4中，基于ε-不敏感误差准则和结构风险的径向基网络训练的具体步骤为：

对于公式(10)，给定数据集{x_gi,y_i}，由于不等式不总是满足，因此引入松弛变量和可得到如下约束：

利用公式(10)和公式(11)所示的准则函数可等价地表示为：

基于上述等价准则函数，引入结构风险正则项，公式(12a)和(12b)改进为：

式中，τ＞0用来平衡经验误差项和表示结构风险的正则化项的影响，对于公式(13a)和(13b)中参数τ和ε采用交叉验证法来确定其最优值，对于公式(13a)和(13b)利用拉格朗日优化可得到其对偶问题：

根据对偶理论，利用公式(14)得到最优解进一步得到公式(13)对应的最优解为：

步骤5中，利用集成的ε-RBF-NN训练算法(I-ε-RBF-NN)进行训练和分类的具体步骤为：

首先，进行多次训练以获得多个分类器的训练精度；其次，选择Q个分类器并根据训练的准确性得到每个分类器的权重，并进行权重归一化；最后，通过公式(16)计算每个样本的标签为：

式中，y⁰为样本标签，w_i是第i个分类器的权重，x_g是输入向量x是由函数Φ(.)隐射得到的值，是由连接权重w_i表示的向量，Q是选定的分类器的个数。

步骤5中，进行训练时，首先，定义输入为：训练样本X，训练模型数Q；定义输出为：集成分类模型M以及各分类器的权重；I-ε-RBF-NN训练算法的具体训练步骤为：

步骤5.1，给定训练数据集对于tm＝1到TM；

步骤5.2，利用ε-RBF-NN进行训练学习；

步骤5.3，如果某个分类器精度达到设定的阈值，当前的子分类器c_i将被保存，否则，该分类器被舍弃；

步骤5.4，设置tm自加1；

步骤5.5，结束循环；

步骤5.6，通过训练精度得到每个分类器的权重；

步骤5.7，归一化每个分类器的权重。

对应于上述的训练步骤还给出了分类测试步骤，首先，定义输入为：测试训练样本T、集成模型Q＝{q_i},i＝1,2,...,Q以及每个分类器的权重w_i,i＝1,2,...,Q；定义输出为：集成模型的分类精度，对tm＝1到TM。具体测试步骤为：

步骤C1：当模型M_tm被测试数据集T训练得到后，利用公式(16)计算输出y_tm；

步骤C2：在获得的输出集合中选择最大的y_i作为当前输出结果，设置Y＝{y_i},i＝1,2,...,TM并放弃其他的输出结果；

步骤C3：输出分类标签和精度；

步骤C4：设置tm自加1；

步骤C5：结束循环。

为了评估本发明提出的I-ε-RBF-NN的分类性能，对比算法有RBF-NN、ε-RBF-NN、SVM、ELM以及TSK。其中，TSK是一个模糊系统，它是单层模糊神经系统的代表。ELM是一种单层神经网络的快速学习算法。BP-NN是多层神经网络。这些都是现代具有代表性的算法。

评估所采用的EEG数据来源于德国波恩大学。EEG信号数据集里有5组数据(分别命名为A到E组)，每组数据包含100个样本。A组和B组信号是5个健康志愿者的EEG信号，数组A是志愿者保持睁眼状态下所测得的信号；数组B则是闭眼时的信号。C-E组则是癫痫病患者测量得到的EEG信号，C组是在其发作间歇期测得大脑的海马结构处的EEG信号；数组D则是发病间歇期的大脑致痫区内的EEG信号；E组是癫痫患者发作期间内测得的信号。表1给出了5组数据的具体描述。

表1数据集描述

在评估实验中，我们构建了4组实验数据，这些实验数据在训练和测试数据分布方面有一些差异，2组数据集在分布上没有差异。这6组实验数据是从EEG信号数据集中提取的。数据集1和数据集2的训练数据集和测试数据集来源于相同的分布，但提取的样本不同。针对数据集3-6的训练数据集和测试数据集均不含相同样本，相互独立。另外，每个实验数据集的训练和测试数据集是不同的和独立的。表2列出了实验数据集的组成。以数据集1为例，从B和E中选取75个样本作为训练样本，共150个样本，剩余的25个样本以B和E总共50个样本作为测试样本。这确保了训练集的类型与测试集不同。

表2实验数据集的结构

本发明使用5倍交叉验证方法来确定每个比较算法的参数值。各对比度算法的参数设置如表3所示。

表3各算法的参数设置

本发明算法与对比算法的实验结果如表4和表5所示：

表4在EEG信号上的平均训练精度对比

表5在EEG信号上的平均训测试精度对比

表6不同集成分类器上的训练精度对比

I-ε-RBF-NN分类器个数	1	5	7	11	15	23
							训练精度	96.24	96.33	97.79	97.52	97.59	97.49

(1)从表4可以看出，大多数情况下，对于脑电信号，I-ε-RBF-NN的分类精度优于其他比较算法。在数据集2上，分类准确度略低于ELM算法。表明当训练数据集和测试数据集具有相同的分布时，所提出的I-ε-RBF-NN的分类优势不明显。然而，当训练数据集和测试数据集不具有相同的分布时，所提出的I-ε-RBF-NN的分类准确性总是优于比较分类器。

(2)从表5可以看出，当训练数据集和测试数据集的分布不相同时，所提出的I-ε-RBF-NN的分类精度优于其他分类器。它表明，所提出的算法对训练数据集和测试数据集的不同分布是有利的。另外，从指标std可以看出，I-ε-RBF-NN的稳定性要好于其他分类器。这表明综合策略的引入可以有效解决单分类器不稳定问题。

(3)从表6可以看出，当分类器的数量设置为7时，分类准确度最高。这表明准确性与分类器的数量相关。

本发明针对癫痫检测中的EEG信号进行分析，在RBF-NN算法的基础上，引入不敏感项和结构风险准则。有由于单个的分类器性能不稳定，本发明引入集成策略，训练多个分类器，并根据各自的分类精度赋予不同的权值。在测试阶段，利用权值得到测试数据集的分类标签，从而计算出最终的分类精度。实验表明本发明所提算法的分类精度高于其他对比算法，尤其是在训练数据集和测试数据集分布不同时，优势最为明显。另外，实验还表面集成策略的引入有效提高了分类器的稳定性。

本发明的有益效果在于：

(1)利用集成的神经网络以解决单个RBF神经网络不稳定的问题，多分类器的集成使得算法的分类更加稳定。

(2)由于本发明分类方法可以在多个训练子集上并行训练多个分类器，并根据每个分类器的贡献率分配相应的权重，有效提高了分类精度。

Claims (6)

1.利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，包括如下步骤：

步骤1，建立径向基网络的数学模型；

步骤2，对径向基网络的隐层节点进行估计；

步骤3，定义不敏感损失误差准则；

步骤4，基于ε-不敏感误差准则和结构风险的径向基网络训练；

步骤5，利用集成的ε-RBF-NN训练算法进行训练和分类。

2.根据权利要求1所述的利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，步骤1中，建立径向基网络的数学模型为：

式(1)中，x∈R^d为网络输入向量，c_i∈R^d为网络隐藏层节点的径向基函数中心向量，w_i为网络隐层与输出节点之间的连接权值，||.||表示范数，可取欧几里德范数，Φ(.)为径向基函数，完成从R^d→R¹的非线性转变，具体形式为：

式(2)中，δ_i为宽度值，在径向基网络的数学模型中，要学习的参数有三种，即隐层节点隐层径向基函数宽度值δ_i以及隐层和输出层的连接权值w_i。

3.根据权利要求2所述的利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，步骤2中，对径向基网络的隐层节点进行估计的具体步骤为：

对于径向基神经网络的隐层中心点参数c_i和宽度值δ_i，使用模糊C均值聚类算法进行估计如下：

式(3)和(4)中，u_ji为样本x_j隶属于第i个类的隶属度，h是一个可调的缩放参数，在径向基网络中，一旦隐层参数被估计，则令：

P_g＝[w₁,…,w_Q]^T (5c)

通过公式(5a)-(5c)将公式(1)的径向基网络映射函数转换为如下表达式：

由公式(6)得出，当径向基网络的隐层节点被估计后，网络的输出可表示为一个线性模型的输出，于是将网络参数的学习转化为线性模型之参数学习问题。

4.根据权利要求3所述的利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，步骤3中，定义不敏感损失误差准则的具体步骤为：

给定标量g和向量G＝[g₁,g₂,...,g_d]^T相应的ε-不敏感损失分别如式(8)和式(9)所示：

对于公式(6)所示的线性模型，其对应的ε-不敏感损失误差准则定义为：

5.根据权利要求4所述的利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，步骤4中，基于ε-不敏感误差准则和结构风险的径向基网络训练的具体步骤为：

对于公式(10)，给定数据集{x_gi,y_i}，由于不等式不总是满足，因此引入松弛变量ξ_i ⁺≥0和ξ_i ^-≥0，可得到如下约束：

利用公式(10)和公式(11)所示的准则函数可等价地表示为：

基于上述等价准则函数，引入结构风险正则项，公式(12a)和(12b)改进为：

式中，τ＞0用来平衡经验误差项和表示结构风险的正则化项的影响，对于公式(13a)和(13b)中参数τ和ε采用交叉验证法来确定其最优值，对于公式(13a)和(13b)利用拉格朗日优化可得到其对偶问题：

根据对偶理论，利用公式(14)得到最优解进一步得到公式(13)对应的最优解为：

6.根据权利要求5所述的利用径向基神经网络对癫痫脑电图信号进行分类的方法，其特征在于，步骤5中，利用集成的ε-RBF-NN训练算法进行训练和分类的具体步骤为：

首先，进行多次训练以获得多个分类器的训练精度；其次，选择Q个分类器并根据训练的准确性得到每个分类器的权重，并进行权重归一化；最后，通过公式(16)计算每个样本的标签为：

式中，y⁰为样本标签，w_i是第i个分类器的权重，x_g是输入向量x是由函数Φ(.)隐射得到的值，是由连接权重w_i表示的向量，Q是选定的分类器的个数。