CN112294341B - 一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 - Google Patents
一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 Download PDFInfo
- Publication number
- CN112294341B CN112294341B CN202011181500.1A CN202011181500A CN112294341B CN 112294341 B CN112294341 B CN 112294341B CN 202011181500 A CN202011181500 A CN 202011181500A CN 112294341 B CN112294341 B CN 112294341B
- Authority
- CN
- China
- Prior art keywords
- layer
- calculation
- entropy
- data
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4815—Sleep quality
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Pathology (AREA)
- Heart & Thoracic Surgery (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Signal Processing (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开了一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统,其中的方法选取出现纺锤波的脑电通道数据作为数据基础,将纺锤波识别转化为二分类问题。通过降采样将数据片段统一长度作为原始数据集。通过设计一个轻量卷积神经网络模型,直接提取时间序列信号的深层特征,根据脑电信号非平稳随机性的特点,计算时间序列的小波熵、样本熵和排序熵,将其组成信息熵向量辅助模型训练,得到最终的分类结果。本发明模型网络层数少,计算复杂度低,融入衡量复杂系统秩序的信息熵辅助判断,在无需先验知识情况下,实现对睡眠脑电纺锤波的识别。
Description
技术领域
本发明涉及机器学习技术领域,具体涉及一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统。
背景技术
睡眠纺锤波是一种诊断神经性疾病、衡量睡眠质量的生物标志物,具有很重要的临床价值。当前对于纺锤波的诊断识别主要依靠专家通过脑电图的视觉检查来完成,成本高效率低且一致性差。所以亟需一种即灵敏又精确的自动检测器来解决这个问题。
众多的纺锤波识别框架和方法主要分为两类,一类是基于信号处理的方法,利用带通滤波和振幅阈值进行检测;另一类是基于分类器的方法,通过傅里叶变换、小波变换等各类特征提取方法提取特征后使用分类器进行分类。本发明主要关注的是机器学习的方法,旨在实现一种稳定性强且分类效率高,能够满足潜在大数据应用需求的睡眠纺锤波检测方法。在过去几十年的研究中,相关学者提出大量基于机器学习的睡眠脑电纺锤波识别方法,也取得了一些成就。
然而当前的方法主要通过先验知识,提取脑电信号在频率、幅度、波形等特征,再进行特征选择后再使用分类器进行分类。然而睡眠纺锤波的特征如振幅、持续时间等对个体来说是稳定的,但是个体之间具有差异性。因此这种方法容易受到异常个体的影响,稳定性差且计算复杂度高。
由此可知,现有技术中的方法存在稳定性差且计算复杂度高的技术问题。
发明内容
本发明提出一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统,用于解决或者至少部分解决现有技术的方法存在的稳定性差且计算复杂度高的技术问题。
为了解决上述技术问题,本发明第一方面提供了一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法,包括:
S1:将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
S2:分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
S3:将纺锤波片段和非纺锤波片段进行标准化处理;
S4:将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
S5:将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果。
在一种实施方式中,步骤S1包括:
S1.1:在原始脑电数据中截取出专家标注为纺锤波片段,并对长度超过0.5s*Fs的纺锤波片段进行下采样,将片段长度统一到0.5s*Fs作为纺锤波的数据集,其中Fs表示采样频率,将剩余片段也以0.5s*Fs的长度为单位进行截取,并随机选出与纺锤波数量相同的片段,作为非纺锤波片段,每个片段表示为 其中,xa表示第a个片段中的时间序列,n表示该为时间序列信号片段的点的个数;
S1.2:对于非纺锤波和纺锤波片段分别用0和1进行标记;若为纺锤波片段,则标记为1,否则标记0。
在一种实施方式中,S2包括:
S2.1:计算时间序列的小波熵,其具体步骤如下:
S2.1.1:将原始时间序列x(i),i=1,2,…,N通过小波包分解,将信号分解为J层,在尺度j下,多分辨率的离散小波系数为Dj(k),其中k表示位置系数,则某一时窗长度为L,某个尺度下的信号能量Ej及所有尺度下的总频率能量Etotal分别为:
S2.1.2:计算时间窗口内每个尺度信号的相对能量值为:
S2.1.3:相对小波能量覆盖信号整个频段,即∑pj=1,计算小波熵为:
SWE=-∑jpjln(pj) (2.4)
S2.2:计算时间序列的样本熵,其计算步骤具体如下:
S2.2.1:时间序列为x(i),i=1,2,...,N,将其嵌入高维特征空间中,组成m维向量,即将时间序列分成N-m+1个序列:
Xm(i)={x(i),x(i+1),...x(i+m-1)} (2.5)
其中i=1,2,...,N-m+1;
S2.2.2:两个向量之间的距离为dij为两者对应元素中最大差值的绝对值,即:
dij=d[Xm(i),Xm(j)]=max(|x(i+k)-x(j+k)|) (2.6)
其中k=0,1,...m,表示向量中第k个元素;
S2.2.4:将维度增加至m+1,经过S2.2.3同样的运算得到模板匹配总数为Bm+1(r),最后得到该时间序列的样本熵为:
S2.3:对时间序列计算排序熵,其计算的具体步骤如下:
S2.3.1:时间序列为x(i),i=1,2,...,N,采用相空间重构延迟坐标法对x(i)中任一元素进行相空间重构,组成m维向量:
Xi={x(i),x(i+τ),...x(i+(m-1)τ)} (2.9)
其中i=1,2,...,N-(m-1)*τ;τ表示延迟时间;
S2.3.2:对于重构时间序列Xi,在m维空间中,任意向量都能被映射到m维矢量上,按照递增顺序排列,得到m!种排列方式,将其中一种排列方式定义为πj(1≤j≤m!),πj出现的概率表示为p(πj),即:
S2.3.3:最后得到排序熵为
在一种实施方式中,S3具体包括:
其中,Xi表示时间序列,即待标准化的纺锤波片段或者非纺锤波片段。
在一种实施方式中,步骤S4中轻量卷积神经网络的计算过程包括:
S4.1:将输入数据组织成n*1的格式,n表示一个数据片段的长度,值为0.5*Fs,其中0.5表示时长0.5s,Fs表示采样频率,将其放入到三个连续卷积计算模块中,其中卷积层的卷积核均为7*1,使用的卷积核的个数分别是16、32和64,在经过一层卷积层计算后使用激活函数relu增强模型的非线性拟合能力,其中,三个连续卷积计算模块分别包括一个卷积层和一个池化层,池化层使用激活函数relu增强模型的非线性拟合能力,相应的卷积操作表示为:
经过第一个卷积模块计算之后的输出数据为X1*1*16,其中X1*1表示经过第一个卷积层计算之后的数据格式,16表示第一个卷积层使用的卷积核个数;将其作为第二个卷积模块输入,经计算之后输出数据为X2*1*32,X2*1表示经过第二个卷积层计算之后的数据格式,32表示第二个卷积层使用的卷积核个数,将其输入到第三个卷积模块得到输出数据为X3*1*64,X3*1表示经过第三个卷积层计算之后的数据格式,64表示第三个卷积层使用的卷积核个数;
S4.2:使用平铺层Flatten,将由S4.1得到的输出数据X3*1*64展开拼接为N*1的向量,N的值等于(X3*1*64);
S4.3:将展开得到的N*1向量数据依次输入2个全连接层中,其中,第一个全连接层神经元个数设置为16,使用激活函数relu来提高模型非线性拟合能力,并使用dropout在训练的过程中以0.5的概率随机删掉网络中的隐藏神经元,第二个全连接层神经元个数设置为2,激活函数使用sigmoid,其计算方法可以表示为:
在一种实施方式中,轻量卷积神经网络中的连续卷积计算模块还包括批标准化层和最大池化层,其中,批标准化层用于将池化层得到的数据归一化至均值为0,方差为1,最大池化层用以保留主要特征的同时减少参数和计算量。
在一种实施方式中,步骤S5包括:
S5.1:将计算得到的信息熵向量与步骤S4得到的计算结果拼接为一个5*1的向量,输入到输出层中,其中输出层为神经元个数为2的全连接层;
S5.2:使用softmax分类器微调并实现网络结构的优化,得到最后分类结果,其中,采用梯度下降法来最小化softmax分类器的代价函数,从而求出将数据片段判别为纺锤波的概率,实现最终分类。
基于同样的发明构思,本发明第二方面提供了一种基于轻量卷积神经网络的睡眠脑电纺锤波识别系统,包括:
截取模块,用于将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
信息熵计算模块,用于分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
标准化处理模块,用于将纺锤波片段和非纺锤波片段进行标准化处理;
特征提取模块,用于将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
识别模块,用于将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果。
本申请实施例中的上述一个或多个技术方案,至少具有如下一种或多种技术效果:
本发明选取脑电源数据,根据专家的标定截取出纺锤波和非纺锤波时序片段集,并计算出各片段对应的信息熵作为模型的输入数据。对每个时序片段标准化计算,输入到轻量卷积神经网络中进行训练,最后加入信息熵辅助判断,得到最终的分类结果。针对脑电信号截取时序片段的特点设计轻量卷积神经网络模型,可以最大限度挖掘信号的深层特征,网络层数少,计算复杂度低。且根据脑电信号非平稳随机性的特点,融入衡量复杂系统秩序的信息熵辅助判断,在无需先验知识情况下,实现对睡眠脑电纺锤波的识别。本发明提供的识别方法中,轻量卷积神经网络具有稳定性,能够减少由于个体差异性带来的误差,同时提高计算效率,能够满足潜在的大数据应用需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的基于轻量卷积神经网络的睡眠脑电纺锤波识别方法的流程图;
图2为一种实施方式中轻量卷积神经网络模型结构图。
具体实施方式
本申请发明人通过大量的研究与实践发现:在以深度学习为典型应用的人工智能时代,卷积神经网络在学习特征上具有较强的适应性,能够有效地从神经信号重提取出深层特征。同时脑电信号又是一种非平稳的随机信号,其复杂性被认为可能包含大脑神经网络的结构信息及时间序列中的隐藏复杂性。而信息熵作为一种衡量复杂系统秩序的物理量,是衡量脑电复杂度的有效工具。因此本发明提出一种基于轻量卷积神经网络模型的睡眠纺锤波识别方法,力求最大限度挖掘脑电信号深层特征,并使用信息熵辅助判断,准确识别睡眠脑电信号中的纺锤波。
纺锤波识别问题本质上可以看成是一个二分类问题,即将纺锤波归为一类,将非纺锤波归为另一类。基于此,本发明提出一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法,并使用信息熵来辅助判断。
本发明的主要发明构思如下:
选取出现纺锤波的脑电通道数据作为数据基础,将纺锤波识别转化为二分类问题。通过降采样将数据片段统一长度作为原始数据集。通过设计一个轻量卷积神经网络模型,直接提取时间序列信号的深层特征,根据脑电信号非平稳随机性的特点,计算时间序列的小波熵、样本熵和排序熵,将其组成信息熵向量辅助模型训练,得到最终的分类结果。本发明模型网络层数少,计算复杂度低,融入衡量复杂系统秩序的信息熵辅助判断,在无需先验知识情况下,实现对睡眠脑电纺锤波的识别。
本发明中提供的识别方法中,训练好的轻量卷积神经网络是一种稳定的计算模型。卷积神经网络在学习特征上具有较强的适应性,该模型直接使用原始信号片段,通过挖掘脑电数据的深层特征,减少振幅、频率等特征由于个体性差异带来的误差。与此同时该模型使用大量样本片段进行训练,能够有效解决样本异质性的问题,对于解决识别睡眠脑电纺锤波这一问题具有一定的普适性。
进一步地,从原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段并计算出信息熵向量备用;将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,计算得到深度特征;最后将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果。
进一步地,卷积神经网络模型使用小卷积核,且使用尽可能少的网络层数来提高计算效率,从而能够满足潜在大数据应用需求,又快又好的得到识别结果。
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
具体实施时,本发明所提供技术方案可由本领域技术人员采用计算机软件技术实现自动运行流程。以下结合附图和实施例详细说明本发明技术方案。
实施例一
请参见图1,本发明实施例提供了一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法,包括:
S1:将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
S2:分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
S3:将纺锤波片段和非纺锤波片段进行标准化处理;
S4:将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
S5:将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果。
具体来说,将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段,作为模型输入的数据集。每个数据片段可表示为其中xa表示第a个片段中的时间序列,n表示该为时间序列信号片段的点的个数。分别求出每个片段的小波熵、样本熵和排序熵组成信息熵向量备用。定义标签y=1表示该片段为纺锤波片段,y=0为非纺锤波片段。设计一个轻量的卷积神经网络模型,将数据集输入到模型中进行训练,使用信息熵进行最后的辅助判断,得到最终的分类结果。
信息熵作为一种衡量复杂系统秩序的物理量,是衡量脑电信号非线性复杂性的有效工具,因此本发明使用信息熵来辅助卷积神经网络进行诊断。计算步骤S1中所截取的所有数据片段的信息熵作为备用。在本发明中使用到的信息熵包括小波熵、样本熵、排序熵,将其组织成向量,用于辅助判断。每个信息熵向量可以表示为其中Ea表示第a个数据片段计算信息熵后组成的向量,分别表示该片段的小波熵、样本熵和排序熵。
对步骤S1中所得到的原始数据片段标准化计算。标准化后的数据片段作为轻量卷积神经网络的输入;
步骤S4,将步骤S3所进行预处理后的数据输入到轻量卷积神经网络中,进行计算;使用尽可能少的网络层数,同时获得较高的分类精度。其中训练集是{(x(1),y(1)),...,(x(m),y(m))},x(m)第m个样本的时间序列向量,y(m)代表第m个样本的分类标签,在本发明中,y(m)∈{0,1};
步骤S5,将时间序列经过多层模型计算后得到的深度特征,与步骤2中计算得到的信息熵向量Ea拼接,组成新的向量[x′a,Ea],其中x′a表示原始数据片段经过卷积神经网络计算之后的结果。将其输入到一层全连接层中进行计算得到最终识别结果。
在一种实施方式中,步骤S1包括:
S1.1:在原始脑电数据中截取出专家标注为纺锤波片段,并对长度超过0.5s*Fs的纺锤波片段进行下采样,将片段长度统一到0.5s*Fs作为纺锤波的数据集,其中Fs表示采样频率,将剩余片段也以0.5s*Fs的长度为单位进行截取,并随机选出与纺锤波数量相同的片段,作为非纺锤波片段,每个片段表示为 其中,xa表示第a个片段中的时间序列,n表示该为时间序列信号片段的点的个数;
S1.2:对于非纺锤波和纺锤波片段分别用0和1进行标记;若为纺锤波片段,则标记为1,否则标记0
具体来说,步骤S1.1中,采集脑电数据的设备通常采用国际10-20系统安置电极。纺锤波通常出现在脑部中央,该位置的通道通常使用C3和C4来标记,因此选择C3或者C4通道的脑电数据作为源数据。
本发明把纺锤波识别看成是二分类的问题,对于非纺锤波和纺锤波分别用0和1进行标记;若是纺锤波,则标记为1,否则标记0;用概率公式表示为P(y=1|x),P(y=0|x),其中x表示时间序列片段,概率P表示样本x属于纺锤波的可能性。
在一种实施方式中,S2包括:
S2.1:计算时间序列的小波熵,其具体步骤如下:
S2.1.1:将原始时间序列x(i),i=1,2,...,N通过小波包分解,将信号分解为J层,在尺度j下,多分辨率的离散小波系数为Dj(k),其中k表示位置系数,则某一时窗长度为L,某个尺度下的信号能量Ej及所有尺度下的总频率能量Etotal分别为:
S2.1.2:计算时间窗口内每个尺度信号的相对能量值为:
S2.1.3:相对小波能量覆盖信号整个频段,即∑pj=1,计算小波熵为:
SWE=-∑jpjln(pj) (2.4)
S2.2:计算时间序列的样本熵,其计算步骤具体如下:
S2.2.1:时间序列为x(i),i=1,2,...,N,将其嵌入高维特征空间中,组成m维向量,即将时间序列分成N-m+1个序列:
Xm(i)={x(i),x(i+1),...x(i+m-1)} (2.5)
其中i=1,2,...,N-m+1;
S2.2.2:两个向量之间的距离为dij为两者对应元素中最大差值的绝对值,即:
dij=d[Xm(i),Xm(j)]=max(|x(i+k)-x(j+k)|)
(2.6)
其中k=0,1,...m,表示向量中第k个元素;
S2.2.4:将维度增加至m+1,经过S2.2.3同样的运算得到模板匹配总数为Bm+1(r),最后得到该时间序列的样本熵为:
S2.3:对时间序列计算排序熵,其计算的具体步骤如下:
S2.3.1:时间序列为x(i),i=1,2,...,N,采用相空间重构延迟坐标法对x(i)中任一元素进行相空间重构,组成m维向量:
Xi={x(i),x(i+τ),...x(i+(m-1)τ)} (2.9)
其中i=1,2,...,N-(m-1)*τ;τ表示延迟时间;
S2.3.2:对于重构时间序列Xi,在m维空间中,任意向量都能被映射到m维矢量上,按照递增顺序排列,得到m!种排列方式,将其中一种排列方式定义为πj(1≤j≤m!),πj出现的概率表示为p(πj),即:
S2.3.3:最后得到排序熵为
具体来说,步骤S2.1用于计算时间序列的小波熵。小波熵是一种基于频域分析方法计算的熵值,用于描述信号频谱能量在空间的大致分布。通过使用小波变换,将信号按照不同频率分解,然后使用各频率成分计算熵,能量在频段上分布越均匀,熵值越大。
步骤S2.2用于计算时间序列的样本熵。样本熵是一种基于相空间重构的方法,可用于表示脑电的活跃度。其计算方法是将时间序列嵌入相空间中,当嵌入维度增加一维时,产生新模式的概率越大,样本熵的值越大,表明时间序列复杂程度越高。
步骤S2.3用于对时间序列计算排序熵。排序熵是一种根据局部时间序列描述信号规律性的方法,对信号的微小变化具有放大作用,能够方便、准确的定位系统发生突变的时刻。
在一种实施方式中,S3具体包括:
其中,Xi表示时间序列,即待标准化的纺锤波片段或者非纺锤波片段。
在一种实施方式中,步骤S4中轻量卷积神经网络的计算过程包括:
S4.1:将输入数据组织成n*1的格式,n表示一个数据片段的长度,值为0.5*Fs,其中0.5表示时长0.5s,Fs表示采样频率,将其放入到三个连续卷积计算模块中,其中卷积层的卷积核均为7*1,使用的卷积核的个数分别是16、32和64,在经过一层卷积层计算后使用激活函数relu增强模型的非线性拟合能力,其中,三个连续卷积计算模块分别包括一个卷积层和一个池化层,池化层使用激活函数relu增强模型的非线性拟合能力,相应的卷积操作表示为:
经过第一个卷积模块计算之后的输出数据为X1*1*16,其中X1*1表示经过第一个卷积层计算之后的数据格式,16表示第一个卷积层使用的卷积核个数;将其作为第二个卷积模块输入,经计算之后输出数据为X2*1*32,X2*1表示经过第二个卷积层计算之后的数据格式,32表示第二个卷积层使用的卷积核个数,将其输入到第三个卷积模块得到输出数据为X3*1*64,X3*1表示经过第三个卷积层计算之后的数据格式,64表示第三个卷积层使用的卷积核个数;
S4.2:使用平铺层Flatten,将由S4.1得到的输出数据X3*1*64展开拼接为N*1的向量,N的值等于(X3*1*64);
S4.3:将展开得到的N*1向量数据依次输入2个全连接层中,其中,第一个全连接层神经元个数设置为16,使用激活函数relu来提高模型非线性拟合能力,并使用dropout在训练的过程中以0.5的概率随机删掉网络中的隐藏神经元,第二个全连接层神经元个数设置为2,激活函数使用sigmoid,其计算方法可以表示为:
具体来说,每一个连续卷积计算模块分别包括一个卷积层和一个池化层。请参见图2,为轻量卷积神经网络的模型结构图。
在一种实施方式中,轻量卷积神经网络中的连续卷积计算模块还包括批标准化层和最大池化层,其中,批标准化层用于将池化层得到的数据归一化至均值为0,方差为1,最大池化层用以保留主要特征的同时减少参数和计算量。
具体实施时,每一层的参数在整个训练过程中一直变换,因此必然引起后面每一层输入数据分布的改变。因此,在下一层输入卷积层计算之前插入一个批标准化层BatchNormalization,将数据归一化至均值为0,方差为1,大大提升训练速度。然后使用maxpooling池化,在保留主要特征的同时减少参数和计算量,防止过拟合,提高模型泛化能力。
在一种实施方式中,步骤S5包括:
S5.1:将计算得到的信息熵向量与步骤S4得到的计算结果拼接为一个5*1的向量,输入到输出层中,其中输出层为神经元个数为2的全连接层;
S5.2:使用softmax分类器微调并实现网络结构的优化,得到最后分类结果,其中,采用梯度下降法来最小化softmax分类器的代价函数,从而求出将数据片段判别为纺锤波的概率,实现最终分类。
本发明具有以下积极效果和优点:
(1)本发明选取脑电源数据,根据专家的标定截取出纺锤波和非纺锤波时序片段集,并计算出各片段对应的信息熵作为模型的输入数据。对每个时序片段标准化计算,输入到轻量卷积神经网络中进行训练,最后加入信息熵辅助判断,得到最终的分类结果。
(2)针对脑电信号截取时序片段的特点设计轻量卷积神经网络模型,最大限度挖掘信号的深层特征,网络层数少,计算复杂度低。且根据脑电信号非平稳随机性的特点,融入衡量复杂系统秩序的信息熵辅助判断,在无需先验知识情况下,实现对睡眠脑电纺锤波的识别。
下面通过具体实施例对本发明的方法的主要部分进行说明与介绍。
第一部分数据准备与预处理:
1、采集脑电数据的设备通常采用国际10-20系统安置电极。纺锤波通常出现在脑部中央,该位置的通道通常使用C3和C4来标记,因此选择C3或者C4通道的脑电数据作为源数据。从源数据中截取出专家标注为纺锤波的数据片段,并对长度超过0.5s*Fs的纺锤波片段进行下采样,从而将片段长度统一到0.5s*Fs作为纺锤波的数据集,其中Fs表示采样频率。将剩余片段也以0.5s*Fs的长度为单位进行截取,并随机选出与纺锤波数量相同的片段,作为非纺锤波的数据集。
2、将得到的时间序列片段表示为其中xa表示第a个片段中的时间序列,n表示该为时间序列信号片段的点的个数。计算出该片段的小波熵、样本熵和排序熵并组成信息熵向量,表示为其中Ea表示第a个数据片段计算信息熵后组成的向量,分别表示该片段的小波熵、样本熵和排序熵。定义标记y=1表示该片段为纺锤波片段,y=0为非纺锤波片段。
第二部分为网络模型设计:
1、将输入数据组织成n*1的格式,n表示一个数据片段的长度,值为0.5*Fs,其中0.5表示时长0.5s,Fs表示采样频率。将其放入到三个连续卷积计算模块中,其中卷积层的卷积核均为7*1,使用的卷积核的个数分别是16、32和64。在经过一层卷积层计算后使用激活函数relu增强模型的非线性拟合能力。相应的卷积操作表示为:
每一层的参数在整个训练过程中一直变换,因此必然引起后面每一层输入数据分布的改变。在下一层输入卷积层计算之前插入一个批标准化层Batch Normalization,将数据归一化至均值为0,方差为1,大大提升训练速度。然后使用maxpooling池化,在保留主要特征的同时减少参数和计算量,防止过拟合,提高模型泛化能力。
在经过第一个卷积模块计算之后的输出数据为X1*1*16,其中X1*1表示经过第一个卷积层计算之后的数据格式,16表示第一个卷积层使用的卷积核个数。将其作为第二个卷积模块输入,经计算之后输出数据为X2*1*32,X2*1表示经过第二个卷积层计算之后的数据格式,32表示第二个卷积层使用的卷积核个数。同理,将其输入到第三个卷积模块得到输出数据为X3*1*64,X3*1表示经过第三个卷积层计算之后的数据格式,64表示第三个卷积层使用的卷积核个数。
2、使用平铺层Flatten,将由上一步得到的输出数据X3*1*64展开拼接为M*1的向量,M的值等于(X3*1*64)。
3、将展开得到的M*1向量数据依次输入2个全连接层中。第一个全连接层神经元个数设置为16,使用激活函数relu来提高模型非线性拟合能力,并使用dropout在训练的过程中以0.5的概率随机(临时)删掉网络中的隐藏神经元来有效解决过拟合问题。第二个全连接层神经元个数设置为2,激活函数使用sigmoid,其计算方法可以表示为:
4、将上一步得到的计算结果和之前计算备用的信息熵向量拼接,组成一个一维向量,表示为[x′a,Ea];其中x′a表示原始数据片段经过卷积神经网络计算之后的结果,Ea表示第a个数据片段计算信息熵后组成的向量。并将拼接之后的结果输入到神经元个数为2的全连接层中。
5、最后使用softmax分类器微调并实现网络结构的优化,得到最后分类结果。采用梯度下降法来最小化softmax分类器的代价函数,从而求出将数据片段判别为纺锤波的概率,实现最终分类。
第三部分网络模型的训练与测试
1、所有的样本空间被分为训练集、验证集和测试集,使用K折交叉验证的方法进行训练和验证。即将数据集随机分为k份,每次将其中k-1份作为训练集用于训练模型,将剩余一份作为验证集验证结果。测试集用于计算最终模型的结果,从而评估模型识别睡眠纺锤波的效果。轻量CNN使用基于反向传播的小批量随机梯度下降方法训练,不断更新权值。其中batch_size设置为512,epoch设置为20。
2、将测试集中模型预测的结果与专家标注结果进行对比,评估模型识别纺锤波的效果,使用的指标为Accuracy、Precision、Recall和F1_score。将模型迭代训练10次,计算10次识别结果的均值和方差。
实施例二
基于同样的发明构思,本实施例提供了一种基于轻量卷积神经网络的睡眠脑电纺锤波识别系统,包括:
截取模块,用于将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
信息熵计算模块,用于分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
标准化处理模块,用于将纺锤波片段和非纺锤波片段进行标准化处理;
特征提取模块,用于将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
识别模块,用于将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果。
由于本发明实施例二所介绍的系统,为实施本发明实施例一中基于轻量卷积神经网络的睡眠脑电纺锤波识别方法所采用的系统,故而基于本发明实施例一所介绍的方法,本领域所属人员能够了解该系统的具体结构及变形,故而在此不再赘述。凡是本发明实施例一的方法所采用的系统都属于本发明所欲保护的范围。
本发明中所描述的具体实施的例子仅仅是对本发明的方法和步骤的举例说明。本发明所述技术领域的技术人员可以对所描述的具体实施步骤做相应的修改或补充或变形(即采用类似的替代方式),但是不会背离本发明的原理和实质或者超越所附权利要求书所定义的范围。本发明的范围仅由所附权利要求书限定。
Claims (7)
1.一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法,其特征在于,包括:
S1:将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
S2:分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
S3:将纺锤波片段和非纺锤波片段进行标准化处理;
S4:将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
S5:将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果;
其中,S2包括:
S2.1:计算时间序列的小波熵,其具体步骤如下:
S2.1.1:将原始时间序列x(i),i=1,2,…,N通过小波包分解,将信号分解为J层,在尺度j下,多分辨率的离散小波系数为Dj(k),其中k表示位置系数,则某一时窗长度为L,某个尺度下的信号能量Ej及所有尺度下的总频率能量Etotal分别为:
S2.1.2:计算时间窗口内每个尺度信号的相对能量值为:
S2.1.3:相对小波能量覆盖信号整个频段,即∑pj=1,计算小波熵为:
SWE=-∑jpjln(pj) (2.4)
S2.2:计算时间序列的样本熵,其计算步骤具体如下:
S2.2.1:时间序列为x(i),i=1,2,…,N,将其嵌入高维特征空间中,组成m维向量,即将时间序列分成N-m+1个序列:
Xm(i)={x(i),x(i+1),…x(i+m-1)} (2.5)
其中i=1,2,…,N-m+1;
S2.2.2:两个向量之间的距离为dij为两者对应元素中最大差值的绝对值,即:
dij=d[Xm(i),Xm(j)]=max(|x(i+k)-x(j+k)|) (2.6)
其中k=0,1,…m,表示向量中第k个元素;
S2.2.4:将维度增加至m+1,经过S2.2.3同样的运算得到模板匹配总数为Bm+1(r),最后得到该时间序列的样本熵为:
S2.3:对时间序列计算排序熵,其计算的具体步骤如下:
S2.3.1:时间序列为x(i),i=1,2,…,N,采用相空间重构延迟坐标法对x(i)中任一元素进行相空间重构,组成m维向量:
Xi={x(i),x(i+τ),…x(i+(m-1)τ)} (2.9)
其中i=1,2,…,N-(m-1)*τ;τ表示延迟时间;
S2.3.2:对于重构时间序列Xi,在m维空间中,任意向量都能被映射到m维矢量上,按照递增顺序排列,得到m!种排列方式,将其中一种排列方式定义为πj(1≤j≤m!),πj出现的概率表示为p(πj),即:
S2.3.3:最后得到排序熵为
4.如权利要求1所述的睡眠脑电纺锤波识别方法,其特征在于,步骤S4中轻量卷积神经网络的计算过程包括:
S4.1:将输入数据组织成n*1的格式,n表示一个数据片段的长度,值为0.5*Fs,其中0.5表示时长0.5s,Fs表示采样频率,将其放入到三个连续卷积计算模块中,其中卷积层的卷积核均为7*1,使用的卷积核的个数分别是16、32和64,在经过一层卷积层计算后使用激活函数relu增强模型的非线性拟合能力,其中,三个连续卷积计算模块分别包括一个卷积层和一个池化层,池化层使用激活函数relu增强模型的非线性拟合能力,相应的卷积操作表示为:
经过第一个卷积模块计算之后的输出数据为X1*1*16,其中X1*1表示经过第一个卷积层计算之后的数据格式,16表示第一个卷积层使用的卷积核个数;将其作为第二个卷积模块输入,经计算之后输出数据为X2*1*32,X2*1表示经过第二个卷积层计算之后的数据格式,32表示第二个卷积层使用的卷积核个数,将其输入到第三个卷积模块得到输出数据为X3*1*64,X3*1表示经过第三个卷积层计算之后的数据格式,64表示第三个卷积层使用的卷积核个数;
S4.2:使用平铺层Flatten,将由S4.1得到的输出数据X3*1*64展开拼接为N*1的向量,N的值等于(X3*1*64);
S4.3:将展开得到的N*1向量数据依次输入2个全连接层中,其中,第一个全连接层神经元个数设置为16,使用激活函数relu来提高模型非线性拟合能力,并使用dropout在训练的过程中以0.5的概率随机删掉网络中的隐藏神经元,第二个全连接层神经元个数设置为2,激活函数使用sigmoid,其计算方法可以表示为:
5.如权利要求1所述的睡眠脑电纺锤波识别方法,其特征在于,轻量卷积神经网络中的连续卷积计算模块还包括批标准化层和最大池化层,其中,批标准化层用于将池化层得到的数据归一化至均值为0,方差为1,最大池化层用以保留主要特征的同时减少参数和计算量。
6.如权利要求1所述的睡眠脑电纺锤波识别方法,其特征在于,步骤S5包括:
S5.1:将计算得到的信息熵向量与步骤S4得到的计算结果拼接为一个5*1的向量,输入到输出层中,其中输出层为神经元个数为2的全连接层;
S5.2:使用softmax分类器微调并实现网络结构的优化,得到最后分类结果,其中,采用梯度下降法来最小化softmax分类器的代价函数,从而求出将数据片段判别为纺锤波的概率,实现最终分类。
7.一种基于轻量卷积神经网络的睡眠脑电纺锤波识别系统,其特征在于,包括:
截取模块,用于将原始脑电数据截取出相同数量的纺锤波片段和非纺锤波片段;
信息熵计算模块,用于分别求出每个片段的信息熵,其中,信息熵为由小波熵、样本熵和排序熵组成的向量;
标准化处理模块,用于将纺锤波片段和非纺锤波片段进行标准化处理;
特征提取模块,用于将标准化处理后的数据片段输入至预先构建的轻量卷积神经网络中,其中,轻量卷积神经网络包括三个卷积层、三个池化层、一个平铺层、两个全连接层以及输出层,通过轻量卷积神经网络的多个层计算后得到深度特征;
识别模块,用于将计算得到的深度特征与信息熵向量拼接后得到新的向量输入到输出层进行计算,得到最终的识别结果;
其中,信息熵计算模块具体用于执行下述步骤:
S2.1:计算时间序列的小波熵,其具体步骤如下:
S2.1.1:将原始时间序列x(i),i=1,2,…,N通过小波包分解,将信号分解为J层,在尺度j下,多分辨率的离散小波系数为Dj(k),其中k表示位置系数,则某一时窗长度为L,某个尺度下的信号能量Ej及所有尺度下的总频率能量Etotal分别为:
S2.1.2:计算时间窗口内每个尺度信号的相对能量值为:
S2.1.3:相对小波能量覆盖信号整个频段,即∑pj=1,计算小波熵为:
SWE=-∑jpjln(pj) (2.4)
S2.2:计算时间序列的样本熵,其计算步骤具体如下:
S2.2.1:时间序列为x(i),i=1,2,…,N,将其嵌入高维特征空间中,组成m维向量,即将时间序列分成N-m+1个序列:
Xm(i)={x(i),x(i+1),…x(i+m-1)} (2.5)
其中i=1,2,…,N-m+1;
S2.2.2:两个向量之间的距离为dij为两者对应元素中最大差值的绝对值,即:
dij=d[Xm(i),Xm(j)]=max(|x(i+k)-x(j+k)|) (2.6)
其中k=0,1,…m,表示向量中第k个元素;
S2.2.4:将维度增加至m+1,经过S2.2.3同样的运算得到模板匹配总数为Bm+1(r),最后得到该时间序列的样本熵为:
S2.3:对时间序列计算排序熵,其计算的具体步骤如下:
S2.3.1:时间序列为x(i),i=1,2,…,N,采用相空间重构延迟坐标法对x(i)中任一元素进行相空间重构,组成m维向量:
Xi={x(i),x(i+τ),…x(i+(m-1)τ)} (2.9)
其中i=1,2,…,N-(m-1)*τ;τ表示延迟时间;
S2.3.2:对于重构时间序列Xi,在m维空间中,任意向量都能被映射到m维矢量上,按照递增顺序排列,得到m!种排列方式,将其中一种排列方式定义为πj(1≤j≤m!),πj出现的概率表示为p(πj),即:
S2.3.3:最后得到排序熵为
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011181500.1A CN112294341B (zh) | 2020-10-29 | 2020-10-29 | 一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011181500.1A CN112294341B (zh) | 2020-10-29 | 2020-10-29 | 一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112294341A CN112294341A (zh) | 2021-02-02 |
CN112294341B true CN112294341B (zh) | 2021-11-16 |
Family
ID=74331522
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011181500.1A Active CN112294341B (zh) | 2020-10-29 | 2020-10-29 | 一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112294341B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990008B (zh) * | 2021-03-13 | 2022-06-17 | 山东海量信息技术研究院 | 基于三维特征图和卷积神经网络的情绪识别方法及系统 |
CN113180704A (zh) * | 2021-04-07 | 2021-07-30 | 北京脑陆科技有限公司 | 一种基于eeg脑波的睡眠纺锤波检测方法、系统 |
CN115844424B (zh) * | 2022-10-17 | 2023-09-22 | 北京大学 | 一种睡眠纺锤波分级识别方法及系统 |
CN115429293B (zh) * | 2022-11-04 | 2023-04-07 | 之江实验室 | 一种基于脉冲神经网络的睡眠类型分类方法和装置 |
CN116035598B (zh) * | 2023-04-03 | 2023-06-27 | 北京肿瘤医院(北京大学肿瘤医院) | 一种睡眠纺锤波智能识别方法及系统 |
CN117077013B (zh) * | 2023-10-12 | 2024-03-26 | 之江实验室 | 一种睡眠纺锤波检测方法、电子设备、介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004008722A (ja) * | 2002-06-03 | 2004-01-15 | Masao Matsuoka | 時差呆け防止による安眠安心器具 |
WO2016179407A1 (en) * | 2015-05-07 | 2016-11-10 | The University Of North Carolina At Chapel Hill | Feedback brain stimulation to enhance sleep spindles, modulate memory and cognitive function, and treat psychiatric and neurological symptoms |
CN110796175A (zh) * | 2019-09-30 | 2020-02-14 | 武汉大学 | 一种基于轻量卷积神经网络的脑电数据的在线分类方法 |
-
2020
- 2020-10-29 CN CN202011181500.1A patent/CN112294341B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112294341A (zh) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112294341B (zh) | 一种基于轻量卷积神经网络的睡眠脑电纺锤波识别方法及系统 | |
CN111160139B (zh) | 心电信号的处理方法、装置及终端设备 | |
CN113627518B (zh) | 利用迁移学习实现神经网络脑电情感识别模型的方法 | |
Neupane et al. | Bearing fault detection using scalogram and switchable normalization-based CNN (SN-CNN) | |
CN112766355B (zh) | 一种标签噪声下的脑电信号情绪识别方法 | |
Abayomi-Alli et al. | BiLSTM with data augmentation using interpolation methods to improve early detection of parkinson disease | |
Nahiduzzaman et al. | A novel method for multivariant pneumonia classification based on hybrid CNN-PCA based feature extraction using extreme learning machine with CXR images | |
CN109009102B (zh) | 一种基于脑电图深度学习的辅助诊断方法及系统 | |
CN114176607B (zh) | 一种基于视觉Transformer的脑电信号分类方法 | |
CN109190698B (zh) | 一种网络数字虚拟资产的分类识别系统及方法 | |
CN111401339B (zh) | 识别人脸图像中的人的年龄的方法、装置及电子设备 | |
Xu et al. | Intelligent emotion detection method based on deep learning in medical and health data | |
CN111956214A (zh) | 基于U-net端对端神经网络模型的QRS波自动检测方法 | |
CN115273236A (zh) | 一种多模态的人体步态情感识别方法 | |
Kalaivani et al. | Detection and classification of skin diseases with ensembles of deep learning networks in medical imaging | |
CN114357372A (zh) | 一种基于多传感器数据驱动的飞机故障诊断模型生成方法 | |
CN107045624A (zh) | 一种基于最大加权团的脑电信号预处理与分类方法 | |
Liu et al. | Ensemble learning-based atrial fibrillation detection from single lead ECG wave for wireless body sensor network | |
Singhal et al. | GSMD-SRST: Group Sparse Mode Decomposition and Superlet Transform Based Technique for Multi-Level Classification of Cardiac Arrhythmia | |
Wan et al. | An improved PixelHop framework and its application in rolling bearing fault diagnosis | |
Sulaiman et al. | Classification of healthy and white root disease infected rubber trees based on relative permittivity and capacitance input properties using LM and SCG artificial neural network | |
Syam et al. | Application of deep neural networks in the field of information security and healthcare | |
Udara et al. | Face Skin Disease Detection and Community based Doctor Recommendation System | |
Faris et al. | Proposed Model for Detection of PCOS Using Machine learning methods and Feature Selection | |
Samariya et al. | Comparisons of Image Classification Using LBP with CNN and ANN |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |