CN109998525B - 一种基于判别式深度置信网络的心律失常自动分类方法 - Google Patents

一种基于判别式深度置信网络的心律失常自动分类方法 Download PDF

Info

Publication number
CN109998525B
CN109998525B CN201910266921.5A CN201910266921A CN109998525B CN 109998525 B CN109998525 B CN 109998525B CN 201910266921 A CN201910266921 A CN 201910266921A CN 109998525 B CN109998525 B CN 109998525B
Authority
CN
China
Prior art keywords
layer
model
ddbns
rbm
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910266921.5A
Other languages
English (en)
Other versions
CN109998525A (zh
Inventor
宋立新
房奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin University of Science and Technology
Original Assignee
Harbin University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin University of Science and Technology filed Critical Harbin University of Science and Technology
Priority to CN201910266921.5A priority Critical patent/CN109998525B/zh
Publication of CN109998525A publication Critical patent/CN109998525A/zh
Application granted granted Critical
Publication of CN109998525B publication Critical patent/CN109998525B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/318Heart-related electrical modalities, e.g. electrocardiography [ECG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Veterinary Medicine (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Physiology (AREA)
  • Software Systems (AREA)
  • Psychiatry (AREA)
  • Fuzzy Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Cardiology (AREA)
  • Image Analysis (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

一种基于判别式深度置信网络的心律失常自动分类方法。属于心律失常的检测和分类技术领域,采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类。本发明包括:步骤一:ECG信号预处理,步骤二:DDBNs模型构建,步骤三:DDBNs模型训练,步骤四:DDBNs模型有监督微调,步骤五:ECG信号送入DDBNs网络,对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层。本发明应用于心律失常的自动分类。

Description

一种基于判别式深度置信网络的心律失常自动分类方法
技术领域
本发明涉及心律失常的检测和分类,具体涉及一种基于判别式深度置信网络的心律失常自动分类方法。
背景技术
医生可对短期ECG信号进行视觉检测来诊断心律失常,而对动态心电图仪长期记录的 ECG信号,无法仅依靠视觉检测。随着计算机科学的发展,ECG信号的自动分类分析技术应运而生,现已在心律失常的诊断和分析中起着重要作用,成为辅助临床诊断心脏疾病的重要手段。
近十几年,针对心律失常的检测和分类发展出了几种模式识别方法[1-3],主要涉及三个步骤:预处理、波形检测和分段、特征提取和分类。首先,对信号进行预处理,包括:基线漂移、工频干扰、肌电干扰等噪声去除[4];然后,波形的检测和分段,包括:P波, QRS波群和T波等特征点检测,并根据以上特征点将ECG信号按心拍进行分段[5];最后,特征提取和分类,包括:使用形态,时域和变换域等信息表示心拍特征[6-8],使用主成分分析,独立成分分析和线性判别分析等进行特征降维[9],以及使用神经网络和支持向量机(support vectormachine,SVM)等实现ECG信号分类[10-11]
上述特征提取的方法很大程度上依赖于对ECG信号特征的人为设计和选择,其有效性受诸多因素影响。最近,深度学习提供了一种特征提取和分类同时进行的方法可避免人为设计的特征。Acharya等[12]开发了一个11层的卷积神经网络(convolutional neuralnetwork,CNN),实现了自动检测正常和心肌梗塞心律失常的算法,该模型含噪准确率为93.53%,无噪准确率为95.22%。Rahhal等[13]对于自动分类ECG信号,采用深度学习与主动学习(active learning,AL)结合的方法,在特征学习阶段,通过由堆叠的去噪自动编码器(stacked denoising autoencoders,SDAEs)和其输出层添加柔性最大值 (Softmax)回归层构建的深度神经网络(deep neural network,DNN)进行分类。Luo 等[14]使用改进的频率切片小波变换提取ECG信号时频特征,送入由SDAEs的编码器层和 Softmax回归层构成的DNN,同时通过对心拍样本进行微调来实现ECG信号分类,其所提模型实现了97.5%的总体准确度。Tan等[15]将CNN与长短期记忆网络结合,提取ECG信号特征,实现对冠状动脉疾病的自动诊断。Yang等[16]通过堆叠稀疏自动编码器(stacked sparse autoencoders,SSAEs)深度学习网络提取ECG信号特征,送入Softmax分类器实现ECG信号的分类。Meng等[17]采用原始ECG信号与RR间期作为输入,通过4层深度置信网络(deep belief networks,DBNs)进行无监督特征学习,提取的特征被送到SVM用于训练,自动识别6类心拍类型,总体精度98.49%。Wu等[18]将DBNs与Softmax分类器结合,完成特征提取,并实现5类ECG信号分类。熊博等[19]通过SDAEs与Softmax分类器,设计 DNN,实现了心律失常患者类型的自动分类。Yildirim[20]开发了7层基于深度双向小波的长短期记忆网络(deep bidirectional long-short term memory network-based wavelet sequences,DBLSTM-WS),实现了5类心拍分类,总体精度为99.39%。
公开日为2014年12月19日,名称为《Classification of ElectrocardiogramSignals with Deep Belief N etworks》(翻译为:一种基于深度置信网络对心电图信号进行分类的方法)公开了一种自动提取分类心电搏动的方法,具体为使用DBN从原始心电信号中提取特征,然后将它们与心电搏动的RR间期、前RR间期和后RR间期组织成一个特征向量,最后选择SVM和NNs来识别它们,虽然识别的分类精度为98.49%。但其依旧存在模型特征和分类学习耗时,分类精度可提升,模型训练时间可缩短的问题。
发明内容
本发明的目的是解决如何降低模型特征与分类学习耗时,提高分类精度和缩短模型训练时间的问题,提供一种采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类的基于判别式深度置信网络的心律失常自动分类方法。
上述的目的通过以下的技术方案实现:
一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs模型前,需经过滤波、R峰定位和归一化,作为样本数据,样本数据包括训练样本和测试样本;
步骤二:DDBNs模型构建;
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,DDBNs模型包括GRBM和DRBM;
(1)GRBM
RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的 RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算测试样本在每个类别标签下的概率,从而预测最可能的类别y;其中DRBM在DDBNs模型中为顶层DRBM,即一层BB-RBM。
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,训练样本送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从训练样本中学习到高层次的特征结构,顶层DRBM通过有监督学习后,能够得到测试样本在各类别下的后验概率,由此输出对测试样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化损失函数,反向传播来调整网络参数,执行监督分类;
步骤五:将待分类的ECG信号送入DDBNs模型;
对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入DDBNs模型的网络顶层DRBM中。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165个采样点。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的步骤二GRBM的具体过程为:
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为 GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(1)、式(2)所示:
Figure GDA0003513218690000041
Figure GDA0003513218690000042
其中,θ1={wij,bi,cj},θ2={wij,bi,cjj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(3)、式(4)所示;对于GB-RBM,可见和隐含层的条件概率如式(5)、(6)所示:
Figure GDA0003513218690000043
Figure GDA0003513218690000044
Figure GDA0003513218690000045
Figure GDA0003513218690000046
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs模型的首层,随后的隐含层由BB-RBM组成。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的步骤三的具体过程为:叠构建DDBNs模型的RBM训练能通过最大化训练样本的似然度进行,如式(7)所示:
Figure GDA0003513218690000051
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的步骤四的具体过程为:DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(8)损失函数,反向传播来调整网络参数,执行监督分类:
Figure GDA0003513218690000052
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的步骤五的具体过程为:对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入网络顶层DRBM中,如式(9)所示:
Figure GDA0003513218690000053
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入顶层DRBM 实现分类,如式(10)所示:
Figure GDA0003513218690000061
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
所述的基于判别式深度置信网络的心律失常自动分类方法,所述的DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
本发明所达到的有益效果是:
1.本发明将DDBNs模型转换为使用Softmax回归层进行监督分类的DNN,采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类。
2.本发明将GRBM提取的心拍信号形态特征与其RR间期特征有机融合送入DRBM进行心律失常分类,使DRBM的特征学习和分类能力有效发挥,同时克服了人为特征设计及选取的影响。
3.本发明方法识别正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍6类形态,分类准确率达到99.84%±0.04%,取得了优于基于传统特征选择与其他深度学习方法的结果;在训练和测试集数据来源非一致时,对通过AL方法扩充少量训练集的措施进行了初步尝试,6类心拍信号的分类准确率可达99.31%±0.23%,也取得了满意的效果。
4.本发明所构建的提取ECG信号波形形态特征与RR间期特征融合后,结合DRBM特征学习及分类的有效性,为深度学习自动提取ECG信号特征及分类提供一种新方法。
附图说明
附图用来提供对本发明 的进一步理解,并且构成说明书的一部分,与本发明 的实施例一起用于解释本发明 ,并不构成对本发明 的限制。在附图中:
图1是DDBNs模型结构图;
图2是DRBM的联合分布模型图;
图3是DDBNs模型转换为Softmax分类的DNN结构图;
图4是ECG信号滤波效果对比图;
图5是DDBNs模型学习到的6类心拍特征图;
图6是6类心拍波形图;
具体实施方式
以下结合附图对本发明 的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明 ,并不用于限定本发明 。
具体实施方式一:
一种基于判别式深度置信网络的心律失常自动分类方法,该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs模型前,需经过滤波、R峰定位和归一化,作为样本数据,样本数据包括训练样本和测试样本;
步骤二:DDBNs模型构建;
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,DDBNs模型包括GRBM和DRBM;
(1)GRBM
RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的 RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算样本在每个类别标签下的概率,从而预测最可能的类别y;其中DRBM在DDBNs模型中为顶层DRBM,即一层BB-RBM。
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,训练样本送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从训练样本中学习到高层次的特征结构,顶层DRBM通过有监督学习后,能够得到测试样本在各类别下的后验概率,由此输出对测试样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化损失函数,反向传播来调整网络参数,执行监督分类;
步骤五:将待分类的ECG信号送入DDBNs模型;
对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入DDBNs模型的网络顶层DRBM中。
具体实施方式二;
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165个采样点。
具体实施方式三:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤二GRBM的具体过程为:
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为 GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(1)、式(2)所示:
Figure GDA0003513218690000081
Figure GDA0003513218690000082
其中,θ1={wij,bi,cj},θ2={wij,bi,cjj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(3)、式(4)所示;对于GB-RBM,可见和隐含层的条件概率如式(5)、(6)所示:
Figure GDA0003513218690000091
Figure GDA0003513218690000092
Figure GDA0003513218690000093
Figure GDA0003513218690000094
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs模型的首层,随后的隐含层由BB-RBM组成。
具体实施方式四:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤三的具体过程为:叠构建DDBNs模型的RBM训练能通过最大化训练样本的似然度进行,如式(7)所示:
Figure GDA0003513218690000095
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
具体实施方式五:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤四的具体过程为:DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(8)损失函数,反向传播来调整网络参数,执行监督分类:
Figure GDA0003513218690000101
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
具体实施方式六:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤五的具体过程为:对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入网络顶层DRBM中,如式(9)所示:
Figure GDA0003513218690000102
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入顶层DRBM 实现分类,如式(10)所示:
Figure GDA0003513218690000103
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
具体实施方式七:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
DDBNs模型训练与性能评估:
首先,构建DDBNs初始化模型,用MIT-BIH AR的训练集对DDBNs模型预训练,并使用其权值初始化,然后使用反向传播微调整个模型。预训练阶段,使用FEPCD与CD结合的训练方法;
构建了一个含3个隐含层的DDBNs模型,用于心拍信号的特征提取与分类。首先,将零均值单位方差归一化的单心拍ECG信号波形,送入DDBNs模型的前两层GRBM,其首层采用GB-RBM,第二层采用BB-RBM,并通过无监督学习获得该网络参数,由此获得第i个心拍样本的形态特征Fi,Fi={f1,f2,…,fn}。此后,融入包括当前心拍RR间期、下一心拍 RR间期、相邻RR间期差异度(即当前RR间期减去下一个RR间期除以这两个RR间期的均值)构成的三维间期特征:Ri={r1,r2,r3},并将其送入DDBNs模型的顶层DRBM[17],即一层BB-RBM。然后通过有监督学习,获得该网络参数,完成心律失常的分类。本文构建的DDBNs模型结构如图1示;
数设置:首层GB-RBM学习率:0.01;其余层BB-RBM学习率:0.1;动量:[0.5,0.4,0.3,0.2,0.1,0];批次尺寸:100;训练次数:50。微调阶段,使用小批量梯度优化方法,参数设置:学习率:1;动量:0.5;批次尺寸:100;训练次数:200;λ:1×10-7。本实验的计算机环境为:中央处理器(central processing unit,CPU)(Core i7-6700 @3.4GHz,Intel,美国);随机存取存储器(random access memory,RAM)(DDR4 16GB, Samsung,韩国);图形处理器(graphics processing unit,GPU)(GeForce GTX 1070, NVIDIA,美国)。
为便于对心拍信号分类结果的性能评估,使用以下6个标准测量指标[1]:灵敏度(sensitivity,Se),正检测率(positive predictivity,Pp),特异性(specificity, Sp),假阳性率(false positive rate,FPR),假阴性率(false negative rate,FNR) 和整体精度(overall accuracy,OA)。
选取MLII数据中6类心拍数据用于实验,它们包括正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍,心拍数据波形如图6示,选择23条具有代表性ECG信号记录按心拍构成数据集,在保证训练集和测试集数据来源一致的条件下,利用留出法将数据集按2:1比例分为训练集和测试集,数据集各类心拍样本分布如表1所示:
表1心拍类别分布
Tab.1 Heart beat category distribution
Figure GDA0003513218690000121
实验结果分析:
深度学习网络的初始化和训练等具有一定随机性,导致不同次的分类结果有偏差。因此本文通过对数据集进行10次实验,利用平均值和标准差的统计方法计算OA,对基于DDBNs模型的心拍信号分类的准确度和稳定性进行评估。
为了获得较优的模型结构,设计比较了4种不同结构的DDBNs模型对ECG信号进行特征提取与分类的结果,其测试后OA如表2所示。其中DDBNs-1结构不含GRBM层,DDBNs-2 至DDBNs-4分别含有1、2、3层GRBM。
表2 4种DDBNs下的OA
Tab.2 Overall accuracy of four DDBNs
Figure GDA0003513218690000122
通过对比,利用DDBNs-3结构的OA效果最好,其具有最高的平均值和最低的标准差,因此本文后续继续采用DDBNs-3结构:256-500-250(253)-100-6作为进一步性能测试的模型。该模型中的253,代表该层输入为上一层输出的250维心拍信号形态特征结合3维 RR间期特征。训练DDBNs-3,至分类前学习到的各类ECG信号的100维心拍特征如图6所示,可以观察到它们是稀疏而有区别的。如表3所示,给出了DDBNs-3在测试集上进行 ECG信号心律失常分类的混淆矩阵。如表4所示,给出了心拍分类前5个测量指标的测试结果。
表3心拍分类结果混淆矩阵
Tab.3 Heart beat classification result confusion matrix
Figure GDA0003513218690000131
表4心拍分类测试结果
Tab.4 Heart beat classification test results
Figure GDA0003513218690000132
DBNs与Softmax结合方法(简写为:DBNs+Softmax)的性能对比如表5所示,其中ttrain为训练集上的训练时间,ttest为测试集上单个样本的测试时间。
表5 DDBNs与DBNs+Softmax性能对比
Tab.5 Performance comparison between DDBNs and DgNs+Softmax
Figure GDA0003513218690000133
与DBNs+Softmax分类器的方法对比可知,采用DDBNs模型特征提取与分类的方法具有更好的性能。本文方法分别与双树复小波变换(dual tree complex wavelettransform, DTCWT)结合人工神经网络(artificial neural networks,ANN)(简写为:DTCWT+ANN)、近邻保持嵌入(neighborhood preserving embedding,NPE)算法结合SVM(简写为: NPE+SVM)、DBNs结合SVM(简写为:DBNs+SVM)、DBNs+Softmax、SDAEs与Softmax(简写为:SDAEs+Softmax)、DBLSTM-WS 6种方法也进行性能对比,如表6所示。最终,与上述方法比较的结果显示了本方法的有效性。
表6心拍分类方法对比
Tab.6 Heart beat classification method comparison
Figure GDA0003513218690000141
实用性深入测试:
为了评估DDBNs模型在心律失常自动分类实际应用场景中的性能,本文采用MIT-BIH AR中不同的患者记录分别构成训练集和测试集,其分布如表7所示。
表7心拍类别分布
Tab.7 Heart beat category distribution
Figure GDA0003513218690000142
由于训练集和测试集来源不同,其数据分布差异使得心律失常的自动分类具有挑战性。若单纯采用DDBNs模型与其微调算法模型,对表7数据集进行ECG信号心律失常分类结果一般,分类OA为61.32%±3.17%,尤其在训练集和测试集分布明显差异的L和A两类别分类准确度更低。为了克服这一不足,有效扩大标记训练集是一解决途径。在完成所提DDBNs模型微调算法基础上,通过AL方法从测试数据中挑选少量数据进行标记,并参与DDBNs模型的有监督微调,在保证算法实时性的同时,提高分类算法的适应性和准确性。
在加入主动学习的实验中,本文保持DDBNs初始化模型与微调参数设置不变,在AI阶段的参数设置如下:迭代数iter=5,每次选取标记样本数NAL=10。即每条测试记录通过5次AL算法迭代过程,共选择50个样本送入DDBNs微调模型中,更新模型参数。采用 DDBNs-3结构作为本次性能测试模型,在测试集上进行ECG信号心律失常分类的混淆矩阵如表8所示,其6类心拍分类测试结果如表9所示。
表8心拍分类结果混淆矩阵
Tab.8 Heart beat classification result confusion matrix
Figure GDA0003513218690000151
表9心拍分类测试结果
Tab.9 Heart beat classification test results
Figure GDA0003513218690000152

Claims (6)

1.一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs模型前,需经过滤波、R峰定位和归一化,作为样本数据,样本数据包括训练样本和测试样本;
步骤二:DDBNs模型构建;
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,DDBNs模型包括GRBM和DRBM;
(1)GRBM
RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算测试样本在每个类别标签下的概率,从而预测最可能的类别y;其中DRBM在DDBNs模型中为顶层DRBM,即一层BB-RBM,
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,训练样本送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从训练样本中学习到高层次的特征结构,顶层DRBM通过有监督学习后,能够得到测试样本在各类别下的后验概率,由此输出对测试样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化损失函数,反向传播来调整网络参数,执行监督分类,微调阶段使用小批量梯度优化方法;
步骤五:将待分类的ECG信号送入DDBNs模型;
对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入DDBNs模型的网络顶层DRBM中,
所述的步骤五的具体过程为:
对送入DDBNs模型的256维采样点x与三维RR间期特征r分别进行归一化处理,得到一个心拍归一化待分类的样本数据,送入网络顶层DRBM中,如式(1)所示:
Figure FDA0003513218680000021
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入顶层DRBM实现分类,如式(2)所示:
Figure FDA0003513218680000022
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
2.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165个采样点。
3.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤二GRBM的具体过程为:
DDBNs模型是学习提取训练样本深层次表示的图形模型,由堆叠的RBM组成,RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(3)、式(4)所示:
Figure FDA0003513218680000023
Figure FDA0003513218680000031
其中,θ1={wij,bi,cj},θ2={wij,bi,cjj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(5)、式(6)所示;对于GB-RBM,可见和隐含层的条件概率如式(7)、(8)所示:
Figure FDA0003513218680000032
Figure FDA0003513218680000033
Figure FDA0003513218680000034
Figure FDA0003513218680000035
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs模型的首层,随后的隐含层由BB-RBM组成。
4.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤三的具体过程为:叠构建DDBNs模型的RBM训练能通过最大化训练样本的似然度进行,如式(9)所示:
Figure FDA0003513218680000036
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
5.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤四的具体过程为:DDBNs模型的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(10)损失函数,反向传播来调整网络参数,执行监督分类:
Figure FDA0003513218680000041
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
6.根据权利要求1或5所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
CN201910266921.5A 2019-04-03 2019-04-03 一种基于判别式深度置信网络的心律失常自动分类方法 Active CN109998525B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910266921.5A CN109998525B (zh) 2019-04-03 2019-04-03 一种基于判别式深度置信网络的心律失常自动分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910266921.5A CN109998525B (zh) 2019-04-03 2019-04-03 一种基于判别式深度置信网络的心律失常自动分类方法

Publications (2)

Publication Number Publication Date
CN109998525A CN109998525A (zh) 2019-07-12
CN109998525B true CN109998525B (zh) 2022-05-20

Family

ID=67169744

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910266921.5A Active CN109998525B (zh) 2019-04-03 2019-04-03 一种基于判别式深度置信网络的心律失常自动分类方法

Country Status (1)

Country Link
CN (1) CN109998525B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110413781B (zh) * 2019-07-19 2023-06-23 淮阴工学院 一种基于LD和ANN-SoftMax Regressor的中医药短文本多分类方法
CN110613445B (zh) * 2019-09-25 2022-05-24 西安邮电大学 一种基于dwnn框架的心电信号的识别方法
CN110772268A (zh) * 2019-11-01 2020-02-11 哈尔滨理工大学 一种多模脑电信号及1dcnn迁移的驾驶疲劳状态识别方法
CN110720894B (zh) * 2019-11-08 2022-11-15 广州视源电子科技股份有限公司 一种心房扑动的检测方法、装置、设备及存储介质
CN110766099A (zh) * 2019-11-08 2020-02-07 哈尔滨理工大学 结合判别式深度置信网络和主动学习的心电分类方法
CN110751131B (zh) * 2019-11-16 2022-09-02 李汭傧 一种心律失常检测装置
CN113040778B (zh) * 2019-12-26 2022-07-29 华为技术有限公司 诊断报告生成方法、装置、终端设备及可读存储介质
CN111297327B (zh) * 2020-02-20 2023-12-01 京东方科技集团股份有限公司 一种睡眠分析方法、系统、电子设备及存储介质
CN111557659B (zh) * 2020-05-22 2023-04-28 郑州大学 基于多特征融合与Stacking-DWKNN算法的心律失常分类方法
CN111557660A (zh) * 2020-06-08 2020-08-21 东北大学 一种亚群体深度学习框架下的心律失常识别方法
CN112052750A (zh) * 2020-08-20 2020-12-08 南京信息工程大学 基于类不平衡传感数据与深度模型的心律失常分类方法
CN112617850B (zh) * 2021-01-04 2022-08-30 苏州大学 心电信号的早搏心拍检测系统
CN112763155A (zh) * 2021-02-02 2021-05-07 南京信息工程大学 一种压力容器气体泄漏检测方法
CN113317797B (zh) * 2021-04-05 2022-11-08 宁波工程学院 一种结合医疗领域知识的可解释心律失常分类方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108900432A (zh) * 2018-07-05 2018-11-27 中山大学 一种基于网络流行为的内容感知方法
CN109190658A (zh) * 2018-07-19 2019-01-11 中国电子科技集团公司电子科学研究院 视频觉醒度分类方法、装置及计算机设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160106378A1 (en) * 2014-10-21 2016-04-21 Xerox Corporation System and method for detecting an arrhythmic cardiac event from a cardiac signal
US10362997B2 (en) * 2016-01-04 2019-07-30 AventuSoft, LLC System and method of extraction, identification, marking and display of heart valve signals
CN107256393B (zh) * 2017-06-05 2020-04-24 四川大学 基于深度学习的一维生理信号的特征提取与状态识别

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108900432A (zh) * 2018-07-05 2018-11-27 中山大学 一种基于网络流行为的内容感知方法
CN109190658A (zh) * 2018-07-19 2019-01-11 中国电子科技集团公司电子科学研究院 视频觉醒度分类方法、装置及计算机设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
《Classification of Electrocardiogram Signals with Deep Belief Networks》;Meng Huanhuan等;《2014 IEEE 17th International Conference on Computational Science and Engineering》;20141219;7-12 *
《基于判别式受限玻尔兹曼机的医学图像分类法》;陈娜等;《计算机科学》;20150531;第42卷(第5期);315-319 *

Also Published As

Publication number Publication date
CN109998525A (zh) 2019-07-12

Similar Documents

Publication Publication Date Title
CN109998525B (zh) 一种基于判别式深度置信网络的心律失常自动分类方法
CN107822622B (zh) 基于深度卷积神经网络的心电图诊断方法和系统
CN108714026B (zh) 基于深度卷积神经网络和在线决策融合的细粒度心电信号分类方法
TWI596600B (zh) 識別生理聲音的方法以及系統
Zheng et al. A novel hybrid energy fraction and entropy-based approach for systolic heart murmurs identification
CN111990989A (zh) 一种基于生成对抗及卷积循环网络的心电信号识别方法
Wu et al. A novel method for classification of ECG arrhythmias using deep belief networks
CN108470156B (zh) 一种心音信号分类识别方法
CN110522444B (zh) 一种基于Kernel-CNN的心电信号识别分类方法
CN109645983A (zh) 一种基于多模块神经网络的不平衡心拍分类方法
Milani et al. Abnormal heart sound classification using phonocardiography signals
CN113080993B (zh) 一种基于改进多基分类器集成的自动心律失常分析方法
CN108847279A (zh) 一种基于脉搏波数据的睡眠呼吸状态自动判别方法及系统
CN116361688A (zh) 用于心电节律自动分类的多模态特征融合模型构建方法
CN115281688A (zh) 一种基于多模态深度学习的心脏肥大多标签检测系统
CN113616213A (zh) 一种基于bp神经网络及改进的emd方法的心电信号去噪方法、设备及存储介质
CN113509186A (zh) 基于深度卷积神经网络的ecg分类系统与方法
CN113180679A (zh) 一种单导联心电异常信号识别方法
CN109033990B (zh) 基于类内类间距离的cnn模型心拍分类方法
CN113408603A (zh) 一种基于多分类器融合的冠状动脉狭窄病变程度识别方法
CN113069124A (zh) 一种基于cnn-et模型的心电监测方法
Fakhry et al. Elastic net regularization and gabor dictionary for classification of heart sound signals using deep learning
Hughes et al. Novel signal shape descriptors through wavelet transforms and dimensionality reduction
CN116451129A (zh) 一种脉象分类识别方法及系统
Khanmohammadi et al. Fetal gender identification using machine and deep learning algorithms on phonocardiogram signals

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant