CN110379506A - 针对心电图数据使用二值化神经网络的心律不齐检测方法 - Google Patents

针对心电图数据使用二值化神经网络的心律不齐检测方法 Download PDF

Info

Publication number
CN110379506A
CN110379506A CN201910516177.XA CN201910516177A CN110379506A CN 110379506 A CN110379506 A CN 110379506A CN 201910516177 A CN201910516177 A CN 201910516177A CN 110379506 A CN110379506 A CN 110379506A
Authority
CN
China
Prior art keywords
model
training
binaryzation
network
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910516177.XA
Other languages
English (en)
Other versions
CN110379506B (zh
Inventor
孙扬帆
吴迅冬
程雨夏
吴卿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dianzi University
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN201910516177.XA priority Critical patent/CN110379506B/zh
Publication of CN110379506A publication Critical patent/CN110379506A/zh
Application granted granted Critical
Publication of CN110379506B publication Critical patent/CN110379506B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024—Detecting, measuring or recording pulse rate or heart rate
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316—Modalities, i.e. specific diagnostic methods
    • A61B5/318—Heart-related electrical modalities, e.g. electrocardiography [ECG]
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235—Details of waveform analysis
    • A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Mathematical Physics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Cardiology (AREA)
  • General Engineering & Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Primary Health Care (AREA)
  • Software Systems (AREA)
  • Physiology (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Fuzzy Systems (AREA)
  • Evolutionary Biology (AREA)
  • Psychiatry (AREA)
  • Signal Processing (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明公开了一种针对心电图数据使用二值化神经网络的心律不齐检测方法，本发明首先获取训练模型数据，在训练之前对数据进行预处理；构建一组全精度的卷积网络模型，并输入数据进行训练，对网络参数进行调整以获得较好的效果；参考获得的全精度模型，构建二值化网络模型，将数据输入进行训练，对模型参数进行微调，在训练中采用Stop‑BN的训练方法以提高训练效果；将已训练好的全精度模型作为老师模型，未训练的二值化模型作为学生模型，使用老师模型对学生模型进行蒸馏训练，以获得直接训练二值化网络更好的训练效果。本发明针对房颤进行鉴别，可有效减少运算内存与运算时间，训练的网络模型取得较优成果以降低二值化带来的精度损失。

Description

针对心电图数据使用二值化神经网络的心律不齐检测方法
技术领域
本发明属于深度学习领域，是一种基于卷积神经网络，对其参数进行二值化压缩，应用于心电图数据的心律不齐检测应用。
背景技术
房颤是最常见的心率不齐症状，发生时一般伴有非常快速且不规律的心房收缩，有很大风险造成死亡、中风、心力衰竭或冠状动脉疾病。根据统计，房颤在人群中的发病率一般为1％～2％。目前，一般的诊断方案为患者通过相应的设备采集心电图，然后交由医生进行诊断，这样的方式显然会花费大量的人力物力，且效率较低。因此，构建一种基于ECG数据，可执行高效准确的诊断的算法是十分必要的。得益于大量原始数据的积累以及计算设备运算能力的巨大提升，近年来深度学习在图像识别，目标检测，自然语言处理等方面都取得的巨大的成功。这也为深度学习应用于医疗诊断提供了大量的理论基础与实践经验。但这其中也存在许多问题，现阶段的神经网络模型往往具有大量的参数，运算成本巨大，而心律不齐检测算法却有很大需求运行于嵌入式设备或移动设备。针对这个问题，需要将重点放在两个方面，首先确保构建的算法准确率够高，其次降低算法的运算成本。常用的网络压缩方法有网络参数修剪，权重低秩分解与稀疏化，知识蒸馏等等。而二值化压缩方法是一种将模型的权重转换为二进制来存储，并且使用位运算来替代普通运算的方法。这使得模型的获得更快的运算速度，消耗更少的能耗，使用更少的运存。
发明内容
本发明将二值化运用于卷积神经网络，应用于心律不齐检测，主要针对房颤进行鉴别，提出了Stop-BN方法以及使用蒸馏的方法训练网络模型取得较优成果。二值化的卷积网络可以有效提高运算速度以及减少运算内存，但训练效果会变差，模型的精度会有一定程度的损失，因此本发明中提出了使用Stop-BN的方法，可以有效的提高模型的泛化能力；另外本发明还提出使用蒸馏的方法训练二值化模型，可以有效提高模型的易训练性。这保证了在压缩网络模型的同时，模型检测准确率没有过多的损失。
一种针对心电图数据使用二值化神经网络的心律不齐检测方法，该方法的具体步骤如下：
步骤1、获取心电图数据作为模型训练数据，每组数据分为数据内容以及标签，在训练之前首先对模型训练数据进行预处理；
步骤2、构建一组全精度的卷积网络模型，并输入预处理后的模型训练数据进行训练；
步骤3、根据步骤2获得的全精度的卷积网络模型，构建二值化网络模型，将预处理后的模型训练数据输入进行训练，并对模型参数进行微调，以获得更好的效果；在训练中采用Stop-BN的训练方法以提高训练效果；
其中练中采用Stop-BN的训练方法以提高训练效果，具体为：当模型训练到效果无法提升之后，停止对BN层中的滑动平均的均值与方差更新，并且使用这一组不更新的值作为训练时的均值和方差参与训练，同时作为验证时的均值与方差，使得模型的泛化能力得到提升。
步骤4、将步骤2中的已训练好的全精度模型作为老师模型，步骤3中的未训练的模型作为学生模型，使用老师模型对学生模型进行蒸馏训练，以获得比步骤3更好的训练效果的模型。
作为优选，步骤2中的全精度的卷积网络模型；具有9个卷积模块，每个模块依次由卷积层、Layer Normalization层、ReLU激活函数、平均池化层、Dropout层组成；经过第一层运算后，通道数会增加到64，之后每隔一个卷积模块，通道数就会增加64，最后一个卷积模块没有Dropout层；并且经过9个卷积模块运算后的输出数据输入一个全局平均池化层，每个通道将会只有一个输出值，然后再经过一个Dropout层，最后经过一个全连接层，通过Softmax运算得到每个分类的概率值，并与one-hot的标签运算交叉熵以获得损失函数值。
作为优选，全精度的卷积网络模型中还对权重使用了L2正则化，选用Adam作为模型优化器。
作为优选，步骤2中构建的二值化网络模型；具有13个卷积模块，模块依次由二值化卷积层(第一层使用全精度卷积)、Batch Normalization层、二值化激活函数、平均池化层、Dropout层组成，其中每隔一个卷积模块采用一次平均池化层；经过第一层运算后，通道数会增加到64，之后每隔一个卷积模块，通道数就会增加64，最后一个卷积模块没有Dropout层；并且经过13个卷积模块运算后的输出数据输入一个全局平均池化层，每个通道将会只有一个输出值，然后再经过一个Dropout层，最后经过一个全连接层，通过Softmax运算得到每个分类的概率值，并与one-hot的标签运算交叉熵以获得损失函数值；其中二值化卷积层和二值化激活函数中的二值化操作，操作方法如公式(1)所示：
其中vb表示二值化后的数值，v表示需要被二值化的数值；
由于符号函数在0的位置梯度会无限大，因此梯度规则被重新制定了，在[-1,1]区间内的梯度为1，超出这部分的梯度都为0，运算方法如公式(2)所示。二值化操作会运用于权重与激活值，但是第一个卷积模块的权重与最后的全连接层的权重不进行二值化。
其中r表示即将被二值化的网络参数，gr表示参数r对应的梯度值；
另外对二值化的权重进行限制，范围小于[-1,1]，每次更新之后都对其进行约束，这有利于网络的收敛，否则可能出现模型无法优化的情况
作为优选，蒸馏训练方法具体为：将步骤2中的已训练好的全精度模型中的参数保存好作为老师模型，步骤3中的未训练的模型作为学生模型，使用老师模型的输出替代真实标签与网络输出计算交叉熵以作为损失函数值，并对网络的输出进行软化，在进行softmax运算之前首先乘以一个常量；同时，在计算损失函数值时还需要用到硬标签的损失值，将硬标签的损失值与软标签的损失值带权相加，以获得更好的训练效果，其中硬标签即为真实标签。
本发明相对于现有技术所具有的有益效果：本发明构建了一组二值化神经网络运用于心电图数据进行心率不齐检测，该二值化神经网络模型通过参数压缩的方式，用于实现在低精度、低能耗、低运算能力的设备上进行检测，并且提供了针对基于心电图数据的心律不齐检测在压缩模型上获得良好效果的训练方法。
附图说明
图1为本发明的总流程图；
图2为二值化网络结构图；
图3为心电图数据的示例图；
表1为结果对比表；
具体实施方式
如图1所示，下面对本发明的具体内容进行描述。
步骤1、获取训练数据内容，所使用的数据集来源于PhysioNet在2017年举办的房颤(AF)识别比赛，其中包含8528段单导联的ECG数据，长度在9秒至61秒不等，采样频率为300Hz。数据由专家进行类别标注，分为四个类：Normal rhythm(N),AF rhythm(A),Otherrhythm(O)与Noise(～)，四个类别的样本数目是不平均的，其中Normal有5154份，AF有771份，Other有2557份，Noise有46份，不同类别数据的示例如图3所示。不属于房颤的心率不齐症状都被归于其他心率不齐类。由于数据长短不一，无法满足成批次训练的要求，因此首先对数据进行了分批次的数据填充，填充值为序列均值，使相同批次的数据长度相同，然后随机地从不同批次中提取数据；此外，由于数据地跨度非常巨大，并且数值不同，因此数据进行了标准化处理；
步骤2、构建一组全精度的卷积网络模型，并且从初始针对数据进行训练；网络结构一共具有9个卷积模块，每个模块依次由卷积层、Layer Normalization层、ReLU激活函数、平均池化层、Dropout层组成；经过第一层运算后，通道数会增加到64，之后每隔一个卷积模块，通道数就会增加64；最后一个卷积模块没有Dropout层，并且输出数据输入一个全局池化层，每个通道将会只有一个输出值，然后再经过一个Dropout层，最后经过一个全连接层，通过Softmax运算得到每个分类的概率值，并与one-hot的标签运算交叉熵以获得损失函数值；模型中还对权重使用了L2正则化，选用Adam作为模型优化器；
步骤3、参考步骤2中获得较好效果的全精度模型，构建二值化网络模型，网络结构如图2所示，大致结构与步骤2中的全精度卷积网络类似，卷积模块数量增加至11个，模块内的Layer Normalization由Batch Normalization替代，不使用ReLU激活函数，而是更改为二值化操作，平均池化更改为每隔一个卷积模块执行一次；除了结构以外，最重要的操作为二值化操作，具体操作方法如公式(1)所示：
由于符号函数在0的位置梯度会无限大，因此梯度规则被重新制定了，在[-1,1]区间内的梯度为1，超出这部分的梯度都为0，运算方法如公式(2)所示。二值化操作会运用于权重与激活值，但是第一个卷积模块的权重与最后的全连接层的权重不进行二值化。
另外训练中很重要的一点是对二值化的权重进行限制，范围为[-0.016,0.016]，
每次更新之后都对其进行约束，这有利于网络参数的收敛，否则可能出现模型无法优化的情况。本发明提出了使用Stop-BN的方法来提升效果，模型训练效果无法提升之后，停止对BN层中滑动平均的均值与方差更新，并且使用不更新的滑动平均值作为训练时的均值和方差参与训练，同时作为验证时的均值与方差，这使得模型的泛化能力得到了提升；
步骤4、将步骤2中的已训练好的全精度模型中的参数保存好作为老师模型，步骤3中的未训练的模型作为学生模型，使用蒸馏的方式训练二值化模型以提高其性能。原始的模型训练方式为模型的输出值与真实标签作交叉熵运算以获得损失函数值。在蒸馏模型中，使用老师模型的输出替代真实标签与网络输出计算交叉熵以作为损失函数值，这其中有很关键的一步操作是对网络的输出进行软化，在进行softmax运算之前首先乘以一个常量(温度)，这是一个需要调节的常量，教师模型与学生模型都需要进行这一步操作。同时，在计算损失函数值时还需要用到硬标签的损失值，将硬标签的损失值与软标签的损失值带权相加，以获得更好的训练效果。硬标签即为真实标签。
如表1所示，为多个网络结构的结果对比表。使用二值化会使得模型判断精度降低，而使用我们的训练方法可以有效减少精度的损失。
表1。

Claims (5)

1.针对心电图数据使用二值化神经网络的心律不齐检测方法，其特征在于：
该方法的具体步骤如下：
步骤1、获取心电图数据作为模型训练数据，每组数据分为数据内容以及标签，在训练之前首先对模型训练数据进行预处理；
步骤2、构建一组全精度的卷积网络模型，并输入预处理后的模型训练数据进行训练；
步骤3、根据步骤2获得的全精度的卷积网络模型，构建二值化网络模型，将预处理后的模型训练数据输入进行训练，并对模型参数进行微调，以获得更好的效果；在训练中采用Stop-BN的训练方法以提高训练效果；
其中训练中采用Stop-BN训练方法以提高训练效果，具体为：当模型训练到效果无法提升之后，停止对BN层中滑动平均的均值与方差更新，并且使用不更新的滑动平均值作为训练时的均值和方差参与训练，同时作为验证时的均值与方差，使得模型的泛化能力得到提升；
步骤4、将步骤2中的已训练好的全精度模型作为老师模型，步骤3中的未训练的模型作为学生模型，使用老师模型对学生模型进行蒸馏训练，以获得比步骤3更好的训练效果的模型。
2.根据权利要求1所述的针对心电图数据使用二值化神经网络的心律不齐检测方法，其特征在于：
步骤2中的全精度的卷积网络模型；具有9个卷积模块，每个模块依次由卷积层、LayerNormalization层、ReLU激活函数、平均池化层、Dropout层组成；经过第一层运算后，通道数会增加到64，之后每隔一个卷积模块，通道数就会增加64，最后一个卷积模块没有Dropout层；并且经过9个卷积模块运算后的输出数据输入一个全局平均池化层，每个通道将会只有一个输出值，然后再经过一个Dropout层，最后经过一个全连接层，通过Softmax运算得到每个分类的概率值，并与one-hot的标签运算交叉熵以获得损失函数值。
3.根据权利要求2所述的针对心电图数据使用二值化神经网络的心律不齐检测方法，其特征在于：
全精度的卷积网络模型中还对权重使用了L2正则化，选用Adam作为模型优化器。
4.根据权利要求1所述的针对心电图数据使用二值化神经网络的心律不齐检测方法，其特征在于：步骤2中构建的二值化网络模型：具有13个卷积模块，模块依次由二值化卷积层、Batch Normalization层、二值化激活函数、平均池化层、Dropout层组成，其中每隔一个卷积模块采用一次平均池化层；经过第一层运算后，通道数会增加到64，之后每隔一个卷积模块，通道数就会增加64，最后一个卷积模块没有Dropout层；并且经过13个卷积模块运算后的输出数据输入一个全局平均池化层，每个通道将会只有一个输出值，然后再经过一个Dropout层，最后经过一个全连接层，通过Softmax运算得到每个分类的概率值，并与one-hot的标签运算交叉熵以获得损失函数值；其中二值化卷积层和二值化激活函数中的二值化操作，操作方法如公式(1)所示：
其中vb表示二值化后的数值，v表示需要被二值化的数值；
并且训练过程中，前向传播过程使用对应二值化的参数进行运算，而反向传播时使用全精度的权重进行优化；
由于符号函数在0的位置梯度会无限大，因此梯度规则需要被重新制定了，在[-1,1]区间内的梯度为1，超出这部分的梯度都为0，运算方法如公式(2)所示；二值化操作会运用于权重与激活值，但是第一个卷积模块的权重与最后的全连接层的权重不进行二值化；
其中r表示即将被二值化的网络参数，gr表示参数r对应的梯度值；
另外对二值化的权重进行限制，范围为[-0.016,0.016]，每次更新之后都对其进行约束，这有利于网络参数的收敛，否则可能出现模型无法优化的情况。
5.根据权利要求1所述的针对心电图数据使用二值化神经网络的心律不齐检测方法，其特征在于：蒸馏训练方法具体为：将步骤2中的已训练好的全精度模型中的参数保存好作为老师模型，步骤3中的未训练的模型作为学生模型，使用老师模型的输出替代真实标签与网络输出计算交叉熵以作为损失函数值，并对网络的输出进行软化，在进行softmax运算之前首先乘以一个常量；同时，在计算损失函数值时还需要用到硬标签的损失值，将硬标签的损失值与软标签的损失值带权相加，以获得更好的训练效果，其中硬标签即为真实标签。
CN201910516177.XA 2019-06-14 2019-06-14 针对心电图数据使用二值化神经网络的心律不齐检测方法 Active CN110379506B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910516177.XA CN110379506B (zh) 2019-06-14 2019-06-14 针对心电图数据使用二值化神经网络的心律不齐检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910516177.XA CN110379506B (zh) 2019-06-14 2019-06-14 针对心电图数据使用二值化神经网络的心律不齐检测方法

Publications (2)

Publication Number Publication Date
CN110379506A true CN110379506A (zh) 2019-10-25
CN110379506B CN110379506B (zh) 2022-06-14

Family

ID=68250361

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910516177.XA Active CN110379506B (zh) 2019-06-14 2019-06-14 针对心电图数据使用二值化神经网络的心律不齐检测方法

Country Status (1)

Country Link
CN (1) CN110379506B (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111291836A (zh) * 2020-03-31 2020-06-16 中国科学院计算技术研究所 一种生成学生网络模型的方法
CN111353526A (zh) * 2020-02-19 2020-06-30 上海小萌科技有限公司 一种图像匹配方法、装置以及相关设备
CN111753092A (zh) * 2020-06-30 2020-10-09 深圳创新奇智科技有限公司 一种数据处理方法、模型训练方法、装置及电子设备
CN112022144A (zh) * 2020-09-09 2020-12-04 生物岛实验室 心电异常检测网络训练方法、心电异常预警方法及装置
CN112244853A (zh) * 2020-10-26 2021-01-22 生物岛实验室 边缘计算节点的制造方法和边缘计算节点
CN112617850A (zh) * 2021-01-04 2021-04-09 苏州大学 心电信号的早搏心拍检测方法
CN112950464A (zh) * 2021-01-25 2021-06-11 西安电子科技大学 一种不包含正则化层的二值超分辨率重建方法
CN113219341A (zh) * 2021-03-23 2021-08-06 陈九廷 一种模型生成及电池劣化推测装置、方法、介质及设备
CN113239985A (zh) * 2021-04-25 2021-08-10 北京航空航天大学 一种面向分布式小规模医疗数据集的分类检测方法
CN114358206A (zh) * 2022-01-12 2022-04-15 合肥工业大学 二值神经网络模型训练方法及系统、图像处理方法及系统
WO2022088441A1 (zh) * 2020-10-26 2022-05-05 生物岛实验室 健康监测设备
CN116664958A (zh) * 2023-07-27 2023-08-29 鹏城实验室 基于二值神经网络模型的图像分类方法以及相关设备
CN117257324A (zh) * 2023-11-22 2023-12-22 齐鲁工业大学(山东省科学院) 基于卷积神经网络和ecg信号的房颤检测方法
CN117421678A (zh) * 2023-12-19 2024-01-19 西南石油大学 一种基于知识蒸馏的单导联房颤识别系统
CN117521848A (zh) * 2023-11-10 2024-02-06 中国科学院空天信息创新研究院 面向资源受限场景的遥感基础模型轻量化方法、装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105913118A (zh) * 2015-12-09 2016-08-31 上海大学 一种基于概率计算的人工神经网络硬件实现装置
US9811906B1 (en) * 2016-07-15 2017-11-07 Siemens Healthcare Gmbh Method and data processing unit for segmenting an object in a medical image
CN107633293A (zh) * 2016-07-19 2018-01-26 北京图森未来科技有限公司 一种领域自适应方法及装置
US20180107798A1 (en) * 2016-10-19 2018-04-19 Fujitsu Limited Method for aiding a diagnosis, program and apparatus
US20180225516A1 (en) * 2017-02-06 2018-08-09 Brown University Method and system for automated behavior classification of test subjects
US20180232508A1 (en) * 2017-02-10 2018-08-16 The Trustees Of Columbia University In The City Of New York Learning engines for authentication and autonomous applications
US20190046068A1 (en) * 2017-08-10 2019-02-14 Siemens Healthcare Gmbh Protocol independent image processing with adversarial networks
CN109620223A (zh) * 2018-12-07 2019-04-16 北京工业大学 一种脑卒中康复系统脑机接口关键技术方法
US20210153761A1 (en) * 2019-11-25 2021-05-27 Huinno Co., Ltd Method, system and non-transitory computer-readable recording medium for estimating arrhythmia by using artificial neural network

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105913118A (zh) * 2015-12-09 2016-08-31 上海大学 一种基于概率计算的人工神经网络硬件实现装置
US9811906B1 (en) * 2016-07-15 2017-11-07 Siemens Healthcare Gmbh Method and data processing unit for segmenting an object in a medical image
CN107633293A (zh) * 2016-07-19 2018-01-26 北京图森未来科技有限公司 一种领域自适应方法及装置
US20180107798A1 (en) * 2016-10-19 2018-04-19 Fujitsu Limited Method for aiding a diagnosis, program and apparatus
EP3312748A1 (en) * 2016-10-19 2018-04-25 Fujitsu Limited Method for aiding a diagnosis, program and apparatus
US20180225516A1 (en) * 2017-02-06 2018-08-09 Brown University Method and system for automated behavior classification of test subjects
US20180232508A1 (en) * 2017-02-10 2018-08-16 The Trustees Of Columbia University In The City Of New York Learning engines for authentication and autonomous applications
US20190046068A1 (en) * 2017-08-10 2019-02-14 Siemens Healthcare Gmbh Protocol independent image processing with adversarial networks
CN109620223A (zh) * 2018-12-07 2019-04-16 北京工业大学 一种脑卒中康复系统脑机接口关键技术方法
US20210153761A1 (en) * 2019-11-25 2021-05-27 Huinno Co., Ltd Method, system and non-transitory computer-readable recording medium for estimating arrhythmia by using artificial neural network

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
JIMMY-LEI BA, KIROS JAMIE-RYAN, HINTON GEOFFREY-E: "《Layer normalization》", 《ARXIV》 *
SHIBANI SANTURKAR, TSIPRAS DIMITRIS, ILYAS ANDREW, ET AL.: "《How does batch normalization help optimization?》", 《ARXIV》 *
TING-BING XU ET.AL: "《LightweightNet: Toward fast and lightweight convolutional neural》", 《DISTILLATION 》 *
曹立宇，方向忠: "《一种基于BNN的行人再识别方法》", 《信息技术》 *
陈英义等: "基于FTVGG16卷积神经网络的鱼类识别方法", 《农业机械学报》 *
龙敏等: "基于深度卷积神经网络的指纹活体检测算法研究", 《信息网络安全》 *

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111353526A (zh) * 2020-02-19 2020-06-30 上海小萌科技有限公司 一种图像匹配方法、装置以及相关设备
CN111291836B (zh) * 2020-03-31 2023-09-08 中国科学院计算技术研究所 一种生成学生网络模型的方法
CN111291836A (zh) * 2020-03-31 2020-06-16 中国科学院计算技术研究所 一种生成学生网络模型的方法
CN111753092A (zh) * 2020-06-30 2020-10-09 深圳创新奇智科技有限公司 一种数据处理方法、模型训练方法、装置及电子设备
CN111753092B (zh) * 2020-06-30 2024-01-26 青岛创新奇智科技集团股份有限公司 一种数据处理方法、模型训练方法、装置及电子设备
WO2022052358A1 (zh) * 2020-09-09 2022-03-17 生物岛实验室 心电异常检测网络训练方法、心电异常预警方法及装置
CN112022144A (zh) * 2020-09-09 2020-12-04 生物岛实验室 心电异常检测网络训练方法、心电异常预警方法及装置
WO2022088443A1 (zh) * 2020-10-26 2022-05-05 生物岛实验室 边缘计算节点的制造方法和边缘计算节点
CN112244853A (zh) * 2020-10-26 2021-01-22 生物岛实验室 边缘计算节点的制造方法和边缘计算节点
WO2022088441A1 (zh) * 2020-10-26 2022-05-05 生物岛实验室 健康监测设备
CN112244853B (zh) * 2020-10-26 2022-05-13 生物岛实验室 边缘计算节点的制造方法和边缘计算节点
CN112617850B (zh) * 2021-01-04 2022-08-30 苏州大学 心电信号的早搏心拍检测系统
CN112617850A (zh) * 2021-01-04 2021-04-09 苏州大学 心电信号的早搏心拍检测方法
CN112950464A (zh) * 2021-01-25 2021-06-11 西安电子科技大学 一种不包含正则化层的二值超分辨率重建方法
CN112950464B (zh) * 2021-01-25 2023-09-01 西安电子科技大学 一种不包含正则化层的二值超分辨率重建方法
CN113219341A (zh) * 2021-03-23 2021-08-06 陈九廷 一种模型生成及电池劣化推测装置、方法、介质及设备
CN113219341B (zh) * 2021-03-23 2023-04-07 陈九廷 一种模型生成及电池劣化推测装置、方法、介质及设备
CN113239985A (zh) * 2021-04-25 2021-08-10 北京航空航天大学 一种面向分布式小规模医疗数据集的分类检测方法
CN114358206A (zh) * 2022-01-12 2022-04-15 合肥工业大学 二值神经网络模型训练方法及系统、图像处理方法及系统
CN116664958A (zh) * 2023-07-27 2023-08-29 鹏城实验室 基于二值神经网络模型的图像分类方法以及相关设备
CN116664958B (zh) * 2023-07-27 2023-11-14 鹏城实验室 基于二值神经网络模型的图像分类方法以及相关设备
CN117521848A (zh) * 2023-11-10 2024-02-06 中国科学院空天信息创新研究院 面向资源受限场景的遥感基础模型轻量化方法、装置
CN117521848B (zh) * 2023-11-10 2024-05-28 中国科学院空天信息创新研究院 面向资源受限场景的遥感基础模型轻量化方法、装置
CN117257324A (zh) * 2023-11-22 2023-12-22 齐鲁工业大学(山东省科学院) 基于卷积神经网络和ecg信号的房颤检测方法
CN117257324B (zh) * 2023-11-22 2024-01-30 齐鲁工业大学(山东省科学院) 基于卷积神经网络和ecg信号的房颤检测方法
CN117421678A (zh) * 2023-12-19 2024-01-19 西南石油大学 一种基于知识蒸馏的单导联房颤识别系统
CN117421678B (zh) * 2023-12-19 2024-03-22 西南石油大学 一种基于知识蒸馏的单导联房颤识别系统

Also Published As

Publication number Publication date
CN110379506B (zh) 2022-06-14

Similar Documents

Publication Publication Date Title
CN110379506A (zh) 针对心电图数据使用二值化神经网络的心律不齐检测方法
CN108062753B (zh) 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法
CN105105743B (zh) 基于深度神经网络的心电图智能处理方法
CN109657780A (zh) 一种基于剪枝顺序主动学习的模型压缩方法
CN108573303A (zh) 一种基于改进强化学习的复杂网络局部破坏的自改进恢复策略
CN109191455A (zh) 一种基于ssd卷积网络的大田作物病虫害检测方法
CN111461463B (zh) 一种基于tcn-bp的短期负荷预测方法、系统及设备
CN107169621A (zh) 一种水体溶解氧预测方法及装置
CN110533086A (zh) 图像数据半自动标注方法
CN106709528A (zh) 基于多目标函数深度学习的车辆重识别方法及装置
CN109598002A (zh) 基于双向循环神经网络的神经机器翻译方法和系统
CN111062511B (zh) 基于决策树与神经网络的水产养殖病害预测方法及系统
Zhang et al. Summary of convolutional neural network compression technology
CN114897155A (zh) 一种用于卫星的集成模型无数据压缩方法
CN113268370B (zh) 一种根因告警分析方法、系统、设备及存储介质
CN110613445B (zh) 一种基于dwnn框架的心电信号的识别方法
CN110929809B (zh) 一种特征自增强的循环神经网络的污水关键水质指标软测量方法
CN106779090A (zh) 一种基于自适应Dropout非负矩阵分解的特征学习模型
CN116755876A (zh) 一种大模型混合并行训练加速方法和系统
CN116521863A (zh) 一种基于半监督学习的标签抗噪文本分类方法
CN111797991A (zh) 一种深度网络模型压缩系统、方法及装置
Hu et al. Tree species identification based on the fusion of multiple deep learning models transfer learning
CN112926691A (zh) 一种提取特征逻辑用于分类的卷积树突方法
CN107506778A (zh) 一种基于最小生成树的海量数据聚类处理方法
CN116912637B (zh) 输变电缺陷识别的方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant