CN109700434A

CN109700434A - 基于心电图诊断的元学习模型训练方法、系统和设备

Info

Publication number: CN109700434A
Application number: CN201811631982.9A
Authority: CN
Inventors: 朱佳兵; 李毅; 朱涛; 张玮; 罗伟
Original assignee: WUHAN ZONCARE BIO-MEDICAL ELECTRONICS Co Ltd
Current assignee: WUHAN ZONCARE BIO-MEDICAL ELECTRONICS Co Ltd
Priority date: 2018-12-28
Filing date: 2018-12-28
Publication date: 2019-05-03

Abstract

本发明提供了一种基于心电图诊断的元学习模型训练方法、系统和设备，涉及元学习的技术领域，包括，获取多个样本数据组，其中，样本数据组包括多个样本数据。将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组。将多个与样本数据组对应的标签组代入元损失函数，得到多个元参数。将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数，根据最优元参数对元学习模型进行训练。元学习优化器把每一次训练中的元参数保留了下来，用作后续处理，使元学习模型具备心电图诊断的学习能力。

Description

基于心电图诊断的元学习模型训练方法、系统和设备

技术领域

本发明涉及元学习的技术领域，尤其是涉及一种基于心电图诊断的元学习模型训练方法、系统和设备。

背景技术

基于深度学习的方法虽然大大提高了计算机心电图的诊断水平。但其往往需要大量的带标注的样本进行学习。而心电图样本的标注往往工程量巨大，且有些疑难病症的样本难以大规模的获取。此外，由于心电图细分子类众多(超过200类)，如果完全采用传统的机器学习或深度学习方法，则每一类需要从零开始学习，这种逐个技能逐步训练的代价太大。

针对现有技术中计算机深度学习诊断心电图的水平较低的问题，目前尚未提出有效解决方案。

发明内容

有鉴于此，本发明的目的在于提供一种基于心电图诊断的元学习模型训练方法、系统和设备，缓解计算机深度学习诊断心电图的水平较低的问题。

第一方面，本发明实施例提供了一种基于心电图诊断的元学习模型训练方法，包括：

获取多个样本数据组，其中，样本数据组包括多个样本数据；

将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组；

将多个标签组代入元损失函数，得到多个元参数；

将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数；

根据最优元参数对元学习模型进行训练。

结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，获取多个样本数据组的步骤，包括重复执行以下处理，直至样本库中的样本数据都被遍历：

从样本库中随机挑选M*k个样本数据进行排序，形成样本序列；

选取样本序列中的第i个样本数据至第j个样本数据组成第i个样本数据组中，其中，1≤i＜j≤M*k。

结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，样本数据包括心电图数据和与心电图数据相关联的病症标签，标签组包括与同一心电图数据相关联的病症标签和预测标签，将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组包括重复执行以下处理，直至多个样本数据组都被遍历：

将第i个样本数据组中的第a个心电图数据输入第i元学习模型，得到与心电图数据相关联的第a个预测标签，i≤a≤j；将样本数据组中的多个心电图数据输入元学习模型，得到多个与心电图数据相关联的预测标签。

结合第一方面第二种可能的实施方式，本发明实施例提供了第一方面的第三种可能的实施方式，其中，将多个标签组代入损失函数，得到多个元参数的步骤，包括，重复执行以下处理，直至多个标签组都被遍历：

将第i个样本数据组中的多个标签组代入损失函数，得到第i个元参数。

结合第一方面第三种可能的实施方式，本发明实施例提供了第一方面的第四种可能的实施方式，其中，还包括：

根据第i个元参数训练第i+1元学习模型。

结合第一方面，本发明实施例提供了第一方面的第五种可能的实施方式，其中，将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数的步骤，包括：

将多个元参数依次输入对元学习优化器，根据初始元参数和预设算法进行计算，得到最优元参数，其中，预设算法包括SGD或ADAM算法。

结合第一方面第三种可能的实施方式，本发明实施例提供了第一方面的第六种可能的实施方式，其中，还包括：

计算损失函数最小时的元学习模型的参数，参数为元参数。

第二方面，本发明实施例还提供一种基于元学习的心电图诊断的方法，包括：将心电图数据输入最优元学习模型，得到心电图数据的诊断分类结果，其中，最优元学习模型通过最优元参数对元学习模型进行训练得到。

第三方面，本发明实施例还提供一种基于心电图诊断的元学习模型训练系统，包括：

样本数据组获取模块，获取多个样本数据组，其中，样本数据组包括多个样本数据；标签获取模块，将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组；损失计算模块，将多个样本数据组中的标签组代入损失函数，得到多个元参数；最优元参数计算模块，将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数；训练模块，根据最优元参数对元学习模型进行训练。

第四方面，本发明实施例还提供一种基于元学习的心电图诊断的设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述第一方面和第二方面的方法的步骤。

本发明实施例带来了以下有益效果：

本发明提供了一种基于心电图诊断的元学习模型训练方法，包括，获取多个样本数据组，其中，样本数据组包括多个样本数据。将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组。将多个与样本数据组对应的标签组代入损失函数，得到多个元参数。将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数，根据最优元参数对元学习模型进行训练。元学习优化器把每一次训练中的“经验”(元参数)保留了下来，用作后续处理，使元学习模型具备学习新任务的能力，先通过接触大量的病症诊断任务进行训练，获得由最优元参数表征的最优元参数模型。

本公开的其他特征和优点将在随后的说明书中阐述，或者，部分特征和优点可以从说明书推知或毫无疑义地确定，或者通过实施本公开的上述技术即可得知。

为使本公开的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种基于心电图诊断的元学习模型训练方法；

图2为本发明实施例提供了一种基于心电图诊断的SNAIL元学习模型架构图；

图3为本发明实施例提供了一种基于心电图诊断的卷积神经网络架构图；

图4为为本发明实施例提供的一种基于心电图诊断的元学习模型训练系统框架图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的技术方案进行描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。

目前计算机深度学习诊断心电图的水平较低，基于此，本发明实施例提供的一种基于心电图诊断的元学习模型训练方法、系统和设备，可以使元学习模型具备学习新任务的能力。

为便于对本实施例进行理解，首先对本发明实施例所公开的一种基于心电图诊断的元学习模型训练方法进行详细介绍。

实施例1

如图1所示，本发明实施例提供了一种基于心电图诊断的元学习模型训练方法，该方法包括步骤S101-S105，具体如下：

步骤S101，获取多个样本数据组，其中，样本数据组包括多个样本数据。样本数据包括心电图仪按照固定的采样频率采集的心电图数据，采样时长可以为30s，采样频率可以为200Hz，心电图数据为随时间变化的电位差数据。该心电图数据已经专业医师分析，且确定病症类型，病症类型包括早搏、逸搏、心动过速肥大，心肌缺血、梗死等。全部的样本数据组成样本数据库，从样本数据库中可以挑选多个样本数据组成一个样本数据组，重复上述步骤获得多组样本数据。

步骤S102，将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组。本发明实施例的元学习模型采用SNAIL(Simple Neural Attentlve Learner)元学习模型。如图2所示，本发明实施例提供了一种基于心电图诊断的SNAIL元学习模型架构图，该SNAIL元学习模型由间隔的TC(temporal convolutions，时间卷积)Block和AttentionBlock组成，其中，TC Block包括神经网络。

将一个样本数据组中的多个样本数据逐个输入SNAIL元学习模型，一个样本数据组对应得到一个标签组，则多个样本数据组对应得到多个标签组。由于每个样本数据组经过SNAIL元学习模型，都会更新一次SNAIL元学习模型，所以不同的样本数据组对应不同的SNAIL元学习模型，且同一样本数据组中的样本数据对应同一SNAIL元学习模型。

步骤S103，将多个与样本数据组对应的标签组代入元损失函数，得到多个元参数。将与样本数据组对应的标签组代入元损失函数，元损失函数为计算病症标签损失的函数，当损失最小时，得到SNAIL元学习模型的参数，即元参数。一个标签组，对应得到一个元参数，多个样本标签组对应得到多个元参数，元参数用于训练SNAIL元学习模型，每获得一个元参数，对SNAIL元学习模型进行一次训练，则SNAIL元学习模型进行一次更新。

元参数包括定义SNAIL元学习模型的全部参数，例如该SNAIL元学习模型包括神经网络，神经网络具有对样本数据进行特征提取，且根据特征进行分类识别的能力。神经网络可以采用经典的深度学习网络架构如循环神经网络(Recurrent Neural Network,RNN)，长短记忆网络(Long Short-term memory,LSTM)或卷积神经网络(convolutional neuralnetwork，CNN)中的一种，本发明实施例中采用卷积神经网络，则该SNAIL元学习模型的元参数包括卷积神经网络的参数。

如图3所示，本发明实施例提供了一种基于心电图诊断的卷积神经网络架构图，样本数据进入卷积神经网络，依次经过由{3*3卷积层，Batch Norm(批量处理规范)层，ReLU激活函数层(Rectified Linear Units，整流线性函数)，Dropout层，2*2最大池化}组成的四个残差结构，滤波器个数分别为64，96，128，256。由于上述四个残差结构的工作量过大，可以由2048个滤波器组成的1*1卷积层或全连接层替代上述四个残差结构，并采用6*6的平均池化处理数据，再经过ReLU层和droupout层的操作。最后，经过一个由384个滤波器的全连接层，输出结果。

步骤S104，将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数。多个元参数包括该SNAIL元学习模型的初始元参数和与多个样本数据组对应的元参数。在多个样本数据组依次经过SNAIL元学习模型的过程中，多个元参数依次输入元学习优化器并储存其中，在多个样本数据组全部经过SNAIL元学习模型后，元学习优化器负责训练SNAIL元学习模型，根据预设的算法分析多个元参数，即内化和参考过去的经验得到最优元参数。

步骤S105，根据最优元参数对SNAIL元学习模型进行训练。获得最优元参数，根据最优元参数更新SNAIL元学习模型，获得最优SNAIL元学习模型，该最优SNAIL元学习模型具有对心电图数据进行病症类型诊断的能力。

上述实施例步骤S101，包括：从样本库中随机挑选M*k个样本数据进行随机排序，形成样本序列。样本库中的样本数据根据所属病症可以分为N类，每类病症包括K个样本数据，则该样本库包括N*K个样本数据(1＜M＜N，1＜k＜K)。从N类样本数据中随机挑选M类样本数据，且在每类样本数据中均随机挑选k个样本数据，并对挑选的全部样本数据进行随机排序形成样本序列。样本序列中的每个样本数据用希腊字母Ψ表示，则该样本序列为Ψ₁，Ψ₂，Ψ₃…Ψ_Mk。选取样本序列中的第i个样本数据至第j个样本数据组成第i个样本数据组，则每个样本数据组中包括(j-i+1)个样本数据，其中，1≤i＜j≤M*k，则第i个样本数据组为(Ψ_i,Ψ_i+1…Ψ_j)如果(j-i+1)＝4，则第1个样本数据组为(Ψ₁，Ψ₂，Ψ₃，Ψ₄)，第2个样本数据组为(Ψ₂，Ψ₃，Ψ₄，Ψ₅)，第3个样本数据组为(Ψ₃，Ψ₄，Ψ₅，Ψ₆)，第4个样本数据组为(Ψ_i，Ψ_i+1，Ψ_i+2，Ψ_i+3)，该分组方法可以使样本序列中的样本数据多次历遍元学习模型，充分利用样本数据。

上述实施例步骤S102，包括：样本数据包括心电图数据和与心电图数据相关联的病症标签，病症标签为二进制数字序列与病症类型相对应。设心电图数据为X,与心电图数据相关联的病症标签为Y，则第i个样本数据为Ψ_i＝(X_i，Y_i)。元学习模型接收心电图数据，并输出预测标签，则上述病症标签和预测标签组成与上述心电图数据相对应的一对标签。标签组包括与多个心电图数据相对应的多对标签。将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组包括重复执行以下处理，直至多个样本数据组都被遍历：

将第i个样本数据组中的第a个心电图数据输入对应的第i元学习模型，得到与心电图数据相关联的第a个预测标签，i≤a≤j。设第i个样本数据组为Ψ_i＝(X_i，Y_i)，Ψ_i+1＝(X_i+1，Y_i+1)…Ψ_j＝(X_j，Y_j),则第i个样本数据组中的第a个心电图数据为X_i+a-1，与该心电图数据相关联的第a个预测标签Y_ia ^*。将样本数据组中的多个心电图数据输入对应的元学习模型，得到多个与心电图数据相关联的预测标签，得到与样本数据组对应的标签组。例如，将第i个样本数据组中的样本数据依次输入第i元学习模型，获得与第i个样本数据组对应的标签组(Y_i，Y_i1 ^*，)，(Y_i+1，Y_i2 ^*，)…(Y_i+a-1，Y_ia ^*，)…(Y_j，Y_i(j-i+1) ^*，)。按照总期望损失最小的原则，利用不同的样本数据组训练元学习模型，优化元参数。这样每个样本数据组对应的元学习模型的参数不同，所以对于属于不同样本数据组的心电图数据，由于输入的元学习模型的元参数的不同，而获得不同的预测标签。

上述实施例步骤S103，包括：将多个与样本数据组相对应的标签组代入元损失函数，得到多个元参数的步骤，包括，重复执行以下处理，直至多个标签组都被遍历：

将与第i个样本数据组相对应的标签组代入损失函数，得到第i个元参数的步骤包括：将与第i个样本数据组对应的标签组的多对标签依次输入损失函数得到多个损失值，对多个损失值求总期望，当总期望损失最小时，计算得到第i个元参数。

根据第i个元参数训练第i+1元学习模型。第i元学习模型的参数根据第i个元参数进行更新，获得第i+1元学习模型，本实施例中的第一元学习模型、第二元学习模型…第i元学习模型具有相同的SNAIL元学习模型框架结构，但是具有不同的元参数。

将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数的步骤，包括：将多个元参数依次输入对元学习优化器，根据初始元参数和预设算法进行计算，得到最优元参数，其中，预设算法包括SGD(Shape Global Deformation，随机梯度下降算法)或ADAM(adaptive moment estimatio)算法。该方法还包括：计算损失函数最小时的SNAIL元学习模型的参数，参数为元参数。

实施例2

一种基于元学习的心电图诊断的方法，包括：

将心电图数据输入最优元学习模型，得到心电图数据的诊断分类结果，其中，最优元学习模型通过最优元参数对元学习模型进行训练得到。

实施例3

一种基于心电图诊断的元学习模型训练系统，包括：

样本数据组获取模块S401，获取多个样本数据组，其中，样本数据组包括多个样本数据；

标签获取模块S402，将多个样本数据组中的多个样本数据输入元学习模型，得到多个标签组；

损失计算模块S403，将多个样本数据组中的标签组代入损失函数，得到多个元参数；

最优元参数计算模块S404，将多个元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数；

训练模块S405，根据最优元参数对元学习模型进行训练。

实施例4

一种基于元学习的心电图诊断的设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现上述实施例1和实施例2中的方法的步骤。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims

1.一种基于心电图诊断的元学习模型训练方法，其特征在于，包括：

获取多个样本数据组，其中，所述样本数据组包括多个样本数据；

将所述多个样本数据组中的所述多个样本数据输入所述元学习模型，得到多个标签组；

将多个所述标签组代入元损失函数，得到多个元参数；

将多个所述元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数；

根据所述最优元参数对所述元学习模型进行训练。

2.根据权利要求1所述的基于心电图诊断的元学习模型训练方法，其特征在于，所述获取多个样本数据组的步骤，包括重复执行以下处理，直至样本库中的样本数据都被遍历：

从所述样本库中随机挑选M*k个所述样本数据进行排序，形成样本序列；

选取所述样本序列中的第i个样本数据至第j个样本数据组成第i个样本数据组，其中，1≤i＜j≤M*k。

3.根据权利要求1所述的基于心电图诊断的元学习模型训练方法，其特征在于，所述样本数据包括心电图数据和与所述心电图数据相关联的病症标签，所述标签组包括与同一所述心电图数据相关联的所述病症标签和预测标签，将所述多个样本数据组中的所述多个样本数据输入所述元学习模型，得到多个标签组包括重复执行以下处理，直至所述多个样本数据组都被遍历：

将第i个样本数据组中的第a个所述心电图数据输入第i元学习模型，得到与所述心电图数据相关联的第a个预测标签，i≤a≤j；

将所述样本数据组中的多个所述心电图数据输入所述元学习模型，得到多个与所述心电图数据相关联的预测标签。

4.根据权利要求3所述的基于心电图诊断的元学习模型训练方法，其特征在于，所述将多个所述标签组代入元损失函数，得到多个元参数的步骤，包括，重复执行以下处理，直至所述多个标签组都被遍历：

将所述第i个样本数据组中的多个所述标签组代入损失函数，得到第i个元参数。

5.根据权利要求4所述的基于心电图诊断的元学习模型训练方法，其特征在于，还包括：

根据所述第i个元参数训练第i+1元学习模型。

6.根据权利要求1所述的基于心电图诊断的元学习模型训练方法，其特征在于，所述将多个所述元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数的步骤，包括：

将多个所述元参数依次输入对所述元学习优化器，根据初始元参数和预设算法进行计算，得到最优元参数，其中，所述预设算法包括SGD或ADAM算法。

7.根据权利要求4所述的基于心电图诊断的元学习模型训练方法，其特征在于，还包括：

计算所述损失函数最小时的所述元学习模型的参数，所述参数为元参数。

8.一种基于元学习的心电图诊断的方法，其特征在于，包括：

将心电图数据输入最优元学习模型，得到所述心电图数据的诊断分类结果，其中，所述最优元学习模型通过最优元参数对元学习模型进行训练得到。

9.一种基于心电图诊断的元学习模型训练系统，其特征在于，包括：

样本数据组获取模块，获取多个样本数据组，其中，所述样本数据组包括多个样本数据；

标签获取模块，将所述多个样本数据组中的所述多个样本数据输入所述元学习模型，得到多个标签组；

损失计算模块，将所述多个样本数据组中的标签组代入损失函数，得到多个元参数；

最优元参数计算模块，将多个所述元参数输入元学习优化器，根据预设算法进行计算，得到最优元参数；

训练模块，根据所述最优元参数对所述元学习模型进行训练。

10.一种基于元学习的心电图诊断的设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1至8中任一项所述的方法的步骤。