CN115243619A - 使用神经网络评估心脏参数 - Google Patents

使用神经网络评估心脏参数 Download PDF

Info

Publication number
CN115243619A
CN115243619A CN202180019306.XA CN202180019306A CN115243619A CN 115243619 A CN115243619 A CN 115243619A CN 202180019306 A CN202180019306 A CN 202180019306A CN 115243619 A CN115243619 A CN 115243619A
Authority
CN
China
Prior art keywords
parameter
images
heart
neural network
echocardiographic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180019306.XA
Other languages
English (en)
Inventor
A·贝奇里
A·帕克
A·穆米思
G·伍德沃德
D·马克汉姆
R·厄普顿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Otromes Co ltd
Original Assignee
Otromes Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from GBGB2003347.8A external-priority patent/GB202003347D0/en
Priority claimed from GBGB2003346.0A external-priority patent/GB202003346D0/en
Application filed by Otromes Co ltd filed Critical Otromes Co ltd
Publication of CN115243619A publication Critical patent/CN115243619A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0883Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the heart
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/06Measuring blood flow
    • A61B8/065Measuring blood flow to determine blood output from the heart
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/466Displaying means of special interest adapted to display 3D data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/481Diagnostic techniques involving the use of contrast agent, e.g. microbubbles introduced into the bloodstream
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/485Diagnostic techniques involving measuring strain or elastic properties
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Cardiology (AREA)
  • Hematology (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明的实施方案提供了一种用于从超声结果自动得出人心脏的参数的系统。第一神经网络被布置成接收多个超声心动图图像并将该图像分类为至少二腔切面和四腔切面中的一个。第二神经网络被布置成接收包括二腔或四腔切面的超声心动图图像并识别每个切面的左心室(LV)的心内膜边界。然后识别收缩末期和舒张末期图像,并且计算参数,例如LV容积、射血分数、整体纵向应变和区域纵向应变。

Description

使用神经网络评估心脏参数
技术领域
本发明涉及一种用于从多个超声心动图图像确定人心脏的参数的神经网络。
背景技术
超声心动图是研究心脏状况的有力工具,但传统上它严重依赖于专业放射技师对所得图像的解读。这导致延迟和费用。
在超声心动图中,通常针对多个不同的“切面”收集特定患者心脏的超声数据,即通过探头从患者身体周围的不同点收集的数据,使得每个切面代表穿过患者身体的不同平面。这些切面可以包括心尖四腔切面、心尖三腔切面、心尖二腔切面以及胸骨旁长轴和短轴切面。有时所有切面均将出现在患者数据中,有时仅子集可用。对于特定患者的单个切面也可能有多个超声视频。尽管熟练的读片者将意识到其他格式是可用的,但超声结果通常通过DICOM(医学数字图像及通信)文件进行通信。
在使用经训练的神经网络解读单个超声切面方面已经进行了一些工作,例如自动勾画出心脏壁的轮廓。然而,此类神经网络仅在特定切面(例如心尖四腔切面)下运行,这表示任何特定网络仅可以接受与一种类型的输入数据(即一个“切面”)有关的超声数据。
不幸的是,超声文件(例如DICOM文件)通常不包括关于在任何特定数据集中存在哪个切面的任何信息。操作人员可能需要长达20分钟或更长时间才能对来自特定患者的所有超声数据进行分类,以确保将与正确切面相关的数据提供给正确的神经网络并得出临床适用的心脏测量值。
本发明的目的是改善这个缺点。
发明内容
根据本发明的第一方面,提供了一种用于提供人心脏的参数的系统,该系统包括:
具有输入和输出的第一经训练的神经网络,第一神经网络被布置成接收多个超声心动图图像并将该超声心动图图像分类为至少包括二腔切面和四腔切面的至少两个不同切面中的一个,和
具有输入和输出的第二经训练的神经网络,第二神经网络被布置成接收来自该二腔切面或该四腔切面中的至少一个的图像并识别每个切面的左心室的心内膜边界,
第一响应者,其响应该第二神经网络的输出以识别收缩末期和舒张末期图像,和
第二响应者,其响应该收缩末期和舒张末期图像以得出该心脏的参数。
通过自动检测源数据中的相关切面并分割左心室心内膜边界,提供了更准确且有效的系统。通过自动提供参数,医生或随后的自动化系统可以更容易且更有效地对患者进行诊断。
大多数参数需要勾画出左心室的心内膜边界(分割),至少结合二腔和四腔切面以形成容积,例如Simpson的双平面法来确定心室容积,还需要计算参数(例如射血分数)。
从左心室分割,得出合适的参数,包括射血分数(EF)和整体纵向应变(GLS)。另外地或可选地,可以得出局部(区域)应变值。切面检测网络可以提供置信量度以及关于存在哪个切面的决定。该量度可用于消除任何多余切面(即3腔心尖和SAX切面)和/或从多组相同类型的切面中选择一组切面。
第一响应者可以是响应第二神经网络的输出以识别收缩末期和舒张末期图像的装置。第二响应者可以是响应第二神经网络的输出以识别收缩末期和舒张末期图像的装置。
根据本发明的第二方面,提供了一种诊断心脏病理的方法,该方法包括:
接收来自受试者的多个超声心动图图像,
使用第一方面的系统分析该多个超声心动图图像以得出该心脏的参数,
将该心脏的参数与至少一个预定阈值参数进行比较,以及
检测该心脏的参数与该至少一个阈值参数之间的差异,所述差异指示该心脏病理。
根据本发明的第三方面,提供了一种治疗心脏病理的方法,该方法包括:
接收来自受试者的多个超声心动图图像,使用第一方面的系统分析该多个超声心动图图像以得出该心脏的参数,
将该心脏的参数与至少一个预定阈值参数进行比较,
检测该心脏的参数与该至少一个阈值参数之间的差异,所述差异指示该心脏病理,以及
向该受试者施用治疗有效量的药物,该药物减轻该心脏病理的一种或更多种症状。
本发明的方法和系统可以在传统的超声心动图装置上实施,或者可以作为接收超声心动图数据的独立系统来实施。
附图说明
现在将参照以下附图以示例的方式描述本发明:
图1是显示根据本发明实施方案的神经网络的第一布置的示意框图,
图2是本发明的第二实施方案的示意框图,该第二实施方案包括六个顺序连接的处理阶段,
图3显示了使用本发明的实施方案的左心室轮廓,
图4示出了由本发明的实施方案识别的舒张末期和收缩末期帧的选择过程,
图5显示了由本发明的实施方案识别的舒张末期和收缩末期帧,以及
图6显示了本发明的实施方案与心脏图像数据的传统人工处理之间的比较。
具体实施方式
图1显示了系统100,其中将输入超声图像102提供给第一经训练的神经网络104。用于获得超声图像的设备例如在WO2017/216545中示出并且众所周知的商业系统可从公司(包括飞利浦、西门子和通用电气)获得。在该实例中,实施方案的输入包括多个非造影超声心动图视频剪辑,其由具有给定受试者的DICOM成像研究的采集切面的多个实例组成。在可选的实例中,实施方案的输入包括多个造影超声心动图视频剪辑,其由具有给定受试者的DICOM成像研究的采集切面的多个实例组成。当然,可以根据需要使用其他成像格式。
超声心动图领域的技术人员已知有两大类成像方式。这些被称为造影和非造影成像。造影超声心动图描述了一系列成像方法,所有这些方法均依赖于引入具有声学活性并在血管空间中持续一段时间的造影剂。在本发明的一些实施方案中,造影超声心动图图像是在引入一种或更多种声学活性造影剂期间或之后获得的超声心动图图像。可以通过将造影剂(例如微泡)引入患者体内来获得造影图像。与非造影超声心动图图像(其是从未使用造影剂的受试者捕获的超声心动图图像)相比,造影剂通常改进超声心动图图像中心室边界的检测。非造影成像涉及在不存在任何造影剂的情况下收集超声心动图图像。
在一些实施方案中,本发明的任何方面利用非造影超声心动图图像。在一些其他实施方案中,本发明的任何方面利用造影超声心动图图像。在一些实施方案中,本发明的任何方面使用造影和非造影超声心动图图像。本文所述的系统和方法以及它们的实施方案容易地应用于两种成像方式。
第一神经网络104被布置成确定输入视频剪辑与哪个切面相关,从而可以将其提供给系统的后续阶段并由其正确处理。
优选地,第一神经网络还提供用于确定相关切面的置信量度,即,指示该切面实际上是所确定类型的可能性。
在该实例中,仅需要2腔心尖切面和4腔心尖切面。因此,任何与其他类型切面(例如3腔心尖切面或SAX切面)相关的切面均将被忽略。这可以以两种不同的方式完成。
可以训练第一神经网络以识别任何数量的可能切面,例如2腔心尖切面、3腔心尖切面、4腔心尖切面和胸骨旁短轴(SAX)切面。然后直接将2腔心尖切面和4腔心尖切面传递到后续处理阶段。
可选地,可以训练第一神经网络以仅识别2腔心尖切面和4腔心尖切面以及每个切面的置信量度。例如,这表示3腔心尖切面和SAX切面可能(错误地)被神经网络分类为2腔心尖切面或4腔心尖切面。然而,与这些错误分类相关的置信量度应该很低。然后忽略具有低置信量度的数据,这表示仅2腔心尖和4腔心尖数据被传递到后续处理阶段。
因此,将二腔或四腔心尖数据106提供给第二卷积神经网络112,其经训练以勾画出每个输入切面的左心室的轮廓。用于向第二神经网络提供数据的其他方法对于熟练的读片者将是显而易见的。例如,可以将所有图像数据提供给第二神经网络,但是该神经网络将仅响应来自切面检测神经网络104的输出而被激活以处理正确的图像。第一神经网络104还提供它已经检测到2腔切面的指示108并且提供它已经检测到4腔切面的指示110。
第二网络112确定各个图像中左心室的心内膜边界的轮廓。图3显示了围绕心内膜边界追踪的此类轮廓的实例。
一旦已经勾画了每个输入图像的心内膜边界的轮廓,就将二腔切面114和四腔切面116提供给第一响应者(responder)118和120,它们可以进行相应的周期和帧选择操作。换言之,将二腔切面114和四腔切面116提供给各自的周期和帧选择装置118和120。第一响应者被布置成确定图像数据中的收缩末期和舒张末期帧。在实例中,图像数据包括非造影图像数据。在可选的实例中,图像数据包括造影图像数据。了解哪些帧与完全收缩或完全扩张的左心室有关,然后可以用于确定关键参数,例如受试者心脏的射血分数(EF)和整体纵向应变(GLS)。其他参数也可以或可选地确定例如容积、主应变、剪切应变、区域应变、左心室质量、左心室面积、左心室长度、矩形度和实度中的任何一项或多项。心脏可以是牛、马、猪、鼠、猫、犬或灵长类动物的心脏。本领域技术人员理解心脏可以包括但不限于家畜的心脏。本领域技术人员进一步理解,灵长类动物的心脏可以包括但不限于人心脏。
将用于2腔周期和帧选择(即2腔周期和帧选择装置)118的第一响应者的第一输出122和用于4腔周期和帧选择(即4腔周期和帧选择装置)120的第一响应者的第二输出124提供给第二响应者126,其可以进行参数计算。第二响应者126根据容积、射血分数、整体纵向应变、主应变、剪切应变、区域应变、左心室质量、左心室面积、左心室长度、矩形度和实度中的任何一项计算一个或更多个参数。换言之,将来自2腔周期和帧选择装置118的输出122和4腔周期和帧选择装置120的输出124提供给计算参数的参数计算装置126。例如,使用容积估计(例如Simpson双平面法)来计算射血分数。还可以应用其他容积计算方法。
对于GLS,舒张末期(基础长度)和收缩末期(缩短长度)用于计算整体纵向应变,如下所示:
整体纵向应变(%)=((缩短长度-底长)/(底长))×100
除了GLS之外,还可以得出区域应变参数。区域应变是通过将关于心尖点的2/4腔切面轮廓的左侧和右侧(前壁和后壁)分成三个部分来计算的——总共针对轮廓制作六段。每个段在每个时间点的区域应变的计算方法如下:取每个轮廓段的长度,减去舒张末期轮廓段的长度,取该差值与舒张末期长度之比,然后乘以100以产生应变百分比。这正式表示为:
Figure BDA0003833878320000041
其中t是在t0时相对于舒张末期时间帧的时间指数,并且li是ith轮廓段的长度。
随时间的区域应变通常产生曲线,该曲线在舒张末期时间点的零值附近开始和结束。然后对这些进行时间平滑以解决误差。然后,输出参数是每个段的应变曲线、每个段的峰值应变(即每条曲线中的最大负应变值)以及起始舒张末期时间点和峰值应变之间的时间——称为“达峰时间”。还可以从识别的收缩末期和舒张末期帧计算收缩末期应变值。
第一响应者118、120可以是周期和帧选择装置。它还可以利用其他数据(例如ECG迹线)来识别轮廓图像数据中的收缩末期和舒张末期帧。
图1中所示的两个神经网络分别进行如下训练。第一(切面检测)神经网络提供有训练超声数据,其中相关切面已由操作人员识别。在实例中,训练超声数据包括非造影超声数据。在可选的实例中,训练超声数据包括造影超声数据。
从足够大的多个受试者DICOM数据集中,每项受试者的DICOM研究中存在几个心尖4腔(A4C)切面、心尖3腔(A3C)切面、心尖2腔(A2C)切面和胸骨旁短轴二尖瓣(PSAX-MV或SAX)切面。第一神经网络包括多类卷积神经网络(CNN),其被布置成接收多个超声心动图视频剪辑作为输入。在实例中,超声心动图视频剪辑包括非造影超声心动图视频剪辑。在可选的实例中,超声心动图视频剪辑包括造影超声心动图视频剪辑。第一神经网络进一步被布置成确定图像是否是心尖四腔(A4C)切面、心尖三腔(A3C)切面、心尖二腔(A2C)切面和胸骨旁短轴二尖瓣(PSAX-MV)切面。在实例中,这包括使用灰度图像输入的多个2D卷积层。交叉熵被用作损失函数。将类加权因子应用于数据,以匹配所表示的每个切面的训练数据的不均匀分布。使用分类器模型对图像研究中的所有帧进行推断,以评估研究是哪个切面,以及将分类器输出的总和用作分类投票策略。为了在超声心动图视频剪辑由非造影超声心动图视频剪辑组成的实例中进行初步验证,将由原始数据的10%形成的不可见的“保留”数据子集应用于切面分类器,以产生切面识别准确度,如下表1所示。真实标签位于纵轴上,并且预测标签(通过神经网络)位于横轴上。2C和3C切面之间仅有一些轻微的错误分类。
2C 3C 4C SAX
2C 0.99 0.01 0.00 0.00
3C 0.01 0.99 0.00 0.00
4C 0.00 0.00 1.00 0.00
SAX 0.00 0.00 0.00 1.00
表1
为了在超声心动图视频剪辑由造影超声心动图视频剪辑组成的实例中进行初步验证,将由原始数据的10%形成的不可见的“保留”数据子集应用于切面分类器,以产生切面识别准确度,如下表2所示。如表1所示,真实标签位于纵轴上,并且预测标签(通过神经网络)位于横轴上。2C和3C切面之间仅有一些轻微的错误分类。
2C 3C 4C SAX
2C 0.90 0.01 0.08 0.00
3C 0.05 0.95 0.00 0.00
4C 0.05 0.00 0.94 0.00
SAX 0.00 0.00 0.00 1.00
表2
在超声心动图视频剪辑由非造影超声心动图视频剪辑组成的实例中,切面分类器还使用独立的测试数据集进行测试,结果如表3所示。
2C 3C 4C SAX
2C 0.97 0.02 0.01 0.00
3C 0.01 0.99 0.00 0.00
4C 0.01 0.00 0.99 0.00
SAX 0.01 0.00 0.00 0.99
表3
在超声心动图视频剪辑由造影超声心动图视频剪辑组成的实例中,切面分类器还使用独立的测试数据集进行测试,结果如表4所示。
2C 3C 4C SAX
2C 0.85 0.01 0.12 0.01
3C 0.04 0.96 0.00 0.00
4C 0.07 0.00 0.93 0.00
SAX 0.00 0.01 0.01 0.99
表4
左心室(LV)分割算法包括使用Python 3.5开发的U-net卷积神经网络(CNN)自动LV分割框架,Keras(Chollet,Francois et.Al.2015,htts://keras.io)和GoogleTensorflow:用于大规模机器学习的系统(Abadi,Martin et al.,2016 12th USENIXSymposium on Operating Systems Design and Implementation(OSDI 16),page 265-283,https://www.usenix.org/system/files/conference/osdi16/osdi16-abadi.pdf)后端分割A2C和A4C切面。在实例中,非造影A2C和A4C切面被分割。可选的实例中,造影A2C和A4C切面被分割。图像用于训练最初由英国超声心动图学会(BSE)认可的超声心动图医师手动绘制的U-net CNN轮廓(即追踪LV心内膜边界)。在实例中,使用非造影图像训练U-netCNN。在可选的实例中,使用造影图像训练U-net CNN。这些图像分别包括A2C和A4C切面的帧。两个数据集均分为80%训练集和20%验证集用于训练CNN。原始图像经过滤、归一化并应用于修改后的U-net CNN框架。CNN产生的轮廓能够随时间平滑追踪心内膜壁(图3)。使用
Figure BDA0003833878320000061
系数(DC)评估网络分割性能的有效性,该DC是根据输出轮廓(Y)与已知地面真实轮廓(X)的交点的比率计算得出的,如下所示:
DC=2|X∩Y|/(|X|+|Y|)
LV轮廓(分割)表示该算法的输出以及周期和帧选择阶段的输入。
多个LV轮廓被接收到周期和帧选择算法中,该算法源自前面的LV分割算法。为了自动计算参数(例如EF和GLS),有必要在计算生理量度之前自动识别心动周期以及舒张末期和收缩末期帧。从图像剪辑建立自动化方法,包括评估心率(通常在DICOM文件中作为DICOM标签提供)、帧数(通常也在DICOM文件中作为DICOM标签提供)、一系列轮廓,每帧一个,用于正在考虑的切面。该方法在图4中进行总结,并且由周期分离、周期过滤以及舒张末期(ED)和收缩末期(ES)帧的提取,以及收缩周期的过滤组成。所得的一系列轮廓可以来自单个心动周期,或来自多个心动周期。第一步是在可能的情况下将一系列轮廓分成多个心动周期。可以使用简单的公式计算完整的心动周期数:
周期数=(帧之间的时间)×(心率)×(帧数)
其中“帧之间的时间”是各个帧之间的时间。一旦识别ES和ED帧,就从针对每个切面生成的两个轮廓提取图像特征,作为该算法的输出,用于输入到解剖定量算法中。
在实例中,所有训练数据均基于非造影超声心动图。在可选的实例中,所有训练数据均基于造影超声心动图。
图2显示了本发明的第二实施方案,其与第一实施方案的主要区别在于在每个路径中包括剪辑选择算法。图2显示了实施方案200,其中六个处理阶段被应用于输入切面。将多个图像文件202提供给第一神经网络204,其经训练以执行切面检测,如先前参考图1所讨论。在实例中,图像文件由非造影图像组成。在第二实例中,图像文件由造影图像组成。第一神经网络204还可以提供置信量度,其指示视频剪辑已被置于其中的类别是正确的置信度。在该实施方案中,第一神经网络已使用心尖2腔切面、心尖3腔切面、心尖4腔切面和SAX切面进行训练。
第一网络的输出包括识别的二腔切面206和识别的四腔切面208,将它们提供给相应的视频剪辑选择算法210、212。在实例中,视频剪辑选择算法被布置成针对每个切面选择(可能的)多个超声视频中最佳的,以提供给后续处理阶段。这可以在置信量度测量的基础上进行。在可选的实例中,视频剪辑选择算法被布置成针对每个切面选择多个超声视频的多个超声视频的合适视频以提供给后续处理步骤。这可以基于超声心动图图像的至少一个特征来完成。该至少一个特性包括置信量度、增益、粒度、分辨率、图像中的运动水平、视场、视场大小、图像大小或给定切面中的腔室数中的至少一项。视频剪辑选择算法210的输出214、216分别被连接到帧选择阶段230和左心室(LV)分割神经网络224的输入。视频剪辑选择算法212的输出218、220分别被连接到左心室(LV)分割神经网络224和帧选择阶段232的输入。该神经网络的输出226、228作为输入提供给相应的周期和帧选择算法230、232。这些算法将它们的输出234、236作为输入提供给相应的解剖定量算法238、240,其将输出242、244提供给组合算法246。该组合算法提供输出参数248。该输出参数可以是心室容积、射血分数、整体纵向应变、主应变、剪切应变、区域(局部)应变、左心室质量、左心室面积、左心室长度、矩形度和实度中的一项或更多项。
神经网络的分离意指网络设计者可以确信后续模型训练和应用已经考虑了与不同超声心动图切面相关的变量,在这个实例中,或者在前述步骤中已经解决的任何其他前述混杂因素。
图4显示了识别ED和ES帧的过程,如下所示。通过考虑许多可能的舒张末期和收缩末期候选者(顶行图),从一组轮廓中提取舒张末期和收缩末期轮廓。在此过滤之后,选择面积差异最大的候选者(图表的底行)。另见图5。
对于心尖2腔切面和心尖4腔切面,均重复该过程。
将从周期和帧选择算法中选择的ED和ES帧作为输入,可以如所述计算生理参数,例如容积、射血分数或整体纵向应变。另外地或可选地,可以计算主应变、剪切应变、区域应变、左心室质量、左心室面积、左心室长度、矩形度和实度中的任何一项或更多项。
射血分数和整体纵向应变是超声心动图中熟知的参数,可用于检测受试者心脏中的异常,例如心力衰竭、冠状动脉疾病、淀粉样变性和肥厚性心肌病。上述系统可用于确定患有心脏异常的受试者的预后指示的方法。另外地或可选地,上述系统可用于诊断心脏病理的方法。另外地,如上所述的系统可用于治疗心脏病理的方法。来自受试者的一系列超声心动图图像将由上述系统分析以得出参数。在实例中,该系列超声心动图图像包括一系列非造影超声心动图图像。在可选的实例中,一系列超声心动图图像包括一系列造影图像。得出的心脏参数可以是容积、射血分数、整体纵向应变、主应变、剪切应变、区域应变、左心室质量、左心室面积、左心室长度、矩形度、实度中的一项或更多项,它们是本领域已知的。在实例中,一旦由系统得出一个或更多个参数,它们将与参考数据集进行比较。该参考数据集可以包括多个参考造影超声心动图图像,它们先前已经由系统分析以产生阈值参数。在可选的实例中,一旦系统得出一个或更多个参数,它们将与至少一个预定阈值参数进行比较。任选地,预定阈值参数从多个参考非造影超声心动图图像得出,这些参考非造影超声心动图图像先前已经由系统分析以产生阈值参数。任选地,在可选的实例中,预定阈值参数从多个参考造影超声心动图图像中得出,这些参考造影超声心动图图像先前已经由系统分析以产生阈值参数。另外地或可选地,在实例中,至少一个预定阈值参数从已知的医学定义的参数得出。在前述任何实例中,预定阈值参数可以是容积、射血分数、整体纵向应变、主应变、剪切应变、区域应变、左心室质量、左心室面积、左心室长度、矩形度和实度中的一项或更多项。
多个参考超声心动图图像可以来自没有心脏病理的受试者。在这种情况下,阈值参数将代表正常值,并且与该值的偏差将指示心脏病理。
多个参考超声心动图图像可以来自具有已知心脏病理的受试者。在这种情况下,阈值参数将表示异常值,并且如果正在使用该系统的受试者的参数在阈值的设定范围内,则这将指示已知的心脏病理。
多个参考超声心动图图像可以来自具有已知病理的受试者和没有已知病理的受试者。由于可以从多个参考超声心动图图像得出预定阈值参数,因此可以随时间更新预定阈值参数以反映受试者中新诊断的病理。
针对受试者得出的参数与从参考数据集或从预定阈值参数得出的阈值之间的比较可由医生执行,然后医生将基于比较决定受试者中是否存在心脏病理和/或受试者的预后。可选地,比较本身可以由适合该目的的系统执行。此类系统在WO 2017/216545 A1中公开。心脏病理(例如心力衰竭)的诊断可以由医生、系统或两者协同工作来进行。
一旦已获得心脏病理(例如心力衰竭)的诊断,则可以得出用于补救的处方,例如用于药物和/或生活方式改变的处方。
本发明还包括治疗受试者的心脏病理的方法,该方法包括获得如上所述的受试者的心脏病理的诊断,然后向受试者施用治疗有效量的药物以减轻心脏病理的症状。例如,在获得上述心力衰竭的诊断后,医生将随后对心力衰竭进行合适的治疗。这种治疗可能涉及施用血管紧张素转换酶(ACE)抑制剂、血管紧张素受体阻断剂、β受体阻断剂、盐皮质激素受体拮抗剂、利尿剂和其他用于治疗心力衰竭的常用药物中的一种或更多种。治疗的确切选择和剂量依赖于受试者的临床病史,但对本领域技术人员而言将是显而易见的。
例如,使用如上所述的系统,医生得出患者心脏左心室的射血分数(EF),并将其与从没有心脏病理的受试者的多个参考超声心动图图像得出的参考数据集进行比较。与参考数据集相比,射血分数显著降低,表明心力衰竭。因此,医生使用雷米普利(ACE抑制剂)疗程,初始剂量为每天1.25mg,在监督下逐渐增加至每天10mg。
作为可选的实例,使用如上所述的系统,医生得出患者心脏左心室的射血分数(EF),并将其与预定阈值参数进行比较。任选地,预定阈值参数从没有心脏病理的受试者的多个参考非造影超声心动图图像得出。任选地,在可选的实例中,预定阈值参数从没有心脏病理的受试者的多个参考造影超声心动图图像得出。另外地或可选地,在实例中,至少一个预定阈值参数从已知的医学定义的参数得出。与相应的阈值参数相比,射血分数显著降低,表明心力衰竭。因此,医生施用雷米普利(ACE抑制剂)疗程,初始剂量为每天1.25mg,在监督下逐渐增加至每天10mg。
将一系列连续的AI算法应用于图像处理问题,克服了传统超声心动图定量应用中存在的图像定量重现性差的问题。这导致提高效率(减少处理失败)和改善结局(在这种情况下使患者获益)。
为了说明这一点,针对执行常规图像处理方法(即手动切面、使用手动LV分割的周期和帧选择以及生理参数计算)的传统操作人员评估了所述实施方案的准确度和精度。收集的数据包括一系列数字成像和医学通信(DICOM)格式的视频,从不同角度(切面)可视化心脏。从整理的数据集中,上述方法被应用于使用心尖4腔(A4C)和心尖2腔(A2C)视频定量示例生理测量(射血分数(EF)和整体纵向应变(GLS))。此外,由合格的超声心动图医师(操作员)处理相同的上述数据用于左心室(LV)定量。使用由几个不同操作员多次处理的数据,我们比较了可重复性(定义为操作员通过重复处理相同的图像研究提供的测量差异)。从这项研究中,我们证明了自主顺序AI图像处理显著降低了LV功能的两个关键评估者:EF和GLS的变异性(图6)。这是通过在勾画心内膜边界时依靠完全自动化来实现的。
术语“神经网络”在本文中用于表示在一组数据上训练的网络。如果特定网络的一部分不依赖于网络的其余部分进行训练,则网络的该部分被视为“神经网络”,并且整个特定网络将包括两个(或更多个)“神经网络”。

Claims (13)

1.一种用于提供人心脏的参数的系统(100;200),所述系统包括:
具有输入和输出的第一经训练的神经网络(104;204),第一神经网络被布置成接收多个超声心动图图像并将所述超声心动图图像分类为至少包括二腔切面和四腔切面的至少两个不同切面中的一个;和
具有输入和输出的第二经训练的神经网络(112;224),第二神经网络被布置成接收来自所述二腔切面或所述四腔切面中的至少一个的图像并识别每个切面的左心室的心内膜边界;
第一响应者(118,120;230,232),其响应所述第二神经网络的输出以识别收缩末期和舒张末期图像;和
第二响应者(126;238,240,246),其响应所述收缩末期和舒张末期图像以得出所述心脏的参数。
2.如权利要求1所述的系统,进一步包括第三响应者(210,212),用于基于所述超声心动图图像的至少一个特征来识别合适的超声心动图图像以提供给第二神经网络。
3.如权利要求1或权利要求2所述的系统,其中所述第二响应者(126;246)被布置成组合所述左心室的二腔和四腔心内膜边界以得出基于容积的参数。
4.如权利要求1至3中任一项所述的系统,其中所述参数是射血分数。
5.如权利要求1至3中任一项所述的系统,其中所述参数是整体纵向应变。
6.如权利要求1或权利要求2所述的系统,其中所述参数是区域应变。
7.如权利要求6所述的系统,其中所述区域应变参数包括六个区域。
8.如权利要求1至7中任一项所述的系统,其中所述多个超声心动图图像包括多个非造影图像。
9.如前述权利要求中任一项所述的系统,其中所述多个超声心动图图像包括多个造影超声心动图图像。
10.一种训练如权利要求1至8中任一项所述的系统的方法,其中所述神经网络基于非造影数据进行训练。
11.一种训练如权利要求1至7或权利要求9中任一项所述的系统的方法,其中所述神经网络基于造影数据进行训练。
12.一种诊断心脏病理的方法,所述方法包括:
接收来自受试者的多个超声心动图图像;
使用根据权利要求1至9中任一项所述的系统分析所述多个超声心动图图像以得出所述心脏的参数;
将所述心脏的参数与至少一个预定阈值参数进行比较;以及
检测所述心脏的参数与所述至少一个预定阈值参数之间的差异,所述差异指示所述心脏病理。
13.一种治疗心脏病理的方法,所述方法包括:
接收来自受试者的多个超声心动图图像,使用根据权利要求1至9中任一项所述的系统分析所述多个超声心动图图像以得出所述心脏的参数;
将所述参数与至少一个阈值参数进行比较;
检测所述心脏的参数与所述至少一个预定阈值参数之间的差异,所述差异指示所述心脏病理,以及
向所述受试者施用治疗有效量的药物,所述药物减轻所述心脏病理的一种或更多种症状。
CN202180019306.XA 2020-03-06 2021-03-05 使用神经网络评估心脏参数 Pending CN115243619A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
GB2003347.8 2020-03-06
GBGB2003347.8A GB202003347D0 (en) 2020-03-06 2020-03-06 Neural network
GB2003346.0 2020-03-06
GBGB2003346.0A GB202003346D0 (en) 2020-03-06 2020-03-06 Neural network
PCT/GB2021/050563 WO2021176237A1 (en) 2020-03-06 2021-03-05 Assessing heart parameters using neural networks

Publications (1)

Publication Number Publication Date
CN115243619A true CN115243619A (zh) 2022-10-25

Family

ID=74870841

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180019306.XA Pending CN115243619A (zh) 2020-03-06 2021-03-05 使用神经网络评估心脏参数

Country Status (5)

Country Link
US (1) US20230104425A1 (zh)
EP (1) EP4114271A1 (zh)
JP (1) JP2023517318A (zh)
CN (1) CN115243619A (zh)
WO (1) WO2021176237A1 (zh)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201610269D0 (en) 2016-06-13 2016-07-27 Isis Innovation Image-based diagnostic systems
US11446009B2 (en) * 2018-12-11 2022-09-20 Eko.Ai Pte. Ltd. Clinical workflow to diagnose heart disease based on cardiac biomarker measurements and AI recognition of 2D and doppler modality echocardiogram images
WO2020121014A1 (en) * 2018-12-11 2020-06-18 Eko.Ai Pte. Ltd. Automatic clinical workflow that recognizes and analyzes 2d and doppler modality echocardiogram images for automatic cardiac measurements and the diagnosis, prediction and prognosis of heart disease

Also Published As

Publication number Publication date
JP2023517318A (ja) 2023-04-25
EP4114271A1 (en) 2023-01-11
WO2021176237A1 (en) 2021-09-10
US20230104425A1 (en) 2023-04-06

Similar Documents

Publication Publication Date Title
US7653227B2 (en) Hierarchical modeling in medical abnormality detection
EP1711908B1 (en) Systems and methods for automated diagnosis and decision support for heart related diseases and conditions
US9710907B2 (en) Diagnosis support system using panoramic radiograph and diagnosis support program using panoramic radiograph
US20060064017A1 (en) Hierarchical medical image view determination
US20050059876A1 (en) Systems and methods for providing automated regional myocardial assessment for cardiac imaging
CN111275755B (zh) 基于人工智能的二尖瓣瓣口面积检测方法、系统和设备
US11676280B2 (en) Automated right ventricle medical imaging and computation of clinical parameters
JP2022509155A (ja) 脳画像内の領域を特定するための装置
US20060247544A1 (en) Characterization of cardiac motion with spatial relationship
WO2021209887A1 (en) Rapid, accurate and machine-agnostic segmentation and quantification method and device for coronavirus ct-based diagnosis
Lucassen et al. Deep learning for detection and localization of B-lines in lung ultrasound
CN115243619A (zh) 使用神经网络评估心脏参数
US11995823B2 (en) Technique for quantifying a cardiac function from CMR images
Mehta et al. Heart Disease Diagnosis using Deep Learning
KR20220141218A (ko) 자동 알고리즘 기반의 확장성 심근병증 보조진단을 위한 의사결정 시스템
TW201419167A (zh) 動態心臟影像分析與心功能評估系統
WO2021152603A1 (en) System and method for classification of strain echocardiograms
US20240138817A1 (en) Systems and methods for automated image analysis
Vorberg et al. Detection of Pulmonary Embolisms in NCCT Data Using nnDetection
US11744542B2 (en) Method for evaluating movement state of heart
Wafa et al. Automatic delineation of left ventricle contours in MRI using deep learning
Ramos Analysis of medical images to support decision-making in the musculoskeletal field
US20220351854A1 (en) Application of artificial intelligence on detecting canine left atrial enlargement on thoracic radiographs
Nageswararao et al. A framework on automated ventricular analysis of CMR images
Yao et al. A Combination of Dilated Adversarial Convolutional Neural Network and Guided Active Contour Model for Left Ventricle Segmentation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: A. Bechri

Inventor after: A. Parker

Inventor after: J. A. Mummith

Inventor after: G. Woodward

Inventor after: D. Markham

Inventor after: R. Upton

Inventor before: A. Bechri

Inventor before: A. Parker

Inventor before: A. Mummith

Inventor before: G. Woodward

Inventor before: D. Markham

Inventor before: R. Upton

CB03 Change of inventor or designer information