CN111950388B - 一种易损性斑块跟踪识别系统及方法 - Google Patents

一种易损性斑块跟踪识别系统及方法 Download PDF

Info

Publication number
CN111950388B
CN111950388B CN202010712343.6A CN202010712343A CN111950388B CN 111950388 B CN111950388 B CN 111950388B CN 202010712343 A CN202010712343 A CN 202010712343A CN 111950388 B CN111950388 B CN 111950388B
Authority
CN
China
Prior art keywords
output
network
plaque
tracking
convolution layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010712343.6A
Other languages
English (en)
Other versions
CN111950388A (zh
Inventor
陈曼
黄芸谦
余锦华
李乐吟
朱雯倩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Tong Ren Hospital
Original Assignee
Shanghai Tong Ren Hospital
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Tong Ren Hospital filed Critical Shanghai Tong Ren Hospital
Priority to CN202010712343.6A priority Critical patent/CN111950388B/zh
Publication of CN111950388A publication Critical patent/CN111950388A/zh
Application granted granted Critical
Publication of CN111950388B publication Critical patent/CN111950388B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/48Matching video sequences
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0891Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/032Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Vascular Medicine (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明提供一种易损性斑块跟踪识别系统及方法,涉及医学影像识别技术领域,包括:数据采集模块,用于采集若干患者的颈动脉超声视频以及心脑血管危险因素信息;数据处理模块,用于对颈动脉超声视频中的各帧颈动脉超声图像依次进行标注得到颈动脉超声标注视频;数据训练模块,用于根据颈动脉超声标注视频和心脑血管危险因素信息作为输入数据训练得到斑块跟踪识别模型;斑块识别模块,用于将待识别患者的颈动脉超声视频以及心脑血管危险因素信息输入斑块跟踪识别模型,以在颈动脉超声视频播放过程中跟踪识别得到包含的斑块的标注框以及斑块是否为易损性斑块,以辅助医生对待识别患者进行易损性斑块评估。有益效果是大大提高易损性斑块的检出率。

Description

一种易损性斑块跟踪识别系统及方法
技术领域
本发明涉及医学影像识别技术领域,尤其涉及一种易损性斑块跟踪识别系统及方法。
背景技术
心脑血管疾病是危害全球百姓健康最严重的疾病之一,发病率、死亡率和致残率呈逐年上升趋势,防治工作刻不容缓。动脉粥样硬化斑块的突发破裂是引发心脑血管意外事件的主要原因,早期识别斑块破裂的风险至关重要。颈动脉作为最容易探查的大动脉之一,成为反应全身动脉系统健康状况的窗口。
临床上常用的影像学检查中,对斑块稳定性研究的探索主要基于血管内超声(Intravenous ultrasound,IVUS)、高分辨磁共振(High-resolution Magnetic ResonanceImaging,HR-MRI)、超声(Ultrasound,US)层面,但由于前两者检查费时昂贵,且IVUS为有创检查,均不能在临床得到广泛应用。US具有安全无辐射、价格低廉、便捷、实时观察病变等优点,是一线筛查的首选检查。利用常规对比增强超声(Contrast Enhanced Ultrasound)可以观察斑块的形态、回声、新生血管及内部溃疡情况,是评价斑块稳定性的重要手段。然而超声图像的判读对操作者依赖性较强,不同观察者间存在对图像认知不同的情况,对图像的判读存在较大差异。
随着模式识别工具的升级和训练用数据集的增加,医学影像领域的人工智能(Artificial Intelligence,AI)研究进展迅速。AI在医学影像领域的应用一个重要方式是通过深度学习算法对影像进行计算机视觉识别,通过影像数据和作为标签临床诊断数据进行训练,建立预测模型,使其进行智能诊断。近年来应用AI手段来分析患者颈动脉斑块的研究开展逐渐广泛,可进行更为细致的评估,不会出现操作者依赖的问题,能实现准确无误的智能化提取及识别图像。但这些网络及算法旨在探查和分割单个的超声图像,并且需要花费大量的时间进行手动标记识别,这对于临床应用而言具有很大的挑战性。
发明内容
针对现有技术中存在的问题,本发明提供一种易损性斑块跟踪识别系统,具体包括:
数据采集模块,用于采集若干患者的颈动脉超声视频,以及各所述患者的心脑血管危险因素信息;
数据处理模块,连接所述数据采集模块,用于对所述颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各所述颈动脉超声图像组成的颈动脉超声标注视频;
所述标签信息包括每帧所述颈动脉超声图像中包含的斑块的标注框以及所述斑块是否为易损性斑块;
数据训练模块,分别连接所述数据采集模块和所述数据处理模块,用于将所述颈动脉超声标注视频和对应的所述心脑血管危险因素信息作为输入数据,将所述标签信息作为输出数据,训练得到斑块跟踪识别模型;
斑块识别模块,连接所述数据训练模块,用于将获取到的待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块,以辅助医生对所述待识别患者进行易损性斑块评估。
优选的,所述斑块识别模块包括:
获取单元,用于获取所述待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息;
处理单元,连接所述获取单元,用于提取所述颈动脉超声视频中的第一帧超声图像,并对所述第一帧超声图像中的斑块的所在区域进行边缘识别;
识别单元,分别连接所述获取单元和所述处理单元,用于将所述心脑血管危险因素信息以及包含边缘识别结果的所述颈动脉超声视频输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块。
优选的,所述处理单元中,采用轴向对齐的一矩形框对所述第一帧超声图像中的所述斑块的所在区域进行框选作为所述边缘识别结果。
优选的,所述斑块跟踪识别模型采用全卷积SiamMask++神经网络构架。
优选的,所述全卷积SiamMask++神经网络构架的结构包括:
第一特征提取网络,所述第一特征提取网络的输入为所述颈动脉超声视频中的待识别的当前帧超声图像,所述第一特征提取网络的输出为对应的一第一特征图;
第二特征提取网络,所述第二特征提取网络的输入为包含跟踪识别结果的上一帧超声图像,所述第二特征提取网络的输出为对应的一第二特征图;
跟踪网络,分别连接所述第一特征提取网络和所述第二特征提取网络,所述跟踪网络的输出为所述当前帧超声图像中待跟踪斑块的识别结果,以及所述待跟踪斑块相对于所述上一帧超声图像的位置偏移结果;
反卷积网络,连接所述第二特征提取网络,所述第一特征图和所述第二特征图进行互相关后作为所述反卷积网络的输入,所述反卷积网络的输出依次经过一总卷积层和一激活函数后得到所述当前帧超声图像的跟踪识别结果。
优选的,所述第一特征提取网络和第二特征提取网络为孪生网络;
所述第一特征提取网络包括依次连接的第一卷积层、第二卷积层、第三卷积层、第四卷积层、第五卷积层,且所述第三卷积层的输出、所述第四卷积层的输出和所述第五卷积层的输出进行特征融合后经上采样得到所述第一特征图;
所述第二特征提取网络包括依次连接的第六卷积层、第七卷积层、第八卷积层、第九卷积层、第十卷积层,且所述第八卷积层的输出、所述第九卷积层的输出和所述第十卷积层的输出进行特征融合后经上采样得到所述第二特征图。
优选的,所述跟踪网络包括依次连接的第一跟踪子网络、第二跟踪子网络和第三跟踪子网络,所述第三卷积层的输出和所述第八卷积层的输出作为所述第一跟踪子网络的输入,所述第四卷积层的输出和所述第九卷积层的输出作为所述第二跟踪子网络的输入,所述第五卷积层的输出和所述第十卷积层的输出作为所述第三跟踪子网络的输入,所述第一跟踪子网络的输出、所述第二跟踪子网络的输出和第三跟踪子网络的输出进行线性加权处理后作为跟踪网络的输出。
优选的,所述第一跟踪子网络、第二跟踪子网络和第三跟踪子网络采用孪生位置建议网络。
优选的,所述反卷积网络包括:
第一反卷积层,所述第一特征图和所述第二特征图进行互相关作为第一反卷积层的输入;
第二反卷积层,所述第一反卷积层的输出和所述第八卷积层的输出进行特征融合后作为所述第二反卷积层的输入;
第三反卷积层,所述第二反卷积层的输出和所述第七卷积层的输出进行特征融合后作为所述第三反卷积层的输入;
第四反卷积层,所述第三反卷积层的输出和所述第六卷积层的输出进行特征融合后作为所述第四反卷积层的输入,所述第四反卷积层的输出作为所述总卷积层的输入。
一种易损性斑块跟踪识别方法,应用于上述任意一项所述的易损性斑块跟踪识别系统,所述易损性斑块跟踪识别方法具体包括以下步骤:
步骤S1,所述易损性斑块跟踪识别系统采集若干患者的颈动脉超声视频,以及各所述患者的心脑血管危险因素信息;
步骤S2,所述易损性斑块跟踪识别系统对所述颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各所述颈动脉超声图像组成的颈动脉超声标注视频;
所述标签信息包括每帧所述颈动脉超声图像中包含的斑块的标注框以及所述斑块是否为易损性斑块;
步骤S3,所述易损性斑块跟踪识别系统将所述颈动脉超声标注视频和对应的所述心脑血管危险因素信息作为输入数据,将所述标签信息作为输出数据,训练得到斑块跟踪识别模型;
步骤S4,所述易损性斑块跟踪识别系统将获取到的待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块,以辅助医生对所述待识别患者进行易损性斑块评估。
上述技术方案具有如下优点或有益效果:本发明结合心脑血管危险因素信息以及颈动脉超声视频建立斑块跟踪识别模型,能准确的检测出易损性斑块,大大提高易损性斑块的检出率,进而进一步实现降低居民的心脑血管疾病发病率、复发率、致残率和死亡率,有效遏制脑卒中的增长势头,对心脑血管疾病的预防、治疗起关键作用,具有极大的理论价值和临床意义。
附图说明
图1为本发明的较佳的实施例中,一种易损性斑块跟踪识别系统的结构示意图;
图2为本发明的较佳的实施例中,全卷积SiamMask++神经网络构架的结构示意图;
图3为本发明的较佳的实施例中,第一跟踪子网络的结构示意图;
图4为本发明的较佳的实施例中,特征融合网络的结构示意图;
图5为本发明的较佳的实施例中,一种易损性斑块跟踪识别方法的流程示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本发明并不限定于该实施方式,只要符合本发明的主旨,则其他实施方式也可以属于本发明的范畴。
本发明的较佳的实施例中,基于现有技术中存在的上述问题,现提供一种易损性斑块跟踪识别系统,如图1所示,具体包括:
数据采集模块1,用于采集若干患者的颈动脉超声视频,以及各患者的心脑血管危险因素信息;
数据处理模块2,连接数据采集模块1,用于对颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各颈动脉超声图像组成的颈动脉超声标注视频;
标签信息包括每帧颈动脉超声图像中包含的斑块的标注框以及斑块是否为易损性斑块;
数据训练模块3,分别连接数据采集模块1和数据处理模块2,用于将颈动脉超声标注视频和对应的心脑血管危险因素信息作为输入数据,将标签信息作为输出数据,训练得到斑块跟踪识别模型;
斑块识别模块4,连接数据训练模块3,用于将获取到的待识别患者的颈动脉超声视频以及对应的心脑血管危险因素信息输入斑块跟踪识别模型,以在颈动脉超声视频播放过程中跟踪识别得到包含的斑块的标注框以及斑块是否为易损性斑块,以辅助医生对待识别患者进行易损性斑块评估。
具体地,本实施例中,本发明整合心脑血管危险因素信息以及颈动脉斑块的影像学特征,并融入超声智能化AI技术,进一步加强颈动脉超声视频识别的智能化,在对斑块进行位置跟踪识别的同时能够对斑块是否为易损性斑块进行判定,大大提高易损性斑块的检出率。
进一步地,上述心脑血管危险因素信息包括但不限于对患者的吸烟史、饮酒史、高血压史、糖尿病史、脑卒中家族史、个人脑卒中史、个人心梗史、房颤/心瓣膜病史、血脂异常、呼吸暂停综合征、脂肪肝、缺乏锻炼等进行调研得到。作为优选的实施方式,在获取上述心脑血管危险因素信息后,可以对各项信息进行标准化处理,如在患者存在吸烟史时,将该项信息采用第一数值表示,在患者不存在吸烟史时,将该项信息采用第二数值表示,并将上述第一数值或第二数值加入一危险因素数据集,以此类推,在所有心脑血管危险因素信息处理完成后,将得到的危险因素数据集作为斑块跟踪识别模型的训练输入之一。
进一步地,在获取颈动脉超声视频后,需要对该颈动脉超声视频包含的各帧颈动脉超声图像进行标注,针对每帧颈动脉超声图像,医生采用标注框对其中的斑块进行框选,并根据颈动脉超声图像中记录的该斑块的大小、部位、形态、回声类型、血流特征、内部钙化情况等判断该斑块是否是易损性斑块,具体包括,观察斑块形态是否规则、观察斑块表面是否光整,有无存在溃疡、表面成角、有无存在切迹,观察斑块是否均匀,有无片状极低回声区,观察斑块内部钙化情况,是团状还是细点状钙化等,并将判断结果作为标签信息进行标注,在各帧颈动脉超声图像依次标注完成后组成颈动脉超声标注视频,作为斑块跟踪识别模型的训练输入之一。
作为优选的实施方式,在获取若干颈动脉超声标注视频和对应的心脑血管危险因素信息后,将上述数据随机分割成训练集和测试集,随后根据训练集中的各颈动脉超声标注视频和对应的心脑血管危险因素信息训练得到斑块跟踪识别模型。在训练完成后优选还包括根据测试集并采用循环交叉验证的方式检验上述得到的斑块跟踪识别模型的性能,并在验证结果不符合预期结果时对斑块跟踪识别模型进行修正,直至验证结果符合预期结果。
在训练得到斑块跟踪识别模型后,在获取待识别患者的颈动脉超声视频和对应的心脑血管危险因素信息后,将该颈动脉超声视频以及对应的心脑血管危险因素信息输入斑块跟踪识别模型,在颈动脉超声视频播放过程即能够实时查看到每帧超声图像中包含的斑块的标注框以及斑块是否为易损性斑块,无需医生逐帧进行斑块的位置识别及性质判定,能准确的检测出易损性斑块,大大提高易损性斑块的检出率的同时有效提升医生的工作效率。
本发明的较佳的实施例中,斑块识别模块4包括:
获取单元41,用于获取待识别患者的颈动脉超声视频以及对应的心脑血管危险因素信息;
处理单元42,连接获取单元41,用于提取颈动脉超声视频中的第一帧超声图像,并对第一帧超声图像中的斑块的所在区域进行边缘识别;
识别单元43,分别连接获取单元41和处理单元42,用于将心脑血管危险因素信息以及包含边缘识别结果的颈动脉超声视频输入斑块跟踪识别模型,以在颈动脉超声视频播放过程中跟踪识别得到包含的斑块的标注框以及斑块是否为易损性斑块。
本发明的较佳的实施例中,处理单元中,采用轴向对齐的一矩形框对第一帧超声图像中的斑块的所在区域进行框选作为边缘识别结果。
本发明的较佳的实施例中,斑块跟踪识别模型采用全卷积SiamMask++神经网络构架。
本发明的较佳的实施例中,如图2所示,全卷积SiamMask++神经网络构架的结构包括:
第一特征提取网络5,第一特征提取网络5的输入为颈动脉超声视频中的待识别的当前帧超声图像,第一特征提取网络5的输出为对应的一第一特征图;
第二特征提取网络6,第二特征提取网络6的输入为包含跟踪识别结果的上一帧超声图像,第二特征提取网络6的输出为对应的一第二特征图;
跟踪网络7,分别连接第一特征提取网络5和第二特征提取网络6,跟踪网络7的输出为当前帧超声图像中待跟踪斑块的识别结果,以及待跟踪斑块相对于上一帧超声图像的位置偏移结果;
反卷积网络8,连接第二特征提取网络6,第一特征图和第二特征图进行互相关后作为反卷积网络8的输入,反卷积网络8的输出依次经过一总卷积层9和一激活函数10后得到当前帧超声图像的跟踪识别结果。
本发明的较佳的实施例中,第一特征提取网络5和第二特征提取网络6为孪生网络;
第一特征提取网络5包括依次连接的第一卷积层51、第二卷积层52、第三卷积层53、第四卷积层54、第五卷积层55,且第三卷积层53的输出、第四卷积层54的输出和第五卷积层55的输出进行特征融合后经上采样56得到第一特征图;
第二特征提取网络6包括依次连接的第六卷积层61、第七卷积层62、第八卷积层63、第九卷积层64、第十卷积层65,且第八卷积层63的输出、第九卷积层64的输出和第十卷积层65的输出进行特征融合后经上采样66得到第二特征图。
作为优选的实施方式,作为第一卷积层51的输入的当前帧超声图像的像素尺寸为255*255*3,经第一卷积层51处理后得到像素尺寸为125*125*64的特征图,随后经第二卷积层52处理后得到像素尺寸为63*63*256的特征图,随后经第三卷积层53处理后得到像素尺寸为31*31*512的特征图,随后经第四卷积层54处理后得到像素尺寸为31*31*1024的特征图,随后经第五卷积层55处理后得到像素尺寸为31*31*2048的特征图,最后将第三卷积层53的输出、第四卷积层54的输出和第五卷积层55的输出进行特征融合后经上采样56得到像素尺寸为31*31*256的第一特征图。
作为第六卷积层61的输入的包含跟踪识别结果的上一帧超声图像的像素尺寸为127*127*3,经第六卷积层61处理后得到像素尺寸为61*61*64的特征图,随后经第七卷积层62处理后得到像素尺寸为31*31*256的特征图,随后经第八卷积层63处理后得到像素尺寸为15*15*512的特征图,随后经第九卷积层64处理后得到像素尺寸为15*15*1024的特征图,随后经第十卷积层65处理后得到像素尺寸为15*15*2048的特征图,最后将第八卷积层63的输出、第九卷积层64的输出和第十卷积层65的输出进行特征融合后经上采样66得到像素尺寸为15*15*256的第二特征图。
本发明的较佳的实施例中,跟踪网络7包括依次连接的第一跟踪子网络71、第二跟踪子网络72和第三跟踪子网络73,第三卷积层53的输出和第八卷积层63的输出作为第一跟踪子网络71的输入,第四卷积层54的输出和第九卷积层64的输出作为第二跟踪子网络72的输入,第五卷积层55的输出和第十卷积层65的输出作为第三跟踪子网络73的输入,第一跟踪子网络71的输出、第二跟踪子网络72的输出和第三跟踪子网络73的输出进行线性加权处理后作为跟踪网络7的输出。
本发明的较佳的实施例中,第一跟踪子网络71、第二跟踪子网络72和第三跟踪子网络73采用孪生位置建议网络。
具体地,本实施例中,上述孪生位置建议网络为Siamese RPN网络,以第一跟踪子网络71为例,如图3所示,其结构包括一第十一卷积层711、一第十二卷积层712、一第十三卷积层713和一第十四卷积层714,第三卷积层53的输出分别作为第十一卷积层711的输入和第十三卷积层713的输入,第八卷积层64的输出分别作为第十二卷积层712的输入和第十四卷积层714的输入,第十一卷积层711的输出和第十二卷积层712的输出连接一第一深度可分离相关层715,经所述第一深度可分离相关层715处理后得到第一识别结果,第十三卷积层713的输出和第十四卷积层714的输出连接一第二深度可分离相关层716,经所述第二深度可分离相关层716处理后得到第一位置偏移结果。
第二跟踪子网络72和第三跟踪子网络73与第一跟踪子网络71结构相同,第二跟踪子网络72对应输出一第二识别结果和一第二位置偏移结果,第三跟踪子网络73对应输出一第三识别结果和一第三位置偏移结果,将第一识别结果、第二识别结果和第三识别结果进行线性加权处理后得到跟踪网络7输出的识别记过,将第一位置偏移结果、第二位置偏移结果和第三位置偏移结果进行线性加权处理后得到跟踪网络7输出的位置偏移结果。
本发明的较佳的实施例中,反卷积网络8包括:
第一反卷积层81,第一特征图和第二特征图进行互相关作为第一反卷积层的输入;
第二反卷积层82,第一反卷积层81的输出和第八卷积层63的输出进行特征融合后作为第二反卷积层82的输入;
第三反卷积层83,第二反卷积层82的输出和第七卷积层62的输出进行特征融合后作为第三反卷积层83的输入;
第四反卷积层84,第三反卷积层83的输出和第六卷积层61的输出进行特征融合后作为第四反卷积层84的输入,第四反卷积层84的输出作为总卷积层9的输入。
作为优选的实施方式,像素尺寸为31*31*256的第一特征图和像素尺寸为15*15*256的第二特征图进行互相关后得到像素尺寸为17*17*256的特征图,随后根据跟踪网络7输出的识别结果中选取该特征图中识别得分最高的一个窗口ROW输入第一反卷积层81,得到像素尺寸为15*15*32的特征图,随后该特征图与第八卷积层63输出的特征图进行特征融合后经第二反卷积层82处理得到像素尺寸为31*31*16的特征图,随后该特征图与第七卷积层62输出的特征图进行特征融合后经第三反卷积层83处理得到像素尺寸为61*61*8的特征图,随后该特征图与第六卷积层61输出的特征图进行特征融合后经第四反卷积层84处理得到像素尺寸为127*127*4的特征图,最后经卷积核为3*3,通道数为1的总卷积层9处理后送入Sigmoid激活函数10后得到像素尺寸为127*127*1的特征图作为当前帧超声图像的跟踪识别结果。
上述特征融合过程采用一特征融合网络,如图4所示,该特征融合网络包括:一第一卷积块20和一第二卷积块30,所述第一卷积块20的输出和所述第二卷积块的输出依次连接一特征融合层40、一第一激活函数34、一上采样层42,上述第一激活函数为ReLU激活函数。上述第一卷积块20包括依次连接的第十五卷积层200、第十六卷积层201、和第十七卷积层202,且每个卷积层后均连接一第二激活函数203,最后一个第二激活函数203的输出作为第一卷积块20的输出。上述第二卷积块30包括依次连接的第十八卷积层301、第三激活函数302和第十九卷积层303。
上述第十五卷积层200的卷积核为3*3,通道数为64;上述第十六卷积层201的卷积核为3*3,通道数为32;上述第十七卷积层202的卷积核为3*3,通道数为16;上述第二激活函数为ReLU激活函数。
上述第十八卷积层301的卷积核为3*3,通道数为16,上述第十九卷积层302的卷积核为3*3,通道数为16,上述第三激活函数为ReLU激活函数。
以像素尺寸为61*61*8的特征图与第六卷积层61输出的特征图进行特征融合为例,第六卷积层61输出的像素尺寸为61*61*64的特征图作为第一卷积块20的输入,像素尺寸为61*61*8的特征图作为第二卷积块30的输入,由上采样层42输出特征融合结果。
一种易损性斑块跟踪识别方法,应用于上述任意一项的易损性斑块跟踪识别系统,如图5所示,易损性斑块跟踪识别方法具体包括以下步骤:
步骤S1,易损性斑块跟踪识别系统采集若干患者的颈动脉超声视频,以及各患者的心脑血管危险因素信息;
步骤S2,易损性斑块跟踪识别系统对颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各颈动脉超声图像组成的颈动脉超声标注视频;
标签信息包括每帧颈动脉超声图像中包含的斑块的标注框以及斑块是否为易损性斑块;
步骤S3,易损性斑块跟踪识别系统将颈动脉超声标注视频和对应的心脑血管危险因素信息作为输入数据,将标签信息作为输出数据,训练得到斑块跟踪识别模型;
步骤S4,易损性斑块跟踪识别系统将获取到的待识别患者的颈动脉超声视频以及对应的心脑血管危险因素信息输入斑块跟踪识别模型,以在颈动脉超声视频播放过程中跟踪识别得到包含的斑块的标注框以及斑块是否为易损性斑块,以辅助医生对待识别患者进行易损性斑块评估。
以上所述仅为本发明较佳的实施例,并非因此限制本发明的实施方式及保护范围,对于本领域技术人员而言,应当能够意识到凡运用本说明书及图示内容所作出的等同替换和显而易见的变化所得到的方案,均应当包含在本发明的保护范围内。

Claims (4)

1.一种易损性斑块跟踪识别系统,其特征在于,具体包括:
数据采集模块,用于采集若干患者的颈动脉超声视频,以及各所述患者的心脑血管危险因素信息;
数据处理模块,连接所述数据采集模块,用于对所述颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各所述颈动脉超声图像组成的颈动脉超声标注视频;
所述标签信息包括每帧所述颈动脉超声图像中包含的斑块的标注框以及所述斑块是否为易损性斑块;
数据训练模块,分别连接所述数据采集模块和所述数据处理模块,用于将所述颈动脉超声标注视频和对应的所述心脑血管危险因素信息作为输入数据,将所述标签信息作为输出数据,训练得到斑块跟踪识别模型;
斑块识别模块,连接所述数据训练模块,用于将获取到的待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块,以辅助医生对所述待识别患者进行易损性斑块评估;
所述斑块跟踪识别模型采用全卷积SiamMask++神经网络构架,所述全卷积SiamMask++神经网络构架的结构包括:
第一特征提取网络,所述第一特征提取网络的输入为所述颈动脉超声视频中的待识别的当前帧超声图像,所述第一特征提取网络的输出为对应的一第一特征图;
第二特征提取网络,所述第二特征提取网络的输入为包含跟踪识别结果的上一帧超声图像,所述第二特征提取网络的输出为对应的一第二特征图;
跟踪网络,分别连接所述第一特征提取网络和所述第二特征提取网络,所述跟踪网络的输出为所述当前帧超声图像中待跟踪斑块的识别结果,以及所述待跟踪斑块相对于所述上一帧超声图像的位置偏移结果;
反卷积网络,连接所述第二特征提取网络,所述第一特征图和所述第二特征图进行互相关后作为所述反卷积网络的输入,所述反卷积网络的输出依次经过一总卷积层和一激活函数后得到所述当前帧超声图像的跟踪识别结果;
所述第一特征提取网络和第二特征提取网络为孪生网络;
所述第一特征提取网络包括依次连接的第一卷积层、第二卷积层、第三卷积层、第四卷积层、第五卷积层,且所述第三卷积层的输出、所述第四卷积层的输出和所述第五卷积层的输出进行特征融合后经上采样得到所述第一特征图;
所述第二特征提取网络包括依次连接的第六卷积层、第七卷积层、第八卷积层、第九卷积层、第十卷积层,且所述第八卷积层的输出、所述第九卷积层的输出和所述第十卷积层的输出进行特征融合后经上采样得到所述第二特征图;
所述跟踪网络包括第一跟踪子网络、第二跟踪子网络和第三跟踪子网络,所述第三卷积层的输出和所述第八卷积层的输出作为所述第一跟踪子网络的输入,所述第四卷积层的输出和所述第九卷积层的输出作为所述第二跟踪子网络的输入,所述第五卷积层的输出和所述第十卷积层的输出作为所述第三跟踪子网络的输入,所述第一跟踪子网络的输出、所述第二跟踪子网络的输出和所述第三跟踪子网络的输出进行线性加权处理后作为所述跟踪网络的输出;
所述第一跟踪子网络、第二跟踪子网络和第三跟踪子网络采用孪生位置建议网络;
所述反卷积网络包括:
第一反卷积层,所述第一特征图和所述第二特征图进行互相关作为第一反卷积层的输入;
第二反卷积层,所述第一反卷积层的输出和所述第八卷积层的输出进行特征融合后作为所述第二反卷积层的输入;
第三反卷积层,所述第二反卷积层的输出和所述第七卷积层的输出进行特征融合后作为所述第三反卷积层的输入;
第四反卷积层,所述第三反卷积层的输出和所述第六卷积层的输出进行特征融合后作为所述第四反卷积层的输入,所述第四反卷积层的输出作为所述总卷积层的输入。
2.根据权利要求1所述的易损性斑块跟踪识别系统,其特征在于,所述斑块识别模块包括:
获取单元,用于获取所述待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息;
处理单元,连接所述获取单元,用于提取所述颈动脉超声视频中的第一帧超声图像,并对所述第一帧超声图像中的斑块的所在区域进行边缘识别;
识别单元,分别连接所述获取单元和所述处理单元,用于将所述心脑血管危险因素信息以及包含边缘识别结果的所述颈动脉超声视频输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块。
3.根据权利要求2所述的易损性斑块跟踪识别系统,其特征在于,所述处理单元中,采用轴向对齐的一矩形框对所述第一帧超声图像中的所述斑块的所在区域进行框选作为所述边缘识别结果。
4.一种易损性斑块跟踪识别方法,其特征在于,应用于如权利要求1-3中任意一项所述的易损性斑块跟踪识别系统,所述易损性斑块跟踪识别方法具体包括以下步骤:
步骤S1,所述易损性斑块跟踪识别系统采集若干患者的颈动脉超声视频,以及各所述患者的心脑血管危险因素信息;
步骤S2,所述易损性斑块跟踪识别系统对所述颈动脉超声视频中的各帧颈动脉超声图像依次进行标注,得到标注标签信息的各所述颈动脉超声图像组成的颈动脉超声标注视频;
所述标签信息包括每帧所述颈动脉超声图像中包含的斑块的标注框以及所述斑块是否为易损性斑块;
步骤S3,所述易损性斑块跟踪识别系统将所述颈动脉超声标注视频和对应的所述心脑血管危险因素信息作为输入数据,将所述标签信息作为输出数据,训练得到斑块跟踪识别模型;
步骤S4,所述易损性斑块跟踪识别系统将获取到的待识别患者的所述颈动脉超声视频以及对应的所述心脑血管危险因素信息输入所述斑块跟踪识别模型,以在所述颈动脉超声视频播放过程中跟踪识别得到包含的所述斑块的所述标注框以及所述斑块是否为易损性斑块,以辅助医生对所述待识别患者进行易损性斑块评估;
其中,所述斑块跟踪识别模型采用全卷积SiamMask++神经网络构架,所述全卷积SiamMask++神经网络构架的结构包括:
第一特征提取网络,所述第一特征提取网络的输入为所述颈动脉超声视频中的待识别的当前帧超声图像,所述第一特征提取网络的输出为对应的一第一特征图;
第二特征提取网络,所述第二特征提取网络的输入为包含跟踪识别结果的上一帧超声图像,所述第二特征提取网络的输出为对应的一第二特征图;
跟踪网络,分别连接所述第一特征提取网络和所述第二特征提取网络,所述跟踪网络的输出为所述当前帧超声图像中待跟踪斑块的识别结果,以及所述待跟踪斑块相对于所述上一帧超声图像的位置偏移结果;
反卷积网络,连接所述第二特征提取网络,所述第一特征图和所述第二特征图进行互相关后作为所述反卷积网络的输入,所述反卷积网络的输出依次经过一总卷积层和一激活函数后得到所述当前帧超声图像的跟踪识别结果;
所述第一特征提取网络和第二特征提取网络为孪生网络;
所述第一特征提取网络包括依次连接的第一卷积层、第二卷积层、第三卷积层、第四卷积层、第五卷积层,且所述第三卷积层的输出、所述第四卷积层的输出和所述第五卷积层的输出进行特征融合后经上采样得到所述第一特征图;
所述第二特征提取网络包括依次连接的第六卷积层、第七卷积层、第八卷积层、第九卷积层、第十卷积层,且所述第八卷积层的输出、所述第九卷积层的输出和所述第十卷积层的输出进行特征融合后经上采样得到所述第二特征图;
所述跟踪网络包括第一跟踪子网络、第二跟踪子网络和第三跟踪子网络,所述第三卷积层的输出和所述第八卷积层的输出作为所述第一跟踪子网络的输入,所述第四卷积层的输出和所述第九卷积层的输出作为所述第二跟踪子网络的输入,所述第五卷积层的输出和所述第十卷积层的输出作为所述第三跟踪子网络的输入,所述第一跟踪子网络的输出、所述第二跟踪子网络的输出和所述第三跟踪子网络的输出进行线性加权处理后作为所述跟踪网络的输出;
所述第一跟踪子网络、第二跟踪子网络和第三跟踪子网络采用孪生位置建议网络;
所述反卷积网络包括:
第一反卷积层,所述第一特征图和所述第二特征图进行互相关作为第一反卷积层的输入;
第二反卷积层,所述第一反卷积层的输出和所述第八卷积层的输出进行特征融合后作为所述第二反卷积层的输入;
第三反卷积层,所述第二反卷积层的输出和所述第七卷积层的输出进行特征融合后作为所述第三反卷积层的输入;
第四反卷积层,所述第三反卷积层的输出和所述第六卷积层的输出进行特征融合后作为所述第四反卷积层的输入,所述第四反卷积层的输出作为所述总卷积层的输入。
CN202010712343.6A 2020-07-22 2020-07-22 一种易损性斑块跟踪识别系统及方法 Active CN111950388B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010712343.6A CN111950388B (zh) 2020-07-22 2020-07-22 一种易损性斑块跟踪识别系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010712343.6A CN111950388B (zh) 2020-07-22 2020-07-22 一种易损性斑块跟踪识别系统及方法

Publications (2)

Publication Number Publication Date
CN111950388A CN111950388A (zh) 2020-11-17
CN111950388B true CN111950388B (zh) 2024-04-05

Family

ID=73340162

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010712343.6A Active CN111950388B (zh) 2020-07-22 2020-07-22 一种易损性斑块跟踪识别系统及方法

Country Status (1)

Country Link
CN (1) CN111950388B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113499099A (zh) * 2021-07-21 2021-10-15 上海市同仁医院 一种颈动脉超声自动扫查及斑块识别系统及方法
CN114052794B (zh) * 2021-10-13 2022-09-13 山东大学 一种基于多模态信息的颈动脉超声报告生成系统
CN114469174A (zh) * 2021-12-17 2022-05-13 上海深至信息科技有限公司 一种基于超声扫查视频的动脉斑块识别方法及系统
KR20230153166A (ko) * 2022-04-28 2023-11-06 가톨릭대학교 산학협력단 초음파 이미지 분석 장치 및 방법
CN117036480B (zh) * 2023-08-17 2024-06-04 脉得智能科技(无锡)有限公司 一种颈动脉斑块定位方法、检测方法、装置及电子设备
CN118071750B (zh) * 2024-04-22 2024-07-09 中国医学科学院北京协和医院 股动脉穿刺超声影像实时处理方法、装置及工作方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104382616A (zh) * 2014-09-28 2015-03-04 安华亿能医疗影像科技(北京)有限公司 颈动脉三维图像构建装置
WO2015142808A1 (en) * 2014-03-17 2015-09-24 Arizona Board Of Regents On Behalf Of Arizona State University System and method for measuring artery thickness using ultrasound imaging
CN110210551A (zh) * 2019-05-28 2019-09-06 北京工业大学 一种基于自适应主体敏感的视觉目标跟踪方法
CN110310271A (zh) * 2019-07-01 2019-10-08 无锡祥生医疗科技股份有限公司 颈动脉斑块的性质判别方法、存储介质及超声装置
CN110543912A (zh) * 2019-09-02 2019-12-06 李肯立 自动获取胎儿关键切面超声视频中心动周期视频的方法
CN110584714A (zh) * 2019-10-23 2019-12-20 无锡祥生医疗科技股份有限公司 超声融合成像方法、超声装置及存储介质
CN111265252A (zh) * 2020-02-25 2020-06-12 上海市同仁医院 一种评估动脉粥样硬化斑块稳定性的方法
CN111311647A (zh) * 2020-01-17 2020-06-19 长沙理工大学 一种基于全局-局部及卡尔曼滤波的目标跟踪方法及装置
CN111429482A (zh) * 2020-03-19 2020-07-17 上海眼控科技股份有限公司 目标跟踪方法、装置、计算机设备和存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10671855B2 (en) * 2018-04-10 2020-06-02 Adobe Inc. Video object segmentation by reference-guided mask propagation

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015142808A1 (en) * 2014-03-17 2015-09-24 Arizona Board Of Regents On Behalf Of Arizona State University System and method for measuring artery thickness using ultrasound imaging
CN104382616A (zh) * 2014-09-28 2015-03-04 安华亿能医疗影像科技(北京)有限公司 颈动脉三维图像构建装置
CN110210551A (zh) * 2019-05-28 2019-09-06 北京工业大学 一种基于自适应主体敏感的视觉目标跟踪方法
CN110310271A (zh) * 2019-07-01 2019-10-08 无锡祥生医疗科技股份有限公司 颈动脉斑块的性质判别方法、存储介质及超声装置
CN110543912A (zh) * 2019-09-02 2019-12-06 李肯立 自动获取胎儿关键切面超声视频中心动周期视频的方法
CN110584714A (zh) * 2019-10-23 2019-12-20 无锡祥生医疗科技股份有限公司 超声融合成像方法、超声装置及存储介质
CN111311647A (zh) * 2020-01-17 2020-06-19 长沙理工大学 一种基于全局-局部及卡尔曼滤波的目标跟踪方法及装置
CN111265252A (zh) * 2020-02-25 2020-06-12 上海市同仁医院 一种评估动脉粥样硬化斑块稳定性的方法
CN111429482A (zh) * 2020-03-19 2020-07-17 上海眼控科技股份有限公司 目标跟踪方法、装置、计算机设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SIAMATSN: Real-Time Carotid Plaque Tracking and Segmentation of Ultrasonic Videos;Leyin Li 等;《2021 IEEE 18th International Symposium on Biomedical Imaging》;1259-1263 *
SiamRPN++: Evolution of Siamese Visual Tracking With Very Deep Networks;Bo Li 等;《2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition》;4277-4286 *

Also Published As

Publication number Publication date
CN111950388A (zh) 2020-11-17

Similar Documents

Publication Publication Date Title
CN111950388B (zh) 一种易损性斑块跟踪识别系统及方法
CN110934606B (zh) 脑卒中早期平扫ct图像评估系统及评估方法、可读存储介质
CN111227864B (zh) 使用超声图像利用计算机视觉进行病灶检测的装置
US11633169B2 (en) Apparatus for AI-based automatic ultrasound diagnosis of liver steatosis and remote medical diagnosis method using the same
KR102698916B1 (ko) 초음파 분석을 위한 시스템, 방법 및 컴퓨터-접근가능 매체
US8805051B2 (en) Image processing and machine learning for diagnostic analysis of microcirculation
CN111310851A (zh) 一种人工智能超声辅助系统及其应用
CN110772286A (zh) 一种基于超声造影识别肝脏局灶性病变的系统
Li et al. Fully convolutional networks for ultrasound image segmentation of thyroid nodules
CN115281688A (zh) 一种基于多模态深度学习的心脏肥大多标签检测系统
CN112767374A (zh) 基于mri的阿尔茨海默症病灶区域语义分割算法
CN117197594B (zh) 一种基于深度神经网络的心脏分流分类系统
Stoean et al. Deep learning for the detection of frames of interest in fetal heart assessment from first trimester ultrasound
CN118173270A (zh) 患者术后感染风险评估系统及方法
CN112884759B (zh) 一种乳腺癌腋窝淋巴结转移状态的检测方法及相关装置
CN113658700A (zh) 一种基于机器学习的门脉高压无创评估方法及系统
CN112308888A (zh) 基于深度学习体征结构的全模态医学影像序列分组方法
CN116934683A (zh) 人工智能辅助超声诊断脾创伤的方法
Bartoli et al. Model-based analysis of flow-mediated dilation and intima-media thickness
Mani Deep learning models for semantic multi-modal medical image segmentation
CN113689469A (zh) 一种自动识别超声造影小肝癌病灶的方法及超声系统
CN113710166A (zh) 一种颈动脉超声诊断系统
Mi et al. Detecting carotid intima-media from small-sample ultrasound images
CN117036302B (zh) 主动脉瓣膜钙化程度的确定方法和系统
CN116863469B (zh) 一种基于深度学习的手术解剖部位识别标注方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant