CN110021014A - 基于神经网络的神经组织识别方法、系统及存储介质 - Google Patents
基于神经网络的神经组织识别方法、系统及存储介质 Download PDFInfo
- Publication number
- CN110021014A CN110021014A CN201910246805.7A CN201910246805A CN110021014A CN 110021014 A CN110021014 A CN 110021014A CN 201910246805 A CN201910246805 A CN 201910246805A CN 110021014 A CN110021014 A CN 110021014A
- Authority
- CN
- China
- Prior art keywords
- profile
- perineural
- neural network
- ultrasound image
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Processing (AREA)
Abstract
本发明涉及超声检查技术领域,具体公开了一种基于神经网络的神经组织识别方法。识别方法包括:获取周围神经的超声图像或视频;通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取周围神经的动态信息。本发明还公开了一种基于神经网络的神经组织识别系统及存储神经组织识别方法的存储介质。本发明使用训练后的神经网络模型自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。提高了识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
Description
技术领域
本发明涉及超声检查技术领域,尤其涉及一种基于神经网络的神经组织识别方法、基于神经网络的神经组织识别系统及计算机存储介质。
背景技术
采用超声观察周围神经病变并作出诊断,是近年来发展的一项新的临床研究和应用。随着高频超声仪器和诊断技术不断发展,超声检查不仅能显示周围神经病变的不同形态、走行、神经水肿、增粗、神经连续性中断、损伤区病变回声,而且也可观察两个断端间距、神经卡压部位、受压程度、有无神经性肿瘤和创伤性神经瘤形成。对指导临床手术有一定参考价值,但是目前在使用超声设备检查患者各个部位神经进行检查时,由于机器成图质量受机器参数设置,探头检查时角度,以及医生经验等影响,导致在实时检查病人过程中,难以快速识别图像上出现的神经和病灶;而且由于超声科医生的每天繁重的工作量,受体力情绪等因素影响,难以发挥出最好的工作效率。
传统的方法对于周围神经的检测和识别大多依据其高低回声的变化规律,针对不同神经的特征做单独分析处理,譬如计算其边缘特征,横径和截面积,形态轮廓特征等,受限于人体组织的变化不一,不同部位的神经特征大都不一致,而且大都与周围软组织界限不清楚,医生不能对周围神经进行快速识别。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一,提供一种基于神经网络的神经组织识别方法、基于神经网络的神经组织识别系统及计算机存储介质,以解决现有技术中的问题。
作为本发明的第一个方面,提供一种基于神经网络的神经组织识别方法,包括:
获取周围神经的超声图像或视频;
通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;
根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取周围神经的动态信息。
进一步地,周围神经的动态信息至少包括:实时位置信息和实时形态信息。
进一步地,根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经包括:
高亮显示识别的周围神经轮廓;和/或
高亮显示识别的周围神经轮廓的内部区域;
根据高亮显示的周围神经轮廓和/或高亮显示的周围神经轮廓的内部区域实时跟踪周围神经。
进一步地,根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经还包括:
对超声图像或视频中的周围神经的位置和大小按照拉普拉斯分布做增强处理。
进一步地,在通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓后,还包括:
重建周围神经的轮廓。
进一步地,重建周围神经的轮廓包括:
计算训练后的神经网络模型对周围神经的超声图像或视频处理后识别到的所有周围神经的轮廓的面积;
删除轮廓的面积小于预设面积的周围神经;
将满足轮廓的面积不小于预设面积的周围神经的轮廓根据预设特征向量映射到子空间中;
根据预设特征向量重建周围神经的轮廓。
进一步地,预设特征向量的获取包括:
对多个已勾勒出轮廓的同一类型的神经组织进行降维处理以获得该类型神经组织的不同轮廓的共性部分;
将同一类型神经组织的不同轮廓的共性部分定义为预设特征向量。
进一步地,其特征在于,训练后的神经网络模型为卷积神经网络模型,卷积神经网络模型包括:
第一卷积神经网络模型,第一卷积神经网络模型用于识别周围神经的超声图像或视频中的周围神经的类型,并对识别后的周围神经的类型进行标注;
第二卷积神经网络模型,第二卷积神经网络模型用于提取周围神经的超声图像或视频中的周围神经的轮廓,并对提取后的周围神经的轮廓进行勾勒。
作为本发明的第二个方面,提供一种基于神经网络的神经组织识别系统,其中,基于神经网络的神经组织识别系统包括:
获取模块,所述获取模块用于获取周围神经的超声图像或视频;
处理器,通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;以及根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取所述周围神经的动态信息;
显示器,用于显示超声图像或视频中周围神经的类型以及动态信息。
作为本发明的第三个方面,提供一种计算机存储介质,其中,计算机存储介质用于存储执行前文的基于神经网络的神经组织识别方法的程序。
本发明的优点是:本发明使用训练后的神经网络模型对获取的超声图像或视频进行处理,能够自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。提高了超声图像识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
进一步地,本发明能够显示周围神经的实时位置信息和实时形态信息,使医护人员获得连续性的周围神经的动态信息,提高医生的效率。
进一步地,本发明在根据识别的周围神经轮廓后能够通过高亮显示的方法,使识别出的周围神经区别于超声图像或视频中的其它组织,自动化程度高,能够提高医护人员的工作效率。
进一步地,本发明还通过对识别出的周围神经轮廓进行重建,提高识别的准确度。
进一步地,本发明还提供了一种基于神经网络的神经组织识别系统,通过处理器自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。提高了超声图像识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
附图说明
附图是用来提供对本发明的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明,但并不构成对本发明的限制。在附图中:
图1为本发明的神经组织识别系统的结构示意图。
图2为本发明的神经组织识别系统的一实施例的结构示意图。
图3为本发明的神经组织识别系统的另一实施例的结构示意图。
图4为本发明的神经组织识别系统的另一实施例的结构示意图。
图5为本发明的神经组织识别系统的另一实施例的结构示意图。
图6为本发明的神经组织识别系统的训练后的神经网络模型的结构示意图。
图7为本发明的第一卷积神经网络模型的识别的示意图。
图8为本发明的第二卷积神经网络模型识别的一实施例示意图。
图9为本发明的神经组织识别方法的流程示意图。
图10为本发明的重建神经轮廓的流程示意图。
图11为本发明的神经轮廓处理前的示意图。
图12为本发明的神经轮廓处理后的示意图。
具体实施方式
以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明,并不用于限制本发明。
在医护人员使用超声设备对检查患者各个部位神经进行检查时,由于机器成图质量受机器参数设置,探头检查时角度,以及医护人员经验等影响,导致在实时检查病人过程中,难以通过医生的经验快速识别图像上出现的神经和病灶;而且由于医护人员的每天繁重的工作量,受体力情绪等因素影响,难以发挥出最好的工作效率。
作为本发明的第一个方面,提供一种基于神经网络的神经组织识别系统,能够自动识别超声图像或视频中的周围神经类型、轮廓以及动态信息。如图1所示,基于神经网络的神经组织识别系统包括获取模块110、处理器120和显示器130。本实施例的获取模块用于获取周围神经的超声图像或视频。获取模块110将获取的超声图像或视频传输给处理器120进行处理,处理器120通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取周围神经的动态信息。显示器130用于显示超声图像或视频中周围神经的类型以及动态信息。
本实施例的识别系统通过处理器自动识别周围神经的类型以及轮廓,周围神经的类型为臂丛神经、正中神经或者尺神经等。需要理解的是,其它非周围神经组织也可以通过本发明的识别系统进行识别。本发明使用训练后的神经网络模型对获取的超声图像或视频进行处理,能够自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。周围神经的动态信息至少包括实时位置信息和实时形态信息,可以观察周围神经的损伤部位、形态及其连续性,解决了因为形态和位置的变化导致传统跟踪方法失效的问题,传统的方法对于周围神经的检测和识别大多依据其高低回声的变化规律,针对不同神经的特征做单独分析处理,发生运动后周围神经的界限不清楚。提高了超声图像识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
本发明的一个实施例中,如图2所示,本实施例的获取模块110为超声成像设备,即通过超声成像设备获取超声图像或视频。如图2所示,超声成像设备至少包括换能器101、超声主机102、输入单元103、控制单元104、和存储器105。超声成像设备可以包括显示屏(图中未标出),超声成像设备的显示屏可以为识别系统的显示器130。换能器101用于发射和接收超声波,换能器101受发射脉冲的激励,向目标组织(例如,人体或者动物体内的器官、组织、血管等等)发射超声波,经一定延时后接收从目标区域反射回来的带有目标组织的信息的超声回波,并将此超声回波重新转换为电信号,以获得超声图像或者视频。换能器101可以通过有线或无线的方式连接到超声主机102。
输入单元103用于输入操作人员的控制指令。输入单元103可以为键盘、跟踪球、鼠标、触摸面板、手柄、拨盘、操纵杆以及脚踏开关中的至少一个。输入单元也可以输入非接触型信号,例如声音、手势、视线或脑波信号。
控制单元104至少可以控制焦点信息、驱动频率信息、驱动电压信息以及成像模式等扫描信息。控制单元104根据用户所需成像模式的不同,对信号进行不同的处理,获得不同模式的超声图像数据,然后经对数压缩、动态范围调整、数字扫描变换等处理形成不同模式的超声图像,如B图像,C图像,D图像,多普勒血流图像,包含组织弹性特性的弹性图像等等,或者其他类型的二维超声图像或三维超声图像。
显示器130用于显示来超声图像数据、参数、超声图像或视频中周围神经的类型以及动态信息等信息。显示器130可以是触摸屏显示器。当然,超声诊断设备还可以通过输入单元103的端口连接另一个显示器,实现双屏显示系统。此外,本实施例中的显示器不限制数量。显示的超声图像数据(超声图像)可以是显示在一个显示器上,也可以同时显示在多个显示器上,当然也可以是将超声图像的部分分别同步显示在多个显示器上,在此本实施例也不作限制。此外,显示器130在显示超声图像的同时还提供给用户进行人机交互的图形界面,在图形界面上设置一个或多个被控对象,提供给用户利用人机交互设备输入操作指令来控制这些被控对象,从而执行相应的控制操作。例如投影、VR眼镜,当然显示器中也可以包含输入装置,例如触摸输入的显示屏、感应动作的投影机VR眼镜。利用人机交互设备可以对显示器130显示的图标进行操作,用来执行特定的功能。
在一实施例中,获取模块110为掌声超声,掌声超声的换能器、显示器等集成在可供操作人员手握持的壳体内。
在另一实施例中,获取模块110获取的周围神经的超声图像或视频也可以对搭载基于神经网络的神经组织识别系统的超声成像设备或平台以外的超声设备采集的超声图像或视频进行处理,即可以对不同机型或者品牌的超声设备采集的超声图像或视频进行识别。
本文的神经网络模型或单元包括(或者包含或者具有)其它元件以及那些元件。如本文中使用的术语“模块”意指但不限于执行特定任务的软件或硬件组件,诸如现场可编程门阵列(FPGA)或专用集成电路(ASIC)或处理器,例如CPU、GPU。模块可以有利地被配置为驻留在可寻址存储介质中并且配置为在一个或多个处理器上执行。因此,作为示例,模块可以包括组件(诸如软件组件、面向对象软件组件、类组件和任务组件)、进程、函数、属性、过程、子例行程序、程序代码段、驱动程序、固件、微码、电路、数据、数据库、数据结构、表、数组和变量。在模块中提供的功能性可以被组合成更少的组件和模块或者进一步分成附加的组件和模块。
如图3所示,为了方便医护人员实时观察周围神经的动态信息,并能在接下来的超声成像很超声诊断过程中实时跟踪,方便医生对跟踪的周围神经做进一步分析处理,提高识别的准确度,需要对自动识别的周围神经轮廓进行区别显示。在一实施例中,本发明还包括高亮显示模块150,高亮显示模块150用于区别显示超声图像或视频中的周围神经。高亮显示模块150可以是高亮显示识别的周围神经轮廓。高亮显示周围神经轮廓可以对轮廓进行着色,使轮廓的颜色区别于超声图像或视频的其它部位,也可以提高轮廓的亮度、对比度等。高亮显示模块150也可以是高亮显示识别的周围神经轮廓的内部区域,高亮显示周围神经轮廓内部区域可以对轮廓内部区域进行着色,使轮廓的内部区域的颜色区别于超声图像或视频的其它部位,也可以提高轮廓的内部区域的亮度、对比度等,需要理解的是,高亮显示轮廓的内部区域着色或亮度等不影响医护人员进行超声诊断。本发明可以单独对轮廓进行高亮显示或/和对轮廓的内部区域进行高亮显示,然后处理器会根据高亮显示的周围神经轮廓和/或高亮显示的周围神经轮廓的内部区域实时跟踪周围神经。
本发明的神经组织识别系统能够通过高亮显示模块150能够高亮显示系统自动识别的周围神经的轮廓,并对识别的周围神经进行跟踪动态显示,提高医护人员的诊断准确度。
本发明通过使用训练好的神经网络模型对获取的超声图像或视频进行处理后可能出现识别的周围神经组织的轮廓和现实中的轮廓差异比较大的情况,譬如有些区域特变小,需要对轮廓进行重建。如图4和图5所示,本发明的另一实施例的神经组织识别系统还包括重建模块140。重建模块140用于重建周围神经的轮廓。重建模块140包括计算单元141、处理单元142、映射单元143和重建单元144。计算单元141用于计算训练后的神经网络模型对周围神经的超声图像或视频处理后识别到的所有周围神经的轮廓的面积。处理单元142用于删除轮廓的面积小于预设面积的周围神经,排除一些面积特别小的轮廓,排除那些形状比较怪异,明显不符合实际情况的轮廓。映射单元143用于将满足轮廓的面积不小于预设面积的周围神经的轮廓根据预设特征向量映射到子空间中,即实现高维特征向低维空间的映射,子空间为低纬空间。
重建单元144用于根据预设特征向量重建周围神经的轮廓,本发明采用了PCAcleaning的方法用于二次处理,首先对于同一类型神经的所有标注信息轮廓做PCA(Principal Component Analysis,主从分析方法)降维处理,从而获得检测部位神经的主要轮廓,取其前预设数量的主要成分的特征向量,优选地,取其前20个主要成分的特征向量,并保存下来,然后将当前图像计算出来的轮廓映射到降维后的子空间中,最后再重建回来,则最终的轮廓形状将会非常接近该类别神经的主要形状,提高识别神经组织的类型以及轮廓的准确性和精确度。
本发明通过重建模块对神经网络模型识别出来的神经组织轮廓进行二次处理,使得轮廓形状将会非常接近该类别神经的主要形状,并可以基于轮廓在超声图像或视频上通过高亮显示模块进行区别显示。
如图6所示,本发明的训练后的神经网络模型为卷积神经网络模型,卷积神经网络模型为多层卷积神经网络模型,卷积神经网络模型包括:
第一卷积神经网络模型,第一卷积神经网络模型用于识别周围神经的超声图像或视频中的周围神经的类型,并对识别后的周围神经的类型进行标注;
第二卷积神经网络模型,第二卷积神经网络模型用于提取周围神经的超声图像或视频中的周围神经的轮廓,并对提取后的周围神经的轮廓进行勾勒。
如图7所示,第一卷积神经网络模型用于从输入的周围神经的超声图像或视频中识别周围神经的类型,并进行标注。输入的超声图像或者视频采用归一化后的结果作为实际输入,输出结果为当前部位超声图像神经的类型信息。即归一化后的超声图像或者视频输入到第一卷积神经网络210进行学习,第一卷积神经网络210将学习提取的优化特征输入全连接网络220进行分类。需要理解的是周围神经的类型为臂丛神经、正中神经或者尺神经等,其它非周围神经组织也可以通过本发明的识别系统进行识别。使用训练后的神经网络模型对输入的周围神经的超声图像或视频进行处理之前需要对超声图像或视频进行预处理,包括:若输入的是周围神经的超声图像,则去除超声图像中敏感信息,保留有效超声图像。若输入的是周围神经的超声视频,则对超声视频进行解码生成超声图像并去除超声图像中敏感信息,保留有效超声图像。需要理解的是,敏感信息为超声图像保护的超声设备型号、医院名称、患者的身份信息等。有效超声图像理解为显示神经组织区域的超声图像。
第二卷积神经网络模型用于对超声图像中神经的分割和跟踪,考虑到若当前是一个视频序列分割任务,超声图像前后帧之间存在一定的连续性,需要充分考虑前一帧的相关信息。如图8所示,第二卷积神经网络模型输入当前帧的图像和上一帧的图像神经轮廓,输出结果为当前超声图像的神经轮廓,事实上,一旦系统在第一帧的时候得到当前图像的神经轮廓,那么系统就会利用相同的遮罩机制来预测下一帧超声图像神经的轮廓,当下一帧与前一帧存在少许的差异的时候,模型将会对神经轮廓做轻微的微调,当差异非常大的时候,模型将会丢弃旧的轮廓信息,利用当前的图像生成新的轮廓。
本实施例的识别系统通过处理器自动识别周围神经的类型以及轮廓,周围神经的类型为臂丛神经、正中神经或者尺神经等。需要理解的是,其它非周围神经组织也可以通过本发明的识别系统进行识别。本发明使用训练后的神经网络模型对获取的超声图像或视频进行处理,能够自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。周围神经的动态信息至少包括实时位置信息和实时形态信息,可以观察周围神经的实时动态,提高了超声图像识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
作为本发明的第二个方面,,提供一种基于神经网络的神经组织识别方法,其中,如图9所示,基于神经网络的神经组织识别方法包括:
S100,获取周围神经的超声图像或视频;
通过存储有基于神经网络的神经组织识别方法的超声诊断设备的换能器单元采集待检测对象的超声图像或视频。或者通过其他品牌或者机型的超声诊断设备采集的超声图像或视频通过USB、硬盘或者云等存储器通过有线或者无线的方式导入。
S200,通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;
使用训练好的神经网络模型对获取的超声图像或视频进行处理,能够自动识别神经组织的类型以及轮廓,智能化程度高,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
本发明提供的基于神经网络的神经组织识别方法,使用训练好的神经网络模型对获取的超声图像或视频进行处理,能够自动识别神经组织的类型以及轮廓,智能化程度高,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
具体地,训练后的神经网络模型为卷积神经网络模型,卷积神经网络模型为多层卷积神经网络模型,卷积神经网络模型包括:
第一卷积神经网络模型,第一卷积神经网络模型用于识别周围神经的超声图像或视频中的周围神经的类型,并对识别后的周围神经的类型进行标注;
第二卷积神经网络模型,第二卷积神经网络模型用于提取周围神经的超声图像或视频中的周围神经的轮廓,并对提取后的周围神经的轮廓进行勾勒。
具体地,基于神经网络的神经组织识别方法还包括在根据训练后的神经网络模型对周围神经的超声图像或视频进行处理的步骤前进行的:
当对周围神经的超声图像进行处理时,去除超声图像中的敏感信息,保留有效超声图像;
当对周围神经的超声视频进行处理时,对超声视频进行解码以获得解码后的超声图像,并去除解码后的超声图像中的敏感信息,保留解码后的超声图像中的有效超声图像。
具体地,上述训练后的神经网络模型由已标识有神经类型以及已勾勒出周围神经的轮廓的超声图像或视频作为样本训练得到。训练后的神经网络模型具体可以为卷积神经网络模型,卷积神经网络模型包括第一卷积神经网络模型和第二卷积神经网络模型。如图7所示,第一卷积神经网络模型用于从输入的周围神经的超声图像或视频中识别周围神经的类型,并进行标注。输入的超声图像或者视频采用归一化后的结果作为实际输入,输出结果为当前部位超声图像神经的类型信息。即归一化后的超声图像或者视频输入到第一卷积神经网络210进行学习,第一卷积神经网络210将学习提取的优化特征输入全连接网络220进行分类。需要理解的是周围神经的类型为臂丛神经、正中神经或者尺神经等,其它非周围神经组织也可以通过本发明的识别系统进行识别。
进一步地,使用训练后的神经网络模型对输入的周围神经的超声图像或视频进行处理之前需要对超声图像或视频进行预处理,包括:若输入的是周围神经的超声图像,则去除超声图像中敏感信息,保留有效超声图像。若输入的是周围神经的超声视频,则对超声视频进行解码生成超声图像并去除超声图像中敏感信息,保留有效超声图像。需要理解的是,敏感信息为超声图像保护的超声设备型号、医院名称、患者的身份信息等。有效超声图像理解为显示神经组织区域的超声图像。
本发明的第二卷积神经网络模型用于从输入的周围神经的超声图像或视频中提取周围神经的轮廓,并勾勒出周围神经的轮廓。需要理解的是,第一卷积神经网络模型和第二卷积神经网络模型为多层卷积神经网络。本发明采用多层卷积神经网络能够提高识别准确性。
第二卷积神经网络模型用于对超声图像中神经的分割和跟踪,考虑到当前是一个视频序列分割任务,超声图像前后帧之间存在一定的连续性,需要充分考虑前一帧的相关信息。如图8所示,第二卷积神经网络模型输入当前帧的图像和上一帧的图像神经轮廓,输出结果为当前超声图像的神经轮廓,事实上,一旦系统在第一帧的时候得到当前图像的神经轮廓,那么系统就会利用相同的遮罩机制来预测下一帧超声图像神经的轮廓,当下一帧与前一帧存在少许的差异的时候,模型将会对神经轮廓做轻微的微调,当差异非常大的时候,模型将会丢弃旧的轮廓信息,利用当前的图像生成新的轮廓。
S300,根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取周围神经的动态信息。
神经网络模型训练过程中需要对上一帧的轮廓做一些变换,以适应不同情况下的变化。例如清空上一帧的轮廓,模拟检测到新的超声图像;对上一帧的轮廓做轻微的仿射变化,起到数据增强的作用,大范围的仿射变换,用于模拟一些错误的轮廓用于提高模型的纠错能力;对当前帧的超声图像做模糊拖影处理,用以模拟探头快速移动,提高模型的追踪能力。
本发明使用训练后的神经网络模型对获取的超声图像或视频进行处理,能够自动识别周围神经的类型以及轮廓,并且能够根据识别的周围神经轮廓实时跟踪获取周围神经的动态信息。提高了超声图像识别的速度和准确度,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
为了方便医护人员实时观察周围神经的动态信息,并能在接下来的超声成像很超声诊断过程中实时跟踪,方便医生对跟踪的周围神经做进一步分析处理,提高识别的准确度,需要对自动识别的周围神经轮廓进行区别显示。在一实施例中,本发明根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经包括:高亮显示识别的周围神经轮廓;和/或高亮显示识别的周围神经轮廓的内部区域。然后根据高亮显示的周围神经轮廓和/或高亮显示的周围神经轮廓的内部区域实时跟踪周围神经。
高亮显示周围神经轮廓可以对轮廓进行着色,使轮廓的颜色区别于超声图像或视频的其它部位,可也可以提高轮廓的亮度、对比度等。高亮显示周围神经轮廓内部区域可以对轮廓内部区域进行着色,使轮廓的内部区域的颜色区别于超声图像或视频的其它部位,可也可以提高轮廓的内部区域的亮度、对比度等,需要理解的是,高亮显示轮廓的内部区域着色或亮度等不影响医护人员进行超声诊断。通过高亮显示能够将周围神经在动态的超声图像或视频中区别显示,方便医护人员进行观察。
针对超声图像或视频中神经的跟踪问题,需要对超声图像或视频中的周围神经的位置和大小按照拉普拉斯分布做增强处理。需要理解的是,超声图像或视频当前帧中的神经位置和尺度都与上一帧是有一定的关联的,当前目标的位置和尺度变化与上一帧的目标存在着某种分布关系,具体分析如下:
c’x=cx+w*Δx,
c’y=cy+h*Δy,
w′=w*γw,
h′=h*γh,
其中,cx,cy表示上一帧神经的中点位置坐标,w,h分别表示上一帧神经的宽度和高度,即上一帧神经的大小;c’x,c’y表示当前帧神经的中点位置坐标,w’,h’表示当前帧神经的宽度和高度,即当前帧神经的大小;Δx,Δy表示当前神经中点位置坐标变化比例,γw,γh表示当前神经大小变化比例,则:
Δx=(c’x-cx)/w,
Δy=(c’y-cy)/h,
γw=w′/w,
γh=h′/h,
当前神经中点位置坐标变化比例Δx、Δy以及当前神经大小变化比例γw,γh这四个变化系数按拉普拉斯分布:
其中,μ表示均值,b表示尺度参数,x表示变量,这里可以是cx、cy、w或h。
为了提高神经网络模型的自动识别的准确性,需要通过大量的超声图像的训练集进行训练。通过对于当前的神经的位置和大小按照拉普拉斯分布对原超声视频序列做增强处理,如果是单一的超声图像也可以按照拉普拉斯分布做增强处理。这样将获取更多的训练图像,对神经网络模型进行训练,提高识别的准确性。
如图10所示,通过使用训练好的神经网络模型对获取的超声图像或视频进行处理后可能出现识别的周围神经组织的轮廓和现实中的轮廓差异比较大的情况,譬如有些区域特变小,需要对轮廓进行重建。在通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓后,还需要重建周围神经的轮廓。
在一实施例中,重建周围神经的轮廓包括:
S211,计算训练后的神经网络模型对周围神经的超声图像或视频处理后识别到的所有周围神经的轮廓的面积;
S212,删除轮廓的面积小于预设面积的周围神经;
S213,将满足轮廓的面积不小于预设面积的周围神经的轮廓根据预设特征向量映射到子空间中;
S214,根据预设特征向量重建周围神经的轮廓。
进一步地,预设特征向量的获取包括:
对多个已勾勒出轮廓的同一类型的神经组织进行降维处理以获得该类型神经组织的不同轮廓的共性部分;
将同一类型神经组织的不同轮廓的共性部分定义为预设特征向量。
如图11和图12所示,神经网络模型输出的神经轮廓一般会存在神经轮廓和现实中的轮廓差异比较大的情况,譬如有些区域特变小,本发明首先对最终的所有轮廓计算面积,排除一些面积特别小的轮廓。对于那些形状比较怪异,明显不符合实际情况的轮廓,本发明采用了一种叫PCA cleaning的方法用于二次处理,首先对于同一类型神经的所有标注信息轮廓做PCA(主从分析方法,Principal Component Analysis)降维处理,从而获得其该部位神经的主要轮廓,取其前20个主要成分的特征向量,并保存下来,然后将当前图像计算出来的轮廓映射到降维后的子空间中,最后再重建回来,则最终的轮廓形状将会非常接近该类别神经的主要形状。
本发明使用训练好的神经网络模型对获取的超声图像或视频进行处理,能够自动识别神经组织的类型以及轮廓,智能化程度高,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。
具体地,训练后的神经网络模型的获取包括:将标识有周围神经类型以及勾勒出周围神经的轮廓的超声图像或视频作为样本训练得到。
作为本发明的第三个方面,提供一种计算机存储介质,其中,计算机存储介质用于存储执行前文的基于神经网络的神经组织识别方法的程序。
具体地,计算机存储介质例如;磁存储介质,例如磁盘(如软盘)或磁带;光存储介质,如光盘,光带,或机器可读的条形码;固态电子存储装置,如随机存取存储器(RAM)或只读存储器(ROM);或任何其它物理装置或介质用于存储用于控制一个或多个具有指令的计算机程序根据本发明的计算机实施的方法。
本发明使用训练好的神经网络模型对获取的超声图像或视频进行处理,能够自动识别神经组织的类型以及轮廓,智能化程度高,缓解目前超声医生的繁重工作量的情况和对提高医生的效率都有帮助。进一步地,本发明能够自动对识别出来的神经组织进行标注并勾勒出神经组织的轮廓。
本发明能够通过重建模块对神经网络模型识别出来的神经组织轮廓进行二次处理,使得轮廓形状将会非常接近该类别神经的主要形状,并可以基于轮廓在图像上着色高亮处理。
可以理解的是,以上实施方式仅仅是为了说明本发明的原理而采用的示例性实施方式,然而本发明并不局限于此。对于本领域内的普通技术人员而言,在不脱离本发明的精神和实质的情况下,可以做出各种变型和改进,这些变型和改进也视为本发明的保护范围。
Claims (10)
1.一种基于神经网络的神经组织识别方法,其特征在于,所述基于神经网络的神经组织识别方法包括:
获取周围神经的超声图像或视频;
通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;
根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取所述周围神经的动态信息。
2.根据权利要求1所述的基于神经网络的神经组织识别方法,其特征在于,所述周围神经的动态信息至少包括:实时位置信息和实时形态信息。
3.根据权利要求1所述的基于神经网络的神经组织识别方法,其特征在于,根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经包括:
高亮显示识别的周围神经轮廓;和/或
高亮显示识别的周围神经轮廓的内部区域;
根据高亮显示的周围神经轮廓和/或高亮显示的周围神经轮廓的内部区域实时跟踪所述周围神经。
4.根据权利要求3所述的基于神经网络的神经组织识别方法,其特征在于,根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经还包括:
对超声图像或视频中的周围神经的位置和大小按照拉普拉斯分布做增强处理。
5.根据权利要求1-4中任一项所述的基于神经网络的神经组织识别方法,其特征在于,在通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓后,还包括:
重建周围神经的轮廓。
6.根据权利要求5所述的基于神经网络的神经组织识别方法,其特征在于,所述重建周围神经的轮廓包括:
计算训练后的神经网络模型对周围神经的超声图像或视频处理后识别到的所有周围神经的轮廓的面积;
删除轮廓的面积小于预设面积的周围神经;
将满足轮廓的面积不小于预设面积的周围神经的轮廓根据预设特征向量映射到子空间中;
根据所述预设特征向量重建周围神经的轮廓。
7.根据权利要求6所述的基于神经网络的神经组织识别方法,其特征在于,所述预设特征向量的获取包括:
对多个已勾勒出轮廓的同一类型的神经组织进行降维处理以获得该类型神经组织的不同轮廓的共性部分;
将同一类型神经组织的不同轮廓的共性部分定义为所述预设特征向量。
8.根据权利要求1-4中任意一项所述的基于神经网络的神经组织识别方法,其特征在于,所述训练后的神经网络模型为卷积神经网络模型,所述卷积神经网络模型包括:
第一卷积神经网络模型,所述第一卷积神经网络模型用于识别周围神经的超声图像或视频中的周围神经的类型,并对识别后的周围神经的类型进行标注;
第二卷积神经网络模型,所述第二卷积神经网络模型用于提取周围神经的超声图像或视频中的周围神经的轮廓,并对提取后的周围神经的轮廓进行勾勒。
9.一种基于神经网络的神经组织识别系统,其特征在于,包括:
获取模块,所述获取模块用于获取周围神经的超声图像或视频;
处理器,通过训练后的神经网络模型识别超声图像或视频中周围神经的类型以及轮廓;以及根据识别的周围神经轮廓实时跟踪超声图像或视频中的周围神经,以获取所述周围神经的动态信息;
显示器,用于显示超声图像或视频中周围神经的类型以及动态信息。
10.一种计算机存储介质,其特征在于,所述计算机存储介质用于存储执行权利要求1至8中任意一项所述的基于神经网络的神经组织识别方法的程序。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910246805.7A CN110021014A (zh) | 2019-03-29 | 2019-03-29 | 基于神经网络的神经组织识别方法、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910246805.7A CN110021014A (zh) | 2019-03-29 | 2019-03-29 | 基于神经网络的神经组织识别方法、系统及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110021014A true CN110021014A (zh) | 2019-07-16 |
Family
ID=67190167
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910246805.7A Pending CN110021014A (zh) | 2019-03-29 | 2019-03-29 | 基于神经网络的神经组织识别方法、系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110021014A (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110415248A (zh) * | 2019-08-29 | 2019-11-05 | 新名医(北京)科技有限公司 | 一种基于超声的血管监测方法、装置、设备及存储介质 |
CN110517249A (zh) * | 2019-08-27 | 2019-11-29 | 中山大学 | 超声弹性图像的成像方法、装置、设备及介质 |
CN111444830A (zh) * | 2020-03-25 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 基于超声回波信号的成像的方法、装置、存储介质及电子装置 |
CN111862044A (zh) * | 2020-07-21 | 2020-10-30 | 长沙大端信息科技有限公司 | 超声图像处理方法、装置、计算机设备和存储介质 |
CN111968222A (zh) * | 2020-08-04 | 2020-11-20 | 西北工业大学 | 一种人体组织非静止状态下三维超声重建方法 |
CN112652390A (zh) * | 2019-10-11 | 2021-04-13 | 无锡祥生医疗科技股份有限公司 | 超声影像调节自定义方法、存储介质及超声诊断设备 |
CN112712124A (zh) * | 2020-12-31 | 2021-04-27 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的多模块协同物体识别系统及方法 |
CN112802338A (zh) * | 2020-12-31 | 2021-05-14 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的高速公路实时预警方法及系统 |
CN112862944A (zh) * | 2019-11-09 | 2021-05-28 | 无锡祥生医疗科技股份有限公司 | 人体组织超声建模方法、超声设备及存储介质 |
CN112863100A (zh) * | 2020-12-31 | 2021-05-28 | 山东奥邦交通设施工程有限公司 | 一种智能施工安全监测系统及方法 |
CN113469981A (zh) * | 2021-07-09 | 2021-10-01 | 数坤(北京)网络科技股份有限公司 | 图像处理方法、装置及存储介质 |
CN113570594A (zh) * | 2021-08-11 | 2021-10-29 | 无锡祥生医疗科技股份有限公司 | 超声图像中目标组织的监测方法、装置及存储介质 |
CN113744250A (zh) * | 2021-09-07 | 2021-12-03 | 金陵科技学院 | 基于U-Net的臂丛神经超声图像分割方法、系统、介质和装置 |
CN115187596A (zh) * | 2022-09-09 | 2022-10-14 | 中国医学科学院北京协和医院 | 用于腹腔镜结直肠癌手术的神经智能辅助识别系统 |
TWI789862B (zh) * | 2021-08-05 | 2023-01-11 | 陳信彰 | 犬隻腦波情緒識別系統 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109447940A (zh) * | 2018-08-28 | 2019-03-08 | 天津医科大学肿瘤医院 | 卷积神经网络训练方法、超声图像识别定位方法及系统 |
-
2019
- 2019-03-29 CN CN201910246805.7A patent/CN110021014A/zh active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109447940A (zh) * | 2018-08-28 | 2019-03-08 | 天津医科大学肿瘤医院 | 卷积神经网络训练方法、超声图像识别定位方法及系统 |
Non-Patent Citations (11)
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110517249A (zh) * | 2019-08-27 | 2019-11-29 | 中山大学 | 超声弹性图像的成像方法、装置、设备及介质 |
CN110415248A (zh) * | 2019-08-29 | 2019-11-05 | 新名医(北京)科技有限公司 | 一种基于超声的血管监测方法、装置、设备及存储介质 |
CN110415248B (zh) * | 2019-08-29 | 2023-05-05 | 新名医(北京)科技有限公司 | 一种基于超声的血管监测方法、装置、设备及存储介质 |
CN112652390A (zh) * | 2019-10-11 | 2021-04-13 | 无锡祥生医疗科技股份有限公司 | 超声影像调节自定义方法、存储介质及超声诊断设备 |
CN112652390B (zh) * | 2019-10-11 | 2023-11-24 | 无锡祥生医疗科技股份有限公司 | 超声影像调节自定义方法、存储介质及超声诊断设备 |
CN112862944B (zh) * | 2019-11-09 | 2024-04-12 | 无锡祥生医疗科技股份有限公司 | 人体组织超声建模方法、超声设备及存储介质 |
CN112862944A (zh) * | 2019-11-09 | 2021-05-28 | 无锡祥生医疗科技股份有限公司 | 人体组织超声建模方法、超声设备及存储介质 |
CN111444830A (zh) * | 2020-03-25 | 2020-07-24 | 腾讯科技(深圳)有限公司 | 基于超声回波信号的成像的方法、装置、存储介质及电子装置 |
CN111444830B (zh) * | 2020-03-25 | 2023-10-31 | 腾讯科技(深圳)有限公司 | 基于超声回波信号的成像的方法、装置、存储介质及电子装置 |
CN111862044A (zh) * | 2020-07-21 | 2020-10-30 | 长沙大端信息科技有限公司 | 超声图像处理方法、装置、计算机设备和存储介质 |
CN111968222A (zh) * | 2020-08-04 | 2020-11-20 | 西北工业大学 | 一种人体组织非静止状态下三维超声重建方法 |
CN112863100B (zh) * | 2020-12-31 | 2022-09-06 | 山东奥邦交通设施工程有限公司 | 一种智能施工安全监测系统及方法 |
CN112712124B (zh) * | 2020-12-31 | 2021-12-10 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的多模块协同物体识别系统及方法 |
CN112802338B (zh) * | 2020-12-31 | 2022-07-12 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的高速公路实时预警方法及系统 |
CN112863100A (zh) * | 2020-12-31 | 2021-05-28 | 山东奥邦交通设施工程有限公司 | 一种智能施工安全监测系统及方法 |
CN112802338A (zh) * | 2020-12-31 | 2021-05-14 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的高速公路实时预警方法及系统 |
CN112712124A (zh) * | 2020-12-31 | 2021-04-27 | 山东奥邦交通设施工程有限公司 | 一种基于深度学习的多模块协同物体识别系统及方法 |
CN113469981A (zh) * | 2021-07-09 | 2021-10-01 | 数坤(北京)网络科技股份有限公司 | 图像处理方法、装置及存储介质 |
TWI789862B (zh) * | 2021-08-05 | 2023-01-11 | 陳信彰 | 犬隻腦波情緒識別系統 |
CN113570594A (zh) * | 2021-08-11 | 2021-10-29 | 无锡祥生医疗科技股份有限公司 | 超声图像中目标组织的监测方法、装置及存储介质 |
CN113744250A (zh) * | 2021-09-07 | 2021-12-03 | 金陵科技学院 | 基于U-Net的臂丛神经超声图像分割方法、系统、介质和装置 |
CN115187596A (zh) * | 2022-09-09 | 2022-10-14 | 中国医学科学院北京协和医院 | 用于腹腔镜结直肠癌手术的神经智能辅助识别系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110021014A (zh) | 基于神经网络的神经组织识别方法、系统及存储介质 | |
CN106102585B (zh) | 三维成像数据的显示处理方法和三维超声成像方法及系统 | |
US10255723B2 (en) | Planning, navigation and simulation systems and methods for minimally invasive therapy | |
Tadeusiewicz et al. | Medical image understanding technology | |
CN103371870B (zh) | 一种基于多模影像的外科手术导航系统 | |
US11642096B2 (en) | Method for postural independent location of targets in diagnostic images acquired by multimodal acquisitions and system for carrying out the method | |
EP2433567A1 (en) | Medical image diagnosis device and region-of-interest setting method therefor | |
CN111816281B (zh) | 超声影像查询装置 | |
JP2000126182A (ja) | 腫瘍診断方法 | |
CN112967786B (zh) | 基于多模影像与交互设备的解剖导航的构建方法及系统 | |
Sakas et al. | Advanced applications of volume visualization methods in medicine | |
Yoshida et al. | Clinical planning support system-CliPSS | |
JP7043363B2 (ja) | 超音波診断システム | |
RU2708317C2 (ru) | Ультразвуковая диагностика работы сердца посредством сегментации камеры с одной степенью свободы | |
Klein et al. | Visual computing for medical diagnosis and treatment | |
CN112137693B (zh) | 四维超声引导穿刺的成像方法及装置 | |
CN115035207A (zh) | 胎儿颅脑标准切面生成方法、装置和超声成像显示系统 | |
Shahidi et al. | Proposed simulation of volumetric image navigation using a surgical microscope | |
Ettinger | Hierarchical three-dimensional medical image registration | |
Chen | Towards practical ultrasound ai across real-world patient diversity | |
Doerfler et al. | Blood vessel detection in navigated ultrasound: An assistance system for liver resections | |
Ilyasova et al. | Systems for Recognition and Intelligent Analysis of Biomedical Images | |
Filist | Two-Dimensional Walsh Spectral Transform in Problems of Automated Analysis of Ultrasound Images | |
Kuzmin et al. | Two-Dimensional Walsh Spectral Transform in Problems of Automated Analysis of Ultrasound Images | |
Xie | Design and Development of Medical Image Processing Experiment System Based on IDL Language. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190716 |
|
RJ01 | Rejection of invention patent application after publication |