CN111915598B - 一种基于深度学习的医疗图像处理方法和装置 - Google Patents

Abstract

本发明公开了一种基于深度学习的医疗图像处理方法、装置、计算机可读存储介质以及电子设备，通过将包括连续多张图片的待处理医疗图像输入神经网络模型，利用多张图片之间的连续相关性，提高神经网络模型的处理精度，并且通过计算待处理医疗图像与标准图像之间的相似度来确定待处理医疗图像的处理结果，可以避免无参考的处理导致处理结果偏差较大，从而进一步提高了处理精度。

Description

一种基于深度学习的医疗图像处理方法和装置

技术领域

本申请涉及图像处理领域，具体涉及一种基于深度学习的医疗图像处理方法、装置、计算机可读存储介质以及电子设备。

背景技术

随着医学成像技术的发展，三维CT(电子计算机断层扫描)已成为癌症诊断的一种临床常规手段，随着近些年高分辨率CT扫描仪的出现，由此产生的CT影像数据越来越多，外科医生和放射科医生经常需要对数千个CT扫描切片图像做手工标注，对他们来说这是一种沉重的负担，因此，高效的医学辅助诊断算法成为迫切的需求。

但是到目前为止还没有一个辅助诊断算法能达到临床级别，主要原因是算法的精度不高、泛化能力不强，因此，亟需一种病灶拟合高精度的医疗图像检测算法。

发明内容

为了解决上述技术问题，本申请提出了一种基于深度学习的医疗图像处理方法、装置、计算机可读存储介质以及电子设备，通过将包括连续多张图片的待处理医疗图像输入神经网络模型，利用多张图片之间的连续相关性，提高神经网络模型的处理精度，并且通过计算待处理医疗图像与标准图像之间的相似度来确定待处理医疗图像的处理结果，可以避免无参考的处理导致处理结果偏差较大，从而进一步提高了处理精度。

根据本申请的一个方面，提供了一种基于深度学习的医疗图像处理方法，包括：获取待处理医疗图像；其中，所述待处理医疗图像包括连续的多张图片；以及将所述待处理医疗图像输入神经网络模型，得到所述待处理医疗图像的处理结果；其中，得到所述待处理医疗图像的处理结果的具体方式包括：计算所述待处理医疗图像与对应的标准图像之间的相似度；以及根据所述相似度确定所述待处理医疗图像的处理结果。

在一实施例中，所述计算所述待处理医疗图像与对应的标准图像之间的相似度包括：根据所述待处理医疗图像与所述标准图像的像素差值，计算第一损失函数；根据所述待处理医疗图像与所述标准图像的特征差值，计算第二损失函数；以及融合所述第一损失函数和所述第二损失函数，得到所述待处理医疗图像与所述标准图像之间的相似度。

在一实施例中，所述融合所述第一损失函数和所述第二损失函数包括：对所述第一损失函数和所述第二损失函数进行加权求和。

在一实施例中，所述第一损失函数的权重与所述待处理医疗图像的背景图像和所述标准图像的背景图像之间的相似度正相关。

在一实施例中，所述神经网络模型包括多层卷积层，所述根据所述待处理医疗图像与所述标准图像的特征差值，计算第二损失函数包括：将所述多层卷积层的特征数据进行加权求和，得到综合特征；以及计算所述综合特征与所述标准图像的特征之差，得到所述第二损失函数。

在一实施例中，所述多层卷积层包括空洞率不同的多个空洞卷积层。

在一实施例中，所述空洞卷积层的特征数据的权重与该空洞卷积层的空洞率正相关。

根据本申请的另一个方面，提供了一种基于深度学习的医疗图像处理装置，包括：获取模块，用于获取待处理医疗图像；其中，所述待处理医疗图像包括连续的多张图片；以及处理模块，用于将所述待处理医疗图像输入神经网络模型，得到所述待处理医疗图像的处理结果；其中，处理模块包括：相似度计算单元，用于计算所述待处理医疗图像与对应的标准图像之间的相似度；以及确定单元，用于根据所述相似度确定所述待处理医疗图像的处理结果。

根据本申请的另一个方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一所述的基于深度学习的医疗图像处理方法。

根据本申请的另一个方面，提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于执行上述任一所述的基于深度学习的医疗图像处理方法。

本申请提供的一种基于深度学习的医疗图像处理方法、装置、计算机可读存储介质以及电子设备，通过将包括连续多张图片的待处理医疗图像输入神经网络模型，利用多张图片之间的连续相关性，提高神经网络模型的处理精度，并且通过计算待处理医疗图像与标准图像之间的相似度来确定待处理医疗图像的处理结果，可以避免无参考的处理导致处理结果偏差较大，从而进一步提高了处理精度。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本申请一示例性实施例提供的一种基于深度学习的医疗图像处理方法的流程示意图。

图2是本申请一示例性实施例提供的一种基于深度学习的医疗图像处理方法的流程示意图。

图3是本申请一示例性实施例提供的一种计算相似度方法的流程示意图。

图4是本申请一示例性实施例提供的一种基于深度学习的医疗图像处理装置的结构示意图。

图5是本申请另一示例性实施例提供的一种基于深度学习的医疗图像处理装置的结构示意图。

图6是本申请一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

示例性方法

图1是本申请一示例性实施例提供的一种基于深度学习的医疗图像处理方法的流程示意图。如图1所示，该方法包括如下步骤：

步骤110：获取待处理医疗图像；其中，待处理医疗图像包括连续的多张图片。

本申请实施例中的待处理医疗图像可以是患者的某个部位的 CT图像，例如肺部CT图像、脑部CT图像等，该CT图像可以包括连续的多张切片图片。

步骤120：将待处理医疗图像输入神经网络模型，得到待处理医疗图像的处理结果。

通过训练好的神经网络模型，直接对待处理医疗图像进行处理，得到该待处理医疗图像的处理结果，本申请实施例中对待处理医疗图像的处理可以包括病灶区域的检测、病灶类型的识别等。在一实施例中，处理结果可以包括病灶中心位置、病灶尺寸、病灶偏移量等参数。应当理解，本申请实施例中的处理结果可以根据时间需求而改变，本申请实施例对于处理结果的具体内容不做限定。

其中，如图2所示，步骤120的具体实现方式包括：

步骤121：计算待处理医疗图像与对应的标准图像之间的相似度。

步骤122：根据相似度确定待处理医疗图像的处理结果。

通过计算待处理医疗图像与对应的标准图像之间的相似度，来确定待处理医疗图像的处理结果，以标准图像为参照，可以避免处理结果出现较大偏差。本申请实施例中的标准图像可以是由标准模型生成的，例如根据待处理医疗图像的基本框架结构生成标准图像，也可以是待处理医疗图像对应的患者之前正常的医疗图像。

本申请提供的一种基于深度学习的医疗图像处理方法，通过将包括连续多张图片的待处理医疗图像输入神经网络模型，利用多张图片之间的连续相关性，提高神经网络模型的处理精度，并且通过计算待处理医疗图像与标准图像之间的相似度来确定待处理医疗图像的处理结果，可以避免无参考的处理导致处理结果偏差较大，从而进一步提高了处理精度。

图3是本申请一示例性实施例提供的一种计算相似度方法的流程示意图。如图3所示，步骤121可以包括如下子步骤：

步骤1211：根据待处理医疗图像与标准图像的像素差值，计算第一损失函数。

通过计算待处理医疗图像与标准图像的像素差值，并且以该像素差值构建第一损失函数，可以得到待处理医疗图像与标准图像在像素层面的相似度。本申请实施例中的像素差值可以是所有像素单元的差值之和(不包含符号)，也可以是待处理医疗图像与标准图像中的感兴趣区域的像素单元的差值之和(不包含符号)。在一实施例中，在计算第一损失函数之前，还可以对待处理医疗图像与标准图像进行分割或去背景操作，以获取对应的感兴趣区域，避免背景区域的干扰，也可以减少背景区域的计算量，从而提高处理效率。

步骤1212：根据待处理医疗图像与标准图像的特征差值，计算第二损失函数。

通过计算待处理医疗图像与标准图像之间的特征差值，并且以该特征差值构建第二损失函数，可以得到待处理医疗图像与标准图像在特征层面的相似度。本申请实施例中的特征可以是上述病灶中心位置、病灶尺寸、病灶偏移量等参数中的任一个或多个，也可以是其他的特征量，当特征是多个时，可以对多个特征量进行加权叠加，以综合得到待处理医疗图像与标准图像之间的特征差值。

步骤1213：融合第一损失函数和第二损失函数，得到待处理医疗图像与标准图像之间的相似度。

通过融合第一损失函数和第二损失函数，即从像素层面和特征层面综合获取待处理医疗图像与标准图像之间的相似度，像素单元的差值即细节信息，特征差值即整体信息(例如位置信息)，也就是说，第一损失函数和第二损失函数分别从细节和整体位置两方面去确定，从而可以更为全面的计算待处理医疗图像与标准图像之间的相似度。

在一实施例中，步骤1213中融合第一损失函数和第二损失函数的具体方式可以包括：对第一损失函数和第二损失函数进行加权求和。通过对第一损失函数和第二损失函数进行加权求和，可以综合细节和整体位置两方面的比对结果，得到更为准确和全面的待处理医疗图像与标准图像之间的相似度。

在一实施例中，第一损失函数的权重可以与待处理医疗图像的背景图像和标准图像的背景图像之间的相似度正相关。由于不同医疗图像(包括标准图像)之间的获取时间和获取条件不完全相同，因此，会造成不同医疗图像的像素单元的像素值等信息存在一定的偏差，而这个偏差并不是因为疾病造成，如果在计算第一损失函数时，不将该偏差除去或减少该偏差，该偏差一定会对最终的处理结果造成一定的影响，因此，为了减少像素偏差对后续相似度的结果的影响，本申请实施例中可以计算待处理医疗图像的背景图像和标准图像的背景图像之间的相似度，设定第一损失函数的权重与该背景图像之间的相似度正相关(例如成正比等)，由于背景图像不会因为病变而发送变化，通过比对待处理医疗图像的背景图像和标准图像的背景图像之间的相似度来得到第一损失函数的权重，可以将像素偏差的影响降低。在本申请另一实施例中，可以在计算第一损失函数之前可以对待处理医疗图像和标准图像进行校准，即比对相同区域(例如背景区域)的像素值，通过整体调整以实现该相同区域的像素值相同或相似。

在一实施例中，神经网络模型包括多层卷积层，上述步骤1212 的具体实现方式可以包括：将多层卷积层的特征数据进行加权求和，得到综合特征；并计算综合特征与标准图像的特征之差，得到第二损失函数。通过设置多层卷积层，可以利用多层卷积层来获取更多更准确的特性信息，由于靠近输入端的卷积层获取的细节信息更多、而靠近输出端的卷积层获取的位置信息更多，因此，通过加权求和综合考虑各个层次的特征信息，可以更加全面的获取待处理医疗图像与标准图像的特征差值。

在一实施例中，多层卷积层可以包括空洞率不同的多个空洞卷积层。由于不同的空洞率的空洞卷积层具备不同的感受视野，因此，通过设置多个空洞率不同的空洞卷积层，可以从不同的感受视野来获取待处理医疗图像与标准图像的特征信息，从而更加全面的获取待处理医疗图像与标准图像的特征差值。

在一实施例中，空洞卷积层的特征数据的权重可以与该空洞卷积层的空洞率正相关。由于空洞率越大，对应的空洞卷积层的感受视野也越大，即获取的位置信息更准确，因此，可以设定空洞卷积层的特征数据的权重与该空洞卷积层的空洞率正相关(例如成正比)，这样就可以更为准确的获取待处理医疗图像与标准图像的特征信息。

示例性装置

图4是本申请一示例性实施例提供的一种基于深度学习的医疗图像处理装置的结构示意图。如图4所示，该医疗图像处理装置40包括如下模块：

获取模块41，用于获取待处理医疗图像；其中，待处理医疗图像包括连续的多张图片；以及处理模块42，用于将待处理医疗图像输入神经网络模型，得到待处理医疗图像的处理结果；其中，处理模块42包括：相似度计算单元421，用于计算待处理医疗图像与对应的标准图像之间的相似度；以及确定单元422，用于根据相似度确定待处理医疗图像的处理结果。

本申请提供的一种基于深度学习的医疗图像处理装置，通过处理模块42将包括连续多张图片的待处理医疗图像输入神经网络模型，利用多张图片之间的连续相关性，提高神经网络模型的处理精度，并且通过相似度计算单元421计算待处理医疗图像与标准图像之间的相似度，确定单元422确定待处理医疗图像的处理结果，可以避免无参考的处理导致处理结果偏差较大，从而进一步提高了处理精度。

图5是本申请另一示例性实施例提供的一种基于深度学习的医疗图像处理装置的结构示意图。如图所示，相似度计算单元421 可以包括如下子单元：第一损失函数子单元4211，用于根据待处理医疗图像与标准图像的像素差值，计算第一损失函数；第二损失函数子单元4212，用于根据待处理医疗图像与标准图像的特征差值，计算第二损失函数；融合子单元4213，用于融合第一损失函数和第二损失函数，得到待处理医疗图像与标准图像之间的相似度。

在一实施例中，融合子单元4213可以进一步配置为：对第一损失函数和第二损失函数进行加权求和。

在一实施例中，融合子单元4213可以进一步配置为：第一损失函数的权重可以与待处理医疗图像的背景图像和标准图像的背景图像之间的相似度正相关。

在一实施例中，第二损失函数子单元4212可以进一步配置为：将多层卷积层的特征数据进行加权求和，得到综合特征；并计算综合特征与标准图像的特征之差，得到第二损失函数。在一实施例中，多层卷积层可以包括空洞率不同的多个空洞卷积层。在一实施例中，空洞卷积层的特征数据的权重可以与该空洞卷积层的空洞率正相关。

示例性电子设备

下面，参考图6来描述根据本申请实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图6图示了根据本申请实施例的电子设备的框图。

如图6所示，电子设备10包括一个或多个处理器11和存储器 12。

处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备 10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的基于深度学习的医疗图像处理方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是第一设备或第二设备时，该输入装置13 可以是摄像头，用于捕捉图像的输入信号。在该电子设备是单机设备时，该输入装置13可以是通信网络连接器，用于从第一设备和第二设备接收所采集的输入信号。

此外，该输入设备13还可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图6中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于深度学习的医疗图像处理方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于深度学习的医疗图像处理方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (4)

1.一种基于深度学习的医疗图像处理方法，其特征在于，包括：

获取待处理医疗图像；其中，所述待处理医疗图像包括连续的多张图片；以及

将所述待处理医疗图像输入神经网络模型，得到所述待处理医疗图像的处理结果；其中，所述神经网络模型包括多层卷积层，所述多层卷积层包括空洞率不同的多个空洞卷积层，所述空洞卷积层的特征数据的权重与该空洞卷积层的空洞率正相关；

其中，得到所述待处理医疗图像的处理结果的具体方式包括：

根据所述待处理医疗图像与标准图像的像素差值，计算第一损失函数；其中，所述标准图像根据所述待处理医疗图像的基本框架结构生成，或者是所述待处理医疗图像对应的患者之前正常的医疗图像；

将所述多层卷积层的特征数据进行加权求和，得到综合特征；以及

计算所述综合特征与所述标准图像的特征之差，得到第二损失函数；

对所述第一损失函数和所述第二损失函数进行加权求和，得到所述待处理医疗图像与所述标准图像之间的相似度；其中，所述第一损失函数的权重与所述待处理医疗图像的背景图像和所述标准图像的背景图像之间的相似度正相关；以及

根据所述相似度确定所述待处理医疗图像的处理结果。

2.一种基于深度学习的医疗图像处理装置，其特征在于，包括：

获取模块，用于获取待处理医疗图像；其中，所述待处理医疗图像包括连续的多张图片；以及

处理模块，用于将所述待处理医疗图像输入神经网络模型，得到所述待处理医疗图像的处理结果；其中，所述神经网络模型包括多层卷积层，所述多层卷积层包括空洞率不同的多个空洞卷积层，所述空洞卷积层的特征数据的权重与该空洞卷积层的空洞率正相关；

其中，处理模块包括：

相似度计算单元，用于计算所述待处理医疗图像与对应的标准图像之间的相似度；其中，所述标准图像根据所述待处理医疗图像的基本框架结构生成，或者是所述待处理医疗图像对应的患者之前正常的医疗图像；以及

确定单元，用于根据所述相似度确定所述待处理医疗图像的处理结果；

所述相似度计算单元包括：第一损失函数子单元，用于根据所述待处理医疗图像与所述标准图像的像素差值，计算第一损失函数；第二损失函数子单元，用于根据所述待处理医疗图像与所述标准图像的特征差值，计算第二损失函数；融合子单元，用于对所述第一损失函数和所述第二损失函数进行加权求和，得到所述待处理医疗图像与所述标准图像之间的相似度；其中，所述第一损失函数的权重与所述待处理医疗图像的背景图像和所述标准图像的背景图像之间的相似度正相关；

其中，所述第二损失函数子单元进一步配置为：将所述多层卷积层的特征数据进行加权求和，得到综合特征；计算所述综合特征与所述标准图像的特征之差，得到第二损失函数。

3.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1所述的基于深度学习的医疗图像处理方法。

4.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于执行上述权利要求1所述的基于深度学习的医疗图像处理方法。