CN111915000B - 一种用于医疗图像的网络模型的调整方法和装置 - Google Patents

Abstract

本发明公开了一种用于医疗图像的网络模型的调整方法、装置、计算机可读存储介质以及电子设备，利用训练样本训练神经网络模型，得到训练后的神经网络模型，其中该神经网络模型包括多层卷积结构和残差卷积层结构，通过对残差卷积层结构的下一层卷积结构进行检测，得到检测结果，并根据该检测结果调整该神经网络模型，可以在该神经网络模型的运行过程中实时对其进行调整，以提高该神经网络模型应对不同数据的准确性，从而提高了神经网络模型的检测精度和泛化性能。

Description

一种用于医疗图像的网络模型的调整方法和装置

技术领域

本申请涉及图像处理领域，具体涉及一种用于医疗图像的网络模型调整方法、装置、计算机可读存储介质以及电子设备。

背景技术

随着医学数字影像技术的迅速发展，医学影像分析已经步入医疗大数据的时代。医学图像分析中的病灶检测是辅助诊断与计算机视觉的交叉研究课题之一，可在影像中实现一些简单的病灶检测任务，但在影像中病灶区域表现出形态多样、尺度多变的特性，神经网络训练完成后，网络中的层级、计算参数等不再改变，针对大量数据，利用同一神经网络，导致该神经网络对数据的适应性较差，导致传统的算法模型检测精度不高且泛化性差，故大部分影像分析工作还需人工完成，导致医生的工作负荷逐年攀升。

发明内容

为了解决上述技术问题，本申请提出了一种用于医疗图像的网络模型的调整方法、装置、计算机可读存储介质以及电子设备，利用训练样本训练神经网络模型，得到训练后的神经网络模型，其中该神经网络模型包括多层卷积结构和残差卷积层结构，通过对残差卷积层结构的下一层卷积结构进行检测，得到检测结果，并根据该检测结果调整该神经网络模型，可以在该神经网络模型的运行过程中实时对其进行调整，以提高该神经网络模型应对不同数据的准确性，从而提高了神经网络模型的检测精度和泛化性能。

根据本申请的一个方面，提供了一种用于医疗图像的网络模型的调整方法，包括：利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，所述训练后的神经网络模型包括多层卷积结构和残差卷积层结构，所述残差卷积层结构与所述多层卷积结构中的至少一层卷积结构并列；对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果；以及根据所述检测结果，调整所述训练后的神经网络模型。

在一实施例中，所述对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果包括：将所述残差卷积层结构的输出图像输入所述残差卷积层结构的下一层卷积结构，得到第一输出图像；将与所述残差卷积层结构并列的卷积结构的输出图像和所述残差卷积层结构的输出图像融合后输入所述残差卷积层结构的下一层卷积结构，得到第二输出图像；以及比对所述第一输出图像和所述第二输出图像，得到所述检测结果。

在一实施例中，所述比对所述第一输出图像和所述第二输出图像，得到所述检测结果包括：计算所述第一输出图像和所述第二输出图像的相似度。

在一实施例中，所述根据所述检测结果，调整所述训练后的神经网络模型包括：当所述第一输出图像和所述第二输出图像的相似度小于预设阈值时，调整所述残差卷积层结构的权重，和/或调整与所述残差卷积层结构并列的卷积结构的权重。

在一实施例中，所述训练后的神经网络模型包括多个所述残差卷积层结构，多个所述残差卷积层结构分别与所述多层卷积结构并列。

在一实施例中，所述多层卷积结构中至少包括一层空洞卷积层结构。

在一实施例中，所述空洞卷积层结构包括多个并列且空洞率不同的空洞卷积层。

根据本申请的另一个方面，提供了一种用于医疗图像的网络模型的调整装置，包括：训练模块，用于利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，所述训练后的神经网络模型包括多层卷积结构和残差卷积层结构，所述残差卷积层结构与所述多层卷积结构中的至少一层卷积结构并列；检测模块，用于对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果；以及调整模块，用于根据所述检测结果，调整所述训练后的神经网络模型。

根据本申请的另一个方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一所述的用于医疗图像的网络模型的调整方法。

根据本申请的另一个方面，提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于执行上述任一所述的用于医疗图像的网络模型的调整方法。

本申请提供的一种用于医疗图像的网络模型的调整方法、装置、计算机可读存储介质以及电子设备，利用训练样本训练神经网络模型，得到训练后的神经网络模型，其中该神经网络模型包括多层卷积结构和残差卷积层结构，通过对残差卷积层结构的下一层卷积结构进行检测，得到检测结果，并根据该检测结果调整该神经网络模型，可以在该神经网络模型的运行过程中实时对其进行调整，以提高该神经网络模型应对不同数据的准确性，从而提高了神经网络模型的检测精度和泛化性能。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本申请一示例性实施例提供的一种用于医疗图像的网络模型的调整方法的流程示意图。

图2是本申请一示例性实施例提供的一种检测方法的流程示意图。

图3是本申请一示例性实施例提供的一种用于医疗图像的网络模型的调整装置的结构示意图。

图4是本申请另一示例性实施例提供的一种用于医疗图像的网络模型的调整装置的结构示意图。

图5是本申请一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

示例性方法

图1是本申请一示例性实施例提供的一种用于医疗图像的网络模型的调整方法的流程示意图。如图1所示，该方法包括如下步骤：

步骤110：利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，训练后的神经网络模型包括多层卷积结构和残差卷积层结构，残差卷积层结构与多层卷积结构中的至少一层卷积结构并列。

利用训练样本训练神经网络模型，其中训练样本可以是标准用例，得到训练后的神经网络模型，该神经网络模型包括多层卷积结构和残差卷积层结构，残差卷积层结构与至少一层卷积结构并列，通过多层卷积结构可以逐级识别医疗图像中的特征信息，例如像素值等细节信息和感兴趣区域的位置信息等高级语义信息等，并且由于医疗图像在一层层的卷积结构中会丢失部分特征数据，因此，通过设置残差卷积层结构可以将之前的特征图像或初始医疗图像输入后续的至少一层卷积结构中，以避免前序卷积结构中丢失的特征数据对该卷积结构的影响。

步骤120：对残差卷积层结构的下一层卷积结构进行检测，得到检测结果。

在训练结束后的神经网络模型，其参数通常是固定不变的，即针对不同领域的检测数据(例如不同细分领域的医疗图像)，神经网络模型的参数也不会变化，由于各个细分领域的医疗图像的差距较大，虽然神经网络模型在训练时可以对各个细分领域的医疗图像都进行训练，然而训练的量是有限的，不可能无限制的训练来提高检测精度，而且可能对于不同细分领域神经网络模型需要不同的参数，因此，如果参数不变显然是不利于检测的，本申请实施例通过对残差卷积层结构的下一层卷积结构进行检测，以判断该神经网络模型是否需要调整。

步骤130：根据检测结果，调整训练后的神经网络模型。

当神经网络模型对某一领域的医疗图像进行检测时，可以先对其进行检测，若上述检测结果为该神经网络模型需要调整，则根据该检测结果对该神经网络模型进行调整，以获取最适合当前医疗图像检测的神经网络模型参数，从而提高该神经网络模型的适应范围。

本申请提供的一种用于医疗图像的网络模型的调整方法，利用训练样本训练神经网络模型，得到训练后的神经网络模型，其中该神经网络模型包括多层卷积结构和残差卷积层结构，通过对残差卷积层结构的下一层卷积结构进行检测，得到检测结果，并根据该检测结果调整该神经网络模型，可以在该神经网络模型的运行过程中实时对其进行调整，以提高该神经网络模型应对不同数据的准确性，从而提高了神经网络模型的检测精度和泛化性能。

图2是本申请一示例性实施例提供的一种检测方法的流程示意图。如图2所示，上述步骤120的具体实现方式可以包括：

步骤121：将残差卷积层结构的输出图像输入残差卷积层结构的下一层卷积结构，得到第一输出图像。

由于卷积结构在检测的过程中会因其关注点或学习尺度不同等导致丢失部分数据，并且卷积结构在检测过程中也会存在一定的误差，随着卷积结构的深入，这些误差也会不断叠加，因此，通过将残差卷积层结构的输出图像(初始医疗图像或前序特征图像)输入残差卷积层结构的下一层卷积结构，以得到该下一层卷积结构的第一输出图像，其中第一输出图像不包含该下一层卷积结构之前的卷积结构的所有误差，即为较为准确的输出图像。

步骤122：将与残差卷积层结构并列的卷积结构的输出图像和残差卷积层结构的输出图像融合后输入残差卷积层结构的下一层卷积结构，得到第二输出图像。

在实际的检测过程中，与残差卷积层结构并列的卷积结构的输出图像和残差卷积层结构的输出图像融合后输入下一层卷积结构进行学习，其中融合可以包括拼接、叠加、加权求和等操作，而与残差卷积层结构并列的卷积结构的输出图像中可能会存在之前卷积结构的误差累计，因此，通过将与残差卷积层结构并列的卷积结构的输出图像和残差卷积层结构的输出图像融合后输入残差卷积层结构的下一层卷积结构，得到第二输出图像，该第二输出图像中包含了该下一层卷积结构之前的卷积结构的所有误差。

步骤123：比对第一输出图像和第二输出图像，得到检测结果。

在得到第一输出图像和第二输出图像后，通过比对第一输出图像和第二输出图像，得到检测结果。在一实施例中，步骤123 的具体实现方式可以包括：计算第一输出图像和第二输出图像的相似度。即比对不包含误差的第一输出图像和包含误差的第二输出图像，得到第一输出图像和第二输出图像的相似度，从而可以得知该神经网络模型中残差卷积层结构的下一层卷积结构之前的所有卷积结构是否准确。在一实施例中，训练后的神经网络模型可以包括多个残差卷积层结构，多个残差卷积层结构分别与多层卷积结构并列。通过设置多个残差卷积层结构分别与多层卷积结构并列，可以对每一层卷积结构进行检测，以调整每一层卷积结构的参数，可以更灵活的调整神经网络模型的参数，从而进一步提高其适应范围和准确性。在进一步的实施例中，训练后的神经网络模型还可以包括与多层卷积结构并列的残差卷积层结构，例如该残差卷积层结构可以与连续的两层卷积结构并列，以实现对两层卷积结构同时补偿，该残差卷积层结构还可以之间与所有的卷积结构并列，以实现对所有的卷积结构同时补偿，应当理解，本申请实施例对残差卷积层结构与卷积结构的具体连接结构不做限定。

在一实施例中，步骤130的具体实现方式可以包括：当第一输出图像和第二输出图像的相似度小于预设阈值时，调整残差卷积层结构的权重，和/或调整与残差卷积层结构并列的卷积结构的权重。当第一输出图像和第二输出图像的相似度小于预设阈值时，即说明累计误差对检测结果造成了较大影响，因此，此时需要对神经网络模型进行调整，具体的调整方式是调整残差卷积层结构的权重，和/或调整与残差卷积层结构并列的卷积结构的权重，以实现增加残差卷积层结构的权重或减小与残差卷积层结构并列的卷积结构的权重，即减小累计误差的权重，从而减小累计误差对后续检测的影响，其中该预设阈值可以是人为设定的一个参考值，该预设阈值可以是一固定值，也可以是与应用领域相关的一个变化值。

在一实施例中，多层卷积结构中可以至少包括一层空洞卷积层结构。通过设置空洞卷积层结构，可以增大卷积的视野，从而获取更多的高级语义信息。

在一实施例中，空洞卷积层结构可以包括多个并列且空洞率不同的空洞卷积层。利用不同空洞率的多个空洞卷积层实现多个尺度的卷积操作，从而获取多尺度的细节信息，进一步提高细节信息的准确性，从而进一步提高神经网络模型的准确性。

示例性装置

图3是本申请一示例性实施例提供的一种用于医疗图像的网络模型的调整装置的结构示意图。如图3所示，该调整装置30包括如下模块：

训练模块31，用于利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，训练后的神经网络模型包括多层卷积结构和残差卷积层结构，残差卷积层结构与多层卷积结构中的至少一层卷积结构并列；检测模块32，用于对残差卷积层结构的下一层卷积结构进行检测，得到检测结果；以及调整模块 33，用于根据检测结果，调整训练后的神经网络模型。

本申请提供的一种用于医疗图像的网络模型的调整装置，利用训练模块31训练样本训练神经网络模型，得到训练后的神经网络模型，其中该神经网络模型包括多层卷积结构和残差卷积层结构，通过检测模块32对残差卷积层结构的下一层卷积结构进行检测，得到检测结果，调整模块33根据该检测结果调整该神经网络模型，可以在该神经网络模型的运行过程中实时对其进行调整，以提高该神经网络模型应对不同数据的准确性，从而提高了神经网络模型的检测精度和泛化性能。

图4是本申请另一示例性实施例提供的一种用于医疗图像的网络模型的调整装置的结构示意图。如图4所示，检测模块32可以包括：第一输出单元321，用于将残差卷积层结构的输出图像输入残差卷积层结构的下一层卷积结构，得到第一输出图像；第二输出单元322，用于将与残差卷积层结构并列的卷积结构的输出图像和残差卷积层结构的输出图像融合后输入残差卷积层结构的下一层卷积结构，得到第二输出图像；比对单元323，用于比对第一输出图像和第二输出图像，得到检测结果。

在一实施例中，比对单元323可以进一步配置为：计算第一输出图像和第二输出图像的相似度。

在一实施例中，训练后的神经网络模型可以包括多个残差卷积层结构，多个残差卷积层结构分别与多层卷积结构并列。在进一步的实施例中，训练后的神经网络模型还可以包括与多层卷积结构并列的残差卷积层结构。

在一实施例中，调整模块33可以进一步配置为：当第一输出图像和第二输出图像的相似度小于预设阈值时，调整残差卷积层结构的权重，和/或调整与残差卷积层结构并列的卷积结构的权重。

在一实施例中，多层卷积结构中可以至少包括一层空洞卷积层结构。在进一步的实施例中，空洞卷积层结构可以包括多个并列且空洞率不同的空洞卷积层。利用不同空洞率的多个空洞卷积层实现多个尺度的卷积操作，从而获取多尺度的细节信息，进一步提高细节信息的准确性，从而进一步提高神经网络模型的准确性。

示例性电子设备

下面，参考图5来描述根据本申请实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图5图示了根据本申请实施例的电子设备的框图。

如图5所示，电子设备10包括一个或多个处理器11和存储器 12。

处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备 10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的用于医疗图像的网络模型的调整方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出) 互连。

例如，在该电子设备是第一设备或第二设备时，该输入装置13 可以是摄像头，用于捕捉图像的输入信号。在该电子设备是单机设备时，该输入装置13可以是通信网络连接器，用于从第一设备和第二设备接收所采集的输入信号。

此外，该输入设备13还可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图5中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于医疗图像的网络模型的调整方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于医疗图像的网络模型的调整方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器 (CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (9)

1.一种用于医疗图像的网络模型的调整方法，其特征在于，包括：

利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，所述训练后的神经网络模型包括多层卷积结构和残差卷积层结构，所述残差卷积层结构与所述多层卷积结构中的至少一层卷积结构并列；

对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果；以及

根据所述检测结果，调整所述训练后的神经网络模型的参数；

其中，对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果的方式包括：

将所述残差卷积层结构的输出图像输入所述残差卷积层结构的下一层卷积结构，得到第一输出图像；

将与所述残差卷积层结构并列的卷积结构的输出图像和所述残差卷积层结构的输出图像融合后输入所述残差卷积层结构的下一层卷积结构，得到第二输出图像；以及

比对所述第一输出图像和所述第二输出图像，得到所述检测结果。

2.根据权利要求1所述的调整方法，其特征在于，所述比对所述第一输出图像和所述第二输出图像，得到所述检测结果包括：

计算所述第一输出图像和所述第二输出图像的相似度。

3.根据权利要求2所述的调整方法，其特征在于，所述根据所述检测结果，调整所述训练后的神经网络模型的参数包括：

当所述第一输出图像和所述第二输出图像的相似度小于预设阈值时，调整所述残差卷积层结构的权重，和/或调整与所述残差卷积层结构并列的卷积结构的权重。

4.根据权利要求1所述的调整方法，其特征在于，所述训练后的神经网络模型包括多个所述残差卷积层结构，多个所述残差卷积层结构分别与所述多层卷积结构并列。

5.根据权利要求1所述的调整方法，其特征在于，所述多层卷积结构中至少包括一层空洞卷积层结构。

6.根据权利要求5所述的调整方法，其特征在于，所述空洞卷积层结构包括多个并列且空洞率不同的空洞卷积层。

7.一种用于医疗图像的网络模型的调整装置，其特征在于，包括：

训练模块，用于利用训练样本对神经网络模型进行训练，得到训练后的神经网络模型；其中，所述训练后的神经网络模型包括多层卷积结构和残差卷积层结构，所述残差卷积层结构与所述多层卷积结构中的至少一层卷积结构并列；

检测模块，用于对所述残差卷积层结构的下一层卷积结构进行检测，得到检测结果；以及

调整模块，用于根据所述检测结果，调整所述训练后的神经网络模型的参数；

其中，所述检测模块包括：

第一输出单元，用于将残差卷积层结构的输出图像输入残差卷积层结构的下一层卷积结构，得到第一输出图像；

第二输出单元，用于将与残差卷积层结构并列的卷积结构的输出图像和残差卷积层结构的输出图像融合后输入残差卷积层结构的下一层卷积结构，得到第二输出图像；以及

比对单元，用于比对第一输出图像和第二输出图像，得到检测结果。

8.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-6任一所述的用于医疗图像的网络模型的调整方法。

9.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于执行上述权利要求1-6任一所述的用于医疗图像的网络模型的调整方法。

Images