发明内容
本发明实施例提供一种检测结节的方法及装置,用于解决现有技术中通过医生经验判断医学影像中是否存在结节的方法效率低的问题。
一方面,本发明实施例提供了一种检测结节的方法,该方法包括:首先获取结节影像,然后提取所述结节影像的不同尺寸的特征图像。针对所述结节影像的不同尺寸的特征图像中的任意一个特征图像,从所述特征图像中确定出结节识别框,之后再根据从各特征图像中确定出的结节识别框确定所述结节影像的结节。由于提取结节影像的不同尺寸的特征图像,并识别每一个特征图像中的结节,故既能检测到大尺寸的结节,同时也能检测到小尺寸的结节,提高了结节检测的精度。其次,相较于人工判断结节影像中是否存在结节的方法,本申请中自动检测结节的方法有效地提高了结节检测的效率。
可选地,提取所述结节影像的不同尺寸的特征图像,具体包括:将所述结节影像依次通过M个3D下采样卷积块提取M个所述结节影像的第一特征图像,每个3D下采样卷积块提取的第一特征图像的尺寸均不同,M大于0。将第M个3D下采样卷积块输出的第一特征图像依次通过M个3D上采样卷积块提取M个所述结节影像的第二特征图像,每个3D上采样卷积块提取的第二特征图像的尺寸均不同。将尺寸相同的第一特征图像和第二特征图像合并后,确定M个所述结节影像的不同尺寸的特征图像。通过3D下采样卷积块提取结节影像的第一特征图像,通过3D上采样卷积块提取提取结节影像的第二特征图像,通过将第一特征图像和第二特征图像进行合并确定特征图像,故特征图像为多层特征图像的特征融合,其表达能力更强。
可选地,所述从所述特征图像中确定出结节识别框,具体包括:针对所述特征图像中任意一个像素,以所述像素为中心,向四周扩散确定第一区域。在所述第一区域中根据预设规则设置多个预设框;针对任意一个预设框,预测所述预设框与所述第一区域的位置偏差,然后根据所述位置偏差调整所述预设框后确定结节识别框,并预测所述结节识别框的结节概率,所述结节概率为结节识别框框选的区域为结节的概率。通过预测预设框与第一区域的位置偏差,然后采用位置偏差调整预设框确定识别框,以使识别框更多地框选特征图中的结节区域,提高结节检测的准确性。
可选地,所述根据从各特征图像中确定出的结节识别框确定所述结节影像的结节,包括:将所述各特征图像转化为同一尺寸的特征图像并对齐,将从各特征图像中确定出的结节识别框进行筛选,并将筛选后的结节识别框确定为所述结节影像中的结节;其中,结节识别框的筛选过程如下:从各特征图像的结节识别框中确定结节概率最大的结节识别框,计算所述结节概率最大的结节识别框与其他结节识别框的交并比;将交并比大于预设阈值的其他结节识别框删除;从剩余的其他结节识别框中确定结节概率最大的结节识别框,重复执行结节识别框的筛选过程,直到没有剩余的其他结节识别框。根据结节识别框的结节概率以及结节识别框之间的交并比对各特征图像中确定出的结节识别框进行筛选,避免重复检测结节影像中的同一个结节并输出,提高检测结节影像中结节数量的准确性。
一方面,本发明实施例提供了一种检测结节的装置,包括:
获取模块,用于获取结节影像;
特征提取模块,用于提取所述结节影像的不同尺寸的特征图像;
识别模块,用于针对所述结节影像的不同尺寸的特征图像中的任意一个特征图像,从所述特征图像中确定出结节识别框;
处理模块,用于根据从各特征图像中确定出的结节识别框确定所述结节影像的结节。
可选地,所述特征提取模块具体用于:
将所述结节影像依次通过M个3D下采样卷积块提取M个所述结节影像的第一特征图像,每个3D下采样卷积块提取的第一特征图像的尺寸均不同,M大于0;
将第M个3D下采样卷积块输出的第一特征图像依次通过M个3D上采样卷积块提取M个所述结节影像的第二特征图像,每个3D上采样卷积块提取的第二特征图像的尺寸均不同;
将尺寸相同的第一特征图像和第二特征图像合并后,确定M个所述结节影像的不同尺寸的特征图像。
可选地,所述识别模块具体用于:
针对所述特征图像中任意一个像素,以所述像素为中心,向四周扩散确定第一区域;
在所述第一区域中根据预设规则设置多个预设框;
针对任意一个预设框,预测所述预设框与所述第一区域的位置偏差;
根据所述位置偏差调整所述预设框后确定结节识别框,并预测所述结节识别框的结节概率,所述结节概率为结节识别框框选的区域为结节的概率。
可选地,所述处理模块具体用于:
将所述各特征图像转化为同一尺寸的特征图像并对齐;
将从各特征图像中确定出的结节识别框进行筛选,并将筛选后的结节识别框确定为所述结节影像中的结节;
其中,结节识别框的筛选过程如下:
从各特征图像的结节识别框中确定结节概率最大的结节识别框;
计算所述结节概率最大的结节识别框与其他结节识别框的交并比;
将交并比大于预设阈值的其他结节识别框删除;
从剩余的其他结节识别框中确定结节概率最大的结节识别框,重复执行结节识别框的筛选过程,直到没有剩余的其他结节识别框。
另一方面,本发明实施例提供了一种计算设备,包括至少一个处理单元以及至少一个存储单元,其中,所述存储单元存储有计算机程序,当所述程序被所述处理单元执行时,使得所述处理单元执行上述任一项所述方法的步骤。
又一方面,本发明实施例提供了一种计算机可读存储介质,其存储有可由计算设备执行的计算机程序,当所述程序在所述计算设备上运行时,使得所述计算设备执行上述任一项所述方法的步骤。
本发明实施例中,由于提取结节影像的不同尺寸的特征图像,并识别每一个特征图像中的结节,故既能检测到大尺寸的结节,同时也能检测到小尺寸的结节,提高了结节检测的精度。其次,相较于人工判断结节影像中是否存在结节的方法,本申请中自动检测结节的方法有效地提高了结节检测效率。另外,根据结节识别框的结节概率以及结节识别框之间的交并比对各特征图像中确定出的结节识别框进行筛选,避免重复检测结节影像中的同一个结节并输出,提高检测结节影像中结节数量的准确性。
具体实施方式
为了使本发明的目的、技术方案及有益效果更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
图1例性示出了本发明实施例提供的一种检测结节的方法的流程,该流程可以由检测结节的装置执行,如图1所示,该流程的具体步骤包括:
步骤S101,获取结节影像。
结节影像为三维图像,结节包括但不限于肺结节、甲状腺结节、乳腺结节。结节影像可以是计算机体层摄影(Computed Tomography,简称CT)影像、磁共振成像(MagneticResonance Imaging,简称MRI)影像等等,为了更清楚的描述结节影像,图2示例性示出了一名患者的肺部CT影像。
步骤S102,提取结节影像的不同尺寸的特征图像。
不同尺寸的特征图像可以为不同像素的特征图像,比如500×500的特征图像与1000×1000的特征图像为不同尺寸的特征图像。
可选地,采用预先训练好的的结节检测模型提取结节影像的不同尺寸的特征图像,结节检测模型是采用3D卷积神经网络对已标记结节的多个结节影像进行训练后确定的。
可选地,在提取结节影像的不同尺寸的特征图像之前,将结节图像缩放到特定尺寸,使各方向上像素与实际长度的比例尺一定。
步骤S103,针对结节影像的不同尺寸的特征图像中的任意一个特征图像,从特征图像中确定出结节识别框。
可选地,采用预先训练好的的结节检测模型从特征图像中确定出结节识别框,结节检测模型是采用3D卷积神经网络对已标记结节的多个结节影像进行训练后确定的。从特征图像中确定出的结节识别框框选的区域并不一定都包含结节,故需要根据结节识别框的结节概率对各结节识别框进行筛选,将结节概率小于预设阈值的结节识别框删除,其中,结节概率为结节识别框框选的区域为结节的概率。
步骤S104,根据从各特征图像中确定出的结节识别框确定结节影像的结节。
确定出结节识别框之后,将识别框作为结节影像中的结节输出,输出的结节参数包括结节的中心坐标以及结节的直径,其中结节的中心坐标为结节识别框的中心坐标,结节的直径为结节识别框的中心至其中一个面的距离。
由于提取结节影像的不同尺寸的特征图像,并识别每一个特征图像中的结节,故既能检测到大尺寸的结节,同时也能检测到小尺寸的结节,提高了结节检测的精度。其次,相较于人工判断结节影像中是否存在结节的方法,本申请中自动检测结节的方法有效地提高了结节检测效率。
由于从各个特征图像中确定出的结节识别框可能存在多个识别框对应一个结节,若直接根据结节识别框的数量确定结节影像中结节的数量,将导致检测得到的结节数量存在很大偏差,故需要将各特征图像转化为同一尺寸的特征图像并对齐,然后将从各特征图像中确定出的结节识别框进行筛选,并将筛选后的结节识别框确定为结节影像中的结节。
可选地,结节识别框的筛选过程包括以下步骤,如图3所示:
步骤S301,从各特征图像的结节识别框中确定结节概率最大的结节识别框。
步骤S302,计算结节概率最大的结节识别框与其他结节识别框的交并比。
步骤S303,将交并比大于预设阈值的其他结节识别框删除。
步骤S304,从剩余的其他结节识别框中确定结节概率最大的结节识别框,重复执行结节识别框的筛选过程,直到没有剩余的其他结节识别框。
下面结合具体的例子对上述结节识别框的筛选过程进行说明,设定各特征图像中确定出的结节识别框分别为A、B、C、D、E、F,上述各结节识别框的结节概率分别为:P(A)=0.9、P(B)=0.85、P(C)=0.95、P(D)=0.75、P(E)=0.96、P(F)=0.65。将上述结节识别框按照结节概率从大到小进行排序后为:E、C、A、B、D、F,排序后可知各特征图像的结节识别框中结节概率最大的结节识别框为E,然后分别计算结节识别框E与其他各结节识别框之间的交并比IOU,其中交并比的计算方式如式(1)所示:
其中,m为结节概率最大的结节识别框,n为与结节识别框m比较的结节识别框,IOU为结节识别框m与结节识别框n之间的交并比。
设定预设阈值为0.5,若结节识别框C与结节识别框E之间的交并比大于0.5,结节识别框A与结节识别框E之间的交并比大于0.5,结节识别框B、结节识别框D、结节识别框F与结节识别框E之间的交并比均小于0.5,则删除结节识别框C和结节识别框A,将结节识别框E确定为结节影像中的结节。
进一步地,将剩余的其他结节识别框B、D、F根据结节概率进行排序,确定结节概率最大的结节识别框为结节识别框B,然后计算结节识别框B与结节识别框D之间的交并比以及结节识别框B与结节识别框F之间的交并比。若结节识别框B与结节识别框D之间的交并比大于0.5,结节识别框B与结节识别框F之间的交并比小于0.5,则删除结节识别框D,将结节识别框B以及结节识别框F确定为结节影像中的结节。由于根据结节识别框的结节概率以及结节识别框之间的交并比对各特征图像中确定出的结节识别框进行筛选,避免重复检测结节影像中的同一个结节并输出,提高检测结节影像中结节数量的准确性。
下面具体介绍一下通过3D卷积神经网络对已标记结节的多个结节影像进行训练确定结节检测模型过程,如图4所示,包括以下步骤:
步骤S401,获取结节影像作为训练样本。
具体地,可以将获取的多幅结节影像直接作为训练样本,也可以对获取的多幅结节影像进行增强操作,扩大训练样本的数据量,增强操作包括但不限于:随机上下左右平移设定像素(比如0~20像素)、随机旋转设定角度(比如-15~15度)、随机缩放设定倍数(比如0.85~1.15倍)。
步骤S402,人工标记训练样本中的结节。
可以通过医生等专业人员对训练样本中的结节进行标记,标记的内容包括结节的中心坐标以及结节的直径。具体地,可以由多名医生对结节进行标注,并通过多人投票合成的方式确定最终的结节以及结节参数,结果用掩码图的方式保存。需要说明的是,人工标记训练样本中结节与训练样本的增强操作不分先后,可以先人工标记训练样本中的结节,然后再将标记结节的训练样本进行增强操作,也可以先将训练样本进行增强操作,然后人工对增强操作后的训练样本进行标记。
步骤S403,将训练样本输入3D卷积神经网络进行训练,确定结节检测模型。
该卷积神经网络的结构包括输入层、3D下采样卷积块、3D上采样卷积块、目标检测网络以及输出层。将训练样本进行预处理后输入上述3D卷积神经网络,将输出的结节与预先标记的训练样本的掩码图进行损失函数计算,然后采用反向传播算法以及sgd优化算法反复迭代,确定结节检测模型。
进一步地,采用上述训练确定的结节检测模型提取结节影像的不同尺寸的特征图像的过程如图5所示,包括以下步骤:
步骤S501,将结节影像依次通过M个3D下采样卷积块提取M个结节影像的第一特征图像。
每个3D下采样卷积块提取的第一特征图像的尺寸均不同,M大于0。
可选地,3D下采样卷积块包括3D卷积层、组连接层、前后连接层、下采样层,3D卷积层包括3D卷积运算、batch normalization层和RELU层。
步骤S502,将第M个3D下采样卷积块输出的第一特征图像依次通过M个3D上采样卷积块提取M个结节影像的第二特征图像。
每个3D上采样卷积块提取的第二特征图像的尺寸均不同。
可选地,3D上采样卷积块包括3D卷积层、组连接层、前后连接层、上采样层以及合成连接层。3D卷积层包括3D卷积运算,batch normalization层和RELU层。
步骤S503,将尺寸相同的第一特征图像和第二特征图像合并后,确定M个结节影像的不同尺寸的特征图像。
通过3D上采样卷积块中的合成连接层将尺寸相同的第一特征图像和第二特征图像合并确定不同尺寸的特征图像。可选地,在合并时,是将第一特征图像和第二特征图像的通道数进行合并,合并后得到的特征图像的尺寸与第一特征图像和第二特征图像的尺寸相同。
进一步地,采用上述训练确定的结节检测模型从特征图像中确定出结节识别框的过程如图6所示,包括以下步骤:
步骤S601,针对特征图像中任意一个像素,以像素为中心,向四周扩散确定第一区域。
步骤S602,在第一区域中根据预设规则设置多个预设框。
预设框可以是二维的,也可以是三维的。由于结节的形状近似球,故可以将预设框设置为正方体,需要说明的是,预设框并不仅限于正方体,还可以是长方体。预设规则可以是将预设框中心与第一区域的中心重合,也可以是预设框的角与第一区域的角重合等等。
步骤S603,针对任意一个预设框,预测预设框与第一区域的位置偏差。
步骤S604,根据位置偏差调整预设框后确定结节识别框,并预测结节识别框的结节概率。
其中,结节概率为结节识别框框选的区域为结节的概率。通过预测预设框与第一区域的位置偏差,然后采用位置偏差调整预设框确定识别框,以使识别框更多地框选特征图中的结节区域,提高结节检测的准确性。
基于相同的技术构思,本发明实施例提供了一种检测结节的装置,如图7所示,该装置可以执行检测结节的方法的流程,该装置70包括获取模块701、特征提取模块702、识别模块703以及处理模块704。
获取模块701,用于获取结节影像;
特征提取模块702,用于提取所述结节影像的不同尺寸的特征图像;
识别模块703,用于针对所述结节影像的不同尺寸的特征图像中的任意一个特征图像,从所述特征图像中确定出结节识别框;
处理模块704,用于根据从各特征图像中确定出的结节识别框确定所述结节影像的结节。
可选地,所述特征提取模块702具体用于:
将所述结节影像依次通过M个3D下采样卷积块提取M个所述结节影像的第一特征图像,每个3D下采样卷积块提取的第一特征图像的尺寸均不同,M大于0;
将第M个3D下采样卷积块输出的第一特征图像依次通过M个3D上采样卷积块提取M个所述结节影像的第二特征图像,每个3D上采样卷积块提取的第二特征图像的尺寸均不同;
将尺寸相同的第一特征图像和第二特征图像合并后,确定M个所述结节影像的不同尺寸的特征图像。
可选地,所述识别模块703具体用于:
针对所述特征图像中任意一个像素,以所述像素为中心,向四周扩散确定第一区域;
在所述第一区域中根据预设规则设置多个预设框;
针对任意一个预设框,预测所述预设框与所述第一区域的位置偏差;
根据所述位置偏差调整所述预设框后确定结节识别框,并预测所述结节识别框的结节概率,所述结节概率为结节识别框框选的区域为结节的概率。
可选地,所述处理模块704具体用于:
将所述各特征图像转化为同一尺寸的特征图像并对齐;
将从各特征图像中确定出的结节识别框进行筛选,并将筛选后的结节识别框确定为所述结节影像中的结节;
其中,结节识别框的筛选过程如下:
从各特征图像的结节识别框中确定结节概率最大的结节识别框;
计算所述结节概率最大的结节识别框与其他结节识别框的交并比;
将交并比大于预设阈值的其他结节识别框删除;
从剩余的其他结节识别框中确定结节概率最大的结节识别框,重复执行结节识别框的筛选过程,直到没有剩余的其他结节识别框。
本发明实施例提供了一种计算设备,包括至少一个处理单元以及至少一个存储单元,其中,所述存储单元存储有计算机程序,当所述程序被所述处理单元执行时,使得所述处理单元执行检测结节的方法的步骤。如图8所示,为本发明实施例中所述的计算设备的硬件结构示意图,该计算设备具体可以为台式计算机、便携式计算机、智能手机、平板电脑等。具体地,该计算设备可以包括存储器801、处理器802及存储在存储器上的计算机程序,所述处理器802执行所述程序时实现上述实施例中的任一检测结节的方法的步骤。其中,存储器801可以包括只读存储器(ROM)和随机存取存储器(RAM),并向处理器802提供存储器801中存储的程序指令和数据。
进一步地,本申请实施例中所述的计算设备还可以包括输入装置803以及输出装置804等。输入装置803可以包括键盘、鼠标、触摸屏等;输出装置804可以包括显示设备,如液晶显示器(Liquid Crystal Display,LCD)、阴极射线管(Cathode Ray Tube,CRT),触摸屏等。存储器801,处理器802、输入装置803和输出装置804可以通过总线或者其他方式连接,图8中以通过总线连接为例。处理器802调用存储器801存储的程序指令并按照获得的程序指令执行上述实施例提供的检测结节的方法。
本发明实施例还提供了一种计算机可读存储介质,其存储有可由计算设备执行的计算机程序,当所述程序在计算设备上运行时,使得所述计算设备执行检测结节的方法的步骤。
本领域内的技术人员应明白,本发明的实施例可提供为方法、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。