CN108364289A - Ivoct图像易损斑块自动检测方法 - Google Patents
Ivoct图像易损斑块自动检测方法 Download PDFInfo
- Publication number
- CN108364289A CN108364289A CN201810174582.3A CN201810174582A CN108364289A CN 108364289 A CN108364289 A CN 108364289A CN 201810174582 A CN201810174582 A CN 201810174582A CN 108364289 A CN108364289 A CN 108364289A
- Authority
- CN
- China
- Prior art keywords
- ivoct
- vulnerable plaque
- images
- image
- splicing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10101—Optical tomography; Optical coherence tomography [OCT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30048—Heart; Cardiac
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Abstract
本发明公开了一种IVOCT图像易损斑块自动检测方法,首先收集含有易损斑块的正样本IVOCT图像和不含易损斑块的负样本IVOCT图像,转换至极坐标系并进行去噪处理,将每张IVOCT图像各自进行首尾拼接,在拼接IVOCT图像中采用原图像大小的滑动窗口提取图像并得到所提取图像的镜像图像,然后对每张图像各自进行首尾拼接,从而对样本数据进行增强,采用增强后的训练样本集在Faster R‑CNN网络中进行训练得到检测模型,采用训练得到的检测模型对待检测IVOCT图像进行易损斑块检测,对检测后的图像进行重叠易损斑块区域处理,然后进行检测后处理,得到检测结果,再进行坐标系还原。本发明可以有效改善IVOCT图像易损斑块自动检测的技术性能,结果更具有客观性,可以大大减少医生的工作量。
Description
技术领域
本发明属于IVOCT图像处理技术领域,更为具体地讲,涉及一种IVOCT图像易损斑块自动检测方法。
背景技术
冠心病(coronary heart disease,CAD)是世界上致死率最高的疾病之一。其中,以急性冠状动脉综合征(acute coronary syndrome,ACS)病情最为凶险。而近70%的ACS事件是由冠状动脉动粥样硬化(coronary atherosclerosis)易损斑块(vulnerable plaque)破裂造成的。因此冠状动脉粥样硬化易损斑块是导致ACS的主要元凶,所以需要早期发现易损斑块并积极进行干预。
易损斑块的检测依赖于血管内成像技术(intravascular imaging modality)。目前临床上常用血管内超声成像(intravascular ultrasound,IVUS)技术和血管内光学相干断层扫描(intravascular optical coherence tomography,IVOCT)两种成像技术来检测易损斑块。其中,IVOCT是一种高分辨率(10-20μm)的成像方式,是IVUS的约10倍。Kume和Kubo等人的研究显示,与IVUS相比,IVOCT对易损斑块的检测具有更好的敏感性(sensitivity)和特异性(specificity)。此外,这种技术本身可以进行重复处理,在多次成像之后依然可以保证结果的稳定性。因此,IVOCT技术更适用于易损斑块的检测。
基于IVOCT图像的易损斑块检测的传统方法是医生凭借自己的经验进行肉眼判别,其过程费时费力,结果主观性强。在此背景下,有必要实现冠状动脉粥样硬化易损斑块的自动检测。在前期的研究中,在“Wang,Z.,et al.,Volumetric quantification offibrous caps using intravascular optical coherence tomography.BiomedicalOptics Express,2012.3(6):p.1413-1426.”中提出一种计算机辅助纤维帽(fibrous cap,FC)容积分析的方法来分析易损斑块;此后,他们又提出了一个逻辑回归模型作为定量诊断模型,以显著简化易损斑块的诊断。在“Xu,M.,et al.Automatic image classificationin intravascular optical coherence tomography images.in Region10Conference.2017.”中给出了一个IVOCT图像冠状动脉动粥样硬化疾病检测系统,该系统首先对IVOCT图像进行预处理,然后采用线性SVM分类器对不健康的受试者进行检测。在此基础上,他们增加了图像数据,改进了IVOCT图像的预处理以及支持向量机(SupportVector Machine,SVM)分类器,使得分类更细更准确。
然而,上述研究工作依然采用了传统的图像分类(image classification)或者目标检测(object detection)方法,仅考虑了分类或检测的准确率(precision rate),而未考虑召回率(recall rate)和重合度(overlap rate)等指标,导致临床推广困难。
发明内容
本发明的目的在于克服现有技术的不足,提供一种IVOCT图像易损斑块自动检测方法,准确实现IVOCT图像易损斑块的自动检测,节省医生的工作量。
为实现上述发明目的,本发明IVOCT图像易损斑块自动检测方法包括以下步骤:
S1:收集K张样本IVOCT图像,包括含有易损斑块的正样本IVOCT图像和不含易损斑块的负样本IVOCT图像,将IVOCT图像的大小归一化至预设尺寸,对于每幅正样本IVOCT图像,人工标记出其中的易损斑块区域;
S2:将每张样本IVOCT图像从笛卡尔坐标系转换至极坐标系,记极坐标系下IVOCT图像尺寸为M×N;
S3:对极坐标下的每张样本IVOCT图像进行去噪处理;
S4:将每张去噪后的样本IVOCT图像各自进行首尾拼接,得到M×2N的拼接IVOCT图像,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块;
在拼接IVOCT图像中,以大小为M×N的窗口按预设步长进行滑动提取图像,记得到的IVOCT图像数量为H,然后将H张IVOCT图像进行水平镜像处理得到H张镜像IVOCT图像,共计得到2H张IVOCT图像;对于每张样本IVOCT图像得到的2H张IVOCT图像各自进行首尾拼接,得到2H张拼接IVOCT图像,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块;
K张样本IVOCT图像共计得到K×2H张拼接IVOCT图像,作为数据增强后的训练样本集;
S5:对于步骤S4得到的K×2H张拼接IVOCT图像中的每张拼接IVOCT图像,如果存在易损斑块,则该拼接IVOCT图像为正样本,其标签设置为1,将该拼接IVOCT图像、标签和易损斑块区域的位置信息构成训练数据,否则该拼接IVOCT图像为负样本,其标签设置为0,将该拼接IVOCT图像、标签和整个拼接IVOCT图像区域的位置信息构成训练数据,从而得到训练数据集,然后将得到的训练数据集转化为适合Faster R-CNN网络输入的格式;
S6:采用步骤S5中得到的训练数据集,在Faster R-CNN网络中进行训练,得到检测模型;
S7:当需要对IVOCT图像进行易损斑块检测时,首先将待检测IVOCT图像的大小调整为预设的归一化尺寸,然后转化至极坐标系并进行去噪处理,将得到的IVOCT图像的进行首尾拼接,将拼接IVOCT图像输入步骤S6训练得到的检测模型进行检测,在拼接IVOCT图像中标记出易损斑块的区域;
S8:对于步骤S7输出的拼接IVOCT图像,如果存在重叠的易损斑块区域,则将重叠易损斑块区域合并作为一个易损斑块区域,否则不作任何操作;
S9:对于步骤S8输出的拼接IVOCT图像,如果不存在易损斑块,则直接截取左半部分M×N的图像作为检测结果,如果存在易损斑块则采用以下方法进行检测后处理:
S9.1:对于步骤S8得到的拼接IVOCT图像,截取右半部分图像,提取出其中的易损斑块区域,依次对每个易损斑块区域向左平移N个像素,判断平移后的易损斑块区域是否与左半部分图像中原有的易损斑块区域存在重叠,如果是,则放弃此次平移,否则保留此次平移;
S9.2:截取步骤S9.1得到的拼接IVOCT图像的左半部分区域;
S9.3:在步骤S9.2得到的IVOCT图像中,如果某个易损斑块区域的左边缘与图像左边缘的距离小于预设阈值,或易损斑块区域的右边缘与图像右边缘的距离小于预设阈值,则将该易损斑块区域扩展至图像边缘,否则不作任何操作;将得到的IVOCT图像作为检测结果;
S10:将步骤S9的检测结果从极坐标系转换至笛卡尔坐标系,得到待检测IVOCT图像的易损斑块检测结果。
本发明IVOCT图像易损斑块自动检测方法,首先收集含有易损斑块的正样本IVOCT图像和不含易损斑块的负样本IVOCT图像,将样本IVOCT图像从笛卡尔坐标系转换至极坐标系并进行去噪处理,将每张IVOCT图像各自进行首尾拼接,在拼接IVOCT图像中采用原图像大小的滑动窗口提取图像并得到所提取图像的镜像图像,然后对每张图像各自进行首尾拼接,从而对样本数据进行增强,采用增强后的训练样本集在Faster R-CNN网络中进行训练得到检测模型,采用训练得到的检测模型对待检测IVOCT图像进行易损斑块检测,对检测后的图像进行重叠易损斑块区域处理,然后进行检测后处理,得到检测结果,再进行坐标系还原。本发明采用Faster R-CNN网络,并对样本IVOCT图像进行数据增强预处理,有效改善了IVOCT图像易损斑块自动检测的技术性能,结果更具有客观性,可以大大减少医生的工作量。
附图说明
图1是本发明IVOCT图像易损斑块自动检测方法的具体实施方式流程图;
图2是本实施例中正样本IVOCT图像示例图;
图3是图2所示正样本IVOCT图像转换到极坐标系下的图像;
图4是本实施例中IVOCT图像去除成像导管标定圈和成像导管的示例图;
图5是本实施例中血管壁上方噪声示例图;
图6是本实施例中血管壁上边缘的检测示例图;
图7是本实施例中IVOCT图像去除血管壁以上区域的噪声示例图;
图8是本实施例中IVOCT图像拼接的示例图;
图9是图8所示拼接IVOCT图像采用滑动窗口提取图像然后拼接的示例图;
图10是重叠易损斑块区域的示例图;
图11是图10所示示例的处理结果图;
图12是本发明中检测后处理的流程图;
图13是漏检易损斑块情况1的示例图;
图14是图13所示漏检易损斑块情况1的处理结果图;
图15是漏检易损斑块情况2的示例图;
图16是图15所示漏检易损斑块情况1的处理结果图;
图17是易损斑块区域与图像边缘存在小间隙的两个示例图。
具体实施方式
下面结合附图对本发明的具体实施方式进行描述,以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是,在以下的描述中,当已知功能和设计的详细描述也许会淡化本发明的主要内容时,这些描述在这里将被忽略。
实施例
图1是本发明IVOCT图像易损斑块自动检测方法的具体实施方式流程图。如图1所示,本发明IVOCT图像易损斑块自动检测方法的具体步骤包括:
S101:获取样本IVOCT图像:
收集K张样本IVOCT图像,包括含有易损斑块的正样本IVOCT图像和不含易损斑块的负样本IVOCT图像,将IVOCT图像的大小归一化至预设尺寸,对于每幅正样本IVOCT图像,人工标记出其中的易损斑块区域。
本实施例中,正样本IVOCT图像和负样本IVOCT图像的数量各为1000张,图像大小为704*704(height*width),为单通道8位灰度图。图2是本实施例中正样本IVOCT图像示例图。如图2所示,采用文字和箭头标出了IVOCT成像过程中的成像导管、导丝和血管内壁,扇形区域为医生手工标记的易损斑块区域,图2所示IVOCT图像中存在两个易损斑块A和B。
S102:坐标系变换:
将每张样本IVOCT图像从笛卡尔坐标系转换至极坐标系,以便于后续处理,记极坐标系下IVOCT图像尺寸为M×N。本实施例中转换后极坐标系下的图像大小为352*720(height*width)。图3是图2所示正样本IVOCT图像转换到极坐标系下的图像。如图3所示,A和B为易损斑块,C为成像导管,D为血管壁上方噪声。在极坐标系下,易损斑块区域采用x轴方向的图像像素坐标来表示。
S103:IVOCT图像去噪:
对极坐标下的每张样本IVOCT图像进行去噪处理。去噪处理的具体方法可以根据需要进行选择。
经过对极坐标下的IVOCT图像进行分析,IVOCT图像中对检测结果影响较大的噪声包括成像导管标定圈、成像导管及血管壁上方的噪声,针对这三种噪声,本实施例中设计了去噪方法,其具体方法包括:
1)去除成像导管标定圈和成像导管:
由于成像导管的标定圈在每幅图像中的位置固定,且分布在图像的上方和最底部,因此本实施例中直接将成像导管标定圈对应的像素值全部赋零值。由于成像导管特别明显,且是线状的,它容易影响后面对血管壁边缘检测的效果,因此也将成像导管部分区域所对应的像素值都赋零,成像导管区域的范围根据实际情况设置,本实施例中设置第1至第25行为成像导管部分区域。图4是本实施例中IVOCT图像去除成像导管标定圈和图像上边缘噪声的示例图。如图4所示,通过采用像素赋零的方式,可以去除成像导管标定圈和成像导管。
2)血管壁上方噪声去除
图5是血管壁上方噪声示例图。如图5中两张IVOCT图像所示,血管壁的形状各种各样,凹凸不平,椭圆圈出部分即为血管壁上方的噪声区域。对于这一部分噪声,本实施例中采用以下方法去除:
1)检测血管壁的上边缘:
首先检测血管壁的上边缘,本实施例中所采用的方法如下:首先将IVOCT图像的灰度图像转化为二值图像;对二值图像进行数学形态学运算:先做多次膨胀操作,再做多次腐蚀操作,并取每一列白色像素的最高点,从而得到粗糙的边缘结果;然后采用高阶函数进行拟合,将二值图像的上边缘用一条曲线表示出来。图6是血管壁上边缘的检测示例图。如图6所示,曲线a为粗糙边缘结果,曲线b为拟合边缘结果。但是拟合出来的曲线纵坐标值是浮点型数据,而IVOCT图像灰度图像的列是整型值,故对曲线的纵坐标取整。由于需要拟合的是血管壁的上边缘,为了在去除噪声的同时防止血管壁边缘信息的丢失,将拟合边缘曲线向上平移一定的距离得到曲线c,使得血管壁边缘信息尽可能保留。
2)去除血管壁上边缘的噪声
由于在易损斑块检测中,所需要的信息是血管壁边缘下方的信息,血管壁上边缘的信息都不需要,因此将血管壁上边缘以上的区域填充为黑色,即将这部分区域的像素值置零。图7是血管壁上方噪声去除结果示例图。
S104:IVOCT图像数据增强:
由于IVOCT图像的样本量较少,而本发明在后续检测时使用的FasterR-CNN网络在训练检测模型的时候需要大量的数据,因此,需要对IVOCT图像数据进行增强。
为了更好地进行数据增强,有必要对IVOCT图像中的易损斑块位置和大小进行分析。在正样本IVOCT图像中,有些易损斑块位于图像的左右两侧边缘,且易损斑块区域相对较窄,为了减少过窄斑块对检测结果的影响,本发明中将每张去噪后的样本IVOCT图像各自进行首尾拼接,得到M×2N的拼接IVOCT图像,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块。
图8是IVOCT图像拼接的示例图。如图8所示,在该正样本IVOCT图像中,存在两个易损斑块,分别位于图像左右两侧边缘,且右侧的易损斑块区域很窄,将该IVOCT图像首尾连接在一起,生成大小为352*1440(height*width)的拼接IVOCT图像。这样,左右两侧边缘的易损斑块B和A′就拼接到一起,合并为一个易损斑块C,并且处在整张图像的中间区域。因为在笛卡尔坐标系下,血管壁上边缘是一个闭合的圈,因此,转换到极坐标系以后,采用这种首尾拼接方法依然能够保持像素点之间的拓扑不变性。
在拼接IVOCT图像中,以大小为M×N的窗口按预设步长进行滑动提取图像,记得到的IVOCT图像数量为H,然后将H张IVOCT图像进行水平镜像处理得到H张镜像IVOCT图像,共计得到2H张IVOCT图像。对于每张样本IVOCT图像得到的2H张IVOCT图像各自进行首尾拼接,得到2H张拼接IVOCT图像,同样地,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块。K张样本IVOCT图像共计得到K×2H张拼接IVOCT图像,作为数据增强后的训练样本集。
图9是图8所示拼接IVOCT图像采用滑动窗口提取图像然后拼接的示例图。如图9所示,该示例中在图8所示拼接IVOCT图像采用滑动窗口得到10张大小为352*720的IVOCT图像,提取的每个IVOCT图像中都包含了易损斑块区域,这10张IVOCT图像各自进行首尾拼接,得到10张大小为352*1440的拼接IVOCT图像。
S105:生成训练数据:
对于步骤S104得到的K×2H张拼接IVOCT图像中的每张拼接IVOCT图像,如果存在易损斑块,则该拼接IVOCT图像为正样本,其标签设置为1,将该拼接IVOCT图像、标签和易损斑块区域的位置信息构成训练数据,否则该拼接IVOCT图像为负样本,其标签设置为0,将该拼接IVOCT图像、标签和整个拼接IVOCT图像区域的位置信息构成训练数据,从而得到训练数据集,将得到的训练数据集转化为适合Faster R-CNN网络输入的格式,本实施例中制作成PASCAL VOC 2007格式的数据集。
以图8所示的拼接图像作为正样本示例,其训练数据如下:
0001.png,1,1 140,698 860,1418 1440;
0001.png为文件名字段;1,表示正样本;1 90,表示图像x轴方向上1~90(单位:像素)为第一个易损斑块区域;680 720表示图像x轴方向上680~860为第二个易损斑块区域;1418 1440表示图像x轴方向上1418~1440为第三个易损斑块区域。
负样本的训练数据示例如下:
1001.png,0,1 1440;
1001.png为文件名字段;0,表示负样本,代表整个图像不含易损斑块。1
1440表示整个拼接图像。
S106:训练Faster R-CNN网络:
采用步骤S105中得到的训练数据集,在Faster R-CNN网络中进行训练,得到检测模型。
Faster R-CNN网络是在R-CNN、Fast R-CNN基础上提出的,该模型设计了一种区域建议网络(Region Proposal Network,RPN)来生成建议区域,代替了原来的SelectiveSearch方法,产生建议区域的CNN和目标检测的CNN共享,节省了大量的时间,Faster R-CNN网络的整体结构相当于“RPN+Fast R-CNN”的结合。Faster R-CNN网络的详细介绍可以参见文献“Ren,S.,et al.,Faster R-CNN:Towards Real-Time Object Detection withRegion Proposal Networks.IEEE Transactions on Pattern Analysis&MachineIntelligence,2017.39(6):p.1137-1149.”。本发明采用Faster R-CNN网络来进行IVOCT图像易损斑块的自动检测,能够节省心脏专家的时间和费用,而且减少了主观性。
S107:易损斑块检测:
当需要对IVOCT图像进行易损斑块检测时,首先将待检测IVOCT图像的大小调整为预设的归一化尺寸,然后转化至极坐标系下并进行去噪处理,将得到的IVOCT图像的进行首尾拼接,将拼接IVOCT图像输入步骤S106训练得到的检测模型得到易损斑块的检测结果。当拼接IVOCT图像中存在易损斑块,Faster R-CNN网络检测模型会在拼接IVOCT图像中标记出易损斑块的区域。
S108:重叠易损斑块区域处理:
在检测出易损斑块区域的拼接IVOCT图像中,当存在多个易损斑块区域时,在易损斑块之间可能存在重叠。图10是重叠易损斑块区域的示例图。如图10所示,该示例中检测得到4个易损斑块区域,其中1号易损斑块区域和2号易损斑块区域存在重叠,3号易损斑块区域和4号易损斑块区域存在重叠。当若干个易损斑块区域存在重叠时,将这些易损斑块区域合并作为一个易损斑块区域。图11是图10所示示例的处理结果图。如图11所示,图10中的1号易损斑块区域和2号易损斑块区域合并作为一个易损斑块区域,3号易损斑块区域和4号易损斑块区域合并作为一个易损斑块区域。
因此对于步骤S107输出的拼接IVOCT图像,如果存在重叠的易损斑块区域,则将重叠易损斑块区域合并作为一个易损斑块区域,否则不作任何操作,也就是说,当输出的拼接IVOCT图像不存在易损斑块区域,或者虽然检测出易损斑块区域但不存在重叠,不需要进行重叠易损斑块区域的合并。
S109:检测后处理:
对于步骤S108输出的拼接IVOCT图像,如果不存在易损斑块,则直接截取左半部分M×N的图像作为检测结果,如果存在易损斑块,由于在检测中不可避免存在一定的误差,为了提高检测性能,需要进行检测后处理。本发明中对存在易损斑块的拼接IVOCT图像进行了分析,发现可能存在两种情况:拼接IVOCT图像的右半部分图像(即N+1~2N),存在左半部分图像(即1~N)未检测出的易损斑块区域,即左半部分存在漏检;由于极坐标系图像的左右边缘在笛卡尔坐标系下是连续的,当极坐标系下易损斑块区域与图像边缘存在小间隙时,在转换到笛卡尔坐标系下会造成易损斑块区域不连续。针对上述情况,需要分别采用相应的处理方式来进行处理。图12是本发明中检测后处理的流程图。如图12所示,检测后处理的具体步骤包括:
S1201:漏检易损斑块处理:
对于漏检易损斑块的处理,其实质是将右半部分图像的易损斑块区域映射到左半部分图像中,以可以分为两种情况来进行处理:
情况1:易损斑块位于右半部分图像,即N+1~2N区域中。图13是漏检易损斑块情况1的示例图。对于情况1,其处理方式可以将易损斑块区域对应到左半部分图像,即1~N区域中,也就是将易损斑块区域向左平移N个像素。图14是图13所示漏检易损斑块情况1的处理结果图。
情况2:易损斑块区域横跨了左半部分图像和右半部分图像。图15是漏检易损斑块情况2的示例图。对于情况2,其处理方式是将易损斑块区域处于右半部分图像,即N+1~2N中的易损斑块区域对应到左半部分图像,即1~N区域中,即将原易损斑块区域以拼接线(即x=N)为基准分成两个部分,将处于N+1~2N区域中的易损斑块区域向左平移N个像素。即将易损斑块区域对应到左半部分图像,即1~N区域中,也就是将易损斑块区域向左平移N个像素。图16是图15所示漏检易损斑块情况1的处理结果图。
对以上两种情况进行总结,得到处理方法如下:对于步骤108得到的拼接IVOCT图像,截取右半部分图像,提取出其中的易损斑块区域,依次对每个易损斑块区域向左平移N个像素,判断平移后的易损斑块区域是否与左半部分图像,即1~N区域中原有的易损斑块区域存在重叠,如果是,则放弃此次平移,否则保留此次平移。
S1202:图像尺寸还原:
经过前两个步骤的处理后,易损斑块区域已经集中到拼接IVOCT图像的左半部分区域中,因此截取步骤S1201得到的拼接IVOCT图像的左半部分区域,对IVOCT图像的尺寸进行还原。
S1203:小间隙处理:
在步骤S1201得到的IVOCT图像中,如果某个易损斑块区域的左边缘与图像左边缘的距离小于预设阈值,或易损斑块区域的右边缘与图像右边缘的距离小于预设阈值,则将该易损斑块区域扩展至图像边缘,否则不作任何操作,从而消除检测得到的易损斑块区域与图像边缘之间的小间隙。将得到的IVOCT图像作为检测结果。图17是易损斑块区域与图像边缘存在小间隙的两个示例图。如图17所示,(a)中存在靠近图像左边缘的易损目标区域(x1_L,x2_L),x1_L小于预设阈值,因此该易损斑块区域扩展为(1,x2_L);(b)中存在靠近图像右边缘的易损斑块区域(x1_R,x2_R),x2_R小于预设阈值,因此该易损斑块区域扩展为(x1_R,720),这样就消除了易损斑块区域与图像边缘之间的小间隙。
S110:坐标系还原:
将步骤S109处理后的IVOCT图像从极坐标系转换至笛卡尔坐标系,得到待检测IVOCT图像的易损斑块检测结果。
为了说明本发明的技术效果,采用一个具体的实例进行实验验证。本次实验的实验平台相关参数为:操作系统为64位Windows10旗舰版,硬盘容量为1T,处理器为Intel(R)Core(TM)i7-6800KCPU@3.40GHz 3.40GHz,显卡为NVIDIAGTX1080,内存64.0GB,预装软件有Matlab2015b 64位、Visual Studio Ultimate 2013、64位Anaconda2,基于Caffe框架搭建Faster R-CNN网络。Faster R-CNN提供了三种已训练好的模型:小型的ZF,中型的VGG_CNN_M_1024和大型的VGG16。本实施例中考虑到样本量,采用VGG_CNN_M_1024(end-to-end)模型。
在本次实验验证中,样本IVOCT图像包括1000张正样本IVOCT图像和1000张负样本IVOCT图像,图像大小为352*720(height*width),为单通道8位灰度图。用于测试的IVOCT图像数量为300张。
在评价检测性能时,根据IVOCT图像易损斑块的特点,本次实验采用如下方法来评价易损斑块的检测结果:
设测试IVOCT图像中真实易损斑块集合为{A1,A2,…,AP},其中Ap表示第p个真实易损斑块的区域范围,p=1,2,…,P,P表示真实易损斑块的数量;实际检测出的检测易损斑块集合为{B1,B2,…,BQ},其中Bq表示第q个检测易损斑块的区域范围,q=1,2,…,Q,Q表示检测易损斑块的数量。初始化统计变量N1、N2、N3均为0。
对于Q个检测易损斑块,首先两两判断检测易损斑块的区域范围是否存在交集,如果是,则两个检测易损斑块为错误结果,从检测易损斑块集合中删除。然后遍历检测易损斑块集合中每个检测易损斑块,将其与真实易损斑块集合中每个真实易损斑块进行比对,如果第q个检测易损斑块与第p个真实易损斑块的区域范围存在交集,则采用以下公式计算相关度DSC(p,q):
如果DSC(p,q)大于0.5,则认为第q个检测易损斑块为正确结果,令N1=N1+1;如果第q个检测易损斑块与第p个真实易损斑块的区域范围存在交集但DSC(p,q)小于等于0.5,或第q个检测易损斑块不与任何真实易损斑块的区域范围存在交集,令N2=N2+1。
遍历真实易损斑块集合中每个真实易损斑块,如果不与任何检测易损斑块的区域范围存在交集,则该真实易损斑块被漏检,令N3=N3+1。
易损斑块检测的召回率R的计算公式如下:
上式说明,如果真实的易损斑块在最终的检测结果中未出现,则为漏检,漏检的易损斑块越少,召回率就越高。
易损斑块检测的准确率G的计算公式如下:
上式说明,检测出的易损斑块与真实的易损斑块有交集,且DSC值小于等于0.5,或者检测出的易损斑块与真实的易损斑块没有交集,则为错检,错检越少,准确率越高;
易损斑块检测的重合率D的计算公式如下:
上式说明,易损斑块检测的重合度D为所有大于0.5的相关度的平均值,即DSCn为第n个大于0.5的相关度的值。重合度考虑的是在检测正确的情况下,检测结果的准确性。
易损斑块检测的检测质量因子S的计算公式如下:
D=0.5*(2*G*R/(G+R))+0.5*D
其中S值越大,表示检测的结果越好。根据上式可知,召回率和准确率是相互制约的两个因子,这两项的组合占0.5的权重,而重合度占0.5的权重。
在本次实验验证中,Faster R-CNN网络的关键参数设置如下:置信度阈值(CONF_THRESHOLD):0.7;迭代次数(iters):80k;非极大值阈值(NMS_THRESH):0.3;基学习率(base_lr):0.0001;步长(stepsize):2000。
为了更好地体现本发明的技术优势,本次实验验证中分别针对负样本标签设定、数据增强、检测结果后处理设计实验。
●实验1:
将负样本标签定义为1,即将负样本等同于正样本,但位置信息为负样本拼接IVOCT图像左上角第一个点,即在整张负样本IVOCT图像中含有易损斑块的区域只是一个点。
●实验2:
将负样本标签定义为0,位置信息为负样本拼接IVOCT图像左上角第一个点,即正样本和负样本是不同的两类标签。
●实验3:
将负样本标签定义为0,位置信息为整张负样本拼接IVOCT图像,即将正样本和负样本看成是完全不同的两个类别。
为了与后续数据增强进行对比,以上3个实验中均不采用数据增强。
表1是实验1至实验3的检测结果评价表。
实验 | 召回率R | 准确率G | 重合度D | 最终检测质量因子S |
实验1 | 85.56% | 73.06% | 78.69% | 78.75% |
实验2 | 86.17% | 74.31% | 79.51% | 79.66% |
实验3 | 97.98% | 66.21% | 81.14% | 80.08% |
表1
根据表1的检测结果评价表可知,实验1的检测结果显示召回率为85.56%,即存在部分漏检的区域,实验2的检测结果显示召回率、准确率和重合度较实验1均有所提高,实验3的检测结果显示召回率和重合度较前两个实验有所提高,但是准确率却有所降低,实验3的最终检测质量因子为3个实验中最优。可见,在样本标签的设定上,本发明的负样本标签设定方式,能够充分利用正、负样本之间的差异性,使得最终检测结果的性能更优。
●实验4:
在实验3的基础上,采用步骤S104中的方法进行数据增强。表2是实验4的检测结果评价表。
实验 | 召回率R | 准确率G | 重合度D | 最终检测质量因子S |
实验4 | 94.42% | 72.37% | 83.33% | 82.63% |
表2
根据表2可知,与实验3的检测结果相比,实验4的检测结果中准确率的提升幅度比召回率的下降幅度多了2.6%,召回率虽有下降但仍能达到94%左右;而实验室4的重合度提升到了83.33%,最终检测质量因子得到了明显提高。
为了与检测后处理的检测性能进行对比,以上4个实验均是直接在重叠易损斑块区域处理后的拼接IVOCT图像中截取左半部分图像作为检测结果。接下来对检测后处理进行实验验证。
●实验5:
在实验4的基础上,采用检测后处理中步骤S1201中的方法对拼接IVOCT图像中右半部分的易损斑块区域进行处理。表3是实验5的检测结果评价表。
实验 | 召回率R | 准确率G | 重合度D | 最终检测质量因子S |
实验5 | 96.41% | 71.21% | 83.84% | 82.88% |
表3
根据表3可知,与实验4的检测结果相比,实验5的准确率略有下降,但是召回率存在明显增长,最终检测质量因子稍有提升。
●实验6:
在实验5的基础上,采用检测后处理中步骤S1203中的方法对易损斑块区域与图像边缘的小间隙进行处理。表4是实验6的检测结果评价表。
实验 | 召回率R | 准确率G | 重合度D | 最终检测质量因子S |
实验7 | 96.43% | 78.75% | 84.03% | 85.36% |
表4
根据表4可知,与实验5的检测结果相比,实验6的召回率、准确率和重合度均有提升,其中准确率提升最为明显,准确率提升了6.38%,最终检测质量因子也有较大提升。
根据以上实验可知,本发明IVOCT图像易损斑块自动检测方法具有良好的检测性能,其结果更具有客观性,并且可以大大减少医生的工作量。
尽管上面对本发明说明性的具体实施方式进行了描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
Claims (2)
1.一种IVOCT图像易损斑块自动检测方法,其特征在于包括:
S1:收集K张样本IVOCT图像,包括含有易损斑块的正样本IVOCT图像和不含易损斑块的负样本IVOCT图像,将IVOCT图像的大小归一化至预设尺寸,对于每幅正样本IVOCT图像,人工标记出其中的易损斑块区域;
S2:将每张样本IVOCT图像从笛卡尔坐标系转换至极坐标系,记极坐标系下IVOCT图像尺寸为M×N;
S3:对极坐标下的每张样本IVOCT图像进行去噪处理;
S4:将每张去噪后的样本IVOCT图像各自进行首尾拼接,得到M×2N的拼接IVOCT图像,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块;
在拼接IVOCT图像中,以大小为M×N的窗口按预设步长进行滑动提取图像,记得到的IVOCT图像数量为H,然后将H张IVOCT图像进行水平镜像处理得到H张镜像IVOCT图像,共计得到2H张IVOCT图像;对于每张样本IVOCT图像得到的2H张IVOCT图像各自进行首尾拼接,得到2H张拼接IVOCT图像,在拼接时如果原IVOCT图像的左右两侧均存在易损斑块,且在拼接得到的IVOCT图像相接,则合并为一个易损斑块;
K张样本IVOCT图像共计得到K×2H张拼接IVOCT图像,作为数据增强后的训练样本集;
S5:对于步骤S4得到的K×2H张拼接IVOCT图像中的每张拼接IVOCT图像,如果存在易损斑块,则该拼接IVOCT图像为正样本,其标签设置为1,将该拼接IVOCT图像、标签和易损斑块区域的位置信息构成训练数据,否则该拼接IVOCT图像为负样本,其标签设置为0,将该拼接IVOCT图像、标签和整个拼接IVOCT图像区域的位置信息构成训练数据,从而得到训练数据集,然后将得到的训练数据集转化为适合Faster R-CNN网络输入的格式;
S6:采用步骤S5中得到的训练数据集,在Faster R-CNN网络中进行训练,得到检测模型;
S7:当需要对IVOCT图像进行易损斑块检测时,首先将待检测IVOCT图像的大小调整为预设的归一化尺寸,然后转化至极坐标系并进行去噪处理,将得到的IVOCT图像的进行首尾拼接,将拼接IVOCT图像输入步骤S6训练得到的检测模型进行检测,在拼接IVOCT图像中标记出易损斑块的区域;
S8:对于步骤S7输出的拼接IVOCT图像,如果存在重叠的易损斑块区域,则将重叠易损斑块区域合并作为一个易损斑块区域,否则不作任何操作;
S9:对于步骤S8输出的拼接IVOCT图像,如果不存在易损斑块,则直接截取左半部分M×N的图像作为检测结果,如果存在易损斑块则采用以下方法进行检测后处理:
S9.1:对于步骤S8得到的拼接IVOCT图像,截取右半部分图像,提取出其中的易损斑块区域,依次对每个易损斑块区域向左平移N个像素,判断平移后的易损斑块区域是否与左半部分图像中原有的易损斑块区域存在重叠,如果是,则放弃此次平移,否则保留此次平移;
S9.2:截取步骤S9.1得到的拼接IVOCT图像的左半部分区域;
S9.3:在步骤S9.2得到的IVOCT图像中,如果某个易损斑块区域的左边缘与图像左边缘的距离小于预设阈值,或易损斑块区域的右边缘与图像右边缘的距离小于预设阈值,则将该易损斑块区域扩展至图像边缘,否则不作任何操作;将得到的IVOCT图像作为检测结果;
S10:将步骤S9的输出结果从极坐标系转换至极坐笛卡尔坐标系,得到待检测IVOCT图像的易损斑块检测结果。
2.根据权利要求1所述的IVOCT图像易损斑块自动检测方法,其特征在于,所述步骤S2中样本IVOCT图像去噪处理的具体方法为:
将成像导管标定圈和成像导管对应的像素值全部赋零值,成像导管区域的范围根据实际情况设置;然后检测血管壁的上边缘,将血管壁上边缘以上的区域的像素值置零。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810174582.3A CN108364289B (zh) | 2018-03-02 | 2018-03-02 | Ivoct图像易损斑块自动检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810174582.3A CN108364289B (zh) | 2018-03-02 | 2018-03-02 | Ivoct图像易损斑块自动检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108364289A true CN108364289A (zh) | 2018-08-03 |
CN108364289B CN108364289B (zh) | 2021-05-14 |
Family
ID=63003546
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810174582.3A Active CN108364289B (zh) | 2018-03-02 | 2018-03-02 | Ivoct图像易损斑块自动检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108364289B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070510A (zh) * | 2019-04-26 | 2019-07-30 | 东北大学 | 一种基于vgg-19提取特征的cnn医学图像降噪方法 |
CN110148112A (zh) * | 2019-04-02 | 2019-08-20 | 成都真实维度科技有限公司 | 一种采集并标注断层扫描图数据进行数据集建立的方法 |
CN111651629A (zh) * | 2019-03-27 | 2020-09-11 | 上海铼锶信息技术有限公司 | 一种构建全样本数据的方法和系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1929781A (zh) * | 2003-08-21 | 2007-03-14 | 依斯克姆公司 | 用于脉管斑块检测和分析的自动化方法和系统 |
CN101687014A (zh) * | 2008-04-16 | 2010-03-31 | 犹他大学研究基金会 | 用于治疗病理性血管生成和血管通透的组合物和方法 |
CN105074379A (zh) * | 2013-03-14 | 2015-11-18 | 研究发展基金会 | 用于光学相干断层扫描和双光子荧光成像的设备和方法 |
US20170049328A1 (en) * | 2015-08-21 | 2017-02-23 | Robert R. Alfano | Raman and resonant raman detection of vulnerable plaque optical analyzer and imager |
-
2018
- 2018-03-02 CN CN201810174582.3A patent/CN108364289B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1929781A (zh) * | 2003-08-21 | 2007-03-14 | 依斯克姆公司 | 用于脉管斑块检测和分析的自动化方法和系统 |
US20150016702A1 (en) * | 2003-08-21 | 2015-01-15 | Ischem Corporation | Automated methods and systems for vascular plaque detection and analysis |
CN101687014A (zh) * | 2008-04-16 | 2010-03-31 | 犹他大学研究基金会 | 用于治疗病理性血管生成和血管通透的组合物和方法 |
CN105074379A (zh) * | 2013-03-14 | 2015-11-18 | 研究发展基金会 | 用于光学相干断层扫描和双光子荧光成像的设备和方法 |
US20170049328A1 (en) * | 2015-08-21 | 2017-02-23 | Robert R. Alfano | Raman and resonant raman detection of vulnerable plaque optical analyzer and imager |
Non-Patent Citations (2)
Title |
---|
CHRISTIN STEGEMANN等: "Comparative Lipidomics Profiling of Human Atherosclerotic Plaques", 《JOURNAL OF THE AMERICAN HEART ASSOCITION》 * |
钱卫东等: "中医药干预动脉粥样硬化易损斑块研究进展", 《中华中医药杂志》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111651629A (zh) * | 2019-03-27 | 2020-09-11 | 上海铼锶信息技术有限公司 | 一种构建全样本数据的方法和系统 |
CN111651629B (zh) * | 2019-03-27 | 2023-08-18 | 上海铼锶信息技术有限公司 | 一种构建全样本数据的方法和系统 |
CN110148112A (zh) * | 2019-04-02 | 2019-08-20 | 成都真实维度科技有限公司 | 一种采集并标注断层扫描图数据进行数据集建立的方法 |
CN110070510A (zh) * | 2019-04-26 | 2019-07-30 | 东北大学 | 一种基于vgg-19提取特征的cnn医学图像降噪方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108364289B (zh) | 2021-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yan et al. | 3D context enhanced region-based convolutional neural network for end-to-end lesion detection | |
CN110428432B (zh) | 结肠腺体图像自动分割的深度神经网络算法 | |
Shen et al. | An automated lung segmentation approach using bidirectional chain codes to improve nodule detection accuracy | |
CN1879553B (zh) | 在胸部图像中检测边界的方法及装置 | |
Zhao et al. | Saliency driven vasculature segmentation with infinite perimeter active contour model | |
Hogeweg et al. | Clavicle segmentation in chest radiographs | |
CN112348082B (zh) | 深度学习模型构建方法、影像处理方法及可读存储介质 | |
CN105825516A (zh) | 一种dicom影像血流分析系统 | |
US11357435B2 (en) | Automatic extraction of disease-specific features from doppler images | |
CN106096613A (zh) | 基于角点特征的图像多目标检测方法及装置 | |
CN108364289A (zh) | Ivoct图像易损斑块自动检测方法 | |
de Siqueira et al. | Artificial intelligence applied to support medical decisions for the automatic analysis of echocardiogram images: A systematic review | |
Karaali et al. | DR-VNet: retinal vessel segmentation via dense residual UNet | |
NL2029876A (en) | Deep residual network-based classification system for thyroid cancer computed tomography (ct) images | |
Yamaguchi et al. | Glomerular classification using convolutional neural networks based on defined annotation criteria and concordance evaluation among clinicians | |
CN113034528A (zh) | 基于影像组学的靶区及危及器官勾画轮廓准确性检验方法 | |
Gauch | Multiresolution image shape description | |
CN108416769A (zh) | 基于预处理的ivoct图像易损斑块自动检测方法 | |
CN108876772A (zh) | 一种基于大数据的肺癌图像诊断系统及方法 | |
WO2021094507A1 (en) | Method for analysis of a cytology image | |
CN111325282A (zh) | 适应多机型的乳腺x射线影像识别方法和装置 | |
CN116109812A (zh) | 一种基于非极大值抑制阈值优化的目标检测方法 | |
Adegun et al. | Deep convolutional network-based framework for melanoma lesion detection and segmentation | |
CN113792740B (zh) | 眼底彩照的动静脉分割方法、系统、设备及介质 | |
WO2023226793A1 (zh) | 二尖瓣开口间距检测方法、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |