CN110689545B - 基于主动轮廓和深度学习的模糊边界图像自动分割方法 - Google Patents
基于主动轮廓和深度学习的模糊边界图像自动分割方法 Download PDFInfo
- Publication number
- CN110689545B CN110689545B CN201910846367.8A CN201910846367A CN110689545B CN 110689545 B CN110689545 B CN 110689545B CN 201910846367 A CN201910846367 A CN 201910846367A CN 110689545 B CN110689545 B CN 110689545B
- Authority
- CN
- China
- Prior art keywords
- contour
- point
- energy
- region
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000013135 deep learning Methods 0.000 title claims abstract description 18
- 238000003709 image segmentation Methods 0.000 title abstract description 11
- 230000011218 segmentation Effects 0.000 claims abstract description 62
- 230000006870 function Effects 0.000 claims description 69
- 238000013136 deep learning model Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 7
- 238000012937 correction Methods 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 101000872083 Danio rerio Delta-like protein C Proteins 0.000 claims description 3
- 239000012634 fragment Substances 0.000 claims description 3
- 238000009499 grossing Methods 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 abstract description 6
- 238000003062 neural network model Methods 0.000 abstract description 3
- 210000001685 thyroid gland Anatomy 0.000 description 12
- 238000010586 diagram Methods 0.000 description 3
- 238000013139 quantization Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000002604 ultrasonography Methods 0.000 description 3
- 210000003205 muscle Anatomy 0.000 description 2
- 108010071690 Prealbumin Proteins 0.000 description 1
- 102000009190 Transthyretin Human genes 0.000 description 1
- 210000000621 bronchi Anatomy 0.000 description 1
- 210000001715 carotid artery Anatomy 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/149—Segmentation; Edge detection involving deformable models, e.g. active contour models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20116—Active contour; Active surface; Snakes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20161—Level set
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开一种基于主动轮廓和深度学习的模糊边界图像自动分割方法。所述方法首先使用深度卷积神经网络模型分割模糊边界图像,得到初始的分割结果;然后使用深度卷积神经网络模型分割出的图像内部区域轮廓作为主动轮廓模型的初始化轮廓和轮廓约束;主动轮廓模型通过每个轮廓点周围区域的图像特性驱使轮廓向目标边缘移动,在目标区域和其他背景区域之间得出精准的分割线。本发明在深度卷积神经网络模型的基础上引入主动轮廓模型进一步精化模糊边界图像的分割结果,具备分割图像中模糊边界的能力,进一步提高模糊边界图像的分割准确度。
Description
技术领域
本发明属于模糊边界图像处理的技术领域,具体涉及一种基于主动轮廓和深度学习的模糊边界图像自动分割方法。
背景技术
模糊图像分割的难点在于难以准确的定位复杂的边界和正确分割微小的孤立目标。复杂的边界包括边界模糊、边界消失、边界复杂相互作用、形状多变等。超声图像是一种常见的模糊图像,其低对比度和多噪声的特性往往使得目标边缘模糊甚至消失,目标的实际边界容易受到伪影的影响,甚至部分被大量的伪影掩盖。模糊边界图像的精准分割成为当下的一个挑战。
近年来,深度卷积神经网络模型在语义分割上取得显著的成果,在低对比度图像上也取得了瞩目的结果。模糊边界具有一定的歧义性,在训练阶段容易产生噪声,使得深度模型在模糊边界图像分割的应用上仍然存在模糊边界分割能力不足的问题。在传统的超声图像分割方法中,基于水平集的活动轮廓模型具有对噪声不敏感,能够在目标模糊边界上演化轮廓,使轮廓贴近目标边界的优点。但活动轮廓模型需要初始化轮廓,难以应对复杂的图像。深度卷积神经网络模型已经能够取得较好的模糊边界图像分割结果,在这个分割结果上使用主动轮廓模型能够有效地减轻初始化轮廓对活动轮廓模型的限制,经过局部区域的精调进一步提升模糊边界的分割能力和边界分割结果的准确性。
本发明提出的基于主动轮廓和深度学习的模糊边界图像自动分割方法,结合主动轮廓模型和深度卷积神经网络模型,能够精准地分割模糊边界图像。
发明内容
本发明基于主动轮廓和深度学习的模糊边界图像自动分割方法,实现自动化分割模糊边界图像的同时,进一步提高模糊边界分割的准确度,实现在图像中精准分割具有模糊边界的目标。首先使用深度学习模型分割模糊边界图像,得到初始化的目标分割结果;然后使用主动轮廓模型精调模型的分割结果,得到更加精准的正常边界和模糊边界分割结果。本发明提出的深度主动轮廓模型采用轮廓点局部演化的方式驱使轮廓向目标边界移动,同时使用初始化轮廓约束轮廓过度演化。
本发明的目的至少通过如下技术方案之一实现。
基于主动轮廓和深度学习的模糊边界图像自动分割方法,包括以下步骤:
S1、使用深度学习模型分割模糊边界图像,得到初始化的目标分割结果;
S2、使用主动轮廓模型精调模型的分割结果,得到更加精准的正常边界和模糊边界分割结果,具体包括:
S2.1、使用S1中得到的初始化的目标分割结果中的区域边界初始化主动轮廓模型,构造初始的水平集;
S2.2、使用水平集来表示能量函数,通过能量函数得到曲线演化的偏微分方程;
S2.3、进行轮廓点所在区域的判定;
S2.4、确定各个轮廓点所在的区域之后,计算偏微分方程的值,并迭代演化轮廓,直到达到最大迭代次数或轮廓变动微小或不变则完成分割。
进一步地,步骤S2.1中,通过深度学习模型的分割结果构造主动轮廓模型的初始水平集φI(x,y),初始水平集的定义如下:
其中R(x,y)={0,1}为深度学习模型分割结果,R(x,y)=0表示点(x,y)属于目标区域,R(x,y)=1表示点(x,y)属于非目标区域;处于目标区域与非目标区域分界处的点构成目标边界B,D(x,y)为图像上每个点(x,y)与目标边界B的最短距离。
进一步地,步骤S2.2中,能量函数中共包含三个部分:1)轮廓的周长、面积;2)轮廓局部区域能量;3)轮廓约束能量;
整个能量函数的定义如下:
其中,C表示当前的分割轮廓,C0表示初始化的分割轮廓,Length(C)表示轮廓C的周长,Area(inside(C))表示轮廓C内部区域的面积,μ0(x,y)是指源图像I在(x,y)处的像素强度,c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,p是指轮廓C上的点,p∈N(C)表示轮廓点p处于目标边缘区域内,p∈F(C)表示轮廓点p处于前景(目标)区域内,p∈B(C)表示轮廓点p处于背景区域内,ia(p)是指处于轮廓点p周围且在轮廓C内部的点,oa(p)是指处于轮廓点p周围且在轮廓C外部的点,cip是指满足ia(p)的点的像素强度均值,cop是指满足oa(p)的点的像素强度均值,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;能量函数中的第一项和第二项表示轮廓的周长和面积,作用是使轮廓保持连续、光滑,只与轮廓本身的大小、形状有关;能量函数中的第三项和第四项是轮廓局部区域能量,作用是使轮廓向目标的边界演化,与图像数据有关;能量函数中的第五项是轮廓约束能量,作用是限制当前轮廓向极大偏离初始化轮廓的区域演化,u,v,λ1,λ2,λ3是相应能量项的系数。
进一步地,在能量函数F中,使用水平集方法来表示轮廓C以及轮廓内部和外部;在水平集方法中,图像域Ω中轮廓C表示为零水平集即φ=0,定义为:
使用零水平集即φ=0表示轮廓C;
Heaviside函数H和Dirac函数δ0的定义如下:
使用H表示轮廓C内部和外部:
使用水平集φ、函数H、函数δ0表示轮廓的周长、面积:
Area{φ>0}=∫ΩH(φ(x,y))dxdy;
轮廓约束能量是当前轮廓C和初始化轮廓C0的差异,使用水平集φ、函数H、φI表示,轮廓约束能量表示为当前水平集φ与初始化水平集φI的差异:
(C-C0)2=∫Ω(H(φ(x,y)))-H(φI(x,y))2dxdy;
轮廓局部区域能量是所有轮廓点周围内部和外部能量的总和;轮廓周围区域的能量采用局部计算的方式,对每个轮廓点单独计算其局部区域内轮廓内部和轮廓外部的能量,然后叠加得到总体的能量;使用水平集φ、函数H表示后,轮廓周围区域的能量中的各项定义为:
其中,对于轮廓点C上的点p(xp,yp),φ(p)=0;a(p)表示处于轮廓点p周围,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;ia(p)表示处于轮廓点p周围且在轮廓C内部的点,对于满足ia(p)的点a(xa,ya),φ(xa,ya)>0且oa(p)表示处于轮廓点p周围且在轮廓C外部的点,对于满足oa(p)的点a(xa,ya),φ(xa,ya)<0且
进一步地,在使用水平集方法表示各个能量项后,能量函数F定义为:
其中c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,分别满足:c1(φ)=average(u0)in{φ≥0},c2(φ)=average(u0)in{φ<0};通过水平集φ定义c1和c2:
cip为满足ia(p)的点的像素强度均值,cop为满足oa(p)的点的像素强度均值;
能量函数F通过欧拉-拉格朗日变分法和梯度下降流得到曲线演化的偏微分方程:
其中(x,y)∈a(p)表示点(x,y)处于轮廓点p周围,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;在曲线演化过程中,第n次迭代的水平集为φn,第n+1次迭代的水平集/>使用有限差分的方式计算二维图像中水平方向和竖直方向的偏导数。
进一步地,步骤S2.3中,通过轮廓内外的像素强度差异判定轮廓点p在目标边缘区域内或者非目标边缘区域内,具体方法如下:在模糊边界图像中,目标边缘区域中轮廓周围内部和外部的像素强度均值差异较大,而非目标边缘区域中轮廓周围内部和外部的像素强度均值差异较小;当轮廓点p在非目标边缘区域时,cip与cop的值相近,即cip≈cop,|cip-cop|≤cd,cd是判定cip与cop是否相近的阈值;判定方法按照以下步骤:
S2.3.1、按照逆时针的顺序计算轮廓上每个轮廓点的cip与cop的差值dp,按照dp得到的顺序构建闭环队列D;
S2.3.2、使用宽度为R的高斯滤波器平滑闭环队列D;
S2.3.3、寻找闭环队列D中长度大于2R且dp≤cd的片段ΔC;
S2.3.4、若存在满足步骤S2.3.3的片段,则片段中所有轮廓点处于非目标边缘区域,其他轮廓点处于目标边缘区域;
处于目标边缘区域轮廓点的局部区域内轮廓内部的能量和为:
处于目标边缘区域轮廓点的局部区域内轮廓外部的能量和为:
进一步地,若轮廓点p处于非目标边缘区域,进一步确定轮廓点p处于前景区域或背景区域;由于轮廓点周围的区域特性和所处区域相似,因此将模糊边界图像根据图像特性分为若干个子区域,在这些子区域中确定轮廓点p处于前景区域或背景区域;具体方法如下:
S2.3.5、首先将模糊边界图像根据图像特性分为若干个子区域,确定轮廓片段ΔC所处的子区域O;
S2.3.6、在图像子区域O中建立二维坐标系,以处于轮廓片段ΔC中间的轮廓点坐标位置为二维高斯函数f(x,y)中心点center(x0,y0),以x0与子区域边界1/6最大距离作为高斯函数X轴部分的标准差σx,以y0与子区域边界的1/6最大距离作为高斯函数Y轴部分的标准差σy;使用二维高斯函数给子区域中的每个点赋予权值wij,并分别对轮廓内部和外部的权值wij做标准化处理,得到轮廓内部标准化后的权值wij_in以及轮廓外部标准化后的权值wij_out;
S2.3.7、使用标准化的权值wij_in、wij_out和像素强度μ0(i,j)计算子区域O中轮廓内外的均值co1和co2;当点(i,j)处于子区域O中轮廓内部时,N为处于子区域O中轮廓内部的点的个数;当点(i,j)处于子区域O中轮廓外部时,/>M为处于子区域O中轮廓外部的点的个数;
S2.3.8、计算轮廓片段ΔC中所有轮廓点周围区域的像素强度均值mΔc,比较mΔc与co1和co2的差异,若|mΔc-cο1|≤|mΔc-cο2|,则轮廓片段ΔC中的轮廓点处于前景区域,否则处于背景区域。
进一步地,若轮廓点p处于前景区域,则轮廓点p的演化方向朝向轮廓外部,在能量函数中,演化方向矫正体现为增加前景轮廓点的局部区域内轮廓外部的能量,增加的能量定义为:
若轮廓点p处于背景区域,则轮廓点p的演化方向朝向轮廓内部,在能量函数中,演化方向矫正体现为增加背景轮廓点的局部区域内轮廓内部的能量,增加的能量定义为:
与现有的技术相比,本发明的优点在于:
本发明将活动轮廓模型运用于模糊边界图像分割领域,在深度卷积神经网络模型的分割结果上进一步优化。在构造能量函数时,首次利用每个轮廓点周围区域的特性叠加计算的方式得到与图像像素相关的能量,同时加入对轮廓点所处区域的判定和轮廓点演化方向矫正,使得本方法具备分割模糊边界的能力并提升边界分割的精准度。
附图说明
图1为本发明实施例中的模糊边界原图像——甲状腺超声图像。
图2为本发明实施例的中边界标签图像,白色线条表示甲状腺区域示意图。
图3为本发明实施例中的U-Net深度卷积神经网络分割甲状腺区域的结果示意图。
图4为本发明实施例中基于深度模型U-Net和主动轮廓模型分割甲状腺区域的结果示意图。
图5为本发明实施例中轮廓点p局部区域示意图。
图6为本发明实施例中的甲状腺超声横向扫描图像以及子区域划分示意图。
图7为本发明实施例中的甲状腺超声纵向扫描图像以及子区域划分示意图。
图8为本发明实施例的步骤流程图。
具体实施方式
以下结合附图和实施例对本发明的具体实施作进一步说明,但本发明的实施和保护不限于此。需指出的是,以下若有未特别详细说明之处,均是本领域技术人员可参考现有技术实现的。
实施例:
基于主动轮廓和深度学习的模糊边界图像自动分割方法,如图8所示,包括以下步骤:
S1、对于一张模糊边界图像,如图1所示的甲状腺超声图像,使用训练好的U-Net卷积神经网络模型分割甲状腺区域,得到U-Net分割结果图像;
S2、使用主动轮廓模型精调模型的分割结果,得到更加精准的正常边界和模糊边界分割结果,如图8所示,包括以下步骤:
S2.1、使用图3中的甲状腺区域边界初始化主动轮廓模型,构造初始的水平集φI(x,y);设置主动轮廓模型的参数为μ=1,v=0,λ1=1,λ2=1,λ3=1,Δt=0.1,R=8,cd=8,ε=1;初始水平集的定义如下:
其中R(x,y)={0,1}为深度学习模型分割结果,R(x,y)=0表示点(x,y)属于目标区域,R(x,y)=1表示点(x,y)属于非目标区域;处于目标区域与非目标区域分界处的点构成目标边界B,D(x,y)为图像上每个点(x,y)与目标边界B的最短距离。
S2.2、使用水平集来表示能量函数,通过能量函数得到曲线演化的偏微分方程;
能量函数中共包含三个部分:1)轮廓的周长、面积;2)轮廓局部区域能量;3)轮廓约束能量;
整个能量函数的定义如下:
其中,C表示当前的分割轮廓,C0表示初始化的分割轮廓,Length(C)表示轮廓C的周长,Area(inside(C))表示轮廓C内部区域的面积,μ0(x,y)是指源图像I在(x,y)处的像素强度,c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,p是指轮廓C上的点,p∈N(C)表示轮廓点p处于目标边缘区域内,p∈F(C)表示轮廓点p处于前景(目标)区域内,p∈B(C)表示轮廓点p处于背景区域内,ia(p)是指处于轮廓点p周围且在轮廓C内部的点,oa(p)是指处于轮廓点p周围且在轮廓C外部的点,cip是指满足ia(p)的点的像素强度均值,cop是指满足oa(p)的点的像素强度均值,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;能量函数中的第一项和第二项表示轮廓的周长和面积,作用是使轮廓保持连续、光滑,只与轮廓本身的大小、形状有关;能量函数中的第三项和第四项是轮廓局部区域能量,作用是使轮廓向目标的边界演化,与图像数据有关;能量函数中的第五项是轮廓约束能量,作用是限制当前轮廓向极大偏离初始化轮廓的区域演化,u,v,λ1,λ2,λ3是相应能量项的系数。
进一步地,在能量函数F中,使用水平集方法来表示轮廓C以及轮廓内部和外部;在水平集方法中,图像域Ω中轮廓C表示为零水平集即φ=0,定义为:
使用零水平集即φ=0表示轮廓C;
Heaviside函数H和Dirac函数δ0的定义如下:
使用H表示轮廓C内部和外部:
使用水平集φ、函数H、函数δ0表示轮廓的周长、面积:
Area{φ>0}=∫ΩH(φ(x,y))dxdy;
轮廓约束能量是当前轮廓C和初始化轮廓C0的差异,使用水平集φ、函数H、φI表示,轮廓约束能量表示为当前水平集φ与初始化水平集φI的差异:
(C-C0)2=∫Ω(H(φ(x,y)))-H(φI(x,y))2dxdy;
轮廓局部区域能量是所有轮廓点周围内部和外部能量的总和;轮廓周围区域的能量采用局部计算的方式,对每个轮廓点单独计算其局部区域内轮廓内部和轮廓外部的能量,然后叠加得到总体的能量;使用水平集φ、函数H表示后,轮廓周围区域的能量中的各项定义为:
其中,对于轮廓点C上的点p(xp,yp),φ(p)=0;a(p)表示处于轮廓点p周围,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;ia(p)表示处于轮廓点p周围且在轮廓C内部的点,对于满足ia(p)的点a(xa,ya),φ(xa,ya)>0且oa(p)表示处于轮廓点p周围且在轮廓C外部的点,对于满足oa(p)的点a(xa,ya),φ(xa,ya)<0且
进一步地,在使用水平集方法表示各个能量项后,能量函数F定义为:
其中c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,分别满足:c1(φ)=average(u0)in{φ≥0},c2(φ)=average(u0)in{φ<0}。通过水平集φ定义c1和c2:
cip为满足ia(p)的点的像素强度均值,cop为满足oa(p)的点的像素强度均值;
能量函数F通过欧拉-拉格朗日变分法和梯度下降流得到曲线演化的偏微分方程:
其中(x,y)∈a(p)表示点(x,y)处于轮廓点p周围,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;在曲线演化过程中,第n次迭代的水平集为φn,第n+1次迭代的水平集/>使用有限差分的方式计算二维图像中水平方向和竖直方向的偏导数。
S2.3、进行轮廓点所在区域的判定;如图5所示,黑线方框表示一块图像区域,闭合黑色曲线为轮廓C,轮廓C内部区域表示为Inside(C),轮廓C外部区域表示为Outside(C),点p为轮廓C上的一点,ia(p)是指处于轮廓点p周围且在轮廓C内部的区域,oa(p)是指处于轮廓点p周围且在轮廓C外部的区域,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内,如图中的黑色虚线所画的圆;
通过轮廓内外的像素强度差异判定轮廓点p在目标边缘区域内或者非目标边缘区域内,具体方法如下:在模糊边界图像中,目标边缘区域中轮廓周围内部和外部的像素强度均值差异较大,而非目标边缘区域中轮廓周围内部和外部的像素强度均值差异较小;当轮廓点p在非目标边缘区域时,cip与cop的值相近,即cip≈cop,|cip-cop|≤cd,cd是判定cip与cop是否相近的阈值;如图8所示,判定方法按照以下步骤:
S2.3.1、按照逆时针的顺序计算轮廓上每个轮廓点的cip与cop的差值dp,按照dp得到的顺序构建闭环队列D;
S2.3.2、使用宽度为R的高斯滤波器平滑闭环队列D;
S2.3.3、寻找闭环队列D中长度大于2R且dp≤cd的片段ΔC;
S2.3.4、若存在满足步骤S2.3.3的片段,则片段中所有轮廓点处于非目标边缘区域,其他轮廓点处于目标边缘区域;
处于目标边缘区域轮廓点的局部区域内轮廓内部的能量和为:
处于目标边缘区域轮廓点的局部区域内轮廓外部的能量和为:
进一步地,若轮廓点p处于非目标边缘区域,进一步确定轮廓点p处于前景区域或背景区域;由于轮廓点周围的区域特性和所处区域相似,因此将模糊边界图像根据图像特性分为若干个子区域,在这些子区域中确定轮廓点p处于前景区域或背景区域;在本实例中,使用甲状腺超声图像作为测试图像。甲状腺超声图像分为横向扫描图和纵向扫描图,如图6和图7所示。图6中左右分割线分开支气管和劲动脉区域,上下分割线降低声波衰减的影响,部分甲状腺超声图像中像素强度会随深度加深而减弱,上面普遍比下面要高亮,同时分出肌肉区域。图7上下分割线同样是降低声波衰减的影响,同时分出肌肉区域。在这些子区域中,子区域A、B、C、D确定轮廓点p处于前景区域或背景区域。具体步骤如下:
S2.3.5、首先将模糊边界图像根据图像特性分为若干个子区域,确定轮廓片段ΔC所处的子区域O∈{A,B,C,D};
S2.3.6、在图像子区域O中建立二维坐标系,以处于轮廓片段ΔC中间的轮廓点坐标位置为中心点center(x0,y0),得到二维高斯函数以x0与子区域边界1/6最大距离作为高斯函数X轴部分的标准差σx,以y0与子区域边界的1/6最大距离作为高斯函数Y轴部分的标准差σy;使用二维高斯函数给子区域中的每个点赋予权值wij,并分别对轮廓内部和外部的权值wij做标准化处理,得到轮廓内部标准化后的权值wij_in以及轮廓外部标准化后的权值wij_out;
S2.3.7、使用标准化的权值wij_in,wij_out和像素强度μ0(i,j)计算子区域O中轮廓内外的均值co1和co2;当点(i,j)处于子区域O中轮廓内部时,N为处于子区域O中轮廓内部的点的个数;当点(i,j)处于子区域O中轮廓外部时,/>M为处于子区域O中轮廓外部的点的个数。
S2.3.8、计算轮廓片段ΔC中所有轮廓点周围区域的像素强度均值mΔc,比较mΔc与co1和co2的差异,若|mΔc-cο1|≤|mΔc-cο2|,则轮廓片段ΔC中的轮廓点处于前景区域,否则轮廓点处于背景区域;
若轮廓点p处于前景区域,则轮廓点p的演化方向朝向轮廓外部,在能量函数中,演化方向矫正体现为增加前景轮廓点的局部区域内轮廓外部的能量,增加的能量定义为:
若轮廓点p处于背景区域,则轮廓点p的演化方向朝向轮廓内部,在能量函数中,演化方向矫正体现为增加背景轮廓点的局部区域内轮廓内部的能量,增加的能量定义为:
S2.4、确定各个轮廓点所在的区域之后,计算偏微分方程的值,并通过迭代演化轮廓,直到达到最大迭代次数iter=1000或轮廓变动微小或不变则完成分割。其中,轮廓变动/>表示轮廓的变化情况,若连续多次变动微小则迭代停止。
本实施例中,图2为标准分割的图像,由经验丰富的医生标注。图3中U-Net的分割结果呈现分割错误和分割不足的问题,而在使用主动轮廓模型后,如图4所示,结果图像去除了分割错误的区域,并使轮廓在模糊区域向外扩张覆盖部分分割不足的区域。
基于主动轮廓和深度学习的模糊边界图像自动分割方法,目的是使分割模型能够分割模糊边界区域,同时精调分割轮廓,使分割轮廓尽可能的贴近目标边界。本发明采用深度卷积网络模型和主动轮廓模型结合的方式,使模型达到精准的分割结果。本发明的实验数据为甲状腺超声图像,数据集包含309张图像,其中150张作为训练集,其余159张作为测试集。使用150张训练图像训练U-Net模型,训练好的模型分割159测试图像,然后在使用主动轮廓模型进一步精调U-Net分割结果。分割结果的量化指标如下:
其中TP,TN,FP,FN,AP,and AN分别表示真正类(True Positive),真负类(Truenegative),假正类(False Positive),假负类(False negative),正类(All Positive),负类(All Negative)。对159张图像进行分割后得到的平均量化指标如表1所示。
表1
由上表可知,本发明结合U-Net和主动轮廓模型相比只使用U-Net,在细粒度分割上像素分类准确度更高,Accuracy达到0.9933;在分割为甲状腺的区域中有0.9278为正确的甲状腺区域,提升2.78%的精确度;分割为甲状腺的区域与真正的甲状腺区域的交并比为0.9026,相比只使用U-Net提升1.54%。本发明在量化指标Accuracy、PPV、IOU上的提升,说明本发明能够进一步提高模糊图像中目标分割的精准度,在模糊边界得出精细且精准的分割结果。本发明在U-Net的基础上使用主动轮廓模型得到了更好的模糊边界图像分割结果。基于主动轮廓和深度学习的模糊边界图像自动分割方法具备分割模糊边界图像中的模糊边界的能力,同时精调分割轮廓使轮廓向目标边界贴近。
Claims (8)
1.基于主动轮廓和深度学习的模糊边界图像自动分割方法,其特征在于,包括以下步骤:
S1、使用深度学习模型分割模糊边界图像,得到初始化的目标分割结果;
S2、使用主动轮廓模型精调模型的分割结果,得到更加精准的正常边界和模糊边界分割结果,具体包括:
S2.1、使用S1中得到的初始化的目标分割结果中的区域边界初始化主动轮廓模型,构造初始的水平集;
S2.2、使用水平集来表示能量函数,通过能量函数得到曲线演化的偏微分方程;能量函数中共包含三个部分:1)轮廓的周长、面积;2)轮廓局部区域能量;3)轮廓约束能量;
整个能量函数的定义如下:
其中,C表示当前的分割轮廓,C0表示初始化的分割轮廓,Length(C)表示轮廓C的周长,Area(inside(C))表示轮廓C内部区域的面积,μ0(x,y)是指源图像I在(x,y)处的像素强度,c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,p是指轮廓C上的点,p∈N(C)表示轮廓点p处于目标边缘区域内,p∈F(C)表示轮廓点p处于前景(目标)区域内,p∈B(C)表示轮廓点p处于背景区域内,ia(p)是指处于轮廓点p周围且在轮廓C内部的点,oa(p)是指处于轮廓点p周围且在轮廓C外部的点,cip是指满足ia(p)的点的像素强度均值,cop是指满足oa(p)的点的像素强度均值,所述轮廓点p周围是指以p为圆心,R为半径的圆的范围内;能量函数中的第一项和第二项表示轮廓的周长和面积,作用是使轮廓保持连续、光滑,只与轮廓本身的大小、形状有关;能量函数中的第三项和第四项是轮廓局部区域能量,作用是使轮廓向目标的边界演化,与图像数据有关;能量函数中的第五项是轮廓约束能量,作用是限制当前轮廓向极大偏离初始化轮廓的区域演化,u,v,λ1,λ2,λ3是相应能量项的系数;
S2.3、进行轮廓点所在区域的判定;
S2.4、确定各个轮廓点所在的区域之后,计算偏微分方程的值,并迭代演化轮廓,直到达到最大迭代次数或轮廓变动微小或不变则完成分割。
3.根据权利要求1所述的基于主动轮廓和深度学习的模糊边界图像自动分割方法,其特征在于,在能量函数F中,使用水平集方法来表示轮廓C以及轮廓内部和外部;在水平集方法中,图像域Ω中轮廓C表示为零水平集即φ=0,定义为:
使用零水平集即φ=0表示轮廓C;
Heaviside函数H和Dirac函数δ0的定义如下:
使用H表示轮廓C内部和外部:
使用水平集φ、函数H、函数δ0表示轮廓的周长、面积:
Area{φ>0}=∫ΩH(φ(x,y))dxdy;
轮廓约束能量是当前轮廓C和初始化轮廓C0的差异,使用水平集φ、函数H、φI表示,轮廓约束能量表示为当前水平集φ与初始化水平集φI的差异:
(C-C0)2=∫Ω(H(φ(x,y)))-H(φI(x,y))2dxdy;
轮廓局部区域能量是所有轮廓点周围内部和外部能量的总和;轮廓周围区域的能量采用局部计算的方式,对每个轮廓点单独计算其局部区域内轮廓内部和轮廓外部的能量,然后叠加得到总体的能量;使用水平集φ、函数H表示后,轮廓周围区域的能量中的各项定义为:
4.根据权利要求1所述的基于主动轮廓和深度学习的模糊边界图像自动分割方法,其特征在于,在使用水平集方法表示各个能量项后,能量函数F定义为:
其中c1是指轮廓C内部像素强度均值,c2是指轮廓C外部像素强度均值,分别满足:c1(φ)=average(u0)in{φ≥0},c2(φ)=average(u0)in{φ<0};通过水平集φ定义c1和c2:
能量函数F通过欧拉-拉格朗日变分法和梯度下降流得到曲线演化的偏微分方程:
5.根据权利要求1所述的基于主动轮廓和深度学习的模糊边界图像自动分割方法,其特征在于,步骤S2.3中,通过轮廓内外的像素强度差异判定轮廓点p在目标边缘区域内或者非目标边缘区域内,具体方法如下:在模糊边界图像中,目标边缘区域中轮廓周围内部和外部的像素强度均值差异比非目标边缘区域中轮廓周围内部和外部的像素强度均值差异大;当轮廓点p在非目标边缘区域时,cip与cop的值相近,即cip≈cop,|cip-cop|≤cd,cd是判定cip与cop是否相近的阈值;判定方法按照以下步骤:
S2.3.1、按照逆时针的顺序计算轮廓上每个轮廓点的cip与cop的差值dp,按照dp得到的顺序构建闭环队列D;
S2.3.2、使用宽度为R的高斯滤波器平滑闭环队列D;
S2.3.3、寻找闭环队列D中长度大于2R且dp≤cd的片段ΔC;
S2.3.4、若存在满足步骤S2.3.3的片段,则片段中所有轮廓点处于非目标边缘区域,其他轮廓点处于目标边缘区域;
处于目标边缘区域轮廓点的局部区域内轮廓内部的能量和为:
处于目标边缘区域轮廓点的局部区域内轮廓外部的能量和为:
6.根据权利要求5所述的基于主动轮廓和深度学习的模糊边界图像自动分割方法,其特征在于,若轮廓点p处于非目标边缘区域,进一步确定轮廓点p处于前景区域或背景区域;由于轮廓点周围的区域特性和所处区域相似,因此将模糊边界图像根据图像特性分为若干个子区域,在这些子区域中确定轮廓点p处于前景区域或背景区域;具体方法如下:
S2.3.5、首先将模糊边界图像根据图像特性分为若干个子区域,确定轮廓片段ΔC所处的子区域O;
S2.3.6、在图像子区域O中建立二维坐标系,以处于轮廓片段ΔC中间的轮廓点坐标位置为二维高斯函数f(x,y)中心点center(x0,y0),以x0与子区域边界1/6最大距离作为高斯函数X轴部分的标准差σx,以y0与子区域边界的1/6最大距离作为高斯函数Y轴部分的标准差σy;使用二维高斯函数给子区域中的每个点赋予权值wij,并分别对轮廓内部和外部的权值wij做标准化处理,得到轮廓内部标准化后的权值wij_in以及轮廓外部标准化后的权值wij_out;
S2.3.7、使用标准化的权值wij_in、wij_out和像素强度μ0(i,j)计算子区域O中轮廓内外的均值co1和co2;当点(i,j)处于子区域O中轮廓内部时,N为处于子区域O中轮廓内部的点的个数;当点(i,j)处于子区域O中轮廓外部时,/>M为处于子区域O中轮廓外部的点的个数;
S2.3.8、计算轮廓片段ΔC中所有轮廓点周围区域的像素强度均值mΔc,比较mΔc与co1和co2的差异,若|mΔc-co1|≤|mΔc-co2|,则轮廓片段ΔC中的轮廓点处于前景区域,否则处于背景区域。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910846367.8A CN110689545B (zh) | 2019-09-09 | 2019-09-09 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
PCT/CN2020/125703 WO2021047684A1 (zh) | 2019-09-09 | 2020-10-31 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
US17/641,445 US12073564B2 (en) | 2019-09-09 | 2020-10-31 | Method for automatic segmentation of fuzzy boundary image based on active contour and deep learning |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910846367.8A CN110689545B (zh) | 2019-09-09 | 2019-09-09 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110689545A CN110689545A (zh) | 2020-01-14 |
CN110689545B true CN110689545B (zh) | 2023-06-16 |
Family
ID=69107917
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910846367.8A Active CN110689545B (zh) | 2019-09-09 | 2019-09-09 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US12073564B2 (zh) |
CN (1) | CN110689545B (zh) |
WO (1) | WO2021047684A1 (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110689545B (zh) * | 2019-09-09 | 2023-06-16 | 华南理工大学 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
JP2022182094A (ja) * | 2021-05-27 | 2022-12-08 | 本田技研工業株式会社 | 移動体制御装置、移動体制御方法、およびプログラム |
CN115482246B (zh) * | 2021-05-31 | 2023-06-16 | 数坤(上海)医疗科技有限公司 | 一种图像信息提取方法、装置、电子设备和可读存储介质 |
CN113506314B (zh) * | 2021-06-25 | 2024-04-09 | 北京精密机电控制设备研究所 | 一种复杂背景下对称四边形工件的自动抓取方法及装置 |
CN113724322B (zh) * | 2021-07-30 | 2024-05-07 | 上海动亦科技有限公司 | 一种用于无人叉车的货物托盘定位方法及系统 |
CN114882060B (zh) * | 2021-11-29 | 2024-07-12 | 安徽工业大学 | 基于水平集的肺野图像分割方法和装置 |
CN114387523B (zh) * | 2022-03-23 | 2022-06-03 | 成都理工大学 | 基于dcnn边界引导的遥感图像建筑物提取方法 |
CN114708277B (zh) * | 2022-03-31 | 2023-08-01 | 安徽鲲隆康鑫医疗科技有限公司 | 超声视频图像活动区域自动检索方法和装置 |
CN115859485B (zh) * | 2023-02-27 | 2023-05-23 | 青岛哈尔滨工程大学创新发展中心 | 一种基于船舶外形特征的流线种子点选取方法 |
CN115953690B (zh) * | 2023-03-09 | 2023-05-19 | 济宁市保田农机技术推广专业合作社 | 用于无人收割机行进校准的倒伏作物识别方法 |
CN116402832A (zh) * | 2023-04-10 | 2023-07-07 | 武汉软件工程职业学院(武汉开放大学) | 基于Self-Attention机制的脑组织图像分割模型方法 |
CN116703954B (zh) * | 2023-06-16 | 2024-04-16 | 江南大学 | 一种基于全局预拟合能量驱动的主动轮廓模型方法及系统 |
CN117422880B (zh) * | 2023-12-18 | 2024-03-22 | 齐鲁工业大学(山东省科学院) | 改进的注意力机制与cv模型相结合的分割方法及其系统 |
CN117474927B (zh) * | 2023-12-28 | 2024-03-26 | 山东太阳耐磨件有限公司 | 基于人工智能的驱动齿生产质量检测方法 |
CN117522902B (zh) * | 2024-01-04 | 2024-03-29 | 齐鲁工业大学(山东省科学院) | 一种基于测地线模型的自适应割方法及设备 |
CN118097068B (zh) * | 2024-04-26 | 2024-06-28 | 无锡有田五维增材科技有限公司 | 一种基于空间曲面的轮廓偏置填充方法 |
CN118379289B (zh) * | 2024-06-24 | 2024-09-20 | 江西特乐特铝业有限公司 | 一种铝型材截面的质量检测方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107993237A (zh) * | 2017-11-28 | 2018-05-04 | 山东大学 | 一种基于窄带约束的几何活动轮廓模型图像局部分割方法 |
CN110120057A (zh) * | 2019-04-16 | 2019-08-13 | 东华理工大学 | 基于权重全局和局部拟合能量的模糊区域性活动轮廓分割模型 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7744534B2 (en) * | 2002-06-07 | 2010-06-29 | Verathon Inc. | 3D ultrasound-based instrument for non-invasive measurement of amniotic fluid volume |
US20080118136A1 (en) * | 2006-11-20 | 2008-05-22 | The General Hospital Corporation | Propagating Shell for Segmenting Objects with Fuzzy Boundaries, Automatic Volume Determination and Tumor Detection Using Computer Tomography |
CN103886564A (zh) * | 2013-11-29 | 2014-06-25 | 沈阳东软医疗系统有限公司 | 一种pet心脏图像中心肌轮廓线分割方法和装置 |
CN109069069A (zh) * | 2016-02-09 | 2018-12-21 | 霍兰布罗维尔儿童康复医院 | 分割后吞咽加速测量术数据的信号修整和假阳性去除 |
CN106056576B (zh) * | 2016-03-09 | 2019-05-21 | 华侨大学 | 一种融合边缘和区域特征的ct图像中主动脉的分割方法 |
US10420523B2 (en) * | 2016-03-21 | 2019-09-24 | The Board Of Trustees Of The Leland Stanford Junior University | Adaptive local window-based methods for characterizing features of interest in digital images and systems for practicing same |
CN106447688A (zh) * | 2016-03-31 | 2017-02-22 | 大连海事大学 | 一种高光谱溢油图像的有效分割方法 |
US10157462B2 (en) * | 2016-06-27 | 2018-12-18 | University Of Central Florida Research Foundation, Inc. | System and method for image-based quantification of white and brown adipose tissue at the whole-body, organ and body-region levels |
US10740880B2 (en) * | 2017-01-18 | 2020-08-11 | Elucid Bioimaging Inc. | Systems and methods for analyzing pathologies utilizing quantitative imaging |
AU2018225827A1 (en) * | 2017-02-24 | 2019-08-15 | Holland Bloorview Kids Rehabilitation Hospital | Systems and methods of automatic cough identification |
CN108013904B (zh) | 2017-12-15 | 2020-12-25 | 无锡祥生医疗科技股份有限公司 | 心脏超声成像方法 |
CN114503159A (zh) * | 2019-08-14 | 2022-05-13 | 豪夫迈·罗氏有限公司 | 通过对象检测定位的医学图像的三维对象分割 |
CN110689545B (zh) * | 2019-09-09 | 2023-06-16 | 华南理工大学 | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 |
-
2019
- 2019-09-09 CN CN201910846367.8A patent/CN110689545B/zh active Active
-
2020
- 2020-10-31 WO PCT/CN2020/125703 patent/WO2021047684A1/zh active Application Filing
- 2020-10-31 US US17/641,445 patent/US12073564B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107993237A (zh) * | 2017-11-28 | 2018-05-04 | 山东大学 | 一种基于窄带约束的几何活动轮廓模型图像局部分割方法 |
CN110120057A (zh) * | 2019-04-16 | 2019-08-13 | 东华理工大学 | 基于权重全局和局部拟合能量的模糊区域性活动轮廓分割模型 |
Non-Patent Citations (1)
Title |
---|
结合KL散度和RSF模型的主动轮廓图像分割方法;刘琳 等;《哈尔滨工业大学学报》;20160530;第48卷(第5期);第23-31页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110689545A (zh) | 2020-01-14 |
US20220414891A1 (en) | 2022-12-29 |
WO2021047684A1 (zh) | 2021-03-18 |
US12073564B2 (en) | 2024-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110689545B (zh) | 基于主动轮廓和深度学习的模糊边界图像自动分割方法 | |
WO2021017361A1 (zh) | 一种基于边缘和梯度特征的模板匹配算法 | |
EP3467774A1 (en) | Method for tracking and segmenting a target object in an image using markov chain, and device using the same | |
CN108921800A (zh) | 基于形状自适应搜索窗口的非局部均值去噪方法 | |
CN115797872B (zh) | 基于机器视觉的包装缺陷识别方法、系统、设备及介质 | |
CN107993237A (zh) | 一种基于窄带约束的几何活动轮廓模型图像局部分割方法 | |
CN109472792A (zh) | 结合局部熵的局部能量泛函与非凸正则项的图像分割方法 | |
CN106204592B (zh) | 一种基于局部灰度聚类特征的图像水平集分割方法 | |
JP2017510427A5 (zh) | ||
CN109410147A (zh) | 一种超空泡图像增强方法 | |
CN109191477B (zh) | 基于全局与局部拟合能量的模糊区域型活动轮廓分割模型 | |
CN117593323B (zh) | 一种基于非局部特征的图像分割方法、系统、介质和设备 | |
CN107424153B (zh) | 基于深度学习和水平集的人脸分割方法 | |
CN110473224B (zh) | 一种基于kl熵的rsf水平集图像自动分割方法 | |
CN106780535A (zh) | 一种灰度图像处理方法 | |
CN113643302A (zh) | 基于主动轮廓模型的无监督医学图像分割方法和系统 | |
Yuan et al. | Segmentation of color image based on partial differential equations | |
CN109064425B (zh) | 一种自适应非局部总变分的图像去噪方法 | |
CN107798684B (zh) | 一种基于符号压力函数的活动轮廓图像分割方法及装置 | |
Xiao et al. | Fast level set image and video segmentation using new evolution indicator operators | |
CN109598740B (zh) | 基于双活动轮廓模型的图像分割方法 | |
CN115965642A (zh) | 基于自适应分数阶边缘停止函数的图像分割方法及装置 | |
Li et al. | A two-stage image segmentation model for multi-channel images | |
Korfiatis et al. | Automatic local parameterization of the Chan Vese active contour model’s force coefficients using edge information | |
CN114596320A (zh) | 一种基于alslcv模型的图像分割方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |