CN106682679A - 一种基于水平集超像素和贝叶斯框架的显著性检测方法 - Google Patents
一种基于水平集超像素和贝叶斯框架的显著性检测方法 Download PDFInfo
- Publication number
- CN106682679A CN106682679A CN201610472918.5A CN201610472918A CN106682679A CN 106682679 A CN106682679 A CN 106682679A CN 201610472918 A CN201610472918 A CN 201610472918A CN 106682679 A CN106682679 A CN 106682679A
- Authority
- CN
- China
- Prior art keywords
- pixel
- super
- significance
- image
- signal portion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 53
- 238000000034 method Methods 0.000 claims abstract description 60
- 230000008569 process Effects 0.000 claims abstract description 9
- 230000011218 segmentation Effects 0.000 claims description 20
- 238000003708 edge detection Methods 0.000 claims description 7
- 238000000205 computational method Methods 0.000 claims description 6
- 239000011159 matrix material Substances 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 4
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 claims 1
- 239000003086 colorant Substances 0.000 abstract description 2
- 238000012545 processing Methods 0.000 abstract description 2
- 238000012360 testing method Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 5
- 101001013832 Homo sapiens Mitochondrial peptide methionine sulfoxide reductase Proteins 0.000 description 3
- 102100031767 Mitochondrial peptide methionine sulfoxide reductase Human genes 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000003709 image segmentation Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000005481 NMR spectroscopy Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 235000015170 shellfish Nutrition 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本发明属于图像处理领域,涉及一种基于水平集超像素和贝叶斯框架的显著性检测方法,解决图像显著性检测问题。首先,对水平集方法的结果分割合并,得到适应图像不同区域大小的新超像素。其次,使用图像内部与边缘超像素之间的颜色和距离差异来构建显著性图。然后,使用新超像素来表示显著区域,在贝叶斯框架下提出了三种更新算法,更新显著性图得到显著性结果,同时更新算法可以把现有算法结果优化提高到一个相似水平。最后,使用基于人脸识别的检测算法来处理包含人的图片。该方法能够识别出图像中的最显著部分,同时能够将现有算法的结果提高到一个更优的水平。
Description
技术领域
本发明属于图像处理领域,涉及一种基于水平集超像素和贝叶斯框架的显著性检测方法。
背景技术
图像显著性检测是计算机视觉中具有挑战性的问题,图像显著性是图像中重要的视觉特征,体现了图像中的哪些区域能够引起人们的重视以及重视的程度。显著性检测算法可以分成两大类:使用数据驱动的自底向上方法和基于任务驱动的自顶向下方法。自顶向下的方法通常是针对一个特定的目标或者任务,需要使用有监督的方式学习目标的颜色、形状等特征,然后使用学到的各种信息对输入的图片进行检测,完成特定的识别,这类方法的缺点就是必须要通过训练,而且只能完成特定的目标,方法的扩展性较差。自底向上的方法不需要进行学习,直接通过底层的像素等信息来进行计算,常用的方法是中心-周围对比方法,通过计算一个区域与另外区域之间的差别来查找图片中的显著部分,还有一些方法是基于边缘优先的原则,因为在一幅图像中,边缘的区域更有可能成为背景。
贝叶斯框架在图像的显著性检测中得到了广泛的应用,也具有很好的图像显著性检测效果。Xie等人首先通过计算兴趣点得到代表图像显著部分的凸包,然后使用凸包在贝叶斯框架下计算图像的显著性图。Qin等人在贝叶斯框架下使用多层元胞自动机融合现有最先进的显著性检测算法,得到了很好的效果。
超像素在图像显著性检测中也得到了广泛的应用,是很多算法的基本运算单位,相比以像素为基本单位,超像素能够减少计算量和复杂度,很多算法都是基于简单线性迭代聚类SLIC算法,该算法基于像素的颜色相似性和空间位置 的接近程度对图像进行聚类,得到指定数量的超像素且超像素大小相近。但是,在一幅图像中,不同区域的大小往往是不相同的,分成大小相近的超像素就造成了较大区域的再分割,不能很好地体现区域的整体性,这会增加算法的计算量且会降低运算的准确性。
近年来,水平集方法在处理图像分割问题中表现出了很好的性能,Li等人使用灰度不均匀的水平集方法对图像进行分割,得到了很好的效果,并且应用在了磁共振成像中。但是水平集方法得到的图像分割结果往往存在图像分割过大或者过小的问题,造成了不同区域分割不明显或者分割过小从而会影响准确性。
本发明提出了基于水平集的超像素分割方法来得到适应图像中不同区域大小的新超像素。然后提出了基于新的超像素和贝叶斯框架的显著性检测和更新算法,对基于内部和边缘超像素间的颜色位置差异构建的显著性图进行更新得到显著性检测结果,同时可以将现有算法优化提高到一个相似的水平。最后提出了人脸识别的显著性检测来针对包含人的图片的显著性检测问题。
发明内容
本发明提出了一种基于水平集超像素和贝叶斯框架的显著性检测方法,目的在于克服上述现有技术的不足,得到一种更加准确的显著性检测方法。
为了实现上述目的,本发明的技术方案为:
一种基于水平集超像素和贝叶斯框架的显著性检测方法,包括以下步骤:
第一步,应用基于灰度不均匀的水平集方法对图像进行分割,得到初始超像素。从分割结果中得出,采用灰度不均匀的水平集方法得到的超像素大小不同,但是有些超像素分割太小,也有一些不属于同一区域的部分被划分在同一个超像素。现在要解决的问题可以描述为:对水平集方法得到的新超像素进行分割合并得到适应图像中不同区域大小的超像素。
第二步,分割合并第一步得到的初始超像素,得到新的超像素,使新的超像素适应图像中不同区域的大小;所述的第二步中对超像素分割合并的包括以下三种方法:
2.1)将整幅图像转换成灰度图像,使用K均值聚类算法将灰度图像按照灰度值分成K类,将聚类后的每一类与初始超像素中每个大的超像素的交集从初始超像素中分离出来,作为一个新的超像素,新的超像素存在小的超像素;
2.2)使用K均值算法将初始超像素中每个大的超像素内部分成K类,将K类超像素从初始超像素中分离出来,每一类作为一个新的超像素,新的超像素存在小的超像素。
2.3)使用边缘检测处理初始超像素,分别计算Prewitt算子、Prewitt算子、Sobel算子,合并三种算法的结果,得到新的边缘检测结果,保存在一个跟输入灰度图片大小相同的二维矩阵中,二维矩阵中1表示边缘,0表示内部;计算初始超像素中每个超像素中0的像素个数所占的比例T,若T≥0.95,则在该超像素相邻的超像素中查找最大的超像素,若最大的超像素与该超像素颜色相近,把该超像素合并到最大的超像素中,得到一个新的超像素,新的超像素存在小的超像素,否则不进行合并。第三步,合并第二步得到的新的超像素中小的超像素,得到最终超像素,提高算法准确性;所述的小的超像素为在超像素内部像素个数小于200的超像素。
上述三种方法分割合并过程中用到超像素的颜色特征,使用CIELAB颜色空间描述图像及超像素的颜色特征,因为与RGB和CMYK颜色空间相比,CIELAB颜色空间更接近人类的视觉,每个超像素的颜色特征是该超像素内部每个像素颜色特征的均值。两个超像素的颜色差异difc由公式(1)得到:
difc=||ci,cj|| (1)
其中,||ci,cj||是超像素i和j在CIELAB空间中的欧式距离;difc是两个超像素的颜色差异,设定difc<0.2时表示两个超像素的颜色相近。
第三步,合并第二步得到的新的超像素中小的超像素,得到最终超像素;所述的小的超像素为在超像素内部像素个数小于200的超像素。
3.1)小于30的过小超像素直接合并到与其相邻的超像素中大于该超像素的超像素中;
3.2)大于等于30的小的超像素,将该超像素与相邻的大的超像素进行颜色特征和距离特征的比较,选择其中一个最相近的超像素进行合并。
第四步,构建初始显著性图
本发明提出的基于新的超像素和贝叶斯框架的显著性检测算法是基于图像背景即图像的边缘部分,因为在一幅图像中边缘更有可能是背景。以图像边缘部分的最终超像素为基础,使用K均值聚类算法将边缘超像素分成3类,超像素与每类边缘超像素的颜色差异由公式(2)计算,超像素与每类边缘超像素的距离关系由公式(3)计算;基于图像边缘超像素得到的颜色差异和距离差异,得到一个初始显著性图S,S用公式(4)计算:
其中,σ1=0.2;β=10;σ2=1.3;pk是属于第k类超像素的总数;sk,i是以第k个边缘聚类为基础,第i个超像素的显著性值;wk,i是以第k个边缘聚类为基础,第i个超像素的空间距离;ri和rj是超像素i和j的坐标;
第五步,贝叶斯框架下的图像显著性检测,得到一个灰度检测性图
将最终超像素作为图像的显著部分,并将图像分成两部分:显著区域I和非显著区域O,利用贝叶斯框架来进行显著性检测,得到一个灰度检测性图,图中每个像素对应的灰度值代表该像素是否属于显著部分的可能性;由公式(5)和公式(6)计算每个像素的后验概率:
p(bk)=1-p(sal) (6)
其中,p(sal|v)是p(sal=1|v)的简写,p(sal)是一个像素是显著像素的先验概率,p(v|sal)是p(v|sal=1)的简写,代表观测似然概率,p(v|bk)是p(v|bk=1)的简写,代表观测似然概率;
第六步,在灰度检测性图中的显著部分包含多个超像素,由相邻超像素之间的相似性增加超像素显著性,利用SUNSB算法中的三种观测似然概率的计算方法,在贝叶斯框架下更新显著性图;所述的显著部分中超像素的显著性值大于等于0.8;
第七步,基于人脸识别的显著性更新
通过与真值进行比较,发现对于有人的图片,显著性的部分往往是包含人的部分,但是的更新方法对人的检测这方面效果不明显,特别是对人的头部的检测,提出了人脸检测的方法来增加包含人的这部分的显著性同时减少不相关部分的显著性。使用Face++提供的接口对人脸进行检测,如果检测到人脸,则对第六步得到的更新后的显著性图进行显著性更新;如果没有检测到人脸,则图像的显著性不更新。
本发明的有益效果为:该方法区别于已有方法的特色在于,利用水平集方法分割图像得到适应图像中不同区域大小的新超像素,以此来表示图像中的显著区域,在贝叶斯框架下提出了三种更新算法来更新初始显著性图,并且使用 了人脸识别技术来处理包含人的图片。该方法的显著性检测结果更接近真值,同时该方法还能够将现有方法结果优化提高到一个相似的水平。
附图说明
图1是本发明方法的流程示意图;
图2是不同算法的显著性检测结果对比图;(a)待检测图片,(b)MR算法得到的显著性结果,(c)GMR算法得到的显著性结果,(d)wCO算法得到的显著性结果,(e)XL算法得到的显著性结果,(f)BSCA算法得到的显著性结果,(g)本发明得到的显著性检测结果,(h)真值;
图3是不同算法添加本发明中的人脸检测方法之后得到的显著性检测结果对比图;(a)待检测图片,(b)MR算法使用本发明人脸检测算法后的结果,(c)GMR算法使用本发明人脸检测算法后的结果,(d)wCO算法使用本发明人脸检测算法后的结果,(e)XL算法使用本发明人脸检测算法后的结果,(f)BSCA算法使用本发明人脸检测算法后的结果,(g)本发明算法使用本发明人脸检测算法后的结果,(h)真值;
图4(a)为本发明与其他显著性检测方法在ECSSD标准数据库上的PR(准确率、召回率)曲线;
图4(b)为本发明与其他显著性检测方法在ECSSD标准数据库上的F-measure曲线结果图;
图5(a)为本发明与其他显著性检测方法在DUT-OMRON标准数据库上的PR(准确率、召回率)曲线;
图5(b)为本发明与其他显著性检测方法在DUT-OMRON标准数据库上的F-measure曲线结果图;
具体实施方式
下面结合附图对本发明的实施方式进行详细说明。本实施例以本发明技术方 案为前提进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
在四个标准的数据库上对提出的算法进行测试:Pascal-S数据库,该数据库中包含了850张图片,图片中有一些背景比较复杂的图片,数据库复杂度比较高。ECSSD数据库,该数据库包含了1000张图片,图片大小不同且有多种目标。MSRA数据库,含有像素级别的真值标注,图片复杂度较高。DUT-OMRON数据库,该数据库中包含5168张图片,含有像素级别的真值标注,图片背景复杂,目标大小不同,具有很大的挑战性。这四个数据库都有相应的人工标定的显著性区域图。
图1是本发明方法的流程示意图;图2是本发明与其他不同算法的显著性检测结果对比图;图3是不同算法添加本发明中的人脸检测方法之后得到的显著性检测结果对比图;图4(a)、图4(b)、图5(a)和图4(b)是不同显著性检测方法在四个标准数据库上PR(准确率,召回率)曲线和F-measure曲线结果图。实现本发明的具体步骤为:
第一步,使用水平集方法分割图像得到初始超像素
应用基于灰度不均匀的水平集方法对图像进行分割,得到初始的超像素。从分割结果中可以看出,灰度不均匀的水平集方法得到的超像素大小不同,但是有些超像素分割太小,也有一些不属于同一区域的部分被划分在同一个超像素中。现在要解决的问题可以描述为:对水平集方法得到的新超像素进行分割合并得到适应图像中不同区域大小的超像素。
步骤二,分割合并初始超像素得到新的超像素
分割合并第一步得到的初始超像素,得到新的超像素,使新的超像素适应图像中不同区域的大小;所述的第二步中对超像素分割合并的包括以下三种方 法:
2.1)将整幅图像转换成灰度图像,使用K均值聚类算法将灰度图像按照灰度值分成K类,将聚类后的每一类与初始超像素中每个大的超像素的交集从初始超像素中分离出来,作为一个新的超像素,新的超像素存在小的超像素;
2.2)使用K均值算法将初始超像素中每个大的超像素内部分成K类,将K类超像素从初始超像素中分离出来,每一类作为一个新的超像素,新的超像素存在小的超像素。
2.3)使用边缘检测处理初始超像素,分别计算Prewitt算子、Prewitt算子、Sobel算子,合并三种算法的结果,得到新的边缘检测结果,保存在一个跟输入灰度图片大小相同的二维矩阵中,二维矩阵中1表示边缘,0表示内部;计算初始超像素中每个超像素中0的像素个数所占的比例T,若T≥0.95,则在该超像素相邻的超像素中查找最大的超像素,若最大的超像素与该超像素颜色相近,把该超像素合并到最大的超像素中,得到一个新的超像素,新的超像素存在小的超像素,否则不进行合并。
上述三种方法分割合并过程中用到超像素的颜色特征,两个超像素的颜色差异difc由公式(1)得到:
difc=||ci,cj|| (1)
其中,||ci,cj||是超像素i和j在CIELAB空间中的欧式距离;difc是两个超像素的颜色差异,设定difc<0.2时表示两个超像素的颜色相近。
第三步,合并小的超像素
在超像素分割中会产生很多小的超像素,所述的小的超像素为在超像素内部像素个数小于200的超像素,需要进行合并。对于小的超像素,所述的合并包括以下两种方法:
3.1)小于30的过小超像素直接合并到与其相邻的超像素中大于该超像素的超像素中。
3.2)大于等于30的小的超像素,将该超像素与相邻的大的超像素进行颜色特征和距离特征的比较,选择其中一个最相近的超像素进行合并;
下面基于步骤一和步骤二说明新超像素生成算法流程:
步骤1读入图像,利用水平集方法得到水平集超像素Sl。
步骤2对Sl使用K均值聚类分割大的超像素得到Skl。
步骤3将输入图像转成灰度图像,使用K均值聚类分割灰度图像得到Skg。
步骤4使用Roberts,Prewitt,Sobel边缘检测方法分割Sl得到Slb。
步骤5对Skl Skg Slb取交集得到新超像素Sm。
步骤6对Sm中小的超像素进行合并得到最终的新超像素。
第四步,构建初始显著性图
提出的基于新的超像素和贝叶斯框架的显著性检测算法是基于图像背景即图像的边缘部分,因为在一幅图像中边缘更有可能是背景。以图像边缘部分的最终超像素为基础,使用K均值聚类算法将边缘超像素分成3类,超像素与每类边缘超像素的颜色差异由公式(2)计算,超像素与每类边缘超像素的距离关系由公式(3)计算;基于图像边缘超像素得到的颜色差异和距离差异,得到一个初始显著性图S,S用公式(4)计算:
其中,σ1=0.2;β=10;σ2=1.3;pk是属于第k类超像素的总数;sk,i是以第k个边缘聚类为基础,第i个超像素的显著性值;wk,i是以第k个边缘聚类为基础,第i个超像素的空间距离;ri和rj是超像素i和j的坐标;
第五步,在贝叶斯框架下更新初始显著性图
5.1)基于得到的最终超像素,利用贝叶斯框架来进行显著性检测,得到一个灰度检测性图,图中每个像素对应的灰度值代表了该像素是否属于显著部分的可能性;由公式(5)和公式(6)计算每个像素的后验概率:
p(bk)=1-p(sal) (6)
其中,p(sal|v)是p(sal=1|v)的简写,表示后验概率,p(sal)是一个像素是显著像素的先验概率,p(v|sal)是p(v|sal=1)的简写,代表观测似然概率,p(v|bk)是p(v|bk=1)的简写,代表观测似然概率。
本发明基于中心周围原则来计算观测似然概率,Alexe等人滑动窗口在图像中扫描来查找目标所有可能出现的位置,窗口要考虑不同的尺寸,但是计算量很大,计算的冗余度也很高;Xie等人来作为显著部分的位置减轻了计算量,但是凸包并不能很准确的将属于同一部分的区域的轮廓标注出来,这就会产生误差;为了解决凸包轮廓不准确的问题,使用基于水平集算法得到的最终超像素作为图像的显著部分,将图像分成两部分:显著区域I和非显著区域O。
5.2)使用如下两个公式来计算像素v的观测似然函数:
其中,使用[l,a,b]来表示每个像素v,NI表示显著区域I内部的像素数量,NO表示非显著区域O内部像素的数量,NI(f(v))表示在区域I中颜色值f(v)所在颜色区间在颜色直方图中的值,NO(f(v))是在区域O中对应的颜色直方图中的值;
5.3)基于最终超像素和贝叶斯框架的显著性更新算法SUNSB,通过以下三种方法表示显著区域I和非显著区域O,代入公式(5)中计算观测似然概率:
5.3.1)以图像中不显著的部分作为显著区域I
将第三步得到的初始显著性图的四条边上最终超像素和除了四条边之外的所有显著性值小于等于0.2的最终超像素作为非显著区域O,剩下的所有超像素作为显著区域I,代入公式(5)中进行计算,降低被误划入显著部分的非显著像素的显著性;
5.3.2)以显著性图中最显著的部分作为区域I
在第三步得到的初始显著性图中查找显著性值大于等于0.8的超像素作为显著区域I,剩下的所有超像素作为非显著区域O,代入公式(5)中进行计算,增加被误划入非显著区域的显著像素的显著性;
5.3.3)最终超像素中存在多个显著性值大于等于0.8的显著性强的超像素,将每个显著性强的超像素作为显著区域I,剩下的所有超像素作为非显著区域O,分别代入公式(5)中进行计算,多次更新显著性图;
第六步,根据显著部分增加相邻超像素的显著性并在贝叶斯框架下更新显著性图
在灰度检测性图中的显著部分包含多个超像素,由相邻超像素之间的相似性增加超像素显著性,利用SUNSB算法中的三种观测似然概率的计算方法,在贝叶斯框架下更新显著性图;所述的显著部分中超像素的显著性值大于等于0.8; 利用相邻超像素之间的相似性来增加超像素显著性的步骤如下:
6.1)如果灰度检测性图中的显著部分的像素个数大于8000,则采用第五步5.3)的方法计算公式(5),降低被误划入显著部分的非显著像素的显著性;如果显著部分中像素个数小于等于8000,进行下一步。
6.2)查找与显著部分中显著性值大于等于0.8的超像素S1相邻的所有超像素S2,用公式(1)计算S2中的每个超像素与S1中的每个超像素的颜色差异;用公式(9)计算S2中的每个超像素与S1中的每个超像素的距离:
dis tan ce=||ri,rj|| (9)
其中,ri和rj是超像素i和j的坐标,distance是两个超像素之间的距离。
6.3)对于步骤6.2)S2中像素个数小于6000的每个超像素,在每个超像素原来的显著性值基础上加上sal得到更新后的显著性值,相邻超像素的显著性增加之后,使用第五步中的三种观测似然概率的计算方法更新显著性图,具体包括以下步骤:
6.3.1)由灰度检测性图中的显著部分增加相邻超像素的显著性,得到初始显著性图su。
6.3.2)使用第五步5.3)两次更新su后,再加上su×2.5得到su1。
6.3.3)使用第五步5.1)更新su1得到su2。
6.3.4)使用第五步5.2)更新su1得到su3。
6.3.4)su2与su3取均值得到更新后的显著性图。
步骤七、基于人脸识别的显著性更新
通过与真值进行比较,发现对于有人的图片,显著性的部分往往是包含人的部分,但是的更新方法对人的检测这方面效果不明显,特别是对人的头部的检测,所以提出了人脸检测的方法来增加包含人的这部分的显著性同时减少不相关部分的显著性。使用Face++提供的接口对人脸进行检测,如果检测到人脸, 则对第六步得到的更新后的显著性图进行显著性更新;如果没有检测到人脸,则图像的显著性不更新。
人脸识别的返回结果是一个矩形,这个矩形中包含了检测到的人脸(可能同时检测到多张脸),图片中的小矩形框表示人脸的位置(为了检测头部所在的位置,将矩形框适当地进行了扩大)。对于每张检测到的脸,使用SLIC算法将图片分成400个超像素,保存矩形框包含的所有的超像素(部分超像素并未完全在矩形框中,如果超像素内部像素只有很少一部分在矩形框中就删除该超像素)。
对于包含人的图片,往往也包含部分或者全部的身体部分,按照人的头部和身体比例,假设头部所在的矩形框的左上角坐标为(x,y),设置左上角坐标为(x+h,y-w/2),宽度为3w,高度为6h的部分作为身体的大致位置(该位置可能会超出图片的范围,超出部分不计),其中w和h分别为头部所在矩形框的宽度和高度。在身体所在的矩形框内,使用基于水平集得到的最终超像素,查找所有显著的超像素,剩下的超像素为非显著的。对于每个非显著的超像素,在显著的超像素中查找颜色相似的超像素,颜色的相似度使用公式(1)来计算,如果两个超像素颜色相近,取显著部分的超像素的均值作为该非显著超像素的显著性值。最后为了减少人所在之外部分的显著性,首先保存人体的头部和身体部分所在的矩形框内的最终超像素(有的超像素只有部分像素包含在矩形框中),矩形框进行了适当的扩大来减少误差,对于人体所在部分之外的最终超像素,减少其显著性值。
本发明使用的F-measure整体性能的评价标准具体计算方法为:
其中,β2设置为0.3,precision为精确度,recall为召回率,Fβ是评价标准值。
表1是本发明使用像素单位上的平均绝对误差(MAE)表示显著性图和真值 之间的平均差异来对比不同算法的结果,其中在Pascal-S,ECSSD,MSRA,DUT-OMRON行表示不同算法的最初结果。在Pascal-S*,ECSSD*,MSRA*,DUT-OMRON*行表示不同算法的更新后的结果。每行中最好的两个结果分别用**和*进行了标注,具体计算方法为:
其中,S为显著性图,GT为真值,H为像素个数,h代表每个像素,MAE是平均绝对误差。
表1不同算法的MAE值和经过SUNSB算法更新后的显著性图的MAE值
表格1中展示的相当低的MAE值同样表明了本发明得到的显著性图与真值的相似性,同时本发明提出的更新算法可以降低现有算法的MAE值,即提高显著性图与真值的相似性,且对多种算法都有很好的效果。
Claims (3)
1.一种基于水平集超像素和贝叶斯框架的显著性检测方法,其特征在于,包括如下步骤:
第一步,应用基于灰度不均匀的水平集方法对图像进行分割,得到初始超像素;
第二步,分割合并第一步得到的初始超像素,得到新的超像素,使新的超像素适应图像中不同区域的大小;所述的第二步中对超像素分割合并的包括以下三种方法:
2.1)将整幅图像转换成灰度图像,使用K均值聚类算法将灰度图像按照灰度值分成K类,将聚类后的每一类与初始超像素中每个大的超像素的交集从初始超像素中分离出来,作为一个新的超像素,新的超像素存在小的超像素;
2.2)使用K均值算法将初始超像素中每个大的超像素内部分成K类,将K类超像素从初始超像素中分离出来,每一类作为一个新的超像素,新的超像素存在小的超像素;
2.3)使用边缘检测处理初始超像素,分别计算Prewitt算子、Prewitt算子、Sobel算子,合并三种算法的结果,得到新的边缘检测结果,保存在一个跟输入灰度图片大小相同的二维矩阵中,二维矩阵中1表示边缘,0表示内部;计算初始超像素中每个超像素中0的像素个数所占的比例T,若T≥0.95,则在该超像素相邻的超像素中查找最大的超像素,若最大的超像素与该超像素颜色相近,把该超像素合并到最大的超像素中,得到一个新的超像素,新的超像素存在小的超像素,否则不进行合并;
上述三种方法分割合并过程中用到超像素的颜色特征,两个超像素的颜色差异difc由公式(1)得到:
difc=||ci,cj|| (1)
其中,||ci,cj||是超像素i和j在CIELAB空间中的欧式距离;difc是两个超像素的颜色差异,设定difc<0.2时表示两个超像素的颜色相近;
第三步,合并第二步得到的新的超像素中小的超像素,得到最终超像素;所述的小的超像素为在超像素内部像素个数小于200的超像素;
3.1)小于30的过小超像素直接合并到与其相邻的超像素中大于该超像素的超像素中;
3.2)大于等于30的小的超像素,将该超像素与相邻的大的超像素进行颜色特征和距离特征的比较,选择其中一个最相近的超像素进行合并;
第四步,构建初始显著性图
以图像边缘部分的最终超像素为基础,使用K均值聚类算法将边缘超像素分成3类,超像素与每类边缘超像素的颜色差异由公式(2)计算,超像素与每类边缘超像素的距离关系由公式(3)计算;基于图像边缘超像素得到的颜色差异和距离差异,得到一个初始显著性图S,S用公式(4)计算:
其中,σ1=0.2;β=10;σ2=1.3;pk是属于第k类超像素的总数;sk,i是以第k个边缘聚类为基础,第i个超像素的显著性值;wk,i是以第k个边缘聚类为基础,第i个超像素的空间距离;ri和rj是超像素i和j的坐标;
第五步,贝叶斯框架下的图像显著性检测,得到一个灰度检测性图
将最终超像素作为图像的显著部分,并将图像分成两部分:显著区域I和非显著区域O,利用贝叶斯框架对图像进行显著性检测,得到一个灰度检测性图,图中每个像素对应的灰度值代表该像素是否属于显著部分的可能性;由公式(5)和公式(6)计算每个像素的后验概率:
p(bk)=1-p(sal) (6)
其中,p(sal|v)是p(sal=1|v)的简写,表示后验概率,p(sal)是一个像素是显著像素的先验概率,p(v|sal)是p(v|sal=1)的简写,代表观测似然概率,p(v|bk)是p(v|bk=1)的简写,代表观测似然概率;
基于最终超像素和贝叶斯框架的显著性更新算法SUNSB,通过以下三种方法表示显著区域I和非显著区域O,代入公式(5)中计算观测似然概率:
5.1)以图像中不显著的部分作为显著区域I
将第三步得到的初始显著性图的四条边上最终超像素和除了四条边之外的所有显著性值小于等于0.2的最终超像素作为非显著区域O,剩下的所有超像素作为显著区域I,代入公式(5)中进行计算,降低被误划入显著部分的非显著像素的显著性;
5.2)以显著性图中最显著的部分作为区域I
在第三步得到的初始显著性图中查找显著性值大于等于0.8的超像素作为显著区域I,剩下的所有超像素作为非显著区域O,代入公式(5)中进行计算,增加被误划入非显著区域的显著像素的显著性;
5.3)最终超像素中存在多个显著性值大于等于0.8的显著性强的超像素,将每个显著性强的超像素作为显著区域I,剩下的所有超像素作为非显著区域O,分别代入公式(5)中进行计算,多次更新显著性图;
第六步,在灰度检测性图中的显著部分包含多个超像素,由相邻超像素之间的相似性增加超像素显著性,利用SUNSB算法中的三种观测似然概率的计算方法,在贝叶斯框架下更新显著性图;所述的显著部分中超像素的显著性值大于等于0.8;所述的sal由公式(7)计算:
其中,meandif是与显著部分相邻的超像素与显著部分中所有超像素颜色差异的均值,meandis是与显著部分相邻的超像素与显著部分中所有超像素的距离均值,meansal是显著部分中超像素大小的均值,ns当前计算的与显著部分相邻的超像素的大小,sal是与显著部分相邻的超像素的显著性值需要增加的值,σ1=1.3,σ2=0.9;
第七步,基于人脸识别的显著性更新
使用Face++提供的接口对人脸进行检测,如果检测到人脸,则对第六步得到的更新后的显著性图进行显著性更新;如果没有检测到人脸,则图像的显著性不更新。
2.根据权利要求1所述的一种基于水平集超像素和贝叶斯框架的显著性检测方法,其特征在于,所述的第五步中像素v的观测似然概率的计算方法如下:
其中,使用[l,a,b]来表示每个像素v,NI表示显著区域I内部的像素数量,NO表示非显著区域O内部像素的数量,NI(f(v))表示在区域I中颜色值f(v)所在颜色区间在颜色直方图中的值,NO(f(v))是在区域O中对应的颜色直方图中的值。
3.根据权利要求1或2所述的一种基于水平集超像素和贝叶斯框架的显著性检测方法,其特征在于,第六步中所述的贝叶斯框架下更新显著性图的步骤如下:
6.1)如果灰度检测性图中的显著部分的像素个数大于8000,则采用第五步5.3)的方法计算公式(5),降低被误划入显著部分的非显著像素的显著性;如果显著部分中像素个数小于等于8000,进行下一步;
6.2)查找与显著部分中显著性值大于等于0.8的超像素S1相邻的所有超像素S2,用公式(1)计算S2中的每个超像素与S1中的每个超像素的颜色差异;用公式(10)计算S2中的每个超像素与S1中的每个超像素的距离:
distance=||ri,rj|| (10)
其中,ri和rj是超像素i和j的坐标,distance是两个超像素之间的距离;
6.3)对于步骤6.2)S2中像素个数小于6000的每个超像素,在每个超像素原来的显著性值基础上加上sal得到更新后的显著性值,相邻超像素的显著性增加之后,使用第五步中的三种观测似然概率的计算方法更新显著性图,具体包括以下步骤:
6.3.1)由灰度检测性图中的显著部分增加相邻超像素的显著性,得到初始显著性图su;
6.3.2)使用第五步5.3)两次更新su后,再加上su×2.5得到su1;
6.3.3)使用第五步5.1)更新su1得到su2;
6.3.4)使用第五步5.2)更新su1得到su3;
6.3.4)su2与su3取均值得到更新后的显著性图。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610472918.5A CN106682679B (zh) | 2016-06-24 | 2016-06-24 | 一种基于水平集超像素和贝叶斯框架的显著性检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610472918.5A CN106682679B (zh) | 2016-06-24 | 2016-06-24 | 一种基于水平集超像素和贝叶斯框架的显著性检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106682679A true CN106682679A (zh) | 2017-05-17 |
CN106682679B CN106682679B (zh) | 2019-08-09 |
Family
ID=58839812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610472918.5A Expired - Fee Related CN106682679B (zh) | 2016-06-24 | 2016-06-24 | 一种基于水平集超像素和贝叶斯框架的显著性检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106682679B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967492A (zh) * | 2017-12-18 | 2018-04-27 | 西北工业大学 | 一种结合似物性检测的贝叶斯显著性检测方法 |
CN108765384A (zh) * | 2018-05-16 | 2018-11-06 | 江苏科技大学 | 一种联合流形排序和改进凸包的显著性检测方法 |
CN110298365A (zh) * | 2019-07-04 | 2019-10-01 | 浙江大学滨海产业技术研究院 | 一种基于人眼视觉的主题色提取方法 |
CN110751157A (zh) * | 2019-10-18 | 2020-02-04 | 厦门美图之家科技有限公司 | 图像显著性分割、图像显著性模型训练方法及装置 |
CN110866896A (zh) * | 2019-10-29 | 2020-03-06 | 中国地质大学(武汉) | 基于k-means与水平集超像素分割的图像显著性目标检测方法 |
CN111881843A (zh) * | 2020-07-30 | 2020-11-03 | 河南天迈科技有限公司 | 一种基于人脸检测的出租车载客人数统计方法 |
CN113409187A (zh) * | 2021-06-30 | 2021-09-17 | 深圳市斯博科技有限公司 | 漫画风格图像的转换方法、装置、计算机设备及存储介质 |
CN115019063A (zh) * | 2022-06-04 | 2022-09-06 | 海南大学 | 一种基于双注意力机制的显著性目标检测方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217438A (zh) * | 2014-09-19 | 2014-12-17 | 西安电子科技大学 | 基于半监督的图像显著性检测方法 |
CN105427314A (zh) * | 2015-11-23 | 2016-03-23 | 西安电子科技大学 | 基于贝叶斯显著性的sar图像目标检测方法 |
-
2016
- 2016-06-24 CN CN201610472918.5A patent/CN106682679B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217438A (zh) * | 2014-09-19 | 2014-12-17 | 西安电子科技大学 | 基于半监督的图像显著性检测方法 |
CN105427314A (zh) * | 2015-11-23 | 2016-03-23 | 西安电子科技大学 | 基于贝叶斯显著性的sar图像目标检测方法 |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967492A (zh) * | 2017-12-18 | 2018-04-27 | 西北工业大学 | 一种结合似物性检测的贝叶斯显著性检测方法 |
CN108765384A (zh) * | 2018-05-16 | 2018-11-06 | 江苏科技大学 | 一种联合流形排序和改进凸包的显著性检测方法 |
CN108765384B (zh) * | 2018-05-16 | 2022-07-22 | 江苏科技大学 | 一种联合流形排序和改进凸包的显著性检测方法 |
CN110298365A (zh) * | 2019-07-04 | 2019-10-01 | 浙江大学滨海产业技术研究院 | 一种基于人眼视觉的主题色提取方法 |
CN110751157A (zh) * | 2019-10-18 | 2020-02-04 | 厦门美图之家科技有限公司 | 图像显著性分割、图像显著性模型训练方法及装置 |
CN110751157B (zh) * | 2019-10-18 | 2022-06-24 | 厦门美图之家科技有限公司 | 图像显著性分割、图像显著性模型训练方法及装置 |
CN110866896A (zh) * | 2019-10-29 | 2020-03-06 | 中国地质大学(武汉) | 基于k-means与水平集超像素分割的图像显著性目标检测方法 |
CN111881843A (zh) * | 2020-07-30 | 2020-11-03 | 河南天迈科技有限公司 | 一种基于人脸检测的出租车载客人数统计方法 |
CN111881843B (zh) * | 2020-07-30 | 2023-12-29 | 河南天迈科技有限公司 | 一种基于人脸检测的出租车载客人数统计方法 |
CN113409187A (zh) * | 2021-06-30 | 2021-09-17 | 深圳市斯博科技有限公司 | 漫画风格图像的转换方法、装置、计算机设备及存储介质 |
CN113409187B (zh) * | 2021-06-30 | 2023-08-15 | 深圳万兴软件有限公司 | 漫画风格图像的转换方法、装置、计算机设备及存储介质 |
CN115019063A (zh) * | 2022-06-04 | 2022-09-06 | 海南大学 | 一种基于双注意力机制的显著性目标检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106682679B (zh) | 2019-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106682679A (zh) | 一种基于水平集超像素和贝叶斯框架的显著性检测方法 | |
CN106709568B (zh) | 基于深层卷积网络的rgb-d图像的物体检测和语义分割方法 | |
CN115082419B (zh) | 一种吹塑箱包生产缺陷检测方法 | |
CN106997597B (zh) | 一种基于有监督显著性检测的目标跟踪方法 | |
Odone et al. | Building kernels from binary strings for image matching | |
Jia et al. | Visual tracking via adaptive structural local sparse appearance model | |
CN105205488B (zh) | 基于Harris角点和笔画宽度的文字区域检测方法 | |
Li et al. | Real-time object tracking via compressive feature selection | |
CN110008844B (zh) | 一种融合slic算法的kcf长期手势跟踪方法 | |
JP2006524394A (ja) | 画像における人体輪郭描写 | |
CN104123554B (zh) | 基于mmtd的sift图像特征提取方法 | |
CN104036284A (zh) | 基于Adaboost算法的多尺度行人检测方法 | |
CN106447679A (zh) | 一种基于迭代图割和自适应聚类的显著性检测方法 | |
CN108509925B (zh) | 一种基于视觉词袋模型的行人重识别方法 | |
CN104657980A (zh) | 一种改进的基于Meanshift的多通道图像分割算法 | |
CN110020692A (zh) | 一种基于印刷体模板的手写体分离与定位方法 | |
CN106682571A (zh) | 基于肤色分割和小波变换的人脸检测方法 | |
Zhou et al. | A robust object tracking algorithm based on SURF | |
CN110516528A (zh) | 一种基于运动背景下的动目标检测和跟踪方法 | |
CN108846845B (zh) | 基于缩略图与分层模糊聚类的sar图像分割方法 | |
CN113033558A (zh) | 一种用于自然场景的文本检测方法及装置、存储介质 | |
CN110516527B (zh) | 一种基于实例分割的视觉slam回环检测改进方法 | |
Gui et al. | A fast caption detection method for low quality video images | |
CN113033559A (zh) | 一种基于目标检测的文本检测方法及装置、存储介质 | |
CN107146215A (zh) | 一种基于颜色直方图和凸包的显著性检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20190809 |