CN109472259B - 基于能量优化的图像协同显著性检测方法 - Google Patents
基于能量优化的图像协同显著性检测方法 Download PDFInfo
- Publication number
- CN109472259B CN109472259B CN201811272236.5A CN201811272236A CN109472259B CN 109472259 B CN109472259 B CN 109472259B CN 201811272236 A CN201811272236 A CN 201811272236A CN 109472259 B CN109472259 B CN 109472259B
- Authority
- CN
- China
- Prior art keywords
- image
- region
- formula
- saliency
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 51
- 238000005457 optimization Methods 0.000 title claims abstract description 22
- 238000000034 method Methods 0.000 claims description 47
- 230000011218 segmentation Effects 0.000 claims description 22
- 238000000926 separation method Methods 0.000 claims description 20
- 230000004927 fusion Effects 0.000 claims description 18
- 230000002195 synergetic effect Effects 0.000 claims description 17
- 238000013441 quality evaluation Methods 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000003064 k means clustering Methods 0.000 claims description 7
- 238000012935 Averaging Methods 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 4
- 101150064138 MAP1 gene Proteins 0.000 claims description 3
- 150000001875 compounds Chemical class 0.000 claims description 3
- 238000009499 grossing Methods 0.000 claims description 3
- 101150077939 mapA gene Proteins 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000001303 quality assessment method Methods 0.000 claims description 3
- 239000011541 reaction mixture Substances 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 230000007547 defect Effects 0.000 abstract description 3
- 230000007812 deficiency Effects 0.000 abstract description 2
- 238000012545 processing Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 7
- 238000011156 evaluation Methods 0.000 description 3
- 230000003252 repetitive effect Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
Description
技术领域
本发明涉及图像数据处理领域,具体地说是基于能量优化的图像协同显著性检测方法。
背景技术
图像协同显著性检测作为计算机视觉新兴的研究领域,其目的在于从两幅及以上图像中检测相同物体或相同类别物体,已被广泛应用于图像检索、图像协同分割和弱监督定位等。
与传统的单张图像显著性检测相比,图像协同显著性检测是视觉显著性分析在多张图像上的扩展,旨在检测多张图像中的相同物体或相同类别物体,因此,图像协同显著性检测方法不仅受单张图像中对比度影响,而且还受多个相关图像中关联性影响。
现有技术中,图像协同显著性检测方法主要由三部分组成:提取有效的表征图像区域的特征、探索重要的显著性线索以及设计高效的计算框架。基于此,图像协同显著性检测模型大体上可以分为两类:自底向上的方法和基于显著性图融合的方法。
典型的自底向上的方法为Fu等人于2013年在“Cluster-based Co-saliencyDetection”一文中提出基于聚类的协同显著性检测方法,其主要思路是将多张图像中的重复性区域作为附加约束来检测多张图像中的相同物体或相同类别的显著物体,既考虑了单张图像内的显著性线索,又考虑到图间重复性线索。该方法最大优点在于利用图像间全局聚类实现图间重复性线索。但是该模型的问题也同样源于聚类,即对聚类结果过于依赖。基于显著性图融合的方法旨在从现有的多种显著性图中获取更多的显著性信息。2014年Cao等人在“self-adaptively Weighted Co-saliency Detection via Rank Constraint”论文中提出利用低秩能量为每一个参与融合的显著性图计算自适应权重,然后通过加权相加获得最终的显著性图。其存在的问题是:单张显著性图中所有的超像素区域公用一个权重系数,当显著目标和背景区域相似或者背景区域较复杂时,导致显著性检测结果中引入过多的背景噪声。CN107103326A公开基于超像素区域聚类的协同显著性检测方法,融合部分包括多尺度融合和弱显著性图与弱协同显著性图融合,两种融合方式均采用加权融合的方法,导致显著目标不能一致突出。CN106780450A公开基于低秩多尺度融合的图像显著性检测方法,该方法运用基于GMM的协同显著性先验为单一显著性图二值化之后的前景像素构建颜色模型,当图像背景颜色和前景目标颜色比较相似时,利用GMM模型评估得到的协同显著性图中前景区域会引入部分背景噪声。CN107133955A公开一种多层次结合地协同显著性检测方法,该方法中显著性图采用简单地线性加权相加融合方式,导致协同显著性检测结果不能均匀地突出显著目标。CN108009549A公开一种迭代协同显著性检测方法,该方法提出共有概率,利用某个超像素区域在其他图像中的最大匹配概率之和计算该区域属于共有区域的概率,当背景区域中存在与前景较为相似的区域时,协同显著性图中容易引入过多背景噪声。CN107909079A公开一种协同显著性检测方法,该方法将优化后的图内图间显著性图进行加权融合得到最终的协同显著性图,导致显著目标不能一致突出。CN107169417A公开基于多核增强和显著性融合的RGBD图像协同显著性检测方法,该方法根据显著对象和背景的直方图分布评估显著对象和背景的分离度,当前景目标和背景颜色较为相似时,用直方图评估两者的分离度往往会出现一定误差。CN106780582A公开基于纹理特征和颜色特征融合的图像显著性检测方法,该方法利用超像素区域的广度面积和边界连接函数计算背景概率,当显著目标较大且位于图像边界位置时,显著目标往往会被误检测为背景区域。
图像协同显著性检测作为新兴的研究方向,目前已存在较多的协同显著性相关的工作,然而,目前该领域仍然存在如下很多技术难题:复杂的人工标记过程、图内和图间显著性线索利用不够充分,导致协同显著性检测结果中包含过多的背景噪声和目标缺失等现象。
发明内容
本发明所要解决的技术问题是:提供基于能量优化的图像协同显著性检测方法,将三个重要的显著性线索进行融合,对融合后能量方程进行优化,克服了现有技术中人工标记复杂、背景噪声过多以及目标缺失的缺陷。
本发明解决该技术问题所采用的技术方案是:基于能量优化的图像协同显著性检测方法,是将三个重要的显著性线索进行融合,对融合后能量方程进行优化,具体步骤如下:
第一步,输入图像组{I1,I2,...,In},进行预处理:
输入一组包含相同类别目标的图像组{I1,I2,...,In},利用SLIC超像素区域分割算法对该图像组中的所有图像分别进行超像素区域分割,其中,图像Ii预分割为区域对图像Ii中的每个超像素区域提取平均CIE-Lab颜色空间颜色特征和空间位置特征用公知方法RBD算法计算图像Ii中的第s个超像素区域和图像Ii中的第s′个超像素区域之间的颜色距离和空间位置距离,对上述输入图像组中所有图像利用RBD算法获得初始显著性图上述式子中,Ii为输入图像组中的第i张图像,超像素区域为图像Ii的第s个超像素区域,下标s为超像素区域的标号,为图像Ii的第s个超像素区域的颜色特征,为图像Ii的第s个超像素区域的空间位置特征,为图像Ii的初始显著性图,N(ri)为图像Ii预分割超像素区域的总个数,n为输入图像组中图像的个数,至此完成输入图像组{I1,I2,...,In}的预处理,以下步骤中的n均为输入图像组中图像的个数;
假设z*表示前景区域和背景区域二维高斯分布曲线交点对应的显著性值,该显著性值可以通过求解以下公式(3)和公式(4)所示的二次方程获得:
将公式(3)展开得公式(4):
公式(5)中,μf表示初始显著性图前景区域二维高斯分布曲线的均值,μb表示初始显著性图背景区域二维高斯分布曲线的均值,σf表示初始显著性图前景区域显著性值的标准差,σb表示初始显著性图背景区域显著性值的标准差,log(·)为对数运算,
公式(6)中,表示初始显著性图前景区域的二维高斯分布曲线,表示初始显著性图背景区域的二维高斯分布曲线,z*表示初始显著性图前景区域的二维高斯分布曲线和背景区域的二维高斯分布曲线的交点所对应的显著性值,表示初始显著性图前景区域的二维高斯分布曲线在0≤z≤z*时,与横轴正半轴所组成区域的面积,表示初始显著性图背景区域的二维高斯分布曲线在z*≤z≤1时,与横轴正半轴所组成区域的面积,
初始显著性图最终的质量评估得分由分离度测度决定,分离度测度的数值越大说明初始显著性图的前景区域和背景区域分离越明显,其质量评估分数越高,将初始显著性图中质量评估分数较高的前一半作为初始候选简单显著性图由此完成确定初始候选简单显著性图
最后,引入全局一致性项Yi为公式(9)所示:
公式(10)中,“*”表示点乘,即将初始候选简单显著性图和全局一致性项Yi中对应像素点的显著性值逐个相乘,完成计算初始协同显著性图得到初始协同显著性图中对应像素的协同显著性值,由此完成计算初始协同显著性图
第四步,设置简单图像Isim:
公式(13)中,θ=0.8,当IOU≥θ,说明初始候选简单显著性图经过阈值分割获得的前景区域和初始协同显著性图经过阈值分割获得的前景区域包含相同的目标,因此,选取IOU≥0.8的图像设置为简单图像Isim,由此完成设置简单图像Isim;
第五步,分别提取简单图像的前景区域和背景区域的颜色特征:
然后,用公知方法提取,对简单图像的前景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的前景区域的平均颜色值对简单图像的背景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的背景区域的平均颜色值其中表示简单图像的前景区域包含的超像素区域的个数,表示简单图像的背景区域包含的超像素区域个数,由此完成提取简单图像的前景区域和简单图像的背景区域的颜色特征;
第六步,完成图像协同显著性检测:
将图内显著性线索和图间显著性线索进行融合构造二次能量方程求解最终的协同显著性图,以完成图像协同显著性检测,具体操作步骤如下:
第(6.1)步,获取图内显著性线索:
图内显著性线索包括:对比度线索和位置线索,
第(6.1.1)步,获取对比度线索:
进一步利用OTSU算法对上述第五步所述的简单图像Isim的初始协同显著性图进行阈值分割,得到前景超像素区域集和背景超像素区域集对于上述第一步的输入图像组{I1,I2,...,In},其中图像Ii任一区域的对比度线索表示为如下的公式(14):
第(6.1.2)步,获取位置线索:
由此获取位置线索定义为公式(19)所示:
由此完成获取图内显著性线索;
第(6.2)步,获取图间显著性线索:
图间显著性线索用来测量上述第一步的输入图像组{I1,I2,...,In}中所有图像前景区域的相似度,首先对图像组{I1,I2,...,In}中的任意一个图像Ii利用直方图Hi建立前景模型,然后计算图像组{I1,I2,...,In}中所有上述第四步中所设置的简单图像Isim的前景区域的平均直方图如下公式(20)所示:
第(6.3)步,图内显著性线索和图间显著性线索的融合:
采用能量方程融合不同图内显著性线索和图间显著性线索,最终的图像协同显著性图通过公式(22)所示的最小化能量方程即二次能量方程获得:
公式(22)中,数据项ECtr(·)表示对比度线索SCtr(·)的花费,由公式(23)定义如下:
公式(22)中,数据项EPos(·)表示位置线索SPos(·)的花费,由公式(24)定义如下:
公式(22)中,数据项EInter(·)表示图间显著性线索SInter(·)的花费,由公式(25)定义如下:
将上述公式(22)写为矩阵形式:
上述公式(22)通过凸优化求解,如下面公式(29)所示:
求解公式(29),得到最终的协同显著性图Si,如下面公式(30)所示:
至此,完成对一组包含相同类别目标图像组的协同显著性检测,即完成图像协同显著性检测。
上述基于能量优化的图像协同显著性检测方法中,所述第一步中,n为输入图像组中图像的个数,该n=1,2,...,22。
上述基于能量优化的图像协同显著性检测方法中,所述RBD算法的全称为Saliency Optimization from Robust Background Detection,中文意义为基于测地距的显著性检测方法,本技术领域公知的算法;SLIC超像素区域分割算法的全称为Simplelinear iterative clustering,中文意义为简单的线性迭代聚类,本技术领域公知的算法;OTSU算法的全称为A threshold selection method from gray-level histograms,中文意义为最大类间方差,本技术领域公知的算法;k-means聚类方法全称为k均值聚类方法,本技术领域公知的算法;以上几种方法均是本技术领域的公知方法。
本发明的有益效果是:与现有技术相比,本发明的突出的实质性特点和显著性进步如下:
(1)本发明方法与CN107103326A相比,本发明方法采用能量方程融合不同的图内显著性线索和图间显著性线索,能量方程中包含二次项和平滑数据项,平滑数据项是每两个相邻超像素区域产生不同显著性值的花费,引入平滑数据项可以使获得的协同显著性图中显著目标一致高亮。
(2)本发明方法与CN106780450A相比,本发明方法利用显著性图的分离度测度挑选一组图像中背景和前景分离度较高的显著性图作为简单图像,对简单图像进行二值化之后前景区域颜色模型中背景噪声明显减少。
(3)本发明方法与CN107133955A相比,本发明方法采用能量方程融合不同的图内显著性线索和图间显著性线索,能量方程中包含二次项和平滑数据项,平滑数据项是每两个相邻超像素区域产生不同显著性值的花费,引入平滑数据项可以使获得的协同显著性图中显著目标一致高亮。
(4)本发明方法与CN108009549A相比,本发明方法利用候选简单图像的显著性图和其协同显著性图的交并比,大于某一阈值的选为简单图像,对简单图像的显著性图中前景区域构建颜色直方图,利用其余区域和简单图像直方图之间的差异作为图像间协同显著性线索,减少背景噪声干扰。
(5)本发明方法与CN107909079A相比,本发明方法采用能量方程融合不同的图内显著性线索和图间显著性线索,能量方程中包含二次项和平滑数据项,平滑数据项是每两个相邻超像素区域产生不同显著性值的花费,引入平滑数据项可以使获得的协同显著性图中显著目标一致高亮。
(6)本发明方法与CN107169417A相比,本发明方法根据前景区域和背景区域的显著性值均服从二维高斯分布,计算两者高斯分布曲线的重叠面积,用重叠面积作为分离度评估的重要依据,从而避免当前景目标和背景颜色较为相似时的情况。
(7)本发明方法与CN106780582A相比,本发明方法对边界连通性进行优化,引入差异性,即超像素区域之间的CIE-Lab颜色距离,超像素区域的差异性越大说明其为背景的概率越小,引入差异性明显改善显著目标位于边界的情况。
(8)本发明方法与本发明人团队早先的CN106373126A基于融合类测地线和边界对比的图像显著性检测方法相比,其实质性区别在于背景选取和融合方式的不同。首先,CN106373126A只是简单地将图像边界区域作为背景,当显著目标位于边界时,往往会被检测为背景,本发明方法对边界先验进行改进,在边界连通性基础上进一步优化,引入差异性,即超像素区域之间的颜色距离,超像素区域的差异性越大说明其为背景的概率越小,引入差异性可以明显改善目标位于边界的情况;其次,CN106373126A采用直接相乘的方式融合边界对比图、有颜色对比度地测地线图和无颜色对比地测地线图,最终的显著性检测效果往往不能一致高亮显著目标,而本发明方法采用能量方程融合不同的图内显著性线索和图间显著性线索,能量方程中包含二次项和平滑数据项,平滑数据项是每两个相邻超像素区域产生不同显著性值的花费,引入平滑数据项使获得的最终的协同显著性图中显著目标一致高亮。
总之,在CN106373126A的基础上结合本领域的公知常识要得出本发明的技术方案,对本领域技术人员来说绝非显而易见的。
(9)本发明方法将三个重要的显著性线索进行融合,对融合后能量方程进行优化,克服了现有技术中存在的人工标记过程复杂、图内和图间显著性线索利用不够充分,导致协同显著性检测结果中包含过多的背景噪声和目标缺失的缺陷。
(10)本发明方法利用简单图片的前景和背景颜色构建对比度线索,省去了交互式协同显著性检测算法中复杂地人工标记环节。
(11)本发明方法利用能量方程思想融合显著性线索,实现了对显著目标的一致均匀突出。
附图说明
下面结合附图和实施例对本发明进一步说明。
图1是本发明基于能量优化的图像协同显著性检测方法的流程示意框图。
图2是图像Ii的最终的协同显著性图Si。
具体实施方式
图1所示实施例表明,本发明基于能量优化的图像协同分割方法的流程如下:
图2显示图像Ii的最终的协同显著性图Si,可见本发明方法采用能量方程融合不同的图内显著性线索和图间显著性线索,能量方程中包含二次项和平滑数据项,平滑数据项是每两个相邻超像素区域产生不同显著性值的花费,引入平滑数据项使获得的最终的协同显著性图中显著目标一致高亮。
实施例1
本实施例中显著性目标为一架飞机,输入的图像组共包含22张图像,每张图像中均包含显著目标飞机,本实施例所述的基于能量优化的图像协同显著性检测方法,具体步骤如下:第一步,输入图像组{I1,I2,...,In},进行预处理:
输入一组包含相同类别目标的图像组{I1,I2,...,In},利用SLIC超像素区域分割算法对该图像组中的所有图像分别进行超像素区域分割,其中,图像Ii预分割为区域对图像Ii中的每个超像素区域提取平均CIE-Lab颜色空间颜色特征和空间位置特征用公知方法RBD算法计算图像Ii中的第s个超像素区域和图像Ii中的第s′个超像素区域之间的颜色距离和空间位置距离,对上述输入图像组中所有图像利用RBD算法获得初始显著性图上述式子中,Ii为输入图像组中的第i张图像,超像素区域为图像Ii的第s个超像素区域,下标s为超像素区域的标号,为图像Ii的第s个超像素区域的颜色特征,为图像Ii的第s个超像素区域的空间位置特征,为图像Ii的初始显著性图,N(ri)为图像Ii预分割超像素区域的总个数,n为输入图像组中图像的个数,至此完成输入图像组{I1,I2,...,In}的预处理,以下步骤中的n均为输入图像组中图像的个数;
假设z*表示前景区域和背景区域二维高斯分布曲线交点对应的显著性值,该显著性值可以通过求解以下公式(3)和公式(4)所示的二次方程获得:
将公式(3)展开得公式(4):
公式(5)中,μf表示初始显著性图前景区域二维高斯分布曲线的均值,μb表示初始显著性图背景区域二维高斯分布曲线的均值,σf表示初始显著性图前景区域显著性值的标准差,σb表示初始显著性图背景区域显著性值的标准差,log(·)为对数运算,
公式(6)中,表示初始显著性图前景区域的二维高斯分布曲线,表示初始显著性图背景区域的二维高斯分布曲线,z*表示初始显著性图前景区域的二维高斯分布曲线和背景区域的二维高斯分布曲线的交点所对应的显著性值,表示初始显著性图前景区域的二维高斯分布曲线在0≤z≤z*时,与横轴正半轴所组成区域的面积,表示初始显著性图背景区域的二维高斯分布曲线在z*≤z≤1时,与横轴正半轴所组成区域的面积,
初始显著性图最终的质量评估得分由分离度测度决定,分离度测度的数值越大说明初始显著性图的前景区域和背景区域分离越明显,其质量评估分数越高,将初始显著性图中质量评估分数较高的前一半作为初始候选简单显著性图由此完成确定初始候选简单显著性图
最后,引入全局一致性项Yi为公式(9)所示:
公式(10)中,“*”表示点乘,即将初始候选简单显著性图和全局一致性项Yi中对应像素点的显著性值逐个相乘,完成计算初始协同显著性图得到初始协同显著性图中对应像素的协同显著性值,由此完成计算初始协同显著性图
第四步,设置简单图像Isim:
公式(13)中,θ=0.8,当IOU≥θ,说明初始候选简单显著性图经过阈值分割获得的前景区域和初始协同显著性图经过阈值分割获得的前景区域包含相同的目标,因此,选取IOU≥0.8的图像设置为简单图像Isim,由此完成设置简单图像Isim;
第五步,分别提取简单图像的前景区域和背景区域的颜色特征:
然后,用公知方法提取,对简单图像的前景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的前景区域的平均颜色值对简单图像的背景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的背景区域的平均颜色值其中表示简单图像的前景区域包含的超像素区域的个数,表示简单图像的背景区域包含的超像素区域个数,由此完成提取简单图像的前景区域和简单图像的背景区域的颜色特征;
第六步,完成图像协同显著性检测:
将图内显著性线索和图间显著性线索进行融合构造二次能量方程求解最终的协同显著性图,以完成图像协同显著性检测,具体操作步骤如下:
第(6.1)步,获取图内显著性线索:
图内显著性线索包括:对比度线索和位置线索,
第(6.1.1)步,获取对比度线索:
进一步利用OTSU算法对上述第五步所述的简单图像Isim的初始协同显著性图进行阈值分割,得到前景超像素区域集和背景超像素区域集对于上述第一步的输入图像组{I1,I2,...,In},其中图像Ii任一区域的对比度线索表示为如下的公式(14):
第(6.1.2)步,获取位置线索:
由此获取位置线索定义为公式(19)所示:
由此完成获取图内显著性线索;
第(6.2)步,获取图间显著性线索:
图间显著性线索用来测量上述第一步的输入图像组{I1,I2,...,In}中所有图像前景区域的相似度,首先对图像组{I1,I2,...,In}中的任意一个图像Ii利用直方图Hi建立前景模型,然后计算图像组{I1,I2,...,In}中所有上述第四步中所设置的简单图像Isim的前景区域的平均直方图如下公式(20)所示:
第(6.3)步,图内显著性线索和图间显著性线索的融合:
采用能量方程融合不同图内显著性线索和图间显著性线索,最终的图像协同显著性图通过公式(22)所示的最小化能量方程即二次能量方程获得:
公式(22)中,数据项ECtr(·)表示对比度线索SCtr(·)的花费,由公式(23)定义如下:
公式(22)中,数据项EPos(·)表示位置线索SPos(·)的花费,由公式(24)定义如下:
公式(22)中,数据项EInter(·)表示图间显著性线索SInter(·)的花费,由公式(25)定义如下:
将上述公式(22)写为矩阵形式:
上述公式(22)通过凸优化求解,如下面公式(29)所示:
求解公式(29),得到最终的协同显著性图Si,如下面公式(30)所示:
至此,完成对一组包含相同类别目标图像组的协同显著性检测,即完成图像协同显著性检测。
上述实施例中,上述实施例中,所述RBD算法的全称为Saliency Optimizationfrom Robust Background Detection,中文意义为基于测地距的显著性检测方法,本技术领域公知的算法;SLIC超像素区域分割算法的全称为Simple linear iterativeclustering,中文意义为简单的线性迭代聚类,本技术领域公知的算法;OTSU算法的全称为A threshold selection method from gray-level histograms,中文意义为最大类间方差,本技术领域公知的算法;k-means聚类方法全称为k均值聚类方法,本技术领域公知的算法;以上几种方法均是本技术领域的公知方法。
Claims (2)
1.基于能量优化的图像协同显著性检测方法,其特征在于:是将三个重要的显著性线索进行融合,对融合后能量方程进行优化,具体步骤如下:
第一步,输入图像组{I1,I2,...,In},进行预处理:
输入一组包含相同类别目标的图像组{I1,I2,...,In},利用SLIC超像素区域分割算法对该图像组中的所有图像分别进行超像素区域分割,其中,图像Ii预分割为区域对图像Ii中的每个超像素区域提取平均CIE-Lab颜色空间颜色特征和空间位置特征用公知方法RBD算法计算图像Ii中的第s个超像素区域和图像Ii中的第s′个超像素区域之间的颜色距离和空间位置距离,对上述输入图像组中所有图像利用RBD算法获得初始显著性图上述式子中,Ii为输入图像组中的第i张图像,超像素区域为图像Ii的第s个超像素区域,下标s为超像素区域的标号,为图像Ii的第s个超像素区域的颜色特征,为图像Ii的第s个超像素区域的空间位置特征,为图像Ii的初始显著性图,N(ri)为图像Ii预分割超像素区域的总个数,n为输入图像组中图像的个数,至此完成输入图像组{I1,I2,...,In}的预处理,以下步骤中的n均为输入图像组中图像的个数;
假设z*表示前景区域和背景区域二维高斯分布曲线交点对应的显著性值,该显著性值可以通过求解以下公式(3)和公式(4)所示的二次方程获得:
将公式(3)展开得公式(4):
公式(5)中,μf表示初始显著性图前景区域二维高斯分布曲线的均值,μb表示初始显著性图背景区域二维高斯分布曲线的均值,σf表示初始显著性图前景区域显著性值的标准差,σb表示初始显著性图背景区域显著性值的标准差,log(·)为对数运算,
公式(6)中,表示初始显著性图前景区域的二维高斯分布曲线,表示初始显著性图背景区域的二维高斯分布曲线,z*表示初始显著性图前景区域的二维高斯分布曲线和背景区域的二维高斯分布曲线的交点所对应的显著性值,表示初始显著性图前景区域的二维高斯分布曲线在0≤z≤z*时,与横轴正半轴所组成区域的面积,表示初始显著性图背景区域的二维高斯分布曲线在z*≤z≤1时,与横轴正半轴所组成区域的面积,
初始显著性图最终的质量评估得分由分离度测度决定,分离度测度的数值越大说明初始显著性图的前景区域和背景区域分离越明显,其质量评估分数越高,将初始显著性图中质量评估分数较高的前一半作为初始候选简单显著性图由此完成确定初始候选简单显著性图
最后,引入全局一致性项Yi为公式(9)所示:
公式(10)中,“*”表示点乘,即将初始候选简单显著性图和全局一致性项Yi中对应像素点的显著性值逐个相乘,完成计算初始协同显著性图得到初始协同显著性图中对应像素的协同显著性值,由此完成计算初始协同显著性图
第四步,设置简单图像Isim:
公式(13)中,θ=0.8,当IOU≥θ,说明初始候选简单显著性图经过阈值分割获得的前景区域和初始协同显著性图经过阈值分割获得的前景区域包含相同的目标,因此,选取IOU≥0.8的图像设置为简单图像Isim,由此完成设置简单图像Isim;
第五步,分别提取简单图像的前景区域和背景区域的颜色特征:
然后,用公知方法提取,对简单图像的前景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的前景区域的平均颜色值对简单图像的背景区域对应超像素区域的三个颜色通道的颜色值分别取平均值作为简单图像的背景区域的平均颜色值其中表示简单图像的前景区域包含的超像素区域的个数,表示简单图像的背景区域包含的超像素区域个数,由此完成提取简单图像的前景区域和简单图像的背景区域的颜色特征;
第六步,完成图像协同显著性检测:
将图内显著性线索和图间显著性线索进行融合构造二次能量方程求解最终的协同显著性图,以完成图像协同显著性检测,具体操作步骤如下:
第(6.1)步,获取图内显著性线索:
图内显著性线索包括:对比度线索和位置线索,
第(6.1.1)步,获取对比度线索:
进一步利用OTSU算法对上述第五步所述的简单图像Isim的初始协同显著性图进行阈值分割,得到前景超像素区域集和背景超像素区域集对于上述第一步的输入图像组{I1,I2,...,In},其中图像Ii任一区域的对比度线索表示为如下的公式(14):
第(6.1.2)步,获取位置线索:
由此获取位置线索定义为公式(19)所示:
由此完成获取图内显著性线索;
第(6.2)步,获取图间显著性线索:
图间显著性线索用来测量上述第一步的输入图像组{I1,I2,...,In}中所有图像前景区域的相似度,首先对图像组{I1,I2,...,In}中的任意一个图像Ii利用直方图Hi建立前景模型,然后计算图像组{I1,I2,...,In}中所有上述第四步中所设置的简单图像Isim的前景区域的平均直方图如下公式(20)所示:
第(6.3)步,图内显著性线索和图间显著性线索的融合:
采用能量方程融合不同图内显著性线索和图间显著性线索,最终的图像协同显著性图通过公式(22)所示的最小化能量方程即二次能量方程获得:
公式(22)中,数据项ECtr(·)表示对比度线索SCtr(·)的花费,由公式(23)定义如下:
公式(22)中,数据项EPos(·)表示位置线索SPos(·)的花费,由公式(24)定义如下:
公式(22)中,数据项EInter(·)表示图间显著性线索SInter(·)的花费,由公式(25)定义如下:
将上述公式(22)写为矩阵形式:
上述公式(22)通过凸优化求解,如下面公式(29)所示:
求解公式(29),得到最终的协同显著性图Si,如下面公式(30)所示:
至此,完成对一组包含相同类别目标图像组的协同显著性检测,即完成图像协同显著性检测。
2.根据权利要求1所述基于能量优化的图像协同显著性检测方法,其特征在于:所述第一步中,n为输入图像组中图像的个数,该n=1,2,...,22。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811272236.5A CN109472259B (zh) | 2018-10-30 | 2018-10-30 | 基于能量优化的图像协同显著性检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811272236.5A CN109472259B (zh) | 2018-10-30 | 2018-10-30 | 基于能量优化的图像协同显著性检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109472259A CN109472259A (zh) | 2019-03-15 |
CN109472259B true CN109472259B (zh) | 2021-03-26 |
Family
ID=65666648
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811272236.5A Expired - Fee Related CN109472259B (zh) | 2018-10-30 | 2018-10-30 | 基于能量优化的图像协同显著性检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109472259B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110211090B (zh) * | 2019-04-24 | 2021-06-29 | 西安电子科技大学 | 一种用于评价视角合成图像质量的方法 |
CN110276350B (zh) * | 2019-06-25 | 2021-08-27 | 上海海事大学 | 一种海上船舶目标检测方法 |
CN111833303B (zh) * | 2020-06-05 | 2023-07-25 | 北京百度网讯科技有限公司 | 产品的检测方法、装置、电子设备及存储介质 |
CN112581446A (zh) * | 2020-12-15 | 2021-03-30 | 影石创新科技股份有限公司 | 一种图像的显著性物体检测方法、装置、设备及存储介质 |
CN113345052B (zh) * | 2021-06-11 | 2023-01-10 | 山东大学 | 基于相似显著性的分类数据多视图可视化着色方法及系统 |
CN114743027B (zh) * | 2022-04-11 | 2023-01-31 | 郑州轻工业大学 | 弱监督学习引导的协同显著性检测方法 |
CN116758081B (zh) * | 2023-08-18 | 2023-11-17 | 安徽乾劲企业管理有限公司 | 一种无人机道路桥梁巡检图像处理方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106327507A (zh) * | 2016-08-10 | 2017-01-11 | 南京航空航天大学 | 一种基于背景和前景信息的彩色图像显著性检测方法 |
CN106373126A (zh) * | 2016-09-04 | 2017-02-01 | 河北工业大学 | 基于融合类测地线和边界对比的图像显著性检测方法 |
CN107169487A (zh) * | 2017-04-19 | 2017-09-15 | 西安电子科技大学 | 基于超像素分割及深度特征定位的显著性目标检测方法 |
CN107862702A (zh) * | 2017-11-24 | 2018-03-30 | 大连理工大学 | 一种结合边界连通性与局部对比性的显著性检测方法 |
CN107909079A (zh) * | 2017-10-11 | 2018-04-13 | 天津大学 | 一种协同显著性检测方法 |
CN108320281A (zh) * | 2018-01-19 | 2018-07-24 | 福建师范大学 | 一种基于多特征扩散的图像显著性检测方法及终端 |
-
2018
- 2018-10-30 CN CN201811272236.5A patent/CN109472259B/zh not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106327507A (zh) * | 2016-08-10 | 2017-01-11 | 南京航空航天大学 | 一种基于背景和前景信息的彩色图像显著性检测方法 |
CN106373126A (zh) * | 2016-09-04 | 2017-02-01 | 河北工业大学 | 基于融合类测地线和边界对比的图像显著性检测方法 |
CN107169487A (zh) * | 2017-04-19 | 2017-09-15 | 西安电子科技大学 | 基于超像素分割及深度特征定位的显著性目标检测方法 |
CN107909079A (zh) * | 2017-10-11 | 2018-04-13 | 天津大学 | 一种协同显著性检测方法 |
CN107862702A (zh) * | 2017-11-24 | 2018-03-30 | 大连理工大学 | 一种结合边界连通性与局部对比性的显著性检测方法 |
CN108320281A (zh) * | 2018-01-19 | 2018-07-24 | 福建师范大学 | 一种基于多特征扩散的图像显著性检测方法及终端 |
Non-Patent Citations (1)
Title |
---|
"多幅图像协同显著性检测";周培云;《中国优秀硕士学位论文全文数据库(电子期刊)》;20160715(第7期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109472259A (zh) | 2019-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109472259B (zh) | 基于能量优化的图像协同显著性检测方法 | |
CN109522908B (zh) | 基于区域标签融合的图像显著性检测方法 | |
CN107680054B (zh) | 雾霾环境下多源图像融合方法 | |
CN106886995B (zh) | 多线性示例回归器聚合的图像显著对象分割方法 | |
CN108537239B (zh) | 一种图像显著性目标检测的方法 | |
Borenstein et al. | Learning to segment | |
Xiang et al. | Selective color transfer with multi-source images | |
CN107330875B (zh) | 基于遥感图像正反向异质性的水体周边环境变化检测方法 | |
CN104751187A (zh) | 抄表图像自动识别方法 | |
CN105913456A (zh) | 基于区域分割的视频显著性检测方法 | |
CN102982539B (zh) | 一种基于图像复杂性的特征自适应图像共分割方法 | |
Li et al. | Example-based image colorization via automatic feature selection and fusion | |
CN107909079B (zh) | 一种协同显著性检测方法 | |
CN108629783A (zh) | 基于图像特征密度峰值搜索的图像分割方法、系统及介质 | |
CN104200461A (zh) | 基于互信息图像选块和sift特征的遥感图像配准方法 | |
CN104680546A (zh) | 一种图像显著目标检测方法 | |
CN107085848A (zh) | 一种rgb‑d图显著性的检测方法 | |
CN104657980A (zh) | 一种改进的基于Meanshift的多通道图像分割算法 | |
CN103093470A (zh) | 一种具有尺度无关特性的快速多模态图像协同分割方法 | |
CN103279944A (zh) | 一种基于生物地理优化的图像分割方法 | |
CN111047603A (zh) | 一种基于新型马尔可夫随机场和区域合并的航拍图像混合分割算法 | |
CN104732534B (zh) | 一种图像中显著目标的抠取方法及系统 | |
Chai | A probabilistic framework for building extraction from airborne color image and DSM | |
CN108388901B (zh) | 基于空间-语义通道的协同显著目标检测方法 | |
Sima et al. | Bottom-up merging segmentation for color images with complex areas |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210326 |
|
CF01 | Termination of patent right due to non-payment of annual fee |