发明内容
本申请提供了一种全参考图像质量评价方法及系统,使得在全参考图像的前提下,通过简单的计算,即可对噪声图像进行质量评价且与主观评分有较好的一致性。
有鉴于此,本申请第一方面提供了一种全参考图像质量评价方法,所述方法包括:
获取参考图像以及失真图像;
估计所述参考图像以及失真图像中像素点的亮度和色度,根据所述像素点亮度和色度计算亮度相似度以及色度相似度;
使用GBVS显著性模型提取所述参考图像以及失真图像的显著性特征,得到所述参考图像以及失真图像的显著性图,根据所述显著性图得到所述参考图像以及失真图像之间的显著性相似度;
计算所述参考图像以及失真图像的梯度幅值,根据所述梯度幅值计算所述参考图像以及失真图像之间的梯度相似度;
根据所述亮度相似度,所述色度相似度、所述显著性相似度以及所述梯度相似度计算得到图像质量评价指标。
可选的,在所述估计所述参考图像以及失真图像中像素点的亮度和色度,根据所述像素点亮度和色度计算亮度相似度以及色度相似度,之前还包括:
采用超像素方法对所述参考图像以及失真图像进行分块。
可选的,所述估计所述参考图像以及失真图像中像素点的亮度和色度,具体为:
式中,Y表示未分解超像素前的图像亮度分量,i表示第i个像素点,Sj是第j个超像素,Li是图像分解超像素后的在第j个超像素中的第i个像素的亮度,|Sj|第j个超像素中像素的个数;Ui,Vi表示图像分解超像素后的在第j个超像素中的第i个像素的色度,u,v表示未分解超像素前的图像色度分量。
可选的,所述根据所述像素点亮度和色度计算亮度相似度以及色度相似度,具体为:
MC(i)=MU(i)MV(i)
式中,Lr(i),Ld(i)分别为所述参考图像和失真图像中第i个像素点的亮度;Ur(i),Vr(i)表示参考图像的色度;Vd(i),Ud(i)表示失真图像的色度;ML(i)表示亮度相似度;MC(i)表示色度相似度;T1,T2,T3都表示正变量。
可选的,所述根据所述显著性图得到所述参考图像以及失真图像之间的显著性相似度,具体为:
式中,VSr(i),VSd(i)分别表示参考图像和失真图像的显著性图中第i个像素的像素值;T4是一个正变量;MVS(i)为显著性相似度。
可选的,所述计算所述参考图像以及失真图像的梯度幅值,具体为:
使用多个方向的梯度算子对图像进行卷积计算:
式中,Y表示亮度分量;
表示卷积计算;P
k表示多个方向的梯度算子,G(i)表示多个方向上梯度分量的最大值。
可选的,所述根据所述梯度幅值计算所述参考图像以及失真图像之间的梯度相似度,具体为:
式中,Gr(i),Gd(i)分别表示所述参考图像和失真图像第i个像素的梯度最大值;T5表示一个正变量。
可选的,所述根据所述亮度相似度,所述色度相似度、所述显著性相似度以及所述梯度相似度计算得到图像质量评价指标,具体为:
式中,proposed为图像评价指标;SM(i)表示由GBVS视觉显著性算法模型计算得到的显著性图,具体值由GBVS视觉显著性算法模型决定;M(i)表示图像的局部质量图;α和β是调整亮度和色度相似度的参数。
本申请第二方面提供一种全参考图像质量评价系统,所述系统包括:
图像获取模块,用于获取参考图像以及失真图像;
亮度相似度获取模块,用于估计所述参考图像以及失真图像中像素点的亮度和色度,根据所述像素点亮度和色度计算亮度相似度以及色度相似度;
显著性相似度获取模块,用于使用GBVS显著性模型提取所述参考图像以及失真图像的显著性特征,得到所述参考图像以及失真图像的显著性图,根据所述显著性图得到所述参考图像以及失真图像之间的显著性相似度;
梯度相似度获取模块,用于计算所述参考图像以及失真图像的梯度幅值,根据所述梯度幅值计算所述参考图像以及失真图像之间的梯度相似度;
评价指标计算模块,用于根据所述亮度相似度,所述色度相似度、所述显著性相似度以及所述梯度相似度计算得到图像质量评价指标。
可选的,还包括:
分块模块,用于采用超像素方法对所述参考图像以及失真图像进行分块。
从以上技术方案可以看出,本申请具有以下优点:
本申请中,提供了一种全参考图像质量评价方法及系统,方法包括获取参考图像以及失真图像;估计参考图像以及失真图像中像素点的亮度和色度,并计算亮度相似度以及色度相似度;使用GBVS(Graph-Based Visual Saliency)基于视觉特点的显著性模型提取参考图像以及失真图像的显著性特征,得到参考图像以及失真图像的显著性图,得到参考图像以及失真图像之间的显著性相似度;计算参考图像以及失真图像的梯度幅值,根据梯度幅值计算参考图像以及失真图像之间的梯度相似度;根据亮度相似度,色度相似度显著性相似度以及梯度相似度计算得到图像质量评价指标。
本申请通过提取图像的四种特征,包括亮度特征、色度特征、梯度特征以及显著性特征,得到参考图像与失真图像的亮度相似度、色度相似度、梯度相似度以及显著性相似度;以四种特征计算相应的相似度,从而对图像的质量进行评价,使得本申请能够在全参考图像的前提下,通过简单的计算,即可对噪声图像进行质量评价时与主观评分有较好的一致性。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
图1为本申请一种全参考图像质量评价方法的一个实施例的方法流程图,图1中包括:
101、获取参考图像以及失真图像。
需要说明的是,本申请中将参考图像与失真图像进行比对,从而判断失真图像的质量评价好坏。
在一种具体的实施方式中,本申请还包括采用超像素方法对参考图像以及失真图像进行分块。
需要说明的是,超像素分割方法我们采用的是SLIC(simple linear iterativeclustering)模型,即简单线性迭代聚类。其思路为将彩色图像转化为CIELAB颜色空间和XY坐标下的5维特征向量,然后对5维特征向量构造距离度量标准,对图像像素进行局部聚类的过程。最终使被分割的图像中具有相似颜色和亮度特性的像素点聚合构成用于计算图像亮度特征和色度特征的图像块,即超像素。具体的,如图3为超像素处理之前的图像的示意图,图4为对该图像时域超像素方法处理后的图像。使用超图像处理参考图像以及失真图像以便于更好地获取图像的亮度以及色度,并求出对应的亮度相似度和色度相似度。
102、估计参考图像以及失真图像中像素点的亮度和色度,根据像素点亮度和色度计算亮度相似度以及色度相似度。
需要说明的是,首选需要得到参考图像以及失真图像的YUV图像,即若参考图像以及失真图像为RGB图像,则进行YUV变换,具体为:
其中Y是表示图像亮度通道,用于评估图像结构失真引起的图像质量下降。而U和V分别是两个色度通道,用于表征由颜色失真引起的图像质量下降。
在一种具体的实施方式中,估计参考图像以及失真图像中像素点的亮度和色度,具体为:
式中,Y表示未分解超像素前的图像亮度分量,i表示第i个像素点,Sj是第j个超像素,Li是图像分解超像素后的在第j个超像素中的第i个像素的亮度,|Sj|第j个超像素中像素的个数;Ui,Vi表示图像分解超像素后的在第j个超像素中的第i个像素的色度,u,v表示未分解超像素前的图像色度分量。
在一种具体的实施方式中,根据所述像素点亮度和色度计算亮度相似度以及色度相似度,具体为:
MC(i)=MU(i)MV(i)
式中,L
r(i),L
d(i)分别为所述参考图像和失真图像中第i个像素点的亮度;U
r(i),V
r(i)表示参考图像的色度;V
d(i),U
d(i)表示失真图像的色度;M
L(i)表示亮度相似度;M
C(i)表示色度相似度;T1,T2,T3都表示正变量,以避免当
非常小时的不稳定性。。
103、使用GBVS显著性模型提取参考图像以及失真图像的显著性特征,得到参考图像以及失真图像的显著性图,根据显著性图得到参考图像以及失真图像之间的显著性相似度。
需要说明的是,采用GBVS基于视觉特点的显著性模型分别对参考图像和失真图像进行显著性特征的提取,该模型首先在高斯金字塔分解出的多个图像尺度下提取颜色、亮度和方位的视觉特征,其次使用中央周边(Center-surround)操作产生体现显著性度量的特征图,最终引入马尔可夫链将特征图合并成最终的显著性图,其视觉显著性图如图5所示。由此,可以得到参考图像以及失真图像的显著性图。
在一种具体的实施方式中,根据参考图像以及失真图像的显著性图得到参考图像以及失真图像之间的显著性相似度,具体为:
式中,VS
r(i),VS
d(i)分别表示参考图像和失真图像的显著性图中第i个像素的像素值;T4是一个正变量;以避免
的值非常小时所产生的不稳定性;M
VS(i)为显著性相似度。
104、计算参考图像以及失真图像的梯度幅值,根据梯度幅值计算参考图像以及失真图像之间的梯度相似度。
需要说明的是,在本申请中,可以采用Prewitt算子选择多个方向上的模板对参考图像以及失真图像的梯度幅值进行卷积计算,选择其中梯度幅值最大模板的表示该像素点的边缘方向。
在一种具体的实施方式中,采用Prewitt算子计算像素点垂直、水平、45°、135°、180°、225°、270°、315°八个方向的梯度值,对参考图像以及失真图像中每个像素点对以上八个方向的算子模板进行卷积运算保留其中梯度幅值最大的方向模板,该最大值对应的模板所表示的方向为该像素点的边缘方向,具体的八个方向的算子模板如图6所示。
在一种具体的实施方式中,使用8个方向的梯度算子对图像进行卷积计算:
式中,Y表示亮度分量;
表示卷积计算;P
k表示多个方向的梯度算子,G(i)表示多个方向上梯度分量的最大值。
根据梯度幅值计算参考图像以及失真图像之间的梯度相似度,具体为:
式中,G
r(i),G
d(i)分别表示所述参考图像和失真图像第i个像素的梯度最大值;T5表示一个正变量,以避免
的值非常小时所产生的不稳定性。
105、根据亮度相似度,色度相似度、显著性相似度以及梯度相似度计算得到图像质量评价指标。
需要说明的是,通过上式得到的亮度相似度,色度相似度、显著性图以及显著性相似度,进而可以得到局部质量图为:
M(i)表示图像的局部质量图;α和β是调整亮度和色度相似度的参数。
可以采用加权池的策略,使得图像中的显著部分对于图像评价更加重要,由此计算的图像质量评价指标具体为:
式中,proposed为图像评价指标;SM(i)表示由GBVS视觉显著性算法模型计算得到的显著性图,具体值由GBVS视觉显著性算法模型决定。
本申请通过提取图像的四种特征,包括亮度特征、色度特征、梯度特征以及显著性特征,得到参考图像与失真图像的亮度相似度、色度相似度、梯度相似度以及显著性相似度;以四种特征计算相应的相似度,从而对图像的质量进行评价,使得本申请能够在全参考图像的前提下,通过简单的计算,即可对噪声图像进行质量评价时与主观评分有较好的一致性。
以上是本申请的一种全参考图像质量评价方法的实施例,本申请还提供了一种全参考图像质量评价方法的一个具体的实施方式,具体为:
首先可以获取图像质量评价领域里目前公开的图库包括,TID2013,TID2008,CSIQ和LIVE。
以LIVE图库为例,其中LIVE图库包含5个子图库,分别为JPEG、JPEG2000、GaussianBlur(高斯模糊)、Fast Fading(在fast-fading通道传输JPEG2000码流的过程中发生错误而失真的图像)、White Noise(白噪声)。JPEG图库共有233幅图像,其中175幅为失真图像,JPEG2000图库有227幅图像,其中有169幅为失真图像。Gaussian Blur、Fast Fading、WhiteNoise三个图库都是174幅图像,145幅为失真图像。整理之后根据每幅图库的信息对应找出每张图片的DMOS值。
本申请方法的具体流程为:
S1:选择参考图像r与一张对应的失真图像d;
S2:用SLIC算法对参考图像与失真图像进行超像素分割,分块大小设置为400;
S3:对分块好的图像进行YUV分解;
S4:用YUV分解后的Y分量计算亮度相似度,用U,V分量计算色度相似度;
S5:用GBVS显著性模型对参考图像进行显著性提取,并计算显著性相似度;
S6:用扩展的8个方向Prewitt算子分别对参考图像与失真图像的每一个像素点进行卷积运算,并计算梯度值,并计算参考图像和失真图像的梯度相似度;
S7:联合参考图像和失真图像之间的亮度,色度,梯度和显著性相似度计算得到局部质量图;
S8:将局部质量图以加权池的合并策略计算出最终的失真图像质量分数,其中加权池中的权重图为GBVS视觉显著性检测模型生成的视觉显著性图。
以上实验中,获取的图像质量评价图像库如表1所示:
表1图像质量评价图像库
本申请从定性与定量两个方面对实验结果进行分析。
(1)本发明的质量评价算法MSPSIM-ITTI、PSNR、SSIM、MS-SSIM、VIF、MAD、FSIMC、GMSD、SPSIM、MSPSIM与DMOS值的非线性拟合,得到相应的散点图。
(2)本发明算法与其它算法的秩相关系数(Spearman Rank Order CorrelationCoefficient,SROCC)、肯德尔的秩相关系数(Kendall’s Rank Order CorrelationCoefficient,KROCC)、非线性回归条件下的相关系数(Pearson’s linear correlationcoefficient,PLCC)、均方根误差(Root Mean Square Error,RMSE)四个参量的性能比较,见表2。其中SROCC、KROCC、PLCC的值越大,RMSE的值越小,代表算法评价的结果越好。
表2不同图像库的质量评价性能定量比较
由表2的实验数据我们发现,MAD在LIVE图库中的结果最好,GMSD在CSIQ图库中的结果最好,而在失真图像数量较多的TID2008与TID2013中,本发明的评价方法在10种评价指标里是有明显的优势,并且相对于SPSIM和VSI也有了较为明显的性能提升。从最终的结果来看本发明在四个图库加权平均之后的结果优于其余9种算法。
以上是本申请的一种全参考图像质量评价方法的实施例,本申请还包括一种全参考图像质量评价系统的实施例,如图2所示,包括:
图像获取模块201,用于获取参考图像以及失真图像;
亮度相似度获取模块202,用于估计参考图像以及失真图像中像素点的亮度和色度,根据像素点亮度和色度计算亮度相似度以及色度相似度;
显著性相似度获取模块203,用于使用GBVS显著性模型提取参考图像以及失真图像的显著性特征,得到参考图像以及失真图像的显著性图,根据显著性图得到参考图像以及失真图像之间的显著性相似度;
梯度相似度获取模块204,用于计算参考图像以及失真图像的梯度幅值,根据梯度幅值计算参考图像以及失真图像之间的梯度相似度;
评价指标计算模块205,用于根据亮度相似度,色度相似度、显著性相似度以及梯度相似度计算得到图像质量评价指标。
在一种具体的实施方式中,还包括:
分块模块206,用于采用超像素方法对参考图像以及失真图像进行分块。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请中,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或模块的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或模块,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或模块。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个模块或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。