CN102663747B - 一种基于视觉感知的立体图像客观质量评价方法 - Google Patents
一种基于视觉感知的立体图像客观质量评价方法 Download PDFInfo
- Publication number
- CN102663747B CN102663747B CN201210081617.1A CN201210081617A CN102663747B CN 102663747 B CN102663747 B CN 102663747B CN 201210081617 A CN201210081617 A CN 201210081617A CN 102663747 B CN102663747 B CN 102663747B
- Authority
- CN
- China
- Prior art keywords
- mrow
- msubsup
- msub
- munderover
- sigma
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013441 quality evaluation Methods 0.000 title claims abstract description 39
- 230000016776 visual perception Effects 0.000 title claims abstract description 15
- 238000011156 evaluation Methods 0.000 claims abstract description 35
- 230000008447 perception Effects 0.000 claims abstract description 31
- 230000035945 sensitivity Effects 0.000 claims abstract description 9
- 239000011159 matrix material Substances 0.000 claims description 233
- 238000013507 mapping Methods 0.000 claims description 79
- 238000001914 filtration Methods 0.000 claims description 18
- 238000000354 decomposition reaction Methods 0.000 claims description 15
- 230000006870 function Effects 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 11
- 238000011524 similarity measure Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 2
- 230000000007 visual effect Effects 0.000 claims description 2
- 238000001303 quality assessment method Methods 0.000 claims 1
- 241000282414 Homo sapiens Species 0.000 abstract description 11
- 230000006835 compression Effects 0.000 abstract description 4
- 238000007906 compression Methods 0.000 abstract description 4
- 238000012545 processing Methods 0.000 abstract description 4
- 238000013210 evaluation model Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 5
- 238000011161 development Methods 0.000 description 4
- 230000018109 developmental process Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 241001182632 Akko Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- YYJNOYZRYGDPNH-MFKUBSTISA-N fenpyroximate Chemical compound C=1C=C(C(=O)OC(C)(C)C)C=CC=1CO/N=C/C=1C(C)=NN(C)C=1OC1=CC=CC=C1 YYJNOYZRYGDPNH-MFKUBSTISA-N 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种基于视觉感知的立体图像客观质量评价方法,其从左右视点图像质量和深度感知两部分出发,左右视点图像质量对多尺度上的结构信息进行捕捉,有效地反映原始和失真立体图像对的结构相似度的差异,而立体深度感主要是由于人的左右眼看到的图像存在细微的差异造成的,故通过比较原始和失真绝对差值图的亮度失真、结构失真及灵敏度失真获得深度感知评价值,然后对这两部分的评价值进行非线性拟合得到最终的立体图像质量评价指标,由于本方法融入了立体图像特有的深度感特性和图像质量损失特性的客观评价模型结果既能反映立体图像的质量又能反映深度感,因此评价结果可以客观地反映立体图像处理或压缩算法对立体图像质量变化的影响。
Description
技术领域
本发明涉及一种立体图像质量评价技术,尤其是涉及一种基于视觉感知的立体图像客观质量评价方法。
背景技术
随着互联网、通信和多媒体信息技术的快速发展,增强视觉逼真感和临场感的立体图像是下一代数字媒体技术的发展方向。同时,市场对立体视频系统开发与应用的需求也越来越迫切,如在立体数字电视、远程教育、远程工业控制、三维视频会议系统、虚拟现实系统、远程医疗、遥控机器人、自动导航、消费电子等诸多领域有着广泛的应用前景。立体图像质量评价在图像处理相关领域中有着重要地位,是比较各种立体图像处理算法性能优劣以及优化系统参数的重要指标。如何在3DTV系统的图像采集、编码压缩、网络传输等领域建立有效的立体图像质量评价机制成为图像领域的关键问题。立体图像质量评价分为主观质量评价和客观质量评价。主观质量评价虽更接近人的真实视觉感受,但由于需要多名评分者严格按着复杂程序和步骤进行,存在耗时、费用高、难以嵌入系统,评价结果易受评分者、测试条件和测试环境的影响等缺点。而客观质量评价能很好地克服主观质量评价的缺点。目前,立体图像客观质量评价主要是迁移平面图像质量评价算法,没有考虑立体特有的深度感知特性以及充分利用人眼视觉感知特性,因此客观质量评价模型与主观感知之间的一致性不是很好。为了满足快速发展的时代需求,设计全面、符合人眼视觉感知的立体图像客观质量评价方法迫在眉睫。
发明内容
本发明所要解决的技术问题是提供一种能够有效提高立体图像质量客观评价模型与主观感知之间的一致性,为各种立体图像处理算法的评判提供准确的判断依据的基于视觉感知的立体图像客观质量评价方法。
本发明解决上述技术问题所采用的技术方案为:一种基于视觉感知的立体图像客观质量评价方法,其特征在于包括以下步骤:
①令Sorg为原始的无失真的立体图像,令Sdis为待评价的失真的立体图像,将原始的无失真的立体图像Sorg的左视点图像记为Lorg,将原始的无失真的立体图像Sorg的右视点图像记为Rorg,将待评价的失真的立体图像Sdis的左视点图像记为Ldis,将待评价的失真的立体图像Sdis的右视点图像记为Rdis;
②对Lorg、Rorg、Ldis和Rdis4幅图像分别实施M级正交小波9/7滤波和下采样的尺度分解,分别得到Lorg、Rorg、Ldis和Rdis4幅图像各自对应的M个子带的系数矩阵,将Lorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Ldis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rdis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为其中,1≤m≤M;
③对Lorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Lorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Ldis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Ldis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rdis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rdis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,其中,三个区域分别为边缘区域、平坦区域和纹理区域;将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,其中,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示对应的图像的宽度,Hm表示对应的图像的高度;
④将Lorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Ldis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Lorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Ldis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Lorg的第m个子带的系数矩阵对应的图像中与Ldis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7);
将Rorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Rdis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Rorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Rdis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 , 将Rorg的第m个子带的系数矩阵对应的图像中与Rdis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7);
⑤计算Lorg和Ldis的结构相似度值,记为QL,其中,LM,L=b1×LM,e,L+b2×LM,f,L+b3×LM,t,L,Qm,L=b1×Qm,e,L+b2×Qm,f,L+b3×Qm,t,L, Qm,e,L=Hm,e,L×Gm,e,L,Qm,f,L=Hm,f,L×Gm,f,L,Qm,t,L=Hm,t,L×Gm,t,L, 此处αm表示Qm,L对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,C1、C2和C3均为常数,且C1≠0,C2≠0,C3≠0,表示Lorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Ldis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵中坐标位置为(i,j)处的系数,WM表示或或或对应的图像的宽度,HM表示或或或对应的图像的高度;
计算Rorg和Rdis的结构相似度值,记为QR,其中,LM,R=b1×LM,e,R+b2×LM,f,R+b3×LM,t,R,Qm,R=b1×Qm,e,R+b2×Qm,f,R+b3×Qm,t,R, Qm,e,R=Hm,e,R×Gm,e,R,Qm,f,R=Hm,f,R×Gm,f,R,Qm,t,R=Hm,t,R×Gm,t,R, 此处αm表示Qm,R对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,表示Rorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rdis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数;
⑥根据QL和QR计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量,记为QF,QF=ωl×QL+ωr×QR,其中,ωl表示QL的权值,ωr表示QR的权值;
⑦计算Lorg与Rorg的绝对差值图像,记为 计算Ldis与Rdis的绝对差值图像,记为 其中,“||”为取绝对值符号;
⑧对和分别实施区域划分,得到和各自对应的三个区域系数矩阵,三个区域分别为边缘区域、平坦区域和纹理区域,将和的边缘区域系数矩阵均记为 将和的平坦区域系数矩阵均记为 将和的纹理区域系数矩阵均记为 其中,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,此处0≤i<(W-7),0≤j<(H-7),W表示或的宽度,H表示或的高度;
⑨将和分别分割成(W-7)×(H-7)个尺寸大小为8×8的重叠块,然后计算与中所有坐标位置相同的两个重叠块的亮度失真映射图的系数矩阵、结构失真映射图的系数矩阵及灵敏度失真映射图的系数矩阵,分别记为PLR、KLR及ELR,对于中左上角的像素点的坐标位置为(i,j)的重叠块,将其定义为当前重叠块,计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的亮度失真映射值,记为 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的结构失真映射值,记为KLR(i,j), 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的灵敏度失真映射值,记为ELR(i,j), 其中,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差,C4是常数,且C4≠0,表示中坐标位置为(i+x,j+y)的像素点的像素值,表示中坐标位置为(i+x,j+y)的像素点的像素值,此处0≤i<(W-7),0≤j<(H-7);
⑩计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的立体感知评价度量,记为QS,Qs=b1×Qe+b2×Qf+b3×Qt,其中,
根据待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量QF和立体感知评价度量QS,计算待评价的失真的立体图像Sdis的图像质量评价分值,记为Q,Q=QF×(QS)λ,其中,λ表示权重系数值。
所述的步骤③中对Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-a1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l和Zv,l,然后计算对应的图像的梯度幅值映射图,记为Zl,将对应的图像的梯度幅值映射图Zl中坐标位置为(i,j)的像素点的梯度幅值记为Zl(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度;
③-a2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r和Zv,r,然后计算对应的图像的梯度幅值映射图,记为Zr,将对应的图像的梯度幅值映射图Zr中坐标位置为(i,j)的像素点的梯度幅值记为Zr(i,j);
③-a3、计算区域划分时所需的双阈值T1和T2,T1=0.06×max(Zl),T2=0.12×max(Zl),其中,max()为取最大值函数;
③-a4、根据对应的图像的梯度幅值映射图Zl和对应的图像的梯度幅值映射图Zr,判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl(i,j)>T2或Zr(i,j)>T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl(i,j)<T1且Zr(i,j)<T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1≤Zl(i,j)≤T2且Zr(i,j)≤T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且令
所述的步骤③中对Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-b1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l′和Zv,l′,然后计算对应的图像的梯度幅值映射图,记为Zl′,将对应的图像的梯度幅值映射图Zl′中坐标位置为(i,j)的像素点的梯度幅值记为Zl′(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度;
③-b2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r′和Zv,r′,然后计算对应的图像的梯度幅值映射图,记为Zr′,将对应的图像的梯度幅值映射图Zr′中坐标位置为(i,j)的像素点的梯度幅值记为Zr′(i,j);
③-b3、计算区域划分时所需的双阈值T1′和T2′,T1′=0.06×max(Zl′),T2′=0.12×max(Zl′),其中,max()为取最大值函数;
③-b4、根据对应的图像的梯度幅值映射图Zl′和对应的图像的梯度幅值映射图Zr′,判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl′(i,j)>T2′或Zr′(i,j)>T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl′(i,j)<T1′且Zr′(i,j)<T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1′≤Zl′(i,j)≤T2′且Zr′(i,j)≤T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且
所述的步骤中权重系数值λ的获取过程为:
-1、采用n幅无失真的立体图像建立其在不同失真类型不同失真程度下的失真立体图像集,失真立体图像集包括多幅失真的立体图像,其中,n≥1;
-2、利用主观质量评价方法获取失真立体图像集中的每幅失真的立体图像与其对应的无失真的立体图像的平均主观评分值的差值,记为DMOS,DMOS∈[0,100];
-3、根据步骤①至⑩的过程,计算失真立体图像集中的每幅失真的立体图像相对于对应的无失真的立体图像的空间频率相似度度量QF和立体感知评价度量QS;
-4、采用数学优化方法来拟合失真立体图像集中的每幅失真的立体图像对应的DMOS及对应的空间频率相似度度量QF和立体感知评价度量QS,拟合函数为DMOS=QF×(QS)λ,从而得到最优情况下的λ值。
与现有技术相比,本发明的优点在于通过分别对无失真的立体图像和失真的立体图像的左视点图像和右视点图像进行低通滤波和下采样处理,得到各个不同尺度的图像,然后对其进行区域划分,提取各尺度各区域的结构相似度度量值,然后根据人眼视觉感知决定的权值进行线性加权得到左视点图像质量和右视点图像质量,进而得到左右视点图像质量评价值;然后,通过评价无失真的立体图像和失真的立体图像的左右图像的绝对差值图像的不同区域的结构失真、灵敏度失真和亮度失真,通过人眼视觉感知决定的权值进行线性加权来实现对立体感知质量的评价;最后将左右视点图像质量和立体感知质量两者相结合,得到立体图像的最终质量评价结果,由于本发明方法在立体图像客观质量评价过程中在考虑图像质量损失的同时,有效地利用了深度感知特性及人眼视觉感知特性,因此提高了客观评价结果与主观感知的一致性,为各种立体图像处理算法的评判提供准确的判断依据。
附图说明
图1为本发明方法的总体实现框图;
图2为5级无失真Newspaper立体图像中的左视点图像经过五级滤波及下采样的中间变换图;
图3a为Akko&Kayo(640×480)立体图像;
图3b为Alt Moabit(1024×768)立体图像;
图3c为Balloons(1024×768)立体图像;
图3d为Door Flowers(1024×768)立体图像;
图3e为Kendo(1024×768)立体图像;
图3f为Leaving Laptop(1024×768)立体图像;
图3g为Lovebird1(1024×768)立体图像;
图3h为Newspaper(1024×768)立体图像;
图3i为Xmas(640×480)立体图像;
图3j为Puppy(720×480)立体图像;
图3k为Soccer2(720×480)立体图像;
图3l为Horse(480×270)立体图像;
图4a为Newspaper立体图像对的无失真左视点图像和其经过均值为0方差为0.5模糊失真的失真图像分割的边缘区域图;
图4b为Newspaper立体图像对的无失真左视点图像和其经过均值为0方差为0.5模糊失真的失真图像分割的纹理区域图;
图4c为Newspaper立体图像对的无失真左视点图像和其经过均值为0方差为0.5模糊失真的失真图像分割的平坦区域图;
图5a为λ与主观评价值相关系数CC之间的关系曲线图;
图5b为λ与主观评价值均方误差RMSE之间的关系曲线图。
具体实施方式
以下结合附图实施例对本发明作进一步详细描述。
本发明提出的一种基于视觉感知的立体图像客观质量评价方法,其充分考虑了人眼视觉感知特性,其分别评价了左右视点图像质量以及立体图像的立体感知质量,对左右视点图像质量和深度感知质量进行非线性加权,得到立体图像的最终质量评价值。图1给出了本发明方法的总体实现框图,其具体包括以下步骤:
①令Sorg为原始的无失真的立体图像,令Sdis为待评价的失真的立体图像,将原始的无失真的立体图像Sorg的左视点图像记为Lorg,将原始的无失真的立体图像Sorg的右视点图像记为Rorg,将待评价的失真的立体图像Sdis的左视点图像记为Ldis,将待评价的失真的立体图像Sdis的右视点图像记为Rdis。
②对Lorg、Rorg、Ldis和Rdis4幅图像分别实施M级正交小波9/7滤波和下采样的尺度分解,分别得到Lorg、Rorg、Ldis和Rdis4幅图像各自对应的M个子带的系数矩阵,将Lorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Ldis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rdis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为其中,1≤m≤M。
图2给出了5级无失真Newspaper立体图像中的左视点图像经过五级滤波及下采样的中间变换图。每一个尺度上的矩阵的分辨率是上一级尺度的1/4。
③对Lorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Lorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Ldis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Ldis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rdis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rdis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,其中,三个区域分别为边缘区域、平坦区域和纹理区域;将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,其中,0≤i<(Wm-7),0≤j<(Hm-7),Wm表示 对应的图像的宽度,Hm表示对应的图像的高度。
在此具体实施例中,对Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-a1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l和Zv,l然后计算对应的图像的梯度幅值映射图,记为Zl,将对应的图像的梯度幅值映射图Zl中坐标位置为(i,j)的像素点的梯度幅值记为Zl(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度。
③-a2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r和Zv,r,然后计算对应的图像的梯度幅值映射图,记为Zr,将对应的图像的梯度幅值映射图Zr中坐标位置为(i,j)的像素点的梯度幅值记为Zr(i,j)。
③-a3、计算区域划分时所需的双阈值T1和T2,T1=0.06×max(Zl),T2=0.12×max(Zl),其中,max()为取最大值函数。
③-a4、根据对应的图像的梯度幅值映射图Zl和对应的图像的梯度幅值映射图Zr,判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl(i,j)>T2或Zr(i,j)>T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl(i,j)<T1且Zr(i,j)<T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1≤Zl(i,j)≤T2且Zr(i,j)≤T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且令
在此具体实施例中,对Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-b1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l′和Zv,l′,然后计算对应的图像的梯度幅值映射图,记为Zl′,将对应的图像的梯度幅值映射图Zl′中坐标位置为(i,j)的像素点的梯度幅值记为Zl′(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度。
③-b2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r′和Zv,r′,然后计算对应的图像的梯度幅值映射图,记为Zr′,将对应的图像的梯度幅值映射图Zr′中坐标位置为(i,j)的像素点的梯度幅值记为Zr′(i,j)。
③-b3、计算区域划分时所需的双阈值T1′和T2′,T1′=0.06×max(Zl′),T2′=0.12×max(Zl′),其中,max()为取最大值函数。
③-b4、根据对应的图像的梯度幅值映射图Zl′和对应的图像的梯度幅值映射图Zr′,判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl′(i,j)>T2′或Zr′(i,j)>T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl′(i,j)<T1′且Zr′(i,j)<T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1′≤Zl′(i,j)≤T2′且Zr′(i,j)≤T2′,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且令
在本实施例中,利用图3a、图3b、图3c、图3d、图3e、图3f、图3g、图3h、图3i、图3j、图3k和图3l所示的12对无失真的立体图像建立其在不同失真类型不同失真程度下的失真立体图像集,失真类型包括JPEG压缩、JP2K压缩、高斯白噪声、高斯模糊和H264编码失真,且立体图像对的左图像和右图像同时同程度失真,该失真立体图像集共包括312对失真的立体图像,其中JPEG压缩的失真的立体图像共60对,JPEG2000压缩的失真的立体图像共60对,高斯白噪声失真的立体图像共60对,高斯模糊失真的立体图像共60对,H264编码失真的立体图像共72对。对上述312对立体图像进行如上所述的区域划分。图4a、图4b和图4c分别给出了Newspaper立体图像对的无失真左视点图像和其经过均值为0方差为0.5模糊失真的失真图像分割的边缘区域图、纹理区域图和平坦区域图。
④将Lorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Ldis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Lorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Ldis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Lorg的第m个子带的系数矩阵对应的图像中与Ldis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7)。
将Rorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Rdis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Rorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Rdis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Rorg的第m个子带的系数矩阵对应的图像中与Rdis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7)。
在此,为了充分利用图像中像素点之间的关联性,一个尺寸大小为8×8的重叠块与其最相邻的左重叠块或右重叠块有7列重叠,同样,该尺寸大小为8×8的重叠块与其最相邻的上重叠块或下重叠块有7行重叠。
⑤计算Lorg和Ldis的结构相似度值,记为QL,其中,LM,L=b1×LM,e,L+b2×LM,f,L+b3×LM,t,L,Qm,L=b1×Qm,e,L+b2×Qm,f,L+b3×Qm,t,L, Qm,e,L=Hm,e,L×Gm,e,L,Qm,f,L=Hm,f,L×Gm,f,L,Qm,t,L=Hm,t,L×Gm,t,L, 此处αm表示Qm,L对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,C1、C2和C3均为常数,C1、C2和C3是为了防止当公式中的分母接近零时产生不稳定现象所添加的常数,且C1≠0,C2≠0,C3≠0,表示Lorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Ldis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵中坐标位置为(i,j)处的系数,WM表示或或或对应的图像的宽度,HM表示或或或对应的图像的高度。
计算Rorg和Rdis的结构相似度值,记为QR,其中,LM,R=b1×LM,e,R+b2×LM,f,R+b3×LM,t,R,Qm,R=b1×Qm,e,R+b2×Qm,f,R+b3×Qm,t,R, Qm,e,R=Hm,e,R×Gm,e,R,Qm,f,R=Hm,f,R×Gm,f,R,Qm,t,R=Hm,t,R×Gm,t,R, 此处αm表示Qm,R对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,表示Rorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rdis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数。
在此,C1、C2和C3是为了避免公式中的分母出现为零的情况,在本实施例中取C1=2.56,C2=7.68,C3=3.84。αm值决定不同尺度上的评价值对立体图像质量的贡献大小,在本实施例中,当M=5时,取α1=0.0448、α2=0.0.2856、α3=0.3001、α4=0.2363、α5=0.1333。由于不同区域人眼的敏感度不同,针对块效应人眼对平坦区域比纹理区域更敏感;针对模糊失真人眼对纹理区域比平坦区域更敏感,即总体来说,人眼对边缘区域比纹理区域和平坦区域更敏感,因此为了适合各种失真类型,且减少计算复杂度,边缘区域的权值b1取0.5,平坦区域权值b2纹理区域权值b3均取0.25。
⑥根据QL和QR计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量,记为QF,QF=ωl×QL+ωr×QR,其中,ωl表示QL的权值,ωr表示QR的权值。
在本实施例中,ωl和ωr决定了QL和QR对立体图像质量的贡献,针对块效应,立体图像质量大概是左视点图像质量和右视点图像质量之和的一半;针对模糊失真,立体图像质量主要取决于质量较好的那个视点。因此为了降低模型的计算复杂度,在此取ωl=ωr=0.5。
⑦计算Lorg与Rorg的绝对差值图像,记为 计算Ldis与Rdis的绝对差值图像,记为 其中,“||”为取绝对值符号。
⑧对和分别实施区域划分,得到和各自对应的三个区域系数矩阵,三个区域分别为边缘区域、平坦区域和纹理区域,将和的边缘区域系数矩阵均记为 将和的平坦区域系数矩阵均记为 将和的纹理区域系数矩阵均记为 其中,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,此处0≤i<(W-7),0≤j<(H-7),W表示或的宽度,H表示或的高度。
在此,区域划分的过程按照步骤③所述的过程进行操作。利用图3a、图3b、图3c、图3d、图3e、图3f、图3g、图3h、图3i、图3j、图3k和图3l所示的12对无失真的立体图像建立其在不同失真类型不同失真程度下的失真立体图像集。首先计算出这12幅无失真的立体图像对的绝对差值图像,然后计算出该库中312幅失真立体图像对的绝对差值图像,最后根据步骤③的区域划分过程得到失真的312幅立体图像对(原始绝对差值图像和失真绝对差值图像)在感知评价中的边缘区域系数矩阵纹理系s数矩阵和平坦区域系数矩阵
⑨将和分别分割成(W-7)×(H-7)个尺寸大小为8×8的重叠块,然后计算与中所有坐标位置相同的两个重叠块的亮度失真映射图的系数矩阵、结构失真映射图的系数矩阵及灵敏度失真映射图的系数矩阵,分别记为PLR、KLR及ELR,对于中左上角的像素点的坐标位置为(i,j)的重叠块,将其定义为当前重叠块,计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的亮度失真映射值,记为 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的结构失真映射值,记为KLR(i,j), 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的灵敏度失真映射值,记为ELR(i,j), 其中,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差,C4是常数,且C4≠0,表示中坐标位置为(i+x,j+y)的像素点的像素值,表示中坐标位置为(i+x,j+y)的像素点的像素值,此处0≤i<(W-7),0≤j<(H-7)。
在本实施例中,C4主要是为了避免 中的分母接近零时产生不稳定现象所添加的常数,在此取C4=2.56。
⑩计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的立体感知评价度量,记为QS,Qs=b1×Qe+b2×Qf+b3×Qt,其中,
根据待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量QF和立体感知评价度量QS,计算待评价的失真的立体图像Sdis的图像质量评价分值,记为Q,Q=QF×(QS)λ,其中,λ表示权重系数值。
在此具体实施例中,权重系数值λ的获取过程为:
-1、采用n幅无失真的立体图像建立其在不同失真类型不同失真程度下的失真立体图像集,失真立体图像集包括多幅失真的立体图像,其中,n≥1。
-2、利用主观质量评价方法获取失真立体图像集中的每幅失真的立体图像与其对应的无失真的立体图像的平均主观评分值的差值,记为DMOS,DMOS∈[0,100]。
-3、根据步骤①至⑩的过程,计算失真立体图像集中的每幅失真的立体图像相对于对应的无失真的立体图像的空间频率相似度度量QF和立体感知评价度量QS。
-4、采用数学优化方法来拟合失真立体图像集中的每幅失真的立体图像对应的DMOS及对应的空间频率相似度度量QF和立体感知评价度量QS,拟合函数为DMOS=QF×(QS)λ,从而得到最优情况下的λ值。
在本实施例中,利用图3a、图3b、图3c、图3d、图3e、图3f、图3g、图3h、图3i、图3j、图3k和图3l所示的12幅无失真的立体图像建立的312幅立体图像集,对这312对失真的立体图像采用公知的主观质量评价方法进行主观评价评价,得到312对失真的立体图像各自的平均主观评分差值(DMOS,Difference MeanOpinion Scores),即每幅失真的立体图像的主观质量评分值。DMOS为主观评分均值(MOS)和满分(100)的差值,即DMOS=100-MOS,因此,DMOS值越大表示失真的立体图像的质量越差,DMOS值越小表示失真的立体图像的质量越好,且DMOS的取值范围为[0,100];另一方面,对上述312对失真的立体图像按本发明方法步骤(1)至(10)计算得到每幅失真的立体图像相应的QF和QS;然后采用Q=QF×(QS)λ进行作四参数Logistic函数非线性拟合,得到λ。在此,利用评估图像质量评价方法的2个常用客观参量作为评价指标,即非线性回归条件下的Pearson相关系数(Correlation Coefficient,CC)和均方误差系数(Rooted Mean Squared Error,RMSE),前者反映失真的立体图像评价函数这一客观模型的精度,后者反映其预测的准确性。图5a和图5b分别给出了λ与主观评价因子CC和RMSE之间的关系,λ值的大小决定左右视点图像质量和深度感知质量对最终的立体图像质量的贡献大小,λ值过大或过小,都会影响立体图像客观质量评价模型与主观感知之间的一致性,主要是由于某一方面因素影响太大,忽略了另一方面的因素。从图5a和图5b可知,CC值先随着λ值的增大而增大,当达到一定程度时,又会随着λ值的增大而减少;而RMSE则会相反,先随着λ值增大而减少,然后随着λ值增大而增大。图5a和图5b中出现极值的位置大致相同,当λ值去到极值时,立体图像客观质量评价模型与主观感知之间的一致性最好,因此在此取λ=0.03。
分析本实施例得到的失真的立体图像的图像质量评价函数Q=QF×(QS)0.03的最终评价结果与主观评分DMOS之间的相关性。这里,利用评估图像质量评价方法的3个常用客观参量作为评价指标,即CC、Spearman相关系数(Spearman Rank-OrderCorrelation Coefficient,SROCC)和RMSE。SROCC反映客观模型与主观感知之间的单调性情况。首先按本实施例得到的失真立体图像的图像质量评价函数Q=QF×(QS)0.03计算得到的最终立体图像质量评价结果的输出值Q,然后将输出值Q做四参数Logistic函数非线性拟合,最后得到立体客观评价模型与主观感知之间的性能指标值。CC和SROCC值越高说明立体图像客观评价方法与DMOS相关性越好,RMSE值越低说明立体图像客观评价方法与DMOS相关性越好。反映准确性和单调性的CC、SROCC和RMSE系数如表1所列,由表1所列的数据可见,按本实施例得到的失真立体图像的图像质量评价函数Q=QF×(QS)0.03计算得到的最终评价结果的输出值Q与主观评分DMOS之间的相关性是很高的,CC值超过0.93,SROCC超过0.92,RMSE值低于6,表明客观评价结果与人眼主观感知的结果较为一致,说明了本发明方法的有效性。
表1本实施得到的失真立体图像的图像质量评价分值与主观评分之间的相关性
Gblur | JP2K | JPEG | WN | H264 | ALL | |
图片数目(对) | 60 | 60 | 60 | 60 | 72 | 312 |
CC | 0.9787 | 0.9537 | 0.9331 | 0.9537 | 0.9643 | 0.9380 |
SROCC | 0.9773 | 0.9499 | 0.9418 | 0.9258 | 0.9537 | 0.9458 |
RMSE | 4.3260 | 3.6045 | 5.1221 | 4.7007 | 3.7156 | 5.9523 |
Claims (3)
1.一种基于视觉感知的立体图像客观质量评价方法,其特征在于包括以下步骤:
①令Sorg为原始的无失真的立体图像,令Sdis为待评价的失真的立体图像,将原始的无失真的立体图像Sorg的左视点图像记为Lorg,将原始的无失真的立体图像Sorg的右视点图像记为Rorg,将待评价的失真的立体图像Sdis的左视点图像记为Ldis,将待评价的失真的立体图像Sdis的右视点图像记为Rdis;
②对Lorg、Rorg、Ldis和Rdis4幅图像分别实施M级正交小波9/7滤波和下采样的尺度分解,分别得到Lorg、Rorg、Ldis和Rdis4幅图像各自对应的M个子带的系数矩阵,将Lorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rorg实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Ldis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为将Rdis实施第m级正交小波9/7滤波和下采样的尺度分解后得到的对应的第m个子带的系数矩阵记为其中,1≤m≤M;
③对Lorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Lorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rorg的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rorg的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Ldis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Ldis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,对Rdis的M个子带的系数矩阵一一对应的M幅图像分别实施区域划分,得到Rdis的M个子带的系数矩阵一一对应的M幅图像各自对应的三个区域系数矩阵,其中,三个区域分别为边缘区域、平坦区域和纹理区域;将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Lorg的第m个子带的系数矩阵对应的图像Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于边缘区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于平坦区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,将Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵均记为对于Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像中坐标位置均为(i,j)的两个像素点,判断该两个像素点是否均属于纹理区域,如果是,则将中坐标位置为(i,j)处的系数赋值为1,否则,将中坐标位置为(i,j)处的系数赋值为0,其中,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示对应的图像的宽度,Hm表示对应的图像的高度;
④将Lorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Ldis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Lorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Ldis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Lorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Ldis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Lorg的第m个子带的系数矩阵对应的图像中与Ldis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7);
将Rorg的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,将Rdis的M个子带的系数矩阵一一对应的M幅图像分别分割成(Wm-7)×(Hm-7)个尺寸大小为8×8的重叠块,然后分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,并分别计算Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有尺寸大小为8×8的重叠块的均值映射图和标准差映射图,再分别计算Rorg的M个子带的系数矩阵一一对应的M幅图像的每幅图像中与Rdis的M个子带的系数矩阵一一对应的M幅图像的每幅图像中所有坐标位置相同的两个重叠块的协方差映射图,将Rorg的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Rdis的第m个子带的系数矩阵对应的图像中所有尺寸大小为8×8的重叠块的均值映射图的系数矩阵和标准差映射图的系数矩阵分别记为和 将Rorg的第m个子带的系数矩阵对应的图像中与Rdis的第m个子带的系数矩阵对应的图像中所有坐标位置相同的两个重叠块的协方差映射图的系数矩阵记为 其中,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的均值,表示中坐标位置为(i+x,j+y)处的系数,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块所有像素点的标准差,表示对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差值,此处0≤i<(Wm-7),0≤j<(Hm-7);
⑤计算Lorg和Ldis的结构相似度值,记为QL,其中,LM,L=b1×LM,e,L+b2×LM,f,L+b3×LM,t,L,Qm,L=b1×Qm,e,L+b2×Qm,f,L+b3×Qm,t,L, Qm,e,L=Hm,e,L×Gm,e,L,Qm,f,L=Hm,f,L×Gm,f,L,Qm,t,L=Hm,t,L×Gm,t,L, 此处αm表示Qm,L对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,C1、C2和C3均为常数,且C1≠0,C2≠0,C3≠0,表示Lorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Ldis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的平坦区域系数矩阵中坐标位置为(i,j)处的系数,表示Lorg的第M个子带的系数矩阵对应的图像和Ldis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的纹理区域系数矩阵中坐标位置为(i,j)处的系数,WM表示或或或对应的图像的宽度,HM表示或或或对应的图像的高度;
计算Rorg和Rdis的结构相似度值,记为QR,其中, Qm,e,R=Hm,e,R×Gm,e,R,Qm,f,R=Hm,f,R×Gm,f,R,Qm,t,R=Hm,t,R×Gm,t,R, 此处αm表示Qm,R对应的权值,此处b1、b2和b3分别表示对应的图像和对应的图像的边缘区域、平坦区域和纹理区域的权重值,表示Rorg的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rdis的第M个子带的系数矩阵对应的图像中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数,表示Rorg的第M个子带的系数矩阵对应的图像和Rdis的第M个子带的系数矩阵对应的图像分别实施区域划分后得到的边缘区域系数矩阵中坐标位置为(i,j)处的系数;
⑥根据QL和QR计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量,记为QF,QF=ωl×QL+ωr×QR,其中,ωl表示QL的权值,ωr表示QR的权值;
⑦计算Lorg与Rorg的绝对差值图像,记为计算Ldis与Rdis的绝对差值图像,记为其中,“||”为取绝对值符号;
⑧对和分别实施区域划分,得到和各自对应的三个区域系数矩阵,三个区域分别为边缘区域、平坦区域和纹理区域,将和的边缘区域系数矩阵均记为将和的平坦区域系数矩阵均记为将和的纹理区域系数矩阵均记为 其中,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,表示中坐标位置为(i,j)处的系数,此处0≤i<(W-7),0≤j<(H-7),W表示或的宽度,H表示或的高度;
⑨将和分别分割成(W-7)×(H-7)个尺寸大小为8×8的重叠块,然后计算与中所有坐标位置相同的两个重叠块的亮度失真映射图的系数矩阵、结构失真映射图的系数矩阵及灵敏度失真映射图的系数矩阵,分别记为PLR、KLR及ELR,对于中左上角的像素点的坐标位置为(i,j)的重叠块,将其定义为当前重叠块,计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的亮度失真映射值,记为 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的结构失真映射值,记为KLR(i,j), 计算当前重叠块与中与当前重叠块坐标位置相同的重叠块的灵敏度失真映射值,记为ELR(i,j), 其中,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的均值,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的标准差,表示中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点和中左上角的像素点的坐标位置为(i,j)的重叠块中所有像素点的协方差,C4是常数,且C4≠0,表示中坐标位置为(i+x,j+y)的像素点的像素值,表示中坐标位置为(i+x,j+y)的像素点的像素值,此处0≤i<(W-7),0≤j<(H-7);
⑩计算待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的立体感知评价度量,记为QS,Qs=b1×Qe+b2×Qf+b3×Qt,其中,
根据待评价的失真的立体图像Sdis相对于原始的无失真的立体图像Sorg的空间频率相似度度量QF和立体感知评价度量QS,计算待评价的失真的立体图像Sdis的图像质量评价分值,记为Q,Q=QF×(QS)λ,其中,λ表示权重系数值。
2.根据权利要求1所述的一种基于视觉感知的立体图像客观质量评价方法,其特征在于所述的步骤③中对Lorg的第m个子带的系数矩阵对应的图像和Ldis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-a1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l和Zv,l,然后计算对应的图像的梯度幅值映射图,记为Zl,将对应的图像的梯度幅值映射图Zl中坐标位置为(i,j)的像素点的梯度幅值记为Zl(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度;
③-a2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r和Zv,r,然后计算对应的图像的梯度幅值映射图,记为Zr,将对应的图像的梯度幅值映射图Zr中坐标位置为(i,j)的像素点的梯度幅值记为Zr(i,j);
③-a3、计算区域划分时所需的双阈值T1和T2,T1=0.06×max(Zl),T2=0.12×max(Zl),其中,max()为取最大值函数;
③-a4、根据对应的图像的梯度幅值映射图Zl和对应的图像的梯度幅值映射图Zr,判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl(i,j)>T2或Zr(i,j)>T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl(i,j)<T1且Zr(i,j)<T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1≤Zl(i,j)≤T2且Zr(i,j)≤T2,则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且令
所述的步骤③中对Rorg的第m个子带的系数矩阵对应的图像和Rdis的第m个子带的系数矩阵对应的图像分别实施区域划分获取边缘区域系数矩阵平坦区域系数矩阵和纹理区域系数矩阵的具体过程为:
③-b1、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,l'和Zv,l',然后计算对应的图像的梯度幅值映射图,记为Zl',将对应的图像的梯度幅值映射图Zl'中坐标位置为(i,j)的像素点的梯度幅值记为Zl'(i,j),此处0≤i<(Wm-7),0≤j<(Hm-7),Wm表示或或或对应的图像的宽度,Hm表示或或或对应的图像的高度;
③-b2、对对应的图像作Sobel算子处理,得到对应的图像的水平方向梯度图像和垂直方向梯度图像,分别记为Zh,r'和Zv,r',然后计算对应的图像的梯度幅值映射图,记为Zr',将对应的图像的梯度幅值映射图Zr'中坐标位置为(i,j)的像素点的梯度幅值记为Zr'(i,j);
③-b3、计算区域划分时所需的双阈值T1'和T2',T1'=0.06×max(Zl'),T2'=0.12×max(Zl'),其中,max()为取最大值函数;
③-b4、根据对应的图像的梯度幅值映射图Zl'和对应的图像的梯度幅值映射图Zr',判定对应的图像和对应的图像中所有坐标位置相同的两个像素点为边缘像素点或平坦像素点或纹理像素点,对于对应的图像和对应的图像中坐标位置均为(i,j)的像素点,如果Zl'(i,j)>T2'或Zr'(i,j)>T2',则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为边缘像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非边缘像素点,且令如果Zl'(i,j)<T1'且Zr'(i,j)<T2',则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为平坦像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非平坦像素点,且令如果T1'≤Zl'(i,j)≤T2'且Zr'(i,j)≤T2',则确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为纹理像素点,且令否则,确定对应的图像和对应的图像中坐标位置均为(i,j)的像素点为非纹理像素点,且令
3.根据权利要求1或2所述的一种基于视觉感知的立体图像客观质量评价方法,其特征在于所述的步骤中权重系数值λ的获取过程为:
采用n幅无失真的立体图像建立其在不同失真类型不同失真程度下的失真立体图像集,失真立体图像集包括多幅失真的立体图像,其中,n≥1;
利用主观质量评价方法获取失真立体图像集中的每幅失真的立体图像与其对应的无失真的立体图像的平均主观评分值的差值,记为DMOS,DMOS∈[0,100];
根据步骤①至⑩的过程,计算失真立体图像集中的每幅失真的立体图像相对于对应的无失真的立体图像的空间频率相似度度量QF和立体感知评价度量QS;
采用数学优化方法来拟合失真立体图像集中的每幅失真的立体图像对应的DMOS及对应的空间频率相似度度量QF和立体感知评价度量QS,拟合函数为DMOS=QF×(QS)λ,从而得到最优情况下的λ值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210081617.1A CN102663747B (zh) | 2012-03-23 | 2012-03-23 | 一种基于视觉感知的立体图像客观质量评价方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210081617.1A CN102663747B (zh) | 2012-03-23 | 2012-03-23 | 一种基于视觉感知的立体图像客观质量评价方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102663747A CN102663747A (zh) | 2012-09-12 |
CN102663747B true CN102663747B (zh) | 2014-08-27 |
Family
ID=46773225
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210081617.1A Expired - Fee Related CN102663747B (zh) | 2012-03-23 | 2012-03-23 | 一种基于视觉感知的立体图像客观质量评价方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102663747B (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102917157A (zh) * | 2012-10-19 | 2013-02-06 | 北京快联科技有限公司 | 一种基于人体视觉系统的图片压缩系统及方法 |
CN102945552A (zh) * | 2012-10-22 | 2013-02-27 | 西安电子科技大学 | 基于自然场景统计中稀疏表示的无参考图像质量评价方法 |
CN102982532B (zh) * | 2012-10-31 | 2015-06-17 | 宁波大学 | 一种基于矩阵分解的立体图像客观质量评价方法 |
CN102999911B (zh) * | 2012-11-27 | 2015-06-03 | 宁波大学 | 一种基于能量图的立体图像质量客观评价方法 |
CN103108209B (zh) * | 2012-12-28 | 2015-03-11 | 宁波大学 | 基于视觉阈值与通道融合的立体图像客观质量评价方法 |
CN103136748B (zh) * | 2013-01-21 | 2015-10-28 | 宁波大学 | 一种基于特征图的立体图像质量客观评价方法 |
CN103208011B (zh) * | 2013-05-05 | 2016-01-13 | 西安电子科技大学 | 基于均值漂移和组稀疏编码的高光谱图像空谱域分类方法 |
CN107578406A (zh) * | 2017-09-06 | 2018-01-12 | 天津大学 | 基于网格与韦泊统计特性的无参考立体图像质量评价方法 |
CN109377481B (zh) * | 2018-09-27 | 2022-05-24 | 上海联影医疗科技股份有限公司 | 图像质量评价方法、装置、计算机设备和存储介质 |
US11024062B2 (en) | 2018-06-11 | 2021-06-01 | Shanghai United Imaging Healthcare Co., Ltd. | Systems and methods for evaluating image quality |
CN110378893B (zh) * | 2019-07-24 | 2021-11-16 | 北京市博汇科技股份有限公司 | 图像质量评价方法、装置和电子设备 |
CN110443800B (zh) * | 2019-08-22 | 2022-02-22 | 深圳大学 | 视频图像质量的评价方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101872479A (zh) * | 2010-06-09 | 2010-10-27 | 宁波大学 | 一种立体图像客观质量评价方法 |
CN102209257A (zh) * | 2011-06-17 | 2011-10-05 | 宁波大学 | 一种立体图像质量客观评价方法 |
CN102333233A (zh) * | 2011-09-23 | 2012-01-25 | 宁波大学 | 一种基于视觉感知的立体图像质量客观评价方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011069055A2 (en) * | 2009-12-04 | 2011-06-09 | Stc.Unm | System and methods of compressed sensing as applied to computer graphics and computer imaging |
-
2012
- 2012-03-23 CN CN201210081617.1A patent/CN102663747B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101872479A (zh) * | 2010-06-09 | 2010-10-27 | 宁波大学 | 一种立体图像客观质量评价方法 |
CN102209257A (zh) * | 2011-06-17 | 2011-10-05 | 宁波大学 | 一种立体图像质量客观评价方法 |
CN102333233A (zh) * | 2011-09-23 | 2012-01-25 | 宁波大学 | 一种基于视觉感知的立体图像质量客观评价方法 |
Non-Patent Citations (6)
Title |
---|
Stereoscopic image quality assessment model with three-component weighted structure similarity;Xiangying Mao等;《Audio Language and Image Processing (ICALIP), 2010 International Conference on》;20101125;1175-1179 * |
Xiangying Mao等.Stereoscopic image quality assessment model with three-component weighted structure similarity.《Audio Language and Image Processing (ICALIP), 2010 International Conference on》.2010,1175-1179. |
一种基于人眼视觉特性的立体图像质量客观评价方法;王阿红等;《光电工程》;20110131;第38卷(第1期);134-141 * |
利用奇异值分解法的立体图像客观质量评价模型;周俊明等;《计算机辅助设计与图形学学报》;20110531;第23卷(第5期);870-877 * |
周俊明等.利用奇异值分解法的立体图像客观质量评价模型.《计算机辅助设计与图形学学报》.2011,第23卷(第5期),870-877. |
王阿红等.一种基于人眼视觉特性的立体图像质量客观评价方法.《光电工程》.2011,第38卷(第1期),134-141. |
Also Published As
Publication number | Publication date |
---|---|
CN102663747A (zh) | 2012-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102663747B (zh) | 一种基于视觉感知的立体图像客观质量评价方法 | |
Shen et al. | Hybrid no-reference natural image quality assessment of noisy, blurry, JPEG2000, and JPEG images | |
CN109345502B (zh) | 一种基于视差图立体结构信息提取的立体图像质量评价方法 | |
CN103152600B (zh) | 一种立体视频质量评价方法 | |
CN101976444B (zh) | 一种基于像素类型的结构类似性图像质量客观评价方法 | |
Wang et al. | Novel spatio-temporal structural information based video quality metric | |
CN104394403B (zh) | 一种面向压缩失真的立体视频质量客观评价方法 | |
CN101610425B (zh) | 一种评测立体图像质量的方法和装置 | |
CN104811691B (zh) | 一种基于小波变换的立体视频质量客观评价方法 | |
CN102521825B (zh) | 一种基于零水印的立体图像质量客观评价方法 | |
WO2021248966A1 (zh) | 点云质量评估方法、编码器、解码器及存储介质 | |
CN104036502B (zh) | 一种无参考模糊失真立体图像质量评价方法 | |
CN109831664B (zh) | 基于深度学习的快速压缩立体视频质量评价方法 | |
CN103780895B (zh) | 一种立体视频质量评价方法 | |
Hachicha et al. | No-reference stereo image quality assessment based on joint wavelet decomposition and statistical models | |
Xiang et al. | VBLFI: Visualization-based blind light field image quality assessment | |
CN105282543A (zh) | 一种基于立体视觉感知的全盲立体图像质量客观评价方法 | |
CN114648482A (zh) | 立体全景图像的质量评价方法、系统 | |
CN112950596A (zh) | 基于多区域多层次的色调映射全向图像质量评价方法 | |
CN107360416A (zh) | 基于局部多元高斯描述子的立体图像质量评价方法 | |
CN113038123A (zh) | 无参考全景视频质量评价方法、系统、终端及介质 | |
CN103841411B (zh) | 一种基于双目信息处理的立体图像质量评价方法 | |
Tian et al. | SC-IQA: Shift compensation based image quality assessment for DIBR-synthesized views | |
CN106683079B (zh) | 一种基于结构失真的无参考图像客观质量评价方法 | |
CN102708568A (zh) | 一种基于结构失真的立体图像客观质量评价方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140827 |