CN111524104B - 基于多尺度轮廓波特征的全参考光场图像质量评价方法 - Google Patents
基于多尺度轮廓波特征的全参考光场图像质量评价方法 Download PDFInfo
- Publication number
- CN111524104B CN111524104B CN202010285704.3A CN202010285704A CN111524104B CN 111524104 B CN111524104 B CN 111524104B CN 202010285704 A CN202010285704 A CN 202010285704A CN 111524104 B CN111524104 B CN 111524104B
- Authority
- CN
- China
- Prior art keywords
- light field
- scale
- field image
- distorted
- follows
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013441 quality evaluation Methods 0.000 title claims abstract description 31
- 238000000034 method Methods 0.000 title claims abstract description 27
- 230000004927 fusion Effects 0.000 claims description 23
- 238000001914 filtration Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 18
- 238000010586 diagram Methods 0.000 claims description 17
- 238000001303 quality assessment method Methods 0.000 claims description 6
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 230000008447 perception Effects 0.000 abstract description 8
- 238000011156 evaluation Methods 0.000 abstract description 3
- 230000009466 transformation Effects 0.000 abstract description 2
- 238000003384 imaging method Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10052—Images from lightfield camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种基于多尺度轮廓波特征的全参考光场图像质量评价方法,基于光场图像表面的轮廓和曲线具有感知相关性,通过具有良好各向异性的多尺度多方向轮廓波变换有效地捕捉光场图像中场景结构变化的边缘和轮廓细节,充分考虑了人眼视觉系统对于光场图像的主观感知度,具有较好的光场图像质量评价性能。本发明的实施,能够得到匹配于人眼视觉的主观感知度的评价结果。
Description
技术领域
本发明涉及图像处理领域,更具体地说,涉及一种基于多尺度轮廓波特征的全参考光场图像质量评价方法。
背景技术
随着光电技术的发展,光场成像作为一种可以从单一图像中捕获更丰富的视觉信息的技术,受到了学术界和工业界的广泛关注,并在计算机视觉和计算机图形学领域得到了广泛的应用,如多视角成像、三维重建、全对焦成像、深度估计、虚拟现实、增强现实等。与传统成像不同,光场成像获取空间中任意一点任意方向上的光流数据,由此所得到的光场图像往往更能够反映出真实场景中位置和方向信息。
但光场图像在图像采集、处理、压缩、存储、传输和显示的过程中不可避免地会引入各种失真,导致人眼主观视觉效果不佳。因此,光场图像质量评价成为图像处理领域中必不可少的一个环节。
由于不同的图像具有不同的特征,光场图像携带更多的场景信息,而现有技术的质量评价方法大多是针对于自然图像、屏幕图像而设计的,并不适用于光场图像质量评价。现有技术中缺乏适用于光场图像质量评价的质量评价方法。
发明内容
本发明的目的在于克服现有技术的不足,提供一种基于多尺度轮廓波特征的全参考光场图像质量评价方法,充分考虑光场图像特点和人类视觉系统特性,评价结果符合人眼视觉系统主观感知度,具有重要的理论研究意义和实际应用价值。
本发明的技术方案如下:
一种基于多尺度轮廓波特征的全参考光场图像质量评价方法,利用多尺度轮廓特征描述光场图像的细节信息,用于反映光场图像中边缘和轮廓结构的变化;步骤如下:
2)提取参考光场图像Lr的多个尺度s多个方向o的参考轮廓波特征图Rs,o和失真光场图像Ld的多个尺度多个方向的失真轮廓波特征图Ds,o;其中,s=1,2,3,…,i,o=1,2,3,…,j;
3)融合每个尺度在不同方向下的参考轮廓波特征图Rs,o,得到参考融合轮廓波特征图Rs,e(x,y);融合每个尺度在不同方向下的失真轮廓波特征图Ds,o,得到失真融合轮廓波特征图Ds,e(x,y);其中,e表示每个尺度内所含的特征图个数,(x,y)表示光场图像中的像素;
4)融合各个尺度的参考融合轮廓波特征图Rs,e(x,y)与失真轮廓波特征图Ds,o,得到多尺度轮廓波特征相似度图CSims,e(x,y);
5)通过池化多尺度轮廓波特征相似度图CSims,e(x,y),得到多尺度质量评价分数Scores,e;
6)基于多尺度质量评价分数Scores,e计算失真光场图像质量评价值。
作为优选,步骤2)具体如下:
2.1)对尺度s的参考光场图像Lr,s进行低通滤波和下采样,得到一个低频分量Lr,s+1;再对Lr,s+1进行上采样和滤波,得到参考光场图像Lr,s的预测图像,计算预测图像与Lr,s的差值,得到对应尺度的高频分量Rbs,具体公式如下:
对尺度s的失真光场图像Ld,s进行低通滤波和下采样,得到一个低频分量Ld,s+1;再对Ld,s+1进行上采样和滤波,得到失真光场图像Ld,s的预测图像,计算预测图像与Ld,s的差值,得到对应尺度的高频分量Dbs,具体公式如下:
其中,当s=1时,表示输入图像,DOWN表示下采样,UP表示上采样,F表示低通滤波;
2.2)捕获尺度s的参考光场图像Lr,s的高频分量Rbs的方向信息Rbs,o和失真光场图像Ld,s的高频分量Dbs的方向信息Dbs,o,具体公式如下:
2.3)参考轮廓波特征图Rs,o和失真轮廓波特征图Ds,o具体如下:
作为优选,低通滤波采用9-7小波滤波器,具体如下:
其中,w表示滤波器带宽。
作为优选,步骤3)具体如下:
尺度s=i的参考融合轮廓波特征图Rs,e(x,y)为参考光场图像Lr的低频子带,失真融合轮廓波特征图Ds,e(x,y)为参考光场图像Ld的低频子带,具体如下:
Rs,e(x,y)=Lr,s;
Ds,e(x,y)=Ld,s;
其中,e=1;
计算s=1,2,3,…,i-1的参考融合轮廓波特征图Rs,e(x,y)和失真融合轮廓波特征图Ds,e(x,y),每个尺度根据轮廓波长条形的基并成两张特征图,具体如下:
其中,∪为并集。
作为优选,步骤4)具体如下:
其中,Cs为稳定系数。
作为优选,步骤5)具体如下:
Ws,e(x,y)=max(Rs,e(x,y),Ds,e(x,y))。
作为优选,步骤6)具体如下:
6.2)计算失真光场子孔径图像的质量评价值,如下:
6.3)计算失真光场图像质量评价值,如下:
本发明的有益效果如下:
本发明所述的基于多尺度轮廓波特征的全参考光场图像质量评价方法,基于光场图像表面的轮廓和曲线具有感知相关性,通过具有良好各向异性的多尺度多方向轮廓波变换有效地捕捉光场图像中场景结构变化的边缘和轮廓细节,充分考虑了人眼视觉系统对于光场图像的主观感知度,具有较好的光场图像质量评价性能。本发明的实施,能够得到匹配于人眼视觉的主观感知度的评价结果。
附图说明
图1是本发明的流程示意图。
具体实施方式
以下结合附图及实施例对本发明进行进一步的详细说明。
本发明为了解决现有技术中针对于自然图像、屏幕图像而设计的质量评价方法因无法匹配于人眼视觉的主观感知度,而无法适用于光场图像质量评价的不足,提供一种基于多尺度轮廓波特征的全参考光场图像质量评价方法,填充现有技术中缺乏适用于光场图像质量评价的空白。
本发明所述的基于多尺度轮廓波特征的全参考光场图像质量评价方法,如图1所示,包括如下步骤:
2)提取参考光场图像Lr的多个尺度s多个方向o的参考轮廓波特征图Rs,o和失真光场图像Ld的多个尺度多个方向的失真轮廓波特征图Ds,o;其中,s=1,2,3,…,i,o=1,2,3,…,j。
步骤2)具体如下:
2.1)对尺度s的参考光场图像Lr,s进行低通滤波和下采样,得到一个低频分量Lr,s+1;再对Lr,s+1进行上采样和滤波,得到参考光场图像Lr,s的预测图像,计算预测图像与Lr,s的差值,得到对应尺度的高频分量Rbs,具体公式如下:
对尺度s的失真光场图像Ld,s进行低通滤波和下采样,得到一个低频分量Ld,s+1;再对Ld,s+1进行上采样和滤波,得到失真光场图像Ld,s的预测图像,计算预测图像与Ld,s的差值,得到对应尺度的高频分量Dbs,具体公式如下:
其中,当s=1时,表示输入图像,DOWN表示下采样,UP表示上采样,F表示低通滤波;
本实施例中,低通滤波采用9-7小波滤波器,具体如下:
其中,w表示滤波器带宽。
具体实施时,s=1,2,3,4,进而F9-7具体如下:
其中,h0=0.8527,h1=0.3775,h2=-0.1106,h3=-0.0238,h4=-0.0378,g0=0.7885,g1=0.4181,g2=-0.0407,g3=-0.0645,w=π。
2.2)捕获尺度s的参考光场图像Lr,s的高频分量Rbs的方向信息Rbs,o和失真光场图像Ld,s的高频分量Dbs的方向信息Dbs,o,具体公式如下:
本实施例中,o=1,2,3,…,16,k=4。
2.3)参考轮廓波特征图Rs,o和失真轮廓波特征图Ds,o具体如下:
3)融合每个尺度在不同方向下的参考轮廓波特征图Rs,o,得到参考融合轮廓波特征图Rs,e(x,y);融合每个尺度在不同方向下的失真轮廓波特征图Ds,o,得到失真融合轮廓波特征图Ds,e(x,y);其中,e表示每个尺度内所含的特征图个数,(x,y)表示光场图像中的像素。
步骤3)具体如下:
3.1)尺度s=i的参考融合轮廓波特征图Rs,e(x,y)为参考光场图像Lr的低频子带,失真融合轮廓波特征图Ds,e(x,y)为参考光场图像Ld的低频子带,具体如下:
Rs,e(x,y)=Lr,s;
Ds,e(x,y)=Ld,s;
其中,e=1。本实施例中,s=1,2,3,4,则s=4时,Rs,e(x,y)=Lr,s、Ds,e(x,y)=Ld,s。
3.2)计算s=1,2,3,…,i-1的参考融合轮廓波特征图Rs,e(x,y)和失真融合轮廓波特征图Ds,e(x,y),每个尺度根据轮廓波长条形的基并成两张特征图,具体如下:
其中,∪为并集。
本实施例中,s=1,2,3,4,o=1,2,3,…,16,则s=1,2,3的参考融合轮廓波特征图Rs,e(x,y)和失真融合轮廓波特征图Ds,e(x,y),每个尺度根据轮廓波长条形的基并成两张特征图,具体如下:
4)融合各个尺度的参考融合轮廓波特征图Rs,e(x,y)与失真轮廓波特征图Ds,o,得到多尺度轮廓波特征相似度图CSims,e(x,y),具体如下:
其中,Cs为稳定系数,本实施例中,Cs=100。
5)通过池化多尺度轮廓波特征相似度图CSims,e(x,y),得到多尺度质量评价分数Scores,e;具体如下:
Ws,e(x,y)=max(Rs,e(x,y),Ds,e(x,y))。
6)基于多尺度质量评价分数Scores,e计算失真光场图像质量评价值;
步骤6)具体如下:
6.2)计算失真光场子孔径图像的质量评价值,如下:
6.3)计算失真光场图像质量评价值,如下:
上述实施例仅是用来说明本发明,而并非用作对本发明的限定。只要是依据本发明的技术实质,对上述实施例进行变化、变型等都将落在本发明的权利要求的范围内。
Claims (5)
1.一种基于多尺度轮廓波特征的全参考光场图像质量评价方法,其特征在于,利用多尺度轮廓特征描述光场图像的细节信息,用于反映光场图像中边缘和轮廓结构的变化;步骤如下:
2)提取参考光场图像Lr的多个尺度s多个方向o的参考轮廓波特征图Rs,o和失真光场图像Ld的多个尺度多个方向的失真轮廓波特征图Ds,o;其中,s=1,2,3,…,i,o=1,2,3,…,j;
3)融合每个尺度在不同方向下的参考轮廓波特征图Rs,o,得到参考融合轮廓波特征图Rs,e(x,y);融合每个尺度在不同方向下的失真轮廓波特征图Ds,o,得到失真融合轮廓波特征图Ds,e(x,y);其中,e表示每个尺度内所含的特征图个数,(x,y)表示光场图像中的像素;
4)融合各个尺度的参考融合轮廓波特征图Rs,e(x,y)与失真轮廓波特征图Ds,o,得到多尺度轮廓波特征相似度图CSims,e(x,y);
5)通过池化多尺度轮廓波特征相似度图CSims,e(x,y),得到多尺度质量评价分数Scores,e;
6)基于多尺度质量评价分数Scores,e计算失真光场图像质量评价值;
步骤2)具体如下:
2.1)对尺度s的参考光场图像Lr,s进行低通滤波和下采样,得到一个低频分量Lr,s+1;再对Lr,s+1进行上采样和滤波,得到参考光场图像Lr,s的预测图像,计算预测图像与Lr,s的差值,得到对应尺度的高频分量Rbs,具体公式如下:
对尺度s的失真光场图像Ld,s进行低通滤波和下采样,得到一个低频分量Ld,s+1;再对Ld,s+1进行上采样和滤波,得到失真光场图像Ld,s的预测图像,计算预测图像与Ld,s的差值,得到对应尺度的高频分量Dbs,具体公式如下:
其中,当s=1时,表示输入图像,DOWN表示下采样,UP表示上采样,F表示低通滤波;
2.2)捕获尺度s的参考光场图像Lr,s的高频分量Rbs的方向信息Rbs,o和失真光场图像Ld,s的高频分量Dbs的方向信息Dbs,o,具体公式如下:
2.3)参考轮廓波特征图Rs,o和失真轮廓波特征图Ds,o具体如下:
步骤4)具体如下:
其中,Cs为稳定系数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010285704.3A CN111524104B (zh) | 2020-04-13 | 2020-04-13 | 基于多尺度轮廓波特征的全参考光场图像质量评价方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010285704.3A CN111524104B (zh) | 2020-04-13 | 2020-04-13 | 基于多尺度轮廓波特征的全参考光场图像质量评价方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111524104A CN111524104A (zh) | 2020-08-11 |
CN111524104B true CN111524104B (zh) | 2023-03-24 |
Family
ID=71911865
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010285704.3A Active CN111524104B (zh) | 2020-04-13 | 2020-04-13 | 基于多尺度轮廓波特征的全参考光场图像质量评价方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111524104B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112967242B (zh) * | 2021-02-26 | 2023-07-04 | 北京信息科技大学 | 一种基于视觉特征聚合的光场质量评价方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005031769A (ja) * | 2003-07-07 | 2005-02-03 | Ricoh Co Ltd | 画像評価装置、画像評価方法、および同方法のプログラムを記録した記録媒体 |
CN102547363A (zh) * | 2010-12-07 | 2012-07-04 | 江南大学 | 基于轮廓波变换域图像特征的无参考图像质量评测方法 |
CN109272459A (zh) * | 2018-08-20 | 2019-01-25 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110310269A (zh) * | 2019-06-27 | 2019-10-08 | 华侨大学 | 基于极平面多尺度Gabor特征相似度的光场图像质量评价方法 |
-
2020
- 2020-04-13 CN CN202010285704.3A patent/CN111524104B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005031769A (ja) * | 2003-07-07 | 2005-02-03 | Ricoh Co Ltd | 画像評価装置、画像評価方法、および同方法のプログラムを記録した記録媒体 |
CN102547363A (zh) * | 2010-12-07 | 2012-07-04 | 江南大学 | 基于轮廓波变换域图像特征的无参考图像质量评测方法 |
CN109272459A (zh) * | 2018-08-20 | 2019-01-25 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110310269A (zh) * | 2019-06-27 | 2019-10-08 | 华侨大学 | 基于极平面多尺度Gabor特征相似度的光场图像质量评价方法 |
Non-Patent Citations (1)
Title |
---|
利用边缘相似度的光场图像质量评价;田钰等;《信号处理》;20181025(第10期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111524104A (zh) | 2020-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yang et al. | Review of pixel-level image fusion | |
CN108447059B (zh) | 一种全参考光场图像质量评价方法 | |
CN111179189B (zh) | 基于生成对抗网络gan的图像处理方法、装置以及电子设备、存储介质 | |
CN106919257B (zh) | 基于图像亮度信息力触觉交互纹理力再现方法 | |
CN110956661A (zh) | 基于双向单应矩阵的可见光与红外相机动态位姿计算方法 | |
CN103354617B (zh) | 一种基于dct域的边缘强度压缩的图像质量客观评价方法 | |
CN112070688A (zh) | 一种基于上下文引导生成对抗网络的单幅图像去雾方法 | |
CN106702870A (zh) | 一种道路裂缝检测系统 | |
CN105631890B (zh) | 基于图像梯度和相位一致性的失焦图片质量评价方法 | |
CN111127298B (zh) | 一种全景图像盲质量评估方法 | |
CN110310269B (zh) | 基于极平面多尺度Gabor特征相似度的光场图像质量评价方法 | |
CN113038123A (zh) | 无参考全景视频质量评价方法、系统、终端及介质 | |
CN111524104B (zh) | 基于多尺度轮廓波特征的全参考光场图像质量评价方法 | |
Wang et al. | Multiscale supervision-guided context aggregation network for single image dehazing | |
CN115937794A (zh) | 小目标对象检测方法、装置、电子设备及存储介质 | |
CN109801273B (zh) | 一种基于极平面线性相似度的光场图像质量评价方法 | |
CN106651798B (zh) | 一种有效的图像镜面反射移除方法 | |
CN106778822B (zh) | 基于漏斗变换的图像直线检测方法 | |
CN105528772B (zh) | 一种基于指导性滤波的图像融合方法 | |
CN112102504A (zh) | 一种基于混合现实的三维场景和二维图像混合方法 | |
CN113011281A (zh) | 一种基于3d-dog特征的光场图像质量识别方法 | |
CN115063562A (zh) | 一种基于多视图三维重建的虚实融合增强现实呈现方法 | |
CN114782285A (zh) | 一种低分辨率模糊图像增强方法 | |
CN114581389A (zh) | 一种基于三维边缘相似度特征的点云质量分析方法 | |
CN113256590A (zh) | 一种基于Gabor自相似度特征的无参考3D合成图像质量评价方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |