CN106651798A - 一种有效的图像镜面反射移除方法 - Google Patents
一种有效的图像镜面反射移除方法 Download PDFInfo
- Publication number
- CN106651798A CN106651798A CN201611173716.7A CN201611173716A CN106651798A CN 106651798 A CN106651798 A CN 106651798A CN 201611173716 A CN201611173716 A CN 201611173716A CN 106651798 A CN106651798 A CN 106651798A
- Authority
- CN
- China
- Prior art keywords
- ghost
- image
- core
- sigma
- reflection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000013507 mapping Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000011084 recovery Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000000694 effects Effects 0.000 abstract description 2
- 230000008030 elimination Effects 0.000 abstract 1
- 238000003379 elimination reaction Methods 0.000 abstract 1
- 239000011521 glass Substances 0.000 description 5
- 241001074085 Scophthalmus aquosus Species 0.000 description 3
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种有效的图像镜面反射移除方法,利用镜面反射图像中的“鬼影”作为先验知识,构建相应模型对图像镜面反射进行去除。通过建立基本模型、得到关于反射消除的数据拟合项,接着采用有效的高斯混合模型先验技术进行图像恢复。涉及到的镜面反射去除算法,其优越性在于可以仅通过一张包含反射干扰的输入图像得到理想的恢复效果。
Description
技术领域
本发明涉及图像恢复领域中的镜面反射移除,具体涉及一种有效的图像镜面反射移除方法。
背景技术
日常生活中,由于拍摄条件的制约,我们经常需要通过玻璃窗或玻璃板拍摄景物。例如:从行驶的火车内部拍摄车外的自然风光;在室内透过封闭的窗户拍摄窗外物体;在街边通过商店橱窗拍摄店内商品;在博物馆拍摄收藏在玻璃柜中的藏品等。在通过上述情况得到的照片中,我们期望的场景(景物)通常会被相机所在方向的玻璃层的反射影像所干扰,严重影响照片质量。因此需要对获得的照片进行相应的后处理以去除反射,也就是说需要从获得的景物叠加的图片中分离出反射影像。这是很实用的技术,也有着重要的理论意义,但该问题存在严重的病态性。这需要涉及到有效的镜面反射移除算法,利用相应的先验知识来消除问题的病态性,对反射进行消除。
发明内容
本发明克服了通过玻璃窗或玻璃板拍照存在镜面反射干扰的不足,提供解决一种有效的图像镜面反射移除方法。
为解决上述的技术问题,本发明采用以下技术方案:
一种有效的图像镜面反射移除方法,它包括以下步骤:
步骤1,将镜面反射图像中的“鬼影”构建模型,“鬼影”模型建模为反射层R与鬼影核K的卷积,对应模型如下:
Y=X+R*K
其中,Y为观测到的图像,X为真实场景,*为卷积操作;
步骤2,构建图像块数据库;
步骤3,利用期望最大化算法求解高斯混合模型的参数;
步骤4,利用步骤3中所求参数,对图像层与反射层均构建相应的块级高斯混合模型约束;
步骤5,利用步骤3中得到的高斯混合模型先验,并联合非负约束,得到最终代价函数;
S.T.X≥0,R≤1
其中Pi为块提取操作矩阵;
步骤6,采用估计方法计算鬼影核K,在本方法假设下,鬼影核K仅存在两个非零值,鬼影核K可参数化为一个二维的空间偏移向量dk和一个相对的减弱因子ck;
其中,为第一层反射图像的第i像素,为第二层反射图像的第i像素;
步骤7,利用估计方法得到的鬼影核K,再结合一个总变分先验,采用分裂Bregman方法求解得到初始估计值;
步骤8,利用步骤7中的初始估计值,以及步骤5中的代价函数,采用半二次方法求解。
更进一步的技术方案是,所述步骤6中的估计方法具体如下:
步骤6.1,利用的二维自相关映射计算偏移,上述映射在dk对应的地方会有局部最大值,则检测局部最大映射即可得到偏移估计,如果检测到局部最大值为零偏移,则置ck为零且返回,否则进行步骤6.2至6.3;
步骤6.2,利用Harris角点检测算法得到输入图Y上的角点;
步骤6.3,提取以角点为中心的5×5块,并对所有角点块以及其dk偏移后的块进行相关性计算,相关性大的认为为鬼影块,然后求出ck。
本技术方案利用镜面反射图像中的“鬼影”(或称为“重影”)作为先验知识,构建相应模型对图像镜面反射进行去除。“鬼影”或“重影”产生的原因:玻璃窗或玻璃板由两面组成,内部的玻璃平面产生第一层反射,外部平面产生第二层反射,第二层是第一层的偏移与减弱版本。算法利用的特性:上述提到的“鬼影”现象,其提供了关键的分割反射与期望场景的线索。我们可以将鬼影建模为反射层R与鬼影核K的卷积,对应基本模型如下:
Y=X+R*K
其中,Y为观测到的图像,X为真实场景,*为卷积操作。
利用上述模型,可以得到关于反射消除的数据拟合项。接着,为了消除病态性,我们可以采用有效的高斯混合模型(GMM)先验。初始化阶段,我们直接采用基本的总变分(TV)先验,得到初始图像估计后,再结合“鬼影”与GMM的方法进行恢复。涉及到的镜面反射去除算法,其优越性在于可以仅通过一张包含反射干扰的输入图像得到理想的恢复效果,与主流的融合多张包含镜面反射的图片信息来进行反射去除的方法有着显著的差别。在系统实际使用中,用户可以根据需求选择在线或离线进行恢复。
与现有技术相比,本发明的有益效果是:
通过本发明的方法,可以很好地提升存在镜面反射的图像的质量,并且有离线与在线版本,可使得用户有更好的体验。
附图说明
图1为本发明一种实施例的一种有效的图像镜面反射移除方法的流程图。
具体实施方式
下面结合附图对本发明作进一步阐述。
本方法具体实施过程如下:
步骤一:用户拍照,对存在镜面反射干扰的照片可以选择在线与离线两种处理,如果选择在线处理,转二,否则转至四;
步骤二:为节省数据量,用户选取原始照片中存在镜面反射的区域,并自动进行压缩(如:JPEG2000),通过网络上传至在线恢复系统;
步骤三:处理完成后,用户可从网上下载至相机、手机或电脑等,完成全部处理。
步骤四:用户将照片导入电脑相应软件,系统自动对照片进行恢复,完成全部处理。
其中涉及的有效的图像镜面反射移除方法如图1所示,它包括以下步骤:
步骤1,将镜面反射图像中的“鬼影”构建模型,“鬼影”模型建模为反射层R与鬼影核K的卷积,对应模型如下:
Y=X+R*K
其中,Y为观测到的图像,X为真实场景,*为卷积操作;
步骤2,构建图像块数据库;
步骤3,利用期望最大化算法求解高斯混合模型的参数;
步骤4,利用步骤3中所求参数,对图像层与反射层均构建相应的块级高斯混合模型约束;
步骤5,利用步骤3中得到的高斯混合模型先验,并联合非负约束,得到最终代价函数;
S.T. X≥0,R≤1
其中Pi为块提取操作矩阵;
步骤6,采用估计方法计算鬼影核K,在本方法假设下,鬼影核K仅存在两个非零值,鬼影核K可参数化为一个二维的空间偏移向量dk和一个相对的减弱因子ck;
其中,为第一层反射图像的第i像素,为第二层反射图像的第i像素;
估计方法具体如下:
步骤6.1,利用的二维自相关映射计算偏移,上述映射在dk对应的地方会有局部最大值,则检测局部最大映射即可得到偏移估计,如果检测到局部最大值为零偏移,则置ck为零且返回,否则进行步骤6.2至6.3;
步骤6.2,利用Harris角点检测算法得到输入图Y上的角点;
步骤6.3,提取以角点为中心的5×5块,并对所有角点块以及其dk偏移后的块进行相关性计算,相关性大的认为为鬼影块,然后求出ck
步骤7,利用估计方法得到的鬼影核K,再结合一个总变分先验,采用分裂Bregman方法求解得到初始估计值;
步骤8,利用步骤7中的初始估计值,以及步骤5中的代价函数,采用半二次方法求解。
以上具体实施方式对本发明的实质进行详细说明,但并不能对本发明的保护范围进行限制,显而易见地,在本发明的启示下,本技术领域普通技术人员还可以进行许多改进和修饰,需要注意的是,这些改进和修饰都落在本发明的权利要求保护范围之内。
Claims (2)
1.一种有效的图像镜面反射移除方法,其特征在于,它包括以下步骤:
步骤1,将镜面反射图像中的“鬼影”构建模型,“鬼影”模型建模为反射层R与鬼影核K的卷积,对应模型如下:
Y=X+R*K
其中,Y为观测到的图像,X为真实场景,*为卷积操作;
步骤2,构建图像块数据库;
步骤3,利用期望最大化算法求解高斯混合模型的参数;
步骤4,利用步骤3中所求参数,对图像层与反射层均构建相应的块级高斯混合模型约束;
步骤5,利用步骤3中得到的高斯混合模型先验,并联合非负约束,得到最终代价函数;
其中Pi为块提取操作矩阵;
步骤6,采用估计方法计算鬼影核K,在本方法假设下,鬼影核K仅存在两个非零值,鬼影核K可参数化为一个二维的空间偏移向量dk和一个相对的减弱因子ck;
其中,为第一层反射图像的第i像素,为第二层反射图像的第i像素;
步骤7,利用估计方法得到的鬼影核K,再结合一个总变分先验,采用分裂Bregman方法求解得到初始估计值;
步骤8,利用步骤7中的初始估计值,以及步骤5中的代价函数,采用半二次方法求解。
2.根据权利要求1所述的一种有效的图像镜面反射移除方法,其特征在于,
所述步骤6中的估计方法具体如下:
步骤6.1,利用的二维自相关映射计算偏移,上述映射在dk对应的地方会有局部最大值,则检测局部最大映射即可得到偏移估计,如果检测到局部最大值为零偏移,则置ck为零且返回,否则进行步骤6.2至6.3;
步骤6.2,利用Harris角点检测算法得到输入图Y上的角点;
步骤6.3,提取以角点为中心的5×5块,并对所有角点块以及其dk偏移后的块进行相关性计算,相关性大的认为为鬼影块,然后求出ck。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611173716.7A CN106651798B (zh) | 2016-12-16 | 2016-12-16 | 一种有效的图像镜面反射移除方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611173716.7A CN106651798B (zh) | 2016-12-16 | 2016-12-16 | 一种有效的图像镜面反射移除方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106651798A true CN106651798A (zh) | 2017-05-10 |
CN106651798B CN106651798B (zh) | 2020-04-28 |
Family
ID=58823937
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611173716.7A Active CN106651798B (zh) | 2016-12-16 | 2016-12-16 | 一种有效的图像镜面反射移除方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106651798B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108961389A (zh) * | 2018-06-06 | 2018-12-07 | 链家网(北京)科技有限公司 | 消除房源虚拟三维模型中镜面产生的虚像的方法及系统 |
CN109978798A (zh) * | 2019-04-08 | 2019-07-05 | 湖南师范大学 | 基于图像梯度稀疏性的重影反射去除方法 |
EP3817361A4 (en) * | 2018-06-29 | 2021-08-25 | Tencent Technology (Shenzhen) Company Limited | IMAGE PROCESSING METHOD, COMPUTER READABLE MEDIUM, AND ELECTRONIC DEVICE |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6169263A (ja) * | 1984-09-12 | 1986-04-09 | Fuji Xerox Co Ltd | カラ−読取装置 |
CN101389004A (zh) * | 2007-09-13 | 2009-03-18 | 中国科学院自动化研究所 | 一种基于在线学习的运动目标分类方法 |
CN103918249A (zh) * | 2011-08-30 | 2014-07-09 | 富士胶片株式会社 | 成像装置和成像方法 |
CN104766344A (zh) * | 2015-03-31 | 2015-07-08 | 华南理工大学 | 基于运动边缘提取器的车辆检测方法 |
CN104899839A (zh) * | 2015-06-05 | 2015-09-09 | 河海大学 | 基于ViBe算法的鬼影快速抑制方法 |
-
2016
- 2016-12-16 CN CN201611173716.7A patent/CN106651798B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6169263A (ja) * | 1984-09-12 | 1986-04-09 | Fuji Xerox Co Ltd | カラ−読取装置 |
CN101389004A (zh) * | 2007-09-13 | 2009-03-18 | 中国科学院自动化研究所 | 一种基于在线学习的运动目标分类方法 |
CN103918249A (zh) * | 2011-08-30 | 2014-07-09 | 富士胶片株式会社 | 成像装置和成像方法 |
CN104766344A (zh) * | 2015-03-31 | 2015-07-08 | 华南理工大学 | 基于运动边缘提取器的车辆检测方法 |
CN104899839A (zh) * | 2015-06-05 | 2015-09-09 | 河海大学 | 基于ViBe算法的鬼影快速抑制方法 |
Non-Patent Citations (1)
Title |
---|
JAEHYUN AN ET AL.: "Reduction of ghost effect in exposure fusion by detecting the ghost pixels in saturated and non-saturated regions", 《 2012 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING (ICASSP)》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108961389A (zh) * | 2018-06-06 | 2018-12-07 | 链家网(北京)科技有限公司 | 消除房源虚拟三维模型中镜面产生的虚像的方法及系统 |
CN108961389B (zh) * | 2018-06-06 | 2019-07-09 | 贝壳找房(北京)科技有限公司 | 消除房源虚拟三维模型中镜面产生的虚像的方法及系统 |
EP3817361A4 (en) * | 2018-06-29 | 2021-08-25 | Tencent Technology (Shenzhen) Company Limited | IMAGE PROCESSING METHOD, COMPUTER READABLE MEDIUM, AND ELECTRONIC DEVICE |
US11348207B2 (en) | 2018-06-29 | 2022-05-31 | Tencent Technology (Shenzhen) Company Limited | Image processing method and apparatus, computer-readable medium, and electronic device |
CN109978798A (zh) * | 2019-04-08 | 2019-07-05 | 湖南师范大学 | 基于图像梯度稀疏性的重影反射去除方法 |
CN109978798B (zh) * | 2019-04-08 | 2022-11-29 | 湖南师范大学 | 基于图像梯度稀疏性的重影反射去除方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106651798B (zh) | 2020-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Arvanitopoulos et al. | Single image reflection suppression | |
Han et al. | Reflection removal using low-rank matrix completion | |
Yang et al. | Color-guided depth recovery from RGB-D data using an adaptive autoregressive model | |
CN111127308B (zh) | 用于局部遮挡下单样本人脸识别的镜像特征重排修复方法 | |
CN114041161A (zh) | 训练用于增强图像细节的神经网络模型的方法和装置 | |
CN110956661B (zh) | 基于双向单应矩阵的可见光与红外相机动态位姿计算方法 | |
CN106127696A (zh) | 一种基于bp神经网络拟合运动场的图像去除反射方法 | |
CN107635136B (zh) | 基于视觉感知和双目竞争的无参考立体图像质量评价方法 | |
CN107301662B (zh) | 深度图像的压缩恢复方法、装置、设备及存储介质 | |
CN108377374A (zh) | 用于产生与图像相关的深度信息的方法和系统 | |
CN110246151A (zh) | 一种基于深度学习和单目视觉的水下机器人目标跟踪方法 | |
CN108648264A (zh) | 基于运动恢复的水下场景重建方法及存储介质 | |
CN106651798A (zh) | 一种有效的图像镜面反射移除方法 | |
CN113284061B (zh) | 一种基于梯度网络的水下图像增强方法 | |
CN111192226A (zh) | 一种图像融合去噪方法及装置、系统 | |
CN108377355A (zh) | 一种视频数据处理方法、装置及设备 | |
CN107742278B (zh) | 结合l0范数和空间尺度信息的运动模糊图像盲复原方法 | |
CN110889868B (zh) | 一种结合梯度和纹理特征的单目图像深度估计方法 | |
CN104243970A (zh) | 基于立体视觉注意力机制和结构相似度的3d绘制图像的客观质量评价方法 | |
Yue et al. | Image noise estimation and removal considering the bayer pattern of noise variance | |
Hsu et al. | Object detection using structure-preserving wavelet pyramid reflection removal network | |
Chen et al. | Improve transmission by designing filters for image dehazing | |
CN105608678B (zh) | 基于稀疏失真模型表示的深度图像空洞修复和去噪方法 | |
CN102156968B (zh) | 一种基于颜色立方先验的单一图像能见度复原方法 | |
CN109257591A (zh) | 基于稀疏表示的无参考立体视频质量客观评价方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |