CN108416754A - 一种自动去除鬼影的多曝光图像融合方法 - Google Patents

一种自动去除鬼影的多曝光图像融合方法 Download PDF

Info

Publication number
CN108416754A
CN108416754A CN201810224358.0A CN201810224358A CN108416754A CN 108416754 A CN108416754 A CN 108416754A CN 201810224358 A CN201810224358 A CN 201810224358A CN 108416754 A CN108416754 A CN 108416754A
Authority
CN
China
Prior art keywords
exposure
image
fusion
localized mass
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810224358.0A
Other languages
English (en)
Other versions
CN108416754B (zh
Inventor
冯华君
常猛
徐之海
李奇
陈跃庭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Original Assignee
Zhejiang University ZJU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU filed Critical Zhejiang University ZJU
Priority to CN201810224358.0A priority Critical patent/CN108416754B/zh
Publication of CN108416754A publication Critical patent/CN108416754A/zh
Application granted granted Critical
Publication of CN108416754B publication Critical patent/CN108416754B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Picture Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种自动去除鬼影的多曝光图像融合方法。针对于动态场景的多曝光图像融合存在鬼影的现象,提出了一种有效的运动物体选择的方法。该方法首先选择一张输入LDR图像作为参考图像,通过双向亮度映射的方法检测运动区域,计算运动权重,然后通过梯度域加权优化的方法自动去除鬼影,得到潜在图像。在去除鬼影之后,使用基于块的融合方法计算融合权重,进行曝光融合,保持细节信息并抑制异常值。本发明方法能够有效地保持多张输入图像的细节并去除鬼影,同时避免了复杂的参数设置和用户设置阈值的任意性,在多种场景下都对鬼影现象有较强的鲁棒性。

Description

一种自动去除鬼影的多曝光图像融合方法
技术领域
本发明属于数字图像处理领域,涉及一种自动去除鬼影的多曝光图像融合方法。
背景技术
真实世界的动态范围很高,直接获取高动态范围图像需要专业级的高动态相机,而多数成像设备不能捕捉如此高的动态范围。高动态范围成像技术(HDRI)是一种有效获取高动态范围图像的方法,其通过获取一系列不同曝光的低动态范围图像(LDR),然后合成一张HDR图像。这种方法只需要普通的成像设备就可以完成,因此得到广泛的应用。但是由于相机抖动或场景中物体运动,这些直接合成的方法得到的结果存在鬼影现象(ghosts orghosting artifact)。去鬼影的HDR合成技术可以在利用多张LDR图像合成HDR图像的同时,消除由多张LDR图像场景差异而造成的鬼影现象。
目前存在的去鬼影的多曝光融合方法,一方面计算复杂,耗时较长,不适用于实时应用,另一方面需要人工设置参数和阈值选取鬼影区域,容易残留鬼影,在运动区域边缘出现亮度不一致的现象。
发明内容
本发明的目的是去除动态场景中与参考图像不一致的运动物体,然后进行多曝光融合,以保持场景丰富的细节和良好的视觉效果。
为达到以上目的,本发明采用以下技术方案:一种自动去除鬼影的多曝光图像融合方法,该方法包括以下步骤:
(1)参考图像选择,具体是:选择有最多正常曝光区域的输入图像作为参考图像或用户自主选择参考图像,去除不希望出现的运动物体;
(2)运动区域检测,具体是:
(2.1)利用双向亮度映射,计算参考图像与其他输入图像之间的差异;
(2.2)利用得到的差异计算每个像素的运动权重,得到运动权重图;
(3)生成潜在图像,具体是:将参考图像和输入图像在梯度域利用运动权重,生成潜在图像;
(4)基于块的曝光融合,具体是:
(4.1)计算潜在图像的可重叠局部块的对比度、饱和度和曝光度;
(4.2)将局部块的对比度、饱和度和曝光度加权相乘得到融合权重图;
(4.3)将融合权重图归一化;
(4.4)利用高斯-拉普拉斯金字塔对融合权重图和潜在图像作多尺度分解,然后进行加权叠加,得到多曝光融合图像。
进一步地,所述步骤(2.2)中,运动权重图的计算公式如下:
其中,Dn为利用双向亮度映射计算的差异,σd为自适应参数,其定义为
σd=α*var(Dn) (2)
var(·)为方差函数,α为常数,取1~4,一般设为1。
进一步地,所述步骤(3)中,生成潜在图像In的公式如下:
其中,Wn为运动权重图,Ln为输入图像,Lref为参考图像,τ(·)为亮度映射函数。
进一步地,所述步骤(4.1)中,局部块的对比度C定义为局部块的方差,公式如下:
其中,Ω为块的大小,NΩ为块的像素数,一般取7×7,i为块内的亮度值,μ为块内亮度平均值;
局部块的饱和度S定义为局部块三个颜色通道的标准差,公式如下:
其中,μc为颜色通道c的块内亮度平均值;
局部块的曝光度E定义为与中间亮度的偏差,公式如下:
进一步地,所述步骤(4.2)中,融合权重图为局部块对比度、饱和度和曝光度加权乘积,其公式为:
其中,ωC,ωS,ωE为相应的指数权重,一般均取1。
本发明的有益效果:本发明可以有效地去除动态场景的鬼影现象,而且不需要复杂的参数设置或者人工选择阈值。该方法可保持多张输入图像正常曝光区域的细节,得到的融合图像没有其他人工效应,有良好的视觉效果。另外,该方法简单,计算复杂度低,耗时较少。
附图说明
图1为本发明方法主要框架流程示意图;
图2为本发明方法生成的运动权重示意图;
图3为本发明方法的结果示意图;
图4为本发明方法与其他方法的比较。
具体实施方式
以下结合附图和具体实施例对本发明作进一步说明。
本发明针对有运动物体的拍摄场景的多曝光融合,利用梯度域加权优化自动去除鬼影,使用基于块的多曝光融合方法将多张输入LDR图像融合起来,保持图像的细节。本发明的流程如附图1所示,主要包括运动区域检测、潜在图像生成,以及多曝光融合三个步骤。
步骤1.运动区域检测
1-1输入多张不同曝光时间的LDR图像,选择中间曝光时间的输入图像作为参考图像。利用双向亮度映射,计算参考图像与其他输入图像之间的差异
其中,Ln为输入图像,Lref为参考图像,τ(·)为亮度映射函数,这里采用亮度直方图映射的方法。ω(·)为权重函数,可用下式计算:
1-2计算运动权重图:
其中,Dn为利用双向亮度映射计算的差异,σd为自适应参数,其可用下式计算:
σd=α*var(Dn) (11)
var(·)为方差函数,α设为1。生成的运动权重图如图2所示。图2中,(a)为参考图像,(b)为其他输入图像,(c)为其相应的运动权重图。可以看到,运动权重图在运动区域有较大的值,而在其他区域权重值很低。
步骤2.利用梯度域加权优化,生成潜在图像,公式如下:
该优化方程是二次形式,有全局最小值,可以求解得到
在狄里赫雷边界条件下,其可以使用泊松方程求解。
步骤3.基于块的多曝光融合
3-1以每个像素的7×7邻域作为一个局部块,计算局部块的方差作为局部块的对比度,公式如下:
其中,Ω为块的大小,NΩ为块的像素数,取7×7,i为块内的亮度值,μ为块内亮度平均值。
计算局部块三个颜色通道的标准差作为局部块的饱和度,公式如下:
计算局部块的曝光度,公式如下:
3-2将局部块对比度、饱和度、曝光度加权乘积作为融合权重图,其公式为:
其中,ωC,ωS,ωE为相应的指数权重,都设置为1。
3-3将融合权重图归一化,其公式为:
其中,∈是一个小常数防止分母为零,N为输入图像数目。
3-4利用得到的权重图,将潜在图像加权叠加,得到最终的HDR图像H:
为了得到的无缝融合的结果,采用高斯-拉普拉斯金字塔分解的方式进行曝光融合。
本发明的相关处理结果图3所示。图3中,(a)为参考图像,(b)为融合后的结果图像,(c)-(f)为其他输入图像,(g)-(j)为相应生成的潜在图像;图4将本发明方法的结果与其他去鬼影的多曝光融合方法结果进行比较,其中,(j)为本发明方法的结果。可以看出,本发明方法在去除鬼影的同时保持了图像的细节,有良好的视觉效果。

Claims (5)

1.一种自动去除鬼影的多曝光图像融合方法,其特征在于,该方法包括以下步骤:
(1)参考图像选择,具体是:选择有最多正常曝光区域的输入图像作为参考图像或用户自主选择参考图像;
(2)运动区域检测,具体是:
(2.1)使用双向亮度映射计算参考图像与其他输入图像之间的差异;
(2.2)利用得到的差异计算每个像素的运动权重,得到运动权重图;
(3)生成潜在图像,具体是:将参考图像和输入图像在梯度域利用运动权重,生成潜在图像;
(4)基于块的曝光融合,具体是:
(4.1)计算潜在图像的可重叠局部块的对比度、饱和度和曝光度;
(4.2)将局部块的对比度、饱和度和曝光度加权相乘得到融合权重图;
(4.3)将融合权重图归一化;
(4.4)利用高斯-拉普拉斯金字塔对融合权重图和潜在图像作多尺度分解,然后进行加权叠加,得到多曝光融合图像。
2.根据权利要求1所述的一种自动去除鬼影的多曝光图像融合方法,其特征在于,所述步骤(2.2)中,运动权重图的计算公式如下:
其中,Dn为利用双向亮度映射计算的差异,σd为自适应参数,其定义为
σd=α*var(Dn) (2)
var(·)为方差函数,α为常数,取1~4。
3.根据权利要求1所述的一种自动去除鬼影的多曝光图像融合方法,其特征在于,所述步骤(3)中,生成潜在图像In的公式如下:
其中,Wn为运动权重图,Ln为输入图像,Lref为参考图像,τ(·)为亮度映射函数。
4.根据权利要求1所述的一种自动去除鬼影的多曝光图像融合方法,其特征在于,所述步骤(4.1)中,局部块的对比度C定义为局部块的方差,公式如下:
其中,Ω为块的大小,NΩ为块的像素数,i为块内的亮度值,μ为块内亮度平均值;
局部块的饱和度S定义为局部块三个颜色通道的标准差,公式如下:
其中,μc为颜色通道c的块内亮度平均值;
局部块的曝光度E定义为与中间亮度的偏差,公式如下:
5.根据权利要求1所述的一种自动去除鬼影的多曝光图像融合方法,其特征在于,所述步骤(4.2)中,融合权重图为局部块对比度、饱和度和曝光度加权乘积,其公式为:
其中,ωC,ωS,ωE为相应的指数权重。
CN201810224358.0A 2018-03-19 2018-03-19 一种自动去除鬼影的多曝光图像融合方法 Expired - Fee Related CN108416754B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810224358.0A CN108416754B (zh) 2018-03-19 2018-03-19 一种自动去除鬼影的多曝光图像融合方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810224358.0A CN108416754B (zh) 2018-03-19 2018-03-19 一种自动去除鬼影的多曝光图像融合方法

Publications (2)

Publication Number Publication Date
CN108416754A true CN108416754A (zh) 2018-08-17
CN108416754B CN108416754B (zh) 2020-08-07

Family

ID=63132137

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810224358.0A Expired - Fee Related CN108416754B (zh) 2018-03-19 2018-03-19 一种自动去除鬼影的多曝光图像融合方法

Country Status (1)

Country Link
CN (1) CN108416754B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109389561A (zh) * 2018-09-28 2019-02-26 维沃移动通信有限公司 一种成像方法及装置
CN109767413A (zh) * 2019-01-11 2019-05-17 深圳岚锋创视网络科技有限公司 一种抗运动伪影的hdr方法、装置及便携式终端
CN109819163A (zh) * 2019-01-23 2019-05-28 努比亚技术有限公司 一种图像处理控制方法、终端及计算机可读存储介质
CN110619652A (zh) * 2019-08-19 2019-12-27 浙江大学 一种基于光流映射重复区域检测的图像配准鬼影消除方法
CN111127353A (zh) * 2019-12-16 2020-05-08 重庆邮电大学 一种基于块配准和匹配的高动态图像去鬼影方法
CN111223061A (zh) * 2020-01-07 2020-06-02 Oppo广东移动通信有限公司 图像修正方法、修正装置、终端设备及可读存储介质
CN111311498A (zh) * 2018-12-11 2020-06-19 展讯通信(上海)有限公司 图像鬼影剔除方法及装置、存储介质、终端
CN112634187A (zh) * 2021-01-05 2021-04-09 安徽大学 基于多重权重映射的宽动态融合算法
CN113222954A (zh) * 2021-05-21 2021-08-06 大连海事大学 基于补丁对齐的全局梯度下的多曝光图像无鬼影融合方法
CN113421195A (zh) * 2021-06-08 2021-09-21 杭州海康威视数字技术股份有限公司 一种图像处理方法、装置及设备
CN115439384A (zh) * 2022-09-05 2022-12-06 中国科学院长春光学精密机械与物理研究所 一种无鬼影多曝光图像融合方法、装置
CN116740182A (zh) * 2023-08-11 2023-09-12 摩尔线程智能科技(北京)有限责任公司 一种鬼影区域确定方法、装置、存储介质及电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160364847A1 (en) * 2014-02-24 2016-12-15 Huawei Technologies Co., Ltd. System and Method for Processing Input Images Before Generating a High Dynamic Range Image
CN107220956A (zh) * 2017-04-18 2017-09-29 天津大学 一种基于多幅具有不同曝光度的ldr图像的hdr图像融合方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160364847A1 (en) * 2014-02-24 2016-12-15 Huawei Technologies Co., Ltd. System and Method for Processing Input Images Before Generating a High Dynamic Range Image
CN107220956A (zh) * 2017-04-18 2017-09-29 天津大学 一种基于多幅具有不同曝光度的ldr图像的hdr图像融合方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
孙婧: "高动态范围图像合成与显示技术研究", 《中国优秀硕士学位论文全文数据库信息科技辑》 *
李卫中等: "细节保留的多曝光图像融合", 《光学精密工程》 *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109389561A (zh) * 2018-09-28 2019-02-26 维沃移动通信有限公司 一种成像方法及装置
CN109389561B (zh) * 2018-09-28 2020-09-18 维沃移动通信有限公司 一种成像方法及装置
CN111311498B (zh) * 2018-12-11 2022-07-12 展讯通信(上海)有限公司 图像鬼影剔除方法及装置、存储介质、终端
CN111311498A (zh) * 2018-12-11 2020-06-19 展讯通信(上海)有限公司 图像鬼影剔除方法及装置、存储介质、终端
CN109767413A (zh) * 2019-01-11 2019-05-17 深圳岚锋创视网络科技有限公司 一种抗运动伪影的hdr方法、装置及便携式终端
CN109767413B (zh) * 2019-01-11 2022-11-29 影石创新科技股份有限公司 一种抗运动伪影的hdr方法、装置及便携式终端
CN109819163A (zh) * 2019-01-23 2019-05-28 努比亚技术有限公司 一种图像处理控制方法、终端及计算机可读存储介质
CN110619652A (zh) * 2019-08-19 2019-12-27 浙江大学 一种基于光流映射重复区域检测的图像配准鬼影消除方法
CN110619652B (zh) * 2019-08-19 2022-03-18 浙江大学 一种基于光流映射重复区域检测的图像配准鬼影消除方法
CN111127353A (zh) * 2019-12-16 2020-05-08 重庆邮电大学 一种基于块配准和匹配的高动态图像去鬼影方法
CN111127353B (zh) * 2019-12-16 2023-07-25 重庆邮电大学 一种基于块配准和匹配的高动态图像去鬼影方法
CN111223061A (zh) * 2020-01-07 2020-06-02 Oppo广东移动通信有限公司 图像修正方法、修正装置、终端设备及可读存储介质
CN112634187A (zh) * 2021-01-05 2021-04-09 安徽大学 基于多重权重映射的宽动态融合算法
CN112634187B (zh) * 2021-01-05 2022-11-18 安徽大学 基于多重权重映射的宽动态融合算法
CN113222954A (zh) * 2021-05-21 2021-08-06 大连海事大学 基于补丁对齐的全局梯度下的多曝光图像无鬼影融合方法
CN113222954B (zh) * 2021-05-21 2024-03-29 大连海事大学 基于补丁对齐的全局梯度下的多曝光图像无鬼影融合方法
CN113421195A (zh) * 2021-06-08 2021-09-21 杭州海康威视数字技术股份有限公司 一种图像处理方法、装置及设备
CN113421195B (zh) * 2021-06-08 2023-03-21 杭州海康威视数字技术股份有限公司 一种图像处理方法、装置及设备
CN115439384A (zh) * 2022-09-05 2022-12-06 中国科学院长春光学精密机械与物理研究所 一种无鬼影多曝光图像融合方法、装置
CN116740182A (zh) * 2023-08-11 2023-09-12 摩尔线程智能科技(北京)有限责任公司 一种鬼影区域确定方法、装置、存储介质及电子设备
CN116740182B (zh) * 2023-08-11 2023-11-21 摩尔线程智能科技(北京)有限责任公司 一种鬼影区域确定方法、装置、存储介质及电子设备

Also Published As

Publication number Publication date
CN108416754B (zh) 2020-08-07

Similar Documents

Publication Publication Date Title
CN108416754A (zh) 一种自动去除鬼影的多曝光图像融合方法
CN111402135B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
EP3631754B1 (en) Image processing apparatus and method
CN100515042C (zh) 多曝光图像增强方法
CN108833775B (zh) 一种抗运动鬼影的hdr方法、装置及便携式终端
CN105163047B (zh) 一种基于色彩空间转换的hdr图像生成方法、系统及拍摄终端
WO2022000397A1 (zh) 低照度图像增强方法、装置及计算机设备
CN106713755A (zh) 全景图像的处理方法及装置
WO2019221013A2 (en) Video stabilization method and apparatus and non-transitory computer-readable medium
CN111724317A (zh) Raw域视频去噪监督数据集构造方法
CN109712177A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN111127476A (zh) 一种图像处理方法、装置、设备及存储介质
Moriwaki et al. Hybrid loss for learning single-image-based HDR reconstruction
CN107507230A (zh) 应用于全景图像的目标跟踪方法及全景相机
WO2022193288A1 (zh) 图像处理方法、装置及计算机可读存储介质
CN106887043A (zh) 三维建模外点去除的方法、装置及三维建模的方法
CN109166076B (zh) 多相机拼接的亮度调整方法、装置及便携式终端
CN112288628A (zh) 基于光流跟踪和抽帧映射的航拍图像拼接加速方法及系统
CN106203428B (zh) 基于模糊估计融合的图像显著性检测方法
CN115883755A (zh) 一种多类型场景下多曝光图像融合方法
Lv et al. Low-light image enhancement via deep Retinex decomposition and bilateral learning
Punnappurath et al. Day-to-night image synthesis for training nighttime neural isps
CN111866523A (zh) 全景视频合成方法、装置、电子设备和计算机存储介质
CN108564654B (zh) 三维大场景的画面进入方式
Lai et al. Single image dehazing with optimal transmission map

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200807