CN112150399A - 基于宽动态范围的图像增强方法及电子设备 - Google Patents
基于宽动态范围的图像增强方法及电子设备 Download PDFInfo
- Publication number
- CN112150399A CN112150399A CN202011032771.0A CN202011032771A CN112150399A CN 112150399 A CN112150399 A CN 112150399A CN 202011032771 A CN202011032771 A CN 202011032771A CN 112150399 A CN112150399 A CN 112150399A
- Authority
- CN
- China
- Prior art keywords
- image
- luminance
- brightness
- value
- mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000013507 mapping Methods 0.000 claims abstract description 111
- 230000004927 fusion Effects 0.000 claims abstract description 71
- 230000015654 memory Effects 0.000 claims description 17
- 238000009826 distribution Methods 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000003247 decreasing effect Effects 0.000 claims 1
- 230000008569 process Effects 0.000 abstract description 11
- 230000000694 effects Effects 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000007726 management method Methods 0.000 description 10
- 238000010295 mobile communication Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 6
- 238000005192 partition Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000003672 processing method Methods 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 238000007499 fusion processing Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 241001270131 Agaricus moelleri Species 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请涉及图像处理领域,公开了一种基于宽动态范围的图像增强方法及电子设备,能够结合局部图像处理方式和全局图像处理方式进行图像融合,避免输出的图像曝光过度或曝光不足,实现对图像产生较好的宽动态增强效果,从而使得输出的图像质量较好。该方法包括:电子设备获取同一场景的曝光值不同的多张初始图像;电子设备将多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度表示的图像;电子设备基于多张亮度图像中的不同图像区域,对多张亮度图像进行加权平均处理,得到局部融合图像;电子设备对局部融合图像进行全局映射处理,得到全局映射图像。该方法具体应用于对宽动态场景下的不同曝光图像进行图像增强的过程中。
Description
技术领域
本申请涉及图像处理技术领域,特别涉及一种基于宽动态范围的图像增强方法及电子设备。
背景技术
随着手机、摄像机等具有拍摄功能的电子设备的广泛应用,用户对拍摄拍摄的照片的质量要求越来越高。而电子设备拍摄的照片的质量受到环境光线的影响较大,尤其同一场景中存在明暗对比强烈的光线,称为宽动态场景。其中,在太阳光、灯光或反光等强光源的照射下,拍摄的图像中会出现高亮度区域;而存在逆光、阴影的影响下,拍摄的图像中会出低亮度区域。然而,由于上述电子设备在同一场景中对最亮区域及最暗区域的表现是存在局限的,即摄像机的拍摄存在动态范围(Wide Dynamic Range,WDR),因此导致拍摄得到的图像中的一些高亮度区域的画面因曝光过度成为白色,而一些低亮度区域的画面因曝光不足成为黑色,严重影响图像质量。
发明内容
本申请实施例提供了一种基于宽动态范围的图像增强方法及电子设备,能够结合局部图像处理方式和全局图像处理方式进行图像融合,避免输出的图像曝光过度或曝光不足,实现对图像产生较好的宽动态增强效果,从而使得输出的图像质量较好。
第一方面,本申请实施例提供了一种基于宽动态范围的图像增强方法,该方法包括:电子设备获取同一场景的曝光值不同的多张初始图像;电子设备将该多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度信息表示的图像;电子设备基于多张亮度图像中的不同图像区域,对多张亮度图像进行加权平均处理,得到局部融合图像;电子设备对局部融合图像进行全局映射处理,得到全局映射图像。可以理解的是,多张初始图像可以同时或者预设时长(如1秒)内采集得到。由于不同曝光的图像中包含的局部信息不同,以及图像的明暗对比度也不同,因此可以融合多张初始图像信息的局部信息,使得融合后的图像(即局部融合图像或全局映射图像)的局部信息较为丰富,即图像细节较多。而上述图像全局映射处理过程可以进行过局部信息融合后的上述局部融合图像,进行全局明暗对比度增强得到上述全局映射图像,从而能够减少图像处理过程中产生的梯度逆反现象。如此,能够避免输出的图像曝光过度或曝光不足,实现对图像产生较好的宽动态增强效果,从而使得输出的图像质量较好。
在第一方面的一种可能的实现方式中,电子设备基于多张亮度图像中的不同图像区域,对该多张亮度图像进行加权平均处理,得到局部融合图像,包括:电子设备确定每个亮度图像中的每个像素点所在的预设尺寸的图像区域;电子设备根据每个亮度图像中的像素点所在图像区域的信息量以及像素点之间的距离,确定每个亮度图像的局部信息融合权重,一个图像区域的信息量表示该图像区域中的所有像素点的亮度值分布;电子设备根据每个亮度图像的局部信息融合权重,对上述多张初始图像进行加权平均处理,得到局部融合图像。可以理解的是,每个亮度图像中不同图像区域的信息量来反映该亮度图像的不同的局部信息。而两个像素点之间的距离,可以表征这两个像素点之间的位置关系,进而一个亮度图像中各个像素点之间的距离可以表征该亮度图像中的不同像素点的分布情况。如此,可以基于每个亮度图像中的像素点所在图像区域的信息量以及像素点之间的距离,对多张初始图像进行局部图像处理,使得融合得到的局部融合信息包含较多的细节信息。
在第一方面的一种可能的实现方式中,电子设备对局部融合图像进行全局映射处理,得到全局映射图像,包括:电子设备将局部融合图像转换为对应的亮度图像,局部融合图像对应的亮度图像为至少通过亮度信息表示的图像;电子设备计算局部融合图像对应的亮度图像的亮度直方图;电子设备将亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区,并基于暗区、中间区和亮区,将局部融合图像映射为全局映射图像,使得全局映射图像中全局的画面的明暗对对比度得到增强。
在第一方面的一种可能的实现方式中,每个亮度图像中的像素点所在图像区域的信息量,是根据被确定的;其中,info(i,j)为坐标为(i,j)的像素点对应的图像区域的信息量,Pt为坐标为(i,j)的像素点对应的图像区域中V阶亮度值中每阶亮度值出现的概率,t∈[0,V],且t为正整数。
在第一方面的一种可能的实现方式中,电子设备将亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区,并基于暗区、中间区和亮区,将局部融合图像映射为全局映射图像,包括:电子设备确定亮度直方图中的第一亮度值和第二亮度值;电子设备根据第一亮度值(即下文中的k1)、第二亮度值(即下文中的k2)、预设的第一映射亮度值(即下文中的a)和预设的第二映射亮度值(即下文中的a),确定亮度直方图中暗区、中间区和亮区分别对应的映射关系;电子设备按照亮度直方图中暗区、中间区和亮区分别对应的映射关系,基于暗区、中间区和亮区将局部融合图像映射为全局映射图像;其中,第一亮度值和第二亮度值将该亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区;第一亮度值映射至第一映射亮度值,第二亮度值映射至第二映射亮度值。例如,a取值为85,b取值为70,但不限于此。如此,将k1映射到a点,k2映射到b点,可以得到亮度值输入对输出映射曲线。
在第一方面的一种可能的实现方式中,暗区对应的映射关系包括将最低阶亮度值到第一亮度值之间的亮度值,按照线性关系映射至最低阶亮度值到第一映射亮度值之间的亮度值;中间区对应的映射关系包括将第一亮度值到第二亮度值之间的亮度值,按照线性关系映射至第一映射亮度值和第二映射亮度值之间的亮度值;亮区对应的映射关系包括将第二亮度值到最高阶亮度值之间的亮度值按照线性关系映射至第二映射亮度值到最高阶亮度值之间的亮度值,其中,最低阶亮度值和最高阶亮度值分别为亮度直方图能够表示的最小亮度值和最大亮度值。可以理解的是,在亮度图像为256阶时,上述最低阶亮度为0,最高阶亮度为255。即暗区对应的映射关系包括将0-k1的亮度值按照线性映射至0-a的亮度值,中间区对应的映射关系包括将k1-k2的亮度值按照线性映射至a-b的亮度值,亮区对应的映射关系包括将k2-256的亮度值按照线性映射至b-256的亮度值。
在第一方面的一种可能的实现方式中,第一亮度值为亮度直方图中最低阶亮度值到亮度均值之间的所有亮度值中方差最小的亮度值,第二亮度值为亮度直方图中亮度值均值到最高阶亮度值之间的所有亮度值中方差最小的亮度值;其中,最低阶亮度值到亮度均值之间各阶亮度值出现的总概率,与亮度均值到最高阶亮度值之间各阶亮度值出现的总概率相等。其中,亮度均值即下文中的直方图亮度值的概率均值C0。可以理解的是,在亮度图像为256阶亮度时,C0将整个256阶直方图分为两段区域(即下文中的C1和C2),这两段区域中的亮度值在亮度直方图中出现的概率相等。如此,可以实现通过亮度均值查找亮度直方图中的第一亮度值和第二亮度值。
第二方面,本申请实施例提供一种基于宽动态范围的图像增强装置,该装置包括:获取模块,用于获取同一场景的曝光值不同的多张初始图像;转换模块,用于获取模块得到的将多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度信息表征的图像;局部处理模块,用于基于转换模块得到的多张亮度图像中的不同图像区域,对多张亮度图像进行加权平均处理,得到局部融合图像;全局处理模块,用于对局部处理模块得到的局部融合图像进行全局映射处理,得到全局映射图像。
在第二方面的一种可能的实现方式中,上述局部处理模块,具体用于确定每个亮度图像中的每个像素点所在的预设尺寸的图像区域;根据每个亮度图像中的像素点所在图像区域的信息量以及像素点之间的距离,确定每个亮度图像的局部信息融合权重;根据每个亮度图像的局部信息融合权重,对上述多张初始图像进行加权平均处理,得到局部融合图像。
在第二方面的一种可能的实现方式中,上述全局处理模块,具体用于将局部融合图像转换为对应的亮度图像,局部融合图像对应的亮度图像为至少通过亮度信息表示的图像;计算局部融合图像对应的亮度图像的亮度直方图;将亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区,并基于暗区、中间区和亮区,将局部融合图像映射为全局映射图像。
在第二方面的一种可能的实现方式中,每个亮度图像中的像素点所在图像区域的信息量,是根据被确定的;其中,info(i,j)为坐标为(i,j)的像素点对应的图像区域的信息量,Pt为坐标为(i,j)的像素点对应的图像区域中V阶亮度值中每阶亮度值出现的概率,t∈[0,V],且t为正整数。
在第二方面的一种可能的实现方式中,上述全局处理模块,具体用于确定上述亮度直方图中的第一亮度值和第二亮度值;根据第一亮度值、第二亮度值、预设的第一映射亮度值和预设的第二映射亮度值,确定亮度直方图中暗区、中间区和亮区分别对应的映射关系;按照亮度直方图中暗区、中间区和亮区分别对应的映射关系,基于暗区、中间区和亮区将局部融合图像映射为全局映射图像;其中,第一亮度值和第二亮度值将该亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区;第一亮度值映射至第一映射亮度值,第二亮度值映射至第二映射亮度值。
在第二方面的一种可能的实现方式中,暗区对应的映射关系包括将最低阶亮度值到第一亮度值之间的亮度值,按照线性关系映射至最低阶亮度值到第一映射亮度值之间的亮度值;中间区对应的映射关系包括将第一亮度值到第二亮度值之间的亮度值,按照线性关系映射至第一映射亮度值和第二映射亮度值之间的亮度值;亮区对应的映射关系包括将第二亮度值到最高阶亮度值之间的亮度值按照线性关系映射至第二映射亮度值到最高阶亮度值之间的亮度值,其中,最低阶亮度值和最高阶亮度值分别为亮度直方图能够表示的最小亮度值和最大亮度值。在第二方面的一种可能的实现方式中,第一亮度值为亮度直方图中最低阶亮度值到亮度均值之间的所有亮度值中方差最小的亮度值,第二亮度值为亮度直方图中亮度值均值到最高阶亮度值之间的所有亮度值中方差最小的亮度值;其中,最小亮度值到亮度均值之间各阶亮度值出现的总概率,与亮度均值到最大亮度值之间各阶亮度值出现的总概率相等。
第三方面,本申请提供一种可读介质,该可读介质上存储有指令,指令在电子设备上执行时,使电子设备执行上述第一方面的基于宽动态范围的图像增强方法。
第四方面,本申请实施例提供一种电子设备,包括:存储器,用于存储由电子设备的一个或多个处理器执行的指令,以及处理器,是所述电子设备的处理器之一,用于执行上述第一方面所述的基于宽动态范围的图像增强方法。
附图说明
图1根据本申请的一些实施例,示出了一种图像增强方法的场景示意图;
图2根据本申请的一些实施例,示出了一种基于宽动态范围的图像增强方法的流程示意图;
图3根据本申请的一些实施例,示出了一种亮度直方图的示意图;
图4根据本申请的一些实施例,示出了另一种亮度直方图的示意图;
图5根据本申请的一些实施例,示出了一种亮度映射曲线的示意图;
图6根据本申请的一些实施例,示出了一种宽动态范围的图像增强装置的框图;
图7根据本申请的一些实施例,示出了一种手机的结构示意图;
图8根据本申请的一些实施例,示出了一种片上系统(SoC)的框图。
具体实施方式
本申请的说明性实施例包括但不限于基于宽动态范围的图像增强方法及电子设备。
本申请的基于宽动态范围的图像增强方法,可以应用于艺术传媒、医学影像、公安案件侦破、影视制作、航拍图像、文物保护领域,具体应用于在摄像机拍摄的图像存在动态范围(WDR)的场景(即宽动态场景)中。其中,动态范围主要是指拍摄对象的亮度范围,即拍摄对象里最暗点到最亮点的亮度跨度。在宽动态范围里,最亮部分与最暗部分相差比较大,画面的对比度高,层次丰富。
相关技术中,为了增强图像的动态范围,仅基于全局图像处理方式或仅基于局部图像处理方式融合多张初始图像。一般来说,仅基于全局图像处理方式融合多张初始图像来增加图像的动态范围,会导致融合后的图像缺少局部细节的增强效果。而仅基于局部图像处理方式处理图像,一般会出现梯度逆反现象,即原始图像从亮到暗渐变时,经过局部图像处理方式会产生亮度震荡的现象,而导致融合后的图像的明暗对比度较小。为了解决上述问题,本申请实施例结合全局图像处理方式和局部图像处理方式,提供一种基于宽动态范围的图像增强方法及电子设备。
下面将结合附图对本申请的实施例作进一步地详细描述。
图1为本申请实施例提供的一种基于宽动态范围的图像增强方法的场景示意图。该场景中的手机100包括前置主摄像头101和前置副摄像头102,可以理解,手机100中包括但不限于图1示出的2个摄像头,包括可以实现的任意数量的摄像头。
具体地,当手机100通过前置主摄像头101和前置副摄像头102拍摄时,针对同一场景采集不同曝光值的多张初始图像,手机100先对该多张初始图像进行局部图像融合处理,能够增强融合后的图像的局部细节,再对该多张初始图像进行全局图像映射处理,对局部信息融合后的图像进行全局明暗对比度增强,从而减少梯度逆反现象。如此,本申请通过结合局部图像处理方式和全局图像处理方式,能够避免输出的图像曝光过度或曝光不足,实现对图像产生较好的宽动态增强效果,从而使得输出的图像质量较好。
可以理解的是,适用于本申请的电子设备可以包括一个或多个摄像头,且具有摄像功能的任意电子设备,例如手机、平板电脑、摄像机、相机、桌面型计算机、膝上型计算机、手持计算机、笔记本电脑、台式电脑、超级移动个人计算机(ultra-mobile personalcomputer,UMPC)、上网本,以及蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmentedreality,AR)\虚拟现实(virtual reality,VR)设备、媒体播放器、智能电视、智能音箱、智能手表等,图1仅以手机100为例示出。
例如,在图1中的(a)所示的实施例中,手机100的主屏幕上包括多个应用的图标,其中包括相机APP(Application,应用)的图标,当用户作用于手机100的相机APP。例如,用户通过手指点击相机APP的图标,或用户通过语音的方式向手机100发送打开相机APP的命令时,手机100检测到针对相机APP的图标的点击操作或接收到打开相机APP的命令,启动摄像头101和摄像头102,显示取景界面。
例如,在图1中的(b)所示的实施例中,示出了手机100的取景界面,用户可以通过手指在取景界面中对手机100的不同拍摄模式的选择控件的滑动,选择对应的拍摄模式,例如,用户可以选择拍摄视频、普通照片、在“宽动态”模式下拍摄照片,或者在其他模式下拍摄照片,例如全景模块、慢动作模式、延时摄像等等。当用户的手指滑动拍摄选择控件,选中手机100的“宽动态”模式进行拍摄时,手机100启动根据本申请的实施例提供的基于宽动态范围的图像增强方法,得到拍摄主体和背景均较为清晰的图像的功能。以上“宽动态”模式只是本申请的一个示例性说明,本申请不限于此,该拍照模式也可以是其他名称,例如“逆光拍摄”模式等。
可以理解,为了使手机100的摄像头101和前置副摄像头102尽可能具有相同的取景范围,前置摄像头101和前置副摄像头102需要被设置在电子设备100的同一侧。图1(a)所示的电子设备100的前置主摄像头101和前置副摄像头102的排列方式仅仅是示例性的,并非限制性的。在本申请的其他实施例中,前置主摄像头101和前置副摄像头102可以以其他预定的方式排列,本申请对此不作限定。
在一些实施例中,电子设备100中的不同摄像头的性能不同,例如前置主摄像头101为自动对焦(Auto focus,AF)镜头,前置副摄像头102为定焦(Fixed focus,FF)镜头。可以理解,本申请实施例提供的图像增强方法并不局限于对手机100的前置主摄像头101拍得的图像和前置副摄像头102拍得的图像进行融合得到宽动态增强的图像。在一些实施例中,手机100还可以包括后置的一个或多个摄像,用户使用手机100进行拍照时,手机100还可以启动后置的一个或多个摄像头,并对后置的多个摄像头拍摄的图像进行融合得到宽动态增强的图像。
根据本申请的一些实施例,如图2所示,为基于上述图1示出的场景的基于宽动态范围的图像增强方法的流程,该流程包括多个处理过程,具体包括步骤201-212:
图像预处理过程
步骤201:手机100获取同一场景的曝光不同的多张初始图像。
可以理解的是,在宽动态场景中,上述多张初始图像为同时或预设时长(如1秒)内针对同一场景采集得到的,将作为本申请的基于宽动态范围的图像增强方法的输入图像。
具体地,上述多张初始图像为通过手机100中的不同摄像头分别采集得到,如上述摄像头101和摄像头102分别采集得到;还可以通过手机100中的同一摄像头连续采集得到,本申请实施例对此不做具体限定。
在一些实施例中,图像的曝光不同,表示图像的曝光值曝光量(photometricexposure)不同,其中图像的曝光量取决于影像平面的照度、曝光时间以及环境亮度。另外,曝光时间是指相机(如手机100中的相机或独立的相机)拍摄图像时,快门打开到关闭的时间间隔,曝光时间越长拍摄的图像越亮,相反越暗。
在一些实施例中,参与本申请实施例的图像增强方法的图像的数量可以为2-8张,即上述多张初始图像的总数为2-8。另外,在一些实施例中,上述多张初始图像的尺寸均相同,例如均包含W*H个像素(或称为像素点),即图像的分辨率为W*H个像素,如640*480像素点(pixels),其中“*”表示相乘。
具体地,上述多张初始图像为彩色图像,例如RGB色彩模式(或称为RGB格式)的图像。RGB格式是通过对红(R)、绿(G)、蓝(B)三个颜色通道的变化以及它们相互之间的叠加来得到各式各样的颜色的,RGB也就是代表红、绿、蓝三个通道的颜色。例如,对于图像深度为8bit的RGB格式图像,RGB中的每个通道的颜色各有256级亮度(也称灰阶值),用数字表示为从0、1、2…直到255又如,对于图像深度为10bit的RGB格式图像,RGB中的每个通道的颜色各1024级亮度。当然,在其他实施例中,本申请应用的RGB格式图像不限于上述示例,还可以为其他任意可实现的RGB格式图像。
需要说明的是,下文中仅以多个初始图像为8bit的RGB格式图像,且RGB中的每个通道的颜色各有256级亮度为例进行说明,另外,对其他亮度阶级的图像的处理与下述实施例类似,将不再赘述。
可以理解的是,在一些实施例中,手机100直接采集得到的图像为RAW格式,手机100先通过其图像信号处理ISP(Image Signal Processing)将图像转换成RGB格式,以便后续对RGB格式的图像进融合。例如,ISP处理的RGB格式图像的图像深度大于8bit。
此外,在其他一些实施例中,上述多张初始图像的色彩模式还可以为其他色彩模式,不限于本申请中的示例。可以理解的是,如果上述多张初始图像为其他色彩模式,那么该多张初始图像中的每个图像中的每个颜色的亮度级别(即阶级)不同。
作为一种示例,上述多张初始图像包括3张图像,分别为低曝光图像S(记为imgS)、中曝光图像M(记为imgM)和高曝光图像L(记为imgL),且imgS、imgM和imgL均为RGB格式。
步骤202:手机100提取图像的亮度信息,将多张初始图像转换为多张亮度图像,其中,每张亮度图像为至少通过亮度表示图像。
在一种实施例中,在上多张初始图像为RGB格式图像时,可以将该多张初始图像转换为YUV格式,再提取图像的亮度Y(即图像的亮度信息),以得到上述多张亮度图像,此时每个亮度图像可以由亮度Y来表示。其中,“Y”表示亮度(Luminance或Luma),也称为灰阶值。具体地,YUV格式的图像为通过亮度和色差来表示的图像,其中亮度是黑白信号,色度UV是色彩信号,不同于RGB格式图像用红绿蓝三种颜色的比重来表示的图像。
图像局部信息量计算过程
步骤203:手机100确定每个亮度图像中的每个像素点所在的预设尺寸的图像区域,获取每个图像区域的信息量,并将每个像素点所在图像区域的信息量作为该像素点的信息权重。
可以理解的是,一个像素点所在的图像区域的信息量表示该图像区域中的所有像素点的亮度值分布。上述一个像素点所在的图像区域为计算信息量的一个处理窗口。
另外,上述每个像素点所在的图像区域可以为任意形状,如圆形或矩形,以下实施例中以矩形为例示出。例如,一个亮度图像中的一个像素点对应的图像区域为预设尺寸为M*N个像素点(或称像素)且为矩形的的图像区域,M<W,N<H。
具体地,步骤203是对图像进行局部处理,具体对分辨率为W*H像素的亮度图像,在每个像素点周围寻找一个尺寸为M*N的图像区域。例如,对于一个分辨率为600*480像素的亮度图像中,在每个像素周围寻找一个尺寸为3*3像素(即M=N=3)的图像区域。
可以理解的是,可以在一个亮度图像中按照从上到下、从左到右的顺序,确定每个像素点所在的图像区域,并且,各个图像区域在该亮度图像中包含的像素点也是按照从上到下、从左到右的顺序排列的。
在一些实施例中,在每个亮度图像的中心区域内,每个像素点是其所在的图像区域的区域中心,例如,一个亮度图像的中心区域为该亮度图像中除了四周预定宽度的区域之外的其他区域。并且,对于一个亮度图像中四周预定宽度的区域内的像素点,一个像素点为其所在的图像区域的任意像素点。此外,对于一个亮度图像的四周边缘的像素点,一个像素点所在的图像区域的边缘包括该像素点。可以理解的是,上述预定宽度取决于上述像素点所在图像区域的预设尺寸,例如预订宽动为M和/或N。
例如,结合上述示例,假设一个亮度图像的分辨率为600*480像素,预设尺寸为3*3像素,那么上述预定宽度为3个像素,亮度图像中四周宽度为3个像素的区域(即环形区域),该图像的中心区域为该图像中除该四周宽度为3个像素的区域之外的区域。
需要说明的是,一个图像的信息量(或称信息熵、熵、熵值),反映该图像中的图像特征,用于判断图像的清晰度和图像分割结果的优劣,即用于评价图像的一个量化标准。一般而言,图像的熵值大(即信息量大),表示该图像色彩艳丽,轮廓清楚,该图像较为清晰。可以理解的是,本申请实施例不是计算一个完整图像的信息量,而是计算一个图像中的不同图像区域的信息量,如此可以通过每个亮度图像中不同图像区域的信息量来反映该亮度图像的局部信息。
下面对于一个像素点所在图像区域的信息量进行说明:
1)当一个像素点所在的图像区域(即图像区域)为纯色图时(纯白,或纯黑图),该图像区域只包含一个灰度值,该图像区域的信息量为0。可以理解的是,因为一个图像区域为纯色时(灰度为一个值),也就说明图像区域不包含任何对象(即拍摄对象),信息量为0,该图像区域类似于空白地图。
2)当一个像素点所在的图像区域包含V(如256)个灰度值时,即图像每个像素的灰度值都不同,此时该图像区域的信息量最大。可以理解的是,因为一个图像区域中每个像素灰度都不同,可以认为该图像区域中每个单一像素都是一个独立对象,信息量为最大,该图像区域类似于地图充满了地物。
此外,可以理解的是,一个图像区域包含的像素灰度越丰富,灰度分布越均匀,图像的对象越多,图像的信息量越大,反之则反。其中,图像区域中的灰度分布越均匀指的是,该图像区域中各个灰度值的像素个数一致,并且该图像区域中灰度范围越大,该图像区域的像素量越大。
可以理解的是,在一些实施例中,一个亮度图像中的每个像素点对应的信息量的计算过程可以包括:遍历整个图像矩阵,获取每一个出现的灰度值;求得每个灰度值在图像矩阵中出现的概率;统计灰度值的总期望。
类似的,可以通过下述公式(1-1)来计算每个亮度图像中像素点(i,j)对应的信息量info(i,j):
其中,Pt为像素点(i,j)对应的尺寸为M*N的图像区域中亮度值v阶出现的各自概率,t取值为0、1、2…直到V为正整数,例如,P20表示像素点(i,j)对应的尺寸为M*N的图像区域中亮度值为20出现的概率。在一些实施例中,上述多张初始图像均为8bit的图像且灰阶值(即亮度值)为0-255,此时V等于256,t取值为0、1、2…直到255。可以理解的是,一个亮度图像中的像素点(i,j)指的是该该亮度图像中坐标为(i,j)的像素点。此外,在V等于256时,图像的高阶亮度值为256,最低阶亮度值为0。
如此,针对imgS、imgM和imgL分别对应的亮度图像,通过上述公式(1)可以分别计算得像素点对应的信息量infos、infom和infol,并且,一个像素点的info越大代表信息量越大。这样一来,可以将infos、infom和infol分别作为imgS、imgM和imgL中每个图像中的像素点的信息权重ws(i,j)、wm(i,j)、wl(i,j),而信息权重ws(i,j)、wm(i,j)、wl(i,j)分别为imgS、imgM和imgL这三个图像后续进行局部信息融合的权重。具体地,i取值为0、1、2…直到W(如539),j取值为0、1、2…直到H(如479)。
图像中全局像素点的高斯距离相关的计算
步骤204:手机100获取每个亮度图像中的每个像素点到其他像素点的距离。
可以理解的是,通过两个像素点之间的距离,可以表征这两个像素点之间的位置关系,进而一个亮度图像中各个像素点之间的距离可以表征该亮度图像中的不同像素点的分布情况。
在一些实施例中,针对imgS、imgM和imgL分别对应的亮度图像,可以分别计算像素点(i,j)到其余各个像素点(x,y)的高斯距离d(i,j)(x,y),x取值为0、1、2…直到W(如539),y取值为0、1、2…直到H(如479)。
其中,每个亮度图像中的像素点(i,j)到其余各个像素点(x,y)之间的高斯距离d(i,j)(x,y)可以通过下述公式(1-2)计算得到:
其中,σ为方差,即对于一个亮度图像来说,σ为该亮度图像中的所有像素点的亮度值的方差。
此外,在其他一些实施例中,每个亮度图像中的像素点(i,j)到其余各个像素点(x,y)之间的距离,不限于上述高斯距离,还可以为方式计算得到的距离,如欧拉距离等。
另外,在其他一些实施例中,本申请可以对每个亮度图像中的像素点进行下采样,然后得到每个像素点对应的下采样区域。并且,上述下采样的采样率根据实际需求确定,本申请实施例对此不做限定。然后,上述步骤205中,针对imgS、imgM和imgL分别对应的亮度图像,可以分别计算像素点(i,j)到其余各个下采样区域的区域中心的像素点(x,y)的高斯距离d(i,j)(x,y),此时像素点(i,j)到像素点(x,y)所在的下采样区域中的所有像素点的高斯距离均为d(i,j)(x,y),从而可以减少计算各个像素点之间的高斯距离的计算量。
步骤205:手机100针对每个亮度图像,根据获取的每个像素点到其他像素点的距离,对每个像素点对应的信息权重进行加权处理,得到每个亮度图像的局部信息融合权重。
可以理解的是,每个亮度图像的局部信息融合权重将用于对上述多个原始图像进行融合处理。
具体地,可以通过下述公式(2-1)、(2-2)和(2-3)针对各个像素点,用高斯距离对信息权重进行加权,得到imgS、imgM和imgL分别对应的亮度图像的局部信息融合权重wts(i,j)、wtm(i,j)和wtl(i,j):
图像局部信息融合过程
步骤206:手机100基于每个亮度图像的局部信息融合权重,对上述多张初始图像进行加权平均处理,得到进行局部信息融合后的局部融合图像。
可以理解的是,由于不同曝光的图像中包含的局部信息不同,以及图像的明暗对比度也不同,因此可以融合多张初始图像信息的局部信息,使得融合后的图像的局部信息较为丰富,即图像细节较多。
在一些实施例中,局部融合图像可以为彩色图像,如RGB格式的图像。
具体地,步骤207可以按照每个亮度图像中的局部信息融合权重,分别对每个颜色通道(即R通道、G通道和B通道)的亮度值进行加权平均处理,再根据每个颜色通道进行加权平均处理后的亮度值得到上述局部融合图像。
具体地,可以通过公式(3)对上述多个初始图像进行加权平均处理,得到上述局部融合图像imglocal(i,j):
imglocal(i,j)=wts(i,j)*imgS(i,j)+wtm(i,j)*imgM(i,j)+wtl(i,j)*imgL(i,j) (3)
可以理解的是,上述公式(3)具体包括公式(3-1)、(3-2)和(3-3),用于实现上述按照每个亮度图像中的局部信息融合权重,分别对R分量、G分量和B分量进行加权平均处理:
imglocal-R(i,j)=wts(i,j)*imgSR(i,j)+wtm(i,j)*imgMR(i,j)+wtl(i,j)*imgLR(i,j) (3-1)
其中,imgSR(i,j)、imgMR(i,j)和imgLR(i,j)分别表示imgS、imgM和imgL的R分量,imglocal-R(i,j)表示对这三个图像的R分量进行加权平均处理得到的R分量。
imglocal-G(i,j)=wts(i,j)*imgSG(i,j)+wtm(i,j)*imgMG(i,j)+wtl(i,j)*imgLG(i,j) (3-2)
其中,imgSG(i,j)、imgMG(i,j)和imgLG(i,j)分别表示imgS、imgM和imgL的G分量,imglocal-G(i,j)表示对这三个图像的G分量进行加权平均处理得到的G分量。
imglocal-B(i,j)=wts(i,j)*imgSB(i,j)+wtm(i,j)*imgMB(i,j)+wtl(i,j)*imgLB(i,j) (3-3)
其中,imgSB(i,j)、imgMB(i,j)和imgLB(i,j)分别表示imgS、imgM和imgL的B分量,imglocal-B(i,j)表示对这三个图像的B分量进行加权平均处理得到的B分量。
然后,可以将上述imglocal-R(i,j)、imglocal-G(i,j)和imglocal-B(i,j)合成上述局部融合图像imglocal(i,j)。
可以理解的是,上述图像局部信息融合过程可以实现对上述多张初始图像进行局部信息融合,能够增强融合后的图像的局部细节,得到局部细节较多的上述局部融合图像imglocal(i,j)。
具体地,在上述步骤206将采集的多张初始图像通过RGB通道处理后,得到的融合后的局部融合图像是RGB格式。
步骤207:手机100提取局部融合图像的亮度信息,将局部融合图像转换为融合亮度图像,其中,局部融合图像的亮度信息至少通过亮度信息表示。
在一种实施例中,可以将RGB格式的局部融合图像转换为YUV格式,并提取图像的亮度分量Y(即图像的亮度信息),以得到融合亮度图像,该融合亮度图像通过局部融合图像中的亮度分量Y表示。
步骤208:手机100计算融合亮度图像的亮度直方图。
参照图3,示出了融合亮度图像全图的亮度直方图,具体的该亮度直方图为图3示出的曲线,例如该亮度直方图为256阶亮度(或称灰度)直方图。其中,亮度直方图的横轴表示亮度(或描述为亮度值)Y(取值为0-255),从左到右表示亮度从低到高;纵轴表示每个亮度值出现的次数h,即每个亮度的像素数量,从下到上表示像素从少到多。
步骤209:手机100确定融合亮度图像的亮度直方图中的第一亮度值k1和第二亮度值k2,其中k1和k2将该亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区。
具体地,k1为亮度直方图中暗区与中间区域之间的亮度分割点,k2为亮度直方图的中间区与亮区间的亮度分割点。
其中,步骤209中可以根据每个区域之内差异大准则,通过求解区域内的方差,并使其最大化的方式,将直方图分成上述三个区域,即暗区、中间区和亮区。
具体地,步骤209可以通过下述步骤实现:
2)计算直方图亮度值的概率均值C0,例如C0可以通过或者计算得到。可以理解的是,如图4所示,C0将整个256阶直方图分为C1和C2两段区域,C1∈[0,C0],C2∈[C0,255],即C1区域和C2区域在亮度直方图中出现的概率相等。
3)在C1区域从右到左寻找一个亮度m,m∈[0,C0],使得亮度m能够最大程度区分C1区域,即亮度m为C1区域的分割点,亮度m为C1区域中方差最大化的亮度,此时该亮度m为待寻找到的亮度k1(或称分割点k1)。
具体地,可以根据下述公式(4)-(7)通过亮度m来寻找分割点k1:
4)在C2区域从左到右寻找一个亮度n,n∈[C0,255],使得n能够最大程度区分C2区域,即亮度n为C2区域的分割点,亮度n为C2区域中方差最大化的亮度,此时该亮度n为待寻找到的亮度k2(或称分割点k2)。
具体地,可以根据下述公式(8)-(11)通过亮度n来寻找分割点k2:
可以理解的是,上述公式(11)表示当亮度n为分割点k2时,为取值范围中的最大值,即最大化。具体地,本申请实施例中,通过计算的最大值,作为每个分区最大差异分割,从而寻找到暗区与中间区的分割点k1,以及中间区与亮区的分割点k2。具体地,继续参照图4,示出了亮度直方图根据分割点k1和分割点k2划分出的暗区、中间区和亮区,其中,分割点k1和分割点k2之间为中间区。
步骤210:手机100根据第一亮度值k1和第二亮度值k2和预设的第一映射亮度值a以及预设的第二映射亮度值b,确定亮度直方图中暗区、中间区和亮区分别对应的映射关系。
可以理解的是,亮度直方图中各个分区的映射关系可以通过一个映射曲线表示。此时,映射曲线表示表征一个图像与基于分区映射后的图像之间的映射关系。
具体地,预设的第一映射亮度值a和预设的第二映射亮度值b为控制参数,例如a取值为85,b取值为70,但不限于此。如此,将k1映射到a点,k2映射到b点,可以得到亮度值输入对输出映射曲线。
如图5所示,为本申请实施例提供的一种图像全局映射曲线,即输入(Yin)对输出(Yout)的映射曲线。其中,Yin表示待映射的图像中的亮度,Yout表示该图像映射后的图像中的亮度。具体地,暗区对应的映射关系包括将0-k1的亮度值按照线性映射至0-a的亮度值,中间区对应的映射关系包括将k1-k2的亮度值按照线性映射至a-b的亮度值,亮区对应的映射关系包括将k2-V的亮度值按照线性映射至b-V的亮度值,V为规定的最大亮度值,如255。也就是说,0为上述亮度直方图能够表示最低阶亮度值,而255为该亮度直方图能够表示的最高阶亮度值。此时,上述亮度直方图的映射关系包括:
Yout=Yin*a/k1,0≤Yin<k1 (12)
Yout=Yin*(b-a)/(k2-k1),k1≤Yin<k2 (13)
Yout=Yin*(255-b)/(255-k2),k2≤Yin≤255 (14)
其中,参照图5所示的输入对输出映射曲线,公式(12)-(14)分别对应于暗区、中间区和亮区对应的映射关系。
图像全局映射处理过程
步骤211:手机100按照亮度直方图中暗区、中间区和亮区分别对应的映射关系,基于暗区、中间区和亮区将局部融合图像映射为全局映射图像。
其中,根据上述图5示出的图像全局映射曲线,即该曲线中各个分区对应的映射关系,可以将局部融合图像imglocal(i,j)作为输入,得到全局映射图像imgout,即全局映射图像imgout为输出。从而,可以保证全局映射处理时暗区、中间区和亮区中不同分区内的画面的对比度增强效果均较好。
具体地,步骤212中对于RGB格式的局部融合图像imglocal(i,j),先按照各个分区对应的映射关系,分别对R分量、G分量和B分量进行映射,再根据映射后的R分量、G分量和B分量得到上述全局映射图像imgout。
可以理解的是,上述图像全局映射处理过程可以进行过局部信息融合后的上述局部融合图像imglocal(i,j),进行全局明暗对比度增强得到上述全局映射图像imgout,从而能够减少图像处理过程中产生的梯度逆反现象。
如此,本申请实施例中,通过先对该多张初始图像进行局部图像融合处理,增强融合后的图像的局部细节,再对该多张初始图像基于暗区、中间区和亮区进行全局图像映射处理,对局部信息融合后的图像进行全局明暗对比度增强,从而减少梯度逆反现象。进而,能够避免输出的图像曝光过度或曝光不足,实现对图像产生较好的宽动态增强效果,从而使得输出的图像质量较好。
本申请实施例可以根据上述方法示例,将上述宽动态范围的图像增强装置划分为一个或多个模块,例如,可以对应各个功能划分各个模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
图6示出了上述实施例中所提供的宽动态范围的图像增强装置的一种可能的结构示意图。该宽动态范围的图像增强装置可以为具有图像拍摄及处理功能的手机或相机等电子设备,或者该电子设备的CPU,或者该电子设备中的用于执行宽动态范围的图像增强的控制模块。
如图6所示,宽动态范围的图像增强装置60包括:获取模块601,用于获取同一场景的曝光值不同的多张初始图像;转换模块602,用于将获取模块601得到的多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度信息表征的图像;局部处理模块603,用于基于转换模块602得到的多张亮度图像中的不同图像区域,对多张亮度图像进行加权平均处理,得到局部融合图像;全局处理模块604,用于对局部处理模块603得到的局部融合图像进行全局映射处理,得到全局映射图像。
可以理解的是,图6所示的基于宽动态范围的图像增强装置60与本申请提供的宽动态范围的图像增强方法相对应,以上关于本申请提供的宽动态范围的图像增强方法的具体描述中的技术细节依然适用于图6所示的宽动态范围的图像增强装置60,具体描述请参见上文,在此不再赘述。
根据本申请的实施例,提供了一种电子设备。该电子设备可以是具备拍摄功能以及图像处理功能的手机、平板、可穿戴设备等。以下以手机作为电子设备的示例进行说明。
如图7所示,手机100可以包括处理器110、电源模块140、存储器180,移动通信模块130、无线通信模块120、传感器模块190、音频模块150、摄像头170、接口模块160、按键111以及显示屏112等。
可以理解的是,本发明实施例示意的结构并不构成对手机100的具体限定。在本申请另一些实施例中,手机100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如,可以包括中央处理器CPU(Central Processing Unit)、图像处理器GPU(Graphics Processing Unit)、数字信号处理器DSP、微处理器MCU(Micro-programmed Control Unit)、AI(ArtificialIntelligence,人工智能)处理器或可编程逻辑器件FPGA(Field Programmable GateArray)等的处理模块或处理电路。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。处理器110中可以设置存储单元,用于存储指令和数据。在一些实施例中,处理器110中的存储单元为高速缓冲存储器180。例如,处理器110中的GPU,用于执行上述对多张初始图像进行局部信息融合的过程以及全局映射的过程等步骤。
电源模块140可以包括电源、电源管理部件等。电源可以为电池。电源管理部件用于管理电源的充电和电源向其他模块的供电。在一些实施例中,电源管理部件包括充电管理模块和电源管理模块。充电管理模块用于从充电器接收充电输入;电源管理模块用于连接电源,充电管理模块与处理器110。电源管理模块接收电源和/或充电管理模块的输入,为处理器110,显示屏112,摄像头170,及无线通信模块120等供电。
移动通信模块130可以包括但不限于天线、功率放大器、滤波器、LNA(Low noiseamplify,低噪声放大器)等。移动通信模块130可以提供应用在手机10上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块130可以由天线接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块130还可以对经调制解调处理器调制后的信号放大,经天线转为电磁波辐射出去。在一些实施例中,移动通信模块130的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块130至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(code divisionmultiple access,CDMA)等。所述GNSS可以包括全球卫星定位系统(global positioningsystem,GPS),全球导航卫星系统(globalnavigation satellite system,GLONASS),北斗卫星导航系统(beidou navigationsatellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentationsystems,SBAS)。
无线通信模块120可以包括天线,并经由天线实现对电磁波的收发。无线通信模块120可以提供应用在手机10上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。手机10可以通过无线通信技术与网络以及其他设备进行通信。
在一些实施例中,手机100的移动通信模块130和无线通信模块120也可以位于同一模块中。
显示屏112用于显示人机交互界面、图像、视频等。显示屏112包括显示面板。例如,显示屏112用于显示摄像头170采集的图像或者处理器110输出的图像,如上述全局映射图像。
传感器模块190可以包括接近光传感器、压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
音频模块150用于将数字音频信息转换成模拟音频信号输出,或者将模拟音频输入转换为数字音频信号。音频模块150还可以用于对音频信号编码和解码。在一些实施例中,音频模块150可以设置于处理器110中,或将音频模块150的部分功能模块设置于处理器110中。在一些实施例中,音频模块150可以包括扬声器、听筒、麦克风以及耳机接口。
摄像头170用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件把光信号转换成电信号,之后将电信号传递给ISP(Image SignalProcessing,图像信号处理)转换成数字图像信号。手机100可以通过ISP,摄像头170,视频编解码器,GPU(Graphic Processing Unit,图形处理器),显示屏112以及应用处理器等实现拍摄功能。例如,上述摄像头170包括上述前置摄像头101以及前置摄像头102。
接口模块160包括外部存储器接口、通用串行总线(universal serial bus,USB)接口及用户标识模块(subscriber identification module,SIM)卡接口等。其中外部存储器接口可以用于连接外部存储卡,例如Micro SD卡,实现扩展手机100的存储能力。外部存储卡通过外部存储器接口与处理器110通信,实现数据存储功能。通用串行总线接口用于手机100和其他电子设备进行通信。用户标识模块卡接口用于与安装至手机1010的SIM卡进行通信,例如读取SIM卡中存储的电话号码,或将电话号码写入SIM卡中。
在一些实施例中,手机100还包括按键111、马达以及指示器等。其中,按键111可以包括音量键、开/关机键等。马达用于使手机100产生振动效果,例如在用户的手机100被呼叫的时候产生振动,以提示用户接听手机100来电。指示器可以包括激光指示器、射频指示器、LED指示器等。
根据本申请的实施例,图8示出了一种SoC(System on Chip,片上系统)1500的框图。在图8中,相似的部件具有同样的附图标记。另外,虚线框是更先进的SoC的可选特征。在图8中,SoC 1500包括:互连单元1550,其被耦合至应用处理器1515;系统代理单元1570;总线控制器单元1580;集成存储器控制器单元1540;一组或一个或多个协处理器1520,其可包括集成图形逻辑、图像处理器、音频处理器和视频处理器;静态随机存取存储器(SRAM)单元1530;直接存储器存取(DMA)单元1560。在一个实施例中,协处理器1520包括专用处理器,诸如例如网络或通信处理器、压缩引擎、GPGPU、高吞吐量MIC处理器、或嵌入式处理器等等。
本申请公开的机制的各实施例可以被实现在硬件、软件、固件或这些实现方法的组合中。本申请的实施例可实现为在可编程系统上执行的计算机程序或程序代码,该可编程系统包括至少一个处理器、存储系统(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。
可将程序代码应用于输入指令,以执行本申请描述的各功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的,处理系统包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何系统。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理系统通信。在需要时,也可用汇编语言或机器语言来实现程序代码。事实上,本申请中描述的机制不限于任何特定编程语言的范围。在任一情形下,该语言可以是编译语言或解释语言。
在一些情况下,所公开的实施例可以以硬件、固件、软件或其任何组合来实现。所公开的实施例还可以被实现为由一个或多个暂时或非暂时性机器可读(例如,计算机可读)存储介质承载或存储在其上的指令,其可以由一个或多个处理器读取和执行。例如,指令可以通过网络或通过其他计算机可读介质分发。因此,机器可读介质可以包括用于以机器(例如,计算机)可读的形式存储或传输信息的任何机制,包括但不限于,软盘、光盘、光碟、只读存储器(CD-ROMs)、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、磁卡或光卡、闪存、或用于利用因特网以电、光、声或其他形式的传播信号来传输信息(例如,载波、红外信号数字信号等)的有形的机器可读存储器。因此,机器可读介质包括适合于以机器(例如,计算机)可读的形式存储或传输电子指令或信息的任何类型的机器可读介质。
在附图中,可以以特定布置和/或顺序示出一些结构或方法特征。然而,应该理解,可能不需要这样的特定布置和/或排序。而是,在一些实施例中,这些特征可以以不同于说明性附图中所示的方式和/或顺序来布置。另外,在特定图中包括结构或方法特征并不意味着暗示在所有实施例中都需要这样的特征,并且在一些实施例中,可以不包括这些特征或者可以与其他特征组合。
需要说明的是,本申请各设备实施例中提到的各单元/模块都是逻辑单元/模块,在物理上,一个逻辑单元/模块可以是一个物理单元/模块,也可以是一个物理单元/模块的一部分,还可以以多个物理单元/模块的组合实现,这些逻辑单元/模块本身的物理实现方式并不是最重要的,这些逻辑单元/模块所实现的功能的组合才是解决本申请所提出的技术问题的关键。此外,为了突出本申请的创新部分,本申请上述各设备实施例并没有将与解决本申请所提出的技术问题关系不太密切的单元/模块引入,这并不表明上述设备实施例并不存在其它的单元/模块。
需要说明的是,在本专利的示例和说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
虽然通过参照本申请的某些优选实施例,已经对本申请进行了图示和描述,但本领域的普通技术人员应该明白,可以在形式上和细节上对其作各种改变,而不偏离本申请的精神和范围。
Claims (10)
1.一种基于宽动态范围的图像增强方法,其特征在于,包括:
电子设备获取同一场景的曝光值不同的多张初始图像;
所述电子设备将所述多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度信息表示的图像;
所述电子设备基于所述多张亮度图像中的不同图像区域,对所述多张亮度图像进行加权平均处理,得到局部融合图像;
所述电子设备对所述局部融合图像进行全局映射处理,得到全局映射图像。
2.根据权利要求1所述的方法,其特征在于,所述电子设备基于所述多张亮度图像中的不同图像区域,对所述多张亮度图像进行加权平均处理,得到局部融合图像,包括:
所述电子设备确定每个亮度图像中的每个像素点所在的预设尺寸的图像区域;
所述电子设备根据每个亮度图像中的像素点所在图像区域的信息量以及像素点之间的距离,确定每个亮度图像的局部信息融合权重,一个图像区域的信息量表示所述图像区域中的所有像素点的亮度值分布;
所述电子设备根据每个亮度图像的局部信息融合权重,对上述多张初始图像进行加权平均处理,得到所述局部融合图像。
3.根据权利要求1所述的方法,其特征在于,所述电子设备对所述局部融合图像进行全局映射处理,得到全局映射图像,包括:
所述电子设备将所述局部融合图像转换为对应的亮度图像,所述局部融合图像对应的亮度图像为至少通过亮度信息表示的图像;
所述电子设备计算所述局部融合图像对应的亮度图像的亮度直方图;
所述电子设备将所述亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区,并基于所述暗区、中间区和亮区,将所述局部融合图像映射为所述全局映射图像。
5.根据权利要求2所述的方法,其特征在于,所述电子设备将所述亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区,并基于所述暗区、中间区和亮区,将所述局部融合图像映射为所述全局映射图像,包括:
所述电子设备确定所述亮度直方图中的第一亮度值和第二亮度值;
所述电子设备根据所述第一亮度值、所述第二亮度值、预设的第一映射亮度值和预设的第二映射亮度值,确定亮度直方图中暗区、中间区和亮区分别对应的映射关系;
所述电子设备按照所述亮度直方图中所述暗区、所述中间区和所述亮区分别对应的映射关系,基于暗区、中间区和亮区将所述局部融合图像映射为所述全局映射图像;
其中,所述第一亮度值和所述第二亮度值将所述亮度直方图按照亮度值从小到大的顺序划分为暗区、中间区和亮区;所述第一亮度值映射至所述第一映射亮度值,所述第二亮度值映射至所述第二映射亮度值。
6.根据权利要求5所述的方法,其特征在于,所述暗区对应的映射关系包括将最低阶亮度值到所述第一亮度值之间的亮度值,按照线性关系映射至所述最低阶亮度值到所述第一映射亮度值之间的亮度值;所述中间区对应的映射关系包括将所述第一亮度值到所述第二亮度值之间的亮度值,按照线性关系映射至所述第一映射亮度值和所述第二映射亮度值之间的亮度值;所述亮区对应的映射关系包括将所述第二亮度值到最高阶亮度值之间的亮度值按照线性关系映射至所述第二映射亮度值到所述最高阶亮度值之间的亮度值,其中,所述最低阶亮度值和所述最高阶亮度值分别为所述亮度直方图能够表示的最小亮度值和最大亮度值。
7.根据权利要求6所述的方法,其特征在于,所述第一亮度值为所述亮度直方图中所述最低阶亮度值到亮度均值之间的所有亮度值中方差最小的亮度值,所述第二亮度值为所述亮度直方图中所述亮度值均值到所述最高阶亮度值之间的所有亮度值中方差最小的亮度值;其中,所述最小亮度值到所述亮度均值之间各阶亮度值出现的总概率,与所述亮度均值到所述最大亮度值之间各阶亮度值出现的总概率相等。
8.一种基于宽动态范围的图像增强装置,其特征在于,包括:
获取模块,用于获取同一场景的曝光值不同的多张初始图像;
转换模块,用于将所述获取模块得到的所述多张初始图像转换为多张亮度图像,每张亮度图像为至少通过亮度信息表征的图像;
局部处理模块,用于基于所述转换模块得到的所述多张亮度图像中的不同图像区域,对所述多张亮度图像进行加权平均处理,得到局部融合图像;
全局处理模块,用于对所述局部处理模块得到的所述局部融合图像进行全局映射处理,得到全局映射图像。
9.一种可读介质,其特征在于,所述可读介质上存储有指令,所述指令在电子设备上执行时,使所述电子设备执行权利要求1至7中任一项所述的基于宽动态范围的图像增强方法。
10.一种电子设备,其特征在于,包括:存储器,用于存储由所述电子设备的一个或多个处理器执行的指令,以及处理器,是所述电子设备的处理器之一,用于执行权利要求1至7中任一项所述的基于宽动态范围的图像增强方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011032771.0A CN112150399B (zh) | 2020-09-27 | 2020-09-27 | 基于宽动态范围的图像增强方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011032771.0A CN112150399B (zh) | 2020-09-27 | 2020-09-27 | 基于宽动态范围的图像增强方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112150399A true CN112150399A (zh) | 2020-12-29 |
CN112150399B CN112150399B (zh) | 2023-03-07 |
Family
ID=73895469
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011032771.0A Active CN112150399B (zh) | 2020-09-27 | 2020-09-27 | 基于宽动态范围的图像增强方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112150399B (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112367474A (zh) * | 2021-01-13 | 2021-02-12 | 清华大学 | 一种自适应光场成像方法、装置及设备 |
CN112651899A (zh) * | 2021-01-15 | 2021-04-13 | 北京小米松果电子有限公司 | 图像处理方法及装置、电子设备、存储介质 |
CN112669438A (zh) * | 2020-12-31 | 2021-04-16 | 杭州海康机器人技术有限公司 | 一种图像重建方法、装置及设备 |
CN113012081A (zh) * | 2021-01-28 | 2021-06-22 | 北京迈格威科技有限公司 | 图像处理方法、装置和电子系统 |
CN113225486A (zh) * | 2021-04-29 | 2021-08-06 | 深圳市阿达视高新技术有限公司 | 拍摄画面的处理方法、装置、设备和介质 |
CN113935911A (zh) * | 2021-09-26 | 2022-01-14 | 珠海全志科技股份有限公司 | 高动态范围视频图像处理方法、计算机装置及计算机可读存储介质 |
CN113971645A (zh) * | 2021-11-17 | 2022-01-25 | 广州朗国电子科技股份有限公司 | 一种图像宽动态增强方法及装置 |
CN114449176A (zh) * | 2022-01-10 | 2022-05-06 | 瑞芯微电子股份有限公司 | 自动曝光方法、动态范围识别方法、装置、介质及设备 |
CN114710654A (zh) * | 2022-04-24 | 2022-07-05 | 安谋科技(中国)有限公司 | 图像处理方法、装置、可读存储介质以及电子设备 |
CN114820404A (zh) * | 2021-01-29 | 2022-07-29 | 北京字节跳动网络技术有限公司 | 图像处理方法、装置、电子设备及介质 |
CN114897745A (zh) * | 2022-07-14 | 2022-08-12 | 荣耀终端有限公司 | 一种扩展图像动态范围的方法及电子设备 |
CN115118850A (zh) * | 2022-06-22 | 2022-09-27 | 海信视像科技股份有限公司 | 图像处理方法及显示装置 |
CN115409753A (zh) * | 2022-11-01 | 2022-11-29 | 北京开运联合信息技术集团股份有限公司 | 图像融合方法、装置、电子设备及计算机可读存储介质 |
CN115409841A (zh) * | 2022-11-01 | 2022-11-29 | 新乡市今彩彩印有限公司 | 一种基于视觉的印刷品检验方法 |
CN116245771A (zh) * | 2023-03-22 | 2023-06-09 | 新光维医疗科技(苏州)股份有限公司 | 一种基于图像二次增强的内窥镜图像亮度自动增强方法及系统 |
CN116523775A (zh) * | 2023-04-14 | 2023-08-01 | 海的电子科技(苏州)有限公司 | 高速图像信号的增强优化方法和设备、存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110101205A1 (en) * | 2009-10-30 | 2011-05-05 | Invisage Technologies, Inc. | Systems and methods for color binning |
CN105005976A (zh) * | 2015-03-30 | 2015-10-28 | 成都中昊英孚科技有限公司 | 一种基于融合的红外图像增强方法 |
CN110248108A (zh) * | 2019-06-14 | 2019-09-17 | 浙江大华技术股份有限公司 | 宽动态下的曝光调整及动态范围确定方法和相关装置 |
CN110868544A (zh) * | 2019-11-25 | 2020-03-06 | 维沃移动通信(杭州)有限公司 | 一种拍摄方法及电子设备 |
CN111179200A (zh) * | 2019-12-31 | 2020-05-19 | 昆明理工大学 | 一种宽动态范围图像的增强算法 |
CN111246052A (zh) * | 2020-01-21 | 2020-06-05 | 浙江大华技术股份有限公司 | 宽动态调整方法及装置、存储介质、电子装置 |
-
2020
- 2020-09-27 CN CN202011032771.0A patent/CN112150399B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110101205A1 (en) * | 2009-10-30 | 2011-05-05 | Invisage Technologies, Inc. | Systems and methods for color binning |
CN105005976A (zh) * | 2015-03-30 | 2015-10-28 | 成都中昊英孚科技有限公司 | 一种基于融合的红外图像增强方法 |
CN110248108A (zh) * | 2019-06-14 | 2019-09-17 | 浙江大华技术股份有限公司 | 宽动态下的曝光调整及动态范围确定方法和相关装置 |
CN110868544A (zh) * | 2019-11-25 | 2020-03-06 | 维沃移动通信(杭州)有限公司 | 一种拍摄方法及电子设备 |
CN111179200A (zh) * | 2019-12-31 | 2020-05-19 | 昆明理工大学 | 一种宽动态范围图像的增强算法 |
CN111246052A (zh) * | 2020-01-21 | 2020-06-05 | 浙江大华技术股份有限公司 | 宽动态调整方法及装置、存储介质、电子装置 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112669438A (zh) * | 2020-12-31 | 2021-04-16 | 杭州海康机器人技术有限公司 | 一种图像重建方法、装置及设备 |
CN112367474B (zh) * | 2021-01-13 | 2021-04-20 | 清华大学 | 一种自适应光场成像方法、装置及设备 |
CN112367474A (zh) * | 2021-01-13 | 2021-02-12 | 清华大学 | 一种自适应光场成像方法、装置及设备 |
CN112651899A (zh) * | 2021-01-15 | 2021-04-13 | 北京小米松果电子有限公司 | 图像处理方法及装置、电子设备、存储介质 |
CN113012081A (zh) * | 2021-01-28 | 2021-06-22 | 北京迈格威科技有限公司 | 图像处理方法、装置和电子系统 |
CN114820404A (zh) * | 2021-01-29 | 2022-07-29 | 北京字节跳动网络技术有限公司 | 图像处理方法、装置、电子设备及介质 |
CN113225486A (zh) * | 2021-04-29 | 2021-08-06 | 深圳市阿达视高新技术有限公司 | 拍摄画面的处理方法、装置、设备和介质 |
CN113935911A (zh) * | 2021-09-26 | 2022-01-14 | 珠海全志科技股份有限公司 | 高动态范围视频图像处理方法、计算机装置及计算机可读存储介质 |
CN113971645A (zh) * | 2021-11-17 | 2022-01-25 | 广州朗国电子科技股份有限公司 | 一种图像宽动态增强方法及装置 |
CN114449176A (zh) * | 2022-01-10 | 2022-05-06 | 瑞芯微电子股份有限公司 | 自动曝光方法、动态范围识别方法、装置、介质及设备 |
CN114710654A (zh) * | 2022-04-24 | 2022-07-05 | 安谋科技(中国)有限公司 | 图像处理方法、装置、可读存储介质以及电子设备 |
CN114710654B (zh) * | 2022-04-24 | 2024-01-23 | 安谋科技(中国)有限公司 | 图像处理方法、装置、可读存储介质以及电子设备 |
CN115118850A (zh) * | 2022-06-22 | 2022-09-27 | 海信视像科技股份有限公司 | 图像处理方法及显示装置 |
CN115118850B (zh) * | 2022-06-22 | 2024-04-05 | 海信视像科技股份有限公司 | 图像处理方法及显示装置 |
CN114897745A (zh) * | 2022-07-14 | 2022-08-12 | 荣耀终端有限公司 | 一种扩展图像动态范围的方法及电子设备 |
CN115409841B (zh) * | 2022-11-01 | 2023-01-24 | 新乡市今彩彩印有限公司 | 一种基于视觉的印刷品检验方法 |
CN115409753B (zh) * | 2022-11-01 | 2023-02-03 | 北京开运联合信息技术集团股份有限公司 | 图像融合方法、装置、电子设备及计算机可读存储介质 |
CN115409841A (zh) * | 2022-11-01 | 2022-11-29 | 新乡市今彩彩印有限公司 | 一种基于视觉的印刷品检验方法 |
CN115409753A (zh) * | 2022-11-01 | 2022-11-29 | 北京开运联合信息技术集团股份有限公司 | 图像融合方法、装置、电子设备及计算机可读存储介质 |
CN116245771A (zh) * | 2023-03-22 | 2023-06-09 | 新光维医疗科技(苏州)股份有限公司 | 一种基于图像二次增强的内窥镜图像亮度自动增强方法及系统 |
CN116245771B (zh) * | 2023-03-22 | 2024-04-02 | 新光维医疗科技(苏州)股份有限公司 | 一种基于图像二次增强的内窥镜图像亮度自动增强方法及系统 |
CN116523775A (zh) * | 2023-04-14 | 2023-08-01 | 海的电子科技(苏州)有限公司 | 高速图像信号的增强优化方法和设备、存储介质 |
CN116523775B (zh) * | 2023-04-14 | 2023-11-07 | 海的电子科技(苏州)有限公司 | 高速图像信号的增强优化方法和设备、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112150399B (zh) | 2023-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112150399B (zh) | 基于宽动态范围的图像增强方法及电子设备 | |
CN113810598B (zh) | 一种拍照方法、电子设备及存储介质 | |
CN112449120A (zh) | 高动态范围视频生成方法及装置 | |
CN114092364A (zh) | 图像处理方法及其相关设备 | |
CN108200352B (zh) | 一种调解图片亮度的方法、终端及存储介质 | |
CN116416122B (zh) | 图像处理方法及其相关设备 | |
US20240119566A1 (en) | Image processing method and apparatus, and electronic device | |
CN113810590A (zh) | 图像处理方法、电子设备、介质和系统 | |
CN115526787A (zh) | 视频处理方法和装置 | |
CN114422682A (zh) | 拍摄方法、电子设备和可读存储介质 | |
CN113096022A (zh) | 图像虚化处理方法、装置、存储介质与电子设备 | |
CN116668862B (zh) | 图像处理方法与电子设备 | |
CN115529411B (zh) | 视频虚化方法和装置 | |
CN114143471B (zh) | 图像处理方法、系统、移动终端及计算机可读存储介质 | |
CN116437198B (zh) | 图像处理方法与电子设备 | |
US11989863B2 (en) | Method and device for processing image, and storage medium | |
CN116051368B (zh) | 图像处理方法及其相关设备 | |
CN116452437B (zh) | 高动态范围图像处理方法及电子设备 | |
CN117119314B (zh) | 一种图像处理方法及相关电子设备 | |
CN115705663B (zh) | 图像处理方法与电子设备 | |
CN117135468B (zh) | 图像处理方法及电子设备 | |
CN116029914B (zh) | 图像处理方法与电子设备 | |
CN117440253B (zh) | 图像处理方法和相关装置 | |
JP7212128B2 (ja) | 画像処理方法、装置及び記憶媒体 | |
CN117395495B (zh) | 一种图像处理方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |