CN117135468B - 图像处理方法及电子设备 - Google Patents
图像处理方法及电子设备 Download PDFInfo
- Publication number
- CN117135468B CN117135468B CN202310187614.4A CN202310187614A CN117135468B CN 117135468 B CN117135468 B CN 117135468B CN 202310187614 A CN202310187614 A CN 202310187614A CN 117135468 B CN117135468 B CN 117135468B
- Authority
- CN
- China
- Prior art keywords
- image
- frame image
- short
- exposure
- short frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000000034 method Methods 0.000 claims description 55
- 230000002159 abnormal effect Effects 0.000 claims description 29
- 230000009467 reduction Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 abstract description 30
- 238000012937 correction Methods 0.000 abstract description 10
- 238000012545 processing Methods 0.000 description 50
- 230000008569 process Effects 0.000 description 33
- 238000007781 pre-processing Methods 0.000 description 30
- 230000006870 function Effects 0.000 description 28
- 239000010410 layer Substances 0.000 description 27
- 238000004891 communication Methods 0.000 description 20
- 238000007726 management method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 230000000694 effects Effects 0.000 description 11
- 238000010295 mobile communication Methods 0.000 description 11
- 238000013461 design Methods 0.000 description 10
- 238000013527 convolutional neural network Methods 0.000 description 9
- 238000005282 brightening Methods 0.000 description 7
- 230000004927 fusion Effects 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000012805 post-processing Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 210000004027 cell Anatomy 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- WFKWXMTUELFFGS-UHFFFAOYSA-N tungsten Chemical compound [W] WFKWXMTUELFFGS-UHFFFAOYSA-N 0.000 description 1
- 229910052721 tungsten Inorganic materials 0.000 description 1
- 239000010937 tungsten Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000002087 whitening effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
本申请提供一种图像处理方法及电子设备,涉及图像技术领域。在拍摄发光广告牌场景中,电子设备可以拍摄不同曝光量下的图像。该图像包括短帧图像和正常曝光图像。之后,电子设备可以利用正常曝光图像的awbgain值对正常曝光图像进行白平衡调节,利用短帧图像的awbgain值对短帧图像进行白平衡调节,实现短帧图像的准确调节。为了避免由于短帧图像的awbgain值计算错误导致图像偏色程度较严重,电子设备可以在短帧图像的awbgain值计算错误时,对校正后的短帧图像进行提亮。之后,电子设备可以对提亮后的短帧图像和校正后的正常曝光图像进行融合,得到HDR图像,使得该HDR图像中的高亮区域的偏色程度较低。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
随着电子设备(如手机)的发展,手机的拍摄功能也得到了快速发展。为了提高拍摄的图像质量,部分手机已经集成了高动态范围(HighDynamicRange,HDR)功能。HDR的原理是,手机摄像头分别在不同曝光量EV下拍摄图像。然后将不同曝光量EV下拍摄的进行融合,得到HDR图像。
然而,手机采用HDR功能,拍摄得到的HDR图像中的高亮区域仍存在较严重的偏色问题。例如,手机的拍摄画面存在光源(如发光广告牌)时,该发光广告牌的灯光颜色是白光,而手机拍摄得到的HDR图像中的高亮区域的发光广告牌部分所呈现的灯光颜色是蓝色,也就是说HDR图像中的高亮区域的偏色程度较大。
发明内容
有鉴于此,本申请提供了一种图像处理方法及电子设备,降低HDR图像中的高亮区域的偏色程度。
第一方面,本申请提供一种图像处理方法。响应于用户对电子设备的第一操作,表明电子设备需要拍摄HDR图像,该电子设备可以在不同曝光量下拍摄图像,得到正常曝光图像和非正常曝光图像。其中,非正常曝光图像包括短帧图像。该第一操作触发该电子设备拍摄HDR图像,该短帧图像的曝光量与正常曝光图像的曝光量不同;该短帧图像的曝光量小于0EV,正常曝光图像的曝光量为0EV。
该电子设备利用该正常曝光图像的awbgain值对该正常曝光图像进行校正,利用该短帧图像的awbgain值对该短帧图像进行校正。
电子设备判断短帧图像的awbgain值是否满足预设条件。该预设条件表示该短帧图像的awbgain值异常,即计算错误。
在该短帧图像的awbgain值不满足预设条件的情况下,该电子设备可以直接对校正后的短帧图像和校正后的正常曝光图像进行融合,得到HDR图像。
在该短帧图像的awbgain值满足预设条件的情况下,该电子设备对校正后的短帧图像进行曝光补偿,以增加短帧图像的亮度;该电子设备对补偿后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像。
本申请中,在拍摄画面中存在光源(如室内外的发光广告牌)的情况下,电子设备拍摄不同曝光量下的图像,得到正常曝光图像和短帧图像。之后,电子设备利用短帧图像的awb gain值对短帧图像进行校正,而不是利用正常曝光图像的awbgain值对短帧图像进行校正,实现短帧图像的准确白平衡,提高最终得到的HDR图像的真实性,也就是使得HDR图像中的高亮区域所呈现的颜色与光源实际发光颜色相似,降低高亮区域的偏色程度。但在实际应用中,短帧图像的awbgain值有可能计算错误,为了避免由于短帧图像的awbgain值计算错误导致HDR图像中的高亮区域存在较严重的偏色问题,电子设备可以在短帧图像的awbgain值满足预设条件的情况下,表明短帧图像的awbgain值计算错误,对校正后的短帧图像进行提亮,以使短帧图像的高亮区域的颜色接近光源实际发光颜色(如白色),从而可以有效降低HDR图像的偏色程度。
示例性的,上述预设条件可以包括短帧图像的awbgain值与正常曝光图像的awbgain值之间的第一差值未处于预设阈值范围、短帧图像的awbgain值小于第一预设值、短帧图像的awbgain值大于第二预设值中的一个或多个。
本申请中,电子设备可以利用正常曝光图像的awbgain值判断短帧图像的awbgain值是否计算错误。如果短帧图像的awbgain值与正常曝光图像的awbgain值之间的差值(或称为第一差值)处于预设阈值范围,该短帧图像的awbgain值计算正确,利用该短帧图像的awbgain值可以有效解决HDR图像中的高亮区域的偏色问题,提高HDR图像质量。如果该第一差值未处于预设阈值范围,表明该短帧图像的awbgain值偏大或偏小,该短帧图像的awbgain值计算错误,利用该短帧图像的awbgain值无法有效解决HDR图像中的高亮区域的偏色问题,因此,电子设备可以采用保护机制避免由于短帧图像的awbgain值计算错误导致高亮区域色彩异常的问题。
在一种可能的设计中,上述电子设备对校正后的短帧图像进行曝光补偿的过程可以包括:
在上述第一差值大于预设阈值范围的最大值的情况下,表明短帧图像的awbgain值过大,电子设备可以基于第一曝光量对校正后的短帧图像进行曝光补偿,以将校正后的短帧图像的曝光量增加第一曝光量。其中,该第一曝光量是第一预设曝光量范围的任一值,或者该第一曝光量是一个固定值;
在上述第一差值小于预设阈值范围的最小值的情况下,表明短帧图像的awbgain值过小,电子设备可以基于第一曝光量对校正后的短帧图像进行曝光补偿,以将校正后的短帧图像的曝光量增加第二曝光量。其中,第二曝光量是第二预设曝光量范围的任一值,或者该第二曝光量是一个固定值。
本申请中,当第一差值大于预设阈值范围的最大值的情况下,表明短帧图像的awbgain值过大,校正后的短帧图像中的高亮区域可能存在严重的偏色问题,因此,该电子设备可以提亮校正后的短帧图像以使短帧图像中的高亮区域过曝,降低高亮区域的偏色程度。
当第一差值小于预设阈值范围的最小值的情况下,表明短帧图像的awbgain值与正常曝光图像的awbgain值相差较小,电子设备采用短帧图像的awbgain值对短帧图像进行校正可以相当于电子设备采用正常曝光图像的awbgain值对短帧图像进行校正,短帧图像中的高亮区域的偏色问题没有得到有效解决,因此,电子设备可以提亮校正后的短帧图像,以使短帧图像中的高亮区域的颜色与光源实际发光颜色相似,降低高亮区域的偏色程度。
在一种可能的设计中,电子设备基于第一曝光量对校正后的短帧图像进行曝光补偿的过程可以包括:
在第一曝光量与校正后的短帧图像的曝光量之和小于或等于0EV的情况下,电子设备将该校正后的短帧图像的曝光量增加第一曝光量,得到的提亮后的短帧图像(或称为补偿后的短帧图像)的曝光量小于或等于正常曝光图像的曝光量,从而避免短帧图像变成长帧图像。
在第一曝光量与校正后的短帧图像的曝光量之和大于0EV的情况下,电子设备将该校正后的短帧图像的曝光量增加至0EV,得到的提亮后的短帧图像(或称为补偿后的短帧图像)的曝光量等于正常曝光图像的曝光量,从而避免短帧图像变成长帧图像。
同理,电子设备基于第二曝光量对校正后的短帧图像进行曝光补偿的过程可以包括:
在第二曝光量与校正后的短帧图像的曝光量之和小于或等于0EV的情况下,电子设备将该校正后的短帧图像的曝光量增加第二曝光量,得到的提亮后的短帧图像(或称为补偿后的短帧图像)的曝光量小于或等于正常曝光图像的曝光量,从而避免短帧图像变成长帧图像。
在第二曝光量与校正后的短帧图像的曝光量之和大于0EV的情况下,电子设备将该校正后的短帧图像的曝光量增加至0EV,得到的提亮后的短帧图像(或称为补偿后的短帧图像)的曝光量等于正常曝光图像的曝光量,从而避免短帧图像变成长帧图像。
示例性的,上述awbgain值包括bgain值和/或rgain值。预设阈值范围可以包括第一预设阈值范围和/或第二预设阈值范围。
在一种可能的设计中,上述awbgain值包括bgain值和rgain值。预设阈值范围可以包括第一预设阈值范围和/或第二预设阈值范围。
相应的,在上述短帧图像的bgain值与上述正常曝光图像的bgain值之间的差值未处于第一预设阈值范围,或者上述短帧图像的rgain值与上述正常曝光图像的rgain值之间的差值未处于第二预设阈值范围的情况下,电子设备可以确定上述第一差值未处于预设阈值范围,也就是确定短帧图像的awngain值计算异常。
在上述短帧图像的bgain值与上述正常曝光图像的bgain值之间的差值处于第一预设阈值范围,且上述短帧图像的rgain值与上述正常曝光图像的rgain值之间的差值处于第二预设阈值范围的情况下,电子设备可以确定上述第一差值处于预设阈值范围,也就是确定短帧图像的awngain值计算正常。
在一种可能的设计中,上述awbgain值包括bgain值。预设阈值范围可以包括第一预设阈值范围。相应的,在上述短帧图像的bgain值与上述正常曝光图像的bgain值之间的差值未处于第一预设阈值范围的情况下,电子设备可以确定上述第一差值未处于预设阈值范围,也就是确定短帧图像的awngain值计算异常。
在上述短帧图像的bgain值与上述正常曝光图像的bgain值之间的差值处于第一预设阈值范围的情况下,电子设备可以确定上述第一差值处于预设阈值范围,也就是确定短帧图像的awngain值计算正常。
在一种可能的设计中,上述awrgain值包括rgain值。预设阈值范围可以包括第一预设阈值范围。相应的,在上述短帧图像的rgain值与上述正常曝光图像的rgain值之间的差值未处于第一预设阈值范围的情况下,电子设备可以确定上述第一差值未处于预设阈值范围,也就是确定短帧图像的awngain值计算异常。
在上述短帧图像的rgain值与上述正常曝光图像的rgain值之间的差值处于第一预设阈值范围的情况下,电子设备可以确定上述第一差值处于预设阈值范围,也就是确定短帧图像的awngain值计算正常。
在一种可能的设计中,由于HDR图像的高亮区域所呈现的显示效果主要是由最短帧决定的,因此,在上述电子设备拍摄的短帧图像包括多个曝光量的短帧图像的情况下,表明电子设备拍摄了不同曝光量的短帧图像,电子设备可以利用该多个曝光量的短帧图像中的最小曝光量的短帧图像计算短帧图像的awbgain值,也就是利用最短帧计算awbgain值,对短帧图像进行校正。
在一种可能的设计中,上述电子设备对补偿后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像的过程可以包括:电子设备对补偿后的短帧图像和校正后的正常曝光图像进行对齐。子设备对对齐后的正常曝光图像和短帧图像进行融合,降噪处理得到HDR图像,保证HDR图像的质量。
示例性的,上述电子设备可以将补偿后的短帧图像和校正后的正常曝光图像作为输入,运行CNN网络输出HDR图像。该CNN网络可以对图像进行对齐、融合和降噪处理,从而实现图像的快速处理。
第二方面,本申请提供一种电子设备,所述电子设备包括显示屏、摄像头、存储器和一个或多个处理器;所述显示屏、所述摄像头、所述存储器和所述处理器耦合;所述摄像头用于采集图像,所述显示屏用于显示所述处理器生成的图像以及所述摄像头采集的图像,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行如上第一方面及其任一种可能的设计方式所述的方法。
第三方面,本申请提供一种计算机可读存储介质,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如上第一方面及其任一种可能的设计方式所述的方法。
第四方面,本申请提供一种计算机程序产品,当所述计算机程序产品在电子设备上运行时,使得所述电子设备执行如上第一方面及其任一种可能的设计方式所述的方法。
可以理解地,上述提供的第二方面所述的电子设备,第三方面所述的计算机存储介质,第四方面所述的计算机程序产品所能达到的有益效果,可参考第一方面及其任一种可能的实现方式中的有益效果,此处不再赘述。
附图说明
图1A为本申请实施例提供的一种拍摄场景示意图一;
图1B为本申请实施例提供的一种拍摄场景示意图二;
图1C为本申请实施例提供的一种拍摄场景示意图三;
图1D为本申请实施例提供的一种拍摄场景示意图四;
图1E为本申请实施例提供的一种拍摄场景示意图五;
图2为本申请实施例提供的一种HDR图像生成过程示意图一;
图3A为本申请实施例提供的一种电子设备的硬件结构示意图;
图3B为本申请实施例提供的一种电子设备摄像头示意图一;
图3C为本申请实施例提供的一种电子设备摄像头示意图二;
图4为本申请实施例提供的一种电子设备的软件结构示意图;
图5为本申请实施例提供的一种图像处理方法的流程示意图一;
图6为本申请实施例提供的一种图像处理方法的流程示意图二;
图7为本申请实施例提供的一种图像处理方法的流程示意图三;
图8为本申请实施例提供的一种HDR图像生成过程示意图二。
具体实施方式
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了方便理解,下面先介绍本申请涉及的专业名词。
正常曝光图像:或称为N帧图像,其是摄像头在曝光量为0EV的情况下,拍摄得到的图像。也就是说,正常曝光图像的曝光量为0EV。这里的0EV是相对值,而不是是说曝光量为0。示例性的,曝光量=曝光时间*感光度(ISO)。假设正常曝光图像是在ISO是200,曝光时间是50毫秒的情况下天,拍摄得到的,0EV实际对应的曝光量是200与50毫秒的乘积。
短帧图像:或称为S帧图像,其是摄像头在曝光量小于0EV的情况下,拍摄得到的图像。也就是说,短帧图像的曝光量小于0EV,如短帧图像的曝光量为-2EV,-4EV等。
长帧图像:或称为L帧图像,其是摄像头在曝光量大于0EV的情况下,拍摄得到的图像。也就是说,短帧图像的曝光量大于0EV,如长帧图像的曝光量为2EV,4EV等。
自动白平衡(autowhitebalance,awb):在日光灯的房间里拍摄的图像可能会发绿,在室内钨丝灯光下拍摄出来的图像可能会偏黄,而在日光阴影处拍摄到的图像可能会偏蓝,其原因就在于“白平衡”的设置上,白平衡的作用就是在这些存在光源的场景中恢复图像的正常颜色。
在一些拍摄场景(如拍摄画面存在光源)中,拍摄画面可能明暗相差太大,拍摄得到的图像容易出现亮处过亮或者暗处过暗的情况,从而丢失亮处或暗处的细节,影响图像的质量。为了提高图像质量,电子设备可以采用HDR功能拍摄图像,得到HDR图像。然而,电子设备拍摄得到的HDR图像可能仍会存在偏色问题(如HDR图像的高亮部分存在偏色问题)。例如,用户使用电子设备的HDR功能拍摄如图1A所示的发光广告牌1(即“复印”广告牌),该发光广告牌的发光颜色为白色。
首先,用户可以将电子设备的摄像头对着发光广告牌1。电子设备可以显示如图1B所示的预览图像,该预览图像中包括发光广告牌1图像。之后,用户可以选择电子设备显示的如图1C所示的HDR控件。响应于用户对HDR控件的点击操作,电子设备可以显示第一界面,该第一界面可以包括如图1D所示的HDR提示信息20和拍照控件21,该HDR提示信息可以提示用户电子设备处于HDR模式下。之后,响应于用户对该拍照控件21的点击操作,电子设备可以采用HDR功能,拍摄不同曝光量的图像,得到正常曝光图像和非正常曝光图像,该非正常曝光图像可以包括短帧图像。之后,电子设备可以利用该正常曝光图像和非正常曝光图像生成如图1E示的HDR图像。该HDR图像所显示的发光广告牌1(即“复印”)的颜色偏蓝色,也就是说该发光广告牌1的灯光是蓝色的,与实际的白光存在较大差异。
其中,上述短帧图像的数量可以是至少一个,正常曝光图像也可以是至少一个,本申请不对其限制。当短帧图像的数量为多个时,短帧图像之间的曝光量可以相同,也可以不同。也就是说,电子设备可以拍摄多张曝光量相同的短帧图像,如电子设备可以拍摄2张-2EV的短帧图像,也可以拍摄不同曝光量的短帧图像,如拍摄一张-2EV的短帧图像和一张-8EV的短帧图像。
在一些实施例中,上述非正常曝光图像还可以包括长帧图像。当然,也可以不包括长帧图像,也就是说,电子设备在采用HDR功能,拍摄图像时,其可以不拍摄长帧图像,也可以拍摄至少一张长帧图像。
在一些实施例中,如图2所示,电子设备在得到正常曝光图像和短帧图像后,基于正常曝光图像的awbgain值对正常曝光图像进行校正。基于正常曝光图像的awbgain值对短帧图像进行校正。其中,正常曝光图像的awbgain值是基于正常曝光图像中的像素点的颜色值(如RGB值)计算得到的。
示例性的,上述基于正常曝光图像的awbgain值对短帧图像进行校正的过程可以包括:对于短帧图像中的每个像素点,将该像素点的像素值乘以正常曝光图像的awbgain值,实现对短帧图像的色彩的调节。同理,上述基于正常曝光图像的awbgain值对正常曝光图像进行校正的过程可以包括:对于正常曝光图像中的每个像素点,将该像素点的像素值乘以正常曝光图像的awbgain值,实现对短帧图像的色彩的调节。
之后,电子设备可以对校正后的正常曝光图像和校正后的短帧进行融合,得到HDR图像。在一些实施例中,在上述非正常曝光图像包括长帧图像的情况下的,电子设备在进行融合时,也可以利用校正后的长帧图像进行融合。该校正后的长帧图像是电子设备利用正常曝光图像的awbgain值对长帧图像进行校正后得到的。
上面利用图2介绍了HDR图像的生成过程,下面继续将结合上述图2对应内容,说明HDR图像中的高亮区域偏色的原因。
一方面,对于拍摄画面中的高亮区域中的对象(如发光广告牌),由于正常曝光图像的曝光量较高,因此,正常曝光图像中的该高亮区域中的对象可能是白色模糊不清楚的,也就是存在过曝问题。相应的,电子设备可能统计不到正常曝光图像中高亮区域的信息,电子设备利用正常曝光图像中的像素点计算得到的awbgain值可能是不适合高亮区域的。
由于短帧图像的曝光量较小,因此,短帧图像可以正常显示拍摄画面中的高亮区域,而拍摄画面中高亮区域以外的区域在短帧图像中可能呈现黑色。由于正常曝光图像的awbgain值可能是不适合高亮区域的,因此,在基于正常曝光图像计算的awbgain校正短帧图像中的高亮区域时,可能无法准确地还原正常曝光图像中高亮区域的颜色,高亮区域的颜色的校正精度较低,使得校正后的短帧图像可能存在偏色问题。而HDR图像中的高亮区域的颜色主要是由短帧图像决定的,使得基于校正后的短帧图像得到的HDR图像中的高亮图像也存在偏色问题。
另一方面,正常曝光图像的awbgain值是基于正常曝光图像中的像素点的颜色值计算得到,其可以使校正后的正常曝光图像中对象的颜色与该对象的实际颜色相近或相同。但由于正常曝光图像的曝光量是大于短帧图像对应的曝光量,在不同曝光量下拍摄得到的同一对象的颜色是不同的,因此,正常曝光图像的awbgain值可能无法使校正后的短帧图像中对象的颜色与该对象的实际颜色相近或相同,也就是校正后的短帧图像中对象的颜色与该对象的实际颜色像差较大。
正常曝光图像对HDR图像中的非高亮区域所呈现的效果影响较大,短帧图像对HDR图像中的高亮区域所呈现效果影响较大,如影响高亮区域所呈现的颜色。因此,当校正后的短帧图像中对象的颜色与该对象的实际颜色差异较大时,基于校正后的短帧得到的HDR图像中的高亮区域对象的颜色与该对象的实际颜色差异较大,也就是说该高亮区域(或称为过曝区域)出现偏色问题。
需要说明的是,电子设备显示的预览图像是校正后的正常曝光图像。如上述图1B或图1D所示的图像便为预览图像,其是校正后的正常曝光图像。图1B或图1D所示的发光广告牌1所呈现的颜色与图1E所示的HDR图像中的发光广告牌1所呈现的颜色不同。
因此,针对上述问题,本申请提出一种图像处理方法,在拍摄画面存在光源(如室内外的发光广告牌)的场景中,在接收到用户输入的第一操作的情况下,表明电子设备需要拍摄HDR图像,该电子设备可以拍摄不同曝光量的图像,得到正常曝光图像和非正常曝光图像。其中,非正常曝光图像包括短帧图像。该短帧图像的曝光量小于0EV,正常曝光图像的曝光量为0EV。之后,该电子设备可以利用该正常曝光图像的awbgain值对该正常曝光图像进行校正,利用该短帧图像的awbgain值对该短帧图像进行校正,而不是利用正常曝光图像的awb gain值对短帧图像进行校正,实现短帧图像的准确白平衡调节,可以有效解决短帧图像中的高亮区域的偏色问题,从而有效降低HDR图像中的高亮区域的偏色问题。但考虑到短帧图像的awbgain值可能会计算错误,因此,电子设备可以通过判断短帧图像的awbgain值是否满足预设条件来确定短帧图像的awbgain值是否计算错误,也就是是否异常。
在该短帧图像的awbgain值不满足预设条件的情况下,表明短帧图像的awbgain值计算正确,也就是说校正后的短帧图像中的高亮区域的颜色与光源实际颜色相似或相同,偏色程度较小,因此,该电子设备可以直接对校正后的短帧图像和校正后的正常曝光图像进行融合,得到HDR图像,该HDR图像中的高亮区域的偏色程度也较小,使得HDR图像能够真实还原拍摄场景,从而有效提高了HDR图像的质量。
在该短帧图像的awbgain值满足预设条件的情况下,表明短帧图像的awbgain值计算错误,也就是说校正后的短帧图像中的高亮区域的颜色与光源实际颜色差别较大,偏色程度较大。因此,本申请提供一种保护机制,即该电子设备可以对校正后的短帧图像进行曝光补偿,以增加短帧图像的亮度,在一定程度上降低短帧图像的偏色程度。之后,该电子设备对补偿后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像,从而在一定程度上可以降低HDR图像的偏色程度,避免由于短帧图像的awbgain值计算错误导致HDR图像严重偏色的情况的出现,保证HDR图像的质量。并且在光源的发光颜色为白色的情况下,如果短帧图像的awbgain值计算错误,通过保护机制的HDR图像的偏色程度最低。
示例性的,本申请实施例中的电子设备可以是手机、平板电脑、可穿戴设备、个人数字助理(personaldigitalassistant,PDA)、车载终端、物联网设备等具有拍摄功能的设备,本申请实施例对该电子设备的具体形态不作特殊限制。
图3A示出了电子设备100的结构示意图。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universalserialbus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriberidentificationmodule,SIM)卡接口195等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(applicationprocessor,AP),调制解调处理器,图形处理器(graphicsprocessingunit,GPU),图像信号处理器(imagesignalprocessor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digitalsignalprocessor,DSP),基带处理器,和/或神经网络处理器(neural-network processingunit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integratedcircuit,I2C)接口,集成电路内置音频(inter-integratedcircuitsound,I2S)接口,脉冲编码调制(pulsecodemodulation,PCM)接口,通用异步收发传输器(universalasynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobileindustryprocessorinterface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identitymodule,SIM)接口,和/或通用串行总线(universalserialbus,USB)接口等。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noiseamplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocalarea networks,WLAN)(如无线保真(wirelessfidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(globalnavigationsatellitesystem,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(nearfieldcommunication,NFC),红外技术(infraRed,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(globalsystemformobilecommunications,GSM),通用分组无线服务(generalpacketradioservice,GPRS),码分多址接入(codedivisionmultiple access,CDMA),宽带码分多址(widebandcodedivisionmultipleaccess,WCDMA),时分码分多址(time-divisioncodedivisionmultipleaccess,TD-SCDMA),长期演进(longtermevolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(globalpositioningsystem,GPS),全球导航卫星系统(globalnavigationsatellitesystem,GLONASS),北斗卫星导航系统(beidounavigationsatellitesystem,BDS),准天顶卫星系统(quasi-zenithsatellitesystem,QZSS)和/或星基增强系统(satellitebasedaugmentationsystems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件(或称为图像传感器)。感光元件可以是电荷耦合器件(chargecoupleddevice,CCD)或互补金属氧化物半导体(complementarymetal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
示例性的,上述N个摄像头193可以包括:一个或多个前置摄像头和一个或多个后置摄像头。例如,以上述电子设备100是手机为例。图3B所示的手机包括一个前置摄像头,如前置摄像头10。图3C所示的手机包括三个后置摄像头,如后置摄像头11、12和13。当然,上述手机中摄像头的数量包括但不限于上述实例中所述的数量。
其中,上述摄像头193可以包括以下一种或多种摄像头:主摄像头、长焦摄像头、广角摄像头、超广角摄像头、微距摄像头、鱼眼摄像头、红外摄像头、深度摄像头和黑白摄像头。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(movingpictureexpertsgroup,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如MicroSD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universalflashstorage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130。
上述传感器模块180可以包括压力传感器180,陀螺仪传感器180,气压传感器180,磁传感器180,加速度传感器180,距离传感器180,接近光传感器180,指纹传感器180,温度传感器180,触摸传感器180,环境光传感器180,骨传导传感器180等。
按键190包括开机键,音量键等。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。
上述电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本发明实施例以分层架构的Android系统为例,示例性说明电子设备100的软件结构。
图4是本发明实施例的电子设备100的结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为五层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Androidruntime)和系统库,硬件抽象层(hardwareabstractionlayer,HAL)以及内核层(如图4所示的软件层)。
应用程序层可以包括一系列应用程序包。
如图4所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图4所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
AndroidRuntime包括核心库和虚拟机。Androidruntime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surfacemanager),媒体库(Media Libraries),三维图形处理库(例如:OpenGLES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
硬件抽象层为位于操作系统内核与硬件电路之间的接口层,其目的在于将硬件抽象化。如图4所示,硬件抽象层可以包括第一awb模块、第二awb模块、前处理模块和网络处理模块和后处理模块。
其中,第一awb模块可用于计算正常曝光图像的awbgain值。
第二awb模块可用于计算短帧图像的awbgain值。
前处理模块可用于利用正常曝光图像的awbgain值对正常曝光图像进行校正,利用短帧图像的awbgain值对短帧图像进行校正。
在一些实施例中,前处理模块还可以用于判断短帧图像的awbgain值计算是否错误。如果错误,该前处理模块可以对校正后的短帧图像的亮度进行调整。
网络处理模块可用于对正常曝光图像和短帧图像进行融合以及降噪处理,得到第一格式的HDR图像。示例的,第一格式可以为RGB格式。
后处理模块可以用于将第一格式的HDR图像保存成预设图像格式(如JPEG(JointPhotographicExpertsGroup)格式)的HDR图像、以及对图像进行锐化、伽玛校正(GammaCorrection)等图像处理。
示例性的,上述后处理模块可以是通过软件模块实现的,也可以是通过相关硬件(如ISP)实现。
在一些实施例中,上述硬件抽象层可以和硬件层进行通信。如硬件层中的摄像头在拍摄正常曝光图像和短帧图像后,可以向硬件抽象层的相关模块(如第一awb模块、第二awb模块、前处理模块)发送,以供硬件抽象层的相关模块可以实现HDR图像的生成。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
本申请实施例提供一种图像处理方法。电子设备需要采用HDR功能拍摄图像时,首先,电子设备在拍摄正常曝光图像和短帧图像后,可以利用短帧图像的awbgain值对短帧图像进行校正,而不是利用正常曝光图像的awbgain值对短帧图像进行校正,实现对短帧图像的精准校正,也就是保证短帧图像的白平衡的精准度,从而使得HDR图像中的高亮区域的颜色与实际颜色的相似程度较大,提高HDR图像的质量。并且,为了避免短帧图像的awbgain值计算错误,电子设备可以利用正常曝光图像的awbgain值,确定短帧图像的awbgain值是否计算错误。如果确定有误,表明利用短帧图像的awbgain值对短帧图像进行校正,并没有解决短帧图像的偏色问题,因此,电子设备可以提高校正后的短帧图像的亮度,使得校正后的短帧图像中的高亮区域过曝,降低高亮区域的偏色程度,从而保证基于提亮后的短帧图像得到的HDR图像的质量。
本申请实施例的方法可以应用到电子设备拍摄HDR图像的场景中。例如,电子设备通过电子设备的后置摄像头拍摄HDR照片、HDR视频等;又例如,电子设备通过电子设备的前置摄像头拍摄HDR照片、HDR视频等。其中,HDR图像可以表示电子设备采用HDR功能,拍摄得到的图像。同理,HDR照片可以表示电子设备采用HDR功能,拍摄得到的照片。HDR视频可以表示电子设备采用HDR功能,拍摄得到的视频。
示例性的,本申请实施例的方法可以应用到电子设备拍摄包括高亮区域的HDR图像的场景中。例如,电子设备拍摄包括发光光源(如发光广告牌、点菜灯箱)的HDR图像。下面将以电子设备为手机为例,对本申请实施例的方法进行说明。
以下,将结合附图对本申请实施例提供的一种图像处理方法进行具体介绍。如图5所示,该方法包括以下步骤:
S501、响应于用户对手机的第一操作,手机拍摄正常曝光图像和非正常曝光图像。其中,非正常曝光图像包括短帧图像。第一操作触发手机拍摄HDR图像。
示例性的,一种情况下,上述HDR图像可以是HDR照片。也就是说,第一操作可以触发手机拍摄HDR照片,换言之,第一操作可以触发手机在HDR模式下,拍摄照片。另一种情况下,上述HDR图像可以是HDR视频中的图像,也就是说,该第一操作可以触发手机拍摄HDR视频,换言之,第一操作可以触发手机在HDR模式下,拍摄视频。
在一些实施例中,上述第一操作可以是用户对手机显示的拍摄界面上的相关控件的点击操作。例如,第一操作可以是手机在处于HDR模式下时,用户对上述图1D所示的拍照控件21的点击操作。又例如,第一操作可以是手机在处于HDR模式下时,用户对拍摄界面上的录像控件的点击操作,以触发手机拍摄HDR视频。
上述第一操作也可以是用户在拍摄界面输入的预设手势(如S型手势、√型手势等)。该预设手机可以包括第一手势和/第二手势。第一手势可以触发手机拍摄HDR照片,第二手机可以触发手机拍摄HDR视频。其中,第一手势和第二手势可以不同。当用户在手机显示的拍摄界面上输入第一手势时,该第一手势便为该第一操作,其触发手机拍摄HDR照片。当用户在手机显示的拍摄界面上输入第二手势时,该手机便为该第一操作,其触发手机拍摄HDR视频。
其中,上述预设手势可以预设配置在手机中。并且,手机可以在拍摄界面向用户提示该预设手势,以及该预设手势所触发的功能(即第一手势可以触发手机拍摄HDR照片;第二手势可以触发手机拍摄HDR视频),以使用户可以根据需求在手机的拍摄界面上输入相应的手势。
示例性的,上述正常曝光图像的数量(即手机拍摄的正常曝光图像的数量)可以为至少一个。上述短帧图像的数量(即手机拍摄的短帧图像的数量)可以为至少一个。在手机拍摄的短帧图像的数量为多个的情况下,该短帧图像可以包括多个曝光量相同的短帧图像和/或不同曝光量的短帧图像。例如,短帧图像可以包括两张曝光量均为-2EV的短帧图像。又例如,短帧图像可以包括一张曝光量为-2EV的短帧图像和一张曝光量为-4EV的短帧图像。又例如,短帧图像可以包括两张曝光量为-2EV的短帧图像和一张曝光量为-4EV的短帧图像。
应理解,上述非正常曝光图像(如短帧图像)和正常曝光图像可以是手机中的摄像头采集的原始图像(即RAW图像),也就是未经过加工的图像。示例性的,上述非正常曝光图像和正常曝光图像可以是手机中的摄像头中的感光元件采集的原始数据。
S502、上述手机利用正常曝光图像的awbgain值,对正常曝光图像进行校正,利用短帧图像的awbgain值,对短帧图像进行校正。
示例性的,手机可以利用正常曝光图像中的像素点的颜色值,计算该正常曝光图像的awb gain值。手机可以利用短帧图像中的像素点的颜色值,计算该短帧图像的awbgain值。
在一些实施例中,上述颜色值可以包括RGB值。awbgain值可以包括rgain值和/或bgain值。当rgain值越大,校正后的图像的颜色会越偏红色。当bgain值越大,校正后的图像的颜色会越偏蓝色。示例性的,rgain=R/G,bgain=B/G,其中,R表示RGB值中的Red值,G表示RGB值中的Green值,B表示RGB值中的Blue值。
举例来说,以手机计算正常曝光图像的awbgain值为例,手机可以计算正常曝光图像中的第一有效像素点的REG值的平均值,计算第一有效像素点的Blue值的平均值,计算第一有效像素点的Green值的平均值。相应的,该正常曝光图像的rgain值可以为第一有效像素点的REG值的平均值与Green值的平均值的比值。该正常曝光图像的bgain值可以为第一有效像素点的Blue值的平均值与Green值的平均值的比值。其中,第一有效像素点可以是正常曝光图像中的全部像素点、一定数量的随机像素点、或者是高亮区域以外区域的像素点,本申请不对其限制。
以手机计算短帧图像的awbgain值为例,手机可以计算短帧图像中的第二有效像素点的REG值的平均值,计算第二有效像素点的Blue值的平均值,计算第二有效像素点的Green值的平均值。相应的,该短帧图像的rgain值可以为第二有效像素点的REG值的平均值与Green值的平均值的比值。该短帧图像的bgain值可以为第二有效像素点的Blue值的平均值与Green值的平均值的比值。其中,第二有效像素点可以是短帧图像中的全部像素点、一定数量的随机像素点、或者是高亮区域中的像素点,本申请不对其限制。
上面介绍了计算短帧图像的awbgain值以及正常曝光图像的awbgain值所使用的一种可能的awb算法,手机也可以采用其它常规awb算法,计算短帧图像和正常曝光图像的awbgain值,本申请不对其限制。
在一些实施例中,在手机拍摄的短帧图像的数量为一个的情况下,手机可以基于该短帧图像中的像素点,计算该短帧图像的awbgain值。
在手机拍摄的短帧图像的数量为多个的情况下,手机可以从多个短帧图像中的选取目标短帧图像。之后,手机可以利用该目标短帧图像中的像素点,计算该目标短帧图像的awbgain值。以供手机可以利用该目标短帧图像的awbgain值对该各个短帧图像进行校正实现各个短帧图像的自动白平衡。当然,手机也可以仅对需要进行自动白平衡的短帧图像进行校正,本申请不对其限制。
其中,手机拍摄的短帧图像的数量为多个的情况可以包括手机拍摄的短帧图像包括多个相同曝光量的短帧图像的情况和/或手机拍摄的短帧图像仅包括不同曝光量的短帧图像。
示例性的,在手机拍摄的短帧图像包括多个相同曝光量的短帧图像的情况下,手机可以从该多个相同曝光量的短帧图像中任意选取一张短帧图像,上述目标短帧图像便可以为选取的短帧图像。
在手机拍摄的短帧图像包括不同曝光量的短帧图像的情况下,由于最短帧决定着HDR图像中的高亮区域所呈现的效果,因此,该不同曝光量的短帧图像中的最短帧,即曝光量最小的短帧图像便可以为上述目标短帧图像。
在手机拍摄的短帧图像包括不同曝光量的短帧图像,以及包括相同曝光量的短帧图像的情况下,手机可以确定不同曝光量的短帧图像中的最短帧,如果该最短帧的数量为多个,手机可以将任意一个最短帧作为目标短帧图像。如果该最短帧的数量为一个,手机可以直接将该最短帧作为目标短帧图像。
上面介绍了在手机拍摄的短帧图像的数量为多个的情况下,手机可以从多个短帧图像中的选取目标短帧图像,以供利用目标短帧图像的awbgain值对各个短帧图像进行校正的过程。在手机拍摄的短帧图像的数量为多个的情况下,手机也可以对于每个短帧图像,计算该短帧图像的awbgain值,并利用该短帧图像的awbgain值,对该短帧图像进行校正。之后,电子设备可以利用各个校正后的短帧图像进行融合,得到HDR图像。由于手机需要计算每个短帧图像的awbgain值,相较于仅需计算目标短帧图像的awbgain值,手机计算每个短帧图像的awbgain值所需的时间较长,导致HDR图像的生成效率降低。并且在利用该各个校正后的短帧图像进行融合时,融合效果可能更不可控,导致最终生成的HDR图像中的高亮区域的颜色是不可控的。
在一些实施例中,在上述正常曝光图像的数量为多个时,手机可以利用正常曝光图像的awbgain值对每个正常曝光图像进行校正,实现各个正常曝光图像的自动白平衡。当然,手机也可以进行对需要进行自动白平衡的正常曝光图像进行校正,本申请不对其限制。
在一些实施例中,在上述非正常曝光图像包括至少一个长帧图像的情况下,手机可以利用正常曝光图像的awbgain值对各个长帧图像进行校正。
S503、上述手机计算正常曝光图像的awbgain值与短帧图像的awbgain值之间的第一差值。
示例性的,考虑到短帧图像的awbgain值可能会计算错误,因此,手机可以计算短帧图像的awbgain值与正常曝光图像的awbgain值之间的差值的绝对值,并将其作为上述短帧图像的awbgain值与正常曝光图像的awbgain值之间的第一差值。
在一些实施例中,上述短帧图像的awbgain值与正常曝光图像的awbgain值之间的第一差值可以包括短帧图像(如上述目标短帧图像)的bgain值与正常曝光图像的bgain值之间的bgain差值和/或短帧图像的rgain值与正常曝光图像的rgain值之间的rgain差值。
其中,bgain差值和rgain差值都是绝对值。例如,该bgain差值是短帧图像的bgain值与正常曝光图像的bgain值之间的差值的绝对值。又例如,该rgain差值是短帧图像的rgain值与正常曝光图像的rgain值之间的差值的绝对值。
可以理解的是,一般来说,图像的bgain值和rgain值之间相差较小,因此,为了提高判断短帧图像的awbgain值是否异常的效率,手机可以仅计算短帧图像和正常曝光图像之间的bgain差值或者,仅计算短帧图像和正常曝光图像之间的的rgain差值。也就是说,第一差值可以包括该bgain差值或rgain差值。
S504、上述手机判断上述第一差值是否处于预设阈值范围。
若是,表明手机计算的短帧图像的awbgain值的准确性较高,该手机可以直接利用校正后的短帧图像生成HDR图像,该手机可以直接执行S505。若否,表明正常曝光图像的awbgain值与短帧图像的awbgain值之间的差值相差较大或较小,即表明计算的短帧图像的awbgain值异常,也就是说短帧图像的awbgain值计算错误,换言之,通过该短帧图像的awbgain值校正得到的校正后的短帧图像仍存在较严重的偏色问题,因此,为了降低短帧图像的偏色程度,该手机可以对校正后的短帧图像进行提亮,以供利用提亮后的短帧图像生成HDR图像,该手机可以执行S506。
在一些实施例中,预设阈值范围可以包括bgain值对应的预设阈值范围(或称为第一预设阈值范围)和/或rgain值对应的预设阈值范围(或称为第二预设阈值范围)。
示例性的,以上述第一差值包括bgain差值为例,第一预设范围可以包括第一预设阈值范围。手机判断该bgain差值是否处于第一预设阈值范围。在该bgain差值处于第一预设阈值范围的情况下,第一差值处于预设阈值范围。在bgain差值未处于第一预设阈值范围的情况下,第一差值未处于预设阈值范围。
以上述第一差值包括rgain差值为例,第一预设范围可以包括第二预设阈值范围。手机判断该rgain差值是否处于第二预设阈值范围。在该rgain差值处于第二预设阈值范围的情况下,第一差值处于预设阈值范围。在rgain差值未处于第二预设阈值范围的情况下,第一差值未处于预设阈值范围。
以上述第一差值包括bgain差值和rgain差值为例,预设阈值范围可以包括第一预设阈值范围和第二预设阈值范围。手机判断该bgain差值是否处于第一预设阈值范围,并判断该rgain差值是否处于第二预设阈值范围。在该bgain差值处于第一预设阈值范围,且该rgain差值处于第二预设阈值范围的情况下,上述第一差值处于预设阈值范围。在该bgain差值未处于第一预设阈值范围,或rgain差值未处于第二预设阈值范围的情况下,上述第一差值未处于预设阈值范围。也就是说,在第一差值包括rgain差值和bgain差值的情况下,只要rgain差值和bgain差值中有一个差值是处于对应预设阈值范围的,手机便可以认为上述第一差值处于预设阈值范围。
在一些实施例中,由于图像的bgain值和rgain值之间相差较小,因此,上述rgain差值和bgain差值之间相差较小,因此,上述第一预设阈值范围和第二预设阈值范围可以相同。当然,第一预设阈值范围和第二预设阈值范围也可以不同。
S505、上述手机对校正后的正常曝光图像和校正后的短帧图像进行融合,得到HDR图像。
示例性的,如上述图5所示,上述S505的实现过程可以包括:S505a、手机对校正后的正常曝光图像和校正后的短帧图像进行对齐,实现正常曝光图像和短帧图像在空间上的配准对齐,并且实现正常曝光图像和短帧图像的曝光对齐。S505b、手机对对齐后的正常曝光图像和短帧图像进行融合,得到HDR图像。由于该HDR图像中的高亮区域主要是基于校正后的短帧图像得到的,该校正后的短帧图像是基于正常的短帧图像的awbgain值进行校正得到的,该校正后的短帧图像的偏色程度较小,因此,该HDR图像中的高亮区域的偏色程度较小,可以真实还原高亮区域对应的对象(如发光光源)的色彩,保证HDR图像的质量,提高用户拍摄体验。
示例性的,上述曝光对齐是指以校正后的短帧图像的亮度为基准,手机可以对正常曝光图像的亮度进行对齐。在上述非正常曝光图像包括长帧图像的情况下的,手机可以校正后的短帧图像的亮度为基准,手机可以对校正后的正常曝光图像和校正后的长帧图像的亮度进行对齐。
在一些实施例中,为了提高图像质量,手机在生成HDR图像之前,可以对相关图像进行降噪处理,以增强图像细节,并滤除图像噪声,从而使得基于该相关图像生成的HDR图像的细节增强,图像噪声较少。示例性的,一种情况下,手机可以在融合对齐后的正常曝光图像和短帧图像后,对融合后的图像进行降噪处理,得到降噪后的图像。该降噪后的图像便可以为HDR图像,即可以显示给用户的HDR图像。
另一种情况下,上述手机可以先对校正后的正常曝光图像和校正后的短帧图像分别进行降噪处理,得到降噪后的正常曝光图像和降噪后的短帧图像。之后,该手机可以继续对降噪后的正常曝光图像和降噪后的短帧图像进行对齐。之后,手机可以对对齐后的正常曝光图像和短帧图像进行融合,得到HDR图像。
当然,上述介绍了手机在对图像校正后,对图像进行降噪处理的两者情况,当然手机可以在图像校正前,对图像进行降噪处理,如手机在拍摄得到正常曝光图像和短帧图像后,便可以对其进行降噪处理。本申请不对其限制,只需在生成HDR图像之前,对图像进行降噪处理即可。
示例性的,上述手机可以利用CNN网络,对图像进行降噪处理。手机可以采用HDR算法(或称为HDR融合算法),对正常曝光图像和短帧图像进行融合。当然,手机可以直接利用一个算法,对图像进行降噪处理以及融合处理,如手机将校正后的正常曝光图像和校正后的短帧图像作为输入,运行CNN网络输出HDR图像,该HDR图像是经过降噪处理的,提高HDR图像质量。该CNN网络能够对图像进行对齐、融合以及降噪处理。
S506、上述手机对校正后的短帧图像进行曝光补偿,得到提亮后的短帧图像。
本申请实施例中,在上述第一差值未处于预设阈值范围的情况下,表明短帧图像的awb gain值与正常曝光图像的awbgain值之间相差较大或较小,即表明短帧图像的awbgain值计算异常,换言之,基于短帧图像的awbgain值得到的校正后的短帧图像中的高亮区域的偏色问题没有得到有效解决。一般来说,高亮区域的色温(或描述为颜色)一般是偏白,因此,为了降低高亮区域的偏色程度,手机可以对校正后的短帧图像进行提亮处理。也就是说,手机可以从预设曝光量中选取一个曝光量,并基于选取的曝光量,增加校正后的短帧图像的曝光量,即在校正后的短帧图像的曝光量的基础上,增加选取的曝光量,实现短帧图像的提亮,相当于提高短帧图像的色温,从而可以降低短帧图像中的高亮区域的偏色程度,进而可以降低HDR图像中的高亮区域的偏色程度,保证HDR图像的质量。当高亮区域中的对象是白色光源的情况下,也就是说拍摄画面包括白色光源的情况下,提亮后的短帧图像的偏色程度最小,短帧图像的优化效果更好,从而使得基于提亮后的短帧图像得到的HDR图像中的高亮区域的偏色程度最小,即该高亮区域的色温是偏白色,与实际白色光源的发光情况相似,保证图像质量。
其中,上述曝光量是个相对值,其实际为曝光量EV。上述预设曝光量可以是一个具体值(即固定值),也可以是一个数值区间。例如,预设曝光量是一个数值区间,其是[2EV,6EV]。短帧图像的曝光量为-4EV,从预设曝光量中选取一个曝光量为2EV。手机可以将短帧图像的曝光量在-4EV的基础上,增加2EV,得到提亮后的短帧图像(或称为补偿后的短帧图像),该提亮后的短帧图像的曝光量为-2EV。
需要说明的是,提亮后的短帧图像的曝光量的上限值是正常曝光图像的曝光量(即0EV),也就是说提亮后的短帧图像最多变成正常曝光图像。如果校正后的短帧图像的曝光量与选取的曝光量之间的和大于0EV,手机可以直接将校正后的短帧图像的曝光量增加至0EV。如果校正后的短帧图像的曝光量与选取的曝光量之间的和小于或等于0EV,手机可以正常基于选取的曝光量,增加校正后的短帧图像的曝光量,得到提亮后的短帧图像,该提亮后的短帧图像的曝光量是该校正后的短帧图像的曝光量与选取的曝光量之间的和。
在一些实施例中,上述预设曝光量是一个数值区间。手机在利用该数值区间中的任意曝光量增加短帧图像的曝光量,得到的提亮后的短帧图像中的高亮区域所呈现的效果相差较小,因此,手机可以从预设曝光量中随机选取一个曝光量,并利用选取的曝光量,增加校正后的短帧图像的曝光量。
或者,手机可以根拍摄画面中的光源情况(即高亮区域中的光源情况),从预设曝光量中选取与该光源匹配的一个曝光量,也就是选取与该光源的类型对应的曝光量。之后,手机可以利用选取的曝光量,增加校正后的短帧图像的曝光量,使得提亮后的短帧图像所呈现的效果与拍摄场景(如光源)更加匹配,从而使得HDR图像与拍摄场景更加融合,进而使得HDR图像在真实还原拍摄场景的基础上,使HDR图像更具有美感。
示例性的,光源可以包括A光源、d65光源、TL84光源、F光源、混合光源等。其中,混合光源包括多种光源。不同光源的光线颜色不同。例如,d65光源的光线是白色中微带着蓝色,A光源是白色带着黄色。相较于拍摄场景中的光源是A光源的情况,拍摄场景中的光源是d65光源时,手机可以从预设曝光量中选取较大的曝光量,利用该较大的曝光量,增加校正后的短帧图像的曝光量。如当拍摄场景中的光源是A光源时,手机选取的曝光量是2EV,短帧图像的曝光量是-8EV。当拍摄场景中的光源是d65光源时,手机选取的曝光量是4EV,短帧图像的曝光量是-8EV。基于4EV得到的提亮后的短帧图像中的过曝区域的发白程度高于基于2EV得到的提亮后的短帧图像中的过曝区域的发白程度,从而基于4EV得到的提亮后的短帧图像中的过曝区域所呈现的光源效果与实际d65光源更相似,基于2EV得到的提亮后的短帧图像中的过曝区域所呈现的光源效果与实际A光源更相似,进而保证HDR图像的质量。
下面将继续结合图6,介绍上述S506的一种可能的实现过程。该过程可以包括如图6所示的S506a-S506d。
S506a,在上述第一差值大于上述预设阈值范围的最大值的情况下,手机从第一预设曝光量范围中选取第一曝光量。
S506b,手机利用第一曝光量,对校正后的短帧图像进行曝光补偿,得到提亮后的短帧图像。
示例性的,在上述第一差值大于预设阈值范围的最大值的情况下,表明短帧图像的awb gain值与正常曝光图像的awbgain值之间的差值较大,短帧图像的awbgain值可能过大或过小,即表明校正后的短帧图像中的高亮区域的偏色问题更严重,因此,手机可以提亮校正后的短帧图像,使得短帧图像中的高亮区域过曝,从而在一定程度上降低高亮区域的偏色程度,避免由于短帧图像的awbgain值计算错误,导致HDR图像出现更严重的偏色问题,保证了HDR图像的质量。
举例来说,以上述第一差值包括bgain差值,预设阈值范围包括第一预设阈值范围,且该第一预设阈值范围为[min,max]为例,在该bgain差值大于第一预设阈值范围的最大值(即max)的情况下,也就是在短帧图像的bgain值与正常曝光图像的bgain值之间的差值过大的情况下,表明短帧图像的bgain值过小或过大。如果短帧图像的bgain值过大,校正后的短帧图像中的高亮区域是偏蓝的,因此,通过提高校正后的短帧图像的亮度,可以使短帧图像发白,从而使得高亮区域是发白的,进而使得高亮区域在一定程度上与实际光源发光情况较相似,避免由于短帧图像的awbgain值计算错误,导致图像出现更严重的偏色问题。如果短帧图像的bgain值过小,校正后的短帧图像中的高亮区域是偏黄的,因此,通过提高校正后的短帧图像的亮度,可以使短帧图像发白,从而使得高亮区域是发白的,与实际光源发光情况较相似。
S506c,在上述第一差值小于上述预设阈值范围的最小值的情况下,手机从第二预设曝光量范围中选取第二曝光量。
S506d,手机利用第二曝光量,对校正后的短帧图像进行曝光补偿,得到提亮后的短帧图像。
示例性的,在上述第一差值小于预设阈值范围的最小值的情况下,表明短帧图像的awb gain值与正常曝光图像的awbgain值之间的差值较小,即表明短帧图像的awbgain值和正常曝光图像的awbgain值之间差异较小,而短帧图像的awbgain值和正常曝光图像的awbgain值之间差异不应过小。基于该短帧图像的awbgain值校正短帧图像,相当于使用正常曝光图像的awbgain值校正短帧图像,短帧图像中的高亮区域的偏色问题没有得到有效解决。因此,手机可以提亮校正后的短帧图像,使得短帧图像中的高亮区域过曝,从而在一定程度上降低高亮区域的偏色程度,避免由于短帧图像的awbgain值计算错误,导致HDR图像中的高亮区域存在较严重的偏色问题。
举例来说,以上述第一差值包括bgain差值,预设阈值范围包括第一预设阈值范围,且该第一预设阈值范围为[min,max]为例,在该bgain差值小于第一预设阈值范围的最小值(即min)的情况下,也就是在短帧图像的bgain值与正常曝光图像的bgain值之间的差值过小的情况下,表明短帧图像的bgain值与正常曝光图像的bgain值相差较小,即表明短帧图像的bgain值偏大或偏小。如果短帧图像的bgain值偏大,校正后的短帧图像中的高亮区域是偏蓝的,因此,通过提高校正后的短帧图像的亮度,可以使短帧图像发白,从而使得高亮区域是发白的,与实际光源发光情况较相似,避免由于短帧图像的awbgain值计算错误,导致图像出现更严重的偏色问题。如果短帧图像的bgain值偏小,校正后的短帧图像中的高亮区域是偏黄的,因此,通过提高校正后的短帧图像的亮度,可以使短帧图像发白,从而使得高亮区域是发白的,与实际光源发光情况较相似。
在一些实施例中,在上述第一差值小于预设阈值范围的最小值的情况下,手机也可以直接利用短帧图像的awbgain值(相当于利用正常曝光图像的awbgain值)对短帧图像进行校正。也就是所在上述第一差值小于或等于预设阈值范围的最大值的情况下,手机均可以认为该短帧T恤的awbgain值计算正确。
在另一些实施中,在上述第一差值小于预设阈值范围的最小值的情况下,手机可以判断利用短帧图像的awbgain值是否能够实现对短帧图像的准确校正,相当于判断利用正常曝光图像的awbgain值对短帧图像进行校正后,得到的校正后的短帧图像是否存在偏色问题,也就是进一步判断短帧图像的awbgain值是否正确。如果短帧图像的awbgain值正确,手机可以利用短帧图像的awbgain值(相当于利用正常曝光图像的awbgain值)对短帧图像进行校正。
示例性的,以判断短帧图像的bgain值是否正确为例,手机可以判断短帧图像的b通道与g通道的比值是否在第一预设范围内,以及判断正常曝光图像的b通道与g通道的比值是否在第二预设范围内。如果短帧图像的b通道与g通道的比值在第一预设范围内,且正常曝光图像的b通道与g通道的比值在第二预设范围内,表明短帧图像和正常曝光图像本身的颜色是正常的,手机利用正常曝光图像的awbgain值对短帧图像进行校正,得到的校正后的短帧图像不存在偏色问题。
如果短帧图像的b通道与g通道的比值未在第一预设范围内,以及正常曝光图像的b通道与g通道的比值未在第二预设范围内,表明短帧图像和/或正常曝光图像本身的颜色是不正常的,手机利用正常曝光图像的awbgain值对短帧图像进行校正,得到的校正后的短帧图像可能存在偏色问题。因此,手机可以对校正后的短帧图像进行提亮处理。
其中,上述b通道与g通道的比值可以表示图像中的有效像素点的Blue值和Green值的比值。
S507、上述手机对校正后的正常曝光图像和提亮后的短帧图像进行融合,得到HDR图像。
其中,S507的实现过程与上述S505的实现过程类似,在此,不再对其赘述。
在一些实施例中,上述非正常曝光图像可以包括长帧图像。相应的,上述在进行融合以得到HDR图像的过程中,也可以利用校正后的长帧图像。
本申请中,手机需要采用HDR功能拍摄图像时,首先,手机可以在不同曝光量下,拍摄图像,得到短帧图像和正常曝光图像。之后,手机可以基于正常曝光图像中的像素点计算正常曝光图像的awbgain值,以供利用正常曝光图像的awbgain值对正常曝光图像进行校正,实现正常曝光图像的白平衡调节。并且手机基于短帧图像中的像素点计算短帧图像的awb gain值,以供利用短帧图像的awbgain值对短帧图像进行校正,而不是直接利用正常曝光图像的awbgain值对短帧图像进行校正,保证短帧图像的白平衡调节的精准度,可以有效降低短帧图像中的高亮区域的偏色程度。
为了避免由于短帧图像的awbgain值计算错误,导致短帧图像中的高亮区域的偏色问题没有得到有效解决,本申请提供一种保护机制,即手机可以利用正常曝光图像的awbgain值判断短帧图像的awbgain值计算是否错误,如果错误,手机可以增加校正后的短帧图像的曝光量,实现短帧图像的提亮,也就是实现短帧图像中的高亮区域的提亮,解决高亮区域的偏色问题。从而使得基于提亮后的短帧图像和校正后的正常曝光图像生成的HDR图像中的高亮区域所呈现的颜色与实际颜色相似,降低HDR图像中的高亮区域的偏色程度,保证HDR图像的质量。
在一些实施例中,上面介绍手机通过短帧图像的awbgain值与正常曝光图像的awbgain值之间的第一差值是否处于预设阈值范围来判断短帧图像的awbgain值计算是否错误,也就是利用正常曝光图像的awbgain值判断短帧图像的awbgain值是否计算错误的过程。当然,手机也可以直接通过判断短帧图像的awbgain值是否小于第一预设值,或者短帧图像的awb gain值是否大于第二预设值来判断该短帧图像的awbgain值是否计算错误。相应的,手机可以在短帧图像的awbgain值满足预设条件的情况下,确定该短帧图像的awbgain值计算错误。在该短帧图像的awbgain值不满足预设条件的情况下,确定该短帧图像的awbgain值计算准确。其中,该预设条件包括短帧图像的awbgain值与正常曝光图像的awbgain值之间的第一差值未处于预设阈值范围、短帧图像的awbgain值小于第一预设值、短帧图像的awbgain值大于第二预设值中的一个或多个。
示例性的,短帧图像的awbgain值一般处于一定范围。在短帧图像的awbgain值大于第二预设值的情况下,表明该短帧图像的awbgain值偏大,该awbgain值可能异常。在短帧图像的awbgain值小于第一预设值的情况下,表明该短帧图像的awbgain值偏小,该awbgain值可能异常。
具体的,当拍摄画面中的光源不同时,短帧图像的awbgain值可能不同。因此,不同类型的光源对应的awbgain值范围可能不同。相应的,手机可以在短帧图像的awbgain值大于该短帧图像对应的光源类型所对应的第二预设值的情况下,表明该短帧图像的awbgain值偏大,该awbgain值可能异常。在短帧图像的awbgain值小于该短帧图像对应的光源类型所对应的第一预设值的情况下,表明该短帧图像的awbgain值偏小,该awbgain值可能异常。其中,该短帧图像对应的光源类型表示该短帧图像所指示的光源类型。
在一些实施例中,上述短帧图像的awbgain值小于第一预设值包括短帧图像的rgain值或bgain值小于第一预设值。具体的,在一种示例中,上述短帧图像的awbgain值包括rgain值。相应的,在短帧图像的rgain值小于第一预设值的情况下,上述短帧图像的awbgain值小于第一预设值。
上述短帧图像的awbgain值包括bgain值。相应的,在短帧图像的bgain值小于第一预设值的情况下,上述短帧图像的awbgain值小于第一预设值。
上述短帧图像的awbgain值包括rgain值和bgain值。相应的,在短帧图像的bgain值小于第一预设值,或者,rgain值小于第一预设值的情况下,上述短帧图像的awbgain值小于第一预设值。
同理,上述短帧图像的awbgain值大于第二预设值包括短帧图像的rgain值或bgain值大于第一预设值。具体的,在一种示例中,上述短帧图像的awbgain值包括rgain值。相应的,在短帧图像的rgain值大于第二预设值的情况下,上述短帧图像的awbgain值大于第二预设值。
上述短帧图像的awbgain值包括bgain值。相应的,在短帧图像的bgain值大于第二预设值的情况下,上述短帧图像的awbgain值大于第二预设值。
上述短帧图像的awbgain值包括rgain值和bgain值。相应的,在短帧图像的bgain值大于第二预设值,或者,rgain值大于第一预设值的情况下,上述短帧图像的awbgain值大于第二预设值。
下面将结合上述图4所示的结构,介绍手机需要采用HDR功能拍摄图像时,手机中的相关模块如何利用不同曝光量的图像,生成高亮区域的偏色程度较低的HDR图像的过程。如图7所示,该过程可以包括S601-S621。
S601、响应于第一操作,手机中的相机应用向手机中的摄像头发送HDR图像拍摄请求。
其中,HDR图像拍摄请求触发手机中的摄像头拍摄不同曝光量下的图像,也就是拍摄正常曝光图像和非正常曝光图像。
S602、上述摄像头响应于HDR图像拍摄请求,拍摄正常曝光图像和非正常曝光图像。其中,非正常曝光图像包括短帧图像。
S603、上述摄像头向手机中的第一awb模块发送正常曝光图像。
S604、上述摄像头向手机中的第二awb模块发送短帧图像。
S605、上述摄像头向手机中的前处理模块发送正常曝光图像和短帧图像。
S606、上述第一awb模块利用正常曝光图像的像素点计算正常曝光图像的awbgain值。
其中,第一awb模块计算正常曝光图像的awbgain值的过程可以参考上述手机计算正常曝光图像的awbgain值的过程,此处不再赘述。
S607、在得到正常曝光图像的awbgain值后,上述第一awb模块向手机中的前处理模块发送正常曝光图像的awbgain值。
S608、上述第二awb模块利用短帧图像的像素点计算短帧图像的awbgain值。
其中,第二awb模块计算短帧图像的awbgain值的过程可以参考上述手机计算短帧图像的awbgain值的过程,此处不再赘述。
在一些实施例中,上述短帧图像的awbgain值可以是由第二awb模块直接计算得到的,也可以是第二awb模块利用手机中的硬件芯片计算的,从而提高短帧图像的awbgain值的计算效率。该硬件芯片提供相关接口,当第二awb模块需要计算短帧图像的awbgain值时,可以通过调用该接口,实现短帧图像的awbgain值的离线计算。
需要说明的是,上述第一awb模块和第二awb模块可以是两个独立的模块,如在手机已有第一awb模块的基础上,新加第二awb模块,该第二awb模块能够实现短帧图像的awbgain值的计算。该第一awb模块和第二awb模块又可以是一个模块,也就是说该模块既可以作为第一awb模块以实现正常曝光图像的awbgain值的计算,又可以作为第二awb模块以实现短帧图像的awbgain值的计算。
S609、在得到短帧图像的awbgain值后,上述第二awb模块向上述前处理模块发送短帧图像的awbgain值。
S610、上述前处理模块利用正常曝光图像的awbgain值,对正常曝光图像进行校正,利用短帧图像的awbgain值,对短帧图像进行校正。
在一些实施例中,在上述正常曝光图像的数量为多个的情况下,前处理模块可以利用正常曝光图像的awngain值,对各个正常曝光图像进行校正。
在上述短帧图像的数量为多个的情况下,前处理模块可以利用短帧图像中的目标短帧图像(如曝光量最小的短帧图像)的awngain值,对各个短帧图像进行校正。
S611、上述前处理模块计算正常曝光图像的awbgain值与短帧图像的awbgain值之间的第一差值。
S612、上述前处理模块判断上述第一差值是否处于预设阈值范围。
若是,表明计算的短帧图像的awbgain值准确,短帧图像中的高亮区域的偏色问题已经得到有效解决,该手机可以直接执行S613。若否,表明计算的短帧图像的awbgain值的准确性较低,校正后的短帧图像仍存在较严重的偏色问题,该手机可以继续对校正后的短帧图像进行提亮,该手机可以执行S614。
S613、上述前处理模块对校正后的短帧图像进行拼接处理,得到拼接处理后的短帧图像。
示例性的,拼接处理包括VST处理,对校正后的短帧图像进行VST处理表示基于各个校正后的短帧图像,确定短帧图像的亮度范围,即确定短帧图像中高亮区域的亮度范围。
S614、上述前处理模块对校正后的短帧图像进行曝光补偿,得到提亮后的短帧图像。
S615、上述前处理模块对提亮后的短帧图像进行拼接处理,得到拼接处理后的短帧图像。
S616、上述前处理模块向网络处理模块发送拼接处理后的短帧图像。
S617、上述前处理模块对校正后的正常曝光图像进行拼接处理,得到拼接处理后的正常曝光图像。
示例性的,对校正后的正常曝光图像进行拼接处理,即VST处理表示基于各个校正后的正常曝光图像,确定正常曝光图像的亮度范围。
S618、上述前处理模块向手机中的网络处理模块发送拼接处理后的正常曝光图像。
需要说明的是,上述前处理模块在对短帧图像进行处理时,可以同时对正常曝光图像进行处理。也就是说,短帧图像的处理和正常曝光图像可以是并行进行的,从而提高正常曝光图像和短帧图像的处理效率。例如,前处理模块可以并行进行两个任务。一个任务是对短帧图像进行校正、判断短帧图像的awbgain值是否错误、对校正后的短帧图像进行提亮、对短帧图像进行VST处理。另一个任务是对N帧图像进行校正,对校正后的正常曝光图像进行VST处理。
S619、上述网络处理模块将上述拼接处理后的短帧图像和拼接处理后的正常曝光图像作为输入,运行CNN网络模型输出HDR图像。该CNN网络用于对不同曝光量的图像进行对齐、融合以及降噪处理。
示例性的,上述对齐包括曝光对齐,其表示利用短帧图像的亮度范围和正常曝光图像的亮度范围对校正后的短帧图像和正常曝光图像进行亮度调节。
S620、上述网络处理模块向手机中的后处理模块发送HDR图像。
S621、上述后处理模块对HDR图像进行第一图像处理。
在一些实施例中,上述第一图像处理可以包括格式转换,如将网络处理模块发送的HDR图像转换为JPEG格式的HDR图像。上第一图像处理还可包括其它常规处理,如锐化、伽玛校正处理等。
需要说明的是,短帧图像的awbgain值的计算错误的概率虽然是比较低的,但为了避免当短帧图像的awbgain值计算错误时,HDR图像的偏色程度较大,手机(如手机中的前处理模块)可以在确定短帧图像的awbgain值计算错误的情况下,通过提亮短帧图像中的高亮区域来使高亮区域过曝,在一定程度上降低高亮图像的偏色问题,从而在一定程度上降低HDR图像的偏色程度,避免HDR图像质量过低,保证用户的拍摄体验。
在一些实施例中,如图8所示,手机中的摄像头在采集到不同曝光量的图像(如S帧图像和N帧图像)后,手机可以对该不同曝光量的图像进行网络前处理,即手机中的前处理模块可以利用S帧的awbgain值对S帧图像进行校正,而不是利用N帧图像的awbgain值对S帧图像进行校正,该前处理模块可以利用N帧的awbgain值对N帧图像进行校正。并且该前处理模块判断该S帧的awbgain值计算是否错误。如果错误,表明校正后的S帧图像中的高亮区域的偏色问题没有得到有效解决,该前处理模块可以对校正后的S帧图像进行提亮处理,以通过增加S帧图像的亮度调节S帧图像中的高亮区域所呈现的颜色,降低高亮区域的偏色程度。在网络前处理完成后,手机可以将经网络前处理得到的图像(如校正后的N帧图像、提亮后的S帧图像)输入至CNN网络中,以使CNN网络对该图像进行融合,以及降噪处理,得到HDR图像。之后,手机可以对该HDR图像进行网络后处理,如格式转换、锐化、伽玛校正等处理。
应理解,由于曝光量是曝光时间与感光度的乘积,图像的曝光时间是固定的。因此,在增加图像的曝光量时,实际是调节图像的感光度。
在一些实施例中,本申请提供一种计算机可读存储介质,包括计算机指令,当计算机指令在蓝牙设备上运行时,使得电子设备执行如上所述的图像处理方法。
在一些实施例中,本申请提供一种计算机程序产品,当计算机程序产品在蓝牙设备上运行时,使得电子设备执行如上所述的图像处理方法。
通过以上实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(readonlymemory,ROM)、随机存取存储器(random accessmemory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (9)
1.一种图像处理方法,其特征在于,包括:
响应于用户对电子设备的第一操作,所述电子设备拍摄正常曝光图像和非正常曝光图像;所述第一操作触发所述电子设备拍摄高动态范围HDR图像,所述非正常曝光图像包括短帧图像;所述短帧图像的曝光量与正常曝光图像的曝光量不同;
所述电子设备利用所述正常曝光图像的自动白平衡增益awb gain值对所述正常曝光图像进行校正,利用所述短帧图像的awb gain值对所述短帧图像进行校正;
在所述短帧图像的awb gain值满足预设条件的情况下,所述电子设备对校正后的短帧图像进行曝光补偿;其中,所述预设条件包括所述短帧图像的awb gain值与所述正常曝光图像的awb gain值之间的第一差值未处于预设阈值范围、所述短帧图像的awb gain值小于第一预设值、所述短帧图像的awb gain值大于第二预设值中的一个或多个;
所述电子设备对补偿后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像。
2.根据权利要求1所述的方法,其特征在于,所述预设条件包括所述短帧图像的awbgain值与所述正常曝光图像的awb gain值之间的第一差值未处于预设阈值范围;所述电子设备对校正后的短帧图像进行曝光补偿,包括:
在所述第一差值大于所述预设阈值范围的最大值的情况下,所述电子设备将所述校正后的短帧图像的曝光量增加第一曝光量;所述第一曝光量是第一预设曝光量范围的任一值;
在所述第一差值小于所述预设阈值范围的最小值的情况下,所述电子设备将所述校正后的短帧图像的曝光量增加第二曝光量;所述第二曝光量是第二预设曝光量范围的任一值。
3.根据权利要求2所述的方法,其特征在于,所述电子设备将所述校正后的短帧图像的曝光量增加第一曝光量,包括:
在所述第一曝光量与所述校正后的短帧图像的曝光量之和小于或等于0EV的情况下,所述电子设备将所述校正后的短帧图像的曝光量增加第一曝光量。
4.根据权利要求2至3中任一项所述的方法,其特征在于,所述awb gain值包括b gain值和/或r gain值;
在所述短帧图像的b gain值与所述正常曝光图像的b gain值之间的差值未处于第一预设阈值范围,或者所述短帧图像的r gain值与所述正常曝光图像的r gain值之间的差值未处于第二预设阈值范围的情况下,所述第一差值未处于预设阈值范围。
5.根据权利要求1至3中任一项所述的方法,其特征在于,在所述短帧图像包括多个曝光量的短帧图像的情况下,所述短帧图像的awb gain值是所述多个曝光量的短帧图像中的最小曝光量的短帧图像的awb gain值。
6.根据权利要求1所述的方法,其特征在于,在所述电子设备不满足所述预设条件的情况下,所述电子设备对校正后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像。
7.根据权利要求1至3中任一项所述的方法,其特征在于,所述电子设备对补偿后的短帧图像和校正后的正常曝光图像进行融合,生成HDR图像,包括:
所述电子设备对补偿后的短帧图像和校正后的正常曝光图像进行对齐;
所述电子设备对对齐后的正常曝光图像和短帧图像进行融合以及降噪处理得到所述HDR图像。
8.一种电子设备,其特征在于,所述电子设备包括显示屏、摄像头、存储器和一个或多个处理器;所述显示屏、所述摄像头、所述存储器和所述处理器耦合;所述摄像头用于采集图像,所述显示屏用于显示所述处理器生成的图像以及所述摄像头采集的图像,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1至7中任一项所述的方法。
9.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310187614.4A CN117135468B (zh) | 2023-02-21 | 2023-02-21 | 图像处理方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310187614.4A CN117135468B (zh) | 2023-02-21 | 2023-02-21 | 图像处理方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117135468A CN117135468A (zh) | 2023-11-28 |
CN117135468B true CN117135468B (zh) | 2024-06-07 |
Family
ID=88858882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310187614.4A Active CN117135468B (zh) | 2023-02-21 | 2023-02-21 | 图像处理方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117135468B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012049600A (ja) * | 2010-08-24 | 2012-03-08 | Seiko Epson Corp | 画像処理装置、画像処理方法及び撮像装置 |
CN110022469A (zh) * | 2019-04-09 | 2019-07-16 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110177221A (zh) * | 2019-06-25 | 2019-08-27 | 维沃移动通信有限公司 | 高动态范围图像的拍摄方法及装置 |
CN110445989A (zh) * | 2019-08-05 | 2019-11-12 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110611750A (zh) * | 2019-10-31 | 2019-12-24 | 北京迈格威科技有限公司 | 一种夜景高动态范围图像生成方法、装置和电子设备 |
CN110958401A (zh) * | 2019-12-16 | 2020-04-03 | 北京迈格威科技有限公司 | 一种超级夜景图像颜色校正方法、装置和电子设备 |
CN111986129A (zh) * | 2020-06-30 | 2020-11-24 | 普联技术有限公司 | 基于多摄图像融合的hdr图像生成方法、设备及存储介质 |
CN113382169A (zh) * | 2021-06-18 | 2021-09-10 | 荣耀终端有限公司 | 一种拍照方法及电子设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109005364B (zh) * | 2018-08-13 | 2020-03-06 | Oppo广东移动通信有限公司 | 成像控制方法、装置、电子设备以及计算机可读存储介质 |
-
2023
- 2023-02-21 CN CN202310187614.4A patent/CN117135468B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012049600A (ja) * | 2010-08-24 | 2012-03-08 | Seiko Epson Corp | 画像処理装置、画像処理方法及び撮像装置 |
CN110022469A (zh) * | 2019-04-09 | 2019-07-16 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110177221A (zh) * | 2019-06-25 | 2019-08-27 | 维沃移动通信有限公司 | 高动态范围图像的拍摄方法及装置 |
CN110445989A (zh) * | 2019-08-05 | 2019-11-12 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN110611750A (zh) * | 2019-10-31 | 2019-12-24 | 北京迈格威科技有限公司 | 一种夜景高动态范围图像生成方法、装置和电子设备 |
CN110958401A (zh) * | 2019-12-16 | 2020-04-03 | 北京迈格威科技有限公司 | 一种超级夜景图像颜色校正方法、装置和电子设备 |
CN111986129A (zh) * | 2020-06-30 | 2020-11-24 | 普联技术有限公司 | 基于多摄图像融合的hdr图像生成方法、设备及存储介质 |
CN113382169A (zh) * | 2021-06-18 | 2021-09-10 | 荣耀终端有限公司 | 一种拍照方法及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN117135468A (zh) | 2023-11-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112150399B (zh) | 基于宽动态范围的图像增强方法及电子设备 | |
CN113810600B (zh) | 终端的图像处理方法、装置和终端设备 | |
CN113810598B (zh) | 一种拍照方法、电子设备及存储介质 | |
CN114095666B (zh) | 拍照方法、电子设备和计算机可读存储介质 | |
CN116074634B (zh) | 一种曝光参数确定方法和装置 | |
US20240137659A1 (en) | Point light source image detection method and electronic device | |
CN115604572B (zh) | 图像的获取方法、电子设备及计算机可读存储介质 | |
US20240119566A1 (en) | Image processing method and apparatus, and electronic device | |
CN114466134A (zh) | 生成hdr图像的方法及电子设备 | |
CN113630558B (zh) | 一种摄像曝光方法及电子设备 | |
CN115564659B (zh) | 视频处理方法和装置 | |
CN115631250B (zh) | 图像处理方法与电子设备 | |
CN117135257B (zh) | 一种图像显示方法、电子设备及计算机可读存储介质 | |
CN115550556A (zh) | 一种曝光强度调节方法及相关装置 | |
CN115460343B (zh) | 图像处理方法、设备及存储介质 | |
CN116048323B (zh) | 图像处理方法及电子设备 | |
CN116668838B (zh) | 图像处理方法与电子设备 | |
US20240251180A1 (en) | Image processing method and electronic device | |
CN115705663B (zh) | 图像处理方法与电子设备 | |
CN117135468B (zh) | 图像处理方法及电子设备 | |
CN117651221A (zh) | 视频处理的方法及电子设备 | |
CN115706869A (zh) | 终端的图像处理方法、装置和终端设备 | |
CN113891008A (zh) | 一种曝光强度调节方法及相关设备 | |
CN117395495B (zh) | 一种图像处理方法及电子设备 | |
CN116452437B (zh) | 高动态范围图像处理方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |