CN117082355B - 图像处理方法和电子设备 - Google Patents
图像处理方法和电子设备 Download PDFInfo
- Publication number
- CN117082355B CN117082355B CN202311205130.4A CN202311205130A CN117082355B CN 117082355 B CN117082355 B CN 117082355B CN 202311205130 A CN202311205130 A CN 202311205130A CN 117082355 B CN117082355 B CN 117082355B
- Authority
- CN
- China
- Prior art keywords
- image
- frame
- color image
- frame color
- electronic device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 12
- 238000000034 method Methods 0.000 claims abstract description 73
- 238000007499 fusion processing Methods 0.000 claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims description 56
- 238000005286 illumination Methods 0.000 claims description 29
- 230000006870 function Effects 0.000 claims description 28
- 230000004927 fusion Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 7
- 230000008859 change Effects 0.000 abstract description 44
- 238000012545 processing Methods 0.000 abstract description 33
- 230000005764 inhibitory process Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 33
- 238000012549 training Methods 0.000 description 12
- 238000004422 calculation algorithm Methods 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 230000004044 response Effects 0.000 description 7
- 230000004913 activation Effects 0.000 description 5
- 229920001621 AMOLED Polymers 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000012512 characterization method Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/86—Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请实施例提供了图像处理方法和电子设备。在该方法中,电子设备拍摄L帧曝光时间互不相同的彩色图像,且在拍摄每一帧彩色图像的曝光时间内还拍摄每一帧彩色图像对应的事件图像。一帧彩色图像对应的事件图像用于描述在拍摄该帧彩色图像的曝光时间内该帧彩色图像中像素点发生了局部变化的区域。曝光时间可以包括标准曝光时间、短曝光时间以及长曝光时间。按照拍摄时间从前往后排列该L帧彩色图像,电子设备将L帧彩色图像中除首帧彩色图像以外的L‑1帧彩色图像中发生了全局变化的区域中的像素点进行抑制处理,得到处理后的L‑1帧彩色图像。然后,电子设备将首帧彩色图像与处理后的L‑1帧彩色图像进行融合处理得到HDR图像。
Description
技术领域
本申请涉及终端及图像处理领域,尤其涉及图像处理方法和电子设备。
背景技术
高动态范围(high dynamic range,HDR)图像是一种具有广泛动态范围的图像,能够同时呈现亮光和暗光下的细节。也可以理解为HDR图像包含了更宽广的曝光范围,避免了图像曝光不足或图像过度曝光的问题。这使得HDR图像在视觉上更加真实,能更好地反映真实世界的光照条件。
HDR图像广泛应用于电子设备(例如手机)的拍摄中。电子设备可以使用HDR技术获取HDR图像,以实现电子设备在光照复杂的情况下捕捉更好的细节和色彩,以创造出更真实感的图像。
电子设备如何获取高质量的HDR图像是值得讨论的。
发明内容
本申请提供了图像处理方法和电子设备,使用该方法可以获取高质量的HDR图像。
第一方面,本申请提供了一种图像处理方法,该方法包括:电子设备拍摄L帧曝光时间互不相同的彩色图像;其中,该L为大于或者等于3的整数;该电子设备从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域,具有该第一区域的彩色图像中第一区域的内容与该首帧彩色图像中第一区域的内容不同;该电子设备将L帧彩色图像进行融合处理得到高动态范围图像;其中,该第一区域中的内容未被融合到该高动态范围图像中。
上述实施例中,第一区域中的内容不被融合到高动态范围图像中,令第一区域中与首帧彩色图像中第一区域内容不同的部分不对高动态范围图像产生影响,使得融合的效果更好。
结合第一方面,在一些实施例中,该高动态范围图像中具有平均亮度的像素来自该首帧彩色图像,该高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自该首帧彩色图像;该高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自该首帧彩色图像;该平均亮度是基于该首帧彩色图像的亮度确定的。
上述实施例中,高动态范围图像中不同亮度的像素来自不同曝光时间的图像,使得高动态范围图像具有更高的动态范围,能够表现更丰富的亮度细节。
结合第一方面,在一些实施例中,在该亮度比平均亮度高的像素在该短曝光图像中第一区域的情况下,该高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自该首帧彩色图像,具体包括:该亮度比平均亮度高的像素来自该首帧彩色图像;在该亮度比平均亮度低的像素在该长曝光图像中第一区域的情况下,该高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自该首帧彩色图像,具体包括:该亮度比平均亮度低的像素来自该首帧彩色图像。
上述实施例中,高动态范围图像中在第一区域的像素来自首帧彩色图像,使得高动态范围图像不会因为未融合第一区域的内容而导致像素缺失,使融合的效果更好。
结合第一方面,在一些实施例中,在该亮度比平均亮度高的像素未在该短曝光图像中第一区域的情况下,该高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自该首帧彩色图像,具体包括:该亮度比平均亮度高的像素来自该短曝光图像,或者,该亮度比平均亮度高的像素是通过该短曝光图像与该首帧彩色图像结合得到的;在进行结合时,该短曝光图像的权重大于该首帧彩色图像的权重;在该亮度比平均亮度低的像素未在该长曝光图像中第一区域的情况下,该高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自该首帧彩色图像,具体包括:该亮度比平均亮度低的像素来自该长曝光图像,或者,该亮度比平均亮度低的像素是通过该长曝光图像与该首帧彩色图像结合得到的;在进行结合时,该长曝光图像的权重大于该首帧彩色图像的权重。
上述实施例中,高动态范围图像中,未在第一区域的亮度比平均亮度高的像素来自短曝光图像或来自短曝光图像与首帧彩色图像的结合,未在第一区域的亮度比平均亮度低的像素来自长曝光图像或来自长曝光图像与首帧彩色图像的结合,能够使该像素对拍摄细节的表现更好,得到更好的融合结果。
结合第一方面,在一些实施例中,该首帧彩色图像的曝光时间为基于拍摄该首帧彩色图像时拍摄场景的光照强度确定的;该拍摄场景的光照强度越强则该首帧彩色图像的曝光时间越短。
上述实施例中,根据拍摄首帧彩色图像时拍摄场景的光照强度确定首帧彩色图像的曝光时间,能够使该首帧彩色图像的亮度范围适中,使首帧彩色图像能包含拍摄场景的更多细节。
结合第一方面,在一些实施例中,该电子设备从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域之前,该方法还包括:该电子设备将该L-1帧彩色图像的亮度调整为与该首帧彩色图像的亮度相同。
上述实施例中,将L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像的亮度调整为与该首帧彩色图像的亮度相同,消除彩色图像间的亮度差异,使参与融合的图像的亮度水平保持一致,融合的效果更好。
结合第一方面,在一些实施例中,在拍摄该L帧彩色图像中每一帧彩色图像的曝光时间内,该方法还包括:该电子设备还拍摄该每一帧彩色图像对应的事件图像;一帧彩色图像对应的事件图像表示了在拍摄该一帧彩色图像的曝光时间内该一帧彩色图像中像素的光照强度发生了变化的区域;该电子设备从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域,具体包括:基于前K帧彩色图像各自对应的事件图像确定第K帧彩色图像中存在第二区域,该第二区域中像素的光照强度相比于该首帧彩色图像中第二区域中像素的光照强度发生了变化;其中,该K为2到L的整数;再基于该首帧彩色图像在该第二区域中确定第一区域。
上述实施例中,在拍摄该L帧彩色图像中每一帧彩色图像的曝光时间内还拍摄该每一帧彩色图像对应的事件图像;基于事件图像确认第二区域,再基于首帧彩色图像在第二区域中确定第一区域;后续令第一区域内容不参与融合,使融合效果更好。
结合第一方面,在一些实施例中,在执行该融合之前,该方法还包括:将第K帧彩色图像与该第K帧彩色图像对应的置信度掩码做点乘,得到处理后的第K帧彩色图像;其中,该K为2到L的整数;该第K帧彩色图像的置信度掩码是基于前K帧高维图像通过神经网络确定的;其中,第K帧高维图像中包括第K 帧彩色图像以及该第K帧彩色图像对应的事件图像的信息;该置信度掩码中包括该第K帧彩色图像中各像素相对于首帧彩色图像的置信度值。
结合第一方面,在一些实施例中,电子设备拍摄L帧曝光时间互不相同的彩色图像之前,该方法还包括:该电子设备开启拍摄高动态范围图像的功能。
结合第一方面,在一些实施例中,电子设备拍摄L帧曝光时间互不相同的彩色图像之前,该方法还包括:该电子设备确定拍摄场景的动态范围为高动态范围。
第二方面,本申请实施例提供了一种图像处理方法,该方法包括:电子设备拍摄L帧曝光时间互不相同的彩色图像,且在拍摄每一帧彩色图像的曝光时间内还拍摄该每一帧彩色图像对应的事件图像,一帧彩色图像对应的事件图像用于描述在拍摄该一帧彩色图像的曝光时间内一帧彩色图像中像素发生了局部变化的区域; L为大于或者等于3的整数;2.该电子设备将该L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中存在全局变化的区域中的像素进行抑制处理,得到处理后的L-1帧彩色图像;第K帧彩色图像中存在全局变化的区域的确定过程包括:基于前K帧彩色图像各自对应的事件图像确定该第K帧彩色图像中存在全局变化可能性的区域,再基于该首帧彩色图像确定该存在全局变化可能性的区域中存在全局变化的区域;该K为从2到L之间的整数;该电子设备将该首帧彩色图像与该处理后的L-1帧彩色图像进行融合处理得到高动态范围图像,被抑制的像素未被融合到该高动态范围图像中。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:一个或多个处理器和存储器;该存储器与该一个或多个处理器耦合,该存储器用于存储计算机程序代码,该计算机程序代码包括计算机指令,该一个或多个处理器调用该计算机指令以使得该电子设备执行如第一方面中实施的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,包括指令,当该指令在电子设备上运行时,使得该电子设备执行如第一方面中实施的方法。
第五方面,本申请实施例提供了一种芯片系统,该芯片系统应用于电子设备,该芯片系统包括一个或多个处理器,该处理器用于调用计算机指令以使得该电子设备执行如第一方面实施的方法。
第六方面,本申请实施例提供了一种包含指令的计算机程序产品,当该计算机程序产品在电子设备上运行时,使得该电子设备执行如第一方面实施的方法。
可以理解地,第二方面提供的图像处理方法、第三方面提供的电子设备、第四方面提供的计算机存储介质、第五方面提供的芯片系统和第六方面提供的计算机程序产品均用于执行本申请实施例所提供的方法。因此,其所能达到其他有益效果可参考对应方法中的有益效果,此处不再赘述。
附图说明
图1示出了一种方案中电子设备获取HDR图像的示例性流程图;
图2示出了确定事件图像的一个示意图;
图3示出了电子设备获得HDR图像的示例性流程;
图4示出了电子设备获得HDR图像的一个示意图;
图5示出了电子设备基于神经网络1确定特征图像的置信度掩码的示意图;
图6示出了基于第K帧彩色图像的置信度掩码对第K帧彩色图像进行处理的示意图;
图7示出了电子设备基于神经网络2确定HDR图像的示意图;
图8示出了电子设备开启HDR拍摄模式的示例性用户界面;
图9是本申请实施例提供的电子设备的结构示意图。
具体实施方式
本申请以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括复数表达形式,除非其上下文中明确地有相反指示。还应当理解,本申请中使用的术语“和/或”是指并包含一个或多个所列出项目的任何或所有可能组合。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征,在本申请实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
在一种可能的方案中,电子设备获取HDR图像的过程可以包括:电子设备使用短曝光时间、标准曝光时间和长曝光时间连续拍摄R帧彩色图像。然后选择每帧彩色图像中最佳的部分融合为一帧HDR图像。一帧彩色图像中最佳的部分可以理解为:对于拍摄场景中的一个拍摄细节,该帧彩色图像中呈现该拍摄细节的像素点可以比R帧彩色图像中除该帧彩色图像以外的彩色图像更好的呈现该拍摄细节,则该帧彩色图像中呈现该拍摄细节的像素点所构成的区域为该帧彩色图像中一个最佳的部分。此处,该R为大于等于3的整数。
为了便于叙述,本申请实施例中的像素点也可以被简称为像素。
其中,标准曝光时间是指电子设备设置的通常曝光情况下的曝光时间。在标准曝光时间下,电子设备的相机会根据拍摄场景的平均光照强度进行曝光,以使得标准曝光时间下获取的图像(称为标准曝光图像)具有相对均衡的亮度和对比度。短曝光时间是指比标准曝光时间更短的曝光时间。使用短曝光时间获取图像意味着电子设备的相机在拍摄图像时会减少进光量,因此整体图像(称为短曝光图像)会相对较暗。短曝光图像通常用于捕捉高亮部分的细节。因为相机在短曝光时间的设置下可以更好地保留拍摄场景中的亮部细节,减少过曝的可能性。长曝光时间是指比标准曝光时间更长的曝光时间。使用长曝光时间获取图像意味着电子设备的相机在拍摄图像时会增加进光量,从而使得整体图像(称为长曝光图像)相对较亮。长曝光图像通常用于捕捉暗部的细节,因为相机在这个设置下会更好地保留拍摄场景中的暗部细节,减少细节丢失的可能性。
通常来说,HDR图像中具有平均亮度的像素点可以从标准曝光图像中选择,亮度比平均亮度低的像素点可以从长曝光图像中选择,亮度比平均亮度高的像素点则可以从短曝光图像中选择。这样,电子设备可以捕捉到拍摄场景中广泛的亮度范围,在HDR图像中呈现拍摄场景中更多的细节。其中,平均亮度可以是预设的通常曝光情况下像素点的亮度值范围,还可以为长曝光图像、短曝光图像以及标准曝光图像中全部像素点的亮度平均值。
在一些可能的情况下,电子设备在连续拍摄R帧彩色图像的过程中会出现相机抖动、相机产生位移等情况,导致R帧彩色图像存在偏移。该存在偏移包括:R帧彩色图像中存在至少两帧彩色图像中相同位置的像素点呈现的拍摄细节不同。因此在将R帧彩色图像融合为一帧HDR图像之前,电子设备可以将R帧彩色图像进行对齐以便进行后续融合得到HDR图像的操作。该对齐包括:将该R帧彩色图像中相同位置的各像素点所呈现的拍摄细节保持一致。
其中,将R帧彩色图像进行对齐通常使用计算机视觉和图像处理算法进行实现。这些算法可以检测和匹配图像中的特征点,然后利用特征点之间的几何关系来计算和应用图像之间的变换,以实现对齐。
基于前述内容,下面介绍在一些可能的实现方式中电子设备得到并显示HDR图像的过程。参见图1,图1示例性示出了电子设备得到并显示HDR图像的过程。在该过程可以包括步骤S11-步骤S13。
S11.利用不同曝光时间拍摄至少两帧彩色图像。
还应该理解的是,前述内容中,是以不同曝光时间包括短曝光时间、标准曝光时间和长曝光时间为例进行说明的。实际情况中,不同曝光时间还可以为短曝光时间和长曝光时间。
步骤S11中涉及的至少两帧彩色图像,可以为前述涉及的R帧彩色图像。关于得到该R帧彩色图像的过程可以参考前述相关内容,此处不再赘述。
在另一些可能的情况下,该至少两帧彩色图像还可以为比R帧彩色图像更少的彩色图像,例如可以为一帧长曝光图像以及一帧短曝光图像。本申请实施例对此不作限定。
S12.将至少两帧彩色图像对齐。
关于对齐的相关描述可以参考前述相关内容,此处不再赘述。
这里应该理解的是,该步骤S12是可选的。
S13.对齐后的至少两帧彩色图像进行融合得到HDR图像。
在至少两帧彩色图像为R帧彩色图像时,融合的过程可以参考前述相关内容,此处不再赘述。
这里应该理解的是,在至少两帧彩色图像包括长曝光图像以及短曝光图像,不包括标准曝光图像的情况下,HDR图像中亮度比平均亮度低的像素点可以从长曝光图像中选择,亮度比平均亮度高的像素点则可以从短曝光图像中选择。具有平均亮度的像素点可以从长曝光图像或者短曝光图像中选择。
前述方案中,虽然可以生成HDR图像,但是只适用于拍摄场景中的拍摄细节未发生较大位移的情况下。在拍摄细节发生较大位移时,用于融合得到HDR图像的至少两帧彩色图像偏差较大,难以通过对齐的方式消除偏差,因此会导致融合得到HDR图像质量差。例如,HDR图像中存在部分区域的内容出现重复。其中,产生重复的原因可以示例性描述为:被重复的内容(内容1)在至少两帧彩色图像中存在偏差,导致内容1出现在了一帧彩色图像(彩色图像1)的位置1处,又出现在了另一帧彩色图像(彩色图像2)的位置2处。在融合得到HDR图像时,在彩色图像1的位置1处取了内容1置于HDR图像的位置1处,又在彩色图像2的位置2处取了内容2置于HDR图像的位置2处,导致内容1在HDR图像中重复出现。
为了实现在拍摄场景中的拍摄细节发生较大位移时,也可以得到高质量的HDR图像,提出了一种图像处理方法。在该方法中,响应于针对拍摄控件的操作,电子设备拍摄L帧曝光时间互不相同的彩色图像,该L为大于或者等于3的整数;电子设备确定除首帧彩色图像以外的L-1帧彩色图像中存在全局变化的区域;一帧彩色图像中存在全局变化的区域中的内容与该首帧彩色图像对应区域中的内容不同;该对应区域在该首帧彩色图像中的位置与该一帧彩色图像中存在全局变化的区域在该帧彩色图像中的位置相同;该电子设备将L-1帧彩色图像中存在全局变化的区域中的像素点进行抑制处理,得到处理后的L-1帧彩色图像;该电子设备将该首帧彩色图像与该处理后的L-1帧彩色图像进行融合处理得到高动态范围图像,被抑制的像素点未被融合到该高动态范围图像中。
前述内容中存在全局变化的区域也可以被称为第一区域,前述内容也可以理解为:电子设备首先拍摄L帧曝光时间互不相同的彩色图像。再从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域,具有第一区域的彩色图像中第一区域的内容与首帧彩色图像中第一区域的内容不同。然后,电子设备将L帧彩色图像进行融合处理得到高动态范围图像;其中,第一区域中的内容未被融合到所述高动态范围图像中。
在一些可能的情况下,HDR图像中亮度为平均亮度的像素点来自首帧彩色图像。HDR图像中亮度比平均亮度高的像素点来自短曝光图像(处理后的)中未被抑制的像素点,亮度比平均亮度高的像素点在短曝光图像(处理后的)中被抑制的情况下,该亮度比平均亮度高的像素点来自首帧彩色图像。HDR图像中亮度比平均亮度低的像素点来自长曝光图像(处理后的)中未被抑制的像素点,亮度比平均亮度低的像素点在长曝光图像(处理后的)中被抑制的情况下,该亮度比平均亮度低的像素点来自首帧彩色图像。其中,平均亮度可以为基于首帧彩色图像中全部像素点的亮度平均值确定的一个亮度范围,或者,还可以为一个预设的亮度范围。
在一些可能的实现方式中,对于L帧彩色图像中的第K帧彩色图像,电子设备确定该第K帧彩色图像中存在全局变化的区域的过程包括:将首帧彩色图像与该第K帧彩色图像中的像素点进行比对,确定第K帧彩色图像中内容与该首帧彩色图像对应区域中的内容不同区域为发生了全局变化的区域。常用的进行比对的算法包括特征匹配算法(如SIFT、SURF、ORB等)、光流估计算法(如lucas-Kanade算法、horn–schunck算法等)和图像配准算法(如相位相关算法、归一化互相关算法等)。
在另一些可能的实现方式中,对于L帧彩色图像中的第K帧彩色图像,电子设备确定该第K帧彩色图像中存在全局变化的区域的过程包括:电子设备可以通过前K帧彩色图像各自对应的事件图像确定该第K帧彩色图像中存在全局变化可能性的区域(区域K)。其中,该区域K中像素点的光照强度相比于首帧彩色图像中具有相同位置的像素点的光照强度发生了变化。然后,电子设备再基于首帧彩色图像在区域K中确定存在全局变化的区域。其中,K从2变化到L。一帧彩色图像对应的事件图像是在拍摄该帧彩色图像的曝光时间内拍摄的。一帧彩色图像对应的事件图像表示了在拍摄该帧彩色图像的曝光时间内该帧彩色图像中像素点的光照强度发生了变化的区域。
这里需要说明的是,在拍摄该帧彩色图像的曝光时间内该帧彩色图像中像素点的光照强度发生了变化也可以称为在拍摄该帧彩色图像的曝光时间内该帧彩色图像中像素点发生了局部变化。也可以理解为第K帧彩色图像对应的事件图像可以用于描述在拍摄该第K帧彩色图像的曝光时间内该第K帧彩色图像中像素点发生了局部变化的区域。则拍摄首帧彩色图像到拍摄第K帧彩色图像的过程中获取的K帧事件图像可以用于确定第K帧彩色图像中发生了全局变化的区域。
在一些可能的情况下,存在全局变化可能性的区域也可以被称为第二区域。第二区域中像素的光照强度相比于首帧彩色图像中第二区域中像素的光照强度发生了变化。
一帧彩色图像中可以包括N1*N1个像素点(记为像素点1)。该帧彩色图像对应的事件图像可以包括与该N1*N1个像素点1对应的N2*N2个像素点(记为像素点2)。事件图像中的一个像素点2对应该帧彩色图像中的(N1/N 2)*(N1/N 2)个像素点1。该事件图像中的一个像素点2可以表示为(x2,y2,f)。其中,(x2,y2)表示该像素点2所对应像素点1在该帧彩色图像中的区域(区域1)。f表示该帧彩色图像的区域1在该帧彩色图像的曝光时间内的光照强度(简称为光强)变化情况。光强变化情况可以包括光强增加(此时f记为1)、光强减弱(此时f记为-1)以及光强不变(此时f记为0)。其中,N2与N1皆为整数,N1/N2为大于或者等于1的整数。
其中,该帧彩色图像的区域1在曝光时间内的光强发生变化的原因可以包括:该帧彩色图像的区域1中的像素点所对应的拍摄细节在曝光时间内发生了变化。由此,可以理解的是,前K帧彩色图像各自对应的事件图像中记录了开始拍摄到拍摄第K帧彩色图像时拍摄细节的变化情况。基于此,该 K帧事件图像可以用于初步判断第K帧彩色图像中存在全局变化可能性的区域。该帧彩色图像的区域1在曝光时间内的光强发生变化的原因还可以包括:该帧彩色图像的区域1中的像素点所对应的拍摄细节在曝光时间内没有变化但是拍摄细节的光强发生了变化。由此可见,事件图像中存在表示光强增加或者光照减弱的f值时,该f值并不表示拍摄细节发生了变化。因此需要确定存在全局变化可能性的区域中的像素点在首帧彩色图像以及第K帧彩色图像中对应的拍摄细节不同,以进一步确定第K帧彩色图像中存在全局变化可能性的区域为发生了全局变化的区域。
在一些可能的情况下,前述内容涉及的事件图像中f值的确定过程可以参考下述对图2的描述。
如图2所示,这里以拍摄了3帧彩色图像得到HDR图像为例对事件图像中f值的确定过程进行说明。该3帧彩色图像为电子设备拍摄物体201(图2中的黑色对象)时得到的彩色图像。在拍摄首帧彩色图像时,该首帧彩色图像对应的事件图像的各f值均为0。在拍摄第二帧彩色图像的曝光时间内,物体201发生了运动(运动1)使得第二帧彩色图像中区域211中的像素点发生了局部变化:区域211中的像素点从表现黑色的拍摄细节变化为了表现白色的拍摄细节,以及,第二帧彩色图像中区域212中的像素点发生了局部变化:区域212中的像素点从表现白色的拍摄细节变化为了表现黑色的拍摄细节。此时,电子设备还拍摄第二帧彩色图像对应的事件图像(第二帧事件图像)。该第二帧事件图像中对应区域211的像素点2的f值取值为1,表示区域211的光强增加。以及,该第二帧事件图像中对应区域212的像素点2的f值取值为-1,表示区域212的光强减弱。第二帧事件中f值为0的像素点2可以表示第二帧彩色图像中除区域211以及区域212以外的区域中的像素点未发生局部变化。
参考图2,同理可得,在拍摄第三帧彩色图像的曝光时间内,物体201发生了运动(运动2)使得第三帧彩色图像中区域213以及区域214中的像素点发生了局部变化。此时,电子设备还拍摄第三帧彩色图像对应的事件图像(第二帧事件图像)。该第三帧事件图像中对应区域213的像素点2的f值取值为1,表示区域213的光强增加,以及,该第三帧事件图像中对应区域214的像素点2的f值取值为-1,表示区域214的光强减弱。第三帧事件中f值为0的像素点2可以表示第三帧彩色图像中除区域213以及区域214以外的区域中的像素点未发生局部变化。
下面结合图2描述前述内容中电子设备通过前K帧彩色图像各自对应的事件图像确定该第K帧彩色图像中存在全局变化可能性的区域(区域K)的过程。该过程包括:电子设备基于前K-1帧彩色图像各自对应的事件图像(前K-1帧事件图像)将第K帧彩色图像对应的事件图像(第K帧事件图像)进行更新,得到更新后的事件图像。该更新过程包括:对于第K帧事件图像中f值为0的像素点(待更新像素点),如果该待更新像素点在前K-1帧事件图像中至少一帧事件图像中对应的像素点存在f值不为0的情况,则将该待更新像素点的f值更新为1。待更新像素点在一帧事件图像中对应的像素点在该帧事件图像中的位置与待更新像素点在第K帧事件图像中的位置相同。对于第K帧事件图像中f值为-1的像素点的f值更新为1。参考图2所示,电子设备基于第一帧事件图像以及第二帧事件图像对第三帧事件图像进行更新之后,得到更新后的事件图像。然后,将更新后的事件图像进行插值处理得到分辨率与彩色图像相同的事件图像。即插值后的事件图像中包括N1*N1个f值为1或者f值为0的像素点。然后电子设备基于插值后的事件图像中f值为1的像素点将第K帧彩色图像中对应的像素所在的区域确定为该第K帧彩色图像中存在全局变化可能性的区域。
在一些可能的情况下,前述内容中电子设备基于首帧彩色图像在该第K帧彩色图像中存在全局变化可能性的区域(区域K)中确定存在全局变化的区域的方式包括但不限于以下方式。
区域确定方式1:电子设备确定区域K中的内容与首帧彩色图像中与该区域K相同位置上的内容不同。则电子设备确定区域K为存在全局变化的区域。其中,确定内容不同的方式包括:电子设备确定区域K中的内容与首帧彩色图像中与该区域K相同位置上的内容的相似性,相似性小于预设阈值1的情况下,确定内容不同。
区域确定方式2:电子设备确定区域K中存在全局变化的像素点。将存在全局变化的像素点所组成的区域作为存在全局变化的区域。电子设备确定区域K中存在全局变化的像素点的过程为:将区域K与首帧彩色图像中该区域K位置相同的区域进行像素点比对,确定出在两个区域中位置相同但是所指示内容不同的像素点作为存在全局变化的像素点。其中,两个像素点所指示的内容不同包括:两个像素点所对应的颜色差值大于预设阈值2。
通常情况下,电子设备默认首帧彩色图像的曝光时间为标准曝光时间。在另一些可能的情况下,电子设备可以设置首帧彩色图像的曝光时间为长曝光时间或者短曝光时间。
在一些可能的情况下,标准曝光时间可以为预设曝光值,该预设曝光值可以为电子设备设置的通常曝光情况下的曝光时间,例如可以为5ms-10ms之间的任意值。还可以为其他值,本申请实施例对此不作限定。
在另一些可能的情况下,标准曝光时间为电子设备根据拍摄场景的光照强度确定的。拍摄场景的光照强度越强则标准曝光时间越短。
电子设备确定光照强度的方式包括但不限于以下方式。
光照强度确认方式1:电子设备可以通过环境光传感器检测拍摄环境的光照强度。
光照强度确认方式2:电子设备可以获取一帧预览图像,统计该帧预览图像中全部像素点的亮度均值,将该亮度均值作为拍摄场景的光照强度。
前述实施例中,电子设备计算得到的插值后的事件图像中像素点的f值为1只能反映像素点存在变化的可能性,不能准确反映该像素点是否发生变化。后续仍然要基于首帧彩色图像进行比对进一步确定是否发生变化。在f值为1的像素点很多,实际发生变化的像素点却很少的情况下,容易增加比对的计算量以及准确性。为了解决这个问题,在另一些实施例中,可以基于前K帧彩色图像以及前K帧彩色图像对应的事件图像(K帧事件图像)确定第K帧彩色图像相对于首帧彩色图像的置信度掩码。K从2变化至L,可以得到除首帧彩色图像以外的L-1帧彩色图像相对于首帧彩色图像的置信度掩码。其中,第K帧彩色图像对应的置信度掩码可以表示为与第K帧彩色图像具有相同空间尺寸的二值矩阵或矩阵。其中,值为1表示对应位置的像素点具有高置信度,不会被抑制。而值为0表示对应位置的像素点置信度较低,会被抑制。
电子设备基于第K帧彩色图像对应的置信度掩码与第K帧彩色图像作点乘可以将第K帧彩色图像中存在全局变化的像素点进行抑制,得到第K帧彩色图像对应的处理后的彩色图像。K从2变化至L,可以得到处理后的L-1帧彩色图像。然后,电子设备将首帧彩色图像与处理后的L-1帧彩色图像进行融合处理得到高动态范围图像,被抑制的像素未被融合到高动态范围图像中。
在一些可能的情况下,第K帧彩色图像对应的置信度掩码是基于前K帧高维图像通过神经网络确定的;其中,第K帧高维图像中包括第K帧彩色图像以及第K帧彩色图像对应的事件图像的信息;置信度掩码中包括第K帧彩色图像中各像素相对于首帧彩色图像的置信度值。关于高维图像的详细内容可以参考下述相关内容的描述此处暂不赘述。关于该过程可以参考下述对步骤S103-步骤S105的描述,此处暂不叙述。
图3示出了电子设备基于多帧(例如L帧)彩色图像以及事件图像确定除首帧彩色图像以外L-1帧彩色图像对应的置信度掩码,进一步得到HDR的过程。图4示出了电子设备在该过程获得HDR图像的一个示意图。基于L帧彩色图像以及L帧事件图像确定除首帧彩色图像以外L-1帧彩色图像对应的置信度掩码,进一步得到HDR图像的流程可以参考对图3中步骤S101-步骤S106的描述。下面结合图4对步骤S101-步骤S106进行详细描述。
S101.响应于针对拍摄控件的操作,电子设备获取L帧曝光时间不同的彩色图像及各彩色图像对应的事件图像。
在一些可能的情况下,电子设备可以通过RGB相机拍摄彩色图像。此时,该彩色图像也可以被称为RGB图像。且,通过事件相机拍摄事件图像。电子设备使用RGB相机拍摄第i帧彩色图像的曝光时间内,也使用事件相机拍摄该第i帧彩色图像对应的事件图像。彩色图像可以用于呈现拍摄场景中的拍摄细节,事件图像可以用于描述在拍摄该帧事件图像对应的彩色图像的曝光时间内该帧彩色图像中像素点发生了变化(局部变化)的区域。
彩色图像可以表示为N1*N1*3的数据。其中,N1*N1表示彩色图像具有N1*N1个像素点(像素点1)。3表示每个像素点1由一个含有三个元素的向量表示。其中,该三个元素分别代表红色(R)、绿色(G)和蓝色(B)通道的亮度值。该彩色图像中的一个像素点1可以表示为(x1,y1,R1,G1,B1)。其中,(x1,y1)表示像素点1在彩色图像中的位置,(R1,G1,B1)表示该像素点1分别在三个通道上的亮度值。
事件图像可以表示为N2*N2*1的数据。N2*N2表示事件图像具有N2*N2个像素点(像素点2)。1表示每个像素点2由一个含有1个元素的向量表示。其中,该1个元素为像素点2对应的f值。其中,关于f值的相关描述可以参考前述图2以及相关内容,此处不再赘述。
S102.电子设备对该L帧彩色图像进行多曝光对齐处理。
该步骤S102是可选的。
对L帧彩色图像进行多曝光对齐处理是将L-1帧彩色图像的亮度与首帧彩色图像的亮度进行对齐,得到L帧亮度对齐的彩色图像。该L帧亮度对齐的彩色图像中的每一帧彩色图像的亮度均为首帧彩色图像的亮度。
首帧彩色图像的亮度是该首帧彩色图像中所有像素点1的灰度值的平均。该首帧彩色图像的一个像素点1的灰度值是表示该像素点1亮度的值,也可以表示该像素点1的颜色深浅程度。该像素点1的灰度值是通过将该像素点1的RGB通道的亮度值进行加权平均得到的。其中R通道的权重为0.2989,G通道的权重为0.5870,B通道的权重为0.1140。该像素点1(x1,y1,R1,G1,B1)的灰度值可以使用下述方法计算得到:该像素点1的灰度值=(0.2989*R1)+(0.5870*G1)+(0.1140*B1)。将该帧彩色图像所有像素点1的灰度值相加,然后除以该帧彩色图像中像素点1的总数得到该帧彩色图像的平均亮度值。
但是,L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中包括短曝光图像以及长曝光图像。短曝光图像由于曝光时间比首帧彩色图像短因此短曝光图像的亮度比首帧彩色图像的亮度低,可以对短曝光图像中各像素点作正补偿以提升短曝光图像的亮度使得短曝光图像的亮度与首帧彩色图像对齐。长曝光图像由于曝光时间比首帧彩色图像长因此长曝光图像的亮度比首帧彩色图像的亮度高,可以对短曝光图像中各像素点作负补偿以降低长曝光图像的亮度使得长曝光图像的亮度与首帧彩色图像对齐。
其中,对短曝光图像中各像素点作正补偿的方式包括:将短曝光图像中的各像素点乘以一个大于1的增益值(gain值)。对长曝光图像中各像素点作负补偿的方式包括:将长曝光图像中的各像素点乘以一个小于1的增益值(gain值)。
L-1帧彩色图像中一帧彩色图像(包括短曝光图像以及长曝光图像)的增益值的确定方式包括但不限于以下方式:
增益值确定方式1:首先,计算该帧彩色图像的亮度。然后,再基于该帧彩色图像的亮度以及首帧彩色图像的亮度确定该一帧彩色图像的增益值。例如,该一帧彩色图像的增益值=(首帧彩色图像的亮度)/(该一帧彩色图像的亮度)。其中,确定该帧彩色图像的亮度的方式与前述确定首帧彩色图像的亮度的方式相同,此处不再赘述。
增益值确定方式2:基于该帧彩色图像的曝光时间和首帧彩色图像的曝光时间确定该一帧彩色图像的增益值。记首帧彩色图像的曝光时间为T1,该帧彩色图像的曝光时间为T2,则该一帧彩色图像的增益值为S*(T1/T2)。其中, S为系数,该S由RGB相机的光感原件和图像处理算法等因素共同确定。
应该理解的是,L帧彩色图像中的像素点的灰度值是由RGB相机输出的。RGB相机输出的L帧彩色图像(亮度对齐前的)中的像素点的灰度值范围为0到255。一个像素点的灰度值为255时该像素点为白色。受RGB相机的限制,像素点对应的拍摄细节的光强大于该像素点的灰度值为255时表示的光强时, RGB相机输出的该像素点1的灰度值仍然为255。然而,L帧亮度对齐的彩色图像中的像素点的灰度值是对L帧彩色图像(亮度对齐前)中的像素点1进行调整得到的。因此L帧亮度对齐的彩色图像中存在灰度值超过255的像素点。
S103.电子设备分别基于每一帧彩色图像及其对应的事件图像进行连接生成高维图像,得到L帧高维图像。
高维图像中包括得到该高维图像的彩色图像以及该彩色图像对应的事件图像的信息。
在一些可能的情况下,高维图像的像素点数量与事件图像的像素点数量相同。高维图像中的一个像素点(像素点3)对应事件图像中的一个像素点(像素点2)。高维图像中的一个像素点(像素点3)对应彩色图像中的(N1/N 2)*(N1/N 2)个像素点(像素点1)。
该高维图像可以表示为N2*N2*4的数据。N2*N2表示高维图像具有N2*N2个像素点(像素点3),4表示该像素点3由一个含有四个元素的向量表示。其中,该四个元素分别代表红色(R)、绿色(G)和蓝色(B)通道的亮度值和f值。
电子设备可以分别基于L帧彩色图像中每一帧彩色图像进行特征提取,得到L帧与事件图像分辨率相同的特征图像。然后,基于每一帧彩色图像对应的特征图像和事件图像进行连接,得到各彩色图像对应的高维图像。例如,参考图4中的①所示,这里以拍摄了3帧彩色图像和3帧事件图像为例进行说明。对该3帧彩色图像中的第一帧彩色图像进行特征提取得到该第一帧彩色图像对应的特征图像。基于该第一帧彩色图像对应的特征图像和该第一帧彩色图像对应的事件图像进行连接,得到该第一帧彩色图像对应的高维图像(第一帧高维图像)。基于该3帧彩色图像中的第二帧彩色图像得到该第二帧彩色图像对应的高维图像(第二帧高维图像)以及基于3帧彩色图像中的第三帧彩色图像得到该第三帧彩色图像对应的高维图像(第三帧高维图像)的过程可以参考前述内容,此处不再赘述。其中,一帧彩色图像进行特征提取得到的与事件图像分辨率相同的特征图像也可以被称为该帧彩色图像对应的特征图像(包括N2*N2个像素点)。
其中,电子设备基于第i帧彩色图像以及其对应的事件图像生成第i帧彩色图像对应的高维图像(第i帧高维图像)的过程可以参考下述内容。
首先,对第i帧彩色图像(N1*N1)进行特征提取得到一帧N2*N2的特征图像(第i帧特征图像),使得第i帧特征图像与第i帧事件图像的分辨率相同。第i帧特征图像中的一个像素点(像素点4)可以表示第i帧彩色图像中与该像素点4对应的(N1/N 2)*(N1/N 2)个像素点1。一个像素点4对应的(N1/N 2)*(N1/N 2)个像素点1在第i帧彩色图像中的位置与该像素点4在第i帧特征图像中的位置相同。
然后,将第i帧特征图像(N2*N2*3)与第i帧事件图像(N2*N2*1)进行连接得到第i帧高维图像(N2*N2*4)。该第i帧高维图像中一个像素点3可以表示为(x3,y3,R3,G3,B3,f3)。其中,(x3,y3)表示该像素点3在第i帧高维图像中的位置,(R3,G3,B3)表示该像素点3对应的像素点4(属于第i帧特征图像)在三个通道上的亮度值。f3表示该像素点3对应的像素点2(属于第i帧事件图像)的f值。
这里应该理解的是,在步骤S102执行的情况下,该步骤S103中的彩色图像为进行多曝光对齐处理之后的彩色图像。在步骤S102未执行的情况下,该步骤S103中的彩色图像为步骤S101中得到的,未进行多曝光对齐处理的彩色图像。
S104.电子设备基于L帧高维图像得到L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像相对于首帧彩色图像的置信度掩码,得到该L-1帧彩色图像各自对应的置信度掩码;其中,L帧彩色图像中第K帧彩色图像相对于首帧彩色图像的置信度掩码是基于第K帧高维图像以及表征前K-1帧高维图像的一帧高维图像确定的,K为从2到L之间的整数。
应该理解的是,这里默认首帧彩色图像中的各像素点都是可信的,可以不计算首帧彩色图像的置信度掩码。
L-1帧彩色图像中一帧彩色图像相对于首帧彩色图像的置信度掩码(confidencemask)与该帧彩色图像具有相同的尺寸。一帧彩色图像相对于首帧彩色图像的置信度掩码中包括该帧彩色图像中N1*N1个像素点(像素点1)对应的置信度值。一个置信度值可以为0或者1中的一个。或者,一个置信度值可以接近0或者接近1中的一个。
这里需要说明的是,一帧彩色图像中像素点1对应的置信度值可以表示为接近0或者等于0的值。接近0或者等于0的置信度值表示该像素点1为存在全局变化的像素点。该置信度等于0或者接近0的像素点1可以被抑制(屏蔽),被抑制时,该像素点1不可以被融合到HDR图像中。或者,一个像素点1对应的置信度值可以表示为接近1或者等于1的值。接近1或者等于1的置信度值表示该像素点1不会被抑制(屏蔽),该像素点1可以被融合到HDR图像中。
后文中,为了便于叙述,一帧彩色图像相对于首帧彩色图像的置信度掩码也可以被称为一帧彩色图像的置信度掩码。
一帧彩色图像的置信度掩码是通过该帧彩色图像所对应特征图像的置信度掩码进行插值处理之后得到的。其中,一帧彩色图像所对应特征图像的置信度掩码中包括该帧彩色图像所对应特征图像中N2*N2个像素点(像素点4)对应的置信度值。其中,一帧彩色图像所对应特征图像的置信度掩码是基于神经网络(神经网络1)确定。该神经网络1可以用于在输入第K帧彩色图像对应的高维图像(第K帧高维图像)以及前K-1帧彩色图像对应的高维图像(表征前K-1帧高维图像的一帧高维图像)之后,输出第K帧彩色图像所对应特征图像的置信度掩码以及表征前K帧高维图像的一帧高维图像。该表征前K帧高维图像的一帧高维图像可以用于确定第K+1帧彩色图像所对应特征图像的置信度掩码。
如图4中②所示,这里以拍摄了3帧彩色图像和3帧事件图像为例进行说明。图4中②处所示的第一帧高维图像以及第二帧高维图像输入到神经网络1之后,可以输出第二帧彩色图像所对应特征图像的置信度,以及表征前两帧(第一帧以及第二帧)高维图像的一帧高维图像。如图4中③所示,第三帧高维图像以及表征前两帧高维图像的一帧高维图像输入到神经网络1之后,可以输出第三帧彩色图像所对应特征图像的置信度,以及表征前三帧(第一帧、第二帧以及第三帧)高维图像的一帧高维图像。后续,对第二帧彩色图像所对应特征图像的置信度进行插值处理可以得到第二帧彩色图像的置信度。对第三帧彩色图像所对应特征图像的置信度进行插值处理可以得到第三帧彩色图像的置信度。
在一些可能的情况下,神经网络1基于输入第K帧高维图像以及表征前K-1帧高维图像的一帧高维图像之后,输出第K帧彩色图像所对应特征图像的置信度掩码的过程包括:首先对第K帧高维图像进行特征提取得到第K帧高维图像的特征,以及对表征前K-1帧高维图像的一帧高维图像进行特征提取得到前K-1帧高维图像的特征。然后,将第K帧高维图像的特征以及前K-1帧高维图像的特征进行连接,得到表征前K帧高维图像的特征。再基于该表征前K帧高维图像的特征进行特征回归得到第K帧彩色图像所对应特征图像的置信度。
在一些可能的情况下,神经网络1基于输入第K帧高维图像以及表征前K-1帧高维图像的一帧高维图像之后,输出表征前K帧高维图像的一帧高维图像的过程包括:基于该表征前K帧高维图像的特征进行特征重构得到表征前K帧高维图像的一帧高维图像。其中,确定表征前K帧高维图像的特征的过程可以参考前述相关内容,此处不再赘述。
其中,关于神经网络1以及基于该神经网络1确定一帧彩色图像所对应特征图像的置信度掩码的过程可以参考下述对图5的描述。
参考图5,该神经网络1中可以包括卷积组1、卷积组2。其中,卷积组1用于对第K帧高维图像进行特征提取得到第K帧高维图像的特征。卷积组2用于对表征前K-1帧高维图像的一帧高维图像进行特征提取得到前K-1帧高维图像的特征。该神经网络1中还包括级连接层,该级连接层可以用于将第K帧高维图像的特征以及前K-1帧高维图像的特征进行连接得到前K帧高维图像的特征。该神经网络1中还可以包括基于前K帧高维图像的特征进行回归得到第K帧彩色图像所对应特征图像的置信度的卷积组4。该神经网络1中还可以包括基于前K帧高维图像的特征进行重构得到表征前K帧高维图像的一帧高维图像的卷积组5。
在另一些可能的情况下,神经网络中还可以包括对前K帧高维图像的特征进行升维的卷积组3。在存在卷积组3的情况下,输入到卷积组4以及卷积组5的前K帧高维图像的特征为卷积组3输出的升维之后的前K帧高维图像的特征。在不存在卷积组3的情况下,输入到卷积组4以及卷积组5的前K帧高维图像的特征为卷积组2输出的前K帧高维图像的特征。
其中,卷积组1中至少可以包括Z1个卷积层1(例如卷积层11、卷积层12以及卷积层13),还可以包括连接层(例如跳跃连接层)、激活函数等。Z1个卷积层中的各卷积层中可以包括至少一个滑动步长为1的卷积核1。例如,Z1个卷积层中第j1个卷积层1中可以包括Hj1个滑动步长为1的卷积核1,使得第j1个卷积层1输出的第K帧高维图像的特征为一个N2*N2*Hj1的特征。第1个卷积层1的输入为第K帧高维图像,输出为第K帧高维图像的特征。第2个卷积层1开始的后续每一个卷积层1的输入可以为:前一个卷积层1输出的第K帧高维图像的特征,或者为前一个卷积层1输出的第K帧高维图像的特征经过连接层(例如跳跃连接层)之后与其他卷积层1输出的第K帧高维图像的特征连接之后的第K帧高维图像的特征。第2个卷积层1开始的后续每一个卷积层1的输出均为更新后的第K帧高维图像的特征。j1为从1到Z1的整数,Hj1为大于等于1的整数。j1越大,则第j1个卷积层1输出的第K帧高维图像的特征信息越丰富。这样,可以使得卷积组1输出的第K帧高维图像的特征可以更全面的表示第K帧高维图像。
在一些可能的情况下,卷积组1最终输出的第K帧高维图像的特征可以为最后一个卷积层1输出的第K帧高维图像的特征,或者还可以为最后一个卷积层1与其他卷积层1输出的第K帧高维图像的特征的连接结果。例如,参考图5所示,卷积组1最终输出的第K帧高维图像的特征为卷层13与卷积层11输出的第K帧高维图像的特征连接之后的第K帧高维图像的特征。
卷积组2中至少可以包括Z2个卷积层2(例如卷积层21、卷积层22以及卷积层23),还可以包括连接层(例如跳跃连接层)、激活函数等。Z2个卷积层2中的各卷积层中可以包括至少一个滑动步长为1的卷积核2。例如,Z2个卷积层2中第j2个卷积层2中可以包括Hj2个滑动步长为1的卷积核2,使得第j2个卷积层2输出的前K-1帧高维图像的特征为一个N2*N2*Hj2的特征。j2为从1到Z2的整数,Hj2为大于等于1的整数。j2越大,则第j2个卷积层2输出的前K-1帧高维图像的特征越丰富。卷积组2的设计思路与卷积组1的设计思路相同或者相似。此处不再赘述。
卷积组3中至少可以包括Z3个卷积层3(例如卷积层31),还可以包括连接层(例如跳跃连接层)、激活函数等。Z3个卷积层3中的各卷积层中可以包括至少一个滑动步长为1的卷积核3。卷积组3的作用在于对前K帧高维图像的特征进行升维,得到维度更高的前K帧高维图像的特征。卷积组3的设计思路可以与卷积组1的设计思路相同或者相似。此处不再赘述。
卷积组4中至少可以包括Z4个卷积层4(例如卷积层41),还可以包括连接层(例如跳跃连接层)、激活函数等。Z4个卷积层4中的各卷积层中可以包括至少一个滑动步长为1的卷积核4。卷积组4的作用在于对前K帧高维图像的特征进行降维以输出尺寸为N2*N2的第K帧彩色图像所对应特征图像的置信度。
需要说明的是,通过卷积组4即可实现将前K帧高维图像的特征回归为第K帧彩色图像所对应特征图像的置信度。
卷积组5中至少可以包括Z5个卷积层5(例如卷积层51),还可以包括连接层(例如跳跃连接层)、激活函数等。Z5个卷积层5中的各卷积层中可以包括至少一个滑动步长为1的卷积核5。卷积组5的作用在于对前K帧高维图像的特征进行降维以输出尺寸为N2*N2*4的表征前K帧高维图像的一帧高维图像。
还需要说明的是,通过卷积组5即可实现将前K帧高维图像的特征重构为表征前K帧高维图像的一帧高维图像。
这里应该理解的是,Z1、Z2、Z3、Z4、Z5均为大于或者等于1的整数,且Z1、Z2、Z3、Z4、Z5的取值没有大小关系,可以相同也可以不同,本申请实施例对此不作限定。卷积核1、卷积核2、卷积核3、卷积核4以及卷积核5不相同。该不相同包括卷积核的大小不同或者卷积核中的参数不相同。
应该理解的是,图5中涉及的神经网络1只是举例说明,神经网络1的结构还可以为其他的结构,本申请实施例对此不作限定。例如,可以将神经网络1中的级连接层替换为跳跃连接层得到其他的神经网络1。
在一些可能的实现方式中,电子设备中记录的神经网络1是以W1组高维图像一次作为神经网络1(待训练的)的输入数据,W1组高维图像中每一组高维图像对应的参考置信度掩码以及每一组高维图像对应的表征该组高维图像的一帧参考高维图像依次作为参考数据进行训练得到的。其中,W2组高维图像中每一组高维图像中均包括两帧高维图像,两帧高维图像中的一帧高维图像包括彩色图像11以及彩色图像11对应的事件图像11的信息,以及两帧高维图像中的另一帧高维图像包括彩色图像12以及彩色图像12对应的事件图像12的信息。每一组高维图像对应的参考置信度掩码为该彩色图像11以及彩色图像12中采集时间靠后的彩色图像所对应特征图像相对于采集时间靠前的彩色图像的置信度掩码。
在训练神经网络1的过程中,将一组高维图像输入到神经网络1(待训练的)之后,可以得到预测的置信度掩码以及预测的高维图像,将该预测的置信度掩码与该组高维图像对应的参考置信度掩码的差值以及预测的高维图像与该组高维图像对应的表征该组高维图像的一帧参考高维图像的差值之和作为神经网络1的损失函数值(损失函数值1)。在损失函数值1未收敛或者神经网络1(待训练的)的训练次数小于预设训练值1的情况下,更新神经网络1(待训练的)中的参数。在损失函数值1收敛或者神经网络1(待训练的)的训练次数大于预设训练值1的情况下,停止更新神经网络1(待训练的)中的参数,得到训练完成的神经网络1。其中,损失函数值1收敛包括损失函数值1的值达到最小值,或者,损失函数值1的连续T1次梯度变化值趋于平缓,例如连续T1次梯度变化值等于0。神经网络1中的参数可以包括各卷积组中的参数。
S105.分别基于L-1个置信度掩码中的每一个置信度掩码将其对应的彩色图像进行处理得到L-1帧处理后的彩色图像。
参考图4中④所示,这里以拍摄了3(此时L等于3)帧彩色图像和3帧事件图像为例对步骤S105进行说明。电子设备可以基于第二帧彩色图像(处理前的)以及第二帧彩色图像的置信度掩码得到处理后的第二帧彩色图像,且,可以基于第三帧彩色图像(处理前的)以及第二帧彩色图像的置信度掩码得到处理后的第三帧彩色图像。
L-1个置信度掩码中的每一个置信度掩码对应的彩色图像为处理前的彩色图像。一帧处理前的彩色图像对应的置信度掩码中包括该帧处理前的彩色图像中各像素点对应的置信度值。
在一些可能的情况下,电子设备可以将一帧处理前的彩色图像与其对应的置信度掩码作点乘得到处理后的彩色图像。使得处理前的彩色图像中对应置信度值为0或者接近0的像素点在处理后的彩色图像中被进行抑制。如图6所示,以第K帧彩色图像(处理前的)对应的置信度掩码对该第K帧彩色图像(处理前的)进行处理得到处理后的第K帧彩色图像为例进行说明。处理前的第K帧彩色图像中置信度值为0(或者接近0)的像素点在处理后的第K帧彩色图像中被抑制,表示为黑色像素点。处理前的第K帧彩色图像中置信度值为1(或者接近1)的像素点在处理后的第K帧彩色图像中未被抑制。处理后的第K帧图像中未被抑制的像素点表现的内容仍然与处理前的第K帧图像相同。
S106.基于L-1帧处理后的彩色图像与首帧彩色图像进行融合得到HDR图像。
如图4中⑤所示,在L等于3的情况下。电子设备可以基于首帧彩色图像、处理后的第二帧彩色图像以及处理后的第三帧彩色图像进行融合得到HDR图像。
该HDR图像中具有平均亮度的像素点来自首帧彩色图像,HDR图像中亮度比平均亮度高的像素点来自短曝光图像或者来自首帧彩色图像;HDR图像中亮度比平均亮度低的像素点来自长曝光图像或者来自首帧彩色图像。平均亮度是基于所述首帧彩色图像的亮度确定的。例如,平均亮度为基于首帧彩色图像中全部像素点的亮度平均值确定的亮度值范围。
在一些可能的情况下,进行平均亮度计算的首帧彩色图像为进行图像修复处理后的首帧彩色图像,图像修复处理可以使得首帧彩色图像中过曝区域亮度降低以恢复过曝区域的细节,以及使得首帧彩色图像中的欠曝区域亮度增加以恢复欠曝区域的细节。
其中,HDR图像中亮度比平均亮度高的像素点来自短曝光图像或者来自首帧彩色图像,可以包括:在亮度比平均亮度高的像素点在短曝光图像中被抑制的情况下,该比平均亮度高的像素点来自首帧彩色图像。在亮度比平均亮度高的像素点在短曝光图像中未被抑制的情况下,该比平均亮度高的像素点来自短曝光图像,或者,该比平均亮度高的像素点是通过短曝光图像与首帧彩色图像结合得到的,在进行结合时,短曝光图像的权重大于首帧彩色图像的权重。
HDR图像中亮度比平均亮度低的像素点来自长曝光图像或者来自首帧彩色图像,可以包括:在亮度比平均亮度低的像素点在长曝光图像中被抑制的情况下,该比平均亮度低的像素点来自首帧彩色图像。在亮度比平均亮度低的像素点在长曝光图像中未被抑制的情况下,该比平均亮度低的像素点来自长曝光图像,或者,比平均亮度低的像素点是通过长曝光图像与首帧彩色图像结合得到的,在进行结合时,长曝光图像的权重大于首帧彩色图像的权重。
在一些可能的情况下,融合得到HDR的图像可以包括:电子设备可以基于L-1帧处理后的彩色图像更新首帧彩色图像,使得HDR图像中的像素点符合前述描述的特征。
在一些可能的情况下, HDR图像是基于神经网路(神经网络2)确定的。该神经网络2可以用于将L-1帧处理后的彩色图像与首帧彩色图像映射成为HDR图像。关于该神经网络2的相关内容可以参考图7。
如图7所示,神经网络2中可以包括D1个卷积组a(例如卷积组a1、卷积组a2以及卷积组a3),该D1个卷积组a用于提取L-1帧处理后的彩色图像与首帧彩色的图像特征。神经网络2中还可以包括D1个卷积组b(例如卷积组b1、卷积组b2以及卷积组b3),该D1个卷积组b用于利用所提取的图像特征进行特征重构得到HDR图像。神经网络2中还可以包括D1个跳跃连接层。
在一些可能的情况下,一个卷积组a中可以包括至少一个卷积层以及下采样器。且不同卷积组a各卷积层以及下采样器的参数可以不同。例如,卷积组a1中可以包括卷积层a11以及下采样器a11。卷积组a2中可以包括卷积层a21以及下采样器a21。例如,卷积组a2中可以包括卷积层a21以及下采样器a21。卷积组a3中可以包括卷积层a31以及下采样器a31。例如,卷积组a3中可以包括卷积层a31以及下采样器a31。
这里应该理解的是,不同卷积组a均可得到一个图像特征,第e1+1个卷积组a所提取的图像特征是对第e1个卷积组a所提取图像特征进行卷积以及下采样得到的,即第e1+1个卷积组a的输入为第e1个卷积组a所输出的图像特征。第e1+1个卷积组a可以对第e1个卷积组a所提取图像特征进行修正与整合。第1个卷积组a的输入为L-1帧处理后的彩色图像与首帧彩色的图像特征。第D1个卷积组a输出的图像特征为最终的图像特征。其中,e1 为1到D1之间的整数。
在一些可能的情况下,一个卷积组b中可以包括至少一个卷积层以及上采样器。且不同卷积组b各卷积层以及上采样器的参数可以不同。例如,卷积组b1中可以包括卷积层b11以及上采样器b11。卷积组b2中可以包括卷积层b21以及上采样器b21。例如,卷积组b2中可以包括卷积层b21以及上采样器b21。卷积组b3中可以包括卷积层b31以及上采样器b31。例如,卷积组b3中可以包括卷积层b31以及上采样器b31。
这里还应该理解的是,不同卷积组b均可以对图像特征进行重构,第e2+1个卷积组b所重构的图像特征是在第e2个卷积组b所重构图像特征的基础上进行的,即第e2+1个卷积组b的输入为第e2个卷积组b所输出的重构的图像特征,第e2+1个卷积组b可以对第e2个卷积组b所重构的图像特征进行修正与整合。第1个卷积组b的输入为第D1个卷积组a输出的最终的图像特征。第D1个卷积组b输出内容为最终的HDR图像。其中,e2 为1到D1之间的整数。
其中,第e2个卷积组b对图像特征进行重构的过程包括:首先通过第e2个跳跃连接层将第(D1+1-e2)个卷积组a输出的图像特征与第e2个卷积组b中的第一个卷积层输出的重构的图像特征进行连接。将连接的结果进行上采样得到第e2个卷积组b重构的图像特征。特别的。第1个卷积组b重构图像特征的过程包括:首先,通过第1个跳跃连接层将第D1个卷积组a输出的图像特征与第1个卷积组b中第一个卷积层输出的重构的图像特征进行连接。然后,将连接的结果进行上采样得到第1个卷积组b重构的图像特征。第D1个卷积组b重构图像特征得到HDR图像的过程包括:首先,通过第D1个跳跃连接层将第1个卷积组a输出的图像特征与第D1个卷积组b中第一个卷积层输出的重构的图像特征进行连接。然后,将连接的结果进行上采样得到HDR图像。
在一些可能的实现方式中,电子设备中记录的神经网络2是以W2组彩色图像依次作为神经网络2(待训练的)的输入数据,W2组彩色图像对应的参考HDR图像依次作为参考数据进行训练得到的。其中,W2组彩色图像中每一组彩色图像中均包括L-1帧像素点存在抑制的彩色图像(相当于L-1帧处理后的彩色图像)与一帧像素点未被抑制彩色图像(相当于首帧彩色图像)。
在训练神经网络2的过程中,将一组彩色图像输入到神经网络2(待训练的)之和,可以得到预测的HDR图像。将该预测的HDR图像与该组彩色图像对应的参考HDR图像之间的差值作为神经网络2的损失函数值(损失函数值2)。在损失函数值2未收敛或者神经网络2(待训练的)的训练次数小于预设训练值2的情况下,更新神经网络2(待训练的)中的参数。在损失函数值2收敛或者神经网络2(待训练的)的训练次数大于预设训练值2的情况下,停止更新神经网络2(待训练的)中的参数,得到训练完成的神经网络2。其中,损失函数值2收敛包括损失函数值2的值达到最小值,或者,损失函数值2的连续T2次梯度变化值趋于平缓,例如连续T2次梯度变化值等于0。神经网络2中的参数可以包括各卷积组中的参数。
S107.对HDR图像进行颜色变换处理,得到颜色变换后的HDR图像。
该步骤S107的执行条件为:电子设备执行前述步骤S102。
这里应该理解的是,电子设备能够正确显示的灰度值范围为0到255。但是在执行步骤S102之后,会使得进行颜色变换前的HDR图像中的像素点中存在灰度值超过255的像素点,导致该颜色变换前的HDR图像无法被电子设备正常显示。执行步骤S107可以使得该颜色变换后的HDR图像中的像素点的灰度值范围被规范为0到255。以使得电子设备可以正确显示该颜色变换后的HDR图像。
在一些可能的情况下,对颜色变换前的HDR图像进行颜色变换处理的过程为:首先,电子设备可以确认颜色变换前的HDR图像中所有像素点的灰度值中的最大灰度值和最小灰度值。然后,将颜色变换前的HDR图像中各像素点的灰度值压缩至0到255的范围内得到压缩后的灰度值。再基于压缩后的灰度值重新计算颜色变换前的HDR图像的颜色得到颜色变换后的HDR图像。
这里需要说明的是,前述涉及的基于L帧彩色图像得到HDR图像使用场景包括但不限于以下使用场景。
场景1:电子设备检测到开启HDR拍摄模式的操作。
场景1通常是用户主动通过电子设备开启拍摄高动态范围图像的功能。如图8所示,开启相机应用之后,电子设备可以在预览界面(参考用户界面81)中显示用于开启HDR拍摄模式的控件811。响应于针对该控件811的操作,电子设备可以开启拍摄高动态范围图像的功能。在检测到针对拍摄控件的操作之后,电子设备可以使用前述涉及的图像处理方法基于L帧彩色图像得到HDR图像。参考用户界面82所示,响应于针对该控件811的操作,电子设备还可以更改控件811的显示状态以提示HDR拍摄模式已开启。
场景2:电子设备确定拍摄场景的动态范围为高动态范围。
场景2为电子设备确定拍摄场景的动态范围为高动态范围时,自动开启拍摄高动态范围图像的功能,不涉及用户的操作。
在电子设备的图像传感器的全部感光单元获取的光照强度分布范围大于预设阈值3时,电子设备可以确定拍摄场景的动态范围为高动态范围。例如,光照强度最强的M个感光单元获取的光照强度均值以及光照强度最弱M个感光单元获取的光照强度均值之间大于或者等于预设阈值3。其中,M为大于或者等于1的正整数。
下面介绍本申请实施例提供的示例性电子设备。
图9是本申请实施例提供的电子设备的结构示意图。
下面以电子设备为例对实施例进行具体说明。应该理解的是,电子设备可以具有比图9中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图9中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
电子设备可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备的具体限定。在本申请另一些实施例中,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
电子设备通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)。显示面板还可以采用有机发光二极管(organiclight-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode,AMOLED),柔性发光二极管(flexlight-emitting diode,FLED),miniled,microled,micro-oled,量子点发光二极管(quantum dot light emitting diodes,QLED)等制造。在一些实施例中,电子设备可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP 用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,颜色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备可以包括1个或N个摄像头193,N为大于1的正整数。电子设备的摄像头也可以被称为相机。在一些可能的情况下,电子设备可以包括前述涉及的RGB相机,还可以包括事件相机。
NPU为神经网络(neural-network ,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
本申请实施例中,该处理器110可以调用内部存储器121中存储的计算机指令,以使得终端执行本申请实施例中的图像处理方法。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
上述实施例中所用,根据上下文,术语“当…时”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘)等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。
Claims (12)
1.一种图像处理方法,其特征在于,所述方法包括:
电子设备拍摄L帧曝光时间互不相同的彩色图像;其中,所述L为大于或者等于3的整数;
所述电子设备从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域,具有所述第一区域的彩色图像中第一区域的内容与所述首帧彩色图像中与所述第一区域所对应区域的内容不同;
其中,从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域包括:在拍摄所述L帧彩色图像中每一帧彩色图像的曝光时间内,所述电子设备还拍摄所述每一帧彩色图像对应的事件图像;一帧彩色图像对应的事件图像表示了在拍摄所述一帧彩色图像的曝光时间内所述一帧彩色图像中像素的光照强度发生了变化的区域;基于前K帧彩色图像各自对应的事件图像确定第K帧彩色图像中存在第二区域,所述第二区域中像素的光照强度相比于所述首帧彩色图像中与所述第二区域所对应的区域中像素的光照强度发生了变化;再基于所述首帧彩色图像在所述第二区域中确定所述第一区域;其中,所述K为2到L的整数;
所述电子设备将L帧彩色图像进行融合处理得到高动态范围图像;其中,所述第一区域中的内容未被融合到所述高动态范围图像中。
2.根据权利要求1所述的方法,其特征在于,所述高动态范围图像中具有平均亮度的像素来自所述首帧彩色图像,所述高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自所述首帧彩色图像;所述高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自所述首帧彩色图像;所述平均亮度是基于所述首帧彩色图像的亮度确定的。
3.根据权利要求2所述的方法,其特征在于,在所述亮度比平均亮度高的像素在所述短曝光图像中第一区域的情况下,所述高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自所述首帧彩色图像,具体包括:
所述亮度比平均亮度高的像素来自所述首帧彩色图像;
在所述亮度比平均亮度低的像素在所述长曝光图像中第一区域的情况下,所述高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自所述首帧彩色图像,具体包括:
所述亮度比平均亮度低的像素来自所述首帧彩色图像。
4.根据权利要求2或3所述的方法,其特征在于,在所述亮度比平均亮度高的像素未在所述短曝光图像中第一区域的情况下,所述高动态范围图像中亮度比平均亮度高的像素来自短曝光图像或者来自所述首帧彩色图像,具体包括:
所述亮度比平均亮度高的像素来自所述短曝光图像,或者,所述亮度比平均亮度高的像素是通过所述短曝光图像与所述首帧彩色图像结合得到的;在进行结合时,所述短曝光图像的权重大于所述首帧彩色图像的权重;
在所述亮度比平均亮度低的像素未在所述长曝光图像中第一区域的情况下,所述高动态范围图像中亮度比平均亮度低的像素来自长曝光图像或者来自所述首帧彩色图像,具体包括:
所述亮度比平均亮度低的像素来自所述长曝光图像,或者,所述亮度比平均亮度低的像素是通过所述长曝光图像与所述首帧彩色图像结合得到的;在进行结合时,所述长曝光图像的权重大于所述首帧彩色图像的权重。
5.根据权利要求1-3中任一项所述的方法,其特征在于,所述首帧彩色图像的曝光时间为基于拍摄所述首帧彩色图像时拍摄场景的光照强度确定的;所述拍摄场景的光照强度越强则所述首帧彩色图像的曝光时间越短。
6.根据权利要求1-3中任一项所述的方法,其特征在于,所述电子设备从L帧彩色图像中除首帧彩色图像以外的L-1帧彩色图像中确定出第一区域之前,所述方法还包括:
所述电子设备将所述L-1帧彩色图像的亮度调整为与所述首帧彩色图像的亮度相同。
7.根据权利要求1-3中任一项所述的方法,其特征在于,在执行所述融合之前,所述方法还包括:
将第K帧彩色图像与所述第K帧彩色图像对应的置信度掩码做点乘,得到处理后的第K帧彩色图像;其中,所述K为2到L的整数;
所述第K帧彩色图像的置信度掩码是基于前K帧高维图像通过神经网络确定的;其中,第K帧高维图像中包括第K帧彩色图像以及所述第K帧彩色图像对应的事件图像的信息;所述置信度掩码中包括所述第K帧彩色图像中各像素相对于首帧彩色图像的置信度值。
8.根据权利要求1-3中任一项所述的方法,其特征在于,电子设备拍摄L帧曝光时间互不相同的彩色图像之前,所述方法还包括:
所述电子设备开启拍摄高动态范围图像的功能。
9.根据权利要求1-3中任一项所述的方法,其特征在于,电子设备拍摄L帧曝光时间互不相同的彩色图像之前,所述方法还包括:
所述电子设备确定拍摄场景的动态范围为高动态范围。
10.一种电子设备,其特征在于,包括:一个或多个处理器和存储器;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行如权利要求1-9中任一项所述的方法。
11.一种计算机可读存储介质,包括计算机指令,其特征在于,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-9中任一项所述的方法。
12.一种芯片系统,所述芯片系统应用于电子设备,其特征在于,所述芯片系统包括一个或多个处理器,所述处理器用于调用计算机指令以使得所述电子设备执行如权利要求1-9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311205130.4A CN117082355B (zh) | 2023-09-19 | 2023-09-19 | 图像处理方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311205130.4A CN117082355B (zh) | 2023-09-19 | 2023-09-19 | 图像处理方法和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117082355A CN117082355A (zh) | 2023-11-17 |
CN117082355B true CN117082355B (zh) | 2024-04-12 |
Family
ID=88706103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311205130.4A Active CN117082355B (zh) | 2023-09-19 | 2023-09-19 | 图像处理方法和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117082355B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109005342A (zh) * | 2018-08-06 | 2018-12-14 | Oppo广东移动通信有限公司 | 全景拍摄方法、装置和成像设备 |
CN112132769A (zh) * | 2020-08-04 | 2020-12-25 | 绍兴埃瓦科技有限公司 | 图像融合方法、装置以及计算机设备 |
CN116114260A (zh) * | 2020-12-31 | 2023-05-12 | 华为技术有限公司 | 一种图像处理方法以及装置 |
CN116134484A (zh) * | 2020-12-31 | 2023-05-16 | 华为技术有限公司 | 一种图像处理方法以及装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7150147B2 (ja) * | 2018-09-07 | 2022-10-07 | ドルビー ラボラトリーズ ライセンシング コーポレイション | 空間的多重化露光ハイダイナミックレンジイメージセンサの自動露出 |
CN111479072B (zh) * | 2020-04-14 | 2021-12-17 | 深圳市道通智能航空技术股份有限公司 | 高动态范围图像合成方法、装置、图像处理芯片及航拍相机 |
-
2023
- 2023-09-19 CN CN202311205130.4A patent/CN117082355B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109005342A (zh) * | 2018-08-06 | 2018-12-14 | Oppo广东移动通信有限公司 | 全景拍摄方法、装置和成像设备 |
CN112132769A (zh) * | 2020-08-04 | 2020-12-25 | 绍兴埃瓦科技有限公司 | 图像融合方法、装置以及计算机设备 |
CN116114260A (zh) * | 2020-12-31 | 2023-05-12 | 华为技术有限公司 | 一种图像处理方法以及装置 |
CN116134484A (zh) * | 2020-12-31 | 2023-05-16 | 华为技术有限公司 | 一种图像处理方法以及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN117082355A (zh) | 2023-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111418201B (zh) | 一种拍摄方法及设备 | |
WO2020171373A1 (en) | Techniques for convolutional neural network-based multi-exposure fusion of multiple image frames and for deblurring multiple image frames | |
JP2013031174A (ja) | 多重露出フュージョン基盤でゴーストブラーを除去したhdr映像生成装置及び方法 | |
WO2020171305A1 (en) | Apparatus and method for capturing and blending multiple images for high-quality flash photography using mobile electronic device | |
CN116416122B (zh) | 图像处理方法及其相关设备 | |
CN116055897B (zh) | 拍照方法及其相关设备 | |
CN113850367A (zh) | 网络模型的训练方法、图像处理方法及其相关设备 | |
KR20190041586A (ko) | 복수의 이미지들을 합성하는 전자장치 및 방법 | |
KR20220064170A (ko) | 이미지 센서를 포함하는 전자 장치 및 그 동작 방법 | |
CN107395988A (zh) | 移动终端的摄像头的控制方法及系统 | |
CN116055895B (zh) | 图像处理方法及其装置、芯片系统和存储介质 | |
CN117082355B (zh) | 图像处理方法和电子设备 | |
WO2023124202A1 (zh) | 图像处理方法与电子设备 | |
CN115633262B (zh) | 图像处理方法和电子设备 | |
CN115426449B (zh) | 一种拍照方法和终端 | |
CN117135471A (zh) | 一种图像处理方法和电子设备 | |
CN113989895A (zh) | 一种人脸皮肤分割方法、电子设备及存储介质 | |
CN113781358A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
KR20210101941A (ko) | 전자 장치 및 그의 hdr 영상 생성 방법 | |
JP2015119436A (ja) | 撮像装置 | |
CN113256501B (zh) | 一种图像处理方法、存储介质及终端设备 | |
CN115767287B (zh) | 图像处理方法与电子设备 | |
CN116055855B (zh) | 图像处理方法及其相关设备 | |
CN116723417B (zh) | 一种图像处理方法和电子设备 | |
WO2023077938A1 (zh) | 生成视频帧的方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |