CN117412185A - 图像生成方法、装置、电子设备和计算机可读存储介质 - Google Patents
图像生成方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN117412185A CN117412185A CN202210784679.2A CN202210784679A CN117412185A CN 117412185 A CN117412185 A CN 117412185A CN 202210784679 A CN202210784679 A CN 202210784679A CN 117412185 A CN117412185 A CN 117412185A
- Authority
- CN
- China
- Prior art keywords
- image
- frame
- exposure
- camera
- brightness
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 68
- 239000002131 composite material Substances 0.000 claims abstract description 36
- 238000004590 computer program Methods 0.000 claims abstract description 19
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 19
- 238000012545 processing Methods 0.000 claims description 77
- 235000019557 luminance Nutrition 0.000 claims description 63
- 230000009467 reduction Effects 0.000 claims description 35
- 238000011084 recovery Methods 0.000 claims description 20
- 238000013507 mapping Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 7
- 230000000875 corresponding effect Effects 0.000 description 34
- 238000003384 imaging method Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 230000002596 correlated effect Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000003705 background correction Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Abstract
本申请涉及一种图像生成方法、装置、电子设备、存储介质和计算机程序产品。该方法包括:获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧;基于各个第一合成帧,生成目标图像。采用本方法能够提高生成的图像的准确性。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种图像生成方法、装置、电子设备和计算机可读存储介质。
背景技术
自动曝光控制器(Auto Exposure Control,AEC)是ISP(Image SignalProcessor,图像信号处理器)成像系统中的重要单元,决定了成像画面的亮度表现力。传统自动曝光控制算法一般是根据硬件输出的RAW域统计信息:直方图、分块均值等,判断当前画面感兴趣区域(Region of Interest,ROI)的亮度与目标亮度差异,采取不同策略去逼近目标亮度,从而生成图像。
然而,传统的图像生成方法,存在生成的图像不够准确的问题。
发明内容
本申请实施例提供了一种图像生成方法、装置、电子设备、计算机可读存储介质、计算机程序产品,可以提高生成的图像的准确性。
第一方面,本申请提供了一种图像生成方法。所述方法包括:
获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;
针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧;
基于各个第一合成帧,生成目标图像。
第二方面,本申请提供了一种图像生成装置。所述装置包括:
获取模块,用于获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;
合成模块,用于针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧;
图像生成模块,用于基于各个第一合成帧,生成目标图像。
第三方面,本申请提供了一种电子设备。所述电子设备包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上述第一方面的图像生成方法的步骤。
第四方面,本申请提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面的方法的步骤。
第五方面,本申请提供了一种计算机程序产品。所述计算机程序产品包括计算机程序,该计算机程序被处理器执行时实现上述第一方面的方法的步骤。
上述图像生成方法、装置、电子设备、计算机可读存储介质、计算机程序产品,获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;针对每组亮度图像集,可以将同一组亮度图像集中各个亮度相近的待处理图像进行合成,避免亮度相差较大的图像帧进行合成而导致合成图像存在模糊或者鬼影等问题,可以得到更清晰更准确的第一合成帧,从而基于各个第一合成帧,生成更清晰、更准确的目标图像。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中图像生成方法的流程图;
图2为一个实施例中数字重叠宽动态范围模式和普通模式的曝光输出对比图;
图3为一个实施例中拍照算法的流程示意图;
图4为另一个实施例中图像生成方法的流程图;
图5为一个实施例中预览和拍摄的流程示意图;
图6为一个实施例中图像生成装置的结构框图;
图7为一个实施例中电子设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种图像生成方法,应用于电子设备,或者包括终端和服务器的系统,并通过终端和服务器的交互实现。其中,电子设备可以是终端,也可以是服务器。终端可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
本实施例中,该方法包括以下步骤:
步骤102,获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内。
可选地,电子设备检测各个待处理图像帧的亮度,将处于同一亮度范围内的各个待处理图像帧构成同一组亮度图像集。同一个亮度范围中的亮度上限值和亮度下限值之差在预设范围内,也即每组亮度图像集中各个待处理图像帧的亮度差在预设范围内。
同一组亮度图像集中的各个图像帧的图像亮度可以相同,也可以不同,但是同一组亮度图像集中各个待处理图像帧的亮度差在预设范围内。其中,预设范围可以根据需要进行设置。
可选地,电子设备在相机进入数字重叠宽动态范围模式的情况下,获取至少两组不同亮度的亮度图像集。
图2为一个实施例中数字重叠宽动态范围模式和普通模式的曝光输出对比图。在图2中,相机在数字重叠宽动态范围(Digital Overlap-High Dynamic Range,DOL-HDR)模式下,可以支持长曝光数据和短曝光数据在一帧内输出,也即长曝光数据和短曝光数据之间曝光的时间间隔很短,可以优化运动鬼影问题;而普通模式的长曝光数据和短曝光数据分别在不同帧内输出。
如图2所示,相机在数字重叠宽动态范围模式下以及在普通模式下,长曝光数据的曝光时长和短曝光数据的曝光时长之间的比值均为2:1,则相机在数字重叠宽动态范围模式下长曝光数据和短曝光数据的输出帧率为30fps(Frames Per Second,每秒传输帧数),而相机在普通模式下长曝光数据和短曝光数据的输出帧率为60fps。
需要说明的是,相机在数字重叠宽动态范围模式下,可以支持长曝光数据和短曝光数据在一帧内输出,还可以支持3-4种或者更多种不同曝光数据在一帧内输出,在此不做限定。可以理解的是,相机曝光的多帧重叠的图像帧构成一个重叠图像集。
步骤104,针对每组亮度图像集,将亮度图像集中各个待处理图像帧进行合成得到第一合成帧。
第一合成帧是一个亮度图像集中各个待处理图像合成得到的图像帧。其中,一组亮度图像集中各个待处理图像帧合成得到一帧第一合成帧。
可选地,针对每组亮度图像集,电子设备将亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
进一步地,针对每组亮度图像集,电子设备通过图像恢复网络将亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
其中,图像恢复网络可以是CNN(Convolutional Neural Networks,卷积神经网络)实现的AI(Artificial Intelligence,人工智能)模型。例如采用UNET等网络结构实现多帧降噪和去马赛克的融合网络。
待处理图像为RAW域图像,经过去马赛克处理后,可以将RAW域图像转换为RGB域的图像,即第一合成帧是RGB域图像。
其中,亮度图像集中各个图像帧均为RAW域图像,图像恢复网络具有降噪(NoiseReductio,NR)功能和去马赛克(demosaic)功能,能够充分发挥RAW域降噪的优势。另外,采用多帧降噪功能和去马赛克功能相融合的图像恢复网络,在算法端实现去马赛克处理,替换掉传统技术中平台端去马赛克这一清晰度提升的瓶颈模块,有利于获取更清晰的第一合成帧,从而得到更清晰的目标图像。
步骤106,基于各个第一合成帧,生成目标图像。
在一种可选的实施方式中,电子设备采用HDR(High Dynamic Range Imaging,高动态范围成像)将各个第一合成帧进行合成,生成高动态范围的目标图像。其中,高动态范围的目标图像具有更宽的曝光动态范围,即更大的明暗差别,可以表现出更多的亮度信息。
在另一种可选的实施方式中,电子设备将各个第一合成帧中同一位置的像素进行平均处理,得到目标图像。
在其他实施方式中,电子设备还可以采用其他方式基于各个第一合成帧生成目标图像,在此不做限定。
上述图像生成方法获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;针对每组亮度图像集,可以将同一组亮度图像集中各个亮度相近的待处理图像进行合成,避免亮度相差较大的图像帧进行合成而导致合成图像存在模糊或者鬼影等问题,可以得到更清晰更准确的第一合成帧,从而基于各个第一合成帧,生成更清晰、更准确的目标图像。
在一个实施例中,至少两组亮度图像集包括第一亮度图像集、第二亮度图像集和第三亮度图像集中的至少两种,第一亮度图像集包括多个第一图像帧,第二亮度图像集包括多个第二图像帧,第三亮度图像集包括至少一个第三图像帧,第一图像帧的亮度大于第二图像帧的亮度,第二图像帧的亮度大于第三图像帧的亮度。
针对每组亮度图像集,通过图像恢复网络将亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧,包括:针对第一亮度图像集,通过多帧图像恢复网络将第一亮度图像集中各个第一图像帧进行降噪处理和去马赛克处理,得到第一亮度图像集对应的第一合成帧;针对第二亮度图像集,通过多帧图像恢复网络将第二亮度图像集中各个第二图像帧进行降噪处理和去马赛克处理,得到第二亮度图像集对应的第一合成帧;针对第三亮度图像集,通过多帧图像恢复网络或者单帧图像恢复网络将第三亮度图像集中各个第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
其中,第一图像帧可以包括多个亮度相同的图像帧,如第一图像帧包括第一曝光图像帧、第二曝光图像帧和第三曝光图像帧。
可以理解的是,多帧图像恢复网络用于对多帧图像进行处理,单帧图像恢复网络用于对单帧图像进行处理。
若第三亮度图像集中包括一个第三图像帧,则通过单帧图像恢复网络将第三亮度图像集中的第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
示例性的,若相机当前所处的目标拍摄场景为第二拍摄场景或第三拍摄场景,第三亮度图像集中包括一个第三图像帧,则通过单帧图像恢复网络将第三亮度图像集中的第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
若第三亮度图像集中包括多个第三图像帧,则通过单帧图像恢复网络将第三亮度图像集中的多个第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
示例性的,若相机当前所处的目标拍摄场景为第四拍摄场景,第三亮度图像集中包括多个第三图像帧,则通过单帧图像恢复网络将第三亮度图像集中的多个第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
进一步地,电子设备获取连续相邻的多帧高清视频流进行逆ISP处理,得到RAW图像帧数据作为训练集,模拟出多帧图像恢复网络和单帧图像恢复网络的输入数据,基于训练集对多帧图像恢复网络和单帧图像恢复网络进行训练,得到训练完成的多帧图像恢复网络和单帧图像恢复网络。其中,从训练集中选择最清晰的一帧图像作为训练时的基准帧。
在本实施例中,电子设备针对不同的亮度图像集,分别采用多帧图像恢复网络或者单帧图像恢复网络,可以更准确地对亮度图像集中的各个图像帧进行降噪处理和去马赛克处理,更准确地得到不同的亮度图像集对应的第一合成帧。
在一个实施例中,基于各个第一合成帧,生成高动态范围的目标图像,包括:将各个第一合成帧进行合成,得到第二合成图像;第二合成图像的位宽大于或者等于预设位宽阈值;将第二合成图像进行色调映射和图像信号处理,得到高动态范围的目标图像。
可选地,将各个第一合成帧进行合成,得到高动态范围的第二合成图像。
其中,预设位宽阈值可以根据需要设置。例如,假设预设位宽阈值为8BIT。位宽是指内存或显存一次能传输的数据量,例如,图像的输出格式是8BIT,即图像中的8BIT表示的含义是这帧图像的亮度值或者色度值是用位宽8BIT的变量存储的,因此亮度值或者色度值的范围就是0-255。如果是10BIT图像,亮度值或者色度值范围就是0-1023。
色调映射(tone mapping)可以包括全局色调映射和局部色调映射中至少一种。图像信号处理(ISP,Image Signal Processor)至少包括减黑电平、镜头阴影校正、色彩校正矩阵处理或白平衡处理等。
在本实施例中,电子设备将各个第一合成帧进行合成,得到第二合成图像,该第二合成图像的位宽大于或者等于预设位宽阈值,可以传输亮度或者色度值更丰富的第二合成图像,再依次进行色调映射和图像信号处理,可以得到亮度或者色度更丰富的目标图像。
在一个实施例中,获取至少两组不同亮度的亮度图像集,包括:获取基准帧,以及除基准帧之外的第一待处理图像帧;将第一待处理图像帧与基准帧进行对齐处理,得到第二待处理图像帧;将基准帧和各个第二待处理图像帧按照图像亮度进行分组,得到至少两组亮度图像集。
基准帧是作为基准,并用于其他图像帧进行对齐处理的图像帧。
电子设备从各个待处理图像帧中确定出基准帧,以及从各个待处理图像帧中确定出除基准帧之外的第一待处理图像帧;将第一待处理图像帧与基准帧进行对齐处理,可以得到对齐后的更准确的第二待处理图像帧,可以在后续的图像融合过程中,更准确地进行融合,从而得到更准确的目标图像。
可选地,电子设备检测基准帧和各个第二待处理图像帧的图像亮度,将处于亮度差在预设范围内的图像帧构成同一组亮度图像集。
在本实施例中,电子设备获取基准帧,将第一待处理图像帧与基准帧进行对齐处理,可以得到对齐处理后更准确的第二待处理图像帧,从而基于基准帧和各个第二待处理图像帧,可以更准确进行亮度分组。
在一个实施例中,获取基准帧,包括:基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对;基于目标拍摄场景,从多组待融合图像对中确定出基准帧。
待融合图像对是用于融合得到目标图像的图像对。待融合图像对包括至少两个图像帧。例如,待融合图像对包括第一曝光图像帧和第二图像帧。多组待融合图像对可以包括同一类型的图像对,也可以包括不同类型的图像对。
电子设备可以从拍摄操作之前的重叠图像集中获取目标拍摄场景对应的多组待融合图像对,也可以从拍摄操作之后的重叠图像集中获取目标拍摄场景对应的多组待融合图像对,还可以从拍摄操作之前以及拍摄操作之后的重叠图像集中获取目标拍摄场景对应的多组待融合图像对,在此不做限定。
需要说明的是,在触发拍摄操作后,重新配置新的曝光参数,新的曝光参数生效一般会延迟指定时长,因此,若电子设备调整曝光参数之后,需要等待指定时长后再获取新的曝光参数曝光得到的图像帧,防止融合得到的目标图像出现鬼影。其中,指定时长可以是2帧。
电子设备基于目标拍摄场景,从多组待融合图像对中确定出与该目标拍摄场景相匹配的基准帧,以保证进行零延时拍摄得到目标图像。其中,零延时指目标图像的运动状态与触发拍摄操作时预览画面的运动状态之间的时间间隔<100ms(毫秒)。
可以理解的是,相机处于不同的拍摄场景下,获取的多组待融合图像对不同,则需要基于相机当前所处的目标拍摄场景,确定出与该目标拍摄场景相匹配的基准帧,以实现其他图像帧与该基准帧更准确进行对齐处理,从而提高生成的目标图像的准确性。
在一种可选的实施方式中,电子设备基于目标拍摄场景,从多组待融合图像对中确定出多组候选的图像对,以及从多组候选的图像对中确定出基准帧。其中,多组候选的图像对可以是与拍摄操作时间节点相邻的指定数量的图像对,也可以是包括拍摄操作时间节点的预设时长内得到的多组候选的图像对,还可以是其他根据需要设置的候选的图像对,在此不做限定。指定数量和预设时长均可以根据需要进行设置。
例如,候选的图像对可以是与拍摄操作时间节点相邻的3组图像对,也可以是与拍摄操作时间节点相邻的且处于拍摄操作时间节点之前的2组图像对,还可以是包括拍摄操作时间节点的1ms(毫秒)内得到的多组候选的图像对。
在另一种可选的实施方式中,电子设备基于目标拍摄场景,从多组待融合图像对中确定出目标亮度的图像帧,以及从目标亮度的图像帧中确定出基准帧。其中,目标亮度可以包括第一亮度、第二亮度和第三亮度中的一种。第一亮度、第二亮度和第三亮度依次减小。
在本实施例中,电子设备基于相机当前所处的目标拍摄场景,可以获取目标拍摄场景对应的多组待融合图像对;进一步地,可以基于目标拍摄场景从多组待融合图像对中确定出该目标拍摄场景对应的基准帧。那么,在该目标拍摄场景下,该基准帧可以与多组待融合图像对中除基准帧之外的第一待处理图像帧更准确地进行对齐处理,得到更准确的第二待处理图像帧,从而基于基准帧和各个第二待处理图像帧,生成与该目标拍摄场景更匹配的、更准确的目标图像。
在一个实施例中,如图3所示,在相机进入数字重叠宽动态范围模式的情况下,电子设备采用拍照算法将各个待处理图像帧进行处理,再经过图像信号处理器进行图像信号处理,得到目标图像。
其中,拍照算法,具体包括:电子设备基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组RAW域的待融合图像对;多组RAW域、10bit的待融合图像对包括N组初始图像对(EV0,EV-)和(EV0S,EV--),或者N组初始图像对(EV0,EV-)和(EV--,EV0L)。电子设备基于目标拍摄场景,从多组待融合图像对中确定出基准帧,将各个第一待处理图像帧与基准帧进行多帧对齐,得到第二待处理图像帧。
电子设备将基准帧和各个第二待处理图像帧按照图像亮度进行分组,得到3组亮度图像集,分别为第一亮度图像集、第二亮度图像集和第三亮度图像集;第一亮度图像集包括RAW域、10bit的N*EV0和EV0S,或者RAW域、10bit的N*EV0和EV0L;第二亮度图像集包括RAW域、10bit的N*EV-,第三亮度图像集包括至少一个RAW域、10bit的EV--。其中,N大于或等于2。
针对第一亮度图像集,通过多帧图像恢复网络将第一亮度图像集中各个图像帧进行降噪处理和去马赛克处理,得到RGB域、10bit的一帧第一合成帧EV0;针对第二亮度图像集,通过多帧图像恢复网络将第二亮度图像集中各个第二图像帧进行降噪处理和去马赛克处理,得到RGB域、10bit的一帧的第一合成帧EV-;针对第三亮度图像集,通过多帧图像恢复网络或者单帧图像恢复网络将第三亮度图像集中各个第三图像帧进行降噪处理和去马赛克处理,得到RGB域、10bit的一帧第一合成帧EV--。
电子设备将各个第一合成帧进行合成得到RGB域、16bit的一帧第二合成图像,该第二合成图像为HDR图像。电子设备将第二合成图像进行色调映射,可以得到RGB域、10bit的一帧HDR图像;再通过相关的图像信号处理器进行图像处理,得到高动态范围的目标图像。
在一个实施例中,相机当前所处的目标拍摄场景的确定方式,包括:获取预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种;基于预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种,确定相机当前所处的目标拍摄场景。
场景动态范围是相机所拍摄的场景的明暗差别的范围。可以理解的是,场景动态范围越大,表示相机所拍摄的场景中亮区和暗区的差别越大。
在一种实施方式中,在相机进入数字重叠宽动态范围模式的情况下,电子设备获取预览画面中各个亮区和暗区,并生成该预览画面中各个区域的亮度直方图,基于该亮度直方图中亮区和暗区的分布,可以确定出预览画面的场景动态范围。
在另一种实施方式中,在相机进入数字重叠宽动态范围模式的情况下,电子设备将预览画面进行分块,获取每个块的亮度均值,基于各个块的亮度均值的分布情况,确定出预览画面的场景动态范围。具体地,电子设备可以从各个块的亮度均值的分布情况中确定亮度最高的块和亮度最低的块,则基于该亮度最高的块和亮度最低的块,可以确定出预览画面的场景动态范围。
在其他实施方式中,电子设备还可以采用其他方式确定出预览画面的场景动态范围,在此不做限定。
预览画面的运动状态包括稳定状态和非稳定状态。
环境照度是反映目标所处环境明暗的物理量,数值上等于垂直通过单位面积的光通量。
目标拍摄场景是相机当前所处的拍摄场景。例如,目标拍摄场景可以是场景动态范围的区间长度小于或等于预设长度阈值的场景,也可以是预览画面的运动状态为稳定状态的场景,还可以是场景动态范围的区间长度大于预设长度阈值的场景、且预览画面的运动状态为稳定状态的场景,在此不做限定。
在一种可选的实施方式中,电子设备依次判断预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度,确定相机当前所处的目标拍摄场景。
在另一种可选的实施方式中,电子设备基于预览画面的场景动态范围,确定相机当前所处的目标拍摄场景。
在另一种可选的实施方式中,电子设备依次判断预览画面的场景动态范围和预览画面的运动状态,确定相机当前所处的目标拍摄场景。
在其他实施方式中,电子设备还可以采用其他方式确定相机当前的目标拍摄场景,在此不做限定。
在本实施例中,电子设备获取预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种,可以准确地确定相机当前所处的目标拍摄场景。进一步地,依次判断预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度,可以更准确地确定相机当前所处的目标拍摄场景。
在一个实施例中,基于预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种,确定相机当前所处的目标拍摄场景,包括:基于场景动态范围,确定出相机曝光的每组重叠图像集中,第一曝光图像帧和第二图像帧之间的曝光时长比;第一曝光图像帧的曝光时长大于第二图像帧的曝光时长,曝光时长比和场景动态范围成正相关;基于曝光时长比,确定相机当前所处的目标拍摄场景。
可以理解的是,相机在数字重叠宽动态范围模式下,前一种图像帧曝光输出还未结束,后一种图像帧曝光输出已经开始,因此,每个曝光周期内的多种图像帧在曝光时间上存在重叠,每个曝光周期内得到的多种图像帧,构成相机曝光的每组重叠图像集。
曝光时长比指的是第一曝光图像帧(EV0)的曝光时长和第二图像帧(EV-)的曝光时长之间的比值。从该曝光时长比可以得知当前的实际存在的场景动态范围的大小。例如,曝光时长比较小,则可以得知当前的实际存在的场景动态范围也较小。其中,EV(ExposureValues)是反映曝光多少的一个量,当感光度为ISO 100、光圈系数为F1、曝光时间为1秒时,曝光量定义为0,曝光量减少一档(快门时间减少一半或者光圈缩小一档),EV+1;曝光量增一档(快门时间增加一倍或者光圈增加一档),EV-1。
可以理解的是,场景动态范围越大,为了呈现画面中的高光信息和暗区信息,则第一曝光图像帧和第二图像帧之间的曝光时长比也需要越大,第一曝光图像帧的曝光时长大于第二图像帧的曝光时长,第一曝光图像帧可以呈现出画面中的高光信息,第二图像帧可以呈现出画面中的暗区信息。也就是说,曝光时长比和场景动态范围成正相关。可以理解的是,第一曝光图像帧可为长曝光图像帧,第二图像帧可为短曝光图像帧。
具体地,电子设备获取预先设置的场景动态范围和曝光时间比之间的对应关系,基于场景动态范围,从该对应关系中,确定出相机曝光的每组重叠图像集中,第一曝光图像帧和第二图像帧之间的曝光时长比。其中,该对应关系使得曝光时长比和场景动态范围成正相关。
在一种实施方式中,场景动态范围和曝光时间比之间的对应关系,可以是正比关系。在另一种实施方式中,电子设备依次设置每个场景动态范围所对应的曝光时间比,并保证场景动态范围与曝光时间比成正相关。在其他实施方式中,电子设备还可以采用其他方式确定场景动态范围和曝光时间比之间的对应关系,在此不做限定。
可以理解的是,曝光时长比和场景动态范围成正相关,则曝光时长比较大,相机所处的环境中客观存在的场景动态范围也较大;曝光时长比较小,相机所处的环境中客观存在的场景动态范围也较小。因此,可以基于曝光时长比,准确地确定出相机当前所处的目标拍摄场景。
在本实施例中,电子设备基于场景动态范围,确定出相机曝光的每组重叠图像集中第一曝光图像帧和第二图像帧之间的曝光时长比;其中,第一曝光图像帧的曝光时长大于第二图像帧的曝光时长,且曝光时长比和场景动态范围成正相关。那么,该第一曝光图像帧和第二图像帧可以更好地呈现出当前的场景动态范围,即较大曝光时长的第一曝光图像帧可以呈现出画面中的高光信息,较小曝光时长的第二图像帧可以呈现出画面中的暗区信息,从而基于曝光时长比,更准确地确定出相机当前所处的目标拍摄场景。进一步地,基于该目标拍摄场景,可以更准确地获取目标拍摄场景对应的多组待融合图像对,以及从多组待融合图像对中确定出基准帧,从而得到更准确的目标图像。
在一个实施例中,基于曝光时长比,确定相机当前所处的目标拍摄场景,包括:若曝光时长比小于或等于预设时长比阈值,则确定相机当前所处的目标拍摄场景为第一拍摄场景;第一拍摄场景的场景动态范围的区间长度小于预设长度阈值;若曝光时长比大于预设时长比阈值,则根据预览画面的运动状态或相机当前所处的环境照度确定相机当前所处的目标拍摄场景。
预设时长比阈值可以根据需要进行设置。例如,预设时长比阈值可以为16。
若曝光时长比小于或等于预设时长比阈值,表示该预览画面的场景动态范围较小,相机当前处于第一拍摄场景;若曝光时长比大于预设时长比阈值,表示该预览画面的场景动态范围较大,则确定预览画面的运动状态,并根据该预览画面的运动状态或相机当前所处的环境照度,判断出相机当前所处的目标拍摄场景。
在一个实施例中,预览画面的运动状态的确定方式,包括:获取陀螺仪的角速度,以及检测预览画面的运动幅度;若角速度小于或等于预设角速度阈值,且运动幅度小于或等于预设运动阈值,则确定预览画面的运动状态为稳定状态;若角速度大于预设角速度阈值,或运动幅度大于预设运动阈值,则确定预览画面的运动状态为非稳定状态。
预设角速度阈值和预设运动阈值均可以根据需要进行设置。
可以理解的是,陀螺仪的角速度表征电子设备的抖动程度,预览画面的运动幅度表征预览画面的运动程度,若角速度小于或等于预设角速度阈值,且运动幅度小于或等于预设运动阈值,则表示电子设备较稳定且预览画面也较稳定,预览画面的运动状态为稳定状态。若角速度大于预设角速度阈值,或运动幅度大于预设运动阈值,则可以确定预览画面的运动状态为非稳定状态。
在本实施例中,电子设备基于陀螺仪的角速度和预览画面的运动幅度,可以准确地确定出预览画面的运动状态,从而基于运动状态,更准确地确定出多组待融合图像对。
在一个实施例中,根据预览画面的运动状态确定相机当前所处的目标拍摄场景,包括:若运动状态为稳定状态,则确定相机当前所处的目标拍摄场景为第二拍摄场景;若运动状态为非稳定状态,则根据相机当前所处环境的环境照度确定相机当前所处的目标拍摄场景。
第二拍摄场景为曝光时长比大于预设时长比阈值、且运动状态为稳定状态的场景。
在一个实施例中,根据相机当前所处环境的环境照度确定相机当前所处的目标拍摄场景,包括:若环境照度大于或等于预设环境阈值,则确定相机当前所处的目标拍摄场景为第三拍摄场景;若环境照度小于预设环境阈值,则确定相机当前所处的目标拍摄场景为第四拍摄场景。
第三拍摄场景为曝光时长比大于预设时长比阈值、运动状态为非稳定状态、且环境照度大于或等于预设环境阈值的场景。
第四拍摄场景为曝光时长比大于预设时长比阈值、运动状态为非稳定状态、且环境照度小于预设环境阈值的场景。
在一个实施例中,如图4所示,电子设备执行步骤402,根据预览画面的场景动态范围,确定第一曝光图像帧和第二图像帧之间的曝光时长比;继续执行步骤404,判断曝光时长比>th1;若判断为否,则相机当前所处的目标拍摄场景为第一拍摄场景,执行步骤406;若判断为是,则执行步骤408。
步骤406,取出拍摄操作之前的N组(EV0,EV-)作为待融合图像对。再将各组待融合图像对进行融合,得到目标图像。其中,EV0为第一曝光图像帧,EV-为第二图像帧。其中,N大于或等于2。
步骤408,获取陀螺仪的角速度,以及检测预览画面的运动幅度;继续执行步骤410,判断角速度>th2,或预运动幅度>th3;若判断为否,则相机当前所处的目标拍摄场景为第二拍摄场景,执行步骤412;若判断为是,则执行步骤414。
步骤412,取出拍摄操作之前的N组(EV0,EV-),以及拍摄操作之后的一组(EV--,EV0L)作为待融合图像对。再将各组待融合图像对进行融合,得到目标图像。其中,EV--为第三图像帧,EV0L为与第一曝光图像帧相同亮度的第二曝光图像帧。
步骤414,确定相机所处环境的环境照度;继续执行步骤416,判断环境照度<th4;若判断为否,则相机当前所处的目标拍摄场景为第三拍摄场景,执行步骤418;若判断为是,则相机当前所处的目标拍摄场景为第四拍摄场景,执行步骤420。
步骤418,取出拍摄操作之前的N组(EV0,EV-),以及拍摄操作之后的一组(EV0S,EV--)作为待融合图像对。再将各组待融合图像对进行融合,得到目标图像。其中,EV0S为与第一曝光图像帧相同亮度的第三曝光图像帧,EV--为第三图像帧。
步骤420,取出拍摄操作之前的N组(EV0S,EV-),以及拍摄操作之后的M组(EV--,EV0L)作为待融合图像对。再将各组待融合图像对进行融合,得到目标图像。其中,M大于或等于2。
在一个实施例中,基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对,包括:若相机当前所处的目标拍摄场景为第一拍摄场景,则响应于拍摄操作,从拍摄操作之前相机曝光的重叠图像集中,获取多组初始图像对作为第一拍摄场景对应的多组待融合图像对;第一拍摄场景的场景动态范围的区间长度小于或等于预设长度阈值,每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度。
预设长度阈值可以根据需要进行设置。
若相机当前所处的目标拍摄场景为第一拍摄场景,即相机的预览画面的场景动态范围的区间长度小于或等于预设长度阈值,该预览画面的场景动态范围较小,则可以直接从拍摄操作之前相机曝光的重叠图像集中,获取多组初始图像对作为第一拍摄场景对应的多组待融合图像对,避免将拍摄操作之后的图像帧作为待融合图像造成的重新计算曝光参数及生效的等待时间,提高生成图像的效率。
在本实施例中,在第一拍摄场景下,电子设备基于多组待融合图像对中的第二图像帧,可以保证生成的目标图像零延时并且运动抓拍清晰,基于多组待融合图像对中第一曝光图像帧和第二图像帧之间的曝光时长比,可以保证生成的目标图像具有高动态,基于多组待融合图像对中的第一曝光图像帧,可以保证生成的目标图像低噪声且高画质,从而生成更加准确的目标图像。
其中,零延时:指目标图像的运动状态与触发拍摄操作时预览画面的运动状态之间的时间间隔<100ms(毫秒)。
高动态:预览画面的最大动态范围>84dB(分贝),目标图像的最大动态范围>120dB。
运动抓拍清晰:成像基准帧的曝光时长小于指定时长。例如,指定时长可以是正常曝光帧曝光时长的1/4,可以降低运动模糊。其中,成像基准帧是成像系统在处理时用于其他图像帧进行对齐的图像帧。
低噪声高画质:有较高信噪比的多个输入帧,以进行多帧降噪进一步提升最终成像信噪比。
在一个实施例中,基于目标拍摄场景,从多组待融合图像对中确定出基准帧,包括:基于第一拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第二图像帧;从各个候选的第二图像帧中确定出基准帧。
具体地,电子设备可以从作为待融合图像对的多组初始图像对中,确定出与拍摄操作时间节点相邻的指定数量初始图像对,从相邻的指定数量的初始图像对中各个候选的第二图像帧中确定出基准帧。其中,指定数量可以根据需要进行设置。
在一种实施方式中,电子设备可以从各个候选的第二图像帧中确定清晰度最高的第二图像帧作为基准帧。在另一种实施方式中,电子设备可以获取各个候选的第二图像帧的噪声水平,选取噪声水平最低的第二图像帧作为基准帧。在其他实施方式中,电子设备还可以采用其他方式确定基准帧,在此不做限定。
例如,作为待融合图像对的多组初始图像对为(EV0,EV-)、…、(EV0,EV-)、(EV0,EV-)、(EV0,EV-)(拍照操作),每组初始图像对(EV0,EV-)中,EV0为第一曝光图像帧,EV-为第二图像帧,指定数量为3,则确定出与拍摄操作时间节点相邻的3组初始图像对,从3组初始图像对的3个候选的第二图像帧EV-中确定出基准帧。
可以理解的是,第一拍摄场景的场景动态范围较小,从拍摄操作之前曝光得到的第二图像帧中确定基准帧,既能满足零延时和运动抓拍清晰的需求,又可以通过算法去除该基准帧中运动区域噪声,得到更清晰的基准帧。
在一个实施例中,基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对,包括:若相机当前所处的目标拍摄场景为第二拍摄场景,则响应于拍摄操作,将相机调整至第一曝光参数,以第一曝光参数曝光得到第二曝光图像帧;第二拍摄场景的场景动态范围的区间长度大于预设长度阈值,且预览画面的运动状态为稳定状态;第二曝光图像帧的曝光时长大于预设时长阈值;从拍摄操作之前相机曝光的重叠图像集中确定出多组初始图像对作为待融合图像对,以及获取第一图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第一图像对包括第三图像帧和与第一曝光图像帧相同亮度的第二曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度。
第一曝光参数是第二拍摄场景下相机所对应调整的曝光参数。第一曝光参数用于至少曝光得到第二曝光图像帧,且第二曝光图像帧的曝光时长大于预设时长阈值。可以理解的是,第二曝光图像帧的曝光时长大于预设时长阈值,也即第二曝光图像帧为长曝光时长的图像帧(EV0L),可以呈现出画面中的高光信息。
可选地,在拍摄操作之后,相机经过延迟时长之后以第一曝光参数进行曝光,并将延迟时长内曝光得到的多组初始图像对作为待融合图像对。
可以理解的是,电子设备检测到拍摄操作之后,需要对该拍摄操作进行相应的处理,如获取拍摄操作的操作信息、重新调整曝光参数等处理,需要一定的延迟时长。因此,在该延迟时长内,相机以原先的曝光参数进行曝光得到多组初始图像对。其中,延迟时长由相机的硬件参数和图像算法共同决定。
可以理解的是,第一曝光图像帧的曝光时长大于第二图像帧的曝光时长,也即第一曝光图像帧为长曝光时长的图像帧,第一曝光图像帧的曝光量较大,第二图像帧为短曝光时长的图像帧,第二图像帧的曝光量较小,而第三图像帧的曝光量小于第二图像帧的曝光量,第三图像帧为更欠曝帧(EV--)。例如,第三图像帧的曝光量可以为-6EV或-7EV。
进一步地,第二曝光图像帧的亮度增益由ISO(photosensibility,感光度)转换为曝光时长来实现。例如,第一曝光图像帧是曝光时长20ms,ISO 200,第二曝光图像帧维持与第一曝光图像帧相同的亮度,曝光量(曝光时长*ISO)保持不变,通过延长曝光时长,并且降低ISO(如变为曝光时长40ms,ISO100)来提升输出图像信噪比。
可以理解的是,第二拍摄场景的场景动态范围的区间长度大于预设长度阈值,且预览画面的运动状态为稳定状态,因此需要重新设置曝光参数,再取一帧更欠曝的第三图像帧来呈现高亮区的信息。例如,将第二图像帧定义为-a/2EV,则第三图像帧可以定义为-aEV。另外,由于第二拍摄场景的场景动态范围较大且预览画面的运动状态为稳定状态,此时在拍摄操作之后获取第二曝光图像帧,该第二曝光图像帧的全局画面不会因为曝光时长较长而容易导致运动模糊,第二曝光图像帧可以提供信噪比更好的图像,有助于提升暗区画质。
示例性的,待融合图像对包括(EV0,EV-)、…、(EV0,EV-)、(EV0,EV-)(拍摄操作)、(EV0,EV-)、(EV0,EV-)、(EV--,EV0L),每组初始图像对(EV0,EV-)中,EV0为第一曝光图像帧,EV-为第二图像帧,在拍摄操作的延迟时长内曝光得到2组初始图像对(EV0,EV-),在延迟时长之后以第一曝光参数进行曝光得到第一图像对(EV--,EV0L),EV--为第三图像帧,EV0L为第二曝光图像帧,则从拍摄操作之前作为待融合图像对的2组初始图像对、和拍摄操作之后的延迟时长内作为待融合图像对的2组初始图像对中,确定出多个候选的第一曝光图像帧。
在本实施例中,在第二拍摄场景下,电子设备基于多组待融合图像对中的第二图像帧,可以保证得到的目标图像零延时和运动抓拍清晰,第一曝光图像帧、第二图像帧和第三图像帧之间的曝光时长比可以保证目标图像具有高动态,拍摄操作之前曝光得到的第一曝光图像帧和拍摄操作之后得到的与第一曝光图像帧相同亮度的第二曝光图像帧,可以保证目标图像具有低噪声且高画质,从而生成更加准确的目标图像。
在一个实施例中,基于目标拍摄场景,从多组待融合图像对中确定出基准帧,包括:基于第二拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第一曝光图像帧;从各个候选的第一曝光图像帧中确定出基准帧。
具体地,在第二拍摄场景下,电子设备可以从作为待融合图像对的多组初始图像对中,确定出与拍摄操作时间节点相邻的指定数量初始图像对,从相邻的指定数量的初始图像对中各个候选的第一曝光图像帧中确定出基准帧。其中,指定数量可以根据需要进行设置。
在一种实施方式中,电子设备可以获取各个候选的第一曝光图像帧的清晰度,选取清晰度最高的第一曝光图像帧作为基准帧。在另一种实施方式中,电子设备可以获取各个候选的第一曝光图像帧的噪声水平,选取噪声水平最低的第一曝光图像帧作为基准帧。在其他实施方式中,电子设备还可以采用其他方式确定基准帧,在此不做限定。
可以理解的是,第二拍摄场景的场景动态范围较大且预览画面的运动状态为稳定状态,若选取第二图像帧作为基准帧则画面运动区域噪声较大,算法难以处理,因此从各个候选的第一曝光图像帧中确定基准帧,可以得到噪声水平较低的基准帧。
在一个实施例中,基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对,包括:若相机当前所处的目标拍摄场景为第三拍摄场景,则响应于拍摄操作,将相机调整至第二曝光参数;第三拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度大于或等于预设环境阈值;从拍摄操作之前相机曝光的重叠图像集中,确定出多组初始图像对作为待融合图像对,以及获取第二图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第二图像对包括第三图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度,第二图像对中至少一个图像帧是相机在拍摄操作之后以第二曝光参数曝光得到的,第三曝光图像帧的曝光时长小于或等于预设时长阈值。
在拍摄操作之后,相机经过延迟时长之后以第二曝光参数进行曝光,并将延迟时长内曝光得到的多组初始图像对作为待融合图像对。
可以理解的是,若相机所处环境的环境照度降低,则自动曝光控制器会自动进行降帧并延长曝光时间以提升画质。然而,若将输出的帧率降帧至最低帧率以下,则会造成预览画面的卡顿,因此帧率不能无限制的往下降,通常设定最低帧率为16fps(Frames PerSecond,每秒传输帧数)。也即,基于环境照度自动调整的帧率,大于或等于最低帧率。
预设环境阈值可以根据进行设置。环境照度大于或等于预设环境阈值,则相机基于环境照度自动调整的帧率大于或等于最低帧率,可以响应于拍摄操作,将相机调整至第二曝光参数。
第二曝光参数是第三拍摄场景下相机所对应调整的曝光参数。第二曝光参数用于曝光得到第二图像对中至少一个图像帧,第二图像对包括第三图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧。
第三图像帧的曝光量小于第二图像帧的曝光量,而第二图像帧的曝光时长小于第一曝光图像帧的曝光时长,因此第三图像帧为更欠曝帧。第三曝光图像帧的曝光时长小于或等于预设时长阈值,也即第三曝光图像帧为短曝光时长的图像帧。例如,第三曝光图像帧的曝光时长为第一曝光图像帧曝光时长的1/2-1/4。
进一步地,第三曝光图像帧的亮度增益通过转换曝光时长为ISO(感光度)来实现。假设第一曝光图像帧的曝光参数是曝光时长20ms,ISO 200,第三曝光图像帧维持与第一曝光图像帧相同的亮度,曝光量(曝光时长*ISO)保持不变,通过提升ISO降低曝光时长(如变为曝光时长5ms,ISO 800)来降低运动模糊,为后续的运动区域处理提供空间。
示例性的,例如,在第三拍摄场景下,待融合图像对包括(EV0,EV-)、…、(EV0,EV-)、(EV0,EV-)(拍摄操作)、(EV0,EV-)、(EV0,EV-)、(EV0S,EV--),每组初始图像对(EV0,EV-)中,EV0为第一曝光图像帧,EV-为第二图像帧,在拍摄操作的延迟时长内曝光得到2组初始图像对(EV0,EV-),在延迟时长之后以第二曝光参数进行曝光得到第二图像对(EV0S,EV--),EV--为第三图像帧,EV0S为第三曝光图像帧,则将第二图像对中的第三曝光图像帧确定为基准帧。
在本实施例中,在第三拍摄场景下,电子设备基于多组待融合图像对中的第三曝光图像帧,可以保证得到的目标图像的零延时和运动抓拍清晰,第一曝光图像帧、第二图像帧和第三图像帧之间的曝光时长比,可以保证目标图像具有高动态,拍摄操作之前曝光得到的第一曝光图像帧可以保证目标图像的低噪声且高画质,从而提高生成的目标图像的准确性。
在一个实施例中,基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对,包括:若相机当前所处的目标拍摄场景为第三拍摄场景,则响应于拍摄操作,从拍摄操作之前相机曝光的重叠图像集中,确定出第二图像对和多组初始图像对作为待融合图像对;第三拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度大于或等于预设环境阈值;每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第二图像对包括第三图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度,第三曝光图像帧的曝光时长小于或等于预设时长阈值。
可以理解的是,第三图像帧的曝光量小于第二图像帧的曝光量,则第三图像帧的曝光时长较小,第三图像帧和第三曝光图像帧的曝光时长均较短,可以从拍摄操作之前相机曝光的多组重叠图像集中获取得到,可以缩短取帧时间,从而提高图像生成的效率。
其中,相机在数字重叠宽动态范围模式下,曝光的每组重叠图像集中包括至少3个图像帧,则可以从每组重叠图像集中获取到第一曝光图像帧、第二图像帧。
在本实施例中,在第三拍摄场景下,电子设备基于多组待融合图像对中的第三曝光图像帧,可以保证得到的目标图像的零延时和运动抓拍清晰,第一曝光图像帧、第二图像帧和第三图像帧之间的曝光时长比,可以保证目标图像具有高动态,拍摄操作之前曝光得到的第一曝光图像帧可以保证目标图像的低噪声且高画质,从而提高生成的目标图像的准确性。并且,在本实施例中,电子设备获取到的多组待融合图像对均为拍摄操作之前获取的图像,避免重新进行曝光取帧而耗费等待时间,缩短了取帧时间,从而提高图像生成的效率。
在一个实施例中,基于目标拍摄场景,从多组待融合图像对中确定出基准帧,包括:基于第三拍摄场景,从各组第二图像对中各个第三曝光图像帧中,确定出基准帧。
例如,在第三拍摄场景下,待融合图像对包括(EV0,EV-)、…、(EV0,EV-)、(EV0,EV-)(拍摄操作)、(EV0,EV-)、(EV0,EV-)、(EV0S,EV--),每组初始图像对(EV0,EV-)中,EV0为第一曝光图像帧,EV-为第二图像帧,在拍摄操作的指定时长内曝光得到2组初始图像对(EV0,EV-),在指定时长之后以第二曝光参数进行曝光得到第二图像对(EV0S,EV--),EV--为第三图像帧,EV0S为第三曝光图像帧,则将第二图像对中的第三曝光图像帧确定为基准帧。
可以理解的是,相机处于第三拍摄场景下,即第三拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度大于或等于预设环境阈值,该第一曝光图像帧容易发生运动模糊,而第二图像帧的运动区域噪声会比较大,第三图像帧画面的亮度比第二图像帧的亮度更低、运动区域噪声更大,画质更差。而第三曝光图像帧的亮度与第一曝光图像帧相同亮度,且第三曝光图像帧的曝光时长小于或等于预设时长阈值,该第三曝光图像帧的运动区域噪声较低,从各组第二图像对中各个第三曝光图像帧中,可以更准确地确定出基准帧。
在一个实施例中,基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对,包括:若相机当前所处的目标拍摄场景为第四拍摄场景,则将相机调整至第三曝光参数;第四拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度小于预设环境阈值;响应于拍摄操作,将相机调整至第四曝光参数;从拍摄操作之前相机以第三曝光参数曝光的重叠图像集中确定出多组第三图像对作为待融合图像对,以及获取多组第四图像对作为待融合图像对;每组第三图像对包括第二图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第三曝光图像帧的曝光时长小于或等于预设时长阈值,每组第四图像对包括第三图像帧和与第一曝光图像帧相同亮度的第二曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度,第二曝光图像帧是相机在拍摄操作之后以第四曝光参数曝光得到的,第二曝光图像帧的曝光时长大于预设时长阈值。
在拍摄操作之后,相机经过延迟时长之后以第四曝光参数进行曝光,并将延迟时长内曝光得到的多组第三图像对作为待融合图像对。
若环境照度小于预设环境阈值,表示相机所处环境的亮度较暗,例如在夜景下,则在拍摄操作之前将相机调整至第三曝光参数,则以第三曝光参数进行曝光得到的多组重叠图像集,经过ISP成像系统处理后可以展示为预览画面。
可以理解的是,第三曝光参数和第四曝光参数不同,第三曝光参数用于曝光得到第二图像帧和第三曝光图像帧,该第三曝光图像帧是与第一曝光图像帧相同亮度的图像帧,且第三曝光图像帧的曝光时长小于或等于预设时长阈值,可以用于保证目标图像零延时和运动抓拍清晰。而第四曝光参数用于曝光得到第三图像帧和与第一曝光图像帧相同亮度的第二曝光图像帧,第二图像帧的亮度大于所述第三图像帧的亮度,第二曝光图像帧的曝光时长大于预设时长阈值,该第二曝光图像帧可以保证目标图像的低噪声高画质。
第三曝光图像帧的曝光时长可以为第一曝光图像帧的曝光时长的1/2-1/4。第三曝光图像帧的亮度增益通过曝光时长转换为ISO来实现。
可以理解的是,若图像帧所需的曝光时长较长,且从拍摄操作之前的多组重叠图像集中获取得到,则每组重叠图像集的曝光时长综合容易超过33ms,从而导致帧率降低造成画面卡顿的问题。
因此,第二曝光图像帧的曝光时长大于预设时长阈值,第二曝光图像帧的曝光时长较长,则在拍摄操作之后以第四曝光参数曝光得到第二曝光图像帧,避免造成画面卡顿,提高生成的目标图像的准确性。
需要说明的是,第三图像帧的曝光时长较短,可以在拍摄操作之后进行曝光得到,也可以在拍摄操作之前进行曝光得到。
示例性的,待融合图像对包括(EV0S,EV-)、…、(EV0S,EV-)、(EV0S,EV-)(拍照)、(EV0S,EV-)、(EV0S,EV-)、(EV--,EV0L)、…、(EV--,EV0L),每组第三图像对(EV0S,EV-)中,EV-为第二图像帧,EV0S为第三曝光图像帧,在拍摄操作的延迟时长内曝光得到2组第三图像对(EV0S,EV-),在延迟时长之后以第四曝光参数进行曝光得到第四图像对(EV--,EV0L),EV--为第三图像帧,EV0L为第二曝光图像帧,指定数量为2,则从拍摄操作之前作为待融合图像对的2组第三图像对、和拍摄操作之后的延迟时长内作为待融合图像对的2组第三图像对中,确定出多个候选的第三曝光图像帧。
在本实施例中,在第四拍摄场景下,电子设备基于多组待融合图像对中的第三曝光图像帧,可以保证得到的目标图像零延时和运动抓拍清晰,第三曝光图像帧、第一曝光图像帧和第三图像帧之间的曝光时长比,或者第二曝光图像帧、第一曝光图像帧和第三图像帧之间的曝光时长比,可以保证目标图像的高动态范围,第二曝光图像帧可以保证目标图像低噪声且高画质,从而提高生成的目标图像的准确性。
在一个实施例中,基于目标拍摄场景,从多组待融合图像对中确定出基准帧,包括:基于第四拍摄场景,从作为待融合图像对的多组第三图像对中确定出多个候选的第三曝光图像帧;从各个候选的第三曝光图像帧中确定出基准帧。
具体地,在第四拍摄场景下,电子设备可以从作为待融合图像对、与拍摄操作时间节点相邻的指定数量第三图像对中,获取各个候选的第三曝光图像帧,从各个候选的第三曝光图像帧中确定出基准帧。其中,指定数量可以根据需要进行设置。
在一种实施方式中,电子设备可以获取各个候选的第三曝光图像帧的清晰度,选取清晰度最高的第三曝光图像帧作为基准帧。在另一种实施方式中,电子设备可以获取各个候选的第三曝光图像帧的噪声水平,选取噪声水平最低的第三曝光图像帧作为基准帧。在其他实施方式中,电子设备还可以采用其他方式确定基准帧,在此不做限定。
可以理解的是,第四拍摄场景下,环境亮度比较暗,预览画面会进行降帧,适当降低预览第一曝光图像帧的曝光时间得到第三曝光图像帧,从各个候选的第三曝光图像帧中选取基准帧,以减少运动模糊,而第三图像对可以保障生成的目标图像的大动态范围和高画质则。
在一个实施例中,上述方法还包括:从相机曝光的每组重叠图像集中,实时获取第一曝光图像帧和第二图像帧;第一曝光图像帧的亮度大于第二图像帧的亮度;将第一曝光图像帧和第二图像帧进行融合,得到目标预览图像,并将目标预览图像展示在预览画面中。
相机中包含图像传感器,通过图像传感器采集图像数据,输出第一曝光图像帧和第二图像帧的交替数据流;在SFE0(sensor front end,ISP处理前端)模块中将第一曝光图像帧和第二图像帧进行合成,得到第一预览图像;在IFE0(image front end,ISP处理前端)模块中对第一预览图像依次进行黑电平校正、镜头阴影矫正、RAW域降噪、去马塞克、色彩矫正、色调映射、格式转换和图像缩放等处理,得到第二预览图像;在IPE0(image processingengine,图像处理引擎)模块中对第二预览图像进行多帧降噪、锐化等处理,得到目标预览图像,并将目标预览图像发送至屏幕,展示在屏幕的预览画面中。
其中,图像传感器可以输出12M@60fps(Frames Per Second,每秒传输帧数)的交替数据流,该交替数据流为RAW数据;SFE0模块可以输出12M@30fps的第一预览图像的数据流,该第一预览图像的数量为RAW数据;IFE0模块可以输出1080P@30fps的第二预览图像的数据流,该第二预览图像的数据流为YUV(Y:Luminance或Luma,明亮度;U、V:Chrominance或Chroma,色度)数据;IPE0模块输出的目标预览图像为YUV数据。
电子设备实时获取第一曝光图像帧和第二图像帧,第一曝光图像帧和第二图像帧构成初始图像对,第一曝光图像帧和第二图像帧均为RAW域数据;通过ISP前端的RAW HDR模块实时将第一曝光图像帧和第二图像帧进行融合,得到目标预览图像,并将目标预览图像实时展示在预览画面中,可以得到高动态的预览画面。同时,电子设备将合成之前的多组初始图像对(EV0,EV-)的RAW序列数据存储在缓冲器(ZSL buffer)中,以在检测到拍摄操作时用于生成拍摄操作的目标图像。
进一步地,电子设备检测本地内存空间,基于本地内存空间确定存储在缓冲器中的初始图像对的数量;本地内存空间和存储在缓冲器中的初始图像对的数量成正相关。例如,存储在缓冲器中的初始图像对的数量可以为8。
在本实施例中,在相机进入数字重叠宽动态范围模式的情况下,电子设备从相机曝光的每组重叠图像集中,可以获取到重叠的并且曝光时间间隔非常段的第一曝光图像帧和第二图像帧,则将第一曝光图像帧和第二图像帧进行融合,避免融合得到的目标预览图像出现鬼影,从而得到清晰度更高的预览画面。
在一个实施例中,如图5所示,在相机进入数字重叠宽动态范围模式的情况下,电子设备通过图像传感器实时获取多组初始图像对,每组初始图像对包括第一曝光图像帧EV0和第二图像帧EV-,输出RAW域的12M@60fps的长、短曝交替数据流,即第一曝光图像帧和第二图像帧的交替数据流,并将多组初始图像对存储在缓冲器中。
电子设备将RAW域的12M@60fps的长、短曝交替数据流输入SFE0模块,通过SFE0模块实时将第一曝光图像帧和第二图像帧进行合成,输出RAW域的12M@30fps的第一预览图像。
通过IFE0模块对RAW域的12M@30fps的第一预览图像依次进行黑电平校正、镜头阴影矫正、RAW域降噪、去马塞克、色彩矫正、色调映射、格式转换和图像缩放等处理,输出YUV域的1080P@30fps第二预览图像。
通过IPE0模块对YUV域的1080P@30fps第二预览图像进行多帧降噪、锐化等处理,得到YUV域的1080P@30fps目标预览图像,并将目标预览图像发送至屏幕,展示在屏幕的预览画面中。
当电子设备检测到拍摄操作,则从缓冲器中获取N组初始图像对作为待融合图像对,以及获取(EVOS,EV--)作为待融合图像对,采用拍照算法对待融合图像对进行处理,得到RGB域的12M中间图像;将中间图像经过图像信号处理器进行图像信号处理,得到目标图像;通过JPEG编码器将目标图像进行编码,得到JPEG格式的目标图像。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的图像生成方法的图像生成装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个图像生成装置实施例中的具体限定可以参见上文中对于图像生成方法的限定,在此不再赘述。
在一个实施例中,如图6所示,提供了一种图像生成装置,包括:获取模块602、合成模块604和图像生成模块606,其中:
获取模块602,用于获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内。
合成模块604,用于针对每组亮度图像集,将亮度图像集中各个待处理图像帧进行合成得到第一合成帧。
图像生成模块606,用于基于各个第一合成帧,生成目标图像。
上述图像生成装置,获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;针对每组亮度图像集,可以将同一组亮度图像集中各个亮度相近的待处理图像进行合成,避免亮度相差较大的图像帧进行合成而导致合成图像存在模糊或者鬼影等问题,可以得到更清晰更准确的第一合成帧,从而基于各个第一合成帧,生成更清晰、更准确的目标图像。
在一个实施例中,上述合成模块604还用于针对每组亮度图像集,将亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
在一个实施例中,上述合成模块604还用于针对每组亮度图像集,通过图像恢复网络将亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
在一个实施例中,至少两组亮度图像集包括第一亮度图像集、第二亮度图像集和第三亮度图像集中的至少两种,第一亮度图像集包括多个第一曝光图像帧,第二亮度图像集包括多个第二图像帧,第三亮度图像集包括至少一个第三图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第二图像帧的亮度大于第三图像帧的亮度。
在一个实施例中,上述合成模块604还用于针对第一亮度图像集,通过多帧图像恢复网络将第一亮度图像集中各个第一图像帧进行降噪处理和去马赛克处理,得到第一亮度图像集对应的第一合成帧;针对第二亮度图像集,通过多帧图像恢复网络将第二亮度图像集中各个第二图像帧进行降噪处理和去马赛克处理,得到第二亮度图像集对应的第一合成帧;针对第三亮度图像集,通过多帧图像恢复网络或者单帧图像恢复网络将第三亮度图像集中各个第三图像帧进行降噪处理和去马赛克处理,得到第三亮度图像集对应的第一合成帧。
在一个实施例中,上述图像生成模块606还用于基于各个第一合成帧,生成高动态范围的目标图像。
在一个实施例中,上述图像生成模块606还用于将各个第一合成帧进行合成,得到第二合成图像;第二合成图像的位宽大于或者等于预设位宽阈值;将第二合成图像依次进行色调映射和图像信号处理,得到高动态范围的目标图像。
在一个实施例中,上述获取模块602还用于获取基准帧,以及除基准帧之外的第一待处理图像帧;将第一待处理图像帧与基准帧进行对齐处理,得到第二待处理图像帧;将基准帧和各个第二待处理图像帧按照图像亮度进行分组,得到至少两组亮度图像集。
在一个实施例中,上述获取模块602还用于基于相机当前所处的目标拍摄场景,从相机曝光的重叠图像集中,获取目标拍摄场景对应的多组待融合图像对;基于目标拍摄场景,从多组待融合图像对中确定出基准帧。
在一个实施例中,上述装置还包括场景确定模块;该场景确定模块用于获取预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种;基于预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度中的至少一种,确定相机当前所处的目标拍摄场景。
在一个实施例中,上述场景确定模块还用于依次判断预览画面的场景动态范围、预览画面的运动状态和相机所处环境的环境照度,确定相机当前所处的目标拍摄场景。
在一个实施例中,上述场景确定模块还用于基于场景动态范围,确定出相机曝光的每组重叠图像集中,第一曝光图像帧和第二图像帧之间的曝光时长比;第一曝光图像帧的曝光时长大于第二图像帧的曝光时长,曝光时长比和场景动态范围成正相关;基于曝光时长比,确定相机当前所处的目标拍摄场景。
在一个实施例中,上述场景确定模块还用于若曝光时长比小于或等于预设时长比阈值,则确定相机当前所处的目标拍摄场景为第一拍摄场景;第一拍摄场景的场景动态范围的区间长度小于预设长度阈值;若曝光时长比大于预设时长比阈值,则根据预览画面的运动状态或相机当前所处的环境照度确定相机当前所处的目标拍摄场景。
在一个实施例中,上述装置还包括运动状态确定模块;该运动状态确定模块用于获取陀螺仪的角速度,以及检测预览画面的运动幅度;若角速度小于或等于预设角速度阈值,且运动幅度小于或等于预设运动阈值,则确定预览画面的运动状态为稳定状态;若角速度大于预设角速度阈值,或运动幅度大于预设运动阈值,则确定预览画面的运动状态为非稳定状态。
在一个实施例中,上述场景确定模块还用于若运动状态为稳定状态,则确定相机当前所处的目标拍摄场景为第二拍摄场景;若运动状态为非稳定状态,则根据相机当前所处环境的环境照度确定相机当前所处的目标拍摄场景。
在一个实施例中,上述场景确定模块还用于若环境照度大于或等于预设环境阈值,则确定相机当前所处的目标拍摄场景为第三拍摄场景;若环境照度小于预设环境阈值,则确定相机当前所处的目标拍摄场景为第四拍摄场景。
在一个实施例中,上述获取模块602还用于若相机当前所处的目标拍摄场景为第一拍摄场景,则响应于拍摄操作,从拍摄操作之前相机曝光的重叠图像集中,获取多组初始图像对作为第一拍摄场景对应的多组待融合图像对;第一拍摄场景的场景动态范围的区间长度小于或等于预设长度阈值,每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度。
在一个实施例中,上述获取模块602还用于基于第一拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第二图像帧;从各个候选的第二图像帧中确定出基准帧。
在一个实施例中,上述获取模块602还用于从各个候选的第二图像帧中确定清晰度最高的第二图像帧作为基准帧。
在一个实施例中,上述获取模块602还用于若相机当前所处的目标拍摄场景为第二拍摄场景,则响应于拍摄操作,将相机调整至第一曝光参数,以第一曝光参数曝光得到第二曝光图像帧;第二拍摄场景的场景动态范围的区间长度大于预设长度阈值,且预览画面的运动状态为稳定状态;第二曝光图像帧的曝光时长大于预设时长阈值;从拍摄操作之前相机曝光的重叠图像集中确定出多组初始图像对作为待融合图像对,以及获取第一图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第一图像对包括第三图像帧和与第一曝光图像帧相同亮度的第二曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度。
在一个实施例中,在拍摄操作之后,相机经过延迟时长之后以第一曝光参数进行曝光,并将延迟时长内曝光得到的多组初始图像对作为待融合图像对。
在一个实施例中,上述获取模块602还用于基于第二拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第一曝光图像帧;从各个候选的第一曝光图像帧中确定出基准帧。
在一个实施例中,上述获取模块602还用于若相机当前所处的目标拍摄场景为第三拍摄场景,则响应于拍摄操作,将相机调整至第二曝光参数;第三拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度大于或等于预设环境阈值;从拍摄操作之前相机曝光的重叠图像集中,确定出多组初始图像对作为待融合图像对,以及获取第二图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第二图像对包括第三图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度,第二图像对中至少一个图像帧是相机在拍摄操作之后以第二曝光参数曝光得到的,第三曝光图像帧的曝光时长小于或等于预设时长阈值。
在一个实施例中,在拍摄操作之后,相机经过延迟时长之后以第二曝光参数进行曝光,并将延迟时长内曝光得到的多组初始图像对作为待融合图像对。
在一个实施例中,上述获取模块602还用于基于第三拍摄场景,从各组第二图像对中各个第三曝光图像帧中,确定出基准帧。
在一个实施例中,上述获取模块602还用于若相机当前所处的目标拍摄场景为第四拍摄场景,则将相机调整至第三曝光参数;第四拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且相机所处环境的环境照度小于预设环境阈值;响应于拍摄操作,将相机调整至第四曝光参数;从拍摄操作之前相机以第三曝光参数曝光的重叠图像集中确定出多组第三图像对作为待融合图像对,以及获取多组第四图像对作为待融合图像对;每组第三图像对包括第二图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,第一曝光图像帧的亮度大于第二图像帧的亮度,第三曝光图像帧的曝光时长小于或等于预设时长阈值,每组第四图像对包括第三图像帧和与第一曝光图像帧相同亮度的第二曝光图像帧,第二图像帧的亮度大于第三图像帧的亮度,第二曝光图像帧是相机在拍摄操作之后以第四曝光参数曝光得到的,第二曝光图像帧的曝光时长大于预设时长阈值。
在一个实施例中,在拍摄操作之后,相机经过延迟时长之后以第四曝光参数进行曝光,并将延迟时长内曝光得到的多组第三图像对作为待融合图像对。
在一个实施例中,上述获取模块602还用于基于第四拍摄场景,从作为待融合图像对的多组第三图像对中确定出多个候选的第三曝光图像帧;从各个候选的第三曝光图像帧中确定出基准帧。
在一个实施例中,上述装置还包括预览模块;该预览模块用于从相机曝光的每组重叠图像集中,实时获取第一曝光图像帧和第二图像帧;第一曝光图像帧的亮度大于第二图像帧的亮度;将第一曝光图像帧和第二图像帧进行融合,得到目标预览图像,并将目标预览图像展示在预览画面中。
上述图像生成装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于电子设备中的处理器中,也可以以软件形式存储于电子设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种电子设备,该电子设备可以是终端,其内部结构图可以如图7所示。该电子设备包括处理器、存储器、输入/输出接口、通信接口、显示单元和输入装置。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口、显示单元和输入装置通过输入/输出接口连接到系统总线。其中,该电子设备的处理器用于提供计算和控制能力。该电子设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该电子设备的输入/输出接口用于处理器与外部设备之间交换信息。该电子设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种图像生成方法。该电子设备的显示单元用于形成视觉可见的画面,可以是显示屏、投影装置或虚拟现实成像装置。显示屏可以是液晶显示屏或者电子墨水显示屏,该电子设备的输入装置可以是显示屏上覆盖的触摸层,也可以是电子设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图7中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的电子设备的限定,具体的电子设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行图像生成方法的步骤。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行图像生成方法。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (33)
1.一种图像生成方法,其特征在于,包括:
获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;
针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧;
基于各个第一合成帧,生成目标图像。
2.根据权利要求1所述的方法,其特征在于,所述针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧,包括:
针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
3.根据权利要求2所述的方法,其特征在于,所述针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧,包括:
针对每组亮度图像集,通过图像恢复网络将所述亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧。
4.根据权利要求3所述的方法,其特征在于,所述至少两组亮度图像集包括第一亮度图像集、第二亮度图像集和第三亮度图像集中的至少两种,所述第一亮度图像集包括多个第一图像帧,所述第二亮度图像集包括多个第二图像帧,所述第三亮度图像集包括至少一个第三图像帧,所述第一图像帧的亮度大于所述第二图像帧的亮度,所述第二图像帧的亮度大于所述第三图像帧的亮度。
5.根据权利要求4所述的方法,其特征在于,所述针对每组亮度图像集,通过图像恢复网络将所述亮度图像集中各个待处理图像帧进行降噪处理和去马赛克处理,得到第一合成帧,包括:
针对所述第一亮度图像集,通过多帧图像恢复网络将所述第一亮度图像集中各个第一图像帧进行降噪处理和去马赛克处理,得到所述第一亮度图像集对应的第一合成帧;
针对所述第二亮度图像集,通过多帧图像恢复网络将所述第二亮度图像集中各个第二图像帧进行降噪处理和去马赛克处理,得到所述第二亮度图像集对应的第一合成帧;
针对所述第三亮度图像集,通过多帧图像恢复网络或者单帧图像恢复网络将所述第三亮度图像集中各个第三图像帧进行降噪处理和去马赛克处理,得到所述第三亮度图像集对应的第一合成帧。
6.根据权利要求1所述的方法,其特征在于,所述基于各个第一合成帧,生成目标图像,包括:
基于各个第一合成帧,生成高动态范围的目标图像。
7.根据权利要求6所述的方法,其特征在于,所述基于各个第一合成帧,生成高动态范围的目标图像,包括:
将所述各个第一合成帧进行合成,得到第二合成图像;所述第二合成图像的位宽大于或者等于预设位宽阈值;
将所述第二合成图像依次进行色调映射和图像信号处理,得到高动态范围的目标图像。
8.根据权利要求1所述的方法,其特征在于,所述获取至少两组不同亮度的亮度图像集,包括:
获取基准帧,以及除所述基准帧之外的第一待处理图像帧;
将所述第一待处理图像帧与所述基准帧进行对齐处理,得到第二待处理图像帧;
将所述基准帧和各个所述第二待处理图像帧按照图像亮度进行分组,得到至少两组亮度图像集。
9.根据权利要求8所述的方法,其特征在于,所述获取基准帧,包括:
基于相机当前所处的目标拍摄场景,从所述相机曝光的重叠图像集中,获取所述目标拍摄场景对应的多组待融合图像对;
基于所述目标拍摄场景,从所述多组待融合图像对中确定出基准帧。
10.根据权利要求9所述的方法,其特征在于,所述相机当前所处的目标拍摄场景的确定方式,包括:
获取预览画面的场景动态范围、所述预览画面的运动状态和所述相机所处环境的环境照度中的至少一种;
基于预览画面的场景动态范围、所述预览画面的运动状态和所述相机所处环境的环境照度中的至少一种,确定所述相机当前所处的目标拍摄场景。
11.根据权利要求10所述的方法,其特征在于,所述基于预览画面的场景动态范围、所述预览画面的运动状态和所述相机所处环境的环境照度中的至少一种,确定所述相机当前所处的目标拍摄场景,包括:
依次判断预览画面的场景动态范围、所述预览画面的运动状态和所述相机所处环境的环境照度,确定所述相机当前所处的目标拍摄场景。
12.根据权利要求10所述的方法,其特征在于,所述基于预览画面的场景动态范围、所述预览画面的运动状态和所述相机所处环境的环境照度中的至少一种,确定所述相机当前所处的目标拍摄场景,包括:
基于所述场景动态范围,确定出所述相机曝光的每组重叠图像集中,第一曝光图像帧和第二图像帧之间的曝光时长比;所述第一曝光图像帧的曝光时长大于所述第二图像帧的曝光时长,所述曝光时长比和所述场景动态范围成正相关;
基于所述曝光时长比,确定所述相机当前所处的目标拍摄场景。
13.根据权利要求12所述的方法,其特征在于,所述基于所述曝光时长比,确定所述相机当前所处的目标拍摄场景,包括:
若所述曝光时长比小于或等于预设时长比阈值,则确定所述相机当前所处的目标拍摄场景为第一拍摄场景;所述第一拍摄场景的场景动态范围的区间长度小于预设长度阈值;
若所述曝光时长比大于预设时长比阈值,则根据所述预览画面的运动状态或所述相机当前所处的环境照度确定所述相机当前所处的目标拍摄场景。
14.根据权利要求13所述的方法,其特征在于,所述预览画面的运动状态的确定方式,包括:
获取陀螺仪的角速度,以及检测所述预览画面的运动幅度;
若所述角速度小于或等于预设角速度阈值,且所述运动幅度小于或等于预设运动阈值,则确定所述预览画面的运动状态为稳定状态;
若所述角速度大于预设角速度阈值,或所述运动幅度大于预设运动阈值,则确定所述预览画面的运动状态为非稳定状态。
15.根据权利要求13所述的方法,其特征在于,根据所述预览画面的运动状态确定所述相机当前所处的目标拍摄场景,包括:
若所述运动状态为稳定状态,则确定所述相机当前所处的目标拍摄场景为第二拍摄场景;
若所述运动状态为非稳定状态,则根据所述相机当前所处环境的环境照度确定所述相机当前所处的目标拍摄场景。
16.根据权利要求13或15所述的方法,其特征在于,根据所述相机当前所处环境的环境照度确定所述相机当前所处的目标拍摄场景,包括:
若所述环境照度大于或等于预设环境阈值,则确定所述相机当前所处的目标拍摄场景为第三拍摄场景;
若所述环境照度小于预设环境阈值,则所述确定所述相机当前所处的目标拍摄场景为第四拍摄场景。
17.根据权利要求9所述的方法,其特征在于,所述基于所述相机当前所处的目标拍摄场景,从所述相机曝光的重叠图像集中,获取所述目标拍摄场景对应的多组待融合图像对,包括:
若所述相机当前所处的目标拍摄场景为第一拍摄场景,则响应于拍摄操作,从所述拍摄操作之前所述相机曝光的重叠图像集中,获取多组初始图像对作为所述第一拍摄场景对应的多组待融合图像对;所述第一拍摄场景的场景动态范围的区间长度小于或等于预设长度阈值,每组初始图像对中包括所述第一曝光图像帧和所述第二图像帧,所述第一曝光图像帧的亮度大于所述第二图像帧的亮度。
18.根据权利要求17所述的方法,其特征在于,所述基于所述目标拍摄场景,从所述多组待融合图像对中确定出基准帧,包括:
基于所述第一拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第二图像帧;
从各个候选的第二图像帧中确定出基准帧。
19.根据权利要求18所述的方法,其特征在于,所述从各个候选的第二图像帧中确定出基准帧,包括:
从各个候选的第二图像帧中确定清晰度最高的第二图像帧作为基准帧。
20.根据权利要求9所述的方法,其特征在于,所述基于所述相机当前所处的目标拍摄场景,从所述相机曝光的重叠图像集中,获取所述目标拍摄场景对应的多组待融合图像对,包括:
若所述相机当前所处的目标拍摄场景为第二拍摄场景,则响应于拍摄操作,将所述相机调整至第一曝光参数,以所述第一曝光参数曝光得到第二曝光图像帧;所述第二拍摄场景的场景动态范围的区间长度大于预设长度阈值,且预览画面的运动状态为稳定状态;所述第二曝光图像帧的曝光时长大于预设时长阈值;
从所述拍摄操作之前所述相机曝光的重叠图像集中确定出多组初始图像对作为待融合图像对,以及获取第一图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,所述第一曝光图像帧的亮度大于所述第二图像帧的亮度,所述第一图像对包括第三图像帧和与所述第一曝光图像帧相同亮度的第二曝光图像帧,所述第二图像帧的亮度大于所述第三图像帧的亮度。
21.根据权利要求20所述的方法,其特征在于,在所述拍摄操作之后,所述相机经过延迟时长之后以所述第一曝光参数进行曝光,并将所述延迟时长内曝光得到的多组初始图像对作为待融合图像对。
22.根据权利要求20或21所述的方法,其特征在于,所述基于所述目标拍摄场景,从所述多组待融合图像对中确定出基准帧,包括:
基于所述第二拍摄场景,从作为待融合图像对的多组初始图像对中确定出多个候选的第一曝光图像帧;
从各个候选的第一曝光图像帧中确定出基准帧。
23.根据权利要求9所述的方法,其特征在于,所述基于所述相机当前所处的目标拍摄场景,从所述相机曝光的重叠图像集中,获取所述目标拍摄场景对应的多组待融合图像对,包括:
若所述相机当前所处的目标拍摄场景为第三拍摄场景,则响应于拍摄操作,将所述相机调整至第二曝光参数;所述第三拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且所述相机所处环境的环境照度大于或等于预设环境阈值;
从所述拍摄操作之前所述相机曝光的重叠图像集中,确定出多组初始图像对作为待融合图像对,以及获取第二图像对作为待融合图像对;每组初始图像对中包括第一曝光图像帧和第二图像帧,所述第一曝光图像帧的亮度大于所述第二图像帧的亮度,所述第二图像对包括第三图像帧和与所述第一曝光图像帧相同亮度的第三曝光图像帧,所述第二图像帧的亮度大于所述第三图像帧的亮度,所述第二图像对中至少一个图像帧是所述相机在所述拍摄操作之后以所述第二曝光参数曝光得到的,所述第三曝光图像帧的曝光时长小于或等于预设时长阈值。
24.根据权利要求23所述的方法,其特征在于,在所述拍摄操作之后,所述相机经过延迟时长之后以所述第二曝光参数进行曝光,并将所述延迟时长内曝光得到的多组初始图像对作为待融合图像对。
25.根据权利要求23或24所述的方法,其特征在于,所述基于所述目标拍摄场景,从所述多组待融合图像对中确定出基准帧,包括:
基于所述第三拍摄场景,从各组所述第二图像对中各个第三曝光图像帧中,确定出基准帧。
26.根据权利要求9所述的方法,其特征在于,所述基于所述相机当前所处的目标拍摄场景,从所述相机曝光的重叠图像集中,获取所述目标拍摄场景对应的多组待融合图像对,包括:
若所述相机当前所处的目标拍摄场景为第四拍摄场景,则将所述相机调整至第三曝光参数;所述第四拍摄场景的场景动态范围的区间长度大于预设长度阈值,预览画面的运动状态为非稳定状态,且所述相机所处环境的环境照度小于预设环境阈值;
响应于拍摄操作,将所述相机调整至第四曝光参数;
从所述拍摄操作之前所述相机以所述第三曝光参数曝光的重叠图像集中确定出多组第三图像对作为待融合图像对,以及获取多组第四图像对作为待融合图像对;每组第三图像对包括第二图像帧和与第一曝光图像帧相同亮度的第三曝光图像帧,所述第一曝光图像帧的亮度大于所述第二图像帧的亮度,所述第三曝光图像帧的曝光时长小于或等于预设时长阈值,每组第四图像对包括第三图像帧和与所述第一曝光图像帧相同亮度的第二曝光图像帧,所述第二图像帧的亮度大于所述第三图像帧的亮度,所述第二曝光图像帧是所述相机在所述拍摄操作之后以所述第四曝光参数曝光得到的,所述第二曝光图像帧的曝光时长大于预设时长阈值。
27.根据权利要求26所述的方法,其特征在于,在所述拍摄操作之后,所述相机经过延迟时长之后以所述第四曝光参数进行曝光,并将所述延迟时长内曝光得到的多组第三图像对作为待融合图像对。
28.根据权利要求26或27所述的方法,其特征在于,所述基于所述目标拍摄场景,从所述多组待融合图像对中确定出基准帧,包括:
基于所述第四拍摄场景,从作为待融合图像对的多组第三图像对中确定出多个候选的第三曝光图像帧;
从各个候选的第三曝光图像帧中确定出基准帧。
29.根据权利要求1所述的方法,其特征在于,所述方法还包括:
从相机曝光的每组重叠图像集中,实时获取第一曝光图像帧和第二图像帧;所述第一曝光图像帧的亮度大于所述第二图像帧的亮度;
将所述第一曝光图像帧和所述第二图像帧进行融合,得到目标预览图像,并将所述目标预览图像展示在预览画面中。
30.一种图像生成装置,其特征在于,包括:
获取模块,用于获取至少两组不同亮度的亮度图像集;其中,每组亮度图像集中各个待处理图像帧的亮度差在预设范围内;
合成模块,用于针对每组亮度图像集,将所述亮度图像集中各个待处理图像帧进行合成得到第一合成帧;
图像生成模块,用于基于各个第一合成帧,生成目标图像。
31.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至29中任一项所述的图像生成方法的步骤。
32.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至29中任一项所述的方法的步骤。
33.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至29中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210784679.2A CN117412185A (zh) | 2022-07-05 | 2022-07-05 | 图像生成方法、装置、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210784679.2A CN117412185A (zh) | 2022-07-05 | 2022-07-05 | 图像生成方法、装置、电子设备和计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117412185A true CN117412185A (zh) | 2024-01-16 |
Family
ID=89496652
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210784679.2A Pending CN117412185A (zh) | 2022-07-05 | 2022-07-05 | 图像生成方法、装置、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117412185A (zh) |
-
2022
- 2022-07-05 CN CN202210784679.2A patent/CN117412185A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108989700B (zh) | 成像控制方法、装置、电子设备以及计算机可读存储介质 | |
JP6911202B2 (ja) | 撮像制御方法および撮像装置 | |
CN108322669B (zh) | 图像获取方法及装置、成像装置和可读存储介质 | |
US10916036B2 (en) | Method and system of generating multi-exposure camera statistics for image processing | |
US8508619B2 (en) | High dynamic range image generating apparatus and method | |
US10021313B1 (en) | Image adjustment techniques for multiple-frame images | |
CN111028190A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP6420540B2 (ja) | 画像処理装置及びその制御方法、プログラム、記憶媒体 | |
CN108683863B (zh) | 成像控制方法、装置、电子设备以及可读存储介质 | |
JP2015027067A (ja) | ハイダイナミックレンジ動画撮影方法 | |
US11601600B2 (en) | Control method and electronic device | |
CN107509044A (zh) | 图像合成方法、装置、计算机可读存储介质和计算机设备 | |
WO2020029679A1 (zh) | 控制方法、装置、成像设备、电子设备及可读存储介质 | |
CN116711317A (zh) | 用于图像处理的高动态范围技术选择 | |
WO2020034702A1 (zh) | 控制方法、装置、电子设备和计算机可读存储介质 | |
JP2018207497A (ja) | 画像処理装置及び画像処理方法、撮像装置、プログラム、並びに記憶媒体 | |
JP2015144475A (ja) | 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体 | |
CN110278375B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110012227B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108600631B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
CN110266965B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108881731B (zh) | 全景拍摄方法、装置和成像设备 | |
US11516402B1 (en) | Realtime image analysis and feedback | |
CN117412185A (zh) | 图像生成方法、装置、电子设备和计算机可读存储介质 | |
CN113676674A (zh) | 图像处理方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |