CN116055890A - 生成高动态范围视频的方法和电子设备 - Google Patents
生成高动态范围视频的方法和电子设备 Download PDFInfo
- Publication number
- CN116055890A CN116055890A CN202211038881.7A CN202211038881A CN116055890A CN 116055890 A CN116055890 A CN 116055890A CN 202211038881 A CN202211038881 A CN 202211038881A CN 116055890 A CN116055890 A CN 116055890A
- Authority
- CN
- China
- Prior art keywords
- hdr
- mode
- exposure
- electronic device
- gain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000006243 chemical reaction Methods 0.000 claims description 41
- 230000015654 memory Effects 0.000 claims description 38
- 230000009977 dual effect Effects 0.000 claims description 36
- 230000000750 progressive effect Effects 0.000 claims description 31
- 238000004590 computer program Methods 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 12
- 238000003860 storage Methods 0.000 claims description 9
- 230000035945 sensitivity Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 abstract description 27
- 230000033001 locomotion Effects 0.000 description 52
- 238000010586 diagram Methods 0.000 description 34
- 230000004927 fusion Effects 0.000 description 23
- 238000005516 engineering process Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 13
- 239000000725 suspension Substances 0.000 description 13
- 230000006870 function Effects 0.000 description 11
- 238000007667 floating Methods 0.000 description 10
- 229920000954 Polyglycolide Polymers 0.000 description 7
- 235000010409 propane-1,2-diol alginate Nutrition 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 241000023320 Luma <angiosperm> Species 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 4
- 238000007499 fusion processing Methods 0.000 description 4
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 4
- 206010034972 Photosensitivity reaction Diseases 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000036211 photosensitivity Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 229920001621 AMOLED Polymers 0.000 description 2
- 230000003321 amplification Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请涉及视频处理领域,提供了一种生成高动态范围视频的方法和电子设备,该方法包括:显示第一界面,第一界面为预览界面或者录像界面;获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;显示和/或保存HDR图像流。基于本申请的方案,在电子设备处于任意拍摄环境中,均能够确保生成的HDR视频中无鬼影且具有较大的动态范围。
Description
技术领域
本申请涉及视频处理领域,具体地,涉及一种生成高动态范围视频的方法和电子设备。
背景技术
随着多媒体技术和网络技术的飞速发展和广泛应用,人们在日常生活和生产活动中大量的使用图像信息;与标准动态范围视频相比,高动态范围(High-Dynamic Range,HDR)视频可以提供更多的动态范围和图像细节。目前,为了避免由于电子设备移动或者拍摄物体移动,导致HDR视频中出现运动鬼影、纹理鬼影等问题,通常采用双模拟增益(DualAnalog Gain,DAG)或者,DAG与双转换增益(Dual ConversionGain,DCG)结合的方式得到HDR视频;例如,采用单次曝光两次读出的方式,通过模拟增益或者转换增益读出长曝光图像与短曝光图像;但是,若电子设备处于高亮拍摄场景中,由于电子设备的进光量较多,模拟增益通常会降低至1倍,此时无法实现通过使用两种不同的增益输出两帧曝光差异较大的图像;由于无法得到两帧曝光差异较大的图像,因此融合处理后得到的HDR图像的动态范围无法达到预期。
因此,如何确保生成的HDR视频中无鬼影且具有较大的动态范围成为一个亟需解决的问题。
发明内容
本申请提供了一种生成高动态范围视频的方法和电子设备,基于本申请的方案能够确保生成的HDR视频中无鬼影且具有较大的动态范围。
第一方面,提供了一种生成高动态范围视频的方法,应用于电子设备,包括:
显示第一界面,第一界面为预览界面或者录像界面;
获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;
基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;
显示和/或保存HDR图像流。
在本申请的实施例中,可以基于电子设备所处拍摄环境的环境亮度确定电子设备所采用的HDR模式;在电子设备所处的拍摄环境的亮度不同时,可以采用不同的HDR模式生成HDR图像流,避免在不同亮度的拍摄环境中采用同一HDR拍摄模式,导致获取的HDR图像流存在鬼影问题或者动态范围较差的问题;在本申请的方案中,基于拍摄环境的不同亮度,电子设备可以采用不同的HDR模式生成HDR图像流,从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围。
可选地,在第一方面的某些实现方式中,在获取第一参数之前可以获取预览图像或者录像模式中采集的图像的动态范围值;若动态范围值大于预设动态范围值,则电子设备开启HDR模式;基于第一参数,电子设备可以确定采用第一HDR模式或者第二HDR模式。
可选地,在第一方面的某些实现方式中,第一界面为预览界面;电子设备采集预览图像,基于预览图像得到第一参数。
可选地,在第一方面的某些实现方式中,第一界面为录像界面;电子设备采集录像过程中的图像,基于图像得到第一参数。
结合第一方面,在第一方面的某些实现方式中,第一HDR模式包括单帧逐行HDR模式,单帧逐行HDR模式包括数字重叠DOL模式。
应理解,单帧逐行HDR模式是指以“行”作为输出单位的“长短帧”拍摄的技术。例如,图像传感器输出长曝光图像帧或者短曝光图像帧;基于两帧图像的融合处理,实现高动态范围扩展。
结合第一方面,在第一方面的某些实现方式中,第二HDR模式包括双模拟增益DAG模式。
应理解,DAG模式是一种采用同时曝光,利用两个不同模拟增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像的技术。
结合第一方面,在第一方面的某些实现方式中,第二HDR模式为双增益模式,双增益模式为DAG模式与双转换增益DCG模式相结合的模式。
应理解,DCG模式是一种采用同时曝光,利用两个不同转换增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像的技术;其中,转换增益是像素的一个属性,转换增益用于描述光电转换后产生的单位电子经过放大达到的电压值;一般而言,达到的电压越高,则转换增益越大。
结合第一方面,在第一方面的某些实现方式中,基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,包括:
若拍摄环境的亮度大于第一亮度阈值,采用HDR模式生成HDR图像流;
若拍摄环境的亮度小于或者等于第二亮度阈值,采用第二HDR模式生成HDR图像流。
在本申请的方案中,基于拍摄环境的不同亮度,电子设备可以采用不同的HDR模式生成HDR图像流,从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围;例如,在电子设备处于高亮拍摄环境时,可以采用第一HDR模式(例如,单帧逐行HDR模式);由于在高亮场景中,拍摄环境的亮度较高,则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用第二HDR模式(例如,不同增益值读出模式)生成HDR图像流;由于采用不同增益读出模式(例如,包括DAG模式,或者,DCG模式与DAG模式结合的双增益)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
结合第一方面,在第一方面的某些实现方式中,第一亮度阈值与第二亮度阈值相等。
在本申请的实施例中,可以基于亮度阈值确定电子设备所处的拍摄环境是否为高亮场景;在电子设备所处的拍摄环境为高亮度场景时,采用第一HDR模式生成HDR图像流;在电子设备所处的拍摄环境为中亮场景或者低亮场景时,采用第二HDR模式生成HDR图像流;避免在不同亮度的拍摄环境中采用同一HDR拍摄模式,导致获取的HDR图像流存在鬼影问题或者动态范围较差的问题;在本申请的方案中,基于拍摄环境的不同亮度,电子设备可以采用不同的HDR模式生成HDR图像流,从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围。
结合第一方面,在第一方面的某些实现方式中,第一亮度阈值大于第二亮度阈值,电子设备当前时刻采用目标HDR模式生成HDR图像流,目标HDR模式为第一HDR模式或者第二HDR模式,还包括:
若拍摄环境的亮度位于第一亮度阈值与第二亮度阈值之前,电子设备采用目标HDR模式生成HDR图像流。
在本申请的实施例中,可以采用双阈值识别电子设备所处的拍摄环境是否为高亮场景;由于采用双阈值能够有效避免电子设备在拍摄环境的亮度临界场景中反复切换HDR模式,因此能够在一定程度上提高电子设备拍摄的稳定性。
结合第一方面,在第一方面的某些实现方式中,第一参数为拍摄环境的亮度值,或者,第一参数为曝光时间。
可选地,在第一方面的某些实现方式中,亮度值的具体计算公式如下:
其中,Exposure为曝光时间;Aperture为光圈大小;Iso为感光度;Luma为图像在XYZ颜色空间中,Y的平均值。
应理解,曝光时间可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,曝光时间越短;拍摄场景的亮度越暗,曝光时间越长。
应理解,ISO可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,ISO越小;拍摄场景的亮度越暗,ISO越大。
结合第一方面,在第一方面的某些实现方式中,电子设备包括图像信号处理器,图像信号处理器中包括自动曝光模块,自动曝光模块用于运行自动曝光算法,自动曝光模块中包括控制模块,控制模块用于基于第一参数确定采用第一HDR模式或者采用第二HDR模式生成HDR图像流。
在本申请的实施例中,可以在图像信号处理器中新增加控制模块,控制模块用于基于第一参数确定采用第一HDR模式或者第二HDR模式生成HDR图像流;从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围。
第二方面,提供了一种电子设备,电子设备包括一个或多个处理器与存储器;存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行:
显示第一界面,第一界面为预览界面或者录像界面;
获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;
基于确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;
显示和/或保存HDR图像流。
结合第二方面,在第二方面的某些实现方式中,一个或多个处理器调用计算机指令以使得电子设备执行:
若拍摄环境的亮度大于第一亮度阈值,采用HDR模式生成HDR图像流;
若拍摄环境的亮度小于或者等于第二亮度阈值,采用第二HDR模式生成HDR图像流。
结合第二方面,在第二方面的某些实现方式中,第一亮度阈值与第二亮度阈值相等。
结合第二方面,在第二方面的某些实现方式中,第一亮度阈值大于第二亮度阈值,电子设备当前时刻采用目标HDR模式生成HDR图像流,目标HDR模式为第一HDR模式或者第二HDR模式,一个或多个处理器调用计算机指令以使得电子设备执行:
若拍摄环境的亮度位于第一亮度阈值与第二亮度阈值之前,电子设备采用目标HDR模式生成HDR图像流。
结合第二方面,在第二方面的某些实现方式中,第一参数为拍摄环境的亮度值,或者,第一参数为曝光时间。
结合第二方面,在第二方面的某些实现方式中,第一HDR模式包括单帧逐行HDR模式,单帧逐行HDR模式包括数字重叠DOL模式。
结合第二方面,在第二方面的某些实现方式中,第二HDR模式包括双转换增益DCG模式,或者,双模拟DAG模式。
结合第二方面,在第二方面的某些实现方式中,电子设备包括图像信号处理器,图像信号处理器中包括自动曝光模块,自动曝光模块用于运行自动曝光算法,自动曝光模块中包括控制模块,控制模块用于基于确定采用第一HDR模式或者采用第二HDR模式生成HDR图像流。
第三方面,提供了一种电子设备,包括显示模块与处理模块;其中,显示模块用于显示第一界面,第一界面为预览界面或者录像界面;处理模块用于获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;显示和/或保存HDR图像流。
结合第三方面,在第三方面的某些实现方式中,处理模块具体用于:
若拍摄环境的亮度大于第一亮度阈值,采用HDR模式生成HDR图像流;
若拍摄环境的亮度小于或者等于第二亮度阈值,采用第二HDR模式生成HDR图像流。
结合第三方面,在第三方面的某些实现方式中,第一亮度阈值与第二亮度阈值相等。
结合第三方面,在第三方面的某些实现方式中,第一亮度阈值大于第二亮度阈值,电子设备当前时刻采用目标HDR模式生成HDR图像流,目标HDR模式为第一HDR模式或者第二HDR模式,处理单元还用于:
若拍摄环境的亮度位于第一亮度阈值与第二亮度阈值之前,电子设备采用目标HDR模式生成HDR图像流。
结合第三方面,在第三方面的某些实现方式中,第一参数为拍摄环境的亮度值,或者,第一参数为曝光时间。
结合第三方面,在第三方面的某些实现方式中,第一HDR模式包括单帧逐行HDR模式,单帧逐行HDR模式包括数字重叠DOL模式。
结合第三方面,在第三方面的某些实现方式中,第二HDR模式包括双转换增益DCG模式,或者,双模拟DAG模式。
结合第三方面,在第三方面的某些实现方式中,电子设备包括图像信号处理器,图像信号处理器中包括自动曝光模块,自动曝光模块用于运行自动曝光算法,自动曝光模块中包括控制模块,控制模块用于基于第一参数确定采用第一HDR模式或者采用第二HDR模式生成HDR图像流。
第四方面,提供一种电子设备,电子设备包括一个或多个处理器和存储器与;存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行第一方面或者第一方面中的任意一种实现方式中的生成高动态范围视频的方法。
第五方面,提供了一种芯片系统,芯片系统应用于电子设备,芯片系统包括一个或多个处理器,处理器用于调用计算机指令以使得电子设备执行第一方面或第一方面中的任一种生成高动态范围视频的方法。
第六方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序代码,当计算机程序代码被电子设备运行时,使得该电子设备执行第一方面或者第一方面中的任意一种实现方式中的生成高动态范围视频的方法。
第七方面,提供了一种计算机程序产品,计算机程序产品包括:计算机程序代码,当计算机程序代码被电子设备运行时,使得该电子设备执行第一方面或者第一方面中的任意一种实现方式中的生成高动态范围视频的方法。
在本申请的实施例中,可以基于电子设备所处拍摄环境的环境亮度确定电子设备所采用的HDR模式;在电子设备所处的拍摄环境的亮度不同时,可以采用不同的HDR模式生成HDR图像流,避免在不同亮度的拍摄环境中采用同一HDR拍摄模式,导致获取的HDR图像流存在鬼影问题或者动态范围较差的问题;在本申请的方案中,基于拍摄环境的不同亮度,电子设备可以采用不同的HDR模式生成HDR图像流,从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围;例如,在电子设备处于高亮拍摄环境时,可以采用第一HDR模式(例如,单帧逐行HDR模式);由于在高亮场景中,拍摄环境的亮度较高,则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用第二HDR模式(例如,不同增益值读出模式)生成HDR图像流;由于采用不同增益读出模式(例如,包括DAG模式,或者,DCG模式与DAG模式结合的双增益)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
附图说明
图1是一种适用于本申请的电子设备的硬件系统的示意图;
图2是本申请实施例提供的FullDOL模式的示意图;
图3是本申请实施例提供的DCG模式与DAG模式的电路示意图;
图4是一种适用于本申请的电子设备的软件系统的示意图;
图5是一种适用于本申请实施例的应用场景的示意图;
图6是本申请实施例提供的一种生成高动态范围视频的方法的示意性流程图;
图7是本申请实施例提供的另一种生成高动态范围视频的方法的示意性流程图;
图8是本申请实施例提供的双阈值判断HDR模式的示意图;
图9是本申请实施例提供的另一种生成高动态范围视频的方法的示意性流程图;
图10是本申请实施例提供的生成高动态范围视频的方法的效果示意图;
图11是一种适用于本申请实施例的图形用户界面的示意图;
图12是一种适用于本申请实施例的图形用户界面的示意图;
图13是本申请实施例提供的一种电子设备的结构示意图;
图14是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
在本申请的实施例中,以下术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
为了便于对本申请实施例的理解,首先对本申请实施例中涉及的相关概念进行简要说明。
1、自动曝光(Automatic Exposure,AE)
自动曝光的目的是在不同的照明条件和场景中实现欣赏亮度级别或所谓的目标亮度级别,从而捕获的视频或图像既不太暗也不太亮。为了达到这个目的,要调整镜头孔径,传感器曝光时间,传感器模拟增益和传感器/图像信号处理器数字增益等,这个过程称为自动曝光。
应理解,曝光可以通过光线强度乘以光线所作用的时间进行表示;其中,“光线强度”是指传感器受光线照射的强度,即照度;“光线所作用的时间”,是指感光胶片受光线照射的时间,即曝光时间。曝光量以E表示,计算单位就是勒克斯·秒。若要取得一定量的曝光量,则光强度越大,曝光时间越短;光强度越小,曝光时间越长。
2、高动态范围(High-Dynamic Range,HDR)
高动态范围是用来实现比普通数位图像技术更大曝光动态范围(例如,图像中更大的明暗差别)的一组技术;高动态范围成像的目的就是要正确地表示真实世界中从太阳光直射到最暗的阴影这样大的范围亮度。
3、单帧逐行(Stagger)HDR
stagger HDR是指以“行”作为输出单位的“长短帧”拍摄的技术。例如,图像传感器输出长曝光图像帧或者短曝光图像帧;基于两帧图像的融合处理,实现高动态范围扩展;stagger HDR包括:全数字重叠模式(FullDigital Overlap,FullDOL)。
示例性地,如图2所示,以30fp为例,则图像传感器采用FullDOL模式可以在33ms内曝光两次;交叠读出两帧图像,其中,长曝光图像帧与短曝光图像帧为时序上先后完成曝光,曝光时间或者模拟增益可以不同。例如,长曝光图像帧的曝光时间可以为10ms,短曝光图像帧的曝光时间可以为5ms,并且可以为先执行长曝光图像帧的曝光过程,再执行短曝光图像帧的曝光过程。
4、双转换增益(Dual ConversionGain,DCG)
DCG技术是一种采用同时曝光,利用两个不同转换增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像;其中,转换增益是像素的一个属性,转换增益用于描述光电转换后产生的单位电子经过放大达到的电压值;一般而言,达到的电压越高,则转换增益越大。
示例性地,在同一曝光时间中CMOS感光元件中可以通过配置其增益值来放大信号;根据不同的增益值大小,可以实现不同程度的信号放大,得到不同曝光值的图像帧;对不同曝光值的图像帧进行融合,得到HDR图像。
例如,如图3中的(a)所示为在DCG模式下的像素电路图210;其中,VDD表示电源端,VOUT表示电压输出端;RG表示复位门(reset gate);TG表示传输门(transfergate);FD表示浮动扩散节点(floating diffusion);PD表示光电二级管(Photo-Diode);RS表示列选择(row select)器件;在DCG模式下,其像素电路图相比普通的像素电路图,增加了额外的一个FD1和一个DCG开关;增加的FD1的电容与FD的电容相比较大;在高变换增益(Highconversion gain,HCG)模式下,RG作为重置开关工作,DCG保持拉高电平使能状态;因此,阱容等于FD的电容,阱容小,此时转换增益CG较大。在低变换增益(Low conversion gain,LCG)模式下,RG保持使能状态,DCG作为重置开关,阱容等于FD的电容加上FD1的电容,阱容更大,相应地转换增益较小。
5、双模拟增益(Dual Analog Gain,DAG)
DAG模式是一种采用同时曝光,利用两个不同模拟增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像的技术。
例如,如图3中的(b)所示为在DAG模式下的像素电路图220;与图3中的(a)所示的DCG模式下的像素电路图相比,DAG模式下的像素电路是通过可编程增益放大器(Programmable Gain Amplifier,PGA)实现不同模拟增益。
可选地,DAG模式下的像素电路中可以包括一个PGA;或者,也可以包括多个PGA。
示例性地,如图3中的(c)中的像素电路230为双增益像素电路图,即DCG与DAG结合的电路图;在双增益像素电路图中,PGA用于对DCG模式下的像素电路的输出进行放大处理。
6、亮度值(Lighting Value,LV)
亮度值用于估计环境亮度,其具体计算公式如下:
其中,Exposure为曝光时间;Aperture为光圈大小;Iso为感光度;Luma为图像在XYZ颜色空间中,Y的平均值。
7、曝光时间
曝光时间是指相机从开启快门到关闭快门的时间间隔。
8、感光度(International Standards Organization,ISO)
感光度用于表示电子设备中相机模组中感光元件的感光速度;一般而言,相机模组的感光元件对光的敏感程度ISO数值越高,表示该感光元件的感光能力越强。
下面将结合附图,对本申请实施例中提供的生成高动态范围视频的方法和电子设备进行描述。
图1示出了一种适用于本申请的电子设备的硬件系统。
示例性地,电子设备100可以是手机、智慧屏、平板电脑、可穿戴电子设备、车载电子设备、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、投影仪等等,本申请实施例对电子设备100的具体类型不作任何限制。
示例性地,电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
需要说明的是,图1所示的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图1所示的部件更多或更少的部件,或者,电子设备100可以包括图1所示的部件中某些部件的组合,或者,电子设备100可以包括图1所示的部件中某些部件的子部件。图1示的部件可以以硬件、软件、或软件和硬件的组合实现。
示例性地,处理器110可以包括一个或多个处理单元。例如,处理器110可以包括以下处理单元中的至少一个:应用处理器(application processor,AP)、调制解调处理器、图形处理器(graphics processing unit,GPU)、图像信号处理器(image signal processor,ISP)、控制器、视频编解码器、数字信号处理器(digital signal processor,DSP)、基带处理器、神经网络处理器(neural-network processing unit,NPU)。其中,不同的处理单元可以是独立的器件,也可以是集成的器件。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
示例性地,处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。例如,处理器110可以包括以下接口中的至少一个:内部集成电路(inter-integrated circuit,I2C)接口、内部集成电路音频(inter-integrated circuit sound,I2S)接口、脉冲编码调制(pulse codemodulation,PCM)接口、通用异步接收传输器(universal asynchronous receiver/transmitter,UART)接口、移动产业处理器接口(mobile industry processor interface,MIPI)、通用输入输出(general-purpose input/output,GPIO)接口、SIM接口、USB接口。
示例性地,在本申请的实施例中,处理器110可以用于执行本申请实施例提供的生成高动态范围视频的方法;例如,显示第一界面,第一界面为预览界面或者录像界面;获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;显示和/或保存HDR图像流。
图1所示的各模块间的连接关系只是示意性说明,并不构成对电子设备100的各模块间的连接关系的限定。可选地,电子设备100的各模块也可以采用上述实施例中多种连接方式的组合。
示例性地,电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等器件实现。
示例性地,天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
电子设备100可以通过GPU、显示屏194以及应用处理器实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
示例性地,显示屏194可以用于显示图像或视频。
示例性地,可选地,显示屏194可以用于显示图像或视频。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emitting diode,OLED)、有源矩阵有机发光二极体(active-matrixorganic light-emitting diode,AMOLED)、柔性发光二极管(flex light-emittingdiode,FLED)、迷你发光二极管(mini light-emitting diode,Mini LED)、微型发光二极管(micro light-emitting diode,Micro LED)、微型OLED(Micro OLED)或量子点发光二极管(quantum dot light emitting diodes,QLED)。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
示例性地,在本申请的实施例中,显示屏194可以高动态范围视频。
示例性地,电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
示例性地,ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过摄像头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头193中。
示例性地,摄像头193(也可以称为镜头)用于捕获静态图像或视频。可以通过应用程序指令触发开启,实现拍照功能,如拍摄获取任意场景的图像。摄像头可以包括成像镜头、滤光片、图像传感器等部件。物体发出或反射的光线进入成像镜头,通过滤光片,最终汇聚在图像传感器上。成像镜头主要是用于对拍照视角中的所有物体(也可以称为待拍摄场景、目标场景,也可以理解为用户期待拍摄的场景图像)发出或反射的光汇聚成像;滤光片主要是用于将光线中的多余光波(例如除可见光外的光波,如红外)滤去;图像传感器可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementarymetal-oxide-semiconductor,CMOS)光电晶体管。图像传感器主要是用于对接收到的光信号进行光电转换,转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。
示例性地,数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
示例性地,视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
示例性地,陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x轴、y轴和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。例如,当快门被按下时,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航和体感游戏等场景。
示例性地,加速度传感器180E可检测电子设备100在各个方向上(一般为x轴、y轴和z轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。加速度传感器180E还可以用于识别电子设备100的姿态,作为横竖屏切换和计步器等应用程序的输入参数。
示例性地,距离传感器180F用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,例如在拍摄场景中,电子设备100可以利用距离传感器180F测距以实现快速对焦。
示例性地,环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
示例性地,指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍照和接听来电等功能。
示例性地,触摸传感器180K,也称为触控器件。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,触摸屏也称为触控屏。触摸传感器180K用于检测作用于其上或其附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,并且与显示屏194设置于不同的位置。
上文详细描述了电子设备100的硬件系统,下面介绍电子设备100的软件系统。
图4是本申请实施例提供的电子设备的软件系统的示意图。
如图4所示,系统架构中可以包括应用层310、应用框架层320、硬件抽象层330、驱动层340以及硬件层350。
应用层310可以包括相机应用程序。
可选地,应用层310还可以包括相机应用程序、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序。
应用框架层320为应用程序层的应用程序提供应用程序编程接口(applicationprogramming interface,API)和编程框架;应用程序框架层可以包括一些预定义的函数。
例如,应用框架层320可以包括相机访问接口;相机访问接口中可以包括相机管理与相机设备。其中,相机管理可以用于提供管理相机的访问接口;相机设备可以用于提供访问相机的接口。
硬件抽象层330用于将硬件抽象化。比如,硬件抽象层可以包相机抽象层以及其他硬件设备抽象层;相机抽象层中可以包括相机设备1、相机设备2等;相机硬件抽象层可以与相机算法库相连接,相机硬件抽象层可以调用相机算法库中的算法。
驱动层340用于为不同硬件设备提供驱动。比如,驱动层可以包括相机设备驱动。
硬件层350可以包括图像传感器、图像信号处理器(Image Signal Processing,ISP)以及其他硬件设备;其中,传感器可以用于采集Raw图像;传感器采集的Raw图像可以发送至图像信号处理器进行图像处理,输出处理后的图像;并将处理后的图像传输至应用层的相机应用程序;其中,图像信号处理器中可以包括自动曝光模块,自动曝光模块用于执行自动曝光处理;自动曝光模块中包括控制模块,控制模块用于执行本申请实施例中提供的生成高动态范围视频的方法的相关算法;例如,显示第一界面,第一界面为预览界面或者录像界面;获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;显示和/或保存HDR图像流。
目前,常用的生成HDR视频的方法是通过利用图像传感器单位时间内输出不同曝光的图像帧,对不同曝光的图像帧进行融合生成HDR视频;其中,输出不同曝光的图像帧的技术主要包括Stagger HDR技术与采用不同增益读出的技术;其中,Stagger HDR技术包括采用全数字重叠模式(Full Digital Overlap,Full DOL)模式获取不同曝光图像;FullDOL模式采集不同曝光图像时,长曝光图像帧与短曝光图像帧在时序上为先后完成曝光的;由于长曝光图像帧与短曝光图像帧在时序上并未同步,因此若拍摄对象存在局部运动,或者,电子设备产生移动,则基于不同曝光图像融合生成的HDR图像中会出现运动鬼影或者纹理悬浮等问题;一般而言,当曝光时间越短时,运动鬼影问题越小;当曝光时间越长时,运动鬼影问题越明显;对于采用不同增益读出模式(例如,包括DAG模式,或者,DCG模式与DAG模式相结合模式)生成HDR视频时,通常是基于单次曝光利用两个不同的增益(例如,模拟增益,或者,模拟增益与转换增益结合的双增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用单次曝光生成两帧不同曝光的图像,因此两帧图像中不会存在运动差异,融合后得到的HDR图像中不存在运动鬼影等问题;但是,对于采用不同增益生成HDR视频的技术而言,在高亮场景中模拟增益通常会降低为1倍;此外,转换增益一般只能为4倍,此时难以通过两种不同的模拟增益(或者,双增益)输出两帧曝光差异很大的图像,则无法得到很大动态范围的HDR视频。
表1
示例性地,如表1所示,在高亮场景中采用双增益模式(例如,DCG与DAG结合的模式),则长帧图像与短帧曝光图像的模拟增益均会降低至1,此时曝光比率较小(仅为4);即在高亮场景中,难以通过两种不同的增益输出两帧不同曝光的图像,则无法得到HDR视频。
有鉴于此,本申请的实施例提供了一种生成高动态范围图像的方法和电子设备;在本申请的实施例中,可以基于电子设备所处拍摄环境的亮度参数确定电子设备所采用的HDR模式;基于不同亮度参数可以采用不同的HDR模式生成HDR图像流,从而确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,且提高HDR图像流的动态范围;例如,在电子设备处于高亮拍摄环境时,可以采用单帧逐行HDR模式;由于在高亮场景中,拍摄环境的亮度较高,则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用不同增益值读出模式生成HDR图像流;由于采用不同增益读出的技术(例如,包括DCG与DAG)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
下面结合图5对本申请实施例提供的生成高动态范围视频的方法的应用场景进行详细的描述。
可选地,本申请实施例中的生成高动态范围视频的方法可以应用于电子设备采集视频的场景;例如,本申请的方案可以应用于电子设备的录制视频场景,或者,录制视频预览场景。
应理解,录制视频预览场景可以是指电子设备在录制视频的拍摄模式下,未点击指示拍摄的按钮之前电子设备采集图像的场景。
示例性地,如图5所示,本申请实施例提供的生成高动态范围视频的方法可以应用于相机的录像模式;基于本申请实施例的生成高动态范围视频的方法,能够在确保图像动态范围的情况下,减少视频的图像中出现运动鬼影或者纹理浮动等问题,提升HDR视频的图像质量。
可选地,本申请的方法还可以适用于视频处理场景,视频处理场景包括但不限于:
视频通话、视频会议应用、长短视频应用、视频直播类应用、视频网课应用、人像智能运镜应用场景、系统相机录像功能录制视频、视频监控或者智能猫眼等拍摄类场景。
可选地,本申请的方法还可以适用于拍照场景。
应理解,上述为举例说明,并不对本申请的应用场景作任何限定。
图6是本申请实施例提供的一种生成高动态范围视频的方法的示意性流程图。该方法400包括可以由图1所示的电子设备执行,或者,由图2所示的控制模块执行;该方法400包括步骤S410至步骤S440,下面分别对步骤S410至步骤S440进行详细的描述。
步骤S410、显示第一界面。
示例性地,第一界面可以为电子设备中相机应用程序的预览界面(例如,录像预览界面),如图5所示;或者,第一界面可以为电子设备中相机应用程序的录像界面。
步骤S420、获取第一参数。
可选地,在一种可能的实现方式中,第一参数可以是指电子设备所处拍摄环境的亮度值。
示例性地,亮度值的具体计算公式如下:
其中,Exposure为曝光时间;Aperture为光圈大小;Iso为感光度;Luma为图像在XYZ颜色空间中,Y的平均值。
可选地,在一种实现方式中,第一参数可以是指预览图像的曝光时间。
应理解,曝光时间可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,曝光时间越短;拍摄场景的亮度越暗,曝光时间越长。
可选地,在一种实现方式中,第一参数可以是指感光度。
应理解,ISO可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,ISO越小;拍摄场景的亮度越暗,ISO越大。
可选地,在一种实现方式中,在获取第一参数之前可以获取预览图像或者录像模式中采集的图像的动态范围值;若动态范围值大于预设动态范围值,则电子设备开启HDR模式;基于第一参数,电子设备可以确定采用第一HDR模式或者第二HDR模式。
步骤S430、基于第一参数确定采用第一HDR模式或者采用第二HDR模式生成HDR图像流。
其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同。
在本申请的实施例中,可以基于电子设备所处拍摄环境的环境亮度确定电子设备所采用的HDR模式;在电子设备处于高亮拍摄环境时,可以采用单帧逐行HDR模式;由于在高亮场景中,拍摄环境的亮度较高大则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用不同增益值读出模式生成HDR图像流;由于采用不同增益读出的技术(例如,包括DCG与DAG)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
可选地,第一HDR模式包括:单帧逐行(Stagger)HDR模式;StaggerHDR模式包括:全数字重叠模式(Full Digital Overlap,Full DOL);第二HDR模式包括:双转换增益DCG模式,或者,双模拟DAG模式。
其中,stagger HDR模式是指以“行”作为输出单位的“长短帧”拍摄的HDR模式;DCG模式是一种采用同时曝光,利用两个不同转换增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像的HDR模式,如图3中的(a)所示;DAG模式是一种采用同时曝光,利用两个不同模拟增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像的HDR模式,如图3中的(b)所示。
可选地,在电子设备的预览图像的动态范围大于预设动态范围值时,电子设备的可以开启HDR模式;基于第一参数可以确定采用第一HDR模式或者第二HDR模式;或者,电子设备可以基于第一参数,直接开启第一HDR模式,或者,第二HDR模式。
可选地,基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,包括:
若拍摄环境的亮度大于第一亮度阈值,采用第一HDR模式生成HDR图像流;
若拍摄环境的亮度小于或者等于第二亮度阈值,采用第二HDR模式生成HDR图像流。
示例性地,第一亮度阈值与第二亮度阈值可以相等;例如,第一亮度阈值可以为100;若拍摄环境的亮度值大于100,电子设备可以采用第一HDR模式生成HDR图像流;若拍摄环境的亮度值小于或者等于100,电子设备可以采用第二HDR模式生成HDR图像流。
可选地,为了避免电子设备在拍摄环境的亮度临界场景中反复切换图像处理模式;因此,可以基于双阈值识别电子设备所处的拍摄环境是否为高亮场景,从而提高拍摄的稳定性。
可选地,第一亮度阈值大于第二亮度阈值,电子设备当前时刻采用目标HDR模式生成HDR图像流,目标HDR模式为第一HDR模式或者第二HDR模式,还包括:
若拍摄环境的亮度位于第一亮度阈值与第二亮度阈值之前,电子设备采用目标HDR模式生成HDR图像流。
示例性地,第一亮度阈值与第二亮度阈值可以不相等;例如,如图8所示,采用的亮度双阈值可以分别为亮度阈值1(80)与亮度阈值2(100);在预览图像的动态范围值大于DR1时,若拍摄环境的亮度值小于80,采用不同增益读出模式(例如,DAG模式,或者,DAG与DCG结合的模式)生成HDR图像流;若拍摄环境的亮度值大于100时,采用单帧逐行HDR模式生成HDR图像流。
示例性地,在预览图像的动态范围值小于或者等于DR1时,此时生成的图像为普通动态范围图像,则可以采用像素合并的模式生成图像。
可选地,第一参数可以为预览图像的曝光时间,电子设备可以基于预览图像的曝光时间确定采用第一HDR模式或者第二HDR模式。
示例性地,若拍摄环境的曝光时间小于1ms,则说明电子设备所处的拍摄环境为高亮场景;此时,电子设备确定采用第一HDR模式生成HDR图像流;若拍摄环境的曝光时间大于或者等于1ms,则电子设备确定采用第二HDR模式生成HDR图像流。
可选地,电子设备包括图像信号处理器,图像信号处理器中包括自动曝光模块,自动曝光模块用于运行自动曝光算法,自动曝光模块中包括控制模块,控制模块用于基于第一参数确定采用第一HDR模式或者采用第二HDR模式生成HDR图像流。例如,如图4所示。
步骤S440、显示和/或保存HDR图像流。
可选地,在电子设备处于预览状态(例如,录像预览状态)时,可以显示HDR图像流;或者,在电子设备处于预览状态时,可以显示HDR图像流,并且保存部分或者全部HDR图像流。
示例性地,预览状态可以包括普通预览状态与录制预览状态;例如,普通预览状态是指在相机应用程序中,普通预览状态也可以是指在视频通话应用程序中,取景框内实时显示的视频通话的预览图像;录制预览状态可以是指在点击相机应用程序中的录制视频的控件之后,在录制界面中取景框中实时显示的录制预览图像。
可选地,在电子设备处于录制状态时,可以保存HDR图像流。
在本申请的方案中,基于拍摄环境的不同亮度,电子设备可以采用不同的HDR模式生成HDR图像流,从而能够确保生成的HDR视频中无鬼影且具有较大的动态范围;例如,在电子设备处于高亮拍摄环境时,可以采用第一HDR模式(例如,单帧逐行HDR模式);由于在高亮场景中,拍摄环境的亮度较高,则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用第二HDR模式(例如,不同增益值读出模式)生成HDR图像流;由于采用不同增益读出模式(例如,包括DAG模式,或者,DCG模式与DAG模式结合的双增益)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
实现方式一
在本申请的实施例中,可以基于电子设备所处拍摄环境的环境亮度确定电子设备所采用的HDR模式;不同亮度对应不同的HDR模式,从而确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,且提高HDR图像流的动态范围。
图7是本申请实施例提供的一种生成高动态范围视频的方法的示意性流程图。该方法500包括可以由图1所示的电子设备执行,或者,由图2所示的控制模块执行;该方法500包括步骤S501至步骤S510,下面分别对步骤S501至步骤S510进行详细的描述。
步骤S501、运行相机应用程序。
例性地,用户可以通过单击“相机”应用程序的图标,指示电子设备运行相机应用;或者,电子设备处于锁屏状态时,用户可以通过在电子设备的显示屏上向右滑动的手势,指示电子设备运行相机应用。又或者,电子设备处于锁屏状态,锁屏界面上包括相机应用程序的图标,用户通过点击相机应用程序的图标,指示电子设备运行相机应用程序。又或者,电子设备在运行其他应用时,该应用具有调用相机应用程序的权限;用户通过点击相应的控件可以指示电子设备运行相机应用程序。例如,电子设备正在运行即时通信类应用程序时,用户可以通过选择相机功能的控件,指示电子设备运行相机应用程序等。
应理解,上述为对运行相机应用程序的操作的举例说明;还可以通过语音指示操作,或者其它操作的指示电子设备运行相机应用程序;本申请对此不作任何限定。
还应理解,运行相机应用程序可以是指启动相机应用程序。
可选地,图5所示的方法应用于录像场景;在本申请的实施例中,在运行相机应用程序后,相机应用程序后可以默认进入拍照模式;电子设备可以检测到用户点击录制模式,电子设备可以进入录像模式的预览状态。
可选地,图5所示的方法应用于录像场景;在本申请的实施例中,在电子设备运行相机应用程序后,相机应用程序可以默认进行录像模式。
步骤S502、获取预览图像的动态范围值。
应理解,预览图像可以是指电子设备处于录像预览状态时,电子设备采集的图像;预览图像的动态范围值可以用于描述电子设备中的相机模组在一帧内记录的最亮信号与最暗信号之间的比值。
示例性地,在电子设备中的相机应用程序运行后,电子设备中的图像传感器可以实时采集预览图像;基于预览图像可以获取预览图像的动态范围值。
应理解,动态范围用于定义电子设备捕捉图像的影调细节的范围;通常指最低值到最高值之间的范围。例如,动态范围值可以用于描述电子设备中的相机模组在一帧内记录的最亮信号与最暗信号之间的比值。
步骤S503、在动态范围值大于预设动态范围阈值的情况下,开启HDR预览状态。
应理解,HDR预览状态可以是指录像模式中的预览状态;例如,录像模式中的预览状态可以是指相机应用程序处于录像模式,且未检测到点击录像按钮之前的状态。
示例性地,在动态范围值大于预设动态范围阈值的情况下,可以说明拍摄场景中存在亮度差异较大的区域;此时,电子设备中的相机可以开启HDR录像模式。
示例性地,在以对数值表示动态范围值时,若预览图像中最高亮度与最小亮度的比值大于2.5时,电子设备可以开启相机的HDR拍摄模式。
应理解,HDR录像模式与普通的录像模式相比具有更大的曝光动态范围。
可选地,电子设备可以基于上述方式获取动态范围值自动开启HDR录像模式,或者,电子设备可以在检测到用户点击HDR录像模式的控件后,开启HDR录像模式。
步骤S504、获取亮度参数(第一参数的一个示例)。
应理解,亮度参数可以用于指示电子设备所处拍摄环境的亮度大小。
示例性地,亮度参数可以包括但不限于:LV值,或者,曝光参数,或者ISO。
例如,亮度值的具体计算公式如下:
其中,Exposure为曝光时间;Aperture为光圈大小;Iso为感光度;Luma为图像在XYZ颜色空间中,Y的平均值。
应理解,曝光时间可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,曝光时间越短;拍摄场景的亮度越暗,曝光时间越长。
应理解,ISO可以用于指示拍摄场景的亮度;一般而言,拍摄场景的亮度越高,ISO越小;拍摄场景的亮度越暗,ISO越大。
步骤S505、确定拍摄环境是否为高亮拍摄场景;若拍摄环境为高亮场景,则执行步骤S506;若拍摄环境不是高亮场景,则执行步骤S507。
可选地,可以基于拍摄环境的LV值确定拍摄环境是否为高度拍摄场景。
示例性地,若拍摄环境的LV值大于100,则拍摄环境为高亮场景。
在本申请的实施例中,为了避免电子设备在拍摄环境的亮度临界场景中反复切换HDR工作模式;因此,可以基于双阈值识别电子设备所处的拍摄环境是否为高亮场景,从而提高拍摄的稳定性。
例如,如图8所示,采用的亮度双阈值可以分别为亮度阈值1(80)与亮度阈值2(100);在预览图像的动态范围值大于DR1时,若拍摄环境的亮度值小于80,采用不同增益读出模式(例如,DCG或者DAG或DCG叠加DAG)生成HDR图像流;若拍摄环境的亮度值大于100时,采用单帧逐行HDR模式生成HDR图像流。
示例性地,在预览图像的动态范围值小于或者等于DR1时,此时生成的图像为普通动态范围图像,则可以采用像素合并的模式生成图像。
示例性地,当电子设备采用不同增益读出模式生成HDR图像流时,若拍摄环境的亮度值位于80~100时,此时电子设备可以依然采用不同增益读出模式;当拍摄环境的亮度值大于100时,电子设备可以采用单帧逐行HDR模式生成HDR图像流。
示例性地,当电子设备采用单帧逐行HDR模式生成HDR图像流时,若拍摄环境的亮度值位于80~100时,此时电子设备可以依然采用单帧逐行HDR模式;当拍摄环境的亮度值小于80时,电子设备可以采用不同增益读出模式生成HDR图像流。
可选地,可以基于在拍摄环境中预览图像的曝光时间确定拍摄环境是否为高度拍摄场景。
示例性地,若拍摄环境的曝光时间小于1ms,则拍摄环境为高亮场景。
应理解,上述为对高亮场景的举例说明,并不对本申请实施例作任何限定。
步骤S506、确定单帧逐行HDR模式(第一HDR模式的一个示例)为目标HDR模式。
应理解,目标HDR模式为电子设备中一种用于采集HDR图像流的处理模式;基于目标HDR模式能够生成HDR图像流。
示例性地,在拍摄场景为高亮拍摄场景时,电子设备确定单帧逐行HDR模式为目标HDR模式;即电子设备通过采用单帧逐行HDR模式生成HDR图像流。
还应理解,单帧逐行HDR模式是指以“行”作为输出单位的“长短帧”拍摄的技术。
例如,图像传感器输出长曝光图像帧或者短曝光图像帧;基于两帧图像的融合处理,实现高动态范围扩展;stagger HDR包括:全数字重叠模式(Full Digital Overlap,Full DOL)。
示例性地,如图2所示,以30fp为例,则图像传感器采用Full DOL模式可以在33ms内曝光两次;交叠读出两帧图像,其中,长曝光图像帧与短曝光图像帧为时序上先后完成曝光,曝光时间或者模拟增益可以不同。例如,长曝光图像帧的曝光时间可以为10ms,短曝光图像帧的曝光时间可以为5ms,并且可以为先执行长曝光图像帧的曝光过程,再执行短曝光图像帧的曝光过程。
步骤S507、确定不同增益读出模式(第二HDR模式的一个示例)为目标HDR模式。
可选地,不同增益读出模式包括DAG模式,如图3中的(b)所示;例如,DAG与DCG结合的双增益模式,如图3中的(c)所示。
示例性地,在拍摄场景不是高亮拍摄场景时,电子设备确定不同增益读出模式为目标HDR模式;即电子设备通过采用不同增益读出模式生成HDR图像流。
应理解,采用不同增益值读出模式是指采用单次曝光,根据两个不同的增益实现长曝光图像帧与短曝光图像帧的读出的HDR技术;其中,采用不同增益值读出模式可以包括DAG与DCG。
其中,DCG技术是一种采用同时曝光,利用两个不同转换增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像;其中,转换增益是像素的一个属性,转换增益用于描述光电转换后产生的单位电子经过放大达到的电压值;一般而言,达到的电压越高,则转换增益越大。
示例性地,在同一曝光时间中CMOS感光元件中可以通过配置其增益值来放大信号;根据不同的增益值大小,可以实现不同程度的信号放大,得到不同曝光值的图像帧;对不同曝光值的图像帧进行融合,得到HDR图像。
例如,如图3中的(a)所示为在DCG模式下的像素电路图;在DCG模式下,其像素电路图相比普通的像素电路图,增加了额外的一个FD1和一个DCG开关;增加的FD1的电容与FD的电容相比较大;在高变换增益(High conversion gain,HCG)模式下,RG作为重置开关工作,DCG保持拉高电平使能状态;因此,FD1的电容等于FD的电容,此时变化增益CG较大。在低变换增益(Low conversion gain,LCG)模式下,RG保持使能状态,DCG作为重置开关,FD的电容等于FD1的电容,相应地变换增益较小。
应理解,DAG技术是一种采用同时曝光,利用两个不同模拟增益读出的方式得到两帧不同曝光的图像,融合后得到高动态图像。
例如,如图3中的(b)所示为在DAG模式下的像素电路图;与图3中的(a)所示的DCG模式下的像素电路图相比,DAG模式下的像素电路在DCG模式下的像素电路的基础上增加可编程增益放大器(Programmable Gain Amplifier,PGA),该PGA用于对DCG模式下的像素电路的增益进行放大处理。
可选地,DAG模式下的像素电路中可以包括一个PGA;或者,也可以包括多个PGA。
步骤S508、检测到指示录像的操作。
示例性地,电子设备检查到用户点击录像控件的操作;或者,检测到其他指示录像的操作。
步骤S509、响应于操作,采用目标HDR模式生成HDR图像流。
可选地,在电子设备所处的拍摄场景为高亮拍摄场景时,电子设备确定采用单帧逐行HDR模式生成HDR图像流;例如,电子设备可以通过时序上先后的两次曝光,采集不同曝光图像。
可选地,在电子设备所处的拍摄场景为中亮拍摄场景或者低亮拍摄场景时,电子设备确定采用不同增益读出模式生成HDR图像流;例如,电子设备可以通过单次曝光,利用两个不同的增益(例如,DAG模式,或者,DAG与DCG结合的双增益模式)读出的方式deed不同曝光的图像。
步骤S510、显示或者保存HDR图像流。
可选地,电子设备在生成HDR图像流后可以直接在电子设备中显示HDR图像流。
可选地,电子设备在生成HDR图像流后可以保存HDR图像流;在检测到指示显示HDR图像流的操作后,电子设备显示HDR图像流。
表2
示例性地,表2中示出了两种不同模式以及对应的曝光比率的数据;基于表2中的数据可以看出,在高亮拍摄环境中,stagger HDR模式的曝光比率较大,即可以表示staggerHDR模式采集的图像流的动态范围较大;在中亮与低亮拍摄环境中,stagger HDR模式与DAG模式的曝光比率相同,即在中亮与低亮的拍摄环境中stagger HDR模式与DAG模式生成的图像流的动态范围相同;因此,考虑到图像流中的运动差异与动态范围,可以在高亮拍摄场景中采用stagger HDR模式生成HDR图像流;在中亮或者低亮的拍摄环境中采用DAG模式,或者,双增益模式生成HDR图像流。
示例性地,上述步骤S501至步骤S507为电子设备处于相机应用程序的预览状态时,确定目标HDR模式的实现方式;可选地,在本申请的实施例中,上述方法也可以在电子设备开启录像模式之后执行;例如,在电子设备开始录像后,可以基于采集的图像帧确定拍摄环境的是否为高亮拍摄场景;若电子设备所处的拍摄环境为高亮场景,则电子设备确定单帧逐行HDR模式为目标HDR模式;若电子设备所处的拍摄环境为中亮场景或者低亮场景,则电子设备确定不同增益读出模式为目标HDR模式;换而言之,图5所示的方法,在执行步骤S507之后可以直接采用目标HDR模式生成HDR图像流;显示或者保存HDR图像流;本申请对此不作任何限定。
在本申请的实施例中,可以基于电子设备所处拍摄环境的环境亮度确定电子设备所采用的HDR模式;在电子设备处于高亮拍摄环境时,可以采用单帧逐行HDR模式;由于在高亮场景中,拍摄环境的亮度较高则电子设备的曝光时间通常较短;此时,采用单帧逐行HDR模式先后读出两帧曝光图像,由于曝光时间较短;因此,由于运动引起的两帧曝光图像的差异较小;此时,在高亮拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围;在中等亮度或者较低亮度的拍摄环境中,由于拍摄环境的亮度适中或者较低,此时曝光对应的增益通常高于1倍,则此时可以采用不同增益值读出模式生成HDR图像流;由于采用不同增益读出的技术(例如,包括DCG与DAG)生成HDR视频,通常是采用单次曝光利用两个不同的增益(例如,转换增益,或者,模拟增益)读出的方式得到两帧不同曝光的图像,融合后得到HDR图像;由于采用完全同时刻曝光,所以两帧图像没有运动引起的差异,融合不存在运动鬼影问题;此时,在中等亮度或者低亮度的拍摄环境中,可以确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
实现方式二
在本申请的实施例中,在电子设备处于高亮场景拍摄时,可以通过减少曝光时间实现基于两种不同的增益输出两帧曝光差异较大的图像;从而实现基于不同增益读出HDR模式生成HDR图像流;实现在高亮场景中,确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
图9是本申请实施例提供的一种生成高动态范围视频的方法的示意性流程图。该方法600包括可以由图1所示的电子设备执行,或者,由图2所示的控制模块执行;该方法600包括步骤S601至步骤S610,下面分别对步骤S601至步骤S610进行详细的描述。
步骤S601、运行相机应用程序。
步骤S602、获取预览图像的动态范围值。
步骤S603、在动态范围值大于预设动态范围阈值的情况下,开启HDR预览状态。
步骤S604、获取亮度参数。
步骤S605、确定拍摄环境是否为高亮拍摄场景;若拍摄环境为高亮场景,则执行步骤S606;若拍摄环境不是高亮场景,则执行步骤S607。
步骤S606、确定第一增益读出模式为目标HDR模式。
其中,第一HDR模式为减少曝光时间,采用不同增益读出模式生成HDR图像流的模式。
应理解,由于在高亮场景,电子设备的进光量较多;对于不同增益读出模式而言,在高亮场景中增益值通常会降低值1倍,此时难以通过两种不同的增益输出两帧曝光差异较大的图像;因此,在高亮场景中若要采用不同增益读出模式生成HDR图像流,则可以减少曝光时间,实现两种不同的增益输出两帧不同曝光的图像。
示例性地,在高亮场景中,假设长帧图像的曝光时间为1ms,增益为1;短帧曝光时间为1ms,增益为1;将长帧的曝光时间可以从1ms调整至0.5ms,则增益可以为2;此时,短帧的曝光时间为0.5ms,增益为1;由于曝光比率=(长帧曝光时间*长帧曝光增益)/(短帧曝光时间*短帧曝光增益);因此,在减少曝光时间后,曝光比率可以从1变为2;由于曝光比率增大,则表示HDR图像流的动态范围相应增大。
步骤S607、确定第二增益模式为目标HDR模式。
需要说明的是,第二增益读出模式为图7中步骤S507中所示的不同增益读出模式。
可选地,不同增益读出模式包括DAG模式,或者,DAG与DCG结合的双增益模式。
步骤S608、检测到指示录像的操作。
步骤S609、响应于操作,采用目标HDR模式生成HDR图像流。
步骤S610、显示或者保存HDR图像流。
应理解,除上述描述之外,图9中与图7中的相同部分同样适用于图7的相关描述,此处不再赘述。
在本申请的实施例中,由于不同增益读出模式生成HDR图像流时,采用完全相同的曝光时间,因此通常情况下两帧图像中不会存在运动引起的差异,使得基于两帧图像融合后得到的HDR图像流中通常不存在运动鬼影或者纹理悬浮等问题;通过本申请实施例的方案,高亮场景中通过减少曝光时间实现两种不同的增益输出两帧不同曝光的图像;从而实现在高亮场景中,确保HDR图像流中不存在运动鬼影或者纹理悬浮等问题的情况下,提高HDR图像流的动态范围。
图10是本申请实施例提供的生成高动态范围视频的方法的效果示意图。
如图10所示,拍摄对象包括对象691(例如,用户)、对象692(例如,天空中的云朵)与对象693(例如,天空中的云朵);图10中的(a)所示显示界面710为采用现有的不同增益读出模式得到的预览界面;图10中的(b)所示的显示界面720是通过本申请实施例提供的生成高动态范围视频的方法得到的预览界面;如图10中的(a)所示的显示界面710,由于在高亮场景中,拍摄对象692与拍摄对象693无法正常显示;与图10中的(a)所示的图像相比,图10中的(b)所示显示界面720中的图像能够显示天空区域的对象692与对象693,且显示界面720中图像中也未出现运动鬼影或者纹理浮动等问题;因此通过本申请实施例提供的方法,在高亮场景中能够确保HDR视频中不存在运动鬼影或者纹理悬浮等问题,并且提高HDR图像流的动态范围。
下面结合图11与图12对在电子设备中的界面示意图进行举例描述。
图11是本申请实施例提供的一种电子设备的界面示意图。
示例性地,如图11中的(a)所示的显示界面为电子设备在HDR录像模式的录像预览界面,录像预览界面中包括控件730;电子设备检测到对控件730的点击操作,如图11中的(b)所示;在电子设备检测到对控件730的点击操作之后,电子设备可以执行本申请实施例的生成高动态范围视频的方法,显示如图11中的(c)所示的录像预览界面。
图12是本申请实施例提供的另一种电子设备的界面示意图。
示例性地,如图12中的(a)所示的显示界面为电子设备在录像模式的录像预览界面,录像预览界面中包括设置控件740;电子设备检测到对设置控件740的点击操作,如图12中的(b)所示;在电子设备检测到对设置控件740的点击操作之后,电子设备可以显示设置显示界面,设置显示界面中包括高亮场景HDR模式的控件750,如图12中的(c)所示;电子设备检测到对控件750的点击操作,如图12中的(d)所示;在电子设备检测到对控件750的点击操作之后,电子设备可以执行本申请实施例的生成高动态范围视频的方法,显示如图12中的(e)所示的录像预览界面。
应理解,上述举例说明是为了帮助本领域技术人员理解本申请实施例,而非要将本申请实施例限于所例示的具体数值或具体场景。本领域技术人员根据所给出的上述举例说明,显然可以进行各种等价的修改或变化,这样的修改或变化也落入本申请实施例的范围内。
上文结合图1至图12详细描述了本申请实施例提供的图像处理方法;下面将结合图13至图14详细描述本申请的装置实施例。应理解,本申请实施例中的装置可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图13是本申请实施例提供的一种电子设备的结构示意图。该电子设备800包括显示模块810与处理模块820。
其中,显示模块810用于显示第一界面,所述第一界面为预览界面或者录像界面;处理模块820用于获取第一参数,所述第一参数用于指示所述电子设备所处拍摄环境的亮度;基于所述确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,所述第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,所述第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,所述第一增益与所述第二增益不同;显示和/或保存所述HDR图像流。
可选地,作为一个实施例,所述处理模块820具体用于:
若所述拍摄环境的亮度大于第一亮度阈值,采用所述HDR模式生成所述HDR图像流;
若所述拍摄环境的亮度小于或者等于第二亮度阈值,采用所述第二HDR模式生成所述HDR图像流。
可选地,作为一个实施例,所述第一亮度阈值与所述第二亮度阈值相等。
可选地,作为一个实施例,所述第一亮度阈值大于所述第二亮度阈值,所述电子设备当前时刻采用目标HDR模式生成所述HDR图像流,所述目标HDR模式为所述第一HDR模式或者所述第二HDR模式,所述处理模块820还用于:
若所述拍摄环境的亮度位于所述第一亮度阈值与所述第二亮度阈值之前,所述电子设备采用所述目标HDR模式生成所述HDR图像流。
可选地,作为一个实施例,所述第一参数为所述拍摄环境的亮度值,或者,所述第一参数为曝光时间。
可选地,作为一个实施例,所述第一HDR模式包括单帧逐行HDR模式,所述单帧逐行HDR模式包括数字重叠DOL模式。
可选地,作为一个实施例,所述第二HDR模式包括双模拟增益DAG模式。
可选地,作为一个实施例,所述第二HDR模式为双增益模式,所述双增益模式为所述DAG模式与双转换增益DCG模式结合的模式。
可选地,作为一个实施例,所述电子设备包括图像信号处理器,所述图像信号处理器中包括自动曝光模块,所述自动曝光模块用于运行自动曝光算法,所述自动曝光模块中包括控制模块,所述控制模块用于基于所述确定采用所述第一HDR模式或者采用所述第二HDR模式生成所述HDR图像流。
需要说明的是,上述电子设备800以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“模块”可以是实现上述功能的软件程序、硬件电路或二者结合。硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
图14示出了本申请提供的一种电子设备的结构示意图。图14中的虚线表示该单元或该模块为可选的;电子设备900可以用于实现上述方法实施例中描述的生成高动态范围视频的方法。
电子设备900包括一个或多个处理器901,该一个或多个处理器901可支持电子设备900实现方法实施例中的生成高动态范围视频的方法。处理器901可以是通用处理器或者专用处理器。例如,处理器1101可以是中央处理器(central processing unit,CPU)、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specificintegrated circuit,ASIC)、现场可编程门阵列(field programmable gate array,FPGA)或者其它可编程逻辑器件,如分立门、晶体管逻辑器件或分立硬件组件。
可选地,处理器901可以用于对电子设备900进行控制,执行软件程序,处理软件程序的数据。电子设备900还可以包括通信单元905,用以实现信号的输入(接收)和输出(发送)。
例如,电子设备900可以是芯片,通信单元905可以是该芯片的输入和/或输出电路,或者,通信单元905可以是该芯片的通信接口,该芯片可以作为终端设备或其它电子设备的组成部分。
又例如,电子设备900可以是终端设备,通信单元905可以是该终端设备的收发器,或者,通信单元905可以900中可以包括一个或多个存储器902,其上存有程序904,程序904可被处理器901运行,生成指令903,使得处理器901根据指令903执行上述方法实施例中描述的生成高动态范围视频的方法。
可选地,存储器902中还可以存储有数据。
可选地,处理器901还可以读取存储器902中存储的数据,该数据可以与程序904存储在相同的存储地址,该数据也可以与程序904存储在不同的存储地址。
可选地,处理器901和存储器902可以单独设置,也可以集成在一起,例如,集成在终端设备的系统级芯片(system on chip,SOC)上。
示例性地,存储器902可以用于存储本申请实施例中提供的生成高动态范围视频的方法的相关程序904,处理器901可以用于在执行图像处理时调用存储器902中存储的生成高动态范围视频的方法的相关程序904,执行本申请实施例的生成高动态范围视频的方法;例如,例如,显示第一界面,第一界面为预览界面或者录像界面;获取第一参数,第一参数用于指示电子设备所处拍摄环境的亮度;基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,其中,第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,第二HDR模式为在单次曝光中基于第一增益与第二增益读出长曝光图像与短曝光图像的模式,第一增益与第二增益不同;显示和/或保存HDR图像流。
可选地,本申请还提供了一种计算机程序产品,该计算机程序产品被处理器901执行时实现本申请中任一方法实施例的生成高动态范围视频的方法。
例如,该计算机程序产品可以存储在存储器902中,例如是程序904,程序904经过预处理、编译、汇编和链接等处理过程最终被转换为能够被处理器901执行的可执行目标文件。
可选地,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例的生成高动态范围视频的方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
例如,该计算机可读存储介质例如是存储器902。存储器902可以是易失性存储器或非易失性存储器,或者,存储器902可以同时包括易失性存储器和非易失性存储器。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的电子设备的实施例仅仅是示意性的,例如,模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
另外,本文中的术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准总之,以上仅为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (12)
1.一种生成高动态范围视频的方法,其特征在于,应用于电子设备,包括:
显示第一界面,所述第一界面为所述电子设备的预览界面或者录像界面;
获取第一参数,所述第一参数用于指示所述电子设备所处拍摄环境的亮度;
基于所述第一参数的确定采用第一高动态范围HDR模式,或者采用第二HDR模式生成HDR图像流,其中,所述第一HDR模式为基于时序上先后顺序两次曝光得到长曝光图像与短曝光图像的模式,所述第二HDR模式为在单次曝光中基于第一增益与第二增益读出所述长曝光图像与所述短曝光图像的模式,所述第一增益与所述第二增益不同;
显示和/或保存所述HDR图像流。
2.如权利要求1所述的方法,其特征在于,所述基于第一参数确定采用第一高动态范围HDR模式或者采用第二HDR模式生成HDR图像流,包括:
若所述拍摄环境的亮度大于第一亮度阈值,采用所述第一HDR模式生成所述HDR图像流;
若所述拍摄环境的亮度小于或者等于第二亮度阈值,采用所述第二HDR模式生成所述HDR图像流。
3.如权利要求2所述的方法,其特征在于,所述第一亮度阈值与所述第二亮度阈值相等。
4.如权利要求2所述的方法,其特征在于,所述第一亮度阈值大于所述第二亮度阈值,所述电子设备当前时刻采用目标HDR模式生成所述HDR图像流,所述目标HDR模式为所述第一HDR模式或者所述第二HDR模式,还包括:
若所述拍摄环境的亮度大于所述第二亮度阈值且小于或者等于所述第一亮度阈值,所述电子设备采用所述目标HDR模式生成所述HDR图像流。
5.如权利要求1至4中任一项所述的方法,其特征在于,所述第一参数为亮度值,或者,所述第一参数为曝光时间,或者所述第一参数为感光度。
6.如权利要求1至5中任一项所述的方法,其特征在于,所述第一HDR模式包括单帧逐行HDR模式,所述单帧逐行HDR模式包括数字重叠DOL模式。
7.如权利要求1至6中任一项所述的方法,其特征在于,所述第二HDR模式包括双模拟增益DAG模式。
8.如权利要求7所述的方法,其特征在于,所述第二HDR模式为双增益模式,所述双增益模式为所述DAG模式与双转换增益DCG模式结合的模式。
9.如权利要求1至8中任一项所述的方法,其特征在于,所述电子设备包括图像信号处理器,所述图像信号处理器中包括自动曝光模块,所述自动曝光模块用于运行自动曝光算法,所述自动曝光模块中包括控制模块,所述控制模块用于基于所述第一参数确定采用所述第一HDR模式或者采用所述第二HDR模式生成所述HDR图像流。
10.一种电子设备,其特征在于,包括:
一个或多个处理器和存储器;
存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行如权利要求1至9中任一项的方法。
11.一种芯片系统,其特征在于,芯片系统应用于电子设备,芯片系统包括一个或多个处理器,处理器用于调用计算机指令以使得电子设备执行如权利要求1至9中任一项的方法。
12.一种计算机可读存储介质,其特征在于,计算机可读存储介质存储了计算机程序,当计算机程序被处理器执行时,使得处理器执行权利要求1至9中任一项的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211038881.7A CN116055890A (zh) | 2022-08-29 | 2022-08-29 | 生成高动态范围视频的方法和电子设备 |
PCT/CN2023/091977 WO2024045670A1 (zh) | 2022-08-29 | 2023-05-04 | 生成高动态范围视频的方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211038881.7A CN116055890A (zh) | 2022-08-29 | 2022-08-29 | 生成高动态范围视频的方法和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116055890A true CN116055890A (zh) | 2023-05-02 |
Family
ID=86132035
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211038881.7A Pending CN116055890A (zh) | 2022-08-29 | 2022-08-29 | 生成高动态范围视频的方法和电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN116055890A (zh) |
WO (1) | WO2024045670A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116567407A (zh) * | 2023-05-04 | 2023-08-08 | 荣耀终端有限公司 | 一种相机参数配置方法及电子设备 |
WO2024045670A1 (zh) * | 2022-08-29 | 2024-03-07 | 荣耀终端有限公司 | 生成高动态范围视频的方法和电子设备 |
CN117692783A (zh) * | 2023-05-25 | 2024-03-12 | 荣耀终端有限公司 | 一种视频拍摄方法及电子设备 |
CN117750190A (zh) * | 2024-02-20 | 2024-03-22 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040251394A1 (en) * | 2003-06-11 | 2004-12-16 | Rhodes Howard E. | Dual conversion gain imagers |
US20070013797A1 (en) * | 2005-07-12 | 2007-01-18 | Micron Technology, Inc. | Dual conversion gain gate and capacitor and HDR combination |
US20170339327A1 (en) * | 2016-05-17 | 2017-11-23 | Altasens, Inc. | Image sensor combining high dynamic range techniques |
CN108419032A (zh) * | 2018-03-01 | 2018-08-17 | 上海晔芯电子科技有限公司 | 支持多种曝光模式的hdr图像传感器像素结构及成像系统 |
US20190124278A1 (en) * | 2017-10-24 | 2019-04-25 | Semiconductor Components Industries, Llc | High dynamic range image sensors with flicker and fixed pattern noise mitigation |
CN110611773A (zh) * | 2018-06-14 | 2019-12-24 | 半导体元件工业有限责任公司 | 具有多重曝光的高动态范围成像像素 |
US20200284575A1 (en) * | 2014-11-04 | 2020-09-10 | Pixart Imaging Inc. | Camera having two exposure modes and imaging system using the same |
CN112738414A (zh) * | 2021-04-06 | 2021-04-30 | 荣耀终端有限公司 | 一种拍照方法、电子设备及存储介质 |
CN112991245A (zh) * | 2021-02-03 | 2021-06-18 | 无锡闻泰信息技术有限公司 | 双摄虚化处理方法、装置、电子设备和可读存储介质 |
CN113382169A (zh) * | 2021-06-18 | 2021-09-10 | 荣耀终端有限公司 | 一种拍照方法及电子设备 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9077913B2 (en) * | 2013-05-24 | 2015-07-07 | Google Inc. | Simulating high dynamic range imaging with virtual long-exposure images |
CN109413335B (zh) * | 2017-08-16 | 2020-12-18 | 瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
KR20220064170A (ko) * | 2020-11-11 | 2022-05-18 | 삼성전자주식회사 | 이미지 센서를 포함하는 전자 장치 및 그 동작 방법 |
CN113132659B (zh) * | 2021-04-23 | 2022-07-12 | 深圳市汇顶科技股份有限公司 | 像素单元、阵列、图像传感器及电子设备 |
CN116055890A (zh) * | 2022-08-29 | 2023-05-02 | 荣耀终端有限公司 | 生成高动态范围视频的方法和电子设备 |
-
2022
- 2022-08-29 CN CN202211038881.7A patent/CN116055890A/zh active Pending
-
2023
- 2023-05-04 WO PCT/CN2023/091977 patent/WO2024045670A1/zh unknown
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040251394A1 (en) * | 2003-06-11 | 2004-12-16 | Rhodes Howard E. | Dual conversion gain imagers |
US20070013797A1 (en) * | 2005-07-12 | 2007-01-18 | Micron Technology, Inc. | Dual conversion gain gate and capacitor and HDR combination |
US20200284575A1 (en) * | 2014-11-04 | 2020-09-10 | Pixart Imaging Inc. | Camera having two exposure modes and imaging system using the same |
US20170339327A1 (en) * | 2016-05-17 | 2017-11-23 | Altasens, Inc. | Image sensor combining high dynamic range techniques |
US20190124278A1 (en) * | 2017-10-24 | 2019-04-25 | Semiconductor Components Industries, Llc | High dynamic range image sensors with flicker and fixed pattern noise mitigation |
CN108419032A (zh) * | 2018-03-01 | 2018-08-17 | 上海晔芯电子科技有限公司 | 支持多种曝光模式的hdr图像传感器像素结构及成像系统 |
CN110611773A (zh) * | 2018-06-14 | 2019-12-24 | 半导体元件工业有限责任公司 | 具有多重曝光的高动态范围成像像素 |
CN112991245A (zh) * | 2021-02-03 | 2021-06-18 | 无锡闻泰信息技术有限公司 | 双摄虚化处理方法、装置、电子设备和可读存储介质 |
CN112738414A (zh) * | 2021-04-06 | 2021-04-30 | 荣耀终端有限公司 | 一种拍照方法、电子设备及存储介质 |
CN113382169A (zh) * | 2021-06-18 | 2021-09-10 | 荣耀终端有限公司 | 一种拍照方法及电子设备 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024045670A1 (zh) * | 2022-08-29 | 2024-03-07 | 荣耀终端有限公司 | 生成高动态范围视频的方法和电子设备 |
CN116567407A (zh) * | 2023-05-04 | 2023-08-08 | 荣耀终端有限公司 | 一种相机参数配置方法及电子设备 |
CN116567407B (zh) * | 2023-05-04 | 2024-05-03 | 荣耀终端有限公司 | 一种相机参数配置方法及电子设备 |
CN117692783A (zh) * | 2023-05-25 | 2024-03-12 | 荣耀终端有限公司 | 一种视频拍摄方法及电子设备 |
CN117750190A (zh) * | 2024-02-20 | 2024-03-22 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2024045670A1 (zh) | 2024-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11532076B2 (en) | Image processing method, electronic device and storage medium | |
WO2024045670A1 (zh) | 生成高动态范围视频的方法和电子设备 | |
WO2023015981A1 (zh) | 图像处理方法及其相关设备 | |
KR20130000325A (ko) | Hdr 캡처 능력을 갖는 이미지 센서 | |
WO2021190613A9 (zh) | 一种拍照方法及装置 | |
US11503223B2 (en) | Method for image-processing and electronic device | |
CN115633262B (zh) | 图像处理方法和电子设备 | |
CN115526787B (zh) | 视频处理方法和装置 | |
CN116055897B (zh) | 拍照方法及其相关设备 | |
CN116744120B (zh) | 图像处理方法和电子设备 | |
WO2023226612A1 (zh) | 一种曝光参数确定方法和装置 | |
WO2022083325A1 (zh) | 拍照预览方法、电子设备以及存储介质 | |
WO2024032033A1 (zh) | 视频处理的方法及电子设备 | |
CN117135293B (zh) | 图像处理方法和电子设备 | |
CN115767290B (zh) | 图像处理方法和电子设备 | |
CN113891008B (zh) | 一种曝光强度调节方法及相关设备 | |
CN116055855B (zh) | 图像处理方法及其相关设备 | |
CN116723417B (zh) | 一种图像处理方法和电子设备 | |
CN116709042B (zh) | 一种图像处理方法和电子设备 | |
US20230113058A1 (en) | Electronic device including image sensor and operating method thereof | |
CN116709042A (zh) | 一种图像处理方法和电子设备 | |
CN117692799A (zh) | 一种拍摄方法及相关设备 | |
CN116193268A (zh) | 一种拍摄视频的方法及相关设备 | |
CN117714850A (zh) | 延时摄影方法及其相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |