CN116996762B - 一种自动曝光方法、电子设备及计算机可读存储介质 - Google Patents
一种自动曝光方法、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN116996762B CN116996762B CN202310995464.XA CN202310995464A CN116996762B CN 116996762 B CN116996762 B CN 116996762B CN 202310995464 A CN202310995464 A CN 202310995464A CN 116996762 B CN116996762 B CN 116996762B
- Authority
- CN
- China
- Prior art keywords
- image
- image sensor
- brightness
- exposure
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 219
- 238000012545 processing Methods 0.000 abstract description 87
- 230000008569 process Effects 0.000 description 156
- 239000010410 layer Substances 0.000 description 35
- 230000004044 response Effects 0.000 description 29
- 230000006870 function Effects 0.000 description 25
- 238000004891 communication Methods 0.000 description 20
- 238000013461 design Methods 0.000 description 15
- 230000001965 increasing effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 238000010295 mobile communication Methods 0.000 description 11
- 230000001976 improved effect Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000002688 persistence Effects 0.000 description 3
- 229920001621 AMOLED Polymers 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000003416 augmentation Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 230000008093 supporting effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000004064 recycling Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/65—Control of camera operation in relation to power supply
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请提供了一种自动曝光方法、电子设备及计算机可读存储介质,涉及图像处理技术领域,可以解决自动曝光速度过慢的问题。该方法包括:电子设备响应于用户的第一操作,启动图像传感器;通过图像传感器按照预置的第一模式获取第N帧图像,并确定第N帧图像的第一亮度和第一曝光参数,N为正整数;通过图像传感器基于第一曝光参数,获取第(N+1)帧图像,并确定第(N+1)帧图像的第二亮度和第二曝光参数;确定第二亮度和第一亮度的差值满足预设条件;获取第一操作对应的第二模式,通过图像传感器将第二曝光参数转换为第二模式对应的第三曝光参数。
Description
本申请是分案申请,原申请的申请号是202310319202.1,原申请日是2023年3月29日,原申请的全部内容通过引用结合在本申请中。
技术领域
本申请涉及图像处理技术领域,尤其涉及一种自动曝光方法、电子设备及计算机可读存储介质。
背景技术
目前,电子设备(如手机、平板电脑等)配置有自动曝光(auto exposure,AE)功能,电子设备在启动相机后,能够通过AE功能根据外界光线的强弱自动调整曝光量和增益,从而避免曝光过度或者不足。
但是受限于AE收敛速度,在外界光线过强或较弱的情况下,电子设备的自动曝光效果较差,可能会出现过曝或欠曝现象。例如,响应于用户指示启动摄像头的操作,电子设备唤醒摄像头后,显示的画面由过曝逐渐收敛为曝光正常或者由欠曝逐渐收敛为曝光正常的显示画面。其中,曝光正常一般是指图像画面的像素的明暗分布均匀。在这一过程中,用户需要等待显示的画面曝光正常之后才能够进行拍摄,给用户带来不好的拍摄体验,无法实现快速拍摄。
发明内容
有鉴于此,本申请提供了一种自动曝光方法、电子设备及计算机可读存储介质,可以通过图像传感器对当前帧图像的亮度以及曝光参数进行分析,从而基于当前帧图像的亮度和曝光获取下一帧图像,以实现在图像采集过程中快速进行自动曝光。在当前帧图像和下一帧图像之间的亮度差值满足预设条件时,完成自动曝光过程,并获取指示图像帧画面曝光正常的曝光参数。
第一方面,本申请提供一种自动曝光方法,应用于支持拍摄应用程序运行的电子设备。其中,电子设备可以响应于用户的第一操作,启动图像传感器,以使图像传感器上电并可以进行图像采集。之后,电子设备通过图像传感器按照预置的第一模式获取第N帧图像,并确定第N帧图像的第一亮度和第一曝光参数,N为正整数。图像传感器可以基于预置的第一模式进行图像采集,同时确定其采集图像的第一亮度和第一曝光值。接着,电子设备继续通过图像传感器基于第一曝光参数,获取第(N+1)帧图像,并确定第(N+1)帧图像的第二亮度和第二曝光参数。若确定第二亮度和第一亮度的差值满足预设条件,例如,第二亮度和第一亮度之间的差值小于预设阈值,则可以说明第N帧图像以及第(N+1)帧图像之间的亮度差距不大。也就是说,图像传感器基于第二曝光参数继续获取的图像帧的画面曝光合适。为此,电子设备可以获取第一操作对应的第二模式,通过图像传感器将第二曝光参数转换为第二模式对应的第三曝光参数。图像传感器可以按照第二模式对应的第三曝光参数继续进行图像采集,采集与第二模式对应,且曝光正常的图像帧。
综上,电子设备可以通过图像传感器进行图像帧的采集,并对采集到的图像帧进行亮度和曝光参数的分析,以快速的确定出用于指示图像传感器采集曝光正常图像帧的第二曝光参数,从而提高自动曝光的速度。图像传感器在第一模式下可以基于第二曝光参数获取正确曝光的图像帧后,模式变化为第二模式。为了保证在第二模式下采集的图像帧的画面曝光也正确,图像传感器可以将第二曝光参数转化成与第二模式对应的第三曝光参数,从而保证图像传感器在第二模式下基于第三曝光参数采集画面曝光正常的图像帧的。如此,本申请提供的自动曝光方法,可以通过图像传感器直接对图像进行及时的自动曝光处理,之后,将自动曝光处理完成后的第二曝光参数转换成与第二模式对应的第三曝光参数进行图像采集,使得自动曝光完成后能够输出与第二模式对应,且曝光正常的图像帧。
在第一方面的一种可能的实现方式中,该自动曝光方法还包括:根据第三曝光参数,获取并显示目标图像帧。由于第三曝光参数与第二模式对应,且基于第三曝光参数对应采集的图像帧的画面曝光是正确的,因此,可以根据第三曝光参数获取目标图像帧,并对目标图像帧进行显示,以保证用户可以观看到曝光正常的显示画面。
在第一方面的另一种可能的实现方式中,目标图像帧的亮度与第二亮度相同或相似。其中,目标图像帧的亮度与第二亮度相似是指,目标图像帧的亮度与第二亮度之间的差值小于预设阈值。由于第三曝光参数是由第二曝光参数转化得到的,且第二曝光参数与第二亮度均为第N+1帧图像对应,因此图像传感器基于第三曝光参数采集的目标图像帧的亮度与第二亮度相同或相似。
在第一方面的另一种可能的实现方式中,第一模式对应的第一帧率大于第二模式对应的第二帧率。第一帧率为图像传感器基于第一模式进行采集图像的速度,相应地,第二帧率为图像传感器基于第二模式进行采集图像的速度。图像传感器在第一模式下,以第一帧率采集用于自动曝光处理的图像帧,可以提高自动曝光处理的速度。图像传感器在第二模式下,以第二帧率采集用于显示的图像帧,可以满足第二模式的显示要求,且可以降低图像传感器的采集功耗。
在第一方面的另一种可能的实现方式中,图像传感器中保存有一个或多个预设模式分别对应的一个或多个模式参数,预设模式包括第二模式。其中,图像传感器中保存的模式参数包括例如分辨率、尺寸、图像传感器采集图像的帧率中的一项或几项。图像传感器可以响应于第一操作对应的第二模式,获取对应的模式参数,从而通过预设的规则将第二曝光参数转换为与第二模式对应的第三曝光参数。预设的规则可以为用于实现曝光参数转化的程序。
基于此,图像传感器可以响应于用户的第一操作,直接基于保存的模式参数进行曝光参数的转换,能够进一步提升自动曝光的速度。
在第一方面的另一种可能的实现方式中,模式参数包括电子设备的显示屏的分辨率、尺寸、图像传感器采集图像的帧率中的一项或几项。不同的模式对应的模式参数不同,例如,视频拍摄模式中,图像传感器采集图像的速度要快,才能实现拍摄视频画面的流畅度,而照片拍摄过程中对图像传感器采集图像帧的速度要求不高。因此,视频拍摄模式对应的模式参数中的图像传感器采集图像的帧率小于人像模式对应的模式参数中的图像传感器采集图像的帧率。
在第一方面的另一种可能的实现方式中,电子设备通过图像传感器按照预置的第一模式获取第N帧图像,并确定第N帧图像的第一亮度和第一曝光参数的过程可以包括以下过程。首先电子设备通过图像传感器按照预置的第一模式获取第N帧图像。在获取到第N帧图像后,电子设备通过图像传感器确定第N帧图像的第一亮度。其中,电子设备可以通过图像传感器对第N帧图像进行亮度分析处理,以得到用于表示第N帧图像对应的当前环境光亮度,即得到第一亮度。之后,电子设备通过图像传感器将第一亮度转化为对应的第一曝光参数。
基于此,电子设备可以通过图像传感器对第N帧图像进行采集,并分析与第N帧对应的第一亮度和第一曝光参数。避免了现有技术中需要将图像帧发送至应用处理器进行处理的繁琐流程。此外,上述方案可以直接基于第N帧图像确定出当前环境光亮度,即第一亮度。相较于现有技术,无需基于环境光亮度传感器获取环境光亮度,上述方案减少了环境光传感器占用的硬件空间,因此能够减小电子设备的体积,或可以在其他方面利用减小环境光传感器的硬件占用空间。
在第一方面的另一种可能的实现方式中,在自动曝光处理过程中,电子设备通过图像传感器确定第N帧图像对应的环境光亮度以及第一曝光参数,并基于该环境光亮度对确定第一曝光参数进行调整,以实现第(N+1)帧图像的采集。比如,电子设备可以先通过图像传感器确定第一亮度对应的第一调整步长。之后,电子设备可以通过图像传感器根据第一调整步长,确定与第一曝光参数对应的第四曝光参数。接着再通过图像传感器按照第一模式基于第四曝光参数,获取第(N+1)帧图像,从而实现对采集到的下一帧图像对应的环境光亮度进行收敛。
在上述实现方式中,不同亮度对应的调整步长不同,因此,图像传感器可以基于当前环境光亮度对下一图像帧的采集进行适应性的控制。比如,在环境光亮度较亮或较暗时对应的调整步长可以较长,以实现在环境光亮度较量或较暗的情况下快速的进行自动曝光,使图像传感器采集的图像帧的亮度快速的收敛至合适的亮度,从而提高自动曝光的速度。可选地,亮度与调整步长之间的关系可以为预先确定好并存储于图像传感器中,进一步保证图像传感器能够进行快速的自动曝光处理。
在第一方面的另一种可能的实现方式中,第一曝光参数、或第二曝光参数、或第三曝光参数为曝光值和/或增益值。曝光值是指物图像传感器的感光单元接收的光照度在时间内的积分。图像传感器可以通过调整图像传感器的光圈大小以及曝光时间,实现基于曝光值进行图像采集的过程。增益值是指图像传感器在利用自动增益控制模块对模拟电信号进行放大处理的放大倍数。通过调整图像传感器的增益值,可以实现对图像帧的亮度的调整。图像传感器在基于曝光参数进行图像帧采集时,可以基于曝光值和/或增益值对图像传感器所采集的图像帧的亮度进行准确的调整,从而使得图像传感器获取指定亮度的图像帧,以实现准确的自动曝光过程。
在第一方面的另一种可能的实现方式中,电子设备还可以显示自动曝光过程中采集的第(N+1)帧图像。由于自动曝光过程的速度较快,电子设备在显示第(N+1)帧图像之后,可以在用户眼睛仍处于延迟视觉暂留状态时完成自动曝光过程,从而能够实现无感的自动曝光过程。有效的提高应用程序启动的速度。
在第一方面的另一种可能的实现方式中,第一应用程序为相机应用程序。通过相机应用程序可以启动图像传感器,并通过图像传感器进行图像采集和处理。第一操作为用户对第一应用程序的图标的操作,例如,在显示有第一应用程序图标的界面检测到用户对第一应用程序的图标进行的点击操作。第一操作还可以为指示切换第一应用程序至前台显示的操作,例如,第一应用程序处于后台运行状态,电子设备检测到用户将第一应用程序切换至前台运行的操作。第一操作还可以为通过第二应用程序启动第一应用程序的操作,例如,电子设备检测到用户对第二应用程序显示界面中用于启动第一应用程序的某个控件的点击操作。第一操作也可以是以上的几种操作,具体情况可以基于实际应用确定。
在第一方面的另一种可能的实现方式中,预设条件包括第二亮度和第一亮度的差值为第m次小于或等于预设阈值,m为正整数。为了避免单次误差,例如,在出现第二亮度和第一亮度的差值一次小于或等于预设阈值之后,接着出现第二亮度和第一亮度的差值多次大于预设阈值的情况。电子设备可以通过图像传感器对第二亮度和第一亮度的差值小于或等于预设阈值的次数进行确定图像帧的亮度是否趋于稳定,从而保证图像传感器对图像帧进行自动曝光的稳定性。
第二方面,本申请提供一种电子设备,电子设备包括显示屏、图像传感器、存储器和一个或多个处理器;显示屏、图像传感器、存储器和处理器耦合;显示屏用于显示处理器生成的图像,图像传感器用于采集图像帧,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令。
其中,当处理器执行计算机指令时,使得电子设备执行以下操作:响应于用户的第一操作,启动图像传感器;通过图像传感器按照预置的第一模式获取第N帧图像,并确定第N帧图像的第一亮度和第一曝光参数,N为正整数;通过图像传感器基于第一曝光参数,获取第(N+1)帧图像,并确定第(N+1)帧图像的第二亮度和第二曝光参数;确定第二亮度和第一亮度的差值满足预设条件;获取第一操作对应的第二模式,通过图像传感器将第二曝光参数转换为第二模式对应的第三曝光参数。
在第二方面的另一种可能的设计方式中,当处理器执行计算机指令时,使得电子设备还执行以下操作:根据第三曝光参数,获取并显示目标图像帧。
在第二方面的另一种可能的设计方式中,目标图像帧的亮度与第二亮度相同或相似。其中,相似是指目标图像帧的亮度与第二亮度之间的差距不大,例如,该目标图像帧的亮度与第二亮度之间的差值小于或等于预设阈值。
在第二方面的另一种可能的设计方式中,第一模式对应的第一帧率大于第二模式对应的第二帧率。
在第二方面的另一种可能的设计方式中,图像传感器中保存有一个或多个预设模式分别对应的一个或多个模式参数,预设模式包括第二模式。
在第二方面的另一种可能的设计方式中,模式参数包括电子设备的显示屏的分辨率、尺寸、图像传感器采集图像的帧率中的一项或几项。
在第二方面的另一种可能的设计方式中,当处理器执行计算机指令时,使得电子设备还执行以下操作:通过图像传感器按照预置的第一模式获取第N帧图像;通过图像传感器确定第N帧图像的第一亮度;通过图像传感器确定第一亮度对应的第一曝光参数。
在第二方面的另一种可能的设计方式中,当处理器执行计算机指令时,使得电子设备还执行以下操作:通过图像传感器确定第一亮度对应的第一调整步长;通过图像传感器根据第一调整步长,确定第一曝光参数对应的第四曝光参数;通过图像传感器按照第一模式通过第四曝光参数,获取第(N+1)帧图像。
在第二方面的另一种可能的设计方式中,第一曝光参数、或第二曝光参数、或第三曝光参数为曝光值和/或增益值。
在第二方面的另一种可能的设计方式中,当处理器执行计算机指令时,使得电子设备还执行以下操作:显示第(N+1)帧图像。
在第二方面的另一种可能的设计方式中,第一操作为用户对第一应用程序的图标的操作、指示切换第一应用程序至前台显示的操作、通过第二应用程序启动第一应用程序的操作中的一项或几项,第一应用程序为相机应用程序。
在第二方面的另一种可能的设计方式中,预设条件包括第二亮度和第一亮度的差值为第m次小于或等于预设阈值,m为正整数。
第三方面,本申请提供一种计算机可读存储介质,包括计算机指令,当计算机指令在电子设备上运行时,使得电子设备执行如上第一方面及其任一种可能的设计方式的方法。
第四方面,本申请提供一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行如上第一方面及其任一种可能的设计方式的方法。
第五方面,本申请提供一种装置,该装置包含在电子设备中,该装置具有实现上述方面及可能的实现方式中任一方法中电子设备行为的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。硬件或软件包括至少一个与上述功能相对应的模块或单元。例如,分配模块或单元,扫描模块或单元,回收模块或单元,移动模块或单元和存储模块或单元等。
可以理解地,上述提供的第二方面及其任一种可能的设计方式的电子设备,第三方面的计算机可读存储介质,第四方面的计算机程序产品,以及第五方面的装置均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
附图说明
图1为本申请实施例提供的一种拍照场景下的界面显示示意图;
图2为本申请实施例提供的一种相机应用程序的运行过程示意图;
图3为本申请实施例提供的一种相机应用程序显示画面的示意图;
图4为本申请实施例提供的另一种相机应用程序的运行过程示意图;
图5为本申请实施例提供的一种电子设备的示意图;
图6为本申请实施例提供的一种电子设备的硬件结构示意图;
图7为本申请实施例提供的一种电子设备的软件结构示意图;
图8为本申请实施例提供的一种相机应用程序的运行过程示意图;
图9为本申请实施例提供的一种自动曝光方法的流程图;
图10为本申请实施例提供的又一种自动曝光方法的流程图;
图11为本申请实施例提供的一种拍摄模式设置界面的示意图;
图12为本申请实施例提供的又一种自动曝光方法的流程图;
图13为本申请实施例提供的一种应用切换的操作示意图;
图14为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
在一些场景中,电子设备配置有摄像头,用于实现电子设备的图像采集功能。例如,电子设备中安装有用于调用摄像头的应用程序,响应于用户在该应用程序中的操作,电子设备可以启动摄像头,进行图像采集。示例性地,如图1中的(a)所示,电子设备可以显示包括多个应用程序图标的第一界面。响应于用户对第一界面中相机控件的点击操作,电子设备可启动相机应用程序,通过相机应用启动摄像头,并显示如图1中(b)所示的第二界面,该第二界面可用于显示摄像头实时采集的图像。
一些示例中,响应于用户点击相机应用的操作,电子设备加载相机应用程序的相关进程,以启动相机应用程序。在相关进程加载完毕后,电子设备可显示如图1中(b)所示的第二界面。可选地,在相机应用程序的相关进程加载过程中,电子设备的显示屏中可以显示第三界面,该第三界面可用于表示相机应用程序正在启动中。其中,第三界面中显示的内容可以包括与该相机应用程序对应的名称或标识,或应用加载动态图像或视频,或黑屏显示。其中,第三界面中显示的内容可以根据实际的应用场景以及应用需求进行调整,此处不对第三界面具体的显示内容予以限制。
比如,如图2所示,电子设备响应于用户操作确定启动相机应用程序后,通过应用处理器(application processor,AP)控制摄像头中的图像传感器上电启动,并触发图像传感器的初始化过程。在应用处理器控制图像传感器上电启动,并触发图像传感器初始化的过程中,电子设备的显示屏中可以显示第三界面。可选地,在初始化过程中,应用处理器可以对图像传感器的状态参数进行初始化设置,使图像传感器置于软件备用状态(softwarestandby,SW standby)。其中,处于软件备用状态的图像传感器的摄像头控制接口(cameracontrol interface,CCI)或者串行外设接口(serial peripheral interface,SPI)处于可调用状态。图像传感器处于软件备用状态之后,应用处理器可通过CCI或SPI与图像传感器进行通信。
在初始化完成后,应用处理器可以对图像传感器进行模式设置,该模式设置过程用于设置图像传感器的图像采集模式,图像传感器可以按照与图像采集模式对应的参数进行图像采集。例如,应用处理器将模式设置参数发送至图像传感器,以使图像传感器切换至对应的图像采集模式进行图像采集。
一些示例中,应用处理器可以基于预设的模式设置参数对图像传感器进行模式设置。例如,应用处理器控制图像传感器上电之后,可以从存储器中获取预设好的模式设置参数。存储器中存储的预设的模式设置参数可以为用户自行设置的,也可以为系统默认的。此外,存储器中存储的预设的模式设置参数也可以为图像传感器上一次断电之前所处的图像采集模块对应的模式设置参数。例如,应用处理器可以将图像传感器当前所处的图像采集模式对应的模式设置参数同步存储于存储器中,以使应用处理器可以在下一次对图像传感器进行模式设置时使用。
图像传感器切换至对应的图像采集模式后,进行图像采集,电子设备可显示如图1中(b)所示的第二界面。如图2所示,第二界面用于显示图像传感器采集的图像帧。也就是说,图像传感器在完成模式设置后,开始获取图像帧(frame)。在图像传感器获取到图像帧后,应用处理器对图像帧进行自动曝光(automatic exposure,AE),使图像传感器采集的图像帧的画面亮度与给定的目标亮度接近。其中,给定的目标亮度与图像传感器设置的模式对应。图像传感器采集的图像帧的画面亮度与给定的目标亮度接近,一般是指图像传感器采集的图像帧的画面亮度与目标亮度之间的差值小于预设阈值。
可选的,应用处理器对图像帧进行自动曝光的过程包括初始自动曝光控制(initial automatic exposure control,initial AEC)过程以及精细化自动曝光控制(fine automatic exposure control,fine AEC)过程。其中,如图2所示,initial AEC过程用于基于调整步长A对图像传感器的曝光参数进行快速调整,从而使得图像传感器采集的图像帧的画面亮度与给定的目标亮度快速接近,使得图像传感器采集的图像的画面亮度与给定的目标亮度之间的差值小于预设阈值A。之后,应用处理器进行fine AEC的控制过程用于基于调整步长B对图像传感器的曝光参数进行精准调整,从而使得图像传感器采集的图像帧的画面亮度与给定的目标亮度之间的差值小于预设阈值B。其中,预设阈值A大于预设阈值B,且调整步长A大于调整步长B。
上述过程中,在initial AEC过程结束后,图像传感器采集的图像帧的画面亮度与给定的目标亮度较为接近。因此,电子设备在initial AEC过程结束后可进行画面显示,减少用户等待时间。之后,可以通过fine AEC过程,继续对曝光参数进行更精准的调整,从而使得,电子设备可以显示曝光正常的画面。
示例性地,应用处理器获取initial AEC过程的调整步长A对应的亮度变化量为10尼特(nit)、预设阈值A为10nit,fine AEC过程中调整步长B对应的亮度变化量为2nit、预设阈值B为2nit。以目标亮度为50nit为例,如图2所示,应用处理器获取到图像传感器采集的图像帧1后,确定图像帧1的画面亮度为1nit。那么,应用处理器在initial AEC过程中,先基于调整步长A对图像传感器的曝光参数进行调整,使得图像传感器采集的下一帧图像的画面亮度增加10nit。在不考虑图像传感器基于曝光参数采集图像帧的画面亮度存在误差的情况下,图像传感器采集到图像帧2,应用处理器可以获取到图像帧2的画面亮度为11nit。由于图像帧2的画面亮度与目标亮度50nit之间的差值为39nit,大于预设阈值A的10nit,应用处理器需要继续基于调整步长A对图像传感器的曝光参数进行调整,使得图像传感器采集的下一帧图像的画面亮度再增加10nit,即应用处理器确定图像传感器获取的图像帧3的画面亮度为21nit。依次类推,直至应用处理器确定图像传感器采集的图像帧5的画面亮度为41nit。此时,由于图像帧5的画面亮度41nit与目标亮度50nit之间的差值为9nit,小于预设阈值A的10nit,应用处理器可触发fine AEC过程,并继续控制图像传感器进行图像采集。应用处理器确定图像帧5为fine AEC的控制过程的初始帧,图像帧5的画面亮度为41nit。那么,应用处理器在fine AEC的控制过程中,先基于调整步长B对图像传感器的曝光参数进行调整,使得图像传感器采集的下一帧图像的画面亮度增加2nit。在不考虑图像传感器基于曝光参数采集图像帧的画面亮度存在误差的情况下,应用处理器可以确定像传感器获取的图像帧6的画面亮度为43nit。由于图像帧6的画面亮度与目标亮度50nit之间的差值为7nit,大于预设阈值B的2nit,应用处理器继续基于调整步长B对图像传感器的曝光参数进行调整,使得图像传感器采集的下一帧图像的画面亮度增加2nit,即应用处理器可确定像传感器获取的图像帧7的画面亮度为45nit。依次类推,直至应用处理器获取图像传感器采集的图像帧9的画面亮度为49nit,图像帧9的画面亮度49nit与目标亮度50nit之间的差值为1nit,小于预设阈值B的2nit。那么,应用处理器可确定完成图像传感器的自动曝光控制过程。
应理解,上述示例过程中,应用处理器通过5个图像帧的亮度调整,完成初始自动曝光控制过程,再通过4个图像帧的亮度调整,完成精细化自动曝光控制过程,仅为示例性说明。其中,初始自动曝光控制过程以及精细化自动曝光控制过程分别涉及的图像帧的处理数量与自动曝光控制过程的参数以及采集的图像帧的实际情况有关。且实际的自动曝光控制的时间长度可根据应用处理器能力确定,本申请实施例对此不做限制。
在一些示例中,可以基于给定的目标亮度(AE Target),不断调整图像传感器的曝光值(shutter)和增益值(gain),使得图像传感器采集的图像画面亮度接近于目标亮度,完成自动曝光控制的过程。其中,应用处理器通常将环境光传感器采集的当前环境光亮度作为目标亮度,从而保证自动曝光的准确性。在上述自动曝光控制方法中,在电子设备中需要配置图像传感器以及环境光传感器。
在如上文的自动曝光处理过程中,应用处理器需要根据获取到的环境光传感器采集的当前环境光亮度确定目标亮度,并且需要获取图像传感器发送的图像帧,才能够进行自动曝光的处理。在此过程中,应用处理器与图像传感器之间需要进行数据传输,存在传输耗时较长。并且,受限于应用处理器的处理能力,应用处理器对图像帧进行initial AEC的控制过程较长,而在initial AEC的控制过程中由于画面亮度与目标亮度差异较大,影响用户观看画面。用户一般需要等待initial AEC的控制过程结束后,才能够确定画面显示内容并进行拍照操作。例如,上述initial AEC的控制过程通常大于160毫秒(ms),在这段时间,第二界面依次显示如图2所示的图像帧1到图像帧5。在该显示过程中,第二界面会出现从很亮逐渐收敛为正常显示的过曝现象,例如,用户可以看到如图3中(a)所示的第二显示界面逐渐变为如图3中(b)所示的第二显示界面;或者由黑暗逐渐变为曝光正确的欠曝现象,例如,用户可以看到如图3中(c)所示的第二显示界面逐渐变为如图3中(b)所示的第二显示界面。因此,用户需要较长时间的等待,才能查看如图3中(b)所示的正常显示的图像帧,并开始进行拍摄,给用户带来不好的使用体验以及拍摄体验。
可以理解地,电子设备在实际显示第三界面以及第二界面的过程中,由于图像传感器采集了图像帧1后,应用处理器需要先接收图像传感器发送的图像帧1再对图像帧1执行initial AEC的控制过程处理后,电子设备才能够通过显示屏在第二界面中显示该图像帧1。因此,如图4所示,第二界面的开始显示时间可晚于图像传感器采集图像帧1的时间。
此外,在上述自动曝光过程中,需要将环境光传感器采集的当前环境光亮度作为目标亮度,以保证自动曝光过程的准确性。因而,在电子设备中需要配置图像传感器以及环境光传感器。但在电子设备中配置图像传感器以及环境光传感器会占用较大的硬件空间,因此会增大电子设备的体积。一般情况下,用于自动曝光的环境光传感器与图像传感器设置在同一个摄像头处,保证环境光传感器采集的当前环境光亮度与图像传感器采集的图像帧对应。例如,前置摄像头中可以集成有图像传感器以及环境光传感器。因此,前置摄像头在手机的前面板中所占的面积较大。
为此,本申请实施例提供一种自动曝光方法以及电子设备,电子设备中的图像传感器上集成有片上自动曝光(automatic exposure,AE)模块。该片上AE模块可以直接获取图像传感器采集的图像帧,并对图像帧进行自动曝光处理,从而减少图像帧在应用处理器与图像传感器之间的传输时间,提高自动曝光速度。此外,片上AE模块的处理速度大于图像传感器的采集速度,以保证片上AE模块能够及时的对图像传感器采集的图像帧进行处理。如此,通过本申请实施例提供的自动曝光方法,通过提高图像传感器的输出速度和片上AE模块的速度,可以有效的提高自动曝光的速度。
本申请实施例提供的自动曝光方法,可以应用于电子设备100。例如,如图5所示,该电子设备100具体可以是手机51、平板电脑52、智慧屏53、笔记本电脑54、车载设备、可穿戴设备(如智能手表)、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)、人工智能(artificialintelligence,AI)设备等具有拍摄功能的终端设备。本申请实施例对电子设备100的具体类型、所安装的操作系统均不作限制。
图6示出了电子设备100的硬件结构示意图。电子设备100可以包括处理器610,外部存储器接口620,内部存储器621,通用串行总线(universal serial bus,USB)接口630,充电管理模块640,电源管理模块641,电池642,天线1,天线2,移动通信模块650,无线通信模块660,音频模块670,扬声器670A,受话器670B,麦克风670C,耳机接口670D,传感器模块680,按键690,马达691,摄像头693,显示屏694,以及用户标识模块(subscriberidentification module,SIM)卡接口等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器610可以包括一个或多个处理单元,例如:处理器610可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器610中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器610中的存储器为高速缓冲存储器。该存储器可以保存处理器610刚用过或循环使用的指令或数据。如果处理器610需要再次使用该指令或数据,可从存储器中直接调用。避免了重复存取,减少了处理器610的等待时间,因而提高了系统的效率。
在一些实施例中,处理器610可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器610可以包含多组I2C总线。处理器610可以通过不同的I2C总线接口分别耦合触摸传感器680K,充电器,闪光灯,摄像头693等。例如:处理器610可以通过I2C接口耦合触摸传感器680K,使处理器610与触摸传感器680K通过I2C总线接口通信,实现电子设备100的触摸功能。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块640用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块640可以通过USB接口630接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块640可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块640为电池642充电的同时,还可以通过电源管理模块641为电子设备供电。
电源管理模块641用于连接电池642,充电管理模块640与处理器610。电源管理模块641接收电池642和/或充电管理模块640的输入,为处理器610,内部存储器621,外部存储器,显示屏694,摄像头693,和无线通信模块660等供电。电源管理模块641还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块641也可以设置于处理器610中。在另一些实施例中,电源管理模块641和充电管理模块640也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块650,无线通信模块660,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块650可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块650可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块650可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块650还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块650的至少部分功能模块可以被设置于处理器610中。在一些实施例中,移动通信模块650的至少部分功能模块可以与处理器610的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器670A,受话器670B等)输出声音信号,或通过显示屏694显示图像或视频。
无线通信模块660可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块660可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块660经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器610。无线通信模块660还可以从处理器610接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块650耦合,天线2和无线通信模块660耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏694,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏694和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器610可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏694用于显示图像,视频等。显示屏694包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicrOLED,Micro-OLED,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏694,N为大于1的正整数。
电子设备100可以通过ISP,摄像头693,视频编解码器,GPU,显示屏694以及应用处理器等实现拍摄功能。
ISP用于处理摄像头693反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头693中。
摄像头693用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头693,N为大于1的正整数。
摄像头693包括至少一个图像传感器,该图像传感器可用于采集图像帧。该图像传感器可以为普通帧率图像传感器或高帧率图像传感器。其中,高帧率图像传感器例如包括图像采集帧率大于或等于40帧每秒(frames per second,fps)的图像传感器。
可选地,图像传感器中包括片上AE模块,该片上AE模块用于对图像传感器采集的图像帧进行自动曝光处理。例如,片上AE模块获取图像传感器采集的当前图像帧,并对当前图像帧进行亮度识别,以获取当前环境光亮度,并确定当前环境光亮度确定对应的曝光值(shutter)和/或增益值(gain)。之后,片上AE模块可基于环境光亮度收敛,确定shutter和/或gain对应的目标shutter和/或目标gain,并指示图像传感器基于该目标shutter和/或目标gain获取新的图像帧。之后,片上AE模块可再确定该新的图像帧对应的当前环境光亮度,并基于两图像帧对应的当前环境光亮度之间的差值确定是否完成自动曝光过程,如差值小于或等于预设阈值可确定完成自动曝光过程。那么,片上AE模块可确定最新图像帧对应的shutter和/或gain,以及目标拍摄模式,将该shutter和/或gain转换为目标拍摄模式对应的shutter和/或gain,以指示图像传感器基于目标拍摄模式对应的shutter和/或gain获取满足目标拍摄模式要求的图像帧。
其中,片上AE模块对图像帧的处理速度大于或等于图像传感器采集图像帧的速度,以保证片上AE模块能够对图像传感器输出的图像帧进行及时的处理。
片上AE模块可以为在图像传感器上增加的硬件模块,例如,在图像传感器中集成一具备自动曝光处理功能的硬件处理器。片上AE模块也可以为在具备处理功能的图像传感器中增加的软件模块,例如具备处理功能的图像传感器中部署用于自动曝光处理的算法。本申请实施例不对片上AE模块的具体设置方式予以限制。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
内部存储器621可以用于存储计算机可执行程序代码,可执行程序代码包括指令。处理器610通过运行存储在内部存储器621的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器621可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器621可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块670,扬声器670A,受话器670B,麦克风670C,耳机接口670D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块670用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块670还可以用于对音频信号编码和解码。在一些实施例中,音频模块670可以设置于处理器610中,或将音频模块670的部分功能模块设置于处理器610中。
其中传感器模块680可以包括压力传感器680A,陀螺仪传感器680B,距离传感器680F,触摸传感器680K,环境光传感器680L等。
压力传感器680A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器680A可以设置于显示屏694。压力传感器680A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器680A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏694,电子设备100根据压力传感器680A检测触摸操作强度。电子设备100也可以根据压力传感器680A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。
陀螺仪传感器680B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器680B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器680B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器680B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器680B还可以用于导航,体感游戏场景。
距离传感器680F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器680F测距以实现快速对焦。
环境光传感器680L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏694亮度。
触摸传感器680K,也称“触控面板”。触摸传感器680K可以设置于显示屏694,由触摸传感器680K与显示屏694组成触摸屏,也称“触控屏”。触摸传感器680K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏694提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器680K也可以设置于电子设备100的表面,与显示屏694所处的位置不同。
马达691可以产生振动提示。马达691可以用于来电振动提示,也可以用于触摸振动反馈。
电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本发明实施例以分层架构的系统为例,示例性说明电子设备100的软件结构。
图7是本发明实施例的电子设备100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(/>runtime)和系统库,硬件抽象层(hardware abstractionlayer,HAL),以及内核层。
应用程序层可以包括一系列应用程序包。
如图7所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,设置,音乐,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图7所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器,相机服务等。
相机服务用于管理和使用相机应用程序的功能。一些示例中,相机服务可响应于相机应用程序的启动,启动图像传感器,控制图像传感器采集图像帧,获取图像传感器采集的图像帧等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
runtime包括核心库和虚拟机。/>runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),二维图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
二维图形引擎是二维绘图的绘图引擎。
HAL层是对Linux内核驱动程序的封装,向上提供接口,屏蔽底层硬件的实现细节。HAL层中可以包括相机硬件抽象(camera HAL)层等。其中,相机HAL是相机应用程序的核心软件框架。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
其中,应用程序框架层中的相机服务可以与HAL层中的相机HAL交互,相机HAL可以与内核层中的摄像头驱动交互。
下面结合本申请实施例涉及的拍照场景,示例性说明电子设备100软件以及硬件的工作流程。如图1中(a)所示,当触摸传感器680K接收到用户对相机应用程序图标的触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件为相机应用程序图标。响应于应用程序层中的相机应用程序启动,电子设备可通过调用应用框架层中相机服务提供的接口以启动相机应用的运行程序,例如,相机服务可以向相机HAL发送图像传感器的打开请求。之后,相机HAL向内核层的摄像头驱动发送图像传感器的打开请求。那么,相应的摄像头驱动接收到图像传感器发送的打开请求后,启动摄像头693。摄像头693上电后即可捕获静态图像或视频,显示屏如图1中(b)所示的显示界面中可显示出摄像头693采集的图像数据。
在一些实施例中,如图1中(a)所示,电子设备响应于用户对相机应用图标的点击操作,开始运行相机应用程序。具体地,电子设备中的触摸传感器可以将检测到的触摸操作传递给应用处理器。之后,应用处理器确定触摸事件类型为用户对相机应用图标的点击操作,即可开始运行相机应用程序。如图8所示,应用处理器在开始运行相机应用程序时,可以控制包括有片上AE模块的图像传感器上电。
应理解,电子设备还可以响应于其他应用程序对相机应用程序的调用请求,或响应于用户利用语音或手势控制相机应用程序启动的操作,开始运行相机应用程序。下文以响应于用户对相机应用图标的点击操作为例,对电子设备开始运行相机应用程序的过程进行说明。
示例性地,如图8所示,响应于用户对相机应用图标的点击操作,应用处理器控制图像传感器上电启动,并触发图像传感器的初始化过程。可选地,在初始化过程中,应用处理器对图像传感器进行初始化设置,以使图像传感器切换至软件备用状态。图像传感器切换至软件备用状态之后,图像传感器向应用处理器发送状态切换成功指示。应用处理器响应于接收到的该状态切换成功指示,确定图像传感器到状态切换成功后,可向图像传感器发送突发模式请求。相应的,图像传感器接收应用处理器发送的突发模式请求,并基于该突发模式请求启动突发模式。在突发模式下,图像传感器以高帧率采集图像帧,并且图像传感器中包括的片上AE模块对图像传感器采集的图像帧进行自动曝光处理。可选地,片上AE模块能够实现图像帧高帧率的自动曝光处理。
如此,由于在图像传感器采集图像帧之后,图像传感器中的AE模块能够马上对图像帧进行自动曝光处理。相比于现有技术中,图像传感器在采集了图像帧之后,需要将图像帧传输至应用处理器,由应用处理器进行图像帧的处理,有效节省了图像帧的传输时间。并且,图像传感器以高帧率采集图像帧,片上AE模块对图像帧的处理速度也大于图像传感器采集图像帧的速度,可实现高速自动曝光,缩短自动曝光的时间。
示例性地,如图8所示,响应于接收到的突发模式请求,处于软件备用状态的图像传感器启动突发模式,开始采集图像帧,并调用片上AE模块对采集到的图像帧进行自动曝光处理。
可选地,图像传感器中片上AE模块处理图像帧的速度大于图像传感器采集图像帧的速度,保证片上AE模块及时的对图像传感器采集的图像帧进行自动曝光处理。例如,图像传感器采集图像帧的速度为120fps,片上AE模块的处理速度大于或等于120fps。
因此,通过提高图像传感器采集图像帧的速度,能够提高自动曝光的速度。例如,图像传感器采集图像帧的速度为40fps,相应的,片上AE模块的处理速度为40fps。此时,片上AE模块处理一个图像帧所需要的时间约为25ms(一张图像帧的处理时间计算公式为1/40fps=25ms)。若将图像传感器采集图像帧的速度提高至120fps,相应的片上AE模块的处理速度为120fps,那么,片上AE模块处理一个图像帧所需要的时间则提高至8.3ms(一张图像帧的处理时间计算公式为1/120fps≈8.3ms)。
可选地,如图2或图4所示的自动曝光过程中,initial AEC过程之后,电子设备的显示屏显示的画面与曝光正常的画面对应的环境光亮度接近,电子设备的显示屏在initial AEC过程开始与结束时显示的画面的亮度差距较大。因此,在initial AEC过程中,会出现电子设备显示屏显示的画面由很亮逐渐收敛为曝光正常或者由黑暗逐渐收敛为曝光正常的过曝或欠曝现象。由此,本申请实施例的方案对如图2或图4中所示的initial AEC过程进行改进,通过减少initial AEC过程所需的时间,以提高整体自动曝光的速度,从而避免显示屏的画面出现上述过曝或欠曝现象。
可选地,初始自动曝光控制过程(即initial AEC过程)中,不同画面亮度对应不同的调整步长。如,画面亮度越大或越小所对应的调整步长也越大,画面亮度越接近画面亮度变化范围的中间值,对应的调整步长越小。例如,画面亮度为100nit时,调整步长可以为20nit;画面亮度为80nit时,调整步长可以为15nit;画面亮度为40nit时,调整步长可以为5nit;画面亮度为20nit时,调整步长可以为15nit;画面亮度为5nit时,调整步长可以为20nit。如此,基于上述调整步长与画面亮度之间的关系,在画面亮度较亮或较暗时,通过较大的调整步长进行画面亮度的快速调整,在画面亮度接近合适的亮度时,通过较小的调整步长进行画面亮度的准确调整。
可选地,初始自动曝光控制过程(即initial AEC过程)中,在基于画面亮度确定调整步长之后,电子设备还可以基于连续两帧图像之间亮度差值,对调整步长进行调整。例如,在连续两帧图像亮度差值较大的情况下,即图像帧的亮度未趋于稳定,可以将增大调整步长,以快速的对图像帧的亮度进行调整;在连续两帧图像亮度差值较小的情况下,即图像帧的亮度趋于稳定,可以减小调整步长。
可选地,上述初始自动曝光控制过程中的调整步长可大于或等于现有技术中自动曝光过程的调整步长。因此,上述方案能够通过相同或更少的帧数更快速的完成自动曝光过程。
示例性地,对应于上述如图2所示的初始自动曝光控制过程,如图8所示,在本申请实施例中的初始自动曝光控制过程中,片上AE模块可确定当前图像帧对应的当前环境光亮度,基于与当前环境光亮度对应的调整步长对图像传感器的曝光参数进行迭代调整,使得最终迭代调整后的图像帧的画面亮度与前一帧图像帧的画面亮度接近,即实现环境光亮度的自动收敛稳定。例如,片上AE模块确定图像传感器采集的图像帧1的画面亮度1,以及曝光参数1,并基于画面亮度1对应的调整步长确定曝光参数1’。之后,片上AE模块获取图像传感器基于曝光参数1’采集的图像帧2,以及与图像帧2对应的画面亮度2和曝光参数2。片上AE模块确定画面亮度1与画面亮度2之间的差值大于预设阈值,则继续基于画面亮度2对应的调整步长确定曝光参数2’,使得图像传感器采集的图像帧3。若片上AE模块确定图像帧3的画面亮度3与图像帧4的画面亮度4之间的差值小于或等于预设阈值,则可以确定曝光参数为基于图像帧4对应的曝光参数4。最后,片上AE模块基于应用处理器发送的拍摄模式指定指令确定目标拍摄模式,将曝光参数4转换为目标拍摄模式对应的曝光参数4’,以使图像传感器基于曝光参数4’采集图像帧5。从而电子设备可快速完成自动曝光过程,使得输出的图像帧对应的环境光亮度收敛稳定,且满足目标拍摄模式要求。
如上所述的初始自动曝光控制过程中,片上AE模块获取与图像帧2对应的画面亮度2后,确定与画面亮度2对应的调整步长。之后,片上AE模块如确定画面亮度1与画面亮度2之间的差值较大,例如,该差值大于预设差值,可增大画面亮度2对应的调整步长。片上AE模块如确定画面亮度1与画面亮度2之间的差值较小,例如,该差值小于预设差值,可减小画面亮度2对应的调整步长,从而确定出曝光参数1’。
在上述实施方式中,若片上AE模块的处理速度为120fps,处理一个图像帧所需要的时间约为8.3ms,那么初始自动曝光控制过程耗时约为41ms(8.3ms×5≈41ms)。相比于现有技术中,图像传感器需要将采集到的图像帧传输至应用处理器,由应用处理器执行初始自动曝光控制过程,导致该初始自动曝光控制过程耗时较长,如耗时约为160ms。本申请实施例提供的自动曝光方法,通过在图像传感器内预设可高速进行自动曝光处理的片上AE模块,能够实现快速的初始自动曝光控制过程,有效节约曝光耗时,避免出现由于过曝或欠曝现象导致的用户等待问题。
可以理解地,上述示例以片上AE模块的处理速度为120fps为例对图像帧的自动曝光过程进行介绍,在此情况下,需要5个图像帧的时间可完成自动曝光过程。若片上AE模块大于120fps,自动曝光过程耗时将进一步减少。例如在一般情况下,在不超过6个图像帧的时间可完成自动曝光处理过程,也就是说,通过本实施例的方法,自动曝光处理的过程可以控制在50ms以内。并且,由于片上AE模块的自动曝光处理速度大于应用处理器的自动曝光处理速度,自动曝光处理的过程所需时间小于现有技术方案所需要的时间。
如上文所述,在初始化完成后,应用处理器向图像传感器发送突发模式请求,使图像传感器以高速模式进行图像采集,且图像传感器上的片上AE模块可以及时地对采集到的图像帧进行自动曝光处理,从而提高了自动曝光的速度。
下文对本申请实施例提供的自动曝光方法的过程进行详细的介绍。示例性的,图9为本申请实施例提供的一种自动曝光方法的流程示意图。如图9所示,该方法包括如下步骤。
S901、应用处理器控制图像传感器上电。
可选地,电子设备配置有一个或多个摄像头,一个摄像头中配置有一个或多个图像传感器。响应于用户指示启动相机应用的操作,相机应用通过应用处理器启动相应的摄像头触发该摄像头中的图像传感器上电。
示例性地,应用处理器向相机服务发送摄像头打开请求。其中,摄像头打开请求包括需要控制的图像传感器的标识。相机服务基于图像传感器的标识,向HAL发送通道建立请求,该通道建立请求用于创建在软件结构层中的图像采集通道。基于该图像采集通道,应用处理器可以控制图像传感器进行图像采集,以及获取图像传感器发送的图像帧。HAL基于通道建立请求中携带的图像传感器的标识,向摄像头驱动发送图像传感器的打开请求,在打开请求中携带该图像传感器的标识。摄像头驱动根据打开请求中的图像传感器的标识,控制摄像头中与该标识对应的图像传感器上电。
可选地,应用处理器可以根据调用相机应用的触发事件确定摄像头打开请求中包括的需要控制的目标图像传感器,进而确定该目标图像传感器的标识,通过上述方式实现启动该目标图像传感器。例如,响应于用户对相机应用图标的点击操作,应用处理器可以确定该操作对应的触发事件指示的摄像头为电子设备的后置摄像头,进而确定目标图像传感器为该后置摄像头中的图像传感器。响应于用户语音启动相机应用程序的操作,应用处理器可以确定该操作对应的触发事件指示的摄像头为电子设备的前置摄像头,进而确定目标图像传感器为该前置摄像头中的图像传感器。可以理解地,电子设备中已经预置触发事件与目标图像传感器之间的对应关系。
在一些实施例中,在图像传感器上电之后,应用处理器确定是否需要向图像传感器的寄存器中写入不同拍摄模式对应的模式参数。其中,模式参数可以包括电子设备的显示屏的分辨率、尺寸、图像传感器采集图像的帧率中的一项或几项。
比如,应用处理器确定是否首次控制图像传感器上电。若是,应用处理器控制图像传感器上电启动,并向图像传感器的寄存器中写入不同拍摄模式对应的模式参数。若否,应用处理器控制图像传感器上电启动。
又比如,应用处理器确定图像传感器的寄存器中的模式参数是否需要更新。若需要更新,应用处理器控制图像传感器上电启动,并向图像传感器的寄存器中写入需要更新的拍摄模式对应的模式参数。
一些示例中,不同摄像头中的图像传感器对应的拍摄模式相同或不相同。那么,不同图像传感器中待写入的模式参数相同或不相同。
S902、应用处理器向图像传感器发送初始化设置参数。
在一些实施例中,应用处理器在确定图像传感器上电后,可向图像传感器发送初始化设置参数,以触发图像传感器的初始化过程。
示例性的,如图8所示,应用处理器在确定图像传感器上电后,触发图像传感器的初始化过程,使得图像传感器切换至软件备用状态。
可选地,应用处理器向图像传感器发送初始化设置参数的过程中,还可以注册一个回调。其中,注册该回调的作用是当图像传感器基于初始化设置参数切换至软件备用状态后,可以向应用处理器反馈初始化状态切换结果。
在另一些实施例中,应用处理器可将初始化设置参数写入到目标图像传感器中,或写入目标图像传感器对应的寄存器中。之后,目标图像传感器在上电后可直接获取到该初始化设置参数。
比如,在上述S901中,应用处理器确定是否首次控制图像传感器上电。若是,应用处理器控制图像传感器上电启动,并向图像传感器的寄存器中写入初始化设置参数。相应的,图像传感器可从寄存器中读取该初始化设置参数,并完成初始化过程。
又比如,应用处理器确定图像传感器的寄存器中的初始化设置参数是否需要更新。若需要更新,应用处理器控制图像传感器上电启动,并向图像传感器的寄存器中写入需要更新的初始化设置参数。
S903、图像传感器基于初始化设置参数切换至软件备用状态。
在一些实施例中,图像传感器基于获取到的初始化参数,完成初始化过程,切换至软件备用状态,以便于接收应用处理器发送的控制请求并对该控制请求进行响应。例如,图像传感器响应于应用处理器发送的突发模式请求,采集图像帧,并对采集的图像帧进行自动曝光处理。
S904、应用处理器向图像传感器发送突发模式请求。
在一些实施例中,应用处理器在控制图像传感器上电启动后,可向图像传感器发送突发模式请求,该突发模式请求用于指示图像传感器开始采集图像帧,以及在图像传感器采集到图像帧后对采集的图像帧进行自动曝光处理。
可选地,应用处理器接收到图像传感器反馈的初始化状态切换结果。那么,应用处理器根据该初始化状态切换结果,确定图像传感器是否成功切换至软件备用状态。若图像传感器已成功切换至软件备用状态,应用处理器可向图像传感器发送突发模式请求。若图像传感器未能成功切换至软件备用状态,应用处理器可返回执行上述S902,再次触发图像传感器执行初始化过程。
可选地,应用处理器向图像传感器发送突发模式请求的过程中,还可以注册一个回调。其中,注册该回调用于当图像传感器切换至突发模式,开始采集图像帧以及对采集的图像帧进行自动曝光处理后,可以向应用处理器反馈图像帧采集的结果,或经自动曝光处理后的图像帧。
S905、图像传感器切换至突发模式,并开始采集图像帧。
在一些实施例中,图像传感器响应于接收到的突发模式请求,切换至突发模式。之后,在突发模式中,图像传感器以高帧率采集图像帧。图像传感器以高帧率采集图像帧可以指图像传感器的采集帧率大于或等于40fps,其中,高帧率的标准可以根据实际应用确定具体数值,此处不予以限制。
可选地,图像传感器采集到的图像帧可先不必输出至电子设备的显示屏进行显示,而是先执行下述S906,对采集到的图像帧进行自动曝光处理。
S906、图像传感器通过片上AE模块对图像传感器采集的图像帧进行自动曝光处理。
在一些实施例中,片上AE模块对图像传感器采集到的图像帧进行自动曝光处理。可选地,片上AE模块能够实现图像帧高帧率的自动曝光处理。
可选地,片上AE模块对图像帧进行自动曝光处理的速度大于或等于图像传感器采集图像帧的速度。
一些示例中,如上述各个实施例所述,在图像传感器切换至突发模式后,图像传感器中的片上AE模块可先基于该突发模式执行自动曝光处理过程。并且,图像传感器在获取到应用处理器指示的目标拍摄模式后,图像传感器中的片上AE模块可基于突发模式执行自动曝光处理的基础上,将自动曝光处理得到曝光参数转化为与目标拍摄模式对应的曝光参数。从而使得图像传感器可以基于与目标拍摄模式对应的曝光参数进行图像采集,继而使得电子设备的显示屏中可以直接显示出与目标拍摄模式对应的图像帧。即,如图10所示,S906包括下述S906a和S906b。其中,S906a用于实现基于突发模式的自动曝光处理过程,S906b用于实现将自动曝光处理得到曝光参数转化为与目标拍摄模式对应的曝光参数的过程。S906a包括S1001,S906b包括S1002-S1006。
S1001、图像传感器基于突发模式,进行自动曝光处理,得到曝光参数A。
在一些实施例中,图像传感器接收应用处理器发送的突发模式请求,并基于该突发模式请求开始采集图像帧。在该突发模式中,片上AE模块基于预置的突发模式对采集的图像帧进行自动曝光处理。其中,片上AE模块可以基于图像传感器采集的图像帧进行自动曝光处理,并基于自动曝光处理的结果得到对应的曝光参数A。
相对于现有技术,图像传感器切换至软件备用状态后,应用处理器需要先控制图像传感器完成模式的切换,之后图像传感器再基于切换后的模式进行图像采集,并将采集到的图像帧发送至应用处理器,应用处理器才可对图像传感器发送的图像帧进行自动曝光处理。本申请实施例提供的自动曝光处理方法,图像传感器可以在接收到应用处理器发送的突发模式请求之后,直接进行图像采集工作,且图像传感器可直接通过其中的片上AE模块对采集的图像帧进行自动曝光处理,有效提高自动曝光速度。
可选地,片上AE模块在基于突发模式执行自动曝光处理过程中,可以基于图像传感器采集的图像帧获取当前环境光亮度A。相比于现有技术中,应用处理器通过环境光传感器确定当前环境光亮度,本申请实施例中电子设备可不借助环境光传感器来获取当前环境光亮度,从而减小电子设备内部的硬件占用空间。那么,减小的硬件占用空间可以在其他方面被利用,例如,前置摄像头中取消环境光传感器之后,电子设备(如手机)前面板中前置摄像头所占用的面积相应的可以减小,手机前面板中的显示屏可以相应的增大。在手机前面板的面板总面积不变的情况下,手机的屏占比相应的会提高。
在一些实施例中,图像传感器切换至突发模式开始采集图像帧之后,片上AE模块可以基于图像传感器采集的图像帧进行分析,从而直接获取与图像帧对应的环境光亮度作为当前环境光亮度A。例如,图像传感器采集的图像为RGB彩色图像,那么,图像传感器获取到的图像中包括属于RGB颜色空间的亮度信号,片上AE模块可以基于RGB彩色图像中的RGB颜色空间转换为YUV颜色空间。其中,YUV为一种颜色编码方法,Y表示亮度(Luminance或Luma),UV用于描述影响色彩的色度和浓度。一般来说,YUV颜色空间中的亮度Y包含了93%的图像亮度信息,因此,片上AE模块可以基于转换得到的YUV颜色空间中的Y确定出当前环境光亮度A。上述基于图像帧获取当前环境光亮度的方法还可以采用其他方式,例如,还可以对图像帧的RGB颜色空间中的R、G、B三个颜色通道分别进行统计,以得到颜色直方图,通过颜色直方图可以直观的看到图像帧的像素亮度的分布情况。本申请实施例对确定当前环境光亮度的方式不做限制。
一些示例中,片上AE模块在基于当前图像帧确定当前环境光亮度后,可基于突发模式对当前图像帧对应的曝光参数进行迭代调整,以使得后续在自动曝光过程中采集到的图像帧对应的当前环境光亮度趋于稳定,从而完成自动曝光收敛。并且,片上AE模块可确定自动曝光处理过程中最后一帧图像对应的曝光参数A,从而后续可将该曝光参数A转换为目标拍摄模式对应的曝光参数,以使得后续模式转换后输出到的图像帧满足环境光亮度需求且满足目标拍摄模式需求。可选地,图像传感器基于突发模式进行自动曝光处理的详细过程可参考下述S1202-S1204的相关内容,在此不再赘述。
可选地,片上AE模块在确定完成基于突发模式的自动曝光处理过程后,可向应用处理器发送最后确定的图像帧,从而实现在显示屏上显示该图像帧。如图8所示,片上AE模块确定第3帧图像对应的亮度和第4帧图像的亮度之间的差值小于预设阈值,可确定采集的图像帧对应的环境光亮度稳定件,那么显示后续图像帧不会出现过曝或欠曝异常现象。因此,电子设备可以直接将第4帧图像显示于显示屏中。
一些示例中,图像传感器确定采集到的图像帧对应的环境光亮度稳定后,可执行下述S1002-S1006,将突发模式对应的曝光参数转化为目标拍摄模式对应的曝光参数,以使得电子设备最终显示的图像帧满足用户需求。
S1002、应用处理器向图像传感器发送拍摄模式指定指令。
在一些实施例中,对应于上述S905,应用处理器接收到图像传感器返回的图像帧采集结果后,根据该图像帧采集结果,确定图像传感器已开始采集图像帧。那么,应用处理器可以根据目标拍摄模式向图像传感器中的片上AE模块发送拍摄模式指定指令。目标拍摄模式可以为根据用户的设定确定,也可以为根据相机的历史拍摄模式记录确定,此处不予限制。
例如,用户可以设定相机打开时直接启动人像拍摄模式,那么应用处理器响应于图像帧采集结果向片上AE模块发送与人像拍摄模式对应的拍摄模式指定指令。
又例如,相机关机前的拍摄模式为夜景拍摄模式。那么,应用处理器响应于图像帧采集结果向片上AE模块发送与夜景拍摄模式对应的拍摄模式指定指令。
可选地,应用处理器还可以根据用户的操作向片上AE模块发送拍摄模式指定指令。
例如,如图11所示,响应于用户点击人像拍摄模式控件111的操作,应用处理器向片上AE模块发送用于指定拍摄模式为人像拍摄模式的指令。或者,响应于用户点击夜景拍摄模式控件的操作,应用处理器向片上AE模块发送用于指定拍摄模式为夜景拍摄模式的指令。
一些示例中,图像传感器在基于突发模式进行自动曝光处理的过程中,可接收到应用处理器发送的拍摄模式指定指令。即,图像传感器在执行S906a的过程中,应用处理器可执行S1002。或者,在图像传感器在基于突发模式完成自动曝光处理后,接收到应用处理器发送的拍摄模式指定指令。即,图像传感器在执行完S906a之后,应用处理器可执行S1002。本申请实施例对此不做限制。
S1003、图像传感器确定拍摄模式指定指令指示的目标拍摄模式。
在一些实施例中,图像传感器中的片上AE模块在接收到拍摄模式指定指令后,可确定应用处理器指示的目标拍摄模式。
S1004、图像传感器基于目标拍摄模式,将曝光参数A转换为目标拍摄模式对应的曝光参数B。
在一些实施例中,片上AE模块在确定目标拍摄模式后,可根据该目标拍摄模式,从片上AE模块中预先烧录好的模式参数中获取与目标拍摄模式对应的模式参数。之后,片上AE模块可基于与目标拍摄模式对应的模式参数,将曝光参数A转换为曝光参数B,从而使得图像传感器在完成快速自动曝光的过程之后,可以根据与目标拍摄模式对应的曝光参数B采集目标图像帧。
可选地,不同拍摄模式对应的模式参数不同。例如,视频拍摄模式中,图像传感器采集图像的速度快才能实现拍摄视频画面的流畅度,而照片拍摄的人像模式中对图像传感器采集图像帧的速度要求不高。因此,视频拍摄模式对应的模式参数中的图像传感器采集图像的帧率小于人像模式对应的模式参数中的图像传感器采集图像的帧率。如人像拍摄模式对应的模式参数包括帧率为20fps。片上AE模块接收到应用处理器发送的人像拍摄模式指定指令后,片上AE模块可从直接从预先存储的模式参数中读取与人像拍摄模式对应的帧率20fps,并基于该帧率20fps,将曝光参数A转换为曝光参数B。
可选地,将曝光参数A转换为曝光参数B的方式可参见现有技术,本申请实施例此处不予以限制。
其中,片上AE模块中烧录有不同拍摄模式对应的模式参数。因此,应用处理器仅需要向片上AE模块发送拍摄模式指定指令,即可使片上AE模块直接获取与拍摄模式指定指令对应的模式参数,节省了数据传输的时间。
S1005、图像传感器基于曝光参数B采集目标图像帧。
在一些实施例中,片上AE模块在基于突发模式进行自动曝光处理之后,可以在图像帧对应的当前环境光亮度变化稳定后,确定完成突发模式的自动曝光处理过程,并得到曝光参数A。之后,基于目标拍摄模式将曝光参数A转化为与目标拍摄模式对应的曝光参数B,并基于曝光参数B采集目标图像帧。
示例性的,如图8所示,片上AE模块在基于突发模式进行自动曝光处理过程中,确定图像帧3对应的环境光亮度与图像帧4对应的环境光亮度相同或相似,以及图像帧4和图像帧5对应的环境光亮度相同或相似。例如,片上AE模块确定图像帧3的亮度与图像帧4的亮度之间的差值小于预设阈值,且图像帧4的亮度与图像帧5的亮度之间的差值小于预设阈值。那么,片上AE模块可确定图像帧对应的环境光亮度变化趋于稳定,完成自动曝光过程。之后,片上AE模块可以基于应用处理器指示的目标拍摄模式对图像帧5对应的曝光参数进行转换,以得到与目标拍摄模式对应的曝光参数B。图像传感器基于与目标拍摄模式对应的曝光参数B采集图像帧6。
S1006、图像传感器向应用处理器发送目标图像帧。
在一些实施例中,片上AE模块在完成图像帧的自动曝光处理过程后,使得图像传感器获取到目标图像帧后,图像传感器可向应用处理器发送该目标图像帧。示例性的,如图8所示,如片上AE模块可确定图像帧6为目标图像帧。那么,图像传感器可向应用处理器发送该图像帧6。相应的,应用处理器收到图像帧6之后,可以控制显示屏对图像帧6进行显示。
如此,电子设备的显示屏中可以显示曝光正常的目标图像帧,如图3中(b)所示的画面,从而避免显示屏出现由显示如图3中(a)所示画面过曝的图像帧或如图3中(c)所示画面欠曝的图像帧逐渐变化为显示如图3中(b)所示曝光正常的画面的过程。避免在该过程中用户无法看清电子设备显示屏中的显示画面,并需要等待较长的一段时间后,才可以看清楚电子设备中所显示的画面,影响用户使用体验。
可选地,如上述S1001,图像传感器基于突发模式,进行自动曝光处理后,图像传感器可向应用处理器发送图像帧。即,在突发模式的自动曝光处理过程中,显示屏可显示突发模式处于自动曝光处理过程中的图像帧。由于图像传感器基于突发模式对图像帧进行自动曝光处理的速度很快,因此在显示屏显示自动曝光过程涉及的图像帧的过程中,如上述实施例的计算,由处于过曝状态的图像帧变化到曝光正常状态的图像帧所需要的时间约在50ms以内,用户不会等待过长时间。
并且,在较短时间内即可完成图像帧的自动曝光,而人眼的视觉暂留一般被认为是0.05秒,即50ms,因此,电子设备的显示屏由如图3中(a)所示画面过曝的图像帧或如图3中(c)所示画面欠曝的图像帧,切换至如图3中(b)所示的曝光正常的目标图像帧的过程约在50ms以内,用户基本难以察觉到在该段自动曝光过程中,显示屏的画面由过曝或欠曝逐渐变为曝光正常的画面。
可选地,如图8所示,应用处理器还可以对图像传感器在采集目标图像帧之后采集的图像帧继续进行精细化自动曝光控制,具体实现方式可参见上文,此处不再赘述。
图12为本申请实施例提供的一种自动曝光方法的流程示意图。如图12所示,该方法包括S1201-S1205。
S1201、响应于用户的第一操作,电子设备启动图像传感器。
其中,第一操作用于触发启动第一应用程序,例如该第一应用程序为相机应用程序。响应于该第一操作,第一应用程序触发启动图像传感器。第一操作为用户对第一应用程序的图标的操作、指示切换第一应用程序至前台显示的操作、通过第二应用程序启动第一应用程序的操作中的一项或几项。
例如,如图1中(a)所示,电子设备检测到用户对相机应用程序图标的点击操作,可启动图像传感器。又例如,如图13中(a)所示,电子设备显示信息应用程序的界面(如第二应用程序),电子设备检测到用户从信息应用程序的界面执行从底部向上滑动的操作,即可显示如图13中(b)所示的多任务界面,在该多任务界面中可实现多个应用程序间的切换。电子设备在多任务界面中显示相机应用程序对应的卡片,如图13中(c)所示,又检测到用户点击多任务界面中相机应用程序对应的卡片的操作,可确定用户指示切换相机应用程序。那么电子设备可将相机应用程序从后台切换至前台,触发启动图像传感器,并显示如图13中(d)所示界面。再例如,响应于用户点击第二应用程序显示界面中的用于启动第一应用程序的控件的操作,电子设备可以启动该控件对应的第一应用程序,并显示第一应用程序显示界面,触发启动图像传感器。
可选地,第一操作也可以是以上的几种操作中的一种或几种,具体情况可以基于实际应用场景确定。
在一些实施例中,如上述S901-S904所述,电子设备响应于用户的第一操作,通过应用处理器控制图像传感器上电,并触发图像传感器的初始化过程。在初始化过程中,应用处理器向图像传感器发送初始化设置指令,以使图像传感器切换至软件备用状态。应用处理器确定图像传感器切换至软件备用状态之后,可向图像传感器发送突发模式请求。相应的,在下述步骤中图像传感器基于突发模式请求启动突发模式,并以高帧率采集图像帧。并且图像传感器中包括的片上AE模块对图像传感器采集的图像帧进行自动曝光处理。
可选地,S1201的其他内容可参考S901-S904的相关内容,在此不再赘述。
S1202、电子设备通过图像传感器按照预置的第一模式获取第N帧图像,并确定第N帧图像的第一亮度和第一曝光参数,N为正整数。
其中,第一模式为突发模式。
在一些实施例中,电子设备触发启动图像传感器后,可指示图像传感器按照预置的突发模式采集图像帧,并指示图像传感器中的片上AE模块按照预置的突发模式对该图像帧进行自动曝光处理。
可选地,在自动曝光处理过程中,片上AE模块可按照预设方法确定图像帧对应的当前环境光亮度(如第一亮度)。之后,片上AE模块可确定当前环境光亮度对应的曝光参数(如第一曝光参数),该曝光参数包括曝光值和/或增益值。
示例性的,如图8所示,图像传感器通过片上AE模块按照突发模式采集图像帧,如图像帧1。之后片上AE模块可确定图像帧1的RGB颜色空间,并将RGB颜色空间转换为YUV颜色空间。那么,片上AE模块可确定YUV颜色空间指示的亮度信息,确定图像帧1对应的当前环境光亮度,并可确定当前环境光亮度对应的曝光值和/或增益值。
其中,曝光值一般指曝光时间,曝光时间是指从快门打开到关闭的时间间隔。曝光时间越长,进入图像传感器的光越多,因此,图像传感器采集到的图像亮度增加。反之,曝光时间减小,图像亮度也减小。通过图像传感器转换后的模拟电信号,在转换为数字信号之前,将会通过一个称为自动增益控制(automatic gain control,AGC)的模块。该模块将输入信号放大,从而使得输出信号强度满足最终对图像亮度的要求。在入射光能量较小,光圈和曝光时间的设置无法满足曝光标准要求的情况下,可以通过增加信号增益,以提高图像的亮度,反之,也可以减小信号增益,以降低图像的亮度。
可选地,图像传感器的光圈大小也会对图像的亮度产生影响。光圈大小指图像传感器的镜头中光能够进入的孔径的大小。当镜头孔径增大时,通过镜头孔径到达图像传感器内部的光能量也增加,使得图像传感器采集的图像亮度增加。相应的,当镜头孔径减小后,图像传感器采集的图像亮度减小。在如手机、平板电脑等电子设备中的图像传感器的光圈大小一般为固定的情况下,可以仅对曝光时间和信号增益进行调整。
如此,图像传感器在采集图像帧后能够直接对图像帧进行自动曝光过程。相比于现有技术中图像传感器需要将采集到的图像帧发送至应用处理器进行处理自动曝光处理的繁琐流程,有效提高自动曝光效率。
此外,图像传感器直接根据采集到的图像帧确定出当前环境光亮度。相比于现有技术,无需基于环境光亮度传感器获取环境光亮度,减少了环境光传感器占用的硬件空间,因此能够减小电子设备的体积,或在其他方面利用减小环境光传感器的硬件占用空间。
S1203、电子设备通过图像传感器基于第一曝光参数,获取第(N+1)帧图像,并确定第(N+1)帧图像的第二亮度和第二曝光参数。
在一些实施例中,在S1202和S1203中,电子设备通过图像传感器按照第一模式对采集到的图像帧进行自动曝光处理。在自动曝光处理过程中,图像传感器中的片上AE模块确定图像传感器采集到的图像帧对应的环境光亮度,并对该环境光亮度对应的曝光参数进行调整,确定采集下一帧图像所需的曝光参数,从而实现对采集到的下一帧图像对应的环境光亮度进行收敛。
比如,电子设备通过图像传感器确定当前采集到的图像帧(如第N帧图像)的第一亮度对应的第一调整步长,并根据第一调整步长确定第一曝光参数对应的第四曝光参数。之后,电子设备可通过图像传感器按照第一模式通过第四曝光参数,获取下一帧图像(如第(N+1)帧图像)。
一些示例中,片上AE模块中预置有与环境光亮度对应的调整步长,与环境光亮度对应的调整步长可以为依据拍摄实验数据或经验设置的。片上AE模块可以基于与当前环境光亮度对应的调整步长对确定出的第一曝光参数进行调整,以确定出第四曝光参数。图像传感器该可以基于该第四曝光参数进行图像采集,获取下一帧第(N+1)帧图像。这样,片上AE模块可基于调整步长,通过曝光参数的调整,以实现图像帧对应的环境光亮度的调整,使得图像帧对应的环境光亮度趋向稳定,从而实现图像帧对应的环境光亮度的自动收敛。
例如,如图8所示,图像传感器采集到图像帧1,图像传感器中的片上AE模块确定图像帧1对应的亮度1以及曝光参数1(即执行S1202)。片上AE模块基于亮度1对应的调整步长,对曝光参数1进行调整并确定曝光参数1’,以使图像传感器基于曝光参数1’采集图像帧2。片上AE模块继续确定图像帧2对应的亮度2和曝光参数2(即执行S1203)。在该过程中,通过调整步长对图像帧对应的环境光亮度进行收敛,使得获取的新的图像帧的对应的环境光亮度趋于稳定。
又示例性的,在基于画面亮度确定调整步长之后,电子设备还可以基于连续两帧图像之间亮度差值,对调整步长进行调整。例如,如上文所示,片上AE模块确定图像帧1对应的亮度1之后,确定与亮度1对应的调整步长。之后,如片上AE模块可以获取到图像帧1之前的图像帧1’的亮度1’,那么可以继续确定亮度1与亮度1’之间的亮度差值是否大于预设差值。若亮度1与亮度1’之间的亮度差值大于预设差值,则说明图像帧的亮度未趋于稳定,可以增大与亮度1对应的调整步长;若亮度1与亮度1’之间的亮度差值不大于预设差值,说明图像帧的亮度趋于稳定,可以减小与亮度1对应的调整步长。在该过程中,可以通过连续两帧图像之间的亮度差值对调整步长进行调整,从而使得基于调整步长对图像帧对应的环境光亮度进行收敛,使得获取的新的图像帧的对应的环境光亮度趋于稳定。
在一些示例中,电子设备可以直接显示自动曝光处理过程中的第(N+1)帧图像,从而在图像传感器启动之后能够更快速的显示图像。如此,可以有效的提高应用程序启动的速度,避免用户过长时间的等待。
例如,如图8所示,片上AE模块获取的第(N+1)帧图像为图像帧4,且此时片上AE模块尚未完成自动曝光过程,但电子设备仍然可以直接显示图像帧4。如上文所述,利用本申请实施例所提供的自动曝光方法,可将自动曝光的过程控制在50ms以内。基于此,电子设备在得到第(N+1)帧图像之后,直到完成自动曝光所需的时间小于50ms。而人眼的视觉暂留一般被认为是0.05秒,即50ms,因此,电子设备从第(N+1)帧图像开始进行显示,用户基本难以察觉到之后图像帧亮度的变化过程。
S1204、电子设备确定第二亮度和第一亮度的差值满足预设条件。
其中,预设条件包括第二亮度和第一亮度的差值为第m次小于或等于预设阈值,m为正整数。
在一些实施例中,电子设备在自动曝光处理过程中,确定当前图像帧对应的环境光亮度后,可确定该环境光亮度与前一帧图像帧对应的环境光亮度之间的差值。若该差值小于或等于预设阈值,可确定完成自动曝光过程,执行下述S1205。或者,若该差值大于预设阈值,可确定未完成自动曝光过程,可返回执行上述S1202,继续基于第一模式采集图像帧并对图像帧进行自动曝光处理。可选地,电子设备可在连续m次确定环境光亮度差值小于或等于预设阈值后,确定完成自动曝光过程。
例如,图像传感器基于第一曝光参数获取第(N+1)帧图像之后,片上AE模块可以确定获取的第(N+1)帧图像对应的第二亮度。并确定第二亮度和前一帧采集到的第N帧图像对应的第一亮度之间的差值是否小于或等于预设阈值。若大于,则说明第二亮度和第一亮度之间的差距较大,仍需要对图像帧进行进一步的自动曝光,可以返回并执行S1202。或者,若第二亮度和第一亮度之间的差值小于或等于预设阈值,则说明两图像帧的亮度相同或相似,此时,可表示自动曝光过程已完成。
示例性的,如图8所示,在自动曝光处理过程中,若图像帧4对应的第一亮度为4nit,图像帧5对应的第二亮度为5nit,电子设备通过图像传感器确定第二亮度和第一亮度的差值为1nit。如预设阈值为2nit,电子设备确定连续图像帧的亮度差值小于预设阈值,可确定完成自动曝光过程。
又示例性的,如图8所示,在自动曝光处理过程中,若图像帧1对应的亮度1为50nit,图像帧2对应的亮度2为48nit,电子设备通过图像传感器确定亮度2和亮度1的差值为2nit。如预设阈值为2nit,电子设备确定一次连续图像帧的亮度差值等于预设阈值,可再继续通过图像传感器进行自动曝光处理。之后,在自动曝光处理过程中,若图像帧3对应的亮度3为30nit,电子设备通过图像传感器确定亮度3和亮度2之间的差值为18nit。那么,电子设备通过图像传感器确定亮度3和亮度2之间的差值大于预设阈值。之后,电子设备通过图像传感器确定图像帧4对应的亮度4为31nit,以及亮度4和亮度3之间的差值为1nit。电子设备通过图像传感器确定一次连续图像帧的亮度差值小于预设阈值。电子设备通过图像传感器确定图像帧5对应的亮度5为29nit,亮度5和亮度4之间的差值为2nit。电子设备通过图像传感器确定一次连续图像帧的亮度差值小于预设阈值。此时,电子设备通过图像传感器可以确定第二亮度和第一亮度的差值为第2次小于或等于预设阈值,如预设条件中m为2,那么电子设备可确定完成自动曝光过程。
如此,电子设备通过图像传感器根据第二亮度和第一亮度的差值是否小于或等于预设阈值,确定图像帧的亮度是否趋于稳定,从而确定是否完成自动曝光处理过程。有效的提高自动曝光过程的稳定性。
S1205、电子设备获取第一操作对应的第二模式,通过图像传感器将第二曝光参数转换为第二模式对应的第三曝光参数。
在一些实施例中,电子设备在确定完成自动曝光过程后,可将当前的曝光参数转换为与当前第一应用程序指示的第二模式对应的曝光参数,从而使得后续获取到的图像帧不仅能够满足当前环境光亮度的需求也能满足第二模式的显示需求。
在一些实施例中,电子设备可以根据第一操作确定第二模式,即目标拍摄模式。之后,可根据该目标拍摄模式,从图像传感器中的片上AE模块预先保存的模式参数中获取与目标拍摄模式对应的模式参数。在自动曝光过程中,或者自动曝光结束后,应用处理器可以向图像传感器发送模式设置指令。图像传感器基于模式设置指令确定第二模式。
如此,片上AE模块对图像传感器采集的图像帧进行高速的自动曝光处理,以提高自动曝光的速度。并且片上AE模块可以基于实际的拍摄模式,对由突发模式得到曝光参数进行转换,以得到与实际的拍摄模式对应的曝光参数,以使图像传感器能够直接采集与实际的拍摄模式对应的图像帧,以满足相机应用实际拍摄模式的使用需求。
可选地,图像传感器中的片上AE模块保存有一个或多个预设模式分别对应的一个或多个模式参数,预设模式包括第二模式。
其中,模式参数可以包括电子设备的显示屏的分辨率、尺寸、图像传感器采集图像的帧率中的一项或几项。
如此,片上AE模块可以直接基于第二模式获取对应的模式参数,以节省应用处理器获取模式参数的时间,以及应用处理器向图像传感器传输模式参数的时间,从而提高自动曝光的速度。
在一些实施例中,电子设备根据第三曝光参数,获取并显示目标图像帧。由于第三曝光参数与第二模式对应,且基于第三曝光参数对应采集的图像帧的画面曝光是正确的,因此,可以根据第三曝光参数获取目标图像帧,并对目标图像帧进行显示,以保证用户可以观看到曝光正常的显示画面。
可选地,目标图像帧的亮度与第二亮度相同或相似。其中,目标图像帧的亮度与第二亮度相似是指目标图像帧的亮度与第二亮度之间的差值小于或等于预设阈值,从而满足画面亮度需求。由于第二曝光参数与第二亮度为基于第N+1帧图像得到的,且第三曝光参数是由第二曝光参数转化得到的,因此图像传感器基于第三曝光参数采集的目标图像帧的亮度与第二亮度相同或相似。示例性地,如图8所示,如图像帧5为第N+1帧图像,图像帧6为目标图像帧,那么,图像帧5与图像帧6之间的亮度相同或相似。
一些示例中,第一模式对应的第一帧率大于第二模式对应的第二帧率。即片上AE模块在突发模式下的处理速度大于模式设定对应的处理速度。从而可以保证在突发模式中,片上AE模块能够进行高速的自动曝光处理。
可以理解的,上述过程中出现的第一曝光参数、或第二曝光参数、或第三曝光参数、或第四曝光参数,可以为曝光值和/或增益值。
如此,本申请实施例通过在图像传感器中设置片上AE模块,使得片上AE模块可以直接对图像传感器采集的图像帧进行自动曝光处理,从而节省应用处理器与图像传感器之间数据传输的时间。
并且,片上AE模块的处理速度大于应用处理器的处理速度,从而可以实现高速执行自动曝光处理。
此外,片上AE模块可以直接根据图像传感器采集的图像帧获取到当前环境光亮度,基于该当前环境光亮度实现执行自动曝光过程。那么可以避免电子设备中额外配备环境光传感器,从而减小电子设备的体积,使得电子设备可以实现超窄边框屏幕。
以上结合图5-图13详细说明了本申请实施例提供的自动曝光方法。以下结合图14详细说明本申请实施例提供的电子设备。
在一种可能的设计中,图14为本申请实施例提供的电子设备的结构示意图。如图14所示,电子设备1400可以包括:处理单元1401以及收发单元1402。电子设备1400可用于实现上述方法实施例中涉及的电子设备的功能。
可选地,处理单元1401,用于支持电子设备1400执行图9中的S901-S906,和/或,还用于支持电子设备1400执行图10中的S1001-S1006,和/或,还用于支持电子设备1400执行图12中的S1201-S1205。
可选地,收发单元1402,用于支持电子设备1400执行图9中的S901-S906,和/或,还用于支持电子设备1400执行图10中的S1001-S1006,和/或,还用于支持电子设备1400执行图12中的S1201-S1205。
可选地,电子设备1400还可以包括显示单元,该显示单元用于支持电子设备显示界面内容。
其中,收发单元1402可以包括接收单元和发送单元,可以由收发器或收发器相关电路组件实现,可以为收发器或收发模块。电子设备1400中的各个单元的操作和/或功能分别为了实现上述方法实施例中的自动曝光方法的相应流程,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能单元的功能描述,为了简洁,在此不再赘述。
可选地,图14所示的电子设备1400还可以包括存储单元(图14中未示出),该存储单元中存储有程序或指令。当处理单元1401以及收发单元1402执行该程序或指令时,使得图14所示的电子设备1400可以执行上述方法实施例中的自动曝光方法。
图14所示的电子设备1400的技术效果可以参考上述方法实施例中的自动曝光方法的技术效果,此处不再赘述。
除了以电子设备1400的形式以外,本申请实施例提供的技术方案也可以为电子设备中的功能单元或者芯片,或者与电子设备匹配使用的装置。
本申请实施例还提供一种计算机可读存储介质,该计算机存储介质包括计算机指令,当计算机指令在上述电子设备上运行时,使得该电子设备执行上述方法实施例中的各个功能或者步骤。
本申请实施例还提供一种计算机程序产品,包括计算机程序,当计算机程序在电子设备上运行时,使得电子设备执行上述方法实施例中的各个功能或者步骤。
通过以上实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种自动曝光方法,其特征在于,所述方法包括:
按照预置的第一模式获取第N帧图像,并确定所述第N帧图像的第一亮度和第一曝光参数,N为正整数;
按照所述第一亮度对应的第一调整步长调整所述第一曝光参数,得到第四曝光参数;
基于所述第四曝光参数,获取第(N+1)帧图像,并确定所述第(N+1)帧图像的第二亮度和第二曝光参数;
确定所述第二亮度和所述第一亮度的差值满足预设条件;
接收模式设置指令,基于所述模式设置指令确定第二模式;
将所述第二曝光参数转换为所述第二模式对应的第三曝光参数;
根据所述第三曝光参数采集目标图像帧;
其中,所述第一模式对应的第一帧率大于所述第二模式对应的第二帧率;所述预设条件包括所述第二亮度和所述第一亮度的差值为第m次小于或等于预设阈值,m为正整数。
2.根据权利要求1所述的方法,其特征在于,所述目标图像帧的亮度与所述第二亮度相同或相似。
3.根据权利要求1所述的方法,其特征在于,所述方法应用于图像传感器,所述图像传感器中保存有一个或多个预设模式分别对应的一个或多个模式参数,所述预设模式包括所述第二模式。
4.根据权利要求3所述的方法,其特征在于,所述模式参数包括所述图像传感器所在的电子设备的显示屏的分辨率、尺寸、所述图像传感器采集图像的帧率中的一项或几项。
5.根据权利要求1所述的方法,其特征在于,按照预置的第一模式获取第N帧图像,并确定所述第N帧图像的第一亮度和第一曝光参数,包括:
按照预置的所述第一模式获取所述第N帧图像;
确定所述第N帧图像的所述第一亮度;
确定所述第一亮度对应的所述第一曝光参数。
6.根据权利要求1-5中任一项所述的方法,其特征在于,所述第一曝光参数、或所述第二曝光参数、或所述第三曝光参数为曝光值和/或增益值。
7.一种图像传感器,其特征在于,所述图像传感器用于执行权利要求1-6中任一项所述的方法,所述图像传感器中包括自动曝光AE模块,所述AE模块用于输出所述第一亮度、所述第二亮度、所述第一曝光参数、所述第二曝光参数和所述第三曝光参数。
8.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在图像传感器上运行时,使得所述图像传感器执行如权利要求1-6中任一项所述的方法。
9.一种电子设备,其特征在于,所述电子设备包括权利要求7所述的图像传感器、显示屏、存储器和一个或多个处理器;所述显示屏用于显示所述图像传感器采集的图像帧。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310995464.XA CN116996762B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310319202.1A CN116033275B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
CN202310995464.XA CN116996762B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310319202.1A Division CN116033275B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116996762A CN116996762A (zh) | 2023-11-03 |
CN116996762B true CN116996762B (zh) | 2024-04-16 |
Family
ID=86089665
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310995464.XA Active CN116996762B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
CN202310319202.1A Active CN116033275B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310319202.1A Active CN116033275B (zh) | 2023-03-29 | 2023-03-29 | 一种自动曝光方法、电子设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (2) | CN116996762B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116567407B (zh) * | 2023-05-04 | 2024-05-03 | 荣耀终端有限公司 | 一种相机参数配置方法及电子设备 |
CN117707470B (zh) * | 2023-06-01 | 2024-10-08 | 荣耀终端有限公司 | 数据处理方法、可读存储介质、电子设备 |
CN118488310A (zh) * | 2023-11-23 | 2024-08-13 | 荣耀终端有限公司 | 一种出图控制方法、电子设备和芯片系统 |
CN117651212A (zh) * | 2024-01-29 | 2024-03-05 | 荣耀终端有限公司 | 一种曝光参数的调节方法及电子设备 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105491285A (zh) * | 2015-12-03 | 2016-04-13 | 浙江宇视科技有限公司 | 一种pir摄像机工作模式切换方法及装置 |
CN109936698A (zh) * | 2017-12-18 | 2019-06-25 | 杭州海康威视数字技术股份有限公司 | 一种自动曝光控制方法、装置、电子设备及存储介质 |
CN110718069A (zh) * | 2019-10-10 | 2020-01-21 | 浙江大华技术股份有限公司 | 图像亮度调节方法、装置和存储介质 |
CN111263078A (zh) * | 2020-02-04 | 2020-06-09 | 浙江大华技术股份有限公司 | 摄像模式的确定方法、装置、存储介质及电子装置 |
CN111316635A (zh) * | 2019-03-12 | 2020-06-19 | 深圳市大疆创新科技有限公司 | 相机控制方法及装置 |
CN112788250A (zh) * | 2021-02-01 | 2021-05-11 | 青岛海泰新光科技股份有限公司 | 一种基于fpga实现的自动曝光控制方法 |
CN113596345A (zh) * | 2021-08-09 | 2021-11-02 | 荣耀终端有限公司 | 参数的调整方法、显示的控制方法、电子设备及介质 |
CN113891008A (zh) * | 2021-06-10 | 2022-01-04 | 荣耀终端有限公司 | 一种曝光强度调节方法及相关设备 |
WO2023015992A1 (zh) * | 2021-08-09 | 2023-02-16 | 荣耀终端有限公司 | 曝光参数的调节方法、设备和存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4173457B2 (ja) * | 2004-03-12 | 2008-10-29 | 富士フイルム株式会社 | 撮影装置及びその制御方法 |
US8581974B2 (en) * | 2010-05-06 | 2013-11-12 | Aptina Imaging Corporation | Systems and methods for presence detection |
CN105681645A (zh) * | 2015-11-06 | 2016-06-15 | 乐视移动智能信息技术(北京)有限公司 | 防抖拍照方法、装置及移动终端 |
JP6197062B2 (ja) * | 2016-03-14 | 2017-09-13 | オリンパス株式会社 | 撮像装置及び撮像方法並びに表示装置及び表示方法 |
CN113271414B (zh) * | 2020-02-14 | 2022-11-18 | 上海海思技术有限公司 | 图像获取方法和装置 |
CN113382169B (zh) * | 2021-06-18 | 2023-05-09 | 荣耀终端有限公司 | 一种拍照方法及电子设备 |
CN115550556B (zh) * | 2021-06-25 | 2023-10-24 | 荣耀终端有限公司 | 一种曝光强度调节方法及相关装置 |
CN117292418A (zh) * | 2022-03-25 | 2023-12-26 | 荣耀终端有限公司 | 一种人脸识别方法和装置 |
CN115242983B (zh) * | 2022-09-26 | 2023-04-07 | 荣耀终端有限公司 | 拍摄方法、电子设备及可读存储介质 |
-
2023
- 2023-03-29 CN CN202310995464.XA patent/CN116996762B/zh active Active
- 2023-03-29 CN CN202310319202.1A patent/CN116033275B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105491285A (zh) * | 2015-12-03 | 2016-04-13 | 浙江宇视科技有限公司 | 一种pir摄像机工作模式切换方法及装置 |
CN109936698A (zh) * | 2017-12-18 | 2019-06-25 | 杭州海康威视数字技术股份有限公司 | 一种自动曝光控制方法、装置、电子设备及存储介质 |
CN111316635A (zh) * | 2019-03-12 | 2020-06-19 | 深圳市大疆创新科技有限公司 | 相机控制方法及装置 |
CN110718069A (zh) * | 2019-10-10 | 2020-01-21 | 浙江大华技术股份有限公司 | 图像亮度调节方法、装置和存储介质 |
CN111263078A (zh) * | 2020-02-04 | 2020-06-09 | 浙江大华技术股份有限公司 | 摄像模式的确定方法、装置、存储介质及电子装置 |
CN112788250A (zh) * | 2021-02-01 | 2021-05-11 | 青岛海泰新光科技股份有限公司 | 一种基于fpga实现的自动曝光控制方法 |
CN113891008A (zh) * | 2021-06-10 | 2022-01-04 | 荣耀终端有限公司 | 一种曝光强度调节方法及相关设备 |
CN113596345A (zh) * | 2021-08-09 | 2021-11-02 | 荣耀终端有限公司 | 参数的调整方法、显示的控制方法、电子设备及介质 |
WO2023015992A1 (zh) * | 2021-08-09 | 2023-02-16 | 荣耀终端有限公司 | 曝光参数的调节方法、设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
基于分区曝光融合的不均匀亮度视频增强;张聿;刘世光;;计算机辅助设计与图形学学报(第12期);167-172 * |
Also Published As
Publication number | Publication date |
---|---|
CN116033275A (zh) | 2023-04-28 |
CN116996762A (zh) | 2023-11-03 |
CN116033275B (zh) | 2023-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114679537B (zh) | 一种拍摄方法及终端 | |
EP3893491A1 (en) | Method for photographing the moon and electronic device | |
EP4024845A1 (en) | Time-lapse photography method and device | |
CN113132620B (zh) | 一种图像拍摄方法及相关装置 | |
CN110506416B (zh) | 一种终端切换摄像头的方法及终端 | |
CN116996762B (zh) | 一种自动曝光方法、电子设备及计算机可读存储介质 | |
WO2020077511A1 (zh) | 一种拍摄场景下的图像显示方法及电子设备 | |
CN113411528B (zh) | 一种录像帧率的控制方法、终端及存储介质 | |
CN114095666B (zh) | 拍照方法、电子设备和计算机可读存储介质 | |
US20240236504A9 (en) | Point light source image detection method and electronic device | |
CN114466134A (zh) | 生成hdr图像的方法及电子设备 | |
CN115967851A (zh) | 快速拍照方法、电子设备及计算机可读存储介质 | |
CN117135257B (zh) | 一种图像显示方法、电子设备及计算机可读存储介质 | |
CN116347217B (zh) | 图像处理方法、设备及存储介质 | |
CN110609650B (zh) | 一种应用状态切换方法及终端设备 | |
CN115460343B (zh) | 图像处理方法、设备及存储介质 | |
CN116708751B (zh) | 一种拍照时长的确定方法、装置和电子设备 | |
CN116048323B (zh) | 图像处理方法及电子设备 | |
CN116017138B (zh) | 测光控件显示方法、计算机设备和存储介质 | |
CN116887047B (zh) | 一种对焦方法、电子设备和存储介质 | |
CN116723382B (zh) | 一种拍摄方法及相关设备 | |
CN117221713B (zh) | 参数加载方法和电子设备 | |
CN115904576B (zh) | 一种应用壁纸的方法、电子设备及存储介质 | |
CN117729420A (zh) | 一种连拍方法及电子设备 | |
CN118678238A (zh) | 一种拍摄方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |