CN115529409A - 一种拍摄方法及相关装置 - Google Patents

一种拍摄方法及相关装置 Download PDF

Info

Publication number
CN115529409A
CN115529409A CN202110706653.1A CN202110706653A CN115529409A CN 115529409 A CN115529409 A CN 115529409A CN 202110706653 A CN202110706653 A CN 202110706653A CN 115529409 A CN115529409 A CN 115529409A
Authority
CN
China
Prior art keywords
image
exposure time
image frames
electronic device
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110706653.1A
Other languages
English (en)
Other versions
CN115529409B (zh
Inventor
冯寒予
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202110706653.1A priority Critical patent/CN115529409B/zh
Priority to PCT/CN2022/093646 priority patent/WO2022267763A1/zh
Priority to US18/251,016 priority patent/US20230412929A1/en
Priority to EP22827261.3A priority patent/EP4221185A4/en
Publication of CN115529409A publication Critical patent/CN115529409A/zh
Application granted granted Critical
Publication of CN115529409B publication Critical patent/CN115529409B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Abstract

本申请公开了一种拍摄方法及相关装置。该方法包括:电子设备可以检测被摄体的运动状态;若被摄体与电子设备相对运动,电子设备判断当前拍摄环境中是否存在人工光源;若当前拍摄环境中存在人工光源,电子设备根据人工光源的闪烁频率确定帧间隔,并且还可以以步长B降低曝光时间。上述方法不仅可以在减少拍摄画面出现滚动的明暗条纹情况的同时,使得拍摄画面不因ISO变化过大而出现大量噪点,提高拍摄效果。

Description

一种拍摄方法及相关装置
技术领域
本申请涉及终端技术领域,尤其涉及一种拍摄方法及相关装置。
背景技术
当数码相机、手机等用于拍摄的电子设备与被摄体之间相对运动时,若曝光时间过长,拍摄的图像可能会出现运动模糊。为减弱运动模糊,电子设备可以降低曝光时间。若上述拍摄场景中存在人工光源,为了避免拍摄画面中出现滚动的明暗条纹,电子设备通常会以人工光源闪烁周期的整数倍为调整间隔来调整曝光时间。曝光时间降低,电子设备需要增大感光度ISO来维持拍摄图像的亮度合适。在ISO过高的情况下,拍摄图像的噪点较多。电子设备在满足曝光时间为人工光源闪烁周期的整数倍的条件下降低曝光时间,可能导致ISO在短时间内增大过多,电子设备无法及时调节降噪参数。那么,拍摄图像中会包含许多噪点,影响拍摄效果。
因此,如何在减少拍摄画面出现滚动的明暗条纹情况的同时,使得拍摄画面不因ISO变化过大而出现大量噪点是目前亟待解决的问题。
发明内容
本申请提供了一种拍摄方法及相关装置,电子设备可以确定人工光源的闪烁频率,并根据人工光源的闪烁频率调整图像拍摄过程中的帧间隔。其中,不同帧图像开始曝光的时间对应的光信号的相位相同。进一步的,电子设备可以以较小的步长降低曝光时间和较小的步长增加ISO,实现在减少图像出现运动模糊的情况下保持图像具有合适的亮度。上述方法可以在减少拍摄画面出现滚动的明暗条纹情况的同时,使得拍摄画面不因ISO变化过大而出现大量噪点。
第一方面,本申请提供了一种拍摄方法。该方法包括:电子设备在显示屏显示拍摄界面,拍摄界面用于显示摄像头采集的第一图像;若第一图像中的被摄体与电子设备之间存在相对运动,电子设备在拍摄界面先后显示摄像头采集的L个图像帧;L个图像帧的曝光时间均不同且依次降低;L个图像帧中最先显示的图像帧的曝光时间与第一图像的曝光时间相同;L为大于2的整数;若拍摄环境中存在人工光源,电子设备确定人工光源的闪烁周期;电子设备根据闪烁周期调整拍摄L个图像帧的帧间隔;帧间隔是所述摄像头拍摄L个图像帧中相邻两帧图像的间隔时间;帧间隔是闪烁周期的整数倍。
在本申请提供的方案中,电子设备可以以更小的步长来降低曝光时间,使得ISO不会短时间内大幅度增加。而ISO越大,图像中的噪点越多。因此,上述方法可以避免由于电子设备无法及时降噪而造成图像出现大量噪点,即可以使得用户获取更高质量的图像。另外,电子设备可以根据拍摄环境中人工光源的闪烁频率来调节帧间隔,这样可以使得画面中滚动的明暗条纹不再滚动,提升了预览和录像等场景下的用户体验。
结合第一方面,在第一方面的一种可能的实现方式中,L个图像帧的ISO均不同且依次增大;L个图像帧的曝光强度与第一图像的曝光强度相同;曝光强度用于表征曝光量。
在本申请提供的方案中,电子设备调整帧间隔和曝光时间后,获取图像时采用的ISO是逐渐增大的,且以较小的幅度增大。也就是说,ISO不会在短时间内大幅度增加。而ISO越大,图像中的噪点越多。因此,上述方法可以避免由于电子设备无法及时降噪而造成图像出现大量噪点,即可以使得用户获取更高质量的图像。
结合第一方面,在第一方面的一种可能的实现方式中,电子设备确定第一曝光时间;第一曝光时间为所述摄像头拍摄第二图像时采用的曝光时间;电子设备根据第一曝光时间,确定第二曝光时间;第二曝光时间为摄像头拍摄第三图像的预计曝光时间;第一曝光时间大于第二曝光时间;第一曝光时间与第二曝光时间的差值为第一步长;电子设备根据所述第二曝光时间,确定预计ISO;电子设备判断预计ISO是否大于预设阈值;若预计ISO大于所述预设阈值,电子设备确定摄像头拍摄第三图像时采用的曝光时间为第一曝光时间;若预计ISO不大于预设阈值,电子设备确定摄像头拍摄第三图像时采用的曝光时间为第二曝光时间;其中,第二图像为第一图像,第三图像为L个图像帧中最先显示的图像帧;或者,第二图像和第三图像为L个图像帧中的相邻两个图像帧。
在本申请提供的方案中,L个图像帧可以为电子设备降低曝光时间的过程中所获取的图像,也可以为电子设备的曝光时间已降低到一个稳定值之后所获取的图像。可理解,电子设备在降低曝光时间的过程中需要判断相应的ISO是否大于预设阈值,这是因为增大ISO时,不仅放大了有用信号,也放大了噪声。因此,ISO越高,电子设备100获取的图像的噪点越多,该图像的画质越差。在上述方法中,电子设备对ISO设定一个合理的范围,使得有用信号得以放大,同时,放大的噪声也在电子设备100的降噪能力范围内。
结合第一方面,在第一方面的一种可能的实现方式中,第一步长小于闪烁周期。
在本申请提供的方案中,电子设备可以以更小的步长来降低曝光时间,使得ISO不会短时间内大幅度增加。例如,电子设备降低曝光时间的步长(第一步长)可以小于闪烁周期。可理解,ISO越大,图像中的噪点越多。因此,上述方法可以避免由于电子设备无法及时降噪而造成图像出现大量噪点,即可以使得用户获取更高质量的图像。
结合第一方面,在第一方面的一种可能的实现方式中,电子设备在拍摄界面先后显示摄像头采集的L个图像帧之前,方法还包括:电子设备获取摄像头采集的R个图像帧;R个图像帧中包括第一图像;R个图像帧均包括被摄体;R为大于2的整数;电子设备通过判断R个图像帧中的相邻两个图像帧中的被摄体的位置是否发生变化,来确定第一图像中的被摄体与电子设备之间是否存在相对运动;其中,若二维速度矢量场中是否存在速度变化量不一致的像素,第一图像中的被摄体与电子设备之间存在相对运动。
在本申请提供的方案中,电子设备需要判断被摄体与电子设备之间是否存在相对运动,根据判断结果,电子设备再进行相应的处理。例如,若电子设备判断被摄体与电子设备之间存在相对运动,电子设备为了减弱运动模糊,可以降低曝光时间来获得更清晰的图像。
结合第一方面,在第一方面的一种可能的实现方式中,电子设备对L个图像帧进行运动模糊检测,并根据运动模糊检测的结果确定L的值;其中,L个图像帧中的第L-1个图像帧存在运动模糊;L个图像帧中的第L个图像帧不存在运动模糊。
在本申请提供的方案中,电子设备可以对获取的图像进行运动模糊检测,电子设备就可以在运动模糊消除的情况下不再降低曝光时间。相较于逐渐降低曝光时间直到相应的ISO接近预设阈值这种方式,进行运动模糊检测这种方式可以节省时间和计算资源,使得用户在更短的时间内就可以稳定的高质量的图像,提高了用户体验。
结合第一方面,在第一方面的一种可能的实现方式中,在电子设备根据闪烁周期调整拍摄L个图像帧的帧间隔之后,方法还包括:电子设备检测到第一用户操作;电子设备将拍摄界面显示的摄像头采集的K个图像帧保存为视频;其中,所述K个图像帧的帧间隔与L个图像帧的帧间隔相同;K个图像帧中任意一个图像帧的曝光时间,与L个图像帧中最后显示的图像帧的曝光时间相同。可理解,K可以为正整数。
在本申请提供的方案中,电子设备可以在预览时就开始调节曝光时间,使得用户后续进行拍摄或录像时就可以获得更高质量的图像。
结合第一方面,在第一方面的一种可能的实现方式中,电子设备获取摄像头采集的H个图像帧;电子设备将H个图像帧保存为视频;H个图像帧包括L个图像帧或者L个图像帧的一部分。可理解,H可以为正整数。
在本申请提供的方案中,电子设备可以在录像的过程中调节曝光时间,使得用户可以获得更高质量的视频。
第二方面,本申请提供一种电子设备,该电子设备包括显示屏、摄像头、一个或多个存储器、一个或多个处理器,一个或多个处理器与摄像头、一个或多个存储器耦合,一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令。显示屏,可以用于显示拍摄界面;拍摄界面用于显示摄像头采集的第一图像;若第一图像中的被摄体与电子设备之间存在相对运动,还可以用于在拍摄界面上先后显示摄像头采集的L帧第二图像;L个图像帧的曝光时间均不同且依次降低;L个图像帧中最先显示的图像帧的曝光时间与第一图像的曝光时间相同;L为大于2的整数。处理器,可以用于在拍摄环境中存在人工光源的情况下,确定人工光源的闪烁周期。处理器,还可以用于根据闪烁周期调整拍摄L个图像帧的帧间隔;帧间隔是摄像头拍摄L个图像帧中相邻两帧图像的间隔时间;帧间隔是闪烁周期的整数倍。
结合第二方面,在第二方面的一种可能的实现方式中,L个图像帧的ISO均不同且依次增大;L个图像帧的曝光强度与第一图像的曝光强度相同;曝光强度用于表征曝光量。
结合第二方面,在第二方面的一种可能的实现方式中,处理器,还可以用于:确定第一曝光时间;第一曝光时间为摄像头拍摄第二图像时采用的曝光时间;根据第一曝光时间,确定第二曝光时间;第二曝光时间为摄像头拍摄第三图像的预计曝光时间;第一曝光时间大于第二曝光时间;第一曝光时间与第二曝光时间的差值为第一步长。处理器,还可以根据第二曝光时间,确定预计ISO,并判断预计ISO是否大于预设阈值。若预计ISO大于预设阈值,确定摄像头拍摄第三图像时采用的曝光时间为第一曝光时间。若预计ISO不大于预设阈值,确定摄像头拍摄第三图像时采用的曝光时间为第二曝光时间;其中,第二图像为第一图像,第三图像为L个图像帧中最先显示的图像帧;或者,第二图像和所述第三图像为L个图像帧中的相邻两个图像帧。
结合第二方面,在第二方面的一种可能的实现方式中,第一步长小于闪烁周期。
结合第二方面,在第二方面的一种可能的实现方式中,处理器,还可以用于:获取摄像头采集的R个图像帧;R个图像帧中包括第一图像;R个图像帧均包括被摄体;R为大于2的整数。处理器,还可以用于:通过判断所述R个图像帧中的相邻两个图像帧中的被摄体的位置是否发生变化,来确定第一图像中的被摄体与电子设备之间是否存在相对运动。其中,若二维速度矢量场中是否存在速度变化量不一致的像素,第一图像中的被摄体与电子设备之间存在相对运动。
结合第二方面,在第二方面的一种可能的实现方式中,处理器,还用于:对L个图像帧进行运动模糊检测,并根据运动模糊检测的结果确定L的值。其中,L个图像帧中的第L-1个图像帧存在运动模糊;L个图像帧中的第L个图像帧不存在运动模糊。
结合第二方面,在第二方面的一种可能的实现方式中,处理器,还可以用于:检测到第一用户操作;第一用户操作用于停止录制视频;将拍摄界面显示的摄像头采集的K个图像帧保存为视频。其中,K个图像帧的帧间隔与L个图像帧的帧间隔相同;K个图像帧中任意一个图像帧的曝光时间,与L个图像帧中最后显示的图像帧的曝光时间相同。可理解,K可以为正整数。
结合第二方面,在第二方面的一种可能的实现方式中,处理器,还用于:获取摄像头采集的H个图像帧;将H个图像帧保存为视频;H个图像帧包括L个图像帧或者L个图像帧的一部分。可理解,H可以为正整数。
第三方面,本申请提供一种计算机可读存储介质,包括指令,当上述指令在电子设备上运行时,使得上述电子设备执行上述第一方面中任一种可能的实现方式。
第四方面,本申请实施例提供一种芯片,该芯片应用于电子设备,该芯片包括一个或多个处理器,该处理器用于调用计算机指令以使得该电子设备执行上述第一方面中任一种可能的实现方式。
第五方面,本申请实施例提供一种包含指令的计算机程序产品,当上述计算机程序产品在设备上运行时,使得上述电子设备执行上述第一方面中任一种可能的实现方式。
可以理解地,上述第二方面提供的电子设备、第三方面提供的计算机可读存储介质、第四方面提供的芯片、第五方面提供的计算机程序产品均用于执行本申请实施例所提供的方法。因此,其所能达到的有益效果可参考对应方法中的有益效果,此处不再赘述。
附图说明
图1为本申请实施例提供的banding现象的示意图;
图2A为本申请实施例提供的一种交流电的波形图;
图2B为本申请实施例提供的又一种交流电的波形图;
图3A为本申请实施例提供的一种光信号的波形图;
图3B为本申请实施例提供的又一种光信号的波形图;
图4为本申请实施例提供的一种传感器的曝光原理图;
图5为本申请实施例提供的又一种光信号的波形图;
图6为本申请实施例提供的一种存在人工光源的运动场景的示意图;
图7为本申请实施例提供的一种电子设备100的硬件结构示意图;
图8为本申请实施例提供的一种电子设备100的软件结构示意图;
图9A-图9E为本申请实施例提供的一组用户界面示意图;
图10为本申请实施例提供的一种降低曝光时间的流程图;
图11为本申请实施例提供的一种频谱图;
图12为本申请实施例提供的又一种频谱图;
图13为本申请实施例提供的一种曝光时间调节方法的流程图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;文本中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
应当理解,本申请的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本申请所描述的实施例可以与其它实施例相结合。
本申请涉及拍摄领域,为了便于理解本申请提供的方法,下面对拍摄领域的一些术语进行介绍。
1、曝光量
曝光量反映了获取图像时感光元件获取到的光能量的多少,影响最终获取的图像的明暗。其中,拍摄一帧图像的曝光量越大,这一帧图像的亮度越亮。
曝光量由曝光时间、通光面积以及环境光强度这三大因素决定。其中,快门速度决定曝光时间。光圈大小决定通光面积。在胶片时代,用感光度ISO来反映胶片对光线的敏感度,可以认为ISO影响感光元件获取的环境光强度。而数码相机、手机等电子设备的感光元件在封装之后就不变了,对这些电子设备来说,ISO表示的不再是感光元件对光线的敏感度,而是电子信号放大增益值。当ISO增大时,电子信号的放大增益增大,原有信号被放大,图像会变亮。
综上所述,曝光时间、光圈大小和ISO是影响图像亮度的三大因素。
2、曝光强度
在一些实施例中,数码相机、手机等电子设备的光圈大小是固定的,电子设备可以通过调节曝光时间和ISO来调节图像的亮度。为了便于理解和计算,本申请后续实施例中用曝光强度来表征图像亮度。曝光强度越大,图像越亮,曝光强度越小,图像越暗。其中,电子设备可以通过调节曝光时间和ISO来调节曝光强度。具体的,曝光强度、曝光时间和ISO可以具有如下关系:曝光强度=曝光时间*ISO。
3、滚动条纹现象
当拍摄场景中存在人工光源时,拍摄画面可能会出现滚动条纹线条(简称banding现象)。即相机、手机等电子设备上的预览画面可能出现一条条的滚动的明暗条纹。如图1所示,图1为电子设备在拍摄环境中存在人工光源的情况下获取的图像,可见,图1的亮度不均匀,由一条条明暗条纹组成。
下面介绍banding现象的形成原因。
一方面,从人工光源的角度看:
日常生活中的用电一般是正弦波形的交流电。图2A示例性示出了电源的频率为50赫兹(Hz)的交流电的波形图。图2B示例性示出了电源的频率为60Hz的交流电的波形图。
当人工光源接交流电时,人工光源将电信号转换为光信号。由于电信号为一定频率的周期信号,所以转换所得的光信号也为一定频率的周期信号。可以理解为:人工光源发出的光随着时间呈现出一定频率、周期的变化,即出现频闪现象。
可理解,频闪现象是由电源的设计和人工光源本身的特性造成的。因此,没有真正意义上的无频闪。对于很多照明灯具来说,其工作电流必然随着输入电压的波动而波动,直接导致光输出的波动产生频闪。
然而,人工光源发出的光能量没有方向性,所以光信号的波形不再是正弦波形,而是频率为100Hz或120Hz的包络。具体地,如图3A所示,当人工光源接50Hz的交流电时,人工光源转换所得的光信号的波形是频率为100Hz的周期性变化的包络。如图3B所示,当人工光源接60Hz的交流电时,人工光源转换所得的光信号的波形是频率为120Hz的周期性变化的包络。
可以看出,人工光源的闪烁频率通常是该人工光源所接交流电频率的两倍。本申请实施例对人工光源的闪烁频率不作限定。例如,人工光源所接交流电的频率为50Hz或60Hz以外的频率,人工光源的闪烁频率可以为100Hz或120Hz以外的取值。
另一方面,从用于拍摄的电子设备的角度看:
目前,数码相机、手机等电子设备多采用卷帘快门(Rolling Shutter),采用卷帘快门的曝光方式为逐行曝光。
具体地,如图4所示,传感器(例如,CMOS图像传感器)从一帧图像的第一行像素开始曝光,间隔一个行周期后开始曝光第二行像素。以此类推,第N-1行像素开始曝光后,间隔一个行周期第N行像素才开始曝光。也就是说,每一行像素开始曝光的时间与该行的下一行像素开始曝光的时间的时间差为一个行周期。因此,每一行像素开始曝光的时间都不相同。
在本申请中,曝光时间指的是电子设备曝光一帧图像的一行像素所需的时间。一般情况下,同一帧图像不同行像素的曝光时间是相同的。
可理解,行周期可以由传感器的能力确定。不同传感器的行周期可能不同,所以不同电子设备的行周期也可能不相同。本申请实施例对上述行周期的取值不作限定。
可理解,在人工光源转换所得的光信号的示意图(例如,图3A或图3B)中,一段时间内包络与X轴围成的面积(包络对应的函数在这一段时间的定积分)为人工光源在这段时间发出的光能量,即传感器在这一段时间内接收的光能量。
若第N行像素从T1时开始曝光,并在T2时结束曝光,T1-T2这段时间内传感器接收的光能量影响最终显示的图像的第N行像素的亮度。其中,T1-T2内传感器接收的光能量越多,最终显示的图像的第N行像素越亮。T1-T2内传感器接收的光能量越少,最终显示的图像的第N行像素越暗。
下面以拍摄环境中存在接50Hz交流电的人工光源为例进行说明。
如图5所示,当人工光源接50Hz的交流电时,人工光源转换所得的光信号的波形是频率为100Hz的周期性变化的包络。将人工光源的闪烁周期记为T,则有:T=1/100s。此时的曝光时间为t,即T2-T1=t。也就是说,传感器曝光某一帧图像每一行所需的时间都为t。由图5可知,t=T+t1。即t不为闪烁周期T的整数倍,传感器曝光该图像的第i行像素时,该行像素接收的光能量为:S+S1。其中,S可以表示该行像素在时间T内接收的光能量,S1可以表示该行像素在时间t1内接收的光能量。由图5可知,t4+t2+t3=t。传感器曝光该图像的第i+1行像素时,第i+1一行像素接收的光能量为:S2+S3+S4。又因为t1=t2=t3,可得:S1=S3<S4。明显地,S2+S3=S。因此,第i+1行像素接收的光能量比第i行像素要更多一些。也就是说,最终显示的图像的第i行像素和第i+1行像素的亮度是不同的。第i+1行像素较第i行像素要更亮一些。
可理解,由于人工光源转换所得的光信号为周期信号,在任意起始时间点,当T2-T1=M*T(M为正整数)且M相同时,传感器在T1-T2时间内接收的光能量是相同的,最终显示的图像的不同行像素的亮度是一样;在任意起始时间点,当T2-T1=M*T(M不为正整数)且M相同时,传感器在T1-T2时间内接收的光能量不一定相同(如图5所示),最终显示的图像的不同行像素的亮度不一定相同,即最终显示的图像可能出现明暗条纹。综上,若曝光时间满足人工光源闪烁周期的整数倍,电子设备显示的图像不会出现明暗条纹。若曝光时间不满足人工光源闪烁周期的整数倍,电子设备显示的图像则会出现明暗条纹。由于不同图像的明暗条纹的位置可能发生变化,所以电子设备的预览画面或者录像时的画面中可能出现滚动的明暗条纹,即banding现象。
需要说明的是,若不同图像第一行像素开始曝光的时间所对应的光信号的相位相同,数码相机、手机等电子设备上的预览画面仍会出现明暗条纹。但是由于每一帧图像第一行开始曝光的时间的相位是相同的,这些电子设备中的传感器对图像进行曝光时,每一帧图像的不同行之间接收光能量的大小关系是一样的。因此,每一帧图像的第N行接收的光能量可能互不相同,即每一帧图像的第N行像素的亮度可能互不相同,但是它们相对于图像中其他行像素的明暗程度是不变的。
4、运动模糊
可理解,在拍摄运动的物体或人时,若物体或人移动的速度过快,而电子设备拍摄图像时的曝光时间过长,拍摄的图像容易出现运动模糊(motion blur)。运动模糊是景物图像中的移动效果,一般是由于拍摄设备与被摄体之间相对运动而造成的。运动模糊会使得获取的图像中存在明显的模糊拖动痕迹。
如图6所示,被摄体在路灯下跑步,用户在利用电子设备进行拍摄时会发现该电子设备上显示的被摄者比较模糊。在这种情况下进行拍摄无法获得清晰的图像或视频。可理解,被摄体为数码相机、手机等拍摄设备进行拍摄的对象。
一般来说,电子设备可以采取降低曝光时间的方法来减弱运动模糊。拍摄一帧图像的曝光时间越短,拍摄这一帧图像的过程中被摄体的位移越小。这样可以减少拍摄得到的一帧图像中由于被摄体移动而产生的模糊拖动痕迹,从而获得较为清晰的图像。
若在存在人工光源的场景下拍摄相对运动的物体或人,为了避免出现banding现象,曝光时间需要满足人工光源闪烁周期的整数倍这一条件。也就是说,不仅原始曝光时间为人工光源闪烁周期的整数倍,降低曝光时间的步长也设置为闪烁周期的整数倍。可理解,原始曝光时间指的是曝光时间的初始值,即曝光时间从原始曝光时间开始逐步降低。
由于曝光量决定图像的明暗(亮度),所以为了保证图像亮度不变,曝光量就不变。相应地,曝光强度也不会发生改变。根据曝光强度、曝光时间和ISO三者之间的关系(曝光强度=曝光时间*ISO),当曝光强度不变但曝光时间发生变化时,ISO会相应变化。在曝光时间不断降低的过程中,曝光时间越接近闪烁周期,ISO的变化量越大。
以闪烁频率为100Hz的人工光源为例进行说明。当人工光源的闪烁频率为100Hz时,其闪烁周期为10ms,即以10ms为步长降低曝光时间。由于曝光时间需要满足人工光源闪烁周期的整数倍这一条件,所以曝光时间最小为10ms。
若原始曝光时间为30ms,ISO为400,从原始曝光时间开始降低曝光时间。具体地,从30ms减小到20ms,再减小到10ms。在保证图像亮度不变的情况下,ISO从400增加到600,再增加到1200,可看出ISO的变化量非常大。
由于ISO表示的是电子信号的放大增益,所以增大ISO本质上就是放大传感器的输出信号。而传感器的输出信号不止包括有用信号,还包括噪声。所以,增大ISO既放大了有用信号,也放大了噪声。也就是说,ISO越高,图像的噪点越多,画质越差。
为了保证获取的图像的质量,在提高ISO的过程中,电子设备可以根据ISO的变化调整降噪参数,降低ISO提高对图像画质的影响。
然而,当ISO变化过快或者变化量太大时,电子设备可能无法及时调整降噪参数,导致画面出现噪声突变。另外,无法及时调整降噪参数导致信噪比降低,电子设备通过统计值计算的自动白平衡(Automatic white balance,AWB)等算法的结果可能存在偏差。例如,在电子设备计算颜色信息时,噪声占比太大导致可以利用的有用信息很少,从而使得图像的颜色变化异常。
本申请提供了一种拍摄方法及相关装置。其中,电子设备可以确定人工光源的闪烁频率,并根据人工光源的闪烁频率调整图像拍摄过程中的帧间隔。其中,不同帧图像开始曝光的时间对应的光信号的相位相同。进一步的,电子设备可以以较小的步长降低曝光时间和较小的步长增加ISO,实现在减少图像出现运动模糊的情况下保持图像具有合适的亮度。上述方法可以在减少拍摄画面出现滚动的明暗条纹情况的同时,使得拍摄画面不因ISO变化过大而出现大量噪点。
下面介绍本申请实施例涉及的装置。
图7为本申请实施例提供的一种电子设备100的硬件结构示意图。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(Universal Serial Bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(Subscriber Identification Module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(Application Processor,AP),调制解调处理器,图形处理器(Graphics Processingunit,GPU),图像信号处理器(Image Signal Processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(Digital Signal Processor,DSP),基带处理器,和/或神经网络处理器(Neural-network Processing Unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
可理解,处理器110中还可以包括AE系统。AE系统可以具体设置在ISP中。AE系统可用于实现曝光参数的自动调整。可选的,AE系统还可以集成在其它处理器芯片中。本申请实施例对此不作限定。
在本申请提供的实施例中,电子设备100可以通过处理器110执行所述曝光强度调节方法。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备100,例如AR设备等。
充电管理模块140用于从充电器接收充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备100供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(Low Noise Amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(WirelessLocal Area Networks,WLAN)(如无线保真(Wireless Fidelity,Wi-Fi)网络),蓝牙(Bluetooth,BT),全球导航卫星系统(Global Navigation Satellite System,GNSS),调频(Frequency Modulation,FM),近距离无线通信技术(Near Field Communication,NFC),红外技术(Infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(Liquid Crystal Display,LCD),有机发光二极管(Organic Light-EmittingDiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(Active-MatrixOrganic Light Emitting Diode的,AMOLED),柔性发光二极管(Flex Light-EmittingDiode,FLED),Mini LED,Micro LED,Micro-OLED,量子点发光二极管(Quantum Dot LightEmitting Diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现获取功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像或视频。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(Charge Coupled Device,CCD)或互补金属氧化物半导体(Complementary Metal-Oxide-Semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像或视频信号。ISP将数字图像或视频信号输出到DSP加工处理。DSP将数字图像或视频信号转换成标准的RGB,YUV等格式的图像或视频信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。例如,在一些实施例中,电子设备100可以利用N个摄像头193获取多个曝光系数的图像,进而,在视频后处理中,电子设备100可以根据多个曝光系数的图像,通过HDR技术合成HDR图像。
数字信号处理器用于处理数字信号,除了可以处理数字图像或视频信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(Moving Picture Experts Group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(Neural-Network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像视频播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。电子设备100可以设置至少一个麦克风170C。
耳机接口170D用于连接有线耳机。
传感器模块180可以包括1个或多个传感器,这些传感器可以为相同类型或不同类型。可理解,图1所示的传感器模块180仅为一种示例性的划分方式,还可能有其他划分方式,本申请对此不作限制。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备100姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。
环境光传感器180L用于感知环境光亮度。
指纹传感器180H用于获取指纹。
温度传感器180J用于检测温度。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
在本申请的一个实施例中,用户利用电子设备100进行延时摄影或连拍,需要获取一系列图像。在延时摄像或连拍的场景中,电子设备100可以采取AE模式。即电子设备100自动调整AE值,在预览这一系列图像的过程中,若用户有触摸操作作用于显示屏194,可能触发touchAE模式。在touchAE模式下,电子设备100可以调整用户触摸显示屏的相应位置的亮度,并进行高权重测光。使得计算画面平均亮度的时候,用户触摸区域的权重明显高于其他区域,最终计算所得的画面平均亮度更加靠近用户触摸区域的平均亮度。
骨传导传感器180M可以获取振动信号。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
图8为本申请实施例提供的一种电子设备100的软件结构示意图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将系统分为四层,从上至下分别为应用程序层,应用程序框架层,运行时(Runtime)和系统库,以及内核层。
应用程序层可以包括一系列应用程序包。
如图8所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序(也可以称为应用)。
应用程序框架层为应用程序层的应用程序提供应用编程接口(ApplicationProgramming Interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图8所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话界面形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
运行时(Runtime)包括核心库和虚拟机。Runtime负责系统的调度和管理。
核心库包含两部分:一部分是编程语言(例如,java语言)需要调用的功能函数,另一部分是系统的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的编程文件(例如,java文件)执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(Surface Manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),二维图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了二维(2-Dimensional,2D)和三维(3-Dimensional,3D)图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现3D图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动,虚拟卡驱动。
下面结合捕获拍照场景,示例性说明电子设备100软件以及硬件的工作流程。
当触摸传感器180K接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
下面介绍本申请提供的一些拍摄的场景。
图9A~图9E所示的用户界面示例性示出了电子设备100拍摄时的一些用户界面。
本申请的说明书和权利要求书及附图中的术语“用户界面”,是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(graphic user interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
1、电子设备100进行运动检测(图9A~图9C)
图9A示例性示出了电子设备100上的用户界面910。用户界面910显示了一个拍照界面,该界面可包括预览区域911、相机模式选项912、快门控件913、相册快捷控件914和摄像头翻转控件915。
预览区域911可用于显示预览图像。该预览图像为电子设备100通过摄像头实时采集的图像。电子设备可以实时刷新预览区域911中的显示内容,以便于用户预览摄像头当前采集的图像。
相机模式选项912中可以显示有一个或多个拍摄模式选项。这一个或多个拍摄模式选项可以包括:夜景模式选项9121、智能人像模式选项9122、拍照模式选项9123、录像模式选项9124和更多选项9125。可理解,这一个或多个拍摄模式选项在界面上可以表现为文字信息,例如“夜景”、“智能人像”、“拍照”、“录像”、“更多”,还可以表现为图标或者其他形式的交互元素(interactive element,IE),本申请对此不作限制。当检测到作用于拍摄模式选项上的用户操作,电子设备100可以开启用户选择的拍摄模式。特别的,当检测到作用于更多选项9125的用户操作,电子设备100可以进一步显示更多的其他拍摄模式选项,如延时摄影模式选项、连拍模式选项等等,可以向用户展示更丰富的摄像功能。
快门控件913可用于监听触发拍照的用户操作。电子设备100可以检测到作用于快门控件913的用户操作,响应于该操作,电子设备100可以将预览区域911中的预览图像保存为相册应用程序中的图片。另外,电子设备100还可以在相册快捷控件914中显示所保存的图像的缩略图。也就是说,用户可以通过作用于快门控件913的操作来触发拍照。可理解,快门控件913可以是按钮或者其他形式的控件,本申请对此不作限制。
相册快捷控件914可用于开启相册应用程序。响应于作用在相册快捷控件914上的用户操作,例如触摸操作,电子设备100可以开启相册应用程序。这样,用户可以便捷地查看拍摄的照片和视频,而无需先退出相机应用程序,再开启相册应用程序。图库应用程序是智能手机、平板电脑等电子设备上的一款图片管理的应用程序,又可以称为“相册”,本实施例对该应用程序的名称不做限制。
摄像头翻转控件915可用于监听触发翻转摄像头的用户操作。电子设备100可以检测到作用于摄像头翻转控件915的用户操作,例如触摸操作,响应于该操作,电子设备100可以翻转用于拍摄的摄像头,例如将后置摄像头切换为前置摄像头,或者将前置摄像头切换为后置摄像头。
可理解,用户界面910中还可以包含更多或更少的控件,本申请实施例对此不作限定。
在一些实施例中,电子设备100可以在电子设备100显示用户界面910时开始对预览区域911中的被摄体进行运动检测。也就是说,用户触发相机应用程序后,电子设备100响应于该触发操作,可以显示拍照界面(即用户界面910)。电子设备100可以获取图像并显示在预览区域911上,并触发运动检测。即电子设备100检测被摄体与自己是否存在相对运动。
可理解,预览区域911显示的正在跑步的人就是电子设备100此次拍摄的被摄体。
电子设备100可以检测到作用于录像模式选项9124的用户操作,响应于该用户操作,电子设备100可以显示录像预览界面920。
图9B示例性示出了录像预览界面920。如图9B所示,录像预览界面920包含的控件与用户界面910包含的控件基本相同。另外,录像预览界面920可以包括录像预览区域921和开始录像控件922。
录像预览区域921可用于显示预览图像。该预览图像为电子设备100通过摄像头实时采集的图像。电子设备可以实时刷新录像预览区域921中的显示内容,以便于用户预览摄像头当前采集的图像。
可理解,默认录像模式下的默认摄像头不限于为后置摄像头,电子设备100也可以将前置摄像头设置为默认摄像头,也就是说,在作用于录像模式选项9124之后,电子设备100可以在录像预览界面920中的录像预览区域921显示前置摄像头采集的图像,可用于用户通过默认前置摄像头进行录像。
在一些实施例中,电子设备100可以在电子设备100显示录像预览界面920时开始对录像预览区域921中的被摄体进行运动检测。也就是说,电子设备100因作用于录像模式选项9124的用户操作开始显示录像预览界面920时,电子设备100可以获取图像并显示在录像预览区域921上,此时可以触发运动检测,即检测被摄体与电子设备100之间是否存在相对运动。
可理解,录像预览区域921显示的正在跑步的人就是电子设备100此次拍摄的被摄体。
当电子设备100检测到作用于开始录像控件922的用户操作时,例如点击操作,电子设备100可以开始录制视频,并显示图9C所示的录像界面930。录像界面930中的控件与用户界面910中的控件基本相同。不同的是,录像界面930中没有相机模式选项912,录像界面930中可包括结束录像控件931、快门控件932、暂停录像控件933和录像时间控件934。其中,快门控件932可用于触发拍照,即在录像的过程中用户可触发快门控件932来拍照;结束录像控件931可用于结束录制视频;暂停录像控件933可用于暂时停止录制视频。录像时间控件934可以指示当前录制视频的时间长度。如图9C所示,录像时间控件934中显示00:00:01,这表示当前视频已录制1秒(s)。录像界面930中其他控件的作用可参考对图9A所示的用户界面910的介绍,这里不再赘述。
在一些实施例中,电子设备100可以在电子设备100显示录像界面930时开始对录像预览区域921中的被摄体进行运动检测。也就是说,电子设备100因作用于开始录像控件922的用户操作开始显示录像界面920时,电子设备100可以获取图像并显示在录像预览区域921上,此时可以触发运动检测,即检测被摄体与电子设备100之间是否存在相对运动。
可理解,录像预览区域921显示的正在跑步的人就是电子设备100此次拍摄的被摄体。
2、电子设备100降低曝光时间及调整帧间隔
根据上述内容,电子设备100可在因用户操作而显示用户界面910/录像预览界面920/录像界面930时触发运动检测。
在一些实施例中,若电子设备100检测到被摄体与电子设备100之间存在相对运动,电子设备100可以进一步判断当前拍摄场景中是否存在人工光源。
若当前拍摄场景中不存在人工光源,电子设备100的拍摄画面中不会存在banding现象。那么,电子设备100可以在拍摄过程中以步长A逐渐降低曝光时间,使得曝光时间内被摄体的位移减少,从而减弱运动模糊。例如,电子设备100每曝光一帧图像,曝光时间就降低1毫秒,直到相应的ISO的值达到上限,就不再降低曝光时间,即在保证图像质量的同时减弱了运动模糊。
若当前拍摄场景中存在人工光源,电子设备100可以确定人工光源的闪烁频率。电子设备100可以根据人工光源的闪烁频率确定拍摄的帧间隔,并在拍摄过程中以步长B逐渐降低曝光时间。例如,电子设备100确定人工光源的闪烁频率为100Hz。该人工光源的闪烁周期为10ms。电子设备100可以将帧间隔设置为该人工光源的闪烁周期的整数倍,例如30ms。即相邻两帧图像第一行开始曝光的时间差为30ms。示例性的,电子设备100可以在t1时刻开始曝光第一帧图像。其中,电子设备100可以对第一帧图像进行逐行曝光。第一帧图像中每一行像素的曝光时间可以为20ms。进一步的,电子设备100可以在t1+30ms时刻开始曝光第二帧图像。该第二帧图像与上述第一帧图像可以是电子设备100采集的相邻两帧图像。其中,电子设备100可以对第二帧图像进行逐行曝光。第二帧图像中每一行像素的曝光时间可以为18ms。以此类推,电子设备100可以在t1+30*k(ms)时刻曝光第k+1帧图像。第k+1帧图像中每一行像素的曝光时间可以为20-2*k(ms)。可理解,k为不大于10的正整数。可以看出,相邻两帧图像开始曝光的时间差为人工光源闪烁周期的整数倍。并且,电子设备100以2ms(即步长B)逐步降低曝光时间。这样,每一帧图像的第N行开始曝光的初始相位一致,拍摄画面上的明暗条纹不再滚动。
可理解,电子设备100采取的步长A和步长B可以相同,也可以不同,本申请对此不作限制。另外,步长A和步长B均为较小值。在本申请的一些实施例中,步长A和步长B均小于人工光源闪烁周期的整数倍。
可理解,降低曝光时间和调整帧间隔的具体实现方式将在后述实施例中介绍,这里先不展开说明。
若电子设备100在因用户操作而显示用户界面910时触发运动检测,电子设备100根据上述方法降低曝光时间后,预览区域911中显示的被摄体更清晰了(如图9D所示),也不会因为ISO的变化量过大而导致拍照预览画面中出现大量噪点。
若电子设备100在因用户操作而显示录像预览界面920时触发运动检测,与上述拍照预览时触发运动检测类似,电子设备100根据上述方法降低曝光时间后,录像预览区域921中显示的被摄体更清晰了,也不会因为ISO的变化量过大而导致录像预览画面中出现大量噪点。
若电子设备100在因用户操作而显示录像界面930时触发运动检测,也就是说,在录制视频的过程中进行运动检测。如图9C所示,根据录像时间控件934可知此时是录制视频的第1s,此时已触发运动检测,并且电子设备100已经确定被摄体处于运动状态,获取每一帧图像时的曝光时间正在逐帧降低。再如图9E所示,录像时间控件934中显示00:00:05,这表示当前视频已录制5s。与图9C录像预览区域921显示的被摄体比较,图9E录像预览区域921显示的被摄体更清楚一些,图9C中出现的运动模糊得以减弱。另外,也不会因为ISO的变化量过大而导致录像画面中出现大量噪点。
下面结合图10具体介绍本申请实施例提供的一种调节曝光时间的方法。
S1001:电子设备100确定拍摄图像A时采用的曝光时间T1。
具体地,在预览或录像的过程中,电子设备100确定拍摄图像A时采用的曝光时间。将电子设备100的曝光时间记为ET。将电子设备100获取图像A时采用的曝光时间记为T1。电子设备100确定当前的曝光时间为:ET=T1。
可理解,图像A可以为电子设备100拍摄的最新一帧图像,还可以为其他时刻拍摄的图像,本申请对此不做限定。
可理解,电子设备100获取图像A时采取的曝光时间可以在传感器内读取,或者,当曝光时间等曝光参数存储在指定内存地址中时,电子设备100可以通过访问该指定内存地址以获取曝光时间。
S1002:电子设备100根据曝光时间T1,确定拍摄图像B的预计曝光时间T2。
具体地,电子设备100根据T1确定拍摄图像B时的预计曝光时间,将该预计曝光时间记为T2。可理解,预计曝光时间是电子设备100根据拍摄图像A时采用的曝光时间T1和降低曝光时间的步长(第一步长)确定的拍摄图像B的预计曝光时间。将第一步长记为a。可得,电子设备100确定预计曝光时间的具体方式为:T2=ET-a。
可理解,降低曝光时间的步长可以根据实际需要进行设置。例如,a可以为1毫秒(ms)、2毫秒(ms)等。另外,当电子设备100以第一步长逐渐降低曝光时间时,第一步长可以发生改变。例如,电子设备100以第一步长逐渐降低拍摄图像O、图像P和图像Q时所采用的曝光时间。其中,图像O的拍摄时间先于图像P的拍摄时间,而图像P的拍摄时间先于图像Q的拍摄时间。电子设备100拍摄图像O时所采用的曝光时间为1ms。电子设备拍摄图像P时所采用的曝光时间为2ms。电子设备拍摄图像Q时所采用的曝光时间为3ms。
可理解,第一步长为一个较小值。在本申请的一些实施例中,第一步长小于人工光源闪烁周期的整数倍。
S1003:电子设备100根据拍摄图像B的预计曝光时间T2,确定预计ISO。
具体地,在曝光强度不变的情况下,电子设备100可以根据曝光强度、曝光时间和ISO这三者的关系(曝光强度=曝光时间*ISO),确定预计曝光时间对应的ISO,即预计ISO。也就是说,电子设备100获取图像A时采取的曝光强度=预计曝光时间*预计ISO。
可理解,电子设备100可以根据获取图像A时采取的曝光时间(如步骤S1001)和相应的ISO来确定曝光强度。电子设备获取图像A时采取的ISO也可以在传感器内读取,或者,当ISO等曝光参数存储在指定内存地址中时,电子设备100可以通过访问该指定内存地址以获取ISO。
S1004:电子设备100判断预计ISO是否大于预设阈值。
根据上述内容,ISO表示的是电子信号的放大增益。增大ISO时,不仅放大了有用信号,也放大了噪声。因此,ISO越高,电子设备100获取的图像的噪点越多,该图像的画质越差。所以在实际拍摄过程中,往往需要对ISO设定一个合理的范围,使得有用信号得以放大,同时,放大的噪声也在电子设备100的降噪能力范围内。
在本申请中,可以设置一个预设阈值,用来判断电子设备100所采用的ISO是否在合适范围内。具体地,电子设备100判断预计ISO是否大于预设阈值。当预计ISO大于预设阈值时,不再降低曝光时间,所以曝光时间为:ET=T1。当预计ISO不大于预设阈值时,执行后续步骤。
S1005:电子设备100确定T1为拍摄图像B时采用的曝光时间,并以曝光时间T1来拍摄图像B。
具体地,当预计ISO不大于预设阈值时,电子设备100将曝光时间更新为预计曝光时间T2,即ET=T2。也就是说,电子设备100确定T1为拍摄图像B时采用的曝光时间。
可理解,更新曝光时间后,电子设备100会采取新的曝光时间获取图像B。获取图像B后,电子设备100再次执行步骤S1002-步骤S1005。所以电子设备100会循环执行步骤S1002-步骤S1005直到预计ISO大于预设阈值才停止。也就是说,电子设备100在合适范围内(ISO不大于预设阈值)以第一步长a逐帧降低曝光时间。
S1006:电子设备100确定T2为拍摄图像B时采用的曝光时间,并以曝光时间T2来拍摄图像B。
具体地,当预计ISO大于预设阈值时,电子设备100仍采取拍摄图像A时采用的曝光时间T2来拍摄图像B,即ET=T2。也就是说,电子设备100确定T2为拍摄图像B时采用的曝光时间。
需要说明的是,若当前拍摄环境无人工光源,按照步骤S1001-步骤S1005降低曝光时间即可。若当前拍摄环境中存在人工光源,电子设备100还需要确定人工光源的闪烁频率,并且根据该闪烁频率确定帧间隔。
在一些实施例中,电子设备100还可以在确定预计曝光时间之前,判断图像Z是否存在运动模糊,图像Z为电子设备100获取的最新一帧图像。若电子设备100确定图像Z存在运动模糊,可以继续执行步骤S1002-步骤S1005;若电子设备100确定图像Z不存在运动模糊,则不再降低曝光时间。也就是说,电子设备100可以在利用更新后的曝光时间获取图像后,判断该图像是否还存在运动模糊,从而判断出当前的曝光时间是否降低至合适的值。这样,电子设备100不一定将曝光时间减小到最小值(即相应的ISO增大到预设阈值),可以在减弱运动模糊的情况下,保证图像中不会出现太多噪点。
可理解,电子设备100判断图像Z是否存在运动模糊的方式有很多种。例如,电子设备100可以建立运动模糊图像的样本和清晰图像的样本,对样本图像进行小波分解,进而分析图像的高频信息,可以得到清晰的样本图像的高频信息分布情况,以及运动模糊的样本图像的高频信息分布情况。电子设备100可以根据这两类图像的高频信息分布情况来判断图像Z是否存在运动模糊。当然,还存在其他检测运动模糊的方法,本申请对此不作限制。
可理解,上文所提到的最新一帧图像为电子设备100的传感器曝光所得的最新一帧图像,该图像不一定为预览图像。
下面具体介绍拍摄环境存在人工光源时,根据人工光源的闪烁频率调节帧间隔的方法。
1、获取环境亮度的时间序列
对于电荷耦合元件(Charge Coupled Device,CCD)、金属氧化物半导体元件(Complementary Metal-Oxide Semiconductor,CMOS)等感光传感器来说,其感光面上植入有微小光敏物质,即像素。感光传感器会其感光面上各个像素上的光像转换成电信号。
与上述感光传感器类似,防闪烁传感器(Flicker Sensor)也会将感光面上各个像素上的光像转化为电信号。但是,Flicker Sensor仅有一个像素且没有滤光,所以FlickerSensor输出的电信号为该仅有的一个像素上的光像转换成的电信号。可理解,可以用Flicker Sensor输出的电信号来代表当前环境亮度。也就是说,可以认为Flicker Sensor输出的电信号为当前的环境亮度。
当用户触发电子设备100的拍摄功能后,电子设备100中的Flicker Sensor开始对环境光进行采样,并输出每一次采样的时间和对应的电信号。可理解,Flicker Sensor输出的是环境亮度的时间序列。可知,环境亮度的时间序列是一个一维的时间序列。
可理解,Flicker Sensor的采样频率可以根据实际需要进行设置,本申请对此不作限制。例如,Flicker Sensor的采样频率为2kHz,即Flicker Sensor每隔0.5毫秒(ms)采样一次。
2、确定人工光源的闪烁频率
电子设备100对获取的环境亮度的时间序列做傅里叶变换或快速傅里叶变换(fast fourier transform,FFT)。即将环境亮度的时间序列从时域转换到频域。电子设备100可以得到一个频谱。将该频谱记为Spectrum1。可理解,频谱的横坐标为频率,纵坐标为幅值(信号的振幅强度)。
根据傅里叶原理,任何连续测量的时序或信号,都可以表示为不同频率的正弦波信号的无限叠加。在本申请提供的实施例中,将环境亮度的时间序列转换到频域后,得到的频谱(Spectrum1)由多个正弦波组成。
下面示例性给出四种确定人工光源的闪烁频率的方法。
方法一:
电子设备100设置一个频率查找范围,例如,20Hz-2000Hz。在频谱Spectrum1中的频率查找范围内,选取最大的正弦波峰值,并将该正弦波峰值记为A1,将该正弦波对应的频率记为F1,将该正弦波峰值对应的正弦波记为sine wave1。电子设备100还可以计算频谱Spectrum1中除sine wave1外其他正弦波峰值的平均值,将该平均值记为Aavr。电子设备100计算A1和Aavr的差值,并将该差值记为B,即B=A1-Aavr。若B大于第一预设阈值,则电子设备100确定当前拍摄环境中存在人工光源,且该人工光源的闪烁频率为F1;否则,电子设备100确定当前拍摄环境中不存在人工光源。
可理解,第一预设阈值可以根据实际需要进行设置,本申请对此不作限制。
示例性的,第一预设阈值为100。如图11所示,图11为本申请实施例提供的一个频谱图,电子设备设置一个频率查找范围,该频率查找范围为20Hz-200Hz。在图11所示的频谱中查找20Hz-200Hz范围内最大的正弦波峰值及其对应的频率。可得,该最大的正弦波峰值为:A1=200,该正弦波峰值对应的频率为:F1=50Hz。根据图11还可以得到:
Figure BDA0003131556690000211
所以,A1和Aavr的差值为:B=A1-Aavr=200-42.6=157.4。明显的,B大于第一预设阈值,电子设备100确定当前拍摄环境中存在人工光源,且该人工光源的闪烁频率为50Hz。
方法二:
电子设备100设置一个频率查找范围,例如,20Hz-2000Hz。在频谱Spectrum1中的频率查找范围内,选取最大的正弦波峰值,并将该正弦波峰值记为A1,将该正弦波对应的频率记为F1;选取第二大的正弦波峰值,并将该正弦波峰值记为A2,将该正弦波对应的频率记为F2。电子设备100计算A1和A2的差值,并将该差值记为C,即C=A1-A2。若C大于第二预设阈值,则电子设备100确定当前拍摄环境中存在人工光源,且该人工光源的闪烁频率为F1;否则,电子设备100确定当前拍摄环境中不存在人工光源。
可理解,第二预设阈值可以根据实际需要进行设置,本申请对此不作限制。
示例性的,第二预设阈值为120。如图12所示,图12为本申请实施例提供的又一个频谱图,电子设备设置一个频率查找范围,该频率查找范围为20Hz-200Hz。在图11所示的频谱中查找20Hz-200Hz范围内最大的正弦波峰值及其对应的频率,以及第二大的正弦波峰值及其对应的频率。可得,最大的正弦波峰值为:A1=50,该正弦波峰值对应的频率为:F1=22Hz;第二大的正弦波峰值为:A2=48,该正弦波峰值对应的频率为:F2=60Hz。电子设备100计算A1和A2的差值为:C=A1-A2=50-48=2。明显的,C不大于预设阈值,电子设备100确定当前拍摄环境中不存在人工光源。
方法三:
电子设备100设置一个频率查找范围,例如,20Hz-2000Hz。在频谱Spectrum1中的频率查找范围内,选取最大的正弦波峰值,并将该正弦波峰值记为A1,将该正弦波对应的频率记为F1。电子设备100确定当前拍摄环境中的人工光源的闪烁频率为F1
方法四:
电子设备100设置一个频率查找范围,例如,20Hz-2000Hz。在频谱Spectrum1中的频率查找范围内,选取最大的正弦波峰值,并将该正弦波峰值记为A1,将该正弦波对应的频率记为F1。若A1大于第三预设阈值,则电子设备100确定当前拍摄环境中存在人工光源,且该人工光源的闪烁频率为F1;否则,电子设备100确定当前拍摄环境中不存在人工光源。
需要说明的是,还存在其他确定人工光源闪烁频率的方法,上述四种方法仅为示例,不应视为对本申请的限制。
3、根据人工光源的频率确定帧间隔
当环境光源存在闪烁时,需要减弱banding现象。电子设备100可以将帧间隔设置为闪烁周期的整数倍,使得传感器开始曝光不同图像的第一行像素时的初始相位一致,从而使得每一帧图像的不同行像素之间接收光能量的大小关系是一样的。
可理解,帧间隔为传感器曝光图像的帧间隔。将开始曝光某一帧图像的第一行像素的时间记为ET1,将开始曝光该帧图像的后面一帧图像的第一行像素的时间记为ET2,帧间隔为:ET2-ET1。
若依据同一帧图像的不同行像素接收的光能量大小由大到小或由小到大进行排序,并将该排序记为X。可将X视为二维数组,其中包含排列的序号和相应的行数。例如,{(1,M1),(2,M2),(3,M3),…,(N,MN)},1-N表示由大到小或由小到大排列的序号,M1-MN表示的是前面的序号对应的像素行数。虽然不同图像的第N行像素接收的光能量可能不同,但是不同图像的X是一致的。
可理解,图像上的不同行像素接收的光能量可以由图像上不同行像素的亮度体现。也就是说,每一帧图像的第N行的亮度可能互不相同,但是它们相对于图像中其他行的明暗程度是不变的。也就是说,电子设备100将帧间隔设置为闪烁周期的整数倍后,可以使得明暗条纹不再滚动。从而减弱banding现象对图像亮度的影响。
在本申请的一个实施例中,可以按照表1设置帧间隔。
表1
闪烁频率 60Hz 80Hz 90Hz 100Hz 120Hz 150Hz
帧间隔 33ms 37ms 33ms 30ms 33ms 33ms
根据上述表1确定帧间隔,不仅可以减弱banding现象,即当拍摄环境中存在人工光源时,电子设备100显示屏上出现的明暗条纹不会滚动,而且还可以满足30FPS的播放需求,即画面每秒传输30帧。
图13示例性示出了本申请实施例提供的一种拍摄方法的流程图。
S1301:电子设备100判断被摄体与电子设备100是否相对运动。
可理解,电子设备100与被摄体之间相对运动可能有三种情况:1)电子设备100处于运动状态,被摄体静止;2)电子设备100静止,被摄体处于运动状态;3)电子设备100和被摄体都处于运动状态。
检测被摄体与电子设备100之间是否存在相对运动的方法有很多,下面对此进行说明。
方法一:电子设备100可以根据其传感器来判断电子设备100的运动状态,即判断电子设备100是否处于运动状态。例如,通过电子设备100中的陀螺仪传感器(如图1所示的陀螺仪传感器180B)可以获取电子设备100的方位、速度和加速度等信息。
方法二:电子设备100可以通过一些检测算法判断被摄体的运动状态,即判断被摄体是否处于运动状态。
具体地,电子设备100可以获取摄像头采集的R个图像帧。可理解,R为大于2的整数。R个图像帧可以包括图像A。R个图像帧中的每一个图像帧均包括被摄体。电子设备100可以判断R个图像帧中相邻的两个图像帧上的被摄体的位置是否发生变化,即判断相邻两个图像帧中的被摄体是否移动。若R个图像帧中相邻的两个图像帧上的被摄体的位置发生了变化,电子设备100确定被摄体与所述电子设备之间存在相对运动。
示例性的,电子设备100可以采取光流法来检测被摄体的运动状态。电子设备100可以获取摄像头采集的图像序列,并根据该图像序列的亮度的时空梯度函数来计算像素的速度矢量。即电子设备100可以求得光流场。可理解,光流场是一个二维矢量场,它反映了图像上每一点灰度的变化趋势,可看成是带有灰度的像素点在图像平面上运动而产生的瞬时速度场。它包含的信息即是各像素的瞬时运动速度矢量信息。可理解,若图像序列中的被摄体与电子设备100之间存在相对运动,则被摄体的速度矢量与背景(图像序列中除被摄体外的部分)的速度矢量不一致。因此,若光流场中存在运动矢量不一致的像素,即可说明被摄体与电子设备100之间存在相对运动。
但是光流法太过复杂,往往难以实时的计算,所以可以采用高斯背景模型,通过对背景建模,分离一幅图像的前景和背景。一般来说,前景就是运动物体(被摄体),从而达到检测被摄体的运动状态的目的。当然,还可以采取其他检测算法判断被摄体的运动状态,本申请对此不作限制。
可理解,还可以结合方法一和方法二对被摄体的运动状态进行检测。例如,若电子设备100检测到电子设备100处于运动状态和/或被摄体处于运动状态,电子设备100判断被摄体与电子设备100相对运动。
S1302:电子设备100降低曝光时间。
若当前拍摄场景中不存在人工光源,电子设备100可以以步长A逐帧降低曝光时间;若当前拍摄场景中存在人工光源,电子设备100可以以步长B逐帧降低曝光时间。可理解,降低曝光时间的具体方法已在上述实施例中说明,在此不再赘述。
可理解,电子设备100采取的步长A和步长B可以相同,也可以不同,本申请对此不作限制。可理解,将降低曝光时间的步长可以记为第一步长。即第一步长可以为步长A,也可以为步长B。需要说明的是,第一步长为一个较小值。在一些实施例中,第一步长小于拍摄环境中人工光源的闪烁周期。
需要说明的是,若拍摄环境中不存在人工光源,电子设备100降低曝光时间即可,无需执行后续步骤。若拍摄环境中存在人工光源,电子设备100不仅可以降低曝光时间,还可以执行后续步骤。
本申请实施例对上述步骤S1302和步骤S1303的执行顺序不作限定。在一些实施例中,电子设备100可以先降低曝光时间。电子设备100降低曝光时间后,再判断拍摄环境中是否存在人工光源。可选的,电子设备100也可以同时降低曝光时间,以及确定人工光源的闪烁频率。
S1303:电子设备100判断拍摄环境中是否存在人工光源。
电子设备100可以通过Flicker Sensor或与其类似的其他传感器获得环境亮度的时间序列,并将该序列转化到频域,得到频谱。然后,电子设备100可以根据得到的频谱判断当前拍摄环境中是否存在人工光源。若拍摄环境中存在人工光源,继续执行步骤S1304;若拍摄环境中不存在人工光源,不再执行后续步骤。
可理解,具体的判断方法已在上述实施例中说明,在此不再赘述。
本申请实施例对上述步骤S1301和步骤S1302的执行顺序不作限定。在一些实施例中,电子设备100可以先判断拍摄环境是否存在人工光源。若确定出存在人工光源,电子设备100可以进一步判断被摄体与自己是否存在相对运动。可选的,电子设备100也可以同时判断拍摄环境是否存在人工光源,以及判断被摄体与自己是否存在相对运动。
S1304:电子设备100确定人工光源的闪烁频率。
电子设备100可以根据步骤S1303中得到的频谱来确定人工光源的闪烁频率,具体的确定方法已在上述实施例中说明,在此不再赘述。
S1305:电子设备100根据人工光源的闪烁频率确定帧间隔。
电子设备100可以将帧间隔设置为人工光源闪烁周期的整数倍。可理解,设置帧间隔的具体方法已在上述实施例中说明,在此不再赘述。
本申请实施例对上述步骤S1304和步骤S1305的执行顺序不作限定。在一些实施例中,电子设备100可以先根据人工光源的闪烁频率确定帧间隔。电子设备100确定帧间隔后,电子设备100可以降低曝光时间。可选的,电子设备100也可以同时根据人工光源的闪烁频率确定帧间隔,以及降低曝光时间。
可理解,若被摄体与电子设备100相对运动,通过如图13所示的拍摄方法,电子设备100可以减少运动模糊对图像清晰度的影响。若拍摄环境中还存在人工光源,该方法可以在拍摄画面的明暗条纹不滚动的情况下,使得拍摄画面不因ISO变化过大而出现大量噪点。
需要说明的是,权利要求书中所提及的电子设备可以为本申请实施例中的电子设备100。
在本申请的一些实施例中,电子设备100可以在显示屏上的拍摄界面先后显示摄像头采集的L个图像帧。可理解,图像A可以为这L个图像帧中的一个图像帧。
在本申请的一些实施例中,图像A可以为第一图像。若第一图像中的被摄体与电子设备100之间存在相对运动,电子设备100可以在显示屏上的拍摄界面先后显示摄像头采集的L个图像帧。若拍摄环境中存在人工光源,电子设备100还可以确定人工光源的闪烁周期(可参考上文的相关内容)。电子设备100可以根据该闪烁周期调整拍摄L个图像帧的帧间隔(可参考上文的相关内容)。这样可以减弱人工光源造成的banding现象,使得画面中的明暗条纹不再滚动。
在本申请的一些实施例中,L个图像帧的ISO均不同且依次增大。L个图像帧的曝光强度可以与第一图像的曝光强度相同。
在本申请的一些实施例中,图像A还可以为第二图像,图像B可以为第三图像。
在本申请的一些实施例中,第二图像可以为第一图像,第三图像可以为L个图像帧中最先显示的图像帧。
在本申请的一些实施例中,第二图像和第三图像可以为L个图像帧中的相邻两个图像帧。
在本申请的一些实施例中,第一曝光时间可以为T1,第二曝光时间可以为T1-a,预计曝光时间可以为T2。
在本申请的一些实施例中,图像Z可以为L个图像帧中得一个图像帧。电子设备可以对L个图像帧进行运动模糊检测,并根据运动模糊检测的结果确定L的值。也就是说,L个图像帧中最后显示在显示屏上的图像帧不存在运动模糊。即L个图像帧中的第L个图像帧不存在运动模糊,而L个图像帧中的第L-1个图像帧存在运动模糊。可理解,若电子设备判断L个图像帧中的一个图像帧不存在运动模糊,可以停止降低曝光时间。
在本申请的一些实施例中,电子设备可以检测到第一用户操作;第一用户操作可以为作用在结束录像控件931上的用户操作。电子设备可以将拍摄界面(录像预览区域921)显示的摄像头采集的K个图像帧保存为视频。其中,K个图像帧的帧间隔与L个图像帧的帧间隔相同。K个图像帧中任意一个图像帧的曝光时间,与L个图像帧中最后显示的图像帧的曝光时间相同。可理解,K可以为正整数。
在本申请的一些实施例中,电子设备获取摄像头采集的H个图像帧;电子设备将H个图像帧保存为视频;H个图像帧包括L个图像帧或者L个图像帧的一部分。可理解,H可以为正整数。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

Claims (17)

1.一种拍摄方法,其特征在于,所述方法应用于包括显示屏和摄像头的电子设备,所述方法包括:
所述电子设备在所述显示屏显示拍摄界面,所述拍摄界面用于显示所述摄像头采集的第一图像;
若所述第一图像中的被摄体与所述电子设备之间存在相对运动,所述电子设备在所述拍摄界面先后显示所述摄像头采集的L个图像帧;所述L个图像帧的曝光时间均不同且依次降低;所述L个图像帧中最先显示的图像帧的曝光时间与所述第一图像的曝光时间相同;所述L为大于2的整数;
若拍摄环境中存在人工光源,所述电子设备确定所述人工光源的闪烁周期;
所述电子设备根据所述闪烁周期调整拍摄所述L个图像帧的帧间隔;所述帧间隔是所述摄像头拍摄所述L个图像帧中相邻两帧图像的间隔时间;所述帧间隔是所述闪烁周期的整数倍。
2.如权利要求1所述的方法,其特征在于,所述L个图像帧的ISO均不同且依次增大;所述L个图像帧的曝光强度与所述第一图像的曝光强度相同;所述曝光强度用于表征曝光量。
3.如权利要求1或2所述的方法,其特征在于,所述方法还包括:
所述电子设备确定第一曝光时间;所述第一曝光时间为所述摄像头拍摄第二图像时采用的曝光时间;
所述电子设备根据所述第一曝光时间,确定第二曝光时间;所述第二曝光时间为所述摄像头拍摄第三图像的预计曝光时间;所述第一曝光时间大于所述第二曝光时间;所述第一曝光时间与所述第二曝光时间的差值为第一步长;
所述电子设备根据所述第二曝光时间,确定预计ISO;
所述电子设备判断所述预计ISO是否大于预设阈值;
若所述预计ISO大于所述预设阈值,所述电子设备确定所述摄像头拍摄所述第三图像时采用的曝光时间为所述第一曝光时间;
若所述预计ISO不大于所述预设阈值,所述电子设备确定所述摄像头拍摄所述第三图像时采用的曝光时间为所述第二曝光时间;
其中,所述第二图像为所述第一图像,所述第三图像为所述L个图像帧中最先显示的图像帧;或者,所述第二图像和所述第三图像为所述L个图像帧中的相邻两个图像帧。
4.如权利要求3所述的方法,其特征在于,所述第一步长小于所述闪烁周期。
5.如权利要求1-4任一项所述的方法,其特征在于,所述电子设备在所述拍摄界面先后显示所述摄像头采集的L个图像帧之前,所述方法还包括:所述电子设备获取所述摄像头采集的R个图像帧;所述R个图像帧中包括所述第一图像;所述R个图像帧均包括所述被摄体;所述R为大于2的整数;
所述电子设备通过判断所述R个图像帧中的相邻两个图像帧中的所述被摄体的位置是否发生变化,来确定所述第一图像中的被摄体与所述电子设备之间是否存在相对运动;
其中,若所述二维速度矢量场中是否存在所述速度变化量不一致的像素,所述第一图像中的被摄体与所述电子设备之间存在相对运动。
6.如权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
所述电子设备对所述L个图像帧进行运动模糊检测,并根据所述运动模糊检测的结果确定所述L的值;
其中,所述L个图像帧中的第L-1个图像帧存在运动模糊;所述L个图像帧中的第L个图像帧不存在运动模糊。
7.如权利要求1-6任一项所述的方法,其特征在于,在所述电子设备根据所述闪烁周期调整拍摄所述L个图像帧的帧间隔之后,所述方法还包括:
所述电子设备检测到第一用户操作;
所述电子设备将所述拍摄界面显示的所述摄像头采集的K个图像帧保存为视频;所述K为正整数;
其中,所述K个图像帧的帧间隔与所述L个图像帧的帧间隔相同;所述K个图像帧中任意一个图像帧的曝光时间,与所述L个图像帧中最后显示的图像帧的曝光时间相同。
8.如权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
所述电子设备获取所述摄像头采集的H个图像帧;所述H为正整数;
所述电子设备将所述H个图像帧保存为视频;所述H个图像帧包括所述L个图像帧或者所述L个图像帧的一部分。
9.一种电子设备,包括显示屏、摄像头、一个或多个存储器、一个或多个处理器,其特征在于,所述一个或多个处理器与所述摄像头、所述一个或多个存储器耦合,所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;
所述显示屏,用于显示拍摄界面;所述拍摄界面用于显示所述摄像头采集的第一图像;若所述第一图像中的被摄体与所述电子设备之间存在相对运动,还用于在所述拍摄界面上先后显示所述摄像头采集的L帧第二图像;所述L个图像帧的曝光时间均不同且依次降低;所述L个图像帧中最先显示的图像帧的曝光时间与所述第一图像的曝光时间相同;所述L为大于2的整数;
所述处理器,用于在拍摄环境中存在人工光源的情况下,确定所述人工光源的闪烁周期;
所述处理器,还用于根据所述闪烁周期调整拍摄所述L个图像帧的帧间隔;所述帧间隔是所述摄像头拍摄所述L个图像帧中相邻两帧图像的间隔时间;所述帧间隔是所述闪烁周期的整数倍。
10.如权利要求9所述的电子设备,其特征在于,所述L个图像帧的ISO逐渐增大;所述L个图像帧的曝光强度与所述第一图像的曝光强度相同;所述曝光强度用于表征曝光量。
11.如权利要求9或10所述的电子设备,其特征在于,所述处理器,还用于:
确定第一曝光时间;所述第一曝光时间为所述摄像头拍摄第二图像时采用的曝光时间;
根据所述第一曝光时间,确定第二曝光时间;所述第二曝光时间为所述摄像头拍摄第三图像的预计曝光时间;所述第一曝光时间大于所述第二曝光时间;所述第一曝光时间与所述第二曝光时间的差值为第一步长;
根据所述第二曝光时间,确定预计ISO;
判断所述预计ISO是否大于预设阈值;
若所述预计ISO大于所述预设阈值,确定所述摄像头拍摄所述第三图像时采用的曝光时间为所述第一曝光时间;
若所述预计ISO不大于所述预设阈值,确定所述摄像头拍摄所述第三图像时采用的曝光时间为所述第二曝光时间;
其中,所述第二图像为所述第一图像,所述第三图像为所述L个图像帧中最先显示的图像帧;或者,所述第二图像和所述第三图像为所述L个图像帧中的相邻两个图像帧。
12.如权利要求9-11任一项所述的电子设备,其特征在于,所述第一步长小于所述闪烁周期。
13.如权利要求9-12任一项所述的电子设备,其特征在于,所述处理器,还用于:
获取所述摄像头采集的R个图像帧;所述R个图像帧中包括所述第一图像;所述R个图像帧均包括所述被摄体;所述R为大于2的整数;
通过判断所述R个图像帧中的相邻两个图像帧中的所述被摄体的位置是否发生变化,来确定所述第一图像中的被摄体与所述电子设备之间是否存在相对运动;
其中,若所述二维速度矢量场中是否存在所述速度变化量不一致的像素,所述第一图像中的被摄体与所述电子设备之间存在相对运动。
14.如权利要求9-13任一项所述的电子设备,其特征在于,所述处理器,还用于:
对所述L个图像帧进行运动模糊检测,并根据所述运动模糊检测的结果确定所述L的值;
其中,所述L个图像帧中的第L-1个图像帧存在运动模糊;所述L个图像帧中的第L个图像帧不存在运动模糊。
15.如权利要求9-14任一项所述的电子设备,其特征在于,所述处理器,还用于:
检测到第一用户操作;所述第一用户操作用于停止录制视频;
将所述拍摄界面显示的所述摄像头采集的K个图像帧保存为视频;所述K为正整数;
其中,所述K个图像帧的帧间隔与所述L个图像帧的帧间隔相同;所述K个图像帧中任意一个图像帧的曝光时间,与所述L个图像帧中最后显示的图像帧的曝光时间相同。
16.如权利要求9-14任一项所述的电子设备,其特征在于,所述处理器,还用于:
获取所述摄像头采集的H个图像帧;所述H为正整数;
将所述H个图像帧保存为视频;所述H个图像帧包括所述L个图像帧或者所述L个图像帧的一部分。
17.一种计算机可读存储介质,其特征在于,包括:计算机指令;当所述计算机指令在电子设备上运行时,使得所述电子设备执行权利要求1-8中任一项所述的方法。
CN202110706653.1A 2021-06-24 2021-06-24 一种拍摄方法及相关装置 Active CN115529409B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202110706653.1A CN115529409B (zh) 2021-06-24 2021-06-24 一种拍摄方法及相关装置
PCT/CN2022/093646 WO2022267763A1 (zh) 2021-06-24 2022-05-18 一种拍摄方法及相关装置
US18/251,016 US20230412929A1 (en) 2021-06-24 2022-05-18 Photographing Method and Related Apparatus
EP22827261.3A EP4221185A4 (en) 2021-06-24 2022-05-18 PHOTOGRAPHY METHOD AND ASSOCIATED APPARATUS

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110706653.1A CN115529409B (zh) 2021-06-24 2021-06-24 一种拍摄方法及相关装置

Publications (2)

Publication Number Publication Date
CN115529409A true CN115529409A (zh) 2022-12-27
CN115529409B CN115529409B (zh) 2024-07-12

Family

ID=84544060

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110706653.1A Active CN115529409B (zh) 2021-06-24 2021-06-24 一种拍摄方法及相关装置

Country Status (4)

Country Link
US (1) US20230412929A1 (zh)
EP (1) EP4221185A4 (zh)
CN (1) CN115529409B (zh)
WO (1) WO2022267763A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116366983A (zh) * 2023-05-29 2023-06-30 荣耀终端有限公司 拍摄方法、电子设备及可读介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020044205A1 (en) * 2000-09-08 2002-04-18 Hidetada Nagaoka Image pickup apparatus with reduced flicker and automatic level adjusting method of the same
CN102752513A (zh) * 2011-04-22 2012-10-24 奥林巴斯映像株式会社 照相机以及照相机的控制方法
CN110035234A (zh) * 2019-04-16 2019-07-19 深圳市道通智能航空技术有限公司 一种飞行器的拍摄控制方法、飞行器及飞行系统
WO2020186969A1 (zh) * 2019-03-18 2020-09-24 华为技术有限公司 一种多路录像方法及设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5498087B2 (ja) * 2008-09-29 2014-05-21 キヤノン株式会社 撮像装置および撮像方法、プログラム
JP5541016B2 (ja) * 2010-09-08 2014-07-09 リコーイメージング株式会社 撮像システムおよび画素信号読出し方法
CN104104882B (zh) * 2013-04-09 2017-08-11 展讯通信(上海)有限公司 图像闪烁检测方法及装置、图像捕获设备
JP6300118B2 (ja) * 2015-09-24 2018-03-28 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム
JP2017116840A (ja) * 2015-12-25 2017-06-29 オリンパス株式会社 撮像装置
JP7286315B2 (ja) * 2018-12-28 2023-06-05 キヤノン株式会社 報知装置、撮像装置、報知方法、及びプログラム
WO2020158069A1 (ja) * 2019-01-29 2020-08-06 富士フイルム株式会社 撮像装置、撮像方法、及びプログラム
CN111163270A (zh) * 2019-12-30 2020-05-15 Oppo广东移动通信有限公司 消除闪烁的方法、电子装置和存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020044205A1 (en) * 2000-09-08 2002-04-18 Hidetada Nagaoka Image pickup apparatus with reduced flicker and automatic level adjusting method of the same
CN102752513A (zh) * 2011-04-22 2012-10-24 奥林巴斯映像株式会社 照相机以及照相机的控制方法
WO2020186969A1 (zh) * 2019-03-18 2020-09-24 华为技术有限公司 一种多路录像方法及设备
CN110035234A (zh) * 2019-04-16 2019-07-19 深圳市道通智能航空技术有限公司 一种飞行器的拍摄控制方法、飞行器及飞行系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116366983A (zh) * 2023-05-29 2023-06-30 荣耀终端有限公司 拍摄方法、电子设备及可读介质
CN116366983B (zh) * 2023-05-29 2023-10-20 荣耀终端有限公司 拍摄方法、电子设备及可读介质

Also Published As

Publication number Publication date
US20230412929A1 (en) 2023-12-21
EP4221185A1 (en) 2023-08-02
WO2022267763A1 (zh) 2022-12-29
EP4221185A4 (en) 2024-05-08
CN115529409B (zh) 2024-07-12

Similar Documents

Publication Publication Date Title
WO2021052232A1 (zh) 一种延时摄影的拍摄方法及设备
KR102577396B1 (ko) 녹화 프레임 레이트 제어 방법 및 관련 장치
CN113170037B (zh) 一种拍摄长曝光图像的方法和电子设备
WO2023015991A1 (zh) 拍照方法、电子设备和计算机可读存储介质
WO2023273323A9 (zh) 一种对焦方法和电子设备
WO2023015990A1 (zh) 点光源图像检测方法和电子设备
WO2022267762A1 (zh) 一种多人工光源下的拍摄方法及相关装置
CN113630558B (zh) 一种摄像曝光方法及电子设备
CN113891009A (zh) 曝光调整方法及相关设备
WO2022267608A1 (zh) 一种曝光强度调节方法及相关装置
WO2022267763A1 (zh) 一种拍摄方法及相关装置
CN113891008B (zh) 一种曝光强度调节方法及相关设备
CN113923372B (zh) 曝光调整方法及相关设备
WO2022033344A1 (zh) 视频防抖方法、终端设备和计算机可读存储介质
WO2021204103A1 (zh) 照片预览方法、电子设备和存储介质
WO2021190097A1 (zh) 图像处理方法和装置
CN116193269A (zh) 一种曝光模式切换方法及相关设备
CN113495733A (zh) 主题包安装方法、装置、电子设备及计算机可读存储介质
WO2023160224A9 (zh) 一种拍摄方法及相关设备
RU2782255C1 (ru) Способ управления частотой кадров записи и соответствующее устройство
WO2024088074A1 (zh) 拍摄月亮的方法和电子设备
BR112021016828B1 (pt) Método de controle de taxa de quadros de gravação, terminal móvel e meio de armazenamento de computador

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant