CN110602384A - 曝光控制方法及电子设备 - Google Patents

曝光控制方法及电子设备 Download PDF

Info

Publication number
CN110602384A
CN110602384A CN201910797099.5A CN201910797099A CN110602384A CN 110602384 A CN110602384 A CN 110602384A CN 201910797099 A CN201910797099 A CN 201910797099A CN 110602384 A CN110602384 A CN 110602384A
Authority
CN
China
Prior art keywords
image
exposure
preset
salient object
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910797099.5A
Other languages
English (en)
Other versions
CN110602384B (zh
Inventor
顾弘
张华琪
王国刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vivo Mobile Communication Co Ltd
Original Assignee
Vivo Mobile Communication Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vivo Mobile Communication Co Ltd filed Critical Vivo Mobile Communication Co Ltd
Priority to CN201910797099.5A priority Critical patent/CN110602384B/zh
Publication of CN110602384A publication Critical patent/CN110602384A/zh
Application granted granted Critical
Publication of CN110602384B publication Critical patent/CN110602384B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Abstract

本发明实施例公开了一种曝光控制方法及电子设备。其中,曝光控制方法包括:获取预览图像;对预览图像进行显著性物体检测,生成显著性物体图像;确定显著性物体图像在多个预设亮度下的多个曝光质量评分;根据多个曝光质量评分,确定图像采集装置的目标曝光参数。利用本发明实施例,能够提高图像采集装置的曝光参数的调节结果的可靠性,并且提高图像采集装置所采集的图像质量。

Description

曝光控制方法及电子设备
技术领域
本发明实施例涉及成像技术领域,尤其涉及一种曝光控制方法及电子设备。
背景技术
自动曝光(Automatic Exposure,AE)功能是电子设备利用图像采集装置成像的基础。在电子设备利用图像采集装置采集图像时,AE功能直接影响所采集的图像质量。
电子设备通常采用针对环境光亮度进行曝光处理的方法来实现AE功能,以基于图像的全局画面信息调整图像采集装置的曝光参数。具体地,电子设备首先控制图像采集装置使用一组默认曝光参数采集预览图像,然后统计该预览图像的全局画面信息,并基于该全局画面信息,参考曝光表拟合真实环境光分量,再基于真实环境光分量,调整图像采集装置的曝光参数。
但是,基于图像的全局画面信息调整图像采集装置的曝光参数时,无法兼顾局部场景的曝光,往往会导致局部场景欠曝或过曝,导致图像采集装置所采集的图像质量较差。例如,在图像采集装置所要采集的图像中天空的占比远大于地面物体的情况下,很容易导致地面物体欠曝。另外,由于预览图像中的场景和物体的不同,利用曝光表拟合预览图像对应的真实环境光分量的错误率较高,若基于该真实环境光分量调整曝光参数,也会导致图像采集装置所采集的图像质量较差。
发明内容
本发明实施例提供一种曝光控制方法、电子设备及计算机可读存储介质,以解决现有的曝光方法使得图像采集装置所采集的图像质量较差的问题。
为了解决上述技术问题,本发明是这样实现的:
第一方面,本发明实施例提供了一种曝光控制方法,应用于电子设备,包括:
获取预览图像;
对预览图像进行显著性物体检测,生成显著性物体图像;
确定显著性物体图像在多个预设亮度下的多个曝光质量评分;
根据多个曝光质量评分,确定图像采集装置的目标曝光参数。
第二方面,本发明实施例提供了一种电子设备,包括:
图像获取模块,用于获取预览图像;
图像检测模块,用于对预览图像进行显著性物体检测,生成显著性物体图像;
曝光检测模块,用于确定显著性物体图像在多个预设亮度下的多个曝光质量评分;
曝光调节模块,用于根据多个曝光质量评分,确定图像采集装置的目标曝光参数。
第三方面,本发明实施例提供了一种电子设备,包括处理器、存储器及存储在存储器上并可在处理器上运行的计算机程序,计算机程序被处理器执行时实现如第一方面所述的曝光控制方法的步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质上存储计算机程序,计算机程序被处理器执行时实现如第一方面所述的曝光控制方法的步骤。
在本发明实施例中,通过识别出所获取的预览图像中的显著性物体图像,确定该显著性物体图像在多个预设亮度下的多个曝光质量评分,以根据多个曝光质量评分来调节图像采集装置的曝光参数,能够实现利用作为局部图像的显著性物体图像,得到预览图像的整体图像在多个预设亮度的多个曝光质量评分,从而基于这些曝光质量评分为图像采集装置进行曝光参数的调整,使得调整曝光参数的过程兼顾了整体图像和局部图像,提高了曝光参数的调节结果的可靠性,并且提高了图像采集装置所采集的图像质量。
附图说明
从下面结合附图对本发明的具体实施方式的描述中可以更好地理解本发明其中,相同或相似的附图标记表示相同或相似的特征。
图1为本发明一个实施例提供的曝光控制方法的流程示意图;
图2为本发明一个实施例提供的预览图像;
图3为图2所示的预览图像的显著性物体图像;
图4为本发明一个实施例提供的图像采集过程的流程示意图;
图5为本发明一个实施例提供的电子设备的结构示意图;
图6为实现本发明各个实施例的一种电子设备的硬件结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了解决基于图像的全局画面信息调整图像采集装置的曝光参数时,无法兼顾局部场景的曝光,可能出现局部场景欠曝或过曝的问题。
现有技术中还提供了一种针对特殊目标进行曝光处理的方法来实现AE功能。在这种方法中,特殊目标为单一目标,例如,特殊目标为人像或者车牌。由于这种方法的目的是为了使得特殊目标的曝光结果的可靠性较高,因此,在调节曝光参数时,会考虑针对特殊目标的特殊曝光设计需求。例如,特殊目标为人像时,为了保证人像的清晰,使得人像在暗光、逆光、顺光等条件下均具备较好的图像质量,在调节曝光参数时,会考虑到人像肤色等特殊曝光设计需求。
可见,这种方法的这些特殊曝光设计仅适用于针对特殊目标的曝光参数调节,在图像采集装置所要采集的图像不具有特殊目标时,这种方法将无法发挥其曝光调节作用,使得这种方法的普适性较低。
为了解决现有技术问题,本发明实施例提供了一种曝光控制方法、电子设备及计算机可读存储介质。下面首先对本发明实施例所提供的曝光控制方法进行介绍。
图1示出了本发明一个实施例提供的曝光控制方法的流程示意图。如图1所示,该曝光控制方法包括:
S110、获取预览图像;
S120、对预览图像进行显著性物体检测,生成显著性物体图像;
S130、确定显著性物体图像在多个预设亮度下的多个曝光质量评分;
S140、根据多个曝光质量评分,确定图像采集装置的目标曝光参数。
在本发明实施例中,通过识别出所获取的预览图像中的显著性物体图像,确定该显著性物体图像在多个预设亮度下的多个曝光质量评分,以根据多个曝光质量评分来调节图像采集装置的曝光参数,能够实现利用作为局部图像的显著性物体图像,得到预览图像的整体图像在多个预设亮度的多个曝光质量评分,从而基于这些曝光质量评分为图像采集装置进行曝光参数的调整,使得调整曝光参数的过程兼顾了整体图像和局部图像,提高了曝光参数的调节结果的可靠性,并且提高了图像采集装置所采集的图像质量。
在本发明实施例的步骤S110中,当电子设备启动图像采集装置进行图像采集后,可以控制图像采集装置在初始曝光参数下,获取采集区域对应的图像,形成预览图像。
在本发明实施例的步骤S120中,可以利用显著性图像生成网络对预览图像进行显著性物体检测,并且基于显著性物体检测结果,生成针对预览图像对应的显著性物体图像。其中,显著性图像生成网络包含显著性检测神经网络,用于实现对预览图像进行降采样,并获得多个尺度的特征图,具体可以包括特征金字塔网络FPN或者其他具有多卷积层的卷积神经网络。
具体地,在本发明一些实施例中,利用显著性图像生成网络对预览图像进行显著性物体检测,生成显著性物体图像的具体方法可以包括:
首先,利用显著性检测神经网络对预览图像进行显著性物体检测,得到预览图像的多个尺度的特征图。
以FPN网络为例,可以首先利用FPN网络,得到多个尺度的特征图,以输入FPN网络的预览图像为128×128的图像为例,多个尺度的特征图可以包括至少一个尺寸(分辨率)为64×64的特征图、至少一个为32×32的特征图、至少一个为16×16的特征图和至少一个为8×8的特征图。
由于在本发明实施例中使用显著性检测神经网络进行多尺度的特征图提取,得到显著性物体检测结果,其能够产生预览图像的多尺度特征表示,并且所有尺度的特征图都有很强的语义,能够在基本不增加计算量情况下,大幅度提升了显著性物体检测的性能,提高了显著性物体检测的可靠性。
然后,利用双线性插值法,将多个尺度的特征图分别调整为预定尺寸,以提高调整尺寸后的图像的连续性,并对调整尺寸后的多个尺度的特征图进行图像融合处理,生成具有预定尺寸的显著性物体图像。
其中,预定尺寸可以与多个尺度的特征图中任一个的尺寸相同,以降低生成显著性物体图像的计算量。但是,需要说明的是,预定尺寸也可以为多个尺度的特征图的尺寸以外的其他尺寸,从而增大了生成的显著性物体图像的尺寸的灵活性。
在本发明的一些实施例中,可以将多个尺度的特征图中的全部特征图的尺寸均调整为预定的尺寸,然后将全部特征图进行图像融合处理,生成具有预定尺寸的显著性物体图像。
在本发明的另一些实施例中,也可以先在多个尺度的特征图中选取多个不同特定尺寸的特征图,然后将所选取的特征图的尺寸调整为预定的尺寸,再将调整尺寸后的特征图进行图像融合处理,生成具有预定尺寸的显著性物体图像。
具体地,可以从多个尺度的特征图中选取从最后一层输出尺度为第一特定尺度的卷积层输出的第一特征图和从最后一层输出尺度为第二特定尺度的卷积层输出的第二特征图。然后,将第二特定尺度作为预定尺寸,将第一特征图的尺寸缩小至第二特定尺度,然后将缩小后的第一特征图和第二特征图进行图像融合处理,生成具有第二特定尺度的显著性物体图像。
继续以输入FPN网络的预览图像为128×128的图像为例,可以从多个尺度的特征图中选取从最后一层输出尺度为32×32的卷积层输出的32×32的特征图和从最后一层输出尺度为8×8的卷积层输出的8×8的特征图。然后,将32×32的特征图的尺寸缩小至8×8,然后将两个8×8的特征图进行图像融合处理,生成尺寸为8×8的显著性物体图像。
在本发明的又一些实施例中,也可以先在多个尺度的特征图中选取多个不同特定尺寸的特征图,然后将所选取的特征图中的部分特征图的通道数叠加,生成叠加后的特征图,再将叠加后的特征图和所选取的特征图中的其他特征图调整为预定尺寸,并将调整尺寸后的特征图进行图像融合处理,生成具有预定尺寸的显著性物体图像。
具体地,可以从多个尺度的特征图中选取从最后一层输出尺度为第一特定尺度的卷积层输出的第一特征图、从最后一层输出尺度为第二特定尺度的卷积层输出的第二特征图和从最后一层输出尺度为第三特定尺度的卷积层输出的第三特征图。然后,将第二特征图的尺寸放大为第一特定尺度,并将放大后的第二特征图和第一特征图的通道数叠加,生成尺寸为第一特定尺度的第四特征图,再将第三特定尺度作为预定尺寸,将第四特征图的尺寸缩小至第三特定尺度,然后将缩小后的第四特征图和第三特征图进行图像融合处理,生成具有第三特定尺度的显著性物体图像。
继续以输入FPN网络的预览图像为128×128的图像为例,可以从多个尺度的特征图中选取从最后一层输出尺度为32×32的卷积层输出的32×32的特征图、从最后一层输出尺度为16×16的卷积层输出的16×16的特征图和从最后一层输出尺度为8×8的卷积层输出的8×8的特征图。然后,将16×16的特征图的尺寸放大至32×32,并将两个32×32的特征图的通道数叠加,生成32×32的叠加特征图,然后再将叠加特征图的尺寸缩小至8×8,然后将两个8×8的特征图进行图像融合处理,生成尺寸为8×8的显著性物体图像。
在本发明实施例中,根据多个尺度的特征图生成显著性物体图像的具体方法还可以为其他方法,只要是能够实现利用多个尺度的特征图生成预定尺寸的显著性物体图像即可,在此不做赘述。
在本发明实施例的步骤S130中,确定所著性物体图像在多个预设亮度下的多个曝光质量评分,可以包括:
利用多个预设亮度分别改变显著性物体图像的亮度值,生成多帧曝光图像。其中,每个预设亮度分别对应一组预设曝光参数。多个预设亮度对应的多组预设曝光参数,可以由初始曝光参数依次增大预定数值得到。
在生成多帧曝光图像后,可以利用质量评分网络,确定多帧曝光图像中每一帧曝光图像对应的曝光质量评分,得到显著性物体图像在多个预设亮度下的多个曝光质量评分。
此时,通过利用多个亮度改变显著性物体图像的亮度值,生成多帧曝光图像,再对该曝光图像进行评分,可以使该评分更能体现出相应亮度值下图像的质量程度,为后续确定目标曝光参数提供依据。
在本发明实施例中,可选的,显著性物体图像可以为像素值为0—255的二值化灰度图像。例如,图3所示的图像为图2所示的图像的显著性物体图像。图2所示的图像为图像采集装置所采集的预览图像的原图,其中包括色彩丰富的天空和地面物体,此时,天空即为背景图像,地面物体即为前景图像。图3所示的图像中,去除了背景图像,仅采用二值化灰度图显示出前景图像。
基于二值化灰度图像,质量评分网络可以首先计算每一帧曝光图像的像素平均值,然后根据像素平均值,确定每一帧曝光图像对应的曝光质量评分。这样,可以使相应的曝光质量评分更准确。
具体地,在本发明一些实施例中,可以在计算一帧曝光图像的像素平均值后,利用预设的像素平均值和质量评分的对应关系,得到曝光图像的曝光质量评分。在本发明另一些实施例中,也可以在计算一帧曝光图像的像素平均值后,直接将像素平均值作为曝光图像的曝光质量评分。
根据像素平均值来确定曝光质量评分,简单可行,便于实施。
在本发明实施例中,曝光质量评分的分值范围可以设置为0-10分。其中,0分为最低分,10分为最高分,曝光质量评分越高,代表曝光后的图像质量越好。
在本发明实施例中,上述的曝光控制方法中的步骤S120和步骤S130的具体过程可以由图像曝光质量评分模型实现,该图像曝光质量评分模型包括显著性图像生成网络和质量评分网络。
在对图像曝光质量评分模型进行训练前,首先要获取训练样本,训练样本的具体获取方法如下:
利用已有的显著性物体数据集,预先训练一个显著性图像生成模型。然后,使用该显著性图像生成模型对曝光训练数据集中的每个训练图像进行检测,得到每个训练图像的显著性物体图像,将每个训练图像及其显著性物体图像进行掩码加权处理,仅保留训练图像的显著性区域的图像信息,得到每个训练图像加权后的图像,加权后的图像被随机给出的伽马值进行增强,模拟不同的曝光参数对应的亮度值,生成不同的曝光参考图像。标注人员则基于曝光参考图像进行打分,给出每个曝光参考图像的曝光质量评分,从而为曝光训练数据集的每个训练图像标记对应的亮度值和曝光质量评分。
具体地,标注人员给出每个曝光参考图像的曝光质量评分的方法可以为:
每个加权后的图像被随机模拟10次不同的曝光参数对应的亮度值,生成10个不同的曝光参考图像。这10个不同的曝光参考图像被同时显示在显示界面上,标记人员被要求在仅观测显著性物体(前景)区域信息的情况下,一次性给出10个不同的曝光参考图像的曝光质量评分,曝光质量评分为0-10分。
然后,利用曝光训练数据集和曝光训练数据集分别训练显著性物体检测模型的显著性图像生成网络和质量评分网络。
在对图像曝光质量评分模型进行训练过程中,针对显著性图像生成网络中的显著性检测神经网络,可以使用交叉熵(Cross Entropy Loss)作为损失函数,标记为图像显著性标定缩放到特定尺寸的图像。针对质量评分网络,可以将图像曝光质量评分模型输出的曝光质量评分与人工标记的评分进行比较,得到损失函数。然后利用不同的损失函数调整图像曝光质量评分模型相应部分的模型参数,实现该图像曝光质量评分模型的稳定训练。
在本发明的一些实施例的步骤S140中,可以首先判断多个曝光质量评分是否符合预设条件,在确定多个曝光质量评分符合预设条件的情况下,确定多个曝光质量评分中的最佳曝光质量评分,然后在多组预设亮度中选择最佳曝光质量评分对应的目标亮度,将所选择的目标亮度对应的预设曝光参数,作为图像采集装置的目标曝光参数。
其中,预设条件为多个曝光质量评分中包含预设数量的高于预设评分阈值的连续曝光质量评分。具体地,预设数量和预设评分范围,可以根据需要进行设定,在此不做限制。
此时,可以在曝光质量较稳定的情况下,获得最佳曝光质量评分对应的预设曝光参数,使用户在此预设曝光参数下通过电子设备的图像采集装置进行图像采集,从而提高图像采集装置曝光的可靠性,为用户提供更好的曝光效果,得到感观最佳的采集图像。
在本发明的另一些实施例的步骤S140中,也可以直接在多个曝光质量评分中确定最佳曝光质量评分,然后在多组预设亮度中选择最佳曝光质量评分对应的目标亮度,将所选择的目标亮度对应的预设曝光参数,作为图像采集装置的目标曝光参数。
在本发明的又一些实施例的步骤S140中,若多个曝光质量评分均未达到预设评分阈值,则可以确定所提取的显著性物体图像中的显著性物体本身已经包含了明暗反差较大的信息,此时可以生成高动态范围成像(High-Dynamic Range,HDR)启动指令,并根据HDR启动指令,启动图像采集装置的HDR功能,以进一步提升图像采集装置所采集的图像质量。
图4示出了本发明一个实施例提供的图像采集过程的流程示意图。如图4所示,电子设备利用本发明实施例提高的曝光控制方法采集图像的具体流程可以包括:
S201、启动图像采集装置;
S202、控制图像采集装置处于初始曝光参数;
S203、获取图像采集装置的采集区域对应的预览图像;
S204、生成预览图像对应的显著性物体图像;
S205、增大亮度值得到预设亮度;
S206、基于预设亮度改变显著性物体图像的亮度值,生成曝光图像;
S207、确定曝光图像对应的曝光质量评分;
S208、判断曝光时间是否达到预设时间段,若是执行步骤S209,若不是,执行步骤S205;
S209、判断多个曝光质量评分是否符合预设条件,若是执行步骤S210,若不是,执行步骤S212;
S210、选择连续曝光质量评分中的最佳曝光质量评分;
S211、将图像采集装置的曝光参数设置为最佳曝光质量评分对应的预设曝光参数,并采集图像;
S212、启动图像采集装置的HDR功能,并采集图像。
图5示出了本发明一个实施例提供的电子设备的结构示意图。如图5所示,该电子设备包括:
图像获取模块310,用于获取预览图像;
图像检测模块320,用于对预览图像进行显著性物体检测,生成显著性物体图像;
曝光检测模块330,用于确定显著性物体图像在多个预设亮度下的多个曝光质量评分;
曝光调节模块340,用于根据多个曝光质量评分,确定图像采集装置的目标曝光参数。
在本发明实施例中,通过识别出所获取的预览图像中的显著性物体图像,确定该显著性物体图像在多个预设亮度下的多个曝光质量评分,以根据多个曝光质量评分来调节图像采集装置的曝光参数,能够实现利用作为局部图像的显著性物体图像,得到预览图像的整体图像在多个预设亮度的多个曝光质量评分,从而基于这些曝光质量评分为图像采集装置进行曝光参数的调整,使得调整曝光参数的过程兼顾了整体图像和局部图像,提高了曝光参数的调节结果的可靠性,并且提高了图像采集装置所采集的图像质量。
在本发明实施例中,当电子设备启动图像采集装置进行图像采集后,图像获取模块310可以响应于电子设备的图像采集启动信号,控制图像采集装置在初始曝光参数下,获取采集区域对应的图像,形成预览图像。
在本发明实施例中,图像检测模块320可以利用显著性图像生成网络对预览图像进行显著性物体检测,并且基于显著性物体检测结果,生成针对预览图像对应的显著性物体图像。其中,显著性图像生成网络包含显著性检测神经网络,用于实现对预览图像进行降采样,并获得多个尺度的特征图,具体可以包括特征金字塔网络FPN或者其他具有多卷积层的卷积神经网络。
可选地,图像检测模块320可以包括:
显著性检测单元,用于利用显著性检测神经网络对预览图像进行显著性物体检测,得到预览图像的多个尺度的特征图;
尺寸调整单元,用于利用双线性插值法,将多个尺度的特征图分别调整为预定尺寸;
融合处理单元,用于对调整尺寸后的多个尺度的特征图进行图像融合处理,生成具有预定尺寸的所述显著性物体图像。
由于在本发明实施例中使用显著性检测神经网络进行多尺度的特征图提取,得到显著性物体检测结果,其能够产生预览图像的多尺度特征表示,并且所有尺度的特征图都有很强的语义,能够在基本不增加计算量情况下,大幅度提升了显著性物体检测的性能,提高了显著性物体检测的可靠性。
可选的,在本发明实施例中,曝光检测模块330包括:
亮度调节单元,用于利用多个预设亮度分别改变显著性物体图像的亮度值,生成多帧曝光图像;
质量评价单元,用于确定多帧曝光图像中每一帧曝光图像对应的曝光质量评分,得到显著性物体图像在多个预设亮度下的多个曝光质量评分。
可选地,显著性物体图像可以为二值化灰度图像。此时,质量评价单元可以具体用于:计算每一帧曝光图像的像素平均值,并根据像素平均值,确定每一帧曝光图像对应的曝光质量评分。
在本发明的一些实施例中,图像检测模块320和曝光检测模块330可以由存储于电子设备的存储器中的一个图像曝光质量评分模型实现,该图像曝光质量评分模型包括显著性图像生成网络和质量评分网络。
在本发明一些实施例中,曝光调节模块340可以首先判断多个曝光质量评分是否符合预设条件,在确定多个曝光质量评分符合预设条件的情况下,确定多个曝光质量评分中的最佳曝光质量评分,然后在多组预设亮度中选择最佳曝光质量评分对应的目标亮度,将所选择的目标亮度对应的预设曝光参数,作为图像采集装置的目标曝光参数。
其中,预设条件为多个曝光质量评分中包含预设数量的高于预设评分阈值的连续曝光质量评分。具体地,预设数量和预设评分范围,可以根据需要进行设定,在此不做限制。
此时,可以在曝光质量较稳定的情况下,获得最佳曝光质量评分对应的预设曝光参数,使用户在此预设曝光参数下通过电子设备的图像采集装置进行图像采集,从而提高图像采集装置曝光的可靠性,为用户提供更好的曝光效果,得到感观最佳的采集图像。
在本发明另一些实施例中,曝光调节模块340还可以直接在多个曝光质量评分中确定最佳曝光质量评分,然后在多组预设亮度中选择最佳曝光质量评分对应的目标亮度,将所选择的目标亮度对应的预设曝光参数,作为图像采集装置的目标曝光参数。
在本发明又一些实施例中,该电子设备还可以包括:
功能启动单元,用于在多个曝光质量评分均未达到预设评分阈值的情况下,启动图像采集装置的高动态范围成像HDR功能,以进一步提升图像采集装置所采集的图像质量。
本发明实施例提供的电子设备能够实现图1和图4的方法实施例中电子设备实现的各个过程,为避免重复,这里不再赘述。
图6为实现本发明各个实施例的一种电子设备的硬件结构示意图。如图6所示,该电子设备400包括但不限于:射频单元401、网络模块402、音频输出单元403、输入单元404、传感器405、显示单元406、用户输入单元407、接口单元408、存储器409、处理器410、以及电源411等部件。本领域技术人员可以理解,图6中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。在本发明实施例中,电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
其中,处理器410,用于:获取预览图像;对预览图像进行显著性物体检测,生成显著性物体图像;确定显著性物体图像在多个预设亮度下的多个曝光质量评分;根据多个曝光质量评分,确定图像采集装置的目标曝光参数。
在本发明实施例中,通过识别出所获取的预览图像中的显著性物体图像,确定该显著性物体图像在多个预设亮度下的多个曝光质量评分,以根据多个曝光质量评分来调节图像采集装置的曝光参数,能够实现利用作为局部图像的显著性物体图像,得到预览图像的整体图像在多个预设亮度的多个曝光质量评分,从而基于这些曝光质量评分为图像采集装置进行曝光参数的调整,使得调整曝光参数的过程兼顾了整体图像和局部图像,提高了曝光参数的调节结果的可靠性,并且提高了图像采集装置所采集的图像质量。
应理解的是,本发明实施例中,射频单元401可用于收发信息或通话过程中,信号的接收和发送,具体的,将来自基站的下行数据接收后,给处理器410处理;另外,将上行的数据发送给基站。通常,射频单元401包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元401还可以通过无线通信系统与网络和其他设备通信。
电子设备通过网络模块402为用户提供了无线的宽带互联网访问,如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元403可以将射频单元401或网络模块402接收的或者在存储器409中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元403还可以提供与电子设备400执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元403包括扬声器、蜂鸣器以及受话器等。
输入单元404用于接收音频或视频信号。输入单元404可以包括图形处理器(Graphics Processing Unit,GPU)4041和麦克风4042,图形处理器4041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元406上。经图形处理器4041处理后的图像帧可以存储在存储器409(或其它存储介质)中或者经由射频单元401或网络模块402进行发送。麦克风4042可以接收声音,并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元401发送到移动通信基站的格式输出。
电子设备400还包括至少一种传感器405,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板4061的亮度,接近传感器可在电子设备400移动到耳边时,关闭显示面板4061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;传感器405还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等,在此不再赘述。
显示单元406用于显示由用户输入的信息或提供给用户的信息。显示单元406可包括显示面板4061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板4061。
用户输入单元407可用于接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元407包括触控面板4071以及其他输入设备4072。触控面板4071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板4071上或在触控面板4071附近的操作)。触控面板4071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器410,接收处理器410发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板4071。除了触控面板4071,用户输入单元407还可以包括其他输入设备4072。具体地,其他输入设备4072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
进一步的,触控面板4071可覆盖在显示面板4061上,当触控面板4071检测到在其上或附近的触摸操作后,传送给处理器410以确定触摸事件的类型,随后处理器410根据触摸事件的类型在显示面板4061上提供相应的视觉输出。虽然在图6中,触控面板4071与显示面板4061是作为两个独立的部件来实现电子设备的输入和输出功能,但是在某些实施例中,可以将触控面板4071与显示面板4061集成而实现电子设备的输入和输出功能,具体此处不做限定。
接口单元408为外部装置与电子设备400连接的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元408可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到电子设备400内的一个或多个元件或者可以用于在电子设备400和外部装置之间传输数据。
存储器409可用于存储软件程序以及各种数据。存储器409可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器409可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器410是电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器409内的软件程序和/或模块,以及调用存储在存储器409内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。处理器410可包括一个或多个处理单元;优选的,处理器410可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器410中。
电子设备400还可以包括给各个部件供电的电源411(比如电池),优选的,电源411可以通过电源管理系统与处理器410逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
另外,电子设备400包括一些未示出的功能模块,在此不再赘述。
优选的,本发明实施例还提供一种电子设备,包括处理器410,存储器409,存储在存储器409上并可在所述处理器410上运行的计算机程序,该计算机程序被处理器410执行时实现上述曝光控制方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述曝光控制方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本发明的保护之内。

Claims (10)

1.一种曝光控制方法,应用于电子设备,其特征在于,包括:
获取预览图像;
对所述预览图像进行显著性物体检测,生成显著性物体图像;
确定所述显著性物体图像在多个预设亮度下的多个曝光质量评分;
根据所述多个曝光质量评分,确定图像采集装置的目标曝光参数。
2.根据权利要求1所述的方法,其特征在于,所述对所述预览图像进行显著性物体检测,生成显著性物体图像,包括:
利用显著性检测神经网络对所述预览图像进行显著性物体检测,得到所述预览图像的多个尺度的特征图;
利用双线性插值法,将所述多个尺度的特征图分别调整为预定尺寸;
对调整尺寸后的多个尺度的特征图进行图像融合处理,生成具有所述预定尺寸的所述显著性物体图像。
3.根据权利要求1所述的方法,其特征在于,所述确定所述显著性物体图像在多个预设亮度下的多个曝光质量评分,包括:
利用所述多个预设亮度分别改变所述显著性物体图像的亮度值,生成多帧曝光图像;
确定所述多帧曝光图像中每一帧曝光图像对应的曝光质量评分,得到所述显著性物体图像在多个预设亮度下的多个曝光质量评分。
4.根据权利要求3所述的方法,其特征在于,所述显著性物体图像为二值化灰度图像;
其中,所述确定所述多帧曝光图像中每一帧曝光图像对应的曝光质量评分,包括:
计算所述每一帧曝光图像的像素平均值;
根据所述像素平均值,确定所述每一帧曝光图像对应的曝光质量评分。
5.根据权利要求1所述的方法,其特征在于,所述确定所述显著性物体图像在多个预设亮度下的多个曝光质量评分之后,还包括:
若所述多个曝光质量评分均未达到预设评分阈值,则启动所述图像采集装置的高动态范围成像HDR功能。
6.一种电子设备,其特征在于,包括:
图像获取模块,用于获取预览图像;
图像检测模块,用于对所述预览图像进行显著性物体检测,生成显著性物体图像;
曝光检测模块,用于确定所述显著性物体图像在多个预设亮度下的多个曝光质量评分;
曝光调节模块,用于根据所述多个曝光质量评分,确定图像采集装置的目标曝光参数。
7.根据权利要求6所述的电子设备,其特征在于,所述图像检测模块包括:
显著性检测单元,用于利用显著性检测神经网络对所述预览图像进行显著性物体检测,得到所述预览图像的多个尺度的特征图;
尺寸调整单元,用于利用双线性插值法,将所述多个尺度的特征图分别调整为预定尺寸;
融合处理单元,用于对调整尺寸后的多个尺度的特征图进行图像融合处理,生成具有所述预定尺寸的所述显著性物体图像。
8.根据权利要求6所述的电子设备,其特征在于,所述曝光检测模块包括:
亮度调节单元,用于利用所述多个预设亮度分别改变所述显著性物体图像的亮度值,生成多帧曝光图像;
质量评价单元,用于确定所述多帧曝光图像中每一帧曝光图像对应的曝光质量评分,得到所述显著性物体图像在多个预设亮度下的多个曝光质量评分。
9.根据权利要求8所述的电子设备,其特征在于,所述显著性物体图像为二值化灰度图像;
其中,所述质量评价单元具体用于:计算所述每一帧曝光图像的像素平均值,并根据所述像素平均值,确定所述每一帧曝光图像对应的曝光质量评分。
10.根据权利要求6所述的电子设备,其特征在于,还包括:
功能启动单元,用于在所述多个曝光质量评分均未达到预设评分阈值的情况下,启动所述图像采集装置的高动态范围成像HDR功能。
CN201910797099.5A 2019-08-27 2019-08-27 曝光控制方法及电子设备 Active CN110602384B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910797099.5A CN110602384B (zh) 2019-08-27 2019-08-27 曝光控制方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910797099.5A CN110602384B (zh) 2019-08-27 2019-08-27 曝光控制方法及电子设备

Publications (2)

Publication Number Publication Date
CN110602384A true CN110602384A (zh) 2019-12-20
CN110602384B CN110602384B (zh) 2022-03-29

Family

ID=68855886

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910797099.5A Active CN110602384B (zh) 2019-08-27 2019-08-27 曝光控制方法及电子设备

Country Status (1)

Country Link
CN (1) CN110602384B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021145682A1 (en) * 2020-01-13 2021-07-22 Samsung Electronics Co., Ltd. Method of fast estimation of scene brightness and optimal camera exposure
CN114783041A (zh) * 2022-06-23 2022-07-22 合肥的卢深视科技有限公司 目标对象识别方法、电子设备和计算机可读存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101282418A (zh) * 2007-04-05 2008-10-08 佳能株式会社 图像处理设备及其控制方法
CN105574866A (zh) * 2015-12-15 2016-05-11 努比亚技术有限公司 一种实现图像处理的方法及装置
CN106534714A (zh) * 2017-01-03 2017-03-22 南京地平线机器人技术有限公司 曝光控制方法、装置和电子设备
CN106878625A (zh) * 2017-04-19 2017-06-20 宇龙计算机通信科技(深圳)有限公司 双摄像头同步曝光方法及系统
CN107172364A (zh) * 2017-04-28 2017-09-15 努比亚技术有限公司 一种图像曝光补偿方法、装置和计算机可读存储介质
CN108881710A (zh) * 2017-12-28 2018-11-23 北京旷视科技有限公司 图像处理方法、装置和系统及存储介质
CN109145930A (zh) * 2018-08-23 2019-01-04 陕西师范大学 一种基于半监督的图像显著性检测方法
CN109636765A (zh) * 2018-11-09 2019-04-16 深圳市华星光电技术有限公司 基于图像多重曝光融合的高动态显示方法
US10382712B1 (en) * 2018-08-01 2019-08-13 Qualcomm Incorporated Automatic removal of lens flares from images
CN110135373A (zh) * 2019-05-20 2019-08-16 北京探境科技有限公司 一种多尺度面部识别方法、系统及电子设备
CN110476185A (zh) * 2017-06-02 2019-11-19 上海科技大学 景深信息估算方法和装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101282418A (zh) * 2007-04-05 2008-10-08 佳能株式会社 图像处理设备及其控制方法
CN105574866A (zh) * 2015-12-15 2016-05-11 努比亚技术有限公司 一种实现图像处理的方法及装置
CN106534714A (zh) * 2017-01-03 2017-03-22 南京地平线机器人技术有限公司 曝光控制方法、装置和电子设备
CN106878625A (zh) * 2017-04-19 2017-06-20 宇龙计算机通信科技(深圳)有限公司 双摄像头同步曝光方法及系统
CN107172364A (zh) * 2017-04-28 2017-09-15 努比亚技术有限公司 一种图像曝光补偿方法、装置和计算机可读存储介质
CN110476185A (zh) * 2017-06-02 2019-11-19 上海科技大学 景深信息估算方法和装置
CN108881710A (zh) * 2017-12-28 2018-11-23 北京旷视科技有限公司 图像处理方法、装置和系统及存储介质
US10382712B1 (en) * 2018-08-01 2019-08-13 Qualcomm Incorporated Automatic removal of lens flares from images
CN109145930A (zh) * 2018-08-23 2019-01-04 陕西师范大学 一种基于半监督的图像显著性检测方法
CN109636765A (zh) * 2018-11-09 2019-04-16 深圳市华星光电技术有限公司 基于图像多重曝光融合的高动态显示方法
CN110135373A (zh) * 2019-05-20 2019-08-16 北京探境科技有限公司 一种多尺度面部识别方法、系统及电子设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ISLAM MOHAMMAD KHAIRUL: "利用CNN进行目标检测的特征图放大方法研究", 《华南理工大学》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021145682A1 (en) * 2020-01-13 2021-07-22 Samsung Electronics Co., Ltd. Method of fast estimation of scene brightness and optimal camera exposure
US11438519B2 (en) 2020-01-13 2022-09-06 Samsung Electronics Co., Ltd. Method of fast estimation of scene brightness and optimal camera exposure
CN114783041A (zh) * 2022-06-23 2022-07-22 合肥的卢深视科技有限公司 目标对象识别方法、电子设备和计算机可读存储介质

Also Published As

Publication number Publication date
CN110602384B (zh) 2022-03-29

Similar Documents

Publication Publication Date Title
CN109361865B (zh) 一种拍摄方法及终端
CN109688322B (zh) 一种生成高动态范围图像的方法、装置及移动终端
CN108111754B (zh) 一种确定图像采集模式的方法及移动终端
CN108234882B (zh) 一种图像虚化方法及移动终端
CN110930329B (zh) 星空图像处理方法及装置
CN110365907B (zh) 一种拍照方法、装置及电子设备
CN107566749B (zh) 拍摄方法及移动终端
CN108513067B (zh) 一种拍摄控制方法及移动终端
CN110969981A (zh) 屏幕显示参数调节方法及电子设备
CN107623818B (zh) 一种图像曝光方法和移动终端
CN107730460B (zh) 一种图像处理方法及移动终端
CN109819166B (zh) 一种图像处理方法和电子设备
CN111601032A (zh) 一种拍摄方法、装置及电子设备
CN109104578B (zh) 一种图像处理方法及移动终端
CN109246351B (zh) 一种构图方法及终端设备
CN111401463A (zh) 检测结果输出的方法、电子设备及介质
CN107807488B (zh) 一种摄像头组件、光圈调整方法及移动终端
CN110708475B (zh) 一种曝光参数确定方法、电子设备及存储介质
CN110636225B (zh) 拍照方法及电子设备
CN110881105B (zh) 一种拍摄方法及电子设备
CN110602384B (zh) 曝光控制方法及电子设备
CN109639981B (zh) 一种图像拍摄方法及移动终端
CN111145151A (zh) 一种运动区域确定方法及电子设备
CN111131722A (zh) 图像处理方法、电子设备及介质
CN107798662B (zh) 一种图像处理方法及移动终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant