CN112866552B - 对焦方法和装置、电子设备、计算机可读存储介质 - Google Patents
对焦方法和装置、电子设备、计算机可读存储介质 Download PDFInfo
- Publication number
- CN112866552B CN112866552B CN201911102675.6A CN201911102675A CN112866552B CN 112866552 B CN112866552 B CN 112866552B CN 201911102675 A CN201911102675 A CN 201911102675A CN 112866552 B CN112866552 B CN 112866552B
- Authority
- CN
- China
- Prior art keywords
- region
- phase difference
- difference data
- image
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Focusing (AREA)
Abstract
本申请涉及一种对焦方法和装置、电子设备、计算机可读存储介质。所述方法包括获取第一图像,以及所述第一图像中的感兴趣区域;将所述感兴趣区域划分为至少两个候选区域;获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个所述候选区域中确定目标区域;基于所述目标区域进行对焦。上述方法和装置、电子设备、计算机可读存储介质,可以提高对焦的准确性。
Description
技术领域
本申请涉及图像处理技术领域,特别是涉及一种对焦方法、装置、电子设备、计算机可读存储介质。
背景技术
在拍摄图像时,为了保证图像拍摄清晰,通常需要对摄像设备进行对焦,所谓对焦指的是调节镜头与图像传感器之间的距离的过程。当前,比较常见的对焦方式包括相位检测自动对焦(英文:phase detection auto focus;简称:PDAF)。
在相位检测自动对焦中,通常是设置成对的遮蔽像素点,通过该成对的遮蔽像素点进行匹配而得到相位差,再基于该相位差进行对焦。然而,该传统的对焦方法,存在准确度不高的问题。
发明内容
本申请实施例提供一种对焦方法、装置、电子设备、计算机可读存储介质,可以提高对焦的准确度。
一种对焦方法,包括:
获取第一图像,以及所述第一图像中的感兴趣区域;
将所述感兴趣区域划分为至少两个候选区域;
获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;
根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个所述候选区域中确定目标区域;
基于所述目标区域进行对焦。
一种对焦装置,包括:
感兴趣区域获取模块,用于获取第一图像,以及所述第一图像中的感兴趣区域;
划分模块,用于将所述感兴趣区域划分为至少两个候选区域;
相位差数据获取模块,用于获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;
目标区域确定模块,用于根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个所述候选区域中确定目标区域;
对焦模块,用于基于所述目标区域进行对焦。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行上述的对焦方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述的方法的步骤。
上述对焦方法和装置、电子设备、计算机可读存储介质,获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度,两个成预设角度的方向的相位差数据,相比传统方法中仅有水平方向的相位差数据,可以更准确地确定各个候选区域的相位差;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,可以从各个候选区域中确定更加准确的目标区域,基于目标区域可以更准确进行对焦。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中图像处理电路的示意图;
图2为一个实施例中对焦方法的流程图;
图3为PDAF技术的原理示意图;
图4为在图像传感器包括的像素点中成对地设置相位检测像素点的示意图;
图5为一个实施例中一种成像设备的结构示意图;
图6为一个实施例中一种图像传感器的部分的结构示意图;
图7为一个实施例中像素点的结构示意图;
图8为一个实施例中图像传感器的内部结构示意图;
图9为一个实施例中一种像素点组的示意图;
图10为一个实施例中步骤获取相位差数据的流程图;
图11为一个实施例中步骤获取目标相位差数据的流程图;
图12为一个实施例中对焦装置的结构框图;
图13为一个实施例中电子设备的内部结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一图像称为第二图像,且类似地,可将第二图像称为第一图像。第一图像和第二图像两者都是图像,但其不是同一图像。
本申请实施例提供一种电子设备。上述电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图1为一个实施例中图像处理电路的示意图。如图1所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图1所示,图像处理电路包括ISP处理器140和控制逻辑器150。成像设备110捕捉的图像数据首先由ISP处理器140处理,ISP处理器140对图像数据进行分析以捕捉可用于确定和/或成像设备110的一个或多个控制参数的图像统计信息。成像设备110可包括具有一个或多个透镜112和图像传感器114的照相机。图像传感器114可包括色彩滤镜阵列(如Bayer滤镜),图像传感器114可获取用图像传感器114的每个成像像素捕捉的光强度和波长信息,并提供可由ISP处理器140处理的一组原始图像数据。姿态传感器120(如三轴陀螺仪、霍尔传感器、加速度计)可基于姿态传感器120接口类型把采集的图像处理的参数(如防抖参数)提供给ISP处理器140。姿态传感器120接口可以利用SMIA(Standard Mobile ImagingArchitecture,标准移动成像架构)接口、其它串行或并行照相机接口或上述接口的组合。
此外,图像传感器114也可将原始图像数据发送给姿态传感器120,传感器120可基于姿态传感器120接口类型把原始图像数据提供给ISP处理器140,或者姿态传感器120将原始图像数据存储到图像存储器130中。
ISP处理器140按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器140可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
ISP处理器140还可从图像存储器130接收图像数据。例如,姿态传感器120接口将原始图像数据发送给图像存储器130,图像存储器130中的原始图像数据再提供给ISP处理器140以供处理。图像存储器130可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自图像传感器114接口或来自姿态传感器120接口或来自图像存储器130的原始图像数据时,ISP处理器140可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器130,以便在被显示之前进行另外的处理。ISP处理器140从图像存储器130接收处理数据,并对所述处理数据进行原始域中以及RGB和YCbCr颜色空间中的图像数据处理。ISP处理器140处理后的图像数据可输出给显示器160,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,ISP处理器140的输出还可发送给图像存储器130,且显示器160可从图像存储器130读取图像数据。在一个实施例中,图像存储器130可被配置为实现一个或多个帧缓冲器。
ISP处理器140确定的统计数据可发送给控制逻辑器150单元。例如,统计数据可包括陀螺仪的振动频率、自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜112阴影校正等图像传感器114统计信息。控制逻辑器150可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定成像设备110的控制参数及ISP处理器140的控制参数。例如,成像设备110的控制参数可包括姿态传感器120控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、照相机防抖位移参数、透镜112控制参数(例如聚焦或变焦用焦距)、或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及透镜112阴影校正参数。
在一个实施例中,成像设备(照相机)中的图像传感器114可以包括阵列排布的多个像素点组,其中,每个像素点组包括阵列排布的M*N个像素点;其中,M和N均为大于或等于2的自然数。
通过成像设备(照相机)110中的透镜112和图像传感器114获取第一图像,并将第一图像发送至ISP处理器140。ISP处理器140接收到第一图像后,可以对第一图像进行主体检测,得到第一图像中的感兴趣区域,也可以通过获取用户所选中的区域作为感兴趣区域,还可以通过其他方式获取感兴趣区域,不限于此。
ISP处理器140确定第一图像的感兴趣区域之后,将该感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域,并将该目标区域的相关信息如位置信息、轮廓信息等发送至控制逻辑器150。
控制逻辑器150接收到目标区域的相关信息之后,控制成像设备(照相机)中的透镜112进行移动,从而对焦至目标区域对应的实际场景中的位置上。
本申请相比传统方法中仅有水平方向的相位差数据,根据第一方向的相位差数据以及与第一方向成预设角度的第二方向的相位差数据,可以更准确地确定各个候选区域的相位差;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,可以从各个候选区域中确定更加准确的目标区域,基于目标区域可以更准确进行对焦。
图2为一个实施例中对焦方法的流程图。如图2所示,对焦方法包括步骤202至步骤206。
步骤202,获取第一图像,以及第一图像中的感兴趣区域。
第一图像可以是RGB(Red,Green,Blue)图像、灰度图像、深度图像等其中的任意一种。
在本申请提供的实施例中,第一图像可以通过电子设备拍摄得到。电子设备可以设置摄像头,设置的摄像头的数量可以是一个或者多个。例如,设置1个、2个、3个、5个等,在此不做限定。摄像头设置于电子设备的形式不限,例如,可以是内置于电子设备的摄像头,也可以外置于电子设备的摄像头;可以是前置摄像头,也可以是后置摄像头。
电子设备上的摄像头可以为任意类型的摄像头。例如,摄像头可以是彩色摄像头、黑白摄像头、深度摄像头、长焦摄像头、广角摄像头等,不限于此。
相对应地,通过彩色摄像头获取彩色图像,即RGB图像,通过黑白摄像头获取灰度图像,通过深度摄像头获取深度图像,通过长焦摄像头获取长焦图像,通过广角摄像头获取广角图像,不限于此。电子设备中的摄像头可以是相同类型的摄像头,也可以是不同类型的摄像头。例如,可以均是彩色摄像头,也可以均是黑白摄像头;可以其中的一个摄像头为长焦摄像头,其他的摄像头为广角摄像头,不限于此。
第一图像中的感兴趣区域一般为第一图像中的主体区域。在一个实施例中,可以对第一图像进行主体检测,得到第一图像中的感兴趣区域。其中,主体检测(salientobject detection)是指面对一个场景时,自动地对感兴趣区域进行处理而选择性的忽略不感兴趣区域。感兴趣区域称为主体区域。
其中,主体是指各种对象,如人、花、猫、狗、牛、蓝天、白云、背景等。
在一个实施例中,对第一图像进行主体检测,得到第一图像中的感兴趣区域,包括:步骤1至步骤3。其中,步骤1:生成与第一图像对应的中心权重图,其中,该中心权重图所表示的权重值从中心到边缘逐渐减小。
其中,中心权重图是指用于记录第一图像中各个像素的权重值的图。中心权重图中记录的权重值从中心向四边逐渐减小,即中心权重最大,向四边权重逐渐减小。通过中心权重图表征第一图像的图像中心像素到图像边缘像素的权重值逐渐减小。
ISP处理器或中央处理器可以根据第一图像的大小生成对应的中心权重图。该中心权重图所表示的权重值从中心向四边逐渐减小。中心权重图可采用高斯函数、或采用一阶方程、或二阶方程生成。该高斯函数可为二维高斯函数。
步骤2,将该第一图像和中心权重图输入到主体检测模型中,得到主体区域置信度图,其中,主体检测模型是预先根据同一场景的第一图像、深度图、中心权重图及对应的已标注的主体掩膜图进行训练得到的模型。
其中,主体检测模型是预先采集大量的训练数据,将训练数据输入到包含有初始网络权重的主体检测模型进行训练得到的。每组训练数据包括同一场景对应的第一图像、中心权重图及已标注的主体掩膜图。其中,第一图像和中心权重图作为训练的主体检测模型的输入,已标注的主体掩膜(mask)图作为训练的主体检测模型期望输出得到的真实值(ground truth)。主体掩膜图是用于识别图像中主体的图像滤镜模板,可以遮挡图像的其他部分,筛选出图像中的主体。主体检测模型可训练能够识别检测各种主体,如人、花、猫、狗、背景等。
具体地,ISP处理器或中央处理器可将该第一图像和中心权重图输入到主体检测模型中,进行检测可以得到主体区域置信度图。主体区域置信度图是用于记录主体属于哪种能识别的主体的概率,例如某个像素点属于人的概率是0.8,花的概率是0.1,背景的概率是0.1。
步骤3,根据该主体区域置信度图确定该第一图像中的感兴趣区域。
其中,感兴趣区域是指各种对象,如人、花、猫、狗、牛、蓝天、白云、背景等。感兴趣区域可根据需要选择。
具体地,ISP处理器或中央处理器可根据主体区域置信度图选取置信度最高或次高等作为第一图像中的主体,若存在一个主体,则将该主体作为感兴趣区域;若存在多个主体,可根据需要选择其中一个或多个主体作为感兴趣区域。
本实施例中的图像处理方法,获取第一图像,并生成与第一图像对应的中心权重图后,将第一图像和中心权重图输入到对应的主体检测模型中检测,可以得到主体区域置信度图,根据主体区域置信度图可以确定得到第一图像中的感兴趣区域,利用中心权重图可以让图像中心的对象更容易被检测,利用训练好的利用第一图像、中心权重图和主体掩膜图等训练得到的主体检测模型,可以更加准确的识别出第一图像中的感兴趣区域。
在另一个实施例中,第一图像中的感兴趣区域也可以通过用户选择得到,不限于此。
步骤204,将感兴趣区域划分为至少两个候选区域。
可以理解的是,通过用户选择得到或者通过主体检测得到的感兴趣区域,通常还包括了背景区域的边缘,或者包括了一些障碍物等区域。因此,可以再将感兴趣区域进行划分,划分为至少两个候选区域。
在一个实施例中,可以将感兴趣区域划分为九宫格,即划分为九个候选区域。在另一个实施例中,可以将感兴趣区域划分为2*5的候选区域,即划分为10个候选区域。在其他实施例中,还可以将感兴趣区域划分为其他数量的候选区域。
将感兴趣区域划分得到的各个候选区域的大小和形状可以均相同,也可以均不同,还可以其中一种相同,另外一种不同。具体的划分方法并不限定,可以根据用户需要进行设定。
步骤206,获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度。
在拍摄图像时,为了保证图像拍摄清晰,通常需要对摄像设备进行对焦,所谓“对焦”指的是调节摄像设备的镜头与图像传感器之间的距离,从而使图像传感器成像清晰的过程。其中,相位检测自动对焦(英文:phase detection auto focus;简称:PDAF)是一种比较常见的自动对焦技术。
下面,本申请实施例将对PDAF技术的原理进行简要说明。
请参考图3,M1为摄像设备处于合焦状态时,图像传感器所处的位置,其中,合焦状态指的是成功对焦的状态,请参考图3,当图像传感器位于M1位置时,由物体W反射向镜头Lens的不同方向上的成像光线g在图像传感器上会聚,也即是,由物体W反射向镜头Lens的不同方向上的成像光线g在图像传感器上的同一位置处成像,此时,图像传感器成像清晰。
M2和M3为摄像设备不处于合焦状态时,图像传感器所可能处于的位置,如图3所示,当图像传感器位于M2位置或M3位置时,由物体W反射向镜头Lens的不同方向上的成像光线g会在不同的位置成像。请参考图3,当图像传感器位于M2位置时,由物体W反射向镜头Lens的不同方向上的成像光线g在位置A和位置B分别成像,当图像传感器位于M3位置时,由物体W反射向镜头Lens的不同方向上的成像光线g在位置C和位置D分别成像,此时,图像传感器成像不清晰。
在PDAF技术中,可以获取从不同方向射入镜头的成像光线在图像传感器中所成的像在位置上的差异,例如,如图3所示,可以获取位置A和位置B的差异,或者,获取位置C和位置D的差异;在获取到从不同方向射入镜头的成像光线在图像传感器中所成的像在位置上的差异之后,可以根据该差异以及摄像机中镜头与图像传感器之间的几何关系,得到离焦值,所谓离焦值指的是图像传感器当前所处的位置与合焦状态时图像传感器所应该处于的位置的距离;摄像设备可以根据得到的离焦值进行对焦。
其中,通常可以将“从不同方向射入镜头的成像光线在图像传感器中所成的像在位置上的差异”称为相位差(Phase Difference)。根据上述说明可知,在PDAF技术中,获取相位差是一个非常关键的技术环节。
需要指出的是,实际应用中,相位差可以应用于多种不同的场景,对焦场景仅仅是一种比较可能的场景。例如,可以将相位差应用于深度图的获取场景中,也即是,可以利用相位差获取深度图;又例如,可以将相位差用于三维图像的重构场景中,也即是,可以利用相位差实现三维图像的重构。本申请实施例旨在提供一种获取相位差的方法,至于在获取到相位差之后,将该相位差应用于何种场景,本申请实施例不做具体限定。
相关技术中,可以在图像传感器包括的像素点中成对地设置一些相位检测像素点,请参考图4,如图4所示,图像传感器中可以设置有相位检测像素点对(以下称为像素点对)A,像素点对B和像素点对C。其中,在每个像素点对中,一个相位检测像素点进行左侧遮挡(英文:Left Shield),另一个相位检测像素点进行右侧遮挡(英文:Right Shield)。
对于进行了左侧遮挡的相位检测像素点而言,射向该相位检测像素点的成像光束中仅有右侧的光束才能在该相位检测像素点的感光部分(也即是未被遮挡的部分)上成像,对于进行了右侧遮挡的相位检测像素点而言,射向该相位检测像素点的成像光束中仅有左侧的光束才能在该相位检测像素点的感光部分(也即是未被遮挡的部分)上成像。这样,就可以将成像光束分为左右两个部分,通过对比左右两部分成像光束所成的像,即可得到相位差。
然而,对于只有水平纹理的对象,例如拍摄一条水平方向的横线时,则左右两部分成像光束所成的像依旧相同,无法得到准确的相位差,从而无法准确进行对焦。
因此,本申请的实施例提出了一种对焦方法,获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度。
每个候选区域均包括第一方向的相位差数据和第二方向的相位差数据。例如,第一方向为水平方向,则第二方向可以为垂直方向;又如,第一方向为45度方向,则第二方向为90度方向。第一方向和第二方向可成预设夹角,该预设夹角可为除0度、180度和360度外的任意角度。
当第一方向为水平方向,第二方向为与水平方向成预设角度的其他方向时,针对水平纹理的对象,则可以根据第二方向的相位差数据,从而可以确定更准确的相位差。并且,候选区域包括了两个方向的相位差数据,相比传统技术中仅有一个水平方向的相位差数据,也可以更准确地得到相位差。
步骤208,根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域。
目标区域指的是用于对焦的区域。一般地,可以将相位差数据最准确的候选区域确定为目标区域。在其他实施例中,也可以将相位差数据次准确的候选区域确定为目标区域,不限于此。
每个候选区域包括了第一方向的相位差数据和第二方向的相位差数据,可以根据第一方向的相位差数据和第二方向的相位差数据确定各个候选区域的目标相位差数据,根据各个候选区域的目标相位差数据确定目标区域。
在一个实施例中,每个候选区域可以将该候选区域的第一方向的相位差数据和第二方向的相位差数据求平均值,将该平均值作为该候选区域的目标相位差数据。
在另一个实施例中,每个候选区域还可以将该候选区域的第一方向的相位差数据和第二方向的相位差数据进行比较,将数值较高的相位差数据作为该候选数据的目标相位差数据。
在另一个实施例中,每个候选区域还可以对该候选区域的第一方向的相位差数据和第二方向的相位差数据设置不同的权重,从而根据第一方向的相位差数据以及对应的权重、第二方向的相位差数据以及对应的权重,确定各个候选区域的目标相位差数据。
例如,候选区域A的第一方向的相位差数据PD1的权重为0.3,第二方向的相位差数据PD2的权重为0.7,则候选区域A的目标相位差数据可以为0.3*PD1+0.7*PD2。
在一个实施例中,还可以直接将候选区域的第一方向的相位差数据和第二方向的相位差数据中的任意一个作为该候选区域的目标相位差数据。
步骤210,基于目标区域进行对焦。
对焦指的是通过摄像头的对焦机构变动物距和相距的位置,使被拍物成像清晰的过程。
基于目标区域进行对焦,即对焦至目标区域所对应的实际场景中的对象的位置上。具体地,可以获取目标区域的深度距离,根据该深度距离移动透镜,使得透镜的焦点集中在该目标区域所对应的实际场景中的对象上,拍摄得到该对象清晰的下一帧图像。
上述对焦方法,获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度,两个成预设角度的方向的相位差数据,相比传统方法中仅有水平方向的相位差数据,可以更准确地确定各个候选区域的相位差;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,可以从各个候选区域中确定更加准确的目标区域,基于目标区域可以更准确进行对焦。
当电子设备拍摄小物体或者纹理较弱的对象时,由于物体较小或者纹理较弱,容易对焦至其他物体上,造成对焦不准确的问题。而在本实施例中,先确定第一图像中的感兴趣区域,将感兴趣区域划分为至少两个候选区域,再从候选区域中确定目标区域,基于目标区域进行对焦。确定的感兴趣区域为用户拍摄的对象对应的区域,则确定的目标区域均是在感兴趣区域之内,对焦时不会对焦至感兴趣之外,避免了拍摄小物体或者纹理较弱的对象时,对焦至其他物体上,提高了对焦的准确性。
在一个实施例中,上述对焦方法应用于电子设备中,电子设备中包括图像传感器,图像传感器包括阵列排布的多个像素点组,每个像素点组包括阵列排布的M*N个像素点;其中,M和N均为大于或等于2的自然数。
请参考图5,其示出了电子设备中的摄像设备的结构示意图,如图5所示,该摄像设备可以包括镜头502和图像传感器504,其中,镜头502可以由一系列透镜组成,图像传感器504可以为金属氧化物半导体元件(英文:Complementary Metal Oxide Semiconductor;简称:CMOS)图像传感器、电荷耦合元件(英文:Charge-coupled Device;简称:CCD)、量子薄膜传感器或者有机传感器等。
请参考图6,其示出了图像传感器504的一部分的结构示意图,如图6所示,该图像传感器504可以包括阵列排布的多个像素点组Z,其中,每个像素点组Z包括阵列排布的多个像素点D,每个像素点D对应一个感光单元。多个像素点包括M*N个像素点,其中,M和N均为大于或等于2的自然数。每个像素点包括阵列排布的多个子像素点d。也就是每个感光单元可以由多个阵列排布的感光元件组成。其中,感光元件是一种能够将光信号转化为电信号的元件。在一个实施例中,感光元件可为光电二极管。
本实施例中,每个像素点组Z包括2*2阵列排布的4个像素点D,每个像素点可包括2*2阵列排布的4个子像素点d。其中,每个像素点D包括2*2个光电二极管,2*2个光电二极管与2*2阵列排布的4个子像素点d对应设置。每个光电二极管用于接收光信号并进行光电转换,从而将光信号转换为电信号输出。每个像素点D所包括的4个子像素点d与同一颜色的滤光片对应设置,因此每个像素点D对应于一个颜色通道,比如红色R通道,或者绿色通道G,或者蓝色通道B。
如图7所示,以每个像素点包括子像素点1、子像素点2、子像素点3和子像素点4为例,可将子像素点1和子像素点2信号合并输出,子像素点3和子像素点4信号合并输出,从而构造成沿着第二方向(即竖直方向)的两个PD像素对,根据两个PD像素对的相位值可以确定像素点D内各子像素点沿第二方向的PD值(相位差值)。将子像素点1和子像素点3信号合并输出,子像素点2和子像素点4信号合并输出,从而构造沿着第一方向(即水平方向)的两个PD像素对,根据两个PD像素对的相位值可以确定像素点D内各子像素点沿第一方向的PD值(相位差值)。
图8为一个实施例中成像设备的内部结构示意图,成像设备包括透镜和图像传感器。如图8所示,该图像传感器包括透镜80、滤光片82和感光单元84依次位于入射光路上,即透镜80设置在滤光片82之上,滤光片82设置在感光单元84上。
成像组件54包括图3中的图像传感器。图像传感器包括阵列排布的多个像素点组Z,每个像素点组Z包括阵列排布的多个像素点D,每个像素点D对应一个感光单元,每个感光单元可以由多个阵列排布的感光元件组成。本实施例中,每个像素点D包括2*2阵列排布的4个子像素点d,每个子像素点d对应一个光点二极管542,即2*2个光电二极管542与2*2阵列排布的4个子像素点d对应设置。
滤光片82可包括红、绿、蓝三种,分别只能透过红色、绿色、蓝色对应波长的光线。一个像素点D所包括的4个子像素点d与同一颜色的滤光片对应设置。在其他实施例中,滤光片也可以是白色,方便较大光谱(波长)范围的光线通过,增加透过白色滤光片的光通量。
透镜80用于接收入射光,并将入射光传输给滤光片82。滤光片82对入射光进行平滑处理后,将平滑处理后的光以像素为基础入射到感光单元84上。
成像组件54包括的图像传感器中的感光单元通过光电效应将从滤光片52入射的光转换成电荷信号,并生成与电荷信号一致的像素信号,经过一系列处理后最终输出图像。
由上文说明可知,图像传感器包括的像素点与图像包括的像素是两个不同的概念,其中,图像包括的像素指的是图像的最小组成单元,其一般由一个数字序列进行表示,通常情况下,可以将该数字序列称为像素的像素值。本申请实施例对“图像传感器包括的像素点”以及“图像包括的像素”两个概念均有所涉及,为了方便读者理解,在此进行简要的解释。
请参考图9,其示出了一种示例性的像素点组Z的示意图,如图9所示,像素点组Z包括按照两行两列的阵列排布方式进行排布的4个像素点D,其中,第一行第一列的像素点的颜色通道为绿色,也即是,第一行第一列的像素点包括的滤光片为绿色滤光片,第一行第二列的像素点的颜色通道为红色,也即是,第一行第二列的像素点包括的滤光片为红色滤光片,第二行第一列的像素点的颜色通道为蓝色,也即是,第二行第一列的像素点包括的滤光片为蓝色滤光片,第二行第二列的像素点的颜色通道为绿色,也即是,第二行第二列的像素点包括的滤光片为绿色滤光片。
如图10所示,获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,包括:
步骤1002,根据每个像素点组包括的像素点的亮度值获取目标亮度图。
通常情况下,图像传感器的像素点的亮度值可以由该像素点包括的子像素点的亮度值来进行表征。换句话说,在步骤802中,摄像设备可以根据每个像素点组包括的像素点中子像素点的亮度值来获取该目标亮度图。所谓“子像素点的亮度值”指的是该子像素点接收到的光信号的亮度值。
如上文所述,图像传感器包括的子像素点是一种能够将光信号转化为电信号的感光元件,因此,可以根据子像素点输出的电信号来获取该子像素点接收到的光信号的强度,根据子像素点接收到的光信号的强度即可得到该子像素点的亮度值。
本申请实施例中的目标亮度图用于反映图像传感器中子像素点的亮度值,该目标亮度图可以包括多个像素,其中,目标亮度图中的每个像素的像素值均是根据图像传感器中子像素点的亮度值得到的。
步骤1004,以第一方向对目标亮度图进行切分处理,得到第一切分亮度图和第二切分亮度图。
当第一方向为水平方向时,即以水平方向对目标亮度图进行切分处理后得到的第一切分亮度图和第二切分亮度图可以分别称为上图和下图。
当第一方向为垂直方向时,以第一方向对目标亮度图进行切分处理后得到的第一切分亮度图和第二切分亮度图可以分别称为左图和右图。
步骤1006,根据第一切分亮度图和第二切分亮度图中相互匹配的待检测点的位置差异,确定第二方向的相位差数据。
待检测点指的是用于检测相位差数据的点。待检测点可以包括一个或者多个像素。例如,第一切分亮度图中一个3行3列的像素矩阵,作为一个待检测点a,该待检测点a的像素值为:
2 10 90
1 20 80
0 100 1
第二切分亮度图中另一个3行3列的像素矩阵,作为另一个待检测点b,该待检测点b的像素值为:
1 10 90
1 21 80
0 100 2
由上文可以看出,这两个矩阵是相似的,则可以认为待检测点a和待检测点b相互匹配。至于如何判断像素矩阵是否相似,实际应用中有许多不同的方法,一种较为常见的方法是,对两个像素矩阵中的每个对应的像素的像素值求差,再将求得的差值的绝对值进行相加,利用该相加的结果来判断像素矩阵是否相似,也即是,若该相加的结果小于预设的某一阈值,则认为像素矩阵相似,否则,则认为像素矩阵不相似。
例如,对于上述两个3行3列的像素矩阵而言,可以分别将1和2求差,将10和10求差,将90和90求差,……,再将求得的差的绝对值相加,得到相加结果为3,该相加结果3小于预设的阈值,则认为上述两个3行3列的像素矩阵相似。
另一种比较常见的判断像素矩阵是否相似的方法是利用sobel卷积核计算方式或者高拉普拉斯计算方式等方式提取其边缘特征,通过边缘特征来判断像素矩阵是否相似。
在本申请实施例中,“相互匹配的待检测点的位置差异”指的是,相互匹配的待检测点中位于第一切分亮度图中的待检测点的位置和位于第二切分亮度图中的待检测点的位置的差异。如上述举例,相互匹配的待检测点a和待检测点b的位置差异指的是待检测点a在第一切分亮度图中的位置和待检测点b在第二切分亮度图中的位置的差异。
相互匹配的待检测点分别对应于从不同方向射入镜头的成像光线在图像传感器中所成的不同的像。例如,第一切分亮度图中的待检测点a与第二切分亮度图中的待检测点b相互匹配,其中,该待检测点a可以对应于图3中在A位置处所成的像,待检测点b可以对应于图3中在B位置处所成的像。
由于相互匹配的待检测点分别对应于从不同方向射入镜头的成像光线在图像传感器中所成的不同的像,因此,根据相互匹配的待检测点的位置差异,即可确定该相互匹配的待检测点的相位差数据。
例如,第一方向为垂直方向,则以第一方向对目标亮度图进行切分处理,得到的第一切分亮度图和第二切分亮度图分别为左图和右图,则根据第一切分亮度图和第二切分亮度图,即左图和右图确定的相位差数据为水平方向的相位差数据,即第二方向的相位差数据。
步骤1008,以第二方向对目标亮度图进行切分处理,得到第三切分亮度图和第四切分亮度图。
当第一方向为水平方向时,则第二方向为垂直方向,以第二方向对目标亮度图进行切分处理后得到的第三切分亮度图和第四切分亮度图可以分别称为左图和右图。
当第一方向为垂直方向时,则第二方向为水平方向,以第二方向对目标亮度图进行切分处理后得到的第三切分亮度图和第四切分亮度图可以分别称为上图和下图。
步骤1010,根据第三切分亮度图和第四切分亮度图中相互匹配的待检测点的位置差异,确定第一方向的相位差数据。
同样地,“相互匹配的待检测点的位置差异”指的是,相互匹配的待检测点中位于第三切分亮度图中的待检测点的位置和位于第四切分亮度图中的待检测点的位置的差异。
由于相互匹配的待检测点分别对应于从不同方向射入镜头的成像光线在图像传感器中所成的不同的像,因此,根据相互匹配的待检测点的位置差异,即可确定该相互匹配的待检测点的相位差数据。
例如,第一方向为垂直方向,则第二方向为水平方向,则以第二方向对目标亮度图进行切分处理,得到的第三切分亮度图和第四切分亮度图分别为上图和下图,则根据第三切分亮度图和第四切分亮度图,即上图和下图确定的相位差数据为垂直方向的相位差数据,即第一方向的相位差数据。
上述对焦方法,根据每个像素点组包括的像素点的亮度值获取目标亮度图;以第一方向对目标亮度图进行切分处理,得到第一切分亮度图和第二切分亮度图,进而根据第一切分亮度图和第二切分亮度图中相互匹配的待检测点的位置差异,确定更准确的第二方向的相位差数据;以第二方向对目标亮度图进行切分处理,得到第三切分亮度图和第四切分亮度图,进而根据第三切分亮度图和第四切分亮度图中相互匹配的待检测点的位置差异,确定更准确的第一方向的相位差数据。
在一个实施例中,将感兴趣区域划分为至少两个候选区域,包括:获取感兴趣区域中所包含的待检测点的数量;根据待检测点的数量确定候选区域的第一数量。将感兴趣区域划分为第一数量的候选区域,其中第一数量大于或等于2。
可以理解的是,当候选区域中的待检测点的数量越多时,则确定该候选区域的第一方向的相位差数据和第二方向的相位差数据越准确。而当将感兴趣区域划分得越细时,即候选区域的第一数量越大时,可以确定更准确的目标区域,从而更准确地对焦。
当候选区域的第一数量越大,则将感兴趣区域划分得越细,那么每个候选区域中所包含的待检测点越少,则候选区域的相位差数据越不准确。因此,需要将候选区域的第一数量确定在合适的范围内。
具体地,可以预先设置待检测点的数量与第一数量的对应关系,根据该对应关系以及感兴趣区域中所包含的待检测点的数量,确定候选区域的第一数量。例如,预先设置待检测点的数量与第一数量的对应关系为:[10,50)→4,[50,100)→10,[100,200)→20,[200,1000)→100,当感兴趣区域中所包含的待检测点的数量为50时,第一数量为10,将感兴趣区域划分10个候选区域;当感兴趣区域中所包含的待检测点的数量为250时,第一数量为100,将感兴趣区域划分100个候选区域。
上述对焦方法,获取感兴趣区域中所包含的待检测点的数量,根据待检测点的数量确定候选区域的第一数量,并将感兴趣区域划分为第一数量的候选区域,既可以保证候选区域的相位差数据的准确性,也可以将候选区域划分得尽量细,从而确定更准确的目标区域。
在一个实施例中,如图11所示,根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域,包括:
步骤1102,获取各个候选区域的第一方向的相位差数据的可信度。
可信度指的是可以信任的程度。当一个相位差数据的可信度越高时,表示该相位差数据越准确,越可以信任该相位差数据;当一个相位差数据的可信度越低时,表示该相位差数据越不准确,越不可以信任该相位差数据。
当电子设备中的ISP处理器计算得到各个候选区域的第一方向的相位差数据时,会同时输出该相位差数据的可信度。该相位差数据的可信度可以根据多个维度进行计算,例如,第一图像的环境光亮度,摄像头的硬件参数,第一图像的清晰程度,等等。
当第一图像的环境光亮度越亮时,则第一图像可以获取更多的图像信息,计算得到的相位差数据更准确,可信度更高。当摄像头的硬件参数越好,如摄像头的分辨率越高,摄像头的曝光效果越好等,则拍摄得到的第一图像质量更高,可以更准确地计算得到相位差数据,可信度更高。当第一图像的清晰程度越高,则可以获取更准确的感兴趣区域,从而计算出更准确的相位差数据,可信度更高。
其中,置信度用于表示相位差计算结果的可信程度。本实施例中,以计算水平相位差为例,计算图像中某一行坐标x的相位差,取左图x-2,x-1,x,x+1,x+2共5个像素点的亮度值,右图上做移动,移动范围可为-10到+10。即:
对右图亮度值Rx-12,Rx-11,Rx-10,Rx-9,Rx-8和x-2,x-1,x,x+1,x+2做相似比较;
对右图亮度值Rx-11,Rx-10,Rx-9,Rx-8,Rx-7和x-2,x-1,x,x+1,x+2做相似比较;
……
对右图亮度值Rx-2,Rx-1,Rx,Rx+1,Rx+2和x-2,x-1,x,x+1,x+2做相似比较;
对右图亮度值Rx-1,Rx,Rx+1,Rx+2,Rx+3和x-2,x-1,x,x+1,x+2做相似比较;
……
对右图亮度值Rx+7,Rx+8,Rx+9,Rx+10,Rx+11和x-2,x-1,x,x+1,x+2做相似比较
对右图亮度值Rx+8,Rx+9,Rx+10,Rx+11,Rx+12和x-2,x-1,x,x+1,x+2做相似比较。
以右图五个像素点值为Rx-2,Rx-1,Rx,Rx+1,Rx+2,左图五个像素点值为x-2,x-1,x,x+1,x+2为例,相似度匹配程度可以为|Rx-2-x-2|+|Rx-1-x-1|+|Rx-x|+|Rx+1--x+1|+|Rx+2-x+2|。相似度匹配程度的值越小,相似度越高。相似度越高,可信度越高。相似的像素点值可作为相匹配的像素点得到相位差。而对于上图和下图,可取上图中的一列像素点的亮度值和下图中一列相同数量的像素点的亮度值作相似比较。上图和下图的可信度获取过程与左图和右图的过程类似,在此不再赘述。步骤1104,将各个候选区域的第一方向的相位差数据的可信度大于可信度阈值的相位差数据,作为第一方向的目标相位差数据。
当候选区域的第一方向的相位差数据的可信度大于可信度阈值时,表示该相位差数据的准确度较高,可以将该相位差数据作为第一方向的目标相位差数据。当可信度小于或等于可信度阈值时,表示该相位差数据的准确度较低,则去除该相位差数据。
步骤1106,获取各个候选区域的第二方向的相位差数据的可信度。
当电子设备中的ISP处理器计算得到各个候选区域的第二方向的相位差数据时,会同时输出该相位差数据的可信度。该相位差数据的可信度可以根据多个维度进行计算,例如,第一图像的环境光亮度,摄像头的硬件参数,第一图像的清晰程度,等等。
步骤1108,将各个候选区域的第二方向的相位差数据的可信度大于可信度阈值的相位差数据,作为第二方向的目标相位差数据。
当候选区域的第二方向的相位差数据的可信度大于可信度阈值时,表示该相位差数据的准确度较高,可以将该相位差数据作为第二方向的目标相位差数据。当可信度小于或等于可信度阈值时,表示该相位差数据的准确度较低,则去除该相位差数据。
步骤1110,根据第一方向的目标相位差数据,以及第二方向的目标相位差数据,从各个候选区域中确定目标区域。
需要指出的是,每个候选区域中包括了第一方向的相位差数据和第二方向的相位差数据,即两个相位差数据。而一个候选区域中,可以第一方向的目标相位差数据和第二方向的目标相位差数据,即两个目标相位差数据,也可以包括任意一个目标相位差数据。
上述对焦方法,获取各个相位差数据的可信度,去除可信度较低的相位差数据,即获取各个候选区域的更准确的目标相位差数据,从而确定更准确的目标区域。
在一个实施例中,根据第一方向的目标相位差数据,以及第二方向的目标相位差数据,从各个候选区域中确定目标区域,包括:根据第一方向的目标相位差数据,以及第二方向的目标相位差数据,确定各个候选区域的区域离焦值;将各个候选区域的区域离焦值进行比较,并将区域离焦值最小的候选区域作为目标区域。
区域离焦值指的是该候选区域成像所处的位置与合焦状态时焦点处于的位置的距离值。区域离焦值越大,表示该候选区域成像所处的位置离焦点的距离越远;区域离焦值越小,表示该候选区域成像所处的位置离焦点的距离越近。当区域离焦值为0时,表示图像传感器对焦于该候选区域上,该候选区域处于合焦的位置上。
区域离焦值最小的候选区域,是各个候选区域中最接近合焦位置的候选区域,则将该候选区域作为目标区域,基于该目标区域进行对焦,可以使得透镜移动更少的距离,节约计算机资源。
在一个实施例中,根据第一方向的目标相位差数据,以及第二方向的目标相位差数据,确定各个候选区域的区域离焦值,包括:获取转换系数;根据第一方向的目标相位差数据和转换系数,确定第一离焦值;根据第二方向的目标相位差数据和转换系数,确定第二离焦值;基于每一个候选区域的第一离焦值和第二离焦值,确定各个候选区域的区域离焦值。
转换系数指的是将目标相位差数据转换成离焦值的系数。在一个实施例中,转换系数可以通过对图像传感器进行校准得到。在另一个实施例中,转换系数还可以根据用户需要进行设定。
第一离焦值指的是第一方向的目标相位差数据对应的离焦值。第二离焦值指的是第二方向的目标相位差数据对应的离焦值。在一个实施例中,第一离焦值和第二离焦值均可以根据以下公式计算得到:defocuse=PD*DCC。其中,defocuse为离焦值,PD为相位差数据,DCC为转换系数。
在一个实施例中,获取到各个候选区域的第一离焦值和第二离焦值之后,可以将同一个候选区域的第一离焦值和第二离焦值的平均值作为该候选区域的区域离焦值。
在另一个实施例中,也可以将第一离焦值和第二离焦值中的任意一个作为该候选区域的区域离焦值。
在其他实施例中,还可以对第一离焦值和第二离焦值设置不同的权重,根据第一离焦值和第二离焦值,以及对应的权重,确定该候选区域的区域离焦值。
上述对焦方法,通过转换系数和第一方向的目标相位差数据,可以确定第一离焦值,通过转换系数和第二方向的目标相位差数据,可以确定第二离焦值,在基于每一个候选区域的第一离焦值和第二离焦值,可以确定各个候选区域更准确的区域离焦值。
在一个实施例中,基于目标区域进行对焦,包括:获取目标区域的第一方向的相位差数据的第一可信度,以及第二方向的相位差数据的第二可信度;将第一可信度与第二可信度进行比较,并基于可信度较高的相位差数据进行对焦。
上述内容已经提到,当电子设备中的ISP处理器计算得到各个相位差数据时,会同时输出该相位差数据的可信度。目标区域包括了第一方向的相位差数据,可以得到该第一方向的相位差数据的第一可信度。目标区域还可以包括第二方向的相位差数据,可以得到该第二方向的相位差数据的第二可信度。
确定目标区域之后,可以将目标区域的第一方向的相位差数据的一可信度与第二方向的相位差数据的第二可信度进行比较,可信度较高的相位差数据为更加准确的相位差数据,则基于可信度较高的相位差数据进行对焦。
例如,目标区域的第一方向的相位差数据的第一可信度为90,第二方向的相位差数据的第二可信度为98,则第二方向的相位差数据的可信度较高,第二方向的相位差数据更准确,那么,基于第二方向的相位差数据,可以更准确进行对焦。
在另外一个实施例中,当目标区域中仅包括第一方向的相位差数据和第二方向的相位差数据的其中一个时,则直接基于该目标区域包括的相位差数据进行对焦。
在一个实施例中,上述方法还包括:对焦完成之后,获取第二图像;将第二图像作为第一图像,返回执行获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域;基于目标区域进行对焦步骤。
对焦完成之后,即透镜的焦点处于目标区域所对应的实际场景中的位置时,可以通过图像传感器和透镜拍摄得到第二图像,则第二图像可以呈现出该位置更清晰的画面。
当电子设备处于预览状态或者处于拍摄视频状态时,则可以将第二图像作为第一图像,循环执行获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域;基于目标区域进行对焦步骤,则每一个图像均可以更准确进行对焦,获取每一个更加清晰的图像,从而获取更清晰的预览画面或者视频。
应该理解的是,虽然图2、图10和图11的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2、图10和图11中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
图12为一个实施例的对焦装置的结构框图。如图12所示,提供了一种对焦装置1200,包括:感兴趣区域获取模块1202、划分模块1204、相位差数据获取模块1206、目标区域确定模块1208和对焦模块1210,其中:
感兴趣区域获取模块1202,用于获取第一图像,以及第一图像中的感兴趣区域。
划分模块1204,用于将感兴趣区域划分为至少两个候选区域。
相位差数据获取模块1206,用于获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度。
目标区域确定模块1208,用于根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域。
对焦模块1210,用于基于目标区域进行对焦。
上述对焦装置,获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度,两个成预设角度的方向的相位差数据,相比传统方法中仅有水平方向的相位差数据,可以更准确地确定各个候选区域的相位差;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,可以从各个候选区域中确定更加准确的目标区域,基于目标区域可以更准确进行对焦。
在一个实施例中,该对焦装置1200应用于电子设备中,电子设备中包括图像传感器,图像传感器包括阵列排布的多个像素点组,每个像素点组包括阵列排布的M*N个像素点;其中,M和N均为大于或等于2的自然数。上述相位差数据获取模块1206还用于根据每个像素点组包括的像素点的亮度值获取目标亮度图;以第一方向对目标亮度图进行切分处理,得到第一切分亮度图和第二切分亮度图;根据第一切分亮度图和第二切分亮度图中相互匹配的待检测点的位置差异,确定第二方向的相位差数据;以第二方向对目标亮度图进行切分处理,得到第三切分亮度图和第四切分亮度图;根据第三切分亮度图和第四切分亮度图中相互匹配的待检测点的位置差异,确定第一方向的相位差数据。
在一个实施例中,上述划分模块1204还用于获取感兴趣区域中所包含的待检测点的第二数量;根据待检测点的第二数量确定候选区域的第一数量;将感兴趣区域划分为第一数量的候选区域,其中第一数量大于或等于2。
在一个实施例中,上述目标区域确定模块1208还用于获取各个候选区域的第一方向的相位差数据的可信度;将各个候选区域的第一方向的相位差数据的可信度大于可信度阈值的相位差数据,作为第一方向的目标相位差数据;获取各个候选区域的第二方向的相位差数据的可信度;根据第一方向的目标相位差数据,以及第二方向的目标相位差数据,从各个候选区域中确定目标区域。
在一个实施例中,上述目标区域确定模块1208还用于根据各个第一方向的目标相位差数据,以及第二方向的目标相位差数据,确定各个候选区域的区域离焦值;将各个候选区域的区域离焦值进行比较,并将区域离焦值最小的候选区域作为目标区域。
在一个实施例中,上述目标区域确定模块1208还用于获取转换系数;根据第一方向的目标相位差数据和转换系数,确定第一离焦值;根据第二方向的目标相位差数据和转换系数,确定第二离焦值;基于每一个候选区域的第一离焦值和第二离焦值,确定各个候选区域的区域离焦值。
在一个实施例中,上述对焦模块1210还用于获取目标区域的第一方向的相位差数据的第一可信度,以及第二方向的相位差数据的第二可信度;将第一可信度与第二可信度进行比较,并基于可信度较高的相位差数据进行对焦。
在一个实施例中,上述对焦装置1200还包括循环模块,用于对焦完成之后,获取第二图像;将第二图像作为第一图像,返回执行获取第一图像,以及第一图像中的感兴趣区域;将感兴趣区域划分为至少两个候选区域;获取各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据;第一方向与第二方向成预设角度;根据各个候选区域的第一方向的相位差数据,以及第二方向的相位差数据,从各个候选区域中确定目标区域;基于目标区域进行对焦步骤。
上述对焦装置中各个模块的划分仅用于举例说明,在其他实施例中,可将对焦装置按照需要划分为不同的模块,以完成上述对焦装置的全部或部分功能。
图13为一个实施例中电子设备的内部结构示意图。如图13所示,该电子设备包括通过系统总线连接的处理器和存储器。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器可包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种对焦方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。该电子设备可以是手机、平板电脑或者个人数字助理或穿戴式设备等。
本申请实施例中提供的对焦装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行对焦方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行对焦方法。
本申请实施例所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (11)
1.一种对焦方法,其特征在于,包括:
获取第一图像,以及所述第一图像中的感兴趣区域;所述感兴趣区域是根据主体区域置信度图确定的,所述主体区域置信度图是将所述第一图像对应的中心权重图和所述第一图像输入到主体检测模型中得到,所述中心权重图所表示的权重值从中心到边缘逐渐减小,所述主体检测模型是预先根据同一场景的第一图像、深度图、中心权重图及对应的已标注的主体掩膜图进行训练得到的模型;
将所述感兴趣区域划分为至少两个候选区域;
获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;
根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,将区域离焦值最小的候选区域作为目标区域;所述区域离焦值指的是所述候选区域成像时所处的位置与合焦状态时焦点所处位置之间的距离值;
基于所述目标区域进行对焦。
2.根据权利要求1所述的方法,其特征在于,应用于电子设备中,所述电子设备中包括图像传感器,所述图像传感器包括阵列排布的多个像素点组,每个像素点组包括阵列排布的M*N个像素点;其中,M和N均为大于或等于2的自然数;
所述获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,包括:
根据每个所述像素点组包括的像素点的亮度值获取目标亮度图;
以第一方向对所述目标亮度图进行切分处理,得到第一切分亮度图和第二切分亮度图;
根据所述第一切分亮度图和所述第二切分亮度图中相互匹配的待检测点的位置差异,确定所述第二方向的相位差数据;
以第二方向对所述目标亮度图进行切分处理,得到第三切分亮度图和第四切分亮度图;
根据所述第三切分亮度图和所述第四切分亮度图中相互匹配的待检测点的位置差异,确定所述第一方向的相位差数据。
3.根据权利要求1所述的方法,其特征在于,所述将所述感兴趣区域划分为至少两个候选区域,包括:
获取所述感兴趣区域中所包含的待检测点的数量;
根据所述待检测点的数量确定候选区域的第一数量;
将所述感兴趣区域划分为所述第一数量的候选区域,其中所述第一数量大于或等于2。
4.根据权利要求1所述的方法,其特征在于,所述根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,将区域离焦值最小的候选区域作为目标区域,包括:
获取各个所述候选区域的第一方向的相位差数据的可信度;
将各个所述候选区域的第一方向的相位差数据的可信度大于可信度阈值的相位差数据,作为第一方向的目标相位差数据;
获取各个所述候选区域的第二方向的相位差数据的可信度;
将各个所述候选区域的第二方向的相位差数据的可信度大于可信度阈值的相位差数据,作为第二方向的目标相位差数据;
根据所述第一方向的目标相位差数据,以及所述第二方向的目标相位差数据,将区域离焦值最小的候选区域作为目标区域。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第一方向的目标相位差数据,以及所述第二方向的目标相位差数据,将区域离焦值最小的候选区域作为目标区域,包括:
根据所述第一方向的目标相位差数据,以及第二方向的目标相位差数据,确定各个所述候选区域的区域离焦值;
将各个所述候选区域的区域离焦值进行比较,并将所述区域离焦值最小的候选区域作为目标区域。
6.根据权利要求5所述的方法,其特征在于,所述根据所述第一方向的目标相位差数据,以及第二方向的目标相位差数据,确定各个所述候选区域的区域离焦值,包括:
获取转换系数;
根据所述第一方向的目标相位差数据和所述转换系数,确定第一离焦值;根据所述第二方向的目标相位差数据和所述转换系数,确定第二离焦值;
基于每一个候选区域的所述第一离焦值和第二离焦值,确定各个所述候选区域的区域离焦值。
7.根据权利要求1所述的方法,其特征在于,所述基于所述目标区域进行对焦,包括:
获取所述目标区域的第一方向的相位差数据的第一可信度,以及第二方向的相位差数据的第二可信度;
将所述第一可信度与第二可信度进行比较,并基于可信度较高的相位差数据进行对焦。
8.根据权利要求1至7任一项所述的方法,其特征在于,所述方法还包括:
对焦完成之后,获取第二图像;
将所述第二图像作为第一图像,返回执行所述获取第一图像,以及所述第一图像中的感兴趣区域;将所述感兴趣区域划分为至少两个候选区域;获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,将区域离焦值最小的候选区域作为目标区域;基于所述目标区域进行对焦步骤。
9.一种对焦装置,其特征在于,包括:
感兴趣区域获取模块,用于获取第一图像,以及所述第一图像中的感兴趣区域;所述感兴趣区域是根据主体区域置信度图确定的,所述主体区域置信度图是将所述第一图像对应的中心权重图和所述第一图像输入到主体检测模型中得到,所述中心权重图所表示的权重值从中心到边缘逐渐减小,所述主体检测模型是预先根据同一场景的第一图像、深度图、中心权重图及对应的已标注的主体掩膜图进行训练得到的模型;
划分模块,用于将所述感兴趣区域划分为至少两个候选区域;
相位差数据获取模块,用于获取各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据;所述第一方向与所述第二方向成预设角度;
目标区域确定模块,用于根据各个所述候选区域的第一方向的相位差数据,以及第二方向的相位差数据,将区域离焦值最小的候选区域作为目标区域;所述区域离焦值指的是所述候选区域成像时所处的位置与合焦状态时焦点所处位置之间的距离值;
对焦模块,用于基于所述目标区域进行对焦。
10.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至8中任一项所述的对焦方法的步骤。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911102675.6A CN112866552B (zh) | 2019-11-12 | 2019-11-12 | 对焦方法和装置、电子设备、计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911102675.6A CN112866552B (zh) | 2019-11-12 | 2019-11-12 | 对焦方法和装置、电子设备、计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112866552A CN112866552A (zh) | 2021-05-28 |
CN112866552B true CN112866552B (zh) | 2023-06-13 |
Family
ID=75984480
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911102675.6A Active CN112866552B (zh) | 2019-11-12 | 2019-11-12 | 对焦方法和装置、电子设备、计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112866552B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101567972A (zh) * | 2008-04-22 | 2009-10-28 | 索尼株式会社 | 图像拾取设备 |
CN102164293A (zh) * | 2010-02-16 | 2011-08-24 | 索尼公司 | 图像处理装置、图像处理方法、图像处理程序和成像装置 |
CN103493484A (zh) * | 2011-03-31 | 2014-01-01 | 富士胶片株式会社 | 成像装置和成像方法 |
CN108206914A (zh) * | 2017-09-06 | 2018-06-26 | 中兴通讯股份有限公司 | 一种对焦方法及装置、终端 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2557391A1 (de) * | 2011-08-12 | 2013-02-13 | Leica Geosystems AG | Messgerät zur Bestimmung der räumlichen Lage eines Messhilfsinstruments |
JP6053652B2 (ja) * | 2013-09-20 | 2016-12-27 | 富士フイルム株式会社 | 撮像装置及び合焦制御方法 |
CN106060407A (zh) * | 2016-07-29 | 2016-10-26 | 努比亚技术有限公司 | 一种对焦方法及终端 |
CN110378945B (zh) * | 2019-07-11 | 2021-06-18 | Oppo广东移动通信有限公司 | 深度图处理方法、装置和电子设备 |
-
2019
- 2019-11-12 CN CN201911102675.6A patent/CN112866552B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101567972A (zh) * | 2008-04-22 | 2009-10-28 | 索尼株式会社 | 图像拾取设备 |
CN102164293A (zh) * | 2010-02-16 | 2011-08-24 | 索尼公司 | 图像处理装置、图像处理方法、图像处理程序和成像装置 |
CN103493484A (zh) * | 2011-03-31 | 2014-01-01 | 富士胶片株式会社 | 成像装置和成像方法 |
CN108206914A (zh) * | 2017-09-06 | 2018-06-26 | 中兴通讯股份有限公司 | 一种对焦方法及装置、终端 |
Also Published As
Publication number | Publication date |
---|---|
CN112866552A (zh) | 2021-05-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102278776B1 (ko) | 이미지 처리 방법, 기기, 및 장치 | |
CN109089047B (zh) | 控制对焦的方法和装置、存储介质、电子设备 | |
CN110248096B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
US20220166930A1 (en) | Method and device for focusing on target subject, and electronic device | |
CN110349163B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN112866549B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
US20220222830A1 (en) | Subject detecting method and device, electronic device, and non-transitory computer-readable storage medium | |
KR20120068655A (ko) | 무선통신장치를 이용하여 양질의 홍채 및 피사체 영상을 편리하게 촬영하기 위한 방법 및 한 개의 밴드패스필터로 가시광선과 근적외선 일부영역을 투과시키는 카메라 장치 | |
CN109685853B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN109559353B (zh) | 摄像模组标定方法、装置、电子设备及计算机可读存储介质 | |
CN111246100B (zh) | 防抖参数的标定方法、装置和电子设备 | |
WO2021093637A1 (zh) | 追焦方法和装置、电子设备、计算机可读存储介质 | |
CN109559352B (zh) | 摄像头标定方法、装置、电子设备和计算机可读存储介质 | |
WO2023016144A1 (zh) | 对焦控制方法、装置、成像设备、电子设备和计算机可读存储介质 | |
CN112866553B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
CN112866675B (zh) | 深度图生成方法和装置、电子设备、计算机可读存储介质 | |
CN110365897B (zh) | 图像修正方法和装置、电子设备、计算机可读存储介质 | |
CN112866655B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN110930440B (zh) | 图像对齐方法、装置、存储介质及电子设备 | |
CN112866510B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
CN110689007B (zh) | 主体识别方法和装置、电子设备、计算机可读存储介质 | |
CN112866547B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
CN108769510B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
CN112866554B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
CN112866552B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |