CN103813096A - 多分辨率的基于离焦深度测量的自动聚焦 - Google Patents
多分辨率的基于离焦深度测量的自动聚焦 Download PDFInfo
- Publication number
- CN103813096A CN103813096A CN201310547649.0A CN201310547649A CN103813096A CN 103813096 A CN103813096 A CN 103813096A CN 201310547649 A CN201310547649 A CN 201310547649A CN 103813096 A CN103813096 A CN 103813096A
- Authority
- CN
- China
- Prior art keywords
- resolution
- optimum resolution
- image
- focus
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
Abstract
本公开涉及多分辨率的基于离焦深度测量的自动聚焦。本文中描述了一种使用离焦深度测量实现自动聚焦的分层方法。分层地在每个步骤被确定为最佳的分辨率中执行离焦深度测量技术。在较高分辨率给予更好精度、但是需要更高计算成本的情况下,在每个步骤基于目标精度和可能的最大模糊量来估计最佳分辨率,该最佳分辨率确定计算量和聚焦区域中的像素数量。所提出的多分辨率的基于离焦深度测量的自动聚焦使得能够减少所需的资源,这在资源有限的系统中是有益的。
Description
技术领域
本发明涉及图像处理领域。更具体地讲,本发明涉及自动聚焦。
背景技术
自动聚焦光学系统使用传感器、控制系统和电机来完全自动地聚焦或聚焦于手动选择的点或区域上。电子测距仪具有代替电机的显示器,并且必须手动地进行光学系统的调整,直到指示为止。这些方法根据所使用的诸如有源的、无源的和混合的传感器而命名。许多类型的自动聚焦实现方式存在。
发明内容
本文中描述使用离焦深度测量(depth from defocus)实现自动聚焦的分层方法。分层地在每个步骤在被确定为最佳的分辨率上执行离焦深度测量技术。在更高的分辨率给予更好的精度、但是需要更多的计算成本的情况下,在每个步骤基于目标精度和可能的最大模糊量来估计最佳分辨率,最佳分辨率确定计算量和聚焦区域中的像素数量。所提出的多分辨率的基于离焦深度测量的自动聚焦使得能够减少所需的资源,这在资源有限的系统中是有益的。
在一个方面,一种在装置的存储器中编程的自动聚焦的方法包括:基于对适合匹配区域的模糊大小和最大迭代次数进行估计来确定最佳分辨率;对最佳分辨率执行离焦深度测量;并重复离焦深度测量,直到以最佳分辨率实现自动聚焦为止。该方法还包括获取内容。所述内容包括第一图像和第二图像。第一图像在第一透镜位置获取,第二图像在第二透镜位置获取。该方法还包括执行以最佳分辨率为目标的分层运动估计。该方法还包括:确定所述内容是否对焦,如果所述内容对焦,则该方法结束,如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。该方法还包括确定新的最佳分辨率。该方法还包括:确定新的最佳分辨率是否等于之前的最佳分辨率,如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且该方法返回到获取内容,如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化(refinement)运动估计,并且该方法返回到执行离焦深度测量。最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是可承受的并且可用于基于较低分辨率的离焦深度测量结果估计可能的最大模糊大小的最高分辨率。所述装置选自由以下装置组成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
在另一方面,一种在装置的存储器中编程的自动聚焦的方法包括:获取内容;基于当前透镜位置来确定模糊大小和最大迭代次数;确定最佳分辨率;执行以最佳分辨率为目标的分层运动估计;在最佳分辨率中执行离焦深度测量;并确定所述内容是否对焦。所述内容包括第一图像和第二图像。第一图像在第一透镜位置获取,第二图像在第二透镜位置获取。该方法还包括:如果所述内容对焦,则所述方法结束,如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。该方法还包括确定新的最佳分辨率。该方法还包括:确定新的最佳分辨率是否等于之前的最佳分辨率,如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容,如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率、在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是可承受的并且可用于基于较低分辨率的离焦深度测量结果估计可能的最大模糊大小的最高分辨率。所述装置选自由以下装置构成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
在另一方面,一种设备包括:图像获取组件,用于获取多个图像;存储器,用于存储应用程序,该应用程序用于:基于当前透镜位置来确定模糊大小和最大迭代次数,确定最佳分辨率,执行以最佳分辨率为目标的分层运动估计,在最佳分辨率中执行离焦深度测量,并确定所述多个图像中的图像是否对焦;以及处理组件,与存储器耦接,该处理组件被配置用于对该应用程序进行处理。所述多个图像中的第一图像在第一透镜位置获取,所述多个图像中的第二图像在第二透镜位置获取。所述应用程序还包括:如果所述内容对焦,则所述方法结束,如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。所述应用程序还包括确定新的最佳分辨率。所述应用程序还包括:确定新的最佳分辨率是否等于之前的最佳分辨率,如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容,如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。最佳分辨率包括以下标准中的一些或全部:可能的模糊大小适合匹配区域的最高分辨率;具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是可承受的并且可用于基于较低分辨率的离焦深度测量结果估计可能的最大模糊大小的最高分辨率。
附图说明
图1示出当模糊大小为零时的阶跃边缘的例子。
图2示出模糊的阶跃边缘的例子。
图3示出根据一些实施例的图片匹配处理的例子。
图4示出根据一些实施例的针对匹配区域在水平方向上的不同位移的阶跃边缘而产生的匹配曲线。
图5示出根据一些实施例的图4的子集,在该子集中,当图像对焦时,匹配区域具有在该匹配区域内的阶跃边缘。
图6示出根据一些实施例基于较高分辨率的DFD结果能够好于基于较低分辨率的DFD。
图7示出根据一些实施例的针对不同分辨率的模糊大小、迭代曲线、可承受匹配区域(宽度和高度)和离聚焦位置的景深(DOF)量(number of Depth of Fields)之间的关系的例子。
图8示出根据一些实施例的多分辨率的基于离焦深度测量的自动聚焦方法的流程图。
图9示出根据一些实施例的被配置为执行自动聚焦方法的示例性计算装置的框图。
具体实施方式
在本文中描述的整个申请中使用某些术语。模糊大小是由于光学器件的点扩展函数(PSF)而导致变化的一个方向(水平或垂直)上的像素总数。迭代次数是用于收敛的处理PA的次数,该次数表示两个图像之间的模糊差异量。匹配区域是用于处理E的区域。匹配曲线是垂直轴中为迭代次数、水平轴中为深度位置的绘图。迭代曲线与匹配曲线相同。离焦深度测量(DFD)是基于诸如图3中所示的过程之类的过程来估计深度的处理。景深是DOF。
基于离焦深度测量的(基于DFD的)自动聚焦结果中的高精度能够在典型的嵌入式系统约束(诸如处理器和硬件资源限制)下实现。能够通过多分辨率方法在这样的资源约束下使用基于DFD的自动聚焦来利用以下特性:在较高分辨率上对DFD进行处理能够得到更好的结果,并且在用于DFD处理的匹配区域内包含模糊能够得到更好的结果。
存在进行基于离焦深度测量的自动聚焦的一些应用。嵌入式系统(诸如个人数字摄录机或数字静态照相机)是这样的例子。
在离焦深度测量中,为了所估计的深度的精度更高,重要的是知道模糊的全部或大部分(模糊的边缘、点或纹理)。
尽管能够以多种方式定义模糊大小或PSF大小,但是它能够被定义为由于光学器件的PSF而导致变化的一个方向(水平或垂直)上的像素总数。
为了更好地说明,阶跃边缘情景用作例子。例如,当图像对焦时,模糊大小为零。图1示出当模糊大小为零时的情况。
图2示出模糊的阶跃边缘中的模糊大小的例子。在图2中,模糊大小为24。
此外,模糊大小通常与存在于对象位置与透镜聚焦位置之间的景深量成线性比例。
此外,能够基于以不同散焦水平捕捉的多于一个的图像中的模糊差异来估计目标对象的深度。模糊差异能够用图片匹配处理(诸如图3中的处理)中的迭代次数表示。
假设图3中的图像1和图像2具有来自一个光学系统的不同模糊量,并且图像2更加清晰。这两个图像之间的模糊差异量能够被计算。PA处理能够被定义为很好地对光学系统进行建模的模糊函数,该模糊函数可以是简单的3x3卷积核。然后,处理E被定义为这两个图像之间的误差产生函数,该误差产生函数能够是对两个图像的某一区域作用的简单的绝对差和(SAD)函数。通过重复图3中所示的循环,直到通过处理E产生的前一误差变得小于新近产生的误差(或当前误差)为止,这个重复的次数能够被用于表示这两个图像之间的模糊差异。在一些实施例中,预先执行两个图像的配准(诸如运动补偿)。
为了具有精确的深度估计,具有匹配区域内的模糊的全部或大部分或者两个图像之间的模糊差异估计是重要的。图4示出针对匹配区域在水平方向上的不同位移的阶跃边缘而产生的匹配曲线。图5示出图4的子集,在该子集中,当图像对焦时,匹配区域在该匹配区域内具有阶跃边缘。当在匹配区域内不存在边缘时,匹配曲线变得非常嘈杂(noisy)。
阶跃边缘情景的边缘偏离匹配区域的中心越远,迭代曲线偏离理想曲线越远。这主要是因为当模糊边缘的部分在匹配区域外时迭代曲线受到影响。
因为更高分辨率图像包含更多信息,所以当在更高分辨率执行DFD处理时,DFD处理能够得到更好的精度。
图6示出基于较高分辨率的DFD结果能够好于基于较低分辨率的DFD。在基于1/4分辨率的DFD结果能够识别目标对象的真实聚焦位置的情况下,基于1/8的分辨率不能识别真实聚焦位置。
为了获得精确的深度估计或模糊差异估计结果,重要的是在匹配区域内包含模糊的全部或大部分。此外,在一些实施例中,在较高分辨率中执行DFD处理。然而,通常在嵌入式光学系统(诸如数字照相机或摄录机)中,存在处理和硬件资源的限制,包括:加速器、带宽和存储器,这些处理和硬件资源的限制限制了匹配区域的大小和计算强度的量。此外,根据光学系统,模糊大小能够非常大。图7示出针对不同分辨率的模糊大小、迭代曲线、可承受匹配区域(宽度和高度)和离聚焦位置的景深(DOF)量之间的关系的例子。此外,就计算成本而言,在较高分辨率上执行运动估计通常能够变得太昂贵。
在某一嵌入式数字照相机系统中,可承受匹配区域大小是60x45(宽度,高度)个像素,并且关于3个不同分辨率(1/8、1/4和1/2)的模糊大小和迭代曲线如图7所示。此外,该系统分别对于1/8、1/4和1/2分辨率,最多仅能承受大约64次、16次和4次迭代次数(假设1/4分辨率中的一次迭代花费时间约为1/8分辨率中的4倍,1/2分辨率中的一次迭代花费时间约为1/4分辨率中的4倍)(对于一个分辨率的迭代次数)。在这种环境下,目标是实现等同于1/2分辨率DFD的自动聚焦精度的最终自动聚焦精度。
例如,照相机系统具有诸如图7所示的大约300DOF的总范围。如果自动聚焦从照相机能够聚焦的最近透镜位置开始,则最极端的情况将是当目标对象在无限远处时的情况。在这样的情况下,分别地对于1/2、1/4和1/8分辨率,预期模糊大小将约为250、125和62.5。在这个位置,因为对于1/4和1/2分辨率,模糊大小对于匹配区域(60x45)太大,所以仅1/8分辨率的DFD处理似乎是可行的。然而,1/8分辨率中的DFD处理将不给予我们与1/2分辨率中的DFD处理等同的精度。
构思是通过以较低分辨率(或就计算和存储器成本而言都允许的最高分辨率)以整个搜索范围开始运动估计来使用多分辨率方法(低到高)以减少基于DFD的自动聚焦中的运动估计循环。在“最佳”分辨率内重复基于DFD的自动聚焦,直到以所需精度实现自动聚焦为止。为了确定用于执行DFD处理的“最佳”分辨率,使用给定透镜位置处的模糊大小或可能的最大模糊大小的信息。在一些实施例中,“最佳”分辨率是满足以下标准中的一些或全部的一个分辨率:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的DFD处理就计算成本而言是可承受的、并且基于较低分辨率的DFD结果来估计可能的最大模糊大小的最高分辨率。
通常被称为分层运动估计的运动估计中的多分辨率方法(从低到高)是要利用的技术。构思是,如果要以例如1/2分辨率找到在水平和垂直这两个方向上具有+-S的MxN匹配区域的运动矢量,如果以简单的方式进行这个操作,则对于(S+S+1)^2个位置计算对于MxN的误差计算(诸如SAD计算)。然而,仅在较低分辨率(诸如1/4分辨率)中进行运动矢量搜索,对于(S/2+S/2+1)^2个位置的M/2x N/2的SAD计算和细化搜索被执行。这种情况下的细化搜索通常包括对于(1+1+1)^2个点的M x N区域的SAD计算。因此,多分辨率技术能够用在基于DFD的自动聚焦中。目标分辨率能够是如本文中所描述的那样确定的“最佳”分辨率,并且用于该分层运动估计的较低分辨率能够由计算成本约束确定。
为了确定用于DFD处理的“最佳”分辨率:为了找出可能的最大模糊大小,能够想到极端情况,并且使用预先产生的数据(诸如图7中所示的数据)来找出相应的模糊大小。例如,如果当前透镜位置在整个能聚焦的DOF范围的近侧的一半范围内,则在无限远处的对象将是极端情况,如果透镜位置在整个能聚焦的DOF范围的较远的一半内,则最近对象将是极端情况。然后,根据所获得的模糊大小,当可承受匹配区域足够大时选择分辨率。该方法将保证,如果目标对象位于匹配区域的中心,则匹配区域大小将足够大。还可想到基于某种统计信息来确定最佳DFD分辨率。如何找出可能的最大迭代次数非常类似于上述方法。能够使用相同方法,除了基于预先产生的迭代曲线(诸如图7中所示的迭代曲线)来使用迭代次数而不是模糊大小之外。为了估计可能的最大模糊大小,知道或确定不同分辨率之间的迭代次数关系。例如,在一对图像之间的模糊差异用特殊方差的差值表达的DFD处理中,迭代次数与分辨率成比例。例如,1/8分辨率中的迭代A在1/4分辨率中将有可能得到4A。当基于较低分辨率的DFD结果估计较高分辨率中的可能的最大迭代时,添加误差余地(在例子中,诸如4A+e)能够是有用的。
图8示出根据一些实施例的多分辨率的基于离焦深度测量的自动聚焦方法的流程图。在步骤800中,在不同的透镜位置捕捉两个图像。在步骤802中,基于当前透镜位置和在步骤802中拍摄的两个图像的深度间隔来确定可能的最大模糊大小和可能的最大迭代次数。在步骤804中,确定最佳分辨率。在步骤806中,执行以最佳分辨率为目标的运动估计。在一些实施例中,步骤806中的运动估计是以最佳分辨率为目标的分层运动估计。在步骤808中,在最佳分辨率中执行DFD。在步骤810中,确定图像是对焦还是不对焦。如果图像对焦,则所述处理结束。如果图像不对焦,则在步骤812中,基于DFD结果和在步骤802中拍摄的两个图像的深度间隔来确定可能的最大模糊大小和可能的最大迭代次数。在步骤814中,确定最佳分辨率。在步骤816中,确定新的最佳分辨率是否等于之前的最佳分辨率。如果新的最佳分辨率等于之前的最佳分辨率,则在步骤818中将透镜移动到所估计的深度,并且所述处理返回到步骤800。如果新的最佳分辨率不等于之前的最佳分辨率,则在步骤820中执行细化运动估计,并且所述处理返回到步骤808。在一些实施例中,修改这些步骤的次序。在一些实施例中,执行更多的或更少的步骤。
图9示出根据一些实施例的被配置为实现自动聚焦方法的示例性计算装置900的框图。计算装置900能够被用于获取、存储、计算、处理、传送和/或显示信息(诸如图像和视频)。一般来讲,适合于实现计算装置900的硬件结构包括网络接口902、存储器904、处理器906、一个I/O装置(多个I/O装置)908、总线910和存储装置912。处理器的选择不是关键的,只要选择具有足够速度的合适的处理器即可。存储器904能够是本领域中已知的任何常规的计算机存储器。存储装置912能够包括硬驱动器、CDROM、CDRW、DVD、DVDRW、闪存卡或任何其他存储装置。计算装置900能够包括一个或多个网络接口902。网络接口的例子包括与以太网或其他类型的LAN连接的网络卡。一个I/O装置(多个I/O装置)908能够包括以下中的一个或多个:键盘、鼠标、监视器、显示器、打印机、调制解调器、触摸屏、按钮接口和其他装置。用于执行自动聚焦方法的一个自动聚焦应用程序(多个自动聚焦应用程序)930可被存储在存储装置912和存储器904中,并且如应用程序通常被处理那样被处理。图9中所示的更多的或更少的组件能够被包括在计算装置900中。在一些实施例中,包括自动聚焦硬件920。尽管图9中的计算装置900包括用于自动聚焦的应用程序930和硬件920,但是自动聚焦方法能够在计算装置上用硬件、固件、软件或它们的任何组合来实现。例如,在一些实施例中,自动聚焦应用程序930在存储器中被编程并且通过使用处理器而被执行。在另一个例子中,在一些实施例中,自动聚焦硬件920是包括被专门设计为执行自动聚焦方法的门的程控硬件逻辑。
在一些实施例中,一个自动聚焦应用程序(多个自动聚焦应用程序)930包括多个应用程序和/或模块。在一些实施例中,模块也包括一个或多个子模块。在一些实施例中,能够包括更少的或附加的模块。
合适的计算装置的例子包括:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器(例如,DVD写入器/播放器、写入器/播放器)、电视、家庭娱乐系统或任何其他合适的计算装置。
为了利用多分辨率的基于离焦深度测量的自动聚焦方法,用户诸如在数字摄录机上获取视频/图像,并且在获取内容之前或之时,自动聚焦方法自动地聚焦于数据上。自动聚焦方法在没有用户干预的情况下自动地发生。
在操作中,多分辨率的基于离焦深度测量的自动聚焦使得能够以较低的计算成本实现所需分辨率的基于DFD的自动聚焦精度。另外,多分辨率的基于离焦深度测量的自动聚焦克服了对于系统中可实现的匹配区域的大小限制的真实世界的约束(在对匹配区域中的像素数量的特定约束给定的情况下,在较低分辨率中工作使得能够捕捉比在较高分辨率中更大的模糊大小)。
多分辨率的基于离焦深度测量的自动聚焦的一些实施例
1.一种在装置的存储器中编程的自动聚焦的方法,包括:
a.基于对适合匹配区域的模糊大小和最大迭代次数进行估计来确定最佳分辨率;
b.对于所述最佳分辨率执行离焦深度测量;和
c.重复离焦深度测量,直到以所述最佳分辨率实现自动聚焦为止。
2.根据条款1所述的方法,还包括获取内容。
3.根据条款2所述的方法,其中,所述内容包括第一图像和第二图像。
4.根据条款3所述的方法,其中,所述第一图像在第一透镜位置获取,所述第二图像在第二透镜位置获取。
5.根据条款1所述的方法,还包括执行以所述最佳分辨率为目标的分层运动估计。
6.根据条款2所述的方法,还包括:
a.确定所述内容是否对焦;
b.如果所述内容对焦,则所述方法结束;和
c.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
7.根据条款6所述的方法,还包括确定新的最佳分辨率。
8.根据条款7所述的方法,还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。
9.根据条款1所述的方法,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
10.根据条款1所述的方法,其中,所述装置选自由以下装置组成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
11.一种在装置的存储器中编程的自动聚焦的方法,包括:
a.获取内容;
b.基于当前透镜位置来确定模糊大小和最大迭代次数;
c.确定最佳分辨率;
d.执行以所述最佳分辨率为目标的分层运动估计;
e.在所述最佳分辨率中执行离焦深度测量;和
f.确定所述内容是否对焦。
12.根据条款11所述的方法,其中,所述内容包括第一图像和第二图像。
13.根据条款12所述的方法,其中,所述第一图像在第一透镜位置获取,所述第二图像在第二透镜位置获取。
14.根据条款11所述的方法,还包括:
a.如果所述内容对焦,则所述方法结束;和
b.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
15.根据条款14所述的方法,还包括确定新的最佳分辨率。
16.根据条款15所述的方法,还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。
17.根据条款11所述的方法,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
18.根据条款11所述的方法,所述装置选自由以下装置构成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
19.一种设备,包括:
a.图像获取组件,所述图像获取组件用于获取多个图像;
b.存储器,所述存储器用于存储应用程序,所述应用程序用于:
i.基于当前透镜位置来确定模糊大小和最大迭代次数;
ii.确定最佳分辨率;
iii.执行以所述最佳分辨率为目标的分层运动估计;
iv.在所述最佳分辨率中执行离焦深度测量;和
v.确定所述多个图像中的图像是否对焦;和
c.处理组件,所述处理组件与存储器耦接,所述处理组件被配置用于对所述应用程序进行处理。
20.根据条款19所述的设备,其中,所述多个图像中的第一图像在第一透镜位置获取,所述多个图像中的第二图像在第二透镜位置获取。
21.根据条款19所述的设备,其中,所述应用程序还包括:
a.如果所述内容对焦,则方法结束;和
b.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
22.根据条款21所述的设备,其中,所述应用程序还包括确定新的最佳分辨率。
23.根据条款22所述的设备,其中,所述应用程序还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且方法返回到执行离焦深度测量。
24.根据条款19所述的设备,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
已就合并了有助于理解本发明的构造和操作的原理的细节的特定实施例对本发明进行了描述。本文中对特定实施例及其细节的这样的论述并非意图限制附到本文的权利要求的范围。本领域技术人员将容易明白,可以在不脱离如权利要求所限定的本发明的精神和范围的情况下在被选择用于说明的实施例中进行其他各种修改。
Claims (24)
1.一种在装置的存储器中编程的自动聚焦的方法,包括:
a.基于对适合匹配区域的模糊大小和最大迭代次数进行估计来确定最佳分辨率;
b.对于所述最佳分辨率执行离焦深度测量;和
c.重复离焦深度测量,直到以所述最佳分辨率实现自动聚焦为止。
2.根据权利要求1所述的方法,还包括获取内容。
3.根据权利要求2所述的方法,其中,所述内容包括第一图像和第二图像。
4.根据权利要求3所述的方法,其中,所述第一图像在第一透镜位置获取,所述第二图像在第二透镜位置获取。
5.根据权利要求1所述的方法,还包括执行以所述最佳分辨率为目标的分层运动估计。
6.根据权利要求2所述的方法,还包括:
a.确定所述内容是否对焦;
b.如果所述内容对焦,则所述方法结束;和
c.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
7.根据权利要求6所述的方法,还包括确定新的最佳分辨率。
8.根据权利要求7所述的方法,还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。
9.根据权利要求1所述的方法,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
10.根据权利要求1所述的方法,其中,所述装置选自由以下装置组成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
11.一种在装置的存储器中编程的自动聚焦的方法,包括:
a.获取内容;
b.基于当前透镜位置来确定模糊大小和最大迭代次数;
c.确定最佳分辨率;
d.执行以所述最佳分辨率为目标的分层运动估计;
e.在所述最佳分辨率中执行离焦深度测量;和
f.确定所述内容是否对焦。
12.根据权利要求11所述的方法,其中,所述内容包括第一图像和第二图像。
13.根据权利要求12所述的方法,其中,所述第一图像在第一透镜位置获取,所述第二图像在第二透镜位置获取。
14.根据权利要求11所述的方法,还包括:
a.如果所述内容对焦,则所述方法结束;和
b.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
15.根据权利要求14所述的方法,还包括确定新的最佳分辨率。
16.根据权利要求15所述的方法,还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且所述方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且所述方法返回到执行离焦深度测量。
17.根据权利要求11所述的方法,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
18.根据权利要求11所述的方法,所述装置选自由以下装置构成的组:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能电器、游戏机、数字照相机、数字摄录机、照相机电话、智能电话、便携式音乐播放器、平板计算机、移动装置、视频播放器、视频盘写入器/播放器、电视和家庭娱乐系统。
19.一种设备,包括:
a.图像获取组件,所述图像获取组件用于获取多个图像;
b.存储器,所述存储器用于存储应用程序,所述应用程序用于:
i.基于当前透镜位置来确定模糊大小和最大迭代次数;
ii.确定最佳分辨率;
iii.执行以所述最佳分辨率为目标的分层运动估计;
iv.在所述最佳分辨率中执行离焦深度测量;和
v.确定所述多个图像中的图像是否对焦;和
c.处理组件,所述处理组件与存储器耦接,所述处理组件被配置用于对所述应用程序进行处理。
20.根据权利要求19所述的设备,其中,所述多个图像中的第一图像在第一透镜位置获取,所述多个图像中的第二图像在第二透镜位置获取。
21.根据权利要求19所述的设备,其中,所述应用程序还包括:
a.如果所述内容对焦,则方法结束;和
b.如果所述内容不对焦,则基于离焦深度测量结果来确定模糊大小和可能的最大迭代次数。
22.根据权利要求21所述的设备,其中,所述应用程序还包括确定新的最佳分辨率。
23.根据权利要求22所述的设备,其中,所述应用程序还包括:
a.确定新的最佳分辨率是否等于之前的最佳分辨率;
b.如果新的最佳分辨率等于之前的最佳分辨率,则将透镜移动到所估计的深度,并且方法返回到获取内容;和
c.如果新的最佳分辨率不等于之前的最佳分辨率,则执行细化运动估计,并且方法返回到执行离焦深度测量。
24.根据权利要求19所述的设备,其中,所述最佳分辨率包括以下标准中的一些或全部:在其中可能的模糊大小适合匹配区域的最高分辨率;在其中具有可能的最大迭代次数的离焦深度测量处理就计算成本而言是能够承受的并且基于较低分辨率的离焦深度测量结果来估计可能的最大模糊大小的最高分辨率。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/677,177 | 2012-11-14 | ||
US13/677,177 US20140132822A1 (en) | 2012-11-14 | 2012-11-14 | Multi-resolution depth-from-defocus-based autofocus |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103813096A true CN103813096A (zh) | 2014-05-21 |
Family
ID=49712907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310547649.0A Pending CN103813096A (zh) | 2012-11-14 | 2013-11-07 | 多分辨率的基于离焦深度测量的自动聚焦 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20140132822A1 (zh) |
EP (1) | EP2733923A3 (zh) |
JP (1) | JP2014098898A (zh) |
CN (1) | CN103813096A (zh) |
CA (1) | CA2832074A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106556958A (zh) * | 2015-09-30 | 2017-04-05 | 中国科学院半导体研究所 | 距离选通成像的自动聚焦方法 |
CN107924471A (zh) * | 2015-08-21 | 2018-04-17 | 索尼公司 | 基于高斯拉普拉斯近似的根据单个图像的散焦估计 |
CN108369649A (zh) * | 2015-12-18 | 2018-08-03 | 索尼公司 | 焦点检测 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9292926B1 (en) | 2014-11-24 | 2016-03-22 | Adobe Systems Incorporated | Depth map generation |
GB2533449B (en) * | 2014-12-19 | 2019-07-24 | Adobe Inc | Configuration settings of a digital camera for depth map generation |
US9958585B2 (en) | 2015-08-17 | 2018-05-01 | Microsoft Technology Licensing, Llc | Computer vision depth sensing at video rate using depth from defocus |
US10498948B1 (en) | 2018-06-05 | 2019-12-03 | Applied Materials, Inc. | Methods and apparatus for absolute and relative depth measurements using camera focus distance |
CN113096406B (zh) * | 2019-12-23 | 2022-07-26 | 深圳云天励飞技术有限公司 | 车辆信息获取方法、装置及电子设备 |
KR102360105B1 (ko) * | 2020-12-29 | 2022-02-14 | 주식회사 포커스비전 | 영상 블러를 이용한 3차원 영상 생성방법 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090295908A1 (en) * | 2008-01-22 | 2009-12-03 | Morteza Gharib | Method and device for high-resolution three-dimensional imaging which obtains camera pose using defocusing |
US20100053417A1 (en) * | 2008-09-04 | 2010-03-04 | Zoran Corporation | Apparatus, method, and manufacture for iterative auto-focus using depth-from-defocus |
CN101795361A (zh) * | 2009-01-30 | 2010-08-04 | 索尼公司 | 用于基于两个影像的匹配进行深度估计的二维多项式模型 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060171569A1 (en) * | 2005-01-10 | 2006-08-03 | Madhukar Budagavi | Video compression with blur compensation |
US8724013B2 (en) * | 2007-12-27 | 2014-05-13 | Qualcomm Incorporated | Method and apparatus with fast camera auto focus |
US8139886B2 (en) * | 2008-06-23 | 2012-03-20 | Microsoft Corporation | Blur estimation |
TWI393980B (zh) * | 2009-06-08 | 2013-04-21 | Nat Univ Chung Cheng | The method of calculating the depth of field and its method and the method of calculating the blurred state of the image |
TWI403818B (zh) * | 2009-07-07 | 2013-08-01 | Univ Nat Taiwan | 自動對焦方法 |
WO2011046633A1 (en) * | 2009-10-14 | 2011-04-21 | Zoran Corporation | Method and apparatus for image stabilization |
US8305485B2 (en) * | 2010-04-30 | 2012-11-06 | Eastman Kodak Company | Digital camera with coded aperture rangefinder |
JP5635844B2 (ja) * | 2010-09-06 | 2014-12-03 | キヤノン株式会社 | 焦点調整装置および撮像装置 |
US8411195B2 (en) * | 2011-04-01 | 2013-04-02 | Sony Corporation | Focus direction detection confidence system and method |
US8885941B2 (en) * | 2011-09-16 | 2014-11-11 | Adobe Systems Incorporated | System and method for estimating spatially varying defocus blur in a digital image |
US9137526B2 (en) * | 2012-05-07 | 2015-09-15 | Microsoft Technology Licensing, Llc | Image enhancement via calibrated lens simulation |
US8896747B2 (en) * | 2012-11-13 | 2014-11-25 | Qualcomm Technologies, Inc. | Depth estimation based on interpolation of inverse focus statistics |
-
2012
- 2012-11-14 US US13/677,177 patent/US20140132822A1/en not_active Abandoned
-
2013
- 2013-11-04 EP EP13191393.1A patent/EP2733923A3/en not_active Withdrawn
- 2013-11-05 CA CA2832074A patent/CA2832074A1/en not_active Abandoned
- 2013-11-05 JP JP2013229293A patent/JP2014098898A/ja active Pending
- 2013-11-07 CN CN201310547649.0A patent/CN103813096A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090295908A1 (en) * | 2008-01-22 | 2009-12-03 | Morteza Gharib | Method and device for high-resolution three-dimensional imaging which obtains camera pose using defocusing |
US20100053417A1 (en) * | 2008-09-04 | 2010-03-04 | Zoran Corporation | Apparatus, method, and manufacture for iterative auto-focus using depth-from-defocus |
CN101795361A (zh) * | 2009-01-30 | 2010-08-04 | 索尼公司 | 用于基于两个影像的匹配进行深度估计的二维多项式模型 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107924471A (zh) * | 2015-08-21 | 2018-04-17 | 索尼公司 | 基于高斯拉普拉斯近似的根据单个图像的散焦估计 |
CN107924471B (zh) * | 2015-08-21 | 2022-05-10 | 索尼公司 | 基于高斯拉普拉斯近似的根据单个图像的散焦估计 |
CN106556958A (zh) * | 2015-09-30 | 2017-04-05 | 中国科学院半导体研究所 | 距离选通成像的自动聚焦方法 |
CN108369649A (zh) * | 2015-12-18 | 2018-08-03 | 索尼公司 | 焦点检测 |
CN108369649B (zh) * | 2015-12-18 | 2021-11-12 | 索尼公司 | 焦点检测 |
Also Published As
Publication number | Publication date |
---|---|
EP2733923A3 (en) | 2015-03-11 |
JP2014098898A (ja) | 2014-05-29 |
CA2832074A1 (en) | 2014-05-14 |
EP2733923A2 (en) | 2014-05-21 |
US20140132822A1 (en) | 2014-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103813096A (zh) | 多分辨率的基于离焦深度测量的自动聚焦 | |
Hulik et al. | Continuous plane detection in point-cloud data based on 3D Hough Transform | |
US10706567B2 (en) | Data processing method, apparatus, system and storage media | |
US8223194B2 (en) | Image processing method and apparatus | |
CN110411476B (zh) | 视觉惯性里程计标定适配及评价方法和系统 | |
Song et al. | Robust video stabilization based on particle filtering with weighted feature points | |
CN105765628B (zh) | 深度图生成的方法及系统 | |
Han et al. | Real-time global registration for globally consistent rgb-d slam | |
CN103377471B (zh) | 物体定位方法和装置、最优摄像机对确定方法和装置 | |
US9214025B2 (en) | Depth estimation using normalized displacement of image pairs | |
JPWO2018168255A1 (ja) | カメラパラメータ推定装置、カメラパラメータ推定方法、及びプログラム | |
Im et al. | Accurate 3d reconstruction from small motion clip for rolling shutter cameras | |
Senst et al. | Robust local optical flow: Long-range motions and varying illuminations | |
Wasenmüller et al. | Dna-slam: Dense noise aware slam for tof rgb-d cameras | |
Belter et al. | Modeling spatial uncertainty of point features in feature-based RGB-D SLAM | |
Hong et al. | pose: Pseudo object space error for initialization-free bundle adjustment | |
WO2012133371A1 (ja) | 撮像位置および撮像方向推定装置、撮像装置、撮像位置および撮像方向推定方法ならびにプログラム | |
Lee | Real-time camera tracking using a particle filter combined with unscented Kalman filters | |
Thiruselvam et al. | Feature‐assisted stereo correlation | |
KR101766823B1 (ko) | 불규칙한 조도 변화에 강건한 영상 기반 주행거리 측정 시스템 및 방법 | |
WO2010089938A1 (ja) | 回転推定装置、回転推定方法および記録媒体 | |
Cornelis et al. | Lens distortion recovery for accurate sequential structure and motion recovery | |
Sun et al. | Real‐time Robust Six Degrees of Freedom Object Pose Estimation with a Time‐of‐flight Camera and a Color Camera | |
Mutto et al. | TOF cameras and stereo systems: comparison and data fusion | |
Limanta et al. | CAMOT: Camera Angle-Aware Multi-Object Tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20140521 |