CN104811688B - 图像获取装置及其图像形变检测方法 - Google Patents
图像获取装置及其图像形变检测方法 Download PDFInfo
- Publication number
- CN104811688B CN104811688B CN201410042133.5A CN201410042133A CN104811688B CN 104811688 B CN104811688 B CN 104811688B CN 201410042133 A CN201410042133 A CN 201410042133A CN 104811688 B CN104811688 B CN 104811688B
- Authority
- CN
- China
- Prior art keywords
- image
- imaging sensor
- relation
- module
- shape changing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种图像获取装置及其图像形变检测方法。图像形变检测方法适用于具有第一图像传感器与第二图像传感器的图像获取装置,且包括下列步骤。通过第一图像传感器获取第一图像,并通过第二图像传感器获取第二图像。依据第一图像与第二图像执行形变检测,以获取第一图像与第二图像之间的比对信息。依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变。其中,此坐标参数关系关联于第一图像传感器与第二图像传感器之间的空间设置关系。
Description
技术领域
本发明是有关于一种图像获取装置,且特别是有关于一种图像获取装置及其图像形变检测方法。
背景技术
对于当前的图像深度感测技术来说,使用具有双镜头的图像获取装置来获取对应至不同视角的图像是一种常见的方法,通过对应至不同视角的图像可计算出目标物的三维深度信息。因此,为了能够精确的从二维图像中取得目标物的三维深度信息,此两个镜头之间的空间设置关系是需要经过特别设计,且精密的参数校正是必要的步骤。进一步来说,当工厂制造具有双镜头的图像获取装置时,双镜头各自对应的空间位置无法极其准确地设置于预设的设定值上。因此,在制造图像获取装置的过程中,工厂将事先针对已设置的双镜头模块进行校正,从而获取一组工厂预设的校正参数。日后,在使用者操作图像获取装置的过程中,图像获取装置可利用工厂预设的校正参数来校正通过双镜头所获取的图像,以克服制程不够精密的缺失。
然而,在使用者操作或携带图像获取装置的过程中,当图像获取装置受到挤压、撞击或跌落时,可能导致镜头产生移位或旋转等空间位置上的改变。一旦镜头产生移位或变形的状况,工厂内部所预设的校正参数已经不再符合当前的应用状况,图像获取装置也就无法获取正确的深度信息。举例来说,如果立体图像获取装置的双镜头间产生水平失衡的问题时,由于失衡之后拍摄出来的左右画面水平不匹配,将进一步导致三维立体拍摄效果不佳。
发明内容
有鉴于此,本发明提供一种图像获取装置及其图像形变检测方法,可在图像获取装置的使用过程中实时检测双镜头图像是否产生形变的状况,并进一步针对图像执行实时的修正。
本发明提出一种图像形变检测方法,适用于具有第一图像传感器与第二图像传感器的图像获取装置。此图像形变检测方法包括下列步骤。通过第一图像传感器获取第一图像,并通过第二图像传感器获取第二图像。依据第一图像与第二图像执行形变检测,以获取第一图像与第二图像之间的比对信息。依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变。其中,此坐标参数关系关联于第一图像传感器与第二图像传感器之间的空间设置关系。
在本发明的一实施例中,上述的依据第一图像与第二图像执行形变检测,以获取第一图像与第二图像之间的比对信息的步骤包括:分别对第一图像与第二图像进行特征点检测,而获取第一图像的复数个第一特征点与第二图像的复数个第二特征点。比对这些第一特征点的坐标位置以及分别与这些第一特征点相对应的这些第二特征点的坐标位置,以获取第一特征点与第二特征点之间的复数个移位信息。计算这些移位信息而获取第一图像与第二图像之间的相对旋转角度。
在本发明的一实施例中,在上述的分别对第一图像与第二图像执行特征点检测,而获取第一图像的复数个第一特征点与第二图像的复数个第二特征点的步骤之前,图像形变检测方法还包括下列步骤。依据第一图像与第二图像的图像信息判断第一图像与该第二图像是否属于相同的图像群组。当第一图像与第二图像属于相同的图像群组,通过当前校正参数对第一图像与第二图像进行图像纠正(image rectification)。
在本发明的一实施例中,上述的依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变的步骤包括:当相对旋转角度大于门槛值,判定第一图像与第二图像之间的坐标参数关系改变。
在本发明的一实施例中,上述的第一图像传感器针对目标物而获取第一图像,且第二图像传感器针对此目标物而获取第二图像。上述的依据第一图像与第二图像执行形变检测,以获取第一图像与第二图像之间的比对信息的步骤包括:依据第一图像与第二图像进行三维深度估测,以产生目标物对应的深度信息,并依据深度信息取得关于目标物的深度对焦位置。通过自动对焦程序而获取得关于目标物的自动对焦位置。比较深度对焦位置与自动对焦位置而获取焦距差异值。
在本发明的一实施例中,上述的依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变的步骤包括:当焦距差异值大于门槛值,判定第一图像与第二图像之间的坐标参数关系改变。
在本发明的一实施例中,上述的图像形变检测方法还包括下列步骤。通过当前校正参数对第一图像与第二图像进行图像纠正。当第一图像与第二图像之间的坐标参数关系改变,对第一图像与第二图像进行动态扭曲(dynamic warping)程序,以校正第一图像与第二图像之间的坐标参数关系。
从另一观点来看,本发明提出一种图像获取装置。此图像获取装置具有第一图像传感器与第二图像传感器,且此图像获取装置还包括存储单元以及处理单元。存储单元记录多个模块。处理单元耦接第一图像传感器、第二图像传感器及存储单元,以存取并执行存储单元中记录的所述模块。所述模块包括获取模块、形变检测模块以及判断模块。获取模块通过第一图像传感器获取第一图像,并通过第二图像传感器获取第二图像。形变检测模块依据第一图像与第二图像执行形变检测,以获取第一图像与第二图像之间的比对信息。判断模块依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变,其中坐标参数关系关联于第一图像传感器与第二图像传感器之间的空间设置关系。
在本发明的一实施例中,上述的存储单元还存储当前校正参数,且所述模块还包括动态扭曲模块。动态扭曲模块通过当前校正参数对第一图像与第二图像进行图像纠正。当第一图像与第二图像之间的坐标参数关系改变,动态扭曲模块对第一图像与第二图像进行动态扭曲程序,以校正第一图像与该第二图像之间的坐标参数关系。
基于上述,在本发明的图像形变检测方法的实施例中,可实时的检测出是否有图像形变的情形发生。进一步来说,本发明的图像形变检测方法可检测当前用以校正第一图像与第二图像的校正参数是否可进行准确的校正。如此一来,在使用者操作图像获取装置的过程中,本发明的图像获取装置可自动且实时的进行形变检测。基此,当检测到发生形变时,可执行进一步的修正与改善,以避免继续使用不符现况的校正参数来进行图像纠正,并同时提高深度信息计算上的准确度。
为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合附图作详细说明如下。
附图说明
图1是依照本发明的一实施例所示出的图像获取装置的方块图;
图2是依照本发明一实施例所示出的图像形变检测方法的流程图;
图3是依照本发明另一实施例所示出的图像形变检测方法的流程图;
图4是依照本发明又一实施例所示出的图像形变检测方法的流程图;
图5是依照本发明再一实施例所示出的图像形变检测方法的流程图;
图6A为依据本发明一实施例所示出的未经动态扭曲程序的第一图像与第二图像的示意图;
图6B为依据本发明一实施例所示出的经动态扭曲程序的第一图像与第二图像的示意图。
附图标记说明:
100:图像获取装置;
110:第一图像传感器;
120:第二图像传感器;
130:对焦单元;
140:处理单元;
150:存储单元;
151:获取模块;
152:形变检测模块;
153:判断模块;
154:动态扭曲模块;
S201~S205:本发明一实施例所述的图像形变检测方法的各步骤;
S301~S309:本发明另一实施例所述的图像形变检测方法的各步骤;
S401~S407:本发明又一实施例所述的图像形变检测方法的各步骤;
S501~S504:本发明再一实施例所述的图像形变检测方法的各步骤。
具体实施方式
在图像获取装置出厂时,其双镜头的之间空间设置关系已经过精密的计算与调整,并依此产生一组工厂预设的校正参数。此工厂预设的校正参数用以将不同镜头所获取的图像校正至具经设计且固定的坐标参数关系。为了解决因双镜头产生移位或旋转而导致工厂预设的校正参数不再适用的情况,本发明实时的利用左右图像进行形变检测,据以判断是否有工厂预设的校正参数或当前的校正参数已不再适用的状况发生。为了使本发明的内容更为明了,以下列举实施例作为本发明确实能够据以实施的范例。
图1是依照本发明的一实施例所示出的图像获取装置的方块图。请参照图1,本实施例的图像获取装置100例如是数码相机、数码摄像机,或是其他具有图像获取功能的手持式电子装置,像是智能手机、平板电脑等等,不限于上述。图像获取装置100包括第一图像传感器110、第二图像传感器120、对焦单元130、处理单元140以及存储单元150。
第一图像传感器110与第二图像传感器120可包括镜头以及感光元件。感光元件例如是电荷耦合元件(Charge Coupled Device,简称CCD)、互补性氧化金属半导体(Complementary Metal-Oxide Semiconductor,简称CMOS)元件或其他元件,第一图像传感器110与第二图像传感器120还可包括光圈等,在此皆不设限。此外,依照第一图像传感器110与第二图像传感器120的镜头设置位置,第一图像传感器110与第二图像传感器120的镜头可区分为左镜头与右镜头。
在本实施例中,对焦单元130耦接第一图像传感器110、第二图像传感器120以及处理单元140,用以控制第一图像传感器110与第二图像传感器120的焦距。换言之,对焦单元130控制第一图像传感器110的镜头与第二图像传感器120的镜头移动至对焦位置。对焦单元130例如通过音圈马达(Voice Coil Motor,简称VCM)或其他不同类型的马达来控制镜头的步数(step)位置,以改变第一图像传感器110与第二图像传感器120焦距。
处理单元140可以例如是中央处理单元(Central Processing Unit,简称CPU)、微处理器(Microprocessor)、专用集成电路(Application Specific Integrated Circuits,简称ASIC)、可编程逻辑装置(Programmable Logic Device,简称PLD)或其他具备运算能力的硬件装置。存储单元150例如是随机存取存储器(random access memory)、快闪存储器(Flash)或其他的记忆体,用以存储数据与多个模块,而处理单元140耦接存储单元150并用以执行这些模块。上述模块包括获取模块151、形变检测模块152、判断模块153以及动态扭曲模块154,这些模块例如是电脑程序,其可载入处理单元140,从而执行检测图像形变的功能。
图2是依照本发明一实施例所示出的图像形变检测方法的流程图。本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变检测方法的详细步骤。
首先,在步骤S201中,获取模块151通过第一图像传感器110获取第一图像,并通过第二图像传感器120获取第二图像。换言之,第一图像与第二图像可视为针对同一场景所获取的对应至不同视角的左图像与右图像。再者,第一图像与第二图像例如是预览状态下所获取的实时预览图像(live-view image)。
需先说明的是,由于第一图像与第二图像通过工厂预设的校正参数进行校正,因此在利用不同视角的第一图像与第二图像计算深度信息时,第一图像与第二图像上对应的特征点通过坐标转换计算后将投影至一参考坐标系统下的相同坐标点。倘若校正后的第一图像与第二图像上相互对应的特征点未投影至一参考坐标系统下的相同坐标点,在此称之为图像发生形变(deformation)。
从另一角度来看,工厂预设的校正参数适用于将两张左右图像再分别进行图像纠正,让两张真实图像变成只有水平像差或只有垂直像差(因为镜头位置摆放的关系而造成的)。例如,双镜头间会有角度仰角的差异等等。通过工厂预设的校正参数执行图像纠正,可以将真实图像转换成左右镜头是摆放同一取像平面,只剩下水平或垂直位置有差异。也就是说,在左右镜头水平设置的前提下,经过图像纠正的左右图像上的各像素点应当只剩下水平位置有差异。此时,倘若左右镜头的拍摄方向产生改变,经过图像纠正的左右图像上的各像素点的垂直位置仍然具有差异,也称之为图像发生形变。
在步骤S202中,形变检测模块152依据第一图像与第二图像执行形变检测(deformdetection),以获取第一图像与第二图像之间的比对信息。需先说明的是,在一实施例中,在执行形变检测之前,第一图像与第二图像可能已通过工厂预设的校正参数进行校正。详细来说,通过本实施例的形变检测可得知经过预设参数校正的左图像与右图像是否有形变或歪斜的状况发生,即当前的校正参数是否可将第一图像与第二图像校正为只有水平像差或只有垂直像差。其中,比对信息可代表左图像与右图像的歪斜程度或形变程度。
在步骤S203中,判断模块153依据比对信息判断第一图像与第二图像之间的坐标参数关系是否改变。若步骤S203判断为否,在步骤S204中,判断模块153判定第一图像与第二图像之间的坐标参数关系未改变。若步骤S203判断为是,在步骤S205中,判断模块153判定第一图像与第二图像之间的坐标参数关系已改变。需说明的是,此坐标参数关系关联于第一图像传感器110与第二图像传感器120之间的空间设置关系。
也就是说,当第一图像传感器110与第二图像传感器120之间的空间设置关系改变时,第一图像与第二图像的坐标参数关系也会相对改变。倘若判断模块153判定第一图像与第二图像之间的坐标参数关系改变,代表第一图像传感器110与/或第二图像传感器120的镜头产生移位或旋转,而工厂预设的校正参数或当前的校正参数已经不符现况。换言之,工厂预设的校正参数或当前的校正参数已经无法准确的对第一图像与第二图像进行图像纠正。基此,若能实时且正确的检测出图像发生形变的状况,图像获取装置100便可执行相对应的修正,避免重复使用不符现况的参数进行图像校正。
以下将列举其他实施例,以详细说明本发明如何利用第一图像与第二图像来进行形变检测。图3是依照本发明另一实施例所示出的图像形变检测方法的流程图。请参照图3,本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变检测方法的详细步骤。
首先在步骤S301中,获取模块151通过第一图像传感器110获取第一图像,并通过第二图像传感器120获取第二图像。在步骤S302中,形变检测模块152依据第一图像与第二图像的图像信息判断第一图像与第二图像是否属于相同的图像群组。图像信息为获取图像时所纪录的拍摄信息,例如是图像的解析度、焦距、曝光时间、摄影时间等。通过图像信息的比对,形变检测模块152可据以得知第一图像与第二图像是否为同一时间针对同一场景所获取的两张图像。
也就是说,在本实施例中,单一图像群组具有两张照片,同一图像群组内的图像是通过左镜头与右镜头在同一时间针对同一场景所获取的两张图像。当第一图像与第二图像属于相同的图像群组,在步骤S303中,形变检测模块152通过当前校正参数对第一图像与第二图像进行图像纠正,目的在于使第一图像与第二图像之间的坐标参数关系能维持在利于计算深度信息的状态。
在步骤S304中,形变检测模块152分别对第一图像与第二图像进行特征点检测,而获取第一图像的复数个第一特征点与第二图像的复数个第二特征点。特征点检测用以检测出图像中的多数个特征点,例如是边缘检测(edge detection)、角落检测(conerdetection)或其他特征点检测算法,本发明对此并不限制。
在步骤S305中,形变检测模块152比对这些第一特征点的坐标位置以及分别与这些第一特征点相对应的这些第二特征点的坐标位置,以获取第一特征点与第二特征点之间的复数个移位信息。举例来说,基于双镜头水平设置的前提下,第一图像与第二图像处于水平共线的状态。因此第一特征点与相对应的第二特征点的垂直方向的坐标分量应当相同。再者,各个第一特征点与相对应的各个第二特征点的水平方向的坐标分量应当具有固定的差距,称之为水平方向的像差。
因此,通过比对特征点在第一图像与第二图像上的坐标位置,可据以得知第一图像或第二图像之间的参数坐标关系是否改变。举例来说,基于双镜头水平设置的前提下,倘若第一特征点与相对应的第二特征点的垂直方向的坐标分量的移位量过大,代表第一图像或第二图像之间的参数坐标关系改变,也代表第一图像传感器110与第二图像传感器的空间位置发生变动。也就是说,通过分析与统计第一特征点与第二特征点之间的复数个移位信息,可据以得知是否发生图像形变。
此外,在本实施例中,步骤S306,形变检测模块152还可以计算这些移位信息而获取第一图像与第二图像之间的相对旋转角度。简单来说,形变检测模块152可依据这些对应至不同特征点的移位量以及特征点的坐标位置而得知第一图像与第二图像之间的旋转量,此图像间的旋转量例如是因为镜头模块的旋转所造成。于是,步骤S307,判断模块153判断相对旋转角度是否大于门槛值。当相对旋转角度大于门槛值,步骤S308,判断模块153判定第一图像与第二图像之间的坐标参数关系改变。当相对旋转角度并未大于门槛值,步骤S309,判断模块153判定第一图像与第二图像之间的坐标参数关系未改变。
值得一提的是,在一本实施例中,形变检测模块152还可判断第一特征点与相对应之第二特征点投影至一参考坐标底下的坐标位置是否相符,并计算两投影点(第一特征点的投影点与第二特征点的投影点)之间的投影移位量。当投影移位量大于门槛值,形变检测模块152再通过这些投影点所点对应的投影移位量来分析出第一图像与第二之间的坐标参数关系。
图4是依照本发明又一实施例所示出的图像形变检测方法的流程图。请参照图4,本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变检测方法的详细步骤。
首先,步骤S401,获取模块151通过第一图像传感器110获取第一图像,并通过第二图像传感器120获取第二图像。其中,第一图像传感器110针对目标物而获取第一图像,且第二图像传感器120针对目标物而获取第二图像。具体而言,在本实施例中,选取目标物的方法例如可通过对焦单元130接收使用者用以选取目标物的点选信号,以选取目标物。举例而言,使用者可以触控方式或移动取像装置到特定区域进行目标物的选取,但本发明不以此为限。在其他可行的实施例中,选取目标物的方法也可由对焦单元130进行物件检测程序,以自动选取目标物,并取得目标物的坐标位置。
步骤S402,形变检测模块152依据第一图像与第二图像进行三维深度估测,以产生目标物对应的深度信息,并依据深度信息取得关于目标物的深度对焦位置。具体来说,形变检测模块152可通过立体视觉技术进行图像处理,以求得目标物在空间中的三维坐标位置以及图像中各点的深度信息。再者,依据深度信息取得关于目标物的深度对焦位置的步骤例如是依据深度信息查询深度对照表来取得关于目标物的对焦位置。
因此,通过事先求得步进马达的步数或音圈马达的电流值与目标物清晰深度的对应关系,则可依据目前获得的目标物的深度信息查询到此深度信息所对应的步进马达的步数或音圈马达的电流值,并据此取得关于目标物的深度对焦位置。
接着,步骤S403,形变检测模块152通过自动对焦程序而获取得关于目标物的自动对焦位置。具体而言,执行自动对焦程序的过程可以是通过对焦单元130自动控制镜头模块进行大范围的移动,以分别调整第一图像传感器110与第二图像传感器120的镜头至所需的对焦位置,以取得关于目标物的自动对焦位置。对焦单元130例如是利用自动对焦技术中所使用的爬山法(hill-climbing)来获取关于目标物的自动对焦位置,但本发明并不以此为限。
步骤S404,形变检测模块152比较深度对焦位置与自动对焦位置而获取焦距差异值。一般来说,在图像获取装置100未遭受撞击时,图像获取装置100可获取理想的深度信息。一旦图像获取装置100遭受撞击,第一图像传感器110与第二图像传感器120之间的空间设置关系将产生变动,图像获取装置100无法依据之前预设的校正参数来获取理想的深度信息,也就无法通过深度信息与事先存储好的深度信息查询深度对照表估测出正确的深度对焦位置,因此深度对焦位置与通过自动对焦程序所获得的自动对焦位置将产生差异。
于是,步骤S405,判断模块153判断焦距差异值是否大于门槛值。当焦距差异值大于门槛值,步骤S406,判定第一图像与第二图像之间的坐标参数关系改变。当焦距差异值并未大于门槛值,步骤S407,判断模块153判定第一图像与第二图像之间的坐标参数关系并未改变。
值得一提的是,当图像获取装置100判定第一图像与第二图像之间的参数坐标改变时,代表当前的校正参数已无法对图像进行准确的图像纠正。因此,图像获取装置100的深度估测引擎已无法通过双镜头所获取的图像来产生理想的深度信息。基此,在本发明一实施例中,为了在图像获取装置100更新或修正当前的校正参数或工厂预设校正参数之前,图像形变检测方法还包括对当下的第一图像与第二图像进行动态扭曲(dynamic warping)程序,以进一步修正第一图像与第二图像之间的坐标参数关系。
为了详细说明图像获取装置如何针对当下的图像进行修正,图5是依照本发明再一实施例所示出的图像形变检测方法的流程图。请参照图5,在本实施例中,假设图像获取装置100已通过前述方式判断图像是否发生形变,且本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变检测方法的详细步骤。
首先,步骤S501,动态扭曲模块154通过当前校正参数对第一图像与第二图像进行图像纠正。具体来说,在图像获取装置100通过深度估测器计算图像的深度信息之前,会利用当前校正参数对第一图像与第二图像进行图像纠正,以将第一图像与第二图像校正至理想的空间对应关系,从而获取正确的深度信息。步骤S502,动态扭曲模块154判断第一图像与第二图像之间的坐标参数关系是否改变。具体来说,动态扭曲模块154可通过判断模块153所产生的判断结果来据以得知第一图像与第二图像之间的坐标参数关系是否改变。其中,判断图像是否发生形变的详细内容已在图2~图4所示的实施例清楚说明,在此不再赘述。当第一图像与第二图像之间的坐标参数关系改变,代表图像获取装置100已经无法通过当前的校正参数将第一图像与第二图像校正至理想的空间对应关系。
于是,当第一图像与第二图像之间的坐标参数关系改变时,步骤S503,动态扭曲模块154对第一图像与第二图像进行动态扭曲程序,以校正第一图像与第二图像之间的坐标参数关系。具体来说,动态扭曲程序的目的在于将第一图像与第二图像校正至理想的空间对应关系。举例来说,将第一图像与第二图像校正至水平共线的状态。
基于图3所示的实施例可知,形变检测模块152可通过特征点的移位量计算出第一图像与第二图像之间的旋转量。同样地,动态扭曲模块154也可通过特征点的移位量或图像间的旋转量来寻找出一组最佳的参数调整信息,以将第一图像与第二图像调整至理想的空间对应关系。举例来说,动态扭曲模块154例如利用最佳化算法与旋转矩阵(rotationmatrix)来寻找出最佳的旋转调整角度,并依照此旋转调整角度来旋转左图像或右图像,致使两图像可对应至理想的参数坐标关系。最佳化算法例如是梯度下降法(gradient decentmethod)、莱文贝格-马夸特方法(Levenberg-Marquardt method,简称LM method)或高斯牛顿算法(Gauss-Newton method)等,用以计算出最佳的旋转调整参数。
再者,在本发明的实施例中,动态扭曲模块154可以第一图像为依据来调整第二图像,也可以第二图像为依据来调整第一图像,以将第一图像与第二图像调整至理想的空间对应关系。此外,在一实施例中,动态扭曲模块154也可同时调整第一图像与第二图像,以将第一图像与第二图像调整至理想的空间对应关系。
值得一提的是,在本实施例中,第一图像与第二图像已经通过当前的校正参数进行过图像纠正。因此,即使当前的校正参数无法将第一图像与第二图像校正至理想的状态,但第一图像与第二图像之间的形变程度已经降低,以致寻找出最佳的参数调整信息的运算量也可降低。举例来说,若第一图像与第二图像未通过当前的校正参数进行过图像纠正,动态扭曲模块154可能需在+30度至-30度的范围内寻找出最佳的旋转调整角度。若第一图像与第二图像已通过当前的校正参数进行过图像纠正,动态扭曲模块154可能仅需在+5度至-5度的范围内寻找出最佳的旋转调整角度。
举例来说,图6A为依据本发明一实施例所示出的未经动态扭曲程序的第一图像与第二图像的示意图。图6B为依据本发明一实施例所示出的经动态扭曲程序的第一图像与第二图像的示意图。参阅图6A,当把未经动态扭曲程序的第一图像与第二图像叠合在一起时,倘若当前的校正参数已无法将第一图像与第二图像校正至理想的参数坐标关系,一般而言第一图像与第二图像之间会有旋转偏移。参阅图6B,动态扭曲模块154例如可以第一图像为基准,第二图像就可以通过动态扭曲程序调整至与第一图像具有相同的水平角度。
之后,步骤S504,动态扭曲模块154通过第一图像与第二图像获取深度信息。如此一来,在累积完整信息以修正当前的校正参数的期间,动态扭曲模块154可针对单组图像进行适应性的微调,从而使调整后的第一图像与第二图像成为可用来计算深度信息的图像信息。
综上所述,本发明可实时的检测出是否有图像形变的情形发生,以供图像获取装置执行相对应的修正或校正措施。也就是说,在使用者操作图像获取装置的过程中,本发明的图像获取装置可自动且实时的进行形变检测,以进一步判定双镜头是否产生旋转或移位的现象。当检测到发生形变时,本发明的图像获取装置可执行进一步的修正与改善,以避免继续使用不符现况的校正参数来进行图像纠正。此外,在本发明一实施例中,当检测到发生形变时,本发明的图像获取装置还可针对当下拍摄的单组图像进行动态扭曲程序,从而让图像获取装置依然可获取正确的深度信息以进行下一步的应用,以确保图像拍摄品质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (14)
1.一种图像形变检测方法,适用于具有第一图像传感器与第二图像传感器的图像获取装置,其中该第一图像传感器与该第二图像传感器以空间设置关系而设置于所述图像获取装置上,其特征在于,该图像形变检测方法包括:
通过该第一图像传感器获取第一图像,并通过该第二图像传感器获取第二图像;
通过当前校正参数对该第一图像与该第二图像进行图像纠正;
依据进行该图像纠正后的该第一图像与该第二图像执行形变检测,以获取该第一图像与该第二图像之间的比对信息;以及
依据该比对信息判断该第一图像与该第二图像之间的坐标参数关系是否改变,以判定该当前校正参数是否已与该第一图像传感器与该第二图像传感器之间的该空间设置关系不相符,其中该坐标参数关系关联于该第一图像传感器与该第二图像传感器之间的该空间设置关系。
2.根据权利要求1所述的图像形变检测方法,其特征在于,依据该第一图像与该第二图像执行该形变检测,以获取该第一图像与该第二图像之间的该比对信息的步骤包括:
分别对该第一图像与该第二图像进行特征点检测,而获取该第一图像的复数个第一特征点与该第二图像的复数个第二特征点;
比对所述第一特征点的坐标位置以及分别与所述第一特征点相对应的所述第二特征点的坐标位置,以获取所述第一特征点与所述第二特征点之间的复数个移位信息;以及
计算所述移位信息而获取该第一图像与该第二图像之间的相对旋转角度。
3.根据权利要求2所述的图像形变检测方法,其特征在于,在分别对该第一图像与该第二图像执行特征点检测,而获取该第一图像的复数个第一特征点与该第二图像的复数个第二特征点的步骤之前,还包括:
依据该第一图像与该第二图像的图像信息判断该第一图像与该第二图像是否属于相同的图像群组;以及
当该第一图像与该第二图像属于相同的该图像群组,通过当前校正参数对该第一图像与该第二图像进行图像纠正。
4.根据权利要求2所述的图像形变检测方法,其特征在于,依据该比对信息判断该第一图像与该第二图像之间的该坐标参数关系是否改变的步骤包括:
当该相对旋转角度大于门槛值,判定该第一图像与该第二图像之间的该坐标参数关系改变。
5.根据权利要求1所述的图像形变检测方法,其特征在于,该第一图像传感器针对目标物而获取该第一图像,且该第二图像传感器针对该目标物而获取该第二图像,而依据该第一图像与该第二图像执行该形变检测,以获取该第一图像与该第二图像之间的该比对信息的步骤包括:
依据该第一图像与该第二图像进行三维深度估测,以产生该目标物对应的深度信息,并依据该深度信息取得关于该目标物的深度对焦位置;
通过自动对焦程序而获取关于该目标物的自动对焦位置;以及
比较该深度对焦位置与该自动对焦位置而获取焦距差异值。
6.根据权利要求5所述的图像形变检测方法,其特征在于,依据该比对信息判断该第一图像与该第二图像之间的该坐标参数关系是否改变的步骤包括:
当该焦距差异值大于门槛值,判定该第一图像与该第二图像之间的该坐标参数关系改变。
7.根据权利要求1所述的图像形变检测方法,其特征在于,还包括:
通过当前校正参数对该第一图像与该第二图像进行图像纠正;以及
当该第一图像与该第二图像之间的该坐标参数关系改变,对该第一图像与该第二图像进行动态扭曲程序,以校正该第一图像与该第二图像之间的该坐标参数关系。
8.一种图像获取装置,具有第一图像传感器与第二图像传感器,其中该第一图像传感器与该第二图像传感器以空间设置关系而设置于所述图像获取装置上,其特征在于,该图像获取装置包括:
存储单元,记录多个模块;以及
处理单元,耦接该第一图像传感器、该第二图像传感器及该存储单元,以存取并执行该存储单元中记录的所述模块,所述模块包括:
获取模块,通过该第一图像传感器获取第一图像,并通过该第二图像传感器获取第二图像;
形变检测模块,通过当前校正参数对该第一图像与该第二图像进行图像纠正,且依据进行该图像纠正后的该第一图像与该第二图像执行形变检测,以获取该第一图像与该第二图像之间的比对信息;
判断模块,依据该比对信息判断该第一图像与该第二图像之间的坐标参数关系是否改变,以判定该当前校正参数是否已与该第一图像传感器与该第二图像传感器之间的该空间设置关系不相符,其中该坐标参数关系关联于该第一图像传感器与该第二图像传感器之间的该空间设置关系。
9.根据权利要求8所述的图像获取装置,其特征在于,该形变检测模块分别对该第一图像与该第二图像进行特征点检测,而获取该第一图像的复数个第一特征点与该第二图像的复数个第二特征点,该形变检测模块比对所述第一特征点的坐标位置以及分别与所述第一特征点相对应的所述第二特征点的坐标位置,以获取所述第一特征点与所述第二特征点之间的复数个移位信息,以及该形变检测模块计算所述移位信息而获取该第一图像与该第二图像之间的相对旋转角度。
10.根据权利要求9所述的图像获取装置,其特征在于,该形变检测模块依据该第一图像与该第二图像的图像信息判断该第一图像与该第二图像是否属于相同的图像群组,以及当该第一图像与该第二图像属于相同的该图像群组,该形变检测模块通过当前校正参数对该第一图像与该第二图像进行图像纠正程序。
11.根据权利要求9所述的图像获取装置,其特征在于,当该相对旋转角度大于门槛值,该判断模块判定该第一图像与该第二图像之间的该坐标参数关系改变。
12.根据权利要求8所述的图像获取装置,其特征在于,该第一图像传感器针对目标物而获取该第一图像,且该第二图像传感器针对该目标物而获取该第二图像,而该形变检测模块依据该第一图像与该第二图像进行三维深度估测,以产生该目标物对应的深度信息,该形变检测模块依据该深度信息取得关于该目标物的深度对焦位置,该形变检测模块通过自动对焦程序而获取得关于该目标物的自动对焦位置,且该形变检测模块比较该深度对焦位置与该自动对焦位置而获取焦距差异值。
13.根据权利要求12所述的图像获取装置,其特征在于,当该焦距差异值大于门槛值,该判断模块判定该第一图像与该第二图像之间的该坐标参数关系改变。
14.根据权利要求8所述的图像获取装置,其特征在于,该存储单元还存储当前校正参数,且所述模块还包括:
动态扭曲模块,该动态扭曲模块通过该当前校正参数对该第一图像与该第二图像进行图像纠正,
其中当该第一图像与该第二图像之间的该坐标参数关系改变,该动态扭曲模块对该第一图像与该第二图像进行动态扭曲程序,以校正该第一图像与该第二图像之间的该坐标参数关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410042133.5A CN104811688B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410042133.5A CN104811688B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104811688A CN104811688A (zh) | 2015-07-29 |
CN104811688B true CN104811688B (zh) | 2017-09-01 |
Family
ID=53696139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410042133.5A Active CN104811688B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104811688B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3389268B1 (en) * | 2016-01-12 | 2021-05-12 | Huawei Technologies Co., Ltd. | Depth information acquisition method and apparatus, and image collection device |
CN107292816B (zh) * | 2017-06-20 | 2021-04-20 | 上海联影医疗科技股份有限公司 | 一种图像校正方法、系统和计算机可读媒介 |
JP7098475B2 (ja) * | 2018-08-07 | 2022-07-11 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102428707A (zh) * | 2010-03-19 | 2012-04-25 | 松下电器产业株式会社 | 立体视用图像对位装置,立体视用图像对位方法及其程序 |
CN102905147A (zh) * | 2012-09-03 | 2013-01-30 | 上海立体数码科技发展有限公司 | 立体图像校正方法及装置 |
CN103444191A (zh) * | 2010-12-07 | 2013-12-11 | 罗伯特·博世有限公司 | 用于处理立体传感器系统的两个适合用于图像检测的传感器的图像信息的方法和装置 |
WO2014002725A1 (ja) * | 2012-06-29 | 2014-01-03 | 富士フイルム株式会社 | 3次元測定方法、装置、及びシステム、並びに画像処理装置 |
-
2014
- 2014-01-28 CN CN201410042133.5A patent/CN104811688B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102428707A (zh) * | 2010-03-19 | 2012-04-25 | 松下电器产业株式会社 | 立体视用图像对位装置,立体视用图像对位方法及其程序 |
CN103444191A (zh) * | 2010-12-07 | 2013-12-11 | 罗伯特·博世有限公司 | 用于处理立体传感器系统的两个适合用于图像检测的传感器的图像信息的方法和装置 |
WO2014002725A1 (ja) * | 2012-06-29 | 2014-01-03 | 富士フイルム株式会社 | 3次元測定方法、装置、及びシステム、並びに画像処理装置 |
CN102905147A (zh) * | 2012-09-03 | 2013-01-30 | 上海立体数码科技发展有限公司 | 立体图像校正方法及装置 |
Non-Patent Citations (1)
Title |
---|
《Direct Image Matching by Dynamic Warping》;Hansheng Lei ET AL;《Proceedings of the 2004 IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops》;20040627;第76页 * |
Also Published As
Publication number | Publication date |
---|---|
CN104811688A (zh) | 2015-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9697604B2 (en) | Image capturing device and method for detecting image deformation thereof | |
TWI511081B (zh) | 影像擷取裝置及其影像形變校正方法 | |
JP6663040B2 (ja) | 奥行き情報取得方法および装置、ならびに画像取得デバイス | |
CN105453136B (zh) | 使用自动聚焦反馈进行立体侧倾校正的系统、方法及设备 | |
CN111457886B (zh) | 距离确定方法、装置及系统 | |
KR102032882B1 (ko) | 자동 포커싱 방법, 장치 및 전자 장치 | |
CN109712192B (zh) | 摄像模组标定方法、装置、电子设备及计算机可读存储介质 | |
US20160295097A1 (en) | Dual camera autofocus | |
JP4858263B2 (ja) | 3次元計測装置 | |
TWI538512B (zh) | 調整對焦位置的方法及電子裝置 | |
CN109598764A (zh) | 摄像头标定方法和装置、电子设备、计算机可读存储介质 | |
CN111340737A (zh) | 图像矫正方法、装置和电子系统 | |
CN104811688B (zh) | 图像获取装置及其图像形变检测方法 | |
TW201719579A (zh) | 影像擷取裝置及其產生深度資訊的方法與自動校正的方法 | |
US20140327743A1 (en) | Auto focus method and auto focus apparatus | |
CN106204419A (zh) | 图像处理方法以及装置 | |
US11166005B2 (en) | Three-dimensional information acquisition system using pitching practice, and method for calculating camera parameters | |
JP5925109B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
CN102497511B (zh) | 一种利用低速摄像机拍摄高速移动物体的方法 | |
CN104811680B (zh) | 图像获取装置及其图像形变校正方法 | |
CN111292380B (zh) | 图像处理方法及装置 | |
CN115830131A (zh) | 一种固定相位偏差的确定方法、装置和设备 | |
CN112634337B (zh) | 一种图像处理方法及装置 | |
CN117911533A (zh) | 背景纹影层析测量系统的标定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |