CN103733133A - 摄像装置、其控制方法和程序 - Google Patents
摄像装置、其控制方法和程序 Download PDFInfo
- Publication number
- CN103733133A CN103733133A CN201280039771.0A CN201280039771A CN103733133A CN 103733133 A CN103733133 A CN 103733133A CN 201280039771 A CN201280039771 A CN 201280039771A CN 103733133 A CN103733133 A CN 103733133A
- Authority
- CN
- China
- Prior art keywords
- image
- right eye
- left eye
- pickup image
- pickup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/34—Systems for automatic generation of focusing signals using different areas in a pupil plane
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/218—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
- G03B13/34—Power focusing
- G03B13/36—Autofocus systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
- Focusing (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
在接收到通过一个摄像光学系统的光束时,输出左眼和右眼摄取图像,并且检测包含在左眼和右眼摄取图像中的每个被摄体的左眼和右眼摄取图像之间的差。针对左眼和右眼摄取图像中的每一个,输出从包括主被摄体并且具有预定大小的区域中提取的提取图像。这时,设置该区域,使得与包含在两个提取图像中的与主被摄体不同的被摄体的左眼和右眼摄取图像之间的差具有预定值。
Description
技术领域
本发明涉及一种摄像装置、其控制方法和程序,尤其涉及一种创建双眼立体视觉图像的技术。
背景技术
近年来,例如,随着运算电路的处理能力的改进和显示区域中的像素数量的增加,可以获得能够允许观看者感知三维视觉效果的一些种类的显示设备,即所谓的三维图像显示设备(下文中称为3D电视)。
3D电视经常利用例如以预定刷新速率选择性地显示针对左眼和右眼的图像,或者同时显示左眼图像和右眼图像,以允许观看者使用诸如双凸透镜片的光学构件,通过他或她的两只眼来观看不同的图像的方法。3D电视显示由具有给定差(视差)的针对左眼和右眼的图像表示的图像或视频,这使得观看者能够感知深度信息。
当在因为由连接被摄体与每个眼球的直线形成的角度大于由连接该眼球与注视点(无视差)的视线形成的会聚角、而出现视差的情况下,人观看物体时,他们感知到物体像相对于注视点在前景中。然而,当在因为由连接被摄体与每个眼球的直线形成的角度小于由连接该眼球与注视点的视线形成的会聚角、而出现视差的情况下,人观看物体时,他们感知到物体像相对于注视点在背景中。
现今,为了跟随家庭用3D电视的普及的步伐,诸如数字照相机和数字视频照相机的家庭用摄像装置(3D照相机)已经投入市场。在这些情形下,用户变得能够在家庭用3D电视上显示和浏览他自己或她自己摄取的图像或视频。
作为能够摄取双眼立体视觉图像的3D照相机,不仅可以使用包括针对左眼和右眼的两个摄像光学系统的3D照相机,还可以使用利用一个摄像光学系统的3D照相机。更具体地,独立地摄取通过一个摄像光学系统的出射光瞳中的不同区域的光束,以获得与由以光束通过的区域的重心之间的距离作为其基线长度的、包括两个摄像光学系统的摄像装置获得的双眼立体视觉图像等同的图像。如在日本专利第4027113号中所描述的,这可以使用具有复合像素结构(参见图2)的图像传感器来实现,该图像传感器用于相差检测方案的焦点检测,在每个像素中包括多个光接收元件,并且使用微透镜在各个光接收元件上形成不同光束的图像。
在相差检测方案的焦点检测中,通过出射光瞳中的不同区域的光束,在不同的像素上形成在焦点位置的被摄体的图像以及相对于焦点位置分别在背景和前景中的被摄体的图像,如图12A至12C所示。
当图像传感器的复合像素结构包括两个水平布置的光接收元件时,对于各个距离处的被摄体图像,在从所有像素的光接收元件输出的图像A和B之间产生的被摄体图像在水平位置的移位不同,如图12D至12F所示。在实际焦点检测操作中,与来自各自具有相同颜色的像素胞元组的输出相同,在列方向(或者行方向)上组合使用来自光接收元件a和b的输出,以创建图像A和B并且将它们转换为数据,由此通过相关计算获得图像A和B之间的对应点的移位。
以这种方式,当使用具有复合像素结构的图像传感器,根据通过摄像光学系统的出射光瞳中的不同区域的光束,创建双眼立体视觉图像时,包括两个摄像光学系统的摄像装置中的存在注视点的平面,对应于几乎没有视差的焦点位置。也就是说,当摄像装置使用一个摄像光学系统聚焦在主被摄体上以拍摄图像时,主被摄体在针对左眼的图像(图像A)和针对右眼的图像(图像B)中,被成像在几乎相同的像素上,自然没有视差。
当显示由包括一个摄像光学系统和具有复合结构的图像传感器的摄像装置(单眼摄像装置)拍摄的这种双眼立体视觉图像时,因为主被摄体总是没有视差,因此观看者难以感知到主被摄体的立体视觉效果。
此外,当依次读出并且在显示设备上再现在聚焦在主被摄体上时拍摄的运动图像或者连续拍摄的静止图像时,即使在主被摄体移动之后,与主被摄体相关联的图像也没有视差,因此不在焦点位置处的被摄体的视差改变。
例如,在场景1中,当摄像装置、主被摄体、近被摄体和远被摄体具有如图13A所示的位置关系时,如图13B所示拍摄针对左眼的图像1301和针对右眼的图像1302。从针对左眼和右眼的图像1301和1302可以看到,相对于位于焦点位置的主被摄体在前景中的近被摄体和相对于主被摄体在背景中的远被摄体,在这些图像之间具有水平差(Zn和Zf1)。当在显示设备上显示这种双眼立体视觉图像时,处于焦点位置的主被摄体在针对左眼和右眼的摄取图像之间没有差,因此观看者感知到其像在显示面的位置,如图13C所示。此外,观看者感知到近被摄体和远被摄体像分别相对于显示面在前景和背景中。
然后,在场景2中,当如图13D所示,主被摄体移动到与近被摄体相同的深度位置,同时近被摄体和远被摄体保持不动时,如图13E所示拍摄针对左眼的图像1303和针对右眼的图像1304。如上所述,在聚焦在主被摄体上时,焦点位置所在的平面上的被摄体没有视差,因此近被摄体和主被摄体在针对左眼和右眼所摄取的图像之间没有差。与此相反,远被摄体沿深度方向移动远离焦点位置,因此在针对左眼和右眼所摄取的图像之间具有大于场景1中的这些图像之间的差Zf1的差Zf2。
这时,当在显示设备上显示针对左眼和右眼的图像1303和1304时,观看者感知到主被摄体和近被摄体像保持在显示面上限定的位置不动,如图13F所示,因此观看者难以感知到主被摄体的移动。也就是说,近被摄体保持不动,但是尽管如此,观看者感知到其像移动到了主被摄体所在的显示面的位置。此外,远被摄体保持不动,但是尽管如此,观看者感知到其像相对于主被摄体所在的显示面移动到了背景。
发明内容
考虑到上述传统问题作出了本发明。本发明提供一种技术,其在再现使用通过一个摄像光学系统的光束创建的双眼立体视觉图像时,使得观看者能够适当地感知到主被摄体的立体视觉效果,同时防止主被摄体的视差丢失。
根据本发明的一个方面,提供一种摄像装置,其包括:一个摄像光学系统;图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像;检测部件,用于检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;控制部件,用于基于所述检测部件所检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及提取部件,用于针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,其中,所述提取部件设置所述区域,使得包含在两个提取图像中的与所述给定被摄体不同的被摄体的左眼摄取图像和右眼摄取图像之间的差,具有预定值。
根据本发明的另一方面,提供一种摄像装置,其包括:一个摄像光学系统;图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像;检测部件,用于检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;控制部件,用于基于所述检测部件所检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及提取部件,用于针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,所述提取部件设置所述区域,使得与所述给定被摄体和所述摄像装置之间的距离不同的预定距离处的左眼摄取图像和右眼摄取图像之间的差具有预定值,其中,所述提取部件基于分别用来输出所述左眼摄取图像和所述右眼摄取图像的光束的重心之间的距离、所述图像传感器和所述一个摄像光学系统的出射光瞳之间的距离、以及根据所述预定距离获得的所述预定距离处的左眼摄取图像和右眼摄取图像之间的差,来设置所述区域。
根据本发明的又一方面,提供一种摄像装置的控制方法,所述摄像装置包括:一个摄像光学系统;以及图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像,所述控制方法包括:检测步骤,检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;控制步骤,基于在所述检测步骤中检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及提取步骤,针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,其中,在所述提取步骤中,设置所述区域,使得包含在两个提取图像中的与所述给定被摄体不同的被摄体的左眼摄取图像和右眼摄取图像之间的差,具有预定值。
根据本发明的再一方面,提供一种摄像装置的控制方法,所述摄像装置包括:一个摄像光学系统;以及图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像,所述控制方法包括:检测步骤,检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;控制步骤,基于在所述检测步骤中检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及提取步骤,针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,所述提取步骤设置所述区域,使得与所述给定被摄体和所述摄像装置之间的距离不同的预定距离处的左眼摄取图像和右眼摄取图像之间的差具有预定值,其中,在所述提取步骤中,基于分别用来输出所述左眼摄取图像和所述右眼摄取图像的光束的重心之间的距离、所述图像传感器和所述一个摄像光学系统的出射光瞳之间的距离、以及根据所述预定距离获得的所述预定距离处的左眼摄取图像和右眼摄取图像之间的差,来设置所述区域。
从以下参考附图对示例性实施例的描述,本发明的其它特征将变得明显。
附图说明
图1是示出根据本发明的实施例的数字照相机的功能配置的框图;
图2是示出根据本发明的实施例的图像传感器的单位像素的配置的视图;
图3是用于说明根据本发明的实施例的摄取图像的配置的视图;
图4A和4B是用于说明根据本发明的实施例的计算图像之间的差的方法的视图;
图5是示出根据本发明的实施例的拍摄处理的示例的流程图;
图6是示出根据本发明的实施例的图像差调整处理的示例的流程图;
图7A和7B是用于说明离焦量和图像之间的差之间的关系的视图;
图8是用于说明根据本发明的实施例的图像差调整处理的曲线图;
图9A和9B是用于说明根据本发明的实施例的图像差调整处理的其它视图;
图10A和10B是用于说明根据本发明的实施例的图像差调整处理的变形例的曲线图;
图11A和11B是示出根据本发明的实施例的双眼立体视觉图像数据的记录格式的视图;
图12A、12B、12C、12D、12E和12F是用于说明相差检测方案的焦点检测的视图;以及
图13A、13B、13C、13D、13E和13F是用于说明使用具有复合像素结构的图像传感器摄取的双眼立体视觉图像的视图。
具体实施方式
[实施例]
下面,参考附图,详细描述本发明的示例性实施例。注意,下面描述的实施例通过将本发明应用于包括具有复合像素结构的图像传感器,并且能够根据通过一个摄像光学系统的出射光瞳中的不同区域的光束,创建双眼立体视觉图像的数字照相机,来示例性地说明摄像装置。然而,本发明适用于能够根据通过一个摄像光学系统的光束来创建双眼立体视觉图像的任意装置。
此外,在本说明书中,“图像之间的差”意为针对每个像素表示在针对左眼和右眼的图像(左眼图像和右眼图像)之间产生的同一被摄体在这些图像中的相对水平位置的移位的量。图像之间的差对于没有视差的被摄体为零,对于比没有视差的被摄体远的被摄体具有正值,并且对于比没有视差的被摄体近的被摄体具有负值。此外,“移位量”意为针对每个像素表示左眼摄取图像和右眼摄取图像中的每一个的有效像素区域中的提取要输出的图像的记录像素区域的相对水平位置的移位的量。
注意,本实施例在“摄取图像”和“提取图像”之间进行区分,“摄取图像”由通过使用图像传感器进行光电转换获得且产生根据摄像光学系统的设置条件确定的立体视觉效果的图像信号来定义,并且“提取图像”由通过提取摄取图像的部分区域进行输出以产生希望的立体视觉效果而获得的图像信号来定义。
<数字照相机100的功能配置>
图1是示出根据本发明的实施例的数字照相机100的功能配置的框图。
系统控制单元101例如是CPU,其对在数字照相机100中设置的每个块的操作进行控制。更具体地,系统控制单元101例如通过读出存储在ROM102中的立体视觉图像拍摄处理(稍后描述)的工作程序,将其展开到RAM103中并执行,来对每个块的操作进行控制。
ROM102例如是可再写非易失性存储器,其不仅存储立体视觉图像拍摄处理的工作程序,还存储数字照相机100的每个块的操作所需的参数或者例如数字照相机100的摄像设置的信息。
RAM103是易失性存储器,其不仅用来临时存储工作程序的展开区域,还用来临时存储例如在数字照相机100的每个块工作时输出的中间数据。
摄像光学系统104是例如由物镜、聚焦透镜和光圈形成的单元,其透镜位置和F数例如由驱动单元105响应于来自系统控制单元101的控制信号进行控制。此外,快门106是用于对一次拍摄的曝光量进行控制的构件,其在系统控制单元101的控制下在适当的定时打开/关闭,由此对形成经由摄像光学系统104入射到摄像单元107(稍后描述)上的光束的图像所花费的时间进行控制。
摄像单元107是诸如CMOS传感器的图像传感器,其对摄像光学系统104在图像传感器的表面上形成的光学图像进行光电转换,由此输出模拟图像信号。在本实施例中,如上面参考图2所描述的,图像传感器的每个像素具有包括两个水平布置的左眼和右眼光接收元件1a和1b以及微透镜2的复合像素结构。摄像单元107对在各个光接收元件上形成图像并且通过摄像光学系统104的出射光瞳中的不同区域的光束进行光电转换,并且向信号处理单元108输出获得的左眼和右眼模拟图像信号。
虽然在本实施例中以在每个单位像素胞元中包括两个光接收元件的复合像素结构为例,但是本发明的实施不限于此,而可以采用在每个单位像素胞元中包括三个或更多个光接收元件的复合像素结构。在这种情况下,例如通过将来自设置在每个单位像素胞元中的各个光接收元件的输出相加,可以获得两种类型的分离的图像信号输出,至少作为左眼和右眼摄取图像信号。当例如每个单位像素包括以方形矩阵布置的四个光接收元件时,可以通过将来自右侧和左侧中的每一个的两个垂直相邻的光接收元件的输出相加,或者使用来自从左侧和右侧中的每一个的光接收元件中选择的光接收元件的输出,来获得左眼和右眼摄取图像信号。当每个单位像素包括五个光接收元件:四个光接收元件以方形矩阵布置,并且一个光接收元件位于中心时,可以使用中心光接收元件之外的光接收元件,类似地获得左眼和右眼摄取图像信号。
信号处理单元108是例如由AFE(模拟前端)和DFE(数字前端)实现的信号处理电路,其在对从摄像单元107输入的模拟图像信号进行各种处理后,输出数字图像信号。例如,AFE施加诸如用于将光学黑水平调整到基准水平的OB箝位的处理以及A/D转换处理,由此将模拟图像信号转换为数字图像信号(图像),并将其输出。此外,DFE对左眼和右眼摄取图像中的像素,进行各种校正处理或者诸如分拣的数字处理。
注意,摄像单元107和信号处理单元108的操作根据从TG(定时生成电路)109输出的定时信号执行。系统控制单元101对TG109进行的定时信号的生成进行控制。
距离测量单元110对从信号处理单元108输出的左眼和右眼摄取图像,进行水平方向相关计算,由此计算摄像光学系统104的离焦量,并且将其输出到系统控制单元101。注意,在本实施例中,距离测量单元110包括图像差检测单元120,图像差检测单元120对输入的左眼和右眼摄取图像进行相关计算,以计算存在于这些图像中的每个被摄体的在这些图像之间的差。
图像差检测单元120针对每个像素点或者通过将每个图像划分为预定数量的区域而获得的预定区域中的每个块,计算在左眼和右眼摄取图像之间产生的差,由此生成将这些图像之间的差映射在图像差基准图像中的已知视差映射。视差映射表示由于形成左眼和右眼摄取图像的光束通过的出射光瞳中的区域之间的差,而在这些图像之间产生的每个对应点的差,并且可以使用该视差映射来估计每个被摄体的距离。
输入到距离测量单元110的左眼和右眼摄取图像中的每一个,由如在例如图3所示的图像300中例示的在图像处理方面作为基准的光学黑(OB)像素区域301和有效像素区域302形成。这时,对于左眼和右眼摄取图像两者,使用与有效像素区域302同心地形成的基本记录像素区域303的图像,作为用于水平方向相关计算的图像。可以使用例如立体匹配,通过特征点关联,来生成视差映射。
注意,没有包含在有效像素区域302的基本记录像素区域303中的区域,是在调整要创建的双眼立体视觉图像中的被摄体的视差时使用的空白区域。在调整双眼立体视觉图像中的被摄体的视差时,通过设置并提取具有与基本记录像素区域303相同的大小的记录像素区域,使得其包括有效像素区域302中的空白区域,来获得左眼和右眼提取图像中的至少一个。也就是说,在本实施例中,在从信号处理单元108输出的图像信号的有效像素区域302中,提取图像的记录像素区域的位置沿水平方向移位,由此获得具有调整后的视差的双眼立体视觉图像。
(图像差检测方法(立体匹配))
立体匹配可以使用各种方法。然而,下面描述使用基于差总和的简单模板匹配方法的左眼和右眼摄取图像之间的特征点关联。
首先,在将左眼和右眼摄取图像中的一个定义为基准图像后,将基准图像中的基本记录像素区域303,划分为具有相同大小的预定数量的(n个)块400-1至400-n,如图4A所示。虽然在本实施例中,将包括多个像素的区域划分为块,但是一个块可以由单位像素形成。在其它图像(查找图像)中,在沿水平方向移动具有与每个块相同的大小的窗口,以搜索与包含在该块中的像素的位置相对应的像素的位置的同时,计算该窗口的面积相关值,由此计算查找图像中的该块的左眼和右眼摄取图像之间的差。
例如,使用包括关注点402的块403的图像作为模板,搜索与如图4B所示的作为基准图像的左眼摄取图像401中的关注点402(x,y)相对应的、作为查找图像的右眼摄取图像411中的点。根据与关注点402相同的坐标位置,以及在将该坐标位置定义为中心后,沿水平方向假定的左眼和右眼摄取图像401和411之间的差K,来确定针对模板计算面积相关值的作为右眼摄取图像411中的范围的对应点搜索区域412。注意,在本实施例中,在图像传感器的每个单位像素中,沿水平方向并置了两个光接收元件,因此仅计算针对沿水平方向的搜索的一维相关。
依次选择对应点搜索区域412中的每个像素作为查找像素413,并且针对包含在以该像素作为其中心并且具有与模板相同的面积的窗口区域414中的图像,计算与模板的相似度。这时,如下式,通过像素值之间的差的平方和,来计算作为查找像素413的对应点候选对象附近的相似度:
其中,I(x,y)是来自左眼摄取图像401中的关注点402(x,y)的图像信号,xb+i是右眼摄取图像411中的查找像素413的x坐标,并且I0(xb+i,y)是来自右眼摄取图像411中的查找像素413的图像信号。注意,将JSDD称为“残差平方和”,当所有像素值相同时,JSDD为零。也就是说,与左眼摄取图像401中的关注点402相对应的右眼摄取图像411中的点,是表示来自关注点402的图像信号和来自查找像素413的图像信号之间的相似度的JSDD最小的像素(xc,y)。这意味着由下式给出左眼和右眼摄取图像之间的关注点402处的被摄体的水平方向差Z:
Z=x-xc
使用针对每个划分块中的所有像素计算的、基准图像中的关注点和查找图像中的对应点之间的差的最大值或平均值,来确定该划分块中的左眼和右眼摄取图像之间的差的代表值。使用针对所有块计算的左眼和右眼摄取图像之间的差的代表值,图像差检测单元120生成视差映射,并且将其输出到图像处理单元111(稍后描述)。注意,由图像差检测单元120进行的视差映射的生成和由距离测量单元110进行的离焦量的计算可以同时进行,或者可以使用视差映射来计算离焦量。
图像处理单元111对从信号处理单元108输出的左眼和右眼摄取图像,执行诸如颜色转换处理和放大/缩小处理的校正处理。此外,为了创建具有调整后的左眼和右眼摄取图像之间的差的提取图像,图像处理单元111从上述有效像素区域302的图像中,提取具有预定大小的区域。这时,系统控制单元101参考视差映射,来确定提取左眼和右眼提取图像的有效像素区域302中的记录像素区域从基本记录像素区域303的移位的量。
关联信息生成单元112针对如上所述具有由图像处理单元111调整后的左眼和右眼摄取图像之间的差的左眼和右眼提取图像,生成包括图像差调整的信息和拍摄时的照相机设置的信息的关联信息。将关联信息与由图像处理单元111创建的、具有调整后的左眼和右眼摄取图像之间的差的左眼和右眼提取图像相关联地进行记录。注意,图像差调整的信息例如可以是提取左眼和右眼提取图像的记录像素区域从基本记录像素区域303的移位的量的信息、有效像素区域302中的记录像素区域的顶点坐标位置的信息或者基准位置(稍后描述)处的左眼和右眼提取图像之间的差的信息。
记录介质113例如是内置到数字照相机100中的内部存储器或者诸如存储卡或HDD的可拆卸地连接到数字照相机100的记录设备。将在用户操作释放按钮(未示出)时摄取的双眼立体视觉图像作为图像数据记录在记录介质113上。注意,优选图像数据的记录格式是不需要进行后处理的多图片格式(MPO)、JPEG格式或运动图像文件(例如AVI文件)。此外,双眼立体视觉图像数据可以仅包括从有效像素区域302中提取的记录像素区域中的图像数据(提取图像),或者可以以例如RAW(原始)格式针对有效像素区域或所有像素区域记录数据。注意,如果不作为记录像素区域中的图像数据来记录双眼立体视觉图像数据,则再现图像数据的再现设备例如可以根据关联信息,提取并显示与左眼和右眼记录图像相对应的图像。
显示单元114是诸如TFT类型的紧凑型LCD的显示设备。显示单元114按照需要显示从信号处理单元108输出的图像信号,由此用作电子取景器。注意,显示单元114可以是允许裸眼立体视觉的显示设备。
<拍摄处理>
下面,参考图5所示的流程图,详细描述本实施例中的具有上述配置的数字照相机100进行的拍摄处理。可以使用系统控制单元101例如读出存储在ROM102中的对应处理程序,将其展开到RAM103中并执行,来实现与图5所示的流程图相对应的处理。注意,下面的描述假定当例如在用户半按下释放按钮(未示出)后,数字照相机100准备好进行拍摄时,该拍摄处理开始。
在步骤S501中,系统控制单元101进行用于记录的拍摄操作之前的用于距离测量/测光的预拍摄操作。更具体地,系统控制单元101对TG109和快门106进行控制,以操作摄像单元107和信号处理单元108,从而输出用于预拍摄的左眼和右眼摄取图像。
在步骤S502中,系统控制单元101控制距离测量单元110,计算在进行预拍摄操作后输出的左眼和右眼摄取图像中的每一个的离焦量,并且控制驱动单元105驱动摄像光学系统104的聚焦透镜,以聚焦在主被摄体上,由此进行聚焦操作。更具体地,系统控制单元101控制距离测量单元110,计算包含在进行预拍摄操作后从信号处理单元108输出的左眼和右眼摄取图像中的每一个的基本记录像素区域303中的图像的离焦量。系统控制单元101根据从距离测量单元110输出的离焦量的信息,确定聚焦透镜的驱动位置,以聚焦在主被摄体上,并且控制驱动单元105,将聚焦透镜移动到所确定的驱动位置。
在步骤S503中,系统控制单元101基于在进行预拍摄操作后输出的左眼或右眼摄取图像,确定诸如F数和曝光时间的对被摄体进行适当曝光的用于记录的拍摄中的曝光条件。
在步骤S504中,系统控制单元101判断是否在用户完全按下释放按钮(未示出)后发出了进行用于记录的拍摄的指令。更具体地,系统控制单元101基于其是否接收到了在完全按下释放按钮后输入的SW2信号,来判断是否发出了进行用于记录的拍摄的指令。如果系统控制单元101判断为发出了进行用于记录的拍摄的指令,则系统控制单元101使处理前进到步骤S506;否则,其使处理前进到步骤S505。
在步骤S505中,系统控制单元101判断用户是否将释放按钮(未示出)的状态从半按下状态改变为了释放状态。更具体地,系统控制单元101基于在保持释放按钮半按下时接收到的SW1信号的输入是否停止,来判断是否将释放按钮的状态改变为了释放状态。如果系统控制单元101判断为释放按钮的状态改变为了释放状态,则系统控制单元101结束拍摄处理;否则,其使处理返回到步骤S501,其再次进行预拍摄操作。
另一方面,如果在步骤S504中系统控制单元101判断为发出了进行用于记录的拍摄的指令,则在步骤S506中,系统控制单元101在步骤S503中确定的曝光条件下,进行用于记录的拍摄的操作,由此获得左眼和右眼摄取图像。虽然在本实施例中,在静止图像拍摄操作中进行拍摄处理,但是本发明的实施可以应用于运动图像拍摄操作。在运动图像拍摄操作中,无法保证快门106针对每一帧进行遮光操作花费的时间,因此可以在由图像传感器进行的狭缝滚动快门驱动后,获得具有正确曝光的帧。
在步骤S507中,系统控制单元101控制图像差检测单元120,针对通过用于记录的拍摄的操作而获得的左眼和右眼摄取图像,生成视差映射。更具体地,系统控制单元101将通过用于记录的拍摄的操作获得的左眼和右眼摄取图像中的一个确定为基准图像,并且将另一个确定为查找图像。然后,系统控制单元101将包含在基准图像的基本记录像素区域303中的图像划分为预定数量的块,并且控制图像差检测单元120计算每个块中的查找图像的基本记录像素区域303中的左眼和右眼摄取图像之间的差,由此生成视差映射。
在步骤S508中,系统控制单元101使用在步骤S507中由图像差检测单元120生成的视差映射,执行创建使得观看者能够感知到没有视差的主被摄体的适当的立体视觉效果的双眼立体视觉图像的图像差调整处理。
(图像差调整处理)
下面,参考图6所示的流程图,描述图像差调整处理。
在步骤S601中,系统控制单元101确定要创建的双眼立体视觉图像中的存在具有要消除的视差的被摄体的基准图像中的基准位置(块),由此从视差映射获得基准位置处的左眼和右眼摄取图像之间的差Z0。在本实施例中,将包括相对于主被摄体在背景中的被摄体的候选对象块中的一个选择为基准位置。选择作为基准位置的块的方法例如可以是向用户呈现候选对象块以使得他或她能够选择其中之一的方法,或者自动选择景深内的具有图像之间的最大差的被摄体的块的方法。注意,在下面的描述中,将景深内的具有左眼和右眼摄取图像之间的差最大的被摄体的块选择为基准位置,并且将所选择的基准位置处的被摄体称为最远被摄体。
在下面的步骤中,为了创建以这种方式选择的基准位置处的最远被摄体没有视差的双眼立体视觉图像,从作为查找图像的右眼摄取图像的有效像素区域302中,确定提取出提取图像的记录像素区域的位置。
在步骤S602中,系统控制单元101判断基准位置处的左眼和右眼摄取图像之间的最远被摄体的差Z0,是否不大于如图3所示的有效像素区域302中的记录像素区域可以移位的空白区域的水平方向宽度M。
在本实施例中,如果最终要输出的双眼立体视觉图像的左眼提取图像是从基本记录像素区域303中提取的图像,则提取右眼提取图像的记录像素区域从基本记录像素区域303的移位量X局限于空白区域的水平方向宽度M。也就是说,在该步骤中,当将提取右眼提取图像的记录像素区域从基本记录像素区域303的移位量X,设置为左眼和右眼摄取图像之间的差Z0,以消除最远被摄体的视差时,判断移位量X是否等于或小于空白区域的水平方向宽度M。这意味着在该步骤中,系统控制单元101判断是否能够创建最远被摄体没有视差的立体视觉图像。
如果系统控制单元101判断为差Z0不大于空白区域的水平方向宽度M,则系统控制单元101使处理前进到步骤S603;否则,其使处理前进到步骤S604。
在步骤S603中,系统控制单元101提取在作为查找图像的右眼摄取图像的有效像素区域302中的从基本记录像素区域303移位了Z0的位置处形成的提取像素区域的图像,作为右眼提取图像。也就是说,在执行该步骤中的处理后,系统控制单元101可以获得具有针对最远被摄体调整为零的左眼和右眼摄取图像之间的差的右眼提取图像。注意,系统控制单元101向关联信息生成单元112输出这时的移位量(X=Z0)的信息。
另一方面,如果在步骤S602中系统控制单元101判断为差Z0大于空白区域的水平方向宽度M,则在步骤S604中,系统控制单元101提取在右眼摄取图像的有效像素区域中的从基本记录像素区域303移位了M的位置处形成的记录像素区域的图像,作为右眼提取图像。也就是说,在执行该步骤中的处理后,系统控制单元101可以获得具有针对最远被摄体调整为尽可能接近于零的左眼和右眼摄取图像之间的差的右眼提取图像。注意,系统控制单元101向关联信息生成单元112输出这时的移位量(X=M)的信息。
在步骤S605中,系统控制单元101向图像处理单元111输出从左眼摄取图像的基本记录像素区域303中提取的左眼提取图像,以及从右眼摄取图像的有效像素区域302中的从基本记录像素区域303移位了移位量X的记录像素区域中提取的右眼提取图像。
以这种方式,图像差调整处理使得能够获得具有不针对主被摄体、而针对设置的基准位置处的被摄体调整为零的左眼和右眼摄取图像之间的差的、用于双眼立体视觉的左眼和右眼提取图像。
注意,在本实施例中,从左眼和右眼摄取图像的被设置为基准图像的摄取图像中的基本记录像素区域303中提取出提取图像,并且从仅从被设置为查找图像的摄取图像移位的记录像素区域中提取出提取图像。然而,本发明的实施不限于此,只要针对左眼和右眼摄取图像中的每一个的提取出提取图像的记录像素区域的相对水平方向位置的移位,最终变得尽可能接近于左眼和右眼摄取图像之间的最远被摄体的差,则可以采用任意配置。
例如,可以从在从每个摄取图像中的基本记录像素区域303移位的位置处形成的记录像素区域中,提取针对每个眼的提取图像,该位置从基本记录像素区域303移位了与从视差映射中获得的最远被摄体的左眼和右眼摄取图像之间的差Z0的一半或者通过以任意比率划分差Z0而获得的两个部分中的一个相对应的值。
此外,例如,当从自基本记录像素区域303移位了M,即低于查找图像中的左眼和右眼摄取图像之间的最远被摄体的差Z0的移位限制的记录像素区域中,提取出提取图像时,可以进行以下操作。也就是说,可以从自基本记录像素区域303移位了Z0–M的记录像素区域中,提取出提取图像,使得左眼和右眼摄取图像之间的最远被摄体的差变为零。
另一方面,当即使将提取左眼和右眼提取图像的记录像素区域移位直到移位限制(Z0>2M),也无法将左眼和右眼摄取图像之间的基准位置处的被摄体的差设置为零时,可以进行以下操作。例如,可以在不调整左眼和右眼摄取图像之间的差的情况下,从左眼和右眼摄取图像的基本记录像素区域303中提取左眼和右眼提取图像。此外,例如,当用户设置左眼和右眼摄取图像之间的差为零的被摄体或者该被摄体存在的基准位置时,可以发送无法进行将左眼和右眼摄取图像之间的被摄体的差调整为零的处理的通知。
在步骤S509中,系统控制单元101控制关联信息生成单元112,生成针对左眼和右眼提取图像的包括图像差调整的信息的关联信息。注意,如上所述,图像差调整的信息可以是如下信息中的至少一个:左眼和右眼摄取图像的提取左眼和右眼提取图像的记录像素区域从基本记录像素区域303的移位量的信息;有效像素区域302中的记录像素区域的坐标位置的信息;以及基准位置处的左眼和右眼提取图像之间的差的信息。此外,关联信息可以包括用于记录的拍摄的操作中的诸如曝光时间和F数的与拍摄相关联的设置信息。
在步骤S510中,系统控制单元101将由关联信息生成单元112生成的关联信息附加到通过步骤S508中的图像差调整处理而获得的左眼和右眼提取图像,将获得的数据作为双眼立体视觉图像数据记录在记录介质113中,并且结束拍摄处理。注意,这时记录在记录介质上的双眼立体视觉图像数据的记录格式,可以是例如如图11A所示的由关联信息以及左眼和右眼提取图像形成的记录格式。可选地,这时记录在记录介质上的双眼立体视觉图像数据的记录格式,可以是例如如图11B所示的由关联信息、作为左眼和右眼提取图像的JPEG图像以及作为左眼和右眼摄取图像的有效像素区域302的图像的RAW图像形成的记录格式。在这种情况下,可以分别针对JPEG和RAW图像,记录独立的关联信息。
(离焦量和图像之间的差之间的关系)
在离焦量和图像之间的差方面,更详细地说明如何在上述图像差调整处理中进行调整。
如图7A所示,离焦量(被摄体和数字照相机100之间的距离的倒数)与左眼和右眼图像之间的差彼此成正比。也就是说,离焦量D由下式给出:
D=K×Z+H
其中,Z是在左眼和右眼图像之间产生的任意被摄体的差,H是超焦距偏移,并且K是如下计算的比例系数:
K=B/p
其中,B是光束通过以形成左眼和右眼被摄体图像的摄像光学系统104的出射光瞳中的光束的重心之间的距离,并且p是该出射光瞳和图像传感器之间的距离,如图7B所示。然而,因为使用的单独的摄像光学系统104由于与它们的结构和透镜像差相关联的因素而产生例如具有不同性质的渐晕,因此优选预先将比例系数K存储在摄像光学系统104或者数字照相机100的存储区域中,而不使用上述公式来计算。
当通过用于记录的拍摄的操作而获得的左眼和右眼摄取图像之间的差的分布例如如图7A所示时,通过执行图像差调整处理而获得的左眼和右眼提取图像之间的差的分布如图8中的虚线所指示。也就是说,为了在针对比图7A中的左眼和右眼摄取图像之间的差为零的主被摄体远的最远被摄体,执行图像差调整处理后,将左眼和右眼摄取图像之间的差调整为零,执行该处理,以满足如下离焦量D'与左眼和右眼摄取图像之间的差Z之间的关系:
D'=K×Z+H-Z0
其中,Z0是对最远被摄体进行处理之前的左眼和右眼摄取图像之间的差。
以这种方式,在使用通过摄像光学系统的出射光瞳中的不同区域的光束创建双眼立体视觉图像时,针对具有与主被摄体不同的深度的被摄体,将左眼和右眼摄取图像之间的差调整为零,由此使得观看者能够感知到主被摄体的适当的立体视觉效果。当摄像装置、主被摄体、近被摄体和远被摄体之间的位置关系是例如如图13A所示的上述关系时,执行图像差调整处理,使得左眼和右眼摄取图像之间的远被摄体的差变为零,由此获得如图9A所示的左眼和右眼提取图像。当使用允许双眼立体视觉的显示设备显示如此调整后的左眼和右眼提取图像时,显示设备使得观看者能够感知到主被摄体相对于显示面存在于前景中的立体视觉效果,如图9B所示。
如上所述,本实施例中的摄像装置能够在再现使用通过一个摄像光学系统的出射光瞳中的不同区域的光束创建的双眼立体视觉图像后,使得观看者能够适当地感知到主被摄体的立体视觉效果。更具体地,摄像装置接收通过一个摄像光学系统的光束,输出左眼和右眼摄取图像,并且检测包含在这些图像中的每一个被摄体的这些图像之间的差。然后,摄像装置输出从左眼和右眼摄取图像中的每一个的包括主被摄体并且具有预定大小的区域中提取的提取图像。这时,设置该区域,使得与包含在两个提取图像中的主被摄体不同的被摄体的左眼和右眼摄取图像之间的差具有预定值。
虽然在本实施例中,执行图像差调整处理,使得左眼和右眼摄取图像之间的处于基准位置的最远被摄体的差变为零,但是本发明的实施不限于此。可以执行图像差调整处理,使得在从计算的主被摄体距摄像装置的距离沿深度方向以预定距离L间隔开的位置视差丢失,例如如图10A所示。此外,可以通过计算摄像装置与在景深内检测到的最近被摄体和最远被摄体之间的距离,来执行图像差调整处理,使得在这两个被摄体之间的中间距离视差丢失,例如如图10B所示。注意,在这里给出的两个示例中,当要调整左眼和右眼摄取图像之间的差,以消除以特定距离与摄像装置间隔开的平面中的视差时,在该距离处可能不存在被摄体,因此可以使用离焦量与左眼和右眼摄取图像之间的差之间的关系,来确定移位量X。
此外,虽然在本实施例中,将左眼和右眼摄取图像之间的处于基准位置的最远被摄体的差调整为零,但是本发明的实施不限于此。也就是说,本发明可以采用任意配置,只要其确定移位量X,以调整记录像素区域,使得处于与主被摄体不同的深度位置的被摄体具有预定的左眼和右眼摄取图像之间的差即可。
[变形例1]
虽然在上述实施例中说明了如何拍摄静止双眼立体视觉图像,但是当如在例如连续拍摄或者运动图像拍摄中,连续摄取图像时,本发明也适用。
在静止图像拍摄中,与第一实施例中相同,将左眼和右眼摄取图像之间的处于设置的基准位置的被摄体的差调整为零,由此使得观看者能够适当地感知到主被摄体的立体视觉效果。然而,在连续拍摄或者运动图像拍摄中,拍摄时间比在静止图像拍摄中长,因此处于设置的基准位置的被摄体可能移动。在这种情况下,尽管拍摄同一被摄体的图像,但是通过执行图像差调整处理而获得的、作为进行连续拍摄时的每个提取图像或者进行运动图像拍摄时的每一帧的双眼立体视觉图像,可能具有在连续图像或帧之间变化的主被摄体的立体视觉效果。也就是说,即使例如主被摄体保持不动,主被摄体的立体视觉效果也可能响应于摄像装置和处于基准位置的被摄体之间的距离的改变而改变。当在处于基准位置的被摄体移动后,将另一被摄体确定为处于基准位置的被摄体,并且调整左眼和右眼摄取图像之间的该另一被摄体的差时,主被摄体的立体视觉效果也可能改变。
为了避免该问题,在设置例如连续拍摄或者运动图像拍摄模式后,系统控制单元101可以以如下方式控制拍摄处理和图像差调整处理。系统控制单元101仅需要在预拍摄中获得基准位置处的左眼和右眼摄取图像之间的差,并且使用基于所获得的图像之间的差确定的移位量,针对通过在用于记录的拍摄期间进行连续拍摄或者运动图像拍摄而获得的左眼和右眼摄取图像,进行图像差调整处理。也就是说,在设置连续拍摄或者运动图像拍摄模式后,系统控制单元101仅需要使用处于固定值的移位量,在用于记录的拍摄期间进行图像差调整处理。
在进行该操作后,即使当连续摄取图像时,也可以防止主被摄体的立体视觉效果在摄取图像之间不自然地变化。
此外,系统控制单元101可以检测在预拍摄期间保持不动的被摄体,以将包括该被摄体的区域确定为基准位置。更具体地,系统控制单元101可以例如在预拍摄期间进行多次摄像,并且在通过进行摄像而获得的一系列图像之间检测被摄体的运动矢量,由此将与存在运动矢量等于或小于阈值的被摄体的区域相对应的块确定为基准位置。注意,在这种情况下,在图像差调整处理中计算的移位量可以具有固定值,或者可以根据需要从视差映射中获得。
[变形例2]
此外,通过进行连续拍摄或者运动图像拍摄而获得的双眼立体视觉图像或帧中的主被摄体的立体视觉效果的变化的原因,不限于处于基准位置的被摄体的移动。如上所述,因为拍摄时间在连续拍摄和运动图像拍摄中比在静止图像拍摄中长,因此可能例如由于握持摄像装置的拍摄者导致的照相机抖动或者在进行摇拍操作后构图的改变,而产生与在处于基准位置的被摄体移动的情况下相同的问题。
也就是说,虽然在变形例1中,使用使在预拍摄期间摄取的左眼和右眼图像之间的处于基准位置的被摄体的差为零的移位量,来进行图像差调整处理,但是如果摄像装置自身移动,则预拍摄期间的摄像装置和处于基准位置的被摄体之间的距离可能改变。这意味着数字照相机100和摄取图像中的所有被摄体之间的距离自然改变,因此即使当使用在进行预拍摄时确定的移位量进行图像差调整处理时,主被摄体的立体视觉效果也可能变化。
为了避免该问题,在设置例如连续拍摄或者运动图像拍摄模式后,系统控制单元101可以以如下方式控制拍摄处理和图像差调整处理。系统控制单元101将针对在预拍摄中设置的处于基准位置的被摄体提取的特征量登记为图案。然后,系统控制单元101仅需要在连续拍摄或者运动图像拍摄中的用于记录的拍摄期间,使用登记的图案搜索被摄体的位置,并且从视差映射中获得找到的位置处的左眼和右眼摄取图像之间的差,由此进行图像差调整处理。
在进行该操作后,当显示同一被摄体,使得左眼和右眼摄取图像之间的差变为零时,用户能够总是感知到该被摄体像在显示表上,也就是说,双眼立体视觉变得可能,由此即使数字照相机100在拍摄期间移动,也防止主被摄体的立体视觉效果在摄取图像之间不自然地变化。
[其它实施例]
本发明的各方面还能够通过读出并执行记录在存储装置上的用于执行上述实施例的功能的程序的系统或设备的计算机(或诸如CPU或MPU的装置)、以及由系统或设备的计算机例如读出并执行记录在存储装置上的用于执行上述实施例的功能的程序来执行步骤的方法来实现。鉴于此,例如经由网络或者从用作存储装置的各种类型的记录介质(例如计算机可读介质)向计算机提供程序。
虽然参考示例性实施例对本发明进行了说明,但是应当理解,本发明不限于所公开的示例性实施例。所附权利要求的范围符合最宽的解释,以使其涵盖所有这种变形、等同结构及功能。
本申请要求2011年8月15日提交的日本专利申请第2011-177743号的优先权,其全部内容通过引用,包含于此。
Claims (11)
1.一种摄像装置,其包括:
一个摄像光学系统;
图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像;
检测部件,用于检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;
控制部件,用于基于所述检测部件所检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及
提取部件,用于针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,
其中,所述提取部件设置所述区域,使得包含在两个提取图像中的与所述给定被摄体不同的被摄体的左眼摄取图像和右眼摄取图像之间的差,具有预定值。
2.根据权利要求1所述的摄像装置,其中,与所述给定被摄体不同的所述被摄体是位于距所述摄像装置比所述给定被摄体远的被摄体。
3.根据权利要求1或2所述的摄像装置,其中,与所述给定被摄体不同的所述被摄体,是包含在所述左眼摄取图像和所述右眼摄取图像中的被摄体中的、被确定为在获得所述左眼摄取图像和所述右眼摄取图像之前获得的多个摄取图像之间保持不动的被摄体。
4.根据权利要求1至3中的任一项所述的摄像装置,其中,与所述给定被摄体不同的所述被摄体,是具有所述检测部件所检测到的、在进行用于记录的拍摄之前进行的预拍摄期间获得的左眼摄取图像和右眼摄取图像之间的最大差的被摄体。
5.一种摄像装置,其包括:
一个摄像光学系统;
图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像;
检测部件,用于检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;
控制部件,用于基于所述检测部件所检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及
提取部件,用于针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,所述提取部件设置所述区域,使得与所述给定被摄体和所述摄像装置之间的距离不同的预定距离处的左眼摄取图像和右眼摄取图像之间的差具有预定值,
其中,所述提取部件基于分别用来输出所述左眼摄取图像和所述右眼摄取图像的光束的重心之间的距离、所述图像传感器和所述一个摄像光学系统的出射光瞳之间的距离、以及根据所述预定距离获得的所述预定距离处的左眼摄取图像和右眼摄取图像之间的差,来设置所述区域。
6.根据权利要求1至5中的任一项所述的摄像装置,其中,当针对所述左眼摄取图像和所述右眼摄取图像设置的所述区域中的至少一个落在所述图像传感器的有效像素的范围外时,所述提取部件将该区域设置在所述有效像素的范围内。
7.根据权利要求1至5中的任一项所述的摄像装置,其中,当针对所述左眼摄取图像和所述右眼摄取图像设置的所述区域中的至少一个落在所述图像传感器的有效像素的范围外时,所述提取部件将该区域设置成消除所述给定被摄体的左眼摄取图像和右眼摄取图像之间的差。
8.根据权利要求1至7中的任一项所述的摄像装置,其中,所述左眼光接收元件和所述右眼光接收元件接收通过所述一个摄像光学系统的出射光瞳中的不同区域的光束。
9.一种摄像装置的控制方法,所述摄像装置包括:一个摄像光学系统;以及图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像,所述控制方法包括:
检测步骤,检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;
控制步骤,基于在所述检测步骤中检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及
提取步骤,针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,
其中,在所述提取步骤中,设置所述区域,使得包含在两个提取图像中的与所述给定被摄体不同的被摄体的左眼摄取图像和右眼摄取图像之间的差,具有预定值。
10.一种摄像装置的控制方法,所述摄像装置包括:一个摄像光学系统;以及图像传感器,其包括左眼光接收元件和右眼光接收元件,并且在接收到通过所述一个摄像光学系统的光束时,输出针对左眼的左眼摄取图像和针对右眼的右眼摄取图像,所述控制方法包括:
检测步骤,检测包含在所述左眼摄取图像和所述右眼摄取图像中的每一个被摄体的左眼摄取图像和右眼摄取图像之间的差;
控制步骤,基于在所述检测步骤中检测到的包含在所述左眼摄取图像和所述右眼摄取图像中的给定被摄体的左眼摄取图像和右眼摄取图像之间的差,控制所述摄像光学系统的聚焦部件聚焦在所述给定被摄体上;以及
提取步骤,针对所述左眼摄取图像和所述右眼摄取图像中的每一个,使用从包括所述给定被摄体并且具有预定大小的区域中提取的提取图像,创建双眼立体视觉图像,所述提取步骤设置所述区域,使得与所述给定被摄体和所述摄像装置之间的距离不同的预定距离处的左眼摄取图像和右眼摄取图像之间的差具有预定值,
其中,在所述提取步骤中,基于分别用来输出所述左眼摄取图像和所述右眼摄取图像的光束的重心之间的距离、所述图像传感器和所述一个摄像光学系统的出射光瞳之间的距离、以及根据所述预定距离获得的所述预定距离处的左眼摄取图像和右眼摄取图像之间的差,来设置所述区域。
11.一种程序,用于使计算机执行在权利要求9或10中限定的摄像装置的控制方法中的每个步骤。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011177743A JP5814692B2 (ja) | 2011-08-15 | 2011-08-15 | 撮像装置及びその制御方法、プログラム |
JP2011-177743 | 2011-08-15 | ||
PCT/JP2012/068260 WO2013024659A1 (en) | 2011-08-15 | 2012-07-11 | Image capturing apparatus, method of controlling the same and program |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103733133A true CN103733133A (zh) | 2014-04-16 |
CN103733133B CN103733133B (zh) | 2016-08-17 |
Family
ID=47714984
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280039771.0A Active CN103733133B (zh) | 2011-08-15 | 2012-07-11 | 摄像装置及其控制方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9420261B2 (zh) |
EP (1) | EP2745173B1 (zh) |
JP (1) | JP5814692B2 (zh) |
CN (1) | CN103733133B (zh) |
RU (1) | RU2565855C1 (zh) |
WO (1) | WO2013024659A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108510436A (zh) * | 2018-03-28 | 2018-09-07 | 清华大学 | 一种冷冻电镜三维重构中重构参数搜索方法和系统 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5853510B2 (ja) * | 2011-09-07 | 2016-02-09 | 株式会社ニコン | 撮像装置 |
CN105074528B (zh) * | 2013-03-29 | 2017-07-18 | 富士胶片株式会社 | 摄像装置及对焦控制方法 |
JP6230266B2 (ja) * | 2013-05-20 | 2017-11-15 | キヤノン株式会社 | 撮像装置、画像処理装置、および制御方法 |
JP6071748B2 (ja) * | 2013-05-23 | 2017-02-01 | キヤノン株式会社 | 撮像装置およびその制御方法 |
WO2014208224A1 (ja) * | 2013-06-24 | 2014-12-31 | オリンパスメディカルシステムズ株式会社 | オートフォーカス装置 |
JP6255753B2 (ja) * | 2013-07-05 | 2018-01-10 | 株式会社ニコン | 画像処理装置および撮像装置 |
JP6271926B2 (ja) * | 2013-09-18 | 2018-01-31 | キヤノン株式会社 | 撮像装置、その制御方法、及びプログラム |
KR102299575B1 (ko) * | 2015-03-09 | 2021-09-07 | 삼성전자주식회사 | 위상 검출 픽셀들로부터 깊이 맵을 생성할 수 있는 이미지 신호 프로세서와 이를 포함하는 장치 |
JP2020027957A (ja) * | 2018-08-09 | 2020-02-20 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
US11190754B2 (en) * | 2020-01-22 | 2021-11-30 | 3D Media Ltd. | 3D display device having a processor for correcting pseudostereoscopic effect |
CN114764824A (zh) * | 2020-12-30 | 2022-07-19 | 安霸国际有限合伙企业 | 使用导引节点的视差图构建 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003007994A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 固体撮像素子、立体カメラ装置及び測距装置 |
JP2010068182A (ja) * | 2008-09-10 | 2010-03-25 | Fujifilm Corp | 3次元撮影装置および方法並びにプログラム |
JP2010278878A (ja) * | 2009-05-29 | 2010-12-09 | Fujifilm Corp | 立体画像表示装置及びその表示画像切替方法 |
JP2011022796A (ja) * | 2009-07-15 | 2011-02-03 | Canon Inc | 画像処理方法および画像処理装置 |
CN102103320A (zh) * | 2009-12-22 | 2011-06-22 | 鸿富锦精密工业(深圳)有限公司 | 立体取像相机模组 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5521639A (en) * | 1992-04-30 | 1996-05-28 | Sony Corporation | Solid-state imaging apparatus including a reference pixel in the optically-black region |
US5864360A (en) * | 1993-08-26 | 1999-01-26 | Canon Kabushiki Kaisha | Multi-eye image pick-up apparatus with immediate image pick-up |
US5668605A (en) * | 1994-10-25 | 1997-09-16 | R. T. Set | Object keying in video images based on distance from camera |
JPH11112885A (ja) * | 1997-10-03 | 1999-04-23 | Olympus Optical Co Ltd | カメラ |
US6873723B1 (en) * | 1999-06-30 | 2005-03-29 | Intel Corporation | Segmenting three-dimensional video images using stereo |
JP4428761B2 (ja) * | 1999-07-07 | 2010-03-10 | Hoya株式会社 | ステレオカメラ |
JP3609988B2 (ja) * | 2000-06-21 | 2005-01-12 | ペンタックス株式会社 | 焦点検出装置 |
JP4027113B2 (ja) | 2002-02-19 | 2007-12-26 | キヤノン株式会社 | 撮像装置及びシステム |
US7417664B2 (en) * | 2003-03-20 | 2008-08-26 | Seijiro Tomita | Stereoscopic image picking up and display system based upon optical axes cross-point information |
JP4719505B2 (ja) * | 2005-05-17 | 2011-07-06 | キヤノン株式会社 | 映像信号処理装置及び映像信号処理方法 |
WO2009020277A1 (en) | 2007-08-06 | 2009-02-12 | Samsung Electronics Co., Ltd. | Method and apparatus for reproducing stereoscopic image using depth control |
CN101557473B (zh) * | 2008-04-11 | 2011-07-27 | 鸿富锦精密工业(深圳)有限公司 | 摄像装置及其亮度调节方法 |
JP2011029905A (ja) * | 2009-07-24 | 2011-02-10 | Fujifilm Corp | 撮像装置、方法およびプログラム |
-
2011
- 2011-08-15 JP JP2011177743A patent/JP5814692B2/ja active Active
-
2012
- 2012-07-11 WO PCT/JP2012/068260 patent/WO2013024659A1/en active Application Filing
- 2012-07-11 US US14/131,550 patent/US9420261B2/en active Active
- 2012-07-11 EP EP12824329.2A patent/EP2745173B1/en active Active
- 2012-07-11 RU RU2014110041/28A patent/RU2565855C1/ru active
- 2012-07-11 CN CN201280039771.0A patent/CN103733133B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003007994A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 固体撮像素子、立体カメラ装置及び測距装置 |
JP2010068182A (ja) * | 2008-09-10 | 2010-03-25 | Fujifilm Corp | 3次元撮影装置および方法並びにプログラム |
JP2010278878A (ja) * | 2009-05-29 | 2010-12-09 | Fujifilm Corp | 立体画像表示装置及びその表示画像切替方法 |
JP2011022796A (ja) * | 2009-07-15 | 2011-02-03 | Canon Inc | 画像処理方法および画像処理装置 |
CN102103320A (zh) * | 2009-12-22 | 2011-06-22 | 鸿富锦精密工业(深圳)有限公司 | 立体取像相机模组 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108510436A (zh) * | 2018-03-28 | 2018-09-07 | 清华大学 | 一种冷冻电镜三维重构中重构参数搜索方法和系统 |
CN108510436B (zh) * | 2018-03-28 | 2020-09-15 | 清华大学 | 一种冷冻电镜三维重构中重构参数搜索方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
EP2745173A1 (en) | 2014-06-25 |
RU2014110041A (ru) | 2015-09-27 |
EP2745173A4 (en) | 2015-04-08 |
RU2565855C1 (ru) | 2015-10-20 |
CN103733133B (zh) | 2016-08-17 |
JP5814692B2 (ja) | 2015-11-17 |
US20140139644A1 (en) | 2014-05-22 |
EP2745173B1 (en) | 2020-02-12 |
US9420261B2 (en) | 2016-08-16 |
JP2013041103A (ja) | 2013-02-28 |
WO2013024659A1 (en) | 2013-02-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103733133B (zh) | 摄像装置及其控制方法 | |
CN102959969B (zh) | 单眼立体摄像装置 | |
CN102893613B (zh) | 立体图像再生装置及方法、立体摄像装置、立体显示器装置 | |
US8760502B2 (en) | Method for improving 3 dimensional effect and reducing visual fatigue and apparatus enabling the same | |
EP2391142B1 (en) | Imaging device, method and program, and recording medium using same | |
US9341935B2 (en) | Image capturing device | |
CN103493484B (zh) | 成像装置和成像方法 | |
CN102362487B (zh) | 立体成像设备 | |
CN103098459B (zh) | 立体摄像装置及阴影校正方法 | |
CN103828361A (zh) | 图像处理装置、方法、程序和记录介质,立体图像获取装置,便携式电子设备,打印机和立体图像播放器装置 | |
JP3112485B2 (ja) | 立体電子スチルカメラ | |
US9357205B2 (en) | Stereoscopic image control apparatus to adjust parallax, and method and program for controlling operation of same | |
US20110090313A1 (en) | Multi-eye camera and method for distinguishing three-dimensional object | |
CN103370943A (zh) | 成像装置和成像方法 | |
CN103874960A (zh) | 单眼立体摄影装置、摄影方法及程序 | |
CN107864315A (zh) | 摄像设备、摄像设备的控制方法和记录介质 | |
CN102388617A (zh) | 复眼摄像装置及其视差调整方法和程序 | |
CN102860017B (zh) | 立体摄像装置及其制造方法 | |
US20130093848A1 (en) | Image output device, method and program | |
KR100915039B1 (ko) | 다중 초점 2차원 영상을 이용한 3차원 입체 영상 변환 방법및 변환 장치와 이를 위한 기록매체 | |
CN103339947A (zh) | 3d视频再现装置、3d视频再现程序及其记录介质、3d显示装置、3d成像装置和3d视频再现方法 | |
CN103220544B (zh) | 一种主动离轴平行式立体成像方法 | |
CN103339948B (zh) | 3d视频再现装置、3d成像装置和3d视频再现方法 | |
CN103329549A (zh) | 立体视频处理器、立体视频处理程序及其记录介质、立体成像装置和立体视频处理方法 | |
JP3939127B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |