CN101888481B - 成像设备 - Google Patents

成像设备 Download PDF

Info

Publication number
CN101888481B
CN101888481B CN2010101700347A CN201010170034A CN101888481B CN 101888481 B CN101888481 B CN 101888481B CN 2010101700347 A CN2010101700347 A CN 2010101700347A CN 201010170034 A CN201010170034 A CN 201010170034A CN 101888481 B CN101888481 B CN 101888481B
Authority
CN
China
Prior art keywords
pixel
image
lens
imaging
visual point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2010101700347A
Other languages
English (en)
Other versions
CN101888481A (zh
Inventor
山本健二
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN101888481A publication Critical patent/CN101888481A/zh
Application granted granted Critical
Publication of CN101888481B publication Critical patent/CN101888481B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof

Abstract

本发明公开了一种成像设备,包括:成像透镜,具有孔径光阑;成像元件,包括多个像素并基于接收到的光获取图像数据,所述像素的每一个的平面形状为矩形,并且所述像素总体上被排列成矩阵;以及透镜阵列单元,设置在所述成像透镜的成像平面上并包括多个透镜,每个透镜被分配给沿成像单元中矩形像素的短边方向的n个像素,n是等于或大于2的整数。

Description

成像设备
相关申请的参考
本申请包括2009年5月11日向日本专利局提交的JP2009-114740日本优先权专利申请中公开的相关主题,其全部内容结合于此作为参考。
技术领域
本发明涉及一种采用微透镜阵列的成像设备。
背景技术
人们已经提出和开发了各种成像设备。而且,还有人提出了一种对由成像获得的成像数据执行预定的图像处理并输出所得数据的成像设备。
例如,PCT专利公开号WO 06/039486手册和Ren.Ng同其他七位合著者的斯坦福技术报告CTSR 2005-02《Light FieldPhotography with a Hand-Held Plenoptic Camera》提出了一种成像设备,该成像设备采用了一种称为“光场摄影”的技术。这种成像设备包括具有孔径光阑(aperture stop)的成像透镜、微透镜阵列、成像元件和图像处理器。这样的结构使得该成像元件能够获得不仅包括光的强度分布还包括光的传播方向上的信息的成像数据。此外,任意视点和方向(以下简称为视场)的观察图像都能够在图像处理器中进行重现。
发明内容
多个微透镜设置在上述微透镜阵列中,成像元件的多个像素被分配给各个微透镜。在使用上述技术的情况下,重现图像(reconstructed image)的像素数量等于微透镜阵列中微透镜的数量。这是因为重现图像的二维坐标信息取决于微透镜阵列的坐标。因此,重现图像的像素数量等于由成像元件的所有像素数量除以分配给各个微透镜的像素(以下称为透镜分配像素)数量所得的值。另一方面,透镜分配像素的数量等于光线角度信息的分辨率,并决定重现图像的任意视场的分辨率,即,有多少视点和方向(从这些视点和方向可以重现观察图像)。因此,任意视场的分辨率和二维坐标系的像素数量是一种平衡关系。
在这里,下文中将考虑获取多个视点图像(多视点图像)的情况,这些视点图像的视点在水平方向(横向)和垂直方向(纵向)之一上各不相同。一般来说,各个微透镜的纵向间距和横向间距彼此相同,成像元件各像素的平面形状为正方形。因此,二维排列的像素,如3×3的像素或2×2的像素,被分配给各个微透镜。在以此配置获取上述一个方向上的多视点图像的情况下,分别利用透镜分配像素中排列在同一直线上的像素的像素数据来生成各视点图像。例如,当透镜分配像素数量为3×3时,排列在同一直线上的像素数量就是3。因此,利用这些像素可以生成两个或三个视点图像。
然而,如上所述,各视点图像二维坐标系的像素数量等于成像元件所有像素的数量除以透镜分配像素的数量所得的值。因此,在只在一个方向上获取多视点图像的情况下,除了透镜分配像素中那些位于同一直线上的像素之外,其他像素基本上都是多余的,但最终获得的视点图像的像素数量,即二维分辨率,由于这些多余像素的存在而降低。
这就需要本发明提供一种成像设备,在基于所获取的包括光传播方向信息的成像数据仅在一个方向上产生多视点图像的情况下,该成像设备能够提高各视点图像的二维分辨率。
根据本发明实施例,提供了一种成像设备,该成像设备包括:成像透镜,具有孔径光阑;成像元件,包括多个像素并基于接收到的光来获取成像数据,每个所述像素平面形状为矩形并且这些像素总体上排列成矩阵;以及透镜阵列单元,设置在成像透镜的成像平面上并包含多个透镜。每个透镜被分配给沿成像元件中矩形像素的短边方向排列的至少两个像素。
在根据本发明实施例的成像设备中,通过成像透镜在透镜阵列单元上生成成像物体的图像。此外,入射到透镜阵列单元上的光线经由透镜阵列单元到达成像元件,并被对应各个透镜的至少两个像素接收。从而,可以获取包含光的传播方向信息的成像数据。在该成像设备中,成像元件的各像素为矩形,各个透镜被分配给沿该矩形像素的短边方向排列的至少两个像素。这一特点使成像元件能够在沿着短边方向的一个方向上获取至少两个视点图像的数据作为成像数据,所述视点图像数据包括传播方向彼此不同的光线数据。
在根据本发明实施例的成像设备中,成像元件的各像素形成为矩形,各个透镜分别被分配给沿矩形的短边方向排列的至少两个像素。因此,在沿短边方向的一个方向上,可以获取与透镜分配像素数量相同的多视点图像数据。即,可以消除透镜分配像素的像素浪费,并且可以把透镜分配像素的数量设置为所需的最小值。在基于成像数据生成视点图像的情况下,视点图像的二维分辨率等于成像元件中的像素总数量除以透镜分配像素的数量所得的值。因此,在基于所获取的包括光传播方向信息的成像数据仅在一个方向上生成多视点图像的情况下,可以提高各多视点图像的二维分辨率。
附图说明
图1是示出了根据本发明一个实施例的成像设备整体配置的示图;
图2是示出了图1所示的成像元件的像素配置的示意图;
图3A~图3C是用来说明图1所示成像元件中像素尺寸的示意图;
图4是用来说明入射到成像元件上的光线信息的示意图;
图5A和图5B是用来说明根据对比实例的视点图像生成处理过程的示意图;
图6A和图6B是用来说明图1所示成像设备中视点图像生成处理过程的示意图。
图7A~图7C是示出了图1所示成像设备的一个应用实例的示图。
图8A和图8B是示出了根据修改实例的成像元件的像素配置示意图。
具体实施方式
以下将参照附图详细描述本发明的实施例。描述将按以下顺序进行。
1.实施例(在该实例中,透镜分配像素的数量为2,像素平面形状是短边长度与长边长度的比为1∶2的矩形)
2.应用实例(以采用左、右视点图像的3D显示设备为例)
3.改进实施例(在该实例中,透镜分配像素的数量为3,像素平面形状是短边长度与长边长度的比为1∶3的矩形)
<实施例>
(成像设备1的整体配置)
图1是示出了根据本发明一个实施例的成像设备(成像设备1)的整体配置的示意图。成像设备1对物体(object)2实施成像并执行图像处理,以从而输出图像数据Dout作为多视点图像(在本实施例中,为左、右两个视点图像)。该成像设备1包括孔径光阑10、成像透镜11、微透镜阵列12(透镜阵列单元)、成像元件13、图像处理器14、成像元件驱动器15、以及控制器16。
孔径光阑10是成像透镜11的一个光学孔径光阑,圆形开口设置在孔径光阑10的中心部分。所有穿过孔径光阑10的光线以携带有各光线传播方向信息的状态被成像元件13接收。
成像透镜11是用于物体成像的主透镜,并由例如用在摄录机(video camcorder)、照相机等中的普通成像透镜构成。
微透镜阵列12通过将多个微透镜排列成矩阵而得到,并且被设置在成像透镜11的焦平面(成像平面)上。每个微透镜具有例如圆形的平面形状,并由例如固体透镜、液晶透镜或折射透镜(diffractive lens)构成。成像元件13中两个或两个以上的像素被分配给微透镜阵列12的各个微透镜(其中的细节将在下文中说明)。
成像元件13位于微透镜阵列12的焦平面(成像平面)上,它接收来自微透镜阵列12的光线以获取成像数据D0。该成像元件13是基于例如电荷耦合装置(CCD)或互补金属氧化半导体(CMOS)的固体成像元件。
在成像元件13的光接收平面上,M×N(M,N为整数)的像素排列成一个矩阵。一个微透镜被分配给这些像素中两个或两个以上像素。因为透镜分配像素的数量(定义为m×n)与多视点图像的分辨率(视点的数量)相关,随着这些m和n的值变大,多视点图像的分辨率变高。另一方面,由于(M/m)和(N/n)与各视点图像的像素数量(分辨率)相关,随着这些(M/m)和(N/n)的值变大,各视点图像的像素数量增加。因此,多视点图像的分辨率和各视点图像的像素数量是一种平衡关系(trade-off relationship)。
(成像元件13的像素配置)
以下将参照图2和图3A~图3C来描述成像元件13的像素配置。图2是示出了成像元件13的像素配置的示意图。图3A~图3C是用来说明成像元件13中像素尺寸的示图。
在成像元件13中,以矩阵形式设置的多个像素P1的每一个的平面形状为矩形。在本实施例中,该矩形的短边方向d1(沿短边的方向)相当于横向(水平方向)。如果定义矩形的短边长度为a,则长边长度就为2a。即,矩形具有短边长度与长边长度的比为1∶2的尺寸比。
微透镜阵列12中的各微透镜平面形状为圆形,横径和纵径的尺寸比为1∶1。短边方向d1上的两个像素被分配给每一个微透镜,长边方向d2(纵向,垂直方向)上的一个像素被分配给每一个微透镜。即,在本实施例中,每个微透镜被分配给沿短边方向d1排列的两个像素P1。图2中虚线所示的区域12D就是相应于微透镜的区域。
像素P1的像素面积与图3A和图3B中所示的平面形状为正方形(一边的长度为b)的像素P100的面积相同,例如(b2=2a2)。因此,如图3C所示,本实施例中微透镜的直径比透镜分配像素数量设定为3×3(图3A)和透镜分配像素数量设定为2×2(图3B)时小(区域12D的直径<区域120D1和120D2的直径)。对本发明的描述将以与像素P100面积相同的像素作为像素P1的例子,以便于对像素P1和P100的二维分辨率进行对比(将在随后描述)。然而,显而易见的是,像素P1的尺寸并不是依赖于例如现有电荷耦合装置的尺寸进行设计的。
图像处理器14执行预定的图像处理(包括用于由成像元件13获得的成像数据D0的视点图像生成处理)并输出图像数据Dout。
成像元件驱动器15驱动成像元件13并控制成像元件13的光接收操作。
控制器16控制图像处理器14的操作及成像元件驱动器15,并由例如微型电子计算机组成。
(成像设备1的操作及效果)
以下将参照图1、图6A和图6B描述本实施例的成像设备1的操作及效果。图4是用来说明包含在成像数据D0中的光线数据的示意图。
在成像设备1中,通过成像透镜11的物体2的图像依赖于各个微透镜的形状(圆形)而形成在微透镜阵列12上。入射到微透镜阵列12的光线经由微透镜阵列12到达成像元件13,并被光接收区域接收,孔径光阑10上的开口形状(圆形)亦被投射到该光接收区域。此时,入射到微透镜阵列12的光线根据其入射方向分别在成像元件13上的不同位置被接收。具体地说,光线的入射方向由透镜分配像素中像素P1所在的位置决定。此外,根据由成像驱动器15的驱动操作从成像元件13得到成像数据D0,并且该成像数据D0被输入到图像处理器14。
以下将参照图4描述由成像元件13接收到的光线。如图4所示,为了便于描述,在成像透镜11的成像透镜平面上假设正交坐标系(u,v),在成像元件13的成像平面上假设正交坐标系(x,y)。如果将成像透镜11的成像透镜平面与成像元件13的成像平面之间的距离定义为F,则如图所示穿过成像透镜11和成像元件13的光线L1就由四维函数LF(x,y,u,v)表示。即,光线以携带光线的传播方向和光线的位置信息的状态被记录在成像元件13中。因此,由成像元件13获取的成像数据D0不仅包括光线的强度,还包括其传播方向的信息。
当上述成像数据D0被输入到图像处理器14时,图像处理器14执行预定的图像处理,该处理包括对成像数据D0的视点图像生成处理(重排处理)。由图像处理所得的成像数据作为成像设备1的图像数据(视点图像数据)Dout输出。将在下文中详细说明该视点图像生成处理。
首先,以下将参照图5A和图5B描述根据对比实施例的成像设备中的视点图像生成处理。图5A和图5B是根据对比实施例的用于通过使用成像元件130对视点图像生成处理进行说明的示意图。除了成像元件130的配置和微透镜阵列中的透镜直径不同之外,该对比实施例的成像设备与本实施的成像设备具有相同的配置。根据对比实施例的成像元件130是由平面形状为正方形的多个像素P100排列成矩阵而成,在这些多个像素P100中,每个微透镜被分配给3×3=9个像素P100。在成像元件130中,来自物体2的光线由对应于微透镜的各区域120D1接收。顺便提及,为了方便起见,对3×3像素P100给出标号“1”到“9”。
在基于由该成像元件130获取的成像数据生成多视点图像的情况下,位于区域120D1中相同位置的像素P100的像素数据被分别提取,并且将这些像素数据彼此合成。特别地,如果想要获取右和左两个视点图像,就读取设置在直线A上的像素P100的像素数据。其后,通过仅设置对应于“4”位置上的像素的像素数据来生成左视点图像DL100,通过仅设置对应于“6”位置上的像素的像素数据来生成右视点图像DR100。此时,如果将成像元件130的像素总数量定义为Pn,则各左视点图像DL100和右视点图像DR100的二维分辨率(分辨率B100)等于Pn除以透镜分配像素数量,即,3×3(=9),所得的值(B100=Pn/9)。
接下来,将参照图6A和图6B描述根据本实施例的视点图像生成处理。图6A和图6B是根据本实施例的用来通过使用成像元件13对视点图像生成处理进行说明的示意图。在成像元件13中,平面形状均为矩形的多个像素P1如上所述排列成一个矩阵,每个微透镜被分配给沿着在这些多个像素P1中的短边方向d1(2×1像素P1)排列的两个像素P1。在成像元件13中,来自物体2的光线被对应于微透镜的各区域120D接收。为方便起见,对2×1的像素P100给出了标号“1”和“2”。
基于由此成像元件13获取的成像数据D0,图像处理器14提取设置在区域120D中相同位置处的每个像素P1的像素数据,并将这些像素数据彼此合成。具体地,如果想要获取右和左两个视点图像,就读取各像素P1的像素数据。随后,通过仅设置对应于“1”位置的像素的像素数据来生成左视点图像DL,通过仅设置对应于“2”位置的像素的像素数据来生成右视点图像DR。此时,如果将成像元件13的像素总数量定义为Pn,则左视点图像DL和右视点图像DR的二维分辨率(分辨率B)等于Pn除以透镜分配像素数量,即,2×1(=2),所得的值(B=Pn/2)。
如上所述,在水平方向生成右和左两个视点图像的情况下,在对比实例中,透镜分配像素(3×3)中除设置在“4”和“6”位置上的像素以外,其它像素基本上是不必要的。相反,在本实施例中,所有位于“1”和“2”位置上的像素作为透镜分配像素,都被利用上了。即,在本实施例中,透镜分配像素的数量等于生成的视点图像的数量,并且成像元件13中的所有像素P1都被有效利用而没有多余的。
如上所述,本实施例的成像设备1中,成像元件13的各像素P1采用矩形的平面形状,每个微透镜被分配给沿矩形的短边方向d1排列的两个像素P1。因此,沿短边方向d1(本实施例中的水平方向)的一个方向上,能够获得与透镜分配像素相同数量的视点图像(左视点图像DL及右视点图像DR)。
由于各左视点图像DL和右视点图像DR的分辨率B等于成像元件13的像素总数Pn除以透镜分配像素数量的值,所以为了获得更高的分辨率,透镜分配像素数量越小越好。因此,通常,利用通过将正方形的像素P100按上述对比实例那样排列而成的成像元件130,就能将透镜分配像素设定为相对较小的数,例如3×3(或2×2)。然而,即使具有这样的配置,如果想要仅在一个方向上获取多视点图像,如右和左两个视点图像,仍有一半或更多的透镜分配像素是多余的。即,透镜分配像素中除了那些在同一直线上的像素以外,其它像素基本上是多余的,因此由于这些多余像素的存在,最终获得的视点图像的二维分辨率降低了(分辨率B100=Pn/9)。
相反,在本实施例中,可以消除透镜分配像素的像素的浪费,并且可以将透镜分配像素的数量设置为必需的最小数值(在获取左视点图像DL和右视点图像DR的情况下为2)。因此,与上述对比实例相比,提高了分辨率(分辨率B=Pn/2)。所以,在基于获取的包括光传播方向信息的成像数据D0仅在一个方向上生成多视点图像的情况下,可以提高每个多视点图像的二维分辨率。
由于可以将透镜分配像素的数量设置成必需的最小数值,所以只要能保证期望的分辨率,也可以减少成像元件13的像素总量。这就有利于减小成像元件的尺寸并降低其成本。此外,由于像素数量的减少,所以读出的信息(像素数据)量变小,这就使得读出速度提高了。此外,像素数量的减少还使得增大单个像素的尺寸成为可能。这就提供了例如可以缩短曝光时间从而可以增强抗噪稳定性(robustness against noise)等优势。
<应用实例>
例如,将上述成像设备1装入图7A所示相机3中使用。相机3包括在壳体内部的成像设备1,并具有诸如取景器31和快门按钮32的机构。此外,例如,在图7C中,由该相机3拍摄的左视点图像DL和右视点图像DR(图7B)通过用于三维显示的3D显示设备4来显示。3D显示设备4是基于双目立体系统(two-eye stereosystem)来显示每个左眼图像和右眼图像的显示设备。立体视觉可以通过分别由右眼和左眼对显示在这样的3D显示设备4上的右视点图像DR和左视点图像DL进行单独观察来实现。
<改进方案>
图8A和图8B是示出了根据上述实施例的改进实例的成像设备中成像元件(成像元件17)的像素配置的示意图。本改进实例的成像设备旨在获取水平方向上的三视点图像,并且除了成像元件17的配置以外,它具有与上述实施例的成像设备1相同的配置。在以下的说明中,与上述实施例中相同的组件采用相同的标号和符号,并相应地省略对其的描述。
与根据上述实施例的成像元件13类似,成像单元17接收来自微透镜阵列12的光线并获取成像数据D0,多个像素P2在成像元件17的光接收平面上排列成矩阵。各像素P2的平面形状为矩形,每个微透镜被分配给沿短边方向d1排列的两个或两个以上像素P2。
在本改进实例中,透镜分配像素的数量为3×1(3)。如果将每个像素P2的矩形形状的短边长度定义为c,则其长边的长度为3c。即,矩形的尺寸比例是短边长度与长边长度的比为1∶3。各像素P2的像素面积与图3A和3B中所示的像素P100的像素面积相同,例如,(b2=3c2)。因此,本改进实例中微透镜的直径比透镜分配像素数量设定为3×3时的微透镜直径(图3A)和透镜分配像素数量设定为2×2时的微透镜直径(图3B)小(区域12D的直径<区域120D1和120D2的直径)。尽管本改进实例中也采用与像素P100有相同面积的像素作为像素P2的例子,但需要明确的是,像素P2的尺寸并不是根据例如现有CCD的尺寸来进行设计的。
在根据此改进实例的成像设备中,与上述实施例类似,来自物体2的光线经由微透镜阵列12被成像元件17上的各区域12D接收,从而获取成像数据D0。基于该成像数据D0,图像处理器14执行视点图像生成处理并输出图像数据Dout作为视点图像数据。
在本改进实例中,基于由成像元件17获取的成像数据D0,图像处理器14提取区域12D中设置在相同位置处的各像素P2的像素数据,并将这些像素数据彼此合成。特别地,读出各像素P2的像素数据是为了获取在水平方向上视点彼此不同的三视点图像。其后,通过设置对应于“1”位置的像素的像素数据生成左视点图像DL。另外,通过设置对应于“2”位置上的像素的像素数据生成中心视点图像DC,而通过设置对应于“3”位置上的像素的像素数据生成右视点图像DR。此时,如果将成像元件17的像素总数量定义为Pn,则各左视点图像DL、中心视点图像DC和右视点图像DR的二维分辨率(分辨率B)等于Pn除以透镜分配像素数量,即,3×1(=3),所得的值(B=Pn/3)。
在水平方向上生成三视点图像的情况下,在上述对比实例中,通过利用例如设置在透镜分配像素(3×3)中“4”、“5”和“6”位置处的像素来生成各视点图像。即,除了这三个像素以外,其它像素实质上是多余的。相反,在本改进实例中,所有设置在“1”到“3”位置处的作为透镜分配像素的像素P2都被利用上了。即,在本改进实例中,透镜分配像素的数量等于生成的视点图像的数量,并且成像元件17中的所有像素P2都被有效利用而没有多余的。
如上所述,在本改进实例中,采用矩形形状作为成像元件17的各像素P2的平面形状,每个微透镜被分配给沿矩形的短边方向d1排列的三个像素P2。因此,在沿着短边d1的一个方向(本改进实例中的水平方向)上,可以获得与透镜分配像素数量相同的视点图像(左视点图像DL、中心视点图像DC及右视点图像DR)。因此,可以消除透镜分配像素中的像素的浪费,并且可以将透镜分配像素的数量设置为必需的最小值(在改进实例中为3)。从而,与上述对比性实例相比,提高了分辨率(分辨率B=Pn/3)。因此,可以得到与上述实施例相同的优点。
此外,通过利用3D显示设备(例如,多目立体系统)显示这些三视点图像,即左视点图像DL、中心视点图像DC和右视点图像DR,可以实现立体显示。作为多目立体系统,例如,可以采用如下的双凸镜状系统(1enticular system)。具体地,在双凸镜状系统中,将一个表面为凹凸形的特殊面板(双凸镜状板)施加到显示面板上,以用来显示多个合成的视差图(parallax image),从而通过双凸镜状板来观看显示的图像。双凸镜状板通过在平板上横向排列例如大量沿纵向延伸的柱面透镜(拱背透镜)而成。在双凸镜状系统的机构中,通过利用透镜的光学折射,右眼看到精密切入纵轴形式的右眼图像,类似地,左眼也可以看到左眼图像。利用双凸镜状板,观察者的左右眼能够相对容易地同时看到彼此不同的图像。通过将这些图像在大脑中进行合成,这些图像在观察者看来就成为立体的图像。
以上已经对本发明实施例及其改进实例进行了说明,但是本发明并不限于上述实施例等,而是可以将各种修改与其结合。例如,已经通过将其中透镜分配像素数量为2或3的情况为例描述了上述实施例。然而,透镜分配像素的数量可以等于或者大于4。当将透镜分配像素的数量设定为n(n是等于或大于2的整数)时,n个像素沿矩形的短边方向排列,并且各像素的形状被设置为矩形形状,该矩形形状具有短边长度与长边长度的比1∶n的尺寸比例。这就使得在一个方向上获得视点各不相同的n视点图像成为可能。
此外,已经通过将短边方向d1和长边方向d2分别为横向(水平方向)和纵向(垂直方向)的情况作为实例描述了上述实施例等,并生成了在水平方向上变化的多视点图像,例如左、右视点图像。然而,这些方向之间的对应关系并不限于此。例如,也可以是短边方向d1为纵向(垂直方向)而长边方向d2为横向(水平方向)。即,可以采用通过将上述成像元件旋转90°所得的像素配置。这也可以生成在垂直方向上视点各不相同的多视点图像,如上、下视点图像。
此外,已经通过将由二维排列多个微透镜所得的微透镜阵列作为本发明的透镜阵列单元的例子描述了上述实施例等。然而,透镜阵列单元并不限于此,而可以是由一维排列多个透镜而得到的透镜阵列(双凸镜状透镜,lenticular lens)。作为双凸镜状透镜,可以与上述双凸镜状板类似地来使用通过在水平方向上排列例如沿垂直方向延伸的拱背透镜而得到的单元。如果使用双凸镜状透镜,成像单元n列像素被分配给一个透镜。当采用这样的双凸镜状透镜时,垂直方向上会缺少光强度(optical power)。但这不会成为问题,因为本发明的目的在于仅在水平方向上获取多视点图像。另一方面,如果想要仅在垂直方向上获取多视点图像,就将上述成像单元和双凸镜状透镜旋转90°,将n行像素分配给一个透镜。
此外,已经通过将基于双目立体系统(使用右和左两个视点图像)的立体显示和基于多目立体系统(使用水平方向的三视点图像)的立体显示作为根据本发明实施例的成像设备的应用实例描述了上述实施例等。但是根据本发明实施例的成像设备也可以用于其他技术。例如,也可以将成像设备应用到通过使用水平方向上的右和左两个视点图像计算到测量物体的距离的测距技术。在这种情况下,利用例如立体匹配处理可以获取右和左两个视点图像的相差,并可以根据这个相差创建深度图。
此外,在上述实施例中,将图像处理器14当作是包含在成像设备1中的一个组件。然而,该图像处理器14不是必须设置在成像设备1内部。例如,成像设备1可以具有以下配置。具体地,将图像处理器14设置在另一设备中,例如,个人计算机(PC)中,并将成像光学系统获取的成像数据传输到PC以在PC中执行图像处理。
此外,利用上述矩形像素获取的成像数据与通过合成水平方向或垂直方向的正方形像素输出所得的成像数据基本相等。然而,在本发明实施例中,像素的平面形状为矩形,因此与像素的平面形状为正方形的情况相比,其读出数据线(readout lines)的数量较少。另外,合成处理并不是必需的,因此可以相应地提高处理速度。
本领域技术人员应该理解的是,在本发明所附权利要求或其等同替换的范围内,根据设计需要和其它因素,可以作各种修改、组合、次组合以及变形。

Claims (4)

1.一种成像设备,包括:
成像透镜,具有孔径光阑;
成像元件,包括多个像素,并基于接收到的光获取成像数据,所述像素的每一个的平面形状为矩形,并且所述像素总体上被排列成矩阵;以及
透镜阵列单元,设置在所述成像透镜的图像形成平面上,并包括多个透镜,每个所述透镜被分配给沿着在所述成像元件中具有矩形形状的所述像素的短边方向设置的n个像素,n是等于或大于2的整数,在所述多个像素的每一个中,所述像素的长边的长度是所述像素的短边的长度的n倍。
2.根据权利要求1所述的成像设备,其中,
所述n等于2。
3.根据权利要求1所述的成像设备,其中,
所述n等于3。
4.根据权利要求1所述的成像设备,进一步包括:
图像处理器,从所述成像数据中提取设置在以透镜为单位形成的像素区域中相同位置处的像素的像素数据,并将所述像素数据彼此合成以生成多个视点图像。
CN2010101700347A 2009-05-11 2010-05-04 成像设备 Active CN101888481B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009-114740 2009-05-11
JP2009114740A JP5246424B2 (ja) 2009-05-11 2009-05-11 撮像装置

Publications (2)

Publication Number Publication Date
CN101888481A CN101888481A (zh) 2010-11-17
CN101888481B true CN101888481B (zh) 2013-03-13

Family

ID=43062140

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010101700347A Active CN101888481B (zh) 2009-05-11 2010-05-04 成像设备

Country Status (3)

Country Link
US (1) US8330848B2 (zh)
JP (1) JP5246424B2 (zh)
CN (1) CN101888481B (zh)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8189089B1 (en) 2009-01-20 2012-05-29 Adobe Systems Incorporated Methods and apparatus for reducing plenoptic camera artifacts
JP5499778B2 (ja) 2010-03-03 2014-05-21 株式会社ニコン 撮像装置
US8860833B2 (en) 2010-03-03 2014-10-14 Adobe Systems Incorporated Blended rendering of focused plenoptic camera data
CN103039066B (zh) * 2010-06-30 2016-01-27 富士胶片株式会社 成像装置、图像处理装置以及图像处理方法
EP2602586A4 (en) 2010-08-06 2016-11-23 Panasonic Ip Man Co Ltd IMAGING DEVICE AND METHOD
US8665341B2 (en) 2010-08-27 2014-03-04 Adobe Systems Incorporated Methods and apparatus for rendering output images with simulated artistic effects from focused plenoptic camera data
US8803918B2 (en) 2010-08-27 2014-08-12 Adobe Systems Incorporated Methods and apparatus for calibrating focused plenoptic camera data
US8724000B2 (en) * 2010-08-27 2014-05-13 Adobe Systems Incorporated Methods and apparatus for super-resolution in integral photography
US8749694B2 (en) 2010-08-27 2014-06-10 Adobe Systems Incorporated Methods and apparatus for rendering focused plenoptic camera data using super-resolved demosaicing
JP5699609B2 (ja) * 2011-01-06 2015-04-15 ソニー株式会社 画像処理装置および画像処理方法
JP2012191351A (ja) * 2011-03-09 2012-10-04 Sony Corp 撮像装置および画像処理方法
US9030550B2 (en) 2011-03-25 2015-05-12 Adobe Systems Incorporated Thin plenoptic cameras using solid immersion lenses
WO2012143983A1 (ja) 2011-04-22 2012-10-26 パナソニック株式会社 撮像装置、撮像システム、及び撮像方法
US8717483B2 (en) 2011-04-22 2014-05-06 Panasonic Corporation Imaging device, imaging system, and imaging method
US9253475B2 (en) 2011-04-27 2016-02-02 Panasonic Intellectual Property Management Co., Ltd. Display device
WO2012164934A1 (ja) * 2011-05-30 2012-12-06 株式会社ニコン 画像処理装置、画像処理方法およびプログラム
JP5406383B2 (ja) 2011-06-23 2014-02-05 パナソニック株式会社 撮像装置
CN102959939A (zh) * 2011-06-27 2013-03-06 松下电器产业株式会社 摄像装置
CN202196192U (zh) * 2011-09-13 2012-04-18 香港应用科技研究院有限公司 光学透镜装置、投影系统及成像设备
JP2013061440A (ja) * 2011-09-13 2013-04-04 Canon Inc 撮像装置および撮像装置の制御方法
JP5667304B2 (ja) * 2011-09-13 2015-02-12 富士フイルム株式会社 立体撮像装置
JP5871535B2 (ja) * 2011-09-22 2016-03-01 キヤノン株式会社 撮像装置及び撮像装置の制御方法
CN103843320B (zh) 2011-09-28 2015-11-25 富士胶片株式会社 图像传感器和成像装置
JP6019568B2 (ja) * 2011-11-28 2016-11-02 ソニー株式会社 画像処理装置および方法、記録媒体、並びに、プログラム
CN103314571B (zh) 2011-11-30 2017-09-29 松下知识产权经营株式会社 摄像装置和摄像系统
JP5917125B2 (ja) * 2011-12-16 2016-05-11 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置および表示装置
JP6264284B2 (ja) * 2012-03-30 2018-01-24 株式会社ニコン 撮像装置
JP6144880B2 (ja) * 2012-06-07 2017-06-07 キヤノン株式会社 表示装置および表示方法、並びに前記表示装置を備えた撮像装置
CN104521231B (zh) * 2012-08-10 2016-12-21 株式会社尼康 图像处理装置和摄像装置
KR20140094395A (ko) * 2013-01-22 2014-07-30 삼성전자주식회사 복수 개의 마이크로렌즈를 사용하여 촬영하는 촬영 장치 및 그 촬영 방법
JP6055332B2 (ja) * 2013-02-12 2016-12-27 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
WO2015005672A1 (en) * 2013-07-09 2015-01-15 Samsung Electronics Co., Ltd. Image generating apparatus and method and non-transitory recordable medium
JP6260006B2 (ja) * 2013-07-30 2018-01-17 パナソニックIpマネジメント株式会社 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置
JP2015060067A (ja) 2013-09-18 2015-03-30 株式会社東芝 撮像レンズ及び固体撮像装置
JP2015060068A (ja) 2013-09-18 2015-03-30 株式会社東芝 撮像レンズ及び固体撮像装置
CN103605210A (zh) * 2013-11-07 2014-02-26 四川大学 一种虚模式集成成像3d显示装置
JP6151632B2 (ja) * 2013-12-20 2017-06-21 富士フイルム株式会社 撮像モジュール及び撮像装置
KR102269599B1 (ko) * 2014-04-23 2021-06-25 삼성전자주식회사 직경이 상이한 렌즈 소자들을 구비하는 촬상 장치
EP3148177A4 (en) 2014-10-22 2018-01-24 Yulong Computer Telecommunication Technologies (Shenzhen) Co., Ltd. Image generation method based on dual camera module and dual camera module
JP6263221B2 (ja) * 2016-04-06 2018-01-17 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置および表示装置
WO2018051629A1 (ja) * 2016-09-14 2018-03-22 富士フイルム株式会社 撮像装置及び撮像制御方法
CN107146797B (zh) 2017-04-28 2020-03-27 Oppo广东移动通信有限公司 双核对焦图像传感器及其对焦控制方法和成像装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7116352B2 (en) * 1999-02-25 2006-10-03 Visionsense Ltd. Capsule
CN101082735A (zh) * 2006-05-30 2007-12-05 日立麦克赛尔株式会社 背光单元及液晶显示装置
CN101345826A (zh) * 2007-07-13 2009-01-14 索尼株式会社 图像拾取设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2398224B1 (en) 2004-10-01 2016-01-13 The Board of Trustees of The Leland Stanford Junior University Imaging arrangements and methods therefor
EP1887399A4 (en) * 2005-05-30 2011-03-23 Nikon Corp IMAGE GENERATION CONDITION DETECTION DEVICE
US8248515B2 (en) * 2006-02-07 2012-08-21 The Board Of Trustees Of The Leland Stanford Junior University Variable imaging arrangements and methods therefor
JP4952060B2 (ja) * 2006-05-26 2012-06-13 株式会社ニコン 撮像装置
JP2008294741A (ja) * 2007-05-24 2008-12-04 Olympus Corp 撮像システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7116352B2 (en) * 1999-02-25 2006-10-03 Visionsense Ltd. Capsule
CN101082735A (zh) * 2006-05-30 2007-12-05 日立麦克赛尔株式会社 背光单元及液晶显示装置
CN101345826A (zh) * 2007-07-13 2009-01-14 索尼株式会社 图像拾取设备

Also Published As

Publication number Publication date
US20100283863A1 (en) 2010-11-11
US8330848B2 (en) 2012-12-11
CN101888481A (zh) 2010-11-17
JP5246424B2 (ja) 2013-07-24
JP2010263572A (ja) 2010-11-18

Similar Documents

Publication Publication Date Title
CN101888481B (zh) 成像设备
CN102164298B (zh) 全景成像系统中基于立体匹配的元素图像获取方法
EP3286596B1 (en) Cloaking systems and methods
CN101636747B (zh) 二维/三维数字信息获取和显示设备
US9036004B2 (en) Three-dimensional image capture device
CN101883215A (zh) 成像设备
CN102123291B (zh) 智能型裸眼立体显示系统及其控制方法
CN107991838B (zh) 自适应三维立体成像系统
CN103582846B (zh) 进深推定摄像装置
CN103119516A (zh) 光场摄像装置和图像处理装置
CN103605210A (zh) 一种虚模式集成成像3d显示装置
CN102520527A (zh) 一种裸眼立体显示系统及其方法
TW201537950A (zh) 利用光場相機產生立體影像的方法及光場相機
CN104007556A (zh) 基于微透镜阵列组的低串扰集成成像三维显示方法
JP2017010014A (ja) 画像表示装置
JP2017072821A (ja) アレイ式レンズモジュール
CN103348668A (zh) 光场摄像装置以及摄像元件
WO2017202059A1 (zh) 液晶透镜、3d显示面板及它们的控制方法
Petrov et al. Integral imaging multi-view 3D display
KR101746719B1 (ko) 디스플레이패널과 개별 렌즈간의 거리를 각각 달리하는 렌즈어레이를 이용한 3차원 영상 출력 방법
CN102722044B (zh) 立体显示系统
JP5704702B2 (ja) 立体画像取得装置
KR101785915B1 (ko) 무안경 멀티뷰 또는 수퍼멀티뷰 영상 구현 시스템
Koyama et al. A 3D vision 2.1 Mpixel image sensor for single-lens camera systems
WO2024051214A1 (zh) 一种三维图像采集装置、相关设备以及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant