CN102037720A - 带有使用定时快门的多个图像传感器的全景照相机 - Google Patents
带有使用定时快门的多个图像传感器的全景照相机 Download PDFInfo
- Publication number
- CN102037720A CN102037720A CN2009801107588A CN200980110758A CN102037720A CN 102037720 A CN102037720 A CN 102037720A CN 2009801107588 A CN2009801107588 A CN 2009801107588A CN 200980110758 A CN200980110758 A CN 200980110758A CN 102037720 A CN102037720 A CN 102037720A
- Authority
- CN
- China
- Prior art keywords
- camera
- image
- camera apparatus
- imageing sensor
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/41—Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
本发明涉及全景静止和运动摄影领域。在第一实施例中,一种用于全景摄影的照相机设备包括被定位成捕捉第一图像的第一图像传感器。该第一图像传感器具有以画像定向布置的滚动快门读出器。该照相机设备还包括被定位成捕捉第二图像的第二图像传感器。该第二图像传感器具有以画像定向布置的滚动快门读出器。最后,该照相机设备包括被配置为信号指示第二图像传感器在第一图像传感器结束捕捉第一图像之前开始捕捉第二图像的控制器。相对于照相机设备的向前方向,第一图像的至少一个部分在第二图像前面。
Description
该申请要求在2008年2月8日提交(代理人案号No.2525.1250000)并且在这里整体通过引用并入的美国临时申请No.61/027,237的利益。
技术领域
本发明涉及全景静止和运动摄影领域。
背景技术
在被联结到车辆的花饰(rosette)结构中存在包括多于一个照相机的成像系统。那些成像系统可以被用于例如沿着街道捕捉全景图像。每一个照相机包括入射光瞳。在不同的位置处具有多个入射光瞳能够引起空间视差。视差指的是感知到的、由照相机的入射光瞳的不同视点引起的、被成像的对象朝着背景的移位。当将来自多个照相机的图像拼合到一起时,视差尤其成为问题,因为当背景对象在相邻图像重叠的区域中对准时,它能够引起前景对象的重像。
已经使用了镜来避免全景成像中的视差。例如,迪斯尼(Disney)的Circle-Vision360°系统使用镜来通过多个共定位入射光瞳观看外界。这能够产生零视差。然而,制造和使用必要的大的镜是困难的。
而且,这项技术限制了竖直视场。
花饰结构中的每一个照相机包括将光学信号转换成电信号以形成图像的图像传感器。两种类型的图像传感器避免了对于机械快门的需求,即线间快门电荷耦合器件(CCD)或者互补金属氧化物半导体(CMOS)传感器。
CMOS传感器通常具有滚动快门,该滚动快门按照滚过图像的顺序以稍微不同的时间曝光不同的场景线。当照相机相对于场景或者被摄体移动时,滚动快门能够引起图像畸变例如翘曲。已经作出了一些工作来补偿图像畸变。Wilburn等人描述了使用滚动快门定时偏移来处理并且校正由图像的被摄体的运动诱发的畸变。见Wilburn等人“使用稠密照相机阵列的高速摄像(High-Speed Videography Using a DenseCamera Array)”,2004计算机视觉和模式识别IEEE计算机协会大会(2004IEEE Computer Society Conference on Computer Vision andPattern Recognition)(CVPR′04),Vol.2,pp.294-301。
线间快门CCD避免了滚动快门CMOS传感器的图像畸变问题。然而,线间快门CCD可能遭遇弥散和条纹现象。当传感器的一部分被过度曝光,从而引起光溢出到相邻像素或者读出CCD结构中时,发生弥散和条纹现象。
所需要的是这样一种成像设备,该成像设备减轻了畸变和空间视差,同时避免了与CCD相关联的弥散和条纹问题。
发明内容
本发明涉及全景静止和运动摄影领域。在第一实施例中,一种用于全景摄影的照相机设备包括被定位成捕捉第一图像的第一图像传感器。该第一图像传感器具有以画像定向布置的滚动快门读出器。该照相机设备还包括被定位成捕捉第二图像的第二图像传感器。该第二图像传感器具有以画像定向布置的滚动快门读出器。最后,该照相机设备包括控制器,该控制器被配置为信号指示第二图像传感器在第一图像传感器结束捕捉第一图像之前开始捕捉第二图像。相对于照相机设备的向前方向,第一图像的至少一部分在第二图像的前面。
在第二实施例中,一种用于全景摄影的方法包括以下步骤:利用第一图像传感器捕捉第一图像并且在第一图像的捕捉完成之前开始利用第二图像传感器捕捉第二图像。该第一和第二图像传感器具有以景观定向布置的滚动快门读出器。相对于包括第一和第二图像传感器的照相机设备的向前方向,第一图像的至少一部分在第二图像的前面。
在第三实施例中,一种用于运动摄影的照相机设备包括具有第一入射光瞳的第一照相机。在照相机设备的向前运动期间,该第一照相机捕捉第一图像。照相机设备还包括具有第二入射光瞳的第二照相机。在照相机设备的向前运动期间,该第二照相机捕捉第二图像。照相机设备的运动引起运动视差。相对于第二照相机何时捕捉第二图像的、第一照相机何时捕捉第一图像的定时使用该运动视差减小在第一照相机和第二照相机之间的空间视差的效果。
在第四实施例中,一种利用照相机设备的、用于运动摄影的方法包括:在照相机设备的向前运动期间在第一时间利用照相机设备中的第一照相机捕捉第一图像,和,在照相机设备的向前运动期间在第二时间利用照相机设备中的第二照相机捕捉第二图像。照相机设备的运动引起运动视差。相对于捕捉(b)何时发生的、捕捉(a)何时发生的定时使用该运动视差减小在第一照相机和第二照相机之间的空间视差的效果。
以此方式,本发明的实施例减小了畸变和空间视差。
在下面参考附图详细描述了本发明的进一步的实施例、特征和优点,以及各种实施例的结构和操作。
附图简要说明
并入这里并且形成说明书的一部分的附图示意本发明并且与说明一起地进一步用于解释本发明的原理并且用于使得本领域技术人员能够实现并且使用本发明。
图1A包括示意包括滚动快门CMOS传感器的照相机的图表。
图1B包括示意根据本发明的一个实施例的、具有滚动快门CMOS传感器的照相机的图表,该滚动快门CMOS传感器带有成组的、基本垂直于地面而成列布置的光电二极管。
图2A-C包括示意根据本发明的一个实施例的、可以在全景成像中使用的照相机花饰的一部分的图表。
图3包括更加详细地示出图2A-C所示的照相机花饰的操作的图表。
图4A-B示出照相机的入射光瞳的定位如何影响视差。
图5示出根据本发明的一个实施例示意对在照相机花饰中的照相机曝光进行定时以减小空间视差的图表。
图6示出附着到车辆的照相机花饰的图表。
元件首次出现的绘图通常由相应的引用数字中的最左位或者多个位示意。在图中,同样的引用数字可以示意相同或者在功能上类似的元件。
具体实施方式
本发明的实施例减小了从附着到车辆的照相机花饰摄取的全景图像中的畸变和空间视差。照相机花饰中的每一个照相机包括图像传感器。该图像传感器可以在车辆正在移动时曝光以捕捉图像。这个运动能够在所得图像中引起畸变。在本发明的一个实施例中,以“画像”定向布置CMOS传感器。如在下面详细地描述的,这减小了图像畸变。
在照相机花饰上的不同位置中具有多个照相机能够引起空间视差。在本发明进一步的实施例中,采用车辆的运动视差来抵消空间视差。在该实施例中,当车辆移动时,照相机花饰中的照相机的曝光被定时,从而当每一个传感器被曝光时,照相机的入射光瞳处于大致相同的位置中。在下面详细描述了这个实施例。
在随后的、本发明的详细说明中,对于“一个实施例”、“实施例”、“实例实施例”等的提及示意所描述的实施例可以包括具体的特征、结构或者特性,但是每一个实施例可以不必包括该具体的特征、结构或者特性。而且,这种短语不必涉及相同的实施例。此外,当结合实施例描述了具体的特征、结构或者特性时,这是承认在无论是否明确描述的其它实施例方面,实现这种特征、结构或者特性是在本领域技术人员的知识范围内的。
在这里使用的术语“照相机花饰”指的是被布置成捕捉全景图像的两个或者更多照相机。每一个照相机均捕捉图像。图像可以被拼合到一起以形成全景图像。这种拼合可以例如利用众所周知的软件技术进行。
在这里使用的术语“照相机”指的是捕捉摄影图像的器件。照相机包括图像传感器和具有入射光瞳的透镜。
在这里使用的术语“图像传感器”指的是当被曝光时将光学信号转换成电信号以捕捉图像的器件。
图1A包括示意包括滚动快门CMOS图像传感器的照相机的图表100。图表100在两个时间点处示出照相机及其图像传感器。在第一时间点处,照相机处于位置102并且它的图像传感器处于位置104。在第二时间点处,照相机处于位置112并且它的图像传感器处于位置114。图中的点代表透镜的入射光瞳,并且为了简洁起见,按照针孔照相机的方式,示出射线透射通过它。
在一个实例中,该照相机可以被联结到车辆,并且车辆的运动可能已经引起照相机移动。如上所述,该图像传感器可以是滚动快门CMOS传感器。滚动快门CMOS传感器可以包括在曝光期间捕捉光并且将光转换成电信号的、成组的光电二极管。滚动快门CMOS传感器可以在不同的时间曝光不同的光电二极管组。滚动快门CMOS传感器具有读出时间。读出时间是在所有光电二极管组的各自的曝光时间结束时读出所有光电二极管组所必要的时间。在图1A所示实例中,CMOS传感器处于“景观”定向中,这意味着光电二极管组是以平行于地面延伸的行布置的。
滚动快门传感器可以在车辆处于运动中时被曝光。在一个实例中,滚动快门传感器可以要求100ms的读出时间来捕捉图像。在图像被捕捉时,车辆和照相机可能已经向前移动了1m。该运动引起由图像传感器捕捉的对象改变,如在106处所示地。这在所得图像中引起畸变。因为CMOS传感器中的、不同行的光电二极管被在不同的时间曝光,所以图像可能出现翘曲,例如竖直特征可能是倾斜的。不具有滚动快门并且被整体曝光的图像传感器例如线间快门CCD传感器可以减小或者避免翘曲。然而,如早先述及地,线间快门CCD传感器可能遭遇弥散(blooming)和条纹现象。
为了应对由于滚动快门传感器而引起翘曲的问题,本发明的实施例具有以“画像”定向布置的滚动快门图像传感器,如在图1B中所示意地。图1B包括图表150,该图表150示意具有处于画像定向中的滚动快门传感器例如CMOS传感器的照相机。画像定向意味着光电二极管组是以垂直于地面延伸的列布置的。
图表150示出在不同的时间点处于不同位置的照相机。如早先述及地,照相机可以被附着到车辆,并且车辆可能是处于运动中的。在本发明的一个实施例中,光电二极管列是在对象空间中从后向前地并且在图像空间中从前向后地曝光的。
在位置152处,照相机曝光最前光电二极管列156以捕捉包括最后的视场154的图像。然后,在位置160处,照相机曝光在光电二极管列156后面的光电二极管列158。这个曝光捕捉在视场154前面的视场172。当照相机移动到位置162和位置164时,光电二极管列继续以从前向后方式曝光,这样从后向前地捕捉对象。最终,当照相机处于位置166时,照相机曝光最后的光电二极管列168以捕捉包括最前视场170的图像。
以画像定向定位图像传感器避免了在景观定向中发生的、竖直特征的翘曲。相反,对象可能表现为被以依赖于它们的距离的量拉伸。拉伸并不像翘曲那样在视觉上令人感到不悦。事实上,拉伸可能是一种积极的特征。当沿着所述方向布置滚动快门时,拉伸使得前景对象相对于背景对象更瘦而非更胖。结果,前景对象遮蔽的、在它们后面的场景更少。这在与全景成像有关的很多应用中可能是一个益处。
全景成像经常包括从沿着不同方向定向的多个照相机摄取图像。该多个图像然后可以使用众所周知的软件技术而被一起地拼合成全景。当以此方式使用多个照相机时,对象可以存在于多于一个照相机的视场中。在运动摄影中,对象可能相对于照相机而随着时间移动或者改变。如果多个照相机在不同的时间曝光该对象,则对象可以在将一起地拼合成单一全景的多个图像中不同地出现。所得全景可能具有重像或者其它不理想的图像问题。为了应对这个问题,曝光需要在多个照相机之间得到协调以同时地或者接近同时地捕捉对象。利用滚动快门图像传感器,这进一步变得更加难以解决,因为每一个图像传感器的不同的部分被在不同的时间曝光。为了应对这个问题,本发明的实施例对多个图像传感器的曝光进行定时,如在图2A-C中所示意地。
图2A-C包括示意可以在全景成像中使用的照相机花饰的一部分的图表。照相机花饰中的每一个照相机包括沿着如关于图1B描述的画像定向的滚动快门图像传感器,例如滚动快门CMOS传感器。
图2A包括图表200。图表200示出带有照相机202和210的照相机花饰。为了清楚起见,仅仅示出两个照相机。然而,在实践中花饰可以包含不同数目的照相机。照相机202具有向视场220曝光的光电二极管列204。
图2B包括图表230。图表230示出在以后的时间点的在图2A中所示的花饰。照相机202具有总视场224,并且照相机210具有总视场234。当照相机202从后向前地(在对象空间中)跨过视场224扫描时,照相机202开始从光电二极管列206的组曝光光电二极管列。列206的组捕捉在视场222内的对象。对于远侧对象,视场222与照相机210的总视场234重叠。
当照相机202开始从列206的组曝光光电二极管列时,照相机210开始从光电二极管列208的组曝光光电二极管列。照相机210从后向前地(在对象空间中)曝光列208的组中的光电二极管列以捕捉视场226。对于远侧对象,视场226与照相机202′的总视场224重叠。有效地,与照相机210曝光列208的组中的光电二极管列同时地,照相机202曝光列206的组中的光电二极管列。当照相机202完成曝光列206的组时,照相机202结束它的曝光。然而,照相机210继续曝光光电二极管列,如图2C所示。
图2C示出图表240。图表240示出在照相机202已经完成它的曝光之后的、以后的时间点的在图2B中所示的花饰。在图表240中,光电二极管列232被曝光,从而捕捉视场228。当照相机210继续它的曝光时,它可以与利用另一照相机(未示出)的视场重叠,并且如关于图3描述地,该过程可以对于整个照相机花饰继续。
关于示意性的实例描述了在图2A-C中示意的实施例。在一个实例中,在照相机202和照相机210之间对于远侧对象的重叠视场222可以是照相机202的总视场224的10%。在该实例中,在当照相机202开始曝光时的时间和当照相机210开始曝光时的时间之间的延迟可以是照相机202读出时间的90%。照相机202和210可以具有或者可以不具有相同的读出时间。在其中读出时间是100ms的实例中,在当照相机202开始曝光时的时间和当照相机210开始曝光时的时间之间的延迟可以是90ms。
照相机花饰可以具有同步化照相机的至少一个控制器,从而以规定的时间偏移捕捉图像。从而,可以利用示意每一个照相机何时开始捕捉图像的延迟而对该控制器预编程。
在另一实施例中,延迟时间可以根据车辆的速率而偏移。如在下面关于图5描述地,这具有以下效果,即,使用来自车辆移动的运动视差来抵消由该多个照相机引起的空间视差。
如上所述,关于图2A-C描述的两个照相机的操作可以贯穿整个照相机花饰而继续。在一个实施例中,照相机花饰可以具有被定位成捕捉360度全景的、总共在六个和十个之间的照相机,包括六个和十个。在一个优选实施例中,照相机花饰可以具有至少八个照相机,例如关于图3示意的花饰。
图3示出图表300,该图表300更加详细地示意根据本发明的一个实施例的照相机花饰的操作。在一个优选实施例中,照相机花饰可以包括九个照相机,八个照相机处于水平环中,并且一个照相机直向上。图表300示出八个水平照相机。照相机花饰中的每一个照相机包括带有光电二极管列的、处于画像定向的滚动快门传感器。
照相机花饰以最后照相机305和304开始捕捉全景图像。照相机305和304这两者通过曝光最后的光电二极管列(在对象空间中)而开始并且向前扫描,如关于图1B描述的。照相机306、303在由时间延迟限定的时间开始捕捉图像,如关于图2B描述的。
花饰继续向前扫描,直至最前的照相机301、308已经完成扫描。每一个照相机在由在它的后面的相邻照相机的开始时间加上延迟所限定的时间开始。例如,照相机302在由照相机303的开始时间加上延迟所限定的时间开始。该延迟可以对应于在相邻照相机的视场中的重叠尺寸,如关于图2B描述的。该延迟还可以根据车辆速率而偏移,如关于图5描述的。
图3中的八个照相机中的每一个均处于不同的位置并且具有处于不同位置的入射光瞳。使得入射光瞳处于不同的位置引起如在图4A-B中所示意的空间视差。
图4A-B示出两个照相机的入射光瞳的定位如何影响空间视差。图4A示出一种实例成像设备400。成像设备400包括照相机402和照相机404。照相机402具有入射光瞳406,并且照相机404具有入射光瞳408。入射光瞳406和入射光瞳408被以距离426分离。每一个照相机402、404捕捉包括对象410的图像。然而当对象410出现于照相机402、404中时在对象410的背景中存在大的差异。这由大的视差角度422示出。
图4B示出一种实例成像设备450。成像设备450包括照相机416和照相机414。照相机416具有入射光瞳418,并且照相机414具有入射光瞳420。入射光瞳418和入射光瞳420被以距离428分离。距离428比图4A中的距离426更短。每一个照相机416、414捕捉包括对象412的图像。如与图4A中的照相机402、404相比,当对象412出现于照相机416、414中时,在对象412的背景中存在小的差异。这是由视差角度424示出的。因此,图4B中的视差角度422小于图4A中的视差角度424。
因此,处于不同地方中的两个照相机能够引起空间视差。类似地,在不同的时间处于不同位置中的照相机引起运动视差。根据本发明的一个实施例,由照相机花饰的运动引起的运动视差抵消或者减小了由在照相机花饰上位于不同位置处的不同照相机的入射光瞳引起的空间视差的效果。在图5中示意出这个实施例。
图5示出图表500,该图表500示意根据本发明的一个实施例对照相机花饰中的照相机的曝光进行定时以减小视差。如在图4A-B中所示,当照相机入射光瞳变得更加靠近到一起时,在照相机之间的空间视差降低。图表500示出在车辆的运动期间如何对照相机的曝光进行定时从而当每一个照相机的入射光瞳位于大致相同的位置处时每一个照相机被曝光。结果,在图表500中,由移动中的车辆引起的运动视差减小了由于多个照相机引起的空间视差。
图表500示出在三个不同的时间点在三个位置510、520、530处的照相机花饰的一部分。所示照相机花饰示出三个照相机502、504和506。照相机502、504和506分别地具有入射光瞳508、514和512。为了清楚起见,仅仅示出三个照相机。然而,在实践中,可以使用不同数目的照相机(例如在另一实施例中8个水平照相机和总共9个照相机)。
在图5中的实施例中,图像传感器可以具有或者可以不具有滚动快门。该实施例对于滚动快门适用。然而,该实施例还可以利用具有“全局”快门的图像传感器例如线间CCD或者使用机械快门的图像传感器减小视差。图像捕捉被描述成在瞬间发生,即使将存在一些曝光持续时间和导致小的运动模糊。在位置510处,照相机502捕捉图像。在位置510处,照相机502的入射光瞳508在位置524处。每一个随后的照相机被定时以当该照相机的入射光瞳大致位于位置524处时摄取图像。
当车辆正在移动时,在以后的时间点期间,照相机花饰到达位置520。在位置520处,照相机504的入射光瞳514大致在位置524处。在这点处,照相机504捕捉图像。最后,在位置530处,照相机506的入射光瞳512大致到达位置524,并且照相机506捕捉图像。
近似可能是由于车辆速率中的不准确性,或者车辆方向的变化而引起的。在一个实例中,近似可以基于在有关时段上的、与实际速率相对的平均车辆速率。而且,近似可能是由于以下事实,即,照相机在照相机花饰上以二维或者三维方式定位,而花饰(例如,在车辆上)的运动可能沿着仅仅一个方向。例如,在图5中,因为入射光瞳508和入射光瞳514在垂直于运动轴线的轴线上处于不同的位置,所以入射光瞳508并不精确地处于与入射光瞳514相同的位置处。
在另一实施例中,虚拟平面垂直于照相机花饰的运动方向。当照相机的入射光瞳通过该平面时,照相机花饰中的每一个照相机可以曝光。以此方式,当每一个照相机的入射光瞳处于大致相同的位置时,每一个照相机被曝光,从而降低视差。
如早先指出地,可以根据车辆速率和在照相机之间的距离,例如距离522计算用于触发每一个随后的照相机的时间。在所述实例中,从当照相机504捕捉图像时的时间与当照相机506捕捉图像时的时间的延迟是距离522除以车辆的速率。假设距离522是10cm并且车辆速率是10m/s,则在当照相机504捕捉图像时的时间和当照相机506捕捉图像时的时间之间的延迟将是10ms。换言之,更后面的照相机(照相机506)在更前面的照相机(照相机504)之后10ms时开始捕捉图像。
如早先述及地,被用于对照相机定时的车辆速率可以是平均车辆速率。可替代地,车辆速率可以由速度计、车轮编码器(wheel encoder)或者GPS传感器实时地确定。速率可以作为信号而被发送到照相机中的控制器,该控制器据此调节定时。
在一个优选实施例中,可以与关于图2A-C描述的特征相结合地使用图表500所示特征。图2B描述在照相机花饰中的定时照相机曝光,在该照相机花饰中,每一个照相机均包括处于画像定向的滚动快门CMOS传感器。在该实施例中,每一个照相机被定时成当前一照相机开始以一定距离扫描它们的视场重叠的区域时开始曝光。关于图2B描述该实施例,在当照相机202开始曝光时和当照相机210开始曝光时之间的延迟基本上满足等式:
其中t是延迟时间、R1是第一图像传感器的滚动快门读出时间、F1是并不与第二图像传感器的视场重叠的、第一图像传感器的视场的百分比、D12是在第一图像传感器的入射光瞳和第二图像传感器的入射光瞳之间的距离,并且v是照相机设备的速度。将会认识到,可以将小的变化例如小的偏移和系数添加到这个等式。
在关于图2B给出的实例中,在照相机202和照相机210之间的重叠视场222可以是照相机202的总视场的10%。在该实例中,照相机202的视场的90%并不与照相机210的视场重叠。在其中照相机202的读出时间是100ms的实例中,在当照相机202开始曝光时的时间和当照相机210开始曝光时的时间之间的延迟可以是90ms。换言之,更前面的照相机(照相机210)在更后面的照相机(照相机202)开始捕捉图像之后90ms时开始捕捉图像。结果,带有重叠视场的照相机同时地或者从相同的车辆位置捕捉在它们的重叠区域中的对象的图像。这个定时是对于视差的一阶校正,即,它防止了如当照相机同时地启动它们的滚动快门时将会发生的、如果在非常不同的时间和非常不同的车辆位置处捕捉重叠区域中的对象则将会产生的大的视差。然而,由于照相机的入射光瞳并不处于相同的地方,所以残留了较小的视差。
在结合图表500和图2A-C这两者中的特征的实施例的一个实例中,延迟时间偏移以进一步减小空间视差。在关于图5给出的实例中,更后面的照相机(照相机506)在更前面的照相机(照相机504)之后10ms时开始捕捉图像。在图2A-C中的实例中,更前面的照相机(照相机210)在更后面的照相机(照相机202)开始捕捉图像之后90ms时开始捕捉图像。在组合实施例中,90ms延迟被偏移10ms。因此,更前面的照相机在更后面的照相机开始捕捉图像之后80ms时开始捕捉图像。共同地考虑到滚动快门读出器延迟、车辆速率和入射光瞳间隔,这个实施例具有减小的空间视差。
在另一实施例中,用于减小的空间视差的定时偏移可以仅仅被应用于照相机花饰中的一些照相机。在一个实例中,该偏移可以被仅仅应用于相对于车辆运动指向一旁的那些照相机。指向一旁的照相机可以是如下情况下的照相机,即,在该情况下,典型车辆运动将更靠后面的照相机的入射光瞳的位置移动到其中照相机以例如0.01s或者更少的时间摄取图像的位置。在该实例中,全景的前视和后视部分的空间视差可以不被运动视差抵消,而是沿着这些方向的对象趋向于足够远从而不具有大的视差问题。
作为一个可替代实施例,具有非常快速的读出时间的滚动快门可能是有用的。当快门读出时间变得更快时,为了对滚动快门加以考虑而计算的延迟(如在图2A-C中描述)降低。从而,在具体的读出时间,用于滚动快门的延迟和用于考虑空间视差的偏移可以相互抵消。这个读出时间是车辆向前移动与在入射光瞳之间的距离相等的距离所占用的时间。在一个实例中,第一图像传感器的读出时间可以是10ms。第一图像传感器的视场的百分之九十可以不与第二的、下一最前图像传感器重叠。如果车辆是静止的,则在第一和第二图像传感器的曝光之间的延迟时间将是9ms。然而,如果车辆正以9m/s移动并且在第一和第二图像传感器之间的距离是10cm,则由于车辆运动而引起的延迟偏移也将是9ms。因此,所述偏移将有效地相互抵消。类似地,可以使用具有可变滚动读出时间的图像传感器。在该情形中,可以根据车辆的速度调节读出时间。
图6示出被附着到车辆602的照相机花饰604。照相机花饰604包括多个照相机,例如照相机606。在一个实例中,照相机花饰604可以被用于捕捉沿着街道延伸的建筑物的全景图像。
照相机花饰中的每一个照相机均被耦接到控制器608。如早先述及地,控制器608控制每一个照相机的曝光定时。控制器608可以接收示意车辆速度的输入。可替代地,控制器608可以利用定时偏移,例如基于车辆平均速度的偏移而被预编程。可以使用单一控制器608。可替代地,每一个照相机可以具有它自身的控制器。
可以在硬件、软件、固件或其任何组合中实现控制器608。控制器608可以例如是运行软件以控制照相机的曝光的通用计算机。控制器608可以具有处理器和存储器。
发明内容和摘要部分可能阐述了本发明人(一个或者多个)考虑到的、本发明的一个或者多个但是并非所有的示例性实施例,并且因此,并非旨在以任何方式限制本发明和所附权利要求。
具体实施例的、前面的说明将如此充分地揭示本发明的基本特征,使得其他人能够在不偏离本发明的基本概念的前提下,通过应用本技术领域内的知识而容易地对于各种应用修改和/或调整这种具体实施例而不用进行过度的试验。因此,基于这里提出的教导和指导,期望这种调整和修改是在所公开的实施例的等价形式的意义和范围内的。应该理解,措辞或者术语在这里是为了说明而非限制的目的,从而本说明书的术语或者措辞将由技术人员根据所述教示和指导进行解释。
本发明的广度和范围不应该由任何的上述示例性实施例限制,而是应该仅仅根据以下权利要求和它们的等价形式得以限定。
Claims (22)
1.一种用于全景摄影的照相机设备,包括:
被定位成捕捉第一图像的第一图像传感器,所述第一图像传感器具有以画像定向布置的滚动快门读出器;
被定位成捕捉第二图像的第二图像传感器,所述第二图像传感器具有以画像定向布置的滚动快门读出器;和
控制器,所述控制器被配置为信号指示所述第二图像传感器在所述第一图像传感器结束捕捉所述第一图像之前开始捕捉所述第二图像,
其中相对于所述照相机设备的向前方向,所述第一图像的至少一部分在所述第二图像前面。
2.根据权利要求1的照相机设备,其中所述控制器被配置为大致当所述第一图像传感器开始捕捉所述第一和第二图像传感器的重叠视场时,信号指示所述第二图像传感器开始捕捉所述第二图像。
3.根据权利要求1的照相机设备,其中所述控制器被配置为信号指示所述第二图像传感器以与所述第一和第二图像传感器的重叠视场相应的延迟时间开始捕捉所述第二图像。
4.根据权利要求3的照相机设备,其中所述延迟时间根据所述照相机设备的速率数值而偏移,以使用从所述照相机设备的运动产生的运动视差来抵消在所述第一和第二图像传感器之间的空间视差。
5.根据权利要求4的照相机设备,其中所述照相机设备的所述速率数值是所述照相机设备的近似或者平均速率。
6.根据权利要求4的照相机设备,其中所述延迟时间以在所述照相机设备的向前运动期间在当所述第一图像传感器的入射光瞳经过一定位置时和当所述第二图像传感器的入射光瞳经过所述位置时之间的时间而偏移。
7.根据权利要求4的照相机设备,其中所述延迟时间近似满足以下等式:
其中t是所述延迟时间,
其中R1是所述第一图像传感器的滚动快门读出时间,
其中F1是不与所述第二图像传感器的视场重叠的、所述第一图像传感器的视场的百分比,
其中D12是在所述第一图像传感器的入射光瞳和所述第二图像传感器的入射光瞳之间的距离,并且
其中v是所述照相机设备的速度。
8.根据权利要求1的照相机设备,其中所述第一和第二图像传感器被联结到车辆。
9.根据权利要求1的照相机设备,其中所述第一图像传感器曝光所述第一图像传感器的至少第一和第二列,相对于所述照相机设备的向前运动,所述第一列捕捉所述第一图像的更靠后面的部分并且所述第二列捕捉所述第一图像的更靠前面的部分,
其中所述第一图像传感器的所述第一列在所述第一图像传感器的所述第二列之前开始曝光,
其中所述第二图像传感器曝光所述第二图像传感器的至少第一和第二列,相对于所述照相机设备的向前运动,所述第一列捕捉所述第二图像的更靠后面的部分并且所述第二列捕捉所述第二图像的更靠前面的部分,并且
其中所述第二图像传感器的所述第一列在所述第二图像传感器的所述第二列之前开始曝光。
10.根据权利要求1的照相机设备,进一步包括至少六个另外的图像传感器,其中计算机能够将从所述总共至少八个照相机摄取的图像拼合到一起以形成全景图像。
11.根据权利要求1的照相机设备,其中所述第一和第二图像传感器是CMOS图像传感器。
12.一种用于全景摄影的方法,包括:
(a)利用第一图像传感器捕捉第一图像,所述第一图像传感器具有以景观定向布置的滚动快门读出器;和
(b)在(a)中的捕捉完成之前开始利用第二图像传感器捕捉第二图像,所述第二图像传感器具有以景观定向布置的滚动快门读出器,
其中相对于包括所述第一和第二图像传感器的照相机设备的向前方向,所述第一图像的至少一部分在所述第二图像前面。
13.根据权利要求12的方法,其中所述开始捕捉(b)以与所述第一和第二图像传感器的重叠视场相应的延迟时间发生。
14.根据权利要求13的方法,其中所述延迟时间根据所述照相机设备的速率数值而偏移,以使用从所述照相机设备的运动产生的运动视差来抵消在所述第一和第二图像传感器之间的空间视差。
15.一种用于运动摄影的照相机设备,包括:
具有第一入射光瞳的第一照相机,其中,在所述照相机设备的向前运动期间,所述第一照相机捕捉第一图像;和
具有第二入射光瞳的第二照相机,其中,在所述照相机设备的向前运动期间,所述第二照相机捕捉第二图像,
其中所述照相机设备的运动产生运动视差,并且
其中相对于所述第二照相机何时捕捉所述第二图像的、所述第一照相机何时捕捉第一图像的定时使用所述运动视差以减小在所述第一照相机和所述第二照相机之间的空间视差的效果。
16.根据权利要求15的照相机设备,其中,在所述照相机设备的向前运动期间,当所述第一入射光瞳处于第一位置时所述第一照相机捕捉第一图像,并且当所述第二入射光瞳处于第二位置时所述第二照相机捕捉第二图像,其中所述第二位置近似等于所述第一位置。
17.根据权利要求15的照相机设备,其中所述第一和第二照相机被联结到车辆。
18.根据权利要求15的照相机设备,进一步包括至少六个另外的图像传感器,其中计算机能够将从所述总共至少八个照相机摄取的图像拼合到一起以形成全景图像。
19.一种利用照相机设备的、用于运动摄影的方法,包括:
(a)在所述照相机设备的向前运动期间在第一时间利用所述照相机设备中的第一照相机捕捉第一图像;和
(b)在所述照相机设备的向前运动期间在第二时间利用所述照相机设备中的第二照相机捕捉第二图像,
其中所述照相机设备的运动产生运动视差,
其中相对于捕捉(b)何时发生的、捕捉(a)何时发生的定时使用所述运动视差以减小在所述第一照相机和所述第二照相机之间的空间视差的效果。
20.根据权利要求19的方法,其中所述捕捉所述第一图像(a)包括当所述第一照相机的第一入射光瞳处于第一位置时捕捉所述第一图像,并且
其中所述捕捉所述第二图像(b)包括当所述第二入射光瞳处于第二位置时捕捉所述第二图像,其中所述第二位置近似等于所述第一位置。
21.一种用于全景摄影的系统,包括:
用于利用第一图像传感器捕捉第一图像的装置,所述第一图像传感器具有以景观定向布置的滚动快门读出器;并且
用于在(a)中的捕捉完成之前利用第二图像传感器开始捕捉第二图像的装置,所述第二图像传感器具有以景观定向布置的滚动快门读出器,
其中相对于包括所述第一和第二图像传感器的照相机设备的向前方向,所述第一图像的至少一部分在所述第二图像前面。
22.一种利用照相机设备的、用于运动摄影的设备,包括:
用于在所述照相机设备的向前运动期间在第一时间利用所述照相机设备中的第一照相机捕捉第一图像的装置;和
用于在所述照相机设备的向前运动期间在第二时间利用所述照相机设备中的第二照相机捕捉第二图像的装置,
其中所述照相机设备的运动产生运动视差,
其中相对于所述第二图像的捕捉何时发生的、所述第一图像的捕捉何时发生的定时使用所述运动视差以减小在所述第一照相机和所述第二照相机之间的空间视差的效果。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US2723708P | 2008-02-08 | 2008-02-08 | |
US61/027,237 | 2008-02-08 | ||
PCT/US2009/000804 WO2009099667A1 (en) | 2008-02-08 | 2009-02-09 | Panoramic camera with multiple image sensors using timed shutters |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102037720A true CN102037720A (zh) | 2011-04-27 |
CN102037720B CN102037720B (zh) | 2013-11-06 |
Family
ID=40561834
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009801107588A Active CN102037720B (zh) | 2008-02-08 | 2009-02-09 | 带有使用定时快门的多个图像传感器的全景照相机 |
Country Status (7)
Country | Link |
---|---|
US (5) | US8493436B2 (zh) |
EP (1) | EP2253131B1 (zh) |
JP (2) | JP5337170B2 (zh) |
CN (1) | CN102037720B (zh) |
AU (1) | AU2009210672B2 (zh) |
CA (1) | CA2714492C (zh) |
WO (1) | WO2009099667A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101877775A (zh) * | 2010-04-06 | 2010-11-03 | 中兴通讯股份有限公司 | 远程呈现系统及其摄像机组 |
CN104969238A (zh) * | 2013-01-15 | 2015-10-07 | 移动眼视力科技有限公司 | 利用滚动快门的立体协助 |
CN111095908A (zh) * | 2017-09-27 | 2020-05-01 | 京瓷株式会社 | 成像装置和可移动体 |
Families Citing this family (54)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5337170B2 (ja) | 2008-02-08 | 2013-11-06 | グーグル インコーポレイテッド | タイミング調節されるシャッターを用いる複数のイメージセンサーを有するパノラマカメラ |
US7974314B2 (en) * | 2009-01-16 | 2011-07-05 | Microsoft Corporation | Synchronization of multiple data source to a common time base |
US8698875B2 (en) | 2009-02-20 | 2014-04-15 | Google Inc. | Estimation of panoramic camera orientation relative to a vehicle coordinate frame |
CN101852979A (zh) * | 2009-03-30 | 2010-10-06 | 鸿富锦精密工业(深圳)有限公司 | 全景相机 |
US8862987B2 (en) * | 2009-03-31 | 2014-10-14 | Intel Corporation | Capture and display of digital images based on related metadata |
US20100271533A1 (en) * | 2009-04-28 | 2010-10-28 | Crispin Porter & Bogusky | Image Recordation Device with a Plurality of Lenses |
JP2011119785A (ja) * | 2009-11-30 | 2011-06-16 | Fujitsu Ltd | カメラ制御装置及びカメラ制御方法 |
WO2012089895A1 (en) * | 2010-12-31 | 2012-07-05 | Multitouch Oy | Rolling shutter compensation in camera array |
US20120320204A1 (en) * | 2011-06-20 | 2012-12-20 | 3M Innovative Properties Company | Asset assessment system |
TWI526706B (zh) * | 2011-10-05 | 2016-03-21 | 原相科技股份有限公司 | 影像系統 |
JP5860663B2 (ja) * | 2011-10-18 | 2016-02-16 | 日立オートモティブシステムズ株式会社 | ステレオ撮像装置 |
US8937643B1 (en) * | 2012-02-28 | 2015-01-20 | Carlos Esteban | Offset rolling shutter camera model, and applications thereof |
US20130278715A1 (en) * | 2012-03-16 | 2013-10-24 | Mark Nutsch | System and method for discreetly collecting 3d immersive/panoramic imagery |
US9476970B1 (en) * | 2012-03-19 | 2016-10-25 | Google Inc. | Camera based localization |
NL2008639C2 (en) * | 2012-04-13 | 2013-10-16 | Cyclomedia Technology B V | Device, system and vehicle for recording panoramic images, and a device and method for panoramic projection thereof. |
US8941777B1 (en) * | 2012-10-31 | 2015-01-27 | Google Inc. | System and method for capturing images of a geographic area |
FR2998126B1 (fr) * | 2012-11-15 | 2014-12-26 | Giroptic | Procede et dispositif de capture et de construction d'un flux d'images panoramiques ou stereoscopiques |
US10179543B2 (en) | 2013-02-27 | 2019-01-15 | Magna Electronics Inc. | Multi-camera dynamic top view vision system |
US9071732B2 (en) | 2013-03-15 | 2015-06-30 | Tolo, Inc. | Distortion correcting sensors for diagonal collection of oblique imagery |
KR102077498B1 (ko) * | 2013-05-13 | 2020-02-17 | 한국전자통신연구원 | 상호 기하 관계가 고정된 카메라 군의 이동 경로 추출 장치 및 방법 |
US9742991B2 (en) * | 2013-05-24 | 2017-08-22 | Robert Frank Latorre | 360 degree photobooth kiosk |
US9557520B2 (en) * | 2013-10-18 | 2017-01-31 | Light Labs Inc. | Synchronized image capture methods and apparatus |
US8811812B1 (en) | 2014-03-27 | 2014-08-19 | Michael Shawn Lawler | Camera rig |
EP3140689B1 (en) | 2014-05-06 | 2021-12-22 | Niazi, Zakariya | Method for forming a panoramic image |
JP6385212B2 (ja) * | 2014-09-09 | 2018-09-05 | キヤノン株式会社 | 画像処理装置及び方法、撮像装置、及び画像生成装置 |
EP3034359B1 (en) | 2014-12-15 | 2018-05-16 | Ricoh Company, Ltd. | Monitoring system, and vehicle mountable with monitoring system |
EP3043202B1 (en) | 2015-01-09 | 2019-07-24 | Ricoh Company, Ltd. | Moving body system |
KR102362138B1 (ko) | 2015-07-23 | 2022-02-14 | 삼성전자주식회사 | 이미지 센서 모듈 및 그것을 포함하는 이미지 센서 장치 |
DE102015214900A1 (de) * | 2015-08-05 | 2017-02-09 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Generieren von Verzögerungssignalen für ein Mehrkamerasystem und zum Erzeugen fusionierter Bilddaten für ein Mehrkamerasystem für ein Fahrzeug sowie Mehrkamerasystem |
RU2592855C1 (ru) * | 2015-08-25 | 2016-07-27 | Вячеслав Михайлович Смелков | Устройство панорамного телевизионно-компьютерного мониторинга |
US11287653B2 (en) | 2015-09-09 | 2022-03-29 | Vantrix Corporation | Method and system for selective content processing based on a panoramic camera and a virtual-reality headset |
US12063380B2 (en) | 2015-09-09 | 2024-08-13 | Vantrix Corporation | Method and system for panoramic multimedia streaming enabling view-region selection |
US10506006B2 (en) | 2015-09-09 | 2019-12-10 | Vantrix Corporation | Method and system for flow-rate regulation in a content-controlled streaming network |
US11108670B2 (en) | 2015-09-09 | 2021-08-31 | Vantrix Corporation | Streaming network adapted to content selection |
US10419770B2 (en) | 2015-09-09 | 2019-09-17 | Vantrix Corporation | Method and system for panoramic multimedia streaming |
US10694249B2 (en) | 2015-09-09 | 2020-06-23 | Vantrix Corporation | Method and system for selective content processing based on a panoramic camera and a virtual-reality headset |
US10033928B1 (en) | 2015-10-29 | 2018-07-24 | Gopro, Inc. | Apparatus and methods for rolling shutter compensation for multi-camera systems |
WO2017149875A1 (ja) * | 2016-02-29 | 2017-09-08 | ソニー株式会社 | 撮像制御装置、撮像装置及び撮像制御方法 |
US10044963B2 (en) * | 2016-03-30 | 2018-08-07 | Panasonic Intellectual Property Management Co., Ltd. | Imaging apparatus |
US10110813B1 (en) * | 2016-04-27 | 2018-10-23 | Ambarella, Inc. | Multi-sensor camera using rolling shutter sensors |
JP2018046430A (ja) | 2016-09-15 | 2018-03-22 | ソニー株式会社 | 情報処理装置および方法、並びにプログラム |
US10527925B2 (en) | 2017-05-16 | 2020-01-07 | Nico Toutenhoofd | Fully-spherical imaging system, camera support for same, and associated methods |
KR101964919B1 (ko) * | 2017-05-26 | 2019-08-13 | 주식회사 만도 | 주차 제어 장치 및 그 방법 |
DE102017215347A1 (de) * | 2017-09-01 | 2019-03-07 | Conti Temic Microelectronic Gmbh | Verfahren zur vorhersehbaren Belichtungssteuerung zumindest einer ersten Fahrzeugkamera |
US10841496B2 (en) * | 2017-10-19 | 2020-11-17 | DeepMap Inc. | Lidar to camera calibration based on edge detection |
US10582181B2 (en) | 2018-03-27 | 2020-03-03 | Honeywell International Inc. | Panoramic vision system with parallax mitigation |
US11181619B2 (en) | 2018-06-14 | 2021-11-23 | Waymo Llc | Camera ring structure for autonomous vehicles |
KR102569375B1 (ko) | 2018-10-24 | 2023-08-22 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 제어 방법 |
KR20200053125A (ko) * | 2018-11-08 | 2020-05-18 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
CN112308783B (zh) * | 2019-07-24 | 2024-06-28 | 株式会社理光 | 一种卷帘效应校正方法、装置及计算机可读存储介质 |
JP7490483B2 (ja) * | 2020-07-22 | 2024-05-27 | キヤノン株式会社 | システム、情報処理方法、物品の製造方法、プログラム及び記録媒体 |
US11665330B2 (en) | 2021-01-27 | 2023-05-30 | Dell Products L.P. | Dynamic-baseline imaging array with real-time spatial data capture and fusion |
DE102021132334A1 (de) * | 2021-12-08 | 2023-06-15 | Bayerische Motoren Werke Aktiengesellschaft | Abtasten eines Umfelds eines Fahrzeugs |
CN116132819B (zh) * | 2023-02-16 | 2024-08-27 | 长春长光睿视光电技术有限责任公司 | 一种航空光学相机阵列的实时拍照规划方法 |
Family Cites Families (86)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS51142212A (en) * | 1975-06-02 | 1976-12-07 | Hokkaido Daigaku | Tridimensional television system |
US4532550A (en) * | 1984-01-31 | 1985-07-30 | Rca Corporation | Exposure time control for a solid-state color camera |
US5023723A (en) * | 1988-04-18 | 1991-06-11 | Canon Kabushiki Kaisha | Image sensing apparatus having plural image sensors and plural shutters |
JP2674135B2 (ja) * | 1988-09-20 | 1997-11-12 | 株式会社ニコン | 電子スチルカメラ |
US5990941A (en) * | 1991-05-13 | 1999-11-23 | Interactive Pictures Corporation | Method and apparatus for the interactive display of any portion of a spherical image |
US5495576A (en) * | 1993-01-11 | 1996-02-27 | Ritchey; Kurtis J. | Panoramic image based virtual reality/telepresence audio-visual system and method |
DE69417824T4 (de) * | 1993-08-26 | 2000-06-29 | Matsushita Electric Industrial Co., Ltd. | Stereoskopischer Abtastapparat |
US7630806B2 (en) * | 1994-05-23 | 2009-12-08 | Automotive Technologies International, Inc. | System and method for detecting and protecting pedestrians |
US6118475A (en) * | 1994-06-02 | 2000-09-12 | Canon Kabushiki Kaisha | Multi-eye image pickup apparatus, and method and apparatus for measuring or recognizing three-dimensional shape |
US5473364A (en) * | 1994-06-03 | 1995-12-05 | David Sarnoff Research Center, Inc. | Video technique for indicating moving objects from a movable platform |
US6839081B1 (en) * | 1994-09-09 | 2005-01-04 | Canon Kabushiki Kaisha | Virtual image sensing and generating method and apparatus |
US5703961A (en) * | 1994-12-29 | 1997-12-30 | Worldscape L.L.C. | Image transformation and synthesis methods |
US6327381B1 (en) * | 1994-12-29 | 2001-12-04 | Worldscape, Llc | Image transformation and synthesis methods |
US5657073A (en) * | 1995-06-01 | 1997-08-12 | Panoramic Viewing Systems, Inc. | Seamless multi-camera panoramic imaging with distortion correction and selectable field of view |
US6141034A (en) * | 1995-12-15 | 2000-10-31 | Immersive Media Co. | Immersive imaging method and apparatus |
US6108440A (en) * | 1996-06-28 | 2000-08-22 | Sony Corporation | Image data converting method |
WO1999058927A1 (en) * | 1998-05-08 | 1999-11-18 | Sony Corporation | Image generating device and method |
US20010015751A1 (en) * | 1998-06-16 | 2001-08-23 | Genex Technologies, Inc. | Method and apparatus for omnidirectional imaging |
WO2000007373A1 (fr) * | 1998-07-31 | 2000-02-10 | Matsushita Electric Industrial Co., Ltd. | Procede et appareil d'affichage d'images |
US7015954B1 (en) * | 1999-08-09 | 2006-03-21 | Fuji Xerox Co., Ltd. | Automatic video system using multiple cameras |
JP3298851B2 (ja) * | 1999-08-18 | 2002-07-08 | 松下電器産業株式会社 | 多機能車載カメラシステムと多機能車載カメラの画像表示方法 |
US6831677B2 (en) * | 2000-02-24 | 2004-12-14 | Yissum Research Development Company Of The Hebrew University Of Jerusalem | System and method for facilitating the adjustment of disparity in a stereoscopic panoramic image pair |
JP3300340B2 (ja) * | 1999-09-20 | 2002-07-08 | 松下電器産業株式会社 | 運転支援装置 |
US6535114B1 (en) * | 2000-03-22 | 2003-03-18 | Toyota Jidosha Kabushiki Kaisha | Method and apparatus for environment recognition |
US6669346B2 (en) * | 2000-05-15 | 2003-12-30 | Darrell J. Metcalf | Large-audience, positionable imaging and display system for exhibiting panoramic imagery, and multimedia content featuring a circularity of action |
US6778207B1 (en) * | 2000-08-07 | 2004-08-17 | Koninklijke Philips Electronics N.V. | Fast digital pan tilt zoom video |
US6853809B2 (en) * | 2001-01-30 | 2005-02-08 | Koninklijke Philips Electronics N.V. | Camera system for providing instant switching between wide angle and full resolution views of a subject |
US20020124260A1 (en) * | 2001-03-02 | 2002-09-05 | Creative Design Group, Inc. | Video production system for vehicles |
US7012637B1 (en) * | 2001-07-27 | 2006-03-14 | Be Here Corporation | Capture structure for alignment of multi-camera capture systems |
US6947059B2 (en) * | 2001-08-10 | 2005-09-20 | Micoy Corporation | Stereoscopic panoramic image capture device |
US20040164249A1 (en) * | 2003-02-26 | 2004-08-26 | Crosetto Dario B. | Method and apparatus for determining depth of interactions in a detector for three-dimensional complete body screening |
US7224382B2 (en) * | 2002-04-12 | 2007-05-29 | Image Masters, Inc. | Immersive imaging system |
US20040001138A1 (en) * | 2002-06-27 | 2004-01-01 | Weerashinghe W.A. Chaminda P. | Stereoscopic panoramic video generation system |
EP1552682A4 (en) * | 2002-10-18 | 2006-02-08 | Sarnoff Corp | METHOD AND SYSTEM FOR ENHANCING PANORAMIC VISUALIZATION BY USING MULTIPLE CAMERAS |
CN1771741A (zh) * | 2003-02-14 | 2006-05-10 | 李宗琦 | 3d照相机系统及其方法 |
JP4346938B2 (ja) * | 2003-04-09 | 2009-10-21 | キヤノン株式会社 | 画像処理装置、方法、プログラム及び記憶媒体 |
US20040212723A1 (en) * | 2003-04-22 | 2004-10-28 | Malcolm Lin | Image pickup apparatus and operating method |
JP2005045552A (ja) * | 2003-07-22 | 2005-02-17 | Canon Inc | 撮像装置及び方法 |
US7436429B2 (en) * | 2003-11-24 | 2008-10-14 | The Boeing Company | Virtual pan/tilt camera system and method for vehicles |
US20070182812A1 (en) * | 2004-05-19 | 2007-08-09 | Ritchey Kurtis J | Panoramic image-based virtual reality/telepresence audio-visual system and method |
US7697028B1 (en) * | 2004-06-24 | 2010-04-13 | Johnson Douglas M | Vehicle mounted surveillance system |
US8027531B2 (en) * | 2004-07-21 | 2011-09-27 | The Board Of Trustees Of The Leland Stanford Junior University | Apparatus and method for capturing a scene using staggered triggering of dense camera arrays |
US20060028550A1 (en) * | 2004-08-06 | 2006-02-09 | Palmer Robert G Jr | Surveillance system and method |
US7629995B2 (en) * | 2004-08-06 | 2009-12-08 | Sony Corporation | System and method for correlating camera views |
US7750936B2 (en) * | 2004-08-06 | 2010-07-06 | Sony Corporation | Immersive surveillance system interface |
JP4531484B2 (ja) * | 2004-08-16 | 2010-08-25 | パナソニック株式会社 | カメラシステム |
JP4325557B2 (ja) * | 2005-01-04 | 2009-09-02 | ソニー株式会社 | 撮像装置および撮像方法 |
JP4551990B2 (ja) | 2005-02-03 | 2010-09-29 | 名古屋市 | パノラマ映像作成方法と作成装置 |
KR100715026B1 (ko) * | 2005-05-26 | 2007-05-09 | 한국과학기술원 | 단일카메라 전방향 양안시 영상 획득 장치 |
JP4512690B2 (ja) | 2005-06-16 | 2010-07-28 | 独立行政法人産業技術総合研究所 | 画像処理による監視システム及び方法 |
JP2007028008A (ja) * | 2005-07-13 | 2007-02-01 | Konica Minolta Photo Imaging Inc | 撮像装置、撮像システム及びその動作プログラム |
TW200715830A (en) * | 2005-10-07 | 2007-04-16 | Sony Taiwan Ltd | Image pick-up device of multiple lens camera system to create panoramic image |
CN101292513B (zh) | 2005-10-21 | 2012-04-11 | 诺基亚公司 | 用于在数字成像中降低运动失真的方法和设备 |
JP4780385B2 (ja) * | 2005-11-17 | 2011-09-28 | アイシン精機株式会社 | 周辺監視システム |
JP4724539B2 (ja) * | 2005-11-24 | 2011-07-13 | キヤノン株式会社 | 実露光時間算出方法ならびにそれを適用した撮像装置、光学機器、カメラシステムおよび実露光時間測定器 |
RU2411690C2 (ru) * | 2005-12-02 | 2011-02-10 | Конинклейке Филипс Электроникс Н.В. | Способ и устройство отображения стереоскопического изображения, способ для создания данных 3d изображения из входных данных 2d изображения и устройство для создания данных 3d изображения из входных данных 2d изображения |
JP2007214620A (ja) | 2006-02-07 | 2007-08-23 | Sony Corp | 画像処理装置、画像処理方法、およびプログラム |
US7834910B2 (en) * | 2006-03-01 | 2010-11-16 | David M. DeLorme | Method and apparatus for panoramic imaging |
US20070237364A1 (en) * | 2006-03-31 | 2007-10-11 | Fuji Photo Film Co., Ltd. | Method and apparatus for context-aided human identification |
DE102006019124B4 (de) * | 2006-04-25 | 2012-08-30 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Bilderfassungssystem zur Rundumsicht |
JP2007295429A (ja) * | 2006-04-27 | 2007-11-08 | Fujifilm Corp | ディジタル・スチル・カメラおよびその制御方法 |
US7567293B2 (en) * | 2006-06-07 | 2009-07-28 | Onlive, Inc. | System and method for performing motion capture by strobing a fluorescent lamp |
SG138491A1 (en) * | 2006-06-21 | 2008-01-28 | Generic Power Pte Ltd | Method and apparatus for 3-dimensional vision and inspection of ball and like protrusions of electronic components |
US7953295B2 (en) * | 2006-06-29 | 2011-05-31 | Google Inc. | Enhancing text in images |
US20080018774A1 (en) * | 2006-07-21 | 2008-01-24 | Matsushita Electric Industrial Co., Ltd. | Image capture device |
US20080027599A1 (en) * | 2006-07-28 | 2008-01-31 | James Logan | Autonomous vehicle and systems and methods for the operation thereof |
US20080117288A1 (en) * | 2006-11-16 | 2008-05-22 | Imove, Inc. | Distributed Video Sensor Panoramic Imaging System |
US8094182B2 (en) * | 2006-11-16 | 2012-01-10 | Imove, Inc. | Distributed video sensor panoramic imaging system |
US7813843B2 (en) * | 2007-01-04 | 2010-10-12 | Cisco Technology, Inc | Ad-hoc mobile IP network for intelligent transportation system |
US7990394B2 (en) * | 2007-05-25 | 2011-08-02 | Google Inc. | Viewing and navigating within panoramic images, and applications thereof |
US20100133424A1 (en) * | 2007-05-26 | 2010-06-03 | Norman Matheson Lindsay | Electro-optical sensors |
US8072448B2 (en) * | 2008-01-15 | 2011-12-06 | Google Inc. | Three-dimensional annotations for street view data |
US20110178756A1 (en) * | 2008-02-05 | 2011-07-21 | Utah State University Research Foundation | Integrated, Predictive, Radiance Sensor Apparatus and Method |
JP5337170B2 (ja) * | 2008-02-08 | 2013-11-06 | グーグル インコーポレイテッド | タイミング調節されるシャッターを用いる複数のイメージセンサーを有するパノラマカメラ |
JP4582198B2 (ja) * | 2008-05-30 | 2010-11-17 | ソニー株式会社 | 固体撮像装置、撮像装置、固体撮像装置の駆動方法 |
KR20110015452A (ko) * | 2008-06-06 | 2011-02-15 | 리얼디 인크. | 입체 이미지의 블러 향상 |
JP5132497B2 (ja) * | 2008-09-16 | 2013-01-30 | キヤノン株式会社 | 撮像装置および撮像装置の制御方法 |
US8893026B2 (en) * | 2008-11-05 | 2014-11-18 | Pierre-Alain Lindemann | System and method for creating and broadcasting interactive panoramic walk-through applications |
EP2382583B1 (en) * | 2008-12-26 | 2016-09-21 | Datalogic ADC, Inc. | Systems and methods for imaging |
JP2010204304A (ja) * | 2009-03-02 | 2010-09-16 | Panasonic Corp | 撮像装置、運転者監視装置および顔部測距方法 |
EP2436182B1 (en) * | 2009-05-29 | 2019-07-24 | Hewlett-Packard Development Company, L.P. | Multi-projector system, multi-projector method and program therefor |
JP4903888B2 (ja) * | 2010-08-09 | 2012-03-28 | 株式会社ソニー・コンピュータエンタテインメント | 画像表示装置、画像表示方法、および画像補正方法 |
US8937643B1 (en) * | 2012-02-28 | 2015-01-20 | Carlos Esteban | Offset rolling shutter camera model, and applications thereof |
US8941777B1 (en) * | 2012-10-31 | 2015-01-27 | Google Inc. | System and method for capturing images of a geographic area |
CN107637060B (zh) * | 2015-05-27 | 2020-09-29 | 谷歌有限责任公司 | 相机装备和立体图像捕获 |
US10671082B2 (en) * | 2017-07-03 | 2020-06-02 | Baidu Usa Llc | High resolution 3D point clouds generation based on CNN and CRF models |
-
2009
- 2009-02-09 JP JP2010545890A patent/JP5337170B2/ja active Active
- 2009-02-09 CN CN2009801107588A patent/CN102037720B/zh active Active
- 2009-02-09 US US12/368,014 patent/US8493436B2/en active Active
- 2009-02-09 AU AU2009210672A patent/AU2009210672B2/en active Active
- 2009-02-09 WO PCT/US2009/000804 patent/WO2009099667A1/en active Application Filing
- 2009-02-09 CA CA2714492A patent/CA2714492C/en active Active
- 2009-02-09 EP EP09708701.9A patent/EP2253131B1/en active Active
-
2013
- 2013-01-10 JP JP2013002323A patent/JP2013066247A/ja active Pending
- 2013-02-28 US US13/780,493 patent/US20130169745A1/en not_active Abandoned
-
2016
- 2016-01-26 US US15/006,449 patent/US9794479B2/en active Active
-
2017
- 2017-09-21 US US15/711,128 patent/US10397476B2/en active Active
-
2019
- 2019-06-24 US US16/449,917 patent/US10666865B2/en active Active
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101877775A (zh) * | 2010-04-06 | 2010-11-03 | 中兴通讯股份有限公司 | 远程呈现系统及其摄像机组 |
CN104969238A (zh) * | 2013-01-15 | 2015-10-07 | 移动眼视力科技有限公司 | 利用滚动快门的立体协助 |
CN104969238B (zh) * | 2013-01-15 | 2019-06-18 | 移动眼视力科技有限公司 | 车辆和用于车辆的成像系统 |
CN111095908A (zh) * | 2017-09-27 | 2020-05-01 | 京瓷株式会社 | 成像装置和可移动体 |
Also Published As
Publication number | Publication date |
---|---|
EP2253131B1 (en) | 2014-06-25 |
US20090201361A1 (en) | 2009-08-13 |
AU2009210672A1 (en) | 2009-08-13 |
CN102037720B (zh) | 2013-11-06 |
WO2009099667A1 (en) | 2009-08-13 |
US20160142632A1 (en) | 2016-05-19 |
CA2714492A1 (en) | 2009-08-13 |
JP2013066247A (ja) | 2013-04-11 |
US10666865B2 (en) | 2020-05-26 |
US9794479B2 (en) | 2017-10-17 |
EP2253131A1 (en) | 2010-11-24 |
JP5337170B2 (ja) | 2013-11-06 |
US20190313022A1 (en) | 2019-10-10 |
CA2714492C (en) | 2014-07-15 |
US8493436B2 (en) | 2013-07-23 |
US20130169745A1 (en) | 2013-07-04 |
US20180077351A1 (en) | 2018-03-15 |
AU2009210672B2 (en) | 2013-09-19 |
JP2011512735A (ja) | 2011-04-21 |
US10397476B2 (en) | 2019-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102037720B (zh) | 带有使用定时快门的多个图像传感器的全景照相机 | |
US10051183B2 (en) | Image-capturing device, solid-state image-capturing element, camera module, electronic device, and image-capturing method for shake correction using shake angle | |
US10602067B2 (en) | Image processing apparatus, image processing method, image pickup apparatus and storage medium that calculates a correction quality to correct a shake of viewpoint images and a mixture ratio for generation of a virtual viewpoint when generating the virtual viewpoint image using an amount of change in position of an imaging unit | |
JP5167783B2 (ja) | 焦点検出装置および撮像装置 | |
JP5657184B2 (ja) | 撮像装置及び信号処理方法 | |
CN112425148A (zh) | 摄像装置、无人移动体、摄像方法、系统及程序 | |
CN102761747B (zh) | 摄像装置、图像生成方法、红外线照相机系统及镜头系统 | |
CN110574359B (zh) | 摄像装置及图像合成装置 | |
US20220038646A1 (en) | Synchronized camera system having two different cameras | |
EP2851748B1 (en) | Optoelectronic photodetector (variants) | |
CN104780307B (zh) | 阵列镜头成像系统及其用于高速运动物体清晰成像的方法 | |
US20090174807A1 (en) | Focus detection device, focus detection method, and image pickup apparatus | |
JP4682010B2 (ja) | 撮像装置 | |
CN111885309A (zh) | 一种全景图像采集方法和全景相机 | |
JP2012147087A (ja) | 画像生成装置及び方法 | |
WO2021111542A1 (ja) | 撮像装置 | |
JP2012134826A (ja) | 撮像装置 | |
JP2006217204A (ja) | 撮像装置 | |
JP2012226364A (ja) | 焦点検出装置および撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CP01 | Change in the name or title of a patent holder | ||
CP01 | Change in the name or title of a patent holder |
Address after: American California Patentee after: Google limited liability company Address before: American California Patentee before: Google Inc. |