CN102739955B - 能生成动态范围宽的全景图像的数据的摄像装置 - Google Patents
能生成动态范围宽的全景图像的数据的摄像装置 Download PDFInfo
- Publication number
- CN102739955B CN102739955B CN201210083685.1A CN201210083685A CN102739955B CN 102739955 B CN102739955 B CN 102739955B CN 201210083685 A CN201210083685 A CN 201210083685A CN 102739955 B CN102739955 B CN 102739955B
- Authority
- CN
- China
- Prior art keywords
- image
- unit
- exposure
- camera head
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3871—Composing, repositioning or otherwise geometrically modifying originals the composed originals being of different kinds, e.g. low- and high-resolution originals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3876—Recombination of partial images to recreate the original image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
本发明提供一种能生成动态范围宽的全景图像的数据的摄像装置。摄像装置具备摄像部、摄像控制部、图像切取部、HDR合成部和全景图像合成部。摄像控制部通过所述摄像部来反复拍摄明亮度不同的图像。图像切取部分别切取所述明亮度不同的多个图像的大致重复的图像区域的数据。HDR合成部通过将由图像切取部所分别切取的图像区域进行合成,来生成多个与由所述摄像部拍摄的图像相比动态范围更宽的合成图像的数据。全景图像合成部通过拼接由所述HDR合成部生成的多个合成图像的数据,来生成与由所述摄像部拍摄的图像相比范围更宽的图像。
Description
技术领域
本发明涉及能以一次摄像机会来生成动态范围宽的全景图像的数据的摄像装置及摄像控制方法、图像处理装置及图像处理方法、以及记录介质。
背景技术
现有技术中,对使用比以标准视角范围而拍摄的图像(下面称作“正常图像”)更宽的范围所拍摄的横长或纵长的图像(即所谓的全景图像)进行拍摄的技术是公知的。一般是通过比通常的镜头的视角范围更宽的特殊的广角镜头来拍摄全景图像,但近年来,也有能在通常的镜头下来拍摄全景图像的技术(参照日本特开平11-65004号公报)。根据日本特开平11-65004号公报,摄像装置在被使用者移动的过程中连续进行反复摄像的动作(下面称作“连拍动作”)。此后,摄像装置将通过连拍动作而得到的多个正常图像的各数据予以合成,由此生成全景图像的数据。这样生成的全景图像的数据是拼接多张正常图像而得到的横长或纵长的图像数据。
另一方面,在取得上述的全景图像数据那样的宽范围视角的图像数据的情况下,在明暗差较大的风景的图像中,存在在明亮的部分产生高光溢出、在暗的部分产生区块阴影的问题。
为此,在日本特开平11-65004号公报中记载了解决该问题的技术。
即,根据专利文献所记载的技术,摄像装置在规定的移动范围内以规定的曝光拍摄了多个正常图像后,改变曝光的程度再次在同一移动范围内拍摄多个正常图像。然后,摄像装置通过合成这些多个正常图像的各数据,来生成动态范围宽的全景图像的数据。
在此,上述的日本特开平11-65004号公报所记载的技术是以在同一移动范围内进行两次的摄像为前提的。在这样的前提下,由于要求摄像装置的移动范围的严格的同一性,因此需要用于固定摄像装置的旋转台。因此,在未准备旋转云台的情况下、或不能设置旋转台的情况下,应用日本特开平11-65004号公报所记载的技术来获得宽动态范围的全景图像非常困难。在这种情况下,若用户用手保持摄像装置来进行移动,则对于用户而言,使摄像装置两次都在同一移动范围内移动非常困难。
发明内容
本发明的目的在于,以一次摄像机会来生成动态范围宽的全景图像的数据。
为了达成上述目的,本发明的一个形态的摄像装置具备:摄像单元;摄像控制单元,其通过所述摄像单元来反复拍摄明亮度不同的图像;合成单元,其通过分别合成由所述摄像控制单元得到的多个图像的大致重复的图像区域的数据,来生成与由所述拍摄单元拍摄而得到的图像相比加宽了动态范围的多个合成图像的数据;和图像生成单元,其通过拼接由所述合成单元生成的所述多个合成图像的数据,来生成要想拍摄出与通过所述摄像单元的视角所拍摄的图像相比范围更宽的广角图像的数据。
附图说明
图1是表示本发明的一个实施方式所涉及的摄像装置的硬件的构成的框图。
图2是表示全景图像的生成的一例的示意图。
图3是表示图1的摄像装置的功能性构成中的、执行全景图像生成处理的功能性构成的框图。
图4是说明具有图2的功能性构成的图1的摄像装置所执行的全景图像生成处理的流程的流程图。
具体实施方式
下面,使用附图来说明本发明的实施方式。
图1是表示本发明的一个实施方式所涉及的摄像装置1的硬件构成的框图。
摄像装置1例如构成为数码照相机。
摄像装置1具备:CPU(Central Processing Unit)11、ROM(Read OnlyMemory)12、RAM(Random Access Memory)13、图像处理部14、总线15、输入输出接口16、摄像部17、加速度传感器18、输入部19、输出部20、存储部21、通信部22、和驱动器23。
CPU11按照记录在ROM12中的程序、或者从存储部21加载到RAM13中的程序来执行各种处理。
在RAM13中还适宜地存储有CPU11在执行各种处理过程中所需要的数据等。
图像处理部14由DSP(Digital Signal Processor)、VRAM(VideoRandom Access Memory)等构成,与CPU11协作来对图像的数据实施各种图像处理。
CPU11、ROM12、RAM13以及图像处理部14介由总线15而彼此连接。在该总线15上另外还连接有输入输出接口16。在输入输出接口16连接有摄像部17、加速度传感器18、输入部19、输出部20、存储部21、通信部22以及驱动器23。
虽未图示,但摄像部17具备光学透镜部、和图像传感器。
光学透镜部是为了拍摄被摄体而将光会聚的透镜,例如由聚焦透镜或变焦透镜等构成。
聚焦透镜是使被摄体像在图像传感器的受光面上成像的透镜。变焦透镜是使焦距在一定的范围内自由变化的透镜。
在光学透镜部上还根据需要设有调整焦点、曝光、白平衡等的设定参数的周边电路。
图像传感器由光电变换元件、AFE(Analog Front End)等构成。
光电变换元件例如由CMOS(Complementary Metal OxideSemiconductor)型的光电变换元件等构成。被摄体像从光学透镜部入射到光电变换元件。由此,光电变换元件对被摄体像进行光电变换(摄像)并将图像信号积蓄一定时间,且将积蓄的图像信号作为模拟信号而依次提供给AFE。
AFE对该模拟的图像信号执行A/D(模拟/数字)变换处理等的各种信号处理。通过各种信号处理来生成数字信号,并作为摄像部17的输出信号来输出。
在此,在下面将通过一次摄像动作而由摄像部17输出的输出信号称作“帧图像的数据”。即,由于连拍动作是多次摄像动作的反复,因此,通过连拍动作而从摄像部17输出多个摄像图像的数据。
加速度传感器18检测摄像装置1的速度或加速度。
输入部19由各种按钮等构成,根据用户的指示操作来输入各种信息。
输出部20由显示器或扬声器等构成,输出图像或声音。
存储部21由硬盘或DRAM(Dynamic Random Access Memory)等构成,存储各种图像的数据。
通信部22控制对介由包括因特网的网络而在与其它的装置(未图示)之间进行的通信。
在驱动器23上适宜地安装有由磁盘、光盘、光磁盘或半导体存储器等构成的可移动介质31。通过驱动器23而从可移动介质31中读取的程序根据需要而被安装在存储部21中。另外,可移动存储器31也可以与存储部21同样地来存储存储部21中所存储的图像的数据等的各种数据。
具有这样构成的摄像装置1能执行全景图像生成处理。
全景图像生成处理是如下的一系列的处理:一边使曝光变化一边使摄像部17进行连拍动作,将从拍摄结果中获得的多张帧图像的数据进行合成,由此生成全景图像的数据。
在此,为了容易理解全景图像的生成处理,首先,参照图2来说明全景图像生成处理中的全景图像的数据的生成方法的概略。
图2是表示全景图像的数据的生成方法的一例的示意图。
在本例中,以对结婚典礼的招待宴会的会场中新郎新娘进行切蛋糕的事件的场面进行拍摄的情况为例进行说明。
在本例中,设图2中摄像装置1从左侧向右侧的方向移动。另外,为了拍摄全景图像,在本例中,将使用者使摄像装置1移动的方向即从左侧向右侧的方向称作“全景方向”。
在本例中,在位于中央的蛋糕以及新郎新娘的周边,照射着聚光灯,且通过插在蛋糕上的蜡烛的火、列席者用于拍摄新郎新娘的闪光灯的亮光等,形成了明亮的部分。与此相对,在其它的场所,由于关上了照明,因此形成了暗的部分。
如此,在本例中,明亮的部分和暗的部分的差较大不同的场面成为了摄像对象,从而要求动态范围宽的图像。
另外,为了拍摄动态范围宽的图像,即使应用上述的日本特开平11-65004号公报的技术,有时也会存在设置应用日本特开平11-65004号公报的技术所需要的旋转云台较困难的情况。另外,即使用手保持摄像装置1来进行移动,在全景方向上以同一轨迹移动两次也非常困难。因此,在本例的场面中,不适合应用上述的日本特开平11-65004号公报的技术。
与此相对,在本例这样的场面中,使用者适合使用本实施方式的摄像装置1。这是由于,用户用手保持本实施方式的摄像装置1只是进行一次全景方向上的移动,就能如后述那样,在帧图像间的接缝不会变得不自然的基础上,容易地获得动态范围宽的全景图像。
作为概略,摄像装置1一边被使用者在全景方向上移动,一边对摄像部17设定第1曝光条件(例如用于取得明亮的帧图像的曝光条件)和第2曝光条件(例如用于取得暗的帧图像的曝光条件),并一边交替地切换这两个曝光条件一边进行连拍动作。由此,获得了第1曝光条件下拍摄的数张帧图像(下面称作“第1曝光帧图像”)的各数据,并且,获得在第1曝光帧图像之间以第2曝光条件拍摄的数张帧图像的各数据。
由此,摄像装置1分别将连续拍摄的第1曝光帧图像和第2曝光帧图像的组、或者连续拍摄的第2曝光帧图像和第1曝光帧图像的组分别作为处理对象。之后,摄像装置1从处理对象的组的各数据中分别提取拍入了同一范围的图像区域的数据,并将它们重叠来合成。由此,在每一组中,都能获得将以不同的第1曝光条件和第2曝光条件分别拍摄的同一范围的像进行合成而得到的合成图像的数据,即动态范围宽的合成图像(下面称作“HDR合成图像”)的数据。
摄像装置1按照在全景方向上拼接的方式,以拍摄顺序来合成各组的HDR合成图像的各数据,由此,能在不使帧图像间的接缝变得不自然的基础上,生成动态范围宽的全景图像的数据。
更具体地,使用者在保持摄像装置1的状态下进行将输入部19的未图示的快门按钮按下到下限(下面称作“全按下”操作)。由此,开始全景图像生成处理,摄像装置1开始摄像部17的连拍动作。
接下来,使用者在维持快门按钮的全按下操作的状态下,使摄像装置1在全景方向上移动。另外,这样的移动一般表现为“摇拍(panning)”。
摄像装置1在移动中基于加速度传感器18的检测结果来检测出移动量,且每当该移动量达到规定量时,就切换为与上一次不同的曝光条件来使摄像部17拍摄被摄体。然后,摄像装置1反复存储从拍摄结果获得的帧图像的数据。
具体地,在本例中,摄像装置1首先设定第1曝光条件来进行第1次的拍摄,并存储第1曝光帧图像F1a的数据。
接下来,摄像装置1在从第1次的拍摄位置起的移动量到达了规定量时,将曝光条件切换为第2曝光条件来进行第2次的拍摄,并存储第2曝光帧图像F2a的数据。
之后,摄像装置1通过进行使第1曝光帧图像F1a和第2曝光帧图像F2a的重复部分(第1曝光帧图像F1a的右半部分、和第2曝光帧图像F2a的左半部分)的各数据重叠的合成,来生成HDR合成图像MA的数据。另外,下面为了将这样的合成与全景图像生成时的合成区分开,将这样的合成称作“HDR合成”。另外,如上所述,在本实施方式中,作为重复部分,能采用从合成对象的图像(例如第1曝光帧图像F1a和第2曝光帧图像F2a)中相互除去了加速度传感器18所检测出的规定量的移动量份的图像区域后而得到的部分(例如,第1曝光帧图像F1a的右半部分、和第2曝光帧图像F2a的左半部分)。下面,即使摄影次数增加,重复部分的采用方式也相同。
下面同样地,摄像装置1在从第2次的拍摄位置起的移动量到达了规定量时,再次将曝光条件切换到第1曝光条件来进行第3次的拍摄,并存储第1曝光帧图像F1b的数据。
之后,摄像装置1通过将第2曝光帧图像F2a和第1曝光帧图像F1b的重复部分(第2曝光帧图像F2a的右半部分和第1曝光帧图像F1b的左半部分)的各数据进行HDR合成,来生成HDR合成图像MB的数据。
进而,摄像装置1在从第3次的拍摄位置起的移动量到达了规定量时,将曝光条件切换到第2曝光条件来进行第4次的拍摄,并存储第2曝光帧图像F2b。
之后,摄像装置1通过将第1曝光帧图像F1b和第2曝光帧图像F2b的重复部分(第1曝光帧图像F1b的右半部分和第2曝光帧图像F2b的左半部分)的各数据进行HDR合成,来生成HDR合成图像MC的数据。
之后,摄像装置1在该移动量的总量(开始全按下操作的位置起的累计移动量)到达了规定量时,使摄像部17的连拍动作结束。
于是,摄像装置1通过将到此为止生成的HDR合成图像MA至MC的各数据按照该顺序在全景方向上拼接从而合成,由此生成全景图像PG的数据。
如此,HDR合成图像MA至MC是根据直方图的分布状况而改变合成比例来对不同的第1曝光条件和第2曝光条件的图像进行加法合成而得到的图像,是具有相同级别的宽动态范围的图像。因此,拼接这样的HDR合成图像MA至MC而合成的全景图像PG是帧图像间的接缝不会变得不自然、且动态范围宽的全景图像。
接下来,参照图3来说明这样的全景图像生成处理以及用于执行全景图像概要显示处理的摄像装置1的功能性构成。
图3是表示图1的摄像装置1的功能性构成中的、用于执行全景图像生成处理的功能性构成的功能框图。
在摄像装置1执行全景图像生成处理的情况下,在CPU11中,摄像控制部41、移动量检测部42、曝光调整部43发挥作用。在图像处理部14中,图像切取部51、HDR合成部52、全景图像合成部53发挥作用。
另外,在存储部21中,被划分为3部分的区域的每一个分别作为存储第1曝光帧图像的数据的第1帧缓冲器61、存储第2曝光帧图像的数据的第2帧缓冲器62、以及存储全景图像的数据的图像缓冲器63而发挥作用。
摄像控制部41执行摄像部17的拍摄的定时的控制、以及用于切换曝光的控制。
具体地,在使用者保持着摄像装置1而进行全按下操作时,开始全景图像生成处理。即摄像控制部41使摄像部17开始连拍动作。
之后,使用者在维持快门开关的全按下操作的状态下使摄像装置1在全景方向上移动。
摄像装置41在维持全按下操作的期间,每当摄像装置1的移动量(关于移动量,在后面叙述)达到一定量时,基于后述的曝光调整部43的调整结果来切换曝光,并使摄像部17进行拍摄。摄像控制部41反复将从拍摄结果得到的第1曝光帧图像或第2曝光帧图像的数据临时存储到第1帧缓冲器61中。
之后,在摄像装置1的总移动量达到规定量后,摄像控制部41结束摄像部17的连拍动作。
移动量检测部42基于加速度传感器18的检测结果,检测摄像装置1的移动量或加速度。
曝光调整部43基于移动量检测部42所检测出的摄像装置1的移动量来调整在摄像部17中设定的曝光条件(在本实施方式中是第1曝光条件或第2曝光条件),并将调整结果通知给摄像控制部41。
在通过这样的功能性构成的CPU11的控制而从摄像部17输出第1曝光帧图像的数据的情况下,将该数据存储到第1帧缓冲器61中。另外,在从摄像部17输出第2曝光帧图像的数据的情况下,将该数据存储到第2帧缓冲器62中。
图像切取部51从第1帧缓冲器61中切取第1曝光帧图像中的第1区域的数据,并且切取第2曝光帧图像的数据中的与第1区域对应的第2区域的数据。
HDR合成部52对由图像切取部51所分别切取的第1区域(以明亮的第1曝光而拍摄的帧图像的一部分)、和第2区域(以暗的第2曝光而拍摄的帧图像的一部分)的各数据进行HDR合成,来生成HDR合成图像的数据。
全景图像合成部53将由HDR合成部52所生成的多个HDR合成图像的数据拼接而合成,由此生成全景图像的数据,并存储到图像缓冲器63中。
接下来,使用图4来说明这样的具有图3的功能的图1的摄像装置1所执行的处理中的、全景图像生成处理的流程。图4是说明摄像装置1执行的全景图像生成处理的流程的流程图。
在本实施方式中,全景图像生成处理以使用者对输入部19的未图示的快门按钮进行全按下操作来进行摄像的指示为契机而开始。
在步骤S1中,曝光调整部43首先设定第1曝光条件作为初始曝光设定。
在步骤S2中,摄像控制部41在第1曝光条件下使摄像部17拍摄1张第1曝光帧图像(例如图2中的第1曝光帧图像F1a)。
在步骤S3中,摄像控制部41将在步骤S2的处理中由摄像部17拍摄并输出的第1曝光帧图像的数据保存在第1帧缓冲器61中。
此时,摄像装置1被用户在规定的方向上(全景方向)移动拍摄视角。
在步骤S4中,移动量检测部42判断摄像装置1是否移动了规定移动量,即判断从前一次的拍摄时(前一次的步骤S2、S7或S13的时间点)的位置起的移动量是否达到了规定量。
在移动量达到了规定量的情况下,在步骤S4判断为“否”,处理再次返回到步骤S4。即,在移动量达到规定量之前的期间,反复步骤S4的判定处理,全景图像生成处理成为待机状态。
之后,在移动量达到了规定量的情况下,在步骤S4中,判断为“是”,处理前进到步骤S5。
在步骤S5中,曝光调整部43判定当前是否设定有第1曝光条件。
例如,在步骤S2的处理中进行的第1次的拍摄后的步骤S5的处理中,由于在第1曝光条件的设定下进行了第1次的拍摄,因此在步骤S5中,判定为“是”,处理前进到步骤S6。
在步骤S6中,曝光调整部43切换曝光条件来设定第2曝光条件。即,将曝光的设定从第1曝光条件切换为第2曝光条件。
在步骤S7中,摄像控制部41在暗的第2曝光条件下使摄像部17拍摄1张第2曝光帧图像。例如,若是第2次的拍摄,则拍摄图2的第2曝光帧图像F2a。
在步骤S8中,摄像控制部41将在步骤S7的处理中由摄像部17拍摄并输出的第2曝光帧图像的数据保存在第2帧缓冲器62中。
在步骤S9中,图像切取部51进行第1帧缓冲器61以及第2帧缓冲器62的图像的对位,并切取重复部分的数据。
具体地,图像切取部51切取保存在第1帧缓冲器61中的以第1曝光条件所拍摄的第1曝光帧图像、和保存在第2帧缓冲器62中的以第2曝光条件所拍摄的第2曝光帧图像的重复部分的数据。
在步骤S10中,HDR合成部52对通过步骤S9的处理而分别从第1曝光帧图像以及第2曝光帧图像切取的重复部分各自进行HDR合成,由此生成HDR合成图像的数据。然后,HDR合成部52在该HDR合成后,将该HDR合成图像的数据追加保存到图像缓冲器63中(在图3中未图示)。
例如,通过步骤S9的处理,图2中的通过第1次的拍摄而得到的第1曝光帧图像F1a以及通过第2次的拍摄而得到的第2曝光帧图像F2a的各自的各重复部分,即第1曝光帧图像F1a的右半面的部分、和第2曝光帧图像F2a的左半面的部分被裁出。
这种情况下,通过步骤S10的处理,来将第1曝光帧图像F1a的右半面的部分、和第2曝光帧图像F2a的左半面的部分进行HDR合成,从而生成HDR合成图像MA的数据,并将其追加保存到图像缓冲器63中。
在步骤S11中,移动量检测部42判断摄像装置1是否移动了规定量,即判断到此为止的总移动量是否达到了规定量。
在总移动量达到了规定量的情况下,在步骤S11中,判断为“是”,处理前进到步骤S12。其中,步骤S12以后的处理在后面叙述。
与此相对,在总移动量未达到规定量的情况下,在步骤S11判断为“否”,处理返回到步骤S4,并反复其后的处理。
即,在步骤S2的处理中,在明亮的第1曝光条件下进行了第1次的拍摄后,执行步骤S4至S6,在S7的处理中,在暗的第2曝光条件下进行第2次的拍摄,执行步骤S8至S10的处理,将图2所示的HDR合成图像MA的数据保存到图像缓冲器63中。
这种情况下,由于若在步骤S4的处理中判定为移动了规定量,则第2次的拍摄是暗的第2曝光条件,因此,在步骤S5判定为“否”,处理前进到步骤S12。
在步骤S12中,曝光调整部43切换曝光条件来设定第1曝光条件。即,将曝光条件从第2曝光条件切换为第1曝光条件。
在步骤S13中,摄像控制部41在明亮的第1曝光条件下使摄像部17拍摄1张第1曝光帧图像。例如,由于当前的情况是第3次的拍摄,因此拍摄图2中的第1曝光帧图像F1b。
在步骤S14中,摄像控制部41将在步骤S13的处理中由摄像部17拍摄并输出的第1曝光帧图像的数据保存到第1帧缓冲器61中。
之后,通过步骤S9的处理,图2中的通过第2次的拍摄而得到的第2曝光帧图像F2a、以及通过第3次的拍摄而得到的第1曝光帧图像F1b的各自的重复部分,即第2曝光帧图像F2a的右半面的部分和第1曝光帧图像F1b的左半面的部分被切取。
这种情况下,通过步骤S10的处理,将第2曝光帧图像F2a的右半面的部分、和第1曝光帧图像F1b的左半面的部分进行HDR合成,生成HDR合成图像MB的数据,并追加保存到图像缓冲器63中。
之后,在步骤S11中,判断为“否”,处理返回到步骤S4,反复之后的处理。
即,由于若在步骤S4的处理中判定为移动了规定量,则第3次的拍摄在第1曝光条件下进行,因此在步骤S5判定为“是”,处理前进到步骤S6。
在步骤S6的处理中,切换曝光条件来设定第2曝光条件,在步骤S7的处理中,进行第4次的拍摄,在步骤S8的处理中,将图2中的第2曝光帧图像F2b保存到第2帧缓冲器62中。
之后,通过步骤S9的处理,图2中的通过第3次的拍摄而得到的第1曝光帧图像F1b、以及通过第4次的拍摄而得到的第2曝光帧图像F2b的各自的重复部分被切取。即第1曝光帧图像F1b的右半面的部分和第2曝光帧图像F2b的左半面的部分被切取。
这种情况下,通过步骤S10的处理,将第1曝光帧图像F1b的右半面的部分、和第2曝光帧图像F2b的左半面的部分进行HDR合成。之后,生成HDR合成图像MC的数据,并追加保存到图像缓冲器63中。
在此,在总移动量到达了规定量的情况下,在步骤S11中判断为“是”,处理前进到步骤S12。
在步骤S12中,全景图像合成部53通过将到此为止生成的HDR合成图像的数据按照生成顺序在全景方向上拼接来进行合成,由此生成全景图像的数据。例如,如图2所示,将HDR合成图像MA至MC的各数据进行合成,来生成全景图像的数据。
由此,结束了全景图像生成处理。
如此,在本实施方式中,摄像装置1通过按照图4的流程图来执行全景图像生成处理,能以一次的拍摄机会来生成动态范围宽的全景图像。
如以上说明那样,摄像装置1具备摄像部17、摄像控制部41和HDR合成部52。
摄像控制部41控制摄像部17,以反复拍摄曝光条件不同的帧图像。
HDR合成部52通过将由摄像控制部41得到的多个帧图像的大致重复的图像区域的数据分别进行HDR合成,来生成与由摄像单元拍摄而得到的图像相比加宽了动态范围的多个HDR合成图像的数据。
全景图像合成部53通过将由HDR合成部52生成的多个HDR合成图像的数据进行拼接,来生成拍摄了比通过摄像部17的视角而拍摄的图像更宽的范围的全景图像(下面也称作“广角图像”)。
因此,摄像装置1能以一次拍摄机会来生成动态范围宽的全景图像的数据。
摄像控制部41能通过用于对第1曝光条件下的摄像和与此不同的第2曝光条件下的摄像进行切换的规定的算法,来控制摄像部17。
另外,摄像控制部41能按照用于以规定的时间间隔来交替切换曝光值的算法来控制摄像部17,以反复拍摄明亮度不同的图像。
因此,摄像装置1能生成曝光程度均匀化的全景图像的数据。
摄像控制部41能按照用于以摄像装置1的规定的移动距离间隔或规定的旋转角度间隔来交替切换曝光值的算法来控制摄像部17,以反复拍摄明亮度不同的图像。
因此,摄像装置1能基于移动距离间隔或旋转角度间隔来判断摄像装置1的移动的程度。由此,摄像装置1能按照基于实际的摄像装置1的移动而进行拍摄的方式来进行控制,其结果是,能正确得到大致重复的图像区域地进行拍摄。
另外,本发明并不限于上述的实施方式,在能达成本发明的目的的范围内的变形、改良等也包含在本发明中。
在上述的实施方式中,构成为从第1曝光条件起进行拍摄,但并不限于此,也可以从第2曝光条件起开始拍摄。
换言之,只要按照规定的算法来改变曝光条件,从而获得明亮度不同的帧图像即可。在此,作为规定的算符,在上述实施方式中,采用了交替切换第1曝光条件和第2曝光条件的算法,但并不限于此,可以是任意的算法。
例如,代替曝光条件,通过用于准备两种与拍摄后的亮度相关的增益调整量并交替切换这两种增益调整量的算法,也能实现相同的效果。这种情况下,由于不是改变曝光条件,因此能间接地降低因改变快门速度而带来的被摄体模糊。
另外,在上述的实施方式中,在取得分别具有大致重复的图像区域的曝光不同的帧图像的数据的状态下、即在成为了能生成HDR合成图像的数据的状态下立即进行了HDR合成图像的数据的生成。但是,HDR合成图像的数据生成定时并不限于此。例如,摄像装置1也可以在全部的帧图像的数据的拍摄结束的定时来生成全部的HDR合成图像的数据。
另外,在上述的实施方式中,根据由移动量检测部42所检测出的移动量来判断摄像装置的移动,但并不限于此。只要能判断摄像装置的移动即可,例如,也可以通过根据预想的速度而推断出的时间来进行判断,也就是,根据时间来判断拍摄的定时,从而判断摄像装置的移动。
在这样的摄像装置1中,摄像控制部41控制摄像部17,使得以规定的时间间隔来同步地拍摄曝光条件不同的图像。
因此,在摄像装置1中,由于以时间为基准来判断摄像装置1的移动的程度,因此例如即使不具备用于检测摄像装置1的移动的构成,也能以简单的构成来生成全景图像。
另外,在上述的实施方式中,摄像装置1使用自身具备的摄像部17所拍摄的帧图像的数据来生成了全景图像的数据,但并不限于此。例如,摄像装置1也可以使用由外部设备所拍摄的图像的数据来生成全景图像。
换言之,这种情况下,作为本发明的实施方式,并不特别需要采取具有摄像功能的摄像装置1的形态,也可以采取仅进行图像处理的图像处理装置的形态。
这样的图像处理装置具备图像取得部、图像合成部和图像生成部。
图像取得部介由通信部等从外部设备取得曝光不同的多个图像的数据。
图像合成部通过将这些多个图像的大致重复的图像区域的数据分别进行合成来生成多个合成图像的数据。
图像生成部通过拼接由图像合成部所生成的多个合成图像的数据,来生成拍摄了比通过规定的摄像单元(外部设备的摄像单元)等的视角所拍摄的图像更宽的范围的广角图像(全景图像)的数据。
因此,图像处理装置基于从外部设备取得的图像数据,能生成动态范围宽的全景图像的数据。这种情况下,操作外部设备或其它的摄像装置的使用者也与操作摄像装置1的使用者同样地,以一次拍摄机会拍摄图像即可。
另外,在上述的实施方式中,应用本发明的摄像装置1是以数码照相机为例进行的说明,但并不特别限定于此。
例如,本发明能一般应用于具有全景图像概要显示处理功能的电子设备中。具体地,本发明能应用在笔记本型的个人计算机、打印机、电视接收器、数码照相机、便携式导航装置、便携式电话机、移动游戏机等中。
上述一系列的处理既可以由硬件执行,也可以由软件执行。
换言之,图2的功能性构成仅是例示,并不做特别的限定。即,只要在摄像装置1中具备能将上述一系列的处理作为整体来执行的功能即可,为了实现该功能而使用何种功能块,则并不限于图2的示例。
另外,一个功能块既可以由硬件单体构成,也可以由软件单体构成,也可以由软硬件的组合来构成。
在通过软件来执行一系列的处理的情况下,构成该软件的程序从网络或记录介质等被安装到计算机上。
计算机也可以是嵌入在专用硬件中的计算机。另外,计算机也可以是能通过安装各种的程序来执行各种功能的计算机,例如是泛用的个人计算机。
包含这样的程序的记录介质为了将程序提供给使用者,不仅可以通过与装置主体分开来进行散发的图1的可移动介质31来构成,也可以通过以预先嵌入到装置主体中的状态来向用户提供程序的记录介质等构成。可移动介质31例如通过磁盘(包含软盘)、光盘、或光磁盘等构成。光盘例如由CD-ROM(Compact Disk-Read Only Memory)、DVD(DigitalVersatile Disk)等构成。光磁盘通过MD(Mini-Disk)等构成。另外,以预先嵌入在装置主体的状态来向使用者提供程序的记录介质例如由记录有程序的图1的ROM12、包含在图1的存储部21中的硬盘等构成。
另外,在本发明中,对记录介质中所记录的程序进行记述的步骤当然是按照其顺序而在时间序列上进行的处理,但也不一定都在时间序列上进行处理,也可以包含并行或个别执行的处理。
以上,说明了本发明的几个实施方式,但这些实施方式只是例示,并不限定本发明的技术范围。本发明也可以采取其它的各种实施方式,进而,能在不脱离本发明的要旨的范围内进行省略、置换等各种变更。这些实施方式、变形都包含在本说明书所记载的发明的范围或要旨中,并且也包含在与记载在权利要求书中的发明以及与其等同的范围内。
Claims (5)
1.一种摄像装置,其特征在于,具备:
摄像单元;
检测单元,其检测该摄像装置的移动量;
移动量判定单元,其判定由所述检测单元检测出的移动量是否达到了规定量;
摄像控制单元,在判定为所述移动量未达到规定量时,所述摄像控制单元进行第1曝光条件下的通过所述摄像单元所执行的拍摄,在判定为所述移动量达到了规定量时,所述摄像控制单元进行与所述第1曝光条件不同的第2曝光条件下的通过所述摄像单元所执行的拍摄,由此来反复拍摄明亮度不同的图像;
图像区域切取单元,其分别切取所述明亮度不同的多个图像的大致重复的图像区域;
合成图像生成单元,其通过合成由所述图像区域切取单元所分别切取的图像区域,来生成与由所述摄像单元拍摄的图像相比动态范围更宽的多个合成图像;和
宽范围图像生成单元,其通过拼接由所述合成图像生成单元生成的多个合成图像,来生成与由所述摄像单元拍摄的图像相比范围更宽的图像。
2.根据权利要求1所述的摄像装置,其特征在于,
所述摄像控制单元按照用于以规定的时间间隔交替切换曝光值的算法来控制所述摄像单元,以反复拍摄明亮度不同的图像。
3.一种摄像装置,其特征在于,具备:
摄像单元;
摄像控制单元,其按照用于以该摄像装置的规定的移动距离间隔或规定的旋转角度间隔来交替切换曝光值的算法来控制所述摄像单元,以反复拍摄明亮度不同的图像;
图像区域切取单元,其分别切取所述明亮度不同的多个图像的大致重复的图像区域;
合成图像生成单元,其通过合成由所述图像区域切取单元所分别切取的图像区域,来生成与由所述摄像单元拍摄的图像相比动态范围更宽的多个合成图像;和
宽范围图像生成单元,其通过拼接由所述合成图像生成单元生成的多个合成图像,来生成与由所述摄像单元拍摄的图像相比范围更宽的图像。
4.根据权利要求1或3所述的摄像装置,其特征在于,
所述摄像装置还具备:
增益调整量存储单元,其存储用于校正图像的明亮度的两种增益调整量,
所述摄像控制单元,对由所述摄像单元反复拍摄的图像,按照用于交替切换由所述增益调整量存储单元存储的两种增益调整量的算法,来分别取得明亮度不同的图像。
5.一种摄像控制方法,是具备摄像单元的摄像装置的摄像控制方法,其特征在于,该摄像控制方法包括:
检测步骤,检测该摄像装置的移动量;
移动量判定步骤,判定由所述检测步骤检测出的移动量是否达到了规定量;
拍摄控制步骤,在判定为所述移动量未达到规定量时,进行第1曝光条件下的通过所述摄像单元所执行的拍摄,在判定为所述移动量达到了规定量时,进行与所述第1曝光条件不同的第2曝光条件下的通过所述摄像单元所执行的拍摄,由此来反复拍摄明亮度不同的图像;
图像区域切取步骤,分别切取所述明亮度不同的多个图像的大致重复的图像区域;
合成图像生成步骤,通过分别合成通过所述图像区域切取步骤所切取的图像区域,来生成与由所述摄像单元拍摄的图像相比动态范围更宽的多个合成图像;和
宽范围图像生成步骤,通过拼接通过所述合成图像生成步骤的处理所生成的所述多个合成图像,来生成与由所述摄像单元拍摄的图像相比范围更宽的图像。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011078412A JP5655667B2 (ja) | 2011-03-31 | 2011-03-31 | 撮像装置及び撮像制御方法、画像処理装置及び画像処理方法、並びにプログラム |
JP2011-078412 | 2011-03-31 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102739955A CN102739955A (zh) | 2012-10-17 |
CN102739955B true CN102739955B (zh) | 2015-03-25 |
Family
ID=46926700
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210083685.1A Expired - Fee Related CN102739955B (zh) | 2011-03-31 | 2012-03-27 | 能生成动态范围宽的全景图像的数据的摄像装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9258453B2 (zh) |
JP (1) | JP5655667B2 (zh) |
CN (1) | CN102739955B (zh) |
HK (1) | HK1174467A1 (zh) |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5860304B2 (ja) * | 2012-02-23 | 2016-02-16 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 |
JP6230239B2 (ja) * | 2013-02-14 | 2017-11-15 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
EP3145206B1 (en) * | 2014-05-15 | 2020-07-22 | Sony Corporation | Communication apparatus, communication method, and computer program |
JP6537231B2 (ja) * | 2014-08-11 | 2019-07-03 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
EP3244608B1 (en) * | 2015-01-27 | 2019-03-13 | Huawei Technologies Co. Ltd. | Panoramic shooting exposure method and apparatus |
US9819873B2 (en) * | 2015-06-25 | 2017-11-14 | Canon Kabushiki Kaisha | Image-processing apparatus and image-processing method |
JP6674255B2 (ja) * | 2015-12-28 | 2020-04-01 | キヤノン株式会社 | 固体撮像素子及び撮像装置 |
JP2017143340A (ja) * | 2016-02-08 | 2017-08-17 | 株式会社デンソー | 情報処理装置及びプログラム |
JP6630176B2 (ja) * | 2016-02-09 | 2020-01-15 | キヤノン株式会社 | 画像処理装置およびその方法 |
JP2017212698A (ja) * | 2016-05-27 | 2017-11-30 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
DE102016214647A1 (de) * | 2016-08-08 | 2018-02-08 | Heidelberger Druckmaschinen Ag | Montage Editor zur Herstellung von Druckbogen |
US10742834B2 (en) * | 2017-07-28 | 2020-08-11 | Advanced Micro Devices, Inc. | Buffer management for plug-in architectures in computation graph structures |
JP6933059B2 (ja) * | 2017-08-30 | 2021-09-08 | 株式会社リコー | 撮影装置、情報処理システム、プログラム、画像処理方法 |
TWI633384B (zh) * | 2017-11-08 | 2018-08-21 | 欣普羅光電股份有限公司 | 動態環景影像參數調整系統及其方法 |
JP6833746B2 (ja) * | 2018-03-07 | 2021-02-24 | キヤノン株式会社 | 撮像装置、撮像方法、プログラムおよび記録媒体 |
CN108449541B (zh) * | 2018-03-12 | 2020-09-01 | 维沃移动通信有限公司 | 一种全景图像拍摄方法及移动终端 |
CN110276714B (zh) * | 2018-03-16 | 2023-06-06 | 虹软科技股份有限公司 | 快速扫描式全景图图像合成方法及装置 |
JP7158892B2 (ja) * | 2018-05-17 | 2022-10-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 |
JP7086774B2 (ja) * | 2018-07-25 | 2022-06-20 | キヤノン株式会社 | 撮像装置、撮像方法およびプログラム |
CN111225126A (zh) * | 2018-11-23 | 2020-06-02 | 华为技术有限公司 | 多路视频流生成方法及装置 |
CN110049240B (zh) * | 2019-04-03 | 2021-01-26 | Oppo广东移动通信有限公司 | 摄像头控制方法、装置、电子设备和计算机可读存储介质 |
US11653101B2 (en) | 2019-05-17 | 2023-05-16 | Samsung Electronics Co., Ltd. | Imaging system for generating high dynamic range image |
JP7384343B2 (ja) * | 2019-07-12 | 2023-11-21 | 株式会社東海理化電機製作所 | 画像処理装置、画像処理プログラム |
US11196937B2 (en) | 2019-11-25 | 2021-12-07 | Qualcomm Incorporated | High frame rate in high dynamic range processing |
EP4067818A1 (en) * | 2021-03-30 | 2022-10-05 | Hexagon Technology Center GmbH | Measuring system with panoramic image acquisition functionality |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2681521B2 (ja) * | 1989-10-16 | 1997-11-26 | コニカ株式会社 | カメラ |
JPH1165004A (ja) * | 1997-08-12 | 1999-03-05 | Sony Corp | パノラマ撮像システム |
US7084909B2 (en) * | 2001-01-24 | 2006-08-01 | Olympus Corporation | Electronic camera, imaging system and imaging method |
JP2002323649A (ja) * | 2001-04-26 | 2002-11-08 | Hitachi Ltd | 撮像装置 |
US20040100565A1 (en) * | 2002-11-22 | 2004-05-27 | Eastman Kodak Company | Method and system for generating images used in extended range panorama composition |
JP3962676B2 (ja) * | 2002-11-29 | 2007-08-22 | キヤノン株式会社 | 画像処理方法及び装置 |
US7239805B2 (en) * | 2005-02-01 | 2007-07-03 | Microsoft Corporation | Method and system for combining multiple exposure images having scene and camera motion |
JP4304542B2 (ja) * | 2007-07-02 | 2009-07-29 | ソニー株式会社 | カメラシステム及び自動露光制御方法 |
JP5231284B2 (ja) * | 2008-03-31 | 2013-07-10 | 富士フイルム株式会社 | 撮像装置、撮像方法、およびプログラム |
JP2010050521A (ja) * | 2008-08-19 | 2010-03-04 | Olympus Corp | 撮像装置 |
US8340453B1 (en) * | 2008-08-29 | 2012-12-25 | Adobe Systems Incorporated | Metadata-driven method and apparatus for constraining solution space in image processing techniques |
JP2010074535A (ja) * | 2008-09-18 | 2010-04-02 | Fujifilm Corp | 撮影装置及び撮影方法 |
KR101520068B1 (ko) * | 2008-12-16 | 2015-05-13 | 삼성전자 주식회사 | 다중영상 합성장치 및 그 방법 |
US8885978B2 (en) * | 2010-07-05 | 2014-11-11 | Apple Inc. | Operating a device to capture high dynamic range images |
JP5409577B2 (ja) | 2010-10-05 | 2014-02-05 | 株式会社ソニー・コンピュータエンタテインメント | パノラマ画像生成装置およびパノラマ画像生成方法 |
-
2011
- 2011-03-31 JP JP2011078412A patent/JP5655667B2/ja not_active Expired - Fee Related
-
2012
- 2012-03-27 CN CN201210083685.1A patent/CN102739955B/zh not_active Expired - Fee Related
- 2012-03-28 US US13/432,919 patent/US9258453B2/en not_active Expired - Fee Related
-
2013
- 2013-02-07 HK HK13101705.9A patent/HK1174467A1/zh not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
US9258453B2 (en) | 2016-02-09 |
JP2012213105A (ja) | 2012-11-01 |
JP5655667B2 (ja) | 2015-01-21 |
HK1174467A1 (zh) | 2013-06-07 |
US20120249728A1 (en) | 2012-10-04 |
CN102739955A (zh) | 2012-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102739955B (zh) | 能生成动态范围宽的全景图像的数据的摄像装置 | |
JP5214826B2 (ja) | 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 | |
JP5717453B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
CN102959943B (zh) | 立体全景图像合成装置和方法、以及图像捕获装置 | |
JP4957759B2 (ja) | 撮像装置及び撮像方法 | |
JP4356621B2 (ja) | 撮像装置及び撮像方法 | |
JP7444162B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2009268037A (ja) | 撮像装置及び撮像方法 | |
JP2011035509A (ja) | 複眼撮影装置及びその制御方法 | |
JP2010050795A (ja) | カメラ、画像合成方法、およびプログラム | |
JP2015060048A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JPWO2010035752A1 (ja) | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム | |
JP5126392B2 (ja) | 再生制御装置及び再生制御方法並びにプログラム | |
WO2013031155A1 (ja) | 撮像装置 | |
JP2016099598A (ja) | 撮像装置、その制御方法、および制御プログラム | |
US20220264008A1 (en) | Image processing device, image processing method, and program | |
JP2014137704A (ja) | 撮像装置 | |
JP7353821B2 (ja) | 画像処理装置、その制御方法、プログラム | |
JP6925827B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2009118084A (ja) | デジタルカメラ | |
WO2021171848A1 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP5653509B2 (ja) | 画像処理装置及び画像処理方法 | |
WO2021181965A1 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6976808B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5441747B2 (ja) | 撮像装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 1174467 Country of ref document: HK |
|
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: GR Ref document number: 1174467 Country of ref document: HK |
|
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20150325 |