JP5602818B2 - Camera, image reproduction apparatus, image composition method, and program - Google Patents

Camera, image reproduction apparatus, image composition method, and program Download PDF

Info

Publication number
JP5602818B2
JP5602818B2 JP2012245677A JP2012245677A JP5602818B2 JP 5602818 B2 JP5602818 B2 JP 5602818B2 JP 2012245677 A JP2012245677 A JP 2012245677A JP 2012245677 A JP2012245677 A JP 2012245677A JP 5602818 B2 JP5602818 B2 JP 5602818B2
Authority
JP
Japan
Prior art keywords
image
background
unit
moving
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012245677A
Other languages
Japanese (ja)
Other versions
JP2013062850A (en
Inventor
和彦 志村
淳 丸山
達之 上村
修 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2012245677A priority Critical patent/JP5602818B2/en
Publication of JP2013062850A publication Critical patent/JP2013062850A/en
Application granted granted Critical
Publication of JP5602818B2 publication Critical patent/JP5602818B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、カメラ、画像再生装置、画像合成方法、およびプログラムに関し、詳しくは、動画からパノラマのような広がりのある画像を合成することのできるカメラ、画像合成方法、およびプログラムに関する。   The present invention relates to a camera, an image reproduction device, an image composition method, and a program, and more particularly, to a camera, an image composition method, and a program that can synthesize a panoramic image from a moving image.

近年、デジタル画像の普及につれ、様々な画像加工技術が提供され、従来、考えられなかったような表現で画像を楽しむことが可能となってきている。カメラもデジタル画像化されたことによって、簡単に動画撮影を行うことができるようになった。また、画像のデジタル化に伴って電子ズームにより画像の一部を拡大表示することが容易になり、遠距離の被写体に対して活用されている。電子ズームは視野を狭める方向に使用されるが、反対に、撮影範囲を広げるための技術もカメラに搭載されつつある。   In recent years, with the widespread use of digital images, various image processing techniques have been provided, and it has become possible to enjoy images with expressions that were previously unthinkable. Since the camera has also been converted into a digital image, it has become possible to easily shoot movies. In addition, with the digitization of images, it becomes easy to enlarge and display a part of an image by electronic zoom, which is used for a subject at a long distance. Electronic zoom is used in the direction of narrowing the field of view, but conversely, techniques for expanding the shooting range are also being incorporated in cameras.

例えば、特許文献1には、分割画像を繋ぎ合わせて画像合成し、広い視野を再現するパノラマ画像を得る撮像装置が開示されている。
特許第3804313号公報
For example, Patent Document 1 discloses an imaging device that obtains a panoramic image that reproduces a wide field of view by joining divided images and synthesizing the images.
Japanese Patent No. 3804313

上述の特許文献1に開示の撮像装置は、撮影範囲を広げることができる。しかし、この撮像装置は、被写体が静止していることを前提としており、風景のような止まった画像にしか応用することができない。すなわち、特許文献1に開示の撮像装置は、動きのある被写体の撮影には適していなかった。   The imaging device disclosed in Patent Document 1 described above can widen the imaging range. However, this imaging device is based on the premise that the subject is stationary, and can only be applied to still images such as landscapes. That is, the imaging device disclosed in Patent Document 1 is not suitable for shooting a moving subject.

本発明は、このような事情を鑑みてなされたものであり、特別な広角レンズなどを用意せずとも、パノラマのような広がり感を表現すると共に、雄大な背景画像の中で、被写体の動きを表現できるカメラ、画像合成方法、およびプログラムを提供することを目的とする。   The present invention has been made in view of such circumstances, and expresses a panoramic feeling without preparing a special wide-angle lens and the like, and moves the subject in a magnificent background image. An object of the present invention is to provide a camera, an image composition method, and a program that can express the image.

上記目的を達成するため第1の発明に係わるカメラは、連続撮影時に、撮影視野がどちらに移動しているかを検出する動き判定部と、先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定する共通部画像判定部と、上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像を合成した画像を得るための背景合成部と、を具備したことを特徴とする。   In order to achieve the above object, the camera according to the first aspect of the present invention includes a motion determination unit that detects to which direction the field of view has moved during continuous shooting, an image frame that was previously captured, and an image that was captured later. Compare the frames, do not extract dissimilar portions, and determine a common portion image determination unit that determines a common portion image behind the moving direction of the dissimilar portion, and the backward direction of the previously captured image frame And a background composition unit for obtaining an image obtained by synthesizing the common part image.

第2の発明に係わるカメラは、上記第1の発明において、上記隣接部を先に得られた共通部画像と重ねて合成するための糊代部とすることを特徴とする。   A camera according to a second aspect of the invention is characterized in that, in the first aspect of the invention, the adjacent part is used as a glue margin part for overlapping with the previously obtained common part image.

第3の発明に係わるカメラは、上記第1の発明において、上記カメラは、上記連続して撮影される画像コマを記録する連続画像記録部と、上記背景合成部で合成された画像を記録する背景画像記録部と、上記背景画像記録部に記録された画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を置き換えて合成した画像を順次表示する表示制御部と、をさらに具備することを特徴とする。 A camera according to a third invention is the camera according to the first invention, wherein the camera records an image synthesized by the continuous image recording unit that records the continuously shot image frames and the background synthesis unit. Display control that compares the background image recording unit , the image recorded in the background image recording unit , and the image frames recorded in the continuous image recording unit , and sequentially displays the synthesized image by replacing similar image portions And a section.

第4の発明に係わるカメラは、連続撮影時に連続して取得される画像コマを記録する連続画像記録部と、上記連続撮影時で得られた共通部画像を合成した背景合成画像を得るための背景合成部と、上記背景合成画像を記録する背景画像記録部と、上記背景画像記録部に記録された上記背景合成画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を移動体が移動していく動画のコマ画像置き換えて合成した画像を順次表示する表示制御部と、を具備したことを特徴とする。 According to a fourth aspect of the present invention, there is provided a camera for obtaining a background composite image obtained by synthesizing a continuous image recording unit that records image frames continuously acquired at the time of continuous shooting and a common portion image obtained at the time of continuous shooting. The background composition unit, the background image recording unit that records the background composite image, the background composite image recorded in the background image recording unit, and the image frames recorded in the continuous image recording unit are compared sequentially. A display control unit that sequentially displays the synthesized images by replacing the similar image portion with the moving image frame image that the moving body moves.

第5の発明に係わる画像再生装置は、視野を移動させながら連続して撮影された画像コマの先に撮影された画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記視野移動の後ろ方向の共通部画像を判定する共通部画像判定部と、上記先に取得した画像コマの上記後ろ方向の隣接部と、上記共通部画像を合成した画像を得るための背景合成部と、を具備したことを特徴とする。   The image reproducing apparatus according to the fifth aspect of the present invention compares an image frame taken at the front of an image frame continuously shot while moving the field of view, and an image frame shot later, and finds a portion that is not similar. A common image determining unit for determining a common image in the backward direction of the visual field movement of the dissimilar portion without extracting, the adjacent portion in the backward direction of the previously acquired image frame, and the common image. And a background composition unit for obtaining a synthesized image.

第6の発明に係わる画像再生装置は、連続撮影時に連続して取得される画像コマを記録する連続画像記録部と、上記連続撮影時で得られた共通部画像を合成した背景合成画像を得るための背景合成部と、上記背景合成画像を記録する背景画像記録部と、上記背景画像記録部に記録された背景合成画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を移動体が移動していく動画のコマ画像置き換えて合成した画像を順次表示する表示制御部と、を具備したことを特徴とする。 According to a sixth aspect of the present invention, there is provided an image reproduction apparatus for obtaining a background composite image obtained by synthesizing a continuous image recording unit for recording image frames continuously acquired at the time of continuous shooting and a common image obtained at the time of continuous shooting. A background composition unit for comparing a background image recording unit for recording the background composite image, a background composite image recorded in the background image recording unit, and an image frame recorded in the continuous image recording unit, And a display control unit that sequentially displays the synthesized images by replacing the successive similar image portions with the frame images of the moving image as the moving body moves.

第7の発明に係わる画像合成方法は、連続撮影時に、撮影視野がどちらに移動しているかの方向を判定し、先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定し、上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像とを合成した画像を背景合成することを特徴とする。   In the image composition method according to the seventh aspect of the present invention, during continuous shooting, the direction in which the shooting field of view is moved is determined, and the image frame shot first is compared with the image frame shot later, The non-similar part is not extracted, the common part image in the backward direction of the moving direction of the non-similar part is determined, and the adjacent part in the backward direction of the previously captured image frame is combined with the common part image. It is characterized in that the synthesized image is background synthesized.

第8の発明に係わる画像合成方法は、連続撮影時に連続して取得される画像コマを記録し、上記連続撮影時に得られた共通部画像を合成して記録し、上記記録された合成画像と、上記連続撮影時に記録された画像コマを比較して、類似画像部分を移動体が移動していく動画のコマ画像逐次置き換えて合成した画像を順次表示することを特徴とする。 According to an eighth aspect of the present invention, there is provided an image composition method for recording image frames continuously acquired at the time of continuous shooting, combining and recording the common part images obtained at the time of continuous shooting, The image frames recorded at the time of the continuous shooting are compared, and similar images are sequentially replaced with moving image frames that the moving body moves to sequentially display synthesized images.

第9の発明に係わるプログラムは、連続撮影時に、撮影視野がどちらに移動しているかの方向を判定するステップと、先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定するステップと、上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像を合成した画像を背景合成するステップと、を有することを特徴とする。   The program according to the ninth aspect of the present invention compares the step of determining the direction in which the field of view is moved during continuous shooting, the image frame shot first, and the image frame shot later, The step of determining a common part image in the backward direction of the moving direction of the dissimilar part without extracting the dissimilar part, the adjacent part in the backward direction of the previously captured image frame, and the common part image And background synthesizing the synthesized image.

第10の発明に係わるプログラムは、連続撮影時に連続して取得される画像コマを記録するステップと、上記連続撮影時に得られた共通部画像を合成して記録するステップと、上記記録された合成画像と、上記連続撮影時に記録された画像コマを比較して、類似画像部分を移動体が移動していく動画のコマ画像逐次置き換えて合成した画像を順次表示する表示ステップと、を具備したことを特徴とする。
According to a tenth aspect of the invention, there is provided a program for recording image frames continuously acquired at the time of continuous shooting, a step of combining and recording the common part image obtained at the time of continuous shooting, and the recorded combination A display step of comparing the image and the image frame recorded during the continuous shooting and sequentially displaying the synthesized image by sequentially replacing the similar image portion with the moving image frame image that the moving body moves. It is characterized by that.

本発明によれば、特別な広角レンズなどを用意せずとも、パノラマのような広がり感を表現すると共に、雄大な背景画像の中で、被写体の動きを表現できるカメラ、画像合成方法、およびプログラムを提供することができる。   According to the present invention, a camera, an image composition method, and a program that can express a panoramic feeling without preparing a special wide-angle lens or the like, and can express the movement of a subject in a majestic background image. Can be provided.

以下、図面に従って本発明を適用したカメラを用いて好ましい実施形態について説明する。図1は、本発明の第1実施形態に係わるカメラ10の構成を示すブロック図である。カメラ10はデジタルカメラであり、静止画や動画を撮影可能である。カメラ10の内部には、制御部1、操作部1a、レンズ2、撮像部3、動き判定部4、第1バッファ5a、第2バッファ5b、類似抽出部5c、第3バッファ5d、余白部5e、画像処理部6、合成部7a、動画合成部7b、表示部8、動画記録部9a、背景記録部9bが設けられている。   Hereinafter, a preferred embodiment will be described using a camera to which the present invention is applied according to the drawings. FIG. 1 is a block diagram showing a configuration of a camera 10 according to the first embodiment of the present invention. The camera 10 is a digital camera and can capture still images and moving images. Inside the camera 10, there are a control unit 1, an operation unit 1a, a lens 2, an imaging unit 3, a motion determination unit 4, a first buffer 5a, a second buffer 5b, a similarity extraction unit 5c, a third buffer 5d, and a margin portion 5e. , An image processing unit 6, a combining unit 7a, a moving image combining unit 7b, a display unit 8, a moving image recording unit 9a, and a background recording unit 9b are provided.

制御部1は、CPU(Central Processing Unit)等によって構成され、このカメラ10の各部と接続され、内蔵されたプログラムに従って全体制御を行う。操作部1aは、レリーズ釦や、メニュー釦、再生釦等の操作部材を含み、ユーザーが操作部1aを操作すると、制御部1は操作に応じて各部に制御信号を出力する。   The control unit 1 includes a CPU (Central Processing Unit) and the like, is connected to each unit of the camera 10, and performs overall control according to a built-in program. The operation unit 1a includes operation members such as a release button, a menu button, and a playback button. When the user operates the operation unit 1a, the control unit 1 outputs a control signal to each unit according to the operation.

レンズ2は、被写体像を形成するための光学レンズである。撮像部3は撮像素子やその読出回路等を含み、レンズ2によって形成された被写体像を画像データに変換する。動き判定部4は、撮像部3からの画像データを入力し、カメラ10の動き方向を検出する。すなわち、連続して得られる画像を比較し、いずれの方向にカメラ10の撮影画面が動いているかを判定する。   The lens 2 is an optical lens for forming a subject image. The image pickup unit 3 includes an image pickup element and its readout circuit, and converts the subject image formed by the lens 2 into image data. The motion determination unit 4 receives the image data from the imaging unit 3 and detects the motion direction of the camera 10. That is, images obtained continuously are compared to determine in which direction the shooting screen of the camera 10 is moving.

第1バッファ5aは、撮像部3からの画像データを一時的に記憶するための記憶部である。第2バッファ5bは、第1バッファ5aに画像データが一時記憶される際に、その直前に第1バッファ5aに一時記憶された画像データが転送され、一時記憶するための記憶部である。   The first buffer 5 a is a storage unit for temporarily storing image data from the imaging unit 3. The second buffer 5b is a storage unit for temporarily storing image data temporarily transferred to the first buffer 5a immediately before the image data is temporarily stored in the first buffer 5a.

類似抽出部5cは、第1バッファ5aと第2バッファ5bにそれぞれ一時記憶されている画像データの端部側を比較し、類似している部分のみを抽出する(以下、類似している部分を部分背景画像と称す、(後述する図4における25a、25b参照))。ここで、端部側は、動き判定部4によって検出されたカメラ10の動き方向に対して後ろ側の端部側である。   The similarity extraction unit 5c compares the end portions of the image data temporarily stored in the first buffer 5a and the second buffer 5b, respectively, and extracts only similar portions (hereinafter, similar portions are extracted). This is referred to as a partial background image (see 25a and 25b in FIG. 4 described later). Here, the end side is a rear end side with respect to the movement direction of the camera 10 detected by the motion determination unit 4.

余白部5eは、第1バッファ5aに一時記憶されている画像データのうち端部側のみを、余白部(糊代部とも称する)として抽出する。なお、余白部の位置は、動き判定部4によって検出されたカメラ10の動き方向と反対側に生成する。第3バッファ5dは、類似抽出部5cによって抽出された部分背景画像と、余白部5eによって抽出された余白部を、一時的に記憶する記憶部である。   The margin portion 5e extracts only the end portion of the image data temporarily stored in the first buffer 5a as a margin portion (also referred to as a margin portion). Note that the position of the margin is generated on the side opposite to the movement direction of the camera 10 detected by the movement determination unit 4. The third buffer 5d is a storage unit that temporarily stores the partial background image extracted by the similarity extraction unit 5c and the margin part extracted by the margin part 5e.

合成部7aは、第3バッファ5dに一時記憶された部分背景画像を、順次合成する。すなわち、撮像部3から動画を構成する各コマの画像データが第1バッファ5aに出力されるたびに、第3バッファ5dには、部分背景画像と余白部が一時記憶され、合成部7aに出力される。合成部7aは、部分背景画像が出力されるたびに、部分背景画像の一部が余白部と重複するように、部分背景画像を貼り合わせ、背景画像を生成していく。すなわち、部分背景画像は、各コマの画像データが出力されるたびに、余白部と反対方向に次第に延び、パノラマ画像のような背景画像となる。   The synthesizing unit 7a sequentially synthesizes the partial background images temporarily stored in the third buffer 5d. That is, every time image data of each frame constituting a moving image is output from the imaging unit 3 to the first buffer 5a, the partial background image and the blank portion are temporarily stored in the third buffer 5d and output to the combining unit 7a. Is done. Each time the partial background image is output, the synthesizing unit 7a combines the partial background images so that a part of the partial background image overlaps the blank portion, thereby generating a background image. That is, the partial background image gradually extends in the direction opposite to the margin portion every time image data of each frame is output, and becomes a background image like a panoramic image.

画像処理部6は、記憶容量を少なくするための画像圧縮等の画像処理を行う。合成部7aによって生成された背景画像の画像データと、撮像部3から出力される動画を構成する各コマの画像データは、JPEG形式やモーションJPEG形式等で画像処理部6によって圧縮等の画像処理がなされる。   The image processing unit 6 performs image processing such as image compression for reducing the storage capacity. The image data of the background image generated by the synthesizing unit 7a and the image data of each frame constituting the moving image output from the imaging unit 3 are subjected to image processing such as compression by the image processing unit 6 in the JPEG format or the motion JPEG format. Is made.

背景記録部9bは、合成部7aによって生成され、画像処理部6で圧縮処理された背景画像の画像データを記録する。動画記録部9aは、撮像部3から出力された背景分離処理前の動画を記録する。動画記録部9aおよび背景記録部9bは、別々に設けても良いが、同一の記録媒体において、異なるエリアを割り当てるようにしても良い。   The background recording unit 9b records the image data of the background image generated by the synthesizing unit 7a and compressed by the image processing unit 6. The moving image recording unit 9 a records the moving image before the background separation process output from the imaging unit 3. The moving image recording unit 9a and the background recording unit 9b may be provided separately, but different areas may be allocated on the same recording medium.

動画合成部7bは、背景記録部9bに記録された背景画像に、動画記録部9aに記録された動画を合成する。すなわち、動画合成部7bは、動画を構成する各コマごとに、背景画像と一致する部分を検出し、この検出された部分を動画に置き換えて、画像を合成する。これによって広大な風景の中を駆けていくような画像を合成できる。   The moving image combining unit 7b combines the moving image recorded in the moving image recording unit 9a with the background image recorded in the background recording unit 9b. That is, the moving image synthesizing unit 7b detects a portion that matches the background image for each frame constituting the moving image, replaces the detected portion with a moving image, and combines the images. This makes it possible to synthesize images that run in a vast landscape.

表示部8は、液晶モニタ等の表示装置を含み、動画合成部7bによって合成された動画、または動画記録部9aに記録された動画を再生表示する。なお、動画合成部7bによって合成された画像データを、表示部8に表示するだけではなく、この画像データを動画記録部9a等に記録するようにしても良い。   The display unit 8 includes a display device such as a liquid crystal monitor, and reproduces and displays the moving image combined by the moving image combining unit 7b or the moving image recorded in the moving image recording unit 9a. The image data synthesized by the moving image synthesizing unit 7b is not only displayed on the display unit 8, but the image data may be recorded on the moving image recording unit 9a or the like.

次に、本実施形態における合成された動画について、図2および図3を用いて説明する。図2は、山並み22や木23を背景に、疾走していく人物24を動画で撮影した場合において、動画を構成する各コマ21a〜21dを示す。各コマ21a〜21dを順次、再生することにより動画として楽しむことができる。   Next, the synthesized moving image in the present embodiment will be described with reference to FIGS. FIG. 2 shows the respective frames 21a to 21d constituting the moving image when the moving person 24 is photographed as a moving image against the background of the mountain range 22 and the tree 23. Each frame 21a to 21d can be enjoyed as a moving image by sequentially reproducing the frames.

図2のように、広い風景の中で人が走っていく様子や、鳥が飛んでいく様子や、乗り物などが走っていく様子を、追いかけながら撮影すると、一駒の中に、背景の広がりの全てを写しこむことはできない。複数のコマを撮影して、初めて広がりを描写することができる。   As shown in Fig. 2, when you chase and follow the scenes of a person running in a wide landscape, a bird flying, or a vehicle running, the background spreads in one frame. You can't copy everything. It is possible to depict the spread for the first time by shooting multiple frames.

そこで、本実施形態においては、図3に示すように、動画を構成する複数のコマから広い背景画像27を生成し、この背景画像27の中で、被写体である人物24が動いていく様子を表現するようにしている。すなわち、図3(a)は、人物24が右側から左側に向かって走っている様子を示し、図3(b)は、図3(a)の時点より後の時点で、人物24が左側で走っている様子を示す。   Therefore, in the present embodiment, as shown in FIG. 3, a wide background image 27 is generated from a plurality of frames constituting a moving image, and a person 24 as a subject moves in the background image 27. I try to express it. That is, FIG. 3A shows a situation where the person 24 is running from the right side to the left side, and FIG. 3B is a time point after the time point of FIG. Shows running.

このように、本実施形態においては、画面内を被写体が動いて行くものの、その動きの様子と共に、背景の広がりを再現できる。これまでのカメラでは、静止したパノラマや図2に示した各コマを同じ位置で順次再生することはできたが、動きも広がりをも表現することはできなかった。これに対し、本実施形態のカメラ10では、動きと広がりも表現することができる。   As described above, in this embodiment, although the subject moves in the screen, the spread of the background can be reproduced together with the movement. With conventional cameras, a still panorama and each frame shown in FIG. 2 could be reproduced sequentially at the same position, but neither movement nor spread could be expressed. On the other hand, the camera 10 of the present embodiment can also express movement and spread.

次に、図4および図5を用いて背景画像27の生成方法について説明する。図4(a)(b)は連続して得られた撮影コマを示す。各撮影コマの被写体である人物24の背面側には、背景として共通した領域が存在する。すなわち、撮影者は人物24の動きを追っているので、人物24の動き方向とは反対側に少しずれるが、背景は共通している。図4(a)(b)における共通部分(部分背景画像)25aに斜線を施して示す。   Next, a method for generating the background image 27 will be described with reference to FIGS. 4 (a) and 4 (b) show continuously obtained photographing frames. A common area exists as a background on the back side of the person 24 who is the subject of each shooting frame. That is, since the photographer is following the movement of the person 24, the background is the same, although it slightly deviates from the movement direction of the person 24. The common portion (partial background image) 25a in FIGS.

この共通部分(部分背景画像)25aより中央よりは、人物24の部分24a(図では足の部分)が変化していることから、背景と人物24が両画像(図4(a)と図4(b))で異なり、類似抽出部5cはこの部分24aを類似検出しない。したがって、両画像が類似しているとして抽出されるのは、斜線を施した共通部分(部分背景画像)25aの部分であり、類似抽出部5cは、この短冊形状の共通部分(部分背景画像)25aのみを抽出する。なお、本実施形態においては、類似部分を抽出するにあたって、画面を横方向に8等分した短冊状の範囲について行っている。この分割数やその形状については、適宜、変更しても良い。   Since the portion 24a (foot portion in the figure) of the person 24 changes from the center of the common portion (partial background image) 25a, the background and the person 24 are both images (FIG. 4A and FIG. 4). Unlike in (b)), the similarity extraction unit 5c does not detect this portion 24a. Therefore, it is the portion of the common portion (partial background image) 25a that is shaded that is extracted as being similar, and the similarity extraction unit 5c uses this strip-shaped common portion (partial background image). Extract only 25a. In the present embodiment, when extracting similar parts, a strip-shaped range obtained by dividing the screen into eight equal parts in the horizontal direction is used. You may change suitably about this division | segmentation number and its shape.

図4(c)は、共通部分(部分背景画像)25aを取り出し、また図4(a)から余白部(糊代部)26aも取り出し、両方を合成した図である。余白部26aは、部分背景画像25aに隣接する部分であり、この部分は、次の部分背景画像25bと合成する際の余白部(糊代)として利用する。   FIG. 4C is a diagram in which the common part (partial background image) 25a is taken out, and the margin part (glue part) 26a is taken out from FIG. The margin part 26a is a part adjacent to the partial background image 25a, and this part is used as a margin part (glue allowance) when combining with the next partial background image 25b.

図4(a)と図4(b)のコマを比較することにより、部分背景画像25aを抽出すると、次に、図4(d)と図4(e)のコマを比較することにより、部分背景画像25bを抽出する。すなわち、図4(d)は、図4(b)と同じ画像であるが、次のコマと比較していることから、その抽出される共通部分(部分背景画像)の位置が図4(b)の場合とは異なっている。部分背景画像25bが部分背景画像25aと同様にして抽出され、また余白部(糊代部)26bも抽出される。   When the partial background image 25a is extracted by comparing the frames of FIG. 4A and FIG. 4B, the partial images of FIG. 4D and FIG. The background image 25b is extracted. That is, FIG. 4D is the same image as FIG. 4B, but since it is compared with the next frame, the position of the extracted common part (partial background image) is shown in FIG. ) Is different. The partial background image 25b is extracted in the same manner as the partial background image 25a, and a margin part (glue part) 26b is also extracted.

このように、短冊状の余白部26a、26b付きの部分背景画像25a、25bが抽出されると、次に、余白部26bが、部分背景画像25aに重なるように、合成部7aによって画像合成を行い、図4(g)に示すような背景画像が得られる。以後、撮影部3から動画を構成する撮影コマの画像データが出力されるたびに、順次、撮影コマを比較し、部分背景画像等を生成し、合成することにより、図5(a)に示すような背景画像27が合成される。この背景画像の合成の手順については、図7に示すフローチャートを用いて後述する。   In this way, when the partial background images 25a and 25b with the strip-shaped margins 26a and 26b are extracted, next, the composition unit 7a performs image synthesis so that the margin 26b overlaps the partial background image 25a. As a result, a background image as shown in FIG. Thereafter, each time image data of a shooting frame constituting a moving image is output from the shooting unit 3, the shooting frames are sequentially compared, and a partial background image or the like is generated and synthesized, as shown in FIG. Such a background image 27 is synthesized. The procedure for synthesizing the background image will be described later with reference to the flowchart shown in FIG.

次に、図5および図6を用いて、背景画像27に動画の撮影コマを嵌め込み、動画を生成方法について説明する。前述したように背景画像27が生成されると、次に、この背景画像27の中で動画の各コマと類似する部分を、順次、検出し、この類似する部分の画像を背景画像27に、順次、置き換えることにより、図3で示したようなパノラマ風景の中を人物24が走っていくような動画を得る。   Next, a method for generating a moving image by inserting a moving image frame into the background image 27 will be described with reference to FIGS. 5 and 6. When the background image 27 is generated as described above, next, a portion similar to each frame of the moving image in the background image 27 is sequentially detected, and the image of the similar portion is set as the background image 27. By sequentially replacing, a moving image in which the person 24 runs in the panoramic view as shown in FIG. 3 is obtained.

まず、図6に示す背景画像27の中から、動画を構成する各コマ21eの部分背景画像25eと、一致する部分背景画像25e’を検出する。一致部分を検出すると、背景画像27から嵌め込み画像の相当部分(部分背景画像21eの幅Y)27eを消去し、この部分にコマ21eを嵌め込む。動画を構成する各コマを、図5(b)、(c)に示すように、順次、ずらしていくことにより、人物24が走っていくような動画を得ることができる。この動画の合成は、動画合成部7bによって行われる。また、動画の合成の手順については、図8に示すフローチャートを用いて後述する。   First, from the background image 27 shown in FIG. 6, a partial background image 25 e ′ that matches the partial background image 25 e of each frame 21 e constituting the moving image is detected. When a matching portion is detected, a corresponding portion (width Y of the partial background image 21e) 27e of the inserted image is deleted from the background image 27, and the frame 21e is inserted into this portion. As shown in FIGS. 5B and 5C, moving frames are sequentially shifted as shown in FIGS. 5B and 5C so that a moving image in which the person 24 runs can be obtained. This moving image synthesis is performed by the moving image combining unit 7b. The procedure for synthesizing the moving image will be described later with reference to the flowchart shown in FIG.

次に、図4および図5を用いて説明した背景画像合成について、図7に示すフローチャートを用いて説明する。この背景画像合成のフローは制御部1によって各部を制御することにより実行される。   Next, the background image composition described with reference to FIGS. 4 and 5 will be described with reference to the flowchart shown in FIG. This background image composition flow is executed by the control unit 1 controlling each unit.

背景画像合成のフローに入ると、まず、動き判定を行う(S1)。このステップでは、撮像部3によって取得された画像の周辺部の画像データに基づいて、動き判定部が動きベクトルを検出し、撮影視野がどちらに移動しているかを検出する。前述したように、本実施形態においては、カメラ10の移動方向の後ろ方向に背景画像を合成しており、この動き方向に基づいて背景画像を合成する方向を決定する。   In the background image composition flow, first, motion determination is performed (S1). In this step, based on the image data of the peripheral part of the image acquired by the imaging unit 3, the motion determination unit detects a motion vector and detects to which direction the field of view is moved. As described above, in the present embodiment, the background image is synthesized in the backward direction of the moving direction of the camera 10, and the direction in which the background image is synthesized is determined based on this movement direction.

次に、第1バッファに画像を取得する(S2)。このステップでは、撮像部3からの画像データを第1バッファ5aに一時記憶する。続いて、次画像を取得したかの判定を行う(S3)。撮像部3は所定時間間隔で画像データを取得しており、このステップでは、所定時間が経過し、動画像を構成する次の撮影コマの画像データの読出しを行って画像を取得したかの判定を行う。   Next, an image is acquired in the first buffer (S2). In this step, the image data from the imaging unit 3 is temporarily stored in the first buffer 5a. Subsequently, it is determined whether the next image has been acquired (S3). The imaging unit 3 acquires image data at a predetermined time interval, and in this step, it is determined whether the image has been acquired by reading the image data of the next shooting frame constituting the moving image after the predetermined time has elapsed. I do.

ステップS3における判定の結果、次画像を取得した場合には、第2バッファに転送を行う(S4)。このステップでは、第1バッファ5aに一時記憶されている画像データを第2バッファ5bに転送し、新たに取得した画像データを第1バッファ5aに一時記憶する。一方、ステップS3における判定の結果、次画像を取得していなかった場合には、第1バッファ5aと第2バッファ5bに一時記憶されている2つの画像を比較可能か否かの判定を行う(S11)。このステップでは、両バッファに画像データが一時記憶されており、未だ比較を行っていないか否かの判定を行う。   If the result of determination in step S3 is that the next image has been acquired, transfer is made to the second buffer (S4). In this step, the image data temporarily stored in the first buffer 5a is transferred to the second buffer 5b, and the newly acquired image data is temporarily stored in the first buffer 5a. On the other hand, if the result of determination in step S3 is that the next image has not been acquired, it is determined whether or not two images temporarily stored in the first buffer 5a and the second buffer 5b can be compared ( S11). In this step, it is determined whether image data is temporarily stored in both buffers and comparison has not been performed yet.

ステップS11における判定の結果、比較可能でなかった場合には、ステップS18に進む。一方、判定の結果、比較可能であった場合には、第1バッファの後ろの部分と第2バッファの共通部分を抽出し、これを記録する(S12)。このステップでは、図4を用いて説明したように、後から取得した画像(図4(a)に示す画像に対応し、第1バッファ5aに一時記憶されている)の動き方向の後ろ側の部分(図4では横方向に8分割したうちの右端の短冊部)、から、先に取得した画像(図4(b)に示す画像に対応し、第2バッファ5bに転送されている)と比較し、一致する部分背景画像25aを抽出し、これを第3バッファ5dに一時記憶する。   If the result of determination in step S11 is that comparison is not possible, processing proceeds to step S18. On the other hand, if the result of determination is that comparison is possible, the part behind the first buffer and the common part of the second buffer are extracted and recorded (S12). In this step, as described with reference to FIG. 4, the rear side of the movement direction of the image acquired later (corresponding to the image shown in FIG. 4A and temporarily stored in the first buffer 5 a). From the portion (the rightmost strip portion divided into eight in the horizontal direction in FIG. 4), the image acquired earlier (corresponding to the image shown in FIG. 4B and transferred to the second buffer 5b) Comparison is made and a matching partial background image 25a is extracted and temporarily stored in the third buffer 5d.

続いて、第2バッファから共通部の後ろを糊代として記憶する(S13)。図4(c)(f)において説明したように、糊代部としての余白部26a、26bを、先に取得し第2バッファ5bに一時記憶されている画像データからコピーし、これを部分背景画像25a、25bと共に一時記憶する。   Subsequently, the back of the common part is stored as a margin from the second buffer (S13). As described in FIGS. 4C and 4F, the margin portions 26a and 26b as the margin portions are copied from the image data acquired first and temporarily stored in the second buffer 5b. Temporarily stored together with the images 25a and 25b.

次に、合成可能か否かの判定を行う(S14)。すなわち、ステップS12、S13において、背景画像合成用の部分背景画像25a、25bや糊代部26a、26bを一時記憶したので、これらのデータを用いて画像合成が可能か否かの判定である。この判定の結果、合成可能でなかった場合には、ステップS18に進む。   Next, it is determined whether or not composition is possible (S14). That is, in steps S12 and S13, the partial background images 25a and 25b and the glue margin portions 26a and 26b for background image synthesis are temporarily stored, so it is determined whether image synthesis is possible using these data. If the result of this determination is that synthesis is not possible, processing proceeds to step S18.

一方、ステップS14における判定の結果、合成可能であれば、次に、前の共通部(部分背景画像)と糊代部を重ねて画像合成を行う(S15)。すなわち、図4(g)に示すように、短冊状の部分背景画像25a、25bを糊代部26a、26bを用いて、背景画像27を合成する。この合成は合成部7aによって行われる。   On the other hand, if the result of determination in step S14 is that compositing is possible, next, image compositing is performed by superimposing the previous common part (partial background image) and the margin part (S15). That is, as shown in FIG. 4G, the background image 27 is synthesized from the strip-shaped partial background images 25a and 25b by using the margin portions 26a and 26b. This synthesis is performed by the synthesis unit 7a.

次に、ステップS15で合成した各コマと共通部(部分背景画像)を記録する(S16)。各コマは動画を構成する画像データであり、これは動画記録部9aに記録され、共通部(部分背景画像)が合成された背景画像27は、背景記録部9bに記録される。   Next, each frame combined in step S15 and a common part (partial background image) are recorded (S16). Each frame is image data constituting a moving image, which is recorded in the moving image recording unit 9a, and the background image 27 in which the common part (partial background image) is synthesized is recorded in the background recording unit 9b.

続いて、背景画像合成が終了か否かの判定を行う(S18)。動画撮影を行いながら背景画像合成を行っている場合、この動画撮影が終了した場合に、背景画像合成の終了と判定する。なお、予め動画を撮影し、これを記録しておき、この記録された動画画像について、背景画像合成を行ってもよく、その場合には、予め記録されている動画のコマについて全て用いて背景画像合成が行われた場合に終了と判定される。   Subsequently, it is determined whether or not the background image composition is finished (S18). When background image composition is performed while shooting a moving image, it is determined that the background image composition is finished when the moving image shooting is completed. In addition, it is also possible to record a moving image in advance and record it, and then perform background image composition for the recorded moving image. In this case, the background is used by using all of the pre-recorded moving image frames. It is determined to end when image composition is performed.

ステップS18における判定の結果、終了でなかった場合には、ステップS3に戻り、次の画像を取得し、前述の動作を実行する。一方、判定の結果、終了であった場合には、カメラ10の全体制御を行う元のフローに戻る。   If the result of determination in step S18 is not end, processing returns to step S3, the next image is acquired, and the above-described operation is executed. On the other hand, if the result of determination is that the processing has ended, the flow returns to the original flow in which the overall control of the camera 10 is performed.

次に、前述した背景画像に動画の画像を重ねて合成し、図3において示したような動画を生成するための動画表示のフローについて、図8に示すフローチャートを用いて説明する。   Next, a moving image display flow for generating a moving image as shown in FIG. 3 by superimposing a moving image on the background image described above will be described with reference to the flowchart shown in FIG.

動画表示のフローに入ると、まず、合成した背景画像27を表示する(S21)。このステップでは、合成部7aによって合成された図5(a)に示すような背景画像27を表示部8に表示する。続いて、所定のタイミングであるか否かの判定を行う(S22)。このステップでは、動画記録部9aから読み出される動画の1コマごとのタイミングか否かを判定し、所定のタイミングでない場合には、所定のタイミングになるのを待つ。   In the moving image display flow, first, the synthesized background image 27 is displayed (S21). In this step, a background image 27 as shown in FIG. 5A synthesized by the synthesis unit 7a is displayed on the display unit 8. Then, it is determined whether it is a predetermined timing (S22). In this step, it is determined whether or not it is the timing for each frame of the moving image read from the moving image recording unit 9a, and if it is not the predetermined timing, it waits for the predetermined timing.

ステップS22における判定の結果、所定のタイミングになると、次に未合成があるか否かの判定を行う(S23)。このステップでは、動画記録部9aから動画を構成する撮影コマが全て読み出されたか否かの判定を行う。この判定の結果、未合成の画像がなかった場合には、リターンし、カメラ10の全体制御を行うフローに戻る。   If the result of determination in step S22 is a predetermined timing, it is next determined whether or not there is uncombined (S23). In this step, it is determined whether or not all shooting frames constituting the moving image have been read from the moving image recording unit 9a. If there is no unsynthesized image as a result of this determination, the process returns and returns to the flow for performing overall control of the camera 10.

一方、ステップS23における判定の結果、未合成の画像があった場合には、2画像の共通部を検出する(S24)。このステップでは、図6において説明したように、動画の1コマ分に当たるコマ画像21eの部分背景画像25eに対応する背景画像27の部分25e’を検出する。   On the other hand, if the result of determination in step S23 is that there is an unsynthesized image, the common part of the two images is detected (S24). In this step, as described with reference to FIG. 6, the portion 25e 'of the background image 27 corresponding to the partial background image 25e of the frame image 21e corresponding to one frame of the moving image is detected.

続いて、図6で説明したように、部分背景画像(共通部)25eの反対端までの幅Yを決め(S25)、この幅Yの部分にあたる画像を背景画像27から消去する(S26)。そして、この消去された部分に動画のコマ画像21eを嵌め込み、画像を合成する(S27)。すなわち、これらのステップでは、部分背景画像(共通部)から嵌め込み画像の幅に相当する幅Yの部分を背景画像27から消去し、その部分に撮影したままの画像(コマ画像21e)を嵌め込んで表示する。この合成された画像は所定時間の間、表示する。   Subsequently, as described with reference to FIG. 6, the width Y to the opposite end of the partial background image (common part) 25e is determined (S25), and the image corresponding to this width Y is erased from the background image 27 (S26). Then, the frame image 21e of the moving image is inserted into the erased portion, and the image is synthesized (S27). That is, in these steps, the portion of the width Y corresponding to the width of the inserted image is deleted from the background image 27 from the partial background image (common portion), and the image (frame image 21e) as it is captured is inserted into that portion. Is displayed. The synthesized image is displayed for a predetermined time.

次に、ステップS27において合成された画像から、背景画像27に背景を戻す(S28)。背景を戻すと、ステップS22に戻り、前述の動作を実行する。このように、ステップS22〜S28を繰り返し実行することにより、背景画像27と動画のコマ画像とを順次、比較し、共通部を含む幅Yの背景画像27について、画像を置き換えて順次、画像を得ることにより動画を合成している。   Next, the background is returned from the image synthesized in step S27 to the background image 27 (S28). When the background is returned, the process returns to step S22 to execute the above-described operation. In this way, by repeatedly executing Steps S22 to S28, the background image 27 and the frame image of the moving image are sequentially compared, and the background image 27 having the width Y including the common portion is replaced with an image. The video is synthesized by obtaining.

以上説明したように、本実施形態においては、1回の静止画の撮影では撮影できないようなパノラマ背景の中を、移動体が移動していく様子を動画で再現できる(図3参照)。   As described above, in the present embodiment, it is possible to reproduce a moving image of a moving body in a panoramic background that cannot be captured by a single still image (see FIG. 3).

特に、大画面テレビなどは、広大な風景を表示するのに向いていることから、本実施形態に係わるカメラによって撮影された画像を記録しておき、大画面テレビに接続して再生表示するようにしても良い。また、一般的な動画撮影カメラで撮影した画像を、再生機器によって画像解析して、本実施形態と同様な再生表示を行っても良い。   In particular, since a large screen TV is suitable for displaying a vast landscape, an image taken by the camera according to the present embodiment is recorded, and is connected to the large screen TV for playback display. Anyway. In addition, an image captured by a general video camera may be subjected to image analysis by a playback device, and playback display similar to the present embodiment may be performed.

次に、本発明の第2実施形態について、図9および図10を用いて説明する。第1実施形態は、図3に示したように、予めパノラマ状の背景画像27を生成し、その中で移動体が移動する様子を表示していた。第2実施形態では、移動体の動きに合わせて、図9に示すように、背景画像が延びていくようにしている。   Next, a second embodiment of the present invention will be described using FIG. 9 and FIG. In the first embodiment, as illustrated in FIG. 3, a panoramic background image 27 is generated in advance, and a state in which the moving object moves therein is displayed. In the second embodiment, the background image extends in accordance with the movement of the moving body as shown in FIG.

すなわち、人物24の移動に合わせ、図9(a)〜(c)に示すように、背景画像27a〜27cを順次延ばしていく。このような表示方法は、移動体が移動した道程を表示するときに有効であり、移動した先に何があるか、最初は分からないというスリリングな効果を味わうことができる。   That is, according to the movement of the person 24, the background images 27a to 27c are sequentially extended as shown in FIGS. Such a display method is effective when displaying the travel distance of the moving body, and can provide a thrilling effect of not knowing what the destination is at the beginning.

この第2実施形態の構成は、図1に示したものと同様であり、図7に示したフローチャートの代わりに、図10に示す背景画像合成のフローチャートを実行する。   The configuration of the second embodiment is the same as that shown in FIG. 1, and instead of the flowchart shown in FIG. 7, the background image composition flowchart shown in FIG. 10 is executed.

この背景画像合成のフローは、図7に示したフローと殆ど同じであり、ステップS16における各コマ、共通部域記録に代えて、ステップS17の第1バッファ画像合成を行っている。第1実施形態においては、全ての部分背景画像25a、25bを生成した後、これらを合成して、背景画像27を生成した。しかし、第2実施形態においては、部分背景画像が生成される都度、そのときまでに生成された部分背景画像で合成するようにしている。   The background image composition flow is almost the same as the flow shown in FIG. 7, and the first buffer image composition in step S17 is performed in place of each frame and common area recording in step S16. In the first embodiment, after all the partial background images 25a and 25b are generated, these are combined to generate the background image 27. However, in the second embodiment, every time a partial background image is generated, the partial background image generated up to that time is combined.

なお、ステップS18における終了か否かの判定は、第1実施形態においては、全ての部分背景画像によって背景画像27が生成されたかを判定していたが、第2実施形態においては、部分背景画像が生成されると一旦終了し、動画表示を行う。1コマ分の動画表示を行うと、背景画像合成に戻り、以後、動画表示と背景画像合成を繰り返す。   In step S18, it is determined whether the background image 27 is generated by all partial background images in the first embodiment. However, in the second embodiment, the partial background image is determined. Is generated once, and a moving image is displayed. When the moving image display for one frame is performed, the process returns to the background image composition, and thereafter, the moving image display and the background image composition are repeated.

以上、説明したように、本発明の各実施形態によれば、連続して撮影される画像コマに基づいて背景画像を生成し、画像コマと背景画像が共通する部分を検出し、この共通部分に連続撮影された画像コマを、順次、置き換えて動画を合成している。このため、特別な広角レンズなどを用意せずとも、パノラマのような広がり感を表現すると共に、雄大な背景画像の中で、被写体の動きを表現することができる。すなわち、風景の広がりと、移動体の動きの様子を同時に表現した画像表示を可能とすることができる。   As described above, according to each embodiment of the present invention, a background image is generated based on continuously shot image frames, a portion where the image frame and the background image are common is detected, and this common portion is detected. The video frames that were taken continuously are replaced sequentially to compose a moving image. Therefore, it is possible to express a panoramic feeling without preparing a special wide-angle lens or the like and to express the movement of the subject in a magnificent background image. That is, it is possible to display an image that simultaneously expresses the spread of the landscape and the state of movement of the moving body.

なお、本実施形態においては、カメラで撮影し、この撮影した画像を再生表示するようにしていた。しかし、これに限らず、カメラは撮影と動画記録だけとし、再生機器において、本実施形態のようにパラノラマ風の背景画像の中で、移動体が移動するように再生表示するようにしても良い。この場合には、記録された動画の画像データを順次読出し、第1バッファ5a、第2バッファ5bに一時記憶および転送を行い、この一時記憶した画像データを用いて本発明の実施形態と同様に処理すればよい。   In this embodiment, the image is taken with a camera, and the taken image is reproduced and displayed. However, the present invention is not limited to this, and the camera may be used only for shooting and moving image recording, and may be reproduced and displayed on the playback device so that the moving body moves in the paranorama-like background image as in this embodiment. . In this case, the image data of the recorded moving image is sequentially read out, temporarily stored and transferred to the first buffer 5a and the second buffer 5b, and the temporarily stored image data is used as in the embodiment of the present invention. What is necessary is just to process.

また、動画としては、テレビや映画のような自然の動きのある画像のみならず、コマ撮り撮影や連写などの連続的に撮影される画像でも、勿論、本発明を適用することができる。   In addition, as a moving image, the present invention can be applied not only to images with natural movement such as television and movies, but also to images that are continuously shot such as time-lapse shooting and continuous shooting.

また、本実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、動画等の連続撮影機能を有するデジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画専用のカメラでもよく、さらに、携帯電話や携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも構わない。いずれにしても、連続して画像を取得することのできる撮影機器であれば、本発明を適用することができる。   In the present embodiment, the digital camera is used as the device for shooting. However, the camera may be a digital single-lens reflex camera or a compact digital camera having a continuous shooting function such as a moving image, a video camera, A camera dedicated to moving images such as a movie camera may be used, and a camera built in a mobile phone, a personal digital assistant (PDA), or the like may be used. In any case, the present invention can be applied to any imaging device capable of continuously acquiring images.

本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   The present invention is not limited to the above-described embodiments as they are, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, you may delete some components of all the components shown by embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

本発明の第1実施形態に係わるカメラの構成を示すブロック図である。It is a block diagram which shows the structure of the camera concerning 1st Embodiment of this invention. 本発明の第1実施形態に係るカメラにおいて、動画撮影された画像の各コマの画像を示す図である。It is a figure which shows the image of each flame | frame of the image image | photographed with the camera which concerns on 1st Embodiment of this invention. 本発明の第1実施形態に係わるカメラにおいて、背景画像の中で被写体が動いていく様子を示す動画であり、(a)は初期の段階での画像であり、(b)は(a)より後の画像である。In the camera concerning 1st Embodiment of this invention, it is a moving image which shows a mode that a to-be-photographed object moves in a background image, (a) is an image in an initial stage, (b) is from (a). It is a later image. 本発明の第1実施形態に係わるカメラにおいて、背景画像の生成を説明する 図であり、(a)は最初のコマの画像であり、(b)は次のコマの画像であり、(c)は両画像の共通部(部分背景画像)を抽出した図であり、(d)は、(b)と同じ次のコマの画像であり、(e)は更に次の画像であり、(f)は次のコマと更に次のコマの2つの画像の共通部(部分背景画像)を抽出した図であり、(g)は共通部(部分背景画像)を合成した図である。In the camera according to the first embodiment of the present invention, it is a diagram for explaining the generation of the background image, (a) is the image of the first frame, (b) is the image of the next frame, (c) Is a diagram in which a common part (partial background image) of both images is extracted, (d) is an image of the same next frame as (b), (e) is a further next image, (f) Is a diagram obtained by extracting a common part (partial background image) of two images of the next frame and the next frame, and (g) is a diagram obtained by synthesizing the common part (partial background image). 本発明の第1実施形態におけるカメラにおいて、動画の生成方法を説明する図であり、(a)は背景画像の図であり、(b)(c)は背景画像の一部を、動画を構成するコマ画像に置き換えて動画を生成することを説明する図である。In the camera according to the first embodiment of the present invention, FIG. 4 is a diagram illustrating a method of generating a moving image, (a) is a diagram of a background image, and (b) and (c) are a part of the background image and a moving image. It is a figure explaining replacing with the frame image to perform and producing | generating a moving image. 本発明の第1実施形態におけるカメラにおいて、動画の生成方法を説明する図である。It is a figure explaining the production | generation method of a moving image in the camera in 1st Embodiment of this invention. 本発明の第1実施形態に係わるカメラにおける背景画像合成のフローチャートである。It is a flowchart of the background image synthesis | combination in the camera concerning 1st Embodiment of this invention. 本発明の第1実施形態に係わるカメラにおける動画表示のフローチャートである。It is a flowchart of the moving image display in the camera concerning 1st Embodiment of this invention. 本発明の第2実施形態におけるカメラにおいて、背景画像を示す図であり、(a)〜(c)は順次背景画像が延びていく様を示す。In the camera in 2nd Embodiment of this invention, it is a figure which shows a background image, (a)-(c) shows a mode that a background image is extended sequentially. 本発明の第2実施形態に係わるカメラにおける背景画像合成のフローチャートである。It is a flowchart of the background image synthesis | combination in the camera concerning 2nd Embodiment of this invention.

1・・・制御部、2・・・レンズ、3・・・撮像部、4・・・動き判定部、5a・・・第1バッファ、5b・・・第2バッファ、5c・・・類似抽出部、5d・・・第3バッファ、5e・・・余白部、6・・・画像処理部、7a・・・合成部、7b・・・動画合成部、8・・・表示部、9a・・・動画記録部、9b・・・背景記録部、10・・・カメラ、21a〜21e・・・コマ画像、22・・・山並み、23・・・木、24・・・人物、24a・・・人物の部分、25a〜25b・・・部分背景画像(共通部分)、26a〜26b・・・余白部(糊代部)、27・・・背景画像、27a〜27c・・・背景画像、27e・・・背景画像の一部 DESCRIPTION OF SYMBOLS 1 ... Control part, 2 ... Lens, 3 ... Imaging part, 4 ... Motion determination part, 5a ... 1st buffer, 5b ... 2nd buffer, 5c ... Similarity extraction , 5d ... third buffer, 5e ... margin, 6 ... image processing unit, 7a ... combining unit, 7b ... moving image combining unit, 8 ... display unit, 9a ... Movie recording unit, 9b ... background recording unit, 10 ... camera, 21a to 21e ... frame image, 22 ... mountain range, 23 ... tree, 24 ... person, 24a ... Part of person, 25a-25b ... partial background image (common part), 26a-26b ... margin (part of glue), 27 ... background image, 27a-27c ... background image, 27e ..Part of background image

Claims (10)

連続撮影時に、撮影視野がどちらに移動しているかを検出する動き判定部と、
先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定する共通部画像判定部と、
上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像とを合成した画像を得るための背景合成部と、
を具備したことを特徴とするカメラ。
A motion determination unit that detects which shooting field of view has moved during continuous shooting;
Compare the first shot image frame with the later shot image frame, do not extract the dissimilar part, and determine the common part image behind the moving direction of the dissimilar part And
A background synthesizing unit for obtaining an image obtained by synthesizing the adjacent part in the rear direction of the image frame photographed first and the common part image;
A camera comprising:
上記カメラは、上記隣接部を先に得られた共通部画像と重ねて合成するための糊代部とすることを特徴とする請求項1に記載のカメラ。   2. The camera according to claim 1, wherein the camera is used as a margin part for combining the adjacent part with the previously obtained common part image. 上記カメラは、
上記連続して撮影される画像コマを記録する連続画像記録部と、
上記背景合成部で合成された画像を記録する背景画像記録部と、
上記背景画像記録部に記録された画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を置き換えて合成した画像を順次表示する表示制御部と、
をさらに具備することを特徴とする請求項1に記載のカメラ。
The above camera
A continuous image recording unit for recording the continuously shot image frames;
A background image recording unit for recording the image synthesized by the background synthesis unit;
A display control unit that sequentially compares the images recorded in the background image recording unit and the image frames recorded in the continuous image recording unit, sequentially replaces similar image portions and combines them;
The camera according to claim 1, further comprising:
連続撮影時に連続して取得される画像コマを記録する連続画像記録部と、
上記連続撮影時で得られた共通部画像を合成した背景合成画像を得るための背景合成部と、
上記背景合成画像を記録する背景画像記録部と、
上記背景画像記録部に記録された上記背景合成画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を移動体が移動していく動画のコマ画像置き換えて合成した画像を順次表示する表示制御部と、
を具備したことを特徴とするカメラ。
A continuous image recording unit for recording image frames continuously acquired during continuous shooting;
A background synthesis unit for obtaining a background synthesized image obtained by synthesizing the common part image obtained at the time of continuous shooting;
A background image recording unit for recording the background composite image;
The background composite image recorded in the background image recording unit is compared with the image frames recorded in the continuous image recording unit, and the similar image portion is sequentially replaced with a moving frame image of a moving body. A display control unit for sequentially displaying the synthesized images;
A camera comprising:
視野を移動させながら連続して撮影された画像コマの先に撮影された画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記視野移動の後ろ方向の共通部画像を判定する共通部画像判定部と、
上記先に取得した画像コマの上記後ろ方向の隣接部と、上記共通部画像とを合成した画像を得るための背景合成部と、
を具備したことを特徴とする画像再生装置。
Compare the image frames taken ahead of the image frames taken continuously while moving the field of view with the image frames taken later, and do not extract dissimilar parts, but do not extract the dissimilar parts of the field of view A common part image determination unit for determining a common part image in the backward direction of movement;
A background synthesizing unit for obtaining an image obtained by synthesizing the adjacent portion in the rear direction of the previously acquired image frame and the common part image;
An image reproducing apparatus comprising:
連続撮影時に連続して取得される画像コマを記録する連続画像記録部と、
上記連続撮影時で得られた共通部画像を合成した背景合成画像を得るための背景合成部と、
上記背景合成画像を記録する背景画像記録部と、
上記背景画像記録部に記録された背景合成画像と、上記連続画像記録部に記録された画像コマを比較して、逐次類似画像部分を移動体が移動していく動画のコマ画像置き換えて合成した画像を順次表示する表示制御部と、
を具備したことを特徴とする画像再生装置。
A continuous image recording unit for recording image frames continuously acquired during continuous shooting;
A background synthesis unit for obtaining a background synthesized image obtained by synthesizing the common part image obtained at the time of continuous shooting;
A background image recording unit for recording the background composite image;
And recorded background composite image on the background image recording unit, by comparing the image frames recorded on the continuous image recording unit, synthesized by replacing successive similar image portion frame image of moving the moving object moves A display control unit for sequentially displaying the captured images;
An image reproducing apparatus comprising:
連続撮影時に、撮影視野がどちらに移動しているかの方向を判定し、
先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定し、
上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像とを合成した画像を背景合成することを特徴とする画像合成方法。
During continuous shooting, determine the direction of the shooting field of view,
Compare the image frame captured earlier with the image frame captured later, do not extract the dissimilar part, determine the common part image behind the moving direction of the dissimilar part,
An image synthesizing method comprising: synthesizing a background of an image obtained by synthesizing the above-described adjacent portion in the rear direction of the previously captured image frame and the common portion image.
連続撮影時に連続して取得される画像コマを記録し、
上記連続撮影時に得られた共通部画像を合成して記録し、
上記記録された合成画像と、上記連続撮影時に記録された画像コマを比較して、類似画像部分を移動体が移動していく動画のコマ画像逐次置き換えて合成した画像を順次表示することを特徴とする画像合成方法。
Records image frames that are acquired continuously during continuous shooting,
Combine and record the common part image obtained during the continuous shooting,
The recorded composite image is compared with the image frames recorded during the continuous shooting, and similar images are sequentially replaced with moving image frames that the moving body moves to sequentially display the combined images. A characteristic image composition method.
連続撮影時に、撮影視野がどちらに移動しているかの方向を判定するステップと、
先に撮影した画像コマと、後から撮影された画像コマを比較して、類似でない部分は抽出せず、上記類似でない部分の上記移動方向の後ろ方向の共通部画像を判定するステップと、
上記先に撮影した画像コマの上記後ろ方向の隣接部と、上記共通部画像とを合成した画像を背景合成するステップと、
を有することを特徴とする画像合成プログラム。
Determining the direction in which the field of view is moving during continuous shooting;
Comparing the previously captured image frame and the later captured image frame, not extracting a dissimilar part, and determining a common part image behind the moving direction of the dissimilar part;
A background synthesis of an image obtained by synthesizing the adjacent portion in the rear direction of the image frame photographed first and the common portion image;
An image composition program characterized by comprising:
連続撮影時に連続して取得される画像コマを記録するステップと、
上記連続撮影時に得られた共通部画像を合成して記録するステップと、
上記記録された合成画像と、上記連続撮影時に記録された画像コマを比較して、類似画像部分を移動体が移動していく動画のコマ画像逐次置き換えて合成した画像を順次表示する表示ステップと、
を具備したことを特徴とする画像合成プログラム。
A step of recording image frames acquired continuously during continuous shooting;
Synthesizing and recording the common part image obtained during the continuous shooting;
A display step of comparing the recorded composite image with the image frame recorded at the time of the continuous shooting, and sequentially replacing the similar image portion with a moving frame image of the moving body and sequentially displaying the combined image. When,
An image composition program characterized by comprising:
JP2012245677A 2012-11-07 2012-11-07 Camera, image reproduction apparatus, image composition method, and program Expired - Fee Related JP5602818B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012245677A JP5602818B2 (en) 2012-11-07 2012-11-07 Camera, image reproduction apparatus, image composition method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012245677A JP5602818B2 (en) 2012-11-07 2012-11-07 Camera, image reproduction apparatus, image composition method, and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2008213816A Division JP5133816B2 (en) 2008-08-22 2008-08-22 Camera, image composition method, and program

Publications (2)

Publication Number Publication Date
JP2013062850A JP2013062850A (en) 2013-04-04
JP5602818B2 true JP5602818B2 (en) 2014-10-08

Family

ID=48187068

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012245677A Expired - Fee Related JP5602818B2 (en) 2012-11-07 2012-11-07 Camera, image reproduction apparatus, image composition method, and program

Country Status (1)

Country Link
JP (1) JP5602818B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106210547A (en) * 2016-09-05 2016-12-07 广东欧珀移动通信有限公司 A kind of method of pan-shot, Apparatus and system

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3982316B2 (en) * 2002-04-25 2007-09-26 ソニー株式会社 Image processing apparatus, image processing method, and image processing program
JP4009173B2 (en) * 2002-09-30 2007-11-14 富士フイルム株式会社 Digital camera
JP5103899B2 (en) * 2006-12-28 2012-12-19 カシオ計算機株式会社 Image composition apparatus, image composition program, and image composition method
JP2009077362A (en) * 2007-08-24 2009-04-09 Sony Corp Image processing device, dynamic image reproduction device, and processing method and program for them

Also Published As

Publication number Publication date
JP2013062850A (en) 2013-04-04

Similar Documents

Publication Publication Date Title
JP5133816B2 (en) Camera, image composition method, and program
US10367997B2 (en) Enriched digital photographs
JP5028225B2 (en) Image composition apparatus, image composition method, and program
JP4499693B2 (en) Image processing apparatus, image processing method, and program
EP2180701A1 (en) Image processing device, dynamic image reproduction device, and processing method and program in them
JP5806623B2 (en) Imaging apparatus, imaging method, and program
JP4986886B2 (en) Imaging apparatus, image reproducing apparatus, imaging control method, and image reproducing method
JP6304293B2 (en) Image processing apparatus, image processing method, and program
JP2006094058A (en) Image processing apparatus, program, and method for pre-process to reproduce stationary image as dynamic image
JP5393237B2 (en) Image display apparatus, control method therefor, program, and storage medium
JP2012015830A (en) Camera
JP4697221B2 (en) Image processing apparatus, moving image reproduction apparatus, processing method and program therefor
JP2009272840A (en) Image recording/reproducing device, image recording/reproducing method, image processing device, and image processing method
JP6056551B2 (en) Image processing program and digital camera
JP5125294B2 (en) Program, image processing apparatus, imaging apparatus, and image processing method
JP5402242B2 (en) Image reproduction apparatus, imaging apparatus, image reproduction method, and image reproduction program
JP2009044329A (en) Program, image processing method, and image processor
JP5602818B2 (en) Camera, image reproduction apparatus, image composition method, and program
JP5479149B2 (en) Image generation device
JP6625598B2 (en) Image generation apparatus, image generation method, image generation program, and image generation system
JP5828251B2 (en) Image processing apparatus and digital camera
JP5476900B2 (en) Image composition apparatus, image composition method, and program
JP2009071857A (en) Image processing apparatus, image processing method and program
WO2021181965A1 (en) Image processing device, image processing method, and program
JP6230675B2 (en) Image reproduction apparatus, image reproduction method, and image reproduction program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131203

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20131203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140513

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140722

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140820

R151 Written notification of patent or utility model registration

Ref document number: 5602818

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees