JP2006339903A - Imaging device, image processing method and program - Google Patents

Imaging device, image processing method and program Download PDF

Info

Publication number
JP2006339903A
JP2006339903A JP2005160643A JP2005160643A JP2006339903A JP 2006339903 A JP2006339903 A JP 2006339903A JP 2005160643 A JP2005160643 A JP 2005160643A JP 2005160643 A JP2005160643 A JP 2005160643A JP 2006339903 A JP2006339903 A JP 2006339903A
Authority
JP
Japan
Prior art keywords
image data
main subject
image
subject
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005160643A
Other languages
Japanese (ja)
Other versions
JP4569389B2 (en
JP2006339903A5 (en
Inventor
Masaaki Sasaki
雅昭 佐々木
Shinichi Matsui
紳一 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005160643A priority Critical patent/JP4569389B2/en
Publication of JP2006339903A publication Critical patent/JP2006339903A/en
Publication of JP2006339903A5 publication Critical patent/JP2006339903A5/ja
Application granted granted Critical
Publication of JP4569389B2 publication Critical patent/JP4569389B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To enable anybody to easily obtain a panning image whose background seems to be panned while a subject in motion is made stationary when the subject in motion is photographed. <P>SOLUTION: A control section 32 is equipped with: a means for acquiring a plurality of successive image data from a CCD 32 in specified timing; a means for specifying main subject parts from the respective image data; a means for detecting relative shift quantities of the specified subject parts between the respective image data and the shift direction; and a means for composing the respective image data according to the shift quantities and shift direction that main subject parts overlap in the same position. Consequently, when the subject in motion is photographed, anybody can easily obtain the panning image whose background seems to be panned while the subject is made stationary without moving the camera to accurately follow up the movement of the subject. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、例えばデジタルカメラ等の撮像装置に係り、特に移動体を被写体として流し撮りなどを行う場合に用いて好適な撮像装置と、この撮像装置に用いられる画像処理方法及びプログラムに関する。   The present invention relates to an image pickup apparatus such as a digital camera, and more particularly to an image pickup apparatus suitable for use when performing a panning shot using a moving body as a subject, and an image processing method and program used for the image pickup apparatus.

動きのある被写体を撮影してスピード感ある画像を得る場合に、シャッター速度を通常よりも遅く設定した状態で、撮影者が被写体の動きに合わせてカメラをパンニング(移動)することにより、被写体を静止させて背景を流すといった所謂「流し撮り」といったテクニックが用いられる。   When shooting a moving subject to obtain an image with a sense of speed, the photographer pans (moves) the camera according to the movement of the subject while the shutter speed is set slower than usual. A technique such as so-called “panning” is used in which the background is flushed.

一方、動きのある被写体を連続撮影して得られた複数枚の画像データを、背景部分を基準にして合成することにより、被写体の時間的な動きを表した画像を作成する技術が知られている(例えば、特許文献1参照)。
特開2001−274970号公報
On the other hand, a technique for creating an image representing temporal movement of a subject by synthesizing a plurality of pieces of image data obtained by continuously shooting a moving subject based on a background portion is known. (For example, refer to Patent Document 1).
JP 2001-274970 A

しかしながら、上述した流し撮りによる撮影は、動く被写体に対してカメラを的確に追従させなければならないため、慣れていないと非常に難しく、その上、シャッター速度を遅くしているために、メインとなる被写体までもぶれてしまうことが多い。この場合、シャッター速度を速めに設定すれば、メインとなる被写体のぶれを軽減することができるが、その一方で背景のぶれまでも少なくなるため、被写体のスピード感を強調した画像が得られなくなるといった問題がある。   However, the above-described shooting by panning requires the camera to follow the moving subject accurately, so it is very difficult if not used to it, and the shutter speed is slowed down. The subject is often blurred. In this case, if you set the shutter speed faster, you can reduce the blurring of the main subject, but on the other hand, there will be less blurring of the background, making it impossible to obtain an image that emphasizes the sense of speed of the subject. There is a problem.

また、前記特許文献1のように画像合成により被写体の動きを表した画像を得る方法が知られているが、背景部分を基準にして合成しているため、メインとなる被写体を静止させて背景を流すといった流し撮りのような画像を得ることはできない。   Also, a method for obtaining an image representing the movement of a subject by image composition as in Patent Document 1 is known. However, since the composition is based on the background portion, the main subject is stopped and the background is obtained. You can't get images like panning shots.

そこで、本発明の目的は、動きのある被写体を撮影した場合に、その被写体を静止させて背景を流したような流し撮り画像を誰でも簡単に得ることのできる撮像装置、画像処理方法及びプログラムを提供することにある。   Accordingly, an object of the present invention is to provide an imaging apparatus, an image processing method, and a program that anyone can easily obtain a panning image in which a subject is stopped and the background is flushed when a moving subject is photographed. Is to provide.

本発明の請求項1に係る撮像装置は、所定のタイミングで撮像素子から複数の連続した画像データを取得する撮影手段と、この撮影手段によって得られた各画像データからメインとなる被写体部分を特定する特定手段と、この特定手段によって特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出する検出手段と、この検出手段によって検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成する画像処理手段とを具備して構成される。   According to a first aspect of the present invention, an imaging device that acquires a plurality of continuous image data from an imaging device at a predetermined timing and specifies a main subject portion from each image data obtained by the imaging device. Based on the deviation amount and the deviation direction detected by the detection means, the detection means for detecting the relative deviation amount and deviation direction between the respective image data of the main subject part identified by the identification means, And image processing means for synthesizing the image data so that the main subject portion overlaps the same position.

このような構成によれば、連続撮影によって得られた複数の画像データからメインとなる被写体部分が特定され、そのメイン被写体部分を基準にして各画像データが合成される。これにより、動きのある被写体を撮影した場合に、その被写体の動きに合わせてカメラを的確に追従させなくとも、被写体を静止させて背景を流したような流し撮り画像を誰でも簡単に得ることができる。   According to such a configuration, a main subject portion is specified from a plurality of image data obtained by continuous shooting, and each image data is synthesized based on the main subject portion. As a result, when shooting a moving subject, anyone can easily get a panoramic image with the subject still and the background flowing without having the camera accurately follow the movement of the subject. Can do.

また、本発明の請求項2は、前記請求項1記載の撮像装置において、前記撮影手段は、撮影条件として露光時間を所定時間よりも短く設定して連続撮影を行い、前記画像処理手段は、前記撮影手段によって得られた各画像データを重ね合わせたときに、少なくとも前記メイン被写体部分の各画素の値を適正な値に補正することを特徴とする。   According to a second aspect of the present invention, in the imaging apparatus according to the first aspect, the photographing unit performs continuous photographing while setting an exposure time shorter than a predetermined time as a photographing condition, and the image processing unit includes: When the respective image data obtained by the photographing means are superimposed, at least the value of each pixel of the main subject portion is corrected to an appropriate value.

このような構成によれば、露光時間を短く設定して連続撮影することで、1枚1枚の画像データにおけるメイン被写体部分のぶれを少なくすることができる。この場合、露光時間を短く設定されていても、画像合成によりメイン被写体部分の明るさを十分確保できると共に、ノイズを除去してSN比を改善することができる。   According to such a configuration, blurring of the main subject portion in each piece of image data can be reduced by continuously shooting with a short exposure time. In this case, even if the exposure time is set to be short, the brightness of the main subject portion can be sufficiently secured by image synthesis, and noise can be removed to improve the SN ratio.

また、本発明の請求項3は、前記請求項1記載の撮像装置において、前記特定手段は、ファインダ内にメインとなる被写体を捕捉するための基準となる領域を設定し、前記撮影手段によって得られた各画像データと前記基準領域との位置関係からメイン被写体部分を特定することを特徴とする。   According to a third aspect of the present invention, in the imaging apparatus according to the first aspect, the specifying unit sets a reference region for capturing a main subject in the finder, and is obtained by the photographing unit. The main subject portion is specified from the positional relationship between each image data obtained and the reference region.

このような構成によれば、被写体の動きに合わせてカメラを的確に追従させなくとも、ファインダ内に設定された基準領域に最も近い被写体部分をメイン被写体として特定して、そのメイン被写体を流し撮りしたような画像を得ることができる。   According to such a configuration, even if the camera does not accurately follow the movement of the subject, the subject portion closest to the reference area set in the finder is identified as the main subject, and the main subject is panned. Images can be obtained.

また、本発明の請求項4は、前記請求項1記載の撮像装置において、被写体の動きに追従させて撮影を行う第1のモードまたはカメラを固定して被写体を撮影する第2のモードを設定するモード設定手段と、前記前記撮影手段によって得られた各画像データに基づいて移動速度の異なる複数の被写体部分を識別する識別手段とを備え、前記特定手段は、前記モード設定手段によって前記第1のモードが設定されている場合に前記識別手段によって識別された各被写体部分の中で最も移動速度の遅い部分をメイン被写体部分として特定し、前記モード設定手段によって前記第2のモードが設定されている場合に前記識別手段によって識別された各被写体部分の中で最も移動速度の速い部分をメイン被写体部分として特定することを特徴とする。   According to a fourth aspect of the present invention, in the image pickup apparatus according to the first aspect, a first mode for photographing by following the movement of the subject or a second mode for photographing the subject by fixing the camera is set. Mode setting means, and identification means for identifying a plurality of object parts having different moving speeds based on the respective image data obtained by the photographing means, and the specifying means is the first setting means by the mode setting means. When the mode is set, a portion having the slowest moving speed is identified as the main subject portion among the subject portions identified by the identifying means, and the second mode is set by the mode setting means. In this case, a portion having the fastest moving speed among the subject portions identified by the identifying means is specified as the main subject portion.

このような構成によれば、被写体の動きに合わせて撮影した場合、あるいは、カメラを固定して撮影した場合でも、それぞれにメインとなる被写体を特定して、そのメイン被写体を流し撮りしたような画像を得ることができる。   According to such a configuration, even when shooting is performed in accordance with the movement of the subject, or when shooting is performed with the camera fixed, the main subject is specified for each, and the main subject is panned. An image can be obtained.

また、本発明の請求項5は、前記請求項1記載の撮像装置において、前記撮影手段によって複数の画像データを取得する時間間隔を任意に設定する間隔設定手段を具備したことを特徴とする。   According to a fifth aspect of the present invention, there is provided the imaging apparatus according to the first aspect, further comprising interval setting means for arbitrarily setting a time interval for acquiring a plurality of image data by the photographing means.

このような構成によれば、連続撮影の時間間隔を変化させることで、メイン被写体に対する背景部分のぶれの量や画像の滑らかさを調整することができる。   According to such a configuration, the amount of blurring of the background portion relative to the main subject and the smoothness of the image can be adjusted by changing the time interval of continuous shooting.

また、本発明の請求項6は、前記請求項1記載の撮像装置において、前記画像処理手段による合成に用いる画像データの枚数を任意に設定する枚数設定手段を具備したことを特徴とする。   According to a sixth aspect of the present invention, the image pickup apparatus according to the first aspect further comprises a number setting means for arbitrarily setting the number of image data used for the composition by the image processing means.

このような構成によれば、連続撮影の枚数を変化させることで、メイン被写体に対する背景部分のぶれの量や画像の滑らかさを調整することができる。   According to such a configuration, the amount of blurring of the background portion relative to the main subject and the smoothness of the image can be adjusted by changing the number of continuous shots.

本発明の請求項7に係る画像処理方法は、所定のタイミングで撮像素子から複数の連続した画像データを取得するステップと、前記各画像データからメインとなる被写体部分を特定するステップと、前記特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出するステップと、前記検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成するステップとを含むことを特徴とする。   An image processing method according to claim 7 of the present invention includes a step of acquiring a plurality of continuous image data from an image sensor at a predetermined timing, a step of specifying a main subject portion from each of the image data, and the specification Detecting a relative shift amount and shift direction between the respective image data of the main subject portion, and based on the detected shift amount and shift direction, the main subject portion overlaps at the same position. Synthesizing each image data.

このような画像処理方法によれば、前記各ステップに従った処理を実行することにより、前記請求項1記載の発明と同様の作用効果が奏せられる。   According to such an image processing method, the same effect as that of the first aspect of the present invention can be achieved by executing the processing according to each step.

本発明の請求項8に係るプログラムは、撮像装置に搭載されたコンピュータによって実行されるプログラムであって、前記コンピュータに、所定のタイミングで撮像素子から複数の連続した画像データを取得する機能と、前記各画像データからメインとなる被写体部分を特定する機能と、前記特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出する機能と、前記検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成する機能とを実現させることを特徴とする。   A program according to claim 8 of the present invention is a program executed by a computer installed in an imaging apparatus, and has a function of acquiring a plurality of continuous image data from an imaging element at a predetermined timing in the computer, A function of specifying a main subject portion from each image data, a function of detecting a relative shift amount and a shift direction between the image data of the specified main subject portion, the detected shift amount, and And a function of combining the image data so that the main subject portion overlaps the same position based on a shift direction.

したがって、コンピュータが前記各機能を実現するためのプログラムを実行することにより、前記請求項1記載の発明と同様の作用効果が奏せられる。   Therefore, when the computer executes the program for realizing each function, the same effects as those of the first aspect of the invention can be achieved.

以上のように本発明によれば、動きのある被写体を撮影した場合に、その被写体の動きに合わせてカメラを的確に追従させなくとも、被写体を連続撮影するだけの操作で、被写体を静止させて背景を流したような流し撮り画像を誰でも簡単に得ることができる。   As described above, according to the present invention, when a moving subject is photographed, the subject can be stopped by simply photographing the subject continuously without having to follow the camera accurately in accordance with the movement of the subject. Anyone can easily get a panoramic image with a background.

以下、図面を参照して本発明の実施形態を説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は本発明の一実施形態に係る撮像装置としてデジタルカメラを例にした場合の外観構成を示す図であり、図1(a)は主に前面の構成、同図(b)は主に背面の構成を示す斜視図である。   FIG. 1 is a diagram showing an external configuration when a digital camera is taken as an example of an imaging apparatus according to an embodiment of the present invention. FIG. 1 (a) is mainly a front configuration, and FIG. It is a perspective view which shows the structure of a back surface.

このデジタルカメラ1は、略矩形の薄板状ボディ2の前面に、撮影レンズ3、セルフタイマランプ4、光学ファインダ窓5、ストロボ発光部6、マイクロホン部7などを有し、上面の(ユーザにとって)右端側には電源キー8及びシャッタキー9などが設けられている。   The digital camera 1 has a photographing lens 3, a self-timer lamp 4, an optical finder window 5, a strobe light emitting unit 6, a microphone unit 7 and the like on the front surface of a substantially rectangular thin plate-like body 2 on the upper surface (for the user). On the right end side, a power key 8 and a shutter key 9 are provided.

電源キー8は、電源のオン/オフ毎に操作するキーであり、シャッタキー9は、撮影時に撮影タイミングを指示するキーである。   The power key 8 is a key operated every time the power is turned on / off, and the shutter key 9 is a key for instructing a photographing timing at the time of photographing.

また、デジタルカメラ1の背面には、撮影モード(R)キー10、再生モード(P)キー11、光学ファインダ12、スピーカ部13、マクロキー14、ストロボキー15、メニュー(MENU)キー16、リングキー17、セット(SET)キー18、表示部19などが設けられている。   Also, on the back of the digital camera 1, a shooting mode (R) key 10, a playback mode (P) key 11, an optical viewfinder 12, a speaker unit 13, a macro key 14, a strobe key 15, a menu (MENU) key 16, a ring A key 17, a set (SET) key 18, a display unit 19, and the like are provided.

撮影モードキー10は、電源オフの状態から操作することで自動的に電源オンとして静止画の撮影モードに移行する一方で、電源オンの状態から繰返し操作することで、静止画モード、動画モードを循環的に設定する。静止画モードは、静止画を撮影するためのモードである。また、動画モードは、動画を撮影するためのモードである。   The shooting mode key 10 is operated automatically from the power-off state to automatically turn on the power and shift to the still image shooting mode. On the other hand, by repeatedly operating from the power-on state, the still image mode and the moving image mode are switched. Set cyclically. The still image mode is a mode for photographing a still image. The moving image mode is a mode for shooting a moving image.

前記シャッタキー9は、これらの撮影モードに共通に使用される。すなわち、静止画モードでは、シャッタキー9が押下されたときのタイミングで静止画の撮影が行われる。動画モードでは、シャッタキー9が押下されたときのタイミングで動画の撮影が開始され、シャッタキー9が再度押下されたときにその動画の撮影が終了する。   The shutter key 9 is commonly used for these photographing modes. That is, in the still image mode, a still image is taken at the timing when the shutter key 9 is pressed. In the moving image mode, shooting of a moving image is started at a timing when the shutter key 9 is pressed, and shooting of the moving image is ended when the shutter key 9 is pressed again.

再生モードキー11は、電源オフの状態から操作することで自動的に電源オンとして再生モードに移行する。   When the playback mode key 11 is operated from the power-off state, the playback mode key 11 is automatically turned on to enter the playback mode.

マクロキー14は、静止画の撮影モードで通常撮影とマクロ撮影とを切換える際に操作する。ストロボキー15は、ストロボ発光部6の発光モードを切換える際に操作する。メニューキー16は、流し撮りモードを含む各種メニュー項目等を選択する際に操作する。リングキー17は、上下左右各方向への項目選択用のキーが一体に形成されたものであり、このリングキー17の中央に位置するセットキー18は、その時点で選択されている項目を設定する際に操作する。   The macro key 14 is operated when switching between normal shooting and macro shooting in the still image shooting mode. The strobe key 15 is operated when switching the light emission mode of the strobe light emitting unit 6. The menu key 16 is operated when selecting various menu items including the panning mode. The ring key 17 is integrally formed with item selection keys in the up, down, left, and right directions, and the set key 18 located in the center of the ring key 17 sets the item selected at that time. To operate.

表示部19は、バックライト付きのカラー液晶パネルで構成されるもので、撮影モード時には電子ファインダとしてスルー画像のモニタ表示を行う一方で、再生モード時には選択した画像等を再生表示する。   The display unit 19 is composed of a color liquid crystal panel with a backlight, and displays a through image on the monitor as an electronic viewfinder in the photographing mode, and reproduces and displays the selected image and the like in the reproduction mode.

また、このデジタルカメラ1には、光学ズーム機能が備えられており、ズームキー20a,20bの操作により焦点距離を物理的に変化させて画像の拡大率を変更することができる。ズームキー20a,20bのうち、一方のズームキー20aはテレ端用であり、望遠側へズーム倍率を変更する場合に用いられる。他方のズームキー20bはワイド端用であり、広角側へズーム倍率を変更する場合に用いられる。   Further, the digital camera 1 is provided with an optical zoom function, and the enlargement ratio of the image can be changed by physically changing the focal length by operating the zoom keys 20a and 20b. Of the zoom keys 20a and 20b, one zoom key 20a is for the telephoto end and is used when the zoom magnification is changed to the telephoto side. The other zoom key 20b is for the wide end and is used when the zoom magnification is changed to the wide angle side.

なお、図示はしないがデジタルカメラ1の底面には、記録媒体として用いられるメモリカードを着脱するためのメモリカードスロットや、外部のパーソナルコンピュータ等と接続するためのシリアルインタフェースコネクタとして、例えばUSB(Universal Serial Bus)コネクタ等が設けられている。   Although not shown, the digital camera 1 has a memory card slot for attaching / detaching a memory card used as a recording medium, a serial interface connector for connecting to an external personal computer, etc., for example, USB (Universal). Serial Bus) connector and the like are provided.

図2はデジタルカメラ1の電子回路構成を示すブロック図である。   FIG. 2 is a block diagram showing an electronic circuit configuration of the digital camera 1.

このデジタルカメラ1には、前記撮影レンズ3を構成する図示せぬフォーカスレンズおよびズームレンズを含むレンズ光学系22がモータ21の駆動により光軸方向に所定の範囲内で移動可能に設けられている。このレンズ光学系22の光軸後方に撮像素子であるCCD(charge coupled device)23が配設されている。このCCD23は、撮影レンズ3を通して入力される被写体の各部位からの光を受光し、その光の強度に応じた電気信号を出力する。   In the digital camera 1, a lens optical system 22 including a focus lens and a zoom lens (not shown) constituting the photographing lens 3 is provided so as to be movable within a predetermined range in the optical axis direction by driving a motor 21. . A CCD (charge coupled device) 23 that is an image sensor is disposed behind the optical axis of the lens optical system 22. The CCD 23 receives light from each part of the subject input through the photographing lens 3 and outputs an electrical signal corresponding to the intensity of the light.

基本モードである記録モード時において、CCD23がタイミング発生器(TG)24、ドライバ25によって走査駆動され、一定周期毎に結像した光像に対応する光電変換出力を1画面分出力する。このCCD23の光電変換出力は、アナログ値の信号の状態でRGBの各原色成分毎に適宜ゲイン調整された後に、サンプルホールド回路26でサンプルホールドされ、A/D変換器27でデジタルデータに変換される。   In the recording mode, which is the basic mode, the CCD 23 is scanned and driven by a timing generator (TG) 24 and a driver 25, and outputs a photoelectric conversion output corresponding to a light image formed at regular intervals for one screen. The photoelectric conversion output of the CCD 23 is appropriately gain-adjusted for each primary color component of RGB in the state of an analog value signal, sampled and held by the sample hold circuit 26, and converted into digital data by the A / D converter 27. The

そして、画像処理回路28において、画素補間処理及びγ補正処理を含む画像処理が行われて、デジタル値の輝度信号Y及び色差信号U,V(Cb,Cr)が生成され、DMA(Direct Memory Access)コントローラ29に出力される。   Then, the image processing circuit 28 performs image processing including pixel interpolation processing and γ correction processing to generate a digital luminance signal Y and color difference signals U and V (Cb, Cr), and DMA (Direct Memory Access). ) Output to the controller 29.

DMAコントローラ29は、画像処理回路28の出力する輝度信号Y及び色差信号U,Vを、同じく画像処理回路28からの複合同期信号、メモリ書込みイネーブル信号、及びクロック信号を用いて一度DMAコントローラ29内部のバッファに書き込み、DRAMインタフェース(I/F)30を介してバッファメモリとして使用されるDRAM31にDMA転送を行う。   The DMA controller 29 once uses the luminance signal Y and the color difference signals U and V output from the image processing circuit 28 by using the composite synchronization signal, the memory write enable signal, and the clock signal from the image processing circuit 28 once. And the DMA transfer to the DRAM 31 used as the buffer memory via the DRAM interface (I / F) 30.

制御部32は、デジタルカメラ1全体の制御を行うものであり、CPUと、このCPUで実行される動作プログラムを記憶したROM、そして、ワークメモリ32aとして使用されるRAMなどを含むマイクロコンピュータにより構成される。   The control unit 32 controls the entire digital camera 1 and is constituted by a microcomputer including a CPU, a ROM storing an operation program executed by the CPU, and a RAM used as the work memory 32a. Is done.

輝度及び色差信号のDRAM31へのDMA転送終了後、この制御部32は、この輝度及び色差信号をDRAMインタフェース30を介してDRAM31より読み出し、VRAMコントローラ33を介してVRAM34に書き込む。   After the DMA transfer of the luminance and color difference signals to the DRAM 31, the control unit 32 reads the luminance and color difference signals from the DRAM 31 via the DRAM interface 30 and writes them to the VRAM 34 via the VRAM controller 33.

デジタルビデオエンコーダ35は、前記輝度及び色差信号をVRAMコントローラ33を介してVRAM34より定期的に読み出し、これらのデータを元にビデオ信号を発生して表示部19に出力する。   The digital video encoder 35 periodically reads the luminance and color difference signals from the VRAM 34 via the VRAM controller 33, generates a video signal based on these data, and outputs the video signal to the display unit 19.

この表示部19は、上述した如く撮影時にはモニタ表示部(電子ファインダ)として機能するもので、デジタルビデオエンコーダ35からのビデオ信号に基づいた表示を行うことで、その時点でVRAMコントローラ33から取込んでいる画像情報に基づく画像をリアルタイムに表示することとなる。   As described above, the display unit 19 functions as a monitor display unit (electronic finder) at the time of shooting. By performing display based on the video signal from the digital video encoder 35, the display unit 19 captures from the VRAM controller 33 at that time. An image based on the image information is displayed in real time.

このように、表示部19にその時点での画像がモニタ画像としてリアルタイムに表示されている状態で、例えば静止画撮影を行いたいタイミングでシャッタキー9を押下操作すると、トリガ信号が発生する。   As described above, when the image at that time is displayed in real time as the monitor image on the display unit 19, for example, when the shutter key 9 is pressed at a timing at which still image shooting is desired, a trigger signal is generated.

制御部32は、このトリガ信号に応じて、その時点でCCD23から取込んでいる1画面分の輝度及び色差信号のDRAM31へのDMA転送の終了後、直ちにCCD23からのDRAM31への経路を停止し、記録保存の状態に遷移する。   In response to the trigger signal, the control unit 32 immediately stops the path from the CCD 23 to the DRAM 31 immediately after the DMA transfer of the luminance and color difference signals for one screen captured from the CCD 23 to the DRAM 31 is completed. , Transition to the record storage state.

この記録保存の状態では、制御部32がDRAM31に書き込まれている1フレーム分の輝度及び色差信号をDRAMインタフェース30を介してY,Cb,Crの各コンポーネント毎に縦8画素×横8画素の基本ブロックと呼称される単位で読み出して、JPEG(Joint Photograph coding Experts Group)回路37に書き込み、このJPEG回路37でADCT(Adaptive Discrete Cosine Transform:適応離散コサイン変換)、エントロピ符号化方式であるハフマン符号化等の処理によりデータ圧縮する。   In this recording and storage state, the control unit 32 outputs the luminance and color difference signals for one frame written in the DRAM 31 to 8 pixels × 8 pixels for each of Y, Cb, and Cr components via the DRAM interface 30. The data is read out in units called basic blocks and written in a JPEG (Joint Photographic Coding Experts Group) circuit 37. The JPEG circuit 37 uses an ADCT (Adaptive Discrete Cosine Transform) and an entropy coding system. Data compression is performed by processing such as conversion.

そして得た符号データを1画像のデータファイルとして該JPEG回路37から読み出して記録用のメモリ38に書き込む。このメモリ38としては、予め本体に内蔵されたフラッシュメモリ等の内部メモリの他に、記録媒体として着脱自在に装着されるメモリカードなどを含む。1フレーム分の輝度及び色差信号の圧縮処理及びメモリ38への全圧縮データの書込み終了に伴って、制御部32はCCD23からDRAM31への経路を再び起動する。   The obtained code data is read out from the JPEG circuit 37 as a data file of one image and written in the recording memory 38. The memory 38 includes a memory card that is detachably mounted as a recording medium in addition to an internal memory such as a flash memory built in the main body in advance. With the compression processing of the luminance and color difference signals for one frame and the completion of writing all the compressed data to the memory 38, the control unit 32 activates the path from the CCD 23 to the DRAM 31 again.

制御部32には、さらに音声処理部39、USBインタフェース(I/F)40、ストロボ駆動部41が接続される。   The control unit 32 is further connected with an audio processing unit 39, a USB interface (I / F) 40, and a strobe driving unit 41.

音声処理部39は、PCM音源等の音源回路を備え、音声の録音時には前記マイクロホン部(MIC)7より入力された音声信号をデジタル化し、所定のデータファイル形式、例えばMP3(MPEG−1 audio layer 3)規格に従ってデータ圧縮して音声データファイルを作成してメモリ38へ送出する一方、音声の再生時にはメモリ38から読み出された音声データファイルの圧縮を解いてアナログ化し、上述したデジタルカメラ1の背面側に設けられるスピーカ部(SP)13を通じて出力する。   The sound processing unit 39 includes a sound source circuit such as a PCM sound source, digitizes a sound signal input from the microphone unit (MIC) 7 during sound recording, and performs a predetermined data file format such as MP3 (MPEG-1 audio layer). 3) Data compression is performed in accordance with the standard to create an audio data file and send it to the memory 38. On the other hand, when reproducing the audio, the audio data file read from the memory 38 is uncompressed and converted into an analog signal. The sound is output through a speaker unit (SP) 13 provided on the back side.

USBインタフェース40は、USBコネクタを介して有線接続されるパーソナルコンピュータ等の他の情報端末装置との間で画像データ、その他の送受を行う場合の通信制御を行う。ストロボ駆動部41は、撮影時に図示せぬストロボ用の大容量コンデンサを充電した上で、制御部32からの制御に基づいてストロボ発光部6を閃光駆動する。   The USB interface 40 performs communication control when image data and other information are transmitted / received to / from another information terminal device such as a personal computer connected by wire via a USB connector. The strobe drive unit 41 charges a strobe capacitor (not shown) at the time of shooting, and then drives the strobe light emitting unit 6 to flash based on control from the control unit 32.

なお、前記キー入力部36は、上述したシャッタキー9の他に、電源キー8、撮影モードキー10、再生モードキー11、マクロキー14、ストロボキー15、メニューキー16、リングキー17、セットキー18、ズームキー20a,20bなどから構成され、それらのキー操作に伴う信号は直接制御部32へ送出される。   In addition to the shutter key 9 described above, the key input unit 36 includes a power key 8, a shooting mode key 10, a playback mode key 11, a macro key 14, a strobe key 15, a menu key 16, a ring key 17, and a set key. 18, zoom keys 20 a and 20 b and the like, and signals accompanying these key operations are sent directly to the control unit 32.

また、静止画像ではなく動画像の撮影時においては、シャッタキー9が押下操作されたときに、上述したJPEG回路37によりmotion−JPEG(Joint Photographic Experts Group)などの手法により撮影動画をデータ圧縮してメモリ38へ記録する。再度シャッタキー9が操作されると、動画データの記録を終了する。   Further, when shooting a moving image instead of a still image, when the shutter key 9 is pressed, the above-described JPEG circuit 37 compresses the captured moving image using a technique such as motion-JPEG (Joint Photographic Experts Group). To the memory 38. When the shutter key 9 is operated again, the recording of the moving image data is finished.

一方、基本モードである再生モード時には、制御部32がメモリ38に記録されている画像データを選択的に読み出し、JPEG回路37で記録モード時にデータ圧縮した手順と全く逆の手順で、圧縮されている画像データを伸長する。そして、この伸長した画像データをDRAMインタフェース30を介してDRAM31に保持させた上で、このDRAM31の保持内容をVRAMコントローラ33を介してVRAM34に記憶させ、このVRAM34より定期的に画像データを読み出してビデオ信号を発生し、表示部19で再生出力させる。   On the other hand, in the playback mode which is the basic mode, the control unit 32 selectively reads out the image data recorded in the memory 38 and is compressed by a procedure completely opposite to the procedure of data compression in the recording mode by the JPEG circuit 37. Decompress image data. The decompressed image data is held in the DRAM 31 via the DRAM interface 30, and then the content held in the DRAM 31 is stored in the VRAM 34 via the VRAM controller 33. The image data is periodically read out from the VRAM 34. A video signal is generated and reproduced and output by the display unit 19.

選択した画像データが静止画像ではなく動画像であった場合には、その動画データを構成する複数フレームの静止画データを時系列の順で順次再生して表示し、すべての静止画データの再生を終了した時点で、例えば、次に再生の指示がなされるまで先頭に位置する静止画データを表示するなどを行う。   If the selected image data is not a still image but a moving image, the multiple frames of still image data that make up the moving image data are played back and displayed sequentially in chronological order, and all the still image data is played back. For example, the top still image data is displayed until the next playback instruction is given.

ここで、デジタルカメラ1の動作を説明する前に、本発明の画像合成方法について簡単に説明しておく。   Here, before describing the operation of the digital camera 1, the image composition method of the present invention will be briefly described.

図3は動く被写体を連続撮影した場合の画像データの変移を模式的に示した図である。図中の斜線で示す部分が動く被写体であり、ここでは連続撮影により4枚の画像P1〜P4が得られたものとする。   FIG. 3 is a diagram schematically showing the transition of image data when a moving subject is continuously photographed. The hatched portion in the figure is a moving subject. Here, it is assumed that four images P1 to P4 are obtained by continuous shooting.

メインとなる被写体が動いているため、フレーム内で同じ位置で撮影し続けることは困難である。このため、連続撮影によって得られた画像P1〜P4を単純に合成すると、図4(a)のように被写体がぶれた画像になる。   Since the main subject is moving, it is difficult to continue shooting at the same position in the frame. For this reason, when the images P1 to P4 obtained by continuous shooting are simply combined, an image in which the subject is blurred as shown in FIG.

そこで、画像間でのメイン被写体のずれを検出することにより、メイン被写体が同じ位置に重なるように画像P1〜P4を合成する。このような画像合成により、図4(b)のように被写体を静止させた画像が得られる。また、各画像内の被写体以外の部分つまり背景部分は変化しているので、被写体を基準にして合成することで、背景部分を流したような画像が得られる。   Therefore, by detecting a shift of the main subject between the images, the images P1 to P4 are synthesized so that the main subject overlaps the same position. By such image composition, an image in which the subject is stationary as shown in FIG. 4B is obtained. In addition, since the portion other than the subject in each image, that is, the background portion is changed, an image in which the background portion is flowed can be obtained by compositing with the subject as a reference.

次に、このような流し撮り画像を作成するための具体的な処理動作について説明する。なお、以下の各フローチャートで示される処理は、マイクロコンピュータである制御部32がROMやRAM等の記録媒体に記録された所定のプログラムを読み込むことにより実行される。   Next, a specific processing operation for creating such a panning image will be described. Note that the processes shown in the following flowcharts are executed when the control unit 32, which is a microcomputer, reads a predetermined program recorded in a recording medium such as a ROM or a RAM.

図5はデジタルカメラ1による撮影処理を示すフローチャートである。   FIG. 5 is a flowchart showing a photographing process by the digital camera 1.

今、例えば自動車などの動く被写体をメインにして静止画の撮影を行う場合を想定する。図1の撮影モードキー10の操作により撮影モードを設定すると、まず、現在撮影対象となっている被写体のプレビュー画像(スルー画像とも呼ぶ)が表示部19に表示される(ステップA11)。   Assume that a still image is taken mainly with a moving subject such as an automobile. When the shooting mode is set by operating the shooting mode key 10 of FIG. 1, first, a preview image (also referred to as a through image) of the subject currently being shot is displayed on the display unit 19 (step A11).

制御部32は、シャッタキー9が押されるまでの間(ステップA12のNo)、CCD23から順次得られる画像データを読み込み(ステップA13)、この画像データをプレビュー画像として表示部19に表示する処理を行っている(ステップA14)。   The control unit 32 reads the image data sequentially obtained from the CCD 23 until the shutter key 9 is pressed (No in Step A12) (Step A13), and displays the image data on the display unit 19 as a preview image. (Step A14).

ここで、シャッタキー9が押されると(ステップA12のYes)、制御部32は、所定枚数分の連続撮影を実行して、その連続撮影によって得られた各画像データを合成する(ステップA15)。なお、このときの連続撮影と画像合成の処理については、後に図6および図7のフローチャートを参照して詳しく説明する。   Here, when the shutter key 9 is pressed (Yes in Step A12), the control unit 32 executes a predetermined number of continuous shootings and synthesizes each image data obtained by the continuous shooting (Step A15). . The continuous shooting and image composition processing at this time will be described in detail later with reference to the flowcharts of FIGS.

このようして合成画像が得られると、その合成画像は簡易流し撮り画像として表示部19に確認表示された後(ステップA16)、所定の方式で圧縮処理されてメモリ38に記録保存される(ステップA17,A18)。   When a composite image is obtained in this manner, the composite image is confirmed and displayed on the display unit 19 as a simple panning image (step A16), and then compressed and recorded in the memory 38 by a predetermined method (step S16). Steps A17 and A18).

次に、前記ステップA15で実行される連続撮影と画像合成の処理について詳しく説明する。   Next, the continuous shooting and image composition processing executed in step A15 will be described in detail.

図6および図7はデジタルカメラ1による連続撮影と画像合成の処理を示すフローチャートである。   6 and 7 are flowcharts showing the continuous shooting and image composition processing by the digital camera 1.

まず、流し撮りモードが設定されているか否かが判断される(ステップB11)。この流し撮りモードは、画像合成により簡易に流し撮り画像を作成するためのモードであり、例えばメニューキー16の操作により任意に設定される。   First, it is determined whether or not the panning mode is set (step B11). This panning mode is a mode for easily creating a panning image by image synthesis, and is arbitrarily set by operating the menu key 16, for example.

また、この流し撮りモードを設定したときに、図8に示すような流し撮りモード選択画面51が表示される。この流し撮りモード選択画面51には、流し撮りモードとして、「カメラ追従モード」、「カメラ固定モード」、「自由モード」のいずれかを選択するための項目52〜54が設けられている。   Further, when this panning mode is set, a panning mode selection screen 51 as shown in FIG. 8 is displayed. This panning mode selection screen 51 is provided with items 52 to 54 for selecting any one of “camera follow-up mode”, “camera fixed mode”, and “free mode” as the panning mode.

「カメラ追従モード」とは、図9に示すように、撮影者がメインとなる被写体の動きに合わせてカメラをパンニングして撮影する場合を想定したモードである。「カメラ固定モード」とは、図10に示すように、カメラの撮影範囲を固定してメインとなる被写体を撮影する場合を想定したモードである。また、「自由モード」とは、カメラを固定せずに通常のカメラ操作でメインとなる被写体を撮影する場合を想定したモードである。   The “camera follow-up mode” is a mode that assumes a case where the photographer pans and shoots the camera in accordance with the movement of the main subject as shown in FIG. As shown in FIG. 10, the “camera fixed mode” is a mode assuming a case where a main subject is shot with a shooting range of the camera fixed. The “free mode” is a mode that assumes a case where a main subject is photographed by normal camera operation without fixing the camera.

このような流し撮りモードが設定されている場合において(ステップB11のYes)、まず、撮影条件として連続撮影時の露光時間が所定の時間(被写体の明るさに応じて決定される時間)よりも短く設定される(ステップB12)。この露光時間に従って所定時間毎に連続撮影が行われ、CCD23から所定枚数分の画像データが取得されて制御部32内のワークメモリ32aに一時的に記憶される(ステップB13)。   When such a panning mode is set (Yes in step B11), first, as an imaging condition, the exposure time during continuous shooting is longer than a predetermined time (time determined according to the brightness of the subject). Short (step B12). Continuous shooting is performed at predetermined intervals according to the exposure time, and a predetermined number of image data is acquired from the CCD 23 and temporarily stored in the work memory 32a in the control unit 32 (step B13).

なお、このときの連続撮影の時間間隔や撮影枚数は、例えばメニューキー16の操作により表示される図示せぬ連続撮影設定画面を通じて撮影者が自由に設定することができる。   Note that the continuous shooting time interval and the number of shots can be freely set by the photographer through a continuous shooting setting screen (not shown) displayed by operating the menu key 16, for example.

ここで、制御部32は、前記ワークメモリ32aに記憶された複数の画像データを比較し、画素値およびその配置パターンが所定面積以上に亘って連続的に類似している領域部分を抽出する(ステップB14)。そして、これらの領域部分の画像内の各画素の移動ベクトル(速度および方向)を算出し(ステップB15)、画像上で移動ベクトル(速度および方向)の異なる領域部分を実際に移動速度の異なる別々の被写体部分として識別する(ステップB16)。   Here, the control unit 32 compares a plurality of image data stored in the work memory 32a, and extracts a region portion in which the pixel value and the arrangement pattern thereof are continuously similar over a predetermined area ( Step B14). Then, the movement vectors (velocity and direction) of each pixel in the image of these area portions are calculated (step B15), and the area portions having different movement vectors (velocity and direction) on the image are actually separated with different movement speeds. (Step B16).

続いて、これらの被写体部分の中でメインとなる被写体を特定する。メインとなる被写体とは、撮影者が着目している被写体のことであり、その被写体の動きはカメラの撮影状態によって異なる。つまり、カメラを固定して撮影している場合には、メイン被写体は画像上では最も速く移動しているのに対し、カメラをパンニングしながら撮影している場合には画像上では最も遅く移動していることになる。   Subsequently, a main subject among these subject portions is specified. The main subject is a subject that the photographer is paying attention to, and the movement of the subject varies depending on the shooting state of the camera. In other words, when shooting with the camera fixed, the main subject moves the fastest on the image, whereas when shooting while panning the camera, the main subject moves the slowest on the image. Will be.

そこで、制御部32は、現在設定されている流し撮りモードの種別を判断する(ステップB17)。その結果、「カメラ追従モード」が設定されていれば、最も移動速度の遅い被写体部分の画像をメイン被写体として決定する(ステップB18)。一方、「カメラ固定モード」が設定されていれば、最も移動速度の速い被写体部分の画像をメイン被写体として決定する(ステップB19)。   Therefore, the control unit 32 determines the type of the panning mode that is currently set (step B17). As a result, if the “camera following mode” is set, the image of the subject portion with the slowest moving speed is determined as the main subject (step B18). On the other hand, if the “camera fixed mode” is set, the image of the subject portion with the fastest moving speed is determined as the main subject (step B19).

また、「自由モード」が設定されていれば、制御部32は、ファインダ内のターゲット領域に最も近い被写体部分の画像をメイン被写体として決定する(ステップB20)。前記ターゲット領域は、予めメイン被写体を捕捉するための基準として設定されており、例えばファインダ内の画面の中心である。   If the “free mode” is set, the control unit 32 determines the image of the subject portion closest to the target area in the finder as the main subject (step B20). The target area is set in advance as a reference for capturing the main subject, and is, for example, the center of the screen in the viewfinder.

このようにしてメイン被写体部分が特定されると、制御部32は、各画像データのメイン被写体部分の移動ベクトルに基づいて、各画像間におけるメイン被写体部分の相対的なずれ量およびずれ方向を検出する(ステップB21)。   When the main subject portion is specified in this way, the control unit 32 detects the relative shift amount and shift direction of the main subject portion between the images based on the movement vector of the main subject portion of each image data. (Step B21).

そして、制御部32は、前記検出されたメイン被写体部分の相対的なずれ量およびずれ方向に基づいて、メイン被写体部分が同じ位置になるように各画像データを重ね合わせる(ステップB22)。その際、メイン被写体部分に相当する各画素については、これらの値の中でかけ離れているものを除いて平均化したり、あるいは、各画素値を多数決処理するなどのノイズ除去処理を行うと共に、各画素の値に所定の係数を乗じるなどして明るさを補正する(ステップB23)。また、メイン被写体部分以外の部分つまり背景部分に相当する各画素の値については、各画素の値を加算すると共に必要に応じて明るさを補正する(ステップB24)。   Based on the detected relative shift amount and shift direction of the main subject portion, the control unit 32 superimposes the image data so that the main subject portion is at the same position (step B22). At that time, with respect to each pixel corresponding to the main subject portion, each pixel value is averaged except for those that are far apart, or noise removal processing such as majority processing of each pixel value is performed, and each pixel Brightness is corrected by multiplying the pixel value by a predetermined coefficient (step B23). For the values of the pixels corresponding to the portion other than the main subject portion, that is, the background portion, the value of each pixel is added and the brightness is corrected as necessary (step B24).

このようして各画素の値を補正して1枚の合成画像を生成する(ステップB25)。図11に合成画像の一例を示す。図中の61が動く被写体であり、撮影者がメイン被写体として撮影した部分である。62がメイン被写体以外の部分つまり背景部分である。   In this way, one composite image is generated by correcting the value of each pixel (step B25). FIG. 11 shows an example of a composite image. Reference numeral 61 in the figure denotes a moving subject, which is a portion taken by the photographer as a main subject. Reference numeral 62 denotes a portion other than the main subject, that is, a background portion.

このように、動きのある被写体を撮影する場合に、その被写体の動きに合わせてカメラを的確に追従させて撮影しなくとも、被写体を連続撮影するだけの操作で、被写体部分を基準にした画像合成により、メイン被写体部分を静止させ、それ以外の背景部分を流したような流し撮り画像を簡単に得ることができる。   In this way, when shooting a moving subject, an image based on the subject portion can be obtained simply by continuously shooting the subject without having to follow the camera accurately in accordance with the movement of the subject. By synthesizing, it is possible to easily obtain a panning image in which the main subject portion is stationary and the other background portions are flowed.

この場合、通常の流し撮りでは、シャッター速度を遅くして撮影しなければならないため、メイン被写体にぶれが生じ易いが、本発明では、1枚1枚の画像データの撮影における露光時間を短く設定してあるため、メイン被写体のぶれを少なくできる。   In this case, in normal panning, it is necessary to shoot with a slow shutter speed, so the main subject is likely to be shaken. However, in the present invention, the exposure time for shooting each piece of image data is set short. Therefore, it is possible to reduce the shake of the main subject.

また、通常は露光時間を短くすると撮影画像が暗くなってしまうが、画像合成によって各画像データのメイン被写体部分を重ね合わせることで、十分な明るさを確保できると共にノイズを除去してSN比を改善できる。このような効果は、メイン被写体部分を基準とした画像合成によって得られるものであり、背景画像を基準とした画像合成では得ることはできない。   In general, when the exposure time is shortened, the captured image becomes dark. However, by superimposing the main subject portions of the respective image data by image synthesis, sufficient brightness can be secured and noise can be removed to reduce the SN ratio. Can improve. Such an effect is obtained by image composition based on the main subject portion, and cannot be obtained by image composition based on the background image.

また、露光時間を短くしたことで、メイン被写体部分以外の部分つまり背景部分がぶれずに撮影されたとしても、各画像の背景部分の位置をずらして重ね合わせることで、図11に示したような流れ効果を出すことができる。   Further, by shortening the exposure time, even if a portion other than the main subject portion, that is, a background portion is photographed without blurring, the positions of the background portions of each image are shifted and superimposed, as shown in FIG. Can produce a great flow effect.

また、図6のステップB13における連続撮影の時間間隔や撮影枚数を変化させることで、メイン被写体部分に対する背景部分のぶれの量や画像の滑らかさを調整することができる。   In addition, by changing the continuous shooting time interval and the number of shots in step B13 in FIG. 6, the amount of blurring of the background portion relative to the main subject portion and the smoothness of the image can be adjusted.

なお、図5に示すフローチャートのステップA16の合成画像の確認表示において、撮影者がやり直しを指示した場合には、当該合成画像の画像圧縮および記録保存を行わずに、画像合成に用いる画像データの枚数を変えて再度画像合成からやり直したり、ステップA11に戻り連続撮影の間隔を変えて再度連続撮影からやり直すようにしても良い。   In the confirmation display of the composite image in step A16 of the flowchart shown in FIG. 5, when the photographer instructs to redo, the image data used for image composition is not compressed and recorded and stored without performing image compression and recording storage of the composite image. It is also possible to change the number of images and start again from image composition, or return to step A11 and change the interval of continuous shooting to restart from continuous shooting.

また、前記実施形態では、デジタルカメラを例にして説明したが、本発明はこれに限る者ではなく、例えばデジタルムービカメラの他、同様の撮像機能を備えた携帯電話やPDA(Personal Digital Assistant)などにも適用可能である。   In the above-described embodiment, the digital camera has been described as an example. However, the present invention is not limited to this. For example, in addition to a digital movie camera, a mobile phone or a PDA (Personal Digital Assistant) having a similar imaging function. It is also applicable to.

要するに、本発明は前記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、前記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   In short, the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. Moreover, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

図1は本発明の一実施形態に係る撮像装置としてデジタルカメラを例にした場合の外観構成を示す図である。FIG. 1 is a diagram showing an external configuration when a digital camera is taken as an example of an imaging apparatus according to an embodiment of the present invention. 図2は同実施形態におけるデジタルカメラの電子回路構成を示すブロック図である。FIG. 2 is a block diagram showing an electronic circuit configuration of the digital camera in the embodiment. 図3は動く被写体を連続撮影した場合の画像データの変移を模式的に示した図である。FIG. 3 is a diagram schematically showing the transition of image data when a moving subject is continuously photographed. 図4は連続撮影によって得られた各画像データの合成方法を説明するための図である。FIG. 4 is a diagram for explaining a method of combining image data obtained by continuous shooting. 図5は同実施形態におけるデジタルカメラによる撮影処理を示すフローチャートである。FIG. 5 is a flowchart showing photographing processing by the digital camera in the embodiment. 図6は同実施形態におけるデジタルカメラによる連続撮影と画像合成の処理を示すフローチャートである。FIG. 6 is a flowchart showing processing of continuous shooting and image composition by the digital camera in the embodiment. 図7は同実施形態におけるデジタルカメラによる連続撮影と画像合成の処理を示すフローチャートである。FIG. 7 is a flowchart showing processing of continuous shooting and image composition by the digital camera in the embodiment. 図8は同実施形態におけるデジタルカメラによる流し撮りモード選択画面の一例を示す図である。FIG. 8 is a diagram showing an example of a panning mode selection screen by the digital camera in the embodiment. 図9は同実施形態におけるデジタルカメラによる「カメラ追従モード」を説明するための図である。FIG. 9 is a diagram for explaining a “camera following mode” by the digital camera in the embodiment. 図10は同実施形態におけるデジタルカメラによる「カメラ固定モード」を説明するための図である。FIG. 10 is a view for explaining the “camera fixing mode” by the digital camera in the embodiment. 図11は同実施形態におけるデジタルカメラによる合成画像の一例を示す図である。FIG. 11 is a diagram showing an example of a composite image by the digital camera in the embodiment.

符号の説明Explanation of symbols

1…デジタルカメラ、2…ボディ、3…撮影レンズ、4…セルフタイマランプ、5…光学ファインダ窓、6…ストロボ発光部、7…マイクロホン部、8…電源キー、9…シャッタキー、10…撮影モードキー、11…再生モードキー、12…光学ファインダ、13…スピーカ部、14…マクロキー、15…ストロボキー、16…メニュー(MENU)キー、17…リングキー、18…セット(SET)キー、19…表示部、20a,20b…ズームキー、21…モータ、22…レンズ光学系、23…CCD、24…タイミング発生器(TG)、25…ドライバ、26…サンプルホールド回路(S/H)、27…A/D変換器、28…画像処理回路、29…DMAコントローラ、30…DRAMインタフェース(I/F)、31…DRAM、32…制御部、32a…ワークメモリ、33…VRAMコントローラ、34…VRAM、35…デジタルビデオエンコーダ、36…キー入力部、37…JPEG回路、38…メモリ、39…音声処理部、40…USBインタフェース(I/F)、41…ストロボ駆動部、51…流し撮りモード選択画面、61…メイン被写体部分、62…背景部分。   DESCRIPTION OF SYMBOLS 1 ... Digital camera, 2 ... Body, 3 ... Shooting lens, 4 ... Self-timer lamp, 5 ... Optical finder window, 6 ... Strobe light emission part, 7 ... Microphone part, 8 ... Power key, 9 ... Shutter key, 10 ... Photographing Mode key, 11 ... Playback mode key, 12 ... Optical viewfinder, 13 ... Speaker unit, 14 ... Macro key, 15 ... Strobe key, 16 ... Menu (MENU) key, 17 ... Ring key, 18 ... Set key, DESCRIPTION OF SYMBOLS 19 ... Display part, 20a, 20b ... Zoom key, 21 ... Motor, 22 ... Lens optical system, 23 ... CCD, 24 ... Timing generator (TG), 25 ... Driver, 26 ... Sample hold circuit (S / H), 27 A / D converter, 28 Image processing circuit, 29 DMA controller, 30 DRAM interface (I / F), 31 DRAM, 3 Control unit 32a Work memory 33 VRAM controller 34 VRAM 35 Digital video encoder 36 Key input unit 37 JPEG circuit 38 Memory 39 Audio processing unit 40 USB interface ( (I / F), 41... Strobe driving unit, 51 .. panning mode selection screen, 61... Main subject portion, 62.

Claims (8)

所定のタイミングで撮像素子から複数の連続した画像データを取得する撮影手段と、
この撮影手段によって得られた各画像データからメインとなる被写体部分を特定する特定手段と、
この特定手段によって特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出する検出手段と、
この検出手段によって検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成する画像処理手段と
を具備したことを特徴とする撮像装置。
Photographing means for acquiring a plurality of continuous image data from the image sensor at a predetermined timing;
Specifying means for specifying a main subject portion from each image data obtained by the photographing means;
Detecting means for detecting a relative shift amount and a shift direction between the image data of the main subject part specified by the specifying means;
An image processing apparatus comprising: an image processing unit configured to combine the image data so that the main subject portion overlaps the same position based on a shift amount and a shift direction detected by the detection unit.
前記撮影手段は、撮影条件として露光時間を所定時間よりも短く設定して連続撮影を行い、
前記画像処理手段は、前記撮影手段によって得られた各画像データを重ね合わせたときに、少なくとも前記メイン被写体部分の各画素の値を適正な値に補正することを特徴とする請求項1記載の撮像装置。
The photographing means performs continuous photographing by setting an exposure time shorter than a predetermined time as a photographing condition,
The image processing means corrects at least the value of each pixel of the main subject portion to an appropriate value when the image data obtained by the photographing means are superimposed. Imaging device.
前記特定手段は、ファインダ内にメインとなる被写体を捕捉するための基準となる領域を設定し、前記撮影手段によって得られた各画像データと前記基準領域との位置関係からメイン被写体部分を特定することを特徴とする請求項1記載の撮像装置。   The specifying unit sets a reference region for capturing a main subject in the finder, and specifies a main subject part from a positional relationship between each image data obtained by the photographing unit and the reference region. The imaging apparatus according to claim 1. 被写体の動きに追従させて撮影を行う第1のモードまたはカメラを固定して被写体を撮影する第2のモードを設定するモード設定手段と、
前記前記撮影手段によって得られた各画像データに基づいて移動速度の異なる複数の被写体部分を識別する識別手段とを備え、
前記特定手段は、前記モード設定手段によって前記第1のモードが設定されている場合に前記識別手段によって識別された各被写体部分の中で最も移動速度の遅い部分をメイン被写体部分として特定し、前記モード設定手段によって前記第2のモードが設定されている場合に前記識別手段によって識別された各被写体部分の中で最も移動速度の速い部分をメイン被写体部分として特定することを特徴とする請求項1記載の撮像装置。
Mode setting means for setting a first mode in which shooting is performed following the movement of the subject or a second mode in which the subject is shot while the camera is fixed;
Identification means for identifying a plurality of subject portions having different moving speeds based on each image data obtained by the photographing means,
The specifying unit specifies a portion having the slowest moving speed as a main subject portion among the subject portions identified by the identifying unit when the first mode is set by the mode setting unit, 2. The portion having the fastest moving speed among the subject portions identified by the identifying means when the second mode is set by the mode setting means is specified as a main subject portion. The imaging device described.
前記撮影手段によって複数の画像データを取得する時間間隔を任意に設定する間隔設定手段を具備したことを特徴とする請求項1記載の撮像装置。   The imaging apparatus according to claim 1, further comprising an interval setting unit that arbitrarily sets a time interval for acquiring a plurality of image data by the imaging unit. 前記画像処理手段による合成に用いる画像データの枚数を任意に設定する枚数設定手段を具備したことを特徴とする請求項1記載の撮像装置。   2. The image pickup apparatus according to claim 1, further comprising a number setting unit that arbitrarily sets the number of image data used for composition by the image processing unit. 所定のタイミングで撮像素子から複数の連続した画像データを取得するステップと、
前記各画像データからメインとなる被写体部分を特定するステップと、
前記特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出するステップと、
前記検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成するステップと
を含むことを特徴とする画像処理方法。
Acquiring a plurality of continuous image data from the image sensor at a predetermined timing;
Identifying a main subject portion from each of the image data;
Detecting a relative shift amount and shift direction between the image data of the identified main subject portion;
Combining the image data so that the main subject portion overlaps the same position based on the detected shift amount and shift direction.
撮像装置に搭載されたコンピュータによって実行されるプログラムであって、
前記コンピュータに、
所定のタイミングで撮像素子から複数の連続した画像データを取得する機能と、
前記各画像データからメインとなる被写体部分を特定する機能と、
前記特定されたメイン被写体部分の各画像データ間の相対的なずれ量およびずれ方向を検出する機能と、
前記検出されたずれ量およびずれ方向に基づいて、前記メイン被写体部分が同じ位置に重なるように前記各画像データを合成する機能と
を実現させることを特徴とするプログラム。
A program executed by a computer mounted on an imaging device,
In the computer,
A function of acquiring a plurality of continuous image data from the image sensor at a predetermined timing;
A function for specifying a main subject portion from each image data;
A function of detecting a relative shift amount and shift direction between the image data of the identified main subject portion;
And a function of combining the image data so that the main subject portion overlaps the same position based on the detected shift amount and shift direction.
JP2005160643A 2005-05-31 2005-05-31 Imaging apparatus, image processing method, and program Expired - Fee Related JP4569389B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005160643A JP4569389B2 (en) 2005-05-31 2005-05-31 Imaging apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005160643A JP4569389B2 (en) 2005-05-31 2005-05-31 Imaging apparatus, image processing method, and program

Publications (3)

Publication Number Publication Date
JP2006339903A true JP2006339903A (en) 2006-12-14
JP2006339903A5 JP2006339903A5 (en) 2008-06-26
JP4569389B2 JP4569389B2 (en) 2010-10-27

Family

ID=37560075

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005160643A Expired - Fee Related JP4569389B2 (en) 2005-05-31 2005-05-31 Imaging apparatus, image processing method, and program

Country Status (1)

Country Link
JP (1) JP4569389B2 (en)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009065573A (en) * 2007-09-10 2009-03-26 Casio Comput Co Ltd Imaging apparatus, focus control method, and focus control program
JP2010187348A (en) * 2009-02-13 2010-08-26 Olympus Corp Apparatus, method and program for image processing
JP2010268401A (en) * 2009-05-18 2010-11-25 Nikon Corp Imaging apparatus
US8233055B2 (en) 2008-07-09 2012-07-31 Casio Computer Co., Ltd. Image processing device and program
US8237820B2 (en) 2008-02-04 2012-08-07 Panasonic Corporation Image synthesis device for generating a composite image using a plurality of continuously shot images
US8248480B2 (en) 2008-02-29 2012-08-21 Casio Computer Co., Ltd. Imaging apparatus provided with panning mode for taking panned image
US8284270B2 (en) 2007-03-06 2012-10-09 Panasonic Corporation Imaging device, edition device, image processing method, and program
JP2013110754A (en) * 2013-01-17 2013-06-06 Casio Comput Co Ltd Camera device, and photographing method and program of the same
US8532420B2 (en) 2009-02-13 2013-09-10 Olympus Corporation Image processing apparatus, image processing method and storage medium storing image processing program
JP5608803B1 (en) * 2013-10-03 2014-10-15 オリンパス株式会社 Imaging device, imaging method, and imaging control program
JP2015195497A (en) * 2014-03-31 2015-11-05 キヤノン株式会社 Imaging apparatus and control method and control program of the same
JP2017041242A (en) * 2015-08-17 2017-02-23 ノキア テクノロジーズ オサケユイチア Method, apparatus, and computer program product for personalized depth-of-field omnidirectional video
JP2018026608A (en) * 2016-08-08 2018-02-15 キヤノン株式会社 Imaging device, control method and program of imaging device, and storage medium
US20180278848A1 (en) * 2017-03-22 2018-09-27 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same, and storage medium
JP2018160235A (en) * 2017-03-22 2018-10-11 キヤノン株式会社 Information processor, control method therefor, and program

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005101837A (en) * 2003-09-24 2005-04-14 Canon Inc Optical instrument

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005101837A (en) * 2003-09-24 2005-04-14 Canon Inc Optical instrument

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8284270B2 (en) 2007-03-06 2012-10-09 Panasonic Corporation Imaging device, edition device, image processing method, and program
US8553092B2 (en) 2007-03-06 2013-10-08 Panasonic Corporation Imaging device, edition device, image processing method, and program
JP2009065573A (en) * 2007-09-10 2009-03-26 Casio Comput Co Ltd Imaging apparatus, focus control method, and focus control program
US8237820B2 (en) 2008-02-04 2012-08-07 Panasonic Corporation Image synthesis device for generating a composite image using a plurality of continuously shot images
US8248480B2 (en) 2008-02-29 2012-08-21 Casio Computer Co., Ltd. Imaging apparatus provided with panning mode for taking panned image
US8233055B2 (en) 2008-07-09 2012-07-31 Casio Computer Co., Ltd. Image processing device and program
US8532420B2 (en) 2009-02-13 2013-09-10 Olympus Corporation Image processing apparatus, image processing method and storage medium storing image processing program
JP2010187348A (en) * 2009-02-13 2010-08-26 Olympus Corp Apparatus, method and program for image processing
JP2010268401A (en) * 2009-05-18 2010-11-25 Nikon Corp Imaging apparatus
JP2013110754A (en) * 2013-01-17 2013-06-06 Casio Comput Co Ltd Camera device, and photographing method and program of the same
JP5608803B1 (en) * 2013-10-03 2014-10-15 オリンパス株式会社 Imaging device, imaging method, and imaging control program
US9066010B2 (en) 2013-10-03 2015-06-23 Olympus Corporation Photographing apparatus, photographing method and medium recording photographing control program
JP2015195497A (en) * 2014-03-31 2015-11-05 キヤノン株式会社 Imaging apparatus and control method and control program of the same
JP2017041242A (en) * 2015-08-17 2017-02-23 ノキア テクノロジーズ オサケユイチア Method, apparatus, and computer program product for personalized depth-of-field omnidirectional video
US10291845B2 (en) 2015-08-17 2019-05-14 Nokia Technologies Oy Method, apparatus, and computer program product for personalized depth of field omnidirectional video
JP2018026608A (en) * 2016-08-08 2018-02-15 キヤノン株式会社 Imaging device, control method and program of imaging device, and storage medium
US20180278848A1 (en) * 2017-03-22 2018-09-27 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same, and storage medium
JP2018160235A (en) * 2017-03-22 2018-10-11 キヤノン株式会社 Information processor, control method therefor, and program
JP7005338B2 (en) 2017-03-22 2022-01-21 キヤノン株式会社 Information processing equipment and its control method and program

Also Published As

Publication number Publication date
JP4569389B2 (en) 2010-10-27

Similar Documents

Publication Publication Date Title
JP4569389B2 (en) Imaging apparatus, image processing method, and program
JP4305434B2 (en) Electronic camera and program
JP4639965B2 (en) Imaging apparatus, image processing method, and program
JP4035543B2 (en) Imaging device
JP2009147730A (en) Moving image generating apparatus, moving image shooting apparatus, moving image generating method, and program
JP4556195B2 (en) Imaging device, moving image playback device, and program
JP4605217B2 (en) Imaging apparatus and program thereof
JP2009111518A (en) Imaging apparatus, image reproducing unit and program thereof, and data structure of image file
JP5909997B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP2003179798A (en) Digital camera
US20160012562A1 (en) Image processing apparatus and image processing method
JP4525459B2 (en) Movie processing apparatus, movie processing method and program
JP4475165B2 (en) Imaging apparatus, exposure control method, and program
JP4349288B2 (en) Imaging apparatus, image processing method, and program
JP2010021710A (en) Imaging device, image processor, and program
JP2009065320A (en) Imaging device
JP4379921B2 (en) Imaging apparatus and program thereof
JP2007067660A (en) Imaging apparatus, and reproduction control method
JP4467232B2 (en) Image recording apparatus and method
JP4678273B2 (en) Imaging apparatus, moving image storage method, and moving image storage program
JP2006094031A (en) Imaging apparatus, image processing method, and program
JP4306341B2 (en) Image shooting device
JP4345515B2 (en) Imaging apparatus and program
JP4535089B2 (en) Imaging apparatus, image processing method, and program
JP4948011B2 (en) Imaging apparatus, control method therefor, computer program, and storage medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080508

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080508

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100713

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100726

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130820

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4569389

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees