JP5415820B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5415820B2
JP5415820B2 JP2009115908A JP2009115908A JP5415820B2 JP 5415820 B2 JP5415820 B2 JP 5415820B2 JP 2009115908 A JP2009115908 A JP 2009115908A JP 2009115908 A JP2009115908 A JP 2009115908A JP 5415820 B2 JP5415820 B2 JP 5415820B2
Authority
JP
Japan
Prior art keywords
image
moving image
vibration
unit
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009115908A
Other languages
Japanese (ja)
Other versions
JP2010268078A (en
Inventor
厚 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2009115908A priority Critical patent/JP5415820B2/en
Publication of JP2010268078A publication Critical patent/JP2010268078A/en
Application granted granted Critical
Publication of JP5415820B2 publication Critical patent/JP5415820B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、複数の異なる視点から被写体を撮影することにより、立体表示可能な画像を撮影することが可能な撮像装置に関する。   The present invention relates to an imaging apparatus capable of capturing a stereoscopically displayable image by capturing a subject from a plurality of different viewpoints.

複数の異なる視点から同一の被写体を撮影することによって、3D表示(立体表示)可能な静止画像(3D静止画像)や動画像(3D動画像)を撮影する技術が知られている。   A technique for capturing a still image (3D still image) or a moving image (3D moving image) capable of 3D display (stereoscopic display) by capturing the same subject from a plurality of different viewpoints is known.

3D表示可能な画像を撮影する方法としては、例えば特許第3722498号公報に開示されているように、1台の撮像装置を所定の距離だけ移動させながら複数の視点で撮影する方法が知られている。また、3D表示可能な画像を撮影する方法としては、所定の距離だけ離間して配設された2つの撮影用レンズを備えた撮像装置を用いて撮影する方法や、2台の撮像装置を所定の距離だけ離間させた状態に固定して撮影する方法も知られている。   As a method of photographing an image that can be displayed in 3D, for example, as disclosed in Japanese Patent No. 3722498, a method of photographing from a plurality of viewpoints while moving one imaging device by a predetermined distance is known. Yes. In addition, as a method of shooting an image that can be displayed in 3D, a method of shooting using an imaging device including two imaging lenses that are spaced apart by a predetermined distance, or two imaging devices are predetermined. There is also known a method of shooting while being fixed in a state separated by a distance of.

また、例えば特許第4148811号公報に開示されているように、3D画像を表示する表示装置も一般的なものとなりつつあり、使用者が手軽に3D静止画像や3D動画像を撮影し、鑑賞することが可能である。   Also, as disclosed in, for example, Japanese Patent No. 4148811, a display device that displays 3D images is becoming common, and users can easily shoot and view 3D still images and 3D moving images. It is possible.

特許第3722498号公報Japanese Patent No. 3722498 特許第4148811号公報Japanese Patent No. 4148811

3D画像を表示する表示装置は、鑑賞者に臨場感のある映像を提供することができることが特徴であるが、鑑賞者が3D画像から得る感覚と、鑑賞者の実際の周囲の環境の感覚とに不整合が生じた場合には、鑑賞者に不快感や目の疲れを与えてしまう場合がある。   A display device that displays a 3D image is characterized by being able to provide the viewer with a realistic image. However, the viewer obtains a sense from the 3D image and a sense of the viewer's actual surrounding environment. If there is an inconsistency, the viewer may feel uncomfortable or tired eyes.

例えば、携帯型の撮像装置で3D動画像を撮影する場合、撮影者の移動や手ぶれによって、3D動画中において被写体が振動してしまう。このように被写体が振動した状態の3D動画像を鑑賞すると、鑑賞者の頭部は実際には静止しているにもかかわらず、鑑賞者が視覚を通じて3D動画像から得る感覚はあたかも頭部が振動しているかのようなものとなるため、鑑賞者は不快に感じやすい。   For example, when a 3D moving image is captured by a portable imaging device, the subject vibrates in the 3D moving image due to the movement of the photographer or camera shake. When viewing a 3D moving image in which the subject vibrates in this way, the viewer's head is actually still, but the viewer feels that the 3D moving image is visually perceived as if the head is The viewer feels uncomfortable because it is as if it is vibrating.

本発明は、上記問題点に鑑みてなされたものであり、鑑賞者に不快感を与えることのない3D動画像を提供することのできる撮像装置を提供することを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to provide an imaging apparatus capable of providing a 3D moving image that does not cause discomfort to the viewer.

本発明に係る一態様の撮像装置は、視差を有する複数の視点から被写体を撮影することによって3D動画像を撮影することが可能な撮影部と、前記3D動画像中における前記被写体の所定の周期の類似した振動を検出する画像振動検出部と、前記3D動画像と、当該3D動画像の撮影中に前記画像振動検出部により検出された前記被写体の類似した振動が所定の周期で所定の回数以上継続して発生している振動期間と、を関連づけて記録する記録部と、前記3D動画像を再生して表示可能な画像表示部と、を具備し、前記画像表示部において、前記3D動画像を表示する際に、当該3D動画像に関連付けられて前記記録部に記録された前記振動期間中は、前記3D動画像を、2D動画像として表示するように制御する。
また、本発明に係る他の態様の撮像装置は、視差を有する複数の視点から被写体を撮影することによって3D動画像を撮影することが可能な撮影部と、前記3D動画像中における前記被写体の所定の周期の類似した振動を検出する画像振動検出部と、前記3D動画像と、当該3D動画像の撮影中に前記画像振動検出部により検出された前記被写体の類似した振動が所定の周期で所定の回数以上継続して発生している振動期間と、を関連づけて記録する記録部と、を具備する。
An imaging apparatus according to an aspect of the present invention includes a photographing unit capable of photographing a 3D moving image by photographing a subject from a plurality of viewpoints having parallax, and a predetermined cycle of the subject in the 3D moving image. Image vibration detecting unit for detecting similar vibrations of the image, the 3D moving image, and the similar vibrations of the subject detected by the image vibration detecting unit during shooting of the 3D moving image at a predetermined number of times or a vibration period occurring continuously, and a recording unit for recording in association with, provided with an image display unit capable of displaying and reproducing the 3D moving image, in the image display unit, the 3D video When displaying an image, the 3D moving image is controlled to be displayed as a 2D moving image during the vibration period recorded in the recording unit in association with the 3D moving image .
An imaging device according to another aspect of the present invention includes an imaging unit capable of imaging a 3D moving image by imaging a subject from a plurality of viewpoints having parallax, and the subject in the 3D moving image. An image vibration detection unit that detects similar vibrations with a predetermined period, the 3D moving image, and similar vibrations of the subject detected by the image vibration detection unit during shooting of the 3D moving image with a predetermined period And a recording unit that records the vibration period continuously generated a predetermined number of times or more in association with each other.

本発明によれば、鑑賞者に不快感を与えることのない3D動画像を提供することが可能な撮像装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the imaging device which can provide the 3D moving image which does not give a viewer discomfort can be provided.

デジタルカメラの正面側を示す斜視図である。It is a perspective view which shows the front side of a digital camera. デジタルカメラの背面側を示す斜視図である。It is a perspective view which shows the back side of a digital camera. デジタルカメラの概略的な構成を説明するブロック図である。It is a block diagram explaining the schematic structure of a digital camera. 3D効果判定処理のフローチャートである。It is a flowchart of 3D effect determination processing. 問題振動判定処理のフローチャートである。It is a flowchart of a problem vibration determination process. 被写体の動きベクトルを算出する領域を説明する図である。It is a figure explaining the area | region which calculates the motion vector of a to-be-photographed object. 3D動画中において被写体が振動している様子を説明する図である。It is a figure explaining a mode that a subject is vibrating in a 3D animation. メインルーチンのフローチャートである。It is a flowchart of a main routine. 動画像撮影処理のフローチャートである。It is a flowchart of a moving image shooting process. 類似振動判定処理のフローチャートである。It is a flowchart of a similar vibration determination process. 再生処理のフローチャートである。It is a flowchart of a reproduction process. 第2の実施形態のデジタルカメラの構成を説明する図である。It is a figure explaining the structure of the digital camera of 2nd Embodiment.

本発明の撮像装置の好ましい形態について図面を参照して説明する。以下では、一例として本発明を撮像装置としてのデジタルカメラ1に適用した例を説明する。なお、以下の説明に用いた各図においては、各構成要素を図面上で認識可能な程度の大きさとするため、各構成要素毎に縮尺を異ならせてあるものであり、本発明は、これらの図に記載された構成要素の数量、構成要素の形状、構成要素の大きさの比率、及び各構成要素の相対的な位置関係のみに限定されるものではない。   A preferred embodiment of the imaging apparatus of the present invention will be described with reference to the drawings. Below, the example which applied this invention to the digital camera 1 as an imaging device is demonstrated as an example. In each drawing used for the following description, the scale is different for each component in order to make each component large enough to be recognized on the drawing. It is not limited only to the quantity of the component described in the figure, the shape of the component, the ratio of the size of the component, and the relative positional relationship of each component.

(第1の実施形態)
本実施形態のデジタルカメラ1は、静止画像及び動画像を電子的に記録可能な装置であって、複数の異なる視点から同一の被写体を撮影して被写体の立体的な表示が可能な画像を得るためのものである。
(First embodiment)
The digital camera 1 according to the present embodiment is an apparatus capable of electronically recording still images and moving images, and obtains an image capable of stereoscopically displaying a subject by photographing the same subject from a plurality of different viewpoints. Is for.

以下では、複数の異なる視点から略同期して被写体を撮影して得られる視差を有する静止画像の組み合わせ及び視差を有する動画像の組み合わせを、それぞれ3D静止画像及び3D動画像と称するものとする。また、一つの視点から被写体を撮影して得られる、視差を持たない静止画像及び動画像を、それぞれ2D静止画像及び2D動画像と称するものとする。   Hereinafter, a combination of still images having parallax and a combination of moving images having parallax obtained by photographing a subject from a plurality of different viewpoints are referred to as a 3D still image and a 3D moving image, respectively. In addition, a still image and a moving image having no parallax obtained by photographing a subject from one viewpoint are referred to as a 2D still image and a 2D moving image, respectively.

本実施形態のデジタルカメラ1は、一例として、図1に示すように所定の長さの基線長BLだけ離間した2つの視点から被写体を撮影する撮影部2を具備している。撮影部2は、2つの視点にそれぞれ対応する、左撮影部2a及び右撮影部2bを具備してなる。   As an example, the digital camera 1 of the present embodiment includes a photographing unit 2 that photographs a subject from two viewpoints separated by a base length BL having a predetermined length as shown in FIG. The imaging unit 2 includes a left imaging unit 2a and a right imaging unit 2b that respectively correspond to two viewpoints.

デジタルカメラ1は、この左撮影部2a及び右撮影部2bによって異なる視点から被写体を撮影することによって、被写体の3D静止画像及び3D動画像を記録することが可能である。また、デジタルカメラ1は、左撮影部2a及び右撮影部2bの一方によって被写体を撮影することによって、被写体の2D静止画像及び2D動画像を記録することが可能である。   The digital camera 1 can record a 3D still image and a 3D moving image of the subject by photographing the subject from different viewpoints by the left photographing unit 2a and the right photographing unit 2b. Further, the digital camera 1 can record a 2D still image and a 2D moving image of the subject by photographing the subject with one of the left photographing unit 2a and the right photographing unit 2b.

撮影部2の構成は異なる2つの視点から視差を有して被写体を撮影することが可能であれば特に限定されるものではないが、本実施形態では、左撮影部2a及び右撮影部2bのそれぞれに撮影用レンズとCCDセンサやCMOSセンサ等の撮像素子とが配設されて構成されるものとする。   The configuration of the photographing unit 2 is not particularly limited as long as it can shoot a subject with parallax from two different viewpoints, but in this embodiment, the left photographing unit 2a and the right photographing unit 2b It is assumed that each is configured with an imaging lens and an image sensor such as a CCD sensor or a CMOS sensor.

なお、撮影部2は、単一の撮像素子と、左撮影部2a及び右撮影部2bにそれぞれ配設され該撮像素子に被写体像を結像する一対の撮影用レンズとを備えるものであって、一対の撮影用レンズから撮像素子へ至る光束を、可動ミラーや液晶シャッタ等により高速に切り替え可能な構成であってもよい。例えば、撮像素子によって1/120秒毎に左撮影部2aを介して得られる左視点画像と右撮影部2bを介して得られる右視点画像と、を切り換えて撮影することができれば、2つの異なる視点から略同期して被写体を撮影して得られる3D静止画像及び3D動画像を記録することができる。   The photographing unit 2 includes a single image sensor and a pair of photographing lenses that are disposed in the left photographing unit 2a and the right photographing unit 2b, respectively, and form a subject image on the image sensor. The light beam from the pair of photographing lenses to the image sensor may be switched at high speed by a movable mirror, a liquid crystal shutter, or the like. For example, if a left viewpoint image obtained via the left photographing unit 2a and a right viewpoint image obtained via the right photographing unit 2b can be switched and photographed every 1/120 seconds by the imaging device, two different images can be obtained. It is possible to record a 3D still image and a 3D moving image obtained by photographing a subject substantially synchronously from the viewpoint.

まず、図1及び図2を参照して、デジタルカメラ1の外観上の構成を説明する。デジタルカメラ1の被写体に対向する前面には、上述した左撮影部2a及び右撮影部2bの他に、音声を記録するためのマイクロホン3が配設されている。   First, an external configuration of the digital camera 1 will be described with reference to FIGS. 1 and 2. In addition to the left photographing unit 2a and the right photographing unit 2b described above, a microphone 3 for recording sound is disposed on the front surface of the digital camera 1 facing the subject.

デジタルカメラ1の背面には、音声を出力するためのスピーカ7と、画像を表示出力するための画像表示部10が配設されている。スピーカ7は、例えば2D動画像や3D動画像の撮影と同時に記録された音声を出力することができる。   On the back surface of the digital camera 1, a speaker 7 for outputting sound and an image display unit 10 for displaying and outputting an image are disposed. The speaker 7 can output sound recorded simultaneously with the shooting of 2D moving images and 3D moving images, for example.

画像表示部10は、2D静止画像及び2D動画像を表示することが可能であるとともに、異なる2つの視点から撮影された視差を有する画像を表示することにより、3D静止画像及び3D動画像を表示することが可能に構成されている。このような画像表示部10は周知のものであるため、詳細な説明は省略するものとする。なお、画像表示部10は、表示面上に操作部材としてのタッチセンサを具備した、いわゆるタッチパネルとして構成されるものであってもよい。   The image display unit 10 is capable of displaying 2D still images and 2D moving images, and displaying 3D still images and 3D moving images by displaying images having parallax taken from two different viewpoints. It is configured to be able to. Since such an image display unit 10 is well known, detailed description thereof will be omitted. The image display unit 10 may be configured as a so-called touch panel that includes a touch sensor as an operation member on the display surface.

また、デジタルカメラ1の上面及び背面には、使用者がデジタルカメラ1の動作指示を入力するための操作部材が配設されている。操作部材は、静止画撮影スイッチ4、動画撮影スイッチ5、電源スイッチ6、ズーム操作スイッチ8及び十字スイッチ9等からなる。   In addition, operation members for a user to input an operation instruction of the digital camera 1 are disposed on the upper surface and the rear surface of the digital camera 1. The operation members include a still image shooting switch 4, a moving image shooting switch 5, a power switch 6, a zoom operation switch 8, a cross switch 9, and the like.

静止画撮影スイッチ4は、デジタルカメラ1による2D静止画像又は3D静止画像の撮影動作の指示を入力するためのスイッチである。動画撮影スイッチ5は、デジタルカメラ1による2D動画像又は3D動画像の撮影動作の開始及び停止の指示を入力するためのスイッチである。   The still image shooting switch 4 is a switch for inputting an instruction for a 2D still image or 3D still image shooting operation by the digital camera 1. The moving image shooting switch 5 is a switch for inputting instructions for starting and stopping the shooting operation of the 2D moving image or 3D moving image by the digital camera 1.

電源スイッチ6は、デジタルカメラ1の電源オン状態及び電源オフ状態の切り替え指示を入力するためのスイッチである。ズーム操作スイッチ8は、左撮影部2a及び右撮影部2bの焦点距離の変更動作(ズーム動作)の指示を入力するためのスイッチである。また、十字スイッチ9は、デジタルカメラ1の動作モードの変更の指示を入力するためのスイッチである。   The power switch 6 is a switch for inputting a switching instruction between the power-on state and the power-off state of the digital camera 1. The zoom operation switch 8 is a switch for inputting an instruction for changing the focal length (zoom operation) of the left photographing unit 2a and the right photographing unit 2b. The cross switch 9 is a switch for inputting an instruction to change the operation mode of the digital camera 1.

なお、本実施形態では、操作部材は、複数のプッシュスイッチにより構成されているが、操作部材は、レバースイッチ、ダイヤルスイッチ、タッチセンサ、照度センサ及び加速度センサ等を具備して構成されるものであってもよい。   In the present embodiment, the operation member is configured by a plurality of push switches, but the operation member is configured to include a lever switch, a dial switch, a touch sensor, an illuminance sensor, an acceleration sensor, and the like. There may be.

次に図3を参照して、デジタルカメラ1の動作を制御するための構成を説明する。デジタルカメラ1には、制御部20と、操作判定部11と、記録部12と、時計部13とが配設されている。図示しないが、デジタルカメラ1には、デジタルカメラ1の各部構成の動作に必要な電力を供給するための電源部が配設されている。なお、デジタルカメラ1には、外部装置との間で有線又は無線の通信により画像等の送受信が可能な通信部が配設されてもよい。   Next, a configuration for controlling the operation of the digital camera 1 will be described with reference to FIG. The digital camera 1 includes a control unit 20, an operation determination unit 11, a recording unit 12, and a clock unit 13. Although not shown, the digital camera 1 is provided with a power supply unit for supplying power necessary for the operation of each component of the digital camera 1. Note that the digital camera 1 may be provided with a communication unit capable of transmitting and receiving images and the like by wired or wireless communication with an external device.

制御部20は、演算装置、記憶装置、入出力装置及び電力制御装置等を具備して構成され、所定のプログラムに基づいてデジタルカメラ1の各部構成の動作を制御する制御装置である。制御部20は、後述するデジタルカメラ1の動作を実現するために必要な構成として、画像処理部21、3D効果判定部22及び画像振動検出部23を具備して構成されている。なお、画像処理部21、3D効果判定部22及び画像振動検出部23の制御部20への実装は、ハードウェア的なものであってもよいしソフトウェア的なものであってもよい。   The control unit 20 includes an arithmetic device, a storage device, an input / output device, a power control device, and the like, and is a control device that controls the operation of each unit configuration of the digital camera 1 based on a predetermined program. The control unit 20 includes an image processing unit 21, a 3D effect determination unit 22, and an image vibration detection unit 23 as components necessary for realizing the operation of the digital camera 1 described later. The mounting of the image processing unit 21, the 3D effect determination unit 22, and the image vibration detection unit 23 on the control unit 20 may be hardware or software.

画像処理部30は、撮影部2により撮影された画像に対し所定の画像処理を行うものである。本実施形態では、画像処理部30は、画像中における人物の顔の数、位置、大きさ及び表情を、パターンマッチング等の所定の画像処理により認識する顔認識部24を具備して構成されている。また、画像処理部30は、撮影部2における合焦動作に用いるための画像のコントラスト値を算出するコントラスト算出部等を具備している。   The image processing unit 30 performs predetermined image processing on the image photographed by the photographing unit 2. In the present embodiment, the image processing unit 30 includes a face recognition unit 24 that recognizes the number, position, size, and facial expression of a person's face in an image by predetermined image processing such as pattern matching. Yes. In addition, the image processing unit 30 includes a contrast calculation unit that calculates a contrast value of an image to be used for a focusing operation in the photographing unit 2.

3D効果判定部22は、詳しくは後述するが、撮影部2の焦点距離及び合焦距離、顔認識部24により認識された画像中の人物の顔の位置や大きさ等の情報に基づいて、撮影部2の基線長BLに対してデジタルカメラ1と主要被写体との距離が立体的な表示をする場合に適切な関係にあるか否かを判定するものである。   Although the details will be described later, the 3D effect determination unit 22 is based on information such as the focal length and focusing distance of the photographing unit 2 and the position and size of a person's face in the image recognized by the face recognition unit 24. It is determined whether or not the distance between the digital camera 1 and the main subject has an appropriate relationship with respect to the base line length BL of the photographing unit 2 in a stereoscopic display.

画像振動検出部23は、詳しくは後述するが、撮影部2による動画像の撮影中において、動画像のフレーム間の比較等に基づいて、動画像中の動きベクトルを算出し、被写体に対するデジタルカメラ1の所定の範囲の周期の揺れを検出するものである。言い換えれば、画像振動検出部23は、動画像中における被写体の所定の範囲の周期の振動を検出する。   As will be described in detail later, the image vibration detection unit 23 calculates a motion vector in the moving image based on a comparison between frames of the moving image during shooting of the moving image by the shooting unit 2, and a digital camera for the subject. 1 to detect fluctuations in the period of a predetermined range. In other words, the image vibration detection unit 23 detects vibrations of a predetermined range of the subject in the moving image.

操作判定部11は、使用者によって上述した操作部材を介して入力される操作指示を判定するものである。操作判定部11による判定結果は制御部20へ出力される。   The operation determination unit 11 determines an operation instruction input by the user via the operation member described above. The determination result by the operation determination unit 11 is output to the control unit 20.

記録部12は、情報を記録可能な装置であり、本実施形態では、撮影部2により撮影された画像を記録する。記録部12は、半導体の不揮発メモリや、小型のハードディスクドライブ等の記録媒体を具備して構成されている。なお、記録部12はデジタルカメラ1とは別体であって、有線又は無線の通信形式によりデジタルカメラ1との間で情報の授受が可能なものであってもよい。   The recording unit 12 is a device capable of recording information. In the present embodiment, the recording unit 12 records an image photographed by the photographing unit 2. The recording unit 12 includes a recording medium such as a semiconductor nonvolatile memory or a small hard disk drive. The recording unit 12 may be separate from the digital camera 1 and may be capable of exchanging information with the digital camera 1 using a wired or wireless communication format.

時計部13は、撮影部2により撮影された画像の日時を記録するためのものである。デジタルカメラ1により撮影される画像には、この時計部13から読み取られた日時が撮影日時情報として付加される。   The clock unit 13 is for recording the date and time of the image photographed by the photographing unit 2. The date and time read from the clock unit 13 is added to the image shot by the digital camera 1 as shooting date and time information.

以下に、図4から図8のフローチャートを参照して、上述した構成を有するデジタルカメラ1の動作を説明する。   The operation of the digital camera 1 having the above-described configuration will be described below with reference to the flowcharts of FIGS.

まず、3D効果判定部22の詳細な動作について説明する。3D効果判定部22は、図4に示す3D効果判定処理を実施する。3D効果判定処理は、概略的には、撮影部2の基線長BLに対してデジタルカメラ1と主要被写体との距離が立体的な表示をする場合に適切な関係にあるか否かを判定する処理である。   First, the detailed operation of the 3D effect determination unit 22 will be described. The 3D effect determination unit 22 performs the 3D effect determination process illustrated in FIG. The 3D effect determination process generally determines whether or not the distance between the digital camera 1 and the main subject has an appropriate relationship with respect to the base line length BL of the photographing unit 2 in a stereoscopic display. It is processing.

例えば、デジタルカメラ1と主要被写体との距離が遠い場合、左撮影部2aによって得られる左視点画像と及び右撮影部2bによって得られる右視点画像との間における差異、すなわち視差が僅かとなってしまうため、効果的に立体的な表示を行うことができる3D静止画像又は3D動画像を得ることは困難である。   For example, when the distance between the digital camera 1 and the main subject is long, the difference between the left viewpoint image obtained by the left photographing unit 2a and the right viewpoint image obtained by the right photographing unit 2b, that is, the parallax becomes slight. Therefore, it is difficult to obtain a 3D still image or a 3D moving image that can effectively perform a stereoscopic display.

本実施形態では、デジタルカメラ1を携帯が容易な大きさとした場合に設定し得る基線長BLの大きさを考慮して、デジタルカメラ1と主要被写体との距離の適切な値LAを、一例として3mとする。なお、この値LAは、3D静止画像又は3D動画像を表示する表示装置の仕様等も加味して定められることが好ましい。   In the present embodiment, an appropriate value LA of the distance between the digital camera 1 and the main subject is taken as an example in consideration of the size of the baseline length BL that can be set when the digital camera 1 is easily portable. 3m. The value LA is preferably determined in consideration of the specifications of a display device that displays a 3D still image or a 3D moving image.

以下では、撮影部2の基線長BLに対してデジタルカメラ1と主要被写体との距離が立体的な表示をするのに適切な関係にある場合を、3D効果が有効であると称し、不適切な関係にある場合を、3D効果が無効であると称するものとする。   Hereinafter, a case where the distance between the digital camera 1 and the main subject has an appropriate relationship with respect to the base line length BL of the photographing unit 2 is referred to as the 3D effect being effective, and is inappropriate. The 3D effect is referred to as invalid if the relationship is in a negative relationship.

まず、ステップS20において、顔認識部24により、撮影部2により得られた画像中に人物の顔の存在を認識する顔認識処理を行う。そして、ステップS21において、画像の中央部に人物の顔が存在するか否かを判定する。すなわち、ステップS21では、人物が主要被写体であるか否かを判定する。   First, in step S20, the face recognition unit 24 performs face recognition processing for recognizing the presence of a human face in the image obtained by the photographing unit 2. In step S21, it is determined whether or not a human face exists in the center of the image. That is, in step S21, it is determined whether or not a person is a main subject.

ステップS21において、画像の中央部に人物の顔が存在すると判定した場合には、ステップS22へ移行する。ステップS22からステップS24では、主要被写体である人物の画像中における顔の大きさDf、及び撮影部2の撮影用レンズの焦点距離Zに基づいて、デジタルカメラ1と主要被写体との距離が立体的な表示をするのに適切な関係にあるか否かを判定する。   If it is determined in step S21 that a human face exists in the center of the image, the process proceeds to step S22. In steps S22 to S24, the distance between the digital camera 1 and the main subject is three-dimensional based on the face size Df in the image of the person who is the main subject and the focal length Z of the photographing lens of the photographing unit 2. It is determined whether or not there is an appropriate relationship to display a correct display.

具体的には、ステップS24において、画像中において最も中心に近い人物の顔の大きさの代表値Df、例えば人物の顔の面積や縦方向の画素数等を、撮影用レンズの焦点距離Zにより除算した値が、所定の値A0よりも大きければ、ステップS25において3D効果は有効であると判定する。また、人物の顔の大きさの代表値Dfを焦点距離Zにより除算した値が、所定の値A0以下であれば、ステップS28において3D効果は無効であると判定する。   Specifically, in step S24, the representative value Df of the face size of the person closest to the center in the image, such as the area of the person's face and the number of pixels in the vertical direction, is determined by the focal length Z of the photographing lens. If the divided value is larger than the predetermined value A0, it is determined in step S25 that the 3D effect is effective. If the value obtained by dividing the representative value Df of the size of the person's face by the focal length Z is equal to or less than the predetermined value A0, it is determined in step S28 that the 3D effect is invalid.

ここで、ステップS24において、人物の顔の大きさの代表値Dfを焦点距離Zにより除算するのは、画像中の主要被写体である人物の顔が大きい場合であっても焦点距離Zが大きい場合には、デジタルカメラ1と人物との距離が遠く3D効果が得られにくいからである。本実施形態のように、人物の顔の大きさの代表値Dfを焦点距離Zにより除算すれば、このような撮影用レンズの焦点距離Zの変化の影響を排除することができる。   Here, in step S24, the representative value Df of the size of the person's face is divided by the focal length Z when the focal length Z is large even if the face of the person who is the main subject in the image is large. This is because the distance between the digital camera 1 and the person is so long that it is difficult to obtain the 3D effect. If the representative value Df of the size of a person's face is divided by the focal length Z as in this embodiment, the influence of such a change in the focal length Z of the photographing lens can be eliminated.

また、判定に用いる所定の値A0は、デジタルカメラ1と主要被写体との距離の適切な値LAや撮影部2の撮像素子のサイズ等を考慮して定められる。   The predetermined value A0 used for the determination is determined in consideration of an appropriate value LA of the distance between the digital camera 1 and the main subject, the size of the image sensor of the imaging unit 2, and the like.

一方、ステップS21において、画像の中央部に人物の顔が存在しないと判定した場合、すなわち主要被写体が人物ではない場合には、ステップS26へ移行する。ステップS26及びステップS27では、ピントが合わせられたものが主要被写体であるとみなし、撮影用レンズの合焦距離Lに基づいてデジタルカメラ1と主要被写体との距離が立体的な表示をするのに適切な関係にあるか否かを判定する。   On the other hand, if it is determined in step S21 that a person's face does not exist in the center of the image, that is, if the main subject is not a person, the process proceeds to step S26. In step S26 and step S27, it is considered that the focused subject is the main subject, and the distance between the digital camera 1 and the main subject is displayed in a three-dimensional manner based on the focusing distance L of the photographing lens. Determine whether the relationship is appropriate.

具体的には、ステップS27において、撮影用レンズの合焦距離Lが、デジタルカメラ1と主要被写体との距離の適切な値LAよりも小さければ、ステップS25において3D効果は有効であると判定する。また、撮影用レンズの合焦距離Lが、デジタルカメラ1と主要被写体との距離の適切な値LA以上であれば、ステップS28において3D効果は無効であると判定する。   Specifically, in step S27, if the in-focus distance L of the photographing lens is smaller than an appropriate value LA of the distance between the digital camera 1 and the main subject, it is determined in step S25 that the 3D effect is effective. . On the other hand, if the in-focus distance L of the photographing lens is not less than the appropriate value LA of the distance between the digital camera 1 and the main subject, it is determined in step S28 that the 3D effect is invalid.

なお、本実施形態では、画像の中央に人物の顔が認識された場合には、画像中の人物の顔の大きさによって3D効果の有効無効を判定しているが、画像中に人物が存在するか否かに関わらず撮影用レンズの合焦距離Lによって3D効果の有効無効を判定してもよい。   In this embodiment, when a person's face is recognized at the center of the image, the validity / invalidity of the 3D effect is determined based on the size of the person's face in the image. However, there is a person in the image. Whether the 3D effect is valid or invalid may be determined based on the focusing distance L of the photographing lens regardless of whether or not it is performed.

次に、画像振動検出部23の詳細な動作について図5から図7を参照して説明する。画像振動検出部23は、図5に示す問題振動判定処理を実施する。問題振動判定処理は、概略的には、撮影部2により撮影された3D動画像中における被写体の振動を検出し、該振動の振幅が所定の値以上であった場合に、その振動を問題振動として判定する処理である。   Next, the detailed operation of the image vibration detection unit 23 will be described with reference to FIGS. The image vibration detection unit 23 performs a problem vibration determination process shown in FIG. In general, the problem vibration determination process detects the vibration of the subject in the 3D moving image captured by the image capturing unit 2, and if the amplitude of the vibration is a predetermined value or more, the vibration is determined to be a problem vibration. It is the process which determines as.

本実施形態では一例として、図6に示すように、画像振動検出部23は、撮影部2が撮影中の3D動画像の、中央部の上側である領域A1及び中央部の下側である領域A2の二つの領域における、所定の単位時間における被写体の動きベクトルを算出することが可能である。   In the present embodiment, as an example, as illustrated in FIG. 6, the image vibration detection unit 23 includes an area A <b> 1 above the center part and an area below the center part of the 3D moving image being shot by the shooting unit 2. It is possible to calculate the motion vector of the subject in a predetermined unit time in the two areas A2.

まず、ステップS60において、3D動画像の中央部上側の領域A1における動きベクトルX1を算出する。次に、ステップS61において、3D動画像の中央部下側の領域A2における動きベクトルX2を算出する。   First, in step S60, a motion vector X1 in the area A1 above the center of the 3D moving image is calculated. Next, in step S61, a motion vector X2 in the area A2 below the center of the 3D moving image is calculated.

次に、ステップS62及びステップS63に示すように、この2つの領域A1及びA2における動きベクトルX1及びX2の大きさの大小を比較する。例えば、図7に示すように、3D動画像中において被写体が中央部下側を略中心として揺動している場合には、領域A1の動きベクトルX1の大きさの方が、領域A2の動きベクトルX2よりも大きくなる。   Next, as shown in step S62 and step S63, the magnitudes of the magnitudes of the motion vectors X1 and X2 in the two regions A1 and A2 are compared. For example, as shown in FIG. 7, in the 3D moving image, when the subject is swinging about the center lower side as the center, the size of the motion vector X1 in the region A1 is larger than the motion vector in the region A2. It becomes larger than X2.

そして、ステップS64及びS65に示すように、動きベクトルX1及びX2のうちの大きさが大きいと判定された方の動きベクトルの大きさをX3として一時記憶する。また、ステップS64に示すように、領域A1の動きベクトルX1の大きさの方が領域A2の動きベクトルX2よりも大きい場合には、この振動をパターン1として記憶する。一方、、ステップS65に示すように、領域A2の動きベクトルX2の大きさの方が領域A1の動きベクトルX1よりも大きい場合には、この振動をパターン2として記憶する。   Then, as shown in steps S64 and S65, the magnitude of the motion vector determined to be larger among the motion vectors X1 and X2 is temporarily stored as X3. Further, as shown in step S64, when the magnitude of the motion vector X1 in the area A1 is larger than the motion vector X2 in the area A2, this vibration is stored as the pattern 1. On the other hand, when the magnitude of the motion vector X2 in the area A2 is larger than the motion vector X1 in the area A1, as shown in step S65, this vibration is stored as the pattern 2.

次に、ステップS66において、X3の値が、所定のしきい値X0よりも大きいか否かを判定する。すなわち、振動の振幅が所定の値以上であるか否かを判定する。そして、X3の値が、所定のしきい値X0よりも大きければ、ステップS67においてこの振動を問題振動と判定する。   Next, in step S66, it is determined whether or not the value of X3 is larger than a predetermined threshold value X0. That is, it is determined whether or not the amplitude of vibration is greater than or equal to a predetermined value. If the value of X3 is larger than the predetermined threshold value X0, this vibration is determined as a problem vibration in step S67.

なお、本実施形態では、図6に示すように、画像の二つの領域における動きベクトルから被写体の振動を判定するようにしているが、本発明はこの形態に限られるものではない。例えば、画像中の動きベクトルを算出する領域をさらに増やしてもよい。また、被写体が人物である場合には、フレーム間における顔認識部24により認識された人物の顔の位置や角度の変化から、3D動画像中における被写体の振動を判定してもよい。   In this embodiment, as shown in FIG. 6, the vibration of the subject is determined from the motion vectors in the two regions of the image, but the present invention is not limited to this embodiment. For example, the area for calculating the motion vector in the image may be further increased. When the subject is a person, the vibration of the subject in the 3D moving image may be determined from changes in the position and angle of the face of the person recognized by the face recognition unit 24 between frames.

次に、図8を参照して、デジタルカメラ1の動作制御のメインルーチンを説明する。このメインルーチンは、電源スイッチ6が操作されて、デジタルカメラ1が電源オン状態とされることにより開始される。   Next, a main routine for operation control of the digital camera 1 will be described with reference to FIG. This main routine is started when the power switch 6 is operated and the digital camera 1 is turned on.

まず、ステップS01において、電源スイッチ6が操作されてデジタルカメラ1を電源オフ状態とする指示入力がなされたか否かを判定する。電源オフ状態とする指示入力がなされたと判定した場合には、撮影用レンズの位置を所定の位置に移動する等の終了処理を実施した後に、デジタルカメラ1を電源オフ状態とする。   First, in step S01, it is determined whether or not an instruction input for operating the power switch 6 to turn off the digital camera 1 has been made. When it is determined that an instruction to turn off the power has been input, the digital camera 1 is turned off after completion processing such as moving the position of the photographing lens to a predetermined position.

一方、電源オフ状態とする指示入力がなされていないと判定した場合には、ステップS02へ移行し、デジタルカメラ1の動作モードが撮影モードに設定されているか否かを判定する。   On the other hand, if it is determined that an instruction to turn off the power has not been input, the process proceeds to step S02 to determine whether the operation mode of the digital camera 1 is set to the shooting mode.

ステップS02で撮影モードに設定されていないと判定した場合には、ステップS03において、デジタルカメラ1の動作モードが再生モードに設定されているか否かを判定する。ステップS03で再生モードに設定されていないと判定した場合には、動作モードの設定に異常がある旨を画像表示部10に表示してステップS01へ戻る。ステップS03で再生モードに設定されていると判定した場合には、ステップS04において詳しくは後述する再生処理を実行する。   If it is determined in step S02 that the shooting mode is not set, it is determined in step S03 whether the operation mode of the digital camera 1 is set to the playback mode. If it is determined in step S03 that the playback mode is not set, the fact that there is an abnormality in the operation mode setting is displayed on the image display unit 10, and the process returns to step S01. If it is determined in step S03 that the playback mode is set, a playback process described later in detail is executed in step S04.

一方、ステップS02で撮影モードに設定されていると判定した場合には、ステップS10へ移行する。ステップS10及びステップS11では、いわゆるライブビューと称される、被写体の最新のスルー画像を画像表示部10に表示する。具体的には、ステップS10において、撮影部2の左撮影部2a及び右撮影部2bの少なくとも一方によって撮影を行い、ステップS11においてその画像を画像表示部10に表示する。   On the other hand, if it is determined in step S02 that the shooting mode is set, the process proceeds to step S10. In step S10 and step S11, the latest through image of the subject, so-called live view, is displayed on the image display unit 10. Specifically, in step S10, photographing is performed by at least one of the left photographing unit 2a and the right photographing unit 2b of the photographing unit 2, and the image is displayed on the image display unit 10 in step S11.

そして、ステップS12において、図4を参照して説明した3D効果判定処理を実行する。すなわち、ステップS10で撮影した画像について、3D効果が有効であるか否かを判定する。   In step S12, the 3D effect determination process described with reference to FIG. 4 is executed. That is, it is determined whether or not the 3D effect is effective for the image captured in step S10.

ステップS12において、3D効果が有効であると判定した場合には、ステップS14において、効果的に立体的な表示を行うことができる3D静止画像を撮影可能である旨を画像表示部10に表示する。なお、音によって3D効果が有効であることを出力してもよい。また、ステップS10において、左撮影部2a及び右撮影部2bの双方で撮影を行った場合には、ステップS14において左視点画像及び右視点画像を同時に画像表示部10に表示し3D表示を行ってもよい。   If it is determined in step S12 that the 3D effect is effective, in step S14, a message indicating that a 3D still image that can be effectively displayed stereoscopically can be taken is displayed on the image display unit 10. . Note that the sound may indicate that the 3D effect is effective. In step S10, when both the left photographing unit 2a and the right photographing unit 2b are photographed, in step S14, the left viewpoint image and the right viewpoint image are simultaneously displayed on the image display unit 10 to perform 3D display. Also good.

そして、ステップS15及びステップS17において、使用者により静止画像又は動画像の撮影の指示が入力されたか否かを判定する。静止画像又は動画像の撮影の指示が入力されていないと判定した場合には、ステップS01へ戻る。   In step S15 and step S17, it is determined whether or not an instruction for capturing a still image or a moving image is input by the user. If it is determined that an instruction for capturing a still image or a moving image has not been input, the process returns to step S01.

ステップS15において、使用者により静止画撮影スイッチ4が操作され、2D静止画像又は3D静止画像の撮影動作の指示が入力されたと判定した場合には、ステップS16に移行して、撮影部2により2D静止画像又は3D静止画像を撮影し記録部12に記録する。ステップS16において、2D静止画像及び3D静止画像のどちらを撮影して記録するかは、事前に使用者により設定された動作条件に従うものとする。   If it is determined in step S15 that the user has operated the still image shooting switch 4 and an instruction for a 2D still image or 3D still image shooting operation has been input, the process proceeds to step S16 and the shooting unit 2 performs 2D A still image or a 3D still image is captured and recorded in the recording unit 12. In step S16, whether to capture and record a 2D still image or a 3D still image is determined according to the operating conditions set in advance by the user.

なお、3D効果が有効である場合には3D静止画像を撮影し、3D効果が無効である場合には、左撮影部2a及び右撮影部2bの一方のみによって2D静止画像を撮影するように、自動的に撮影部2の動作を切り替える形態であってもよい。このような形態であれば、3D効果が無効である場合に、左撮影部2a及び右撮影部2bの撮影に用いない方を停止させることができるため、消費電力を抑制することができる。また、記録部12の記録容量も節約することができる。   When the 3D effect is valid, a 3D still image is shot. When the 3D effect is invalid, a 2D still image is shot by only one of the left shooting unit 2a and the right shooting unit 2b. A mode in which the operation of the photographing unit 2 is automatically switched may be employed. In such a form, when the 3D effect is invalid, it is possible to stop the left photographing unit 2a and the right photographing unit 2b that are not used for photographing, thereby reducing power consumption. Further, the recording capacity of the recording unit 12 can be saved.

一方、ステップS17において、使用者により動画撮影スイッチ5が操作され、動画像の撮影動作の開始指示が入力されたと判定した場合には、ステップS18に移行し、詳しくは後述する動画像撮影処理を実行する。   On the other hand, if it is determined in step S17 that the user has operated the moving image shooting switch 5 to input a moving image shooting operation start instruction, the process proceeds to step S18, and a moving image shooting process described later in detail is performed. Run.

次に、図9を参照して、ステップS18の動画像撮影処理について説明する。
本実施形態では、動画像撮影処理は、撮影部2の左撮影部2a及び右撮影部2bによって被写体を異なる複数の視点から撮影し、被写体の3D動画像を記録部12に記録するものとする。また詳しくは後述するが、この動画像撮影処理では、3D動画像の撮影中に、画像振動検出部23によって問題振動と判定された振動が所定の周期で所定の時間継続した場合に、この振動の継続期間を振動期間として記録する。
Next, the moving image shooting process in step S18 will be described with reference to FIG.
In the present embodiment, in the moving image shooting process, the left shooting unit 2 a and the right shooting unit 2 b of the shooting unit 2 shoot a subject from a plurality of different viewpoints, and record a 3D moving image of the subject in the recording unit 12. . As will be described in detail later, in this moving image shooting process, when a vibration determined to be a problem vibration by the image vibration detection unit 23 continues for a predetermined period at a predetermined period during the shooting of a 3D moving image, Is recorded as the vibration period.

まず、ステップS30に示すように、3D動画像の撮影を開始する。なお、本実施形態では3D動画像と同期して音声も記録する。そして、ステップS31において、整数の変数である振動期間カウンタMを0とする。   First, as shown in step S30, shooting of a 3D moving image is started. In the present embodiment, sound is also recorded in synchronization with the 3D moving image. In step S31, the vibration period counter M, which is an integer variable, is set to zero.

次に、ステップS32において、動画撮影スイッチ5が再び操作される等により動画像の撮影動作の終了指示が入力されたか否かを判定する。ステップS32において、動画像の撮影動作の終了指示が入力されたと判定した場合には、ステップS50へ移行し、3D動画像及び音声をファイル化して記録部12に記録するとともに、該ファイルに振動期間の情報を紐付けて記録する。   Next, in step S32, it is determined whether or not an instruction to end the moving image shooting operation is input by operating the moving image shooting switch 5 again. If it is determined in step S32 that an instruction to end the shooting operation of the moving image has been input, the process proceeds to step S50, where the 3D moving image and sound are filed and recorded in the recording unit 12, and the vibration period is included in the file. And record the information.

ステップS32において、動画像の撮影動作の終了指示が入力されていないと判定した場合には、ステップS33へ移行し、画像振動検出部23による前述した問題振動判定処理を行う。   If it is determined in step S32 that an instruction to end the moving image shooting operation is not input, the process proceeds to step S33, and the above-described problem vibration determination process is performed by the image vibration detection unit 23.

ステップS33の問題振動判定処理において問題振動が発生したと判定されていなければ、ステップS31へ戻る(ステップS34のNO)。一方、ステップS33の問題振動判定処理において問題振動が発生したと判定されていれば、ステップS35へ移行する(ステップS34のYES)。   If it is not determined that the problem vibration has occurred in the problem vibration determination process in step S33, the process returns to step S31 (NO in step S34). On the other hand, if it is determined that the problem vibration has occurred in the problem vibration determination process in step S33, the process proceeds to step S35 (YES in step S34).

ステップS35では、振動期間カウンタMの値に1を足し、さらに整数の変数である振動回数カウンタNの値を0とする。そして、図10に示す類似振動判定処理を実行する。類似振動判定処理では、ステップS70に示すように、画像振動検出部23による前述した問題振動判定処理を行い、ステップS72に示すように、最新の問題振動と判定された振動が、過去に問題振動と判定された振動と、パターン1及びパターン2のうちの同じパターンであるか否かを判定する。   In step S35, 1 is added to the value of the vibration period counter M, and the value of the vibration frequency counter N, which is an integer variable, is set to 0. Then, the similar vibration determination process shown in FIG. 10 is executed. In the similar vibration determination process, as shown in step S70, the above-described problem vibration determination process is performed by the image vibration detection unit 23. As shown in step S72, the vibration determined to be the latest problem vibration is the problem vibration in the past. It is determined whether the vibration determined to be the same of the pattern 1 and the pattern 2 or not.

ここで、最新の問題振動と判定された振動が、過去に問題振動と判定された振動と、同じパターンであれば、この振動を類似振動と判定する。例えば図7に示すように、3D動画像中において被写体が中央部下側を略中心とした揺動を繰り返した場合には、パターン1の振動が繰り返し発生するため、類似振動が発生したと判定する。   Here, if the vibration determined as the latest problem vibration is the same pattern as the vibration determined as the problem vibration in the past, this vibration is determined as a similar vibration. For example, as shown in FIG. 7, when the subject repeatedly swings around the lower center portion in the 3D moving image, the vibration of the pattern 1 is repeatedly generated, so it is determined that the similar vibration has occurred. .

類似振動は発生していないと判定した場合(ステップS37のNO)には、ステップS49において、振動期間カウンタMの値から1を引き、ステップS32に戻る。一方、類似振動が発生したと判定した場合(ステップS37のYES)には、ステップS38において、類似振動の発生時刻と、当該類似振動と同様のパターンであると判定された前回の振動の発生時刻との間の間隔が、所定の範囲内であるか否かを判定する。   If it is determined that no similar vibration has occurred (NO in step S37), 1 is subtracted from the value of the vibration period counter M in step S49, and the process returns to step S32. On the other hand, when it is determined that the similar vibration has occurred (YES in step S37), the generation time of the similar vibration and the previous vibration generation time determined to be the same pattern as the similar vibration in step S38. It is determined whether or not the interval between is within a predetermined range.

すなわち、ステップS38においては、同様のパターンの問題振動の発生周期が、所定の範囲内であるか否かを判定する。ここで、所定の範囲は、一例として0.1秒から1秒程度とする。   That is, in step S38, it is determined whether or not the generation cycle of the problem vibration having the same pattern is within a predetermined range. Here, the predetermined range is, for example, about 0.1 to 1 second.

ステップS38の判定において、同様のパターンの問題振動の発生間隔が所定の範囲外であった場合(ステップS38のNO)には、ステップS49において、振動期間カウンタMの値から1を引き、ステップS32に戻る。   If it is determined in step S38 that the problem vibration occurrence pattern of the same pattern is outside the predetermined range (NO in step S38), 1 is subtracted from the value of the vibration period counter M in step S49, and step S32 is executed. Return to.

一方、ステップS38の判定において、同様のパターンの問題振動の発生間隔が所定の範囲内であった場合(ステップS38のYES)には、ステップS39において、振動回数カウンタNの値に1を足す。   On the other hand, if it is determined in step S38 that the problem vibration occurrence interval of the same pattern is within the predetermined range (YES in step S38), 1 is added to the value of the vibration counter N in step S39.

そして、ステップS40において、振動回数カウンタNの値が3より大きいか否かを判定する。すなわち、ステップS40では、同様のパターンの問題振動が、所定の回数以上繰り返されたか否かを判定する。振動回数カウンタNの値が3以下であれば、ステップS36へ戻り、振動回数カウンタNの値が3より大きければ、ステップS41へ移行する。   In step S40, it is determined whether or not the value of the vibration frequency counter N is greater than 3. That is, in step S40, it is determined whether the same pattern of problem vibrations has been repeated a predetermined number of times or more. If the value of the vibration counter N is 3 or less, the process returns to step S36. If the value of the vibration counter N is greater than 3, the process proceeds to step S41.

ステップS41では、第M回目の振動期間の開始時刻ts(M)として、現在の時刻を記録する。そして、ステップS42において、タイマーTwの値を0とする。ここで、タイマーTwは、カウントアップタイマーであり、すなわち、ステップS42の時点から計時を開始する。   In step S41, the current time is recorded as the start time ts (M) of the Mth vibration period. In step S42, the value of the timer Tw is set to zero. Here, the timer Tw is a count-up timer, that is, starts counting from the time of step S42.

そして、ステップ43において、前述した類似振動判定処理を実行する。ステップS43の類似振動判定処理において、類似振動が発生したと判定された場合(ステップS44のYES)には、ステップS42へ戻る。すなわち、類似振動が繰り返し発生している間は、タイマーTwの値は0にリセットされ続ける。   In step 43, the above-described similar vibration determination process is executed. If it is determined in the similar vibration determination process in step S43 that similar vibration has occurred (YES in step S44), the process returns to step S42. That is, while the similar vibration is repeatedly generated, the value of the timer Tw is continuously reset to 0.

ステップS43の類似振動判定処理において、類似振動は発生していないと判定された場合(ステップS44のNO)には、ステップS45へ移行し、タイマーTwの値が5秒よりも大きいか否かを判定する。ステップS45において、タイマーTwの値が5秒以下の場合には、ステップS43に戻る。   If it is determined in the similar vibration determination process in step S43 that no similar vibration has occurred (NO in step S44), the process proceeds to step S45, and it is determined whether or not the value of the timer Tw is greater than 5 seconds. judge. In step S45, when the value of the timer Tw is 5 seconds or less, the process returns to step S43.

一方、ステップS45において、タイマーTwの値が5秒より大きい場合、すなわち類似振動が5秒間よりも長い期間発生していない場合には、ステップS46へ移行する。ステップS46では、第M回目の振動期間の終了時刻te(M)として、現在の時刻を記録する。   On the other hand, if the value of the timer Tw is greater than 5 seconds in step S45, that is, if the similar vibration has not occurred for a period longer than 5 seconds, the process proceeds to step S46. In step S46, the current time is recorded as the end time te (M) of the Mth vibration period.

以上に説明したように、本実施形態の動画像撮影処理では、振動方向(パターン)が類似した所定の振幅以上の被写体の問題振動が、0.1秒から1秒の間の周期で4回以上繰り返し生じた場合に、振動期間の開始時刻ts(M)を記録する。   As described above, in the moving image shooting process according to the present embodiment, problem vibrations of a subject having a predetermined vibration amplitude (pattern) with a similar amplitude or more are generated four times in a period between 0.1 second and 1 second. When it repeats, the vibration period start time ts (M) is recorded.

そして、この問題振動が発生しなくなった後に、タイマーTwの値が5秒を超えた時点で、振動期間の終了時刻te(M)を記録する。このタイマーTwの値が5秒に達するまで、すなわち現在の振動期間の継続中に新たにパターンが類似した問題振動が生じた場合には、再びタイマーTwの値を0として、5秒間の振動期間の延長を行う。   Then, after the problem vibration no longer occurs, when the value of the timer Tw exceeds 5 seconds, the end time te (M) of the vibration period is recorded. Until the value of the timer Tw reaches 5 seconds, that is, when a problem vibration having a similar pattern is newly generated while the current vibration period continues, the value of the timer Tw is set to 0 again, and the vibration period of 5 seconds. To extend.

なお、本実施形態では、0.1秒から1秒の間の周期の被写体の振動が問題振動であるとしているが、この周期の値は本実施形態に限られるものではない。この問題振動の周期及び振幅は、あらかじめ設定された値の他に、使用者がその値を変更可能であってもよい。   In the present embodiment, it is assumed that the vibration of the subject having a period between 0.1 second and 1 second is a problem vibration. However, the value of this period is not limited to this embodiment. The period and amplitude of the problem vibration may be changed by the user in addition to a preset value.

次に、図11を参照して、ステップS04の再生処理について説明する。
再生処理は、ステップ80に示すように、デジタルカメラ1の動作モードが再生モードに設定されている期間中に実施される。再生処理では、まずステップS81において、記録部12に記録されている静止画像及び動画像の一覧を画像表示部10に表示する、いわゆるサムネイル表示を行う。
Next, the reproduction process in step S04 will be described with reference to FIG.
As shown in step 80, the reproduction process is performed during the period in which the operation mode of the digital camera 1 is set to the reproduction mode. In the reproduction process, first, in step S81, a so-called thumbnail display is performed in which a list of still images and moving images recorded in the recording unit 12 is displayed on the image display unit 10.

そして、ステップS82において、使用者により、静止画像及び動画像のうちのいずれかを選択する指示が操作部材により入力されたと判定した場合には、ステップS83に移行して、選択されたものが静止画像であるか動画像であるかを判定する。   If it is determined in step S82 that the user inputs an instruction to select either a still image or a moving image from the operation member, the process proceeds to step S83, and the selected one is stationary. Whether it is an image or a moving image is determined.

静止画像が選択された場合には、ステップS84において、選択された静止画像を画像表示部10に拡大して表示する。ここで、使用者が十字スイッチ9を操作する等により送り指示が入力されたと判定した場合(ステップS85のYES)には、次の静止画像又は動画像が選択されたものとしてステップS83へ戻る。また、使用者がズーム操作スイッチ8を操作する等により一覧表示指示が入力されたと判定した場合(ステップS86のYES)には、ステップS80へ戻る。   If a still image is selected, the selected still image is enlarged and displayed on the image display unit 10 in step S84. Here, when it is determined that the user has input a feed instruction by operating the cross switch 9 or the like (YES in step S85), the process returns to step S83 assuming that the next still image or moving image is selected. If it is determined that a list display instruction has been input by operating the zoom operation switch 8 or the like (YES in step S86), the process returns to step S80.

一方、ステップS83で使用者により選択されたものが3D動画像であると判定した場合には、ステップS90において、選択された3D動画像に紐付けられて記録された振動期間の情報を読み出す。   On the other hand, if it is determined in step S83 that the image selected by the user is a 3D moving image, in step S90, information on the vibration period associated with the selected 3D moving image is read.

次にステップS91において、選択された3D動画像を再生し画像表示部10に表示する。この3D動画像の再生動作時においては、ステップS92及びステップS93に示すように、動画像の再生時間が振動期間中である場合には、3D動画像を2D動画像として画像表示部10に表示する。ここで、振動期間中とは、前述したように、記録部12に記録された振動期間の開始時刻ts(M)と終了時刻ts(M)との間の期間のことである。   Next, in step S91, the selected 3D moving image is reproduced and displayed on the image display unit 10. During the playback operation of this 3D moving image, as shown in step S92 and step S93, when the playback time of the moving image is in the vibration period, the 3D moving image is displayed on the image display unit 10 as a 2D moving image. To do. Here, during the vibration period, as described above, it is a period between the start time ts (M) and the end time ts (M) of the vibration period recorded in the recording unit 12.

3D動画像を2D動画像として表示するためには、左撮影部2a及び右撮影部2bにより撮影された画像のうちの一方を、左視点画像及び右視点画像として同時に表示すればよい。なお、ステップS93において、3D動画像と同時に記録された音声は、2D動画像として表示している間もそのまま再生しスピーカ7から出力する。   In order to display a 3D moving image as a 2D moving image, one of images captured by the left photographing unit 2a and the right photographing unit 2b may be displayed simultaneously as a left viewpoint image and a right viewpoint image. In step S93, the sound recorded simultaneously with the 3D moving image is reproduced as it is and displayed from the speaker 7 while being displayed as the 2D moving image.

そして、ステップS94に示すように、再生中の3D動画像の再生が終了する、または再生処理の終了指示が操作部材により入力されるまで、各フレームについてステップS92の判定を繰り返す。   Then, as shown in step S94, the determination in step S92 is repeated for each frame until the reproduction of the 3D moving image being reproduced ends or an instruction to end the reproduction process is input by the operation member.

以上のように、本実施形態では、3D動画像の再生であっても、被写体の所定の領域の周期の振動が発生している振動期間については、当該3D動画像を2D動画像として再生し表示する。   As described above, in the present embodiment, even when a 3D moving image is played back, the 3D moving image is played back as a 2D moving image during a vibration period in which vibration of a predetermined region of the subject is generated. indicate.

以上に説明したように、本実施形態のデジタルカメラ1は、3D動画像の撮影時において、3D動画像中の被写体の所定の周期の振動を検出し、その振動が発生している振動期間を3D動画像とともに記録部12に記録する。そして、画像表示部10にこの3D動画像を再生して表示する場合には、3D動画像中の被写体の所定の周期の振動が検出された振動期間中は、3D動画像を2D動画像として表示する。   As described above, the digital camera 1 according to the present embodiment detects vibrations of a predetermined period of a subject in a 3D moving image and captures a vibration period during which the vibration is generated when capturing a 3D moving image. Recorded in the recording unit 12 together with the 3D moving image. When the 3D moving image is reproduced and displayed on the image display unit 10, the 3D moving image is set as a 2D moving image during the vibration period in which the vibration of the subject in the 3D moving image is detected. indicate.

このため、本実施形態のデジタルカメラ1は、鑑賞者に不快感を与えやすい周期で被写体が振動している状態の3D動画像を表示することがないため、鑑賞者に不快感を与えることなく3D動画像を表示することができる。   For this reason, the digital camera 1 according to the present embodiment does not display a 3D moving image in a state where the subject vibrates at a period in which it is easy for the viewer to feel uncomfortable. 3D moving images can be displayed.

なお、上述した実施形態では、画像振動検出部23は、3D画像中における被写体の振動を検出するものとしたが、画像振動検出部23は、3D画像中の動きベクトルに基づいて被写体の急激な拡大や縮小も検出するものであってもよい。この場合、急激なズーム動作等による被写体の拡大や縮小によって鑑賞者に不快感を与えることも防止することができる。   In the above-described embodiment, the image vibration detection unit 23 detects the vibration of the subject in the 3D image. However, the image vibration detection unit 23 detects the sudden movement of the subject based on the motion vector in the 3D image. You may detect expansion and reduction. In this case, it is possible to prevent the viewer from feeling uncomfortable due to enlargement or reduction of the subject due to a sudden zoom operation or the like.

(第2の実施形態)
以下に、図12を参照して本発明の第2の実施形態を説明する。第2の実施形態は、上述した第1の実施形態に比して画像振動検出部23の構成のみが異なる。以下ではこの相違点のみを説明するものとし、また、第1の実施形態と同様の構成要素については同一の符号を付し、その説明を適宜に省略するものとする。
(Second Embodiment)
Hereinafter, a second embodiment of the present invention will be described with reference to FIG. The second embodiment differs from the first embodiment described above only in the configuration of the image vibration detection unit 23. Hereinafter, only this difference will be described, and the same components as those in the first embodiment are denoted by the same reference numerals, and the description thereof will be omitted as appropriate.

本実施形態では、図12に示すように、画像振動検出部23は、振動検出センサ25を具備して構成されている。振動検出センサ25は、デジタルカメラ1の振動を検出するためのものであって、例えば角加速度センサや、加速度センサ等により構成されている。   In the present embodiment, as shown in FIG. 12, the image vibration detection unit 23 includes a vibration detection sensor 25. The vibration detection sensor 25 is for detecting the vibration of the digital camera 1 and is composed of, for example, an angular acceleration sensor, an acceleration sensor, or the like.

画像振動検出部23は、この振動検出センサ25により検出されたデジタルカメラ1の振動の状態、及び撮影部2の撮影用レンズの焦点距離Zに基づいて、3D動画像中における被写体の振動を算出し、被写体の所定の周期の振動を検出する。   The image vibration detection unit 23 calculates the vibration of the subject in the 3D moving image based on the vibration state of the digital camera 1 detected by the vibration detection sensor 25 and the focal length Z of the photographing lens of the photographing unit 2. Then, vibration of a predetermined cycle of the subject is detected.

このような構成であれば、3D動画像のフレーム間の比較から被写体の動きベクトルを算出するという比較的処理能力を必要とする処理が不要となるため、第1の実施形態に比して消費電力を抑えることができる。また、振動検出センサ25は、いわゆる手ぶれ防止機構に用いられる手ぶれ検出用のセンサと併用することができる。   Such a configuration eliminates the need for processing that requires a relatively high processing capability of calculating a motion vector of a subject from comparison between frames of a 3D moving image. Power can be reduced. The vibration detection sensor 25 can be used in combination with a camera shake detection sensor used in a so-called camera shake prevention mechanism.

なお、本発明は、上述した各実施形態に限られるものではなく、請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う撮像装置もまた本発明の技術的範囲に含まれるものである。   Note that the present invention is not limited to the above-described embodiments, and can be appropriately changed without departing from the spirit or idea of the invention that can be read from the claims and the entire specification. The apparatus is also included in the technical scope of the present invention.

例えば、上述した実施形態では、3D動画像の撮影中に鑑賞者に不快感を与えやすい周期で被写体が振動している状態を検出するものとしたが、3D静止画像であっても、右視点画像及び左視点画像の少なくとも一方に像のブレが生じた場合には、鑑賞者に不快感を与えてしまうことがある。したがって、3D静止画像を撮影可能な撮像装置であって、3D静止画像の撮影時に右視点画像及び左視点画像の少なくとも一方に像のブレが検出された場合には、2D静止画像として記録する、またはブレが検出された3D静止画像を2D静止画像として表示する撮像装置も本発明に含まれる。   For example, in the above-described embodiment, the state in which the subject vibrates with a period that is likely to cause discomfort to the viewer during shooting of the 3D moving image is detected. If image blurring occurs in at least one of the image and the left viewpoint image, the viewer may be uncomfortable. Therefore, the imaging device is capable of capturing a 3D still image, and when blurring of an image is detected in at least one of the right viewpoint image and the left viewpoint image when capturing the 3D still image, the image is recorded as a 2D still image. Alternatively, an imaging apparatus that displays a 3D still image in which blur is detected as a 2D still image is also included in the present invention.

また上述した実施形態では、デジタルカメラ1は、2つの視点に対応する一対の左撮影部2a及び右撮影部2bを具備してなるが、例えば単一の撮影部を有する2台のデジタルカメラを組み合わせて使用し、該2台のデジタルカメラを有線又は無線による通信により略同期させて動作させる構成にも本発明は適用可能である。   In the above-described embodiment, the digital camera 1 includes a pair of the left photographing unit 2a and the right photographing unit 2b corresponding to two viewpoints. For example, two digital cameras having a single photographing unit are provided. The present invention can also be applied to a configuration in which the two digital cameras are used in combination and operated in a substantially synchronized manner by wired or wireless communication.

本発明は、上述の実施形態で説明したデジタルカメラに限らず、撮影機能を備えた録音機器、携帯電話、PDA、パーソナルコンピューター、ゲーム機、デジタルメディアプレーヤー、テレビ、GPS、時計等の電子機器にも適用可能である。   The present invention is not limited to the digital camera described in the above-described embodiment, and is applied to electronic devices such as a recording device, a mobile phone, a PDA, a personal computer, a game machine, a digital media player, a television, a GPS, and a clock having a photographing function. Is also applicable.

1 デジタルデジタルカメラ、
2 撮影部、
2a 左撮影部、
2b 右撮影部、
3 マイクロホン、
4 静止画撮影スイッチ、
5 動画撮影スイッチ5、
6 電源スイッチ、
8 ズーム操作スイッチ、
9 十字スイッチ9、
10 画像表示部、
11 操作判定部、
12 記録部、
13 時計部、
20 制御部、
21 画像処理部、
22 被写体状況判定部、
23 画像振動検出部、
24 顔認識部。
1 Digital digital camera,
2 Shooting department,
2a Left shooting part,
2b Right shooting part,
3 Microphone,
4 Still image shooting switch,
5 Movie shooting switch 5,
6 Power switch,
8 Zoom operation switch,
9 Cross switch 9,
10 Image display section,
11 Operation determination unit,
12 Recording section,
13 Clock part,
20 control unit,
21 Image processing unit,
22 Subject status determination unit,
23 Image vibration detection unit,
24 Face recognition unit.

Claims (2)

視差を有する複数の視点から被写体を撮影することによって3D動画像を撮影することが可能な撮影部と、
前記3D動画像中における前記被写体の所定の周期の類似した振動を検出する画像振動検出部と、
前記3D動画像と、当該3D動画像の撮影中に前記画像振動検出部により検出された前記被写体の類似した振動が所定の周期で所定の回数以上継続して発生している振動期間と、を関連づけて記録する記録部と、
前記3D動画像を再生して表示可能な画像表示部と、
を具備し、
前記画像表示部において、前記3D動画像を表示する際に、当該3D動画像に関連付けられて前記記録部に記録された前記振動期間中は、前記3D動画像を、2D動画像として表示するように制御することを特徴とする撮像装置。
A photographing unit capable of photographing a 3D moving image by photographing a subject from a plurality of viewpoints having parallax;
An image vibration detection unit for detecting similar vibrations of the subject in a predetermined cycle in the 3D moving image;
The 3D moving image, and a vibration period in which similar vibrations of the subject detected by the image vibration detecting unit during the shooting of the 3D moving image are continuously generated at a predetermined frequency for a predetermined number of times. A recording unit for recording in association;
An image display unit capable of reproducing and displaying the 3D moving image ;
Comprising
In the image display unit, the when displaying 3D moving image, the in vibration period recorded in the recording unit associated with the 3D moving image, the 3D moving image, to display a 2D video image An image pickup apparatus that is controlled to the above.
視差を有する複数の視点から被写体を撮影することによって3D動画像を撮影することが可能な撮影部と、
前記3D動画像中における前記被写体の所定の周期の類似した振動を検出する画像振動検出部と、
前記3D動画像と、当該3D動画像の撮影中に前記画像振動検出部により検出された前記被写体の類似した振動が所定の周期で所定の回数以上継続して発生している振動期間と、を関連づけて記録する記録部と、
を具備することを特徴とする撮像装置。
A photographing unit capable of photographing a 3D moving image by photographing a subject from a plurality of viewpoints having parallax;
An image vibration detection unit for detecting similar vibrations of the subject in a predetermined cycle in the 3D moving image;
The 3D moving image, and a vibration period in which similar vibrations of the subject detected by the image vibration detecting unit during the shooting of the 3D moving image are continuously generated at a predetermined frequency for a predetermined number of times. A recording unit for recording in association;
An imaging apparatus comprising:
JP2009115908A 2009-05-12 2009-05-12 Imaging device Expired - Fee Related JP5415820B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009115908A JP5415820B2 (en) 2009-05-12 2009-05-12 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009115908A JP5415820B2 (en) 2009-05-12 2009-05-12 Imaging device

Publications (2)

Publication Number Publication Date
JP2010268078A JP2010268078A (en) 2010-11-25
JP5415820B2 true JP5415820B2 (en) 2014-02-12

Family

ID=43364730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009115908A Expired - Fee Related JP5415820B2 (en) 2009-05-12 2009-05-12 Imaging device

Country Status (1)

Country Link
JP (1) JP5415820B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5867673B2 (en) * 2011-04-15 2016-02-24 株式会社ニコン Imaging device
DE102015215840B4 (en) * 2015-08-19 2017-03-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. A multi-aperture imaging apparatus, imaging system, and method of providing a multi-aperture imaging apparatus
DE102015215837A1 (en) * 2015-08-19 2017-02-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-aperture imaging apparatus, method of making same and imaging system
DE102015215841B4 (en) * 2015-08-19 2017-06-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus with a multi-channel imaging device and method of making the same
DE102015220566B4 (en) * 2015-10-21 2021-03-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Device with a multi-aperture imaging device, method for providing the same and method for capturing an entire field of view

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005167310A (en) * 2003-11-28 2005-06-23 Sharp Corp Photographing apparatus

Also Published As

Publication number Publication date
JP2010268078A (en) 2010-11-25

Similar Documents

Publication Publication Date Title
JP2010252046A (en) Image pickup apparatus
JP4903888B2 (en) Image display device, image display method, and image correction method
US8810683B2 (en) Method of controlling image capturing based on a distance to an object
US8743181B2 (en) Image pickup apparatus
JPWO2013027343A1 (en) Three-dimensional imaging device, lens control device, and program
JP5267421B2 (en) Imaging apparatus, image processing method, and program
CN101572775B (en) Image recording and playback device, and image recording and playback method
JP5415820B2 (en) Imaging device
US8773506B2 (en) Image output device, method and program
JP2009103980A (en) Photographic device, image processor, and photographic ystem
JP2013123153A (en) Image processing apparatus, control method therefor, and program
JP2012090259A (en) Imaging apparatus
CN103329549B (en) Dimensional video processor, stereoscopic imaging apparatus and three-dimensional video-frequency processing method
WO2014141653A1 (en) Image generation device, imaging device, and image generation method
CN103339948B (en) 3D video playing device, 3D imaging device, and 3D video playing method
JP5580486B2 (en) Image output apparatus, method and program
JP6700693B2 (en) Imaging device, control method thereof, program, and storage medium
JP2013085239A (en) Imaging apparatus
JP2011030123A (en) Imaging apparatus, control method of the same, and computer program
JP5222718B2 (en) Stereoscopic image reproduction apparatus, stereoscopic image reproduction program, and imaging apparatus
JP2012129697A (en) Image display device, image display method, and imaging device using them
JP5812244B2 (en) Imaging apparatus, imaging method, and program
WO2015075957A1 (en) Image capture device, image capture method, and program
JP2021092672A (en) Imaging apparatus
JP2003032704A (en) Photographing apparatus and method therefor, program and recording medium having recorded program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130415

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130802

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131022

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131114

R151 Written notification of patent or utility model registration

Ref document number: 5415820

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees