JP2008005427A - Imaging apparatus and imaging method, and program - Google Patents
Imaging apparatus and imaging method, and program Download PDFInfo
- Publication number
- JP2008005427A JP2008005427A JP2006175632A JP2006175632A JP2008005427A JP 2008005427 A JP2008005427 A JP 2008005427A JP 2006175632 A JP2006175632 A JP 2006175632A JP 2006175632 A JP2006175632 A JP 2006175632A JP 2008005427 A JP2008005427 A JP 2008005427A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image signal
- information
- face
- generated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
Description
本発明は、撮像装置および撮像方法、並びにプログラムに関し、特に、撮像した画像の天地方向を画像信号に対応付けて記録するようにした撮像装置および撮像方法、並びにプログラムに関する。 The present invention relates to an imaging apparatus, an imaging method, and a program, and more particularly, to an imaging apparatus, an imaging method, and a program that record the top-and-bottom direction of a captured image in association with an image signal.
デジタルスチルカメラやデジタルビデオカメラで撮影した画像をディスプレイに表示する際、画像が横に90°傾いて表示されたり、上下逆さまに表示されたりしないように、撮像時に画像の天地方向を示す情報を取得することが望ましい。 When displaying an image taken with a digital still camera or digital video camera on the display, information indicating the top-to-bottom direction of the image is taken so that the image is not tilted 90 ° horizontally or upside down. It is desirable to obtain.
従来、撮像時に画像天地方向を取得する方法として、重力方向を検出する重力センサをカメラに設け、検知した重力方向を画像天地方向とする方法がある(例えば、特許文献1参照)。 Conventionally, as a method of acquiring the image top-and-bottom direction at the time of imaging, there is a method in which a gravitational sensor that detects the direction of gravity is provided in the camera and the detected gravity direction is set to the image top-and-bottom direction (see, for example, Patent Document 1).
しかしながら、重力方向を画像の天地方向とする方法は、重力センサを設けることによりコスト高となってしまう。また例えば加速中の乗り物内で撮影した場合、重力方向と画像の天地方向とが一致しなかったりすることがあった。また例えば、高所から下方を見下ろして被写体を撮像するような場合、重力方向がカメラの光軸と一致し、画像の天地方向が判断できないことがあった。 However, the method of setting the gravity direction as the top-to-bottom direction of the image increases the cost by providing a gravity sensor. In addition, for example, when shooting in an accelerating vehicle, the direction of gravity may not match the vertical direction of the image. Further, for example, when a subject is imaged looking down from a high place, the gravity direction coincides with the optical axis of the camera, and the vertical direction of the image may not be determined.
本発明はこのような状況に鑑みてなされたものであり、重力センサなどを新たに設けることなく、画像の天地方向を正確に検出し、記録できるようにするものである。 The present invention has been made in view of such a situation, and makes it possible to accurately detect and record the vertical direction of an image without newly providing a gravity sensor or the like.
本発明の一側面である撮像装置は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置において、被写体を撮影して前記被写体に対応する画像信号を生成する生成手段と、生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段と、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段と、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段とを含む。 An imaging apparatus according to an aspect of the present invention is an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium, and a generation unit that captures the subject and generates an image signal corresponding to the subject. Detecting means for detecting a human face from an image of the image signal, and generating face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face; Meta information generating means for generating meta information corresponding to the image signal including face detection information, and recording means for associating the image signal and the meta information with each other and recording them on the recording medium.
前記検出手段は、生成された前記画像信号の画像に回転角を設定し、回転した状態の前記画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報としての前記回転角を含む顔検出情報を生成するようにすることができる。 The detection means sets a rotation angle for the generated image signal, detects a human face from the rotated image, and detects the relative direction of the detected image in the vertical direction of the face. It is possible to generate face detection information including the rotation angle as the first direction information indicating.
本発明の一側面である撮像装置は、撮像時の手ブレを検知する検知手段をさらに含むことができ、前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、検知された前記手ブレに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成するようにすることができる。 The imaging apparatus according to an aspect of the present invention may further include a detection unit that detects camera shake during imaging, and the meta information generation unit detects the detected face detection information when the face detection information is not generated. Based on camera shake, second direction information indicating the vertical direction of the image of the generated image signal is generated, and meta information corresponding to the image signal is generated including the generated second direction information. Can be.
本発明の一側面である撮像装置は、生成された前記画像信号を符号化する符号化手段をさらに含むことができ、前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、前記符号化の過程で算出される前記画像信号の画像上の動きベクトルと、検知された前記手ブレとに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成するようにすることができる。 The imaging apparatus according to an aspect of the present invention may further include an encoding unit that encodes the generated image signal, and the meta information generation unit is configured such that when the face detection information is not generated, Generate second direction information indicating the vertical direction of the image of the generated image signal based on the motion vector on the image of the image signal calculated in the process of encoding and the detected camera shake. Then, it is possible to generate meta information corresponding to the image signal including the generated second direction information.
前記記録手段は、前記記録媒体の異なる記録領域に前記画像信号と前記メタ情報とを対応付けて記録するようにすることができる。 The recording means can record the image signal and the meta information in association with each other in different recording areas of the recording medium.
本発明の一側面である撮像装置は、前記記録媒体から再生された画像信号を表示するとき、前記画像信号に対応する前記メタ情報に含まれる第1または第2の方向情報に基づき、前記画像信号の画像を回転させる回転手段をさらに含むことができる。 The image pickup apparatus according to one aspect of the present invention, when displaying an image signal reproduced from the recording medium, based on the first or second direction information included in the meta information corresponding to the image signal, Rotating means for rotating the image of the signal may be further included.
本発明の一側面である撮像方法は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の撮像方法において、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録するステップを含む。 An imaging method according to an aspect of the present invention is an imaging method of an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium. A face is detected, face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face is generated, and a meta corresponding to the image signal including the face detection information is generated. Generating information, and associating and recording the image signal and the meta information on the recording medium.
本発明の一側面であるプログラムは、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の制御用のプログラムであって、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録させるステップを含む処理をコンピュータに実行させる。 A program according to one aspect of the present invention is a program for controlling an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium, and the program is performed on the image of the image signal corresponding to the subject. A face of the person is detected, face detection information including first direction information indicating a relative direction of the detected image in the vertical direction of the face is generated, and the face detection information is included in the image signal. Corresponding meta information is generated, and the computer is caused to execute a process including a step of associating the image signal with the meta information and recording it on the recording medium.
本発明の一側面においては、被写体に対応する画像信号の画像上から人の顔が検出され、検出された顔の上下方向の画像における相対的な方向を示す第1の方向情報を含む顔検出情報が生成され、この顔検出情報を含めて画像信号に対応するメタ情報が生成され、画像信号とメタ情報とが対応付けて記録媒体に記録される。 In one aspect of the present invention, a human face is detected from an image of an image signal corresponding to a subject, and face detection includes first direction information indicating a relative direction in an image in the vertical direction of the detected face. Information is generated, meta information corresponding to the image signal including the face detection information is generated, and the image signal and the meta information are associated with each other and recorded on the recording medium.
本発明の一側面によれば、画像の天地方向を正確に検出し、記録することができる。 According to one aspect of the present invention, the top-to-bottom direction of an image can be accurately detected and recorded.
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。 Embodiments of the present invention will be described below. Correspondences between constituent elements of the present invention and the embodiments described in the specification or the drawings are exemplified as follows. This description is intended to confirm that the embodiments supporting the present invention are described in the specification or the drawings. Therefore, even if there is an embodiment which is described in the specification or the drawings but is not described here as an embodiment corresponding to the constituent elements of the present invention, that is not the case. It does not mean that the form does not correspond to the constituent requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.
請求項1に記載の撮像装置は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置(例えば、図1の撮像装置10)において、被写体を撮影して前記被写体に対応する画像信号を生成する生成手段(例えば、図1の撮像部11)と、生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段(例えば、図3の顔検出部52)と、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段(例えば、図1の制御部21)と、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段(例えば、図1のメディアドライブ16)とを含む。
The image pickup apparatus according to
請求項3に記載の撮像装置は、撮像時の手ブレを検知する検知手段(例えば、図1の手ブレ検知部12)をさらに含む。
The image pickup apparatus according to a third aspect further includes a detection unit (for example, a camera
請求項4に記載の撮像装置は、生成された前記画像信号を符号化する符号化手段(例えば、図1の符号化復号部15)をさらに含む。
The imaging apparatus according to a fourth aspect further includes an encoding unit (for example, the encoding /
請求項6に記載の撮像装置は、前記記録媒体から再生された画像信号を表示するとき、前記画像信号に対応する前記メタ情報に含まれる第1または第2の方向情報に基づき、前記画像信号の画像を回転させる回転手段(例えば、図2の画像信号回転部39)をさらに含む。
The image pickup apparatus according to claim 6, when displaying an image signal reproduced from the recording medium, based on the first or second direction information included in the meta information corresponding to the image signal. Rotating means (for example, the image
請求項7に記載の撮像方法および請求項8に記載のプログラムは、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し(例えば、図7のステップS1)、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し(例えば、図7のステップS3)、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する(例えば、図7のステップS4)ステップを含む。 The imaging method according to claim 7 and the program according to claim 8 shoot a subject, detect a human face from an image of an image signal corresponding to the subject, and detect the face in the vertical direction of the detected face. Face detection information including first direction information indicating a relative direction in the image is generated (for example, step S1 in FIG. 7), and meta information corresponding to the image signal including the face detection information is generated ( For example, step S3 in FIG. 7 includes the step of recording the image signal and the meta information in association with each other on the recording medium (for example, step S4 in FIG. 7).
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。 Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings.
図1は、本発明の一実施の形態である撮像装置の構成例を示している。この撮像装置10は、動画像や静止画像を撮像して記録メディアに記録し、また記録メディアから再生した動画像や静止画像を表示するものである。 FIG. 1 shows a configuration example of an imaging apparatus according to an embodiment of the present invention. The imaging apparatus 10 captures a moving image or a still image, records it on a recording medium, and displays a moving image or a still image reproduced from the recording medium.
この撮像装置10は、被写体の光学像に対応する画像信号を生成する撮像部11、画像信号に所定の画像処理を行う画像信号処理部14、画像信号を符号化した、また復号する符号化復号部15、記録メディア17に対して画像信号などを記録し、また読み出すメディアドライブ16、撮像された画像や各種の設定画面などを表示する表示部18、ユーザの操作を受け付ける操作部19、およびメモリ20に記録されている制御用プログラムを実行することによって撮像装置10の全体を制御する制御部21から構成される。
The imaging apparatus 10 includes an
撮像部11は、レンズ群、絞り、およびCCD(Charge Coupled Device)などの撮像素子を含み、レンズ群によって集束された被写体の光学像を撮像素子によって画像信号に変換して画像信号処理部14に出力する。また撮像部11は、手ブレ検知部12および手ブレ補正部13をないぞうジャイロセンサなどから成り、ユーザの手ブレを検知する手ブレ検知部12、手ブレに起因する画像信号の劣化を補正する手ブレ補正部13を内蔵する。なお、検知された手ブレを示す情報は制御部21にも通知され、画像の回転角の決定に利用される。
The
画像信号処理部14は、撮像部11から入力される画像信号や符号化復号部15から入力される復号された画像信号に所定の画像処理を施して符号化復号部15または表示部18に出力する。また画像信号処理部14は、撮像部11から入力される画像信号の画像上から人の顔を検出し、検出結果として顔検出情報を制御部21に通知する。通知された顔検出情報はメタ情報に含めて記録され、画像を再生して表示するとき、画像の回転角の決定に利用される。
The image
図2は、画像信号処理部14の構成例を示している。画像信号処理部14は、画像信号のノイズ成分を除去するノイズ除去部31、画像信号の画枠サイズを変更するサイズ変更部33、画像信号に所定の画像処理を施す信号変換部34、画像信号の画像上から人の顔を検出する画像情報検出部35、画像信号の画像に他の画像を合成する画像合成部36、画像信号の出力先を切り換えるセレクタ38、および、表示されたとき見易くなるように画像回転角に基づいて画像を回転させる画像信号回転部39から構成される。
FIG. 2 shows a configuration example of the image
ノイズ除去部31は、撮像部11から入力される画像信号とフレームメモリ32に記録されている1フレーム前のノイズ除去済みの画像信号とを比較することにより、撮像部11から入力される画像信号のノイズ成分を検出し、検出したノイズ成分を当該画像信号から除去する。ノイズ成分を除去した画像信号は、後段のサイズ変更部33に供給されるとともに、フレームメモリ32に上書き保存される。
The
サイズ変更部33は、前段から入力される画像信号の画枠サイズを、適宜、拡大または縮小して信号変換部34に出力する。信号変換部34は、ユーザからの設定に基づき、前段から入力される画像信号にセピアカラー化処理、モザイク化処理、モノクロ化処理などを施して後段の画像情報検出部35および画像合成部36に出力する。
The
画像情報検出部35は、図3に示すように、前段から入力される画像信号に基づいて静止画像を生成する静止画像生成部51、静止画像上に存在する人の顔を検出する顔検出部52、および、入力された静止画像のサムネイル画像を生成するサムネイル生成部53から構成される。
As shown in FIG. 3, the image
静止画像生成部51は、動画像撮像時にのみ静止画像を生成し、静止画像撮像時には前段からの静止画像の画像信号をそのまま後段に出力する。顔検出部52は、静止画像を90°単位で回転させ、回転した静止画像の輝度分布に基づいて画像上に存在する人の顔を検出し、検出できた場合だけ顔検出情報を生成して制御部19に通知する。
The still
なお、顔検出部52は、静止画像を各回転角に回転させた状態において、直立している人の顔を検出することができる。例えば、図4Aに示す静止画像の場合、回転角0°のときに人の顔が検出される。図4Bに示す静止画像の場合、回転角270°のときに人の顔が検出される。図4Cに示す静止画像の場合、回転角180°のときに人の顔が検出される。図4Dに示す静止画像の場合、回転角90°のときに人の顔が検出される。
The
顔検出情報には、図5に示すように、画像上における顔の位置(座標)、顔のサイズ、検出結果が顔であることの確かさを示す信頼度、および、顔が検出されたときの画像の回転角が含まれる。 In the face detection information, as shown in FIG. 5, the position (coordinates) of the face on the image, the size of the face, the reliability indicating the certainty that the detection result is a face, and when the face is detected The rotation angle of the image is included.
なお、例えば図4Dのように、1フレームの静止画像から複数の顔が検出された場合、検出された顔の数だけ顔検出情報が生成されて制御部19に通知される。
For example, as shown in FIG. 4D, when a plurality of faces are detected from a still image of one frame, face detection information is generated for the number of detected faces and notified to the
サムネイル画像生成部53は、生成したサムネイル画像を制御部19に出力する。
The thumbnail
図2に戻る。画像合成部36は、ユーザからの設定に基づき、入力された画像信号に対してフェードイン処理、フェードアウト処理、あるいは予めメモリ37に記録されている画像を合成するグラフィック合成処理を施してセレクタ38に出力する。セレクタ38は、画像合成部36から入力される画像信号を、符号化復号部15と表示部18の両方または一方に出力する。
Returning to FIG. Based on the setting from the user, the
画像信号回転部39は、符号化復号部15から入力される復号された画像信号を、表示した時にユーザが見易くなるよう、対応するメタ情報に含まれる顔検出情報の画像回転角に基づいて回転し、後段のサイズ変更部13に出力する。
The image
なお、図2に示された画像信号処理部14の構成例は、ハードウェアまたはソフトウェアのいずれによって実現してもよい。
Note that the configuration example of the image
図1に戻る。符号化復号部15は、画像信号処理部14から入力される画像信号を所定の符号化方式(例えば、動画像の場合にはMPEG(Moving Picture Experts Group)2方式、静止画像の場合にはJPEG(Joint Photographic Experts Group)方式など)に従って符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。また、符号化復号部15は、符号化時に検出される画像の動きベクトルを制御部21に通知する。通知された動きベクトルは、画像の回転角の決定に利用される。
Returning to FIG. The encoding /
さらに符号化復号部15は、メディアドライブ16によって記録メディア17から読み出される符号化画像信号を復号し、その結果得られる画像信号を画像信号処理部14に出力する。
Further, the encoding /
メディアドライブ16は、符号化復号部15から入力される符号化画像信号を記録メディア17に記録する。またメディアドライブ16は、制御部21から入力されるファイル管理情報を記録メディア17に記録する。
The media drive 16 records the encoded image signal input from the encoding /
図6は、記録メディア17に設けられたファイル記録領域71とファイル管理情報記録領域72を示している。
FIG. 6 shows a
ファイル記録領域71には符号化画像信号が記録される。以下、静止画像に対応する符号化画像信号を静止画像ファイル、動画像に対応する符号化画像信号を動画像ファイルとも記述する。なお、ファイル記録領域71には、動画像ファイルに対応する音声ファイルも記録される。
An encoded image signal is recorded in the
ファイル管理情報記録領域72には、静止画像ファイル、動画像ファイル、音声画像ファイルなどの各コンテンツファイルが記録されている記録メディア17上の位置を示す記録位置情報、各コンテンツファイルに基づいて生成されたサムネイル画像、および各コンテンツファイルのメタ情報(顔検出情報を含む)が各コンテンツファイルに対応付けて記録される。
The file management
図1に戻る。表示部18は、LCD(Liquid Crystal Display)などから成り、画像信号処理部14から入力される画像信号に基づき、撮像時に構図を決定するためのスルー画像、記録メディア17に記録されている静止画像ファイルまたは動画像ファイルを再生した再生画像、各種の設定画面などを表示する。
Returning to FIG. The display unit 18 is composed of an LCD (Liquid Crystal Display) or the like, and based on the image signal input from the image
操作部19は、ボタン、スイッチ、あるいは表示部18に重畳して設置されるタッチパネルなどから成り、電源のオン・オフ、シャッタ操作、録画開始・終了の指示、各種設定の入力などを行うユーザの操作を受け付けて、それに対応する操作信号を制御部21に出力する。
The
制御部21は、画像信号処理部14から顔検出情報が入力された場合、メタ情報に顔検出情報を含めてサムネイル画像とともにメディアドライブ16に出力して記録メディア17のファイル管理情報記録領域72に記録させる。画像信号処理部14から顔検出情報が入力されない場合、手ブレ検知部12からの手ブレ情報に基づき、画像を表示した時に見易くなる画像の回転角を決定し、画像の回転角を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力して記録メディア17のファイル管理情報記録領域72に記録させる。
When face detection information is input from the image
次に、撮像装置10の動作について説明する。撮像装置10の電源がオンにされると、撮像部11から画像信号処理部14に、光電変換によって得られた画像信号が連続的に出力される。画像信号処理部14では、入力された画像信号が画素の間引くなどにより縮小されて表示部18に出力される。表示部18では、入力された画像信号に基づいて構図決定用のスルー画像が表示される。
Next, the operation of the imaging device 10 will be described. When the power supply of the imaging device 10 is turned on, the image signal obtained by the photoelectric conversion is continuously output from the
そして例えば、ユーザから静止画像の撮影が指示された場合(シャッタ操作が行われた場合)、画像信号処理部14は、そのシャッタ操作のタイミングに対応する静止画像の画像信号を符号化復号部15に出力するとともに、この静止画像に対する顔検出情報とサムネイル画像を生成して制御部21に出力する。ただし、静止画像上から顔が検出されず顔検出情報が出力されない場合もある。
For example, when the user gives an instruction to capture a still image (when a shutter operation is performed), the image
符号化復号部15は、入力された静止画像の画像信号を符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。メディアドライブ16は、入力された符号化画像信号を静止画像ファイルとして記録メディア17のファイル記録領域71に記録する。
The encoding /
一方、制御部21は、画像信号処理部14から入力された顔検出情報を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力する。なお、画像信号処理部14から顔検出情報が入力されない場合、手ブレ情報に基づいて画像の回転角を決定し、決定した画像回転角をメタ情報に含める。
On the other hand, the
メディアドライブ16は、制御部19から入力されたサムネイル画像とメタ情報を記録メディア17のファイル管理情報記録領域72に記録する。さらに、メディアドライブ16は、制御部21からの制御に従い、記録した静止画像ファイルに対応して、ファイル管理情報記録領域72の記録位置情報を更新する。
The media drive 16 records the thumbnail image and meta information input from the
また例えば、ユーザから動画像の録画開始が指示された場合、画像信号処理部14は、符号化復号部15に画像信号を継続して出力するとともに、動画像の先頭の画像信号に基づいて静止画像を生成し、静止画像に対する顔検出情報とサムネイル画像を生成して制御部21に出力する。なお、動画像を撮像している間、所定の周期毎、静止画像を生成して顔を検出するとともにサムネイル画像を生成し、顔検出情報とサムネイル画像を制御部21に周期的に出力するようにしてもよい。
Also, for example, when the user instructs to start recording a moving image, the image
符号化復号部15は、順次入力される画像信号を符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。メディアドライブ16は、入力された符号化画像信号を動画像ファイルとして記録メディア17のファイル記録領域71に記録する。
The encoding /
一方、制御部21は、画像信号処理部14から入力された顔検出情報を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力する。なお、画像信号処理部14から顔検出情報が入力されない場合、手ブレ情報や画像内の動きベクトルに基づいて画像の回転角を決定し、決定した画像回転角をメタ情報に含める。
On the other hand, the
メディアドライブ16は、制御部19から入力されるサムネイル画像とメタ情報を記録メディア17のファイル管理情報記録領域72に記録する。なお、画像信号処理部14から顔検出情報とサムネイル画像が周期的に出力される場合、顔検出情報を含むメタ情報とサムネイル画像も周期的にファイル管理情報記録領域72に記録するようにする。
The media drive 16 records the thumbnail image and meta information input from the
そして、動画像の録画終了が指示された場合、画像信号処理部14は、画像信号の符号化を終了する。メディアドライブ16は、記録中の動画像ファイルを閉じ、制御部21からの制御に従い、記録した動画像ファイルに対応して、ファイル管理情報記録領域72の記録位置情報を更新する。
Then, when the end of video recording is instructed, the image
以上説明した撮像装置10の動作のうち、画像信号の回転角を記録する処理(以下、画像回転角記録処理と称する)の詳細について、図7のフローチャートを参照して説明する。 Of the operations of the imaging apparatus 10 described above, the details of the processing for recording the rotation angle of the image signal (hereinafter referred to as image rotation angle recording processing) will be described with reference to the flowchart of FIG.
ステップS1において、画像信号処理部14の画像情報検出部35は、前段から入力される画像信号の画像上から人の顔を検出する。このステップS1の処理について、図8のフローチャートを参照して説明する。
In step S1, the image
ステップS11において、静止画像生成部51は、前段から入力された画像信号が動画像に対応するものである場合、その画像信号に基づいて静止画像を生成して顔検出部52およびサムネイル生成部53に出力する。前段から入力された画像信号が静止画像に対応するものである場合、そのまま画像信号を顔検出部52およびサムネイル生成部53に出力する。
In step S11, when the image signal input from the previous stage corresponds to a moving image, the still
ステップS12において、顔検出部52は、入力された静止画像の回転角を0°に設定する。すなわち、画像を回転させず入力された状態を維持する。サムネイル生成部53は、入力された静止画像に対応するサムネイル画像を生成して制御部21に出力する。
In step S12, the
ステップS13において、顔検出部52は、回転角が設定された静止画像の輝度分布に基づき、静止画像上から人の顔を検出する。ステップS14において、顔検出部52は、静止画像上から人の顔が検出されたか否かを判定し、人の顔が検出されたと判定した場合、処理をステップS15に進める。
In step S13, the
ステップS15において、顔検出部15は、検出した人の顔に対応して、図5に示された各項目の情報を含む顔検出情報を生成する。なお、顔検出情報の画像回転角には、現在の静止画像が設定されている回転角が記録される。生成された顔検出情報は、制御部21に出力される。なお、ステップS14の処理で、人の顔が検出されないと判定された場合、ステップS15の処理はスキップされる。
In step S15, the
ステップS16において、顔検出部52は、静止画像の現在の回転角が270°であるか否かを判定し、270°ではない場合、処理をステップS17に進める。ステップS17において、顔検出部52は、静止画像の現在の回転角を90°だけ増して設定し、処理をステップS13に戻す。これ以降、ステップS13乃至S17の処理が繰り返される。これにより、静止画像の回転角が順次、0°,90°,180°,270°に設定されて人の顔が検出されることになる。そして、ステップS16で静止画像の現在の回転角が270°であると判定された場合、処理は図7のステップS2にリターンする。
In step S16, the
ステップS2において、制御部21は、画像信号処理部14から顔検出情報が入力されたか否かを判定する。顔検出情報が入力されたと判定した場合、処理をステップS3に進める。ステップS3において、制御部21は、入力された顔検出情報を含めて画像信号のメタ情報を生成する。ステップS4において、制御部21は、生成したメタ情報と画像信号処理部14から入力されたサムネイル画像をメディアドライブ16に出力し、記録メディア17のファイル管理情報記録領域72に記録させる。
In step S <b> 2, the
反対に、ステップS2において、画像信号処理部14から顔検出情報が入力されないと判定された場合、処理をステップS5に進められる。ステップS5において、制御部21は、手ブレ検知部12から入力される手ブレ情報、および符号化復号部15から入力される画像上の動きベクトルに基づいて画像の回転角を決定する。ただし、符号化復号部15から画像上の動きベクトルが入力されるのは、動画像撮像時に限られるので、静止画像撮像時には、手ブレ検知部12から入力される手ブレ情報のみに基づいて画像の回転角を決定する。
Conversely, if it is determined in step S2 that face detection information is not input from the image
ステップS6の処理の詳細について、図9のフローチャートを参照して説明する。 Details of the process of step S6 will be described with reference to the flowchart of FIG.
ステップS21において、制御部21は、手ブレ検知部12から手ブレ情報を取得する。ステップS22において、制御部22は、符号化復号部15から符号化する画像信号に対応する画像上の動きベクトルを取得する。
In step S <b> 21, the
ステップS23において、制御部21は、取得した手ブレ情報と動きベクトルとに基づき、撮像部11の光軸のブレの軌跡を算出し、ステップ24において、制御部21は、当該軌跡に基づいて画像の天地方向(表示する時の回転角)を決定する。
In step S23, the
具体的には、通常、手ぶれによる撮像部11の光軸のブレの軌跡は、10に示すように楕円軌道を描くことが知られている。この楕円軌道のうち、長軸の振幅はユーザの呼吸に同期して発生する上下方向の手ブレに起因することが知られているので、この楕円移動の長軸の方向を画像の天地方向とみなし、この角度に最も近い0°,90°,180°または270°を回転角に決定する。回転角を決定した後、処理は図7のステップS7にリターンする。
Specifically, it is known that the locus of blurring of the optical axis of the
ステップS7において、制御部21は、手ブレに基づいて決定した回転角を含めて画像信号のメタ情報を生成する。この後、処理はステップS4に進められ、生成されたメタ情報とサムネイル画像が記録メディア17のファイル管理情報記録領域72に記録される。
In step S7, the
以上説明したように、撮像装置10によれば、動画像あるいは再生画像の撮像時に、当該画像を表示するときの回転角がメタ情報の一部として、動画像ファイルまたは静止画像ファイルに対応付けて記録メディア17に記録される。
As described above, according to the imaging apparatus 10, when a moving image or a reproduced image is captured, the rotation angle when displaying the image is associated with the moving image file or the still image file as a part of the meta information. It is recorded on the
次に、記録メディア17に記録された静止画像ファイルあるいは動画像を再生、表示する時、対応して記録されたメタ情報に含まれる画像回転角を利用して、当該画像を見易く表示する処理(以下、画像表示処理と称する)について、図11のフローチャートを参照して説明する。
Next, when a still image file or a moving image recorded on the
例えば、記録メディア17に記録された静止画像ファイルの再生を指示する操作がユーザから入力された場合、メディアドライブ16によって記録メディア17から再生が指示された静止画像ファイルとそれに対応するメタデータが読み出されて符号化復号部15に出力される。符号化復号部15では、符号化されている静止画像ファイルを復号し、その結果得られた画像信号とメタ情報を画像信号処理部14に出力する。
For example, when an operation for instructing reproduction of a still image file recorded on the
ステップS31において、画像信号処理部14の画像信号回転部39は、入力されたメタ情報から画像の回転角を取得する。なお、この1フレームの画像上に複数の人の顔が存在する場合、メタ情報に複数の顔検出情報が含まれていて、各顔検出情報から回転角が取得できる。このように、複数の顔検出情報が存在する場合、各顔検出情報のうち、含まれる信頼度が最も高いものを選択し、選択した顔検出情報から画像回転角を取得するようにする。
In step S31, the image
ステップS32において、画像信号回転部39は、取得した画像回転角に基づいて画像信号を回転させて後段に出力する。これにより、後段の処理を経て表示部18に表示される画像は、被写体の天地方向と表示の上下方向が一致した見易いものとなっているはずである。しかしながら、画像の表示の方向がユーザの意に合致しない場合もあるので、ステップS33以降の処理によって、画像の表示の方向をユーザの意に合致させる。
In step S32, the image
ステップS33において、制御部21は、所定の時間、表示されている画像の表示の向きを変更させるように指示する操作がユーザから入力されたか否かを判定する。画像の表示の向きを変更するように指示する操作が入力されたと判定された場合、処理はステップS34に進められる。ステップS34において、画像信号回転部39は、変更が指示された向きに合わせて表示中の画像信号の回転角を変更する。ステップS35において、制御部21は、変更された回転角に対応し、記録メディア17に記録されているメタ情報に含まれる画像回転角を更新する。ただし、ユーザが一時的に画像を回転させただけの場合も起こり得るので、ユーザに対し、メタ情報の更新を実行してよいか否かを確認するようにしてもよい。
In step S33, the
なお、ステップS33において、所定の時間待機しても、画像の表示の向きを変更するように指示する操作が入力されていないと判定された場合、ステップS34およびS35の処理はスキップされる。 If it is determined in step S33 that an operation for instructing to change the image display direction has not been input even after waiting for a predetermined time, the processes in steps S34 and S35 are skipped.
以上説明した画像処理時処理によれば、静止画像を表示するとき、対応するメタ情報に含まれる画像回転角に基づいて画像を回転してから表示するので、被写体の天地方向と表示の上下方向が一致した見易いものとなる。 According to the above-described processing at the time of image processing, when displaying a still image, the image is displayed after being rotated based on the image rotation angle included in the corresponding meta information. Are easy to see.
さらに、この表示結果がユーザにとって見易くない場合、その表示も向きを変更することができ、さらにこの変更結果をメタ情報に反映せることができる。従って、アナ自生し画像を次回以降表示する際には、速やかに見易い向きで画像を表示することができる。 Furthermore, when the display result is not easy to see for the user, the direction of the display can be changed, and the change result can be reflected in the meta information. Therefore, when displaying an image generated by Ana, the image can be quickly displayed in an easy-to-view direction.
なお、動画像の表示に際しても同様に回転表示することができる。ただし、動画像を頻繁に回転し表示させると見難くなる場合があるので、対応するメタ情報に含まれる画像回転角は、対応するサムネイル画像を表示するときに参照し、サムネイル画像を回転して表示するようにしてもよい。元論、静止画像のサムネイル画像を表示する時にも、メタ情報に含まれる画像回転角を取得して回転表示するようにすることができる。 In addition, when displaying a moving image, it can be similarly rotated. However, since it may be difficult to see if the moving image is rotated and displayed frequently, the image rotation angle included in the corresponding meta information is referred to when displaying the corresponding thumbnail image, and the thumbnail image is rotated. You may make it display. In principle, even when displaying a thumbnail image of a still image, it is possible to acquire and rotate the image rotation angle included in the meta information.
さらに、メタ情報に含まれる画像回転角は、静止画像ファイルや動画像ファイルの画像を表示する時のみならず、例えば記録メディア17に記録されている静止画像ファイルや動画像ファイルの一覧を示すためにサムネイル画像だけを表示するような場合にも利用できる。
Further, the image rotation angle included in the meta information is not only for displaying a still image file or a moving image file, but also for displaying a list of still image files or moving image files recorded on the
この場合、記録メディア17のファイル記録領域71を読み出すことなく、ファイル管理情報記録領域72のメタ情報とサムネイル情報を読み出せばよいので、速やかにサムネイル画像の一覧を、各サムネイル画像が見易い向きで表示することができる。
In this case, the meta information and thumbnail information of the file management
以上説明したように、本発明を適用した撮像装置10によれば、画像の天地方向を決定する為に専用のセンサ(重力センサなど)を設けることなく、画像が見易くなる表示の向き、すなわち、回転角を決定することができる。 As described above, according to the imaging apparatus 10 to which the present invention is applied, the display orientation that makes the image easy to see without providing a dedicated sensor (such as a gravity sensor) to determine the top-to-bottom direction of the image, that is, The rotation angle can be determined.
特に、重力センサを用いないので、撮影時の姿勢や振動、加速度、重力の方向に影響されず、画像の見易い回転角を決定することができる。 In particular, since no gravity sensor is used, it is possible to determine an easy-to-view rotation angle without being influenced by the posture, vibration, acceleration, and direction of gravity at the time of shooting.
さらに、画像上から人の顔が検出できない場合にも、手ブレ補正に用いる手ブレ検知部
12の検知結果を流用して、画像の見易い回転角を決定することができる。
Furthermore, even when a human face cannot be detected from the image, the rotation angle at which the image can be easily viewed can be determined by using the detection result of the camera
なお、本発明は、デジタルスチルカメラやデジタルビデオカメラに限らず、画像信号を処理するあらゆる電子機器に適用することができる。 The present invention is not limited to a digital still camera and a digital video camera, and can be applied to any electronic device that processes an image signal.
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。 By the way, the series of processes described above can be executed by hardware, but can also be executed by software.
なお、本明細書において、プログラムに基づいて実行されるステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。 In this specification, the steps executed based on the program are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes executed in time series according to the described order. It also includes processing.
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。 The embodiment of the present invention is not limited to the above-described embodiment, and various modifications can be made without departing from the gist of the present invention.
10 撮像装置, 11 撮像部, 12 手ブレ検知部, 13 手ブレ補正部, 14 画像信号処理部, 15 符号化復号部, 16 メディアドライブ, 17 記録メディア, 18 表示部, 19 操作部, 20 メモリ, 21 制御部, 35 画像信号検出部, 39 画像信号回転部, 51 静止画像生成部, 52 顔検出部, 53 サムネイル生成部, DESCRIPTION OF SYMBOLS 10 imaging device, 11 imaging part, 12 camera shake detection part, 13 camera shake correction part, 14 image signal processing part, 15 encoding / decoding part, 16 media drive, 17 recording medium, 18 display part, 19 operation part, 20 memory , 21 control unit, 35 image signal detection unit, 39 image signal rotation unit, 51 still image generation unit, 52 face detection unit, 53 thumbnail generation unit,
Claims (8)
被写体を撮影して前記被写体に対応する画像信号を生成する生成手段と、
生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段と、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段と、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段と
を含む撮像装置。 In an imaging device that records an image signal corresponding to a captured subject on a recording medium,
Generating means for photographing an object and generating an image signal corresponding to the object;
Detecting means for detecting a human face from an image of the generated image signal and generating face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face; ,
Meta information generating means for generating meta information corresponding to the image signal including the face detection information;
An imaging apparatus comprising: a recording unit that records the image signal and the meta information in association with each other on the recording medium.
請求項1に記載の撮像装置。 The detection means sets a rotation angle for the generated image signal, detects a human face from the rotated image, and detects the relative direction of the detected image in the vertical direction of the face. The imaging device according to claim 1, wherein face detection information including the rotation angle as first direction information indicating the position is generated.
前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、検知された前記手ブレに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成する
請求項1に記載の撮像装置。 It further includes detection means for detecting camera shake during imaging,
When the face detection information is not generated, the meta information generation unit generates second direction information indicating a vertical direction of an image of the generated image signal based on the detected camera shake, The imaging apparatus according to claim 1, wherein meta information corresponding to the image signal is generated including the generated second direction information.
前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、前記符号化の過程で算出される前記画像信号の画像上の動きベクトルと、検知された前記手ブレとに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成する
請求項3に記載の撮像装置。 Encoding means for encoding the generated image signal;
When the face detection information is not generated, the meta information generation unit generates the meta information based on the motion vector on the image of the image signal calculated in the encoding process and the detected camera shake. The imaging according to claim 3, wherein second direction information indicating a vertical direction of an image of the image signal that has been generated is generated, and meta information corresponding to the image signal is generated including the generated second direction information. apparatus.
請求項1に記載の撮像装置。 The imaging apparatus according to claim 1, wherein the recording unit records the image signal and the meta information in association with each other in different recording areas of the recording medium.
さらに含む請求項1に記載の撮像装置。 The image processing apparatus further includes a rotating unit that rotates the image of the image signal based on the first or second direction information included in the meta information corresponding to the image signal when displaying the image signal reproduced from the recording medium. The imaging device according to claim 1.
被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する
ステップを含む撮像方法。 In an imaging method of an imaging apparatus that records an image signal corresponding to an imaged subject on a recording medium,
Face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face by photographing a subject and detecting a human face from an image of an image signal corresponding to the subject. Produces
Generating meta information corresponding to the image signal including the face detection information;
An imaging method including a step of recording the image signal and the meta information in association with each other on the recording medium.
被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録させる
ステップを含む処理をコンピュータに実行させるプログラム。 A program for controlling an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium,
Face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face by photographing a subject and detecting a human face from an image of an image signal corresponding to the subject. Produces
Generating meta information corresponding to the image signal including the face detection information;
A program for causing a computer to execute a process including a step of recording the image signal and the meta information in association with each other on the recording medium.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006175632A JP2008005427A (en) | 2006-06-26 | 2006-06-26 | Imaging apparatus and imaging method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006175632A JP2008005427A (en) | 2006-06-26 | 2006-06-26 | Imaging apparatus and imaging method, and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008005427A true JP2008005427A (en) | 2008-01-10 |
Family
ID=39009408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006175632A Withdrawn JP2008005427A (en) | 2006-06-26 | 2006-06-26 | Imaging apparatus and imaging method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008005427A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009113280A1 (en) * | 2008-03-14 | 2009-09-17 | 三洋電機株式会社 | Image processing device and imaging device equipped with same |
JP2009253701A (en) * | 2008-04-07 | 2009-10-29 | Canon Inc | Imaging apparatus, control method of imaging apparatus, program and recording medium |
JP2010238033A (en) * | 2009-03-31 | 2010-10-21 | Nec Personal Products Co Ltd | Apparatus, method and program for processing image |
JP2015106910A (en) * | 2013-12-03 | 2015-06-08 | カシオ計算機株式会社 | Image processing system, image processing method, and program |
-
2006
- 2006-06-26 JP JP2006175632A patent/JP2008005427A/en not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009113280A1 (en) * | 2008-03-14 | 2009-09-17 | 三洋電機株式会社 | Image processing device and imaging device equipped with same |
JP2009253701A (en) * | 2008-04-07 | 2009-10-29 | Canon Inc | Imaging apparatus, control method of imaging apparatus, program and recording medium |
JP2010238033A (en) * | 2009-03-31 | 2010-10-21 | Nec Personal Products Co Ltd | Apparatus, method and program for processing image |
JP2015106910A (en) * | 2013-12-03 | 2015-06-08 | カシオ計算機株式会社 | Image processing system, image processing method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4174404B2 (en) | Imaging apparatus, image display method, program, and storage medium | |
JP4549260B2 (en) | Recording / reproducing apparatus, recording / reproducing method, and computer program | |
JP5516662B2 (en) | Imaging device | |
JP2006245726A (en) | Digital camera | |
JP2012075018A (en) | Reproduction device and method, and program | |
JP4924228B2 (en) | Image processing apparatus, image processing method, and program | |
JP2007173966A (en) | Imaging apparatus and image data processing method thereof | |
JP2015053741A (en) | Image reproduction device | |
JP2006211378A (en) | Motion picture recording and reproducing apparatus, motion picture recording apparatus, motion picture reproducing apparatus and program | |
JP5938655B2 (en) | Playback device, imaging device, and program | |
JP5105844B2 (en) | Imaging apparatus and method | |
JP2008005427A (en) | Imaging apparatus and imaging method, and program | |
JP2006203334A (en) | Image recording apparatus, control method thereof and program | |
JP2004248171A (en) | Moving image recorder, moving image reproduction device, and moving image recording and reproducing device | |
JP2012151708A (en) | Imaging device | |
JP2012124614A (en) | Imaging apparatus and imaging apparatus control method | |
KR101480407B1 (en) | Digital image processing apparatus, method for controlling the same and medium of recording the method | |
JP2009246775A (en) | Image reproducing device | |
JP2009094741A (en) | Imaging device, imaging method and program | |
JP5249078B2 (en) | Imaging device | |
JP2005204043A (en) | Image display apparatus, information acquisition device thereof, information acquisition/setting method thereof, and content in which setting information thereof is embedded | |
JP2017085338A (en) | Imaging apparatus, control method, and program | |
JP2010187111A (en) | Image capturing apparatus | |
JP2007124548A (en) | Imaging device | |
JP2009071464A (en) | Camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20090901 |