JP2008005427A - Imaging apparatus and imaging method, and program - Google Patents

Imaging apparatus and imaging method, and program Download PDF

Info

Publication number
JP2008005427A
JP2008005427A JP2006175632A JP2006175632A JP2008005427A JP 2008005427 A JP2008005427 A JP 2008005427A JP 2006175632 A JP2006175632 A JP 2006175632A JP 2006175632 A JP2006175632 A JP 2006175632A JP 2008005427 A JP2008005427 A JP 2008005427A
Authority
JP
Japan
Prior art keywords
image
image signal
information
face
generated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006175632A
Other languages
Japanese (ja)
Inventor
Kaname Ogawa
要 小川
Hiroshi Jinno
比呂志 陣野
Makoto Yamada
誠 山田
Keiji Kanouda
啓ニ 叶多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006175632A priority Critical patent/JP2008005427A/en
Publication of JP2008005427A publication Critical patent/JP2008005427A/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To accurately detect and record the top-bottom direction of a picked-up image. <P>SOLUTION: Face detection information contains the position of the face on an image, the size of the face, reliability indicating certainty that a detection result is the face, and a rotating angle of the image at a time when the face is detected. The face detection information is included in meta-information and recorded in a management information recording area of a recording medium in accordance with a still image file or a moving image file. When reproducing the still image file or the moving image file, the rotating angle of the image is acquired from the meta-information, and the image is rotated and displayed in accordance with the rotating angle. The imaging apparatus may be applicable to digital still cameras, digital video cameras and the like. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、撮像装置および撮像方法、並びにプログラムに関し、特に、撮像した画像の天地方向を画像信号に対応付けて記録するようにした撮像装置および撮像方法、並びにプログラムに関する。   The present invention relates to an imaging apparatus, an imaging method, and a program, and more particularly, to an imaging apparatus, an imaging method, and a program that record the top-and-bottom direction of a captured image in association with an image signal.

デジタルスチルカメラやデジタルビデオカメラで撮影した画像をディスプレイに表示する際、画像が横に90°傾いて表示されたり、上下逆さまに表示されたりしないように、撮像時に画像の天地方向を示す情報を取得することが望ましい。   When displaying an image taken with a digital still camera or digital video camera on the display, information indicating the top-to-bottom direction of the image is taken so that the image is not tilted 90 ° horizontally or upside down. It is desirable to obtain.

従来、撮像時に画像天地方向を取得する方法として、重力方向を検出する重力センサをカメラに設け、検知した重力方向を画像天地方向とする方法がある(例えば、特許文献1参照)。   Conventionally, as a method of acquiring the image top-and-bottom direction at the time of imaging, there is a method in which a gravitational sensor that detects the direction of gravity is provided in the camera and the detected gravity direction is set to the image top-and-bottom direction (see, for example, Patent Document 1).

特開平10−173984号公報JP-A-10-173984

しかしながら、重力方向を画像の天地方向とする方法は、重力センサを設けることによりコスト高となってしまう。また例えば加速中の乗り物内で撮影した場合、重力方向と画像の天地方向とが一致しなかったりすることがあった。また例えば、高所から下方を見下ろして被写体を撮像するような場合、重力方向がカメラの光軸と一致し、画像の天地方向が判断できないことがあった。   However, the method of setting the gravity direction as the top-to-bottom direction of the image increases the cost by providing a gravity sensor. In addition, for example, when shooting in an accelerating vehicle, the direction of gravity may not match the vertical direction of the image. Further, for example, when a subject is imaged looking down from a high place, the gravity direction coincides with the optical axis of the camera, and the vertical direction of the image may not be determined.

本発明はこのような状況に鑑みてなされたものであり、重力センサなどを新たに設けることなく、画像の天地方向を正確に検出し、記録できるようにするものである。   The present invention has been made in view of such a situation, and makes it possible to accurately detect and record the vertical direction of an image without newly providing a gravity sensor or the like.

本発明の一側面である撮像装置は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置において、被写体を撮影して前記被写体に対応する画像信号を生成する生成手段と、生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段と、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段と、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段とを含む。   An imaging apparatus according to an aspect of the present invention is an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium, and a generation unit that captures the subject and generates an image signal corresponding to the subject. Detecting means for detecting a human face from an image of the image signal, and generating face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face; Meta information generating means for generating meta information corresponding to the image signal including face detection information, and recording means for associating the image signal and the meta information with each other and recording them on the recording medium.

前記検出手段は、生成された前記画像信号の画像に回転角を設定し、回転した状態の前記画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報としての前記回転角を含む顔検出情報を生成するようにすることができる。   The detection means sets a rotation angle for the generated image signal, detects a human face from the rotated image, and detects the relative direction of the detected image in the vertical direction of the face. It is possible to generate face detection information including the rotation angle as the first direction information indicating.

本発明の一側面である撮像装置は、撮像時の手ブレを検知する検知手段をさらに含むことができ、前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、検知された前記手ブレに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成するようにすることができる。   The imaging apparatus according to an aspect of the present invention may further include a detection unit that detects camera shake during imaging, and the meta information generation unit detects the detected face detection information when the face detection information is not generated. Based on camera shake, second direction information indicating the vertical direction of the image of the generated image signal is generated, and meta information corresponding to the image signal is generated including the generated second direction information. Can be.

本発明の一側面である撮像装置は、生成された前記画像信号を符号化する符号化手段をさらに含むことができ、前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、前記符号化の過程で算出される前記画像信号の画像上の動きベクトルと、検知された前記手ブレとに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成するようにすることができる。   The imaging apparatus according to an aspect of the present invention may further include an encoding unit that encodes the generated image signal, and the meta information generation unit is configured such that when the face detection information is not generated, Generate second direction information indicating the vertical direction of the image of the generated image signal based on the motion vector on the image of the image signal calculated in the process of encoding and the detected camera shake. Then, it is possible to generate meta information corresponding to the image signal including the generated second direction information.

前記記録手段は、前記記録媒体の異なる記録領域に前記画像信号と前記メタ情報とを対応付けて記録するようにすることができる。   The recording means can record the image signal and the meta information in association with each other in different recording areas of the recording medium.

本発明の一側面である撮像装置は、前記記録媒体から再生された画像信号を表示するとき、前記画像信号に対応する前記メタ情報に含まれる第1または第2の方向情報に基づき、前記画像信号の画像を回転させる回転手段をさらに含むことができる。   The image pickup apparatus according to one aspect of the present invention, when displaying an image signal reproduced from the recording medium, based on the first or second direction information included in the meta information corresponding to the image signal, Rotating means for rotating the image of the signal may be further included.

本発明の一側面である撮像方法は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の撮像方法において、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録するステップを含む。   An imaging method according to an aspect of the present invention is an imaging method of an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium. A face is detected, face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face is generated, and a meta corresponding to the image signal including the face detection information is generated. Generating information, and associating and recording the image signal and the meta information on the recording medium.

本発明の一側面であるプログラムは、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の制御用のプログラムであって、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録させるステップを含む処理をコンピュータに実行させる。   A program according to one aspect of the present invention is a program for controlling an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium, and the program is performed on the image of the image signal corresponding to the subject. A face of the person is detected, face detection information including first direction information indicating a relative direction of the detected image in the vertical direction of the face is generated, and the face detection information is included in the image signal. Corresponding meta information is generated, and the computer is caused to execute a process including a step of associating the image signal with the meta information and recording it on the recording medium.

本発明の一側面においては、被写体に対応する画像信号の画像上から人の顔が検出され、検出された顔の上下方向の画像における相対的な方向を示す第1の方向情報を含む顔検出情報が生成され、この顔検出情報を含めて画像信号に対応するメタ情報が生成され、画像信号とメタ情報とが対応付けて記録媒体に記録される。   In one aspect of the present invention, a human face is detected from an image of an image signal corresponding to a subject, and face detection includes first direction information indicating a relative direction in an image in the vertical direction of the detected face. Information is generated, meta information corresponding to the image signal including the face detection information is generated, and the image signal and the meta information are associated with each other and recorded on the recording medium.

本発明の一側面によれば、画像の天地方向を正確に検出し、記録することができる。   According to one aspect of the present invention, the top-to-bottom direction of an image can be accurately detected and recorded.

以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between constituent elements of the present invention and the embodiments described in the specification or the drawings are exemplified as follows. This description is intended to confirm that the embodiments supporting the present invention are described in the specification or the drawings. Therefore, even if there is an embodiment which is described in the specification or the drawings but is not described here as an embodiment corresponding to the constituent elements of the present invention, that is not the case. It does not mean that the form does not correspond to the constituent requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.

請求項1に記載の撮像装置は、撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置(例えば、図1の撮像装置10)において、被写体を撮影して前記被写体に対応する画像信号を生成する生成手段(例えば、図1の撮像部11)と、生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段(例えば、図3の顔検出部52)と、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段(例えば、図1の制御部21)と、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段(例えば、図1のメディアドライブ16)とを含む。   The image pickup apparatus according to claim 1, in an image pickup apparatus (for example, the image pickup apparatus 10 in FIG. 1) that records an image signal corresponding to the imaged subject on a recording medium, the image signal corresponding to the subject by photographing the subject. Generating means (for example, the imaging unit 11 in FIG. 1), and detecting a human face from the image of the generated image signal, and determining the relative direction of the detected image in the vertical direction of the face. Detection means for generating face detection information including first direction information shown (for example, face detection unit 52 in FIG. 3), and meta information generation for generating meta information corresponding to the image signal including the face detection information Means (for example, the control unit 21 in FIG. 1) and recording means (for example, the media drive 16 in FIG. 1) that records the image signal and the meta information in association with each other on the recording medium.

請求項3に記載の撮像装置は、撮像時の手ブレを検知する検知手段(例えば、図1の手ブレ検知部12)をさらに含む。   The image pickup apparatus according to a third aspect further includes a detection unit (for example, a camera shake detection unit 12 in FIG. 1) that detects a camera shake at the time of imaging.

請求項4に記載の撮像装置は、生成された前記画像信号を符号化する符号化手段(例えば、図1の符号化復号部15)をさらに含む。   The imaging apparatus according to a fourth aspect further includes an encoding unit (for example, the encoding / decoding unit 15 in FIG. 1) that encodes the generated image signal.

請求項6に記載の撮像装置は、前記記録媒体から再生された画像信号を表示するとき、前記画像信号に対応する前記メタ情報に含まれる第1または第2の方向情報に基づき、前記画像信号の画像を回転させる回転手段(例えば、図2の画像信号回転部39)をさらに含む。   The image pickup apparatus according to claim 6, when displaying an image signal reproduced from the recording medium, based on the first or second direction information included in the meta information corresponding to the image signal. Rotating means (for example, the image signal rotating unit 39 in FIG. 2) for rotating the image of the image.

請求項7に記載の撮像方法および請求項8に記載のプログラムは、被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し(例えば、図7のステップS1)、前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し(例えば、図7のステップS3)、前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する(例えば、図7のステップS4)ステップを含む。   The imaging method according to claim 7 and the program according to claim 8 shoot a subject, detect a human face from an image of an image signal corresponding to the subject, and detect the face in the vertical direction of the detected face. Face detection information including first direction information indicating a relative direction in the image is generated (for example, step S1 in FIG. 7), and meta information corresponding to the image signal including the face detection information is generated ( For example, step S3 in FIG. 7 includes the step of recording the image signal and the meta information in association with each other on the recording medium (for example, step S4 in FIG. 7).

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。   Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings.

図1は、本発明の一実施の形態である撮像装置の構成例を示している。この撮像装置10は、動画像や静止画像を撮像して記録メディアに記録し、また記録メディアから再生した動画像や静止画像を表示するものである。   FIG. 1 shows a configuration example of an imaging apparatus according to an embodiment of the present invention. The imaging apparatus 10 captures a moving image or a still image, records it on a recording medium, and displays a moving image or a still image reproduced from the recording medium.

この撮像装置10は、被写体の光学像に対応する画像信号を生成する撮像部11、画像信号に所定の画像処理を行う画像信号処理部14、画像信号を符号化した、また復号する符号化復号部15、記録メディア17に対して画像信号などを記録し、また読み出すメディアドライブ16、撮像された画像や各種の設定画面などを表示する表示部18、ユーザの操作を受け付ける操作部19、およびメモリ20に記録されている制御用プログラムを実行することによって撮像装置10の全体を制御する制御部21から構成される。   The imaging apparatus 10 includes an imaging unit 11 that generates an image signal corresponding to an optical image of a subject, an image signal processing unit 14 that performs predetermined image processing on the image signal, and an encoding decoding that encodes and decodes the image signal. 15, a media drive 16 that records and reads out image signals and the like on the recording medium 17, a display unit 18 that displays captured images and various setting screens, an operation unit 19 that receives user operations, and a memory The control unit 21 is configured to control the entire imaging apparatus 10 by executing a control program recorded in the control unit 20.

撮像部11は、レンズ群、絞り、およびCCD(Charge Coupled Device)などの撮像素子を含み、レンズ群によって集束された被写体の光学像を撮像素子によって画像信号に変換して画像信号処理部14に出力する。また撮像部11は、手ブレ検知部12および手ブレ補正部13をないぞうジャイロセンサなどから成り、ユーザの手ブレを検知する手ブレ検知部12、手ブレに起因する画像信号の劣化を補正する手ブレ補正部13を内蔵する。なお、検知された手ブレを示す情報は制御部21にも通知され、画像の回転角の決定に利用される。   The imaging unit 11 includes an imaging element such as a lens group, a diaphragm, and a CCD (Charge Coupled Device), converts an optical image of a subject focused by the lens group into an image signal by the imaging element, and supplies the image signal to the image signal processing unit 14. Output. The imaging unit 11 includes a gyro sensor that does not include the camera shake detection unit 12 and the camera shake correction unit 13. The camera shake detection unit 12 detects a user's camera shake, and corrects image signal degradation caused by the camera shake. A camera shake correction unit 13 is built in. The information indicating the detected camera shake is also notified to the control unit 21 and used for determining the rotation angle of the image.

画像信号処理部14は、撮像部11から入力される画像信号や符号化復号部15から入力される復号された画像信号に所定の画像処理を施して符号化復号部15または表示部18に出力する。また画像信号処理部14は、撮像部11から入力される画像信号の画像上から人の顔を検出し、検出結果として顔検出情報を制御部21に通知する。通知された顔検出情報はメタ情報に含めて記録され、画像を再生して表示するとき、画像の回転角の決定に利用される。   The image signal processing unit 14 performs predetermined image processing on the image signal input from the imaging unit 11 and the decoded image signal input from the encoding / decoding unit 15 and outputs the processed image signal to the encoding / decoding unit 15 or the display unit 18. To do. The image signal processing unit 14 detects a human face from the image of the image signal input from the imaging unit 11 and notifies the control unit 21 of face detection information as a detection result. The notified face detection information is recorded in the meta information, and is used to determine the rotation angle of the image when the image is reproduced and displayed.

図2は、画像信号処理部14の構成例を示している。画像信号処理部14は、画像信号のノイズ成分を除去するノイズ除去部31、画像信号の画枠サイズを変更するサイズ変更部33、画像信号に所定の画像処理を施す信号変換部34、画像信号の画像上から人の顔を検出する画像情報検出部35、画像信号の画像に他の画像を合成する画像合成部36、画像信号の出力先を切り換えるセレクタ38、および、表示されたとき見易くなるように画像回転角に基づいて画像を回転させる画像信号回転部39から構成される。   FIG. 2 shows a configuration example of the image signal processing unit 14. The image signal processing unit 14 includes a noise removing unit 31 that removes noise components of the image signal, a size changing unit 33 that changes the image frame size of the image signal, a signal conversion unit 34 that performs predetermined image processing on the image signal, and an image signal. An image information detection unit 35 that detects a human face from the image of the image, an image synthesis unit 36 that synthesizes another image with the image of the image signal, a selector 38 that switches the output destination of the image signal, and an image that becomes easy to see when displayed. Thus, the image signal rotation unit 39 is configured to rotate the image based on the image rotation angle.

ノイズ除去部31は、撮像部11から入力される画像信号とフレームメモリ32に記録されている1フレーム前のノイズ除去済みの画像信号とを比較することにより、撮像部11から入力される画像信号のノイズ成分を検出し、検出したノイズ成分を当該画像信号から除去する。ノイズ成分を除去した画像信号は、後段のサイズ変更部33に供給されるとともに、フレームメモリ32に上書き保存される。   The noise removing unit 31 compares the image signal input from the imaging unit 11 with the image signal from which noise has been removed one frame before recorded in the frame memory 32, thereby inputting the image signal input from the imaging unit 11. Are detected, and the detected noise component is removed from the image signal. The image signal from which the noise component has been removed is supplied to the subsequent size changing unit 33 and is overwritten and saved in the frame memory 32.

サイズ変更部33は、前段から入力される画像信号の画枠サイズを、適宜、拡大または縮小して信号変換部34に出力する。信号変換部34は、ユーザからの設定に基づき、前段から入力される画像信号にセピアカラー化処理、モザイク化処理、モノクロ化処理などを施して後段の画像情報検出部35および画像合成部36に出力する。   The size changing unit 33 appropriately enlarges or reduces the image frame size of the image signal input from the previous stage and outputs the image frame size to the signal conversion unit 34. Based on the setting from the user, the signal conversion unit 34 performs sepia color processing, mosaic processing, monochrome processing, and the like on the image signal input from the previous stage to the image information detection unit 35 and the image synthesis unit 36 in the subsequent stage. Output.

画像情報検出部35は、図3に示すように、前段から入力される画像信号に基づいて静止画像を生成する静止画像生成部51、静止画像上に存在する人の顔を検出する顔検出部52、および、入力された静止画像のサムネイル画像を生成するサムネイル生成部53から構成される。   As shown in FIG. 3, the image information detection unit 35 includes a still image generation unit 51 that generates a still image based on an image signal input from the previous stage, and a face detection unit that detects a human face existing on the still image. 52 and a thumbnail generation unit 53 that generates a thumbnail image of the input still image.

静止画像生成部51は、動画像撮像時にのみ静止画像を生成し、静止画像撮像時には前段からの静止画像の画像信号をそのまま後段に出力する。顔検出部52は、静止画像を90°単位で回転させ、回転した静止画像の輝度分布に基づいて画像上に存在する人の顔を検出し、検出できた場合だけ顔検出情報を生成して制御部19に通知する。   The still image generation unit 51 generates a still image only at the time of moving image capture, and outputs the still image signal from the previous stage as it is to the subsequent stage at the time of still image capture. The face detection unit 52 rotates the still image in units of 90 °, detects the human face existing on the image based on the luminance distribution of the rotated still image, and generates face detection information only when it can be detected. The control unit 19 is notified.

なお、顔検出部52は、静止画像を各回転角に回転させた状態において、直立している人の顔を検出することができる。例えば、図4Aに示す静止画像の場合、回転角0°のときに人の顔が検出される。図4Bに示す静止画像の場合、回転角270°のときに人の顔が検出される。図4Cに示す静止画像の場合、回転角180°のときに人の顔が検出される。図4Dに示す静止画像の場合、回転角90°のときに人の顔が検出される。   The face detection unit 52 can detect the face of an upright person in a state where the still image is rotated at each rotation angle. For example, in the case of the still image shown in FIG. 4A, a human face is detected when the rotation angle is 0 °. In the case of the still image shown in FIG. 4B, a human face is detected when the rotation angle is 270 °. In the case of the still image shown in FIG. 4C, a human face is detected when the rotation angle is 180 °. In the case of the still image shown in FIG. 4D, a human face is detected when the rotation angle is 90 °.

顔検出情報には、図5に示すように、画像上における顔の位置(座標)、顔のサイズ、検出結果が顔であることの確かさを示す信頼度、および、顔が検出されたときの画像の回転角が含まれる。   In the face detection information, as shown in FIG. 5, the position (coordinates) of the face on the image, the size of the face, the reliability indicating the certainty that the detection result is a face, and when the face is detected The rotation angle of the image is included.

なお、例えば図4Dのように、1フレームの静止画像から複数の顔が検出された場合、検出された顔の数だけ顔検出情報が生成されて制御部19に通知される。   For example, as shown in FIG. 4D, when a plurality of faces are detected from a still image of one frame, face detection information is generated for the number of detected faces and notified to the control unit 19.

サムネイル画像生成部53は、生成したサムネイル画像を制御部19に出力する。   The thumbnail image generation unit 53 outputs the generated thumbnail image to the control unit 19.

図2に戻る。画像合成部36は、ユーザからの設定に基づき、入力された画像信号に対してフェードイン処理、フェードアウト処理、あるいは予めメモリ37に記録されている画像を合成するグラフィック合成処理を施してセレクタ38に出力する。セレクタ38は、画像合成部36から入力される画像信号を、符号化復号部15と表示部18の両方または一方に出力する。   Returning to FIG. Based on the setting from the user, the image composition unit 36 performs a fade-in process, a fade-out process on the input image signal, or a graphic composition process for compositing an image recorded in the memory 37 in advance to the selector 38. Output. The selector 38 outputs the image signal input from the image synthesis unit 36 to both or one of the encoding / decoding unit 15 and the display unit 18.

画像信号回転部39は、符号化復号部15から入力される復号された画像信号を、表示した時にユーザが見易くなるよう、対応するメタ情報に含まれる顔検出情報の画像回転角に基づいて回転し、後段のサイズ変更部13に出力する。   The image signal rotation unit 39 rotates the decoded image signal input from the encoding / decoding unit 15 based on the image rotation angle of the face detection information included in the corresponding meta information so that the user can easily view the displayed image signal. Then, the data is output to the subsequent size changing unit 13.

なお、図2に示された画像信号処理部14の構成例は、ハードウェアまたはソフトウェアのいずれによって実現してもよい。   Note that the configuration example of the image signal processing unit 14 shown in FIG. 2 may be realized by either hardware or software.

図1に戻る。符号化復号部15は、画像信号処理部14から入力される画像信号を所定の符号化方式(例えば、動画像の場合にはMPEG(Moving Picture Experts Group)2方式、静止画像の場合にはJPEG(Joint Photographic Experts Group)方式など)に従って符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。また、符号化復号部15は、符号化時に検出される画像の動きベクトルを制御部21に通知する。通知された動きベクトルは、画像の回転角の決定に利用される。   Returning to FIG. The encoding / decoding unit 15 converts the image signal input from the image signal processing unit 14 into a predetermined encoding method (for example, MPEG (Moving Picture Experts Group) 2 method for moving images, JPEG for still images). (Joint Photographic Experts Group) method and the like, and the resulting encoded image signal is output to the media drive 16. The encoding / decoding unit 15 notifies the control unit 21 of the motion vector of the image detected at the time of encoding. The notified motion vector is used to determine the rotation angle of the image.

さらに符号化復号部15は、メディアドライブ16によって記録メディア17から読み出される符号化画像信号を復号し、その結果得られる画像信号を画像信号処理部14に出力する。   Further, the encoding / decoding unit 15 decodes the encoded image signal read from the recording medium 17 by the media drive 16 and outputs the resulting image signal to the image signal processing unit 14.

メディアドライブ16は、符号化復号部15から入力される符号化画像信号を記録メディア17に記録する。またメディアドライブ16は、制御部21から入力されるファイル管理情報を記録メディア17に記録する。   The media drive 16 records the encoded image signal input from the encoding / decoding unit 15 on the recording medium 17. The media drive 16 records the file management information input from the control unit 21 on the recording medium 17.

図6は、記録メディア17に設けられたファイル記録領域71とファイル管理情報記録領域72を示している。   FIG. 6 shows a file recording area 71 and a file management information recording area 72 provided on the recording medium 17.

ファイル記録領域71には符号化画像信号が記録される。以下、静止画像に対応する符号化画像信号を静止画像ファイル、動画像に対応する符号化画像信号を動画像ファイルとも記述する。なお、ファイル記録領域71には、動画像ファイルに対応する音声ファイルも記録される。   An encoded image signal is recorded in the file recording area 71. Hereinafter, an encoded image signal corresponding to a still image is also referred to as a still image file, and an encoded image signal corresponding to a moving image is also referred to as a moving image file. Note that an audio file corresponding to the moving image file is also recorded in the file recording area 71.

ファイル管理情報記録領域72には、静止画像ファイル、動画像ファイル、音声画像ファイルなどの各コンテンツファイルが記録されている記録メディア17上の位置を示す記録位置情報、各コンテンツファイルに基づいて生成されたサムネイル画像、および各コンテンツファイルのメタ情報(顔検出情報を含む)が各コンテンツファイルに対応付けて記録される。   The file management information recording area 72 is generated based on the recording position information indicating the position on the recording medium 17 where each content file such as a still image file, a moving image file, and an audio image file is recorded, and each content file. The thumbnail image and meta information (including face detection information) of each content file are recorded in association with each content file.

図1に戻る。表示部18は、LCD(Liquid Crystal Display)などから成り、画像信号処理部14から入力される画像信号に基づき、撮像時に構図を決定するためのスルー画像、記録メディア17に記録されている静止画像ファイルまたは動画像ファイルを再生した再生画像、各種の設定画面などを表示する。   Returning to FIG. The display unit 18 is composed of an LCD (Liquid Crystal Display) or the like, and based on the image signal input from the image signal processing unit 14, a through image for determining a composition at the time of imaging, and a still image recorded on the recording medium 17. Displays a playback image obtained by playing back a file or moving image file, various setting screens, and the like.

操作部19は、ボタン、スイッチ、あるいは表示部18に重畳して設置されるタッチパネルなどから成り、電源のオン・オフ、シャッタ操作、録画開始・終了の指示、各種設定の入力などを行うユーザの操作を受け付けて、それに対応する操作信号を制御部21に出力する。   The operation unit 19 includes buttons, switches, or a touch panel installed on the display unit 18 so as to be turned on / off, shutter operation, recording start / end instruction, input of various settings, and the like. The operation is accepted and an operation signal corresponding to the operation is output to the control unit 21.

制御部21は、画像信号処理部14から顔検出情報が入力された場合、メタ情報に顔検出情報を含めてサムネイル画像とともにメディアドライブ16に出力して記録メディア17のファイル管理情報記録領域72に記録させる。画像信号処理部14から顔検出情報が入力されない場合、手ブレ検知部12からの手ブレ情報に基づき、画像を表示した時に見易くなる画像の回転角を決定し、画像の回転角を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力して記録メディア17のファイル管理情報記録領域72に記録させる。   When face detection information is input from the image signal processing unit 14, the control unit 21 includes the face detection information in the meta information and outputs it to the media drive 16 together with the thumbnail image, and outputs it to the file management information recording area 72 of the recording medium 17. Let me record. When face detection information is not input from the image signal processing unit 14, the rotation angle of the image that is easy to see when the image is displayed is determined based on the camera shake information from the camera shake detection unit 12. Information is generated and output together with the thumbnail image to the media drive 16 and recorded in the file management information recording area 72 of the recording medium 17.

次に、撮像装置10の動作について説明する。撮像装置10の電源がオンにされると、撮像部11から画像信号処理部14に、光電変換によって得られた画像信号が連続的に出力される。画像信号処理部14では、入力された画像信号が画素の間引くなどにより縮小されて表示部18に出力される。表示部18では、入力された画像信号に基づいて構図決定用のスルー画像が表示される。   Next, the operation of the imaging device 10 will be described. When the power supply of the imaging device 10 is turned on, the image signal obtained by the photoelectric conversion is continuously output from the imaging unit 11 to the image signal processing unit 14. In the image signal processing unit 14, the input image signal is reduced by thinning out pixels or the like and output to the display unit 18. The display unit 18 displays a through image for composition determination based on the input image signal.

そして例えば、ユーザから静止画像の撮影が指示された場合(シャッタ操作が行われた場合)、画像信号処理部14は、そのシャッタ操作のタイミングに対応する静止画像の画像信号を符号化復号部15に出力するとともに、この静止画像に対する顔検出情報とサムネイル画像を生成して制御部21に出力する。ただし、静止画像上から顔が検出されず顔検出情報が出力されない場合もある。   For example, when the user gives an instruction to capture a still image (when a shutter operation is performed), the image signal processing unit 14 encodes and decodes the image signal of the still image corresponding to the timing of the shutter operation. And the face detection information and thumbnail image for the still image are generated and output to the control unit 21. However, there are cases where a face is not detected from a still image and face detection information is not output.

符号化復号部15は、入力された静止画像の画像信号を符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。メディアドライブ16は、入力された符号化画像信号を静止画像ファイルとして記録メディア17のファイル記録領域71に記録する。   The encoding / decoding unit 15 encodes the input still image signal and outputs the encoded image signal obtained as a result to the media drive 16. The media drive 16 records the input encoded image signal in the file recording area 71 of the recording medium 17 as a still image file.

一方、制御部21は、画像信号処理部14から入力された顔検出情報を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力する。なお、画像信号処理部14から顔検出情報が入力されない場合、手ブレ情報に基づいて画像の回転角を決定し、決定した画像回転角をメタ情報に含める。   On the other hand, the control unit 21 generates meta information including the face detection information input from the image signal processing unit 14 and outputs it to the media drive 16 together with the thumbnail image. When face detection information is not input from the image signal processing unit 14, the rotation angle of the image is determined based on the camera shake information, and the determined image rotation angle is included in the meta information.

メディアドライブ16は、制御部19から入力されたサムネイル画像とメタ情報を記録メディア17のファイル管理情報記録領域72に記録する。さらに、メディアドライブ16は、制御部21からの制御に従い、記録した静止画像ファイルに対応して、ファイル管理情報記録領域72の記録位置情報を更新する。   The media drive 16 records the thumbnail image and meta information input from the control unit 19 in the file management information recording area 72 of the recording medium 17. Further, the media drive 16 updates the recording position information in the file management information recording area 72 in accordance with the recorded still image file in accordance with the control from the control unit 21.

また例えば、ユーザから動画像の録画開始が指示された場合、画像信号処理部14は、符号化復号部15に画像信号を継続して出力するとともに、動画像の先頭の画像信号に基づいて静止画像を生成し、静止画像に対する顔検出情報とサムネイル画像を生成して制御部21に出力する。なお、動画像を撮像している間、所定の周期毎、静止画像を生成して顔を検出するとともにサムネイル画像を生成し、顔検出情報とサムネイル画像を制御部21に周期的に出力するようにしてもよい。   Also, for example, when the user instructs to start recording a moving image, the image signal processing unit 14 continues to output the image signal to the encoding / decoding unit 15 and stops based on the top image signal of the moving image. An image is generated, face detection information for the still image and a thumbnail image are generated and output to the control unit 21. In addition, while capturing a moving image, a still image is generated for each predetermined period to detect a face, a thumbnail image is generated, and face detection information and a thumbnail image are periodically output to the control unit 21. It may be.

符号化復号部15は、順次入力される画像信号を符号化し、その結果得られる符号化画像信号をメディアドライブ16に出力する。メディアドライブ16は、入力された符号化画像信号を動画像ファイルとして記録メディア17のファイル記録領域71に記録する。   The encoding / decoding unit 15 encodes sequentially input image signals and outputs the resulting encoded image signal to the media drive 16. The media drive 16 records the input encoded image signal in the file recording area 71 of the recording medium 17 as a moving image file.

一方、制御部21は、画像信号処理部14から入力された顔検出情報を含めてメタ情報を生成し、サムネイル画像とともにメディアドライブ16に出力する。なお、画像信号処理部14から顔検出情報が入力されない場合、手ブレ情報や画像内の動きベクトルに基づいて画像の回転角を決定し、決定した画像回転角をメタ情報に含める。   On the other hand, the control unit 21 generates meta information including the face detection information input from the image signal processing unit 14 and outputs it to the media drive 16 together with the thumbnail image. When face detection information is not input from the image signal processing unit 14, an image rotation angle is determined based on camera shake information or a motion vector in the image, and the determined image rotation angle is included in the meta information.

メディアドライブ16は、制御部19から入力されるサムネイル画像とメタ情報を記録メディア17のファイル管理情報記録領域72に記録する。なお、画像信号処理部14から顔検出情報とサムネイル画像が周期的に出力される場合、顔検出情報を含むメタ情報とサムネイル画像も周期的にファイル管理情報記録領域72に記録するようにする。   The media drive 16 records the thumbnail image and meta information input from the control unit 19 in the file management information recording area 72 of the recording medium 17. When face detection information and thumbnail images are periodically output from the image signal processing unit 14, meta information and thumbnail images including face detection information are also periodically recorded in the file management information recording area 72.

そして、動画像の録画終了が指示された場合、画像信号処理部14は、画像信号の符号化を終了する。メディアドライブ16は、記録中の動画像ファイルを閉じ、制御部21からの制御に従い、記録した動画像ファイルに対応して、ファイル管理情報記録領域72の記録位置情報を更新する。   Then, when the end of video recording is instructed, the image signal processing unit 14 ends the encoding of the image signal. The media drive 16 closes the moving image file being recorded, and updates the recording position information in the file management information recording area 72 in accordance with the recorded moving image file in accordance with the control from the control unit 21.

以上説明した撮像装置10の動作のうち、画像信号の回転角を記録する処理(以下、画像回転角記録処理と称する)の詳細について、図7のフローチャートを参照して説明する。   Of the operations of the imaging apparatus 10 described above, the details of the processing for recording the rotation angle of the image signal (hereinafter referred to as image rotation angle recording processing) will be described with reference to the flowchart of FIG.

ステップS1において、画像信号処理部14の画像情報検出部35は、前段から入力される画像信号の画像上から人の顔を検出する。このステップS1の処理について、図8のフローチャートを参照して説明する。   In step S1, the image information detection unit 35 of the image signal processing unit 14 detects a human face from the image of the image signal input from the previous stage. The process of step S1 will be described with reference to the flowchart of FIG.

ステップS11において、静止画像生成部51は、前段から入力された画像信号が動画像に対応するものである場合、その画像信号に基づいて静止画像を生成して顔検出部52およびサムネイル生成部53に出力する。前段から入力された画像信号が静止画像に対応するものである場合、そのまま画像信号を顔検出部52およびサムネイル生成部53に出力する。   In step S11, when the image signal input from the previous stage corresponds to a moving image, the still image generation unit 51 generates a still image based on the image signal, and the face detection unit 52 and the thumbnail generation unit 53. Output to. When the image signal input from the previous stage corresponds to a still image, the image signal is output as it is to the face detection unit 52 and the thumbnail generation unit 53.

ステップS12において、顔検出部52は、入力された静止画像の回転角を0°に設定する。すなわち、画像を回転させず入力された状態を維持する。サムネイル生成部53は、入力された静止画像に対応するサムネイル画像を生成して制御部21に出力する。   In step S12, the face detection unit 52 sets the rotation angle of the input still image to 0 °. That is, the input state is maintained without rotating the image. The thumbnail generation unit 53 generates a thumbnail image corresponding to the input still image and outputs the thumbnail image to the control unit 21.

ステップS13において、顔検出部52は、回転角が設定された静止画像の輝度分布に基づき、静止画像上から人の顔を検出する。ステップS14において、顔検出部52は、静止画像上から人の顔が検出されたか否かを判定し、人の顔が検出されたと判定した場合、処理をステップS15に進める。   In step S13, the face detection unit 52 detects a human face from the still image based on the luminance distribution of the still image in which the rotation angle is set. In step S14, the face detection unit 52 determines whether or not a human face has been detected from the still image. If it is determined that a human face has been detected, the process proceeds to step S15.

ステップS15において、顔検出部15は、検出した人の顔に対応して、図5に示された各項目の情報を含む顔検出情報を生成する。なお、顔検出情報の画像回転角には、現在の静止画像が設定されている回転角が記録される。生成された顔検出情報は、制御部21に出力される。なお、ステップS14の処理で、人の顔が検出されないと判定された場合、ステップS15の処理はスキップされる。   In step S15, the face detection unit 15 generates face detection information including information on each item shown in FIG. 5 corresponding to the detected human face. The rotation angle at which the current still image is set is recorded as the image rotation angle of the face detection information. The generated face detection information is output to the control unit 21. If it is determined in step S14 that no human face is detected, the process in step S15 is skipped.

ステップS16において、顔検出部52は、静止画像の現在の回転角が270°であるか否かを判定し、270°ではない場合、処理をステップS17に進める。ステップS17において、顔検出部52は、静止画像の現在の回転角を90°だけ増して設定し、処理をステップS13に戻す。これ以降、ステップS13乃至S17の処理が繰り返される。これにより、静止画像の回転角が順次、0°,90°,180°,270°に設定されて人の顔が検出されることになる。そして、ステップS16で静止画像の現在の回転角が270°であると判定された場合、処理は図7のステップS2にリターンする。   In step S16, the face detection unit 52 determines whether or not the current rotation angle of the still image is 270 °, and if not, the process proceeds to step S17. In step S17, the face detection unit 52 sets the current rotation angle of the still image to be increased by 90 °, and returns the process to step S13. Thereafter, the processes in steps S13 to S17 are repeated. As a result, the rotation angle of the still image is sequentially set to 0 °, 90 °, 180 °, and 270 °, and a human face is detected. If it is determined in step S16 that the current rotation angle of the still image is 270 °, the process returns to step S2 in FIG.

ステップS2において、制御部21は、画像信号処理部14から顔検出情報が入力されたか否かを判定する。顔検出情報が入力されたと判定した場合、処理をステップS3に進める。ステップS3において、制御部21は、入力された顔検出情報を含めて画像信号のメタ情報を生成する。ステップS4において、制御部21は、生成したメタ情報と画像信号処理部14から入力されたサムネイル画像をメディアドライブ16に出力し、記録メディア17のファイル管理情報記録領域72に記録させる。   In step S <b> 2, the control unit 21 determines whether face detection information is input from the image signal processing unit 14. If it is determined that face detection information has been input, the process proceeds to step S3. In step S3, the control unit 21 generates meta information of the image signal including the input face detection information. In step S <b> 4, the control unit 21 outputs the generated meta information and the thumbnail image input from the image signal processing unit 14 to the media drive 16 and records them in the file management information recording area 72 of the recording medium 17.

反対に、ステップS2において、画像信号処理部14から顔検出情報が入力されないと判定された場合、処理をステップS5に進められる。ステップS5において、制御部21は、手ブレ検知部12から入力される手ブレ情報、および符号化復号部15から入力される画像上の動きベクトルに基づいて画像の回転角を決定する。ただし、符号化復号部15から画像上の動きベクトルが入力されるのは、動画像撮像時に限られるので、静止画像撮像時には、手ブレ検知部12から入力される手ブレ情報のみに基づいて画像の回転角を決定する。   Conversely, if it is determined in step S2 that face detection information is not input from the image signal processing unit 14, the process proceeds to step S5. In step S <b> 5, the control unit 21 determines the rotation angle of the image based on the camera shake information input from the camera shake detection unit 12 and the motion vector on the image input from the encoding / decoding unit 15. However, since the motion vector on the image is input from the encoding / decoding unit 15 only when a moving image is captured, the image based on only the camera shake information input from the camera shake detection unit 12 is captured when a still image is captured. Determine the rotation angle.

ステップS6の処理の詳細について、図9のフローチャートを参照して説明する。   Details of the process of step S6 will be described with reference to the flowchart of FIG.

ステップS21において、制御部21は、手ブレ検知部12から手ブレ情報を取得する。ステップS22において、制御部22は、符号化復号部15から符号化する画像信号に対応する画像上の動きベクトルを取得する。   In step S <b> 21, the control unit 21 acquires camera shake information from the camera shake detection unit 12. In step S <b> 22, the control unit 22 acquires a motion vector on the image corresponding to the image signal to be encoded from the encoding / decoding unit 15.

ステップS23において、制御部21は、取得した手ブレ情報と動きベクトルとに基づき、撮像部11の光軸のブレの軌跡を算出し、ステップ24において、制御部21は、当該軌跡に基づいて画像の天地方向(表示する時の回転角)を決定する。   In step S23, the control unit 21 calculates a locus of blurring of the optical axis of the imaging unit 11 based on the acquired camera shake information and the motion vector. In step 24, the control unit 21 performs image processing based on the locus. Determine the top and bottom direction (rotation angle when displaying).

具体的には、通常、手ぶれによる撮像部11の光軸のブレの軌跡は、10に示すように楕円軌道を描くことが知られている。この楕円軌道のうち、長軸の振幅はユーザの呼吸に同期して発生する上下方向の手ブレに起因することが知られているので、この楕円移動の長軸の方向を画像の天地方向とみなし、この角度に最も近い0°,90°,180°または270°を回転角に決定する。回転角を決定した後、処理は図7のステップS7にリターンする。   Specifically, it is known that the locus of blurring of the optical axis of the imaging unit 11 due to camera shake usually draws an elliptical orbit as indicated by 10. Among the elliptical trajectories, the long axis amplitude is known to be caused by the vertical camera shake that occurs in synchronization with the user's breathing. Therefore, the long axis direction of the elliptical movement is defined as the vertical direction of the image. Therefore, 0 °, 90 °, 180 ° or 270 ° closest to this angle is determined as the rotation angle. After determining the rotation angle, the process returns to step S7 in FIG.

ステップS7において、制御部21は、手ブレに基づいて決定した回転角を含めて画像信号のメタ情報を生成する。この後、処理はステップS4に進められ、生成されたメタ情報とサムネイル画像が記録メディア17のファイル管理情報記録領域72に記録される。   In step S7, the control unit 21 generates meta information of the image signal including the rotation angle determined based on the camera shake. Thereafter, the process proceeds to step S4, and the generated meta information and thumbnail image are recorded in the file management information recording area 72 of the recording medium 17.

以上説明したように、撮像装置10によれば、動画像あるいは再生画像の撮像時に、当該画像を表示するときの回転角がメタ情報の一部として、動画像ファイルまたは静止画像ファイルに対応付けて記録メディア17に記録される。   As described above, according to the imaging apparatus 10, when a moving image or a reproduced image is captured, the rotation angle when displaying the image is associated with the moving image file or the still image file as a part of the meta information. It is recorded on the recording medium 17.

次に、記録メディア17に記録された静止画像ファイルあるいは動画像を再生、表示する時、対応して記録されたメタ情報に含まれる画像回転角を利用して、当該画像を見易く表示する処理(以下、画像表示処理と称する)について、図11のフローチャートを参照して説明する。   Next, when a still image file or a moving image recorded on the recording medium 17 is played back and displayed, the image rotation angle included in the correspondingly recorded meta information is used to display the image in an easily viewable manner ( Hereinafter, it will be described with reference to the flowchart of FIG.

例えば、記録メディア17に記録された静止画像ファイルの再生を指示する操作がユーザから入力された場合、メディアドライブ16によって記録メディア17から再生が指示された静止画像ファイルとそれに対応するメタデータが読み出されて符号化復号部15に出力される。符号化復号部15では、符号化されている静止画像ファイルを復号し、その結果得られた画像信号とメタ情報を画像信号処理部14に出力する。   For example, when an operation for instructing reproduction of a still image file recorded on the recording medium 17 is input by the user, the still image file instructed to be reproduced from the recording medium 17 by the media drive 16 and the corresponding metadata are read. And output to the encoding / decoding unit 15. The encoding / decoding unit 15 decodes the encoded still image file, and outputs the image signal and meta information obtained as a result to the image signal processing unit 14.

ステップS31において、画像信号処理部14の画像信号回転部39は、入力されたメタ情報から画像の回転角を取得する。なお、この1フレームの画像上に複数の人の顔が存在する場合、メタ情報に複数の顔検出情報が含まれていて、各顔検出情報から回転角が取得できる。このように、複数の顔検出情報が存在する場合、各顔検出情報のうち、含まれる信頼度が最も高いものを選択し、選択した顔検出情報から画像回転角を取得するようにする。   In step S31, the image signal rotation unit 39 of the image signal processing unit 14 acquires the rotation angle of the image from the input meta information. When a plurality of human faces are present on this one frame image, the meta information includes a plurality of face detection information, and the rotation angle can be acquired from each face detection information. Thus, when there are a plurality of face detection information, the face detection information that has the highest reliability is selected from the face detection information, and the image rotation angle is obtained from the selected face detection information.

ステップS32において、画像信号回転部39は、取得した画像回転角に基づいて画像信号を回転させて後段に出力する。これにより、後段の処理を経て表示部18に表示される画像は、被写体の天地方向と表示の上下方向が一致した見易いものとなっているはずである。しかしながら、画像の表示の方向がユーザの意に合致しない場合もあるので、ステップS33以降の処理によって、画像の表示の方向をユーザの意に合致させる。   In step S32, the image signal rotation unit 39 rotates the image signal based on the acquired image rotation angle and outputs it to the subsequent stage. As a result, the image displayed on the display unit 18 through the subsequent processing should be easy to see with the vertical direction of the subject coincident with the vertical direction of the display. However, since the display direction of the image may not match the user's intention, the display direction of the image is matched with the user's intention by the processing after step S33.

ステップS33において、制御部21は、所定の時間、表示されている画像の表示の向きを変更させるように指示する操作がユーザから入力されたか否かを判定する。画像の表示の向きを変更するように指示する操作が入力されたと判定された場合、処理はステップS34に進められる。ステップS34において、画像信号回転部39は、変更が指示された向きに合わせて表示中の画像信号の回転角を変更する。ステップS35において、制御部21は、変更された回転角に対応し、記録メディア17に記録されているメタ情報に含まれる画像回転角を更新する。ただし、ユーザが一時的に画像を回転させただけの場合も起こり得るので、ユーザに対し、メタ情報の更新を実行してよいか否かを確認するようにしてもよい。   In step S33, the control unit 21 determines whether or not an operation for instructing to change the display direction of the displayed image is input from the user for a predetermined time. If it is determined that an operation for instructing to change the display direction of the image has been input, the process proceeds to step S34. In step S34, the image signal rotation unit 39 changes the rotation angle of the image signal being displayed in accordance with the direction instructed to be changed. In step S <b> 35, the control unit 21 updates the image rotation angle included in the meta information recorded on the recording medium 17 corresponding to the changed rotation angle. However, since the case where the user merely rotates the image temporarily may also occur, it may be confirmed whether or not the meta information may be updated.

なお、ステップS33において、所定の時間待機しても、画像の表示の向きを変更するように指示する操作が入力されていないと判定された場合、ステップS34およびS35の処理はスキップされる。   If it is determined in step S33 that an operation for instructing to change the image display direction has not been input even after waiting for a predetermined time, the processes in steps S34 and S35 are skipped.

以上説明した画像処理時処理によれば、静止画像を表示するとき、対応するメタ情報に含まれる画像回転角に基づいて画像を回転してから表示するので、被写体の天地方向と表示の上下方向が一致した見易いものとなる。   According to the above-described processing at the time of image processing, when displaying a still image, the image is displayed after being rotated based on the image rotation angle included in the corresponding meta information. Are easy to see.

さらに、この表示結果がユーザにとって見易くない場合、その表示も向きを変更することができ、さらにこの変更結果をメタ情報に反映せることができる。従って、アナ自生し画像を次回以降表示する際には、速やかに見易い向きで画像を表示することができる。   Furthermore, when the display result is not easy to see for the user, the direction of the display can be changed, and the change result can be reflected in the meta information. Therefore, when displaying an image generated by Ana, the image can be quickly displayed in an easy-to-view direction.

なお、動画像の表示に際しても同様に回転表示することができる。ただし、動画像を頻繁に回転し表示させると見難くなる場合があるので、対応するメタ情報に含まれる画像回転角は、対応するサムネイル画像を表示するときに参照し、サムネイル画像を回転して表示するようにしてもよい。元論、静止画像のサムネイル画像を表示する時にも、メタ情報に含まれる画像回転角を取得して回転表示するようにすることができる。   In addition, when displaying a moving image, it can be similarly rotated. However, since it may be difficult to see if the moving image is rotated and displayed frequently, the image rotation angle included in the corresponding meta information is referred to when displaying the corresponding thumbnail image, and the thumbnail image is rotated. You may make it display. In principle, even when displaying a thumbnail image of a still image, it is possible to acquire and rotate the image rotation angle included in the meta information.

さらに、メタ情報に含まれる画像回転角は、静止画像ファイルや動画像ファイルの画像を表示する時のみならず、例えば記録メディア17に記録されている静止画像ファイルや動画像ファイルの一覧を示すためにサムネイル画像だけを表示するような場合にも利用できる。   Further, the image rotation angle included in the meta information is not only for displaying a still image file or a moving image file, but also for displaying a list of still image files or moving image files recorded on the recording medium 17, for example. It can also be used when only thumbnail images are displayed on the screen.

この場合、記録メディア17のファイル記録領域71を読み出すことなく、ファイル管理情報記録領域72のメタ情報とサムネイル情報を読み出せばよいので、速やかにサムネイル画像の一覧を、各サムネイル画像が見易い向きで表示することができる。   In this case, the meta information and thumbnail information of the file management information recording area 72 may be read without reading the file recording area 71 of the recording medium 17, so that a list of thumbnail images can be quickly displayed so that each thumbnail image can be easily viewed. Can be displayed.

以上説明したように、本発明を適用した撮像装置10によれば、画像の天地方向を決定する為に専用のセンサ(重力センサなど)を設けることなく、画像が見易くなる表示の向き、すなわち、回転角を決定することができる。   As described above, according to the imaging apparatus 10 to which the present invention is applied, the display orientation that makes the image easy to see without providing a dedicated sensor (such as a gravity sensor) to determine the top-to-bottom direction of the image, that is, The rotation angle can be determined.

特に、重力センサを用いないので、撮影時の姿勢や振動、加速度、重力の方向に影響されず、画像の見易い回転角を決定することができる。   In particular, since no gravity sensor is used, it is possible to determine an easy-to-view rotation angle without being influenced by the posture, vibration, acceleration, and direction of gravity at the time of shooting.

さらに、画像上から人の顔が検出できない場合にも、手ブレ補正に用いる手ブレ検知部
12の検知結果を流用して、画像の見易い回転角を決定することができる。
Furthermore, even when a human face cannot be detected from the image, the rotation angle at which the image can be easily viewed can be determined by using the detection result of the camera shake detection unit 12 used for camera shake correction.

なお、本発明は、デジタルスチルカメラやデジタルビデオカメラに限らず、画像信号を処理するあらゆる電子機器に適用することができる。   The present invention is not limited to a digital still camera and a digital video camera, and can be applied to any electronic device that processes an image signal.

ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。   By the way, the series of processes described above can be executed by hardware, but can also be executed by software.

なお、本明細書において、プログラムに基づいて実行されるステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   In this specification, the steps executed based on the program are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes executed in time series according to the described order. It also includes processing.

なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。   The embodiment of the present invention is not limited to the above-described embodiment, and various modifications can be made without departing from the gist of the present invention.

本発明を適用した撮像装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the imaging device to which this invention is applied. 図1の画像信号処理部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the image signal process part of FIG. 図2の画像情報検出部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the image information detection part of FIG. 顔検出部の処理を説明するための図である。It is a figure for demonstrating the process of a face detection part. 顔検出情報の各項目を示す図である。It is a figure which shows each item of face detection information. 記録メディアのファイル記録領域とファイル管理情報記録領域を示す図である。It is a figure which shows the file recording area and file management information recording area of a recording medium. 画像回転角記録処理を説明するフローチャートである。It is a flowchart explaining an image rotation angle recording process. 図7のステップS1の詳細を説明するフローチャートである。It is a flowchart explaining the detail of step S1 of FIG. 図7のステップS6の詳細を説明するフローチャートである。It is a flowchart explaining the detail of step S6 of FIG. 手ブレに起因する光軸の軌跡を示す図である。It is a figure which shows the locus | trajectory of the optical axis resulting from camera shake. 画像表示処理を説明するフローチャートである。It is a flowchart explaining an image display process.

符号の説明Explanation of symbols

10 撮像装置, 11 撮像部, 12 手ブレ検知部, 13 手ブレ補正部, 14 画像信号処理部, 15 符号化復号部, 16 メディアドライブ, 17 記録メディア, 18 表示部, 19 操作部, 20 メモリ, 21 制御部, 35 画像信号検出部, 39 画像信号回転部, 51 静止画像生成部, 52 顔検出部, 53 サムネイル生成部,   DESCRIPTION OF SYMBOLS 10 imaging device, 11 imaging part, 12 camera shake detection part, 13 camera shake correction part, 14 image signal processing part, 15 encoding / decoding part, 16 media drive, 17 recording medium, 18 display part, 19 operation part, 20 memory , 21 control unit, 35 image signal detection unit, 39 image signal rotation unit, 51 still image generation unit, 52 face detection unit, 53 thumbnail generation unit,

Claims (8)

撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置において、
被写体を撮影して前記被写体に対応する画像信号を生成する生成手段と、
生成された前記画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成する検出手段と、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成するメタ情報生成手段と、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する記録手段と
を含む撮像装置。
In an imaging device that records an image signal corresponding to a captured subject on a recording medium,
Generating means for photographing an object and generating an image signal corresponding to the object;
Detecting means for detecting a human face from an image of the generated image signal and generating face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face; ,
Meta information generating means for generating meta information corresponding to the image signal including the face detection information;
An imaging apparatus comprising: a recording unit that records the image signal and the meta information in association with each other on the recording medium.
前記検出手段は、生成された前記画像信号の画像に回転角を設定し、回転した状態の前記画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報としての前記回転角を含む顔検出情報を生成する
請求項1に記載の撮像装置。
The detection means sets a rotation angle for the generated image signal, detects a human face from the rotated image, and detects the relative direction of the detected image in the vertical direction of the face. The imaging device according to claim 1, wherein face detection information including the rotation angle as first direction information indicating the position is generated.
撮像時の手ブレを検知する検知手段をさらに含み、
前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、検知された前記手ブレに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成する
請求項1に記載の撮像装置。
It further includes detection means for detecting camera shake during imaging,
When the face detection information is not generated, the meta information generation unit generates second direction information indicating a vertical direction of an image of the generated image signal based on the detected camera shake, The imaging apparatus according to claim 1, wherein meta information corresponding to the image signal is generated including the generated second direction information.
生成された前記画像信号を符号化する符号化手段をさらに含み、
前記メタ情報生成手段は、前記顔検出情報が生成されなかった場合、前記符号化の過程で算出される前記画像信号の画像上の動きベクトルと、検知された前記手ブレとに基づいて、生成された前記画像信号の画像の上下方向を示す第2の方向情報を生成し、生成した前記第2の方向情報を含めて前記画像信号に対応するメタ情報を生成する
請求項3に記載の撮像装置。
Encoding means for encoding the generated image signal;
When the face detection information is not generated, the meta information generation unit generates the meta information based on the motion vector on the image of the image signal calculated in the encoding process and the detected camera shake. The imaging according to claim 3, wherein second direction information indicating a vertical direction of an image of the image signal that has been generated is generated, and meta information corresponding to the image signal is generated including the generated second direction information. apparatus.
前記記録手段は、前記記録媒体の異なる記録領域に前記画像信号と前記メタ情報とを対応付けて記録する
請求項1に記載の撮像装置。
The imaging apparatus according to claim 1, wherein the recording unit records the image signal and the meta information in association with each other in different recording areas of the recording medium.
前記記録媒体から再生された画像信号を表示するとき、前記画像信号に対応する前記メタ情報に含まれる第1または第2の方向情報に基づき、前記画像信号の画像を回転させる回転手段を
さらに含む請求項1に記載の撮像装置。
The image processing apparatus further includes a rotating unit that rotates the image of the image signal based on the first or second direction information included in the meta information corresponding to the image signal when displaying the image signal reproduced from the recording medium. The imaging device according to claim 1.
撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の撮像方法において、
被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録する
ステップを含む撮像方法。
In an imaging method of an imaging apparatus that records an image signal corresponding to an imaged subject on a recording medium,
Face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face by photographing a subject and detecting a human face from an image of an image signal corresponding to the subject. Produces
Generating meta information corresponding to the image signal including the face detection information;
An imaging method including a step of recording the image signal and the meta information in association with each other on the recording medium.
撮像した被写体に対応する画像信号を記録媒体に記録する撮像装置の制御用のプログラムであって、
被写体を撮影して前記被写体に対応する画像信号の画像上から人の顔を検出し、検出した前記顔の上下方向の前記画像における相対的な方向を示す第1の方向情報を含む顔検出情報を生成し、
前記顔検出情報を含めて前記画像信号に対応するメタ情報を生成し、
前記画像信号と前記メタ情報とを対応付けて前記記録媒体に記録させる
ステップを含む処理をコンピュータに実行させるプログラム。
A program for controlling an imaging apparatus that records an image signal corresponding to a captured subject on a recording medium,
Face detection information including first direction information indicating a relative direction in the image in the vertical direction of the detected face by photographing a subject and detecting a human face from an image of an image signal corresponding to the subject. Produces
Generating meta information corresponding to the image signal including the face detection information;
A program for causing a computer to execute a process including a step of recording the image signal and the meta information in association with each other on the recording medium.
JP2006175632A 2006-06-26 2006-06-26 Imaging apparatus and imaging method, and program Withdrawn JP2008005427A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006175632A JP2008005427A (en) 2006-06-26 2006-06-26 Imaging apparatus and imaging method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006175632A JP2008005427A (en) 2006-06-26 2006-06-26 Imaging apparatus and imaging method, and program

Publications (1)

Publication Number Publication Date
JP2008005427A true JP2008005427A (en) 2008-01-10

Family

ID=39009408

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006175632A Withdrawn JP2008005427A (en) 2006-06-26 2006-06-26 Imaging apparatus and imaging method, and program

Country Status (1)

Country Link
JP (1) JP2008005427A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009113280A1 (en) * 2008-03-14 2009-09-17 三洋電機株式会社 Image processing device and imaging device equipped with same
JP2009253701A (en) * 2008-04-07 2009-10-29 Canon Inc Imaging apparatus, control method of imaging apparatus, program and recording medium
JP2010238033A (en) * 2009-03-31 2010-10-21 Nec Personal Products Co Ltd Apparatus, method and program for processing image
JP2015106910A (en) * 2013-12-03 2015-06-08 カシオ計算機株式会社 Image processing system, image processing method, and program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009113280A1 (en) * 2008-03-14 2009-09-17 三洋電機株式会社 Image processing device and imaging device equipped with same
JP2009253701A (en) * 2008-04-07 2009-10-29 Canon Inc Imaging apparatus, control method of imaging apparatus, program and recording medium
JP2010238033A (en) * 2009-03-31 2010-10-21 Nec Personal Products Co Ltd Apparatus, method and program for processing image
JP2015106910A (en) * 2013-12-03 2015-06-08 カシオ計算機株式会社 Image processing system, image processing method, and program

Similar Documents

Publication Publication Date Title
JP4174404B2 (en) Imaging apparatus, image display method, program, and storage medium
JP4549260B2 (en) Recording / reproducing apparatus, recording / reproducing method, and computer program
JP5516662B2 (en) Imaging device
JP2006245726A (en) Digital camera
JP2012075018A (en) Reproduction device and method, and program
JP4924228B2 (en) Image processing apparatus, image processing method, and program
JP2007173966A (en) Imaging apparatus and image data processing method thereof
JP2015053741A (en) Image reproduction device
JP2006211378A (en) Motion picture recording and reproducing apparatus, motion picture recording apparatus, motion picture reproducing apparatus and program
JP5938655B2 (en) Playback device, imaging device, and program
JP5105844B2 (en) Imaging apparatus and method
JP2008005427A (en) Imaging apparatus and imaging method, and program
JP2006203334A (en) Image recording apparatus, control method thereof and program
JP2004248171A (en) Moving image recorder, moving image reproduction device, and moving image recording and reproducing device
JP2012151708A (en) Imaging device
JP2012124614A (en) Imaging apparatus and imaging apparatus control method
KR101480407B1 (en) Digital image processing apparatus, method for controlling the same and medium of recording the method
JP2009246775A (en) Image reproducing device
JP2009094741A (en) Imaging device, imaging method and program
JP5249078B2 (en) Imaging device
JP2005204043A (en) Image display apparatus, information acquisition device thereof, information acquisition/setting method thereof, and content in which setting information thereof is embedded
JP2017085338A (en) Imaging apparatus, control method, and program
JP2010187111A (en) Image capturing apparatus
JP2007124548A (en) Imaging device
JP2009071464A (en) Camera

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20090901