JP2011172115A - Imaging device, imaging process method, and program - Google Patents

Imaging device, imaging process method, and program Download PDF

Info

Publication number
JP2011172115A
JP2011172115A JP2010035307A JP2010035307A JP2011172115A JP 2011172115 A JP2011172115 A JP 2011172115A JP 2010035307 A JP2010035307 A JP 2010035307A JP 2010035307 A JP2010035307 A JP 2010035307A JP 2011172115 A JP2011172115 A JP 2011172115A
Authority
JP
Japan
Prior art keywords
imaging
unit
image
subject
face image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010035307A
Other languages
Japanese (ja)
Other versions
JP2011172115A5 (en
JP5446977B2 (en
Inventor
Masanori Ishihara
正規 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2010035307A priority Critical patent/JP5446977B2/en
Publication of JP2011172115A publication Critical patent/JP2011172115A/en
Publication of JP2011172115A5 publication Critical patent/JP2011172115A5/ja
Application granted granted Critical
Publication of JP5446977B2 publication Critical patent/JP5446977B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To properly detect a face image and reliably achieve the best focus adjustment and exposure control at the detection of the face image. <P>SOLUTION: An imaging device 100 includes: a search time determination unit 62 which determines a search time for searching for the face image with a rotation angle from the pickup image obtained later according to the rotation angle centering a reference axis of this face image when it is determined by a detection determination unit 61 that the face image is included in the imaged image output from an electronic imaging unit 2; and an imaging interval setting unit 43 which sets a continuous imaging interval at which the electronic imaging unit is driven according to the determined search time. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、被写体を撮像する撮像装置、撮像処理方法及びプログラムに関する。   The present invention relates to an imaging apparatus, an imaging processing method, and a program for imaging a subject.

近年、デジタルカメラ等の撮像装置は、順次撮像される画像から顔画像を検出することにより、この顔画像をAFエリアやAEエリアとして焦点調整や露出制御を行うものが一般的になっている。
また、「顔画像を有する被写体は常に動くものである」ということを前提とし、顔の向きが変わる等により顔画像が撮像される画像から消失した場合を想定した上で、最適な焦点調整や露出制御を行う技術も開発されている。例えば、撮像される画像から顔画像が検出されなくなると、その顔画像を有する被写体人物の、撮像間隔における距離の変化量を勘案し、変化量が大きい場合には、顔検出を諦めて固定焦点による調節に変更する技術がある(例えば、特許文献1参照)。
In recent years, an imaging apparatus such as a digital camera is generally used to detect a face image from sequentially captured images and perform focus adjustment and exposure control using the face image as an AF area or an AE area.
Also, assuming that the subject with a face image is always moving, assuming that the face image has disappeared from the captured image due to a change in the face orientation, etc., Technology to control exposure has also been developed. For example, when a face image is no longer detected from the captured image, the amount of change in the distance of the subject person having the face image is taken into account. There is a technique for changing to adjustment according to (see, for example, Patent Document 1).

特開2010−8936号公報JP 2010-8936 A

しかしながら、上記特許文献1の技術にあっては、撮像されている画像について焦点調整や露出制御が最適となるように制御の効率化を図っているに過ぎず、撮像される画像から顔画像が検出されなくなると、顔画像を利用した焦点調整や露出制御を行うことができなくなることには変わりは無い。   However, in the technique of the above-mentioned Patent Document 1, the efficiency of the control is merely improved so that the focus adjustment and the exposure control are optimized for the captured image, and the face image is obtained from the captured image. If it is no longer detected, the focus adjustment and exposure control using the face image cannot be performed.

本発明は、このような問題点に鑑みて成されたものであり、顔画像の検出を適正に行うことができ、当該顔画像の検出を起因とする最適な焦点調整や露出制御をより確実なものにすることができるようにすることを目的とする。   The present invention has been made in view of such problems, can detect a face image properly, and more reliably perform optimum focus adjustment and exposure control due to the detection of the face image. The purpose is to be able to make things.

上記課題を解決するため、請求項1に記載の発明の撮像装置は、
撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、この情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する第1判断手段と、この第1判断手段により前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する決定手段と、この決定手段によって決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する設定手段と、を備えたことを特徴としている。
In order to solve the above problem, an imaging apparatus according to claim 1 is provided.
Imaging control means for continuously driving the imaging means at predetermined intervals to output an image from the imaging means, each of a plurality of rotation angles around the reference axis of the subject, and detection for detecting the subject Information storage means for storing information in association with each other and whether or not the subject is included in the image output from the imaging means based on the detection information stored in the information storage means A first judging means for judging, and when the first judging means judges that the subject is included, the subject at the rotational angle is imaged according to the rotational angle about the reference axis of the subject. A determination unit that determines a search time for searching from an image output from the unit, and a period during which the imaging unit is driven by the imaging control unit in accordance with the search time determined by the determination unit It is characterized by comprising a setting means for setting a.

請求項2に記載の発明は、請求項1に記載の発明において、
前記設定手段による設定後、前記決定手段により新たに特定された被写体の回動角度が前回特定された被写体の回動角度から変化したか否かを判断する第2判断手段を更に備え、前記決定手段は、前記第2判断手段により前記被写体の回動角度が変化したと判断されると、変化後の回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を再決定することを特徴としている。
The invention according to claim 2 is the invention according to claim 1,
After the setting by the setting means, the determination means further comprises second determination means for determining whether or not the rotation angle of the subject newly specified by the determination means has changed from the rotation angle of the subject specified last time. When the second determination unit determines that the rotation angle of the subject has changed, the unit re-searches a search time for searching for an object having the changed rotation angle from the image output from the imaging unit. It is characterized by deciding.

請求項3に記載の発明は、請求項1又は2に記載の発明において、
前記設定手段による設定後、前記撮像手段から出力された画像に前記被写体が含まれなくなったか否かを判断する第3判断手段を更に備え、前記決定手段は、前記第3判断手段により前記被写体が含まれなくなったと判断されると、前記撮像手段から出力された画像から被写体を検出するための検出時間を決定することを特徴としている。
The invention according to claim 3 is the invention according to claim 1 or 2,
After the setting by the setting means, the image forming apparatus further includes third determination means for determining whether or not the subject is no longer included in the image output from the imaging means, and the determination means determines whether the subject is detected by the third determination means. When it is determined that it is no longer included, the detection time for detecting the subject is determined from the image output from the imaging means.

請求項4に記載の発明は、請求項1〜3の何れか一項に記載の発明において、
前記撮像手段から出力された画像を記録する画像記録手段を更に備えることを特徴としている。
The invention according to claim 4 is the invention according to any one of claims 1 to 3,
The image recording device further includes image recording means for recording the image output from the imaging means.

請求項5に記載の発明の撮像処理方法は、
撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、を備える撮像装置を用いた撮像処理方法であって、前記情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する処理と、前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する処理と、決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する処理と、を実行することを特徴としている。
The imaging processing method of the invention according to claim 5 is:
Imaging control means for continuously driving the imaging means at predetermined intervals to output an image from the imaging means, each of a plurality of rotation angles around the reference axis of the subject, and detection for detecting the subject An information processing unit that stores information in association with each other, and an imaging processing method using the imaging device, wherein the imaging unit is based on the detection information stored in the information storage unit. The process of determining whether or not the subject is included in the output image, and if it is determined that the subject is included, according to the rotation angle about the reference axis of the subject, the rotation angle A process for determining a search time for searching for the subject from the image output from the imaging unit, and an interval for driving the imaging unit by the imaging control unit is set according to the determined search time It is characterized by executing processing and that, a.

請求項6に記載の発明のプログラムは、
撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、を備える撮像装置のコンピュータを、この情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する第1判断手段、この第1判断手段により前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する決定手段、この決定手段によって決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する設定手段、として機能させることを特徴としている。
The program of the invention described in claim 6 is:
Imaging control means for continuously driving the imaging means at predetermined intervals to output an image from the imaging means, each of a plurality of rotation angles around the reference axis of the subject, and detection for detecting the subject And an information storage unit that stores information in association with each other, based on the detection information stored in the information storage unit, an image output from the imaging unit First determination means for determining whether or not a subject is included, and when the first determination means determines that the subject is included, the rotation is performed according to a rotation angle about the reference axis of the subject. Determination means for determining a search time for searching for a subject having a moving angle from an image output from the imaging means, and the imaging control means according to the search time determined by the determination means Ri setting means for setting an interval for driving the image pickup means, it is characterized in that to function as a.

本発明によれば、顔画像の検出を適正に行うことができ、これにより、当該顔画像の検出を起因として実行される最適な焦点調整や露出制御をより確実なものにすることができる。   According to the present invention, it is possible to appropriately detect a face image, and thereby it is possible to make sure the optimum focus adjustment and exposure control executed based on the detection of the face image.

本発明を適用した実施形態1の撮像装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the imaging device of Embodiment 1 to which this invention is applied. 図1の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation related to continuous imaging processing by the imaging apparatus of FIG. 1. 図2の連続撮像処理に係る顔検出用情報の一例を模式的に示す図である。It is a figure which shows typically an example of the information for face detection which concerns on the continuous imaging process of FIG. 図2の連続撮像処理に係る画像の一例を模式的に示す図である。It is a figure which shows typically an example of the image which concerns on the continuous imaging process of FIG. 本発明を適用した実施形態2の撮像装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the imaging device of Embodiment 2 to which this invention is applied. 図5の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。6 is a flowchart illustrating an example of an operation related to continuous imaging processing by the imaging apparatus of FIG. 5. 本発明を適用した実施形態3の撮像装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the imaging device of Embodiment 3 to which this invention is applied. 図7の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。It is a flowchart which shows an example of the operation | movement which concerns on the continuous imaging process by the imaging device of FIG. 変形例1の撮像装置による連続撮像処理に係る動作の一例を示すフローチャートである。10 is a flowchart illustrating an example of an operation related to continuous imaging processing by the imaging apparatus according to the first modification.

以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。   Hereinafter, specific embodiments of the present invention will be described with reference to the drawings. However, the scope of the invention is not limited to the illustrated examples.

[実施形態1]
実施形態1の撮像装置100は、電子撮像部2から出力された撮像画像に顔画像Sが含まれていると判断されると、この顔画像Sの回動角度に従って、当該回動角度の顔画像Sをその後に取得される撮像画像から探索するための探索時間を決定し、決定された探索時間に応じて電子撮像部2を駆動させる連続撮像間隔を設定する。
[Embodiment 1]
When it is determined that the face image S is included in the captured image output from the electronic imaging unit 2, the imaging apparatus 100 according to the first embodiment follows the rotation angle of the face image S. A search time for searching for the image S from a captured image acquired thereafter is determined, and a continuous imaging interval for driving the electronic imaging unit 2 is set according to the determined search time.

図1は、本発明を適用した実施形態1の撮像装置100の概略構成を示すブロック図である。
図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、ユニット回路部3と、撮像制御部4と、画像処理部5と、顔検出処理部6と、表示部7と、画像記録部8と、バッファメモリ9と、プログラムメモリ10と、操作入力部11と、中央制御部12とを備えている。
また、撮像制御部4、画像処理部5、顔検出処理部6、表示部7、画像記録部8、バッファメモリ9、プログラムメモリ10、中央制御部12は、バスライン13を介して接続されている。
FIG. 1 is a block diagram illustrating a schematic configuration of an imaging apparatus 100 according to the first embodiment to which the present invention is applied.
As shown in FIG. 1, the imaging apparatus 100 includes a lens unit 1, an electronic imaging unit 2, a unit circuit unit 3, an imaging control unit 4, an image processing unit 5, a face detection processing unit 6, and a display unit. 7, an image recording unit 8, a buffer memory 9, a program memory 10, an operation input unit 11, and a central control unit 12.
The imaging control unit 4, the image processing unit 5, the face detection processing unit 6, the display unit 7, the image recording unit 8, the buffer memory 9, the program memory 10, and the central control unit 12 are connected via a bus line 13. Yes.

レンズ部1は、例えば、図示は省略するが、ズームレンズ、フォーカスレンズ、絞り等を有し、これらレンズを通過した被写体の光学像を結像する。   For example, although not shown, the lens unit 1 includes a zoom lens, a focus lens, a diaphragm, and the like, and forms an optical image of a subject that has passed through these lenses.

電子撮像部2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ等から構成され、レンズ部1の各種レンズを通過した光学像を当該電子撮像部2により二次元の画像信号(RGB画像データ)に変換して、ユニット回路部3に出力する。
ここで、電子撮像部2は、被写体を撮像する撮像手段を構成している。
The electronic imaging unit 2 includes, for example, an image sensor such as a charge coupled device (CCD) or a complementary metal-oxide semiconductor (CMOS), and an optical image that has passed through various lenses of the lens unit 1 is transmitted by the electronic imaging unit 2. It is converted into a two-dimensional image signal (RGB image data) and output to the unit circuit unit 3.
Here, the electronic imaging unit 2 constitutes an imaging unit that images a subject.

ユニット回路部3は、例えば、図示は省略するが、CDS(Correlated Double Sampling:相関二重サンプリング回路)、AGC(Auto Gain Control:ゲイン調整アンプ)、ADC(Analog to Digital Converter:アナログ/デジタル変換器)等を具備している。そして、ユニット回路部3は、電子撮像部2から出力されて入力される被写体の光学像に応じたアナログの画像信号をCDSにより保持し、当該画像信号をAGCにより増幅した後、増幅された画像信号をADCによりデジタルの画像信号に変換する。   The unit circuit unit 3 is, for example, omitted from the drawing, but includes a CDS (Correlated Double Sampling), an AGC (Auto Gain Control), and an ADC (Analog to Digital Converter). ) Etc. Then, the unit circuit unit 3 holds an analog image signal corresponding to the optical image of the subject output from the electronic image pickup unit 2 and inputted by the CDS, amplifies the image signal by the AGC, and then the amplified image. The signal is converted into a digital image signal by the ADC.

撮像制御部4は、中央制御部12からの指令に基づいて、被写体の撮像の際に、レンズ部1、電子撮像部2、ユニット回路部3等の動作を制御する。具体的には、撮像制御部4は、レンズ部駆動部41と、電子撮像部駆動部42と、撮像間隔設定部43とを具備している。   The imaging control unit 4 controls operations of the lens unit 1, the electronic imaging unit 2, the unit circuit unit 3, and the like when imaging a subject based on a command from the central control unit 12. Specifically, the imaging control unit 4 includes a lens unit driving unit 41, an electronic imaging unit driving unit 42, and an imaging interval setting unit 43.

レンズ部駆動部41は、レンズ部1のズームレンズやフォーカスレンズ等を光軸上で移動させるためのレンズモータ(図示略)の駆動を制御する。
具体的には、レンズ部駆動部41は、中央制御部12からの指令に基づいてレンズモータの駆動信号を生成し、当該駆動信号に従ってレンズモータを駆動させることにより、ズームレンズやフォーカスレンズ等の光軸上の位置を調整する。また、レンズ部駆動部41は、顔検出処理部6により顔画像Sが検出されると、当該顔画像Sにピントを合わせるのに必要なレンズモータの駆動信号を生成し、当該駆動信号に従ってレンズモータを駆動させてフォーカスレンズの合焦位置を調整する。
The lens unit driving unit 41 controls driving of a lens motor (not shown) for moving the zoom lens, the focus lens, and the like of the lens unit 1 on the optical axis.
Specifically, the lens unit drive unit 41 generates a lens motor drive signal based on a command from the central control unit 12, and drives the lens motor in accordance with the drive signal, such as a zoom lens and a focus lens. Adjust the position on the optical axis. In addition, when the face detection processing unit 6 detects the face image S, the lens unit driving unit 41 generates a lens motor driving signal necessary for focusing on the face image S, and the lens according to the driving signal. The focus position of the focus lens is adjusted by driving the motor.

電子撮像部駆動部42は、電子撮像部2を走査駆動するための動作タイミングを撮像間隔設定部43(詳細後述)により設定された連続撮像間隔に従って制御する。
具体的には、電子撮像部駆動部42は、例えば、タイミング発生器(Timing Generator)、電子撮像部2を駆動するドライバ(何れも図示略)等を備え、ライブビュー画像や記録画像の撮像の際に、タイミング発生器やドライバを介して電子撮像部2を走査駆動させる。即ち、電子撮像部駆動部42は、中央制御部12からの指令に基づいて撮像間隔設定部43により設定された連続撮像間隔を空けて、タイミング発生器がシャッタースピードに対応する電荷蓄積時間をシャッターパルスとしてドライバに出力し、ドライバからの駆動パルス信号に応じて電子撮像部2を動作させて電荷蓄積時間(露光時間)を制御する。このような動作制御を、電子撮像部駆動部42は、連続記録枚数(例えば、60枚)分やメモリ容量一杯となるまで連続的に行い、電子撮像部2により変換された二次元の画像信号を当該電子撮像部2の撮像領域から1画面分ずつ連続撮像間隔を空けて(所定の周期で)読み出してユニット回路部3に出力させる。
ここで、電子撮像部駆動部42は、電子撮像部2を所定の間隔で連続的に駆動させて当該電子撮像部2から画像を出力させる撮像制御手段を構成している。
The electronic imaging unit drive unit 42 controls the operation timing for scanning and driving the electronic imaging unit 2 according to the continuous imaging interval set by the imaging interval setting unit 43 (details will be described later).
Specifically, the electronic imaging unit driving unit 42 includes, for example, a timing generator, a driver (none of which is not shown) that drives the electronic imaging unit 2, and the like, and captures live view images and recorded images. At this time, the electronic imaging unit 2 is driven to scan through a timing generator and a driver. That is, the electronic image pickup unit driving unit 42 sets the charge accumulation time corresponding to the shutter speed to the shutter speed by setting the continuous image pickup interval set by the image pickup interval setting unit 43 based on the command from the central control unit 12. It outputs to a driver as a pulse, operates the electronic imaging part 2 according to the drive pulse signal from a driver, and controls charge accumulation time (exposure time). The electronic imaging unit driving unit 42 performs such operation control continuously until the number of continuously recorded sheets (for example, 60) or the memory capacity is full, and the two-dimensional image signal converted by the electronic imaging unit 2. Are read out from the imaging region of the electronic imaging unit 2 by one screen at a continuous imaging interval (with a predetermined period) and output to the unit circuit unit 3.
Here, the electronic imaging unit driving unit 42 constitutes an imaging control unit that continuously drives the electronic imaging unit 2 at a predetermined interval to output an image from the electronic imaging unit 2.

撮像間隔設定部43は、電子撮像部駆動部42により電子撮像部2を駆動させる連続撮像間隔を設定する。
具体的には、撮像間隔設定部43は、ユーザによる操作入力部11の所定操作に基づいて中央制御部12により指定された撮像フレームレート(例えば、30fps等)に従って、電子撮像部駆動部42により電子撮像部2を連続的に駆動させるための連続撮像間隔(例えば、1/30s等)を設定する。
The imaging interval setting unit 43 sets a continuous imaging interval for driving the electronic imaging unit 2 by the electronic imaging unit driving unit 42.
Specifically, the imaging interval setting unit 43 is controlled by the electronic imaging unit driving unit 42 according to the imaging frame rate (for example, 30 fps) specified by the central control unit 12 based on a predetermined operation of the operation input unit 11 by the user. A continuous imaging interval (for example, 1/30 s) for driving the electronic imaging unit 2 continuously is set.

また、撮像間隔設定部43は、後述する顔検出処理部6の探索時間決定部62によって顔画像Sの探索時間が決定されると、当該探索時間と等しくなるように電子撮像部2の連続撮像間隔を設定する。即ち、顔画像Sの探索時間は、顔画像Sの基準軸を中心とする複数の回動角度の各々に応じて決定されるようになっており(後述)、撮像間隔設定部43は、決定された顔画像Sの探索時間(例えば、1/6s等)に応じて、当該探索時間と電子撮像部2の連続撮像間隔(例えば、1/6s等)とが等しくなるように設定する。
ここで、撮像間隔設定部43は、顔検出処理部6の探索時間決定部62によって決定された探索時間に応じて、電子撮像部駆動部42により電子撮像部2を駆動させる連続撮像間隔を設定する設定手段を構成している。
In addition, when the search time of the face image S is determined by the search time determination unit 62 of the face detection processing unit 6 described later, the imaging interval setting unit 43 performs continuous imaging of the electronic imaging unit 2 so as to be equal to the search time. Set the interval. That is, the search time for the face image S is determined according to each of a plurality of rotation angles around the reference axis of the face image S (described later), and the imaging interval setting unit 43 determines In accordance with the search time (for example, 1/6 s) of the face image S, the search time and the continuous imaging interval (for example, 1/6 s) of the electronic imaging unit 2 are set to be equal.
Here, the imaging interval setting unit 43 sets a continuous imaging interval for driving the electronic imaging unit 2 by the electronic imaging unit driving unit 42 according to the search time determined by the search time determining unit 62 of the face detection processing unit 6. The setting means is configured.

画像処理部5は、A/D変換後の画像信号に対して、画素毎のR,G,Bの色成分データ(RGBデータ)を生成するRGB補間処理、RGBデータから輝度信号(Y)と色差信号(U、V)からなるYUVデータを画素毎に生成するYUV変換処理、さらに自動ホワイトバランスや輪郭強調などの画品質向上のためのデジタル信号処理を行う。そして、画像処理部5は、変換後の各画像フレームのYUVデータをバッファメモリ9に順次出力し、当該バッファメモリ9に格納させる。
また、画像処理部5は、YUVデータを水平及び垂直ともに所定倍率で縮小処理を行って、低解像度のライブビュー表示用の画像データを生成する。さらに、画像処理部5は、YUVデータを水平及び垂直ともに所定倍率で縮小処理を行って、記録用の画像の連続撮像中の顔検出処理用に低解像度のYUVデータを生成しても良い。
The image processing unit 5 performs RGB interpolation processing for generating R, G, and B color component data (RGB data) for each pixel on the image signal after A / D conversion, and luminance signal (Y) from the RGB data. YUV conversion processing for generating YUV data composed of color difference signals (U, V) for each pixel, and digital signal processing for improving image quality such as automatic white balance and edge enhancement are performed. Then, the image processing unit 5 sequentially outputs the YUV data of each converted image frame to the buffer memory 9 and stores it in the buffer memory 9.
In addition, the image processing unit 5 performs a reduction process on the YUV data at a predetermined magnification both horizontally and vertically to generate image data for low-resolution live view display. Further, the image processing unit 5 may reduce YUV data at a predetermined magnification both horizontally and vertically to generate low-resolution YUV data for face detection processing during continuous imaging of recording images.

顔検出処理部6は、検出判断部61と、探索時間決定部62とを具備している。   The face detection processing unit 6 includes a detection determination unit 61 and a search time determination unit 62.

検出判断部61は、中央制御部12からの指令に基づいて、画像処理部5によって生成された各画像フレームのYUVデータをバッファメモリ9から取得して、当該画像フレーム内から人の顔画像Sを検出する顔検出処理を行う。
ここで、顔検出処理は、顔画像Sを検出するための顔検出用情報d(図3参照)を用いて行われる。
The detection determination unit 61 acquires YUV data of each image frame generated by the image processing unit 5 from the buffer memory 9 based on a command from the central control unit 12, and the human face image S from the image frame. A face detection process is performed to detect.
Here, the face detection process is performed using the face detection information d (see FIG. 3) for detecting the face image S.

顔検出用情報dは、顔検出処理部6に記憶されており、例えば、顔の複数の部位(例えば、目、鼻、口等)の形状や大きさ、顔の輪郭、略正面方向から見た場合の各部位の位置等を特徴量情報として、年齢別、人種別等に分けて複数登録されている。
特徴量情報は、顔の基準軸を中心とする複数の回動角度の各々と対応付けて複数登録されている(図3参照)。即ち、図3に示すように、複数の特徴量情報は、例えば、顔の中心Cを前後方向に通過する前後軸(基準軸)を中心軸として、左右方向に所定の角度ずつ回動させたものである。例えば、略正面方向から見た場合(回動角度:0°)の特徴量情報を基準として、当該基準となる顔F0を向かって右方向に所定角度(例えば、+θ1°、+θ2°、…、+θn°等)回動させた特徴量情報や、向かって左方向に所定角度(例えば、−θ1°、−θ2°、…、−θn°等)回動させた特徴量情報などがある。
なお、顔F0の中心Cを通過して上下方向に延在する軸を上下軸L0として表し、当該上下軸L0の回動後の軸を軸Laとして表すものとする(図3並びに図4(a)及び図4(b)参照)。また、上下軸L0と向かって右方向の回動後の軸Laとのなす回動角度を正の符号(+)を付して表し、上下軸L0と向かって左方向の回動後の軸Laとのなす回動角度を負の符号(−)を付して表すものとする(図3参照)。
また、特徴量情報は、上記した左右方向に回動させたものは一例であり、これに限られるものではなく、例えば、顔の中心Cを左右方向に通過する左右軸を基準軸として、当該左右軸に対して上下方向に所定の角度ずつ回動させたものであっても良い(図示略)。
このように、顔検出処理部6は、顔画像(被写体)Sの基準軸を中心とする複数の回動角度の各々と当該顔画像Sを検出するための顔検出用情報dの特徴量情報とを対応付けてそれぞれ記憶する情報記憶手段を構成している。
The face detection information d is stored in the face detection processing unit 6. For example, the shape and size of a plurality of parts of the face (for example, eyes, nose, mouth, etc.), the face outline, and the substantially frontal direction are used. In this case, the position of each part is registered as feature amount information divided by age, type of person, etc.
A plurality of pieces of feature amount information are registered in association with each of a plurality of rotation angles about the reference axis of the face (see FIG. 3). That is, as shown in FIG. 3, for example, the plurality of pieces of feature amount information are rotated by a predetermined angle in the left-right direction with the front-rear axis (reference axis) passing through the center C of the face in the front-rear direction as the central axis. Is. For example, on the basis of feature amount information when viewed from a substantially front direction (rotation angle: 0 °), a predetermined angle (for example, + θ1 °, + θ2 °,. + Θn ° etc.) rotated feature amount information, and feature amount information rotated leftward by a predetermined angle (for example, −θ1 °, −θ2 °,..., −θn ° etc.).
Note that an axis extending through the center C of the face F0 and extending in the vertical direction is represented as a vertical axis L0, and an axis after rotation of the vertical axis L0 is represented as an axis La (FIGS. 3 and 4 ( a) and FIG. 4B). Further, the rotation angle formed with the axis La after rotating in the right direction with respect to the vertical axis L0 is represented by a positive sign (+), and the axis after rotation in the left direction with respect to the vertical axis L0. The rotation angle formed with La is expressed with a negative sign (−) (see FIG. 3).
In addition, the feature amount information rotated in the left-right direction described above is an example, and is not limited to this. For example, the feature amount information includes the left-right axis passing through the center C of the face in the left-right direction as a reference axis. It may be rotated by a predetermined angle in the vertical direction with respect to the left and right axis (not shown).
As described above, the face detection processing unit 6 has each of a plurality of rotation angles around the reference axis of the face image (subject) S and the feature amount information of the face detection information d for detecting the face image S. Are stored in association with each other.

そして、検出判断部61は、バッファメモリ9から取得されたライブビュー表示用や記録用の各画像フレームのYUVデータについて所定面積の画像領域を順次読み出し、この画像領域に対してエッジ抽出等を行って特徴量を算出する。ここで、記録用の各画像フレームの代わりに、画像処理部5により生成された記録用の画像フレームの低解像度のYUVデータを処理対象としても良い。
そして、検出判断部61は、算出された特徴量と顔検出用情報dの複数の回動角度の各々の特徴量情報との一致度を評価して評価値を算出する。続けて、検出判断部61は、複数の所定面積の画像領域に対応する評価値のうち、所定の閾値以上で、且つ、最も高いものを、顔領域が含まれるものとして判断する。このようにして、検出判断部61は、顔検出処理の結果に応じて各画像フレームに顔画像Sが含まれるか否かを判断する。
ここで、検出判断部61は、顔検出用情報dに基づいて、電子撮像部2から出力された画像に顔画像(被写体)Sが含まれるか否かを判断する第1判断手段を構成している。
Then, the detection determination unit 61 sequentially reads out an image area of a predetermined area for the YUV data of each image frame for live view display and recording acquired from the buffer memory 9, and performs edge extraction and the like on this image area. To calculate the feature amount. Here, instead of each image frame for recording, low-resolution YUV data of the image frame for recording generated by the image processing unit 5 may be processed.
Then, the detection determining unit 61 calculates the evaluation value by evaluating the degree of coincidence between the calculated feature amount and the feature amount information of each of the plurality of rotation angles of the face detection information d. Subsequently, the detection determination unit 61 determines that the highest evaluation value corresponding to a plurality of image areas having a predetermined area that is equal to or higher than a predetermined threshold and includes the face area. In this way, the detection determination unit 61 determines whether or not the face image S is included in each image frame according to the result of the face detection process.
Here, the detection determination unit 61 constitutes a first determination unit that determines whether the image output from the electronic imaging unit 2 includes a face image (subject) S based on the face detection information d. ing.

探索時間決定部62は、画像処理部5によって生成された各画像フレームから人の顔画像Sを探索するための探索時間を決定する。具体的には、探索時間決定部62は、バッファメモリ9から取得された一の画像フレームに顔画像Sが含まれていると検出判断部61により判断された場合に、基準軸を中心とする顔画像Sの回動角度に応じて、当該一の画像フレームよりも後にバッファメモリ9から取得される画像フレームにて検出判断部61が顔画像Sを探索するのに必要な探索時間を決定する。
ここで、探索時間は、各画像フレームにて人の顔画像Sを検出するために最低限必要な時間を考慮して規定されるものであるが、顔検出処理に用いられる特徴量情報における顔の回動角度が異なることによって長短に変化する。即ち、略正面方向から見た顔F0(回動角度:0°)の特徴量情報を用いる場合の探索時間が最も短くなり、基準軸を中心として所定方向(例えば、向かって左方向等)に回動させた角度が大きくなると(例えば、図4(a)の状態に比べて回動角度が大きくなっている図4(b)の状態の方が)、探索時間も長くなる。具体的には、例えば、上下軸L0と回動後の軸Laとのなす回動角度が90°の顔の特徴量情報(例えば、図3における±θn°に対応する顔の特徴量情報)を用いる場合には、略正面方向から見た顔F0(回動角度:0°)の特徴量情報を用いる場合に比して、探索時間が5倍程度となっている。
The search time determination unit 62 determines a search time for searching for a human face image S from each image frame generated by the image processing unit 5. Specifically, the search time determination unit 62 centers on the reference axis when the detection determination unit 61 determines that the face image S is included in one image frame acquired from the buffer memory 9. According to the rotation angle of the face image S, a search time required for the detection determination unit 61 to search for the face image S is determined in an image frame acquired from the buffer memory 9 after the one image frame. .
Here, the search time is defined in consideration of the minimum time required to detect the human face image S in each image frame, but the face in the feature amount information used for the face detection process The rotation angle varies depending on the rotation angle. That is, the search time when using the feature amount information of the face F0 (rotation angle: 0 °) viewed from substantially the front direction is the shortest, and in a predetermined direction (for example, the left direction toward the left) about the reference axis. When the rotated angle increases (for example, the state of FIG. 4B in which the rotation angle is larger than the state of FIG. 4A), the search time also becomes longer. Specifically, for example, face feature amount information whose rotation angle formed by the vertical axis L0 and the rotated axis La is 90 ° (for example, face feature amount information corresponding to ± θn ° in FIG. 3). When using the feature amount information of the face F0 (rotation angle: 0 °) viewed from substantially the front direction, the search time is about five times.

そこで、探索時間決定部62は、検出判断部61により一の画像フレームに顔画像Sが含まれていると判断された場合には、先ず、顔検出用情報dを参照して、当該顔画像Sの検出に用いられた特徴量情報の顔の基準軸を中心とする所定方向(例えば、向かって右方向等)の回動角度を特定し、特定された回動角度に応じて、当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な探索時間を決定する。
なお、顔画像Sの探索時間の決定は、例えば、所定の演算により行われるが、これに限られるものではなく、特徴量情報の顔の回動角度と探索時間とが対応付けられた所定のテーブルを用いて行っても良い。
ここで、探索時間決定部62は、検出判断部61により顔画像Sが含まれていると判断されると、この顔画像Sの基準軸を中心とする回動角度に従って、当該回動角度の顔画像Sを電子撮像部2から出力された画像から探索するための探索時間を決定する決定手段を構成している。
Therefore, when the detection determination unit 61 determines that the face image S is included in one image frame, the search time determination unit 62 first refers to the face detection information d to determine the face image. A rotation angle in a predetermined direction (for example, the right direction toward the right) about the reference axis of the face of the feature amount information used for detecting S is specified, and the rotation is performed according to the specified rotation angle. A search time required for searching the face image S at the moving angle in the image frame acquired from the buffer memory 9 is determined.
The determination of the search time for the face image S is performed by, for example, a predetermined calculation. However, the determination is not limited to this, and the predetermined search time is associated with the face rotation angle of the feature amount information and the search time. You may carry out using a table.
Here, when the detection determination unit 61 determines that the face image S is included, the search time determination unit 62 determines the rotation angle according to the rotation angle about the reference axis of the face image S. A determining unit that determines a search time for searching the face image S from the image output from the electronic imaging unit 2 is configured.

表示部7は、バッファメモリ9に格納された1フレーム分のYUVデータをビデオ信号に変換した後、ライブビュー画像として表示画面に表示する。具体的には、表示部7は、被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を所定の表示フレームレートで表示したり、本撮像画像として撮像されたレックビュー画像を表示する。   The display unit 7 converts the YUV data for one frame stored in the buffer memory 9 into a video signal, and then displays it as a live view image on the display screen. Specifically, the display unit 7 displays a live view image at a predetermined display frame rate based on a plurality of image frames generated by imaging a subject, or displays a REC view image captured as a main captured image. To do.

画像記録部8は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されている。また、画像記録部8は、電子撮像部2から出力され画像処理部5の符号化部(図示略)により所定の符号化方式(例えば、JPEG方式やMPEG方式等)により圧縮・符号化された静止画像データや動画像データを記録する。
ここで、画像記録部8は、電子撮像部2から出力された画像を記録する画像記録手段を構成している。
The image recording unit 8 is configured by, for example, a nonvolatile memory (flash memory). The image recording unit 8 is output from the electronic imaging unit 2 and is compressed and encoded by a coding unit (not shown) of the image processing unit 5 by a predetermined coding method (for example, JPEG method, MPEG method, etc.). Records still image data and moving image data.
Here, the image recording unit 8 constitutes an image recording unit that records the image output from the electronic imaging unit 2.

バッファメモリ9は、画像データ等を一時的に記録するバッファであるとともに、中央制御部12などのワーキングメモリ等としても使用される。   The buffer memory 9 is a buffer for temporarily recording image data and the like, and is also used as a working memory for the central control unit 12 and the like.

プログラムメモリ10には、当該撮像装置100の機能に係る各種プログラムやデータが格納されている。また、プログラムメモリ10には、例えば、静止画撮像時、連続撮像時、ライブビュー画像撮像時等の各撮像時における適正な露出値(EV)に対応する絞り値(F)とシャッタースピードとの組み合わせを示すプログラム線図を構成するプログラムAEデータや、EV値表(何れも図示略)も格納されている。   The program memory 10 stores various programs and data related to the functions of the imaging apparatus 100. Further, the program memory 10 stores, for example, an aperture value (F) corresponding to an appropriate exposure value (EV) and a shutter speed at each imaging such as still image imaging, continuous imaging, and live view image imaging. The program AE data constituting the program diagram showing the combination and the EV value table (both not shown) are also stored.

操作入力部11は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部11は、例えば、被写体の撮影指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定用ボタン、ズーム量の調整指示に係るズームボタン等を備え(何れも図示略)、これらのボタンのユーザ操作に応じて所定の操作信号を中央制御部12に出力する。   The operation input unit 11 is for performing a predetermined operation of the imaging apparatus 100. Specifically, the operation input unit 11 includes, for example, a shutter button related to a subject shooting instruction, a selection determination button related to a selection instruction of an imaging mode, a function, and the like, a zoom button related to a zoom amount adjustment instruction, and the like ( Neither is shown), and a predetermined operation signal is output to the central control unit 12 in response to a user operation of these buttons.

中央制御部12は、例えば、撮像装置100の各部を制御するCPUを具備するワンチップマイコン等から構成されている。
また、中央制御部12は、操作入力部11から出力され入力された操作信号に基づいて、撮像装置100の各部を制御する。具体的には、中央制御部12は、操作入力部11のシャッタボタンの所定操作に従って出力された記録指示信号が入力されると、プログラムメモリ10に記憶されている所定のプログラムに従って、撮像制御部4により電子撮像部2及びユニット回路部3の駆動タイミングを制御して静止画像を撮影する処理を実行する。この静止画像の撮影によりバッファメモリ9に格納された1フレーム分のYUVデータは、画像処理部5にてJPEG方式等により圧縮され符号化されて、画像記録部8に静止画像データとして記録される。
The central control unit 12 includes, for example, a one-chip microcomputer that includes a CPU that controls each unit of the imaging apparatus 100.
The central control unit 12 controls each unit of the imaging apparatus 100 based on the operation signal output from the operation input unit 11 and input. Specifically, when a recording instruction signal output according to a predetermined operation of the shutter button of the operation input unit 11 is input, the central control unit 12 performs an imaging control unit according to a predetermined program stored in the program memory 10. 4, the drive timing of the electronic imaging unit 2 and the unit circuit unit 3 is controlled to execute a process of capturing a still image. One frame of YUV data stored in the buffer memory 9 by shooting this still image is compressed and encoded by the image processing unit 5 by the JPEG method or the like, and recorded as still image data in the image recording unit 8. .

次に、撮像装置100により被写体を撮像する場合に実行される連続撮像処理について、図2を参照して説明する。
図2は、連続連続撮像処理に係る動作の一例を示すフローチャートである。
Next, a continuous imaging process executed when the subject is imaged by the imaging apparatus 100 will be described with reference to FIG.
FIG. 2 is a flowchart illustrating an example of an operation related to continuous continuous imaging processing.

連続連続撮像処理は、ユーザによる操作入力部11の所定操作に基づいて、表示部7に表示されたメニュー画面内の複数のモードの中から、例えば、静止画像の連続撮像モードが選択指定された場合に実行される処理である。
なお、以下の連続撮像処理にあっては、ユーザによって操作入力部11のシャッタボタンが一回操作されると、撮像制御部4は、中央制御部12からの指令に基づいて、予め設定されている所定の連続記録枚数(例えば、60枚)分の記録画像を電子撮像部2に連続して撮像させる。
In the continuous continuous imaging process, for example, a continuous imaging mode for still images is selected and designated from among a plurality of modes in the menu screen displayed on the display unit 7 based on a predetermined operation of the operation input unit 11 by the user. It is a process executed in this case.
In the following continuous imaging process, when the shutter button of the operation input unit 11 is operated once by the user, the imaging control unit 4 is set in advance based on a command from the central control unit 12. Recorded images corresponding to a predetermined continuous recording number (for example, 60) are continuously captured by the electronic imaging unit 2.

図2に示すように、先ず、撮像制御部4の制御下にて、レンズ部1の各種レンズを通過した被写体の光学像が電子撮像部2により撮像されると、顔検出処理部6の検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行う。そして、検出判断部61は、当該顔検出処理の結果に応じて、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
ここで、顔画像Sが検出されたと判断されると(ステップS1;YES)、探索時間決定部62は、顔検出用情報dを参照して、検出された顔画像Sの基準軸を中心とする所定方向の回動角度(例えば、−θ1°等:図4(a)参照)を特定する(ステップS2)。また、顔画像Sが検出された場合には、表示部7は、表示されているライブビュー画像にて、当該顔画像Sを囲繞する顔検出枠W(図4(a)等参照)を表示する。
As shown in FIG. 2, first, when an optical image of a subject that has passed through various lenses of the lens unit 1 is captured by the electronic imaging unit 2 under the control of the imaging control unit 4, detection by the face detection processing unit 6 is performed. The determination unit 61 performs face detection processing for detecting a human face image S using the face detection information d for each image frame for live view display generated by the image processing unit 5. Then, the detection determination unit 61 determines whether or not the face image S is detected from the image frame to be processed according to the result of the face detection process (step S1).
When it is determined that the face image S is detected (step S1; YES), the search time determination unit 62 refers to the face detection information d and focuses on the reference axis of the detected face image S. A rotation angle in a predetermined direction (for example, -θ1 °, etc .: see FIG. 4A) is specified (step S2). When the face image S is detected, the display unit 7 displays a face detection frame W (see FIG. 4A, etc.) surrounding the face image S in the displayed live view image. To do.

続けて、探索時間決定部62は、特定された回動角度に基づいて、検出判断部61が当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な顔画像Sの探索時間(例えば、1/30s等)を決定して検出判断部61に設定する(ステップS3)。
次に、撮像制御部4の撮像間隔設定部43は、探索時間決定部62によって決定された顔画像Sの探索時間に応じて、当該探索時間と等しくなるように電子撮像部2による顔画像Sの連続撮像間隔(例えば、1/30s等)を設定する(ステップS4)。
これにより、単位期間における電子撮像部2による被写体の撮像回数と検出判断部61による顔画像Sの探索回数とを等しくすることができ、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索が実行可能となる。
Subsequently, based on the specified rotation angle, the search time determination unit 62 causes the detection determination unit 61 to search for a face image S at the rotation angle in an image frame acquired from the buffer memory 9 thereafter. The search time (for example, 1/30 s) required for the face image S is determined and set in the detection determination unit 61 (step S3).
Next, the imaging interval setting unit 43 of the imaging control unit 4 determines the face image S by the electronic imaging unit 2 to be equal to the search time according to the search time of the face image S determined by the search time determination unit 62. Are set (for example, 1/30 s) (step S4).
Accordingly, the number of times the subject is imaged by the electronic imaging unit 2 in the unit period can be made equal to the number of times the face image S is searched by the detection determination unit 61, and each time an image for recording is taken, The search for the face image S can be executed.

続けて、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録開始指示が検出されたか否かを判断する(ステップS5)。
ここで、記録開始指示が検出されていないと判断されると(ステップS5;NO)、中央制御部12は、処理をステップS1に戻し、上記のように、検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
Subsequently, the central control unit 12 determines whether or not an instruction to start recording of continuously captured images of the subject has been detected based on a predetermined operation of the shutter button of the operation input unit 11 by the user (step S5).
If it is determined that the recording start instruction has not been detected (step S5; NO), the central control unit 12 returns the process to step S1, and the detection determination unit 61, as described above, performs the image processing unit. For each image frame for live view display generated by 5, face detection processing for detecting a human face image S is performed using the face detection information d, and the face image S is detected from the processing target image frame. It is determined whether or not it has been done (step S1).

一方、ステップS5にて、記録開始指示が検出されたと判断されると(ステップS5;YES)、撮像制御部4は、撮像間隔設定部43により設定された被写体の連続撮像間隔に従って、検出済の顔画像S(顔検出枠W;図4(a)等参照)をAFエリアやAEエリア(測定対象)とする自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレーム(撮像画像)のYUVデータをバッファメモリ9に順次記録する(ステップS6)。
具体的には、検出判断部61は、設定された顔画像Sの探索時間(=連続撮像間隔)毎に、顔画像S(顔検出枠W)の画像データをコントラスト値の取得領域(AFエリア)や露出計測領域(AEエリア)として使用するとともに、撮像制御部4は、レンズ部駆動部41により顔画像Sにピントを合わせるように自動合焦処理を実行したり、シャッタースピードや絞り値等の露出条件を調整する自動露出処理を実行する。また、これらの処理と同期させるように、撮像制御部4は、撮像間隔設定部43により設定された被写体の連続撮像間隔(=顔画像Sの探索時間)で、電子撮像部2を駆動させて当該電子撮像部2から記録用の画像を出力させる。
なお、撮像制御部4は、被写体の撮像条件の調整制御として、測定対象を利用して自動ホワイトバランス(AWB)を行っても良い。
On the other hand, when it is determined in step S5 that a recording start instruction has been detected (step S5; YES), the imaging control unit 4 has already been detected according to the continuous imaging interval of the subject set by the imaging interval setting unit 43. Subject imaging conditions such as automatic focusing processing (AF) and automatic exposure processing (AE) in which the face image S (face detection frame W; see FIG. 4A, etc.) is used as an AF area or AE area (measurement target). By performing adjustment control, the image processing unit 5 sequentially records YUV data of image frames (captured images) sequentially generated based on continuous imaging by the electronic imaging unit 2 in the buffer memory 9 (step S6).
Specifically, the detection determination unit 61 converts the image data of the face image S (face detection frame W) into a contrast value acquisition area (AF area) for each set search time (= continuous imaging interval) of the face image S. ) And an exposure measurement area (AE area), and the imaging control unit 4 executes an automatic focusing process so that the face image S is focused by the lens unit driving unit 41, a shutter speed, an aperture value, and the like. Auto exposure processing is performed to adjust the exposure conditions. Further, the imaging control unit 4 drives the electronic imaging unit 2 at the continuous imaging interval (= search time of the face image S) of the subject set by the imaging interval setting unit 43 so as to be synchronized with these processes. A recording image is output from the electronic imaging unit 2.
Note that the imaging control unit 4 may perform automatic white balance (AWB) using the measurement target as adjustment control of the imaging condition of the subject.

次に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS7)。
ここで、記録終了指示が検出されていないと判断されると(ステップS7;NO)、中央制御部12は、処理をステップS6に戻し、記録画像の数が所定の連続記録枚数(例えば、60枚)に達するまで、それ以降の処理を行う。
そして、ステップS7にて、記録終了指示が検出されたと判断されると(ステップS7;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。
Next, the central control unit 12 ends the recording of the continuously captured images of the subject depending on whether or not the number of recorded images recorded in the buffer memory 9 has reached a predetermined continuous recording number (for example, 60). It is determined whether or not an instruction has been detected (step S7).
Here, if it is determined that the recording end instruction has not been detected (step S7; NO), the central control unit 12 returns the process to step S6, and the number of recorded images is a predetermined continuous recording number (for example, 60). Subsequent processing is performed until the number of sheets reaches.
When it is determined in step S7 that a recording end instruction has been detected (step S7; YES), the central controller 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

一方、ステップS1にて、ライブビュー画像から顔画像Sが検出されていないと判断されると(ステップS1;NO)、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録開始指示が検出されたか否かを判断する(ステップS8)。
ここで、記録開始指示が検出されていないと判断されると(ステップS8;NO)、中央制御部12は、処理をステップS1に戻し、上記のように、検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
On the other hand, when it is determined in step S1 that the face image S is not detected from the live view image (step S1; NO), the central control unit 12 performs a predetermined operation of the shutter button of the operation input unit 11 by the user. Based on this, it is determined whether or not an instruction to start recording of continuously captured images of the subject has been detected (step S8).
If it is determined that the recording start instruction has not been detected (step S8; NO), the central control unit 12 returns the process to step S1, and the detection determination unit 61, as described above, performs the image processing unit. For each image frame for live view display generated by 5, face detection processing for detecting a human face image S is performed using the face detection information d, and the face image S is detected from the processing target image frame. It is determined whether or not it has been done (step S1).

一方、ステップS8にて、記録開始指示が検出されたと判断されると(ステップS8;YES)、撮像制御部4は、予め設定されている所定の連続撮像間隔(固定値)に従って、予め設定されている所定のAFエリアやAEエリア(測定対象)に基づいて自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレームのYUVデータをバッファメモリ9に順次記録する(ステップS9)。
なお、ステップS9における自動合焦処理や自動露出処理は、AFエリアやAEエリアが異なる以外はステップS6における処理と略同様であり、その詳細な説明は省略する。
On the other hand, if it is determined in step S8 that a recording start instruction has been detected (step S8; YES), the imaging control unit 4 is set in advance according to a predetermined continuous imaging interval (fixed value) set in advance. The image processing unit 5 performs electronic image processing condition adjustment control such as automatic focusing processing (AF) and automatic exposure processing (AE) based on a predetermined AF area and AE area (measurement target). The YUV data of the image frames sequentially generated based on the continuous imaging by the imaging unit 2 is sequentially recorded in the buffer memory 9 (step S9).
Note that the automatic focusing process and automatic exposure process in step S9 are substantially the same as the process in step S6 except that the AF area and the AE area are different, and detailed description thereof is omitted.

次に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS10)。
ここで、記録終了指示が検出されていないと判断されると(ステップS10;NO)、中央制御部12は、処理をステップS9に戻し、記録画像の数が所定の連続記録枚数(例えば、60枚)に達するまで、それ以降の処理を行う。
そして、ステップS10にて、記録終了指示が検出されたと判断されると(ステップS10;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。
Next, the central control unit 12 ends the recording of the continuously captured images of the subject depending on whether or not the number of recorded images recorded in the buffer memory 9 has reached a predetermined continuous recording number (for example, 60). It is determined whether or not an instruction has been detected (step S10).
Here, if it is determined that the recording end instruction has not been detected (step S10; NO), the central control unit 12 returns the process to step S9, and the number of recorded images is a predetermined continuous recording number (for example, 60). Subsequent processing is performed until the number of sheets reaches.
When it is determined in step S10 that a recording end instruction has been detected (step S10; YES), the central controller 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

以上のように、実施形態1の撮像装置100によれば、顔検出処理にて検出された顔画像Sの回動角度に従って、当該回動角度の顔画像Sをその後にバッファメモリ9から取得される記録用の撮像画像から探索するための顔画像Sの探索時間を決定し、決定された顔画像Sの探索時間に応じて当該探索時間と電子撮像部2を駆動させる連続撮像間隔とが等しくなるように設定するので、記録用の画像の連続撮像中の単位期間における、被写体の撮像回数と撮像画像からの顔画像Sの探索回数とを等しくすることができ、所定の連続記録枚数(例えば、60枚)分の撮像にて、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索を実行することができる。
従って、被写体の連続撮像間隔、即ち、単位期間における被写体の撮像回数を一旦設定しても、顔画像Sの探索時間に応じて被写体の連続撮像間隔を可変させることで顔画像Sの非検出状態を生じ難くして、当該顔画像Sの検出を適正に行うことができる。この結果、当該顔画像Sの検出を起因として実行される最適な焦点調整や露出制御をより確実なものにすることができる。
As described above, according to the imaging apparatus 100 of the first embodiment, the face image S having the rotation angle is subsequently acquired from the buffer memory 9 according to the rotation angle of the face image S detected by the face detection process. The search time of the face image S for searching from the recorded image to be recorded is determined, and the search time and the continuous imaging interval for driving the electronic imaging unit 2 are equal according to the determined search time of the face image S. Therefore, the number of times the subject is imaged and the number of times the face image S is searched from the captured image in the unit period during continuous imaging of the recording image can be made equal, and a predetermined continuous recording number (for example, , 60 images), the face image S for the image can be searched every time a recording image is captured.
Therefore, even if the continuous imaging interval of the subject, that is, the number of times of imaging of the subject in the unit period is set once, the non-detection state of the face image S is made by changing the continuous imaging interval of the subject according to the search time of the facial image S. Therefore, the face image S can be detected properly. As a result, the optimum focus adjustment and exposure control executed based on the detection of the face image S can be made more reliable.

[実施形態2]
以下に、本発明を適用した実施形態2の撮像装置200について図5及び図6を参照して説明する。
図5は、実施形態2の撮像装置200の概略構成を示すブロック図である。
実施形態2の撮像装置200は、連続撮像処理にて、連続して撮像される記録用の画像毎に当該画像内の顔画像Sの回動角度が前回の顔画像Sの回動角度から変化したか否かを判断し、顔画像Sの回動角度が変化したと判断されると、変化後の回動角度の顔画像Sを撮像画像から探索するための探索時間を再決定する。
なお、実施形態2の撮像装置200は、以下に説明する以外の点で上記実施形態1の撮像装置100と略同様の構成をなし、その説明は省略する。
[Embodiment 2]
Hereinafter, an imaging apparatus 200 according to the second embodiment to which the present invention is applied will be described with reference to FIGS. 5 and 6.
FIG. 5 is a block diagram illustrating a schematic configuration of the imaging apparatus 200 according to the second embodiment.
In the imaging apparatus 200 according to the second embodiment, the rotation angle of the face image S in the image is changed from the previous rotation angle of the face image S for each recording image continuously captured in the continuous imaging process. If it is determined whether or not the rotation angle of the face image S has changed, the search time for searching the face image S having the changed rotation angle from the captured image is determined again.
Note that the imaging apparatus 200 according to the second embodiment has substantially the same configuration as the imaging apparatus 100 according to the first embodiment except for the points described below, and the description thereof is omitted.

顔検出処理部6は、検出判断部61及び探索時間決定部62に加えて、連続撮像処理にて顔画像Sの回動角度の変化を判断する角度変化判断部63を具備している。
角度変化判断部63は、撮像間隔設定部43によって連続撮像間隔が設定された後、連続撮像処理にて、画像処理部5によって生成された画像フレームから検出された顔画像Sの回動角度が、連続撮像間隔の設定の際に用いた顔画像Sの回動角度から変化したか否かを判断する。即ち、検出判断部61は、画像処理部5によって画像フレームが順次生成される毎に、各画像フレームから顔画像Sを検出し、探索時間決定部62は、検出された顔画像Sの基準軸を中心とする所定方向の回動角度を特定する。そして、角度変化判断部63は、探索時間決定部62によって新たに特定された顔画像Sの回動角度が、前回特定された顔画像Sの回動角度から変化したか否かを判断する。
このように、角度変化判断部63は、撮像間隔設定部43による連続撮像間隔の設定後、探索時間決定部62により新たに特定された顔画像Sの回動角度が前回特定された顔画像Sの回動角度から変化したか否かを判断する第2判断手段を構成している。
In addition to the detection determination unit 61 and the search time determination unit 62, the face detection processing unit 6 includes an angle change determination unit 63 that determines a change in the rotation angle of the face image S in the continuous imaging process.
After the continuous imaging interval is set by the imaging interval setting unit 43, the angle change determination unit 63 determines the rotation angle of the face image S detected from the image frame generated by the image processing unit 5 in the continuous imaging process. Then, it is determined whether or not the rotation angle of the face image S used when setting the continuous imaging interval is changed. That is, the detection determination unit 61 detects the face image S from each image frame every time the image processing unit 5 sequentially generates image frames, and the search time determination unit 62 determines the reference axis of the detected face image S. A rotation angle in a predetermined direction centered on is specified. Then, the angle change determination unit 63 determines whether the rotation angle of the face image S newly specified by the search time determination unit 62 has changed from the rotation angle of the face image S specified last time.
As described above, the angle change determination unit 63 sets the continuous imaging interval by the imaging interval setting unit 43, and then the face image S in which the rotation angle of the face image S newly specified by the search time determination unit 62 is previously specified. The second determination means for determining whether or not the rotation angle has changed is configured.

探索時間決定部62は、角度変化判断部63により顔画像Sの回動角度が変化したと判断されると、変化後の回動角度に応じて、当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて検出判断部61が探索するのに必要な探索時間を再決定する。   When the angle change determination unit 63 determines that the rotation angle of the face image S has changed, the search time determination unit 62 subsequently selects the face image S having the rotation angle according to the changed rotation angle. The search time required for the detection determination unit 61 to search for the image frame acquired from the buffer memory 9 is determined again.

撮像間隔設定部43は、探索時間決定部62によって顔画像Sの探索時間が再決定されると、当該再決定後の探索時間と等しくなるように電子撮像部2の連続撮像間隔を再設定する。   When the search time of the face image S is redetermined by the search time determination unit 62, the imaging interval setting unit 43 resets the continuous imaging interval of the electronic imaging unit 2 to be equal to the search time after the redetermination. .

次に、撮像装置200による連続撮像処理について、図6を参照して説明する。
図6は、連続撮像処理に係る動作の一例を示すフローチャートである。
なお、顔画像Sの回動角度の変化に基づく、顔画像Sの探索時間及び連続撮像間隔の再設定に係る処理以外の処理は、実施形態1の連続撮像処理と略同様であり、その詳細な説明は省略する。
Next, continuous imaging processing by the imaging apparatus 200 will be described with reference to FIG.
FIG. 6 is a flowchart illustrating an example of an operation related to continuous imaging processing.
Note that the processing other than the processing related to the resetting of the search time of the face image S and the continuous imaging interval based on the change in the rotation angle of the face image S is substantially the same as the continuous imaging processing of the first embodiment, and details thereof The detailed explanation is omitted.

図6に示すように、先ず、実施形態1の連続撮像処理と同様に、顔検出処理部6の検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、当該顔検出処理の結果に応じて、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
ここで、顔画像Sが検出されたと判断されると(ステップS1;YES)、実施形態1の連続撮像処理と同様に、探索時間決定部62は、顔検出用情報dを参照して、検出された顔画像Sの基準軸を中心とする所定方向の回動角度(例えば、−θ1°等:図4(a)参照)を特定する(ステップS2)。
なお、ステップS1にて、顔画像Sが検出されていないと判断された場合には(ステップS1;NO)、中央制御部12は、処理をステップS8に移行するが、ステップS2以降の処理は上記実施形態1の連続撮像処理と同様であるので、その詳細な説明は省略する。
As shown in FIG. 6, first, similarly to the continuous imaging process of the first embodiment, the detection determination unit 61 of the face detection processing unit 6 performs for each image frame for live view display generated by the image processing unit 5. Face detection processing for detecting a human face image S using the face detection information d is performed, and whether or not the face image S is detected from the image frame that is the processing target according to the result of the face detection processing. Judgment is made (step S1).
Here, if it is determined that the face image S has been detected (step S1; YES), the search time determination unit 62 refers to the face detection information d and detects it as in the continuous imaging process of the first embodiment. A rotation angle in a predetermined direction around the reference axis of the face image S (for example, −θ1 °, etc .: see FIG. 4A) is specified (step S2).
If it is determined in step S1 that the face image S has not been detected (step S1; NO), the central control unit 12 proceeds to step S8, but the processes after step S2 are performed. Since it is the same as the continuous imaging process of the said Embodiment 1, the detailed description is abbreviate | omitted.

続けて、実施形態1の連続撮像処理と同様に、探索時間決定部62は、特定された回動角度に基づいて、検出判断部61が当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な顔画像Sの探索時間(例えば、1/30s等)を決定して検出判断部61に設定する(ステップS3)。
次に、実施形態1の連続撮像処理と同様に、撮像制御部4の撮像間隔設定部43は、探索時間決定部62によって決定された顔画像Sの探索時間に応じて、当該探索時間と等しくなるように電子撮像部2による顔画像Sの連続撮像間隔(例えば、1/30s等)を設定する(ステップS4)。
Subsequently, as in the continuous imaging process of the first embodiment, the search time determination unit 62 determines that the detection determination unit 61 subsequently displays the face image S at the rotation angle based on the specified rotation angle. The search time (for example, 1/30 s) of the face image S necessary for searching in the image frame acquired from is determined and set in the detection determination unit 61 (step S3).
Next, similarly to the continuous imaging process of the first embodiment, the imaging interval setting unit 43 of the imaging control unit 4 is equal to the search time according to the search time of the face image S determined by the search time determination unit 62. Thus, the continuous imaging interval (for example, 1/30 s) of the face image S by the electronic imaging unit 2 is set (step S4).

続けて、実施形態1の連続撮像処理と同様に、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録開始指示が検出されたか否かを判断する(ステップS5)。
ここで、記録開始指示が検出されていないと判断されると(ステップS5;NO)、中央制御部12は、処理をステップS1に戻す。
Subsequently, as in the continuous imaging process of the first embodiment, the central control unit 12 determines whether or not an instruction to start recording of continuously captured images of the subject is detected based on a predetermined operation of the shutter button of the operation input unit 11 by the user. Is determined (step S5).
If it is determined that the recording start instruction has not been detected (step S5; NO), the central control unit 12 returns the process to step S1.

一方、ステップS5にて、記録開始指示が検出されたと判断されると(ステップS5;YES)、実施形態1の連続撮像処理と同様に、撮像制御部4は、撮像間隔設定部43により設定された被写体の連続撮像間隔に従って、検出済の顔画像S(顔検出枠W;図4(a)等参照)をAFエリアやAEエリア(測定対象)とする自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレーム(撮像画像)のYUVデータをバッファメモリ9に順次記録する(ステップS6)。   On the other hand, when it is determined in step S5 that a recording start instruction has been detected (step S5; YES), the imaging control unit 4 is set by the imaging interval setting unit 43 as in the continuous imaging process of the first embodiment. In accordance with the continuous imaging interval of the subject, automatic focus processing (AF) or automatic exposure with the detected face image S (face detection frame W; see FIG. 4A, etc.) as the AF area or AE area (measurement target) The image processing unit 5 performs adjustment control of subject imaging conditions such as processing (AE), and the image processing unit 5 stores, in the buffer memory 9, YUV data of image frames (captured images) sequentially generated based on continuous imaging by the electronic imaging unit 2. Recording is performed sequentially (step S6).

次に、顔検出処理部6は、電子撮像部2による連続撮像に係る撮像画像の顔画像Sの回動角度が、前回特定された顔画像Sの回動角度から変化したか否かを角度変化判断部63により判断する(ステップS17)。具体的には、顔検出処理部6の検出判断部61は、電子撮像部2による連続撮像によって画像処理部5により新たに生成された画像フレーム(撮像画像)のYUVデータをバッファメモリ9から取得して、当該画像フレームから顔画像Sを検出する顔検出処理を行う。そして、探索時間決定部62は、検出された顔画像Sの基準軸を中心とする所定方向の回動角度を特定した後、角度変化判断部63は、探索時間決定部62によって新たに特定された顔画像Sの回動角度が前回特定された顔画像Sの回動角度から変化したか否かを判断する。   Next, the face detection processing unit 6 determines whether or not the rotation angle of the face image S of the captured image related to continuous imaging by the electronic imaging unit 2 has changed from the rotation angle of the face image S specified last time. The change is determined by the change determining unit 63 (step S17). Specifically, the detection determination unit 61 of the face detection processing unit 6 acquires, from the buffer memory 9, YUV data of an image frame (captured image) newly generated by the image processing unit 5 by continuous imaging by the electronic imaging unit 2. Then, face detection processing for detecting the face image S from the image frame is performed. Then, after the search time determination unit 62 specifies the rotation angle in a predetermined direction around the reference axis of the detected face image S, the angle change determination unit 63 is newly specified by the search time determination unit 62. It is determined whether the rotation angle of the face image S has changed from the rotation angle of the face image S specified last time.

ステップS17にて、顔画像Sの回動角度が変化していないと判断されると(ステップS17;NO)、中央制御部12は、処理をステップS6に戻し、それ以降の処理を行う。
一方、顔画像Sの回動角度が変化したと判断されると(ステップS17;YES)、探索時間決定部62は、変化後の回動角度(例えば、−θ2°等:図4(b)参照)に応じて、当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な探索時間(例えば、1/15s等)を再決定して検出判断部61に再設定するとともに、撮像間隔設定部43は、再設定後の探索時間と等しくなるように電子撮像部2の連続撮像間隔(例えば、1/15s等)を再設定する(ステップS18)。
これにより、顔画像Sの回動角度の変化後における、単位期間における電子撮像部2による被写体の撮像回数と検出判断部61による顔画像Sの探索回数とを等しくすることができ、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索が実行可能となる。
If it is determined in step S17 that the rotation angle of the face image S has not changed (step S17; NO), the central control unit 12 returns the process to step S6 and performs the subsequent processes.
On the other hand, if it is determined that the rotation angle of the face image S has changed (step S17; YES), the search time determination unit 62 determines the rotation angle after the change (for example, −θ2 °, etc .: FIG. 4B). The search time (for example, 1/15 s) required to search for the face image S at the rotation angle in the image frame acquired from the buffer memory 9 is detected again according to the reference). In addition to resetting the determination unit 61, the imaging interval setting unit 43 resets the continuous imaging interval (for example, 1 / 15s) of the electronic imaging unit 2 to be equal to the search time after resetting (step S18). ).
Thereby, after the change of the rotation angle of the face image S, the number of times the subject is imaged by the electronic imaging unit 2 and the number of searches of the face image S by the detection determination unit 61 in the unit period can be made equal. Each time an image is captured, the face image S can be searched for the image.

次に、撮像制御部4は、撮像間隔設定部43により再設定された被写体の連続撮像間隔に従って、検出済の顔画像S(顔検出枠W;図4(a)等参照)をAFエリアやAEエリア(測定対象)とする自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレーム(撮像画像)のYUVデータをバッファメモリ9に順次記録する(ステップS19)。   Next, the imaging control unit 4 displays the detected face image S (face detection frame W; refer to FIG. 4A, etc.) in the AF area or in accordance with the continuous imaging interval of the subject reset by the imaging interval setting unit 43. The image processing unit 5 performs adjustment control of subject imaging conditions such as automatic focusing processing (AF) and automatic exposure processing (AE) as an AE area (measurement target), and the image processing unit 5 is based on continuous imaging by the electronic imaging unit 2. The YUV data of the image frames (captured images) that are sequentially generated are sequentially recorded in the buffer memory 9 (step S19).

次に、実施形態1の連続撮像処理と同様に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS7)。
ここで、記録終了指示が検出されていないと判断されると(ステップS7;NO)、中央制御部12は、処理をステップS6に戻し、記録画像の数が所定の連続記録枚数(例えば、60枚)に達するまで、それ以降の処理を行う。
そして、ステップS7にて、記録終了指示が検出されたと判断されると(ステップS7;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。
Next, as in the continuous imaging process of the first embodiment, the central control unit 12 determines whether or not the number of recorded images recorded in the buffer memory 9 has reached a predetermined continuous recording number (for example, 60). In response, it is determined whether or not an instruction to end recording of continuously captured images of the subject is detected (step S7).
Here, if it is determined that the recording end instruction has not been detected (step S7; NO), the central control unit 12 returns the process to step S6, and the number of recorded images is a predetermined continuous recording number (for example, 60). Subsequent processing is performed until the number of sheets reaches.
When it is determined in step S7 that a recording end instruction has been detected (step S7; YES), the central controller 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

以上のように、実施形態2の撮像装置200によれば、連続撮像処理における顔検出処理にて新たに検出された顔画像Sの回動角度が変化した場合に、変化後の回動角度の顔画像Sをその後にバッファメモリ9から取得される記録用の撮像画像から探索するための探索時間を再決定することができ、再決定された顔画像Sの探索時間に応じて当該探索時間と電子撮像部2を駆動させる連続撮像間隔とが等しくなるように再設定することができる。
従って、顔画像Sの回動角度に応じて顔画像Sの探索時間及び被写体の連続撮像間隔を一旦設定した後、検出される顔画像Sの回動角度が変化しても、当該回動角度が変化後の顔画像Sの探索時間を設定し直すことができ、当該顔画像Sの探索時間に応じて被写体の連続撮像間隔を可変させることで顔画像Sの非検出状態を生じ難くして、当該顔画像Sの検出を適正に行うことができる。
As described above, according to the imaging apparatus 200 of the second embodiment, when the rotation angle of the face image S newly detected in the face detection process in the continuous imaging process is changed, the rotation angle after the change is changed. The search time for searching for the face image S from the captured image for recording acquired from the buffer memory 9 can be determined again, and the search time and the search time according to the search time of the re-determined face image S are determined. It can be reset so that the continuous imaging interval for driving the electronic imaging unit 2 becomes equal.
Therefore, even after the search time of the face image S and the continuous imaging interval of the subject are once set according to the rotation angle of the face image S, even if the rotation angle of the detected face image S changes, the rotation angle The search time of the face image S after the change can be reset, and the non-detection state of the face image S is made difficult to occur by changing the continuous imaging interval of the subject according to the search time of the face image S. The face image S can be detected properly.

[実施形態3]
以下に、本発明を適用した実施形態3の撮像装置300について図7及び図8を参照して説明する。
図7は、実施形態3の撮像装置300の概略構成を示すブロック図である。
実施形態3の撮像装置300は、連続撮像処理にて、連続して撮像される記録用の画像から顔画像Sが検出されなくなったか否かを判断し、顔画像Sが検出されなくなったと判断されると、撮像画像から顔画像Sを探索するための探索時間を再決定する。
なお、実施形態3の撮像装置300は、以下に説明する以外の点で上記実施形態1の撮像装置100と略同様の構成をなし、その説明は省略する。
[Embodiment 3]
Hereinafter, an imaging apparatus 300 according to the third embodiment to which the present invention is applied will be described with reference to FIGS. 7 and 8.
FIG. 7 is a block diagram illustrating a schematic configuration of the imaging apparatus 300 according to the third embodiment.
The imaging apparatus 300 according to the third embodiment determines whether or not the face image S is no longer detected from the images for recording that are continuously captured in the continuous imaging process, and it is determined that the face image S is no longer detected. Then, the search time for searching the face image S from the captured image is determined again.
Note that the imaging apparatus 300 according to the third embodiment has substantially the same configuration as the imaging apparatus 100 according to the first embodiment except for the points described below, and a description thereof will be omitted.

顔検出処理部6は、検出判断部61及び探索時間決定部62に加えて、連続撮像処理にて、記録用の撮像画像から顔画像Sが検出されなくなったか否かを判断する顔有無判断部64を具備している。
顔有無判断部64は、連続撮像処理にて、撮像間隔設定部43によって連続撮像間隔が設定された後、検出判断部61による顔検出の検出結果に応じて、撮像画像から顔画像Sが検出されなくなったか否かを判断する。具体的には、検出判断部61は、画像処理部5によって画像フレームが順次生成される毎に、各画像フレームから顔画像Sを検出する処理を行い、顔有無判断部64は、検出判断部61により顔画像Sが検出されなかった場合に、連続撮像画像から顔画像Sが検出されなくなったと判断する。
このように、顔有無判断部64は、撮像間隔設定部43による連続撮像間隔の設定後、電子撮像部2から出力された画像に顔画像(被写体)Sが含まれなくなったか否かを判断する第3判断手段を構成している。
The face detection processing unit 6, in addition to the detection determination unit 61 and the search time determination unit 62, determines whether or not the face image S is no longer detected from the recording image in the continuous imaging process. 64.
The face presence / absence determination unit 64 detects the face image S from the captured image according to the detection result of the face detection by the detection determination unit 61 after the continuous imaging interval is set by the imaging interval setting unit 43 in the continuous imaging process. Judge whether or not. Specifically, the detection determination unit 61 performs a process of detecting the face image S from each image frame each time image frames are sequentially generated by the image processing unit 5, and the face presence / absence determination unit 64 When the face image S is not detected in 61, it is determined that the face image S is no longer detected from the continuously captured images.
As described above, the face presence / absence determination unit 64 determines whether the face image (subject) S is not included in the image output from the electronic imaging unit 2 after the continuous imaging interval is set by the imaging interval setting unit 43. The third determination means is configured.

探索時間決定部62は、顔有無判断部64により顔画像Sが検出されなくなったと判断されると、その後にバッファメモリ9から取得される画像フレームにて検出判断部61が顔画像Sを探索するのに必要な探索時間を再決定する。具体的には、探索時間決定部62は、上下軸L0と回動後の軸Laとのなす回動角度が90°の顔の特徴量情報を用いて検出判断部61が顔検出処理を行う場合、即ち、顔画像Sの回動角度と関連付けられている最長探索時間よりも長くなるように探索時間を再決定する。   When it is determined by the face presence / absence determination unit 64 that the face image S is no longer detected, the search time determination unit 62 searches for the face image S in the image frame acquired from the buffer memory 9 thereafter. Re-determine the search time required for Specifically, in the search time determination unit 62, the detection determination unit 61 performs face detection processing using facial feature amount information having a rotation angle of 90 ° between the vertical axis L0 and the rotated axis La. In other words, the search time is determined again so as to be longer than the longest search time associated with the rotation angle of the face image S.

撮像間隔設定部43は、探索時間決定部62によって顔画像Sの探索時間が再決定されると、当該再決定後の探索時間と等しくなるように電子撮像部2の連続撮像間隔を再設定する。   When the search time of the face image S is redetermined by the search time determination unit 62, the imaging interval setting unit 43 resets the continuous imaging interval of the electronic imaging unit 2 to be equal to the search time after the redetermination. .

次に、撮像装置300による連続撮像処理について、図8を参照して説明する。
図8は、連続撮像処理に係る動作の一例を示すフローチャートである。
なお、顔画像Sが検出されなくなった場合における、顔画像Sの探索時間及び連続撮像間隔の再設定に係る処理以外の処理は、実施形態1の連続撮像処理と略同様であり、その詳細な説明は省略する。
Next, continuous imaging processing by the imaging apparatus 300 will be described with reference to FIG.
FIG. 8 is a flowchart illustrating an example of an operation related to continuous imaging processing.
In addition, when the face image S is no longer detected, the processing other than the processing related to resetting the search time of the face image S and the continuous imaging interval is substantially the same as the continuous imaging processing of the first embodiment. Description is omitted.

図8に示すように、先ず、実施形態1の連続撮像処理と同様に、顔検出処理部6の検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、当該顔検出処理の結果に応じて、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
ここで、顔画像Sが検出されたと判断されると(ステップS1;YES)、実施形態1の連続撮像処理と同様に、探索時間決定部62は、顔検出用情報dを参照して、検出された顔画像Sの基準軸を中心とする所定方向の回動角度(例えば、−θ1°等:図4(a)参照)を特定する(ステップS2)。
なお、ステップS1にて、顔画像Sが検出されていないと判断された場合には(ステップS1;NO)、中央制御部12は、処理をステップS8に移行するが、ステップS2以降の処理は上記実施形態1の連続撮像処理と同様であるので、その詳細な説明は省略する。
As shown in FIG. 8, first, similarly to the continuous imaging process of the first embodiment, the detection determination unit 61 of the face detection processing unit 6 performs for each image frame for live view display generated by the image processing unit 5. Face detection processing for detecting a human face image S using the face detection information d is performed, and whether or not the face image S is detected from the image frame that is the processing target according to the result of the face detection processing. Judgment is made (step S1).
Here, if it is determined that the face image S has been detected (step S1; YES), the search time determination unit 62 refers to the face detection information d and detects it as in the continuous imaging process of the first embodiment. A rotation angle in a predetermined direction around the reference axis of the face image S (for example, −θ1 °, etc .: see FIG. 4A) is specified (step S2).
If it is determined in step S1 that the face image S has not been detected (step S1; NO), the central control unit 12 proceeds to step S8, but the processes after step S2 are performed. Since it is the same as the continuous imaging process of the said Embodiment 1, the detailed description is abbreviate | omitted.

続けて、実施形態1の連続撮像処理と同様に、探索時間決定部62は、特定された回動角度に基づいて、検出判断部61が当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な顔画像Sの探索時間(例えば、1/30s等)を決定して検出判断部61に設定する(ステップS3)。
次に、実施形態1の連続撮像処理と同様に、撮像制御部4の撮像間隔設定部43は、探索時間決定部62によって決定された顔画像Sの探索時間に応じて、当該探索時間と等しくなるように電子撮像部2による顔画像Sの連続撮像間隔(例えば、1/30s等)を設定する(ステップS4)。
Subsequently, as in the continuous imaging process of the first embodiment, the search time determination unit 62 determines that the detection determination unit 61 subsequently displays the face image S at the rotation angle based on the specified rotation angle. The search time (for example, 1/30 s) of the face image S necessary for searching in the image frame acquired from is determined and set in the detection determination unit 61 (step S3).
Next, similarly to the continuous imaging process of the first embodiment, the imaging interval setting unit 43 of the imaging control unit 4 is equal to the search time according to the search time of the face image S determined by the search time determination unit 62. Thus, the continuous imaging interval (for example, 1/30 s) of the face image S by the electronic imaging unit 2 is set (step S4).

続けて、実施形態1の連続撮像処理と同様に、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録開始指示が検出されたか否かを判断する(ステップS5)。
ここで、記録開始指示が検出されていないと判断されると(ステップS5;NO)、中央制御部12は、処理をステップS1に戻す。
Subsequently, as in the continuous imaging process of the first embodiment, the central control unit 12 determines whether or not an instruction to start recording of continuously captured images of the subject is detected based on a predetermined operation of the shutter button of the operation input unit 11 by the user. Is determined (step S5).
If it is determined that the recording start instruction has not been detected (step S5; NO), the central control unit 12 returns the process to step S1.

一方、ステップS5にて、記録開始指示が検出されたと判断されると(ステップS5;YES)、実施形態1の連続撮像処理と同様に、撮像制御部4は、撮像間隔設定部43により設定された被写体の連続撮像間隔に従って、検出済の顔画像S(顔検出枠W;図4(a)等参照)をAFエリアやAEエリア(測定対象)とする自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレーム(撮像画像)のYUVデータをバッファメモリ9に順次記録する(ステップS6)。   On the other hand, when it is determined in step S5 that a recording start instruction has been detected (step S5; YES), the imaging control unit 4 is set by the imaging interval setting unit 43 as in the continuous imaging process of the first embodiment. In accordance with the continuous imaging interval of the subject, automatic focus processing (AF) or automatic exposure with the detected face image S (face detection frame W; see FIG. 4A, etc.) as the AF area or AE area (measurement target) The image processing unit 5 performs adjustment control of subject imaging conditions such as processing (AE), and the image processing unit 5 stores, in the buffer memory 9, YUV data of image frames (captured images) sequentially generated based on continuous imaging by the electronic imaging unit 2. Recording is performed sequentially (step S6).

次に、顔検出処理部6は、電子撮像部2による連続撮像に係る撮像画像から顔画像Sが検出されなくなったか否かを顔有無判断部64により判断する(ステップS27)。具体的には、顔検出処理部6の検出判断部61は、電子撮像部2による連続撮像によって画像処理部5により新たに生成された画像フレーム(撮像画像)のYUVデータをバッファメモリ9から取得して、当該画像フレームから顔画像Sを検出する顔検出処理を行う。そして、顔有無判断部64は、検出判断部61による顔検出の検出結果に応じて、撮像画像から顔画像Sが検出されなくなったか否かを判断する。   Next, the face detection processing unit 6 determines whether or not the face image S is no longer detected from the captured images related to the continuous imaging by the electronic imaging unit 2 (step S27). Specifically, the detection determination unit 61 of the face detection processing unit 6 acquires, from the buffer memory 9, YUV data of an image frame (captured image) newly generated by the image processing unit 5 by continuous imaging by the electronic imaging unit 2. Then, face detection processing for detecting the face image S from the image frame is performed. Then, the face presence / absence determination unit 64 determines whether the face image S is no longer detected from the captured image in accordance with the detection result of the face detection by the detection determination unit 61.

ステップS27にて、顔画像Sが検出されなくなっていないと判断されると(ステップS27;NO)、中央制御部12は、処理をステップS6に戻し、それ以降の処理を行う。
一方、顔画像Sが検出されなくなったと判断されると(ステップS27;YES)、探索時間決定部62は、その後にバッファメモリ9から取得される画像フレームにて検出判断部61が顔画像Sを探索するのに必要な探索時間を長くするように(例えば、1/5s等)再決定して検出判断部61に再設定するとともに、撮像間隔設定部43は、再設定後の探索時間と等しくなるように電子撮像部2の連続撮像間隔(例えば、1/5s等)を再設定する(ステップS28)。
これにより、顔画像Sが検出されなくなった場合にて顔画像Sの探索時間を長めに再設定しても、単位期間における電子撮像部2による被写体の撮像回数と検出判断部61による顔画像Sの探索回数とを等しくすることができ、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索が実行可能となる。
If it is determined in step S27 that the face image S is not detected (step S27; NO), the central control unit 12 returns the process to step S6 and performs the subsequent processes.
On the other hand, when it is determined that the face image S is no longer detected (step S27; YES), the search time determination unit 62 detects the face image S in the image frame acquired from the buffer memory 9 thereafter. Re-decision so as to increase the search time required for the search (for example, 1/5 s) and reset the detection determination unit 61, and the imaging interval setting unit 43 is equal to the search time after the reset. Then, the continuous imaging interval (for example, 1/5 s) of the electronic imaging unit 2 is reset (step S28).
As a result, even when the face image S is no longer detected and the search time of the face image S is reset longer, the number of times the subject is imaged by the electronic imaging unit 2 in the unit period and the face image S by the detection determination unit 61 The search number of the face image S can be executed every time a recording image is captured.

次に、撮像制御部4は、撮像間隔設定部43により再設定された被写体の連続撮像間隔に従って、顔画像Sを検出している状態で設定されていた顔画像S(顔検出枠W)に相当する領域、或いは、予め設定されている所定のAFエリアやAEエリア(測定対象)に基づいて自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレームのYUVデータをバッファメモリ9に順次記録する(ステップS29)。   Next, the imaging control unit 4 applies the face image S (face detection frame W) set in a state where the face image S is detected according to the continuous imaging interval of the subject reset by the imaging interval setting unit 43. Adjustment control of subject imaging conditions such as automatic focusing processing (AF) and automatic exposure processing (AE) is performed based on the corresponding region or a predetermined AF area or AE area (measurement target) set in advance. Then, the image processing unit 5 sequentially records the YUV data of the image frames sequentially generated based on the continuous imaging by the electronic imaging unit 2 in the buffer memory 9 (Step S29).

次に、実施形態1の連続撮像処理と同様に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS7)。
ここで、記録終了指示が検出されていないと判断されると(ステップS7;NO)、中央制御部12は、処理をステップS6に戻し、記録画像の数が所定の連続記録枚数(例えば、60枚)に達するまで、それ以降の処理を行う。
そして、ステップS7にて、記録終了指示が検出されたと判断されると(ステップS7;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。
Next, as in the continuous imaging process of the first embodiment, the central control unit 12 determines whether or not the number of recorded images recorded in the buffer memory 9 has reached a predetermined continuous recording number (for example, 60). In response, it is determined whether or not an instruction to end recording of continuously captured images of the subject is detected (step S7).
Here, if it is determined that the recording end instruction has not been detected (step S7; NO), the central control unit 12 returns the process to step S6, and the number of recorded images is a predetermined continuous recording number (for example, 60). Subsequent processing is performed until the number of sheets reaches.
When it is determined in step S7 that a recording end instruction has been detected (step S7; YES), the central controller 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

以上のように、実施形態3の撮像装置300によれば、連続撮像処理における顔検出処理にて、連続して撮像される記録用の画像から顔画像Sが検出されなくなった場合に、撮像画像から顔画像Sを探索するための探索時間を長めに再決定するので、撮像画像から顔画像Sを検出するための時間をより長く確保することができ、当該顔画像Sを検出し易くすることができる。
さらに、再決定された顔画像Sの探索時間に応じて、当該探索時間と電子撮像部2を駆動させる連続撮像間隔とが等しくなるように再設定することができ、顔画像Sの探索時間に応じて被写体の連続撮像間隔を可変させることができる。
これにより、顔画像Sの検出状態から非検出状態となっても顔画像Sを再検出し易くして、当該顔画像Sの検出状態へ復帰させ易くすることができる。
As described above, according to the imaging apparatus 300 of the third embodiment, when the face image S is not detected from the recording images continuously captured in the face detection process in the continuous imaging process, the captured image is displayed. Since the search time for searching the face image S from the image is redetermined for a long time, it is possible to secure a longer time for detecting the face image S from the captured image, and to easily detect the face image S. Can do.
Furthermore, according to the re-determined search time for the face image S, the search time can be reset so that the continuous imaging interval for driving the electronic imaging unit 2 is equal, and the search time for the face image S can be set. Accordingly, it is possible to vary the continuous imaging interval of the subject.
Accordingly, even when the detection state of the face image S is changed to the non-detection state, the face image S can be easily detected again, and the face image S can be easily returned to the detection state.

なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、ライブビュー画像から顔画像Sが検出されていない状態で、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録が開始された場合であっても、記録用の画像の連続撮像中に顔検出処理を行って、検出された顔画像Sの回動角度に応じて、検出判断部61による顔画像Sの探索時間や電子撮像部2による連続撮像間隔を再設定しても良い(図9参照)。
The present invention is not limited to the above-described embodiment, and various improvements and design changes may be made without departing from the spirit of the present invention.
For example, even when the recording of the continuously captured image of the subject is started based on a predetermined operation of the shutter button of the operation input unit 11 by the user in a state where the face image S is not detected from the live view image, Face detection processing is performed during continuous imaging of recording images, and the search time of the face image S by the detection determination unit 61 and the continuous imaging interval by the electronic imaging unit 2 are determined according to the detected rotation angle of the face image S. May be reset (see FIG. 9).

<変形例1>
以下に、図9を参照して、連続撮像処理の変形例について説明する。
なお、顔画像Sが検出された後における、顔画像Sの探索時間及び連続撮像間隔の再設定に係る処理以外の処理は、実施形態1の連続撮像処理と略同様であり、その詳細な説明は省略する。
<Modification 1>
Below, with reference to FIG. 9, the modification of a continuous imaging process is demonstrated.
Note that the processing other than the processing related to the resetting of the search time of the face image S and the continuous imaging interval after the face image S is detected is substantially the same as the continuous imaging processing of the first embodiment, and the detailed description thereof Is omitted.

図9に示すように、先ず、実施形態1の連続撮像処理と同様に、顔検出処理部6の検出判断部61は、画像処理部5により生成されたライブビュー表示用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、当該顔検出処理の結果に応じて、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS1)。
ここで、顔画像Sが検出されていないと判断されると(ステップS1;NO)、実施形態1の連続撮像処理と同様に、中央制御部12は、ユーザによる操作入力部11のシャッタボタンの所定操作に基づいて、被写体の連続撮像画像の記録開始指示が検出されたか否かを判断する(ステップS8)。
なお、ステップS1にて、顔画像Sが検出されたと判断された場合には(ステップS1;YES)、中央制御部12は、処理をステップS2に移行するが、ステップS2以降の処理は上記実施形態1の連続撮像処理と同様であるので、その詳細な説明は省略する。
As shown in FIG. 9, first, similarly to the continuous imaging process of the first embodiment, the detection determination unit 61 of the face detection processing unit 6 performs for each image frame for live view display generated by the image processing unit 5. Face detection processing for detecting a human face image S using the face detection information d is performed, and whether or not the face image S is detected from the image frame that is the processing target according to the result of the face detection processing. Judgment is made (step S1).
Here, if it is determined that the face image S is not detected (step S1; NO), the central control unit 12 uses the shutter button of the operation input unit 11 by the user as in the continuous imaging process of the first embodiment. Based on the predetermined operation, it is determined whether or not an instruction to start recording of continuously captured images of the subject has been detected (step S8).
If it is determined in step S1 that the face image S has been detected (step S1; YES), the central control unit 12 proceeds to step S2, but the processes after step S2 are performed as described above. Since it is the same as the continuous imaging process of Form 1, detailed description thereof is omitted.

ステップS8にて、記録開始指示が検出されていないと判断されると(ステップS8;NO)、実施形態1の連続撮像処理と同様に、中央制御部12は、処理をステップS1に戻す。
一方、ステップS8にて、記録開始指示が検出されたと判断されると(ステップS8;YES)、実施形態1の連続撮像処理と同様に、撮像制御部4は、予め設定されている所定の連続撮像間隔(固定値)に従って、予め設定されている所定のAFエリアやAEエリア(測定対象)に基づいて自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレームのYUVデータをバッファメモリ9に順次記録する(ステップS9)。
If it is determined in step S8 that the recording start instruction has not been detected (step S8; NO), the central control unit 12 returns the process to step S1 as in the continuous imaging process of the first embodiment.
On the other hand, when it is determined in step S8 that a recording start instruction has been detected (step S8; YES), the imaging control unit 4 performs a predetermined continuous setting that is set in advance as in the continuous imaging process of the first embodiment. According to the imaging interval (fixed value), adjustment control of the imaging conditions of the subject such as automatic focusing processing (AF) and automatic exposure processing (AE) based on a predetermined AF area and AE area (measurement target) set in advance The image processing unit 5 sequentially records the YUV data of the image frames sequentially generated based on the continuous imaging by the electronic imaging unit 2 in the buffer memory 9 (step S9).

次に、検出判断部61は、画像処理部5により生成された記録用の各画像フレームについて、顔検出用情報dを用いて人の顔画像Sを検出する顔検出処理を行い、当該顔検出処理の結果に応じて、処理対象となった画像フレームから顔画像Sが検出されたか否かを判断する(ステップS31)。
ここで、記録用の画像フレームから顔画像Sが検出されていないと判断されると(ステップS31;NO)、実施形態1の連続撮像処理と同様に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS10)。
Next, the detection determination unit 61 performs face detection processing for detecting a human face image S using the face detection information d for each recording image frame generated by the image processing unit 5, and performs the face detection. It is determined whether or not the face image S is detected from the image frame to be processed according to the processing result (step S31).
Here, if it is determined that the face image S is not detected from the image frame for recording (step S31; NO), the central control unit 12 stores the buffer memory 9 in the same manner as the continuous imaging process of the first embodiment. It is determined whether or not an instruction to end recording of continuously captured images of the subject has been detected, depending on whether or not the number of recorded images has reached a predetermined continuous recording number (for example, 60) (step S10). ).

ステップS10にて、記録終了指示が検出されていないと判断されると(ステップS10;NO)、中央制御部12は、処理をステップS9に戻し、それ以降の処理を行う。その後、ステップS10にて、記録終了指示が検出されたと判断されると(ステップS10;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。   If it is determined in step S10 that the recording end instruction has not been detected (step S10; NO), the central control unit 12 returns the process to step S9 and performs the subsequent processes. Thereafter, when it is determined in step S10 that a recording end instruction has been detected (step S10; YES), the central controller 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

一方、ステップS31にて、顔画像Sが検出されたと判断されると(ステップS31;YES)、探索時間決定部62は、顔検出用情報dを参照して、検出された顔画像Sの基準軸を中心とする所定方向の回動角度(例えば、−θ1°等:図4(a)参照)を特定する(ステップS32)。
続けて、探索時間決定部62は、特定された回動角度に基づいて、検出判断部61が当該回動角度の顔画像Sをその後にバッファメモリ9から取得される画像フレームにて探索するのに必要な顔画像Sの探索時間(例えば、1/30s等)を決定して検出判断部61に設定した後、撮像制御部4の撮像間隔設定部43は、探索時間決定部62によって決定された顔画像Sの探索時間に応じて、当該探索時間と等しくなるように電子撮像部2による顔画像Sの連続撮像間隔(例えば、1/30s等)を設定する(ステップS33)。
これにより、単位期間における電子撮像部2による被写体の撮像回数と検出判断部61による顔画像Sの探索回数とを等しくすることができ、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索が実行可能となる。
On the other hand, if it is determined in step S31 that the face image S has been detected (step S31; YES), the search time determination unit 62 refers to the face detection information d and uses the detected face image S as a reference. A rotation angle in a predetermined direction about the axis (for example, -θ1 °, etc .: see FIG. 4A) is specified (step S32).
Subsequently, based on the specified rotation angle, the search time determination unit 62 causes the detection determination unit 61 to search for a face image S at the rotation angle in an image frame acquired from the buffer memory 9 thereafter. After determining the search time (for example, 1/30 s) of the face image S necessary for the detection and setting it in the detection determination unit 61, the imaging interval setting unit 43 of the imaging control unit 4 is determined by the search time determination unit 62. In accordance with the search time of the face image S, the continuous imaging interval (for example, 1/30 s) of the face image S by the electronic imaging unit 2 is set to be equal to the search time (step S33).
Accordingly, the number of times the subject is imaged by the electronic imaging unit 2 in the unit period can be made equal to the number of times the face image S is searched by the detection determination unit 61, and each time an image for recording is taken, The search for the face image S can be executed.

その後、撮像制御部4は、ステップS6と同様に、撮像間隔設定部43により設定された被写体の連続撮像間隔に従って、検出済の顔画像S(顔検出枠W;図4(a)等参照)をAFエリアやAEエリア(測定対象)とする自動合焦処理(AF)や自動露出処理(AE)等の被写体の撮像条件の調整制御を行って、画像処理部5は、電子撮像部2による連続撮像に基づいて順次生成した画像フレーム(撮像画像)のYUVデータをバッファメモリ9に順次記録する(ステップS34)。   Thereafter, the imaging controller 4 detects the detected face image S (face detection frame W; see FIG. 4A, etc.) according to the continuous imaging interval of the subject set by the imaging interval setting unit 43, as in step S6. The image processing unit 5 is controlled by the electronic imaging unit 2 by performing adjustment control of subject imaging conditions such as automatic focusing processing (AF) and automatic exposure processing (AE) in which AF is an AF area or AE area (measurement target). YUV data of image frames (captured images) sequentially generated based on continuous imaging is sequentially recorded in the buffer memory 9 (step S34).

次に、中央制御部12は、バッファメモリ9に記録された記録画像の数が所定の連続記録枚数(例えば、60枚)に達したか否かに応じて、被写体の連続撮像画像の記録終了指示が検出されたか否かを判断する(ステップS35)。
ここで、記録終了指示が検出されていないと判断されると(ステップS35;NO)、中央制御部12は、処理をステップS34に戻し、記録画像の数が所定の連続記録枚数(例えば、60枚)に達するまで、それ以降の処理を行う。
そして、ステップS35にて、記録終了指示が検出されたと判断されると(ステップS35;YES)、中央制御部12は、バッファメモリ9に一時的に記録されている所定の連続記録枚数(例えば、60枚)分の記録画像を画像記録部8に記録して、当該連続撮像処理を終了する。
Next, the central control unit 12 ends the recording of the continuously captured images of the subject depending on whether or not the number of recorded images recorded in the buffer memory 9 has reached a predetermined continuous recording number (for example, 60). It is determined whether or not an instruction has been detected (step S35).
Here, if it is determined that the recording end instruction has not been detected (step S35; NO), the central control unit 12 returns the process to step S34, and the number of recorded images is a predetermined continuous recording number (for example, 60). Subsequent processing is performed until the number of sheets reaches.
When it is determined in step S35 that a recording end instruction has been detected (step S35; YES), the central control unit 12 determines a predetermined continuous recording number (for example, temporarily recorded in the buffer memory 9). 60 sheets) of recorded images are recorded in the image recording unit 8, and the continuous imaging process is terminated.

従って、顔画像Sの非検出状態にて被写体の連続撮像画像の記録が開始された場合であっても、記録用の画像の連続撮像中に顔検出処理を行うことで、検出された顔画像Sの回動角度に応じて、当該回動角度の顔画像Sをその後にバッファメモリ9から取得される記録用の撮像画像から探索するための顔画像Sの探索時間を決定するので、決定された顔画像Sの探索時間に応じて当該探索時間と電子撮像部2を駆動させる連続撮像間隔とが等しくなるように設定することができる。これにより、顔画像Sの非検出状態から検出状態へ復帰した場合であっても、記録用の画像の連続撮像中の単位期間における、被写体の撮像回数と撮像画像からの顔画像Sの探索回数とを等しくすることができ、所定の連続記録枚数(例えば、60枚)分の撮像にて、記録用の画像の撮像が行われる毎に当該画像についての顔画像Sの探索を実行することができる。   Therefore, even when the recording of the continuously captured image of the subject is started in the non-detected state of the face image S, the detected face image is obtained by performing the face detection process during the continuous imaging of the recording image. In accordance with the rotation angle of S, the search time of the face image S for searching for the face image S at the rotation angle from the captured image for recording acquired from the buffer memory 9 is determined. Depending on the search time of the face image S, the search time and the continuous imaging interval for driving the electronic imaging unit 2 can be set to be equal. As a result, even when the face image S is returned from the non-detected state to the detected state, the number of times the subject is imaged and the number of times the face image S is searched from the captured image in the unit period during the continuous imaging of the recording image. And the search for the face image S for the image is performed every time the image for recording is imaged by imaging for a predetermined continuous recording number (for example, 60). it can.

なお、上記実施形態1〜3並びに変形例1にあっては、それぞれ特有の連続撮像処理を実行するようにしたが、これに限られるものではなく、これらの連続撮像処理のうち、少なくとも2つの処理を適宜組み合わせて行うようにしても良い。
即ち、例えば、実施形態2、3の連続撮像処理の各々と変形例1の連続撮像処理を組み合わせて、ライブビュー画像から顔画像Sの非検出状態にて、被写体の連続撮像画像の記録が開始された場合であっても、記録用の画像の連続撮像中に顔検出処理を行って、検出された顔画像Sの回動角度に応じて、検出判断部61による顔画像Sの探索時間や電子撮像部2による連続撮像間隔を再設定しても良い。また、例えば、実施形態2、3の連続撮像処理どうしを組み合わせて、連続撮像処理にて、新たに検出された顔画像Sの回動角度が変化したと判断されると、変化後の回動角度の顔画像Sを撮像画像から探索するための探索時間を再決定するとともに、顔画像Sが検出されなくなったと判断されると、撮像画像から顔画像Sを探索するための探索時間を再決定するようにしても良い。また、例えば、実施形態2、3の連続撮像処理どうしを組み合わせたものと変形例1の連続撮像処理を組み合わせても良い。
In Embodiments 1 to 3 and Modification 1, the specific continuous imaging process is executed. However, the present invention is not limited to this, and at least two of these continuous imaging processes are performed. You may make it perform combining a process suitably.
That is, for example, by combining each of the continuous imaging processes of Embodiments 2 and 3 and the continuous imaging process of Modification Example 1, recording of a continuously captured image of a subject is started in a non-detected state of the face image S from the live view image. Even when the image is recorded, the face detection process is performed during continuous imaging of the recording image, and the search time of the face image S by the detection determination unit 61 is determined according to the rotation angle of the detected face image S. The continuous imaging interval by the electronic imaging unit 2 may be reset. Further, for example, when it is determined that the rotation angle of the newly detected face image S is changed in the continuous imaging process by combining the continuous imaging processes of Embodiments 2 and 3, the rotation after the change is performed. The search time for searching the face image S at an angle from the captured image is redetermined, and if it is determined that the face image S is no longer detected, the search time for searching the face image S from the captured image is redetermined. You may make it do. Further, for example, the combination of the continuous imaging processes of Embodiments 2 and 3 may be combined with the continuous imaging process of Modification 1.

また、撮像装置100、200、300の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。
さらに、被写体として人の顔画像Sを例示したが、一例であってこれに限られるものではなく、例えば、ペット等の各種動物の顔画像など適宜任意に変更可能である。
また、顔画像Sの探索時間の決定にて、顔画像の基準軸を中心とする回動角度を考慮するようにしたが、これに加えて、例えば、顔画像の回動方向も考慮しても良い。
In addition, the configurations of the imaging apparatuses 100, 200, and 300 are merely examples, and are not limited to those illustrated in the above embodiment.
Furthermore, the human face image S is exemplified as the subject. However, the human face image S is an example, and the present invention is not limited to this. For example, face images of various animals such as pets can be arbitrarily changed.
Further, in the determination of the search time for the face image S, the rotation angle around the reference axis of the face image is taken into account, but in addition to this, for example, the rotation direction of the face image is also taken into account. Also good.

加えて、上記実施形態にあっては、第1判断手段、決定手段、設定手段としての機能を、中央制御部12の制御下にて、顔検出処理部6の検出判断部61、探索時間決定部62、撮像制御部4の撮像間隔設定部43が駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部12のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、撮像装置100のプログラムを記憶するプログラムメモリ10に、第1判断処理ルーチン、決定処理ルーチン、設定処理ルーチンを含むプログラムを記憶しておく。そして、第1判断処理ルーチンにより中央制御部12のCPUを、情報記憶手段に被写体の基準軸を中心とする複数の回動角度の各々と対応付けて記憶されている検出用情報に基づいて、撮像手段から出力された画像に被写体が含まれるか否かを判断する第1判断手段として機能させるようにしても良い。また、決定処理ルーチンにより中央制御部12のCPUを、第1判断手段により被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を撮像手段から出力された画像から探索するための探索時間を決定する決定手段として機能させるようにしても良い。また、設定処理ルーチンにより中央制御部12のCPUを、決定手段によって決定された探索時間に応じて、撮像制御手段により撮像手段を駆動させる間隔を設定する設定手段として機能させるようにしても良い。
In addition, in the above embodiment, the functions as the first determination unit, the determination unit, and the setting unit are controlled by the detection determination unit 61 of the face detection processing unit 6 and the search time determination under the control of the central control unit 12. However, the present invention is not limited to this, and a predetermined program or the like is executed by the CPU of the central control unit 12. It is good also as a structure implement | achieved by.
That is, a program including a first determination processing routine, a determination processing routine, and a setting processing routine is stored in the program memory 10 that stores the program of the imaging apparatus 100. Then, based on the detection information stored in the information storage means in association with each of a plurality of rotation angles about the reference axis of the subject, the CPU of the central control unit 12 is stored in the information storage means by the first determination processing routine. You may make it function as a 1st judgment means to judge whether a to-be-photographed object is included in the image output from the imaging means. Further, when the CPU of the central control unit 12 determines that the subject is included by the first determination unit by the determination processing routine, the rotation angle of the subject is determined according to the rotation angle about the reference axis of the subject. You may make it function as a determination means to determine the search time for searching a to-be-photographed object from the image output from the imaging means. Further, the CPU of the central control unit 12 may function as a setting unit that sets an interval for driving the imaging unit by the imaging control unit in accordance with the search time determined by the determination unit by the setting process routine.

同様に、第2判断手段、第3判断手段についても、中央制御部12のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。   Similarly, the second determination unit and the third determination unit may be realized by executing a predetermined program or the like by the CPU of the central control unit 12.

さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。   Furthermore, as a computer-readable medium storing a program for executing each of the above processes, a non-volatile memory such as a flash memory or a portable recording medium such as a CD-ROM is applied in addition to a ROM or a hard disk. Is also possible. A carrier wave is also used as a medium for providing program data via a predetermined communication line.

100 撮像装置
1 レンズ部
2 電子撮像部
4 撮像制御部
42 電子撮像部駆動部
43 撮像間隔設定部
6 顔検出処理部
61 検出判断部
62 探索時間決定部
63 角度変化判断部
64 顔有無判断部
8 画像記録部
12 中央制御部
d 顔検出用情報
DESCRIPTION OF SYMBOLS 100 Imaging device 1 Lens part 2 Electronic imaging part 4 Imaging control part 42 Electronic imaging part drive part 43 Imaging interval setting part 6 Face detection process part 61 Detection judgment part 62 Search time determination part 63 Angle change judgment part 64 Face presence judgment part 8 Image recording unit 12 Central control unit d Face detection information

Claims (6)

撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、
被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、
この情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する第1判断手段と、
この第1判断手段により前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する決定手段と、
この決定手段によって決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する設定手段と、
を備えたことを特徴とする撮像装置。
An imaging control unit that continuously drives the imaging unit at a predetermined interval to output an image from the imaging unit;
Information storage means for storing each of a plurality of rotation angles around the reference axis of the subject in association with detection information for detecting the subject;
First determination means for determining whether or not the subject is included in an image output from the imaging means based on the detection information stored in the information storage means;
When it is determined by the first determination means that the subject is included, a subject at the rotation angle is searched from the image output from the imaging means according to the rotation angle about the reference axis of the subject. Determining means for determining a search time for
Setting means for setting an interval for driving the imaging means by the imaging control means according to the search time determined by the determining means;
An imaging apparatus comprising:
前記設定手段による設定後、前記決定手段により新たに特定された被写体の回動角度が前回特定された被写体の回動角度から変化したか否かを判断する第2判断手段を更に備え、
前記決定手段は、
前記第2判断手段により前記被写体の回動角度が変化したと判断されると、変化後の回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を再決定することを特徴とする請求項1に記載の撮像装置。
After setting by the setting means, further comprising second determination means for determining whether or not the rotation angle of the subject newly specified by the determination means has changed from the rotation angle of the subject specified last time;
The determining means includes
When it is determined by the second determination means that the rotation angle of the subject has changed, a search time for searching for an object having the changed rotation angle from the image output from the imaging means is re-determined. The imaging apparatus according to claim 1.
前記設定手段による設定後、前記撮像手段から出力された画像に前記被写体が含まれなくなったか否かを判断する第3判断手段を更に備え、
前記決定手段は、
前記第3判断手段により前記被写体が含まれなくなったと判断されると、前記撮像手段から出力された画像から被写体を検出するための検出時間を決定することを特徴とする請求項1又は2に記載の撮像装置。
After setting by the setting means, further comprising third determination means for determining whether or not the subject is no longer included in the image output from the imaging means;
The determining means includes
The detection time for detecting a subject from the image output from the imaging unit is determined when the third determination unit determines that the subject is no longer included. Imaging device.
前記撮像手段から出力された画像を記録する画像記録手段を更に備えることを特徴とする請求項1〜3の何れか一項に記載の撮像装置。   The imaging apparatus according to claim 1, further comprising an image recording unit that records an image output from the imaging unit. 撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、を備える撮像装置を用いた撮像処理方法であって、
前記情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する処理と、
前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する処理と、
決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する処理と、
を実行することを特徴とする撮像処理方法。
Imaging control means for continuously driving the imaging means at predetermined intervals to output an image from the imaging means, each of a plurality of rotation angles around the reference axis of the subject, and detection for detecting the subject An information processing unit that stores information in association with each other, and an imaging processing method using an imaging device comprising:
A process of determining whether or not the subject is included in an image output from the imaging unit based on the detection information stored in the information storage unit;
When it is determined that the subject is included, a search time for searching the subject at the rotation angle from the image output from the imaging unit is determined according to the rotation angle about the reference axis of the subject. Process to determine,
A process of setting an interval for driving the imaging means by the imaging control means according to the determined search time;
The imaging processing method characterized by performing.
撮像手段を所定の間隔で連続的に駆動させて当該撮像手段から画像を出力させる撮像制御手段と、被写体の基準軸を中心とする複数の回動角度の各々と当該被写体を検出するための検出用情報とを対応付けてそれぞれ記憶する情報記憶手段と、を備える撮像装置のコンピュータを、
この情報記憶手段に記憶されている前記検出用情報に基づいて、前記撮像手段から出力された画像に前記被写体が含まれるか否かを判断する第1判断手段、
この第1判断手段により前記被写体が含まれていると判断されると、この被写体の基準軸を中心とする回動角度に従って、当該回動角度の被写体を前記撮像手段から出力された画像から探索するための探索時間を決定する決定手段、
この決定手段によって決定された探索時間に応じて、前記撮像制御手段により前記撮像手段を駆動させる間隔を設定する設定手段、
として機能させることを特徴とするプログラム。
Imaging control means for continuously driving the imaging means at predetermined intervals to output an image from the imaging means, each of a plurality of rotation angles around the reference axis of the subject, and detection for detecting the subject A computer of an imaging apparatus comprising: information storage means for storing information in association with each other,
First determination means for determining whether or not the subject is included in the image output from the imaging means based on the detection information stored in the information storage means;
When it is determined by the first determination means that the subject is included, a subject at the rotation angle is searched from the image output from the imaging means according to the rotation angle about the reference axis of the subject. A determining means for determining a search time for
Setting means for setting an interval for driving the imaging means by the imaging control means in accordance with the search time determined by the determining means;
A program characterized by functioning as
JP2010035307A 2010-02-19 2010-02-19 Imaging apparatus, imaging processing method, and program Expired - Fee Related JP5446977B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010035307A JP5446977B2 (en) 2010-02-19 2010-02-19 Imaging apparatus, imaging processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010035307A JP5446977B2 (en) 2010-02-19 2010-02-19 Imaging apparatus, imaging processing method, and program

Publications (3)

Publication Number Publication Date
JP2011172115A true JP2011172115A (en) 2011-09-01
JP2011172115A5 JP2011172115A5 (en) 2013-04-04
JP5446977B2 JP5446977B2 (en) 2014-03-19

Family

ID=44685749

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010035307A Expired - Fee Related JP5446977B2 (en) 2010-02-19 2010-02-19 Imaging apparatus, imaging processing method, and program

Country Status (1)

Country Link
JP (1) JP5446977B2 (en)

Also Published As

Publication number Publication date
JP5446977B2 (en) 2014-03-19

Similar Documents

Publication Publication Date Title
TWI468770B (en) Imaging apparatus, focusing method, and computer-readable recording medium recording program
JP5251215B2 (en) Digital camera
JP5029137B2 (en) Imaging apparatus and program
CN107850753B (en) Detection apparatus, detection method, detection program, and imaging apparatus
JP2009133903A (en) Imaging apparatus and imaging method
JP4552997B2 (en) Imaging apparatus and program
JP2008270896A (en) Imaging device and program thereof
JP2009175478A (en) Imaging apparatus, imaging apparatus control method, and computer program
JP2008288911A (en) Imaging apparatus, face area detection program, and face area detection method
US7777800B2 (en) Digital still camera and image processing system
JP2009124340A (en) Imaging apparatus, photographing support method, and photographing support program
JP2010239447A (en) Image capturing apparatus, image processing method, and program
JP2009147574A (en) Imaging apparatus, and program thereof
JP2008299784A (en) Object determination device and program therefor
JP2007133301A (en) Autofocus camera
JP2011066827A (en) Image processing apparatus, image processing method and program
JP5267279B2 (en) Image composition apparatus and program
JP6024135B2 (en) Subject tracking display control device, subject tracking display control method and program
JP5195663B2 (en) Imaging apparatus, focusing method, and program
JP2010200084A (en) Imaging apparatus
JP5446977B2 (en) Imaging apparatus, imaging processing method, and program
JP5477345B2 (en) Imaging apparatus, focusing method, and program
JP2011182014A (en) Image pickup device, image processing method and program
JP2011097502A (en) Photographing control device, and photographing control method
JP4985716B2 (en) Imaging apparatus, method for setting focus evaluation area, and program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130219

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131216

R150 Certificate of patent or registration of utility model

Ref document number: 5446977

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees