JP4911165B2 - 撮像装置、顔検出方法及びプログラム - Google Patents

撮像装置、顔検出方法及びプログラム Download PDF

Info

Publication number
JP4911165B2
JP4911165B2 JP2008316602A JP2008316602A JP4911165B2 JP 4911165 B2 JP4911165 B2 JP 4911165B2 JP 2008316602 A JP2008316602 A JP 2008316602A JP 2008316602 A JP2008316602 A JP 2008316602A JP 4911165 B2 JP4911165 B2 JP 4911165B2
Authority
JP
Japan
Prior art keywords
image
face
imaging
information
face area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008316602A
Other languages
English (en)
Other versions
JP2010141649A (ja
Inventor
正規 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2008316602A priority Critical patent/JP4911165B2/ja
Priority to US12/617,891 priority patent/US8319851B2/en
Priority to KR1020090112424A priority patent/KR101044033B1/ko
Priority to EP09178005.6A priority patent/EP2196943B1/en
Priority to CN2009102542155A priority patent/CN101753841B/zh
Priority to TW098142408A priority patent/TWI411970B/zh
Publication of JP2010141649A publication Critical patent/JP2010141649A/ja
Application granted granted Critical
Publication of JP4911165B2 publication Critical patent/JP4911165B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、撮像装置、被写体の顔領域の検出方法、及び、プログラムに関する。
従来より、撮像画像における人物の顔部分を認識し、該認識した人物の顔部分に対して所定の画像処理を行うことが知られている。例えば、特許文献1には、継続的に入力される撮像画像とプライバシー保護の観点から予め所定の画像処理を施した撮像画像とを比較し、大きく変化していなければ肌色領域を抽出し、抽出した肌色領域から顔部を抽出し、抽出した顔部における目部分の位置を含む所定の領域に人の個人識別を不能とする所定の画像加工処理を施す技術が記載されている。
特開2002−49912号公報(第5〜6頁、図6〜7)
上記の特許文献1の技術においては、継続的に入力される撮像画像について顔を検出し、所定の画像加工処理を施す技術が開示されているが、継続的に入力される画像に対し、継続的に顔検出処理や画像加工処理を施す必要があるため、これらの処理にかかる負担が大きいという問題点が生じる。また、上記特許文献1は、調査対象領域に固定的に設置され、予め決められた画角を撮影することを想定しているが、手持ちの撮像装置に上記の機能を搭載した場合、カメラ本体の傾き等による画角の変化や撮像画像の画素数等により顔領域の検出にかかる速度や精度に障害がおきるという問題点も予期される。
本発明は、このような問題点に鑑みてなされたものであり、撮像された画像における顔領域の検出を良好に行えるようにすることを目的とする。
本発明の請求項1記載の発明は、撮像手段と、前記撮像手段によって撮像された第1の画像から画素を間引いた間引き画像を生成する生成手段と、前記生成手段によって生成された間引き画像から人物の顔領域を検出する顔検出手段と、前記顔領域の情報を記憶する記憶手段と、前記撮像手段によって記録用の第2の画像の撮像を指示する指示手段と、前記指示手段による指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御手段と、前記記憶手段によって記憶された顔領域の情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御する顔検出制御手段と、を備えたことを特徴とする。
また、請求項2記載の発明は、前記撮像手段は、周期的に前記第1の画像を撮像する第1の撮像制御手段と、前記第2の画像を記録用に撮像する第2の撮像制御手段と、を備え、前記生成手段は前記第1の撮像制御手段により周期的に撮像される前記第1の画像から前記間引き画像を順次生成し、前記記憶手段は、前記生成手段によって順次生成される間引き画像から前記顔検出手段によって検出された顔領域の情報を更新させながら記憶し、前記顔検出制御手段は、前記記憶手段に記憶された情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする。
また、請求項3記載の発明は、前記顔検出制御手段は、前記第2の画像の撮像直前に前記記憶手段に記憶された情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする。
また、請求項4記載の発明は、前記第2の画像を撮像すると、前記記憶手段に前記情報が記憶されているか否かを判断する第1の判断手段を更に備え、前記顔検出制御手段は、前記第1の判断手段により前記情報が記憶されていると判断された場合に、前記第2の画像から顔領域を検出するように前記検出手段を制御することを特徴とする。
また、請求項5記載の発明は、前記第1の判断手段によって、前記記憶手段に前記情報が記憶されていないと判断された場合、前記第2の画像を撮像時に、ストロボ光が発光されたか否かを判断する第2の判断手段と、を更に備え、前記顔検出制御手段は、前記第2の判断手段によってストロボ光が発光されたと判断された場合は、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする。
また、請求項6記載の発明は、前記顔検出手段によって、前記間引き画像から前記顔領域を複数検出した場合、前記記憶手段は前記顔検出手段によって複数検出された顔領域それぞれの情報を記憶し、前記顔検出制御手段は、前記記憶手段に複数記憶されている情報に基づき前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする。
また、請求項7記載の発明は、前記顔検出手段によって、前記間引き画像から前記顔領域を複数検出した場合は、前記間引き画像における画角中央からの近さ、または、検出された顔領域の大きさの少なくとも一方に基づいて、前記検出された複数の顔領域の中から、情報を選択する選択手段を備え、前記顔検出制御手段は、前記選択手段によって選択された情報を前記検出手段の制御に用いることを特徴とする。
また、請求項8記載の発明は、前記情報には、前記顔検出手段によって前記間引き画像から検出された顔領域の角度、位置、及び大きさのうち、少なくとも1つを示す情報が含まれることを特徴とする。
また、請求項9記載の発明は、第1の画像を撮像するステップと、この撮像された第1の画像から画素を間引いた間引き画像を生成するステップと、この間引き画像から人物の顔領域を検出するステップと、前記生成された間引き画像から前記検出された顔領域の情報を記憶するステップと、前記撮像手段によって記録用の第2の画像の撮像を指示するステップと、この指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御ステップと、前記記憶された情報に基づき、前記第2の画像から顔領域を検出するステップと、を含むことを特徴とする。
また、請求項10記載の発明は、撮像装置が備えるコンピュータを、前記撮像手段によって撮像された第1の画像から画素を間引いた間引き画像を生成する生成手段、前記生成手段によって生成された間引き画像から人物の顔領域を検出する顔検出手段と、前記顔領域の情報を記憶する記憶手段、前記撮像手段によって記録用の第2の画像の撮像を指示する指示手段、前記指示手段による指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御手段、前記記憶手段によって記憶された顔領域の情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御する顔検出制御手段として機能させることを特徴とする。
本発明によれば、撮像された画像における顔領域の検出を良好に行うことができる。
以下、本発明の一実施の形態を図に従って説明する。図1は、本実施形態に係るデジタルカメラ1の概略構成を示すブロック図である。
すなわちデジタルカメラ1は撮影レンズ2、レンズ駆動ブロック3、絞り4、CCD5、ドライバ6、TG(timing generator)7、ユニット回路8、画像生成部9、CPU10、キー入力部11、メモリ12、DRAM13、フラッシュメモリ14、画像表示部15、バス16を備えている。
撮影レンズ2は、図示しない複数のレンズ群から構成され、フォーカスレンズ2Aを少なくとも有する。そして、フォーカスレンズ2Aにはレンズ駆動ブロック3が接続されている。レンズ駆動ブロック3は、フォーカスレンズ2Aを光軸方向に沿って駆動させるフォーカスモータ、CPU10から送られてくる制御信号にしたがって、フォーカスモータを駆動させるフォーカスモータドライバから構成されている(図示略)。
CCD5は、ドライバ6によって駆動され、一定周期毎に被写体像のRGB値の各色の光の強さを光電変換して撮像信号としてユニット回路8に出力する。このドライバ6、ユニット回路8の動作タイミングはTG7を介してCPU10により制御される。なお、CCD5はベイヤー配列の色フィルターを有しており、電子シャッタとしての機能も有する。この電子シャッタのシャッタ速度は、ドライバ6、TG7を介してCPU10によって制御される。このCCD5上の画像検出素子と略同数の画素からなる画像(信号)を、本明細書ではフルサイズ画像(信号)と呼ぶことにする。また、後述するように、画像表示部15で表示できる解像度はフルサイズ画像に比べて低く、また、ライブビュー画像の更新処理速度を速くする必要もあるので、CCD5が出力し、後述のA/D変換器にてデジタル信号に変換されてバッファメモリ領域に一時記憶された画像信号については画像生成部9がその画素数を減じ、解像度を落とした間引き画像を生成し、出力する。この解像度を落とした画像(信号)を本明細書では、ライブビュー画像(信号)と呼ぶ。
ユニット回路8には、TG(Timing Generator)7が接続されており、CCD5から出力される撮像信号を相関二重サンプリングして保持するCDS(Correlated Double Sampling)回路、そのサンプリング後の撮像信号の自動利得調整を行なうAGC(Automatic Gain Control)回路、その自動利得調整後のアナログの撮像信号をデジタル信号に変換するA/D変換器から構成されており、CCD5から出力された撮像信号はユニット回路8を経てデジタル信号として画像生成部9に送られる。
画像生成部9は、ユニット回路8から送られてきた画像データに対してγ補正処理、ホワイトバランス処理などの処理を施すとともに、輝度色差信号(YUVデータ)を生成し、該生成された輝度色差信号の画像データをDRAM13のバッファメモリ領域に一時記憶させ、一時記憶された画像信号からライブビュー画像、フルサイズ画像を生成する。
また、CPU10の指示に応じ、画像生成部9は、フルサイズ画像から検出された顔領域に対して所定の画像処理を行う。具体的には、撮像された顔領域に対して、人物の目の中の充血を軽減するような補正を行う充血軽減処理、肌の血色を改善するよう補正する美肌処理および血色改善処理、ぽっちゃりした頬やえらの張った頬をほっそりさせる補正を行う頬リフトアップ処理の複数種の補正内容からなる美顔処理を施す。
また、美顔処理には、上記の補正処理以外にもフラッシュ発光時の赤目状態を除去するフラッシュ赤目除去処理が含まれている。
尚、上述した美顔処理は、画像処理の技術分野においては公知の技術であるので、ここでは詳細な説明を省略する。
CPU10は、CCD5への撮像制御、バッファメモリ領域に記憶されたフルサイズ画像の画像データを圧縮してフラッシュメモリ14に記録する記録処理、バッファメモリ領域に記憶されたライブビュー画像の画像データを表示する表示処理を行う機能を有するとともに、デジタルカメラ1の各部を制御するワンチップマイコンである。
特に、CPU10は、TG7を制御してドライバ6に対し、CCD5を周期的に駆動させることにより複数の画像データを得、この複数の画像データよりライブビュー画像を生成させるためにDRAM13に出力するよう制御する第1の撮像制御部101、後述するシャッタボタンの全押し検出による記録指示の検出に応答し、その時点で撮像されたフルサイズ画像をDRAM13に一時的に記憶させる第2の撮像制御部102、ライブビュー画像、及び、フルサイズ画像内にある顔領域を検出し、検出した顔領域の情報(角度、位置、大きさ)を後述するDRAM13の検出結果記憶領域131に記憶させる顔検出部103、及び、検出結果記憶領域131に記憶されている顔領域の情報に基づいてフルサイズ画像の画像データから顔領域を検出するよう顔検出部103を制御する顔検出制御部104を有する。
なお、顔検出部103における顔検出処理は、例えば、予め記憶されている一般的な人の顔の特徴データ(目、眉毛、鼻、口、耳、顔全体の輪郭等の特徴データ)と画像データとを比較照合することにより、所定値以上で顔の特徴データと一致する領域を顔領域であると検出する。また顔の特徴データは、−90度、0度、+90度の3種類の角度の特徴データが予め記憶されている。CPU10は、顔検出部103によってライブビュー画像から顔領域を検出すると、検出した顔領域の角度、ライブビュー画像における顔領域の位置、及び、ライブビュー画像に対する顔領域の大きさを検出した顔領域の情報として顔領域の数に相当する分だけ検出結果記憶領域131に記憶させる。尚、検出した顔領域の情報は、フルサイズ画像の画像データと対応付けて記憶させるようにしても良い。
図2は、顔検出部103に予め記憶されている3種類の角度(−90度、0度、+90度)の特徴データを模式的に示したものである。ここで、顔検出部103が3種類の角度の特徴データを予め記憶しているのは、顔画像を含むフルサイズ画像を撮像する場合、一般的な横長の撮像画角で撮像する場合と、デジタルカメラ1を回転させ、ポートレート撮影のような縦長の撮像画角で撮影する場合を想定しているためである。
また、顔検出制御部104は、フルサイズ画像の画像データ内にある顔領域を検出する際に、検出結果記憶領域131に記憶されている検出された顔領域の情報に基づいて顔検出部103を制御する。例えば、検出された顔領域の情報のうち、−90度の角度情報が記憶されている場合は、フルサイズ画像の画像データ内にある顔領域を検出する際に、−90度の顔の特徴データを使用して顔領域を検出するように顔検出部103を制御する。つまり、フルサイズ画像の画像データに対して行われる顔検出処理は、ライブビュー画像から検出された顔領域の角度で行われる。
キー入力部11は、シャッタボタン、モード切替キー、十字キー、SETキー、キャンセルキー等の複数の操作キーを含み、撮影者のキー操作に応じた操作信号をCPU10に出力する。
メモリ12には、CPU10が各部を制御するのに必要な制御プログラム、及び必要なデータが記録されており、CPU10は該プログラムに従い動作する。
DRAM13は、CCD5によって撮像された後、CPU10に送られてきた画像データを一時記憶するバッファメモリ領域(不図示)、CPU10のワーキングメモリとして使用するワーキングメモリ領域(不図示)、及び、CPU10の顔検出部103から送られてきた検出した顔領域の角度、ライブビュー画像における位置、及び、ライブビュー画像に対する大きさを記憶する検出結果記憶領域131を備える。
フラッシュメモリ14は、圧縮されたフルサイズ画像の画像データを保存する記録媒体である。
画像表示部15は、カラーLCDとその駆動回路を含み、撮像待機状態にあるときには、画像生成部9によって周期的に生成されるライブビュー画像を表示し、記録画像の再生時には、フラッシュメモリ14から読み出され、伸張されたフルサイズ画像を縮小表示する。
実施の形態におけるデジタルカメラ1の動作を図3のフローチャートに従って説明する。
ユーザ(撮影者)のモード切替キーの操作により撮像モードに設定されると、第1の撮像制御部101は、CCD5に所定のフレームレートで順次被写体を撮像させる処理を開始させ、CCD5により順次撮像され画像生成部9によって生成された輝度色差信号のフレーム画像データ(YUVデータ)をDRAM13のバッファメモリ領域に記憶させていき、該記憶されたフレーム画像データにから画素数を間引いたライブビュー画像を生成し、画像表示部15に表示させていくという、いわゆるライブビュー表示を開始する(ステップS1)。
次いで、CPU10の顔検出部103は、生成されたライブビュー画像に対して、顔領域を検出する顔検出処理を行う。このとき、顔検出部103は、撮像されたライブビュー画像の全領域(画角の全範囲)内に人物の顔部分に該当する顔領域があるか否かを検出する(ステップS2)。
また、この顔検出処理は、図2で示した−90度、0度、+90度の3種類の角度の特徴データと所定値以上で一致する領域を顔領域として検出する。
図4(A)、(B)は、表示されたライブビュー画像及び顔検出枠の様子の一例を示す図である。なお、図4(B)は、図4(A)の1回前に表示されたライブビュー画像である。
図4(A)、(B)を見るとわかるように、ライブビュー画像として、被写体(人)21、被写体(人)22、被写体(人)23が撮像されて表示されており、ライブビュー画像に重ねて、検出された顔領域に顔検出枠が表示されているのがわかる。つまり、被写体21、被写体22、被写体23のそれぞれの顔が検出され、該顔に顔検出枠が表示されている。
次いで、CPU10はステップS2で顔領域が検出されたか否かを判断し(ステップS3)、顔領域が検出されたと判断した場合は(ステップS3でYES)、ステップS4に移り、顔領域が検出されなかったと判断した場合は(ステップS3でNO)、ステップS5に移る。
ステップS4に進むと、CPU10の顔検出部103は、検出した顔領域の情報をバッファメモリ領域の検出結果記憶領域131に記憶、更にこの記憶を更新する処理を行う。この検出した顔領域の情報とは、該検出した顔領域の角度、ライブビュー画像における位置、及び、ライブビュー画像における大きさのことをいう。また、記憶の更新とは検出結果記憶領域131の空き容量がなくなるまでライブビュー画像から検出した顔領域の情報を順次記憶させていき、空き容量が無くなると、新たなライブビュー画像から検出した顔領域の情報を検出結果記憶領域131に記憶されている複数の顔領域の情報のうち一番古い顔領域の情報に上書きして更新することをいう。これにより、順次撮像されるライブビュー画像のうち、直近に撮像されたライブビュー画像から検出された顔領域の情報から、所定時間前までのライブビュー画像から検出された顔領域の情報が検出結果記憶領域131に記憶されることになる。
ここでは、図4(A)において検出された被写体(人)21、被写体(人)22、被写体(人)23の各顔領域の角度は0度であるので、検出した各顔領域の位置、大きさに加えて、角度が0度という情報が検出結果記憶領域131に記憶されることになる。
なお、説明の簡略化のため、本実施形態では、図4(A)の1つ前のライブビュー画像である図4(B)についての顔検出処理が既に終了しており、図4(B)から検出された顔領域の情報と、直近のライブビュー画像である図4(A)から検出された顔領域の情報が検出結果記憶領域131に記憶されたものとする。
次いで、CPU10は、ユーザによってシャッタボタンが全押しされたか否かを判断する。この判断は、シャッタボタンの全押し操作に対応して記録指示信号が送られてきたか否かにより判断する(ステップS5)。
ステップS5で、シャッタボタンが全押しされていないと判断すると(ステップS5でNO)、全押しされるまでステップS2に戻る。これにより、CCD5により順次撮像された各ライブビュー画像に対して顔検出処理が行なわれ、直近に生成されたライブビュー画像から検出された顔領域の情報から、所定時間前(所定枚数前)までのライブビュー画像から検出された顔領域の情報が検出結果記憶領域131に記憶更新されていくことになる。なお、ステップS2〜ステップS5までの動作は、次のフレーム画像データが撮像されるまでに終了するものとする。
一方、ステップS5で、シャッタボタンが全押しされたと判断すると、第2の撮像制御部102は、その時点で撮像したフルサイズ画像の画像データをバッファメモリ領域に一時記憶させる(ステップS6)。
ここで、図4(B)は、ステップS6での処理により撮像されたフルサイズ画像を示すものである。
次いで、CPU10は、検出結果記憶領域131に検出された顔領域の情報が記憶されているか否かを判断する(ステップS7)。つまり、シャッタボタンが全押しされる直前から所定時間前までに撮像されたライブビュー画像から顔領域が検出され、検出結果記憶領域131に記憶されていたか否かを判断する。
ステップS7において、検出結果記憶領域131に検出された顔領域の情報が記憶されていると判断すると(ステップS7でYES)、記憶されている顔領域のうち、最も優先度の高い顔領域を1つ選択する(ステップS8)。つまり、検出結果記憶領域131に記憶されている顔領域の情報、即ち、シャッタボタン全押し直前から所定時間前(所定枚数前)までの各フレーム画像データに対する顔検出によって得られた顔領域情報のうち、角度と対応付けて記憶されたライブビュー画像における顔領域の位置、及び、ライブビュー画像に対する顔領域の大きさに基づいて、優先度が最も高い顔領域を選択することになる。
この顔領域の情報の優先度とは、検出された顔領域の位置についてはライブビュー画像における画角中央からの近さ、検出された顔領域の大きさについては、ライブビュー画像に対する顔領域の大きさ等を総合的に考慮し、各顔領域について定まる。つまり、ライブビュー画像に対する顔検出処理により検出された各顔領域のうち、画角中央に近い位置から検出された顔領域ほど優先度は高くなり、また、ライブビュー画像に対する顔検出処理により検出された各顔領域のうち、顔領域の大きさが大きい顔領域ほど、優先度は高くなる。
ここで、記憶されている顔領域の情報は、図4(A)、(B)のライブビュー画像から検出された、被写体(人)21、被写体(人)22、図4(A)、被写体(人)23の顔領域の情報である。この検出された各顔領域の大きさに差は無いが、図4(A)の被写体(人)22から検出された顔領域が最も画角中央に近いので、この顔領域が最も優先度の高い顔領域として選択される。
次に、CPU10の顔検出制御部104は、フルサイズ画像の画像データ内から顔領域を検出する際に、ステップS8で選択された顔領域の角度に基づいて顔検出部103を制御し、顔検出処理を行う(ステップS9)。つまり、ステップS8において選択された顔領域は0度のものであるので、0度という角度が選択されたことになり、フルサイズ画像内から顔領域を検出する際には0度の顔の特徴データのみを使用して顔領域を検出するように顔検出部103を制御する。つまり、ライブビュー画像では3種類の角度(−90度、0度、+90度)の特徴データを用いて顔検出処理を実行したが、フルサイズ画像に対して実行される顔検出処理は、ライブビュー画像から検出された顔領域のうち、最も優先度の高い顔領域の角度で行われる。
次に、フルサイズ画像から顔領域が検出されたか否かを判断し(ステップS12)、顔領域が検出されたと判断すると(ステップS12でYES)ステップS13に進む。
一方、ステップS7において、CPU10が検出結果記憶領域131に検出された顔領域の情報が記憶されていない、つまり、シャッタボタン全押し直前のライブビュー画像から所定時間前までのライブビュー画像において顔領域が検出されていないと判断すると(ステップS7でNO)、シャッタボタン全押し際にストロボ光が発光されたか否かを判断する(ステップS10)。
そして、ストロボ光が発光されていたと判断すると(ステップS10でYES)、フルサイズ画像に対して3種類の角度(−90度、0度、+90度)で顔検出処理を行い(ステップS11)、ステップS12に進む。
ステップS11において、フルサイズ画像に対して3種類の角度で顔検出処理を行うのは、ストロボ光が発光されていた場合、暗所での撮像である可能性が高いからである。つまり、ライブビュー画像の撮像時にはストロボ光が発光されないため、ライブビュー画像は暗く、たとえライブビュー画像上に人物の顔領域があったとしても、検出されていない可能性が高い。また、通常、夜景を撮像する際にはシャッタボタンの全押しが無ければストロボ光は発光されないため、ストロボ光を発光した場合は、人物の顔領域を検出できる可能性が高いためである。
なお、ステップS10においてストロボ光が発光されていないと判断された場合は(ステップS10)、人物を含まない撮像である可能性が高いため、顔検出処理を行わない。
次に、ステップS12において、フルサイズ画像から顔領域が検出されたと判断すると(ステップS12でYES)、CPU10は画像生成部9によって、フルサイズ画像における当該検出された顔領域に対して所定の画像処理を行う。具体的には、充血軽減処理、美肌処理、血色改善処理、歯美白処理、開眼処理、頬リフトアップ処理、及びフラッシュ赤目除去処理を実行し、新たな画像を生成し、生成した画像データをフラッシュメモリ14に記憶してステップS1に戻る(ステップS13)。
また、ストロボ光が発光されていなかったと判断された場合(ステップS10でNO)、及び顔領域が検出されなかったと判断された場合(ステップS12でNO)は、CPU10は、撮像されたフルサイズ画像の画像データを圧縮してフラッシュメモリ14に記録して、ステップS1に戻る。
なお、撮像モード中にモード切替キーの操作により他のモードが設定された場合は、撮像モードを終了する。
以上のように、実施の形態においては、記録指示から所定時間前に生成されたライブビュー画像から顔領域を検出し、その検出した顔領域の角度、位置、及び大きさ等の情報が記憶されている場合は、この記憶された顔領域に基づき顔検出処理を行うため、フルサイズ画像に対する顔検出処理の処理時間や処理負担を軽減させることができ、良好な顔検出処理を行うことができる。
また、記憶されている情報が複数の顔領域にかかる場合は、最も優先度の高い顔領域の情報でフルサイズ画像から顔検出処理を行うため、検出を要しない顔領域がフルサイズ画像に含まれていても、顔検出処理の処理時間や処理負担を軽減させることができ、良好な顔検出処理を行うことができる。
さらに、ライブビュー画像から顔領域を検出できなかった場合であっても、記録指示に際しストロボ光の発光を伴っていた場合は、この記録指示時のフルサイズ画像の画像データから複数の角度で顔検出を行うようにしたので、夜景撮影等、撮影環境における光量不足によりライブビュー画像から十分に顔検出を行うことができない場合であっても、フルサイズ画像から確実な顔検出処理を行うことができる。
さらにまた、ライブビュー画像から顔領域を検出できなかった場合で、且つ、記録指示に際しストロボ光の発光を伴っていなかった場合は、撮像されている画像には顔領域が含まれていないと判断してフルサイズ画像を記録するので、不必要な顔検出処理の実行を防ぐことができる。
[変形例]
上記実施の形態は以下のような変形例も可能である。
(01)図5は、図3のフローを変形したものである。上記実施の形態においては、ステップS7で顔領域の情報が記憶されていると判断された場合に、記憶されている顔領域のうち、最も優先度が高い顔領域の角度を選択するようにしたが、図5に示したように、ステップS7で顔領域の情報が記憶されていると判断すると、記憶されている顔領域の角度から、各顔領域についての角度情報を取得し(ステップS28)、取得した全ての角度でフルサイズ画像に対して顔検出処理を行う(ステップS29)ようにしてもよい。これにより、フルサイズ画像に複数の角度の顔領域が存在する場合であっても、全ての顔領域を検出することが可能となる。
(02)また、上記実施の形態においては、記録指示検出から所定時間前までの各ライブビュー画像から検出された顔領域の情報を記憶更新し、記憶された顔領域のうち、最も優先度が高い顔領域の角度を選択するようにしたが、記録指示撮像されたライブビュー画像から検出された顔領域のうち、最も優先度の高い顔領域の角度を選択するようにしてもよい。
また、記録指示直前から所定時間前までの各ライブビュー画像から検出された顔領域の情報のうち、最も優先度の高い顔領域の情報を選択するようにしてもよい。
(03)また、上記実施の形態においては、顔領域の情報の優先度は、ライブビュー画像における画角中央からの近さ、ライブビュー画像に対する顔領域の大きさを総合的に考慮して定まるようにしたが、その他の要素を考慮して定まるようにしてもよい。
例えば、予め特定の人物の顔画像を一乃至複数記憶する手段を備え、ライブビュー画像からこの特定の人物の顔領域が検出されたか否か、検出された特定の人物の顔領域の数等を考慮して定まるようにしてもよい。
(04)また、記憶されている顔領域の位置、大きさ、角度のうち、1つ以上の条件に基づいてフルサイズ画像から顔領域を検出してもよい。
(05)また、上記実施の形態においては、フルサイズ画像から顔領域が検出されなかった場合は(図3のステップS12でNO)、画像処理を行わないものとしたが、顔領域の情報が記憶されていて(図3のステップS7でYES)、且つ、フルサイズ画像から顔領域が検出されなかった場合は(図3のステップS12でNO)、当該記憶されている顔領域の情報をフルサイズ画像における顔領域の情報としてもよい。
つまり、静止画撮像直前のライブビュー画像では、顔領域が検出され、且つ、フルサイズ画像から顔領域が検出されなかった場合においては、静止画撮像直前のライブビュー画像から検出された顔領域の情報を、フルサイズ画像から検出された顔領域の情報として扱うようにしてもよい。
(06)また、上記実施の形態においては、ライブビュー画像から顔領域を検出する際に、3種類の角度(−90度、0度、+90度)の特徴データを用いて顔検出処理を行うようにしたが、より多くの角度の特徴データを用いて顔検出処理を行うようにしてもよい。
また、角度だけでなく、顔の向き(上下左右の向き)に対応した特徴データを用いてライブビュー画像から顔検出処理を行うようにし、フルサイズ画像に対する顔検出処理では、ライブビュー画像で検出した顔の向きの特徴データを用いて顔検出処理を行うようにしてもよい。
(07)上記実施の形態は、上記変形例(01)〜(06)を任意に組み合わせた態様であってもよい。
(08)また、本発明の上記実施形態は、何れも最良の実施形態としての単なる例に過ぎず、本発明の原理や構造等をより良く理解することができるようにするために述べられものであって、添付の特許請求の範囲を限定する趣旨のもでない。
したがって、本発明の上記実施形態に対してなされ得る多種多様な変形ないし修正はすべて本発明の範囲内に含まれるものであり、添付の特許請求の範囲によって保護されるものと解さなければならない。
最後に、上記各実施の形態においては、本発明の撮像装置をデジタルカメラ1に適用した場合について説明したが、上記の実施の形態に限定されるものではなく、要は、被写体を撮像し、所定の被写体を検出することができる機器であれば適用可能である。
本発明の実施の形態のデジタルカメラ1のブロック図である。 予め記憶されている3種類の角度の特徴データを模式的に示した図である。 実施の形態のデジタルカメラ1の動作を示すフローチャートである。 ライブビュー画像から検出された顔領域を示す図である。 変形例におけるデジタルカメラ1の動作を示すフローチャートである。
符号の説明
1 デジタルカメラ
2 撮影レンズ
3 レンズ駆動ブロック
4 絞り
5 CCD
6 ドライバ
7 TG
8 ユニット回路
9 画像生成部
10 CPU
11 キー入力部
12 メモリ
13 DRAM
14 フラッシュメモリ
15 画像表示部
16 バス
101 第1の撮像制御部
102 第2の撮像制御部
103 顔検出部
104 顔検出制御部
131 検出結果記憶領域

Claims (10)

  1. 撮像手段と、
    前記撮像手段によって撮像された第1の画像から画素を間引いた間引き画像を生成する生成手段と、
    前記生成手段によって生成された間引き画像から人物の顔領域を検出する顔検出手段と、
    前記顔領域の情報を記憶する記憶手段と、
    前記撮像手段によって記録用の第2の画像の撮像を指示する指示手段と、
    前記指示手段による指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御手段と、
    前記記憶手段によって記憶された顔領域の情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御する顔検出制御手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記撮像手段は、
    周期的に前記第1の画像を撮像する第1の撮像制御手段と、
    前記第2の画像を記録用に撮像する第2の撮像制御手段と、
    を備え、
    前記生成手段は前記第1の撮像制御手段により周期的に撮像される前記第1の画像から前記間引き画像を順次生成し、
    前記記憶手段は、前記生成手段によって順次生成される間引き画像から前記顔検出手段によって検出された顔領域の情報を更新させながら記憶し、
    前記顔検出制御手段は、前記記憶手段に記憶された情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする請求項1記載の撮像装置。
  3. 前記顔検出制御手段は、前記第2の画像の撮像直前に前記記憶手段に記憶された情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする請求項2記載の撮像装置。
  4. 前記第2の画像を撮像すると、前記記憶手段に前記情報が記憶されているか否かを判断する第1の判断手段を更に備え、
    前記顔検出制御手段は、前記第1の判断手段により前記情報が記憶されていると判断された場合に、前記第2の画像から顔領域を検出するように前記検出手段を制御することを特徴とする請求項3に記載の撮像装置。
  5. 前記第1の判断手段によって、前記記憶手段に前記情報が記憶されていないと判断された場合、前記第2の画像を撮像時に、ストロボ光が発光されたか否かを判断する第2の判断手段と、を更に備え、
    前記顔検出制御手段は、前記第2の判断手段によってストロボ光が発光されたと判断された場合は、前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする請求項4記載の撮像装置。
  6. 前記顔検出手段によって、前記間引き画像から前記顔領域を複数検出した場合、前記記憶手段は前記顔検出手段によって複数検出された顔領域それぞれの情報を記憶し、
    前記顔検出制御手段は、前記記憶手段に複数記憶されている情報に基づき前記第2の画像から顔領域を検出するように前記顔検出手段を制御することを特徴とする請求項1記載の撮像装置。
  7. 前記顔検出手段によって、前記間引き画像から前記顔領域を複数検出した場合は、前記間引き画像における画角中央からの近さ、または、検出された顔領域の大きさの少なくとも一方に基づいて、前記検出された複数の顔領域の中から、情報を選択する選択手段を備え、
    前記顔検出制御手段は、前記選択手段によって選択された情報を前記検出手段の制御に用いることを特徴とする請求項1記載の撮像装置。
  8. 前記情報には、前記顔検出手段によって前記間引き画像から検出された顔領域の角度、位置、及び大きさのうち、少なくとも1つを示す情報が含まれることを特徴とする請求項1記載の撮像装置。
  9. 第1の画像を撮像するステップと、
    この撮像された第1の画像から画素を間引いた間引き画像を生成するステップと、
    この間引き画像から人物の顔領域を検出するステップと、
    前記生成された間引き画像から前記検出された顔領域の情報を記憶するステップと、
    前記撮像手段によって記録用の第2の画像の撮像を指示するステップと、
    この指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御ステップと、
    前記記憶された情報に基づき、前記第2の画像から顔領域を検出するステップと、
    を含むことを特徴とする顔検出方法。
  10. 撮像装置が備えるコンピュータを、
    前記撮像手段によって撮像された第1の画像から画素を間引いた間引き画像を生成する生成手段、
    前記生成手段によって生成された間引き画像から人物の顔領域を検出する顔検出手段と、
    前記顔領域の情報を記憶する記憶手段、
    前記撮像手段によって記録用の第2の画像の撮像を指示する指示手段、
    前記指示手段による指示に応じて前記撮像手段に前記第2の画像を撮像させる撮像制御手段、
    前記記憶手段によって記憶された顔領域の情報に基づき、前記第2の画像から顔領域を検出するように前記顔検出手段を制御する顔検出制御手段
    として機能させることを特徴とするプログラム。
JP2008316602A 2008-12-12 2008-12-12 撮像装置、顔検出方法及びプログラム Expired - Fee Related JP4911165B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2008316602A JP4911165B2 (ja) 2008-12-12 2008-12-12 撮像装置、顔検出方法及びプログラム
US12/617,891 US8319851B2 (en) 2008-12-12 2009-11-13 Image capturing apparatus, face area detecting method and program recording medium
KR1020090112424A KR101044033B1 (ko) 2008-12-12 2009-11-20 촬상 장치, 얼굴 검출 방법 및 기록 매체
EP09178005.6A EP2196943B1 (en) 2008-12-12 2009-12-04 Image capturing apparatus and face area detecting method
CN2009102542155A CN101753841B (zh) 2008-12-12 2009-12-10 拍摄装置以及脸部检测方法
TW098142408A TWI411970B (zh) 2008-12-12 2009-12-11 攝像裝置、臉部檢測方法及記錄媒體

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008316602A JP4911165B2 (ja) 2008-12-12 2008-12-12 撮像装置、顔検出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2010141649A JP2010141649A (ja) 2010-06-24
JP4911165B2 true JP4911165B2 (ja) 2012-04-04

Family

ID=42079094

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008316602A Expired - Fee Related JP4911165B2 (ja) 2008-12-12 2008-12-12 撮像装置、顔検出方法及びプログラム

Country Status (6)

Country Link
US (1) US8319851B2 (ja)
EP (1) EP2196943B1 (ja)
JP (1) JP4911165B2 (ja)
KR (1) KR101044033B1 (ja)
CN (1) CN101753841B (ja)
TW (1) TWI411970B (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5795847B2 (ja) * 2010-09-15 2015-10-14 キヤノン株式会社 画像処理装置および画像処理方法
US8717381B2 (en) 2011-01-11 2014-05-06 Apple Inc. Gesture mapping for image filter input parameters
TWI464695B (zh) * 2011-09-22 2014-12-11 Hon Hai Prec Ind Co Ltd 基於臉部表情播放文檔的電子裝置及方法
CN103019369A (zh) * 2011-09-23 2013-04-03 富泰华工业(深圳)有限公司 基于脸部表情播放文档的电子装置及方法
US9724597B2 (en) * 2012-06-04 2017-08-08 Sony Interactive Entertainment Inc. Multi-image interactive gaming device
JP2014021901A (ja) * 2012-07-23 2014-02-03 Casio Comput Co Ltd 被写体検出装置、被写体検出方法及びプログラム
TWI485505B (zh) * 2012-11-20 2015-05-21 Benq Corp 數位相機及數位相機之影像擷取方法
CN105979195B (zh) * 2016-05-26 2019-04-19 努比亚技术有限公司 一种视频图像处理装置和方法
US10628661B2 (en) 2016-08-09 2020-04-21 Daon Holdings Limited Methods and systems for determining user liveness and verifying user identities
US10217009B2 (en) * 2016-08-09 2019-02-26 Daon Holdings Limited Methods and systems for enhancing user liveness detection
US10210380B2 (en) 2016-08-09 2019-02-19 Daon Holdings Limited Methods and systems for enhancing user liveness detection
US11115408B2 (en) 2016-08-09 2021-09-07 Daon Holdings Limited Methods and systems for determining user liveness and verifying user identities
CN108022274B (zh) * 2017-11-29 2021-10-01 Oppo广东移动通信有限公司 图像处理方法、装置、计算机设备和计算机可读存储介质
JP6916130B2 (ja) * 2018-03-02 2021-08-11 株式会社日立製作所 話者推定方法および話者推定装置
TWI684433B (zh) * 2019-04-19 2020-02-11 鉅怡智慧股份有限公司 生物影像處理方法以及生理資訊檢測裝置
EP4027633A4 (en) * 2019-09-06 2022-10-26 Sony Group Corporation INFORMATION PROCESSING DEVICE, METHOD AND PROGRAM

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3688863B2 (ja) 1997-09-03 2005-08-31 株式会社東芝 顔画像撮影装置および顔画像撮影方法
JP2002049912A (ja) 2000-08-04 2002-02-15 Nri & Ncc Co Ltd 人物画像取得システム
JP4290100B2 (ja) 2003-09-29 2009-07-01 キヤノン株式会社 撮像装置及びその制御方法
JP2005167697A (ja) * 2003-12-03 2005-06-23 Canon Inc 赤目補正機能を有する電子カメラ
US7315631B1 (en) 2006-08-11 2008-01-01 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
JP4747003B2 (ja) * 2005-06-22 2011-08-10 富士フイルム株式会社 自動合焦制御装置およびその制御方法
JP4431532B2 (ja) 2005-09-16 2010-03-17 富士フイルム株式会社 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム
WO2007060980A1 (ja) 2005-11-25 2007-05-31 Nikon Corporation 電子カメラおよび画像処理装置
TWI318108B (en) * 2005-11-30 2009-12-11 Univ Nat Kaohsiung Applied Sci A real-time face detection under complex backgrounds
JP4751776B2 (ja) * 2006-06-19 2011-08-17 オリンパスイメージング株式会社 電子撮像装置及び個人特定システム
JP4730553B2 (ja) * 2006-07-25 2011-07-20 富士フイルム株式会社 撮影装置及び露出制御方法
JP4218712B2 (ja) 2006-08-04 2009-02-04 ソニー株式会社 顔検出装置、撮像装置および顔検出方法
JP4218720B2 (ja) * 2006-09-22 2009-02-04 ソニー株式会社 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP5055939B2 (ja) * 2006-10-12 2012-10-24 株式会社ニコン デジタルカメラ
JP4725802B2 (ja) 2006-12-27 2011-07-13 富士フイルム株式会社 撮影装置、合焦方法および合焦プログラム
JP4697606B2 (ja) * 2007-01-24 2011-06-08 富士フイルム株式会社 撮影装置及び合焦制御方法
JP4717840B2 (ja) * 2007-02-15 2011-07-06 富士フイルム株式会社 撮像装置およびその制御方法
JP4341696B2 (ja) * 2007-05-18 2009-10-07 カシオ計算機株式会社 撮像装置、顔領域検出プログラム、及び、顔領域検出方法
KR20080105647A (ko) * 2007-05-31 2008-12-04 삼성테크윈 주식회사 디지털 줌 시 라이브 화면 표시 장치 및 방법

Also Published As

Publication number Publication date
US20100149365A1 (en) 2010-06-17
US8319851B2 (en) 2012-11-27
KR101044033B1 (ko) 2011-06-23
KR20100068189A (ko) 2010-06-22
TWI411970B (zh) 2013-10-11
EP2196943B1 (en) 2015-02-11
JP2010141649A (ja) 2010-06-24
CN101753841A (zh) 2010-06-23
EP2196943A1 (en) 2010-06-16
TW201102938A (en) 2011-01-16
CN101753841B (zh) 2013-10-30

Similar Documents

Publication Publication Date Title
JP4911165B2 (ja) 撮像装置、顔検出方法及びプログラム
JP4761146B2 (ja) 撮像装置及びそのプログラム
JP4254873B2 (ja) 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム
JP5089405B2 (ja) 画像処理装置及び画像処理方法並びに撮像装置
JP5129683B2 (ja) 撮像装置及びその制御方法
KR101433121B1 (ko) 소정의 종횡비의 합성 화상을 생성하는 화상 처리 장치
JP6179569B2 (ja) 画像処理装置、画像処理方法及びプログラム
WO2007057971A1 (ja) デジタルカメラ、デジタルカメラを搭載した電子機器、デジタルカメラの撮像方法、およびデジタルカメラのプログラムを記憶した記憶媒体
KR101423432B1 (ko) 촬상 장치, 촬상 방법 및 기록 매체
JP4802884B2 (ja) 撮像装置、撮像画像記録方法、及び、プログラム
JP4894708B2 (ja) 撮像装置
JP2008301355A (ja) 撮像装置及びそのプログラム
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP6090494B2 (ja) 動画撮影装置および動画像揺れ補正方法ならびにプログラム
JP4560805B2 (ja) 撮像装置及びそのプログラム
JP2009020163A (ja) 撮像装置及びそのプログラム
JP5910565B2 (ja) 動画撮影装置および動画像揺れ補正方法ならびにプログラム
JP2009182880A (ja) 撮像装置及びそのプログラム
JP4336186B2 (ja) 画像修正装置および撮像装置
JP5083116B2 (ja) 撮影装置、画像処理方法、およびプログラム
JP2007228233A (ja) 撮影装置
JP2008258960A (ja) ディジタルカメラ
JP2013141104A (ja) 撮像装置
CN109525772B (zh) 图像处理装置、图像处理方法以及存储介质
KR101467871B1 (ko) 자동 줌 기능을 구비하는 디지털 영상 처리장치 및 그제어방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111220

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120102

R150 Certificate of patent or registration of utility model

Ref document number: 4911165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees