JP4200428B2

JP4200428B2 - 顔領域抽出方法及び装置

Info

Publication number: JP4200428B2
Application number: JP2002356794A
Authority: JP
Inventors: 学兵藤; 誠次田; 浩一坂本; 幸治市川; 寛和小林
Original assignee: Fujifilm Corp
Current assignee: Fujifilm Corp
Priority date: 2002-12-09
Filing date: 2002-12-09
Publication date: 2008-12-24
Anticipated expiration: 2022-12-09
Also published as: JP2004192129A

Description

【０００１】
【発明の属する技術分野】
本発明は顔領域抽出方法及び装置に係り、特にデジタルカメラ等により取得したカラー画像中に存在する人物の顔に相当する領域を抽出するための方法及び装置に関する。
【０００２】
【従来の技術】
人物写真を鑑賞するときに最も注目される部位は人物の顔である。人物の顔が適正な明るさ及び色で再現されるように、画像内の人物の顔に相当する領域を自動的に検出する技術が提案されている（特許文献１）。特許文献１に開示された方法によれば、撮影時の照明条件に応じて顔面色分布モデルを選択し、顔面抽出を行っている。
【０００３】
【特許文献１】
特開２００１−１６７２７３
【０００４】
【発明が解決しようとする課題】
しかしながら、特許文献１は照明条件の判定に関して、カメラの撮影条件（ストロボＯＮ／ＯＦＦ，ホワイトバランス，ホワイロバランスモード，絞り、シャッタースピード，ＡＧＣ，ＡＥ，ガンマ，ペデスタルレベル）を利用すると述べるに留まり、実際に何が問題でどのように顔面色分布モデルを設定するかについて開示していない。
【０００５】
一般的なデジタルカメラに搭載されているオートホワイトバランス（ＡＷＢ）機能は、撮像した画像データから光源種を自動判別するが、照明条件を正確に自動で把握することは困難であり、ある程度照明条件判定の誤差を許容する必要がある。撮影光源の検出ばらつきを考慮すると、広い範囲の肌色色相で顔抽出する必要がある。これは、ＡＷＢ結果後のデータにおいても言える。
【０００６】
すなわち、ＡＷＢの処理においては、光源種を正しく判定することは不可能であるから、推定された光源に対してある程度ホワイトバランスの補正量を弱めている。この結果として、光源色が完全には補正されずに残る。つまり、白が白にならず、結果として照明光源により肌色がばらつく。したがって、広い範囲の肌色色相で顔抽出すると、顔以外の物体も誤検出する頻度が増えてしまう問題がある。
【０００７】
本発明はこのような事情に鑑みてなされたもので、照明光源の検出ばらつきを考慮して、様々な撮影状況下において精度よく顔領域を抽出することができる顔領域抽出方法及び装置を提供することを目的とする。
【０００８】
【課題を解決するための手段】
前記目的を達成するために本発明に係る顔領域抽出方法は、画像内から人物の顔に相当する領域を抽出する方法であって、画像データに基づいて撮影時の光源を判定する光源判定工程と、１画面を複数のエリアに分割し、分割エリアごとに画像データを積算して得た積算値に基づいて重み付け加算を行うことにより被写体輝度を検出する被写体輝度検出工程と、予め光源種ごとに被写体輝度のしきい値が設定され、光源種ごとに被写体輝度の情報から前記しきい値に応じてその光源の確度がランク分けされており、前記被写体輝度検出工程により検出した被写体輝度と前記光源判定工程で判定した光源に対応して定められている前記しきい値との比較から前記光源判定工程による光源判定の確度のランクを求める確度決定工程と、予め肌色検出に必要な肌色の色相範囲を定める肌色条件が光源種と光源判別の確度のランクとに対応して複数用意され、前記光源判定工程から得られた光源情報及び前記確度決定工程から得られた確度のランクを示す情報に応じて前記複数の肌色条件の中から該当する肌色条件を設定する肌色条件設定工程と、前記肌色条件設定工程で設定された肌色条件に従って画像内から肌色の色相を有する領域を検出する肌色領域検出工程と、を含むことを特徴とする。
【０００９】
本発明によれば、画像データを解析し、その色情報などから当該画像の撮影光源を推定する。撮影光源を完璧に自動判別することは困難であるため、推定した光源の確からしさ（確度）を考慮して、光源判定の誤差を許容するように肌色条件を可変設定している。肌色条件は、肌色として検出されるべき色相の条件を規定したものであり、光源に応じてこの肌色条件が最適化される。これにより、全ての光源に共通の肌色条件を適用する従来の方法と比較して肌色の誤検出を軽減でき、精度のよい顔抽出が可能となる。
【００１０】
肌色条件をある表色座標系の領域（エリアや体積）で表したとすると、推定された撮影光源とその確度によって肌色条件領域の大きさや中心位置又は形状などが変更される。光源判定の確度が高ければ、肌色条件領域を比較的小さく設定することができるので、肌色の検出精度が向上する。
【００１１】
本発明の一態様に係る顔領域抽出方法は、被写体輝度を検出する被写体輝度検出工程を含み、前記確度決定工程は、前記被写体輝度検出工程で検出した被写体輝度に応じて前記光源判定の確度を決定することを特徴とする。
【００１２】
電球（タングステン）や蛍光灯などの人工光源の特性、或いは屋外日陰、晴天などの自然光源の特性から、それぞれの光源下で得られる被写体輝度（明るさ）を想定できるため、実際の被写体輝度によって光源判定の確度を定めることができる。
【００１３】
本発明の他の態様によれば、前記肌色領域検出工程は、前記肌色条件に基づいて検出される肌色部分を更に彩度によって分割する彩度分割工程を含むことを特徴とする。
【００１４】
また、前記彩度分割工程で分割された彩度別の肌色領域の形状に基づいて顔領域を決定する顔領域決定工程を含む態様がある。
【００１５】
画像内で肌色の色相を有する領域（肌色領域）を更に彩度によって細かく領域分けして、その形状や大きさを認識することにより、顔領域の判定が容易になる。
【００１６】
彩度分割された肌色領域（顔領域の候補）の中から真の顔領域を特定するには、その領域の形状に基づいて顔領域を絞り込むことが好ましい。例えば、人物の顔はおよそ円形或いは楕円形に近いものと考えられ、顔領域か否かを判別するための縦横比を定めておくことができる。顔領域の各候補について規定の縦横比から極端に外れるもの（極端に細長いものなど）は、顔でないものとして排除され、規定の縦横比に近いものについて顔であると判断される。
【００１７】
上記方法発明を具現化する装置を提供するため、本発明に係る顔領域抽出装置は、画像内から人物の顔に相当する領域を抽出する装置であって、画像データに基づいて撮影時の光源を判定する光源判定手段と、１画面を複数のエリアに分割し、分割エリアごとに画像データを積算して得た積算値に基づいて重み付け加算を行うことにより被写体輝度を検出する被写体輝度検出手段と、予め光源種ごとに被写体輝度のしきい値が設定され、光源種ごとに被写体輝度の情報から前記しきい値に応じてその光源の確度がランク分けされており、前記被写体輝度検出手段により検出した被写体輝度と前記光源判定手段で判定した光源に対応して定められている前記しきい値との比較から前記光源判定手段による光源判定の確度のランクを求める確度決定手段と、予め肌色検出に必要な肌色の色相範囲を定める肌色条件が光源種と光源判別の確度のランクとに対応して複数用意され、前記光源判定手段から得られた光源情報及び前記確度決定手段から得られた確度のランクを示す情報に応じて前記複数の肌色条件の中から該当する肌色条件を設定する肌色条件設定手段と、前記肌色条件設定手段で設定された肌色条件に従って画像内から肌色の色相を有する領域を検出する肌色領域検出手段と、を含むことを特徴とする。
【００１８】
本発明の顔領域抽出装置は、デジタルカメラやビデオカメラなどの電子撮影装置（電子カメラ）の信号処理部に組み込むことが可能であるとともに、電子カメラで記録した画像データを再生表示又はプリント出力する画像処理装置などに組み込むことが可能である。
【００１９】
また、本発明の顔領域抽出装置は、コンピュータによって実現することが可能であり、上述した顔領域抽出方法の各工程をコンピュータによって実現させるためのプログラムをＣＤ−ＲＯＭや磁気ディスクその他の記録媒体に記録し、記録媒体を通じて当該プログラムを第三者に提供したり、インターネットなどの通信回線を通じて当該プログラムのダウンロードサービスを提供することも可能である。
【００２０】
【発明の実施の形態】
以下添付図面に従って本発明に係る顔領域抽出方法及び装置の好ましい実施の形態について詳説する。
【００２１】
図１は本発明の実施形態に係る電子カメラの構成を示すブロック図である。このカメラ１０は、被写体の光学像をデジタル画像データに変換して記録メディア１２に記録するデジタルカメラであり、撮影により得られた画像信号を処理する信号処理手段の一部に本発明の顔領域抽出装置が用いられている。
【００２２】
カメラ１０全体の動作は、カメラ内蔵の中央処理装置（ＣＰＵ）１４によって統括制御される。ＣＰＵ１４は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出（ＡＥ）演算、自動焦点調節（ＡＦ）演算、及びオートホワイトバランス（ＡＷＢ）制御、顔領域抽出演算など各種演算を実施する演算手段として機能する。
【００２３】
ＣＰＵ１４はバス１６を介してＲＯＭ２０及びメモリ（ＲＡＭ）２２と接続されている。ＲＯＭ２０にはＣＰＵ１４が実行するプログラム及び制御に必要な各種データ等が格納されている。メモリ２２はプログラムの展開領域及びＣＰＵ１４の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用される。
【００２４】
また、ＣＰＵ１４にはＥＥＰＲＯＭ２４が接続されている。ＥＥＰＲＯＭ２４は、顔領域抽出処理に必要な肌色判定用テーブル（肌色テーブル）、ＡＥ、ＡＦ及びＡＷＢ等の制御に必要なデータ或いはユーザが設定したカスタマイズ情報などを記憶している不揮発性の記憶手段であり、電源ＯＦＦ時においても記憶内容が保持される。ＣＰＵ１４は必要に応じてＥＥＰＲＯＭ２４のデータを参照して演算等を行う。なお、ＲＯＭ２０は書換不能なものであってもよいし、ＥＥＰＲＯＭのように書換可能なものでもよい。
【００２５】
カメラ１０にはユーザが各種の指令を入力するための操作部３０が設けられている。操作部３０は、マクロボタン３１、シャッターボタン３２、ズームスイッチ３３など各種操作部を含む。
【００２６】
マクロボタン３１は、近距離撮影に適したマクロモードの設定（ＯＮ）／解除（ＯＦＦ）を行う操作手段である。マクロモードは、被写界深度を比較的浅くして背景を美しくぼかしたクローズアップ写真を撮影できる。マクロボタン３１の押下によってカメラ１０がマクロモードに設定されると、近距離撮影に適したフォーカス制御が行われ、被写体距離が約２０cm〜８０cmの範囲で撮影が可能となる。
【００２７】
シャッターボタン３２は、撮影開始の指示を入力する操作手段であり、半押し時にＯＮするＳ1 スイッチと、全押し時にＯＮするＳ2 スイッチとを有する二段ストローク式のスイッチで構成されている。Ｓ1 オンにより、ＡＥ及びＡＦ処理が行われ、Ｓ2 オンによって記録用の露光が行われる。ズームスイッチ３３は、撮影倍率や再生倍率を変更するための操作手段である。
【００２８】
また、図示しないが、操作部３０には、撮影モードと再生モードとを切り換えるためのモード選択手段、撮影目的に応じて最適な動作モード（連写モード、オート撮影モード、マニュアル撮影モード、人物モード、風景モード、夜景モードなど）を設定する撮影モード設定手段、液晶モニタ４０にメニュー画面を表示させるメニューボタン、メニュー画面から所望の項目を選択する十字ボタン（カーソル移動操作手段）、選択項目の確定や処理の実行を指令するＯＫボタン、選択項目など所望の対象の消去や指示内容の取消し、或いは１つ前の操作状態に戻らせる指令を入力するキャンセルボタンなどの操作手段も含まれる。なお、操作部３０の中には、プッシュ式のスイッチ部材、ダイヤル部材、レバースイッチなどの構成によるものに限らず、メニュー画面から所望の項目を選択するようなユーザインターフェースによって実現されるものも含まれている。
【００２９】
操作部３０からの信号はＣＰＵ１４に入力される。ＣＰＵ１４は操作部３０からの入力信号に基づいてカメラ１０の各回路を制御し、例えば、レンズ駆動制御、撮影動作制御、画像処理制御、画像データの記録／再生制御、液晶モニタ４０の表示制御などを行う。
【００３０】
液晶モニタ４０は、撮影時に画角確認用の電子ファインダーとして使用できるとともに、記録済み画像を再生表示する手段として利用される。また、液晶モニタ４０は、ユーザインターフェース用表示画面としても利用され、必要に応じてメニュー情報や選択項目、設定内容などの情報が表示される。なお、液晶ディスプレイに代えて、有機ＥＬなど他の方式の表示装置（表示手段）を用いることも可能である。
【００３１】
次に、カメラ１０の撮影機能について説明する。
【００３２】
カメラ１０は撮影光学系としての撮影レンズ４２とＣＣＤ固体撮像素子（以下、ＣＣＤという。）４４とを備えている。なお、ＣＣＤ４４に代えて、ＭＯＳ型固体撮像素子など他の方式の撮像素子を用いることも可能である。撮影レンズ４２は、電動式のズームレンズで構成されており、詳細な光学構成については図示しないが、主として倍率変更（焦点距離可変）作用をもたらす変倍レンズ群及び補正レンズ群と、フォーカス調整に寄与するフォーカスレンズとを含む。
【００３３】
撮影者によってズームスイッチ３３が操作されると、そのスイッチ操作に応じてＣＰＵ１４からズーム駆動部４６に対して制御信号が出力される。ズーム駆動部４６は、動力源となるモータ（ズームモータ）とその駆動回路とを含む電動駆動手段である。ズーム駆動部４６のモータ駆動回路は、ＣＰＵ１４からの制御信号に基づいてレンズ駆動用の信号を生成し、ズームモータに与える。こうして、モータ駆動回路から出力されるモータ駆動電圧によってズームモータが作動し、撮影レンズ４２内の変倍レンズ群及び補正レンズ群が光軸に沿って前後移動することにより、撮影レンズ４２の焦点距離（光学ズーム倍率）が変更される。
【００３４】
本例では、ワイド（広角）端からテレ（望遠）端までのズーム動作範囲内において撮影レンズ４２の焦点距離を１０段階で可変できるものとする。撮影者は撮影目的に応じて所望の焦点距離を選択して撮影を行うことができる。
【００３５】
撮影レンズ４２のズーム位置（焦点距離に相当）は、ズーム位置検出センサ４８によって検出され、その検出信号はＣＰＵ１４に通知される。ＣＰＵ１４はズーム位置検出センサ４８からの信号によって現在のズーム位置（すなわち、焦点距離）を把握できる。ズーム位置検出センサ４８は、ズームモータ等の回転によりパルスを発生する回路であってもよいし、レンズ鏡胴の外周に位置検出エンコード板を配置した構成などであってもよく、本発明の実施に際しては、特に限定されるものではない。
【００３６】
撮影レンズ４２を通過した光は、図示せぬ絞り機構を介して光量が調節された後、ＣＣＤ４４に入射する。ＣＣＤ４４の受光面には多数のフォトセンサ（受光素子）が平面的に配列され、各フォトセンサに対応して赤（Ｒ）、緑（Ｇ）、青（Ｂ）の原色カラーフィルタが所定の配列構造（ベイヤー、Ｇストライプなど）で配置されている。
【００３７】
ＣＣＤ４４の受光面に結像された被写体像は、各フォトセンサによって入射光量に応じた量の信号電荷に変換される。ＣＣＤ４４は、シャッターゲートパルスのタイミングによって各フォトセンサの電荷蓄積時間（シャッタースピード）を制御する電子シャッター機能を有している。
【００３８】
ＣＣＤ４４の各フォトセンサに蓄積された信号電荷は、ＣＣＤドライバ５０から与えられるパルスに基づいて信号電荷に応じた電圧信号（画像信号）として順次読み出される。ＣＣＤ４４から出力された画像信号は、アナログ処理部５２に送られる。アナログ処理部５２は、ＣＤＳ（相関二重サンプリング）回路及びゲイン調整回路を含む先行処理部であり、このアナログ処理部５２において、サンプリング処理並びにＲ，Ｇ，Ｂの各色信号に色分離処理され、各色信号の信号レベルの調整（プリホワイトバランス処理）が行われる。
【００３９】
アナログ処理部５２から出力された画像信号はＡ／Ｄ変換器５４によってデジタル信号に変換された後、信号処理部５６を介してメモリ２２に格納される。このときメモリ２２に記憶される画像データは、ＣＣＤ４４から出力された画像信号のＡ／Ｄ変換出力をそのまま（未加工のまま）記録したものであり、ガンマ変換や同時化などの信号処理が行われていない画像データである（以下、CCDRAWデータという）。ただし、「未加工のデータ」といっても、一切の信号処理を排除するものではなく、例えば、撮像素子の欠陥画素（キズ）のデータを補間する欠陥画素補正処理を行って得られた画像データなどについては汎用フォーマットに展開されていないという点でCCDRAWデータの概念に含まれるものとする。
【００４０】
タイミングジェネレータ（ＴＧ）５８は、ＣＰＵ１４の指令に従ってＣＣＤドライバ５０、アナログ処理部５２及びＡ／Ｄ変換器５４に対してタイミング信号を与えており、このタイミング信号によって各回路の同期がとられている。
【００４１】
信号処理部５６は、メモリ２２の読み書きを制御するメモリコントローラを兼ねたデジタル信号処理ブロックである。信号処理部５６は、ＡＥ／ＡＦ／ＡＷＢ処理を行うオート演算部と、同時化回路（単板ＣＣＤのカラーフィルタ配列に伴う色信号の空間的なズレを補間して各点の色を計算する処理回路）、ホワイトバランス回路、ガンマ変換回路、輝度・色差信号生成回路、輪郭補正回路、コントラスト補正回路等を含む画像処理手段であり、ＣＰＵ１４からのコマンドに従ってメモリ２２を活用しながら画像信号を処理する。
【００４２】
メモリ２２に格納されたCCDRAWデータは、バス１６を介して信号処理部５６に送られる。信号処理部５６に入力された画像データは、ホワイトバランス調整処理、ガンマ変換処理、輝度信号（Ｙ信号）及び色差信号（Ｃr,Ｃb 信号）への変換処理（ＹＣ処理）など、所定の信号処理が施された後、メモリ２２に格納される。
【００４３】
撮影画像をモニタ出力する場合、メモリ２２から画像データが読み出され、表示回路６０に転送される。表示回路６０に送られた画像データは表示用の所定方式の信号（例えば、ＮＴＳＣ方式のカラー複合映像信号）に変換された後、液晶モニタ４０に出力される。ＣＣＤ４４から出力される画像信号によってメモリ２２内の画像データが定期的に書き換えられ、その画像データから生成される映像信号が液晶モニタ４０に供給されることにより、撮像中の映像（スルー画）がリアルタイムに液晶モニタ４０に表示される。撮影者は液晶モニタ４０に表示される映像（いわゆるスルームービー）によって画角（構図）を確認できる。
【００４４】
撮影者が画角を決めてシャッターボタン３２を押下すると、ＣＰＵ１４はこれを検知し、シャッターボタン３２の半押し（Ｓ1 ＯＮ）に応動してＡＥ処理及びＡＦ処理を行い、シャッターボタン３２の全押し（Ｓ2 ＝ＯＮ）に応動して記録用の画像を取り込むためのＣＣＤ露光及び読み出し制御を開始する。
【００４５】
本カメラ１０におけるＡＦ制御は、例えば映像信号のＧ信号の高周波成分が極大になるようにフォーカスレンズ（撮影レンズ４２を構成するレンズ光学系のうちフォーカス調整に寄与する移動レンズ）を移動させるコントラストＡＦが適用される。すなわち、ＡＦ演算部は、Ｇ信号の高周波成分のみを通過させるハイパスフィルタ、絶対値化処理部、画面内（例えば、画面中央部）に予め設定されているフォーカス対象エリア内の信号を切り出すＡＦエリア抽出部、及びＡＦエリア内の絶対値データを積算する積算部から構成される。
【００４６】
ＡＦ演算部で求めた積算値のデータはＣＰＵ１４に通知される。ＣＰＵ１４は、ＡＦモータを含むフォーカス駆動部６２を制御してフォーカスレンズを移動させながら、複数のＡＦ検出ポイントで焦点評価値（ＡＦ評価値）の演算を行い、各ＡＦ検出ポイントで算出されたＡＦ評価値からその値が極大となるレンズ位置を合焦位置として決定する。そして、求めた合焦位置にフォーカスレンズを移動させるようにフォーカス駆動部６２を制御する。
【００４７】
また、ＡＥ制御に関連して、ＡＥ演算部は１画面を複数のエリア（例えば、８×８）に分割し、分割エリアごとにＲＧＢ信号を積算する回路を含み、その積算値をＣＰＵ１４に提供する。ＣＰＵ１４は、ＡＥ演算部から得た積算値に基づいて重み付け加算を行い、被写体の明るさ（被写体輝度）を検出し、撮影に適した露出値（撮影ＥＶ値）を算出する。
【００４８】
次に、撮影ＥＶ値の算出方法について説明する。
【００４９】
撮影画像の１画面を複数のエリア（例えば８×８の６４ブロック）に分割し、分割エリアごとにＲ、Ｇ、Ｂ信号から得た積算値に基づいて各分割エリアのＥＶ値（ＥＶｉ）を求める。続いて、図２に示すように撮影モードに対応して各分割エリアのＥＶ値に重み付けを行い、画面全体のＥＶ′値を次式によって算出する。
【００５０】
【数１】
ＥＶ′＝log₂｛Σ（Ｗ_i×２^EVi）／ΣＷ_i｝
ただし、ｉ：０〜６３（８×８の分割エリアを示す添え字）
Ｗ_i：撮影モードに応じた各分割エリアごとの重み係数
すなわち、撮影モードがオート／人物モードの場合には、図２（Ａ）の重み付け係数に示すように中央重点測光方式となり、風景モードの場合には、図２（Ｂ）に示すように最外周に位置する分割エリアの重み付けを減じた測光方式となり、夜景モードの場合には、図２（Ｃ）に示すように平均測光方式となる。
【００５１】
上記のように算出したＥＶ′値に対し、更に、次式に示すように撮影モードに応じた露出補正ΔＥＶを行って撮影ＥＶ値を求める。
【００５２】
【数２】
ＥＶ＝ＥＶ′−ΔＥＶ
なお、ΔＥＶは、例えば、人物モードの場合にはΔＥＶ＝０、風景モード、夜景モードの場合にはΔＥＶ＝０．３とする。
【００５３】
上記のようにして求めた撮影ＥＶ値に基づいて撮影時の絞り値とシャッタースピードを決定する。
【００５４】
そして、シャッターボタン３２の全押し時に前記決定した絞り値になるように絞り駆動部（不図示）を介して絞り機構を駆動し、また、決定したシャッタースピードとなるように電子シャッターによって電荷の蓄積時間を制御する。
【００５５】
シャッターボタン３２の全押し（Ｓ2 ＝ＯＮ）に応動して取り込まれた画像データは、図１に示した信号処理部５６においてＹＣ処理その他の所定の信号処理を経た後、圧縮伸張回路６４において所定の圧縮フォーマット（例えば、JPEG方式) に従って圧縮される。圧縮された画像データは、メディアインターフェース部６６を介して記録メディア１２に記録される。圧縮形式はJPEGに限定されず、MPEGその他の方式を採用してもよい。
【００５６】
画像データを保存する手段は、スマートメディア（商標）、コンパクトフラッシュ（商標）などで代表される半導体メモリカード、磁気ディスク、光ディスク、光磁気ディスクなど、種々の媒体を用いることができる。また、リムーバブルメディアに限らず、カメラ１０に内蔵された記録媒体（内部メモリ）であってもよい。
【００５７】
モード選択手段によって再生モードが選択されると、記録メディア１２に記録されている最終の画像ファイル（最後に記録したファイル）が読み出される。記録メディア１２から読み出された画像ファイルのデータは、圧縮伸張回路６４によって伸張処理され、表示回路６０を介して液晶モニタ４０に出力される。
【００５８】
再生モードの一コマ再生時に十字ボタンを操作することにより、順方向又は逆方向にコマ送りすることができ、コマ送りされた次のファイルが記録メディア１２から読み出され、上記と同様にして画像が再生される。
【００５９】
図３は、本例のカメラ１０における顔抽出処理に関係する要部ブロック図である。図３中図１で説明した構成と共通する部分には同一の符号を付し、その説明は省略する。
【００６０】
図３において、上段の積算回路７０とホワイトバランス回路７２は、通常のオートホワイトバランス処理に使用している処理系である。また、その下段に示した積算回路７４、ホワイトバランス回路７６及び同時化回路７８は、顔抽出アルゴリズムの前処理を実施するための処理部（以下、前処理系という。）である。
【００６１】
シャッターボタン３２の全押し時にＡ／Ｄ変換器１８から出力されたCCDRAWデータはメモリ２２に格納され、メモリ２２から積算回路７０に送られる。積算回路７０は、１画面内を複数のエリア（例えば、８×８の６４ブロック）に分割し、エリアごとにＲＧＢ信号の色別の平均積算値を算出する回路を含み、その算出結果は基準光源（デーライト）を想定したホワイトバランス回路７２に送られる。ホワイトバランス回路７２でゲイン調整された信号はＣＰＵ１４に提供される。
【００６２】
ＣＰＵ１４は、Ｒの積算値、Ｂの積算値、Ｇの積算値を得て、Ｒ／Ｇ、Ｂ／Ｇの比を求め、これらＲ／Ｇ、Ｂ／Ｇの値と、ＡＥ演算による撮影ＥＶ値の情報（被写体輝度ＬＶ値＝ＥＶ値）に基づいてシーン判別（光源種の判別）を行い、シーンに適した所定のホワイトバランス調整値（光源の雰囲気を残すような設定）に従って、信号処理部５６内のホワイトバランス回路８０及び前処理系のホワイトバランス回路７６のアンプゲインを制御し、各色チャンネルの信号に補正をかける。光源種の判別方法及び光源の雰囲気を残すホワイトバランス制御方法については、特開２０００−２２４６０８号公報等に開示された手法を用いることができる。
【００６３】
また、Ｓ2 ＝ＯＮに応じて取得されたCCDRAWデータはメモリ２２から信号処理部５６及び顔抽出用の前処理系の積算回路７４に送られる。前処理系の積算回路７４は、１画面を例えば、１３０×１９０のエリアに分割し、エリアごとに積算値を算出する。積算回路７４の算出結果は、ホワイトバランス回路７６に送られ、ここでＡＷＢを反映させたホワイトバランス処理が行われる。ＡＷＢを効かせたデータは、同時化回路７８に送られ、ここでＲ，Ｇ，Ｂについてそれぞれ同画素数のデータ（３面データ）が生成される。
【００６４】
ＣＰＵ１４は、同時化回路７８で生成されたＲＧＢの３面データに基づいて、肌色検出、彩度分割、顔候補抽出、並びに顔候補の領域の形状に基づく顔領域の特定の処理を実行する。顔抽出のアルゴリズムについて詳細は後述する。
【００６５】
その一方、メモリ２２から信号処理部５６に送られたCCDRAWデータは、ホワイトバランス回路８０によりＡＷＢを反映させた処理が行われた後、ガンマ変換回路８２に送られる。ガンマ変換回路８２は、ホワイトバランス調整されたＲＧＢ信号が所望のガンマ特性となるように入出力特性を変更し、輝度／色差信号生成回路８４に出力する。
【００６６】
輝度／色差信号生成回路８４は、ガンマ補正されたＲ、Ｇ、Ｂ信号から輝度信号Ｙとクロマ信号Ｃｒ、Ｃｂとを作成する。これらの輝度信号Ｙとクロマ信号Ｃｒ、Ｃｂ（ＹＣ信号）は、圧縮伸張回路６４によってJPEGその他の所定のフォーマットで圧縮され、記録メディア１２に記録される。
【００６７】
次に、本実施形態に係るカメラ１０に搭載されている顔抽出機能について説明する。
【００６８】
図４は、肌色として抽出されるべき色相の範囲を定めた肌色テーブルを決定するシーケンスを示したフローチャートである。同図に示したように、シャッターボタン３２のＳ1 ＝ＯＮ確定によってＡＥ及びＡＦ処理を実行し（ステップＳ１１０）、Ｓ2 ＝ＯＮに応動してCCDRAWデータを取り込み、これをメモリ２２に一旦記録する（ステップＳ１１２）。
【００６９】
その後、この取得したCCDRAWデータに基づいて光源種別の判断を行う（ステップＳ１１４）。また、ステップＳ１１０のＡＥ処理で求めた被写体輝度の情報を取得し（ステップＳ１１６）、ステップＳ１１４で得た光源情報とステップＳ１１６で得た被写体輝度情報から肌色テーブルを選択する（ステップＳ１１８）。
【００７０】
撮影光源の判別は以下の方法で行う。
【００７１】
まず、被写体の輝度情報は、シャッターボタン３２のＳ1 ＝ＯＮに基づく測光値から重み付け加算により取得する。
【００７２】
色情報については、撮像画像にデーライトホワイトバランスをかけて、デーライト時のホワイトバランスに規格化して取り扱う。デーライト時は、Ｒ／Ｇ、Ｂ／Ｇともにホワイトバランスが合う形なのでＲ／Ｇ＝Ｂ／Ｇ＝１となる。
【００７３】
一方、タングステンは赤いのでＲ／Ｇが大きく、Ｂ／Ｇは小さい。一方、日陰は色温度が高いのでＲ／Ｇは小さく、Ｂ／Ｇが大きい。このように、Ｒ／ＧとＢ／Ｇを座標軸とする表色系を用いて光源色を判定し得る。
【００７４】
図５に光源色の検出例を示す。同図は、（Ｒ／Ｇ，Ｂ／Ｇ）＝（１，１）を原点とする表色座標系である。図示した日陰検出枠、昼光色蛍光灯検出枠、デーライト検出枠、昼白色蛍光灯検出枠、タングステン検出枠は、それぞれ光源種の色分布の範囲を規定するものである。このような検出枠のデータはカメラ１０内に記憶されている。
【００７５】
光源判別に際して、撮像画像の１画面を複数のエリア（例えば、８×８）に分割し、分割エリアごとにＲ、Ｇ、Ｂ信号の色別の平均積算値を求め、Ｒ信号の積算値とＧ信号の積算値との比Ｒ／Ｇ、及びＢ信号の積算値とＧ信号の積算値との比Ｂ／Ｇを求める。
【００７６】
こうして、分割エリアごとに求められた（Ｒ／Ｇ，Ｂ／Ｇ）と図５の各検出枠とを対比し、各検出枠内に入る分割エリアの個数を求め、各検出枠のうち最も頻度の多いものをそのシーンの光源と判断する。
【００７７】
ところで、例えば蛍光灯のシーンは緑色を含む傾向にあるのでＲ／Ｇ、Ｂ／Ｇは双方ともに「１」より小さい値となる。しかし、屋外の緑シーンも同様の結果（Ｒ／Ｇ、Ｂ／Ｇが双方ともに「１」より小さい値）を示すので、色情報のみから光源色と物体色の切り分けは困難である。そこで、本実施形態では、色情報のみならず、被写体輝度情報を利用して光源判定を行う。
【００７８】
すなわち、蛍光灯は極端に明るいことは考えられないことから、所定の明るさ以上に明るい緑は蛍光灯ではなく、屋外の葉緑と推定する。このような光源判定を反映して肌色テーブルも屋外よりに設定する。
【００７９】
図６は、肌色テーブルの選択に利用される光源判定の確度を定めた図表である。同図によれば、被写体輝度（ＬＶ値で表現）に応じてその光源の確度の高低がランク分けされている。Ａランクは、その光源の確度が高いことを示し、Ｂランクはその光源の確度が低いことを示している。
【００８０】
例えば、「昼白色蛍光灯」と判定された光源に対して、被写体輝度が１１ＬＶよりも低ければその光源（昼白色蛍光灯）である確度は高く、被写体輝度が１１ＬＶ以上の場合にはその光源の確度が低いことを示している。ただし、「晴れ（デーライト）」と判定された場合には、確度のランク分けをせず、全領域について不変とする。
【００８１】
カメラ１０は、画像に含まれる色相の分布と被写体輝度（ＬＶ値）とに応じた肌色テーブルを備えており、光源判別情報（色相、輝度）に応じて、肌色テーブルを自動的に切り換える制御を行っている。
【００８２】
図７は、光源種別ごとに設定された肌色テーブル（Ａランク時）を例示した図である。横軸をＲ／Ｇ、縦軸をＢ／Ｇとした座標系において、各光源のＡランク時に選択される肌色テーブルはそれぞれ図示のような矩形枠で囲まれた範囲（肌色抽出エリア）として設定されている。
【００８３】
図８は、昼白色蛍光灯のＢランク時に選択される肌色テーブルの例である。同図に示したように、昼白色蛍光灯Ｂランクの肌色テーブル（実線にて図示）９０は、昼白色蛍光灯Ａランクの肌色テーブル（一点鎖線にて図示）９１よりも大きなエリアを有し、昼白色蛍光灯Ａランクの肌色テーブル９１と晴れの肌色テーブル（点線にて図示）９２とを包含する範囲となっている。
【００８４】
図９は、電球（タングステン）のＢランク時に選択される肌色テーブルの例である。同図に示したように、電球Ｂランクの肌色テーブル（実線にて図示）９４は、電球Ａランクの肌色テーブル（二点鎖線にて図示）９５よりも大きなエリアを有し、電球Ａランクの肌色テーブル９５と晴れの肌色テーブル（点線にて図示）９２とを包含する範囲となっている。
【００８５】
他の光源についてＢランクの肌色テーブルは図示しないが、図８及び図９で説明した例と同様に、他の光源（デーライトを除く）に関してもＢランクの肌色テーブルはＡランクの肌色テーブルよりも大きな範囲が設定されている。
【００８６】
なお、図７乃至図９では矩形形の肌色テーブルを例示したが、肌色テーブルの形状は矩形に限定されず、様々な形状に設計し得る。
【００８７】
光源種別並びにその判定の確度に対応して複数の肌色テーブルがカメラ１０内に用意されており、自動判別された撮影光源とその確度に応じて肌色テーブルが自動選択され、肌色テーブルの範囲内に入った色相点が「肌色」として検出される。
【００８８】
図１０は、顔抽出のシーケンスを示すフローチャートである。
【００８９】
まず、シャッターボタン３２のＳ1 ＝ＯＮ及びＳ2 ＝ＯＮを経て、CCDRAWデータをメモリ２２に記録する（ステップＳ２１０）。そして、図３で説明した前処理系（７４、７６、７８）による処理を行い、記録したCCDRAWデータに対してオートホワイトバランスによるゲイン補正の処理（図１０のステップＳ２１２）、積算処理（ステップＳ２１４）及び同時化処理を行う（ステップＳ２１６）。こうして、ＲＧＢの３面データが生成される。
【００９０】
次いで、ＣＰＵ１４は、ＥＥＰＲＯＭ２４から肌色テーブルを取得する（ステップＳ２１８）。このとき、図４乃至図９で説明したように、光源種別とその確度に応じて肌色テーブルが選択される。
【００９１】
その後、ＣＰＵ１４は、前処理系の同時化回路７８から取得したＲＧＢの３面データ（ガンマをかける前のリニアな系のデータ）を基に、肌色テーブル内の色相を検出する（図１０のステップＳ２２０）。
【００９２】
例えば、図１１の符号１００で示した矩形枠で囲まれた範囲が肌色抽出エリア（肌色テーブルに相当）として設定された場合、この範囲内に入ったものを肌色として判定する。
【００９３】
更に、肌色抽出エリア１００は、彩度によって更に複数のエリアに分割されている。図１１において、「彩度」は原点Ｏからの距離によって表され、原点Ｏから離れるほど彩度が高くなる。同図の例では、原点を中心とする同心円状の境界線（破線により図示）によって肌色検出エリア１００が６つの領域に区分けされている。
【００９４】
ＣＰＵ１４は、前処理系の同時化回路７８から取得したＲＧＢの３面データから肌色領域を検出した後、当該肌色検出された部分を更に彩度を基準に領域分割する（図１０のステップＳ２２２）。
【００９５】
図１２に、肌色検出された領域を更に彩度によって区分けした例を示す。画像内で対象物が異なるとその彩度も異なり、一般に人物の顔の肌色は、タングステン光源下の白色物や机などの木よりも彩度が高い傾向がある。したがって、肌色検出された領域を彩度によって細かく分けてその領域形状を把握することにより顔領域であるか、顔以外の領域であるかを判別することが容易になる。
【００９６】
図１０のステップＳ２２２において彩度による領域分割を行った後は、ステップＳ２２４に進む。ステップＳ２２４では、彩度によって領域分割されたもの（顔領域候補）の中から、更に各領域について形状検出を行い、形状から顔領域を特定する処理を行う。
【００９７】
すなわち、顔として妥当なモデル形状（楕円や円）から定められた縦横比の規定値と、顔領域候補の形状とを対比し、検出された形状の縦横比が規定値から大きく外れるものについては、顔以外の領域であると判断する。
【００９８】
顔領域候補の縦横比は、例えば、図１３のように、顔領域候補１０２について垂直方向及び水平方向のヒストグラムからＨ（縦方向値）とＷ（水平方向値）を求め、これらの比Ｈ／Ｗを算出する。縦横比の値（Ｈ／Ｗ）がある一定の範囲のもの（楕円や円に近い形状）である場合に顔形状と判断する。
【００９９】
このような形状認識によって顔候補が最終的に絞り込まれ、所定の縦横比を有する形状の領域部分が「顔」として抽出される。
【０１００】
顔領域の抽出結果は、明るさ補正、ホワイトバランス補正、肌色をベストの色（目標値）に近づける色補正、赤目補正などに利用される。
【０１０１】
〔変形例〕
上述の実施形態では、画像に含まれる色相の分布によって光源色を推定し、被写体輝度値（ＬＶ値）によって確度を定めたが、本発明の実施に際して、色相の分布から確度を定めることも可能である。例えば、図で説明した光源色の判定の際に、各検出枠に含まれる分割エリアの頻度（個数）によって光源の確度を判断してもよい。もちろん、被写体輝度値と色相分布とを組み合わせて確度を判断してもよい。
【０１０２】
上記実施の形態では、（Ｒ／Ｇ，Ｂ／Ｇ）の表色系を述べたが、本発明の実施に際しては、表色空間は特に限定されず、ＲＧＢ系、ＣＩＥＬ*a*b、ＣＩＥＬ*u*vその他の色空間を使用してもよい。
【０１０３】
また、上述の実施形態では、デジタルカメラを例示したが、本発明の適用範囲はこれに限定されず、カメラ付き携帯電話機、カメラ付きＰＤＡ、カメラ付きモバイルパソコンなど、電子撮像機能を備えた他の情報機器についても本発明を適用できる。この場合、撮像部は携帯電話機等の本体から分離可能な着脱式（外付けタイプ）のものであってもよい。更に、上述のような電子撮像機能付き機器で記録した画像データを再生表示する画像再生装置、或いはプリント出力するプリント装置などについても本発明を適用することが可能である。
【０１０４】
【発明の効果】
本発明によれば、画像データから自動判定される撮影光源の種別とその確度に応じて肌色条件を最適化できるので、肌色の検出精度を向上させることが可能である。また、光源種別判定の確度に応じて肌色条件領域の大きさや中心位置又は形状などを変更することにより、光源検出の誤差をカバーできる。これにより、精度のよい顔抽出が可能となる。
【図面の簡単な説明】
【図１】本発明の実施形態に係る電子カメラの構成を示すブロック図
【図２】撮影モード別の測光方式を説明するために用いた図
【図３】本例のカメラにおける顔抽出処理に関係する要部ブロック図
【図４】肌色テーブル決定のシーケンスを示すフローチャート
【図５】光源種の色分布の範囲を示す検出枠を示す図
【図６】肌色テーブルの選択に利用される光源の確度を定めた図表
【図７】光源種別ごとに設定された肌色テーブル（Ａランク時）を例示した図
【図８】昼白色蛍光灯のＢランク時に選択される肌色テーブルの例を示す図
【図９】電球（タングステン）のＢランク時に選択される肌色テーブルの例を示す図
【図１０】顔抽出のシーケンスを示すフローチャート
【図１１】肌色抽出エリア（肌色テーブル）と彩度分割の例を示す図
【図１２】肌色検出された領域を更に彩度によって区分けした例を示す図
【図１３】顔領域候補の形状から縦横比を求める方法を説明するために用いた図
【符号の説明】
１０…カメラ、１４…ＣＰＵ、２４…ＥＥＰＲＯＭ、４２…撮影レンズ、４４…ＣＣＤ、７０…積算回路、７２…ホワイトバランス回路、７４…積算回路、７６…ホワイトバランス回路、７８…同時化回路、９０…昼白色蛍光灯Ｂランクの肌色テーブル、９１…昼白色蛍光灯Ａランクの肌色テーブル、９２…晴れの肌色テーブル、９４…電球Ｂランクの肌色テーブル、９５…電球Ａランクの肌色テーブル

Claims

画像内から人物の顔に相当する領域を抽出する方法であって、
画像データに基づいて撮影時の光源を判定する光源判定工程と、
１画面を複数のエリアに分割し、分割エリアごとに画像データを積算して得た積算値に基づいて重み付け加算を行うことにより被写体輝度を検出する被写体輝度検出工程と、
予め光源種ごとに被写体輝度のしきい値が設定され、光源種ごとに被写体輝度の情報から前記しきい値に応じてその光源の確度がランク分けされており、前記被写体輝度検出工程により検出した被写体輝度と前記光源判定工程で判定した光源に対応して定められている前記しきい値との比較から前記光源判定工程による光源判定の確度のランクを求める確度決定工程と、
予め肌色検出に必要な肌色の色相範囲を定める肌色条件が光源種と光源判別の確度のランクとに対応して複数用意され、前記光源判定工程から得られた光源情報及び前記確度決定工程から得られた確度のランクを示す情報に応じて前記複数の肌色条件の中から該当する肌色条件を設定する肌色条件設定工程と、
前記肌色条件設定工程で設定された肌色条件に従って画像内から肌色の色相を有する領域を検出する肌色領域検出工程と、
を含むことを特徴とする顔領域抽出方法。
前記予め用意された複数の肌色条件のうち同じ光源情報に対しては確度が高いほど肌色の色相範囲が小さく設定されていることを特徴とする請求項１記載の顔領域抽出方法。
前記肌色領域検出工程は、前記肌色条件に基づいて検出される肌色部分を更に彩度によって分割する彩度分割工程を含むことを特徴とする請求項１又は２記載の顔領域抽出方法。
前記彩度分割工程で分割された彩度別の肌色領域の形状に基づいて顔領域を決定する顔領域決定工程を含むことを特徴とする請求項３記載の顔領域抽出方法。
画像内から人物の顔に相当する領域を抽出する装置であって、
画像データに基づいて撮影時の光源を判定する光源判定手段と、
１画面を複数のエリアに分割し、分割エリアごとに画像データを積算して得た積算値に基づいて重み付け加算を行うことにより被写体輝度を検出する被写体輝度検出手段と、
予め光源種ごとに被写体輝度のしきい値が設定され、光源種ごとに被写体輝度の情報から前記しきい値に応じてその光源の確度がランク分けされており、前記被写体輝度検出手段により検出した被写体輝度と前記光源判定手段で判定した光源に対応して定められている前記しきい値との比較から前記光源判定手段による光源判定の確度のランクを求める確度決定手段と、
予め肌色検出に必要な肌色の色相範囲を定める肌色条件が光源種と光源判別の確度のランクとに対応して複数用意され、前記光源判定手段から得られた光源情報及び前記確度決定手段から得られた確度のランクを示す情報に応じて前記複数の肌色条件の中から該当する肌色条件を設定する肌色条件設定手段と、
前記肌色条件設定手段で設定された肌色条件に従って画像内から肌色の色相を有する領域を検出する肌色領域検出手段と、
を含むことを特徴とする顔領域抽出装置。