JP2004040462A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2004040462A
JP2004040462A JP2002194610A JP2002194610A JP2004040462A JP 2004040462 A JP2004040462 A JP 2004040462A JP 2002194610 A JP2002194610 A JP 2002194610A JP 2002194610 A JP2002194610 A JP 2002194610A JP 2004040462 A JP2004040462 A JP 2004040462A
Authority
JP
Japan
Prior art keywords
image
subject
processing
main subject
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002194610A
Other languages
English (en)
Other versions
JP4039147B2 (ja
Inventor
Naotaka Kishida
岸田 直高
Yoshihiro Hara
原 吉宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Minolta Co Ltd
Original Assignee
Minolta Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Minolta Co Ltd filed Critical Minolta Co Ltd
Priority to JP2002194610A priority Critical patent/JP4039147B2/ja
Publication of JP2004040462A publication Critical patent/JP2004040462A/ja
Application granted granted Critical
Publication of JP4039147B2 publication Critical patent/JP4039147B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Processing Of Color Television Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】画像から主被写体を精度良く抽出できる撮像装置を提供する。
【解決手段】撮像装置では、画像に含まれる肌色を検出して人物(主被写体)を抽出する。この人物検出では、色空間において人物検出の基準とする肌色検出領域を設定する。ここでは、適正なホワイトバランス(WB)ゲイン値の場合、デフォルトの領域RHに肌色検出領域を設定する。一方、WBゲイン値が過剰となってリミッタ制限が施された場合には、例えば領域RHをシフトした領域RHsに肌色検出領域をシフトする。これにより、リミッタ制限によって赤みなどが残る画像に対しても、主被写体を精度良く抽出できる。
【選択図】    図9

Description

【0001】
【発明の属する技術分野】
本発明は、固有色が表れる特定被写体を含む画像において固有色を検出することにより特定被写体を抽出する撮像装置に関する。
【0002】
【従来の技術】
デジタルカメラ(撮像装置)においては、画像に含まれる肌色を検出して人物(主被写体)を抽出する技術が提案されている。かかる人物抽出技術では、高精度に人物像の検出を行うことを主眼としているため、対象となる画像がどのような状態の画像であっても、人物像を検出するために一定の処理が行われる。
【0003】
【発明が解決しようとする課題】
しかしながら、上述したデジタルカメラでは、WB(ホワイトバランス)処理が適正に行われていない場合には、色かぶりなどの影響により実際の人物の肌色が画像に再現されないため、正確な人物抽出が困難である。また、夕景やタングステン光などの場合には、一般に赤みを残すWB処理を行うため、正確な人物検知が行えない。
【0004】
また、上述したデジタルカメラでは、露出制御が適正に行われていない場合には、露出オーバーやアンダーなどの影響により画像で色情報が失われるため、正確な人物抽出が困難である。
【0005】
本発明は、上記課題に鑑みてなされたものであり、画像から主被写体を精度良く抽出できる撮像装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
上記の課題を解決するため、請求項1の発明は、撮像装置であって、(a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、(b)前記画像に係るホワイトバランス情報を取得する取得手段とを備え、前記抽出手段は、(a−1)前記ホワイトバランス情報に応じて、前記固有色の検出方法を変更する変更手段を有する。
【0007】
また、請求項2の発明は、撮像装置であって、(a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、(b)前記画像に係るホワイトバランス情報を取得する取得手段とを備え、前記抽出手段は、(a−1)前記ホワイトバランス情報に応じて、前記固有色の検出を実行するか否かを決定する決定手段とを有する。
【0008】
また、請求項3の発明は、撮像装置であって、(a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、(b)ホワイトバランス処理に係る処理パラメータを設定する設定手段と、(c)前記処理パラメータに基づき、前記画像に対して前記ホワイトバランス処理を行う処理手段とを備え、前記設定手段は、(b−1)前記画像に基づき第1パラメータを求める手段と、(b−2)前記第1パラメータが所定範囲内である場合には、前記第1パラメータを前記処理パラメータとして設定する手段と、(b−3)前記第1パラメータが前記所定範囲から外れる場合には、前記第1パラメータと異なる第2パラメータを前記処理パラメータとして設定する手段と、を有するとともに、前記抽出手段は、(a−1)前記第2パラメータに基づき前記画像に前記ホワイトバランス処理が施される場合には、前記第1パラメータに基づき前記固有色の検出を行う手段を有する。
【0009】
また、請求項4の発明は、撮像装置であって、(a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、(b)前記画像に係る輝度情報を取得する取得手段とを備え、前記抽出手段は、(a−1)所定の色空間において前記固有色に対応する対応領域を設定する設定手段と、(a−2)前記対応領域に基づき前記画像から前記固有色の検出を行う手段とを有するとともに、前記設定手段は、前記輝度情報に応じて、前記所定の色空間で前記対応領域を変更する変更手段を有する。
【0010】
また、請求項5の発明は、請求項4の発明に係る撮像装置において、(c)前記画像に係るホワイトバランス情報を取得する手段をさらに備え、前記変更手段は、前記ホワイトバランス情報に応じて、前記所定の色空間で前記対応領域を変更する手段を有する。
【0011】
【発明の実施の形態】
<第1実施形態>
<デジタルカメラ1の要部構成>
図1は、本発明の第1実施形態に係る撮影装置の一例としてのデジタルカメラ1Aを示す斜視図である。図1に示すように、デジタルカメラ1Aの前面側には、撮影レンズ11とファインダ窓2とが設けられている。撮影レンズ11の内側には撮影レンズ11を介して入射する被写体像を光電変換して画像データ(画素ごとの画素データの配列からなるデータ)を生成するためのCCD撮像素子30が設けられている。
【0012】
撮影レンズ11には、光軸方向に沿って移動可能なフォーカシングレンズが含まれており、フォーカシングレンズを駆動することにより、CCD撮像素子30に結像される画像の合焦状態を可変することができるように構成されている。
【0013】
また、デジタルカメラ1Aの上面側には、シャッタボタン8と、カメラ状態表示器13と、設定キー14とが配置されている。シャッタボタン8は被写体の撮影を行うときにユーザが押し込み操作するボタンであり、半押し状態と全押し状態との2段階を検知することができるように構成される。カメラ状態表示器13は、例えばセグメント表示タイプの液晶表示器によって構成され、デジタルカメラ1Aにおける現在の設定内容等をユーザに示すために設けられている。また、設定キー14は、被写体に応じた撮影モードの選択設定等を行うためのキースイッチである。
【0014】
また、デジタルカメラ1Aの側面部には本撮影動作によって生成される画像データを記録するための記録メディア9を装着する装着部15が形成されており、メモリカード等のような交換可能な記録メディア9を装着することができる。
【0015】
なお、図1における図示は省略するが、デジタルカメラ1Aの背面側には、CCD撮像素子30で撮影された画像等を表示するための液晶表示部が設けられる。
【0016】
図2は、デジタルカメラ1Aの内部構成を示すブロック図である。なお、図2において実線矢印は制御信号の流れを示しており、斜線地矢印は画像信号の流れを示している。
【0017】
図2に示すように、デジタルカメラ1Aは、被写体を撮影する際の撮影機能を実現する撮影機能部20と、合焦制御時に主被写体(特定被写体)を検出してその主被写体が合焦状態となるような制御を行う主被写体合焦制御部40と、撮影レンズ11に含まれるフォーカシングレンズ12を駆動してCCD撮像素子30に結像される画像の合焦状態を変更するレンズ駆動部50と、上述のシャッタボタン8及び設定キー14を含む操作部16と、操作部16の操作内容に応じて撮影機能部20及び主被写体合焦制御部40を制御する全体制御部18とを備えて構成される。
【0018】
撮影機能部20は、撮影レンズ11、CCD撮像素子30、CCD撮像素子30からの画像データを一時的に格納するための画像メモリ31、画像メモリ31から得られる画像データに対して画像圧縮等の所定の画像処理を行う画像処理部32、画像処理部32において画像表示用の画像処理が施された表示用画像を表示する液晶表示部33、及び、画像処理部32において画像記録用の画像処理が施された撮影画像を記録する記録メディア9を備えて構成される。
【0019】
撮影機能部20は、全体制御部18の制御によって、本撮影前にライブビュー画像を液晶表示部33に表示させるためのライブビュー動作と、シャッタボタン8が全押しされたときに記録メディア9に記録するための画像撮影を行う本撮影動作とを行うように構成される。また、液晶表示部33がオフ状態であったとしても、少なくとも合焦制御時にはCCD撮像素子30による撮影動作が行われる。
【0020】
また、主被写体合焦制御部40は、画像全体における合焦状態を評価するための合焦評価領域を設定する合焦評価領域設定部41、画像メモリ31から画像データを取り込み、合焦評価領域設定部41から指定される合焦評価領域の部分画像データから合焦状態を評価するための評価値を求める合焦評価部42、合焦評価部42で求められる評価値に基づいてレンズ駆動部50に駆動信号を与え、合焦評価領域の被写体像を合焦状態に導く合焦制御部43、ホワイトバランス(WB)ゲインに応じて色空間において肌色領域を設定する肌色領域設定部44、及び、画像メモリ31から画像データを取り込み、肌色領域設定部44で設定される色空間の肌色検出領域に基づいて主被写体(人物)の抽出処理を行う被写体抽出部45を備えて構成される。
【0021】
全体制御部18は、例えばシャッタボタン8が半押し状態にされたときに主被写体が適切な合焦状態となるように主被写体合焦制御部40を機能させ、全押し状態にされたときに撮影機能部20において本撮影動作を行うように制御する。また、全体制御部18は本撮影前にはライブビュー動作として撮影機能部20において逐次画像撮影を行わせ、逐次更新される画像を液晶表示部33に表示させたり、主被写体合焦制御部40に与えるように制御する。
【0022】
レンズ駆動部50は、合焦制御動作時に合焦制御部43から与えられる駆動信号に基づいてフォーカシングレンズ12を遠側から近側に向けて所定ピッチで移動させ、CCD撮像素子30に結像される画像の合焦状態を変化させる。そして、主被写体合焦制御部40において主被写体が合焦状態となるレンズ位置(合焦位置)が特定され、合焦制御部43よりそのレンズ位置が指定された場合には、レンズ駆動部50は、その指定されたレンズ位置にフォーカシングレンズ12を移動させて主被写体が合焦した状態の画像をCCD撮像素子30に結像させる。
【0023】
図3は、デジタルカメラ1Aに予め設定される合焦評価領域の初期状態を示す図である。図3に示すように、合焦評価領域設定部41には、合焦評価領域の初期状態として、画像メモリ31から取得する画像G1のほぼ中央部分に合焦評価領域FR1が設定されており、主被写体合焦制御部40が機能して最初の合焦評価を行う際には、合焦評価領域設定部41は、図3に示す合焦評価領域FR1の位置及びサイズを合焦評価部42に指示する。
【0024】
合焦評価部42は、画像メモリ31から画像G1を取得し、そのうちから合焦評価領域FR1についての画像成分を抽出する。そして、合焦評価領域FR1の画像成分の合焦状態を評価するための評価値を求める。評価値の算出方法には、いくつかの方法がある。例えば、第1の方法として、合焦評価領域FR1に含まれる画像成分をバンドパスフィルタに通し、それによって抽出される画像信号の高周波成分の強度を評価値とする方法があり、また、第2の方法として、合焦評価領域FR1に含まれる画像成分の隣接画素間での輝度値の差分値を求め、その差分値を合焦評価領域FR1内で累積した値を評価値とする方法がある。また、第3の方法として、合焦評価領域FR1に含まれる画像成分に対して微分フィルタ等を用いたエッジ抽出処理を施し、その結果抽出されるエッジの幅(ぼけ幅)を評価値とする方法もある。
【0025】
第1及び第2の方法は、被写体を撮影した場合、画像がぼけている状態では高周波成分のレベルは小さく、また隣接画素間の輝度差の累積値も小さなものとなるのに対し、焦点が合ってくる(合焦状態に近づく)にしたがって高周波成分のレベルは大きく、また隣接画素間の輝度差の累積値も大きなものとなることを検出する方法である。
【0026】
このため、フォーカシングレンズ12を遠側から近側に次第に移動させた場合、第1及び第2の方法で得られる評価値は、図4に示すように変化する。フォーカシングレンズ12を移動させつつ、各レンズ位置で撮影された画像から評価値を求めると、図4に示すように評価値が変化し、レンズ位置PXで評価値が最大値を示す。このため、フォーカシングレンズ12をレンズ位置PXに移動させれば、合焦評価領域FR1に含まれる画像成分が合焦状態になると判明し、合焦制御部43がフォーカシングレンズ12をレンズ位置PXに移動させて合焦状態を実現する。
【0027】
一方、第3の方法は、被写体を撮影した場合、画像がぼけている状態ではエッジ幅は大きくなるのに対し、焦点が合ってくるにしたがってエッジ幅が小さくなることを検出する方法である。このため、フォーカシングレンズ12を遠側から近側に次第に移動させた場合、第3の方法で得られる評価値は、合焦位置で最小値を示すこととなり、合焦制御部43がその最小値を示すレンズ位置にフォーカシングレンズ12を移動させて合焦状態を実現する。
【0028】
なお、合焦評価部42において適用される評価値の算出方法は、上記第1ないし第3の方法のいずれを採用してもよく、またその他の算出方法を採用してもよい。
【0029】
ところで、合焦評価領域FR1が画像G1に対して常に固定された領域に設定されると、上述したようにその合焦評価領域FR1中にユーザの意図する主被写体が含まれていない場合には、ユーザの意図とは異なった領域で焦点検出が行われることとなり、その結果ユーザが撮影したかった主被写体がぼけた画像で撮影される。
【0030】
そのため、本実施形態のデジタルカメラ1Aでは、被写体抽出部45が画像メモリ31から画像を取得してその画像のうちから主被写体を抽出する処理を行う。そして、合焦評価領域設定部41が主被写体であると判断された画像部分に合焦評価領域を変更設定し、合焦評価部42はその主被写体が含まれる合焦評価領域について評価値の算出を行う。すなわち、合焦評価領域が、初期状態の領域から主被写体として認識された画像領域に修正され、その主被写体の被写体像が合焦状態となるように合焦制御が行われる。
【0031】
これにより、本撮影動作が行われると、主被写体が合焦状態となった適切な画像が撮影されることになる。
【0032】
被写体抽出部45においては、肌色領域設定部44で設定された色空間の肌色領域に基づいて、画像の肌色成分を抽出してその肌色成分が分布する領域を主被写体領域として認識するような被写体抽出処理が行われる。
【0033】
<デジタルカメラ1Aの処理>
以下、デジタルカメラ1Aの処理手順について説明する。図5ないし図7は、デジタルカメラ1Aの処理手順を示すフローチャートであり、特に図5及び図6はシャッタボタン8が半押し状態とされてから本撮影動作が行われるまでの全体的な処理手順を示しており、また、図7は、被写体抽出処理の詳細な処理手順を示している。
【0034】
まず、ユーザによってシャッタボタン8が半押し状態にされると(ステップS101)、全体制御部18が主被写体合焦制御部40と撮影機能部20とを機能させる。このとき、全体制御部18は主被写体合焦制御部40によってフォーカシングレンズ12を最も遠側に移動させるとともに、撮影機能部20を制御してフォーカシングレンズ12が最も遠側に移動した状態で画像撮影を行わせる。
【0035】
そして、主被写体合焦制御部40は画像メモリ31に格納された画像を取り込み(ステップS102)、評価値の算出処理を行う(ステップS103)。このとき、合焦評価領域設定部41は、画像G1の中央部分に予め設定された初期状態の合焦評価領域FR1を評価値算出対象の合焦評価領域とすべきことを合焦評価部42に対して指示する。合焦評価部42では、ほぼ画面中央に設定される合焦評価領域FR1(図3参照)に含まれる画像成分に基づいて評価値の算出が行われ、算出された評価値は合焦制御部43に与えられる。
【0036】
そして肌色領域設定部44及び被写体抽出部45が機能し、被写体抽出処理が行われる(ステップS104)。
【0037】
図7のフローチャートを参照する。被写体抽出処理(ステップS104)に進むと、まず、肌色領域設定部44は、全体制御部18から、ホワイトバランス情報であるWBゲイン値を取得する(ステップS201)。
【0038】
WBゲイン値とは、白い物体が白色に再現されるように画像を調整するために設定される、G(緑)色成分の画像信号に対するR(赤)およびB(青)色成分の画像信号のレベル比である。また、本実施形態のデジタルカメラ1Aを含めて一般には、特殊な光源色下で被写体(例えば、夕景やタングステン光下の赤味がかった被写体)で過度に色補正され色再現性が損なわれないよう、RおよびBの色成分に関するWBゲイン値に一定の制限(以下では「リミッタ制限」という)が施される。このリミッタ制限では、画像から算出されたWBゲイン値が所定の閾値を超過した場合には、例えばこの所定の閾値と、画像から全体制御部18で算出されたWBゲイン値(第1パラメータ:以下では「制限前WBゲイン」という)との平均値にWBゲイン値(第2パラメータ:以下では「制限WBゲイン」という)が設定される。なお、リミッタ制限では、算出されたWBゲイン値が所定の閾値を超過した場合には、所定の閾値にWBゲイン値を制限しても良い。
【0039】
次に、ステップS201で取得したWBゲイン値が、撮影画像に基づき肌色検出可能なWBゲイン値であるかを判定する(ステップS202)。これは、人物(主被写体)に表れる固有色である肌色を利用した主被写体検出において、不適正なWBゲイン値によるWB処理が行われた画像に基づいては、精度の良い肌色検出が困難であり、また不適切なWB処理が施された画像から強引に主被写体検出を行うと人物でない画像領域を人物と誤認するため、これを除外するための処理となる。すなわち、WB情報に応じて肌色検出を実行するか否かが決定される。この具体的な判定方法について、以下で説明する。
【0040】
WBゲイン値について、画像に基づき算出されたRゲインおよびBゲインをGRおよびGBとし、リミッタ制限により制限された制限Rゲインおよび制限BゲインをGR’およびGB’とすると、以下の式(1)〜(6)の少なくとも一つを満足する場合、つまり各ゲイン値GR、GR’、GB、GB’の相対的関係が所定範囲内となる場合(換言すれば所定条件を満足する場合)には、肌色検出可能でないと判定し、肌色の検出を実行しないで処理を完了する。
【0041】
【数1】
Figure 2004040462
【0042】
ここで、GRB_High、GRB_Low、GR’B’_High、GR’B’_Low、GR_EXCESS、GB_EXCESSは所定の定数である。なお、これらの定数は、例えば太陽光時の標準的なWBゲイン値であるGR=1.67、GB=1.30を考慮して求めるのが好ましい。
【0043】
上記の式(1)および式(2)に示す条件判定の概念を図示すると、図8のようになる。図8の横軸は、GR−GBを示している。ここで、平行斜線部が肌色検出可能で適正な範囲となるが、それ以外については、GRが過剰であったりGBが過剰であるため、不適切な範囲として除外されることとなる。
【0044】
そして、被写体抽出部45で主被写体を検出するために基準とする肌色検出領域を設定する(ステップS203)。すなわち、画像から肌色が表れる主被写体を検出する場合において、色空間において肌色と見なす対応領域(以下では「肌色検出領域」という)を設定する。
【0045】
肌色検出領域とは、画素データのRGB値から輝度の影響を受けない色度u’,v’で表現された「CIE 1976 UCS色度図」の特定領域を指している。ここで、ある画素のRGB値から色度u’,v’を算出する際には、以下の式(7)及び式(8)で算出することができる。
【0046】
【数2】
Figure 2004040462
【0047】
【数3】
Figure 2004040462
【0048】
図9は、「CIE 1976 UCS色度図」の簡略図である。図9において領域RHは予め設定されるデフォルトの肌色検出領域である。すなわち、上記式(7)及び式(8)によって求められる色度u’、v’を次の条件式にあてはめれば各画素が肌色画素であるか否かを判定することができる。
【0049】
【数4】
Figure 2004040462
【0050】
【数5】
Figure 2004040462
【0051】
上記の式(7)によって算出される色度u’が条件式(9)を満たし、かつ、式(8)によって算出される色度v’が条件式(10)を満たす場合には、当該画素は肌色画素であることが判明する。
【0052】
しかし、デフォルトの肌色検出領域RHを使用するだけでは、例えばリミッタ制限によって画像が赤気味である場合に、正確な肌色検出が困難である。このような場合には、以下で説明するように、肌色検出領域を赤色側にシフトさせ、肌色の検出方法を変更することとする。
【0053】
図10は、肌色検出領域のシフトを説明するための図である。図10の横軸は、Rゲイン(GR)を示しており、縦軸は色度図のu’成分を示している。また、図中の折れ線Frは、上記のu’_minの値を表している。
【0054】
夕景やタングステン光などの赤みを残すリミッタ制御が行われると、算出された制限前WBゲイン値(GR)に代わり制限WBゲイン値(GR’)でWB処理が行われる。
【0055】
そこで、このように赤みを残すように制限WBゲインが設定される場合、すなわちリミッタ制限が行われるGR≧thdの場合には、直線Fr2に示すようにGRの値に応じてu’_minの値を増加させる。例えば、閾値thdより大きいGR1の場合にはu’_min=0.23となる。一方、リミッタ制限が行われていないGR<thdの場合には、直線Fr1に示すように、デフォルトのu’_min=0.22を使用する。また、u’_maxについても同様に、例えば閾値thdより大きいGR1の場合にはu’_max=0.28に変更する。
【0056】
上記のGR1の場合には、u’_minが0.23に、u’_maxが0.28にシフトすることとなるが、これにより変更された肌色検出領域RHsを図9に示す。このように、ホワイトバランス情報に応じて色空間で肌色検出領域を変更するため、精度の良い人物検出が可能となる。
【0057】
次に、ステップS204に進み、被写体抽出部45は肌色領域設定部44で設定された肌色領域に基づき肌色画素を抽出する肌色画素抽出処理を行う。換言すれば、この肌色画素抽出処理は色判定処理を行うことである。
【0058】
具体的には、画像の全画素に関して、図9に示すUCS色度図を利用して肌色画素を特定する。ここで、リミッタ制限がない場合には、領域RHに基づき肌色画素が検出されるとともに、リミッタ制限がある場合には、デフォルトの領域RHをシフトした領域RHsなどに基づき、肌色画素が検出される。
【0059】
このようにUCS色度図を利用して肌色画素を特定することにより、輝度の影響を受けることがなく、正確に肌色画素の特定を行うことが可能になるとともに、RGB値から色度u’,v’への変換が比較的簡単な演算であるため、効率的に演算処理を行うことも可能である。
【0060】
なお、この肌色画素抽出では、肌色と判定された画素に対して、さらに輝度の判定条件を付加しても良い。具体的には、次の式(11)で算出される輝度レベルyが、式(12)で示す条件を満足する画素のみ肌色画素と判定する。
【0061】
【数6】
Figure 2004040462
【0062】
これにより、実際の被写体で肌色となっていない箇所が、高輝度や低輝度のために肌色と判定されるのを防止できる。
【0063】
次に、ステップS205に進み、被写体抽出部45は肌色ブロック抽出処理を行う。具体的には、図11に示すように、撮影画像においてn×n画素(nは自然数)の集合を1のブロックBLとし、このブロックBLを構成する画素群のうち肌色画素が所定割合以上含まれているブロックBLを、肌色ブロックとして特定する。これに対し、ブロックBLの中に含まれる肌色画素数が所定割合未満である場合には、そのブロックBLは肌色ブロックとしては抽出されず、主被写体を構成するものでないと判断される。
【0064】
このように肌色ブロックを抽出し、以後の処理をブロック単位で実行していくことにより、画素単位で処理を進めていく場合に比べて処理速度の高速化を図ることができる。特にデジタルカメラ1Aの場合にはシャッタボタン8が半押し状態とされると、シャッタチャンスを逃さないためにも迅速に主被写体を合焦状態に導くことが求められるため、上記のようなブロック単位ごとの処理とすることは重要な意義を有する。また同時に、所定割合の肌色画素が存在するブロックを肌色ブロックとするため、肌色ブロックの信頼性を高めると同時に、最終的には主被写体抽出の信頼性を高めることにもなる。
【0065】
次に、ステップS206に進み、被写体抽出部45は肌色ブロックとして特定されたブロックのグループ化処理を行う。グループ化とは、縦方向又は横方向に連続して分布する肌色ブロックを連結して肌色ブロックの集合体を形成させる処理である。このため、1個の肌色ブロックが他の肌色ブロックに接することなく孤立して存在する場合には、当該肌色ブロックはグループ化処理によって肌色ブロックの集合体形成から排除される。換言すれば、このグループ化処理により、主被写体としてありえないような小さな肌色ブロックは、主被写体を構成しないものとして取り扱われる。
【0066】
また、ここでは、グループ化処理によって形成される肌色ブロックの集合体のグループ情報も生成される。グループ情報とは、肌色ブロックの集合体ごとに生成され、集合体を構成する縦方向及び横方向のブロック数とその集合体の重心位置とを含む情報である。このグループ情報は、後に行われる形状判定処理(ステップS207)及び顔の特定処理(ステップS208)において用いられる。
【0067】
次に、ステップS207に進み、被写体抽出部45はステップS206のグループ化処理によって形成された肌色ブロック集合体の形状判定処理を行う。一般に、画像から肌色グループ集合体を求めると、人物の肌部分だけが抽出される訳ではなく、事実上肌色を示す壁や樹木肌等の人物の肌以外の物体も肌色グループ集合体を形成し得る。また人物の手や足も肌色グループ集合体を形成し得る。そこで、本実施形態では、被写体抽出部45においてさらに形状判定処理を行うことで、人物の顔形状に近い形状分布をしている肌色グループ集合体を主被写体として認識するように実現されている。
【0068】
ここでの形状判定処理は、所定の縦横比の範囲内に肌色ブロックの集合体が含まれるか否かを判断することにより行われる。具体的には、ステップS206で生成されたグループ情報に含まれる縦方向及び横方向のブロック数を取得し、肌色ブロック集合体の縦方向及び横方向の縦横比(K:1)を求める。そして、例えばK≧2の関係が成立すれば、当該肌色ブロック集合体は人物の顔部分を撮影した画像成分であると判断する。
【0069】
なお、肌色ブロック集合体の最大縦横比の交差位置や、肌色ブロック集合体の重心位置などの情報によって、人物の顔部分を判断しても良い。
【0070】
図12は、形状判定処理(ステップS207)において主被写体であると認識される領域を示す図である。なお、図12では、主被写体であると認識される領域を黒塗りで示している。図12に示すように、被写体抽出部45が形状判定処理を行うことにより、人物の顔部分が含まれるブロックが主被写体の領域であるものとして特定されることになる。
【0071】
次に、ステップS208に進み、被写体抽出部45は形状判定処理によって複数の主被写体が特定された場合に、そのうちから一の主被写体を特定するために顔の特定処理、すなわち主被写体の特定処理を行う。被写体抽出部45には予め画面に対する重み付け係数が設定されており、主被写体として特定された肌色ブロック集合体の重心位置に基づいて当該肌色ブロック集合体についての重み付け係数を特定する。
【0072】
図13は、画面に対する重み付け係数の一例を示す図である。図13に示すように画面G5が複数の領域に分割されており、各領域にその領域の重み付け係数が定義されている。そして、肌色ブロック集合体の重心位置が画面G5のどの位置に位置するかを特定し、その特定結果に基づいて重み付け係数を特定する。例えば、図13において、主被写体として特定された黒塗りの肌色ブロック集合体について考えると、その重心位置は図13において位置P1にあるため、重み付け係数は「10」と特定される。そして、被写体抽出部45は、当該肌色ブロック集合体の面積(例えば、肌色ブロック集合体を構成するブロック数)と、特定された重み付け係数の積を算出し、肌色ブロック集合体の主被写体適合値(主被写体らしさを示す値)とする。そして、複数の肌色ブロック集合体のそれぞれについて主被写体適合値を算出すると、各主被写体適合値を比較し、最大値を示す肌色ブロック集合体を主被写体となる人物の顔部分であると認定する。
【0073】
このように、複数の主被写体が特定された場合には、画面の中央寄りに主被写体がフレーミングされるであろうとの前提にたって、画面上の位置に対する重み付け係数を用いて主被写体適合値を求めることにより、一の主被写体を正確に特定することができる。また、小さく写っている物体よりも大きく写っている物体の方が主被写体である可能性が高いため、重み付け係数を用いた計算を行う際には、肌色ブロック集合体の面積を考慮に入れることにより、正確に主被写体を特定することが可能になる。
【0074】
なお、最大値を示す主被写体適合値から所定範囲内の値を示す複数の主被写体適合値を採用してもよい。この場合、主被写体領域として複数の領域が特定されることになるので、いわゆるマルチエリアの合焦制御を適用することになる。
【0075】
以上のようにして主被写体が特定されると、被写体抽出部45は全体制御部18に対して主被写体領域を指示することにより、全体制御部18が液晶表示部33の表示状態を更新し、主被写体領域が液晶表示部33にも表示されることになる(ステップS209)。例えば、特定された主被写体領域を赤線枠で囲むような表示が行われる。これにより、ユーザは、画像のどの部分が主被写体と認識され、合焦制御がなされるかを容易に把握することができる。また、被写体抽出部45は、上記のような処理を行うことによって特定した主被写体領域を合焦評価領域設定部41に指示する。
【0076】
図5のフローチャートに戻り、ステップS104の被写体抽出処理が終了すると、ステップS105に進む。そして合焦評価領域設定部41は合焦評価部42が評価値を算出するための合焦評価領域を被写体抽出部45によって指示された被写体領域に設定変更する。この結果、合焦評価部42において次回の評価値算出が行われる際には、主被写体の画像成分について評価値算出を行うことが可能になる。
【0077】
次に合焦制御部43によって所定ピッチでのフォーカシングレンズ12のレンズ駆動が行われ(ステップS106)、そのレンズ位置での画像取り込みが行われて(ステップS107)、合焦評価部42による評価値算出処理が行われる(ステップS108)。ステップS108において合焦評価部42は、ステップS105の合焦評価領域の変更設定処理で設定された合焦評価領域の画像成分に基づいて評価値を算出する。
【0078】
以後、評価値が最大値(又は最小値)を示すまでステップS106〜S108の処理を繰り返し、評価値が最大値(又は最小値)を示すレンズ位置を特定することができた場合、すなわちステップS109において合焦評価領域の合焦状態が実現された場合に、図6のフローチャートに進む。
【0079】
そして、合焦評価領域の合焦状態が実現された段階で再度被写体抽出処理を実行する(ステップS110)。ここでの被写体抽出処理(ステップS110)も、図7を参照して説明した上記ステップS104の被写体抽出処理と同様である。
【0080】
ただし、ステップS104の段階では、合焦評価領域の画像成分がぼけた状態で主被写体の抽出処理が行われるため、その精度は低い。そのため、合焦評価領域の画像成分がぼけた状態で主被写体の抽出処理が行われ、それによって特定された主被写体領域が合焦状態と判定されたとしても、その合焦評価領域には実際の主被写体が含まれていない可能性がある。
【0081】
そのため、本実施形態ではステップS110において再度被写体抽出処理を行うこととしている。そしてステップS110の段階では、合焦評価領域の画像成分が合焦状態であると判断された状態であるため、主被写体領域を高精度に特定することが可能である。
【0082】
そして被写体抽出処理(ステップS110)が行われて、信頼性の高い主被写体領域が特定されると、被写体抽出部45は前回同様に合焦評価領域設定部41に対して特定された主被写体領域を指示する。
【0083】
これにより、合焦評価領域設定部41は、ステップS108において採用されていた合焦評価領域と、ステップS110の被写体抽出処理において特定された被写体領域とが一致するか否かを判断する(ステップS111)。つまり、この処理は、ステップS106〜S108の繰り返し処理で評価対象とされていた合焦評価領域が正確な主被写体領域であったのかどうかを確認するための処理である。その結果、合焦評価領域と、特定された主被写体領域とが一致しない場合には、ステップS105(図5)に戻り、合焦評価領域設定部41は合焦評価領域を、ステップS110の被写体抽出処理で特定された主被写体領域に設定変更する。よって、合焦評価部42において次回の評価値算出が行われる際には、信頼性の高い主被写体領域の画像成分について評価値算出を行うことが可能になり、ステップS106以降の処理が行われる。その一方、合焦評価領域と、特定された主被写体領域とが一致する場合には、ステップS112(図6)に進む。
【0084】
合焦評価領域設定部41が、合焦評価領域と、特定された主被写体領域とが一致すると判断した場合には、全体制御部18に対して本撮影動作の許可を行う(ステップS112)。
【0085】
全体制御部18は、本撮影動作の許可が与えられると、まず、ユーザによってシャッタボタン8が全押し状態とされたか否かを判断する。デジタルカメラ1Aではシャッタボタン8の全押し状態が本撮影動作の条件となっているため、シャッタボタン8が全押し状態でない場合には、フレーミングが変更された場合に対処するために、ステップS102(図5)に戻ってシャッタボタン8が半押し状態とされた以降の処理を繰り返す。
【0086】
また、シャッタボタン8が全押し状態とされた場合には、全体制御部18が撮影機能部20を制御して本撮影動作を行い(ステップS114)、画像処理部32において所定の画像処理(ステップS115)を行った後、記録メディア9への記録処理(ステップS116)が行われる。
【0087】
以上のデジタルカメラ1Aの動作により、WBゲイン値に応じて肌色検出を行わなかったり、色空間における肌色検出領域を変更するため、画像から主被写体を精度良く抽出できる。
【0088】
なお、上記のステップS202における肌色検出可能か否かの判定については、以下で説明するように輝度情報を利用して判定しても良い。
【0089】
WB処理は、一般に太陽光下で高性能を発揮できるが、室内光下では様々な光源が存在するため信頼性が低下する傾向にある。すなわち、太陽光下の可能性が大きい高輝度の場合には、WB処理の信頼性が高く、室内光下の可能性が大きい低輝度の場合には、WB処理の信頼性が低くなると考えられる。そこで、上記の式(11)に基づき算出される輝度レベルYが、以下の式(13)〜(18)を満足する場合には、肌色検出可能でないと判定し、肌色検出を実行しない。
【0090】
【数7】
Figure 2004040462
【0091】
ここで、GRB_High、GRB_Low、GR’B’_High、GR’B’_Low、GR_EXCESS、GB_EXCESSは、上記の式(1)〜(6)と同じ値であり、nは所定の定数である。
【0092】
また、上記のステップS203における肌色検出領域の設定については、図14のフローチャートに示す処理手順を行うようにしても良い。以下で本処理を説明する。
【0093】
まず、GBゲイン値が所定値αより大きいかを判定する(ステップS301)。ここで、GBゲイン値が所定値αより大きい場合には、ステップS302に進み、大きくない場合には、ステップS303に進む。
【0094】
ステップS302では、GRゲインが所定値βより大きいかを判定する。ここで、GRゲイン値が所定値βより大きい場合には、制限前WBゲイン値(GB、GR)と制限WBゲイン値(GB’、GR’)との差ΔGB、ΔGRを算出する(ステップS304)。一方、GRゲイン値が所定値β以下である場合には、制限前GBゲイン値(GB)と制限GBゲイン値(GB’)との差ΔGBを算出するとともに、ΔGRに0を代入する(ステップS305)。
【0095】
ステップS303でも、GRゲインが所定値βより大きいかを判定する。ここで、GRゲイン値が所定値βより大きい場合には、制限前GRゲイン値(GR)と制限GRゲイン値(GR’)との差ΔGRを算出するとともにΔGBに0を代入する(ステップS306)。一方、GRゲイン値が所定値β以下である場合には、ΔGBおよびΔGRに0を代入する(ステップS307)。
【0096】
次に、ステップS304〜S307で設定されたΔGBをn倍した値をGBから減算してGB’’を算出するとともに、ΔGRをn倍した値をGRから減算してGR’’を算出する(ステップS308)。そして、ステップS308で算出されたGB’’、GR’’に基づき、色空間での肌色検出領域を設定する。
【0097】
以上の処理により、ステップS304を経てステップS308で算出されたGB’’とGBおよびGB’との関係は、例えば図15に示すようになる。このように、制限前WBゲイン値と制限WBゲイン値との中間的な値GB’’、GR’’に基づき肌色検出領域を設定できるため、肌色検出領域を適切に設定できる。
【0098】
<第2実施形態>
本発明の第2実施形態に係るデジタルカメラ1Bは、図1および図2に示す第1実施形態のデジタルカメラ1Aと類似の構成となっているが、肌色領域設定部44と被写体抽出部45との構成が相違している。
【0099】
すなわち、肌色領域設定部44および被写体抽出部45は、以下で説明する被写体抽出処理を行うための機能構成を具備している。
【0100】
<デジタルカメラ1Bの処理>
デジタルカメラ1Bの処理については、図5および図6のフローチャートに示す処理と類似であるが、ステップS104およびステップS110の被写体抽出処理が異なっている。この被写体抽出処理を以下で説明する。
【0101】
図16は、デジタルカメラ1Bの被写体抽出処理を示すフローチャートである。
【0102】
まず、肌色領域設定部44は、全体制御部18から輝度情報を取得する(ステップS401)。この輝度情報とは、上記の式(11)に基づきRGBの各画素値から算出される輝度の情報である。なお、ステップS401では、画像のG成分だけに基づく輝度情報を取得しても良い。
【0103】
次に、ステップS401で取得した輝度情報に基づき、肌色検出可能な輝度であるかを判定する(ステップS402)。ライブビュー撮影では、動画的態様で画像を取得するため、最大露光時間が決まっている。したがって、被写体の照度が低い場合には、露光時間に限度があるため取得された画像の輝度が低くなり、肌色検出が精度良く行えない。そこで、ステップS402では、所定の輝度レベルより低輝度の画像を、肌色検出不可能な画像として除外するための処理が行われる。したがって、この場合には肌色検出は行わない。
【0104】
そして、図7のステップS203と同様に、被写体抽出部45で主被写体を検出するために基準とする肌色検出領域を設定する(ステップS403)。この肌色検出領域の設定では、WBゲイン値を利用する第1実施形態と異なり輝度レベルを利用して行われる。すなわち、露出が適正の場合には、上記の式(9)および式(10)に示すデフォルトの肌色検出領域を設定するが、露出がオーバー(高輝度)気味の場合には、肌色検出領域を白色側にシフトさせる。また、露出がアンダー(低輝度)気味の場合には、肌色検出領域を黒色側にシフトさせる。この処理について、以下で具体的に説明する。
【0105】
図17は、肌色検出領域のシフトを説明するための図である。図17の横軸は、輝度レベルを示しており、縦軸は色度図のv’成分を示している。また、図中の折れ線Fqは、上記式(10)に示すv’_minの値を表している。
【0106】
高輝度、具体的には閾値thd1より輝度レベルが大きい場合には、線分Fq2に示すように輝度レベルに応じてv’_minの値を増減させる。例えば、閾値thd1より大きい輝度レベルY1の場合にはv’_min=0.48に変更する。また、低輝度、具体的には閾値thd2より輝度レベルが小さい場合には、線分Fq3に示すように輝度レベルに応じてv’_minの値を増減させる。例えば閾値thd2より小さい輝度レベルY2の場合にはv’_min=0.46に変更する。それ以外の場合には、デフォルトのv’_min=0.47を使用する。また、v’_maxについても同様に、輝度レベルY1の場合にはv’_max=0.52に、輝度レベルY2の場合にはv’_max=0.50に変更し、それ以外の場合には、デフォルトのv’_max=0.51を使用する。
【0107】
上記のY1の場合には、v’_minが0.48に、v’_maxが0.52にシフトすることとなるが、これにより変更された肌色検出領域RHaを図18に示す。また、上記のY2の場合には、v’_minが0.46に、v’_maxが0.50にシフトすることとなるが、これにより変更された肌色検出領域RHbを図18に示す。このように、輝度情報に応じて色空間で肌色検出領域を変更するため、精度の良い主被写体検出が可能となる。
【0108】
以降のステップS404〜S409については、図7のステップS204〜S209と同様の処理を行う。
【0109】
以上のデジタルカメラ1Bの動作により、輝度レベルに応じて肌色検出を行わなかったり、色空間における肌色検出領域を変更するため、画像から主被写体を精度良く抽出できる。
【0110】
なお、図16のフローチャートに示す被写体抽出処理においては、図19のフローチャートに示す肌色画素再抽出処理を追加しても良い。この再抽出処理は、図16のステップS404とS405との間に挿入される。以下で、この処理を詳しく説明する。
【0111】
まず、輝度レベルが所定値γより大きいかを判定する(ステップS501)。ここで、輝度レベルが所定値γより大きい場合には、ステップS502に進み、大きくない場合には、ステップS503に進む。
【0112】
ステップS502では、ステップS404で抽出された肌色画素の周辺が白色になっているかを判定する。人物の顔の一部が白飛びしている場合には、肌色から徐々に白色に変化する傾向があり、この変化を検出することで誤判定防止を図る。ここで、白色になっている場合には、露光時間を短縮する(ステップS504)。これにより、輝度を低下させることができる。なお、露光時間を短縮する代わりに、絞りを絞っても良い。
【0113】
ステップS503では、輝度レベルが所定値δより小さいかを判定する(ステップS503)。ここで、輝度レベルが所定値δより小さい場合には、ステップS505に進む。そして、上述した白色と同様の理由により、ステップS404で抽出された肌色画素の周辺が黒色になっているかを判定する(ステップS505)。ここで、黒色になっている場合には、露光時間を延長する(ステップS506)。これにより、輝度を向上させることができる。なお、露光時間を延長する代わりに、絞りを開放しても良い。
【0114】
そして、CCD撮像素子30で取得された画像を再度取り込み(ステップS507)、ステップS404と同様の肌色画素抽出処理を再び行う(ステップS508)。これにより、適正輝度の画像を利用できるため、確実な肌色画素検出を行えることとなる。
【0115】
以上の肌色画素再抽出処理を行うことによって、より信頼性の高い肌色検出が行えることとなる。
【0116】
<第3実施形態>
次に、本発明の第3実施形態に係るデジタルカメラ1Cについて説明する。なお、デジタルカメラ1Cの装置構成については、第1実施形態のデジタルカメラ1Aと同様である(図1、図2参照)。ただし、デジタルカメラ1Cの全体制御部18は、後述する動作を制御するための機能構成となっている点で異なっている。
【0117】
上記のデジタルカメラ1Aでは、合焦制御部43が所定ピッチでフォーカシングレンズ12を段階的に駆動させつつ、合焦評価部42において各レンズ位置での評価値が算出されるが、被写体抽出処理が実行されるのは、フォーカシングレンズ12を段階的に駆動させる前と合焦評価領域が合焦状態に達した後である。そのため、フォーカシングレンズ12を段階的に駆動させる前に実行される被写体抽出処理(ステップS104)によって実際には主被写体と全く異なる被写体が主被写体であると特定されていた場合には、その被写体が含まれる合焦評価領域を合焦状態に導くための動作が無駄になる。
【0118】
このため、本実施形態では、フォーカシングレンズ12を段階的に移動させる最中にも、被写体抽出処理を実行することにより、無駄な動作を省いてさらに効率的に主被写体を正確に合焦状態に導く形態について説明する。
【0119】
図20及び図21は、デジタルカメラ1Cの処理手順を示すフローチャートであり、特にシャッタボタン8が半押し状態とされてから本撮影動作が行われるまでの全体的な処理手順を示している。
【0120】
まず、ユーザによってシャッタボタン8が半押し状態にされると(ステップS601)、全体制御部18が主被写体合焦制御部40と撮影機能部20とを機能させる。
【0121】
そして、合焦制御部43がレンズ駆動部50を制御してフォーカシングレンズ12を最も遠側に移動させる(ステップS602)。なお、ステップS602の処理が次回以降実行される場合には、合焦制御部43がフォーカシングレンズ12を近側方向に所定ピッチ分移動させる制御動作を行うことになる。
【0122】
次に、合焦評価領域の設定処理が行われる(ステップS603)。合焦評価領域設定部41は、被写体抽出部45から主被写体領域が指定されている場合はその指定された主被写体領域を合焦評価領域に設定する。ただし、シャッタボタン8が半押し状態にされてから最初にステップS603の処理が行われる際には、未だ被写体抽出処理(ステップS608)は実行されていない。このため、未だ被写体抽出部45から主被写体領域が指定されていない場合、合焦評価領域設定部41は画像の中央部分に予め設定された初期状態の合焦評価領域FR1(図3参照)を評価値算出対象の合焦評価領域として設定する。これに対し、既に被写体抽出処理が何回か実行されている場合には、合焦評価領域設定部41は前回指定された最新の主被写体領域を評価値算出対象の合焦評価領域として設定する。そして、合焦評価領域設定部41は合焦評価領域を合焦評価部42に対して指示する。
【0123】
そして、全体制御部18はフォーカシングレンズ12が現在のレンズ位置にあるときに撮影機能部20における撮影動作を行わせる。そして、合焦評価部42は画像メモリ31に格納された画像を取り込み(ステップS604)、評価値の算出処理を行う(ステップS605)。このとき、合焦評価部42は、ステップS603において合焦評価領域設定部41から指定された合焦評価領域の画像成分に基づいて評価値の算出を行い、その結果算出された評価値は合焦制御部43に与えられる。
【0124】
そして、肌色領域設定部44は、被写体抽出処理を実行するか否かの判定を行う(ステップS606)。このデジタルカメラ1Cでは、フォーカシングレンズ12を所定ピッチで段階的に移動させる際に、各レンズ位置で被写体抽出処理を実行することができるように構成されるが、所定ピッチでのレンズ駆動ごとに毎回被写体抽出処理を実行するように構成すると、主被写体を合焦状態に導くまでに長時間を要することになる。そのため、このデジタルカメラ1Cの主被写体合焦制御部40は、被写体抽出処理の実行頻度を調整する機能をも備える。
【0125】
主被写体合焦制御部40が被写体抽出処理の実行頻度を調整する方法には、いくつかの方法がある。まず、第1に、所定ピッチでのフォーカシングレンズ12のレンズ駆動が所定回数行われるごとに被写体抽出処理を1回実行する方法がある。これにより、レンズ駆動が行われる度に毎回被写体抽出処理が行われることを回避することができるので、効率的な合焦動作を実現することができる。
【0126】
また、第2に、合焦評価部42で求められる評価値を参酌して合焦評価領域の画像成分が合焦状態に近づくにつれて被写体抽出処理の実行頻度を増加させる方法がある。例えば、評価値が合焦位置で最大値を示す場合には、評価値が第1の閾値未満の場合はレンズ駆動が10回行われるごとに1回被写体抽出処理を実行し、第1の閾値以上第2の閾値未満の場合はレンズ駆動が5回行われるごとに1回被写体抽出処理を実行し、第2の閾値以上の場合はレンズ駆動が2回行われるごとに1回被写体抽出処理を実行するというように、合焦評価部42における評価結果に基づいて被写体抽出処理の実行頻度を調整するのである。このように構成することにより、合焦評価領域の画像成分が合焦状態に近づくにつれて、主被写体を抽出するための処理が増加する。合焦評価領域の画像成分が合焦状態に近い場合には比較的高精度に主被写体の特定が行われるので、この第2の方法は、主被写体を合焦状態に導くためには効果的な方法となる。
【0127】
ただし、主被写体合焦制御部40が被写体抽出処理の実行頻度を調整する方法は、上記第1又は第2の方法に限定されるものではなく、他の方法を採用してもよい。また、主被写体合焦制御部40における処理速度が十分に速い場合には、レンズ駆動後の毎回の画像取り込み時に被写体抽出処理を実行するようにしてもよい。
【0128】
そして、主被写体合焦制御部40がレンズ駆動回数をカウントして被写体抽出処理を実行すると判定した場合には、ステップS608の被写体抽出処理に進む。これに対し、被写体抽出処理を実行しないと判断した場合には、被写体抽出処理(ステップS608)をスキップさせて合焦判定を行う処理、すなわちステップS610(図21のフローチャート)に進むことになる。
【0129】
本実施形態においても、被写体抽出処理(ステップS608)の詳細は、図7に示すフローチャートと同様である。すなわち、WBゲイン値に応じた肌色検出により被写体抽出が行われる。
【0130】
そして、被写体抽出処理(ステップS608)において主被写体の領域が特定されると、その主被写体領域が被写体抽出部45から合焦評価領域設定部41に伝えられる。
【0131】
ステップS609に進み、合焦評価領域設定部41は、それまでの合焦評価領域と、被写体抽出処理によって特定された主被写体領域とを比較し、両者が一致するか否かを判断する。この処理は、それまで評価対象とされていた合焦評価領域が正確な主被写体領域であったのかどうかを確認するための処理である。そして、一致しない場合には、ステップS603に戻り、合焦評価領域設定部41は以後の合焦評価領域を、ステップS608の被写体抽出処理で特定された主被写体領域に設定変更する。よって、合焦評価部42において次回の評価値算出が行われる際には、前回よりも信頼性の高い主被写体領域の画像成分について評価値算出を行うことが可能になる。その一方、合焦評価領域と、特定された主被写体領域とが一致する場合には、ステップS610(図21)に進む。
【0132】
そして、合焦制御部43は、図4に示すような評価値が最大値(又は最小値)を示すレンズ位置PXを特定することができたか否か、すなわち、合焦評価領域の合焦状態が実現されたか否かを判断する。ここで、未だ合焦評価領域の合焦状態が実現されていないと判断された場合には、ステップS602(図20)に戻って所定ピッチでのレンズ駆動、評価値算出処理等を繰り返す。その結果、最終的に合焦評価領域の合焦状態が実現された場合には、ステップS611に進み、全体制御部18に対して本撮影動作の許可を行う。
【0133】
全体制御部18は、本撮影動作の許可が与えられると、まず、ユーザによってシャッタボタン8が全押し状態とされたか否かを判断する(ステップS612)。シャッタボタン8が全押し状態でない場合には、フレーミングが変更された場合に対処するために、ステップS602(図20)に戻ってシャッタボタン8が半押し状態とされた以降の処理を繰り返す。なお、このとき、合焦制御部43は合焦制御を最初から行うことが必要になるので、フォーカシングレンズ12を最も遠側の位置に移動させることになる。
【0134】
これに対し、シャッタボタン8が全押し状態とされた場合には、全体制御部18が撮影機能部20を制御して本撮影動作を行い(ステップS613)、画像処理部32において所定の画像処理(ステップS614)を行った後、記録メディア9への記録処理(ステップS615)が行われる。
【0135】
以上のデジタルカメラ1Cの動作により、シャッタボタン8が半押し状態とされてから本撮影動作が完了するまでの処理手順が終了することで、本撮影動作においては、主被写体が画像のどの部分に存在する場合であっても、その主被写体を合焦状態として撮影することが可能である。
【0136】
そして、デジタルカメラ1Cにおいても、主被写体合焦制御部40が、WBゲイン値に応じて主被写体の抽出処理を行う際の肌色検出領域を設定し、その肌色検出領域に基づいて画像から主被写体の抽出処理を行うように構成されているため、精度良く被写体抽出を行えることとなる。
【0137】
なお、図20のステップS608に示す被写体抽出処理については、図7に示す第1実施形態の処理に限らず、図16の第2実施形態に示す輝度に基づく処理を行っても良い。この場合にも、上記と同様の効果が期待できる。
【0138】
<変形例>
◎上記の各実施形態における肌色検出領域の変更については、WBゲイン値と輝度レベルとを組合わせても良い。この場合、WBゲイン値に応じてUCS色度図のu’(横)方向へのシフトが行われるとともに、輝度レベルに応じてUCS色度図のv’(縦)方向へのシフトが行われる。これにより、デフォルトの肌色検出領域RHから例えば図22に示す領域RHcのように、肌色検出領域が斜め方向にシフトすることとなる。
【0139】
◎上記の第1実施形態において、画像中で無色彩に近い色の画素を検出し、その画素が無色彩となるようにWBゲイン値を設定する場合には、検出される画素が所定数より少ないときに、人物検出を行わないようにしても良い。
【0140】
◎上記の各実施形態における肌色検出領域RH(図9参照)については、四角形の領域として設定されるのは必須でなく、UCS色度図のu’v’空間において例えば台形や楕円形の領域として設定しても良い。
【0141】
◎上記の第1実施形態については、WBゲイン値を参照して肌色検出に適した肌色検出領域を設定するのは必須でなく、WBゲイン値に応じて肌色検出に適したWBゲイン値を再設定しても良い。
【0142】
すなわち、ライブビュー画像とは別に被写体検出専用の画像処理を行い、夕景など赤みを残すリミッタ制御が実行される場合には、例えばリミッタ制限される前の制限前WBゲイン値で再設定する。そして、制限前WBゲイン値に基づくWB処理で生成された画像から被写体検出を行う。これにより、精度の良い被写体検出が可能となる。
【0143】
また、制限WBゲイン値と、制限前WBゲイン値とに基づき肌色検出用のWBゲイン値(例えば平均値)を算出し、WBゲイン値として再設定する。この再設定されたWBゲイン値に基づくWB処理で生成された画像から被写体検出を行う。これにより、上記と同様に、精度の良い主被写体の抽出が可能となる。
【0144】
◎上記の各実施形態のデジタルカメラには、デジタルスチルカメラとデジタルビデオカメラの双方が含まれる。また、撮影装置の一例としてデジタルカメラ1を例示して述べたが、この発明はデジタルカメラ以外の撮影装置に対しても適用することが可能である。
【0145】
◎上記の各実施形態については、主被写体(すなわち特定被写体)が人物の顔部分である場合について述べた。これは、一般的に写真撮影を行う場合、人物を被写体として撮影することが多いことに鑑みたものであるが、主被写体は人物の顔部分であることに限定されるものではない。このため、主被写体を構成する色成分(例えば赤色の衣服)に関する情報をユーザが自由に設定入力することができるようにすれば、ユーザが意図する主被写体を適切に特定することが可能になる。
【0146】
◎上記の各実施形態については、抽出された主被写体をフォーカス制御に利用しているが、抽出された主被写体を露出制御に利用しても良い。
【0147】
◎上述した具体的実施形態には、以下の構成を有する発明が含まれている。
【0148】
(1)ホワイトバランス処理に係る処理パラメータを制限する制限手段と、前記処理パラメータが制限される場合には、所定の色空間で特定被写体の固有色に対応する対応領域を変更する手段とを備えることを特徴とする撮像装置。
【0149】
これにより、被写体抽出の信頼性が向上する。
【0150】
(2)ホワイトバランス処理に係る処理パラメータが所定範囲から外れる場合には、所定の色空間で特定被写体の固有色に対応する対応領域を変更する手段を備えることを特徴とする撮像装置。
【0151】
これにより、主被写体抽出の信頼性が向上する。
【0152】
(3)ホワイトバランス処理に係る処理パラメータを制限する制限手段と、前記処理パラメータが制限される場合には、固有色の検出処理を禁止する手段と、
を備えることを特徴とする撮像装置。
【0153】
これにより、主被写体抽出の信頼性が向上する。
【0154】
(4)ホワイトバランス処理に係る処理パラメータが所定範囲から外れる場合には、固有色の検出を禁止する手段を備えることを特徴とする撮像装置。
【0155】
これにより、主被写体抽出の信頼性が向上する。
【0156】
(5)請求項3の発明において、ホワイトバランス処理に係る処理パラメータを制限する制限手段と、前記処理パラメータが制限される場合で、第2パラメータにより画像にホワイトバランス処理が施される場合には、第1パラメータに基づき固有色の検出を行う手段とを備えることを特徴とする撮像装置。
【0157】
これにより、主被写体抽出の信頼性が向上する。
【0158】
(6)請求項3の発明において、ホワイトバランス処理に係る処理パラメータが所定範囲から外れる場合で、第2パラメータにより画像にホワイトバランス処理が施される場合には、第1パラメータに基づき固有色の検出を行う手段を備えることを特徴とする撮像装置。
【0159】
これにより、主被写体抽出の信頼性が向上する。
【0160】
(7)抽出手段により抽出された特定被写体についてフォーカス制御を行う手段を備えることを特徴とする撮像装置。
【0161】
これにより、適切なフォーカス制御を行える。
【0162】
(8)抽出手段により抽出された特定被写体について露出制御を行う手段を備えることを特徴とする撮像装置。
【0163】
これにより、適切な露出制御を行える。
【0164】
【発明の効果】
以上説明したように、請求項1の発明によれば、ホワイトバランス情報に応じて、特定被写体に表れる固有色の検出方法を変更するため、画像から主被写体を精度良く抽出できる。
【0165】
また、請求項2の発明によれば、ホワイトバランス情報に応じて、特定被写体に表れる固有色の検出を実行するか否かを決定するため、画像から主被写体を精度良く抽出できる。
【0166】
また、請求項3の発明によれば、ホワイトバランス処理に係る第2パラメータにより画像にホワイトバランス処理が施される場合には、第1パラメータに基づき固有色の検出を行うため、画像から主被写体を精度良く抽出できる。
【0167】
また、請求項4および請求項5の発明によれば、輝度情報に応じて所定の色空間で固有色に対応する対応領域を変更し、特定被写体を抽出するため、画像から主被写体を精度良く抽出できる。
【0168】
特に、請求項5の発明においては、ホワイトバランス情報に応じて所定の色空間で対応領域を変更するため、主被写体抽出の信頼性が向上する。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る撮影装置の一例としてのデジタルカメラ1Aを示す斜視図である。
【図2】デジタルカメラ1Aの内部構成を示すブロック図である。
【図3】デジタルカメラ1Aに予め設定される合焦評価領域の初期状態を示す図である。
【図4】レンズ位置に対する評価値変化の一例を示す図である。
【図5】デジタルカメラ1Aの処理手順を示すフローチャートである。
【図6】デジタルカメラ1Aの処理手順を示すフローチャートである。
【図7】被写体抽出処理の詳細な処理手順を示すフローチャートである。
【図8】肌色検出可能なWBゲイン値の範囲を説明するための図である。
【図9】CIE 1976 UCS色度図の簡略図である。
【図10】肌色検出領域のシフトを説明するための図である。
【図11】肌色ブロック抽出処理を説明するための図である。
【図12】形状判定処理において主被写体であると認識される領域を示す図である。
【図13】画面に対する重み付け係数の一例を示す図である。
【図14】肌色検出領域の設定に関する処理手順を示すフローチャートである。
【図15】算出されたGB’’とGBおよびGB’との関係の一例を示す図である。
【図16】本発明の第2実施形態に係るデジタルカメラ1Bの被写体抽出処理を示すフローチャートである。
【図17】肌色検出領域のシフトを説明するための図である。
【図18】肌色検出領域のシフトを説明するための図である。
【図19】被写体再抽出処理の処理手順を示すフローチャートである。
【図20】本発明の第3実施形態に係るデジタルカメラ1Cの処理手順を示すフローチャートである。
【図21】本発明の第3実施形態に係るデジタルカメラ1Cの処理手順を示すフローチャートである。
【図22】本発明の変形例に係る肌色検出領域のシフトを説明するための図である。
【符号の説明】
1A、1B、1C デジタルカメラ(撮像装置)
8 シャッタボタン
11 撮影レンズ
12 フォーカシングレンズ
18 全体制御部
20 撮影機能部
30 CCD撮像素子
31 画像メモリ
40 主被写体合焦制御部
41 合焦評価領域設定部
42 合焦評価部
43 合焦制御部
44 肌色領域設定部
45 被写体抽出部
50 レンズ駆動部
RH、RHa、RHb、RHc、RHs 肌色検出領域

Claims (5)

  1. 撮像装置であって、
    (a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、
    (b)前記画像に係るホワイトバランス情報を取得する取得手段と、
    を備え、
    前記抽出手段は、
    (a−1)前記ホワイトバランス情報に応じて、前記固有色の検出方法を変更する変更手段、
    を有することを特徴とする撮像装置。
  2. 撮像装置であって、
    (a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、
    (b)前記画像に係るホワイトバランス情報を取得する取得手段と、
    を備え、
    前記抽出手段は、
    (a−1)前記ホワイトバランス情報に応じて、前記固有色の検出を実行するか否かを決定する決定手段と、
    を有することを特徴とする撮像装置。
  3. 撮像装置であって、
    (a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、
    (b)ホワイトバランス処理に係る処理パラメータを設定する設定手段と、
    (c)前記処理パラメータに基づき、前記画像に対して前記ホワイトバランス処理を行う処理手段と、
    を備え、
    前記設定手段は、
    (b−1)前記画像に基づき第1パラメータを求める手段と、
    (b−2)前記第1パラメータが所定範囲内である場合には、前記第1パラメータを前記処理パラメータとして設定する手段と、
    (b−3)前記第1パラメータが前記所定範囲から外れる場合には、前記第1パラメータと異なる第2パラメータを前記処理パラメータとして設定する手段と、
    を有するとともに、
    前記抽出手段は、
    (a−1)前記第2パラメータに基づき前記画像に前記ホワイトバランス処理が施される場合には、前記第1パラメータに基づき前記固有色の検出を行う手段、
    を有することを特徴とする撮像装置。
  4. 撮像装置であって、
    (a)固有色が表れる特定被写体を含む画像において、前記固有色を検出することにより前記特定被写体を抽出する抽出手段と、
    (b)前記画像に係る輝度情報を取得する取得手段と、
    を備え、
    前記抽出手段は、
    (a−1)所定の色空間において前記固有色に対応する対応領域を設定する設定手段と、
    (a−2)前記対応領域に基づき前記画像から前記固有色の検出を行う手段と、
    を有するとともに、
    前記設定手段は、
    前記輝度情報に応じて、前記所定の色空間で前記対応領域を変更する変更手段、
    を有することを特徴とする撮像装置。
  5. 請求項4に記載の撮像装置において、
    (c)前記画像に係るホワイトバランス情報を取得する手段、
    をさらに備え、
    前記変更手段は、
    前記ホワイトバランス情報に応じて、前記所定の色空間で前記対応領域を変更する手段、
    を有することを特徴とする撮像装置。
JP2002194610A 2002-07-03 2002-07-03 撮像装置 Expired - Fee Related JP4039147B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002194610A JP4039147B2 (ja) 2002-07-03 2002-07-03 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002194610A JP4039147B2 (ja) 2002-07-03 2002-07-03 撮像装置

Publications (2)

Publication Number Publication Date
JP2004040462A true JP2004040462A (ja) 2004-02-05
JP4039147B2 JP4039147B2 (ja) 2008-01-30

Family

ID=31703266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002194610A Expired - Fee Related JP4039147B2 (ja) 2002-07-03 2002-07-03 撮像装置

Country Status (1)

Country Link
JP (1) JP4039147B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1599052A2 (en) * 2004-05-20 2005-11-23 Sony Corporation Imaging device, image processing method, and color area setting program
JP2006072332A (ja) * 2004-08-05 2006-03-16 Matsushita Electric Ind Co Ltd 撮像装置
JP2007129310A (ja) * 2005-11-01 2007-05-24 Nikon Corp 撮像装置
JP2007272298A (ja) * 2006-03-30 2007-10-18 Fujifilm Corp 顔検出方法およびこれを用いた撮影装置
JP2008005083A (ja) * 2006-06-21 2008-01-10 Mitsubishi Electric Corp 撮像装置
JP2009535865A (ja) * 2006-03-17 2009-10-01 クゥアルコム・インコーポレイテッド 露光を制御するためのシステム、方法、および装置
JP2010510717A (ja) * 2006-11-21 2010-04-02 ソニー エリクソン モバイル コミュニケーションズ, エービー 肌色検出に基づきカメラ測光を実行するシステム及び方法
US8035721B2 (en) 2004-08-05 2011-10-11 Panasonic Corporation Imaging apparatus
JP2012120241A (ja) * 2012-02-13 2012-06-21 Canon Inc 画像処理装置
JP2012165077A (ja) * 2011-02-03 2012-08-30 Canon Inc ホワイトバランス制御装置及びそれを用いた撮像装置、並びにホワイトバランス制御方法
JP2012178788A (ja) * 2011-02-28 2012-09-13 Sony Corp 画像処理装置と画像処理方法およびプログラム
US8285135B2 (en) 2009-09-01 2012-10-09 Quanta Computer Inc. Method and device for adjusting weighting values in light metering
CN102023456B (zh) * 2009-09-22 2012-11-21 广达电脑股份有限公司 测光权重调整方法及其装置
JP2013191966A (ja) * 2012-03-13 2013-09-26 Nikon Corp 撮像装置
JP2018037041A (ja) * 2016-09-02 2018-03-08 富士通株式会社 生体画像処理装置、生体画像処理方法、および生体画像処理プログラム

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1599052A2 (en) * 2004-05-20 2005-11-23 Sony Corporation Imaging device, image processing method, and color area setting program
JP2006072332A (ja) * 2004-08-05 2006-03-16 Matsushita Electric Ind Co Ltd 撮像装置
US8035721B2 (en) 2004-08-05 2011-10-11 Panasonic Corporation Imaging apparatus
JP4645413B2 (ja) * 2005-11-01 2011-03-09 株式会社ニコン 撮像装置
JP2007129310A (ja) * 2005-11-01 2007-05-24 Nikon Corp 撮像装置
US8107762B2 (en) 2006-03-17 2012-01-31 Qualcomm Incorporated Systems, methods, and apparatus for exposure control
JP2009535865A (ja) * 2006-03-17 2009-10-01 クゥアルコム・インコーポレイテッド 露光を制御するためのシステム、方法、および装置
US8824827B2 (en) 2006-03-17 2014-09-02 Qualcomm Incorporated Systems, methods, and apparatus for exposure control
JP2007272298A (ja) * 2006-03-30 2007-10-18 Fujifilm Corp 顔検出方法およびこれを用いた撮影装置
JP4629002B2 (ja) * 2006-06-21 2011-02-09 三菱電機株式会社 撮像装置
JP2008005083A (ja) * 2006-06-21 2008-01-10 Mitsubishi Electric Corp 撮像装置
JP2010510717A (ja) * 2006-11-21 2010-04-02 ソニー エリクソン モバイル コミュニケーションズ, エービー 肌色検出に基づきカメラ測光を実行するシステム及び方法
US8285135B2 (en) 2009-09-01 2012-10-09 Quanta Computer Inc. Method and device for adjusting weighting values in light metering
CN102023456B (zh) * 2009-09-22 2012-11-21 广达电脑股份有限公司 测光权重调整方法及其装置
JP2012165077A (ja) * 2011-02-03 2012-08-30 Canon Inc ホワイトバランス制御装置及びそれを用いた撮像装置、並びにホワイトバランス制御方法
JP2012178788A (ja) * 2011-02-28 2012-09-13 Sony Corp 画像処理装置と画像処理方法およびプログラム
US9077945B2 (en) 2011-02-28 2015-07-07 Sony Corporation Image processing device, image processing method, and program which correctly and easily extracts a color region of a specific color
JP2012120241A (ja) * 2012-02-13 2012-06-21 Canon Inc 画像処理装置
JP2013191966A (ja) * 2012-03-13 2013-09-26 Nikon Corp 撮像装置
JP2018037041A (ja) * 2016-09-02 2018-03-08 富士通株式会社 生体画像処理装置、生体画像処理方法、および生体画像処理プログラム

Also Published As

Publication number Publication date
JP4039147B2 (ja) 2008-01-30

Similar Documents

Publication Publication Date Title
JP6325885B2 (ja) 撮像装置、撮像方法、及びプログラム
JP3541820B2 (ja) 撮像装置及び撮像方法
JP4639271B2 (ja) カメラ
US7916181B2 (en) Method and device for creating high dynamic range pictures from multiple exposures
JP5460173B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、撮像装置
JP3468231B2 (ja) 画像処理装置、画質制御方法、プログラム及び記録媒体
JP3760846B2 (ja) 被写体抽出装置及び撮影装置
JP5169318B2 (ja) 撮像装置、撮像方法
JP6521776B2 (ja) 画像処理装置、画像処理方法
JP4039147B2 (ja) 撮像装置
JP2003179810A (ja) 写真撮影においてフィル・フラッシュをシミュレートするシステム及び方法
JP2006208558A (ja) 撮像装置
JP4053764B2 (ja) 被写体抽出装置及び撮影装置
JP2006254229A (ja) 撮像装置、撮像方法及び撮像プログラム
JP2008141740A (ja) 撮影装置および方法並びにプログラム
JP2013005091A (ja) 撮像装置および距離情報取得方法
JP2018006912A (ja) 撮像装置、画像処理装置及びそれらの制御方法、プログラム
CN108024056A (zh) 基于双摄像头的成像方法和装置
JP2006287586A (ja) 撮像装置及びその制御方法
JP5048599B2 (ja) 撮像装置
JP5720488B2 (ja) 撮像装置および距離情報取得方法
JP2019029833A (ja) 撮像装置
JP2010028606A (ja) 撮像装置および撮像装置の制御方法
JP2009033386A (ja) 撮影装置及び撮影方法
JP2006157342A (ja) カメラモジュール

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040917

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040917

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070131

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070827

TRDD Decision of grant or rejection written
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071016

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071029

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101116

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111116

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111116

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121116

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121116

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131116

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees