JP2007158941A - 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム - Google Patents

被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム Download PDF

Info

Publication number
JP2007158941A
JP2007158941A JP2005353678A JP2005353678A JP2007158941A JP 2007158941 A JP2007158941 A JP 2007158941A JP 2005353678 A JP2005353678 A JP 2005353678A JP 2005353678 A JP2005353678 A JP 2005353678A JP 2007158941 A JP2007158941 A JP 2007158941A
Authority
JP
Japan
Prior art keywords
information
subject
color
background
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005353678A
Other languages
English (en)
Inventor
Motoyuki Yamaguchi
基志 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005353678A priority Critical patent/JP2007158941A/ja
Publication of JP2007158941A publication Critical patent/JP2007158941A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】簡単な方法で正確に主被写体が存在する領域を検出することのできる被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラムを提供する。
【解決手段】画像を複数のブロックに分割し、各ブロックの輝度と色に基づきブロックごとに色差を導出する。この色差を用いて各ブロックの色が予め設定された複数の色のどの色に当てはまるかと、各色の度数を導出する。背景部において前記各色の度数に応じて背景度合ウェイトを設定し、この背景度合ウェイトを用いて背景部の輝度及び色差の加重平均値を演算する。被写体部の各ブロックの輝度・色差と前記輝度・色差の加重平均値との差、及び被写体部の各ブロックの相対被写体度合を算出する。各ブロックの絶対被写体度合を算出し、この絶対被写体度合と前記相対被写体度合とを用いて総合被写体度合を算出し、この総合被写体度合に基づき被写体の位置と被写体領域とを導出する。
【選択図】図5

Description

本発明は、画像中の主被写体が存在する領域を検出する被写体領域検出装置、該被写体領域検出装置を搭載した撮像装置、被写体領域検出方法及びプログラムに関する。
近年、撮像装置の分野において、主被写体(以下、単に被写体という)をできるだけ正確に検出することを目的として様々な提案がなされている(例えば、下記特許文献1〜5)。
下記特許文献1には、映像信号から輝度信号、B−Y色差信号及びR−Y色差信号を生成し、これらの信号を用いて前記映像信号の中から肌色領域を検出し、この肌色領域を対象領域として焦点調節等を行う映像信号処理装置が開示されている。
下記特許文献2,3には、入力画像に含まれる被写体画像を該入力画像から精度よく切り出すことを目的として、予め用意した背景画像と入力画像との差分を算出し、この差分画像に基づいてマスク領域(特定処理領域)を初期設定するとともに、エッジ画像(被写体エッジ強度画像及び背景エッジ強度画像)と、背景画像と被写体画像との色成分(RGB値又は色相)の差異に基づく色差情報とに応じて、マスク領域を変化させる技術が提案されている。
下記特許文献4には、撮影環境にかかわらず、簡単に映像信号の被写体部分を抽出することを目的として、撮像素子で生成された被写体像に相当する電気信号から輝度信号と色差信号とを生成するとともに、映像信号のうち所定の輝度範囲、色相範囲及び色飽和度範囲に同時に含まれる信号部分を被写体部分とみなしこの被写体部分で「H」となる2値信号を出力することにより一定範囲の色相、色飽和度及び輝度を持つ信号部分を抽出する2値化回路を複数備え、各2値化回路の抽出条件を異ならせて、各2値化回路により被写体部分とみなされる部分で「H」となる2値信号を合成する技術が開示されている。
下記特許文献5には、逆光・過順光時等であっても露出制御性能の劣化を防止することを目的として、撮影画像の色差信号及び輝度信号を生成するとともに、一定の抽出条件を満たす被写体測光領域(被写体を囲む矩形形状を有する領域)を抽出し、被写体の測光値、背景の測光値、及び前記被写体測光領域を細分化してなる各ブロックの色差及び輝度情報に基づき、前記被写体測光領域からさらに被写体の形状に合わせた被写体測光領域を抽出し、この被写体測光領域が存在するブロックに対する輝度信号のみを積分し、この積分値を被写体の面積で除算し、この除算値(被写体平均測光値)で背景平均測光値(単位面積当たりの背景の平均測光値)を除算した値を被写体と背景とのコントラストとして設定し、このコントラストの値によって逆光・過順光を判断して露光制御量を算出する技術が開示されている。
特開平6−121332号公報 特開平10−23452号公報 特開平10−191020号公報 特開平6−225328号公報 特開平9−83860号公報
しかしながら、前記特許文献1のように、映像信号から肌色領域を検出して被写体領域を抽出する方法では、例えば、砂地のグランドを背景にしたときの人物のように、人物の肌の色と背景の色とが同系色の場合や、同一人物であっても日焼けの状態に応じて肌の色が異なる場合、或いは人種等による肌の色味の相違が顕著な場合等には、正確な被写体領域を抽出することが困難となる。
また、画素ごとに色抽出を行う構成の場合、多大な演算が要求されるため、高い処理速度、延いては高速で大規模な画像処理システムが必要となり、装置の大型化やコストアップを招来することとなる。
本発明は、上記事情に鑑みてなされたもので、簡単な方法で正確に主被写体が存在する領域を検出することのできる被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラムを提供することを目的とする。
請求項1に記載の発明は、被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出する被写体領域検出装置であって、画像を複数のブロックに分割し、各ブロックの画像に関連する所定のパラメータを含む測光情報を導出する測光情報導出手段と、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された測光情報の平均値を背景平均測光情報として導出する背景平均測光情報導出手段と、前記中央部に属するブロックの測光情報と、前記背景平均測光情報導出手段により導出された背景平均測光情報との差分を相対差分情報として導出する相対差分情報導出手段と、前記相対差分情報導出手段により導出された相対差分情報に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段とを備えることを特徴とするものである。
請求項2に記載の発明は、請求項1に記載の被写体領域検出装置において、前記背景平均測光情報導出手段は、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出し、前記相対差分情報導出手段は、前記中央部に属する各ブロックの輝度情報と、前記背景平均測光情報導出手段により導出された前記背景平均輝度情報との差分を相対差分情報として導出することを特徴とするものである。
請求項3に記載の発明は、請求項1または2に記載の被写体領域検出装置において、前記背景平均測光情報導出手段は、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出し、前記相対差分情報導出手段は、前記中央部に属する各ブロックの色情報と、前記背景平均測光情報導出手段により導出された前記背景平均色情報との差分を相対差分情報として導出することを特徴とするものである。
請求項4に記載の発明は、被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出する被写体領域検出装置であって、画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出手段と、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出手段と、前記背景部に属するブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出手段と、前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出手段により導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出手段と、前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出手段により導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出手段と、前記相対輝度差分情報導出手段により導出された相対輝度差分情報及び前記相対色差分情報導出手段により導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段と
を備えることを特徴とするものである。
請求項5に記載の発明は、請求項4に記載の被写体領域検出装置において、前記背景平均色情報導出手段は、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報及び色情報に基づいて求められるCr,Cbの色差情報を平均した背景平均色差情報を導出し、前記相対色差分情報導出手段は、前記背景平均色情報導出手段により導出された前記背景平均色差情報と、前記中央部に属する各ブロックの色差との差分を相対色差分情報として導出することを特徴とするものである。
請求項6に記載の発明は、請求項4または5に記載の被写体領域検出装置において、主被写体としての的確性を、所定のスケール値をもつ被写体度合で評価する場合において、前記被写体領域検出手段は、前記相対輝度差分情報導出手段により導出された相対輝度差分情報が示す差分、及び前記相対色差分情報導出手段により導出された相対色差分情報が示す差分の少なくとも一方が大きいほど、前記中央部に属する各ブロックの画像についてのスケール値を、主被写体としての的確性が高い値に設定することを特徴とするものである。
請求項7に記載の発明は、請求項6に記載の被写体領域検出装置において、前記被写体領域検出手段は、前記中央部に属する各ブロックの色情報が所定の色域内に含まれるときには、前記被写体度合を相対的に高い値に設定することを特徴とするものである。
請求項8に記載の発明は、請求項6または7に記載の被写体領域検出装置において、前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックの位置とその被写体度合とを用いて、該被写体度合についての重心位置を算出し、この重心位置を前記主被写体が存在する位置として設定することを特徴とするものである。
請求項9に記載の発明は、請求項8に記載の被写体領域検出装置において、前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックの位置情報を用いて、前記重心位置に対する各ブロックの相対距離についての標準偏差値を算出し、この標準偏差値を、前記主被写体が存在する領域を示す情報として出力することを特徴とするものである。
請求項10に記載の発明は、請求項6ないし8のいずれかに記載の被写体領域検出装置において、前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックで構成される領域を、前記主被写体が存在する領域として判定することを特徴とするものである。
請求項11に記載の発明は、請求項6ないし10のいずれかに記載の被写体領域検出装置において、前記被写体領域検出手段は、前記各ブロックの被写体度合の最大値が所定値より小さい場合は、前記中央部を主被写体が存在する位置として設定することを特徴とするものである。
請求項12に記載の発明は、被写体の光像を光電変換する撮像手段と、前記撮像手段の撮像面に被写体像を結像する撮像光学系とを備え、前記撮影光学系が、当該撮影光学系の焦点位置を前記撮像手段の撮像面上に合焦させるための焦点調節光学系を有する撮像装置であって、請求項1ないし11のいずれかに記載の被写体領域検出装置と、前記被写体領域検出装置により検出された主被写体が存在する領域に基づいて、前記焦点調節光学系に合焦動作を行わせる焦点調節制御手段とを備えることを特徴とするものである。
請求項13に記載の発明は、被写体の光像を光電変換する撮像手段と、前記撮像手段の撮像面に被写体像を結像する撮像光学系とを備えた撮像装置であって、請求項1ないし11のいずれかに記載の被写体領域検出装置と、前記撮像手段の撮像面への露光量を可変させるための露光量可変機構と、前記被写体領域検出装置により検出された主被写体が存在する領域に基づき、前記露光量可変機構を用いて前記撮像手段の撮像面への露光量を制御する露出制御手段とを備えることを特徴とするものである。
請求項14に記載の発明は、被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出するための被写体領域検出方法であって、測光情報導出手段が、画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出ステップと、背景平均輝度情報導出手段が、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出ステップで導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出ステップと、背景平均色情報導出手段が、前記背景部に属するブロックについて前記測光情報導出ステップで導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出ステップと、相対輝度差分情報導出手段が、前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出ステップで導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出ステップと、相対色差分情報導出手段が、前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出ステップで導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出ステップと、被写体領域検出手段が、前記相対輝度差分情報導出ステップで導出された相対輝度差分情報及び前記相対色差分情報導出ステップで導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出ステップとを備えることを特徴とするものである。
請求項15に記載の発明は、画像情報に基づき主被写体が存在する領域をコンピュータに検出させるためのプログラムであって、前記コンピュータを、画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出手段と、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出手段と、前記背景部に属するブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出手段と、前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出手段により導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出手段と、前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出手段により導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出手段と、前記相対輝度差分情報導出手段により導出された相対輝度差分情報及び前記相対色差分情報導出手段により導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段として機能させるためのプログラムである。
請求項1に記載の発明によれば、画像を複数のブロックに分割し、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき前記中央部に属する各ブロックの測光情報と前記背景部の背景平均測光情報との差分を相対差分情報として導出し、この相対差分情報に基づき主被写体が存在する領域を検出するようにしたので、特に、従来のように肌色等の特定色に基づく被写体領域の検出が困難な画像(シーン)であっても正確に且つ簡単な方法で被写体領域を検出することができる。
請求項2に記載の発明によれば、前記中央部に属する各ブロックの輝度情報と、前記背景部に属する各ブロックの輝度情報を平均した背景平均輝度情報との差分を相対差分情報として導出し、この相対差分情報に基づいて主被写体が存在する領域を検出するようにしたので、背景部と中央部との輝度の相違を用いた簡単な方法で正確な被写体領域を検出することができる。
請求項3に記載の発明によれば、前記中央部に属する各ブロックの色情報と、前記背景部に属する各ブロックの色情報を平均した背景平均色情報との差分を相対差分情報として導出し、この相対差分情報に基づいて主被写体が存在する領域を検出するようにしたので、背景部と中央部との色の相違を用いた簡単な方法で正確な被写体領域を検出することができる。
請求項4,14,15に記載の発明によれば、画像を複数のブロックに分割し、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき前記中央部に属する各ブロックの輝度情報と前記背景部に属する各ブロックの輝度情報を平均した背景平均輝度情報との差分を相対輝度差分情報として導出するとともに、前記中央部に属する各ブロックの色情報と前記背景部に属する各ブロックの色情報を平均した背景平均色情報との差分を相対色差分情報として導出し、前記相対輝度差分情報及び相対色差分情報のうち少なくとも一方に基づき、主被写体が存在する領域を検出するようにしたので、背景部と中央部との輝度及び色の少なくとも一方の相違を用いた簡単な方法で正確な被写体領域を検出することができる。
請求項5に記載の発明によれば、前記背景部に属するブロックの輝度情報及び色情報に基づいて求められるCr,Cbの色差情報を平均した背景平均色差情報を導出し、この背景平均色差情報と、前記中央部に属する各ブロックの色差との差分を相対色差分情報として導出するようにしたので、前記相対色差分情報の演算が単純化され、より短い処理時間で正確な被写体領域を検出することができる。
請求項6に記載の発明によれば、主被写体としての的確性を、所定のスケール値をもつ被写体度合で評価する場合に、相対輝度差分情報が示す差分(背景部に対する中央部の各ブロックの相対輝度差)及び前記相対色差分情報が示す差分(背景部に対する中央部の各ブロックの相対色差差)の少なくとも一方が大きいほど、前記中央部に属する各ブロックの画像についてのスケール値を、主被写体としての的確性が高い値に設定するようにしたので、簡単な方法で正確な被写体領域を検出することができる。
請求項7に記載の発明によれば、前記中央部に属する各ブロックの色情報が所定の色域内(例えば人物の一般的な肌色のような特定の色域内)に含まれるときには、前記被写体度合を相対的に高い値に設定するようにしたので、対象領域が主被写体であるか否かをより正確に判定することができる。
請求項8に記載の発明によれば、前記被写体度合が所定値を超えるブロックの位置とその被写体度合とを用いて、該被写体度合についての重心位置を算出し、この重心位置を前記主被写体が存在する位置として設定するようにしたので、簡単な方法で正確な被写体の位置を検出することができる。
請求項9に記載の発明によれば、前記被写体度合が所定値を超えるブロックの位置情報を用いて、前記重心位置に対する各ブロックの相対距離についての標準偏差値を算出し、この標準偏差値を、前記主被写体が存在する領域を示す情報として出力するようにしたので、簡単な方法で正確な被写体領域を検出することができる。
請求項10に記載の発明によれば、前記被写体度合が所定値を超えるブロックで構成される領域を、前記主被写体が存在する領域として判定するようにしたので、簡単な方法で正確な被写体領域を検出することができる。
請求項11に記載の発明によれば、前記各ブロックの被写体度合の最大値が所定値より小さい場合は、前記中央部を主被写体が存在する位置として設定するようにしたので、例えば風景のような均一な被写体を撮影してなる画像における被写体の位置の誤検出を防止することができる。
請求項12に記載の発明によれば、請求項1ないし11のいずれかに記載の被写体領域検出装置により検出された主被写体が存在する領域に基づいて、前記焦点調節光学系に合焦動作を行わせるようにしたので、簡単な方法で撮像装置の焦点調節性能を向上することができる。
請求項13に記載の発明によれば、請求項1ないし11のいずれかに記載の被写体領域検出装置により検出された主被写体が存在する領域に基づき、前記露光量可変機構を用いて撮像手段の撮像面への露光量を制御するようにしたので、簡単な方法で撮像装置の自動露出性能を向上することができる。
本発明に係る撮像装置の実施形態について説明する。図1は、撮像装置の正面図、図2は、撮像装置1の背面図である。
図1、図2に示すように、撮像装置1は、電源ボタン2と、撮影光学系3と、LCD(Liquid Crystal Display)4と、光学ファインダー5と、内蔵フラッシュ6と、モード設定スイッチ7と、4連スイッチ8と、シャッターボタン9とを備える。
電源ボタン2は、撮像装置1の主電源のオンオフを切り替えるものである。撮影光学系3は、絞り3a、ズームレンズ光学系3b、メカニカルシャッター3c(図3参照)を備えてなり、CCD(Charge Coupled Device)等の撮像素子11(図3参照)の撮像面に、被写体の光学像を結像するものである。
LCD4は、ライブビュー画像及び後述する外部記憶部18(図3参照)に記録する画像(記録画像)の表示や、外部記録部18に記録された画像の再生表示等を行うものである。ライブビュー画像は、被写体の画像を記録するまでの期間、一定の周期(1/30秒)でLCD4に切換表示される撮像素子11で撮像された画像をいい、このライブビュー画像により、被写体の状態が略リアルタイムでLCD4に表示され、撮影者は被写体の状態をLCD4で確認することができる。
光学ファインダー5は、撮影範囲を光学的に観察できるようにするものである。内蔵フラッシュ6は、撮像素子11への露光量が不足している場合等に、該被写体に照明光を照射するものである。
モード設定スイッチ7は、被写体像の撮影を行う「撮影モード」と、外部記憶部18に記録された撮影画像をLCD4に再生表示する「再生モード」と、各種機能の設定を行うための「メニューモード」との間でモードの切換設定を行うためのスイッチである。モード設定スイッチ7は、上下にスライドする3接点のスライドスイッチからなり、下にセットすると撮像装置1は撮影モードに設定され、中央にセットすると再生モードに設定され、上にセットするとメニューモードに設定される。
4連スイッチ8は、詳細には説明しないが、ズームレンズ光学系の光軸方向への移動や、露出補正、あるいはLCD4に再生する記録画像のコマ送り等を行うためのスイッチである。
シャッターボタン9は、完全に押し切られる全押し操作と途中まで押される半押し操作との2段階で押圧操作されるボタンであり、露光制御のタイミングを指示するためのものである。前記各撮影モードにおいて、シャッターボタン9が操作されていない状態では、例えば1/30(秒)毎に被写体の光学像が取り込まれ、LCD4へのライブビュー画像の表示が行われる。また、撮像装置1は、前述の各撮影モードでは、シャッターボタン9の半押し操作が行われることで、ライブビュー画像の表示に加えてシャッタースピードや絞り値等の設定が行われる撮影待機状態に設定され、全押し操作が行われることで、外部記憶部18に記録する被写体の画像を生成するための後述する撮像素子11による露光動作(以下、本露光動作という)が開始される。
図3は、撮像装置1の電気的な構成を示すブロック構成図である。同図において、図1,図2に示した部材と同一部材には同一の番号を付している。
撮像装置1は、撮影光学系3と、LCD4と、駆動部10と、撮像素子11と、タイミング制御回路12と、信号処理部13、A/D変換部14と、画像処理部15と、画像メモリ16と、VRAM(Video Random Access Memory)17と、外部記憶部18と、入力操作部19と、制御部20とを備えて構成されている。
撮影光学系3は、図1に示す撮影光学系3に相当するものであり、前述したように、絞り3a、ズームレンズ光学系3b及びメカニカルシャッター3cを備える。LCD4は、図2に示すLCD4に相当するものである。
駆動部10は、絞り3aを駆動する絞り駆動部10aと、ズームレンズ光学系3bを駆動するレンズ駆動部10bと、メカニカルシャッター3cを駆動するシャッター駆動部10cとを有し、各駆動部10a〜10cは、制御部20によりその動作が制御される。
撮像素子11は、例えばフォトダイオード等で構成される複数の光電変換素子がマトリックス状に2次元配列され、各光電変換素子の受光面に、それぞれ分光特性の異なる例えばR(赤),G(緑),B(青)のカラーフィルタが1:2:1の比率で配設されてなるベイヤー配列のCCDカラーエリアセンサである。以下、光電変換素子にカラーフィルタが配設されたものを撮像素子11の画素という。撮像素子11は、撮影光学系3により結像された被写体の光像をR(赤),G(緑),B(青)各色成分のアナログの電気信号(画像信号)に変換し、R,G,B各色の画像信号として出力する。
撮像素子11は、詳細には説明しないが、フォトダイオード等からなる受光部、垂直転送部、及び水平転送部等を備えてなるインターライン型の撮像素子であり、プログレッシブ転送方式により各画素の電荷が取り出される。すなわち、各受光部で蓄積された電荷は、垂直同期信号により垂直転送部に転送され、各垂直転送部に転送された電荷は、水平同期信号により水平転送路に近い画素から順に該水平転送路に転送されることにより画素信号として取り出される。このような撮像素子11における各画素の出力信号の読出し(水平同期、垂直同期)等の撮像動作や、撮像素子11による露光動作の開始及び終了のタイミングは、後述のタイミング制御回路12等により制御される。
タイミング制御回路12は、後述の制御部20により制御される。タイミング制御回路12は、基準クロックCLK0に基づいて、撮像素子11の駆動制御信号、例えば露出開始/終了(積分開始/終了)のタイミング信号、各画素の受光信号の読出制御信号(水平同期信号,垂直同期信号,転送信号等)等のクロック信号CLK1を生成し、このクロックCLK1を撮像素子11に出力するとともに、基準クロックCLK0に基づいてA/D変換用のクロックCLK2を生成し、このクロックCLK2をA/D変換部14に出力する。
信号処理部13は、撮像素子11から出力される画像信号(アナログ信号)に所定のアナログ信号処理を施すもので、撮像素子11から出力される画像信号(アナログ信号)のノイズの低減を行うと共に、画像信号のレベル調整を行う。
A/D変換部14は、信号処理部13から入力された画像データの各画素信号(アナログ信号)を、タイミング制御回路12から出力されるクロックCLK2に基づいて、所定ビット、例えば10ビットのデジタル信号に変換するものである。
画像処理部15は、A/D変換部14によりA/D変換された画素信号(以下、画素データという。)の黒レベルを基準の黒レベルに補正する黒レベル補正、R(赤),G(緑),B(青)の各色成分の画素データのレベル変換を行うホワイトバランス補正及び画素データのγ特性を補正するγ補正等の処理を行うものである。
画像メモリ16は、撮影モード時には、画像処理部15から出力される画素データを一時的に記憶するとともに、この画素データに対し制御部20により所定の処理を行うための作業領域として用いられるメモリである。また、再生モード時には、外部記憶部18から読み出した画像データを一時的に記憶するメモリである。
VRAM17は、LCD4に再生表示させる画像データのバッファメモリであり、LCD4の画素数に対応する画像データの記録容量を有する。
外部記憶部18は、図略のメモリカードやハードディスクなどからなり、制御部20で生成された画像を保存するものである。
撮像装置1は、撮影待機状態において、撮像素子11により例えば1/30(秒)毎に撮像された画像の各画素データに、A/D変換部14及び画像処理部15により所定の信号処理が施された後、画像メモリ16に記録されると共に、該画素データが、制御部20を介してVRAM17に転送される。これにより、ライブビュー画像がLCD4に表示される(電子ビューファインダ機能)。
また、再生モードにおいては、外部記憶部18から読み出した画像データが画像メモリ16に一旦格納され、この画像メモリ16に格納した画像データに対し制御部20により所定の信号処理を施された後、VRAM17に転送される。これにより、外部記憶部18に記録された画像がLCD4に再生表示される。
入力操作部19は、電源ボタン2、モード設定スイッチ7、4連スイッチ8、シャッターボタン9等の操作情報を制御部20に入力するものである。
制御部20は、マイクロコンピュータからなり、上述したカメラ本体部内の各部材の駆動を関連付けて制御して撮像装置1の撮影動作を統括制御するものである。制御部20は、CPUのワーク用としてのRAMや、撮像装置1に備えられる各種機能のプログラム等を記憶するROM等を有してなる内部記憶部(図示せず)を備える。
ここで、制御部20による撮影処理の概略を説明する。図4は、制御部20による一連の撮影処理を示すフローチャートである。
図4に示すように、制御部20は、電源ボタン2がオンされたことを検知すると(ステップ♯1でYES)、撮像素子11による撮像動作を開始させ、該撮像動作により得られた画像情報(撮影画像)を取得し(ステップ♯2)、ズームレンズ光学系3bの焦点距離等の情報や入力操作部19に係る操作情報等の各種情報を図略の内部記憶部から読み出す(ステップ♯3)。
次に、制御部20は、後述するように、前記撮影画像のうち主被写体(以下、単に被写体という)が存在する領域(以下、被写体領域という)を検出する処理を実行する(ステップ♯4)。そして、制御部20は、この処理によって検出された被写体領域に基づき焦点調節処理を行い(ステップ♯5)、また、露出レベル(露出制御値)の演算処理を実行して(ステップ♯6)、撮影画像をLCD4に表示させる(ステップ♯7)。
次に、制御部20は、記録用の撮影動作が必要となったか否か(シャッターボタン9の全押し操作が行われたか否か)を判断し(ステップ♯8)、必要となっていない場合には(ステップ♯8でNO)、ステップ♯2の処理に戻る一方、必要となった場合には(ステップ♯8でYES)、ステップ♯5の焦点調節動作が行われた状態で、ステップ♯6で算出された露出制御値に基づきメカニカルシャッター3cを開放して撮像素子11に記録用の撮像動作を実行させ(ステップ♯9)、この撮像動作により得られた画像を外部記憶部18に格納する(ステップ♯10)。
そして、制御部20は、電源ボタン2がオフされたか否かを判断し(ステップ♯11)、オフされていない場合には(ステップ♯11でNO)、ステップ♯2の処理に戻る一方、オフされたことを検知すると(ステップ♯11でYES)、所定の終了処理を行った後、一連の撮影処理を終了する。
本実施形態では、図4に示すフローチャートのうちステップ♯4の被写体領域検出処理の処理内容と、該処理により検出された被写体領域に基づいて焦点調節処理及び露出レベル(露出制御値)の演算処理を行う点とに特徴を有しているものであり、前記被写体領域検出処理にあっては、肌色等の特定色領域を用いた画像情報の判別だけでなく、画像の周辺(背景)部分における輝度情報及び色情報と、撮影画像を複数のブロックにマトリックス状に分割したときに該画像の中央部に属するブロックの輝度情報及び色情報とを比較することで、被写体領域を検出・抽出するようにしている。そして、この抽出した被写体領域を用いて、焦点調節動作及び露出制御値の設定を行うようにしている。
制御部20は、このような処理を実行するべく、図3に示すように、測光情報導出部21と、背景部平均測光演算部22と、相対差分情報出力部23と、被写体領域抽出部24と、焦点調節処理部25と、露出制御値演算部26とを機能的に備えている。
測光情報導出部21は、撮影画像を複数のブロックにマトリックス状に分割し、各ブロックの輝度Y、色R,G,B及び色差CrS,CbSを算出し、画像の中央部に位置する所定領域を被写体部、該被写体部の周囲を背景部として区分したときに、被写体部及び背景部にそれぞれ属するブロックが、予め設定された複数の色のうちどれに当てはまるかを色差CrS,CbSを用いて検知する処理を実行し、前記各色に対応するブロック数(以下、度数という)を導出するとともに、背景部において、各色に対して導出された度数の大小に応じて重み係数(以下、背景度合ウェイトという)を設定するものである。背景度合ウェイトは、背景の画像である的確性を示す値である。
背景部平均測光演算部22は、背景部平均輝度情報演算部27と背景部平均色差情報演算部28とからなり、背景部平均輝度情報演算部27は、背景部に属する各ブロックについて、当該ブロックの輝度と測光情報導出部21により設定された背景度合ウェイトとを用いて、輝度Yについての背景部全体の平均値(加重平均値)を演算するものであり、また、背景部平均色差情報演算部28は、当該ブロックの色差CrS,CbSと測光情報導出部21により設定された背景度合ウェイトとを用いて、色差CrS,CbSについての背景部全体の平均値(加重平均値)を演算するものである。
相対差分情報出力部23は、相対輝度差分情報出力部29と相対色差分情報出力部30とからなり、相対輝度差分情報出力部29は、被写体部に属する各ブロックの輝度Yと、背景部平均測光演算部22により算出された輝度Yについての前記平均値との差を算出するものであり、また、相対色差分情報出力部30は、被写体部に属する各ブロックの色差CrS,CbSと、背景部平均測光演算部22により算出された色差CrS,CbSについての前記平均値との差を算出するものである。また、相対差分情報出力部23は、算出した各差を用いて各ブロックの後述する相対被写体度合を算出する。
被写体領域抽出部24は、各色に応じて後述する絶対被写体度合を各ブロックについて設定するとともに、この絶対被写体度合と前記相対差分情報出力部23により算出された相対被写体度合とを用いて、後述する総合被写体度合を算出し、この総合被写体度合に基づいて被写体の位置(後述する重心位置)や該被写体が存在する領域を検出・抽出するものである。
焦点調節処理部25は、被写体領域抽出部24により導出された位置を合焦対象位置とし、この位置における画像に焦点が合うように、例えば周知の山登り方式に基づく焦点調節動作(レンズ駆動部10bの制御)を行うものである。
露出制御値演算部26は、被写体領域抽出部24により導出された被写体領域に基づき測光対象領域を選定し、この領域の測光処理を行って、該測光結果に基づき露出制御値(シャッタースピード及び絞り値)を設定するものである。
図5は、図4に示すフローチャートのステップ♯4の被写体領域検出処理のサブルーチンを示すフローチャートであり、焦点調節処理部25及び露出制御値演算部26を除く各部の処理の流れを示している。
図5に示すように、測光情報導出部21は、取得した画像を図6(a)に示すように縦n(個)×横m(個)のブロックにマトリックス状に分割し(ステップ♯21)、各ブロックの輝度Y及び色R,G,Bのデータを算出する(ステップ♯22)。ここで、図6(a)に示すように、マトリックス状に並ぶ各ブロックの集合体に対し、最上位置の水平列から最下位置の水平列に向かって0から(n−1)まで順番に番号を付し、この0から(n−1)までの数字を代表してiで表すとともに、前記集合体に対し、最左位置の垂直列から最右位置の垂直列に向かって0から(m−1)まで順番に番号を付し、この0から(m−1)までの数字を代表してjで表すものとする。
また、(i,j)=(0,0)に位置するブロックから(i,j)=(n−1,m−1)に位置するブロックに対して、最上位置の水平列から最下位置の水平列に向かう方向に、且つ最左位置の垂直列から最右位置の垂直列に向かう方向に0から(n−1)×(m−1)までの番号を昇順で付した場合に、任意のブロックに付せられる番号(i×m+j)をkと表して、各ブロックの輝度及び色をY[k]、R[k],G[k],B[k]と表すものとする。
測光情報導出部21は、算出した各ブロックの輝度Y[k]及び色R[k],G[k],B[k]に基づき、各ブロックについて、色差CrS[k],CbS[k]を下記式(1),(2)を用いて導出する(ステップ♯23)。
CrS[k]=(R[k]−Y[k])/16 ・・・(1)
CbS[k]=(B[k]−Y[k])/16 ・・・(2)
次に、測光情報導出部21は、図6(b)に示すように、マトリックス状に並ぶ各ブロックの集合体のうち、中央部に位置する所定領域を被写体部、該被写体部の周囲を背景部として区分し、前記式(1),(2)で導出された色差CrS[k],CbS[k]を用いて、被写体部及び背景部にそれぞれ属するブロックの色が、予め設定された複数の色のどの色に当てはまるかを検知する処理を実行する(ステップ♯24)。本実施形態では、前記予め設定された複数の色として、撮影画像に含まれることが多いと考えられる肌色、赤色、緑色及び空色(青空の色)と、輝度が相対的に極めて高い異常高輝度及び輝度が相対的に極めて低い異常低輝度との計6色が設定されており、このステップ♯24では、ブロックの色が検出されるとともに、各色に対応するブロック数(以下、度数という)も導出される。
なお、図19に示すように、CbS値をX軸、CrS値をY軸、輝度値をZ軸とする3次元座標系からなるYGrGb色空間を設定したとき、例えば人の肌の色は、矢印aで示す領域に含まれ、植物の葉の緑色は、矢印bで示す領域に含まれ、青空の色は、矢印cで示す領域に含まれる。
次に、測光情報導出部21は、背景部において、前記色ごとに導出された度数の大小に応じて重み係数(背景度合ウェイト)を設定する(ステップ♯25)。
また、背景部平均輝度情報演算部27及び背景部平均色差情報演算部28は、背景部について、ステップ♯25で設定した背景度合ウェイトを用いて、輝度及び色差の加重平均値を演算する(ステップ♯26)。
次に、相対輝度差分情報出力部29及び相対色差分情報出力部30は、被写体部に属する各ブロックの輝度及び色差と、ステップ♯26で算出された輝度及び色差の加重平均値との差ΔY[k],ΔCrS[k],ΔCbS[k]を算出し(ステップ♯27)、被写体部に属する各ブロックについて、相対被写体度合を算出する(ステップ♯28)。相対被写体度合とは、図20(b)に示すように、0を最小値として背景部の輝度や色差が大きくなるほど大きくなるように設定された、主被写体領域であるか否かを判断するためのパラメータ(スケール値)の1つである。
そして、被写体領域抽出部24は、被写体部及び背景部に属する各ブロックについて、後述する絶対被写体度合を算出し、この絶対被写体度合とステップ♯28で算出した相対被写体度合とに基づく総合被写体度合を算出する(ステップ♯29)。絶対被写体度合とは、図20(a)に示すように、背景部の輝度や色差に関係なく、各色に対して設定された、主被写体領域であるか否かを判断するためのパラメータ(スケール値)の1つである。本実施形態では、例えば空色や前記6色以外の他の色に対しては絶対被写体度合「1」が設定され、人物の肌の色に対しては絶対被写体度合「8」が設定されている。なお、各色に対して設定する絶対被写体度合の値は、図20(a)に示す値に限られるものではなく、他の値を適宜設定してもよい。
また、被写体領域抽出部24は、ステップ♯29で算出した総合被写体度合に基づき、被写体の位置に係る情報を算出し(ステップ♯30)、また、被写体が存在する領域に係る情報を算出する(ステップ♯31)。
次に、各部の詳細な処理を説明する。図7、図8は、測光情報導出部21によるステップ♯24の色検知処理を示すフローチャートである。
図7、図8に示すように、測光情報導出部21は、度数をカウントするためのカウンタ(図示せず)を備えており、まず、このカウンタのカウント値をクリアにする等の初期化処理を行った後(ステップ♯41)、被写体部及び背景部に属する各ブロックについて順番にステップ♯42〜♯70の処理を実行する。
ステップ♯42では、測光情報導出部21は、前記色差CrS[k],CbS[k]について、下記式(3),(4)を同時に満たすか否かを判断する。
0<CrS[k]≦20 ・・・(3)
−18≦CbS[k]<0 ・・・(4)
その結果、測光情報導出部21は、前記式(3),(4)を同時に満たすと判断した場合には(ステップ♯42でYES)、ステップ♯44の処理に進む一方、前記式(3),(4)を同時に満たさないと判断した場合には(ステップ♯42でNO)、前記色差CrS[k],CbS[k]について、下記式(5),(6)を同時に満たすか否かを判断する(ステップ♯43)。
20<CrS[k]≦45 ・・・(5)
−35≦CbS[k]<−8 ・・・(6)
その結果、測光情報導出部21は、前記式(5),(6)を同時に満たすと判断した場合には(ステップ♯43でYES)、ステップ♯44の処理に進む一方、前記式(5),(6)を同時に満たさないと判断した場合には(ステップ♯42でNO)、ステップ♯48の処理に進む。
ステップ♯44では、測光情報導出部21は、下記式(7)を満たすか否かを判断する。
CrS[k]≦−2×CbS[k] ・・・(7)
その結果、測光情報導出部21は、前記式(7)を満たさないと判断すると(ステップ♯44でNO)、ステップ♯48の処理に進む一方、前記式(7)を満たすと判断すると(ステップ♯44でYES)、当該ブロックが被写体部に属するブロックであるか否かを判断する(ステップ♯45)。
その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯45でYES)、被写体部における肌色についての度数を1だけカウントアップする一方(ステップ♯46)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯45でNO)、背景部における肌色についての度数を1だけカウントアップして(ステップ♯47)、ステップ♯48に進む。
ステップ♯48では、測光情報導出部21は、前記色差CrS[k],CbS[k]について、下記式(7),(8)を同時に満たすか否かを判断する。
3<CrS[k]≦40 ・・・(7)
−20≦CbS[k]<0 ・・・(8)
その結果、測光情報導出部21は、前記式(7),(8)を同時に満たすと判断した場合には(ステップ♯48でYES)、ステップ♯50の処理に進む一方、前記式(7),(8)を同時に満たさないと判断した場合には(ステップ♯48でNO)、前記色差CrS[k],CbS[k]について、下記式(9),(10)を同時に満たすか否かを判断する(ステップ♯49)。
40<CrS[k]≦70 ・・・(9)
−35≦CbS[k]<−10 ・・・(10)
その結果、測光情報導出部21は、前記式(9),(10)を同時に満たすと判断した場合には(ステップ♯49でYES)、ステップ♯50の処理に進む一方、前記式(9),(10)を同時に満たさないと判断した場合には(ステップ♯49でNO)、ステップ♯54の処理に進む。
ステップ♯50では、測光情報導出部21は、下記式(11)を満たすか否かを判断する。
CrS[k]≦−2×CbS[k] ・・・(11)
その結果、測光情報導出部21は、前記式(11)を満たさないと判断すると(ステップ♯50でNO)、ステップ♯54の処理に進む一方、前記式(11)を満たすと判断すると(ステップ♯50でYES)、当該ブロックが被写体部に属するブロックであるか否かを判断する(ステップ♯51)。
その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯51でYES)、被写体における赤色についての度数を1だけカウントアップする一方(ステップ♯52)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯51でNO)、背景部における赤色についての度数を1だけカウントアップして(ステップ♯53)、ステップ♯54に進む。
ステップ♯54では、測光情報導出部21は、前記輝度Y[k]及び色差CrS[k],CbS[k]について、下記式(12)〜(14)を同時に満たすか否かを判断する。
−20<CrS[k]≦0 ・・・(12)
−30≦CbS[k]<0 ・・・(13)
Y[k]<480 ・・・(14)
その結果、測光情報導出部21は、前記式(12)〜(14)を同時に満たさないと判断した場合には(ステップ♯54でNO)、ステップ♯58の処理に進む一方、前記式(12)〜(14)を同時に満たすと判断した場合には(ステップ♯54でYES)、当該ブロックが被写体部に属するブロックであるか否かを判断する(ステップ♯55)。
その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯55でYES)、被写体部における緑色についての度数を1だけカウントアップする一方(ステップ♯56)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯55でNO)、背景部における緑色についての度数を1だけカウントアップして(ステップ♯57)、ステップ♯58に進む。
ステップ♯58では、測光情報導出部21は、前記輝度Y[k]及び色差CrS[k],CbS[k]について、下記式(15)〜(17)を同時に満たすか否かを判断する。
−20<CrS[k]≦0 ・・・(15)
0≦CbS[k]<40 ・・・(16)
Y[k]>800 ・・・(17)
その結果、測光情報導出部21は、前記式(15)〜(17)を同時に満たすと判断した場合には(ステップ♯58でYES)、ステップ♯60の処理に進む一方、前記式(15)〜(17)を同時に満たさないと判断した場合には(ステップ♯58でNO)、前記輝度Y[k]及び色差CrS[k],CbS[k]について、下記式(18)〜(20)を同時に満たすか否かを判断する(ステップ♯59)。
−40<CrS[k]≦−15 ・・・(18)
40≦CbS[k]<80 ・・・(19)
Y[k]>600 ・・・(20)
その結果、測光情報導出部21は、前記式(18)〜(20)を同時に満たすと判断した場合には(ステップ♯59でYES)、ステップ♯60の処理に進む一方、前記式(18)〜(20)を同時に満たさないと判断した場合には(ステップ♯59でNO)、ステップ♯63の処理に進む。
ステップ♯60では、測光情報導出部21は、当該ブロックが被写体部に属するブロックであるか否かを判断する。その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯60でYES)、被写体部における空色についての度数を1だけカウントアップする一方(ステップ♯61)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯60でNO)、背景部における空色についての度数を1だけカウントアップして(ステップ♯62)、ステップ♯63に進む。
ステップ♯63では、測光情報導出部21は、前記輝度Y[k]について、下記式(21)を満たすか否かを判断する。
Y[k]>2000 ・・・(21)
その結果、測光情報導出部21は、前記式(21)を満たさないと判断した場合には(ステップ♯63でNO)、ステップ♯67の処理に進む一方、前記式(21)を満たすと判断した場合には(ステップ♯63でYES)、当該ブロックが被写体部に属するブロックであるか否かを判断する(ステップ♯64)。
その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯64でYES)、被写体部における異常高輝度についての度数を1だけカウントアップする一方(ステップ♯65)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯64でNO)、背景部における異常高輝度についての度数を1だけカウントアップして(ステップ♯66)、ステップ♯67に進む。
ステップ♯67では、測光情報導出部21は、前記輝度Y[k]について、下記式(22)を満たすか否かを判断する。
Y[k]<100 ・・・(22)
その結果、測光情報導出部21は、前記式(22)を満たさないと判断した場合には(ステップ♯67でNO)、ステップ♯71の処理に進む一方、前記式(22)を満たすと判断した場合には(ステップ♯67でYES)、当該ブロックが被写体部に属するブロックであるか否かを判断する(ステップ♯68)。
その結果、測光情報導出部21は、当該ブロックが被写体部に属するブロックである場合には(ステップ♯68でYES)、被写体部における異常低輝度についての度数を1だけカウントアップする一方(ステップ♯69)、当該ブロックが被写体部に属するブロックでない場合、すなわち背景部に属するブロックである場合には(ステップ♯68でNO)、背景部における異常低輝度についての度数を1だけカウントアップして(ステップ♯70)、ステップ♯71に進む。
ステップ♯71では、測光情報導出部21は、全てのブロックについてステップ♯42〜♯70までの処理が終了したか否かを判断し、終了していない場合には(ステップ♯71でNO)、ステップ♯42の処理に戻る一方、終了した場合には(ステップ♯71でYES)、図5に示すフローチャートのステップ♯25に進む。
なお、本処理のうち、ステップ♯43の判断を行わずに、ステップ♯42,♯44の処理に基づいて、肌色領域を設定する(被写体部又は背景部の肌色度数の1カウントアップする)ようにしてもよい。
図9、図10は、測光情報導出部21によるステップ♯25の各色の背景度合ウェイト設定処理を示すフローチャートである。なお、ここでは、画像全体を、横20(個)×縦15(個)(=300(個))のブロックにマトリックス状に分割するものとするとともに、被写体部を、前記マトリックスのうち縦横それぞれ中央に位置する横12(個)×縦9(個)(=108(個))のブロックが属する領域とし、背景部を、その周囲に位置する192(個)のブロックが属する領域とする。
図9、図10に示すように、測光情報導出部21は、各色についての背景度合ウェイトの初期設定(クリア処理)を行った後(ステップ♯81)、ステップ♯82〜109で背景部における各色についての背景度合ウェイトを設定する。
まず、測光情報導出部21は、図7、図8に示す処理で得られた背景部における異常高輝度についての度数が30を超えているか否かを判断し(ステップ♯82)、超えていない場合には(ステップ♯82でNO)、ステップ♯86の処理に進む一方、超えている場合には(ステップ♯82でYES)、前記度数が60を超えているか否かを判断する(ステップ♯83)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯83でNO)、異常高輝度についての背景度合ウェイトを「4」に設定する一方(ステップ♯84)、超えている場合には(ステップ♯83でYES)、異常高輝度についての背景度合ウェイトを「8」に設定する(ステップ♯85)。
ステップ♯86では、測光情報導出部21は、図7、図8に示す処理で得られた背景部における異常低輝度についての度数が30を超えているか否かを判断し、超えていない場合には(ステップ♯86でNO)、ステップ♯90の処理に進む一方、超えている場合には(ステップ♯86でYES)、前記度数が60を超えているか否かを判断する(ステップ♯87)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯87でNO)、異常低輝度についての背景度合ウェイトを「4」に設定する一方(ステップ♯88)、超えている場合には(ステップ♯87でYES)、異常低輝度についての背景度合ウェイトを「8」に設定する(ステップ♯89)。
ステップ♯90では、測光情報導出部21は、図7、図8に示す処理で得られた背景部における肌色についての度数が30を超えているか否かを判断し、超えていない場合には(ステップ♯90でNO)、ステップ♯94の処理に進む一方、超えている場合には(ステップ♯90でYES)、前記度数が70を超えているか否かを判断する(ステップ♯91)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯91でNO)、肌色についての背景度合ウェイトを「2」に設定する一方(ステップ♯92)、超えている場合には(ステップ♯91でYES)、肌色についての背景度合ウェイトを「4」に設定する(ステップ♯93)。
ステップ♯94では、測光情報導出部21は、図7、図8に示す処理で得られた背景部における赤色についての度数が30を超えているか否かを判断し、超えていない場合には(ステップ♯94でNO)、ステップ♯98の処理に進む一方、超えている場合には(ステップ♯94でYES)、前記度数が70を超えているか否かを判断する(ステップ♯95)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯95でNO)、赤色についての背景度合ウェイトを「2」に設定する一方(ステップ♯96)、超えている場合には(ステップ♯95でYES)、赤色についての背景度合ウェイトを「4」に設定する(ステップ♯97)。
ステップ♯98では、測光情報導出部21は、図7、図8に示す処理で得られた背景部における空色についての度数が20を超えているか否かを判断し、超えていない場合には(ステップ♯98でNO)、ステップ♯102の処理に進む一方、超えている場合には(ステップ♯98でYES)、前記度数が60を超えているか否かを判断する(ステップ♯99)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯99でNO)、空色についての背景度合ウェイトを「2」に設定する一方(ステップ♯100)、超えている場合には(ステップ♯99でYES)、空色についての背景度合ウェイトを「4」に設定する(ステップ♯101)。
ステップ♯102では、測光情報導出部21は、図7、図8に示す処理で得られた背景部における緑色についての度数が30を超えているか否かを判断し、超えていない場合には(ステップ♯102でNO)、ステップ♯106の処理に進む一方、超えている場合には(ステップ♯102でYES)、前記度数が80を超えているか否かを判断する(ステップ♯103)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯103でNO)、緑色についての背景度合ウェイトを「2」に設定する一方(ステップ♯104)、超えている場合には(ステップ♯103でYES)、緑色についての背景度合ウェイトを「4」に設定する(ステップ♯105)。
ステップ♯106では、測光情報導出部21は、背景部における前記各色以外の色(以下、他色という)についての度数が30を超えているか否かを判断し、超えていない場合には(ステップ♯106でNO)、図5に示すステップ♯26の処理に進む一方、超えている場合には(ステップ♯106でYES)、前記度数が70を超えているか否かを判断する(ステップ♯107)。
その結果、測光情報導出部21は、超えていない場合には(ステップ♯107でNO)、他色についての背景度合ウェイトを「2」に設定する一方(ステップ♯108)、超えている場合には(ステップ♯107でYES)、他色についての背景度合ウェイトを「4」に設定する(ステップ♯109)。
このように、背景度合ウェイト処理では、例えば背景部に空色が多い場合には、空色のウェイトを高くするというように、背景部の各色の度数に応じて、背景色の重み付けを変えるようにしている。なお、各色の背景度合ウェイトの数値は、経験則に基づいて各色で異なるように設定してもよいし、同一の数値で統一してもよい。
図11は、背景部平均測光演算部22(背景部平均輝度情報演算部27及び背景部平均色差情報演算部28)によるステップ♯26の背景部の平均輝度及び平均色差情報の算出処理を示すフローチャートである。
図11に示すように、背景部平均測光演算部22は、ステップ♯111以降で求める背景度合ウェイトの総和値、背景部についての加重輝度値の総和値、加重CrS値の総和値及び加重CbS値の総和値をクリアにする初期設定を行う(ステップ♯110)。
次に、背景部平均測光演算部22は、図6に示すようにマトリックス状に分割された縦n(個)×横m(個)のブロック集合体に対して、最上位置の水平列から最下位置の水平列に向かう方向に、且つ各水平列において最左位置の垂直列から最右位置の垂直列に向かう方向に、順次注目ブロックを設定した上で、ステップ♯113〜♯115の処理を行う。
すなわち、背景部平均測光演算部22は、まず、i=0に設定した上で(ステップ♯111)、j=0に設定し(ステップ♯112)、被写体部の領域を示す下記式(23)を満たすか否かを判断する(ステップ♯113)。
3≦i≦n−4,4≦j≦m−5 ・・・(23)
その結果、背景部平均測光演算部22は、前記式(23)を満たすものである、すなわち注目ブロックが被写体部に属するものであると判断した場合には(ステップ♯113でYES)、ステップ♯116の処理に進む一方、前記式(23)を満たさない、すなわち注目ブロックが背景部に属するものであると判断した場合には(ステップ♯113でNO)、当該注目ブロックに割り当てられた背景度合ウェイトを累積的に加算する(ステップ♯114)。
また、背景部平均測光演算部22は、ステップ♯115において以下の処理(1)〜(3)を行う。(1)当該注目ブロックの輝度値と当該注目ブロックの色に対応する背景度合ウェイトとの乗算値(以下、加重輝度値という)を累積的に加算し、背景部に属する各ブロックに対してそれぞれ求められる加重輝度値の総和を算出する。(2)当該注目ブロックのCrS値と当該注目ブロックの色に対応する背景度合ウェイトとの乗算値(以下、加重CrS値という)を累積的に加算し、背景部に属する各ブロックに対してそれぞれ求められる加重CrS値の総和を算出する。(3)当該注目ブロックのCbS値と当該注目ブロックの色に対応する背景度合ウェイトとの乗算値(以下、加重CbS値という)を累積的に加算し、背景部に属する各ブロックに対してそれぞれ求められる加重CrS値の総和を算出する。このように、背景部に属するブロックについてのみステップ♯114,♯115の処理が行われ、その後、ステップ♯116の処理に進む。
ステップ♯116において、背景部平均測光演算部22は、注目すべきブロックの番号jを1だけインクリメントし(ステップ♯116)、そのjの値がj<mを満たすか否かを判断する(ステップ♯117)。j<mを満たす場合には(ステップ♯117でYES)、ステップ♯113の処理に戻る一方、j<mを満たさない場合(ステップ♯117でNO)、注目すべきブロックの番号iを1だけインクリメントし(ステップ♯118)、そのiの値がi<nを満たすか否かを判断する(ステップ♯119)。
その結果、i<nを満たす場合には(ステップ♯119でYES)、背景部平均測光演算部22は、ステップ♯112に戻って処理を行う一方、i<nを満たさない場合には(ステップ♯119でNO)、ステップ♯115の処理で得られた加重輝度値の総和、加重CrS値の総和及び加重CbS値の総和を、それぞれステップ♯114の処理で得られた背景度合ウェイトの累積値で除算することにより、背景部における輝度値、CrS値及びCbS値についての加重平均値をそれぞれ算出する(ステップ♯120)。
すなわち、加重輝度値の総和、加重CrS値の総和及び加重CbS値の総和をそれぞれYBsum,CrBsum,CbBsum、前記背景度合ウェイトの累積値をwtsumと表すものとすると、下記式(24)〜(26)を用いて、背景部における輝度値、CrS値及びCbS値の加重平均値YB,CrB,CbBを算出する。
YB=YBsum/wtsum ・・・(24)
CrB=CrBsum/wtsum ・・・(25)
CbB=CbBsum/wtsum ・・・(26)
ステップ♯120の処理後、図5に示すフローチャートのステップ♯27の処理に進む。
図12は、相対差分情報出力部23(相対輝度差分情報出力部29及び相対色差分情報出力部30)によるステップ♯27,♯28の相対輝度差及び相対色差差の算出処理及び相対被写体度合の算出処理を示すフローチャートである。
図12に示すように、相対差分情報出力部23は、図6に示すようにマトリックス状に分割された縦n(個)×横m(個)のブロック集合体に対して、最上位置の水平列から最下位置の水平列に向かう方向に、且つ各水平列において最左位置の垂直列から最右位置の垂直列に向かう方向に、順次注目ブロックを設定した上で、ステップ♯133〜♯137の処理を行う。
すなわち、相対差分情報出力部23は、まず、i=0に設定した上で(ステップ♯131)、j=0に設定し(ステップ♯132)、被写体部の領域を示す前記式(23)を満たすか否かを判断する(ステップ♯133)。
その結果、相対差分情報出力部23は、前記式(23)を満たさない、すなわち注目ブロックが背景部に属するものであると判断した場合には(ステップ♯133でNO)、当該注目ブロックの相対被写体度合を0に設定した上で(ステップ♯134)、ステップ♯138の処理に進む。
一方、相対差分情報出力部23は、前記式(23)を満たす、すなわち注目ブロックが被写体部に属するものであると判断した場合には(ステップ♯133でYES)、ステップ♯135において以下の処理(1)〜(3)を行う。すなわち、相対差分情報出力部23は、(1)当該注目ブロックの輝度値と、図11に示すフローチャートのステップ♯120で算出した背景部の輝度値に係る加重平均値YBとの差ΔY[k]の算出、(2)当該注目ブロックのCrS値と、同じくステップ♯120で算出した背景部のCrS値に係る加重平均値CrBとの差ΔCrS[k]の算出、当該注目ブロックのCbS値と、同じくステップ♯120で算出した背景部のCbS値に係る加重平均値との差ΔCbS[k]の算出を行う。
次に、相対差分情報出力部23は、例えば下記式(27)を用いて、当該注目ブロックの相対輝度色差差d_YCC[k]を算出する(ステップ♯136)。
d_YCC[k]=(ΔY[k])+(ΔCrS[k])
+(ΔCbS[k]) ・・・(27)
さらに、相対差分情報出力部23は、例えば下表1に示す、相対輝度色差差d_YCC[k]に応じてブロックの相対被写体度合rel_deg_B[k]が設定されたテーブルを用いて、各ブロックの相対被写体度合rel_deg_B[k]を算出した後(ステップ♯137)、ステップ♯138の処理に進む。
Figure 2007158941
すなわち、相対輝度色差差d_YCC[k]が大きいほど、換言すれば、当該ブロックと背景部との輝度差や色差差が大きいほど、当該ブロックが被写体を構成するブロックである確度が高いことから、前記テーブルは、相対輝度色差差d_YCC[k]が大きいほど、各ブロックの相対被写体度合rel_deg_B[k]を大きく設定している。
ステップ♯138では、相対差分情報出力部23は、注目すべきブロックの番号jを1だけインクリメントし(ステップ♯138)、そのjの値がj<mを満たすか否かを判断する(ステップ♯139)。j<mを満たす場合には(ステップ♯139でYES)、ステップ♯133の処理に戻る一方、j<mを満たさない場合(ステップ♯139でNO)、注目すべきブロックの番号iを1だけインクリメントし(ステップ♯140)、そのiの値がi<nを満たすか否かを判断する(ステップ♯141)。
その結果、i<nを満たす場合には(ステップ♯141でYES)、相対差分情報出力部23は、ステップ♯132に戻る一方、i<nを満たさない場合には(ステップ♯141でNO)、図5に示すフローチャートのステップ♯29に進む。
図13は、被写体領域抽出部24によるステップ♯29の総合被写体度合の算出処理を示すフローチャートである。
図13に示すように、被写体領域抽出部24は、ステップ♯152以降で求める絶対被写体度合をクリアにする初期設定を行う(ステップ♯151)。次に、被写体領域抽出部24は、図6に示すようにマトリックス状に分割された縦n(個)×横m(個)のブロック集合体に対して、最上位置の水平列から最下位置の水平列に向かう方向に、且つ各水平列において最左位置の垂直列から最右位置の垂直列に向かう方向に、順次注目ブロックを設定した上で、ステップ♯154〜♯167の処理を行う。
すなわち、被写体領域抽出部24は、まず、i=0に設定した上で(ステップ♯152)、j=0に設定する(ステップ♯153)。
そして、被写体領域抽出部24は、ステップ♯154〜♯166において、図7に示す色検知処理により検知した各ブロックの画像の色に対し、予め設定した各色についての絶対被写体度合(図20(a)参照)を用いて絶対被写体度合を設定する。
すなわち、被写体領域抽出部24は、当該注目ブロックが肌色のブロックであるか否かを判断し(ステップ♯154)、肌色のブロックである場合には(ステップ♯154でYES)、当該注目ブロックについての絶対被写体度合を8に設定する(ステップ♯155)。
一方、当該注目ブロックが肌色のブロックではない場合には(ステップ♯154でNO)、被写体領域抽出部24は、当該注目ブロックが赤色のブロックであるか否かを判断する(ステップ♯156)。その結果、被写体領域抽出部24は、赤色のブロックである場合には(ステップ♯156でYES)、当該注目ブロックについての絶対被写体度合を4に設定する(ステップ♯157)一方、当該注目ブロックが赤色のブロックではない場合には(ステップ♯156でNO)、当該注目ブロックが緑色のブロックであるか否かを判断する(ステップ♯158)。
その結果、緑色のブロックである場合には(ステップ♯158でYES)、被写体領域抽出部24は、当該注目ブロックについての絶対被写体度合を2に設定する(ステップ♯159)一方、当該注目ブロックが緑色のブロックではない場合には(ステップ♯158でNO)、当該注目ブロックが空色のブロックであるか否かを判断する(ステップ♯160)。
その結果、空色のブロックである場合には(ステップ♯160でYES)、被写体領域抽出部24は、当該注目ブロックについての絶対被写体度合を1に設定する(ステップ♯161)一方、当該注目ブロックが空色のブロックではない場合には(ステップ♯160でNO)、当該注目ブロックが異常高輝度のブロックであるか否かを判断する(ステップ♯162)。
その結果、異常高輝度のブロックである場合には(ステップ♯162でYES)、被写体領域抽出部24は、当該注目ブロックについての絶対被写体度合を1に設定する(ステップ♯163)一方、当該注目ブロックが異常高輝度のブロックではない場合には(ステップ♯162でNO)、当該注目ブロックが異常低輝度のブロックであるか否かを判断する(ステップ♯164)。
その結果、異常低輝度のブロックである場合には(ステップ♯164でYES)、被写体領域抽出部24は、当該注目ブロックについての絶対被写体度合を1に設定する(ステップ♯165)一方、当該注目ブロックが異常低輝度のブロックではない場合、すなわち前記他色のブロックである場合には(ステップ♯164でNO)、当該注目ブロックについての絶対被写体度合を2に設定する(ステップ♯166)。
次に、被写体領域抽出部24は、ステップ♯155,♯157,♯159,♯161,♯163,♯165,♯166のいずれかの処理で算出された、当該注目ブロックについての絶対被写体度合と、図12に示すフローチャートのステップ♯137の処理で算出された、当該注目ブロックについての相対被写体度合との乗算値を総合被写体度合deg_S[k]として算出し(ステップ♯167)、ステップ♯168の処理に進む。
ステップ♯168では、被写体領域抽出部24は、注目すべきブロックの番号jを1だけインクリメントし(ステップ♯168)、そのjの値がj<mを満たすか否かを判断する(ステップ♯169)。j<mを満たす場合には(ステップ♯169でYES)、ステップ♯154の処理に戻る一方、j<mを満たさない場合(ステップ♯169でNO)、注目すべきブロックの番号iを1だけインクリメントし(ステップ♯170)、そのiの値がi<nを満たすか否かを判断する(ステップ♯171)。
その結果、i<nを満たす場合には(ステップ♯171でYES)、被写体領域抽出部24は、ステップ♯153に戻る一方、i<nを満たさない場合には(ステップ♯171でNO)、図5に示すフローチャートのステップ♯30に進む。
図14は、被写体領域抽出部24によるステップ♯30の被写体位置情報算出処理を示すフローチャートであり、図15は、被写体領域抽出部24によるステップ♯31の被写体領域情報算出処理を示すフローチャートである。
図14に示すように、被写体領域抽出部24は、図13に示すフローチャートのステップ♯167で算出された総合被写体度合が2以上となるブロックを抽出する(ステップ♯181)。
そして、被写体領域抽出部24は、ステップ♯181で抽出したブロックの総合被写体度合を用いて被写体度合の重心位置(被写体位置)を算出する(ステップ♯182)。図6に示すブロック集合体に対して水平方向をX軸、該水平方向に直交する方向をY軸とする2次元座標系を設定し、各ブロックがこの2次元座標系の格子点に配置されているものとすると、抽出した重心位置(x_cgS,Y_cgS)は、任意のブロック(i,j)における総合被写体度合deg_S[(i,j)]と表すとき、
x_cgS=Σ(j×deg_S[(i,j)])/Σdeg_S[(i,j)] ・・・(28)
Y_cgS=Σ(i×deg_S[(i,j)])/Σdeg_S[(i,j)] ・・・(29)
により算出される。すなわち、重心位置は、総合被写体度合が2以上となる各ブロックについて、当該ブロックについての総合被写体度合と当該ブロックのX座標又はY座標との乗算値を算出するとともに、各ブロックに対して算出された乗算値の総和を求め、この総和を、各ブロックの総合被写体度合の総和で除算することで算出される。
この後、被写体領域抽出部24は、図15に示すように、図13に示すフローチャートのステップ♯167で算出された総合被写体度合が2以上となるブロックを抽出し(ステップ♯191)、この抽出したブロックの数num_Sを検出する(ステップ♯192)。
そして、被写体領域抽出部24は、図14のフローチャートで示すステップ♯182で算出した重心位置に対する各ブロックの標準偏差を算出する(ステップ♯193)。標準偏差は、下記式(30),(31)により算出される。
Figure 2007158941
そして、被写体領域抽出部24は、前記重心位置(x_cgS,Y_cgS)を基準として、X軸及びY軸の正負両方向にそれぞれ前記標準偏差分x_devS,y_devSだけ広がる領域を、X軸方向において被写体が存在する領域とする。
図16(a),(b)は、各ブロックに対して算出された総合被写体度合の分布の一例と、その総合被写体度合の分布に対して、前記式(28),(29)により算出された重心位置及び被写体領域を示す図である。
図16(a)は、肌色の地面に、肌色でない被写体が画像の中央部に存在する場合の画像を示しており、この画像における各ブロックの総合被写体度合が図16(a)に示すような態様となっている。この画像の場合、重心位置が点G1で示す位置となり、被写体領域は矢印Aで示す領域に設定されている。
図16(b)は、全体的に肌色や赤色等の被写体の特徴を示す色や輝度がほとんど無く、図16(a)に比して被写体が右側に配置された場合の画像を示しており、この画像における各ブロックの総合被写体度合が図16(b)に示すような態様となっている。この画像の場合、重心位置が点G2で示す位置となり、被写体領域は矢印Bで示す領域に設定されている。
図17は、焦点調節処理部25によるステップ♯5(図4参照)の焦点調節処理を示すフローチャートである。
図17に示すように、焦点調節処理部25は、被写体領域抽出部24により導出された重心位置(x_cgS,Y_cgS)を合焦対象位置として設定し(ステップ♯201)、この重心位置における画像に合焦させるべく、周知の山登り方式に基づく焦点調節動作を行うようにレンズ駆動部10bを制御する(ステップ♯202)。
図18は、露出制御値演算部26によるステップ♯6(図4参照)の露出レベル演算処理を示すフローチャートである。
露出制御値演算部26は、被写体領域抽出部24により導出された被写体領域に基づき、測光する領域を選定し(ステップ♯211)、この領域の測光処理を行い(ステップ♯212)、該測光結果に基づき、シャッタースピード及び絞り値を設定する(ステップ♯213)。
以上のように、画像を複数のブロックにマトリックス状に分割し、各ブロックの輝度Y及び色R,G,Bを算出し、この算出した輝度Y及び色R,G,Bに基づき色差CrS[k],CbS[k]を算出し、色差CrS[k],CbS[k]を用いて、被写体部及び背景部にそれぞれ属するブロックの色が、予め設定された複数の色のどの色に当てはまるかを検知するとともに各色に対応するブロック数(度数)を導出し、前記色ごとに導出された度数の大小に応じて重み係数(背景度合ウェイト)を設定し、前記背景部に属するブロックについて導出された輝度及び色差の平均値を算出し、前記中央部に属する各ブロックの輝度及び色差と、背景部の輝度及び色差の平均値との差分を算出し、この差分を用いて前記画像における主被写体領域を検出するようにしたので、特に、従来のように肌色等の特定色に基づく被写体領域の検出が困難な画像(シーン)であっても正確に且つ簡単な方法で被写体領域を検出することができる。
また、前記色ごとに導出された度数の大小に応じて、当該ブロックが背景の画像のブロックである的確性の大小を示す重み係数(背景度合ウェイト)を設定し、この背景度合ウェイトを用いて、背景部の輝度及び色差の平均値を演算するようにしたので、より簡単な方法で被写体領域を検出することができる。
また、ブロックの画像の色が肌色や赤色のときには、絶対被写体度合を高い値に設定するようにし、中央部に属する各ブロックの輝度及び色差と、背景部の平均輝度及び平均色差との差分に加えて、前記絶対被写体度合を被写体領域であるか否かの判断を行うためのパラメータとしたので、より正確に被写体領域を検出することができる。
また、総合被写体度合が所定値(本実施形態では「2」)を超える各ブロックの位置と前記総合被写体度合とを用いて、該総合被写体度合についての重心位置を算出し、この重心位置を主被写体が存在する位置として設定するようにしたので、簡単な方法で被写体の位置を検出することができる。
また、中央部に属する各ブロックの輝度及び色差と、背景部の輝度及び色差の平均値との差分に基づく相対被写体度合と前記絶対被写体度合とを要素とする総合被写体度合が、所定値(本実施形態では「2」)を超えるブロックで構成される領域を抽出し、抽出したブロックの位置と前記総合被写体度合を用いて、前記重心位置に対する各ブロックの相対距離についての標準偏差値を算出し、前記重心位置を基準として、X軸及びY軸の正負両方向にそれぞれ前記標準偏差分だけ広がる領域を被写体領域として設定するようにしたので、簡単な方法で被写体の位置を検出することができる。
そして、以上のように算出した重心位置を合焦対象位置として設定し、この重心位置における画像に合焦するよう焦点調節動作を行うようにしたので、正確な焦点調節動作を行うことができる。
また、前記のように算出した被写体領域に基づいて測光する領域を選定し、この領域の測光結果に基づき、シャッタースピード及び絞り値を設定するようにしたので、適切なシャッタースピード及び絞り値を設定することができる。
本件は、前記実施形態に加えて、あるいは前記実施形態に代えて次の形態[1]〜[3]に説明する変形形態も含むものである。
[1]前記実施形態では、中央部に属する各ブロックの輝度及び色差と、背景部の輝度及び色差の平均値との差分に基づく相対被写体度合と前記絶対被写体度合とを判断パラメータとする総合被写体度合が、所定値(本実施形態では「2」)を超えるブロックで構成される領域を抽出し、抽出したブロックの位置と前記総合被写体度合を用いて、前記重心位置に対する各ブロックの相対距離についての標準偏差値を算出し、前記重心位置を基準として、X軸及びY軸の正負両方向にそれぞれ前記標準偏差分だけ広がる領域を被写体領域として設定するようにしたが、これに限らず、単に、中央部に属する各ブロックの輝度及び色差と、背景部の平均輝度及び平均色差との差分に基づく相対被写体度合と前記絶対被写体度合とを判断パラメータとする総合被写体度合が、所定値(本実施形態では「2」)を超えるブロックで構成される領域を主被写体領域として設定するようにしてもよく、これによっても、簡単な方法で被写体領域を検出することができる。
[2]各ブロックの総合被写体度合のうちの最大値が所定値より小さい場合は、画像の中央部を主被写体が存在する位置として設定するようにすると、風景のように均一な被写体を撮影しているのに、主被写体が他の位置に存在すると誤検知されるのを防止することができる。
[3]前記第1の実施形態では、肌色、赤色、緑色及び空色(青空の色)と、輝度が相対的に極めて高い異常高輝度及び輝度が相対的に極めて低い異常低輝度との計6色を検知するために、肌色及び赤色のみを色検知の対象として被写体領域を検出・抽出する場合には、輝度Yを用いずに色差CrS,CbSのみで度数、背景度合ウェイト、相対被写体度合、総合被写体度合を算出するようにしてもよく、また、異常高輝度及び異常低輝度のみを色検知の対象として被写体領域を検出・抽出する場合には、色差CrS,CbSを用いずに輝度Yのみで度数、背景度合ウェイト、相対被写体度合、総合被写体度合を算出するようにしてもよい。
本発明に係る撮像装置の正面図である。 同じく撮像装置の背面図である。 撮像装置の電気的な構成を示すブロック構成図である。 制御部による一連の撮影処理を示すフローチャートである。 図4に示すフローチャートのステップ♯4の被写体領域検出処理のサブルーチンを示すフローチャートである。 (a)は、取得した画像を縦n(個)×横m(個)のブロックにマトリックス状に分割した状態を示す図であり、(b)は、被写体部及び背景部を設定した状態を示す図である。 測光情報導出部によるステップ♯24の色検知処理を示すフローチャートである。 同じく測光情報導出部によるステップ♯24の色検知処理を示すフローチャートである。 測光情報導出部によるステップ♯25の各色の背景度合ウェイト設定処理を示すフローチャートである。 測光情報導出部によるステップ♯25の各色の背景度合ウェイト設定処理を示すフローチャートである。 背景部平均測光演算部によるステップ♯26の背景部の平均輝度及び平均色差情報の算出処理を示すフローチャートである。 相対差分情報出力部によるステップ♯27,♯28の相対輝度差及び相対色差差の算出処理及び相対被写体度合の算出処理を示すフローチャートである。 図13は、被写体領域抽出部24によるステップ♯29の総合被写体度合の算出処理を示すフローチャートである。 被写体領域抽出部によるステップ♯30の被写体位置情報算出処理を示すフローチャートである。 被写体領域抽出部によるステップ♯31の被写体領域情報算出処理を示すフローチャートである。 各ブロックに対して算出された総合被写体度合の分布の一例と、その総合被写体度合の分布に対して、前記式(28),(29)により算出された重心位置及び被写体領域を示す図である。 焦点調節処理部によるステップ♯5の焦点調節処理を示すフローチャートである。 露出制御値演算部によるステップ♯6の露出レベル演算処理を示すフローチャートである。 YCrCb色空間における各色の領域を示す図である。 (a)は、絶対被写体度合の説明図であり、(b)は、相対被写体度合の説明図である。
符号の説明
3a 絞り
3b ズームレンズ光学系
3c メカニカルシャッター
10 駆動部
10a 絞り駆動部
10b レンズ駆動部
10c シャッター駆動部
11 撮像素子
20 制御部
21 測光情報導出部
22 背景部平均測光演算部
23 相対差分情報出力部
24 被写体領域抽出部
25 焦点調節処理部
26 露出制御値演算部
27 背景部平均輝度情報演算部
28 背景部平均色差情報演算部
29 相対輝度差分情報出力部
30 相対色差分情報出力部

Claims (15)

  1. 被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出する被写体領域検出装置であって、
    画像を複数のブロックに分割し、各ブロックの画像に関連する所定のパラメータを含む測光情報を導出する測光情報導出手段と、
    前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された測光情報の平均値を背景平均測光情報として導出する背景平均測光情報導出手段と、
    前記中央部に属するブロックの測光情報と、前記背景平均測光情報導出手段により導出された背景平均測光情報との差分を相対差分情報として導出する相対差分情報導出手段と、
    前記相対差分情報導出手段により導出された相対差分情報に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段と
    を備えることを特徴とする被写体領域検出装置。
  2. 前記背景平均測光情報導出手段は、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出し、
    前記相対差分情報導出手段は、前記中央部に属する各ブロックの輝度情報と、前記背景平均測光情報導出手段により導出された前記背景平均輝度情報との差分を相対差分情報として導出することを特徴とする請求項1に記載の被写体領域検出装置。
  3. 前記背景平均測光情報導出手段は、前記背景部に属する各ブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出し、
    前記相対差分情報導出手段は、前記中央部に属する各ブロックの色情報と、前記背景平均測光情報導出手段により導出された前記背景平均色情報との差分を相対差分情報として導出することを特徴とする請求項1または2に記載の被写体領域検出装置。
  4. 被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出する被写体領域検出装置であって、
    画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出手段と、
    前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出手段と、
    前記背景部に属するブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出手段と、
    前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出手段により導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出手段と、
    前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出手段により導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出手段と、
    前記相対輝度差分情報導出手段により導出された相対輝度差分情報及び前記相対色差分情報導出手段により導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段と
    を備えることを特徴とする被写体領域検出装置。
  5. 前記背景平均色情報導出手段は、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報及び色情報に基づいて求められるCr,Cbの色差情報を平均した背景平均色差情報を導出し、
    前記相対色差分情報導出手段は、前記背景平均色情報導出手段により導出された前記背景平均色差情報と、前記中央部に属する各ブロックの色差との相対色差分情報として導出することを特徴とする請求項4に記載の被写体領域検出装置。
  6. 主被写体としての的確性を、所定のスケール値をもつ被写体度合で評価する場合において、前記被写体領域検出手段は、前記相対輝度差分情報導出手段により導出された相対輝度差分情報が示す差分、及び前記相対色差分情報導出手段により導出された相対色差分情報が示す差分の少なくとも一方が大きいほど、前記中央部に属する各ブロックの画像についてのスケール値を、主被写体としての的確性が高い値に設定することを特徴とする請求項4または5に記載の被写体領域検出装置。
  7. 前記被写体領域検出手段は、前記中央部に属する各ブロックの色情報が所定の色域内に含まれるときには、前記被写体度合を相対的に高い値に設定することを特徴とする請求項6に記載の被写体領域検出装置。
  8. 前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックの位置とその被写体度合とを用いて、該被写体度合についての重心位置を算出し、この重心位置を前記主被写体が存在する位置として設定することを特徴とする請求項6または7に記載の被写体領域検出装置。
  9. 前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックの位置情報を用いて、前記重心位置に対する各ブロックの相対距離についての標準偏差値を算出し、この標準偏差値を、前記主被写体が存在する領域を示す情報として出力することを特徴とする請求項8に記載の被写体領域検出装置。
  10. 前記被写体領域検出手段は、前記被写体度合が所定値を超えるブロックで構成される領域を、前記主被写体が存在する領域として判定することを特徴とする請求項6ないし8のいずれかに記載の被写体領域検出装置。
  11. 前記被写体領域検出手段は、前記各ブロックの被写体度合の最大値が所定値より小さい場合は、前記中央部を主被写体が存在する位置として設定することを特徴とする請求項6ないし10のいずれかに記載の被写体領域検出装置。
  12. 被写体の光像を光電変換する撮像手段と、前記撮像手段の撮像面に被写体像を結像する撮像光学系とを備え、前記撮影光学系が、当該撮影光学系の焦点位置を前記撮像手段の撮像面上に合焦させるための焦点調節光学系を有する撮像装置であって、
    請求項1ないし11のいずれかに記載の被写体領域検出装置と、
    前記被写体領域検出装置により検出された主被写体が存在する領域に基づいて、前記焦点調節光学系に合焦動作を行わせる焦点調節制御手段と
    を備えることを特徴とする撮像装置。
  13. 被写体の光像を光電変換する撮像手段と、前記撮像手段の撮像面に被写体像を結像する撮像光学系とを備えた撮像装置であって、
    請求項1ないし11のいずれかに記載の被写体領域検出装置と、
    前記撮像手段の撮像面への露光量を可変させるための露光量可変機構と、
    前記被写体領域検出装置により検出された主被写体が存在する領域に基づき、前記露光量可変機構を用いて前記撮像手段の撮像面への露光量を制御する露出制御手段と
    を備えることを特徴とする撮像装置。
  14. 被写体の光像を光電変換する撮像手段から画像情報を取得し、この画像情報に基づき主被写体が存在する領域を検出するための被写体領域検出方法であって、
    測光情報導出手段が、画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出ステップと、
    背景平均輝度情報導出手段が、前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出ステップで導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出ステップと、
    背景平均色情報導出手段が、前記背景部に属するブロックについて前記測光情報導出ステップで導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出ステップと、
    相対輝度差分情報導出手段が、前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出ステップで導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出ステップと、
    相対色差分情報導出手段が、前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出ステップで導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出ステップと、
    被写体領域検出手段が、前記相対輝度差分情報導出ステップで導出された相対輝度差分情報及び前記相対色差分情報導出ステップで導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出ステップと
    を備えることを特徴とする被写体領域検出方法。
  15. 画像情報に基づき主被写体が存在する領域をコンピュータに検出させるためのプログラムであって、
    前記コンピュータを、
    画像を複数のブロックに分割し、各ブロックの輝度情報及び色情報を含む測光情報を導出する測光情報導出手段と、
    前記画像を、該画像の中心を含む所定の領域を有する中央部とその周辺領域を有する背景部とに区分したとき、前記背景部に属するブロックについて前記測光情報導出手段により導出された輝度情報を平均した背景平均輝度情報を導出する背景平均輝度情報導出手段と、
    前記背景部に属するブロックについて前記測光情報導出手段により導出された色情報を平均した背景平均色情報を導出する背景平均色情報導出手段と、
    前記中央部に属する各ブロックの輝度情報と、前記背景平均輝度情報導出手段により導出された前記背景平均輝度情報との差分を相対輝度差分情報として導出する相対輝度差分情報導出手段と、
    前記中央部に属する各ブロックの色情報と、前記背景平均色情報導出手段により導出された前記背景平均色情報との差分を相対色差分情報として導出する相対色差分情報導出手段と、
    前記相対輝度差分情報導出手段により導出された相対輝度差分情報及び前記相対色差分情報導出手段により導出された相対色差分情報のうち少なくとも一方に基づき、前記画像における主被写体が存在する領域を検出する被写体領域検出手段
    として機能させるためのプログラム。
JP2005353678A 2005-12-07 2005-12-07 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム Pending JP2007158941A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005353678A JP2007158941A (ja) 2005-12-07 2005-12-07 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005353678A JP2007158941A (ja) 2005-12-07 2005-12-07 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2007158941A true JP2007158941A (ja) 2007-06-21

Family

ID=38242686

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005353678A Pending JP2007158941A (ja) 2005-12-07 2005-12-07 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2007158941A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009126493A (ja) * 2007-11-28 2009-06-11 Clarion Co Ltd 障害物検出装置
JP2010156850A (ja) * 2008-12-26 2010-07-15 Canon Inc 焦点調節装置及び方法
WO2011086901A1 (ja) * 2010-01-13 2011-07-21 株式会社ニコンシステム 画像処理装置、撮像装置、および画像処理プログラム
JP2011217355A (ja) * 2010-03-19 2011-10-27 Nikon Corp 被写体特定用プログラム、およびカメラ
JP2017073639A (ja) * 2015-10-06 2017-04-13 キヤノン株式会社 画像処理装置およびその制御方法ならびにプログラム
JP2018032295A (ja) * 2016-08-26 2018-03-01 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置、および情報処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340875A (ja) * 1991-05-17 1992-11-27 Mitsubishi Electric Corp 撮像装置
JP2004173151A (ja) * 2002-11-22 2004-06-17 Minolta Co Ltd デジタルカメラ

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04340875A (ja) * 1991-05-17 1992-11-27 Mitsubishi Electric Corp 撮像装置
JP2004173151A (ja) * 2002-11-22 2004-06-17 Minolta Co Ltd デジタルカメラ

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009126493A (ja) * 2007-11-28 2009-06-11 Clarion Co Ltd 障害物検出装置
JP2010156850A (ja) * 2008-12-26 2010-07-15 Canon Inc 焦点調節装置及び方法
WO2011086901A1 (ja) * 2010-01-13 2011-07-21 株式会社ニコンシステム 画像処理装置、撮像装置、および画像処理プログラム
JP2012146179A (ja) * 2010-01-13 2012-08-02 Nikon Systems Inc 画像処理装置、撮像装置、および画像処理プログラム
JP2011217355A (ja) * 2010-03-19 2011-10-27 Nikon Corp 被写体特定用プログラム、およびカメラ
US8675958B2 (en) 2010-03-19 2014-03-18 Nikon Corporation Subject determination method, computer program product for determining subject, and camera
JP2017073639A (ja) * 2015-10-06 2017-04-13 キヤノン株式会社 画像処理装置およびその制御方法ならびにプログラム
US10311327B2 (en) 2015-10-06 2019-06-04 Canon Kabushiki Kaisha Image processing apparatus, method of controlling the same, and storage medium
JP2018032295A (ja) * 2016-08-26 2018-03-01 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置、および情報処理方法
US10661177B2 (en) 2016-08-26 2020-05-26 Nintendo Co., Ltd. Information processing system, storage medium having stored therein information processing program, information processing apparatus, and information processing method

Similar Documents

Publication Publication Date Title
US9473698B2 (en) Imaging device and imaging method
TWI524709B (zh) 影像擷取設備、影像擷取設備之控制方法及電子裝置
US9706120B2 (en) Image pickup apparatus capable of changing priorities put on types of image processing, image pickup system, and method of controlling image pickup apparatus
US8212890B2 (en) Imaging device and imaging method
KR101120966B1 (ko) 카메라에 대한 핸드 지터 감소 시스템
KR20070068980A (ko) 카메라
US8120658B2 (en) Hand jitter reduction system for cameras
US20100020191A1 (en) Imaging apparatus and method
US8237854B2 (en) Flash emission method and flash emission apparatus
US8953013B2 (en) Image pickup device and image synthesis method thereof
US9071766B2 (en) Image capturing apparatus and control method thereof
JP4487342B2 (ja) デジタルカメラ
JP2010147786A (ja) 撮像装置及び画像処理方法
JP2009017229A (ja) 撮像装置及び撮像制御方法
JP2007158941A (ja) 被写体領域検出装置、撮像装置、被写体領域検出方法及びプログラム
JP2010072619A (ja) 露出演算装置およびカメラ
JP2008085634A (ja) 撮像装置及び画像処理方法
JP5048599B2 (ja) 撮像装置
JP2015031743A (ja) 露出制御装置、その制御方法、および制御プログラム、並びに撮像装置
JP2014179920A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
TWI723435B (zh) 影像輸出方法與電子裝置
JP4649734B2 (ja) 映像信号処理装置および映像信号処理プログラムを記録した記録媒体
JP5849515B2 (ja) 露出演算装置およびカメラ
KR101612853B1 (ko) 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체
JP2016046610A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20071219

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071219

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081126

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20081126

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111129