JP4831175B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP4831175B2
JP4831175B2 JP2009016002A JP2009016002A JP4831175B2 JP 4831175 B2 JP4831175 B2 JP 4831175B2 JP 2009016002 A JP2009016002 A JP 2009016002A JP 2009016002 A JP2009016002 A JP 2009016002A JP 4831175 B2 JP4831175 B2 JP 4831175B2
Authority
JP
Japan
Prior art keywords
area
luminance
detected
color
subject image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009016002A
Other languages
English (en)
Other versions
JP2010175654A (ja
Inventor
陽太 折口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009016002A priority Critical patent/JP4831175B2/ja
Priority to US12/690,145 priority patent/US8279300B2/en
Priority to CN2010101043275A priority patent/CN101841660B/zh
Publication of JP2010175654A publication Critical patent/JP2010175654A/ja
Application granted granted Critical
Publication of JP4831175B2 publication Critical patent/JP4831175B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals

Description

本発明は、撮像装置及び撮像方法に関する。
デジタルスチルカメラやビデオカメラ等の撮像装置には、受光した光量に基づいて露出を制御する自動露出(AE:auto exposure)機能を有するものがある。これにより、撮像装置は、被写体像の明るさを調整することができる。そして、被写体像全体を基準に明るさを調整するのか、又は被写体像の一部、例えば人物の顔を基準に明るさを調整するのかによって、被写体像の明るさが変化する。例えば、被写体像全体を基準に明るさを調整するとき、人物の周囲に照明や窓などの高輝度の光源が存在すると、人物が暗くなり、撮影者が期待する適正な明るさに調整できないことがあった。
そこで、人物を対象として露出制御するため、例えば顔認識技術を用いることが考えられる。しかし、従来の顔認識技術は画像のエッジ情報に基づいているため、演算量が多くなり、回路規模が大きくなる傾向にある。
一方、被写体の色に着目して、特定の色を有する被写体を対象として露出制御する技術がある。例えば、特許文献1には、光源を判定して肌色条件を設定し、画像内から肌色の色相を有する領域を検出する技術が開示されている。そして、検出された領域に基づいて、人物の顔が適正な明るさ及び色で再現されるように、明るさ補正、ホワイトバランス補正などが行われる。また、特許文献2には、光学像に含まれる色成分を検出して、検出された色成分から適正露出値を算出する技術が開示されている。
特開2004−192129号公報 特開2000−69490号公報
ところで、特定の色を有する被写体を検出して露出制御する場合、まず、画面の全体面積に占める特定の色を有する被写体像の面積を検出し、検出された面積が所定面積(閾値)より広いときに、対象とする被写体が検出されたと判断する。そして、対象被写体が検出されたと判断されたとき、対象被写体を基準として明るさの調整をし、対象被写体が検出されていないと判断されたとき、画面全体を基準として明るさの調整をする。
しかし、このように、閾値を基準として明るさを調整すると、対象被写体の面積が閾値近傍にあり、閾値を挟んで面積値が上下したとき、対象被写体を基準に明るさが調整されたり、画面全体を基準に明るさを調整されたりという動作が繰り返される。そのため、露出制御されて表示された画面が急に明るくなったり、急に暗くなったりして、画面がちらつく現象が生じる。そのため、画面がちらついてユーザーにとって画面が見にくくなるという問題があった。また、ハンチングのような動作が生じるため、露出制御が不安定になるという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、特定の色を有する被写体像の面積を検出しながら、露出制御を安定化し、露出制御されて表示された画面の明るさをちらつかせずに滑らかに変化させることが可能な、新規かつ改良された撮像装置及び撮像方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、対象とする被写体の色成分と同一又は近似する色成分を有する領域を被写体像の画像データから検出する色成分領域検出部と、検出された領域の面積を算出する面積算出部と、被写体像全体の輝度及び検出された領域の輝度を算出する輝度算出部と、被写体像全体の輝度及び検出された領域の輝度を用いて、検出された領域の面積に応じて現在の輝度レベルを決定する現在輝度レベル決定部と、現在輝度レベルが目標輝度レベルになるように露出量を算出する露出量算出部とを有する撮像装置が提供される。
上記現在輝度レベル決定部は、検出された領域の面積が第1の所定面積以下であるとき、検出された領域の面積に応じて被写体像全体の輝度と検出された領域の輝度がそれぞれ寄与する比率を決定し、比率と被写体像全体の輝度及び検出された領域の輝度とによって現在の輝度レベルを決定してもよい。
上記現在輝度レベル決定部は、検出された領域の面積が第1の所定面積以上であるとき、検出された領域の輝度を現在の輝度レベルに決定してもよい。
上記現在輝度レベル決定部は、検出された領域の面積が減少するにつれて、被写体像全体の輝度が高く寄与するように、比率を決定してもよい。
上記現在輝度レベル決定部は、検出された領域の面積が第1の所定面積より狭い第2の所定面積以下であるとき、被写体像全体の輝度を現在の輝度レベルに決定してもよい。
上記検出された領域の輝度の分布に基づいて、検出された領域を限定する領域限定部を更に有し、現在輝度レベル決定部は、検出された領域の面積が第1の所定面積以上であり、かつ第1の所定面積より広い第3の所定面積以上であるとき、限定された領域の輝度を現在の輝度レベルに決定してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、対象とする被写体の色成分と同一又は近似する色成分を有する領域を被写体像の画像データから検出するステップと、検出された領域の面積を算出するステップと、被写体像全体の輝度及び検出された領域の輝度を算出するステップと、被写体像全体の輝度及び検出された領域の輝度を用いて、検出された領域の面積に応じて現在の輝度レベルを決定するステップと、現在輝度レベルが目標輝度レベルになるように露出量を算出するステップとを有する撮像方法が提供される。
本発明によれば、特定の色を有する被写体像の面積を検出しながら、露出制御を安定化し、露出制御されて表示された画面の明るさをちらつかせずに滑らかに変化させることができる。
本発明の第1の実施形態に係る撮像装置を示すブロック図である。 同実施形態に係るカメラブロック、システムブロックを示すブロック図である。 同実施形態に係る撮像装置のAE処理動作を示すフローチャートである。 同実施形態に係る撮像装置の色検出AE処理動作を示すフローチャートである。 被写体像を示す説明図である。 被写体像を示す説明図である。 被写体像を示す説明図である。 被写体像を示す説明図である。 ある輝度における色相・彩度図を示す説明図である。 検出された色領域の輝度が現在の輝度レベルの算出に寄与する割合と、検出された色領域が被写体像全体の面積に占める割合との関係を示すグラフである。 画枠及び画枠内の検波エリアを示す説明図である。 画枠及び画枠内の検波エリアを示す説明図である。 画枠及び画枠内の検波エリアを示す説明図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本実施形態に係る撮像装置100の構成
2.本実施形態に係る撮像装置100の動作
<1.撮像装置100の構成>
まず、図1を参照して、本発明の第1の実施形態に係る撮像装置100の構成について説明する。図1は、本実施形態に係る撮像装置100を示すブロック図である。図2は、本実施形態に係るカメラブロック130、システムブロック160を示すブロック図である。本実施形態に係る撮像装置100は、例えばデジタルスチルカメラ、デジタルビデオカメラなどであり、被写体像をデジタルデータとして記録することができる。
撮像装置100は、例えば、レンズ110と、撮像素子120と、カメラブロック130と、システムブロック160と、映像ディスプレイ170と、リモートコントローラ180などからなる。
レンズ110は、被写体からの光を透過させて、撮像装置120に被写体像を結像させる。レンズ110は、例えば、NDフィルタ機構112と、ズームレンズ114と、絞り機構116と、フォーカスレンズ118などからなる。
NDフィルタ機構112は、例えばズームレンズ114よりも被写体側に設置される。NDフィルタ機構112は、レンズ110に入射される光量を減少させる。NDフィルタ機構112は、カメラマイコン134からの制御信号を受けて、NDフィルタの位置を変化させる。
ズームレンズ114は、レンズ110の焦点距離を変化させて、被写体像をズームインしたり、ズームアウトしたりする。絞り機構116は、被写体からの光を遮断して、撮像素子120に到達する光量を調整する。絞り機構116は、カメラマイコン134からの制御信号を受けて、開口径を変化させる。フォーカスレンズ118は、撮像素子120に被写体像を合焦させる。
撮像素子120は、例えばCCD(Charge Coupled Devices)、CMOS(Complementary Metal Oxide Semiconductor)撮像素子などの固体撮像素子であり、レンズ110を通じて被写体から入射された光を電気信号に変換する。また、撮像素子120は、電子シャッター機構122を有する。電子シャッター機構122は、カメラマイコン134からの制御信号を受けて、シャッター速度を変化させる。
カメラブロック130は、例えば、DSP(Digital Signal Processor)132と、カメラマイコン134などからなる。カメラマイコン134は、例えばCPUであり、メモリに格納されたプログラムを実行することにより、DSP132及び撮像装置100全体を統括的に制御し、また、その制御のための各種演算を実行する。カメラマイコン134は、現在輝度レベル決定部の一例であり、被写体像全体の輝度及び検出された領域の輝度を用いて、検出された領域の面積に応じて現在の輝度レベルを決定する。また、カメラマイコン134は、露出量算出部の一例であり、現在輝度レベルが目標輝度レベルになるように露出量を算出する。
DSP132は、例えば、マスターゲイン調整部136と、WBゲイン調整部138と、色領域検出器140と、検波器150などからなる。マスターゲイン調整部136は、カメラマイコン134において露出量に基づいて算出されたマスターゲイン値を取得する。マスターゲイン調整部136は、マスターゲイン値に基づいて、被写体像の明るさ等を調整する。WBゲイン調整部138は、カメラマイコン134において画像データの色成分に基づいて算出されたWBゲイン値を取得する。WBゲイン調整部138は、WBゲイン値に基づいて、画像データを調整する。
色領域検出器140は、検出色領域表示部142と、色成分設定部144と、検出色領域生成部146などからなる。検出色領域表示部142は、設定された色成分と同一又は近似する色成分を有する領域を明確にするため、画面に検出色領域を表示できるように映像信号を生成する。色成分設定部144は、ユーザーが検出したい対象とする被写体が有する色成分を設定する。色成分は、例えば、色彩値、彩度値、明度値及びそれぞれの範囲からなる。検出色領域生成部146は、色成分領域検出部の一例であり、画像データから、設定された色成分と同一又は近似する色成分を有する部分を検出する。そして、検出色領域生成部146は、検出された部分を検出色領域信号として生成し、検波器150の積分処理部152とカウンタ処理部154に出力する。
検波器150は、積分処理部152と、カウンタ処理部154などからなる。検波器150は、例えばAE(auto exposure:自動露出)のための検波を行う。積分処理部152は輝度算出部の一例であり、検出色領域信号の輝度値に基づいて、検出された色領域の輝度積分値を算出する。積分処理部152は、算出した輝度積分値をカメラマイコン134に出力する。カウンタ処理部154は面積算出部の一例であり、検出色領域信号に基づいて、検出された色領域の画素数をカウントする。これにより、検出色領域の積分面積が算出される。カウンタ処理部154は、算出した積分面積をカメラマイコン134に出力する。
システムブロック160は、FPGA(Field Programmable Gate Array)162と、ビデオエンコーダ166と、システムマイコン168などからなる。FPGA162には、GUI部164が含まれる。GUI部164は、OSD(オンスクリーンディスプレイ)情報を生成する。
ビデオエンコーダ166は、画像データを基に、モニタ表示用の映像信号を生成し、映像ディスプレイ170に出力する。システムマイコン168は、例えばCPUであり、メモリに格納されたプログラムを実行することにより、システムブロック160全体を統括的に制御し、また、その制御のための各種演算を実行する。
映像ディスプレイ170は、例えば撮像装置100に設けられた液晶ディスプレイ、有機ELディスプレイなどであり、映像信号による映像を表示する。映像ディスプレイ170は、被写体像を表示するだけでなく、例えばメニュー画面の表示や、検出された色領域の表示などをする。
リモートコントローラ180は、ユーザーによって操作され、操作内容に応じた制御信号を生成する。そして、リモートコントローラ180は、生成した制御信号をシステムマイコン168に出力する。
<2.撮像装置100の動作>
次に、図3を参照して、本実施形態に係る撮像装置100のAE処理動作について説明する。図3は、本実施形態に係る撮像装置100のAE処理動作を示すフローチャートである。
撮像装置100のAE(auto exposure:自動露出制御)は、被写体を撮影する際、被写体像の明るさを適切にするために行われる。まず、撮像装置100では、目標輝度レベルが決定される(ステップS101)。目標輝度レベルは、対象とする被写体像をどの程度明るくするかによって、値が異なる。目標輝度レベルは、一定としてもよいし、撮影シーンに応じて決定されるとしてもよい。撮影シーンは、ユーザーによって選択されてもよいし、取得された画像データから判断されてもよい。
次に、画像データから輝度値を取得し、取得した輝度値に基づいて、AE検波値を算出する。AE検波値は、被写体像全体の輝度を基準に算出される。このとき、算出された被写体像全体のAE検波値は正規化されて、現在の輝度レベルとしてまず算出される(ステップS102)。ここで、AE検波値の正規化とは、検波面積に依存しない輝度レベルを算出することである。つまり、画素ごとに輝度を積算した積分値を、積分した画素数で除算し、検波エリアの面積、積分している画素数に依存せず、輝度レベルを同様に比較できるようにすることである。AEの動作モードの違い、たとえばスポットライトを探してAEするモードでは、通常の検波エリアの9分の1の面積でAE検波値を得る。後述する色検出AEでは、色領域の面積でAE検波値を得る。また、映像信号フォーマットが異なる場合、たとえば、1920×1080モードと、1280×720モードでは、モニタ上での検波エリアの面積が同じ用に見えても得られるAE検波値の積分している画素数は異なる。このようなAE検波値が正規化されることによって、AE動作モードによる検波面積の違いや、映像信号フォーマットの違いに関わらず、AE検波値を同様に扱うことができる。
その後、色検出AE処理を行う(ステップS103)。色検出AE処理は、画像データから特定の色成分を有する領域を検出し、その検出された色領域の輝度レベルや被写体像全体の輝度レベルを用いて、現在の輝度レベルを算出する。特定の色成分とは、対象としたい被写体の色成分であり、例えば、顔検出をする場合は肌色の色成分などである。色検出AE処理の詳細は、後述する。なお、検出された色領域の面積値によっては、色検出AE処理が行われない場合もある。このときは、ステップS102で算出された現在の輝度レベルが維持される。
そして、ステップS103で算出された現在の輝度レベルがステップS101で決定された目標輝度レベルになるように露出制御がされる(ステップS104)。露出制御では、例えば、算出された目標輝度レベルとなるように、ゲイン、絞りの開口値、シャッター速度が調整される。
以上の動作によって、被写体像の画像データに基づいて、AE処理動作が行われる。また、本実施形態では、特定の色成分を有する領域を参照した色検出AE処理が実行される。
次に、図4を参照して、本実施形態に係る撮像装置100の色検出AE処理動作について説明する。図4は、本実施形態に係る撮像装置100の色検出AE処理動作を示すフローチャートである。
まず、色検出AE処理が実行されるか否かが判断される(ステップS111)。色検出AE処理が実行されない場合は、被写体像全体の輝度レベルが現在の輝度レベルとなり、被写体像全体の輝度レベルが目標輝度レベルになるように露出制御がされる。色検出AE処理が実行される場合は、対象とする被写体の色成分が設定されている。例えば、人物の顔を対象とする場合、肌色の色成分が設定されている。図9に設定された色成分の例を示す。図9は、ある輝度における色相・彩度図190を示す説明図である。色成分は、色相値、彩度値、輝度値によって特定される。ある色成分は、色相・彩度図190において、例えば、色成分192のように表される。
また、色検出AE処理が実行される場合は、設定された色成分に新たに影響を与える色制御が行われる否かが判断される(ステップS112)。色制御は、例えば、撮像装置100が有する機能であり、被写体の色を調整する制御である。色制御が行われる場合は、例えば、初めに設定された色成分の彩度、色相が調整されて、新たな色成分が設定される(ステップS113)。色成分の彩度や色相が調整されると、色相・彩度図では、図9に示すように、色成分192が他の色成分に移行する。例えば、色成分192の緑(G)成分が強められると、色成分192は、色相、彩度の分布が緑(G)の方向に移行して、色成分193となる。あるいは、色成分196の緑(G)成分が強められると、色成分196は、彩度の分布が緑(G)の方向に移行して、色成分197となる。
ステップS113において、色成分の彩度、色相が調整された後は、再びステップS111に戻って、再び色検出AE処理が実行されるか判断され(ステップS111)、設定された色成分に新たに影響を与える色制御が行われる否かが判断される(ステップS112)。
次に、設定された色成分と同一又は近似する色成分を有する色領域を被写体像の画像データから検出する。そして、検出された色領域の輝度レベルと、検出された色領域の面積を算出する(ステップS114)。例えば、図9に示した色成分192が設定されているときは、色成分192と同一の色相値、彩度値の範囲を有する色成分が画像データから検出され、検出された色成分を有する部分が色領域として検出される。そして、その色領域の輝度レベルと面積が算出される。
そして、検出された色領域について、被写体像全体の面積に占める割合が所定の閾値(ここではH%)以上であるか否かが判断される(ステップS115)。検出された色領域がH%未満であるときは、被写体像全体の輝度及び検出された色領域の輝度を用いて算出される補間値を現在の輝度レベルとする(ステップS116)。補間値は、検出された色領域について、被写体像全体の面積に占める割合に応じて決定される。補間値の算出については、後述する。
一方、検出された色領域について、被写体像全体の面積に占める割合がH%以上であるときは、検出された色領域の面積は、被写体像全体の面積に占める割合が背景回避モードに遷移するレベル(ここではA%)未満であるか否かが判断される(ステップS117)。
背景回避モード遷移レベルA%未満であるときは、背景回避モードに移行せず、検出された色領域の輝度レベルを現在の輝度レベルとする(ステップS118)。
一方、背景回避モード遷移レベルA%以上であるときは、色成分領域の検出がORモードであるか又はANDモードであるかが判断される(ステップS119)。ここで、ORモードとは、設定された色成分が複数あるとき、いずれかの色成分に該当する色領域を検出するモードである。一方、ANDモードとは、設定された色成分が複数あるとき、全ての色成分に該当する色領域を検出するモードである。
ステップS119において、ORモードではないと判断されたときは、ANDモードであり、ANDモードで色領域を検出する(背景回避モード)。そして、ANDモードで検出された色領域の輝度レベルを現在の輝度レベルとする(ステップS118)。
例えば、ANDモードによって、設定された色成分のうち輝度の範囲が狭められることで、輝度の異なる被写体を区別できる。例えば、検出したい被写体が人物の顔である場合、人物の顔に近い色成分が背景にあると、検出される領域の面積が広くなる。そこで、本実施形態では、検出された色領域について、被写体像全体の面積に占める割合がA%以上であれば、背景回避モードに移行する。そして、人物の顔と背景の輝度が異なれば、設定された色成分のうち輝度の範囲を狭めることで、人物の顔を検出することができる。なお、ANDモードによって、設定された色成分のうち色相と彩度の範囲が狭められるとしてもよい。背景回避モードについては、更に後述する。
ステップS118の後は、ANDモードからORモードに移行する(ステップS120)。
一方、ステップS119において、ORモードであると判断されたときは、背景回避モードに移行するために、ANDモードに移行する(ステップS121)。その後、再びステップS111に戻って、ステップS115において、検出された色領域の面積が、被写体像全体の面積に占める割合がH%以上であるとき、ANDモードで色領域を検出できる。
(補間値の算出について)
次に、図10を参照して、上述したステップS116における補間値の算出について説明する。図10は、検出された色領域の輝度が現在の輝度レベルの算出に寄与する割合と、検出された色領域が被写体像全体の面積に占める割合との関係を示すグラフである。縦軸は、検出された色領域の輝度が輝度レベルの算出に寄与する割合を表し、横軸は、検出された色領域が被写体像全体の面積に占める割合を表す。
まず、図10中の(1)の関係について説明する。
検出された色領域について、被写体像全体の面積に占める割合がL%以下であるときは、被写体像全体の輝度(100%)が現在の輝度レベルに決定される。このとき、検出された色領域の輝度は現在の輝度レベルに全く寄与しない(0%)。これにより、検出対象とする被写体像(例えば人物の顔)が、被写体像全体においてある程度小さくなったとき、対象とする被写体を基準にしたAEが行なわれるのではなく、被写体像全体を基準としたAEが行なわれる。
また、検出された色領域について、被写体像全体の面積に占める割合がH%以上であるときは、検出された色領域の輝度(100%)が現在の輝度レベルに決定される。このとき、被写体像全体の輝度は現在の輝度レベルに全く寄与しない(0%)。これにより、検出対象とする被写体像が、被写体像全体においてある程度大きくなったとき、被写体像全体を基準としたAEが行なわれるのではなく、対象とする被写体を基準にしたAEが行なわれる。
そして、検出された色領域がL%以上H%以下であるときは、被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)を用いて現在の輝度レベルが決定される。被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)が現在の輝度レベルの決定に寄与する割合は、検出された色領域が被写体像全体の面積に占める割合に応じて決定され、次式で表される。

現在の輝度レベル=全面積AE検波値×(1−α)+色AE検波値×α
ここで、αは、検出された色領域が被写体像全体の面積に占める割合に関係した係数であり、次式で表される。

α={CS−(TS×L÷100)}÷(TS×H÷100) (0≦α≦1)

即ち、αは、AE検波エリア全面積TSのH%の面積(=TS×H÷100)に対して、検出された色領域の面積CSからTSのL%の面積(=TS×L÷100)を差し引いた面積が占める割合である。
これにより、検出された色領域の面積が増加するにつれて、現在レベルの輝度の決定において、検出された色領域の輝度が寄与する割合が増加していく。
次に、図10中の(2)の関係について説明する
図10中の(2)は、(1)の関係におけるLが0%のときである。検出された色領域が被写体像全体の面積に占める割合がH%以上であるときは、上述した(1)の関係と同様である。
そして、検出された色領域が0%以上H%以下であるときは、被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)を用いて現在の輝度レベルが決定される。被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)が現在の輝度レベルの決定に寄与する割合は、検出された色領域が被写体像全体の面積に占める割合に応じて決定され、次式で表される。

現在の輝度レベル=全面積AE検波値×(1−α)+色AE検波値×α
ここで、αは、検出された色領域が被写体像全体の面積に占める割合に関係した係数であり、次式で表される。

α=CS÷(TS×H÷100) (0≦α≦1)
次に、図10中の(3)、(4)の関係について説明する。
図10中の(1)、(2)では、検出された色領域の輝度が現在の輝度レベルの算出に寄与する割合と、検出された色領域が被写体像全体の面積に占める割合とが線形関係にある場合について説明したが、非線形関係であってもよい。図10中の(3)、(4)は、Lが0%のときである。
検出された色領域が0%以上H%以下であるときは、被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)を用いて現在の輝度レベルが決定される。被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)が現在の輝度レベルの決定に寄与する割合は、検出された色領域が被写体像全体の面積に占める割合に応じて決定され、次式で表される。

現在の輝度レベル=全面積AE検波値×(1−β)+色AE検波値×β
βは次式で表される。図10中の(3)は、

β=α×α

であり、図10中の(4)は、
である。上記のαは次式で表される。

α=CS÷(TS×H÷100) (0≦α≦1)
これにより、(3)の例では、検出された色領域が被写体像全体の面積に占める割合が、0から増加するにつれて、徐々に検出された色領域の輝度が現在の輝度レベルの算出に寄与する。また、(4)の例では、検出された色領域が被写体像全体の面積に占める割合が、0から増加すると、すぐに検出された色領域の輝度が現在の輝度レベルの算出に寄与する。
(背景回避モードについて)
次に、図11〜図13を参照して、本実施形態の背景回避モードについて説明する。図11〜図13は、画枠172及び画枠172内の検波エリア174を示す説明図である。
まず、図11に示すように、網掛け部分に同一色成分が分布している場合を想定する。このとき、網掛け部分の色成分が、対象とする被写体の色成分の色相、彩度と同一範囲又は近似する範囲であるとすると、網掛け部分が検出できれば、その部分について輝度を算出することで色検出AE処理を実行できる。
また、網掛け部分の面積を算出して、被写体像全体の面積に占める割合が背景回避モードに遷移するレベル(ここではA%)未満であれば、対象とする被写体(例えば人物の顔)の色成分と同じ色成分を有する被写体(例えば壁紙等)が背景にないと判断する。
一方、網掛け部分の面積を算出して、被写体像全体の面積に占める割合が背景回避モードに遷移するレベル(ここではA%)以上であれば、対象とする被写体(例えば人物の顔)の色成分と同じ色成分を有する被写体(例えば壁紙等)が背景にある可能性があると判断する。そこで、背景回避モードにおいて、ORモードからANDモードに移行する。ANDモードによって、設定された色成分のうち輝度の範囲が狭められることで、輝度の異なる被写体を区別できる。
例えば、図12(A)に示すように、網掛け部分に同一色成分が分布している場合を想定する。ORモードでは、同一色成分の分布は図12(A)に示すように検出される。そして、ANDモードに移行して輝度の範囲を限定することよって、図12(B)に示すように、濃い網掛け部分に被写体像を特定することができる。これによって、対象とする被写体(例えば人物の顔)の色成分と同じ色成分を有する被写体(例えば壁紙等)が背景にある場合でも、対象とする被写体を輝度の異なる背景と区別できる。
その後、図12(C)に示す網掛け部分の面積を算出して、被写体像全体の面積に占める割合が背景回避モードに遷移するレベル(ここではA%)未満であれば、背景回避モードに再び移行することなく、検出された色領域の輝度レベルを現在の輝度レベルとすることができる。
また、図13(A)に示すように、網掛け部分に同一色成分が分布している場合を想定する。
そして、ORモードでは、同一色成分の分布は図13(A)に示すように検出される。そして、ANDモードに移行して輝度の範囲を限定することよって、図13(B)に示すように、濃い網掛け部分に被写体像が特定されることがある。これは、例えば、被写体の人物の顔がアップで写されている場合や、人物の顔と背景が同一色成分かつ輝度も近い場合である。
その後、本実施形態では、ANDモードで検出された色領域の輝度レベルを現在の輝度レベルとする。これにより、被写体の人物の顔がアップで写されている場合でも、色検出AE処理が実行される。また、人物の顔と背景がANDモードで同一色成分かつ輝度が近い場合でも、色検出AE処理が実行される。背景の輝度が人物の顔の輝度と大きく異ならないならば、人物の顔と背景を一緒に検出して、色検出AE処理をしても問題は生じないため、上述した一連の動作によって適正なAE処理を行なうことができる。
(画面表示)
次に、図5〜図8を参照して、露出制御された結果、画面に表示される明るさのイメージを説明する。図5〜図8は、被写体像を示す説明図である。
図5は、被写体全体の輝度を基準にAE処理したときのイメージである。人物の背景にある窓が高輝度であるため、被写体全体を暗くしようと露出制御されるため、人物の顔が暗くなってしまう。
図6〜図8は、被写体の色成分(例えば人物の顔の色(肌色))を基準にAE処理したときのイメージである。人物が画面(検波エリア)内で移動することで、対象とする被写体の色成分と同一又は近似する色成分を有する領域の面積が変化する。
まず、図7を参照して、設定された色成分の範囲が標準的な広さである場合について説明する。図7(A)は、検出された色領域について、被写体像全体の面積に占める割合がH%以上であるときの例である。このとき、人物の顔領域の輝度が、現在の輝度レベルとされる。そして、人物の顔領域の輝度が目標輝度レベルとなるように露出制御されるため、人物が適正な明るさに調整される。
図7(B)は、検出された色領域について、被写体像全体の面積に占める割合がL%以上H%以下であるときの例である。このとき、被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)を用いた補間値によって、現在の輝度レベルが決定される。そして、図7(C)は、検出された色領域について、被写体像全体の面積に占める割合がL%以下であるときの例である。このとき、被写体像全体の輝度が現在の輝度レベルに決定される。窓が高輝度であるため、被写体像は全体的に暗くなる。
このように、本実施形態によれば、検出された色領域の面積が上下する場合でも、補間値を用いて現在の輝度レベルが決定されるため、対象被写体を基準に明るさが調整されたり、画面全体を基準に明るさを調整されたりという動作が繰り返されることがなくなる。その結果、露出制御されて表示された画面が急に明るくなったり、急に暗くなったりすることはなく、画面のちらつきを抑制することができる。また、露出制御を安定化させることができる。
次に、図6を参照して、設定された色成分の範囲が標準的な広さより広い場合について説明する。また、図8を参照して、設定された色成分の範囲が標準的な広さより狭い場合について説明する。図6及び図8の例でも、図示しないが、検出された色領域について、被写体像全体の面積に占める割合がL%以上H%以下であるとき、被写体像全体の輝度(全面積AE検波値)と検出された色領域の輝度(色AE検波値)を用いた補間値によって、現在の輝度レベルが決定される。
但し、設定された色成分の範囲が標準的な広さより広ければ、対象とする被写体(例えば人物の顔)が小さくなった場合でも、設定された色成分の範囲が標準的な広さであるときに比べて、対象とする検出できる面積が広い。従って、図7(B)と図6(B)は、人物の顔の見え方が同じであるが、図6(B)の方が検出できる面積が依然として広い。そのため、図6(B)は、図6(A)と同様に、検出された色領域について、被写体像全体の面積に占める割合がH%以上であるときの例である。その結果、図6(A)、図6(B)ともに、人物の顔領域の輝度が目標輝度レベルとなるように露出制御されるため、人物が適正な明るさに調整される。
一方、設定された色成分の範囲が標準的な広さより狭ければ、対象とする被写体(例えば人物の顔)が小さくなると、設定された色成分の範囲が標準的な広さであるときに比べて、対象とする検出できる面積が狭い。従って、図7(B)と図8(B)は、人物の顔の見え方が同じであるが、図8(B)の方が検出できる面積が狭い。そのため、図8(B)は、図8(C)と同様に、検出された色領域について、被写体像全体の面積に占める割合がL%以下であるときの例である。その結果、図8(B)、図8(C)ともに、被写体像全体の輝度が現在の輝度レベルに決定される。窓が高輝度であるため、被写体像は全体的に暗くなる。
なお、図6(C)では、図7(C)と同様に、窓が高輝度であるため、被写体像は全体的に暗くなり、背景の壁も十分に暗くなっている例を示した。しかし、例えば、背景の壁に設定した色成分(例えば人物の顔の肌色)に近い色が少し含まれており、設定された色成分の範囲が標準的な広さより広い場合、壁の色の一部を検出できる。その結果、背景の壁の明るさは、図6(C)ほど暗くなく、図6(B)と図6(C)の間の明るさになる。色検出AEによって、高輝度な窓の影響を少し回避できるため、少し明るくなるからである。
また、背景の壁に設定した色成分(例えば人物の顔の肌色)に近い色が含まれていない場合でも、全体的に蛍光灯でホワイトバランスがとれているときに、壁の色が白色で、壁が白熱灯に照らされている環境では、映像は赤みがかって表示される。このとき、設定された色成分の範囲が標準的な広さより広い場合、窓のような局所的な高輝度な光源がある状況で、人物が画面(検波エリア)内を移動して、画面内(検波エリア)に人物が入ったり出たりした場合にも画面の明るさの変動を軽減することができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
100 撮像装置
110 レンズ
110 レンズ
112 NDフィルタ機構
114 ズームレンズ
116 絞り機構
118 フォーカスレンズ
120 撮像素子
122 電子シャッター機構
130 カメラブロック
132 DSP
134 カメラマイコン
136 マスターゲイン調整部
138 WBゲイン調整部
140 色領域検出器
142 検出色領域表示部
144 色成分設定部
146 検出色領域生成部
150 検波器
152 積分処理部
154 カウンタ処理部
162 FPGA
164 GUI部
166 ビデオエンコーダ
168 システムマイコン
170 映像ディスプレイ
180 リモートコントローラ

Claims (5)

  1. 対象とする被写体の色成分と同一又は近似する色成分を有する領域を被写体像の画像データから検出する色成分領域検出部と、
    前記検出された領域の面積を算出する面積算出部と、
    被写体像全体の輝度及び前記検出された領域の輝度を算出する輝度算出部と、
    前記被写体像全体の輝度及び前記検出された領域の輝度を用いて、前記検出された領域の面積に応じて現在の輝度レベルを決定する現在輝度レベル決定部と、
    前記現在輝度レベルが目標輝度レベルになるように露出量を算出する露出量算出部と、
    前記色成分領域検出部が検出した前記領域が所定面積以上である場合に、前記検出された領域の輝度の分布に基づいて、前記検出された領域を前記対象とする被写体の輝度レベルの領域に限定する領域限定部と、
    を有し、
    前記現在輝度レベル決定部は、前記検出された領域の面積が第1の所定面積未満であるとき、前記検出された領域の面積に応じて前記被写体像全体の輝度と前記検出された領域の輝度がそれぞれ寄与する比率を決定し、前記比率と前記被写体像全体の輝度及び前記検出された領域の輝度とによって前記現在の輝度レベルを決定し、前記検出された領域の面積が前記第1の所定面積以上であり、かつ前記第1の所定面積より広い第3の所定面積以上であるとき、前記限定された領域の輝度を前記現在の輝度レベルに決定する、撮像装置。
  2. 前記現在輝度レベル決定部は、
    前記検出された領域の面積が前記第1の所定面積以上であるとき、前記検出された領域の輝度を前記現在の輝度レベルに決定する、請求項1に記載の撮像装置。
  3. 前記現在輝度レベル決定部は、前記検出された領域の面積が減少するにつれて、前記被写体像全体の輝度が高く寄与するように、前記比率を決定する、請求項1又は2に記載の撮像装置。
  4. 前記現在輝度レベル決定部は、前記検出された領域の面積が前記第1の所定面積より狭い第2の所定面積以下であるとき、前記被写体像全体の輝度を前記現在の輝度レベルに決定する、請求項1〜3のいずれかに記載の撮像装置。
  5. 対象とする被写体の色成分と同一又は近似する色成分を有する領域を被写体像の画像データから検出するステップと、
    前記検出された領域の面積を算出するステップと、
    被写体像全体の輝度及び前記検出された領域の輝度を算出するステップと、
    前記被写体像全体の輝度及び前記検出された領域の輝度を用いて、前記検出された領域の面積に応じて現在の輝度レベルを決定するステップと、
    前記現在輝度レベルが目標輝度レベルになるように露出量を算出するステップと、
    前記検出するステップが検出した前記領域が所定面積以上である場合に、前記検出された領域の輝度の分布に基づいて、前記検出された領域を前記対象とする被写体の輝度レベルの領域に限定する領域限定ステップと、
    を有し、
    前記現在の輝度レベルを決定するステップは、前記検出された領域の面積が第1の所定面積未満であるとき、前記検出された領域の面積に応じて前記被写体像全体の輝度と前記検出された領域の輝度がそれぞれ寄与する比率を決定し、前記比率と前記被写体像全体の輝度及び前記検出された領域の輝度とによって前記現在の輝度レベルを決定し、前記検出された領域の面積が前記第1の所定面積以上であり、かつ前記第1の所定面積より広い第3の所定面積以上であるとき、前記限定された領域の輝度を前記現在の輝度レベルに決定する、撮像方法。

JP2009016002A 2009-01-27 2009-01-27 撮像装置及び撮像方法 Expired - Fee Related JP4831175B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009016002A JP4831175B2 (ja) 2009-01-27 2009-01-27 撮像装置及び撮像方法
US12/690,145 US8279300B2 (en) 2009-01-27 2010-01-20 Imaging device and imaging method
CN2010101043275A CN101841660B (zh) 2009-01-27 2010-01-27 成像设备和成像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009016002A JP4831175B2 (ja) 2009-01-27 2009-01-27 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JP2010175654A JP2010175654A (ja) 2010-08-12
JP4831175B2 true JP4831175B2 (ja) 2011-12-07

Family

ID=42353874

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009016002A Expired - Fee Related JP4831175B2 (ja) 2009-01-27 2009-01-27 撮像装置及び撮像方法

Country Status (3)

Country Link
US (1) US8279300B2 (ja)
JP (1) JP4831175B2 (ja)
CN (1) CN101841660B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012019293A (ja) * 2010-07-06 2012-01-26 Sony Corp 画像処理装置、撮影方法、撮影プログラム、画像処理方法及び画像処理プログラム
US11206358B1 (en) * 2012-11-29 2021-12-21 Altia Systems Inc Autoexposure control for multi-imager system synchronized to a single imager
US9064314B2 (en) * 2013-03-25 2015-06-23 Nvidia Corporation Robust automatic determination and location of MacBeth color checker charts
CN104394326A (zh) * 2014-11-10 2015-03-04 广东欧珀移动通信有限公司 一种测光方法及终端
US9571741B1 (en) * 2015-10-08 2017-02-14 Gopro, Inc. Smart shutter in low light
CN105657289B (zh) * 2016-03-28 2018-05-08 广东欧珀移动通信有限公司 控制方法、控制装置及电子装置
CN109493809B (zh) * 2017-09-12 2021-01-01 纬创资通(中山)有限公司 显示装置以及背光驱动方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3203670B2 (ja) * 1991-03-22 2001-08-27 株式会社ニコン カメラの測光装置
JP3111582B2 (ja) * 1992-01-22 2000-11-27 株式会社ニコン 露出演算装置
JPH09284784A (ja) * 1996-04-12 1997-10-31 Sony Corp カラー撮像装置
JP4003307B2 (ja) 1998-08-26 2007-11-07 ソニー株式会社 撮像装置
JP4794786B2 (ja) * 2001-09-28 2011-10-19 株式会社リコー 撮像装置、自動露出方法、およびその方法をコンピュータが実行するためのプログラム
JP4200428B2 (ja) 2002-12-09 2008-12-24 富士フイルム株式会社 顔領域抽出方法及び装置
JP4659354B2 (ja) * 2003-12-02 2011-03-30 キヤノン株式会社 画像処理方法および装置
JP4879840B2 (ja) * 2006-09-22 2012-02-22 富士フイルム株式会社 デジタルカメラおよびその制御方法
JP5386793B2 (ja) * 2006-12-11 2014-01-15 株式会社リコー 撮像装置および撮像装置の露出制御方法
JP2008199461A (ja) * 2007-02-15 2008-08-28 Olympus Imaging Corp 撮像装置
JP4711987B2 (ja) * 2007-03-14 2011-06-29 株式会社リコー 撮像装置および自動露出制御方法
JP2010072619A (ja) * 2008-08-22 2010-04-02 Nikon Corp 露出演算装置およびカメラ

Also Published As

Publication number Publication date
CN101841660A (zh) 2010-09-22
JP2010175654A (ja) 2010-08-12
US8279300B2 (en) 2012-10-02
CN101841660B (zh) 2012-10-10
US20100188526A1 (en) 2010-07-29

Similar Documents

Publication Publication Date Title
JP4831175B2 (ja) 撮像装置及び撮像方法
EP1814081A2 (en) Exposure control apparatus and image pickup apparatus
US9961269B2 (en) Imaging device, imaging device body, and lens barrel that can prevent an image diaphragm value from frequently changing
JP2009171220A (ja) 撮像装置及びその制御方法
JP2007259237A (ja) 撮像装置および撮像方法
US9888184B2 (en) Light emission control device, control method therefor, storage medium storing control program therefor, and image pickup apparatus with light emission control device
JP5149055B2 (ja) 撮像装置
JP2016143035A (ja) 焦点調節装置および焦点調節方法
US20140192219A1 (en) Imaging device and imaging method
JP5316923B2 (ja) 撮像装置及びそのプログラム
JP4818130B2 (ja) 撮像装置及びその制御方法
JP2012095223A (ja) 撮像装置、撮像方法及びプログラム
JP4879840B2 (ja) デジタルカメラおよびその制御方法
JP6335497B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP5355124B2 (ja) 撮像装置及びそのシーン判別方法
JP2009135670A (ja) 撮像装置及びその制御方法
JP2015100091A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP6272006B2 (ja) 撮像装置、画像処理方法及びプログラム
JP2011128212A (ja) 画像処理装置、方法及びプログラム
JP2010183298A (ja) 撮像装置およびその制御方法
JP2010271507A (ja) 撮像装置、露出調整方法及びプログラム
JP2001086396A (ja) 撮像装置
JP2007139874A (ja) 撮像装置
JP2023123127A (ja) 電子機器及びその制御方法、プログラム及び記憶媒体
JP2010041504A (ja) カメラ

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110905

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees