以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
<デジタルビデオカメラの構成>
図1は、映像信号処理装置の一実施形態としてのビデオカメラ100の概略的な概観斜視図である。図1において、表示部28は、映像や各種情報を表示するモニタである。録画スイッチ61は、ユーザが撮影指示を行うための操作部である。モード切り替えスイッチ60は、ビデオカメラ100の各種モードを切り替えるための操作部である。ユーザは、モード切り替えスイッチ60を操作することにより、後述する通常撮影モードや高輝度優先モード等の撮影モードの切り替えをビデオカメラ100に対して指示することができる。コネクタ112は、データ通信用等の各種ケーブルが接続されるインターフェース部である。操作部70は、ユーザからの各種操作を受け付ける各種ボタン、十字キー等の操作子より成る。電源スイッチ72は、ユーザの操作に応じて、電源オン、電源オフが切り替えられるスイッチである。記録媒体200は、メモリカードやハードディスク等の記録媒体である。記録媒体スロット201は、記録媒体200を格納する着脱可能なスロットである。記録媒体スロット201に格納された記録媒体200は、ビデオカメラ100との通信が可能となる。
<デジタルビデオカメラの内部構成>
図2は、本実施形態のビデオカメラ100の概略的な内部構成を示すブロック図である。図2において、撮影レンズ103は、ズームレンズ、フォーカスレンズを含むレンズ群であり、撮像部22の撮像面上に被写体像等を結像させる。絞り101は、光量調整を行うための構成である。ND104は減光用に使用するND(Neutral Density)フィルタである。撮像部22は、撮影レンズ103により撮像面上に結像された光学像を電気信号に変換するCCDやCMOS等で構成される撮像素子である。また、撮像部22は、電子シャッターによる電荷の蓄積制御や、アナログゲイン調整、読み出し速度の変更などの機能も備える。A/D変換器23は、撮像部22から出力されるアナログ撮像信号をデジタル変換したコード値からなるデジタル映像信号を出力する。バリア102は、ビデオカメラ100の、撮影レンズ103を含む撮像系を覆うことにより、撮影レンズ103、絞り101、撮像部22を含む撮像系の汚れや破損を防止する。
画像処理部24は、A/D変換器23からの映像信号、又は、メモリ制御部15から読み出された映像信号に対して、色変換処理、ガンマ補正、デジタルゲインの付加等の各種信号処理を行う。また、画像処理部24は、撮像された映像信号を用いて所定の演算処理を行い、その演算結果の情報をシステム制御部50に送信する。システム制御部50は、画像処理部24から送信されてきた演算結果の情報に基づいて、露出制御、測距制御、WB(ホワイトバランス)制御等を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理等が行われる。詳細については後述するが、本実施形態では、画像処理部24で行われる各処理のうち、特にAWB制御に係わる処理を説明している。
A/D変換器23から出力された映像信号は、画像処理部24及びメモリ制御部15を介して、或いは、メモリ制御部15を介して、メモリ32に直接書き込まれる。メモリ32は、撮像部22により撮像されてA/D変換器23によりデジタル変換された映像信号や、表示部28に表示するための映像信号を格納する。メモリ32は、長時間の動画像信号および音声信号を格納するのに十分な記憶容量を備えている。また、メモリ32は、画像表示用のメモリ(ビデオメモリ)を兼ねている。D/A変換器13は、メモリ32から読み出された表示用のデジタル映像信号をアナログ信号に変換して表示部28に供給する。これにより、メモリ32から読み出された表示用の映像信号の映像が、表示部28の画面上に表示される。表示部28は、LCD等の表示画面上に、D/A変換器13からのアナログ映像信号に応じた映像を表示する。また、A/D変換器23でA/D変換されてメモリ32に一時的に蓄積されたデジタル信号がD/A変換器13でアナログ変換されて、表示部28に逐次転送された場合、表示部28は、いわゆる電子ビューファインダとして機能することになる。すなわち、この場合の表示部28には、ライブビュー映像(スルー映像)が表示される。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばEEPROMが用いられる。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記憶されている。ここでいうプログラムとは、後述する各フローチャートをシステム制御部50等が実行するためのプログラムのことである。
システム制御部50は、ビデオカメラ100全体を制御する。本実施形態に係る後述する各処理は、システム制御部50が不揮発性メモリ56に格納されたプログラムを実行することにより実現される。システムメモリ52は、RAM等である。システムメモリ52には、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。また、システム制御部50は、メモリ32、D/A変換器13、表示部28等を制御することにより表示制御も行う。
モード切り替えスイッチ60、録画スイッチ61、操作部70は、システム制御部50に対して各種の動作指示をユーザが入力する際に使用される。モード切り替えスイッチ60は、ユーザが、ビデオカメラ100の動作モードを、再生モード、動画撮影モード、静止画撮影モード等の何れかに切り替える際に使用される。動画撮影モードや静止画撮影モードには、更に、オート撮影モード、オートシーン判別モード、マニュアルモード、撮影シーン別の撮影設定のための各種シーンモード、プログラムAEモード、カスタムモード等が含まれている。また、動画撮影モードや静止画撮影モードには、後述する通常撮影モードや高輝度優先モード等の撮影モードも含まれる。モード切り替えスイッチ60は、動画撮影モードや静止画撮影モードに含まれるそれら各モードへの切り替え指示をユーザが入力する際にも使用される。動画撮影モードに含まれる各モードのうち何れのモードを使用するかについては、モード切り替えスイッチ60の操作を介して直接切り替えられてもよい。或いは、モード切り替えスイッチ60で動画撮影モード又は静止画撮影モードに一旦切り替えられた後に、その撮影モード動画撮影モードに含まれる各モードの何れかを、他の操作子等を用いて切り替えるようになされていてもよい。システム制御部50は、モード切り替えスイッチ60を介したユーザからの操作指示に基づいて、ビデオカメラ100の各種信号処理や動作を制御する。
録画スイッチ61は、撮影待機状態と撮影状態を切り替える指示をユーザが入力する際に使用されるスイッチである。システム制御部50は、録画スイッチ61を介してユーザから撮影開始の指示が入力されると、ビデオカメラ100を撮影状態に制御して、撮像部22の信号読み出しから記録媒体200への映像信号の書き込みまでの一連の動作を開始させる。操作部70は、例えば上下左右4方向の十字キーやSETボタン等の各操作子を有する。操作部70の各操作子は、表示部28に表示される種々の機能アイコンを選択操作することなどにより、撮影シーン(場面)毎に適宜機能が割り当てられ、各種機能ボタンとして使用可能となされている。機能ボタンとしては、例えば終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタン、メニューボタン等がある。例えば、初期設定でメニューボタンになされているSETボタンが押されると、各種の設定可能なメニュー画面が表示部28に表示される。ユーザは、表示部28に表示されたメニュー画面と、上下左右4方向の十字キーやSETボタンを用いて、直感的に各種設定を行うことができる。
システムタイマー53は各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。電源制御部80は、電池検出回路、DC−DCコンバータ、通電する各回路ブロック等を切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量等の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50からの指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Liイオン電池等の二次電池、ACアダプター等からなる。記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された映像信号等を記録するための記録媒体であり、半導体メモリ等のメモリカードやハードディスク等の磁気ディスクから構成される。
<第1の実施形態>
以下、図2に示したビデオカメラ100の画像処理部24の内部構成について説明する。図3は、第1の実施形態の画像処理部24の概略的な内部構成を示すブロック図である。なお、画像処理部24は、システム制御部50から、例えば絞り値やND情報、シャッター速度などの露出パラメータを含めたカメラ内部のあらゆるデータを取得可能となされている。
図3において、ゲイン制御部301は、A/D変換器23からの映像信号、又は、メモリ制御部15からの映像信号に対し、所定のデジタルゲインの付加などを行う。WB制御部302は、後述する色評価値取得部308が取得した映像の色情報から、R(赤色),G(緑色),B(青色)の信号のうち、R信号に対するゲイン、B信号に対するゲインを制御して映像全体の色味を変更する。ガンマ補正部303は、複数のガンマ特性のうち、後述する撮影モードに応じて選択(設定)されたガンマ特性を使用して、R,G,Bの入力値(入力コード値)を、ガンマ補正カーブに応じた出力値(出力コード値)に変換するようなガンマ補正処理を行う。ガンマ補正部303におけるガンマ補正は、R,G,Bの入力値をガンマ補正カーブに応じた出力値に変換することで映像信号における明るさ(輝度の成分)について階調補正を行うような処理である。ガンマ補正部303で設定されているガンマ特性の情報は、後述する白抽出制御部311へ送られる。
色変換部304は、RGB信号を、輝度信号Yと色差信号R−Y,B−Yに変換する。以下、輝度信号Yと色差信号R−Y,B−Yをそれぞれ区別しない場合には輝度色差信号と表記する。ノイズリダクション部305は、映像信号に対して空間フィルタをかけることで映像を平滑化してノイズ成分を低減する。輪郭強調部306は、映像中の周波数成分を抽出して輪郭部を検出し、その輪郭部を強調する。色補正部307は、色差信号R−Y,B−Yにゲインをかけることで映像の彩度を変更する。
色評価値取得部308は、1フレームの映像全体を複数のメッシュ枠に分割し、各メッシュ枠を評価枠として、各評価枠の映像領域毎に輝度信号Yと色差信号R−Y,B−Yのそれぞれの平均値を取得する。図4は、色評価値取得部308が例えば1フレームの映像全体に対して設定する評価枠を説明するための図である。図4に示すように、色評価値取得部308は、映像全体を例えば8×8の64個のメッシュに分割し、各メッシュ枠を色の評価枠とする。図4の各評価枠は、H1〜H8で表される水平ライン方向の番号と、V1〜V8で表される垂直ライン方向の番号とで示される。色評価値取得部308は、各評価枠の映像領域毎に、輝度信号Yと色差信号R−Y,B−Yからなる輝度色差信号を取得する。色評価値取得部308は、(H1,V1)の評価枠の映像領域から輝度色差信号の取得処理をスタートして水平ライン方向に走査し、H8まできたならば、垂直ライン方向に1ライン分ずらして(H1,V2)の評価枠から同様に水平ライン方向の走査を行う。そして、色評価値取得部308は、(V8,H8)の評価枠まで走査を行って、64枠の全ての評価枠の各映像領域から輝度色差信号を取得する。
色評価値取得部308は、前述のように評価枠の映像領域毎に求めた輝度信号Yと色差信号R−Y,B−Yのそれぞれの平均値が、略々白色と思われる領域として抽出するために設けられた閾値範囲内であるか否か判定する。以下の説明では、略々白色と思われる領域を「白らしい領域」と表記する。色評価値取得部308は、閾値範囲内であり白らしい領域と判定された評価枠の色差信号R−Y,B−Yの積算値を白らしい領域と判定された評価枠数で割った値を、色評価値として求める。ここで、色評価値取得部308には、白抽出制御部311から、白らしい領域として抽出するための、輝度信号Yと色差信号R−Y,B−Yのそれぞれの閾値範囲の情報が送られている。
白抽出制御部311は、白らしい領域として抽出するための輝度信号Yと色差信号R−Y,B−Yのそれぞれの閾値範囲を、ガンマ補正部303で用いられているガンマ特性の情報に基づいて決定している。白抽出制御部311は、ガンマ特性に基づいて決定した輝度信号Yと色差信号R−Y,B−Yのそれぞれの閾値範囲の情報を、色評価値取得部308へ送る。色評価値取得部308で求められた色評価値は、WB制御部302へ送られる。WB制御部302は、色評価値取得部308から供給された色評価値に基づいて、前述した白らしい領域と判定された映像領域の色が目標の無彩色の白色となるように、WBゲインを調整するWB補正処理を行う。
第1の実施形態の画像処理部24では、前述したように、AWB制御に用いる色評価値を取得する際には、ガンマ補正部303で使用されているガンマ特性に応じて、白らしい領域の判定に用いる閾値範囲を決めている。以下、白らしい領域の判定に用いる閾値範囲を決める処理の説明を行う前に、ガンマ補正部303で使用されるガンマ特性について説明する。
<高輝度優先モードと通常撮影モードの説明>
本実施形態のビデオカメラ100は、映像を撮影する際の撮影モードとして、少なくとも高輝度優先モードと通常撮影モードとを有している。撮影モードが通常撮影モードである場合、ガンマ補正処理に用いられるガンマ特性は、通常撮影モード用のガンマ補正カーブとなされる。一方、撮影モードが高輝度優先モードである場合、ガンマ補正処理に用いられるガンマ特性は、高輝度優先モード用のガンマ補正カーブとなされる。以下、通常撮影モードと高輝度優先モード、および、それら各モードでのガンマ補正処理に用いられるガンマ特性(ガンマ補正カーブ)について説明する。
通常撮影モードは、実用的な入力ダイナミックレンジを確保しつつ、中輝度から高輝度の領域におけるコントラストを圧縮するようなニー処理を含むガンマ補正処理が行われるモードである。なお、コントラストの圧縮とは、ダイナミックレンジの変化に対する輝度の変化で表される特性曲線の傾きを小さくすることに相当する。
先ず、通常撮影モードの場合のガンマ補正特性について、図5を用いて説明する。図5は、映像を撮影した際に行われるガンマ補正処理のガンマ特性(ガンマ補正カーブ)を表している。図5のガンマ特性907は、入力ダイナミックレンジが0〜x1で示す範囲の場合に対応したガンマ特性を表しており、ITU−R BT.709等で規格化されているガンマ特性である。一方、図5のガンマ特性909は、入力ダイナミックレンジが0〜x2で示す範囲の場合に対応するガンマ特性であり、入力ダイナミックレンジを実用的な範囲まで広げた場合を示している。ガンマ特性907と比較した場合、ガンマ特性909は、中輝度から高輝度の領域のコントラストを圧縮する特性となっている。ガンマ特性909は、入力ダイナミックレンジを広げつつ、人間の視覚感度が高い低輝度の暗部から中輝度までの領域に対する出力(明るさ)を確保する特性となされている。一方、人間の視覚感度が低い高輝度の領域については、出力値のコードに対するビット数の割り振りを減らすことでデータ量が削減されている。
通常撮影モードの場合、ビデオカメラ100のガンマ補正部303は、映像信号の入力コード値を、ガンマ特性909のガンマ補正カーブに応じた出力コード値に変換するようなガンマ補正処理を行う。通常撮影モードでガンマ補正処理等の処理がなされた後の映像信号は、例えば記録された後に再生されて図2の表示部28に表示される。また、図示は省略しているが、映像を表示部28に表示する際にもガンマ補正処理が行われ、その際のガンマ補正処理では、例えばガンマ特性909の逆特性であるガンマ特性が用いられる。
次に、高輝度優先モードの場合のガンマ補正特性について、図6(a)〜図6(d)を用いて説明する。図6(a)と図6(b)は、映像を撮影した際に行われるガンマ補正処理のガンマ特性を表している。図6(c)は、映像を表示する際に行なわれるガンマ補正処理のガンマ特性を表している。図6(d)は、撮像と表示を合わせた映像処理システムトータルとしてみた場合の階調特性を表している。
図6(a)のガンマ特性137は、図5のガンマ特性907と同様に、入力ダイナミックレンジが0〜x1で示す範囲の場合に対応したガンマ特性であり、ITU−R BT.709等で規格化されているガンマ特性である。一方、図6(b)のガンマ特性139は、入力ダイナミックレンジが0〜x2で示す範囲の場合に対応するガンマ特性であり、入力ダイナミックレンジを実用的な範囲まで広げた場合を示している。このガンマ特性139は、ガンマ特性137を基準にした場合に、入力コード値に対して出力コード値の関係が一定に保たれ、低輝度から高輝度までのコード値に対するビットの割り振りの割合を変更しないで固定しておくような特性となされている。
高輝度優先モードの場合、画像処理部24のガンマ補正部303は、映像信号の入力コード値を、ガンマ特性139のガンマ補正カーブに応じたコード値に変換するようなガンマ補正処理を行う。高輝度優先モードで階調補正処理がなされた後の映像信号は、例えば記録された後に再生されて本実施形態の表示部28に表示される。
このように、高輝度優先モードでは、低輝度から高輝度までの全輝度領域について、入力コード値に対する出力コード値の関係を、基準のガンマ特性137の入力コード値と出力コード値の関係に合わせたガンマ特性139を用いたガンマ補正処理が行われる。また、高輝度優先モードでは、低輝度から高輝度まで全輝度領域において、出力コード値に対してビットの割り振りの割合が変更されずに固定されている。高輝度優先モードでは、ガンマ特性137を基準として、入力コード値に対する出力コード値の関係が一定に保たれたガンマ特性139でガンマ補正処理が行われるため、通常撮影モードの場合のような高輝度領域のコントラスト圧縮は行われない。
一方、映像を表示部28に表示する際のガンマ補正処理では、図6(c)に示すように、ガンマ特性139の逆特性であるガンマ特性133が用いられる。この場合、撮影から表示までの映像処理システムトータルとしての階調特性は、図6(d)に示すような階調特性135となる。すなわち、映像処理システムトータルでの階調特性135は、低輝度から高輝度までの全輝度領域でリニアな特性となる。したがって、高輝度優先モードである場合、映像処理システムでは、図6(d)の階調特性135のようなリニアな階調特性が実現され、表示映像は実被写体の自然な階調や色、鮮鋭感が再現された自然なものとなる。
また、高輝度優先モードのガンマ特性139は、通常撮影モードのガンマ特性909と比較すると、低輝度領域から中輝度領域が相対的に暗めの特性となっている。このため、本実施形態のビデオカメラ100のシステム制御部50は、映像の表示がなされる際には、表示部28における表示のピーク輝度値を上げるようなピーク輝度値の設定制御を行う。図示は省略するが、ピーク輝度値を設定するための構成は、例えば画像処理部24に設けられる。このように、高輝度優先モードでガンマ補正処理が行われた場合、映像の表示がなされる際にピーク輝度値を上げることで、映像が暗くなることを防ぐことができる。また、この場合、暗部からハイライト部までの全域にわたってコントラストを圧縮しない状態を保てることになるため、例えば、金属の輝き、水の透明感、青空や雲の立体感、スキントーン等の階調性、色再現性、鮮鋭感を格段に向上させることができる。
本実施形態のビデオカメラ100は、撮影モードに応じて、前述した通常撮影モードのガンマ補正処理と高輝度優先モードのガンマ補正処理を切り替えるようになされている。そして、本実施形態のビデオカメラ100は、AWB制御に用いる色評価値を取得する際に、撮影モードにより設定されたガンマ特性に応じて、白らしい領域の判定に用いる輝度信号Yと色差信号R−Y,B−Yのそれぞれの閾値範囲を決めている。詳細については後述するが、本実施形態では、白らしい領域の判定に用いる閾値範囲として、輝度信号Yに対する閾値範囲と、色差信号R−Y,B−Yに対する閾値範囲とを決定する。以下の説明では、輝度信号Yに対する閾値範囲を「明るさ閾値範囲」と表記する。また、色差信号R−Y,B−Yに対する閾値範囲は、評価枠の映像領域の色が略々白色であるか判定する際に用いられる範囲であるため、以下の説明では「白抽出範囲」と表記する。
以下、閾値範囲(明るさ閾値範囲、白抽出範囲)を用いた白らしい領域の判定処理について説明する。
図7は、画像処理部24における閾値範囲(明るさ閾値範囲、白抽出範囲)を用いた白らしい領域の判定処理による色評価値の取得から、その色評価値に基づくWB制御までのフローチャートである。以下の説明では、図7の各処理のステップS501〜ステップS509を、S501〜S509と略記する。また、図7のフローチャートの処理は、システム制御部50が映像処理プログラムを実行して画像処理部24を制御することにより実現されるが、ここではシステム制御部50による制御の下で、主に、色評価値取得部308が行う処理を説明している。
図7において、色評価値取得部308は、S501の処理として、図4の評価枠(H1,V1)の輝度色差信号の輝度信号Yから、その評価枠の映像領域の明るさが、所定の明るさ閾値範囲内であるか否かを判定する。ここで、本実施形態の場合、飽和や色曲がり等が発生しない明るさが、予め測定等により求められている。色評価値取得部308には、飽和や色曲がりが発生しない明るさ以下の輝度信号Yが、「白」の輝度として抽出されるように、輝度信号Yに対する明るさ閾値範囲の上限値が設定されている。このような輝度信号Yに対する明るさ閾値範囲の上限値の設定は、後述する白抽出制御部311により行われている。一方、暗部(低輝度領域)は一般にノイズ成分などが多いため、暗部の輝度信号Yを「白」の輝度として採用するのは好ましくない。本実施形態の場合、ノイズ成分が少なくAWB制御に利用しても実害の無い明るさが、予め測定により求められている。色評価値取得部308には、ノイズ成分が少なくAWB制御に利用しても実害の無い明るさ以上の輝度信号Yが、「白」の輝度として抽出されるように、輝度信号Yに対する明るさ閾値範囲の下限値が設定されている。このような輝度信号Yに対する明るさ閾値範囲の下限値の設定は、後述する白抽出制御部311により行われている。色評価値取得部308は、S501の判定処理において、輝度信号Yの値が、前述した上限値から下限値までで表される明るさ閾値範囲内であると判定した場合にはS502に処理を進める。一方、明るさ閾値範囲外であると判定した場合にはS504に処理を進める。
S504の処理に進んだ場合、色評価値取得部308は、全ての評価枠の各映像領域に対する色評価値の取得の処理が終了したか否かの判定を行う。色評価値取得部308は、S504において、全評価枠の色評価値の取得が終了したと判定した場合にはS506に処理を進め、終了していないと判定した場合には、S505に処理を進める。S505では、色評価値取得部308は、次の評価枠の映像領域の輝度信号Yと色差信号R−Y,B−Yを取得して、S501に処理を戻す。
S502の処理に進んだ場合、色評価値取得部308は、評価枠の映像領域の色差信号R-Y,B-Yが、白らしい領域として予め設定されている白抽出範囲内であるか否かを判定する。白抽出範囲は、後述する白抽出制御部311により設定されている。図8は、色差信号R−Y,B−Yをx,y座標として表した場合の白抽出範囲601を示す図である。図8の白抽出範囲601は、予めハロゲンランプや蛍光灯、日陰などの各種光源下で、無彩色の白色の被写体を撮像して色差信号を測定し、その測定した色差信号から求められている。図8中の黒丸602は、白抽出範囲601内における評価枠内の色差信号R−Y,B−Yの一例を示している。また、図8中の点線範囲603は、無彩色の白色と判定される目標範囲を表しており、後述する色評価値から無彩色の白判定がなされる際に用いられる範囲である。色評価値取得部308は、S502の判定処理において、評価枠の映像領域の色差信号R-Y,B-Yが白抽出範囲内であると判定した場合にはS503に処理を進め、一方、白抽出範囲外であると判定した場合にはS504に処理を進める。
S503の処理に進んだ場合、色評価値取得部308は、各評価枠の映像領域から求められた各色差信号R-Y,B-Yの値を加算していく。S503の後、色評価値取得部308は、S504に処理を進める。
S504で全評価枠における色評価値の取得が終了してS506に進むと、色評価値取得部308は、「白」として抽出されてS503で加算された各評価枠の映像領域の色差信号R−Y,B−Yの加算値を、「白」として抽出された評価枠数で除算する。これにより、「白」として抽出された色差信号R−Y,B−Yの平均値が算出される。本実施形態では、このようにして算出した色差信号R−Y,B−Yの平均値を「色評価値」とする。S506の後、色評価値取得部308は、S507に処理を進める。
S507では、色評価値取得部308は、S506で算出した色評価値が、前述の図8中の点線範囲603で表される無彩色の白色の目標範囲内であるか否かを判定する。色評価値取得部308は、S507において、無彩色の白色の目標範囲内であると判定した場合、図7のフローチャートの処理を終了する。一方、色評価値取得部308は、S507において、無彩色の白色の目標範囲外であると判定した場合にはS508に処理を進める。
S508の処理に進むと、色評価値取得部308は、無彩色の白色の目標範囲に近づくようにWBゲインのうちRのゲインとBのゲインを所定ステップ量だけ変更するための情報をWB制御部302に送る。以下の説明では、WBゲインのうちRのゲインをRゲイン、BのゲインをBゲインと表記する。これにより、WB制御部302では、WBゲインのRゲインとBゲインが所定ステップ量だけ変更されることによるWB補正処理が行われる。ここで、WBゲインのRゲインとBゲインを変更する際の所定ステップ量は、映像の色味変化が急峻となってユーザに違和感を与えないようなゲイン量として予め測定されて決定されている。
色評価値取得部308は、S508でWBゲインを変更する情報をWB制御部302に送った後、S509に処理を進める。S509では、色評価値取得部308は、色評価値を取得する際に最初の(H1,V1)の評価枠の映像領域の輝度信号Yと色差信号R−Y,B−Yを取得する。S509の後、色評価値取得部308は、S501に処理を戻し、以下、前述した各ステップの処理を繰り返すことで、色評価値が無彩色の白色となるまで、WB制御部302でWBゲインを変化させる。なお、S508とS509の処理は、色評価値取得部308が取得した色評価値に基づいてWB制御部302が行ってもよい。
なお、WBゲインを変更する際のゲインの変化量(前述のステップ量)には範囲制限が設けられていてもよい。図9は、WBゲインを変更する際のWBゲインに対する制御範囲701の一例を示す図である。図9のWBゲインの制御範囲701は、各種光源下で基準の白を無彩色の白色とするためのWBゲインを予め測定して取得しておくことで決められている。図9のような制御範囲701を設定しておくことにより、例えば彩度の高い赤や青などを誤って無彩色の白色として判定した場合でも、極端な映像の色ズレが起きないよう制御することができる。また、映像の変化に合わせてWBを追従させる場合には、色評価値が無彩色の白色を示す値であっても、適宜S501からの処理を繰り返し行って、色評価値が無彩色の白色の範囲外となった時にWBを制御できる状態を保つことが望ましい。このような制御を行うことで、撮影シーンに合わせたWB制御を自動的に行うことが可能となる。
図10は、白らしい領域の判定に用いられる明るさ閾値範囲の上限値と下限値を設定する処理のフローチャートである。以下の説明では、図10の各処理のステップS1001〜ステップS1006を、S1001〜S1006と略記する。また、図10のフローチャートの処理は、システム制御部50が映像処理プログラムを実行して画像処理部24を制御することにより実現されるが、ここではシステム制御部50による制御の下で、主に白抽出制御部311が行う処理を説明している。
また、図11は、前述した通常撮影モードと高輝度優先モードの各ガンマ特性と、輝度信号Yに対する明るさ閾値範囲の上限値及び下限値を示す図である。図11において、ガンマ特性1101はITU−R BT.709等で規格化されているガンマ特性であり、前述した図6のガンマ特性137と同じものである。ガンマ特性1101は、本実施形態では、ガンマ補正の際には実際には使用されないガンマ特性であるが、他の設定可能なガンマ特性の説明のために図示している。ガンマ特性1102は、前述した通常撮影モードでニー処理を含むガンマ補正処理が行われる際に使用されるガンマ特性であり、図5に示したガンマ特性909と同じものである。ガンマ特性1103は、前述した高輝度優先モードのガンマ特性であり、図6に示したガンマ特性139と同じものである。
本実施形態において、輝度信号Yに対する明るさ閾値範囲は、ガンマ補正処理で使用されるガンマ特性に応じて設定される。以下、輝度信号Yに対する明るさ閾値範囲の設定処理について、図10のフローチャートと、図11のガンマ特性および明るさ閾値範囲の上限値及び下限値を参照しながら説明する。
図10のフローチャートにおいて、白抽出制御部311は、S1001の処理として、ガンマ補正部303が高輝度優先モードのガンマ特性1103に設定されているか否かを判定する。なお、高輝度優先モードのガンマ特性1103が設定されているかどうかは、例えばユーザが操作部70を介して選択した撮影モードが高輝度優先モードであるか否かにより判定できる。白抽出制御部311は、システム制御部50から、撮影モードが高輝度優先モードに設定されていることを示す情報を受け取ることにより、S1001の判定処理を行う。白抽出制御部311は、S1001において、高輝度優先モードの設定であると判定した場合にはS1002に処理を進め、一方、高輝度優先モードの設定でないと判定した場合にはS1003に処理を進める。
S1003の処理に進むと、白抽出制御部311は、ガンマ補正部303が通常撮影モードのガンマ特性1102に設定されているか否かを判定する。なお、通常撮影モードのガンマ特性1102が設定されているかどうかは、例えばユーザが操作部70を介して選択した撮影モードが通常撮影モードであるか否かにより判定できる。白抽出制御部311は、システム制御部50から、撮影モードが通常撮影モードに設定されていることを示す情報を受け取ることにより、S1003の判定処理を行う。白抽出制御部311は、S1003において、通常撮影モードの設定であると判定した場合にはS1004に処理を進め、一方、通常撮影モードの設定でないと判定した場合にはS1005に処理を進める。
S1004の処理に進むと、白抽出制御部311は、色評価値取得部308で白らしい領域を抽出するため明るさ閾値範囲と白抽出範囲のうち、輝度信号Yに対する明るさ閾値範囲を、図11に示す下限値Bbから上限値Buまで表される範囲に設定する。具体的には、通常撮影モードの場合、白抽出制御部311は、明るさ閾値範囲の上限値Buについては、ニー処理の開始されるニーポイントに合わせた値に設定する。このように、通常撮影モードの場合には、明るさ閾値範囲の上限値Buをニーポイントに合わせた値にすることで、コントラストが圧縮されている高輝度領域で白らしい領域の判定が行われないようにしている。なお、この場合の白抽出範囲については、前述の図8で説明したように、予め測定された色差信号に基づいて設定されている。S1004の後、白抽出制御部311は、S1006に処理を進める。
また、S1005の処理に進んだ場合、白抽出制御部311は、色評価値取得部308で白らしい領域を抽出するための明るさ閾値範囲と白抽出範囲のうち、輝度信号Yに対する明るさ閾値範囲の上限値を、予め設定してあるデフォルト値とする。なお、デフォルト値の上限値についての図示は省略する。S1005の後、白抽出制御部311は、S1006に処理を進める。
S1006では、白抽出制御部311は、色評価値取得部308で白らしい領域を抽出する際の明るさ閾値範囲の下限値を、図11に示す下限値Bbに設定する。S1006の後、白抽出制御部311は、図10のフローチャートの処理を終了する。
一方、S1002に進んだ場合、白抽出制御部311は、色評価値取得部308で白らしい領域を抽出するための明るさ閾値範囲と白抽出範囲のうち、輝度信号Yに対する明るさ閾値範囲を、図11に示す下限値Abから上限値Auまで表される範囲に設定する。図11に示したように、高輝度優先モードの場合、白抽出制御部311は、上限値Auについては、通常撮影モードの場合の上限値Buよりも高輝度側の値(高い値)に設定している。このように、高輝度優先モードの場合は、通常撮影モードの場合と比較して、白らしい領域を判定する際に用いられる輝度領域が高輝度領域まで拡張されている。また、高輝度優先モードの場合、白抽出制御部311は、下限値Abについては、通常撮影モードの場合の下限値Bbよりも低輝度側の値(低い値)に設定している。ただし、白抽出制御部311は、図11のX3に示すように、高輝度優先モードの場合の下限値Abと、高輝度優先モード以外の通常撮影モード等の場合の下限値Bbとで、ガンマ補正処理の際の入力ダイナミックレンジの値が同じになるように設定する。これにより、高輝度優先モードとそれ以外のモードの何れの場合でも、白らしい領域として採用される被写体領域の入力ダイナミックレンジが同等な状態に維持されることになる。
白抽出制御部311は、S1002で設定した明るさ閾値範囲の上限値Auと下限値Abの情報を、色評価値取得部308に送る。これにより、色評価値取得部308には、高輝度優先モードにおいて白らしい領域を抽出する際の輝度信号Yに対する明るさ閾値範囲が設定されることになる。なお、高輝度優先モードの場合も、白抽出範囲については、前述の図8で説明したように、予め測定された色差信号に基づいて設定されている。S1002の後、白抽出制御部311は、図10のフローチャートの処理を終了する。
第1の実施形態によれば、通常撮影モードや高輝度優先モードの撮影モードでそれぞれ使用されるガンマ特性に応じて、閾値範囲(特に輝度に関する上限値や下限値)の設定が行われ、その設定された閾値範囲に基づいて白らしい領域の判定が行われている。特に、高輝度優先モードの場合、明るさ閾値範囲の上限値Auが通常撮影モードの場合の上限値Buよりも高輝度側の値に設定されているため、通常撮影モードの場合よりも高輝度な無彩色の白色まで利用出来るようになる。また、高輝度優先モードの場合、明るさ閾値範囲の下限値Abが通常撮影モードの場合の下限値Bbよりも低輝度側の値に設定されているとともに、下限値Bbにおける入力ダイナミックレンジに対応させるように設定されている。したがって、高輝度優先モードの場合、通常撮影モードの場合と比較して、AWB精度の向上が期待できる上、暗い無彩色の白色に対しても通常撮影モードと同等のAWB制御が実現可能となる。
<第2の実施形態>
第1の実施形態では、AWB制御に用いる色評価値を取得する際に、通常撮影モードと高輝度優先モード等で使用されるガンマ特性に応じて、白らしい領域の判定のための閾値範囲(特に明るさ閾値範囲の上限値と下限値)の設定を変更する例を説明した。これに対し、第2の実施形態では、白らしい領域の判定に用いる閾値範囲のうち、明るさ閾値範囲についてはガンマ補正前の輝度信号Yを基に設定する。上限値については、第1の実施形態の場合と同様にガンマ特性に応じて設定されるが、下限値についてはガンマ特性に応じて設定を変更しない。また、第2の実施形態において、色評価値を取得する際の色差信号R−Y,B−Yについては、前述の第1の実施形態の場合と同様に、ガンマ補正後の色差信号を用いる。なお、第2の実施形態の場合も第1の実施形態と同様に、ガンマ補正処理で使用されるガンマ特性は、高輝度優先モード、通常撮影モード、それ以外のモードの各撮影モードのうち、ユーザが選択した撮影モードに応じて設定されるガンマ特性となされている。
第2の実施形態におけるビデオカメラ100の外観図は図1と同じであるためその図示については省略する。第2の実施形態の画像処理部24の概略的な内部構成は前述の図3と同じであるため、以下、図3を流用しながら第2の実施形態の画像処理部24について説明する。第2の実施形態におけるゲイン制御部301〜色評価値取得部308は、前述同様であるため、それらゲイン制御部301〜色評価値取得部308の説明は省略する。なお、第2の実施形態の場合のゲイン制御部301は、映像信号に対し、後述する明るさ評価値取得部310が取得した輝度信号の平均値に応じたデジタルゲインの付加を行う。
以下、第2の実施形態における画像処理部24の輝度信号変換部309と明るさ評価値取得部310と白抽出制御部311について説明する。
輝度信号変換部309は、ガンマ補正部303に入力される前のRGB信号から輝度信号Yを生成する。輝度信号変換部309は、RGB信号のうち例えばG信号のみを抽出し、このG信号に適応補間処理を施したものを輝度信号Yとして生成してもよい。明るさ評価値取得部310は、輝度信号変換部309から供給された輝度信号Yを用い、1フレームの映像全体について前述同様に設定した各評価枠(メッシュ枠)の映像領域毎に、輝度信号Yの平均値を求める。明るさ評価値取得部310は、それら各評価枠の映像領域毎の輝度信号Yの平均値を、明るさ評価値として白抽出制御部311に送る。白抽出制御部311は、評価枠の映像領域毎の輝度信号Yの平均値(明るさ評価値)に基づいて、色評価値取得部308で白らしい領域を抽出するための明るさ閾値範囲を決定して、その明るさ閾値範囲を示す情報を、色評価値取得部308に送る。これにより、第2の実施形態の色評価値取得部308には、白らしい領域を抽出する際の輝度信号Yに対する明るさ閾値範囲が設定されることになる。色評価値取得部308は、前述の第1の実施形態で説明したのと同様にして色評価値を求める。
前述した第1の実施形態では、白らしい領域の判定に用いる明るさ閾値範囲の設定の際にガンマ補正後の輝度信号Yを用いていたのに対し、第2の実施形態では、ガンマ補正前の輝度信号Yを用いている。また、前述した第1の実施形態では、白らしい領域の判定に用いる明るさ閾値範囲の下限値が、ガンマ補正処理で使用されるガンマ特性に応じて変わるようになされていた。これに対し、第2の実施形態の場合、ガンマ補正前の輝度信号Yから明るさ閾値範囲が設定されているため、例えば撮影モードが変更されたことで使用されるガンマ特性が変わったとしても、輝度信号Yのレベルに変化はない。このため、第2の実施形態の場合、明るさ閾値範囲の下限値については、ガンマ補正処理で使用されるガンマ特性に応じて変更する必要はない。第2の実施形態の場合、輝度信号変換部309と明るさ評価値取得部310により、ガンマ補正処理前の映像信号から求められた明るさ評価値に基づいて、明るさ閾値範囲の下限値が設定されている。
一方、第2の実施形態の場合、第1の実施形態と同様に、色評価値については、ガンマ補正処理後の色差信号R−Y,B−Yから求められている。この場合、ニー処理等による高輝度領域の色曲がりを考慮する必要があるため、明るさ閾値範囲の上限値については、撮像モードが高輝度優先モードと通常撮影モードの何れであるか(何れのガンマ特性であるか)に応じた値に設定しなければならない。したがって、第2の実施形態の場合も第1の実施形態と同様に、白らしい領域であるかの判定に用いる明るさ閾値範囲の上限値については、撮影モードで用いるガンマ特性に応じた値に設定する。
これらのことから、第2の実施形態では、色評価値取得部308が白らしい領域を判定する際に用いる明るさ閾値範囲の設定処理のフローチャートは、前述の図10のフローチャートにおいて下限値の変更を行わないようなフローチャートとなる。以下、図10のフローチャートと図11を流用して、第2の実施形態の場合の白抽出制御部311における明るさ閾値範囲の設定処理について説明する。
第2の実施形態の場合、S1002において、白抽出制御部311は、色評価値取得部308で白らしい領域を抽出する際の明るさ閾値範囲の上限値Auを、図11に示した上限値X1に設定する。そして、白抽出制御部311は、その設定した明るさ閾値範囲の上限値X1の情報を色評価値取得部308に送る。これにより、色評価値取得部308には、高輝度優先モードにおいて白らしい領域を抽出する際の明るさ閾値範囲の上限値X1が設定されることになる。一方、第2の実施形態の場合、S1004、S1005の後のS1006の処理は行われない。なお、第2の実施形態の場合、図10のS1001、S1003、S1004、S1005の処理については前述同様に行われる。
第2の実施形態によれば、明るさ閾値範囲の下限値についてはガンマ補正処理前の輝度信号Yを基に設定され、一方、明るさ閾値範囲の上限値については通常撮影モードや高輝度優先モードの撮影モードで使用されるガンマ特性に応じて設定される。これにより、第2の実施形態の場合も第1の実施形態の場合と同様に、高輝度優先モードでは、明るさ閾値範囲の上限値X1が通常撮影モードにおける上限値X2より高輝度側の値に設定され、より高輝度な無彩色の白色まで利用出来る。したがって、第2の実施形態では、高輝度優先モードにおいて、高輝度な無彩色の白色まで利用出来るようになり、AWB精度の向上が期待できる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処7理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。