JP2016019081A - 画像処理装置、その制御方法、および制御プログラム - Google Patents

画像処理装置、その制御方法、および制御プログラム Download PDF

Info

Publication number
JP2016019081A
JP2016019081A JP2014139611A JP2014139611A JP2016019081A JP 2016019081 A JP2016019081 A JP 2016019081A JP 2014139611 A JP2014139611 A JP 2014139611A JP 2014139611 A JP2014139611 A JP 2014139611A JP 2016019081 A JP2016019081 A JP 2016019081A
Authority
JP
Japan
Prior art keywords
color
correction value
detection frame
flash
white balance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014139611A
Other languages
English (en)
Other versions
JP6552165B2 (ja
Inventor
光明 服部
Mitsuaki Hattori
光明 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014139611A priority Critical patent/JP6552165B2/ja
Publication of JP2016019081A publication Critical patent/JP2016019081A/ja
Application granted granted Critical
Publication of JP6552165B2 publication Critical patent/JP6552165B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】被写体における色情報と赤外線情報とに応じてWB補正値を算出する際、フラッシュ発光を行っても適切にWB補正値を求める。【解決手段】ブロック分割部201は画像を分割した複数のブロック領域の各々について色を検出する。色判定部205は画像を得た際にフラッシュ発光があったか否かに応じて色検出枠の範囲を変更して、検出された色が色検出枠に含まれるか否かを判定する。赤外線量判定部207はブロック領域の各々における赤外線量に応じて、色検出枠に含まれるブロック領域の色が光源の色であるか又は被写体の色であるか判別する。RGB値加算部208は被写体の色であると判別されたブロック領域の色を色検出枠における位置と赤外線量とに応じて加算比率を変更して加算し、光源色推定部209は加算値の色検出枠における位置に応じて色温度を推定する。赤外線WB補正値算出部211は色温度に応じてWB処理に用いるWB補正値を算出する。【選択図】図2

Description

本発明は、画像処理装置、その制御方法、および制御プログラムに関し、特に、画像処理装置において行われるホワイトバランス処理に関する。
近年、撮像装置などの画像処理装置において行われるオートホワイトバランス処理では、所謂TTL(Through The Lens)方式が広く用いられている。TTL方式によるオートホワイトバランス処理においては、撮影の結果得られた画像に応じて光源の色を推定している。そして、ホワイトバランス(以下WBという)補正値を算出するためには、画像において光源色と被写体色とを精度よく区別する必要がある。
例えば、水銀灯又は蛍光灯などの光源下で無彩色の被写体を撮影した場合と太陽光下で草木などの緑の被写体を撮影した場合とを比べると、撮影の結果得られた画像の色はどちらも同一の緑色となって、光源を判別することは困難である。
このような問題を解決するため、例えば、被写体における赤外線情報に応じて、光源が蛍光灯などであるか否かを区別するようにした画像処理装置がある(特許文献1参照)。つまり、ここでは、太陽光などの自然光には赤外線成分が多く含まれているが、水銀灯又は蛍光灯などの光には赤外線成分が含まれていないことを考慮して光源を判別するようにしている。そして、赤外線量によって光源を判別する手法については様々な手法がある。
TTL方式によるWB処理においては、前述のように、撮影の結果得られた画像から無彩色らしい色を抽出して光源色を推定している。一方、赤外線情報を用いれば光源色の緑と自然光下の草木の緑とが区別できるので、画像から自然光下の草木の緑の色を抽出して、当該緑色に基づいて光源の色を推定するという手法もある。
特開2003−163944号公報
ところで、赤外線量が多い被写体の緑色から光源の色を推定する手法では、光源は自然光であることを前提とした上で緑色から光源色を推定することになる。このため、フラッシュ撮影を行った際には、自然光とフラッシュ光とが混ざって、適切なホワイトバランス補正値が求められないことがある。
そこで、本発明の目的は、緑色の被写体における色情報と当該被写体における赤外線情報とに応じてWB補正値を算出する際、フラッシュ発光を行っても適切なWB補正値を求めることのできる画像処理装置、その制御方法、および制御プログラムを提供することにある。
上記の目的を達成するため、本発明による画像処理装置は、画像に対してホワイトバランス処理を行う画像処理装置であって、前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出手段と、前記色検出手段により検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定手段と、前記ブロック領域の各々において検出された赤外線量に応じて、前記判定手段によって前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別手段と、前記色判別手段によって被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定手段と、前記色温度推定手段によって推定された色温度に応じて、前記ホワイトバランス処理に用いられる第1のホワイトバランス補正値を算出する第1の補正値算出手段と、前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御手段と、を有することを特徴とする。
本発明による制御方法は、画像に対してホワイトバランス処理を行う画像処理装置の制御方法であって、前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出ステップと、前記色検出ステップで検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定ステップと、前記ブロック領域の各々において検出された赤外線量に応じて、前記判定ステップで前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別ステップと、前記色判別ステップで被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定ステップと、前記色温度推定ステップで推定された色温度に応じて、前記ホワイトバランス処理に用いられるホワイトバランス補正値を算出する補正値算出ステップと、前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御ステップと、を有することを特徴とする。
本発明による制御プログラムは、画像に対してホワイトバランス処理を行う画像処理装置で用いられる制御プログラムであって、前記画像処理装置が備えるコンピュータに、前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出ステップと、前記色検出ステップで検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定ステップと、前記ブロック領域の各々において検出された赤外線量に応じて、前記判定ステップで前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別ステップと、前記色判別ステップで被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定ステップと、前記色温度推定ステップで推定された色温度に応じて、前記ホワイトバランス処理に用いられるホワイトバランス補正値を算出する補正値算出ステップと、前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御ステップと、を実行させることを特徴とする。
本発明によれば、フラッシュ発光があっても適切にホワイトバランス補正値を算出することができる。
本発明の実施の形態による画像処理装置を備える撮像装置の一例についてその構成を示すブロック図である。 図1に示す画像処理装置に備えられたホワイトバランス制御部の一例についてその構成を示すブロック図である。 図1に示すカメラで行われる撮影処理を説明するためのフローチャートである。 図3に示すWB補正値の演算処理を説明するためのフローチャートである。 図2に示す白判定部で行われる判定処理を説明するための図である。 図4に示す白WB補正値の信頼度算出を説明するためのフローチャートである。 図2に示すWB制御部で行われる信頼度算出に用いられるテーブルを説明するための図であり、(A)は割合信頼度の算出に用いられるテーブルを示す図、(B)は距離信頼度の算出に用いられるテーブルを示す図、(C)は赤外線信頼度の算出に用いられるテーブルの一例を示す図、(D)は赤外線信頼度の算出に用いられるテーブルの他の例を示す図、(E)は緑信頼度の算出に用いられるテーブルを示す図である。 図4に示す赤外線判定に基づいた緑検出の一例を説明するための図であり、(A)はRAWデータが示す画像の一例を示す図、(B)は(A)に示す画像を所定の数のブロックに分割した状態を示す図である。 図4に示す赤外線判定に基づいた緑検出処理の一例を説明するためのフローチャートである。 図2に示すWB制御部で行われるWB補正値の算出を説明するための図であり、(A)は赤外線判定に応じた緑検出に関する処理を示す図、(B)は緑検出積分値に応じた光源色の推定処理を示す図、(C)はフラッシュ光比率が0%の際の緑検出積分値と光源との関係を示す図、(D)は色温度推定に基づいたWB補正値の算出処理を示す図、図10(E)は白WB補正値と赤外線WB補正値との加算処理を示す図である。 図4に示す緑検出に基づいた光源推定を説明するためのフローチャートである。 図4に示す白WB補正値と赤外線WB補正値との加算処理を説明するためのフローチャートである。
以下に、本発明の実施の形態による画像処理装置の一例について図面を参照して説明する。
図1は、本発明の実施の形態による画像処理装置を備える撮像装置の一例についてその構成を示すブロック図である。
撮像装置100は、例えば、デジタルカメラ(以下単にカメラと呼ぶ)であるが、例えば、デジタルビデオカメラであってもよい。さらに、撮像装置100はカメラ機能付き携帯電話機又はカメラ付きコンピュータなどカメラ機能を備える電子機器であってもよい。
図示のカメラ100は光学系101を有しており、光学系101はレンズ、シャッター、および絞りを備えている。光学系101を介して被写体像(光学像)が撮像素子102に結像する。この際、光学系101から焦点距離、シャッター速度、および絞り値などの光学系情報が中央演算装置(以下CPUと呼ぶ)103に送られる。
撮像素子102は、例えば、CCDイメージセンサ又はCMOSイメージセンサであり、複数の画素が2次元マトリックス状に配列されている。そして、これら画素にはR(赤)、G(緑)、B(青)のカラーフィルタが、例えば、ベイヤー配列で配列されている。そして、撮像素子102は光学像を画素毎の輝度情報を示すアナログ信号に変換する。
撮像素子102の出力であるアナログ信号はA/D変換器(図示せず)によって、例えば、1画素当たり12ビットのデジタル画像信号に変換される。このデジタル画像信号は現像処理前のRAWデータであり、CPU103によって一次記憶装置104に記憶される。なお、撮像素子102の電気的利得(以下ISO感度という)はCPU103によって設定される。
測光センサ105は複数の測光領域を備えており(例えば、水平方向に12、垂直方向に8の合計96個の測光領域)、光学系101を介して入射した光量に応じて測光領域毎に被写体輝度を検出する。そして、これら被写体輝度はA/D変換器(図示せず)によってデジタル輝度信号に変換されてCPU103に送られる。
なお、測光センサ105の測光領域の数については正数であればよく、上記の例には限定されない。
赤外線センサ106は、測光センサ105と同一の数の領域に分割されており、光学系101を介して入射した光量に応じで領域毎に赤外線量を検出する。そして、これら赤外線量はA/D変換器(図示せず)によってデジタル赤外線信号に変換されて、CPU103に送られる。
CPU103はカメラ100全体の制御を司り、予め記憶されたプログラムに応じてカメラ100を制御する。なお、以下の説明において、CPU103がプログラムを実行して実現する機能の少なくとも一部はASICなどの専用ハードウェアによって実現するようにしてもよい。
CPU103は、測光センサ105で得られた測光信号(つまり、デジタル輝度信号)に応じてフラッシュユニット(以下単にフラッシュと呼ぶ)112の発光および非発光を制御する。さらには、ユーザは操作部111を用いて、フラッシュ112の発光又は非発光を設定することができる。
さらに、後述するプリ発光撮影によって、測光センサ105で得られた測光信号に応じて、CPU103はフラッシュ112における発光量を制御する(フラッシュ調光)。なお、ユーザは操作部を用いて発光量を設定することができる。
ここでは、フラッシュ110はシャッターの先幕の走行が終わって、後幕の走行が開始される前に発光する通常の閃光発光の他に、所謂ハイスピードシンクロ撮影に対応した発光を行うことができる。ハイスピードシンクロ撮影においてはシャッターの先幕および後幕がスリットを形成して走行する高速シャッター速度においても所定の期間、フラッシュ発光を継続して発光を撮影に同調させることができる。
図示のフラッシュ112はカメラ100に対して着脱可能である。さらに、フラッシュ112には、フラッシュ光を拡散させるパネルおよびフラッシュ光の色を変換するフィルタなどを装着することができる。そして、フラッシュ光で直接被写体を照明しない所謂バウンス撮影においてもフラッシュ112を用いることができる。
なお、フラッシュ112に色変換フィルタを用いることなく、RGB3色のLEDなどを用いてフラッシュ光自体の色を調色するようにしてもよい。
一次記憶装置104は、例えば、RAMなどの揮発性記憶装置であり、CPU103の作業用エリアとして用いられる。また、一次記憶装置104に記憶されたデータおよび情報は、画像処理装置107で利用され、さらには記録媒体108に記録される。
二次記憶装置109は、例えば、EEPROMなどの不揮発性記憶装置である。二次記憶装置109には、カメラ100を制御するためのプログラム(ファームウェア)および各種の設定情報が記憶されて、CPU103によって用いられる。
記録媒体108には、一次記憶装置104に記憶された画像データなどが記録される。なお、記録媒体108は、例えば、半導体メモリカードなどのようにカメラ100に対して着脱可能である。そして、記録媒体108に記録された画像データなどは、パーソナルコンピュータなど他の機器で読み出すことができる。つまり、カメラ100は、記録媒体108の着脱機構および読み書き機能を有している。
表示部110には、撮影の際にビューファインダー画像が表示されるとともに、撮影の結果得られた撮影画像が表示される。さらには、表示部110には対話的な操作のためのGUI画像などが表示される。
操作部111は、ユーザ操作を受け付けてCPU103に入力情報を送る入力デバイス群である。操作部111には、例えば、ボタン、レバー、およびタッチパネルなどが備えられる。さらには、操作部111は、音声および視線などを用いた入力機器であってもよい。そして、操作部111には撮影開始を行うレリーズボタンが備えられている。
図示のカメラ100には、画像処理装置107によって行われる画像処理のパターンが複数備えられ、これら画像処理パターンを撮像モードとして操作部111で設定することができる。
画像処理装置107は、撮影の結果得られた画像データに対して、所定の画像処理を行う。例えば、画像処理装置107はホワイトバランス処理、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、彩度補正、および色相補正などの現像処理と呼ばれる画像処理を行う。
なお、図示の例では、後述するように、画像処理装置107がホワイトバランス処理に係る演算を行うが、画像処理装置107の機能の少なくとも一部を、CPU103がソフトウェア的に実現するようにしてもよい。
図2は、図1に示す画像処理装置107に備えられたホワイトバランス制御部200の一例についてその構成を示すブロック図である。
なお、図示のホワイトバランス(WB)制御部200はホワイトバランス処理を行うための制御部である。そして、WB制御部200においては、白と推定される画素に係るWB補正値(以下白WB補正値という)と赤外線量に係るWB補正値(以下赤外線WB補正値という)とに応じて混合WB補正値を算出する。
図示のように、WB制御部200は、ブロック分割部201、白判定部202、白WB補正値算出部203、白WB補正値信頼度算出部204、色判定部205、輝度判定部206、赤外線量判定部207、RGB値加算部208、光源色推定部209、赤外線WB補正値算出部210、赤外線WB補正値信頼度算出部211、WB補正値加算比率算出部212、および混合WB補正値算出部213を備えている。なお、各ブロックで行われる処理については後述する。
図3は、図1に示すカメラ100で行われる撮影処理を説明するためのフローチャートである。
なお、前述のレリーズボタンは2段階で操作され、以下の説明において、操作部111におけるSW1はレリーズボタンの半押しをいい、操作部111におけるSW2はレリーズボタンの全押しをいう。また、図示のフローチャートに係る処理は、CPU103の制御下で行われる。
撮影処理を開始すると、CPU103は、操作部110からユーザ入力を受け付ける(ステップS301:操作部の制御)。そして、CPU103は、ユーザ入力に応じて光学系101の焦点距離、シャッター速度、および絞り値などの設定を調節する(ステップS302:光学系の制御)。
続いて、CPU103は、ユーザ入力に応じて測光センサ105における測光領域を調節する(ステップS303:測光センサの制御)。さらに、CPU103は、ユーザ入力に基づいて赤外線センサ106における測光領域を調節する(ステップS304:赤外線センサの制御)。そして、CPU103は、ユーザ入力に応じて撮像素子102のISO感度などの設定を調節する(ステップS305:撮像素子の制御)。
続いて、CPU103は、ステップS302〜S305において変更された設定に係る変更情報を表示部109に表示する(ステップS306:表示部の制御)。なお、ステップS302〜S305の処理順は、図示の例に限らず処理順を変更するようにしてもよい。
次に、CPU103は操作部111においてSW1がオン又はオフのいずれかであるかを判定する(ステップS307)。SW1がオフであると(ステップS307において、OFF)、CPU103はステップS301の処理に戻る。一方、SW1がオンであると(ステップS307において、ON)、CPU103は測光センサ105によって被写体の明るさを計測(測光)する(ステップS308)。さらに、CPU103は自動露出(AE)モードの際には、シャッター速度、絞り値、およびISO感度に応じて露出の調節(露出制御)を行う。
CPU103は、測光の際には、測光領域毎にその明るさを計測して、被写体輝度の平均値BvAveを求める。さらに、フラッシュ112を自動発光させる自動発光モードの場合には、CPU103は被写体の明るさ(つまり、被写体輝度の平均値)に応じて発光又は非発光を決定する。さらには、CPU103は測光センサ105の測光領域毎の輝度パターンに応じて逆光などを検知して発光の有無を制御する場合もある。
続いて、CPU103は、赤外線センサ106によって測光センサと同一の領域について領域毎の赤外線量を検出する(ステップS309)。そして、CPU103は、自動フォーカス(AF)モードが設定されている場合には、測距センサ(図示せず)によってピントの調節を行う(ステップS310)。なお、ステップS308〜S310の処理順は、図示の例に限らず処理順を変更するようにしてもよい。
次に、CPU103は操作部111のSW2がオン又はオフのいずれであるかを判定する(ステップS311)。SW2がオフであると(ステップS311において、OFF)、CPU103はステップS301の処理に戻る。一方、SW2がオンであると(ステップS311において、ON)、CPU103はフラッシュ112を発光制御してプリ発光処理を行う(ステップS312)。
ここでは、CPU103は、露光開始前にフラッシュ112の微小発光を行う。そして、CPU10は、ステップS308の処理で得た被写体の明るさと微小発光の際の明るさとの差分に応じて露光中のフラッシュ発光(以下メイン発光という)の際の発光量を決定する。
ここで、フラッシュ発光量の決定手法について説明すると、前述のステップS308の処理において、被写体輝度の平均値BvAveが求められている。そして、発光量Vpreにおいてプリ発光した際の被写体輝度の平均値をBvPreAveとすると、メイン発光量Vmainは次の式(1)によって求められる。
Vmain=(BvTgt−BvAve)/(BvPreAve−BvAve)×Vpre (1)
なお、BvTgtは被写体が狙いの明るさ(目標の明るさ)となる輝度である。
その後、CPU103は発光量Vmainに応じて、露光開始とともにフラッシュ112によるメイン発光を開始する。なお、フラッシュ発光は撮影時のシャッター秒時に応じて行われ、シャッター秒時が所定の値以上の高速秒時であると、CPU103はハイスピードシンクロ発光を行う。シャッター秒時が所定の値よりも低い低速秒時であると、CPU103は通常の閃光発光を行う。
この際、CPU103は、次の式(2)を用いて、フラッシュ光と撮影シーンに存在する定常光の明るさとの比FlashRatioも算出する。
FlashRatio=(BvTgt−BvAve)/BvTgt×100 (2)
このフラッシュ光比率(光量比率ともいう)FlashRatioは定常光が0%、フラッシュ光が100%の比率となると100となり、定常光が100%、フラッシュ光が0%の比率になると0となる。
続いて、CPU103は撮像素子102を露光し、一次記憶装置104にRAWデータを記憶する(ステップS313)。そして、CPU103は、画像処理装置107を制御して、後述すようにして一次記憶装置104に記憶されたRAWデータに係るWB補正値を求める(ステップS314)。さらに、CPU103は、一次記憶装置104に記憶されたRAWデータを、WB補正値(混合WB補正値)によって補正して(つまり、現像して)画像データを得る(ステップS315)。
この際には、画像処理装置107は、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、彩度補正処理、色相補正処理などのいわゆる現像処理を行って8ビットのRGB又はYUVの画像データに変換する。
その後、CPU103は、現像後の画像データに応じた画像を表示部110に表示する(ステップS316)。CPU103は、記録媒体108に現像後の画像データを記録して(ステップS317)、撮影処理を終了する。なお、ステップS316およびS317の処理順は、図示の例に限らず処理順を変更するようにしてもよい。
図4は、図3に示すWB補正値の演算処理を説明するためのフローチャートである。
図2および図4を参照して、ブロック分割部201は、一次記憶装置104に記憶されたRAWデータを受けて、RAWデータが示す画像を水平方向および垂直方向に所定の数(例えば、水平方向に12、垂直方向に8の合計96個)のブロック領域(以下単にブロックと呼ぶ)に分割する。そして、ブロック分割部201はブロック毎のR、G、およびBの積分値を求める。
なお、ブロックの分割数は上述の例に限らず、ブロック分割数は正数であればよい。また、ここでは、ブロックの分割数およびその領域は、測光センサ105および赤外線センサ106における領域の分割数および領域に対応している。
続いて、白判定部202はブロック毎にそのR、G、およびBの積分値に応じて、色評価値としてのR/GおよびB/Gを求める。そして、白判定部202は、後述するようにして、R/GおよびB/G座標に設定した白色領域に含まれるブロックについてそのR、G、およびBを積分して、積分値Rinteg、Ginteg、およびBintegを得る(ステップS401)。つまり、ここでは、画像から無彩色らしい画素を抽出することになる。
図5は、図2に示す白判定部202で行われる判定処理を説明するための図である。
図5において、横軸はR/Gを示し、縦軸はG/Bを示す。ここでは、黒体輻射軌跡が参照番号501で示されている。カメラ100において日向、日陰、タングステン光、水銀灯、蛍光灯、又はフラッシュ光などの様々な光源で無彩色被写体を撮影した際のR/G、B/G値がその領域内に存在するように白色領域502が設定される。
なお、図5においては、R/GおよびB/G座標を用いて被写体から無彩色らしい画素を抽出して光源色を推定することによってWB補正値の演算を行うようにしたが、他の手法で被写体から無彩色らしい画素を抽出してWB補正値の演算を行うようにしてもよい。
再び図2および図4を参照して、白WB補正値算出部203は、白色領域502内のブロックにおいて算出したR、G、およびB積分値Rinteg、Ginteg、およびBintegに応じて、式(3)を用いてWB補正値(白WB補正値)を算出する(ステップS402)。
白WB補正値のRゲインW_WB_Rgain=Ginteg/Rinteg
白WB補正値のGゲインW_WB_Ggain=Ginteg/Ginteg(3)
白WB補正値のBゲインW_WB_Bgain=Ginteg/Binteg
続いて、白WB補正値信頼度算出部204は、後述するようにして、白WB補正値の信頼度を算出する(ステップS403)。
図6は、図4に示す白WB補正値の信頼度算出を説明するためのフローチャートである。
白WB補正値信頼度算出部204は、ステップS401において抽出された白ブロックのブロック全体(つまり、画像全体)に対する割合に応じて割合信頼度Tratioを算出する(ステップS601)。
図7は、図2に示すWB制御部200で行われる信頼度算出に用いられるテーブルを説明するための図である。そして、図7(A)は割合信頼度の算出に用いられるテーブルを示す図であり、図7(B)は距離信頼度の算出に用いられるテーブルを示す図である。また、図7(C)は赤外線信頼度の算出に用いられるテーブルの一例を示す図であり、図7(D)は赤外線信頼度の算出に用いられるテーブルの他の例を示す図である。さらに、図7(E)は緑信頼度の算出に用いられるテーブルを示す図である。
割合信頼度Tratioを算出する際には、白WB補正値信頼度算出部204は図7(A)に示すテーブル(割合信頼度テーブル)を参照して、割合信頼度Tratio(%)を算出する。
図7(A)において、横軸は白ブロックの数、縦軸は割合信頼度Tratio(%)を示す。なお、ここでは、ブロック全体の数は96個である。図7(A)に示すブロック全体の数は一例であり、図示の例に限定するものではない。つまり、白ブロックの割合が多い程、割合信頼度Tratioが高くなるようにテーブルを設定するようにすればよい。
続いて、白WB補正値信頼度算出部204は、ステップS402で求められた白WB補正値W_WB_RgainおよびW_WB_Bgainに応じて、式(4)を用いて、図5に示すR/G,B/G座標における座標503を求める。
白WB補正値に対応するR/G=1/W_WB_Rgain
白WB補正値に対応するB/G=1/W_WB_Bgain (4)
そして、白WB補正値信頼度算出部204は、白WB補正値に対応する(R/G,B/G)座標503と黒体輻射軌跡501との最短距離504に応じて、図7(B)に示すテーブル(距離信頼度テーブル)から距離信頼度Tdist(%)を算出する(ステップS602)。
図7(B)において、横軸は白WB補正値に対応する(R/G,B/G)座標503と黒体輻射軌跡501との最短距離504を示し、縦軸は黒体輻射軌跡501からの距離信頼度Tdistを示す。なお、距離信頼度Tdistは、白WB補正値に対応する(R/G,B/G)座標503と黒体輻射軌跡501との最短距離が近い程、高くなるように設定すればよい。図7(B)における最小距離Dminと最大距離Dmaxは任意に設定する。そして、距離信頼度Tdistが大きい程、水銀灯又は蛍光灯ではなく、自然光下の無彩色が検出された可能性が高いことを示す。
続いて、白WB補正値信頼度算出部204は、式(5)によって割合信頼度Tratioと距離信頼度Tdistとを乗算して、白WB補正値の信頼度Twhiteを算出する(ステップS603)。そして、白WB補正値信頼度算出部204は、白WB補正値の信頼度算出を終了して、図4に示す処理に戻る。
Twhite=Tratio×Tdist/100 (5)
次に、CPU103は白WB補正値の信頼度Twhiteの判定を行う(ステップS404)。ここでは、CPU103は白WB補正値の信頼度Twhiteが所定の閾値以上であると、自然光下で無彩色が検出されているとして、信頼度Twhiteは高信頼度であるとする。一方、CPU103は白WB補正値の信頼度Twhiteが所定の閾値未満であると、信頼度Twhiteは低信頼度であるとする。
信頼度Twhiteが高信頼度であると(ステップS404において、高信頼度)、CPU103はWB補正値演算を終了して、図3に示すステップS314の処理に進む。そして、CPU103は、画像処理装置107を制御して白WB補正値に応じて、一次記憶装置104に記憶されたRAWデータを画像データに変換する。
一方、信頼度Twhiteが低信頼度であると(ステップS404において、低信頼度)、CPU103は、WB制御部200を制御して以下の処理を行う。
ここでは、まず、CPU103の制御下で、赤外線判定に応じた緑の検出が行われる(ステップS405)。つまり、一次記憶装置104に記憶されたRAWデータが示す画像が、ブロック分割部201の処理と同様にして所定のブロックに分割される。次に、赤外線センサ106において同一の領域(つまり、ブロック)で検出された赤外線量に基づいて緑と判定されたブロックが水銀灯などの光源の影響による色か又は被写体の色かが判別される。そして、被写体の色であると判別されたブロックのみがWB補正値の算出に用いられる。
図8は、図4に示す赤外線判定に基づいた緑検出の一例を説明するための図である。そして、図8(A)はRAWデータが示す画像の一例を示す図であり、図8(B)は図8(A)に示す画像を所定の数のブロックに分割した状態を示す図である。
図8(B)において、緑の芝のブロックを参照番号701で示し、青い空のブロックを参照番号702で示す。また、白い看板のブロックを参照番号703で示す。いま、図8(A)に示す画像が自然光下の撮影で得られたとすると、太陽光は赤外線を含むので、緑の芝のブロック701は赤外線を反射する結果被写体の色と判別されて、WB補正値算出の対象となる。なお、青い空のブロック702および白い看板のブロック703は、緑ではないためWB補正値算出の対象外となる。
一方、図8(A)に示す画像が夜間に水銀灯下の撮影で得られたとすると、水銀灯の色の影響を受けて、白い看板のブロック703が緑と判別されることがある。また、緑の芝のブロック701も水銀灯の色の影響を受けるので、本来の緑と異なる色になる。この場合、水銀灯は赤外線成分を含まないので、緑の芝のブロック701および白い看板のブロック703は水銀灯の影響による色であると判別される。この結果、緑ではあるがWB補正値算出の対象外となる。
図9は、図4に示す赤外線判定に基づいた緑検出処理の一例を説明するためのフローチャートである。
色判定部205は、ブロックの各々について予め設定された緑検出領域(色検出枠)に含まれるか否かを判定して、当該判定結果に応じて緑の信頼度を求める(ステップS801)する。ここでは、緑検出領域に含まれるブロックは、緑の信頼度(色信頼度Tgreen)が100%とされ、緑検出領域に含まれないブロックは、色信頼度Tgreenが0%とされる。
ところで、フラッシュ発光および自然光下において同一の緑被写体を撮影しても、R/GおよびB/G座標にプロットされる色評価値の座標位置が異なる。このため、自然光に対応する緑検出領域のみではフラッシュ発光の際に検出できない緑被写体が存在することになって、緑検出の精度が低下する。
そこで、フラッシュ発光の際には、緑検出領域をフラッシュ光と定常光(つまり、自然光)との比率(フラッシュ光比率)FlashRatioに応じて変化させる。フラッシュ光比率FlashRatioが0%の場合には、緑検出領域は自然光に対応する範囲の枠とする。一方、フラッシュ光比率FlashRatioが100%の場合には、緑検出領域はフラッシュ光のみに対応する範囲の枠とされる。
フラッシュ光比率FlashRatioが0%と100%との間にある場合には、当該比率に応じて緑検出領域が設定される。例えば、フラッシュ光比率FlashRatioが50%の場合には、自然光に対応する緑検出領域とフラッシュ光に対応する緑検出領域とを用いてフラッシュ光比率FlashRatioに応じて補間を行って、その中間に位置する緑検出領域を設定する。
ここでは、予め様々な色温度(例えば、約4000Kから約10000K)における自然光下で種々の草木の緑を撮影する。そして、そのプロット範囲を算出して、フラッシュ光比率FlashRatioが0%の際の緑検出領域を得て、これら緑検出領域を二次記憶装置109に記録する。
また、予めフラッシュ112を発光させて種々の草木の緑を撮影する。そして、そのプロット範囲を算出して、フラッシュ光比率FlashRatioが100%の際の緑検出領域を得て、これら緑検出領域を二次記憶装置109に記録する。
上述のように、フラッシュ光比率FlashRatioに応じて緑検出領域を変更するようにすれば、フラッシュ光および自然光が存在する撮影シーンにおいても適切に緑被写体を検出することができる。
なお、前述のように、カメラには種々の種類のフラッシュが着脱可能であり、フラッシュの種類毎に緑検出領域を記憶するようにしてもよい。また、閃光発光モード/ハイスピードシンクロモード、フラッシュ光拡散パネルの有無、バウンス撮影の有無、およびフラッシュ光色変換フィルタ装着の有無に応じて緑検出領域を記憶するようにしてもよい。さらに、調色可能なフラッシュの場合には、フラッシュ光の色毎に緑検出領域を記憶するようにしてもよい。
このように、撮影条件によってフラッシュ光の色は異なるので、撮影条件に応じて緑検出領域を記憶しておけば、精度よく緑検出を行うことができる。
なお、以下の説明では、フラッシュ光比率FlashRatioは50%であるものとする。
続いて、輝度判定部206は、測光センサ105によって検出された被写体輝度に基づいて色信頼度を求めるために十分な明るさがあるかを判定して、当該判定結果に応じて輝度信頼度Tlumiを求める(ステップS802)する。ここでは、被写体輝度が所定の輝度閾値以上であると、輝度信頼度Tlumiは100%とされ。被写体輝度が輝度閾値未満であると、輝度信頼度Tlumiは0%とされる。
このように、輝度信頼度Tlumiを考慮することによって、極端に暗い夜景シーンなどにおいて低輝度性能限界によって測光センサ107および赤外線センサ105において適切な検出出力が得られない場合に、自然光判定の際の誤判定を回避することができる。
続いて、赤外線量判定部207は、赤外線センサ106で検出された赤外線量に基づいて、図7(C)に示すテーブル(赤外線信頼度テーブル)を参照して赤外線量の信頼度(赤外線信頼度)Tirを求める(ステップS803)。この赤外線信頼度Tirは、例えば、無彩色の被写体が水銀灯などの緑色の光源下で撮影されたか又は草木の緑が自然光下で撮影されたかのいずれの可能性が高いかを示す信頼度である。
なお、赤外線量については、測光センサ105で得られる被写体輝度によって正規化して、被写体輝度における赤外線量の比率を用いることによって、明るさの変化によるばらつきを抑えることができる。
図7(C)を参照すると、最小値(閾値)Iminよりも赤外線量が少ない場合には、光源の影響による色とされ、最大値(閾値)Imaxよりも赤外線量が多い場合には、被写体の色とされる。そして、最小値Iminと最大値Imaxとの間においては、線形補間によって、赤外線量に応じて徐々に赤外線信頼度Tirが変化するようにする。
次に、RGB値加算部208は、処理対象ブロックのR、G、およびBの各々ついて、色信頼度Tgreen、輝度信頼度Tlumi、および赤外線信頼度Tirに応じて、式(6)によって重み付け積分を行う(ステップS804)。以下、当該重み付け積分によって得られた積分値(つまり、加算値)をそれぞれ緑検出積分値RintegG、GintegG、およびBintegGとする。なお、緑検出積分値RintegG、GintegG、およびBintegGは最初のブロックを処理する前に1度だけ0で初期化される。
RintegG=RintegG+Rij×(Tgreen/100×Tlumi/100×Tir/100)
GintegG=GintegG+Gij×(Tgreen/100×Tlumi/100×Tir/100)
BintegG=BintegG+Bij×(Tgreen/100×Tlumi/100×Tir/100) (6)
但し、Rijは、iおよびj番目のブロック内のRの積分値、Gijは、iおよびj番目のブロック内のGの積分値であり、Bijは、iおよびj番目のブロック内のBの積分値である。また、iは水平方向のブロック数(0〜11)であり、jは垂直方向のブロック数(0〜7)である。
図10は、図2に示すWB制御部200で行われるWB補正値の算出を説明するための図である。そして、図10(A)は赤外線判定に応じた緑検出に関する処理を示す図であり、図10(B)は緑検出積分値に応じた光源色の推定処理を示す図である。また、図10(C)はフラッシュ光比率が0%の際の緑検出積分値と光源との関係を示す図であり、図10(D)は色温度推定に基づいたWB補正値の算出処理を示す図である。さらに、図10(E)は白WB補正値と赤外線WB補正値との加算処理を示す図である。
図10(A)を参照すると、ここでは、横軸をR/G、縦軸をB/Gとして、位置関係を把握しやすくするため黒体輻射軌跡501が図示されている。全信頼度が高い色を参照番号903で示し、輝度信頼度Tlumi又は赤外線信頼度Tirが低い色を参照番号904で示す。また、緑検出領域902bには含まれず、色信頼度Tgreenが低い色を参照番号905で示す。そして、緑検出積分値RintegG、GintegG、およびBintegGに対応する(R/G,B/G)座標(RintegG/GintegG,BintegG/GintegG)を参照番号906で示す。
まず、全信頼度が高い色903は、全ての条件を満たしているので、そのまま積分される。輝度信頼度Tlumi又は赤外信頼度Tirが低い色904は、少なくとも一方の信頼度が0%であると、緑検出領域902に含まれていても積分されない。次に、緑検出領域902に含まれない色905については、輝度信頼度Tlumiおよび赤外線信頼度Tirの双方が高くても積分されない。
なお、図10(A)において、緑検出領域902aは自然光に対応する緑検出領域であり、フラッシュ光比率FlashRatioが0%の場合には、緑検出領域902aが用いられることになる。一方、フラッシュ光比率FlashRatioが100%の場合には、フラッシュ光のみに対応する緑検出領域902cが用いられる。そして、フラッシュ光比率FlashRatioが0%と100%との間にある場合には、前述のようフラッシュ光比率に応じて緑検出領域が設定される。例えば、フラッシュ光比率FlashRatioが50%の場合には、緑検出領域902aおよび902cによってフラッシュ光比率に応じて補間を行って中間に位置する緑検出領域902bが用いられる。
再び図9を参照して、CPU103は、緑検出積分値RintegG、GintegG、およびBintegGが更新されているか否かを判定する(ステップS805)。緑検出積分値RintegG、GintegG、およびBintegGが更新されていると(ステップS805において、YES)、CPU103は処理対象のブロックについて自然光下において緑色であるとする。
CPU103の制御下で、赤外線WB信頼度算出部210は、緑検出積分が行われたブロックにおける平均赤外線量を求めるため、該当ブロックに対応する輝度で正規化した後の赤外線量IRijを、式(7)によって累計赤外線量IRtotalに加算する(ステップS806)。なお、ここで行われる正規化処理は、ブロックの赤外線量を該当ブロックに対応する測光センサ105の輝度値で除算する処理である。また、累計赤外線量IRtotalは最初のブロックを処理する前に1度だけ0で初期化される。
IRtotal=IRtotal+IRij (7)
但し、IRijはiおよびj番目のブロック内の輝度値で正規化した後の赤外線量であり、iは水平方向のブロック数(0〜11)、jは垂直方向のブロック数(0〜7)である。
次に、赤外線WB信頼度算出部210は、被写体の色を検出したブロックの画像全体に対する割合を算出するため、式(8)によって累計緑ブロック数Ntotalをカウントする(ステップS807)。なお、累計緑ブロック数Ntotalは最初のブロックを処理する前に1度だけ0で初期化される。
Ntotal=Ntotal+1 (8)
続いて、CPU103は、分割された全ブロックについて確認を行ったか否かを判定する(ステップS808)。なお、緑検出積分値RintegG、GintegG、およびBintegGの少なくとも一つが更新されていないと(ステップS805において、NO)、CPU103は被写体の色を検出できていないとして、ステップS808の処理に進む。
全ブロックについて確認していないと(ステップS808において、NO)、CPU103は次のブロックに処理を移動して(ステップS809)、ステップS801の処理に戻る。
一方、CPU103が全ブロックについて確認すると(ステップS808において、YES)、赤外線WB信頼度算出部210は累計赤外線量IRtotalと累計緑ブロック数Ntotalとに応じて、式(9)によって被写体の色を検出したブロックの平均赤外線量IRaveを算出する(ステップS810)。
IRave=IRtotal/Ntotal (9)
さらに、ステップS810において、赤外線WB信頼度算出部210は、次の式(10)によって緑色の被写体と判定されたブロックの画像全体に対する割合(緑被写体比率)Nratioを求める。その後、CPU103は図4に示す処理に戻る。
Nratio=Ntotal/合計ブロック数×100 (10)
但し、ここでは、合計ブロック数は12×8=96である。
自然光下における緑被写体の色であると判定されたブロックのR、G、およびB積分値RintegG、GintegG、およびBintegG、緑被写体比率Nratio、そして、緑被写体であると判定されたブロックの平均赤外線量IRaveを用いて、後述するようにして次の処理が行われる。
再び図4を参照して、光源色推定部209は、緑検出積分値RintegG、GintegG、およびBintegGに対応する座標906(図10(A)参照)に基づいて、撮影の際の光源(光源の逆色温度と黒体輻射軌跡とからの距離)を推定する(ステップS406)。
ここで、光源の逆色温度と黒体輻射軌跡とからの距離の推定処理について説明をする前に、フラッシュ光比率FlashRatioが0%際の緑検出積分値の(R/G,B/G)座標と当該座標に対応する光源の(R/G,B/G)座標との関係について説明する。
図10(C)を参照すると、線分913上にプロットされた緑検出積分値は全て同一の光源の色918となる。同様に、線分914から917にプロットされる緑検出積分値はそれぞれ光源の色919から922となる。様々な草木の緑を黒体輻射軌跡上の様々な色温度の光源で撮影しておくことによって、各光源における(R/G,B/G)座標における草木の緑のプロット位置との関係を予め把握することができる。そして、その関係を二次記憶装置109に記録しておけば、緑検出積分値から光源の色を推定することができる。
なお、様々な草木の緑を、所定の光源下で撮影すると、実際には図10(C)に示す線上ではなく広がりを持って(R/G,B/G)座標上に分布する。例えば、光源920の下で様々な草木の緑を撮影すると、範囲923で示す分布となる。
上記のような広がりについては、線分915の長さよりも少ないので、光源の色推定処理としては無視することができる。実際には、図10(C)に示す線分913から917の線として、様々な草木の緑を撮影した際の広がりの中央に位置するように線引きが行われる。例えば、範囲923の緑の分布に対応して線分915が線引きされる。
図10(C)に示す例では、色温度918から922の光源における緑検出積分値に対応する座標が示されているが、他の色温度の光源についても同様の関係が存在する。また、図10(C)においては、フラッシュ光の(R/G,B/G)座標が示されているが、フラッシュ光の場合、自然光と比べてその分光特性が異なるので、必ずしも黒体輻射軌跡501上には乗らず、黒体輻射軌跡501から外れた位置になることもある。例えば、フラッシュ光においては、図10(C)に示す座標924の位置となる。
このように、フラッシュ光比率FlashRatioが0%の際(つまり、フラッシュ非発光又はフラッシュ光が被写体に届かない場合)の緑検出積分値については、前述の対応関係をテーブル化しておけば光源を推定することができる。一方、フラッシュ光比率FlashRatioが0%以外の場合には、図10(C)に示す対応関係が得られないので、同一のテーブルを用いても光源の色を適切に推定することができない。そこで、次のようにして、テーブルを変換処理して光源色を算出する必要がある。
図11は、図4に示す緑検出に基づいた光源(逆色温度と黒体輻射軌跡とからの距離)推定を説明するためのフローチャートである。
図10(B)および図11を参照して、図10(B)においては、横軸をR/G、縦軸をB/Gとして、位置関係を把握しやすくするため黒体輻射軌跡501が図示されている。
図10(B)においては、フラッシュ光比率FlashRatioが0%に相当する緑検出領域902aが示されている。この緑検出領域902aの4つの角の座標上の緑検出積分値に対応する光源の逆色温度Tと黒体輻射軌跡501からの距離Dを予め二次記憶装置109に記録する。ここで、上側の低色温度側の点(a)を参照番号907で示し、上側の高色温度側の点(b)を参照番号908で示す。また、下側の低色温度側の点(c)を参照番号909で示し、下側の高色温度側の点(d)を参照番号910で示す。
そして、これら点907から910の各々に対応した光源の逆色温度T、黒体輻射軌跡501からの距離Dをそれぞれ(Ta0,Da0)、(Tb0,Db0)、(Tc0,Dc0)、(Td0,Dd0)としてテーブル化する。
距離推定処理を開始すると、CPU103の制御下で光源色推定部209は、フラッシュ光比率FlashRatioに対応した緑検出積分値と光源色との関係を示すテーブル(以下補間テーブルという)を、次の式(11)によって変換する(ステップS1101)。ここで、変換後の4点907から910に対応する光源の逆色温度、黒体輻射軌跡501からの距離Dをそれぞれ(Ta,Da)、(Tb,Db)、(Tc,Dc)、(Td,Dd)とする。
Ta=Ta0+(Tf−Ta0)×FlashRatio/100
Tb=Tb0+(Tf-Tb0)×FlashRatio/100
Tc=Tc0+(Tf-Tc0)×FlashRatio/100
Td=Td0+(Tf-Td0)×FlashRatio/100 (11)
Da=Da0+(Df-Da0)×FlashRatio/100
Db=Db0+(Df-Db0)×FlashRatio/100
Dc=Dc0+(Df-Dc0)×FlashRatio/100
Dd=Dd0+(Df-Dd0)×FlashRatio/100
ここでTfはフラッシュ光比率FlashRatioが100%の際のフラッシュ光の逆色温度を示し、Dfはフラッシュ光比率FlashRatioが100%の際のフラッシュ光の黒体輻射軌跡からの距離を示す。
なお、逆色温度Tfおよび距離Dfはフラッシュ112の種類毎に変えるようにしてもよい。また、閃光発光モード/ハイスピードシンクロモード、フラッシュ光拡散パネルの有無、バウンス撮影の有無、およびフラッシュ光色変換フィルタ毎に逆色温度Tfおよび距離Dfを備えるようにしてもよい。さらに、調色可能なフラッシュの場合には、フラッシュ光の色毎に逆色温度Tfおよび距離Dfを備えるようにしてもよい。
続いて、光源色推定部209は、フラッシュ光比率FlashRatioに応じて変換後の4点907から910に対応する光源の逆色温度および黒体輻射軌跡501からの距離D(Ta,Da)、(Tb,Db)、(Tc,Dc)、および(Td,Dd)を用いて、以下の補間処理によって、前述のステップS405で求めた緑検出積分値に応じて光源の逆色温度および黒体輻射軌跡を算出する(ステップS1102)。
まず、光源色推定部209は、低色温度側の点907に対応する光源の逆色温度Taと黒体輻射軌跡501からの距離Daおよび高色温度側の点908に対応する光源の逆色温度Tbと黒体輻射軌跡からの距離Dbを、次の式(12)によって線形補間する。これによって、ステップS405で得られた緑検出積分値のR/G成分RintegG/GintegGに対応する上側の点(ab)911における光源の逆色温度Tx_abと黒体輻射軌跡からの距離Dx_abが得られる。
Tx_ab=(Ta−Tb)×{(RintegG/GintegG)−RGb}/(RGa - RGb)+Tb
Dx_ab=(Da−Db)×{(RintegG/GintegG)−RGb}/(RGa - RGb)+Db (12)
ここで、RGaは点907のR/G座標を示し、RGbは点908のR/G座標を示す。
次に、光源色推定部209は、低色温度側の点909に対応する光源の逆色温度Tcと黒体輻射軌跡からの距離Dcおよび高色温度側の点910に対応する光源の逆色温度Tdと黒体輻射軌跡からの距離Ddを式(13)によって線形補間する。これによって、ステップS405で得られた緑検出積分値のR/G成分RintegG/GintegGに対応する点(cd)912における光源の逆色温度Tx_cdと黒体輻射軌跡からの距離Dx_cdが得られる。
Tx_cd=(Tc−Td)×{(RintegG/GintegG)−RGd}/(RGc-RGd)+Td
Dx_cd=(Dc−Dd)×{(RintegG/GintegG)−RGd}/(RGc-RGd)+Dd (13)
ここで、RGcは点909のR/G座標を示し、RGdは点910のR/G座標を示す。
続いて、光源色推定部209は、点911に対応する光源の逆色温度Tx_abと黒体輻射軌跡からの距離Dx_abおよび点912に対応する光源の逆色温度Tx_cdと黒体輻射軌跡からの距離Dx_cdを式(14)によって線形補間する。これによって、ステップS405で得られた緑検出積分値のB/G成分BintegG/GintegGに対応する光源の逆色温度Tyと黒体輻射軌跡からの距離Dyが得られる。
Ty=(Tx_ab-Tx_cd)×{(BintegG/GintegG)−BGcd}/(BGab-BGcd)+Tx_cd
Dy=(Dx_ab-Dx_cd)×{(BintegG/GintegG)−BGcd}/(BGab-BGcd)+Dx_cd (14)
ここで、BGabは点911のB/G座標を示し、BGcdは点912のB/G座標を示す。
上述のようにして得られた光源の逆色温度Tyと黒体輻射軌跡からの距離Dyが、ステップS405で得られた緑検出積分値RintegG、GintegG、およびBintegGに対応した光源の色となる。
このようにして、フラッシュ光比率FlashRatioに応じて緑検出積分値RintegG、GintegG、およびBintegGに対応した光源の逆色温度Tおよび黒体輻射軌跡からの距離Dを算出するためのテーブルを変更する。これによって、フラッシュ発光の際にフラッシュ光と自然光とが存在する撮影環境においても、光源色を適切に算出することができる。
逆色温度と黒体輻射軌跡とからの距離の推定処理が終了すると、WB制御部200は図4に示すフローチャートの処理に戻る。
続いて、CPU103の制御下で、赤外線WB補正値算出部211は、ステップS406で得られた光源の逆色温度Tyと黒体輻射軌跡からの距離Dyに対応するWB補正値(赤外線WB補正値)を算出する(ステップS407)。
図10(D)を参照すると、ここでは、横軸をR/G、縦軸をB/Gとして、位置関係を把握しやすくするため黒体輻射軌跡501が図示されている。赤外線WB補正値算出部211は、光源の逆色温度Tyに応じて、図10(D)に示す黒体輻射軌跡501上の対応する逆色温度の座標925を求める。そして、赤外線WB補正値算出部211は、座標925に応じて黒体輻射軌跡501距離Dy926に対応する点927の座標を求める。続いて、赤外線WB補正値算出部211は、式(15)を用いて点927の座標(RGg,BGg)に対応する赤外線WB補正値を算出する。
赤外線WB補正値のRゲインIR_WB_Rgain=1/RGg
赤外線WB補正値のGゲインIR_WB_Ggain=1 (15)
赤外線WB補正値のBゲインIR_WB_Rgain=1/BGg
上述のようにして求められた赤外線WB補正値と白WB補正値とを用いて、次の処理が行われる。ここでは、WB補正値加算比率算出部212および混合WB補正値算出部213によって、白WB補正値と赤外線WB補正値とを所定の割合で加算して最終的なWB補正値(混合WB補正値)が算出される(ステップS408)。
図12は、図4に示す白WB補正値と赤外線WB補正値との加算処理を説明するためのフローチャートである。
図10(E)および図12を参照して、図10(E)においては、横軸をR/G、縦軸をB/Gとして、位置関係を把握しやすくするため黒体輻射軌跡501が図示されている。加算処理を開始すると、WB補正値加算比率算出部212は、図9で説明したステップS810で得られた平均赤外線量IRaveに基づいて、図7(D)に示す赤外線信頼度テーブルを参照して赤外線信頼度Tir2を算出する(ステップS1201)。
なお、赤外線信頼度Tir2は、図7(D)に示すテーブル(赤外線信頼度テーブル)を参照して算出されることになるが、当該テーブルは図7(C)に示すテーブルと同様であるので、ここでは説明を省略する。
続いて、WB補正値加算比率算出部212は、ステップS810で得られた割合Nratioに基づいて、図7(E)に示すテーブルを参照して緑信頼度Tgreenを算出する(ステップS1202)。
なお、緑信頼度Tgreenは、図7(E)に示すテーブル(緑信頼度テーブル)を参照して算出されるが、当該テーブルは図7(A)に示すテーブルと同様であるので、ここでは説明を省略する。また、図7(E)に示すテーブルにおいて、横軸の数値は一例であって、これに限定するものではない。つまり、緑ブロックの割合が多い程、緑信頼度Tgreenが高くなるように設定するようにすればよい。
次に、WB補正値加算比率算出部212は、赤外線信頼度Tir2と緑信頼度Tgreenとに基づいて、式(16)によって白WB補正値と赤外線WB補正値との加算比率Ratio_W_IRを算出する(ステップS1203)。なお、前述のステップS403で算出された白WB補正値の信頼度Twhiteを加味するようにしてもよい。また、信頼度によっては、白WB補正値および赤外線WB補正値の一方を用いるように加算比率Ratio_W_IRを設定してもよい。
Ratio_W_IR=Tir2×Tgreen/100 (16)
続いて、混合WB補正値算出部213は、加算比率Ratio_W_IRに基づいて、式(17)によって白WB補正値と赤外線WB補正値を加算したWB補正値(混合WB補正値)WB_Rmixを算出する(ステップS1204)。そして、処理は図4に示すフローチャートの処理に戻る。
WB_Rmix=(WB_Rw×(100−Ratio_W_IR)+WB_Rir×Ratio_W_IR)/100 (17)
但し、白WB補正値のRゲインをWB_Rwで示し、赤外線WB補正値のRゲインをWB_Rirで示す。また、混合WB補正値のRゲインをWB_Rmixで示す。なお、混合WB補正値のGゲインおよびBゲインについてもRゲインを算出する際の式と同様の式を用いて算出する。
図10(E)において、赤外線WB補正値に対応する(R/G,B/G)座標を参照番号927で示し、白WB補正値に対応する(R/G,B/G)座標を参照番号928で示す。また、混合WB補正値に対応する(R/G,B/G)座標を参照番号929で示す。
(R/G,B/G)座標927と(R/G,B/G)座標928とを繋ぐ直線を、加算比率Ratio_W_IRに応じて分割した箇所が混合WB補正値に対応する(R/G,B/G)座標929となる。この処理によって、白WB補正値と赤外線WB補正値との遷移を滑らかにすることができる。
そして、上述のようにして得られた混合WB補正値によって、一次記憶装置104に記憶されたRAWデータが画像データに変換される。
このように、本発明の実施の形態では、緑色の被写体の色情報とその被写体の赤外線量情報とに応じてWB補正値を算出する際、フラッシュ発光があっても適切にWB補正値を算出することができる。
上述の説明から明らかなように、図2に示す例では、CPU103およびブロック分割部201が色検出手段として機能し、CPU103および色判定部205が判定手段として機能する。また、CPU103および赤外線量判定部207が色判別手段として機能する。
さらに、CPU103、RGB値加算部208、および光源色推定部209が色温度推定手段として機能し、CPU103および赤外線WB補正値算出部210が第1のホワイトバランス補正値算出手段として機能する。そして、CPU103およびWB補正値加算比率算出部212は、第1の変更手段および第2の変更手段として機能する。
また、CPU103、白判定部202、白WB補正値算出部203は第2のホワイトバランス補正値算出手段として機能し、CPU103および混合WB補正値算出部213は補正値加算手段として機能する。さらに、CPU103および赤外線WB補正値信頼度算出部211は平均算出手段として機能する。なお、CPU103および色判定部205は制御手段として機能する。
以上、本発明について実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
例えば、上記の実施の形態の機能を制御方法として、この制御方法を画像処理装置に実行させるようにすればよい。また、上述の実施の形態の機能を有するプログラムを制御プログラムとして、当該制御プログラムを画像処理装置が備えるコンピュータに実行させるようにしてもよい。なお、制御プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録される。
上記の制御方法および制御プログラムの各々は、少なくとも色検出ステップ、判定ステップ、色判別ステップ、色温度推定ステップ、補正値算出ステップ、および制御ステップを有している。
また、本発明は、以下の処理を実行することによっても実現される。つまり、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種の記録媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPUなど)がプログラムを読み出して実行する処理である。
202 白判定部
203 白WB補正値算出部
204 白WB補正値信頼度算出部
205 色判定部
206 輝度判定部
207 赤外線量判定部
210 赤外線WB補正値信頼度算出部
211 赤外線WB補正値算出部
212 WB補正値加算比率算出部
213 混合WB補正値算出部

Claims (15)

  1. 画像に対してホワイトバランス処理を行う画像処理装置であって、
    前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出手段と、
    前記色検出手段により検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定手段と、
    前記ブロック領域の各々において検出された赤外線量に応じて、前記判定手段によって前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別手段と、
    前記色判別手段によって被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定手段と、
    前記色温度推定手段によって推定された色温度に応じて、前記ホワイトバランス処理に用いられる第1のホワイトバランス補正値を算出する第1の補正値算出手段と、
    前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御手段と、
    を有することを特徴とする画像処理装置。
  2. 前記色温度推定手段は、被写体の色であると判別されたブロック領域の色を、前記色検出枠における位置と前記赤外線量とに応じて加算比率を変更して加算して得られた加算値の前記色検出枠における位置に応じて、前記色温度を推定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記色検出手段は、前記色として緑色を検出することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記制御手段は、前記フラッシュの光と自然光との光量比率を求めて、前記光量比率に基づいて前記色検出枠の範囲を変更することを特徴とする請求項1〜3のいずれか1項に記載の画像処理装置。
  5. 前記制御手段は、前記フラッシュの光に対応する色検出枠を第1の色検出枠とし、前記自然光に対応する色検出枠を第2の色検出枠として、前記光量比率における前記フラッシュの光の割合が高くなる程、色検出枠を第1の色検出枠に近づけるように前記色検出枠の範囲を変更することを特徴とする請求項4に記載の画像処理装置。
  6. 前記制御手段は、前記第1の色検出枠の範囲を前記フラッシュの種類、その発光モード、フラッシュ光拡散パネルの有無、バウンス撮影の有無、フラッシュ光の色変換フィルタ装着の有無、色変換フィルタの種類、およびフラッシュの光が調色可能であるか否かの少なくとも一つの条件に応じて変更することを特徴とする請求項5に記載の画像処理装置。
  7. 前記第1の補正値算出手段は、前記第1のホワイトバランス補正値を算出する際、前記光量比率に応じて前記第1のホワイトバランス補正値を求めることを特徴とする請求項4に記載の画像処理装置。
  8. 前記第1の補正値算出手段は、前記第1のホワイトバランス補正値を算出する際、前記フラッシュの種類、その発光モード、フラッシュ光拡散パネルの有無、バウンス撮影の有無、フラッシュ光の色変換フィルタ装着の有無、色変換フィルタの種類、およびフラッシュの光が調色可能であるか否かの少なくとも一つの条件に応じて前記第1のホワイトバランス補正値を求めることを特徴とする請求項4に記載の画像処理装置。
  9. 前記第1の補正値算出手段は、前記色温度推定手段によって推定された色温度に対応する黒体輻射軌跡上の前記第1のホワイトバランス補正値を算出することを特徴とする請求項1〜8のいずれか1項に記載の画像処理装置。
  10. 被写体の輝度に応じて、前記色温度推定手段における加算比率を変更する第1の変更手段を有することを特徴とする請求項2に記載の画像処理装置。
  11. 前記第1のホワイトバランス補正値と異なる第2のホワイトバランス補正値を求める第2の補正値算出手段と、
    前記第1のホワイトバランス補正値と前記第2のホワイトバランス補正値を加算比率に応じて加算する補正値加算手段とを有することを特徴とする請求項1〜10のいずれか1項に記載の画像処理装置。
  12. 前記第2の補正値算出手段は、予め設定された白色領域に含まれる画素に係る積分値に応じて、前記第2ホワイトバランス補正値を算出することを特徴とする請求項11に記載の画像処理装置。
  13. 前記色判別手段によって被写体の色であると判別されたブロック領域における平均赤外線量を算出する平均算出手段と、
    前記平均算出手段によって算出された平均赤外線量に応じて、前記補正値加算手段で用いられる前記加算比率を変更する第2の変更手段とを有することを特徴とする請求項11に記載の画像処理装置。
  14. 画像に対してホワイトバランス処理を行う画像処理装置の制御方法であって、
    前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出ステップと、
    前記色検出ステップで検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定ステップと、
    前記ブロック領域の各々において検出された赤外線量に応じて、前記判定ステップで前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別ステップと、
    前記色判別ステップで被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定ステップと、
    前記色温度推定ステップで推定された色温度に応じて、前記ホワイトバランス処理に用いられるホワイトバランス補正値を算出する補正値算出ステップと、
    前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御ステップと、
    を有することを特徴とする制御方法。
  15. 画像に対してホワイトバランス処理を行う画像処理装置で用いられる制御プログラムであって、
    前記画像処理装置が備えるコンピュータに、
    前記画像を複数のブロック領域に分割して、当該ブロック領域の各々について色を検出する色検出ステップと、
    前記色検出ステップで検出された色に対応する色評価値が所定の色検出枠に含まれるか否かを判定する判定ステップと、
    前記ブロック領域の各々において検出された赤外線量に応じて、前記判定ステップで前記色検出枠に含まれると判定されたブロック領域の色が光源の色であるか又は被写体の色であるか判別する色判別ステップと、
    前記色判別ステップで被写体の色であると判別されたブロック領域の色に基づいて色温度を推定する色温度推定ステップと、
    前記色温度推定ステップで推定された色温度に応じて、前記ホワイトバランス処理に用いられるホワイトバランス補正値を算出する補正値算出ステップと、
    前記画像を得た際にフラッシュの発光があったか否かに応じて、前記色検出枠の範囲を変更する制御ステップと、
    を実行させることを特徴とする制御プログラム。
JP2014139611A 2014-07-07 2014-07-07 画像処理装置、その制御方法、および制御プログラム Expired - Fee Related JP6552165B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014139611A JP6552165B2 (ja) 2014-07-07 2014-07-07 画像処理装置、その制御方法、および制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014139611A JP6552165B2 (ja) 2014-07-07 2014-07-07 画像処理装置、その制御方法、および制御プログラム

Publications (2)

Publication Number Publication Date
JP2016019081A true JP2016019081A (ja) 2016-02-01
JP6552165B2 JP6552165B2 (ja) 2019-07-31

Family

ID=55234026

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014139611A Expired - Fee Related JP6552165B2 (ja) 2014-07-07 2014-07-07 画像処理装置、その制御方法、および制御プログラム

Country Status (1)

Country Link
JP (1) JP6552165B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105872513A (zh) * 2016-06-17 2016-08-17 刘华英 基于环境特征值的白平衡方法和装置
KR20200031166A (ko) * 2017-10-30 2020-03-23 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 화이트 밸런스 처리 방법, 전자 장치 및 컴퓨터 판독 가능 저장 매체

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003163944A (ja) * 2001-11-28 2003-06-06 Fuji Photo Film Co Ltd ホワイトバランス制御方法及びデジタルカメラ。
US20050099529A1 (en) * 2003-11-06 2005-05-12 Canon Kabushiki Kaisha Image pickup apparatus, white balance adjustment method therefor, and program for implementing the method
JP2009290694A (ja) * 2008-05-30 2009-12-10 Fujifilm Corp 撮像装置
JP2014123902A (ja) * 2012-12-21 2014-07-03 Canon Inc 撮像装置及び撮像装置の制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003163944A (ja) * 2001-11-28 2003-06-06 Fuji Photo Film Co Ltd ホワイトバランス制御方法及びデジタルカメラ。
US20050099529A1 (en) * 2003-11-06 2005-05-12 Canon Kabushiki Kaisha Image pickup apparatus, white balance adjustment method therefor, and program for implementing the method
JP2009290694A (ja) * 2008-05-30 2009-12-10 Fujifilm Corp 撮像装置
JP2014123902A (ja) * 2012-12-21 2014-07-03 Canon Inc 撮像装置及び撮像装置の制御方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105872513A (zh) * 2016-06-17 2016-08-17 刘华英 基于环境特征值的白平衡方法和装置
KR20200031166A (ko) * 2017-10-30 2020-03-23 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 화이트 밸런스 처리 방법, 전자 장치 및 컴퓨터 판독 가능 저장 매체
KR102294622B1 (ko) 2017-10-30 2021-08-27 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 화이트 밸런스 처리 방법, 전자 장치 및 컴퓨터 판독 가능 저장 매체

Also Published As

Publication number Publication date
JP6552165B2 (ja) 2019-07-31

Similar Documents

Publication Publication Date Title
JP6494181B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP6508890B2 (ja) 画像処理装置、その制御方法、および制御プログラム
US9148638B2 (en) Digital photographing apparatus
US8237811B2 (en) Imaging apparatus, control method thereof, and program
US20150077587A1 (en) Imaging device, electronic viewfinder, and display control method
US8559809B2 (en) Image shooting device
JP2008219838A (ja) 撮像装置、ホワイトバランス調整装置およびホワイトバランス調整方法
JP2008085581A (ja) 撮影装置
JP2004297650A (ja) ホワイトバランスの制御方法及びデジタルカメラ
JP6552165B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP4752381B2 (ja) 撮像装置
US11805326B2 (en) Image processing apparatus, control method thereof, and storage medium
US11451719B2 (en) Image processing apparatus, image capture apparatus, and image processing method
JP3958700B2 (ja) デジタルカメラ
JP2003309854A (ja) デジタルカメラ
KR101589493B1 (ko) 플래시를 이용한 화이트 밸런스 조정 방법 및 장치, 이를 이용한 디지털 촬영 장치
US20100259606A1 (en) Imaging device and method for controlling imaging device
JP3903095B2 (ja) ホワイトバランス制御方法及びデジタルカメラ
JP5791454B2 (ja) 撮像装置、及びその制御方法
JP2018189808A (ja) Evf(電子式ファインダー)の輝度切り替えに伴う色度変動の補正
JP2012227744A (ja) 撮像装置
JP2003224863A (ja) ホワイトバランス制御方法及びデジタルカメラ
JP2004349931A (ja) デジタルカメラ
JP2003224864A (ja) ホワイトバランス制御方法及びデジタルカメラ
JP2008170875A (ja) カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190702

R151 Written notification of patent or utility model registration

Ref document number: 6552165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees