JP6274931B2 - マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置 - Google Patents

マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置 Download PDF

Info

Publication number
JP6274931B2
JP6274931B2 JP2014056783A JP2014056783A JP6274931B2 JP 6274931 B2 JP6274931 B2 JP 6274931B2 JP 2014056783 A JP2014056783 A JP 2014056783A JP 2014056783 A JP2014056783 A JP 2014056783A JP 6274931 B2 JP6274931 B2 JP 6274931B2
Authority
JP
Japan
Prior art keywords
white balance
correction gain
area
balance correction
estimated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014056783A
Other languages
English (en)
Other versions
JP2015179985A (ja
Inventor
井岡 健
健 井岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014056783A priority Critical patent/JP6274931B2/ja
Priority to PCT/JP2014/078619 priority patent/WO2015141050A1/ja
Publication of JP2015179985A publication Critical patent/JP2015179985A/ja
Priority to US15/268,596 priority patent/US10003779B2/en
Application granted granted Critical
Publication of JP6274931B2 publication Critical patent/JP6274931B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut

Description

本発明は、複数の光源で照明されたシーンを撮影した画像におけるマルチエリアホワイトバランス画像処理において、複数のエリアに分割された画像に対して、ホワイトバランス補正ゲインをエリア毎に推定し、推定した全エリアのホワイトバランス補正ゲインを用いて、入力画像全体のホワイトバランス補正を行うことで、画像全体における違和感の無い色再現を実現するためのマルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置に関する。
撮影光源は、日中の屋外であれば太陽の高度・大気の状態などに依存してその色温度が変化する。また、日向と日陰でも色温度が異なる。
更に屋内では蛍光灯や白熱灯など様々な人工照明があり、それぞれの光源の色温度が異なる。
また、昼間の室外でフラッシュ撮影した場合、フラッシュ照明と外光の混合光が撮影光源となる。
また、夜の室外でフラッシュ撮影した場合、フラッシュ照明と背景の人工照明とは混合しないが、同じシーンの中の異なるエリアでは、光源の色温度が異なる。
また、室内でフラッシュ撮影した場合、フラッシュ照明と人工照明が混じりあった光が、撮影光源となる。
上記のような様々な撮影光源の下では、人間の眼は色順応する。つまり、人間の眼は、光源が太陽光、人工照明、それらのミックス光の如何を問わず、注目エリアの白い被写体を白く感じる。この人間の眼の特性に合わせて入力装置であるカメラも、RGBのゲインを調整して、いわゆるホワイトバランスを取るように構成されている。
しかし、カメラにとっては、撮影前まで撮影光源が未知であるため、一般的には撮影照明の種類(光源の色温度)を撮影した画像から推定したり、もしくはユーザーが指定することによって、その照明種類に合わせて撮影した画像全体のホワイトバランスを補正する。
そして、従来のデジタルカメラでは、撮影時の光源の種類が1つであると仮定して、ホワイトバランス補正ゲインを求め、それを用いて撮影した画像のホワイトバランスを補正するものが多い。
しかし、被写体のシーンが複数の光源によって照明された場合、画像全体のホワイトバランス処理を高精度に行うためには、取得した画像を複数のエリアに分割し、分割したエリア毎に異なるホワイトバランス処理を行う必要がある。
従来、複数の光源で照明されたシーンを撮影した画像のホワイトバランス処理を行う方法としては、例えば、特許文献1に、撮像画面内に異なる種類の光源の照射エリアが存在する場合、撮像画面全体に適切なホワイトバランスを掛けることは難しく、色ずれが生じた撮像画像になってしまうという問題を解決するために、撮像画面内を輝度情報と色情報とに応じて複数の領域に分割し、複数の領域のそれぞれに対して異なるホワイトバランス補正係数を設定し、複数の領域のそれぞれに対して設定されたホワイトバランス補正係数の差を、所定範囲内に収めるホワイトバランス補正係数リミットを設けて、全画面のホワイトバランス補正係数を生成することが開示されている。
特開2010−213232号公報
従来、複数の異種光源により撮影を行った所謂ミックス光源画像のホワイトバランス補正技術では、ホワイトバランスの補正に先立ち、入力された画像を複数のエリアに分割し、該分割されたエリアごとに、ホワイトバランス補正ゲインを算出している。
しかし、各分割エリアが入力画像の一部であり、光源色が無く、単一な色の被写体になり易いため、ホワイトバランス補正ゲインの推定を間違え易い。
更に、たとえホワイトバランス補正ゲイン推定の精度が高くても、多数のエリアにおいて1つでもホワイトバランス補正ゲインの推定を間違うと、画像全体のホワイトバランス補正に必ず悪影響を与える。そこで、個別の分割されたエリアのホワイトバランス補正ゲインの推定を間違えたとしても、画像全体のホワイトバランス補正に悪影響が生じないようにする必要がある。
また、推定したホワイトバランス補正ゲインがエリア間で異なると、それを用いてホワイトバランス補正された画像が、エリアの境界部分で輝度や色の不連続性を生じるため、斑模様の画像になりやすい。
しかるに、特許文献1に記載されている方法では、分割された複数のエリアのそれぞれのホワイトバランス補正ゲイン(ホワイトバランス補正係数)を設定しているが、ホワイトバランス補正ゲインの設定を間違うことが想定されていない。
本発明は、以上の従来技術における問題を鑑みてなされたものであり、撮影画像全体を複数のエリアに分割して、それぞれのエリアのホワイトバランス補正ゲインを推定する場合、個別のエリアでホワイトバランス補正ゲイン推定が間違っていても、違和感の無い色再現を実現することの可能なマルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置を提供することを目的としている。
上記目的を達成するため、本発明によるマルチエリアホワイトバランス制御装置は、入力画像を複数のエリアに分割するエリア分割手段と、前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段と、前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段と、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段とを有し、推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴としている。
また、本発明によるマルチエリアホワイトバランス制御方法は、入力画像を複数のエリアに分割し、分割したエリア毎にホワイトバランス補正ゲインを推定し、推定した、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定したホワイトバランス補正ゲインが特異であるか否かを判定し、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを、特異であると判定したエリアに隣接する周辺エリアの推定したホワイトバランス補正ゲインに基づき修正することにより、推定した全エリアのホワイトバランス補正ゲインのうち、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを修正した、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴としている。
また、本発明によるマルチエリアホワイトバランス制御プログラムを記録したコンピュータは、前記コンピュータを、入力画像を複数のエリアに分割するエリア分割手段、前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段、前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段として機能させ、推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成するためのマルチエリアホワイトバランス制御プログラムを記録している。
また、本発明によるマルチエリアホワイトバランス制御プログラムは、マルチエリアホワイトバランス制御装置に備わるコンピュータが読み取り可能なマルチエリアホワイトバランス制御プログラムであって、前記コンピュータを、入力画像を複数のエリアに分割するエリア分割手段、前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段、前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段として機能させ、推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴としている。
本発明によれば、撮影画像全体を複数のエリアに分割して、それぞれのエリアのホワイトバランス補正ゲインを推定する場合、個別のエリアでホワイトバランス補正ゲイン推定が間違っていても、違和感の無い色再現を実現することの可能なマルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置が得られる。
本発明の第1実施形態にかかるマルチエリアホワイトバランス制御装置を備えたデジタルカメラのブロック図である。 図1のマルチエリアホワイトバランス制御装置における入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理手順を示すフローチャートである。 図1のマルチエリアホワイトバランス制御装置において、エリア分割手段が入力画像を複数のエリアに分割した一例を示す説明図である。 図1のマルチエリアホワイトバランス制御装置において、ホワイトバランス補正ゲイン推定手段が推定した、入力画像の全エリアに対応するホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲインの一例を示す説明図で、(a)はR/Gホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲインを示す図、(b)はB/Gホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲインを示す図である。 図1のマルチエリアホワイトバランス制御装置において、ホワイトバランス補正ゲイン修正手段が、ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正した、入力画像の全エリアに対応するホワイトバランス補正ゲインマップの一例を示す説明図で、(a)は修正済みのR/Gホワイトバランス補正ゲインマップを示す図、(b)は修正済みのB/Gホワイトバランス補正ゲインマップを示す図である。 図1のマルチエリアホワイトバランス制御装置において、エリア分割手段による分割態様の変形例を示す説明図で、(a)はその一例を示す図、(b)はその他の例を示す図である。 図1のマルチエリアホワイトバランス制御装置において、ホワイトバランス補正ゲイン特異判定手段が当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定する方法の一変形例を示す説明図で、(a)は当該エリアの推定されたホワイトバランス補正ゲインと当該エリアに隣接する周辺エリアの夫々推定されたホワイトバランス補正ゲイン示す図、(b)は当該エリアと当該エリアに隣接する周辺エリアのうちの一つのエリアとのホワイトバランス補正ゲインの差の一例として、XY座標上で当該エリアのR/Gホワイトバランス補正ゲインを一方の座標軸上、B/Gホワイトバランス補正ゲインを他方の座標軸上にとり、当該エリアと当該エリアに隣接する周辺エリアのうちの一つのエリアのホワイトバランス補正ゲインを表す点同士の距離を示す図である。 本実施形態の変形例として、図1のマルチエリアホワイトバランス制御装置において、エリア分割手段が入力画像を図3の例とは異なるサイズの複数のエリアに分割したときの、ホワイトバランス補正ゲイン推定手段が推定した、入力画像の全エリアに対応するホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲイン、及び、ホワイトバランス補正ゲイン修正手段が、ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正した、入力画像の全エリアに対応するホワイトバランス補正ゲインマップを示す説明図で、(a)は修正前のR/Gホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲインを示す図、(b)は特異であると判定されたエリアの推定されたホワイトバランス補正ゲインを修正済みのR/Gホワイトバランス補正ゲインマップを示す図である。 本発明の第2実施形態にかかるマルチエリアホワイトバランス制御装置を備えたデジタルカメラのブロック図である。 図9のマルチエリアホワイトバランス制御装置における入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正され、更に全エリアのホワイトバランス補正ゲインが平滑化された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理手順を示すフローチャートである。 図9のマルチエリアホワイトバランス制御装置において、ホワイトバランス補正ゲイン平滑化手段により、平滑化処理が行われた入力画像の全エリアに対応するホワイトバランス補正ゲインマップの一例を示す説明図で、(a)は平滑化処理済みのR/Gホワイトバランス補正ゲインマップを示す図、(b)は平滑化処理済みのB/Gホワイトバランス補正ゲインマップを示す図である。 図11の比較例として、推定された入力画像全体のホワイトバランス補正ゲインマップに対して、特異であると判定されうるエリアの推定されたホワイトバランス補正ゲインの修正を行わずに、図11と同様の平滑化処理を行った場合のホワイトバランス補正ゲインマップの一例を示す説明図で、(a)は平滑化処理済みのR/Gホワイトバランス補正ゲインマップを示す図、(b)は平滑化処理済みのB/Gホワイトバランス補正ゲインマップを示す図である。
実施例の説明に先立ち、本発明の作用効果について説明する。
本発明は、入力画像を複数のエリアに分割し、分割したエリア毎にホワイトバランス補正ゲインを推定し、推定した、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定したホワイトバランス補正ゲインが特異であるか否かを判定し、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを、特異であると判定したエリアに隣接する周辺エリアの推定したホワイトバランス補正ゲインに基づき修正することにより、推定した全エリアのホワイトバランス補正ゲインのうち、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを修正した、前記入力画像全体のホワイトバランス補正ゲインマップを生成するようにしている。
本発明のように、推定した当該エリアのホワイトバランス補正ゲインが特異であるか否かを、当該エリアに隣接する推定した周辺エリアのホワイトバランス補正ゲインとの比較に基づき判定し、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを、特異であると判定したエリアに隣接する周辺エリアの推定したホワイトバランス補正ゲインに基づき修正すれば、個別のエリアで当初推定したホワイトバランス補正ゲインが間違っていても、入力画像に対応する全エリアのホワイトバランス補正ゲインの値が適正なホワイトバランス補正ゲインマップを作成することができる。そして、この推定を間違ったエリアのホワイトバランス補正ゲインのみを修正済みの入力画像全体のホワイトバランス補正ゲインマップに基づいて入力画像全体のホワイトバランスを補正したときに、入力画像全体のホワイトバランス補正に悪影響が生じず、入力画像全体における当該エリアの色のバランスが適正に保たれ、違和感のない色再現を実現することができる。
また、本発明において、更に、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを修正済みのエリアを含む、入力画像全体における全エリアのホワイトバランス補正ゲインに対して、平滑化処理を行うようにすれば、複数の光源で照明されたシーンを撮影した画像に対し、エリア間での輝度や色の不連続性を抑えることができる。
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施の形態は特許請求の範囲に係る本発明を限定するものではない。
第1実施形態
図1は本発明の第1実施形態にかかるマルチエリアAWB(オートホワイトバランス)制御装置を備えたデジタルカメラのブロック図である。図1中、一点鎖線で囲んだ部分が本実施形態にかかるマルチエリアホワイトバランス制御装置、二点差線で囲んだ部分が本実施形態にかかるマルチエリアホワイトバランス画像処理装置に対応する構成である。図2は図1のマルチエリアホワイトバランス制御装置における入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理手順を示すフローチャートである。
本実施形態のマルチエリアホワイトバランス制御装置1は、図1に示すように、エリア分割手段としての画像エリア分割部11と、ホワイトバランス補正ゲイン推定手段としてのWB(ホワイトバランス)補正ゲイン推定部12と、ホワイトバランス補正ゲイン特異判定手段としてのWB(ホワイトバランス)補正ゲイン特異判定部13と、ホワイトバランス補正ゲイン修正手段としてのWB(ホワイトバランス)補正ゲイン修正部14を有している。図1中、10はマルチエリアホワイトバランス画像処理装置、15はホワイトバランス補正ゲインマップ生成手段としてのWB(ホワイトバランス)補正ゲインマップ生成部、16はWB(ホワイトバランス)ゲイン修正部14が、特異であると判定されたエリアの推定されたエリアのホワイトバランス補正ゲインを修正済みの、入力画像全体のホワイトバランス補正ゲインマップを記憶するゲインマップ記憶部、17はホワイトバランス処理手段としてのWB(ホワイトバランス)ゲイン補正部、21はレンズ、22はイメージセンサ、23はイメージセンサ22が撮像した画像を記憶する画像記憶部である。なお、本実施形態のマルチエリアホワイトバランス画像処理装置10を備えたデジタルカメラは、図示しない制御部を備えている。制御部は、撮影指示に基づきイメージセンサ22が撮影した画像を画像記憶部23に記憶する機能や、画像記憶部23に記憶されている画像を入力する機能を、夫々別個に備えている。図1の例では、図示しない制御部の撮影指示により、レンズ21を経てイメージセンサ22に結像された画像が撮像されデジタル信号として画像記憶部23に記憶されている。
画像エリア分割部11は、入力画像を予め決められたサイズの複数のブロックに分割する。
WB補正ゲイン推定部12は、画像エリア分割部11により分割されたブロック毎に、ホワイトバランス補正ゲインR/G,B/Gを推定する。
なお、ホワイトバランス補正ゲインの推定方法の詳細については後述する。
WB補正ゲイン特異判定部13は、WB補正ゲイン推定部12によって推定された、ホワイトバランス補正ゲインマップの各ブロックのホワイトバランス補正ゲインが特異であるか否かを、推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき判定する。
なお、ホワイトバランス補正ゲインが特異であるか否かの判定方法の詳細については後述する。
WB補正ゲイン修正部14は、WB補正ゲイン特異判定部13によって特異であると判定されたブロックのホワイトバランス補正ゲインのみを、特異であると判定されたブロックに隣接する周辺ブロックのホワイトバランス補正ゲインに基づき修正する。
なお、ホワイトバランス補正ゲインの修正方法の詳細については、後述する。
WBゲイン補正部17は、WB補正ゲイン修正部14によって当該ブロックのホワイトバランス補正ゲインを修正済みのホワイトバランス補正ゲインマップに基づき、入力画像全体のホワイトバランスを補正する。WB補正ゲイン推定部12によって推定された全ブロックのホワイトバランス補正ゲインのうち、WB補正ゲイン特異判定部13により特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみがWB補正ゲイン修正部14によって修正された、入力画像全体のホワイトバランス補正ゲインマップに基づき、入力画像全体のホワイトバランスを補正する。
このように構成された本実施形態のマルチエリアホワイトバランス制御装置を用いた入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理の流れを図2から図5を用いて説明する。
まず、図示しないデジタルカメラの制御部が、イメージセンサ22での出力を経て画像記憶部23に記憶されている画像データを入力する(ステップS1)。
次いで、画像エリア分割部11が、入力された画像データを予め決められたサイズの複数のブロックに分割する(ステップS2)。なお、便宜上、以下の説明では画像データは例えば図3に示すように、7×7のブロックに分割するものとする。
次いで、WB補正ゲイン推定部12が、画像エリア分割部11により分割された各ブロックの画像に対して、例えば、特開2009−038712号公報に記載のような方法等、従来提案されているいずれかの方法を用いて、R/Gホワイトバランス補正ゲイン,B/Gホワイトバランス補正ゲインを推定する(ステップS3)。この推定は、全てのブロックに対して順次行い、全てのブロックに対する推定が終わるまで繰り返す。
その結果、WB補正ゲイン推定部12の出力として、入力画像の全ブロックに対応するWB補正ゲインマップが、例えば、図4に示すように得られる。
なお、特開2009−038712号公報に記載の方法では、撮影シーンの特徴量ベクトルと、予め算出された判別基準に基づき、照明色の類似した特定グループに撮影シーンが属している確度を算出し、算出した確度と、撮影シーンで撮影された画像とに基づきホワイトバランス補正ゲインを取得する。また、WB補正ゲイン推定部12がR/Gホワイトバランス補正ゲイン,B/Gホワイトバランス補正ゲインを推定する他の方法としては、本件出願人の提案による特願第2013−232350号や特願第2013−246475号の明細書に記載の、入力画像を複数に分割したエリア毎に色温度を取得し、取得した各エリアの色温度に基づきホワイトバランス補正ゲインを取得する方法がある。
特に特開2009−038712号公報に記載の方法を用いると、撮影時に使用された照明の種類を特定せずに、当該画像のホワイトバランス補正ゲインが正確に、直接算出される。
次いで、WB補正ゲイン特異判定部13が、WB補正ゲイン推定部12によって推定された、ホワイトバランス補正ゲインマップの各ブロックのホワイトバランス補正ゲインが特異であるか否かを、当該ブロックと当該ブロックに隣接する周辺ブロックとの、推定されたホワイトバランス補正ゲインの比較に基づき判定する(ステップS4)。そして、当該ブロックの推定された補正ゲインが、当該ブロックに隣接する周辺ブロックの推定された補正ゲインのいずれに対しても所定以上の差がある場合に、当該ブロックの推定されたホワイトバランス補正ゲインを特異であると判定し、それ以外の場合には当該ブロックの推定されたホワイトバランス補正ゲインを特異でないと判定する。
図4は図1のマルチエリアホワイトバランス制御装置1において、WB補正ゲイン推定部12が推定した、入力画像の全ブロックに対応するホワイトバランス補正ゲインマップ及びWB補正ゲイン特異判定部13が特異であると判定したホワイトバランス補正ゲインの一例を示す説明図である。
図4の例では、WB補正ゲイン特異判定部13が、当該ブロックの推定されたホワイトバランス補正ゲインが、当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインのいずれとも0.2以上の差がある場合に、当該ブロックの推定されたホワイトバランス補正ゲインを特異であると判定し、それ以外の場合には、当該ブロックの推定されたホワイトバランス補正ゲインを特異でないと判定するように構成されている例を示している。
詳しくは、図4(a)の例では、R/Gホワイトバランス補正ゲインマップにおいて、ブロック(1,5)の推定されたホワイトバランス補正ゲインが“0.7”であり、当該ブロックに隣接する3×3のブロックのいずれの推定されたホワイトバランス補正ゲイン“1.1”に対しても0.2以上の差がある。このため、WB補正ゲイン特異判定部13は、ブロック(1,5)の推定されたホワイトバランス補正ゲイン“0.7”を特異であると判定する。
一方、ブロック(3,3)、(3,4)の推定されたホワイトバランス補正ゲインは“0.8”であり、夫々当該ブロックに隣接する3×3のブロックの殆どの推定されたホワイトバランス補正ゲイン“1.1”に対して0.2以上の差があるが、互いに隣り合うブロック(3,4)(3,3)の推定されたホワイトバランス補正ゲイン“0.8”に対して差がない。この場合、WB補正ゲイン特異判定部13は、ブロック(3,3)、(3,4)の推定されたホワイトバランス補正ゲイン“0.8”を特異でないと判定する。
また、図4(b)の例では、B/Gホワイトバランス補正ゲインマップにおいて、ブロック(1,5)の推定されたホワイトバランス補正ゲインが“0.8”であり、当該ブロックに隣接する3×3のブロックのいずれの推定されたホワイトバランス補正ゲイン“1.2”に対しても0.2以上の差がある。このため、WB補正ゲイン特異判定部13は、ブロック(1,5)の推定されたホワイトバランス補正ゲイン“0.8”を特異であると判定する。
一方、ブロック(3,3)、(3,4)の推定されたホワイトバランス補正ゲインは“1”であり、夫々当該ブロックに隣接する3×3のブロックの殆どの推定されたホワイトバランス補正ゲイン“1.2”に対して0.2以上の差があるが、互いに隣り合うブロック(3,4)(3,3)の推定されたホワイトバランス補正ゲイン“1”に対して差がない。この場合、WB補正ゲイン特異判定部13は、ブロック(3,3)、(3,4)の推定されたホワイトバランス補正ゲイン“1”を特異でないと判定する。
なお、WB補正ゲイン特異判定部13による、推定されたホワイトバランス補正ゲインが特異であるか否かの判定基準は、“当該ブロックに隣接する周辺ブロック”や、“当該ブロックの推定されたホワイトバランス補正ゲインと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインとの差”に応じて、様々に設定しうる。
“当該ブロックに隣接する周辺ブロック”に関する基準としては、例えば、次のような基準を用いることができる。
(基準1−1)当該ブロックに隣接する3×3のブロック。
(基準1−2)当該ブロックに隣接する上、下、左、右のブロック。
なお、図4の例においては、便宜上、基準1−1を用いている。
また、“当該ブロックの推定されたホワイトバランス補正ゲインと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインとの差”に関する基準としては、例えば、次のような基準を用いることができる。
(基準2−1)一つのホワイトバランス補正ゲインにおける、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の単純な差。
(基準2−2)複数種類の推定されたホワイトバランス補正ゲインマップをn次の座標にプロットしたときの当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインをプロットした点同士のユークリッド距離。
(基準2−3)複数種類の推定されたホワイトバランス補正ゲインマップにおける、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値。
なお、図4の例においては、便宜上、基準2−1を用いている。基準2−2、基準2−3の詳細については、後述する。
このWB補正ゲイン特異判定部13による、推定されたホワイトバランス補正ゲインが特異であるか否かの判定(ステップS4)は、全てのブロックに対して順次行い、全てのブロックに対する判定が終わるまで繰り返す。
WB補正ゲイン特異判定部13による全てのブロックに対するホワイトバランス補正ゲインが特異であるか否かの判定が終わった後、WB補正ゲイン修正部14が、WB補正ゲイン特異判定部13によって特異であると判定されたブロックの推定されたホワイトバランス補正ゲインを、特異であると判定されたブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインに基づき修正する(ステップS5)。
図5は図1のマルチエリアホワイトバランス制御装置1において、WB補正ゲイン修正部14が、WB補正ゲイン特異判定部13によって特異であると判定されたブロックの推定されたホワイトバランス補正ゲインを、特異であると判定されたブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインに基づき修正した、入力画像の全ブロックに対応するホワイトバランス補正ゲインマップの一例を示す説明図である。
図5(a)の例では、WB補正ゲイン修正部14が、図4(a)に示すR/Gホワイトバランス補正ゲインマップにおいて、WB補正ゲイン特異判定部13によって特異であると判定されたブロック(1,5)の推定されたホワイトバランス補正ゲイン“0.7”を、ブロック(1,5)の周辺3×3のブロックの推定されたホワイトバランス補正ゲインの平均値“1.1”に修正する。
また、図5(b)の例では、WB補正ゲイン修正部14が、図4(b)に示すB/Gホワイトバランス補正ゲインマップにおいて、WB補正ゲイン特異判定部13によって特異であると判定されたブロック(1,5)の推定されたホワイトバランス補正ゲイン“0.8”を、ブロック(1,5)の周辺3×3のブロックの推定されたホワイトバランス補正ゲインの平均値“1.2”に修正する。
なお、WB補正ゲイン修正部14による、特異であると判定されたブロックの推定されたホワイトバランス補正ゲインの修正に用いる、“特異であると判定されたブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン”の基準は、“特異であると判定されたブロックに隣接する周辺ブロック”に応じて、様々に設定しうる。
“特異であると判定されたブロックに隣接する周辺ブロック”に関する基準としては、例えば、次のような基準を用いることができる。
(基準3−1)特異であると判定されたブロックに隣接する3×3のブロック。
(基準3−2)特異であると判定されたブロックに隣接する上、下、左、右のブロック。
(基準3−3)特異であると判定されたブロックに隣接する周辺ブロック(基準3−1又は基準3−2に該当するブロック)を含む、特異であると判定されたブロックを基準とする所定半径範囲内の周辺ブロック。
なお、図5の例においては、便宜上、基準3−1を用いている。
このWB補正ゲイン修正部14による、特異であると判定されたブロックの推定されたホワイトバランス補正ゲインの修正(ステップS5)は、全てのブロックに対して順次行い、全てのブロックに対する判定が終わるまで繰り返す。
その結果、図5に示すような、推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたブロックの推定されたホワイトバランス補正ゲインのみが修正された、入力画像全体のホワイトバランス補正ゲインマップが得られる。
得られたホワイトバランス補正ゲインマップは、記録部16に記憶される。
そして、WBゲイン補正部17が、入力画像の位置に対応して、それぞれの色の画素値にゲインマップ記憶部16を入力して得たゲインをかけることにより、ホワイトバランスを補正し、画像を出力する。
本実施形態のマルチエリアホワイトバランス制御装置1及びマルチエリアホワイトバランス制御方法によれば、推定した当該ブロックのホワイトバランス補正ゲインが特異であるか否かを、当該ブロックに隣接する推定した周辺ブロックのホワイトバランス補正ゲインとの比較に基づき判定し、特異であると判定したブロックの推定したホワイトバランス補正ゲインのみを、特異であると判定したブロックに隣接する周辺ブロックの推定したホワイトバランス補正ゲインに基づき修正するようにしたので、個別のブロックで当初推定したホワイトバランス補正ゲインが間違っていても、入力画像に対応する全ブロックのホワイトバランス補正ゲインの値が適正なホワイトバランス補正ゲインマップを作成することができる。そして、この推定を間違ったブロックのホワイトバランス補正ゲインのみを修正済みの入力画像全体のホワイトバランス補正ゲインマップに基づいて入力画像全体のホワイトバランスを補正したときに、入力画像全体のホワイトバランス補正に悪影響が生じず、入力画像全体における当該エリアの色のバランスが適正に保たれ、違和感のない色再現を実現することができる。
なお、上記の例では、画像エリア分割部11は、互いに隣り合うブロック同士が重ならないようにして、入力画像を複数のブロックに分割するように構成したが、画像エリア分割部11は、図6(a)に破線で示すように、互いに隣り合うブロック同士が一部重なるようにして、入力画像を複数のブロックに分割するように構成してもよい。
あるいは、画像エリア分割部11は、図6(b)に破線で示すように、互いに隣り合うブロック同士が離れるようにして、入力画像を複数のブロックに分割するように構成してもよい。
また、上述したように、図4の例では、WB補正ゲイン特異判定部13が、ホワイトバランス補正ゲインが特異であるか否かを判定する基準における“当該ブロックの推定されたホワイトバランス補正ゲインと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインとの差”に関する基準として、基準2−1のR/Gホワイトバランス補正ゲイン、R/Bホワイトバランス補正ゲインの夫々について、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の単純な差を用いたが、基準2−2の当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインをプロットした点同士のユークリッド距離や、基準2−3の複数種類の推定されたホワイトバランス補正ゲインマップにおける、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値を用いてもよい。
図7は図1のマルチエリアホワイトバランス制御装置1において、WB補正ゲイン特異判定部13が当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定する方法の一変形例として、“当該ブロックの推定されたホワイトバランス補正ゲインと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインとの差”に関する基準2−2を用いた例を示す説明図で、(a)は当該エリアの推定されたホワイトバランス補正ゲインと当該エリアに隣接する周辺エリアの夫々推定されたホワイトバランス補正ゲイン示す図、(b)は当該エリアと当該エリアに隣接する周辺エリアのうちの一つのエリアとのホワイトバランス補正ゲインの差の一例として、XY座標上で当該エリアのR/Gホワイトバランス補正ゲインを一方の座標軸上、B/Gホワイトバランス補正ゲインを他方の座標軸上にとり、当該エリアと当該エリアに隣接する周辺エリアのうちの一つのエリアのホワイトバランス補正ゲインを表す点同士の距離を示す図である。
なお、図7(a)は、真中の当該エリア[i,j]と、隣接する周辺8つのエリアの推定されたホワイトバランス補正ゲインrg[],bg[]を示している。
基準2−2を用いて、図7(a)の例において、当該エリアと周辺エリアの推定されたホワイトバランス補正ゲインの差に基づき、当該エリアの推定されたホワイトバランスが特異かどうかを判定する場合、まず、当該エリア[i,j]と周辺の8つのエリアのホワイトバランス補正ゲインの差をそれぞれ求める。
図7(a)における、rg[i,j]とbg[i,j]をそれぞれ当該エリア[i,j]の推定されたホワイトバランス補正ゲインとすると、当該エリアとその真上のエリアのホワイトバランス補正ゲインの差の一例として、図7(b)に示すXY座標上で当該エリアのホワイトバランス補正ゲインを表す点(rg[i,j],bg[i,j])と真上のエリアのホワイトバランス補正ゲインを表す点(rg[i,j-1],bg[i,j-1])の間の距離であるユークリッド距離が算出される。
同様に、当該エリアと周辺8つのエリアのホワイトバランス補正ゲインの差をそれぞれ計算し、計算した値をそれらの差の最大値が予め決められた所定の閾値と比較することで、当該エリアのホワイトバランス補正ゲインが特異であるか否かを判定する。
ユークリッド距離dは、n次元のベクトルfとgに対して、次式1で表すことができる。
(式1)


例えば、2次元のベクトルfとgに対しては、ユークリッド距離dは、次式2で表される。
(式2)


ここで、2次元のベクトルf(x,y)、g(x,y)に対するユークリッド距離をSとすると、ユークリッド距離Sは次式3で表すことができる。
(式3)

そこで、上記式3を用いた、図4(a)、図4(b)に示されたR/Gホワイトバランス補正ゲイン及びB/Gホワイトバランス補正ゲインについての当該ブロックと当該ブロックに隣接する周辺ブロックとのユークリッド距離Sの求め方の一例を説明する。
R/Gホワイトバランス補正ゲインをxy座標系におけるx座標上の値、B/Gホワイトバランス補正ゲインをxy座標系におけるy座標の値とする。そして、分割されたブロック毎に、図4(a)、図4(b)に示されたR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインマップをxy座標系にプロットする。このとき、当該ブロックにおけるプロットした点のxy座標上の位置f(x,y)と当該ブロックに隣接する周辺ブロックにおけるプロットした点のxy座標上の位置g(x、y)との差を、ユークリッド距離Sとして上記式3で示すことができる。
例えば、ブロック(1,5)における推定されたR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインをxy座標系にプロットした点のxy座標上の位置f(0.7、0.8)と、ブロック(1,5)に隣接する3×3のブロックのうちの一つのブロック(1.4)における推定されたR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインをxy座標系にプロットした点のxy座標上の位置g(1.1、1.1)との差をユークリッド距離Sで示すと、
{(0.7−1.1)+(0.8−1.1)1/2=0.5
となる。
そして、WB補正ゲイン特異判定部13は、予めユークリッド距離Sの閾値として任意の値を設定されており、上記のようにして求めた、当該ブロックと当該ブロックに隣接する各周辺ブロックとのユークリッド距離Sのいずれもが、ユークリッド距離Sの閾値を上回る場合に、当該ブロックの推定されたホワイトバランス補正ゲインが特異であると判定し、それ以外の場合は、当該ブロックの推定されたホワイトバランス補正ゲインが特異でないと判定する。
なお、図4(a)、図4(b)の例では、RGBの3色のカラー画像におけるR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインの2種類のホワイトバランス補正ゲインを推定しており、ユークリッド距離を、それぞれのホワイトバランス補正ゲインを2次元座標上にプロットしてプロットした点の距離Sとして理解し易いが、推定しうるホワイトバランス補正ゲインは2種類に限定されるものではない。
例えば、マルチカラーの画像等におけるホワイトバランス補正ゲインを推定する場合には、推定するホワイトバランス補正ゲインの種類は多くなり、2次元座標上にプロットすることができない。
その場合でも、隣接するブロック同士のホワイトバランス補正ゲインの差を示す基準としてのユークリッド距離を、上記式1に基づいて算出することで、当該ブロックのホワイトバランス補正ゲインが特異であるか否かを判定できる。
図1のマルチエリアホワイトバランス制御装置1において、WB補正ゲイン特異判定部13が当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定する方法の他の変形例として、基準2−3を用いた例について説明する。
図7(a)に示したような、当該エリア[i,j]と周辺の8つのエリアのホワイトバランス補正ゲインの差を求める方法として、基準2−2のユークリッド距離の代わりに、基準2−3の当該エリアと周辺エリアのホワイトバランス補正ゲインとの差の絶対値を用いることもできる。
例えば、当該エリアと周辺エリアのホワイトバランス補正ゲインとの差の絶対値として|rg[i,j]-rg[i,j-1]|を用いる。
同様に、当該エリアと周辺8つのエリアのホワイトバランス補正ゲインの差をそれぞれ計算し、計算した値をそれらの差の最大値が予め決められた所定の閾値と比較することで、当該エリアのホワイトバランス補正ゲインが特異であるか否かを判別する。
なお、上記説明では、便宜上、rg[]の差の絶対値を用いたが、勿論、rg[]の差の絶対値の代わりにbg[]の差の絶対値を用いてもよい。
基準2−3の複数種類の推定されたホワイトバランス補正ゲインマップにおける、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値の一例を、図4(a)、図4(b)に示されたR/Gホワイトバランス補正ゲイン及びB/Gホワイトバランス補正ゲインについての当該ブロックと当該ブロックに隣接する周辺ブロックとを用いて説明する。
例えば、図4(a)、図4(b)においてブロック(1,5)における推定されたR/Gホワイトバランス補正ゲインの値は“0.7”、B/Gホワイトバランス補正ゲインの値は“0.8”である。また、ブロック(1,5)に隣接する3×3のブロックのうちの一つのブロック(1,4)における推定されたR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインの値は、いずれも“1.1”となっている。
この場合、基準2−3の複数種類の推定されたホワイトバランス補正ゲインマップにおける、当該ブロックと当該ブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値は、
|0.7−1.1 |+|0.8−1.1|=0.7
となる。
そして、WB補正ゲイン特異判定部13は、予め当該ブロックと当該ブロックに隣接する各周辺ブロックとの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値の閾値として任意の値を設定されており、上記のようにして求めた、当該ブロックと当該ブロックに隣接する各周辺ブロックとの推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値のいずれもが、推定されたホワイトバランス補正ゲイン同士の差の絶対値を足し込んだ値の閾値を上回る場合に、当該ブロックのホワイトバランス補正ゲインが特異であると判定し、それ以外の場合は、当該ブロックのホワイトバランス補正ゲインが特異でないと判定する。
また、本実施形態における図3〜図5の例では、画像エリア分割部11は、入力画像を7×7に分割したが、画像エリア分割部11が分割するブロックのサイズ及び数は、どのようなサイズ及び数であってもよい。
図8は本実施形態の変形例として、図1のマルチエリアホワイトバランス制御装置1において、画像エリア分割部11が入力画像を図3の例とは異なるサイズの複数のブロックに分割したときの、WB補正ゲイン推定部12が推定した、入力画像の全ブロックに対応するホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲイン、及び、ホワイトバランス補正ゲイン修正部14が、WB補正ゲイン特異判定部13によって特異であると判定されたブロックの推定されたホワイトバランス補正ゲインを、特異であると判定されたブロックに隣接する周辺ブロックの推定されたホワイトバランス補正ゲインに基づき修正した、入力画像の全ブロックに対応するR/Gホワイトバランス補正ゲインマップを示す説明図で、(a)は修正前のR/Gホワイトバランス補正ゲインマップ及びホワイトバランス補正ゲイン特異手段が特異であると判定したホワイトバランス補正ゲインを示す図、(b)は特異であると判定されたエリアの推定されたホワイトバランス補正ゲインを修正済みのR/Gホワイトバランス補正ゲインマップを示す図である。
本実施形態では、図8の例のように、入力画像の左上の領域と、右下の領域とで、光源が異なることが分かる場合、画像エリア分割部11が、光源の境界に近い、左下から右上にかけての領域を小さなサイズのエリアに細かく分割し、それ以外の領域を大きなサイズのエリアに分割するようにすることもできる。
即ち、図8(a)の例では、画像エリア分割部11が、入力画像を3×3のブロックに分割し、3×3に分割したブロックのうち、左下のブロック、中央のブロック、右上のブロックをさらに2×2に分割している。
ここで、右上のブロックをさらに2×2に分割してできた4つの小ブロックのうちの左下の小ブロックに対してWB補正ゲイン推定部12により推定されたホワイトバランス補正ゲインの値は“0.7”である。また、当該小ブロックの周辺のブロックの推定されたホワイトバランス補正ゲインの値“1.1”との差が“0.4”であって、ホワイトバランス補正ゲインの閾値を超えている。このため、WB補正ゲイン特異判定部13が、当該小ブロックの推定されたホワイトバランス補正ゲインを特異であると判定する。
一方、中央のブロックをさらに2×2に分割してできた4つの小ブロックのうちの左下及び右下の小ブロックに対してWB補正ゲイン推定部12により推定されたホワイトバランス補正ゲインの値も“0.7”である。また、夫々の当該小ブロックの周辺の殆どのブロックの推定されたホワイトバランス補正ゲインの値“1.1”との差が“0.4” あって、WB補正ゲイン特異判定部13が、ホワイトバランス補正ゲインの閾値を超えている。しかし、隣り合う当該小ブロック同士の推定されたホワイトバランス補正ゲインの値に差がない。このため、WB補正ゲイン特異判定部13が、これらの小ブロックの推定されたホワイトバランス補正ゲインを特異でないものと判定する。
この場合、WB補正ゲイン修正部14が、図8(a)に示すホワイトバランス補正ゲインマップにおいて、WB補正ゲイン特異判定部13によって特異であると判定された、右上のブロックをさらに2×2に分割したブロックのうちの左下の小ブロックの推定されたホワイトバランス補正ゲイン“0.7”を当該小ブロックの周辺ブロックの推定されたホワイトバランス補正ゲインの平均値“1.1”に修正する。
第2実施形態
図9は本発明の第2実施形態にかかるマルチエリアAWB(オートホワイトバランス)制御処理装置を備えたデジタルカメラのブロック図、図9中、一点鎖線で囲んだ部分が本実施形態にかかるマルチエリアホワイトバランス制御装置、二点差線で囲んだ部分が本実施形態にかかるマルチエリアホワイトバランス画像処理装置に対応する構成である。図10は図9のマルチエリアホワイトバランス制御装置における入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正され、更に全エリアのホワイトバランス補正ゲインが平滑化された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理手順を示すフローチャートである。
本実施形態のマルチエリアホワイトバランス制御装置1は、図9に示すように、エリア分割手段としての画像エリア分割部11と、ホワイトバランス補正ゲイン推定手段としてのWB(ホワイトバランス)補正ゲイン推定部12と、ホワイトバランス補正ゲイン特異判定手段としてのWB(ホワイトバランス)補正ゲイン特異判定部13と、ホワイトバランス補正ゲイン修正手段としてのWB(ホワイトバランス)補正ゲイン修正部14と、ホワイトバランス補正ゲイン平滑化手段としてのWB補正ゲイン平滑化部18と、ホワイトバランス処理手段としてのWB(ホワイトバランス)ゲイン補正部17を有している。図9中、10はマルチエリアホワイトバランス画像処理装置、15はホワイトバランス補正ゲインマップ生成手段としてのWB(ホワイトバランス)補正ゲインマップ生成部、16はWB(ホワイトバランス)ゲイン補正部17が当該エリアのホワイトバランス補正ゲインを修正済みの、入力画像全体のホワイトバランス補正ゲインマップを記憶するゲインマップ記憶部、17はホワイトバランス処理手段としてのWB(ホワイトバランス)ゲイン補正部、21はレンズ、22はイメージセンサ、23はイメージセンサ22が撮像した画像を記憶する画像記憶部である。
画像エリア分割部11、WB補正ゲイン推定部12、WB補正ゲイン特異判定部13、WB補正ゲイン修正部14の構成は、第1実施形態のマルチエリアホワイトバランス制御装置10と略同じである。
WB補正ゲイン平滑化部18は、WB補正ゲイン修正部14によって当該ブロックのホワイトバランス補正ゲインのみが修正された、入力画像全体のホワイトバランス補正ゲインマップにおける全エリアのホワイトバランス補正ゲインに対して、平均化LPF(ローパスフィルタ)等の平滑化処理を行う。
なお、平滑化処理の詳細については、後述する。
WBゲイン補正部17は、WB補正ゲイン平滑化部18によって、全ブロックのホワイトバランス補正ゲインを平滑化処理済みの、入力画像全体のホワイトバランス補正ゲインマップに基づき、入力画像全体のホワイトバランスを補正する。
その他の構成は、第1実施形態のマルチエリアホワイトバランス制御装置1と略同じである。
このように構成された本実施形態のマルチエリアホワイトバランス制御処理装置を用いた入力画像から、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインが修正され、更に全エリアのホワイトバランス補正ゲインが平滑化された、入力画像全体のホワイトバランス補正ゲインマップを生成するまでの処理の流れを図10、図11を用いて説明する。
なお、図示しないデジタルカメラの制御部による画像データの入力(ステップS11)〜WB補正ゲイン修正部14による、特異であると判定されたブロックの推定されたホワイトバランス補正ゲインのみの修正(ステップS15)までの処理は、第1実施形態のマルチエリアホワイトバランス制御装置10と略同じである。
WB補正ゲイン修正部14による、特異であると判定されたブロックの推定されたホワイトバランス補正ゲインのみの修正(ステップS15)が終了後、WB補正ゲイン平滑化部18が、入力画像全体のホワイトバランス補正ゲインマップにおける全ブロックのホワイトバランス補正ゲインに対して、平滑化処理を行う(ステップS16)。
例えば、WB補正ゲイン平滑化部18は、図5(a)、図5(b)に示された全ブロックを対象として、ブロックごとに、そのブロックを中心とする3×3のブロックのホワイトバランス補正ゲインの平均化LPFをかける。なお、中心とするブロックに隣接する周辺ブロックが3×3に満たない場合は、中心とするブロックに隣接する周辺ブロックの範囲において平均化LPFをかける。
より詳しくは、例えば、WB補正ゲイン平滑化部18が、図5(a)に示すR/Gホワイトバランス補正ゲインマップにおけるブロック(3,1)に対し、ブロック(3,1)を中心とする3×3のブロックのR/Gホワイトバランス補正ゲインの平均化LPFをかける場合、ブロック(3,1)を中心とする3×3のブロック(2,0)〜(2,2),(3,0)〜(3,2),(4,0)〜(4,2)のR/Gホワイトバランス補正ゲインの値は、いずれも“1.1”である。この場合、平均化LPFをかけた後のブロック(3,1)のホワイトバランス補正ゲインの値は、平均化LPFをかける前の値と変わらない。
一方、WB補正ゲイン平滑化部18が、ブロック(3,2)に対し、ブロック(3,2)を中心とする3×3のブロックのR/Gホワイトバランス補正ゲインの平均化LPFをかける場合、ブロック(3,2)を中心とする3×3のブロックのうち、ブロック(2,1)〜(2,3),(3,1),(3,2),(4,1)〜(4,3)のR/Gホワイトバランス補正ゲインの値は、“1.1”、ブロック(3,3)のR/Gホワイトバランス補正ゲインの値は、“0.8”である。この場合、平均化LPFをかけると、
(1.1×8+0.8)÷9≒1.07
となり、平均化LPFをかけた後のブロック(3,2)のR/Gホワイトバランス補正ゲインの値は、平均化LPFをかける前の“1.1”に比べて“0.03”減少する。
また、WB補正ゲイン平滑化部18が、ブロック(3,3)に対し、ブロック(3,3)を中心とする3×3のブロックのR/Gホワイトバランス補正ゲインの平均化LPFをかける場合、ブロック(3,3)を中心とする3×3のブロック(2,2)〜(2,4),(3,2),(4,2)〜(4,4)のR/Gホワイトバランス補正ゲインの値は、“1.1”、ブロック(3,3),(3,4)のR/Gホワイトバランス補正ゲインの値は、“0.8”である。この場合、平均化LPFをかけると、
(1.1×7+0.8×2)÷9≒1.03
となり、平均化LPFをかけた後のブロック(3,3)のR/Gホワイトバランス補正ゲインの値は、平均化LPFをかける前の“0.8”に比べて“0.23”増加する。
上記と同様に、WB補正ゲイン平滑化部18が、各ブロックのR/Gホワイトバランス補正ゲインに対して、平均化LPFをかけると、図11(a)に示すように、ブロック(2,2)〜(2,5),(3,2)〜(3,5),(4,2)〜(4,5)のR/Gホワイトバランス補正ゲインの値が、“1.03”〜“1.07”の範囲の値となる。そして、(3,3)、(3、4)のブロックと、これらに隣接するブロックとのR/Gホワイトバランス補正ゲインの差の最大値が、1.07−1.03=0.04となり、平均化LPFをかける前の“0.3”に比べて“0.26”減少する。一方、ブロック(2,2)〜(2,5),(3,2),(3,5),(4,2)〜(4,5)と、これらに隣接するブロックとのR/Gホワイトバランス補正ゲインの差の最大値は、1.1−1.03=0.07となり、平均化LPFをかける前の“0”に比べて“0.07”増加する。
同様に、WB補正ゲイン平滑化部18が、図5(b)に示す各ブロックのB/Gホワイトバランス補正ゲインに対して、平均化LPFをかけると、図11(b)に示すように、ブロック(2,2)〜(2,5),(3,2)〜(3,5),(4,2)〜(4,5)のB/Gホワイトバランス補正ゲインの値が、“1.16”〜“1.18”の範囲の値となる。そして、(3,3)、(3、4)のブロックは、隣接するブロックとのB/Gホワイトバランス補正ゲインの差の最大値が、1.18−1.16=0.02となり、平均化LPFをかける前の“0.2”に比べて“0.18”減少する。一方、ブロック(2,2)〜(2,5),(3,2),(3,5),(4,2)〜(4,5)と、隣接するブロックとのB/Gホワイトバランス補正ゲインの差の最大値は、1.2−1.16=0.04となり、平均化LPFをかける前の“0”に比べて“0.04”増加する。
なお、図4(a)、図4(b)に示す、R/Gホワイトバランス補正ゲインマップ、B/Gホワイトバランス補正ゲインマップの夫々において、WB補正ゲイン特異判定部13が、推定したホワイトバランス補正ゲインを特異であると判定したブロック(1,5)に隣接するブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)の夫々に対してWB補正ゲイン平滑化部18が平均化LPFをかける際には、図5(a)、図5(b)に示すように、WB補正ゲイン修正手段14によりブロック(1,5)のR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインの値が、ブロック(1,5)に隣接するブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)のR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインの平均値(図4(a)の例では“1.1”、図4(b)の例では“1.2”)に修正されている。このため、WB補正ゲイン平滑化部18が、ブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)の夫々に対して平均化LPFをかけても、これらのブロックのR/Gホワイトバランス補正ゲイン、B/Gホワイトバランス補正ゲインの値は平均化LPFをかける前の値との変動幅が極めて小さい(図11(a)、図11(b)の例では、変動幅が“0”となっている。)
これに対する比較例として、図4(a)、図4(b)に示すR/Gホワイトバランス補正ゲインマップ、B/Gホワイトバランス補正ゲインマップに対して、特異であると判定されうるブロックの推定されたホワイトバランス補正ゲインの修正を行わずに、上記と同様の平滑化処理(ブロックごとの、そのブロックを中心とする3×3のブロックのホワイトバランス補正ゲインの平均化LPF)を行った場合のR/Gホワイトバランス補正ゲインマップ、B/Gホワイトバランス補正ゲインマップを図12(a)、図12(b)に示す。
特異であると判定されうるブロックの推定されたホワイトバランス補正ゲインの修正を行わずに、上記と同様の平均化LPFをかけると、特異でないと判定されうるブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)の推定されたホワイトバランス補正ゲインが、特異であると判定されうるブロック(1,5)の推定されたホワイトバランス補正ゲインの影響を受けて大きく変動する。
例えば、図12(a)に示すように、特異であると判定されうるブロック(1,5)を中心とする3×3のブロック(0,4)〜(0,6),(1,4)〜(1,6),(2,4)〜(2,6)のR/Gホワイトバランス補正ゲインの値が、“0.98”〜“1.06”の範囲の値となる。そして、ブロック(1,5)と、これに隣接するブロックとのR/Gホワイトバランス補正ゲインの差の最大値が、1.06−0.98=0.08となり、平均化LPFをかける前の“0.4”に比べて“0.32”減少する。一方、ブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)と、これらに隣接するブロックとのR/Gホワイトバランス補正ゲインの差の最大値は、1.1−1.03=0.07となり、平均化LPFをかける前の“0.3”に比べて“0.23”減少する。
しかし、ブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)のR/Gホワイトバランス補正ゲインは、図11(a)に示す、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインの修正を行った後に、WB補正ゲイン平滑化部18が、平均化LPFをかけた場合のR/Gホワイトバランス補正ゲインに比べて、当初の推定値からの変動幅が大きくなる。例えば、ブロック(2,4)のR/Gホワイトバランス補正ゲインは、“0.98”となり、当初の推定値“1.1”から“0.12”も変動してしまう。一方、特異であると判定されたエリアの推定されたR/Gホワイトバランス補正ゲインの修正を行った後に、WB補正ゲイン平滑化部18が、平均化LPFをかけた場合、ブロック(2,4)のR/Gホワイトバランス補正ゲインは、“1.03”であり、当初の推定値“1.1”からの変動幅が“0.07”となり、特異であると判定されうるブロックの推定されたR/Gホワイトバランス補正ゲインの修正を行わずに、平均化LPFをかけた場合に比べて、小さく抑えることができる。
同様に、3×3のブロック(0,4)〜(0,6),(1,4)〜(1,6),(2,4)〜(2,6)のB/Gホワイトバランス補正ゲインの値が、“1.11”〜“1.16”の範囲の値となる。そして、ブロック(1,5)と、これに隣接するブロックとのB/Gホワイトバランス補正ゲインとの差の最大値が、1.16−1.1=0.06となり、平均化LPFをかける前の“0.4”に比べて“0.34”減少する。一方、ブロック(0,4)〜(0,6),(1,4)〜(1,6),(2,4)〜(2,6)と、これらに隣接するブロックとのB/Gホワイトバランス補正ゲインの差の最大値は、1.2−1.13=0.07となり、平均化LPFをかける前の“0.2”に比べて“0.13”減少する。
しかし、ブロック(0,4)〜(0,6),(1,4),(1,6),(2,4)〜(2,6)のB/Gホワイトバランス補正ゲインは、図11(b)に示す、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインの修正を行った後に、WB補正ゲイン平滑化部18が、平均化LPFをかけた場合のB/Gホワイトバランス補正ゲインに比べて、当初の推定値からの変動幅が大きくなる。例えば、ブロック(2,4)のB/Gホワイトバランス補正ゲインは、“1.11”となり、当初の推定値“1.2”から“0.09”も変動してしまう。一方、特異であると判定されたエリアの推定されたB/Gホワイトバランス補正ゲインの修正を行った後に、WB補正ゲイン平滑化部18が、平均化LPFをかけた場合、ブロック(2,4)のB/Gホワイトバランス補正ゲインは、“1.16”であり、当初の推定値“1.2”からの変動幅が“0.04”となり、特異であると判定されうるブロックの推定されたB/Gホワイトバランス補正ゲインの修正を行わずに、平均化LPFをかけた場合に比べて、小さく抑えることができる。
図12の比較例との比較からも明らかなように、図11に示す本実施形態のマルチエリアホワイトバランス制御装置1では、WB補正ゲイン平滑化部18が、平滑化処理を行うことにより、特異でないと判定されうるブロックに対する変動を極力抑えながら、隣接するエリア間のホワイトバランス補正ゲインの値の不連続性を抑えた、入力画像全体のマルチエリアホワイトバランス補正ゲインマップが生成される。
平滑化処理されたホワイトバランス補正ゲインマップは、記録部16に記憶される。
そして、WBゲイン補正部17が、入力画像の位置に対応して、それぞれの色の画素値にゲインマップ記憶部16を入力して得たゲインをかけることにより、ホワイトバランスを補正し、画像を出力する。
本実施形態のマルチエリアホワイトバランス制御装置1及びマルチエリアホワイトバランス制御方法によれば、更に、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを修正済みの入力画像全体のホワイトバランス補正ホワイトバランス補正ゲインマップにおける全エリアのホワイトバランス補正ゲインに対して、平滑化処理を行うようにしたので、複数の光源で照明されたシーンを撮影した画像に対し、当初のホワイトバランス補正ゲインの推定を間違えたエリアのホワイトバランス補正ゲインのみを修正することによる、入力画像全体のホワイトバランス補正に悪影響が生じず、入力画像全体における当該エリアの色のバランスが適正に保たれ、違和感のない色再現を実現することができるという第1実施形態と同様の効果を保持しながら、更に、エリア間での輝度や色の不連続性を抑えることができる。
なお、本実施形態のマルチエリアホワイトバランス制御装置1においては、WB補正ゲイン平滑化部18が行う平滑化処理として、単純に平均化LPFを用いたが、必要に応じて重み付けのあるLPFを用いてもよい。また、半径の大きいLPFを用いてもよい。また、ブロック間のホワイトバランス補正ゲインの差や、その方向性に応じて、LPFを用いる方向や、強さを異ならせてもよい。
その他の作用効果は、第1実施形態のマルチエリアホワイトバランス制御装置1及びマルチエリアホワイトバランス制御方法と略同じである。
以上、本発明のマルチエリアホワイトバランス制御装置1及びマルチエリアホワイトバランス制御方法を説明し、上記各実施形態のマルチエリアホワイトバランス制御装置1においては、エリア分割手段としての画像エリア分割部11が、入力画像を縦横夫々の直線で区切られた形状及び面積の等しいブロックに分割した例で説明したが、本発明のマルチエリアホワイトバランス制御装置1におけるエリア分割手段が分割する各エリアの形状・大きさは本実施形態に限定されるものではなく、例えば、三角形状、湾曲形状等どのような形状でもよいし、各エリアの大きさが異なっていてもよい。
また、上記各実施形態のマルチエリアホワイトバランス制御装置1は、コンピュータを画像エリア分割部11(エリア分割手段)、WB補正ゲイン推定部12(ホワイトバランス補正ゲイン推定手段)、WB補正ゲイン特異判定部13(ホワイトバランス補正ゲイン特異判定手段)、WB補正ゲイン修正部14(ホワイトバランス補正ゲイン修正手段)として機能させるためのマルチエリアホワイトバランス制御プログラムを内蔵するハードディスクに記録したコンピュータで構成してもよい。
あるいは、本実施形態のマルチエリアホワイトバランス制御装置1は、コンピュータを画像エリア分割部11(エリア分割手段)、WB補正ゲイン推定部12(ホワイトバランス補正ゲイン推定手段)、WB補正ゲイン特異判定部13(ホワイトバランス補正ゲイン特異判定手段)、WB補正ゲイン修正部14(ホワイトバランス補正ゲイン修正手段)、WBゲイン補正部17(ホワイトバランス処理手段)として機能させるためのマルチエリアホワイトバランス制御プログラムを記録した、例えば、CD−ROM等のコンピュータ読み取り可能な媒体で構成してもよい。
さらに、上記各実施形態のマルチエリアホワイトバランス画像処理装置10は、コンピュータを画像エリア分割部11(エリア分割手段)、WB補正ゲイン推定部12(ホワイトバランス補正ゲイン推定手段)、WB補正ゲイン特異判定部13(ホワイトバランス補正ゲイン特異判定手段)、WB補正ゲイン修正部14(ホワイトバランス補正ゲイン修正手段)、WBゲイン補正部17(ホワイトバランス処理手段)として機能させるためのマルチエリアホワイトバランス画像処理プログラムを内蔵するハードディスクに記録したコンピュータで構成してもよい。
さらに、あるいは、本実施形態のマルチエリアホワイトバランス画像処理装置10は、コンピュータを画像エリア分割部11(エリア分割手段)、WB補正ゲイン推定部12(ホワイトバランス補正ゲイン推定手段)、WB補正ゲイン特異判定部13(ホワイトバランス補正ゲイン特異判定手段)、WB補正ゲイン修正部14(ホワイトバランス補正ゲイン修正手段)、WBゲイン補正部17(ホワイトバランス処理手段)として機能させるためのマルチエリアホワイトバランス画像処理プログラムを記録した、例えば、CD−ROM等のコンピュータ読み取り可能な媒体で構成してもよい。
本発明のマルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置は、複数の異種光源により撮影を行った所謂ミックス光源画像のホワイトバランスを補正することが求められる分野に有用である。
1 マルチエリアホワイトバランス制御装置
10 マルチエリアホワイトバランス画像処理装置
11 エリア分割手段(画像エリア分割部)
12 ホワイトバランス補正ゲイン推定手段(WB補正ゲイン推定部)
13 ホワイトバランス補正ゲイン特異判定手段(WB補正ゲイン特異判定部)
14 ホワイトバランス補正ゲイン修正手段(WB補正ゲイン修正部)
15 ホワイトバランス補正ゲインマップ生成手段(WB補正ゲインマップ生成部)
16 ゲインマップ記憶部
17 ホワイトバランス処理手段(WBゲイン補正部)
18 ホワイトバランス補正ゲイン平滑化手段(WB補正ゲイン平滑化部)
21 レンズ
22 イメージセンサ
23 画像記憶部

Claims (13)

  1. 入力画像を複数のエリアに分割するエリア分割手段と、
    前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段と、
    前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段と、
    前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段と
    を有し、
    推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴とするマルチエリアホワイトバランス制御装置。
  2. 更に、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを修正済みのエリアを含む、入力画像全体における全エリアのホワイトバランス補正ゲインに対して、平滑化処理を行うホワイトバランス補正ゲイン平滑化手段を有し、
    推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正され、更に全エリアのホワイトバランス補正ゲインが平滑化処理された、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴とする請求項1に記載のマルチエリアホワイトバランス制御装置。
  3. 前記ホワイトバランス補正ゲイン特異判定手段は、当該エリアの推定されたホワイトバランス補正ゲインが、当該エリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインのいずれとも所定以上の差がある場合に、当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定することを特徴とする請求項1又は2に記載のマルチエリアホワイトバランス制御装置。
  4. 前記ホワイトバランス補正ゲイン特異判定手段は、当該エリアの推定されたホワイトバランス補正ゲインが、当該エリアに隣接する上、下、左、右のエリアの推定されたホワイトバランス補正ゲインのいずれとも所定以上の差がある場合に、当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定することを特徴とする請求項1又は2に記載のマルチエリアホワイトバランス制御装置。
  5. 前記ホワイトバランス補正ゲイン特異判定手段は、当該エリアの推定されたホワイトバランス補正ゲインが、当該エリアに隣接する周辺エリアを含む、当該エリアを基準とする所定半径範囲内のエリアの推定されたホワイトバランス補正ゲインのいずれとも所定以上の差がある場合に、当該エリアの推定されたホワイトバランス補正ゲインを特異であると判定することを特徴とする請求項1又は2に記載のマルチエリアホワイトバランス制御装置。
  6. ホワイトバランス補正ゲイン修正手段は、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する上、下、左、右のエリアを含む周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正することを特徴とする請求項1〜5のいずれかに記載のマルチエリアホワイトバランス制御装置。
  7. ホワイトバランス補正ゲイン修正手段は、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアを含む、特異であると判定されたエリアを基準とする所定半径範囲内の周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正することを特徴とする請求項1〜5のいずれかに記載のマルチエリアホワイトバランス制御装置。
  8. ホワイトバランス補正ゲイン修正手段は、前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する上、下、左、右のエリアを含む、特異であると判定されたエリアを基準とする所定半径範囲内の周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正することを特徴とする請求項7に記載のマルチエリアホワイトバランス制御装置。
  9. 請求項1〜8のいずれかに記載のマルチエリアホワイトバランス制御装置と、
    前記マルチエリアホワイトバランス制御装置によって生成された、前記入力画像全体のホワイトバランス補正ゲインマップに基づき、前記入力画像全体のホワイトバランス処理を行うホワイトバランス処理手段と
    を有することを特徴とするマルチエリアホワイトバランス画像処理装置。
  10. 請求項9に記載のマルチエリアホワイトバランス画像処理装置を備えた撮像装置。
  11. 入力画像を複数のエリアに分割し、
    分割したエリア毎にホワイトバランス補正ゲインを推定し、
    推定した、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定したホワイトバランス補正ゲインが特異であるか否かを判定し、
    特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを、特異であると判定したエリアに隣接する周辺エリアの推定したホワイトバランス補正ゲインに基づき修正することにより、
    推定した全エリアのホワイトバランス補正ゲインのうち、特異であると判定したエリアの推定したホワイトバランス補正ゲインのみを修正した、前記入力画像全体のホワイトバランス補正ゲインマップを生成することを特徴とするマルチエリアホワイトバランス制御方法。
  12. マルチエリアホワイトバランス制御装置に備わるコンピュータであって、
    前記コンピュータを、
    入力画像を複数のエリアに分割するエリア分割手段、
    前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段、
    前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段、
    前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段として機能させ、
    推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成するためのマルチエリアホワイトバランス制御プログラムを記録したコンピュータ。
  13. マルチエリアホワイトバランス制御装置に備わるコンピュータが読み取り可能なマルチエリアホワイトバランス制御プログラムであって、
    前記コンピュータを、
    入力画像を複数のエリアに分割するエリア分割手段、
    前記エリア分割手段によって分割されたエリア毎にホワイトバランス補正ゲインを推定するホワイトバランス補正ゲイン推定手段、
    前記ホワイトバランス補正ゲイン推定手段によって推定された、当該エリアに隣接する周辺エリアのホワイトバランス補正ゲインとの比較に基づき、当該エリアの推定されたホワイトバランス補正ゲインが特異であるか否かを判定するホワイトバランス補正ゲイン特異判定手段、
    前記ホワイトバランス補正ゲイン特異判定手段によって特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみを、特異であると判定されたエリアに隣接する周辺エリアの推定されたホワイトバランス補正ゲインに基づき修正するホワイトバランス補正ゲイン修正手段として機能させ、
    推定された全エリアのホワイトバランス補正ゲインのうち、特異であると判定されたエリアの推定されたホワイトバランス補正ゲインのみが修正された、前記入力画像全体のホワイトバランス補正ゲインマップを生成するためのマルチエリアホワイトバランス制御プログラム。
JP2014056783A 2014-03-19 2014-03-19 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置 Expired - Fee Related JP6274931B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014056783A JP6274931B2 (ja) 2014-03-19 2014-03-19 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
PCT/JP2014/078619 WO2015141050A1 (ja) 2014-03-19 2014-10-28 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
US15/268,596 US10003779B2 (en) 2014-03-19 2016-09-18 Multi-area white-balance control device, multi-area white-balance control method, multi-area white-balance control program, computer in which multi-area white-balance control program is recorded, multi-area white-balance image-processing device, multi-area white-balance image-processing method, multi-area white-balance image-processing program, computer in which multi-area white-balance image-processing program is recorded, and image-capture apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014056783A JP6274931B2 (ja) 2014-03-19 2014-03-19 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置

Publications (2)

Publication Number Publication Date
JP2015179985A JP2015179985A (ja) 2015-10-08
JP6274931B2 true JP6274931B2 (ja) 2018-02-07

Family

ID=54144047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014056783A Expired - Fee Related JP6274931B2 (ja) 2014-03-19 2014-03-19 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置

Country Status (3)

Country Link
US (1) US10003779B2 (ja)
JP (1) JP6274931B2 (ja)
WO (1) WO2015141050A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10805588B2 (en) * 2016-04-25 2020-10-13 Zhejiang Dahua Technology Co., Ltd. Methods, systems, and media for image white balance adjustment
EP3246876A1 (en) * 2016-05-17 2017-11-22 Thomson Licensing Method to determine chromatic component of illumination sources of an image
CN106851121B (zh) * 2017-01-05 2019-07-05 Oppo广东移动通信有限公司 控制方法及控制装置
CN108462862B (zh) * 2017-02-22 2020-09-29 联咏科技股份有限公司 对输入影像进行色彩空间转换的方法及装置
CN107343190A (zh) 2017-07-25 2017-11-10 广东欧珀移动通信有限公司 白平衡调节方法、装置和终端设备
JP2019028537A (ja) * 2017-07-26 2019-02-21 キヤノン株式会社 画像処理装置および画像処理方法
CN107635123B (zh) * 2017-10-30 2019-07-19 Oppo广东移动通信有限公司 白平衡处理方法及装置、电子装置和计算机可读存储介质
CN109819225A (zh) * 2017-11-21 2019-05-28 深圳市Tcl高新技术开发有限公司 投影电视的色温校正方法、色温校正装置及投影电视
JP2021136662A (ja) * 2020-02-28 2021-09-13 キヤノン株式会社 画像処理装置および画像処理方法
CN111953955B (zh) * 2020-08-26 2022-01-04 维沃移动通信有限公司 白平衡补偿方法、装置及电子设备

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009004966A (ja) * 2007-06-20 2009-01-08 Panasonic Corp 撮像装置
JP4702635B2 (ja) * 2007-07-17 2011-06-15 富士フイルム株式会社 オートホワイトバランス補正値算出装置、方法およびプログラムならびに撮像装置
JP5092612B2 (ja) 2007-08-03 2012-12-05 株式会社ニコン カラー撮像装置
JP5169318B2 (ja) * 2007-09-18 2013-03-27 株式会社リコー 撮像装置、撮像方法
US8717459B2 (en) * 2008-12-11 2014-05-06 Texas Instruments Incorporated Method and apparatus for improving automatic white balance with scene information
JP5187241B2 (ja) 2009-02-16 2013-04-24 株式会社リコー 撮像装置及び撮像方法
KR100977055B1 (ko) * 2009-02-20 2010-08-19 주식회사 코아로직 자동 화이트 밸런스(awb) 조정장치와 방법 및 그 조정장치를 포함한 영상처리장치
JP5321163B2 (ja) * 2009-03-12 2013-10-23 株式会社リコー 撮像装置及び撮像方法
JP5547975B2 (ja) * 2009-04-23 2014-07-16 オリンパス株式会社 撮像装置、顕微鏡システム、及びホワイトバランス調整方法
JP2013162248A (ja) * 2012-02-02 2013-08-19 Canon Inc 撮像装置及びその制御方法
JP6196882B2 (ja) 2013-11-08 2017-09-13 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP6234191B2 (ja) * 2013-11-28 2017-11-22 オリンパス株式会社 マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
WO2016006304A1 (ja) * 2014-07-08 2016-01-14 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2016009699A1 (ja) * 2014-07-16 2016-01-21 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
WO2015141050A1 (ja) 2015-09-24
US20170006272A1 (en) 2017-01-05
US10003779B2 (en) 2018-06-19
JP2015179985A (ja) 2015-10-08

Similar Documents

Publication Publication Date Title
JP6274931B2 (ja) マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP5398156B2 (ja) ホワイトバランス制御装置およびその制御方法並びに撮像装置
US10475237B2 (en) Image processing apparatus and control method thereof
CN106875339B (zh) 一种基于长条形标定板的鱼眼图像拼接方法
JP6234191B2 (ja) マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP5980294B2 (ja) データ処理装置、撮像装置、およびデータ処理方法
US20030234866A1 (en) System and method for camera color calibration and image stitching
JP6946564B2 (ja) 画像処理方法および画像処理装置、コンピュータ可読記憶媒体ならびにコンピュータ機器
KR101634228B1 (ko) 디지털 이미지 처리장치, 추적방법, 추적방법을 실행시키기위한 프로그램을 저장한 기록매체 및 추적방법을 채용한 디지털 이미지 처리장치
JP2006324840A (ja) 画像処理装置及びホワイトバランス調整装置
MX2007006105A (es) Aparato de inspeccion de apariencia externa.
US20190082154A1 (en) Image processing method and device for auto white balance
US9392180B2 (en) Partial lens shading compensation method
CN110930341A (zh) 一种基于图像融合的低光照图像增强方法
CN104853172A (zh) 一种信息处理方法以及一种电子设备
JP2011041056A (ja) 撮像装置及び撮像方法
JP6196882B2 (ja) マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP2009219123A (ja) 色収差を補正する方法
JP2019179463A (ja) 画像処理装置、その制御方法、プログラム、記録媒体
JP4967445B2 (ja) 撮像装置およびその光源推定装置
JP5706705B2 (ja) 画像処理装置およびその制御方法、ならびに撮像装置
JP6345430B2 (ja) マルチエリアホワイトバランス制御装置、マルチエリアホワイトバランス制御方法、マルチエリアホワイトバランス制御プログラム、マルチエリアホワイトバランス制御プログラムを記録したコンピュータ、マルチエリアホワイトバランス画像処理装置、マルチエリアホワイトバランス画像処理方法、マルチエリアホワイトバランス画像処理プログラム、マルチエリアホワイトバランス画像処理プログラムを記録したコンピュータ及びマルチエリアホワイトバランス画像処理装置を備えた撮像装置
JP2009177792A (ja) 画像処理装置、および撮像装置
JP2016201600A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
KR101227082B1 (ko) 다중 영상 합성을 위한 컬러 밸런싱 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180109

R151 Written notification of patent or utility model registration

Ref document number: 6274931

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees