JP5677113B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP5677113B2
JP5677113B2 JP2011023250A JP2011023250A JP5677113B2 JP 5677113 B2 JP5677113 B2 JP 5677113B2 JP 2011023250 A JP2011023250 A JP 2011023250A JP 2011023250 A JP2011023250 A JP 2011023250A JP 5677113 B2 JP5677113 B2 JP 5677113B2
Authority
JP
Japan
Prior art keywords
white balance
water depth
white
depth
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011023250A
Other languages
English (en)
Other versions
JP2012124877A (ja
Inventor
将浩 高山
将浩 高山
謙治 大内
謙治 大内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011023250A priority Critical patent/JP5677113B2/ja
Publication of JP2012124877A publication Critical patent/JP2012124877A/ja
Application granted granted Critical
Publication of JP5677113B2 publication Critical patent/JP5677113B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • G03B17/08Waterproof bodies or housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2215/00Special procedures for taking photographs; Apparatus therefor
    • G03B2215/05Combinations of cameras with electronic flash units
    • G03B2215/0514Separate unit
    • G03B2215/0517Housing
    • G03B2215/0542Housing watertight

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)

Description

本発明はデジタルカメラやデジタルビデオカメラなどの撮像装置における画像処理技術に関し、更に詳しくは、水中におけるホワイトバランス制御技術に関する。
撮像素子から出力された信号はA/D変換によってデジタル化され、複数のブロックに分割される。そのブロック信号はR(赤)、G(緑)、B(青)を含む色信号で構成されており、そのブロックの色評価値算出例として式(1)がある。
Cx[i] =(R[i]−B[i])/Y[i]×1024
Cy[i] =(R[i]+B[i]−2G[i])/Y[i]×1024 …(1)
(ただし、Y[i]=R[i]+2G[i]+B[i])
そして予め設定した白検出範囲に色評価値(Cx[i]、Cy[i])が含まれる場合は、そのブロックが白であると判定し、白検出範囲に入った色画素の積分値sumR、sumG、sumBを算出して、以下の式(2)のようにホワイトバランス係数を算出する。
WBCo_R=sumY×1024/sumR
WBCo_G=sumY×1024/sumG …(2)
WBCo_B=sumY×1024/sumB
ここで、sumY=(sumR+2×sumG+sumB)/4
ただし、水中で撮影を行う場合、水の分光透過率の影響で光の長波長域が減衰しやすくなるので、R色光の比率がG色光、B色光に比べて減少するため、青みを帯びた画像になる。さらに水中では、水面からカメラ(被写体)までの距離(水面からの深さ)が長くなるほど、水の外から到達する自然光のR色成分が減少するためホワイトバランスの追従性を保持するのが困難である。
特許文献1では、ホワイトバランス調整時に使用する調整係数を撮影前に設定し、カメラが位置する深さを検出する水深計により検出した深度情報を基に、異なるホワイトバランス調整係数を制御するとしている。
特許第4144390号公報
しかしながら、上述の特許文献1に開示された従来技術では、ユーザーが撮影前に予め用意した白もしくはグレーなどの無彩色の被写体を撮影しなくてはならず、手間がかかり煩わしさがあった。また、水深を検出するための水深計等をカメラに搭載しなければならず、カメラのコストが高くなるといった問題もあった。
本発明は上述した課題に鑑みてなされたものであり、その目的は、カメラに特別な装置を設けることなく、水中でのホワイトバランスを適切に調整できるようにすることである。
上述した課題を解決し、目的を達成するために、本発明に係わる画像処理装置は、被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、を備え、前記推定手段は、撮像された画像の色分布情報について直線近似を行って相関係数を求め、該相関係数から前記水深を推定することを特徴とする。
また、本発明に係わる画像処理装置は、被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、を備え、前記推定手段は、撮像された画像の色分布情報と黒体放射軸との距離に応じて前記水深を推定することを特徴とする。
また、本発明に係わる画像処理装置は、被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、を備え、前記推定手段は、撮像された画像の色分布情報について楕円近似を行い、該楕円の長半径と短半径の比率から前記水深を推定することを特徴とする。
本発明によれば、カメラに特別な装置を設けることなく、水中でのホワイトバランスを適切に調整することが可能となる。
本発明の第1の実施形態に係わるカメラの構成を示すブロック図。 第1のWB補正値算出処理を示すフローチャート。 白検出範囲を示す図。 第1の実施形態における水中時のWB補正値算出処理を示すフローチャート。 水中時の色評価値分布を示す図。 水中時のWB処理を示す概念図。 相関係数に応じた水中軸の設定に関するテーブルを示す図。 色分布と黒体放射軸との距離に応じたゲイン値の算出を示す図。 第2の実施形態における水中時のWB補正値算出処理を示すフローチャート。 深度に応じてWB係数をMixする際の比率を示す図。 第3の実施形態における水中時のWB補正算出処理を示すフローチャート。
以下、本発明の実施形態について、図面を参照して詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係わるカメラ(撮像装置)の構成を示すブロック図である。図1において、101はCCDやCMOSセンサ等からなる固体撮像素子であり、その表面は例えばベイヤー配列のようなRGB(赤、緑、青)のカラーフィルタにより覆われ、カラー撮影が可能な構成となっている。
CPU114は画像全体が適切な明るさになるようなシャッター速度、絞り値を計算すると共に、合焦領域内にある被写体に合焦するように撮影レンズ内のフォーカスレンズの駆動量を計算する。CPU114で計算された露出値(シャッター速度、絞り値)およびフォーカスレンズの駆動量は制御回路113に送られ、各値に基づいて露出及びフォーカスがそれぞれ制御される。103はWB(ホワイトバランス)制御部であり、メモリ102に記憶された画像信号からの情報に基づいてWB補正値を算出し、算出したWB補正値を用いて、メモリ102に記憶された画像信号に対してWB補正を行う。なお、このWB制御部103の詳細構成およびWB補正値の算出方法については後述する。
104は、WB制御部103によりWB補正された画像信号が最適な色で再現されるように色ゲインをかけて色差信号R−Y、B−Yに変換する色変換MTX(色変換マトリックス)回路である。105は色差信号R−Y、B−Yの帯域を制限するLPF(ローパスフィルタ)回路、106はLPF回路105で帯域制限された画像信号の内、飽和部分の偽色信号を抑圧するCSUP(Chroma Supress)回路である。一方、WB制御部103によりWB補正された画像信号はY(輝度信号)生成回路111にも出力されて輝度信号Yが生成され、生成された輝度信号Yに対してエッジ強調回路112にてエッジ強調処理が施される。
CSUP回路106から出力される色差信号R−Y、B−Yと、エッジ強調回路112から出力される輝度信号Yは、RGB変換回路107にてRGB信号に変換され、ガンマ補正回路108にて階調補正が施される。その後、色輝度変換回路109にてYUV信号に変換され、さらにJPEG圧縮回路110にて圧縮されて、外部記録媒体または内部記録媒体に画像信号として記録される。
次に、図1のWB制御部103におけるWB補正値の算出方法について詳細に説明する。まずは第1のWB補正値の算出方法について図2を用いて説明する。
メモリ102に記憶された画像信号を読み出し、その画面を任意のm個のブロックに分割する(ステップS101)。そして、各ブロック(1〜m)毎に、画素値を各色ごとに加算平均して色平均値(R[i]、G[i]、B[i])を算出し、式(1)を用いて色評価値(Cx[i]、Cy[i])を算出する(ステップS102)。
Cx[i]=(R[i]−B[i])/Y[i]×1024
Cy[i]=(R[i]+B[i]−2G[i])/Y[i]×1024
ただし、Y[i]=R[i]+2G[i]+B[i]
次に、ステップS102で算出したi番目のブロックの色評価値(Cx[i]、Cy[i])が、図3(a)に示す予め設定した白検出範囲301に含まれるかどうかを判断する(ステップS103)。
白検出範囲301は、予め異なる光源下で白を撮影し、算出した色評価値をプロットしたものである。この白検出範囲は撮影モードによって別設定できるものとする。図3におけるx座標(Cx)の負方向が高色温度被写体の白を撮影したときの色評価値、正方向が低色温度被写体の白を撮影したときの色評価値である。またy座標(Cy)は光源の緑成分の度合いを意味しており、負方向になるにつれGreen(緑)成分が大きくなり、つまり蛍光灯であることを示している。水中時における白色分布はBlue(青)方向とGreen方向に偏って分布するので、白検出範囲はBlue方向とGreen方向を検出するような範囲に設定する(図3(b)の302)。算出した色評価値(Cx[i]、Cy[i])がこの白検出範囲302に含まれる場合には(ステップS103でYES)そのブロックが白色であると判断する。そして、そのブロックの色平均値(R[i]、G[i]、B[i])を積算していき(ステップS104)、含まれない場合には加算せずにステップS105に進む。このステップS103及びステップS104の処理は、式(3)により表すことができる
Figure 0005677113
ここで、式(3)において、色評価値(Cx[i]、Cy[i])が白検出範囲(図3(b)の302)に含まれる場合はSw[i]を1に、含まれない場合にはSw[i]を0とする。これにより、ステップS103の判断により色評価値(R[i]、G[i]、B[i])の加算を行うか、行わないかの処理を実質的に行っている。
ステップS105では、すべてのブロックについて上記処理を行ったかどうかを判断し、未処理のブロックがあればステップS102に戻って上記処理を繰り返し、すべてのブロックの処理が終了していればステップS106に進む。
ステップ106では、得られた色評価値の積分値(sumR、sumG、sumB)から、以下の式(4)を用いて、第1のWB補正値(WBCo1_R、WBCo1_G、WBCo1_B)を算出する。さらに、同じく得られた色平均値の積分値(sumR、sumG、sumB)から式(1)を用いて、第1の色評価値WBCo1(Cx1、Cy1)を算出する。
WBCo1_R=sumY×1024/sumR
WBCo1_G=sumY×1024/sumG …(4)
WBCo1_B=sumY×1024/sumB
ただし、sumY=(sumR+2×sumG+sumB)/4
続いて第1のWB補正値の算出後の処理について図4のフローチャートと図5の概念図を用いて説明する。ステップS202でWBモードが水中モードか判断し、水中モードでなければステップS207に進み第1のWB補正値を最終WB係数とする。
WBモードが水中モードの場合は、ステップS203で撮影画像をnブロックに分割し、各ブロック(1〜n)毎に、画素値を各色ごとに加算平均して色平均値(R[i]、G[i]、B[i])を算出する。そして、色評価値(Cx[i]、Cy[i])を算出する。色評価値は、図5に示すように深度(水深)が浅いときは501のように分布し、深度が深いときは502のように分布する。水中では、水面から被写体の位置(被写体までの距離が近ければカメラの位置とも見なせる)までの距離(水面からの深さ)が長くなるほど、水の外から到達する自然光のR色成分が減少するので図5に示すような分布になる。そこで深度を推定する手段として撮影画像の色分布情報から直線近似式の相関を演算し、その相関から深度を推定する。その相関計算式は以下のようになる。
Figure 0005677113
ここで、mはCx[i]の平均値であり、nはCy[i]の平均値である。
上記で算出したr2を相関係数とし、その情報を基にWB制御を行う。この相関係数は0〜1の値をとり、1に近い値だと相関がある、つまり深度が深いと推定し、0に近い値だと相関がない、つまり深度が浅いと推定する。これは深度が深くなるにつれ、Red(赤)成分が極端に減衰していくため、図5の502で示すような色分布形状になるためである。つまり色分布を直線近似した場合の相関係数によって深度を推定することとする。
また、色分布情報から深度を推定する他の手段として、撮影画像の色分布と黒体放射軸との距離をもとに深度を推定する。図5に示すように深度が深くなるにつれ、Blue(青)、Green(緑)方向に色分布が推移していくためである。ここでは、撮影画像の色分布中心と黒体放射軸との距離によって深度を推定することとする。
黒体放射軸との距離をΔCx、ΔCyとすると、その算出式は以下のようになる。
Figure 0005677113
ΔCx=Cx0−AveCx
ΔCy=Cy0−AveCy
ここで、W0(Cx0、Cy0)は黒体放射軸上のポイントとする。上式で算出したΔCx、ΔCyを深度推定の判断要素とする。
水中における白色評価値の軌跡(白点軌跡であり、以下、水中軸と呼ぶ)は図6に示すような黒体放射軸とは離れたところに存在する。さらに水中の白点は深度によって変化するため、ステップS204で上記演算によって得られた相関係数(推定水深情報)と黒体放射軸との距離(推定水深情報)をもとに水中軸W1’、W2’を設定する。設定方法としては、図7に示すような相関係数に応じたW1(Cx1,Cy1)、W2(Cx2,Cy2)、W1D(Cx1D,Cy1D)、W2D(Cx2D,Cy2D)をテーブルから参照する。W1D、W2DはW1、W2よりさらに深い深度まで追従できるような水中軸の設定値とする。
上記テーブルから算出したW1、W2、W1D、W2Dは前述の黒体放射軸との距離ΔCx、ΔCyに応じてMix(混合)する。そのMix率βは、図8に示されるようにΔCx、ΔCyからGain1,Gain2を求め、以下のように算出する。
β=Gain1×Gain2
W1’Cx=(1−β)×W1Cx+β×W1DCx
W1’Cy=(1−β)×W1Cy+β×W1DCy
W2’Cx=(1−β)×W2Cx+β×W2DCx
W2’Cy=(1−β)×W2Cy+β×W2DCy
つまり、色分布情報の相関係数が高く黒体放射軸との距離が離れている場合に深度が深いと判断され、より深くまで追従できるような水中軸設定となる。
本テーブルの相関係数と軸との関係は、例えば、実際の水中での撮影画像を用いて実験的に求めることができる。なお、相関係数が上記テーブルの間の値をとる場合は線形補間して算出する
ステップS205では上述で算出した第1のWB補正値WBCo1を図6で示すようなW1’、W2’の水中軸に写像する。ここでは、第1のWB補正値に対応する色評価値の積分値(sumR,sumG,sumB)がCx及びCyの値に変換され、変換されたCx及びCy値が水中軸に写像され、点WBCo’(Cx’,Cy’)が得られる。ステップS206で写像した点WBCo’(Cx’,Cy’)をWBCo1_R、WBCo1_G、WBCo1_Bとして最終ホワイトバランス係数として出力する。これらのRGB空間の値は、式(1)及び式(2)において、Cx[i]=Cx’,Cy[i]=Cy’,R[i]=sumR,G[i]=sumG=1024,B[i]=sumB,Y[i]=sumY,WBCo_R=WBCo1_R,WBCo_G=WBCo1_G,WBCo_B=WBCo1_Bとした連立方程式により求められる。
(第2の実施形態)
続いて第2の実施形態について説明する。第2の実施形態では水中軸W1’、W2’に写像する際に第1の実施形態で算出したWBCo1と画面全体を平均化して算出したWB係数を深度によって加重加算して水中軸W1’、W2’に写像する点が異なる。それ以外の部分は第1の実施形態と同様なので詳細な説明は省略する。
図9のフローチャートを用いて説明する。深度が深いような場合は、色評価値が図3の検出範囲302に含まれない場合がある。そのため、画面の色分布を参照するために撮影画像のブロック(1〜n)毎に、画素値を各色ごとに加算平均して色平均値(R[i]、G[i]、B[i])を算出し、色評価値(Cx[i]、Cy[i])を算出する(ステップS305)。この値を以下のように積分していく。
Figure 0005677113
ここでは、白ではないような色評価値を加算してしまう場合があるので、白色評価値の軌跡からかけ離れた評価値は加算しないように重みをかけて加算してもよい。その場合の積分は以下のようにする。
Figure 0005677113
ここでGain1及びGain2は、黒体放射軸上の所定の光源を示す点(例えば、日向の点)からの距離により求められるものであり、距離が離れるほど値が小さくなるようにする。本実施形態では、Gain1及びGain2のそれぞれが個別に求められる。不揮発性メモリ56は、Cx軸方向について5つの代表的なCx座標に対するGain1の値と、同じくCy軸方向について5つの代表的なCy座標に対するGain2の値を記憶する。システム制御部50は、それらの値を用いて線形補間することにより、i=1〜nまでのCx[i]及びCy[i]の座標に対応するGain1とGain2の値を求める。
上記で算出したCx、CyをWBCo2とする。なお、本実施形態ではCxとCyの両方でGainによる重み付けを行ったが、一方のみについて重み付けを行ってもよい。
ステップS306で算出したWBCo1とWBCo2を推定深度、つまり相関係数に応じてMix(混合)する。その際のMix比率αは図10のように推定深度(相関係数)に応じて決定される。つまり、
WBCo1:WBCo2=(1−α):α
という比率でMix処理をすることとする。
ステップS307では上記でMix処理したホワイトバランス係数を図6で示すようにCx及びCy値として水中軸に写像する。写像した点をWBCo1_R、WBCo1_G、WBCo1_Bとして最終ホワイトバランス係数として出力する(ステップS308)。
(第3の実施形態)
次に第3の実施形態について説明する。第3の実施形態では直線近似式の相関演算に使用するブロックが第1及び第2の実施形態と異なる。それ以外の部分は第2の実施形態(図9のフローチャート)と同様であるので詳細な説明は省略する。
図11のフローチャートを用いて説明する。水深の推定を阻害する(相関係数を本来の値より下げてしまう)要因がいくつか存在する。例えば、高輝度部(水中ライトなど)、低輝度部(岩陰など)、高彩度部(魚など)が存在する場合が挙げられる。また、高輝度部、低輝度部、高彩度部の判断基準の例として、高輝度部はRGB(赤、緑、青)の少なくとも1つの値が閾値を超えた場合、低輝度部は輝度が閾値より低い場合、高彩度部はB値に比べRまたはGの少なくとも一方の値が閾値より大きい場合などが挙げられる。
ここで、撮影画像のブロック毎の色平均値に基づき、上記のような水深の推定を阻害すると判断された(高輝度、低輝度、高彩度の少なくとも1つに該当する)ブロックは相関係数算出時に除外領域として計算対象から除外する(ステップS403)。これにより、水深の推定誤差を減らすことができる。
また、このとき一定以上のブロックが除外対象となった場合、除外対象ブロックが一定量(一定面積)を超える直前に算出した相関係数(水深)を使用してもよいし、除外対象ブロックが一定量を超える直前に算出した相関係数(水深)と新たに算出した相関係数(水深)を状況(例えば、除外対象ブロックが一定量を超えてからの経過時間)に応じて算出された比で加重平均してもよい。
(第4の実施形態)
次に、第4の実施形態について説明する。第1乃至第3の実施形態では、深度を推定する場合、撮影画像の色評価値分布から直線近似を行い、その相関係数に応じて制御を変更可能にしていた。
第4の実施形態では撮影画像の色評価値から楕円近似をし、その楕円の長半径と短半径の比率によって深度を推定することとする。
前述のように水中では、水面からカメラ(被写体)までの距離(水面からの深さ)が長くなるほど、水の外から到達する自然光のR色成分が減少するので、深度が深い場合は色評価値が図5の502のような分布になる。この楕円の長半径aと短半径bの比率によって深度を推定することとする(a>b>0)。つまり、b/aは0〜1の値をとり、0に近づけば近づくほど深度が深いと推定し、1に近づけば深度が浅いと推定する。水中の深度推定方法以外は第1乃至第3の実施形態と同様なので詳細な説明は省略する。
(他の実施形態)
本発明は、ホワイトバランス制御に関わらず、推定深度に応じて色ゲインマトリックスを変更するようにしてもよい。例えば、深度が深くなればなるほどR色成分が減少するため、赤色が発色しなくなってくる。つまり推定深度情報を基にRゲインを切り換える(色ゲイン変更)ことで所望の色再現を得ることを可能にする。
他にも推定深度に応じて、AF、AE等の制御を変えてもよいし、もし画像を表示するための表示装置を備えている場合は推定深度に応じて表示するUIや画像の画質を変化させてもよい。
上記実施形態は、本発明を撮像装置において実施する例について説明したが、これに限られるものではなく、画像のホワイトバランス制御を行う機能を有する画像処理装置であれば適用可能なものである。例えば、パーソナルコンピュータで動作するアプリケーションソフトウェアが、RAW画像ファイル(撮像素子から出力されたホワイトバランス補正前のデータのファイル)に対して、本発明の処理を行う例がある。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (18)

  1. 被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、
    前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、
    を備え
    前記推定手段は、撮像された画像の色分布情報について直線近似を行って相関係数を求め、該相関係数から前記水深を推定することを特徴とする画像処理装置。
  2. 被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、
    前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、
    を備え、
    前記推定手段は、撮像された画像の色分布情報と黒体放射軸との距離に応じて前記水深を推定することを特徴とする画像処理装置。
  3. 被写体を撮像して得られた画像の色分布情報から前記撮像した被写体が位置する水深を推定する推定手段と、
    前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、
    を備え、
    前記推定手段は、撮像された画像の色分布情報について楕円近似を行い、該楕円の長半径と短半径の比率から前記水深を推定することを特徴とする画像処理装置。
  4. 前記黒体放射軸とは異なる軸とは、水中時の水深に応じた白点軌跡を表す軸であることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 前記水中時の水深に応じた白点軌跡を表す軸は、前記推定手段により得られた水深情報を基に変更可能であることを特徴とする請求項に記載の画像処理装置。
  6. 前記ホワイトバランス制御手段は、白検出されたホワイトバランス係数を前記水深に応じた白点軌跡を表す軸に写像することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  7. 前記ホワイトバランス制御手段は、白検出したホワイトバランス係数と撮像された画像の色分布から算出したホワイトバランス係数とを加重加算し、前記水深に応じた白点軌跡を表す軸に写像することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  8. 前記ホワイトバランス制御手段は、前記推定手段により得られた水深情報を基に、白検出したホワイトバランス係数と撮像された画像の色分布から算出したホワイトバランス係数とを加重加算することを特徴とする請求項に記載の画像処理装置。
  9. 前記推定手段は、前記画像に、高輝度、低輝度、高彩度の少なくとも1つに該当する領域が存在する場合、該領域を水深の推定のための計算対象から除外することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
  10. 前記高輝度の領域は、RGB(赤、緑、青)の信号の少なくとも1つの値が閾値を超える領域であることを特徴とする請求項に記載の画像処理装置。
  11. 前記低輝度の領域は、輝度が閾値より低い領域であることを特徴とする請求項に記載の画像処理装置。
  12. 前記高彩度の領域は、Bの信号の値に対する、RとGの信号の少なくとも一方の値の比が閾値より大きい領域であることを特徴とする請求項に記載の画像処理装置。
  13. 前記推定手段は、水深の推定のための計算対象から除外される領域である除外領域が一定の面積を超える場合、前記除外領域の面積が前記一定の面積を超える直前に推定した水深を使用する、あるいは前記直前に推定した水深と新たに推定した水深を加重平均することを特徴とする請求項に記載の画像処理装置。
  14. 被写体を撮像して得られた画像の領域毎に色評価値を算出する算出手段と、
    各領域の色評価値を色空間にプロットして得た色評価値の分布形状から前記撮像した被写体が位置する水深を推定する推定手段と、
    前記推定手段により推定された前記水深に応じて、黒体放射軸とは異なる軸でホワイトバランス制御を行うホワイトバランス制御手段と、
    を備えることを特徴とする画像処理装置。
  15. 前記黒体放射軸とは異なる軸とは、水中時の水深に応じた白点軌跡を表す軸であることを特徴とする請求項14に記載の画像処理装置。
  16. 前記水中時の水深に応じた白点軌跡を表す軸は、前記推定手段により得られた水深情報を基に変更可能であることを特徴とする請求項15に記載の画像処理装置。
  17. 前記ホワイトバランス制御手段は、白検出されたホワイトバランス係数を前記水深に応じた白点軌跡を表す軸に写像することを特徴とする請求項14乃至16の何れか1項に記載の画像処理装置。
  18. 前記ホワイトバランス制御手段は、白検出したホワイトバランス係数と撮像された画像の色分布から算出したホワイトバランス係数とを加重加算し、前記水深に応じた白点軌跡を表す軸に写像することを特徴とする請求項14乃至16の何れか1項に記載の画像処理装置。
JP2011023250A 2010-02-04 2011-02-04 画像処理装置 Expired - Fee Related JP5677113B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011023250A JP5677113B2 (ja) 2010-02-04 2011-02-04 画像処理装置

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2010023549 2010-02-04
JP2010023549 2010-02-04
JP2010259524 2010-11-19
JP2010259524 2010-11-19
JP2011023250A JP5677113B2 (ja) 2010-02-04 2011-02-04 画像処理装置

Publications (2)

Publication Number Publication Date
JP2012124877A JP2012124877A (ja) 2012-06-28
JP5677113B2 true JP5677113B2 (ja) 2015-02-25

Family

ID=44341322

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011023250A Expired - Fee Related JP5677113B2 (ja) 2010-02-04 2011-02-04 画像処理装置

Country Status (3)

Country Link
US (2) US8913154B2 (ja)
JP (1) JP5677113B2 (ja)
CN (2) CN104363434B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5687464B2 (ja) * 2010-09-29 2015-03-18 オリンパスイメージング株式会社 撮像装置および画像処理方法
US9407745B2 (en) * 2011-02-09 2016-08-02 Nec Corporation Electronic apparatus, water detection means control method, and electronic apparatus operation mode setting method
KR101806289B1 (ko) * 2011-11-14 2017-12-07 삼성전자주식회사 촬상 장치
JP2013143593A (ja) * 2012-01-06 2013-07-22 Canon Inc 撮像装置、その制御方法およびプログラム
KR20140035000A (ko) * 2012-09-11 2014-03-21 삼성전자주식회사 영상 촬영 장치 및 그 제어 방법
CN106612393B (zh) * 2015-10-22 2019-10-15 努比亚技术有限公司 一种图像处理方法和装置、以及移动终端
US10325354B2 (en) * 2017-04-28 2019-06-18 Qualcomm Incorporated Depth assisted auto white balance
JP6870817B2 (ja) * 2017-06-02 2021-05-12 株式会社ザクティ 画像処理装置
CN107257455A (zh) * 2017-07-10 2017-10-17 广东欧珀移动通信有限公司 白平衡处理方法和装置
JP6583477B2 (ja) * 2018-05-08 2019-10-02 株式会社ニコン 画像処理装置及び撮像装置
JP2021136661A (ja) * 2020-02-28 2021-09-13 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、記憶媒体
JP2021182672A (ja) * 2020-05-18 2021-11-25 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN112740664A (zh) * 2020-05-29 2021-04-30 深圳市大疆创新科技有限公司 影像处理的方法和系统
DK180884B1 (en) * 2020-11-13 2022-06-13 Paralenz Group ApS Dynamic depth-color-correction

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04144390A (ja) 1990-10-04 1992-05-18 Japan Radio Co Ltd Crt表示装置
JP3528202B2 (ja) * 1993-06-04 2004-05-17 株式会社ニコン 電子スチルカメラ
JP2735003B2 (ja) * 1994-09-28 1998-04-02 松下電器産業株式会社 ホワイトバランス調整量演算装置
JPH08126022A (ja) * 1994-10-19 1996-05-17 Sharp Corp ホワイトバランス調整回路
JP2000148978A (ja) 1998-11-10 2000-05-30 Fuji Photo Film Co Ltd 撮影光源推定方法および装置、画像処理方法および装置、並びに記録媒体
US6681042B1 (en) * 2000-08-29 2004-01-20 Eastman Kodak Company Digital color image processing method
JP4439767B2 (ja) * 2001-08-09 2010-03-24 キヤノン株式会社 撮像装置およびホワイトバランスの調整方法およびその動作処理プログラム
US7388612B2 (en) * 2002-11-26 2008-06-17 Canon Kabushiki Kaisha Image pickup apparatus and method, recording medium, and program providing user selected hue and white balance settings
JP4144390B2 (ja) 2003-03-17 2008-09-03 株式会社ニコン 電子カメラおよび電子カメラシステム
JP4481803B2 (ja) * 2004-11-26 2010-06-16 オリンパスイメージング株式会社 光学撮影機器
US20070236564A1 (en) * 2006-04-06 2007-10-11 Nikon Corporation Color compensation system for images captured underwater
JP2008017198A (ja) 2006-07-06 2008-01-24 Fujifilm Corp 光源色算出装置、光源色算出方法及び撮影装置
US8106944B2 (en) * 2006-10-04 2012-01-31 Massachusetts Institute Of Technology Adaptive illumination for color-corrected underwater imaging
CN101193317B (zh) * 2006-11-30 2010-09-01 北京思比科微电子技术有限公司 对图像进行自动白平衡处理的方法和装置
JP4860512B2 (ja) 2007-03-13 2012-01-25 株式会社市川ソフトラボラトリー 画像処理装置
JP2009055077A (ja) * 2007-08-23 2009-03-12 Olympus Imaging Corp 撮像装置

Also Published As

Publication number Publication date
US20150036019A1 (en) 2015-02-05
CN104363434B (zh) 2017-05-24
US8913154B2 (en) 2014-12-16
US20110187890A1 (en) 2011-08-04
JP2012124877A (ja) 2012-06-28
CN104363434A (zh) 2015-02-18
CN102148933A (zh) 2011-08-10
US9462247B2 (en) 2016-10-04

Similar Documents

Publication Publication Date Title
JP5677113B2 (ja) 画像処理装置
JP5761946B2 (ja) 画像処理装置、画像処理方法及び記憶媒体
JP5665436B2 (ja) 画像処理装置、画像処理方法及びプログラム
US8009201B2 (en) Sensitivity-settable image capture apparatus
US9426437B2 (en) Image processor performing noise reduction processing, imaging apparatus equipped with the same, and image processing method for performing noise reduction processing
JP6083974B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5693271B2 (ja) 画像処理装置及び方法
JP5804857B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2012235377A (ja) 画像処理装置、画像処理方法及びプログラム
JP5225137B2 (ja) 撮像装置、画像処理方法及びプログラム
JP2013143593A (ja) 撮像装置、その制御方法およびプログラム
JP2009004966A (ja) 撮像装置
JP5854716B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5791274B2 (ja) 画像処理装置、方法及びプログラム
JP2006333113A (ja) 撮像装置
JP2011040975A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2009022044A (ja) 画像処理装置及び画像処理プログラム
JP2015119436A (ja) 撮像装置
JP5943682B2 (ja) 撮像装置、その制御方法及びプログラム
JP4950553B2 (ja) 撮像装置及び画像処理方法
JP6021885B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2021087125A (ja) 画像処理装置、その制御装置、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141226

R151 Written notification of patent or utility model registration

Ref document number: 5677113

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees