JP2012054811A - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP2012054811A
JP2012054811A JP2010196643A JP2010196643A JP2012054811A JP 2012054811 A JP2012054811 A JP 2012054811A JP 2010196643 A JP2010196643 A JP 2010196643A JP 2010196643 A JP2010196643 A JP 2010196643A JP 2012054811 A JP2012054811 A JP 2012054811A
Authority
JP
Japan
Prior art keywords
image data
white balance
correction value
calculated
balance correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010196643A
Other languages
English (en)
Other versions
JP5665436B2 (ja
Inventor
Yusuke Shimizu
佑輔 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010196643A priority Critical patent/JP5665436B2/ja
Priority to US13/221,390 priority patent/US8704911B2/en
Priority to KR1020110088296A priority patent/KR101352440B1/ko
Priority to RU2011136501/07A priority patent/RU2504108C2/ru
Priority to CN201110260904.4A priority patent/CN102387372B/zh
Priority to EP11179896.3A priority patent/EP2426927B1/en
Publication of JP2012054811A publication Critical patent/JP2012054811A/ja
Application granted granted Critical
Publication of JP5665436B2 publication Critical patent/JP5665436B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】ストロボ光を発光するシーンで適正な色味とする画像を生成できるようにする。
【解決手段】まず、メモリ102に記憶された画像信号に対して、ストロボ光に対応した第1のWB補正値を算出し、次に、外光に対応した第2のWB補正値を算出する。そして、第1のWB補正値を用いて現像し、現像画像信号Yuv1を生成するとともに、第2のWB補正値を用いて現像し、現像画像信号Yuv2を生成する。次に、メモリ102に記憶されたストロボ光を発光した時の画像及び発光前の画像の各ブロックの輝度値を算出し、これらの輝度値に基づいて合成比率を算出する。そして、合成比率に基づいて現像画像信号Yuv1と現像画像信号Yuv2とを合成する。
【選択図】図1

Description

本発明は、ホワイトバランス補正を行うために用いて好適な画像処理装置、画像処理方法及びプログラムに関する。
一般に、デジタルカメラやデジタルビデオカメラなど、撮像素子を用いる撮像装置は、撮像によって得られた画像の色調を調整するホワイトバランス制御機能を備えている。このホワイトバランス制御には、予め白色被写体を撮像してホワイトバランス係数を求めておき、算出したホワイトバランス係数を画面全体に適用するマニュアルホワイトバランス制御がある。また、撮像した画像から白色と思われる部分を自動検出し、画面全体の各色成分の平均値からホワイトバランス係数を求め、算出したホワイトバランス係数を画面全体に適用するオートホワイトバランス制御もある。
ここで、従来のオートホワイトバランス制御について説明する。撮像素子から出力されたアナログ信号はA/D変換によってデジタル信号に変換され、図3に示すように複数のブロックに分割される。各ブロックはR、G、Bの色画素で構成されており、ブロック毎に、例えば以下の式(1)により、色評価値(Cx[i],Cy[i])を求める。
Figure 2012054811
そして、算出した色評価値(Cx[i],Cy[i])が予め設定した白検出範囲に含まれる場合は、そのブロックが白であると判定する。そして、そのブロックに含まれる色画素の積分値(SumR,SumG,SumB)を算出して、以下の式(2)によりホワイトバランス係数(WBCo_R,WBCo_G,WBCo_B)を算出する。
Figure 2012054811
しかしながら、このようなオートホワイトバランス制御の場合、ストロボ光を発光するシーンにおいて画像内にストロボ光と異なる光源が存在する場合であっても、上記算出したホワイトバランス係数を画面全体に適用してホワイトバランス制御を行う。このため、各光源を共に適正な色味とするホワイトバランス制御を行うことが困難であった。例えば、高色温度光源であるストロボ光を発光しているシーンで、環境光に電球色光源のような低色温度光源が存在する場合、ストロボ光にホワイトバランスを合わせると、環境光の低色温度光源にホワイトバランスが合わなくなってしまう。一方、環境光の低色温度光源にホワイトバランスを合わせると、ストロボ光にホワイトバランスが合わなくなってしまう。また、両方の光源の中間にホワイトバランスを合わせてホワイトバランス制御を行ったとしても、両方の光源にホワイトバランスが合わず、ストロボ光で照射されている領域は青みを帯び、低色温度光源で照射されている領域は赤味を帯びてしまう。
そこで、このような課題に対して、例えば特許文献1に記載の技術では、ストロボ発光画像とストロボ非発光画像とを、任意の被写体領域ごとに比較してデータの比を求め、求めた比の値によりストロボ光の寄与度を判定する。そして、寄与度に応じてストロボ発光して露光させたときの映像データに対して領域ごとにホワイトバランス制御値を選択して、ホワイトバランス制御を行っている。
特許第3540485号公報
しかしながら、上述の特許文献1に開示された従来技術では、ホワイトバランス制御値を各領域で可変させた後に現像処理を行うため、色の再現などその他の制御がホワイトバランス制御値に対して適正にならなくなってしまう場合がある。このため、適正な色味を十分に再現できない。
本発明は前述の問題点に鑑み、ストロボ光を発光するシーンで適正な色味とする画像を生成できるようにすることを目的としている。
本発明の画像処理装置は、ストロボ光を発光した時に撮影された第1の画像データから前記ストロボ光に対応したホワイトバランス補正値を算出する第1の算出手段と、前記ストロボ光が発光されていない間に撮影された第2の画像データから外光に対応したホワイトバランス補正値を算出する第2の算出手段と、前記第1の算出手段により算出された第1のホワイトバランス補正値を用いて前記第1の画像データを補正して第1の現像画像データを生成するとともに、前記第2の算出手段により算出された第2のホワイトバランス補正値を用いて前記第1の画像データを補正して第2の現像画像データを生成する補正手段と、前記第1の画像データを複数のブロックに分割する分割手段と、前記第1の画像データの輝度値と前記第2の画像データの輝度値とから前記分割手段によって分割された各ブロックのストロボ成分と外光成分とを算出し、前記算出した各ブロックのストロボ成分と外光成分とを基に、前記各ブロックの合成比率を算出する合成比率算出手段と、前記合成比率算出手段により算出された合成比率により、前記補正手段によって生成された第1の現像画像データと第2の現像画像データとを合成する合成手段とを有することを特徴とする。
本発明によれば、ストロボ光を発光したシーンであっても、主被写体と背景とを共に適正な色味とする画像を生成し、ユーザーに好ましい画像を提供することができる。
実施形態に係るデジタルカメラの構成例を示すブロック図である。 画像を合成する処理手順の一例を示すフローチャートである。 R、G、Bの色画素で構成されているブロックを示す図である。 白検出を行うための色評価値の関係の一例を示す特性図である。 第1のWB補正値を決定する処理手順の一例を示すフローチャートである。 撮影制御を時系列に並べた状態を示す図である。 駆動モードにより分光差分が生じる場合の関係を示す特性図である。 ストロボ光の発光前後における輝度の差の一例を示す図である。 低色温度光源の場合の入力と出力との関係を示す特性図である。
以下に、本発明の好ましい画像処理装置の実施形態について、添付の図面に基づいて詳細に説明する。
図1は、本実施形態に係るデジタルカメラ100の構成例を示すブロック図である。
図1において、固体撮像素子101はCCDやCMOS等からなる撮像素子であり、その表面は例えばベイヤー配列のようなRGBカラーフィルタにより覆われ、カラー撮影が可能な構成となっている。被写体像が固体撮像素子101上で結像されると、画像データ(画像信号)を生成して、メモリ102に記憶される。
制御部114は、画像全体が明るくなるようなシャッター速度、絞り値を計算するとともに、合焦領域内にある被写体に合焦するようにフォーカスレンズの駆動量を計算する。そして、制御部114により計算された露出値(シャッター速度、絞り値)及びフォーカスレンズの駆動量の情報が撮像制御回路113に送られ、各値に基づいてそれぞれ制御される。ホワイトバランス(WB)制御部103は、メモリ102に記憶された画像信号に基づいてWB補正値を算出し、算出したWB補正値を用いて、メモリ102に記憶された画像信号に対してWB補正を行う。なお、このWB制御部103の詳細な構成及びWB補正値の算出方法については、後述する。
色マトリックス回路104は、WB制御部103によりWB補正された画像信号が最適な色で再現されるように色ゲインをかけて色差信号R−Y、B−Yに変換する。ローパスフィルタ(LPF)回路105は、色差信号R−Y、B−Yの帯域を制限するための回路である。CSUP(Chroma Supress)回路106は、LPF回路105で帯域制限された画像信号のうち、飽和部分の偽色信号を抑圧するための回路である。
一方、WB制御部103によりWB補正された画像信号は、輝度信号生成回路111にも出力される。輝度信号生成回路111は、入力された画像信号から輝度信号Yを生成する。エッジ強調回路112は、生成された輝度信号Yに対してエッジ強調処理を施す。
RGB変換回路107は、CSUP回路106から出力される色差信号R−Y、B−Yと、エッジ強調回路112から出力される輝度信号YとをRGB信号に変換する。ガンマ補正回路108は、変換されたRGB信号に対して階調補正を施す。その後、色輝度変換回路109は、階調補正されたRGB信号をYUV信号に変換し、さらに圧縮回路110は、JPEG方式などにより圧縮して、外部または内部の記録媒体115に画像信号として記録する。
次に、WB制御部103によるWB補正値の算出方法について詳細に述べる。図5は、WB制御部103が第1の算出手段として機能し、ストロボ光を発光したときの第1のホワイトバランス補正値(第1のWB補正値)を算出する処理手順の一例を示すフローチャートである。ここで、第1のWB補正値とは、ストロボ光に対応したホワイトバランス制御により算出される補正値である。
まず、ステップS501において、メモリ102に記憶された画像信号(第1の画像データ)を読み出し、その画面を任意のm個のブロックに分割する。そして、ステップS502において、m個のブロック毎に、画素値を各色に加算平均して色平均値(R[i],G[i],B[i])を算出する。そして、以下の式(3)を用いてさらに色評価値(Cx[i],Cy[i])を算出する。
Figure 2012054811
次に、ステップS503において、白検出を行い、白検出範囲内であるか否かを判断する。ここで、白検出する方法について説明する。
図4は、白検出を行うための色評価値の関係を示す特性図である。
図4(a)において、x座標(Cx)の負方向は、高色温度被写体の白を撮影したときの色評価値を表し、正方向が低色温度被写体の白を撮影したときの色評価値を表す。また、y座標(Cy)は光源の緑成分の度合いを示しており、負方向になるにつれGreen成分が大きくなり、つまり蛍光灯であることを示している。ステップS503では、ステップS502で算出したi番目のブロックの色評価値(Cx[i],Cy[i])が、図4(a)に示す、予め設定した白検出範囲401に含まれるかどうかを判断する。
図4(a)に示す白検出範囲401は、ストロボ光が光源であるため検出範囲が限定されている。算出した色評価値(Cx[i],Cy[i])がこの白検出範囲401に含まれる場合には(ステップS503/YES)、そのブロックが白色であると判断する。そこで、ステップS504において、そのブロックの色平均値(R[i],G[i],B[i])を積算する。一方、白検出範囲401に含まれない場合には(ステップS503/NO)、そのブロックの色平均値を加算せずにステップS505に進む。このステップS504の処理では、以下の式(4)を用いて色平均値(R[i],G[i],B[i])を積算する。
Figure 2012054811
ここで、式(4)において、色評価値(Cx[i],Cy[i])が白検出範囲401に含まれる場合はSw[i]を1に設定し、含まれない場合にはSw[i]を0に設定する。これにより、色評価値(R[i],G[i],B[i])加算を行うか、行わないかの処理を行っている。
次に、ステップS505において、すべてのブロックについて色検出範囲内か否かを判断する処理を行ったかどうかを判断する。この判断の結果、未処理のブロックがある場合はステップS502に戻り、すべてのブロックの処理が終了している場合は次のステップS506に進む。このように、すべてのブロックの処理が終了した段階で、式(4)に示す積分値(SumR1,SumG1,SumB1)が決定される。
次に、ステップS506において、得られた色評価値の積分値(SumR1,SumG1,SumB1)から、以下の式(5)を用いて、第1のWB補正値(WBCol_R1,WBCol_G1,WBCol_B1)を算出する。
Figure 2012054811
また、第1のWB補正値としてストロボ光のWB補正値を既知のものとしてあらかじめ設定してもよい。
次に、第2のホワイトバランス補正値(第2のWB補正値)の算出方法について説明する。第2のWB補正値は、ストロボ光が発光されていない状態で撮影された画像データ(第2の画像データ)より算出する。図6は、撮影制御を時系列に並べた状態を示す図である。
図6において、シャッターボタンが半押しされる状態(以下、SW1)の前ではライブビュー画像を定期的に撮影し、SW1の状態でAFロックとAEロックとを行う。また、シャッターボタンが全押しされる状態(以下、SW2)になると、テスト発光と本露光とを行うが、テスト発光前に撮像される「外光」と表記されている時間に露光した画像データを、本実施形態ではストロボ光が発光されていない時の画像データとする。なお、ストロボ光が発光されていない時の画像データとして、本露光後に露光した撮影画像データを用いてもよい。
第2のWB補正値の算出処理は、WB制御部103が第2の算出手段として機能することにより行われ、上述の第1のWB補正値の算出手順と同様である。第1のWB補正値を算出する場合と異なる点は、図4(b)に示す白検出範囲402のように、外光用の白検出範囲を用いる点である。これはストロボ光が既知の光源であるのに対し、外光は既知の光源ではないため、ストロボ光を発光した時の白検出範囲401のように限定できないからである。
図4(b)に示す白検出範囲402は、予め異なる光源下で白を撮影し、算出した色評価値を黒体放射軸に沿ってプロットしたものである。なお、この白検出範囲402は撮影モードによって異なるように設定できるものとする。第2のWB補正値は、撮像駆動モードが異なる場合にも適応でき、例えば、過去に算出されたEVF(Electronic View Finder)のWB補正値を用いてもよい。ただし、駆動モードにより分光差分が生じる場合は、図7に示すようにΔCx、ΔCyを補正して、第2のWB補正値を算出するようにする。
また、背景が電球色光源のような低色温度光源の場合に、シーンの雰囲気を考慮し、色味を残すように第2のWB補正値を算出してもよい。例えば、図9に示すような関係により、入力される画像と出力する画像とで色温度が異なるようにする。このように、第2のWB補正値の色温度が低い場合に色味を残すように制御することにより、例えば、電球色光源の赤味を残すような画像を生成することができる。
続いて、画像合成処理について図2のフローチャートを参照しながら説明する。図2は、WB制御部103により画像を合成する処理手順の一例を示すフローチャートである。
まず、ステップS201において、図5に示した手順により算出された第1のWB補正値と第2のWB補正値との差分が所定値以下であるか否かを判断する。この判断の結果、差分が所定値以下である場合は画像合成処理を行わず、ステップS211において、通常のホワイトバランス制御を行う。なお、通常のホワイトバランス制御については後述する。
一方、ステップS201の判断の結果、差分が所定値を超えている場合は、ステップS202において、被写体に動きがあるか否かを判断する。このとき、被写体の検出方法としては公知の技術を用い、動きがあるか否かについては、ストロボ光を発光した時の画像データとストロボ光を発光していない時の画像データとを比較し、所定量以上の差があるか否かにより判断する。この判断の結果、被写体に動きがある場合は、ステップS211に進む。
一方、ステップS202の判断の結果、被写体に動きがない場合は、ステップS203において、デジタルカメラ100と被写体との距離が所定値を超えているか否かを判断する。このとき、被写体までの距離は、焦点距離を用いてもよく、予め被写体までの距離として入力されている値をそのまま用いてもよい。この判断の結果、所定値を超えている場合は、ステップS211に進む。一方、ステップS203の判断の結果、所定値以下である場合は、画像合成処理を行うため、ステップS204に進む。
次に、ステップS204において、メモリ102に記憶されている画像信号(第1の画像データ)に対し、上記第1のWB補正値を用いてホワイトバランス補正を行い、第1の現像画像データとして現像画像信号Yuv1を生成する。そして、ステップS205において、同様に、上記第2のWB補正値を用いてホワイトバランス補正を行い、第2の現像画像データとして現像画像信号Yuv2を生成する。次に、ステップS206において、メモリ102に記憶されている画像信号(ストロボ発光画像及びストロボ非発光画像)、現像画像信号Yuv1、及び現像画像信号Yuv2をそれぞれn個のブロックに分割する。
次に、ステップS207において、メモリ102に記憶されているストロボ非発光画像から、ブロックごとに画素値を各色に加算平均して色平均値(R2[i],G2[i],B2[i])を算出する。そして、以下の式(6)を用いて各ブロックの輝度値a[i]を算出する。ここで、このように算出した各ブロックの輝度値a[i]を各ブロックの外光成分とする。
Figure 2012054811
次に、ステップS208において、輝度値a[i]を算出する処理と同様に、本露光時のストロボ発光画像から、ブロックごとに画素値を各色に加算平均して色平均値(R1[i],G1[i],B1[i])を算出する。そして、以下の式(7)を用いて各ブロックの輝度値b[i]を算出する。
Figure 2012054811
そして、さらに算出した各ブロックの輝度値b[i]から、対応するストロボ非発光画像の各ブロックの輝度値a[i]を引くことにより、ブロックごとのストロボ成分c[i]を算出する。
次に、ステップS209において、WB制御部103は合成比率算出手段として機能し、それぞれ対応するブロックごとのストロボ成分c[i]と、外光成分a[i]との比率を算出する。そして、以下の式(8)により現像画像信号Yuv1と現像画像信号Yuv2とを合成する際のブロックごとの合成比率α[i]を算出する。
Figure 2012054811
次に、ステップS210において、ブロックごとの合成比率α[i]を用いて現像画像信号Yuv1と現像画像信号Yuv2とを合成し、合成画像信号Yuv3を生成する。合成画像信号Yuv3の色評価値(Y3[i],u3[i],v3[i])を算出する際に、現像画像信号Yuv1の色評価値(Y1[i],u1[i],v1[i])と現像画像信号Yuv2の色評価値(Y2[i],u2[i],v2[i])とを用いる。すなわち、以下の式(9)により合成画像信号Yuv3の色評価値(Y3[i],u3[i],v3[i])を算出する。
Figure 2012054811
ここで、ブロックの境界部分に生じる色味ずれを緩和するために、ステップS209でさらに画素補間処理を行うことにより、ブロックごとの合成比率α[i]から画素ごとの合成比率α'[j]を算出してもよい。例えば、画素補間処理としてバイリニア補間を用い、ブロックごとの合成比率α[i]から画素ごとの合成比率α'[j]を算出する。このとき、ステップS210では、画素ごとの合成比率α'[j]を用いて現像画像信号Yuv1と現像画像信号Yuv2を合成し、合成画像信号Yuv3を生成する。合成画像信号Yuv3の色評価値(Y3[j],u3[j],v3[j])、を算出する際に、現像画像信号Yuv1の色評価値(Y1[j],u1[j],v1[j])と現像画像信号Yuv2の色評価値(Y2[j],u2[j],v2[j])とを用いる。すなわち、以下の式(10)により合成画像信号Yuv3の色評価値(Y3[j],u3[j],v3[j])を算出する。
Figure 2012054811
また、ステップS210では、本露光時のストロボ発光画像におけるブロックごとの輝度値に応じて、ブロックごとに画像合成処理を行うか否かを判断してブロックごとに処理を可変にしてもよい。この場合、当該ブロックの輝度値が低い場合もしくは高い場合に、当該ブロックに対して画像合成処理を行わず、後述する通常のホワイトバランス制御で算出するWB補正値を用いて現像処理を行う。そして、当該ブロックの輝度値がそれ以外の場合には、前述した画像合成処理と同様の処理を行う。
次に、ステップS211において行われる通常のホワイトバランス制御について詳細に説明する。まず、図5に示したWB補正値を算出する処理と同様に、第1のWB補正値及び第2のWB補正値を算出する。次に、WB制御部103は第3の算出手段として機能し、第1のWB補正値と第2のWB補正値とで加重加算を行う。この加重加算では、被写体に照射されている外光とストロボ光との照射比率によって加重加算を行う。
ここで、照射比率の算出方法について説明する。まず、図8に示すように、テスト発光する前の画像データを取得し、このテスト発光する前の画像データからm×nのマトリックスで構成される輝度ブロックaを算出する。次に、図6に示すタイミングでフラッシュのテスト発光を行い、テスト発光している時の画像データを取得する。そして、テスト発光前と同じ条件で、m×nのマトリックスで構成される輝度ブロックbを同様に取得する。なお、この輝度ブロックa、bは、デジタルカメラ100のメモリ102等に一時的に格納される。
また、被写体の背景は、テスト発光前の画像データと、テスト発光時の画像データとで略変化がないものとする。したがって、輝度ブロックaと輝度ブロックbとの差分データは、フラッシュのテスト発光時における被写体領域の反射光によるものとなり、その差分データより被写体位置情報cを取得することができる。
このように算出された被写体位置情報cから、被写体位置に相当するブロックを取得し、取得したブロックにおける本露光時の輝度Y1とストロボ非発光時の輝度Y2とを算出する。ここで、本露光時とストロボ非発光時とで露光条件が異なる場合は、露光条件を揃えて輝度Y1、Y2を算出する。このように算出された輝度Y1、Y2の比を被写体に照射された光量比(混合比率)とし、第1のWB補正値及び第2のWB補正値をこの混合比率により加重加算した第3のホワイトバランス補正値を算出する。このように得られた第3のWB補正値を、WB制御部103でWB処理に使用するWB補正値と決定し、現像して最終的な現像画像データ(第3の現像画像データ)とする。
また、前述した画像合成処理において現像画像信号はYuv形式を用いたが、例えば、画像形式としてRGB形式を用いることもできる。この場合、ステップS210において用いた式(9)では、色評価値(Y[i],u[i],v[i])の代わりに色評価値(R[i],G[i],B[i])を用い、合成画像信号RGB3の色評価値(R3[i],G3[i],B3[i])を算出する。
以上のように本実施形態によれば、ストロボ光に対応してWB処理を行った画像と、外光に対応してWB処理を行った画像とを、ブロックごとの合成比率に基づいて合成するようにした。これにより、ストロボ光を発光したシーンであっても、主被写体と背景とを共に適正な色味とする画像を生成し、ユーザーに好ましい画像を提供することができる。
(その他の実施形態)
本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムを適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
103 WB制御部
104 制御部

Claims (10)

  1. ストロボ光を発光した時に撮影された第1の画像データから前記ストロボ光に対応したホワイトバランス補正値を算出する第1の算出手段と、
    前記ストロボ光が発光されていない間に撮影された第2の画像データから外光に対応したホワイトバランス補正値を算出する第2の算出手段と、
    前記第1の算出手段により算出された第1のホワイトバランス補正値を用いて前記第1の画像データを補正して第1の現像画像データを生成するとともに、前記第2の算出手段により算出された第2のホワイトバランス補正値を用いて前記第1の画像データを補正して第2の現像画像データを生成する補正手段と、
    前記第1の画像データを複数のブロックに分割する分割手段と、
    前記第1の画像データの輝度値と前記第2の画像データの輝度値とから前記分割手段によって分割された各ブロックのストロボ成分と外光成分とを算出し、前記算出した各ブロックのストロボ成分と外光成分とを基に、前記各ブロックの合成比率を算出する合成比率算出手段と、
    前記合成比率算出手段により算出された合成比率により、前記補正手段によって生成された第1の現像画像データと第2の現像画像データとを合成する合成手段とを有することを特徴とする画像処理装置。
  2. 前記合成比率算出手段は、補間処理により画素ごとの合成比率を算出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記合成手段は、輝度値が所定の条件を満たすブロックに対して合成を行うことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記第2の算出手段は、光源に対して色味を残すように前記第2のホワイトバランス補正値を算出することを特徴とする請求項1〜3の何れか1項に記載の画像処理装置。
  5. 前記第2の算出手段は、撮像駆動モードに応じて前記第2のホワイトバランス補正値を補正することを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。
  6. 前記第1のホワイトバランス補正値と前記第2のホワイトバランス補正値との差分が所定値以下である場合に、前記第1の画像データに含まれる被写体に照射されたストロボ光と外光とからホワイトバランス補正値の混合比率を算出し、前記算出した混合比率に基づいて前記第1のホワイトバランス補正値と前記第2のホワイトバランス補正値とから第3のホワイトバランス補正値を算出する第3の算出手段をさらに有し、
    前記補正手段は、前記第1の現像画像データと第2の現像画像データとを合成した画像データの代わりとして、前記第3の算出手段によって算出された第3のホワイトバランス補正値を用いて第3の現像画像データを生成することを特徴とする請求項1に記載の画像処理装置。
  7. 前記第1の画像データに含まれる被写体が動いている場合に、前記被写体に照射されたストロボ光と外光とからホワイトバランス補正値の混合比率を算出し、前記算出した混合比率に基づいて前記第1のホワイトバランス補正値と前記第2のホワイトバランス補正値とから第3のホワイトバランス補正値を算出する第3の算出手段をさらに有し、
    前記補正手段は、前記第1の現像画像データと第2の現像画像データとを合成した画像データの代わりとして、前記第3の算出手段によって算出された第3のホワイトバランス補正値を用いて第3の現像画像データを生成することを特徴とする請求項1に記載の画像処理装置。
  8. 前記第1の画像データに含まれる被写体との距離が所定量よりも大きい場合に、前記被写体に照射されたストロボ光と外光とからホワイトバランス補正値の混合比率を算出し、前記算出した混合比率に基づいて前記第1のホワイトバランス補正値と前記第2のホワイトバランス補正値とから第3のホワイトバランス補正値を算出する第3の算出手段をさらに有し、
    前記補正手段は、前記第1の現像画像データと第2の現像画像データとを合成した画像データの代わりとして、前記第3の算出手段によって算出された第3のホワイトバランス補正値を用いて第3の現像画像データを生成することを特徴とする請求項1に記載の画像処理装置。
  9. ストロボ光を発光した時に撮影された第1の画像データから前記ストロボ光に対応したホワイトバランス補正値を算出する第1の算出工程と、
    前記ストロボ光が発光されていない間に撮影された第2の画像データから外光に対応したホワイトバランス補正値を算出する第2の算出工程と、
    前記第1の算出工程において算出された第1のホワイトバランス補正値を用いて前記第1の画像データを補正して第1の現像画像データを生成するとともに、前記第2の算出工程において算出された第2のホワイトバランス補正値を用いて前記第1の画像データを補正して第2の現像画像データを生成する補正工程と、
    前記第1の画像データを複数のブロックに分割する分割工程と、
    前記第1の画像データの輝度値と前記第2の画像データの輝度値とから前記分割工程において分割された各ブロックのストロボ成分と外光成分とを算出し、前記算出した各ブロックのストロボ成分と外光成分とを基に、前記各ブロックの合成比率を算出する合成比率算出工程と、
    前記合成比率算出工程において算出された合成比率により、前記補正工程において生成された第1の現像画像データと第2の現像画像データとを合成する合成工程とを有することを特徴とする画像処理方法。
  10. ストロボ光を発光した時に撮影された第1の画像データから前記ストロボ光に対応したホワイトバランス補正値を算出する第1の算出工程と、
    前記ストロボ光が発光されていない間に撮影された第2の画像データから外光に対応したホワイトバランス補正値を算出する第2の算出工程と、
    前記第1の算出工程において算出された第1のホワイトバランス補正値を用いて前記第1の画像データを補正して第1の現像画像データを生成するとともに、前記第2の算出工程において算出された第2のホワイトバランス補正値を用いて前記第1の画像データを補正して第2の現像画像データを生成する補正工程と、
    前記第1の画像データを複数のブロックに分割する分割工程と、
    前記第1の画像データの輝度値と前記第2の画像データの輝度値とから前記分割工程において分割された各ブロックのストロボ成分と外光成分とを算出し、前記算出した各ブロックのストロボ成分と外光成分とを基に、前記各ブロックの合成比率を算出する合成比率算出工程と、
    前記合成比率算出工程において算出された合成比率により、前記補正工程において生成された第1の現像画像データと第2の現像画像データとを合成する合成工程とをコンピュータに実行させることを特徴とするプログラム。
JP2010196643A 2010-09-02 2010-09-02 画像処理装置、画像処理方法及びプログラム Expired - Fee Related JP5665436B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2010196643A JP5665436B2 (ja) 2010-09-02 2010-09-02 画像処理装置、画像処理方法及びプログラム
US13/221,390 US8704911B2 (en) 2010-09-02 2011-08-30 Image processing apparatus, image processing method, and recording medium
KR1020110088296A KR101352440B1 (ko) 2010-09-02 2011-09-01 화상처리장치, 화상처리방법, 및 기록매체
RU2011136501/07A RU2504108C2 (ru) 2010-09-02 2011-09-01 Устройство для обработки изображения, способ обработки изображения и носитель записи
CN201110260904.4A CN102387372B (zh) 2010-09-02 2011-09-02 图像处理设备和图像处理方法
EP11179896.3A EP2426927B1 (en) 2010-09-02 2011-09-02 Image processing apparatus, image processing method and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010196643A JP5665436B2 (ja) 2010-09-02 2010-09-02 画像処理装置、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014244041A Division JP6021885B2 (ja) 2014-12-02 2014-12-02 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2012054811A true JP2012054811A (ja) 2012-03-15
JP5665436B2 JP5665436B2 (ja) 2015-02-04

Family

ID=44651222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010196643A Expired - Fee Related JP5665436B2 (ja) 2010-09-02 2010-09-02 画像処理装置、画像処理方法及びプログラム

Country Status (6)

Country Link
US (1) US8704911B2 (ja)
EP (1) EP2426927B1 (ja)
JP (1) JP5665436B2 (ja)
KR (1) KR101352440B1 (ja)
CN (1) CN102387372B (ja)
RU (1) RU2504108C2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014033276A (ja) * 2012-08-01 2014-02-20 Canon Inc 画像処理装置、画像処理方法及びプログラム
JP2016144042A (ja) * 2015-02-02 2016-08-08 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10553178B2 (en) 2015-03-10 2020-02-04 Interdigital Vc Holdings, Inc. Adaptive color grade interpolation method and device

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8494306B2 (en) * 2007-12-13 2013-07-23 Samsung Electronics Co., Ltd. Method and an apparatus for creating a combined image
JP6083974B2 (ja) * 2012-04-24 2017-02-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2014120813A (ja) * 2012-12-13 2014-06-30 Samsung R&D Institute Japan Co Ltd 撮像装置及び撮像方法
JP5819897B2 (ja) 2013-09-10 2015-11-24 株式会社Screenホールディングス 撮像システムおよび撮像方法
WO2015151748A1 (ja) * 2014-03-31 2015-10-08 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
WO2015151747A1 (ja) * 2014-03-31 2015-10-08 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
US10217438B2 (en) * 2014-05-30 2019-02-26 Apple Inc. User interface and method for directly setting display white point
US10074165B2 (en) 2014-09-10 2018-09-11 Morpho, Inc. Image composition device, image composition method, and recording medium
JP6778602B2 (ja) 2016-12-14 2020-11-04 三星電子株式会社Samsung Electronics Co.,Ltd. 撮像装置、画像データ生成方法および画像データ生成プログラム
US10154256B1 (en) * 2017-06-13 2018-12-11 Qualcomm Incorporated Flash color calibration
JP7321772B2 (ja) * 2019-05-22 2023-08-07 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09322191A (ja) * 1996-03-29 1997-12-12 Ricoh Co Ltd 画像入力装置
JP2001358986A (ja) * 2000-06-13 2001-12-26 Sony Corp 画像処理装置および画像処理方法、並びに記録媒体
JP2003173438A (ja) * 2001-12-06 2003-06-20 Minolta Co Ltd 画像処理装置
WO2004010711A1 (ja) * 2002-07-18 2004-01-29 Sony Corporation 撮像データ処理方法、および撮像データ処理装置、並びにコンピュータ・プログラム
JP2005167476A (ja) * 2003-12-01 2005-06-23 Canon Inc ホワイトバランス制御装置
JP2009033289A (ja) * 2007-07-25 2009-02-12 Sanyo Electric Co Ltd 撮像装置及び撮像方法
JP2009060586A (ja) * 2007-08-06 2009-03-19 Panasonic Corp ホワイトバランス調整装置、撮像装置、ホワイトバランス調整方法、プログラムおよび集積回路
JP2009094997A (ja) * 2007-09-18 2009-04-30 Ricoh Co Ltd 撮像装置、撮像方法
JP2010193002A (ja) * 2009-02-16 2010-09-02 Canon Inc 撮像装置、画像処理方法及びプログラム
JP2010219606A (ja) * 2009-03-13 2010-09-30 Acutelogic Corp ホワイトバランス調整装置及びホワイトバランス調整方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3569352B2 (ja) * 1994-05-31 2004-09-22 ペンタックス株式会社 ホワイトバランス調整装置
JP3540485B2 (ja) 1995-04-13 2004-07-07 株式会社リコー 電子スチルカメラ
US6798449B2 (en) * 2001-01-18 2004-09-28 Kinpo Electronics, Inc. Automatic white-balance correction for digital camera
JP3838243B2 (ja) 2003-09-04 2006-10-25 ソニー株式会社 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム
US7423674B2 (en) * 2003-12-08 2008-09-09 Nikon Corporation Electronic camera having color adjustment function and program therefor
JP4379129B2 (ja) * 2004-01-23 2009-12-09 ソニー株式会社 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム
US7551797B2 (en) * 2004-08-05 2009-06-23 Canon Kabushiki Kaisha White balance adjustment
JP2006173438A (ja) 2004-12-17 2006-06-29 Yamaha Corp Mos型半導体装置の製法
US7652717B2 (en) * 2005-01-11 2010-01-26 Eastman Kodak Company White balance correction in digital camera images
ATE381852T1 (de) * 2005-02-03 2008-01-15 Sony Ericsson Mobile Comm Ab Verfahren und vorrichtung zur erzeugung von verbesserten bildern aus mehreren konsekutiven belichtungen
US7443443B2 (en) * 2005-07-28 2008-10-28 Mitsubishi Electric Research Laboratories, Inc. Method and apparatus for enhancing flash and ambient images
JP4832899B2 (ja) * 2006-01-05 2011-12-07 イーストマン コダック カンパニー ゲイン算出装置
US7570881B2 (en) * 2006-02-21 2009-08-04 Nokia Corporation Color balanced camera with a flash light unit
US7590344B2 (en) * 2006-02-28 2009-09-15 Microsoft Corp. Adaptive processing for images captured with flash
TW200808075A (en) * 2006-07-28 2008-02-01 Premier Image Technology Corp Digital image capture device and method for white balancing using the same
CN101159879B (zh) 2006-10-08 2010-08-25 鸿富锦精密工业(深圳)有限公司 数字图像获取装置及其白平衡调整的方法
TW200820797A (en) * 2006-10-23 2008-05-01 Benq Corp Photographing methods and systems, and machine readable medium thereof
CN101179663A (zh) 2006-11-07 2008-05-14 明基电通股份有限公司 拍照方法及系统及其机器可读取介质
JP5021338B2 (ja) * 2007-03-02 2012-09-05 富士フイルム株式会社 ホワイトバランス補正装置および方法
JP5066398B2 (ja) * 2007-06-29 2012-11-07 富士フイルム株式会社 画像処理装置および方法並びにプログラム
JP4668956B2 (ja) * 2007-06-29 2011-04-13 富士フイルム株式会社 画像処理装置および方法並びにプログラム
US8040391B2 (en) * 2007-08-06 2011-10-18 Panasonic Corporation White balance adjustment device, image capture device, white balance adjustment method, storage medium, and integrated circuit
JP2010050798A (ja) * 2008-08-22 2010-03-04 Sanyo Electric Co Ltd 電子カメラ

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09322191A (ja) * 1996-03-29 1997-12-12 Ricoh Co Ltd 画像入力装置
JP2001358986A (ja) * 2000-06-13 2001-12-26 Sony Corp 画像処理装置および画像処理方法、並びに記録媒体
JP2003173438A (ja) * 2001-12-06 2003-06-20 Minolta Co Ltd 画像処理装置
WO2004010711A1 (ja) * 2002-07-18 2004-01-29 Sony Corporation 撮像データ処理方法、および撮像データ処理装置、並びにコンピュータ・プログラム
JP2005167476A (ja) * 2003-12-01 2005-06-23 Canon Inc ホワイトバランス制御装置
JP2009033289A (ja) * 2007-07-25 2009-02-12 Sanyo Electric Co Ltd 撮像装置及び撮像方法
JP2009060586A (ja) * 2007-08-06 2009-03-19 Panasonic Corp ホワイトバランス調整装置、撮像装置、ホワイトバランス調整方法、プログラムおよび集積回路
JP2009094997A (ja) * 2007-09-18 2009-04-30 Ricoh Co Ltd 撮像装置、撮像方法
JP2010193002A (ja) * 2009-02-16 2010-09-02 Canon Inc 撮像装置、画像処理方法及びプログラム
JP2010219606A (ja) * 2009-03-13 2010-09-30 Acutelogic Corp ホワイトバランス調整装置及びホワイトバランス調整方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014033276A (ja) * 2012-08-01 2014-02-20 Canon Inc 画像処理装置、画像処理方法及びプログラム
US9407889B2 (en) 2012-08-01 2016-08-02 Canon Kabushiki Kaisha Image processing apparatus and image processing method for white balance control
JP2016144042A (ja) * 2015-02-02 2016-08-08 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10553178B2 (en) 2015-03-10 2020-02-04 Interdigital Vc Holdings, Inc. Adaptive color grade interpolation method and device

Also Published As

Publication number Publication date
US20120057044A1 (en) 2012-03-08
EP2426927A3 (en) 2016-04-13
US8704911B2 (en) 2014-04-22
EP2426927B1 (en) 2019-05-22
KR20120025414A (ko) 2012-03-15
JP5665436B2 (ja) 2015-02-04
RU2011136501A (ru) 2013-03-10
CN102387372B (zh) 2014-12-24
EP2426927A2 (en) 2012-03-07
KR101352440B1 (ko) 2014-01-17
RU2504108C2 (ru) 2014-01-10
CN102387372A (zh) 2012-03-21

Similar Documents

Publication Publication Date Title
JP5665436B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5761946B2 (ja) 画像処理装置、画像処理方法及び記憶媒体
US10412296B2 (en) Camera using preview image to select exposure
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6049343B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5808142B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5677113B2 (ja) 画像処理装置
JP5804857B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5804856B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2013243639A (ja) 画像処理装置、画像処理方法及びプログラム
JP5225137B2 (ja) 撮像装置、画像処理方法及びプログラム
JP5854716B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP6300514B2 (ja) 撮像装置、および撮像装置の制御方法
JP6021885B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2004222160A (ja) デジタルカメラ
JP2015119436A (ja) 撮像装置
JP2020036162A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2016005105A (ja) 撮像装置
JP2017034536A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2002290824A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141209

R151 Written notification of patent or utility model registration

Ref document number: 5665436

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees