JP6533336B2 - ホワイトバランス調整装置及びその作動方法並びに作動プログラム - Google Patents

ホワイトバランス調整装置及びその作動方法並びに作動プログラム Download PDF

Info

Publication number
JP6533336B2
JP6533336B2 JP2018508575A JP2018508575A JP6533336B2 JP 6533336 B2 JP6533336 B2 JP 6533336B2 JP 2018508575 A JP2018508575 A JP 2018508575A JP 2018508575 A JP2018508575 A JP 2018508575A JP 6533336 B2 JP6533336 B2 JP 6533336B2
Authority
JP
Japan
Prior art keywords
area
auxiliary light
emission
white balance
balance adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018508575A
Other languages
English (en)
Other versions
JPWO2017169287A1 (ja
Inventor
祐也 西尾
祐也 西尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2017169287A1 publication Critical patent/JPWO2017169287A1/ja
Application granted granted Critical
Publication of JP6533336B2 publication Critical patent/JP6533336B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は、複数の補助光源を用いて撮影する時のホワイトバランスを調整するホワイトバランス調整装置及びその作動方法並びに作動プログラムに関する。
人間の視覚は色の恒常性を有する。このため、電灯、蛍光灯、太陽光など環境光の違いによらず、被写体が持つ本来の色を知覚することができる。これに対して、デジタルカメラ等の撮像装置による画像は環境光の影響を直接に受ける。このため、撮像装置は環境光の影響を補正して、人間にとって自然な画像に色変換するホワイトバランス調整機能を有する。
例えば補助光源としてフラッシュ装置を用いて撮像装置により撮影された画像では、主要被写体には環境光とフラッシュとの混合光が照射される。また、背景はフラッシュの影響は少なく環境光がメインとなる。
一般的なフラッシュ撮影時におけるオートホワイトバランス調整では、例えば特開2010−193048号公報に記載されているように、環境光とフラッシュとの比率(以下、混合光比率という)を算出し、混合光比率に応じてホワイトバランスを調整している。一つのフラッシュによる単灯フラッシュ撮影時には、主要被写体にフラッシュを強く当てる傾向がある。そのため、フラッシュが強く当たっている箇所での混合光比率に応じてオートホワイトバランス調整を行うことで、主要被写体が適切な色味になる。
しかしながら、複数の補助光源、例えば複数のフラッシュ装置を用いた撮影では、フラッシュが強く当たっている箇所が主要被写体とならないことが多い。例えば、主要被写体にフラッシュを当てるフラッシュ装置と、背景にフラッシュを当てるフラッシュ装置との複数の補助光源がある場合に、背景に当てるフラッシュ装置の方を強く発光させる場合がある。この場合には、フラッシュが強く当たっている箇所での混合光比率に応じてオートホワイトバランス調整を行うと、背景を重視した色味になってしまい、主要被写体の色味が悪くなる。
本発明は、上記事情に鑑み、複数の補助光源による撮影時に、主要被写体が適切な色味になるホワイトバランス調整装置及びその作動方法並びに作動プログラムを提供することを目的とする。
上記目的を達成するため、本発明のホワイトバランス調整装置は、非発光画像取得部と、発光画像取得部と、補助光照射エリア特定部と、優先エリア選択部と、ホワイトバランス調整値算出部と、ホワイトバランス調整部とを備える。非発光画像取得部は、複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する。発光画像取得部は、複数の補助光源を個別発光状態にして被写体をそれぞれ撮像し各補助光源の発光画像を取得する。補助光照射エリア特定部は、非発光画像及び各発光画像を複数の分割エリアに分割し、個別発光状態と非発光状態との各分割エリアの信号値の差分に基づき、各補助光源による補助光が当たっている補助光照射エリアを特定する。優先エリア選択部は、各補助光源の補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する。ホワイトバランス調整値算出部は、選択された優先エリアの信号値に基づきホワイトバランス調整値を算出する。ホワイトバランス調整部は、ホワイトバランス調整値による調整を行う。
各補助光源による補助光照射エリアから1つ又は複数の優先エリアの選択指示を優先エリア選択部に入力する選択入力部を有することが好ましい。
優先エリア選択部は、補助光照射エリア合算部と、顔エリア検出部と、優先エリア決定部とを有することが好ましい。補助光照射エリア合算部は、各補助光照射エリアを合算した合算エリアを算出する。顔エリア検出部は、非発光画像又は発光画像から顔エリアを検出する。優先エリア決定部は、顔エリア検出部により検出された顔エリアがいずれの補助光照射エリアにあるかを特定し、顔エリアが無い補助光照射エリアを合算エリアから除外し、除外により残ったエリアを優先エリアと決定する。
優先エリア選択部は、補助光照射エリア合算部と、優先エリア決定部とを有することが好ましい。補助光照射エリア合算部は、各補助光照射エリアを合算した合算エリアを算出する。優先エリア決定部は、予め記憶している補助光源による画素情報及び合算エリアに基づいて優先エリアを決定する。
優先エリア決定部は、予め記憶している補助光による光源色情報と、非発光画像から取得する環境光による光源色情報と、補助光照射エリアの非発光時の画素情報とから、色空間上の判定範囲を設定する。判定範囲外に発光画像に基づく画素情報が位置する場合に、補助光照射エリアを合算エリアから除外する。除外により残ったエリアを優先エリアと判定する。
優先エリアは、非発光時信号値平均、補助光源発光時の信号値平均予測値、及び発光時信号値平均に基づいて判定することが好ましい。補助光による光源色情報は、色空間における補助光の色を示す座標である。環境光による光源色情報は、非発光画像に基づき求められ、色空間における環境光の色を示す座標である。補助光照射エリアの非発光時の画素情報は、非発光画像に基づき求められ、色空間における補助光照射エリアの非発光時信号値平均を示す座標である。優先エリア決定部は、発光画像に基づき、色空間における補助光照射エリアの信号値平均である発光時信号値平均を算出する。そして、補助光の光源色情報と環境光の光源色情報との差である差ベクトルを算出し、非発光時信号値平均の座標に差ベクトルを加算して、補助光源発光時の信号値平均予測値を求める。
優先エリア決定部は、非発光時信号値平均及び補助光源発光時の信号値平均予測値を両端として含む判定範囲外に発光時信号値平均がある場合に、補助光照射エリアを合算エリアから除外し、除外によって残ったエリアを優先エリアとして選択することが好ましい。
優先エリア選択部は、補助光照射エリア合算部と、空間周波数算出部と、優先エリア決定部とを有することが好ましい。補助光照射エリア合算部は、各補助光照射エリアを合算した合算エリアを算出する。空間周波数算出部は、非発光画像における各補助光源による補助光照射エリアの空間周波数を算出する。優先エリア決定部は、各補助光源による補助光照射エリアの空間周波数が一定値以下の場合に、空間周波数が一定値以下の補助光照射エリアを合算エリアから除外する。除外により残る補助光照射エリアを優先エリアと決定する。
ホワイトバランス調整値算出部は、補助光源を発光状態にして被写体を撮像した本発光時の発光画像を取得し、発光画像の優先エリアにおける信号値、及び非発光画像の優先エリアにおける信号値に基づいてホワイトバランス調整値を算出することが好ましい。
ホワイトバランス調整部は、複数の補助光源を本発光時の発光量で発光状態にして被写体を撮像した本発光画像を取得し、本発光画像に対してホワイトバランス調整値によるホワイトバランス調整を行うことが好ましい。
本発明のホワイトバランス調整装置の作動方法は、非発光画像取得ステップと、発光画像取得ステップと、補助光照射エリア特定ステップと、優先エリア選択ステップと、ホワイトバランス調整値算出ステップと、ホワイトバランス調整ステップとを有する。また、本発明のホワイトバランス調整装置の作動プログラムも、上記各ステップをコンピュータに実行させることによりコンピュータをホワイトバランス調整装置として機能させる。非発光画像取得ステップは、複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する。発光画像取得ステップは、複数の補助光源を個別発光状態にして被写体をそれぞれ撮像し各補助光源の発光画像を取得する。補助光照射エリア特定ステップは、非発光画像及び各発光画像を複数の分割エリアに分割し、個別発光状態と非発光状態との各分割エリアの信号値の差分に基づき、各補助光源による補助光が当たっている補助光照射エリアを特定する。優先エリア選択ステップは、各補助光源の補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する。ホワイトバランス調整値算出ステップは、選択された優先エリアの信号値に基づきホワイトバランス調整値を算出する。ホワイトバランス調整ステップはホワイトバランス調整値による調整を行う。
本発明によれば、複数の補助光源による撮影時に、主要被写体が適切な色味になるホワイトバランス調整装置及びその作動方法並びに作動プログラムを提供することができる。
本発明のホワイトバランス調整装置の一実施形態が適用された撮影システムの全体を示す斜視図であり、カメラのフラッシュ発光部を点灯してプリ発光画像を撮影している状態を示している。 カメラ及びフラッシュ装置の機能ブロック図である。 主制御部及びデジタル信号処理部における機能ブロック図である。 複数のフラッシュ装置を用いた撮影におけるWB調整を示すフローチャートである。 フラッシュ光照射エリアの特定を示す説明図である。 優先エリアの選択入力を示す説明図である。 第2フラッシュ装置を点灯させてプリ発光画像を撮影している状態を示す全体の斜視図である。 第2実施形態における優先エリア選択部を示す機能ブロック図である。 第2実施形態のWB調整を示すフローチャートである。 顔エリアの検出を示す説明図である。 フラッシュ光照射エリアが一部重なる場合の優先エリアの決定の仕方を説明する図である。 第3実施形態における特殊効果フィルタを有するフラッシュ装置を示す側面図である。 第3実施形態の優先エリア選択部を示す機能ブロック図である。 第3実施形態におけるWB調整を示すフローチャートである。 R/G、B/Gを座標軸にもつ色空間における環境光の光源色情報、フラッシュ光の光源色情報、差ベクトルを示す線図である。 R/G、B/Gを座標軸にもつ色空間における、各フラッシュ光照射エリアの非発光時の信号値平均、特殊効果フィルタが無い状態のフラッシュ光を照射した時の信号値平均予測を示す線図である。 R/G、B/Gを座標軸にもつ色空間の判定範囲H1への、プリ発光時の信号値平均の有無に基づき、特殊効果フィルタが装着されたフラッシュ装置か否かの判定を示す線図である。 変形例1における判定範囲H2を示す線図である。 変形例2における判定範囲H3を示す線図である。 変形例3における判定範囲H4を示す線図である。 変形例4における判定範囲H5を示す線図である。 変形例5における判定範囲H6を示す線図である。 第4実施形態における優先エリア選択部を示す機能ブロック図である。 第4実施形態におけるWB調整を示すフローチャートである。
[第1実施形態]
図1は、本発明のホワイトバランス(以下、WBと言う)調整装置の一実施形態が適用された撮影システム10の全体構成図である。撮影システム10は、補助光源として複数のフラッシュ装置12,13を用い、例えば撮影スタジオ9において使用される。撮影システム10は、デジタルカメラ(以下、単にカメラという)11と、フラッシュ装置12,13とを有している。カメラ11は、フラッシュ発光部14(図2参照)を含むフラッシュ装置12を内蔵している。内蔵のフラッシュ装置12は、撮影システム10において第1補助光源として機能する。フラッシュ装置13はカメラ11とは別に設けられており、撮影システム10において、第2補助光源として機能する。
撮影システム10において、複数照明撮影を行う場合には、カメラ11が、第1補助光源(第1フラッシュ装置12),第2補助光源(第2フラッシュ装置13)に対して制御信号を送信することにより点灯タイミングを制御する。第1フラッシュ装置12は被写体5のうちの主要被写体6に向けてフラッシュを照射し、第2フラッシュ装置13は、被写体5のうちの、主要被写体6の背後に配される背景幕7にフラッシュを照射する。なお、本実施形態では、第1補助光源として、カメラ11に内蔵されたフラッシュ装置12を用いているが、これは第2補助光源と同じように、カメラ11とは別体で設けたフラッシュ装置や、カメラ11に着脱自在に装着されて一体化したフラッシュ装置でもよい。
図2に示すように、カメラ11及びフラッシュ装置13は、無線通信I/F(interface)15,16を備え、カメラ11とフラッシュ装置13の間で無線通信が可能になっている。なお、無線通信に代えて、有線通信であってもよい。
フラッシュ装置13は、無線通信I/F16の他にフラッシュ制御部17、フラッシュ発光部18を備えている。フラッシュ装置13は、カメラ11から送られる光量調節信号を無線通信I/F16にて受ける。フラッシュ制御部17はフラッシュ発光部18を制御し、光量調節信号に応じてフラッシュ発光部18を点灯させる。フラッシュ発光部18の点灯は、発光時間がマイクロ秒のオーダの閃光発光である。カメラ11のフラッシュ装置12のフラッシュ発光部14も同じである。
カメラ11は、レンズ鏡筒21、操作スイッチ22、背面表示部23等を備える。レンズ鏡筒21は、カメラ本体11a(図1参照)の前面に設けられており、撮影光学系25や絞り26を保持している。
操作スイッチ22は、カメラ本体11aの上部や背面等に複数設けられる。操作スイッチ22は、電源のON,OFFや、レリーズ操作、各種設定のための入力操作を受け付ける。背面表示部23は、カメラ本体11aの背面に設けられており、各種撮影モードにて取得された画像やスルー画像、及び各種設定を行うためのメニュー画面を表示する。この背面表示部23の表面には、タッチパネル24が設けられている。タッチパネル24は、タッチパネル制御部38によって制御され、タッチ操作で入力される指示信号を主制御部29に送信する。
撮影光学系25及び絞り26の背後には、撮影光学系25の光軸LAに沿って、シャッタ27、撮像素子28が順に配される。撮像素子28は、例えば、RGB(Red,Green,Blue)方式のカラーフィルタを有する単板カラー撮像方式のCMOS(Complementary metal-oxide-semiconductor)型イメージセンサである。撮像素子28は、撮影光学系25によって撮像面に結像された被写体像を撮像して撮像信号を出力する。
撮像素子28は、ノイズ除去回路、オートゲインコントローラ、A/D(Analog/Digital)変換回路等の信号処理回路(いずれも図示せず)を備える。ノイズ除去回路は、撮像信号にノイズ除去処理を施す。オートゲインコントローラは、撮像信号のレベルを最適な値に増幅する。A/D変換回路は、撮像信号をデジタル信号に変換して撮像素子28から出力する。
撮像素子28、主制御部29、及びフラッシュ制御部30は、バス33に接続されている。フラッシュ制御部30はフラッシュ発光部14とともに、カメラ11の内蔵のフラッシュ装置12を構成する。この他にバス33には、メモリ制御部34、デジタル信号処理部35、メディア制御部36、背面表示制御部37、タッチパネル制御部38が接続されている。
メモリ制御部34には、SDRAM(Synchronous Dynamic Random Access Memory)等の一時記憶用のメモリ39が接続されている。メモリ制御部34は、撮像素子28から出力されたデジタルの撮像信号である画像データをメモリ39に入力して記憶させる。また、メモリ制御部34は、メモリ39に記憶された画像データを、デジタル信号処理部35に出力する。
デジタル信号処理部35は、メモリ39から入力された画像データに対して、マトリクス演算、デモザイク処理、WB調整、γ補正、輝度・色差変換、リサイズ処理、圧縮処理などの公知の画像処理を施す。
メディア制御部36は、記録メディア40への画像データの記録及び読み出しを制御する。記録メディア40は、例えば、フラッシュメモリを内蔵したメモリカードである。メディア制御部36は、デジタル信号処理部35によって圧縮された画像データを所定のファイル形式で記録メディア40に記録する。
背面表示制御部37は、背面表示部23への画像表示を制御する。具体的には、背面表示制御部37は、デジタル信号処理部35により生成された画像データに基づいて、NTSC(National Television System Committee)規格等に準拠した映像信号を生成して背面表示部23に出力する。
主制御部29は、カメラ11の撮影処理を制御する。具体的には、レリーズ操作に応じてシャッタ駆動部41を介してシャッタ27を制御する。シャッタ27の動作に同期して撮像素子28の駆動を制御する。カメラ11は、種々の撮影モードの設定が可能である。主制御部29は、設定された撮影モードに応じて、絞り26の絞り値、シャッタ27の露光時間等を制御し、種々の撮影モードにおける撮影を可能にする。
本実施形態におけるカメラ11では、通常の各種撮影モードの他に、複数照明撮影モードを備えている。複数照明撮影モードは、複数の補助光源を用いた撮影時に選択される。この複数照明撮影モードでは、WB調整値の算出に用いることのない不用補助光源である不用フラッシュ装置を特定し、この特定した不用フラッシュ装置のフラッシュ光の照射エリアを除外して、WB調整で優先する優先エリアを決定し、この優先エリアに基づきWB調整値を算出する。そして、算出したWB調整値を用いて、本発光時の画像である本発光画像の撮影により得られた本発光信号値に対してWB調整を行う。
優先エリアを特定するために、主制御部29は、優先エリア選択機能を有している。複数照明撮影モードが選択されると、優先エリア選択処理が行われる。本実施形態においては、優先エリア選択処理では、撮像素子28の撮影範囲内における2つのフラッシュ装置12,13のそれぞれの個別照射エリアをユーザ(撮影者)に把握させて、WB調整値を算出する際の優先エリアをユーザに選択させる。
図3に示すように、複数証明撮影モードにおいて、主制御部29は、照明制御部52、画像取得部53、フラッシュ光照射エリア特定部(補助光照射エリア特定部)54、及び優先エリア選択部55として機能する。これら各部は、カメラ11の不揮発性メモリ(図示せず)に記憶された作動プログラム45を起動することにより行われる。同様にして、デジタル信号処理部35はWB調整部56として機能し、選択された優先エリアに基づきWB調整値を算出して、WB調整を行う。
画像取得部53は、非発光画像取得部53aと発光画像取得部53bとを有する。また、WB調整部56は、WB調整値算出部59を有する。
図4は、複数照明撮影モードにおけるWB調整を示すフローチャートである。先ず、非発光信号値取得ステップS11では、撮像素子28及び画像取得部53の非発光画像取得部53aにより、各フラッシュ装置12,13が非発光の状態で被写体5(図1参照)の画像である非発光画像60(図5(2)参照)が撮像される。この非発光画像60に基づき非発光信号値が取得される。
プリ発光信号値取得ステップS12では、撮像素子28及び発光画像取得部53bにより、各フラッシュ装置12,13を個別に発光させた状態(個別発光様態、図1及び図7参照)で被写体5の画像であるプリ発光画像61,62(図5(1)参照)が撮像され、これらプリ発光画像61,62に基づき発光信号値が取得される。この場合には、照明制御部52は、フラッシュ制御部30や無線通信I/F15を介して、フラッシュ装置12,13の点灯タイミング及び光量を制御する。発光画像取得部53bは、フラッシュ装置12,13を選択的に点灯させて、各フラッシュ光を個別に照射した被写体の画像であるプリ発光画像61,62を取得する。
図1は、スタジオ撮影において第1フラッシュ装置12を点灯させた状態を示している。第1フラッシュ装置12は、背景幕7の前に立っている主要被写体6に対してフラッシュが照射するように設定されている。この状態で、第1フラッシュ光発光時のプリ発光画像である第1プリ発光画像61(図5(1)参照)が撮影される。
図7は、第2フラッシュ装置13を点灯させた状態を示している。第2フラッシュ装置13は、主要被写体6の背面にある背景幕7に対して例えば右側上方から第2フラッシュ光が照射するように設定されている。この状態で、第2フラッシュ光発光時のプリ発光画像である第2プリ発光画像62(図5(1)参照)が撮像される。
図4において、フラッシュ光照射エリア特定ステップS13では、フラッシュ光照射エリア特定部54により、各フラッシュ装置12,13からの各フラッシュ光が当たっているフラッシュ光照射エリアを特定する。
図5は、フラッシュ光照射エリア特定ステップS13におけるフラッシュ光照射エリア特定部54のフラッシュ光照射エリア特定処理を示す説明図である。フラッシュ光照射エリア特定処理では、非発光画像60とプリ発光画像61,62とを用いてフラッシュ光照射エリア特定画像63,64が作成される。
先ず、非発光画像60とプリ発光画像61,62とを、例えば8×8の矩形状の分割エリア65に分割する。分割エリア65は、非発光画像60とプリ発光画像61,62とを同じ区画で分割したものである。区画数や区画の形状は図示例のものに限られず、適宜変更してよい。次に、第1プリ発光画像61から求めた各分割エリア65の輝度値Yaから、非発光画像60から求めた各分割エリア65の輝度値Y0を引いて、分割エリア65毎に差分を求める。この差分が他の分割エリア65のものよりも大きい場合に、この差分が大きい分割エリア65の集合を第1フラッシュ光照射エリア67として特定する。
非発光画像60と第1プリ発光画像61の取得に際しては、各画像60,61の撮影時に露出を揃えて(露出を同じにして)撮影する。あるいは、露出を揃える替わりに、各画像60,61の撮影時の露出差分に基づき非発光画像60及び第1プリ発光画像61の一方の輝度値に対して他方の輝度値を補正し、信号処理により露出差分を補正してもよい。
同様にして、第2フラッシュ装置13の第2プリ発光画像62から求めた各分割エリア65の輝度値Ybと、非発光画像60から求めた各分割エリア65の輝度値Y0とに基づき、分割エリア65毎に差分を求める。この差分が他の分割エリア65のものよりも大きい分割エリア65の集合を第2フラッシュ光照射エリア68として特定する。この場合にも、両画像60,62の取得に際して露出を揃える事前処理、又は両画像60,62の撮影時の露出差分に基づき両画像60,62の一方の輝度値に対して他方の輝度値を補正する事後処理を行う。
輝度値Ya、Yb、Y0は、例えば、各分割エリア内の各画素の信号値R,G,Bを用いて、例えば次式の輝度変換式により各画素の輝度値を算出する。
Y=0.3R+0.6G+0.1B
次に、上記輝度変換式で算出した各分割エリア内の各画素の輝度値を平均した輝度値平均を算出する。なお、各分割エリアの明るさを代表し得る値であれば良く、用いる値は上記の輝度値に限定されることはなく、例えばHSV色空間の明度Vや、Lab色空間の明度L等を用いてもよい。
第1プリ発光画像61では、中央に主要被写体6が位置し、この主要被写体6に第1フラッシュ装置12からのフラッシュ光(第1フラッシュ光)が主に当たる。このため、フラッシュ光照射エリア特定画像63においてハッチングで示すように、第1フラッシュ光によるフラッシュ光照射エリア(第1フラッシュ光照射エリア)67が特定される。
第2フラッシュ装置13の第2プリ発光画像62においても、第1フラッシュ光照射エリア67の特定と同様にして、第2フラッシュ装置13によるフラッシュ光照射エリア(第2フラッシュ光照射エリア)68が特定される。第2プリ発光画像62では、図7で示したように、背景幕7に第2フラッシュ光が当たるため、フラッシュ光照射エリア特定画像64においてハッチングで示すように、第2フラッシュ光照射エリア68が特定される。
フラッシュ光照射エリア特定部54は、特定したフラッシュ光照射エリア67,68の撮影画面における位置を、座標情報として求める。座標情報は、優先エリア選択部55に出力される。
図4において、優先エリア選択ステップS14では、優先エリア選択部55により、フラッシュ光照射エリア67,68の中から、WB調整の対象とする優先エリアを選択する。優先エリア選択ステップS14は、背面表示部23への照射エリア画像表示ステップS15と、タッチパネル24による優先エリア選択入力ステップS16とを含む。
優先エリア選択部55は、背面表示制御部37を介して背面表示部23を制御し、かつタッチパネル制御部38を介してタッチパネル24への選択入力を受け付ける。優先エリア選択部55は、図6(4)に示すように、背面表示部23に、各フラッシュ光照射エリア67,68の枠67a,68aを画像合成した被写体画像69を表示させる。具体的には、優先エリア選択部55の制御の下、背面表示制御部37は、フラッシュ光照射エリア特定部54からの座標情報に基づき、被写体画像69に各フラッシュ光照射エリア67,68の枠67a,68aを画像合成する。被写体画像69は、非発光画像60及びプリ発光画像61,62と同じ撮影範囲を撮影した画像であり、例えば、本撮影前に撮像素子28によって出力されるスルー画像(プレビュー画像やライブ画像とも呼ばれる)である。
被写体画像69の各フラッシュ光照射エリア67,68内にはハッチングが表示される。ハッチングは各フラッシュ光照射エリア67,68の輝度値平均に応じて、例えば輝度値が高いほどハッチング密度が高く表示される。図6(5)に示すように、ユーザはハッチング密度や主要被写体6の位置を参考にして、WB調整で自らが優先したい優先エリア66を指70で触ることにより選択する。選択はタッチパネル24を用いて行われる。例えば、各フラッシュ装置12,13の内、フラッシュ装置12が優先すべきフラッシュ装置である場合には、このフラッシュ装置12によるフラッシュ光照射エリア67を指70により触ることで指定する。これにより、図6(6)に示すように、優先エリア66が決定される。すなわち、タッチパネル24は優先エリア66の選択指示を優先エリア選択部55に入力する選択入力部に相当する。なお、ハッチング表示に代えて、各フラッシュ光照射エリア67,68の輝度値平均に応じた(例えば比例した)輝度値で各フラッシュ光照射エリア67,68を表示してもよい。また、タッチパネル24で選択する優先エリア66は、1つに限らず複数でもよい。
図6(4)に示される被写体画像69の場合には、ハッチングの表示から、主要被写体6が含まれる第1フラッシュ光照射エリア67の輝度に対して、背景幕7が主である第2フラッシュ光照射エリア68の輝度が高いことが判る。このため、従来の複数照明撮影モードにおける自動WB処理では、輝度が高い第2フラッシュ光照射エリア68の画素に基づきWB調整が行われてしまう。従って、背景幕7の画素に基づきWB調整が行われるため、主要被写体6の画像が本来の色味からずれてしまう。
これに対して、第1実施形態では、優先エリア選択部55で優先エリア選択入力ステップS16が行われる。優先エリア選択入力ステップS16では、図6(5)に示すように、ユーザによる第1フラッシュ光照射エリア67への指70等のタッチ操作による指定により、主要被写体6のエリアである第1フラッシュ光照射エリア67が優先エリア66として確実に選択される。この主要被写体6のエリアである優先エリア66に基づきWB調整値が算出されるため、主要被写体6を適正な色味に仕上げることができる。
図4に示すように、デジタル信号処理部35のWB調整部56では、WB調整値算出ステップS17及びWB調整ステップS18を行う。WB調整値算出ステップS17は、WB調整値算出部59により実行される。
WB調整値算出ステップS17は、以下のようにして実行される。先ず、記録画像を撮影するための本発光が行われる。この本発光時には、フラッシュ光照射エリアを求めるための個別発光であるプリ発光時のK倍の発光量で発光して、撮影が行われる。なお、倍率Kは、カメラの調光結果やユーザの設定により決定される。本発光時の輝度値の分布をYexp(i,j)、環境光のみであるフラッシュ光非発光時の輝度値の分布をY0(i,j)とした場合に、これらの輝度値を用いて優先エリア66内の値を平均などの処理で算出した代表値をYexp#type、Y0#typeとすると、優先エリア66における輝度のうち、フラッシュ光の割合を示すαは次式で求められる。
α = (Yexp#type − Y0#type) / Yexp#type
環境光のWB調整値をG0、カメラ内に記録されているフラッシュ光のみを発光した時のWB調整値をGflとすると、求めるWB調整値Gwbは次式で求められる。
Gwb = (Gfl − G0)×α + G0
本発光時は、第1フラッシュ装置12、第2フラッシュ装置13を両方発光させた状態で被写体5を撮像することにより、本発光画像を取得する。WB調整部56では、図4に示すようにWB調整ステップS18を行い、本発光画像の信号値R,G,Bに対してWB調整値Gwbを乗じてWBを調整する。これにより、光源色がキャンセルされる。なお、WB調整値Gwbは上記方法に限られず、種々の方法で求めてよい。
本実施形態では、ユーザが優先すべきエリアを優先エリア66として選択入力するため、ユーザの意図に沿う優先エリア66に基づきWB調整値が算出されてWB調整が行われる。これにより、複数の補助光源による撮影時に、主要被写体6の画像を適切な色味に仕上げることができる。
上記実施形態では、2個のフラッシュ装置12,13を用いる場合を例にとって説明したが、3個以上のフラッシュ装置を用いてもよい。この場合には、複数のフラッシュ光による優先エリアに対して上記同様の処理が行われて、WB調整値Gwbを求める。
なお、本実施形態では、記録画像を撮影するための本発光前に優先エリアの特定及びWB調整値の算出を行っているが、優先エリアの特定及びWB調整値の算出を行うタイミングはこれに限らず、例えば、本発光後に優先エリアの特定及びWB調整値の算出を行ってもよい。
本実施形態では、タッチパネル24を用いてWB調整で優先エリアを選択及び特定しているが、優先エリアの特定方法はこれに限らず、例えば、操作スイッチ22を用いたり、音声入力を用いたりして、優先エリアを選択及び特定してもよい。
[第2実施形態]
第1実施形態では、ユーザがタッチパネル24で自ら優先エリア66を選択することで、WB調整で用いる優先エリア66を特定している。これに対して図8に示す第2実施形態では、優先エリア選択部72は、フラッシュ光照射エリア合算部(補助光照射エリア合算部)73、顔エリア検出部74と、優先エリア決定部75を有する。なお、以下の各実施形態において、第1実施形態と同一構成部材及び同一処理ステップには、同一符号を付して重複した説明を省略している。
図9は第2実施形態における処理手順を示すフローチャートである。なお、非発光信号値取得ステップS11、プリ発光信号値取得ステップS12、フラッシュ光照射エリア特定ステップS13、WB調整値算出ステップS17、及びWB調整ステップS18は第1実施形態と同じ処理であり、優先エリア選択ステップS21のみが異なっている。優先エリア選択ステップS21は、フラッシュ光照射エリア合算ステップS22、顔エリア検出ステップS23、優先エリア決定ステップS24を含む。
フラッシュ光照射エリア合算ステップS22では、図10に示すように、各フラッシュ光照射エリア67,68を合算し、合算エリア71を算出する。なお、合算とは、各フラッシュ光照射エリア67,68の論理和を求めるものであり、枠線71aに囲まれたエリアが合算エリア71となる。
顔エリア検出ステップS23では、顔エリア検出部74が、図10に示すように、第1プリ発光画像61から人物の顔エリア79を検出する。顔エリア79の検出では、フラッシュ光照射エリア67,68を求める際に用いた分割エリア65よりもサイズの小さい分割エリア(分割数を増やして分割エリア65よりも細かい分割エリア)が好ましく用いられる。なお、非発光画像60や第2プリ発光画像62から、顔エリア79を検出してもよい。
優先エリア決定ステップS24では、顔エリア検出部74により検出された顔エリア79がいずれのフラッシュ光照射エリア67,68にあるかを優先エリア決定部75が特定する。そして、顔エリア79が無いフラッシュ光照射エリア68を合算エリア71から除外する。この除外により残ったフラッシュ光照射エリア67を優先エリアと決定する。
優先エリア決定部75は、顔エリア検出部74が検出した顔エリア79が第1フラッシュ光照射エリア67にあるのか、第2フラッシュ光照射エリア68にあるのかを、例えば画像に対して相互の位置を表す座標から求める。優先エリアの特定後は、第1実施形態と同様にして、WB調整を行う。
顔エリア79は、人物の肌色を示す領域に基づき検出する。この他に、顔エリア79の検出は、目、鼻、口等の形状認識による方法や、肌色領域と形状認識との組み合わせによる方法、その他の各種顔認識方法を用いてもよい。
本実施形態では、顔エリア79を自動検出して優先エリアを特定することができ、第1実施形態のように、ユーザに優先エリアを選択させる必要がなくなり、使い勝手が向上する。
なお、図11に示すように、複数のフラッシュ光照射エリア80,81が重複している場合には、ハッチングが付された合算エリア82から、顔エリア79が無いフラッシュ光照射エリア81が除外され、残ったフラッシュ光照射エリア80の一部が優先エリア66となる。
[第3実施形態]
図12に示すように、スタジオ撮影では、特殊効果フィルタ83をフラッシュ装置13の照射面に装着して、背景に色や絵柄を投影して撮影することがある。スタジオ撮影では、季節や行事などに応じて記念撮影する場合が多く、各季節や行事などに応じた背景色となるように特殊効果フィルタ83が用いられる。例えば、4月の入学に際して入学記念の撮影をする場合には、満開の桜をイメージするように、背景をピンクにする特殊効果フィルタ83や、桜の花びらが散っているような特殊効果フィルタ83が用いられる。このような特殊効果フィルタ83によるスタジオ撮影における優先エリアは、この背景用のフラッシュ装置による照射エリアを除くことにより、自動的に選択することができる。
図13に示すように、第3実施形態では、優先エリア選択部84は、フラッシュ光照射エリア合算部73と、優先エリア決定部85とを有する。優先エリア決定部85は、環境光座標算出部87と、フラッシュ光記録部88と、差ベクトル算出部89と、フラッシュ光照射エリアの非発光時の信号値の平均を算出する非発光時信号値平均算出部90と、フラッシュ光照射エリアのプリ発光時の信号値の平均を算出するプリ発光時信号値平均算出部91と、信号値平均予測値算出部92と、特殊効果用途フラッシュ光判別部93とを有する。優先エリア決定部85は、特殊効果フィルタ83によるフラッシュ光であることを識別し、この特殊効果フィルタ83を用いたフラッシュ光が照射しているエリアを合算エリアから除外し、除外により残った合算エリアを優先エリアとして選択する。
図14は第3実施形態における処理手順を示すフローチャートである。なお、非発光信号値取得ステップS11、プリ発光信号値取得ステップS12、フラッシュ光照射エリア特定ステップS13、WB調整値算出ステップS17、及びWB調整ステップS18は第1実施形態と同じ処理であり、優先エリア選択ステップS31のみが異なっている。優先エリア選択ステップS31は、優先エリア選択部84により行われ、フラッシュ光照射エリア合算ステップS22と、画像情報の判定により優先エリアを決定する優先エリア決定ステップS32とを含む。優先エリア決定ステップS32は、以下に示す処理を行い、優先エリアを決定する。
先ず、環境光座標算出部87により、図15に示すように、例えばR/G、B/Gを座標軸にもつ色空間における環境光の光源色情報を表すA点の光源座標(R0/G0,B0/G0)を、非発光画像の信号値に基づき算出する。
次に、同じ色空間におけるフラッシュ光の光源色情報を表すB点の光源座標(Rf/Gf,Bf/Gf)を予め算出しておき、フラッシュ光記録部88により、不揮発性メモリ等に記憶しておく。次に、差ベクトル算出部89により、A点の座標(R0/G0,B0/G0)及びB点の座標(Rf/Gf,Bf/Gf)に基づき、その差であるベクトルCを算出する。ベクトルCは信号値平均予測値算出部92に出力される。
次に、非発光時信号値平均算出部90により、図16に示すように、各フラッシュ光照射エリアの非発光時の信号値平均R1,G1,B1(補助光照射エリアの非発光時の画素情報に相当)を算出し、色空間におけるD点の座標(R1/G1,B1/G1)を算出する。D点の座標(R1/G1,B1/G1)は、信号値平均予測値算出部92及び特殊効果用途フラッシュ光判別部93に出力される。
次に、信号値平均予測値算出部92により、同じフラッシュ光照射エリアに、特殊効果フィルタ83が無く環境光も無い状態でフラッシュ光のみを照射した時の信号値平均の予測値R2,G2,B2を示す、色空間におけるE点の座標(R2/G2,B2/G2)を次式から算出する。ここで、予測値R2,G2,B2は、補助光源発光時の信号値平均予測値に相当する。
(R2/G2,B2/G2)=(R1/G1,B1/G1)+C
次に、プリ発光時信号値平均算出部91により、プリ発光画像のフラッシュ光照射エリアにおける信号値平均Rpre,Gpre,Bpre(発光画像に基づく画素情報に相当)を求め、図17に示すように、このプリ発光時の信号値平均Rpre,Gpre,Bpreを示す、色空間におけるF点の座標(Rpre/Gpre,Bpre/Gpre)を算出する。F点の座標(Rpre/Gpre,Bpre/Gpre)は特殊効果用途フラッシュ光判別部93に出力される。
次に、特殊効果用途フラッシュ光判別部93により、F点の座標(Rpre/Gpre,Bpre/Gpre)に基づき特殊効果フィルタ83を有するフラッシュ光か否かを判定する。非発光時信号値平均座標(R1/G1,B1/G1)で示されるD点と、フラッシュ発光時信号値平均予測座標(R2/G2,B2/G2)で示されるE点とを対角線の両端とする矩形の判定範囲H1に、F点の座標(Rpre/Gpre,Bpre/Gpre)が存在した場合、特殊効果用途フラッシュ光判別部93は、特殊効果フィルタ83が無い通常のフラッシュ光(色温度:5000〜6000K)であると判定する。逆に、判定範囲H1にF点の座標(Rpre/Gpre,Bpre/Gpre)が無い場合には、特殊効果フィルタ83が装着されたフラッシュ装置であると判定する。従って、特殊効果フィルタ83が装着されたフラッシュ装置である場合には、このフラッシュ装置による照射エリアは合算エリアから除外され、残った合算エリアが優先エリアと判定される。
特殊効果フィルタ83を用いたフラッシュ光の照射エリアを優先エリアの選択対象から除外し、残った照射エリアを優先エリアであると選択するので、背景の照明に使われることが多い特殊効果フィルタ83を用いたフラッシュ光の照射エリアが確実に優先エリアの選択候補から除外され、人物等の主要被写体6に発せられるフラッシュ光の照射エリアが優先エリアとして選択される。したがって、主要被写体6を適切な色味とすることができる。
なお、優先エリアであると判定されるフラッシュ光照射エリアが複数ある場合には、例えば輝度値平均が高い方のフラッシュ光照射エリアを優先エリアと決定する。また、これに代えて、ユーザの光量設定比率が大きい方を優先エリアと決定する。更には、上記のようにいずれか一方を選ぶ代わりに、複数のフラッシュ光照射エリアを優先エリアと決定してもよい。
優先エリアであると決定されるフラッシュ光照射エリアが複数ある場合には、以下のようにして、WB調整値Gwbを求める。
例えば優先エリアが2つある場合、先ず、第1優先フラッシュ光及び第2優先フラッシュ光をそれぞれ個別に発光させた時のi×j個のブロック(分割エリア65、本例ではi,j=1〜8)に分割された輝度値の分布をそれぞれYpre1(i,j)、Ypre2(i,j)、非発光時(=環境光のみ)の輝度値の分布をY0(i,j)とすると、第1、第2優先フラッシュ光によって増加した輝度値の分布ΔYpre1(i,j)、ΔYpre2(i,j)はそれぞれ次式で求められる。
ΔYpre1(i,j) =Ypre1(i,j) − Y0(i,j)
ΔYpre2(i,j) = Ypre2(i,j) − Y0(i,j)
本発光時に第1優先フラッシュ光及び第2優先フラッシュ光のみによって増加すると予想される輝度値の分布ΔYexp(i,j)は、次式のようになる。なお、K1は第1優先フラッシュ光の(本発光時の発光量)/(プリ発光時の発光量)から求められ、K2は第2優先フラッシュ光の(本発光時の発光量)/(プリ発光時の発光量)から求められる。
ΔYexp(i,j) = K1×ΔYpre1(i,j)+ K2×ΔYpre2(i,j)
求めた増加分の輝度値の分布ΔYexp(i,j)に基づき、以下は優先エリアが1つの場合と同様にして、予想される輝度値の分布Yexp(i,j)、Y0(i,j)、優先エリアの代表値をYexp#type、Y0#type、優先エリアにおける輝度のうち、優先フラッシュ光の割合を示すα等を算出して、最終的にWB調整値Gwbが求められる。このWB調整値Gwbに基づき、上記と同じようにしてWB調整が行われる。
[変形例1]
上記第3実施形態において、図17に示すように矩形の判定範囲H1を用いたが、図18に示す変形例1では、D点とE点とを結ぶ線分に直交する方向に幅hで規定される矩形の判定範囲H2を用いている。幅hは例えば線分DEの長さの30%の長さを用いる。具体的には幅hはWB性能が最も良くなる値に設定されている。
[変形例2]
また、図19に示す変形例2では、D点とE点とを結ぶ線分に対してD点を基準にして所定角度θで振り分けたセクタ状(扇状)の判定範囲H3を用いている。角度θは、WB性能が最も良くなる値に設定されている。
[変形例3〜5]
図17に示す判定範囲H1に対して、図20に示す変形例3では、ベクトルCの長さに縮小率β(β<1)を乗じて、ベクトルCよりも長さを短くした判定範囲H4を用いる。同様にして、図18に示す変形例1の判定範囲H2に対して、図21に示す変形例4では、線分DEの長さに縮小率βを乗じて、線分DEよりも長さを短くした判定範囲H5を用いる。同様にして、図19に示す変形例2の判定範囲H3に対して、図22に示す変形例5では、線分DEの長さに縮小率βを乗じて、線分DEよりも長さを短くしたセクタ状の判定範囲H6を用いる。
縮小率βは次式により求める。
β=(Ypre−Y0)/Ypre
なお、Ypreはフラッシュ光照射エリアのプリ発光時の輝度値平均であり、Y0は、同じくフラッシュ光照射エリアの非発光時の輝度値平均である。なお、βに例えば1.2を乗じた値β1(=β×1.2)を用いて縮小率βに余裕を持たせることが好ましい。
上記変形例1〜5のように、図17に示す判定範囲H1よりも、判定範囲H2〜H6を狭めることにより、特殊効果フィルタ83が装着されたフラッシュ装置のフラッシュ光であるか否かの判定をより厳しくすることができる。
なお、第3実施形態では、非発光時信号値平均及びフラッシュ光発光時の信号値平均予測値を両端として含む範囲内に発光時信号値平均がある場合に優先エリアと判定しているが、この判定方法に限定されない。例えば、予め記憶しているフラッシュ光による画素情報に基づいて優先エリアを決定してもよい。
[第4実施形態]
図23に示すように、第4実施形態では、優先エリア選択部95は、空間周波数算出部96と優先エリア決定部97とを有し、空間周波数算出部96で算出した空間周波数に基づき、優先エリア決定部97で背景を照射するフラッシュ光か否かを判定する。
図24は第4実施形態における処理手順を示すフローチャートである。なお、非発光信号値取得ステップS11、プリ発光信号値取得ステップS12、フラッシュ光照射エリア特定ステップS13、WB調整値算出ステップS17、及びWB調整ステップS18は第1実施形態と同じ処理であり、優先エリア選択ステップS41のみが異なっている。優先エリア選択ステップS41では、フラッシュ光照射エリア合算ステップS22、空間周波数算出ステップS42、及び優先エリア決定ステップS43を行う。
空間周波数算出ステップS42では、空間周波数算出部96により、非発光画像60における各フラッシュ装置12,13によるフラッシュ光照射エリア67,68の空間周波数を算出する。優先エリア決定ステップS43では、算出した各フラッシュ装置12,13によるフラッシュ光照射エリア67,68の空間周波数が一定値以下の場合に、優先エリア決定部97が、一定値以下の空間周波数を有するフラッシュ光照射エリアを合算エリアから除外する。背景幕7は無地のスクリーンから構成されていることが多く、空間周波数が一定値以下となることが多い。従って、本例では背景幕7に当たるフラッシュ光照射エリア68が除外され、この除外により残るフラッシュ光照射エリア67が優先エリアとして選択される。
なお、除外により残されたフラッシュ光照射エリアが複数ある場合には、輝度値平均が高いフラッシュ光照射エリアが優先エリアとして決定される。また、優先エリアを1つだけ決定することに替えて、残された複数のフラッシュ光照射エリアの全てを優先エリアとして決定してもよい。
空間周波数が一定値以下のフラッシュ光照射エリアを優先エリアの選択候補から除外し、除外により残る照射エリアを優先エリアと決定するので、背景幕7を照射するフラッシュ光の照射エリアが優先エリアの選択対象から確実に除外され、主要被写体6を照射するフラッシュ光の照射エリアが優先エリアとして選択される。したがって、主要被写体6を適切な色味とすることができる。
上記各実施形態において、非発光画像取得部53a、発光画像取得部53b、フラッシュ光照射エリア特定部(補助光照射エリア特定部)54、優先エリア選択部55、72、84、95、WB調整値算出部59、WB調整部56、フラッシュ光照射エリア合算部(補助光照射エリア合算部)73、顔エリア検出部74、優先エリア決定部75、85、97、空間周波数算出部96といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、あるいはFPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、さらにはASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
以上の説明から、以下の付記項に示す発明を把握することができる。
[付記項1]
複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する非発光画像取得プロセッサと、
複数の前記補助光源を個別発光状態にして前記被写体をそれぞれ撮像し各前記補助光源の発光画像を取得する発光画像取得プロセッサと、
前記非発光画像及び各前記発光画像を複数の分割エリアに分割し、前記個別発光状態と前記非発光状態との各分割エリアの信号値の差分に基づき、各前記補助光源による補助光が当たっている補助光照射エリアを特定する補助光照射エリア特定プロセッサと、
各前記補助光源の前記補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する優先エリア選択プロセッサと、
選択された前記優先エリアの信号値に基づき前記ホワイトバランス調整値を算出するホワイトバランス調整値算出プロセッサと、
前記ホワイトバランス調整値による調整を行うホワイトバランス調整プロセッサと
を備えるホワイトバランス調整装置。
本発明は、上記各実施形態や変形例に限らず、本発明の要旨を逸脱しない限り種々の構成を採り得ることはもちろんである。例えば、上記各実施形態や変形例を適宜組み合わせることも可能である。
本発明は、カメラ11以外に、携帯電話機、スマートフォン等の撮像装置に適用可能である。
5 被写体
6 主要被写体
7 背景幕
9 撮影スタジオ
10 撮影システム
11 デジタルカメラ(カメラ)
11a カメラ本体
12 第1フラッシュ装置(補助光源)
13 第2フラッシュ装置(補助光源)
14 フラッシュ発光部
15,16 無線通信I/F
17 フラッシュ制御部
18 フラッシュ発光部
21 レンズ鏡筒
22 操作スイッチ
23 背面表示部
24 タッチパネル
25 撮影光学系
26 絞り
27 シャッタ
28 撮像素子
29 主制御部
30 フラッシュ制御部
33 バス
34 メモリ制御部
35 デジタル信号処理部
36 メディア制御部
37 背面表示制御部
38 タッチパネル制御部
39 メモリ
40 記録メディア
41 シャッタ駆動部
45 作動プログラム
52 照明制御部
53 画像取得部
53a 非発光画像取得部
53b 発光画像取得部
54 フラッシュ光照射エリア特定部
55 優先エリア選択部
56 WB調整部(ホワイトバランス調整部)
59 WB調整値算出部(ホワイトバランス調整値算出部)
60 非発光画像
61,62 第1、第2プリ発光画像
63,64 フラッシュ光照射エリア特定画像
65 分割エリア
66 優先エリア
67 第1フラッシュ光照射エリア
67a 枠
68 第2フラッシュ光照射エリア
68a 枠
69 被写体画像
70 指
71 合算エリア
71a 枠線
72 優先エリア選択部
73 フラッシュ光照射エリア合算部(補助光照射エリア合算部)
74 顔エリア検出部
75 優先エリア決定部
79 顔エリア
80,81 フラッシュ光照射エリア
82 合算エリア
83 特殊効果フィルタ
84 優先エリア選択部
85 優先エリア決定部
87 環境光座標算出部
88 フラッシュ光記録部
89 差ベクトル算出部
90 非発光時信号値平均算出部
91 プリ発光時信号値平均算出部
92 信号値平均予測値算出部
93 特殊効果用途フラッシュ光判別部
95 優先エリア選択部
96 空間周波数算出部
97 優先エリア決定部
A 環境光の光源座標
B フラッシュ光の光源座標
C ベクトル
D フラッシュ光照射エリアの非発光時の信号値平均
DE 線分
E フラッシュ光照射エリアのフラッシュのみ発光時の信号値平均予測値
H1〜H6 判定範囲
LA 光軸
h 幅
θ 角度
S11 非発光信号値取得ステップ
S12 プリ発光信号値取得ステップ
S13 フラッシュ光照射エリア特定ステップ(補助光照射エリア特定ステップ)
S14 優先エリア選択ステップ
S15 照射エリア画像表示ステップ
S16 優先エリア選択入力ステップ
S17 WB調整値算出ステップ(ホワイトバランス調整値算出ステップ)
S18 WB調整ステップ(ホワイトバランス調整ステップ)
S21,S31,S41 優先エリア選択ステップ
S22 フラッシュ光照射エリア合算ステップ
S23 顔エリア検出ステップ
S24 優先エリア決定ステップ
S32 優先エリア決定ステップ
S42 空間周波数算出ステップ
S43 優先エリア決定ステップ

Claims (12)

  1. 複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する非発光画像取得部と、
    複数の前記補助光源を個別発光状態にして前記被写体をそれぞれ撮像し各前記補助光源の発光画像を取得する発光画像取得部と、
    前記非発光画像及び各前記発光画像を複数の分割エリアに分割し、前記個別発光状態と前記非発光状態との各分割エリアの信号値の差分に基づき、各前記補助光源による補助光が当たっている補助光照射エリアを特定する補助光照射エリア特定部と、
    各前記補助光源の前記補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する優先エリア選択部と、
    選択された前記優先エリアの信号値に基づきホワイトバランス調整値を算出するホワイトバランス調整値算出部と、
    前記ホワイトバランス調整値による調整を行うホワイトバランス調整部と
    を備えるホワイトバランス調整装置。
  2. 各前記補助光源による前記補助光照射エリアから1つ又は複数の前記優先エリアの選択指示を前記優先エリア選択部に入力する選択入力部を有する請求項1記載のホワイトバランス調整装置。
  3. 前記優先エリア選択部は、
    各前記補助光照射エリアを合算した合算エリアを算出する補助光照射エリア合算部と、
    前記非発光画像又は前記発光画像から顔エリアを検出する顔エリア検出部と、
    前記顔エリア検出部により検出された前記顔エリアがいずれの前記補助光照射エリアにあるかを特定し、前記顔エリアが無い前記補助光照射エリアを前記合算エリアから除外し、除外により残ったエリアを前記優先エリアと決定する優先エリア決定部とを有する請求項1記載のホワイトバランス調整装置。
  4. 前記優先エリア選択部は、
    各前記補助光照射エリアを合算した合算エリアを算出する補助光照射エリア合算部と、
    予め記憶している前記補助光源による画素情報及び前記合算エリアに基づいて前記優先エリアを決定する優先エリア決定部とを有する請求項1記載のホワイトバランス調整装置。
  5. 前記優先エリア決定部は、
    予め記憶している前記補助光による光源色情報と、前記非発光画像から取得する環境光による光源色情報と、前記補助光照射エリアの非発光時の画素情報とから、色空間上の判定範囲を設定し、
    前記判定範囲外に発光画像に基づく画素情報が位置する場合に、前記補助光照射エリアを前記合算エリアから除外し、除外により残ったエリアを優先エリアと判定する請求項4記載のホワイトバランス調整装置。
  6. 前記補助光による光源色情報は、色空間における前記補助光の色を示す座標であり、
    前記環境光による光源色情報は、前記非発光画像に基づき求められ、色空間における前記環境光の色を示す座標であり、
    前記補助光照射エリアの非発光時の画素情報は、前記非発光画像に基づき求められ、色空間における前記補助光照射エリアの非発光時信号値平均を示す座標であり、
    前記優先エリア決定部は、前記補助光の座標と前記環境光の座標との差である差ベクトルを算出し、
    前記非発光時信号値平均の座標に前記差ベクトルを加算して、前記補助光源を前記個別発光状態にする場合の前記補助光源発光時の信号値平均予測値を求め、
    前記発光画像に基づき、前記色空間における前記補助光照射エリアの信号値平均である発光時信号値平均を算出し、
    前記非発光時信号値平均、前記補助光源発光時の信号値平均予測値、及び発光時信号値平均に基づいて優先エリアを判定する請求項5記載のホワイトバランス調整装置。
  7. 前記優先エリア決定部は、前記非発光時信号値平均及び前記補助光源発光時の信号値平均予測値を両端として含む前記判定範囲外に前記発光時信号値平均がある場合に、前記補助光照射エリアを前記合算エリアから除外し、除外によって残ったエリアを優先エリアとして選択する請求項6記載のホワイトバランス調整装置。
  8. 前記優先エリア選択部は、
    各前記補助光照射エリアを合算した合算エリアを算出する補助光照射エリア合算部と、
    前記非発光画像における各前記補助光源による前記補助光照射エリアの空間周波数を算出する空間周波数算出部と、
    各前記補助光源による前記補助光照射エリアの空間周波数が一定値以下の場合に、空間周波数が一定値以下の前記補助光照射エリアを前記合算エリアから除外し、除外により残ったエリアを優先エリアと決定する優先エリア決定部と
    を有する請求項1記載のホワイトバランス調整装置。
  9. 前記ホワイトバランス調整値算出部は、
    前記補助光源を発光状態にして前記被写体を撮像した本発光時の発光画像を取得し、前記発光画像の前記優先エリアにおける信号値、及び前記非発光画像の前記優先エリアにおける信号値に基づいてホワイトバランス調整値を算出する請求項1から8いずれか1項記載のホワイトバランス調整装置。
  10. 前記ホワイトバランス調整部は、
    複数の前記補助光源を本発光時の発光量で発光状態にして前記被写体を撮像した本発光画像を取得し、
    前記本発光画像に対して前記ホワイトバランス調整値によるホワイトバランス調整を行う請求項1から9いずれか1項に記載のホワイトバランス調整装置。
  11. 複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する非発光画像取得ステップと、
    複数の前記補助光源を個別発光状態にして前記被写体をそれぞれ撮像し各前記補助光源の発光画像を取得する発光画像取得ステップと、
    前記非発光画像及び各前記発光画像を複数の分割エリアに分割し、前記個別発光状態と前記非発光状態との各分割エリアの信号値の差分に基づき、各前記補助光源による補助光が当たっている補助光照射エリアを特定する補助光照射エリア特定ステップと、
    各前記補助光源の前記補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する優先エリア選択ステップと、
    選択された前記優先エリアの信号値に基づきホワイトバランス調整値を算出するホワイトバランス調整値算出ステップと、
    前記ホワイトバランス調整値による調整を行うホワイトバランス調整ステップと
    を有するホワイトバランス調整装置の作動方法。
  12. 複数の補助光源を非発光状態にして被写体を撮像し非発光画像を取得する非発光画像取得ステップと、
    複数の前記補助光源を個別発光状態にして前記被写体をそれぞれ撮像し各前記補助光源の発光画像を取得する発光画像取得ステップと、
    前記非発光画像及び各前記発光画像を複数の分割エリアに分割し、前記個別発光状態と前記非発光状態との各分割エリアの信号値の差分に基づき、各前記補助光源による補助光が当たっている補助光照射エリアを特定する補助光照射エリア特定ステップと、
    各前記補助光源の前記補助光照射エリアのうち、ホワイトバランス調整に用いる優先エリアを選択する優先エリア選択ステップと、
    選択された前記優先エリアの信号値に基づきホワイトバランス調整値を算出するホワイトバランス調整値算出ステップと、
    前記ホワイトバランス調整値による調整を行うホワイトバランス調整ステップとを
    コンピュータに実行させることによりコンピュータをホワイトバランス調整装置として機能させるホワイトバランス調整装置の作動プログラム。
JP2018508575A 2016-03-31 2017-02-20 ホワイトバランス調整装置及びその作動方法並びに作動プログラム Active JP6533336B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016073269 2016-03-31
JP2016073269 2016-03-31
PCT/JP2017/006234 WO2017169287A1 (ja) 2016-03-31 2017-02-20 ホワイトバランス調整装置及びその作動方法並びに作動プログラム

Publications (2)

Publication Number Publication Date
JPWO2017169287A1 JPWO2017169287A1 (ja) 2018-12-13
JP6533336B2 true JP6533336B2 (ja) 2019-06-19

Family

ID=59963067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508575A Active JP6533336B2 (ja) 2016-03-31 2017-02-20 ホワイトバランス調整装置及びその作動方法並びに作動プログラム

Country Status (4)

Country Link
US (1) US20190037191A1 (ja)
JP (1) JP6533336B2 (ja)
CN (1) CN109076199B (ja)
WO (1) WO2017169287A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6900577B2 (ja) * 2018-05-08 2021-07-07 富士フイルム株式会社 画像処理装置及びプログラム
CN111866373B (zh) * 2020-06-19 2021-12-28 北京小米移动软件有限公司 一种显示拍摄预览图像的方法、装置及介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4639271B2 (ja) * 2005-12-27 2011-02-23 三星電子株式会社 カメラ
CN102469243B (zh) * 2010-11-04 2014-12-17 卡西欧计算机株式会社 能白平衡调整的摄像装置
WO2012073657A1 (ja) * 2010-11-30 2012-06-07 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及びホワイトバランス調整方法
JP5791274B2 (ja) * 2010-12-20 2015-10-07 キヤノン株式会社 画像処理装置、方法及びプログラム
JP2013017083A (ja) * 2011-07-05 2013-01-24 Canon Inc 撮像装置
JP2013143593A (ja) * 2012-01-06 2013-07-22 Canon Inc 撮像装置、その制御方法およびプログラム
JP5848662B2 (ja) * 2012-04-04 2016-01-27 キヤノン株式会社 画像処理装置およびその制御方法
JP5917258B2 (ja) * 2012-04-20 2016-05-11 キヤノン株式会社 画像処理装置及び画像処理方法
JP6049343B2 (ja) * 2012-08-01 2016-12-21 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
CN106797453B (zh) * 2014-07-08 2018-12-07 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法以及图像处理程序
KR101718043B1 (ko) * 2015-08-20 2017-03-20 엘지전자 주식회사 이동 단말기 및 이의 제어방법

Also Published As

Publication number Publication date
WO2017169287A1 (ja) 2017-10-05
US20190037191A1 (en) 2019-01-31
CN109076199A (zh) 2018-12-21
JPWO2017169287A1 (ja) 2018-12-13
CN109076199B (zh) 2021-06-15

Similar Documents

Publication Publication Date Title
RU2565343C2 (ru) Устройство формирования изображений и способ управления
JP5610762B2 (ja) 撮像装置及び制御方法
JP6112230B2 (ja) 撮影方法、装置、および端末
WO2019072190A1 (zh) 图像处理方法、电子装置和计算机可读存储介质
KR101594967B1 (ko) 촬상 장치, 촬상 제어 방법, 및 기록 매체
KR20200054320A (ko) 이미징 제어 방법 및 이미징 디바이스
WO2004010711A1 (ja) 撮像データ処理方法、および撮像データ処理装置、並びにコンピュータ・プログラム
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
US9684988B2 (en) Imaging device, image processing method, and recording medium
JP2003179810A (ja) 写真撮影においてフィル・フラッシュをシミュレートするシステム及び方法
JP6641181B2 (ja) 画像処理装置および撮像装置、それらの制御方法ならびにプログラム
JP6210775B2 (ja) 撮像装置、撮像方法及び撮像プログラム
JP5804856B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN109639959B (zh) 图像处理装置、图像处理方法以及记录介质
JP5052263B2 (ja) 画像処理装置および画像処理方法
JP7129520B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6533336B2 (ja) ホワイトバランス調整装置及びその作動方法並びに作動プログラム
JP6741881B2 (ja) 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP6533335B2 (ja) ホワイトバランス調整装置及びその作動方法並びに作動プログラム
JP2015034850A (ja) 撮影装置および撮影方法
JP2014098859A (ja) 撮像装置および撮像方法
JP2012178666A (ja) 撮像装置
JP7278764B2 (ja) 撮像装置、電子機器、撮像装置の制御方法およびプログラム
JP4885079B2 (ja) デジタルカメラ、撮影方法及び撮影プログラム
JP7242247B2 (ja) 撮像装置および撮像装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190523

R150 Certificate of patent or registration of utility model

Ref document number: 6533336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250