JP2017130890A - 画像処理装置およびその制御方法ならびにプログラム - Google Patents
画像処理装置およびその制御方法ならびにプログラム Download PDFInfo
- Publication number
- JP2017130890A JP2017130890A JP2016010869A JP2016010869A JP2017130890A JP 2017130890 A JP2017130890 A JP 2017130890A JP 2016010869 A JP2016010869 A JP 2016010869A JP 2016010869 A JP2016010869 A JP 2016010869A JP 2017130890 A JP2017130890 A JP 2017130890A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- image processing
- processing apparatus
- normal direction
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 107
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000001514 detection method Methods 0.000 claims abstract description 32
- 238000012937 correction Methods 0.000 claims abstract description 15
- 230000008569 process Effects 0.000 claims description 15
- 238000004891 communication Methods 0.000 claims description 3
- 238000003702 image correction Methods 0.000 description 48
- 239000013598 vector Substances 0.000 description 17
- 230000003287 optical effect Effects 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- CNQCVBJFEGMYDW-UHFFFAOYSA-N lawrencium atom Chemical compound [Lr] CNQCVBJFEGMYDW-UHFFFAOYSA-N 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】より簡便な方法で、撮影した画像に生じた白飛びを補正することが可能な画像処理装置を提供する。【解決手段】本発明の画像処理装置は、被写体を撮影した画像において、被写体の領域を検出する被写体検出手段と、予め生成された、被写体の表面形状における法線方向を示す情報を用いて、検出された被写体の領域の各位置における法線方向を決定する決定手段と、検出された被写体の領域の各位置のうち、決定された法線方向が所定の方向である被写体の領域の位置を検出して、被写体の領域における所定の高輝度領域を検出する白飛び領域検出手段と、高輝度領域の輝度を補正する補正手段と、を備える。【選択図】図2
Description
本発明は、画像処理装置およびその制御方法ならびにプログラムに関する。
従来、撮影時の光源と被写体の位置関係により撮影画像の被写体の領域に白飛びが発生する場合に、当該白飛びを低減する技術が提案されている。特許文献1には、撮影画像内の対象物領域の色情報と対象物領域の3次元情報とに基づいて対象物領域の色情報から表面反射成分(てかり)を分離し、当該表面反射成分を補正することにより白飛びを低減する技術が開示されている。一方、特許文献2には、フラッシュ撮影を行う場合に、撮影する被写体の顔領域の大きさに応じてフラッシュ発光量を制御することにより、撮影画像の顔領域の白飛びを低減する技術が開示されている。
しかしながら、上述の特許文献1は、撮影画像内の特定対象物の3次元形状を復元し、画像内の各画素の法線ベクトルを求める必要がある。このため、3次元情報を扱うことによる多くの演算量や記憶容量が必要になる。また、特許文献2は、撮影時のフラッシュの発光量を調整する技術を開示するものであり、撮影した画像に対して白飛びを低減する処理を適用することについては考慮していない。
本発明は、上述の従来技術の問題点に鑑みてなされたものであり、より簡便な方法で、撮影した画像に生じた白飛びを補正することが可能な画像処理装置およびその制御方法ならびにプログラムを提供することを目的とする。
この課題を解決するため、例えば本発明の画像処理装置は以下の構成を備える。すなわち、被写体を撮影した画像において、被写体の領域を検出する被写体検出手段と、予め生成された、被写体の表面形状における法線方向を示す情報を用いて、検出された被写体の領域の各位置における法線方向を決定する決定手段と、検出された被写体の領域の各位置のうち、決定された法線方向が所定の方向である被写体の領域の位置を検出して、被写体の領域における所定の高輝度領域を検出する白飛び領域検出手段と、高輝度領域の輝度を補正する補正手段と、を備えることを特徴とする。
本発明によれば、より簡便な方法で、撮影した画像に生じた白飛びを補正することが可能になる。
(実施形態1)
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では画像処理装置の一例として、撮像した画像に画像補正処理を行うことが可能な任意のデジタルカメラに本発明を適用した例を説明する。しかし、本発明は、撮像機能を備えたデジタルカメラに限らず、取得した画像に画像補正処理を行うことが可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータ、時計型や眼鏡型の情報端末、医療機器などが含まれてよい。
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下では画像処理装置の一例として、撮像した画像に画像補正処理を行うことが可能な任意のデジタルカメラに本発明を適用した例を説明する。しかし、本発明は、撮像機能を備えたデジタルカメラに限らず、取得した画像に画像補正処理を行うことが可能な任意の機器にも適用可能である。これらの機器には、例えば携帯電話機、ゲーム機、タブレット端末、パーソナルコンピュータ、時計型や眼鏡型の情報端末、医療機器などが含まれてよい。
(デジタルカメラの構成)
図1は、本実施形態の画像処理装置の一例としてデジタルカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
図1は、本実施形態の画像処理装置の一例としてデジタルカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
制御部101は、例えば、CPU(MPU)、RAM及びROMを含み、ROMに記憶されたプログラムを実行してデジタルカメラ100の各ブロックを制御したり、各ブロック間でのデータ転送を制御したりする。また、制御部101は、ユーザからの操作を受け付ける、不図示の操作部からの操作信号に応じて、デジタルカメラ100の各ブロックを制御する。
撮影光学系102は、撮像素子103の撮像面上に被写体像を結像する光学系を構成し、入射光量やフォーカスの調節及び、絞り調整機能を備える。撮像素子103は、光電変換素子を有する画素が複数、2次元的に配列された構成を有する。撮像素子103は、撮影光学系102により結像された被写体光学像を各画素で光電変換し、さらにA/D変換回路によってアナログ・デジタル変換して、画素単位のデジタル信号(画像データ)を出力する。撮像素子103は、CCD(Charge-Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子であってよい。
カメラ信号処理部104は、撮像素子103が出力する画像データ(撮影画像)に対し、所定の処理、例えば撮影光学系102により生じた収差の補正処理や欠陥画素を補間する処理等を行なう。また、所定の処理には、例えばRGBのオフセット調整、ゲイン調整、ベイヤー配列の補間処理、及び現像ガンマ処理等をさらに含んでもよい。
記録媒体105は、例えばメモリカード等のランダムアクセス可能な記録媒体であり、カメラ信号処理部104や画像補正処理部106から出力された画像データを記録する。記録媒体105は、例えば不図示の装着、排出機構を備え、デジタルカメラ100に対してユーザが容易に装着又は取り外しを行うことができる。勿論、記録媒体105はデジタルカメラ100に内像されていてもよい。
画像補正処理部106は、カメラ信号処理部104から出力された画像データ、又は記録媒体105から読み出された画像データに本実施形態に係る画像補正処理を適用して白飛びを補正した画像データを出力する。なお、画像補正処理部106及び画像補正処理の詳細は後述する。
位置姿勢検知部107は、GPSやジャイロセンサ等のデジタルカメラ100の状態を検知するセンサを含み、制御部101の指示に応じてデジタルカメラ100の位置及び姿勢を制御部101に出力する。
(画像補正処理部106の構成)
次に、図2を参照して、画像補正処理部106の構成について説明する。画像補正処理部106は、撮影画像202(すなわちカメラ信号処理部104から出力された画像データ)に対して後述する画像補正処理を行って、出力画像203を出力する。
次に、図2を参照して、画像補正処理部106の構成について説明する。画像補正処理部106は、撮影画像202(すなわちカメラ信号処理部104から出力された画像データ)に対して後述する画像補正処理を行って、出力画像203を出力する。
画像補正処理部106は、撮影画像202に対する被写体検出処理を行って、特定の被写体を検出する。本実施形態では、特定の被写体として例えば人物の顔を検出するため、画像補正処理部106は人物の顔を検出するための構成として顔検出部204を有する。顔検出部204は、撮影画像202に対して顔検出処理を行って撮影画像内の顔領域を検出すると共に、検出された顔の向きを特定する。
法線決定部205は、顔検出部204によって検出された顔領域に対する、法線方向を決定する。法線決定部205は、例えば予め記録媒体105或いは不図示のROMに記録されている顔画像の法線マップ206を取得し、この法線マップ206を用いて、検出された顔領域の各画素に対する法線方向を決定する。なお、顔画像の法線マップについては後述する。
白飛び領域検出部207は、法線決定部205により決定された顔領域の特定の法線方向と、後述する光源方向情報208とを用いて、顔領域内の白飛び領域(所定の高輝度領域)を検出する。白飛び補正部209は、白飛び領域検出部207により検出された白飛び領域に対して補正処理(すなわち白飛びの低減処理)を行って、補正後の画像データ(出力画像203)を出力する。
ここで、図3を参照して、本実施形態に係る光源方向や特定の法線方向について説明する。図3において、301は本実施形態のデジタルカメラ100を、302は被写体である人物を、303は光源である太陽をそれぞれ表している。
光源方向を示すベクトル305は、被写体302と光源である太陽303とを結ぶ方向、すなわち被写体302に光をあてる光源の方向を示す。また、撮影方向を示すベクトル304は、被写体302とデジタルカメラ301とを結ぶ方向、すなわち被写体からデジタルカメラ301に入射する光の方向を示す。そして、特定の法線方向306は、光源からの光が入射した被写体の表面における法線の方向を示す。特定の法線方向306と光源方向を示すベクトル305のなす角は、被写体の表面に入射した光源の光の入射角となる。また、特定の法線方向306と撮影方向を示すベクトル304のなす角は、被写体の表面に入射した光源の光が反射する反射角となる。入射角と反射角は等しいため、特定の法線方向306は、撮影方向を示すベクトル304と光源方向を示すベクトル305のなす角を2等分する方向である。
ベクトル304である撮影方向は、被写体302とデジタルカメラ301の位置関係によって求めることができる。また、ベクトル305である光源方向は、図3に示すような屋外の撮影環境では、デジタルカメラ100の位置や姿勢の情報と、時刻情報に基づく太陽の位置とから推定することができる。なお、屋内の照明であっても、公知の光源方向の推定方法を用いたり、予め被写体と光源の位置関係を特定することにより光源方向を求めることができる。そして、特定の法線方向は、撮影方向と光源方向とのなす角を2等分して求めることができる。
(法線マップと撮影画像への適用)
次に、図4を参照して、本実施形態に係る法線マップについて説明する。法線マップは、特定の被写体(例えば人物の顔)ごとに予め定められた、被写体の表面形状における法線方向の情報を、画像平面上の各位置に関連付けて記述したデータである。図4(a)は、被写体が人物の正面顔である場合の法線マップ400の例を示している。例えば図4(b)に示す正面顔の3次元形状404の所定の位置403の法線ベクトル402が予め与えられた場合、法線マップ400には、3次元状の位置403を2次元平面上に投影した位置401に法線ベクトル402の方向情報が記述される。法線ベクトルの方向情報には、基準座標の方向余弦や基準座標からの角度が用いられる。例えば、基準座標として画面下向きにx軸、画面左側から右側に水平なy軸、画面の法線方向にz軸を定めた場合、法線ベクトルの方向情報にはそれぞれの座標軸と法線ベクトルの方向余弦を記述できる。また、方向情報を、例えば、法線ベクトルが画像平面となす角度と、法線ベクトルを画像平面に投影した場合のx軸からの角度を用いて記述してもよい。このように、人物の顔の表面形状を表わす法線方向の情報を2次元状の位置関係に投影して保持することにより、撮影画像における顔領域の各位置の法線方向を容易に得ることができる。なお、顔の3次元形状は一般的な人物の3次元形状であってよいが、当該被写体となる人物の3次元形状を予め取得すればより精度の高い法線方向を得ることができる。
次に、図4を参照して、本実施形態に係る法線マップについて説明する。法線マップは、特定の被写体(例えば人物の顔)ごとに予め定められた、被写体の表面形状における法線方向の情報を、画像平面上の各位置に関連付けて記述したデータである。図4(a)は、被写体が人物の正面顔である場合の法線マップ400の例を示している。例えば図4(b)に示す正面顔の3次元形状404の所定の位置403の法線ベクトル402が予め与えられた場合、法線マップ400には、3次元状の位置403を2次元平面上に投影した位置401に法線ベクトル402の方向情報が記述される。法線ベクトルの方向情報には、基準座標の方向余弦や基準座標からの角度が用いられる。例えば、基準座標として画面下向きにx軸、画面左側から右側に水平なy軸、画面の法線方向にz軸を定めた場合、法線ベクトルの方向情報にはそれぞれの座標軸と法線ベクトルの方向余弦を記述できる。また、方向情報を、例えば、法線ベクトルが画像平面となす角度と、法線ベクトルを画像平面に投影した場合のx軸からの角度を用いて記述してもよい。このように、人物の顔の表面形状を表わす法線方向の情報を2次元状の位置関係に投影して保持することにより、撮影画像における顔領域の各位置の法線方向を容易に得ることができる。なお、顔の3次元形状は一般的な人物の3次元形状であってよいが、当該被写体となる人物の3次元形状を予め取得すればより精度の高い法線方向を得ることができる。
図4(a)では正面顔についての法線マップの例を示したが、図4(c)や図4(d)のように、予め複数の向きの法線マップ(405、406)を用意し、撮影時の被写体の顔の向きに応じて最も向きの近い法線マップを適用してもよい。この場合、各法線マップはそれぞれの顔の向きを示す方向情報を含む。
更に、上述の法線マップを撮影画像に適用する例について、図5を参照して説明する。図5(a)は、撮影画像の一例を示しており、撮影画像の中央にはやや傾いた人物の顔が存在する。そして、図5(b)は、図5(a)の撮影画像に対して、顔検出処理の後に上述した正面顔の法線マップ400を対応付けた例を示している。すなわち、法線マップは、検出された顔の位置や角度に応じて、大きさや角度が調整され(すなわち拡大縮小や画像面内で回転され)、撮影画像に対応付けられる。なお、図5(b)の様に、法線マップ自体が撮影画像に重畳して描画される必要は無く、法線マップの各法線方向が顔領域の各位置と対応付けられればよい。
図5(c)は、撮影画像に対応付けられた法線マップの各法線方向のうち、特定の法線方向を持つ領域501が抽出された例を示す。この領域501は、同様の法線方向を有するため、所定の方向からの光源の光を同様の方向に反射する。すなわち、領域501内の一部に白飛びが発生する場合、領域501内の各画素値は同様に白飛びが発生することが想定される。図5(d)は、領域501が図5(a)の撮影画像に表示された例を示す。このように、顔画像と法線マップ画像を対応付けておくことで、顔画像上で、特定の法線方向を示す領域が抽出できる。
(画像補正処理に係る一連の動作)
次に、図6を参照して、画像補正処理に係る一連の動作について説明する。なお、本処理は、例えば不図示の操作ボタンに対するユーザからの撮影指示があった場合に開始される。また、本処理は、制御部101がROMに記憶されたプログラムをRAMの作業用領域に展開及び実行することにより実現される。
次に、図6を参照して、画像補正処理に係る一連の動作について説明する。なお、本処理は、例えば不図示の操作ボタンに対するユーザからの撮影指示があった場合に開始される。また、本処理は、制御部101がROMに記憶されたプログラムをRAMの作業用領域に展開及び実行することにより実現される。
S601において、画像補正処理部106は、制御部101の指示に応じて撮影画像を取得する。例えば、画像補正処理部106は、制御部101の指示に応じて撮像素子103が撮像した画像データを、カメラ信号処理部104を介して入力する。
S602において、画像補正処理部106は、制御部101の指示に応じて顔検出処理を行う。具体的には、S601において取得した画像データに対して顔検出処理を適用して顔領域を検出し、例えば顔の位置、大きさ、傾き及び向きを求める。なお、本実施形態に係る顔検出処理は、公知の顔検出処理を用いて行うことができるため、その詳細な説明は省略する。
S603において、画像補正処理部106は、制御部101の指示に応じて顔領域における法線方向を決定する。画像補正処理部106は、例えば記録媒体105から図4(a)、(c)及び(d)のような複数の向きの法線マップを読み出して、検出された顔の向きに最も近い法線マップを選択する。さらに選択した法線マップを、S602において検出した顔領域の位置、大きさ、傾きに合わせて調整したうえで、調整された法線マップを撮影画像の顔領域に対応付ける。換言すれば、法線マップが顔領域に対応付けられたことにより顔領域上の各位置の法線方向が決定されたことになる。
S604において、画像補正処理部106は、制御部101の指示に応じて顔領域に白飛び領域を検出する。まず、画像補正処理部106は、制御部101から光源方向情報を取得する。制御部101は、例えば、撮影時における位置姿勢検知部107の出力と時刻における太陽の位置とに基づいて光源方向を推定することにより光源方向情報を生成し、画像補正処理部106に提供する。画像補正処理部106は、取得した光源方向情報に含まれる光源方向と、例えば画像の正面方向にとった撮影方向とのなす角に基づいて、特定の法線方向を求める。
画像補正処理部106は、求めた特定の法線方向と、S603において決定した顔画像の法線方向とに基づいて、この特定の法線方向と整合する法線方向を有する領域(顔領域内の部分領域)を抽出する。例えば、画像補正処理部106は、S603において決定した顔画像の法線方向が、求めた特定の法線方向から所定の範囲内の方向である場合、当該顔画像の法線方向が特定の法線方向と整合する法線方向を有すると判定する。そして、画像補正処理部106は、抽出した部分領域の画素値(例えば輝度値の平均値)が予め定めた閾値以上であるかを判定し、部分領域の画素値が当該閾値以上である場合には、この部分領域を白飛び領域として検出する。一方、画像補正処理部106は、抽出した部分領域の画素値が閾値より小さい場合、白飛び領域は存在しないと判定して白飛び領域を検出しない。このように、特定の法線方向と法線方向が整合する領域を白飛び領域の候補とすることにより、単に白い領域に対して白飛び補正処理を適用することを回避し、より精度の高い補正処理を実現することができる。
S605において、画像補正処理部106は、S604において白飛び領域が検出されたか否かを判定する。画像補正処理部106は、白飛び領域が検出されている場合には処理をS606に進め、白飛び領域が検出されていない場合には本処理の一連の動作を終了する。
S606において、画像補正処理部106は、制御部101の指示に応じて検出した白飛び領域に対して白飛び補正を行う。画像補正処理部106は、例えば、検出した白飛び領域の近傍の画素値を参照して、同等の輝度となるように各画素値の輝度成分を減算する。画像補正処理部106は、白飛びの補正が終了すると本処理の一連の動作を終了する。
以上説明したように、本実施形態では、撮影画像から検出した特定の被写体領域に、当該被写体のために予め生成された法線マップ情報を対応づけ、被写体領域における法線方向を決定する。そして、決定した被写体領域における法線方向のうち、光源方向に応じて求められる特定の法線方向と整合する領域について、白飛び補正を行うようにした。このようにすることにより、被写体領域が単に白いことに起因して画素値が高くなる領域を誤って白飛び補正することがなく、適切な白飛び領域に対して補正を行うことができる。また、被写体の3次元形状を復元する処理を行わないため、より簡便な方法で、撮影した画像に生じた白飛びを補正することができる。
(実施形態2)
次に実施形態2について説明する。実施形態1に係るデジタルカメラ100は、太陽等の光源の方向を推定した光源方向情報を用いて画像補正処理を行った。実施形態2では、ストロボを用いて撮影し、光源方向情報の代わりに光源の位置が特定されたストロボ情報を用いる点が実施形態1と異なるが、その他の構成は実施形態1と同一である。同一の構成及びステップについては同一の符号を付して重複する説明は省略し、相違点について重点的に説明する。
次に実施形態2について説明する。実施形態1に係るデジタルカメラ100は、太陽等の光源の方向を推定した光源方向情報を用いて画像補正処理を行った。実施形態2では、ストロボを用いて撮影し、光源方向情報の代わりに光源の位置が特定されたストロボ情報を用いる点が実施形態1と異なるが、その他の構成は実施形態1と同一である。同一の構成及びステップについては同一の符号を付して重複する説明は省略し、相違点について重点的に説明する。
図7は、デジタルカメラ100がストロボを利用する形態を模式的に示している。図7(a)は、ストロボ701がデジタルカメラ100に内蔵されている例を示している。また、図7(b)は、デジタルカメラ100と別体型である外付けのストロボ702を、例えばアクセサリーシュー(不図示)に装着した例を示している。
デジタルカメラ100に固定したストロボを発光させて撮影する場合、ストロボの位置を特定することができる。図7(a)の場合、ストロボ701がデジタルカメラ100に内蔵されているため、デジタルカメラ100の本体の構成に基づいてストロボ701と撮影光学系102との位置関係を特定することができる。また、図7(b)の場合のように外付けのストロボ702を使用する場合も、ストロボ702の機種或いは外形が特定することにより、ストロボ702と撮影レンズとの位置関係を特定することができる。
利用するストロボと撮影光学系102との位置関係を特定すれば、実施形態1に係る光源情報が得られたことと同等であるため、特定の法線方向を容易に決定することができる。換言すれば、実施形態1に係る光源方向情報の代わりに、ストロボの位置、被写体の距離、ストロボ発光の有無(これらをストロボ情報という)を用いて特定の法線方向を決定し、白飛び領域の検出を行うことができる。
さらに、より簡易的には、ストロボを用いる際の光源方向は撮影方向と近似させることができるため、特定の法線方向を撮影方向(すなわち画像面に垂直方向)とみなすことができる。すなわち、簡易的に特定の法線方向を求める場合、ストロボ情報にはストロボ発光の有無が含まれるだけでよい。
図8は、本実施形態に係る画像補正処理部801の構成を示している。本実施形態に係る画像補正処理部801では、白飛び領域検出部207はストロボ情報802を用いて白飛び領域を検出する。ストロボ情報802を利用することにより、実施形態1の場合と比べて特定の法線方向の決定が単純になるため、より容易かつ高速に白飛び領域を検出することができる。例えば、ストロボ情報802がストロボ発光の有無のみを含む場合、白飛び領域検出部207は、法線決定部205が決定した顔領域の法線方向のうち、撮影方向(すなわち画像面に垂直方向)と一致する法線を特定の法線方向とすればよい。そして、特定の法線方向を有する部分領域を抽出すればよい。また、ストロボ情報802が、ストロボ位置、被写体距離及びストロボ発光の有無を含む場合、法線決定部205は被写体位置からストロボへの方向と撮影光学系102の光軸とのなす角の中間を、特定の法線方向とすればよい。
次に、図9を参照して、本実施形態に係る画像補正処理の一連の動作について説明する。なお、本処理も実施形態1と同様、例えば不図示の操作ボタンに対するユーザからの撮影指示があった場合に開始される。また、本処理は、制御部101がROMに記憶されたプログラムをRAMの作業用領域に展開及び実行することにより実現される。
まず、画像補正処理部801は、制御部101の指示に応じて、実施形態1で上述したS601〜S603の処理を行い、撮影画像からの顔検出や、顔領域における法線方向を決定する。
次にS901において、画像補正処理部801は、制御部101の指示に応じてストロボ情報802を用いて白飛び領域を検出する。例えば、画像補正処理部801は、ストロボ情報802がストロボ発光有りを示す場合、特定の法線方向を撮影方向と一致させて、撮影方向の法線を持つ部分領域を抽出する。画像補正処理部801は、抽出した部分領域の画素値(例えば輝度値の平均値)が予め定めた閾値以上であるかを判定し、部分領域の画素値が当該閾値以上である場合には、この部分領域を白飛び領域として検出する。一方、画像補正処理部106は、抽出した部分領域の画素値が閾値より小さい場合、白飛び領域は存在しないと判定して白飛び領域を検出しない。
さらにS605において、画像補正処理部801は、白飛び領域が検出されたかを判定し、白飛び領域が検出されている場合はS606において白飛び補正処理を行って本処理に係る一連の動作を終了する。一方、白飛び領域が検出されていない場合、白飛び補正を行わずに本一連の動作を終了する。
以上説明したように、本実施形態では、予め光源の位置を特定可能なストロボを使用する際にその光源方向を特定したストロボ情報を用いて、顔領域における特定の法線方向を求めるようにした。また、光源方向を撮影方向と近似させることにより、更に顔領域における特定の法線方向を容易に求められるようにした。このようにすることにより、ストロボ撮影を行う場合に白飛び領域の検出をより簡単かつ高速に行うことができる。
(その他の実施形態)
なお、上述した実施形態では、法線マップが予め記録媒体105に記録されているものとして説明したが、デジタルカメラ100は、通信手段を介してサーバ等の外部装置から法線マップを適宜取得するようにしてもよい。デジタルカメラ100は、適切な法線マップを取得するために、要求する法線マップが人物の顔であることを特定したり、当該人物の顔の向きを指定したりすればよい。また、顔領域の大きさや傾きを指定したうえで対応する法線マップを取得して、デジタルカメラ100における法線マップの拡大縮小や回転の処理を不要にしてもよい。
なお、上述した実施形態では、法線マップが予め記録媒体105に記録されているものとして説明したが、デジタルカメラ100は、通信手段を介してサーバ等の外部装置から法線マップを適宜取得するようにしてもよい。デジタルカメラ100は、適切な法線マップを取得するために、要求する法線マップが人物の顔であることを特定したり、当該人物の顔の向きを指定したりすればよい。また、顔領域の大きさや傾きを指定したうえで対応する法線マップを取得して、デジタルカメラ100における法線マップの拡大縮小や回転の処理を不要にしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101…制御部、105…記録媒体、204…顔検出部、205…法線決定部、207…白飛び領域検出部、209…白飛び補正部
Claims (12)
- 被写体を撮影した画像において、前記被写体の領域を検出する被写体検出手段と、
予め生成された、被写体の表面形状における法線方向を示す情報を用いて、検出された前記被写体の領域の各位置における法線方向を決定する決定手段と、
検出された前記被写体の領域の各位置のうち、前記決定された法線方向が所定の方向である前記被写体の領域の位置を検出して、前記被写体の領域における所定の高輝度領域を検出する白飛び領域検出手段と、
前記高輝度領域の輝度を補正する補正手段と、を備える、
ことを特徴とする画像処理装置。 - 前記白飛び検出手段は、法線方向に基づいて検出した前記被写体の領域の位置のうち、その輝度が所定の閾値より高い位置を検出して、前記高輝度領域を検出する、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記被写体の表面形状における法線方向を示す情報は、2次元状の被写体像の各位置に前記被写体の表面形状における法線方向を関連付けた情報である、
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記被写体の表面形状における法線方向を示す情報は、被写体の表面形状の3次元の位置を前記2次元状の被写体像の各位置に投影して、前記2次元状の被写体像の各位置に前記被写体の表面形状の3次元の位置における法線方向を関連付けた情報である、
ことを特徴とする請求項3に記載の画像処理装置。 - 前記被写体検出手段は、前記被写体の向きを更に検出し、
前記決定手段は、異なる被写体の向きごとに予め生成された、複数の前記被写体の表面形状における法線方向を示す情報のなかから、前記被写体検出手段により検出された前記被写体の向きに対応するものを選択する、
ことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。 - 記録手段を更に備え、
前記被写体の表面形状における法線方向を示す情報は、前記記録手段に予め記録されている、
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 通信手段を更に備え、
前記被写体の表面形状における法線方向を示す情報は、前記通信手段を介して外部装置から取得される、
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記所定の方向は、光源から光が被写体に入射する方向と被写体において光が反射する方向とのなす角によって特定される、前記被写体の表面形状における法線の方向から所定の範囲内の方向である、
ことを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。 - 前記白飛び検出手段は、発光手段を用いて前記被写体を撮影した場合、前記決定された法線方向が画像面に垂直である前記被写体の領域の位置を検出して、前記被写体の領域における所定の高輝度領域を検出する、
ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。 - 前記決定手段は、前記被写体の表面形状における法線方向を示す情報を検出された前記被写体の領域の各位置と対応付けるために、前記被写体の表面形状における法線方向を示す情報に係る前記2次元状の被写体像の各位置関係を拡大、縮小又は回転させ、検出された前記被写体の領域の各位置における法線方向を決定する、
ことを特徴とする請求項3又は4に記載の画像処理装置。 - 被写体検出手段が、被写体を撮影した画像において、前記被写体の領域を検出する被写体検出工程と、
決定手段が、予め生成された、被写体の表面形状における法線方向を示す情報を用いて、検出された前記被写体の領域の各位置における法線方向を決定する決定工程と、
白飛び領域検出手段が、検出された前記被写体の領域の各位置のうち、前記決定された法線方向が所定の方向である前記被写体の領域の位置を検出して、前記被写体の領域における所定の高輝度領域を検出する白飛び領域検出工程と、
補正手段が、前記高輝度領域の輝度を補正する補正工程と、を備える、
ことを特徴とする画像処理装置の制御方法。 - コンピュータに、請求項11に記載の画像処理装置の制御方法の各工程を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010869A JP2017130890A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置およびその制御方法ならびにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016010869A JP2017130890A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置およびその制御方法ならびにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017130890A true JP2017130890A (ja) | 2017-07-27 |
Family
ID=59396764
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016010869A Pending JP2017130890A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置およびその制御方法ならびにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017130890A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020191546A (ja) * | 2019-05-22 | 2020-11-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
-
2016
- 2016-01-22 JP JP2016010869A patent/JP2017130890A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020191546A (ja) * | 2019-05-22 | 2020-11-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP7321772B2 (ja) | 2019-05-22 | 2023-08-07 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101657039B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 촬상 시스템 | |
JP6263623B2 (ja) | 画像生成方法及びデュアルレンズ装置 | |
JP4218720B2 (ja) | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム | |
US7868915B2 (en) | Photographing apparatus, method and computer program product | |
JP2017208619A (ja) | 画像処理装置、画像処理方法、プログラム及び撮像システム | |
CN111726521B (zh) | 终端的拍照方法、拍照装置和终端 | |
JP2011134221A (ja) | 撮像装置、3dモデリングデータ生成方法、および、プログラム | |
JP5846172B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像システム | |
KR102661185B1 (ko) | 전자 장치 및 그의 이미지 촬영 방법 | |
JP2020095069A (ja) | 撮像装置 | |
JP6412386B2 (ja) | 画像処理装置およびその制御方法、プログラムならびに記録媒体 | |
JP6222205B2 (ja) | 画像処理装置 | |
JP6665917B2 (ja) | 画像処理装置 | |
JP5248951B2 (ja) | カメラ装置、画像撮影支援装置、画像撮影支援方法、及び画像撮影支援プログラム | |
JP5796611B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像システム | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP6645711B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6362473B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体 | |
JP2017130890A (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
US11570373B2 (en) | Information processing apparatus, image capturing apparatus, method, and storage medium | |
JP6079838B2 (ja) | 画像処理装置、プログラム、画像処理方法および撮像システム | |
JP2020057967A (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
JP6439845B2 (ja) | 画像処理装置 | |
TW201642008A (zh) | 影像擷取裝置及其動態對焦方法 | |
JP2020036249A (ja) | あおり補正を行う画像処理装置 |