以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<1.撮像装置の構成>
まず、図1を参照して、本開示の一実施形態に係る撮像装置の一構成例について説明する。図1は、本開示の一実施形態に係る撮像装置の一構成例を示す機能ブロック図である。
図1を参照すると、本開示の一実施形態に係る撮像装置10は、撮像部110、画像信号処理部120、制御部130、レンズ駆動部141、絞り駆動部142、シャッタ駆動部143、タイミング発生部144、SDRAM152、LCDドライバ153、LCD154、メディアコントローラ155、記録メディア156及び操作手段160を備える。また、画像信号処理部120、制御部130、SDRAM152、LCDドライバ153及びメディアコントローラ155は、撮像装置10の内部バス151によって互いに接続され、各構成部材間で相互に信号を送受信することが可能である。
撮像部110は、被写体からの光を後述する撮像素子115の受光面に入射させ、その光を電気信号に変換することにより、被写体の画像情報を電気信号として取得する。なお、以下の説明では、撮像部110によって被写体からの光を電気信号として取得することを、被写体を撮像すると呼称する。また、取得された電気信号から構成される被写体の画像のことを撮像画像と呼称する。
撮像部110の機能及び構成について詳しく説明する。撮像部110は、レンズ111、フォーカスレンズ112、絞り113、シャッタ114及び撮像素子115を有する。
レンズ111は、撮像部110の被写体と対向する位置に設けられ、被写体からの光を撮像素子115に導光する。
フォーカスレンズ112は、レンズ駆動部141によって撮像部110の他の構成部材との相対的な位置が制御されることにより、撮像部110の光学系における焦点距離を調整する。具体的には、後述する制御部130のAF部134からの制御により、被写体が撮像素子115の受光面に結像されるようにフォーカスレンズ112が駆動され、焦点距離が調整される。
絞り113は、絞り駆動部142によって開口度合い(開口面積)が制御されることにより、撮像素子115に入射する光の光量(輝度、明るさ、露出値)を調整する。具体的には、後述する制御部130のAE制御部135からの制御により、被写体からの光の露出値が適正露出値になるように、絞り113の開口面積が調整される。
シャッタ114は、機械的なシャッタ機構であり、シャッタ駆動部143によってその開閉が駆動される。具体的には、後述する制御部130のAE制御部135からの制御により、被写体からの光の露出値が適正露出値になるように、シャッタ114の開閉タイミングが調整される。
撮像素子115は、受光素子が2次元状に配列された受光面を有し、当該受光面に入射した光を、その光量に応じた電気信号に変換する。当該電気信号を1つ又は複数の受光素子によって構成される画素ごとに順次読み出すことにより、入射した光に応じた画像を得ることができる。なお、撮像素子115において画素信号がリセットされるタイミングや画素信号が読み出されるタイミング、すなわち電子シャッタの開閉のタイミングは、タイミング発生部144を介して後述する制御部130のAE制御部135によって制御される。なお、以下の説明では、撮像タイミングとは、撮像素子115から画素信号が読み出されるタイミングのことを意味していてよい。例えば、動画やスルー画の場合であれば、所定の撮像タイミングで連続的に撮像素子115から画素信号が読み出されることにより、連続的に撮像が行われる。
なお、本実施形態においては、撮像素子115の種類は特に限定されず、あらゆる公知の撮像素子が用いられてよい。例えば、撮像素子115は、CMOSセンサであってもよく、CCDセンサであってもよい。撮像素子115によって画素ごとに取得された電気信号(画素信号)は、画像信号処理部120に送信される。
画像信号処理部120は、撮像部110によって取得された画素信号に対して各種の信号処理を施すことにより、被写体に対応する画像データを生成する。画像信号処理部120は、例えばCPUやDSP等の信号処理回路によって構成され、情報処理装置及び制御装置として機能する。なお、以下の説明では、画素信号に基づく、撮像装置10の内部、特に画像信号処理部120以降に行われる各種の信号処理の対象となる信号のことを、画像信号とも呼称する。画像信号処理部120によって行われる各種の信号処理の詳細については、図2を参照して後述する。
制御部130は、撮像装置10を統合的に制御するとともに、撮像部110における焦点距離、露出値等を制御することにより、撮像条件を制御する。制御部130は、例えばCPUやDSP等の信号処理回路によって構成され、情報処理装置及び制御装置として機能する。具体的には、制御部130は、レンズ駆動部141を介してフォーカスレンズ112を駆動させ、撮像部110の焦点距離を調整する。また、制御部130は、絞り駆動部142、シャッタ駆動部143及びタイミング発生部144を介して絞り113、シャッタ114及び撮像素子115における電子シャッタを駆動し、撮像部110の露出値を調整する。
制御部130の機能及び構成について詳しく説明する。制御部130は、AE部131、AWB部132、DRC部133、AF部134、AE制御部135及び信号値補正部136を有する。
AE部131は、画像信号処理部120から送信される撮像画像の輝度情報に基づいて、撮像時の露出値及び適正露出値を算出する。ここで、輝度情報とは、被写体(撮像画像)の輝度値に関する情報のことを示す。例えば、輝度情報は、撮像画像内における位置情報(例えば、撮像画像を表示画面上に表示した際の2次元の座標データ)と、各位置における輝度値とが関連付けられた情報であってもよい。適正露出値は被写体の輝度に応じて算出され、被写体の輝度が変化すれば適正露出値も変化する。また、AE部131は、DRC部133から送信されるダイナミックレンジ拡大処理値に基づいて、ダイナミックレンジ拡大処理に伴う露出シフト量である、露出補正値を算出する。AE部131は、算出した露出値、適正露出値及び露出補正値を、AE制御部135に送信する。
AWB部132は、画像信号処理部120から送信される撮像画像の輝度情報に基づいて、適正なホワイトバランスゲインを算出し、後述する画像信号処理部120のWBC部126による画像信号に対するホワイトバランスの調整を制御する。
DRC部133は、画像信号処理部120から送信される撮像画像の輝度情報に基づいて、ダイナミックレンジを拡大させる値である、ダイナミックレンジ拡大処理値を算出する。また、DRC部133は、ダイナミックレンジ拡大処理値をAE部131及び後述する画像信号処理部120のGAMMA部127に送信する。AE部131では、上述したように、ダイナミックレンジ拡大処理値に基づいて露出補正値が算出される。ここで、露出補正値は、ダイナミックレンジ拡大処理値に対応する値であってよい。GAMMA部127では、ダイナミックレンジ拡大処理値に基づいて、画像信号の輝度値を変換するためのガンマカーブ(ガンマ補正値)が算出され、当該ガンマカーブに基づいて、画像信号の輝度値を最終的に出力される画像データでの輝度値に変換するガンマ補正が行われる。このように、DRC133部は、ダイナミックレンジの拡大幅に関する制御値であるダイナミックレンジ拡大処理値を算出する、ダイナミックレンジ拡大処理値算出部として機能する。
AF部134は、画像信号処理部120から送信される撮像画像のコントラスト成分等の情報に基づいて被写体までの距離を検出し、レンズ駆動部141によりフォーカスレンズ112を駆動させることにより焦点距離を調節する。このように、AF部134は、撮像部110におけるフォーカスを制御する、フォーカス制御部として機能する。
AE制御部135は、AE部131によって算出された適正露出値及び/又は露出補正値に基づいて、取得される画像信号の露出値が当該適正露出値及び/又は当該露出補正値に応じた露出値になるように、絞り112、シャッタ114及び撮像素子115における電子シャッタを制御する。更に、AE制御部135は、算出された適正露出値及び/又は露出補正値に基づいて、画像信号に作用させるゲインを算出し、後述する画像信号処理部120のDAMP部124による画像信号の増幅を制御する。ここで、露出補正値に応じた露出値とは、露出値を露出補正値の分だけシフトさせた露出値のことであってよい。露出値を露出補正値の分だけシフトさせることによって、ダイナミックレンジの拡大処理を行うことが可能となる。このように、AE部131及びAE制御部135は、撮像部110における露出値に関する各種の物理量を算出し、当該物理量に基づいて撮像部110における露出値を制御する、露出制御部として機能する。
信号値補正部136は、AE部131、AWB部132及びDRC部133に入力される輝度情報を、ダイナミックレンジ拡大処理値に基づいて補正する。具体的には、信号値補正部136は、DRC部133によって算出されたダイナミックレンジ拡大処理値に基づいて、輝度情報を表す信号を補正するための信号補正値を算出する。そして、信号値補正部136は、当該信号補正値に基づいて、画像信号処理部120からAE部131、AWB部132及びDRC部133に送信される輝度情報を表す信号の信号値を補正する。このように、信号値補正部136は、信号補正値を算出した後、次の撮像タイミングで新たに取得された画像信号に基づく輝度情報を表す信号の信号値を、当該信号補正値で補正する。
なお、図1に示す例では、信号値補正部136は、制御部130に設けられているが、本実施形態はかかる例に限定されない。例えば、信号値補正部136は、画像信号処理部120に設けられてもよい。信号値補正部136が画像信号処理部120に設けられる場合、信号値補正部136は、画像信号処理部120からAE部131、AWB部132及びDRC部133に送信される前の輝度情報を補正してもよい。更に、信号値補正部136は、輝度情報が取得される前の画像信号の信号値を補正することにより、最終的にAE部131、AWB部132及びDRC部133に入力される輝度情報を補正してもよい。
なお、信号値補正部136の機能及び画像信号処理部120と制御部130の各構成要素間の各種の信号のやり取りの詳細については、図2及び図3を参照して後述する。
以上説明したように、本実施形態においては、AE部131によって、輝度情報に基づいて、撮像時の露出値及び適正露出値が算出される。また、DRC部133によって、輝度情報に基づいて、ダイナミックレンジを拡大させる値である、ダイナミックレンジ拡大処理値が算出される。また、当該ダイナミックレンジ拡大処理値に基づいて、AE部131によって、ダイナミックレンジ拡大処理に伴う露出シフト量である、露出補正値が算出される。更に、後述するGAMMA部127によって、ダイナミックレンジ拡大処理値に基づいて、画像信号の輝度値を変換するためのガンマカーブが算出され、当該ガンマカーブに基づいて、画像信号の輝度値を最終的に出力される画像データでの輝度値に変換するガンマ補正が行われる。このように、DRC部133によって算出されたダイナミックレンジ拡大処理値に応じた輝度値の分だけ露出値がアンダーにシフトされ、当該露出シフト後の撮像画像の輝度値をガンマカーブで補正する(ガンマ補正する)ことにより、高輝度部のダイナミックレンジを拡大する処理が行われる。
撮像装置10の説明を続ける。レンズ駆動部141、絞り駆動部142及びシャッタ駆動部143は、例えばモータ、アクチュエータ等の機構を有する駆動装置である。レンズ駆動部141は、AE制御部135からの制御によりフォーカスレンズ112を駆動し、撮像部110の焦点距離を調整する。絞り駆動部142は、AE制御部135からの制御により絞り113を駆動し、撮像画像の露出値を調整する。シャッタ駆動部143は、AE制御部135からの制御によりシャッタ114を駆動し、絞り113と併せて撮像画像の露出値を調整する。
タイミング発生部144は、撮像素子115に対して、画素信号リセット用の信号及び/又は画素信号読出し用の信号等を所定のタイミングで印加する。具体的には、タイミング発生部144は、AE制御部135からの制御により、撮像素子115の電子シャッタの開閉を駆動することにより、動画撮影時又はライブビュー時のスルー画に対する露出値を調整する。
SDRAM152は、撮像装置10に搭載される記憶媒体の一例である。SDRAM152は、画像信号処理部120によって各種の信号処理が施された画像信号を、画像データとして所定のフォーマットで記憶する。なお、本実施形態においては、画像データを保存する記憶媒体はSDRAM152に限定されず、各種の公知の記憶媒体が用いられてよい。
LCDドライバ153は、LCD154を駆動するためのドライバである。また、LCD154は、撮像装置10に搭載される表示装置の一例である。LCDドライバ153は、例えば、SDRAM152に記憶されている画像データを表示画面に表示するようにLCD154を駆動する。なお、本実施形態においては、画像データを表示する表示装置はLCD154に限定されず、各種の公知の表示装置が用いられてよい。また、撮像装置10に搭載される表示装置に応じて、当該表示装置を駆動するためのドライバも適宜選択され搭載されてよい。
メディアコントローラ155は、記録メディア156を駆動するためのドライバである。また、記録メディア156は、外部記憶装置の一例である。メディアコントローラ155は、各種のデータを記録メディア156に書き込むことができる。また、メディアコントローラ155は、各種のデータを記録メディア156から読み出すことができる。例えば、メディアコントローラ155は、記録メディア156に画像データを書き込んだり、記録メディア156から画像データを読み出してLCD154に表示させたりすることができる。なお、本実施形態においては、記録メディア156の種類は特に限定されず、各種の公知の外部記憶装置が用いられてよい。また、メディアコントローラ155の種類は、当該外部記憶装置の種類に応じて適宜選択され搭載されてよい。
操作手段160は、ユーザからの各種の操作に関する情報(操作情報)を撮像装置10に入力するためのインターフェースである。例えば、操作手段160から入力された各種の操作情報は制御部130に入力され、制御部130によって当該操作情報に応じた各種の処理が行われる。具体的には、例えば、操作手段160は、ボタン、タッチパネル、スイッチ及びレバー等のユーザによって操作される操作手段である。また、操作手段160は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよい。更に、操作手段160は、例えば、上記の操作手段を用いてユーザにより入力された操作情報に基づいて入力信号を生成し、制御部130に出力する入力制御回路等から構成されている。撮像装置10のユーザは、この操作手段160を操作することにより、撮像装置10に対して各種のデータを入力したり処理動作を指示したりすることができる。
以上、図1を参照して、本開示の一実施形態に係る撮像装置10の一構成例について説明した。なお、本実施形態に係る撮像装置10の構成は、図1に示す例に限定されず、以上説明した機能と同様の機能を有する限りにおいて、適宜変更されてよい。例えば、図1に示す例では、画像信号処理部120と制御部130とは別個の回路(CPU、DSP等)によって構成され、相互にバス151によって接続されているが、本実施形態はかかる例に限定されない。例えば、画像信号処理部120及び制御部130は、1つの回路(CPU、DSP等)として構成されてもよい。
<2.画像信号処理部及び制御部の構成>
次に、図1に示す撮像装置10における画像信号処理部120及び制御部130の概略構成について説明するとともに、画像信号に対する処理について説明する。なお、以下の説明では、まず、[2.1.本実施形態に係る構成]で、図2を参照して、本実施形態に係る撮像装置10における画像信号処理について説明する。次いで、[2.2.従来の構成]で、図4を参照して、従来の撮像装置における画像信号処理について説明し、本実施形態との相違点を明らかにする。
[2.1.本実施形態に係る構成]
図2を参照して、本実施形態に係る撮像装置10における画像信号処理部120及び制御部130の概略構成について説明するとともに、画像信号に対する処理について説明する。図2は、本実施形態に係る画像信号処理部120及び制御部130の一構成例を示す機能ブロック図である。なお、本項においては、撮像装置10の中でも、画像信号処理部120及び制御部130における信号処理について主に説明を行う。そのため、図2では、簡単のため、撮像装置10の構成のうち、撮像部110、画像信号処理部120及び制御部130以外の構成については、図示を省略している。
図2を参照すると、画像信号処理部120は、DPC部121、OBR部122、LSC部123、DAMP部124、SIGMA部125、WBC部126、GAMMA部127及びフォーマット変換部128を有する。
撮像部110によって取得された画素信号(画像信号)は、まず、画像信号処理部120のDPC部121に入力される。
DPC部121は、画像信号に対して画素欠陥を補正する処理を行う。具体的には、撮像部110から送信された画素信号に基づいて、白点(暗時出力大)画素等の欠陥画素の画素信号を、周囲の画素の画素信号の平均値等で補完する処理を行う。DPC部121は、画素欠陥の補正処理を行った後の画像信号を、OBR部122に送信する。
OBR部122は、画像信号に対して光学的暗部レベルを補正する処理を行う。撮像部110の撮像素子115に含まれる複数の受光素子の中には、例えば、光学的暗部レベルの基準となるOB画素(Optical Black画素)が用意されている。例えば、OBR部122は、当該OB画素の画素信号に基づいて光学的な黒の基準を設定し、当該基準を利用して画像信号の光学的暗部レベルを補正する処理を行う。OBR部122は、光学的暗部レベルの補正処理を行った後の画像信号を、LSC部123に送信する。
LSC部123は、画像信号に対してシェーディング特性を補正する処理を行う。具体的には、例えば、撮像部110の画素信号の読み出し特性等に基づいてそのシェーディング特性に対する補正係数が予め設定されており、LSC部123は、当該補正係数に基づいて、画像信号に対してシェーディング特性を補正する処理を行う。LSC部123は、シェーディング特性の補正処理を行った後の画像信号を、DAMP部124に送信する。
DAMP部124は、増幅器の一例であり、画像信号を所定のゲインで増幅する。例えば、DAMP部124はデジタルアンプであり、撮像部110の絞り113やシャッタ114の設定に応じて設定される露出値に基づいて決定されるゲインによって、画像信号を増幅する処理を行う。DAMP部124は、増幅処理を行った後の画像信号を、SIGMA部125及びWBC部126に送信する。
SIGMA部125は、画像信号に基づいて撮像画像の輝度値を検出し、所定の領域ごとの輝度に関する輝度情報を取得する。ここで、当該所定の領域は、撮像画像に対応する画面上を複数の領域に分割することによって予め設定されている。例えば、当該所定の領域は複数の画素から構成される領域であってよく、SIGMA部125は、当該領域に含まれる画素に対応する画像信号を積算することにより、当該領域ごとの輝度を検出し、輝度情報を取得する。また、例えば、当該所定の領域は1つの画素に対応する領域であってよく、SIGMA部125は、画像信号を積算することなく、画素ごとの輝度を検出し、輝度情報を取得してもよい。更に、撮像部110がカラーフィルタ等を有し、画像信号がR、G、B等の分光特性を有している場合には、SIGMA部125は、波長帯域ごとに(R、G、Bごとに)画像信号を積算してもよい。ただし、本実施形態においては、画像信号は分光特性を有していなくてもよく、撮像画像はカラー画像ではない、いわゆるモノクロ画像であってもよい。このように、SIGMA部125は、撮像部110によって取得された画像信号に基づいて、被写体の輝度に関する輝度情報を取得する、輝度情報取得部として機能する。SIGMA部125は、取得した輝度情報を制御部130の信号値補正部136に送信する。なお、当該輝度情報を含む、画像信号処理部120と制御部130との間の各種の信号のやり取りについては、後で詳しく説明する。
WBC部126は、画像信号に対してホワイトバランスを補正する処理を行う。具体的には、WBC部126は、制御部130のAWB部132によって算出されるホワイトバランスゲインに基づいて、画像信号に対してホワイトバランス補正する処理を行う。WBC部126は、ホワイトバランスの補正処理を行った後の画像信号を、GAMMA部127に送信する。
GAMMA部127は、ガンマカーブに基づいて、画像信号の輝度値を最終的に出力される画像データでの輝度値に変換するガンマ補正処理(ガンマ変換処理)を行う。ここで、GAMMA部127は、画像信号に含まれる輝度情報や階調に関する情報に基づいて、ガンマカーブを適宜設定してもよい。例えば、GAMMA部127は、制御部130のDRC部133によって算出されるダイナミックレンジ拡大処理値に基づいて、画像信号の輝度値を変換するためのガンマカーブを設定し、当該ガンマカーブに基づいて、ガンマ補正処理を行う。このように、GAMMA部127は、画像信号の輝度値に対してガンマ補正を行うガンマ補正部として機能する。GAMMA部127は、ガンマ補正処理を行った後の画像信号を、フォーマット変換部128に送信する。
フォーマット変換部128は、画像信号を、最終的に表示画面に表示する画像データのフォーマットに変換する処理を行う。例えば、フォーマット変換部128は、画像信号を、RGBフォーマットからYCCフォーマットに変換する処理を行う。
次に、制御部130における信号処理について説明する。なお、制御部130のAE部131、AWB部132、DRC部133、AF部134、AE制御部135及び信号値補正部136の機能については、図1を参照して上述しているため、ここでは、画像信号処理部120との間の信号のやり取りについて主に説明を行う。
上述したように、画像信号処理部120のSIGMA部125によって取得された画像信号の輝度情報は、制御部130の信号値補正部136に送信される。信号値補正部136は、AE部131、AWB部132及びDRC部133に入力される輝度情報を、ダイナミックレンジ拡大処理値に基づいて補正する。具体的には、信号値補正部136は、DRC部133によって算出されたダイナミックレンジ拡大処理値に基づいて、輝度情報を表す信号の信号値を補正するための信号補正値を算出する。そして、信号値補正部136は、当該信号補正値に基づいて当該信号値を補正し、補正後の輝度情報をAE部131、AWB部132及びDRC部133に入力する。このように、信号値補正部136は、信号補正値を算出した後、次の撮像タイミングで新たに取得された画像信号に基づく輝度情報を表す信号の信号値を、当該信号補正値で補正する。なお、最初の撮像タイミングで取得された画像信号に基づく輝度情報に対しては、ダイナミックレンジ拡大処理値が算出されておらず、従って補正信号値も算出されていないため、信号値補正部136は、補正を行わずに輝度情報をAE部131、AWB部132及びDRC部133に入力してもよい。
上述したように、AE部131では、当該輝度情報に基づいて、撮像時の露出値及び適正露出値が算出される。また、AE部131による算出結果に基づいて、AE制御部135が、撮像部110の絞り113やシャッタ114等を調整し、露出値が当該適正露出値になるように、撮像部110の露出値を制御する。更に、AWB部132では、当該輝度情報に基づいて、適正なホワイトバランスゲインが算出される。また、図2には明示していないが、画像信号処理部120は、フォーカスを調整するための撮像画像のコントラスト等に関する情報を検出する機能を有していてもよく、検出された情報に基づいて、AF部134が、撮像部110のフォーカスレンズ112を駆動させることにより、撮像部110の焦点距離を制御する。
更に、DRC部133では、当該輝度情報に基づいて、ダイナミックレンジを拡大させる値である、ダイナミックレンジ拡大処理値が算出される。また、当該ダイナミックレンジ拡大処理値に基づいて、AE部131は、ダイナミックレンジ拡大処理に伴う露出シフト量である、露出補正値を算出する。また、GAMMA部127では、当該ダイナミックレンジ拡大処理値に基づいて、画像信号の輝度値を変換するためのガンマカーブが算出され、当該ガンマカーブに基づいて、画像信号の輝度値を最終的に出力される画像データでの輝度値に変換するガンマ補正が行われる。このように、DRC部133によって算出されたダイナミックレンジ拡大処理値に応じた輝度値の分だけ露出値がアンダーにシフトされ、当該露出シフト後の画像信号の輝度値をガンマカーブで補正する(ガンマ補正する)ことにより、高輝度部のダイナミックレンジを拡大する処理が行われる。
ここで、信号値補正部136による輝度情報の補正処理は、AE制御部135によって露出補正値の分だけアンダーにシフトされている輝度情報に含まれる輝度値を、当該露出補正値の分だけ逆方向にシフトさせる処理であってよい。つまり、信号値補正部136によって算出される信号補正値は、ダイナミックレンジ拡大処理値に相当する露出補正値であってよく、信号値補正部136は、当該輝度値の分だけアンダーにシフトされている輝度情報に対して、当該露出補正値の分だけ輝度情報に含まれる輝度値を増加させる処理を行ってよい。
具体的には、ダイナミックレンジ拡大処理値は、輝度値の拡大幅であるため、例えば露出値を表す数値であるEV値で表現される。例えば、ダイナミックレンジ拡大処理値がΔEVであるとすると、露出補正値は−ΔEVである(次回のタイミングにおける撮像画像の露出値(EV)がΔEVだけアンダーにシフトされる)。このとき、例えば、信号補正値αは以下の値を取る。
SIGMA部125によって取得された輝度情報が、入射光量に対して線形特性を持つ場合には、信号値補正部136は、信号補正値をα=2ΔEVとして算出する。更に、信号値補正部136は、当該αをSIGMA部125から送信される輝度情報を表す信号の信号値に乗算することにより、当該輝度情報を補正する。
SIGMA部125によって取得された輝度情報が、入射光量に対して対数特性を持つ場合には、信号値補正部136は、信号補正値をα=ΔEVとして算出する。更に、信号値補正部136は、当該αをSIGMA部125から送信される輝度情報を表す信号の信号値に加算することにより、当該輝度情報を補正する。
このように、信号値補正部136は、輝度情報の撮像部110への入射光量に対する線形特性に応じて、異なる種類の信号補正値を算出することができる。また、上記のように信号補正値αが算出される場合、ΔEVの値が0であれば、信号補正値は0又は1となり、輝度情報を表す信号の信号値は補正前後で変化しない。従って、ダイナミックレンジ拡大処理値が算出されていない場合、及びダイナミックレンジ拡大処理値が算出されたがその値(ΔEV)が0である場合(ダイナミック拡大処理が行われない場合)には、信号値補正部136は、ΔEVが0、すなわち、信号補正値αが1又は0であるとして、輝度情報を補正してもよい。
以上説明したように、信号値補正部136は、AE部131によって算出された露出補正値に対応する分だけ、輝度情報に含まれる輝度値を増加させる処理を行う。従って、ダイナミックレンジ拡大処理に伴う露出値のシフトによって画像信号の輝度値が変化しても、信号値補正部136による輝度情報の補正により、当該露出シフト分が相殺されるため、ダイナミックレンジ拡大処理を適用する場合と適用しない場合とで、AE部131やDRC部133に入力されるデータが変化しない。よって、ダイナミックレンジ拡大処理を動画やスルー画に動的に適用しても安定的な動作を得ることができる。
なお、以上説明したように、AE部131は、輝度情報に基づいて、画像信号の露出値及び適正露出値を算出し、AE制御部135は、露出値が当該適正露出値になるように、撮像部110の露出値を制御する。また、AE部131は、ダイナミックレンジ拡大処理値に基づいて、ダイナミックレンジ拡大処理に伴う露出値のシフト量である露出補正値を算出し、AE制御部135は、露出値が当該露出補正値の分シフトするように、撮像部110の露出値を制御する。つまり、AE制御部135は、適正露出値に基づく露出値の制御と、露出補正値に基づく露出値の制御との双方を行う。
ここで、撮像画像の明るさが急激に変化する場合を想定すると、適正露出値が急劇に変化するため、AE制御部135が露出値を適正露出値に近付ける制御に一定の時間を要する場合がある。このようにAE制御部135が露出値を適正露出値に調整している最中にダイナミックレンジ拡大処理が行われると、ダイナミックレンジ拡大処理値の算出に用いられる輝度情報が変化している最中であるため、ダイナミックレンジ拡大処理値が変動する可能性がある。従って、AE制御部135による露出値の調整よりも遅い速度でダイナミックレンジ拡大処理が行われる場合にはさほど問題にはならないが、ダイナミックレンジ拡大処理値の算出アルゴリズムによっては、最終的に出力される画像データの明るさが一部不安定な変化をする可能性がある。
上記の現象を防止するために、本実施形態においては、AE制御部135による露出値の調整が終了するまで、DRC部133がダイナミックレンジ拡大処理値を更新しないようにしてもよい。つまり、DRC部133は、AE部131によって算出される露出値と適正露出値との差分が所定のしきい値以下である場合に、ダイナミックレンジ拡大処理値を更新してもよい。
以上、図2を参照して説明したように、本実施形態においては、信号値補正部136によって、AE部131によって算出された露出補正値に対応する分だけ、輝度情報に含まれる輝度値を増加させる処理が行われる。従って、ダイナミックレンジ拡大処理に伴う露出値のシフトによって画像信号の輝度値が変化しても、信号値補正部136による輝度情報の補正により、当該露出シフト分が相殺されるため、ダイナミックレンジ拡大処理を適用する場合としない場合とで、AE部131やDRC部133に入力されるデータが変化しない。よって、ダイナミックレンジ拡大処理を動画やスルー画に動的に適用しても安定的な動作を得ることができる。
なお、図2に示す例では、信号値補正部136は、制御部130に設けられているが、本実施形態はかかる例に限定されない。例えば、上述したように、信号値補正部136は、画像信号処理部120に設けられてもよい。信号値補正部136が画像信号処理部120に設けられる場合、信号値補正部136は、画像信号処理部120からAE部131、AWB部132及びDRC部133に送信される前の輝度情報を補正してもよい。更に、信号値補正部136は、輝度情報が取得される前の画像信号、すなわち、SIGMA部125に入力される前の画像信号の信号値を補正することにより、最終的にAE部131、AWB部132及びDRC部133に入力される輝度情報を補正してもよい。
本実施形態の変形例として、このような、信号値補正部136がSIGMA部125に入力される前の画像信号の信号値を補正する場合について、図3を参照して説明する。図3は、本実施形態の一変形例に係る撮像装置における、画像信号処理部120及び制御部130の一構成例を示す機能ブロック図である。なお、図3に示す実施形態は、図2に示す実施形態の変形例に当たるものであるため、以下の図3についての説明では、その相違点について主に説明を行う。
図3を参照すると、本変形例においては、図2に示す例とは異なり、信号値補正部136が画像信号処理部120のSIGMA部125の前段に設けられる。そして、信号値補正部136は、算出した信号補正値に基づいて、SIGMA部125に入力される画像信号の信号値を補正する。
ここで、上述したように、撮像素子115では、受光面に入射した光が、その光量に応じた電気信号に変換され、画素信号として順次読み出される。従って、アンプ等による増幅処理や各種フィルタによるノイズ除去処理等が行われているとしても、画像信号の信号値自体が、被写体及び撮像画像の輝度値を表すものであるといえる。よって、信号値補正部136がSIGMA部125に入力される画像信号の信号値を補正する場合であっても、SIGMA部125における画像信号から輝度情報を取得する方法等に応じて、適切な補正を行うことにより、SIGMA部125から出力される輝度情報を表す信号の信号値を補正する場合と、同様の補正を行うことができる。
このように、信号値補正部136は、SIGMA部125に入力される画像信号及びSIGMA部125から出力される輝度情報を表す信号の少なくともいずれかの信号値を補正することにより、最終的にAE部131、AWB部132及びDRC部133に入力される輝度情報を補正してもよい。
なお、本実施形態の更なる変形例として、例えば、信号値補正部136は複数設けられてもよい。信号値補正部136が複数設けられる場合、信号値補正部136は、SIGMA部125に入力される画像信号及びSIGMA部125から出力される輝度情報を表す信号の少なくともいずれかの信号値を複数回補正することにより、最終的にAE部131、AWB部132及びDRC部133に入力される輝度情報を補正してもよい。また、その場合、信号値補正部136は、画像信号処理部120及び制御部130の双方に設けられてもよく、また、SIGMA部125の前段及び後段の双方に設けられてもよい。このように、本実施形態においては、信号値補正部136が、最終的にAE部131、AWB部132及びDRC部133に入力される輝度情報を表す信号の信号値を、信号補正値αに対応する分だけ補正できればよく、画像信号処理部120及び制御部130の構成は特に限定されない。信号値補正部136は、画像信号処理部120から制御部130に向かって輝度情報及び当該輝度情報が取得される元となる画像情報が送信されるライン上に少なくとも1つ設けられればよい。
[2.2.従来の構成]
次に、図4を参照して、従来の一般的な撮像装置における画像信号処理部及び制御部の概略構成について説明するとともに、画像信号に対する処理について説明する。図4は、従来の撮像装置における、画像信号処理部及び制御部の一構成例を示す機能ブロック図である。
なお、図4では、図2と同様、撮像装置の構成のうち、撮像部110、画像信号処理部120及び制御部930以外の構成については、図示を省略している。また、図4に示す各構成のうち、撮像部110及び画像信号処理部120の機能及び構成は、図1及び図2に示す撮像部110及び画像信号処理部120の機能及び構成と同様であるため、詳細な説明は省略する。従って、図4では、本実施形態との相違点である、制御部930の機能及び構成について主に説明を行う。
図4を参照すると、従来の撮像装置の制御部930は、AE部931、AWB部932、DRC部933、AF部934及びAE制御部935を有する。ここで、これらAE部931、AWB部932、DRC部933、AF部934及びAE制御部935の機能は、図2に示す本実施形態に係るAE部131、AWB部132、DRC部133、AF部134及びAE制御部135の機能と同様であるため、詳細な説明は省略する。つまり、図4に示す従来の撮像装置の制御部930は、信号値補正部136を有さない点で、本実施形態に係る制御部130と相違する。
従って、図4に示すように、従来の撮像装置では、SIGMA部125によって取得された輝度情報が、補正されることなく、直接AE部931、AWB部932及びDRC部933に入力される。ここで、従来の撮像装置において、ダイナミックレンジ拡大処理が行われた場合を考える。ダイナミックレンジ拡大処理が行われると、DRC部933によって、ダイナミックレンジの拡大幅に対応するダイナミックレンジ拡大処理値が算出される。また、AE部931によって、当該ダイナミックレンジ拡大処理値に対応する露出補正値が算出され、AE制御部935によって、当該露出補正値の分だけ露出値をアンダーにシフトするように、撮像部110の露出値が制御される。更に、GAMMA部127によって、当該露出シフト後の画像信号の輝度値を補正するガンマ補正処理が行われる。
従って、従来の撮像装置においては、ダイナミックレンジ拡大処理が行われた次のタイミングでSIGMA部125によって取得される輝度情報は、露出補正値の分だけ露出値がシフトされた画像情報に基づく輝度情報である。よって、動画やスルー画において、上記のAE部931、DRC部933、AE制御部935及びGAMMA部127における処理が連続的に実行されると、露出値のシフトとガンマ補正により最終的に出力される画像データの輝度は変化しないが、被写体に変化がないにもかかわらず露出値をシフトした分だけSIGMA部125で得られる輝度情報は変化してしまう。よって、AE部931やDRC部933に入力されるデータが変化し、その演算結果も変化してしまう。被写体の状態によっては露出値が一定の値に安定せず、露出値が上下に振動してしまうハンティング現象が発生してしまう可能性がある。
以上、図4を参照して説明したように、従来の撮像装置においては、ダイナミックレンジ拡大処理が行われると、当該拡大幅に対応する輝度値の分だけ露出値がアンダーにシフトされた画像信号に基づく輝度情報が、AE部931、AWB部932及びDRC部933に入力される。つまり、ダイナミックレンジ拡大処理を行うことによって、AE部931、AWB部932及びDRC部933に入力される輝度情報が変化するため、適正露出値、ダイナミックレンジ拡大処理値及び露出補正値等の値の算出処理が安定的に行われない可能性がある。
一方、上述したように、本実施形態においては、ダイナミックレンジ拡大処理が行われる場合であっても、信号値補正部136によって、AE部131、AWB部132及びDRC部133に入力される輝度情報が補正されるため、より安定した動作を得ることができる。
また、図2、図3及び図4に示すように、本実施形態においては、従来の構成に対して信号値補正部136を更に設けることにより、従来にない優れた効果を得ることができる。従って、本実施形態によれば、従来の構成に対して大規模な変更を行うことなく本実施形態を実現することができるため、既存の構成を変更するコストをより抑えながら、ダイナミックレンジ拡大処理をより安定的に行うことが可能となる。
<3.ダイナミックレンジ拡大処理手順>
次に、図5を参照して、本実施形態に係るダイナミックレンジ拡大処理手順及び、当該ダイナミックレンジ拡大処理手順を含む撮像方法について説明する。図5は、本実施形態に係るダイナミックレンジ拡大処理手順を示すフロー図である。なお、図5では、図2に示す構成例に対応したダイナミックレンジ拡大処理手順を示している。つまり、図5に示すダイナミックレンジ拡大処理手順は、信号値補正部136が、SIGMA部125から出力される輝度情報を表す信号の信号値を補正する場合の処理手順を示している。
図5を参照すると、まず、ステップS201で、SIGMA部125によって画像信号から輝度値が検出され、輝度情報が取得される。
次に、ステップS203で、信号値補正部136によって、信号補正値に基づいて輝度情報が補正される。ここで、上記<2.画像信号処理部及び制御部の構成>で説明したように、ダイナミックレンジ拡大処理値が算出されていない場合、及びダイナミックレンジ拡大処理値が算出されたがその値が0である場合(ダイナミック拡大処理を行わない場合)には、信号補正値が0又は1であるとして、信号値補正部136は輝度情報を補正してもよい。ダイナミックレンジ拡大処理値が算出されていない場合とは、具体的には、例えば、撮像を開始した最初の撮像タイミング等である。当該撮像タイミングにおける撮像画像では、その前の撮像タイミングで取得された輝度情報が存在しないため、ダイナミックレンジ拡大処理値が算出されておらず、信号補正値も算出されていない。このように、ステップS203に示す処理は、撮像部110によって新たに(次の撮像タイミングで)取得された画像信号に基づく輝度情報を表す信号の信号値を補正する処理に対応する。
次に、ステップS205で、AE部131が、輝度情報に基づいて適正露出値を算出する。
次に、ステップS207で、算出された適正露出値に基づいて、AE制御部135によって、撮像部110の露出値が制御される。具体的には、例えば、AE制御部135は、適正露出値に基づいて、撮像部110の絞り113、シャッタ114及び撮像素子115の電子シャッタを駆動することにより、撮像部110の露出値を制御する。また、AE制御部135は、適正露出値に基づいて、画像信号処理部120のDAMP125のゲインを制御してもよい。
次に、ステップS209で、制御後の露出値と適正露出値との差分が所定のしきい値以下であるかどうかが判断される。当該差分が所定のしきい値以下でない場合には、ステップS207に戻り、AE制御部135による露出値の制御を継続する。当該差分が所定のしきい値以下である場合には、ステップS211に進む。
ステップS211では、DRC部133によって、輝度情報に基づいて、ダイナミックレンジ拡大処理値が算出される。
次に、ステップS213で、算出されたダイナミックレンジ拡大処理値に基づいて、AE部131によって露出補正値が算出され、GAMMA部127によってガンマカーブ(ガンマ補正値)が算出される。
次に、ステップS215で、算出された露出補正値に基づいて、AE制御部135によって撮像部110の露出値が制御される。具体的には、例えば、AE制御部135は、露出補正値の分だけ撮像部110の輝度値をアンダーにシフトするように、撮像部110の露出値を制御する。また、ステップS215では、算出されたガンマカーブに基づいて、GAMMA部127によって画像信号に対するガンマ補正処理が行われる。更に、ガンマ補正が行われた後の画像信号は、適宜その画像フォーマットが変換された後に、例えばLCD154等の表示装置に表示される(ステップS217)。
次に、ステップS219で、ステップS211で算出されたダイナミックレンジ拡大処理値に基づいて、信号値補正部136によって、信号補正値が算出される。ここで、信号補正値は、具体的には、上記<2.画像信号処理部及び制御部の構成>で説明したαであってよい。また、ステップS219で、信号値補正部136は、輝度情報が線形特性を有しているかどうかに応じて、異なる種類の信号補正値を算出してもよい。
信号補正値が算出されると、ステップS201に戻り、上記の一連の処理が繰り返し行われる。ここで、ステップS201〜ステップS219の処理が繰り返されるタイミングは、撮像部110から画素信号が読み出されるタイミングであってよく、当該タイミングは、例えば撮像素子115の電子シャッタの開閉タイミングに応じて決定される。なお、当該タイミングは、撮像素子115の特性等に応じて適宜設定されてよい。
また、上述したように、図5では、ダイナミックレンジ拡大処理手順の一例として、信号値補正部136がSIGMA部125から出力される輝度情報を表す信号の信号値を補正する場合の処理手順を示した。ただし、上記<2.画像信号処理部及び制御部の構成>で図3を参照して説明したように、本実施形態においては、信号値補正部136がSIGMA部125の前段に設けられ、SIGMA部125に入力される画像信号を補正してもよい。信号値補正部136がSIGMA部125に入力される画像信号を補正する場合、例えば、図5に示すフローにおいてステップS201の処理とステップS203の処理の順序が入れ換えられた処理手順が行われる。
<4.まとめ>
以上説明したように、本実施形態においては、以下の効果を得ることができる。
本実施形態においては、信号値補正部136によって、AE部131、AWB部132及びDRC部133に入力される輝度情報を補正する処理が行われる。具体的には、AE部131によって算出された露出補正値に対応する輝度値の分だけ、輝度情報に含まれる輝度値を増加させる処理が行われる。従って、ダイナミックレンジ拡大処理に伴う露出値のシフトによって画像信号の輝度値が変化しても、信号値補正部136による輝度情報の補正により、当該露出シフト分が相殺されるため、ダイナミックレンジ拡大処理を適用する場合としない場合とで、AE部131やDRC部133に入力されるデータが変化しない。よって、ダイナミックレンジ拡大処理を動画やスルー画に動的に適用しても安定的な動作を得ることができる。更に、本実施形態においては、従来の構成に対して信号値補正部136を更に設けることにより、従来にない優れた効果を得ることができる。従って、本実施形態によれば、従来の構成に対して大規模な変更を行うことなく本実施形態を実現することができるため、既存の構成を変更するコストをより抑えながら、ダイナミックレンジ拡大処理をより安定的に行うことが可能となる。なお、信号値補正部136による輝度情報の補正処理は、輝度情報が取得される前段の画像信号に対して行われてもよい。
また、本実施形態においては、DRC部133は、AE部131によって算出される露出値と適正露出値との差分が所定のしきい値以下である場合に、ダイナミックレンジ拡大処理値を算出してもよい。このように、撮像部110の露出値が安定してからダイナミックレンジ拡大処理が行われることにより、一連のダイナミックレンジ拡大処理において、更に安定的な動作を得ることができる。
更に、本実施形態においては、信号値補正部136は、輝度情報の撮像部への入射光量に対する線形特性に応じて、異なる種類の信号補正値を算出してもよい。具体的には、例えば、信号値補正部136は、輝度情報が線形特性を有する場合には、信号補正値αを輝度ΔEVに関して指数の形式で算出し、輝度情報が非線形特性(対数特性)を有する場合には、信号補正値αを輝度ΔEVに関して直線(リニア)の形式で算出する。このように、輝度情報の特性に応じて、信号補正値を使い分けることにより、より高い精度で輝度情報の補正を行うことができる。よって、一連のダイナミックレンジ拡大処理において、更に安定的な動作を得ることができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。