JP2013128184A - 撮像装置及び撮像方法 - Google Patents
撮像装置及び撮像方法 Download PDFInfo
- Publication number
- JP2013128184A JP2013128184A JP2011276468A JP2011276468A JP2013128184A JP 2013128184 A JP2013128184 A JP 2013128184A JP 2011276468 A JP2011276468 A JP 2011276468A JP 2011276468 A JP2011276468 A JP 2011276468A JP 2013128184 A JP2013128184 A JP 2013128184A
- Authority
- JP
- Japan
- Prior art keywords
- line
- correction value
- predetermined time
- pixel
- pixel data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
Abstract
【課題】精度良く露光ムラを低減するための補正値を演算することが可能な技術を提供する。
【解決手段】第一のリセット動作から第一の所定時間経過時に遮光羽根に第一のライン上を走行させるとともに第二のリセット動作から第二の所定時間経過時に遮光羽根に第二のライン上を走行させる走行制御部と、第一のラインに蓄積された電荷を遮光羽根が第一のライン上を走行した後に第一の画素データとして出力するとともに第二のラインに蓄積された電荷を遮光羽根が第二のライン上を走行した後に第二の画素データとして出力する画素データ出力部と、第一の画素データと第二の画素データと第一の所定時間と第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算する演算部と、を備えることを特徴とする、撮像装置が提供される。
【選択図】図1
【解決手段】第一のリセット動作から第一の所定時間経過時に遮光羽根に第一のライン上を走行させるとともに第二のリセット動作から第二の所定時間経過時に遮光羽根に第二のライン上を走行させる走行制御部と、第一のラインに蓄積された電荷を遮光羽根が第一のライン上を走行した後に第一の画素データとして出力するとともに第二のラインに蓄積された電荷を遮光羽根が第二のライン上を走行した後に第二の画素データとして出力する画素データ出力部と、第一の画素データと第二の画素データと第一の所定時間と第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算する演算部と、を備えることを特徴とする、撮像装置が提供される。
【選択図】図1
Description
本発明は、撮像装置及び撮像方法に関する。
近年、DSLR(Digital Single Lens Reflex camera)等といったフォーカルプレーンシャッタを搭載したデジタルカメラにおいて、メカ後幕シャッタの動作特性と一致するようにライン毎に露光開始タイミングを制御する、電子先幕シャッタ技術を用いたデジタルカメラが商品化されている。従来の先幕メカシャッタを用いたデジタルカメラにおいては、ライブビュー状態から静止画撮影動作に移行する際、メカシャッタをチャージして撮像素子を遮光状態にしてから、先幕メカシャッタ、メカ後幕シャッタの順に撮像素子の前を走行させることで露光を行う。
これに対し、電子先幕シャッタ技術を用いると、ライブビューから静止画撮影動作に移行する際、メカシャッタをチャージする必要がなくなり、撮影指示から撮影開始までのタイムラグ(シャッタラグ)を最小限に抑えることが可能である。また、メカシャッタ自体を小型化、低コスト化することが可能である。
しかしながら、電子先幕シャッタ技術には露光ムラの問題が存在する。露光ムラとは、画面の領域毎に露光量がばらつくことであり、露光ムラの主な要因としては、電子先幕シャッタの走行特性とメカ後幕シャッタの走行特性との間の誤差が挙げられる。特にメカシャッタの走行特性は、姿勢差や温度、湿度などの環境や経時変化等により変化するのに対し、電子先幕シャッタは、これらの条件により変化しないため、露光ムラが問題となる。
また、電子先幕シャッタが撮像面を走行するのに対し、メカシャッタは撮像面から離れて走行するため、撮像面に対する光束の入射角度によっても誤差が生じる。これらの誤差は、レンズの焦点距離、ズーム位置、絞り値などによっても変化し得る。これらの誤差に起因する露光ムラを抑制するため、これらの条件をもとに電子先幕シャッタの走行特性を補正する技術が提案されている。しかし、これらの条件をもとに電子先幕シャッタの走行特性を補正する技術は、リアルタイムに露光量をモニタリングして走行特性を補正するわけではないので補正精度に問題が残ってしまう。
そこで、静止画撮影を行う直前のライブビュー画像と、実際に電子先幕シャッタ及びメカ後幕シャッタを走行させて露光した画像との差分を補完するようにライン毎にゲインをかけて画像を補正する技術が提案されている(例えば、特許文献1参照)。また、その補正をその後の電子先幕シャッタ走行特性にフィードバックすることで誤差を最小限に抑える技術が提案されている(例えば、特許文献2、3参照)。かかる技術によれば、効率良く補正処理を行うことができるが、直前のライブビュー画像とメカ後幕シャッタを用いた画像との間には露光にタイムラグがあり、特に被写体が高速で動いていた場合などに正確に補正できない場合が生じる。
一方、この電子先幕シャッタ技術を用いた別の応用技術も提案されている。複数のライン毎に交互に露光時間を変化させ、得られた複数の露光状態の画像を合成処理することで解像度は若干劣化するもののダイナミックレンジの広い画像を得るという応用技術も考案されている(例えば、特許文献4参照)。この合成処理においては、予め合成する画像の露光差を記憶し、その露光差分だけ掛け算を行った後加算する。
しかしながら、上記電子先幕シャッタ技術による露光ムラの問題が存在すると、実際の露光差と計算上の露光差に誤差が生じるため、合成時に不具合が生じてしまう。
そこで、本発明は、所定の画素幅を有するライン毎に電荷の蓄積時間を切り替えることで、ライン毎に露光時間の異なる画像を生成し、この画像をもとに精度良く露光ムラを低減するための補正値を演算することが可能な技術を提供しようとするものである。
本発明のある実施形態によれば、各々が所定の画素幅を有する第一のライン及び第二のラインを有する撮像素子と、前記第一のラインに蓄積された電荷の第一のリセット動作を行う第一のリセット部と、前記第二のラインに蓄積された電荷の第二のリセット動作を行う第二のリセット部と、前記第一のリセット動作から第一の所定時間経過時に遮光羽根に前記第一のライン上を走行させるとともに前記第二のリセット動作から第二の所定時間経過時に前記遮光羽根に前記第二のライン上を走行させる走行制御部と、前記第一のラインに蓄積された電荷を前記遮光羽根が前記第一のライン上を走行した後に第一の画素データとして出力するとともに前記第二のラインに蓄積された電荷を前記遮光羽根が前記第二のライン上を走行した後に第二の画素データとして出力する画素データ出力部と、前記第一の画素データと前記第二の画素データと前記第一の所定時間と前記第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算する演算部と、を備えることを特徴とする、撮像装置が提供される。
かかる構成によれば、第一の画素データと第二の画素データと第一の所定時間と第二の所定時間とに基づいて第一の補正値と第二の補正値を演算することができる。第一の画素データと第二の画素データは測定値であり、第一の所定時間と第二の所定時間はあらかじめ決められた時間である。第一の補正値と第二の補正値を用いて補正がなされれば、精度良く露光ムラを低減することが可能である。なお、第一の補正値と第二の補正値を用いて何を補正するかについては特に限定されない。
前記演算部は、前記第一のラインの各画素値を補正するための第一の補正値と前記第二のラインの各画素値を補正するための第二の補正値とを演算してもよい。かかる構成によれば、第一のラインの各画素値を補正するための第一の補正値と第二のラインの各画素値を補正するための第二の補正値とを演算することができる。第一のラインの各画素値と第二のラインの各画素値は、例えば、ゲイン補正される。
前記撮像装置は、前記第一の補正値に基づいて前記第一のラインの各画素値を補正するとともに前記第二の補正値に基づいて前記第二のラインの各画素値を補正する補正部をさらに備えてもよい。かかる構成によれば、第一の補正値に基づいて第一のラインの各画素値が補正され、第二の補正値に基づいて第二のラインの各画素値が補正される。これらの補正においては、例えば、画素値に対するゲイン補正がなされる。
前記撮像装置は、前記第一の補正値に基づいて前記第一のラインの各画素値が補正された結果と前記第二の補正値に基づいて前記第二のラインの各画素値が補正された結果とを合成する合成部をさらに備えてもよい。かかる構成によれば、合成処理を精度よく行うことができる。
前記演算部は、次回の撮影時に使用される第一の所定時間を補正するための第一の補正値と次回の撮影時に使用される第二の所定時間を補正するための第二の補正値とを演算してもよい。かかる構成によれば、次回の撮影時に電荷のリセット動作と遮光羽根の走行特性との誤差を効率良く抑えるための補正値を演算することができる。
前記撮像装置は、前記第一の補正値に基づいて次回の撮影時に使用される第一の所定時間を補正するとともに前記第二の補正値に基づいて次回の撮影時に使用される第二の所定時間を補正する補正部をさらに備えてもよい。かかる構成によれば、次回の撮影時に電荷のリセット動作と遮光羽根の走行特性との誤差を効率良く抑えるための補正を行うことができる。
また、本発明の別の実施形態によれば、各々が所定の画素幅を有する第一のライン及び第二のラインを有する撮像素子の前記第一のラインに蓄積された電荷の第一のリセット動作を行うステップと、前記第二のラインに蓄積された電荷の第二のリセット動作を行うステップと、前記第一のリセット動作から第一の所定時間経過時に遮光羽根に前記第一のライン上を走行させるとともに前記第二のリセット動作から第二の所定時間経過時に前記遮光羽根に前記第二のライン上を走行させるステップと、前記第一のラインに蓄積された電荷を前記遮光羽根が前記第一のライン上を走行した後に第一の画素データとして出力するとともに前記第二のラインに蓄積された電荷を前記遮光羽根が前記第二のライン上を走行した後に第二の画素データとして出力するステップと、前記第一の画素データと前記第二の画素データと前記第一の所定時間と前記第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算するステップと、を含むことを特徴とする、撮像方法が提供される。
かかる方法によれば、第一の画素データと第二の画素データと第一の所定時間と第二の所定時間とに基づいて第一の補正値と第二の補正値を演算することができる。第一の画素データと第二の画素データは測定値であり、第一の所定時間と第二の所定時間はあらかじめ決められた時間である。第一の補正値と第二の補正値を用いて補正がなされれば、精度良く露光ムラを低減することが可能である。なお、第一の補正値と第二の補正値を用いて何を補正するかについては特に限定されない。
以上説明したように、本発明によれば、所定の画素幅を有するライン毎に電荷の蓄積時間を切り替えることで、ライン毎に露光時間の異なる画像を生成し、この画像をもとに精度良く露光ムラを低減するための補正値を演算することが可能である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付すことにより重複説明を省略する。
図1は、本発明の実施形態に係る撮像装置10の構成例を示す図である。図1に示すように、撮像装置10は、レンズ110、レンズ駆動装置111D、絞り駆動装置112D、シャッタ駆動装置113D、撮像素子120、プリプロセス回路130、画像信号処理回路140、圧縮処理回路141及び制御回路150を備える。
また、撮像装置10は、タイミング発生部151、測光装置161、焦点検出装置162、操作部材163、圧縮処理回路141、SDRAM(Synchronous Dynamic Random Access Memory)171、VRAM(Video RAM)172、LCD(Liquid Crystal Display)181、LCDドライバ182、メディアcontroller183及び記録メディア184を備える。
レンズ110は、レンズ111、絞り112及びメカ後幕シャッタ113を備え、被写体からの光を透過させて撮像素子120に結像させる光学系Systemである。レンズ111は、一側から他側に又は他側から一側に移動することで撮像素子120の撮像面に被写体像を合焦させる。絞り112は、透過する光の量(光量)を調節する機構である。メカ後幕シャッタ113は、遮光羽根として機能する。さらに、レンズ110は、Motor111M,112M,113Mを備える。
撮像素子120は、光電変換素子であり、レンズ110を透過して入射した光情報を電気信号に変換する光電変換が可能な複数の素子から構成され、撮像素子120としては、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などが使用される。
なお、撮像素子120の露光時間を制御するため、非撮影時に光を遮って撮影時にのみ撮像素子120に光が当たるように、メカ後幕シャッタ113及び電子先幕シャッタを適用することができる。なお、メカ後幕シャッタ113及び電子先幕シャッタの動作は、制御回路150に接続されたシャッタボタン(操作部材163)のスイッチによって行われる。
プリプロセス回路130は、撮像素子120から出力されたデジタル信号に対して処理を施し、画像処理が可能となる画像信号を生成し、生成した画像信号を、例えば、画像信号処理回路140に出力する。また、プリプロセス回路130は、SDRAM171への画像データの読み書きを制御する。
画像信号処理回路140は、プリプロセス回路130から画像信号を受け、WhiteBalance制御値、γ値、輪郭強調制御値などに基づいて、画像信号に対して各種の画像処理を行い、画像処理後の画像信号を生成する。
VRAM172は、画像表示用のメモリであり、複数のチャネル(図1に示した例では、チャネルA及びチャネルB)を有する。VRAM172は、SDRAM171からの画像表示用の画像データの入力と、LCDドライバ182への画像データの出力と、を同時に実行できる。LCD181の解像度や最大発色数はVRAM172の容量に依存する。
SDRAM171は、記憶部の一例であり、撮影した画像の画像データを一時的に保存する。SDRAM171は、複数の画像データを記憶できる記憶容量を有しており、Focus制御時の画像信号を順次保持し、画像信号を出力する。また、制御回路150の動作プログラムを保存する。SDRAM171からの画像データの読み出しと、SDRAM171への画像データの書き込みとは、プリプロセス回路130によって制御される。
LCDドライバ182は、例えば、VRAM172から画像データを受けて、LCD181に画像を表示させる表示駆動部である。
LCD181は、撮像装置10本体に設けられた表示部の一例であり、例えば、VRAM172から読み出された撮影前の画像(ライブビュー表示)、各種設定画面、撮像して記録された画像などを表示する。本実施形態では、LCD181が表示部として機能し、LCDドライバ182がその表示部の表示駆動部として機能することとしたが、本発明はかかる例に限定されず、例えば、有機EL Displayが表示部として機能し、有機EL Display駆動部が表示駆動部として機能してもよい。
メディアcontroller183は、記録メディア184への画像データの書き込み、又は記録メディア184に記録された画像データや設定情報などの読み出しを制御する。
記録メディア184は、例えば、光Disc(CD、DVD、Blu−ray Discなど)、光磁気Disc、磁気Disc、半導体記憶媒体などであり、撮影された画像データを記録する。ここで、メディアcontroller183、記録メディア184は、撮像装置10から着脱可能に構成されてもよい。
圧縮処理回路141は、圧縮処理前の画像信号を受けて、例えば、JPEGなどの圧縮形式で画像信号を圧縮処理する。圧縮処理回路141は、圧縮処理により生成した画像データを、例えば、メディアcontroller183に送る。
操作部材163は、例えば、撮像装置10に設けられた上下左右キー、電源スイッチ、モードダイヤル、シャッタボタンなどであり、ユーザによる操作に基づいて操作信号を制御回路150などに送る。例えば、シャッタボタンは、ユーザによる半押し、全押し、解除が可能である。シャッタボタンは、半押しされたときFocus制御開始の操作信号を出力し、半押し解除でFocus制御終了の操作信号を出力する。また、シャッタボタンは、全押しされたとき、撮影開始の操作信号を出力する。
制御回路150は、プログラムによって演算処理装置及び制御装置として機能し、撮像装置10内に設けられた各構成要素の処理を制御する。制御回路150は、例えば、Focus制御や露出制御に基づいて111D〜113Dに信号を出力してレンズ110を駆動させる。また、操作部材163からの操作信号に基づいて撮像装置10の各構成要素を制御する。なお、本実施形態においては、制御回路150が一つだけから成る構成であるが、信号系の命令と操作系の命令とを別々のCPUで行うなど複数のCPUから構成されてもよい。
制御回路150は、Focus制御開始の操作信号を受け取ると、レンズ111を一方向に移動するための制御信号を生成して、レンズ駆動装置111Dに出力する。また、制御回路150は、絞り制御開始の操作信号を受け取ると、絞り112を調整するための制御信号を生成して、絞り駆動装置112Dに出力する。また、制御回路150は、シャッタ制御開始の操作信号を受け取ると、メカ後幕シャッタ113を走査させるための制御信号を生成して、シャッタ駆動装置113Dに出力する。
また、制御回路150は、LCD181による画面表示を管理する。例えば、制御回路150は、操作部材163から出力される操作信号に基づいて選択される画面をLCD181に表示させるための制御信号をLCDドライバ182に出力する。
タイミング発生部151は、撮像素子120にタイミング信号を出力し、撮像素子120を構成している各画素の露光時間の制御や、電荷の読み出し制御を行う。測光装置161は、画像信号処理回路140からの画像信号から適正な露光量を演算し、シャッタ、絞り、ゲインを決定する。
決定されたシャッタは、ライブビュー中、タイミング発生部151を通して電子先幕シャッタの制御に供される。決定された絞りは、絞り駆動装置112Dを通してレンズ110内に配置された絞り112の駆動制御に供される。決定されたゲインは、撮像素子120又はプリプロセス回路130等にある画像信号増幅装置の制御に供される。
焦点検出装置162は、撮像素子120から出力される画像信号のコントラスト成分等を用いて焦点を検出し、レンズ駆動装置111Dによりフォーカスレンズを駆動しながら焦点を調節する。
レンズ駆動装置111Dは、制御回路150から受けた制御信号に基づいて駆動信号を生成し、生成した駆動信号をMotor111Mに送ってMotor111Mを駆動する。その結果、Motor111Mは、レンズ111を制御する。
絞り駆動装置112Dは、制御回路150から受けた制御信号に基づいて駆動信号を生成し、生成した駆動信号をMotor112Mに送ってMotor112Mを駆動する。その結果、Motor112Mは、絞り112を制御する。
シャッタ駆動装置113Dは、制御回路150から受けた制御信号に基づいて駆動信号を生成し、生成した駆動信号をMotor113Mに送ってMotor113Mを駆動する。その結果、Motor113Mは、メカ後幕シャッタ113を制御する。
なお、撮像装置10における一連の処理は、ハードウェアで処理してもよいし、コンピュータ上のプログラムによるソフトウェア処理で実現してもよい。
以上、本発明の実施形態に係る撮像装置10の構成例について説明した。ここで、撮像素子は露光した後、露光によりチャージされた電荷量を読み込むが、通常CMOSセンサは露光が終了しても、露光終了時点で蓄積されている電荷量を撮像素子上に保持しておくことができず、電荷の蓄積が継続される。しかし、全画面のデータを読み込む場合、画素データを読み込むタイミングに時間差があると時間差が露光差につながってしまう。そのため、図2に示すように、ライン毎に電荷の蓄積開始タイミングをずらすことで、この影響を抑制することができる。これをローリングシャッタと呼ぶ。
ライブビュー時はフレームレートを早くするため、読み込み画素を間引くことで、全画面の読み込み時間自体を短くしている。しかし、静止画撮影時は全画素を読み込むために読み込み時間が長くなってしまう。静止画撮影時にライブビュー時と同様にローリングシャッタを用いて読み込むと、上のラインと下のラインの露光タイムラグが大きくなり、フォーカルプレーン現象という問題が発生するため、メカシャッタを併用する場合が多い。
従来はフォーカルプレーンシャッタを用いて撮像素子の全画素の電荷蓄積を開始した後に、先幕及び後幕を走行させていたが、近年はその先幕を電子シャッタに置き換える、電子先幕シャッタという技術が実用化されている。これは、図2に示すように、ライン毎の電荷蓄積開始タイミングを後幕の走行特性と同じなるように制御することで、全画面が均一に露光されるようにしている。メカシャッタを閉じた後、画素値読み込みまでは電荷蓄積自体は続いているが、光学的に遮光されているので全画素読み込み時間が多少長くても問題は少ない。
しかし、メカシャッタの走行特性は、姿勢差、温度、経時変化等の条件で変化するが、電子先幕シャッタの走行特性はこれらの条件によって変化しないため、そのミスマッチにより露光ムラが生じる。また、電子先幕シャッタが撮像面を走行するのに対し、メカシャッタは撮像面から離れて走行するため、光束の入射角によっても露光量に誤差が生じる。また、露光量は、レンズの焦点距離、ズーム位置、絞り値などによっても変化する。
レンズ情報や姿勢差、温度情報等をもとに電子先幕シャッタの走行特性の変化を予測し、その変化に合わせた走行特性で電子先幕シャッタを走行させることでこの問題を対策している技術も存在する。必ずしも予測値が正確であるとは限らない。一方、本発明の実施形態では、撮像装置10は、電子先幕シャッタ1(第一のリセット部)と電子先幕シャッタ2(第二のリセット部)を備える。
図3に示すように、撮像素子120の撮像面は第一のライン2nと第二のライン2n+1とが交互に並べられている。第一のライン2nと第二のライン2n+1との各々は所定の画素幅を有している。すなわち、第一のライン2nと第二のライン2n+1との各々は1画素分の幅を有していてもよいし、複数画素分の幅を有していてもよい。ただし、第一のライン2nと第二のライン2n+1との各々があまり多くの画素幅を有することにすると補正演算上好ましくない。nは1個または複数個の整数である。
電子先幕シャッタ1は、第一のライン2nに蓄積された電荷のリセット動作(第一のリセット動作)を行い、電子先幕シャッタ2は、第二のライン2n+1に蓄積された電荷のリセット動作(第二のリセット動作)を行う。電子先幕シャッタ1及び電子先幕シャッタ2は、撮像素子120の一部を構成し、タイミング発生部151から送信されるリセット信号に基づいて、各々のリセット動作を行う。撮像素子120にリセット信号を送信するための指示は、例えば、所望の時間になると制御回路150からタイミング発生部151になされる。
t1は本来所望する露光時間を示す。t2はt1より小さい値で電子先幕シャッタ1と電子先幕シャッタ2との走行タイミングの時間差を示す。t1は第一の所定時間に相当し、t1−t2は第二の所定時間に相当する。Motor113M(走行制御部)は、第一のリセット動作からt1経過時にメカ後幕シャッタに第一のライン2n上を走行させる。また、Motor113Mは、第二のリセット動作からt1−t2経過時にメカ後幕シャッタに第二のライン2n+1上を走行させる。Motor113Mは、シャッタ駆動装置113Dから送信される駆動信号に基づいて、メカ後幕シャッタを走行させる。
撮像素子120の一部を構成する画素データ出力部は、第一のライン2nに蓄積された電荷をメカ後幕シャッタが第一のライン2n上を走行した後に画素値の積算値S(2n)として出力する。また、画素データ出力部は、第二のライン2n+1に蓄積された電荷をメカ後幕シャッタが第二のライン2n+1上を走行した後に画素値の積算値S(2n+1)として出力する。S(2n)は第一の画素データに相当し、S(2n+1)は第二の画素データに相当する。
演算部は、S(2n)とS(2n+1)とt1とt2とに基づいて第一の補正値β(2n)と第二の補正値β(2n+1)とを演算する。演算部は、画像信号処理回路140の一部を構成してもよいし、制御回路150の一部を構成してもよい。β(2n)及びβ(2n+1)の演算手法の例は以下に示す通りである。まず、メカ後幕シャッタが理想的な走行をした場合のS(2n)をS0(2n)とすると、以下の式(1)が成り立つ。
(S(2n)−S(2n+1))/S0(2n)=t2/t1…(1)
ここで、第一のライン2nと第二のライン2n+1は十分に近接しているとした場合(例えば、図3に示すように隣接している場合)、これらのラインは、被写体像の同一の領域とみなされる。以下の式(2)が成立するとした場合、β(2n)は第一のライン2nにおける補正値を示す。
β(2n)=S0(2n)/S(2n)…(2)
この式(2)を用いると、以下の式(3)が成立する。
β(2n)=(S(2n)−S(2n+1))t1/S(2n)t2…(3)
同様にして、第二のライン2n+1の補正値β(2n+1)は、以下の式(4)のように演算される。
β(2n+1)=(S(2n)−S(2n+1))t1/S(2n+1)t2…(4)
ここで演算されたβ(2n)及びβ(2n+1)は、様々に利用される。例えば、β(2n)はS(2n)をゲイン補正するための補正値であり、β(2n+1)はS(2n+1)をゲイン補正するための補正値であってもよい。その場合、画像信号処理回路140の一部を構成する補正部は、β(2n)に基づいて第一のライン2nの各画素値を補正するとともにβ(2n+1)に基づいて第二のライン2n+1の各画素値を補正してもよい。
例えば、補正部は、β(2n)を第一のライン2nの各画素値に乗じることにより第一のライン2nの各画素値を補正するとともにβ(2n+1)を第二のライン2n+1の各画素値に乗じることにより第二のライン2n+1の各画素値を補正してもよい。このような補正がなされることにより、露光ムラを低減することが可能となるばかりではなく、露光レベル自体も理想の露光時間で露光したレベルに補正される。
また、補正部は、β(2n)を直接的に第一のライン2nの各画素値に適用し、β(2n+1)を直接的に第二のライン2n+1の各画素値に適用してもよいが、ノイズの影響等により、隣り合うラインとの間でばらつき誤差が生じる可能性も想定される。したがって、補正部は、図4に示すように、β(2n)及びβ(2n+1)の各々に対してスプライン処理等を用いて補正値を平滑化することが望ましい。
また、演算部は、第一のライン2nにおける理想のメカ後幕シャッタの走行特性と実際のメカ後幕シャッタの走行特性との間の時間差t3(2n)を補正値として、以下の式(5)を用いて算出することができる。
t3(2n)=((S(2n)−S(2n+1))t1−S(2n)t2)
/(S(2n)−S(2n+1))…(5)
/(S(2n)−S(2n+1))…(5)
また、演算部は、第二のライン2n+1における理想のメカ後幕シャッタの走行特性と実際のメカ後幕シャッタの走行特性との間の時間差t3(2n+1)を補正値として、以下の式(6)を用いて算出することができる。
t3(2n+1)=((S(2n)−S(2n+1))t1−S(2n+1)t2)
/(S(2n)−S(2n+1))…(6)
/(S(2n)−S(2n+1))…(6)
補正部は、このt3(2n)を電子先幕シャッタ1の走行特性に加味することで、電子先幕シャッタ1の走行特性とメカ後幕シャッタの走行特性との間の差分が大きくならないように補正することができる。また、補正部は、このt3(2n+1)を電子先幕シャッタ2の走行特性に加味することで、電子先幕シャッタ2の走行特性とメカ後幕シャッタの走行特性との間の差分が大きくならないように補正することができる。
より詳細には、補正部は、例えば、次回の撮影時に使用される第一の所定時間を補正するためにt3(2n)を使用し、次回の撮影時に使用される第二の所定時間を補正するためにt3(2n+1)を使用してもよい。補正された結果は、次回の撮影時の走行特性に反映されてもよい。例えば、補正された結果は、SDRAM171を介して制御回路150により取得され、タイミング発生部151から撮像素子120への次回のリセット信号送信タイミングを制御するために使用されることにより、次回の撮影時の電子先幕シャッタの走行特性に反映される。
補正部は、例えば、t1からt3(2n)を減ずることにより次回の撮影時に使用される第一の所定時間を補正し、t1−t2からt3(2n+1)を減ずることにより次回の撮影時に使用される第二の所定時間を補正してもよい。このように、補正部は、今回の撮影により算出されたt3(2n)及びt3(2n+1)をそのまま次回の撮影時の走行特性に反映させてもよい。しかし、t3(2n)及びt3(2n+1)には、姿勢差、温度等によるメカ後幕シャッタの走行特性の変化に加え、絞り値、焦点距離等に起因する入射角の影響も含まれることが想定される。したがって、補正部は、t3(2n)及びt3(2n+1)の過去複数回分を次回の撮影時の走行特性に反映させてもよい。その場合、例えば、過去複数回分の平均値が採用されてもよい。
過去複数回分の平均値が採用される場合、補正部は、例えば、t3(2n)の過去複数回分の平均値をt1から減ずることにより次回の撮影時に使用される第一の所定時間を補正し、t3(2n+1)の過去複数回分の平均値をt1−t2から減ずることにより次回の撮影時に使用される第二の所定時間を補正してもよい。このように、過去複数回分の値が用いられることにより誤差がさらに低減されることが期待される。
ライン毎に交互に露光時間を変える技術を使って広ダイナミックレンジ画像の撮影に応用する技術が、特開2008−228573号公報で紹介されている。図5に示すように、例えば、第一のライン2nの露光時間をt1、第二のライン2n+1の露光時間をt1−t2=t1/4とすると、第二のライン2n+1の画像を4倍した結果と第一のライン2nの画像とを合成することで12dBのダイナミックレンジの拡大が可能である。
図6に示したように、理想的には4倍して合成すればよいが、実際には、上記したような電子先幕シャッタの走行特性とメカ後幕シャッタの走行特性とのずれによる露光ムラによって問題が発生する。特にシャッタ誤差t3を持つ場合、第一のライン2nでの露光時間はt1−t3、第二のライン2n+1での露光時間はt1/4−t3となるため、第二のライン2n+1の画像を4倍した結果と第一のライン2nの画像とを合成した場合、図7に示したように、輝度の段差が生じ、不自然な合成画像が生成されてしまう。
このような問題を解消するため、上記した手法と同様の手法により、補正値β(2n)及びβ(2n+1)を演算し、補正値β(2n)及びβ(2n+1)を適用してもよい。より詳細には、撮像装置10は、補正値β(2n)に基づいて第一のライン2nの各画素値が補正された結果と第二の補正値に基づいて第二のライン2n+1の各画素値が補正された結果とを合成する合成部をさらに備えてもよい。このような合成がなされれば、輝度の段差自体が低減し、品質の良い広ダイナミックレンジ画像が合成される。合成部は、画像信号処理回路140の一部を構成してもよい。
以上に説明したように、本実施形態に係る撮像装置10は、電子先幕シャッタとメカ後幕シャッタを用いて静止画撮像をする場合に、ライン毎に電子先幕シャッタのタイミングを所定時間交互にずらして露光し、それぞれの露光状態の異なるラインの画素を比較することで、露光ムラを低減するためのゲイン補正値を演算することができる。露光ムラの問題は、特に高速シャッタ時に顕著となる。
また、本実施形態に係る撮像装置10によれば、ライン毎にゲイン補正することで露光ムラを低減することが可能となる。また、本実施形態に係る撮像装置10によれば、今回撮影時の補正演算結果を次回撮影時の電子先幕シャッタタイミングの制御にFeedBackすることでメカシャッタ特性の経時変化等が生じた場合でも精度良く補正することができる。また、本実施形態に係る撮像装置10によれば、露光状態の異なる複数の画像を用いてハイダイナミックレンジの画像を合成する場合、同様に補正値を演算し、その補正値を用いて合成処理することで精度良い合成画像を得ることができる。
なお、本実施形態に係る技術は、既に開示されている先行技術文献に記載された技術とは異なっている。例えば、先行技術文献には、電子先幕シャッタによる露光ムラ問題に対して、絞り、焦点距離などのレンズの情報、メカシャッタの経時変化特性等を考慮して、電子先幕シャッタのタイミングをずらす方法などが紹介されている。また、Capture直前のLiveviewの画素値との比較により電子先幕シャッタのタイミングを制御したり、Captureした画像の露光ムラをゲイン補正したりする方法が紹介されている。
これに対し、本発明の実施形態によれば、Capture時にライン毎に交互に電子先幕シャッタのスタート時間をずらして得られる画像から、上記先行技術と同様な露光ムラ等のゲイン補正を行うことができる。ライン毎に交互にスタート時間をずらす技術は、特開2008−118573号公報に紹介されているが、これはダイナミックレンジの広い画像を得るための技術であり、この手段を用いて露光ムラを補正したり電子先幕シャッタのタイミングを制御したりすることについては言及していない。
また、広ダイナミックレンジ画像を得るための合成処理を行う場合にも、本発明の実施形態により、合成前の画像をゲイン補正してから合成することで、精度よく合成することができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
1 電子先幕シャッタ(第一のリセット部)
2 電子先幕シャッタ(第二のリセット部)
10 撮像装置
110 レンズ
111D レンズ駆動装置
112D 絞り駆動装置
113 メカ後幕シャッタ(遮光羽根)
113D シャッタ駆動装置
113M Motor(走行制御部)
120 撮像素子(画像データ出力部)
140 画像信号処理回路(補正部,合成部)
150 制御回路(演算部)
151 タイミング発生部
2 電子先幕シャッタ(第二のリセット部)
10 撮像装置
110 レンズ
111D レンズ駆動装置
112D 絞り駆動装置
113 メカ後幕シャッタ(遮光羽根)
113D シャッタ駆動装置
113M Motor(走行制御部)
120 撮像素子(画像データ出力部)
140 画像信号処理回路(補正部,合成部)
150 制御回路(演算部)
151 タイミング発生部
Claims (7)
- 各々が所定の画素幅を有する第一のライン及び第二のラインを有する撮像素子と、
前記第一のラインに蓄積された電荷の第一のリセット動作を行う第一のリセット部と、
前記第二のラインに蓄積された電荷の第二のリセット動作を行う第二のリセット部と、
前記第一のリセット動作から第一の所定時間経過時に遮光羽根に前記第一のライン上を走行させるとともに前記第二のリセット動作から第二の所定時間経過時に前記遮光羽根に前記第二のライン上を走行させる走行制御部と、
前記第一のラインに蓄積された電荷を前記遮光羽根が前記第一のライン上を走行した後に第一の画素データとして出力するとともに前記第二のラインに蓄積された電荷を前記遮光羽根が前記第二のライン上を走行した後に第二の画素データとして出力する画素データ出力部と、
前記第一の画素データと前記第二の画素データと前記第一の所定時間と前記第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算する演算部と、
を備えることを特徴とする、撮像装置。 - 前記演算部は、
前記第一のラインの各画素値を補正するための第一の補正値と前記第二のラインの各画素値を補正するための第二の補正値とを演算する、
ことを特徴とする、請求項1に記載の撮像装置。 - 前記撮像装置は、
前記第一の補正値に基づいて前記第一のラインの各画素値を補正するとともに前記第二の補正値に基づいて前記第二のラインの各画素値を補正する補正部をさらに備える、
ことを特徴とする、請求項2に記載の撮像装置。 - 前記撮像装置は、
前記第一の補正値に基づいて前記第一のラインの各画素値が補正された結果と前記第二の補正値に基づいて前記第二のラインの各画素値が補正された結果とを合成する合成部をさらに備える、
ことを特徴とする、請求項3に記載の撮像装置。 - 前記演算部は、
次回の撮影時に使用される第一の所定時間を補正するための第一の補正値と次回の撮影時に使用される第二の所定時間を補正するための第二の補正値とを演算する、
ことを特徴とする、請求項1に記載の撮像装置。 - 前記撮像装置は、
前記第一の補正値に基づいて次回の撮影時に使用される第一の所定時間を補正するとともに前記第二の補正値に基づいて次回の撮影時に使用される第二の所定時間を補正する補正部をさらに備える、
ことを特徴とする、請求項5に記載の撮像装置。 - 各々が所定の画素幅を有する第一のライン及び第二のラインを有する撮像素子の前記第一のラインに蓄積された電荷の第一のリセット動作を行うステップと、
前記第二のラインに蓄積された電荷の第二のリセット動作を行うステップと、
前記第一のリセット動作から第一の所定時間経過時に遮光羽根に前記第一のライン上を走行させるとともに前記第二のリセット動作から第二の所定時間経過時に前記遮光羽根に前記第二のライン上を走行させるステップと、
前記第一のラインに蓄積された電荷を前記遮光羽根が前記第一のライン上を走行した後に第一の画素データとして出力するとともに前記第二のラインに蓄積された電荷を前記遮光羽根が前記第二のライン上を走行した後に第二の画素データとして出力するステップと、
前記第一の画素データと前記第二の画素データと前記第一の所定時間と前記第二の所定時間とに基づいて第一の補正値と第二の補正値とを演算するステップと、
を含むことを特徴とする、撮像方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011276468A JP2013128184A (ja) | 2011-12-16 | 2011-12-16 | 撮像装置及び撮像方法 |
KR1020120145991A KR20130069478A (ko) | 2011-12-16 | 2012-12-14 | 촬상 장치, 촬상 방법 및 기계로 읽을 수 있는 저장 매체 |
US13/716,809 US20130155301A1 (en) | 2011-12-16 | 2012-12-17 | Image pickup apparatus, image pickup method, and machine-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011276468A JP2013128184A (ja) | 2011-12-16 | 2011-12-16 | 撮像装置及び撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013128184A true JP2013128184A (ja) | 2013-06-27 |
Family
ID=48609788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011276468A Pending JP2013128184A (ja) | 2011-12-16 | 2011-12-16 | 撮像装置及び撮像方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20130155301A1 (ja) |
JP (1) | JP2013128184A (ja) |
KR (1) | KR20130069478A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5644400B2 (ja) * | 2010-11-15 | 2014-12-24 | セイコーエプソン株式会社 | 撮影装置、撮影方法および撮影プログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007159061A (ja) * | 2005-12-08 | 2007-06-21 | Sony Corp | 撮像ユニット及び撮像装置 |
JP2011044966A (ja) * | 2009-08-21 | 2011-03-03 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
US20110103788A1 (en) * | 2009-11-03 | 2011-05-05 | Samsung Electronics Co., Ltd. | Method of controlling imaging apparatus and imaging apparatus using the same |
JP2012182657A (ja) * | 2011-03-01 | 2012-09-20 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにプログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3704238B2 (ja) * | 1997-03-31 | 2005-10-12 | 株式会社リコー | 撮像装置 |
US20040212723A1 (en) * | 2003-04-22 | 2004-10-28 | Malcolm Lin | Image pickup apparatus and operating method |
-
2011
- 2011-12-16 JP JP2011276468A patent/JP2013128184A/ja active Pending
-
2012
- 2012-12-14 KR KR1020120145991A patent/KR20130069478A/ko not_active Application Discontinuation
- 2012-12-17 US US13/716,809 patent/US20130155301A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007159061A (ja) * | 2005-12-08 | 2007-06-21 | Sony Corp | 撮像ユニット及び撮像装置 |
JP2011044966A (ja) * | 2009-08-21 | 2011-03-03 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
US20110103788A1 (en) * | 2009-11-03 | 2011-05-05 | Samsung Electronics Co., Ltd. | Method of controlling imaging apparatus and imaging apparatus using the same |
JP2012182657A (ja) * | 2011-03-01 | 2012-09-20 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにプログラム |
Also Published As
Publication number | Publication date |
---|---|
KR20130069478A (ko) | 2013-06-26 |
US20130155301A1 (en) | 2013-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9843735B2 (en) | Image processing apparatus, imaging apparatus comprising the same, and image processing method | |
WO2012117774A1 (ja) | 撮像装置、および撮像装置制御方法、並びにプログラム | |
JP5132497B2 (ja) | 撮像装置および撮像装置の制御方法 | |
JP2007281546A (ja) | 撮像装置,及び撮像方法 | |
JP5022758B2 (ja) | 撮像装置、撮像システム及び撮像装置の駆動方法 | |
JP4764712B2 (ja) | ディジタル・カメラおよびその制御方法 | |
CN104243863A (zh) | 拍摄装置、拍摄方法 | |
JP5199736B2 (ja) | 画像撮像装置 | |
JP4614143B2 (ja) | 撮像装置及びそのプログラム | |
JP5704957B2 (ja) | 動画撮影装置及びその制御方法 | |
JP2007336394A (ja) | 撮像装置及び画像合成方法 | |
JP2016096459A (ja) | 撮像装置及び撮像方法 | |
JP5797072B2 (ja) | 撮像装置及びその制御方法、並びにプログラム | |
JP2007110636A (ja) | カメラ装置 | |
JP6393091B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6108854B2 (ja) | 撮像装置及びその制御方法 | |
US11330179B2 (en) | Imaging device and control method thereof | |
JP6604216B2 (ja) | 撮像装置 | |
JP2013128184A (ja) | 撮像装置及び撮像方法 | |
JP2013118474A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP5874473B2 (ja) | 電子カメラ | |
JP6079196B2 (ja) | 撮像装置 | |
JP7478006B2 (ja) | 撮像装置及びその制御方法、プログラム | |
WO2015182021A1 (ja) | 撮像制御装置、撮像装置および撮像制御方法 | |
JP6604215B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141216 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150908 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20160308 |