以下、添付の図面を参照して、本発明の実施形態を詳しく説明する。なお、以下に説明する実施形態は、本発明の実施構成の一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施形態に限定されるものではない。
<第1の実施形態>
第1の実施形態においては、ダイナミックレンジ拡大処理(以下「HDR処理」という。)に用いるために、2ライン毎に露光時間の異なる画素の信号を出力するように制御された撮像素子の動作について説明する。
図1は、本実施形態に係る撮像装置の構成を示す図である。本実施形態の撮像装置は、デジタルスチルカメラやデジタルビデオカメラなどに応用可能である。図1に示す撮像装置は、光学系11、撮像素子12、信号処理部13、圧縮伸張部14、同期制御部15、操作部16、画像表示部17、及び画像記録部18を備えている。光学系11は、被写体からの光を撮像素子12に集光するためのレンズ、レンズを移動させてズームや合焦を行うための駆動機構、メカニカルシャッタ機構、絞り機構などを備えている。これらのうちの可動部は、同期制御部15からの制御信号に基づいて駆動される。
撮像素子12は、光電変換素子を持つ複数の画素がマトリクス状に配置されたXYアドレス方式のCMOSセンサである。撮像素子12は、CDS(Correlated Double Sampling)回路、AGC(Auto Gain Control)回路、A/D変換器等を含み、同期制御部15からの制御信号により制御される。ここで、CMOSセンサは、同期制御部15からの制御信号に応じて、露光や信号読み出し、リセットなどの撮像動作を実施する。そして、CDS回路によるノイズ除去、AGC回路による利得制御、及び、A/D変換器によるアナログ−デジタル変換を経て、デジタル化された画像信号を出力する。
信号処理部13は、同期制御部15の制御の下で、撮像素子12から入力されるデジタル化された画像信号に対して、ホワイトバランス調整、色補正、ガンマ補正、AF(Auto Focus)、AE(Auto Exposure)等の信号処理を施す。本実施形態においては、この信号処理部13において、HDR処理を実施する。
HDR処理の方法としては、例えば、特許文献1の図4のように、感度比を補償するゲイン値と明るさに応じた重み付け係数を用いて、長時間露光画素の信号と短時間露光画素の信号を合成する方法がある。あるいは、特許文献2の図7のように、明るさに応じて、長時間露光画素の信号と短時間露光画素の信号のどちらかを選択する方法を採用してもよい。
圧縮伸張部14は、同期制御部15の制御の下で、信号処理部13からの画像信号に対して、JPEG(Joint Photographic Coding Experts Group)等の所定の静止画像データフォーマットで圧縮符号化処理を行う。また、圧縮伸張部14は、同期制御部15から供給された静止画像の符号化データを伸張復号化処理も行う。さらに、圧縮伸張部14は、MPEG(Moving Picture Experts Group)等により動画像の圧縮符号化/伸張復号化処理も実行可能となっている。
同期制御部15は、例えば、CPU、ROM、RAM等から構成されるマイクロコントローラであり、ROM等に記憶されたプログラムを実行することにより、この撮像装置の各部を統括的に制御する。
操作部16は、例えばシャッタレリーズボタンなどの各種操作キーやレバー、ダイヤル等から構成され、ユーザによる入力操作に応じた制御信号を同期制御部15に出力する。
画像表示部17は、LCD(Liquid Crystal Display)等の表示デバイスや、これに対するインタフェース回路等を含む。画像表示部17は、同期制御部15から供給された画像信号から表示デバイスに表示させるための画像信号を生成し、この信号を表示デバイスに供給して画像を表示させる。
画像記録部18は、例えば、可搬型の半導体メモリや、光ディスク、HDD(Hard Disk Drive)、磁気テープなどとして実現される。画像記録部18は、圧縮伸張部14により符号化された画像データファイルを同期制御部15から受け取って記憶する。画像記録部18はまた、同期制御部15からの制御信号を基に指定されたデータを読み出し、同期制御部15に出力する。
本実施形態における撮像装置の構成は概ね以上のようなものである。次に、本実施形態における撮像装置の基本的な動作について説明する。
静止画像の撮像前には、撮像素子12から出力された画像信号が信号処理部13に順次供給される。信号処理部13は、撮像素子12からのデジタル画像信号に対して画質補正処理を施し、カメラスルー画像の信号として、同期制御部15を通じて画像表示部17に供給する。これにより、カメラスルー画像が表示され、ユーザは表示画像を見て画角合わせを行うことが可能となる。この状態で、操作部16のシャッタレリーズボタンが押下されると、同期制御部15の制御により、撮像素子12からの1フレーム分の撮像信号が、信号処理部13に取り込まれる。信号処理部13は、取り込んだ1フレーム分の画像信号に画質補正処理を施し、処理後の画像信号を圧縮伸張部14に供給する。圧縮伸張部14は、入力された画像信号を圧縮符号化し、生成した符号化データを同期制御部15を通じて画像記録部18に供給する。これにより、撮像された静止画像のデータファイルが画像記録部18に記録される。
一方、画像記録部18に記録された静止画像のデータファイルを再生する場合には、同期制御部15は、操作部16からの操作入力に応じて、選択されたデータファイルを画像記録部18から読み込み、圧縮伸張部14に供給して伸張復号化処理を実行させる。復号化された画像信号は同期制御部15を介して画像表示部17に供給され、これにより静止画像が再生表示される。
また、動画像を記録する場合には、信号処理部13で順次処理された画像信号に圧縮伸張部14で圧縮符号化処理を施し、生成された動画像の符号化データを順次画像記録部18に転送して記録する。また、画像記録部18から動画像のデータファイルを読み出して圧縮伸張部14に供給し、伸張復号化処理させて、画像表示部17に供給することで、動画像が表示される。
図2は、本実施形態に係る撮像素子12の構成を示す図である。図2に示す撮像素子12(CMOSセンサ)は、複数の画素からなる画素領域200を備える。撮像素子12はまた、垂直選択部220、画素それぞれに接続する画素制御線230及び垂直信号線240を有する。撮像素子12は更に、列信号処理部250、水平メモリ部260、水平選択部270、出力部280、及び、TG290(Timing Generator)を備える。
画素領域200は、不図示の光電変換素子とトランジスタを持つCMOSセンサの画素で構成され、各画素は、水平方向・垂直方向にマトリクス状に配置されている。図2において、各画素は、上位2ケタを行番号、下位2ケタを列番号として、P(0101)からP(1616)で示される。図2には、16×16配列の例が示されているが本発明は特定の行列数に限定されるものではない。
垂直選択部220は、画素領域200の画素配列を1行ずつ選択し、選択した画素行のリセット動作や読み出し動作を制御する。画素制御線230は、画素行毎に共通に接続され、垂直選択部220による行単位の制御信号を伝達する。垂直信号線240は、画素列毎に共通に接続され、画素制御線230により選択された行の画素の信号がそれぞれ対応する垂直信号線240に読み出される。列信号処理部250は、垂直信号線240の各々に設けられる不図示のCDS回路、AGC回路、及びA/D変換器を含む。垂直信号線240を通して送られてくる行単位の画素の信号それぞれに対して、CDS回路は、画素回路内のトランジスタのしきい値のばらつきに起因する固定パターンノイズを除去して、S/Nを良好に保つようにサンプルホールドを行う。AGC回路は利得制御を実施する。A/D変換器はアナログ−デジタル変換を実施する。
水平メモリ部260は、垂直信号線240毎に設けられ、それぞれ対応する列信号処理部250においてデジタル化された行単位の画素信号を記憶する。水平選択部270は、それぞれ対応する水平メモリ部260を列毎に選択し、記憶しているデジタル化された画素信号を出力部280を介して信号処理部13へ出力する。TG290は、同期制御部15からの制御信号に基づいて、撮像素子12の各部の動作に必要な各種のクロック信号や制御信号などを出力する。
以下、実施形態における撮像素子12の露光及び読み出しタイミングの制御について詳しく説明する。前述したように、特許文献1の図6や特許文献2の図9に記載された方法においては、2ライン毎に露光時間の異なる画素の信号を、同時期に全ライン読み出すことになる。そのため、長時間露光画素に対する補正処理及び信号処理と、短時間露光画素に対する補正処理及び信号処理とを、2ライン毎に切り換えて実施する必要がある。このような処理では、信号処理回路の負担が大きい。
加えて、HDR処理を行う場合には、上記画素に対する補正処理及び信号処理と同時に、2ライン毎の長時間露光画素と短時間露光画素との位置ずれ補正処理とともにHDR処理を実施することになる。そうすると、撮像装置全体のシステムへの負担は更に大きくなる。
さらに、この方法では、ローリングシャッタ動作を用いて、2ライン毎に露光時間の異なる画素の信号を全ライン読み出すため、最初のラインから最後のラインまで読み出す時間がかかる。このため、ライン毎に露光時間がずれた分だけ移動する被写体が歪んでしまう、ローリング歪という現象が発生しやすくなるという課題もある。
また、特許文献2の図13に記載された方法では、短時間露光の中心が常に長時間露光の中心に合っていることが必要である。そうすると、露光時間が変更されることによって長時間露光のリセット及び読み出しのタイミングが変更されるたびに、短時間露光の中心を合わせるためのリセット及び読み出しのタイミングを変更する必要がある。したがってこのような手法では、タイミング制御が複雑になるという課題がある。
さらに、この方法では、露光時間が短くなった場合、短時間露光を行うラインを全て読み出すことにかかる時間が、長時間露光と短時間露光の差の半分を超える場合が考えられる。この場合、短時間露光を行うラインの読み出し終了が、長時間露光を行うラインの読み出し開始とぶつかってしまうため、ライン毎に読み出すことができなくなるという課題もある。
そこで本実施形態では、以下に説明する処理によって、タイミング制御の単純化を図りつつ、画素信号の読み出しにかかる処理負荷の平準化を実現する。
図3は、本実施形態に係る撮像素子12の制御タイミングを示す図である。本実施形態では、HDR処理のために、画素領域200の画素行は、所定数のライン(例えば2ライン)毎に、長時間露光用のライン(以下「長時間露光ライン」という。)と短時間露光用のライン(以下「短時間露光ライン」という。)が交互になるように設定される。
図3において、VDLは、長時間露光フレームの垂直同期信号(長期垂直同期信号)を示し、その1周期にあたる長期垂直同期期間がTfrlで示されている。VDSは、短時間露光フレームの垂直同期信号(短期垂直同期信号)を示し、その垂直同期期間がTfrsで示されている。長期垂直同期信号の1周期にあたる垂直同期期間Tfrlは、短期垂直同期信号のN周期分(=N・Tfrs。ただしNは2以上の自然数。)に等しい。図3の例では、N=2、すなわち2周期分である。本実施形態では、これらの短期垂直同期信号、長期垂直同期信号は、同期信号発生手段としてのTG290によって発生される。
HDは、水平同期信号を示し、画素のリセット動作や読み出し動作を行単位で実施する期間となる。
Line01からLine16は、画素領域200の画素行P(01−−)からP(16−−)の動作の状態を示す。行番号で画素行を表すために列番号は「−−」と表示している。ここでは、2ライン毎に露光時間が異なるように、長時間露光ラインを01、02、05、06、09、10、13、14ラインとし、短時間露光ラインを03、04、07、08、11、12、15、16ラインとする。
各ラインの画素の信号を列信号処理部250に読み出した後、1ライン分の画素の信号を出力部280から出力する期間として、対応する1HD期間をROと表示する。ここで、各ラインの画素の信号を列信号処理部250に読み出す期間は、1ライン分の画素の信号を出力部280から出力する期間に比べて十分短いので、次の露光フレームはRO期間から始まるものとする。また、2ライン毎に露光時間が異なる信号からHDR処理を実施しやすいように、それぞれの画素はベイヤ配列のような2×2配列の色フィルタを備えているものとする。
ReadOutは、画素から読み出した長時間露光フレーム信号Fr_L Readoutと短時間露光フレーム信号Fr_S Readoutが出力部280から出力するタイミングを示す。
まず、タイミングt00において、第1の長期垂直同期信号VDLに同期して、01ラインと03ラインの読み出しを実施することで、画素をリセットし、01ラインと03ラインの露光を開始する。
タイミングt01において、02ラインと04ラインの読み出しを実施することで、画素をリセットし、02ラインと04ラインの露光を開始する。
タイミングt02において、05ラインと07ラインの読み出しを実施することで、画素をリセットし、05ラインと07ラインの露光を開始する。
タイミングt03において、06ラインと08ラインの読み出しを実施することで、画素をリセットし、06ラインと08ラインの露光を開始する。
同様の方法で、09ラインから16ラインまでをリセットして、09ラインから16ラインまでの露光を開始する。
このように、1HD経過する毎にリセットすることで、ライン順次のローリングシャッタ動作を開始する。
次に、タイミングt00からTfrs経過後のt05において、VDSに同期して、03ラインの画素の信号をRO期間に出力する。この時、01ラインは露光を継続する。
タイミングt06において、04ラインの画素の信号をRO期間に出力する。この時、02ラインは露光を継続する。
タイミングt07において、07ラインの画素の信号をRO期間に出力する。この時、05ラインは露光を継続する。
タイミングt08において、08ラインの画素の信号をRO期間に出力する。この時、06ラインは露光を継続する。
同様の方法で、11、12、15、16ラインの画素の信号をRO期間に出力する。この時、09、10、13、14ラインは露光を継続する。
このように、1HD経過する毎に、短時間露光ラインである03、04、07、08、11、12、15、16ラインを読み出すことで、短時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の短時間露光フレームの出力がFr_S Readoutとなる。ここで、この短時間露光フレームにおいては、画素の読み出しをすることで画素をリセットしているので、最長の露光時間は、短時間露光フレームの垂直同期期間(短期垂直同期期間)のTfrsとなっている。
続くタイミングt00からTfrl経過後のt10において、第2の長期垂直同期信号VDLに同期して、01ラインの画素の信号をRO期間に出力する。
タイミングt11において、02ラインの画素の信号をRO期間に出力する。
タイミングt12において、05ラインの画素の信号をRO期間に出力する。
タイミングt13において、06ラインの画素の信号をRO期間に出力する。
同様の方法で、09、10、13、14ラインの画素の信号をRO期間に出力する。
このように、1HD経過する毎に、長時間露光ラインである01、02、05、06、09、10、13、14ラインを読み出すことで、長時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の長時間露光フレームの出力がFr_L Readoutとなる。ここで、この長時間露光フレームにおいては、画素の読み出しをすることで画素をリセットしているので、最長の露光時間は、長期垂直同期期間Tfrlとなっている。
さらに、長期垂直同期期間Tfrlは、短時間露光フレームの出力信号Fr_S Readoutを含む短期垂直同期期間Tfrsの2倍の期間となっている。また、2ライン毎に短時間露光フレームと長時間露光フレームに分けて読み出しているので、全ラインを一度に読み出す動作に比べて、それぞれのフレームの読み出し時間は約半分になっている。
図4は、本実施形態に係る長時間露光フレームと短時間露光フレームの制御タイミングを示す図である。図4においては、図3のライン毎の動作をフレーム毎の動作で示すとともに、動画撮影に応用するために、連続撮影が可能な制御タイミングとなっている。そこで、連続撮影を可能にするために、タイミングt24以降の制御タイミングは、t20に戻って繰り返すものとする。また、図3と同じ動作や構成のものは、同じ符号で示す。
タイミングt20からt24までが、第1の長期垂直同期期間Tfrl1である。また、タイミングt24からt28までが、第2の長期垂直同期期間Tfrl2である。タイミングt20からt23までが、第1の短期垂直同期期間Tfrs1である。タイミングt23からt24までが、第2の短期垂直同期期間Tfrs2である。タイミングt24からt26までが、第3の短期垂直同期期間Tfrs3である。そして、タイミングt26からt28までが、第4の短期垂直同期期間Tfrs4である。
Fr_Lが、長時間露光フレームを構成する01、02、05、06、09、10、13、14ラインの動作の状態を示す。Fr_Sが、短時間露光フレームを構成する03、04、07、08、11、12、15、16ラインの動作の状態を示す。
長時間露光フレームFr_Lでは、長期垂直同期信号VDLに同期して、その長期垂直同期期間Tfrl毎に連続してローリングシャッタ動作が実施される。
また、短時間露光フレームFr_Sでは、長期垂直同期信号VDLに同期してローリングシャッタ動作の露光を開始し、次の短期垂直同期信号VDSに同期してローリングシャッタ動作の読み出しを開始する。
これは、次のように説明することもできる。すなわち、短時間露光ラインについては、長時間露光ラインの画素信号の読み出し期間と重複しない短期垂直同期信号VDSに同期して画素信号の読み出しを開始する。従って、短時間露光ラインの読み出し期間が長時間露光ラインの画素信号の読み出し期間と重複してしまうことになる短時間露光ラインの露光は行わない。
具体的には、第1の長期垂直同期期間Tfrl1を構成する第1の短期垂直同期期間Tfrs1で、一巡前のタイミングに露光を開始した長時間露光フレームの出力信号Fr_L Readout1が出力される。次に、第1の長期垂直同期期間Tfrl1を構成する第2の短期垂直同期期間Tfrs2で、短時間露光フレームの出力信号Fr_S Readout2が出力される。同様に、第2の長期垂直同期期間Tfrl2を構成する第3の短期垂直同期期間Tfrs3で、長時間露光フレームの出力信号Fr_L Readout3が出力される。次に、第2の長期垂直同期期間Tfrl2を構成する第4の短期垂直同期期間Tfrs4で、短時間露光フレームの出力信号Fr_S Readout4が出力される。
これにより、本実施形態では、短期垂直同期信号VDSに同期して、長時間露光フレームの出力信号Fr_L Readoutと短時間露光フレームの出力信号Fr_S Readoutが交互に出力される。そのため、従来の長時間露光終了後に全ラインを一度に読み出す動作に比べて、撮像素子からの出力信号の読み出しにかかる処理負荷が平準化されることになる。
次に、電子シャッタを用いた露光制御について説明する。
第1の長期垂直同期期間Tfrl1においては、長時間露光フレームの露光時間が短期垂直同期期間Tfrsを超えて制御された場合の長時間露光フレーム及び短時間露光フレームの電子シャッタ動作となっている。
まず、第1の長期垂直同期期間Tfrl1における短時間露光フレームFr_Sにおいて、タイミングt21で、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作が破線410で示される。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt21から露光時間Tfrs_expl経過後のt23において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間Tfrs_explは、7HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_explとなる信号を出力することになる。この時の短時間露光フレームFr_Sの出力信号が、第2の短期垂直同期期間Tfrs2におけるFr_S Readout2となる。
この時、第1の長期垂直同期期間Tfrl1における長時間露光フレームFr_Lにおいては、タイミングt22において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作が破線420で示される。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt22から露光時間Tfrl_expl経過後のt24において、VDLに同期して、01ラインの読み出しを実施する。連続撮影では、タイミングt24以降はt20に戻って繰り返すが、ここでは長時間露光フレームFr_Lの動作終了まで連続して説明する。この時、露光時間Tfrl_explは、14HDとなっている。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_explとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、第3の短期垂直同期期間Tfrs3におけるFr_L Readout3となる。
以上が、第1の長期垂直同期期間Tfrl1で実施される電子シャッタを用いた露光制御の動作である。ここで、短時間露光フレームの露光時間Tfrs_explと長時間露光フレームの露光時間Tfrl_explの比は、7HD:14HD=1:2となっている。
次に、第2の長期垂直同期期間Tfrl2で実施される電子シャッタを用いた露光制御の動作を説明する。第2の長期垂直同期期間Tfrl2においては、露光時間が短期垂直同期期間Tfrs内で制御された場合の長時間露光フレームと短時間露光フレームの電子シャッタ動作となっている。さらに、上記した先行フレームの第1の長期垂直同期期間Tfrl1に対して露出条件が変更された場合を想定している。
まず、第2の長期垂直同期期間Tfrl2における短時間露光フレームFr_Sにおいては、タイミングt25において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作が破線430で示される。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt25から露光時間Tfrs_exps経過後のt26において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間Tfrs_expsは、2HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_expsとなる信号を出力することになる。この時の短時間露光フレームFr_Sの出力信号が、第4の短期垂直同期期間Tfrs4におけるFr_S Readout4となる。
この時、第2の長期垂直同期期間Tfrl2における長時間露光フレームFr_Lにおいては、タイミングt27において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作が破線440で示される。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt27から露光時間Tfrl_exps経過後のt28において、VDLに同期して、01ラインの読み出しを実施する。この時、露光時間Tfrl_expsは、4HDとなっている。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_expsとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、タイミングt28以降のReadOutとなる。
以上が、第2の長期垂直同期期間Tfrl2で実施される電子シャッタを用いた露光制御の動作である。ここで、短時間露光フレームの露光時間Tfrs_expsと長時間露光フレームの露光時間Tfrl_expsの比は、2HD:4HD=1:2となっている。
これらの電子シャッタ動作により、短時間露光と長時間露光における露光時間の比が各フレームで一定(1:2)となるように制御される。このため、感度比を補償するゲイン値は、短時間露光画素の信号に対して2倍に設定する。そして、長時間露光画素の信号と短時間露光画素の信号を合成することでHDR処理を実行すればよい。
次に、本実施形態における撮影動作とHDR処理について説明する。HDR処理では、長時間露光により得られた第1の画像データと短時間露光により得られた第2の画像データとを合成して、第1及び第2の画像データに対してダイナミックレンジが拡大された第3の画像データを作成する。HDR処理は、図1の信号処理部13において実施される。
信号処理部13においては、撮像素子12から出力される画素信号に対して、画素信号補正処理、位置ずれ補正処理、HDR処理、画像信号処理を実施することで、ダイナミックレンジが拡大された画像を生成する。ここでは、短時間露光フレームFr_Sの出力信号Fr_S Readout2と長時間露光フレームの出力信号Fr_L Readout3を用いた場合について説明する。
まず、短期垂直同期信号VDSに同期して出力される短時間露光フレームの出力信号Fr_S Readout2に対して、画素信号補正処理を行う。画素信号補正処理としては例えば、キズ補正、固定パターン補正、シェーディング補正等の補正処理を行う。次に、長時間露光ラインと短時間露光ラインが2ライン毎に位置がずれているため、後に出力される長時間露光フレームの出力信号Fr_L Readout3に合うように位置ずれ補正処理を行う。図2の画素領域200には16ラインしか示されていないが、実際には、960ラインあるいは2048ライン程度を備えている。したがって、画素領域200を短時間露光フレームと長時間露光フレームに分割したとしても十分な解像度を維持したまま位置ずれ補正を実施することができる。位置ずれ補正処理は、短時間露光フレームの03、04、07、08、11、12、15、16ラインを用いて、01、02、05、06、09、10、13、14ラインの位置の短時間露光時の画素信号を求める。例えば、短時間露光フレームの03、04、07、08ラインを用いて、短時間露光時の05、06ラインを補間して求める方法がある。さらに、HDR処理の一部として、短時間露光フレームと長時間露光フレームの露光時間の比1:2を補償するため、2倍のゲイン値をかけておく。
こうして求められた短時間露光フレームに相当する01、02、05、06、09、10、13、14ラインの画素信号は、信号処理部13に設けられた不図示のメモリに記憶される。そして、次の長期垂直同期信号VDLに同期して出力される長時間露光フレームの出力信号Fr_L Readout3に対して、同様の画素信号補正処理を行う。
次に、記憶されている短時間露光フレームに相当する01、02、05、06、09、10、13、14ラインの画素信号と長時間露光フレームの01、02、05、06、09、10、13、14ラインの画素信号との間で、HDR処理を実施する。短時間露光フレームの画素信号には露光時間を補償するゲイン値がすでにかけてあるので、ここでのHDR処理としては、明るさに応じた重み付け係数を用いて、長時間露光画素の信号と短時間露光画素の信号を合成することになる。明るさに応じた合成の方法としては、例えば次のような方法がある。まず、長時間露光画素の信号の重み付け係数と短時間露光画素の信号の重み付け係数の和を一定値1とする。そして、画像が明るい場合には、短時間露光画素の信号の重み付け係数を大きする。一方、画像が暗い場合には、長時間露光画素の信号の重み付け係数を大きくする。ここまでは、全て画素毎の信号処理になっているので、最後に画像信号処理を実施して、ダイナミックレンジが拡大された画像を生成する。画像信号処理としては、ホワイトバランス調整処理、色補正処理、ガンマ補正処理等の信号処理を行う。
このようにして、短時間露光フレームの信号出力時には、短時間露光フレームだけに画素信号補正処理、位置ずれ補正処理、露光時間を補償するゲイン補正を実施する。また、長時間露光フレームの信号出力時には、長時間露光フレームだけの画素信号補正処理、HDR処理、画像信号処理を実施する。これにより、処理負荷の分散化が図られる。
さらに、動画撮影においては、第2の短期垂直同期期間Tfrs2の画像は、長時間露光フレームの出力信号Fr_L Readout1及び短時間露光フレームの出力信号Fr_S Readout2を用いて作成される。また、次の第3の短期垂直同期期間Tfrs3の画像は、短時間露光フレームの出力信号Fr_S Readout2および長時間露光フレームの出力信号Fr_L Readout3を用いて作成される。このように、新たに出力される画像信号を使ってHDR処理を実施することで、動画撮影時の動画解像度の向上を図ってもよい。
また、連続する2つの露光フレームの出力信号から静止画像を作成する場合は、露光時間の重なりが大きい短時間露光フレーム及び長時間露光フレームの順番に出力する出力信号を用いればよい。例えば、出力信号Fr_S Readout2及びFr_L Readout3、あるいは、出力信号Fr_S Readout4及び不図示のFr_L Readout5を用いればよい。これにより、ブレの少ないダイナミックレンジが拡大された静止画像を作成することができる。
以上説明した第1の実施形態では、短時間露光時のフレーム周期に同期して、短時間露光ラインと長時間露光ラインを別々のフレームで読み出す。また、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間露光ラインを読み出す。これにより、読み出し制御システムの簡略化と読み出し時及び信号処理時の処理負荷の低減及び平準化を実現できる。
また、本実施形態の画素信号の露光動作は長期垂直同期信号又は短期垂直同期信号に同期して行われる。したがって、短時間露光の中心と長時間露光の中心とを合わせるといったような複雑な処理を行う必要がなく、画素信号の読み出しのタイミング制御が単純化される。さらに、長時間露光と短時間露光の露光時間の中心を合わせた場合に発生しうる、短時間露光ラインの読み出し終了と長時間露光ラインの読み出し開始とが干渉してしまうという課題も避けることができる。
また、上述の実施形態では、短時間露光フレームと長時間露光フレームの露光時間の比1:2に合わせて、長期垂直同期期間が短期垂直同期期間の2倍になっている。このため、長時間及び短時間露光フレームの露光時間を有効に利用できるとともに、露光時間制御の複雑化を避けることが可能となっている。
さらに、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間露光ラインを読み出すことで、長時間露光と短時間露光を重ねて実行できる。そのため、フレームレートを均一にした場合でも、短時間露光時の1フレームを超える長時間露光を実現できる。加えて、複数回露光方式にみられた露光に寄与しない無駄時間の発生を避けることもできる。
そして、短時間露光ラインと長時間露光ラインを別々のフレームで読み出すことで、ローリング歪の発生を半分に低減することができる。
次に、本実施形態の変形例について説明する。上述の位置ずれ補正処理においては、短時間露光ラインを用いて長時間露光ラインの位置の短時間露光時の画素信号を求めた。しかしこのかわりに、短時間露光フレームとして、01ラインから16ラインまでの全ラインを用いてもよい。その時は、長時間露光フレームの01、02、05、06、09、10、13、14ラインを用いて、長時間露光フレーム相当の03、04、07、08、11、12、15、16ラインの画素信号を計算する。そして、長時間露光フレームとして、01ラインから16ラインまでの全ラインを用いる。これにより、16×16全画素を用いたダイナミックレンジが拡大された画像を生成することができる。
次に、本実施形態の他の変形例について説明する。本実施形態の画像信号処理においては、HDR処理後に、ホワイトバランス調整処理、色補正処理、ガンマ補正処理等の信号処理を行ったが、画像信号処理を分散してもよい。その時は、露光時間を補償するゲイン値をかけた後の短時間露光フレームの出力信号に対して、ホワイトバランス調整処理と色補正処理を行い、メモリに記憶しておく。そして、画素信号補正処理を行った長時間露光フレームの出力信号に対して、ホワイトバランス調整処理と色補正処理を行う。その後、HDR処理を実施し、最後に、画像信号処理としてのガンマ補正処理を行う。こうして、ダイナミックレンジが拡大された画像が生成される。
次に、図9を用いて、本実施形態のさらに他の変形例について説明する。図9(a)は、画素領域200の撮像面照度Eplxと画素の出力信号Psigの関係を表した画素特性の図である。画素特性Exp1、Exp2、Exp3、Exp4は、撮像面照度Eplxと画素の出力信号Psigの関係を表す。それぞれ、露光フレーム期間が、それぞれTfrs、2Tfrs、3Tfrs、4Tfrsで、かつ、電子シャッタによる露光時間の比が1:2:3:4に制御されている場合の特性を示している。これにより、画素特性Exp1を基準にすると、画素特性Exp2、Exp3、Exp4の傾きはそれぞれ、2倍、3倍、4倍となる。PSATは、画素の飽和信号量を示している。画素特性Exp1、Exp2、Exp3、Exp4はそれぞれ、撮像面照度E1、E2、E3、E4において飽和信号量PSATに達するので、それ以上の照度では出力信号は増加しない。破線は、画素特性Exp1、Exp2、Exp3、Exp4が飽和しないと仮定した場合の表示である。
図9(b)は、画素特性Exp1についての撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。図9(a)において、撮像面の照度E1にて画素が飽和するため、画像信号もSSATにて飽和した特性となっている。そして、撮像面照度0からE1に対応して、画像信号が0からSSATまで階調を持って出力していることがわかる。これが、HDR処理を行わなかった場合の画素特性である。
図9(c)は、画素特性Exp1及びExp2を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。本実施形態においては、画素特性Exp1及びExp2がそれぞれ、短時間露光フレームの出力信号及び長時間露光フレームの出力信号に相当する。HDR処理の方法は、画素特性Exp1及びExp2を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE2までは、図9(a)における画素特性Exp1及びExp2を加算することで、Exp1の3倍の感度に相当する画素特性となる。撮像面照度E2からE1までは、図9(a)において画素特性Exp2が飽和しているので、PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図9(a)において画素特性Exp1及びExp2がともに飽和しているので、最大飽和信号量となる2PSATとなっている。
このように加算した画素特性に対して、最大飽和信号量2PSATがSSATになるように正規化することで、図9(c)のHDR処理が実現する。そして、撮像素子12を図4のように動作させるとともに、信号処理部13において図9(c)となるようにHDR処理を実施するように撮像装置を制御すればよい。
これにより、撮像面照度0からE1に対応して、画像信号が0からSSATまで階調を持って出力していることがわかる。さらに、撮像面照度0からE2の画像信号特性の傾きを、図9(b)の画素特性Exp1の画像信号特性と比較すると、(感度3倍相当)/(最大飽和信号量2倍)=1.5倍になっていることより、ダイナミックレンジは、1.5倍に拡大されていることになる。
ただし、画像信号特性の飽和信号SSATが2SSATまで利用可能であれば、ダイナミックレンジは、3倍まで拡大することができる。図9(c)は、ガンマ特性として知られている入出力特性で、これによりダイナミックレンジを拡大することが可能である。
<第2の実施形態>
第1の実施形態においては、2ライン毎に露光時間が異なるようにして長時間露光フレームと短時間露光フレームの2つのフレームを設定した。第2の実施形態では、さらに異なる露光時間を持つフレームを加えることで、よりダイナミックレンジの広い画像を生成する。以下、2ライン毎に露光時間が異なるフレームとして、長時間露光フレーム及び短時間露光フレームに加え、中時間露光フレームを設定した場合について説明する。なお、本実施形態では、撮像装置の基本的な構成と動作及び撮像素子の基本的な構成と動作は、第1の実施形態と同様である。したがって本実施形態にも図1及び図2を援用し、以下に示す図5、図6においても図3、図4と同じ要素には同じ参照符号を用いる。
図5は、本実施形態に係る撮像素子12の制御タイミングを示す図である。本実施形態では、HDR処理のために、画素領域200には、2ライン単位で、長時間露光ライン及び短時間露光ラインに加え、中時間露光用のライン(以下「中時間露光ライン」という。)が設定される。中時間露光の露光時間は、長時間露光の露光時間と短時間露光の露光時間の中間の時間長に設定される。
図5において、VDMは、中時間露光フレームの垂直同期信号(中期垂直同期信号)を示し、その1周期にあたる中期垂直同期期間がTfrmで示されている。中期垂直同期期間Tfrmは、短期垂直同期信号のN周期分(=N・Tfrs。ただしNは2以上の自然数)に等しい。図5の例では、N=2である。長期垂直同期期間Tfrlは、短期垂直同期信号のM周期分(=M・Tfrs。ただしMはNより大きい自然数)に等しい。図5の例では、M=3、つまり3周期分である。本実施形態では、これらの短期垂直同期信号、長期垂直同期信号、長期垂直同期信号は、同期信号発生手段としてのTG290によって発生される。
ここでは、2ライン毎に露光時間が異なるように、長時間露光ラインを01、02、07、08、13、14ラインとし、中時間露光ラインを03、04、09、10、15、16ラインとし、短時間露光ラインを05、06、11、12ラインとする。そして、各ラインの画素の信号を列信号処理部250に読み出した後、1ライン分の画素の信号を出力部280から出力する期間として、対応する1HD期間をROと表示する。ここで、各ラインの画素の信号を列信号処理部250に読み出す期間は、1ライン分の画素の信号を出力部280から出力する期間に比べて十分短いので、次の露光フレームはRO期間から始まるものとする。また、2ライン毎に露光時間が異なる信号からHDR処理を実施しやすいように、それぞれの画素はベイヤ配列のような2x2配列の色フィルタを備えているものとする。ReadOutは、読み出した画素信号が出力部280から出力されるタイミングを示す。ReadOutには以下の3種類がある。
(1)画素から読み出した長時間露光フレームの出力信号Fr_L Readout。
(2)中時間露光フレームの出力信号Fr_M Readout。
(3)短時間露光フレームの出力信号Fr_S Readout。
まず、タイミングt00において、VDL、VDM及びVDSに同期して、01ライン、03ライン及び05ラインの読み出しを実施することで、画素をリセットし、01ライン、03ライン及び05ラインの露光を開始する。
タイミングt01において、02ライン、04ライン及び06ラインの読み出しを実施することで、画素をリセットし、02ライン、04ライン及び06ラインの露光を開始する。
タイミングt02において、07ライン、09ライン及び11ラインの読み出しを実施することで、画素をリセットし、07ライン、09ライン及び11ラインの露光を開始する。
タイミングt03において、08ライン、10ライン及び12ラインの読み出しを実施することで、画素をリセットし、08ライン、10ライン及び12ラインの露光を開始する。
同様の方法で、13ラインから16ラインまでをリセットして、13ラインから16ラインまでの露光を開始する。
このように、1HD経過する毎に、リセットすることで、ライン順次のローリングシャッタ動作を開始する。
次に、タイミングt00からTfrs経過後のt05において、VDSに同期して、05ラインの画素の信号をRO期間に出力する。この時、01ライン及び03ラインは露光を継続する。
タイミングt06において、06ラインの画素の信号をRO期間に出力する。この時、02ライン及び04ラインは露光を継続する。
タイミングt07において、11ラインの画素の信号をRO期間に出力する。この時、07ライン及び09ラインは露光を継続する。
タイミングt08において、12ラインの画素の信号をRO期間に出力する。この時、08ライン及び10ラインは露光を継続する。
同様に、13、14、15、16ラインは露光を継続する。
このように、1HD経過する毎に、短時間露光ラインである05、06、11、12ラインを読み出すことで、短時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の短時間露光フレームの出力がFr_S Readoutとなる。ここで、この短時間露光フレームにおいては、画素の読み出しをすることで画素をリセットしているので、最長の露光時間は、短期垂直同期期間のTfrsとなっている。
続くタイミングt00からTfrm経過後のt10において、VDMに同期して、03ラインの画素の信号をRO期間に出力する。この時、01ラインは露光を継続する。
タイミングt11において、04ラインの画素の信号をRO期間に出力する。この時、02ラインは露光を継続する。
タイミングt12において、09ラインの画素の信号をRO期間に出力する。この時、07ラインは露光を継続する。
タイミングt13において、10ラインの画素の信号をRO期間に出力する。この時、08ラインは露光を継続する。
同様の方法で、15、16ラインの読み出しも実施する。この時、13、14ラインは露光を継続する。
このように、1HD経過する毎に、中時間露光ラインである03、04、09、10、15、16ラインを読み出すことで、中時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の中時間露光フレームの出力がFr_M Readoutとなる。ここで、この中時間露光フレームにおいては、画素の読み出しをすることで画素をリセットしているので、最長の露光時間は、中期垂直同期期間Tfrmとなっている。
さらに、中期垂直同期期間Tfrmは、短時間露光フレームの出力信号Fr_S Readoutを含む短期垂直同期期間Tfrsの2倍の期間となっている。
続く、タイミングt00からTfrl経過後のt15において、VDLに同期して、01ラインの画素の信号をRO期間に出力する。
タイミングt16において、02ラインの画素の信号をRO期間に出力する。
タイミングt17において、07ラインの画素の信号をRO期間に出力する。
タイミングt18において、08ラインの画素の信号をRO期間に出力する。
同様の方法で、13、14ラインの読み出しも実施する。
このように、1HD経過する毎に、長時間露光ラインである01、02、07、08、13、14ラインを読み出すことで、長時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の長時間露光フレームの出力がFr_L Readoutとなる。ここで、この長時間露光フレームにおいては、画素の読み出しをすることで画素をリセットしているので、最長の露光時間は、長期垂直同期期間Tfrlとなっている。
さらに、長期垂直同期期間Tfrlは、短時間露光フレームの出力信号Fr_S Readoutを含む短期垂直同期期間Tfrsの3倍の期間となっている。また、2ライン毎に長時間露光ライン、中時間露光ライン、及び短時間露光ラインに分けて読み出しているので、全ラインを一度に読み出す動作に比べて、それぞれのフレームの読み出し時間は約3分の1になっている。
図6は、本実施形態に係る長時間露光フレーム、中時間露光フレーム、及び短時間露光フレームの制御タイミングを示す図である。図6においては、図5のライン毎の動作をフレーム毎の動作で示すとともに、動画撮影に応用するために、連続撮影が可能な制御タイミングとなっている。そこで、連続撮影を可能にするために、タイミングt36以降の制御タイミングは、t30に戻って繰り返すものとする。また、図5と同じ動作や構成のものは、同じ符号で示す。
タイミングt30からt36までが、第1の長期垂直同期期間Tfrl1である。また、タイミングt36からt42までが、第2の垂直同期期間Tfrl2である。
タイミングt30からt35までが、第1の中期垂直同期期間Tfrm1である。また、タイミングt36からt40までが、第2の中期垂直同期期間Tfrm2である。
タイミングt30からt34までが、第1の短期垂直同期期間Tfrs1である。
タイミングt34からt35までが、第2の短期垂直同期期間Tfrs2である。
タイミングt35からt36までが、第3の短期垂直同期期間Tfrs3である。
タイミングt36からt38までが、第4の短期垂直同期期間Tfrs4である。
タイミングt38からt40までが、第5の短期垂直同期期間Tfrs5である。
タイミングt40からt42までが、第6の短期垂直同期期間Tfrs6である。
Fr_Lが、長時間露光フレームを構成する01、02、07、08、13、14ラインの動作の状態を示す。Fr_Mが、中時間露光フレームを構成する03、04、09、10、15、16ラインの動作の状態を示す。Fr_Sが、短時間露光フレームを構成する05、06、11、12ラインの動作の状態を示す。
長時間露光フレームFr_Lでは、長期垂直同期信号VDLに同期して、その長期垂直同期期間Tfrl毎に、長時間露光ラインに対して連続してローリングシャッタ動作を実施する。
また、中時間露光フレームFr_Mでは、長期垂直同期信号VDLに同期して第1の中期垂直同期期間Tfrm1及び第2の中期垂直同期期間Tfrm2で、中時間露光ラインに対してローリングシャッタ動作を開始する。その後、次の中期垂直同期信号VDMに同期して、中時間露光ラインについての画素信号の読み出しを開始する。これは、次のように説明することもできる。すなわち、中時間露光ラインについては、長時間露光ラインの画素信号の読み出し期間と重複しない中期垂直同期信号VDMに同期して画素信号の読み出しを開始する。
さらに、短時間露光フレームFr_Sでは、長期垂直同期信号VDLに同期して、短時間露光ラインに対してローリングシャッタ動作の露光を開始する。その後、次の短期垂直同期信号VDSに同期して、短時間露光ラインについての画素信号の読み出しを開始する。ここでは、短時間露光ラインについては、長時間露光ラインの画素信号の読み出し期間と重複せず、中時間露光ラインの画素信号の読み出し期間とも重複しない短期垂直同期信号VDSに同期して画素信号の読み出しを開始する。
具体的には、第1の長期垂直同期期間Tfrl1を構成する第1の短期垂直同期期間Tfrs1で、一巡前のタイミングに露光を開始した長時間露光フレームの出力信号Fr_L Readout1が出力される。次に、第1の長期垂直同期期間Tfrl1を構成する第2の短期垂直同期期間Tfrs2で、短時間露光フレームの出力信号Fr_S Readout2が出力される。次に、第1の長期垂直同期期間Tfrl1を構成する第3の短期垂直同期期間Tfrs3で、中時間露光フレームの出力信号Fr_M Readout3が出力される。
同様に、第2の長期垂直同期期間Tfrl2を構成する第4の短期垂直同期期間Tfrs4で、長時間露光フレームの出力信号Fr_L Readout4が出力される。次に、第2の長期垂直同期期間Tfrl2を構成する第5の長期垂直同期期間Tfrs5で、短時間露光フレームの出力信号Fr_S Readout5が出力される。次に、第2の長期垂直同期期間Tfrl2を構成する第6の短期垂直同期期間Tfrs6において、中時間露光フレームの出力信号Fr_M Readout6が出力される。
これにより、本実施形態では、VDSに同期して、出力信号Fr_L Readout、Fr_S Readout、Fr_M Readoutが順番に繰り返し出力されることになる。そのため、長時間露光終了後に全ラインを一度に読み出す動作に比べて、撮像素子からの出力信号の読み出しが平準化されることになる。
次に、電子シャッタを用いた露光制御について説明する。
第1の長期垂直同期期間Tfrl1においては、長時間露光フレームの露光時間が短期垂直同期期間Tfrsを超えて制御された場合の長時間露光フレーム、中時間露光フレーム、及び短時間露光フレームの電子シャッタ動作となっている。
まず、第1の長期垂直同期期間Tfrl1における短時間露光フレームFr_Sにおいては、タイミングt31で、水平同期信号HDに同期して、05ラインの画素をリセットして05ラインの露光を開始する。この時のリセット動作が破線610で示される。続けて、1HD経過する毎に、06、11、12ラインをそれぞれリセットすることで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt31から露光時間Tfrs_expl経過後のt34において、VDSに同期して、05ラインの読み出しを実施する。この時、露光時間Tfrs_explは、6HDとなっている。続けて、1HD経過する毎に、06、11、12ラインをそれぞれ読み出すことで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_explとなる信号を出力することになる。この時の短時間露光フレームFr_Sの出力信号が、第2の短期垂直同期期間Tfrs2におけるFr_S Readout2となる。
この時、第1の長期垂直同期期間Tfrl1における中時間露光フレームFr_Mにおいては、タイミングt32において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作が破線620で示される。続けて、1HD経過する毎に、04、09、10、15、16ラインをそれぞれリセットすることで、中時間露光フレームFr_Mのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt32から露光時間Tfrm_expl経過後のt35において、VDMに同期して、03ラインの読み出しを実施する。この時、露光時間Tfrm_explは、12HDとなっている。続けて、1HD経過する毎に、04、09、10、15、16ラインをそれぞれ読み出すことで、中時間露光フレームFr_Mのライン順次のローリングシャッタ動作を終了する。これにより、中時間露光フレームFr_Mは、すべてのラインで露光時間Tfrm_explとなる信号を出力することになる。この時の中時間露光フレームFr_Mの出力信号が、短時間露光フレームの第3の垂直同期期間Tfrs3におけるFr_M Readout3となる。
この時、第1の長期垂直同期期間Tfrl1における長時間露光フレームFr_Lにおいては、タイミングt33において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作が破線630で示される。続けて、1HD経過する毎に、02、07、08、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt33から露光時間Tfrl_expl経過後のt36において、VDLに同期して、01ラインの読み出しを実施する。連続撮影では、タイミングt36以降はt30に戻って繰り返すが、ここでは長時間露光フレームFr_Lの動作終了まで連続して説明する。この時、露光時間となるTfrl_explは、18HDとなっている。続けて、1HD経過する毎に、02、07、08、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_explとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、短時間露光フレームの第4の垂直同期期間Tfrs4におけるFr_L Readout4となる。
以上が、第1の長期垂直同期期間Tfrl1で実施される電子シャッタを用いた露光制御の動作である。ここで、短時間露光フレームの露光時間Tfrs_expl、中時間露光フレームの露光時間Tfrm_explと長時間露光フレームの露光時間Tfrl_explの比は、6HD:12HD:18HD=1:2:3となっている。
次に、第2の長期垂直同期期間Tfrl2で実施される電子シャッタを用いた露光制御の動作を説明する。
第2の長期垂直同期期間Tfrl2においては、露光時間が短期垂直同期期間Tfrs内で制御された場合の長時間露光フレーム、中時間露光フレーム及び短時間露光フレームの電子シャッタ動作となっている。さらに、上記した先行フレームの第1の長期垂直同期期間Tfrl1に対して露出条件が変更された場合を想定している。
まず、第2の長期垂直同期期間Tfrl2における短時間露光フレームFr_Sにおいては、タイミングt37において、水平同期信号HDに同期して、05ラインの画素をリセットして05ラインの露光を開始する。この時のリセット動作が破線640で示される。続けて、1HD経過する毎に、06、11、12ラインをそれぞれリセットすることで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt37から露光時間Tfrs_exps経過後のt38において、VDSに同期して、05ラインの読み出しを実施する。この時、露光時間となるTfrs_expsは、2HDとなっている。続けて、1HD経過する毎に、06、11、12ラインをそれぞれ読み出すことで、短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_expsとなる信号を出力することになる。この時の短時間露光フレームFr_Sの出力信号が、第5の短期垂直同期期間Tfrs5におけるFr_S Readout5となる。
この時、第2の長期垂直同期期間Tfrl2における中時間露光フレームFr_Mにおいては、タイミングt39において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作が破線650で示される。続けて、1HD経過する毎に、04、09、10、15、16ラインをそれぞれリセットすることで、中時間露光フレームFr_Mのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt39から露光時間Tfrm_exps経過後のt40において、VDMに同期して、03ラインの読み出しを実施する。この時、露光時間Tfrm_expsは、4HDとなっている。続けて、1HD経過する毎に、04、09、10、15、16ラインをそれぞれ読み出すことで、中時間露光フレームFr_Mのライン順次のローリングシャッタ動作を終了する。
これにより、中時間露光フレームFr_Mは、すべてのラインで露光時間Tfrm_expsとなる信号を出力することになる。この時の中時間露光フレームFr_Mの出力信号が、第6の短期垂直同期期間Tfrs6におけるFr_M Readout6となる。
この時、第2の長期垂直同期期間Tfrl2における長時間露光フレームFr_Lにおいては、タイミングt41において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作が破線660で示される。続けて、1HD経過する毎に、02、07、08、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt41から露光時間Tfrl_exps経過後のt42において、VDLに同期して、01ラインの読み出しを実施する。この時、露光時間Tfrl_expsは、6HDとなっている。続けて、1HD経過する毎に、02、07、08、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_expsとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、タイミングt42以降のReadOutとなる。
以上が、第2の長期垂直同期期間Tfrl2で実施される電子シャッタを用いた露光制御の動作となる。ここで、短時間露光フレームの露光時間Tfrs_exps、中時間露光フレームの露光時間Tfrm_exps、及び長時間露光フレームの露光時間Tfrl_expsの比は、2HD:4HD:6HD=1:2:3となっている。
これらの電子シャッタ動作により、短時間露光、中時間露光、及び長時間露光の露光時間の比が各フレームで一定(1:2:3)となるように制御される。このため、感度比を補償するゲイン値は、短時間露光画素の信号に対して3倍、中時間露光画素の信号に対して1.5倍に設定する。そして、長時間露光画素の信号、中時間露光画素の信号及び短時間露光画素の信号を合成することでダイナミックレンジの拡大処理を実行すればよい。
次に、本実施形態における撮影動作とHDR処理について説明する。HDR処理では、長時間露光により得られた第1の画像データと中時間露光により得られた第2の画像データと短時間露光により得られた第3の画像データとを合成する。これにより、第1、第2、第3の画像データに対してダイナミックレンジが拡大された第4の画像データを作成する。HDR処理は、図1の信号処理部13において実施される。
信号処理部13においては、撮像素子12から出力される画素信号に対して、画素信号補正処理、位置ずれ補正処理、HDR処理、画像信号処理を実施することで、ダイナミックレンジが拡大された画像を生成する。ここでは、短時間露光フレームFr_Sの出力信号Fr_S Readout2、中時間露光フレームFr_Mの出力信号Fr_M Readout3、及び長時間露光フレームの出力信号Fr_L Readout4を用いた場合について説明する。
まず、短期垂直同期信号VDSに同期して出力される短時間露光フレームの出力信号Fr_S Readout2に対して、画素信号補正処理を行う。画素信号補正処理としては例えば、キズ補正、固定パターン補正、シェーディング補正等の補正処理を行う。次に、長時間露光ラインと短時間露光ラインが2ライン毎に位置がずれているため、後に出力される長時間露光フレームの出力信号Fr_L Readout4に合うように位置ずれ補正処理を行う。図2の画素領域200には16ラインしか示されていないが、実際には、1440ラインあるいは3072ライン程度を備えている。したがって画素領域200を短時間露光フレーム、中時間露光フレーム、長時間露光フレームに分割したとしても十分な解像度を維持したまま位置ずれ補正を実施することができる。位置ずれ補正処理は、短時間露光フレームの05、06、11、12ラインを用いて、01、02、07、08、13、14ラインの位置の短時間露光時の画素信号を求める。例えば、短時間露光フレームの05、06、11、12ラインを用いて、短時間露光時の07、08ラインを補間して求める方法がある。さらに、HDR処理の一部として、短時間露光フレームと長時間露光フレームの露光時間の比1:3を補償するため、3倍のゲイン値をかけておく。
こうして求められた短時間露光フレームに相当する01、02、07、08、13、14ラインの画素信号は、信号処理部13に設けられた不図示のメモリに記憶される。そして、次の中期垂直同期信号VDMに同期して出力される中時間露光フレームの出力信号Fr_M Readout3に対して、同様の画素信号補正処理を行う。
次に、長時間露光ラインと中時間露光ラインが2ライン毎に位置がずれているため、後から出力される長時間露光フレームの出力信号Fr_L Readout4に合うように位置ずれ補正処理を行う。位置ずれ補正処理は、中時間露光フレームの03、04、09、10、15、16ラインを用いて、01、02、07、08、13、14ラインの位置の中時間露光時の画素信号を求める。例えば、中時間露光フレームの03、04、09、10ラインを用いて、中時間露光時の07、08ラインを補間して求める方法がある。さらに、HDR処理の一部として、中時間露光フレームと長時間露光フレームの露光時間の比2:3を補償するため、1.5倍のゲイン値をかけておく。
こうして求められた中時間露光フレームに相当する03、04、09、10、15、16ラインの画素信号は、信号処理部13に設けられた不図示のメモリに記憶される。そして、次の長期垂直同期信号VDLに同期して出力される長時間露光フレームの出力信号Fr_L Readout4に対して、同様の画素信号補正処理を行う。
その後、以下の(1)〜(3)の画素信号の間でHDR処理を実施する。
(1)記憶されている短時間露光フレームに相当する01、02、07、08、13、14ラインの画素信号。
(2)記憶されている中時間露光フレームに相当する01、02、07、08、13、14ラインの画素信号。
(3)長時間露光フレームの01、02、07、08、13、14ラインの画素信号。
短時間露光フレームの画素信号及び中時間露光フレームの画素信号には露光時間を補償するゲイン値がすでにかけてある。したがって、ここでのHDR処理としては、明るさに応じた重み付け係数を用いて、長時間露光画素の信号、中時間露光画素の信号及び短時間露光画素の信号を合成することになる。明るさに応じた合成の方法としては、例えば以下のような方法がある。まず、長時間露光画素の信号の重み付け係数、中時間露光画素の信号の重み付け係数及び短時間露光画素の信号の重み付け係数の和を一定値1とする。そして、画像が明るい場合には、短時間露光画素の信号の重み付け係数を大きくする。一方、画像が暗い場合には、長時間露光画素の信号の重み付け係数を大きくしてやればよい。ここまでは、すべて画素ごとの信号処理になっているので、最後に画像信号処理を実施して、ダイナミックレンジが拡大された画像を生成する。画像信号処理としては、ホワイトバランス調整処理、色補正処理、ガンマ補正処理等の信号処理を行う。
このようにして、短時間露光フレームの信号出力時には、短時間露光フレームだけに画素信号補正処理、位置ずれ補正処理、露光時間を補償するゲイン補正を実施する。また、中時間露光フレームの信号出力時には、中時間露光フレームだけに画素信号補正処理、位置ずれ補正処理、露光時間を補償するゲイン補正を実施する。そして、長時間露光フレームの信号出力時には、長時間露光フレームだけの画素信号補正処理、HDR処理、画像信号処理を実施する。これにより、処理負荷の分散化が図られる。
さらに、動画撮影においては、Tfrs3の画像が、出力信号Fr_L Readout1、Fr_S Readout2、Fr_M Readout3を用いて作成される。また、次のTfrs4の画像が、出力信号Fr_S Readout2、Fr_M Readout3、Fr_L Readout4を用いて作成される。このように、新たに出力される画像信号を使ってHDR処理を実施することで、動画撮影時の動画解像度の向上を図ってもよい。
また、連続する3つの露光フレームの出力信号から静止画像を作成する場合は、露光時間の重なりが大きい中時間露光フレーム、長時間露光フレームおよび短時間露光フレームの順番に出力する出力信号を用いればよい。例えば、出力信号Fr_M Readout3、Fr_L Readout4、Fr_S Readout5を用いる。あるいは、出力信号Fr_M Readout6、Fr_L Readout7、Fr_S Readout8を用いてもよい。これにより、ブレの少ないダイナミックレンジが拡大された静止画像を作成することができる。
また、位置ずれ補正処理についても、第1の実施形態の変形例と同様にして、16x16全画素を用いたダイナミックレンジが拡大された画像を生成することができる。さらに、画像信号処理についても、第1の実施形態の他の変形例と同様に、処理の分散が可能である。
以上のように、本実施形態においては、短時間露光時のフレーム周期に同期して、短時間露光ライン、中時間露光ライン、長時間露光ラインを別々のフレームで読み出す。また、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間露光ライン及び中時間露光ラインを別々のフレームで読み出す。これにより、読み出し制御システムの簡略化と、読み出し時及び信号処理時の処理負荷の低減及び平準化とを実現することができる。
また、短時間露光フレーム、中時間露光フレーム及び長時間露光フレームの露光時間の比1:2:3に合わせて、長期及び中期垂直同期期間をそれぞれ短期垂直同期期間の3倍、2倍に設定している。このため、長時間、中時間、短時間露光フレームの露光時間及を有効に利用できるとともに、露光時間制御の複雑化を避けることが可能となっている。
さらに、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間及び中時間露光ラインを読み出すことで、長時間露光、中時間露光、短時間露光を重ねて実行できる。そのため、フレームレートを均一にした場合でも、短時間露光時の1フレームを超える中時間、長時間露光を実現するとともに、複数回露光方式にみられた露光に寄与しない無駄時間の発生を避けることもできる。
そして、短時間露光ライン、中時間露光ライン及び長時間露光ラインを別々のフレームで読み出すことで、ローリング歪の発生を約3分の1に低減することができる。
次に、図9を用いて、本実施形態の変形例について説明する。HDR処理の基本的な動作は、第1の実施形態のさらに他の変形例と同様であるので、図および符号を流用する。
図9(d)は、画素特性Exp1、Exp2、及びExp3を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。本実施形態においては、画素特性Exp1、Exp2及びExp3がそれぞれ、短時間露光フレームの出力信号、中時間露光フレームの出力信号及び長時間露光フレームの出力信号に相当する。HDR処理の方法は、画素特性Exp1、Exp2及びExp3を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE3までは、図9(a)における画素特性Exp1、Exp2及びExp3を加算することで、Exp1の6倍の感度に相当する画素特性となる。撮像面照度E3からE2までは、図9(a)において画素特性Exp3が飽和しているので、PSATと画素特性Exp1およびExp2を加算する。撮像面照度E2からE1までは、図9(a)において画素特性Exp2及びExp3がともに飽和しているので、2PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図9(a)において画素特性Exp1、Exp2及びExp3がすべて飽和しているので、最大飽和信号量となる3PSATとなっている。
このように加算した画素特性に対して、最大飽和信号量3PSATがSSATになるように正規化することで、図9(d)のHDR処理が実現する。そして、撮像素子12を図6のように動作させるとともに、信号処理部13において図9(d)となるようにHDR処理を実施するように撮像装置を制御すればよい。
これにより、撮像面照度0からE1に対応して、画像信号が0からSSATまで階調を持って出力していることがわかる。さらに、撮像面照度0からE3の画像信号特性の傾きを、図9(b)の画素特性Exp1の画像信号特性と比較すると、(感度6倍相当)/(最大飽和信号量3倍)=2倍になっていることより、ダイナミックレンジは、2倍に拡大されてることになる。
ただし、画像信号特性の飽和信号SSATが3SSATまで利用可能であれば、ダイナミックレンジは、6倍まで拡大することができる。図9(d)は、ガンマ特性として知られている入出力特性で、これによりダイナミックレンジを拡大することが可能である。
<第3の実施形態>
次に、図1、図2、及び図7から図9を参照して、本発明の第3の実施形態について説明する。なお、本実施形態では、撮像装置の基本的な構成と動作及び撮像素子の基本的な構成と動作は、第1の実施形態と同様であるので、図および符号を流用して説明する。
第1の実施形態においては、2ライン毎に露光時間が異なるようにして長時間露光フレームと短時間露光フレームの2つのフレームを設定してダイナミックレンジの広い画像を生成した。本実施形態においては、長時間露光フレーム中に複数の短時間露光フレームを設定した場合について説明する。
図7は、本実施形態に係る長時間露光ラインと短時間露光ラインの制御タイミングを示す図である。図7において、VDLは、長時間露光フレームの垂直同期信号(長期垂直同期信号)を示し、その1周期にあたる長期垂直同期期間がTfrlとなっている。VDSは、短時間露光フレームの垂直同期信号(短期垂直同期信号)を示し、その垂直同期期間がTfrsとなっている。
長期垂直同期信号の1周期にあたる垂直同期期間Tfrl(第1の撮像期間)は、短期垂直同期期間(第2の撮像期間)のN周期分(=N・Tfrs。ただしNは3以上の自然数。)に等しい。図7の例では、N=3、すなわち3周期分である。本実施形態では、これらの短期垂直同期信号、長期垂直同期信号は、同期信号発生手段としてのTG290によって発生される。
HDは、水平同期信号を示し、画素のリセット動作や読み出し動作を行単位で実施する期間となる。
Line01からLine16は、画素領域200の画素行P(01−−)からP(16−−)の動作の状態を示す。行番号で画素行を表すために列番号は「−−」と表示している。2ライン毎に露光時間が異なるように、長時間露光ラインを01、02、05、06、09、10、13、14ラインとし、短時間露光ラインを03、04、07、08、11、12、15、16ラインとする。
本実施形態においては、長時間露光を実施する長期垂直同期期間Tfrl中に、短時間露光を2回実施するものとする。そして、各ラインの画素の信号を列信号処理部250に読み出した後、1ライン分の画素の信号を出力部280から出力する期間として、対応する1HD期間をROと表示する。ここで、各ラインの画素の信号を列信号処理部250に読み出す期間は、1ライン分の画素の信号を出力部280から出力する期間に比べて十分短いので、次の露光フレームはRO期間から始まるものとする。また、2ライン毎に露光時間が異なる信号からHDR処理を実施しやすいように、それぞれの画素はベイヤ配列のような2x2配列の色フィルタを備えているものとする。
ReadOutは、画素から読み出した短時間露光フレームの出力信号Fr_S Readoutおよび長時間露光フレームの出力信号Fr_L Readoutが出力部280から出力するタイミングを示す。
まず、タイミングt00において、VDLおよびVDSに同期して、01ラインと03ラインの読み出しを実施することで、画素をリセットし、01ラインと03ラインの露光を開始する。
タイミングt01において、02ラインと04ラインの読み出しを実施することで、画素をリセットし、02ラインと04ラインの露光を開始する。
タイミングt02において、05ラインと07ラインの読み出しを実施することで、画素をリセットし、05ラインと07ラインの露光を開始する。
タイミングt03において、06ラインと08ラインの読み出しを実施することで、画素をリセットし、06ラインと08ラインの露光を開始する。
t04以降も同様の方法で、09ラインから16ラインをリセットして、それぞれのラインの露光を開始する。
このように、1HD経過する毎に、ライン単位で画素をリセットすることで、長時間露光フレームと1回目の短時間露光フレームのライン順次のローリングシャッタ動作を開始することができる。
次に、タイミングt00からTfrs経過後のt05において、VDSに同期して、03ラインの画素の信号をRO期間に出力する。これにより、画素がリセットされ、03ラインの2回目の短時間露光が開始される。続いてタイミングt06において、04ラインの画素の信号をRO期間に出力する。これにより、画素がリセットされ、04ラインの2回目の短時間露光が開始される。t07以降も同様の方法で、07、08、11、12、15、16ラインの画素の信号をそれぞれのRO期間で出力する。これにより、それぞれの画素がリセットされ、07、08、11、12、15、16ラインの2回目の短時間露光が開始される。
このように、1HD経過する毎に、1回目の短時間露光ラインである03、04、07、08、11、12、15、16ラインを読み出す。これにより、1回目の短時間露光フレームのライン順次のローリングシャッタ動作が終了するとともに短時間露光ラインに対して2回目の短時間露光を実施する、ライン順次のローリングシャッタ動作を開始することができる。
この時に、長時間露光ラインである01、02、05、06、09、10、13、14ラインは露光を継続している。この時の短時間露光フレームの出力信号が1回目のFr_S Readoutとなる。
ここで、この短時間露光フレームにおいては、画素の読み出しをすることで、画素をリセットしているので、最長の露光時間は、短期垂直同期期間のTfrsとなっている。そして、タイミングt00から2Tfrs経過後のt10において、VDSに同期して、2回目の短時間露光フレームのライン順次の読み出しを実施することで、ライン順次のローリングシャッタ動作が終了する。2回目の短時間露光フレームの読み出しは、1回目の短時間露光フレームのライン順次の読み出しと同じなので説明は省略する。この時も、長時間露光ラインである01、02、05、06、09、10、13、14ラインは露光を継続している。この時の短時間露光フレームの出力信号が2回目のFr_S Readoutとなる。この短時間露光フレームにおいても、画素の読み出しをすることで、画素をリセットしているので、最長の露光時間は、短期垂直同期期間のTfrsとなっている。
次に、タイミングt00からTfrlとなる3Tfrs経過後のt15において、VDSに同期して、01ラインの画素の信号をRO期間に出力する。続いてタイミングt16において、02ラインの画素の信号をRO期間に出力する。t17以降も同様の方法で、05、06、09、10、13、14ラインの画素の信号をそれぞれのRO期間で出力する。
このように、1HD経過する毎に、長時間露光ラインである01、02、05、06、09、10、13、14ラインを読み出すことで、長時間露光フレームのライン順次のローリングシャッタ動作を終了する。この時の長時間露光フレームの出力信号がFr_L Readoutとなる。ここで、この長時間露光フレームにおいては、画素の読み出しをすることで、画素をリセットしているので、最長の露光時間は、長期垂直同期期間のTfrlとなっている。
図7の動作においては、長時間露光フレームの最長の露光時間Tfrlは、短時間露光フレームの最長の露光時間Tfrsの3倍の期間となっている。また、短時間露光を実施する2回の短時間露光フレームを長時間露光フレームに重ねて実施するように制御されていることがわかる。さらに、2ライン毎に短時間露光ラインと長時間露光ラインに分けて読み出しているので、全ラインを一度に読み出す動作に比べて、それぞれのフレームの読み出し時間は約半分になっている。
図8は、本実施形態に係る長時間露光フレームと短時間露光フレームの制御タイミングを示す図である。図8においては、図7のライン毎の動作をフレーム毎の動作で示すとともに、動画撮影に応用するために、連続撮影が可能な制御タイミングとなっている。連続撮影を可能にするためには、タイミングt36以降の制御タイミングは、t30に戻って繰り返すものとする。また、図7と同じ動作や構成のものは、同じ符号で示すものとする。タイミングt30からt36まで、及び、タイミングt36からt42までが、第1の長期垂直同期期間Tfrl1及び第2の長期垂直同期期間Tfrl2を示す。
タイミングt30からt33までが、第1の短期垂直同期期間Tfrs1である。
タイミングt33からt35までが、第2の短期垂直同期期間Tfrs2である。
タイミングt35からt36までが、第3の短期垂直同期期間Tfrs3である。
タイミングt36からt38までが、第4の短期垂直同期期間Tfrs4である。
タイミングt38からt40までが、第5の短期垂直同期期間Tfrs5である。
タイミングt40からt42までが、第6の短期垂直同期期間Tfrs6を示す。
Fr_Lが、長時間露光フレームを構成する01、02、05、06、09、10、13、14ラインの動作の状態を示す。
Fr_Sが、短時間露光フレームを構成する03、04、07、08、11、12、15、16ラインの動作の状態を示す。
ここで、長時間露光フレームFr_Lは、長期垂直同期信号VDLに同期して、長期垂直同期期間のTfrl毎に連続してローリングシャッタ動作を実施するものとする。また、短時間露光フレームFr_Sでは、長期垂直同期信号VDLに同期して1回目のローリングシャッタ動作の露光を開始する。そのTfrs後の短期垂直同期信号VDSに同期して、1回目のローリングシャッタ動作の読み出しを開始するとともに、2回目のローリングシャッタ動作の露光を開始する。さらに、そのTfrs後の短期垂直同期信号VDSに同期して、2回目のローリングシャッタ動作の読み出しを開始する。ここでは、短時間露光ラインについては、長時間露光ラインの画素信号の読み出し期間と重複しないVDSに同期して短時間露光と画素信号の読み出しを複数回実行する。そして、この動作を長期垂直同期信号VDLに同期して繰り返し実施するものとする。
具体的には、第1の長期垂直同期期間Tfrl1を構成する第1の短期垂直同期期間Tfrs1で、一巡前に露光を開始した長時間露光フレームの出力信号Fr_L Readout1が出力される。次に、第2の短期垂直同期期間Tfrs2で、1回目の短時間露光フレームの出力信号Fr_S Readout2が出力される。次に、第3の短期垂直同期期間Tfrs3で、2回目の短時間露光フレームの出力信号Fr_S Readout3が出力される。
同様に、第2の長期垂直同期期間Tfrl2を構成する第4の短期垂直同期期間Tfrs4で、長時間露光フレームの出力信号Fr_L Readout4が出力される。次に、第5の短期垂直同期期間Tfrs5で、1回目の短時間露光フレームの出力信号Fr_S Readout5が出力される。次に、第6の短期垂直同期期間Tfrs6で、2回目の短時間露光フレームの出力信号Fr_S Readout6が出力される。
これにより、短期垂直同期信号VDSに同期して、出力信号Fr_L Readout、Fr_S Readout、Fr_S Readoutが繰り返し出力されることになる。そのため、長時間露光終了後に、全ラインを一度に読み出す動作に比べて、撮像素子からの出力信号の読み出しが平準化されることになる。
次に、電子シャッタを用いた露光制御について説明する。
第1の長期垂直同期期間Tfrl1においては、長時間露光フレームの露光時間が短期垂直同期期間Tfrsを超えて制御された場合の長時間露光フレームおよび短時間露光フレームの電子シャッタ動作となっている。
まず、Tfrl1におけるFr_Sにおいては、タイミングt31において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作は破線610で示される。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、1回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt31からTfrs_expl経過後のt33において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間となるTfrs_explは、6HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、1回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_explとなる信号を出力することになる。この時の1回目の短時間露光フレームFr_Sの出力信号が、第2の短期垂直同期期間Tfrs2におけるFr_S Readout2となる。
次に、第1の長期垂直同期期間Tfrl1における短時間露光フレームFr_Sにおいては、タイミングt34において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作は破線630で示される。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、2回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt34からTfrs_expl経過後のt35において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間となるTfrs_explは、6HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、2回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_explとなる信号を出力することになる。この時の2回目の短時間露光フレームFr_Sの出力信号が、第3の短期垂直同期期間Tfrs3におけるFr_S Readout3となる。
そして、第1の長期垂直同期期間Tfrl1における長時間露光フレームFr_Lにおいては、タイミングt32において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作は破線620で示される。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt32からTfrl_expl経過後のt36において、VDSに同期して、01ラインの読み出しを実施する。連続撮影では、タイミングt36以降はt30に戻って繰り返すが、ここでは長時間露光フレームFr_Lの動作終了まで連続して説明する。この時、露光時間となるTfrl_explは、18HDとなっている。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_explとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、第4の短期垂直同期期間Tfrs4におけるFr_L Readout4となる。
以上が、第1の長期垂直同期期間Tfrl1に実施される電子シャッタを用いた露光制御の動作となる。ここで、短時間露光フレームの露光時間Tfrs_explおよび長時間露光フレームの露光時間Tfrl_explの比は、6HD:18HD=1:3となっている。
次に、第2の長期垂直同期期間Tfrl2で実施される電子シャッタを用いた露光制御の動作を説明する。
第2の長期垂直同期期間Tfrl2においては、露光時間が短期垂直同期期間Tfrs内で制御された場合の長時間露光フレームおよび短時間露光フレームの電子シャッタ動作となっている。さらに、上記した先行フレームの第1の長期垂直同期期間Tfrl1に対して露出条件が変更された場合を想定している。
まず、第2の長期垂直同期期間Tfrl2における短時間露光フレームFr_Sにおいては、タイミングt37において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作は破線640で示すものとする。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、1回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt37からTfrs_exps経過後のt38において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間となるTfrs_expsは、2HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、1回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_expsとなる信号を出力することになる。この時の1回目の短時間露光フレームFr_Sの出力信号が、第5の短期垂直同期期間Tfrs5におけるFr_S Readout5となる。
次に、第2の長期垂直同期期間Tfrl2における短時間露光フレームFr_Sにおいては、タイミングt39において、水平同期信号HDに同期して、03ラインの画素をリセットして03ラインの露光を開始する。この時のリセット動作は破線650で示される。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれリセットすることで、2回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt39からTfrs_exps経過後のt40において、VDSに同期して、03ラインの読み出しを実施する。この時、露光時間となるTfrs_expsは、2HDとなっている。続けて、1HD経過する毎に、04、07、08、11、12、15、16ラインをそれぞれ読み出すことで、2回目の短時間露光フレームFr_Sのライン順次のローリングシャッタ動作を終了する。
これにより、短時間露光フレームFr_Sは、すべてのラインで露光時間Tfrs_expsとなる信号を出力することになる。この時の2回目の短時間露光フレームFr_Sの出力信号が、第6の短期垂直同期期間Tfrs6におけるFr_S Readout6となる。
そして、第2の長期垂直同期期間Tfrl2における長時間露光フレームFr_Lにおいては、タイミングt41において、水平同期信号HDに同期して、01ラインの画素をリセットして01ラインの露光を開始する。この時のリセット動作は破線660で示される。
続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれリセットすることで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を開始する。この時のリセット動作もそれぞれ破線で示される。
次に、タイミングt41からTfrl_exps経過後のt42において、VDSに同期して、01ラインの読み出しを実施する。この時、露光時間となるTfrl_expsは、6HDとなっている。続けて、1HD経過する毎に、02、05、06、09、10、13、14ラインをそれぞれ読み出すことで、長時間露光フレームFr_Lのライン順次のローリングシャッタ動作を終了する。
これにより、長時間露光フレームFr_Lは、すべてのラインで露光時間Tfrl_expsとなる信号を出力することになる。この時の長時間露光フレームFr_Lの出力信号が、タイミングt42以降のReadOutとなる。
以上が、第2の長期垂直同期期間Tfrl2に実施される電子シャッタを用いた露光制御の動作となる。ここで、短時間露光フレームの露光時間Tfrs_expsおよび長時間露光フレームの露光時間Tfrl_expsの比は、2HD:6HD=1:3となっている。
これらの電子シャッタ動作により、短時間露光と長時間露光における露光時間の比が各フレームで一定(1:3)となるように制御される。このため、感度比を補償するゲイン値は、短時間露光画素の信号に対して3倍に設定する。そして、長時間露光画素の信号と短時間露光画素の信号を合成することでHDR処理を実行すればよい。
本実施形態における撮影動作とHDR処理については、感度比を補償するゲイン値を短時間露光画素の信号に対して3倍に設定して、第1の実施形態と同様に実施すればよい。ここで、本実施形態においては、HDR処理に先立ち、1回目と2回目の短時間露光フレームFr_Sの出力信号の間で演算を行ってもよい。例えば、1回目と2回目の短時間露光フレームFr_Sの出力信号を加算平均する。
これにより、ノイズを低減した短時間露光フレームFr_Sの出力信号を用いたHDR処理が実施できるので、良好な画像を得ることができる。さらに、同じ露光条件である1回目と2回目の短時間露光フレームFr_Sの出力信号から動きベクトルを求めて、手ぶれ補正を実施してもよい。この時、読み出しフレームレートが一定であること、及び、Fr_SとFr_Lの露光時間の比が一定となっていることから、Fr_Lの出力信号の重心位置を求めることも容易である。したがって、Fr_Sの出力信号から求めた動きベクトルをもとに、Fr_Lの手ぶれ補正を実施することも可能である。
また、1回目と2回目の短時間露光フレームFr_Sの出力信号、あるいは、短時間露光フレームFr_Sと長時間露光フレームFr_Lの出力信号から被写体を抽出する。そして、同じ露光条件である1回目と2回目の短時間露光フレームFr_Sの出力信号から、抽出した被写体の動きベクトルを求めて、被写体ぶれ補正を実施してもよい。
さらに、動画撮影においては、Tfrs3の画像を、出力信号Fr_L Readout1、Fr_S Readout2、Fr_S Readout3を用いて作成する。また、次のTfrs4の画像を、出力信号Fr_S Readout2、Fr_S Readout3、Fr_L Readout4を用いて作成する。このように、新たに出力される画像信号を使ってHDR処理を実施することで、動画撮影時の動画解像度の向上を図ってもよい。
また、連続する3つの露光フレームの出力信号から静止画像を作成する場合は、露光時間の重なりが大きい2回目の短時間露光フレーム、長時間露光フレーム及び1回目の短時間露光フレームの順番に出力する出力信号を用いればよい。例えば、出力信号Fr_S Readout3、Fr_L Readout4、Fr_S Readout5を用いればよい。あるいは、出力信号Fr_S Readout6、Fr_L Readout7、Fr_S Readout8を用いればよい。これにより、ブレの少ないダイナミックレンジが拡大された静止画像を作成することができる。
さらに、位置ずれ補正処理についても、第1の実施形態の変形例と同様にして、16x16全画素を用いたダイナミックレンジが拡大された画像を生成することができる。そして、画像信号処理についても、第1の実施形態の他の変形例と同様に、処理の分散が可能である。
ここで、本実施形態においては、長期垂直同期期間を短期垂直同期期間の3倍(N=3)に設定したが、N=4としてもよい。この時、短時間露光フレームを2回のままにして、長期垂直同期期間内に信号の読み出しのない短期垂直同期期間を設けることで、長期垂直同期期間内の平均データレートを低減することができる。あるいは、短時間露光フレームを3回にして、3回分の短時間露光フレームの出力信号を加算平均することで、ノイズをさらに低減してもよい。同様に、Nを5以上で、短時間露光フレームの回数を2回からN−1回までのどれかを選択して、平均データレートの低減と加算平均によるノイズの低減を図ってもよい。
以上のように、本実施形態においては、短時間露光時のフレーム周期に同期して、短時間露光ラインと長時間露光ラインを別々のフレームで読み出す。また、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間露光ラインを2回読み出す。これにより、短時間露光フレームの出力信号のノイズを低減するとともに、読み出し制御システムの簡略化と読み出し時及び信号処理時の処理負荷の低減及び平準化を実現できる。
また、本実施形態の画素信号の露光動作は長期垂直同期信号又は短期垂直同期信号に同期して行われる。したがって、短時間露光の中心と長時間露光の中心とを合わせるといったような複雑な処理を行う必要がなく、画素信号の読み出しのタイミング制御が単純化される。
さらに、長時間露光と短時間露光の露光時間の中心を合わせた場合に発生しうる、短時間露光ラインの読み出し終了と長時間露光ラインの読み出し開始とが干渉してしまうという課題も避けることができる。
また、上述の実施形態では、短時間露光フレームと長時間露光フレームの露光時間の比1:3に合わせて、長期垂直同期期間が短期垂直同期期間の3倍になっている。このため、長時間及び短時間露光フレームの露光時間を有効に利用できるとともに、露光時間制御の複雑化を避けることが可能となっている。
さらに、長時間露光時のフレーム期間内で、短時間露光時のフレーム周期に同期して、短時間露光ラインを読み出すことで、長時間露光と短時間露光を重ねて実行できる。そのため、フレームレートを均一にした場合でも、短時間露光時の1フレームを超える長時間露光を実現できる。加えて、複数回露光方式にみられた露光に寄与しない無駄時間の発生を避けることもできる。
そして、短時間露光ラインと長時間露光ラインを別々のフレームで読み出すことで、ローリング歪の発生を半分に低減することができる。
次に、図9を用いて、本実施形態の変形例について説明する。HDR処理の基本的な動作は、第1の実施形態のさらに他の変形例と同様であるので、図および符号を流用する。
図9(e)は、画素特性Exp1及びExp3を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。本実施形態においては、画素特性Exp1及びExp3が、それぞれ短時間露光フレームの出力信号および長時間露光フレームの出力信号に相当する。HDR処理の方法は、画素特性Exp1及びExp3を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE3までは、図9(a)における画素特性Exp1およびExp3を加算することで、Exp1の4倍の感度に相当する画素特性となる。撮像面照度E3からE1までは、図9(a)において画素特性Exp3が飽和しているので、PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図9(a)において画素特性Exp1およびExp3がともに飽和しているので、最大飽和信号量となる2PSATとなっている。
このように加算した画素特性に対して、最大飽和信号量2PSATがSSATになるように正規化することで、図9(e)のHDR処理が実現する。そして、撮像素子12を図8のように動作させるとともに、信号処理部13において図9(e)となるようにHDR処理を実施するように撮像装置を制御すればよい。
これにより、撮像面照度0からE1に対応して、画像信号が0からSSATまで階調を持って出力していることがわかる。さらに、撮像面照度0からE3の画像信号特性の傾きを、図9(b)の画素特性Exp1の画像信号特性と比較すると、(感度4倍相当)/(最大飽和信号量2倍)=2倍になっていることより、ダイナミックレンジは、2倍に拡大されていることになる。
ただし、画像信号特性の飽和信号SSATが2SSATまで利用可能であれば、ダイナミックレンジは、4倍まで拡大することができる。図9(e)は、ガンマ特性として知られている入出力特性で、これによりダイナミックレンジを拡大することが可能である。
<他の実施形態>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。