(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の構成例を示す図である。第1の実施形態においては、ダイナミックレンジ拡大処理(以下、HDR処理という)に用いるために、露光時間の異なる光電変換素子の画素の信号を出力するように制御された撮像素子の動作について説明する。本実施形態の撮像装置は、デジタルスチルカメラやデジタルビデオカメラの他、スマートフォン、タブレット、工業用カメラ、医療用カメラ等に適用可能である。撮像装置は、光学系11、撮像素子12、信号処理部13、圧縮伸張部14、同期制御部15、操作部16、画像表示部17及び画像記録部18を有する。光学系11は、被写体を結像させるためのレンズ、ズームや合焦を行うためのレンズ駆動機構、メカニカルシャッタ機構、絞り機構等を有し、これらのうちの可動部は、同期制御部15からの制御信号に基づいて駆動される。撮像素子12は、XYアドレス方式のCMOSセンサであり、同期制御部15からの制御信号に応じて、露光や信号読み出し、リセット等の撮像動作を実施する。そして、撮像素子12は、アナログデジタル変換回路(以下、AD変換回路という)によるアナログデジタル変換(以下、AD変換という)を行い、デジタル化された画像信号を出力する。信号処理部13は、同期制御部15の制御の下で、撮像素子12から入力されるデジタル化された画像信号に対して、ホワイトバランス調整、色補正、ガンマ補正等の信号処理や、自動焦点調節(AF)、自動露出調節(AE)等の制御情報を検出する。また、信号処理部13は、HDR処理を実施する。HDR処理として、例えば、感度比を補償するゲイン値と明るさに応じた重み付け係数を用いて、長時間露光素子の加算信号と短時間露光素子の加算信号を合成する。また、他のHDR処理として、明るさに応じて、長時間露光素子の加算信号と短時間露光素子の加算信号のどちらかを選択してもよい。
圧縮伸張部14は、同期制御部15の制御の下で、信号処理部13で信号処理された画像信号に対して圧縮符号化処理を実施したり、同期制御部15から供給された静止画像の符号化データを伸張復号化処理する。また、圧縮伸張部14は、動画像の圧縮符号化/伸張復号化処理を実行してもよい。同期制御部15は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等から構成されるマイクロコントローラである。同期制御部15は、ROM等に記憶されたプログラムを実行することにより、この撮像装置の各部を統括的に制御する。操作部16は、例えばシャッタレリーズボタン等の各種操作キーやレバー、ダイヤル等を有し、ユーザによる入力操作に応じた制御信号を同期制御部15に出力する。画像表示部17は、液晶ディスプレイ(LCD)等の表示デバイスや、これに対するインタフェース回路等を有し、同期制御部15から供給された画像信号を基に表示させるための画像信号を生成し、この信号を表示デバイスに供給して画像を表示させる。画像記録部18は、例えば、可搬型の半導体メモリ等からなる記録媒体が接続され、圧縮伸張部14により圧縮符号化された画像データファイルを同期制御部15から入力して記憶する。また、画像記録部18は、同期制御部15からの制御信号を基に指定されたデータを読み出し、同期制御部15に出力する。
次に、本実施形態に係る撮像装置の動作について説明する。静止画像の撮像前には、撮像素子12は、画像信号を信号処理部13に順次供給する。信号処理部13は、撮像素子12からの画像信号に対して信号処理を施し、カメラスルー画像の信号として、同期制御部15を介して画像表示部17に供給する。画像表示部17は、カメラスルー画像を表示し、ユーザが表示画像を見て画角合わせを行うことが可能となる。この状態で、操作部16のシャッタレリーズボタンが押下されると、同期制御部15の制御により、撮像素子12は、1フレーム分の画像信号を信号処理部13に出力する。信号処理部13は、その1フレーム分の画像信号に信号処理を施し、処理後の画像信号を圧縮伸張部14に供給する。圧縮伸張部14は、入力された画像信号を圧縮符号化し、生成した符号化データを同期制御部15を介して画像記録部18に供給する。画像記録部18は、撮像された静止画像のデータファイルを記録する。一方、画像記録部18に記録された静止画像のデータファイルを再生する場合には、同期制御部15は、操作部16からの操作入力に応じて、選択されたデータファイルを画像記録部18から読み出し、圧縮伸張部14に供給する。圧縮伸張部14は、データファイルに対して伸張復号化処理を行い、復号化された画像信号を同期制御部15を介して画像表示部17に供給する。画像表示部17は、静止画像を再生表示する。また、動画像を記録する場合には、信号処理部13は、順次処理した画像信号を圧縮伸張部14に供給する。圧縮伸張部14は、画像信号を圧縮符号化処理し、生成された動画像の符号化データを順次、画像記録部18に転送する。画像記録部18は、動画像の符号化データファイルを記録する。また、画像記録部18は、動画像のデータファイルを読み出して圧縮伸張部14に供給する。圧縮伸張部14は、動画像のデータファイルを伸張復号化処理し、画像表示部17に供給する。画像表示部17は、動画像を表示する。
図2は、本実施形態に係る撮像素子12の構成例を示す図である。撮像素子(CMOSセンサ)12は、画素領域201、垂直走査部202、第1列信号処理部203a、第2列信号処理部203b、第1水平走査部204a、第2水平走査部204b、第1出力部205a、第2出力部205b及びタイミング部206を有する。画素領域201は、行列状に配列された複数の画素200を有する。複数の画素200は、画素P11〜P86で示すように、水平方向及び垂直方向に行列状に配列されている。1行目の画素200は、画素P11〜P16で表され、8行目の画素200は、画素P81〜P86で表される。本実施形態では、8×6配列(8行6列)を例として説明するが、画素領域201の画素200の配列は、この数に限定されるものではない。また、複数の画素200は、画素200毎に色フィルタが設けられる。複数の画素200は、奇数行にはR(赤)フィルタとG(緑)フィルタが交互に繰り返し配置され、偶数行にはG(緑)フィルタとB(青)フィルタが交互に繰り返し配置され、2×2配列の色フィルタが配置されている。垂直走査部202は、画素領域201の画素200の配列を1行ずつ選択し、選択した画素200の行のリセット動作や読み出し動作を駆動制御する。画素制御線221は、画素200の行毎に共通に接続され、垂直走査部202による行単位の駆動制御信号を伝達する。複数の列信号線(垂直信号線)231は、複数の画素200の各列に共通に接続され、画素制御線221により選択された画素200の行の画素信号が、それぞれに対応する列信号線231に読み出される。
第1列信号処理部203a及び第2列信号処理部203bは、それぞれ、複数の列信号線231に接続され、列信号線231を通して出力される行単位の画素200の信号のそれぞれに対して、後述する列信号処理を実施する。第1水平走査部204aは、それぞれに接続される第1列選択線241aを介して第1列信号処理部203aを列毎に選択する。選択された第1列信号処理部203aは、記憶しているデジタル化された画素信号を第1出力線251aを介して第1出力部205aに転送する。第2水平走査部204bは、それぞれに接続される第2列選択線241bを介して第2列信号処理部203bを列毎に選択する。選択された第2列信号処理部203bは、記憶しているデジタル化された画素信号を第2出力線251bを介して第2出力部205bに転送する。第1出力部205a及び第2出力部205bは、デジタル化された行単位の画素信号を信号処理部13へ出力する。タイミング部206は、同期制御部15からの制御信号に基づいて、撮像素子12の各部の動作に必要な各種のクロック信号や制御信号等を出力する。制御線261、271a、271b、281a及び281bは、それぞれ、タイミング部206から、垂直走査部202、第1列信号処理部203a、第2列信号処理部203b、第1水平走査部204a及び第2水平走査部204bへの制御線である。
図3は、本実施形態に係る撮像素子12の1個の画素200の回路構成例を示す図である。画素200は、画素制御線221及び列信号線231により他の回路と接続される。列信号線231は、負荷回路の負荷トランジスタTlod、第1列信号処理部203a及び第2列信号処理部203bに接続されると共に、垂直1列の複数の画素200に共通に接続され、画素200の信号を出力する。画素制御線221は、垂直走査部202に接続されると共に、水平1行の複数の画素200に共通に接続され、水平1行の複数の画素200を同時に制御することで、行単位のリセットや信号読み出しが可能になっている。画素制御線221は、リセット制御線pR、転送制御線pTa、pTb、pTc、pTd、垂直選択線pSELを有する。複数の画素200の各々は、光を電荷に変換する複数の光電変換素子D1a、D1b、D1c、D1dと、フローティングディフュージョン(FD)容量Cfdと、複数の転送トランジスタ(転送スイッチ)T1a、T1b、T1c、T1dとを有する。FD容量Cfdは、電荷を蓄積する電荷蓄積部である。複数の転送トランジスタT1a、T1b、T1c、T1dは、複数の光電変換素子D1a、D1b、D1c、D1dの電荷をFD容量Cfdにそれぞれ転送する。光電変換素子D1a、D1b、D1c、D1dは、光を電荷に変換すると共に、変換された電荷を蓄積するフォトダイオードである。光電変換素子D1a、D1b、D1c、D1dは、PN接合のP側(アノード)が接地され、N側(カソード)がそれぞれ転送トランジスタ(転送スイッチ)T1a、T1b、T1c、T1dのソースに接続される。転送トランジスタT1a、T1b、T1c、T1dは、ゲートがそれぞれ転送制御線pTa、pTb、pTc、pTdに接続され、ドレインがFD容量Cfdに接続される。転送トランジスタT1a、T1b、T1c、T1dは、それぞれ、光電変換素子D1a、D1b、D1c、D1dの電荷をFD容量Cfdへ転送する。FD容量Cfdは、一方の端子が接地され、光電変換素子D1a、D1b、D1c、D1dから転送された電荷を電圧に変換する際に電荷を蓄積する。この時、転送トランジスタ(転送スイッチ)T1a、T1b、T1c、T1dのドレインとFD容量Cfdの他方の端子の接続点をFDノード301と呼ぶ。
リセットトランジスタ(リセットスイッチ)T2は、ゲートがリセット制御線pRに接続され、ドレインが電源電圧Vddのノードに接続され、ソースがFD容量Cfdに接続され、FDノード301の電位を電源電圧Vddにリセットする。駆動トランジスタ(増幅部)Tdrvは、画素内アンプを構成するトランジスタであり、ゲートがFD容量Cfdに接続され、ドレインが電源電圧Vddのノードに接続され、ソースが選択トランジスタ(選択スイッチ)T3のドレインに接続される。駆動トランジスタTdrvは、FD容量Cfdの電圧に応じた電圧を出力する。選択トランジスタ(選択スイッチ)T3は、ゲートが垂直選択線pSELに接続され、ソースが列信号線231に接続され、駆動トランジスタTdrvの出力信号を画素200の出力信号として、列信号線231に出力する。列信号線231毎に設けられている負荷回路の負荷トランジスタTlodは、ソースとゲートが接地され、ドレインが列信号線231に接続される。そして、負荷トランジスタTlodは、列信号線231に接続されている列の画素200の駆動トランジスタTdrvとともに画素内アンプとなるソースフォロア回路を構成している。通常、画素200の信号を出力する時は、負荷トランジスタTlodをゲート接地の定電流源として動作させる。本実施形態では、駆動トランジスタTdrv及び負荷トランジスタTlod以外のトランジスタは、スイッチとして働き、ゲートに接続されている制御線がハイレベルの時に導通(オン)し、ローレベルの時に遮断(オフ)する。
図4(a)及び(b)は、本実施形態に係る撮像素子12の画素200の構成例を示す図である。図4(a)は、2×2に配列された画素200の平面図を示し、図4(b)は、図4(a)のx−x’の断面図を示す。光電変換素子401a、401b、401c、401dは、それぞれ、光電変換素子D1a、D1b、D1c、D1dのPN接合のN側に対応し、基板は光電変換素子D1a、D1b、D1c、D1dのPN接合のP側に対応する。FD容量402は、FDノード301を含む画素200のFD容量Cfdに対応する。4つの光電変換素子D1a、D1b、D1c、D1dは、水平及び垂直方向に配置されているため、FDノード301を含む画素200のFD容量Cfd(402)は、それらの中心に配置されている。マイクロレンズ403は、画素200毎に設けられる。色フィルタ404は、画素200毎に設けられ、4つの光電変換素子D1a、D1b、D1c、D1dを均等に覆っている。画素200毎に、R(赤)、G(緑)、B(青)のうちの1つの色フィルタ404が配置されている。図4(a)及び(b)のように、1つの色フィルタ404を4つの光電変換素子D1a、D1b、D1c、D1dが共有する構成となっている。そのため、異なる光電変換素子D1a、D1b、D1c、D1dから得られる複数の撮影画像を基にしたHDRが可能となっている。同一の画素200内の複数の光電変換素子D1a、D1b、D1c、D1dは、同一色の色フィルタを介して受光する。
図5は、本実施形態に係る撮像素子12の列信号処理部203の回路構成例を示す図である。第1列信号処理部203a及び第2列信号処理部203bは、同じ回路構成と動作となっているので、列信号処理部203として説明する。水平走査部204、出力部205、列選択線241、出力線251、制御線271、281についても同様の表現を用いる。列信号処理部203は、サンプルホールド回路501、比較器502、カウンタ回路503、ラッチ回路504及びメモリ回路505を有する。サンプルホールド回路501は、信号選択制御線pSHに接続され、信号選択制御線pSHを介したタイミング部206からの制御により、列信号線231から入力した画素信号を保持して出力するサンプルホールド部である。比較器502は、サンプルホールド回路501の出力信号とランプ波信号線Vrmp(図6のVrmp1又はVrmp2)のランプ波信号を比較し、その比較結果を出力する。例えば、比較器502は、2つの入力信号の大小関係が逆転した時に、ハイレベルからローレベルに出力信号が変化することで、比較結果を出力する。カウンタ回路503は、カウンタ制御線pCNTに接続され、カウンタ制御線pCNTから供給されるクロック信号を基にカウンタを動作させるとともに、比較器502の出力信号がハイレベルからローレベルに変化した時のカウント値を出力する。また、カウンタ回路503は、カウンタ制御線pCNTにより、ダウンカウントとアップカウントの切り換えが可能となっており、これを用いて、ノイズ低減を実現している。この時のカウント値は、列信号線231の画素信号をデジタル化した信号である。
ラッチ回路504は、ラッチ制御線pLTCに接続され、カウンタ回路503が出力するカウント値を一時的に保持するとともに、ラッチ制御線pLTCを介した制御信号により、保持しているカウント値を出力する。メモリ回路505は、メモリ制御線pMEMに接続され、メモリ制御線pMEMを介した制御信号により、ラッチ回路504が出力するカウント値を画素のデジタル信号として記憶する。また、メモリ回路505は、それに対応するメモリ選択線pHを介した制御信号により、記憶している画素のデジタル信号を、デジタル出力線DSigに出力する。このように、列信号処理部203では、比較器502、カウンタ回路503、ラッチ回路504及びランプ波信号線Vrmpを用いてAD変換回路が構成され、列信号線231の画素信号をアナログからデジタルに変換する。ここで、タイミング部206に接続される制御線271は、信号選択制御線pSH、ランプ波信号線Vrmp、カウンタ制御線pCNT、ラッチ制御線pLTC及びメモリ制御線pMEMを有する。水平走査部204に接続される列選択線241は、メモリ選択線pHに対応する。出力部205に接続される出力線251は、デジタル出力線DSigに対応する。
図6は、本実施形態に係る撮像素子12の重ね読み動作のための動作タイミングを示す図であり、撮像装置の制御方法を示す。図6では、画素領域201に配列された画素200内の連続する2行(例えば列方向に連続する画素P11とP21を含む行)を読み出す場合を例にして説明する。図6の画素の動作では、FDノード301のリセットを実施した後に、光電変換素子D1a、D1b、D1c、D1dの電荷を同時に読み出している。この時、光電変換素子D1a、D1b、D1c、D1dは、同じ動作で読み出すので、転送制御線pTa、pTb、pTc、pTdを転送制御線pTallで表す。信号HDは、画素領域201に配列された画素200を行毎に読み出す時の水平同期信号を示す。制御線pR1、pTall1、pSEL1は、それぞれ、画素P11を含む1行目の画素制御線221であるリセット制御線pR、転送制御線pTall、垂直選択線pSELの制御パルスを示す。制御線pR2、pTall2、pSEL2は、それぞれ、画素P21を含む2行目の画素制御線221であるリセット制御線pR、転送制御線pTall、垂直選択線pSELの制御パルスを示す。制御線pSH1、pMEM1は、それぞれ、1列目の列信号線231に読み出された画素P11の信号をそれに対応する第1列信号処理部203aが信号処理する時の制御線271aの内の信号選択制御線pSH、メモリ制御線MEMの制御パルスを示す。制御線pSH2、pMEM2は、それぞれ、1列目の列信号線231に読み出された画素P21の信号をそれに対応する第2列信号処理部203bが信号処理する時の制御線271bの内の信号選択制御線pSH、メモリ制御線pMEMの制御パルスを示す。制御線pHr1は、第1列信号処理部203aのメモリ回路505の信号出力を制御する制御線であり、第1水平走査部204aからメモリ選択線241aに順番に発生させる制御線281aの制御パルスを示す。制御線pHr2は、第2列信号処理部203bのメモリ回路505の信号出力を制御する制御線であり、第2水平走査部204bからメモリ選択線241bに順番に発生させる制御線281bの制御パルスを示す。信号Vsigは、1列目の列信号線231に読み出された画素P11及び画素P21の信号を示す。ランプ波信号線Vrmp1は、第1列信号処理部203aの比較器502に入力される制御線271aの内のランプ波信号線Vrmpの信号を示す。ランプ波信号線Vrmp2は、第2列信号処理部203bの比較器502に入力される制御線271bの内のランプ波信号線Vrmpの信号を示す。
次に、図6を用いて、本実施形態に係る撮像素子12の重ね読み動作のための第1の読み出し動作を説明する。第1の読み出し動作では、各画素200について、FDノード301をリセットした信号(N信号)、及び、FDノード301において光電変換素子D1a、D1b、D1c、D1dの電荷を合成(加算)した信号(All信号)の読み出しを行う。撮像素子12は、列毎に共通の列信号線231を用いて、時間差を付けて読み出された画素P11を含む1行目の画素の信号及び画素P21を含む2行目の画素の信号にAD変換を実施して、デジタル化した画素信号を出力する。この時に、奇数行の画素200と偶数行の画素200に対して、第1の読み出し動作を繰り返し、画素領域201の画素200の信号を読み出すことで、1回の撮影動作を実施することができる。ここで、画素P11のN信号の振幅をVn1で表現し、All信号の振幅をVall1で表現し、N信号を含むAll信号の振幅をVnall1で表現する。また、画素P21のN信号の振幅をVn2で表現し、All信号の振幅をVall2で表現し、N信号を含むAll信号の振幅をVnall2で表現する。
時刻t01では、水平同期信号HDが発生し、電子シャッタ動作を行う水平同期期間が開始する。時刻t02〜t05は、電子シャッタ動作としての画素P11を含む1行目の画素200のリセット動作のタイミングを示す。まず、時刻t02では、リセット制御線pR1がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。次に、時刻t03では、転送制御線pTall1(pTa、pTb、pTc、pTd)がハイレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオンする。すると、光電変換素子D1a、D1b、D1c、D1dに蓄積されている電荷は、FDノード301に転送され、光電変換素子D1a、D1b、D1c、D1dがリセットされる。続いて、時刻t04では、転送制御線pTall1がローレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオフすることで、光電変換素子D1a、D1b、D1c、D1dの露光が開始される。次に、時刻t05では、リセット制御線pR1がローレベルになり、リセットトランジスタT2がオフする。
時刻t06〜t09は、電子シャッタ動作としての画素P21を含む2行目の画素200のリセット動作のタイミングを示す。まず、時刻t06では、リセット制御線pR2がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。次に、時刻t07では、転送制御線pTall2(pTa、pTb、pTc、pTd)がハイレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオンする。すると、光電変換素子D1a、D1b、D1c、D1dに蓄積されている電荷は、FDノード301に転送され、光電変換素子D1a、D1b、D1c、D1dがリセットされる。続いて、時刻t08では、転送制御線pTall2がローレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオフすることで、光電変換素子D1a、D1b、D1c、D1dの露光が開始される。次に、時刻t09では、リセット制御線pR2がローレベルになり、リセットトランジスタT2がオフする。最後に、時刻t10では、水平同期信号HDにより、電子シャッタ動作を行う水平同期期間が終了する。
このように、図6では、画素P11を含む1行目の画素200の電子シャッタ動作と画素P21を含む2行目の画素200の電子シャッタ動作は、同じ水平同期期間において実施される。この時、時刻t11以前の信号選択制御線pSH1、pSH2、メモリ制御線pMEM1、pMEM2、水平走査制御線pHr1、pHr2、列信号線231に読み出された画素信号Vsig、ランプ波信号線Vrmp1、Vrmp2は、点線で表す。この点線は、画素P11及び画素P21以外の画素の信号を処理していることを示す。
時刻t11は、水平同期信号HDにより、設定された露光時間経過後の水平同期期間の始まりを示す。時刻t11〜t33の1水平同期期間において、画素P11を含む1行分の画素200の信号が出力される。1行分の画素200の信号は、画素読み動作により、それぞれに対応する列信号線231を介して第1列信号処理部203aに出力される。第1列信号処理部203aは、列信号処理動作により、信号をデジタル信号に変換した後、水平出力動作により、所定の順番でデジタル出力線DSig1を介して信号を第1出力線251aに出力する。まず、時刻t12では、リセット制御線pR1がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。同時に、垂直選択線pSEL1がハイレベルになり、選択トランジスタT3がオンすることで、ソースフォロア回路を動作させ、FDノード301の電位に対応する電圧が列信号線231に出力される。また、同時に、信号選択制御線pSH1がハイレベルになることで、サンプルホールド回路501は、列信号線231に出力された画素信号の保持動作を開始する。次に、時刻t13では、リセット制御線pR1がローレベルなり、リセットトランジスタT2がオフする。その後、列信号線231に出力された信号が安定するのを待つ。この時、画素P11から出力される信号Vsigは、FDノード301がリセットされたN信号Vn1である。そして、列信号線231に出力されたN信号Vn1が安定した時刻t14では、信号選択制御線pSH1がローレベルになることで、サンプルホールド回路501は、N信号Vn1を保持する。この時の時刻t12〜t14は、N信号Vn1の保持動作期間Tn1である。
そして、時刻t14以降では、第1列信号処理部203aは、N信号Vn1のAD変換を実施する。比較器502は、N信号Vn1に対応するサンプルホールド回路501の出力信号を入力する。次に、時刻t14では、タイミング部206は、ランプ波信号線Vrmp1にランプ波信号を出力する。比較器502は、すでに入力されているN信号Vn1とランプ波信号線Vrmp1のランプ波信号を比較する。さらに、ランプ波信号線Vrmp1への出力と同時に、カウンタ制御線pCNT1を介したタイミング部206の制御により、カウンタ回路503は、ダウンカウントを開始する。そして、時刻t15では、タイミング部206は、ランプ波信号線Vrmp1へのランプ波信号の出力を終了する。この時、発生させるランプ波信号の振幅は、比較器502に入力されるN信号Vn1の振幅に対して十分な余裕があればよいので、あらかじめ測定しておき、タイミング部206で生成できるように設定しておく。時刻t14〜t15のどこかで、比較器502は、ランプ波信号線Vrmp1のランプ波信号とN信号Vn1との一致を検出する。ランプ波信号線Vrmp1のランプ波信号とN信号Vn1が一致した時点で、比較器502は、比較結果信号をカウンタ回路503に出力する。カウンタ回路503は、比較結果信号を入力した時点で、カウントを停止するとともに、カウント値を保持する。時刻t14〜t15は、N信号Vn1のAD変換期間TAn1である。このAD変換期間TAn1は、同時に、N信号Vn1をサンプルホールド回路501に保持しておかなければならない保持期間でもある。
次に、時刻t16では、転送制御線pTall1がハイレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオンする。これにより、光電変換素子D1a、D1b、D1c、D1dに蓄積されている電荷がFDノード301に転送され、光電変換素子D1a、D1b、D1c、D1dの加算信号として列信号線231に出力される。また、同時に、信号選択制御線pSH1がハイレベルになることで、サンプルホールド回路501は、列信号線231に出力された画素信号の保持動作を開始する。続いて、時刻t17では、転送制御線pTall1がローレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオフする。その後、列信号線231に出力された信号が安定するのを待つ。この時に、画素P11から出力される信号Vsigは、N信号Vn1に光電変換素子D1a、D1b、D1c、D1dの電荷を読み出した信号Vall1が加算されたAll信号Vnall1である。そして、時刻t18では、列信号線231に出力されたAll信号Vnall1が安定し、信号選択制御線pSH1がローレベルになることで、サンプルホールド回路501はAll信号Vnall1を保持する。この時、時刻t16〜t18は、All信号Vnall1の保持動作期間Tall1である。以上が、1行目の画素読み動作となり、画素P11を含む1行目の画素200の信号が読み出され、それぞれに対応する第1列信号処理部203aのサンプルホールド回路501に保持される。
1行目の画素200の動作は、以下を実施して終了となる。時刻t19では、リセット制御線pR1がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。これにより、列信号線231の信号Vsigもリセットされる。そして、時刻t20では、FDノード301の電位が十分にリセットされ、リセット制御線pR1がローレベルになり、リセットトランジスタT2がオフする。同時に、垂直選択線pSEL1がローレベルになり、選択トランジスタT3がオフすることで、画素P11を含む1行目の画素200とそれぞれに対応する列信号線231が電気的に切り離される。
そして、時刻t18以降では、列信号処理動作として、第1列信号処理部203aは、All信号Vnall1のAD変換を実施する。比較器502は、All信号Vnall1に対応するサンプルホールド回路501の出力信号を入力する。時刻t18では、タイミング部206は、ランプ波信号線Vrmp1にランプ波信号を出力する。比較器502は、ランプ波信号線Vrmp1のランプ波信号とAll信号Vnall1とを比較する。さらに、ランプ波信号線Vrmp1へのランプ波信号の出力と同時に、カウンタ制御線pCNT1を介したタイミング部206の制御により、カウンタ回路503は、N信号Vn1のAD変換時に停止したカウント値からアップカウントを開始する。そして、時刻t27では、タイミング部206は、ランプ波信号線Vrmp1のランプ波信号の出力を終了する。この時、発生させるランプ波信号は、N信号Vn1のAD変換を実施した時と同じ傾きを持つが、All信号Vnall1の振幅に対して十分余裕がある振幅でなければならないので、あらかじめ測定しておき、タイミング部206で生成できるように設定しておく。時刻t18〜t27のどこかで、比較器502は、ランプ波信号線Vrmp1のランプ波信号とAll信号Vnall1との一致を検出する。ランプ波信号線Vrmp1のランプ波信号とAll信号Vnall1が一致した時点で、比較器502は、比較結果信号をカウンタ回路503に出力する。カウンタ回路503は、比較結果信号を入力した時点で、カウント値とラッチ信号をラッチ回路504に出力する。カウンタ回路503は、予めダウンカウントしておいたN信号Vn1のカウント値を、N信号を含んだAll信号Vnall1に応じてアップカウントしているので、N信号Vn1がキャンセルされたAll信号Vall1のみをカウント値としてカウントする。ラッチ回路504は、ラッチ信号を入力すると、その時点でのカウント値を一時的に保持する。この時、時刻t18〜t27は、All信号Vnall1のAD変換期間TAall1である。このAD変換期間TAall1は、同時に、All信号Vnall1をサンプルホールド回路501に保持しておかなければならない保持期間でもある。また、時刻t27のランプ波信号線Vrmp1へのランプ波信号の出力の終了にともなって、メモリ制御線pMEM1がハイレベルになる。それとともに、ラッチ制御線pLTC1を介したタイミング部206の制御により、ラッチ回路504は、保持するカウント値をメモリ回路505に転送する。メモリ回路505は、そのカウント値をP11画素のデジタルAll信号Vall1として記憶する。そして、時刻t28では、メモリ制御線pMEM1がローレベルになり、記憶動作が終了する。以上が、1行目の画素200の列信号処理動作となり、それぞれに対応する第1列信号処理部203aに読み出された画素200の信号が、AD変換後、メモリ回路505にデジタル信号として記憶される。
次に、時刻t29〜t33は、メモリ回路505に記憶された1行目の画素のデジタルAll信号Vall1を出力する1行目の水平出力動作期間である。時刻t29〜t33では、タイミング部206は、制御線281aである水平走査制御線pHr1を介して制御パルスを第1水平走査部204aに出力する。この時、第1水平走査部204aは、水平走査制御線pHr1の制御パルスに同期して、第1列選択線241aであるメモリ選択線pH1を介して、それぞれに接続される第1列信号処理部203aを所定の順番で選択する。1行目の水平出力動作では、メモリ選択線pH1は、それぞれに対応するメモリ回路505を選択する。そして、選択されたメモリ回路505は、記憶しているデジタル化された画素信号であるデジタルAll信号Vall1を、第1出力線251aであるデジタル出力線DSig1に所定の順番で出力する。このようにして、所定の順番で選択された1行分の第1列信号処理部203aは、1行分の画素200のデジタルAll信号Vall1を、デジタル出力線DSig1を介して第1出力部205aに出力し、1行分の画素の信号の出力が完了する。ここまでが、1行目の画素200の水平出力動作期間TDall1である。1行目の画素信号の出力が完了した後、時刻t33の水平同期信号HDにより、3行目の画素200の読み出し動作が開始される。以上の動作が、水平同期信号HDに同期して、第1列信号処理部203aにより、1行目から1水平同期期間ずつ遅延して行われ、奇数行の画素信号が順次出力される。従って、奇数行の露光時間は、1行毎にずれていくことになる。
ここで、第1の読み出し動作においては、画素P11を含む1行目の画素200のAll信号Vnall1をAD変換している途中の時刻t21では、画素P21を含む2行目の画素200の読み動作が開始される。時刻t21〜t34の1水平同期期間に相当する期間では、画素P21を含む1行分の画素200の信号が出力される。2行目の画素200は、1行分の画素の信号を、画素読み動作により、それぞれに対応する列信号線231を介して第2列信号処理部203bに出力する。第2列信号処理部203bは、列信号処理動作により、2行目の画素信号をデジタル信号に変換し、水平出力動作により、所定の順番でデジタル出力線DSig2を介して第2出力線251bに出力する。まず、時刻t21では、リセット制御線pR2がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。同時に、垂直選択線pSEL2がハイレベルになり、選択トランジスタT3がオンすることで、ソースフォロア回路が動作し、FDノード301の電位に対応する電圧が列信号線231に出力される。また、同時に、信号選択制御線pSH2がハイレベルになることで、サンプルホールド回路501は、列信号線231に出力された画素信号の保持動作を開始する。次に、時刻t22では、リセット制御線pR2がローレベルになり、リセットトランジスタT2がオフする。その後、列信号線231に出力された信号が安定するのを待つ。この時、画素P21から出力される信号Vsigは、FDノード301をリセットした信号となるN信号Vn2である。そして、列信号線231に出力されたN信号Vn2が安定した時刻t23では、信号選択制御線pSH2がローレベルになることで、サンプルホールド回路501はN信号Vn2を保持する。この時、時刻t21〜t23は、N信号Vn2の保持動作期間Tn2である。
そして、時刻t23以降では、第2列信号処理部203bは、N信号Vn2のAD変換を実施する。比較器502は、N信号Vn2に対応するサンプルホールド回路501の出力信号を入力する。時刻t23では、タイミング部206は、ランプ波信号線Vrmp2にランプ波信号を出力する。比較器502は、ランプ波信号線Vrmp2のランプ波信号とN信号Vn2とを比較する。さらに、ランプ波信号線Vrmp2へのランプ波信号の出力と同時に、カウンタ制御線pCNT2を介したタイミング部206の制御により、カウンタ回路503は、ダウンカウントを開始する。そして、時刻t24では、タイミング部206は、ランプ波信号線Vrmp2へのランプ波信号の出力を終了する。この時、発生させるランプ波信号は、N信号Vn1のAD変換を実施した時と同じ傾きを持つ必要がある。また、ランプ波信号の振幅は、N信号Vn2の振幅に対して十分な余裕があればよいので、あらかじめ測定しておき、タイミング部206で生成できるように設定しておく。時刻t23〜t24のどこかで、比較器502は、ランプ波信号線Vrmp2のランプ波信号とN信号Vn2との一致を検出する。ランプ波信号線Vrmp2のランプ波信号とN信号n2が一致した時点で、比較器502は、比較結果信号をカウンタ回路503に出力する。カウンタ回路503は、比較結果信号を入力した時点で、カウントを停止するとともに、カウント値を保持する。この時の時刻t23〜t24は、N信号Vn2のAD変換期間TAn2である。このAD変換期間TAn2は、同時に、N信号Vn2をサンプルホールド回路501に保持しておかなければならない保持期間でもある。
次に、時刻t25では、転送制御線pTall2がハイレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオンする。すると、光電変換素子D1a、D1b、D1c、D1dに蓄積されている電荷は、FDノード301に転送され、光電変換素子D1a、D1b、D1c、D1dの加算信号として列信号線231に出力される。また、同時に、信号選択制御線pSH2がハイレベルになることで、サンプルホールド回路501は、列信号線231に出力された画素信号の保持動作を開始する。続いて、時刻t26では、転送制御線pTall2がローレベルになり、転送トランジスタT1a、T1b、T1c、T1dがオフする。その後、列信号線231に出力された信号が安定するのを待つ。この時、画素P21から出力される信号Vsigは、N信号Vn2に光電変換素子D1a、D1b、D1c、D1dの電荷を読み出した信号Vall2が加算されたAll信号Vnall2である。そして、列信号線231に出力されたAll信号Vnall2が安定した時刻t27では、信号選択制御線pSH2がローレベルになることで、サンプルホールド回路501にAll信号Vnall2を保持する。この時の時刻t25〜t27は、All信号Vnall2の保持動作期間Tall2である。以上が、2行目の画素読み動作となり、画素P21を含む2行目の画素200の信号が読み出され、それぞれに対応する第2列信号処理部203bのサンプルホールド回路501に保持される。
2行目の画素200の動作は、以下を実施して終了となる。時刻t28では、リセット制御線pR2がハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。これにより、列信号線231の信号Vsigもリセットされる。そして、FDノード301の電位が十分にリセットされた時刻t29では、リセット制御線pR2がローレベルになり、リセットトランジスタT2がオフする。同時に、垂直選択線pSEL2がローレベルになり、選択トランジスタT3がオフすることで、画素P21を含む2行目の画素200とそれぞれに対応する列信号線231が電気的に切り離される。
そして、時刻t27以降では、第2列信号処理部203bは、列信号処理動作としてAll信号Vnall2のAD変換を実施する。比較器502は、All信号Vnall2に対応するサンプルホールド回路501の出力信号を入力する。時刻t27では、タイミング部206は、ランプ波信号線Vrmp2にランプ波信号を出力する。比較器502は、ランプ波信号線Vrmp2のランプ波信号とAll信号Vnall2とを比較する。さらに、ランプ波信号線Vrmp2へのランプ波信号の出力と同時に、カウンタ制御線pCNT2を介したタイミング部206の制御により、カウンタ回路503は、N信号Vn2のAD変換時に停止したカウント値からアップカウントを開始する。そして、時刻t30では、タイミング部206は、ランプ波信号線Vrmp2へのランプ波信号の出力を終了する。この時、発生させるランプ波信号は、N信号Vn2のAD変換を実施した時と同じ傾きを持つが、All信号Vnall2の振幅に対して十分余裕がある振幅でなければならないので、あらかじめ測定しておき、タイミング部206で生成できるように設定しておく。時刻t27〜t30のどこかで、比較器502は、ランプ波信号線Vrmp2のランプ波信号とAll信号Vnall2との一致を検出する。ランプ波信号線Vrmp2のランプ波信号とAll信号Vnall2が一致した時点で、比較器502は、比較結果信号をカウンタ回路503に出力する。カウンタ回路503は、比較結果信号を入力した時点で、カウント値とラッチ信号をラッチ回路504に出力する。この時、カウンタ回路503は、あらかじめダウンカウントしておいたN信号Vn2のカウント値を、N信号を含んだAll信号Vnall2に応じてアップカウントしているので、N信号Vn2がキャンセルされたAll信号Vall2のみがカウントされる。ラッチ回路504は、ラッチ信号を入力した時点で、カウント値を一時的に保持する。この時の時刻t27〜t30は、All信号Vnall2のAD変換期間TAall2である。このAD変換期間TAall2は、同時に、All信号Vnall2をサンプルホールド回路501に保持しておかなければならない保持期間でもある。また、時刻t30のランプ波信号線Vrmp2へのランプ波信号の出力の終了にともなって、メモリ制御線pMEM2がハイレベルになる。それとともに、ラッチ制御線pLTC2を介したタイミング部206の制御により、ラッチ回路504は、保持するカウント値をメモリ回路505に転送する。メモリ回路505は、そのカウント値を画素P21のデジタルAll信号Vall2として記憶する。そして、時刻t31では、メモリ制御線pMEM2がローレベルになり、記憶動作が終了する。以上が、2行目の画素200の列信号処理動作となり、それぞれに対応する第2列信号処理部203bに読み出された画素200の信号が、AD変換後、メモリ回路505にデジタル信号として記憶される。
次に、時刻t32〜t34は、メモリ回路505に記憶された2行目の画素200のデジタルAll信号Vall2を出力する2行目の水平出力動作期間である。時刻t32〜t34では、タイミング部206は、制御線281bである水平走査制御線pHr2を介して制御パルスを第2水平走査部204bに出力する。この時、第2水平走査部204bは、水平走査制御線pHr2の制御パルスに同期して、第2列選択線241bであるメモリ選択線pH2を介して、それぞれに接続される第2列信号処理部203bを所定の順番で選択する。2行目の水平出力動作では、メモリ選択線pH2は、それぞれに対応するメモリ回路505を選択する。そして、選択されたメモリ回路505は、記憶しているデジタル化された画素信号であるデジタルAll信号Vall2を、第2出力線251bであるデジタル出力線DSig2に所定の順番で出力する。このようにして、所定の順番で選択された1行分の第2列信号処理部203bは、1行分の画素のデジタルAll信号Vall2を、デジタル出力線DSig2を介して第2出力部205bに出力し、1行分の画素の信号の出力が完了する。ここまでが、2行目の画素200の水平出力動作期間TDall2である。
2行目の画素信号の出力が完了した後、時刻t34以降では、4行目の画素200の読み出し動作が開始される。以上の動作が、第2列信号処理部203bにより、水平同期信号HDに同期して2行目から1水平同期期間ずつ遅延して行われ、偶数行の画素信号が順次出力される。従って、偶数行の露光時間は1行毎にずれていくことになる。この時、時刻t33以降の信号選択制御線pSH1、pSH2、メモリ制御線pMEM1、pMEM2、列信号線231に読み出された画素信号Vsig、ランプ波信号線Vrmp1、Vrmp2は、図6では点線で表す。この点線は、画素P11及び画素P21に続く、画素P31及び画素P41の信号を処理していることを示す。第1の読み出し動作では、画素P11を含む1行目の画素200と画素P21を含む2行目の画素200が、共通の列信号線231を時分割で利用することで、画素読み動作を実施している。また、列信号処理部203a及び203bを用いると、2系統のAD変換が可能となっているので、1行目の画素信号と2行目の画素信号の画素読み動作の時間差をもって、2系統のAD変換が実施される。そして、列信号処理部203a及び203bのそれぞれに接続される、第1出力線251aであるデジタル出力線DSig1、及び、第2出力線251bあるデジタル出力線DSig2も、2系統になっている。そのため、メモリ回路505のそれぞれが記憶している1行目の画素200と2行目の画素200のデジタル画素信号も、同様に時間差をもって2系統で出力することができる。所定の順番で選択された列信号処理部203a及び203bは、時間差を持った2行分のデジタル画素信号を、デジタル出力線DSig1、DSig2を介してそれぞれ出力部205a及び205bに並列に出力し、2行分の画素の信号の出力が完了する。ここまでが、第1の読み出し動作となり、画素P11を含む1行目の画素200と画素P21を含む2行目の画素200が重ね読み動作を実現していることがわかる。
第1の読み出し動作における重ね読み動作では、1行目の画素200のAll信号Vnall1をAD変換している途中の時刻t21において、2行目の画素200のN信号Vn2を列信号線231に出力している。この時、1行目の画素200のAll信号Vnall1の保持期間でもあるAD変換期間TAall1と2行目の画素200のN信号Vn2の保持動作期間Tn2が共通期間を持つことで重なっている。また、1行目の画素200のAll信号Vnall1の保持期間でもあるAD変換期間TAall1と2行目の画素のN信号Vn2のAD変換期間TAn2が共通期間を持つことで重なっている。さらに、1行目の画素200のAll信号Vnall1をAD変換している途中の時刻t25において、2行目の画素200のAll信号Vnall2を列信号線231に出力している。この時、1行目の画素200のAll信号Vnall1の保持期間でもあるAD変換期間TAall1と2行目の画素200のAll信号Vnall2の保持動作期間Tall2が共通期間を持つことで重なっている。そのため、1行毎に順番に実施する場合に比べて時間を短縮できる。すなわち、1行目の画素200のN信号Vn1の読み出しとAD変換、All信号Vnall1の読み出しとAD変換、及び、2行目の画素200のN信号Vn2の読み出しとAD変換、All信号Vnall2の読み出しとAD変換の時間を短縮できる。そのため、重ね読み動作におけるフレームレートの向上が実現できる。
1行目の画素信号の出力が完了した後、時刻t33の水平同期信号HDにより、3行目の読み出し動作が開始され、2行目の画素信号の出力が完了した時刻t34以降に続けて、4行目の読み出し動作が開始される。その動作は、1行目及び2行目と同様である。以上の動作が、水平同期信号HDに同期して開始行から2行ずつ遅延して行われ、各行の画素信号が順次出力される。従って、各行の露光時間は行毎にずれていくことになる。そして、2行毎に1水平同期期間に同期して時刻t11〜t34の動作を繰り返すことで、画素領域201の画素200を2行毎に読み出すことができる。
図7は、本実施形態に係る撮像素子12の連続読み動作を示す図である。以下、図7を用いて、重ね読みを実現する図6の第1の読み出し動作を連続読み動作に対応させた場合について説明する。動作Opr1は、第1列信号処理部203aの動作であり、奇数行の画素200の読み出しからデジタル出力線DSig1を介した奇数行のデジタル画素信号の出力までの読み出し動作を示す。動作Opr2は、第2列信号処理部203bの動作であり、偶数行の画素200の読み出しからデジタル出力線DSig2を介した偶数行のデジタル画素信号の出力までの読み出し動作を示す。また、kを画素領域201の読み出し画素の行番号とする。図6のk行目のN信号Vnkの保持動作期間Tnk及びAD変換期間TAnkは、図7のnk及びAnkとして表す。図6のk行目のAll信号Vnallkの保持動作期間Tallk及びAD変換期間TAallkは、図7のsk及びAskとして表す。図6のk行目の水平出力動作期間TDallkは、図7のDoutkとして表す。図7において、動作Opr1の時刻s01〜s04は、1行目の画素200の信号が列信号線231に読み出される画素読み動作期間である。動作Opr2の時刻s04〜s07は、2行目の画素200の信号が列信号線231に読み出される画素読み動作期間である。これは、図6において説明したように、1行目の画素200と2行目の画素200が、共通の列信号線231を時分割で利用した画素読み動作を実施することで実現している。そこで、水平同期信号HDのタイミングを時刻s01、s09、s13として動作させると、動作Opr1では、水平同期信号HDに同期して奇数行の画素200を読み出すことになる。そして、動作Opr2では、奇数行の画素200が列信号線231に読み出される動作期間の時間差を付けたタイミングの時刻s04、s10、s14から偶数行の画素200を読み出すことができる。これにより、画素領域201の画素200を2行毎に読み出す重ね読み動作を連続して実施できることがわかる。
図8は、本実施形態に係る撮像素子12の同期読み動作を示す図である。以下、図8を用いて、図7の連続読み動作を水平同期信号HDに対応させた場合について説明する。なお、図8の動作Opr1及び動作Opr2は、図7で説明した動作Opr1及び動作Opr2の動作と同じである。すなわち、N信号Vnkの保持動作期間Tnk及びAD変換期間TAnkとしてのnk及びAnk、All信号Vnallkの保持動作期間Tallk及びAD変換期間TAallkとしてのsk及びAskは、図7のものと同じである。また、All信号Vallkの水平出力動作期間TDallkとしてのDoutkは、図7のものと同じである。図8において、信号HDは、撮像素子12を駆動するための水平同期信号を示し、立ち下がりで有効となる。期間Thdは、1つの水平同期期間である。また、信号HSは、水平同期信号HDのサブ水平同期信号を示し、立ち下がりで有効となる。期間Thsは、1つのサブ水平同期期間である。ここで、サブ水平同期信号HSは、撮像素子12がN個(Nは2以上の整数)の出力部を有する場合、1水平同期期間ThdにN行の画素200の信号を読み出せるように、1水平同期期間ThdをN分割した周期(間隔毎)で立ち下がるよう生成されている。これらの水平同期信号HD、サブ水平同期信号HSは、同期信号発生手段としてのタイミング部206によって供給される。本実施形態に係る撮像素子12は、第1出力部205a及び第2出力部205bの2つの出力部を有するため、2行分の画素200を並列的に出力することが可能となっている。そこで、サブ水平同期信号HSは、水平同期期間Thdを2等分した周期で立ち下がるように生成されている。このため、水平同期期間Thdは、サブ水平同期期間Thsの2倍の長さとなっている。
動作Opr1は、水平同期信号HDに同期して、あるいは、水平同期信号HDに同期する1回目のサブ水平同期信号HSに同期して動作を開始する。これより、時刻s21、s29、s35では、1行目、3行目、5行目の画素200の信号の読み出しが開始され、それ以降においても奇数行の画素200の信号の読み出し動作が継続される。動作Opr2は、水平同期信号HDに同期する2回目のサブ水平同期信号HSに同期して動作を開始する。ここで、撮像素子12は、列信号線231が垂直画素列共通に配線されているため、動作Opr2は、1行目の画素信号Vnall1のサンプルホールドが完了した保持動作期間s1終了以降(s24以降)に動作を開始する必要がある。図8では、水平同期期間Thdを2分割したサブ水平同期期間Thsが、1行目の画素読み動作期間(s21〜s24)より長く設定されている。そのため、2回目のサブ水平同期信号HSは、画素信号Vnall1の保持動作期間s1終了後、十分に時間が経過した後に設けられている(s25)。これにより、時刻s25、s33では、2行目、4行目の画素200の信号の読み出しが開始され、それ以降においても偶数行の画素200の信号の読み出し動作が継続される。
このように、図8では、動作Opr1と動作Opr2を1サブ水平同期期間Thsに相当する時間だけずらして動作させる。このため、タイミング部206は、動作Opr1における第1列信号処理部203aを用いた1行目の画素の読み出しからデジタル出力線DSig1を介した1行目のデジタル画素信号の出力までの列毎の並列処理動作を制御することが可能である。この制御は、画素読み動作期間、列信号処理動作期間、水平出力動作期間に対して実施される。また、タイミング部206は、動作Opr1に対して、1サブ水平同期期間Thsに相当する時間だけずらして、動作Opr2を動作させる。タイミング部206は、動作Opr2における第2列信号処理部203bを用いた2行目の画素の読み出しからデジタル出力線DSig2を介した2行目のデジタル画素信号の出力までの列毎の並列処理動作を制御することが可能である。これら1行目の画素読み動作期間及び2行目の画素読み動作期間の開始タイミングは、同期制御部15からの制御信号に基づいて、タイミング部206が個別にかつ適宜設定できる。以上の説明は、1行目の画素200の信号を読み出す動作Opr1と2行目の画素200の信号を読み出す動作Opr2の関係について述べたものである。読み出し動作が繰り返される場合には、2行目の画素200の信号を読み出す動作Opr2と3行目の画素200の信号を読み出す動作Opr1の関係についても同様であり、その後に読み出されるすべての画素行の関係にも適応可能である。このようにして、第1列信号処理部203aは、動作Opr1により、奇数行の画素200の信号を読み出し、撮像素子12の第1出力部205aから出力する。また、第2列信号処理部203bは、動作Opr2により、偶数行の画素200の信号読み出し、撮像素子12の第2出力部205bから出力する。動作Opr1及びOpr2は、同時並列的に行われる。出力部205a及び205bから同時並列的に出力された画素200の信号は、信号処理部13にそれぞれ入力される。
図9は、本実施形態に係る撮像素子12の第1の撮影動作を示すタイミングチャートである。信号VDは、撮像素子12を駆動するための垂直同期信号を示し、立ち下がりで有効となり、期間Tfrは1つの垂直同期期間である。水平同期信号HD、サブ水平同期信号HSは、図8と同じである。これらの垂直同期信号VD、水平同期信号HD及びサブ水平同期信号HSは、同期信号発生手段としてのタイミング部206によって供給される。動作状態Sig01〜Sig08は、列信号線231に読み出される画素信号の順番を示し、その時の画素領域201の画素200の1行目〜8行目の動作の状態を示す。期間eP01r〜eP08rは、それぞれ、1行目〜8行目の画素200の露光時間である。水平動作期間Roは、各行の画素200の信号を列信号線231を介して列信号処理部203aあるいは203bに読み出してから、1行分の画素200の信号を対応する出力部205aあるいは205bから出力するまでの期間である。例えば、1行目の画素200の信号は、図8の時刻s21〜s29の期間が水平動作期間Roに対応し、2行目の画素200の信号は、時刻s25〜s33の期間が水平動作期間Roに対応する。3行目以降の水平動作期間Roについても図8の読み出し動作を実施する。
まず、時刻r01では、垂直同期信号VD及び水平同期信号HDに同期する1回目のサブ水平同期信号HSに同期して、1行目の画素200の光電変換素子D1a〜D1dの電荷が転送されることで、画素200がリセットされる。これにより、1行目の露光時間eP01rの露光が開始される。次に、時刻r02では、次のサブ水平同期信号HSに同期して、2行目の画素200の光電変換素子D1a〜D1dの電荷が転送されることで、画素200がリセットされ、2行目の露光時間eP02rの露光が開始される。時刻r03以降、サブ水平同期信号HSに同期して、3行目〜8行目の画素200の光電変換素子D1a〜D1dの電荷がそれぞれ転送されることで、画素200がリセットされ、3行目〜8行目のそれぞれの露光時間eP03r〜eP08rの露光が開始される。このように、1HS経過する毎にリセットすることで、ライン順次のローリングシャッタ動作を行い、露光を開始する。
次に、時刻r01からTfr経過後の時刻r08では、垂直同期信号VD及び水平同期信号HDに同期する1回目のサブ水平同期信号HSに同期して、1行目の画素200の信号が対応する水平動作期間Roに出力される。そして、時刻r09では、次のサブ水平同期信号HSに同期して、2行目の画素200の信号が対応する水平動作期間Roに出力される。時刻r10以降も、同様の方法で、サブ水平同期信号HSに同期して、3行目〜8行目の画素200の信号がそれぞれに対応する水平動作期間Roに出力される。このように、1HS経過する毎に読み出すことで、ライン順次のローリングシャッタ動作が終了する。この第1の撮影動作では、垂直同期信号VDに同期して1行目の画素200のリセットを開始し、読み出しのための垂直同期信号VDに同期して1行目の画素の読み出しを実施しているので、最長の露光時間は、垂直同期期間Tfrである。これにより、露光時間Tfrのローリングシャッタ動作を全行に実施することで、全画素200の露光時間をそろえた第1の撮影動作が実施される。ここで、1行目の画素200のリセットを、時刻r01〜r08の間にある水平同期信号HDあるいはサブ水平同期信号HSのいずれかからスタートし、ライン順次のローリングシャッタ動作を開始する。これにより、電子シャッタ動作による、水平同期期間Thd単位あるいはサブ水平同期期間Ths単位の露光時間制御が可能となる。
時刻r07のリセット601及び時刻r06のリセット602は、電子シャッタ動作によるリセットの開始となる1行目の画素200に対して、異なる露光時間のリセットを実施した時のタイミングを示している。例えば、リセット601のタイミングにおいて、1行目の画素200の読み出しを実施することで、画素200をリセットし、1行目の露光時間eP01rの露光を開始する。2行目以降も、同様の方法で、1HS経過する毎にサブ水平同期信号HSに同期して、2行目〜8行目のリセットをそれぞれ実施することで、2行目〜8行目のそれぞれの露光時間eP02r〜eP08rの露光を開始する。そして、時刻r08以降で、1行目〜8行目の画素200の信号をそれぞれに対応する水平動作期間Roに出力すると、水平同期期間の2Thdあるいはサブ水平同期期間の4Thsの露光時間eP01r〜eP08rを設定することができる。同様に、リセット602のタイミングでリセット動作を開始すると、サブ水平同期期間の13Thsの露光時間eP01r〜eP08rを設定することができる。このようにして、第1列信号処理部203aは、動作Opr1により、奇数行の画素200の信号を読み出し、撮像素子12の第1出力部205aから出力する。また、第2列信号処理部203bは、動作Opr2により、偶数行の画素200の信号を読み出し、撮像素子12の第2出力部205bから出力する。動作Opr1及びOpr2は、同時並列的に行われる。そして、出力部205a及び205bから同時並列的に出力された画素200の信号は、信号処理部13にそれぞれ入力される。こうして、2行毎に1水平同期期間Thdに同期して第1の読み出し動作を繰り返すことで、画素領域201の画素200を2行毎に同時並列的に読み出すことができる。
ここで、正確な露光時間に関しては、図6に示す水平同期期間内の画素読み動作のタイミングに合わせて、補正が必要になる。図6の画素P11を含む1行目の画素200の場合、1行目のリセット動作において、時刻t04から時刻t17までが、正確な露光時間となる。時刻t04は、転送制御線pTall1がローレベルになり、光電変換素子D1a、D1b、D1c、D1dの露光が開始される時刻である。時刻t17は、1行目の画素読み動作において、転送制御線pTall1がローレベルになり、光電変換素子D1a、D1b、D1c、D1dの電荷読み出しが終了する時刻である。そこで、図9のように、水平同期信号HDやサブ水平同期信号HSを用いた露光時間制御においては、時刻t11〜t17の期間からt01〜t04の期間を減算した期間だけ、常に加算して、露光時間を補正する必要がある。同様に、図6の画素P21を含む2行目の画素200の場合の補正期間は、時刻t11〜t26の期間から時刻t01〜t08の期間を減算した期間となり、通常は、1行目の補正期間に等しくなるように設定される。しかし、図9においては、この露光時間の補正期間を省略して説明をしたが、正確な露光時間制御が必要な場合は、この露光時間の補正期間を考慮すればよい。
図10は、本実施形態に係る撮像素子12のHDR撮影動作のための動作タイミングを示す図であり、撮像装置の制御方法を示す。図10では、画素領域201に配列された画素200の内の1つの行(例えば画素P11を含む1行目)を読み出す場合を例にして説明する。第1のモードでは、画素200は、第1のグループに属する光電変換素子D1a及びD1dの電荷をFDノード301に転送して合成(加算)して、第1列信号処理部203aに出力する。第2のモードでは、画素200は、第2のグループに属する光電変換素子D1b、D1cの電荷をFDノード301に転送して合成(加算)して、第2列信号処理部203bに出力する。この時、図4(a)において明らかなように、光電変換素子D1a、D1dと光電変換素子D1b、D1cは、それぞれ1つの画素200の中で互いに対角の位置にある。第1のグループに属する光電変換素子401a(D1a)及び401d(D1d)は、FD容量402(Cfd)に対して対称に設けられる。第2のグループに属する光電変換素子401b(D1b)及び401c(D1c)は、FD容量402(Cfd)に対して対称に設けられる。第1のグループに属する光電変換素子401a及び401dの重心と第2のグループに属する光電変換素子401b及び401cの重心は略同じである。そこで、光電変換素子D1a、D1dの加算信号の重心位置と光電変換素子D1b、D1cの加算信号の重心位置は一致することになる。また、図6の第1の読み出し動作において、加算された光電変換素子D1a、D1b、D1c、D1dの加算信号の重心位置とも一致することになる。
信号HDは、画素領域201に配列された画素200を行毎に読み出す時の水平同期信号を示す。制御線pR、pTa、pTb、pTc、pTd、pSELは、それぞれ、画素P11を含む1行目の画素制御線221であるリセット制御線、転送制御線、垂直選択線の制御パルスを示す。制御線pSH1、MEM1は、画素P11が接続される1列目の列信号線231に読み出された光電変換素子D1a及びD1dの加算信号を第1列信号処理部203aが信号処理する時の制御線271a内の信号選択制御線、メモリ制御線の制御パルスを示す。制御線pSH2、MEM2は、画素11が接続される1列目の列信号線231に読み出された光電変換素子D1b及びD1cの加算信号を第2列信号処理部203bが信号処理する時の制御線271b内の信号選択制御線、メモリ制御線の制御パルスを示す。信号Vsigは、1列目の列信号線231に読み出された画素P11の光電変換素子D1a及びD1dの加算信号及び光電変換素子D1b及びD1cの加算信号を示す。制御線pHr1、pHr2は、列信号処理部203のメモリ回路505の信号出力を制御するパルスを水平走査部204からメモリ選択線pH1、pH2に順番に発生させる制御線281である水平走査制御線の制御パルスを示す。ランプ波信号線Vrmp1、Vrmp2は、列信号処理部203の比較器502に入力される制御線271の内のランプ波信号線を示す。
ここで、図10を用いて、本実施形態に係る撮像素子12のHDR撮影動作のための第2の読み出し動作を説明する。第2の読み出し動作では、各画素200について、FDノード301をリセットした信号(N信号)の読み出しを行う。そして、FDノード301において光電変換素子D1a及びD1dの電荷を合成(加算)した信号(AD信号)、及び、FDノード301において光電変換素子D1b及びD1cの電荷を合成(加算)した信号(BC信号)の読み出しを行う。そして、列毎に共通の列信号線231を用いて、時間差を付けて読み出された画素P11を含む1行目の画素200のAD信号及びBC信号にAD変換を実施して、デジタル化した画素信号を出力する。この時に、1行毎の画素200のAD信号及びBC信号に対して、第2の読み出し動作を繰り返し、画素領域201の画素200の信号を読み出すことで、1回の撮影動作を実施することができる。ここで、画素P11のAD信号を読み出す時のN信号、AD信号の振幅は、それぞれVn1、Vad1と表現し、N信号を含むAD信号の振幅は、Vnad1と表現する。また、画素P11のBC信号を読み出す時のN信号、BC信号の振幅は、それぞれVn2、Vbc2と表現し、N信号を含むBC信号の振幅は、Vnbc2と表現する。
時刻t41では、水平同期信号HDは、画素P11のAD信号に対応する電子シャッタ動作を行う水平同期期間の始まりを示す。時刻t42〜t45では、リセット制御線pRのハイレベル期間は、電子シャッタ動作としての画素P11を含む1行目のAD信号に対応するリセット動作のタイミングを示す。まず、時刻t42では、リセット制御線pRがハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。次に、時刻t43では、転送制御線pTa、pTdがハイレベルになり、転送トランジスタT1a、T1dがオンして、光電変換素子D1a、D1dに蓄積されている電荷がFDノード301に転送されることで、光電変換素子D1a、D1dがリセットされる。続いて、時刻t44では、転送制御線pTa、pTdがローレベルになり、転送トランジスタT1a、T1dがオフすることで、光電変換素子D1a、D1dの露光が開始される。そして、時刻t45では、リセット制御線pRがローレベルになり、リセットトランジスタT2がオフする。最後に、時刻t50では、画素P11のAD信号に対応する電子シャッタ動作を行う水平同期期間が終了する。
時刻t61では、水平同期信号HDは、画素P11のBC信号に対応する電子シャッタ動作を行う水平同期期間の始まりを示す。時刻t62〜t65では、リセット制御線pRのハイレベル期間は、電子シャッタ動作としての画素P11を含む1行目のBC信号に対応するリセット動作のタイミングを示す。まず、時刻t62では、リセット制御線pRがハイレベルになり、リセットトランジスタT2がオンすることで、FDノード301の電位が電源電圧Vddにリセットされる。次に、時刻t63では、転送制御線pTb、pTcがハイレベルになり、転送トランジスタT1b、T1cがオンして、光電変換素子D1b、D1cに蓄積されている電荷がFDノード301に転送されることで、光電変換素子D1b、D1cがリセットされる。続いて、時刻t64では、転送制御線pTb、pTcがローレベルになり、転送トランジスタT1b、T1cがオフすることで、光電変換素子D1b、D1cの露光が開始される。そして、時刻t65では、リセット制御線pRがローレベルになり、リセットトランジスタT2がオフする。最後に、時刻t70では、画素P11のBC信号に対応する電子シャッタ動作を行う水平同期期間が終了する。このように、図10では、画素P11を含む1行目のAD信号に対応する電子シャッタ動作とBC信号に対応する電子シャッタ動作は、異なる水平同期期間において実施される。これにより、AD信号に対応する露光時間とBC信号に対応する露光時間に、HDR撮影動作のための露光時間差を設定させることが可能となるが、詳細は後述する。この時、時刻t11以前の信号選択制御線pSH1、pSH2、メモリ制御線pMEM1、pMEM2、水平走査制御線pHr1、pHr2、列信号線に読み出された画素信号Vsig、ランプ波信号線Vrmp1、Vrmp2は、点線で表現している。この点線は、画素P11以外の画素200の信号を処理していることを示す。
時刻t11では、水平同期信号HDは、設定された露光時間経過後の水平同期期間の始まりを示す。この時、時刻t41〜t11は、画素P11を含む1行目のAD信号に対応する露光時間であり、時刻t61〜t11は、画素P11を含む1行目のBC信号に対応する露光時間である。時刻t11〜t33の1水平同期期間では、画素P11を含む1行分のAD信号が出力される。また、時刻t21〜t34の1水平同期期間に相当する期間では、画素P11を含む1行分のBC信号が出力される。時刻t11以降の第2の読み出し動作は、図6の第1の読み出し動作では、画素P11を含む1行分の画素200の信号を、画素P11を含む1行分のAD信号と読み替え、画素P21を含む1行分の画素の信号を、画素P11を含む1行分のBC信号と読み替える。これにより、同様の動作となる。
時刻t16では、転送制御線pTa、pTdがハイレベルになり、転送トランジスタT1a、T1dがオンする。転送トランジスタT1a、T1dは、第1のグループに属する光電変換素子D1a、D1dに蓄積されている電荷をFD容量Cfdに転送し、光電変換素子D1a、D1dに蓄積されている電荷を合成(加算)する。第1列信号処理部203aは、第1のグループに属する光電変換素子D1a、D1dの電荷の合成に基づく信号をアナログからデジタルに変換し、デジタルの信号を第1出力部205aに出力する。
時刻t25では、転送制御線pTb、pTcがハイレベルになり、転送トランジスタT1b、T1cがオンする。転送トランジスタT1b、T1dは、第2のグループに属する光電変換素子D1b、D1cに蓄積されている電荷をFD容量Cfdに転送し、光電変換素子D1b、D1cに蓄積されている電荷を合成(加算)する。第2列信号処理部203bは、第2のグループに属する光電変換素子D1b、D1cの電荷の合成に基づく信号をアナログからデジタルに変換し、デジタルの信号を第2出力部205bに出力する。
第2の読み出し動作では、画素P11を含む1行目のAD信号は、画素読み動作により、それぞれに対応する列信号線231を介して第1列信号処理部203aに入力される。第1列信号処理部203aは、列信号処理動作により、1行目のAD信号をデジタル信号に変換し、メモリ回路505に転送して、画素P11のデジタルAD信号Vab1として記憶する。この時、図10の第2の読み出し動作では、時刻t12〜t14は、N信号Vn1の保持動作期間Tn1である。時刻t14〜t15は、N信号Vn1の保持期間でもあるAD変換期間TAn1である。時刻t16〜t18は、AD信号Vnad1の保持動作期間Tad1である。時刻t18〜t27は、AD信号Vnad1の保持期間でもあるAD変換期間TAad1である。次に、第1列信号処理部203aは、水平出力動作により、それぞれに対応するメモリ回路505に記憶された1行目の画素のデジタルAD信号Vad1を、所定の順番でデジタル出力線DSig1を介して第1出力部205aに出力する。この時、図10の第2の読み出し動作では、時刻t29〜t33は、AD信号Vad1の水平出力動作期間TDad1である。
ここで、第2の読み出し動作では、画素P11画素を含む1行目のAD信号Vnad1をAD変換している途中の時刻t21において、画素P11を含む1行目のBC信号の画素読み動作を開始する。画素P11を含む1行目のBC信号は、画素読み動作により、それぞれに対応する列信号線231を介して第2列信号処理部203bに入力される。第2列信号処理部203bは、列信号処理動作により、1行目のBC信号をデジタル信号に変換し、メモリ回路505に転送して、画素P11のデジタルBC信号Vbc2として記憶する。この時、図10の第2の読み出し動作では、時刻t21〜t23は、N信号Vn2の保持動作期間Tn2である。時刻t23〜t24は、N信号Vn2の保持期間でもあるAD変換期間TAn2である。時刻t25〜t27は、BC信号Vnbc2の保持動作期間Tbc2である。時刻t27〜t30は、BC信号Vnbc2の保持期間でもあるAD変換期間TAbc2である。次に、第2列信号処理部203bは、水平出力動作により、それぞれに対応するメモリ回路505に記憶された1行目の画素のデジタルBC信号Vbc2を、所定の順番でデジタル出力線DSig2を介して第2出力部205bに出力する。この時、図10の第2の読み出し動作では、時刻t32〜t34は、BC信号Vbc2の水平出力動作期間TDbc2である。ここで、時刻t33以降の信号選択制御線pSH1、pSH2、メモリ制御線pMEM1、pMEM2、列信号線に読み出された画素信号Vsig、ランプ波信号線Vrmp1、Vrmp2は、画素P21の信号を処理しているため、図10では点線で表現している。
第2の読み出し動作では、画素P11を含む1行目の画素200のAD信号及びBC信号は、共通の列信号線231を時分割で利用することで、画素読み動作を実施している。そして、列信号処理部203a及び203bを用いた2系統のAD変換、デジタル出力線DSig1及びDSig2を介した2系統のデジタル信号出力が可能となっている。このようにして、第2の読み出し動作では、画素P11を含む1行目の画素200のAD信号及びBC信号の重ね読み動作を実現している。さらに、第2の読み出し動作における重ね読み動作では、1行目の画素200のAD信号Vnad1をAD変換している途中の時刻t21において、1行目の画素200のBC信号に対応するN信号Vn2を列信号線231に出力している。この時、1行目の画素200のAD信号Vnad1の保持期間でもあるAD変換期間TAad1と、1行目の画素のBC信号に対応するN信号Vn2の保持動作期間Tn2及びN信号Vn2のAD変換期間TAn2のそれぞれが共通期間を持つことで重なっている。さらに、1行目の画素200のAD信号Vnad1をAD変換している途中の時刻t25において、1行目の画素200のBC信号Vnbc2を列信号線231に出力している。この時、1行目の画素200のAD信号Vnad1の保持期間でもあるAD変換期間TAad1と、1行目の画素200のBC信号Vnbc2の保持動作期間Tbc2が共通期間を持つことで重なっている。これにより、1行毎に順番に実施する場合に比べて、読み出し動作が短縮される。1行目の画素200のAD信号に対応するN信号Vn1の読み出しとAD変換、AD信号Vnad1の読み出しとAD変換、及び、1行目の画素のBC信号に対応するN信号Vn2の読み出しとAD変換、BC信号Vnbc2の読み出しとAD変換が時間短縮される。そのため、重ね読み動作におけるフレームレートの向上が実現できる。
次に、図7を用いて、HDR撮影動作を実現する図10の第2の読み出し動作を連続読み動作に対応させた場合について説明する。動作Opr1では、第1列信号処理部203aは、各画素行の光電変換素子D1a、D1dの読み出しからデジタル出力線DSig1を介したデジタルAD信号Vad1の出力までの読み出し動作を行う。動作Opr2では、第2列信号処理部203bは、各画素行の光電変換素子D1b、D1cの読み出しからデジタル出力線DSig2を介したデジタルBC信号Vbc2の出力までの読み出し動作を行う。また、第2の読み出し動作では、動作Opr1の動作を奇数番号のk、動作Opr2の動作を偶数番号のkとした読み出し番号kとして設定する。そして、動作Opr1では、図10に対応する各行の画素の光電変換素子D1a、D1dの加算信号のN信号Vn1の保持動作期間Tn1及びAD変換期TAn1は、奇数番号のkを用いて、図7のnk及びAnkとして表す。また、AD信号Vnad1の保持動作期間Tad1及びAD変換期間TAad1は、奇数番号のkを用いて、図7のsk及びAskとして表す。また、水平出力動作期間TDad1は、奇数番号のkを用いて、図7のDoutkとして表す。
また、動作Opr2では、各行の画素200の光電変換素子D1b、D1cの加算信号のN信号Vn2の保持動作期間Tn2及びAD変換期TAn2は、偶数番号のkを用いて、図7のnk及びAnkとして表す。また、BC信号Vnbc2の保持動作期間Tbc2及びAD変換期間TAbc2は、偶数番号のkを用いて、図7のsk及びAskとして表す。また、水平出力動作期間TDbc2は、偶数番号のkを用いて、図7のDoutkとして表す。図7において、動作Opr1の時刻s01〜s04は、1行目の画素200の光電変換素子D1a、D1dの加算信号が列信号線231に読み出される画素読み動作期間である。動作Opr2の時刻s04〜s07は、1行目の画素200の光電変換素子D1b、D1cの加算信号が列信号線231に読み出される画素読み動作期間である。これは、図10において説明したように、1行目の画素200の光電変換素子D1a、D1dの加算信号と光電変換素子D1b、D1cの加算信号が、共通の列信号線231を時分割で利用した画素読み動作を実施することで実現している。そこで、水平同期信号HDのタイミングを時刻s01、s09、s13で動作させると、動作Opr1では、水平同期信号HDに同期して各画素行の光電変換素子D1a、D1dの加算信号が読み出されることになる。そして、動作Opr2では、光電変換素子D1a、D1dの加算信号が列信号線231に読み出される動作期間の時間差を付けたタイミングの時刻s04、s10、s14から各画素行の光電変換素子D1b、D1cの加算信号を読み出すことができる。これにより、画素領域201の画素200を行毎に読み出す重ね読み動作を連続して実施できる。ここで、第2の読み出し動作に対応させた図7の連続読み動作を、図8の水平同期信号に対応させた場合については、読み出し番号kに対するnk、Ank、sk、Ask、Doutkとして表すことで、第1の読み出し動作を説明する図8と同様である。
図11は、本実施形態に係る撮像素子12のHDR撮影動作を示す第2の撮影動作を示す図であり、撮像装置の制御方法を示す。図11では、HDR処理のために、画素領域201の画素200においては、長時間露光用の光電変換素子(以下、長時間露光素子という)D1a、D1dと短時間露光用の光電変換素子(以下、短時間露光素子という)D1b、D1cが設定される。信号VDLは、図9の信号VDと同様に撮像素子12を駆動するための垂直同期信号を示し、HDR撮影動作における長時間露光フレームの垂直同期信号(以下、長期垂直同期信号という)を示し、その1周期にあたる長期垂直同期期間がTfrlで示されている。信号VDSは、HDR撮影動作における短時間露光フレームの垂直同期信号(以下、短期垂直同期信号という)を示し、立ち下がりで有効となり、その1周期にあたる短期垂直同期期間がTfrsで示されている。これらの長期垂直同期信号VDL、短期垂直同期信号VDSは、同期信号発生手段としてのタイミング部206によって供給される。ここで、長期垂直同期信号の1周期にあたる長期垂直同期期間Tfrlは、Mを2以上の自然数として短期垂直同期信号のM周期分(すなはちTfrl=M・Tfrs)に等しい。HDR処理では、長時間露光と短時間露光の露光時間の比に応じて、HDRの効果が異なる。図11の例では、長期垂直同期期間Tfrlと短期垂直同期期間Tfrsの露光時間の比が3:1であるので、M=3、すなわち、長期垂直同期期間Tfrlは短期垂直同期期間Tfrsの3周期分となる。例えば、M=2あるいはM=4の場合は、長期垂直同期期間Tfrl内に、それぞれ2回あるいは4回の短期垂直同期期間Tfrsが設定されるが、実際の短時間露光の露光時間は、それぞれ最後の短期垂直同期期間Tfrsに設定すればよい。図11では、1行の画素200を長時間露光素子D1a、D1dの読み出し行と短時間露光素子D1b、D1cの読み出し行に分けて実施する。そのため、動作状態Sig01、Sig03、Sig05、Sig07、Sig09、Sig11、Sig13、Sig15は、それぞれ、1行目〜8行目の長時間露光素子D1a、D1dの動作の状態を示す。動作状態Sig02、Sig04、Sig06、Sig08、Sig10、Sig12、Sig14、Sig16は、それぞれ、1行目〜8行目の短時間露光素子D1b、D1cの動作の状態を示す。露光時間eP01r〜eP16は、それぞれ、動作状態Sig01〜Sig16に対応する露光時間である。水平動作期間Roは、各行の画素200の信号を列信号線231を介して列信号処理部203aあるいは203bに読み出してから、1行分の画素200の信号を対応する出力部205aあるいは205bから出力するまでの期間である。例えば、1行目の画素200の光電変換素子D1a、D1dの加算信号については、図8の時刻s21〜t29の期間が水平動作期間Roに対応する。1行目の画素200の光電変換素子D1b、D1cの加算信号については、図8の時刻s25〜t33の期間が水平動作期間Roに対応する。
まず、動作状態Sig01の時刻r21では、長期垂直同期信号VDL及び水平同期信号HDに同期して、1行目の画素200の光電変換素子D1a、D1dの電荷が転送されることで、光電変換素子がリセットされる。これにより、1行目の長時間露光素子D1a、D1dの露光が開始する。次に、動作状態Sig03の時刻r22では、長期垂直同期信号VDLに同期する2回目の水平同期信号HDに同期して、2行目の画素200の光電変換素子D1a、D1dの電荷が転送されることで、画素がリセットされる。これにより、2行目の長時間露光素子D1a、D1dの露光が開始する。時刻r23以降も、同様の方法で、水平同期信号HDに同期して、3行目〜8行目の画素200の光電変換素子D1a、D1dの電荷がそれぞれ転送されることで、光電変換素子がリセットされる。これにより、3行目〜8行目の画素200の長時間露光素子D1a、D1dのそれぞれの露光が開始する。このように、短時間露光素子D1b、D1cの露光を飛ばしながら、行毎にリセットすることで、長時間露光素子D1a、D1dのライン順次のローリングシャッタ動作が開始する。
時刻r33は、時刻r32の短期垂直同期信号VDS及び水平同期信号HDに同期する2回目のサブ水平同期信号HSとなる動作状態Sig02の露光開始時刻である。時刻r33では、サブ水平同期信号HSに同期して、1行目の画素200の光電変換素子D1b、D1cの電荷が転送されることで、光電変換素子がリセットされる。これにより、1行目の短時間露光素子D1b、D1cの露光が開始する。時刻r34は、次の水平同期信号HDに同期する2回目のサブ水平同期信号HSとなる動作状態Sig04の露光開始時刻である。時刻r34では、サブ水平同期信号HSに同期して、2行目の画素200の光電変換素子D1b、D1cの電荷が転送されることで、光電変換素子がリセットされる。これにより、2行目の短時間露光素子D1b、D1cの露光が開始する。時刻r36以降も、同様の方法で、水平同期信号HDに同期する2回目のサブ水平同期信号HSに同期して、3行目〜8行目の画素200の光電変換素子D1b、D1cの電荷がそれぞれ転送されることで、光電変換素子がリセットされる。これにより、3行目〜8行目の画素200の短時間露光素子D1b、D1cのそれぞれの露光が開始する。このように、行毎にリセットすることで、短時間露光素子D1b、D1cのライン順次のローリングシャッタ動作が開始する。
次に、動作状態Sig01の時刻r44では、第1列信号処理部203aは、長期垂直同期信号VDL、短期垂直同期信号VDS、水平同期信号HD及びサブ水平同期信号HSに同期して、1行目の画素200の長時間露光素子D1a、D1dの加算信号を出力する。第1列信号処理部203aは、1行目の画素200の長時間露光素子D1a、D1dの加算信号をそれに対応する期間Roに出力する。そして、動作状態Sig02の時刻r45では、第2列信号処理部203bは、次のサブ水平同期信号HSに同期して、1行目の画素200の短時間露光素子D1b、D1cの加算信号をそれに対応する水平動作期間Roに出力する。動作状態Sig03の時刻r46では、第1列信号処理部203aは、次のサブ水平同期信号HSに同期して、2行目の画素200の長時間露光素子D1a、D1dの加算信号をそれに対応する水平動作期間Roに出力する。動作状態Sig04の時刻r47では、第2列信号処理部203bは、次のサブ水平同期信号HSに同期して、2行目の画素200の短時間露光素子D1b、D1cの加算信号をそれに対応する水平動作期間Roに出力する。時刻r48以降も、列信号処理部203a,203bは、サブ水平同期信号HSに同期して、3行目〜8行目の画素200の長時間露光素子D1a、D1dの加算信号及び短時間露光素子D1b、D1cの加算信号をそれぞれ対応する水平動作期間Roに出力する。このように、1HS経過する毎に長時間露光素子の加算信号及び短時間露光素子の加算信号読み出すことで、ライン順次のローリングシャッタ動作が終了する。
長時間露光素子の撮影動作では、露光のための長期垂直同期信号VDLに同期して1行目の画素200の長時間露光素子のリセットを開始し、読み出しのための長期垂直同期信号VDLに同期して1行目の画素の長時間露光素子の加算信号の読み出しを行う。そのため、最長の露光時間は、長期垂直同期期間のTfrlである。これにより、露光時間Tfrlのローリングシャッタ動作を行毎に長時間露光素子について実施することで、行毎の長時間露光素子の露光時間をそろえた撮影動作が実施される。
短時間露光素子の撮影動作では、露光のための短期垂直同期信号VDSの次のサブ水平同期信号HSに同期して1行目の画素200の短時間露光素子のリセットを開始する。そして、読み出しのための長期垂直同期信号VDLの次のサブ水平同期信号HSに同期して1行目の画素200の短時間露光素子の加算信号の読み出しを実施しているので、最長の露光時間は、短期垂直同期期間のTfrsである。これにより、露光時間Tfrsのローリングシャッタ動作を行毎に短時間露光素子について実施することで、行毎の短時間露光素子の露光時間をそろえた撮影動作が実施される。このようにして、第1列信号処理部203aは、動作Opr1により、長時間露光素子D1a、D1dの加算信号を読み出し、撮像素子12の第1出力部205aから出力する。また、第2列信号処理部203bは、動作Opr2により、短時間露光素子D1b、D1cの加算信号を読み出し、撮像素子12の第2出力部205bから出力する。動作Opr1及びOpr2は、同時並列的に行われる。出力部205a及び205bから同時並列的に出力された画素の信号は、信号処理部13にそれぞれ入力される。
第1のグループに属する長時間露光素子D1a、D1dが長時間露光の露光時間(第1の露光時間)で露光される期間と、第2のグループに属する短時間露光素子D1b、D1cが短時間露光の露光時間(第2の露光時間)で露光される期間とは、一部が重なる。第2のグループに属する短時間露光素子D1b、D1cが短時間露光の露光時間で露光されている期間に、第1列信号処理部203aは、第1のグループに属する長時間露光素子D1a、D1dの電荷の合成に基づく信号を処理する。
ここで、図11においては、長時間露光と短時間露光の露光時間の比を3:1にする必要がある。例えば、1行目の画素200の短時間露光素子のリセットを、時刻r33〜r45の間にある水平同期信号HDあるいはサブ水平同期信号HSのいずれかからスタートし、ライン順次のローリングシャッタ動作を開始する。この時、1行目の画素200の長時間露光素子のリセットを、常に短時間露光素子の露光時間の3倍の時間となる時刻からスタートさせ、ライン順次のローリングシャッタ動作を開始する。これにより、長時間露光と短時間露光の露光時間の比を3:1に保ったまま露光時間制御が可能となる。このため、HDR処理では、長期間露光素子の感度比を補償するゲイン値は、短時間露光素子の信号に対して3倍に設定する。そして、長時間露光素子の信号と短時間露光素子の信号を合成することでHDR処理を実行する。また、本実施形態における撮像素子12の第1の撮影動作とHDR撮影動作を実現する第2の撮影動作の切り換えに関しては、例えば、撮像装置の操作部16が、ユーザによる入力操作に応じた制御信号を同期制御部15に出力する。同期制御部15の制御により、タイミング部206は、撮像素子12の全体を制御するタイミングを発生させる。
ここで、正確な露光時間に関しては、図10に示す水平同期期間内の画素読み動作のタイミングに合わせて、補正が必要になる。図10の1行目の画素200の長時間露光素子D1a、D1dの場合、リセット動作において、時刻t44から時刻t17までが、正確な露光時間である。時刻t44は、転送制御線pTa、pTdがローレベルになり、長時間露光素子D1a、D1dの露光が開始される時刻である。時刻t17は、1行目の画素200の長時間露光素子D1a、D1dの画素読み動作において、転送制御線pTa、pTdがローレベルになり、長時間露光素子D1a、D1dの電荷読み出しが終了する時刻である。そこで、図11のように、水平同期信号HDやサブ水平同期信号HSを用いた露光時間制御においては、時刻t11〜t17の期間から時刻t41〜t44の期間を減算した期間だけ、常に加算して露光時間を補正する必要がある。同様に、図10の1行目の画素200の短時間露光素子D1b、D1cの場合の補正期間は、時刻t11〜t26の期間から時刻t61〜t64の期間を減算した期間となり、通常は、長時間露光素子の補正期間に等しくなるように設定される。図11においては、この露光時間の補正期間を省略して説明をしたが、正確な露光時間制御が必要な場合は、この露光時間の補正期間を考慮すればよい。
次に、図11における撮影動作とHDR処理について説明する。図1の信号処理部13は、HDR処理により、長時間露光により得られた第1の画像データと短時間露光により得られた第2の画像データとを合成して、第3の画像データを生成する。第1の画像データは、長時間露光の露光時間で露光された長時間露光素子D1a、D1dの電荷の合成に基づく複数の画素200の信号を含む画像データである。第2の画像データは、短時間露光の露光時間で露光された短時間露光素子D1b、D1cの電荷の合成に基づく複数の画素200の信号を含む画像データである。第3の画像データは、第1及び第2の画像データに対してダイナミックレンジが拡大された画像データである。本実施形態では、長時間露光素子D1a、D1dの加算信号を基に第1の画像データが生成され、短時間露光素子D1b、D1cの加算信号を基に第2の画像データが生成される。信号処理部13は、撮像素子12から出力される長時間露光素子の加算信号と短時間露光素子の加算信号に対して、画素信号補正処理、HDR処理、画像信号処理を実施することで、ダイナミックレンジが拡大された画像を生成する。まず、信号処理部13は、撮像素子12の出力部205a、205bから同時並列的に出力される長時間露光素子の加算信号と短時間露光素子の加算信号に対して、それぞれ別々に画素信号補正処理を行い、信号処理部13に設けられたメモリに記憶する。画素信号補正処理は、例えば、キズ補正、固定パターン補正、シェーディング補正等の補正処理である。信号処理部13は、同時に、短時間露光素子の加算信号に対しては、HDR処理の一部として、長時間露光と短時間露光の露光時間の比、例えば3:1を補償するため、3倍のゲイン値をかけてから、信号処理部13に設けられたメモリに記憶する。次に、信号処理部13は、記憶されている長時間露光素子の加算信号と短時間露光素子の加算信号との間で、HDR処理を実施する。信号処理部13は、短時間露光素子の加算信号には露光時間を補償するゲイン値がすでにかけてあるので、ここでのHDR処理としては、明るさに応じた重み付け係数を用いて、長時間露光素子の加算信号と短時間露光素子の加算信号を合成する。
明るさに応じた合成の方法としては、例えば次のような方法がある。まず、長時間露光素子の加算信号の重み付け係数と短時間露光素子の加算信号の重み付け係数の和を一定値の1とする。そして、画像が明るい場合には、短時間露光素子の加算信号の重み付け係数を大きくする。一方、画像が暗い場合には、長時間露光素子の加算信号の重み付け係数を大きくする。ここまでは、全て画素毎の信号処理になっているので、最後に画像信号処理を実施して、ダイナミックレンジが拡大された画像を生成する。画像信号処理としては、ホワイトバランス調整処理、色補正処理、ガンマ補正処理等の信号処理である。
以上のように、本実施形態では、長時間露光フレーム内に短時間露光フレームを設定し、かつ、電子シャッタ動作を用いて、HDR撮影動作に適した露光時間制御を実施しているので、長時間露光と短時間露光の間の時間差を低減することができる。また、図4(a)において明らかなように、長時間露光素子D1a、D1dと短時間露光素子D1b、D1cは、それぞれ1つの画素200の中で互いに対角の位置にある。そこで、長時間露光素子D1a、D1dの加算信号の重心位置と短時間露光素子D1b、D1cの加算信号の重心位置は一致することになる。これにより、HDR撮影動作において、時間的な露光中心の差の低減と空間的な露光中心の一致を実現している。そして、複数の画素200あるいは光電変換素子の信号に対して読み出し時間差を利用した共通の読み出し手段の垂直走査部202と異なる出力部205a,205bを用いて同時並列的に出力することが可能となる。これにより、撮像装置における高速読み出し動作を実現している。本実施形態では、2行の画素200、あるいは、2行相当の光電変換素子を同時に出力することが可能となるので、2倍の読み出しレートが実現できる。これにより、1ラインずつ順番に全ラインを読み出す動作に比べて、読み出し時間は半分になる。このため、ライン毎に発生する露光時間の時間差が原因となるローリング歪みの発生も半分に低減させることができる。また、長時間露光素子の加算信号と短時間露光素子の加算信号に対して別々に補正処理を実施させることができるので、露光時間に合わせてライン毎に切り換えて補正処理を実施する必要がないため、信号処理部13の負担軽減が図られる。
図12は、本実施形態の他の重ね読み動作を示す図である。以下、図12が図8と異なる点を説明する。第1の読み出し動作と第2の読み出し動作は、読み出し番号kに対するnk、Ank、sk、Ask、Doutkとして表し、図8と同じ動作である。以下、HDR撮影動作を実現する第2の読み出し動作のみ説明する。図12では、図8と同様に、動作Opr1では、第1列信号処理部203aは、1行目の画素200の長時間露光素子の加算信号についてAD変換を実施する。すなわち、動作Opr1の時刻s41〜s44では、1行目の画素200の長時間露光素子の加算信号が列信号線231に読み出される画素読み動作が行われる。時刻s44〜s47では、1行目の画素200の長時間露光素子の加算信号が第1列信号処理部203aでAD変換される。そして、時刻s47では、AD変換を実施した1行目の画素200の長時間露光素子の加算信号が第1列信号処理部203aのメモリ回路505に記憶される。第1列信号処理部203aのAD変換回路を構成する比較器502、カウンタ回路503及びラッチ回路504は、1行目の画素200の長時間露光素子の加算信号の列信号処理動作から解放され、2行目の画素読み動作と列信号処理動作を開始することができる。そこで、時刻s47〜s51では、1行目の画素200の長時間露光素子の加算信号の水平出力動作Dout1と2行目の画素200の長時間露光素子の加算信号の画素読み動作と列信号処理動作が同時に実施される。時刻s51では、2行目の画素200の長時間露光素子の加算信号を第1列信号処理部203aのメモリ回路505に転送する前に、1行目の画素200の長時間露光素子の加算信号の水平出力動作Dout1が終了する。この処理は、タイミング部206がタイミングを制御する。同様に、時刻s51以降では、2行目の画素200の長時間露光素子の加算信号の水平出力動作Dout3と3行目の画素の長時間露光素子の画素読み動作と列信号処理動作を同時に実施することができる。
また、図8と同様に、動作Opr2では、第2列信号処理部203bは、1行目の画素200の短時間露光素子の加算信号についてAD変換を実施する。すなわち、動作Opr2において、時刻s44〜s47では、1行目の画素200の短時間露光素子の加算信号が列信号線231に読み出される画素読み動作が行われる。時刻s47〜s50では、1行目の画素200の短時間露光素子の加算信号が第2列信号処理部203bによりAD変換される。そして、時刻s50では、AD変換を実施した1行目の画素200の短時間露光素子の加算信号が第2列信号処理部203bのメモリ回路505に記憶される。第2列信号処理部203bのAD変換回路を構成する比較器502、カウンタ回路503及びラッチ回路504は、1行目の画素200の短時間露光素子の加算信号の列信号処理動作から解放され、2行目の画素読み動作と列信号処理動作を開始することができる。そこで、時刻s50〜s52では、1行目の画素200の短時間露光素子の加算信号の水平出力動作Dout2と2行目の画素の短時間露光素子の加算信号の画素読み動作と列信号処理動作が同時に実施される。時刻s52では、2行目の画素200の短時間露光素子の加算信号を第2列信号処理部203bのメモリ回路505に転送する前に、1行目の画素200の短時間露光素子の加算信号の水平出力動作Dout2が終了する。この処理は、タイミング部206がタイミングを制御する。同様に、時刻s52以降では、2行目の画素200の短時間露光素子の加算信号の水平出力動作Dout4と3行目の画素200の短時間露光素子の画素読み動作と列信号処理動作を同時に実施することができる。
これは、図8において説明したように、動作Opr1と動作Opr2が、共通の列信号線231を時分割で利用した画素読み動作を実施することで実現している。そこで、水平同期信号HDのタイミングを時刻s41、s47、s51、s53、s55で動作させると、動作Opr1では、水平同期信号HDに同期して各行の画素200の長時間露光素子の加算信号を読み出し、AD変換を実施する。動作Opr2では、長時間露光素子の加算信号の画素読み動作期間の時間差を付けたタイミングの時刻s44、s50、s52、s54、s56で各行の画素200の短時間露光素子の加算信号を読み出し、AD変換を実施する。これにより、画素領域201の画素200を行毎に読み出し、第2の読み出し動作を実現する重ね読み動作を連続して実施できる。さらに、画素読み動作と列信号処理動作を前の行の水平出力動作と同時に実施することで、図8の重ね読み動作のさらに2倍のフレームレートが実現できる。
図12でも、長時間露光フレーム内に短時間露光フレームを設定することで、時間的な露光中心の差を低減するとともに、対角の位置にある長時間露光素子の信号と短時間露光素子の信号をそれぞれ加算することで、空間的な露光中心の一致が実現できる。さらに、列信号線231毎に設けられた列信号処理部203a,203bを用いて、画素読み動作と列信号処理動作を前の行の水平出力動作と重ねることで、フレームレートのさらなる向上を実現できる。これにより、1ラインずつ順番に全ラインを読み出す動作に比べて、読み出し時間は4分の1になる。このため、ライン毎に発生する露光時間の時間差が原因となるローリング歪みの発生もさらに低減させることができる。
複数の画素200の各々は、複数の光電変換素子のうちの第1のグループに属する光電変換素子D1a及びD1dを第1の露光時間で露光し、第1の露光時間で露光した第1のグループに属する光電変換素子D1a及びD1dの電荷を合成し、画素信号を出力する。複数の画素200の各々は、複数の光電変換素子のうちの第2のグループに属する光電変換素子D1b及びD1cを第2の露光時間で露光し、第2の露光時間で露光した第2のグループに属する光電変換素子D1b及びD1cの電荷を合成し、画素信号を出力する。第2の露光時間は、第1の露光時間とは異なる。第1出力部205aは、第1の露光時間で露光した第1のグループに属する光電変換素子D1a及びD1dの電荷の合成に基づく画素200の信号を出力する。第2出力部205bは、第2の露光時間で露光した第2のグループに属する光電変換素子D1b及びD1cの電荷の合成に基づく画素200の信号を出力する。
(第2の実施形態)
次に、本発明の第2の実施形態に係る撮像装置について説明する。本実施形態では、HDR撮影動作を示す第2の撮影動作の露光制御と、それに基づくHDR処理について説明する。なお、本実施形態では、撮像装置の基本的な構成と動作は、第1の実施形態と同様である。以下、図11を参照しながら、本実施形態に係る撮像素子12のHDR撮影動作を示す第2の撮影動作を説明する。本実施形態では、第1の実施形態の図11で説明した動作状態Sig01〜Sig16の動作は、同じ動作である。すなわち、同期信号VDL、VDS、HD及びHSに同期したリセット動作、露光時間eP01r〜eP16r及び水平動作期間Roについては、同じ動作である。第1の実施形態の図11のHDR撮影動作では、露光のための長期垂直同期信号VDLに同期して1行目の画素200の長時間露光素子のリセットを開始する。そして、露光のための短時間露光フレームの短期垂直同期信号VDSに同期して1行目の画素200の短時間露光素子のリセットを開始する。そして、読み出しのための長期垂直同期信号VDLに同期して1行目の画素200の長時間露光素子の加算信号と短時間露光素子の加算信号の読み出しを順次実施している。このため、最長の露光時間は、長時間露光フレームが3Tfrsであり、短時間露光フレームがTfrsとなる。
第1の実施形態の図11では、長期垂直同期期間Tfrlと短期垂直同期期間Tfrsの露光時間の比が3:1であるので、M=3、すなわち、長期垂直同期期間Tfrlは短期垂直同期期間Tfrsの3周期分であった。これにより、露光時間の比が3:1となる長時間露光の画像と短時間露光の画像を用いてHDR処理が実施できる。ここで、短時間露光フレームの1行目の画素200のリセットを、時刻r33〜r45の間にある水平同期信号HDあるいはサブ水平同期信号HSのいずれかからスタートし、ライン順次のローリングシャッタ動作を開始する。これにより、電子シャッタ動作による水平同期期間Thd単位あるいはサブ水平同期期間Ths単位の露光時間制御が可能となる。また、長時間露光フレームの1行目の画素200のリセットを、時刻r21〜r44の間にある水平同期信号HDあるいはサブ水平同期信号HSのいずれかからスタートし、ライン順次のローリングシャッタ動作を開始する。これにより、電子シャッタ動作による水平同期期間Thd単位あるいはサブ水平同期期間Ths単位の露光時間制御が可能となる。ただし、HDR撮影動作においては、長時間露光フレームの露光時間が、常に短時間露光フレームの露光時間のM倍となる必要がある。また、HDR処理においては、長時間露光と短時間露光の露光時間の比に応じて、HDRの効果が異なる。以下、本実施形態では、図11を用いてHDR撮影動作を示す第2の撮影動作の露光制御について説明する。
図11における短時間露光フレームの時刻r43のリセット701、時刻r41のリセット702、時刻r39のリセット703、時刻r36のリセット704は、1行目の画素200の短時間露光素子の露光時間の開始タイミングを示す。リセット701〜704は、電子シャッタ動作によるリセットの開始となる1行目の画素200の短時間露光素子に対して、異なる露光時間のリセットを実施した時のタイミングを示す。例えば、リセット701のタイミングでリセット動作を開始すると、水平同期期間の2Thdの露光時間を設定することができる。同様に、リセット702、703、704のタイミングでリセット動作を開始すると、それぞれ、短時間露光素子は、水平同期期間の4Thd、6Thd、8Thdの露光時間を設定することができる。このようにして、短時間露光フレームの電子シャッタによる露光時間制御が可能である。
この時に、対応する長時間露光フレームのリセット動作の開始をそれぞれ時刻r40のリセット711、時刻r35のリセット713、時刻r31のリセット714、時刻r30のリセット715に設定する。これにより、リセット711、713、714、715のタイミングでリセット動作を開始すると、それぞれ、長時間露光素子は、水平同期期間の4Thd、8Thd、12Thd、16Thdの露光時間を設定することができる。こうして、長時間露光フレームの露光時間は、常に短時間露光フレームの2倍の露光時間が設定できるため、HDR撮影動作が可能な長時間露光フレームの電子シャッタによる露光時間制御が可能である。第1列信号処理部203aは、動作Opr1により、長時間露光素子の加算信号を読み出し、撮像素子12の第1出力部205aから出力する。第2列信号処理部203bは、動作Opr2により、短時間露光素子の加算信号を読み出し、撮像素子12の第2出力部205bから出力する。出力部205a及び205bから同時並列的に出力された画素200の信号は、信号処理部13にそれぞれ入力される。
次に、図11を用いて、HDR撮影動作における露光時間の比が3:1となる場合の長時間露光と短時間露光の動作について説明する。短時間露光フレームのリセット動作の開始を時刻r43のリセット701、時刻r41のリセット702、時刻r39のリセット703、時刻r36のリセット704とする場合を説明する。リセット701、702、703、704が露光開始時刻となると、短時間露光フレームの露光時間はそれぞれ水平同期期間の2Thd、4Thd、6Thd、8Thdの露光時間を設定することができる。この時、長時間露光フレームのリセット動作の開始をそれぞれ時刻r38のリセット712、時刻r31のリセット714、時刻r29のリセット716、時刻r26のリセット717に設定する。これにより、リセット712、714、716、717のタイミングでリセット動作を開始すると、それぞれ、長時間露光フレームは、水平同期期間の6Thd、12Thd、18Thd、24Thdの露光時間を設定することができる。こうして、長時間露光フレームの露光時間は、常に短時間露光フレームの3倍の露光時間に設定できるため、HDR撮影動作が可能な長時間露光フレームの電子シャッタによる露光時間制御が可能である。
さらに、図11を用いて、HDR撮影動作における露光時間の比が4:1となる場合の長時間露光と短時間露光の動作について説明する。短時間露光フレームのリセット動作の開始を時刻r43のリセット701、時刻r41のリセット702、時刻r39のリセット703とすると、長時間露光フレームの露光時間は、それぞれ水平同期期間の2Thd、4Thd、6Thdの露光時間を設定できる。この時、長時間露光フレームのリセット動作の開始をそれぞれ時刻r35のリセット713、時刻r30のリセット715、時刻r26のリセット717に設定する。これにより、リセット713、715、717のタイミングでリセット動作を開始すると、それぞれ、長時間露光フレームの露光時間は、水平同期期間の8Thd、16Thd、24Thdの露光時間を設定することができる。こうして、長時間露光フレームの露光時間は、常に短時間露光フレームの4倍の露光時間に設定できるため、HDR撮影動作が可能な長時間露光フレームの電子シャッタによる露光時間制御が可能である。そして、これらの長時間露光フレーム及び短時間露光フレームにおける電子シャッタを用いた露光時間制御は、同期制御部15からの制御信号に基づいて、同期信号発生手段としてのタイミング部206によって実施される。
図13(a)〜(e)は、本実施形態によるHDR処理を示す図である。本実施形態のHDR処理では、信号処理部13は、長時間露光により得られた第1の画像データと短時間露光により得られた第2の画像データとを合成して、第3の画像データを生成する。第3の画像データは、第1及び第2の画像データに対してダイナミックレンジが拡大された画像データである。第1の画像データは、長時間露光素子の加算信号を基に生成され、第2の画像データは、短時間露光素子の加算信号を基に生成される。信号処理部13は、撮像素子12から出力される長時間露光素子の加算信号と短時間露光素子の加算信号に対して、画素信号補正処理、HDR処理、画像信号処理を実施することで、ダイナミックレンジが拡大された画像を生成する。
図13(a)は、画素領域201の撮像面照度Eplxと画素200の出力信号Psigの関係を表した画素特性の図である。画素特性Exp1、Exp2、Exp3、Exp4は、撮像面照度Eplxと画素200の出力信号Psigの関係を表す。短時間露光フレーム期間をTfrsとした時、長時間露光フレーム期間が、それぞれTfrs、2Tfrs、3Tfrs、4Tfrsに設定されている場合、あるいは、電子シャッタによる露光時間の比が1:2:3:4に制御されている場合の特性を示している。これにより、画素特性Exp1を基準にすると、画素特性Exp2、Exp3、Exp4の傾きはそれぞれ、2倍、3倍、4倍となる。画素特性Exp1、Exp2、Exp3、Exp4は、それぞれ、長時間露光フレームと短時間露光フレームの露光時間の比が1:2:3:4である。飽和信号量PSATは、画素200の飽和信号量を示している。画素特性Exp1、Exp2、Exp3、Exp4は、それぞれ、撮像面照度E1、E2、E3、E4において飽和信号量PSATに達するので、それ以上の照度では、画素200の出力信号は増加しない。破線は、画素特性Exp1、Exp2、Exp3、Exp4が飽和しないと仮定した場合の特性を示す。
図13(b)は、画素特性Exp1についての撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。図13(a)において、撮像領域201の照度E1にて画素200の出力信号Psigが飽和するため、図13(b)の画像信号Ssigも飽和信号量SSATにて飽和した特性となる。そして、撮像面照度0からE1に対応して、画像信号Ssigが0からSSATまで階調を持って出力していることがわかる。これが、撮像素子12を図9のように動作させ、HDR処理を行わなかった場合の基本の撮影動作における画素特性である。
図13(c)は、本実施形態の撮像装置に対して、画素特性Exp1及びExp2を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。本実施形態では、画素特性Exp1及びExp2は、それぞれ、短時間露光時の出力信号及び長時間露光時の出力信号に相当し、M=2の場合である。HDR処理の方法は、画素特性Exp1及びExp2を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE2までは、図13(a)における画素特性Exp1及びExp2を加算することで、Exp1の3倍の感度に相当する画素特性となる。撮像面照度E2からE1までは、図13(a)において画素特性Exp2が飽和しているので、飽和信号量PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図13(a)において画素特性Exp1及びExp2がともに飽和しているので、最大飽和信号量となる2PSATとなっている。このように加算した画素特性に対して、最大飽和信号量2PSATがSSATになるように正規化することで、図13(c)のHDR処理が実現する。
そして、撮像素子12を図11のように動作させるとともに、信号処理部13は、図13(c)となるようにHDR処理を実施するように制御すればよい。これにより、撮像面照度0からE1に対応して、画像信号Ssigが0からSSATまで階調を持って出力するようになる。また、撮像面照度がE2からE1に拡張されているので、ダイナミックレンジは、2倍に拡大されていることになる。さらに、撮像面照度0からE2の画像信号特性の傾きを、図13(b)の画素特性Exp1の画像信号特性と比較すると、(感度3倍相当)/(最大飽和信号量2倍)=1.5倍になっていることより、感度は1.5倍に拡大されていることになる。ただし、画像信号特性の飽和信号量SSATが2SSATまで利用可能であれば、感度は3倍まで拡大することができる。図13(c)は、ガンマ特性としての入出力特性で、これによりダイナミックレンジを拡大することが可能である。
図13(d)は、本実施形態の撮像装置に対して、画素特性Exp1及びExp3を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。画素特性Exp1及びExp3は、それぞれ、短時間露光時の出力信号及び長時間露光時の出力信号に相当し、M=3の場合である。HDR処理の方法は、画素特性Exp1及びExp3を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE3までは、図13(a)における画素特性Exp1及びExp3を加算することで、画素特性Exp1の4倍の感度に相当する画素特性となる。撮像面照度E3からE1までは、図13(a)において画素特性Exp3が飽和しているので、飽和信号量PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図13(a)において画素特性Exp1及びExp3がともに飽和しているので、最大飽和信号量となる2PSATとなっている。このように加算した画素特性に対して、最大飽和信号量2PSATがSSATになるように正規化することで、図13(d)のHDR処理が実現する。
そして、撮像素子12をM=3に相当するように動作させるとともに、信号処理部13は、図13(d)となるようにHDR処理を実施するように制御すればよい。これにより、撮像面照度0からE1に対応して、画像信号Ssigが0からSSATまで階調を持って出力する。また、撮像面照度がE3からE1に拡張されているので、ダイナミックレンジは、3倍に拡大されていることになる。さらに、撮像面照度0からE3の画像信号特性の傾きを、図13(b)の画素特性Exp1の画像信号特性と比較すると、(感度4倍相当)/(最大飽和信号量2倍)=2倍になっていることより、感度は2倍に拡大されていることになる。ただし、画像信号特性の飽和信号SSATが2SSATまで利用可能であれば、感度は4倍まで拡大することができる。図13(d)は、図13(c)と同じく、ガンマ特性としての入出力特性で、これによりダイナミックレンジを拡大することが可能である。
図13(e)は、本実施形態の撮像装置に対して、画素特性Exp1及びExp4を用いてHDR処理を実施した場合の、撮像面照度Eplxと画像信号処理に用いられる画像信号Ssigの関係を表した画像信号特性の図である。画素特性Exp1及びExp4は、それぞれ、短時間露光時の出力信号及び長時間露光時の出力信号に相当し、M=4の場合である。HDR処理の方法は、画素特性Exp1及びExp4を加算して、最大飽和信号がSSATとなるように正規化することで実現する。撮像面照度0からE4までは、図13(a)における画素特性Exp1及びExp4を加算することで、画素特性Exp1の5倍の感度に相当する画素特性となる。撮像面照度E4からE1までは、図13(a)において画素特性Exp4が飽和しているので、飽和信号量PSATと画素特性Exp1を加算する。撮像面照度E1以上は、図13(a)において画素特性Exp1及びExp4がともに飽和しているので、最大飽和信号量となる2PSATとなっている。このように加算した画素特性に対して、最大飽和信号量2PSATがSSATになるように正規化することで、図13(e)のHDR処理が実現する。
そして、撮像素子12をM=4に相当するように動作させるとともに、信号処理部13は、図13(e)となるようにHDR処理を実施するように制御すればよい。これにより、撮像面照度0からE1に対応して、画像信号Ssigが0からSSATまで階調を持って出力する。また、撮像面照度がE4からE1に拡張されているので、ダイナミックレンジは、4倍に拡大されていることになる。さらに、撮像面照度0からE4の画像信号特性の傾きを、図13(b)の画素特性Exp1の画像信号特性と比較すると、(感度5倍相当)/(最大飽和信号量2倍)=2.5倍になっていることより、感度は2.5倍に拡大されていることになる。ただし、画像信号特性の飽和信号SSATが2SSATまで利用可能であれば、感度は5倍まで拡大することができる。図13(e)も、ガンマ特性としての入出力特性で、これによりダイナミックレンジを拡大することが可能である。
この時、本実施形態における撮像素子12の第1の撮影動作とHDR撮影動作を実現する第2の撮影動作の切り換えに関しては、例えば、撮像装置の操作部16は、ユーザによる入力操作に応じた制御信号を同期制御部15に出力する。そして、同期制御部15の制御により、タイミング部206は、撮像素子12の全体を制御するタイミングを発生させる。さらに、本実施形態において説明した、長時間露光と短時間露光の露光時間の比が異なるHDR撮影動作とHDR処理については、操作部16において、ユーザが直接選択するようにしてもよい。また、信号処理部13で実施するホワイトバランス調整、色補正、ガンマ補正、AF、AE等の各種信号処理に応じて、同期制御部15が適宜選択するようにしてもよい。
以上のように、本実施形態では、長時間露光フレーム内に短時間露光フレームを設定し、かつ、電子シャッタ動作を用いて、HDR撮影動作に適した露光時間制御を実施しているので、長時間露光と短時間露光の間の時間的な露光中心の差を低減することができる。また、対角の位置にある長時間露光素子の信号と短時間露光素子の信号をそれぞれ加算することで、空間的な露光中心を一致させることができる。そして、複数の画素200あるいは光電変換素子の信号に対して読み出し時間差を利用した共通の読み出し手段の垂直走査部202と異なる出力部205a,205bを用いて同時並列的に出力することが可能となる。これにより、撮像装置における高速読み出し動作を実現している。このため、ライン毎に発生する露光時間の時間差が原因となるローリング歪みの発生も低減させることができる。さらに、本実施形態では、HDR撮影動作に適した露光時間制御を実施しているので、長時間露光と短時間露光の露光時間の比を簡単に変更することができるため、被写体に応じて、HDRの効果が異なる撮影を実現することが可能となっている。また、長時間露光素子の加算信号と短時間露光素子の加算信号に対して別々に補正処理を実施させることができるので、露光時間に合わせてライン毎に切り換えて補正処理を実施する必要がないため、信号処理部13の負担軽減が図られる。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。