JP2019075718A - 撮像装置及びその制御方法 - Google Patents
撮像装置及びその制御方法 Download PDFInfo
- Publication number
- JP2019075718A JP2019075718A JP2017201246A JP2017201246A JP2019075718A JP 2019075718 A JP2019075718 A JP 2019075718A JP 2017201246 A JP2017201246 A JP 2017201246A JP 2017201246 A JP2017201246 A JP 2017201246A JP 2019075718 A JP2019075718 A JP 2019075718A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- black level
- estimation means
- imaging device
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】 異なる読み出し方法により読み出された画像信号を含むフレームデータを処理する場合に、画像上の縞の発生を抑制すること。【解決手段】 光電変換部で蓄積された電荷をFD部を介して読み出した信号を出力する、複数の画素の配列からなる画素アレイと、該画素アレイを異なる複数の駆動方法により駆動する駆動手段と、を持つ撮像素子と、遮光された画素から出力された信号から黒レベルを推定する複数の推定手段と、いずれかの推定手段により推定された黒レベルを用いて信号を補正する補正手段と、を有し、複数の推定手段は、FDリーク状態の異なる複数の駆動方法に応じて設けられ、第1の推定手段は、第1の駆動方法によるFDリーク状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて黒レベルを推定し、第2の推定手段は、第2の駆動方法によるFDリーク状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて黒レベルを推定する。【選択図】 図9
Description
本発明は、撮像装置及びその制御方法に関し、更に詳しくは、撮像面で焦点検出を行うことが可能な撮像装置及びその制御方法に関する。
各画素にマイクロレンズが形成されたイメージセンサを用いて、瞳分割方式の焦点検出を行う撮像装置が知られている。
特許文献1には、撮像装置において、瞳分割方式の位相差検出が可能な技術が開示されている。特許文献1では、撮像素子の1つの画素は2つのフォトダイオード(以下、「分割画素」と呼ぶ。)を有しており、各フォトダイオードは1つのマイクロレンズによって、撮影レンズの異なる瞳を通過した光を受光するように構成されている。このような分割画素を持つ撮像素子では、分割画素の信号を画素毎に加算して読み出す加算読み出しを行うことにより、通常の画像信号を得ることができる。また、分割画素の信号をそれぞれ読み出す分割読み出しを行って得られた出力信号(分割画素信号)の波形を比較することで、撮像面位相差AFが可能となるとともに、分割画素信号を画素毎に加算することで、通常の画像信号を得ることもできる。
このように、2つの分割画素から、分割画素信号と通常の画像信号とを共に得ることのできる分割読み出し方法は、例えば、動画撮影やミラーレスカメラによる静止画撮影時の合焦動作に有効である。
また、特許文献2には、撮影された画像信号の黒レベルを調整する目的で、撮像素子から出力された画像信号から黒レベルを検出し、補正する技術が開示されている。
しかしながら、特許文献1に記載された分割読み出しでは、各画素における分割画素信号の読み出しタイミングの相違や、分割画素信号の合成等に伴う、加算読み出し時とは異なる信号の取扱いが必要となる。
例えば、分割画素信号をA/D変換後にデジタル値で合成する場合、得られた画像信号は、暗電流系の影響である、フローティングデフュージョン部(FD)での電荷のリーク(FDリーク)の影響を、加算読み出しで得られる画像信号の2倍、受けることになる。
また、特許文献1に記載された構成を有する撮像素子から、次のようにして信号を読み出すこともできる。すなわち、各画素の一方の分割画素から分割画素信号を読み出し、その後、FDにその電荷が残っている状態で、他方の分割画素の信号を転送してFD上で電荷を加算してから、信号を読み出す。そして、加算して読み出された信号から、分割画素信号を差し引くことで、一対の分割画素信号を取得することができる。また、加算して読み出された信号は、画像信号として用いることができる。しかしながら、分割画素信号の読み出し後に加算して読み出された信号は、分割画素信号の読み出しをすることなく加算読み出しにより得られた画像信号よりも、FDで保持される時間が長いため、FDリークの影響をより受けることになる。
また、例えば、動画撮影や静止画撮影の高速な連写時に、撮像素子からの画像データの転送帯域を抑えつつ撮像面位相差AFを実施するために、1フレームを構成するラインのうちの一部のラインから分割画素信号を読み出すことが行われている。その場合、分割画素信号の読み出しをせずに加算読み出しを行うラインの画像信号と、分割画素信号の読み出しを行うラインの画像信号とでは、前述したように、FDリークによる影響に相違が出る。分割画素信号を読み出すラインの画像信号は、FDリークによる影響が大きく、特に、その程度の大きい画素では、FDリーク傷として、後の信号処理に影響を及ぼす。
FDリーク傷は、イメージセンサ上に配置した遮光部画素領域(OB領域)を使ってクランプ用の黒レベル推定をする際に、本来の黒レベルよりも高い値を検出値としてしまう。その場合、例えば水平方向のOB領域の画素値に基づいて推定された推定黒レベルで、分割画素信号を得たラインのオフセット補正を実施した際に過補正となり、横縞となって画質低下を招いてしまう。
一方、特許文献2に記載された技術では、撮像素子からの画像信号の読み出し方法がライン毎に異なることによって、ライン単位で黒レベルが変化してしまい、ラインの境界で正しい黒レベルを検出することができない場合がある。また、撮像素子の回路構成に起因してライン単位や画素単位で黒レベルが変化してしまい、正しい黒レベルを検出することができないという課題がある。このような課題に対し、信号処理部内に複数の検出処理を備え、撮像素子の駆動に合わせて検出処理を切り替えることで独立に検出できるような構成を採る撮像装置も知られている。しかしながら、撮像素子からの画像信号の読み出し方法が複雑になるほど、また、撮像素子の回路構成が複雑になるほど、検出処理の切り替え制御は煩雑になってしまうという課題がある。
本発明は上記問題点を鑑みてなされたものであり、加算読み出しのみを行うラインから得られた画像信号と、分割読み出しを行うラインから得られた画像信号とを含むフレームデータを処理する場合に、画像上の縞の発生を抑制することを第1の目的とする。
また、撮像素子の読み出しラインごとに黒レベルが変動している場合でも、複雑な制御をすることなく、精度よく黒レベルを推定し、補正することを第2の目的とする。
上記目的を達成するために、本発明の撮像装置は、光電変換部で蓄積された電荷をフローティングディフュージョン(以下、FD)を介して信号を出力する、遮光された画素を含む複数の画素の配列からなる画素アレイと、前記画素アレイを異なる複数の駆動方法により駆動する駆動手段と、を有する撮像素子と、前記遮光された画素から出力された信号から、黒レベルを推定する複数の推定手段と、前記複数の推定手段のいずれかにより推定された黒レベルを用いて、前記撮像素子から出力された信号を補正する補正手段と、を有し、前記駆動手段は、前記複数の駆動方法を切り替えてフレームの走査を行うことが可能であり、前記複数の駆動方法のうちの第1の駆動方法と第2の駆動方法とにおける前記FDの暗電流成分について、第1の駆動方法における第1のFDでのリークの影響(以下、第1のFDリーク)の状態と、第2の駆動方法における第2のFDでのリークの影響(以下、第2のFDリーク)の状態と、を、定義したときに、前記複数の推定手段のうち、第1の推定手段は、前記第1のFDリークの状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて黒レベルを推定し、前記複数の推定手段のうち、第2の推定手段は、前記第2のFDリークの状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて黒レベルを推定する。
本発明によれば、加算読み出しのみを行うラインから得られた画像信号と、分割読み出しを行うラインから得られた画像信号とを含むフレームデータを処理する場合に、画像上の縞の発生を抑制することができる。
また、撮像素子の読み出しラインごとに黒レベルが変動している場合でも、複雑な制御をすることなく、精度よく黒レベルを推定し、補正することができる。
以下、添付図面を参照して、本発明を実施するための形態を詳細に説明する。
<第1の実施形態>
本発明の信号処理回路を用いた撮像装置の実施形態について、図1〜図13を参照して以下に説明する。
本発明の信号処理回路を用いた撮像装置の実施形態について、図1〜図13を参照して以下に説明する。
図1は、第1の実施形態における撮像装置1の概略構成を示すブロック図である。図1において、撮像素子103は、撮影光学系102を介して入射した光を光電変換し、更にアナログ・デジタル(AD)変換して、得られたデジタル信号を出力する。なお、詳細については後述するが、撮像素子103は複数の画素を有し、各画素がそれぞれ複数の光電変換素子を有する、撮像面位相差AFに対応した構成を有する。そして、複数の光電変換素子から、視差を有する一対の焦点検出用信号を取得可能に読み出すことができる。また、複数の光電変換素子の信号を画素毎に加算して読み出すことで、通常の画像信号を得ることができる。
信号処理回路104は、主に、撮像素子103から読み出された画像信号の補正と、焦点検出用信号に基づく合焦制御用の評価値の取得とを行う。信号処理回路104に入力された信号を用いて、まず、クランプ処理回路1041により、入力フレームデータの黒レベルが再現される。そして、像データ分離部1040により、一対の焦点検出用の信号は撮像面位相差AF用の信号処理パスに、また、画像信号は記録系の信号処理パスに送出される。
AF用の信号処理パスは、一対の焦点検出用信号それぞれに対してシェーディング補正を行うシェーディング補正部1045と、焦点検出領域に含まれる一対の焦点検出用信号を用いて、位相差AFのための相関値を演算する相関演算部1046を含む。なお、相関演算は、公知の手法を用いて行えば良く、また、相関演算部1046は、1画素以下の分解能に対するサブピクセル推定のような処理も行うことができる。相関演算部1046により得られた相関値は、デフォーカス量計算部113でレンズ駆動量に変換され、撮影光学系102へとフィードバックされる。なお、相関値からレンズ駆動量への変換係数は、事前に取得した値を保持しておく。
一方、記録系の信号処理パスは、画像信号に対してシェーディング補正を行うシェーディング補正部1042と、撮像素子103の画素欠陥を補正する傷補正部1043を含む。傷補正部1043から出力された画像信号は、画像処理回路105に入力される。画像処理回路105は、ノイズ抑圧のためのノイズリダクション(NR)部1050と、回折による画質低下を回復する光学回復処理部1051と、色データの処理(同時化、偽色処理、ガンマ補正等)を行う現像処理部1052を含む。
符号化処理部107は、画像処理回路105による画像処理後の画像データを記録用に圧縮し、記録処理部108は、記録メディア109に対して記録処理を行う。記録メディア109としては、例えば、SDカードやコンパクトフラッシュ(登録商標)等のメモリカードや、ハードディスク等を用いることができる。また、マイクロDAT、光磁気ディスク、CD−RやCD−WR等の光ディスク、DVD等の相変化型光ディスク等を用いても構わない。
表示処理部110は、画像処理回路105による画像処理後の画像データを、例えば、LCD等の表示デバイス111における表示に適したビデオ信号に変換して、表示デバイス111に転送する。
CPU100は、ROM106に格納されたプログラムコードを実施して、撮像装置1全体を制御する。同期信号発生部(SSG:Synchronous Signal Generator)101は、撮像素子103の駆動タイミングを制御するタイミングジェネレータ(TG)112にフレーム同期信号を送信して、撮像タイミングを制御する。また、信号処理回路104に対して、フレーム信号処理タイミングをとるための同期信号を出力する。
撮像素子103と信号処理回路104の間の関係は一例であり、撮像素子103と信号処理回路104との間をプロトコルに従ったデジタルIFで接続するならば、信号処理回路104の撮像データ受信は該デジタルIF中の定義のみで成立する。従って、撮像素子103にはSSG101からフレーム開始のトリガ信号を送出する程度の制御でも良い。
図2は、撮像素子103の構成を説明するためのブロック図である。なお、図2では、撮像素子103を構成する多数の画素10のうち、分かり易く示すために2行2列の画素10のみを示しているが、画素10の数は特に限定されるものではない。また、複数の画素10のうち、後述する図7の領域803に相当する列が、遮光されたオプティカルブラック(OB)領域となっており、このOB領域から出力された信号を用いて、後述する黒レベルの推定及び補正を行うことができる。
画素10は、行方向及び列方向に沿って2次元マトリクス状(行列状)に配列され、画素アレイを構成する。本第1の実施形態では、各画素10は、複数の光電変換素子を有する瞳分割型の画素として構成される。各画素10は、一対の光電変換素子24A,24B、一対の光電変換素子24A,24Bそれぞれに対応する転送MOSトランジスタ26A,26B、リセットMOSトランジスタ28、増幅MOSトランジスタ30、選択MOSトランジスタ32を有する。なお、図2では1つの画素10についてのみ具体的な回路構成の一例を示しているが、他の画素も同様の構成を有する。
光電変換素子24A,24Bは、例えば、フォトダイオードから構成される。光電変換素子24Aのアノードは接地電圧線に接続され、カソードは転送MOSトランジスタ26Aのソースに接続されている。同様に、光電変換素子24Bのアノードは接地電圧線に接続され、カソードは転送MOSトランジスタ26Bのソースに接続されている。転送MOSトランジスタ26A,26Bのドレインは、リセットMOSトランジスタ28のソース及び増幅MOSトランジスタ30のゲートに接続されている。
転送MOSトランジスタ26A,26Bのドレイン、リセットMOSトランジスタ28のソース及び増幅MOSトランジスタ30のゲートの接続ノードは、フローティングディフュージョン(FD)領域34を構成する。リセットMOSトランジスタ28及び増幅MOSトランジスタ30のドレインは、電源電圧線に接続されている。増幅MOSトランジスタ30のソースは、選択MOSトランジスタ32のドレインに接続されている。転送MOSトランジスタ26A,26B、リセットMOSトランジスタ28、増幅MOSトランジスタ30、選択MOSトランジスタ32は、光電変換素子24A,24Bで生成された電荷に基づく画素信号を読み出すための画素内読み出し回路を構成する。なお、トランジスタのソースとドレインの呼称は、トランジスタの導電型や着目する機能等に応じて異なることがあり、上述のソースとドレインとは逆の名称で呼ばれることもある。
複数の画素10で構成される画素アレイは、図2中、垂直走査回路12や水平走査回路14等の駆動手段の動作によって画素読み出しを実施する。
図3は、画素10の構成を示す平面図及び断面図であり、図3(a)は画素アレイの上面模式図、また、図3(b)は図3(a)のA−A′線断面図である。図2に示す回路構成を有する画素アレイは、特に限定されるものではないが、例えば図3(a)に示す平面レイアウトによって実現することができる。図3(a)において点線で囲まれた領域が、単位画素(画素10)である。各画素10上には、1個のマイクロレンズ38がそれぞれ配置されている。また、光電変換素子24A,24Bとマイクロレンズ38との間には、図3(b)に示すように、カラーフィルタ36が配置されている。各マイクロレンズ38によって集光された入射光は、そのマイクロレンズ38に対応する画素10の光電変換素子24A,24Bに入射する。
図2に戻り、画素アレイの各行には、列方向に延在して、信号線TXA、TXB、RES、SELが、それぞれ配線されている。信号線TXAは、行方向に並ぶ複数の画素10の転送MOSトランジスタ26Aのゲートにそれぞれ接続され、信号線TXBは、同じく、行方向に並ぶ複数の画素10の転送MOSトランジスタ26Bのゲートにそれぞれ接続されている。また、信号線RESは、行方向に並ぶ複数の画素10のリセットMOSトランジスタ28のゲートにそれぞれ接続され、信号線SELは、行方向に並ぶ複数の画素10の選択MOSトランジスタ32のゲートにそれぞれ接続されている。なお、図2では、分かり易く示すために、1つの画素10に接続される信号線TXA、TXB、RES、SELのみを示している。
垂直走査回路12は、TG112からの所定のタイミング信号に基づき、画素10を行毎に選択して、選択した行の画素10から画素信号を出力させるように駆動する。信号線TXA、TXB、RES、SELは、垂直走査回路12に接続されている。信号線TXAには、垂直走査回路12から、転送MOSトランジスタ26Aを駆動するための転送パルス信号PTXAが出力される。信号線TXBには、垂直走査回路12から、転送MOSトランジスタ26Bを駆動するための転送パルス信号PTXBが出力される。信号線RESには、垂直走査回路12から、リセットMOSトランジスタ28を駆動するためのリセットパルス信号PRESが出力される。信号線SELには、垂直走査回路12から、選択MOSトランジスタ32を駆動するための選択パルス信号PSELが出力される。本実施形態では、これらの信号線TXA、TXB、RES、SELにハイレベルの信号が印加されると、対応するトランジスタが導通状態(オン状態)になるものとする。また、ローレベルの信号が印加されると、対応するトランジスタが非導通状態(オフ状態)になるものとする。
画素アレイの各列には、行方向に延在して、垂直信号線40がそれぞれ配置されている。垂直信号線40は、列方向に並ぶ複数の画素10それぞれの選択MOSトランジスタ32のソースに接続されている。各列の垂直信号線40には、列読み出し回路16と電流源42とが、それぞれ接続されている。列読み出し回路16は、増幅部44とAD変換部52とを有し、画素10から読み出された信号を処理する。
増幅部44は、演算増幅器(差動増幅器)46と、スイッチ48と、入力容量C0と、負荷容量Cfとを有している。演算増幅器46の反転入力端子は、入力容量C0を介して垂直信号線40に接続されている。演算増幅器46の非反転入力端子には、基準電圧が与えられている。演算増幅器46の反転入力端子と出力端子との間には、負荷容量Cfとスイッチ48とが並列に接続されている。スイッチ48は、制御ノードに印加される信号PC0Rにより駆動される。ここでは、信号PC0Rがハイレベルのときにスイッチ48は導通状態(オン状態)となり、信号PC0Rがローレベルのときにスイッチ48は非導通状態(オフ状態)となるものとする。
AD変換部52は、バッファ回路を構成する演算増幅器54と、コンパレータを構成する演算増幅器56とを有している。演算増幅器54の非反転入力端子は、演算増幅器46の出力端子に接続されている。演算増幅器54の反転入力端子は、演算増幅器54の出力端子に接続されている。演算増幅器54の出力端子は、演算増幅器56の非反転入力端子に接続されている。演算増幅器56の反転入力端子は、ランプ信号発生器20に接続されている。演算増幅器56の出力端子には、メモリ18が接続されている。メモリ18には、水平走査回路14と、カウンタ22とが接続されている。演算増幅器54から出力された信号と、ランプ信号発生器20から入力される、一定の傾きを有するランプ信号との大小関係が反転した時に、演算増幅器56の出力が反転する。メモリ18は、この反転時に、カウンタ22から入力されたカウントを保持することで、AD変換が行われる。水平走査回路14は、メモリ18に保持されたデジタル信号を列毎に読み出して、撮像素子103の外部に出力する。
図4は、本実施形態における撮像素子103からの1フレーム分の信号の読み出しの概念を示すタイミングチャートである。本実施形態による撮像素子103の駆動方法では、図4に示すように、垂直同期信号VDを基準として、シャッタ走査と読み出し走査とを、撮像素子103の行毎(H1〜Hn)に順次行う。まず、シャッタ走査により、行毎に順次、該当する行に属する複数の画素10の光電変換素子24A,24Bの保持電荷のリセットを行う。そして、読み出し走査により、行毎に順次、該当する行に属する複数の画素10から光電変換素子24A,24Bの蓄積電荷に基づく信号を読み出す。シャッタ走査から読み出し走査までの時間が、各行における光電変換素子24A,24Bにおける電荷の蓄積期間となる。
図4は、1フレームを俯瞰する様表現しているため、図5の様に1水平期間を厳密に表現していない。本実施形態における焦点検出用信号取得には、光電変換素子24Aの蓄積電荷の転送と、光電変換素子24Bの蓄積電荷分を含む転送と、が必要なため、図5の様に2水平期間を要する。
図5は、撮像素子103からの焦点検出用信号の読み出し駆動方法を示すタイミングチャートである。以下、図5を参照して、各行の読み出し動作について具体的に説明する。図5において、図4に示すシャッタ走査の動作は、概ね時刻t1〜時刻t3の期間に該当する。また、図4に示す読み出し走査の動作は、光電変換素子24Aからの転送電荷量の読み出しにおいては概ね時刻t8〜t9に、光電変換素子24A、24Bを合わせた電荷量の読み出しにおいては時刻t14〜t15の期間に該当する。
まず、水平同期信号HDに同期して、時刻t1において、信号PRES、信号PTXA、信号PTXBがそれぞれハイレベルとなり、リセットMOSトランジスタ28及び転送MOSトランジスタ26A,26Bがオン状態となる。これにより、光電変換素子24A,24Bの蓄積電荷が、転送MOSトランジスタ26A,26B及びリセットMOSトランジスタ28を介して排出される。すなわち、光電変換素子24A,24Bのリセット動作が行われる。このように、本実施形態の駆動方法では、電子シャッタパルス(信号PRES、信号PTXA及び信号PTXB)により、光電変換素子24A,24Bを同時にリセットする。電子シャッタ駆動を行う場合、上述のように、読み出し走査に先行して画素10のリセットを行う。
次に、時刻t2において、信号PTXA及び信号PTXBがローレベルとなり、転送MOSトランジスタ26A,26Bがオフ状態となる。このタイミングで、光電変換素子24A,24Bのリセット動作が終了し、光電変換素子24A,24Bの電荷蓄積期間が開始する。転送MOSトランジスタ26A,26Bがオフ状態となった後、時刻t3において、信号PRESがローレベルとなり、リセットMOSトランジスタ28がオフ状態となる。これにより、一連のシャッタ走査の動作が完了する。
この状態で、光電変換素子24A,24Bへの所定期間の電荷蓄積を行った後、行単位で、画素10から光電変換素子24A,24Bの蓄積電荷に基づく信号の読み出し、すなわち読み出し走査を行う。
水平同期信号HDに同期して、時刻t4において、信号PRESがハイレベルとされ、リセットMOSトランジスタ28がオン状態となる。これにより、増幅MOSトランジスタ30の入力ノードでもあるFD領域34がリセットMOSトランジスタ28を介して電源電圧線に電気的に接続され、増幅MOSトランジスタ30の入力ノードがリセットレベルの電位にリセットされる。また、同じく時刻t4において、信号PC0Rがハイレベルとされ、スイッチ48が導通状態となる。これにより、演算増幅器46の出力端子と反転入力端子とを短絡して演算増幅器46をバッファ状態とする。
時刻t5において、信号PSELがハイレベルとされ、選択MOSトランジスタ32がオン状態となる。これにより、増幅MOSトランジスタ30は、ソースには垂直信号線40を介して電流源42からバイアス電流が供給された状態となり、ソースフォロワ回路を構成する。そしてこれによって、列読み出し回路16には、増幅MOSトランジスタ30の入力ノードがリセットレベルの電位であるときの信号(リセット信号)が、選択MOSトランジスタ32及び垂直信号線40を介して出力される。列読み出し回路16に入力されたリセット信号は、入力容量C0を介して、基準電圧の出力をバッファする状態となっている演算増幅器46の反転入力端子に入力される。
時刻t6において、信号PRESがローレベルとなり、リセットMOSトランジスタ28がオフ状態となる。これにより、増幅MOSトランジスタ30の入力ノードのリセット動作を解除する。
時刻t7において、信号PC0Rがローレベルとなり、スイッチ48が非導通状態となる。これにより、演算増幅器46の帰還経路には負荷容量Cfが接続された状態となり、入力容量C0と負荷容量Cfとの比(C0/Cf)によって決定されるゲインに応じて増幅されたリセット信号が、演算増幅器46の出力端子から出力される。
次いで、時刻t8において、信号PTXAをハイレベルとし、転送MOSトランジスタ26Aをオン状態とする。これにより、電荷蓄積期間に光電変換素子24Aにおいて光電変換によって生成された信号電荷がFD領域34に転送される。そして、垂直信号線40には、光電変換素子24Aから転送された信号電荷の量に応じた増幅MOSトランジスタ30の入力ノードの電位に基づく画素信号が、選択MOSトランジスタ32を介して出力される。
画素10から垂直信号線40を介して画素信号を列読み出し回路16に出力した後、時刻t9において、信号PTXAをローレベルとする。演算増幅器46は、画素10から入力容量C0を介して入力された画素信号を、入力容量C0と負荷容量Cfとの比(C0/Cf)によって決定されるゲインに応じて増幅し、出力端子から出力する。この画素信号(焦点検出用信号)を、以下、「A信号」と呼ぶ。
次いで、時刻t14において、信号PTXA,PTXBを共にハイレベルとし、転送MOSトランジスタ26A,26Bをオン状態とする。これにより、光電変換素子24A,24Bにおいて光電変換によって生成された信号電荷がFD領域34に転送される。その結果、垂直信号線40には、光電変換素子24A,24Bの信号電荷の総量に応じた増幅MOSトランジスタ30の入力ノードの電位に基づく画素信号が、選択MOSトランジスタ32を介して出力される。
画素10から垂直信号線40を介して画素信号を列読み出し回路16に出力した後、時刻t15において、信号PTXA,PTXBをローレベルとする。演算増幅器46は、画素10から入力容量C0を介して入力された画素信号を、入力容量C0と負荷容量Cfとの比(C0/Cf)によって決定されるゲインに応じて増幅し、出力端子から出力する。この画素信号を、以下、「A+B信号」と記す。このようにして読み出されたA+B信号は、画像形成用信号としても用いる。その後、次の水平同期信号HDの立ち下がりに同期して、信号PSELをローレベルとし、選択MOSトランジスタ32をオフ状態として、当該行の読み出しを終了する。
増幅部44から出力されたリセット信号、A信号及びA+B信号は、AD変換部52によりデジタル信号に変換された後、メモリ18に蓄積される。メモリ18に蓄積された各列のこれらのデジタル信号は、水平走査回路14からの制御信号に従って順次読み出される。列読み出し回路16がAD変換部52を有していない場合は、出力アンプ若しくはバッファを通して、各列の信号が順次読み出される。
焦点検出用信号には、このようにして読み出された光電変換素子24Aの信号電荷に基づくA信号と、光電変換素子24Bの信号電荷に基づく画素信号(以下、「B信号」と呼ぶ。)とが用いられる。ここでは、B信号は、A+B信号からA信号を差し引くことにより算出される。
ここで、図5に示すように、A信号を取得する時刻(時刻t8〜時刻t9)と、A+B信号を取得する時刻(時刻t14〜時刻t15)とは、異なっている。また、光電変換素子24Aの信号電荷をFD領域34に転送してから、光電変換素子24A,24Bの信号電荷をFD領域34に転送するまでの間に、増幅MOSトランジスタ30の入力ノードのリセットは行われない。従って、時刻t14〜時刻t15において読み出すA+B信号には、時間差dtの間に増加したFD領域34の暗電流成分が重畳されることになる。なお、以下の説明において、上述した図5に示す駆動方法を、第1の駆動方法と呼ぶ。
次に、本実施形態における撮像装置1からの画像形成用信号の読み出し駆動方法について、図6のタイミングチャートを参照して説明する。この場合、図5に示す焦点検出用信号の読み出しと比較して、時刻t8において、信号PTXA,PTXBを共にハイレベルとして、転送MOSトランジスタ26A,26Bをオン状態にするところが異なる。これにより、光電変換素子24A,24Bの信号電荷がFD領域34に転送される。その結果、垂直信号線40には、光電変換素子24A,24Bの信号電荷の総量に応じた増幅MOSトランジスタ30の入力ノードの電位に基づく画素信号が、選択MOSトランジスタ32を介して出力される。このようにして出力された画素信号は、第1の駆動方法におけるA+B信号の読み出しと同様に、演算増幅器46により増幅されて、出力端子から出力される。この画素信号もA+B信号と呼ぶ。なお、以下の説明において、上述した図6に示す駆動方法を、第2の駆動方法と呼ぶ。
ここで、記録用フレームデータを撮像中に、第1の駆動方法により焦点検出用信号(A信号)を取得して、記録動作と合焦制御とを並行して行う場合を考える。このとき、撮像素子103と信号処理回路104との転送帯域を抑えるために、焦点検出用信号(A信号)を全画素から読み出さずに、任意のラインでのみ読み出す制御を考える。図7は、そのような読み出し制御により撮像素子103から読み出された1フレーム分の信号を示す概念図である。図7において、水平方向は撮像素子103の列方向に対応し、垂直方向は撮像素子103の行方向に対応する。なお、図5に示すように、第1の駆動方法では、撮像素子103の1行分の信号を2水平期間で取得するため、図7では、2行に亘って示している。本実施形態では、焦点検出用信号(A信号)の取得、すなわち第1の駆動方法による読み出しを、視差ライン取得周期805で周期的に行うものとする。
図7において、ライン800は、第2の駆動方法で取得されたA+B信号の読み出しライン(以下、「通常ライン」と呼ぶ。)を示す。通常ライン800のデータは、信号処理回路104中、像データ分離部1040により分離されて、記録系の信号処理パス(シェーディング補正部1042、傷補正部1043)に送られ、AF用の信号処理パス(シェーディング補正部1045、相関演算部1046)には送られない。ライン801は、第1の駆動方法で得られるA信号の読み出しライン(以下、「第1視差ライン」と呼ぶ。)を示し、AF用の信号処理パスに送られ、記録系の画素処理パスには送られない。ライン802は、第1の駆動方法で得られるA+B信号の読み出しライン(以下、「第2視差ライン」と呼ぶ。)であり、焦点検出用信号及び画像形成用信号として用いられる。第2視差ライン802のA+B信号は、記録系の画素処理パスに送られると共に、第2視差ライン802のA+B信号から得られたB信号は、AF用の信号処理パスに送られる。
また、図7に示すように、画素データは、列方向にOB領域803と、開口領域804とを有し、記録画素領域は開口領域804の任意の領域を切り出したものとなる。また、OB領域803と記録画素領域との間に、OB領域803の遮光不良を鑑みた不使用領域を設定してもよい。以降、理想的にOB領域803の全域を、クランプ用の黒レベルの推定に用いることができるものとする。
因みに、ベイヤー配列のセンサーアレイにおいて、図7中、一対の第1視差ライン801と第2視差ライン802は、R(赤)/Gr(緑)ライン、またはGb(緑)/B(青)ラインである。そのため、2対の第1視差ライン801と第2視差ライン802が得られるように2行連続して第1の駆動方法により走査することで、得られた焦点検出用信号をベイヤー加算(隣接する4色単位の加算)可能とすることができる。そして、ベイヤー加算により得られた輝度値をAF処理に用いることができる。
図8は、OB領域803における傷状態の一例を示す図であり、図8(a)は、通常ライン800及び第1視差ライン801のOB領域803におけるFDリーク傷の状態の一例を示す図である。図8において、点線900は、クランプ処理回路1041において、通常ライン800及び第1視差ライン801の信号を処理する際に用いる第1の傷判定閾値である。図8(b)は、第2視差ライン802のOB領域803におけるFDリーク傷の状態の一例を示す図である。図8から分かるように、第1の駆動方法でのFDリーク傷の状態の悪化は、A信号とA+B信号の読み出しの時間差dtに因る。そこで、本実施形態では、増加したFDリーク傷の影響を除去するために、第1の傷判定閾値900よりも低めの第2の傷判定閾値901を設定する。これは、第2視差ライン802に対しても第1の傷判定閾値900によりFDリーク傷を判定した場合、成長したFDリーク傷の値がクランプのための黒レベル推定値を押し上げ、補正後の画像に横縞となって画質低下の影響を及ぼすことがあるためである。
図9は、本実施形態におけるクランプ処理回路1041の等価回路図である。図9に示す回路は、基準クロックによって同相転送が成立する同期設計によるが、各記憶素子(レジスタ)に対する基準クロックやリセット信号については図が煩雑になるので図示を省略する。
図9中、信号sig_1001は、撮像素子103から転送される画像データであり、図7のフレームデータに示す順に、A信号及びA+B信号が転送される。同期信号生成部(Synchronous Signal Generator:SSG)1001は、信号sig_1001受信時の有効ステータス(信号sig_1006)を計数して、フレームデータとしての処理状態を把握する。信号sig_1006は、例えば受信信号sig_1001が有効データの場合1値を、無効データの場合0値をとる場合に、基準クロックに同期して1値の状態を計数することでフレームデータの受信状態(処理画素数)を表す。
図5及び図6における時刻t8、t9の設定が等しければ、図7に示す通常ライン800と第1視差ライン801それぞれにおけるFDリークの影響は等しい。そこで、本実施形態では、通常ライン800と第1視差ライン801のクランプ処理を一つとし、第2の視差ライン802のクランプ処理を分ける。そのため、SSG1001は、第2の視差ライン802の受信状態を認識する仕組みを具備する。図9に示すレジスタ1006には、第2の視差ライン802の出現要件を設定する。
SSG1001の基本はフレームカウンタであり、列方向の画素数カウンタと、行方向のラインカウンタと、夫々のカウンタ値とレジスタ値とを比較する比較器を具備する。また、レジスタ1006は、複数の数値を記憶するフリップフロップ(FF)構成を有し、図7に示すOB領域と、視差ライン取得周期805(ライン数)を定義する数値を記憶している。そして、SSG1001の比較器(不図示)の比較結果から、SSG1001は、OB領域の状態を示すステータス信号sig_1010と、信号sig_1010の完了直後に発生するイベントパルスsig_1009と、第2視差ライン802かどうかを示すステータス信号sig_1008とを生成する。なお、信号sig_1008は、第2視差ライン802からの信号受信時に1値が、それ以外のラインからの信号受信時に0値が出力される。また、信号sig_1010は、OB領域803の期間中は1値が、それ以外は0値が出力される。
本実施形態におけるレジスタ構成では、CPU100から設定時に転送されるアドレス(不図示)のデコード部と、設定値を記憶する記憶素子(FF構成として例示。)とを含む。なお、回路中のスタティック情報を保持するレジスタ構成へのデータ更新については、フレーム処理前の任意のタイミングでCPU100によって実施する。
本実施形態では視差ラインの取得位置を図7の様に周期的としたが、フレーム中心に密になる様な読み出し関係としても良いし、被写体を解析して(顔認識や動体追尾機能(不図示)を活用する様)合焦対象と推測される領域に密になる様な関係としても良い。
それには、撮像素子103側の制御手段の対応や、クランプ処理回路1041側の対応が必要である。夫々、垂直(ライン)カウンタ(不図示)のデコード(コンパレータ、不図示)により切り替えれば良いが、切り替えのためのレジスタ値と周辺(ロジック)回路の実装が必要になる。これら回路自体は、特徴的なロジック回路とはならないので図示は省略する
また、本実施形態のクランプ処理回路1041は、2つの黒レベル推定回路を含む。第1の黒レベル推定回路は、加算器(減算器)1009,1011と乗算器1010及び推定結果を保持する記憶素子(FF)1012を含み、IIRフィルタを構成する。第2の黒レベル推定回路は、加算器(減算器)1015,1017と乗算器1016及び推定結果を保持するFF1018を含み、IIRフィルタを構成する。以下、加算器の減算表記としては、非演算子の減算側にマイナス記号を付する。
第1の黒レベル推定回路は、加算器1009に入力するFF1012の出力をYとし、他方の加算器1009の入力をXとし、乗算器1010のゲインをKとすると、FF1012への入力は、{(X−Y)・K+Y}となる。これは{K・X+(1−K)・Y}に展開できるので、IIRローパスフィルタ構成となる。このときの時定数Kは、図9中、レジスタ1002に設定する。第2の黒レベル推定回路も第1の黒レベル推定回路と同様の構成を有しており、乗算器1016のゲインKは、レジスタ1005に設定する。Kは1より小さい値を設定するので、設定値を1/2、1/4、1/8、…、と2のn乗の形で設定するように制約を設けるのであれば、回路構成としては信号を右方向へのbit shiftする構成のみで実現できる。FF1012の出力である信号sig_1003は、第1の黒レベル推定回路の黒推定レベル信号であり、FF1018の出力である信号sig_1004は、第2の黒レベル推定回路の黒推定レベル信号である。
IIRローパスフィルタ構成による入力信号sig_1001の黒レベル推定では、レジスタ1025に黒レベル目標値を設定しておく。そして、加算器(減算器)1026で演算した入力信号sig_1001とレジスタ1025の値との差を、第1及び第2の黒レベル推定回路の入力値とする。
FF1012が保持する黒推定レベルは、乗算器1010のゲイン値Kを時定数としたローパスフィルタ出力として推移する。そのため、時定数が大きい場合にはFF1012の検出値が目標黒レベルに到達するまでに時間がかかる。そこで、本実施形態では、回路の応答性の改善を図るためにレジスタ1023を設け、そのレジスタ値をFF1012の初期値として設定できるようにしている。本実施形態では、レジスタ1023の値を設定後に、レジスタ1022の設定値を1値から0値の順に設定することで、FF1012にレジスタ1023の値を設定することができる。
FF1018に対する初期値は、レジスタ1024の値が該当し、レジスタ1022設定値を1値から0値の順に設定することで、FF1018にレジスタ1024の値を設定することができる。ここでは、FF1012,1018の書き込み状態を作るべくレジスタ1022を用いているが、CPU100からのレジスタ書き込みアドレス・データ等をデコードしてパルス信号を生成しても構わない。
第1の黒レベル推定回路は、図7に示す通常ライン800及び第1視差ライン801の黒レベル推定結果が保持されるように、また第2の黒レベル推定回路は、第2視差ライン802の黒レベル推定結果が保持されるように構成する。
レジスタ1003は、図8の第1の傷判定閾値900を保持するために用いられ、レジスタ1004は、図8の第2の傷判定閾値901を保持するために用いられる。レジスタ1003の値は、比較器1007における信号sig_1001との大小比較に用いられ、比較器1007は、比較の結果、信号sig_1001の方が大きければ1値を出力し、それ以外の状態で0値を出力する。AND素子1008は、信号sig_1006と信号sig_1010との論理積(AND素子1030の結果)が1値の場合に、信号sig_1001がOB領域803の有効画素信号状態であるものとして、比較器1007の出力を後段に通す。AND素子1008の出力は、AND素子1030の出力の反転状態とOR演算され、その結果が1値となる場合には、信号sig_1001上の注目画素値を黒レベル推定から除くように、FF1012の入力としてはマスクする。また、信号sig_1008の状態が1値の場合には、信号sig_1001は第2視差ライン802の信号であるため、OR素子1028によってマスクする。これらのマスク処理により、該位相のFF1012値は現状保持となる。
同様に、レジスタ1004の値は比較器1013における信号sig_1001との大小比較に用いられ、比較器1013もまた、比較の結果、信号sig_1001の方が大きければ1値を出力し、それ以外の状態で0値を出力する。AND素子1014は、信号sig_1006と信号sig_1010との論理積(AND素子1030の結果)が1値の場合に、信号sig_1001がOB領域803の有効画素信号状態であるものとして、比較器1013の出力を後段に通す。AND素子1014の出力は、AND素子1030の出力の反転状態とOR演算され、その結果が1値となる場合には、信号sig_1001上の注目画素値を黒レベル推定から除くように、FF1018の入力としてはマスクする。また、信号sig_1008の状態が0値の場合には、信号sig_1001は通常ライン800または第1視差ライン801の信号であるため、OR素子1029によってマスクする。
FF1019は、補正値としての黒レベル推定値を保持する。FF1019には、通常ライン800及び第1視差ライン801の黒レベル推定結果値を示す信号sig_1003と、第2視差ライン802の黒レベル推定結果値を示す信号sig_1004とが、信号sig_1008により選択的に入力する。ここでは、信号sig_1008が0値の場合に信号sig_1003を選択し、1値の場合に信号sig_1004を選択する。そして、FF1019の出力信号sig_1005を、注目ラインの補正値として取り扱う。
図7のOB領域803及び開口領域804の両方を、クランプ値を用いた補正対象とする場合には、OB領域803の入力を黒レベル推定期間分遅延する必要がある。図9中、FIFO1020は、入力画像信号sig_1001をOB領域803の処理期間分、出力タイミングを遅延させる。また、遅延回路1027は、付随する有効ステータス信号sig_1006を同様のタイミング遅延させる。遅延回路1027は、シフトレジスタ構成で良い。補正値信号sig_1005の更新は、OB領域803の検出走査完了時期であり、SSG 1001によってタイミング信号sig_1009を生成して、FF1019に適用する。補正処理(クランプ処理)は、FIFO1020の出力に対してFF1019出力信号sig_1005を加算器(減算器)1021で演算することで実施する。加算器(減算器)1021の演算結果、得られる出力信号sig_1002と、該出力信号sig_1002の画素有効ステータスである遅延回路1027の出力信号sig_1007とが、クランプ処理回路1041の出力となる。
なお、図9中の論理素子に接続される信号表記において、ベクタ信号(複数bit幅を持つ信号)とスカラ信号(1bit信号)との論理演算が記載されている。この場合、ベクタ信号分の各bitにおいて、それぞれスカラ信号に対する論理演算が実施される(出力としてはベクタ信号が得られる)ものとする。比較器出力等、ステータス信号として定義されている信号はスカラ信号(1bitの信号)である。
上記の通り本第1の実施形態によれば、FDリーク状態が異なるライン毎に、それぞれ黒レベル推定を行う。そして、黒レベル推定を行う際に傷の検出行うための閾値をそれぞれ独立に設定して、FDリーク状態の異なるライン毎にFDリーク傷の影響を回避するクランプ処理制御を行う。このような構成とすることにより、画像における縞の発生を抑圧することができ、画質を向上することができる。
<変形例>
次に、本発明の第1の実施形態の変形例について説明する。上述した第1の実施形態では、図5に示す第1の駆動方法により、A信号とA+B信号とを読み出す場合について説明した。これに対し、焦点検出用信号の読み出しに、A信号とB信号とを別々に読み出して焦点検出に用いるとともに、読み出したA信号とB信号を加算することで、画像形成用信号(A+B信号)を生成することもできる。
次に、本発明の第1の実施形態の変形例について説明する。上述した第1の実施形態では、図5に示す第1の駆動方法により、A信号とA+B信号とを読み出す場合について説明した。これに対し、焦点検出用信号の読み出しに、A信号とB信号とを別々に読み出して焦点検出に用いるとともに、読み出したA信号とB信号を加算することで、画像形成用信号(A+B信号)を生成することもできる。
図10は、一対の焦点検出用信号(A信号及びB信号)を2水平期間かけてそれぞれ独立に読み出す場合のタイミングチャートを示す。図10に示すように、時刻t9まで図5に示す駆動と同じ駆動を行って、A信号を読み出す。その後、時刻t10〜t15において、時刻t4〜t9と同様の処理を、信号PTXAの代わりに信号PTXBをハイレベルとして行う。このように、夫々の光電変換素子24A,24Bからの電荷読み出しに先立ち、時刻t4〜t6及び時刻t10〜t12において、FD領域34のリセット信号を読み出す。このようにすることで、FD領域34のリセット実施から、A信号を読み出すまでの時間と、B信号を読み出すまでの時間とを等しくすることができるため、焦点検出に用いるA信号、B信号夫々の暗電流の影響を同様にできる。なお、以下の説明において、上述した図10に示す駆動方法を、第3の駆動方法と呼ぶ。ここで、第3の駆動方法によりA信号及びB信号を夫々読み出して、撮影時の画像形成用信号(A+B信号)を取得するには、信号処理中にA信号とB信号の合成が必要となり、そのため暗電流成分は2倍に悪化する。この暗電流成分の悪影響もまた、オフセット成分のクランプ処理における横縞の発生原因となり、記録画像の画質を低下させる。
ここで、記録用フレームデータを撮像中に、第3の駆動方法により焦点検出用信号(A信号及びB信号)を取得して、記録動作と合焦制御とを並行して行う場合を考える。このとき、撮像素子103と信号処理回路104との転送帯域を抑えるために、焦点検出用信号(A信号及びB信号)を全画素から読み出さずに、任意のラインでのみ読み出す制御を考える。図11は、そのような読み出し制御により撮像素子103から読み出された1フレーム分の信号を示す概念図である。通常ライン800と、OB領域803と、開口領域804、視差ライン取得周期805を図7と同様とし、第1視差ライン801及び第2視差ライン802に代えて、A信号ライン806とB信号ライン807とを定義する。
本変形例では、第1の黒レベル推定回路と第2の黒レベル推定回路の対象画素のFDリーク傷のレベルを独立に設定しつつ、FDリーク状態の相違を鑑みた目標黒レベルそのものの乖離(オフセット段差)の補正を目的とした回路構成を例示した。
A信号ライン806と、B信号ライン807と、通常ライン800の黒レベルは理想的には同一であり、OB領域803の入力に対する黒レベル推定は1つの検出系(例えば、信号sig_1003を得る系)で実施可能である。しかしながら、止むを得ない状況で図12に示すような回路構成になった場合、クランプ処理回路1048は、図13に示すような1フレーム分の信号を受信する状態となる。ここで、止むを得ない状況とは、例えば、従来の記録系の画素処理パス(図12中、クランプ処理回路1048、シェーディング補正部1042、傷補正部1043)のみを有する撮像装置に、新規にAF用の信号処理パスを追加する場合等を指す。なお、図12は、本変形例における撮像装置2の概略構成を示すブロック図であり、図1と同様の構成には同じ参照番号を付し、説明を省略する。レベル整合部1047は、焦点検出用信号としてA信号とB信号それぞれの黒レベルを整合するための回路部であり、A信号、B信号それぞれが共通の黒レベルに揃うようにA信号、B信号それぞれのクランプ処理を実施する。なお、OBクランプ回路としては一般的なもので良いので、ここでは詳細説明を省略する。
図13中、ライン808は、A信号ライン806とB信号ライン807の加算結果としてのA+B信号を示す加算ラインであり、上述した通り、暗電流成分は通常ライン800のA+B信号に比べて2倍悪化している。なお、センサーアレイのカラーフィルタをベイヤーフィルタと想定して、R(赤)/Gr(緑)のラインとGb(緑)/B(青)のラインとをベイヤー加算して、A信号及びB信号から輝度値を生成できるように、加算ライン808は2ライン連続している。
図12に示すクランプ処理回路1048による、図13に示す信号に対する黒レベル推定は、上述した図7に示す通常ライン800及び第1視差ライン801と、第2視差ライン802とで、それぞれ独立して検出したのと同様に行うことができる。すなわち、第3の駆動方法においては、図13中、通常ライン800と、加算ライン808とで、それぞれ独立して検出すればよく、クランプ処理回路1048として、図9に示すクランプ処理回路1041の回路構成を用いることができる。そして、暗電流成分の悪化に伴い増加した成分をキャンセルするように、通常ライン800と加算ライン808とで、異なる閾値をそれぞれ設定すればよい。例えば、第1の黒レベル推定回路で用いる通常ライン800用の閾値として第1の傷判定閾値900を、第2の黒レベル推定回路で用いる加算ライン808用の閾値として第1の傷判定閾値901を利用することができる。そして、クランプ処理回路1048は、第1の黒レベル推定回路は通常ライン800の画素データを、また第2の黒レベル推定回路は、加算ライン808の画素データを検出対象とすることになる。
上記の通り第1の実施形態の変形例によれば、撮像素子から、一対の焦点検出用信号をそれぞれ独立に読み出した場合にも、第1の実施形態と同様の効果を得ることができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。上述した第1の実施形態では、FDリーク状態が異なるライン毎に、それぞれ傷の検出を行うための閾値をそれぞれ独立に設定して傷のある信号を除外して黒レベル推定を行い、FDリーク傷の影響を回避するクランプ処理制御を行った。これに対し、本第2の実施形態では、フレーム全体の黒レベル推定値を安定させるために、第1の黒レベル推定回路の出力(信号sig_1003)と、第2の黒レベル推定回路の出力(信号sig_1004)の行方向の平均値を算出して、補正値とする場合について説明する。また、第2の実施形態では、図12中、クランプ処理回路1048による横縞の発生を抑圧するように、黒レベル推定値の垂直方向の平均値と、第2の黒レベル推定回路の出力値とを比較する。そして、これらの値に乖離がある場合には、第2の黒レベル推定回路の出力値の傷検出閾値(レジスタ1004の出力値)を更新する。
次に、本発明の第2の実施形態について説明する。上述した第1の実施形態では、FDリーク状態が異なるライン毎に、それぞれ傷の検出を行うための閾値をそれぞれ独立に設定して傷のある信号を除外して黒レベル推定を行い、FDリーク傷の影響を回避するクランプ処理制御を行った。これに対し、本第2の実施形態では、フレーム全体の黒レベル推定値を安定させるために、第1の黒レベル推定回路の出力(信号sig_1003)と、第2の黒レベル推定回路の出力(信号sig_1004)の行方向の平均値を算出して、補正値とする場合について説明する。また、第2の実施形態では、図12中、クランプ処理回路1048による横縞の発生を抑圧するように、黒レベル推定値の垂直方向の平均値と、第2の黒レベル推定回路の出力値とを比較する。そして、これらの値に乖離がある場合には、第2の黒レベル推定回路の出力値の傷検出閾値(レジスタ1004の出力値)を更新する。
なお、本第2の実施形態における撮像装置1及び撮像素子103からの信号読み出し方法は、図1〜図7を参照して説明した第1の実施形態と同様であるため、説明を省略する。本第2の実施形態は、第1の実施形態と比較して、クランプ処理回路の構成が異なる。従って、以下、図15にクランプ処理回路1048の構成例を例示し、その動作について、詳しく説明する。
図14は、図8(b)と同様に、第2視差ライン802のOB領域803の信号のFDリーク傷の状態を示す図である。なお、図14において、第1の傷判定閾値900及び第2の傷判定閾値901は図8に示すものと同様であり、成長したFDリーク傷の値がクランプのための黒レベル推定値を押し上げ、補正後の画像に横縞となって画質低下の影響を及ぼす仕組みも同様である。振幅902は、フレーム本来の目標黒レベル推定値と、FDリーク傷によって押し上げられた第2の黒レベル推定回路の結果値との乖離を許容する第3の閾値である。
図15は、第2の実施形態におけるクランプ処理回路1048の等価回路図である。なお、図の煩雑化を避けるため、図9と同様に、図15においても各記憶素子に対する基準クロックやリセット信号の図示を省略する。図15に示す第2の実施形態のクランプ処理回路1048は、図9に示す第1の実施形態のクランプ処理回路1041に比べて、レジスタ1401、1402、1418と、FF1018の一段前の論理回路構成が追加されている。また、FF1012と1018の一段後の論理回路構成と、FF1019の一段前の論理構成との間に、セレクタ1417を含む垂直方向のライン平均を取得する回路構成が追加されている(後述の説明参照)。第1の黒レベル推定回路は、図9と同様であるため説明を省略する。一方、第2の黒レベル推定回路には、FF1018の初期化制御に係るレジスタ1418が構成要素として追加され、これにより、レジスタ1418の設定値を1値から0値の順に設定することで、FF1018は、FF1019の保持値で初期化される。また、レジスタ1004には、図14に示す第2の傷判定閾値901が設定される。
更に、上述した第1の実施形態では、クランプ処理回路1041の補正値として、IIRローパスフィルタの出力を各ラインの水平検出期間完了毎に直接更新した値を適用した。これに対し、本第2の実施形態では、ライン毎に適用するものではなく、第1の黒レベル推定回路及び第2の黒レベル推定回路の出力値の垂直8ライン分の履歴(移動平均)を適用する。これにより、更に補正値の安定(S/N比向上)を図る。これは、IIRフィルタ構成の直前の入力にノイズがあると出力結果がそれに引っ張られた値となり、補正時に横縞を発生させ画質低下を招くための対策である。
図15において、第1の黒レベル推定結果は信号sig_1003(FF1012出力)であり、第2の黒レベル推定結果は信号sig_1004(FF1018出力)である。SSG1001から出力される第2の視差ライン802かどうかを示すステータス信号sig_1008の状態により、信号sig_1401には、信号sig_1003またはsig_1004の何れかが現れる。なお、信号sig_1008は、第2の視差ライン802のときに1値、それ以外で0値となる。
信号sig_1401は、論理素子1422の出力であるイベント信号sig_1408によってFF1404に保持される。FF1404〜1411はシフトレジスタ構成を採り、過去8ライン分の黒レベル推定結果の移動平均をとる構成としている。論理素子1422には、シフトレジスタ構成の更新タイミング(信号sig_1009)が与えられ、処理ラインが第2の視差ライン802(信号sig_1008が1値)であり、後述する比較器1415の出力(信号sig_1406)が1値の場合に、更新をマスクする。
FF1404〜1411はそれぞれ信号sig_1408によるシフト転送後、信号sig_1404の1値出力期間中にそれぞれの値を積算する。加算器1412及びFF1413はそのための素子である。信号sig_1404は(CLK同期した)8サイクル分の幅の期間で1値を出力する。それに同期して、信号sig_1403は0〜7の3bit値を順に切り替える。セレクタ1417は、FF1404〜1411それぞれの出力から1つを選択するように構成している。添字0〜7は、信号sig_1403による選択状態を示し、合致したFF出力を加算器1412へと出力する。信号sig_1402は、FF1404〜1411のリセット信号であり、状態を初期化する。なお、図15では該シフトレジスタ構成のFFは全て0値で初期化されるが、実際には、FF1413から出力される8ライン分の積算値を3bit右シフト(8で除したのと等価)した値(信号sig_1409)が、そのラインの黒レベル推定結果値となる。従って、FF1404〜1411に任意の初期値を設定可能となる構成(不図示)として、入力フレームデータ上端のライン平均値が得られない領域の対策としても良い。
論理素子1422は、信号sig_1009とsig_1406の論理積の結果を出力する。信号sig_1406については後述するが、この条件が揃わない検出ラインにおいては、推定黒レベルの8ライン移動平均値は更新されない。
加算器(演算器)1414は、通常ライン800、第1視差ライン801、第2視差ライン802の全てのラインについて、ライン毎の黒レベル推定結果値の垂直走査方向の移動平均値(第2の実施形態では8ライン平均値。信号sig_1409)と、第2の黒レベル推定回路の推定結果(信号sig_1004)との差を求める。加算器1414の出力は符号付き(signed)とする。負値対応は、IIRフィルタの過渡状態(センサー側アナログゲイン切替時等、IIRフィルタを初期化した際のフィルタ出力が安定しない状態)等の収束用である。1421は絶対値(2の補数)回路であり、汎用の構成で良い。比較器1415は、絶対値回路1421から出力される、加算器(減算器)1414の出力の絶対値と、レジスタ1402の設定値との大小比較をする。レジスタ1402へは、第2の傷判定閾値901を設定する。図14で前述したように、フレーム本来の目標黒レベルと、第2の黒レベル推定回路の結果値との乖離判定結果、乖離が認められた場合に比較器1415の出力値である信号sig_1406が1値となるよう定義する。推定黒レベルの8ライン移動平均値が更新されないラインは、直前の移動平均値と、第2の黒レベル推定回路の結果値とに乖離があったと判断された結果による。
FF1019は、信号sig_1405のイベントタイミングで注目ラインにおける黒レベル推定結果状態を保持する。該信号sig_1405は、移動平均値(本実施形態では8ライン平均値)計算直後にパルスイベントとして生成される。信号sig_1005は、クランプ処理回路1048における符号付き補正パラメータであり、FIFO1020の出力に対して、加算器(減算器)1021を用いたオフセット減算(加算)を行う。これにより、OB領域803を含めた全領域の信号に対して、黒レベル再現を行う。勿論、補正領域を設定して補正の範囲を絞ってもよい。
加算器(減算器)1021の出力信号sig_1002と、該出力信号sig_1002の画素有効ステータスである遅延回路1027の出力信号sig_1007と、が、クランプ処理回路1048の出力となる。出力信号(sig_1002, sig_1007)は実装時のクリティカルパスの生成回避のために、クランプ処理回路1048からの出力直前に、同相転送用のFFを挿入しても良い。
このように、本第2の実施形態では、ライン毎の補正値として、第1および第2の黒レベル推定回路の結果値の8ライン平均値が充てられる。しかしながら、第2の視差ライン802の信号読み出し時の第2の黒レベル推定回路の推定結果の状態(比較器1415の出力値が1値)によっては、画像への横縞低減の対策として第2の黒レベル推定回路の出力値がそのまま補正値に充てられる。
FF1416は、乖離判定結果信号sig_1406の状態を保持するレジスタである。乖離判定結果信号sig_1406の更新はAND素子1419の成立イベントで行う。AND素子1419にはFF1416の出力の反転論理が条件に入っているので、FF1416クリア状態から一旦セットされると、セット状態を保持する回路構成となっている。保持状態をクリアするには、レジスタ1401に1値をセットする。レジスタ1401には、1bitの値を保持できるよう定義する。FF1416のクリア後は、レジスタ1401はリセット(0値を設定)する。AND素子1419の成立条件は、信号sig_1008,sig_1405が1値時であり、FF1416が0値出力時である。信号sig_1405は補正値更新のイベントパルスなので、AND素子1419出力もクロック(不図示)1サイクル分のイベントパルスとなる。また、FF1420は第2の黒レベル推定回路出力値sig_1004と、黒レベルの8ライン移動平均値との差値を保持するものであり、更新タイミングはFF1416と同様である。
第2の実施形態では、FF1416の出力を割込み信号sig_1407としてCPU100へ送信する。このときの割込み要因は、第1及び第2の黒レベル推定回路それぞれの結果値の乖離が第3の閾値902を超えたことと定義している。CPU100は、割込みハンドラとして、図16に示すレベル割り込み処理を実行する。
CPU100は、割込み信号sig_1407を受けて、レジスタ1004に設定された第2の傷判定閾値901のレベル書替を実行する(S1601)。前述したように、本第2の実施形態では第2の視差ライン802の黒レベル推定値が、黒レベルの8ライン移動平均値よりも大きくなる方向に乖離をすることを想定した回路構成を示している。従って、フィルタの定常状態においては、レジスタ1004の設定値を現在値よりも大きく設定するよう指示することで、本来の黒レベル推定が行われるようにする。すなわち、通常ライン800、第1の視差ライン801と、第2の視差ライン802の推定黒レベルが、第3の閾値902内に収まるようにする。
また、第2の黒レベル推定回路の目標黒レベル設定変更に伴い、IIRフィルタの初期値も、FF1019の出力値(現在の補正値)に更新するように、レジスタ1418の更新動作(1値設定→0値設定)を実施する(S1602)。IIRフィルタの動作切替に伴い、時定数に対してサンプル画素を十分稼げていない場合、比較器1415による乖離判定に引っかかってしまう可能性がある。そのため、CPU100はタイマ(不図示)の設定によってフィルタの安定期間を稼ぐ(S1604、S1605)。フィルタの安定を十分図ったところで、CPU100はレジスタ1401の更新動作(1値設定→0値設定)によって、割込み要因(レジスタ1416)のクリアを実行する(S1606)。なお、図16の処理中、不図示であるが、FF1420の出力もCPU100に入力するので、閾値のレベルの決定に該値を参照しても良い。
なお、IIRフィルタ結果が安定するまでの間、信号sig_1407によるCPU100への割込みをマスクするものとしてS1604、S1605で説明した。しかしながら、本発明はこれに限るものではなく、FF1416を更新するイベントにおいて事前に決定した試行回数に基き、比較器1415の出力信号sig_1406が1値の状態が連続することで、FF1416の更新をするような回路構成としても良い。
図17は、図15に示す等価回路の代表信号のタイミングチャートである。図17において、信号sig_1701はフレーム先頭のタイミングを示す垂直同期信号、信号sig_1702はライン先頭のタイミングを示す水平同期信号である。これらの信号については図15では不図示であるが、図1のSSG101から送信されるタイミング信号として、図15のSSG1001が受信してフレームカウントを実施する。その他の各信号については、図15に示す信号と同じである。
図17中、sig_1402は図15中各FF1404〜1411のリセット信号であり、各FFの状態を初期化する。信号sig_1001は、クランプ処理回路1048への入力画素データであり、信号sig_1006は、入力画素データの有効(1値)、無効(0値)を示すステータス信号である。信号sig_1010は、黒レベル推定回路の検出領域(OB領域803)を示すステータス信号であり、該信号が1値で、信号sig_1006が1値のときに、所望のIIRフィルタが更新される。注目ラインにおいて第1および第2の黒レベル推定回路のどちらが所望かは、信号sig_1008の状態(0値で第1の黒レベル推定回路、1値で第2の黒レベル推定回路を選択)による。
信号sig_1003は、第1の黒レベル推定回路の更新結果(FF1012出力)、信号sig_1004は第2の黒レベル推定回路の更新結果(FF1018出力)である。注目ラインの属性によって(信号sig_1008で)選択された信号がsig_1401となって出力される。信号sig_1401は次段のFF1404に保持される。
信号sig_1009は、OB領域803の完了時に生成されるイベントパルスであり、FF1404〜1411で構成されるシフトレジスタ構成を更新するタイミングを与える。ただし、前述のように更新をマスクする機能(図15中、ゲート回路1422)を介するので、実際の更新イベントは、信号sig1408である。
信号sig_1403は、SSG1001から出力されるセレクタ1417の選択信号であり、0〜7の値を取り、シフトレジスタ(FF1404〜1411)の出力から1つを選択して加算器1412に送出する制御を行う。信号sig_1404は、信号sig_1403が0〜7まで1サイクル毎に更新する間、1値を取るステータス信号である。信号sig_1404が1値の間の8サイクルで、FF1404〜1411の値はFF1413に積算される。信号sig_1405は、補正値FF1019の更新タイミングのイベントパルスであり、FF1413の積算直後に生成する。該イベントタイミングで、条件が揃えば、FF1416、FF1420の値の更新も行われる。
信号sig_1406は、比較器1415の判定結果ステータスであり、信号sig_1405でレジスタ更新をするタイミングで有効となる。なお、その他の時刻では、don’t care扱いで良い。前述のように信号sig_1406が判定結果1値の場合にはFF1019にはFF1018値が更新・保持され、0値ではFF1413を8で除した値(図15の信号sig_1409)が保持される。信号sig_1407は、FF1416の出力値であり、本第2の実施形態では割込み信号としてCPU100に送信している。図17では、2回目の第2の視差ライン処理時に信号値を1値として例示している。その結果、図16の処理ルーチンが行われる。
前述しているが、信号sig_1002は信号sig_1005によって補正された(補正結果)出力画素値であり、補正対象画素は、信号sig_1001を補正値検出期間の遅延に合せてFIFO1020で遅延させた画素信号である。また、信号sig_1007は該出力画素信号の有効(1値)、無効(0値)を示すステータス信号であり、信号sig_1006を遅延回路1027の遅延時間、遅延させた結果出力である。
信号sig_1003中、添字N,N+1,N+2,…,は、任意の時期の第1の黒レベル推定回路の出力結果(FF1012出力)を示し、信号sig_1004中、添字M,M+1,M+2,…,は第2の黒レベル推定回路の出力結果(FF1018出力)である。信号sig_1401の添字は、信号sig_1003及び信号sig_1004が信号sig_1008で選択された結果である。信号sig_1409の添字R,R+1,R+2,…,は、黒推定レベルの垂直8ライン平均値の更新結果を示す。信号sig_1406の1値の出力によって垂直8ライン平均値が更新されない状態(信号sig_1409にR+3状態が2回続く)を例示している。また、そのときに信号sig_1405のイベントタイミングで、信号sig_1407が1値となる例示をしている。信号sig_1005には、信号sig_1406の状態によって、信号sig_1409か信号sig_1004が出力される。図17では、信号sig_1005に、信号sig_1409の状態{R+3}の出力後に信号sig_1004の状態{M+2}が現れる様子を示している。
第1の傷判定閾値900及び第2の傷判定閾値901は、事前にセンサー駆動制御(蓄積時間や読み出し時間等)や温度特性に応じた幾つかの代表値が不図示のテーブルで保持される。レジスタ1004の更新値は、例えばFF1420の結果値からファームウエアで適宜テーブルから値を選択する。また、第3の閾値902はセンサーのプロセスの素性によるので、これも事前にFDリーク傷状態を測定して決定する。
本第2の実施形態では、第1及び第2の黒レベル推定回路との黒レベル推定結果に大きな乖離がない場合を想定して、両方の推定回路の結果値を一つにしてライン毎の垂直方向の平均(本第2の実施形態では8ライン平均)をとる。これにより、FDリーク傷の影響によって第2の傷判定閾値901を超える乖離が出た場合に、第2の傷判定閾値901を更新することで黒レベル推定結果を安定化させ、補正後の画像に該FDリーク傷による横縞が発生しないようにすることができる。
なお、第2の実施形態の様に、センサー素性により、第1及び第2の黒レベル推定回路の結果値にオフセット段差が十分生じ、それをキャンセルする様な回路構成にするのであれば、例えば、次のような回路構成とすれば良い。すなわち、図15に示す回路構成の第1及び第2の黒レベル推定回路の抽出結果値それぞれの差を求め、その差値をCPU100にフィードバックする回路構成(第1及び第2の黒レベル推定回路を一緒に垂直方向に平均する機構を持たない構成)とすれば良い。
上記第1及び第2の実施形態では、図9にクランプ処理回路1041、図15にクランプ処理回路1048の回路構成を提示し、夫々の動作説明をした。しかしながら、具体的な回路構成はこれに限るものではなく、同様の目的の信号処理の実行のためにはどのような回路構成で実現しても構わない。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。図18は、第3の実施形態における撮像装置3の概略構成を示すブロック図である。撮像素子300は、被写体像を光電変換により電気信号に変換して、画像信号として出力する。撮像素子駆動部310は、撮像素子300を駆動するための駆動情報を出力する。入力選択部320は、撮像素子300から出力される画像信号を、後述する第1の推定部330と第2の推定部340に振り分ける。第1の推定部330は撮像素子300から出力される画像信号から黒レベルを推定する。第2の推定部340も同様に黒レベルを推定する。出力選択部350は、第1の推定部330と第2の推定部340で得られた推定結果を、後述する補正値生成部360に出力する。
次に、本発明の第3の実施形態について説明する。図18は、第3の実施形態における撮像装置3の概略構成を示すブロック図である。撮像素子300は、被写体像を光電変換により電気信号に変換して、画像信号として出力する。撮像素子駆動部310は、撮像素子300を駆動するための駆動情報を出力する。入力選択部320は、撮像素子300から出力される画像信号を、後述する第1の推定部330と第2の推定部340に振り分ける。第1の推定部330は撮像素子300から出力される画像信号から黒レベルを推定する。第2の推定部340も同様に黒レベルを推定する。出力選択部350は、第1の推定部330と第2の推定部340で得られた推定結果を、後述する補正値生成部360に出力する。
補正値生成部360は、第1の推定部330または第2の推定部340から出力された推定結果を元に補正値を生成する。補正部370は、撮像素子300から得られた画像信号に対して補正値生成部360から出力された補正値を用いて補正する。判別信号生成部380は、撮像素子300から画像信号と共に送られてくる付帯信号を元に、入力選択部320及び出力選択部350を切り替えるための判別信号を生成する。制御部390は、撮像装置3全体の制御を司る。
ここで、図19及び図20を用いて、撮像素子300の構成及び撮像素子300からの画像信号の読み出し方法について説明する。
図19は、撮像素子300を構成する複数の画素のうち、2つの画素の構成を模式的に示したものであり、入射光を電荷に変換するフォト・ダイオードに代表される複数の光電変換部から成っている。画素303は、2つの光電変換部301,302に共通で1つのマイクロレンズ304を備える構造を有し、画素307は、同様に、2つの光電変換部305,306に共通で1つのマイクロレンズ308を備える構造を有している。この構造によって、ペアとなっている各々の光電変換部から個別に信号を取り出すことで射出瞳の異なる画像信号を取得することができる。また、ペアとなっている各々の光電変換部から同時に信号を取り出すことで、撮像装置3で表示したり記録するための画像信号を取得することが可能となる。なお、撮像素子300を構成する他の画素も、図3に示す構成を有し、撮像素子300の水平方向及び垂直方向に繰り返し配置されている。
図20は、画素303及び画素307を含む撮像素子300の回路構成の一部を示している。なお、図3と同じ構成には同じ参照番号を付している。フローティングディフュージョン部(FD)405は、光電変換部301,302,305,306で発生した電荷を一時的に蓄積しておく蓄積領域である。第1の転送スイッチ401は、転送パルスpTX1によって制御され、光電変換部301で発生した電荷をFD405に転送する。第2の転送スイッチ402は、転送パルスpTX2によって制御され、光電変換部302で発生した電荷をFD405に転送する。第3の転送スイッチ403は、転送パルスpTX3によって制御され、光電変換部305で発生した電荷をFD405に転送する。第4の転送スイッチ404は、転送パルスpTX4によって制御され、光電変換部306で発生した電荷をFD405に転送する。
リセットスイッチ406は、リセットパルスpRESによって制御され、FD405に蓄積された電荷を除去する。また、リセットスイッチ406と第1〜第4の転送スイッチ401〜404とを同時にオンすることで、光電変換部301,302,305,306の電荷を除去することができる。増幅MOSアンプ407は、ソースフォロアアンプとして機能する。第1〜第4の転送スイッチ401〜404、リセットスイッチ406、選択スイッチ410のゲート電極は、行単位でそれぞれpTX1、pTX2、pTX3、pTX4、pRES、pSELを供給する信号線にそれぞれに接続される。そして、撮像素子300に備えられた不図示の垂直走査回路によって選択走査される。また、リセットスイッチ406と増幅MOSアンプ407は、電源ライン408に接続されている。
撮像素子300からの画像信号の読み出しは、撮像素子300において水平方向に並んでいる複数の画素303及び画素307から、順にライン単位で行い、読み出された電気信号は垂直出力線409を経て撮像素子300から順次出力される。なお、撮像素子300について、得られた電気信号をアナログデジタル変換してデジタル信号として出力するような構成としても良い。その場合、垂直出力線409ごとにアナログデジタル変換部を設け、画像信号をデジタル信号として出力することができる。
また、撮像素子300は、画素303を複数の光電変換部301,302で構成していることにより、第1の転送スイッチ401のみをオンすることで光電変換部301の信号のみを出力することができる。また、第2の転送スイッチ402のみをオンすることで光電変換部302の信号のみを出力することができる。また、同様に、画素307を複数の光電変換部305,306で構成していることにより、第3の転送スイッチ403のみをオンすることで光電変換部305の信号のみを出力することができる。また、第4の転送スイッチ404のみをオンすることで光電変換部306の信号のみを出力することができる。さらに、第1の転送スイッチ401と第2の転送スイッチ402を同時にオンすることで、光電変換部301と光電変換部302の信号をFD405上で加算して出力することができる。また、第3の転送スイッチ403と第4の転送スイッチ404を同時にオンすることで、光電変換部305と光電変換部306の信号をFD405上で加算して出力することができる。
さらに、第1の転送スイッチ401と第3の転送スイッチ403を同時にオンすることで、光電変換部301と光電変換部305の信号をFD405上で加算して出力することができる。同様に、第2の転送スイッチ402と第4の転送スイッチ404を同時にオンすることで、光電変換部302と光電変換部306の信号をFD405上で加算して出力することができる。また、第1の転送スイッチ401から第4の転送スイッチ404の4つの転送スイッチを同時にオンすることで、光電変換部301,302,305,306の2画素分(画素303と画素307)の信号をFD405上で加算して出力することができる。
次に、第3の実施形態における処理について説明する。ここでは、上記構成を有する画素303から、ペアとなっている各々の光電変換部から同時に信号を取り出す行と、ペアとなっている各々の光電変換部から個別に信号を取り出す行とが混在している場合について説明する。図21は、撮像素子300に配置された複数の画素を模式的に表したものであり、説明を簡単にするため、水平方向に8列、垂直方向に6行の画素を示している。第3の実施形態では、点線501で示す行(Line2およびLine3)から、ペアとなっている各々の光電変換部から個別に信号を取り出すものとする。そして、それ以外の行(Line0,Line1,Line4,Line5)から、ペアとなっている各々の光電変換部から同時に信号を取り出すものとする。
図21に示す読み出しでは、図20に示す構成を有する撮像素子300では、電荷蓄積時間の経過後にFD405をリセットして信号を読み出す場合と、当該信号読み出し後にFD405をリセットして、別の光電変換部から信号を読み出す場合とがある。前者では、前回FD405をリセットしてからの時間が長いために、後者の場合と比較して、同じFD405のリセット後であっても、リセットレベルが異なる。そこで、第3の実施形態では、このようにリセットレベルが異なる場合に、第1の推定部330と第2の推定部340を使い分けて、黒レベルをそれぞれ推定する。
図22は、第3の実施形態における処理を示すフローチャートである。まず、S301において、撮像素子300を駆動する。制御部390は、撮像素子300から画像信号を出力するため、撮像素子駆動部310に制御情報を出力する。撮像素子駆動部310は、撮像素子300に対して、光電変換部に結像された像を電気信号として読み出すよう駆動情報を送信する。
S302において、撮像素子300は、付帯信号と画像信号を出力する。撮像素子駆動部310は、行単位で撮像素子300の駆動方法を決定し、撮像素子300を駆動させ、行単位で画像信号を出力させている。そこで、撮像素子300は、ラインアドレスと、どのような駆動で読み出されているかを示す駆動情報を、付帯信号として画像信号とともに出力する。
図23は、撮像素子300から出力された付帯信号と画像信号の一例を示す模式図である。601はラインアドレス(LA)、602は当該ラインにおける駆動情報(MD)、603は1ライン分(j行目)の画像信号を1画素ずつ(P0j~P7j)それぞれ示しており、それぞれ所定のbit幅で撮像素子300から出力される。所定のbit幅は一般的には画像信号の用途に応じて一意に決定されるため、ラインアドレス601や駆動情報602についても、同じbit幅の情報量で表現可能な範囲で使用する。このように、S302では、画像信号以外に付帯情報として、各ラインの先頭画素の画素信号より前に、ラインアドレス601や駆動情報602を、画像信号のフォーマットに合わせて出力することで、撮像素子300は付帯信号と画像信号を出力する。
S303では、判別信号生成部380において、付帯信号に基づいて判別信号を生成する。図24は、図23で示した画像信号と付帯信号が撮像素子300から出力される様子を示している。701は、図23で示したラインアドレス601の値であり、各ラインの先頭においてラインアドレスの値が格納されている。702は、駆動情報602の値であり、画素303または307のペアとなる光電変換部から信号を同時に読み出す駆動のときに0が格納される。また、画素303または307のペアとなる光電変換部から信号を個別に読み出す駆動において、光電変換部301または305から信号を読み出す駆動のときに1が格納される。さらに、画素303または307のペアとなる光電変換部から信号を個別に読み出す駆動において、光電変換部302または306から読み出す駆動の時に2が格納される。これらの駆動情報値702は、それぞれ各ラインのラインアドレス値701の次に格納されている。703は各ラインの画像信号を示しており、所定画素数で出力される。
判別信号生成部380は、付帯信号であるラインアドレス値701と駆動情報値702を元に、ラインアドレス値701が偶数かつ駆動情報値702が0か1の時に0、それ以外の時に1となるように、判別信号を生成する。このようにすることで、電荷蓄積時間の後に初めて2行の画素303,307で共有されるFD405をリセットする場合には0、信号読み出し後に再び信号読み出しのためにFD405をリセットする場合には1が生成されることになる。なお、ここでは、2行の画素303,307により1つのFD405を共有する例を示すが、3行以上の複数行の画素により1つのFD405を共有するようにしても良い。その場合、例えば、共有する行数によりラインアドレス値701を除した余り値と、駆動情報値702とに応じて判別信号を生成すれば良い。
S304では、入力選択部320は、判別信号生成部380で生成された判別信号に基づいて第1の推定部330と第2の推定部340の入力を切り替える。図24に示す例の場合、判別信号が0の時は第1の推定部330を選択し、判別信号が1の時は第2の推定部340を選択する。なお、判別信号と、第1の推定部330及び第2の推定部340の組み合わせは、逆であっても良い。
S305において、S304で選択された第1の推定部330または第2の推定部340により、入力選択部320を介して入力した画像信号を用いて、黒レベルを推定する。画像信号の黒レベルは、光電変換部301及び302からの電荷の読み出しの前に行われるFD405のリセット動作によって決まるが、FD405のリセット動作に差が生じると、FDリーク状態が変動し、画像信号の黒レベルも変動することが知られている。上述したように、読み出し行の選択がされてから最初に読み出された信号と、続けて同一のFD405を使用して読み出された信号とではFD405のFDリーク状態が変化してしまい、読み出した駆動やラインごとに黒レベルが変動してしまう。従って、異なるFDリーク状態毎に、第1の推定部330及び第2の推定部340で、式(1)に示すフィルタ演算により、それぞれ黒レベルを推定する。
det = (input(x, y) - OFST) × K + buf × (1 - K) …(1)
det = (input(x, y) - OFST) × K + buf × (1 - K) …(1)
なお、式(1)において、input(x,y)は入力される画像信号、OFSTは目標としている黒レベル、Kはフィルタ係数、bufは1画素前の推定結果であり、フィルタ係数Kで決定される時定数で目標黒レベルOFSTとの差分detを画素単位で順次算出していく。一般的に、各ラインの黒レベルの調整は各ラインの左端または右端に設けられたオプティカルブラック(OB)領域(撮像素子300に構成された光電変換部の上部に金属などの遮光層を設けた領域)から出力される画像信号の信号レベルを元に調整する。また、式(1)に示したフィルタ演算以外にも、所定数の画素値の積算から平均値を算出して目標とする黒レベルからの差分を算出する方法も一般的に知られている。
S306において、出力選択部350は、判別信号生成部380で生成された判別信号に応じて、第1の推定部330及び第2の推定部340のうち、入力選択部320により選択された推定部を選択して出力する。
S306において、出力選択部350は、判別信号生成部380で生成された判別信号に応じて、第1の推定部330及び第2の推定部340のうち、入力選択部320により選択された推定部を選択して出力する。
次に、S307において、補正値生成部360は、出力選択部350で選択された推定結果を元に補正値を生成する。本第3の実施形態の場合、第1の推定部330または第2の推定部340で生成された推定結果は目標としている黒レベルとの差分値なので、そのまま補正値として適用できる。第1の推定部330及び第2の推定部340の演算処理により得られた推定結果をそのままを補正値にすることができない場合は、補正部370で補正する前に補正値生成部360で推定結果を基に補正値を生成する。
S308において、補正部370は、補正値生成部360から出力される補正値を用いて、撮像素子300から出力される画像信号に対して黒レベルを調整するように補正する。S309では、1ライン分の画像信号の処理が終了したらS310へ、終了していなければS305に戻って次の画素の処理を続ける。
S310において、次のラインが存在する場合はS302に戻って次のラインの画像信号の処理を続け、全ライン分の画像信号の処理が終了していれば、上記処理を終了する。
撮像素子300の回路構成や用途に応じた画像信号の読み出し駆動が複雑になると、ラインごとに黒レベルが変動してしまう要因が増加してしまう問題があり、精度よく推定処理や補正処理を行うための制御が煩雑になってしまう。これに対し、本第3の実施形態によれば、撮像素子300の回路構成に関する情報や、撮像素子300から画像信号を読み出す駆動に関する情報を、撮像素子300から画像信号とともに付帯信号として出力する。そして、付帯信号に基づいて、黒レベルを推定する処理を切り替えることで、信号処理側の制御を簡潔にするとともに、精度よく、推定処理や補正処理を行うことが可能となる。
<第4の実施形態>
以下、本発明の第4の実施形態について説明する。図25は、第4の実施形態における撮像装置4の構成を示すブロック図である。なお、図18と同様の構成には同じ参照番号を付して、説明を省略する。タイミング生成部420は、制御部390から送られてくる制御信号と撮像素子300から送られてくる付帯信号とに基づいて、カウンタ値等のタイミング信号を生成する。また、第3の推定部430及び第4の推定部440と、第1の推定部330〜第4の推定部440のいずれかを選択する入力選択部450と出力選択部460とを有する。
以下、本発明の第4の実施形態について説明する。図25は、第4の実施形態における撮像装置4の構成を示すブロック図である。なお、図18と同様の構成には同じ参照番号を付して、説明を省略する。タイミング生成部420は、制御部390から送られてくる制御信号と撮像素子300から送られてくる付帯信号とに基づいて、カウンタ値等のタイミング信号を生成する。また、第3の推定部430及び第4の推定部440と、第1の推定部330〜第4の推定部440のいずれかを選択する入力選択部450と出力選択部460とを有する。
次に、第4の実施形態における撮像素子300の構成及び撮像素子300からの画像信号の読み出し方法について説明する。図26は、撮像素子300の概略構成を示すブロック図である。垂直走査部2601は、撮像素子駆動部310からの駆動情報に基づいて、行単位で読み出す画素を決定し、後述する画素アレイ2602に対して画像信号を読み出すための制御信号を出力する。画素アレイ2602は、垂直走査部2601からの制御信号に基づいて、後述する画像信号を読み出す。なお、画素アレイ2602は、図19及び図20に示す構成を有する複数の画素を含み、必要に応じて多数の画素が配置されている。
また、列AD変換部2603及び2604は、画素アレイ2602から列方向に読み出された信号をデジタル信号に変換する。水平走査部2607及び2608は、列AD変換部2603及び2604から出力されたデジタル化された画像信号を一時的に記憶するためのラインメモリ2605及び2606に記憶された画像信号を順次読み出す。画素アレイ2602から行単位で読みだされた画像信号は、出力部2609及び2610で所定のフォーマットに変換された後、撮像素子300から出力される。また、列AD変換部2603及び2604や、ラインメモリ2605及び2606の回路を撮像素子300内に効率的に配置するため、画素アレイ2602の回路の垂直出力線を交互に撮像素子300の上下方向に接続している。
次に、図27を参照して、上記構成を有する撮像装置4の第4の実施形態における処理について説明する。まず、S401において、制御部390は、撮像素子300から画像信号を出力するため、撮像素子駆動部310に制御情報を出力する。撮像素子駆動部310は、撮像素子300に対して撮像素子300上の光電変換部に結像された像を電気信号として読み出すよう駆動情報を送信する。
S402において、撮像素子300は、付帯信号と画像信号を出力する。図21を参照して説明したように、撮像素子駆動部310はライン単位で撮像素子300の駆動方法を決定し、撮像素子300を駆動させ、ライン単位に画像信号を出力する。撮像素子300は、各ライン単位で画素がそれぞれどのような駆動で読み出されているかを表す情報を、付帯信号として画像信号とともに出力する。
図28は、第4の実施形態における撮像素子300から出力された付帯信号と画像信号の一例を示す模式図である。2801は当該ラインにおける駆動情報(MD)、2802は1ライン分(j行目)の画像信号を1画素ずつ(P0j〜P7j)それぞれ示しており、それぞれ所定のbit幅で撮像素子300から出力される。所定のbit幅は一般的には画像信号の用途に応じて一意に決定されるため、駆動情報2801についても、同じbit幅の情報量で表現可能な範囲で使用する。このように、画像信号以外に付帯情報として各ラインの先頭画素の画素信号より前に、駆動情報2801を画像信号のフォーマットに合わせて出力することで、撮像素子300は付帯信号と画像信号を出力する。
S403では、タイミング生成部420において、制御部390からの制御情報に基づいてカウンタ値を生成する。本第4の実施形態における撮像素子300は、水平方向に隣接する画素の信号が交互に異なる方向(上下方向)に読み出される構成になっている。そのため、例えば、図26で示したように撮像素子300上の離れた位置にある列AD変換部2603や列AD変換部2604で信号処理される。これら離れた位置にある列AD変換部2603,2604の互いの電気的な特性の差によって、オフセット成分に差異が生じることが知られている。すなわち、本第4実施形態における撮像素子300から得られた画像信号は、水平方向に1画素ごとに、オフセットに差異が生じる可能性があり、撮像装置として表示や記録に不都合が生じてしまう。そのため、タイミング生成部420では、水平方向に1画素ごとに推定処理が切り替えられるようにするために、偶数列の画素では0、奇数列の画素では1、となるようにカウンタ値を判別信号生成部480に出力する。
S404において、判別信号生成部480において、付帯信号とタイミング生成部420で生成されたカウンタ値を元に、判別信号を生成する。図29は、図21で示した画像信号のうち、Line2について、付帯信号と画像信号が撮像素子300から出力される様子を示している。2901は、図28で示した駆動情報2801の値であり、画素303または307からペアとなる光電変換部を個別に読み出す駆動において、光電変換部301または305から読み出す駆動のときに1が格納される。また、画素303または307からペアとなる光電変換部を個別に読み出す駆動において、光電変換部302または306から読み出す駆動のときに2が格納される。これらの駆動情報値2901は、それぞれ各ラインの先頭に格納される。2902は各ラインの画像信号を示しており、所定画素数で出力される。
なお、不図示ではあるが、画素303または307のペアとなる光電変換部から信号を同時に読み出す駆動のときには0が格納される。
タイミング生成部420は、S403で説明したように、偶数列の画素では0、奇数列の画素では1、となるように生成されたカウンタ値を出力する。また、判別信号生成部480は、駆動情報2801が1で偶数列のときに0、奇数列のときに1、駆動情報2801が2で偶数列のときに2、奇数列のときに3、となるように判別信号を生成する。さらに、不図示ではあるが、判別信号生成部480は、駆動情報2801が0で偶数列のときに0、奇数列のときに1を出力する。なお、駆動情報2801と偶数列、奇数列の組み合わせに対する判別信号はこれに限られるものではなく、異なる組み合わせの時に、第1の推定部330〜第4の推定部440のうち、互いに異なる推定部が用いられるようであればよい。
S405において、入力選択部450は、判別信号生成部480で生成された判別信号に基づいて、第1の推定部330、第2の推定部340、第3の推定部430、第4の推定部440の入力を切り替える。第1の推定部330〜第4の推定部440は、判別信号に応じて入力選択部450が切り替わることにより、異なる推定部で画像信号を処理する。
S406において、S405で選択された第1の推定部330、第2の推定部340、第3の推定部430、第4の推定部440のうちいずれかにより、入力選択部450を介して入力した画像信号を用いて、黒レベルを推定する。なお、推定処理は図22のS305における処理と同じ処理なので、説明を省略する。
S407において、出力選択部460は、判別信号生成部480で生成された判別信号に応じて、第1の推定部330〜第4の推定部440のいずれかのうち、入力選択部450により選択された推定部を選択して出力する。
次に、S408において、補正値生成部360は、出力選択部460で選択された推定結果を元に補正値を生成する。生成処理は図22のS307で説明した処理と同じなので、ここでは説明を省略する。
S409において、補正部370は、補正値生成部360から出力される補正値を用いて、撮像素子300から出力される画像信号に対して黒レベルを調整するように補正する。S410では、1ライン分の画像信号の処理が終了したらS411へ、終了していなければS403に戻って次の画素の処理を続ける。
S411において、次のラインが存在する場合はS402に戻って次のラインの画像信号の処理を続け、全ライン分の画像信号の処理が終了していれば、上記処理を終了する。
上述したように、撮像素子300の回路構成や用途に応じた画像信号の読み出し駆動が複雑になると、ラインごとに黒レベルが変動してしまう要因が増加してしまう問題があり、精度よく推定処理や補正処理を行うための制御が煩雑になってしまう。一方で、画素ごとに判別する必要がある場合は、1画素ごとに判別するための付帯信号を伝送してしまうとその情報量だけで所定の伝送帯域を消費してしまう問題がある。これに対し、本第4の実施形態によれば、撮像素子300の回路構成に関する情報や、撮像素子300から画像信号を読み出す駆動に関する情報のうち、ライン単位で不変の情報の場合は撮像素子300から画像信号とともに付帯信号として出力する。そして、ライン内で変化する情報の場合は、信号処理側に備えられたタイミング生成部からのカウント値と、付帯信号に基づいて信号処理を切り替えることで、信号処理側の制御を簡潔にするとともに、精度よく、推定処理や補正処理を行うことが可能となる。
24A,24B:光電変換部、34:フローティングディフュージョン領域、101:同期信号発生部、103,300:撮像素子、104:信号処理回路、105:画像処理回路、112:タイミングジェネレータ、1041:クランプ処理回路、2603,2604、1042,1045:シェーディング補正部、301,302,305,306:光電変換部、310:撮像素子駆動部、320,450:入力選択部、330:第1の推定部、340:第2の推定部、350,460:出力選択部、360:補正値生成部、370:補正部、380,480:判別信号生成部、390:制御部、405:フローティングデフュージョン部、430:第3の推定部、440:第4の推定部、2603,2604:列AD変換部、2605,2606:ラインメモリ、2607,2608:水平走査部、2609,2610:出力部
Claims (21)
- 光電変換部で蓄積された電荷をフローティングディフュージョン(以下、FD)を介して信号を出力する、遮光された画素を含む複数の画素の配列からなる画素アレイと、前記画素アレイを異なる複数の駆動方法により駆動する駆動手段と、を有する撮像素子と、
前記遮光された画素から出力された信号から、黒レベルを推定する複数の推定手段と、
前記複数の推定手段のいずれかにより推定された黒レベルを用いて、前記撮像素子から出力された信号を補正する補正手段と、を有し、
前記駆動手段は、前記複数の駆動方法を切り替えてフレームの走査を行うことが可能であり、前記複数の駆動方法のうちの第1の駆動方法と第2の駆動方法とにおける前記FDの暗電流成分について、第1の駆動方法における第1のFDでのリークの影響(以下、第1のFDリーク)の状態と、第2の駆動方法における第2のFDでのリークの影響(以下、第2のFDリーク)の状態と、を、定義したときに、
前記複数の推定手段のうち、第1の推定手段は、前記第1のFDリークの状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて黒レベルを推定し、
前記複数の推定手段のうち、第2の推定手段は、前記第2のFDリークの状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて黒レベルを推定する
ことを特徴とする撮像装置。 - 前記駆動手段は、行単位で前記複数の駆動方法を切り替え、前記複数の推定手段は、行単位で黒レベルを推定し、
前記補正手段は、前記撮像素子から出力された信号を、同じ行の信号から推定された黒レベルを用いて補正することを特徴とする請求項1に記載の撮像装置。 - 光電変換部で蓄積された電荷をフローティングディフュージョン(以下、FD)を介して信号を出力する、遮光された画素を含む複数の画素からなる画素アレイと、前記画素アレイを異なる複数の駆動方法により駆動する駆動手段と、を有する撮像素子と、
前記遮光された画素から出力された信号から、黒レベルを推定する複数の推定手段と、
前記複数の推定手段により推定された黒レベルを加算する加算手段と、
前記加算手段の加算結果による第1の黒レベルと、前記複数の推定手段のうち、第2の推定手段により推定された第2の黒レベルとのいずれかを用いて、前記撮像素子から出力された信号を補正する補正手段と、を有し、
前記複数の推定手段は、前記駆動手段の駆動方法の違いにより相違するFDでのリークの影響(以下、FDリーク)の状態に対応して夫々設けられ、
前記複数の推定手段のうち、第1の推定手段は、第1のFDリークの状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて第1の黒レベルを推定し、
第2の推定手段は、第2のFDリークの状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて第2の黒レベルを推定する
ことを特徴とする撮像装置。 - 前記駆動手段は、行単位で前記複数の駆動方法を切り替え、前記複数の推定手段は、行単位で黒レベルを推定し、
前記補正手段は、前記第1の黒レベルと前記第2の黒レベルとの差が、予め決められた閾値より大きい場合に、当該第2の黒レベルの推定に用いた信号と同じ行の前記撮像素子から出力された信号を、前記第2の黒レベルを用いて補正し、それ以外の場合に前記第1の黒レベルを用いて補正することを特徴とする請求項3に記載の撮像装置。 - 前記第1の黒レベルと前記第2の黒レベルとの差が、予め決められた閾値より大きい場合に、前記加算手段は、前記第2の黒レベルを加算しないことを特徴とする請求項4に記載の撮像装置。
- 前記第1の黒レベルと前記第2の黒レベルとの差が、予め決められた閾値より大きい状態が予め決められた期間、続いている場合に、前記第2の閾値を変更することを特徴とする請求項4または5に記載の撮像装置。
- 前記第1の黒レベルと前記第2の黒レベルとの差が、予め決められた閾値より大きい状態が予め決められた回数、連続した場合に、前記第2の閾値を変更することを特徴とする請求項4または5に記載の撮像装置。
- 前記画素アレイを構成する画素それぞれは、マイクロレンズと複数の光電変換部とを有し、
前記複数の駆動方法は、
各マイクロレンズに対応する前記複数の光電変換部のうちの一部の光電変換部の電荷を前記FDに読み出して焦点検出用信号を出力した後、各マイクロレンズに対応する前記複数の光電変換部の電荷を前記FDに読み出して加算した画像信号を出力する第1の駆動方法と、
前記焦点検出用信号の読み出しを行わずに、各マイクロレンズに対応する前記複数の光電変換部の電荷を前記FDに読み出して加算した画像信号を出力する第2の駆動方法と、を含み、
前記第1の推定手段は、前記第1の駆動方法により前記遮光された画素から読み出した前記焦点検出用信号と、前記第2の駆動方法により前記遮光された画素から読み出した画像信号から、黒レベルを推定し、
前記第2の推定手段は、前記第1の駆動方法により前記遮光された画素から読み出した画像信号から、黒レベルを推定する
ことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。 - 前記画素アレイを構成する画素それぞれは、マイクロレンズと複数の光電変換部とを有し、
前記複数の駆動方法は、
各マイクロレンズに対応する前記複数の光電変換部の電荷を、視差を有する一対の焦点検出用信号としてそれぞれ順に読み出す第1の駆動方法と、
各マイクロレンズに対応する前記複数の光電変換部の電荷を、前記FDに読み出して加算した画像信号を出力する第2の駆動方法と、を含み、
前記第1の推定手段は、前記第2の駆動方法により前記遮光された画素から読み出した画像信号から黒レベルを推定し、
前記第2の推定手段は、前記第1の駆動方法により前記遮光された画素から読み出した前記一対の焦点検出用信号を加算した信号から黒レベルを推定する
ことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。 - 前記複数の推定手段は、それぞれIIRフィルタを用いて構成されていることを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
- 遮光された画素を含む複数の画素を有し、前記複数の画素は、それぞれマイクロレンズと複数の光電変換部とを有し、予め決められた数の複数の画素により共有されるフローティングディフュージョン(以下、FD)を介して読み出した信号と、予め決められた付帯情報とを出力する撮像素子と、
前記遮光された画素から出力された信号から、黒レベルを推定する複数の推定手段と、
前記付帯情報に基づいて前記複数の推定手段のいずれかを選択し、前記遮光された画素から出力された信号を前記選択した推定手段に入力する選択手段と、
前記選択手段により選択された前記推定手段により推定された黒レベルを用いて、前記撮像素子から出力された信号を補正する補正手段と、を有し、
前記付帯情報は、各行の前記信号に対して付され、前記FDにおける黒レベルの状態を示す情報であって、前記選択手段は、前記付帯情報が第1の黒レベルの状態を示す場合に、前記複数の推定手段のうち、第1の推定手段を選択し、第2の黒レベルの状態を示す場合に、前記第1の推定手段と異なる第2の選択手段を選択することを特徴とする撮像装置。 - 前記撮像素子は、複数の異なる駆動方法により駆動することが可能であって、
前記黒レベルの状態を示す情報は、前記駆動方法に関する情報と、前記撮像素子の回路構成に関する情報とを含むことを特徴とする請求項11に記載の撮像装置。 - 前記FDは、各列ごとに複数行の画素により共有され、
前記回路構成に関する情報は、前記複数行のいずれの行かを表す情報であることを特徴とする請求項12に記載の撮像装置。 - 前記撮像素子は、複数の信号読み出し部を有し、前記FDを介して読み出された信号は、前記複数の信号読み出し部のいずれかを介して出力され、
前記回路構成に関する情報は、前記複数の信号読み出し部のいずれかを介して読み出されたかを示す情報であることを特徴とする請求項12に記載の撮像装置。 - 前記撮像素子から出力される信号の列をカウントするカウンタをさらに有し、
前記撮像素子の複数の画素は、列ごとに、前記複数の信号読み出し部のいずれかを介して出力され、
前記複数の信号読み出し部のいずれかを介して読み出されたかを示す情報は、前記カウンタのカウント値であることを特徴とする請求項14に記載の撮像装置。 - 前記複数の推定手段は、前記信号を積算して平均することを特徴とする請求項11乃至15のいずれか1項に記載の撮像装置。
- 前記複数の推定手段は、前記信号をフィルタ演算することを特徴とする請求項11乃至15のいずれか1項に記載の撮像装置。
- 遮光された画素を含む複数の画素の配列からなる画素アレイと、前記画素アレイを異なる複数の駆動方法により駆動する駆動手段と、を備える撮像素子を持つ撮像装置の制御方法であり、
前記駆動手段が光電変換部で蓄積された電荷をフローティングディフュージョン(以下、FD)を介して読み出した信号を、異なる複数の駆動方法により走査、転送する駆動工程と、
複数の推定手段により、前記遮光された画素から出力された信号から、黒レベルを推定する推定工程と、
補正手段が、前記複数の推定手段のいずれかにより推定された黒レベルを用いて、前記撮像素子から出力された信号を補正する補正工程と、を有し、
駆動方法ごとに異なる前記FDにおける電荷のリーク(以下、FDリーク)の状態に夫々対応する様、前記複数の推定手段は前記複数の駆動方法に応じて夫々設けられ、
前記推定工程では、前記複数の推定手段のうち、第1の推定手段は、第1の駆動方法におけるFDリークの状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて黒レベルを推定し、第2の推定手段は、第2の駆動方法におけるFDリークの状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて黒レベルを推定する
ことを特徴とする撮像装置の制御方法。 - 遮光された画素を含む複数の画素の配列からなる画素アレイと、前記画素アレイの信号を転送する様に駆動する駆動手段と、を備える撮像素子を持つ撮像装置の制御方法であり、
前記駆動手段が、遮光された画素を含む画素アレイに対して、光電変換部で蓄積された電荷をフローティングディフュージョン(以下、FD)を介して読み出した信号を、異なる複数の駆動方法により走査、転送する様に駆動する駆動工程と、
複数の推定手段により、前記遮光された画素から出力された信号から、黒レベルを推定する推定工程と、
加算手段が、前記複数の推定手段により推定された黒レベルを加算する加算工程と、
補正手段が、前記加算工程の加算結果による第1の黒レベルと、前記複数の推定手段のうち、第2の推定手段により推定された第2の黒レベルとのいずれかを用いて、前記撮像素子から出力された信号を補正する補正工程と、を有し、
駆動方法ごとに異なる前記FDにおける電荷のリーク(以下、FDリーク)の状態に夫々対応する様、前記複数の推定手段は前記複数の駆動方法に応じて夫々設けられ、
前記推定工程では、前記複数の推定手段のうち、第1の推定手段は、第1の駆動方法におけるFDリークの状態を有する信号のうち、第1の閾値より大きい信号を除いた信号に基づいて第1の黒レベルを推定し、第2の推定手段は、第2の駆動方法におけるFDリークの状態を有する信号のうち、第2の閾値より大きい信号を除いた信号に基づいて第2の黒レベルを推定する
ことを特徴とする撮像装置の制御方法。 - 遮光された画素を含む複数の画素を有し、前記複数の画素は、それぞれマイクロレンズと複数の光電変換部とを有し、予め決められた数の複数の画素により共有されるフローティングディフュージョン(以下、FD)を介して読み出した信号と、予め決められた付帯情報とを出力する撮像素子から出力された前記付帯情報に基づいて、複数の推定手段のいずれかを選択し、前記遮光された画素から出力された信号を前記選択した推定手段に入力する選択工程と、
前記選択工程で選択された推定手段が、前記遮光された画素から出力された信号から、黒レベルを推定する推定工程と、
補正手段が、前記選択工程で選択された推定手段により推定された黒レベルを用いて、前記撮像素子から出力された信号を補正する補正工程と、を有し、
前記付帯情報は、各行の前記信号に対して付され、前記FDにおける黒レベルの状態を示す情報であって、前記選択工程では、前記付帯情報が第1の黒レベルの状態を示す場合に、前記複数の推定手段のうち、第1の推定手段を選択し、第2の黒レベルの状態を示す場合に、前記第1の推定手段と異なる第2の選択手段を選択することを特徴とする撮像装置の制御方法。 - 前記撮像素子は、複数の信号読み出し部を有し、前記FDを介して読み出された信号は、前記複数の信号読み出し部のいずれかを介して出力され、複数の異なる駆動方法により駆動することが可能であって、
前記黒レベルの状態を示す情報は、前記駆動方法に関する情報と、前記撮像素子の回路構成に関する情報とを含み、
前記回路構成に関する情報は、前記複数の信号読み出し部のいずれかを介して読み出されたかを示す情報であることを特徴とする請求項20に記載の撮像装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017201246A JP2019075718A (ja) | 2017-10-17 | 2017-10-17 | 撮像装置及びその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017201246A JP2019075718A (ja) | 2017-10-17 | 2017-10-17 | 撮像装置及びその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019075718A true JP2019075718A (ja) | 2019-05-16 |
Family
ID=66543388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017201246A Pending JP2019075718A (ja) | 2017-10-17 | 2017-10-17 | 撮像装置及びその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019075718A (ja) |
-
2017
- 2017-10-17 JP JP2017201246A patent/JP2019075718A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5852324B2 (ja) | 撮像装置及びその制御方法、プログラム | |
JP4798400B2 (ja) | 光学的黒画素と電圧固定画素とを用いて撮像装置の黒レベルを設定する方法および装置 | |
JP4230967B2 (ja) | 撮像装置、撮像装置の制御方法、cmosイメージセンサ | |
JP6525727B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP5149687B2 (ja) | 撮像センサ、撮像システム、及び撮像センサの制御方法 | |
KR20190029615A (ko) | 촬상 장치 및 촬상 장치의 제어 방법 | |
JP6037170B2 (ja) | 固体撮像装置およびその信号処理方法、並びに電子機器 | |
US10033951B2 (en) | Image sensor that performs different readout operations and image capturing apparatus including image sensor | |
JP6272085B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2017216632A (ja) | 撮像装置及びその制御方法 | |
JP6478600B2 (ja) | 撮像装置およびその制御方法 | |
JP6779038B2 (ja) | 撮像素子及びその制御方法、撮像装置及びその制御方法 | |
US10110797B2 (en) | Imaging device and imaging system | |
JP6929106B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2008306565A (ja) | 撮像装置及びその信号補正方法 | |
JP4420004B2 (ja) | 撮像装置 | |
JP6887840B2 (ja) | 信号処理回路、撮像装置及び信号処理方法 | |
JP4719442B2 (ja) | 画像信号処理回路、カメラ、及び画像信号処理方法 | |
US10009559B2 (en) | Imaging apparatus, method for controlling the same, and program | |
JP2019075718A (ja) | 撮像装置及びその制御方法 | |
JP7134786B2 (ja) | 撮像装置および制御方法 | |
JP2014107739A (ja) | 撮像装置及びその制御方法 | |
JP6896788B2 (ja) | 撮像装置、撮像方法、コンピュータプログラム及び記憶媒体 | |
JP5311943B2 (ja) | 撮像装置、制御方法、及びプログラム | |
JP2009290653A (ja) | 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム |