以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下においては、X−Yアドレス型の固体撮像装置の一例である、CMOS撮像素子をデバイスとして使用した場合を例に説明する。また、CMOS撮像素子は、全ての画素がNMOSあるいはPMOSよりなるものであるとして説明する。
ただしこれは一例であって、対象となるデバイスはMOS型の撮像デバイスに限らない。光や放射線などの外部から入力される電磁波に対して感応性をする単位構成要素をライン状もしくはマトリクス状に複数個配列してなる物理量分布検知用の半導体装置の全てに、後述する全ての実施形態が同様に適用できる。
<第1実施形態;固体撮像装置の構成>
図1は、本発明に係る半導体装置の第1実施形態であるCMOS固体撮像装置(CMOSイメージセンサ)の概略構成図である。なお、このCMOS固体撮像装置は、本発明に係る電子機器の一態様でもある。
固体撮像装置1は、入射光量に応じた電気信号を出力するフォトダイオードなどの光電変換素子(電荷生成部の一例)を含む複数個の画素が行および列に配列された(すなわち2次元マトリクス状の)画素部を有し、各画素からの信号出力が電圧信号であって、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部やデジタル変換部(ADC;Analog Digital Converter)などのデータ処理部が列並列に設けられているものである。
“列並列にデータ処理部が設けられている”とは、垂直列の垂直信号線19に対して実質的に並列に複数のCDS処理機能部やデジタル変換部が設けられていることを意味する。たとえば、列並列にCDS処理機能部やデジタル変換部が設けられている典型例としては、撮像部の出力側に設けたカラム領域と呼ばれる部分に、CDS処理機能部やデジタル変換部を垂直列ごとに設け、順次出力側に読み出すカラム型のものである。また、カラム型に限らず、隣接する複数(たとえば2つ分)の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態や、N本おき(Nは正の整数;間にN−1本を配する)のN本分の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態などを採ることもできる。
カラム型を除くものは、何れの形態も、複数の垂直信号線19(垂直列)が1つのCDS処理機能部やデジタル変換部を共通に使用する構成となるので、画素部10側から供給される複数列分の画素信号を1つのCDS処理機能部やデジタル変換部に供給する切替回路(スイッチ)を設ける。なお、後段の処理によっては、出力信号を保持するメモリを設けるなどの対処が必要になる。
何れにしても、複数の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態などを採ることで、各画素信号の信号処理を画素列単位で読み出した後に行なうことで、同様の信号処理を各単位画素内で行なうものに比べて、各単位画素内の構成を簡素化し、イメージセンサの多画素化、小型化、低コスト化などに対応できる。
また、列並列に配された複数の信号処理部にて1行分の画素信号を同時並行処理することができるので、出力回路側やデバイスの外部で1つのCDS処理機能部やデジタル変換部にて処理を行なう場合に比べて、信号処理部を低速で動作させることができ、消費電力や帯域性能やノイズなどの面で有利である。逆に言えば、消費電力や帯域性能などを同じにする場合、センサ全体の高速動作が可能となる。
なお、カラム型の構成の場合、低速で動作させることができ消費電力や帯域性能やノイズなどの面で有利であるとともに切替回路(スイッチ)が不要である利点もある。以下の実施形態では、特に断りのない限り、このカラム型で説明する。
図1に示すように第1実施形態の固体撮像装置1は、画素形状が概ね正方状の複数の単位画素3が行および列に(つまり正方格子状に)配列された画素部(撮像部)10と、画素部10の外側に設けられた駆動制御部7と、カラム処理部26と、カラム処理部26にAD変換用の参照電圧を供給する参照信号生成部27と、出力回路28とを備えている。
画素部10における各電荷生成部(フォトダイオードなど)の電磁波(本例では光)が入射される受光面には、カラー画像を撮像するための複数色の色フィルタの組合せからなる色分解フィルタの何れかの色フィルタが設けられている。図示した例は、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタを用いており、正方格子状に配された単位画素3が赤(R),緑(G),青(B)の3色カラーフィルタ(原色フィルタ)に対応するように配されて画素部10を構成している。なお、モノクロ画像対応とする場合には、色分解フィルタがないものとして考えればよい。
なお、カラム処理部26の前段または後段には、必要に応じて信号増幅機能を持つAGC(Auto Gain Control) 回路などをカラム処理部26と同一の半導体領域に設けることも可能である。カラム処理部26の前段でAGCを行なう場合にはアナログ増幅、カラム処理部26の後段でAGCを行なう場合にはデジタル増幅となる。nビットのデジタルデータを単純に増幅してしまうと、階調が損なわれてしまう可能性があるため、どちらかというとアナログにて増幅した後にデジタル変換するのが好ましいと考えられる。
また本実施形態特有の構成として、水平走査回路12、カラム処理部26、および参照信号生成部27が、それぞれ2つのブロックに分けて設けられている。たとえば、これらの各機能部は、デバイスを平面視したときに、画素部10に対して列方向の一方の端縁側(図の下側に配されている出力側)とその反対側である他方の端縁側(図の上側)に分けて配した形態としている。
図の上側に配された通常データ処理部11Aは、積和演算処理にて使用する複数の処理対象信号のうちの何れか1つに基づいて通常のビデオデータを生成して出力するためのブロックである。一方、図の下側に配された演算データ処理部11Bは、複数の処理対象の画素信号に基づき積和演算結果のデジタルデータを生成し出力するブロックである。各データ処理部11A,11Bに属する各機能部は、それぞれ独立に動作可能になっている。
以下の説明において、ブロック(データ処理部)別に説明する場合には、それぞれのブロックに属する水平走査回路12、カラム処理部26、および参照信号生成部27に対して、ブロックの参照子A,Bを付して説明する。また、共通に説明する場合には、参照子を付さずに説明する。
駆動制御部7は、画素部10の信号を順次読み出すための制御回路機能を備えている。たとえば、駆動制御部7としては、列アドレスや列走査を制御する水平走査回路(列走査回路)12と、行アドレスや行走査を制御する垂直走査回路(行走査回路)14と、内部クロックを生成するなどの機能を持つ通信・タイミング制御部20とを備えている。
なお、図示を割愛するが、高速クロック生成部の一例であって、入力されたクロック周波数よりも高速のクロック周波数のパルスを生成するクロック変換部を設けるようにしてもよい。通信・タイミング制御部20は、端子5aを介して入力される入力ロック(マスタークロック)CLK0やクロック変換部で生成された高速クロックに基づいて内部クロックを生成する。
クロック変換部で生成された高速クロックを源とする信号を用いることで、AD変換処理などを高速に動作させることができるようになる。また、高速クロックを用いて、高速の計算を必要とする動き抽出や圧縮処理を行なうことができる。また、カラム処理部26から出力されるパラレルデータをシリアルデータ化してデバイス外部に映像データD1を出力することもできる。こうすることで、AD変換されたデジタルデータのビット分よりも少ない端子で高速動作出力する構成を採ることができる。
図示を割愛したクロック変換部は、入力されたクロック周波数よりも高速のクロック周波数のパルスを生成する逓倍回路を内蔵している。このクロック変換部は、通信・タイミング制御部20から低速クロックCLK2を受け取り、それを元にして2倍以上高い周波数のクロックを生成する。クロック変換部の逓倍回路としては、k1を低速クロックCLK2の周波数の倍数としたときk1逓倍回路を設ければよく、周知の様々な回路を利用することができる。
図1では、簡単のため行および列の一部を省略して示しているが、現実には、各行や各列には、数十から数千の単位画素3が画素部10に配置される。この単位画素3は、典型的には、受光素子(電荷生成部)としてのフォトダイオードと、増幅用の半導体素子(たとえばトランジスタ)を有する画素内アンプとから構成される。
画素内アンプとしては、たとえばフローティングディフュージョンアンプ構成のものが用いられる。一例としては、フォトダイオードなどの光電変換素子を持つ電荷生成部に対して、電荷読出部(転送ゲート部/読出ゲート部)の一例である読出選択用トランジスタ、リセットゲート部の一例であるリセットトランジスタ、垂直選択用トランジスタ、およびフローティングディフュージョンの電位変化を検知する検知素子の一例であるソースフォロア構成の増幅用トランジスタを有する、CMOSセンサとして汎用的な4つのトランジスタからなる構成のものを使用することができる。
あるいは、特許第2708455号公報に記載のように、電荷生成部により生成された信号電荷に対応する信号電圧を増幅するための、ドレイン線(DRN)に接続された増幅用トランジスタと、電荷生成部をリセットするためのリセットトランジスタと、垂直シフトレジスタより転送配線(TRF)を介して走査される読出選択用トランジスタ(転送ゲート部)を有する、3つのトランジスタからなる構成のものを使用することもできる。
また、駆動制御部7の他の構成要素として、水平走査回路12、垂直走査回路14、および通信・タイミング制御部20が設けられている。水平走査回路12は、カラム処理部26からカウント値を読み出す読出走査部の機能を持つ。これらの駆動制御部7の各要素は、画素部10とともに、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成され、半導体システムの一例である固体撮像素子(撮像デバイス)として構成される。
単位画素3は、行選択のための行制御線15を介して垂直走査回路14と、また垂直信号線19を介してカラムAD回路25が垂直列ごとに設けられているカラム処理部26と、それぞれ接続されている。ここで、行制御線15は垂直走査回路14から画素に入る配線全般を示す。
なお、本実施形態において、演算データ処理部11Bに配されたカラムAD回路25Bは、それそのもので、複数の処理対象信号の積和演算結果のデジタルデータを取得するデータ処理装置の機能を有する。
水平走査回路12や垂直走査回路14は、後述のようにデコーダを含んで構成され、通信・タイミング制御部20から与えられる制御信号CN1,CN2に応答して、処理対象の画素信号の読出しを開始するようになっている。このため、行制御線15には、単位画素3を駆動するための種々のパルス信号(たとえば、リセットパルスRST、転送パルスTRF、DRN制御パルスDRNなど)が含まれる。
本実施形態において、通信・タイミング制御部20と、演算データ処理部11Bに配された垂直走査回路14Bとで、積和演算処理対象の複数の単位画素3のそれぞれの位置を指定して、この単位画素3から複数の画素信号のそれぞれをカラム処理部26Bに入力させる単位信号選択制御部が構成される。
通信・タイミング制御部20は、図示しないが、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータTG(読出アドレス制御装置の一例)の機能ブロックと、端子5aを介してマスタークロックCLK0を受け取り、また端子5bを介して動作モードなどを指令するデータDATAを受け取り、さらに固体撮像装置1の情報を含むデータを出力する通信インタフェースの機能ブロックとを備える。たとえば、水平アドレス信号を水平デコーダへ、また垂直アドレス信号を垂直デコーダへ出力し、各デコーダは、それを受けて対応する行もしくは列を選択する。
この際、単位画素3を2次元マトリックス状に配置してあるので、画素信号生成部5により生成され垂直信号線19を介して列方向に出力されるアナログの画素信号を行単位で(列並列で)アクセスし取り込む(垂直)スキャン読みを行ない、この後に、垂直列の並び方向である行方向にアクセスし画素信号(本例ではデジタル化された画素データ)を出力側へ読み出す(水平)スキャン読みを行なうようにすることで、画素信号や画素データの読出しの高速化を図るのがよい。もちろん、スキャン読みに限らず、読み出したい単位画素3を直接にアドレス指定することで、必要な単位画素3の情報のみを読み出すランダムアクセスも可能である。
また、第1実施形態の通信・タイミング制御部20では、端子5aを介して入力されるマスタークロック(マスタークロック)CLK0と同じ周波数のクロックCLK1や、それを2分周したクロックやより分周した低速のクロックをデバイス内の各部、たとえば水平走査回路12、垂直走査回路14、カラム処理部26などに供給する。以下、2分周したクロックやそれ以下の周波数のクロック全般を纏めて、低速クロックCLK2という。
垂直走査回路14は、画素部10の行を選択し、その行に必要なパルスを供給するものである。たとえば、図示を割愛するが、垂直方向の読出行を規定する(画素部10の行を選択する)垂直デコーダと、垂直デコーダにて規定された読出アドレス上(行方向)の単位画素3に対する行制御線15にパルスを供給して駆動する垂直駆動回路とを有する。なお、垂直デコーダは、信号を読み出す行の他に、電子シャッタ用の行なども選択する。
水平走査回路12は、低速クロックCLK2に同期してカラム処理部26のカラムAD回路25を順番に選択し、その信号を水平信号線(水平出力線)18に導くものである。たとえば、図示を割愛するが、水平方向の読出列を規定する(カラム処理部26内の個々のカラムAD回路25を選択する)水平デコーダと、水平デコーダにて規定された読出アドレスに従って、カラム処理部26の各信号を水平信号線18に導く水平駆動回路とを有する。なお、水平信号線18は、たとえばカラムAD回路25が取り扱うビット数n(nは正の整数)分、たとえば10(=n)ビットならば、そのビット数分に対応して10本配置される。
このような構成の固体撮像装置1において、単位画素3から出力された画素信号は、垂直列ごとに、垂直信号線19を介して、通常データ処理部11Aおよび演算データ処理部11Bの各カラム処理部26のカラムAD回路25に供給される。
なお、カラム処理部26と水平走査回路12との間の信号経路上には、各垂直信号線19に対してドレイン端子が接続された図示しない負荷MOSトランジスタを含む負荷トランジスタ部が配され、各負荷MOSトランジスタを駆動制御する負荷制御部(負荷MOSコントローラ)が設けられている。
単位画素3を構成する増幅用トランジスタは各垂直信号線19に接続されており、また垂直信号線19は垂直列ごとに負荷MOSトランジスタのドレインに接続され、また各負荷MOSトランジスタのゲート端子には、負荷制御部からの負荷制御信号CTldが共通に入力されており、信号読出し時には、各増幅用トランジスタに接続された負荷MOSトランジスタによって、予め決められた定電流を流し続けるようになっている。
通常データ処理部11Aに属するカラム処理部26Aの各カラムAD回路25Aは、1列分の画素の信号を順次受けて、その信号を処理する。たとえば、各カラムAD回路25Aは、アナログ信号を、たとえば低速クロックCLK2を用いて、たとえば10ビットのデジタルデータに変換するADC(Analog Digital Converter)回路を持つ。
また、演算データ処理部11Bに属するカラム処理部26Bの各カラムAD回路25Bは、通信・タイミング制御部20と垂直走査回路14Bとの協働動作で機能する単位信号選択制御部で指定された画素位置の複数の積和演算処理対象の画素信号(同一垂直列方向のみのものとは限らない)を順次受けて、その複数の画素信号に基づき積和演算するとともにデジタルデータに変換する。たとえば、各カラムAD回路25Bは、アナログ信号を、たとえば低速クロックCLK2を用いて、たとえば10ビットのデジタルデータに変換しつつ積和演算を行なう演算機能付きのADC(Analog Digital Converter)回路を持つ。
ADC回路の構成については、詳細は後述するが、コンパレータ(電圧比較器)にランプ状の参照信号(参照電圧)RAMPを供給すると同時にクロック信号でのカウント(計数)を開始し、垂直信号線19を介して入力されたアナログの画素信号を参照信号RAMPと比較することによってパルス信号が得られるまでカウントすることでAD変換を行なう。
また、この際、回路構成を工夫することで、AD変換とともに、垂直信号線19を介して入力された電圧モードの画素信号に対して、画素リセット直後の信号レベル(ノイズレベル)と真の(受光光量に応じた)信号レベルVsig との差分をとる処理を行なうことができる。これにより、固定パターンノイズ(FPN;Fixed Pattern Noise )やリセットノイズといわれるノイズ信号成分を取り除くことができる。
このカラムAD回路25でデジタル化された画素データは、水平走査回路12からの水平選択信号により駆動される図示しない水平選択スイッチを介して水平信号線18に伝達され、さらに出力回路28に入力される。なお、10ビットは一例であって、10ビット未満(たとえば8ビット)や10ビットを超えるビット数(たとえば14ビット)など、その他のビット数としてもよい。
このような構成によって、電荷生成部としての受光素子(フォトダイオードなどの光電変換素子)が行列状に配された画素部10からは、行ごとに各垂直列について画素信号が順次出力される。そして、受光素子が行列状に配された画素部10に対応する1枚分の画像すなわちフレーム画像が、画素部10全体の画素信号の集合で示されることとなる。
<カラムAD回路と参照信号生成部の詳細>
参照信号生成部27は、DA変換回路(DAC;Digital Analog Converter)27aを有して構成されており、通信・タイミング制御部20からの制御データCN4で示される初期値から、通信・タイミング制御部20からのカウントクロックCKdac に同期して、階段状の鋸歯状波(ランプ波形)を生成して、カラム処理部26の個々のカラムAD回路25に、この生成した鋸歯状波をAD変換用の参照信号(ADC基準信号)RAMPとして供給するようになっている。なお、図示を割愛しているが、ノイズ防止用のフィルタを設けるとよい。
なお、この階段状の鋸歯状波は、クロック変換部23からの高速クロック、たとえば逓倍回路で生成される逓倍クロックを元に生成することで、端子5aを介して入力されるマスタークロックCLK0に基づき生成するよりも高速に変化させることができる。
通信・タイミング制御部20から参照信号生成部27のDA変換回路27aに供給する制御データCN4は、比較処理ごとのランプ電圧の傾き(変化の度合い;時間変化量)を指示する情報も含んでいる。具体的には、1カウント当たりの電圧変化分を設定し、単位時間(カウントクロックCKdac )ごとに1ずつカウント値を変化させるのがよい。
たとえば、DA変換回路27aは、制御データCN4に含まれている初期値を示す電圧(たとえば3.0V)から、カウントクロックCKdac ごとにΔRAMPずつ電圧を低下させる。なお、カウントクロックCKdac の周期を調整することで傾きを変えることができる。たとえば、基準に対して1/m分周したクロックを使うと傾きが1/mとなる。カウンタ部254でのカウントクロックCK0を同一とすれば、カウンタ部254にては、同じ画素電圧に対して、カウント値がm倍となる、すなわち係数としてmを設定できる。つまり、参照信号RAMPの傾きを変えることで、後述する積和演算処理時の係数を調整することができる。
あるいは、参照信号生成部27に与えるカウントクロックCKdac の周期を一定にしつつ、カウンタ出力値をx、制御データCN4に含まれているランプ電圧の傾き(変化率)βとするとy=α(初期値)−β*xによって算出される電位を出力するなど、制御データCN4に含まれているランプ電圧の傾き(変化率)を指示する情報により、1つのカウントクロックCKdac ごとの電圧変化分ΔRAMP(=β)を調整するなど、任意の回路を用いることができる。
なお、同一の処理対象の画素信号についての基準信号レベルと真の信号成分レベルとの差を求める信号取得差分処理時には、それぞれの比較処理のランプ電圧の傾き(変化率)の絶対値の大きさを同じに設定するのがよい。
一方、信号取得差分処理で求められる複数の処理対象信号(本例では画素信号)について空間差分処理や時間差分処理を行なう場合には、処理対象信号についてのランプ電圧の傾き(変化率)の絶対値の大きさを同じに設定してもよいし、そのランプ電圧の傾き(変化率)の絶対値の大きさを異なるものとしてもよい。
傾き(変化率)の絶対値の大きさを異なるものに設定することで、各単位画素3からの画素信号(詳しくは真の信号成分)に係数を掛けた後に符号も含んだ総和を求める機能、つまり積和演算を実現することができる。この際、3以上の画素信号についての空間差分処理や時間差分処理を行なう場合には、傾き(変化率)の絶対値の大きさを同じにする画素数と異なるものにする画素数との組合せは任意である。
傾き(変化率)の絶対値の大きさを異なるものに設定するための構成としては、図示を割愛するが、たとえば、通信・タイミング制御部20から参照信号生成部27に供給する参照信号RAMP(ADC基準信号)生成用のカウントクロックを、カウンタ部254が使用するカウントクロックCK0とは独立に、DAC用のカウントクロックCKdac として供給し、カウントクロックCKdac の周期(周波数)を行ごとに調整することで、行ごとに異なる参照信号RAMPを電圧比較部252に供給するようにすればよい。あるいは、参照信号生成部27に与えるカウントクロックCKdac の周期を一定にしつつ、制御データCN4に含まれているランプ電圧の傾き(変化率)を指示する情報により、1つのカウントクロックCKdac ごとの電圧変化分ΔRAMPを調整するなど、任意の回路を用いることができる。
カラムAD回路25は、参照信号生成部27のDA変換回路27aで生成される参照信号RAMPと、行制御線15(H0,H1,…)ごとに単位画素3から垂直信号線19(V0,V1,…)を経由し得られるアナログの画素信号とを比較する電圧比較部(コンパレータ)252と、電圧比較部252が比較処理を完了するまでの時間をカウントし、その結果を保持するカウンタ部254とを備えて構成されnビットAD変換機能を有している。
通信・タイミング制御部20は、電圧比較部252が画素信号のリセット成分ΔVと信号成分Vsig の何れについて比較処理を行なっているのかに応じてカウンタ部254におけるカウント処理のモードを制御する制御部の機能を持つ。この通信・タイミング制御部20から各カラムAD回路25のカウンタ部254には、カウンタ部254がダウンカウントモードで動作するのかアップカウントモードで動作するのかを指示するためのモード制御信号CN5と、カウンタ部254が保持しているカウント値を初期値にリセットするリセット制御信号CN6とが入力されている。
電圧比較部252の一方の入力端子RAMPは、他の電圧比較部252の入力端子RAMPと共通に、参照信号生成部27で生成される階段状の参照信号RAMPが入力され、他方の入力端子には、それぞれ対応する垂直列の垂直信号線19が接続され、画素部10からの画素信号電圧が個々に入力される。電圧比較部252の出力信号はカウンタ部254に供給される。
カウンタ部254のクロック端子CKには、他のカウンタ部254のクロック端子CKと共通に、通信・タイミング制御部20からカウントクロックCK0が入力されている。
このカウンタ部254は、その構成については図示を割愛するが、ラッチで構成されたデータ記憶部255の配線形態を同期カウンタ形式に変更することで実現でき、1本のカウントクロックCK0の入力で、内部カウントを行なうようになっている。カウントクロックCK0も、階段状の電圧波形と同様に、クロック変換部23からの高速クロック(たとえば逓倍クロック)を元に生成することで、端子5aを介して入力されるマスタークロックCLK0より高速にすることができる。
n個のラッチの組合せでnビットのカウンタ部254を実現でき、非特許文献1などのように2系統のn個のラッチで構成されたデータ記憶部255の回路規模に対して半分になる。加えて、カウンタ部24が不要になるから、全体としては、非特許文献1に示される構成よりも大幅にコンパクトになる。
ここで、第1実施形態のカウンタ部254は、詳細は後述するが、カウントモードに拘わらず共通のアップダウンカウンタ(U/D CNT)を用いて、同一の処理対象の画素信号あるいは物理的な性質が同一の複数の画素信号に対してダウンカウント動作とアップカウント動作とを切り替えてカウント処理を行なうことが可能に構成されている点に特徴を有する。
なお、カウンタ部254は、カウントのオーバーフローを検知する構成や正負の符号(+/−)を処理する構成にする。たとえば、オーバーフロー用余剰ビットを付加したり、桁上げ(キャリー)、または桁借り(ボロー)のビットを用いたりするなど、公知の技術を用いることで、オーバーフローや符号に対する対処は容易に実現可能である。
ここで、単位画素3から出力される画素信号は、通常、真の有効な信号成分だけでなく、リセット成分を含んでいる。時系列的には先ずリセット成分(基準成分)が現われた後に、リセット成分に重畳された真の有効な信号成分が現われる。リセット成分レベルとリセット成分に重畳された真の有効な信号成分との差が真の有効な信号成分となる。
このため、画素信号についての真の有効な信号成分Vsig のデジタルデータを得る際には、同一の画素信号Vxについて、基準成分(リセット成分ΔV)と真の信号成分に対してカウント処理してAD変換を行なう際に、基準成分と真の信号成分の内の一方(通常はリセット成分)について取得したデジタルデータを他方(通常は信号成分)のカウント処理の初期値とする。こうすることで、他方(通常は信号成分)のカウント処理にてAD変換をした後には、自動的に双方の差分結果のデジタルデータを取得する、すなわち、基準成分と信号成分とを含んで表されるアナログの処理対象信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができる。これらの演算処理モードの切替えは、水平走査回路12や垂直走査回路14の走査パターンを通信・タイミング制御部20による制御の元で調整することで実現できる。
加えて、演算データ処理部11Bに属するカラムAD回路25Bにおいては、物理的な性質が同一の相異なる複数の(たとえば画素位置が異なる、あるいは同一画素位置の撮像時刻の異なる)処理対象の画素信号に対して、カウントモードの組合せを同一にしてカウント動作を繰り返し行なうことで、複数の画素信号間での加算演算を実現することや、カウントモードの組合せを切り替えて(具体的には組合せを逆にする)カウント動作を繰り返し行なうことで、複数の画素信号間での差分(減算)演算を実現することが可能に構成されている点に特徴を有する。これらの演算処理モードの切替えは、水平走査回路12Bや垂直走査回路14Bの走査パターンを通信・タイミング制御部20による制御の元で調整することで実現できる。
たとえば、カウンタ部254Bは、複数の単位画素3の画素信号についてそれぞれカウント処理してAD変換を行なう際に、各画素信号の内の一方について取得したデジタルデータを他方の画素信号(後のカウント処理の対象信号)のカウント処理の初期値とすることで、複数の単位画素3のうちの他方についてカウント処理にてAD変換をした後には、自動的に双方の積和演算結果のデジタルデータを取得する。
ここで、それぞれについてのカウントモードを同じにすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号(詳しくは真の信号成分)についての加算結果のデジタルデータを取得することができる。これに対して、それぞれについてのカウントモードを異なるモード(逆のモード)にすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号についての減算結果のデジタルデータを取得することができる。3画素以上を処理対象とする場合、これらを組み合わせることも可能であり、各単位画素3からの画素信号(詳しくは真の信号成分)について、符号も含んだ総和を求める機能、つまり積和演算を実現することができる。
また、第1実施形態のカウンタ部254は、カウント出力値がカウントクロックCK0に同期して出力される同期カウンタを使用する。なお、同期カウンタの場合、すべてのフリップフロップ(カウンタ基本要素)の動作がカウントクロックCK0で制限される。よって、より高周波数動作が要求される場合には、カウンタ部254としては、その動作制限周波数が最初のフリップフロップ(カウンタ基本要素)の制限周波数でのみ決められるため高速動作に適する非同期カウンタの使用がより好ましい。
カウンタ部254には、水平走査回路12から制御線12cを介して制御パルスが入力される。カウンタ部254は、カウント結果を保持するラッチ機能を有しており、制御線12cを介しての制御パルスによる指示があるまでは、カウンタ出力値を保持する。
このような構成のカラムAD回路25は、先にも述べたように、垂直信号線19(V0,V1,…)ごとに配置され、列並列構成のADCブロックであるカラム処理部26が構成される。
個々のカラムAD回路25の出力側は、水平信号線18に接続されている。先にも述べたように、水平信号線18は、カラムAD回路25のビット幅であるnビット幅分の信号線を有し、図示しないそれぞれの出力線に対応したn個のセンス回路を経由して出力回路28に接続される。
このような構成において、カラムAD回路25は、画素信号読出期間において、カウント動作を行ない、所定のタイミングでカウント結果を出力する。すなわち、先ず、電圧比較部252では、参照信号生成部27からのランプ波形電圧と、垂直信号線19を介して入力される画素信号電圧とを比較し、双方の電圧が同じになると、電圧比較部252のコンパレータ出力が反転(本例ではHレベルからLレベルへ遷移)する。
カウンタ部254は、参照信号生成部27から発せられるランプ波形電圧に同期してダウンカウントモードもしくはアップカウントモードでカウント動作を開始しており、コンパレータ出力の反転した情報がカウンタ部254に通知されると、カウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する。
この後、カウンタ部254は、所定のタイミングで水平走査回路12から制御線12cを介して入力される水平選択信号CH(i)によるシフト動作に基づいて、記憶・保持した画素データを、順次、カラム処理部26外や画素部10を有するチップ外へ出力端子5cから出力する。つまり、通信・タイミング制御部20と水平走査回路12とで、カラムAD回路25のカウンタ部254で保持されたカウント値を演算済みデータとして所定のタイミングで読み出す読出制御部が構成される。
なお、本実施形態の説明としては直接関連しないため特に図示しないが、その他の各種信号処理回路なども、固体撮像装置1の構成要素に含まれる場合がある。
<第1実施形態;信号取得差分処理の動作>
図2は、図1に示した第1実施形態の固体撮像装置1のカラムAD回路25における基本動作である信号取得差分処理を説明するためのタイミングチャートである。
画素部10の各単位画素3で感知されたアナログの画素信号をデジタル信号に変換する仕組みとしては、たとえば、所定の傾きで下降するランプ波形状の参照信号RAMPと単位画素3からの画素信号における基準成分や信号成分の各電圧とが一致する点を探し、この比較処理で用いる参照信号RAMPの生成時点から、画素信号における基準成分や信号成分に応じた電気信号と参照信号とが一致した時点までをカウントクロックでカウント(計数)することで、基準成分や信号成分の各大きさに対応したカウント値を得る手法を採る。
ここで、垂直信号線19から出力される画素信号は、時間系列として、基準成分としての画素信号の雑音を含むリセット成分ΔVの後に信号成分Vsig が現れるものである。1回目の処理を基準成分(リセット成分ΔV)について行なう場合、2回目の処理は基準成分(リセット成分ΔV)に信号成分Vsig を加えた信号についての処理となる。以下具体的に説明する。
1回目の読出しのため、先ず通信・タイミング制御部20は、モード制御信号CN5をローレベルにしてカウンタ部254をダウンカウントモードに設定するとともに、リセット制御信号CN6を所定期間アクティブ(本例ではハイレベル)にしてカウンタ部254のカウント値を初期値“0”にリセットさせる(t9)。そして、任意の行Hxの単位画素3から垂直信号線19(V0,V1,…)への1回目の読出しが安定した後、通信・タイミング制御部20は、参照信号生成部27に向けて、参照信号RAMP生成用の制御データCN4を供給する。
これを受けて、参照信号生成部27は、電圧比較部252の一方の入力端子RAMPへの比較電圧として、全体として鋸歯状(RAMP状)に時間変化させた階段状の波形(RAMP波形)を入力する。電圧比較部252は、このRAMP波形の比較電圧と画素部10から供給される任意の垂直信号線19(Vx)の画素信号電圧とを比較する。
電圧比較部252の入力端子RAMPへの参照信号RAMPの入力と同時に、電圧比較部252における比較時間を、行ごとに配置されたカウンタ部254で計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(t10)、カウンタ部254のクロック端子に通信・タイミング制御部20からカウントクロックCK0を入力し、1回目のカウント動作として、初期値“0”からダウンカウントを開始する。すなわち、負の方向にカウント処理を開始する。
電圧比較部252は、参照信号生成部27からのランプ状の参照信号RAMPと垂直信号線19を介して入力される画素信号電圧Vxとを比較し、双方の電圧が同じになったときに、コンパレータ出力をHレベルからLレベルへ反転させる(t12)。つまり、リセット成分Vrst に応じた電圧信号と参照信号RAMPとを比較して、リセット成分Vrst の大きさに対応した時間経過後にアクティブロー(L)のパルス信号を生成して、カウンタ部254に供給する。
この結果を受けて、カウンタ部254は、コンパレータ出力の反転とほぼ同時にカウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する(t12)。つまり、電圧比較部252に供給するランプ状の参照信号RAMPの生成とともにダウンカウントを開始し、比較処理によってアクティブロー(L)のパルス信号が得られるまでクロックCK0でカウント(計数)することで、リセット成分Vrst の大きさに対応したカウント値を得る。
通信・タイミング制御部20は、所定のダウンカウント期間を経過すると(t14)、電圧比較部252への制御データの供給と、カウンタ部254へのカウントクロックCK0の供給とを停止する。これにより、電圧比較部252は、ランプ状の参照信号RAMPの生成を停止する。
この1回目の読出し時は、画素信号電圧VxにおけるリセットレベルVrst を電圧比較部252で検知してカウント動作を行なっているので、単位画素3のリセット成分ΔVを読み出していることになる。
このリセット成分ΔV内には、単位画素3ごとにばらつく雑音がオフセットとして含まれている。しかし、このリセット成分ΔVのばらつきは一般に小さく、またリセットレベルVrst は概ね全画素共通であるので、任意の垂直信号線19の画素信号電圧Vxにおけるリセット成分ΔVの出力値はおおよそ既知である。
したがって、1回目のリセット成分ΔVの読出し時には、RAMP電圧を調整することにより、ダウンカウント期間(t10〜t14;比較期間)を短くすることが可能である。本実施形態では、リセット成分ΔVについての比較処理の最長期間を、7ビット分のカウント期間(128クロック)にして、リセット成分ΔVの比較を行なっている。
続いての2回目の読出し時には、リセット成分ΔVに加えて、単位画素3ごとの入射光量に応じた電気信号成分Vsig を読み出し、1回目の読出しと同様の動作を行なう。すなわち、先ず通信・タイミング制御部20は、モード制御信号CN5をハイレベルにしてカウンタ部254をアップカウントモードに設定する(t18)。そして、任意の行Hxの単位画素3から垂直信号線19(V0,V1,…)への2回目の読出しが安定した後、通信・タイミング制御部20は、参照信号生成部27に向けて、参照信号RAMP生成用の制御データCN4を供給する。
これを受けて、参照信号生成部27は、電圧比較部252の一方の入力端子RAMPへの比較電圧として、全体として鋸歯状(RAMP状)に時間変化させた階段状の波形(RAMP波形)を入力する(t20)。電圧比較部252は、このRAMP波形の比較電圧と画素部10から供給される任意の垂直信号線19(Vx)の画素信号電圧とを比較する。
電圧比較部252の入力端子RAMPへの参照信号RAMPの入力と同時に、電圧比較部252における比較時間を、行ごとに配置されたカウンタ部254で計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(t20)、カウンタ部254のクロック端子に通信・タイミング制御部20からカウントクロックCK0を入力し、2回目のカウント動作として、1回目の読出し時に取得された単位画素3のリセット成分ΔVに対応するカウント値から、1回目とは逆にアップカウントを開始する。すなわち、正の方向にカウント処理を開始する。
電圧比較部252は、参照信号生成部27からのランプ状の参照信号RAMPと垂直信号線19を介して入力される画素信号電圧Vxとを比較し、双方の電圧が同じになったときに、コンパレータ出力をHレベルからLレベルへ反転させる(t22)。つまり、信号成分Vsig に応じた電圧信号と参照信号RAMPとを比較して、信号成分Vsig の大きさに対応した時間経過後にアクティブロー(L)のパルス信号を生成して、カウンタ部254に供給する。
この結果を受けて、カウンタ部254は、コンパレータ出力の反転とほぼ同時にカウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する(t22)。つまり、電圧比較部252に供給するランプ状の参照信号RAMPの生成とともにダウンカウントを開始し、比較処理によってアクティブロー(L)のパルス信号が得られるまでクロックCK0でカウント(計数)することで、信号成分Vsig の大きさに対応したカウント値を得る。
通信・タイミング制御部20は、所定のダウンカウント期間を経過すると(t24)、電圧比較部252への制御データの供給と、カウンタ部254へのカウントクロックCK0の供給とを停止する。これにより、電圧比較部252は、ランプ状の参照信号RAMPの生成を停止する。
この2回目の読出し時は、画素信号電圧Vxにおける信号成分Vsig を電圧比較部252で検知してカウント動作を行なっているので、単位画素3の信号成分Vsig を読み出していることになる。
ここで、本実施形態においては、カウンタ部254におけるカウント動作を、1回目の読出し時にはダウンカウント、2回目の読出し時にはアップカウントとしているので、カウンタ部254内で自動的に、式(1)で示す減算が行なわれ、この減算結果に応じたカウント値がnビットのデジタル値としてカウンタ部254に保持される。
ここで、式(1)は、式(2)のように変形でき、結果としては、カウンタ部254に保持されるカウント値は信号成分Vsig に応じたnビットのデジタル値となる。
つまり、上述のようにして、1回目の読出し時におけるダウンカウントと2回目の読出し時におけるアップカウントといった、2回の読出しとカウント処理によるカウンタ部254内での減算処理によって、単位画素3ごとのばらつきを含んだリセット成分ΔVとカラムAD回路25ごとのオフセット成分とを除去することができ、単位画素3ごとの入射光量に応じた電気信号成分Vsig のみを簡易な構成で取り出すことができる。この際、リセット雑音も除去できる利点がある。
よって、本実施形態のカラムAD回路25は、アナログの画素信号をデジタルの画素データに変換するデジタル変換部としてだけでなく、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部としても動作することとなる。
また、式(2)で得られるカウント値が示す画素データは正の信号電圧を示すので、補数演算などが不要となり、既存のシステムとの親和性が高い。
ここで、2回目の読出し時は、入射光量に応じた電気信号成分Vsig を読み出すので、光量の大小を広い範囲で判定するため、アップカウント期間(t20〜t24;比較期間)を広く取り、電圧比較部252に供給するランプ電圧を大きく変化させる必要がある。
そこで本実施形態では、信号成分Vsig についての比較処理の最長期間を、10ビット分のカウント期間(1024クロック)にして、信号成分Vsig の比較を行なっている。つまり、リセット成分ΔV(基準成分)についての比較処理の最長期間を、信号成分Vsig についての比較処理の最長期間よりも短くする。リセット成分ΔV(基準成分)と信号成分Vsig の双方の比較処理の最長期間すなわちAD変換期間の最大値を同じにするのではなく、リセット成分ΔV(基準成分)についての比較処理の最長期間を信号成分Vsig についての比較処理の最長期間よりも短くすることで、2回に亘るトータルのAD変換期間が短くなるように工夫する。
このとき、2回に亘る総処理時間は、1行期間(1水平処理期間)内に収まるようにする。この調整は、信号の最大幅(ダイナミックレンジ)に割り当てるビット数と1ビットに割り当てるカウントクロックCK0の周期設定で行なうことができる。参照信号生成部27から発せられる参照信号RAMPは、信号の最大幅(ダイナミックレンジ)をカバーするようにする。
参照信号RAMPの傾きやカウントクロックCK0の周期を一定とした場合、ビット数を調整することで、AD変換期間を調整することができる。たとえば、ビット数を“m”減らすと、AD変換期間を1/(2^m;“^”はべき乗を示す)にすることができる。また、カウントクロックCK0の周期を一定とし、参照信号RAMPの傾きを1/k倍すれば、信号に対する係数(ゲイン)をk倍にすることができる。
なお、基準成分と信号成分の各AD変換期間を異なるものとする場合、1回目と2回目との比較ビット数が異なるが、通信・タイミング制御部20から制御データを参照信号生成部27に供給して、この制御データに基づいて参照信号生成部27にてランプ電圧を生成するようにすることで、ランプ電圧の傾きすなわち参照信号RAMPの変化率を1回目と2回目とで同じにする。デジタル制御でランプ電圧を生成するので、ランプ電圧の傾きを1回目と2回目とで同じにすることが容易である。これにより、AD変換の精度を等しくできるため、アップダウンカウンタによる式(1)で示した減算結果が正しく得られる。
2回目のカウント処理が完了した後の所定のタイミングで(t28)、通信・タイミング制御部20は水平走査回路12に対して画素データの読出しを指示する。これを受けて、水平走査回路12は、制御線12cを介してカウンタ部254に供給する水平選択信号CH(i)を順次シフトさせる。
こうすることで、カウンタ部254に記憶・保持した式(2)で示されるカウント値、すなわちnビットのデジタルデータで表された画素データが、n本の水平信号線18を介して、順次、カラム処理部26外や画素部10を有するチップ外へ出力端子5cから出力され、その後、順次行ごとに同様の動作が繰り返されることで、2次元画像を表す映像データD1が得られる。
このように、基準成分(リセット成分)と真の信号成分に対してカウント処理してAD変換を行なう際に、同一の処理対象の画素信号に対してダウンカウント動作とアップカウント動作とを切り替えて(具体的には逆のモードで)カウント処理を行なうとともに、基準成分(リセット成分)と真の信号成分の内の何れか一方(前例では基準成分)について取得したデジタルデータ(カウント値)を他方(前例では信号成分)のカウント処理の初期値とすることで、他方(前例では信号成分)のカウント処理にてAD変換を完了した時点で、自動的に双方の差分結果のデジタルデータを取得する、すなわち、基準成分と信号成分とを含んで表されるアナログの画素信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができる。
<第1実施形態;空間差分処理の動作>
図3は、図1に示した第1実施形態の固体撮像装置1の演算データ処理部11BにおけるカラムAD回路25Bによる空間差分処理の動作を説明するためのタイミングチャートである。ここでは、画素部10には、色分解フィルタが設けられておらず、モノクロ画像対応のものであるとして説明する。
空間差分処理は、実質的に同一時刻に取得された1フィールド内の画像において、相異なる画素位置の複数の画素信号間で減算処理を行なう処理である。
なお、“実質的に同一時刻に取得された”と記述したのは、水平行(走査線)ごとに走査する時間だけ蓄積期間がずれるという、CMOSセンサ特有の事情によるものである。全ての水平行が同一の蓄積期間となるように、たとえばメカニカルシャッタを併用したり、あるいはCMOSセンサにグローバル露光の機能を追加したりすることで、完全に同一時刻に取得されたものとすることができる。
空間差分処理の典型例としては、隣接する複数行(3行以上でもよい)の画素信号を処理対象とする垂直列方向の差分処理や、同一行における隣接する複数(3以上でもよい)の画素位置の画素信号を処理対象とする水平行方向の差分処理がある。以下で説明する第1実施形態の空間差分処理動作は、垂直列方向の差分処理である。
なお、“1フィールド周期”は、撮像面上を2次元走査して画像を読み出す期間(具体的には1垂直走査周期)であり、“1フレーム周期”は、撮像面上の全画素で画像を形成するに要する期間である。全ての行を順に垂直方向に走査する順次走査(プログレッシブ走査)を行なう場合は、“1フィールド周期”が“1フレーム周期”になる。これに対して、一方の垂直走査時には行を間引いて順に垂直方向に走査するとともに、他方の垂直走査時には一方の垂直走査時に間引いた行を補完するように垂直方向に走査する飛越し走査(インタレース走査)を行なう場合は、“kフィールド”が“1フレーム”になる。“k”は間引きの程度によるもので、通常は、k=2とする。なお、順次走査であるのか飛越し走査であるのかに拘わらず、撮像面上を2次元走査して画像を読み出す1垂直走査周期を、広義の“1フレーム”ということもある。本願明細書においても、以下の説明におけるフレームは広義のフレームの意味で使用する。
カウンタ部254Bは、nビットのデジタル値を読み出した後も、そのデジタル値をカウンタ部254B内部に保持することができる。空間差分処理時には、カウンタ部254Bのデータ保持特性を利用して、複数の画素信号についてのデジタル減算処理を行なう。以下具体的に説明する。
図3に示すように、1番目の画素信号V1について、1回目の読出し時にダウンカウント処理をし、2回目の読出し時にアップカウント処理を行なうことでカウンタ部254B内での減算処理によって、単位画素3の入射光量に応じた電気信号成分Vsig1のみを取り出すことができる(t10〜t24)。このときのカウンタ部254Bに保持される式(2)で表されるカウント値は、正の信号電圧Vsig1を示すデジタル値である。
2番目の処理対象の画素信号については、1回目の読出し時にアップカウント処理をし2回目の読出し時にダウンカウント処理を行なう、すなわち1番目の処理対象の画素信号についてのAD変換処理時のカウントモードの組合せとは逆の組合せでAD変換処理を行なう(t30〜t44)。これにより、カウンタ部254B内で自動的に、式(1)で示す減算が行なわれ、この減算結果に応じたカウント値がカウンタ部254Bに保持される。
ここで、2番目の処理対象の画素信号V2についてのAD変換処理時は、1番目の処理対象の画素信号についてのAD変換処理時のカウントモードの組合せとは逆の組合せでAD変換処理を行なうので、カウンタ部254Bに保持されるカウント値は、式(3)に示すように、信号成分Vsig2に応じたものとなるとともに、負の信号電圧(−Vsig2)を示すnビットのデジタル値である。
よって、1番目の処理対象の画素信号V1についての2回目のカウント処理が完了した後に、2番目の処理対象の画素信号V2について、1回目のアップカウント処理を開始する際に、カウンタ部254Bに保持されているカウント値をリセットしないで引き続きカウント処理を行なうと、式(3)に対して式(2)のカウント値が加算される。よって、2番目の処理対象の画素信号V2についての2回目のカウント処理が完了した後にカウンタ部254Bに保持されるカウント値は、式(4)に示すように、2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig1−Vsig2)を示すnビットのデジタル値となる。
なお、図示を割愛するが、図3に示した例とは逆に、1番目の画素信号V1について、1回目の読出し時にアップカウント処理をし2回目の読出し時にダウンカウント処理を行なう一方で、2番目の処理対象の画素信号V2について、1回目のカウント処理を開始する際に、カウンタ部254Bに保持されているカウント値をリセットせずに、1回目の読出し時にダウンカウント処理をし2回目の読出し時にアップカウント処理を行なうようにすれば、2番目の処理対象の画素信号V2についての2回目のカウント処理が完了した後にカウンタ部254Bに保持されるカウント値は、2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig2−Vsig1)となり、多値データ(本例ではnビット)で出力されることとなる。
このように、Hy行のAD変換処理が完了した後にカウンタ部254Bをリセットしないで、リセット成分ΔVと信号成分Vsig とについて、Hy行のAD変換処理時のカウントモードの組合せと逆の組合せでHy+1行のAD変換処理を行なうようにすることで、カラムAD回路25Bのカウンタ部254Bには、同一垂直列におけるHy行とHy+1行の減算結果が保持されることになり、2行についての差分処理が実現できる。
2番目の画素信号V1について、2回目のカウント処理が完了した後の所定のタイミングで(t48)、通信・タイミング制御部20は水平走査回路12Bに対して画素データの読出しを指示する。これを受けて、水平走査回路12Bは、制御線12Bcを介してカウンタ部254Bに供給する水平選択信号CH(i)を順次シフトさせる。
こうすることで、カウンタ部254Bに記憶・保持した式(4)で示されるカウント値、すなわち2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig2−Vsig1)を示すnビットのデジタルデータが、n本の水平信号線18Bを介して、順次、カラム処理部26B外や画素部10を有するチップ外へ出力端子5Bcから出力され、その後、順次2行ごとに同様の動作が繰り返されることで、隣接する2行の2つの画素信号間での差分(減算)演算の結果を示す2次元の差分画像を表す演算データD2が得られる。この差分演算結果の画像は、垂直方向(センサ面縦方向)には、解像度を1/2にした画像となり、画像データ量が1/2に圧縮されることとなる。
このように、第1実施形態の固体撮像装置1によれば、同一の単位画素3の画素信号における基準成分(リセット成分)と信号成分に対して、カウントモードの組合せを逆にしてカウント動作を繰り返し行なうことで、画素信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができるとともに、相異なる複数(前例では隣接する2行分)の単位画素3の画素信号に対して、カウントモードの組合せを逆にしてカウント動作を繰り返し行なうことで、複数の画素信号間での差分(減算)演算を実現することもできる。
カウンタ部254Bのアップダウンカウント機能を使ってm行ごとに減算処理を含む積和演算処理を実現することにより差分画像を取得することができるが、その一利用形態としては、2行ごとに減算処理を行なうようにすれば、外部に特殊な回路を用いることなく、エッジ抽出処理の機能を実現できるようになる。これにより、垂直方向のエッジ検出処理を複数の垂直列について処理することによって、水平行列方向の直線検出処理が実現できる。
また、抽出しようとしているパターンと同じ減算パターンの組合せで走査することで、減算パターンの組合せと同じ模様の部分から最も強い信号が得られ、外部に特殊な回路を用いることなく、パターン・マッチング機能を実現できる。
<第1実施形態;空間差分処理の動作;3行以上>
図4は、図1に示した第1実施形態の固体撮像装置1のカラムAD回路25における他の空間差分処理時の動作を説明するためのタイミングチャートである。ここでは、差分演算を含む3行に亘る積和演算処理とするとともに、複数の画素信号についての積和演算を行なうに当たり、相異なる係数を付与して減算処理もしくは加算処理を行なう。ここでも、画素部10には、色分解フィルタが設けられておらず、モノクロ画像対応のものであるとして説明する。
本例では、カラムAD回路25のカウンタ部254における差分処理用のカウント処理としては、“3j−2”行線H1,H4,…(j=1以上の正の整数、以下本実施形態において同様)に対しての係数α1は“1”、“3j−1”行線H2,H5,…に対しての係数α2は“−2”、“3j”行線H3,H6,…に対しての係数α3は“1”を設定するものとする。よって、通信・タイミング制御部20は、カウンタ部254に対して、画素信号の信号成分Vsig について、それぞれ“3j−2”行線に対してはアップカウント処理、“3j−1”行線に対してはダウンカウント処理、“3j”行線に対してはアップカウント処理を行なうように、カウントモードを制御する。
これにより、3j番目の処理対象の画素信号V3jについての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、式(5)に示すように、3つの画素信号V3j−2,V3j−1,V3j間での差分演算(加減算;符号を含む積和演算)の結果(Vsig1−2・Vsig2+Vsig3)を示すnビットのデジタル値となる。
なお、本例では、列方向に3行単位で差分演算を含む積和演算を行なう事例で説明したが、4行以上にも容易に展開できる。この際、傾き(変化率)を同じにする画素数と傾き(変化率)を異なるものにする画素数との組合せも自由である。
これにより、処理単位行における最終行の処理対象の画素信号について、2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、式(6)に示すように、k個の画素信号V1,V2,…,Vk間での積和演算(加減算;符号を含む積和演算)の結果を示すnビットのデジタル値となる。ここで、係数βkは符号も含むものとする。
このように、図3では隣接する2行の差分処理について説明したが、図4に示したように、3行以上に亘って、減算処理を含む積和演算を実行することもできる。このとき、処理対象の画素数(本例では行数)をmとすれば、画像データ量を1/mに圧縮することができる。
このように、3行以上に亘って 加減算(符号を含む積和演算)処理を実現することにより、カラム処理部26Bの外部に特殊な回路を用いることなく、中央画素強調の空間フィルタなど、1次元の空間フィルタ処理の機能を実現できるようになる。また、特定画素についてのカウント処理を停止して係数を“0”に設定することもできるので、微分フィルタを実現することもできる。
また、これらのことから、画像圧縮処理で頻繁に使われる離散的コサイン変換を実現することもできる。離散的コサイン変換では、たとえば8×8画素について、コサイン係数を掛けて和を求める必要があるとともに、コサイン係数には正負があるので、このような両極性の演算が必要な場合に、要求される機能を簡単に実現することができる。
<第1実施形態;空間加算処理の動作>
図5は、図1に示した第1実施形態の固体撮像装置1の演算データ処理部11BにおけるカラムAD回路25Bによる空間加算処理の動作を説明するためのタイミングチャートである。ここでは、画素部10には、色分解フィルタが設けられておらず、モノクロ画像対応のものであるとして説明する。
空間加算処理は、実質的に同一時刻に取得された1フィールド内の画像において、相異なる画素位置の複数の画素信号間で加算処理を行なう処理である。空間加算処理の典型例としては、隣接する複数行(3行以上でもよい)の画素信号を処理対象とする垂直列方向の加算処理や、同一行における隣接する複数(3以上でもよい)の画素位置の画素信号を処理対象とする水平行方向の差分処理がある。以下で説明する第1実施形態の空間加算処理動作は、垂直列方向の加算処理である。
図3と図5との比較から分かるように、空間加算処理時には、各行のAD変換処理におけるリセット成分ΔVと信号成分Vsig とについてのカウントモードの組合せを同一にすればよい。すなわち、Hy行のAD変換処理が完了した後にカウンタ部254Bをリセットしないで、リセット成分ΔVと信号成分Vsig とについて、Hy行のAD変換処理時のカウントモードの組合せと同一の組合せでHy+1行のAD変換処理を行なうようにすることで、カラムAD回路25Bのカウンタ部254Bには、同一垂直列におけるHy行とHy+1行の加算結果が保持されることになり、2行についての加算処理が実現できる。
よって、Hy+1行の画素信号についての2回目のカウント処理が完了した後にカウンタ部254Bに保持されるカウント値は、2つの画素信号V1,V2間での加算演算の結果(Vsig1+Vsig2)を示すnビットのデジタル値となる。画像データ量を1/2に圧縮することができる。
なお、図5では、隣接する2行の差分処理や加算処理について説明したが、図4に示した差分処理と同様に3行以上を処理対象とすることもでき、3行以上に亘って、加算演算処理のみを実行することもできる。このとき、処理対象の画素数(本例では行数)をmとすれば、画像データ量を1/mに圧縮することができる。
このように、処理対象画素信号におけるリセット成分ΔVと信号成分Vsig についてのカウントモードの組合せを全て同じにする、すなわち各画素信号についてのカウントモードを共通にすることで、カウント処理時の係数を全て正もしくは負にすることができる。
これは、加算演算処理のみを行なうことを意味し、加えて、本実施形態では、たとえば参照信号生成部27が発する参照信号RAMPの傾きを変えるなどして係数も設定できるので、減算処理を含む積和演算処理では実現できないようなフィルタ処理を実現できるようになる。たとえば、処理対象画素信号の全ての係数を同じにすれば平滑化フィルタ処理を実現できる。また、周辺画素の係数よりも中央画素の係数を大きくすれば、中央画素を強調する重付け加算処理を実現することができる。
以上説明したように、第1実施形態の構成によれば、演算データ処理部11Bのカウンタ部254Bは、複数の単位画素3の画素信号についてそれぞれカウント処理してAD変換を行なう際に、各画素信号の内の一方について取得したデジタルデータを他方の画素信号(後のカウント処理の対象信号)のカウント処理の初期値とすることで、複数の単位画素3のうちの他方についてカウント処理にてAD変換をした後には、自動的に全ての画素信号についての積和演算結果を示すnビットのデジタルデータを取得して演算データD2として出力することができる。
ここで、図3や図4に示したように、それぞれについてのカウントモードを異なるモードにすれば、後段の画素信号のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号についての減算結果を示すnビットのデジタルデータとなる。これに対して、図5に示したように、それぞれの信号成分についてのカウントモードを同じにすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号(詳しくは真の信号成分)についての加算結果のデジタルデータを取得することができる。3画素以上を処理対象とする場合、これらを組み合わせることで、各単位画素3からの画素信号(詳しくは真の信号成分)について、符号も含んだ総和を求める機能、つまり積和演算を実現することができる。
加えて、通常データ処理部11Aでは、演算データ処理部11Bにおける積和演算処理にて使用する複数の処理対象信号のうちの何れか1つに基づいて、通常通り、映像データD1を生成して出力するようにしている。
よって、単一の固体撮像装置1により、映像データD1と演算データD2とを同時に生成して、固体撮像装置1の外部へ出力することで、状況に応じて、適宜、映像データD1に基づく通常画像と演算データD2に基づく処理画像の両方もしくは一方を用いた適切な画像出力を行なうことができ、様々な利用形態を採ることができるようになる。
なお、上記実施形態では、垂直列方向にm行に亘って積和演算処理を行なう構成とその作用を説明したが、たとえば、列方向もしくは行方向についてのカラムAD回路25Bにおける積和演算結果のデジタルデータを複数受け取り、この複数のデジタルデータに基づき、カラムAD回路25Bにおける列方向もしくは行方向とは異なる方向についての積和演算を行なうデジタル演算部を出力回路28側に設けることで、行方向のみもしくは列方向および列方向(つまり2次元状に)にも空間差分処理や空間加算処理を実現することもできる。
あるいは、単位画素3から垂直信号線19を介してカラム処理部26Bに送られるアナログの画素信号を切替スイッチにより列並列に配された複数のカラムAD回路25Bの何れかに繋ぎ変えることで、行方向のみもしくは2次元状の積和演算処理に対応するようにすることができる。
あるいは、カウンタ部254Bを、公知の技術を利用して任意の初期値をロードすることのできる構成のものとし、前段のカウンタ部254Bの出力データが後段のカウンタ部254Bの対応するデータ設定端子Dinに入力し、列並列に配されたカラムAD回路25B(詳しくはカウンタ部254B)が行方向に縦続接続されて動作可能に構成してもよい。この場合、前列のカウント処理が完了した後、次列のカウントモードを設定した後のカウント処理の開始前に、前列のカウンタ部254Bにおけるカウント処理で取得したカウント値を次列のカウンタ部254Bの初期値として設定することで、行方向のみもしくは2次元状の積和演算処理に対応するようにすることができる。
列方向だけでなく、行方向についても積和演算処理を行なうことができるようにすることで、たとえば、高精度な図形の認識機能を実現することができるようになる。たとえば、先ず列方向に2行ずつ差分処理をして列方向に1次元状に投影された各列のエッジプロファイル(列方向エッジ検出画像)を取得し、この後、行方向に2列ずつ差分処理をして行方向に1次元状に投影された各行のエッジプロファイル(行方向エッジ検出画像)を取得し、これらで得られる2次元状のエッジプロファイルに基づき、エッジの形やエッジの数を解析して処理対象画像の図形の特徴を求め、これを基準のテンプレートと比較して最も類似したものを選択することにより、図形の認識機能を実現することができる。
また、m行×n列(n=mでもよい)の2次元に積和演算処理を展開することで、エッジ検出処理や直線検出処理あるいはパターン・マッチング処理などが2次元に展開できるようになる。たとえば、2次元方向のエッジ検出処理として、頂点座標の抽出処理や、45度斜め方向のエッジ検出処理ができるので斜め方向の直線検出処理が実現できる。
また、行列状に配された単位画素3を対象とした多入力の積和演算が簡単に実現でき、空間フィルタが掛るように単位画素3からの画素信号を配置でき、空間フィルタをCMOSイメージセンサに簡単に実装することができ、画像のエッジを強調する2次元のアンシャープ・マスキング・フィルタが簡単に実現できるようになる。また、画像圧縮処理で頻繁に使われる離散的コサイン変換を2次元状に実現することもできる。
<第2実施形態;固体撮像装置の構成;パイプライン処理>
図6は、本発明の第2実施形態に係るCMOS固体撮像装置の概略構成図である。第2実施形態の固体撮像装置1は、第1実施形態の固体撮像装置1に対して、カラムAD回路25の構成を変形している。
すなわち、第2実施形態におけるカラムAD回路25は、カウンタ部254の後段に、このカウンタ部254の保持したカウント結果を保持するnビットのメモリ装置としてのデータ記憶部256と、カウンタ部254とデータ記憶部256との間に配されたスイッチ258とを備えている。
スイッチ258には、他の垂直列のスイッチ258と共通に、通信・タイミング制御部20から、所定のタイミングで、制御パルスとしてのメモリ転送指示パルスCN8が供給される。スイッチ258は、メモリ転送指示パルスCN8が供給されると、対応するカウンタ部254のカウント値をデータ記憶部256に転送する。データ記憶部256は、転送されたカウント値を保持・記憶する。
なお、カウンタ部254のカウント値を所定のタイミングでデータ記憶部256に保持させる仕組みは、両者間にスイッチ258を配する構成に限らず、たとえば、カウンタ部254とデータ記憶部256とを直接に接続しつつ、カウンタ部254の出力イネーブルをメモリ転送指示パルスCN8で制御することで実現することもできるし、データ記憶部256のデータ取込タイミングを決めるラッチクロックとしてメモリ転送指示パルスCN8を用いることでも実現できる。
データ記憶部256には、水平走査回路12から制御線12cを介して制御パルスが入力される。データ記憶部256は、制御線12cを介しての制御パルスによる指示があるまでは、カウンタ部254から取り込んだカウント値を保持する。
水平走査回路12は、カラム処理部26の各電圧比較部252とカウンタ部254とが、それぞれが担当する処理を行なうのと並行して、各データ記憶部256が保持していたカウント値を読み出す読出走査部の機能を持つ。
このような第2実施形態の構成によれば、カウンタ部254が保持したカウント結果をデータ記憶部256に転送することができるため、カウンタ部254のカウント動作すなわちAD変換処理と、カウント結果の水平信号線18への読出動作とを独立して制御可能であり、AD変換処理と外部(先ずは水平信号線18)への信号の読出動作とを独立・並行して行なうパイプライン動作が実現できる。
<第2実施形態;パイプライン処理の動作>
図7は、図6に示した第2実施形態の固体撮像装置1のカラムAD回路25における基本動作を説明するためのタイミングチャートである。カラムAD回路25におけるAD変換処理は、第1実施形態と同様である。ここではその詳細な説明を割愛する。
第2実施形態においては、第1実施形態の構成に、データ記憶部256を追加したものであり、AD変換処理を始めとする基本的な動作は第1実施形態と同様であるが、カウンタ部254の動作前(t6)に、通信・タイミング制御部20からのメモリ転送指示パルスCN8に基づき、前行Hx−1の処理時におけるカウント結果をデータ記憶部256に転送する。
第1実施形態では、処理対象の画素信号における2回目の読出処理、すなわちAD変換処理が完了した後でなければ画素データをカラム処理部26の外部に出力することができないので、読出処理には制限があるのに対して、第2実施形態の構成では、処理対象の画素信号における1回目の読出処理(AD変換処理)に先立って前回の減算処理結果を示すカウント値をデータ記憶部256に転送しているので、読出処理には制限がない。
<第2実施形態;固体撮像装置の空間差分処理動作>
図8は、図6示した第2実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートである。ここでも画素部10には、色分解フィルタが設けられておらず、モノクロ画像対応のものであるとして説明する。
図7に示したように、第2実施形態においては、処理対象の画素信号における1回目の読出処理(AD変換処理)に先立って前回の減算処理結果を示すカウント値をデータ記憶部256に転送しているので、読出処理には制限がない。
なお、第2実施形態の固体撮像装置1における空間加算処理時の動作を説明するためのタイミングチャートは、図示を割愛するが、図5にて説明したように、各行のAD変換処理におけるリセット成分ΔVと信号成分Vsig とについてのカウントモードの組合せを同一にすればよい。
こうすることで、データ記憶部256から水平信号線18および出力回路28を経た外部への積和演算結果を示す演算データD2の信号出力動作と、現行Hxおよび次行Hx+1の読出しおよびカウンタ部254のカウント動作を利用した積和演算処理とを並行して行なうことができ、より効率のよい信号出力が可能となる。
図9は、空間差分処理や空間加算処理におけるフレームレートとの関わりを説明するタイミングチャートである。ここでも、画素部10には、色分解フィルタが設けられておらず、モノクロ画像対応のものであるとして説明する。
図3や図5を用いて説明したように、カウンタ部254Bのアップダウンカウント機能を使って2行ごとの積和演算処理を実現することにより差分画像や加算画像を取得するとともにデータ量を圧縮することができるが、第2実施形態の構成ではデータ記憶部256を設けたことで、AD変換とデータ読出とを同時並行的に処理できる。
ここで第2実施形態においては、積和演算処理の対象とする全ての画素(本例では行)についての総AD変換期間が、1行内に収まるようにする。こうすることで、総AD変換時間を1/2^mに低減するとともに、フレームレートを2^m倍向上させることができる。
ここで、処理対象の画素数2^m(“^”はべき乗を示す)として、総AD変換時間を1/2^mにしたり、フレームレートを2^m倍にしたりするに当たっては、参照信号RAMPの傾きを2^m倍にするとともに、カウントクロックCK0を2^m倍にする方法や、参照信号RAMPの傾きやカウントクロックCK0を変更せずにビット数を低減する方法などがある。
後者の場合、信号の最大幅(ダイナミックレンジ)に割り当てるビット分解能を通常時と同じに維持したまま信号の最大幅(ダイナミックレンジ)をカバーするようにすると、各単位画素3についてのAD変換期間すなわちフルスケール分(たとえばnビットカウントに対してnビット分)のAD変換期間を1行分に割り当てることができないので、各単位画素3についての最長AD変換期間をそれぞれ1/2^m倍と短くする必要がある。参照信号RAMPの傾きを通常処理時と同じにする場合、概ね、ビット数を“m”だけ少なくする必要があることを意味する。
つまり、参照信号RAMPの傾きやカウントクロックCK0を変更せずに、ビット分解能を維持したままで、複数画素の演算を1行期間内に収めるには、処理対象とする画素数(本例では行数)に応じて、カウント処理のビット数を上述のように調整する必要がある。
つまり、AD変換精度を維持したままAD変換期間を短くできない場合、2^m個の画素を積和演算処理の処理対象とする場合、図9のタイミングチャートにおけるカウンタ部254の各2回目(すなわち信号成分Vsig の比較期間)のカウント処理のデジタルカウントを、“n−m”ビットまでとするとよい。
たとえば、2行について積和演算処理を行なう場合において、10ビットでカウント処理を行なう場合、本来は1024クロック期間比較を行なうが、9ビットでカウント処理を行なう、すなわち512クロック期間に削減する。このとき、参照信号生成部27のDA変換回路27aで生成される参照信号RAMPの時間変化の割合は同一とする。これは、AD変換精度、すなわちビット分解能が変化しないことを意味する。
本例においては、図9のタイミングチャートに示すように、AD変換期間を1/2に短縮することで、カウントクロックCK0を変更することなく、またデータ出力レートを変更せずにフレームレートを2倍にすることができる。
なお、フレームレートが2倍になると、単位画素当りの蓄積時間は1/2となり、信号振幅も1/2となりS/Nが低下する可能性がある。同様に、2^m(“^”はべき乗を示す)行を処理対象の単位として減算を実行しAD変換期間を1/mに削減した場合、フレームレートがm倍となる。このとき、nビットのAD変換精度をn−mビットに低減することで、S/Nの劣化の可能性はあるがフレームレートを向上させることができる。
これに対して、加算演算を実施すると、2行加算実行後のデジタル値は、Vsig1+Vsig2となりフレームレートが2倍になった場合でも信号振幅は(Vsig1+Vsig2)/2≒Vsig1となり、信号振幅の変化は少なくS/Nも劣化しない。
一方、通常データ処理部11A側においても、垂直走査回路14にて選択された行の画素信号を用いて通常画像を表す映像データD1を生成しなければならないので、フレームレートを演算データ処理部11B側に合わせる必要がある。この場合、カラムAD回路25Aは、AD変換期間をカラムAD回路25Bと同様に短縮すればよい。また、水平走査回路12Aは、カラムAD回路25Aで得られる奇数行および偶数行のうちの何れか一方のカウント値のみをデータ記憶部256Aから選択して出力する間引き読出しを行なうようにすればよい(図9では奇数行で示す)。
<空間差分処理の動作;カラー対応>
図10は、図1や図6に示した固体撮像装置1のカラムAD回路25Bにおける空間差分処理動作を説明するためのタイミングチャートである。この例は、画素部10をカラー撮像対応にしている点に特徴を有する。同色同士の差分演算を行なうために有効な構成である。
図1や図6に示したように、画素部10における受光面には、カラー画像を撮像するための赤(R),緑(G),青(B)の色フィルタの組合せからなるベイヤ(Bayer)配列の基本形のカラーフィルタに配されている。たとえば、奇数行偶数列には第1のカラー(赤;R)を感知するための第1のカラー画素を配し、奇数行奇数列および偶数行偶数列には第2のカラー(緑;G)を感知するための第2のカラー画素を配し、偶数行奇数列には第3のカラー(青;B)を感知するための第3のカラー画素を配しており、行ごとに異なったR/G、またはG/Bの2色のカラー画素が市松模様状に配置されている。
固体撮像装置1としては、使用する画素部10(デバイス)を決めると、色分解フィルタにおける色フィルタの色の種類や配列は決まり、2次元格子位置における任意位置の色フィルタが何色であるのかを一義的に特定することができる。
よって、本例においては、垂直走査回路14は、画素部10からの画素信号の読出指示を通信・タイミング制御部20から受けると、水平行を垂直方向に順に走査するのではなく、垂直デコーダ14aにおいて、色分解フィルタの各色フィルタの配置位置に基づいくアドレスデコード処理により、任意の行線Hyを選択することで、カラーフィルタの配列に合わせて、同一の色配列の行を組み合わせるように行を選択する。
つまり、積和演算の対象となる複数の画素信号が同一色の色フィルタのものとなるように、処理対象の複数の単位画素3のそれぞれの位置を指定する。これにより、たとえば奇数行と偶数行とで色配列が異なる場合には、差分処理の対象行を奇数行と偶数行とに分けて独立に差分処理を行なうことができる。
ベイヤ配列カラーフィルタを有する画素部10において、同一行の画素には緑Gと赤Rまたは青Bと緑Gのカラーフィルタが配置されている。このため、図3や図5などのように行線Hxを順次選択してくと、異なるカラーフィルタ要素を持つ画素同士の演算となり、混色を起こす。
これに対して、本例では、垂直走査回路14にて、行線Hyの読み出しを、奇数の行線H1,行線H3,行線H5,…と、偶数の行線H2,行線H4,行線H6,…、というように、同一のカラーフィルタ要素を持つ行の組合せで順に行を選択することで、同色同士での積和演算処理(本例では差分処理)を行なうことができ、混色を起こすことがない。
図1や図6に示した画素配列でいえば、2行単位で差分処理を行なうと、行線H1上にある画素G11と行線H3上にある画素G31、行線H1上にある画素R12と行線H3上にある画素R32、…、というように、ともに奇数の行線H1上の画素と行線H3上の画素間にて、つまり奇数行同士の差分処理が実現できる。同様に、行線H2上にある画素B21と行線H4上にある画素B41、…、行線H2上にある画素G22と行線H4上にある画素G42、…、というように、ともに偶数の行線H2上の画素と行線H4上の画素間にて、つまり偶数行同士の差分処理が実現できる。
なお、図1や図6では、正方格子状に配された単位画素3に対して、赤(R),緑(G),青(B)の3色カラーフィルタをベイヤ(Bayer)配列の基本形に従って配列していたが、フィルタ色やその配列順は図1や図6に示した例に限定されない。たとえば、ベイヤ配列の改良形にすることもできるし、補色フィルタあるいはその他のフィルタ色を用いることができる。
たとえば、偶数行偶数列に配した第2のカラー(緑;G)を感知するための第2のカラー画素に代えて、第4のカラー(エメラルド;E)を感知するための第4のカラー画素を配してもよい。この場合でも、差分処理に際しての行選択制御のタイミングは、図10に示したタイミングをそのまま使用することができる。
色信号処理についての詳細な説明は割愛するが、4色カラーフィルタに対応して、4色で撮影された各色の映像信号から、人間の目に近いRGBの3色を作り出すためのマトリックス演算を行なう画像処理プロセッサを出力回路28の後段に設ける。赤(R),緑(G),青(B)のフィルタに加えてエメラルド(E)のフィルタを搭載すれば、3色カラーフィルタよりも色再現の差を低減させることができ、たとえば青緑色や赤色の再現性を向上させることができる。
なお、図10に示した例では、同一色配列の2行に亘る差分処理について示したが、同一色配列の3行以上に亘る積和演算処理(減算および/または加算)にも展開できる。この場合でも、同一色配列の行間で積和演算処理を行なうことで、同一のカラーフィルタ要素を持つ画素同士の演算とすることができ混色を起こすことがない。
加えて、通常データ処理部11Aでは、演算データ処理部11Bにおける積和演算処理にて使用する複数の処理対象信号のうちの何れか1つに基づいて、通常通り、カラー用の映像データD1を生成して出力する。よって、単一の固体撮像装置1により、カラー映像データD1と演算データD2とを同時に生成して、固体撮像装置1の外部へ出力することで、状況に応じて、適宜、映像データD1に基づくカラー画像と演算データD2に基づく処理画像の両方もしくは一方を用いた適切な画像出力を行なうことができ、モノクロ撮像対応の場合と同様に、様々な利用形態を採ることができる。
以上説明したように、第1および第2実施形態の固体撮像装置によれば、アップダウンカウンタを用いつつ、その処理モードを切り替えてm回に亘ってカウント処理を行なうようにした。また、行列状に単位画素3が配列された構成において、カラムAD回路25を垂直列ごとに設けた列並列カラムAD回路で構成した。
さらに、m回に亘ってカウント処理を行なうことで積和演算処理を実現するカラムAD回路25Bなどを有する演算データ処理部11Bに加えて、通常のカウント処理を行なってリセット成分ΔVと信号成分との差を示す真の信号成分Vsig を取り出してカラムAD回路25Aなどを有する演算ブロックAを設けることで、演算画像の出力と同時に通常画像も出力可能に構成した。
このため、基準成分(リセット成分)と信号成分との減算処理が2回目のカウント結果として垂直列ごとに直接に取得することができ、基準成分と信号成分のそれぞれのカウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。また、基準成分と信号成分との差を取るための特別な減算器が不要になる。
加えて、この減算処理で得られる真の信号成分を複数使って積和演算処理を行なう際も、カウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。
このように、AD変換結果を保持するだけの特別なメモリや、基準成分と信号成分との差を取るための特別な減算器や、積和演算処理を行なうための特別な減算器や加算器などの周辺回路が不要になる。よって、回路規模や回路面積を少なくすることができ、装置全体としてコストの低減を図ることができ、加えて、雑音の増加や電流、消費電力の増大を解消することができる。
また、比較部とカウンタ部でカラムAD回路(AD変換部)を構成したので、ビット数によらずカウンタ部を動作させるカウントクロック1本とカウントモードを制御する制御線とでカウント処理を制御でき、カウンタ部のカウント値をメモリ装置まで導く信号線が不要になり、雑音の増加や消費電力の増大を解消することができる。
つまり、AD変換装置を同一チップ上に搭載した固体撮像装置1において、電圧比較部252とカウンタ部254とを対にしてAD変換部としてのカラムAD回路25を構成するとともに、カウンタ部254の動作としてダウンカウントとアップカウントとを組み合わせて使用しつつ、信号成分の差や和をデジタルデータにすることで、回路規模や回路面積や消費電力、あるいは他の機能部と間のインタフェース用配線の数や、この配線によるノイズや消費電流などの問題を解消することができる。
また、処理モードとして、差分演算や加算演算あるいはこれらを組み合わせた積和演算処理モードにすれば、チップ外部のメモリを使用しないで、かつ列並列に配置されたカラムAD回路25Bのモード切替可能なアップダウンカウント機能やカウンタが持つラッチ機能を利用することで、積和演算結果を多値データで出力するようにしているのでデータの取扱いの自由度が増し、1次元や2次元に高精度の積和演算処理を実現できる。これによって、エッジ検出処理や直線検出処理あるいはパターン・マッチング処理などの空間処理が1次元や2次元に簡単に実現できる。
また演算データ処理部11Bでの積和演算処理と並行して、通常データ処理部11Aを動作させる通常通り映像データD1を生成することで、映像データD1と演算データD2とを同時に生成して固体撮像装置1の外部へ出力することで、状況に応じて、適宜、映像データD1に基づくモノクロもしくはカラーの通常画像と演算データD2に基づく1次元や2次元に展開された処理画像の両方もしくは一方を用いた適切な画像出力を行なうことができる。
<第3実施形態;固体撮像装置の構成;時間差分処理>
図11は、本発明の第3実施形態に係るCMOS固体撮像装置の概略構成図である。また、図12は、第3実施形態で用いる単位画素3の構造模式図である。第3実施形態の固体撮像装置1は、積和演算処理機能として、空間差分処理に代えて、時間差分処理を行なうことで動体検出を可能に構成した点に特徴を有する。時間差分処理を行なう場合、演算の対象画素は同一配列位置のものとする。
第3実施形態の画素部10における単位画素3は、入射光に応じた電荷を生成し蓄積するフォトダイオードなどの電荷生成部(PD;光検出部/光電変換素子)32と、制御領域(ゲート)に供給された電荷に応じてそのソース・ドレイン間に入射光に応じたアナログ信号を出力する増幅用トランジスタ(M)42と、電荷生成部32で生成・蓄積された電荷を増幅用トランジスタ42の制御領域に直接かつ選択的に転送するためのpチャネル型の読出選択用トランジスタ34と、増幅用トランジスタ42の制御領域の電荷をリセットするためのpチャネル型のリセットトランジスタ36と、増幅用トランジスタ42と垂直信号線19の間に設けられて増幅用トランジスタ42のソースと垂直信号線19を分離/接続するnチャネル型の垂直選択用トランジスタ40とを含んで構成されている。
図12(A)に示すように、電荷生成部32にて検出された入射光に応じた電気信号(信号電荷)が増幅用トランジスタ42のゲート(制御領域)に供給されて、そのソースフォロア動作によって電流増幅され、その後、この電気信号が、各々対応する垂直信号線19に読み出され、垂直信号線19に信号電圧が現れる仕組みになっている。
ここで、増幅用トランジスタ42としては、nチャネル型の接合型電界効果トランジスタ(JFET)を使用している。この接合型FETのP型領域は、電荷生成部32にて検出された信号電荷であるホールを蓄積する画素内メモリ(電荷保持部)としても機能するので、電荷生成部32と増幅用トランジスタ42の両方に蓄積された信号を使うことで、単位画素3から前のフレームの信号と現在のフレームの信号を短い間隔で順次出力し、比較することができるようになっている。
各増幅用トランジスタ42のソースは、画素分離用の垂直選択用トランジスタ40を介して、マトリックス状に配置された列ごとに対応する垂直信号線19に共通に接続されている。また、各増幅用トランジスタ42のドレインおよび電荷生成部32のカソード側には電源電圧Vdd(正電圧)が印加されている。
また、電荷生成部32のアノード側と増幅用トランジスタ42のゲート(制御領域)には、転送用の読出選択用トランジスタ34のソース・ドレインが接続されている。また、転送用の読出選択用トランジスタ34の転送用ゲート(TG)は、マトリックス状に配置された単位画素3の行ごとに、行制御線15(詳しくは転送ゲート配線)に共通接続され、行制御線15に接続された垂直走査回路14から送出される駆動パルスφTGが与えられると、駆動パルスφTGのレベルに応じて転送用の読出選択用トランジスタ34が行ごとに順次動作するようになっている。
また、リセット用のリセットトランジスタ36のドレイン(リセットドレイン)には、電源電圧Vrdが単位画素3ごとに共通に接続されて電圧が印加されている。また、リセット用のリセットトランジスタ36のゲート(RSG)は、垂直走査回路14に接続された行制御線15(詳しくはリセット配線)に共通に接続され、そのソースは、転送用の読出選択用トランジスタ34のソースと共有になっている。
そして、このリセット用のリセットトランジスタ36のゲートに垂直走査回路14から駆動パルスφRGが与えられると、リセット用のリセットトランジスタ36は、この駆動パルスφRGのレベルに応じて動作するようになっている。また、画素分離用の垂直選択用トランジスタ40のゲートは、マトリックス状に配置された単位画素3の行ごとに、制御線15(詳しくは行選択線/垂直選択線)に共通接続され、垂直走査回路14からの駆動パルスφSELのレベルに応じて、画素分離用の垂直選択用トランジスタ40が行ごとに順次動作するようになっている。
なお、図示を割愛するが、カラム処理部26と水平走査回路12との間の垂直信号線19の信号経路上には、各垂直信号線19に対してドレイン端子が接続された図示しない負荷MOSトランジスタを含む負荷トランジスタ部が配され、各負荷MOSトランジスタを駆動制御する負荷制御部(負荷MOSコントローラ)が設けられている。
単位画素3を構成する増幅用トランジスタは各垂直信号線19に接続されており、また垂直信号線19は垂直列ごとに負荷MOSトランジスタのドレインに接続され、また各負荷MOSトランジスタのゲート端子には、負荷制御部からの負荷制御信号CTldが共通に入力されており、信号読出し時には、各増幅用トランジスタに接続された負荷MOSトランジスタによって、予め決められた定電流を流し続けるようになっている。
なお、本実施形態では、増幅アンプとしてだけでなく画素内メモリとしても機能する接合型電界効果トランジスタ(JFET)を単位画素3として使用し、この接合型電界効果トランジスタが持つメモリ機能を利用して、複数フレームの同一画素位置の画素信号を取得するが、複数フレームの同一画素位置の画素信号を取得するための画素構造は、接合型電界効果トランジスタを利用するものに限定されない。
画素内メモリを利用する画素構造としては、接合型電界効果トランジスタの他に、たとえば、図12(B)に示すように、電荷生成部32としてのフォトダイオードにフォトゲート(Photogate )と呼ばれるMOSダイオードを使ったものを利用することができる。この画素構造では、フォトゲートで光電変換した信号電荷を、読出ゲートTxを挟んで形成されている画素内メモリとして機能するフローティングディフュージョン(FD)38に転送し、フローティングディフュージョン38の電圧変化を増幅用トランジスタ42で増幅して出力する。このとき、予めフローティングディフュージョン38をリセットしてリセット信号を出力した後、蓄積の完了したフォトゲートから読出ゲートTxを通して信号電荷を読み出して画素信号を出力する。フローティングディフュージョン38のKTcノイズを画素信号とリセット信号のCDS動作により取り除くことができる利点がある。
また、画素内メモリとして機能するフローティングディフュージョン(FD)38を利用する他の画素構造としては、図12(C)に示すように、埋込フォトダイオードを使ったものを利用することができる。この画素構造における読出動作は、フォトゲートを利用した構造における読出ゲートTxを読出選択用トランジスタ34に置き換えて考えればよい。埋込フォトダイオードは、pn接合部に生じる空乏層が画素表面に達しないため低暗電流を実現でき、またフォトゲートのような電極材料による光の吸収がない利点がる。リセット時のKTcノイズが発生しないことはフォトゲートを使った構造と同様である。
なお、接合型電界効果トランジスタに代えて、フォトゲートや埋込フォトダイオードと画素内メモリとしてのフローティングディフュージョンとを組み合わせた場合の読出タイミングについては図示を割愛するが、概ね、以下の図13で示す接合型電界効果トランジスタと同様に、先ずフローティングディフュージョンに保持しておいた前フレームの信号成分を読み出した後にフローティングディフュージョンをリセットし、この後、現フレームにおける露光にて電荷生成部32で生成された信号電荷をフローティングディフュージョンに転送して、現フレームの信号成分を読み出すようにする。
図13は、第3実施形態の単位画素3を駆動する動作を説明するタイミングチャートである。図13には、一定のタイミングごとに入射光を検知する1つの単位画素3が、連続した2フレーム、すなわちn−1フレーム(直前のフレーム)、nフレーム(現在のフレーム)で入射光を検出して、その読出動作を行なう場合を示している。
なお、マトリックス状に配置された各単位画素3のうち同一行の単位画素3の読出動作は同じであり、図13のn−1フレームまたはnフレームの期間t60〜t69が1行目の単位画素3の読出動作を、期間t70〜t79が、2行目の単位画素3の読出動作をそれぞれ示している。以下、nフレーム(現在のフレーム)における1行目の単位画素3の読出動作を中心に、図13のタイミングチャートのnフレームの期間t60に至ったときから説明する。なお、n−1フレームにおける読出動作は、以下に説明するnフレームにおける読出動作と同じである。
nフレームでのt60からt61に至る前(n−1フレームのt75の終了時以降と同等)、各行の駆動パルスφTGはともにハイレベルに保持され、各行の駆動パルスφSELはともにハイレベルに保持され、各行の駆動パルスφRGはともにハイレベルに保持されている。
このようにt61に至る前は、各行の駆動パルスφTGがハイレベルのため転送用の読出選択用トランジスタ34はオフとなり、各行の駆動パルスφRGがハイレベルのためリセット用のリセットトランジスタ36はオフとなっている。
したがって、増幅用トランジスタ42のゲート(制御領域)はフローティング状態とされるが、寄生容量の効果により、すでに直前のn−1フレームで各転送用の読出選択用トランジスタ34がオンのときに読出選択用トランジスタ34を介して各増幅用トランジスタ42のゲート(制御領域)に転送されている各電荷生成部32で生成された入射光に応じた電荷(第1信号電荷)は、読出選択用トランジスタ34がオフとなった後も各増幅用トランジスタ42のゲート(制御領域)に保持された状態となっている。増幅用トランジスタ42は、そのゲート(制御領域)に蓄積された電荷がリセットされるまでの間、ソースフォロア動作によりそのゲート電圧に応じた電気信号を出力する。
なお、転送用の読出選択用トランジスタ34がオフとなった後は、各電荷生成部32では、新たに入射光に応じた電荷(第2信号電荷)が生成・蓄積される。このときの第1信号電荷が、電荷生成部32にて生成・蓄積されたn−1フレーム(直前のフレーム)における入射光に応じた電荷であり、第2信号電荷が電荷生成部32にて生成・蓄積されたnフレーム(現在のフレーム)における入射光に応じた電荷となる。
また、t61に至る前は、各駆動パルスφSELがともにハイレベルのため画素分離用の垂直選択用トランジスタ40はオフとなっており、各単位画素3は垂直信号線19から分離された状態となっている。
次に、t60が経過しt61に至ると、1行目の駆動パルスφSEL1がローレベルに反転され、1行目の各単位画素3の画素分離用の垂直選択用トランジスタ40がオンとなって、増幅用トランジスタ42は、ソースが垂直信号線19に接続され、オン(選択)となる。このとき、1行目の各単位画素3の増幅用トランジスタ42のゲート(制御領域)には、すでに直前のフレームにおいて(n−1のフレームの期間t63において)入射光に応じた第1信号電荷が転送され、読出選択用トランジスタ34がオフとなった後も第1信号電荷が保持されているので、この保持された第1信号電荷に応じた電気信号が垂直信号線19に出力される。
また、t61では、リセットトランジスタがオフとなっているので、このt61において選択された1行目の各増幅用トランジスタ42がソースフォロア動作をしたとき、そのソースの電位は、ソース・ドレイン間に流れる電流(ドレイン電流)が、図示しない負荷MOSトランジスタによる定電流源に流れる電流値IBになるまで上昇する。
このとき、この1行目の各増幅用トランジスタ42は、そのゲート(制御領域)に、直前のフレーム(n−1フレームの期間t63)において第1信号電荷が転送され、転送終了後(転送用の読出選択用トランジスタ34がオフ)もそのゲート電圧を保持しているため、ソースフォロア動作によって第1信号電荷に応じた第1出力信号Vssn-1 を出力する。第1出力信号をVssn-1 の値は、式(7)に示される値となる。
ここで、VRDはn−1フレームでリセット用のリセットトランジスタ36がオンのときに供給された電源電圧、VS1はn−1フレームにおける第1信号電荷に応じた増幅用トランジスタ42のゲート電位の上昇分、VTは増幅用トランジスタ42のドレイン電流が図示しない負荷MOSトランジスタで規定される負荷電流IBのときのゲート・ソース間の電圧である。なお、VS1の値は、“入射光に応じた第1信号電荷/ゲート容量”で求められる。このようにして検知されたn−1フレームの出力信号Vssn-1 が、対応する垂直列のカラムAD回路25に通知される。また、実際には、駆動パルスφRGをローレベルにするリセット動作によって、真の信号成分だけでなくリセット成分やその他のばらつき成分(纏めてΔV1とする)を含んで画素信号が現われるのは、第1実施形態にて説明したと同様である。
なお、このとき2行目の各増幅用トランジスタ42に関しては、駆動パルスφSEL2が依然ローレベルであるために、2行目の各画素分離用の垂直選択用トランジスタ40がオフとなっており、2行目の各増幅用トランジスタ42のソースは垂直信号線19に接続されない状態になっている(非選択)。この後t62に至ると、駆動パルスφRG1がローレベルに反転される。
このt62において、駆動パルスφRG1がローレベルになることによって、1行目の各リセット用のリセットトランジスタ36がオンとなり、電源電圧VRD(読出しレベル)が1行目の各増幅用トランジスタ42のゲート(制御領域)に伝わる。このリセット用のリセットトランジスタ36のオンにより、増幅用トランジスタ42のゲート(制御領域)から第1信号電荷が排出されるとともに、増幅用トランジスタ42のゲート(制御領域)が電源電圧VRD(読出しレベル)にバイアスされる。
さらにt63に至ると、駆動パルスφRG1がハイレベルに反転されることにより、1行目の各リセット用のリセットトランジスタ36が再びオフとなり、1行目の増幅用トランジスタ42のゲート(制御領域)はフローティング状態とされるが、その寄生容量の効果によって、ゲートは、電源電圧VRD(読出しレベル)にバイアスされたままの状態が保持される。
さらにt64に至ると、駆動パルスφTG1がローレベルに反転され、1行目の各単位画素3の転送用の読出選択用トランジスタ34がオンとなり、1行目の各単位画素3のフォトダイオードにおいて生成・蓄積された入射光に応じた電荷(第2信号電荷)が、1行目の各単位画素3の増幅用トランジスタ42のゲート(制御領域)に転送される。第2信号電荷が、nフレームにおける入射光に応じた電気信号電荷となる。
このように、増幅用トランジスタ42のゲート(制御領域)に、nフレーム(現在のフレーム)における入射光に応じた電荷(第2信号電荷)が転送されると、各増幅用トランジスタ42のゲート電位は、転送された電荷の分だけ上昇するので、1行目の増幅用トランジスタ42がソースフォロア動作をし、増幅用トランジスタ42のソースの電位は、ゲート電位の上昇分だけ上昇する。
この場合、ソースフォロア動作をする1行目の各増幅用トランジスタ42からは第2信号電荷に応じた第2出力信号(第2の電気信号)が、このときオンとなっている画素分離用の垂直選択用トランジスタ40を介して、垂直信号線19に出力される。
さらにt65に至ると、1行目の駆動パルスφTG1がハイレベルに反転されることにより、1行目の各転送用の読出選択用トランジスタ34がオフとなり、1行目の単位画素3の電荷生成部32において生成・蓄積された入射光に応じた電荷(第2信号電荷)の増幅用トランジスタ42のゲート(制御領域)への転送が終了し、増幅用トランジスタ42のゲート(制御領域)は再びフローティング状態とされるが、その寄生容量の効果によって、転送された電荷(第2信号電荷)の分だけゲートの電位が上昇したままその状態が保持される。
このnフレームで、現在のフレームに対する第2信号電荷としてゲート(制御領域)に転送された電荷は、次のn+1フレーム(図示省略)でこのゲートがリセットされるまで(リセット用のリセットトランジスタ36がオンとなるまで)保持される。この結果、このときゲートに蓄積されている電荷が、n+1フレームでは第1信号電荷(直前のフレームに対する電荷)として用いられる。
このように、転送用の読出選択用トランジスタ34がオンとなって第2信号電荷が、増幅用トランジスタ42のゲート(制御領域)に一旦転送され、その後、転送用の読出選択用トランジスタ34がオフとなっても、第2信号電荷がゲート(制御領域)に保持されるので、増幅用トランジスタ42からは、その後ゲートがリセットされるまでのソースフォロア動作で(t65以降)、ゲートに蓄積された電荷(第2信号電荷)に応じた電気信号(第2出力信号Vssn )が出力されることとなる。
t64〜t65において、ソースフォロア動作によってソース・ドレイン間に流れる電流が図示しない負荷MOSトランジスタで規定される負荷電流IBになったとき、増幅用トランジスタ42のソースの電位(第2出力信号Vssn )の値は、式(8)に示される値になる。
ここで、VS2は第2信号電荷に応じた増幅用トランジスタ42のゲート電位の上昇分である。なお、VS2の値は、VS1と同様に、“入射光に応じた第2信号電荷/ゲート容量”として表わされる。また、実際には、駆動パルスφRGをローレベルにするリセット動作によって、真の信号成分だけでなくリセット成分やその他のばらつき成分(纏めてΔV2とする)を含んで画素信号が現われるのは、第1実施形態にて説明したと同様である。このようにして検知されたnフレームの出力信号Vssn が、対応する垂直列のカラムAD回路25に通知される。
次に、t69に至ると、駆動パルスφSEL1がハイレベルに反転されることによって、画素分離用の垂直選択用トランジスタ40がオフとなって、1行目の単位画素3と垂直信号線19とが分離される。
続くt70〜t79においては、2行目の単位画素3に対して、上述したt60〜t69における1行目の単位画素3の読出動作と同様の動作が繰り返して行なわれ、nフレームにおける時間差分処理を行なう。
以上説明したように、連続した2フレーム(n−1フレームとnフレーム)間においてそれぞれ得られた、入射光に応じて出力される各単位画素3からのアナログの輝度をあらわすn−1フレームとnフレームの各出力信号Vssn-1 ,Vssn が、各々カラムAD回路25に入力される。
接合型電界効果トランジスタの制御領域に、フォトダイオードなどの光電変換素子で生成・蓄積された電荷を直接的に供給するだけで、ゲートに供給された電荷に応じた電気信号を、直前のフレームに対する電気信号と現在のフレームに対する電気信号の2つの信号として出力することができる。ゲートに電荷を直接転送して電圧信号にしてから垂直信号線19を介して画素信号を読み出すようにしているので、電荷のままで(電流モードで)画素信号を出力する場合に比べて電荷配分による信号の劣化を抑えることができる。
カラムAD回路25においては、連続した2フレーム(n−1フレームとnフレーム)間で得られた複数フレームについてのアナログの第1出力信号Vssn-1 と第2出力信号Vssn の差分を検出する、すなわち時間差分処理を行なうことで、動体検出を行なう。そして、上記動作を繰り返して行なうことにより、さらに連続した2またはそれ以上のフレーム間でその動体検出を行なうことができるようになる。
<第3実施形態;時間差分処理の動作>
図14は、図11に示した第3実施形態の固体撮像装置1のカラムAD回路25における時間差分処理動作を説明するためのタイミングチャートである。また、図15は、時間差分処理におけるフレームレートとの関わりを説明するタイミングチャートである。ここでは、演算データ処理部11Bによる時間差分出力側と通常データ処理部11A側による通常映像出力側の動作とに分けて説明する。
<時間差分出力側の動作>
図14において、時間差分処理の動作タイミングは、図8に示した第2実施形態の空間差分処理におけるn−1行(直前の行)をn−1フレーム(直前のフレーム)に、n行(現在の行)をnフレーム(現在のフレーム)に、それぞれ置き換えて考えればよい。
カラムAD回路25は、増幅用トランジスタ42に蓄積された直前フレームn−1の画素信号Vssn-1 と電荷生成部32に蓄積された現在フレームnの同一行の画素信号Vssn を短い間隔で順次取り込み、それらの差を取る。
すなわち、直前フレームの画素信号Vssn-1 についての2回目のカウント処理が完了した後に、現行フレームの画素信号Vssn について、1回目のアップカウント処理を開始する際に、カウンタ部254に保持されているカウント値をリセットしないで引き続きカウント処理を行なうようにすることで、現行フレームの画素信号Vssn についての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値である時間差分データD5は、式(9)に示すように、フレームの異なる2つの画素信号Vssn-1 ,Vssn 間での差分演算の結果(Vssn-1 −Vssn )を示すkビットのデジタル値となる。フレームの異なるすなわち撮像時刻の異なる2つの画素信号Vssn-1 ,Vssn 間での差分演算を行なっているので、その差分処理は、空間差分処理ではなく時間差分処理となる。
式(9)で求めた時間差分データD5がゼロでなければ、フレーム間で画像に動きが存在したことになるので、被写体のうち動体の部分を検出することができる。
なお、図13に示した単位画素3の駆動タイミングから分かるように、n−1フレーム(直前のフレーム)の画素信号は、真の信号成分Vsig1の後に駆動パルスφRGに基づくリセット成分やその他のばらつき成分(ΔV1)が現われるのに対して、nフレーム(現在のフレーム)の画素信号は、駆動パルスφRGに基づくリセット成分やその他のばらつき成分(ΔV1)の後に、真の信号成分Vsig2が現われる。
そこで、通信・タイミング制御部20は、時間差分処理のためのカウント処理時には、これら各成分の現れ方を考慮して、カウンタ部254におけるカウントモードを制御する。たとえば、図14に示すように、n−1フレームに関しては、先ずアップカウントモードにして信号成分Vsig1とΔV1との合成成分についてカウント処理を行ない、この後、アップカウントモードにしてΔV1についてカウント処理を行なうことで、n−1フレームの信号成分Vsig1のカウント値(画素データ)を求める。引き続くnフレームに関しては、先ずアップカウントモードにしてΔV1についてカウント処理を行ない、この後、ダウンカウントモードにして信号成分Vsig1とΔV1との合成成分についてカウント処理を行なう。これにより、カウント結果としては、“Vsig1−Vsig2”、つまり2フレームにおける真の信号成分の差分を求めることができる。
なお、ΔV1とΔV2とは、何れも、同一時点の駆動パルスφRGに基づくものであり、概ね同じと考えることもできる。よって、ΔV1とΔV2とについてのカウント処理を割愛しても、カウント結果としては、“Vsig1−Vsig2”、つまり2フレームにおける真の信号成分の差分を求めることができる。この場合、カウント処理を割愛した分だけ消費電力を低減することができる。
なお、上述のような時間差分処理で取得したカウント値に基づいて動体検出を行なう場合、ランダム雑音などの成分による誤判定を防止するべく、閾値処理を行って判定するのがよい。すなわち、式(9)で求めたデジタル値が一定以上である場合に、動体が検知されたものと判定する。
また、電荷のゆらぎなどに起因して発生するショット雑音(shot noise)は、信号の大きさの平方根に比例する、すなわち被写界が明るく輝度レベルが大きい場合にはショット雑音のレベルが大きくなる特質を持っているので、判定の閾値を一定すると、被写体が明るい場合には、静止しているものが誤って動体として検出されてしまう、あるいは逆に、低コントラストの被写体について十分な動き検出ができなくなる、被写界が暗い場合には、ランダム雑音の影響を受けやすく、静止しているものが誤って動体として検出されてしまう、など被写界が極端に明るい場合や極端に暗い場合には、動体信号を精度良く生成することができないという問題を生じ得る。
これを避けるべく、被写体のコントラストが高い場合や被写界が暗い場合には判定の閾値を上げる一方、被写体のコントラストが低い場合や被写界が明るい場合には判定の閾値を下げるなど、状況に応じて判定の閾値を調整するのがよい。こうすることで、精度良く被写体の動きを検出することができるようになる。
このように、本実施形態では、動体を示す時間差分データD5をnビットの多値デジタルデータで出力するようにしているので、データの取扱いの自由度が増し、デバイスの外部においても、被写体のコントラストや照明などの環境条件に応じて、直前フレームに対する電気信号と現在フレームに対する電気信号との差分に基づき、映像コントラストや照明などの条件に合わせて動体であるか否かの判定を高精度で行なうことができる。
時間差分演算の手法は、第1や第2実施形態と同様に、電圧比較部252とカウンタ部254を用いて、各フレームの画素信号に応じた電圧信号と所定の傾きで変化する参照信号とを比較して、参照信号の生成時点から、各フレームの画素信号に応じた電圧信号と参照信号とが一致した時点までをカウントクロックでカウント(計数)することで、各フレームの画素信号に応じた電圧信号の各大きさの差分に対応したカウント値を得るようにしているので、AD変換の後に追加の差分回路を設ける必要なく、AD変換と同時に動体を表す差分信号を簡単に得ることができる。
加えて、第1や第2実施形態で説明したと同様に、回路規模や回路面積や消費電力、あるいは他の機能部と間のインタフェース用配線の数や、この配線によるノイズや消費電流などの問題を解消するなどの効果を享受できる。
<通常映像出力側の動作>
一方、図14において、通常画像出力処理の動作タイミングは、図14に示すnフレーム(現在のフレーム)の読出期間の動作だけを行なうとよい。n−1フレーム(直前のフレーム)の読出処理を停止させるには、参照信号生成部27Aやカウンタ部254Aに供給するカウンタクロックCK0を供給しないようにすればよい。こうすることで、nフレーム(現在のフレーム)の映像信号のみを取り出すことができる(図15参照)。
なお、図14の時間差分処理におけるnフレーム(現在のフレーム)の読出期間の画素信号の極性は負であるが、通常画像出力処理の場合には、リセットレベルΔV2についてはダウンカウントモード、信号レベルVssn(真の信号成分Vsig2)についてはアップカウントモードとすることで、正極性の画素信号を取得することができる。
このように、第3実施形態の固体撮像装置1によれば、動体検出用の時間差分データD5とともに、通常画像を示す映像データD1を並行して出力するようにしたので、動き検出とビデオ信号の出力を同時に行なうことができる。これにより、時間差分データD5と映像データD1とを、状況に応じて適宜切り替えてもしくは両方を同時に用いることで、種々な使い方ができるようになる。
なお、上記実施形態では、カラムAD回路25Bが行方向に複数配列され、行単位で画素部10から送られる1行分の画素信号を各カラムAD回路25Bにて同時並行処理する構成のものに、比較処理とカウント処理とを組み合わせてAD変換処理を行なうことで時間差分処理を行なう仕組みについて説明したが、比較処理とカウント処理とを組み合わせてAD変換処理を行なうことで時間差分処理を行なうという基本的な仕組みに関しては、画素信号を1つ1つ取り出して処理する構成のデバイスにも適用することができる。
また、接合型電界効果トランジスタやフローティングディフュージョンなどの画素内メモリを有する構造の単位画素3を持つデバイスへの適用について説明したが、適用可能なデバイスは、画素内メモリを持つものに限定されない。たとえば、画素内メモリを備えていなければ、前フレームの画素信号を取り込んで参照信号と比較するとともに、この比較処理と並行してカウント処理を行ない、比較処理が完了した時点のカウント値を取得すし、この取得したカウント値を一旦デバイス外のフレームメモリに格納することで前フレームについてのAD変換処理を完了させる。
つまり、差分処理の一方(前フレーム)の画素信号については、予めデジタルデータ化しておく。なお、前フレームの画素信号を予めデジタルデータにしておけばよく、カラムAD回路25Bを利用してデジタル化するものでなくてもよく、他のAD変換装置を使用して前フレームの画素データを取得してフレームメモリに保存しておいてもよい。
この後、現フレームについてのAD変換処理時には、処理対象画素について、フレームメモリに格納してある同一画素位置の前フレームのカウント値(画素データ)をカウント処理の初期値として、画素信号と参照信号とを比較するとともに、この比較処理と並行してカウント処理を行ない、比較処理が完了した時点のカウント値を取得することで、時間差分処理を行なうようにしてもよい。前フレームのカウント値(画素データ)を正のデータとしてフレームに保存していれば、現フレームのカウント処理はダウンカウントモードとすればよい。
<第4実施形態;時間加算処理>
図16は、図1に示した第1実施形態の固体撮像装置1の演算データ処理部11BにおけるカラムAD回路25Bによる時間加算処理の動作を説明するためのタイミングチャートである。以下、この態様を第4実施形態という。また、図17および図18は、第4実施形態における時間加算処理の処理態様を説明する図である。
ここで説明する時間加算処理は、積和演算処理機能として、空間加算処理に代えて、時間加算処理を行なうことで、ダイナミックレンジの拡大を可能に構成した点に特徴を有する。ここで、時間加算処理を行なうに際しては、それぞれ異なる蓄積時間の元で取得された複数の処理対象画素信号を取り扱い、加算演算を行なう。これにより蓄積時間の異なる画像を合成した合成画像を、演算済み画像として取得できる。この演算済み画像(合成画像)は、ダイナミックレンジの広い画像となる。
時間加算処理として、蓄積時間の異なる画像を取り扱う場合、加算演算の対象画素は同一配列位置のものとする。また、蓄積時間の設定範囲としては、長時間蓄積側は概ね1フレーム期間近傍に蓄積時間を設定する。もちろん、電子シャッタ機能を使う場合には、さらに蓄積時間を短くすることもできる。これに対して、短時間蓄積側は、1水平期間(たとえば64マイクロ秒)以下の蓄積時間とする。これは、水平行(走査線)ごとに走査する時間だけ蓄積期間がずれるというCMOSセンサ特有の性質を利用して、水平行(走査線)ごとに走査して画素信号を読み出す際に、同一水平期間内で、長時間蓄積側の画素信号の読み出しを行なった後に、短時間蓄積を行ない、直ぐにその短時間蓄積側の画素信号の読み出しを行なうためである。
図3と図16との比較から分かるように、時間加算処理時には、図5に示した空間加算処理と同様に、処理対象画素信号のAD変換処理におけるリセット成分ΔVと信号成分Vsig とについてのカウントモードの組合せを同一にすればよい。すなわち、比較的長時間蓄積された第1の処理対象画素のAD変換処理が完了した後にカウンタ部254Bをリセットしないで、リセット成分ΔVと信号成分Vsig とについて、比較的短時間蓄積された第2の処理対象画素のAD変換処理時のカウントモードの組合せと同一の組合せで各処理対象画素信号のAD変換処理を行なうようにする。
こうすることで、図16に示した例では、短時間蓄積の画素信号についての2回目のカウント処理が完了した後にカウンタ部254Bに保持されるカウント値は、蓄積時間の異なる2つの画素信号V1,V2間での加算演算の結果(Vsig1+Vsig2)を示すnビットのデジタル値となる。
ここで、イメージセンサのダイナミックレンジが60dBあると仮定するとともに、長時間蓄積を1フレーム期間近傍の適当な期間、たとえば約1/15ミリ秒程度に設定し、また短時間蓄積を1水平期間以下の適当な期間、たとえば約1/15マイクロ秒程度に設定すると、図17に示すように、長時間蓄積時間の光量に対するセンサ出力は、光量の変化に対し3桁まで対応することになる。また、短時間蓄積時間の光量に対するセンサ出力も、光量の変化に対し3桁まで対応することになるが、長時間蓄積時間で検出できる光量と3桁ずれることになる。
よって、第1と第2の蓄積時間の異なる出力を加算演算することで得られる加算演算の結果(Vsig1+Vsig2)により、6桁すなわち120dBのダイナミックレンジを実現できる。たとえば図18に示すように、長時間蓄積時間では飽和してしまう部分が存在する画像を、短時間蓄積時間で検出された画像で補うことができ、一方の蓄積時間だけでは画像出力できない飽和レベル以上についても、再現することができるようになる。
なお、実際には、単純な加算処理では、光量に対するセンサ出力が視感度と適合した理想的なニー特性にはならない。すなわち、光量の対数に比例して明るさを識別するという人間の視覚特性に合わない。
この問題を解消するには、図示を割愛するが、参照信号生成部27Bにて発生させる参照信号RAMPを、線形に変化させずに、傾きを数段階に亘り変化させるのがよい。このときの変化のさせ方としては、AD変換の初期において参照電位RAMPの傾きを小さくすることで係数を大きく設定(高ゲインにする)し、AD変換が進むに従って、参照電位RAMPの傾きを大きくするのがよい。こうすることで、人間の目の感度の対数特性に合わせて、人間の目が暗部での明るさの変化に敏感であることに適合するように暗部での階調精度を維持し、人間の目が明部での明るさの変化に鈍感であることに適合するように明部での階調精度を甘くする。
これにより、異なる蓄積時間の合成だけに留まらず、感度特性にガンマ補正を施し、より自然なセンサ特性を実現することができる。異なる蓄積時間の間の感度差を自然に繋ぐことができ、より自然な画像を合成することができるようになる。
以上説明したように、時間加算処理の応用として、蓄積時間の異なる同一位置の複数の画素信号についてそれぞれカウント処理してAD変換を行なう際に、各画素信号の内の一方について取得したデジタルデータを他方の画素信号(後のカウント処理の対象信号)のカウント処理の初期値とすることで、複数の単位画素3のうちの他方についてカウント処理にてAD変換をした後には、自動的に全ての画素信号についての加算演算結果を示すnビットのデジタルデータを取得して演算データD2として出力することができる。そして、本例においては、演算データD2として、ダイナミックレンジを拡大可能なデータを取得できる。高ダイナミックレンジを実現しながらデジタル画像データのビット幅をnビットに維持する、換言すればビット幅を圧縮することができる。白飛びや黒潰れの緩和された光量に対するダイナミックレンジの広い画像を取得することができるようになる。
加算器、ラインメモリ装置などの追加回路なしに、蓄積時間の異なる同一位置の複数の画素信号のデジタル値の加算演算を実行することができる。蓄積時間の異なる画像をデジタル値で合成できるため、フレームメモリなどの外部回路の追加や、内部回路の追加を必要としないで、ワイドダイナミックレンジを実現できる。感度特性にガンマ補正を施すことで、視感度特性に合致したセンサ特性を実現することができる。
なお、上記実施形態では、同一水平期間内で、長時間蓄積側の画素信号の読み出しを行なった後に、短時間蓄積を行ない、直ぐにその短時間蓄積側の画素信号の読み出しを行なうようにしており、短時間蓄積側は、1水平期間(たとえば64マイクロ秒)以下の蓄積時間となるので、蓄積時間に自由度がない。この問題を解消するには、たとえば垂直列方向の2画素(つまり2行)を使い、一方の行の画素は長時間蓄積に割り当て、他方の行の画素は短時間蓄積に割り当てるようにするとよい。こうすることで、行ごとに蓄積時間を自由に設定できるようになるので、短時間蓄積側も蓄積時間に自由度が生まれる。なお、このような行ごとの蓄積時間設定は垂直走査回路14により行なうこともできるが、その制御を容易にするため、それぞれ専用の蓄積時間制御回路を設けて蓄積時間を制御するようにしてもよい。
<通常映像出力側の動作>
一方、図16において、通常データ処理部11Aにおける通常画像出力処理の動作タイミングは、図16に示す長時間蓄積の画素の読出期間の動作だけを行なうか、もしくは短時間蓄積の画素の読出期間の動作だけを行なうとよい。何れか一方の読出処理を停止させるには、参照信号生成部27Aやカウンタ部254Aに供給するカウンタクロックCK0を供給しないようにすればよい。こうすることで、長時間蓄積および短時間蓄積の何れか一方の画素に基づく映像信号のみを取り出すことができる(図16では短時間蓄積側を取り出す例で示している)。
このように、演算データ処理部11Bにて、時間加算処理の応用として、蓄積時間の異なる同一位置の複数の画素信号についての加算演算を適用して演算データD2を出力するのと並行して、通常画像を示す映像データD1を出力するようにすることで、ダイナミックレンジアップと通常ビデオ信号の出力を同時に行なうことができる。これにより、時間加算データで示されるダイナミックレンジアップ画像と、通常画像とを、状況に応じて適宜切り替えてもしくは両方を同時に用いることで、種々な使い方ができるようになる。
以上、本発明を実施形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記実施形態に多様な変更または改良を加えることができ、そのような変更または改良を加えた形態も本発明の技術的範囲に含まれる。
また、上記の実施形態は、クレーム(請求項)にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組合せの全てが発明の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組合せにより種々の発明を抽出できる。実施形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られる限りにおいて、この幾つかの構成要件が削除された構成が発明として抽出され得る。
たとえば、上記実施形態では、画素部10の読出し側に位置するカラム領域にAD変換機能部を設けていたが、その他の箇所に設けることもできる。たとえば、水平信号線18までアナログで画素信号を出力して、その後にAD変換を行ない出力回路28に渡すような構成としてもよい。
この場合でも、AD変換用の参照信号と積和演算対象の複数の画素信号とを比較し、この比較処理と並行して、ダウンカウントモードおよびアップカウントモードの何れか一方のモードでカウント処理を行ない、比較処理が完了した時点のカウント値を保持する際、積和演算対象の複数の画素信号の内の一方についてのデジタルデータをカウント処理の初期値としておくことで、他方の画素信号についてAD変換処理をした時点で、和演算結果を表すデジタルデータを、カウント処理した結果として得ることができる。
この結果、積和演算対象の複数の画素信号基のそれぞれのカウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。全ての垂直列に対して1つのAD変換機能部を設ければよく、高速な変換処理が必要にはなるものの回路規模は上記実施形態よりも少なくなる。
また、上記実施形態では、モード切替え後のカウント処理時に、切替え前の最終カウント値からカウント処理を開始するようにしていたが、カウント出力値がカウントクロックCK0に同期して出力される同期式のアップダウンカウンタを用いる場合には、モード切替時に特段の対処を要することなく、このことを実現できる。
しかしながら、動作制限周波数が最初のフリップフロップ(カウンタ基本要素)の制限周波数でのみ決められ高速動作に適する利点がある非同期式のアップダウンカウンタを用いる場合には、カウントモードを切り替えた際、カウント値が破壊されてしまい、切替え前後で値を保ったまま連続しての正常なカウント動作が行なえない問題を有する。よって、モード切替え前のカウント値からモード切替え後のカウント処理を開始可能にする調整処理部を設けることが好ましい。なお、ここでは調整処理部の詳細については説明を割愛する。なお、複数の信号間で加算処理を行なう場合、前段と後段の各カウントモードを同じにすればよく、このような対処は不要である。
また、上記実施形態では、画素信号が、時間系列として、同一画素について、リセット成分ΔV(基準成分)の後に信号成分Vsig が現れ、後段の処理部が正極性(信号レベルが大きいほど正の値が大きい)の信号について処理するものに対応して、真の信号成分を求めるに際して、1回目の処理として、リセット成分ΔV(基準成分)について比較処理とダウンカウント処理を行ない、2回目の処理として、信号成分Vsig について比較処理とアップカウント処理を行なうようにしていたが、基準成分と信号成分が現れる時間系列に拘わらず、対象信号成分とカウントモードとの組合せや処理順は任意である。処理手順によっては、2回目の処理で得られるデジタルデータが負の値になることもあるが、その場合には、符号反転や補正演算をするなどの対処をすればよい。
もちろん、画素部10のデバイスアーキテクチャとして、信号成分Vsig の後にリセット成分ΔV(基準成分)を読み込まなければならず、後段の処理部が正極性の信号について処理するものである場合には、1回目の処理として、信号成分Vsig について比較処理とダウンカウント処理を行ない、2回目の処理として、リセット成分ΔV(基準成分)について比較処理とアップカウント処理を行なうのが効率的である。
また、上記実施形態では、画素信号が、時間系列として、同一画素について、リセット成分ΔV(基準成分)の後に信号成分Vsig が現れるものとして、複数の画素信号間での積和演算をするに当たって、画素信号ごとに、真の信号成分を求める差分処理を行なうようにしていたが、リセット成分ΔV(基準成分)を無視できるなど、信号成分Vsig のみを対象としてもよい場合には、真の信号成分を求める差分処理を割愛することができる。
また、上記実施形態では、アップダウンカウンタを動作モードに拘わらず共通に使用しつつ、その処理モードを切り替えてカウント処理を行なうようにしていたが、ダウンカウントモードとアップカウントモードを組み合わせてカウント処理を行なうものであればよく、モード切替可能なアップダウンカウンタを用いた構成に限定されない。
たとえば、ダウンカウント処理を行なうダウンカウンタ回路と、アップカウント処理を行なうアップカウンタ回路との組合せでカウンタ部を構成することもできる。この場合、カウンタ回路は、公知の技術を利用して任意の初期値をロードすることのできる構成のものとするのがよい。たとえば、ダウンカウントの後にアップカウントを行なう場合であれば、図19(A)に示すように、1回目のカウント処理ではダウンカウンタ回路を作動させ、2回目のカウント処理ではアップカウンタ回路を作動させる。このとき、カウントモード切替用の切替制御信号CN5によりカウントモードを切り替えた後のアップカウント処理の開始前に、初期値設定用のロード制御信号CNldをアップカウンタ回路のロード端子LDuに供給することで、ダウンカウント処理で取得したダウンカウント値を初期値としてアップカウンタ回路に設定する。
また、アップカウントの後にダウンカウントを行なう場合であれば、図19(B)に示すように、1回目のカウント処理ではアップカウンタ回路を作動させ、2回目のカウント処理ではダウンカウンタ回路を作動させる。このとき、カウントモード切替用の切替制御信号CN5によりカウントモードを切り替えた後のダウンカウント処理の開始前に、初期値設定用のロード制御信号CNldをダウンカウンタ回路のロード端子LDdに供給することで、アップカウント処理で取得したアップカウント値を初期値としてダウンカウンタ回路に設定する。
なお、複数の信号間で加算処理を行なう場合、前段と後段の各カウントモードを同じに維持したまま、後段側のカウント回路におけるカウント処理の開始前に、複数の信号間で減算処理を行なう場合と同様にして初期値設定を行なえばよい。
こうすることで、図19(A)および図19(B)の何れの構成も、後段のカウンタ回路の出力としては、複数の信号(基準成分と信号成分も含む)間で減算処理が直接にでき、複数の信号との差を取るための特別な加算回路が不要になる。また、非特許文献1では必要としていた減算器へのデータ転送が不要になり、そのための雑音の増加や電流あるいは消費電力の増大を解消することができる。
なお、ダウンカウンタ回路とアップカウンタ回路との組合せでカウンタ部を構成する場合、2回目のカウント処理に際して、1回目のカウント処理で取得したカウント値を初期値として設定せず、ゼロからカウントする構成を排除するものではない。
この場合、たとえば差分処理に対応する場合であれば、図19(C)に示すように、アップカウンタ回路の出力Qup(正方向の値)とダウンカウンタ回路の出力Qdown(負方向の値)の和を取る加算回路が必要となるが、この場合でも、比較部とカウンタ部とで構成されるAD変換部ごとに加算回路を設けるので、配線長を短くでき、データ転送のための雑音の増加や電流あるいは消費電力の増大を解消することができる。
図19に示した何れの構成も、ダウンカウンタ回路とアップカウンタ回路の動作の指示は、上記実施形態と同様に通信・タイミング制御部20が行なうことができる。また、ダウンカウンタ回路とアップカウンタ回路は、ともにカウントクロックCK0で動作させればよい。
また、上記実施形態では、NMOSあるいはPMOSより構成されている単位画素が行列状に配されて構成されたセンサを一例に説明したが、これに限らず、一列に配されたラインセンサにも適用でき上記実施形態で説明したと同様の作用・効果を享受可能である。
また、上記実施形態では、アドレス制御により個々の単位画素からの信号を任意選択して読出可能な固体撮像装置の一例として、光を受光することで信号電荷を生成する画素部を備えたCMOSセンサを例に示したが、信号電荷の生成は、光に限らず、たとえば赤外線、紫外線、あるいはX線などの電磁波一般に適用可能であり、この電磁波を受けてその量に応じたアナログ信号を出力する素子が多数配列された単位構成要素を備えた半導体装置に、上記実施形態で示した事項を適用可能である。
また、上記実施形態では、正方形状の単位画素3が正方格子状に配列されたものを対象に説明したが、単位画素の配列は、正方格子状に限らず、たとえば、図1に示した画素部10を斜め45度に傾けた配列状態の斜行格子状のものであってもよい。
また、単位画素の平面視上の形状が正方であるものとしていたが、正方に限らず、たとえば、6角形(ハニカム状)であってもよい。この場合、単位画素の配列は、たとえば以下のようにする。1つの単位画素列および1つの単位画素行は、それぞれ複数個の単位画素を含むようにする。
偶数列を構成している複数個の単位画素の各々は、奇数列を構成している複数個の単位画素に対し、各単位画素列内での単位画素同士のピッチの約1/2、列方向にずらす。同様に、偶数行を構成する複数個の単位画素の各々は、奇数行を構成する複数個の単位画素に対し、各単位画素行内での単位画素同士のピッチの約1/2、行方向にずらす。単位画素列の各々は、奇数行または偶数行の単位画素のみを含むようにする。
これら単位画素の電荷生成部に蓄積された信号電荷に基づく画素信号をカラム処理部26側へ読み出すために、行制御線を設けるが、その配置は、ハニカム状の単位画素3の周りに蛇行して配される。逆に言えば、行制御線をハニカム状に配設することによって生じる6角形の隙間それぞれに、単位画素の各々が平面視上に位置するようにする。こうすることで、全体としては、約1/2ピッチの画素ずらしを交互にしながら、垂直方向に画素信号を読み出すようになる。
この単位画素や行制御線をハニカム配列にすれば、個々の単位画素における電荷生成部の受光面の面積低下を抑制しつつ、画素密度を向上させることができる。
単位画素の形状や配列に拘らず、何れの場合も、画素部10をカラー撮像対応にする場合、積和演算処理時には、同色成分同士での演算がなされるように、画素を選択すればよい。すなわち、色分解フィルタの各色フィルタの配置位置に基づいて、積和演算の対象となる複数の単位信号が同一色の色フィルタのものとなるように、複数の単位構成要素のそれぞれの位置を指定するようにすればよい。
また、上記実施形態では、処理対象信号に応じた電気信号とAD変換用の参照信号とを比較する比較部と、比較部における比較処理と並行して、ダウンカウントモードおよびアップカウントモードの何れか一方のモードでカウント処理を行ない、比較部における比較処理が完了した時点のカウント値を保持するカウンタ部とを備えてなるデータ処理装置としてのAD変換回路(AD変換装置;前例ではカラムAD回路)を固体撮像装置に適用した事例を説明したが、上記実施形態で説明したAD変換回路やデータ処理装置の仕組みは、固体撮像装置に限らず、2つの信号成分の差信号成分や和信号成分あるいは和と任意に組み合わせた積和演算信号をデジタルデータに変換するためのAD変換の仕組みを用いるあらゆる電子機器に適用することができる。
たとえば、固体撮像装置1の外部にて、固体撮像装置1から取り込んだアナログの画素信号に基づき、上記実施形態で説明した比較器とカウンタとを利用してAD変換を行ないつつ、複数の処理対象信号に基づき積和演算して演算済み画像を出力するのと並行して、処理対象信号のうちの何れか1つに基づいて通常データを生成し出力する電子機器を構成することもできる。この場合でも、演算済み画像と通常ビデオ信号の出力を同時に行なうことができるので、演算済み画像と通常画像とを、状況に応じて適宜切り替えてもしくは両方を同時に用いることで、上記実施形態で説明したと同様に、種々な使い方ができるようになる。
また、上記実施形態でデータ処理装置の一例として説明したAD変換回路は、固体撮像装置やその他の電子機器に組み込まれて提供されることに限らず、たとえばIC(Integrated Circuit;集積回路)や複数画素間での積和演算機能(データ処理機能)を持つAD変換モジュールあるいはデータ処理モジュールなどのようにして、単独の装置として提供されてもよい。
この場合、比較部とカウンタ部とを備えたAD変換装置(もしくはデータ処理装置)で提供してもよいが、AD変換用の参照信号を生成し比較部に供給する参照信号生成部や、カウンタ部におけるカウント処理のモードを制御する制御部も同一の半導体基板上に配したIC(集積回路)や個別チップなどの組合せでなるモジュールに組み込んで提供してもよい。
これらを組み込んで提供することで、比較部とカウンタ部の動作を制御するために必要な機能部を纏めて取り扱うことができ、部材の取扱いや管理が簡易になる。また、AD変換処理に必要な要素がICやモジュールとして纏まって(一体となって)いるので、固体撮像装置やその他の電子機器の完成品の製造も容易になる。
1…固体撮像装置、3…単位画素、7…駆動制御部、10…画素部、11A…通常データ処理部、11B…演算データ処理部、12…水平走査回路、14…垂直走査回路、15…行制御線、18…水平信号線、19…垂直信号線、20…通信・タイミング制御部、23…クロック変換部、24…カウンタ部、25…カラムAD回路、26…カラム処理部、27…参照信号生成部、27a…DA変換回路、28…出力回路、252…電圧比較部、254…カウンタ部、256…データ記憶部、258…スイッチ