以下、図面を参照して本発明の実施形態について詳細に説明する。なお、以下においては、X−Yアドレス型の固体撮像装置の一例である、CMOS撮像素子をデバイスとして使用した場合を例に説明する。また、CMOS撮像素子は、全ての画素がNMOSあるいはPMOSよりなるものであるとして説明する。
ただしこれは一例であって、対象となるデバイスはMOS型の撮像デバイスに限らない。光や放射線などの外部から入力される電磁波に対して感応性をする単位構成要素をライン状もしくはマトリクス状に複数個配列してなる物理量分布検知用の半導体装置の全てに、後述する全ての実施形態が同様に適用できる。
<第1実施形態;固体撮像装置の構成>
図1は、本発明に係る半導体装置の第1実施形態であるCMOS固体撮像装置(CMOSイメージセンサ)の概略構成図である。なお、このCMOS固体撮像装置は、本発明に係る電子機器の一態様でもある。
固体撮像装置1は、入射光量に応じた電気信号を出力するフォトダイオードなどの光電変換素子(電荷生成部の一例)を含む複数個の画素が行および列に配列された(すなわち2次元マトリクス状の)画素部を有し、各画素からの信号出力が電圧信号であって、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部やデジタル変換部(ADC;Analog Digital Converter)などのデータ処理部が列並列に設けられているものである。
“列並列にデータ処理部が設けられている”とは、垂直列の垂直信号線19に対して実質的に並列に複数のCDS処理機能部やデジタル変換部が設けられていることを意味する。複数の各機能部は、デバイスを平面視したときに、ともに画素部10に対して列方向の一方の端縁側(図の下側に配されている出力側)にのみ配されている形態のものであってもよいし、画素部10に対して列方向の一方の端縁側(図の下側に配されている出力側)とその反対側である他方の端縁側(図の上側)に分けて配されている形態のものであってもよい。後者の場合、行方向の読出走査(水平走査)を行なう水平走査部も、各端縁側に分けて配して、それぞれが独立に動作可能に構成するのがよい。
たとえば、列並列にCDS処理機能部やデジタル変換部が設けられている典型例としては、撮像部の出力側に設けたカラム領域と呼ばれる部分に、CDS処理機能部やデジタル変換部を垂直列ごとに設け、順次出力側に読み出すカラム型のものである。また、カラム型に限らず、隣接する複数(たとえば2つ分)の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態や、N本おき(Nは正の整数;間にN−1本を配する)のN本分の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態などを採ることもできる。
カラム型を除くものは、何れの形態も、複数の垂直信号線19(垂直列)が1つのCDS処理機能部やデジタル変換部を共通に使用する構成となるので、画素部10側から供給される複数列分の画素信号を1つのCDS処理機能部やデジタル変換部に供給する切替回路(スイッチ)を設ける。なお、後段の処理によっては、出力信号を保持するメモリを設けるなどの対処が必要になる。
何れにしても、複数の垂直信号線19(垂直列)に対して1つのCDS処理機能部やデジタル変換部を割り当てる形態などを採ることで、各画素信号の信号処理を画素列単位で読み出した後に行なうことで、同様の信号処理を各単位画素内で行なうものに比べて、各単位画素内の構成を簡素化し、イメージセンサの多画素化、小型化、低コスト化などに対応できる。
また、列並列に配された複数の信号処理部にて1行分の画素信号を同時並行処理することができるので、出力回路側やデバイスの外部で1つのCDS処理機能部やデジタル変換部にて処理を行なう場合に比べて、信号処理部を低速で動作させることができ、消費電力や帯域性能やノイズなどの面で有利である。逆に言えば、消費電力や帯域性能などを同じにする場合、センサ全体の高速動作が可能となる。
なお、カラム型の構成の場合、低速で動作させることができ消費電力や帯域性能やノイズなどの面で有利であるとともに切替回路(スイッチ)が不要である利点もある。以下の実施形態では、特に断りのない限り、このカラム型で説明する。
図1に示すように、第1実施形態の固体撮像装置1は、正方状の複数の単位画素3が行および列に(つまり正方格子状に)配列された画素部(撮像部)10と、画素部10の外側に設けられた駆動制御部7と、カラム処理部26と、カラム処理部26にAD変換用の参照電圧を供給する参照信号生成部27と、出力回路28とを備えている。
なお、カラム処理部26の前段または後段には、必要に応じて信号増幅機能を持つAGC(Auto Gain Control) 回路などをカラム処理部26と同一の半導体領域に設けることも可能である。カラム処理部26の前段でAGCを行なう場合にはアナログ増幅、カラム処理部26の後段でAGCを行なう場合にはデジタル増幅となる。nビットのデジタルデータを単純に増幅してしまうと、階調が損なわれてしまう可能性があるため、どちらかというとアナログにて増幅した後にデジタル変換するのが好ましいと考えられる。
駆動制御部7は、画素部10の信号を順次読み出すための制御回路機能を備えている。たとえば、駆動制御部7としては、列アドレスや列走査を制御する水平走査回路(列走査回路)12と、行アドレスや行走査を制御する垂直走査回路(行走査回路)14と、内部クロックを生成するなどの機能を持つ通信・タイミング制御部20とを備えている。
なお、図中、通信・タイミング制御部20の近傍に点線で示すように、高速クロック生成部の一例であって、入力されたクロック周波数よりも高速のクロック周波数のパルスを生成するクロック変換部23を設けるようにしてもよい。通信・タイミング制御部20は、端子5aを介して入力される入力ロック(マスタークロック)CLK0やクロック変換部23で生成された高速クロックに基づいて内部クロックを生成する。
クロック変換部23で生成された高速クロックを源とする信号を用いることで、AD変換処理などを高速に動作させることができるようになる。また、高速クロックを用いて、高速の計算を必要とする動き抽出や圧縮処理を行なうことができる。また、カラム処理部26から出力されるパラレルデータをシリアルデータ化してデバイス外部に映像データD1を出力することもできる。こうすることで、AD変換されたデジタルデータのビット分よりも少ない端子で高速動作出力する構成を採ることができる。
クロック変換部23は、入力されたクロック周波数よりも高速のクロック周波数のパルスを生成する逓倍回路を内蔵している。このクロック変換部23は、通信・タイミング制御部20から低速クロックCLK2を受け取り、それを元にして2倍以上高い周波数のクロックを生成する。クロック変換部23の逓倍回路としては、k1を低速クロックCLK2の周波数の倍数としたときk1逓倍回路を設ければよく、周知の様々な回路を利用することができる。
図1では、簡単のため行および列の一部を省略して示しているが、現実には、各行や各列には、数十から数千の単位画素3が配置される。この単位画素3は、典型的には、受光素子(電荷生成部)としてのフォトダイオードと、増幅用の半導体素子(たとえばトランジスタ)を有する画素内アンプとから構成される。
画素内アンプとしては、たとえばフローティングディフュージョンアンプ構成のものが用いられる。一例としては、電荷生成部に対して、電荷読出部(転送ゲート部/読出ゲート部)の一例である読出選択用トランジスタ、リセットゲート部の一例であるリセットトランジスタ、垂直選択用トランジスタ、およびフローティングディフュージョンの電位変化を検知する検知素子の一例であるソースフォロア構成の増幅用トランジスタを有する、CMOSセンサとして汎用的な4つのトランジスタからなる構成のものを使用することができる。
あるいは、特許第2708455号公報に記載のように、電荷生成部により生成された信号電荷に対応する信号電圧を増幅するための、ドレイン線(DRN)に接続された増幅用トランジスタと、電荷生成部をリセットするためのリセットトランジスタと、垂直シフトレジスタより転送配線(TRF)を介して走査される読出選択用トランジスタ(転送ゲート部)を有する、3つのトランジスタからなる構成のものを使用することもできる。
また、駆動制御部7の他の構成要素として、水平走査回路12、垂直走査回路14、および通信・タイミング制御部20が設けられている。水平走査回路12は、カラム処理部26からカウント値を読み出す読出走査部の機能を持つ。これらの駆動制御部7の各要素は、画素部10とともに、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成され、半導体システムの一例である固体撮像素子(撮像デバイス)として構成される。
単位画素3は、行選択のための行制御線15を介して垂直走査回路14と、また垂直信号線19を介してカラムAD回路25が垂直列ごとに設けられているカラム処理部26と、それぞれ接続されている。ここで、行制御線15は垂直走査回路14から画素に入る配線全般を示す。
なお、本実施形態のカラムAD回路25は、それそのもので、複数の処理対象信号の積和演算結果のデジタルデータを取得するデータ処理装置の機能を有する。
水平走査回路12や垂直走査回路14は、後述のようにデコーダを含んで構成され、通信・タイミング制御部20から与えられる制御信号CN1,CN2に応答して、処理対象の画素信号の読出しを開始するようになっている。このため、行制御線15には、単位画素3を駆動するための種々のパルス信号(たとえば、リセットパルスRST、転送パルスTRF、DRN制御パルスDRNなど)が含まれる。
垂直走査回路14と通信・タイミング制御部20とで、処理対象の複数の単位画素3のそれぞれの位置を指定して、この単位画素3から複数の画素信号のそれぞれをカラム処理部26に入力させる単位信号選択制御部が構成される。
通信・タイミング制御部20は、図示しないが、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータTG(読出アドレス制御装置の一例)の機能ブロックと、端子5aを介してマスタークロックCLK0を受け取り、また端子5bを介して動作モードなどを指令するデータDATAを受け取り、さらに固体撮像装置1の情報を含むデータを出力する通信インタフェースの機能ブロックとを備える。
たとえば、水平アドレス信号を水平デコーダ12aへ、また垂直アドレス信号を垂直デコーダ14aへ出力し、各デコーダ12a,14aは、それを受けて対応する行もしくは列を選択する。
この際、単位画素3を2次元マトリックス状に配置してあるので、画素信号生成部5により生成され垂直信号線19を介して列方向に出力されるアナログの画素信号を行単位で(列並列で)アクセスし取り込む(垂直)スキャン読みを行ない、この後に、垂直列の並び方向である行方向にアクセスし画素信号(本例ではデジタル化された画素データ)を出力側へ読み出す(水平)スキャン読みを行なうようにすることで、画素信号や画素データの読出しの高速化を図るのがよい。勿論、スキャン読みに限らず、読み出したい単位画素3を直接にアドレス指定することで、必要な単位画素3の情報のみを読み出すランダムアクセスも可能である。
また、第1実施形態の通信・タイミング制御部20では、端子5aを介して入力されるマスタークロック(マスタークロック)CLK0と同じ周波数のクロックCLK1や、それを2分周したクロックやより分周した低速のクロックをデバイス内の各部、たとえば水平走査回路12、垂直走査回路14、カラム処理部26などに供給する。以下、2分周したクロックやそれ以下の周波数のクロック全般を纏めて、低速クロックCLK2という。
垂直走査回路14は、画素部10の行を選択し、その行に必要なパルスを供給するものである。たとえば、垂直方向の読出行を規定する(画素部10の行を選択する)垂直デコーダ14aと、垂直デコーダ14aにて規定された読出アドレス上(行方向)の単位画素3に対する行制御線15にパルスを供給して駆動する垂直駆動回路14bとを有する。なお、垂直デコーダ14aは、信号を読み出す行の他に、電子シャッタ用の行なども選択する。
水平走査回路12は、低速クロックCLK2に同期してカラム処理部26のカラムAD回路25を順番に選択し、その信号を水平信号線(水平出力線)18に導くものである。たとえば、水平方向の読出列を規定する(カラム処理部26内の個々のカラムAD回路25を選択する)水平デコーダ12aと、水平デコーダ12aにて規定された読出アドレスに従って、カラム処理部26の各信号を水平信号線18に導く水平駆動回路12bとを有する。なお、水平信号線18は、たとえばカラムAD回路25が取り扱うビット数n(nは正の整数)分、たとえば10(=n)ビットならば、そのビット数分に対応して10本配置される。
このような構成の固体撮像装置1において、単位画素3から出力された画素信号は、垂直列ごとに、垂直信号線19を介して、カラム処理部26のカラムAD回路25に供給される。
なお、カラム処理部26と水平走査回路12との間の信号経路上には、各垂直信号線19に対してドレイン端子が接続された図示しない負荷MOSトランジスタを含む負荷トランジスタ部が配され、各負荷MOSトランジスタを駆動制御する負荷制御部(負荷MOSコントローラ)が設けられている。
単位画素3を構成する増幅用トランジスタは各垂直信号線19に接続されており、また垂直信号線19は垂直列ごとに負荷MOSトランジスタのドレインに接続され、また各負荷MOSトランジスタのゲート端子には、負荷制御部からの負荷制御信号CTldが共通に入力されており、信号読出し時には、各増幅用トランジスタに接続された負荷MOSトランジスタによって、予め決められた定電流を流し続けるようになっている。
カラム処理部26の各カラムAD回路25は、1列分の画素の信号を受けて、その信号をデジタルデータに変換する。また、通信・タイミング制御部20と垂直走査回路14との協働動作で機能する単位信号選択制御部で指定された画素位置の複数の積和演算処理対象の画素信号(同一垂直列方向のみのものとは限らない)を順次受けて、その複数の画素信号に基づき積和演算するとともにデジタルデータに変換する。たとえば、各カラムAD回路25は、アナログ信号を、たとえば低速クロックCLK2を用いて、たとえば10ビットのデジタルデータに変換しつつ積和演算を行なう演算機能付きのADC(Analog Digital Converter)回路を持つ。
ADC回路の構成については、詳細は後述するが、コンパレータ(電圧比較器)にランプ状の参照信号(参照電圧)RAMPを供給すると同時にクロック信号でのカウント(計数)を開始し、垂直信号線19を介して入力されたアナログの画素信号を参照信号RAMPと比較することによってパルス信号が得られるまでカウントすることでAD変換を行なう。
また、この際、回路構成を工夫することで、AD変換とともに、垂直信号線19を介して入力された電圧モードの画素信号に対して、画素リセット直後の信号レベル(ノイズレベル)と真の(受光光量に応じた)信号レベルVsig との差分をとる処理を行なうことができる。これにより、固定パターンノイズ(FPN;Fixed Pattern Noise )やリセットノイズといわれるノイズ信号成分を取り除くことができる。
このカラムAD回路25でデジタル化された画素データは、水平走査回路12からの水平選択信号により駆動される図示しない水平選択スイッチを介して水平信号線18に伝達され、さらに出力回路28に入力される。なお、10ビットは一例であって、10ビット未満(たとえば8ビット)や10ビットを超えるビット数(たとえば14ビット)など、その他のビット数としてもよい。
このような構成によって、電荷生成部としての受光素子が行列状に配された画素部10からは、行ごとに各垂直列について画素信号が順次出力される。そして、受光素子(フォトダイオードなどの光電変換素子)が行列状に配された画素部10に対応する1枚分の画像すなわちフレーム画像が、画素部10全体の画素信号の集合で示されることとなる。
<カラムAD回路と参照信号生成部の詳細>
参照信号生成部27は、DA変換回路(DAC;Digital Analog Converter)27aを有して構成されており、通信・タイミング制御部20からの制御データCN4で示される初期値から、カウントクロックCK0に同期して、階段状の鋸歯状波(ランプ波形)を生成して、カラム処理部26の個々のカラムAD回路25に、この生成した鋸歯状波をAD変換用の参照信号(ADC基準信号)RAMPとして供給するようになっている。なお、図示を割愛しているが、ノイズ防止用のフィルタを設けるとよい。
なお、この階段状の鋸歯状波は、クロック変換部23からの高速クロック、たとえば逓倍回路で生成される逓倍クロックを元に生成することで、端子5aを介して入力されるマスタークロックCLK0に基づき生成するよりも高速に変化させることができる。
通信・タイミング制御部20から参照信号生成部27のDA変換回路27aに供給する制御データCN4は、比較処理ごとのランプ電圧の傾き(変化の度合い;時間変化量)を指示する情報も含んでいる。具体的には、1カウント当たりの電圧変化分を設定し、単位時間(カウントクロックCK0)ごとに1ずつカウント値を変化させるのがよい。
なお、同一の処理対象の画素信号についての基準信号レベルと真の信号成分レベルとの差を求める信号取得差分処理時には、それぞれの比較処理のランプ電圧の傾き(変化率)の絶対値の大きさを同じに設定するのがよい。
一方、信号取得差分処理で求められる複数の処理対象信号(本例では画素信号)について空間差分処理や時間差分処理を行なう場合には、処理対象信号についてのランプ電圧の傾き(変化率)の絶対値の大きさを同じに設定してもよいし、そのランプ電圧の傾き(変化率)の絶対値の大きさを異なるものとしてもよい。
傾き(変化率)の絶対値の大きさを異なるものに設定することで、各単位画素3からの画素信号(詳しくは真の信号成分)に係数を掛けた後に符号も含んだ総和を求める機能、つまり積和演算を実現することができる。この際、3以上の画素信号についての空間差分処理や時間差分処理を行なう場合には、傾き(変化率)の絶対値の大きさを同じにする画素数と異なるものにする画素数との組合せは任意である。
カラムAD回路25は、参照信号生成部27のDA変換回路27aで生成される参照信号RAMPと、行制御線15(H0,H1,…)ごとに単位画素3から垂直信号線19(V0,V1,…)を経由し得られるアナログの画素信号とを比較する電圧比較部(コンパレータ)252と、電圧比較部252が比較処理を完了するまでの時間をカウントし、その結果を保持するカウンタ部254とを備えて構成されnビットAD変換機能を有している。
通信・タイミング制御部20は、電圧比較部252が画素信号のリセット成分ΔVと信号成分Vsig の何れについて比較処理を行なっているのかに応じてカウンタ部254におけるカウント処理のモードを制御する制御部の機能を持つ。この通信・タイミング制御部20から各カラムAD回路25のカウンタ部254には、カウンタ部254がダウンカウントモードで動作するのかアップカウントモードで動作するのかを指示するためのモード制御信号CN5と、カウンタ部254が保持しているカウント値を初期値にリセットするリセット制御信号CN6とが入力されている。
電圧比較部252の一方の入力端子RAMPは、他の電圧比較部252の入力端子RAMPと共通に、参照信号生成部27で生成される階段状の参照信号RAMPが入力され、他方の入力端子には、それぞれ対応する垂直列の垂直信号線19が接続され、画素部10からの画素信号電圧が個々に入力される。電圧比較部252の出力信号はカウンタ部254に供給される。
カウンタ部254のクロック端子CKには、他のカウンタ部254のクロック端子CKと共通に、通信・タイミング制御部20からカウントクロックCK0が入力されている。
このカウンタ部254は、その構成については図示を割愛するが、ラッチで構成されたデータ記憶部255の配線形態を同期カウンタ形式に変更することで実現でき、1本のカウントクロックCK0の入力で、内部カウントを行なうようになっている。カウントクロックCK0も、階段状の電圧波形と同様に、クロック変換部23からの高速クロック(たとえば逓倍クロック)を元に生成することで、端子5aを介して入力されるマスタークロックCLK0より高速にすることができる。
n個のラッチの組合せでnビットのカウンタ部254を実現でき、非特許文献1などのように2系統のn個のラッチで構成されたデータ記憶部255の回路規模に対して半分になる。加えて、カウンタ部24が不要になるから、全体としては、非特許文献1に示される構成よりも大幅にコンパクトになる。
ここで、第1実施形態のカウンタ部254は、詳細は後述するが、カウントモードに拘わらず共通のアップダウンカウンタ(U/D CNT)を用いて、同一の処理対象の画素信号あるいは物理的な性質が同一の複数の画素信号に対してダウンカウント動作とアップカウント動作とを切り替えてカウント処理を行なうことが可能に構成されている点に特徴を有する。
なお、カウンタ部254は、カウントのオーバーフローを検知する構成や正負の符号(+/−)を処理する構成にする。たとえば、オーバーフロー用余剰ビットを付加したり、桁上げ(キャリー)、または桁借り(ボロー)のビットを用いたりするなど、公知の技術を用いることで、オーバーフローや符号に対する対処は容易に実現可能である。
ここで、単位画素3から出力される画素信号は、通常、真の有効な信号成分だけでなく、リセット成分を含んでいる。時系列的には先ずリセット成分(基準成分)が現われた後に、リセット成分に重畳された真の有効な信号成分が現われる。リセット成分レベルとリセット成分に重畳された真の有効な信号成分との差が真の有効な信号成分となる。
このため、画素信号についての真の有効な信号成分Vsig のデジタルデータを得る際には、同一の画素信号Vxについて、基準成分(リセット成分ΔV)と真の信号成分に対してカウント処理してAD変換を行なう際に、基準成分と真の信号成分の内の一方(通常はリセット成分)について取得したデジタルデータを他方(通常は信号成分)のカウント処理の初期値とする。こうすることで、他方(通常は信号成分)のカウント処理にてAD変換をした後には、自動的に双方の差分結果のデジタルデータを取得する、すなわち、基準成分と信号成分とを含んで表されるアナログの処理対象信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができる。
加えて、物理的な性質が同一の相異なる複数の(たとえば画素位置が異なる、あるいは同一画素位置の撮像時刻の異なる)処理対象の画素信号に対して、カウントモードの組合せを同一にしてカウント動作を繰り返し行なうことで、複数の画素信号間での加算演算を実現することや、カウントモードの組合せを切り替えて(具体的には組合せを逆にする)カウント動作を繰り返し行なうことで、複数の画素信号間での差分(減算)演算を実現することが可能に構成されている点に特徴を有する。これらの演算処理モードの切替えは、水平走査回路12や垂直走査回路14の走査パターンを通信・タイミング制御部20による制御の元で調整することで実現できる。
たとえば、カウンタ部254は、複数の単位画素3の画素信号についてそれぞれカウント処理してAD変換を行なう際に、各画素信号の内の一方について取得したデジタルデータを他方の画素信号(後のカウント処理の対象信号)のカウント処理の初期値とすることで、複数の単位画素3のうちの他方についてカウント処理にてAD変換をした後には、自動的に双方の積和演算結果のデジタルデータを取得する。
ここで、それぞれについてのカウントモードを同じにすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号(詳しくは真の信号成分)についての加算結果のデジタルデータを取得することができる。これに対して、それぞれについてのカウントモードを異なるモード(逆のモード)にすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号についての減算結果のデジタルデータを取得することができる。3画素以上を処理対象とする場合、これらを組み合わせることも可能であり、各単位画素3からの画素信号(詳しくは真の信号成分)について、符号も含んだ総和を求める機能、つまり積和演算を実現することができる。
また、第1実施形態のカウンタ部254は、カウント出力値がカウントクロックCK0に同期して出力される同期カウンタを使用する。なお、同期カウンタの場合、すべてのフリップフロップ(カウンタ基本要素)の動作がカウントクロックCK0で制限される。よって、より高周波数動作が要求される場合には、カウンタ部254としては、その動作制限周波数が最初のフリップフロップ(カウンタ基本要素)の制限周波数でのみ決められるため高速動作に適する非同期カウンタの使用がより好ましい。
カウンタ部254には、水平走査回路12から制御線12cを介して制御パルスが入力される。カウンタ部254は、カウント結果を保持するラッチ機能を有しており、制御線12cを介しての制御パルスによる指示があるまでは、カウンタ出力値を保持する。
このような構成のカラムAD回路25は、先にも述べたように、垂直信号線19(V0,V1,…)ごとに配置され、列並列構成のADCブロックであるカラム処理部26が構成される。
個々のカラムAD回路25の出力側は、水平信号線18に接続されている。先にも述べたように、水平信号線18は、カラムAD回路25のビット幅であるnビット幅分の信号線を有し、図示しないそれぞれの出力線に対応したn個のセンス回路を経由して出力回路28に接続される。
このような構成において、カラムAD回路25は、画素信号読出期間において、カウント動作を行ない、所定のタイミングでカウント結果を出力する。すなわち、先ず、電圧比較部252では、参照信号生成部27からのランプ波形電圧と、垂直信号線19を介して入力される画素信号電圧とを比較し、双方の電圧が同じになると、電圧比較部252のコンパレータ出力が反転(本例ではHレベルからLレベルへ遷移)する。
カウンタ部254は、参照信号生成部27から発せられるランプ波形電圧に同期してダウンカウントモードもしくはアップカウントモードでカウント動作を開始しており、コンパレータ出力の反転した情報がカウンタ部254に通知されると、カウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する。
この後、カウンタ部254は、所定のタイミングで水平走査回路12から制御線12cを介して入力される水平選択信号CH(i)によるシフト動作に基づいて、記憶・保持した画素データを、順次、カラム処理部26外や画素部10を有するチップ外へ出力端子5cから出力する。
なお、本実施形態の説明としては直接関連しないため特に図示しないが、その他の各種信号処理回路なども、固体撮像装置1の構成要素に含まれる場合がある。
<第1実施形態;信号取得差分処理の動作>
図2は、図1に示した第1実施形態の固体撮像装置1のカラムAD回路25における基本動作である信号取得差分処理を説明するためのタイミングチャートである。
画素部10の各単位画素3で感知されたアナログの画素信号をデジタル信号に変換する仕組みとしては、たとえば、所定の傾きで下降するランプ波形状の参照信号RAMPと単位画素3からの画素信号における基準成分や信号成分の各電圧とが一致する点を探し、この比較処理で用いる参照信号RAMPの生成時点から、画素信号における基準成分や信号成分に応じた電気信号と参照信号とが一致した時点までをカウントクロックでカウント(計数)することで、基準成分や信号成分の各大きさに対応したカウント値を得る手法を採る。
ここで、垂直信号線19から出力される画素信号は、時間系列として、基準成分としての画素信号の雑音を含むリセット成分ΔVの後に信号成分Vsig が現れるものである。1回目の処理を基準成分(リセット成分ΔV)について行なう場合、2回目の処理は基準成分(リセット成分ΔV)に信号成分Vsig を加えた信号についての処理となる。以下具体的に説明する。
1回目の読出しのため、先ず通信・タイミング制御部20は、モード制御信号CN5をローレベルにしてカウンタ部254をダウンカウントモードに設定するとともに、リセット制御信号CN6を所定期間アクティブ(本例ではハイレベル)にしてカウンタ部254のカウント値を初期値“0”にリセットさせる(t9)。そして、任意の行Hxの単位画素3から垂直信号線19(V0,V1,…)への1回目の読出しが安定した後、通信・タイミング制御部20は、参照信号生成部27に向けて、参照信号RAMP生成用の制御データCN4を供給する。
これを受けて、参照信号生成部27は、電圧比較部252の一方の入力端子RAMPへの比較電圧として、全体として鋸歯状(RAMP状)に時間変化させた階段状の波形(RAMP波形)を入力する。電圧比較部252は、このRAMP波形の比較電圧と画素部10から供給される任意の垂直信号線19(Vx)の画素信号電圧とを比較する。
電圧比較部252の入力端子RAMPへの参照信号RAMPの入力と同時に、電圧比較部252における比較時間を、行ごとに配置されたカウンタ部254で計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(t10)、カウンタ部254のクロック端子に通信・タイミング制御部20からカウントクロックCK0を入力し、1回目のカウント動作として、初期値“0”からダウンカウントを開始する。すなわち、負の方向にカウント処理を開始する。
電圧比較部252は、参照信号生成部27からのランプ状の参照信号RAMPと垂直信号線19を介して入力される画素信号電圧Vxとを比較し、双方の電圧が同じになったときに、コンパレータ出力をHレベルからLレベルへ反転させる(t12)。つまり、リセット成分Vrst に応じた電圧信号と参照信号RAMPとを比較して、リセット成分Vrst の大きさに対応した時間経過後にアクティブロー(L)のパルス信号を生成して、カウンタ部254に供給する。
この結果を受けて、カウンタ部254は、コンパレータ出力の反転とほぼ同時にカウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する(t12)。つまり、電圧比較部252に供給するランプ状の参照信号RAMPの生成とともにダウンカウントを開始し、比較処理によってアクティブロー(L)のパルス信号が得られるまでクロックCK0でカウント(計数)することで、リセット成分Vrst の大きさに対応したカウント値を得る。
通信・タイミング制御部20は、所定のダウンカウント期間を経過すると(t14)、電圧比較部252への制御データの供給と、カウンタ部254へのカウントクロックCK0の供給とを停止する。これにより、電圧比較部252は、ランプ状の参照信号RAMPの生成を停止する。
この1回目の読出し時は、画素信号電圧VxにおけるリセットレベルVrst を電圧比較部252で検知してカウント動作を行なっているので、単位画素3のリセット成分ΔVを読み出していることになる。
このリセット成分ΔV内には、単位画素3ごとにばらつく雑音がオフセットとして含まれている。しかし、このリセット成分ΔVのばらつきは一般に小さく、またリセットレベルVrst は概ね全画素共通であるので、任意の垂直信号線19の画素信号電圧Vxにおけるリセット成分ΔVの出力値はおおよそ既知である。
したがって、1回目のリセット成分ΔVの読出し時には、RAMP電圧を調整することにより、ダウンカウント期間(t10〜t14;比較期間)を短くすることが可能である。本実施形態では、リセット成分ΔVについての比較処理の最長期間を、7ビット分のカウント期間(128クロック)にして、リセット成分ΔVの比較を行なっている。
続いての2回目の読出し時には、リセット成分ΔVに加えて、単位画素3ごとの入射光量に応じた電気信号成分Vsig を読み出し、1回目の読出しと同様の動作を行なう。すなわち、先ず通信・タイミング制御部20は、モード制御信号CN5をハイレベルにしてカウンタ部254をアップカウントモードに設定する(t18)。そして、任意の行Hxの単位画素3から垂直信号線19(V0,V1,…)への2回目の読出しが安定した後、通信・タイミング制御部20は、参照信号生成部27に向けて、参照信号RAMP生成用の制御データCN4を供給する。
これを受けて、参照信号生成部27は、電圧比較部252の一方の入力端子RAMPへの比較電圧として、全体として鋸歯状(RAMP状)に時間変化させた階段状の波形(RAMP波形)を入力する(t20)。電圧比較部252は、このRAMP波形の比較電圧と画素部10から供給される任意の垂直信号線19(Vx)の画素信号電圧とを比較する。
電圧比較部252の入力端子RAMPへの参照信号RAMPの入力と同時に、電圧比較部252における比較時間を、行ごとに配置されたカウンタ部254で計測するために、参照信号生成部27から発せられるランプ波形電圧に同期して(t20)、カウンタ部254のクロック端子に通信・タイミング制御部20からカウントクロックCK0を入力し、2回目のカウント動作として、1回目の読出し時に取得された単位画素3のリセット成分ΔVに対応するカウント値から、1回目とは逆にアップカウントを開始する。すなわち、正の方向にカウント処理を開始する。
電圧比較部252は、参照信号生成部27からのランプ状の参照信号RAMPと垂直信号線19を介して入力される画素信号電圧Vxとを比較し、双方の電圧が同じになったときに、コンパレータ出力をHレベルからLレベルへ反転させる(t22)。つまり、信号成分Vsig に応じた電圧信号と参照信号RAMPとを比較して、信号成分Vsig の大きさに対応した時間経過後にアクティブロー(L)のパルス信号を生成して、カウンタ部254に供給する。
この結果を受けて、カウンタ部254は、コンパレータ出力の反転とほぼ同時にカウント動作を停止し、その時点のカウント値を画素データとしてラッチ(保持・記憶)することでAD変換を完了する(t22)。つまり、電圧比較部252に供給するランプ状の参照信号RAMPの生成とともにダウンカウントを開始し、比較処理によってアクティブロー(L)のパルス信号が得られるまでクロックCK0でカウント(計数)することで、信号成分Vsig の大きさに対応したカウント値を得る。
通信・タイミング制御部20は、所定のダウンカウント期間を経過すると(t24)、電圧比較部252への制御データの供給と、カウンタ部254へのカウントクロックCK0の供給とを停止する。これにより、電圧比較部252は、ランプ状の参照信号RAMPの生成を停止する。
この2回目の読出し時は、画素信号電圧Vxにおける信号成分Vsig を電圧比較部252で検知してカウント動作を行なっているので、単位画素3の信号成分Vsig を読み出していることになる。
ここで、本実施形態においては、カウンタ部254におけるカウント動作を、1回目の読出し時にはダウンカウント、2回目の読出し時にはアップカウントとしているので、カウンタ部254内で自動的に、式(1)で示す減算が行なわれ、この減算結果に応じたカウント値がnビットのデジタル値としてカウンタ部254に保持される。
ここで、式(1)は、式(2)のように変形でき、結果としては、カウンタ部254に保持されるカウント値は信号成分Vsig に応じたnビットのデジタル値となる。
つまり、上述のようにして、1回目の読出し時におけるダウンカウントと2回目の読出し時におけるアップカウントといった、2回の読出しとカウント処理によるカウンタ部254内での減算処理によって、単位画素3ごとのばらつきを含んだリセット成分ΔVとカラムAD回路25ごとのオフセット成分とを除去することができ、単位画素3ごとの入射光量に応じた電気信号成分Vsig のみを簡易な構成で取り出すことができる。この際、リセット雑音も除去できる利点がある。
よって、本実施形態のカラムAD回路25は、アナログの画素信号をデジタルの画素データに変換するデジタル変換部としてだけでなく、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部としても動作することとなる。
また、式(2)で得られるカウント値が示す画素データは正の信号電圧を示すので、補数演算などが不要となり、既存のシステムとの親和性が高い。
ここで、2回目の読出し時は、入射光量に応じた電気信号成分Vsig を読み出すので、光量の大小を広い範囲で判定するため、アップカウント期間(t20〜t24;比較期間)を広く取り、電圧比較部252に供給するランプ電圧を大きく変化させる必要がある。
そこで本実施形態では、信号成分Vsig についての比較処理の最長期間を、10ビット分のカウント期間(1024クロック)にして、信号成分Vsig の比較を行なっている。つまり、リセット成分ΔV(基準成分)についての比較処理の最長期間を、信号成分Vsig についての比較処理の最長期間よりも短くする。リセット成分ΔV(基準成分)と信号成分Vsig の双方の比較処理の最長期間すなわちAD変換期間の最大値を同じにするのではなく、リセット成分ΔV(基準成分)についての比較処理の最長期間を信号成分Vsig についての比較処理の最長期間よりも短くすることで、2回に亘るトータルのAD変換期間が短くなるように工夫する。
このとき、2回に亘る総処理時間は、1行期間(1水平処理期間)内に収まるようにする。この調整は、信号の最大幅(ダイナミックレンジ)に割り当てるビット数と1ビットに割り当てるカウントクロックCK0の周期設定で行なうことができる。参照信号生成部27から発せられる参照信号RAMPは、信号の最大幅(ダイナミックレンジ)をカバーするようにする。
参照信号RAMPの傾きやカウントクロックCK0の周期を一定とした場合、ビット数を調整することで、AD変換期間を調整することができる。たとえば、ビット数を“m”減らすと、AD変換期間を1/(2^m;“^”はべき乗を示す)にすることができる。また、カウントクロックCK0の周期を一定とし、参照信号RAMPの傾きを1/k倍すれば、信号に対する係数(ゲイン)をk倍にすることができる。
なお、基準成分と信号成分の各AD変換期間を異なるものとする場合、1回目と2回目との比較ビット数が異なるが、通信・タイミング制御部20から制御データを参照信号生成部27に供給して、この制御データに基づいて参照信号生成部27にてランプ電圧を生成するようにすることで、ランプ電圧の傾きすなわち参照信号RAMPの変化率を1回目と2回目とで同じにする。デジタル制御でランプ電圧を生成するので、ランプ電圧の傾きを1回目と2回目とで同じにすることが容易である。これにより、AD変換の精度を等しくできるため、アップダウンカウンタによる式(1)で示した減算結果が正しく得られる。
2回目のカウント処理が完了した後の所定のタイミングで(t28)、通信・タイミング制御部20は水平走査回路12に対して画素データの読出しを指示する。これを受けて、水平走査回路12は、制御線12cを介してカウンタ部254に供給する水平選択信号CH(i)を順次シフトさせる。
こうすることで、カウンタ部254に記憶・保持した式(2)で示されるカウント値、すなわちnビットのデジタルデータで表された画素データが、n本の水平信号線18を介して、順次、カラム処理部26外や画素部10を有するチップ外へ出力端子5cから出力され、その後、順次行ごとに同様の動作が繰り返されることで、2次元画像を表す映像データD1が得られる。
このように、基準成分(リセット成分)と真の信号成分に対してカウント処理してAD変換を行なう際に、同一の処理対象の画素信号に対してダウンカウント動作とアップカウント動作とを切り替えて(具体的には逆のモードで)カウント処理を行なうとともに、基準成分(リセット成分)と真の信号成分の内の何れか一方(前例では基準成分)について取得したデジタルデータ(カウント値)を他方(前例では信号成分)のカウント処理の初期値とすることで、他方(前例では信号成分)のカウント処理にてAD変換を完了した時点で、自動的に双方の差分結果のデジタルデータを取得する、すなわち、基準成分と信号成分とを含んで表されるアナログの画素信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができる。
<第1実施形態;空間差分処理の動作>
図3は、図1に示した第1実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートである。空間差分処理は、実質的に同一時刻に取得された1フィールド内の画像において、相異なる画素位置の複数の画素信号間で減算処理を行なう処理である。
なお、“実質的に同一時刻に取得された”と記述したのは、水平行(走査線)ごとに走査する時間だけ蓄積期間がずれるという、CMOSセンサ特有の事情によるものである。全ての水平行が同一の蓄積期間となるように、たとえばメカニカルシャッタを併用したり、あるいはCMOSセンサにグローバル露光の機能を追加したりすることで、完全に同一時刻に取得されたものとすることができる。
空間差分処理の典型例としては、隣接する複数行(3行以上でもよい)の画素信号を処理対象とする垂直列方向の差分処理や、同一行における隣接する複数(3以上でもよい)の画素位置の画素信号を処理対象とする水平行方向の差分処理がある。以下で説明する第1実施形態の空間差分処理動作は、垂直列方向の差分処理である。
なお、“1フィールド周期”は、撮像面上を2次元走査して画像を読み出す期間(具体的には1垂直走査周期)であり、“1フレーム周期”は、撮像面上の全画素で画像を形成するに要する期間である。全ての行を順に垂直方向に走査する順次走査(プログレッシブ走査)を行なう場合は、“1フィールド周期”が“1フレーム周期”になる。これに対して、一方の垂直走査時には行を間引いて順に垂直方向に走査するとともに、他方の垂直走査時には一方の垂直走査時に間引いた行を補完するように垂直方向に走査する飛越し走査(インタレース走査)を行なう場合は、“kフィールド”が“1フレーム”になる。“k”は間引きの程度によるもので、通常は、k=2とする。なお、順次走査であるのか飛越し走査であるのかに拘わらず、撮像面上を2次元走査して画像を読み出す1垂直走査周期を、広義の“1フレーム”ということもある。本願明細書においても、以下の説明におけるフレームは広義のフレームの意味で使用する。
カウンタ部254は、nビットのデジタル値を読み出した後も、そのデジタル値をカウンタ部254内部に保持することができる。空間差分処理時には、カウンタ部254のデータ保持特性を利用して、複数の画素信号についてのデジタル減算処理を行なう。以下具体的に説明する。
図3に示すように、1番目の画素信号V1について、1回目の読出し時にダウンカウント処理をし、2回目の読出し時にアップカウント処理を行なうことでカウンタ部254内での減算処理によって、単位画素3の入射光量に応じた電気信号成分Vsig1のみを取り出すことができる(t10〜t24)。このときのカウンタ部254に保持される式(2)で表されるカウント値は、正の信号電圧Vsig1を示すnビットのデジタル値である。
2番目の処理対象の画素信号については、1回目の読出し時にアップカウント処理をし2回目の読出し時にダウンカウント処理を行なう、すなわち1番目の処理対象の画素信号についてのAD変換処理時のカウントモードの組合せとは逆の組合せでAD変換処理を行なう(t30〜t44)。これにより、カウンタ部254内で自動的に、式(1)で示す減算が行なわれ、この減算結果に応じたカウント値がカウンタ部254に保持される。
ここで、2番目の処理対象の画素信号V2についてのAD変換処理時は、1番目の処理対象の画素信号についてのAD変換処理時のカウントモードの組合せとは逆の組合せでAD変換処理を行なうので、カウンタ部254に保持されるカウント値は、式(3)に示すように、信号成分Vsig2に応じたものとなるとともに、負の信号電圧(−Vsig2)を示すnビットのデジタル値である。
よって、1番目の処理対象の画素信号V1についての2回目のカウント処理が完了した後に、2番目の処理対象の画素信号V2について、1回目のアップカウント処理を開始する際に、カウンタ部254に保持されているカウント値をリセットしないで引き続きカウント処理を行なうと、式(3)に対して式(2)のカウント値が加算される。よって、2番目の処理対象の画素信号V2についての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、式(4)に示すように、2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig1−Vsig2)を示すnビットのデジタル値となる。
なお、図示を割愛するが、図3に示した例とは逆に、1番目の画素信号V1について、1回目の読出し時にアップカウント処理をし2回目の読出し時にダウンカウント処理を行なう一方で、2番目の処理対象の画素信号V2について、1回目のカウント処理を開始する際に、カウンタ部254に保持されているカウント値をリセットせずに、1回目の読出し時にダウンカウント処理をし2回目の読出し時にアップカウント処理を行なうようにすれば、2番目の処理対象の画素信号V2についての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig2−Vsig1)となる。
このように、Hy行のAD変換処理が完了した後にカウンタ部254をリセットしないで、リセット成分ΔVと信号成分Vsig とについて、Hy行のAD変換処理時のカウントモードの組合せと逆の組合せでHy+1行のAD変換処理を行なうようにすることで、カラムAD回路25のカウンタ部254には、同一垂直列におけるHy行とHy+1行の減算結果が保持されることになり、2行についての差分処理が実現できる。
2番目の画素信号V1について、2回目のカウント処理が完了した後の所定のタイミングで(t48)、通信・タイミング制御部20は水平走査回路12に対して画素データの読出しを指示する。これを受けて、水平走査回路12は、制御線12cを介してカウンタ部254に供給する水平選択信号CH(i)を順次シフトさせる。
こうすることで、カウンタ部254に記憶・保持した式(4)で示されるカウント値、すなわち2つの画素信号V1,V2間での差分(減算)演算の結果(Vsig2−Vsig1)を示すnビットのデジタルデータが、n本の水平信号線18を介して、順次、カラム処理部26外や画素部10を有するチップ外へ出力端子5cから出力され、その後、順次2行ごとに同様の動作が繰り返されることで、隣接する2行の2つの画素信号間での差分(減算)演算の結果を示す2次元の差分画像を表す演算データD2が得られる。この差分演算結果の画像は、垂直方向(センサ面縦方向)には、解像度を1/2にした画像となり、画像データ量が1/2に圧縮されることとなる。
本実施形態では、隣接する2行の差分処理について説明したが、3行以上に亘って、減算処理を含む積和演算を実行することもできる。このとき、処理対象の画素数(本例では行数)をmとすれば、画像データ量を1/mに圧縮することができる。
このように、第1実施形態の固体撮像装置1によれば、同一の単位画素3の画素信号における基準成分(リセット成分)と信号成分に対して、カウントモードの組合せを逆にしてカウント動作を繰り返し行なうことで、画素信号の基準成分と信号成分との差信号成分をデジタルデータに変換することができるとともに、相異なる複数(前例では隣接する2行分)の単位画素3の画素信号に対して、カウントモードの組合せを逆にしてカウント動作を繰り返し行なうことで、複数の画素信号間での差分(減算)演算を実現することもできる。
たとえば、カウンタ部254は、複数の単位画素3の画素信号についてそれぞれカウント処理してAD変換を行なう際に、各画素信号の内の一方について取得したデジタルデータを他方の画素信号(後のカウント処理の対象信号)のカウント処理の初期値とすることで、複数の単位画素3のうちの他方についてカウント処理にてAD変換をした後には、自動的に双方の積和演算結果のデジタルデータを取得する。
ここで、図3に示したように、それぞれについてのカウントモードを異なるモード(逆のモード)にすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号についての減算結果のデジタルデータを取得することができる。これに対して図示を割愛するが、それぞれの信号成分についてのカウントモードを同じにすれば、後のカウント処理時に得られるカウント値は、複数の単位画素3の画素信号(詳しくは真の信号成分)についての加算結果のデジタルデータを取得することができる。これらを組み合わせることで、各単位画素3からの画素信号(詳しくは真の信号成分)について、符号も含んだ総和を求める機能、つまり積和演算を実現することができる。
<第2実施形態;固体撮像装置の構成;パイプライン処理>
図4は、本発明の第2実施形態に係るCMOS固体撮像装置の概略構成図である。第2実施形態の固体撮像装置1は、第1実施形態の固体撮像装置1に対して、カラムAD回路25の構成を変形している。
すなわち、第2実施形態におけるカラムAD回路25は、カウンタ部254の後段に、このカウンタ部254の保持したカウント結果を保持するnビットのメモリ装置としてのデータ記憶部256と、カウンタ部254とデータ記憶部256との間に配されたスイッチ258とを備えている。
スイッチ258には、他の垂直列のスイッチ258と共通に、通信・タイミング制御部20から、所定のタイミングで、制御パルスとしてのメモリ転送指示パルスCN8が供給される。スイッチ258は、メモリ転送指示パルスCN8が供給されると、対応するカウンタ部254のカウント値をデータ記憶部256に転送する。データ記憶部256は、転送されたカウント値を保持・記憶する。
なお、カウンタ部254のカウント値を所定のタイミングでデータ記憶部256に保持させる仕組みは、両者間にスイッチ258を配する構成に限らず、たとえば、カウンタ部254とデータ記憶部256とを直接に接続しつつ、カウンタ部254の出力イネーブルをメモリ転送指示パルスCN8で制御することで実現することもできるし、データ記憶部256のデータ取込タイミングを決めるラッチクロックとしてメモリ転送指示パルスCN8を用いることでも実現できる。
データ記憶部256には、水平走査回路12から制御線12cを介して制御パルスが入力される。データ記憶部256は、制御線12cを介しての制御パルスによる指示があるまでは、カウンタ部254から取り込んだカウント値を保持する。
水平走査回路12は、カラム処理部26の各電圧比較部252とカウンタ部254とが、それぞれが担当する処理を行なうのと並行して、各データ記憶部256が保持していたカウント値を読み出す読出走査部の機能を持つ。
このような第2実施形態の構成によれば、カウンタ部254が保持したカウント結果をデータ記憶部256に転送することができるため、カウンタ部254のカウント動作すなわちAD変換処理と、カウント結果の水平信号線18への読出動作とを独立して制御可能であり、AD変換処理と外部(先ずは水平信号線18)への信号の読出動作とを独立・並行して行なうパイプライン動作が実現できる。
<第2実施形態;パイプライン処理の基本動作>
図5は、図4に示した第2実施形態の固体撮像装置1のカラムAD回路25における基本動作を説明するためのタイミングチャートである。カラムAD回路25におけるAD変換処理は、第1実施形態と同様である。ここではその詳細な説明を割愛する。
第2実施形態においては、第1実施形態の構成に、データ記憶部256を追加したものであり、AD変換処理を始めとする基本的な動作は第1実施形態と同様であるが、カウンタ部254の動作前(t6)に、通信・タイミング制御部20からのメモリ転送指示パルスCN8に基づき、前行Hx−1の処理時におけるカウント結果をデータ記憶部256に転送する。
第1実施形態では、処理対象の画素信号における2回目の読出処理、すなわちAD変換処理が完了した後でなければ画素データをカラム処理部26の外部に出力することができないので、読出処理には制限があるのに対して、第2実施形態の構成では、処理対象の画素信号における1回目の読出処理(AD変換処理)に先立って前回の減算処理結果を示すカウント値をデータ記憶部256に転送しているので、読出処理には制限がない。
<第2実施形態;固体撮像装置の空間差分処理動作>
図6は、図4示した第2実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートである。
図5に示したように、第2実施形態においては、処理対象の画素信号における1回目の読出処理(AD変換処理)に先立って前回の減算処理結果を示すカウント値をデータ記憶部256に転送しているので、読出処理には制限がない。
こうすることで、図6に示すように、データ記憶部256から水平信号線18および出力回路28を経た外部への差分データの信号出力動作と、現行Hxおよび次行Hx+1の読出しおよびカウンタ部254のカウント動作を利用した差分処理とを並行して行なうことができ、より効率のよい信号出力が可能となる。
図7は、空間差分処理におけるフレームレートとの関わりを説明するタイミングチャートである。図3を用いて説明したように、カウンタ部254のアップダウンカウント機能を使って2行ごとの減算処理を実現することにより差分画像を取得するとともにデータ量を圧縮することができるが、第2実施形態の構成ではデータ記憶部256を設けたことで、AD変換とデータ読出とを同時並行的に処理できる。
ここで第2実施形態においては、差分処理の対象とする全ての画素(本例では行)についての総AD変換期間が、1行内に収まるようにする。こうすることで、総AD変換時間を1/2^mに低減するとともに、フレームレートを2^m倍向上させることができる。
ここで、処理対象の画素数2^m(“^”はべき乗を示す)として、総AD変換時間を1/2^mにしたり、フレームレートを2^m倍にしたりするに当たっては、参照信号RAMPの傾きを2^m倍にするとともに、カウントクロックCK0を2^m倍にする方法や、参照信号RAMPの傾きやカウントクロックCK0を変更せずにビット数を低減する方法などがある。
後者の場合、信号の最大幅(ダイナミックレンジ)に割り当てるビット分解能を通常時と同じに維持したまま信号の最大幅(ダイナミックレンジ)をカバーするようにすると、各単位画素3についてのAD変換期間すなわちフルスケール分(たとえばnビットカウントに対してnビット分)のAD変換期間を1行分に割り当てることができないので、各単位画素3についての最長AD変換期間をそれぞれ1/2^m倍と短くする必要がある。参照信号RAMPの傾きを通常処理時と同じにする場合、概ね、ビット数を“m”だけ少なくする必要があることを意味する。
つまり、参照信号RAMPの傾きやカウントクロックCK0を変更せずに、ビット分解能を維持したままで、複数画素の演算を1行期間内に収めるには、処理対象とする画素数(本例では行数)に応じて、カウント処理のビット数を上述のように調整する必要がある。
つまり、AD変換精度を維持したままAD変換期間を短くできない場合、2^m個の画素を差分処理の処理対象とする場合、図7のタイミングチャートにおけるカウンタ部254の各2回目(すなわち信号成分Vsig の比較期間)のカウント処理のデジタルカウントを、“n−m”ビットまでとするとよい。
たとえば、2行について差分処理を行なう場合において、10ビットでカウント処理を行なう場合、本来は1024クロック期間比較を行なうが、9ビットでカウント処理を行なう、すなわち512クロック期間に削減する。このとき、参照信号生成部27のDA変換回路27aで生成される参照信号RAMPの時間変化の割合は同一とする。これは、AD変換精度、すなわちビット分解能が変化しないことを意味する。
本例においては、図7のタイミングチャートに示すように、AD変換期間を1/2に短縮することで、カウントクロックCK0を変更することなく、またデータ出力レートを変更せずにフレームレートを2倍にすることができる。
なお、フレームレートが2倍になると、単位画素当りの蓄積時間は1/2となり、信号振幅も1/2となりS/Nが低下する可能性がある。同様に、2^m(“^”はべき乗を示す)行を処理対象の単位として減算を実行しAD変換期間を1/mに削減した場合、フレームレートがm倍となる。このとき、nビットのAD変換精度をn−mビットに低減することで、S/Nの劣化の可能性はあるがフレームレートを向上させることができる。
<空間差分処理の利用形態;1次元エッジ検出>
図8および図9は、第1もしくは第2実施形態の構成における空間差分処理の利用形態の第1例を説明する図である。図6や図7を用いて説明したように、カウンタ部254のアップダウンカウント機能を使って2行ごとの減算処理を実現することにより差分画像を取得することができるが、その一利用形態としては、カラム処理部26の外部に特殊な回路を用いることなく、エッジ抽出処理の機能を実現できるようになる。
たとえば、図8は、エッジ検出機能を説明する図である。カウンタ部254にて列方向に差分処理を行なうと、2行ごとすなわち垂直走査方向に隣り合う画素間で減算がなされエッジ検出ができるようになる。このように、垂直走査方向に隣り合う画素の信号を減算する動作をすると、図8(A)に示すように、被写体の中に走査方向にある白と黒の境界で信号強度が最も強くなる。すなわち、フォトダイオードなどの電荷生成部の信号レベルが一定している部分では差分画像には出力が現れないが、信号レベルが変化する境界部分に差し掛かると差分出力が得られるので、これによりエッジ検出を行なうことができる。この垂直方向のエッジ検出処理を複数の垂直列について処理することによって、水平行列方向の直線検出処理が実現できる。
ただし、図7を用いて説明した差分処理では、2行ごとの減算処理を行なうので、白と黒の境界が丁度2行の繰返しと同期した位置にあると、図8(B)に示すように、白と黒の境界部分では、信号強度が強くなる事象が発生しない。
この問題を解消するには、2行ごとの減算処理を、1行ずつずらしながら行なう逐次処理にするのがよい。このためには、垂直走査回路14は、水平行を垂直方向に2行ずつ順に走査するのではなく、垂直デコーダ14aによるアドレスデコード処理により、任意の行線Hyを選択できるようにすることで、対応する任意の2行を選択するようにする。
この場合、図9に示すタイミングチャートのように、フレームレートを通常のままとするとともに、AD変換期間を1/2に短縮する。この場合でも、カウントクロックCK0を変更することなく、またデータ出力レートを変更せずに、フレームレートを通常通りにすることができる。
なお、ランダム雑音などの成分による誤判定を防止するべく、エッジ判定に際しては、閾値処理を行なうのがよい。すなわち、カラム処理部26の後段に接続された出力回路28もしくは出力回路28の後段に接続される図示しないデジタル信号処理部にて、式(4)で求めた2画素間の差分結果を示すデジタル値が一定以上である場合に、エッジが検出されたものと判定するのがよい。
また、電荷のゆらぎなどに起因して発生するショット雑音(shot noise)は、信号の大きさの平方根に比例する、すなわち被写界が明るく輝度レベルが大きい場合にはショット雑音のレベルが大きくなる特質を持っているので、判定の閾値を一定すると、被写界が極端に明るい場合や極端に暗い場合には、エッジを精度良く検出することができないという問題を生じ得る。これを避けるべく、被写体のコントラストが高い場合や被写界が暗い場合には判定の閾値を上げる一方、被写体のコントラストが低い場合や被写界が明るい場合には判定の閾値を下げるなど、状況に応じてエッジ判定の閾値を調整するのがよい。こうすることで、精度良くエッジを検出することができるようになる。
<空間差分処理の利用形態;パターン・マッチング>
図10は、第1もしくは第2実施形態の構成における空間差分処理の利用形態の第2例を説明する図である。第2例では、パターン・マッチングを説明する。パターン・マッチングもエッジ検出と同様の概念で処理することができ、たとえば抽出しようとしているパターンと同じ減算パターンの組合せで走査することで、図10(A)に示す検知結果の出力イメージのように、減算パターンの組合せと同じ模様の部分から最も強い信号が得られる。これは、1次元の空間フィルタを通すのと同じ操作に該当し、上記で示した第1および第2実施形態の構成によれば、外部に特殊な回路を用いることなく、パターン・マッチング機能を実現できる。
ただし、図7を用いて説明した差分処理では、2行ごとの減算処理を行なうので、検知対象のパターン配置に対して1画素分ずれてサーチすると、図10(B)に示すように、検知対象のパターンに合致しない場合であってもエッジ部分が検知されることがある。この問題を解消するには、1行分ずらした減算パターンの組合せでも走査するとともに、両方の検知結果を1行分ずらして論理積(AND)を取るか、もしくは、検知結果のイメージデータを加算するとよい。論理積を取ると検知対象のパターンに合致しない部分を完全に除去できる。またデータ加算をすると、検知対象のパターンに合致する部分の濃度が強調されるとともに、合致しない部分の濃度が低減されるので、抽出すべき部分がより強調される。
以上説明したように、第1および第2実施形態の固体撮像装置によれば、アップダウンカウンタを用いつつ、その処理モードを切り替えて2回に亘ってカウント処理を行なうようにした。また、行列状に単位画素3が配列された構成において、カラムAD回路25を垂直列ごとに設けた列並列カラムAD回路で構成した。
このため、基準成分(リセット成分)と信号成分との減算処理が2回目のカウント結果として垂直列ごとに直接に取得することができ、基準成分と信号成分のそれぞれのカウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。また、基準成分と信号成分との差を取るための特別な減算器が不要になる。
加えて、この減算処理で得られる真の信号成分を複数使って積和演算処理を行なう際も、カウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。
このように、AD変換結果を保持するだけの特別なメモリや、基準成分と信号成分との差を取るための特別な減算器や、積和演算処理を行なうための特別な減算器や加算器などの周辺回路が不要になる。よって、回路規模や回路面積を少なくすることができ、装置全体としてコストの低減を図ることができ、加えて、雑音の増加や電流、消費電力の増大を解消することができる。
また、比較部とカウンタ部でカラムAD回路(AD変換部)を構成したので、ビット数によらずカウンタ部を動作させるカウントクロック1本とカウントモードを制御する制御線とでカウント処理を制御でき、カウンタ部のカウント値をメモリ装置まで導く信号線が不要になり、雑音の増加や消費電力の増大を解消することができる。
つまり、AD変換装置を同一チップ上に搭載した固体撮像装置1において、電圧比較部252とカウンタ部254とを対にしてAD変換部としてのカラムAD回路25を構成するとともに、カウンタ部254の動作としてダウンカウントとアップカウントとを組み合わせて使用しつつ、処理対象信号の基本成分(本実施形態ではリセット成分)と信号成分との差をデジタルデータにすることで、回路規模や回路面積や消費電力、あるいは他の機能部と間のインタフェース用配線の数や、この配線によるノイズや消費電流などの問題を解消することができる。
また、処理モードとして、差分演算処理モードにすれば、チップ外部のメモリを使用しないで、かつ列並列に配置されたカラムAD回路25のモード切替可能なアップダウンカウント機能を利用することで、追加回路を使わずに、行単位で、高精度の差分処理を実現できる。これによって、エッジ検出処理や直線検出処理あるいはパターン・マッチング処理などの空間差分処理が実現できる。
<第3実施形態;固体撮像装置の構成;2次元処理対応;その1>
図11は、本発明の第3実施形態に係るCMOS固体撮像装置の概略構成図である。第3実施形態の固体撮像装置1は、第2実施形態の固体撮像装置1に対して、行方向についての空間差分処理を実現可能に構成する機能要素を追加した点に特徴を有する。ここでは、図3に示した列方向に2行単位で差分演算を行なうことに対応して、行方向に2列単位で差分演算を行なう“2行×2列”対応の事例で説明する。
具体的には、行方向についての差分処理を行なう主要な機能要素として、先ず、固体撮像装置1は、出力回路28にnビットの減算処理を行なうデジタル演算部(Δ)282を備えている。カラム処理部26と出力回路28のデジタル演算部282との間は、nビット分の水平信号線18が2系統(それぞれを18a,18bとする)用意されている。
デジタル演算部282は、列方向もしくは行方向についてのカラムAD回路25における積和演算結果のデジタルデータを複数受け取り、この複数のデジタルデータに基づき、カラムAD回路25における列方向もしくは行方向と逆の関係となる方向についての積和演算を行なう。“逆の関係となる方向”とは、カラムAD回路25が列方向に処理していれば行方向、カラムAD回路25が行方向に処理していれば列方向である。本実施形態では、カラムAD回路25にて列方向の積和演算を行ない、デジタル演算部282にて行方向の積和演算を行なう。積和演算は、何れも差分演算とする。
本実施形態においては、カラム処理部26とデジタル演算部282とで、複数の処理対象信号の積和演算結果のデジタルデータを取得するデータ処理装置が構成される。全体として、2次元の積和演算処理を行なったデジタルデータをデジタル演算部282から取得することができるように構成される。
奇数列(2j−1)線V1,V3,…(j=1以上の正の整数、以下本実施形態において同様)に接続されたカラムAD回路25は、nビット幅の水平信号線18aを経由してデジタル演算部282の第1の入力端子に接続され、偶数(2j)列線V2,V4,…に接続されたカラムAD回路25は、nビット幅の水平信号線18bを経由してデジタル演算部282の第2の入力端子に接続されている。
デジタル演算部282は、水平信号線18aを介して入力される奇数列の2行分の差分処理で得られた差分データD3aと、水平信号線18bを介して入力される偶数列の2行分の差分処理で得られた差分データD3bとに基づき、行方向について、2列分を単位とする差分演算を行ない、最終的な差分データ(デジタル差分処理信号)D3を出力する。
この際の差分処理としては、図3に示した列方向における2行単位での差分演算と同様に、同じ係数としつつ、奇数列の差分データD3aから偶数列の差分データD3bを差し引くことで、差分データD3=D3a−D3bを求める処理とする。
<第3実施形態;固体撮像装置の空間差分処理動作;2次元処理対応;その1>
図12は、図11示した第3実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートである。また、図13は、第3実施形態の構成における空間差分処理の利用形態を説明する図である。
マトリックス状に配置された画素部10の各単位画素3から列並列のカラムAD回路25に画素信号を読み出して列方向の2行分について差分処理する動作、すなわち行線Hx、Hx+1のデジタルカウント値をカラムAD回路25を用いて差分処理する動作は、上述した第2実施形態と同様である。
カラムAD回路25のカウンタ部254は、取得した差分結果を示すデジタルカウント値をデータ記憶部256に転送し、データ記憶部256は、水平信号線18a,18bを通して奇数列線および偶数列線の行線Hx、Hx+1の差分信号をデジタル演算部282に入力させる。
このとき、水平走査回路12からの水平走査信号CH(i)は、CH(1)とCH(2)、CH(3)とCH(4)、…というように、2列ごとにカラムAD回路25のデータ記憶部256に保持されたデジタル値を水平信号線18a,18bに同時に出力する。
図12に示すタイミングチャートの出力信号Aには奇数列の差分データD3aが、また出力信号Bには偶数列の差分データD3bが出力されている。たとえば、出力信号Aの先頭信号から、1列目の画素11と画素21の差分結果が出力され、出力信号Bの先頭信号から、2列目の画素12と画素22の差分結果が出力される。
したがって、デジタル演算部282から出力される差分データD3の先頭出力は、図11に示す単位画素3の、1行1列(画素11)と2行1列(画素21)との差分“Vsig11 −Vsig21 ”から、1行2列(画素12)と2行2列(画素22)との差分“Vsig12 −Vsig22 ”を差し引いた差分データD3=D3a−D3bの結果が出力される。
また、この第3実施形態では、第2実施形態と同様にデータ記憶部256を設けており、カラムAD回路25のカウンタ部254の保持したカウント結果をデータ記憶部256に転送することができるため、カウンタ部254のカウント動作と、カウント結果の水平信号線18a,18bへの読出動作とを独立して制御可能である。
ここで、差分処理の対象とする画素数に基づき、カウント処理のビット数を調整することで、ダイナミックレンジやビット分解能を維持したままで、AD変換時間を低減することも可能となる。また、画素信号のリセットレベル(基準成分)を取得するための通常処理時のビット精度をnビットとし、処理対象の画素数をm(本例では4=2×2)としたとき、差分処理時には、AD変換のビット数を“m−1=3”だけ低減すれば、参照信号RAMPの傾きやカウントクロックCK0を変更することなく、AD変換時間を1/mに低減することができる。たとえば、図12に示すように、AD変換のビット精度を低減し、それぞれのAD変換期間を1/4に短縮することで、フレームレートを4倍にすることができる。
以上説明したように、第3実施形態の構成によれば、デジタル演算部282にて、行方向差分処理を実現することができる。たとえば、カウンタ部254では列方向についての差分処理を行なわずカウント値をデータ記憶部256を経由してデジタル演算部282に送るようにすれば、デジタル演算部282により、2列分についてのカウント値を対象として減算処理することが可能となり、結果として2列の画素の差分処理を行なう行方向差分処理を実現することができる。
この行方向の差分処理を単独で機能させることで、水平方向にエッジ検出ができ、この水平方向のエッジ検出処理を複数の水平行について処理することによって、垂直列方向の直線検出処理が実現できる。行方向についての2列分の差分処理をカラム処理部26の外部に設けたデジタル演算部282で行なう構成ではあるものの、列方向についての差分処理に関しては上記第1や第2実施形態と同様の効果を享受できる。
単位画素3から垂直信号線19には電圧モードで画素信号を出力するようにしている。よって、単位画素3に電荷生成部で取得した電荷を保持するフローティングディフュージョンなどのメモリ機能要素を設けることで、画素信号を垂直信号線19に読み出した後でも、単位画素3の信号電荷をリセットするまでは、電荷生成部で取得した電荷に応じた電気信号(電圧信号)を出力させることができる。この性質を利用すれば、単位画素3から同一の画素信号を複数回を読み出すことができる。これにより、第1や第2実施形態で示した列方向だけでなく、この第3実施形態のように、行方向についても差分演算処理を行なうことができるようにすることで、たとえば、高精度な図形の認識機能を実現することができるようになる。
<空間差分処理の利用形態;2列の2次元>
たとえば、図13(A)に示すように、先ず列方向に2行ずつ差分処理をして列方向に1次元状に投影された各列のエッジプロファイル(列方向エッジ検出画像)を取得し、この後、行方向に2列ずつ差分処理をして行方向に1次元状に投影された各行のエッジプロファイル(行方向エッジ検出画像)を取得し、これらで得られる2次元状のエッジプロファイルに基づき、エッジの形やエッジの数を解析して処理対象画像の図形の特徴を求め、これを基準のテンプレートと比較して最も類似したものを選択することにより、図形の認識機能を実現することができる。
また、図3に示した列方向に2行単位で差分演算を行なう列方向差分処理と、デジタル演算部282による、2列単位で差分演算を行なう行方向差分処理とを組み合わせることにより、2行2列の差分処理を実現することが可能となる。この2行2列の差分処理の利用形態としては、2次元方向のエッジ検出処理として、たとえば図13(B)に示すように、頂点座標の抽出処理や、45度斜め方向のエッジ検出処理ができるので斜め方向の直線検出処理が実現できる。
以上説明したように、列並列に配置されたカラムAD回路25のモード切替可能なアップダウンカウント機能を利用して垂直列方向に差分処理を行なう構成だけでなく、カラム処理部26の後段に設けたデジタル演算部282にて水平行方向にも差分処理を行なう機能要素を追加することで、エッジ検出処理や直線検出処理あるいはパターン・マッチング処理などが2次元に展開できるようになる。
この際、列並列に配置されたカラムAD回路25のモード切替可能なアップダウンカウント機能を利用した複数行の画素信号についての垂直列方向の差分処理機能を停止させておき、リセット成分と信号成分を含む画素信号から真の信号成分を抽出する差分処理機能のみを作用させることで、水平行方向のみについての複数の画素信号間で差分処理を行なうことができ、エッジ検出処理や直線検出処理あるいはパターン・マッチング処理などが水平行方向のみに展開できるようにもなる。
<第4実施形態;固体撮像装置の構成;3行以上の画素信号対応>
図14は、本発明の第4実施形態に係るCMOS固体撮像装置の概略構成図である。第4実施形態の固体撮像装置1は、第2実施形態の固体撮像装置1に対して、3行以上の画素信号を対象として差分処理するとともに、符号も含んだ積和演算機能を実現するように構成した点に特徴を有する。ここでは、列方向に3行単位で差分演算を行なう事例で説明する。
先ず、基本的な固体撮像装置1の構成は、概ね第2実施形態の固体撮像装置1と同様としつつ、通信・タイミング制御部20から参照信号生成部27に供給する参照信号RAMP(ADC基準信号)生成用のカウントクロックを、カウンタ部254が使用するカウントクロックCK0とは独立に、DAC用のカウントクロックCKdac として供給するようにしている。その他の構成は、第2実施形態と同様である。
カウントクロックCKdac の周期(周波数)を行ごとに調整することで、行ごとに異なる参照信号RAMPを電圧比較部252に供給することができるようになる。そしてこれにより、処理対象画素信号についての参照信号RAMPの傾き(変化率)を同じに設定するだけでなく、その参照信号RAMPの傾き(変化率)を異なるものとして差分処理ができるようになる。つまり、各単位画素3からの画素信号(詳しくは真の信号成分)に係数を掛けた後に減算処理を行なう、すなわち、符号も含んだ総和を求める積和演算機能を実現することができるようになる。
<第4実施形態;参照信号生成部の機能説明>
図15は、第4実施形態の固体撮像装置1において使用される参照信号生成部27のDA変換回路(DAC)27aの機能を説明する図である。
DA変換回路27aには、通信・タイミング制御部20からDAC用のカウントクロックCKdac の供給を受け、カウントクロックCKdac に同期して、階段状の鋸歯状波(ランプ波形)を生成して、カラムAD回路25の電圧比較部252に、この生成した鋸歯状波をAD変換用の参照電圧(ADC基準信号)として供給する。
ここで、DA変換回路27aは、先ず、制御データCN4に含まれている比較処理ごとのランプ電圧の傾き(変化率)を指示する情報に基づき、1クロック当たりの電圧変化分ΔRAMPを設定し、単位時間(カウントクロックCKdac )ごとに1ずつカウント値を変化させるようにする。実際には、カウントクロックCKdac の最大カウント数(たとえば10ビットで2.0など)に対しての最大電圧幅を設定するだけでよい。
こうすることで、DA変換回路27aは、制御データCN4に含まれている初期値を示す電圧(たとえば3.0V)から、1つのカウントクロックCKdac ごとにΔRAMPずつ電圧を低下させる。
また、単位画素3からの画素信号(詳しくは真の信号成分)に対する係数を設定する際は、通信・タイミング制御部20は、係数1を設定するカウントクロックCKdac1の基準周期に対して1/m分周したカウントクロックCKdacmをDA変換回路27aに供給する。DA変換回路27aは、制御データCN4に含まれている初期値を示す電圧(たとえば3.0V)から、1つのカウントクロックCKdacmごとにΔRAMPずつ電圧を低下させる。
こうすることで、電圧比較部252に供給される参照信号RAMPの傾きが、カウントクロックCKdac1(=CK0)で参照信号RAMPを生成する場合に対して、1/m倍となり、カウンタ部254にては、同じ画素電圧に対して、カウント値がm倍となる、すなわち係数としてmを設定できる。
図15から分かるように、参照信号RAMPの傾きが大きい程、単位画素3に蓄積された情報量に掛かる係数は小さく、傾きが小さい程係数が大きいことになる。たとえば、カウントクロックCKdac1の基準周期に対して1/2分周したカウントクロックCKdac2を与えることで、係数を“2”に設定でき、1/4分周したカウントクロックCKdac4を与えることで、係数を“4”に設定できる。なお、n/m分周したカウントクロックCKdacnm を与えることで、係数をm/nに設定することもできる。
このように、カウントクロックCKdacmごとにΔRAMPずつ電圧を変化(本例では低下)させるようにしつつ、参照信号生成部27に与えるカウントクロックCKdacnm の周期を調整することで、簡単かつ精度よく係数を設定することができる。なお、画素信号の信号成分Vsig についてのカウント処理のモードを調整することで係数の符号(+/−)を指定することができる。
なお、ここで示した係数の設定手法は一例であって、このような手法に限定されない。たとえば、参照信号生成部27に与えるカウントクロックCKdac の周期を一定にしつつ、カウンタ出力値をx、制御データCN4に含まれているランプ電圧の傾き(変化率)βとするとy=α(初期値)−β*xによって算出される電位を出力するなど、制御データCN4に含まれているランプ電圧の傾き(変化率)を指示する情報により、1つのカウントクロックCKdac ごとの電圧変化分ΔRAMPを調整するなど、任意の回路を用いることができる。
<第4実施形態;空間差分処理の動作>
図16は、図14に示した第4実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートである。第4実施形態の構成によれば、複数の画素信号についての積和演算を行なうに当たり、相異なる係数を付与して減算処理もしくは加算処理を行なうことができる。
本例では、カラムAD回路25のカウンタ部254における差分処理用のカウント処理としては、“3j−2”行線H1,H4,…(j=1以上の正の整数、以下本実施形態において同様)に対しての係数α1は“1”、“3j−1”行線H2,H5,…に対しての係数α2は“−2”、“3j”行線H3,H6,…に対しての係数α3は“1”を設定するものとする。よって、通信・タイミング制御部20は、カウンタ部254に対して、画素信号の信号成分Vsig について、それぞれ“3j−2”行線に対してはアップカウント処理、“3j−1”行線に対してはダウンカウント処理、“3j”行線に対してはアップカウント処理を行なうように、カウントモードを制御する。
これにより、3j番目の処理対象の画素信号V3jについての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、式(5)に示すように、3つの画素信号V3j−2,V3j−1,V3j間での差分演算(加減算;符号を含む積和演算)の結果(Vsig1−2・Vsig2+Vsig3)を示すnビットのデジタル値となる。
なお、第4実施形態では、列方向に3行単位で差分演算を含む積和演算を行なう事例で説明したが、4行以上にも容易に展開できる。この際、傾き(変化率)を同じにする画素数と傾き(変化率)を異なるものにする画素数との組合せも自由である。
これにより、処理単位行数における最終行の処理対象の画素信号について、2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値は、式(6)に示すように、k個の画素信号V1,V2,…,Vk間での積和演算(加減算;符号を含む積和演算)の結果を示すnビットのデジタル値となる。ここで、係数βkは符号も含むものとする。
<空間差分処理の利用形態;3行以上>
図17は、第4実施形態の構成における空間差分処理の利用形態を説明する図である。図16を用いて説明したように、カウンタ部254のアップダウンカウント機能を使って3行以上に亘って 加減算(符号を含む積和演算)処理を実現することにより様々な形態の演算画像を取得することができるが、その一利用形態としては、カラム処理部26の外部に特殊な回路を用いることなく、1次元の空間フィルタ処理の機能を実現できるようになる。
たとえば、図17は、3行に亘って積和演算処理を行なう場合に得られる空間フィルタの例を示している。参照信号生成部27より発せられる参照信号RAMPの傾きを行ごとに調整することで、フィルタ係数を任意に設定できるので、たとえば、図17(A)に示すように“1,−2,1”としたり、図17(B)に示すように“1,−3,1”としたりすることで、中央画素強調の空間フィルタを実現できる。
また、画素信号の信号成分Vsig についてのカウント処理のモードを調整することで係数の符号(+/−)を指定することができるので、たとえば図17(C)に示すように“−1,2,−1”としたり、図17(D)に示すように“−1,3,−1”としたりすることで、図17(A),(B)とは逆特性の中央画素強調の空間フィルタを実現できる。
また、特定画素についてのカウント処理を停止して係数を“0”に設定することもできるので、たとえば図17(E)に示すように“−1,0,1”としたり、図17(F)に示すように“1,0,−1”としたりすることで、垂直列方向の微分フィルタを実現することもできる。
また、これらのことから、画像圧縮処理で頻繁に使われる離散的コサイン変換を実現することもできる。離散的コサイン変換では、たとえば8×8画素について、コサイン係数を掛けて和を求める必要があるとともに、コサイン係数には正負があるので、このような両極性の演算が必要な場合に、第4実施形態の構成を適用することで、要求される機能を簡単に実現することができる。
<第5実施形態;固体撮像装置の構成;3列以上の2次元処理対応>
図18は、本発明の第5実施形態に係るCMOS固体撮像装置の概略構成図である。第5施形態の固体撮像装置1は、第4実施形態の固体撮像装置1に対して、行方向についての差分処理を行なう構成要素を追加している点に特徴を有する。第5実施形態の固体撮像装置1は、第2実施形態の固体撮像装置1に対して、行方向についての空間差分処理を実現可能に構成する機能要素を追加した点に特徴を有し、図11に示した“2行×2列”対応の第3実施形態の固体撮像装置1を、3列以上に対応するように変形したものである。
以下では、図16に示した列方向に3行単位で積和演算を行なうことに対応して、行方向に3列単位で積和演算を行なう“3行×3列”対応の事例で説明する。なお、説明を割愛するが、列方向に2行単位で差分演算を行なうものに適用して行方向に3列単位で積和演算を行なうようにすれば、“2行×3列”対応の構成となる。また、列方向にj行単位で積和演算を行なうものに適用して行方向に4列以上(k列)の単位で積和演算を行なうようにすれば、“j行×k列”対応の構成となる。
行方向についての積和演算を行なう主要な機能要素として、先ず固体撮像装置1は、出力回路28にnビットの減算処理を伴う積和演算を行なうデジタル演算部282を備えている。カラム処理部26と出力回路28のデジタル演算部282との間は、nビット分の水平信号線18が3系統(それぞれを18a,18b,18cとする)用意されている。
“3j−2”列線V1,V4,…(n=1以上の正の整数、以下本実施形態において同様)に接続されたカラムAD回路25は、nビット幅の水平信号線18aを経由してデジタル演算部282の第1の入力端子に接続され、“3j−1”列線V2,V5,…に接続されたカラムAD回路25は、nビット幅の水平信号線18bを経由してデジタル演算部282の第2の入力端子に接続され、“3j”列線V3,V6,…に接続されたカラムAD回路25は、nビット幅の水平信号線18cを経由してデジタル演算部282の第3の入力端子に接続されている。
デジタル演算部282は、水平信号線18aを介して入力される“3j−2”列の差分データD4aと、水平信号線18bを介して入力される“3j−1”列の差分データD4bと、水平信号線18cを介して入力される“3j”列の差分データD4cとに基づき、行方向について、3列分を単位とする差分演算を伴う積和演算を行ない、最終的なデジタル演算データD4を出力する。
本実施形態では、カウンタ部254の保持したカウント結果を、メモリ装置22に転送することができるため、カウンタ部254のカウント動作と、カウント結果の水平信号線18および32への読み出し動作とを独立して制御可能であり、デジタル演算部282により、3列分についてのカウント値を対象として減算処理することが可能となり、結果として3列の画素の差分処理を行なう行方向差分処理を実現することができる。
さらに、図16に示した列方向に3行単位で差分演算を行なう列方向差分処理と組み合わせることにより、3行3列の差分処理を実現することが可能となる。行方向についての3列分の差分処理をカラム処理部26の外部に設けたデジタル演算部282で行なう構成ではあるものの、列方向についての差分処理に関しては上記第1や第2実施形態と同様の効果を享受できる。
この図18に示す第5実施形態の固体撮像装置1のカラムAD回路25における空間差分処理時の動作を説明するためのタイミングチャートは図示を割愛するが、基本的は、図16に示した列方向に3行分の差分処理を行なう第4実施形態を、図12に示したように、行方向に差分処理を行なう第3実施形態を適用して考えればよい。
よって、水平走査回路12からの水平走査信号CH(i)は、CH(1)とCH(2)とCH(3)、CH(4)とCH(5)とCH(6)、…というように、3列ごとにカラムAD回路25のデータ記憶部256に保持されたデジタル値を水平信号線18a,18b、18cに同時に出力する。
したがって、デジタル演算部282から出力される差分データD4の先頭出力は、図18に示す単位画素3の、1行1列(画素11)と2行1列(画素21)と3行1列(画素31)の差分γ1・(Vsig11 −Vsig21 +Vsig31 )から、1行2列(画素12)と2行2列(画素22)と3行2列(画素32)の差分γ2・(Vsig12 −Vsig22 +Vsig32 )を差し引き、これに1行3列(画素13)と2行3列(画素23)と3行3列(画素33)の差分γ3・(Vsig13 −Vsig23 +Vsig33 )を加えた差分データD4=γ1・D4a−γ2・D4b−γ3・D4cの結果が出力される。なお、係数γkは符号を含まないものとする。
本例でも、第2実施形態と同様にデータ記憶部256を設けており、カラムAD回路25のカウンタ部254の保持したカウント結果をデータ記憶部256に転送することができるため、カウンタ部254のカウント動作と、カウント結果の水平信号線18a,18b,18cへの読出動作とを独立して制御可能である。また、AD変換のビット精度を低減し、AD変換期間を1/9(1/3・1/3)に短縮することで、フレームレートを9倍にすることができる。
本実施形態においても、第4実施形態と同様に係数γkを、それぞれ1,−2,1とすれば、デジタル演算部282における差分処理時には、“3k−2”列線V1,V4,…(k=1以上の正の整数、以下本実施形態において同様)に対しての係数γ1は“1”、“3k−1”列線V2,V5,…に対しての係数γ2は“−2”、“3k”列線V3,V6,…に対しての係数γ3は“1”を設定するものとする。これにより、デジタル演算部282からは、差分データD4=D3a−2・D3b+D3bの結果が出力される。
以上説明したように、第5実施形態の構成によれば、第3実施形態の構成と同様に、デジタル演算部282にて、3列分以上に亘って行方向差分処理を実現することができる。この行方向の差分処理を単独で機能させることで、水平方向についての空間フィルタ処理が実現できる。
また、図16に示した列方向に3行単位で差分演算を行なう列方向差分処理と、デジタル演算部282による、3列以上を処理対象単位とした差分演算を行なう行方向差分処理とを組み合わせることにより、列方向および/または行方向に係数が対称の2次元の空間フィルタ処理が実現できる。
<空間差分処理の利用形態;3列以上の2次元>
図19は、第5実施形態の構成における空間差分処理の利用形態を説明する図であり、本例で形成される2次元状の空間フィルタの一例を示す図である。
たとえば、行方向の差分処理を単独で機能させることで、水平方向についての空間フィルタ処理が実現でき、その結果として、図19(A)に示すように、垂直の線分を検出する2次元状の空間フィルタを形成できる。また、特定の行についての係数を“0”に設定することもできるので、たとえば図19(B)に示すように、水平行方向の微分フィルタを実現することもできる。
また、たとえば、図19に示した列方向に3行単位で差分演算を行なう列方向差分処理と、デジタル演算部282による、3列単位で差分演算を行なう行方向差分処理とを組み合わせることにより、3行3列の差分処理を実現することが可能となる。この3行3列の差分処理の利用形態としては、差分処理時の係数を列方向および行方向の何れについても“1,−2,1”とすることで、図19(C)に示すように、3行3列でなる空間フィルタは、8近傍画素に対して中心画素を強調する2次元の空間フィルタ、いわゆる Roberts演算子といわれるアンシャープ・マスキング・フィルタ処理を実現できる。2番目の係数を“2”からたとえば“3”に変更すれば、図19(D)に示すように、さらに強調度の高いアンシャープ・マスキング・フィルタ処理を実現できる。
このように、第5実施形態の構成によれば、行列状に配された単位画素3を対象とした多入力の積和演算が簡単に実現でき、空間フィルタが掛るように単位画素3からの画素信号を配置でき、空間フィルタをCMOSイメージセンサに簡単に実装することができ、画像のエッジを強調する2次元のアンシャープ・マスキング・フィルタが簡単に実現できるようになる。また、これらのことから、画像圧縮処理で頻繁に使われる離散的コサイン変換を2次元状に実現することもできる。
<加算演算への適用>
なお、上記説明から理解できるように、各画素信号についてのカウントモードを共通にすることで、カウント処理時の係数を全て正もしくは負にすることもできる。これは、加算演算処理のみを行なうことを意味し、加えて、たとえば参照信号生成部27が発する参照信号RAMPの傾きを変えるなどして係数も設定できるので、減算処理を含む積和演算処理では実現できないようなフィルタ処理を実現できるようになる。たとえば、処理対象画素信号の全ての係数を同じにすれば、図19(E)に示すような平滑化フィルタ処理を実現できる。また、周辺画素の係数よりも中央画素の係数を大きくすれば、図19(F)に示すように中央画素を強調する重付け加算処理を実現することができる。
<第6実施形態;固体撮像装置の構成;任意列の2次元処理対応の第1例>
図20は、本発明の第6実施形態に係るCMOS固体撮像装置の概略構成図である。第6施形態の固体撮像装置1は、第5実施形態の固体撮像装置1と同様に、行方向についての差分処理を行なう構成要素を追加している点に特徴を有する。つまり、単位画素3から垂直信号線19を介してカラム処理部26に送られるアナログの画素信号を切替スイッチにより列並列に配された複数のカラムAD回路25の何れかに繋ぎ変えることで、行方向の差分処理にも対応するようにする。
第5実施形態の構成では、行方向についての差分処理の機能をデジタル演算部282にて実現していたが、第6実施形態の構成では、画素部10とカラム処理部26との間に、単位画素3で検出される画素信号を、垂直信号線19を切り替えて列並列に配されたカラムAD回路25の何れかに入力する列選択処理部290を備えている点に特徴を有する。
列選択処理部290には、列選択処理部290の選択動作を制御する2系統の切替制御信号CN10,CN12が入力されている。垂直走査回路14および通信・タイミング制御部20に加えて、この列選択処理部290を含んで、単位信号選択制御部が構成される。また、本実施形態においては、カラム処理部26と列選択処理部290とで、複数の処理対象信号の積和演算結果のデジタルデータを取得するデータ処理装置が構成される。
図21は、第6実施形態の固体撮像装置1にて用いられる列選択処理部290の一構成例を示す図である。列選択処理部290は、垂直信号線19を切り替えて列並列に配されたカラムAD回路25の何れか1つに、その垂直信号線19の画素信号を入力する1入力−多出力型の切替スイッチ292aを有する切替スイッチ群292と、多入力−1出力型の切替スイッチ294aを有する切替スイッチ群294からなる切替スイッチの集合物とする。本例では、3列対応の処理とするべく、切替スイッチ292aは1入力−3出力型とし、切替スイッチ294aは3入力−1出力型としている。
すなわち、1入力−3出力型の各切替スイッチ292aの1入力側が先ず各垂直信号線19に接続されている。また、3入力−1出力型の各切替スイッチ294aの出力側が対応するカラムAD回路25(詳しくは電圧比較部252)に接続されている。
切替スイッチ292aは、切替制御信号CN10による制御の元で、何れか1つの垂直信号線19を選択して出力側の端子を介して切替スイッチ294の対応する入力端子に伝達する。切替スイッチ294aは、切替制御信号CN12による制御の元で、3つの入力端子のそれぞれに入力された画素信号の中から何れか1つを選択して出力端子を介して対応するカラムAD回路25の電圧比較部252に伝達する。
なお、この図では、各列のカラムAD回路25が連続して隣接する3つの垂直信号線19からの画素信号を切替制御信号CN10,CN12の制御の元で受付け可能に構成しているが、たとえば、3本おき(間に2本を配する)の3列分の垂直信号線19に対して1つのカラムAD回路25を割り当てる形態とするなど、垂直信号線19との対応付けに関しては種々の変形が可能である。
また、本例では、1つの垂直信号線19に対して1つのカラムAD回路25を割り当てる通常の構成と、3列対応の構成とを切替え可能に構成しているが、3列対応の構成のみでよい場合には、切替スイッチ群292側を取り外すとともに、カラムAD回路25も、3列分に1つを配するようにすることができる。
<空間差分処理の利用形態;任意列の2次元処理対応の第1例>
図22は、第6実施形態の構成における空間差分処理の利用形態の一例を説明する図である。図21に示した構成の列選択処理部290を備えた第6実施形態の固体撮像装置1においては、処理対象の垂直信号線19を切り替えながら、すなわち行方向に走査しながら(複数列に亘って)、列方向の複数行についてカウント処理を行なうことができる。
この場合における、行方向と列方向の処理順序としては、図22(A)に示すように、先ず任意の垂直信号線19を選択した状態で列方向にj行分のカウント処理を行ない、この処理によって得られたカウントデータD10を次のカウント処理の初期値に設定して(本例ではカウンタ部254のカウント値のリセットを行なわずに)、垂直信号線19を切り替えて引き続き同一の処理対象行について、列方向にj行分のカウント処理を行なう処理を、処理対象のk列分に亘って繰り返す第1の走査手法を採ることができる。
また、図22(B)に示すように、任意の水平行Hxを選択した状態で任意の垂直信号線19についてカウント処理を行ない、この処理によって得られたカウント値を次のカウント処理の初期値に設定して(本例ではカウンタ部254のカウント値のリセットを行なわずに)、垂直信号線19を切り替えて引き続き同一の水平行Hxについてのカウント処理を行ない、全ての処理対象列(k列分)についてのカウント処理が完了した後に、処理対象の水平行を切り替えて、上記と同様に垂直信号線19を切り替えながら全ての処理対象列(k列分)についてのカウント処理を行なう処理を、処理対象のj行分に亘って繰り返す第2の走査手法を採ることもできる。また、図22(C)に示すように、斜め方向に走査するいわゆるジグザグスキャンと呼ばれる第3の走査手法を採ることもできる。
カウント処理の対象とする行や列に応じて、参照信号RAMPの傾きを調整し、また画素信号における信号成分Vsig (リセット成分)についてのカウントモードをアップ(ダウン)カウントモードやダウン(アップ)カウントモードに設定することで、j行k列の各単位画素3を処理単位として、係数ηjk(符号を含む)を切り替えながら積和演算を行なうことができる。
第1〜第3の走査手法の何れであっても、j行k列の各画素について独立に参照信号RAMPを与えつつカウント処理を行なうことができるので、各カウント処理時の係数ηjk(符号を含む)を任意に設定することができる。よって、上記第3や第5実施形態においては、2次元状の配される係数としては、列方向および/または行方向に係数が対称に配されるものにしか対応できなかったのに対して、係数設定に自由度が生まれる。これにより、たとえば、図22(D)に示すような垂直方向検出フィルタや、図22(E)に示すような右斜め方向検出フィルタなどを構成することができる。
ここで、第1や第2の走査手法では、フィルタ係数の配列によっては、同じ符号の係数が多数並ぶ方向に演算される場合があり、演算過程で演算結果がダイナミックレンジを超えないようにするには、カウンタ部254のビット数に多くの余裕を持たせる必要がある。これに対して、第3の走査手法は、符号も考慮した係数の和がゼロに収束するように走査することができ、カウンタ部254のビット数に余裕がない場合でも、演算過程で演算結果がダイナミックレンジを超えてしまう現象を抑えることができる点で有効である。
<第7実施形態;固体撮像装置の構成;任意列の2次元処理対応の第2例>
図23は、本発明の第7実施形態に係るCMOS固体撮像装置の概略構成図である。第7形態の固体撮像装置1は、第5実施形態や第6実施形態の固体撮像装置1と同様に、行方向についての差分処理を行なう構成要素を追加している点に特徴を有する。特に、第7実施形態の構成では、カウンタ部254を、公知の技術を利用して任意の初期値をロードすることのできる構成のものとしている点に特徴を有する。
各カウンタ部254には、初期値設定用のロード制御信号CNldがロード端子LDに入力されている。また、前段のカウンタ部254の出力データが後段のカウンタ部254の対応するデータ設定端子Dinに入力される。これにより、列並列に配されたカラムAD回路25(詳しくはカウンタ部254)が行方向に縦続接続されて動作可能に構成される。
以下、3行3列の積和演算処理を行なう事例で説明する。ただし、3行3列に限らず、行および列の何れも、組合せの数を任意に設定することができる。なお、本実施形態の構成においては、図22(A)に示した第1の走査手法を採り、垂直列ごとにカウント処理を行なうので、カウント処理を実行していない垂直列のカウンタ部254の動作を停止させることで消費電力の低減を図る制御線を設けるとなおよい。
このような第7実施形態の構成においては、前列のカウント処理が完了した後、次列のカウントモードを設定した後のカウント処理の開始前に、前列のカウンタ部254におけるカウント処理で取得したカウント値を次列のカウンタ部254の初期値として設定することで、行方向の積和演算処理に対応することができる。
たとえば、先ず、1列目のカウンタ部254において、1列目について、列方向に3行に亘って差分処理を行なう。このとき参照信号生成部27が発する参照信号RAMPは1列目についてのものを行ごとに設定すればよい。1列目のカウント処理が完了した後、処理対象列を2列目に移して、カウントモード切替用のモード制御信号CN5によりカウントモードを設定した後のカウント処理の開始前に、初期値設定用のロード制御信号CNldをロード端子LDに供給することで、1列目のカウンタ部254におけるカウント処理で取得したカウント値を2列目のカウンタ部254の初期値として設定する。この後、2列目についての参照信号RAMPを参照信号生成部27にて行ごとに設定しながら列方向に3行に亘って差分処理を行なう。
2列目のカウント処理が完了した後、処理対象列を3列目に移して、カウントモード切替用のモード制御信号CN5によりカウントモードを設定した後のカウント処理の開始前に、初期値設定用のロード制御信号CNldをロード端子LDに供給することで、2列目のカウンタ部254におけるカウント処理で取得したカウント値を3列目のカウンタ部254の初期値として設定する。この後、3列目についての参照信号RAMPを参照信号生成部27にて行ごとに設定しながら列方向に3行に亘って差分処理を行なう。こうすることで、3行3列に亘って積和演算処理を実行することができる。
3列目についてのカウント処理が完了した後の所定のタイミングで、通信・タイミング制御部20は、次の3行分のカウント処理を開始するのに先立って、メモリ転送指示パルスCN8をスイッチ258に与えて、カウント結果をデータ記憶部256に転送する。このとき、3行3列に亘って積和演算処理を実行したカウント値は、3列目ごとのカウンタ部254に保持されているので、3列目ごとのデータ記憶部256に正しい演算結果が保持されることになる。
この後所定のタイミングで、通信・タイミング制御部20は、水平走査回路12に対して画素データの読出しを指示する。これを受けて、水平走査回路12は、制御線12cを介してカウンタ部254に供給する水平選択信号CH(i)を順次シフトさせる。このとき、前述のように、3列目ごとのデータ記憶部256に正しい演算結果が保持されているので、3列目ごとのデータ記憶部256からデータを水平信号線18に読み出す。
第7実施形態の構成においても、第6実施形態と同様に、j行k列の各画素について独立に参照信号RAMPを与えつつカウント処理を行なうことができるので、各カウント処理時の係数ηjk(符号を含む)を任意に設定することができ係数設定に自由度が生まれる。これにより、第6実施形態と同様に、図22(D)に示すような垂直方向検出フィルタや、図22(E)に示すような右斜め方向検出フィルタなどを構成することができる。
なお、図23では、前段のカウンタ部254の出力データが後段のカウンタ部254の対応するデータ設定端子Dinに入力されるように構成していたが、j行k列の範囲内で、任意のカウンタ部254の出力データを他の全てのカウンタ部254の対応するデータ設定端子Dinに入力するように構成すると、図22(B)に示した第2の走査手法や、図22(C)に示したジグザグスキャン(第3の走査手法)を採ることもできる。
また、複数のカラムAD回路25にて初期値設定機能を使って行方向の積和演算のみを行なうようにしつつ、第3実施形態のようなデジタル演算部282を設けることも可能である。この場合、デジタル演算部282は、行方向についてのカラムAD回路25における積和演算結果のデジタルデータを複数受け取り、この複数のデジタルデータに基づき、列方向についての積和演算を行なうことで、全体として、2次元の積和演算処理を行なうように構成することもできる。
<第8実施形態;固体撮像装置の構成;カラー撮像対応>
図24は、本発明の第8施形態に係るCMOS固体撮像装置の概略構成図である。第8施形態の固体撮像装置1は、第2実施形態の固体撮像装置1に対して、画素部10をカラー撮像対応にしている点に特徴を有する。同色同士の差分演算を行なうために有効な構成である。
画素部10における各電荷生成部(フォトダイオードなど)の電磁波(本例では光)が入射される受光面には、カラー画像を撮像するための複数色の色フィルタの組合せからなる色分解フィルタの何れかの色フィルタが設けられている。図示した例は、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタを用いており、正方格子状に配された単位画素3が赤(R),緑(G),青(B)の3色カラーフィルタ(原色フィルタ)に対応するように配されて画素部10を構成している。
たとえば、奇数行偶数列には第1のカラー(赤;R)を感知するための第1のカラー画素を配し、奇数行奇数列および偶数行偶数列には第2のカラー(緑;G)を感知するための第2のカラー画素を配し、偶数行奇数列には第3のカラー(青;B)を感知するための第3のカラー画素を配しており、行ごとに異なったR/G、またはG/Bの2色のカラー画素が市松模様状に配置されている。
固体撮像装置1としては、使用する画素部10(デバイス)を決めると、色分解フィルタにおける色フィルタの色の種類や配列は決まり、2次元格子位置における任意位置の色フィルタが何色であるのかを一義的に特定することができる。
よって、この第8実施形態においては、垂直走査回路14は、画素部10からの画素信号の読出指示を通信・タイミング制御部20から受けると、水平行を垂直方向に順に走査するのではなく、垂直デコーダ14aにおいて、色分解フィルタの各色フィルタの配置位置に基づいくアドレスデコード処理により、任意の行線Hyを選択することで、カラーフィルタの配列に合わせて、同一の色配列の行を組み合わせるように行を選択する。
つまり、積和演算(本例では差分演算)の対象となる複数の画素信号が同一色の色フィルタのものとなるように、処理対象の複数の単位画素3のそれぞれの位置を指定する。これにより、たとえば奇数行と偶数行とで色配列が異なる場合には、差分処理の対象行を奇数行と偶数行とに分けて独立に差分処理を行なうことができる。
<第8実施形態;空間差分処理の動作>
図25は、図24に示した第8施形態の固体撮像装置1のカラムAD回路25における空間差分処理動作を説明するためのタイミングチャートである。この図25は、図7に対応するものである。
図24に示すベイヤ配列カラーフィルタを有する画素部10において、同一行の画素には緑Gと赤Rまたは青Bと緑Gのカラーフィルタが配置されている。このため、第1や第2実施形態などのように行線Hxを順次選択してくと、異なるカラーフィルタ要素を持つ画素同士の演算となり、混色を起こす。
これに対して、第8施形態の構成では、垂直走査回路14にて、行線Hyの読み出しを図24に示すように、奇数の行線H1,行線H3,行線H5,…と、偶数の行線H2,行線H4,行線H6,…、というように、同一のカラーフィルタ要素を持つ行の組合せで順に行を選択することで、同色同士での積和演算処理(本例では差分処理)を行なうことができ、混色を起こすことがない。
図24に示した画素配列でいえば、2行単位で差分処理を行なうと、行線H1上にある画素G11と行線H3上にある画素G31、行線H1上にある画素R12と行線H3上にある画素R32、…、というように、ともに奇数の行線H1上の画素と行線H3上の画素間にて、つまり奇数行同士の差分処理が実現できる。同様に、行線H2上にある画素B21と行線H4上にある画素B41、…、行線H2上にある画素G22と行線H4上にある画素G42、…、というように、ともに偶数の行線H2上の画素と行線H4上の画素間にて、つまり偶数行同士の差分処理が実現できる。
なお、図24では、正方格子状に配された単位画素3に対して、赤(R),緑(G),青(B)の3色カラーフィルタをベイヤ(Bayer)配列の基本形に従って配列していたが、フィルタ色やその配列順は図24に示した例に限定されない。たとえば、ベイヤ配列の改良形にすることもできるし、補色フィルタあるいはその他のフィルタ色を用いることができる。
たとえば、偶数行偶数列に配した第2のカラー(緑;G)を感知するための第2のカラー画素に代えて、第4のカラー(エメラルド;E)を感知するための第4のカラー画素を配してもよい。この場合でも、差分処理に際しての行選択制御のタイミングは、図25に示したタイミングをそのまま使用することができる。
色信号処理についての詳細な説明は割愛するが、4色カラーフィルタに対応して、4色で撮影された各色の映像信号から、人間の目に近いRGBの3色を作り出すためのマトリックス演算を行なう画像処理プロセッサを出力回路28の後段に設ける。赤(R),緑(G),青(B)のフィルタに加えてエメラルド(E)のフィルタを搭載すれば、3色カラーフィルタよりも色再現の差を低減させることができ、たとえば青緑色や赤色の再現性を向上させることができる。
なお、図25に示した例では、同一色配列の2行に亘る差分処理について示したが、同一色配列の3行以上に亘る積和演算処理(減算および/または加算)にも展開できる。この場合でも、同一色配列の行間で積和演算処理を行なうことで、同一のカラーフィルタ要素を持つ画素同士の演算とすることができ混色を起こすことがない。
<第9実施形態;固体撮像装置の構成;時間差分処理>
図26は、本発明の第9実施形態に係るCMOS固体撮像装置の概略構成図である。また、図27は、第9実施形態で用いる単位画素3の構造模式図である。第9実施形態の固体撮像装置1は、積和演算処理機能として、空間差分処理に代えて、時間差分処理を行なうことで動体検出を可能に構成した点に特徴を有する。時間差分処理を行なう場合、演算の対象画素は同一配列位置のものとする。
第9実施形態の画素部10における単位画素3は、入射光に応じた電荷を生成し蓄積するフォトダイオードなどの電荷生成部(PD;光検出部/光電変換素子)32と、制御領域(ゲート)に供給された電荷に応じてそのソース・ドレイン間に入射光に応じたアナログ信号を出力する増幅用トランジスタ(M)42と、電荷生成部32で生成・蓄積された電荷を増幅用トランジスタ42の制御領域に直接かつ選択的に転送するためのpチャネル型の読出選択用トランジスタ34と、増幅用トランジスタ42の制御領域の電荷をリセットするためのpチャネル型のリセットトランジスタ36と、増幅用トランジスタ42と垂直信号線19の間に設けられて増幅用トランジスタ42のソースと垂直信号線19を分離/接続するnチャネル型の垂直選択用トランジスタ40とを含んで構成されている。
図27(A)に示すように、電荷生成部32にて検出された入射光に応じた電気信号(信号電荷)が増幅用トランジスタ42のゲート(制御領域)に供給されて、そのソースフォロア動作によって電流増幅され、その後、この電気信号が、各々対応する垂直信号線19に読み出され、垂直信号線19に信号電圧が現れる仕組みになっている。
ここで、増幅用トランジスタ42としては、nチャネル型の接合型電界効果トランジスタ(JFET)を使用している。この接合型FETのP型領域は、電荷生成部32にて検出された信号電荷であるホールを蓄積する画素内メモリ(電荷保持部)としても機能するので、電荷生成部32と増幅用トランジスタ42の両方に蓄積された信号を使うことで、単位画素3から前のフレームの信号と現在のフレームの信号を短い間隔で順次出力し、比較することができるようになっている。
各増幅用トランジスタ42のソースは、画素分離用の垂直選択用トランジスタ40を介して、マトリックス状に配置された列ごとに対応する垂直信号線19に共通に接続されている。また、各増幅用トランジスタ42のドレインおよび電荷生成部32のカソード側には電源電圧Vdd(正電圧)が印加されている。
また、電荷生成部32のアノード側と増幅用トランジスタ42のゲート(制御領域)には、転送用の読出選択用トランジスタ34のソース・ドレインが接続されている。また、転送用の読出選択用トランジスタ34の転送用ゲート(TG)は、マトリックス状に配置された単位画素3の行ごとに、行制御線15(詳しくは転送ゲート配線)に共通接続され、行制御線15に接続された垂直走査回路14から送出される駆動パルスφTGが与えられると、駆動パルスφTGのレベルに応じて転送用の読出選択用トランジスタ34が行ごとに順次動作するようになっている。
また、リセット用のリセットトランジスタ36のドレイン(リセットドレイン)には、電源電圧Vrdが単位画素3ごとに共通に接続されて電圧が印加されている。また、リセット用のリセットトランジスタ36のゲート(RSG)は、垂直走査回路14に接続された行制御線15(詳しくはリセット配線)に共通に接続され、そのソースは、転送用の読出選択用トランジスタ34のソースと共有になっている。
そして、このリセット用のリセットトランジスタ36のゲートに垂直走査回路14から駆動パルスφRGが与えられると、リセット用のリセットトランジスタ36は、この駆動パルスφRGのレベルに応じて動作するようになっている。また、画素分離用の垂直選択用トランジスタ40のゲートは、マトリックス状に配置された単位画素3の行ごとに、制御線15(詳しくは行選択線/垂直選択線)に共通接続され、垂直走査回路14からの駆動パルスφSELのレベルに応じて、画素分離用の垂直選択用トランジスタ40が行ごとに順次動作するようになっている。
なお、図示を割愛するが、カラム処理部26と水平走査回路12との間の垂直信号線19の信号経路上には、各垂直信号線19に対してドレイン端子が接続された図示しない負荷MOSトランジスタを含む負荷トランジスタ部が配され、各負荷MOSトランジスタを駆動制御する負荷制御部(負荷MOSコントローラ)が設けられている。
単位画素3を構成する増幅用トランジスタは各垂直信号線19に接続されており、また垂直信号線19は垂直列ごとに負荷MOSトランジスタのドレインに接続され、また各負荷MOSトランジスタのゲート端子には、負荷制御部からの負荷制御信号CTldが共通に入力されており、信号読出し時には、各増幅用トランジスタに接続された負荷MOSトランジスタによって、予め決められた定電流を流し続けるようになっている。
なお、本実施形態では、増幅アンプとしてだけでなく画素内メモリとしても機能する接合型電界効果トランジスタ(JFET)を単位画素3として使用し、この接合型電界効果トランジスタが持つメモリ機能を利用して、複数フレームの同一画素位置の画素信号を取得するが、複数フレームの同一画素位置の画素信号を取得するための画素構造は、接合型電界効果トランジスタを利用するものに限定されない。
画素内メモリを利用する画素構造としては、接合型電界効果トランジスタの他に、たとえば、図27(B)に示すように、電荷生成部32としてのフォトダイオードにフォトゲート(Photogate )と呼ばれるMOSダイオードを使ったものを利用することができる。この画素構造では、フォトゲートで光電変換した信号電荷を、読出ゲートTxを挟んで形成されている画素内メモリとして機能するフローティングディフュージョン(FD)38に転送し、フローティングディフュージョン38の電圧変化を増幅用トランジスタ42で増幅して出力する。このとき、予めフローティングディフュージョン38をリセットしてリセット信号を出力した後、蓄積の完了したフォトゲートから読出ゲートTxを通して信号電荷を読み出して画素信号を出力する。フローティングディフュージョン38のKTcノイズを画素信号とリセット信号のCDS動作により取り除くことができる利点がある。
また、画素内メモリとして機能するフローティングディフュージョン(FD)38を利用する他の画素構造としては、図27(C)に示すように、埋込フォトダイオードを使ったものを利用することができる。この画素構造における読出動作は、フォトゲートを利用した構造における読出ゲートTxを読出選択用トランジスタ34に置き換えて考えればよい。埋込フォトダイオードは、pn接合部に生じる空乏層が画素表面に達しないため低暗電流を実現でき、またフォトゲートのような電極材料による光の吸収がない利点がる。リセット時のKTcノイズが発生しないことはフォトゲートを使った構造と同様である。
なお、接合型電界効果トランジスタに代えて、フォトゲートや埋込フォトダイオードと画素内メモリとしてのフローティングディフュージョンとを組み合わせた場合の読出タイミングについては図示を割愛するが、概ね、以下に説明する図28で示す接合型電界効果トランジスタと同様に、先ずフローティングディフュージョンに保持しておいた前フレームの信号成分を読み出した後にフローティングディフュージョンをリセットし、この後、現フレームにおける露光にて電荷生成部32で生成された信号電荷をフローティングディフュージョンに転送して、現フレームの信号成分を読み出すようにする。
図28は、第9実施形態の単位画素3を駆動する動作を説明するタイミングチャートである。図28には、一定のタイミングごとに入射光を検知する1つの単位画素3が、連続した2フレーム、すなわちn−1フレーム(直前のフレーム)、nフレーム(現在のフレーム)で入射光を検出して、その読出動作を行なう場合を示している。
なお、マトリックス状に配置された各単位画素3のうち同一行の単位画素3の読出動作は同じであり、図28のn−1フレームまたはnフレームの期間t60〜t69が1行目の単位画素3の読出動作を、期間t70〜t79が、2行目の単位画素3の読出動作をそれぞれ示している。以下、nフレーム(現在のフレーム)における1行目の単位画素3の読出動作を中心に、図28のタイミングチャートのnフレームの期間t60に至ったときから説明する。なお、n−1フレームにおける読出動作は、以下に説明するnフレームにおける読出動作と同じである。
nフレームでのt60からt61に至る前(n−1フレームのt75の終了時以降と同等)、各行の駆動パルスφTGはともにハイレベルに保持され、各行の駆動パルスφSELはともにハイレベルに保持され、各行の駆動パルスφRGはともにハイレベルに保持されている。
このようにt61に至る前は、各行の駆動パルスφTGがハイレベルのため転送用の読出選択用トランジスタ34はオフとなり、各行の駆動パルスφRGがハイレベルのためリセット用のリセットトランジスタ36はオフとなっている。
したがって、増幅用トランジスタ42のゲート(制御領域)はフローティング状態とされるが、寄生容量の効果により、すでに直前のn−1フレームで各転送用の読出選択用トランジスタ34がオンのときに読出選択用トランジスタ34を介して各増幅用トランジスタ42のゲート(制御領域)に転送されている各電荷生成部32で生成された入射光に応じた電荷(第1信号電荷)は、読出選択用トランジスタ34がオフとなった後も各増幅用トランジスタ42のゲート(制御領域)に保持された状態となっている。増幅用トランジスタ42は、そのゲート(制御領域)に蓄積された電荷がリセットされるまでの間、ソースフォロア動作によりそのゲート電圧に応じた電気信号を出力する。
なお、転送用の読出選択用トランジスタ34がオフとなった後は、各電荷生成部32では、新たに入射光に応じた電荷(第2信号電荷)が生成・蓄積される。このときの第1信号電荷が、電荷生成部32にて生成・蓄積されたn−1フレーム(直前のフレーム)における入射光に応じた電荷であり、第2信号電荷が電荷生成部32にて生成・蓄積されたnフレーム(現在のフレーム)における入射光に応じた電荷となる。
また、t61に至る前は、各駆動パルスφSELがともにハイレベルのため画素分離用の垂直選択用トランジスタ40はオフとなっており、各単位画素3は垂直信号線19から分離された状態となっている。
次に、t60が経過しt61に至ると、1行目の駆動パルスφSEL1がローレベルに反転され、1行目の各単位画素3の画素分離用の垂直選択用トランジスタ40がオンとなって、増幅用トランジスタ42は、ソースが垂直信号線19に接続され、オン(選択)となる。このとき、1行目の各単位画素3の増幅用トランジスタ42のゲート(制御領域)には、すでに直前のフレームにおいて(n−1のフレームの期間t63において)入射光に応じた第1信号電荷が転送され、読出選択用トランジスタ34がオフとなった後も第1信号電荷が保持されているので、この保持された第1信号電荷に応じた電気信号が垂直信号線19に出力される。
また、t61では、リセットトランジスタがオフとなっているので、このt61において選択された1行目の各増幅用トランジスタ42がソースフォロア動作をしたとき、そのソースの電位は、ソース・ドレイン間に流れる電流(ドレイン電流)が、図示しない負荷MOSトランジスタによる定電流源に流れる電流値IBになるまで上昇する。
このとき、この1行目の各増幅用トランジスタ42は、そのゲート(制御領域)に、直前のフレーム(n−1フレームの期間t63)において第1信号電荷が転送され、転送終了後(転送用の読出選択用トランジスタ34がオフ)もそのゲート電圧を保持しているため、ソースフォロア動作によって第1信号電荷に応じた第1出力信号Vssn-1 を出力する。第1出力信号をVssn-1 の値は、式(7)に示される値となる。このようにして検知されたn−1フレームの出力信号Vssn-1 が、対応する垂直列のカラムAD回路25に通知される。
ここで、VRDはn−1フレームでリセット用のリセットトランジスタ36がオンのときに供給された電源電圧、VS1はn−1フレームにおける第1信号電荷に応じた増幅用トランジスタ42のゲート電位の上昇分、VTは増幅用トランジスタ42のドレイン電流が図示しない負荷MOSトランジスタで規定される負荷電流IBのときのゲート・ソース間の電圧である。
なお、VS1の値は、“入射光に応じた第1信号電荷/ゲート容量”で求められる。なお、実際には、駆動パルスφRGをローレベルにするリセット動作によって、真の信号成分だけでなくリセット成分やその他のばらつき成分を含んで画素信号が現われるのは、第1あるいは第2実施形態にて説明したと同様である。VRD−VTは、このリセット成分やその他のばらつき成分を含むもので、たとえば上記第1実施形態のリセット成分などのばらつき成分(纏めてΔV1とする)に対応する。
なお、このとき2行目の各増幅用トランジスタ42に関しては、駆動パルスφSEL2が依然ローレベルであるために、2行目の各画素分離用の垂直選択用トランジスタ40がオフとなっており、2行目の各増幅用トランジスタ42のソースは垂直信号線19に接続されない状態になっている(非選択)。この後t62に至ると、駆動パルスφRG1がローレベルに反転される。
このt62において、駆動パルスφRG1がローレベルになることによって、1行目の各リセット用のリセットトランジスタ36がオンとなり、電源電圧VRD(読出しレベル)が1行目の各増幅用トランジスタ42のゲート(制御領域)に伝わる。このリセット用のリセットトランジスタ36のオンにより、増幅用トランジスタ42のゲート(制御領域)から第1信号電荷が排出されるとともに、増幅用トランジスタ42のゲート(制御領域)が電源電圧VRD(読出しレベル)にバイアスされる。
さらにt63に至ると、駆動パルスφRG1がハイレベルに反転されることにより、1行目の各リセット用のリセットトランジスタ36が再びオフとなり、1行目の増幅用トランジスタ42のゲート(制御領域)はフローティング状態とされるが、その寄生容量の効果によって、ゲートは、電源電圧VRD(読出しレベル)にバイアスされたままの状態が保持される。
さらにt64に至ると、駆動パルスφTG1がローレベルに反転され、1行目の各単位画素3の転送用の読出選択用トランジスタ34がオンとなり、1行目の各単位画素3のフォトダイオードにおいて生成・蓄積された入射光に応じた電荷(第2信号電荷)が、1行目の各単位画素3の増幅用トランジスタ42のゲート(制御領域)に転送される。第2信号電荷が、nフレームにおける入射光に応じた電気信号電荷となる。
このように、増幅用トランジスタ42のゲート(制御領域)に、nフレーム(現在のフレーム)における入射光に応じた電荷(第2信号電荷)が転送されると、各増幅用トランジスタ42のゲート電位は、転送された電荷の分だけ上昇するので、1行目の増幅用トランジスタ42がソースフォロア動作をし、増幅用トランジスタ42のソースの電位は、ゲート電位の上昇分だけ上昇する。
この場合、ソースフォロア動作をする1行目の各増幅用トランジスタ42からは第2信号電荷に応じた第2出力信号(第2の電気信号)が、このときオンとなっている画素分離用の垂直選択用トランジスタ40を介して、垂直信号線19に出力される。
さらにt65に至ると、1行目の駆動パルスφTG1がハイレベルに反転されることにより、1行目の各転送用の読出選択用トランジスタ34がオフとなり、1行目の単位画素3の電荷生成部32において生成・蓄積された入射光に応じた電荷(第2信号電荷)の増幅用トランジスタ42のゲート(制御領域)への転送が終了し、増幅用トランジスタ42のゲート(制御領域)は再びフローティング状態とされるが、その寄生容量の効果によって、転送された電荷(第2信号電荷)の分だけゲートの電位が上昇したままその状態が保持される。
このnフレームで、現在のフレームに対する第2信号電荷としてゲート(制御領域)に転送された電荷は、次のn+1フレーム(図示省略)でこのゲートがリセットされるまで(リセット用のリセットトランジスタ36がオンとなるまで)保持される。この結果、このときゲートに蓄積されている電荷が、n+1フレームでは第1信号電荷(直前のフレームに対する電荷)として用いられる。
このように、転送用の読出選択用トランジスタ34がオンとなって第2信号電荷が、増幅用トランジスタ42のゲート(制御領域)に一旦転送され、その後、転送用の読出選択用トランジスタ34がオフとなっても、第2信号電荷がゲート(制御領域)に保持されるので、増幅用トランジスタ42からは、その後ゲートがリセットされるまでのソースフォロア動作で(t65以降)、ゲートに蓄積された電荷(第2信号電荷)に応じた電気信号(第2出力信号Vssn )が出力されることとなる。
t64〜t65において、ソースフォロア動作によってソース・ドレイン間に流れる電流が図示しない負荷MOSトランジスタで規定される負荷電流IBになったとき、増幅用トランジスタ42のソースの電位(第2出力信号Vssn )の値は、式(8)に示される値になる。このようにして検知されたnフレームの出力信号Vssn が、対応する垂直列のカラムAD回路25に通知される。
ここで、VRDはnフレームでリセット用のリセットトランジスタ36がオンのときに供給された電源電圧、VS2はnフレームにおける第2信号電荷に応じた増幅用トランジスタ42のゲート電位の上昇分、VTは増幅用トランジスタ42のドレイン電流が図示しない負荷MOSトランジスタで規定される負荷電流IBのときのゲート・ソース間の電圧である。
なお、VS2の値は、VS1と同様に、“入射光に応じた第1信号電荷/ゲート容量”で求められる。なお、実際には、駆動パルスφRGをローレベルにするリセット動作によって、真の信号成分だけでなくリセット成分やその他のばらつき成分を含んで画素信号が現われるのは、第1あるいは第2実施形態にて説明したと同様である。VRD−VTは、このリセット成分やその他のばらつき成分を含むもので、たとえば上記第1実施形態のリセット成分などのばらつき成分(纏めてΔV2とする)に対応する。
次に、t69に至ると、駆動パルスφSEL1がハイレベルに反転されることによって、画素分離用の垂直選択用トランジスタ40がオフとなって、1行目の単位画素3と垂直信号線19とが分離される。
続くt70〜t79においては、2行目の単位画素3に対して、上述したt60〜t69における1行目の単位画素3の読出動作と同様の動作が繰り返して行なわれ、nフレームにおける時間差分処理を行なう。
以上説明したように、連続した2フレーム(n−1フレームとnフレーム)間においてそれぞれ得られた、入射光に応じて出力される各単位画素3からのアナログの輝度をあらわすn−1フレームとnフレームの各出力信号Vssn-1 ,Vssn が、各々カラムAD回路25に入力される。
接合型電界効果トランジスタの制御領域に、フォトダイオードなどの光電変換素子で生成・蓄積された電荷を直接的に供給するだけで、ゲートに供給された電荷に応じた電気信号を、直前のフレームに対する電気信号と現在のフレームに対する電気信号の2つの信号として出力することができる。ゲートに電荷を直接転送して電圧信号にしてから垂直信号線19を介して画素信号を読み出すようにしているので、電荷のままで(電流モードで)画素信号を出力する場合に比べて電荷配分による信号の劣化を抑えることができる。
カラムAD回路25においては、連続した2フレーム(n−1フレームとnフレーム)間で得られた複数フレームについてのアナログの第1出力信号Vssn-1 と第2出力信号Vssn の差分を検出する、すなわち時間差分処理を行なうことで、動体検出を行なう。そして、上記動作を繰り返して行なうことにより、さらに連続した2またはそれ以上のフレーム間でその動体検出を行なうことができるようになる。
<第9実施形態;時間差分処理の動作>
図29は、図26に示した第9実施形態の固体撮像装置1のカラムAD回路25における時間差分処理動作を説明するためのタイミングチャートである。また、図30は、第9実施形態の時間差分処理におけるフレームレートとの関わりを説明するタイミングチャートである。
図29は、図6に示した第2実施形態の空間差分処理におけるn−1行(直前の行)をn−1フレーム(直前のフレーム)に、n行(現在の行)をnフレーム(現在のフレーム)に、それぞれ置き換えて考えればよい。
カラムAD回路25は、増幅用トランジスタ42に蓄積された直前フレームn−1の画素信号Vssn-1 と電荷生成部32に蓄積された現在フレームnの同一行の画素信号Vssn を短い間隔で順次取り込み、それらの差を取る。
すなわち、直前フレームの画素信号Vssn-1 についての2回目のカウント処理が完了した後に、現行フレームの画素信号Vssn について、1回目のアップカウント処理を開始する際に、カウンタ部254に保持されているカウント値をリセットしないで引き続きカウント処理を行なうようにすることで、現行フレームの画素信号Vssn についての2回目のカウント処理が完了した後にカウンタ部254に保持されるカウント値である時間差分データD5は、式(9)に示すように、フレームの異なる2つの画素信号Vssn-1 ,Vssn 間での差分演算の結果(Vssn-1 −Vssn )を示すデジタル値となる。フレームの異なるすなわち撮像時刻の異なる2つの画素信号Vssn-1 ,Vssn 間での差分演算を行なっているので、その差分処理は、空間差分処理ではなく時間差分処理となる。
式(9)で求めた時間差分データD5がゼロでなければ、フレーム間で画像に動きが存在したことになるので、被写体のうち動体の部分を検出することができる。
なお、図28に示した単位画素3の駆動タイミングから分かるように、n−1フレーム(直前のフレーム)の画素信号は、真の信号成分Vsig1の後に駆動パルスφRGに基づくリセット成分やその他のばらつき成分(ΔV1)が現われるのに対して、nフレーム(現在のフレーム)の画素信号は、駆動パルスφRGに基づくリセット成分やその他のばらつき成分(ΔV1)の後に、真の信号成分Vsig2が現われる。
そこで、通信・タイミング制御部20は、時間差分処理のためのカウント処理時には、これら各成分の現れ方を考慮して、カウンタ部254におけるカウントモードを制御する。たとえば、図29に示すように、n−1フレームに関しては、先ずアップカウントモードにして信号成分Vsig1とΔV1との合成成分についてカウント処理を行ない、この後、アップカウントモードにしてΔV1についてカウント処理を行なうことで、n−1フレームの信号成分Vsig1のカウント値(画素データ)を求める。
引き続くnフレームに関しては、先ずアップカウントモードにしてΔV1についてカウント処理を行ない、この後、ダウンカウントモードにして信号成分Vsig1とΔV1との合成成分についてカウント処理を行なう。これにより、カウント結果としては、“Vsig1−Vsig2”、つまり2フレームにおける真の信号成分の差分を求めることができる。
なお、ΔV1とΔV2とは、何れも、同一時点の駆動パルスφRGに基づくものであり、概ね同じと考えることもできる。よって、ΔV1とΔV2とについてのカウント処理を割愛しても、カウント結果としては、“Vsig1−Vsig2”、つまり2フレームにおける真の信号成分の差分を求めることができる。この場合、カウント処理を割愛した分だけ消費電力を低減することができる。
なお、上述のような時間差分処理で取得したカウント値に基づいて動体検出を行なう場合、ランダム雑音などの成分による誤判定を防止するべく、閾値処理を行って判定するのがよい。すなわち、式(9)で求めたデジタル値が一定以上である場合に、動体が検知されたものと判定する。
また、電荷のゆらぎなどに起因して発生するショット雑音(shot noise)は、信号の大きさの平方根に比例する、すなわち被写界が明るく輝度レベルが大きい場合にはショット雑音のレベルが大きくなる特質を持っているので、判定の閾値を一定すると、被写体が明るい場合には、静止しているものが誤って動体として検出されてしまう、あるいは逆に、低コントラストの被写体について十分な動き検出ができなくなる、被写界が暗い場合には、ランダム雑音の影響を受けやすく、静止しているものが誤って動体として検出されてしまう、など被写界が極端に明るい場合や極端に暗い場合には、動体信号を精度良く生成することができないという問題を生じ得る。
これを避けるべく、被写体のコントラストが高い場合や被写界が暗い場合には判定の閾値を上げる一方、被写体のコントラストが低い場合や被写界が明るい場合には判定の閾値を下げるなど、状況に応じて判定の閾値を調整するのがよい。こうすることで、精度良く被写体の動きを検出することができるようになる。
このように、本実施形態では、動体を示す時間差分データD5をnビットのデジタルデータで出力するようにしているので、被写体のコントラストや照明などの環境条件に応じて、直前フレームに対する電気信号と現在フレームに対する電気信号との差分に基づき、映像コントラストや照明などの条件に合わせて動体であるか否かの判定を高精度で行なうことができる。
なお、詳細な説明は割愛するが、通常動作時には、図29に示すnフレーム(現在のフレーム)の読出期間の動作だけを行なうことで映像信号のみを取り出すことができる。なお、図29のnフレーム(現在のフレーム)の読出期間の画素信号の極性は負であるが、リセットレベルΔV2についてはダウンカウントモード、信号レベルVssn(真の信号成分Vsig2)についてはアップカウントモードとすることで、正極性の画素信号を取得することができる。
時間差分演算の手法は、第1や第2などの各実施形態と同様に、電圧比較部252とカウンタ部254を用いて、各フレームの画素信号に応じた電圧信号と所定の傾きで変化する参照信号とを比較して、参照信号の生成時点から、各フレームの画素信号に応じた電圧信号と参照信号とが一致した時点までをカウントクロックでカウント(計数)することで、各フレームの画素信号に応じた電圧信号の各大きさの差分に対応したカウント値を得るようにしているので、AD変換の後に追加の差分回路を設ける必要なく、AD変換と同時に動体を表す差分信号を簡単に得ることができる。
加えて、第1や第2実施形態で説明したと同様に、回路規模や回路面積や消費電力、あるいは他の機能部と間のインタフェース用配線の数や、この配線によるノイズや消費電流などの問題を解消するなどの効果を享受できる。
なお、上記実施形態では、カラムAD回路25が行方向に複数配列され、行単位で画素部10から送られる1行分の画素信号を各カラムAD回路25にて同時並行処理する構成のものに、比較処理とカウント処理とを組み合わせてAD変換処理を行なうことで時間差分処理を行なう仕組みについて説明したが、比較処理とカウント処理とを組み合わせてAD変換処理を行なうことで時間差分処理を行なうという基本的な仕組みに関しては、画素信号を1つ1つ取り出して処理する構成のデバイスにも適用することができる。
また、接合型電界効果トランジスタやフローティングディフュージョンなどの画素内メモリを有する構造の単位画素3を持つデバイスへの適用について説明したが、適用可能なデバイスは、画素内メモリを持つものに限定されない。たとえば、画素内メモリを備えていなければ、前フレームの画素信号を取り込んで参照信号と比較するとともに、この比較処理と並行してカウント処理を行ない、比較処理が完了した時点のカウント値を取得すし、この取得したカウント値を一旦デバイス外のフレームメモリに格納することで前フレームについてのAD変換処理を完了させる。
つまり、差分処理の一方(前フレーム)の画素信号については、予めデジタルデータ化しておく。なお、前フレームの画素信号を予めデジタルデータにしておけばよく、カラムAD回路25を利用してデジタル化するものでなくてもよく、他のAD変換装置を使用して前フレームの画素データを取得してフレームメモリに保存しておいてもよい。
この後、現フレームについてのAD変換処理時には、処理対象画素について、フレームメモリに格納してある同一画素位置の前フレームのカウント値(画素データ)をカウント処理の初期値として、画素信号と参照信号とを比較するとともに、この比較処理と並行してカウント処理を行ない、比較処理が完了した時点のカウント値を取得することで、時間差分処理を行なうようにしてもよい。前フレームのカウント値(画素データ)を正のデータとしてフレームに保存していれば、現フレームのカウント処理はダウンカウントモードとすればよい。
<第10実施形態;電子機器への適用>
図31は、本発明の第10実施形態に係る電子機器の概略構成図である。上記第1〜第9実施形態では、処理対象信号に応じた電気信号とAD変換用の参照信号とを比較する比較部と、比較部における比較処理と並行して、ダウンカウントモードおよびアップカウントモードの何れか一方のモードでカウント処理を行ない、比較部における比較処理が完了した時点のカウント値を保持するカウンタ部とを備えてなるAD変換回路(AD変換装置;前例ではカラムAD回路)をデータ処理装置として固体撮像装置に適用した事例を説明したが、上記第1〜第9実施形態で説明したAD変換回路やデータ処理装置の仕組みは、固体撮像装置に限らず、物理的な性質が同一の複数の信号間での積和演算結果のデジタルデータを取得するデータ処理の仕組みを必要とするあらゆる電子機器に適用することができる。
この第10実施形態では、固体撮像装置以外の電子機器に本発明に係るデータ処理方法やデータ処理装置を適用する事例を示したものである。なお本実施形態でも、処理対象信号としては、上記第1〜第9実施形態と同様に、固体撮像装置1の画素部10から出力される画素信号であるものとするが、画素信号に拘らず、積和演算に耐え得るように、物理的な性質が同一である信号である限り、任意の信号であってよい。
図示した電子機器800は、固体撮像装置1の欠陥画素を診断したり、あるいは動体検出処理をしたりするなど、積和演算結果に基づく様々な処理機能を持つ。具体的には、電子機器800は、図中の中央部分に示す分割線の左側に配された、当該電子機器800の全体の動作を制御するパーソナルコンピュータなどを利用した制御装置802と、分割線の右側に配された、AD変換装置805とを備える。なお、分割線で制御装置802とAD変換装置805とを分けるのではなく、その両者を含んで、複数の信号間での積和演算結果のデジタルデータを得るデータ処理装置の機能を持つ1つのAD変換装置805として構成してもよい。
AD変換装置805は、固体撮像装置1から取り込んだアナログの画素信号をデジタルデータに変換する電圧比較部852およびカウンタ部854を有するデータ処理装置としての機能を持つAD変換装置805とを備えている。電圧比較部852は、電圧比較部252に、カウンタ部854はカウンタ部254にそれぞれ対応するものであり、それらの基本的な動作は、上記第1〜第9実施形態の電圧比較部252、カウンタ部254と同様である。
制御装置802は、AD変換装置805を制御する機能要素として、AD変換装置805の電圧比較部852にAD変換用の参照電圧を供給する参照信号生成部827と、参照信号生成部827やカウンタ部854を制御する出力回路28とを備えている。タイミング制御部820は通信・タイミング制御部20に、参照信号生成部827は参照信号生成部27にそれぞれ対応するものであり、それらの基本的な動作は、上記第1〜第9実施形態の通信・タイミング制御部20や参照信号生成部27と同様である。
また、制御装置802は、本実施形態特有の構成として、積和演算処理対象の一方のデータを保持するデータ記憶部828と、カウンタ部854にて得られた積和演算結果を示すデータD8に基づいて、固体撮像装置1を診断したり、その他の判定処理をしたりするなどの機能を持つ判定・診断部830とを備えている。
このような構成において、固体撮像装置1の欠陥画素を診断する機能を実現するには、先ず比較対象となる正常な(画素欠陥のない)固体撮像装置1の画素データ(正常データという)を取得し、この後、診断対象の固体撮像装置1から画素信号を読み出して、正常データとの間で差分処理を行ない、その結果に基づいて欠陥の有無を診断する。画素欠陥としては、たとえば暗時欠陥と明示欠陥とを診断するのがよく、暗時欠陥の診断のためには、固体撮像装置1を非露光状態にして正常データの取得や診断を行ない、また、明時欠陥の診断のためには、たとえば全白撮影状態として固体撮像装置1の正常データの取得や診断を行なう。
正常データを取得する場合、AD変換装置805は、比較対象となる正常な固体撮像装置1からアナログの撮像信号を取得し、上記第1実施形態の基本動作で説明したと同様にして、先ず電圧比較部852において、参照信号生成部827から供給される所定の傾きで変化する参照信号RAMPと撮像信号の各画素信号とを比較し、画素信号と参照信号RAMPとが一致する点を探す。
なお、暗時の正常データを取得する際には、通信・タイミング制御部20は、参照信号生成部827に対して、参照信号RAMPの傾きを通常よりも小さくするように指示するのがよい。これは、暗時の低レベルの画素信号を、高ゲインでデジタルデータに変換することを意味する。
カウンタ部854は、参照信号生成部827による参照信号RAMPの生成と同時にタイミング制御部820にて指示されたカウントモードにてカウントクロックCK0に基づきカウント処理を開始する。ここでは、タイミング制御部820は、カウンタ部854のカウントモードを、リセット成分ΔVについてはダウンカウントモードに設定し、信号成分Vsig についてはアップカウントモードに設定することとする。これは、信号成分Vsig に対応する画素データとして正のデータを取得することを意味する。
カウンタ部854は、電圧比較部852の比較処理で用いる参照信号RAMPの生成時点から画素信号と参照信号RAMPとが一致する時点までのカウントクロックCK0を計数し、係数結果を自前の登録データD9aとして画素位置を対応付けてデータ記憶部828に登録する。AD変換装置805は、このような処理を、撮像信号の全画素について繰り返す。
なお、正常データの取得は、必ずしもAD変換装置805を利用して取得するものでなくてもよく、たとえば、外部の機器にて正常データを取得し、この外部の機器から入力される登録データD9bを画素位置と対応付けてデータ記憶部828に登録するようにしてもよい。あるいは、正常時のデータは、画素位置に関わらず一定である(ムラはない)とすることもでき、この場合には、正常データの取得は不要である。
暗時欠陥や明時欠陥の診断時には、固体撮像装置1を、各診断に応じた所定の露光状態とする。タイミング制御部820は、カウンタ部854のカウントモードを、リセット成分ΔVについてはアップカウントモードに設定し、信号成分Vsig についてはダウンカウントモードに設定する。これは、信号成分Vsig に対応する画素データとして負のデータを取得することを意味する。
また、通信・タイミング制御部20は、参照信号生成部827に対して、参照信号RAMPの傾きを、正常データの取得時と同じになるように指示する。これは、画素信号を、正常データの取得時と同じゲインでデジタルデータに変換することを意味する。
また、タイミング制御部820は、カウンタ部854に対して初期値制御信号CN7を発し、処理対象の画素位置と同じ画素位置の正常時の画素データをデータ記憶部828から読み出してカウント処理の初期値とするように指示する。
AD変換装置805は、診断対象の固体撮像装置1からアナログの撮像信号を取得し、先ず電圧比較部852において、参照信号生成部827から供給される所定の傾きで変化する参照信号RAMPと撮像信号の各画素信号とを比較し、画素信号と参照信号RAMPとが一致する点を探す。
カウンタ部854は、参照信号生成部827による参照信号RAMPの生成と同時にタイミング制御部820にて指示されたカウントモードにてカウントクロックCK0に基づきカウント処理を開始する。そして、電圧比較部852の比較処理で用いる参照信号RAMPの生成時点から画素信号と参照信号RAMPとが一致する時点までのカウントクロックCK0を計数する。
判定・診断部830は、カウンタ部854にて得られるカウント値が示す、正常時と実働時の差を表わす積和演算データD8を欠陥判定データとして用いて、画素欠陥の有無を判定する。
ここで、カウント結果としては、正常時の画素データから実働時の画素データを差し引いた値が得られる。画素欠陥がなければ、得られるカウント値は、誤差成分やノイズ成分だけとなり、十分に小さいと考えてよい。これに対して、画素欠陥がある場合には、正常時と実働時の画素データに大きな差が現われる。
よって、判定・診断部830は、画素欠陥の判定に際しては、誤差成分やノイズ成分などによる誤判定を防止するべく、カウンタ部854にて得られる積和演算データD8が一定以上である場合に、画素欠陥があるものと判定するのがよい。
このように、電子機器800を画素欠陥診断に用いる場合、電圧比較部852とカウンタ部854の組合せからなるAD変換装置805を用いて、正常デバイスと診断対象デバイスとの間で画素データの差分処理を行なうようにした。これにより、第1〜第9実施形態で説明したと同様に、正常状態に対する実働状態の差を示すデジタルデータを、実働状態の画素信号についてAD変換をする際に、直接にカウンタ部854の出力として得ることができる。
正常データ保持用のフレームメモリとして機能するデータ記憶部828を利用することで、実働状態の画素信号用のフレームメモリや正常デバイスと診断対象デバイスとの間で画素データの差分処理を行なう追加回路を使わずに、画素欠陥診断を実現でき、実働状態の画素信号についてのAD変換と画素欠陥診断のための演算処理(本例では差分処理)を効率的に行なうことができる。画素位置に拘らず正常データが一定であるとする場合には、正常データ保持用のフレームメモリとして機能するデータ記憶部828も不要になる。
また、図26に示した構成において、動体検出機能を実現するには、先ず比較対象となる前フレームの画素信号を固体撮像装置1から読み出して画素データを取得し、この後、現フレームの画素信号を固体撮像装置1から読み出して、前フレームの画素データとの間で差分処理を行ない、その結果に基づいて動体を検出する。
前フレームの画素データを取得する場合、AD変換装置805は、固体撮像装置1からアナログの撮像信号を取得し、上記第1実施形態の基本動作で説明したと同様にして、先ず電圧比較部852において、参照信号生成部827から供給される所定の傾きで変化する参照信号RAMPと撮像信号の各画素信号とを比較し、画素信号と参照信号RAMPとが一致する点を探す。
カウンタ部854は、参照信号生成部827による参照信号RAMPの生成と同時にタイミング制御部820にて指示されたカウントモードにてカウントクロックCK0に基づきカウント処理を開始する。ここでは、タイミング制御部820は、カウンタ部854のカウントモードを、リセット成分ΔVについてはダウンカウントモードに設定し、信号成分Vsig についてはアップカウントモードに設定することとする。これは、信号成分Vsig に対応する画素データとして正のデータを取得することを意味する。
カウンタ部854は、電圧比較部852の比較処理で用いる参照信号RAMPの生成時点から画素信号と参照信号RAMPとが一致する時点までのカウントクロックCK0を計数し、係数結果を自前の登録データD9aとして画素位置を対応付けてデータ記憶部828に登録する。AD変換装置805は、このような処理を、撮像信号の全画素について繰り返す。これにより、固体撮像装置1の画素部10を構成する単位画素3が、画素内メモリを有しない構造のものであっても、前フレームの画素データを取得して保持しておくことができる。
現フレームのデータ取得時には、タイミング制御部820は、カウンタ部854のカウントモードを、リセット成分ΔVについてはアップカウントモードに設定し、信号成分Vsig についてはダウンカウントモードに設定する。これは、信号成分Vsig に対応する画素データとして負のデータを取得することを意味する。
また、通信・タイミング制御部20は、参照信号生成部827に対して、参照信号RAMPの傾きを、前フレームの画素データの取得時と同じになるように指示する。これは、現フレームの画素信号を、前フレームの取得時と同じゲインでデジタルデータに変換することを意味する。
また、タイミング制御部820は、カウンタ部854に対して初期値制御信号CN7を発し、処理対象の画素位置と同じ画素位置の前フレームの画素データをデータ記憶部828から読み出してカウント処理の初期値とするように指示する。
AD変換装置805は、固体撮像装置1から現フレームのアナログの撮像信号を取得し、先ず電圧比較部852において、参照信号生成部827から供給される所定の傾きで変化する参照信号RAMPと撮像信号の各画素信号とを比較し、画素信号と参照信号RAMPとが一致する点を探す。
カウンタ部854は、参照信号生成部827による参照信号RAMPの生成と同時にタイミング制御部820にて指示されたカウントモードにてカウントクロックCK0に基づきカウント処理を開始する。そして、電圧比較部852の比較処理で用いる参照信号RAMPの生成時点から画素信号と参照信号RAMPとが一致する時点までのカウントクロックCK0を計数する。AD変換装置805は、このような処理を撮像信号の全画素について繰り返す。
判定・診断部830は、カウンタ部854にて得られるカウント値が示す、撮像時刻が所定時間(1フレーム分)離れた2フレーム間の画素信号の差を表わす積和演算データD8を動体検出判定データとして用いて、動体部分の有無を判定する。
ここで、カウント結果としては、同一画素位置における、前フレームの画素データから現フレームの画素データを差し引いた値が得られる。被写体に動きがなければ、得られるカウント値は、誤差成分やノイズ成分だけとなり、十分に小さいと考えてよい。これに対して、被写体に動きがある場合には、2フレーム間の画素データに大きな差が現われる。
よって、判定・診断部830は、動体部分の有無の判定に際しては、誤差成分やノイズ成分などによる誤判定を防止するべく、カウンタ部854にて得られる積和演算データD8が一定以上である場合に、判定対象画素は動体部分を構成する画素であると判定する。
このように、電子機器800を動体検出に用いる場合でも、電圧比較部852とカウンタ部854の組合せからなるAD変換装置805を用いて、2フレーム間で画素データの差分処理を行なうようにした。これにより、画素欠陥診断と同様に、前フレームに対する現フレームの差を示すデジタルデータを、現フレームの画素信号についてAD変換をする際に、直接にカウンタ部854の出力として得ることができる。
画素内メモリを有しないデバイスであっても、前フレーム用のフレームメモリとして機能するデータ記憶部828を利用することで、現フレーム用のフレームメモリや2フレーム間で画素データの差分処理を行なう追加回路を使わずに、動体検出機能を実現でき、現フレームの画素信号についてのAD変換と動体検出のための演算処理(本例では差分処理)を効率的に行なうことができる。
以上、本発明を実施形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記実施形態に多様な変更または改良を加えることができ、そのような変更または改良を加えた形態も本発明の技術的範囲に含まれる。
また、上記の実施形態は、クレーム(請求項)にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組合せの全てが発明の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組合せにより種々の発明を抽出できる。実施形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られる限りにおいて、この幾つかの構成要件が削除された構成が発明として抽出され得る。
たとえば、上記実施形態では、画素部10の読出し側に位置するカラム領域にAD変換機能部を設けていたが、その他の箇所に設けることもできる。たとえば、水平信号線18までアナログで画素信号を出力して、その後にAD変換を行ない出力回路28に渡すような構成としてもよい。
この場合でも、AD変換用の参照信号と積和演算対象の複数の画素信号とを比較し、この比較処理と並行して、ダウンカウントモードおよびアップカウントモードの何れか一方のモードでカウント処理を行ない、比較処理が完了した時点のカウント値を保持する際、積和演算対象の複数の画素信号の内の一方についてのデジタルデータをカウント処理の初期値としておくことで、他方の画素信号についてAD変換処理をした時点で、和演算結果を表すデジタルデータを、カウント処理した結果として得ることができる。
この結果、積和演算対象の複数の画素信号基のそれぞれのカウント結果を保持するメモリ装置をカウンタ部が備えるラッチ機能で実現でき、AD変換されたデータを保持する専用のメモリ装置をカウンタとは別に用意する必要がない。全ての垂直列に対して1つのAD変換機能部を設ければよく、高速な変換処理が必要にはなるものの回路規模は上記実施形態よりも少なくなる。
また、上記実施形態では、モード切替え後のカウント処理時に、切替え前の最終カウント値からカウント処理を開始するようにしていたが、カウント出力値がカウントクロックCK0に同期して出力される同期式のアップダウンカウンタを用いる場合には、モード切替時に特段の対処を要することなく、このことを実現できる。
しかしながら、動作制限周波数が最初のフリップフロップ(カウンタ基本要素)の制限周波数でのみ決められ高速動作に適する利点がある非同期式のアップダウンカウンタを用いる場合には、カウントモードを切り替えた際、カウント値が破壊されてしまい、切替え前後で値を保ったまま連続しての正常なカウント動作が行なえない問題を有する。よって、モード切替え前のカウント値からモード切替え後のカウント処理を開始可能にする調整処理部を設けることが好ましい。なお、ここでは調整処理部の詳細については説明を割愛する。なお、複数の信号間で加算処理を行なう場合、前段と後段の各カウントモードを同じにすればよく、このような対処は不要である。
また、上記実施形態では、画素信号が、時間系列として、同一画素について、リセット成分ΔV(基準成分)の後に信号成分Vsig が現れ、後段の処理部が正極性(信号レベルが大きいほど正の値が大きい)の信号について処理するものに対応して、真の信号成分を求めるに際して、1回目の処理として、リセット成分ΔV(基準成分)について比較処理とダウンカウント処理を行ない、2回目の処理として、信号成分Vsig について比較処理とアップカウント処理を行なうようにしていたが、基準成分と信号成分が現れる時間系列に拘わらず、対象信号成分とカウントモードとの組合せや処理順は任意である。処理手順によっては、2回目の処理で得られるデジタルデータが負の値になることもあるが、その場合には、符号反転や補正演算をするなどの対処をすればよい。
勿論、画素部10のデバイスアーキテクチャとして、信号成分Vsig の後にリセット成分ΔV(基準成分)を読み込まなければならず、後段の処理部が正極性の信号について処理するものである場合には、1回目の処理として、信号成分Vsig について比較処理とダウンカウント処理を行ない、2回目の処理として、リセット成分ΔV(基準成分)について比較処理とアップカウント処理を行なうのが効率的である。
また、上記実施形態では、画素信号が、時間系列として、同一画素について、リセット成分ΔV(基準成分)の後に信号成分Vsig が現れるものとして、複数の画素信号間での積和演算をするに当たって、画素信号ごとに、真の信号成分を求める差分処理を行なうようにしていたが、リセット成分ΔV(基準成分)を無視できるなど、信号成分Vsig のみを対象としてもよい場合には、真の信号成分を求める差分処理を割愛することができる。
また、上記実施形態では、アップダウンカウンタを動作モードに拘わらず共通に使用しつつ、その処理モードを切り替えてカウント処理を行なうようにしていたが、ダウンカウントモードとアップカウントモードを組み合わせてカウント処理を行なうものであればよく、モード切替可能なアップダウンカウンタを用いた構成に限定されない。
たとえば、ダウンカウント処理を行なうダウンカウンタ回路と、アップカウント処理を行なうアップカウンタ回路との組合せでカウンタ部を構成することもできる。この場合、カウンタ回路は、公知の技術を利用して任意の初期値をロードすることのできる構成のものとするのがよい。たとえば、ダウンカウントの後にアップカウントを行なう場合であれば、図32(A)に示すように、1回目のカウント処理ではダウンカウンタ回路を作動させ、2回目のカウント処理ではアップカウンタ回路を作動させる。このとき、カウントモード切替用の切替制御信号CN5によりカウントモードを切り替えた後のアップカウント処理の開始前に、初期値設定用のロード制御信号CNldをアップカウンタ回路のロード端子LDuに供給することで、ダウンカウント処理で取得したダウンカウント値を初期値としてアップカウンタ回路に設定する。
また、アップカウントの後にダウンカウントを行なう場合であれば、図32(B)に示すように、1回目のカウント処理ではアップカウンタ回路を作動させ、2回目のカウント処理ではダウンカウンタ回路を作動させる。このとき、カウントモード切替用の切替制御信号CN5によりカウントモードを切り替えた後のダウンカウント処理の開始前に、初期値設定用のロード制御信号CNldをダウンカウンタ回路のロード端子LDdに供給することで、アップカウント処理で取得したアップカウント値を初期値としてダウンカウンタ回路に設定する。
なお、複数の信号間で加算処理を行なう場合、前段と後段の各カウントモードを同じに維持したまま、後段側のカウント回路におけるカウント処理の開始前に、複数の信号間で減算処理を行なう場合と同様にして初期値設定を行なえばよい。
こうすることで、図32(A)および図32(B)の何れの構成も、後段のカウンタ回路の出力としては、複数の信号(基準成分と信号成分も含む)間で減算処理が直接にでき、複数の信号との差を取るための特別な加算回路が不要になる。また、非特許文献1では必要としていた減算器へのデータ転送が不要になり、そのための雑音の増加や電流あるいは消費電力の増大を解消することができる。
なお、ダウンカウンタ回路とアップカウンタ回路との組合せでカウンタ部を構成する場合、2回目のカウント処理に際して、1回目のカウント処理で取得したカウント値を初期値として設定せず、ゼロからカウントする構成を排除するものではない。
この場合、たとえば差分処理に対応する場合であれば、図32(C)に示すように、アップカウンタ回路の出力Qup(正方向の値)とダウンカウンタ回路の出力Qdown(負方向の値)の和を取る加算回路が必要となるが、この場合でも、比較部とカウンタ部とで構成されるAD変換部ごとに加算回路を設けるので、配線長を短くでき、データ転送のための雑音の増加や電流あるいは消費電力の増大を解消することができる。
図32に示した何れの構成も、ダウンカウンタ回路とアップカウンタ回路の動作の指示は、上記実施形態と同様に通信・タイミング制御部20が行なうことができる。また、ダウンカウンタ回路とアップカウンタ回路は、ともにカウントクロックCK0で動作させればよい。
また、上記実施形態では、NMOSあるいはPMOSより構成されている単位画素が行列状に配されて構成されたセンサを一例に説明したが、これに限らず、一列に配されたラインセンサにも適用でき上記実施形態で説明したと同様の作用・効果を享受可能である。
また、上記実施形態では、アドレス制御により個々の単位画素からの信号を任意選択して読出可能な固体撮像装置の一例として、光を受光することで信号電荷を生成する画素部を備えたCMOSセンサを例に示したが、信号電荷の生成は、光に限らず、たとえば赤外線、紫外線、あるいはX線などの電磁波一般に適用可能であり、この電磁波を受けてその量に応じたアナログ信号を出力する素子が多数配列された単位構成要素を備えた半導体装置に、上記実施形態で示した事項を適用可能である。
また、上記実施形態では、正方形状の単位画素3が正方格子状に配列されたものを対象に説明したが、単位画素の配列は、正方格子状に限らず、たとえば、図1に示した画素部10を斜め45度に傾けた配列状態の斜行格子状のものであってもよい。
また、単位画素の平面視上の形状が正方であるものとしていたが、正方に限らず、たとえば、6角形(ハニカム状)であってもよい。この場合、単位画素の配列は、たとえば以下のようにする。1つの単位画素列および1つの単位画素行は、それぞれ複数個の単位画素を含むようにする。
偶数列を構成している複数個の単位画素の各々は、奇数列を構成している複数個の単位画素に対し、各単位画素列内での単位画素同士のピッチの約1/2、列方向にずらす。同様に、偶数行を構成する複数個の単位画素の各々は、奇数行を構成する複数個の単位画素に対し、各単位画素行内での単位画素同士のピッチの約1/2、行方向にずらす。単位画素列の各々は、奇数行または偶数行の単位画素のみを含むようにする。
これら単位画素の電荷生成部に蓄積された信号電荷に基づく画素信号をカラム処理部26側へ読み出すために、行制御線を設けるが、その配置は、ハニカム状の単位画素3の周りに蛇行して配される。逆に言えば、行制御線をハニカム状に配設することによって生じる6角形の隙間それぞれに、単位画素の各々が平面視上に位置するようにする。こうすることで、全体としては、約1/2ピッチの画素ずらしを交互にしながら、垂直方向に画素信号を読み出すようになる。
この単位画素や行制御線をハニカム配列にすれば、個々の単位画素における電荷生成部の受光面の面積低下を抑制しつつ、画素密度を向上させることができる。
単位画素の形状や配列に拘らず、何れの場合も、画素部10をカラー撮像対応にする場合、積和演算処理時には、同色成分同士での演算がなされるように、画素を選択すればよい。すなわち、色分解フィルタの各色フィルタの配置位置に基づいて、積和演算の対象となる複数の単位信号が同一色の色フィルタのものとなるように、複数の単位構成要素のそれぞれの位置を指定するようにすればよい。
また、上記実施形態でデータ処理装置の一例として説明したAD変換回路は、固体撮像装置やその他の電子機器に組み込まれて提供されることに限らず、たとえばIC(Integrated Circuit;集積回路)や複数画素間での積和演算機能(データ処理機能)を持つAD変換モジュールあるいはデータ処理モジュールなどのようにして、単独の装置として提供されてもよい。
この場合、比較部とカウンタ部とを備えたAD変換装置(もしくはデータ処理装置)で提供してもよいが、AD変換用の参照信号を生成し比較部に供給する参照信号生成部や、カウンタ部におけるカウント処理のモードを制御する制御部も同一の半導体基板上に配したIC(集積回路)や個別チップなどの組合せでなるモジュールに組み込んで提供してもよい。
これらを組み込んで提供することで、比較部とカウンタ部の動作を制御するために必要な機能部を纏めて取り扱うことができ、部材の取扱いや管理が簡易になる。また、AD変換処理に必要な要素がICやモジュールとして纏まって(一体となって)いるので、固体撮像装置やその他の電子機器の完成品の製造も容易になる。
1…固体撮像装置、3…単位画素、7…駆動制御部、10…画素部、12…水平走査回路、14…垂直走査回路、15…行制御線、18…水平信号線、19…垂直信号線、20…通信・タイミング制御部、24…カウンタ部、25…カラムAD回路、26…カラム処理部、27…参照信号生成部、27a…DA変換回路、28…出力回路、252…電圧比較部、254…カウンタ部、256…データ記憶部、258…スイッチ、282…デジタル演算部、290…列選択処理部、800…電子機器、802…制御装置、805…AD変換装置、820…タイミング制御部、827…参照信号生成部、828…データ記憶部、830…判定・診断部、852…電圧比較部、854…カウンタ部