以下、本発明の具体例について図を参照して説明する。初めに、CMOSセンサの概要について触れておく。
(CMOSセンサの概要)CMOSセンサは、低消費電力・低電圧化が可能で、単一電源で駆動できる固体撮像装置であり、増幅型のトランジスタを用いている。この固体撮像装置は、各セル内でフォトダイオードで検出した信号をトランジスタで増幅するものであり、高感度という特徴を持つ。
特殊な製造プロセスを用いるCCDセンサとは異なり、CMOSセンサはプロセッサ、DRAM等の半導体メモリ、論理回路等で多用されているMOSプロセスにより、生産される。従って、CMOSセンサは半導体メモリやプロセッサと同一の半導体チップ上に形成したり、半導体メモリやプロセッサ等と生産ラインを共有することが容易である等の利点がある。
しかしながら、上述した増幅トランジスタを用いた従来のCMOSセンサ(増幅型CMOSセンサ)は、後述するように、・固定パターンノイズと呼ばれる輝度ムラが避けられず、その除去が難しい、・増幅型CMOSセンサはその出力のダイナミックレンジも60dB程度しかなく、銀塩フィルムの90dBやCCDセンサの70dBと比較すると、不十分である、といった欠点を抱えていたため、増幅型CMOSセンサをビデオカメラ等の画像システム機器に組み込むことは画質の点で実用上、大きな制約があった。しかし、近年、これらの問題が技術的に解消され、実用化が可能になった。
図72は、増幅型CMOSセンサを用いた従来の固体撮像装置を示す回路構成図である。画素に相当する単位セルP0−i−jが縦、横に2次元マトリクス状に配列されている。図では、2×2しか示していないが、実際は数百個×数百個の配列である。iは水平(row )方向の変数、jは垂直(column)方向の変数である。各単位セルP0−i−jは、フォトダイオード1−i−jと、増幅トランジスタ2−i−jと、垂直選択トランジスタ3−i−jと、リセットトランジスタ4−i−jからなる。また、2次元マトリクス状に配列されている単位セルP0−1−1,…P0−i−j,…を順に選択するために、垂直アドレス回路5と水平アドレス回路13とがある。垂直アドレス回路5は垂直走査回路を構成し、水平アドレス回路13は水平走査回路を構成する。
垂直アドレス回路5にはn×m構成の2次元マトリクス状配列の単位セルP0−1−1,…P0−i−j,…の横配列数(水平 (row )方向配列数)であるnに対応する数のアドレス出力端子とリセット信号端子のペアがあり、水平アドレス回路13にはn×m構成の2次元マトリクス状配列の単位セルP0−1−1,…P0−i−j,…の縦配列数(垂直(column)方向配列数)であるmに対応するアドレス出力端子がある。なお、m,n,i,jは任意の整数である。
そして、水平(row )方向に並ぶ単位セルP0−1−1,P0−1−2,…P0−2−j,…に沿って1本ずつ、垂直アドレス回路5から水平(row )方向に垂直アドレス線6−1,6−2,…が順に配線されており、これら垂直アドレス線6−1,6−2,…はそれぞれ垂直アドレス回路5のn個のアドレス出力端子のうち、対応する一つに接続されている。
また、水平(row )方向に並ぶ単位セルP0−1−1,P0−1−2,…P0−2−j,…に沿って1本ずつ、垂直アドレス回路5から水平(row )方向にリセット信号線7−1,7−2,…が順に配線されており、これらリセット信号線7−1,7−2,…はそれぞれ垂直アドレス回路5のn個のリセット信号端子のうち、対応する一つに接続されている。
また、垂直方向に並ぶ単位セルP0−1−1,P0−1−2,…P0−2−j,…に沿って1本ずつ、水平アドレス回路13から垂直方向に垂直信号線8−1,8−2,…が順に配線されており、これら垂直信号線8−1,8−2,…はそれぞれ水平アドレス回路13のm個のアドレス出力端子のうち、対応する一つに接続されている。
垂直アドレス回路5から水平方向に配線されている垂直アドレス線6−1,6−2,…は各行の単位セルの垂直選択トランジスタ3−1−1,…のゲートに接続され、信号を読み出す水平ラインを決めている。同様に、垂直アドレス回路5から水平方向に配線されているリセット線7−1,7−2,…は、それぞれ対応する各行のリセットトランジスタ4−1−1、…のゲートに接続されている。
入射光を検出するフォトダイオード1−i−jは,入射光を検出する受光部を形成するものであって、受光量対応の信号電荷を発生するものであり、1つのフォトダイオードで1画素を構成する。増幅トランジスタ2−i−jは、このフォトダイオード1−i−jの発生した信号電荷を増幅して検出信号として出力するものであり、フォトダイオード1−i−jのカソードが自己のゲートに接続されることにより、フォトダイオード1−i−jの信号電荷を増幅してその信号電荷対応の増幅出力を検出信号としてドレイン側に発生するものである。
垂直選択トランジスタ3−i−jは、直流のシステム電源と増幅トランジスタ2−i−jのドレイン側との間に自己のソース‐ドレイン間が接続され、自己のゲート側は垂直アドレス回路5の垂直アドレス線6−jに接続される。
リセットトランジスタ4−i−jは直流のシステム電源とフォトダイオード1−i−jのカソードとの間に自己のソース‐ドレイン間が接続され、動作時にフォトダイオード1−i−jの信号電荷をリセットする。
つまり、具体的には垂直選択トランジスタ3−i−jのソース側とリセットトランジスタ4−i−jのソース側が、直流のシステム電源のドレイン電圧端子に共通に接続されて、ドレイン電圧が供給されるようにしてある。
上述したように、垂直アドレス回路5から水平方向に配線されている垂直アドレス線6−1,6−2,…は各行の単位セルの垂直選択トランジスタ3−1−1,…のゲートに接続され、信号を読み出す水平ラインを決めている。同様に、垂直アドレス回路5から水平方向に配線されているリセット線7−1,7−2,…は、各行のリセットトランジスタ4−1−1、…のゲートに接続されている。
従って、n×m構成(n行m列の配列構成)の画素の読み出しにおいて、nライン存在する水平ライン(行方向ライン)を、その読み出し走査順にアクティブにすべく、垂直アドレス回路5が垂直アドレス線6−1,6−2,…を順次アクティブにし、また、画素の信号電荷をリセットするように、出力端子に信号出力をすべく、動作する構成としてある。
以上が、画像検出部であり、この画像検出部の他に、この画像検出部が検出した画像を読み出す出力部がある。出力部は負荷トランジスタ9−1,9−2,…、信号転送トランジスタ10−1,10−2,…、蓄積容量11−1,11−2,…、水平(row )選択トランジスタ12−1,12−2,…から成り、次のような構成である。
すなわち、各列の単位セルの増幅トランジスタ2−1−1,2−1−2,…のソース側は列方向に配置された垂直信号線8−1,8−2,…のうち、自己の対応する列のものにそれぞれ接続されている。また、各列の単位セル対応に、それぞれ一つずつ、負荷トランジスタ9−1,9−2,…が設けられており、垂直信号線8−1,8−2,…の一端はこれら各負荷トランジスタ9−1,9−2,…のうちの対応する一つと、その負荷トランジスタのソース‐ドレイン側を介して直流のシステム電源に接続される。
また、垂直信号線8−1,8−2,…の他端は、1行分の信号を取り込む信号転送トランジスタ10−1,10−2,…のうちの自己に対応する一つを介して、1行分の信号を蓄積する蓄積容量11−1,11−2,…のうちの自己に対応する一つに接続されるとともに、水平アドレス回路13から供給される水平アドレスパルスにより選択される水平(row )選択トランジスタ12−1,12−2,…を介して信号出力端(水平信号線)15に接続されている。
つまり、垂直信号線8−1,8−2,…の他端は、信号転送トランジスタ10−1,10−2,…のうちの対応する一つのトランジスタのソース‐ドレインを介して蓄積容量11−1,11−2,…のうちの対応する一つの蓄積容量の一端側に接続されるとともに、水平(row )選択トランジスタ12−1,12−2,…のうちの対応する一つのトランジスタのソース‐ドレインを介して信号出力端(水平信号線)15に接続される。また、各蓄積容量11−1,11−2,…の他端は接地され、信号転送トランジスタ10−1,10−2,…のゲート側は共通ゲート14に接続される。共通ゲート14には、信号転送すべきタイミングにおいて信号転送パルスを印加することで、信号転送トランジスタ10−1,10−2,…をオンさせて、垂直信号線8−1,8−2,…に現れた電圧を、増幅信号蓄積容量11−1,11−2,…に転送して蓄積させることができる。
水平アドレス回路13は、水平1ライン当たりの読み出すべき画素位置を順次選択してゆくためのものであって、n×m構成(n行m列構成)の画素の読み出しにおいて、水平1ラインの読み出し走査速度対応に、その時々の走査位置に該当する画素位置の水平(row )選択トランジスタ12−1,12−2,…をアクティブにするように水平アドレスパルスを発生する構成としてある。
従って、n×m構成(n行m列構成)の画素の読み出しにおいて、順次ライン位置を変えながらそのラインにおける画素の信号を読み出すといった走査を制御をすることができる。
動作について触れておく。図73のタイミングチャートを参照して説明すると、このMOS型固体撮像装置の動作は次のようになる。垂直アドレス回路5より、垂直アドレス線6−iに当該垂直アドレス線6−iをハイレベルにするアドレスパルスが印加されると、この行の選択トランジスタ3−i−1,3−i−2,…のみオンとなり、この行の増幅トランジスタ2−i−1,2−i−2,…と負荷トランジスタ9−1,9−2,…でソースフォロワ回路が構成される。
これにより、増幅トランジスタ2−i−1,2−i−2,…のゲート電圧、すなわちフォトダイオード1−i−1,1−i−2,…の電圧とほぼ同等の電圧が垂直信号線8−1,8−2,…に現れる。
このとき、信号転送トランジスタ10−1,10−2,…の共通ゲート14に信号転送パルスを印加すると、増幅信号蓄積容量11−1,11−2,…には垂直信号線8−1,8−2,…に現れた電圧とその容量との積で表される増幅された信号電荷が蓄積される。
増幅信号蓄積容量11−1,11−2,…に信号電荷が蓄積された後、垂直アドレス回路5は、リセットライン7−iにリセットパルスを印加する。そして、このリセットパルスによりリセットトランジスタ4−i−1,4−i−2,…はオンされ、フォトダイオード1−i−1,1−i−2,…に蓄積された信号電荷はリセットトランジスタ4−i−1,4−i−2,…を介して放電される。これにより、フォトダイオード1−i−1,1−i−2,…はリセットされたことになる。
つぎに、水平アドレス回路13から水平アドレスパルスを水平選択トランジスタ12−1,12−2,…に順次印加する。すると、水平選択トランジスタ12−1,12−2,…はこの水平アドレスパルスの印加されている間、オンとなる。そして、増幅信号蓄積容量11−1,11−2,…に蓄積されていた信号電荷は、オンとなった水平選択トランジスタ12−1,12−2,…を通って蓄積信号出力端(水平信号線)15から出力される。これにより、1行分の画像信号が出力信号として得られる。
この動作を次の行(水平ライン)、次の行と順次続けることにより、2次元状に配置されたフォトダイオードのすべての信号を読み出すことができる。
このように、順次、ライン位置を変えながら読み出し制御を行うことで、1画面分の画像信号を順次取り出すことができ、連続的にこの動作を繰り返すと動画像が得られることになる。
ところで、上述した従来のMOS型固体撮像装置の単位セルP0−i−jは、フォトダイオード1−i−jからの電荷信号を増幅する増幅トランジスタ2−i−j、信号を読み出すラインを選択する垂直選択トランジスタ3−i−j、増幅トランジスタのゲートのゲートを充放電するリセットトランジスタ4−i−jの計3つのトランジスタが必要である。つまり、単位画素に相当する受光部であるフォトダイオード1個あたり、3トランジスタ構成となる。
そして、フォトダイオード1−i−jの発生電荷は、増幅トランジスタ2−i−jを用いて増幅してから出力させるので、この増幅トランジスタ2−i−jによる雑音の問題が残る。つまり、増幅トランジスタ2−i−jは画素である単位セル毎に設けられるが、フォトダイオードが光を受けていないときにも、増幅トランジスタは出力を発生する。これは増幅トランジスタの特性上、避けることができない暗電流や熱雑音、そして、閾値電圧のバラツキに起因するものであり、マトリクス配置の各画素セルでそれぞれ異なる固有のものであるから、一様な光を受光面全面に当てたとしても、得られる画像信号のレベルは、各画素で一様にならず、輝度むらのある画像信号となる。この輝度むらのある画像は雑音が2次元状に分布する雑音、つまり、画面という平面に分布する雑音であり、場所的に固定されているという意味で、固定パターン雑音と称される。この雑音の問題は深刻であり、画素を微細化することによって一層、顕著になるから撮像用には、その改善を図らなければ、実用化はおぼつかない。
このような背景のもとに、種々の研究が積み重ねられた結果、近年、単位画素毎の増幅トランジスタの雑音をキャンセルする回路技術が開発され、このような回路技術を採用したMOS型撮像装置が開発されるに至って、遂にこれらの問題は一挙に解決することとなった。
その一例を説明する。それは例えば、単位セルにおいてリセットトランジスタ(図72の例における4−i−j(i,j=1,2,3,4,…)の符号を付したトランジスタ、(図21)では66の符号を付したトランジスタ)をフィードバック動作させ、固定パターンノイズを低減する構成とすると共に、図73(図17)に示すように、水平選択トランジスタ12の前に、この低減された固定パターン雑音を更に抑圧するための回路を設けてなる雑音除去回路(ノイズキャンセラ回路)を用いるようにことによる。
この構成例の特徴である単位セルのフィードバック動作による増幅トランジスタ64の閾値電圧補正の原理は次のようなものである。図74を参照して説明する。図74はセル回路図を表す。
図に示すCMOS型固体撮像装置の単位セルは、フォトダイオード(1−i−j)62と、増幅トランジスタ(2−i−j)64と、垂直選択トランジスタ(3−i−j)65と、リセットトランジスタ66とを具備しているが、単位セルは、入射光を検出するフォトダイオード62は、そのカソードを当該フォトダイオード62の検出信号を増幅する増幅トランジスタのゲートに接続してある。そして、当該増幅トランジスタ64のゲートとドレインの間には、フィードバック動作をするリセットトランジスタ66と、増幅トランジスタ64のドレインに接続され、信号を読み出す水平ラインを選択する垂直選択トランジスタ65が接続されている。
このような接続構成にすると、垂直選択トランジスタ65をオフし、リセットトランジスタ66をオンした状態であって、垂直信号線8に基準電圧を与えた状態においては、リセットトランジスタ66のゲートチャネルを通ってそのリセットトランジスタ66のドレインに電子が流れ込むと、そのドレイン電圧が下がってくる。
リセットトランジスタ66におけるそのドレイン・ゲート間は、当該リセットトランジスタ66がオンされていてつながっているため、ゲート電圧も下がり、流れ込む電子が減少してくる。そして、最終的には、ソースに与えられた基準電圧とチャネル電位がほぼ等しくなる状態になる。この状態においてはチャネル電位が、外部から与えられた電圧になることから、トランジスタの構造上のばらつきは現れない。
すなわち、この例によれば、増幅トランジスタ64のゲートとドレインの間にフィードバックトランジスタ(リセットトランジスタ66)を挿入し、ソースに一定電圧を与えるフィードバック動作により、閾値ばらつきを補正することができる。
図75は、一例としての改良された型固体撮像装置の構成を示す。単位セルP4−i−jが縦、横に2次元マトリクス状に配列されている。図では、2×2しか示していないが、実際は数千個×数千個ある。iは水平(row )方向の変数、jは垂直(column)方向の変数である。各単位セルP4−i−jの詳細は図74に示した如きである。
この固体撮像装置の応用分野としては、ビデオカメラ、電子スチルカメラ、ディジタルカメラ、ファクシミリ、複写機、スキャナ等がある。
垂直走査回路部を構成する垂直アドレス回路5から水平方向に配線されている垂直アドレス線6−1,6−2,…は各行の単位セルに接続され、信号を読み出す水平ラインを決めている。同様に、垂直アドレス回路5から水平方向に配線されているリセット線7−1,7−2,…は、各列の単位セルに接続されている。
各列の単位セルは列方向に配置された垂直信号線8−1,8−2,…に接続され、垂直信号線8−1,8−2,…の一端には負荷トランジスタ9−1,9−2,…が設けられている。負荷トランジスタ9−1,9−2,…のゲートとドレインは共通にドレイン電圧端子20に接続される。
垂直信号線8−1,8−2,…の他端は、MOSトランジスタ26−1,26−2,…のゲートに接続される。MOSトランジスタ26−1,26−2,…のソースはMOSトランジスタ28−1,28−2,…のドレインに接続され、MOSトランジスタ26−1,26−2,…、28−1,28−2,…はソースフォロワ回路として動作する。MOSトランジスタ28−1,28−2,…のゲートは共通ゲート端子36に接続される。
MOSトランジスタ26−1,26−2,…とMOSトランジスタ28−1,28−2,…との接続点がサンプルホールドトランジスタ30−1,30−2,…を介してクランプ容量32−1,32−2,…の一端に接続される。クランプ容量32−1,32−2,…の他端にはサンプルホールド容量34−1,34−2,…とクランプトランジスタ40−1,40−2,…が並列に接続されている。サンプルホールド容量34−1,34−2,…の他端は接地されている。クランプ容量32−1,32−2,…の他端は水平選択トランジスタ12−1,12−2,…を介して信号出力端(水平信号線)15にも接続される。
垂直アドレス回路5は、複数、ここでは2本の信号を纏めてシフトする回路であり、図76、図77、図78のいずれかの回路により実現される。図77の例では、入力信号46を多数の出力端から順次シフトして出力するアドレス回路44の出力がマルチプレクサ48により2入力信号50と合成される。図77の例では、エンコード入力54をデコードするデコーダ52の出力がマルチプレクサ56により2入力信号58と合成される。図78の例では、2つのアドレス回路60a,60bの出力を束ねて各行の制御信号線とする。
上述した図74の回路は、図75に示した回路における単位セルP4−1−1として使用する。ここでは、単位セルP4−1−1の構成のみを示すが、他の単位セルP4−1−2、〜についても同様の構成が採用されている。
次に、図79のタイミングチャートを参照して、このように構成されたMOS型固体撮像装置の動作について説明する。なお、負荷トランジスタ9の共通ドレイン端子20、インピーダンス変換回路のトランジスタ28の共通ゲート端子36、クランプトランジスタ40の共通ソース端子38はDC駆動であるので、タイミングチャートから省略している。
垂直アドレス線6−1にハイレベルのアドレスパルスを印加すると、当該垂直アドレス線6−1に接続されている単位セルP4−1−1,P4−1−2,…の垂直選択トランジスタ65がオンとなり、増幅トランジスタ64と負荷トランジスタ9−1,9−2,…でソースフォロワ回路が構成される。
サンプルホールドトランジスタ30−1,30−2,…の共通ゲート37をハイレベルとしてサンプルホールドトランジスタ30−1,30−2,…をオンする。この後、クランプトランジスタ40−1,40−2,…の共通ゲート42をハイレベルとしてクランプトランジスタ40−1,40−2,…をオンする。
次に、クランプトランジスタ40−1,40−2,…の共通ゲート42をローレベルとしてクランプトランジスタ40−1,40−2,…をオフする。このため、垂直信号線8−1,8−2,…に現れている信号プラス雑音成分はクランプ容量32−1,32−2,…に蓄積される。
この後、垂直アドレスパルスをローレベルに戻した後、リセット線7−1にハイレベルのリセットパルスを印加すると、当該リセット線7−1に接続されている単位セルP4−1−1,P4−1−2,…のリセットトランジスタ66がオンとなり、出力回路68の入力端子の電荷がリセットされる。
再び、垂直アドレス線6−1にハイレベルのアドレスパルスを印加すると、当該垂直アドレス線6−1に接続されている単位セルP4−1−1,P4−1−2,…の垂直選択トランジスタ65がオンとなり、増幅トランジスタ64と負荷トランジスタ9−1,9−2,…でソースフォロワ回路が構成され、信号成分がリセットされた雑音成分のみが垂直信号線8−1,8−2,…に現れる。
前述したように、クランプ容量32−1,32−2,…には信号プラス雑音成分が蓄積されているので、クランプノード41−1,41−2,…には垂直信号線8−1,8−2,…の電圧変化分、すなわち信号成分プラス雑音成分から雑音成分を差し引いた、固定パターン雑音のない信号電圧のみが現れる。
そして、サンプルホールドトランジスタ30−1,30−2,…の共通ゲート37をローレベルとしてサンプルホールドトランジスタ30−1,30−2,…をオフする。このため、クランプノード41−1,41−2,…に現れている雑音のない電圧がサンプルホールド容量34−1,34−2,…に蓄積される。
この後、水平選択トランジスタ12−1,12−2,…に水平アドレスパルスを順次印加することにより、サンプルホールド容量34−1,34−2,…に蓄積されている雑音のないフォトダイオード62の信号が出力端子(水平信号線)15から読み出される。
以下、同様に、垂直アドレス線6−2,6−3,…について上述の動作を繰り返すことにより、2次元状に配置された全てのセルの信号を取り出すことが出来る。
ここで、図79のタイミングの先後関係を説明する。必須の順番は、次の通りである。
“垂直アドレスパルスの立ち上がり・サンプルホールドパルスの立ち上がり・クランプパルスの立ち上がり”→“リセットパルスの立ち上がり”→“リセットパルスの立ち下がり”→“サンプルホールドパルスの立ち下がり”→“垂直アドレスパルスの立ち下がり”である。
なお、垂直アドレスパルスの立ち上がり、サンプルホールドパルスの立ち上がり、クランプパルスの立ち上がりの前後関係は任意であるが、好ましくは上述した順番がよい。
このように、図79の動作によれば、クランプノード41には、信号(プラス雑音)がある時と、増幅トランジスタのゲートがリセットされて信号がない時の差の電圧が現れるため、何らかの理由により単位セルのフィードバック動作によって除去しきれなかった増幅トランジスタ64の閾値バラツキによる固定パターン雑音が補償される。すなわち、クランプトランジスタ30、クランプ容量31、サンプルホールドトランジスタ40、サンプルホールド容量34からなる回路がノイズキャンセラとして作用する。
なお、本例のノイズキャンセラは、ソースフォロワ回路からなるインピーダンス変換回路26、28を介して垂直信号線8に接続されている。すなわち、垂直信号線はトランジスタ26のゲートに接続されている。このゲート容量は非常に小さいので、セルの増幅トランジスタ64は垂直信号線8−1,8−2,…のみを充電するので、CRの時定数が短く、すぐに定常状態になる。そのため、リセットパルスの印加タイミングを早くすることができ、短時間でノイズキャンセル動作をさせることができる。
図80にこのようなCMOSセンサの概略的な回路構成図をブロック図で示しておく。
本発明は、例えば、このようなCMOSセンサを使用し、さらに周辺回路をCMOSプロセスで作り込むことにより、高機能化を図った撮像素子を提供するものである。次にその例を具体的に説明する。
(第1の具体例)図1は、本発明の具体例としての撮像素子の概略的な内部構成を示したブロック図である。図において、100は撮像素子を示しており、図に示すように、撮像素子100内には、タイミング発生部101、エリアセンサ部102、画素の出力を選択する垂直走査部103および水平走査部104、アナログ信号処理部105、アナログ/デジタル変換を行うA/D部(A/D変換部)106、デジタル化された信号を出力信号に変換するデジタル信号処理部107、デジタル画像データを外部に出力し、また外部からのコマンドデータを受け取るインタフェース部108が設けられている。
エリアセンサ部102は上述したCMOSセンサであり、垂直走査部103はCMOSセンサ102を垂直走査制御するためのものであり、水平走査部104はCMOSセンサ102を水平走査制御するためのものであり、これらはタイミング発生部101の出力信号を基に所要の走査制御をする構成である。
この具体例で重要なことは、外部からコマンド入力を行うことができ、コマンド対応に撮像素子100のモードや出力信号形態、信号出力タイミングなどをコントロールできるようにしている点である。そのために設けたものが、インタフェース部108であり、外部からこのインタフェース部108に所要のコマンドを与えると、インタフェース部108は受けたコマンド対応の制御を行うように各種構成要素の制御を実施する。また、インタフェース部108はデジタル信号処理107を介して出力されるデジタル画像データを撮像素子100の外部に出力する機能をも有している。
アナログ信号処理部105はエリアセンサ部102から読み出された画像信号を所要の信号処理をしてA/D部106に出力するためのものであり、A/D部106はこの画像信号をデジタル信号に変換して出力するためのものであり、デジタル信号処理部107は、このA/D部106にてデジタル変換されて出力される画像データをインタフェース部108に出力するためのものである。
タイミング発生部101は、外部からの信号を元に、各画素で光電変換された画像信号を読み出すためのタイミング信号を発生し、垂直および水平走査部が、このタイミング信号に従って、画素内で光電変換された電荷を読み出す。
外部からの信号には、基準周波数であるマスタークロック、あるいは同期信号、あるいはその両者が考えられる。
図2及び図3はタイミング発生部101の具体例を示している。図において101a は垂直走査信号発生部、101b は水平走査信号発生部、101cはデジタル処理用信号発生部であり、垂直走査信号発生部101a はクロック信号と水平同期信号と垂直同期信号を受けて垂直走査タイミングを示す垂直走査信号を発生するものである。また、水平走査信号発生部101bはクロック信号と水平同期信号と垂直同期信号を受けて水平走査タイミングを示す水平走査信号を発生するものである。また、デジタル処理用信号発生部101c はクロック信号と水平同期信号と垂直同期信号を受けて所要のデジタル処理タイミングを示す信号を発生するものである。
外部からの信号には、基準周波数であるマスタークロック、あるいは同期信号、あるいはその両者が考えられるが、図1の構成例は両者を入力する例であり、その具体例として上述のように図2では、クロックと水平同期信号と垂直同期信号をあげた。これら3種の信号より、タイミング発生部101は、撮像素子100に必要なタイミング信号を発生し、撮像素子100内の各部へ供給する。
図3に示す構成は、クロックのみが撮像素子100外より供給され、同期信号も撮像素子のタイミング発生部101で、生成する例である。外部クロックを受けて同期信号や垂直走査信号、水平走査信号などを内部で発生できるようにするために、図3の構成においては、垂直走査信号発生部101a 、水平走査信号発生部101b、デジタル処理用信号発生部101c に加えてさらに同期信号発生部101dが設けられており、外部から入力されるクロック信号をもとに、同期信号発生部101dは垂直同期信号と水平同期信号を発生し、これを外部に出力すると共に、垂直走査信号発生部101a 、水平走査信号発生部101b、デジタル処理用信号発生部101c に与える構成としてある。
図3の構成において、同期信号発生部101dからは垂直同期信号と水平同期信号を外部に出しているが、これは撮像素子外でタイミング信号が必要なシステム用に、同期信号を外部に供給できるようにするためである。
このときの撮像素子100の全体ブロック図は、図4のようになる。タイミング発生部以外は同じである。アナログ信号処理部105ではノイズ低減や、増幅、ガンマ処理やクランプ処理され、A/D部106でデジタル信号に変換される。
デジタル信号処理部107では、画素配列信号から、外部出力に適した出力信号へ変換する。たとえば輝度信号、RGB信号、輝度色差信号(YCrCb,YUV)などが考えられる。
各信号の出力順には、各画素単位、面順次が考えられる。なお信号処理をせず、画素配列データそのままの場合も含む。
さらにこれらの信号を元に、信号処理することも考えられる。たとえば、輝度色差信号を元として、JPEGに代表される静止画デー夕圧縮処理、H.261やH.263などの会議用途向け動画処理、MPEG1やMPEG2、および現在、規格が審議中のMPEG4の信号処理などを搭載することが可能である。またアナログ信号処理部でなく、デジタル信号処理部107でガンマ処理を行うことも考えられる。
このデジタル信号処理部107には、図5のように、信号処理回路107a に加えてメモリ107bを伴うように構成することもある。このメモリ107bは信号処理に必要な、1あるいは複数のライン、1あるいは複数のブロック、1あるいは複数のフレーム分の画像データを記憶し、これを信号処理回路107a での信号処理に利用するものである。デジタル信号処理部107aで処理されたデータは、インタフェース部108より撮像素子100の外部に出力される。このインタフェース部108では、外部からのコマンドを撮像素子内に取り込む役目も果たす。
本発明の撮像素子100は外部からコマンドを入力することで当該コマンド入力対応のモードになり、コマンド対応の処理ができるようにした点に特徴があるので、これについて以下詳細を説明する。
[コマンド切替型撮像素子の第1の内部構成例]
<画像切替構成の例>第1の内部構成例は、この撮像素子が複数の出力形式を有しており、コマンドデータにより、出力形式切り替え選択をすることにより、出力データを変えることができるようにした例である。
図6に1具体例をあげる。この例は、デジタル信号処理部107を、信号処理回路107aとして輝度信号色差信号生成回路(YCrCb生成回路)で構成し、また、切替回路107bを設けて構成したものである。切替回路107bは切替端子を2つ持ち、一方の切替端子を輝度信号色差信号生成回路107aの出力側に接続し、他方の切替端子を輝度信号色差信号生成回路107aの入力側に接続して、切替回路107bにより、輝度信号色差信号生成回路107aの出力と、A/D部106の出力のうちのいずれか一方を、デジタル信号処理部107の出力として選択出力できるようにしたものである。切替回路107bの切り換え制御はインタフェース部108の受信コマンドにより、当該インタフェース部108がデジタル信号処理部107に切り換え信号を送ることで行えるようにしてある。
すなわち、この構成においては、デジタル信号処理部107は、画素データそのものを出すパスと、デジタル回路を通ってYCrCb信号に変換されるパスを持ち、外部から与えるコマンドにより、これらパスのうち、一方のパスを選択するように切り替え操作可能にすることによって、当該切り替え指定された方のパスのデータを出力するものである。
図7の構成は、動画像信号の信号処理をする動画像信号処理部107cと、静止画信号の信号処理をする静止画像信号処理部107dを持ち、これを上述の如き切替回路107bにより、いずれかの出力を選択するように切り替える構成を持つものである。一般に動画と静止画は、信号処理方法が異なっており、この二つの信号処理部を設けて、コマンドによりいずれか一方の出力を選択するように切り替えができる構成をとることにより、より良質の画像を得ることができる構成となる。
また、デジタル信号処理部107の構成を、図8のように構成する。図8の構成は、各種の信号処理部107e〜107nを設けて、これらを切替回路107bにより切り替える構成としたものである。この構成をとることにより、コマンド一つで出力形式をシステムより指定できるようになり、適切な出力を出すことができる構成となる。信号処理部107e〜107nの信号出力形式は前述したようなものがあげられる他、PICT形式、GIF形式、TIFF形式などのコンピュータで静止画像を記録するフォーマットも考えられる。
また、図9は、エリアセンサ部102の捉えた画像の出力順を変える例を示した。エリアセンサ部102はn画素(nはエリアセンサ部の画素数)の配列のイメージセンサであり、カラーの場合、R(赤),G(緑),B(青)の各色のセル一組で形成される画素単位で順に画像信号を読み出して出力する“画素順次”とするか、R,G,Bの各色のフレーム単位で画像信号を読み出して出力する“面順次”とするかをコマンドによって切り換える例である。
図9の例において、エリアセンサ部102内の番号は、1画素単位で表示しており、本例は撮像素子内で各画素につき、RGBの3色を信号処理により生成している。出力順序をコマンドにより、画素順次出力か、面順次出力かを切り替える様子を示している。
以上は、出力する画像の種類をコマンドにより選択できるようにした例である。次に(第2の発明)第2の発明は、外部からのコマンドにより、データ出力を行うことである。
通常のビデオカメラ用の撮像素子は、TVモニタに出画するシステムであることから、NTSC方式の場合、常に30フレーム/秒のレートで出力している。しかし、TV会議、TV電話、デスクトップ会議などの用途では、伝送容量の制限により、秒あたりのフレーム数は30フレームより小さいことが多く、常に撮像信号を出力していなくても構わない。
外部からの出力要求があったときに、データを出力し、要求がない場合には、撮像素子上の不要な回路動作を停止させておくことで、消費電力を低減することができる。
図10に1具体例のタイミングチャートを示す。この例は、撮像素子100のエリアセンサ部102では、有効な蓄積動作が常に行われており、読み出しコマンドが与えられることにより、次のフレームの頭からアナログ信号処理段以降へ信号が読み出され、信号回路が動作して出力される様子を示している。
図11は別の具体例としてのタイムチャートであり、出力コマンドが入力されて初めてエリアセンサの有効な蓄積動作が行われる例である。出カコマンドにより、タイミング発生部101は各所に必要な信号を発生し、これを基にしてエリアセンサ部102では有効な蓄積動作が行われ、読み出された信号はデジタル信号処理部107でデジタル信号処理を受けた後、インタエフィス部108を介して画像データとして撮像素子100外に出力される。エリアセンサ部102は、画素単位あるいはライン単位で、あるいは列単位あるいはブロック単位で、各1フレーム期間有効蓄積動作が行われてのち、読み出されるので(図11は1ライン単位の蓄積読み出しの例を示している)出力コマンド後、少なくとも1フレーム期間ののちにデータが出力される。ただし、電子シャッタ動作が行われているときは、有効蓄積動作期間が短くなる。
次に別の例を示す。
(第2の具体例)第2の具体例は、撮像素子100からの出力フレームレートを、段階的に設定しておき、これを外部コマンドて切り替えることができるようにした例である。
Mを有理数としてMフレーム/秒の設定を複数用意して、これを切り替え可能とし、使用システムの条件に適合した、あるいは使用者の好みにあったフレームレートを選択し、撮像素子100へのコマンドで、上記Mの設定を切り替えるようにするものである。
この場合、タイミング発生回路101は複数の読み出し方法を実現する機能を持ち、上記のコマンドにより、そのーつを選択し、出力レートを変更することができる構成とする。
この場合、たとえば、図12に示すように、“30フレーム/秒”、“15フレーム/秒”、“7.5フレーム/秒”、“3.75フレーム/秒”などという具合に、基準のフレームレートつまりNフレーム/秒と、これを1/nとなるように設定ようにすると、回路の構成が簡単である。本例ではN=30、n=2となる。
フレームレートの選定方法には、例えば次のような方法がある。
一つは、たとえば、図13に示すように本発明の撮像素子100を用いた内蔵カメラ301aをパソコン300に設け、またこのパソコン300にIF(インタフェース)を介してPHS(簡易携帯電話端末)を接続した構成、あるいは図14のように、本発明の撮像素子100を用いたパソコン用カメラ301bをパソコン300に接続したIF(インタフェース)を介して接続し、当該パソコン300は内蔵する通信インタフェースを介してネットワーク回線と接続し、遠隔地とディスクトップ会議を行うシステムにおいて、伝送に用いる回線のデータ転送レートを起動時に調べ、ソフトウエアがフレームレートを選択する方法である。
図15は内蔵あるいはパソコン用カメラ301a,301bの構成例であり、本発明の撮像素子100とこの撮像素子100に光学像を結像させるレンズ系(光学系)302、撮像素子100の出力する画像を符号化する画像符号化部303、外部から与えられたコマンドをデコードして撮像素子100に与えるコマンドデコーダ304からなる。
図16の内蔵あるいはパソコン用カメラ301a,301bの構成例は、撮像素子100に光学像を結像させるレンズ系(光学系)302、撮像素子100の出力する画像を符号化する情報源符号器305、この情報源符号器305の出力である画像データをフォーマット化するビデオ信号多重化符号器306、このビデオ信号多重化符号器306の出力を送信のために一時保持する送信バッファ307、この送信バッファ307で一時保持されたデータを多重化して伝送路へと送信するシステム多重化符号化器308、そして、バッファ307の容量に応じて画像信号の読み出しと転送を制御すべく、情報源符号器305、撮像素子100、ビデオ信号多重化符号器306の制御をする符号化制御器309から構成される。
このような内蔵あるいはパソコン用カメラ301をパソコン300に接続して用いるが、図15に示す構成の内蔵あるいはパソコン用カメラ301の場合、フレームレートの選定は、そのためのコマンドを与えるとコマンドデコーダ304がそれを解釈してそのコマンド対応のフレームレートとなるようにカメラ301の側でデコードして切り換え制御するので、パソコン300の側では、当該パソコン300のコントローラ(CPU(プロセッサ)など)が、撮像素子100に対して、出力レートの設定コマンドを出すように構成すれば良い。
また、カメラ301が図16のような構成の場合、これは撮像部と動画像符号化装置と送信部との組み合わせによる構成であるため、動画像符号化装置部分を構成するハードウエアにおいて、図16のように符号化データの送信バッファメモリ307のデータ占有量を当該カメラ301のシステムがモニタし、コマンドを出す基準の一つにすることも例としてあげられる。
例えば、図16の中の、送信バッファ307内のメモリの占有量が一定値より小さくなると、出力コマンドを出すように設計する。または、図15か図16の構成において、ソフトウエアかハードウエアにより、動画像伝送システム(たとえばH.263やH.261)の規格を信号処理し、フレームレート重視か、画質重視かを利用者が決め、これに基づいて、ソフトウエアあるいはハードウエアがコマンドを送る方法も考えれる。
また、近年では手帳型ペンパソコンのように、小型で軽量の携帯端末が普及しつつあるが、例えば、図17に示すように、携帯型情報機器に通信手段と撮像素子100を組み込んで画像通信を行える構成とする時、図18に示すように携帯型情報機器の電源となるバッテリBTの残り量をCPUが検出することによってCPUが出力フレームレートを決めるようにする制御方式を採用すると、電池切れによる通信の途中遮断を抑制して、必要な通信を全うさせることができるようになる。すなわち、この方式をとることで、電池残量が少なくなっても、動作時間をのばすことができる。そして、機器のバッテリをチェックし、残り少ないときは、出力フレームレ−トを低くする用に制御することによって、消費電力を落とし、品質はある程度犠牲にしても、必要な動作を確保できるようにする。
なお、図13あるいは図14あるいは図17のシステムにおいて、パワーセーブモードを持ち、このセーブモードを動作させると、撮像素子のフレームレートを落とす用に構成する例も考えれる。
(第3の具体例)第3の具体例は、外部から与えるコマンドにより、画素の出力順序を変更できるようにしたり、あるいは読み出し画素を選択できるようにする例である。
本発明の撮像素子100は、エリアセンサとしてCMOSセンサを用いており、このCMOSセンサは水平走査線と垂直走査線を選択的にアクティブにすることにより、CCDセンサと異なり、任意の画素を読み出すように構成することが可能である。
TVやパソコンのモニタに出力するシステムでは、ライン単位で読み出すのが通常であるが、たとえばブロック符号化手法を用いて、データ圧縮を行うシステムでは、n×m画素構成のフレーム画像を、そのうちの8×8画素あるいは16×16画素というブロック単位で処埋するようにするのが通常の処理となる。これら複数の読み出し方法に対応するため、タイミング発生部101に、あるいはデジタル信号処理部107に、あるいはその両方に、これら複数の読み出し方式、あるいは読み出し方式とこれに対応する複数の処理回路を内蔵させておき、これらを外部からのコマンドによって切り替えることができるようにすれば、上記処理に簡単に対応可能な構成とすることができる。
その例を次に説明する。
たとえば図19(a),(b)は、モニタに出画するときの画像の読み出し順序の例である。図19(a)は、ノンインターレース走査、図19(b)は、インターレース走査を行っている例である。
図20は、H.263規格を用いるときの読み出し順序である。この規格では、8×8画素のブロック4個で構成されたブロックをマクロブロックとし、このマクロブロックを単位にして、GOB(Group of Blocks)の順序で、画素信号、あるいは輝度と色成分に変換された信号が読み出される。これに対応させるには、タイミング発生部101を図21の如き構成にする。すなわち、 タイミング発生部101は垂直走査信号発生部101aと、 水平信号発生部101b、 そして、 インタレースモード制御部101f、 ノンインターレースモード制御部101g、 ブロックモード制御部101h、 これら制御部101f,101g,101hをコマンド対応に選択切り替えする切替部101eを設ける。そして、出力切り替えコマンドによりモードを切り替えて、エリアセンサ部102の走査をする走査部への信号を変えて、出力順を変えることを可能にするものである。
このようにタイミング発生部101に、複数の読み出し方式を選択可能に構成しておけば、同一の撮像素子で対応できる。
(第4の具体例)本発明の撮像素子100は、画素を選択的に出力することが可能である。従って、一定画素おきにサブサンプルしたり、画像の一部のみを読み出したりすることが容易にできる。
前者の例を図22に示す。図22(a)乃至(c)はいずれも1画素あたりG,R,B,Gの4つのカラーのセルによる構成であり、(a)においては画面全体を対象に全セルの読み出しを行うことで画像の読み出しを行う全画素読み出し方式であり、(b)は2水平ライン毎に、 しかも読み出す水平ラインにおいては2画素おきに画像の読み出しを行うサブサンプル読み出し方式であり、(c)は飛び飛びのセル単位で画像の読み出しを行う別のサブサンプル読み出し方式である一定画素おきのサブサンプルシステムは、動画取り込み時には小さな解像度(ここでは解像度は画素数をさす)、静止画取り込み時には大きな解像度で入力したいとか、デスクトップ会議で伝送容量に応じて、解像度を変更することなどに対応できる。このとき、図23のようにタイミング発生部101を構成し、出力切り替えコマンドで切り替えを行なえば良い。すなわち、タイミング発生部101は垂直走査信号発生部101a、 水平走査信号発生部101b、 切替回路101e、 全画素出力モード制御部101i、 サブサンプルモード制御部101jを設けて構成する。
そして、全画素出力モード制御部101iではクロック同期信号をもとに全画素を読み出せるようなタイミング信号を発生し、 サブサンプルモード制御部101jではクロック同期信号をもとに上述したサブサンプルモードでの読み出しが行えるようなタイミング信号を発生し、 これらを切替回路101eで切り替えて垂直走査信号発生部101aと水平走査信号発生部101bに与える構成とするものである。 切替回路101eはインタフェース部108から与えられる切替コマンド対応に、モード制御部101i,101jのうちの一方の出力を選択して抽出する。インタフェース部108は外部コマンドを受けてそのコマンド対応に切替コマンドを発生して切替回路101eに与える構成である。
画像読み出しにあたっては、通常は図22(a)のように、全画素を読み出す。
図22(b)の例は、ベイヤ配列の例で、縦横整然と並ぶ各カラーのセルのうち、図22(b)の斜線部のセルの画像の出力を行なうことにより、横“1/2”、縦“1/2”の大きさの画像が得られ、しかも、読み出し色順に変化がないため、デジタル信号処理部107の変更も必要ない。
図22(c)は、緑(G)の色の画素だけ読み出すサブサンプルの例である。白黒画像は階調のみの画像であり、階調は画像の輝度信号で再現できる。そこで、この例では、白黒画像を得るときは、輝度信号に一番近い緑画素を用いるようにする。
これによれば、輝度信号に一番近い緑画素を用いて、白黒画像を取り込むときなどに利用できる。
次に画像の一部のみを出力する例を説明する。撮像した画像のうちの、 画面の一部領域のみの画像である「画像の一部のみ」の出力では、動きのある部分や、詳細を見たい部分の画像を集中して出力することで、効率のよい動画の符号化が可能である。この場合、図24のように、カメラの撮像部として使用する本発明の撮像素子100に、新たに出力位置指定コマンドを用意し、コマンドでエリアセンサ部102の撮像領域のうち、あるポイントを指定すると、そのポイント周辺の特定領域の画像を出力するように構成する。
ここで周辺とは、図25(a),(b)に示すように指定されたポイントPを中心とする一定範囲か、図25(c)のように指定されたポイントPを含む1または複数のブロックか、あるいは同一性格を持つ範囲である。ただし、ここでいう同一性格とは、ポイント周辺においてエッジ認識によって得られた範囲であったり、図25(d)のようにポイントと同じ動きベクトルの値を持つか、あるいは近い動きベクトルの値を持つオブジェクト、あるいはブロック(図25(e))、あるいは輝度信号の値が近かったり、色相が近かったり、あるいはこれらの組み合わせである。または、ポイントでなく図25(f)のように、コマンドでブロックを指定して、その指定ブロックのみの画像を出力させることも考えられる。
(第5の具体例)第5の具体例は、外部から与えるコマンドにより、撮像素子100の電子シャッタ設定を変えることができるようにする例である。図26に示すように、撮像素子100に電子シャッタの設定コマンド受付け機能を持たせ、内部に電子シャッタの設定コマンドを認識してそのコマンドに応動する機能手段を設けて、外部からのコマンドにより、電子シャッタの設定を可能にしたものである。
詳細を図27で説明する。
CCD型の撮像素子は、全ての画素の電荷蓄積時間が同じであるが、本発明で使用する撮像素子100は、CMOSセンサをエリアセンサとして用いていて、このCMOSセンサによるエリアセンサは画素単位、あるいはライン単位、あるいはブロック単位での読み出しを行える構造であるため、蓄積時間の始まりと終りが単位毎に異なる。ここではライン単位の読み出しの例を示している。
画面を図27(a)のようにライン順次で画素を読み出す場合、図27(b)に示すように、まず画素に蓄積されている無効電荷をリセットし、有効蓄積動作を開始する。一定時間経過の後に画素を読み出して、次段の信号処理に撮像信号を与える。有効蓄積動作期間は、ライン毎にタイミングが異なるが、各期間は同じ長さである。
電子シャッタを動作させる場合、図27(c)に示すように無効電荷をリセットする画素リセットのタイミングを、時間的に後ろにずらすことで、有効蓄積動作期間を短縮でき、電子シャッタ動作がなされる。この動作は、電子シャッタコマンドが、タイミング発生部101のモードを切り替えることによってなされる。
また、画素単位、あるいはライン単位、あるいはブロック単位での有効蓄積動作の設定が、コマンドによって可能である。図27(d)は、2列目の有効蓄積期間を、他のラインとは異なったものにした例。図28は、エリアセンサ部102をブロック単位に分け、この分けたブロック単位で読み出す撮像素子であり、“ブロック1”から“ブロックm”までのうち、例えば、13番目のブロックである“ブロック13”の有効蓄積動作期間を、他のブロックの有効蓄積期間と異なったものにした例である。
このような電子シャッタ設定を可能にすることで、被写体に合わせた撮影ができるようになる。たとえば、被写体の一部が、発光体であったとき、この発光部分に電子シャッタの設定、つまり有効蓄積動作期間を合わせてしまうと、発光部分の他は真っ暗になる。
しかし、発光部分に該当する画素、あるいはライン、あるいはブロックの有効蓄積動作期間を、他の部分とは別に、短く設定すれば、良好な画像が得られるものである。
これまで示してきたタイミング発生部101の切り替え方法の別の具体例として、図29のように、タイミング発生部101の中にROM 101lを持つ構成とすることが考えられる。そして、ROM 101lのアドレスを、コマンドによりアドレス切り換えすることができるようにしたROMアドレス切替器101mにより切り替えることにより、ROMからの読み出し情報を変えてこの読み出し情報によりデジタル処理用の信号を発生する信号発生器101kの出力信号を変えるようにすることで、必要な信号を発生するようにする。ROMを用いることで、チップ面積が小さくなり、コストダウンにつながる。
以上、本発明の撮像素子100におけるタイミング発生部101の構成を説明した。次に、撮像素子内に動画像の動きベクトルを検出するためのベクトル検出回路を内蔵する例を説明する。
(第6の具体例)第6の具体例は、図30のように撮像素子100内に、動画像データを圧縮処理する動画像データ圧縮回路107qを有するか、あるいは図31に示すように撮像素子100の次に、動画像データを圧縮処理するための動画像データ圧縮回路400が続く場合であり、撮像素子内に動きベクトルの検出回路107rを内蔵する例である。
動きベクトル検出回路107rは画像の動きベクトルを検出する処理を行うための回路であり、この動きベクトル検出回路107rに入力して処理に用いるのは、デジタル信号処理部107で生成された輝度信号(Yデータ)である。輝度信号はA/D部106より出力される画像データからYデータと色差データとを得るY色差信号処理回路107pの出力を用いる。
図30に示した例では、撮像素子100としてはデジタル信号処理部107として図32に示す如きの構成を持ち、図31の例では、Y色差信号処理回路107pと動きベクトル検出回路107qからなる図33に示す如きのデジタル信号処理部107の構成を持つ。または輝度信号の代わりに、エリアセンサ部102の各画素に形成された複数の色フィルタのうちの1色を用いる例が考えられる。
通常、単板の撮像素子を用いるとき、各画素(正確には画素を構成することになる各セル)の上に1つの色フィルタを形成し、この色フィルタを複数(通常3色か4色)用いることで、カラー画像を得ている。
この複数の色フィルタは、マトリックス配列の各セル配置面上において、全体してモザイク状あるいは、ストライプ状に繰り返しパターンで配置されており、このうちの1色を選択することで、動きベクトルを計算することが可能であり、これは回路の簡略となる。
たとえば図34のようなベイヤ配列のエリアセンサ部102を持った撮像素子100において、輝度信号に一番近いG画素の出力を用いることで、輝度信号の代用を行うようにするものである。このときの図33の例のデジタル信号処理部107の構成はブロック図で示すと、図35の如きとなる。すなわち、A/D部106よりG画素の画像データを受け取り,Y色差信号処理回路107pにてYデータと色差データを作成し、これをインタフェース部108に出力すると共に、A/D部106からのG画素の画像データを用いて動きベクトル検出回路107qは動きベクトルを検出し、これを動きベクトルデータとしてインタフェース部108に出力する構成である。
また、図31のように、撮像素子100に外付けして動画像データ圧縮回路400を設ける構成とする場合、撮像素子100におけるデジタル信号処理部107で検出された動きベクトルは、符号化されてインタフェース部108より、次段の動画像データ圧縮回路400へ送られる。この動きベクトルのデータは、H.261やH.263、あるいはMPEGIやMPEG2、あるいは現在規格化作業中のMPEG4等の、動きベクトル規格そのものが考えられる。また規格そのものでは、回路規模が大きく、高速処理が必要となるので、おおよその動きベクトル、あるいは方向、動きがあるかないかなどと、次段の動画像データ圧縮回路400の補助的なデータを与えるようにすることも有効である。これらは、次段の動画像圧縮回路400の回路規模を小さくさせたり、高速の処理を省くようにできるといった効果につながる。
また前述した携帯型情報機器に、本発明の撮像素子100を用いたカメラを搭載する時(図17参照)、当該携帯型情報機器は、ユーザが手に持って使用することが考えられ、このとき手ぶれにの影響が考えられる。この場合、次のような構成が有用である。
図36は、撮像素子100内で、手ぶれによる動きベクトルを計算し、これをデータ化して次段の動面像データ圧縮回路に出力するようにした例であり、A/D部106によりデジタル変換された画像データをY色差信号処理回路107pにより信号処理して輝度信号(Yデータ)と色差データとを得、また、手ぶれ動きベクトル検出回路107sを設けて、ここでYデータにより手ぶれ動きを検出すると共にその動きを動きベクトルに変換して手ぶれデータとして出力する構成としたものである。
また、図37は、携帯型情報機器内に、手ぶれ量を検出してその検出量をデータとして出力するセンサ401を内蔵しており、この手ぶれ量検出センサ401の検出データが、動画像データ圧縮回路を内蔵する本発明の撮像素子100に入力され、動きベクトルの計算に手ぶれ量補正データとして取り入れられる構成としたものである。撮像素子100はカメラとして携帯型情報機器に搭載されているものとする。
このとき撮像素子100内のデジタル信号処理部107の構成は図38のようになる。すなわち、画像データから色差データとYデータを得るY色差信号処理回路107pと、Yデータから動きベクトルを検出する動きベクトル検出回路107qと、この動きベクトル検出回路107qの出力である動きベクトルデータに手ぶれデータを加算(減算)して補正を加え、出力とする加算器107tからなり、インタフェース部108を介して手ぶれ量検出センサ401の出力をデジタル信号処理部107の加算器107tに与える構成とする。
また図39は、手ぶれセンサ401のデータと、本発明の撮像素子100から出力される動きベクトルのデータとから、次段の動画像データ圧縮(外部に接続する動画像データ圧縮回路400での動画像データ圧縮)に有効な動きベクトルを計算する時の、携帯型情報機器の備えるべき構成の例を示している。この場合、動画像データ圧縮は、撮像素子100の後段に設けられることになるため、撮像素子100の動きベクトルデータの出力端子に加算器402を設け、手ぶれセンサ401の検出した手ぶれ量のデータと、撮像素子100の出力の一つである動きベクトルデータとをここで加算(減算)して手ぶれ量を補正した動きベクトルデータにする。そして、この動きベクトルデータを動画像データ圧縮回路400に与えて圧縮処理するようにする。
図40と図41は、撮像素子100のデジタル信号処理部107の持つ動きベクトル検出回路107qより外部に、動き検出信号を出力できるようにした例である。動き検出信号は、動きベクトルが検出されるときに出力されるように、動きベクトル検出回路107qを構成しておく。そして、動きベクトル検出回路107の当該動き検出信号を、撮像素子100の外部に引き出して利用できるようにしたことにより、撮像範囲に動きが検出されると、この検出信号でシステム側に知らせることができるようになる。
このようにすると、たとえばこれを監視カメラシステムに利用した場合、動きが検出されたときに、記録媒体に面像を記録するなり、警報を発するなりする事ができるようになり、有益なシステム構築が可能である。また、パソコンでシステムを構築した場合、動き検出信号をパソコンのインターラプトに対応させることが考えれる。動き検出信号は、後述するステータス信号を用いて外部に出すようにしてもよい。
図42と図43は、デジタル処理部107の動きベクトル検出回路107qで検出された動きのある画素、あるいは動きのある画素を含むブロックの有効蓄積期間を、変化させる例である。動きベクトル検出回路107qの上記動きベクトル信号を電子シャッタ信号としてタイミング発生部101にフィードバックさせる構成とし、タイミング発生部101はこの動きベクトル対応に垂直走査部103と水平走査部104に与える各種信号を補正してエリアセンサ部102の読み取りを制御するようにする。つまり、電子シャッタを制御する。
動きのある部分は、有効蓄積時間をより短くするほうが、より画像のぶれが少なくなる。この具体例のように、動きベクトルの大きさによって、電子シャッタ設定を変えるようにすることは、結果としてより画質の向上につながるものである。
なお、撮像素子100子内に動き検出回路がなく、撮像素子100の外に動きベクトル検出部を含む動画像データ圧縮回路を接続して用いる構成とする場合は、この動きベクトル検出結果を元に、コマンド入力の形で、撮像素子100の電子シャッタ設定を変えるように構成すればよい。
以上、本発明の撮像素子100におけるデジタル処理部107に動きベクトル検出回路を備えた構成とその応用例を説明した。次に本発明の撮像素子100のインタフェース部108について説明する。
(第7の具体例)インタフェース部108の構成例について述べる。
図44はインタフェース部108の構成例であり、デジタル画像デー夕信号線と、コマンド信号線が異なる場合の例である。画像データ信号線は出力専用で、デジタル信号処理部107からの信号を出力制御する出力部108aの出力側に接続され、コマンド信号線は入力専用で、コマンドデコーダ108bに外部からのコマンドを入力するためのものである。
この構成は、信号線は多くなるものの、外部との接続がやさしく、また撮像素子100内の構成も複雑でない。画像データは、撮像素子100を動作させる信号より作成される出力イネーブル信号に従って出力する。
また、図45のようにバッファ108cを介して出力イネーブル信号を撮像素子100の出力端子に出力する構成としておけば、撮像素子100から画像データを受け取る次段の回路は、出力データを受け取るタイミングが、明確で構成が簡単となる。このときの撮像素子のデータ出力タイミングを図46に示す。
または、撮像素子内に一時記憶機能を持つことで、システム側のデータ要求により、画像データを出力することも可能である。図47は外部コマンドによる出力イネーブルを出力部108aに与えるように、コマンドデコーダ108bを構成し、出力部108aもこのコマンドデコーダ108bからのイネーブル信号を受けると画像データを出力する構成とした例である。
このように、図47の例はコマンドによる出力イネーブルにより、データを出力する例であり、そのタイミングを図48に示す。この例は、システムが撮像素子側のタイミングを気にせずにデータを読み出すことができるので、撮像素子以降の構成が簡単となる。
別の例を示す。撮像素子100が画素単位での読み出しを行うものである場合、画像データは1画素を1回で読み出す方式と、複数回に分けて読み出す方式とが考えられる。前者はたとえば、その出力部108aの構成が図49の例のように輝度信号と色信号の読み出しデータピンを別々に持つ構成としてあり、それぞれに読み出して出力できる構成である。
後者は、たとえばその出力部108aの構成が図50の例のように、輝度信号と色信号を1画素毎、あるいは1ライン毎、あるいは1ブロック毎、あるいは1フレーム毎に交互に読み出す構成としたものである。このときのタイミングを図51に示す。
1画素のデータビットを複数回に分けることも可能である。
例えば、通常、図52に示すように、例えば分解能pビットの画像データをp本の信号線で読み出すのを、上位p/2ビットと下位p/2ビットを分けて、2回に分けて読み出すようにする。このようにすることで、図53に示すように、撮像素子100のデータ信号線を半分に減らすことができるようになる。このときのタイミングを図54に示す。このとき、後段の回路にとって、より大きな影響力を持つビットから先に出力すると、後段の回路が簡素化される。
例えば、MSB(Most Significant Bit)が挙げられる。また、当然のことながら、pビットをq回に分けると、信号線はp/q本に減らすことができるようになる。
更に別の例を説明する。図55は、撮像素子100内に動きベクトルを計算する回路を持つ場合に、出力部108aには画像データと、動きベクトルデータの入力端子及び出力端子を持たせ、撮像素子からは画像データと別に動きベクトルを信号線で出力することができるようにした例である。
図56に出力タイミングを示す。この例では、動きベクトルデータをブロック単位で該当するブロックの画像データと同期させて出力させている。この動きベクトルデータは、例えば、H.261やH.263あるいはMPEG1、MPEG2、MPEG4などの規格に沿った動きベクトルの出力を行う。
図57は、画像データと動きベクトルデータを共通の信号線で出力する例である。共通化することで、撮像素子の信号線を減じることができる。インタフェース部108の出力部108aに画像データ入力と動きベクトルデータを入力できるようにし、これらをデータ切替信号に応じて出力線に出力できるようにしたものであり、データ切替信号によりいずれかに切り替えるようにしたことで共通の信号線で両信号を出力できるようにしたものである。
図58は、図57の例に、更に信号の判別線を出力できるようにした例である。データ切替信号をバッファを介してインタフェース部108より取り出すと共に、これを撮像素子100の端子に導き出すことでこれを実現している。タイミングの例を図59と図60に示す。図59は、同期信号にあわせて画像データと動きベクトルデータを切り替えるもので、この例では水平同期に合わせ、ブランキングでない期間に画像データを出力し、つづくブランキング期間にその画像データの動きベクトルデータを出力するようにしている。
図60は、画像データをブロック単位で出力し、これに続いて、そのブロックの動きベクトルを出力する例である。図58の例の場合、図59で示す同期信号を、データ判別線で出力しても良いし、図60で示すデータ切り替え信号を、データ判別線で出力しても良い。
図57の例では、図示していない外部のデータ判別信号を用いる必要がある。図59と図60では、動きベクトルデータを、対応する両像データの後ろにおいたが、画像データの前においても、あるいは途中においてもかまわない。
図61は、撮像素子100に設けたコマンド入力端子であるコマンドピンを、入出力形にし、撮像素子100内におけるインタフェース部108にコマンドデコーダ108bとステータスレジスタ108cを設けた例である。ステータスレジスタ108cはその中身をステータスリード信号により読み出すことができるように構成してあり、外部からステータスリード信号を与えることで、これを行う。コマンドによって変更可能なフレームレート、読み出し順序、撮像素子100内部の信号処理方法、圧縮非圧縮、あるいは出力画素数や出力形式などの状態をステータスレジスタ108cに記憶しておき、この状態を外部から読み出すことができるようにした例である。
このようにすることで、撮像素子100を用いるシステム側で、当該撮像素子100の状態をチェックすることができるシステム構成となる。
図62は、インタフェース部108において、出力画像データ信号線とコマンド信号線を兼用した例である。兼用することによって、撮像素子100の信号線数を減じることが可能で、これはコストダウンにつながる。兼用のため、信号線は入出力線となる。
データの入出力を判別する1手段として、画像データ出力の合間にコマンドデータを撮像素子に書き込む手段が考えられる。
図63は、同期信号のブランキング時に、コマンドの入力を可能とした例、図64は、データの出力を判別する信号線を用意した例であり、このタイミングを図65に示す。撮像素子100にはコマンドライト信号端子を設け、撮像素子100に内蔵されるインタフェース部108のコマンドデコーダ108bにはコマンドライト信号端子からのコマンドライト信号が入力される構成としてあり、コマンドデコーダ108bはこのコマンドライト信号を受けた時に、コマンドが入力されたことを認識するように構成されている。
これは本発明の撮像素子100が、画像データ出力とコマンド入力を共用の端子で行う構成とした場合に、コマンド入力を確実にインタフェース部108に受け渡すことができるようにする処置である。
この構成によれば、画像データを出力しているときには、出力状態を表す信号を撮像素子100から出力し、両像データを出力していないときは、コマンドデータを書き込み可能である。撮像素子100を用いるシステムは、この信号をチェックして、画像データの出力がない時にコマンドを書き込む。
図66は、撮像素子100において、画像データ、コマンド、ステータスの信号線を共通化した例である。インタフェース部108はステータスレジスタ108cを持ち、撮像素子100にはステータスリード信号端子を設けてここにステータスリード信号を入力する。ステータスリード信号はステータスレジスタ108cに入力され、これを受けるとステータスレジスタ108cは保持しているステータス情報を外部に出力する構成とする。
図66の構成の場合、画像データの出力中か否かを示すデータ判別線と、コマンドライト信号線及びステータスリード信号線をもち、共通線を用いて、画像データの他コマンドデータの書き込みとステータスデータの読み出しを行うことができる。このときのタイミングの例を図67に示す。
このタイミングに示すように画像データの出力していない期間に、コマンドの書き込みか、ステータスの読み出しが可能であり、コマンドの書き込み要求と、ステータスデータの読み出し要求は、画像データの出力中は無効となる。
図68は、画像データの読み出し、コマンドの書き込み、ステータスの読み出しを全て、撮像素子100外のシステム側から行うようにするものである。前述したように撮像素子100内に記憶機能を持たせるようにすることで、システム側は、撮像素子100を動作させているタイミング信号を気にせず、任意の時間に画像データの読み出しが可能となる。このときのタイミングの例を図69に示す。データの書き込みあるいは読み出しの要求以外では、撮像素子のデータ出力は、高インピーダンスとなる。この構造は、コンピュータから撮像素子100をアクセスするのに向いている。
図70は、撮像素子100内に素子情報記録部109を設け、ここに撮像素子自体の特性や仕様を記憶し、インタフェース部108を介してこれを撮像素子100の外部から読み出すことができるようにした撮像素子の例である。特性や仕様の例として、撮像素子100の画素数、1画素の縦横比、色フィルタ配列、信号処理方法、出力データ形式、1秒あたりのフレーム数などが考えられる。システムは、この情報を元に撮像素子100の設定、出力されるデータの処理を行うことができる。
以上は図1の基本構成の撮像素子について述べたが、各具体例については、A/D部やデジタル信号処理部107がない構成の撮像素子100でも実施可能である。このときの構成図を図71に示す。画像信号の出力はアナログであり、コマンドをうけるデジタル入力端子を持つ構成である。
以上、本発明は撮像機能ばかりでなく、周辺回路を内蔵して画像の種々の処理を施すことを可能にし、また、これらはコマンドで指示して実施させることができるようにした高機能な撮像素子を提供することができる。