以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は本発明の一実施の形態に係る撮像装置を示すブロック図である。
図1において、撮像装置は多線出力方式の撮像素子22を採用している。説明を簡略化するために、撮像素子22として、2線出力を有するX−Yアドレス型白黒固体撮像素子に適用した列について説明する。
撮像素子22の前面にはレンズ21が配設されており、レンズ21は被写体からの光(被写体光)を撮像素子22の撮像面に導く。撮像素子22は、レンズ21からの入射光を光電変換して、被写体の光学像に応じた映像信号を出力する。
図2は図1中の撮像素子22の具体的な構成を示す説明図である。
撮像素子22は、画素部201、垂直走査回路202、水平走査回路203及び出力回路204,205によって構成されている。
画素部201にはマトリクス状に配置された図示しない画素が構成されている。各画素は夫々光電変換素子及びスイッチを有している。光電変換素子は入射光に対応した信号を蓄積する。光電変換素子に蓄積された信号は夫々画素内のスイッチを介して出力されるようになっている。
画素部201は複数の分割領域に分割されており、各分割領域毎に画素に蓄積された画素信号を読み出すようになっている。本実施の形態においては、画素部201は、例えば水平方向に2つの分割領域1,2に分割されており、水平方向には相互に入り組んだ領域を有する。
図3は図2中の画素部201の分割方法を説明するための説明図である。
画素部201は、図3に示すように、その境界部において、垂直N画素毎に、水平方向にM画素、互い違いに入り込むように領域が分割される。即ち、分割領域の境界はジグザグとなり、境界部分の水平M画素については、垂直N画素毎に、属する分割領域が分割領域1,2間で交互に切換る。
画素部201は水平及び垂直方向の画素数に夫々対応した数の図示しない垂直信号線及び行選択線が形成されており、同一行の各画素は共通の行選択線に接続され、同一列の画素は共通の垂直信号線に接続される。各行の行選択線は垂直走査回路202に接続され、垂直走査回路202は、各行の行選択線を行選択信号によって順次選択し、1垂直走査周期で全行の行選択線を選択する。各列の垂直信号線は水平走査回路203に接続され、水平走査回路203は、各列の垂直信号線を1水平走査周期内に順次選択する。
垂直走査回路202が各行の行選択線を選択することで、選択した同一行の全画素からの画素信号の読み出しが可能となり、水平走査回路は選択された1行の画素から列順に、順次画素信号を読み出して出力する。
水平走査回路203は、例えば2系統の水平副走査回路を有しており、これらの水平副走査回路によって、分割領域1,2の各画素の画素信号が同時に読み出される。そして、分割領域1,2内の画素から読み出された2系統の画素信号は、夫々出力回路204,205を介して映像信号Sig1,Sig2として出力されるようになっている。
図1において、撮像素子22からの2系統の映像信号Sig1,Sig2は夫々AD変換器23,24に供給される。AD変換器23,24は、夫々入力された映像信号Sig1,Sig2をデジタル信号に変換して演算処理部25に出力する。演算処理部25は、入力されたデジタル映像信号Sig1,Sig2に対して電気的なフィルタ処理を行うようになっている。
なお、撮像素子22からの映像信号出力がデジタル化されている場合には、AD変換器23,24は不要となり、この場合でもフィルタ処理を遅延素子等を用いてデジタル的に行うことが可能である。
図4は図1中の演算処理部25の具体的な構成を示すブロック図である。演算処理部25はメモリ501及びフィルタ回路502によって構成されている。
AD変換器23,24からの映像信号Sig1,Sig2はメモリ501に与えられる。分割領域1,2に夫々対応した映像信号Sig1,Sig2は、メモリ501に記憶され、画面位置に応じた順に並べ替えられて、1画面の画像に合成される。メモリ501は合成した画像の映像信号をフィルタ回路502に出力する。フィルタ回路502は入力された映像信号に対して所定のフィルタ処理を施して、図示しない後段の回路に出力する。
本実施の形態の撮像素子において、分割領域1,2は、垂直方向の所定画素数毎に水平方向の分割位置を切換えるジグザグ分割を採用している。そして、フィルタ回路502がジグザグ分割された分割領域1,2に対応した映像信号を元に合成して得た映像信号に対してフィルタ処理を行っている。ジグザグ分割によりフィルタ処理の処理能力が高くなり、メモリ501からの映像信号は、撮像素子22からの2系統の出力線毎の特性のばらつきの影響を十分に抑制したものとなる。これにより、演算処理部25からは、分割領域毎の特性差が少なく画像全体として均質で一様な画像を得ることができる。
次に、このように構成された実施の形態の作用について図5乃至図8を参照して説明する。図5乃至図7はフィルタ演算を説明するための説明図であり、図8は横軸に画素単位の画素位置をとり縦軸に画素数をとって、本実施の形態におけるフィルタ演算の特性を示すグラフである。
被写体像はレンズ21を介して撮像素子22の撮像面に結像する。撮像素子22は画素部201を例えば水平方向に2分割して、各分割領域毎に2系統の出力線から撮像画像に基づく映像信号Sig1,Sig2を出力する。これらの映像信号Sig1,Sig2は、夫々AD変換器23,24によってデジタル信号に変換された後、演算処理部25に供給される。演算処理部25は入力された映像信号Sig1,Sig2をメモリ501に蓄積し、書き込み及び読み出しアドレスの制御によって、元の1画面の映像信号に戻してフィルタ回路502に与える。フィルタ回路502は、入力された映像信号に対するフィルタ処理によって、分割領域毎の特性差を抑制し、均質で一様な画像を得る。
次に、具体的なフィルタ処理について説明する。
図5は画素部201の分割領域を示している。図5の各区画は画素部201内の各画素を示しており、各区画内のPx,y,zは、x行、y列の画素であって分割領域zに属する画素であることを示している(x,y,zは整数)。図5の2重線(破線太線)は、分割領域1,2の境界を示している。図5に示すように、分割領域1,2は、垂直1画素毎に、分割領域の境界が水平方向へ交互に2画素分ずれて、分割領域1,2の境界はジグザグとなっている。即ち、図3におけるN=1で、M=2である。
図6はフィルタ回路502の具体的なフィルタ演算を説明するためのものである。図6は図5に対応した記載方法をとっており、分割領域を示す表示が省略されている。
フィルタ回路502は、例えば画素単位でフィルタ演算を行う。いま、フィルタ演算の対象となる注目画素が、図6の中央の画素P3,3であるものとする。フィルタ回路502は、注目画素を含む任意の画素範囲(以下、演算範囲ともいう)内の各画素の画素信号を用いて、注目画素に対するフィルタ処理を実施する。例えば、簡単のため、フィルタ回路502のフィルタ演算が、注目画素を中心とした水平及び垂直方向の各5画素づつの5×5画素の画素範囲をフィルタ演算に用いるものとする。
画素Px,y,zの信号レベルがLx,y,zであるものとすると、フィルタ回路502は、例えば、注目画素P3,3に対する下記(1)式のフィルタ演算を実行して、演算結果Pf3,3を得る。
Pf3,3=k11×L1,1+ k12×L1,2+ k13×L1,3+ k14×L1,4+ k15×L1,5+ k21×L2,1+ k22×L2,2+ k23×L2,3+ k24×L2,4+ k25×L2,5+ k31×L3,1+ k32×L3,2+ k33×L3,3+ k44×L4,4+ k45×L4,5+ k51×L5,1+ k52×L5,2+ k53×L5,3+ k54×L5,4+ k55×L5,5 …(1)
但し、k11〜k55は所定の係数である。
説明を簡略化するために係数k11〜k55が全て1であるものとすると、フィルタ回路502によるフィルタ演算は、注目画素を中心とした5×5画素の演算範囲内の全ての画素の信号レベルの総和となる。
フィルタ演算の演算範囲が2つの分割領域に跨る場合には、演算結果は各分割領域の画素の信号レベルの影響を受ける。この影響の度合いを調べるために、上記(1)式によるフィルタ演算を図5の各画素に適用する。例えば、図5の3行目の各画素P3,3,1〜P3,10,2に適用して、各フィルタ演算処理結果であるPf3,3,1〜Pf3,10,2を算出する。
例えば、Pf3,3,1は下記(2)式で与えられる。
Pf3,3,1=L1,1,1+ L1,2,1+ L1,3,1+ L1,4,1+ L1,5,1+ L2,1,1+ L2,2,1+L2,3,1+L2,4,1+ L2,5,1+ L3,1,1+ L3,2,1+ L3,3,1+ L3,4,1+ L3,5,1+L4,1,1+ L4,2,1+ L4,3,1+ L4,4,1+ L4,5,1+L5,1,1+ L5,2,1+ L5,3,1+ L5,4,1+ L5,5,1 …(2)
ここで、(2)式のLx,y,zのzの値に注目すると、演算範囲が分割領域1の画素のみを含むことからも明らかなように、Pf3,3,1は全て分割領域1の画素の信号レベルのみが関与していることが分かる。同様にして、Pf3,4,1〜Pf3,10,2の値を計算する。注目画素の水平画素位置yがy=3〜10の間で1つ増える毎に、各演算結果に影響を及ぼす分割領域1の画素の数は、25個、23個、21個、16個、11個、6個、3個、0個と減少することになる。
これに対し、分割領域1,2の境界が直線状である場合についてフィルタ演算結果を求める。図7は図5に対応した記載方法によって、分割領域の画素を示している。図7のように直線状に画素部を分割して分割領域1,2を構成した場合には、注目画素の水平画素位置yがy=3〜10の間で1つ増える毎に、各演算結果に影響を及ぼす分割領域1の画素の数は、25個、25個、20個、15個、10個、5個、0個、0個と減少する。
図8はこの結果を模式的に表したものである。横軸は注目画素の水平画素位置yを示し、縦軸は注目画素のフィルタ演算結果に対して分割領域1が関与する画素数を示している。特性Aは図5のジグザグ分割の場合を示し、特性B(破線)は図7の直線状の分割の場合を示している。
図8に示すように、特性Aの変化は比較的滑らかであるのに対し、特性Bの変化は比較的急峻である。即ち、ジグザグ分割による分割とフィルタ処理との組み合わせによって、各分割領域に対応した2系統の出力線の特性差による分割領域境界近傍の画質変化をより滑らかにすることができる。
このように本実施の形態においては、撮像素子が非直線状の境界を有する分割領域から多線出力で映像信号を出力する場合において、撮像素子の出力の境界領域に対して電気的フィルタ処理を施している。このフィルタ演算に関連する分割領域の画素数は、分割境界部において、一方の分割領域から他方の分割領域へ緩やかに変化させることができる。この結果、分割領域境界部において最も顕著となる各分割領域の特性ばらつきを緩和し、視覚的影響を映像上で大幅に軽減することが可能となる。
なお、本実施の形態においては、AD変換器は撮像素子外部のデバイスとして構成したが、以下すべての実施の形態において、AD変換器を含む任意の回路を撮像素子内部に備えていてもよい。
また、フィルタの係数kx,y,zを1ではなく、ジグザグ形状に応じて最適化することによって、更に一層の画質改善が可能である。
なお、各分割領域毎(各出力線毎)の特性ばらつきは、各分割領域の画素からの画素読み出し時のばらつき、画素信号の伝送途中のばらつき、各種信号処理におけるばらつき及びばらつきの補正処理におけるばらつき等の回路全系統における特性ばらつきを含む。例えば、各出力線毎のばらつきは、AD変換器23,24等の撮像素子外部のデバイスの特性のばらつきも含むものとする。
図9及び図10は本発明の第2の実施の形態に係り、図9は第2の実施の形態に採用される演算処理部を示すブロック図であり、図10は各部の信号波形を示す波形図である。
本実施の形態の全体構成は図1と同様であり、演算処理部の構成が図1と異なる。また、撮像素子の内部構造も第1の実施の形態と同様であるが、本実施の形態においては、画素部を水平方向に2分割した2つの分割領域に設定される。各分割領域1,2は境界が直線状であり、境界部分における所定列は分割領域1,2の双方に重複して属する画素(以下、重複画素という)である。なお、分割数及び分割方向は自由に設定可能である。
各分割領域1,2からの読み出しは、垂直走査回路202及び水平走査回路203によって、同時に行われる。即ち、いずれの分割領域についても、先頭の行から順に、各列毎に画素信号の読み出しが行われる。各分割領域1,2は特性ばらつきを有する。この特性ばらつきはオフセット(黒レベルの差)、ゲイン(黒レベルを一致させたときの白レベルの差)、リニアリティの違いが主要素となっている。
そこで、本実施の形態においては、これらの特性ばらつきを検出して補正した後に映像信号を得るようにしている。
各分割領域1,2に対応した映像信号Sig1,Sig2は、夫々信号A,Bとして図9の演算処理部に供給される。信号A,Bは黒レベル比較回路511に入力される。画素部201は遮光されて黒レベルの基準となるオプティカルブラック画素(OB画素)を有しており、タイミング発生回路516は、信号A,BについてOB画素のタイミング信号を発生して黒レベル比較回路511に出力する。黒レベル比較回路511は、信号A,Bの各OB画素の入力タイミングで、入力された信号A,Bのレベルを比較し、信号Aの黒レベルを基準にして、信号Bの黒レベルとの差を求めて加算器512に出力する。
加算器512には信号Bも入力されており、加算器512は信号Bに黒レベル比較回路511の出力を加算することによって、信号Bの黒レベルを信号Aの黒レベルに一致させて黒レベル減算回路518に出力する。一方、信号Aは黒レベル減算回路517に入力される。
黒レベル減算回路517は入力された信号Aから黒レベルを減算し、黒レベル減算回路518は加算器512の出力から黒レベルを減算する。これにより、信号A,Bは黒レベルが減算されて、白レベルの比較が可能となる。黒レベル減算回路518の出力は遅延素子513に与えられる。遅延素子513は信号A,Bの読み出しの差の時間分だけ信号Bを遅延させて、信号A,Bの時間軸を一致させる。
黒レベル減算回路517からの信号A及び遅延素子513からの信号Bは、白レベル比較回路514に供給される。白レベル比較回路514は、2入力の比を求める。上述したように、分割領域1,2は共通の画素を含んでおり、この重複画素の画素信号は本来同一レベルであるものと考えられる。白レベル比較回路514は、信号Aの重複画素の部分と信号Bの重複画素の部分とで比較を行って、特性ばらつきによるレベルの比を求める。
白レベル比較回路514の出力は乗算器515に与えられる。乗算器515は、黒レベルが除去された信号Bに白レベル比較回路514の出力を乗算することによって、信号Bを信号Aの白レベルに応じて補正する。これにより、信号A,Bの白レベルの特性を一致させることができる。乗算器515の出力は黒レベル再生回路519に与えられる。黒レベル再生回路519は、入力された信号Bの黒レベルを再生して、信号B3として出力するようになっている。
次に、このように構成された実施の形態の動作について図10を参照して説明する。
図10(a)は画素部201の各領域を示している。即ち、X1,X2は、夫々分割領域1,2において個別に読み出されるn個の画素を含む独立読出し領域を示し、Yは、分割領域1,2中の水平方向にお互いに重複して読出し可能なm個の画素を含む重複読出し領域を示し、Z1,Z2は、分割領域1,2中の夫々個別に読み出されるl個の画素であって、遮光されて黒レベルの基準となるオプティカルブラック画素(OB画素)を含む領域を示している(l,m,nは整数)。
各画素は垂直走査回路202により画素部201の上側のラインから下へ、水平走査回路203により左側の画素から右に順に走査するものとする。いま、図10(b)に示すように、水平方向左から右に向かって滑らかに明るさが変化する被写体を撮像したものとする。領域分割を行わないまま任意の1水平期間を走査して単線出力で映像信号を得た場合には、図10(c)の信号sに示す出力が得られる。
これに対し、各分割領域1,2に分割して、各分割領域1,2毎の映像信号を2線読出しによって出力した場合には、映像信号Sig1及びSig2の任意の1水平期間における出力信号は夫々、図10(d),(e)に示すA,Bのようになる。ここで横軸は画素位置に対応した時間を、縦軸は信号レベルを表す。
信号A,Bは夫々AD変換器によってデジタル信号に変換された後、図9の演算処理部に送出される。演算処理部の黒レベル比較回路511は、信号A,Bの黒レベルを比較する。即ち、黒レベル比較回路511にはタイミング発生回路516から図10(g),(h)に示すパルスAOB及びBOBが与えられており、黒レベル比較回路511は、各信号出力におけるOB部を1水平期間周期でサンプルホールドすることで、時間的にタイミングが異なって入力される双方の黒基準レベル同士の比較を可能にしている。黒レベル比較回路511によって算出された黒レベル差(Vao−Vbo)は、加算器512において信号Bに加算されて、双方の信号における黒レベルが一致した信号Bが生成される。
次に、加算器512からの信号Bは黒レベル減算回路518において黒レベルの減算(−Vao)が行われる。更に、信号Bは遅延素子513において、(l+n)画素分だけ遅延され、図10(f)に示す信号B1が得られる。この信号B1は白レベル比較回路514に与えられる。
一方、演算処理部に入力された信号Aについても、黒レベル減算回路517において信号Bと同様に、黒レベルVaoが減算されて、白レベル比較回路514に供給される。白レベル比較回路514に入力された信号A,B1の重複画素領域のタイミングは、信号画素単位で完全に一致した信号として入力されている。
白レベル比較回路514は、タイミングの一致した双方の信号における重複読出し画素部のレベルを比較し、(Vaw−Vao)/(Vbw−Vao)を得る。白レベル比較回路514の比較結果は、本来同一レベルであるはずの信号A,B1の重複画素の振幅の比を示している。白レベル比較回路514の出力は乗算器515に与えられ、信号B1の振幅が補正される。即ち、乗算器515の出力は、B1×(Vaw−Vao)/(Vbw−Vao)となる。これにより、信号A,B1の白レベルが一致する。
最後に、黒レベル再生回路519は、白レベルが補正された信号B2に対して黒レベルを再生して信号B3として出力する。これにより、信号Aと信号B3とは、黒レベル及び白レベルが補正され、各出力線の特性のばらつきが一方の出力線を基準に補正されたものとなる。
このように本実施の形態においては、重複画素領域において、同一画素からの同一の被写体による信号レベルを各異なる領域毎に読出し、このレベルを一致させることで、各出力線毎の特性ばらつきを補正している。また、以上の処理は任意の画素についてリアルタイムで行うことができることから、撮像装置の温度変動等による特性変化にも随時対応することが可能となる。
なお、本実施の形態においても種々の変形が考えられ、例えば乗算器をメモリによるルックアップテーブルによって構成してもよく、また、黒レベル位置を遅延素子により一致させて差分を演算してもよいことは言うまでもない。
また、黒レベルを一定期間積分平均し、該当部のランダムノイズを減少させたレベルを比較して補正することで、更に高画質な特性ばらつき補正を行うことが可能である。
図11及び図12は本発明の第3の実施の形態に係り、図11は第3の実施の形態に採用される演算処理部を示すブロック図であり、図12は各部の信号波形を示す波形図である。
本実施の形態の全体構成は図1と同様であり、演算処理部の構成が図1と異なる。また、撮像素子の内部構造も第1の実施の形態と同様であり、第2の実施の形態と同様に、画素部を水平方向に2分割した2つの分割領域に設定される。各分割領域1,2は境界が直線状であり、境界部分における所定列は分割領域1,2の双方の重複画素である。なお、分割数及び分割方向は自由に設定可能である。
各分割領域1,2からの読み出しは、垂直走査回路202及び水平走査回路203によって、同時に行われる。即ち、いずれの分割領域についても、先頭の行から順に、各列毎に画素信号の読み出しが行われる。
各分割領域1,2に対応した映像信号Sig1,Sig2は、夫々信号A,Bとして図11の演算処理部に供給される。信号A,Bは夫々メモリ等で構成されるルックアップテーブル521,522に入力される。タイミング発生回路516は、各信号A,Bの重複画素のタイミング信号を夫々発生してルックアップテーブル521,522に出力する。ルックアップテーブル521,522には、画素位置に応じた係数が保持されており、入力された信号A,Bに対して各画素位置毎に係数を乗算して出力するようになっている。ルックアップテーブル521,522は、例えば、重複画素領域では画素位置に応じて0と1の間で次第に変化する係数が設定されており、他の画素領域については、係数として0又は1が設定されている。
ルックアップテーブル521,522の出力は夫々加算器524、遅延素子523に与えられる。遅延素子523は入力された信号を読み出しの差の時間分だけ遅延させて、信号A,Bの時間軸を一致させた後、加算器524に出力する。加算器524は入力された信号A,Bを合成して出力するようになっている。
次に、このように構成された実施の形態の動作について図12を参照して説明する。図12は図10と同様の記載法を採用している。
図12においても画素部201からの所定の1行の全画素の読み出し(1水平期間)を示しており、図12(a)は画素部201の各領域を示している。符号Z1,Z2,X1,X2,Yは図10と同一の意味を示している。
各画素の読出し方法も図10と同様であり、被写体も図10と同一であるものとする。即ち、図12(b)に示すように、水平方向左から右に向かって滑らかに明るさが変化する画像が撮像されたものとする。
撮像素子22が各分割領域1,2に分割して、各分割領域1,2毎の映像信号を2線読出しによって出力した場合には、映像信号Sig1及びSig2の任意の1水平期間における出力信号は夫々、図12(c),(d)に示すA,Bとなる。
信号A,Bは夫々AD変換器によってデジタル信号に変換された後、図11の演算処理部に送出される。タイミング発生回路516は、信号A,Bに対応させて画素部201における画素位置(アドレス)を示す各タイミング信号ALU,BLU(図12(f),(e))を発生する。演算処理部のルックアップテーブル521,522には、夫々タイミング発生回路516からタイミング信号BLU及びALUが与えられる。ルックアップテーブル521,522は、入力されたタイミング信号に従って、各画素位置毎に信号A,Bに対して保持している係数を乗算する。
即ち、ルックアップテーブル521,522は、信号A,Bに対して、タイミング発生回路516により指定される各信号入力の夫々特定の位置での画素に、記憶している特定の乗算係数k1(x,y)、k2(x,y)を乗算する。なお、x,yは画素部201における画素位置(アドレス)を示す。
ルックアップテーブル521,522は、信号入力A,Bの夫々に対し図12(g),(h)の特性A,Bで示す乗算計算を行う。図12の特性A,Bは、重複画素が送られてくるタイミング時のみ水平方向の画素位置に応じてリニアに特性を変化させた乗算演算を実施することを示している。
ここで、時間軸を一致させて表現した先の信号A,Bに対し、図12(b)の空間的な水平画素位置に照らし合わせたE信号レベルは、それぞれ図12(i),図12(j)の信号A’,B’となり、A’信号に対しては、図12(g)に示すように、領域Z1,X1の画素、即ち図12(g)の水平位置x0の1画素前までの信号にはゲインとして×1倍を付与し、領域Y、即ち、水平位置x0〜水平位置xmの重複画素の信号にはゲインとして×(1−n/m)(nはx0を基準とした水平画素位置)を付与し、領域X2,Z2、即ち、水平位置xmの次の画素以降の信号にはゲインとして×0を付与する。
同様に、B’信号に対しては、図12(h)に示すように、領域Z1,X1の画素、即ち図12(g)の水平位置x0の1画素前までの信号にはゲインとして×0倍を付与し、領域Y、即ち、水平位置x0〜水平位置xmの重複画素の信号にはゲインとして×(0+n/m)を付与し、領域X2,Z2、即ち、水平位置xmの次の画素以降の信号にはゲインとして×1を付与する。
ルックアップテーブル521の出力は加算器524に与え、信号Bについてはルックアップテーブル522の出力をタイミングが信号Aに一致するように遅延素子523によって遅延させて加算器524に与える。加算器524は入力された信号A,Bを加算して、1フレームの映像信号を出力する。
加算器524からの映像信号は、水平位置x0の1画素前まではA’×1+B’×0、水平位置x0〜xmはA’×(1−n/m)+B’×(0+n/m)、水平位置xm以降はA’×0+B’×1となる。加算器524の出力は、後段の処理回路に送出され、重複読出し部画素については最終的な画素信号レベルとして、1フレーム画像の生成の際に置き換えられる。
このように本実施の形態においては、重複読出し領域Yにおいて、各出力線間の特性ばらつきが緩和される。即ち、特性ばらつきが視覚的に最も顕著となる分割領域境界部において、簡単な平均化演算によりスムージング処理を行えることから、より高画質な映像を得ることが可能となる。
なお、上記第2の実施の形態による処理を経た後に、本実施の形態を適用することで、更に高画質な映像を得ることが可能である。
図13及び図14は本発明の第4の実施の形態に係り、図13は第4の実施の形態を示すブロック図であり、図14は図13中の撮像素子210の具体的な構成を示す説明図である。図13及び図14において図1又は図2と同一の構成要素には同一符号を付して説明を省略する。
本実施の形態は撮像素子22に代えて撮像素子210を採用すると共に、映像出力部26、制御インタフェース部28及び分割制御部27を付加した点が図1の第1の実施の形態と異なる。
映像出力部26は、演算処理部25からの映像信号が入力され、表示機器等の外部機器に適した信号形態で映像信号を出力する。撮像素子210の画素数や表示機器に入力する画素数の条件等によっては、撮像素子210を複数の分割領域に分割し、各分割領域毎の映像信号を映像出力部26から出力する必要がある。
例えば、撮像装置からの最終映像信号出力は所定の表示機器や記録機器等の外部機器に接続して映像として表現されるが、多画素の大量の映像信号データを高速に外部機器に送出するには、外部機器のデータ伝送速度や規格の制約から、映像信号を複数本に分けて並列出力する必要のあることが多い。
この場合において、制御インタフェース部28は、制御入力線Contを介して外部機器からの分割制御命令を取込んで撮像装置に伝達することができるようになっている。
制御インタフェース部28が取込んだ分割制御命令は、分割制御部27に供給される。分割制御部27は、分割制御命令に基づいて、外部機器が要求した映像信号出力フォーマットに応じて撮像素子210の読出し走査を制御するための制御信号を撮像素子210に出力する。
図14において、走査制御回路211には、分割制御部27からの制御信号が入力される。走査制御回路211は、垂直走査回路202及び水平走査回路203を制御して、画素部201を指定された分割領域に分割し、水平走査回路203は、各分割領域毎の映像信号を各出力線から出力するようになっている。
このように構成された実施の形態においては、画素部201の分割の仕方は、垂直及び水平走査回路202,203の走査によって決定される。この分割制御を行うための指令は、図13の撮像装置の外部から入力可能である。例えば、制御入力線Contを汎用のPC(パーソナルコンピュータ)出力ポートに接続して、PCから撮像素子210の分割すべき仕様についての情報を得る。即ち、PCによって入力された分割のための仕様の情報は、汎用のPCインタフェース、例えばIEEE1394等のインタフェースから制御入力線Contを介して制御インタフェース部28に入力される。
制御インタフェース部28は取込んだ分割制御命令を分割制御部27に供給する。分割制御部27は、要求に応じて撮像素子210に向けて必要な内容の制御信号、例えば水平及び垂直方向の分割画素位置を示すアドレス信号div等を送出する。
分割制御部27からの制御信号divを受信した走査制御回路211は、垂直及び水平走査回路202,203を制御して、画素部の分割読出し構成を変化させる。こうして、決定された各分割領域の画素信号は水平走査回路203によって各出力線から出力される。こうして、映像出力部26は、指示された分割領域毎の映像信号を外部機器に出力する。
このように本実施の形態においては、撮像素子から同時並列出力する映像信号フォーマットを外部機器の求める仕様に併せて複数の映像信号に分けて出力すれば、撮像入力から出力までの経路において映像フォーマットの変換を行う必要がなく、固体撮像装置内回路のバッファメモリ等専用回路が不要となるため、低消費電力で且つ回路規模を削減することができ、また、処理時間の短縮が可能になる。
図15乃至図17は本発明の第5の実施の形態に係り、図15は第5の実施の形態に採用される撮像素子を示す説明図であり、図16は第5の実施の形態に採用される演算処理部を示すブロック図であり、図17は各部の信号波形を示す波形図である。図15及び図16において夫々図2又は図9と同一の構成要素には同一符号を付して説明を省略する。
図9の第2の実施の形態においては、重複画素を利用して白レベルの補正を行った。本実施の形態においては、撮像素子からレベルが既知の疑似信号を出力させ、この疑似信号を利用して白レベルの補正を行うものである。
本実施の形態の全体構成は図1と略同様であり、撮像素子及び演算処理部の構成が図1と異なる。図15は第5の実施の形態に採用される撮像素子を示している。本実施の形態においては、画素領域内に画素部201の他に疑似信号を生成する疑似信号生成部221が形成されている。疑似信号生成部221は、信号レベル制御部223に制御されて、所望レベルの疑似信号を生成する。疑似信号読出し部222は、水平走査回路203の読出しに同期して、疑似信号生成部からの疑似信号を読出して、水平走査回路203の出力に多重させて、各出力線から出力させるようになっている。信号レベル制御部223は、疑似信号生成部221が発生する疑似信号のレベルを制御すると共に、生成する疑似信号のレベルを示す信号Clvlを出力するようになっている。
なお、本実施の形態においては、画素部の分割構成は任意でよく、個々に映像信号を出力する複数の出力回路を有する撮像素子の全てに適用することができる。
水平走査回路203からは2系統の出力線に、画素部201から読出した映像信号が出力される。上述したように、これらの映像信号には疑似信号が含まれる。各出力線の特性ばらつきは、第2の実施の形態と同様に、黒レベル及び白レベルを一致させることで補正することができる。
図16において、白レベル比較回路514には信号レベル制御部223からの信号Clvlが供給されるようになっている。撮像素子の出力に基づく映像信号Sig1,Sig2は、夫々信号Sad,Sbdとして図15の演算処理部に供給される。先ず、信号Sad,Sbdは黒レベル比較回路511に入力される。黒レベル比較回路511によって、信号Sad,Sbdの各OB画素の入力タイミングで、入力された信号Sad,Sbdのレベルが比較され、信号Sadの黒レベルを基準にして、加算器512において信号Sbdの黒レベルを信号Sadの黒レベルに一致させる点は第2の実施の形態と同様である。
黒レベル減算回路517,518によって夫々黒レベルが減算された信号Sad,Sbdは、白レベル比較回路514に供給される。タイミング発生回路516は、信号Sad,Sbd中の疑似信号の多重タイミングを夫々示すタイミング信号Aw,Bwを発生して白レベル比較回路514に出力する。
白レベル比較回路514は、疑似信号の挿入タイミングで、各信号Sad,Sbdと疑似信号とのレベルを比較してその比を求める。これにより、白レベル比較回路514は、信号レベル制御部223から供給された疑似信号のレベルClvlと各出力線から得た信号Sad,Sbdに含まれる疑似信号との比によって、各出力線の特性を知ることができる。白レベル比較回路514は、信号SadとレベルClvlとの比Pal及び信号SbdとレベルClvlとの比Pblを乗算器515に出力する。
乗算器515は、黒レベルが除去された信号Sad,Sbdに白レベル比較回路514からの比Pal,Pblを夫々乗算することによって、信号Sad,Sbdの白レベルを補正する。これにより、信号Sad,Sbdの白レベルの特性を一致させることができる。乗算器515からの白レベルが補正された信号Sad,Sbdは夫々黒レベル再生回路520,519に与えられ、黒レベル再生回路520,519は、夫々入力された信号Sad,Sbdの黒レベルを再生して、信号Acd,Bcdとして出力するようになっている。
次に、このように構成された実施の形態の動作について図17を参照して説明する。図17の横軸は信号レベル、縦軸は時間を示している。
図17は画素部201及び疑似信号生成部221からの所定の1列の読み出し(1垂直期間)を示している。図17(a)は画素部201及び疑似信号生成部221の各領域を示している。X1,X2は、分割領域を示し、Dは疑似信号生成部221形成領域を示している。分割領域X1とその列の領域D及び分割領域X2とその列の領域Dについては、夫々垂直方向には1垂直期間で読み出しが行われる。なお、図15の例では、疑似信号生成部221を画素部201における領域Dとして水平方向にあたかも画素のように連続して配置するものとしたが、疑似信号生成部221の配置を特に限定されるものではなく、疑似信号生成部221を画素部201の外部に設けてもよい。
分割領域X1,X2の各画素及び疑似信号生成部221は垂直走査回路202により上側のラインから下へ、水平走査回路203により左側から右に順に走査されるものとする。いま、図17(b)に示すように、垂直方向上から下に向かって滑らかに明るさが変化する被写体を撮像したものとする。
疑似信号生成部221は、レンズ21を通して入射される光量に依存しない常に一定レベル(Vl)の擬似的な信号レベルを生成する。なお、擬似信号のレベルは、信号レベル制御部223によって所定のレベルに調整されるようになっている。擬似信号読出し部222によって、疑似信号生成部221が生成した疑似信号が読出される。また、信号レベル制御部223からは、生成される擬似信号レベルを特定するデータClvlが送出ささる。
いま、図17(a)に示すように、疑似信号は、画素部201の画素が垂直走査回路202及び水平走査回路203によって読み出されるのと全く同様のシーケンスで、水平方向に連続して配置された画素のように読み出されるものとする。分割領域X1,X2からの信号Sad,Sbdは、本来夫々の領域における任意の垂直ライン毎に一致した特性に基づく信号レベルとなるはずであるが、各読出しライン毎に異なる電気的特性を有することから、相互に異なった特性の信号レベルで撮像素子から出力される。
信号Sad,Sbdは図16の演算処理部中の黒レベル比較回路511に供給されて、黒レベルが比較される。撮像素子から出力された映像信号Sad,Sbdは、第2の実施の形態と同様に、図示しないOB領域の信号レベルを参照して、分割領域X1の信号Sadを基準として、分割領域X2の信号Sbdの黒レベルが補正される。加算器512によって黒レベルが補正された信号Bdl(図17(d))は黒レベル減算回路518において黒レベルが減算されて白レベル比較回路514に供給される。一方、同様にSad信号も黒レベル減算回路517によって黒レベルが減算されて(図17(c))、白レベル比較回路514に供給される。
白レベル比較回路514には、夫々の分割領域からの信号における擬似信号レベルが入力されるタイミングを指示するためのタイミング信号Aw,Bw(図17(e),図17(f))がタイミング発生回路516から供給されている。白レベル比較回路514は、タイミング信号によって疑似信号位置を認識し、白レベル比較回路514に入力された信号の擬似信号部分のレベルと、データClvlによって与えられレベルVdとの比を求める。
これにより、本来あるべき擬似信号レベルVdと信号Sad,Sbdに含まれる擬似信号のレベルVal,Vblから夫々黒レベルVbbを引いた信号レベルから、比Pal=Vd/(Val−Vbb)及び比Pbl=Vd/(Vbl−Vbb)を計算して、これらの比Pal,Pblを乗算器515に出力する。乗算器515には黒レベルが減算された信号A2,B2も入力されており、これらの信号A2,B2に夫々比Pal,Pblを乗算することによって、擬似信号レベル(例えば白レベル)を一致させた信号を得る。乗算器515の乗算結果は夫々黒レベル再生回路520,519に与えられて黒レベルが再生され、映像信号Acd,Bcdが得られる。
このように本実施の形態においては、レベルが明らかである特定レベル出力画素を各分割領域毎夫々個別に後段に送出できる撮像素子を利用し、本来の設定された擬似信号レベルと実際に各領域毎に読み出された擬似信号レベルとを比較して得られるその差異に基づく補正を行うことで、読出し回路毎の特性ばらつき、即ち、黒レベル補正によるオフセットばらつき及び白レベルばらつきによるゲインばらつきを夫々リアルタイムで補正することが可能になる。
また、静止画用のカメラ等、必ずしもリアルタイムでの補正が不要な撮像装置においては、外部スイッチ等からのトリガ入力に応じて擬似信号レベルだけを読出し、本実施の形態における補正動作を行うようにしてもよい。
また、擬似信号レベルを所定の間隔で変化させ、様々な白レベルで本実施の形態の補正処理を行うことでリニアリティばらつきを補正することも可能である。
図18乃至図20は本発明の第6の実施の形態に係り、図18は第6の実施の形態に採用される撮像素子の構成を説明するための説明図、図19は本実施の形態において採用される撮像素子の各出力線のばらつきに基づくノイズパターンを説明するための説明図、図20は演算処理部のフィルタ処理を説明するためのグラフである。
本実施の形態の全体構成は図1と略同様であり、撮像素子の構成及び演算処理部の処理が図1と異なる。図18(A)は撮像素子の各出力線と画素との関係を示し、図18(B)は各出力線の出力信号を示している。図18は2行×6列の画素部を示している。
本実施の形態においては、図18(A)に示すように、撮像素子は水平方向に隣接する画素同士は、異なる出力線を介して画素信号の読み出しが行われるようになっている。画素Pxy(x=1,2、y=1〜6)のうち、奇数列の画素Px1,Px3,Px5から読出した画素信号Px1,Px3,Px5は一方の出力線を介して信号Sig1として出力され、偶数列の画素Px2,Px4,Px6から読出した画素信号Px2,Px4,Px6は他方の出力線を介して信号Sig2として出力される。各出力線からの信号Sig1,Sig2は、夫々図18(B)に示すものとなる。なお、図18(B)の横軸は時間を示し、縦軸は信号レベルを模式化して示している。
信号Sig1,Sig2は、出力線毎に特性が異なり、信号Sig1,Sig2を合成して得られる画像は、図19の信号Sgで表される。即ち、Sig1,Sig2の合成画像の特性ばらつきは画像上に縦筋状に現れる。この合成画像の特性ぱらつきを時間軸上に展開して周波数成分にすると、そのパターン(雑音成分)は図19のパターンPgに示すものとなる。即ち、出力線の特性ばらつきは、周波数がfn[Hz]の雑音成分として本来の画像に重畳される。なお、図19のCgは画素の読出しクロック(サンプリングクロック)を示している。クロック(サンプリングクロック)Cgの周波数fsは、特性ばらつきに基づく雑音成分の周波数fnの2倍である。
本実施の形態においても、信号Sig1,Sig2は、演算処理部においてフィルタ処理される。本実施の形態においては、演算処理部は、図20に示すフィルタ処理を行う。図20は縦軸に周波数ゲインをとり横軸に周波数をとって、本実施の形態における演算処理部のフィルタ処理を示している。即ち、本実施の形態における演算処理部は、理想的には、周波数がfnの成分に対するゲインが0のフィルタ処理を実施する。演算処理部によるフィルタ処理によって、周波数fnの雑音成分が十分に抑圧され、雑音成分が除去された映像信号が得られる。
周波数fs=2×fnでサンプリングされる画素に基づく画像は、周知のナイキストの定理により、fn以上の周波数成分は正確に映像として再現することは元々不可能である。この原理を利用して、演算処理部は特性ばらつきに基づくノイズの周波数であるfnの周波数レスポンスを十分に低下させるようになっている。図20に示す特性で周波数fnの周波数レスポンスを低下させた場合でも、極度の画質劣化を生じさせることなく、雑音成分である縦じまを抑圧することが可能である。
このように、本実施の形態においては、演算処理部においてサンプリング周波数の2倍の周波数のレスポンスを十分に低下させるフィルタ処理を実施しており、撮像素子の如何に拘わらず、また、特定の画素信号を必要としない簡便なシステムで後段の回路単独で、複数出力線の特性ばらつきによる画像の劣化を防止することができる。
ところで、図18の実施の形態は、水平方向に隣接する2画素単位で、出力線が異なる多線出力の例である。隣接する2画素単位で画素信号の出力に用いる出力線が異なる場合には、図20に示すフィルタ処理によって、出力線のばらつきによる画質劣化を補正することができる。従って、垂直方向に隣接する2画素単位で画素信号の出力に用いる出力線が異なる場合にも適用可能であり、更に、水平及び垂直方向に隣接する2画素単位で画素信号の出力に用いる出力線が異なる場合にも適用可能である。
図21及び図22はこの場合の例を説明するためのものである。図21は撮像素子の構成を説明するための説明図であり、図21(A)は撮像素子の各出力線と画素との関係を示し、図21(B)は各出力線の出力信号を示している。図21は2行×4列の画素部を示している。図22は撮像素子の各出力線のばらつきに基づくノイズパターンを説明するための説明図である。
撮像素子は、図21(A)に示すように、水平及び垂直方向に隣接する画素同士が、異なる出力線を介して画素信号を出力するようになっている。画素Pxy(x=1,2、y=1〜4)のうち、奇数行、奇数列の画素P11,P13から読出した画素信号P11,P13は共通の出力線を介して信号Sig1として出力され、奇数行、偶数列の画素P12,P14から読出した画素信号P12,P14は共通の出力線を介して信号Sig2として出力され、偶数行、奇数列の画素P21,P23から読出した画素信号P21,P23は共通の出力線を介して信号Sig3として出力され、偶数行、偶数列の画素P22,P24から読出した画素信号P22,P24は共通の出力線を介して信号Sig4として出力される。各出力線からの信号Sig1〜Sig4は、夫々図18(B)に示すものとなる。なお、図18(B)の横軸は時間を示し、縦軸は信号レベルを模式化して示している。
信号Sig1〜Sig4は、出力線毎に特性が異なり、信号Sig1〜Sig4を合成して得られる画像は、図22の信号Sg2で表される。即ち、Sig1〜Sig4の合成画像の特性ばらつきは画像上に縦横の縞状に現れる。即ち、出力線毎のばらつきに起因する雑音成分は、サンプリング周波数の2倍の周波数成分を有する。従って、この場合でも、合成画像の映像信号に対して、図20に示す特性のフィルタ処理を実施することで、出力線毎のばらつきに起因する雑音成分を十分に抑圧することができる。
このように、隣接する2画素単位で画素信号を出力する出力線が異なる場合には、図20に示すフィルタ処理を実施することによって、効果的に出力線毎のばらつきに起因する画質劣化を抑制することができる。