JP2004140495A - カラー固体撮像装置 - Google Patents
カラー固体撮像装置 Download PDFInfo
- Publication number
- JP2004140495A JP2004140495A JP2002301630A JP2002301630A JP2004140495A JP 2004140495 A JP2004140495 A JP 2004140495A JP 2002301630 A JP2002301630 A JP 2002301630A JP 2002301630 A JP2002301630 A JP 2002301630A JP 2004140495 A JP2004140495 A JP 2004140495A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- color
- solid
- pixel
- interpolation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Solid State Image Pick-Up Elements (AREA)
- Image Input (AREA)
Abstract
【課題】カラー固体撮像装置の固体撮像素子の画素欠陥等によリ発生する着色ノイズを画像ボケを伴わずに低減する。
【解決手段】第1の色光に感度を有する画素が市松状に配置され、それを補間する位置に第2及び第3の色光の感度を有した画素がそれぞれ行列上に配置された固体撮像素子の出力信号から、第2及び第3の色光の感度を有した画素位置でそれぞれ算出された色差信号から、隣接する4画素の色差信号の2つの中間値の平均値で補間値を決める操作を2回繰り返し行って第1および第2の補間値を得て、第2及び第3の色光の感度を有した画素位置でそれぞれ隣接する4個の前記第2の補間値の2つの中間値の平均で第3の補間値を得て、前記第1から第3の補間値を合成して画像ボケとレベル変動が少ない全画素の色差信号を作る。
【選択図】 図4
【解決手段】第1の色光に感度を有する画素が市松状に配置され、それを補間する位置に第2及び第3の色光の感度を有した画素がそれぞれ行列上に配置された固体撮像素子の出力信号から、第2及び第3の色光の感度を有した画素位置でそれぞれ算出された色差信号から、隣接する4画素の色差信号の2つの中間値の平均値で補間値を決める操作を2回繰り返し行って第1および第2の補間値を得て、第2及び第3の色光の感度を有した画素位置でそれぞれ隣接する4個の前記第2の補間値の2つの中間値の平均で第3の補間値を得て、前記第1から第3の補間値を合成して画像ボケとレベル変動が少ない全画素の色差信号を作る。
【選択図】 図4
Description
【0001】
【発明の属する技術分野】
この発明は、モザイク色フィルタが3色から構成され、そのうち1色が市松状に配置されている固体撮像素子を使用した単板カラー固体撮像装置、または色分解光学系に互いに補間する位置関係で取付けられた複数の固体撮像素子を使用した画素ずらし多板カラー撮像素子に関し、特に固体撮像素子の画素欠陥による偽色信号の低減手法に関する。
【0002】
【従来の技術】
従来の単板カラーカメラにおいては、図11に示すように、固体撮像素子1101の出力映像信号をサブサンプルし、ローパスフィルタ等を用いて補間処理を行い、全画素に対するR(赤)、G(緑)、B(青)の3原色信号を得ていた。このため、固体撮像素子に画素欠陥があると画素欠陥の位置の色信号が変化し、被写体の色とは違う色が発生し画質を低下させる(以後、画素欠陥をキズと称する)。固体撮像素子のキズ画素の出力信号を周辺の同色画素の信号で置き換えるキズ補正回路1102を色信号処理回路1103の前に設けている。キズ補正回路1102は、注目画素がキズ画素であることを示すパルスを発生するキズ補正制御回路1104に制御されるスイッチ1106で、通常画素は固体撮像素子出力を、キズ画素では補間回路1105の出力を選択して出力する。
【0003】
例えばキズ補正制御回路としては、予め特開2002−1121118号広報のような手法で測定しメモリー手段に蓄えられた欠陥画素の位置座標に基づきキズ補正制御パルスを発生させるものや、特開平7‐336699号広報のような手法で撮影中に映像信号から傷画素を判定し実時間でキズ補正制御パルスを発生させるものがある。画素欠陥の補正に関しては、特開昭62‐8666号公報にあるように補正時には注目画素の周辺の同色画素信号を元に補間信号を算出し、キズ画素の代替信号として出力することで、画像の平たん部では周辺画素と同等の色信号になり画素欠陥が見えなくなる。
【0004】
しかしながら、この手法では画像の平たん部ではキズによる偽の着色はなくなるが、画像のエッジ部の近くにキズ画素が位置すると代替した周辺画素の色が離れて生じてしまい画質が低下するという問題があった。
【0005】
また、キズは固体撮像素子上にランダムに発生する結晶欠陥や、遮光材のエッチングむらなどに起因する。このため、キズレベルもばらつきを持つ。キズの判定は、閾値レベルを定め、画素欠陥レベルがこの閾値レベルを超えたものをキズとして判定する。したがって、この閾値レベル以内の信号はそのまま使われるため、レベルは小さいがランダムな色雑音は低減されないという問題があった。
【0006】
【発明が解決しようとする課題】
上記した従来のカラーカメラのキズ補正回路においては、キズが画像のエッジ部の近くにある場合に画質が低下するという問題があった。また、キズ判定閾値以下のレベルのキズは補正されないという問題があった。この発明は、エッジ部が自然な画像を得るとともに、小レベルのキズも自動的に補正できるカラー固体撮像装置を得ることにある。
【0007】
【課題を解決するための手段】
上記の課題を解決するために、この発明のカラー固体撮像装置では、市松状に配置された第1の色光の分光感度を有する画素と、その画素を補間する位置に第2または第3の色光のいずれか一方の分光感度を有した画素が配置され、全体として画素が行列状に配列された固体撮像素子を有し、前記固体撮像素子の出力信号から前記固体撮像素子の全画素に対する前記第1の色光の画像信号を、前記第2および第3の色光の画素位置でそれぞれ前記第1の色光の画素信号との差信号を生成する。前記色差信号の互いに隣接する画素が作る方形の中心位置での色差信号を前記方形の4頂点の色差信号値の2個の中間値の平均値で算出した第1の補間信号を生成する。前記色差信号と前記第1の補間信号の互いに隣接する画素が作る四角形の中心位置での色差信号を前記四角形の4頂点の色差信号値の2個の中間値の平均値で算出した第2の補間信号を生成する。前記第2および第3の色光に対応する画素位置で周辺画素信号の最大値と最小値を除いた中間値の平均値で算出した第3の補間信号を生成し、前記第1および第2および第3の補間信号を合わせて全画素に対する色差信号を得ることを特徴とする。
【0008】
上記した手段により、キズが目立つ画像の平坦部では、キズ画素で生じた異常な色差信号は、隣接画素との中間値処理により前記第1の補間信号には影響を与えなくなる。前記第1の補間信号を含む隣接画素との中間値処理により生成される前記第2の補間信号では、キズ画素で生じた異常な色差信号は4画素中の1画素だけしかなく、隣接画素との中間値処理により前記第2の補間信号には影響を与えなくなる。また、異常な色差信号の影響をほとんど受けない前記第2の補間信号から生成される第3の補間信号にも異常な色差信号の影響は生じない。したがって、前記第1および第2および第3の補間信号を合成して得られた全画素に対する色差信号には、キズ画素で生じた異常な色差信号の影響が生じない。また、画像のエッジ部でも、傷のレベルは第1の補間値で1/2以下、第2の補間値で1/4以下、第3の補間値で1/8以下になるため、異常な色差信号の影響はほとんど生じない。このため、画素欠陥により発生していた色偽信号を低減することができる。
【0009】
【発明の実施の形態】
【実施例】
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
【0010】
図1は、この発明の第1の実施の形態について説明するためのカラー固体撮像装置のブロック図である。図1において、11は固体撮像素子であり、この固体撮像素子11は、図中に示すように、Y画素が市松状に配置され、1行毎にMとCがYを穴埋めする形の色フィルタ12が付けられ、YMYM・・・とCYCY・・・の信号を1行毎に出力する。ここで、Y,C,Mはそれぞれ赤色光と緑色光,緑色光と青色光,赤色光と青色光を加算した信号である。補間処理回路13は、市松配置のY信号を抽出し、C画素またはM画素位置でのY信号を隣接する4画素の明暗パターンから補間される画素が画像のどの部分に該当するかを推定することで、固体撮像素子11の出力信号から画像のボケの少ない補間画像を出力する。
【0011】
図2は、Y信号用補間処理回路13のより詳細なブロック図である。入力端子21から入力された固体撮像素子11からの出力信号は、1水平時間遅延回路221と1画素時間遅延回路222からなる同時化回路22により、注目画素Q0とそれを取り囲む隣接画素P1〜P4そしてQ0と同色でP1〜P4を取り囲む隣接画素Q1〜Q4の信号を、相関判定回路23と補間信号合成回路24に供給する。
【0012】
相関判定回路23では、P1〜P4の互いに隣接する画素信号の大小関係を比較回路231で判定する。相関方向判定ROM24には、例えば表1の真理値表に示される変換表が書き込まれており、P1〜P4の信号量の最大値と最小値の画素位置により相関の強い方向を示す信号を出力する。最大値と最小値が横方向のP1とP3の場合は画像の水平エッジ部に該当すると推定し縦方向に相関が強いと判定してVに1を出力する。最大値と最小値が縦方向のP2とP4の場合は画像の垂直エッジ部に該当すると推定し横方向に相関が強いと判定してHに1を出力する。それ以外の場合は、縦横両方向に相関関係はないものとしてAVに1を出力する。
【0013】
補間信号合成回路24では、相関判定回路23で判定された相関方向と、タイミング発生器19から供給される注目画素Q0がY画素か否かを示すPI信号に基づいて補間信号を出力する。注目画素がY信号の場合には、スイッチ243により注目画素Q0画選択されて出力される。注目画素がM信号またはC信号の場合には、スイッチ243によりスイッチ242で選択された補間信号が出力される。相関判定回路23で横方向に相関ありと判定されたときには、スイッチ242−1が閉じられ、加算器241−1により算出された注目画素と左右に隣接する画素の和の1/2倍が出力される。相関判定回路23で縦方向に相関ありと判定された場合には、スイッチ242−2が閉じられ、加算器241−1により算出された注目画素と上下に隣接する画素の和の1/2倍が出力される。相関判定回路23で縦横どちらにも相関が認められないときには、隣接4画素の平均値を注目画素のC0から上下左右に2画素ずつ離れた図3にQ1〜Q4で示す画素の情報を用いてボケの補正を行い、下記の数式1で算出した値を出力する。このように、注目画素に隣接する画素の相関関係を利用することで、画像のボケの少ない適切な補間画像が出力される。
【数1】
【表1】
【0014】
Y信号用補間処理回路13では同時化回路22で注目画素と周辺画素の情報を同時化するために2水平時間と2画素時間の遅延が生じるため、遅延補償回路14でタイミング合わせを行い、減算器15で色差信号を算出し、本発明に係る色差信号用補間処理回路16に供給する。
【0015】
図3は本発明の第1の実施例に係る色差信号の補間処理回路のブロック図、図4はその画素補間方法を説明するための図、図5はその効果を説明するための図である。図5(a)は、矢印が第2または第3の色光に対応する画素位置でサンプリングされた色差信号を示すとともに、その長さが色差信号のレベルを示し、×印は色差信号が算出されていない画素位置を示している。長さが周囲と異なる矢印51〜53は固体撮像素子のキズの影響で色差信号に変化が生じたことを示しており、以下色差キズ信号と称す。色差キズ信号51は画像のエッジ部でエッジを強調する方向のキズ成分を有したものであり、色差キズ信号52は画像のエッジ部でエッジを弱める方向のキズ成分を有したものであり、色差キズ信号53は平坦部に生じているものをそれぞれ示している。
【0016】
入力端子31から第1の補間信号発生回路32に入力された色差信号は、2水平時間遅延回路321と2画素時間遅延回路322と323により、同色の隣接する画素位置の色差信号が同時化され、中間値処理回路324に入力される。中間値処理回路324は、図4(a)にC11で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(b)は入力信号と第1の補間信号の関係を示し、細線矢印が入力端子31から入力された色差信号を、太線矢印が第1の補間信号をそれぞれ示している。色差キズ信号51、53は、隣接する8方向の色差信号のレベルより大きいため、中間値処理による補間画素の色差信号レベルの算出には用いられないため、色差キズ信号の影響は第1の補間信号には生じない。一方、色差キズ信号52は右上の隣接4画素の色差信号レベルの2番目に低い値となっているため、補間信号52aには色差キズ信号52の影響が生じるが,中間値処理で2画素の加算平均をとるため、色差キズ信号52のキズレベルの1/2倍のキズレベルに低減される。
【0017】
第2の補間信号発生回路33は、入力端子31から入力された色差信号と第1の補間信号発生回路32の出力信号が入力され、2水平時間遅延回路331〜333と2画素時間遅延回路334〜337により、隣接する画素位置の色差信号が同時化され、それぞれ中間値処理回路338、339に入力される。図4(b)にC12、C21で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(c)は、点線矢印が入力端子41から入力された色差信号を、細線矢印が第1の補間信号を、太線矢印が第2の補間信号を示している。色差キズ信号51、53は、隣接する4方向の入力色差信号や斜め4方向に隣接する第1の補間信号のレベルより大きいため、中間値処理による補間画素の色差信号レベルの算出には用いられないため、色差キズ信号の影響は第2の補間信号にも生じない。一方、色差キズ信号52は、第1の補間信号52aに影響を与えているため、色差キズ信号52と第1の補間信号52aとを結ぶ線分を1辺に持つ色差キズ信号と第1の補間信号の互いに隣接する4個のサンプリング点が作る四角形の中点である第2の補間信号52b、52cには色差キズ信号52の影響が生じる。しかしながら、第2の補間信号52b、52cに生じる色差キズ信号52の影響は、色差キズ信号52が最小値であるために、第1の補間信号62aを通して間接的に生じるので、色差キズ信号52のキズレベルの1/4倍のキズレベルに低減される。
【0018】
第3の補間信号発生回路34は、第2の補間信号発生回路33の出力信号が入力され、2画素時間遅延回路341と2水平時間遅延回路342により、隣接した第2の補間信号が同時化され、中間値処理回路343に入力される。中間値処理回路343は、図4(c)にC22で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(d)は、細線矢印が第1および第2の補間信号を、太線矢印が第3の補間信号を示している。色差キズ信号51、53の位置では、第1の補間画素に色差キズ信号の影響が生じてないため、第3の補間信号にはキズ画素の影響が生じない。一方、色差キズ信号52の位置では、第1の補間信号52b、52cにはキズの影響が生じるているが,他の2画素にはキズの影響が生じていないため、第3の補間信号52は中間値処理により、キズレベルは1/8倍に低減される。結果として、図5(C)に示されるように、第1〜3の補間信号を合成して得られる色差補間画素信号には、色差キズ信号の影響のほとんど生じない。
【0019】
図4(c)に示すように,色差信号用補間処理回路16に色差信号C00が入力されると、第1の補間画素C11、第2の補間画素C12とC21、第3の補間画素C22の色差信号量が決定できる。この4画素の色差信号は、合成回路35により走査信号に変換され出力される。第2の補間画素C21には、第3の補間画素C22の次に出力されるように1画素遅延回路351が設けられ、画素インデックス信号PIに応じてスイッチ353で切り替えることにより、ライン信号となる。また、第1の補間画素C11と第2の補間画素C12も、1画素遅延回路352とスイッチ354によりライン信号となり、1水平時間遅延回路355で1水平時間の遅れが付けられる。スイッチ353の出力と1水平時間遅延回路355の出力はスイッチ356、357にそれぞれ供給される。スイッチ356は、ライン選択信号LIにより切り替えられ、色差信号用補間処理回路16に入力される信号がB−R信号のラインのときにはスイッチ353の出力を選択し、B−Gラインの時には1水平時間遅延回路355の出力を選択するようになっていて、出力端子36からは補間されたB−R信号の画像信号が出力される。スイッチ357はライン選択信号LIによりスイッチ356とは逆の信号を選択するように接続されており、出力端子36からは補間されたB−G信号の画像信号が出力される。
【0020】
色差信号用補間処理回路16から出力された2つの色差信号と補間処理回路16の信号遅延を補償する遅延補償回路17の出力は、マトリクス処理回路18に供給される。マトリクス処理を施され、固体撮像素子のキズ画素による着色現象のない3原色信号が出力される。
【0021】
図6は、本発明の第2の実施例を説明するためのカラー固体撮像装置のブロック図である。カメラに入射された光は、色分離プリズムブロック601に入り、赤色光と青色光がプリズムの境界面に設けられた色分離鏡602、603で順次反射され、さらにプリズム端面で全反射されて、固体撮像素子605、606に結像する。緑色光は、色分離鏡602、603を透過し直進し、ハーフミラー604で光量が2分され固体撮像素子607、608に結像する。つまり、固体撮像素子605、606には、2回反射された光像が結像し、固体撮像素子608は1回も反射されない光像が結像し、固体撮像素子607は1回反射された光像が結像するので、固体撮像素子607だけに鏡像の光像が結像されている。固体撮像素子605〜608は、色分解プリズムに図7のように、それぞれ画素ピッチの1/2のオフセットが付くように固着されており、画素信号を適切に再配置することで、固体撮像素子画素数の4倍の画素数の画像データが得られる。
【0022】
固体撮像素子605〜608の出力信号は、AD変換機609によりディジタル値に変換され,マルチプレクサ610で時間多重され出力される。マイクロプロセッサ612は、プログラムメモリー614に書き込まれた命令を順次実行する。ユーザーインターフェース618から、撮影指示が出ると、マイクロプロセッサ612はタイミング発生器620を静止画取り込み用に変え、図8の流れ図で示される信号処理シーケンスを実行する。
【0023】
まず、マイクロプロセッサ612の指示によりDMAコントローラ611がデータメモリー613の所定位置に適切に格納し、固体撮像素子画素数の4倍の画素数の画像データがデータメモリー613上に再構成される。データメモリー613から適宜画像データを読み出し、ディジタル信号処理回路615で処理した結果をデータメモリー613に書き込むことを繰り返して、信号処理を実現する。信号処理アルゴリズムは、基本的に第1の実施例と同じである。
【0024】
第1の実施例との違いは、固体撮像素子の画素がそれぞれ光の3原色になっていて、第1の色光が緑色(G)、第2の色光が赤色(R)、第3の色光が青色(B)になっている点にある。このため、第1の色光である緑光色の補間画像には、人間の目の解像度特性を決める緑色光と赤色光のうちの赤色光に感度を有していない。このため、緑光色を含んでいない赤色部分の解像度の低下が懸念される。以下、赤色の背景の中に細い黒線がある場合を例にとって、色信号処理アルゴリズムを手順にしたがって説明する。
【0025】
まず、G信号に補間処理を施し、補間画像GIを得る。図9(a)は、固体撮像素子の出力信号であり、黒丸と×印はそれぞれ無信号のG信号とB信号を示し、矢印の長さがR信号のレベルを示している。細い黒線901は、2画素分の幅を持つものとするが、図面上は画素との位置関係がわかりやすいように細線の中心線のみを点線で示す。黒線とR画素の位置関係は、一致する画素902と隣接する画素903と離れている画素904の3種類で、信号量は説明を簡単にするため、それぞれ0,1/2,1とする。G信号のレベルは全て0で画像の相関方向は決定できないため、補間信号は数式1で計算される値となる。図9(b)は、補間画像GIを示している。G画素とB画素は全て0のため、B画素位置の補間値は0となる。R画素位置の補間値は、黒線上の画素905が−1/4、黒線に隣接する画素907が−1/8、さらに黒線より離れた画素906と908はそれぞれ+3/16と+1/32、その外側は0となる。
【0026】
図10(a)は、矢印がR画素位置の色差信号R−Gの画像CR0を示している。黒い線1001上にある色差信号1002は0−(−1/4)=1/4、黒い線1001を挟む位置にある色差信号1003は1/2−(−1/8)=5/8、色差信号1005は1−(3/16)=13/16、色差信号1004は1−(1/32)=31/32、その外側の色差信号は1となる。
【0027】
図10(b)は、色差信号の第1の補間値の決定方法を説明するための図である。細い矢印がR画素位置の色差信号を示し、太い矢印が第1の補間値を示している。第1の補間値は、隣接する4つの色差信号の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。例えば、色差信号レベル1006は色差信号レベル1003と1005の平均の23/32であり、色差信号レベル1007は色差信号レベル1003同士の平均であり5/8となる。細い黒線1001上にある色差信号1002は、信号レベルが周辺の色差信号レベルより低いため、第1の補間値の決定には使われていない。
【0028】
図10(c)は、色差信号の第2の補間値の決定方法を説明するための図である。細い矢印がR画素位置の色差信号と第1の補間値を示し、太い矢印が第2の補間値を示している。第2の補間値は、隣接する4つの色差信号値と第1の補間値の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。細い黒線1001上にある色差信号1002は、信号レベルが周辺の色差信号レベルより低いため、第2の補間値の決定にも使われていない。
【0029】
図10(d)は、色差信号の第3の補間値の決定方法を説明するための図である。細い矢印が第1の補間値CR1を示し、点線矢印が第2の補間値CR2を示し、太い矢印が第3の補間値CR3を示している。第3の補間値CR3は、隣接する4つの第2の補間値CR2の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。これら第1から第3の補間画像を合成してR−Gの補間画像CRRを合成する。この補間画像CRRでは、細い黒線1001上にある色差信号1008は、色差信号1006と1007の平均で43/64となる。これは、色差信号1002が補間値の決定に使われないために、色差信号1002より大きな値で置き換えられており、補間された色差信号R−Gの画像では黒線成分が低減してしまう。
【0030】
この色差画像の補間処理による解像度低下を防止するために、撮像素子出力から生成された赤色差信号画像CR0と第3の補間信号画像CR3の差を取り線形補間を施して輝度補正画像DYを生成し、第1の色光である補間G画像GIに加えた画像GCを生成する。この補間画像GCは、2つの色差信号と組み合わされる3原色信号のベースとなる信号なので、図9(c)に示されるように仮想の黒線成分を有したG画像となっており、色雑音を発生させずに色差信号から奪われた黒線成分を復元することができる。
【0031】
また、B画素の信号に関しても同様の操作を行い、第1から第3の補間信号を生成し、それを合成して補間された色差信号B−Gの画像CBBを生成する。青色光は人間の目の解像度特性を決める光ではないため、赤色光のように補正信号を生成しなくて良い。
【0032】
次に、補間画像GCに対し、周辺8画素の最大値と最小値の範囲外にある信号にクリップ処理を施す。これは、画素欠陥は発生頻度が小さくて、ほとんどが単独であるため、隣接画素のレベル範囲を超えたものはキズとみなしてクリップすることで、キズの極めて少ない画像が得られる。
【0033】
このようにして得られた、補間G画像GCと2つの色差信号画像CRR,CBBにマトリクス処理を施し、画像情報圧縮した後に、記録媒体インターフェース616を介して記録媒体617に撮影されたカラー画像データが記録される。
【0034】
また、緑色光と赤色光+青色光に分離する色分解プリズムに画素が市松状に配置された固体撮像素子2個を光学的に互いに補間する位置に固着し、赤色光+青色光の光像が結像される固体撮像素子には赤色光を遮断する色フィルタと青色光を遮断する色フィルタが交互に設けられた固体撮像素子のように、以上図面を用いて説明した以外にも、光学的に市松状に配置された第1の色光の分光感度を有する画素と、その画素を補間する位置に第2または第3の色光のいずれか一方の分光感度を有した画素が配置され、全体として画素が行列状に配列された固体撮像素子を用いてさえいれば本発明は使用できる。
【0035】
【発明の効果】
以上説明したように本発明のカラー固体撮像装置は、固体撮像素子の出力信号から算出された色差信号の補間処理の際に隣接する4画素の中間値2つの平均値で補間値を決める操作を繰り返し行って得られた補間値を合成して全画素の色差信号を算出するため、固体撮像素子の画素欠陥により発生していた色雑音を画像ボケを伴わずに低減でき、画像エッジ部で発生していたキズ補正エラーも生じない。このため、従来の欠陥画素位置を記憶し補正する方式で必要であった欠陥画素位置のメモリーやその書き込みの手間が省くことができる。また、画像信号から画素欠陥位置を検出する方式でできなかった小レベルの画素欠陥の補正もできる。さらに、本発明では色差信号に生じているレベル変動を実時間で低減できるため,固体撮像素子で避けられない検出雑音や光ショット雑音等のランダム雑音に起因する色雑音も低減でき、結果として透明感のある画像が得られるカラー固体撮像装置が実現できる。
【図面の簡単な説明】
【図1】この発明の第1の実施例を説明するためのカラー固体撮像装置のブロック図。
【図2】Y信号用補間処理回路13のより詳細なブロック図。
【図3】本発明の第1の実施例に係る色差信号の補間処理回路のブロック図。
【図4】本発明の第1の実施例に係る色差信号の画素補間方法を説明するための図。
【図5】本発明のの効果を説明するための図。
【図6】本発明の第2の実施例を説明するためのカラー固体撮像装置のブロック図。
【図7】色分解プリズムに固着された固体撮像素子の位置関係を説明するための図。
【図8】本発明の第2の実施例に係る信号処理アルゴリズムの流れ図。
【図9】本発明の第2の実施例に係る第1の色光画像の補間処理を説明するための図。
【図10】本発明の第2の実施例に係る色差信号の補間処理を説明するための図。
【図11】従来のキズ補正回路を説明するためのブロック図。
【符号の説明】
10,619……駆動回路、 11,605,606,607,608,1101……固体撮像素子、 12……色フィルタ、 13……Y信号用補間処理回路、 14,17……遅延補償回路、 15……減算器、 16……色差信号用補間処理回路、 18……マトリクス回路、 19,720……タイミング発生器、 21,31……入力端子、 22……同時化回路、 221,355……1水平時間遅延回路、 222,351,352……1画素時間遅延回路、 23……相関判定回路、 24……補間信号合成回路、 241……加算器、 242,243,353,354,356,357……スイッチ、 25,36……出力端子、 32,33,34……補間信号発生回路、 321,331,332,333,341……2水平時間遅延回路、 322,323,334,335,336,337,342……2画素時間遅延回路、 324,338,339,343……中間値処理回路、 331,332,333,334,335,336,337……遅延回路、 35……合成回路、 51,52,52a,52b,52c,53……画素欠陥の影響が生じる画素の信号レベル、 601……色分離プリズムブロック、 602,603……色分離鏡、 604……ハーフミラー、 609……AD変換機、 610……マルチプレクサ、 611……DMAコントローラ、 612……マイクロプロセッサ、 613……データメモリー、 614……プログラムメモリー、 615……ディジタル信号処理回路、 616……記録媒体インターフェース、 617……記録媒体、 618……ユーザーインターフェース、 1102……キズ補正回路。
【発明の属する技術分野】
この発明は、モザイク色フィルタが3色から構成され、そのうち1色が市松状に配置されている固体撮像素子を使用した単板カラー固体撮像装置、または色分解光学系に互いに補間する位置関係で取付けられた複数の固体撮像素子を使用した画素ずらし多板カラー撮像素子に関し、特に固体撮像素子の画素欠陥による偽色信号の低減手法に関する。
【0002】
【従来の技術】
従来の単板カラーカメラにおいては、図11に示すように、固体撮像素子1101の出力映像信号をサブサンプルし、ローパスフィルタ等を用いて補間処理を行い、全画素に対するR(赤)、G(緑)、B(青)の3原色信号を得ていた。このため、固体撮像素子に画素欠陥があると画素欠陥の位置の色信号が変化し、被写体の色とは違う色が発生し画質を低下させる(以後、画素欠陥をキズと称する)。固体撮像素子のキズ画素の出力信号を周辺の同色画素の信号で置き換えるキズ補正回路1102を色信号処理回路1103の前に設けている。キズ補正回路1102は、注目画素がキズ画素であることを示すパルスを発生するキズ補正制御回路1104に制御されるスイッチ1106で、通常画素は固体撮像素子出力を、キズ画素では補間回路1105の出力を選択して出力する。
【0003】
例えばキズ補正制御回路としては、予め特開2002−1121118号広報のような手法で測定しメモリー手段に蓄えられた欠陥画素の位置座標に基づきキズ補正制御パルスを発生させるものや、特開平7‐336699号広報のような手法で撮影中に映像信号から傷画素を判定し実時間でキズ補正制御パルスを発生させるものがある。画素欠陥の補正に関しては、特開昭62‐8666号公報にあるように補正時には注目画素の周辺の同色画素信号を元に補間信号を算出し、キズ画素の代替信号として出力することで、画像の平たん部では周辺画素と同等の色信号になり画素欠陥が見えなくなる。
【0004】
しかしながら、この手法では画像の平たん部ではキズによる偽の着色はなくなるが、画像のエッジ部の近くにキズ画素が位置すると代替した周辺画素の色が離れて生じてしまい画質が低下するという問題があった。
【0005】
また、キズは固体撮像素子上にランダムに発生する結晶欠陥や、遮光材のエッチングむらなどに起因する。このため、キズレベルもばらつきを持つ。キズの判定は、閾値レベルを定め、画素欠陥レベルがこの閾値レベルを超えたものをキズとして判定する。したがって、この閾値レベル以内の信号はそのまま使われるため、レベルは小さいがランダムな色雑音は低減されないという問題があった。
【0006】
【発明が解決しようとする課題】
上記した従来のカラーカメラのキズ補正回路においては、キズが画像のエッジ部の近くにある場合に画質が低下するという問題があった。また、キズ判定閾値以下のレベルのキズは補正されないという問題があった。この発明は、エッジ部が自然な画像を得るとともに、小レベルのキズも自動的に補正できるカラー固体撮像装置を得ることにある。
【0007】
【課題を解決するための手段】
上記の課題を解決するために、この発明のカラー固体撮像装置では、市松状に配置された第1の色光の分光感度を有する画素と、その画素を補間する位置に第2または第3の色光のいずれか一方の分光感度を有した画素が配置され、全体として画素が行列状に配列された固体撮像素子を有し、前記固体撮像素子の出力信号から前記固体撮像素子の全画素に対する前記第1の色光の画像信号を、前記第2および第3の色光の画素位置でそれぞれ前記第1の色光の画素信号との差信号を生成する。前記色差信号の互いに隣接する画素が作る方形の中心位置での色差信号を前記方形の4頂点の色差信号値の2個の中間値の平均値で算出した第1の補間信号を生成する。前記色差信号と前記第1の補間信号の互いに隣接する画素が作る四角形の中心位置での色差信号を前記四角形の4頂点の色差信号値の2個の中間値の平均値で算出した第2の補間信号を生成する。前記第2および第3の色光に対応する画素位置で周辺画素信号の最大値と最小値を除いた中間値の平均値で算出した第3の補間信号を生成し、前記第1および第2および第3の補間信号を合わせて全画素に対する色差信号を得ることを特徴とする。
【0008】
上記した手段により、キズが目立つ画像の平坦部では、キズ画素で生じた異常な色差信号は、隣接画素との中間値処理により前記第1の補間信号には影響を与えなくなる。前記第1の補間信号を含む隣接画素との中間値処理により生成される前記第2の補間信号では、キズ画素で生じた異常な色差信号は4画素中の1画素だけしかなく、隣接画素との中間値処理により前記第2の補間信号には影響を与えなくなる。また、異常な色差信号の影響をほとんど受けない前記第2の補間信号から生成される第3の補間信号にも異常な色差信号の影響は生じない。したがって、前記第1および第2および第3の補間信号を合成して得られた全画素に対する色差信号には、キズ画素で生じた異常な色差信号の影響が生じない。また、画像のエッジ部でも、傷のレベルは第1の補間値で1/2以下、第2の補間値で1/4以下、第3の補間値で1/8以下になるため、異常な色差信号の影響はほとんど生じない。このため、画素欠陥により発生していた色偽信号を低減することができる。
【0009】
【発明の実施の形態】
【実施例】
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
【0010】
図1は、この発明の第1の実施の形態について説明するためのカラー固体撮像装置のブロック図である。図1において、11は固体撮像素子であり、この固体撮像素子11は、図中に示すように、Y画素が市松状に配置され、1行毎にMとCがYを穴埋めする形の色フィルタ12が付けられ、YMYM・・・とCYCY・・・の信号を1行毎に出力する。ここで、Y,C,Mはそれぞれ赤色光と緑色光,緑色光と青色光,赤色光と青色光を加算した信号である。補間処理回路13は、市松配置のY信号を抽出し、C画素またはM画素位置でのY信号を隣接する4画素の明暗パターンから補間される画素が画像のどの部分に該当するかを推定することで、固体撮像素子11の出力信号から画像のボケの少ない補間画像を出力する。
【0011】
図2は、Y信号用補間処理回路13のより詳細なブロック図である。入力端子21から入力された固体撮像素子11からの出力信号は、1水平時間遅延回路221と1画素時間遅延回路222からなる同時化回路22により、注目画素Q0とそれを取り囲む隣接画素P1〜P4そしてQ0と同色でP1〜P4を取り囲む隣接画素Q1〜Q4の信号を、相関判定回路23と補間信号合成回路24に供給する。
【0012】
相関判定回路23では、P1〜P4の互いに隣接する画素信号の大小関係を比較回路231で判定する。相関方向判定ROM24には、例えば表1の真理値表に示される変換表が書き込まれており、P1〜P4の信号量の最大値と最小値の画素位置により相関の強い方向を示す信号を出力する。最大値と最小値が横方向のP1とP3の場合は画像の水平エッジ部に該当すると推定し縦方向に相関が強いと判定してVに1を出力する。最大値と最小値が縦方向のP2とP4の場合は画像の垂直エッジ部に該当すると推定し横方向に相関が強いと判定してHに1を出力する。それ以外の場合は、縦横両方向に相関関係はないものとしてAVに1を出力する。
【0013】
補間信号合成回路24では、相関判定回路23で判定された相関方向と、タイミング発生器19から供給される注目画素Q0がY画素か否かを示すPI信号に基づいて補間信号を出力する。注目画素がY信号の場合には、スイッチ243により注目画素Q0画選択されて出力される。注目画素がM信号またはC信号の場合には、スイッチ243によりスイッチ242で選択された補間信号が出力される。相関判定回路23で横方向に相関ありと判定されたときには、スイッチ242−1が閉じられ、加算器241−1により算出された注目画素と左右に隣接する画素の和の1/2倍が出力される。相関判定回路23で縦方向に相関ありと判定された場合には、スイッチ242−2が閉じられ、加算器241−1により算出された注目画素と上下に隣接する画素の和の1/2倍が出力される。相関判定回路23で縦横どちらにも相関が認められないときには、隣接4画素の平均値を注目画素のC0から上下左右に2画素ずつ離れた図3にQ1〜Q4で示す画素の情報を用いてボケの補正を行い、下記の数式1で算出した値を出力する。このように、注目画素に隣接する画素の相関関係を利用することで、画像のボケの少ない適切な補間画像が出力される。
【数1】
【表1】
【0014】
Y信号用補間処理回路13では同時化回路22で注目画素と周辺画素の情報を同時化するために2水平時間と2画素時間の遅延が生じるため、遅延補償回路14でタイミング合わせを行い、減算器15で色差信号を算出し、本発明に係る色差信号用補間処理回路16に供給する。
【0015】
図3は本発明の第1の実施例に係る色差信号の補間処理回路のブロック図、図4はその画素補間方法を説明するための図、図5はその効果を説明するための図である。図5(a)は、矢印が第2または第3の色光に対応する画素位置でサンプリングされた色差信号を示すとともに、その長さが色差信号のレベルを示し、×印は色差信号が算出されていない画素位置を示している。長さが周囲と異なる矢印51〜53は固体撮像素子のキズの影響で色差信号に変化が生じたことを示しており、以下色差キズ信号と称す。色差キズ信号51は画像のエッジ部でエッジを強調する方向のキズ成分を有したものであり、色差キズ信号52は画像のエッジ部でエッジを弱める方向のキズ成分を有したものであり、色差キズ信号53は平坦部に生じているものをそれぞれ示している。
【0016】
入力端子31から第1の補間信号発生回路32に入力された色差信号は、2水平時間遅延回路321と2画素時間遅延回路322と323により、同色の隣接する画素位置の色差信号が同時化され、中間値処理回路324に入力される。中間値処理回路324は、図4(a)にC11で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(b)は入力信号と第1の補間信号の関係を示し、細線矢印が入力端子31から入力された色差信号を、太線矢印が第1の補間信号をそれぞれ示している。色差キズ信号51、53は、隣接する8方向の色差信号のレベルより大きいため、中間値処理による補間画素の色差信号レベルの算出には用いられないため、色差キズ信号の影響は第1の補間信号には生じない。一方、色差キズ信号52は右上の隣接4画素の色差信号レベルの2番目に低い値となっているため、補間信号52aには色差キズ信号52の影響が生じるが,中間値処理で2画素の加算平均をとるため、色差キズ信号52のキズレベルの1/2倍のキズレベルに低減される。
【0017】
第2の補間信号発生回路33は、入力端子31から入力された色差信号と第1の補間信号発生回路32の出力信号が入力され、2水平時間遅延回路331〜333と2画素時間遅延回路334〜337により、隣接する画素位置の色差信号が同時化され、それぞれ中間値処理回路338、339に入力される。図4(b)にC12、C21で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(c)は、点線矢印が入力端子41から入力された色差信号を、細線矢印が第1の補間信号を、太線矢印が第2の補間信号を示している。色差キズ信号51、53は、隣接する4方向の入力色差信号や斜め4方向に隣接する第1の補間信号のレベルより大きいため、中間値処理による補間画素の色差信号レベルの算出には用いられないため、色差キズ信号の影響は第2の補間信号にも生じない。一方、色差キズ信号52は、第1の補間信号52aに影響を与えているため、色差キズ信号52と第1の補間信号52aとを結ぶ線分を1辺に持つ色差キズ信号と第1の補間信号の互いに隣接する4個のサンプリング点が作る四角形の中点である第2の補間信号52b、52cには色差キズ信号52の影響が生じる。しかしながら、第2の補間信号52b、52cに生じる色差キズ信号52の影響は、色差キズ信号52が最小値であるために、第1の補間信号62aを通して間接的に生じるので、色差キズ信号52のキズレベルの1/4倍のキズレベルに低減される。
【0018】
第3の補間信号発生回路34は、第2の補間信号発生回路33の出力信号が入力され、2画素時間遅延回路341と2水平時間遅延回路342により、隣接した第2の補間信号が同時化され、中間値処理回路343に入力される。中間値処理回路343は、図4(c)にC22で示されるように算出の元となった4画素の中央の画素位置の色差信号として、入力された4信号のうち最大値と最小値をそれぞれ1つずつ取り除いた2つの信号の平均値を出力する。図5(d)は、細線矢印が第1および第2の補間信号を、太線矢印が第3の補間信号を示している。色差キズ信号51、53の位置では、第1の補間画素に色差キズ信号の影響が生じてないため、第3の補間信号にはキズ画素の影響が生じない。一方、色差キズ信号52の位置では、第1の補間信号52b、52cにはキズの影響が生じるているが,他の2画素にはキズの影響が生じていないため、第3の補間信号52は中間値処理により、キズレベルは1/8倍に低減される。結果として、図5(C)に示されるように、第1〜3の補間信号を合成して得られる色差補間画素信号には、色差キズ信号の影響のほとんど生じない。
【0019】
図4(c)に示すように,色差信号用補間処理回路16に色差信号C00が入力されると、第1の補間画素C11、第2の補間画素C12とC21、第3の補間画素C22の色差信号量が決定できる。この4画素の色差信号は、合成回路35により走査信号に変換され出力される。第2の補間画素C21には、第3の補間画素C22の次に出力されるように1画素遅延回路351が設けられ、画素インデックス信号PIに応じてスイッチ353で切り替えることにより、ライン信号となる。また、第1の補間画素C11と第2の補間画素C12も、1画素遅延回路352とスイッチ354によりライン信号となり、1水平時間遅延回路355で1水平時間の遅れが付けられる。スイッチ353の出力と1水平時間遅延回路355の出力はスイッチ356、357にそれぞれ供給される。スイッチ356は、ライン選択信号LIにより切り替えられ、色差信号用補間処理回路16に入力される信号がB−R信号のラインのときにはスイッチ353の出力を選択し、B−Gラインの時には1水平時間遅延回路355の出力を選択するようになっていて、出力端子36からは補間されたB−R信号の画像信号が出力される。スイッチ357はライン選択信号LIによりスイッチ356とは逆の信号を選択するように接続されており、出力端子36からは補間されたB−G信号の画像信号が出力される。
【0020】
色差信号用補間処理回路16から出力された2つの色差信号と補間処理回路16の信号遅延を補償する遅延補償回路17の出力は、マトリクス処理回路18に供給される。マトリクス処理を施され、固体撮像素子のキズ画素による着色現象のない3原色信号が出力される。
【0021】
図6は、本発明の第2の実施例を説明するためのカラー固体撮像装置のブロック図である。カメラに入射された光は、色分離プリズムブロック601に入り、赤色光と青色光がプリズムの境界面に設けられた色分離鏡602、603で順次反射され、さらにプリズム端面で全反射されて、固体撮像素子605、606に結像する。緑色光は、色分離鏡602、603を透過し直進し、ハーフミラー604で光量が2分され固体撮像素子607、608に結像する。つまり、固体撮像素子605、606には、2回反射された光像が結像し、固体撮像素子608は1回も反射されない光像が結像し、固体撮像素子607は1回反射された光像が結像するので、固体撮像素子607だけに鏡像の光像が結像されている。固体撮像素子605〜608は、色分解プリズムに図7のように、それぞれ画素ピッチの1/2のオフセットが付くように固着されており、画素信号を適切に再配置することで、固体撮像素子画素数の4倍の画素数の画像データが得られる。
【0022】
固体撮像素子605〜608の出力信号は、AD変換機609によりディジタル値に変換され,マルチプレクサ610で時間多重され出力される。マイクロプロセッサ612は、プログラムメモリー614に書き込まれた命令を順次実行する。ユーザーインターフェース618から、撮影指示が出ると、マイクロプロセッサ612はタイミング発生器620を静止画取り込み用に変え、図8の流れ図で示される信号処理シーケンスを実行する。
【0023】
まず、マイクロプロセッサ612の指示によりDMAコントローラ611がデータメモリー613の所定位置に適切に格納し、固体撮像素子画素数の4倍の画素数の画像データがデータメモリー613上に再構成される。データメモリー613から適宜画像データを読み出し、ディジタル信号処理回路615で処理した結果をデータメモリー613に書き込むことを繰り返して、信号処理を実現する。信号処理アルゴリズムは、基本的に第1の実施例と同じである。
【0024】
第1の実施例との違いは、固体撮像素子の画素がそれぞれ光の3原色になっていて、第1の色光が緑色(G)、第2の色光が赤色(R)、第3の色光が青色(B)になっている点にある。このため、第1の色光である緑光色の補間画像には、人間の目の解像度特性を決める緑色光と赤色光のうちの赤色光に感度を有していない。このため、緑光色を含んでいない赤色部分の解像度の低下が懸念される。以下、赤色の背景の中に細い黒線がある場合を例にとって、色信号処理アルゴリズムを手順にしたがって説明する。
【0025】
まず、G信号に補間処理を施し、補間画像GIを得る。図9(a)は、固体撮像素子の出力信号であり、黒丸と×印はそれぞれ無信号のG信号とB信号を示し、矢印の長さがR信号のレベルを示している。細い黒線901は、2画素分の幅を持つものとするが、図面上は画素との位置関係がわかりやすいように細線の中心線のみを点線で示す。黒線とR画素の位置関係は、一致する画素902と隣接する画素903と離れている画素904の3種類で、信号量は説明を簡単にするため、それぞれ0,1/2,1とする。G信号のレベルは全て0で画像の相関方向は決定できないため、補間信号は数式1で計算される値となる。図9(b)は、補間画像GIを示している。G画素とB画素は全て0のため、B画素位置の補間値は0となる。R画素位置の補間値は、黒線上の画素905が−1/4、黒線に隣接する画素907が−1/8、さらに黒線より離れた画素906と908はそれぞれ+3/16と+1/32、その外側は0となる。
【0026】
図10(a)は、矢印がR画素位置の色差信号R−Gの画像CR0を示している。黒い線1001上にある色差信号1002は0−(−1/4)=1/4、黒い線1001を挟む位置にある色差信号1003は1/2−(−1/8)=5/8、色差信号1005は1−(3/16)=13/16、色差信号1004は1−(1/32)=31/32、その外側の色差信号は1となる。
【0027】
図10(b)は、色差信号の第1の補間値の決定方法を説明するための図である。細い矢印がR画素位置の色差信号を示し、太い矢印が第1の補間値を示している。第1の補間値は、隣接する4つの色差信号の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。例えば、色差信号レベル1006は色差信号レベル1003と1005の平均の23/32であり、色差信号レベル1007は色差信号レベル1003同士の平均であり5/8となる。細い黒線1001上にある色差信号1002は、信号レベルが周辺の色差信号レベルより低いため、第1の補間値の決定には使われていない。
【0028】
図10(c)は、色差信号の第2の補間値の決定方法を説明するための図である。細い矢印がR画素位置の色差信号と第1の補間値を示し、太い矢印が第2の補間値を示している。第2の補間値は、隣接する4つの色差信号値と第1の補間値の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。細い黒線1001上にある色差信号1002は、信号レベルが周辺の色差信号レベルより低いため、第2の補間値の決定にも使われていない。
【0029】
図10(d)は、色差信号の第3の補間値の決定方法を説明するための図である。細い矢印が第1の補間値CR1を示し、点線矢印が第2の補間値CR2を示し、太い矢印が第3の補間値CR3を示している。第3の補間値CR3は、隣接する4つの第2の補間値CR2の中間の2値の平均であり、選択された2つの値を太い矢印と2つの細い矢印を実線でつないで表現している。これら第1から第3の補間画像を合成してR−Gの補間画像CRRを合成する。この補間画像CRRでは、細い黒線1001上にある色差信号1008は、色差信号1006と1007の平均で43/64となる。これは、色差信号1002が補間値の決定に使われないために、色差信号1002より大きな値で置き換えられており、補間された色差信号R−Gの画像では黒線成分が低減してしまう。
【0030】
この色差画像の補間処理による解像度低下を防止するために、撮像素子出力から生成された赤色差信号画像CR0と第3の補間信号画像CR3の差を取り線形補間を施して輝度補正画像DYを生成し、第1の色光である補間G画像GIに加えた画像GCを生成する。この補間画像GCは、2つの色差信号と組み合わされる3原色信号のベースとなる信号なので、図9(c)に示されるように仮想の黒線成分を有したG画像となっており、色雑音を発生させずに色差信号から奪われた黒線成分を復元することができる。
【0031】
また、B画素の信号に関しても同様の操作を行い、第1から第3の補間信号を生成し、それを合成して補間された色差信号B−Gの画像CBBを生成する。青色光は人間の目の解像度特性を決める光ではないため、赤色光のように補正信号を生成しなくて良い。
【0032】
次に、補間画像GCに対し、周辺8画素の最大値と最小値の範囲外にある信号にクリップ処理を施す。これは、画素欠陥は発生頻度が小さくて、ほとんどが単独であるため、隣接画素のレベル範囲を超えたものはキズとみなしてクリップすることで、キズの極めて少ない画像が得られる。
【0033】
このようにして得られた、補間G画像GCと2つの色差信号画像CRR,CBBにマトリクス処理を施し、画像情報圧縮した後に、記録媒体インターフェース616を介して記録媒体617に撮影されたカラー画像データが記録される。
【0034】
また、緑色光と赤色光+青色光に分離する色分解プリズムに画素が市松状に配置された固体撮像素子2個を光学的に互いに補間する位置に固着し、赤色光+青色光の光像が結像される固体撮像素子には赤色光を遮断する色フィルタと青色光を遮断する色フィルタが交互に設けられた固体撮像素子のように、以上図面を用いて説明した以外にも、光学的に市松状に配置された第1の色光の分光感度を有する画素と、その画素を補間する位置に第2または第3の色光のいずれか一方の分光感度を有した画素が配置され、全体として画素が行列状に配列された固体撮像素子を用いてさえいれば本発明は使用できる。
【0035】
【発明の効果】
以上説明したように本発明のカラー固体撮像装置は、固体撮像素子の出力信号から算出された色差信号の補間処理の際に隣接する4画素の中間値2つの平均値で補間値を決める操作を繰り返し行って得られた補間値を合成して全画素の色差信号を算出するため、固体撮像素子の画素欠陥により発生していた色雑音を画像ボケを伴わずに低減でき、画像エッジ部で発生していたキズ補正エラーも生じない。このため、従来の欠陥画素位置を記憶し補正する方式で必要であった欠陥画素位置のメモリーやその書き込みの手間が省くことができる。また、画像信号から画素欠陥位置を検出する方式でできなかった小レベルの画素欠陥の補正もできる。さらに、本発明では色差信号に生じているレベル変動を実時間で低減できるため,固体撮像素子で避けられない検出雑音や光ショット雑音等のランダム雑音に起因する色雑音も低減でき、結果として透明感のある画像が得られるカラー固体撮像装置が実現できる。
【図面の簡単な説明】
【図1】この発明の第1の実施例を説明するためのカラー固体撮像装置のブロック図。
【図2】Y信号用補間処理回路13のより詳細なブロック図。
【図3】本発明の第1の実施例に係る色差信号の補間処理回路のブロック図。
【図4】本発明の第1の実施例に係る色差信号の画素補間方法を説明するための図。
【図5】本発明のの効果を説明するための図。
【図6】本発明の第2の実施例を説明するためのカラー固体撮像装置のブロック図。
【図7】色分解プリズムに固着された固体撮像素子の位置関係を説明するための図。
【図8】本発明の第2の実施例に係る信号処理アルゴリズムの流れ図。
【図9】本発明の第2の実施例に係る第1の色光画像の補間処理を説明するための図。
【図10】本発明の第2の実施例に係る色差信号の補間処理を説明するための図。
【図11】従来のキズ補正回路を説明するためのブロック図。
【符号の説明】
10,619……駆動回路、 11,605,606,607,608,1101……固体撮像素子、 12……色フィルタ、 13……Y信号用補間処理回路、 14,17……遅延補償回路、 15……減算器、 16……色差信号用補間処理回路、 18……マトリクス回路、 19,720……タイミング発生器、 21,31……入力端子、 22……同時化回路、 221,355……1水平時間遅延回路、 222,351,352……1画素時間遅延回路、 23……相関判定回路、 24……補間信号合成回路、 241……加算器、 242,243,353,354,356,357……スイッチ、 25,36……出力端子、 32,33,34……補間信号発生回路、 321,331,332,333,341……2水平時間遅延回路、 322,323,334,335,336,337,342……2画素時間遅延回路、 324,338,339,343……中間値処理回路、 331,332,333,334,335,336,337……遅延回路、 35……合成回路、 51,52,52a,52b,52c,53……画素欠陥の影響が生じる画素の信号レベル、 601……色分離プリズムブロック、 602,603……色分離鏡、 604……ハーフミラー、 609……AD変換機、 610……マルチプレクサ、 611……DMAコントローラ、 612……マイクロプロセッサ、 613……データメモリー、 614……プログラムメモリー、 615……ディジタル信号処理回路、 616……記録媒体インターフェース、 617……記録媒体、 618……ユーザーインターフェース、 1102……キズ補正回路。
Claims (4)
- 市松状に配置された第1の色光の分光感度を有する画素と、その画素を補間する位置に第2または第3の色光のいずれか一方の分光感度を有した画素がそれぞれ行列状に配置され、全体として画素が行列状に配列された固体撮像素子を有し、前記固体撮像素子の出力信号から前記固体撮像素子の全画素に対する前記第1の色光に対応する第1の色信号を生成し、前記第2および第3の色光に対応する画素位置で前記第1の色光の画素信号との差をとり色差信号を生成し、前記色差信号から補間処理により前記固体撮像素子の全画素に対する色差信号を生成する固体撮像素子において、前記色差信号に施される補間処理は、前記色差信号の互いに隣接する画素が作る四角形の中心位置での色差信号を前記四角形の4頂点の色差信号値の2個の中間値の平均値で算出した第1の補間信号を生成し、前記色差信号と前記第1の補間信号の互いに隣接する画素が作る四角形の中心位置での色差信号を前記四角形の4頂点の色差信号値の2個の中間値の平均値で算出した第2の補間信号を生成し、前記第2および第3の色光に対応する画素位置で周辺画素信号の中間値の平均値で算出した第3の補間信号を生成し、前記第1および第2および第3の補間信号を合わせて全画素に対する色差信号を得ることを特徴とするカラー固体撮像装置。
- 請求項1において、前記第3の補間信号と前記固体撮像素子の画素信号から生成された色差信号の差信号で、前記第1の色光の画素信号に補正を施すことを特徴とするカラー固体撮像装置。
- 固体撮像素子は、3色から構成され、そのうち1色が市松状に配置されているモザイク色フィルタが設けられた固体撮像素子であることを特徴とする請求項1または2記載のカラー固体撮像装置。
- 固体撮像素子は、色分解光学系に互いに補間する位置関係で取付けられた複数の固体撮像素子であることを特徴とする請求項1または2記載のカラー固体撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002301630A JP2004140495A (ja) | 2002-10-16 | 2002-10-16 | カラー固体撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002301630A JP2004140495A (ja) | 2002-10-16 | 2002-10-16 | カラー固体撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004140495A true JP2004140495A (ja) | 2004-05-13 |
Family
ID=32449925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002301630A Pending JP2004140495A (ja) | 2002-10-16 | 2002-10-16 | カラー固体撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004140495A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006262167A (ja) * | 2005-03-17 | 2006-09-28 | Uniden Corp | 画素補完方法 |
US7995868B2 (en) | 2004-10-19 | 2011-08-09 | Megachips Corporation | Image processing method and image processing device |
-
2002
- 2002-10-16 JP JP2002301630A patent/JP2004140495A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7995868B2 (en) | 2004-10-19 | 2011-08-09 | Megachips Corporation | Image processing method and image processing device |
US8515210B2 (en) | 2004-10-19 | 2013-08-20 | Megachips Corporation | Image processing method and image processing device |
JP2006262167A (ja) * | 2005-03-17 | 2006-09-28 | Uniden Corp | 画素補完方法 |
JP4580791B2 (ja) * | 2005-03-17 | 2010-11-17 | ユニデン株式会社 | 画素補完方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4536170B2 (ja) | 撮像装置 | |
US7593569B2 (en) | Pixel defect correction device | |
KR100809351B1 (ko) | 투사 영상을 보정하는 방법 및 장치 | |
EP2518995B1 (en) | Multocular image pickup apparatus and multocular image pickup method | |
US10217034B2 (en) | Image processing device, imaging device, and image processing method | |
JP4190805B2 (ja) | 撮像装置 | |
JP4796871B2 (ja) | 撮像装置 | |
JP4985124B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2000244823A (ja) | 撮像素子の欠陥画素補正装置 | |
KR100956228B1 (ko) | 왜곡 영상 보정 기능을 갖는 영상처리 장치 | |
TW200822764A (en) | Imaging device and signal processing method | |
JP3980781B2 (ja) | 撮像装置および撮像方法 | |
JPH08205181A (ja) | 色収差補正回路および色収差補正機能付き撮像装置 | |
JP2002112276A (ja) | カラー固体撮像装置 | |
JP4246244B2 (ja) | 撮像装置 | |
JP4029389B2 (ja) | カラー固体撮像装置 | |
JP4566974B2 (ja) | 光量差補正方法 | |
JP5673186B2 (ja) | 撮像装置及び撮像装置の補間処理方法 | |
JP2004140495A (ja) | カラー固体撮像装置 | |
JP3730063B2 (ja) | 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置 | |
JP4279407B2 (ja) | 画素欠陥補正装置および画素欠陥検出装置ならびに方法 | |
JP2000165892A (ja) | 画素補間方法および画像処理装置 | |
JP5109911B2 (ja) | 撮像装置および補間処理方法 | |
JP5090899B2 (ja) | 撮像装置 | |
JP4483746B2 (ja) | 欠陥画素補正方法及び装置 |