JP2003234958A - 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ - Google Patents

白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ

Info

Publication number
JP2003234958A
JP2003234958A JP2002031947A JP2002031947A JP2003234958A JP 2003234958 A JP2003234958 A JP 2003234958A JP 2002031947 A JP2002031947 A JP 2002031947A JP 2002031947 A JP2002031947 A JP 2002031947A JP 2003234958 A JP2003234958 A JP 2003234958A
Authority
JP
Japan
Prior art keywords
pixel
circuit
brightness
pixel data
peripheral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002031947A
Other languages
English (en)
Other versions
JP4059686B2 (ja
Inventor
Tomoo Kokubo
朝生 小久保
Jun Funakoshi
純 船越
Katsuyoshi Yamamoto
克義 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2002031947A priority Critical patent/JP4059686B2/ja
Priority to US10/358,212 priority patent/US7106912B2/en
Priority to KR1020030007674A priority patent/KR100874935B1/ko
Priority to TW092102556A priority patent/TWI226196B/zh
Publication of JP2003234958A publication Critical patent/JP2003234958A/ja
Application granted granted Critical
Publication of JP4059686B2 publication Critical patent/JP4059686B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Input (AREA)

Abstract

(57)【要約】 【課題】 白点故障の発生箇所を保持するための記憶装
置を用いずに白点故障補完を行なう。 【解決手段】 画素部200を構成する画素についての
白点故障補完処理を順次行なう。周辺画素データ保持部
110は、読み出し回路300より画素データを取得
し、これを保持する。比較判定部120は、保持された
対象画素とその周辺画素との明度を比較し、この比較結
果に基づいて、対象画素が周辺画素と比較して予め決め
られた所定の値以上の明度を有する白点故障であるか否
かを判定する。補完演算部130では、比較判定部12
0により対象画素が白点故障であると判定された場合、
周辺画素データ保持部110に保持されている対象画素
の画素データとその周辺の周辺画素の画素データを使用
して補完演算を行ない、補完データを生成する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は白点故障補完回路及
びこの白点故障補完回路を用いたイメージセンサに関
し、特に固体撮像素子が配置されて成る画素部に発生し
た白点故障を補完する白点故障補完回路及びこの白点故
障補完回路を用いたイメージセンサに関する。
【0002】
【従来の技術】現在、デジタルカメラやデジタルビデオ
カメラ等に用いられる固体撮像素子として、CCD(Ch
arge Coupled Device)や、CMOS(Complementary M
etal Oxide Semiconductor)イメージセンサが用いられ
ている。
【0003】このようなCCDやCMOSイメージセン
サでは、画面上の特定位置の画素がフォトダイオードの
特性やセンサのばらつき等により一定レベル以上の出力
になることで、常に固定された色になることがある。こ
のような現象は、白点故障や白点汚れと呼ばれており、
現在の製造工程で完全に除去することは困難である。白
点故障のあるイメージセンサで暗い映像を写すと、白点
故障した箇所が明るい色のデータとして出力されるため
非常に目立つ。このため、従来は故障箇所の周辺の画素
データを用いて補完処理していた。
【0004】従来の白点故障を補完する白点故障補完回
路について説明する。図19は、従来の白点故障補完回
路とその周辺回路の構成図である。白点故障の発生箇所
はイメージセンサ個々に固有であるため、予め発生箇所
を白点故障箇所格納用記憶装置910に保持しておく。
一致比較器920は、画素の位置を特定する位置情報
(POS)と白点故障箇所格納用記憶装置910に保持
されている白点故障の位置とが一致するかどうかをチェ
ックし、結果を白点故障補完回路930に通知する。白
点故障補完回路930では、画素データ(DATA)を
入力した画素が白点故障を発生している画素であること
が通知された場合、周辺画素の画素データを用いて白点
故障箇所の補完処理を行なう。白点故障補完処理が行な
われたデータは、RGB変換回路940においてRGB
データに変換されて出力される。
【0005】
【発明が解決しようとする課題】しかし、従来の白点故
障補完回路では、白点故障の発生箇所を保持するための
記憶装置が必要であるため、回路が冗長となるという問
題がある。また、白点故障箇所の検出のための検査が必
要となるという問題もある。
【0006】上記の説明のように、従来の白点故障補完
回路では、予め検出しておいた白点故障の発生箇所を保
持するために、レジスタやROM等の記憶装置を設けな
ければならなかった。このような記憶装置の記憶容量
は、白点故障箇所に対する補正の許容数分必要となる。
このため、記憶装置の容量はイメージセンサの総画素数
に応じて増大し、かつ冗長な回路となり、回路規模が大
きくなってしまうという問題がある。一方、補正の許容
数を超える白点故障箇所が発生したイメージセンサは不
良品としてはじかれるため、補正の許容数を少なくして
記憶容量を小さくしようとすると不良品が増大するとい
う問題が生じる。近年、総画素数は増加する方向にあ
り、このように記憶装置を用いて白点故障を補完する手
法は限界にきている。
【0007】また、従来行なわれている白点補完手法
は、予め検知された白点故障発生画素について、予め決
められている係数等を用いて補完処理を施す。このよう
に、補完処理は白点故障発生箇所ごとに独立して行なわ
れるため、不自然な画像となることがある。
【0008】また、白点故障の除去方法として冗長な記
憶装置を使用しないメディアンフィルタ等があるが、こ
れには映像の解像度が低下するという欠点がある。さら
に、白点故障の発生箇所を予め保持しておくために、イ
メージセンサのチップ毎に白点故障箇所の検出のための
検査が必要となるという問題がある。このため、製造工
程において白点故障箇所検出のための検査と発生の箇所
の登録という工程を経なければならず、製造工程も冗長
なものとなる。
【0009】このように、従来の記憶装置を用いた冗長
な白点故障補完回路は、イメージセンサを使用したシス
テムやイメージセンサをLSIとして小型化・集積化す
る際の問題となる。また、イメージセンサの解像度の低
下は、携帯電話等で使用されるような総画素数の少ない
場合に、ぼやけた映像となるという問題が生じる。
【0010】本発明はこのような点に鑑みてなされたも
のであり、白点故障の発生箇所を保持するための記憶装
置を必要としない白点故障補完回路及びこの白点故障補
完回路を用いたイメージセンサ並びに白点故障補完方法
を提供することを目的とする。
【0011】
【課題を解決するための手段】本発明では上記課題を解
決するために、固体撮像素子が配置されて成る画素部に
発生した白点故障を補完する白点故障補完回路におい
て、画素部を構成する所定の対象画素とその周辺の周辺
画素の画素データを保持する周辺画素データ保持部と、
前記対象画素と周辺画素との明度を比較し、比較結果に
基づいて前記対象画素が前記周辺画素と比較して予め決
められた所定の値以上の明度を有する白点故障であるか
否かを判定する比較判定部と、前記比較判定部により前
記対象画素が白点故障であると判定された場合に前記周
辺画素データ保持部に保持されている前記対象画素及び
周辺画素の画素データを用いて補完演算を行なう補完演
算部と、を具備したことを特徴とする白点故障補完回
路、が提供される。
【0012】このような構成の白点故障補完回路では、
画素部200を構成する画素についての白点故障補完処
理を順次行なう。周辺画素データ保持部110は、画素
部200が検知した画素データを読み出し回路300よ
り取得し、所定の対象画素とその画素の周辺にある周辺
画素についての画素データを保持する。比較判定部12
0は、周辺画素データ保持部110の保持する対象画素
とその周辺画素との明度を比較し、その比較結果に基づ
いて、対象画素が周辺画素と比較して予め決められた所
定の値以上の明度を有する白点故障であるか否かを判定
する。白点故障であるか否かは、周辺画素の明度との関
係に応じて決まる。例えば、映像が明るく周辺画素の明
度も高いため対象画素との明度の差があまりない場合に
は補完の必要な白点故障と見なされないが、暗い映像で
周辺画素の明度が低い場合には白点故障と見なされるこ
とがある。補完演算部130では、比較判定部120に
より対象画素が白点故障であると判定された場合、周辺
画素データ保持部110に保持されている対象画素の画
素データとその周辺の周辺画素の画素データを使用して
補完演算を行ない、補完データを生成する。
【0013】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。図1は、本発明の一実施の形態で
ある白点故障補完回路を具備したイメージセンサの構成
図である。
【0014】本発明に係るイメージセンサは、白点故障
を補完する白点故障補完回路100、画素がマトリクス
状に配列された画素部200、画素部200を走査して
画素データを順次読み出す読み出し回路300及び補完
された後の画素データをRGBデータに変換するRGB
変換回路400から構成される。
【0015】画素部200は、画素がマトリクス状に配
列されており、画素が取得した映像信号を出力する。読
み出し回路300は、画素部200を順次走査して映像
信号を読み出し、雑音成分の除去等の信号処理を行な
う。画素部200と読み出し回路300の詳細は、後述
する。
【0016】白点故障補完回路100は、読み出し回路
300より読み出された対象の画素データをその周辺画
素データを保持する周辺画素データ保持部110、対象
画素と周辺画素との明度を比較し、比較結果に応じて対
象画素が白点故障かどうかを判定する比較判定部12
0、白点故障と判定された場合に補完演算を行なう補完
演算部130及び補完演算に用いる補完係数を記憶する
補完係数記憶部140から構成される。
【0017】周辺画素データ保持部110は、読み出し
回路300から順次出力される所定の対象画素とその周
辺の周辺画素の画素データを保持する。画素データは、
対象画素と対象画素と明度を比較するための1以上の周
辺が外し、その数は特定しない。また、画素データの保
持は、フリップフロップ回路あるいは記憶装置等によっ
て行なう。
【0018】比較判定部120は、周辺画素データ保持
部110で保持されている対象画素と周辺画素との明度
を比較し、対象画素が周辺画素より所定の値以上の高い
明度であるかどうか、すなわち白点故障であるかどうか
を判定する。白点故障であるか否かは、周辺画素の明度
との関係に応じて決まる。例えば、映像が明るく周辺画
素の明度も高いため対象画素との明度の差があまりない
場合には補完の必要な白点故障と見なされないが、暗い
映像で周辺画素の明度が低い場合には白点故障と見なさ
れることがある。判定結果、すなわち、白点故障と見な
せるかどうかは、補完演算部130に送られる。また、
対象画素は、周辺画素データ保持部110に保持されて
いるデータのうちの真ん中として順次処理してもよい。
あるいは、保持されている画素データのうち最も明度の
高いもの、すなわち白点故障の可能性が高い画素を選択
し、これを対象画素とすることもできる。さらに、周辺
画素データ保持部110が、複数の色成分の画素データ
を保持している場合、明度の比較は同色の画素データで
行なう。
【0019】補完演算部130は、周辺画素データ保持
部110より対象画素と周辺画素の画素データを入力
し、比較判定部120より明度比較による白点故障の判
定結果を取得する。また、読み出し回路300より明度
レベルを取得する。明度レベルは、対象画素の近傍で検
出された映像の明るさをいくつかのレベルに分類したも
のであって、例えば読み出し回路300が画素部200
からの出力信号を映像の明度に応じて増幅する際の増幅
率等から生成される。補完演算部130では、白点故障
であると見なされた対象画素を、周辺画素を用いて補完
する。白点故障と見なされた画素に対する補完は、明度
レベルに応じて周辺画素の使用比率を調整する加重平均
を行なって算出される。これらの比率を表す補完係数
は、明度レベルに応じて演算時に算出することもできる
し、予め補完係数記憶部140に記憶しておくこともで
きる。また、明度レベルに応じて補完を行なうか否かを
決めることもできる。例えば、明度レベルが高い明るい
画面では白点故障は目立たないため補完を行なわず、明
度レベルが低い暗い画面では白点故障が目立つため補完
を行なう。補完された補完データは、RGB回路400
に送られる。
【0020】補完係数記憶部140は、明度レベルに応
じて決定された最適な補完係数を予め記憶しておくメモ
リ等の記憶装置である。RGB回路400は、白点故障
補完回路100により白点故障が補完された後の画素デ
ータをRGBデータに変換する。
【0021】このような構成の白点故障補完回路100
を含むイメージセンサの動作について説明する。読み出
し回路300は、画素部200からの出力信号から雑音
成分を除く等の処理を行い、読み出した画素データを位
置情報(POS)とともに順次出力する。白点故障補完
回路100では、順次入力する画素データに対して、白
点故障の検出とその補完処理を施し、補完後の画素デー
タをRGB回路400へ出力する。周辺画素データ保持
部110に、出力される画素データを一時保存してお
く。比較判定部120は、一時保存されている対象画素
とその周辺画素の明度を比較し、対象画素が周辺画素と
比較して所定の値以上の明度を有するか否か、すなわ
ち、白点故障であるか否かを判定する。判定結果は、補
完演算部130へ送られる。補完演算部130は、画素
データと映像の明度レベルを取得し、比較判定部120
の判定結果により白点故障であると見なされた場合に、
補完係数記憶部140に記憶された明度レベルに応じた
補完係数を用いて補完演算を行なう。白点故障と見なさ
れた画素に対する補完は、明度レベルに応じて周辺画素
の使用比率を調整する加重平均を行なって算出される。
【0022】このように、周辺画素と明度を比較するこ
とにより、記憶装置を使用することなく白点故障を検出
して補正を行なうことが可能となる。また、回路規模は
総画素数に依存しないため、記憶装置を使用した従来の
方法と同等の機能を小さく簡易な回路構成で実現でき
る。さらに、白点故障に対して明度レベルに応じた動的
な補完制御を行なうことで、明時映像に対する解像度の
低下を緩和することができる。
【0023】次に、本発明の白点故障補完回路及びこの
白点故障補完回路を備えたイメージセンサについて実施
例に基づいて説明する。まず、イメージセンサの画素部
200について説明する。図2は、イメージセンサの画
素部における有効画素とその拡大図である。画素部20
0は、固体撮像素子と固体撮像素子が検出した信号を取
り出す素子とから構成される画素がマトリクス状に配置
されている。それぞれの画素は、R(赤)、G(緑)、
B(青)の色成分を透過するフィルタを経由して入力す
る光の明度を検出し、信号として出力している。拡大さ
れた部分は、このようなフィルタを経由して経由して検
出される色の配列であり、ベイヤー配列と呼ばれる。ベ
イヤー配列は、一般的にイメージセンサのカラーフィル
タに使用されている配列である。以下、本発明の白点故
障補完回路及びこの白点故障補完回路を備えたイメージ
センサについて、図2に示した配列の場合を例に説明す
る。
【0024】次に、読み出し回路300について説明す
る。図3は、本発明の一実施の形態であるイメージセン
サの画素部と読み出し回路の構成図である。CDS回路
301は、画素部200から出力された信号から雑音成
分の信号を除いた信号成分を取り出す回路である。アン
プ回路302は、CDS回路301から出力された信号
を増幅する。増幅率(ゲイン)は、AGC制御回路30
3によって制御される。AGC制御回路303は、画素
部200の明るさ成分に応じてアンプ回路302の増幅
率を計算する。clamp回路304は、信号成分のオ
フセットを調整する。ADC回路305は、オフセット
調整された信号成分を8ビットのデジタルデータに変換
し、画素データとして次段の白点故障補完回路100に
出力する。TG回路306は、CDS回路301、画素
部200上の映像信号取り出しの操作タイミングを生成
する回路である。次段の白点故障補完回路100に対し
て画素の位置情報(POS)を出力する。デコード回路
307は、AGC制御回路303で生成された増幅率を
所定の明るさレベルにデコードする回路である。
【0025】デコード回路307により生成される明る
さレベルについて説明する。上記の説明のようにAGC
制御回路303は、画素部200上の一部(特定ライン
や短形領域)の明るさ成分を積算し、アンプ回路302
の増幅率を計算してアンプ回路302の増幅率を制御し
ている。デコード回路307では、増幅率をいくつかの
レベルに分類し、それぞれのレベルに対応した信号線の
出力をオンにする。AGC制御回路303では、増幅率
算出時に暗時映像ほど増幅率を上げるため、デコード回
路307の出力信号は、映像の明るさのレベルに対応す
る。例えば、デコード回路307では、明るさのレベル
を4レベルに分類し、それぞれのレベルに対応する出力
信号S1−S4を出力する。S1−S4は論理信号とし
て‘1’または‘0’の値をとり、必ずいずれかが
‘1’となり他は‘0’となるものとする。
【0026】このように、読み出し回路300によって
POS、画素データ及び明るさレベルが生成され、次段
の白点故障補完回路100に出力される。次に、本発明
に係る白点故障補完回路100について実施例で説明す
る。
【0027】まず、第1の実施例として、画素部のライ
ン上の連続する5画素分の画素データに基づいて白点故
障の補完を行なう回路について説明する。図4は、第1
の実施例における白点故障補完回路の回路図である。
【0028】第1の実施例の白点故障補完回路は、周辺
画素データを保持する周辺画素データ保持部であるフリ
ップフロップ回路501、502、503、504、5
05、画素データの明度を比較し白点故障であるかどう
かを判定する比較判定部である判定回路508と判定結
果に応じて出力信号を選択するセレクタ回路506、及
び補完演算を行なう補完演算部である白点補完回路50
7から構成される。
【0029】フリップフロップ回路(以下、FFとす
る)501、502、503、504、505は、上記
の説明の読み出し回路のADC回路305から出力され
た8ビットの画素データを連続5画素分保持している。
保持される画素データの組み合わせについて図5を用い
て説明する。保持された5画素分の画素データは、
(1)R2を対象画素としたR成分の場合、(2)G2
を対象画素としたG成分の場合、(3)B2を対象画素
としたB成分の場合、の3通りの組み合わせがある。こ
のように、第1の実施例の場合、対象画素を中心の第3
番目の画素として、同色の周辺画素は第1番目と第5番
目に存在する。
【0030】図4に戻って説明する。上記の説明のよう
な画素データの組み合わせが、FF501、502、5
03、504、505に保持されている。ここで、便宜
的に、FF501の出力をP1、FF503の出力をP
3及びFF505の出力をP3とする。判定回路508
及び白点補完回路507には、対象画素の画素データを
保持するFF503、及び対象画素と同色の周辺画素の
画素データを保持するFF501とFF505の出力が
接続されている。
【0031】判定回路508は、上記の説明のような対
象画素(P2)と、対象画素と同色の周辺画素(P1と
P3)を入力し、明度の比較を行ない、対象画素(P
2)が同色の周辺画素(P1とP3)に比べて予め決め
られた所定の値以上に明度が高いか否か、すなわち白点
故障であるか否かを判定する。判定結果はセレクタ50
6に出力される。セレクタ506は、白点故障である場
合には、白点補完回路507によって補完された補完デ
ータを出力し、それ以外の場合は対象画素(P2)の画
素データをそのまま出力する。
【0032】ここで比較条件と、比較条件に応じた判定
回路508の動作について説明する。以下、R成分の場
合で説明する。図6は、第1の実施例における比較条件
とその判定を示したものである。(1)条件には、2つ
の比較条件が設定されている。条件1は、「対象画素R
2のが画素データの明度が周辺画素R1とR3の明度の
間にあるか」である。また、条件2は、「対象画素R2
の画素データの明度が、周辺画素R1とR3の明度の平
均より大きいか」である。
【0033】(2)判定は、条件1と条件2の成立/不
成立の組み合わせに応じて決定される補完処理を行なう
か否かの判定を示している。R2は、判定結果に応じた
R2の値を示している。
【0034】条件1が成立する場合は、対象画素R2の
明度は周辺画素R1とR2の明度の間にあることから、
白点故障ではない。このため、セレクタ506は対象画
素R2の画素データをそのまま出力する(補完処理は行
なわない)。条件1が不成立の場合、対象画素R2の明
度は、周辺画素R1とR2の明度範囲にはないことにな
る。そこで、条件2により明度の差をチェックする。条
件2が不成立の場合、対象画素R2は、周辺画素の平均
明度より明度が低いことから白点故障ではない。このた
め、セレクタ506は、対象画素R2の画素データをそ
のまま出力する(補完処理は行なわない)。条件2が成
立する場合、対象画素R2は、周辺画素の平均明度より
明度が高いことから白点故障の可能性が高いと判定され
る。このため、R2には白点補完回路507において、
次式のように周辺画素R1、R2に基づく補完処理が施
される。ここで、m、nは、任意の補完係数とする。
【0035】
【数1】 R2=(mR1+2nR2+mR3)/(2m+2n) ・・(1) セレクタ506は、白点補完回路507により補完処理
が施されたR2を選択して出力する。
【0036】ここでは、R成分のみについて説明した
が、G、Bも同様の処理を行なう。次に、白点補完回路
507について説明する。図7は、第1の実施例におけ
る白点補完回路の回路図である。図4と同じものには同
じ番号を付し、説明は省略する。白点補完回路は、デコ
ード回路の生成した明度レベル(S1−S4)に応じて
1/0の論理積を生成するAND1、AND2、AND
3、AND4と、周辺画素(P1とP3)とを加算平均
するADD1、ADD1の出力に対象画素(P2)を加
算平均するADD2、さらにSEL1とSEL2の出力
を加算平均するADD3、AND1の出力信号に応じて
ADD2出力またはP2を選択するSEL1、AND2
の出力信号に応じてADD1の出力またはP2を選択す
るSEL2、AND3の出力信号に応じてADD1の出
力またはADD3の出力を選択するSEL3、及びAN
D4の出力に応じてP1またはSEL3の出力を選択す
るSEL4とから構成される。
【0037】AND1は、明度レベルがS2(S2のみ
1)の場合に1を出力し、SEL1にADD2の出力を
選択させる。AND2は、明度レベルがS3(S3のみ
1)の場合に1を出力し、SEL2にADD1の出力を
選択させる。AND3は、明度レベルがS4(S4のみ
1)の場合に1を出力し、SEL3にADD1の出力を
選択させる。AND4は、明度レベルがS1(S1のみ
1)の場合に1を出力し、SEL4にP2を選択させ
る。
【0038】明度レベル(S1―S3)とセレクタSE
L1、SEL2、SEL3、SEL4の動作について図
8で説明する。図8は、第1の実施例における明度レベ
ルとセレクタの動作及び補完係数の関係図である。セレ
クタ選択は、AGCデコード出力によってSEL1、S
EL2、SEL3、SEL4がどちらを選択するかを表
している。例えば、S1=1の場合は、SEL3が1側
を選択し、その他のセレクタは0側を選択する。また、
明度レベル(S1−S4)に応じて、補完を行なう際の
補完係数を算出するか、予め記憶部に記憶しておいた補
完係数を抽出して補完を行なう。備考は、補完係数の例
である。
【0039】例えば明度レベルS1=1の場合、論理積
回路のうちAND3の出力のみが1となり、SEL3が
1側、すなわちADD1の出力を選択する。他のSEL
1はP2を、SEL2はP2を、SEL4はSEL3の
出力をそのまま出力する。従って、明度レベルS1=1
の場合、周辺画素(P1とP3)を用いて補完演算を行
ない、算出された補完データをSEL4から出力する。
明度レベルS4=1の場合、AND4が1となり、SE
L4からP2の値がそのまま出力される。同様に、明度
レベルS2=1、S3=1の場合も、明度レベルに応じ
た適切な補完係数により補完処理が行なわれ、SEL4
より出力される。
【0040】このように、明度レベルに応じて予め決め
られた最適な補完係数により補完演算を行なうことによ
り、白点故障に対する補完制御を動的に行なうことが可
能となる。
【0041】次に、第2の実施例について説明する。第
2の実施例は、隣接する3×3画素のデータを用いて白
点故障補完を行なう回路の例である。図9は、第2の実
施例における白点故障補完回路の構成図である。さら
に、ここでは、白点補完回路をRGB変換回路に組み込
んでいる。
【0042】第2の実施例の白点故障補完回路は、対象
画素及び周辺画素の画素データを保持する周辺画素デー
タ保持部であるフリップフロップ回路、FF703、F
F704、FF705、FF706、FF707、FF
708、FF709、FF710及びFF711とRG
B変換用ラインメモリ712、及び白点故障補完とRG
B変換を行なう白点故障補完回路+RGB変換回路71
4から構成される。
【0043】RGB変換用ラインメモリ712は、RG
B変換用の画素データを保持している。フリップフロッ
プ回路、FF703、FF704、FF705、FF7
06、FF707、FF708、FF709、FF71
0及びFF711は、RGB変換用ラインメモリ712
に保持されたRGB変換用の画素データ及びADC回路
からの出力信号3×3画素分を保持する周辺画素データ
保持部を構成する。フリップフロップ回路FF703、
FF704、FF705は、ADC回路から出力信号に
接続し、ADC変換された後の画素データを順次3画素
分保持する。FF706、FF707、FF708、F
F709、FF710及びFF711は、RGB変換用
ラインメモリ712に保存された画素データを読み出し
て保持する。以下、便宜上、FF703に保持された画
素データをP1、FF704に保持された画素データを
P2、FF705に保持された画素データをP3、FF
706に保持された画素データをP4、FF707に保
持された画素データをP5、FF708に保持された画
素データをP6、FF709に保持された画素データを
P7、FF710に保持された画素データをP8、及び
FF711に保持された画素データをP9とする。
【0044】このような構成の周辺画素データ保持部に
おける画素データの組み合わせについて説明する。図1
0は、第2の実施例において保持される画素データの組
み合わせである。一般的なイメージセンサで行なわれる
処理のひとつにRGB変換がある。RGB変換では、3
×3画素以上のデータと記憶領域を最低必要とする。こ
こでは、RGB変換のための記憶領域(RGB変換用ラ
インメモリ712)に記憶された周辺画素の画素データ
を用いて白点故障の判定と白点故障の補完処理を行な
う。周辺画素の画素データが多いほど補完箇所に対する
データの精度が高くなる。しかしながら、処理のための
記憶領域は増加する。このため、ここではRGB変換用
に記憶されている画素データを使用している。3×3画
素における、各色成分ごとの組み合わせは、各色ごとに
4通りの計12通りになる。このうち、R成分とB成分
については、3×3画素に含まれる同色の画素数hの最
大は4であるので、同一の判定回路が構成される。G成
分は、3×3画素に含まれる同色の画素数hの最大は5
であるので別な回路構成となる。
【0045】それぞれの判定回路と白点補完回路につい
て説明する。図11は、第2の実施例におけるR成分と
B成分の判定回路と白点補完回路の回路図である。ここ
では、簡単のため、ゲインに応じた明度レベルを3段階
とした。
【0046】R成分とB成分用の判定回路及び白点補完
回路は、画素の位置情報(POS)をデコードするデコ
ーダ810、デコーダ810の出力信号に応じて入力信
号(P1、P2、・・・、P9)を選択するセレクタ82
0、比較器831、832、833、834より構成さ
れる比較判定部830、及び加算器841、842、8
43、844と、セレクタ845、846、847、8
48とから構成される白点補完部840から成る。
【0047】デコーダ810は、画素の位置情報(PO
S)をデコードし、入力信号を選択するセレクタ820
と、加算器842による加算値を選択するセレクタ84
7に供給する。
【0048】セレクタ820は、デコーダ810のデコ
ード出力に応じて、保持されている9画素の入力信号
(P1、P2、・・・、P9)のうち同色の画素となる入
力信号を選択する。すなわち、図10に示したパターン
のいずれかを選択する。例えば、R成分のh=4に相当
するデコード信号が入力した場合、9画素の入力信号
(P1、P2、・・・、P9)から、図10のR成分のh
=4に示したようなR1、R2、R3、R4に相当する
画素データを選択してSL1、SL2、SL3、SL4
に出力する。
【0049】比較判定部830は、SL1とSL2を比
較して大きい方を比較器833へ小さいほうを加算器8
41へ出力する比較器831、SL3とSL4を比較し
て大きい方を比較器833へ小さい方を加算器841へ
出力する比較器832、比較器831と比較器832の
出力を比較して大きい方を比較器834へ小さいほうを
加算器841へ出力する比較器833、及び加算器84
1によって算出される最も明度の高い画素データを除く
画素データの平均値とを比較する比較器834から構成
される。
【0050】比較器833の出力は、セレクタ820に
選択された画素のうち、最も高い明度の画素の画素デー
タであり、加算器841の出力は、比較器833により
選択されなかった3画素の画素データの平均値になる。
従って、比較器834では、比較器833により選択さ
れた最も明度の高い画素と、その他の3画素の平均の明
度が比較される。
【0051】白点補完部840は、比較器831、83
2、833が選択した画素データを加算する加算器84
1、セレクタ820の選択したSL1、SL2、SL
3、SL4の出力信号を加算する加算器842、加算器
841の出力を1/2及び1/4の係数で乗算した値を
加算する加算器843、セレクタ845とセレクタ84
6の出力を加算する加算器844、比較器834の出力
信号に応じて比較器833の出力信号あるいは0を選択
するセレクタ845、比較器834の出力信号に応じて
加算器841の出力信号あるいは加算器843の出力信
号を選択するセレクタ846、加算器842の出力に1
/4、1/2、1/1の係数を乗算した出力信号をデコ
ーダ出力信号に応じて選択するセレクタ848、及び比
較器834の出力信号に応じて加算器844の出力信号
あるいはセレクタ848の出力信号を選択するセレクタ
847から構成される。
【0052】加算器842は、セレクタ820により選
択された画素データを加算し、セレクタ847に出力す
る。このとき、a端子には加算値を1/4にしたデータ
が、b端子には加算値を1/2にしたデータが、c端子
には加算値を1/1にしたデータが出力される。セレク
タ847は、デコーダ810の出力に応じて、a、b、
c端子のいずれかを選択し、セレクタ848へ出力す
る。デコーダ810の出力信号は、選択された画素数と
見なすことができるので、セレクタ847の出力は、選
択された画素データの平均値となる。
【0053】加算器841、843、844及びセレク
タ845、846とから構成される部分では、画像の明
度レベル(ここではS1−S3)に応じた補完係数を用
いて補完演算処理を行なう。補完演算処理については、
後述する。加算器844は、補完演算が施された画素デ
ータをセレクタ848へ出力する。
【0054】セレクタ848は、補完演算が行なわれた
加算器844の出力信号と、補完演算が施されていない
セレクタ847の出力信号と、を比較器834の出力に
応じて選択する。すなわち、比較判定部830により、
白点故障と見なされた場合には補完処理が行なわれた加
算器844の出力信号が選択され、白点故障と見なされ
なかった場合には補完処理されていないセレクタ847
の出力信号が選択される。
【0055】次に、このような構成の判定回路及び白点
補完回路の動作について説明する。まず、デコーダ81
0は、POS信号に応じたデコード信号を生成し、セレ
クタ820と加算器842に供給する。図12は、第2
の実施例におけるデコーダの出力を示している。デコー
ダ810は、X方向及びY方向のPOS入力信号のLS
Bを参照し、色成分に応じたデコード信号を出力する。
例えば、Y(LSB)が0、X(LSB)も0の場合、
R成分のデコード出力は4、G成分のデコード出力は
4、B成分のデコード出力は1になる。デコード出力
は、3×3の画素データ保持部に存在する色成分のパタ
ーンを表している。例えば、R成分の出コート出力4
は、図10のR成分のh=1のパターンを示している。
【0056】セレクタ820は、デコーダ810のデコ
ード出力に応じて、画素データの選択を行なう。図13
は、第2の実施例におけるセレクタの制御論理を示して
いる。(1)は、R成分とB成分の場合のセレクタ選択
の表であり、(2)は後述するG成分の場合のセレクタ
選択の表である。また、(3)は、画素の配置図であ
る。ここでは、セレクタ820とともに、セレクタ84
7の動作について説明する。デコード出力が1の場合、
セレクタ820の出力端子SL1には、P5、すなわち
(3)の配置図を参照して真中の画素データが出力され
る。これは、図10のR成分のh=1のパターンが選択
されたことに相当する。このとき、セレクタ847の出
力端子は、c端子(1/1)が選択される。すなわち、
P5がそのまま出力される。また、デコード出力が2の
場合、セレクタ820の出力端子SL1にはP4、SL
2にはP6が出力される。これは、図10のR成分のh
=2の左側のパターンに相当する。セレクタ847は、
b端子(1/2)が選択され、セレクタ847は、P4
とP6の平均値を出力する。
【0057】比較判定部830は、比較器833におい
て、比較器831、832により選択されたSL1、S
L2、SL3、SL4のうち最も明度の高い画素の画素
データを選択する。さらに、比較器834において、最
も明度の高い画素の画素データと、加算器841で算出
される最も明度の高い画素データを除くSL1、SL
2、SL3、SL4の平均値とを比較する。これによ
り、最も明度の高い画素がその他の画素の平均より高い
明度を有する白点故障であるか否かを判定する。
【0058】白点補完部840は、加算器842とセレ
クタ847とによって補完なしの出力信号を算出し、加
算器841、843、844とセレクタ845、846
によって補完処理が施された出力信号を算出する。最終
段のセレクタ848は、比較判定部830の出力信号に
応じていずれかを選択して出力する。図14は、第2の
実施例における判定条件と補完処理を示している。条件
1は、「最も明度の高い画素(max(G1、G2、・・
・、Gh))を除く画素データの平均よりも、最も明度
の高い画素(max(G1、G2、・・・、Gh))の明
度の方が高い」という条件である。この条件が成立した
場合、最も明度の高い画素(max(G1、G2、・・
・、Gh))は、白点故障であると見なされる。
【0059】表は、条件1が成立した場合(白点故障と
見なされる場合)と、不成立の場合(白点故障と見なさ
れない場合)の補完処理を示している。不成立の場合
は、比較器834の出力は0、成立する場合は1が出力
される。Gの値は、このとき、算出される画素データで
ある。条件1が成立する場合、Gは、所定の補完係数
k、jを用いて算出される。kとjは、AGCデコード
回路の出力する映像の明度レベルに応じて決定される。
図15は、第2の実施例におけるAGCデコード出力と
選択される補完関数の一例を示している。このように、
明度レベルに応じて適切な補完係数を選択することによ
り、白点故障に対して動的な補完制御を行なうことがで
きる。
【0060】次に、G成分の判定回路について説明す
る。図16は、第2の実施例におけるG成分の判定回路
と白点補完回路の回路図である。図11と同じものには
同じ番号を付し、説明は省略する。
【0061】G成分用の判定回路及び白点補完回路は、
画素の位置情報(POS)をデコードするデコーダ81
0、デコーダ810の出力信号に応じて入力信号(P
1、P2、・・・、P9)を選択するセレクタ820、比
較器851、852、853、854、855より構成
される比較判定部850、及び加算器861、862、
863、864と、セレクタ865、866、867、
868とから構成される白点補完部860から成る。
【0062】比較判定部850は、SL1とSL2を比
較して大きい方を比較器853へ小さいほうを加算器8
61へ出力する比較器851、SL3とSL4を比較し
て大きい方を比較器853へ小さいほうを加算器861
へ出力する比較器852、比較器851と比較器852
の出力を比較して大きい方を比較器854へ小さいほう
を加算器861へ出力する比較器853、比較器853
の出力とSL5を比較して大きい方を比較器855へ小
さい方を加算器861出力する比較器854、及び比較
器854により得られる最も明度の高い画素の画素デー
タと加算器861によって算出される他の画素データの
平均値とを比較する比較器855から構成される。比較
器854の出力は、最も高い明度の画素の画素データで
あり、加算器861の出力は比較器854の出力画素を
除く4画素の平均の画素データになる。これにより、最
も明度の高い画素の明度と、他の4画素の平均の明度が
比較される。
【0063】白点補完部860は、比較器854、85
3、851、852が選択した画素データを加算する加
算器861、セレクタ820の選択したSL1、SL
2、SL3、SL4、SL5出力を加算する加算器86
2、加算器861の出力を1/2及び1/4の係数で乗
算した値を加算する加算器863、セレクタ865とセ
レクタ866の出力を加算する加算器864、比較器8
55の出力信号に応じて比較器854の出力信号あるい
は0を選択するセレクタ865、比較器855の出力信
号に応じて加算器861の出力信号あるいは加算器86
3の出力信号を選択するセレクタ866、加算器862
の出力に1/4、1/1の係数を乗算した出力信号をデ
コーダ出力信号に応じて選択するセレクタ867、及び
比較器855の出力信号に応じて加算器864の出力信
号あるいはセレクタ867の出力信号を選択するセレク
タ868から構成される。
【0064】上記の説明のR成分とB成分の白点補完部
860と同様に、セレクタ867より補完演算が行なわ
れない出力信号が供給され、加算器864より補完演算
が行なわれた出力信号が供給される。セレクタ868
は、比較器855の出力信号に応じて、出力信号を選択
する。すなわち、比較判定部850により、白点故障と
見なされた場合には補完処理が行なわれた加算器864
の出力信号が選択され、白点故障と見なされなかった場
合には補完処理されていないセレクタ867の出力信号
が選択される。
【0065】このように、G成分の場合は、選択される
信号が5画素データとなるだけで、R成分及びB成分と
同様の処理が行なわれる。上記の説明では補完に使用す
る画素を5×1と、3×3としたが、本発明では使用画
素数はこれに限定されない。また、明度レベルのレベル
数も、ゲインの調整レベルに応じて決定される。
【0066】上記の説明の本発明に係る白点故障回路を
有するイメージセンサの構成について説明する。白点故
障回路部は、イメージセンサ内部に組み込むことも出来
るし、イメージセンサの外部に接続することもできる。
【0067】図17は、内蔵型の構成図である。内蔵型
は、イメージセンサの共通基板10に、図3で示した画
素部200と読み出し部300とから成るイメージセン
サ共通部11と、RGB変換を行なうRGB変換処理部
12aと白点補完処理部12bとを有するカラープロセ
ッサ12とを配置する構成である。
【0068】図18は、外部接続の構成図である。外部
接続型は、図3で示した画素部200と読み出し部30
0とから成るイメージセンサ共通部20の基板と、RG
B変換を行なうRGB変換処理部31と白点補完処理部
32とを有するカラープロセッサ30の基板とを別に設
け、信号線で接続する構成である。
【0069】
【発明の効果】以上説明したように本発明では、対象画
素とその周辺にある周辺画素との明度を比較し、対象画
素が周辺画素と比較して予め決められた所定の値以上の
明度を有する場合、この対象画素と周辺画素の画素デー
タを用いて対象画素の補完処理を行なう。
【0070】このように、周辺画素と比較することによ
って対象画素に白点故障が発生しているか否かを検出す
るため、白点故障発生箇所を予め検出して記憶装置に保
持しておく必要がなくなる。この結果、記憶装置を使用
した場合より回路構成を小さくすることができる。ま
た、記憶装置を用いた回路とは異なり、回路規模は総画
素数に依存することはない。さらに、自動的に白点故障
を認識して補完するため、出荷試験の検査等で予め白点
故障箇所を検出しておく必要がない。
【図面の簡単な説明】
【図1】本発明の一実施の形態である白点故障補完回路
を具備したイメージセンサの構成図である。
【図2】イメージセンサの画素部における有効画素とそ
の拡大図である。
【図3】本発明の一実施の形態であるイメージセンサの
画素部と読み出し回路の構成図である。
【図4】第1の実施例における白点故障補完回路の回路
図である。
【図5】第1の実施例において保持される画素データの
組み合わせである。
【図6】第1の実施例における比較条件とその判定を示
したものである。
【図7】第1の実施例における白点補完回路の回路図で
ある。
【図8】第1の実施例における明度レベルとセレクタの
動作及び補完係数の関係図である。
【図9】第2の実施例における白点故障補完回路の構成
図である。
【図10】第2の実施例において保持される画素データ
の組み合わせである。
【図11】第2の実施例におけるR成分とB成分の判定
回路と白点補完回路の回路図である。
【図12】第2の実施例におけるデコーダの出力を示し
ている。
【図13】第2の実施例におけるセレクタの制御論理を
示している。
【図14】第2の実施例における判定条件と補完処理を
示している。
【図15】第2の実施例におけるAGCデコード出力と
選択される補完関数の一例を示している。
【図16】第2の実施例におけるG成分の判定回路と白
点補完回路の回路図である。
【図17】内蔵型の構成図である。
【図18】外部接続の構成図である。
【図19】従来の白点故障補完回路とその周辺回路の構
成図である。
【符号の説明】
100 白点故障補完回路 110 周辺画素データ保持部 120 比較判定部 130 補完演算部 140 補完係数記憶部 200 画素部 300 読み出し回路 400 RGB回路
─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成14年7月8日(2002.7.8)
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正内容】
【書類名】 明細書
【発明の名称】 白点故障補完回路及びこの白点故障補
完回路を用いたイメージセンサ
【特許請求の範囲】
【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は白点故障補完回路及
びこの白点故障補完回路を用いたイメージセンサに関
し、特に固体撮像素子が配置されて成る画素部に発生し
た白点故障を補完する白点故障補完回路及びこの白点故
障補完回路を用いたイメージセンサに関する。
【0002】
【従来の技術】現在、デジタルカメラやデジタルビデオ
カメラ等に用いられる固体撮像素子として、CCD(Ch
arge Coupled Device)や、CMOS(Complementary M
etal Oxide Semiconductor)イメージセンサが用いられ
ている。
【0003】このようなCCDやCMOSイメージセン
サでは、画面上の特定位置の画素がフォトダイオードの
特性やセンサのばらつき等により一定レベル以上の出力
になることで、常に固定された色になることがある。こ
のような現象は、白点故障や白点汚れと呼ばれており、
現在の製造工程で完全に除去することは困難である。白
点故障のあるイメージセンサで暗い映像を写すと、白点
故障した箇所が明るい色のデータとして出力されるため
非常に目立つ。このため、従来は故障箇所の周辺の画素
データを用いて補完処理していた。
【0004】従来の白点故障を補完する白点故障補完回
路について説明する。図19は、従来の白点故障補完回
路とその周辺回路の構成図である。白点故障の発生箇所
はイメージセンサ個々に固有であるため、予め発生箇所
を白点故障箇所格納用記憶装置910に保持しておく。
一致比較器920は、画素の位置を特定する位置情報
(POS)と白点故障箇所格納用記憶装置910に保持
されている白点故障の位置とが一致するかどうかをチェ
ックし、結果を白点故障補完回路930に通知する。白
点故障補完回路930では、画素データ(DATA)を
入力した画素が白点故障を発生している画素であること
が通知された場合、周辺画素の画素データを用いて白点
故障箇所の補完処理を行なう。白点故障補完処理が行な
われたデータは、RGB変換回路940においてRGB
データに変換されて出力される。
【0005】
【発明が解決しようとする課題】しかし、従来の白点故
障補完回路では、白点故障の発生箇所を保持するための
記憶装置が必要であるため、回路が冗長となるという問
題がある。また、白点故障箇所の検出のための検査が必
要となるという問題もある。
【0006】上記の説明のように、従来の白点故障補完
回路では、予め検出しておいた白点故障の発生箇所を保
持するために、レジスタやROM等の記憶装置を設けな
ければならなかった。このような記憶装置の記憶容量
は、白点故障箇所に対する補正の許容数分必要となる。
このため、記憶装置の容量はイメージセンサの総画素数
に応じて増大し、かつ冗長な回路となり、回路規模が大
きくなってしまうという問題がある。一方、補正の許容
数を超える白点故障箇所が発生したイメージセンサは不
良品としてはじかれるため、補正の許容数を少なくして
記憶容量を小さくしようとすると不良品が増大するとい
う問題が生じる。近年、総画素数は増加する方向にあ
り、このように記憶装置を用いて白点故障を補完する手
法は限界にきている。
【0007】また、従来行なわれている白点補完手法
は、予め検知された白点故障発生画素について、予め決
められている係数等を用いて補完処理を施す。このよう
に、補完処理は白点故障発生箇所ごとに独立して行なわ
れるため、不自然な画像となることがある。
【0008】また、白点故障の除去方法として冗長な記
憶装置を使用しないメディアンフィルタ等があるが、こ
れには映像の解像度が低下するという欠点がある。さら
に、白点故障の発生箇所を予め保持しておくために、イ
メージセンサのチップ毎に白点故障箇所の検出のための
検査が必要となるという問題がある。このため、製造工
程において白点故障箇所検出のための検査と発生の箇所
の登録という工程を経なければならず、製造工程も冗長
なものとなる。
【0009】このように、従来の記憶装置を用いた冗長
な白点故障補完回路は、イメージセンサを使用したシス
テムやイメージセンサをLSIとして小型化・集積化す
る際の問題となる。また、イメージセンサの解像度の低
下は、携帯電話等で使用されるような総画素数の少ない
場合に、ぼやけた映像となるという問題が生じる。
【0010】本発明はこのような点に鑑みてなされたも
のであり、白点故障の発生箇所を保持するための記憶装
置を必要としない白点故障補完回路及びこの白点故障補
完回路を用いたイメージセンサ並びに白点故障補完方法
を提供することを目的とする。
【0011】
【課題を解決するための手段】本発明では上記課題を解
決するために、固体撮像素子が配置されて成る画素部に
発生した白点故障を補完する白点故障補完回路におい
て、画素部を構成する所定の対象画素とその周辺の周辺
画素の画素データを保持する周辺画素データ保持部と、
前記対象画素と周辺画素との明度を比較し、比較結果に
基づいて前記対象画素が前記周辺画素と比較して予め決
められた所定の値以上の明度を有する白点故障であるか
否かを判定する比較判定部と、前記比較判定部により前
記対象画素が白点故障であると判定された場合に前記周
辺画素データ保持部に保持されている前記対象画素及び
周辺画素の画素データを用いて補完演算を行なう補完演
算部と、を具備したことを特徴とする白点故障補完回
路、が提供される。
【0012】このような構成の白点故障補完回路では、
画素部200を構成する画素についての白点故障補完処
理を順次行なう。周辺画素データ保持部110は、画素
部200が検知した画素データを読み出し回路300よ
り取得し、所定の対象画素とその画素の周辺にある周辺
画素についての画素データを保持する。比較判定部12
0は、周辺画素データ保持部110の保持する対象画素
とその周辺画素との明度を比較し、その比較結果に基づ
いて、対象画素が周辺画素と比較して予め決められた所
定の値以上の明度を有する白点故障であるか否かを判定
する。白点故障であるか否かは、周辺画素の明度との関
係に応じて決まる。例えば、映像が明るく周辺画素の明
度も高いため対象画素との明度の差があまりない場合に
は補完の必要な白点故障と見なされないが、暗い映像で
周辺画素の明度が低い場合には白点故障と見なされるこ
とがある。補完演算部130では、比較判定部120に
より対象画素が白点故障であると判定された場合、周辺
画素データ保持部110に保持されている対象画素の画
素データとその周辺の周辺画素の画素データを使用して
補完演算を行ない、補完データを生成する。
【0013】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。図1は、本発明の一実施の形態で
ある白点故障補完回路を具備したイメージセンサの構成
図である。
【0014】本発明に係るイメージセンサは、白点故障
を補完する白点故障補完回路100、画素がマトリクス
状に配列された画素部200、画素部200を走査して
画素データを順次読み出す読み出し回路300及び補完
された後の画素データをRGBデータに変換するRGB
変換回路400から構成される。
【0015】画素部200は、画素がマトリクス状に配
列されており、画素が取得した映像信号を出力する。読
み出し回路300は、画素部200を順次走査して映像
信号を読み出し、雑音成分の除去等の信号処理を行な
う。画素部200と読み出し回路300の詳細は、後述
する。
【0016】白点故障補完回路100は、読み出し回路
300より読み出された対象の画素データをその周辺画
素データを保持する周辺画素データ保持部110、対象
画素と周辺画素との明度を比較し、比較結果に応じて対
象画素が白点故障かどうかを判定する比較判定部12
0、白点故障と判定された場合に補完演算を行なう補完
演算部130及び補完演算に用いる補完係数を記憶する
補完係数記憶部140から構成される。
【0017】周辺画素データ保持部110は、読み出し
回路300から順次出力される所定の対象画素とその周
辺の周辺画素の画素データを保持する。画素データは、
対象画素と対象画素と明度を比較するための1以上の周
辺が外し、その数は特定しない。また、画素データの保
持は、フリップフロップ回路あるいは記憶装置等によっ
て行なう。
【0018】比較判定部120は、周辺画素データ保持
部110で保持されている対象画素と周辺画素との明度
を比較し、対象画素が周辺画素より所定の値以上の高い
明度であるかどうか、すなわち白点故障であるかどうか
を判定する。白点故障であるか否かは、周辺画素の明度
との関係に応じて決まる。例えば、映像が明るく周辺画
素の明度も高いため対象画素との明度の差があまりない
場合には補完の必要な白点故障と見なされないが、暗い
映像で周辺画素の明度が低い場合には白点故障と見なさ
れることがある。判定結果、すなわち、白点故障と見な
せるかどうかは、補完演算部130に送られる。また、
対象画素は、周辺画素データ保持部110に保持されて
いるデータのうちの真ん中として順次処理してもよい。
あるいは、保持されている画素データのうち最も明度の
高いもの、すなわち白点故障の可能性が高い画素を選択
し、これを対象画素とすることもできる。さらに、周辺
画素データ保持部110が、複数の色成分の画素データ
を保持している場合、明度の比較は同色の画素データで
行なう。
【0019】補完演算部130は、周辺画素データ保持
部110より対象画素と周辺画素の画素データを入力
し、比較判定部120より明度比較による白点故障の判
定結果を取得する。また、読み出し回路300より明度
レベルを取得する。明度レベルは、対象画素の近傍で検
出された映像の明るさをいくつかのレベルに分類したも
のであって、例えば読み出し回路300が画素部200
からの出力信号を映像の明度に応じて増幅する際の増幅
率等から生成される。補完演算部130では、白点故障
であると見なされた対象画素を、周辺画素を用いて補完
する。白点故障と見なされた画素に対する補完は、明度
レベルに応じて周辺画素の使用比率を調整する加重平均
を行なって算出される。これらの比率を表す補完係数
は、明度レベルに応じて演算時に算出することもできる
し、予め補完係数記憶部140に記憶しておくこともで
きる。また、明度レベルに応じて補完を行なうか否かを
決めることもできる。例えば、明度レベルが高い明るい
画面では白点故障は目立たないため補完を行なわず、明
度レベルが低い暗い画面では白点故障が目立つため補完
を行なう。補完された補完データは、RGB回路400
に送られる。
【0020】補完係数記憶部140は、明度レベルに応
じて決定された最適な補完係数を予め記憶しておくメモ
リ等の記憶装置である。RGB回路400は、白点故障
補完回路100により白点故障が補完された後の画素デ
ータをRGBデータに変換する。
【0021】このような構成の白点故障補完回路100
を含むイメージセンサの動作について説明する。読み出
し回路300は、画素部200からの出力信号から雑音
成分を除く等の処理を行い、読み出した画素データを位
置情報(POS)とともに順次出力する。白点故障補完
回路100では、順次入力する画素データに対して、白
点故障の検出とその補完処理を施し、補完後の画素デー
タをRGB回路400へ出力する。周辺画素データ保持
部110に、出力される画素データを一時保存してお
く。比較判定部120は、一時保存されている対象画素
とその周辺画素の明度を比較し、対象画素が周辺画素と
比較して所定の値以上の明度を有するか否か、すなわ
ち、白点故障であるか否かを判定する。判定結果は、補
完演算部130へ送られる。補完演算部130は、画素
データと映像の明度レベルを取得し、比較判定部120
の判定結果により白点故障であると見なされた場合に、
補完係数記憶部140に記憶された明度レベルに応じた
補完係数を用いて補完演算を行なう。白点故障と見なさ
れた画素に対する補完は、明度レベルに応じて周辺画素
の使用比率を調整する加重平均を行なって算出される。
【0022】このように、周辺画素と明度を比較するこ
とにより、記憶装置を使用することなく白点故障を検出
して補正を行なうことが可能となる。また、回路規模は
総画素数に依存しないため、記憶装置を使用した従来の
方法と同等の機能を小さく簡易な回路構成で実現でき
る。さらに、白点故障に対して明度レベルに応じた動的
な補完制御を行なうことで、明時映像に対する解像度の
低下を緩和することができる。
【0023】次に、本発明の白点故障補完回路及びこの
白点故障補完回路を備えたイメージセンサについて実施
の形態に基づいて説明する。まず、イメージセンサの画
素部200について説明する。図2は、イメージセンサ
の画素部における有効画素とその拡大図である。画素部
200は、固体撮像素子と固体撮像素子が検出した信号
を取り出す素子とから構成される画素がマトリクス状に
配置されている。それぞれの画素は、R(赤)、G
(緑)、B(青)の色成分を透過するフィルタを経由し
て入力する光の明度を検出し、信号として出力してい
る。拡大された部分は、このようなフィルタを経由して
経由して検出される色の配列であり、ベイヤー配列と呼
ばれる。ベイヤー配列は、一般的にイメージセンサのカ
ラーフィルタに使用されている配列である。以下、本発
明の白点故障補完回路及びこの白点故障補完回路を備え
たイメージセンサについて、図2に示した配列の場合を
例に説明する。
【0024】次に、読み出し回路300について説明す
る。図3は、本発明の一実施の形態であるイメージセン
サの画素部と読み出し回路の構成図である。CDS回路
301は、画素部200から出力された信号から雑音成
分の信号を除いた信号成分を取り出す回路である。アン
プ回路302は、CDS回路301から出力された信号
を増幅する。増幅率(ゲイン)は、AGC制御回路30
3によって制御される。AGC制御回路303は、画素
部200の明るさ成分に応じてアンプ回路302の増幅
率を計算する。clamp回路304は、信号成分のオ
フセットを調整する。ADC回路305は、オフセット
調整された信号成分を8ビットのデジタルデータに変換
し、画素データとして次段の白点故障補完回路100に
出力する。TG回路306は、CDS回路301、画素
部200上の映像信号取り出しの操作タイミングを生成
する回路である。次段の白点故障補完回路100に対し
て画素の位置情報(POS)を出力する。デコード回路
307は、AGC制御回路303で生成された増幅率を
所定の明るさレベルにデコードする回路である。
【0025】デコード回路307により生成される明る
さレベルについて説明する。上記の説明のようにAGC
制御回路303は、画素部200上の一部(特定ライン
や短形領域)の明るさ成分を積算し、アンプ回路302
の増幅率を計算してアンプ回路302の増幅率を制御し
ている。デコード回路307では、増幅率をいくつかの
レベルに分類し、それぞれのレベルに対応した信号線の
出力をオンにする。AGC制御回路303では、増幅率
算出時に暗時映像ほど増幅率を上げるため、デコード回
路307の出力信号は、映像の明るさのレベルに対応す
る。例えば、デコード回路307では、明るさのレベル
を4レベルに分類し、それぞれのレベルに対応する出力
信号S1−S4を出力する。S1−S4は論理信号とし
て‘1’または‘0’の値をとり、必ずいずれかが
‘1’となり他は‘0’となるものとする。
【0026】このように、読み出し回路300によって
POS、画素データ及び明るさレベルが生成され、次段
の白点故障補完回路100に出力される。次に、本発明
に係る白点故障補完回路100について具体例で説明す
る。
【0027】まず、第1の実施の形態として、画素部の
ライン上の連続する5画素分の画素データに基づいて白
点故障の補完を行なう回路について説明する。図4は、
第1の実施の形態における白点故障補完回路の回路図で
ある。
【0028】第1の実施の形態の白点故障補完回路は、
周辺画素データを保持する周辺画素データ保持部である
フリップフロップ回路501、502、503、50
4、505、画素データの明度を比較し白点故障である
かどうかを判定する比較判定部である判定回路508と
判定結果に応じて出力信号を選択するセレクタ回路50
6、及び補完演算を行なう補完演算部である白点補完回
路507から構成される。
【0029】フリップフロップ回路(以下、FFとす
る)501、502、503、504、505は、上記
の説明の読み出し回路のADC回路305から出力され
た8ビットの画素データを連続5画素分保持している。
保持される画素データの組み合わせについて図5を用い
て説明する。保持された5画素分の画素データは、
(1)R2を対象画素としたR成分の場合、(2)G2
を対象画素としたG成分の場合、(3)B2を対象画素
としたB成分の場合、の3通りの組み合わせがある。こ
のように、第1の実施の形態の場合、対象画素を中心の
第3番目の画素として、同色の周辺画素は第1番目と第
5番目に存在する。
【0030】図4に戻って説明する。上記の説明のよう
な画素データの組み合わせが、FF501、502、5
03、504、505に保持されている。ここで、便宜
的に、FF501の出力をP1、FF503の出力をP
3及びFF505の出力をP3とする。判定回路508
及び白点補完回路507には、対象画素の画素データを
保持するFF503、及び対象画素と同色の周辺画素の
画素データを保持するFF501とFF505の出力が
接続されている。
【0031】判定回路508は、上記の説明のような対
象画素(P2)と、対象画素と同色の周辺画素(P1と
P3)を入力し、明度の比較を行ない、対象画素(P
2)が同色の周辺画素(P1とP3)に比べて予め決め
られた所定の値以上に明度が高いか否か、すなわち白点
故障であるか否かを判定する。判定結果はセレクタ50
6に出力される。セレクタ506は、白点故障である場
合には、白点補完回路507によって補完された補完デ
ータを出力し、それ以外の場合は対象画素(P2)の画
素データをそのまま出力する。
【0032】ここで比較条件と、比較条件に応じた判定
回路508の動作について説明する。以下、R成分の場
合で説明する。図6は、第1の実施の形態における比較
条件とその判定を示したものである。(1)条件には、
2つの比較条件が設定されている。条件1は、「対象画
素R2のが画素データの明度が周辺画素R1とR3の明
度の間にあるか」である。また、条件2は、「対象画素
R2の画素データの明度が、周辺画素R1とR3の明度
の平均より大きいか」である。
【0033】(2)判定は、条件1と条件2の成立/不
成立の組み合わせに応じて決定される補完処理を行なう
か否かの判定を示している。R2は、判定結果に応じた
R2の値を示している。
【0034】条件1が成立する場合は、対象画素R2の
明度は周辺画素R1とR2の明度の間にあることから、
白点故障ではない。このため、セレクタ506は対象画
素R2の画素データをそのまま出力する(補完処理は行
なわない)。条件1が不成立の場合、対象画素R2の明
度は、周辺画素R1とR2の明度範囲にはないことにな
る。そこで、条件2により明度の差をチェックする。条
件2が不成立の場合、対象画素R2は、周辺画素の平均
明度より明度が低いことから白点故障ではない。このた
め、セレクタ506は、対象画素R2の画素データをそ
のまま出力する(補完処理は行なわない)。条件2が成
立する場合、対象画素R2は、周辺画素の平均明度より
明度が高いことから白点故障の可能性が高いと判定され
る。このため、R2には白点補完回路507において、
次式のように周辺画素R1、R2に基づく補完処理が施
される。ここで、m、nは、任意の補完係数とする。
【0035】
【数1】 R2=(mR1+2nR2+mR3)/(2m+2n) ・・(1) セレクタ506は、白点補完回路507により補完処理
が施されたR2を選択して出力する。
【0036】ここでは、R成分のみについて説明した
が、G、Bも同様の処理を行なう。次に、白点補完回路
507について説明する。図7は、第1の実施の形態
おける白点補完回路の回路図である。図4と同じものに
は同じ番号を付し、説明は省略する。白点補完回路は、
デコード回路の生成した明度レベル(S1−S4)に応
じて1/0の論理積を生成するAND1、AND2、A
ND3、AND4と、周辺画素(P1とP3)とを加算
平均するADD1、ADD1の出力に対象画素(P2)
を加算平均するADD2、さらにSEL1とSEL2の
出力を加算平均するADD3、AND1の出力信号に応
じてADD2出力またはP2を選択するSEL1、AN
D2の出力信号に応じてADD1の出力またはP2を選
択するSEL2、AND3の出力信号に応じてADD1
の出力またはADD3の出力を選択するSEL3、及び
AND4の出力に応じてP1またはSEL3の出力を選
択するSEL4とから構成される。
【0037】AND1は、明度レベルがS2(S2のみ
1)の場合に1を出力し、SEL1にADD2の出力を
選択させる。AND2は、明度レベルがS3(S3のみ
1)の場合に1を出力し、SEL2にADD1の出力を
選択させる。AND3は、明度レベルがS4(S4のみ
1)の場合に1を出力し、SEL3にADD1の出力を
選択させる。AND4は、明度レベルがS1(S1のみ
1)の場合に1を出力し、SEL4にP2を選択させ
る。
【0038】明度レベル(S1―S3)とセレクタSE
L1、SEL2、SEL3、SEL4の動作について図
8で説明する。図8は、第1の実施の形態における明度
レベルとセレクタの動作及び補完係数の関係図である。
セレクタ選択は、AGCデコード出力によってSEL
1、SEL2、SEL3、SEL4がどちらを選択する
かを表している。例えば、S1=1の場合は、SEL3
が1側を選択し、その他のセレクタは0側を選択する。
また、明度レベル(S1−S4)に応じて、補完を行な
う際の補完係数を算出するか、予め記憶部に記憶してお
いた補完係数を抽出して補完を行なう。備考は、補完係
数の例である。
【0039】例えば明度レベルS1=1の場合、論理積
回路のうちAND3の出力のみが1となり、SEL3が
1側、すなわちADD1の出力を選択する。他のSEL
1はP2を、SEL2はP2を、SEL4はSEL3の
出力をそのまま出力する。従って、明度レベルS1=1
の場合、周辺画素(P1とP3)を用いて補完演算を行
ない、算出された補完データをSEL4から出力する。
明度レベルS4=1の場合、AND4が1となり、SE
L4からP2の値がそのまま出力される。同様に、明度
レベルS2=1、S3=1の場合も、明度レベルに応じ
た適切な補完係数により補完処理が行なわれ、SEL4
より出力される。
【0040】このように、明度レベルに応じて予め決め
られた最適な補完係数により補完演算を行なうことによ
り、白点故障に対する補完制御を動的に行なうことが可
能となる。
【0041】次に、第2の実施の形態について説明す
る。第2の実施の形態は、隣接する3×3画素のデータ
を用いて白点故障補完を行なう回路の例である。図9
は、第2の実施の形態における白点故障補完回路の構成
図である。さらに、ここでは、白点補完回路をRGB変
換回路に組み込んでいる。
【0042】第2の実施の形態の白点故障補完回路は、
対象画素及び周辺画素の画素データを保持する周辺画素
データ保持部であるフリップフロップ回路、FF70
3、FF704、FF705、FF706、FF70
7、FF708、FF709、FF710及びFF71
1とRGB変換用ラインメモリ712、及び白点故障補
完とRGB変換を行なう白点故障補完回路+RGB変換
回路714から構成される。
【0043】RGB変換用ラインメモリ712は、RG
B変換用の画素データを保持している。フリップフロッ
プ回路、FF703、FF704、FF705、FF7
06、FF707、FF708、FF709、FF71
0及びFF711は、RGB変換用ラインメモリ712
に保持されたRGB変換用の画素データ及びADC回路
からの出力信号3×3画素分を保持する周辺画素データ
保持部を構成する。フリップフロップ回路FF703、
FF704、FF705は、ADC回路から出力信号に
接続し、ADC変換された後の画素データを順次3画素
分保持する。FF706、FF707、FF708、F
F709、FF710及びFF711は、RGB変換用
ラインメモリ712に保存された画素データを読み出し
て保持する。以下、便宜上、FF703に保持された画
素データをP1、FF704に保持された画素データを
P2、FF705に保持された画素データをP3、FF
706に保持された画素データをP4、FF707に保
持された画素データをP5、FF708に保持された画
素データをP6、FF709に保持された画素データを
P7、FF710に保持された画素データをP8、及び
FF711に保持された画素データをP9とする。
【0044】このような構成の周辺画素データ保持部に
おける画素データの組み合わせについて説明する。図1
0は、第2の実施の形態において保持される画素データ
の組み合わせである。一般的なイメージセンサで行なわ
れる処理のひとつにRGB変換がある。RGB変換で
は、3×3画素以上のデータと記憶領域を最低必要とす
る。ここでは、RGB変換のための記憶領域(RGB変
換用ラインメモリ712)に記憶された周辺画素の画素
データを用いて白点故障の判定と白点故障の補完処理を
行なう。周辺画素の画素データが多いほど補完箇所に対
するデータの精度が高くなる。しかしながら、処理のた
めの記憶領域は増加する。このため、ここではRGB変
換用に記憶されている画素データを使用している。3×
3画素における、各色成分ごとの組み合わせは、各色ご
とに4通りの計12通りになる。このうち、R成分とB
成分については、3×3画素に含まれる同色の画素数h
の最大は4であるので、同一の判定回路が構成される。
G成分は、3×3画素に含まれる同色の画素数hの最大
は5であるので別な回路構成となる。
【0045】それぞれの判定回路と白点補完回路につい
て説明する。図11は、第2の実施の形態におけるR成
分とB成分の判定回路と白点補完回路の回路図である。
ここでは、簡単のため、ゲインに応じた明度レベルを3
段階とした。
【0046】R成分とB成分用の判定回路及び白点補完
回路は、画素の位置情報(POS)をデコードするデコ
ーダ810、デコーダ810の出力信号に応じて入力信
号(P1、P2、・・・、P9)を選択するセレクタ82
0、比較器831、832、833、834より構成さ
れる比較判定部830、及び加算器841、842、8
43、844と、セレクタ845、846、847、8
48とから構成される白点補完部840から成る。
【0047】デコーダ810は、画素の位置情報(PO
S)をデコードし、入力信号を選択するセレクタ820
と、加算器842による加算値を選択するセレクタ84
7に供給する。
【0048】セレクタ820は、デコーダ810のデコ
ード出力に応じて、保持されている9画素の入力信号
(P1、P2、・・・、P9)のうち同色の画素となる入
力信号を選択する。すなわち、図10に示したパターン
のいずれかを選択する。例えば、R成分のh=4に相当
するデコード信号が入力した場合、9画素の入力信号
(P1、P2、・・・、P9)から、図10のR成分のh
=4に示したようなR1、R2、R3、R4に相当する
画素データを選択してSL1、SL2、SL3、SL4
に出力する。
【0049】比較判定部830は、SL1とSL2を比
較して大きい方を比較器833へ小さいほうを加算器8
41へ出力する比較器831、SL3とSL4を比較し
て大きい方を比較器833へ小さい方を加算器841へ
出力する比較器832、比較器831と比較器832の
出力を比較して大きい方を比較器834へ小さいほうを
加算器841へ出力する比較器833、及び加算器84
1によって算出される最も明度の高い画素データを除く
画素データの平均値とを比較する比較器834から構成
される。
【0050】比較器833の出力は、セレクタ820に
選択された画素のうち、最も高い明度の画素の画素デー
タであり、加算器841の出力は、比較器833により
選択されなかった3画素の画素データの平均値になる。
従って、比較器834では、比較器833により選択さ
れた最も明度の高い画素と、その他の3画素の平均の明
度が比較される。
【0051】白点補完部840は、比較器831、83
2、833が選択した画素データを加算する加算器84
1、セレクタ820の選択したSL1、SL2、SL
3、SL4の出力信号を加算する加算器842、加算器
841の出力を1/2及び1/4の係数で乗算した値を
加算する加算器843、セレクタ845とセレクタ84
6の出力を加算する加算器844、比較器834の出力
信号に応じて比較器833の出力信号あるいは0を選択
するセレクタ845、比較器834の出力信号に応じて
加算器841の出力信号あるいは加算器843の出力信
号を選択するセレクタ846、加算器842の出力に1
/4、1/2、1/1の係数を乗算した出力信号をデコ
ーダ出力信号に応じて選択するセレクタ848、及び比
較器834の出力信号に応じて加算器844の出力信号
あるいはセレクタ848の出力信号を選択するセレクタ
847から構成される。
【0052】加算器842は、セレクタ820により選
択された画素データを加算し、セレクタ847に出力す
る。このとき、a端子には加算値を1/4にしたデータ
が、b端子には加算値を1/2にしたデータが、c端子
には加算値を1/1にしたデータが出力される。セレク
タ847は、デコーダ810の出力に応じて、a、b、
c端子のいずれかを選択し、セレクタ848へ出力す
る。デコーダ810の出力信号は、選択された画素数と
見なすことができるので、セレクタ847の出力は、選
択された画素データの平均値となる。
【0053】加算器841、843、844及びセレク
タ845、846とから構成される部分では、画像の明
度レベル(ここではS1−S3)に応じた補完係数を用
いて補完演算処理を行なう。補完演算処理については、
後述する。加算器844は、補完演算が施された画素デ
ータをセレクタ848へ出力する。
【0054】セレクタ848は、補完演算が行なわれた
加算器844の出力信号と、補完演算が施されていない
セレクタ847の出力信号と、を比較器834の出力に
応じて選択する。すなわち、比較判定部830により、
白点故障と見なされた場合には補完処理が行なわれた加
算器844の出力信号が選択され、白点故障と見なされ
なかった場合には補完処理されていないセレクタ847
の出力信号が選択される。
【0055】次に、このような構成の判定回路及び白点
補完回路の動作について説明する。まず、デコーダ81
0は、POS信号に応じたデコード信号を生成し、セレ
クタ820と加算器842に供給する。図12は、第2
実施の形態におけるデコーダの出力を示している。デ
コーダ810は、X方向及びY方向のPOS入力信号の
LSBを参照し、色成分に応じたデコード信号を出力す
る。例えば、Y(LSB)が0、X(LSB)も0の場
合、R成分のデコード出力は4、G成分のデコード出力
は4、B成分のデコード出力は1になる。デコード出力
は、3×3の画素データ保持部に存在する色成分のパタ
ーンを表している。例えば、R成分の出コート出力4
は、図10のR成分のh=1のパターンを示している。
【0056】セレクタ820は、デコーダ810のデコ
ード出力に応じて、画素データの選択を行なう。図13
は、第2の実施の形態におけるセレクタの制御論理を示
している。(1)は、R成分とB成分の場合のセレクタ
選択の表であり、(2)は後述するG成分の場合のセレ
クタ選択の表である。また、(3)は、画素の配置図で
ある。ここでは、セレクタ820とともに、セレクタ8
47の動作について説明する。デコード出力が1の場
合、セレクタ820の出力端子SL1には、P5、すな
わち(3)の配置図を参照して真中の画素データが出力
される。これは、図10のR成分のh=1のパターンが
選択されたことに相当する。このとき、セレクタ847
の出力端子は、c端子(1/1)が選択される。すなわ
ち、P5がそのまま出力される。また、デコード出力が
2の場合、セレクタ820の出力端子SL1にはP4、
SL2にはP6が出力される。これは、図10のR成分
のh=2の左側のパターンに相当する。セレクタ847
は、b端子(1/2)が選択され、セレクタ847は、
P4とP6の平均値を出力する。
【0057】比較判定部830は、比較器833におい
て、比較器831、832により選択されたSL1、S
L2、SL3、SL4のうち最も明度の高い画素の画素
データを選択する。さらに、比較器834において、最
も明度の高い画素の画素データと、加算器841で算出
される最も明度の高い画素データを除くSL1、SL
2、SL3、SL4の平均値とを比較する。これによ
り、最も明度の高い画素がその他の画素の平均より高い
明度を有する白点故障であるか否かを判定する。
【0058】白点補完部840は、加算器842とセレ
クタ847とによって補完なしの出力信号を算出し、加
算器841、843、844とセレクタ845、846
によって補完処理が施された出力信号を算出する。最終
段のセレクタ848は、比較判定部830の出力信号に
応じていずれかを選択して出力する。図14は、第2の
実施の形態における判定条件と補完処理を示している。
条件1は、「最も明度の高い画素(max(G1、G
2、・・・、Gh))を除く画素データの平均よりも、最
も明度の高い画素(max(G1、G2、・・・、G
h))の明度の方が高い」という条件である。この条件
が成立した場合、最も明度の高い画素(max(G1、
G2、・・・、Gh))は、白点故障であると見なされ
る。
【0059】表は、条件1が成立した場合(白点故障と
見なされる場合)と、不成立の場合(白点故障と見なさ
れない場合)の補完処理を示している。不成立の場合
は、比較器834の出力は0、成立する場合は1が出力
される。Gの値は、このとき、算出される画素データで
ある。条件1が成立する場合、Gは、所定の補完係数
k、jを用いて算出される。kとjは、AGCデコード
回路の出力する映像の明度レベルに応じて決定される。
図15は、第2の実施の形態におけるAGCデコード出
力と選択される補完関数の一例を示している。このよう
に、明度レベルに応じて適切な補完係数を選択すること
により、白点故障に対して動的な補完制御を行なうこと
ができる。
【0060】次に、G成分の判定回路について説明す
る。図16は、第2の実施の形態におけるG成分の判定
回路と白点補完回路の回路図である。図11と同じもの
には同じ番号を付し、説明は省略する。
【0061】G成分用の判定回路及び白点補完回路は、
画素の位置情報(POS)をデコードするデコーダ81
0、デコーダ810の出力信号に応じて入力信号(P
1、P2、・・・、P9)を選択するセレクタ820、比
較器851、852、853、854、855より構成
される比較判定部850、及び加算器861、862、
863、864と、セレクタ865、866、867、
868とから構成される白点補完部860から成る。
【0062】比較判定部850は、SL1とSL2を比
較して大きい方を比較器853へ小さいほうを加算器8
61へ出力する比較器851、SL3とSL4を比較し
て大きい方を比較器853へ小さいほうを加算器861
へ出力する比較器852、比較器851と比較器852
の出力を比較して大きい方を比較器854へ小さいほう
を加算器861へ出力する比較器853、比較器853
の出力とSL5を比較して大きい方を比較器855へ小
さい方を加算器861出力する比較器854、及び比較
器854により得られる最も明度の高い画素の画素デー
タと加算器861によって算出される他の画素データの
平均値とを比較する比較器855から構成される。比較
器854の出力は、最も高い明度の画素の画素データで
あり、加算器861の出力は比較器854の出力画素を
除く4画素の平均の画素データになる。これにより、最
も明度の高い画素の明度と、他の4画素の平均の明度が
比較される。
【0063】白点補完部860は、比較器854、85
3、851、852が選択した画素データを加算する加
算器861、セレクタ820の選択したSL1、SL
2、SL3、SL4、SL5出力を加算する加算器86
2、加算器861の出力を1/2及び1/4の係数で乗
算した値を加算する加算器863、セレクタ865とセ
レクタ866の出力を加算する加算器864、比較器8
55の出力信号に応じて比較器854の出力信号あるい
は0を選択するセレクタ865、比較器855の出力信
号に応じて加算器861の出力信号あるいは加算器86
3の出力信号を選択するセレクタ866、加算器862
の出力に1/4、1/1の係数を乗算した出力信号をデ
コーダ出力信号に応じて選択するセレクタ867、及び
比較器855の出力信号に応じて加算器864の出力信
号あるいはセレクタ867の出力信号を選択するセレク
タ868から構成される。
【0064】上記の説明のR成分とB成分の白点補完部
860と同様に、セレクタ867より補完演算が行なわ
れない出力信号が供給され、加算器864より補完演算
が行なわれた出力信号が供給される。セレクタ868
は、比較器855の出力信号に応じて、出力信号を選択
する。すなわち、比較判定部850により、白点故障と
見なされた場合には補完処理が行なわれた加算器864
の出力信号が選択され、白点故障と見なされなかった場
合には補完処理されていないセレクタ867の出力信号
が選択される。
【0065】このように、G成分の場合は、選択される
信号が5画素データとなるだけで、R成分及びB成分と
同様の処理が行なわれる。上記の説明では補完に使用す
る画素を5×1と、3×3としたが、本発明では使用画
素数はこれに限定されない。また、明度レベルのレベル
数も、ゲインの調整レベルに応じて決定される。
【0066】上記の説明の本発明に係る白点故障回路を
有するイメージセンサの構成について説明する。白点故
障回路部は、イメージセンサ内部に組み込むことも出来
るし、イメージセンサの外部に接続することもできる。
【0067】図17は、内蔵型の構成図である。内蔵型
は、イメージセンサの共通基板10に、図3で示した画
素部200と読み出し部300とから成るイメージセン
サ共通部11と、RGB変換を行なうRGB変換処理部
12aと白点補完処理部12bとを有するカラープロセ
ッサ12とを配置する構成である。
【0068】図18は、外部接続の構成図である。外部
接続型は、図3で示した画素部200と読み出し部30
0とから成るイメージセンサ共通部20の基板と、RG
B変換を行なうRGB変換処理部31と白点補完処理部
32とを有するカラープロセッサ30の基板とを別に設
け、信号線で接続する構成である。
【0069】
【発明の効果】以上説明したように本発明では、対象画
素とその周辺にある周辺画素との明度を比較し、対象画
素が周辺画素と比較して予め決められた所定の値以上の
明度を有する場合、この対象画素と周辺画素の画素デー
タを用いて対象画素の補完処理を行なう。
【0070】このように、周辺画素と比較することによ
って対象画素に白点故障が発生しているか否かを検出す
るため、白点故障発生箇所を予め検出して記憶装置に保
持しておく必要がなくなる。この結果、記憶装置を使用
した場合より回路構成を小さくすることができる。ま
た、記憶装置を用いた回路とは異なり、回路規模は総画
素数に依存することはない。さらに、自動的に白点故障
を認識して補完するため、出荷試験の検査等で予め白点
故障箇所を検出しておく必要がない。
【図面の簡単な説明】
【図1】本発明の一実施の形態である白点故障補完回路
を具備したイメージセンサの構成図である。
【図2】イメージセンサの画素部における有効画素とそ
の拡大図である。
【図3】本発明の一実施の形態であるイメージセンサの
画素部と読み出し回路の構成図である。
【図4】第1の実施の形態における白点故障補完回路の
回路図である。
【図5】第1の実施の形態において保持される画素デー
タの組み合わせである。
【図6】第1の実施の形態における比較条件とその判定
を示したものである。
【図7】第1の実施の形態における白点補完回路の回路
図である。
【図8】第1の実施の形態における明度レベルとセレク
タの動作及び補完係数の関係図である。
【図9】第2の実施の形態における白点故障補完回路の
構成図である。
【図10】第2の実施の形態において保持される画素デ
ータの組み合わせである。
【図11】第2の実施の形態におけるR成分とB成分の
判定回路と白点補完回路の回路図である。
【図12】第2の実施の形態におけるデコーダの出力を
示している。
【図13】第2の実施の形態におけるセレクタの制御論
理を示している。
【図14】第2の実施の形態における判定条件と補完処
理を示している。
【図15】第2の実施の形態におけるAGCデコード出
力と選択される補完関数の一例を示している。
【図16】第2の実施の形態におけるG成分の判定回路
と白点補完回路の回路図である。
【図17】内蔵型の構成図である。
【図18】外部接続の構成図である。
【図19】従来の白点故障補完回路とその周辺回路の構
成図である。
【符号の説明】 100 白点故障補完回路 110 周辺画素データ保持部 120 比較判定部 130 補完演算部 140 補完係数記憶部 200 画素部 300 読み出し回路 400 RGB回路
───────────────────────────────────────────────────── フロントページの続き (72)発明者 山本 克義 神奈川県川崎市中原区上小田中4丁目1番 1号 富士通株式会社内 Fターム(参考) 5C024 CX21 EX52 GY01 GY04 HX14 HX18 HX28 HX29 HX50 HX52 HX55

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 固体撮像素子が配置されて成る画素部に
    発生した白点故障を補完する白点故障補完回路におい
    て、 画素部を構成する所定の対象画素とその周辺の周辺画素
    の画素データを保持する周辺画素データ保持部と、 前記対象画素と周辺画素との明度を比較する周辺画素明
    度比較部と、 前記周辺画素明度比較部による比較結果に基づいて前記
    対象画素が前記周辺画素と比較して予め決められた所定
    の値以上の明度を有する白点故障であるか否かを判定す
    る比較判定部と、 前記比較判定部により前記対象画素が白点故障であると
    判定された場合に前記周辺画素データ保持部に保持され
    ている前記対象画素及び周辺画素の画素データを用いて
    補完演算を行なう補完演算部と、 を具備したことを特徴とする白点故障補完回路。
  2. 【請求項2】 前記補完演算部は、前記補完演算時に前
    記対象画素の近傍で検出された映像の明度レベルに応じ
    て前記対象画素及び周辺画素の画素データの使用比率を
    調整する重み付けを行ない、前記重み付けによる加重平
    均を算出して前記対象画素の補完を行なうことを特徴と
    する請求項1記載の白点故障補完回路。
  3. 【請求項3】 前記白点故障回路は、さらに、前記明度
    レベルごとに前記対象画素及び周辺画素の画素データに
    対して所定の重み付けがなされた補完係数を記憶する補
    完係数記憶部を有し、 前記補完演算部は、前記明度レベルに応じた補完係数を
    前記補完係数記憶部より取得し、前記補完係数を用いて
    前記対象画素及び周辺画素の画素データの加重平均を算
    出することを特徴とする請求項2記載の白点故障補完回
    路。
  4. 【請求項4】 前記補完演算部は、さらに、前記映像の
    明度レベルが予め決められたレベル以上である場合に
    は、前記補完演算を行なわないことを特徴とする請求項
    2記載の白点故障補完回路。
  5. 【請求項5】 前記映像の明度レベルは、前記画素部か
    らの出力信号の信号処理を行なう際に前記画素部の所定
    の領域における明度に応じて前記画素部からの出力信号
    を増幅する増幅器の増幅率を調整する制御回路の設定す
    る増幅率に基づいて算出することを特徴とする請求項2
    記載の白点故障補完回路。
  6. 【請求項6】 前記周辺画素明度比較部は、前記対象画
    素の明度が前記周辺画素の明度より高いかどうかを比較
    するとともに、前記対象画素の明度が前記周辺画素の平
    均の明度より高いかどうかを比較し、 前記比較判定部は、前記周辺画素明度比較部によって前
    記対象画素の明度が前記周辺画素のうち最も明度の高い
    ものよりも高く、かつ、前記周辺画素の平均の明度より
    高い場合に白点故障であると判定することを特徴とする
    請求項1記載の白点故障補完回路。
  7. 【請求項7】 前記周辺画素データ保持部は、前記画素
    部からの出力信号を入力する直列に配置されたフリップ
    フロップ回路より成ることを特徴とする請求項1記載の
    白点故障補完回路。
  8. 【請求項8】 前記周辺画素データ保持部は、予め決め
    られた所定の数の近接する画素データを保持し、 前記比較判定部は、前記画素データの明度を比較して最
    も明度の高い画素を対象画素とし、残りの画素を周辺画
    素として明度の比較と判定を行なうことを特徴とする請
    求項1記載の白点故障補完回路。
  9. 【請求項9】 前記周辺画素データ保持部は、RGB変
    換用のデータ保持部であることを特徴とする請求項8記
    載の白点故障補完回路。
  10. 【請求項10】 固体撮像素子が配置されて成る画素部
    に発生した白点故障を補完する白点故障補完回路を有す
    るイメージセンサにおいて、 白点故障補完回路が、 画素部を構成する所定の対象画素とその周辺の周辺画素
    の画素データを保持する周辺画素データ保持部と、 前記対象画素と周辺画素との明度を比較する周辺画素明
    度比較部と、 前記周辺画素明度比較部による比較結果に基づいて前記
    対象画素が前記周辺画素と比較して予め決められた所定
    の値以上の明度を有する白点故障であるか否かを判定す
    る比較判定部と、 前記比較判定部により前記対象画素が白点故障であると
    判定された場合に前記周辺画素データ保持部に保持され
    ている前記対象画素及び周辺画素の画素データを用いて
    補完演算を行なう補完演算部と、 を具備したことを特徴とするイメージセンサ。
JP2002031947A 2002-02-08 2002-02-08 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ Expired - Fee Related JP4059686B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2002031947A JP4059686B2 (ja) 2002-02-08 2002-02-08 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ
US10/358,212 US7106912B2 (en) 2002-02-08 2003-02-05 Circuit for correction of white pixel defects and an image sensor using the circuit for correction of white pixel defects
KR1020030007674A KR100874935B1 (ko) 2002-02-08 2003-02-07 백점 결함 보완 회로 및 이 백점 결함 보완 회로를 이용한 이미지 센서
TW092102556A TWI226196B (en) 2002-02-08 2003-02-07 Circuit for correction of white pixel defects and an image sensor using circuit for the correction of white pixel defects

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002031947A JP4059686B2 (ja) 2002-02-08 2002-02-08 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ

Publications (2)

Publication Number Publication Date
JP2003234958A true JP2003234958A (ja) 2003-08-22
JP4059686B2 JP4059686B2 (ja) 2008-03-12

Family

ID=27654802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002031947A Expired - Fee Related JP4059686B2 (ja) 2002-02-08 2002-02-08 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ

Country Status (4)

Country Link
US (1) US7106912B2 (ja)
JP (1) JP4059686B2 (ja)
KR (1) KR100874935B1 (ja)
TW (1) TWI226196B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010187408A (ja) * 2010-05-17 2010-08-26 Sony Corp 欠陥検出装置および欠陥検出方法、ならびに撮像装置

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101013631B1 (ko) * 2003-12-30 2011-02-10 엘지디스플레이 주식회사 액정 표시소자의 구동장치 및 그 구동방법
EP1594308A1 (en) * 2004-05-07 2005-11-09 Dialog Semiconductor GmbH Single line Bayer filter RGB bad pixel correction
JP4479373B2 (ja) * 2004-06-28 2010-06-09 ソニー株式会社 イメージセンサ
US7433512B2 (en) 2004-11-09 2008-10-07 Dalsa Corporation Method and apparatus for finding and correcting single-pixel noise defects in a two-dimensional camera pixel field and a camera provided with such an apparatus
US7667747B2 (en) * 2006-03-15 2010-02-23 Qualcomm Incorporated Processing of sensor values in imaging systems
JP4686496B2 (ja) * 2007-03-30 2011-05-25 株式会社東芝 撮像装置
US20090110324A1 (en) * 2007-10-30 2009-04-30 Hongjun Li White/black pixel correction in a digital image sensor
US7974805B2 (en) * 2008-10-14 2011-07-05 ON Semiconductor Trading, Ltd Image sensor and method
JP5152114B2 (ja) 2009-06-30 2013-02-27 ソニー株式会社 画像処理装置及び画像処理方法、撮像装置、並びにコンピューター・プログラム
US8547456B1 (en) * 2009-09-30 2013-10-01 Rockwell Collins, Inc. System and method for monitoring inactive pixels in a scene imaging system
JP5968025B2 (ja) * 2012-04-11 2016-08-10 キヤノン株式会社 撮像装置及び撮像装置の制御方法
KR102247564B1 (ko) * 2014-11-13 2021-05-03 삼성전자 주식회사 화소 처리 장치, 이를 포함하는 이미지 신호 처리 장치, 및 이를 포함하는 이미지 처리 시스템
FR3038194B1 (fr) * 2015-06-26 2017-08-11 Ulis Correction de pixels parasites dans un capteur d'image infrarouge
TWI543616B (zh) * 2015-07-21 2016-07-21 原相科技股份有限公司 在數位域降低影像感測器之固定圖案雜訊的方法與裝置
US9906654B1 (en) 2016-12-01 2018-02-27 Xerox Corporation White area defect detection for image based controls applications
KR20220010285A (ko) * 2020-07-17 2022-01-25 에스케이하이닉스 주식회사 디모자익 동작 회로, 이미지 센싱 장치 및 그 동작방법

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3490490B2 (ja) * 1994-01-28 2004-01-26 株式会社東芝 パターン画像処理装置及び画像処理方法
US5737453A (en) * 1996-05-17 1998-04-07 Canon Information Systems, Inc. Enhanced error-diffusion method for color or black-and-white reproduction
JP3633728B2 (ja) 1996-07-26 2005-03-30 株式会社日立国際電気 画像欠陥補正回路
US6483606B1 (en) * 1998-08-26 2002-11-19 Xerox Corporation Error diffusion on moderate numbers of output colors
US6671068B1 (en) * 1999-09-30 2003-12-30 Sharp Laboratories Of America, Inc. Adaptive error diffusion with improved edge and sharpness perception
JP2001136402A (ja) * 1999-11-10 2001-05-18 Minolta Co Ltd 色変換装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010187408A (ja) * 2010-05-17 2010-08-26 Sony Corp 欠陥検出装置および欠陥検出方法、ならびに撮像装置

Also Published As

Publication number Publication date
TWI226196B (en) 2005-01-01
TW200303687A (en) 2003-09-01
JP4059686B2 (ja) 2008-03-12
KR20030067567A (ko) 2003-08-14
US7106912B2 (en) 2006-09-12
KR100874935B1 (ko) 2008-12-19
US20030151682A1 (en) 2003-08-14

Similar Documents

Publication Publication Date Title
JP2003234958A (ja) 白点故障補完回路及びこの白点故障補完回路を用いたイメージセンサ
JP5060535B2 (ja) 画像処理装置
USRE44717E1 (en) Edge detecting method
US7450166B2 (en) Digital signal processing apparatus in image sensor
US8571346B2 (en) Methods and devices for defective pixel detection
JP4247514B2 (ja) 欠陥ピクセルの補正方法及びシステム
EP1389771B1 (en) Digital image system and method for combining demosaicing and bad pixel correction
US6965395B1 (en) Methods and systems for detecting defective imaging pixels and pixel values
US7715617B2 (en) Circuit and method for correction of defect pixel
JP5306298B2 (ja) 画像処理装置
JP2000285229A (ja) ディジタルイメージャのための不良画素フィルタリング
US20060044425A1 (en) Correction method for defects in imagers
JP2011120202A (ja) 画素欠陥補正装置、撮像装置、画素欠陥補正方法、およびプログラム
US7098945B1 (en) Electronic camera apparatus
JP5306081B2 (ja) 信号処理回路
JP4533124B2 (ja) 画素欠陥補正装置
US7518757B2 (en) Image reading apparatus and control program therefor
EP1045578B1 (en) Filtering of defective picture elements in digital imagers
JP2002152509A (ja) 画像読取装置
US20220337768A1 (en) Signal processing apparatus, photoelectric conversion apparatus, image capturing system, and control method of signal processing apparatus
JP2004112737A (ja) 半導体集積回路
JP2005341020A (ja) 画素欠陥検出装置および画素欠陥補正装置
JP2005184307A (ja) 傷画素補正回路及び傷画素補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071218

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101228

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4059686

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101228

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111228

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111228

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111228

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111228

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121228

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121228

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131228

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees