JP2005341463A - 固体撮像装置、欠陥補正方法 - Google Patents
固体撮像装置、欠陥補正方法 Download PDFInfo
- Publication number
- JP2005341463A JP2005341463A JP2004160744A JP2004160744A JP2005341463A JP 2005341463 A JP2005341463 A JP 2005341463A JP 2004160744 A JP2004160744 A JP 2004160744A JP 2004160744 A JP2004160744 A JP 2004160744A JP 2005341463 A JP2005341463 A JP 2005341463A
- Authority
- JP
- Japan
- Prior art keywords
- level
- pixel
- value
- defect
- peripheral
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000003384 imaging method Methods 0.000 title claims description 38
- 230000007547 defect Effects 0.000 claims abstract description 186
- 230000002093 peripheral effect Effects 0.000 claims abstract description 173
- 238000012937 correction Methods 0.000 claims abstract description 148
- 230000008569 process Effects 0.000 claims abstract description 45
- 238000012545 processing Methods 0.000 claims description 78
- 238000004364 calculation method Methods 0.000 claims description 16
- 230000004397 blinking Effects 0.000 abstract description 10
- 230000009467 reduction Effects 0.000 abstract description 3
- 230000002950 deficient Effects 0.000 description 41
- 238000001514 detection method Methods 0.000 description 19
- 206010027146 Melanoderma Diseases 0.000 description 13
- 238000007781 pre-processing Methods 0.000 description 7
- 238000000605 extraction Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 206010064127 Solar lentigo Diseases 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【解決手段】
注目画素(ターゲット画素)と、その周辺画素の差分値が閾値Th2より大きい場合は、注目画素のレベルLtgを所定の補正レベルLav(=周辺画素の平均レベル)で補間する完全補間処理を行う。また差分値が閾値Th1から閾値Th2の間にある場合は、差分値が閾値Th1に近く、ノイズによって、欠陥判断が微妙となる可能性がある場合であるため、注目画素のレベルを、差分値に応じて算出される補正レベル(例えばLz)に補間する線形補間処理を行う。
【選択図】 図3
Description
これらの固体撮像装置では、CCDセンサ或いはCMOSセンサとしての受光素子に起因して画素信号上に表れる欠陥、いわゆる白点欠陥や黒点欠陥を補正する技術が従来より提案されている。白点欠陥とは、或る画素が、周辺画素より明らかに浮いて(輝度レベルが高くなって)画面上、白点に見える状態の欠陥であり、黒点欠陥とは、或る画素が、周辺画素より明らかに沈んで(輝度レベルが低くなって)画面上、黒点に見える状態の欠陥である。
また上記特許文献2には、画像パターン認識機能を備えて適切な欠陥補正を行う技術が開示されている。
しかし、近年の固体撮像素子では画素数の増大に伴い、欠陥数が増大した為、メモリを用いて検出を行う方法では、メモリに格納する情報量が増大し、多くのメモリ容量を必要とすることで結果的にコスト増大につながっていた。
これは1フレーム内にて、注目画素とその注目画素の周辺の画素から、注目画素についての欠陥の有無をを抽出し、欠陥の場合、そのフレーム内にて画素補正する補正方式である。即ち、予め欠陥画素を検出し、その画素を記憶しておくことや、検出のためにフィールド間/フレーム間監視を行う必要はなく、その点でメモリ容量は大幅に削減される。特に1フレーム内でリアルタイムに欠陥検出及び補正を行うものであり、従って或る注目画素に対して、その周辺画素を取り出せるだけの数ライン分のラインメモリさえあればよいものとなる。
つまりこの方式で欠陥補正を行う場合、補正数の制限がなく欠陥画素位置を保存するメモリを必要としない利点があり、即時性にも優れる。ところが、注目画素が、それを欠陥とするか否かの判別の閾値周辺に存在すると、その画素については、ノイズ状況によってフレーム毎に「欠陥」「欠陥でない」という判別結果がばらついてしまう。
即ち、動画出力時にノイズにより、或る画素について欠陥補正する/しないの動作が交互に発生してしまい、点滅動作が発生しまうという欠点があった。
またこの方式ではフレーム監視動作を行わないため欠陥検出の精度が低く、誤検出による点滅動作が発生してしまうという問題もあった。
図7(a)(b)は、上記の動的欠陥補正の基本概念を表している。
まず、或る注目画素(ターゲット画素)Gtgについての欠陥有無の判断を考える。欠陥であるか否かの判断は、そのターゲット画素Gtgと、その周辺画素の比較により行う。例えば図7(a)に示すように、ターゲット画素Gtgを中心とした5×5画素を対象とし、特に周辺画素として、図示する画素G1〜G8を抽出する。
ここで、周辺画素G1〜G8の画素レベルを判別し、その中の最大レベルの画素のレベルをpixmax(周辺画素最大値)とする。また、周辺画素G1〜G8の中の最小レベルとなっている画素のレベルをpixmin(周辺画素最小値)とする。
そして、ターゲット画素Gtgのレベルと、周辺画素最大値pixmax或いは周辺画素最小値pixminとの差分を算出する。
この場合、ターゲット画素GtgのレベルLtgWと周辺画素最大値pixmaxの差分dwを算出する。
この差分dwが、或る閾値Th1よりも大きければ、このターゲット画素Gtgは欠陥画素と判断する。つまり、周辺画素より大きく浮いている白点欠陥であると判断する。また差分dwが、閾値Th1よりも小さければ、そのターゲット画素Gtgは欠陥画素ではないとする。このような欠陥か否かの判別結果に応じて補間を行う。
例えばターゲット画素GtgのレベルLtgWが図8(a)の縦軸上に示すレベルであったとする。図8(a)の横軸は、ターゲット画素GtgのレベルLtgWと周辺画素最大値pixmaxの差分dwとしている。そして図8(a)の実線は、補間処理後のターゲット画素Gtgのレベルを示している。
ターゲット画素Gtgが周辺画素から「浮いて」いなければ(つまり欠陥でなければ)、その差分dwは小さく、例えば閾値Th1よりも小となる。その場合は当然補間処理は不要である。従って図示するように、差分dwが閾値Th1よりも小さい場合は、ターゲット画素Gtgは補間処理されず、そのままレベルLtgWとされる。一方、差分dwが閾値Th1よりも大きい場合は、ターゲット画素Gtgが周辺画素から浮いた欠陥画素とされ、ターゲット画素Gtgは或る補正レベルLavに補間処理される。
以上が白点欠陥の補正処理となる。
例えばターゲット画素Gtgが周辺画素より「沈んでいる」状態では、ターゲット画素Gtgのレベルは周辺画素最小値pixminより小さくなっている。例えばターゲット画素Gtgのレベルが図7(b)のレベルLtgBであるとする。
この場合、ターゲット画素GtgのレベルLtgBと周辺画素最小値pixminの差分dbを算出する。
この差分dbが、閾値Th1よりも大きければ、このターゲット画素Gtgは欠陥画素と判断する。つまり、周辺画素より大きく沈んでいる黒点欠陥であると判断する。また差分dbが、閾値Th1よりも小さければ、そのターゲット画素Gtgは欠陥画素ではないとする。
例えばターゲット画素GtgのレベルLtgBが図8(b)の縦軸上に示すレベルであったとする。図8(b)の横軸は、ターゲット画素GtgのレベルLtgBと周辺画素最小値pixminの差分dbとしている。
ターゲット画素Gtgが周辺画素から「沈んで」いなければ(つまり欠陥でなければ)、その差分dbは小さく、例えば閾値Th1よりも小となる。その場合は当然補間処理は不要である。従って差分dbが閾値Th1よりも小さい場合は、ターゲット画素Gtgは補間処理されず、そのままレベルLtgBとされる。一方、差分dbが閾値Th1よりも大きい場合は、ターゲット画素Gtgが周辺画素から沈んだ黒点欠陥画素とされ、ターゲット画素Gtgは或る補正レベルLavに補間処理される。
この場合、上記第1の補間処理における補正レベルは、上記周辺画素レベルの平均値とする。
また上記第2の補間処理における補正レベルは、上記差分値を用いた線形演算で求められる値とする。
また上記第2の閾値は、画素信号のノイズ量に基づいて可変設定される。
上記第1の閾値は、上記周辺画素のレベルに係数を乗じた値として設定される。
或いは、上記第1の閾値は、上記周辺画素の最大レベルと最小レベルの差分に係数を乗じた値として設定される。
つまり、差分値が上記第2の閾値より大きい場合、これは第1の閾値より十分大きい場合となるが、この場合はノイズによって、欠陥であるか否かの判定が不安定になることはないので、注目画素のレベルを所定の補正レベルで補間する第1の補間処理を行う。
一方、差分値が第1の閾値から第2の閾値の間にある場合とは、差分値が第1の閾値(Th1)に近く、ノイズによって、欠陥判断が微妙となる可能性のある場合であり、この場合は注目画素のレベルを、差分値に応じて算出される補正レベルに補間する第2の補間処理を行う。これは補間の有無によってのレベル差が極端に大きくならない補間処理である。
これによって、大容量メモリを必要としない動的欠陥補正の性能を向上させ、実用化に適したものとなることで、結果的に従来の大容量メモリを用いた欠陥補正方式に代えることができ、欠陥補正のための回路規模の削減やコスト削減が促進できる。
また上記第2の補間処理における補正レベルは、上記差分値を用いた線形演算で求められる値とすることで、簡易に、上記効果を奏する補正値を得ることができる。
また上記第2の閾値は、画素信号のノイズ量に基づいて可変設定されることで、第2の補間処理を行うべき差分値の範囲を適切に設定できる。つまり第2の閾値Th2は、ノイズによっても欠陥有無の判断に影響が無い範囲の閾値であるため、そのフレームのノイズ量に応じて可変設定されることで、第1,第2の補間処理が適切に使い分けられるものとなる。
従って目立つ場合はなるべく十分に補正処理が行われ、一方目立たない場合は補正処理の頻度を低くすることになり、処理負担を増大させずに画質向上を実現できる。
一方、周辺画像が平坦な画像である場合(最大レベルと最小レベルの差が小さい場合)は、欠陥画素があるとそれが目立つことになるが、第1の閾値Th1が低くされることで、十分に補正が行われる傾向となる。
つまり目立つ場合はなるべく十分に補正処理が行われ、一方目立たない場合は補正処理の頻度を低くすることになり、処理負担を増大させずに画質向上を実現でき、また誤判断を低減させることができる。
被写体からの光はレンズ系1を介してセンサ部2に入射される。センサ部2は、CCDセンサアレイ、又はCMOSセンサアレイとして多数の画素を構成する固体撮像素子部や、固体撮像素子部を駆動する垂直走査回路、水平走査回路、読み出しアンプ等を有する。そして固体撮像素子部はレンズ系1を介して入射される被写体からの光を光電変換し、各画素の信号として出力する。各画素から出力される画素信号は垂直転送及び水平転送されて1フレームの画像を構成する撮像画像信号ストリームとされる。
なお、被写体の輝度レベル(入射光量)に応じた自動露光調整が行われるが、公知の通り、この露光調整は、固体撮像素子部における露光時間の調整やAGC回路12におけるゲイン調整(AGCゲイン値の可変制御)によって実現される。
撮像信号処理部4は、例えばDSP(Digital Signal Processer)などによる1チップで形成されるが、その動作はカメラ信号処理コントローラ17によって制御される。
またカメラ信号処理コントローラ17は、マスターコントローラ5からのコマンドに応じた制御を行う。マスターコントローラ5は、固体撮像装置(又は固体撮像装置が搭載される携帯電話や情報処理装置などの電子機器)において装置全体の制御を行う。マスターコントローラ5は操作部6からのユーザーの操作や、動作モード状態に応じて撮像信号処理部4を含めた、機器内の各部の制御を行う。
カメラプロセス部10は、プリ処理部11とY/C処理部12としての機能を備える。
AGC/AD変換部3から供給された撮像画像データは、まずプリ処理部11でクランプ処理、欠陥補正処理、ホワイトバランス処理などが行われる。またオートフォーカスのための検出処理、露光調整のための検出処理、フリッカ検出処理なども行われる。
プリ処理部11で処理された信号は輝度信号(Y)と色信号(C)に分離され、Y/C処理部12でそれぞれYプロセス処理、Cプロセス処理が施される。
Y/C処理部12では、それぞれ処理した輝度信号、色信号から、例えばYUVフォーマット(Y:輝度信号、U:B−Y色差信号、V:R−Y色差信号)の撮像画像データを生成し、出力する。
このYUVフォーマットの撮像画像データはセレクタ14及びJPEGエンコーダ13に供給され、JPEGエンコーダ13は、YUV撮像画像データに対してJPEG圧縮処理を行ってセレクタ14に出力する。
セレクタ14によっては、YUVフォーマットの撮像画像データ、或いはJPEGフォーマットの撮像画像データが選択的に出力される。この撮像信号処理部4から出力された撮像画像データは、その後、図示しないビューファインダ或いは他の表示デバイスに供給されて表示されたり、或いは記録部に供給されて固体メモリ、メモリカード、磁気ディスク、光ディスクなどの記録媒体に記録される。或いは送信出力されるようにしてもよい。
モータコントローラ16は、カメラ信号処理コントローラ17の制御に基づいて、モータドライバ7を駆動制御し、モータドライバ7によってレンズ系1のレンズ駆動、例えばズーム動作やオートフォーカス動作を実行させる。
まず図2,図3により、本例における欠陥補正処理について説明する。
本例の欠陥補正は、欠陥検出と補正を同一フレーム内にて行う動的欠陥補正である。欠陥判定については、基本的には図7で説明したとおりであり、ターゲット画素GtgのレベルLtg(図7のLtgW又はLtgBなど)と周辺画素の差分d(dw、dbなど)を判別し、この差分dが或る閾値Th1より大きい場合を、ターゲット画素Gtgが周辺画素から浮いている(又は沈んでいる)とし、この場合を欠陥と判定する。
また、周辺画素とは、図7(a)のようにターゲット画素Gtgを中心とする5×5画素の内の画素G1〜G8とする。
図2に周辺差分レベルdについての欠陥補正のための領域分けを示す。
周辺差分レベルdが閾値Th1より小さい場合は、これを非補間領域とする。つまりその場合のターゲット画素Gtgは欠陥ではないと判定し、補間は行わない。
周辺差分レベルdが閾値Th1以上であれば、その場合のターゲット画素Gtgは欠陥画素であると判定する。但し、第2の閾値として閾値Th2を設けており、周辺差分レベルdについて閾値Th1以上、閾値Th2未満を線形補間領域とする。閾値Th2は、閾値Th1に或る値αを加えた値とする。
この線形補間領域とは、周辺差分レベルdが閾値Th1付近にあると判断する領域であり、その場合、補正量を少なめにするために線形補間を行う領域である。その線形補間処理としての補正レベルは、周辺差分レベルdを用いた線形演算で求められる値とされる。
そして周辺差分レベルdが閾値Th2以上となる場合を完全補間領域とする。完全補間領域は、ターゲット画素Gtgのレベルを所定の補正レベルに補間する完全補間を行う領域である。この完全補間の場合の補正レベルとは、例えば図7(a)の周辺画素のうちの上下左右の画素G2,G4,G5,G7の平均値とする。
例えばターゲット画素GtgのレベルLtgが図3(a)の縦軸上に示すレベルであったとする。図3(a)の横軸は、周辺差分レベルdであり、この場合、ターゲット画素GtgのレベルLtgが周辺画素最大値pixmaxよりも大きい場合であるとすると、周辺差分レベルdは、ターゲット画素GtgのレベルLtgと周辺画素最大値pixmaxの差分である(つまり図7(a)における差分dw)。
そして図3(a)の実線は、補間処理後のターゲット画素Gtgのレベルを示している。
一方、周辺差分レベルdが閾値Th1以上となるとターゲット画素Gtgが周辺画素から浮いた欠陥画素と判断される。
このとき、周辺差分レベルdについてさらに閾値Th2とも比較され、周辺差分レベルdが線形補間領域にあるか完全補間領域にあるかも判断される。
周辺差分レベルdが閾値Th2以上であって完全補間領域と判断された場合は、ターゲット画素Gtgは補正レベルLavに補間処理される。上記のように補正レベルLavは周辺4画素G2,G4,G5,G7の平均値とされており、ターゲット画素Gtgのレベルがこの補正レベルLavに補間処理されることになる。
例えば周辺差分レベルd=dzであるとすると、ターゲット画素Gtgのレベルは、レベルLzに置き換えられることになる。
つまり、この線形補間の場合の補正値は、
補正値=ターゲット画素レベルLtg−a× (周辺差分レベルd−閾値Th1)
として算出される。周辺差分レベルd=dzの場合、(周辺差分レベルd−閾値Th1)は図中の「z」に相当し、またaは直線の傾きである。従って、周辺差分レベルd=dzの場合の補正値Lzは、Lz=Ltg−a・zとして算出される。
以上の図3(a)は白点欠陥の場合の補正処理例となる。
例えばターゲット画素GtgのレベルLtgが図3(b)の縦軸上に示すレベルであったとする。図3(b)の横軸は周辺差分レベルdであるが、ターゲット画素GtgのレベルLtgが周辺画素最小値pixminよりも小さい場合であるとすると、周辺差分レベルdは、ターゲット画素GtgのレベルLtgと周辺画素最小値pixminの差分である(つまり図7(a)における差分db)。
そして図3(b)の実線は、補間処理後のターゲット画素Gtgのレベルを示している。
一方、周辺差分レベルdが閾値Th1以上となるとターゲット画素Gtgが周辺画素から沈んだ欠陥画素と判断される。
このとき、周辺差分レベルdについてさらに閾値Th2とも比較され、周辺差分レベルdが線形補間領域にあるか完全補間領域にあるかも判断される。
周辺差分レベルdが閾値Th2以上であって完全補間領域と判断された場合は、ターゲット画素Gtgは補正レベルLav、即ち周辺4画素G2,G4,G5,G7の平均値に補間処理される。
例えば周辺差分レベルd=dzであるとすると、ターゲット画素Gtgのレベルは、レベルLzに置き換えられることになる。
この黒点欠陥の場合の線形補間の場合の補正値は、
補正値=ターゲット画素レベルLtg+a× (周辺差分レベルd−閾値Th1)
として算出される。周辺差分レベルd=dzの場合、(周辺差分レベルd−閾値Th1)は図中の「z」に相当し、またaは直線の傾きである。従って、周辺差分レベルd=dzの場合の補正値Lzは、Lz=Ltg+a・zとして算出される。
そして、線形補間領域が設けられ、周辺差分レベルdの値によっては線形補間処理が行われることで、補間の有無により点滅が発生し、出力画像上で視覚的に目障りとなることが解消される。
つまり、線形補間領域は、周辺差分レベルdが欠陥判定の閾値Th1近辺にあり、ノイズの影響でフレーム毎に欠陥判定が微妙になる領域であり、図3(a)(b)からわかるように、周辺差分レベルdが閾値Th1に近いほど、補正量は小さくなる(補間される補正値は元のレベルLtgに近い値となる)。換言すれば、欠陥であるか否かの判定がフレーム毎に揺らぎやすい場合ほど、レベル補正の量は小さくなる。このため欠陥であるか否かの判定がフレーム毎に揺らいだとしても、そのターゲット画素Gtgのレベルについて、補正を行った場合と行わない場合とで、レベル差は小さいものとなり、視覚上、点滅と認識されにくくすることができるためである。このことから点滅出力の緩和が実現される。
そしてこれによって、大容量メモリを必要としない動的欠陥補正の性能を向上させ、実用化に適したものとなることで、結果的に従来の大容量メモリを用いた欠陥補正方式に代えることができ、欠陥補正のための回路規模の削減やコスト削減が促進できる。
閾値Th2は線形補間領域の上限を決める値となる。また上記のとおり、線形補間領域とは、周辺差分レベルdが、欠陥判定の閾値Th1近辺にあり、ノイズの影響でフレーム毎に欠陥判定が微妙になることを考慮して設けた領域である。すると、線形補間領域は、ノイズの影響を受けて欠陥判定が揺らぐ範囲とすることが適切である。このことから、上記αの値は、例えばフレーム毎に周辺ノイズ量に応じて設定されることが好適であることが理解される。
欠陥補正回路30は、平均算出部31、周辺ノイズレベル算出部32、欠陥検出部33、線形傾き抽出部34、欠陥補正値算出部35を備える。
各フレーム内では、ラインメモリを用いて各画素がターゲット画素Gtgとして順次入力され、またその際に、そのときのターゲット画素Gtgに対する周辺画素G1〜G8が入力されることで、フレーム内の各画素が順次ターゲット画素Gtgとされて欠陥判別及び欠陥と判定された場合の補間処理が行われる。
また、欠陥補正回路30にはセンサ部2における画素アレイのOPB(オプティカルブラック)領域の信号も入力される。OPB領域とは、画素アレイにおける有効画素周辺で光が入射されないように(或いは入射光に応じた画素信号出力がなされないように)されている領域である。
さらに欠陥補正回路30には、閾値Th1としての設定値が入力される。閾値Th1は、予め或る固定値として設定されているとする。例えばカメラ信号処理コントローラ17側の内部メモリ或いは外部メモリとしてのEEP−ROMなどにおいて記憶されている。
周辺ノイズレベル算出部32には、フレーム毎にOPBの画素信号値が入力され、そのフレームでの周辺画素のノイズ量を検出する。そして、そのノイズ量により閾値Th2の設定のための値αを算出する。
欠陥検出部33では、閾値Th2を、閾値Th1+αとして設定する。
また、ターゲット画素Gtg、周辺画素G1〜G8から周辺差分レベルdを算出する。もしターゲット画素Gtgのレベルが周辺画素G1〜G8のいずれよりも大きい場合は、白点欠陥の有無の判別のため、ターゲット画素GtgのレベルLtgと、周辺画素最大値pixmax、つまり周辺画素G1〜G8のうちの最大レベルとの差を求め、周辺差分レベルdとする。また、ターゲット画素Gtgのレベルが周辺画素G1〜G8のいずれよりも小さい場合は、黒点欠陥の有無の判別のため、ターゲット画素GtgのレベルLtgと、周辺画素最小値pixmin、つまり周辺画素G1〜G8のうちの最小レベルとの差を求め、周辺差分レベルdとする。
なお、ターゲット画素GtgのレベルLtgが、周辺画素最大値pixmax>Ltg>周辺画素最小値pixminであれば、その時点で、当該ターゲット画素Gtgは欠陥画素ではないと判断すればよい。
欠陥検出部33では、周辺差分レベルdを求めたら、それを閾値Th1、Th2と比較し、周辺差分レベルdが非補間領域、線形補間領域、完全補間領域のいずれにあるかを判断し、その判別結果の情報を欠陥補正値算出部35に伝える。また白点欠陥/黒点欠陥の別の情報や、さらに、算出した周辺差分レベルd、及び閾値Th1の値を欠陥補正値算出部35に伝える。
a=(ターゲット画素レベルLtg−補正レベルLav)/線形補間領域
で求めることができる。線形補間領域としての値は、閾値Th1と閾値Th2の差分であるため、即ちαの値である。
線形傾き抽出部34は、傾きaを算出したら、傾きa、ターゲット画素レベルLtg、補正レベルLavの各値を欠陥補正値算出部35に供給する。
・欠陥でないとの判別結果情報が入力された場合は、ターゲット画素Ltgをそのまま出力する。つまり補間処理は行わない。
・欠陥画素であって完全補間領域との判別結果情報が入力された場合は、完全補間処理を行う。つまり対象となっているターゲット画素Gtgのレベルを、補正レベルLavに置き換えて出力する。
・白点欠陥の欠陥画素であって線形補間領域との判別結果情報が入力された場合は、線形補間処理を行う。つまり図3(a)で説明したように、ターゲット画素Gtgのレベルを、ターゲット画素レベルLtg−傾きa× (周辺差分レベルd−閾値Th1)で算出される補正値に置き換えて出力する。
・黒点欠陥の欠陥画素であって線形補間領域との判別結果情報が入力された場合は、線形補間処理を行う。つまり図3(b)で説明したように、ターゲット画素Gtgのレベルを、ターゲット画素レベルLtg+傾きa× (周辺差分レベルd−閾値Th1)で算出される補正値に置き換えて出力する。
以上のようにして、図4の欠陥補正回路30で、図2,図3で説明した補正処理が実現される。
図5(a)は白点欠陥を判別する場合の閾値Th1について示している。ターゲット画素GtgのレベルLtgが全ての周辺画素のレベルより大きい場合は、白点欠陥の可能性がある。この場合上述のとおり、周辺差分レベルdは、ターゲット画素レベルLtgと周辺画素最大値pixmaxの差分となる。ここで周辺画素最大値pixmaxに対して、所定の係数Kを乗算した値を閾値Th1とする。
つまり、レベル0と周辺画素最大値pixmaxのレベル差に対して係数を与えた値が閾値Th1とされ、その閾値Th1と周辺差分レベルdが比較されて欠陥判定が行われる。
つまり、最大レベルLmaxと周辺画素最大値pixmaxのレベル差に対して係数を与えた値が閾値Th1とされ、その閾値Th1と周辺差分レベルdが比較されて欠陥判定が行われる。
まず欠陥画素は、周辺画素のレベル(輝度)によって目立ちやすさが異なる。白点欠陥の場合で考えると、周辺画素による画像が明るいほど、欠陥が目立たず、逆に周辺画素の画像が暗くなるほど、ちょっとした欠陥でも目立ってしまう。
ここで図5(a)のように周辺画素最大値pixmaxに係数Kを乗算して閾値Th1とすることは、周辺画素最大値pixmaxが高い場合ほど閾値Th1が大きくなり、周辺画素最大値pixmaxが低い場合ほど閾値Th1が小さくなることになる。
言い換えると、周辺画素としての画像が明るい画像である場合ほど閾値Th1が大きくなり、周辺画素としての画像が暗い画像である場合ほど閾値Th1が小さくなる。
ターゲット画素Gtgが欠陥画素であるか否かは、周辺差分レベルdと閾値Th1の比較によるものであるため、周辺が明るい画像の場合は、ターゲット画素Gtgが欠陥と判断されにくく、周辺が暗い画像の場合は、ターゲット画素Gtgが欠陥と判断されやすいものとなる。
従って、欠陥が目立ちやすい場合は、小さなレベルの「浮き」も欠陥と判断されやすく、逆に欠陥が目立ちにくい場合は、大きなレベルの「浮き」でなければ欠陥と判断されにくい傾向となる。これは上述の視覚的な特性に適ったものであり、このように閾値Th1が設定されることで、目立つ白点欠陥は補間処理されやすく、これによって画質向上に適切であると共に、目立たない白点欠陥は、必要以上の補間が行われず、むやみに補正処理負担を大きくしないという効果が得られるものとなる。
図6(a)は白点欠陥を判別する場合の閾値Th1について示している。ターゲット画素GtgのレベルLtgが全ての周辺画素のレベルより大きい場合は、白点欠陥の可能性がある。この場合、周辺差分レベルdは、ターゲット画素レベルLtgと周辺画素最大値pixmaxの差分となる。ここで周辺画素最大値pixmaxと周辺画素最小値pixminの差分(pixmax−pixmin)に対して、所定の係数Kを乗算した値を閾値Th1とする。そしてその閾値Th1と周辺差分レベルdが比較されて欠陥判定が行われる。
人間の目には、周辺画素に対し、ターゲット画素Gtgのみが不自然なレベルにある場合、そのターゲット画素Gtgが欠陥であると認識されやすい。
また、周辺の画像上にエッジがある場合、例えば文字やサーキュラーゾーンなどで画像が急激に変化している箇所がある場合は、欠陥は目立たないが欠陥画素と正常画素の誤判断が生じやすい。
従って周辺の画像状態に応じて適切な欠陥有無の判断ができる。つまり周辺画像が平坦な画像である場合は閾値Th1が低く設定されて、ターゲット画素Gtgが欠陥と判断されやすい傾向となり、これによって欠陥が目立ちやすい状況では多少の浮き上がりも欠陥と判断されて補間処理される。
一方、周囲画素が平坦でない場合は、閾値Th1が高く設定されるため、ターゲット画素Gtgが欠陥と判断されにくい傾向となり、これによって欠陥が目立たない場合は、少々の浮き上がりは欠陥とはせずに、処理負担を軽減できると共に、欠陥判断における誤判断を防止させるという効果が得られる。
また、欠陥補正処理に関しては、線形補間領域の設定は、例えば閾値Th1、Th2のいずれをも固定値として予め設定したり、或いは上述の図5又は図6のように閾値Th1を可変としながら閾値Th2を設定するための値αを固定値とすることも考えられる。
さらには値αを周辺ノイズレベル以外の要素に応じて可変することも考えられる。
また周辺差分レベルdが閾値Th1に近い場合は、線形補間処理を行うことで、簡易な演算で適切な補正が可能になるものであるが、例えば閾値Th1、Th2の間の補間動作として、周辺差分レベルdに対する補正値の特性が、曲線で表されるような補間処理も考えられる。
また、完全補間領域での補正レベルLavは、周辺4画素の平均値とすることに限られるものではない。また、ターゲット画素Gtgに対する周辺画素は、図7(a)のG1〜G8に限られるものではない。
Claims (12)
- 固体撮像素子アレイの各画素に入射した入射光に応じた画素信号を出力する撮像センサ手段と、
上記撮像センサ手段から出力される各画素信号について欠陥補正のための補間処理を行う欠陥補正手段と、
上記欠陥補正手段で補間処理された各画素信号について画像信号処理を行い、所定フォーマットの撮像画像信号を出力する信号処理手段とを有し、
上記欠陥補正手段は、
欠陥補正の対象とする注目画素とその周辺画素の差分値を、欠陥判定基準となる第1の閾値、及び上記第1の閾値より大きい値とされた第2の閾値と比較し、
上記差分値が上記第2の閾値より大きければ、上記注目画素のレベルを、上記周辺画素レベルから求められた補正レベルとする第1の補間処理を行い、
上記差分値が上記第1の閾値から上記第2の閾値の間にあれば、上記注目画素のレベルを、上記差分値に応じて算出される補正レベルとする第2の補間処理を行うことを特徴とする固体撮像装置。 - 上記第1の補間処理における補正レベルは、上記周辺画素レベルの平均値とされることを特徴とする請求項1に記載の固体撮像装置。
- 上記第2の補間処理における補正レベルは、上記差分値を用いた線形演算で求められる値とされることを特徴とする請求項1に記載の固体撮像装置。
- 上記第2の閾値は、画素信号のノイズ量に基づいて可変設定されることを特徴とする請求項1に記載の固体撮像装置。
- 上記第1の閾値は、上記周辺画素のレベルに係数を乗じた値として設定されることを特徴とする請求項1に記載の固体撮像装置。
- 上記第1の閾値は、上記周辺画素の最大レベルと最小レベルの差分に係数を乗じた値として設定されることを特徴とする請求項1に記載の固体撮像装置。
- 固体撮像素子アレイの各画素に入射した入射光に応じて出力される画素信号の欠陥補正方法として、
欠陥補正の対象とする注目画素とその周辺画素の差分値を、欠陥判定基準となる第1の閾値、及び上記第1の閾値より大きい値とされた第2の閾値と比較する比較ステップと、
上記差分値が上記第2の閾値より大きければ、上記注目画素のレベルを、上記周辺画素レベルから求められた補正レベルとする第1の補間処理ステップと、
上記差分値が上記第1の閾値から上記第2の閾値の間にあれば、上記注目画素のレベルを、上記差分値に応じて算出される補正レベルとする第2の補間処理ステップと、
を備えたことを特徴とする欠陥補正方法。 - 上記第1の補間処理ステップにおける補正レベルは、上記周辺画素レベルの平均値とされることを特徴とする請求項7に記載の欠陥補正方法。
- 上記第2の補間処理ステップにおける補正レベルは、上記差分値を用いた線形演算で求められる値とされることを特徴とする請求項7に記載の欠陥補正方法。
- 上記比較ステップでは、上記第2の閾値を、画素信号のノイズ量に基づいて可変設定することを特徴とする請求項7に記載の欠陥補正方法。
- 上記比較ステップでは、上記第1の閾値を、上記周辺画素のレベルに係数を乗じた値として設定することを特徴とする請求項7に記載の欠陥補正方法。
- 上記比較ステップでは、上記第1の閾値を、上記周辺画素の最大レベルと最小レベルの差分に係数を乗じた値として設定することを特徴とする請求項7に記載の欠陥補正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004160744A JP4349207B2 (ja) | 2004-05-31 | 2004-05-31 | 固体撮像装置、欠陥補正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004160744A JP4349207B2 (ja) | 2004-05-31 | 2004-05-31 | 固体撮像装置、欠陥補正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005341463A true JP2005341463A (ja) | 2005-12-08 |
JP4349207B2 JP4349207B2 (ja) | 2009-10-21 |
Family
ID=35494475
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004160744A Expired - Fee Related JP4349207B2 (ja) | 2004-05-31 | 2004-05-31 | 固体撮像装置、欠陥補正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4349207B2 (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006100913A (ja) * | 2004-09-28 | 2006-04-13 | Canon Inc | 画像処理装置および画像処理方法 |
WO2007075072A1 (en) * | 2005-12-29 | 2007-07-05 | Mtekvision Co., Ltd. | Apparatus for color interpolation using adjustable threshold |
JP2008104122A (ja) * | 2006-10-20 | 2008-05-01 | Toshiba Corp | 放射線イメージング装置並びに半導体検出器の補間方法及びその装置 |
JP2011015157A (ja) * | 2009-07-01 | 2011-01-20 | Toshiba Corp | 信号処理回路 |
JP2011244288A (ja) * | 2010-05-19 | 2011-12-01 | Fujifilm Corp | 撮像装置及び撮像画像信号の補正方法 |
JP2012165457A (ja) * | 2012-04-27 | 2012-08-30 | Toshiba Corp | 半導体検出器の補間装置及びその方法 |
US9654668B2 (en) | 2014-01-17 | 2017-05-16 | Olympus Corporation | Image composition apparatus and image composition method |
JP2020010757A (ja) * | 2018-07-13 | 2020-01-23 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用画像処理装置及び医療用観察システム |
WO2020100399A1 (ja) * | 2018-11-16 | 2020-05-22 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
-
2004
- 2004-05-31 JP JP2004160744A patent/JP4349207B2/ja not_active Expired - Fee Related
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4498086B2 (ja) * | 2004-09-28 | 2010-07-07 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP2006100913A (ja) * | 2004-09-28 | 2006-04-13 | Canon Inc | 画像処理装置および画像処理方法 |
US8184905B2 (en) | 2005-12-29 | 2012-05-22 | Mtekvision Co., Ltd. | Apparatus for color interpolation using adjustable threshold |
WO2007075072A1 (en) * | 2005-12-29 | 2007-07-05 | Mtekvision Co., Ltd. | Apparatus for color interpolation using adjustable threshold |
US8520945B2 (en) | 2005-12-29 | 2013-08-27 | Mtekvision Co., Ltd. | Apparatus for color interpolation using adjustable threshold |
US8582874B2 (en) | 2005-12-29 | 2013-11-12 | Mtekvision Co., Ltd. | Apparatus for color interpolation using adjustable threshold |
JP2008104122A (ja) * | 2006-10-20 | 2008-05-01 | Toshiba Corp | 放射線イメージング装置並びに半導体検出器の補間方法及びその装置 |
JP2011015157A (ja) * | 2009-07-01 | 2011-01-20 | Toshiba Corp | 信号処理回路 |
JP2011244288A (ja) * | 2010-05-19 | 2011-12-01 | Fujifilm Corp | 撮像装置及び撮像画像信号の補正方法 |
JP2012165457A (ja) * | 2012-04-27 | 2012-08-30 | Toshiba Corp | 半導体検出器の補間装置及びその方法 |
US9654668B2 (en) | 2014-01-17 | 2017-05-16 | Olympus Corporation | Image composition apparatus and image composition method |
JP2020010757A (ja) * | 2018-07-13 | 2020-01-23 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用画像処理装置及び医療用観察システム |
WO2020100399A1 (ja) * | 2018-11-16 | 2020-05-22 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4349207B2 (ja) | 2009-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4742652B2 (ja) | 撮像装置 | |
JP5983616B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP4210021B2 (ja) | 画像信号処理装置および画像信号処理方法 | |
JP6202860B2 (ja) | 撮像装置及び撮像方法 | |
JP5013954B2 (ja) | 撮像装置 | |
JP4894907B2 (ja) | 撮像装置、撮像処理方法及びプログラム | |
US20180061029A1 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium storing image processing program of image processing apparatus | |
JP2008085388A (ja) | 撮像装置 | |
US10237488B2 (en) | Image capturing apparatus and image capturing method | |
US20050157188A1 (en) | Image capturing apparatus and method of performing noise process on moving picture | |
KR100986203B1 (ko) | 촬상 장치 및 이에 이용하는 결함 화소 보정 방법 | |
US8189066B2 (en) | Image processing apparatus, image processing method, and computer-readable medium | |
JP2009201103A (ja) | 映像信号処理装置 | |
JP5861924B2 (ja) | 撮像装置 | |
US10271029B2 (en) | Image pickup apparatus and method of controlling an image pickup apparatus | |
JP4349207B2 (ja) | 固体撮像装置、欠陥補正方法 | |
JP4679174B2 (ja) | 画像処理装置およびこの画像処理装置を備えたデジタルカメラ | |
KR101716818B1 (ko) | 초저조도용 cctv 카메라 시스템 | |
JP4622196B2 (ja) | 撮像装置 | |
JP2008108024A (ja) | 画像処理装置および撮像装置 | |
JP2007266956A (ja) | 撮像装置、インパルス成分検出回路、インパルス成分除去回路、インパルス成分検出方法、インパルス成分除去方法及びコンピュータプログラム | |
US20220174201A1 (en) | Apparatus, method for controlling apparatus, and storage medium | |
JP2004328606A (ja) | 撮像装置 | |
JP2019080261A (ja) | 撮像装置 | |
JP5195663B2 (ja) | 撮像装置、合焦方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070326 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090624 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090630 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090713 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130731 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |