JP4604078B2 - 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置 - Google Patents

欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置 Download PDF

Info

Publication number
JP4604078B2
JP4604078B2 JP2007302335A JP2007302335A JP4604078B2 JP 4604078 B2 JP4604078 B2 JP 4604078B2 JP 2007302335 A JP2007302335 A JP 2007302335A JP 2007302335 A JP2007302335 A JP 2007302335A JP 4604078 B2 JP4604078 B2 JP 4604078B2
Authority
JP
Japan
Prior art keywords
pixel
correction
defective pixel
defective
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007302335A
Other languages
English (en)
Other versions
JP2009130553A (ja
Inventor
敬浩 皆木
邦允 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Acutelogic Corp
Original Assignee
Acutelogic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Acutelogic Corp filed Critical Acutelogic Corp
Priority to JP2007302335A priority Critical patent/JP4604078B2/ja
Publication of JP2009130553A publication Critical patent/JP2009130553A/ja
Application granted granted Critical
Publication of JP4604078B2 publication Critical patent/JP4604078B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、イメージセンサから出力された画像信号を処理する技術に関し、特に、イメージセンサの画素欠陥を補正するためのデジタルデータ処理を行う欠陥画素補正方法、欠陥画素補正プログラム、欠陥画素補正装置に関する。
従来、デジタルカメラやビデオカメラ等の撮像装置においては、複数の光電変換素子がマトリクス状に配置されて受光量に応じた画素信号を出力するCCDやCMOS等のイメージセンサが一般的に使用されている。
そして、このようなイメージセンサでは、その製造工程に起因して、入射光に反応しない画素(黒キズ)や、入射光がなくても異常に強い暗電流を発生する画素(白キズ)が含まれていることがしばしばある。
「黒キズ」と呼ばれる欠陥画素は、画素の光入射面に付着する塵などに起因して、その画素への入射光が遮られることにより生じ、一方、「白キズ」と呼ばれる欠陥画素は、画素の光入射面形成されるカラーマイクロフィルタやマイクロレンズの欠損になどに起因して生じる。
そして、イメージセンサの製造過程ではこれらの欠陥画素を完全に除去することが困難であって、製造された後に、欠陥画素を検出して、この欠陥画素を介して出力される画素信号を補正する技術が知られている。
例えば、デジタルカメラのシャッター速度や撮影条件に応じて、欠陥画素の位置を検出し、検出された欠陥画素の位置情報をルックアップテーブル(所謂、記憶テーブルである)に記憶し、撮影毎に、ルックアップテーブルに記憶された欠陥画素の位置情報にもとづいて、欠陥画素の補正を行っているものがある(例えば、特許文献1、2、3参照)。
詳しくは、撮像装置において、まず電源印加時に絞りを閉じて撮像素子(所謂、イメージセンサである)を遮光した状態で1画面分撮像し、この撮像で得られた画像データと閾値とを比較して、閾値よりも高い輝度を示す画素を白キズとして検出し、その位置情報を記憶する。さらに、黒キズを検出するために、絞りを所定値に開放し、専用の被写体を1画面分撮像し、この撮像で得られた画像データと閾値とを比較し、閾値よりも低い輝度を示す画素を黒キズとして検出し、その位置情報を記憶する。
特開平10−322603号公報 特開2000−101925号公報 特開2000−224487号公報
しかしながら、近年デジタルカメラに代表されるように、高画素化が進みに伴って、イメージセンサに発生する欠陥画素も増加傾向にある。その際、全ての欠陥画素に対応付けてその補正情報をルックアップテーブルに記憶するものとすれば、記憶容量の大きなルックアップテーブルが必要となって生産性を損なう虞があった。
また、欠陥画素の画素信号を補正する際に、一般的に、欠陥画素に近傍する他の画素の画素値を用いるので、欠陥画素が隣り合って(連続して)発生する際には、欠陥画素の補正が不十分となる虞があった。
そこで、本発明は、イメージセンサの高画素化に応じて、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶テーブルの記憶容量を節減でき、且つ、連続して発生する欠陥画素群を適切に補正できる欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置を提供することを目的とする。
かかる目的を達成するためになされた請求項1に記載の発明は、検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この補正情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正方法において、前記補正情報を記憶する際に、前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成ステップと、前記マップを参照して前記補正情報を前記記憶テーブルに記憶する補正情報記憶ステップと、前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正ステップと、を備え、前記マップにおいて、前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、前記補正情報記憶ステップにおいて、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、前記画像データ補正ステップにおいて、前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、ことを特徴とする。
請求項1に記載の欠陥画素補正方法によれば、欠陥画素のマップにおいて欠陥画素が連続して現れる欠陥画素列が生成されている際には、補正情報記憶ステップにおいて、不連続の欠陥画素になるように、欠陥画素列の中で補正する欠陥画素を選択して記憶テーブルに記憶し、画像データ補正ステップにおいて、記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成することにより、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶テーブルの記憶容量を節減でき、且つ、欠陥画素が連続する欠陥画素列を適切に補正できる。
つまり、請求項1に記載の欠陥画素補正方法によれば、補正情報記憶ステップにおいて、不連続の欠陥画素になるように、欠陥画素列の中で補正する欠陥画素を選択して記憶テーブルに記憶しているので、欠陥画素の全てに対応する補正情報を記憶テーブルに記憶するよりも記憶テーブルの記憶容量を節減でき、さらに、欠陥画素が連続して現れる際に、隣り合う欠陥画素の影響を低減して、欠陥画素を適切に補正できる。
また、請求項1に記載の欠陥画素補正方法は、請求項2に記載の発明のように、前記イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、前記マップが、前記色光の夫々毎に生成されていることにより、カラーイメージセンサにおける欠陥画素を適切に補正できる。
また、請求項1又は請求項2に記載の欠陥画素補正方法は、請求項3に記載の発明のように、前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備え、各画素が単一色の輝度情報のみを有し、前記ベイヤー配列に対応付けて、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、前記補正情報が、R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられていることにより、ベイヤー配列のカラーフィルタを備えたイメージセンサにおいて、同色の画素毎に、水平方向、垂直方向、斜め方向に連続して現れる欠陥画素列に対応付けて、欠陥画素を適切に補正できる。
また、請求項1乃至請求項3の何れか記載の欠陥画素補正方法は、請求項4に記載の発明のように、前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出することにより、分割された領域毎に精度良く欠陥画素を検出できて、高品位の画像データを得ることができる。また、イメージセンサの画素範囲の周辺近傍には明暗のバラツキが生じ易く、この明暗バラツキを補正するためのシェーディング補正が行われて画素値の水準が変化する虞があるので、シェーディング補正が行われた画面に対して、複数領域に分割することが好ましい。
また、請求項4に記載の欠陥画素補正方法は、請求項5に記載の発明のように、前記分割された領域において、画素値毎の画素数を表す分布を生成して、該分布から基準となる画素値を検出し、該基準の画素値に対して前記閾値の分だけ欠陥方向に隔てた画素値を欠陥有無の判定値とし、各画素の画素値を前記判定値と比較することにより、欠陥画素を検出することができる。これにより、分割された領域毎に、欠陥画素による画質劣化を抑制できて、高品位の画像を得ることができる。
また、請求項5に記載の欠陥画素補正方法は、請求項6に記載の発明のように、前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値であることが好ましい。これにより、欠陥画素が最も標準的な画素の画素値に補正されるので、欠陥が顕在化することなく、欠陥画素による画質の劣化を抑制できる。
また、請求項1乃至請求項6の何れか記載の欠陥画素補正方法は、請求項7に記載の発明のように、前記欠陥画素の補正候補数を検出する補正候補数検出ステップと、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価ステップと、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択ステップと、を備えることにより、万が一欠陥画素群の数が所定値を超える際には、所定値内になるように選択できて、記憶テーブルのメモリ容量を節減できると共に、記憶テーブルの所定の記憶容量内で処理できる。
また、請求項1乃至請求項7の何れか記載の欠陥画素補正方法は、請求項8に記載の発明のように、前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正することが好ましい。

また、請求項1乃至請求項8の何れか記載の欠陥画素補正方法は、請求項9に記載の発明のように、前記補正情報記憶ステップでは、欠陥画素群が所定の連続性を有する態様にいたった際に、該欠陥画素群の補正を不可として記憶することにより、無理な補正を行うことなく、欠陥画素補正の信頼性を高めることができる。

また、請求項7乃至請求項9の何れか記載の欠陥画素補正方法は、請求項10に記載の発明のように、前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける欠陥画素の補正を不可として報知することにより、イメージセンサから出力される画像データにおける欠陥度合いを前記評価値によって測ることができて付加価値を向上できる。

次に、請求項11に記載の発明は、検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正プログラムにおいて、前記補正情報を記憶する際に、前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成ステップと、前記マップを参照して、選択的に前記補正情報を前記記憶テーブルに記憶する補正情報記憶ステップと、前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正ステップと、をコンピュータに実行させ、前記マップにおいて、前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、前記補正情報記憶ステップにおいて、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、前記画像データ補正ステップにおいて、前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、
補正する欠陥画素として選択されずに残った他の欠陥画素については、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、ようにコンピュータに実行させることを特徴とする。

請求項11に記載の欠陥画素補正プログラムによれば、欠陥座標に対応付けて欠陥画素のマップを生成するマップ生成ステップと、マップを参照して補正情報を記憶テーブルに記憶する補正情報記憶ステップと、記憶テーブルに記憶された補正情報に基づいて、画像データを補正する画像データ補正ステップと、をコンピュータに実行させ、前記マップにおいて、欠陥画素が連続して現れる欠陥画素列が構成されている際には、補正情報記憶ステップにおいて、不連続の欠陥画素になるように、欠陥画素列の中で補正する欠陥画素を選択して記憶テーブルに記憶し、画像データ補正ステップにおいて、記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成するようにコンピュータに実行させることにより、請求項1に記載の発明と同様に、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶テーブルの記憶容量を節減でき、且つ、欠陥画素が連続する欠陥画素列を適切に補正できる。

また、請求項11に記載の欠陥画素補正プログラムは、請求項12に記載の発明のように、イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、マップが色光の夫々毎に生成されるようにコンピュータに実行させることにより、請求項2に記載の発明と同様に、カラーイメージセンサにおける欠陥画素を適切に補正できる。

また、請求項11又は請求項12に記載の欠陥画素補正プログラムは、請求項13に記載の発明のように、前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備えて各画素が単一色の輝度情報のみを有する画素値を生成し、前記ベイヤー配列において、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、前記補正情報が、R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられるようにコンピュータに実行させることにより、請求項3に記載の発明と同様に、ベイヤー配列のカラーフィルタを備えたイメージセンサにおいて、同色の画素毎に、水平方向、垂直方向、斜め方向に連続して現れる欠陥画素列に対応付けて、欠陥画素を適切に補正できる。

また、請求項11乃至請求項13の何れか記載の欠陥画素補正プログラムは、請求項14に記載の発明のように、前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出するようにコンピュータに実行させることにより、請求項4に記載の発明と同様に、シェーディング補正等の影響を受けることなく、分割された領域毎に精度良く欠陥画素を補正できて、高品位の画像を得ることができる。

また、請求項14に欠陥画素補正プログラムは、請求項15に記載の発明のように、前記分割された領域において、画素値毎の画素数を表す分布を求めて該分布から基準となる画素値を検出し、該基準の画素値に対する各画素の画素値の差分を前記閾値と比較して前記欠陥画素を検出するようにコンピュータに実行させることにより、請求項5に記載の発明と同様に、分割された領域毎に、欠陥画素による画質劣化を抑制できて、高品位の画像を得ることができる。

また、請求項15に記載の欠陥画素補正プログラムは、請求項16に記載の発明のように、前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値であるようにコンピュータに実行させることが好ましい。これにより、請求項6に記載の発明と同様に、欠陥画素が最も標準的な画素の画素値に補正されるので、欠陥が顕在化することなく、欠陥画素による画質の劣化を抑制できる。

また、請求項11乃至請求項16の何れか記載欠陥画素補正プログラムは、請求項17に記載の発明のように、前記欠陥画素の補正候補数を検出する補正候補数検出ステップと、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価ステップと、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択ステップと、をコンピュータに実行させることにより、請求項7に記載の発明と同様に、万が一欠陥画素群の数が所定値を超える際には、所定値内になるように選択できて、記憶テーブルのメモリ容量を節減できると共に、記憶テーブルの所定の記憶容量内で処理できる。

また、請求項11乃至請求項17の何れか記載の欠陥画素補正プログラムは、請求項18に記載の発明のように、前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正するようにコンピュータに実行させることが好ましい。

また、請求項11乃至請求項18の何れか記載の欠陥画素補正プログラムは、請求項19に記載の発明のように、前記補正情報記憶ステップでは、前記欠陥画素が所定の連続性を有する欠陥画素群の態様にいたった際に、該欠陥画素群の補正を不可として記憶する、
ようにコンピュータに実行させることにより、請求項9に記載の発明と同様に、無理な補正を行うことなく、欠陥画素補正の信頼性を高めることができる。

また、請求項17乃至請求項19の何れか記載の欠陥画素補正プログラムは請求項20に記載の発明のように、前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける前記欠陥画素の補正を不可とし報知するようにコンピュータに実行させることにより、請求項10に記載の発明と同様に、イメージセンサから出力される画像データにおける欠陥度合いを前記評価値によって測ることができて付加価値を向上できる。

次に、請求項21に記載の発明は、検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正装置において、前記補正情報を記憶する際に、前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成手段と、前記マップを参照して前記補正情報を前記記憶テーブルに記憶する補正情報記憶手段と、前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正手段と、を備え、前記マップにおいて、前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、前記補正情報記憶手段が、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、前記画像データ補正手段が、前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、ように構成されていることを特徴とする。

請求項21に記載の欠陥画素補正装置は、欠陥画素の座標を求めて該座標に対応付けて欠陥画素のマップを生成するマップ生成手段と、このマップを参照して補正情報を記憶テーブルに記憶する補正情報記憶手段と、記憶テーブルに記憶された補正情報に基づいて、画像データを補正する画像データ補正手段と、を備え、マップにおいて、欠陥画素が連続して現れる欠陥画素列が構成されている際には、補正情報記憶手段が、不連続の欠陥画素になるように、欠陥画素列の中で補正する欠陥画素を選択して記憶テーブルに記憶し、画像データ補正手段が、記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成するように構成されているので、請求項1に記載の発明と同様に、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶テーブルの記憶容量を節減でき、且つ、欠陥画素が連続する欠陥画素列を適切に補正できる。

また、請求項21に記載の欠陥画素補正装置は、請求項22に記載の発明のように、前記イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、前記マップが前記色光の夫々毎に生成されていることにより、請求項2に記載の発明と同様に、カラーイメージセンサにおける欠陥画素を適切に補正できる。

また、請求項21又は請求項22に記載の欠陥画素補正装置は、請求項23に記載の発明のように、前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備えて各画素が単一色の輝度情報のみを有する画素値を生成し、前記ベイヤー配列において、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、前記補正情報が、R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられていることにより、請求項3に記載の発明と同様に、ベイヤー配列のカラーフィルタを備えたイメージセンサにおいて、同色の画素毎に、水平方向、垂直方向、斜め方向に連続して現れる欠陥画素列に対応付けて、欠陥画素を適切に補正できる。

また、請求項21乃至請求項23の何れか記載の欠陥画素補正装置は、請求項24に記載の発明のように、前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出する欠陥画素検出手段を備えていることにより、請求項4に記載の発明と同様に、シェーディング補正等の影響を受けることなく、分割された領域毎に精度良く欠陥画素を補正できる。

また、請求項24に記載の欠陥画素補正装置は、請求項25に記載の発明のように、前記欠陥画素検出手段が、前記分割された領域において、画素値毎の画素数を表す分布を求めて該分布から基準となる画素値を検出し、該基準の画素値に対する各画素の画素値の差分を前記閾値と比較して前記欠陥画素を検出するように構成されていることにより、請求項5に記載の発明と同様に、分割された領域毎に、欠陥画素による画質劣化を抑制できて、高品位の画像を得ることができる。

また、請求項25に記載の欠陥画素補正装置は、請求項26に記載の発明のように、前記欠陥画素検出手段において、前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値であるが好ましい。これにより、請求項6に記載の発明と同様に、欠陥画素が最も標準的な画素の画素値に補正されるので、欠陥が顕在化することなく、欠陥画素による画質の劣化を抑制できる。

また、請求項21乃至請求項26の何れか記載の欠陥画素補正装置は、請求項27に記載の発明のように、前記欠陥画素の補正候補数を検出する補正候補数検出手段と、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価手段と、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択手段と、を備えることにより、請求項7に記載の発明と同様に、万が一欠陥画素群の数が所定値を超える際には、所定値内になるように選択できて、記憶テーブルのメモリ容量を節減できると共に、記憶テーブルの所定の記憶容量内で処理できる。

また、請求項21乃至請求項27の何れか記載の欠陥画素補正装置は、請求項28に記載の発明のように、前記補正情報記憶手段が、前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正するように構成されていることが好ましい。

また、請求項21乃至請求項28の何れか記載の欠陥画素補正装置は、請求項29に記載の発明のように、前記補正情報記憶手段が、欠陥画素の連続して現れる欠陥画素群の態様が所定の態様にいたった際に、該欠陥画素群の補正を不可として記憶するように構成されていることにより、請求項9に記載の発明と同様に、無理な補正を行うことなく、欠陥画素補正の信頼性を高めることができる。

また、請求項27乃至請求項29の何れか記載の欠陥画素補正装置は、請求項30に記載の発明のように、前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける前記欠陥画素の補正を不可として報知する補正不可報知手段を備えていることにより、請求項10に記載の発明と同様に、イメージセンサから出力される画像データにおける欠陥度合いを前記評価値によって測ることができて付加価値を向上できる。

本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、欠陥画素のマップにおいて欠陥画素が連続して現れる欠陥画素列が生成されている際には、不連続の欠陥画素になるように、欠陥画素列の中で補正する欠陥画素を選択して記憶テーブルに記憶し、記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された欠陥画素の画素値を補正し、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成することにより、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶テーブルの記憶容量を節減でき、且つ、欠陥画素が連続する欠陥画素列を適切に補正できる。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、
イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、前記マップが、前記色光の夫々毎に生成されていることにより、カラーイメージセンサにおける欠陥画素を適切に補正できる。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備え、各画素が単一色の輝度情報のみを有し、前記ベイヤー配列に対応付けて、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、前記補正情報が、R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられていることにより、ベイヤー配列のカラーフィルタを備えたイメージセンサにおいて、同色の画素毎に、水平方向、垂直方向、斜め方向に連続して現れる欠陥画素列に対応付けて、欠陥画素を適切に補正できる。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて欠陥画素を検出することにより、分割された領域毎に精度良く欠陥画素を検出できて、高品位の画像データを得ることができ、且つ、分割された領域において、画素値毎の画素数を表す分布を生成して、該分布から基準となる画素値を検出し、該基準の画素値に対する各画素の画素値の差分を前記閾値と比較することにより、欠陥画素を検出することができる。また、この際、基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値であることが好ましい。これにより、欠陥画素が最も標準的な画素の画素値に補正されるので、欠陥が顕在化することなく、欠陥画素による画質の劣化を抑制できる。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、補正候補とする欠陥画素毎にその欠陥度合いを表す評価値を生成し、欠陥画素群の数が予め定められた所定値を超えた際に、該所定値内になるように、評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去することにより、万が一欠陥画素群の数が所定値を超える際には、所定値内になるように選択できて、記憶テーブルのメモリ容量を節減できると共に、記憶テーブルの所定の記憶容量内で処理できる。
また、画像データにおける評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける欠陥画素の補正を不可として報知することにより、イメージセンサから出力される画像データにおける欠陥度合いを前記評価値によって測ることができて付加価値を向上できる。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正することが好ましい。
また、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置は、欠陥画素群が所定の連続性を有する態様にいたった際に、該欠陥画素群の補正を不可として記憶することにより、無理な補正を行うことなく、欠陥画素補正の信頼性を高めることができる。
次に、本発明の欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置の一実施例を、図面にもとづいて説明する。
図1は、本発明の欠陥画素方法、欠陥画素補正装置及び欠陥画素補正プログラムが適用された一実施例の撮像装置1の構成を表したブロック図、図2は、同実施例における、ベイヤー配列のイメージセンサから出力される色毎の画素データの説明図である。
また、図3は、同実施例における横連続欠陥補正の説明図、図4は、同実施例における縦連続欠陥補正の説明図、図5は、同実施例における斜め連続欠陥補正の説明図、図6は、補正不可とする連続欠陥の説明図、図7は、同実施例における欠陥画素検出の説明図である。
また、図8は、同実施例の欠陥画素補正方法及び欠陥画素補正プログラムの手順を表したフローチャート、図9は、図8における、欠陥画素検出と連続欠陥画素検出及び評価値算出の手順を表したフローチャートである。
撮像装置1は、例えば携帯電話などのモバイル機器であって、図1に表したように、被写体像Pを撮像素子(本発明におけるイメージセンサである)5に導いてデジタル画像信号(各画素が単一の色の輝度情報をもつモザイク状の画像信号である)として出力する撮像ユニット100と、撮像ユニット100を介して出力されたデジタル画像信号に基づいて、撮像素子5における欠陥画素を検出して補正する欠陥画素補正装置200とによって構成されている。
撮像ユニット100は、光軸方向(図中のZ方向)に直交する径方向に開閉自在に構成されて開閉量に応じて入射光の光量を可変するIris(絞り)2、被写体像Pを撮像素子5に導く撮像レンズ3、撮像素子5へ向かう入射光の遮蔽及び遮蔽の解除を行うシャッター4、受光した撮像光を電気量に変換して出力する撮像素子(CCD:Charge Coupled Devices)5、撮像素子5から出力されるアナログ画像信号をデジタル画像信号に変換して出力するAFE(Analog Front End)6、撮像素子5及びAFE6を所定の周期で制御するTG(Timing Generator)13、撮像レンズ3の光軸方向(Z方向)のスライド駆動を行うレンズ駆動部12、センサ11を介して撮像レンズ3のスライド量を検出する検出部10、Iris2の開閉駆動を行うIris駆動部15、センサ17を介してIris2の開閉量を検出する検出部16を備えている。
撮像素子5は、単板式撮像素子であって、複数の光電変換素子がマトリクス状に配置され、その前面には光電変換素子に対応付けてR(赤)G(緑)B(青)3原色のベイヤー(Bayer)配列からなるカラーフィルタ5aを備え、各色のフィルタ部を通過した単一色の光量を電気信号に変換するように構成されている。
原色ベイヤー配列は、図2(a)に表したように、G色のフィルタが市松模様で配置され、G色フィルタとR色フィルタが交互に配置された列とG色フィルタとB色フィルタが配置された列とが交互に構成されている。また、本実施例では、図2(a)において、Rに並んで一方向に配置されたG色をGrと表し、Bに並んで一方向に配置されたG色をGbと表す。

AFE6は、撮像素子5を介して出力されたアナログ画像信号に対してノイズを除去する相関二重サンプリング回路(CDS:Corelated Double Sampling)7、相関二重サンプリング回路7で相関二重サンプリングされた画像信号を増幅する可変利得増幅器(AGC:Automatic Gain Control)8、可変利得増幅器8を介して入力されたアナログ画像信号をデジタル画像信号に変換するA/D変換器9、等によって構成され、撮像素子5から出力された画像信号を、デジタル画像信号に変換して欠陥画素補正装置200に出力する。
なお、撮像ユニット100において、撮像素子5、相関二重サンプリング回路7、可変利得増幅器8、A/D変換器9等に代えて、CMOS(Complementary Metal Oxide Semiconductor)センサを用いてもよい。撮像素子5から出力される画素毎の信号が単一色の情報しかもたないので、撮像ユニット100から欠陥画素補正装置200に、モザイク状の画像信号が出力される。
次に、欠陥画素補正装置200は、撮像ユニット100から出力されたモザイク画像を、R、Gr、Gb、Bの画素毎に記憶するフィールドメモリ21、フィールドメモリ21から出力された画像データにもとづき、後述の補正情報作成モード又は撮影補正モードの何れかを選択するモード選択部20等を備えている。

また、欠陥画素補正装置200は、撮像素子5の欠陥画素を検出する欠陥画素検出手段25、欠陥画素検出手段25で検出された欠陥画素の座標に対応付けて色毎に欠陥画素マップを生成する欠陥画素マップ生成手段31、欠陥画素マップにおいて連続して現れる欠陥画素群毎に、予めROM19に記憶された連続欠陥の態様を表す複数のパターンに対し、マッチング判定して該パターンに対応する連続欠陥を抽出する欠陥画素群抽出手段32等を備えている。
また、欠陥画素補正装置200は、欠陥画素群抽出手段32で検出された連続欠陥及び欠陥画素の欠陥度合いを評価する欠陥画素群評価手段33、欠陥画素群評価手段33を介して出力された欠陥画素群に対して補正対象の欠陥画素を選択する補正対象欠陥画素選択手段37、補正対象の欠陥画素及びその座標に対応付けて補正の仕方を表す補正情報を記憶する補正情報記憶手段38(本発明における記憶テーブルである)、モード選択部20での撮影補正モードの選択に伴って、フィールドメモリ21を介して出力された画像データの欠陥画素を補正する画像データ補正手段42、CPU(Central Processing Unit)18、ROM(Red Only Memory)19等を備え、CPU18がROM19に格納された制御用プログラムに従って、当該撮像装置1及び欠陥画素補正装置200の各処理を制御する。
フィールドメモリ21は、図1及び図2に表したように、ベイヤー配列に対応付けられて、Rの画素信号を記憶するRフィールドメモリ22と、Grの画素信号を記憶するGrフィールドメモリ23aと、Gbの画素信号を記憶するGbフィールドメモリ23bと、Bの画素信号を記憶するBフィールドメモリ24と、によって構成され、CPU18からの指令に基づき、これらの画素信号(以下、画素値という)を補正モード選択部20に出力する。
モード選択部20は、CPU18からの指令にもとづいて、補正情報(補正情報記憶部38に記憶される補正情報)の作成又は撮影した画像補正の何れかを選択する。
また、欠陥画素補正装置200は、通常、撮像ユニット100がユーザに出荷される前に、静的補正を行って補正すべき欠陥画素の座標とその補正の仕方を表す補正情報が後述の補正情報記憶部38に格納され、撮像ユニット100がユーザで使用される際には、ROM19に格納されたプログラムに基づいて、撮影毎に、補正情報記憶部38に格納された補正情報に基づいて静的補正を行った後に、補正情報記憶部38に格納されない他の欠陥画素を再検出して動的補正を行うように用いられる。
欠陥画素検出手段25は、フィールドメモリ21で記憶されたR、Gr、Gb、B毎に、撮像素子5を介して撮像される画面をマトリクス状に複数の領域に分割する画像領域分割部26と、分割された各領域における画素の画素値と画素数の分布を生成する画素分布生成部27と、画素分布の中から正常な画素の画素値の基準値を設定する基準値設定部28と、欠陥画素を検出するための閾値を取得する閾値取得部29と、閾値及び基準値を用い注目画素の欠陥有無を判定して欠陥画素を検出する欠陥画素検出部30と、によって構成されている。
詳しくは、図7(a)に表したように、画像領域分割部26では、撮像素子5から出力される画像データの全領域に対して、オプティカルブラックと呼ばれる無効画素領域(図中のOB領域)を設定し、その無効画素領域の内側に位置する有効画素領域を所定にブロックに分割する。また、分割数は、予め撮像素子5の画素数や所望の撮像条件に対応付けて設定され、ROM19又はインターフェス(図示せず)を介してオペレータから入力される。例えば、有効画素領域の画素サイズを横1920×縦1080とし、一つ領域における画素数を横64×縦64として分割数を求めれば、横が30(1920/64=30)、縦が17(1080/64≒17)の分割数が設定され、その結果、30×17×4(色の数=4)=2040の分割された画像データ領域が設定される。
次に、図7(b)、(c)に表したように、画素分布生成部27では、分割された領域において、画素値毎の画素数を表すヒストグラムを画素分布として生成する。また、この際、欠陥画素の検出が、入射光に反応しない黒キズと、入射光がなくても異常に強い暗電流を発生する白キズとの両者に行われ、白キズ検出のヒストグラム(図7(b))と黒キズ検出のヒストグラム(図7(c))が生成される。
また、白キズ検出の際は、撮像ユニット100の電源印加時にシャッター4を閉じて撮像素子5(所謂、イメージセンサである)を遮光した状態で1画面分撮像して得られた画像データを用いて各画素値を取得し、黒キズ検出の際は、Iris2及びシャッター4を所定量に開放して所定の露出条件で黒キズ検出専用の被写体を1画面分撮像し、この撮像で得られた画像データを用いて各画素値を取得する。
基準値設定部28では、図7(b)に表したように白キズ検出のヒストグラム中で最も多く現れる画素値を白キズ検出の基準値とするとともに、図7(c)に表したように黒キズ検出のヒストグラム中で最も多く現れる画素値を黒キズ検出の基準値とする。
欠陥画素検出部30は、白キズ検出の際は、図7(b)に表したように、基準値に閾値を加えた値を判定値とし、この判定値より画素値が高い画素を欠陥画素として検出し、黒キズ検出の際は、図7(c)に表したように、基準値から閾値を減算した値を判定値とし、この判定値よりも画素値が低い画素を欠陥画素として検出する。また、閾値は、白キズ検出用と黒キズ検出用の夫々に設定されている。
次に、欠陥画素マップ生成手段31は、欠陥画素検出手段25の検出結果にもとづいて、図7(d)に表したように、画素毎に正常画素を0、欠陥画素を1とする欠陥画素マップを生成する。

次に、欠陥画素群抽出手段32は、欠陥画素マップ生成手段で生成された欠陥画素マップに対して、予めROM19に記憶された連続欠陥の複数のパターンを照合させてマッチング判定し、該パターンに対応する連続欠陥を抽出する。
ROM19には、予め、図3〜図6に表したように、横連続欠陥、縦連続欠陥、斜め連続欠陥、補正不可とする欠陥等のパターンが格納されている。
詳しくは、ROM19には、図3に表したように、R、Gr、Gb、B毎の、単欠陥パターン(a)、横2連欠陥パターン(b)、横3連欠陥パターン(c)が備えられ、図4に表したように、R、Gr、Gb、B毎の、縦2連欠陥パターン(a)、縦3連欠陥パターン(b)、縦5連欠陥パターン(c)が備えられ、図5に表したようにR、B毎の斜め2連欠陥パターン(a)及び斜め3連欠陥パターン(b)、Gの斜め3連欠陥パターン(c)及びGの斜め2連欠陥パターン(d)等と、その補正方法が格納されている。
また、図6に表したように、ROM19には、R、Gr、Gb、B毎の横4連欠陥パターン(a)、横3連×縦2連欠陥パターン(b)〜(d)が、補正不可とする欠陥パターンとして格納されている。
次に、図1に表したように、欠陥画素群評価手段33は、欠陥画素群抽出手段32を介して抽出された欠陥画素群毎における、補正不可とする連続欠陥群を検出する補正不可欠陥検出部34、欠陥画素の補正候補を検出する欠陥補正候補検出部35、補正を行う欠陥画素につき補正効果の度合いを表す評価値(所謂、複数の補正候補の補正の優先順位を表す評価値である)を算出する評価値算出部36等を備えている。なお、本発明における補正候補検出手段が欠陥補正候補検出部35によってその機能が発現され、本発明における欠陥度評価手段が評価値算出部36によってその機能が発現される。
補正不可欠陥検出部34は、欠陥画素マップ生成手段31で生成されて欠陥画素マップにおいて、図6(a)〜(d)に表した横4連欠陥及び横3連×縦2連欠陥の補正を不可として検出し、補正不可報知部46にその補正不可情報を出力する。そして、補正不可報知部46において、補正不可情報を例えば液晶表示等によって表示する。また、本実施例では、補正不可とする欠陥画素群が検出された際に、欠陥画素補正装置200による欠陥画素検出の処理を中止するか否かを、図示されないインターフェースを介して、オペレータが選択できるように構成されている。
次に、欠陥画素補正候補検出部35は、欠陥画素群抽出手段32で抽出された欠陥画素群に対して補正候補の欠陥画素を検出すると共に、評価値算出部36において、補正候補の優先順位を生成するための評価値を算出する。
また、欠陥画素候補検出部35は、予めROM19に格納された欠陥画素の横方向、縦方向、斜め方向の配列パターンに対応付けて、欠陥画素群抽出手段32で抽出された各欠陥画素列の中から補正候補とする欠陥画素を検出する。
詳しくは、図3(b)、(c)に表したように、横2連欠陥については、何れかの欠陥度が高い欠陥画素(本実施例では図中のmoである)を補正候補として検出し、横3連欠陥については、両端の欠陥画素(本実施例では図中のmo,qo)を補正候補として検出する。また、図3(a)に表した単欠陥については、静的補正の対象外とする。
また、図4(a)〜(c)に表したように、縦2連欠陥については、欠陥度が高い欠陥画素(本実施例では図中のooである)を補正候補として検出し、縦3連欠陥については、縦方向中間の欠陥画素(本実施例ではooである)を補正候補とし、縦5連欠陥については、縦方向一つとびに、欠陥画素(本実施例ではom,oqである)を補正候補として検出する。
また、縦方向の連欠陥については、図示しない縦4連欠陥や5連を超える欠陥についても、縦方向に一つとびに補正するように補正候補を検出する。
また、図5(a)、(b)に表したように、R又はBの斜め2連欠陥については、欠陥度の高い欠陥画素(本実施例では図中のooである)を補正候補としとして検出し、R又はBの斜め3連欠陥については、斜め方向中間の欠陥画素(本実施例ではooである)を補正候補として検出する。
また、図5(c)、(d)に表したように、GrとGbを共通としたGの斜め3連欠陥については、斜め方向中間の欠陥画素(本実施例ではooである)を補正候補として検出し、GrとGbを共通としたGの斜め2連欠陥については、欠陥度の高い欠陥画素(本実施例では図中のooである)を補正候補として検出する。
そして、評価値算出部36は、補正対象とする欠陥画素が補正情報記憶手段38の記憶の容量からオーバしないように、欠陥画素補正の優先順位となる評価値を算出する。詳しくは、図7(d)に表したように、注目欠陥画素を中心に3(横方向画素数)×3(縦方向画素数)の画素範囲を設定し、この画素範囲に含まれる欠陥画素について、画素値から基準値を減算した値の絶対値を算出し、それら合計を評価値とする。
図7(d)の例では、注目欠陥画素の画素値が80であって、3×3の画素範囲に含まれる他の欠陥画素の画素値が35、80、70、65、ブロック内の基準値が14である。従って、評価値=Abs(35−14)+Abs(80−14)+Abs(70−14)+Abs(65−14)、の演算式により、評価値=194が得られる。
次に、補正対象欠陥画素選択手段37は、欠陥画素群評価手段33で検出された補正候補とその評価値にもとづいて、評価値が高い補正候補を優先して補正する欠陥画素とし、補正候補の数が補正情報記憶手段41の記憶容量に関連つけて設定された所定値から超える際には、評価値が低い補正候補を補正対象の欠陥画素から除去する。なお、本発明における補正対象選択手段は、補正対象欠陥画素選択手段37によってその機能が発現される。
次に、補正情報記憶手段38は、横方向連欠陥補正情報記憶部39、縦方向連欠陥補正情報記憶部40、斜め方向連欠陥補正情報記憶部41によって構成され、補正対象欠陥画素選択手段で選択された各欠陥画素を、この欠陥画素を含む欠陥画素列の横、縦、斜めのパターンに対応つけて、補正の仕方を表す情報を記憶する。
横方向連欠陥補正情報記憶部39は、図3(b)に表したように、横2連欠陥については、補正する欠陥画素(本実施例では図中のmoである)に対して横方向に隣接する正常画素(本実施例では図中のkoである)の画素値を欠陥画素の画素値とするように補正情報を記憶し、図3(c)に表したように、横3連欠陥については、補正する欠陥画素(本実施例では図中のmo,qo)に隣接する正常画素の画素値(本実施例では図中のko,so)を、夫々、欠陥画素の補正値とするように補正情報を記憶する。
縦方向連欠陥補正情報記憶部40は、図4(a)に表したように、縦2連欠陥については、補正する欠陥画素(本実施例では図中のooである)に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶し、図4(b)に表したように、縦3連欠陥については、補正する欠陥画素(本実施例ではooである)に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶し、図4(c)に表したように縦5連欠陥については、補正する欠陥画素(本実施例ではom,oqである)に対して横方向両側に隣接する正常画素(本実施例ではmm及びqm、mq及びqqである)の平均の画素値を補正する欠陥画素の画素値とするように補正情報を記憶する。
また、縦方向連欠陥補正情報記憶部40は、図示しない4連や5連を超える縦方向の連続欠陥についても、補正する欠陥画素に対して横方向両側に隣接する正常画素の平均の画素値を、補正する欠陥画素の画素値とするように補正情報を記憶する。
斜め方向連欠陥補正情報記憶部41は、図5(a)に表したように、R又はBの斜め2連欠陥については、補正する欠陥画素(本実施例では図中のooである)に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶し、図5(b)に表したように、R又はBの斜め3連欠陥については、補正する欠陥画素(本実施例ではooである)に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶する。
また、斜め方向連欠陥補正情報記憶部41は、図5(c)に表したように、GrとGbを共通としたGの斜め3連欠陥については、補正する欠陥画素(本実施例ではooである)を補正する欠陥画素に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶し、図5(d)に表したように、GrとGbを共通としたGの斜め2連欠陥については、補正する欠陥画素(本実施例では図中のooである)に対して横方向両側に隣接する正常画素(本実施例ではmo,qoである)の平均の画素値を欠陥画素の画素値とするように補正情報を記憶する。
また、斜め方向連欠陥補正情報記憶部41は、図示しない4連欠陥や5連を超える斜め方向の連続欠陥についても、補正する欠陥画素に対して横方向両側に隣接する正常画素の平均の画素値を、補正する欠陥画素の画素値とするように補正情報を記憶する。
次に、画像データ補正手段42は、被写体の撮影毎に、補正情報記憶手段38に記憶された補正情報にもとづいて画像データの欠陥画素を補正する静的補正手段43と、静的補正手段の後で、補正情報記憶手段38に記憶されずに残った欠陥画素を、孤立欠陥画素検出部44を介して再検出し、該欠陥画素の画素値を補間生成する動的補正手段45によって構成されている。また、本実施例における静的補正とは、補正情報記憶手段38に記憶された補正情報に基づいて、種々の欠陥画素列の態様に対応付けた欠陥画素の補正を選択的に行う補正方法である。一方、本実施例における動的補正とは、静的補正によって補正されずに残った孤立欠陥画素に対して、新たに被写体の撮像毎に欠陥を検出し、一様に周囲の画素からその欠陥画素を補間生成する方法である。
また、動的補正手段45では、一様に、孤立欠陥画素検出部44で検出された欠陥画素の周囲に位置する同色の正常画素及び静的補正手段45で補正された画素の画素値を用いて、この欠陥画素の画素値を補間生成する。
次に、図8、図9を用いて、撮像ユニット100から出力された欠陥画素検出用のベイヤー画像から欠陥画素を検出して、その補正情報を補正情報記憶手段42に記憶し、新たに撮影された被写体像に含まれる欠陥画素を補正するまでの手順を説明する。この手順は、CPU18がROM19に格納されたプログラムにもとづいて、各機能部に指令信号を与えて実行する。また、図8及び図9におけるSは、ステップを表している。
まず、この手順は、オペレータによって欠陥画素補正装置200又は撮像装置1に起動信号が入力された際にスタートする。
次いで、S200において、モード選択部20を用いて補正情報作成モード又は撮影された被写体画像を補正する撮影補正モードの何れかを選択し、補正情報作成モードが選択された際にはS300に移り、撮影補正モードが選択された際には、S1500に移る。
次いで、S300において、撮像素子5における欠陥画素を検出する際のパラメータとしての、テスト画像の分割数や白キズ検出のための閾値、黒キズ検出のための閾値等を設定する。この際、各設定値は、ROM19に予め記憶されている。
次いで、S400において、撮像素子5の欠陥モードである、白キズ検出又は黒キズ検出の何れかを選択して、その後、S500に移る。
次いで、S500において、白キズ又は黒キズ検出用に撮像されたR、Gr、Gb、B毎のテスト画像を、フィールドメモリ21から取得し、その後、S600に移る。
次いで、S600において、画像領域分割部26を用い、テスト画像の有効画素領域をS300で設定された画像分割数で複数のブロックに分割し(図7(a))、その後、S700に移る。
次いで、S700において、欠陥画素検出手段25を用い、ブロック内における欠陥画素を検出する。詳しくは、図9(a)に表したように、S710において、ブロック内に位置する各画素の画素値を座標に対応付けて取得し、その後、S720に移る。
次いで、S720において、画素分布生成部27及び基準値設定部28を用い、ブロック内の画素の中で最も多く現れる画素値を正常画素の基準値として検出し(図7(b)(c))、その後、S730に移る。
次いで、S730において、閾値取得部29を用い、S300で設定された閾値を取得し、その後、S740に移る。
次いで、S740において、欠陥画素検出部30を用い、基準値から閾値の分だけ隔てた判定値に対してブロック内に位置する各画素の画素値を比較して欠陥画素を検出し(図7(b)(c))、その後、図8のS800に移る。
次いで、S800において、欠陥画素マップ生成手段31を用い、欠陥画素の位置を表す欠陥画素マップ(図7(d))を生成し、その後、S900に移る。なお、本発明におけるマップ生成ステップは、S800においてその機能が発現される。
次いで、S900において、欠陥画素群抽出手段32及び欠陥画素群評価手段33を用い、ROM19に記憶された補正不可とする欠陥画素パターン)を参照して、欠陥画素マップ中の補正不可とする連続欠陥画素群(図6中の(a)(b)(c)(d))を検出し、その後、S1200に移る。この際、補正不可とする連続欠陥画素群を検出が検出されたときは、その検出信号を補正不可報知部46に出力して表示し、オペレータからの指令信号にもとづき、以下の処理実行有無の選択がなさされる。
次いで、S1000において、欠陥画素群抽出手段32及び欠陥画素群評価手段33を用い、欠陥画素マップ中における横方向、縦方向、斜め方向の連続欠陥の検出と評価値の算出を行う。詳しくは、まず、図9(b)に表したように、S1010において横方向に連続する欠陥(図3(a)(b)(c))を検出し、その後、S1015に移る。
次いで、S1015において、横連続欠陥の態様にもとづき、補正候補となる欠陥画素の補正の順位を決定するための評価値を算出し(図7(d))、その後、S1020に移る。
次いで、S1020において、欠陥画素マップ中における縦方向の縦続欠陥(図4(a)(b)(c))の検出を行い、その後、S1025において、縦連続欠陥の態様にもとづき、補正候補となる欠陥画素の補正の順位を決定するための評価値を算出し、その後、S1030に移る。
次いで、S1030において、欠陥画素マップ中における斜め方向の縦続欠陥(図5(a)(b)(c)(d))の検出を行い、その後、S1235において、斜め連続欠陥の態様にもとづき、補正候補となる欠陥画素の補正の順位を決定するための評価値を算出し、その後、図8中のS1300に移る。なお、本発明における補正候補検出ステップ及び欠陥度評価ステップは、S1010〜S1035によってその機能が発現される。
次いで、S1100において、補正対象欠陥画素選択手段38を用い、S1000で検出された補正候補とする欠陥画素数の合計を計数し、計数された合計値が予め定められた所定値の範囲を超えているか否かを判定し、所定値を超えていない(No)際にはS1200に移り、一方、所定値を超えている(Yes)際には、所定値の範囲に収まるように、その補正候補を補正すべき欠陥画素の中から評価値の小さいものを選択して補正候補から除去し、その後、S1200に移る。なお、本発明における補正対象選択ステップは、S1100、S1150によってその機能が発現される。
次いで、S1200において、次のブロックが有るか否かを判定し、次のブロックが有る(Yes)の際にはS700に移ってS700からS1200を繰り返し、次のブロックが無い(No)の際にはS1300に移る。
次いで、S1300において、次の検出するキズモード(つまり、白キズか黒キズの何れかである)が有るか否かを判定し、次の検出キズモードが有る(Yes)の際にはS400に移ってS400からS1300を繰り返し、次の検出キズモードが無い(No)の際にはS1400に移る。
次いで、S1400において、補正情報記憶手段38を用い、補正対象欠陥画素選択手段37で選択された各欠陥画素を、この欠陥画素を含む欠陥画素列の横、縦、斜めのパターンに対応つけて、補正の仕方を表す情報を補正情報記憶手段38に記憶する。なお、本発明における補正情報記憶ステップは、S1400においてその機能が発現される。
次いで、S1500において、撮影された被写体像のベイヤー画像を取得し、その後、S1600に移る。
次いで、S1600において、静的補正手段43を用い、補正情報記憶手段38に格納された補正情報にもとづき、ベイヤー画像における欠陥画素を補正し、その後、S1700に移る。なお、本発明における画像データ補正ステップは、S1600によってその機能が発現される。
次いで、S1700において、孤立欠陥画素再検出部44を用い、S1600で静的補正された後のベイヤー画像に対して、再度、補正されずに残った欠陥画素を検出し、その後、S1800に移る。
次いで、S1800において、動的補正手段45を用い、S1700で再検出された欠陥画素の画素値を、周囲における同色の画素の画素値を用いて補間生成し、その後、S1900に移る。
次いで、S1900において、次の撮影画像があるか否かを判定し、次の撮影画像がある(Yes)の際にはS1500〜S1900を繰り返し、次の撮影画像がない(No)にいたった際に、本欠陥画素補正のプログラムを終了する。
以上のように、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、欠陥画素マップ生成手段31を用いて欠陥画素マップを生成し、次いで、欠陥画素マップにおいて欠陥画素が連続して現れる欠陥画素列が生成されている際には、不連続の欠陥画素になるように欠陥画素列の中で補正する欠陥画素を選択して補正情報記憶手段38に記憶し、次いで、静的補正手段43を用いて、補正情報記憶手段38に格納された補正情報にもとづいて補正する欠陥画素として選択された欠陥画素の画素値を補正し、次いで、補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、孤立欠陥画素再検出部44を用い、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成することにより、欠陥画素が増加しても欠陥画素の補正情報を記憶する記憶情報記憶手段の記憶容量を節減でき、且つ、欠陥画素が連続する欠陥画素列を適切に補正できる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、撮像素子5が、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサにおいて、マップが色光の夫々毎に生成されていることにより、撮像素子5における欠陥画素を適切に補正できる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、補正情報記憶手段38において、欠陥画素を補正する補正情報が、R、Gr、Gb、B毎に、素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられていることにより、ベイヤー配列のカラーフィルタ5aを備えた撮像素子5における欠陥画素を適切に補正できる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、欠陥画素検出手段25を用い、撮像素子5を介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて欠陥画素を検出することにより、分割された領域毎に精度良く欠陥画素を検出できて、高品位の画像データを得ることができ、且つ、分割された領域において、画素値毎の画素数を表す分布を生成して、該分布から基準となる画素値を検出し、該基準の画素値に対する各画素の画素値の差分を前記閾値と比較することにより、欠陥画素を検出することができる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、欠陥画素群評価手段33を用い、補正候補とする欠陥画素毎にその欠陥度合いを表す評価値を生成し、次いで、補正対象欠陥画素選択手段37を用い、補正候補の欠陥画素数が予め定められた所定値を超えた際に、該所定値内になるように、評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去することにより、万が一欠陥画素群の数が所定値を超える際には、所定値内になるように選択できて、記憶情報記憶手段38のメモリ容量を節減できると共に、記憶テーブルの所定の記憶容量内で処理できる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、評価値算出部36において評価値を生成する際に、補正候補の欠陥画素を中心として所定の画素範囲を設定し、該所定の画素範囲に位置する全欠陥画素に対して夫々判定値からの差分を合計し、該差分の合計値を前記評価値とすることにより、補正に好ましい欠陥画素を選択できる。
また、本実施例に記載の欠陥画素補正装置200、欠陥画素補正方法及び欠陥画素補正プログラムによれば、補正不可検出部34において、欠陥画素群が所定の連続性を有する態様にいたった際に該欠陥画素群の補正を不可として検出することにより、無理な補正を行うことなく、欠陥画素補正の信頼性を高めることができる。
以上、本発明の一実施例について説明したが、本発明は、前記実施例に限定されるものでなく、種々の態様を取ることができる。
例えば、図8、図9における欠陥画素検出から欠陥画素を補正するまでの手順において、S100〜S1900を介して終了するまでの一連の処理を連結して行うことに限定するものではない。例えば、S800で欠陥画素マップ生成して、一旦このマップ情報を記憶媒体に記憶しておき、必要に応じて記憶媒体から欠陥画素マップを引き出してS900の補正不可欠陥検出以降の処理を実施してもよい。
また、S100〜S1400とS1500以降の処理を連続して行うことに限定するものではなく、S100〜S1400の処理が欠陥画素検出用のテスト画像に対して行われ、S1500〜S1900の処理が撮像ユニット100の常用時における被写体画像に対して行われるので、例えば、S100〜S1400については撮像ユニット100をユーザに出荷する前の処理とし、S1500以降をユーザが常用する際の処理としてもよい。
また、撮像ユニット100には、欠陥画素マップ生成手段31で生成された欠陥画素マップや補正情報記憶手段38で記憶された補正情報を記憶する記憶手段を備えてもよい。
また、評価値算出部36で算出された各欠陥画素の評価値を合計し、この合計値を表示したり、この合計値が予め定められた第2の所定値を超えた際には、補正不可報知部46を介して、撮像素子5における欠陥画素の補正を不可として報知したりするように構成してもよい。また、補正不可欠陥検出部34で検出された補正不可とする欠陥画素群の情報を補正情報記憶手段38に格納してもよい。これにより、撮像素子5から出力される画像データにおける欠陥度合いを前記評価値の合計から測ることができて付加価値を向上できる。
本発明の欠陥画素方法、欠陥画素補正装置及び欠陥画素補正プログラムが適用された一実施例の撮像装置1の構成を表したブロック図である。 同実施例における、ベイヤー配列のイメージセンサから出力される色毎の画素データの説明図である。 同実施例における、横連続欠陥補正の説明図である。 同実施例における、縦連続欠陥補正の説明図である。 同実施例における、斜め連続欠陥補正の説明図である。 同実施例における、補正不可とする連続欠陥の説明図である。 同実施例における、欠陥画素検出の説明図である。 同実施例における、欠陥画素補正方法及び欠陥画素補正プログラムの手順を表したフローチャートである。 図8における、欠陥画素検出と連続欠陥画素検出及び評価値算出の手順を表したフローチャートである。
符号の説明
1…撮像装置、2…Iris、3…撮像レンズ、4…シャッター、5…撮像素子、5a…ベイヤー配列のカラーフィルタ、6…AFE(Analog Front End)、7…相関二重サンプリング回路、8…可変利得増幅器(AGC:Automatic Gain Control)、9…A/D変換器、10…検出部、11…センサ、12…レンズ駆動部、13…TG(Timing Generator)、15…Iris駆動部、16…検出部、17…センサ、18…CPU(Central Processing Unit)、19…ROM(Read Only Memory)、20…モード選択部、21…フィールドメモリ、22…Rフィールドメモリ、23a…Grフィールドメモリ、23b…Gbフィールドメモリ、24…Bフィールドメモリ、25…欠陥画素検出手段、26…画像領域分割部、27…画素分布生成部、28…基準値設定部、29…閾値取得部、30…欠陥画素検出部、31…欠陥画素マップ生成手段、32…欠陥画素群抽出手段、33…欠陥画素群評価手段、34…補正不可欠陥検出部、35…欠陥画素補正候補検出部、36…評価値算出部、37…補正対象選択手段、38…補正情報記憶手段、39…横方向連欠陥補正情報記憶部、40…縦方向連欠陥補正情報記憶部、41…斜め方向連欠陥補正情報記憶部、42…画像データ補正手段、43…静的補正手段、44…孤立欠陥画素再検出部、45…動的補正手段、46…補正不可報知部、100…撮像ユニット、200…欠陥画素補正装置。

Claims (30)

  1. 検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この補正情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正方法において、
    前記補正情報を記憶する際に、
    前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成ステップと、
    前記マップを参照して前記補正情報を前記記憶テーブルに記憶する補正情報記憶ステップと、
    前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正ステップと、
    を備え、
    前記マップにおいて前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、
    前記補正情報記憶ステップにおいて、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、
    前記画像データ補正ステップにおいて、
    前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、
    補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、
    ことを特徴とする欠陥画素補正方法。
  2. 前記イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、
    前記マップが、前記色光の夫々毎に生成されている、
    ことを特徴とする請求項1に記載の欠陥画素補正方法。
  3. 前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備え、各画素が単一色の輝度情報のみを有し、
    前記ベイヤー配列に対応付けて、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、
    前記補正情報が、
    R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、
    R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられている、
    ことを特徴とする請求項1又は請求項2に記載の欠陥画素補正方法
  4. 前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出する、
    ことを特徴とする請求項1乃至請求項3の何れか記載の欠陥画素補正方法。
  5. 前記分割された領域において、画素値毎の画素数を表す分布を生成して、該分布から基準となる画素値を検出し、該基準の画素値に対して前記閾値の分だけ欠陥方向に隔てた画素値を欠陥有無の判定値とし、各画素の画素値を前記判定値と比較して前記欠陥画素を検出する、
    ことを特徴とする請求項4に記載の欠陥画素補正方法。
  6. 前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値である、
    ことを特徴とする請求項5に記載の欠陥画素補正方法。
  7. 前記欠陥画素の補正候補を検出する補正候補検出ステップと、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価ステップと、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択ステップと、
    を備えることを特徴とする請求項1乃至請求項6の何れか記載の欠陥画素補正方法。
  8. 前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正する、
    ことを特徴とする請求項1乃至請求項7の何れか記載の欠陥画素補正方法。
  9. 前記補正情報記憶ステップでは、前記欠陥画素が所定の連続性を有する欠陥画素群の態様にいたった際に、該欠陥画素群の補正を不可として記憶する、
    ことを特徴とする請求項1乃至請求項8の何れか記載の欠陥画素補正方法。
  10. 前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける欠陥画素の補正を不可として報知する、
    ことを特徴とする請求項7乃至請求項9の何れか記載の欠陥画素補正方法。
  11. 検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正プログラムにおいて、
    前記補正情報を記憶する際に、
    前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成ステップと、
    前記マップを参照して前記補正情報を前記記憶テーブルに記憶する補正情報記憶ステップと、
    前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正ステップと、
    を備え、
    前記マップにおいて前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、
    前記補正情報記憶ステップにおいて、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、
    前記画像データ補正ステップにおいて、
    前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、
    補正する欠陥画素として選択されずに残った他の欠陥画素については、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、
    ようにコンピュータに実行させることを特徴とする欠陥画素補正プログラム。
  12. 前記イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、
    前記マップが、前記色光の夫々毎に生成される、
    ようにコンピュータに実行させることを特徴とする請求項11に記載の欠陥画素補正プログラム。
  13. 前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備えて各画素が単一色の輝度情報のみを有する画素値を生成し、
    前記ベイヤー配列において、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、
    前記補正情報が、
    R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、
    R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられる、
    ようにコンピュータに実行させることを特徴とする請求項11又は請求項12に記載の欠陥画素補正プログラム。
  14. 前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出する、
    ようにコンピュータに実行させることを特徴とする請求項11乃至請求項13の何れか記載の欠陥画素補正プログラム。
  15. 前記分割された領域において、画素値毎の画素数を表す分布を求めて該分布から基準となる画素値を検出し、該基準の画素値に対して前記閾値の分だけ欠陥方向に隔てた画素値を欠陥有無の判定値とし、各画素の画素値を前記判定値と比較して前記欠陥画素を検出する、
    ようにコンピュータに実行させることを特徴とする請求項14に記載の欠陥画素補正プログラム。
  16. 前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値である、
    ようにコンピュータに実行させることを特徴とする請求項15に記載の欠陥画素補正プログラム。
  17. 前記欠陥画素の補正候補を検出する補正候補検出ステップと、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価ステップと、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択ステップと、
    をコンピュータに実行させることを特徴とする請求項11乃至請求項16の何れか記載欠陥画素補正プログラム。
  18. 前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正する、
    ようにコンピュータに実行させることを特徴とする請求項11乃至請求項17の何れか記載の欠陥画素補正プログラム。
  19. 前記補正情報記憶ステップでは、前記欠陥画素が所定の連続性を有する欠陥画素群の態様にいたった際に、該欠陥画素群の補正を不可として記憶する、
    ようにコンピュータに実行させることを特徴とする請求項11乃至請求項18の何れか記載の欠陥画素補正プログラム。
  20. 前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける前記欠陥画素の補正を不可とし報知する、
    ようにコンピュータに実行させることを特徴とする請求項17乃至請求項19の何れか記載の欠陥画素補正プログラム。
  21. 検出されたイメージセンサの欠陥画素に対応付けて、その補正の仕方を表す補正情報を記憶テーブルに記憶し、この情報に基づいて、前記イメージセンサを介して出力された画像データの欠陥画素を補正する欠陥画素補正装置において、
    前記補正情報を記憶する際に、
    前記欠陥画素の座標を求め、該座標に対応付けて欠陥画素のマップを生成するマップ生成手段と、
    前記マップを参照して前記補正情報を前記記憶テーブルに記憶する補正情報記憶手段と、
    前記記憶テーブルに記憶された前記補正情報に基づいて、前記画像データを補正する画像データ補正手段と、
    を備え、
    前記マップにおいて、前記欠陥画素が連続して現れる欠陥画素列が構成されている際には、
    前記補正情報記憶手段が、不連続の欠陥画素になるように、前記欠陥画素列の中で補正する欠陥画素を選択して前記記憶テーブルに記憶し、
    前記画像データ補正手段が、前記記憶テーブルに格納された補正情報にもとづいて、補正する欠陥画素として選択された前記欠陥画素の画素値を補正し、
    補正する欠陥画素として選択されずに残った他の欠陥画素については、撮像毎に、周囲の画素の画素値を参照して新たに欠陥の有無を検出し、欠陥である際にはその欠陥画素の画素値を周囲の画素の画素値から補間して生成する、
    ように構成されていることを特徴とする欠陥画素補正装置。
  22. 前記イメージセンサが、マトリクス状に配設された複数の光電変換素子によって構成され、相異なる複数の色光を光電変換して画素毎に単一色の輝度情報を出力するカラーイメージセンサであって、
    前記マップが、前記色光の夫々毎に生成されている、
    ことを特徴とする請求項21に記載の欠陥画素補正装置。
  23. 前記イメージセンサが、R(赤)、G(緑)、B(青)の単一色光を透過するベイヤー配列のカラーフィルタを備えて各画素が単一色の輝度情報のみを有する画素値を生成し、
    前記ベイヤー配列において、水平方向に前記Rの隣に配置される前記GをGr、前記Bの隣に配置される前記GをGbとして表した際に、
    前記補正情報が、
    R、Gr、Gb、B毎に、画素配列の水平及び垂直方向に連続して現れる欠陥画素に対応付けられ、
    R、G、B毎に、前記画素配列の斜め方向に連続して現れる欠陥画素に対応付けられている、
    ことを特徴とする請求項21又は請求項22に記載の欠陥画素補正装置。
  24. 前記イメージセンサを介して撮像される画面をマトリクス状に複数の領域に分割し、該分割された領域毎に、前記欠陥画素を検出するための画素値の閾値を設定し、該閾値に基づいて前記欠陥画素を検出する欠陥画素検出手段を備えている、
    ことを特徴とする請求項21乃至請求項23の何れか記載の欠陥画素補正装置。
  25. 前記欠陥画素検出手段が、前記分割された領域において、画素値毎の画素数を表す分布を求めて該分布から基準となる画素値を検出し、該基準の画素値に対して前記閾値の分だけ欠陥方向に隔てた画素値を欠陥有無の判定値とし、各画素の画素値を前記判定値と比較して前記欠陥画素を検出するように構成されている、
    ことを特徴とする請求項24に記載の欠陥画素補正装置。
  26. 前記欠陥画素検出手段において、前記基準となる画素値が、画素値毎の画素数を表す分布の中で最も画素数の多い画素値である、
    ことを特徴とする請求項25に記載の欠陥画素補正装置。
  27. 前記欠陥画素の補正候補を検出する補正候補検出手段と、前記補正候補毎にその欠陥度合いを表す評価値を生成する欠陥度評価手段と、前記補正候補の数が予め定められた所定値を超えた際に、該所定値内になるように、前記評価値にもとづいて欠陥度合いの少ない欠陥画素を補正対象から除去する補正対象選択手段と、
    を備えることを特徴とする請求項21乃至請求項26の何れか記載の欠陥画素補正装置。
  28. 前記補正情報記憶手段が、前記欠陥画素が連続して2つ現れる際には、欠陥度合いの小さい欠陥画素を残して欠陥度合いの大きい欠陥画素を補正する、
    ように構成されていることを特徴とする請求項21乃至請求項27の何れか記載の欠陥画素補正装置。
  29. 前記補正情報記憶手段が、前記欠陥画素が所定の連続性を有する欠陥画素群の態様にいたった際に、該欠陥画素群の補正を不可として記憶する、
    ように構成されていることを特徴とする請求項21乃至請求項28の何れか記載の欠陥画素補正装置。
  30. 前記画像データにおける前記評価値の合計値を算出し、該合計値が予め定められた第2の所定値を超えた際には、前記イメージセンサにおける前記欠陥画素の補正を不可として報知する補正不可報知手段を備えている、
    ことを特徴とする請求項27乃至請求項29の何れか記載の欠陥画素補正装置。

JP2007302335A 2007-11-22 2007-11-22 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置 Expired - Fee Related JP4604078B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007302335A JP4604078B2 (ja) 2007-11-22 2007-11-22 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007302335A JP4604078B2 (ja) 2007-11-22 2007-11-22 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置

Publications (2)

Publication Number Publication Date
JP2009130553A JP2009130553A (ja) 2009-06-11
JP4604078B2 true JP4604078B2 (ja) 2010-12-22

Family

ID=40821052

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007302335A Expired - Fee Related JP4604078B2 (ja) 2007-11-22 2007-11-22 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置

Country Status (1)

Country Link
JP (1) JP4604078B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012070319A (ja) * 2010-09-27 2012-04-05 Mitsubishi Electric Corp 画像処理方法、画像処理装置及び画像処理プログラム
WO2012063265A2 (en) * 2010-11-12 2012-05-18 Indian Institute Of Technology, Kharagpur Method and apparatus for detecting the bad pixels in sensor array and concealing the error
WO2013111449A1 (ja) * 2012-01-24 2013-08-01 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP6413612B2 (ja) * 2014-10-20 2018-10-31 株式会社ニコン 撮像装置
KR102247564B1 (ko) 2014-11-13 2021-05-03 삼성전자 주식회사 화소 처리 장치, 이를 포함하는 이미지 신호 처리 장치, 및 이를 포함하는 이미지 처리 시스템
KR102246873B1 (ko) 2014-11-17 2021-04-30 삼성전자 주식회사 이미지 센서가 생성한 픽셀 이미지의 불량 화소 제거 방법, 상기 방법을 이용한 이미지 센서, 및 상기 방법을 이용한 애플리케이션 프로세서
JP6519276B2 (ja) * 2015-03-31 2019-05-29 株式会社シグマ 撮像装置及び欠陥画素補正方法
CN113873229B (zh) * 2021-09-26 2024-02-27 江西盛泰精密光学有限公司 一种图像坏点检测方法、系统及装置
CN115049775B (zh) * 2022-08-15 2023-01-31 广州中平智能科技有限公司 一种用于双碳能源工业的元宇宙渲染动态分配方法和系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004015191A (ja) * 2002-06-04 2004-01-15 Fuji Photo Film Co Ltd 固体撮像素子の欠陥補正装置及び方法
JP2006060678A (ja) * 2004-08-23 2006-03-02 Fuji Photo Film Co Ltd 撮像装置
JP2006121293A (ja) * 2004-10-20 2006-05-11 Canon Inc 固体撮像装置
JP2006180099A (ja) * 2004-12-21 2006-07-06 Eastman Kodak Co 画素欠陥補正装置
JP2006324908A (ja) * 2005-05-18 2006-11-30 Fujifilm Holdings Corp データ補正処理装置及びデータ補正処理方法
JP2006345279A (ja) * 2005-06-09 2006-12-21 Fujifilm Holdings Corp 固体撮像素子の画素欠陥検出方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004015191A (ja) * 2002-06-04 2004-01-15 Fuji Photo Film Co Ltd 固体撮像素子の欠陥補正装置及び方法
JP2006060678A (ja) * 2004-08-23 2006-03-02 Fuji Photo Film Co Ltd 撮像装置
JP2006121293A (ja) * 2004-10-20 2006-05-11 Canon Inc 固体撮像装置
JP2006180099A (ja) * 2004-12-21 2006-07-06 Eastman Kodak Co 画素欠陥補正装置
JP2006324908A (ja) * 2005-05-18 2006-11-30 Fujifilm Holdings Corp データ補正処理装置及びデータ補正処理方法
JP2006345279A (ja) * 2005-06-09 2006-12-21 Fujifilm Holdings Corp 固体撮像素子の画素欠陥検出方法

Also Published As

Publication number Publication date
JP2009130553A (ja) 2009-06-11

Similar Documents

Publication Publication Date Title
JP4604078B2 (ja) 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置
US8634002B2 (en) Image processing device and method for image correction
JP4054184B2 (ja) 欠陥画素補正装置
JP4374488B2 (ja) デモザイク処理及び不良ピクセル補正を組み合わせるためのディジタル画像システム及び方法
US8854511B2 (en) Apparatus and method for image processing and storage medium, and image pickup apparatus
US8922680B2 (en) Image processing apparatus and control method for image processing apparatus
JP5664255B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5541718B2 (ja) 撮像装置及びその欠陥画素検出方法
CN103444183B (zh) 彩色摄像元件及摄像装置
WO2016031597A1 (ja) 画像処理装置、画像処理方法、及び、画像処理システム
US9030579B2 (en) Image processing apparatus and control method that corrects a signal level of a defective pixel
KR20090008139A (ko) 촬상 장치, 및 화상 처리 방법, 및 컴퓨터 프로그램
JP4453332B2 (ja) 欠陥画素検出方法、検出装置および撮像装置
US20130229550A1 (en) Defective pixel correction apparatus, method for controlling the apparatus, and program for causing computer to perform the method
JP4343988B2 (ja) 欠陥画素補正装置及び欠陥画素補正処理方法
US8385642B2 (en) Method for removing color fringe in digital image
JP2018196083A (ja) 画像処理装置
JP3636046B2 (ja) 固体撮像素子の画素欠陥検出方法およびその方法を用いた撮像装置
US8189077B2 (en) Method for reducing smear effect of dynamic image
US8970747B2 (en) Imaging device
JP5621053B2 (ja) 画像処理装置、方法及びプログラム並びに撮像装置
JP5262953B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4057216B2 (ja) 固体撮像装置および画素欠陥検出方法
JP5256236B2 (ja) 画像処理装置および方法,ならびに画像処理プログラム
JP3767188B2 (ja) 電子カメラ及び信号補正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100609

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20100609

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20100709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101004

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees