JP2012217139A - 画像理装置および方法、並びにプログラム - Google Patents
画像理装置および方法、並びにプログラム Download PDFInfo
- Publication number
- JP2012217139A JP2012217139A JP2012002608A JP2012002608A JP2012217139A JP 2012217139 A JP2012217139 A JP 2012217139A JP 2012002608 A JP2012002608 A JP 2012002608A JP 2012002608 A JP2012002608 A JP 2012002608A JP 2012217139 A JP2012217139 A JP 2012217139A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- target pixel
- pixels
- value
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 158
- 238000000034 method Methods 0.000 title claims description 64
- 230000002950 deficient Effects 0.000 claims abstract description 276
- 238000001514 detection method Methods 0.000 claims abstract description 74
- 238000012937 correction Methods 0.000 claims description 304
- 230000008569 process Effects 0.000 claims description 46
- 238000003672 processing method Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 abstract description 39
- 230000008859 change Effects 0.000 abstract description 12
- 239000000284 extract Substances 0.000 abstract description 12
- 230000007547 defect Effects 0.000 description 57
- 238000005516 engineering process Methods 0.000 description 18
- 101000896726 Homo sapiens Lanosterol 14-alpha demethylase Proteins 0.000 description 14
- 102100021695 Lanosterol 14-alpha demethylase Human genes 0.000 description 14
- 230000009467 reduction Effects 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 102100031476 Cytochrome P450 1A1 Human genes 0.000 description 9
- 101000941690 Homo sapiens Cytochrome P450 1A1 Proteins 0.000 description 9
- 101000741271 Sorghum bicolor Phosphoenolpyruvate carboxylase 1 Proteins 0.000 description 9
- 239000003086 colorant Substances 0.000 description 8
- 230000004048 modification Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 101000795655 Canis lupus familiaris Thymic stromal cotransporter homolog Proteins 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 2
- 239000002775 capsule Substances 0.000 description 2
- 238000004040 coloring Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/401—Compensating positionally unequal response of the pick-up or reproducing head
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G06T5/77—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/58—Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Abstract
【課題】より簡単かつ高精度に欠陥画素を検出できるようにする。
【解決手段】近傍領域抽出部は、画像上の注目画素近傍の領域を注目近傍領域として抽出する。テクスチャ方向判定部は、注目近傍領域について、注目画素と同じ色の画素の画素値の変化の小さい方向をテクスチャ方向として特定する。欠陥画素検出部は、注目画素を中心とし、テクスチャ方向に連続して並ぶいくつかの画素を用いて、ラプラシアンを算出するとともに、異なる画素の組ごとに算出した複数のラプラシアンを閾値と比較して、注目画素が欠陥画素であるかを特定する。このように複数のラプラシアンを用いることで、注目画素が単独欠陥画素であるか、連続欠陥画素であるかによらず、簡単かつ高精度に欠陥画素を検出することができる。本発明は、画像処理装置に適用することができる。
【選択図】図1
【解決手段】近傍領域抽出部は、画像上の注目画素近傍の領域を注目近傍領域として抽出する。テクスチャ方向判定部は、注目近傍領域について、注目画素と同じ色の画素の画素値の変化の小さい方向をテクスチャ方向として特定する。欠陥画素検出部は、注目画素を中心とし、テクスチャ方向に連続して並ぶいくつかの画素を用いて、ラプラシアンを算出するとともに、異なる画素の組ごとに算出した複数のラプラシアンを閾値と比較して、注目画素が欠陥画素であるかを特定する。このように複数のラプラシアンを用いることで、注目画素が単独欠陥画素であるか、連続欠陥画素であるかによらず、簡単かつ高精度に欠陥画素を検出することができる。本発明は、画像処理装置に適用することができる。
【選択図】図1
Description
本技術は画像処理装置および方法、並びにプログラムに関し、特に、より簡単かつ高精度に欠陥画素を検出できるようにした画像処理装置および方法、並びにプログラムに関する。
従来、画像上の欠陥画素を検出し、検出された欠陥画素を補正する技術が知られている。欠陥画素とは、画像上の画素のうち、本来とるべき値を画素値として有していない画素をいい、欠陥画素は白色や黒色の画素となることが多い。
このような欠陥画素を補正する技術として、被写体のエッジ方向を検出し、そのエッジ方向に基づいて欠陥画素を検出するとともに、検出された欠陥画素を補正する技術が提案されている(例えば、特許文献1参照)。
また、同色の欠陥画素が連続して並んでいる場合に、それらの欠陥画素(以下、連続欠陥画素とも称する)を検出して補正する技術も提案されている(例えば、特許文献2参照)。
しかしながら、上述した技術では、簡単かつ高精度に欠陥画素を検出することはできなかった。例えば、エッジ方向に基づいて欠陥画素を検出する方法では、連続欠陥画素を検出することができなかった。
また、連続欠陥画素を検出する技術では、連続欠陥画素を検出するための判別部と、処理対象の画素自身は欠陥があるが、周囲の隣接する画素には欠陥がない、いわゆる単独欠陥画素を検出するための判別部とを個別に設けなければならなかった。
本技術は、このような状況に鑑みてなされたものであり、より簡単かつ高精度に欠陥画素を検出することができるようにするものである。
本技術の第1の側面の画像処理装置は、画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定する判定部と、前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する検出部とを備える。
前記検出部には、前記画像上において、前記注目画素を含む前記テクスチャ方向に連続して並ぶ所定数の画素の組について、画素の画素値の2次微分値を算出する2次微分値算出部と、複数の異なる前記組の前記2次微分値に基づいて、前記注目画素が欠陥画素であるか否かを判定する比較部とを設けることができる。
前記比較部には、前記複数の異なる前記組の前記2次微分値のそれぞれが所定の閾値より大きい場合、前記注目画素が欠陥画素であると判定させることができる。
画像処理装置には、前記注目画素と同色であり、前記テクスチャ方向に並ぶ前記注目画素近傍の画素に基づいて、前記注目画素を補正する欠陥画素補正部をさらに設けることができる。
前記欠陥画素補正部には、前記注目画素に対して、前記テクスチャ方向と平行な第1の方向に隣接する2つの画素の微分値と、前記注目画素に対して、前記第1の方向と反対の第2の方向に隣接する2つの画素の微分値とを算出する微分値算出部と、前記注目画素に対して、前記第1の方向と前記第2の方向のうち、前記微分値が小さい方向に隣接する2つの画素を加重平均して補正後の前記注目画素とする補正値算出部とを設けることができる。
前記判定部には、前記近傍領域内の同じ方向に並ぶ画素間の微分値に基づいて、前記近傍領域における前記方向の微分値を算出させ、複数の前記方向のうち、微分値が最小となる前記方向を前記テクスチャ方向とさせることができる。
本技術の第1の側面の画像処理方法またはプログラムは、画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定し、前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出するステップを含む。
本技術の第1の側面においては、画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向が判定され、前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかが検出される。
本技術の第2の側面の画像処理装置は、各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正する補正部と、前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう誤補正判定部とを備える。
前記誤補正判定部には、少なくとも前記注目画素近傍の前記注目画素と異なる色成分を有する画素、前記注目画素、および前記補正注目画素に基づいて前記誤補正判定を行なわせることができる。
画像処理装置には、前記近傍領域内における前記注目画素と同色の画素の平均値と、前記近傍領域内における前記注目画素と異なる色の画素の平均値との比をホワイトバランスとして算出するホワイトバランス算出部と、前記注目画素近傍に位置する、前記注目画素と異なる色の画素の平均値に前記ホワイトバランスを乗算することで、無彩色化平均値を算出する無彩色化平均値算出部とをさらに設け、前記誤補正判定部には、前記無彩色化平均値、前記注目画素、および前記補正注目画素を比較することで前記誤補正判定を行なわせることができる。
前記誤補正判定部には、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値以下である場合、前記注目画素を最終的な前記注目画素として出力させることができる。
前記誤補正判定部には、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値より大きい場合、前記補正注目画素を最終的な前記注目画素として出力させることができる。
前記補正部には、前記注目画素に対する欠陥画素補正処理またはノイズ除去処理を行わせることで、前記注目画素を補正させることができる。
本技術の第2の側面の画像処理方法またはプログラムは、各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正し、前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なうステップを含む。
本技術の第2の側面においては、各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素が補正され、前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定が行なわれる。
本技術の第1の側面および第2の側面によれば、より簡単かつ高精度に欠陥画素を検出することができる。
以下、図面を参照して、本技術を適用した実施の形態について説明する。
〈第1の実施の形態〉
[画像処理装置の構成例]
図1は、本技術を適用した画像処理装置の一実施の形態の構成例を示す図である。
[画像処理装置の構成例]
図1は、本技術を適用した画像処理装置の一実施の形態の構成例を示す図である。
画像処理装置11は、画像上の注目する画素(以下、注目画素と称する)の画素値や位置、色成分情報などが含まれる注目画素情報を入力とし、必要に応じて欠陥が補正された注目画素を出力する。
画像処理装置11は、近傍領域抽出部21、テクスチャ方向判定部22、欠陥画素検出部23、および欠陥画素補正部24から構成される。
例えば、近傍領域抽出部21には、注目画素近傍の複数の画素の画素値、各画素の位置、各画素が有する色成分を示す色成分情報からなる注目画素情報が供給される。近傍領域抽出部21は、供給された注目画素情報から、注目画素を含む、画像上の注目画素近傍のいくつかの画素からなる近傍領域情報を抽出し、テクスチャ方向判定部22および欠陥画素検出部23に供給する。
テクスチャ方向判定部22は、近傍領域抽出部21から供給された近傍領域情報に基づいて、画像上のテクスチャの方向を特定し、特定されたテクスチャ方向を示す方向情報を欠陥画素検出部23および欠陥画素補正部24に供給する。
欠陥画素検出部23は、テクスチャ方向判定部22から供給された方向情報と、近傍領域抽出部21から供給された近傍領域情報とに基づいて、注目画素が欠陥画素であるか否かを特定し、その特定結果と注目画素近傍の画素とを欠陥画素補正部24に供給する。
欠陥画素補正部24は、欠陥画素検出部23から供給された、欠陥画素であるかの特定結果と注目画素近傍の画素、およびテクスチャ方向判定部22からの方向情報に基づいて、必要に応じて注目画素を補正し、補正後の注目画素を出力する。
[テクスチャ方向判定部の構成例]
また、図1のテクスチャ方向判定部22は、より詳細には図2に示すように構成される。
また、図1のテクスチャ方向判定部22は、より詳細には図2に示すように構成される。
すなわち、テクスチャ方向判定部22は、微分値算出部51−1乃至微分値算出部51−4、および微分値比較部52から構成される。
微分値算出部51−1乃至微分値算出部51−4は、近傍領域抽出部21から供給された近傍領域情報に基づいて、画像上の注目画素近傍の領域における各方向の微分値を算出し、微分値比較部52に供給する。なお、以下、微分値算出部51−1乃至微分値算出部51−4を、特に区別する必要のない場合、単に微分値算出部51とも称する。
微分値比較部52は、微分値算出部51から供給された各方向の微分値を比較して、テクスチャ方向を特定し、特定されたテクスチャ方向を示す方向情報を欠陥画素検出部23および欠陥画素補正部24に供給する。例えば、各方向のうち、微分値が最小となる方向がテクスチャの方向とされる。
[欠陥画素検出部の構成例]
さらに、図1の欠陥画素検出部23は、より詳細には図3に示すように構成される。
さらに、図1の欠陥画素検出部23は、より詳細には図3に示すように構成される。
すなわち、欠陥画素検出部23は、画素選択部81、2次微分値算出部82、および微分値比較部83から構成される。
画素選択部81は、近傍領域抽出部21から供給された近傍領域情報、およびテクスチャ方向判定部22の微分値比較部52から供給された方向情報に基づいて、画像上のテクスチャ方向に並んでいる、注目画素を含むいくつかの画素を選択する。画素選択部81は、選択された画素(以下、選択画素とも称する)を、2次微分値算出部82および欠陥画素補正部24に供給する。
2次微分値算出部82は、画素選択部81から供給された選択画素に基づいて、注目画素を含むいくつかの連続して並ぶ画素の組ごとに2次微分値を算出し、微分値比較部83に供給する。微分値比較部83は、2次微分値算出部82から供給された複数の2次微分値に基づいて、注目画素が欠陥画素であるかを特定し、その特定結果を欠陥画素補正部24に供給する。
[欠陥画素補正部の構成例]
また、図1の欠陥画素補正部24は、より詳細には図4に示すように構成される。すなわち、欠陥画素補正部24は、微分値算出部111および補正値算出部112から構成される。
また、図1の欠陥画素補正部24は、より詳細には図4に示すように構成される。すなわち、欠陥画素補正部24は、微分値算出部111および補正値算出部112から構成される。
微分値算出部111は、微分値比較部83から供給された欠陥画素の特定結果に応じて、画素選択部81からの選択画素をそのまま補正値算出部112に供給するか、または選択画素とともに、注目画素近傍の画素の微分値を補正値算出部112に供給する。また、微分値算出部111は、画素選択部81からの選択画素と、微分値比較部52からの方向情報とに基づいて、注目画素近傍の画素の微分値を算出する。
補正値算出部112は、微分値算出部111から選択画素および微分値が供給された場合、それらの選択画素と微分値に基づいて注目画素を補正して、補正された注目画素を出力する。また、補正値算出部112は、微分値算出部111から選択画素のみが供給された場合、選択画素に含まれる注目画素をそのまま出力する。
[欠陥画素補正処理の説明]
ところで、画像処理装置11に注目画素情報が供給され、欠陥画素の検出と補正が指示されると、画像処理装置11は、欠陥画素補正処理を行って、注目画素の画素値を必要に応じて補正し、出力する。以下、図5のフローチャートを参照して、画像処理装置11による欠陥画素補正処理について説明する。
ところで、画像処理装置11に注目画素情報が供給され、欠陥画素の検出と補正が指示されると、画像処理装置11は、欠陥画素補正処理を行って、注目画素の画素値を必要に応じて補正し、出力する。以下、図5のフローチャートを参照して、画像処理装置11による欠陥画素補正処理について説明する。
この欠陥画素補正処理は、欠陥画素の検出と補正を行おうとする処理対象の画像上の画素ごとに行なわれる。なお、以下においては、処理対象の画像は、R,G,Bの各色の画素からなり、それらの各色の画素がベイヤー配列で並べられているとする。また、以下、R,G,Bの各色の画素を、それぞれR画素,G画素,B画素とも呼ぶこととする。
ステップS11において、近傍領域抽出部21は、入力された注目画素情報から、近傍領域情報を抽出し、テクスチャ方向判定部22の微分値算出部51、および欠陥画素検出部23の画素選択部81に供給する。
例えば、注目画素がG画素である場合、近傍領域抽出部21は、画像上における、注目画素を中心とする水平方向に9画素、垂直方向に9画素からなる矩形領域内から、その矩形領域に含まれるG画素を抽出し、近傍領域情報とする。
ステップS12において、微分値算出部51は、近傍領域抽出部21から供給された近傍領域情報に基づいて、各方向の微分値を算出し、微分値比較部52に供給する。
ここで、図6乃至図9を参照して、各方向の微分値の算出について説明する。なお、図6乃至図9において、横方向および縦方向は、それぞれx方向およびy方向を示している。また、図6乃至図9において、1つの四角形は画像上の1つの画素を表しており、それらの画素のうち、四角形内に文字「G」が記されている画素はG画素となっている。
例えば、図6に示すように、注目画素CP11を中心とし、x方向に9画素、y方向に9画素からなる矩形領域(以下、注目近傍領域とも称する)内のG画素が、近傍領域情報として供給されたとする。この場合、微分値算出部51−1は、注目近傍領域について、図中、水平方向(x方向)の微分値GHを算出する。
具体的には、微分値算出部51−1は、注目近傍領域内にある図中、横方向に互いに隣接して並ぶG画素をペアとする。例えば、注目画素CP11と、その注目画素CP11の図中、左側に隣接するG画素である画素P12とが、1つのペアとされる。
微分値算出部51−1は、注目近傍領域内の各G画素のペアについて、それらのペアのG画素の画素値の微分値、つまり画素値の差分絶対値を算出し、各ペアについて得られた差分絶対値の総和を、水平方向の微分値GHとする。
例えば、xy座標系における座標(x,y)にあるG画素と、座標(x-2,y)にあるG画素とがペアとされ、座標(x,y)にあるG画素の画素値がG(x,y)であり、座標(x-2,y)にあるG画素の画素値がG(x-2,y)であるとする。この場合、これらのG画素のペアの微分値gradH(x,y)は、|G(x,y)-G(x-2,y)|により求まる。
この微分値gradH(x,y)は、処理対象のG画素の位置における図中、水平方向(横方向)へのG画素の画素値の変化の大きさを示している。微分値GHは、注目近傍領域内の各G画素の微分値の総和であるから、微分値GHは、注目近傍領域全体における水平方向へのG画素の画素値の変化の大きさを示しているということができる。例えば、微分値GHが小さいほど、注目近傍領域では、G画素の画素値の水平方向への変化が小さいことになる。
また、例えば図7に示すように、微分値算出部51−2は、注目近傍領域について、図中、垂直方向(y方向)の微分値GVを算出する。
具体的には、微分値算出部51−2は、注目近傍領域内にある図中、縦方向に互いに隣接して並ぶG画素をペアとする。例えば、注目画素CP11と、その注目画素CP11の図中、上側に隣接するG画素である画素P13とが、1つのペアとされる。
微分値算出部51−2は、注目近傍領域内の各G画素のペアについて、それらのペアのG画素の画素値の微分値を算出し、各ペアについて得られた微分値の総和を、垂直方向の微分値GVとする。
例えば、xy座標系における座標(x,y)にあるG画素と、座標(x,y-2)にあるG画素とがペアとされ、座標(x,y)にあるG画素の画素値がG(x,y)であり、座標(x,y-2)にあるG画素の画素値がG(x,y-2)であるとする。この場合、これらのG画素のペアの微分値gradV(x,y)は、|G(x,y)-G(x,y-2)|により求まる。したがって、微分値GVは、注目近傍領域全体における垂直方向へのG画素の画素値の変化の大きさを示している。
さらに、例えば図8に示すように、微分値算出部51−3は、注目近傍領域について、図中、左上方向(左斜め方向)の微分値GDを算出する。
具体的には、微分値算出部51−3は、注目近傍領域内にある図中、左斜め方向に互いに隣接して並ぶG画素をペアとする。例えば、注目画素CP11と、その注目画素CP11の図中、左上に隣接するG画素である画素P14とが、1つのペアとされる。
微分値算出部51−3は、注目近傍領域内の各G画素のペアについて、それらのペアのG画素の画素値の微分値を算出し、各ペアについて得られた微分値の総和を、左斜め方向の微分値GDとする。
例えば、xy座標系における座標(x,y)にあるG画素と、座標(x-1,y-1)にあるG画素とがペアとされ、座標(x,y)にあるG画素の画素値がG(x,y)であり、座標(x-1,y-1)にあるG画素の画素値がG(x-1,y-1)であるとする。この場合、これらのG画素のペアの微分値gradD(x,y)は、|G(x,y)-G(x-1,y-1)|により求まる。したがって、微分値GDは、注目近傍領域全体における左斜め方向へのG画素の画素値の変化の大きさを示している。
さらに、例えば図9に示すように、微分値算出部51−4は、注目近傍領域について、図中、右上方向(右斜め方向)の微分値GAを算出する。
具体的には、微分値算出部51−4は、注目近傍領域内にある図中、右斜め方向に互いに隣接して並ぶG画素をペアとする。例えば、注目画素CP11と、その注目画素CP11の図中、右上に隣接するG画素である画素P15とが、1つのペアとされる。
微分値算出部51−4は、注目近傍領域内の各G画素のペアについて、それらのペアのG画素の画素値の微分値を算出し、各ペアについて得られた微分値の総和を、右斜め方向の微分値GAとする。
例えば、xy座標系における座標(x,y)にあるG画素と、座標(x+1,y-1)にあるG画素とがペアとされ、座標(x,y)にあるG画素の画素値がG(x,y)であり、座標(x+1,y-1)にあるG画素の画素値がG(x+1,y-1)であるとする。この場合、これらのG画素のペアの微分値gradA(x,y)は、|G(x,y)-G(x+1,y-1)|により求まる。したがって、微分値GAは、注目近傍領域全体における右斜め方向へのG画素の画素値の変化の大きさを示している。
以上のようにして、微分値算出部51−1乃至微分値算出部51−4は、注目近傍領域の各方向の微分値GH、微分値GV、微分値GD、および微分値GAを算出すると、それらの微分値を微分値比較部52に供給する。
図5のフローチャートの説明に戻り、ステップS12において、各方向の微分値が算出されると、処理はステップS13に進む。
ステップS13において、微分値比較部52は、微分値算出部51から供給された各方向の微分値を比較して、画像上のテクスチャ方向を特定する。
具体的には、微分値比較部52は、微分値GH、微分値GV、微分値GD、および微分値GAのうち、最も値が小さい微分値を選択し、選択した微分値の方向をテクスチャ方向とする。例えば、各方向の微分値のうち、水平方向の微分値GHが最も値が小さかったとする。この場合、注目近傍領域では、水平方向、垂直方向、左斜め方向、および右斜め方向のうち、水平方向が画素値の変化の最も小さい方向となる。
微分値比較部52は、画像上の注目画素近傍における最も画素値の変化の少ない方向、つまり絵柄の変化が少ない方向をテクスチャの方向として特定する。このようにして、テクスチャ方向が特定されると、微分値比較部52は、テクスチャ方向を示す方向情報を欠陥画素検出部23の画素選択部81、および欠陥画素補正部24の微分値算出部111に供給する。
ステップS14において、画素選択部81は、近傍領域抽出部21からの近傍領域情報と、微分値比較部52からの方向情報とに基づいて、欠陥画素の検出と補正に用いる画素を選択画素として選択し、2次微分値算出部82および微分値算出部111に供給する。
ステップS15において、2次微分値算出部82は、画素選択部81から供給された選択画素に基づいて、3つの2次微分値L1乃至2次微分値L3を算出し、微分値比較部83に供給する。
例えば、方向情報により示されるテクスチャ方向が水平方向である場合、図10に示すように、画素選択部81は、注目近傍領域上のG画素のうち、注目画素CP21を中心とし、水平方向に連続して並ぶ5つのG画素を選択画素として選択する。なお、図10において、1つの四角形は画像上の1つの画素を表しており、それらの画素のうち、四角形内に文字「G」が記されている画素はG画素となっている。
図10の例では、図中、横方向に連続して並ぶ画素P31乃至画素P34および注目画素CP21が、選択画素として選択されている。ここで、図中、右側に示すように、画素P31乃至画素P34および注目画素CP21のそれぞれの画素値が、G15,G35,G75,G95,G55であるとする。
注目近傍領域から、テクスチャ方向に並ぶ画素が選択画素として選択されると、2次微分値算出部82は、それらの選択画素を用いて3つの2次微分値を算出する。
具体的には、図中、右側に示すように2次微分値算出部82は、注目画素CP21の位置が図中、右端となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、その組のラプラシアンを2次微分値L1として算出する。すなわち、画素P31、画素P32、および注目画素CP21の各画素の画素値に基づいて、2次微分値L1=G15−2G35+G55が計算される。
同様に、2次微分値算出部82は、注目画素CP21の位置が図中、中央となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、その組のラプラシアンを2次微分値L2として算出する。つまり、画素P32、注目画素CP21、および画素P33の各画素の画素値に基づいて2次微分値L2=G35−2G55+G75が計算される。
さらに、2次微分値算出部82は、注目画素CP21の位置が図中、左端となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、その組のラプラシアンを2次微分値L3として算出する。つまり、注目画素CP21、画素P33、および画素P34の各画素の画素値に基づいて2次微分値L3=G55−2G75+G95が計算される。
このように、テクスチャ方向に連続して並ぶ3つの画素のうち、中央の画素の画素値に2を乗算して得られる値と、中央の画素の両端に位置する画素の画素値の和との差分が、2次微分値として算出される。このようにして選択画素が用いられて2次微分値L1、2次微分値L2、および2次微分値L3が算出されると、2次微分値算出部82は、算出したこれらの2次微分値を微分値比較部83に供給する。
また、例えば、方向情報により示されるテクスチャ方向が右斜め方向である場合、図11に示すように、画素選択部81は、注目近傍領域上のG画素のうち、注目画素CP31を中心とし、右斜め方向に連続して並ぶ5つのG画素を選択画素として選択する。なお、図11において、1つの四角形は画像上の1つの画素を表しており、それらの画素のうち、四角形内に文字「G」が記されている画素はG画素となっている。
図11の例では、図中、右斜め方向に連続して並ぶ画素P41乃至画素P44および注目画素CP31が、選択画素として選択されている。ここで、図中、右側に示すように、画素P41乃至画素P44および注目画素CP31のそれぞれの画素値が、G37,G46,G64,G73,G55であるとする。
注目近傍領域から選択画素が選択されると、2次微分値算出部82は、図中、右側に示すように注目画素CP31の位置が図中、右端となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、2次微分値L1を算出する。すなわち、画素P41、画素P42、および注目画素CP31の各画素の画素値に基づいて、2次微分値L1=G37−2G46+G55が計算される。
同様に、2次微分値算出部82は、注目画素CP31の位置が図中、中央となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、その組の2次微分値L2を算出する。つまり、画素P42、注目画素CP31、および画素P43の各画素の画素値に基づいて2次微分値L2=G46−2G55+G64が計算される。
さらに、2次微分値算出部82は、注目画素CP31の位置が図中、左端となる、テクスチャ方向に並ぶ3つの連続するG画素の組について、その組の2次微分値L3を算出する。つまり、注目画素CP31、画素P43、および画素P44の各画素の画素値に基づいて2次微分値L3=G55−2G64+G73が計算される。
図5のフローチャートの説明に戻り、2次微分値が算出されると、処理はステップS15からステップS16に進む。
ステップS16において、微分値比較部83は、2次微分値算出部82から供給された2次微分値L1乃至2次微分値L3を、所定の閾値τと比較して、注目画素が欠陥画素であるか否かを特定し、その特定結果を欠陥画素補正部24の微分値算出部111に供給する。
具体的には、微分値比較部83は、2次微分値L1>τ、かつ2次微分値L2>τ、かつ2次微分値L3>τである場合、注目画素が欠陥画素であるとする。つまり3つの2次微分値が全て閾値τよりも大きい場合、注目画素は欠陥画素であるとされる。
例えば、2次微分値は、画素値の変化の少ない方向に並ぶ3つの画素が用いられて算出されるラプラシアンである。この2次微分値の計算に用いられる3つの画素の画素値は、殆ど同じ値となるはずであるから、2次微分値は充分に小さくなるはずである。
ところが、2次微分値の計算に用いられる画素のなかに、欠陥画素が含まれていると、その欠陥画素の画素値は、他の画素の画素値とは大きく異なるから、欠陥画素が用いられて算出された2次微分値は、閾値τよりも大きくなる。
ここで、3つの2次微分値L1乃至2次微分値L3のそれぞれの算出には、必ず注目画素が用いられるので、注目画素が欠陥画素であれば、3つの2次微分値は何れも閾値τよりも大きくなる。これは、注目画素に隣接する他の画素が欠陥画素である場合でも同じである。そこで、微分値比較部83は、3つの2次微分値のそれぞれが閾値τよりも大きい場合、注目画素は欠陥画素であるとする。
例えば、図12の矢印A11に示すように、注目画素CP41を中心とし、テクスチャ方向に並ぶ画素P51、画素P52、注目画素CP41、画素P53、および画素P54が選択画素として選択されたとする。なお、図12において、図中、1つの四角形は1つの画素を表しており、特にバツ印が記された四角形は欠陥画素を表している。
矢印A11に示す例では、注目画素CP41が欠陥画素となっており、選択画素として選択された他の画素は欠陥画素でない正常な画素となっている。
この場合、2次微分値L1の算出には、画素P51、画素P52、および注目画素CP41が用いられ、2次微分値L2の算出には、画素P52、注目画素CP41、および画素P53が用いられる。また、2次微分値L3の算出には、注目画素CP41、画素P53、および画素P54が用いられる。
したがって、この例では、2次微分値L1乃至2次微分値L3の算出に、欠陥画素である注目画素CP41が用いられるから、これらの2次微分値は閾値τよりも大きくなり、注目画素CP41が欠陥画素であると正しく特定される。
矢印A11に示される例は、注目画素CP41は欠陥画素であるが、その注目画素CP41の両側に隣接する画素P52および画素P53は、欠陥のない正常な画素となる例である。このように、注目画素のみに欠陥があり、注目画素と同色である隣接画素に欠陥がない場合、注目画素は、特に単独欠陥画素と呼ばれる。
また、矢印A12に示すように、注目画素CP41と、注目画素CP41の左側に隣接する画素P52とが欠陥画素である場合にも、2次微分値L1乃至2次微分値L3のそれぞれの算出に、少なくとも1つの欠陥画素が用いられる。そのため、各2次微分値が閾値τよりも大きくなり、この場合も注目画素CP41が欠陥画素であると正しく特定される。
矢印A12に示される例は、注目画素CP41が欠陥画素であり、その注目画素CP41に隣接する画素P52も欠陥画素となる例である。このように、注目画素だけでなく、その注目画素と同色である隣接画素にも欠陥がある場合、注目画素は、特に連続欠陥画素と呼ばれる。
なお、矢印A11に示した単独欠陥の場合は、3つの2次微分値(ラプラシアン)がほぼ同じ値となるのに対し、矢印A12に示した連続欠陥の場合は、2次微分値L1と2次微分値L3など、2つの2次微分値の値が大きく異なる。そのため、微分値比較部83では、3つの2次微分値を比較することで、注目画素が単独欠陥画素であるか、連続欠陥画素であるかを判定することも可能である。
これに対して、矢印A13に示すように、注目画素CP41には欠陥がなく、注目画素CP41の周囲の画素P51にのみ欠陥がある場合、2次微分値L1の算出には、欠陥画素である画素P51が用いられるが、2次微分値L2と2次微分値L3の算出には画素P51は用いられない。また、2次微分値L2や2次微分値L3の算出に用いられる画素は、何れも欠陥画素ではない。
そのため、2次微分値L1は閾値τよりも大きくなるが、2次微分値L2と2次微分値L3は閾値τ未満となり、注目画素CP41が欠陥のない正常な画素であると正しく特定されることになる。
同様に、矢印A14に示すように、注目画素CP41には欠陥がなく、注目画素CP41の周囲の画素P51と画素P52に欠陥がある場合、これらの欠陥画素が用いられて算出される2次微分値L1と2次微分値L2は、閾値τよりも大きくなる。しかし、欠陥のない注目画素CP41、画素P53、および画素P54が用いられて算出される2次微分値L3は、閾値τ未満となるので、この場合も、注目画素CP41が欠陥のない正常な画素であると正しく特定される。
矢印A13や矢印A14に示した例では、注目画素CP41は欠陥のない正常な画素であり、3つの2次微分値の何れかの算出時に、欠陥のない画素のみが用いられて2次微分値が算出される。したがって、選択画素のうちの注目画素以外の画素に欠陥画素があっても、注目画素に欠陥がなければ、少なくとも1つは閾値τ未満の2次微分値が得られ、注目画素が正常な画素であると特定される。これは、選択画素のなかに注目画素以外の連続欠陥が存在する場合でも同様である。つまり、選択画素のなかに、注目画素とは異なる互いに隣接する欠陥画素がある場合でも、注目画素が欠陥画素であるかを正しく特定することが可能である。
以上のように、テクスチャ方向に並ぶ画素を用いて、3つの2次微分値を算出し、それらの2次微分値を閾値と比較すれば、注目画素が単独欠陥画素であるか、連続欠陥画素であるかによらず、簡単かつ高精度に注目画素が欠陥画素であるかを特定することができる。なお、より詳細には、選択画素に含まれる欠陥画素の数や位置によっては、誤検出が生じる場合もあるが、欠陥画素検出部23では、従来よりも簡単な処理で、高精度に欠陥画素を検出することが可能である。
また、2次微分値と比較される閾値τは、固定の定数とされてもよいし、テクスチャ方向の特定時に微分値算出部51により算出された微分値に応じて、適応的に変化するようにしてもよい。また、注目画素の色によって、異なる閾値が用いられてもよい。
図5のフローチャートの説明に戻り、微分値比較部83は、注目画素が欠陥画素であるか否かを特定すると、その特定結果を欠陥画素補正部24の微分値算出部111に供給し、その後、処理はステップS17に進む。
ステップS17において、微分値算出部111は、微分値比較部83から供給された注目画素が欠陥画素であるかの特定結果に基づいて、注目画素が欠陥画素であるか否かを判定する。
ステップS17において、注目画素が欠陥画素であると判定された場合、ステップS18において、微分値算出部111は、微分値比較部52からの方向情報と、画素選択部81から供給された選択画素に基づいて、微分値を算出する。微分値算出部111は、算出した微分値と選択画素とを補正値算出部112に供給する。
そして、ステップS19において、補正値算出部112は、微分値算出部111から供給された微分値と選択画素とに基づいて、注目画素を補正し、補正後の注目画素を後段に出力する。
例えば、図13に示すように、テクスチャ方向に連続して並ぶ画素P61、画素P62、注目画素CP51、画素P63、および画素P64が選択画素として微分値算出部111に供給されたとする。なお、図13において、1つの四角形は1つの画素を表しており、各四角形内の文字は、その四角形が表す画素の画素値を示している。すなわち、画素P61、画素P62、注目画素CP51、画素P63、および画素P64の各画素の画素値は、それぞれG1,G2,G3,G4,G5とされている。
このような場合、微分値算出部111は、注目画素CP51の図中、左側に隣接する2つの画素P61と画素P62から微分値g1を算出する。すなわち、微分値g1=|G1−G2|であり、画素P61と画素P62の画素値の差分の絶対値が微分値g1として算出される。
また、微分値算出部111は、注目画素CP51の図中、右側に隣接する2つの画素P63と画素P64から微分値g2を算出する。すなわち、微分値g2=|G4−G5|であり、画素P63と画素P64の画素値の差分の絶対値が微分値g2として算出される。
このようにして、注目画素CP51の左側の画素の微分値g1と、右側の画素の微分値g2とが算出されると、補正値算出部112は、これらの微分値を用いて注目画素CP51の画素値を補正する。
具体的には、微分値g1が微分値g2以下である場合、補正値算出部112は、画素P61の画素値G1と、画素P62の画素値G2とを所定の重みαで重み付き加算(加重平均)することで、補正後の注目画素CP51の画素値G3’を算出する。すなわち、G3’=α・G1+(1−α)G2が計算される。
選択画素は、テクスチャ方向、つまり画素値の変化の少ない方向に並ぶ画素であるから、選択画素として選択された、互いに隣接する画素の差分絶対値、つまり微分値が小さければ、それらの画素は欠陥画素でない可能性が高い。したがって、微分値g1が微分値g2以下である場合には、画素P61と画素P62の組みが、画素P63と画素P64の組みよりも、より欠陥画素が含まれる可能性が低い。
そこで、補正値算出部112は、注目画素CP51に隣接する画素のうち、より欠陥画素である可能性が低い画素P61と画素P62を用いて、注目画素CP51の補正後の画素値G3’を算出する。
逆に、微分値g1が微分値g2よりも大きい場合、補正値算出部112は、画素P63の画素値G4と、画素P64の画素値G5とを所定の重みβで重み付き加算することで、補正後の注目画素CP51の画素値G3’を算出する。すなわち、G3’=β・G4+(1−β)G5が計算される。
このように、微分値g1および微分値g2の値に応じて、注目画素CP51の片側に隣接する画素のみを用いて注目画素を補正することで、注目画素CP51が連続欠陥画素である場合であっても、注目画素CP51の適切な補正値を得ることができる。なお、注目画素CP51の補正に用いられる重みαやβは、0から1までの間の任意の値とすることができる。
図5のフローチャートに戻り、注目画素が補正されると、補正値算出部112は補正後の注目画素の画素値を出力し、欠陥画素補正処理は終了する。
一方、ステップS17において、注目画素が欠陥画素でないと判定された場合、微分値算出部111は、画素選択部81から供給された選択画素を補正値算出部112に供給し、その後、処理はステップS20に進む。
ステップS20において、補正値算出部112は、微分値算出部111から供給された選択画素から注目画素を抽出し、その注目画素の画素値をそのまま出力して、欠陥画素補正処理は終了する。すなわち、この場合、注目画素は欠陥画素ではないので、注目画素に対する補正は行なわれず、注目画素の画素値がそのまま後段に出力される。
以上のようにして、画像処理装置11は、注目画素を含む、テクスチャ方向に並ぶいくつかの画素を用いて複数の2次微分値を算出し、それらの2次微分値を閾値処理することで、注目画素が欠陥画素であるか否かを特定する。
これにより、注目画素が単独欠陥画素であるか、連続欠陥画素であるかによらず、簡単かつ高精度に欠陥画素を検出することができ、画像処理装置11の回路規模を小さくするとともに、処理速度を向上させることができる。
また、注目画素が欠陥画素である場合、注目画素のテクスチャ方向に並ぶ画素のうち、より欠陥画素である可能性の低い画素を用いて、注目画素を補正するので、より適切に注目画素を補正することができる。
例えば、テクスチャ方向に沿って欠陥画素の検出を行なうことで、ストライプ模様のような高周波成分を含むテクスチャ部分において、テクスチャを欠陥として過補正してしまい、画質が劣化してしまうようなことを防止することができる。また、2次微分値(ラプラシアン)を用いて欠陥画素を検出することで、画像の模様が滑らかに変化するグラデーション部分での誤検出を少なくすることができる。
なお、以上においては、テクスチャ方向の判定に用いられる画素も、欠陥画素の検出に用いられる画素も、ともに注目画素と同色の画素である場合について説明したが、テクスチャ方向の判定に用いられる画素は、必ずしも注目画素と同色でなくてもよい。
そのような場合、例えば注目画素がR画素であるとすると、テクスチャ方向判定部22では、注目画素近傍にあるG画素が用いられてテクスチャ方向が特定され、欠陥画素検出部23では、注目画素と同色のR画素が用いられて、欠陥画素かの特定が行なわれる。
特に、画像上の各色の画素の配置がベイヤー配列となっている場合には、G画素が他の色の画素よりも多く画像に含まれているので、G画素が用いられてテクスチャ方向が特定されるようにすれば、より高精度にテクスチャ方向を特定することができる。
〈変形例1〉
また、以上においては、注目画素を中心として、テクスチャ方向に並ぶ5つの連続する画素を選択画素とし、それらの選択画素を用いて欠陥画素の検出を行なう場合について説明したが、選択画素は6以上であってもよい。
また、以上においては、注目画素を中心として、テクスチャ方向に並ぶ5つの連続する画素を選択画素とし、それらの選択画素を用いて欠陥画素の検出を行なう場合について説明したが、選択画素は6以上であってもよい。
すなわち、例えば、図14に示すように、注目画素CP61を中心とする水平方向に13画素、垂直方向に13画素の注目近傍領域が抽出され、方向情報により示されるテクスチャ方向が水平方向であったとする。
なお、図14において、1つの四角形は画像上の1つの画素を表しており、それらの画素のうち、四角形内に文字「G」が記されている画素はG画素となっている。
図14の例では、画素選択部81は、注目近傍領域上のG画素のうち、注目画素CP61を中心とし、水平方向に連続して並ぶ7つのG画素を選択画素として選択する。すなわち、図中、横方向に連続して並ぶ画素P71乃至画素P76および注目画素CP61が、選択画素として選択される。ここで、図中、右側に示すように、画素P71乃至画素P76および注目画素CP61のそれぞれの画素値が、G15,G35,G55,G95,G115,G135,G75であるとする。
この場合、2次微分値算出部82は、それらの選択画素のうちの連続して並ぶ5つの画素を用いて、3つの関数値F1乃至関数値F3を算出する。ここで、関数値F1乃至関数値F3は、その関数値の算出に用いられる画素のなかに、欠陥画素が含まれている場合に値が大きくなる任意の関数である。
関数値F1が算出される場合、画素P71乃至画素P73、注目画素CP61、および画素P74が用いられる。すなわち、例えば、関数値F1=G15+2G35−6G55+2G75+G95が計算される。同様に、関数値F2が算出される場合、画素P72、画素P73、注目画素CP61、画素P74、および画素P75が用いられ、関数値F3が算出される場合、画素P73、注目画素CP61、および画素P74乃至画素P76が用いられる。
微分値比較部83は、これらの関数値F1乃至関数値F3を閾値と比較することで、その比較結果から、注目画素CP61が欠陥画素であるか否かを特定することができる。この場合、注目画素CP61が、同色の3つの連続する欠陥画素のうちの1つであるときでも、つまり3連続欠陥画素であるときでも、注目画素CP61が欠陥画素であるか否かを正しく判定することが可能である。
なお、注目近傍領域を大きくし、欠陥画素の検出の関数値の算出に用いる画素数を増やせば、注目画素が4以上の連続欠陥画素を構成する画素である場合にも、対応することが可能である。
〈変形例2〉
さらに、以上においては、処理対象となる画像上の各色の画素の配置がベイヤー配列である例について説明したが、各色の画素はベイヤー配列に限らず、どのように配置されていてもよい。
さらに、以上においては、処理対象となる画像上の各色の画素の配置がベイヤー配列である例について説明したが、各色の画素はベイヤー配列に限らず、どのように配置されていてもよい。
例えば、図15に示すように、画像上にR画素、G画素、B画素の他に、さらに透明(ホワイト)な画素(以下、W画素と称する)も配置されるようにしてもよい。なお、図15において、1つの四角形は1つの画素を表しており、それらの四角形内の文字「R」,「G」,「B」,「W」は、それぞれR画素,G画素,B画素,W画素を示している。
この例では、W画素は、ベイヤー配列におけるG画素と同等に扱うことができ、G画素はベイヤー配列におけるR画素やB画素と同等に扱うことができる。しかし、図15の例では、R画素やB画素はサンプル数が少ないため、これらの画素を注目画素として欠陥画素の検出を行なうには、注目近傍領域をG画素やW画素の場合よりも大きくしたり、検出可能な連続欠陥の数を減らしたりして対応する必要がある。
〈変形例3〉
さらに、以上においては、所定の色の画素を用いてテクスチャ方向を特定すると説明したが、他の情報(信号)を用いてテクスチャ方向を特定するようにしてもよい。
さらに、以上においては、所定の色の画素を用いてテクスチャ方向を特定すると説明したが、他の情報(信号)を用いてテクスチャ方向を特定するようにしてもよい。
例えば、画像上にGr,Gb,R,Bの各色の画素が配置される場合、図16に示すように、それらの画素から輝度値(輝度信号)を求め、輝度値の微分値を用いてテクスチャ方向を特定してもよい。なお、図16において、1つの四角形は1つの画素を表しており、それらの四角形内の文字「R」,「B」,「Gr」,「Gb」は、それぞれR画素,B画素,Gr画素,Gb画素を示している。また、図中、1つの円は、輝度信号の位置を示している。
この場合、微分値算出部51は、輝度信号の位置を示す円に隣接する4つの画素、つまりR画素,B画素,Gr画素,Gb画素の各画素の画素値の和を求めて、得られた和を輝度信号の値(輝度値)とする。そして、微分値算出部51は、所定方向に隣接する輝度信号の位置のペアごとに輝度値の差分絶対値を求め、それらの差分絶対値の総和を微分値とする。また、輝度信号によりテクスチャ方向が特定された場合、欠陥画素の検出や補正には、注目画素と同色の画素が用いられる。
〈第2の実施の形態〉
[画像処理装置の構成例]
ところで、画像上の画素がベイヤー配列とされている場合、B画素やR画素はG画素とサンプリング間隔が異なるため、各色の画素で同様の処理を行おうとすると、R画素やB画素を処理する場合には、G画素を処理する場合よりも注目近傍領域を大きくしなければならない。
[画像処理装置の構成例]
ところで、画像上の画素がベイヤー配列とされている場合、B画素やR画素はG画素とサンプリング間隔が異なるため、各色の画素で同様の処理を行おうとすると、R画素やB画素を処理する場合には、G画素を処理する場合よりも注目近傍領域を大きくしなければならない。
そこで、注目画素の色によって、異なる方法で欠陥画素検出や欠陥画素の補正が行なわれるようにしてもよい。そのような場合、画像処理装置は、例えば図17に示すように構成される。なお、図17において、図1における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図17の画像処理装置141は、例えば各色の画素がベイヤー配列で配置された画像を処理し、画像上の各画素を順番に注目画素として、必要に応じて注目画素の補正を行なう。
画像処理装置141は、近傍領域抽出部21、テクスチャ方向判定部22、欠陥画素検出部23、欠陥画素補正部24、平均値算出部151、欠陥画素検出部152、および欠陥画素補正部153から構成される。
近傍領域抽出部21は、供給された注目画素情報から近傍領域情報を抽出し、注目画素の色に応じて近傍領域情報の出力先を切り替える。すなわち、近傍領域抽出部21は、注目画素がG画素である場合、近傍領域情報をテクスチャ方向判定部22および欠陥画素検出部23に供給し、注目画素がR画素またはB画素である場合、近傍領域情報を平均値算出部151乃至欠陥画素補正部153に供給する。
平均値算出部151は、近傍領域抽出部21から供給された近傍領域情報から、注目近傍領域における注目画素と同色の画素の平均的な画素値を算出し、欠陥画素検出部152に供給する。欠陥画素検出部152は、近傍領域抽出部21から供給された近傍領域情報と、平均値算出部151から供給された平均的な画素値とに基づいて、注目画素が欠陥画素であるか否かを特定し、その特定結果を欠陥画素補正部153に供給する。
欠陥画素補正部153は、欠陥画素検出部152からの特定結果と、近傍領域抽出部21からの近傍領域情報とに基づいて、必要に応じて注目画素を補正し、出力する。
[欠陥画素補正処理の説明]
次に、画像処理装置141による欠陥画素補正処理について説明する。
次に、画像処理装置141による欠陥画素補正処理について説明する。
ステップS51において、近傍領域抽出部21は、入力された注目画素情報に基づいて、注目画素がG画素であるか否かを判定する。
ステップS51において、注目画素がG画素でないと判定された場合、すなわち、注目画素がR画素またはB画素である場合、ステップS52において、近傍領域抽出部21は、供給された注目画素情報から近傍領域情報を抽出する。そして近傍領域抽出部21は、近傍領域情報を平均値算出部151乃至欠陥画素補正部153に供給する。
ステップS53において、平均値算出部151は、近傍領域抽出部21から供給された近傍領域情報に基づいて、平均値を算出し、欠陥画素検出部152に供給する。
例えば、図19に示すように、注目画素CP71がR画素であり、注目画素CP71を中心とし、x方向に9画素、y方向に9画素からなる注目近傍領域内のR画素が、近傍領域情報として供給されたとする。
なお、図中、横方向および縦方向は、それぞれx方向およびy方向を示している。また、図中、1つの四角形は画像上の1つの画素を表しており、それらの画素内に記された文字は画素の色を示している。
この場合、平均値算出部151は、次式(1)を計算して注目近傍領域内のR画素の画素値の平均値WRを算出する。
なお、式(1)において、ΣRは、注目近傍領域内にある、注目画素CP71を除く全R画素の画素値の総和を示しており、Nは、注目近傍領域内にある全R画素の個数から5を減算して得られる値である。
また、RmaxおよびR2ndmaxは、注目画素CP71を除く注目近傍領域内のR画素のうち、1番目および2番目に大きい画素値をもつR画素の画素値である。さらに、RminおよびR2ndminは、注目画素CP71を除く注目近傍領域内のR画素のうち、1番目および2番目に小さい画素値をもつR画素の画素値である。
したがって、平均値WRは、注目画素CP71、1番目および2番目に画素値が大きいR画素、並びに1番目および2番目に画素値が小さいR画素の合計5個の画素を除く、注目近傍領域内にある全R画素の画素値の平均値である。ここで、平均値の算出から、画素値が大きい画素と、画素値が小さい画素とが除外されるのは、注目近傍領域内にある欠陥画素の影響を軽減させるためである。
このようにして得られる平均値WRは、注目近傍領域内にあるR画素の平均的な画素値を示している。なお、注目画素がB画素である場合にも、R画素の場合と同様の処理により、B画素の平均的な画素値を示す平均値が求められる。
図18のフローチャートの説明に戻り、ステップS54において、欠陥画素検出部152は、近傍領域抽出部21からの近傍領域情報と、平均値算出部151からの平均値とに基づいて、注目画素が欠陥画素であるか否かを判定する。
例えば、図19に示した例で、注目画素CP71の画素値がR’であるとすると、欠陥画素検出部152は、注目画素CP71の画素値R’と平均値WRの差分の絶対値である|R’−WR|が所定の閾値tより大きい場合、注目画素が欠陥画素であるとする。
すなわち、平均値WRは、注目近傍領域内のR画素の平均的な画素値であるので、注目画素CP71の画素値が、その平均的な画素値と大きく異なる場合には、注目画素CP71は欠陥画素である可能性が高い。そこで、欠陥画素検出部152は、注目画素の画素値と、ステップS53で求められた平均値との差分の絶対値が、閾値tより大きい場合、注目画素が欠陥画素であるとする。
欠陥画素検出部152は、注目画素が欠陥画素であるか否かを判定すると、その判定結果を欠陥画素補正部153に供給する。
ステップS54において、注目画素が欠陥画素であると判定された場合、ステップS55において、欠陥画素補正部153は、欠陥画素検出部152からの判定結果に応じて、近傍領域抽出部21からの近傍領域情報に基づいて、注目画素を補正する。
例えば、欠陥画素補正部153は、ステップS53と同様の処理を行なって平均値を算出し、算出された平均値を注目画素の補正後の画素値とする。注目画素が補正されると、欠陥画素補正部153は、補正された注目画素の画素値を出力し、欠陥画素補正処理は終了する。
一方、ステップS54において、注目画素が欠陥画素でないと判定された場合、ステップS56において、欠陥画素補正部153は、欠陥画素検出部152からの判定結果に応じて、注目画素の画素値をそのまま出力する。すなわち、欠陥画素補正部153は、近傍領域抽出部21から供給された近傍領域情報により得られる注目画素の画素値を、補正せずにそのまま出力し、欠陥画素補正処理は終了する。
また、ステップS51において、注目画素がG画素であると判定された場合、ステップS57において、画像処理装置141はG画素補正処理を行ない、テクスチャ方向に並ぶG画素に基づいて、欠陥画素の検出や補正を行なう。なお、G画素補正処理の詳細は後述する。G画素補正処理が行なわれると、必要に応じて補正された注目画素としてのG画素が出力され、欠陥画素補正処理は終了する。
以上のように、画像処理装置141は、注目画素がR画素若しくはB画素であるか、またはG画素であるかに応じて、異なる方法により注目画素が欠陥画素であるかを特定するとともに、必要に応じて注目画素の欠陥を補正する。これにより、注目画素の色に応じて、適切な注目近傍領域を抽出し、注目画素の色に適した方法で、欠陥画素の検出および補正を行なうことができる。
[G画素補正処理の説明]
次に、図20は、図18のステップS57の処理に対応するG画素補正処理を説明するフローチャートである。
次に、図20は、図18のステップS57の処理に対応するG画素補正処理を説明するフローチャートである。
なお、このG画素補正処理のステップS81乃至ステップS90の処理では、図5のステップS11乃至ステップS20の処理と同様の処理が行なわれるので、その説明は省略する。ステップS81乃至ステップS90の処理では、テクスチャ方向が特定され、そのテクスチャ方向に並ぶ画素が用いられて、欠陥画素の検出および補正が行なわれる。
ステップS89またはステップS90の処理が行なわれて、注目画素の画素値が出力されると、G画素補正処理は終了し、その後、処理は図18のステップS57に戻り、欠陥画素補正処理も終了する。
このように、G画素補正処理では、R画素やB画素が注目画素である場合と、異なる処理により欠陥画素の検出と補正が行なわれる。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図21は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、キーボード、マウス、マイクロホンなどよりなる入力部506、ディスプレイ、スピーカなどよりなる出力部507、ハードディスクや不揮発性のメモリなどよりなる記録部508、ネットワークインターフェースなどよりなる通信部509、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア511を駆動するドライブ510が接続されている。
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505及びバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU501)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア511に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
さらに、本技術は、以下のような構成とすることも可能である。
[1]
画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定する判定部と、
前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する検出部と
を備える画像処理装置。
[2]
前記検出部は、
前記画像上において、前記注目画素を含む前記テクスチャ方向に連続して並ぶ所定数の画素の組について、画素の画素値の2次微分値を算出する2次微分値算出部と、
複数の異なる前記組の前記2次微分値に基づいて、前記注目画素が欠陥画素であるか否かを判定する比較部と
を備える
[1]に記載の画像処理装置。
[3]
前記比較部は、前記複数の異なる前記組の前記2次微分値のそれぞれが所定の閾値より大きい場合、前記注目画素が欠陥画素であると判定する
[2]に記載の画像処理装置。
[4]
前記注目画素と同色であり、前記テクスチャ方向に並ぶ前記注目画素近傍の画素に基づいて、前記注目画素を補正する欠陥画素補正部をさらに備える
[1]乃至[3]の何れかに記載の画像処理装置。
[5]
前記欠陥画素補正部は、
前記注目画素に対して、前記テクスチャ方向と平行な第1の方向に隣接する2つの画素の微分値と、前記注目画素に対して、前記第1の方向と反対の第2の方向に隣接する2つの画素の微分値とを算出する微分値算出部と、
前記注目画素に対して、前記第1の方向と前記第2の方向のうち、前記微分値が小さい方向に隣接する2つの画素を加重平均して補正後の前記注目画素とする補正値算出部と
を備える
[4]に記載の画像処理装置。
[6]
前記判定部は、前記近傍領域内の同じ方向に並ぶ画素間の微分値に基づいて、前記近傍領域における前記方向の微分値を算出し、複数の前記方向のうち、微分値が最小となる前記方向を前記テクスチャ方向とする
[1]乃至[5]の何れかに記載の画像処理装置。
画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定する判定部と、
前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する検出部と
を備える画像処理装置。
[2]
前記検出部は、
前記画像上において、前記注目画素を含む前記テクスチャ方向に連続して並ぶ所定数の画素の組について、画素の画素値の2次微分値を算出する2次微分値算出部と、
複数の異なる前記組の前記2次微分値に基づいて、前記注目画素が欠陥画素であるか否かを判定する比較部と
を備える
[1]に記載の画像処理装置。
[3]
前記比較部は、前記複数の異なる前記組の前記2次微分値のそれぞれが所定の閾値より大きい場合、前記注目画素が欠陥画素であると判定する
[2]に記載の画像処理装置。
[4]
前記注目画素と同色であり、前記テクスチャ方向に並ぶ前記注目画素近傍の画素に基づいて、前記注目画素を補正する欠陥画素補正部をさらに備える
[1]乃至[3]の何れかに記載の画像処理装置。
[5]
前記欠陥画素補正部は、
前記注目画素に対して、前記テクスチャ方向と平行な第1の方向に隣接する2つの画素の微分値と、前記注目画素に対して、前記第1の方向と反対の第2の方向に隣接する2つの画素の微分値とを算出する微分値算出部と、
前記注目画素に対して、前記第1の方向と前記第2の方向のうち、前記微分値が小さい方向に隣接する2つの画素を加重平均して補正後の前記注目画素とする補正値算出部と
を備える
[4]に記載の画像処理装置。
[6]
前記判定部は、前記近傍領域内の同じ方向に並ぶ画素間の微分値に基づいて、前記近傍領域における前記方向の微分値を算出し、複数の前記方向のうち、微分値が最小となる前記方向を前記テクスチャ方向とする
[1]乃至[5]の何れかに記載の画像処理装置。
〈第3の実施の形態〉
[誤補正について]
ところで、画素に対する動的欠陥補正により、欠陥ではない画素も欠陥画素であると誤検出され、補正されてしまうことがある。このような誤補正が行なわれると、画像上においてテクスチャの欠落や偽色などが発生する。
[誤補正について]
ところで、画素に対する動的欠陥補正により、欠陥ではない画素も欠陥画素であると誤検出され、補正されてしまうことがある。このような誤補正が行なわれると、画像上においてテクスチャの欠落や偽色などが発生する。
例えば欠陥画素の補正手法として、注目画素近傍の領域におけるテクスチャ方向を判定し、その判定結果に基づいて欠陥画素の検出,補正を行なうことで、欠陥画素の補正によるテクスチャの欠落や偽色の発生を抑制する技術も提案されている(例えば、特開2009−290653号公報,特許第4343988号公報参照)。
しかしながら、このような欠陥画素の補正手法であっても、画素の補正により高品質な画像を得ることができない場合があった。
すなわち、欠陥画素の補正時に、正しいテクスチャ方向を判定しにくい領域、例えば高周波なテクスチャの領域や、画素値が飽和している領域などでは、画素の誤補正が発生し、補正により得られる画像の品質が劣化してしまう。
また、上述した欠陥画素の補正手法では、同じ色成分を有する画素が用いられて欠陥画素の検出,補正が行なわれるため、色成分(例えば、ベイヤー配列であればR,G,Bなど)ごとに処理が行なわれる。その結果、補正によって各色のバランスが崩れてしまい、偽色が発生してしまうことがある。
[画像処理装置の構成例]
そこで、注目画素の色とは異なる色成分を利用して、誤補正を防止するようにしてもよい。そのような場合、画像上の欠陥画素の検出および補正を行なう画像処理装置は、例えば図22に示すように構成される。
そこで、注目画素の色とは異なる色成分を利用して、誤補正を防止するようにしてもよい。そのような場合、画像上の欠陥画素の検出および補正を行なう画像処理装置は、例えば図22に示すように構成される。
図22の画像処理装置601は、近傍領域抽出部611、欠陥画素検出・補正部612、および誤補正判定処理部613から構成される。画像処理装置601は、画像上の注目する画素(以下、注目画素と称する)の近傍にある画素の画素値や位置、色成分情報などが含まれる注目画素情報を入力とし、必要に応じて欠陥が補正された注目画素を出力する。
例えば、近傍領域抽出部611には、注目画素近傍の複数の画素の画素値、各画素の位置、各画素が有する色成分を示す色成分情報からなる注目画素情報が供給される。近傍領域抽出部611は、供給された注目画素情報から、注目画素を含む、画像上の注目画素近傍のいくつかの画素からなる近傍領域情報を抽出し、欠陥画素検出・補正部612、および誤補正判定処理部613に供給する。
欠陥画素検出・補正部612は、近傍領域抽出部611からの近傍領域情報に基づいて、注目画素が欠陥画素であるかを検出するとともに、必要に応じて欠陥画素とされた注目画素を補正し、補正後の注目画素に関する欠陥補正情報を誤補正判定処理部613に供給する。なお、以下、補正された注目画素を適宜、補正注目画素とも称することとする。
誤補正判定処理部613は、供給された注目画素情報、近傍領域抽出部611からの近傍領域情報、および欠陥画素検出・補正部612からの欠陥補正情報に基づいて、注目画素の誤補正判定を行い、その判定結果に応じて注目画素または補正注目画素を出力する。
[欠陥画素検出・補正部の構成例]
また、図22の欠陥画素検出・補正部612は、より詳細には図23に示すように構成される。すなわち、欠陥画素検出・補正部612は、欠陥検出部641および欠陥補正部642から構成される。
また、図22の欠陥画素検出・補正部612は、より詳細には図23に示すように構成される。すなわち、欠陥画素検出・補正部612は、欠陥検出部641および欠陥補正部642から構成される。
欠陥検出部641は、近傍領域抽出部611からの近傍領域情報に基づいて、注目画素が欠陥画素であるか否かを判定し、その判定結果と近傍領域情報を欠陥補正部642に供給する。欠陥補正部642は、欠陥検出部641からの判定結果と近傍領域情報に基づいて注目画素を補正し、その結果得られた補正注目画素を含む欠陥補正情報を誤補正判定処理部613に供給する。
[誤補正判定処理部の構成例]
さらに、図22の誤補正判定処理部613は、より詳細には例えば図24に示すように構成される。すなわち、誤補正判定処理部613は、ホワイトバランス算出部671、無彩色化平均値算出部672、および誤補正判定部673から構成される。
さらに、図22の誤補正判定処理部613は、より詳細には例えば図24に示すように構成される。すなわち、誤補正判定処理部613は、ホワイトバランス算出部671、無彩色化平均値算出部672、および誤補正判定部673から構成される。
ホワイトバランス算出部671は、近傍領域抽出部611からの近傍領域情報に基づいてホワイトバランスを算出し、得られたホワイトバランスと近傍領域情報を無彩色化平均値算出部672に供給する。
無彩色化平均値算出部672は、ホワイトバランス算出部671から供給されたホワイトバランスと近傍領域情報に基づいて、注目画素近傍の無彩色化された画素の画素値の平均値を無彩色化平均値として算出し、誤補正判定部673に供給する。
誤補正判定部673は、無彩色化平均値算出部672からの無彩色化平均値、供給された注目画素情報、および欠陥画素検出・補正部612の欠陥補正部642から供給された欠陥補正情報に基づいて、注目画素に対する補正が誤補正であるか否かを判定する。また、誤補正判定部673は、誤補正の判定結果等に応じて、注目画素情報に含まれる注目画素と、欠陥補正情報に含まれる補正注目画素との何れか一方を最終的な注目画素として出力する。
[欠陥画素補正処理の説明]
次に、図25のフローチャートを参照して、画像処理装置601により行なわれる欠陥画素補正処理について説明する。
次に、図25のフローチャートを参照して、画像処理装置601により行なわれる欠陥画素補正処理について説明する。
この欠陥画素補正処理は、欠陥画素の検出と補正を行おうとする処理対象の画像上の画素ごとに行なわれる。なお、以下においては、処理対象の画像は、R,G,Bの各色の画素からなり、それらの各色の画素がベイヤー配列で並べられているとする。また、以下、R,G,Bの各色の画素を、それぞれR画素,G画素,B画素とも呼ぶこととする。
ステップS121において、近傍領域抽出部611は、入力された注目画素情報から近傍領域情報を抽出し、欠陥画素検出・補正部612の欠陥検出部641、および誤補正判定処理部613のホワイトバランス算出部671に供給する。
例えば、注目画素がG画素である場合、近傍領域抽出部611は、画像上の注目画素を中心とする水平方向に9画素、垂直方向に9画素からなる矩形領域内から、その矩形領域に含まれる各画素を抽出し、近傍領域情報とする。
ステップS122において、欠陥検出部641は、近傍領域抽出部611から供給された近傍領域情報に基づいて、注目画素に対する欠陥検出を行なう。
例えば、欠陥検出部641は、近傍領域情報に基づいて注目画素近傍の領域のテクスチャ方向を特定し、注目画素を含み、テクスチャ方向に並ぶ注目画素と同じ色の画素からなる画素列を抽出する。そして、欠陥検出部641は、抽出した画素列上の画素と注目画素とを比較することで、注目画素が欠陥画素であるかを特定する。
また、例えば欠陥検出部641は、注目画素からの距離に応じた重みを付けて、注目画素近傍にある、注目画素と同じ色の各画素の画素値の重み付き平均値を求め、得られた重み付き平均値と注目画素とを比較することで、注目画素が欠陥画素であるかを特定する。
ステップS123において、欠陥検出部641は、注目画素が欠陥画素であるか否かを判定し、その判定結果と近傍領域情報を欠陥補正部642に供給する。例えばステップS122において、注目画素が欠陥画素であると特定された場合には、ステップS123において、注目画素は欠陥画素であると判定される。
ステップS123において、注目画素が欠陥画素であると判定された場合、ステップS124において、欠陥補正部642は、欠陥検出部641からの判定結果と近傍領域情報に基づいて、注目画素の欠陥補正を行なう。
すなわち、欠陥補正部642は注目画素近傍の画素に基づいて補正注目画素を求め、その結果得られた補正注目画素を含む欠陥補正情報を誤補正判定処理部613の誤補正判定部673に供給する。具体的には、例えば欠陥補正部642は注目画素近傍にある、注目画素と同じ色の画素の画素値の平均値を、補正注目画素の画素値とする。
ステップS125において、ホワイトバランス算出部671は、近傍領域抽出部611からの近傍領域情報に基づいてホワイトバランスを算出し、得られたホワイトバランスと近傍領域情報を無彩色化平均値算出部672に供給する。
例えば、近傍領域情報として、図26に示す注目画素AC11を中心とする9画素×9画素の領域(以下、注目近傍領域とも称する)の情報が供給されたとする。
なお、図26において、1つの四角形は1つの画素を表しており、各画素内の文字「R」,「G」,「B」は、画素の色、つまりR画素,G画素,B画素であることを示しており、この例では、注目画素AC11はG画素となっている。
ホワイトバランス算出部671は、図中、縦方向9画素,横方向9画素の合計81画素からなる注目近傍領域内にあるR画素、G画素、およびB画素の色成分ごとに、それらの色の画素の画素値の平均値を計算する。
具体的には、近傍領域情報に示される注目近傍領域内に、NR個のR画素、NG個のG画素、およびNB個のB画素があったとする。また、Ri(但し、i=1乃至NR)番目のR画素の画素値をRiとし、Gi(但し、i=1乃至NG)番目のG画素の画素値をGiとし、Bi(但し、i=1乃至NB)番目のB画素の画素値をBiとする。
このとき、ホワイトバランス算出部671は、次式(2)を計算することで、注目近傍領域内のR画素の画素値の平均値aveRを求める。
同様に、ホワイトバランス算出部671は、次式(3)を計算することで、注目近傍領域内のG画素の画素値の平均値aveGを求め、次式(4)を計算することで、注目近傍領域内のB画素の画素値の平均値aveBを求める。
さらに、ホワイトバランス算出部671は、このようにして得られた各色成分の平均値の比をホワイトバランスとして求める。具体的には、例えばR成分の平均値aveRと、G成分の平均値aveGとの比(aveG/aveR)、およびB成分の平均値aveBと、G成分の平均値aveGとの比(aveG/aveB)が注目近傍領域のホワイトバランスとして求められる。
図25のフローチャートの説明に戻り、ステップS125においてホワイトバランスが算出されると、処理はステップS126に進む。
ステップS126において、無彩色化平均値算出部672は、ホワイトバランス算出部671から供給されたホワイトバランスと近傍領域情報に基づいて無彩色化平均値を算出し、誤補正判定部673に供給する。
例えば、図27に示すように、無彩色化平均値算出部672は、注目画素AC21の図中、上下左右に隣接する画素CE11乃至画素CE14を無彩色化し、それらの無彩色化された画素の画素値の平均値を無彩色化平均値Pとして算出する。
なお、図27において、1つの四角形は1つの画素を表しており、各画素内の文字「R」,「G」,「B」は、画素の色、つまりR画素,G画素,B画素であることを示している。この例では、注目画素AC21はG画素であり、画素CE11および画素CE12がR画素であり、画素CE13および画素CE14がB画素である。
画素CE11乃至画素CE14は注目近傍領域内にある、注目画素近傍の画素である。また、例えば画素CE11および画素CE12の画素値が、それぞれR1およびR2であり、画素CE13および画素CE14の画素値が、それぞれB1およびB2であるとする。この場合、無彩色化平均値算出部672は、次式(5)を計算することで、無彩色化平均値Pを算出する。
すなわち、無彩色化平均値算出部672は、例えば画素CE11の画素値R1に、ホワイトバランス(aveG/aveR)を乗算することで、画素CE11を無彩色化する。つまり、R成分である画素CE11の画素値がG成分に揃えられる。
無彩色化平均値算出部672は、このようにして注目画素近傍にある、注目画素とは異なる色成分の画素を無彩色化すると、それらの無彩色化された画素の画素値の平均値を無彩色化平均値Pとする。換言すれば、R,G,Bの色バランスが揃えられて、注目画素近傍にある、注目画素と異なる色の画素の画素値の平均値が求められる。
なお、注目画素がR画素である場合には、無彩色化平均値算出部672は、例えば次式(6)を計算することで、無彩色化平均値Pを算出する。
なお、式(6)において、G1乃至G4は、処理対象の画像上において注目画素であるR画素に対して上下左右に隣接するG画素の画素値を示している。したがって式(6)では、注目画素の上下左右に隣接するG画素の画素値の平均値に、ホワイトバランス(aveR/aveG)、より詳細には、ステップS125で求めたホワイトバランス(aveG/aveR)の逆数が乗算され、無彩色化平均値Pとされる。
つまり、注目画素がR画素である場合であっても、注目画素の近傍にある画素が無彩色化され、無彩色化された画素の画素値の平均値が無彩色化平均値Pとされる。
また、注目画素がB画素である場合にも式(6)と同様の計算により、無彩色化平均値Pが算出される。すなわち、注目画素の上下左右に隣接するG画素の画素値の平均値に、ホワイトバランス(aveB/aveG)が乗算され、無彩色化平均値Pとされる。
例えば、図28に示すように、注目近傍領域内の各色成分の画素の画素値の平均値は異なることが多い。なお、図28において、横軸は各色成分を示しており、縦軸は各画素の画素値を示している。
注目近傍領域において、矢印RE11乃至矢印RE13のそれぞれに示す縦方向の直線の範囲内にR画素、G画素、およびB画素の各色成分の画素の画素値が分布していたとする。また、それらの色成分の画素の画素値の平均値が矢印V11乃至矢印V13に示す位置(画素値)であったとする。この場合、例えば矢印V11に示す位置(画素値)が、R画素の画素値の平均値aveRとなる。
また、R画素の平均値aveRにホワイトバランス(aveG/aveR)を乗算して無彩色化すると、無彩色化後のR画素の画素値の平均値は、矢印V21に示す位置となる。同様に、B画素の平均値aveBにホワイトバランス(aveG/aveB)を乗算して無彩色化すると、無彩色化後のB画素の画素値の平均値は、矢印V22に示す位置となる。
このようにして平均値aveRや平均値aveBにホワイトバランスを乗算して、各色成分の画素値の平均値をGの色成分に揃えると、図中、右側に示すように、R,G,Bの各色成分の画素の画素値の平均値は同じ値となる。
無彩色化によりRGBの色成分を揃えた後、注目画素近傍にある、注目画素とは異なる色の無彩色化後の画素の画素値の平均値を求めると、注目画素近傍における、注目画素と同色の画素の平均的な画素値に相当する無彩色化平均値Pが得られる。
ステップS127において、誤補正判定部673は、無彩色化平均値算出部672から供給された無彩色化平均値P、供給された注目画素情報、および欠陥補正部642からの欠陥補正情報に基づいて、注目画素に対する補正が誤補正であるか否かを判定する。
例えば、注目画素情報により示される注目画素の画素値、つまり注目画素の補正前の画素値がGorgであり、欠陥補正情報により示される注目画素の補正後の画素値、つまり欠陥補正部642により算出された補正注目画素の画素値がGcorであるとする。
この場合、誤補正判定部673は、補正前の画素値Gorgと無彩色化平均値Pの差分の絶対値が、補正後の画素値Gcorと無彩色化平均値Pの差分の絶対値以下であるとき、つまり|Gorg−P|≦|Gcor−P|であるとき、誤補正であると判定する。
例えば、無彩色化平均値Pは、注目画素近傍にある、注目画素と同色の画素の平均的な画素値(輝度)に相当する。したがって、|Gorg−P|≦|Gcor−P|である場合、つまり補正後の画素値Gcorよりも補正前の画素値Gorgが、より無彩色化平均値Pに近い場合、補正注目画素よりも、元の注目画素の方が、より周囲の画素と輝度が近いことになる。このような場合、補正注目画素の画素値よりも元の注目画素の画素値が、本来、注目画素がとるべき画素値により近い可能性が高い。
そこで、誤補正判定部673は、|Gorg−P|≦|Gcor−P|である場合、注目画素に対して行なわれた補正は誤補正であるとし、|Gorg−P|>|Gcor−P|である場合、注目画素に対して行なわれた補正は適切な補正であるとする。
ステップS127において、注目画素に対する補正が誤補正でない、つまり適切な補正であると判定された場合、ステップS128において、誤補正判定部673は欠陥補正部642から供給された補正注目画素の画素値を出力する。
すなわち、補正された注目画素の画素値が、最終的な注目画素の画素値として出力される。補正注目画素が出力されると、欠陥画素補正処理は終了する。
また、ステップS123において注目画素が欠陥画素でないと判定された場合、またはステップS127において注目画素に対する補正が誤補正であると判定された場合、ステップS129の処理が行なわれる。
すなわち、ステップS129において、誤補正判定部673は、供給された注目画素情報に含まれる注目画素の画素値を、最終的な注目画素の画素値として出力し、欠陥画素補正処理は終了する。すなわち、注目画素の画素値が補正されずに、そのまま出力される。
以上のようにして、画像処理装置601は、欠陥画素を補正して得られた補正注目画素について、補正前の注目画素と無彩色化平均値の差分、および補正注目画素と無彩色化平均値の差分を比較して、注目画素に対する補正が誤補正であるか否かを判定する。そして、画像処理装置601は、その判定結果に応じて、補正前の注目画素または補正後の注目画素の何れかを、最終的な注目画素として出力する。
このように、無彩色化した注目画素近傍の画素の画素値の平均値と、補正前後の注目画素の画素値とを比較することで、より簡単かつ高精度に欠陥画素を検出し、より高品質な画像を得ることができる。
すなわち、注目画素の誤補正を検出することは、欠陥画素の検出結果が誤検出であるかを判定することとほぼ等価であるから、画像処理装置601によれば欠陥画素の検出精度を簡単に向上させることができるようになるということができる。また、誤補正の検出を行ない、その検出結果に応じて補正前または補正後の注目画素を出力することで、各色成分のバランスが崩れてしまうことを防止し、偽色の発生を抑制することができる。これにより、より高品質な画像を得ることができる。
特に、画像処理装置601では、補正前後の注目画素の画素値と、無彩色化平均値とを比較、評価するだけであるので、画像上の本来、色がついている部分を無彩色にしてしまうようなことはない。また、隣接する異色の画素を参照して誤補正の評価を行なうため、同色成分を参照するよりもサンプリング間隔が短く、高周波のテクスチャを欠落させてしまうような誤補正を容易に防ぐことができる。
〈変形例4〉
[誤補正判定について]
なお、以上においては、例えば図27に示したように、注目画素の上下左右に隣接する4画素を用いて無彩色化平均値Pを算出する例について説明したが、無彩色化平均値Pは、注目画素近傍にある画素が用いられて算出されれば、どのように算出されてもよい。
[誤補正判定について]
なお、以上においては、例えば図27に示したように、注目画素の上下左右に隣接する4画素を用いて無彩色化平均値Pを算出する例について説明したが、無彩色化平均値Pは、注目画素近傍にある画素が用いられて算出されれば、どのように算出されてもよい。
例えば、図29に示すように注目画素AC31がG画素である場合、注目画素AC31を中心とする縦5画素×横5画素からなる矩形領域内にあるR画素とB画素が用いられて、無彩色化平均値Pが算出されるようにしてもよい。
なお、図29において、1つの四角形は1つの画素を表しており、各画素内の文字「R」,「G」,「B」は、画素の色、つまりR画素,G画素,B画素であることを示している。
この例では、注目画素AC31を中心とする縦5画素×横5画素の矩形領域内には、6個のR画素と、6個のB画素が含まれている。
ここで、注目画素AC31を中心とする5×5画素の矩形領域内にある6個の各R画素を画素R1乃至画素R6とし、注目画素AC31を中心とする5×5画素の矩形領域内にある6個の各B画素を画素B1乃至画素B6とする。また、これらの画素Ri(但し、i=1乃至6)の画素値をRiとし、画素Bi(但し、i=1乃至6)の画素値をBiとする。
この場合、無彩色化平均値算出部672は、次式(7)を計算することで、注目画素AC31についての無彩色化平均値Pを算出する。
すなわち、式(7)では、ホワイトバランス(aveG/aveB)が乗算されたB画素と、ホワイトバランス(aveG/aveR)が乗算されたR画素の平均値が無彩色化平均値Pとして算出される。
そして、誤補正判定部673においては、|Gorg−P|≦|Gcor−P|である場合、誤補正であるとされ、|Gorg−P|>|Gcor−P|である場合、適切な補正であるとされる。すなわち|Gorg−P|≦|Gcor−P|であれば画素値Gorg、つまり補正前の注目画素がそのまま出力され、|Gorg−P|>|Gcor−P|であれば画素値Gcor、つまり補正注目画素が出力される。
図29に示した例では図27に示した例と比べて、より多くの画素を用いて無彩色化平均値Pを算出するので、注目画素に隣接する画素が欠陥画素であっても、高精度に誤補正判定を行なうことができる。
例えば、無彩色化平均値Pの算出に用いられる画素が欠陥画素である場合、無彩色化平均値Pとして適切な値が得られなくなる可能性がある。しかし、無彩色化平均値Pの算出に用いる画素の数を多くすれば、それらの画素のなかに欠陥画素があったとしても、欠陥画素の画素値の無彩色化平均値Pの算出に対する寄与率は低くなるので、適切な無彩色化平均値Pを得ることができる。
同様に、注目画素を中心とする5×5画素の矩形領域内の画素が用いられて無彩色化平均値Pが算出される場合、例えば注目画素がR画素であるときには、その矩形領域内にあるG画素とB画素が無彩色化され、無彩色化された各画素の平均値が無彩色化平均値Pとされる。
〈変形例5〉
[誤補正判定について]
さらに、以上では画像上にRGBの各色成分がベイヤー配列で並んでいる場合を例として説明したが、例えば図30に示すように画像上にR画素、G画素、B画素の他に、さらに透明(ホワイト)な画素(以下、W画素と称する)も配置されるようにしてもよい。なお、図30において、1つの四角形は1つの画素を表しており、それらの四角形内の文字「R」,「G」,「B」,「W」は、それぞれR画素,G画素,B画素,W画素を示している。
[誤補正判定について]
さらに、以上では画像上にRGBの各色成分がベイヤー配列で並んでいる場合を例として説明したが、例えば図30に示すように画像上にR画素、G画素、B画素の他に、さらに透明(ホワイト)な画素(以下、W画素と称する)も配置されるようにしてもよい。なお、図30において、1つの四角形は1つの画素を表しており、それらの四角形内の文字「R」,「G」,「B」,「W」は、それぞれR画素,G画素,B画素,W画素を示している。
この例では、図30に示す図中、縦9画素,横9画素からなる矩形領域が注目近傍領域とされる。この場合、ホワイトバランス算出部671は、注目近傍領域内のR画素、G画素、B画素、およびW画素の色成分ごとに、それらの色の画素の画素値の平均値を、平均値aveR、平均値aveG、平均値aveB、および平均値aveWとして算出する。
そして、ホワイトバランス算出部671は、W画素を基準として、W画素の平均値aveWと他の色成分の平均値との比、つまりaveW/aveR,aveW/aveG,aveW/aveBをホワイトバランスとして算出する。
また、無彩色化平均値算出部672は、このようにして求められたホワイトバランスaveW/aveR,aveW/aveG,aveW/aveBを用いて、無彩色化平均値Pを算出する。つまり、ホワイトバランスにより無彩色化された、注目画素と異なる色の画素の平均値が無彩色化平均値Pとされる。
具体的には、例えば注目画素がR画素である場合には、無彩色化平均値算出部672は、次式(8)を計算することで、無彩色化平均値Pを算出する。
なお、式(8)において、W1乃至W4は、処理対象の画像上において注目画素であるR画素に対して上下左右に隣接するW画素の画素値を示している。したがって式(8)では、注目画素の上下左右に隣接するW画素の画素値の平均値に、ホワイトバランス(aveW/aveR)の逆数が乗算され、無彩色化平均値Pとされる。
〈第4の実施の形態〉
[画像処理装置の構成例]
さらに、誤補正判定を行なう場合に、誤補正判定処理部613の前段で行なわれる注目画素の欠陥検出や欠陥補正は、どのようにして行なわれてもよい。
[画像処理装置の構成例]
さらに、誤補正判定を行なう場合に、誤補正判定処理部613の前段で行なわれる注目画素の欠陥検出や欠陥補正は、どのようにして行なわれてもよい。
例えば、第1の実施の形態で説明したように、テクスチャ方向に並ぶ画素から算出した2次微分値に基づいて、欠陥画素の検出を行なうようにしてもよい。そのような場合、画像上の欠陥画素の検出および補正を行なう画像処理装置は、例えば図31に示すように構成される。
図31の画像処理装置701は、近傍領域抽出部21、テクスチャ方向判定部22、欠陥画素検出部23、欠陥画素補正部24、および誤補正判定処理部613から構成される。なお、図31において図1または図22における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図31の画像処理装置701では、欠陥画素補正部24の後段に誤補正判定処理部613が設けられており、この誤補正判定処理部613は、図24に示した構成とされる。そして、誤補正判定処理部613のホワイトバランス算出部671には、近傍領域抽出部21で得られた近傍領域情報が供給される。
また、誤補正判定処理部613の誤補正判定部673には、画像処理装置701に入力された注目画素情報と、欠陥画素補正部24の補正値算出部112からの補正後の注目画素(以下、補正注目画素と称する)の画素値とが供給される。
[欠陥画素補正処理の説明]
次に、図32のフローチャートを参照して、画像処理装置701により行なわれる欠陥画素補正処理について説明する。この欠陥画素補正処理は、欠陥画素の検出と補正を行おうとする処理対象の画像上の画素ごとに行なわれる。
次に、図32のフローチャートを参照して、画像処理装置701により行なわれる欠陥画素補正処理について説明する。この欠陥画素補正処理は、欠陥画素の検出と補正を行おうとする処理対象の画像上の画素ごとに行なわれる。
ステップS151において近傍領域抽出部21は、入力された注目画素情報から近傍領域情報を抽出し、テクスチャ方向判定部22の微分値算出部51、欠陥画素検出部23の画素選択部81、および誤補正判定処理部613のホワイトバランス算出部671に供給する。例えば近傍領域抽出部21は、画像上における注目画素を中心とする水平方向に9画素、垂直方向に9画素からなる矩形領域内に含まれる各画素を抽出し、近傍領域情報とする。
近傍領域情報が抽出されると、その後、ステップS152乃至ステップS159の処理が行なわれるが、これらの処理は図5のステップS12乃至ステップS19の処理と同様であるので、その説明は省略する。
但し、ステップS159において、補正値算出部112は、微分値算出部111から供給された微分値と選択画素とに基づいて注目画素を補正すると、補正により得られた補正注目画素を含む欠陥補正情報を誤補正判定処理部613の誤補正判定部673に供給する。
また、補正注目画素が得られると、その後、ステップS160乃至ステップS164の処理が行なわれて、欠陥画素補正処理は終了するが、これらの処理は図25のステップS125乃至ステップS129と同様であるので、その説明は省略する。
但し、ステップS157で注目画素が欠陥画素であると判定された場合、またはステップS162において注目画素に対する補正は誤補正であると判定された場合、ステップS164の処理が行なわれる。すなわち、誤補正判定部673により、補正前のもとの注目画素の画素値が、最終的な注目画素の画素値として出力される。
以上のようにして、画像処理装置701は、注目画素を含む、テクスチャ方向に並ぶいくつかの画素を用いて複数の2次微分値を算出し、それらの2次微分値を閾値処理することで、注目画素が欠陥画素であるか否かを特定する。また、画像処理装置701は、補正前後の注目画素と無彩色化平均値とを比較して、注目画素に対する補正が誤補正であるか否かを判定し、その判定結果に応じて、補正前または補正後の注目画素を出力する。
これにより、より簡単かつ高精度に欠陥画素を検出することができるとともに、欠陥画素の補正によって、より高品質な画像を得ることができる。
〈第5の実施の形態〉
[画像処理装置の構成例]
さらに、以上においては、欠陥画素に対する誤補正を検出する場合を例として説明したが、本技術の誤補正判定は、欠陥画素補正に限らず、ノイズリダクション(ノイズ除去)など注目画素に対する補正処理であれば、どのような補正処理に対しても適用可能である。
[画像処理装置の構成例]
さらに、以上においては、欠陥画素に対する誤補正を検出する場合を例として説明したが、本技術の誤補正判定は、欠陥画素補正に限らず、ノイズリダクション(ノイズ除去)など注目画素に対する補正処理であれば、どのような補正処理に対しても適用可能である。
例えば、本技術の誤補正判定をノイズリダクション処理に適用する場合、画像に対するノイズリダクション処理を行なう画像処理装置は、図33に示すように構成される。なお、図33において、図22における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
図33の画像処理装置731は、ノイズリダクション処理部741および誤補正判定処理部613から構成される。また、画像処理装置731には、注目画素情報が供給される。
ノイズリダクション処理部741は、供給された注目画素情報に基づいて、注目画素に対するノイズリダクション処理を行い、ノイズリダクション処理、つまり注目画素に対する補正処理により得られた補正情報を誤補正判定処理部613に供給する。
例えば、ノイズリダクション処理部741は、注目画素近傍の画素に基づいて、注目画素がエッジを構成する画素であるかを特定する。
そして、ノイズリダクション処理部741は、注目画素がエッジを構成する画素でない場合、注目画素近傍の画素に基づいて、ノイズリダクション処理後、つまり注目画素に対する補正処理後の画素値を算出する。具体的には、例えば注目画素近傍のいくつかの画素の画素値の平均値が、補正後の注目画素(以下、補正注目画素とも称する)の画素値とされる。また、ノイズリダクション処理部741は、注目画素がエッジを構成する画素である場合、注目画素の画素値を、そのまま補正注目画素の画素値とする。
ノイズリダクション処理部741は、このようにして補正注目画素を求めると、求めた補正注目画素を誤補正判定処理部613の誤補正判定部673に供給する。
誤補正判定処理部613は、供給された注目画素情報と、ノイズリダクション処理部741からの補正注目画素とに基づいて誤補正判定を行い、その判定結果に応じて、補正前の注目画素または補正注目画素の何れかを、最終的な注目画素として出力する。
このとき、誤補正判定処理部613のホワイトバランス算出部671は、供給された注目画素情報から近傍領域情報を抽出し、ホワイトバランスを算出する。
以上のように、注目画素に対してノイズリダクション処理等の欠陥補正とは異なる補正処理を行う場合であっても、本技術の誤補正判定を適用し、より高品質な画像を得ることができる。
なお、第3の実施の形態乃至第5の実施の形態等で説明した一連の処理も、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。例えば、上述した一連の処理がソフトウェアにより実行される場合には、そのソフトウェアを構成するプログラムが、図21に示したコンピュータにより実行される。
さらに、本技術は、以下のような構成とすることも可能である。
[9]
各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正する補正部と、
前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう誤補正判定部と
を備える画像処理装置。
[10]
前記誤補正判定部は、少なくとも前記注目画素近傍の前記注目画素と異なる色成分を有する画素、前記注目画素、および前記補正注目画素に基づいて前記誤補正判定を行なう
[9]に記載の画像処理装置。
[11]
前記近傍領域内における前記注目画素と同色の画素の平均値と、前記近傍領域内における前記注目画素と異なる色の画素の平均値との比をホワイトバランスとして算出するホワイトバランス算出部と、
前記注目画素近傍に位置する、前記注目画素と異なる色の画素の平均値に前記ホワイトバランスを乗算することで、無彩色化平均値を算出する無彩色化平均値算出部と
をさらに備え、
前記誤補正判定部は、前記無彩色化平均値、前記注目画素、および前記補正注目画素を比較することで前記誤補正判定を行なう
[10]に記載の画像処理装置。
[12]
前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値以下である場合、前記注目画素を最終的な前記注目画素として出力する
[11]に記載の画像処理装置。
[13]
前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値より大きい場合、前記補正注目画素を最終的な前記注目画素として出力する
[11]または[12]の何れかに記載の画像処理装置。
[14]
前記補正部は、前記注目画素に対する欠陥画素補正処理またはノイズ除去処理を行うことで、前記注目画素を補正する
[9]乃至[13]の何れかに記載の画像処理装置。
各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正する補正部と、
前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう誤補正判定部と
を備える画像処理装置。
[10]
前記誤補正判定部は、少なくとも前記注目画素近傍の前記注目画素と異なる色成分を有する画素、前記注目画素、および前記補正注目画素に基づいて前記誤補正判定を行なう
[9]に記載の画像処理装置。
[11]
前記近傍領域内における前記注目画素と同色の画素の平均値と、前記近傍領域内における前記注目画素と異なる色の画素の平均値との比をホワイトバランスとして算出するホワイトバランス算出部と、
前記注目画素近傍に位置する、前記注目画素と異なる色の画素の平均値に前記ホワイトバランスを乗算することで、無彩色化平均値を算出する無彩色化平均値算出部と
をさらに備え、
前記誤補正判定部は、前記無彩色化平均値、前記注目画素、および前記補正注目画素を比較することで前記誤補正判定を行なう
[10]に記載の画像処理装置。
[12]
前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値以下である場合、前記注目画素を最終的な前記注目画素として出力する
[11]に記載の画像処理装置。
[13]
前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値より大きい場合、前記補正注目画素を最終的な前記注目画素として出力する
[11]または[12]の何れかに記載の画像処理装置。
[14]
前記補正部は、前記注目画素に対する欠陥画素補正処理またはノイズ除去処理を行うことで、前記注目画素を補正する
[9]乃至[13]の何れかに記載の画像処理装置。
11 画像処理装置, 22 テクスチャ方向判定部, 23 欠陥画素検出部、 24 欠陥画素補正部, 51−1乃至51−4,51 微分値算出部, 52 微分値比較部, 82 2次微分値算出部, 83 微分値比較部, 111 微分値算出部, 112 補正値算出部, 151 平均値算出部, 152 欠陥画素検出部, 153 欠陥画素補正部, 601 画像処理装置, 613 誤補正判定処理部, 671 ホワイトバランス算出部, 672 無彩色化平均値算出部, 673 誤補正判定部
Claims (16)
- 画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定する判定部と、
前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する検出部と
を備える画像処理装置。 - 前記検出部は、
前記画像上において、前記注目画素を含む前記テクスチャ方向に連続して並ぶ所定数の画素の組について、画素の画素値の2次微分値を算出する2次微分値算出部と、
複数の異なる前記組の前記2次微分値に基づいて、前記注目画素が欠陥画素であるか否かを判定する比較部と
を備える
請求項1に記載の画像処理装置。 - 前記比較部は、前記複数の異なる前記組の前記2次微分値のそれぞれが所定の閾値より大きい場合、前記注目画素が欠陥画素であると判定する
請求項2に記載の画像処理装置。 - 前記注目画素と同色であり、前記テクスチャ方向に並ぶ前記注目画素近傍の画素に基づいて、前記注目画素を補正する欠陥画素補正部をさらに備える
請求項1に記載の画像処理装置。 - 前記欠陥画素補正部は、
前記注目画素に対して、前記テクスチャ方向と平行な第1の方向に隣接する2つの画素の微分値と、前記注目画素に対して、前記第1の方向と反対の第2の方向に隣接する2つの画素の微分値とを算出する微分値算出部と、
前記注目画素に対して、前記第1の方向と前記第2の方向のうち、前記微分値が小さい方向に隣接する2つの画素を加重平均して補正後の前記注目画素とする補正値算出部と
を備える
請求項4に記載の画像処理装置。 - 前記判定部は、前記近傍領域内の同じ方向に並ぶ画素間の微分値に基づいて、前記近傍領域における前記方向の微分値を算出し、複数の前記方向のうち、微分値が最小となる前記方向を前記テクスチャ方向とする
請求項1に記載の画像処理装置。 - 画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定する判定部と、
前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する検出部と
を備える画像処理装置の画像処理方法であって、
前記判定部が前記テクスチャ方向を判定し、
前記検出部が前記欠陥画素を検出する
ステップを含む画像処理方法。 - 画像上の注目画素を含む近傍領域に基づいて、前記近傍領域におけるテクスチャ方向を判定し、
前記注目画素を含む、前記画像上の前記テクスチャ方向に並ぶ複数の画素に基づいて、前記注目画素が欠陥画素であるかを検出する
ステップを含む処理をコンピュータに実行させるプログラム。 - 各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正する補正部と、
前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう誤補正判定部と
を備える画像処理装置。 - 前記誤補正判定部は、少なくとも前記注目画素近傍の前記注目画素と異なる色成分を有する画素、前記注目画素、および前記補正注目画素に基づいて前記誤補正判定を行なう
請求項9に記載の画像処理装置。 - 前記近傍領域内における前記注目画素と同色の画素の平均値と、前記近傍領域内における前記注目画素と異なる色の画素の平均値との比をホワイトバランスとして算出するホワイトバランス算出部と、
前記注目画素近傍に位置する、前記注目画素と異なる色の画素の平均値に前記ホワイトバランスを乗算することで、無彩色化平均値を算出する無彩色化平均値算出部と
をさらに備え、
前記誤補正判定部は、前記無彩色化平均値、前記注目画素、および前記補正注目画素を比較することで前記誤補正判定を行なう
請求項10に記載の画像処理装置。 - 前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値以下である場合、前記注目画素を最終的な前記注目画素として出力する
請求項11に記載の画像処理装置。 - 前記誤補正判定部は、前記無彩色化平均値と前記注目画素の差分絶対値が、前記無彩色化平均値と前記補正注目画素の差分絶対値より大きい場合、前記補正注目画素を最終的な前記注目画素として出力する
請求項12に記載の画像処理装置。 - 前記補正部は、前記注目画素に対する欠陥画素補正処理またはノイズ除去処理を行うことで、前記注目画素を補正する
請求項13に記載の画像処理装置。 - 各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正する補正部と、
前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう誤補正判定部と
を備える画像処理装置の画像処理方法であって、
前記補正部が前記注目画素に対する補正を行い、
前記誤補正判定部が前記注目画素に対する誤補正判定を行う
ステップを含む画像処理方法。 - 各画素が複数の色成分のうちの何れかを画素値として有する画像について、前記画像上の注目画素を含む領域内の画素に基づいて、前記注目画素を補正し、
前記画像上の前記注目画素を含む近傍領域内の画素、前記注目画素、および前記注目画素に対する前記補正により得られた補正注目画素に基づいて、前記注目画素に対する誤補正判定を行なう
ステップを含む処理をコンピュータに実行させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012002608A JP2012217139A (ja) | 2011-03-30 | 2012-01-10 | 画像理装置および方法、並びにプログラム |
US13/426,535 US9179038B2 (en) | 2011-03-30 | 2012-03-21 | Image processing device, and image processing method and program |
CN2012100797734A CN102739916A (zh) | 2011-03-30 | 2012-03-23 | 图像处理装置、图像处理方法以及程序 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011076186 | 2011-03-30 | ||
JP2011076186 | 2011-03-30 | ||
JP2012002608A JP2012217139A (ja) | 2011-03-30 | 2012-01-10 | 画像理装置および方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012217139A true JP2012217139A (ja) | 2012-11-08 |
Family
ID=46927335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012002608A Pending JP2012217139A (ja) | 2011-03-30 | 2012-01-10 | 画像理装置および方法、並びにプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9179038B2 (ja) |
JP (1) | JP2012217139A (ja) |
CN (1) | CN102739916A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140079703A (ko) * | 2012-12-19 | 2014-06-27 | 삼성테크윈 주식회사 | 결함 화소 검출 장치, 결함 화소 검출 방법 및 프로그램 |
US9007496B2 (en) | 2013-06-27 | 2015-04-14 | Kabushiki Kaisha Toshiba | Solid-state imaging device and camera module |
JP2015139155A (ja) * | 2014-01-23 | 2015-07-30 | キヤノン株式会社 | 撮像装置及び撮像方法 |
KR20200141808A (ko) * | 2019-06-11 | 2020-12-21 | 국방과학연구소 | 데드픽셀 검출 방법 및 장치 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5664255B2 (ja) * | 2011-01-14 | 2015-02-04 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
US9253459B2 (en) * | 2012-01-24 | 2016-02-02 | Sony Corporation | Image processing apparatus and image processing method, and program |
JP5971089B2 (ja) * | 2012-11-14 | 2016-08-17 | 富士通株式会社 | 生体情報補正装置、生体情報補正方法及び生体情報補正用コンピュータプログラム |
CN103888690B (zh) * | 2012-12-19 | 2018-08-03 | 韩华泰科株式会社 | 用于检测缺陷像素的设备和方法 |
US9967481B2 (en) * | 2013-03-13 | 2018-05-08 | Intel Corporation | Techniques for image sensor pixel correction |
JP2016048815A (ja) * | 2014-08-27 | 2016-04-07 | ソニー株式会社 | 画像処理装置、画像処理方法、及び、画像処理システム |
KR20160114474A (ko) * | 2015-03-24 | 2016-10-05 | (주)실리콘화일 | 4-컬러 이미지 센서, 4-컬러 이미지 센서의 제조방법 및 이에 따른 4-컬러 이미지 센서 |
WO2019112040A1 (ja) * | 2017-12-08 | 2019-06-13 | パナソニックIpマネジメント株式会社 | 検査システム、検査方法、プログラム、及び、記憶媒体 |
CN108198150B (zh) * | 2018-01-30 | 2022-03-18 | 努比亚技术有限公司 | 一种图像坏点的消除方法、终端及存储介质 |
US10672588B1 (en) * | 2018-11-15 | 2020-06-02 | Kla-Tencor Corporation | Using deep learning based defect detection and classification schemes for pixel level image quantification |
CN114363534B (zh) * | 2022-01-19 | 2024-02-23 | 深圳市资福医疗技术有限公司 | 一种图像亮度补偿方法、装置及计算机存储介质 |
WO2024018347A1 (en) * | 2022-07-20 | 2024-01-25 | Gentex Corporation | Image processing for pixel correction |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AUPP743798A0 (en) * | 1998-11-30 | 1998-12-24 | Canon Kabushiki Kaisha | Texture advisor |
JP3747909B2 (ja) * | 2002-12-24 | 2006-02-22 | ソニー株式会社 | 画素欠陥検出補正装置及び画素欠陥検出補正方法 |
JP4144377B2 (ja) * | 2003-02-28 | 2008-09-03 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
CN1288916C (zh) * | 2004-12-27 | 2006-12-06 | 北京中星微电子有限公司 | 图像死点和噪声的消除方法 |
US7634151B2 (en) * | 2005-06-23 | 2009-12-15 | Hewlett-Packard Development Company, L.P. | Imaging systems, articles of manufacture, and imaging methods |
WO2007029235A2 (en) * | 2005-09-05 | 2007-03-15 | Algosoft Limited | Automatic digital film and video restoration |
JP4343988B2 (ja) | 2008-03-07 | 2009-10-14 | キヤノン株式会社 | 欠陥画素補正装置及び欠陥画素補正処理方法 |
JP2010130238A (ja) | 2008-11-26 | 2010-06-10 | Sony Corp | 欠陥補正回路及びそれを備えた撮像装置 |
-
2012
- 2012-01-10 JP JP2012002608A patent/JP2012217139A/ja active Pending
- 2012-03-21 US US13/426,535 patent/US9179038B2/en active Active
- 2012-03-23 CN CN2012100797734A patent/CN102739916A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20140079703A (ko) * | 2012-12-19 | 2014-06-27 | 삼성테크윈 주식회사 | 결함 화소 검출 장치, 결함 화소 검출 방법 및 프로그램 |
KR102015587B1 (ko) * | 2012-12-19 | 2019-08-28 | 한화테크윈 주식회사 | 결함 화소 검출 장치, 결함 화소 검출 방법 및 프로그램 |
US9007496B2 (en) | 2013-06-27 | 2015-04-14 | Kabushiki Kaisha Toshiba | Solid-state imaging device and camera module |
JP2015139155A (ja) * | 2014-01-23 | 2015-07-30 | キヤノン株式会社 | 撮像装置及び撮像方法 |
KR20200141808A (ko) * | 2019-06-11 | 2020-12-21 | 국방과학연구소 | 데드픽셀 검출 방법 및 장치 |
KR102215055B1 (ko) | 2019-06-11 | 2021-02-10 | 국방과학연구소 | 데드픽셀 검출 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
US20120250994A1 (en) | 2012-10-04 |
CN102739916A (zh) | 2012-10-17 |
US9179038B2 (en) | 2015-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2012217139A (ja) | 画像理装置および方法、並びにプログラム | |
CN109076139B (zh) | 用于捕获彩色图像数据的方法和装置 | |
JP5060535B2 (ja) | 画像処理装置 | |
CN110650334B (zh) | 坏点检测、校正方法及装置、存储介质、终端 | |
WO2006060496A2 (en) | Artifact reduction in a digital video | |
JP4545195B2 (ja) | デジタル映像のアーティファクト削減 | |
JP6046927B2 (ja) | 画像処理装置及びその制御方法 | |
US20110007973A1 (en) | Apparatus for removing image noise and method thereof | |
JP2007201530A (ja) | 画素欠陥補正装置 | |
JP2016048815A (ja) | 画像処理装置、画像処理方法、及び、画像処理システム | |
CN102595061A (zh) | 图像处理装置、图像处理方法和程序 | |
KR20120138635A (ko) | 영상 처리 방법, 영상 처리 장치 및 스캐너 | |
US9131097B2 (en) | Method and system for black bar identification | |
TWI407801B (zh) | 用來進行壞像素補償之方法與用來進行壞像素補償之裝置 | |
KR101854432B1 (ko) | 역광 프레임을 검출하고, 보정하는 방법 및 장치 | |
KR100915970B1 (ko) | 이미지 센서에 의해 획득된 영상의 컬러를 보정하는 방법및 장치 | |
JP2017085570A (ja) | 画像補正方法及び画像補正装置 | |
JP2008278324A (ja) | 固体撮像素子の欠陥画素補正装置、固体撮像素子の欠陥画素補正方法、制御プログラム、可読記録媒体、撮像装置および電子情報機器 | |
Zhang et al. | The modified gradient edge detection method for the color filter array image of the CMOS image sensor | |
CN110211096B (zh) | 一种雾霾图像的检测方法 | |
JP2005184307A (ja) | 傷画素補正回路及び傷画素補正方法 | |
KR100575444B1 (ko) | 이미지 센서의 결함픽셀 보정 장치 및 그 방법 | |
JP5846100B2 (ja) | 表示装置の欠陥検査方法 | |
US8442359B2 (en) | Image interpolation method and apparatus using reference block based on direction | |
CN104346599A (zh) | 一种色彩边缘的检测方法及图像处理设备 |