JP2016048815A - 画像処理装置、画像処理方法、及び、画像処理システム - Google Patents

画像処理装置、画像処理方法、及び、画像処理システム Download PDF

Info

Publication number
JP2016048815A
JP2016048815A JP2014172360A JP2014172360A JP2016048815A JP 2016048815 A JP2016048815 A JP 2016048815A JP 2014172360 A JP2014172360 A JP 2014172360A JP 2014172360 A JP2014172360 A JP 2014172360A JP 2016048815 A JP2016048815 A JP 2016048815A
Authority
JP
Japan
Prior art keywords
pixel
defect
value
interest
sensitivity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014172360A
Other languages
English (en)
Inventor
藤田 和英
Kazuhide Fujita
和英 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2014172360A priority Critical patent/JP2016048815A/ja
Priority to US15/505,063 priority patent/US10348989B2/en
Priority to PCT/JP2015/072952 priority patent/WO2016031597A1/ja
Publication of JP2016048815A publication Critical patent/JP2016048815A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Input (AREA)

Abstract

【課題】画素欠陥の検出精度を向上する画像処理装置、画像処理方法及び画像処理システムを提供する。【解決手段】画像処理装置22は、色画素と、色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、高感度画素の画素値と、色画素の画素値との相関に基づいて、注目画素の欠陥を評価する画素欠陥評価部51と、欠陥であると評価された注目画素を補正する画素欠陥補正部52とを備える。【選択図】図3

Description

本技術は、画像処理装置、画像処理方法、及び、画像処理システムに関し、特に、画素欠陥の検出精度を向上させることができるようにした画像処理装置、画像処理方法、及び、画像処理システムに関する。
一般に、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやCCD(Charge Coupled Device)イメージセンサ等の固体撮像装置においては、画素欠陥が生じることが知られている。
固体撮像装置において、半導体の局所的な結晶欠陥等により、例えば異常な撮像信号を出力する画素欠陥が生じると、これに起因する画質劣化が生じることになる。この種の画素欠陥としては、例えば、周辺の画素と比較して画素値が大きい、いわゆる白点欠陥や、周辺の画素と比較して画素値が小さい、いわゆる黒点欠陥などがある。
従来より、これらの画素欠陥を信号処理によって補正するための方式や回路構成が各種提案されている(例えば、特許文献1、2参照)。
特開2009−290653号公報 特開2013−115675号公報
しかしながら、従来の技術であると、撮像画像の注目している注目画素が画素欠陥(欠陥点)であるのか、あるいは画素欠陥ではなく、空間周波数の非常に高い模様(例えば微小点など)であるのかを正確に区別できなかった。そのため、画素欠陥であるかどうかを正確に区別して、画素欠陥の検出精度を向上させたいという要請があった。
本技術はこのような状況に鑑みてなされたものであり、画素欠陥の検出精度を向上させることができるようにするものである。
本技術の一側面の画像処理装置は、色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する画素欠陥評価部と、欠陥であると評価された前記注目画素を補正する画素欠陥補正部とを備える画像処理装置である。
前記画素欠陥評価部は、前記注目画素の周辺の前記高感度画素の画素値と前記色画素の画素値の分布情報を用い、前記高感度画素の画素値と、前記色画素の画素値との相関を求めるようにすることができる。
前記画素欠陥評価部は、前記注目画素が前記色画素である場合、前記注目画素の周辺の前記高感度画素の画素値の勾配と、前記注目画素の周辺の同色の色画素の画素値との勾配を比較し、前記注目画素が前記高感度画素である場合、前記注目画素の周辺の色画素の画素値の勾配と、前記注目画素の周辺の前記高感度画素の画素値の勾配を比較して、前記高感度画素の画素値と、前記色画素の画素値との相関を求めるようにすることができる。
前記画素欠陥評価部は、前記注目画素に対して水平方向又は垂直方向となる、前記高感度画素の画素値の勾配と色画素の画素値の勾配を求めるようにすることができる。
前記画素欠陥評価部は、前記注目画素の画素値と、前記注目画素の周辺の同色の色画素の画素値の平均値との差分値を、所定の閾値と比較することで、前記注目画素の欠陥の可能性を評価し、欠陥の可能性があると評価された前記注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価するようにすることができる。
前記高感度画素は、白(W)画素であり、前記色画素は、赤(R)画素、緑(G)画素、又は、青(B)画素であるようにすることができる。
本技術の一側面の画像処理装置は、独立した装置であってもよいし、1つの装置を構成している内部ブロックであってもよい。
本技術の一側面の画像処理方法又は画像処理システムは、上述した本技術の一側面の画像処理装置に対応する画像処理方法又は画像処理システムである。
本技術の一側面の画像処理装置、画像処理方法、及び、画像処理システムにおいては、色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥が評価され、欠陥であると評価された前記注目画素が補正される。
本技術の一側面によれば、画素欠陥の検出精度を向上させることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術を適用した画像処理システムの一実施の形態の構成を示す図である。 固体撮像装置におけるカラーフィルタの配列を示す図である。 本技術を適用した画像処理装置の一実施の形態の構成を示す図である。 画像処理の流れを説明するフローチャートである。 画素欠陥補正処理の流れを説明するフローチャートである。 注目画素がW画素又はG画素の場合における1次評価ステップを説明する図である。 注目画素がB画素又はR画素の場合における1次評価ステップを説明する図である。 注目画素が微小点である場合のサンプリング前の画素値分布を示す図である。 注目画素が微小点である場合のサンプリング後の画素値分布を示す図である。 注目画素が欠陥点である場合のサンプリング後の画素値分布を示す図である。 注目画素が色画素の場合における2次評価ステップを説明する図である。 注目画素がW画素の場合における2次評価ステップを説明する図である。 2次評価ステップの他の評価方法を説明する図である。
以下、図面を参照しながら本技術の実施の形態について説明する。なお、説明は以下の順序で行うものとする。
1.画像処理システムの構成
2.画像処理装置の構成
3.画像処理の流れ
4.変形例
<1.画像処理システムの構成>
図1は、本技術を適用した画像処理システムの一実施の形態の構成を示す図である。
図1の画像処理システム10は、被写体を撮像して得られる撮像画像に対して、所定の画像処理を行う機能を有する、デジタルスチルカメラやビデオカメラ等の撮像装置、携帯電話機、スマートホン、タブレット型デバイス、又はパーソナルコンピュータ等である。図1において、画像処理システム10は、固体撮像装置21、画像処理装置22、及び、記録装置23から構成される。
固体撮像装置21は、例えばCMOSイメージセンサやCCDイメージセンサ等のイメージセンサである。固体撮像装置21は、光電変換素子(フォトダイオード)を有する複数の画素が行列状に2次元配列される画素アレイ部と、画素の駆動やA/D(Analog/Digital)等を行う周辺回路部から構成される。
固体撮像装置21は、レンズ部により集光された光を光電変換して得られる撮像画像を、画像処理装置22に供給する。また、固体撮像装置21において、画素アレイ部の前面には、カラーフィルタが配置されている。ここで、図2には、画素アレイ部の前面に配置されるカラーフィルタ31のフィルタ配列が示されている。カラーフィルタ31は、赤(R)、緑(G)、青(B)、及び、白(W)が配列されている。
すなわち、固体撮像装置21の画素アレイ部においては、高感度画素としての白(W)画素と、色画素としての赤(R)画素又は青(B)画素とが交互に配列されている行と、高感度画素としての白(W)画素と、色画素としての緑(G)画素とが交互に配列されている行とが、交互に配列されている。
また、画像処理装置22は、固体撮像装置21から供給される撮像画像に対する所定の画像処理を行う。この画像処理としては、例えば、画素欠陥補正処理、リモザイク処理、及び、カメラ信号処理などが行われる。画像処理の結果得られる撮像画像の画像データは、記録装置23に供給される。
記録装置23は、画像処理装置22から供給される撮像画像の画像データを記録する。なお、図1の構成では、画像処理装置22からの撮像画像の画像データは、記録装置23に記録されるとして説明しているが、画像処理が施された撮像画像に対する処理の一例であり、その他、例えば、画像データに対応する被写体の撮像画像を表示装置に表示させたり、通信装置により画像データを、ネットワークを介して他の装置に送信させたりするようにしてもよい。
<2.画像処理装置の構成>
図3は、図1の画像処理装置22の詳細な構成を示す図である。
画像処理装置22は、画素欠陥補正処理部41、リモザイク処理部42、及び、カメラ信号処理部43から構成される。
画素欠陥補正処理部41は、固体撮像装置21により撮像された撮像画像から画素欠陥を検出して、画素欠陥を補正する処理を行う。画素欠陥補正処理部41は、画素欠陥評価部51及び画素欠陥補正部52から構成される。
画素欠陥評価部51は、撮像画像の注目している注目画素に対して、1次評価ステップと2次評価ステップの二段階で、当該注目画素の欠陥を評価して、その欠陥の評価結果を、画素欠陥補正部52に供給する。
画素欠陥補正部52は、画素欠陥評価部51から供給される欠陥の評価結果に応じて、欠陥であると評価された注目画素を補正し、リモザイク処理部42に供給する。また、画素欠陥補正部52は、欠陥の評価結果に応じて、欠陥ではないと評価された注目画素をそのまま、リモザイク処理部42に供給する。
リモザイク処理部42は、画素欠陥補正部52からの撮像画像の画素配列を、図2の画素配列から、ベイヤ配列に変換して、カメラ信号処理部43に供給する。
カメラ信号処理部43は、リモザイク処理部42から供給される撮像画像に対して、所定のカメラ信号処理を行う。このカメラ信号処理としては、例えば、ホワイトバランス、デモザイク、リニアマトリックス、ガンマ補正等の処理が行われる。カメラ信号処理により得られるRGB画像(又はYC画像)は、記録装置23に記録するための画像処理がさらに施された後、記録装置23に記録される。
<3.画像処理の流れ>
(画像処理の流れ)
次に、図4のフローチャートを参照して、図3の画像処理装置22により実行される画像処理の流れについて説明する。
ステップS11において、画素欠陥補正処理部41は、画素欠陥補正処理を行う。この画素欠陥補正処理では、撮像画像の注目している注目画素に対して、1次評価ステップと、2次評価ステップの二段階の評価を行い、それらの評価結果がどちらも、注目画素が画素欠陥らしいと評価された場合に、当該注目画素を補正する。
具体的には、1次評価ステップでは、注目画素の画素値と、その注目画素の周辺の同色画素の2画素の画素値の平均値が、所定の閾値よりも大きいかどうかを評価する。また、2次評価ステップでは、1次評価ステップの評価結果として、欠陥の可能性があると評価された注目画素について、高感度画素としての白(W)画素の画素値と、色画素としての赤(R)画素、緑(G)画素、又は青(B)画素の画素値との相関に基づいて、当該注目画素の欠陥を評価することになる。
そして、画素欠陥補正処理部41では、1次評価ステップと2次評価ステップの二段階の評価結果に応じて、欠陥であると評価された注目画素に対する補正処理が行われる。なお、画素欠陥補正処理の詳細な処理の内容は、図5のフローチャートを参照して後述する。
ステップS12において、リモザイク処理部42は、リモザイク処理を行う。このリモザイク処理では、ステップS11の処理により画素欠陥を補正済みの撮像画像の画素配列が、図2の画素配列から、ベイヤ配列に変換される。
ステップS13において、カメラ信号処理部43は、カメラ信号処理を行う。このカメラ信号処理では、例えば、ホワイトバランス、デモザイク、リニアマトリックス、ガンマ補正等の処理が行われる。ステップS13の処理が終了すると、図4の画像処理は終了する。
以上、画像処理について説明した。この画像処理では、1次評価ステップと2次評価ステップの二段階で、撮像画像の注目している注目画素の欠陥が評価される。この2次評価ステップでは、1次評価ステップの評価結果として、欠陥の可能性があると評価された注目画素について、高感度画素(白(W)画素)の画素値と、色画素(赤(R)画素、緑(G)画素、又は青(B)画素)の画素値との相関に基づいて、注目画素の欠陥の評価がなされる。このような評価が行われることで、当該注目画素が画素欠陥であるのか、あるいは画素欠陥ではなく、空間周波数の非常に高い模様(例えば微小点など)であるのかを正確に区別して、画素欠陥の検出精度を向上させるようにしている。
また、仮に、リモザイク処理部42により欠陥のある画素を処理してしまうと、フィルタ演算によって欠陥が拡大してしまい、さらに後段での画素欠陥補正処理を行うことが困難となるが、図4の画像処理では、画素欠陥補正処理(ステップS11の処理)が、リモザイク処理(ステップS12の処理)などよりも先に行われるため、そのような事態が発生することを未然に防止することができる。
(画素欠陥補正処理の流れ)
次に、図5のフローチャートを参照して、図4のステップS11の処理に対応する画素欠陥補正処理の流れについて説明する。なお、画素欠陥には、その周辺の画素と比較して画素値が大きい白点欠陥と、その周辺の画素と比較して画素値が小さい黒点欠陥があるが、ここでは、画素欠陥として白点欠陥を検出して画素欠陥を補正する場合について説明する。
ステップS31において、画素欠陥評価部51は、注目画素の画素値と、その注目画素の周辺の同色画素の画素値の平均値との差分値が、所定の閾値を超えるかどうかを評価する(1次評価ステップ)。この1次評価ステップでは、注目画素とされる画素の色によってその評価方法が異なる。
すなわち、図6に示すように、注目画素がW画素(図6の中心のW画素)である場合、当該注目画素(W画素)の周辺のW画素は、正方形状に配置されている。このように配置された注目画素(W画素)と同色の周辺8画素(W画素)について、図中の矢印で結ばれて対向する垂直方向、水平方向、及び、斜め方向(+45度方向と−45度方向の2方向)の2画素ずつを対として、画素値の平均値をそれぞれ計算する。
これにより、4組のW画素についての画素値の平均値がそれぞれ得られるので、この4つの平均値と、注目画素(W画素)の画素値との差分値を計算して、最も小さい差分値を、所定の閾値と比較する。そして、この比較の結果として、差分値が閾値を超える場合には、当該注目画素(W画素)は、画素欠陥らしい(画素欠陥である可能性がある)と評価される。一方、差分値が閾値を超えない場合には、当該注目画素(W画素)は、画素欠陥ではないと評価される。
なお、図6においては、注目画素がW画素である場合について説明したが、G画素を注目画素としたときの周辺のG画素は、W画素を注目画素としたときと同様に正方形状に配置されるので、上述したW画素(図6)と同様にして1次評価ステップを行うことができる。
また、図7に示すように、注目画素がB画素(図7の中心のB画素)である場合、当該注目画素(B画素)の周辺のB画素は、ひし形状に配置されている。このように配置された注目画素(B画素)と同色の周辺8画素(B画素)について、図中の矢印で結ばれて対向する垂直方向、水平方向、及び、斜め方向(+45度方向と−45度方向の2方向)の2画素ずつを対として、画素値の平均値をそれぞれ計算する。
そして、4組のB画素の画素値についての平均値と、注目画素(B画素)の画素値との差分値を計算して、最も小さい差分値を、所定の閾値と比較して、差分値が閾値を超える場合には、当該注目画素(B画素)は、画素欠陥らしい(画素欠陥である可能性がある)と評価され、差分値が閾値を超えない場合には、当該注目画素(B画素)は、画素欠陥ではないと評価される。
なお、図7においては、注目画素がB画素である場合について説明したが、R画素を注目画素としたときの周辺のR画素は、B画素を注目画素としたときと同様にひし形状に配置されているので、上述したB画素(図7)と同様にして1次評価ステップを行うことができる。
また、差分値と比較される所定の閾値としては、あらかじめ定められた固定値を設定してもよいが、例えば、ショットノイズや画素周辺の模様などを考慮して、それらと連動して可変の値が設定されるようにしてもよい。さらに、1次評価ステップをハードウェアで実装する場合には、ラインメモリとシフトレジスタで構成されるバッファが必要とされる。
図5のフローチャートに戻り、ステップS32においては、ステップS31の処理での1次評価ステップの評価結果に基づいて、注目画素について計算された差分値が、所定の閾値を超えているかどうかが判定される。
ステップS32において、差分値が閾値を超えていないと判定された場合、注目画素は画素欠陥ではないので、処理はステップS33に進められる。ステップS33において、画素欠陥補正部52は、注目画素をそのまま、リモザイク処理部42に出力する。
一方、ステップS32において、差分値が閾値を超えていると判定された場合、注目画素は画素欠陥らしい(画素欠陥である可能性がある)ので、処理はステップS34に進められる。ステップS34において、画素欠陥評価部51は、画素欠陥である可能性がある注目画素について、W画素と色画素の画素値分布の相関を評価する(2次評価ステップ)。
この2次評価ステップにおいては、ステップS31の処理での1次評価ステップで、画素欠陥である可能性があると評価された注目画素について、当該注目画素が、画素欠陥(欠陥点)であるのか、あるいは画素欠陥ではなく、空間周波数の非常に高い、微小点であるのかを区別するために、W画素と色画素の画素値分布の相関を評価することになる。
ここで、図8には、固体撮像装置21の光電変換素子(フォトダイオード)による光電変換前(サンプリング前)における、微小点の空間分布を表している。図8においては、横軸は空間位置を表し、縦軸は光電変換素子への入射光量を表しているが、W画素のほうが色画素よりも感度が高く、入射光量が多くなるため、W画素の画素値(以下、「W画素値」ともいう)は、色画素の画素値(以下、「色画素値」ともいう)と比べて、より高いピーク値を持った急峻な分布となる。
また、光電変換素子によるサンプリングを考慮して、横軸を座標とし、縦軸を画素値とすれば、W画素値と色画素値の分布は、図9のように表すことができる。図9において、W画素値の分布と色画素値の分布を比較すれば、W画素値の分布のほうが、入射光量が多い分だけピーク値が大きくなっているが、ピーク位置となる座標が対応しており、W画素値の分布と色画素値の分布には、相関があると言える。
一方、画素欠陥(欠陥点)の場合には、図10に示すように、色画素値がピーク値となっても、W画素値は一定の値となっているため、W画素値の分布と色画素値の分布には、相関がない。2次評価ステップでは、W画素値の分布と、色画素値の分布との相関の有無を利用して、微小点と欠陥点が区別されるようにする。
具体的には、注目画素がB画素である場合、例えば、次のようにして、微小点と欠陥点が区別される。すなわち、図11に示すように、まず、微小点の頂点を探索すべく、B0画素である注目画素に隣接する4つのW画素のうち、最も画素値が大きいW画素を、W0画素とする。ここでは、注目画素(B0画素)の上側のW画素が選択された場合を例示している。次に、W0画素から右側に2画素離れたW画素をW1とし、さらに、右側に2画素離れたW画素をW2として選択する。また、B0画素から右側に4画素離れたB画素をB1として選択する。
次に、W画素の画素値の勾配(傾き)と、B画素の画素値の勾配(傾き)を、下記の式(1)と、式(2)を演算することで求める。
W_a=(W0画素の画素値)−(W2画素の画素値) ・・・(1)
B_a=(B0画素の画素値)−(B1画素の画素値) ・・・(2)
そして、下記の条件(3)、かつ、条件(4)の関係が成立する場合に、注目画素(B0画素)が、画素欠陥(欠陥点)ではなく、微小点であると評価するようにする。
(W0画素の画素値)≧(W1画素の画素値)≧(W2画素の画素値) ・・・(3)
W_a×(Gain値)>B_a ・・・(4)
ただし、条件(4)において、Gain値は、レジスタ等で調整できるパラメータである。
なお、説明が繰り返しになるので、その詳細な説明は省略するが、注目画素(B0画素)の左側についても、上述した右側と同様に、W画素とB画素の勾配(W_a,B_a)が求められ、条件(3)と条件(4)の関係が成立するかどうかが評価される。そして、注目画素(B0画素)の左側と右側のいずれか一方で、条件(3)と条件(4)の関係が成立する場合には、最終的に、注目画素(B0画素)が画素欠陥(欠陥点)ではない、つまり、微小点であると評価する。他方、注目画素(B0画素)の左側と右側の両方で、条件(3)と条件(4)の関係が成立しない場合には、注目画素(B0画素)が画素欠陥であると評価する。
なお、図11では、注目画素がB画素である場合を例に説明したが、他の色画素(R画素又はG画素)が注目画素とされる場合でも、上述した注目画素がB画素である場合と同様にして、注目画素(R画素又はG画素)が、画素欠陥であるか(あるいは微小点であるか)どうかが評価される。
また、注目画素がW画素である場合、例えば、次のようにして、微小点と欠陥点が区別される。すなわち、図12に示すように、まず、W0画素である注目画素に隣接する4つの色画素のうち、最も画素値が大きい色画素を選択する。ここでは、注目画素(W0画素)の下側のB画素が、B0として選択された場合を例示している。次に、B0画素から右側に4画素離れたB画素をB1として選択する。また、注目画素をW0とし、W0画素から右側に2画素離れたW画素をW1とし、さらに、右側に2画素離れたW画素をW2として選択する。
次に、B画素の画素値の勾配(傾き)と、W画素の画素値の勾配(傾き)を、下記の式(5)と、式(6)を演算することで求める。
B_a=(B0画素の画素値)−(B1画素の画素値) ・・・(5)
W_a=(W0画素の画素値)−(W2画素の画素値) ・・・(6)
そして、下記の条件(7)、かつ、条件(8)の関係が成立する場合に、注目画素(W0画素)が、画素欠陥(欠陥点)ではなく、微小点であると評価するようにする。
(W0画素の画素値)≧(W1画素の画素値)≧(W2画素の画素値) ・・・(7)
B_a×(Gain値)>W_a ・・・(8)
ただし、条件(8)において、Gain値は、レジスタ等で調整できるパラメータである。
なお、説明が繰り返しになるので、その詳細な説明は省略するが、注目画素(W0画素)の左側についても、上述した右側と同様に、B画素とW画素の勾配(B_a,W_a)が求められ、条件(7)と条件(8)の関係が成立するかどうかが評価される。そして、注目画素(W0画素)の左側と右側のいずれか一方で、条件(7)と条件(8)の関係が成立する場合には、最終的に、注目画素(W0画素)が画素欠陥(欠陥点)ではない、つまり、微小点であると評価する。他方、注目画素(W0画素)の左側と右側の両方で、条件(7)と条件(8)の関係が成立しない場合には、注目画素(W0画素)が画素欠陥であると評価する。
図5のフローチャートに戻り、ステップS35においては、ステップS34の処理での2次評価ステップの評価結果に基づいて、注目画素が画素欠陥であるかどうかが判定される。
ステップS35において、注目画素が画素欠陥ではなく、微小点であると判定された場合、処理はステップS33に進められる。ステップS33において、画素欠陥補正部52は、注目画素をそのまま、リモザイク処理部42に出力する。すなわち、1次評価ステップにおいて、画素欠陥である可能を有すると評価された注目画素であっても、2次評価ステップにおいて、画素欠陥ではないと評価された場合には、当該注目画素に対する補正処理が行われないようにする。
一方、ステップS35において、注目画素が画素欠陥であると判定された場合、処理はステップS36に進められる。ステップS36において、画素欠陥補正部52は、画素欠陥である注目画素を補正し、補正された注目画素を、リモザイク処理部42に出力する。なお、注目画素に対する補正処理としては、例えば、1次評価ステップで、注目画素の評価の際にその周辺の同色画素を用いたが、同様にして周辺の同色画素を用い、注目画素との差分比較で選択された2画素の平均値や2画素のうち注目画素の値に近いほうの値で注目画素を置き換えるなどして、注目画素の補正を行うことができる。
ステップS33又はS36の処理が終了すると、処理はステップS37に進められる。ステップS37においては、全ての注目画素の評価が終了したかどうかが判定されるステップS37において、全ての注目画素の評価が終了していないと判定された場合、ステップS31の処理に戻り、次の注目画素に対して、上述したステップS31乃至S36の処理が繰り返される。そして、ステップS31乃至S37の処理が繰り返され、ステップS37において、全ての注目画素の評価が終了したと判定された場合、画素欠陥補正処理は終了し、処理は、図4のステップS11の処理に戻り、それ以降の処理が実行される。
以上、画素欠陥補正処理について説明した。この画素欠陥補正処理では、1次評価ステップと2次評価ステップの2段階の評価が行われ、特に、2次評価ステップでは、1次評価ステップの評価結果として、欠陥の可能性があると評価された注目画素について、当該注目画素の周辺の高感度画素(白(W)画素)の画素値と、色画素(赤(R)画素、緑(G)画素、又は青(B)画素)の画素値の分布情報を用いて、高感度画素の画素値と色画素の画素値との相関が求められる。
ここでは、注目画素が色画素である場合、注目画素の周辺の高感度画素の画素値の勾配と、注目画素の周辺の同色の色画素の画素値との勾配が比較され、注目画素が高感度画素である場合、注目画素の周辺の色画素の画素値の勾配と、注目画素の周辺の高感度画素の画素値の勾配が比較されることで、高感度画素の画素値と、色画素の画素値との相関が求められる。そして、2次評価ステップでは、このようにして求められた相関に基づいて、1次評価ステップで、欠陥の可能性があると評価された注目画素について、画素欠陥であるのか、あるいは画素欠陥ではなく、空間周波数の非常に高い模様(例えば微小点など)であるのかの評価が行われる。
このように、注目画素の周辺の高感度画素の画素値と、色画素の画素値の分布情報を用いて、高感度画素の画素値と色画素の画素値との相関を求めて、相関がない場合に、当該注目画素を画素欠陥であるとすることで、当該注目画素が画素欠陥であるのか、あるいは画素欠陥ではなく、空間周波数の非常に高い模様(例えば微小点など)であるのかを正確に区別することができるので、画素欠陥の検出精度を向上させることができる。その結果として、高性能な欠陥補正を実現することができる。また、欠陥ではない空間周波数の高い模様を、欠陥であるとして誤判定や誤補正することで生じる、模様の消失や偽色の発生を抑制することができる。
また、画素欠陥の補正を行うために、あらかじめ欠陥の位置をメモリに登録しておく方式や、撮像条件を代えた2枚の撮像画像を用いて欠陥の位置を検出する方式があるが、両者ともに欠陥位置や画像を保存するためのメモリが必要になるため、ハードウェアコストが増大することになるが、本技術では、特別なメモリを用意する必要がないため、ハードウェアコストが増大することを抑制することができる。
さらに、ベイヤ配列を有する固体撮像素子(イメージセンサ)において、周辺の画素情報を用いて画素欠陥検出を行う場合、注目画素と、周囲の同色画素の平均値との差分が大きいときに、注目画素を欠陥画素である、と検出する方式が知られている。しかしながら、ベイヤ配列では周囲の同色画素が、注目画素と1画素おきに存在しており、この方式であると、空間周波数が非常に高い模様(例えば、微小点等)を欠陥であると誤検出して、誤補正してしまう可能性がある。さらに配列内に、原色画素に白(W)画素が加わる場合、色画素の密度がさらに減って、同色の画素が遠くなるために、誤検出と誤補正がより増えてしまう可能性がある。
また、注目画素と隣接する異なる色の画素について、周囲の同色の画素との比較結果を欠陥判定に用いる方式もあるが、同一の色の画素同士のみを比較してしまうと、高周波模様が有彩色である場合には、有効でない可能性がある。一方、本技術では、上述した1次評価ステップと2次評価ステップの二段階の評価結果に応じて、欠陥であると評価された注目画素に対する補正処理が行われるため、確実に、画素欠陥を検出して、補正処理を行うことができる。
<4.変形例>
上述した説明では、2次評価ステップ(図5のステップS34の処理)として、注目画素について、W画素と色画素の画素値の水平方向の勾配(傾き)を演算する方法について説明したが、注目画素に対して垂直方向に画素を選択して、垂直方向のW画素と色画素の勾配(傾き)を求めるようにしてもよい。
例えば、図13に示すように、注目画素がB画素である場合、注目画素(B画素)に隣接する4つのW画素のうち、最も画素値が大きいW画素を選択する。ここでは、注目画素(B画素)の右側のW画素が選択された場合を例示している。次に、注目画素(B画素)の右側のW画素から上側に2画素離れたW画素と、4画素離れたW画素を選択する。
また、注目画素(B画素)から上側に4画素離れたB画素を選択する。そして、このようにして選択されたW画素の画素値の勾配(傾き)と、B画素の画素値の勾配(傾き)を、上述した水平方向の場合と同様にして求めることができるので、所定の条件の関係(例えば、上述した条件(3)や条件(4)の関係など)が成立する場合に、当該注目画素(B画素)が、画素欠陥(欠陥点)ではなく、微小点であると評価することができる。なお、図13では、注目画素がB画素である場合について述べたが、注目画素がW画素などである場合も同様に評価することができる。
また、上述した説明では、画素欠陥として白点欠陥を検出して画素欠陥を補正する場合について説明したが、先に述べた画素値の大小関係を逆転すれば、黒点欠陥の検出にあてはめることができる。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
また、本技術は、以下のような構成をとることができる。
(1)
色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する画素欠陥評価部と、
欠陥であると評価された前記注目画素を補正する画素欠陥補正部と
を備える画像処理装置。
(2)
前記画素欠陥評価部は、前記注目画素の周辺の前記高感度画素の画素値と前記色画素の画素値の分布情報を用い、前記高感度画素の画素値と、前記色画素の画素値との相関を求める
(1)に記載の画像処理装置。
(3)
前記画素欠陥評価部は、
前記注目画素が前記色画素である場合、前記注目画素の周辺の前記高感度画素の画素値の勾配と、前記注目画素の周辺の同色の色画素の画素値との勾配を比較し、
前記注目画素が前記高感度画素である場合、前記注目画素の周辺の色画素の画素値の勾配と、前記注目画素の周辺の前記高感度画素の画素値の勾配を比較して、
前記高感度画素の画素値と、前記色画素の画素値との相関を求める
(2)に記載の画像処理装置。
(4)
前記画素欠陥評価部は、前記注目画素に対して水平方向又は垂直方向となる、前記高感度画素の画素値の勾配と色画素の画素値の勾配を求める
(3)に記載の画像処理装置。
(5)
前記画素欠陥評価部は、
前記注目画素の画素値と、前記注目画素の周辺の同色の色画素の画素値の平均値との差分値を、所定の閾値と比較することで、前記注目画素の欠陥の可能性を評価し、
欠陥の可能性があると評価された前記注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する
(1)乃至(4)のいずれかに記載の画像処理装置。
(6)
前記高感度画素は、白(W)画素であり、
前記色画素は、赤(R)画素、緑(G)画素、又は、青(B)画素である
(1)乃至(5)のいずれかに記載の画像処理装置。
(7)
画像処理装置の画像処理方法において、
前記画像処理装置が、
色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価し、
欠陥であると評価された前記注目画素を補正する
ステップを含む画像処理方法。
(8)
色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置と、
前記固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する画素欠陥評価部と、欠陥であると評価された前記注目画素を補正する画素欠陥補正部とを有する画像処理装置と
を備える画像処理システム。
10 画像処理システム, 21 固体撮像装置, 22 画像処理装置, 23 記録装置, 31 カラーフィルタ, 41 画素欠陥補正処理部, 42 リモザイク処理部, 43 カメラ信号処理部, 51 画素欠陥評価部, 52 画素欠陥補正部

Claims (8)

  1. 色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する画素欠陥評価部と、
    欠陥であると評価された前記注目画素を補正する画素欠陥補正部と
    を備える画像処理装置。
  2. 前記画素欠陥評価部は、前記注目画素の周辺の前記高感度画素の画素値と前記色画素の画素値の分布情報を用い、前記高感度画素の画素値と、前記色画素の画素値との相関を求める
    請求項1に記載の画像処理装置。
  3. 前記画素欠陥評価部は、
    前記注目画素が前記色画素である場合、前記注目画素の周辺の前記高感度画素の画素値の勾配と、前記注目画素の周辺の同色の色画素の画素値との勾配を比較し、
    前記注目画素が前記高感度画素である場合、前記注目画素の周辺の色画素の画素値の勾配と、前記注目画素の周辺の前記高感度画素の画素値の勾配を比較して、
    前記高感度画素の画素値と、前記色画素の画素値との相関を求める
    請求項2に記載の画像処理装置。
  4. 前記画素欠陥評価部は、前記注目画素に対して水平方向又は垂直方向となる、前記高感度画素の画素値の勾配と色画素の画素値の勾配を求める
    請求項3に記載の画像処理装置。
  5. 前記画素欠陥評価部は、
    前記注目画素の画素値と、前記注目画素の周辺の同色の色画素の画素値の平均値との差分値を、所定の閾値と比較することで、前記注目画素の欠陥の可能性を評価し、
    欠陥の可能性があると評価された前記注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する
    請求項1に記載の画像処理装置。
  6. 前記高感度画素は、白(W)画素であり、
    前記色画素は、赤(R)画素、緑(G)画素、又は、青(B)画素である
    請求項1に記載の画像処理装置。
  7. 画像処理装置の画像処理方法において、
    前記画像処理装置が、
    色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価し、
    欠陥であると評価された前記注目画素を補正する
    ステップを含む画像処理方法。
  8. 色画素と、前記色画素よりも高感度となる高感度画素が2次元状に配列された固体撮像装置と、
    前記固体撮像装置からの撮像画像の注目している注目画素について、前記高感度画素の画素値と、前記色画素の画素値との相関に基づいて、前記注目画素の欠陥を評価する画素欠陥評価部と、欠陥であると評価された前記注目画素を補正する画素欠陥補正部とを有する画像処理装置と
    を備える画像処理システム。
JP2014172360A 2014-08-27 2014-08-27 画像処理装置、画像処理方法、及び、画像処理システム Pending JP2016048815A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014172360A JP2016048815A (ja) 2014-08-27 2014-08-27 画像処理装置、画像処理方法、及び、画像処理システム
US15/505,063 US10348989B2 (en) 2014-08-27 2015-08-14 Image processing device, image processing method, and image processing system
PCT/JP2015/072952 WO2016031597A1 (ja) 2014-08-27 2015-08-14 画像処理装置、画像処理方法、及び、画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014172360A JP2016048815A (ja) 2014-08-27 2014-08-27 画像処理装置、画像処理方法、及び、画像処理システム

Publications (1)

Publication Number Publication Date
JP2016048815A true JP2016048815A (ja) 2016-04-07

Family

ID=55399494

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014172360A Pending JP2016048815A (ja) 2014-08-27 2014-08-27 画像処理装置、画像処理方法、及び、画像処理システム

Country Status (3)

Country Link
US (1) US10348989B2 (ja)
JP (1) JP2016048815A (ja)
WO (1) WO2016031597A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11336849B2 (en) 2016-08-31 2022-05-17 Sony Corporation Image processing apparatus and image processing method

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10594996B2 (en) 2014-09-24 2020-03-17 Sony Semiconductor Solutions Corporation Image processing apparatus, image pickup device, image pickup apparatus, and image processing method
JP6643250B2 (ja) * 2014-12-18 2020-02-12 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法、およびプログラム
WO2016136501A1 (ja) 2015-02-26 2016-09-01 ソニー株式会社 撮像装置、撮像方法、およびプログラム
CN106780324B (zh) * 2016-11-28 2020-06-09 北京航天泰坦科技股份有限公司 一种正射影像镶嵌的接边纠正方法
US11107206B2 (en) * 2017-10-17 2021-08-31 Netflix, Inc. Techniques for detecting spatial anomalies in video content
KR20210004229A (ko) * 2019-07-03 2021-01-13 삼성전자주식회사 뉴럴 네트워크 프로세서를 구비하는 이미지 프로세싱 장치 및 이의 동작 방법
CN111355937B (zh) * 2020-03-11 2021-11-16 北京迈格威科技有限公司 图像处理方法、装置和电子设备
KR20220004436A (ko) 2020-07-03 2022-01-11 삼성전자주식회사 뉴럴 네트워크 프로세서를 구비하는 이미지 프로세싱 장치 및 이의 동작 방법
KR20220048090A (ko) * 2020-10-12 2022-04-19 삼성전자주식회사 주파수 도메인을 이용한 이미지 센서의 검사 방법 및 이를 수행하는 검사 시스템
CN114793262B (zh) * 2021-01-26 2024-06-14 华为技术有限公司 一种图像传感器、摄像头、电子设备及控制方法
CN114549449B (zh) * 2022-02-17 2023-05-12 中国空气动力研究与发展中心超高速空气动力研究所 小尺寸曲面构件全局缺陷精细定量识别方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4054184B2 (ja) 2001-10-03 2008-02-27 オリンパス株式会社 欠陥画素補正装置
JP2009290653A (ja) 2008-05-30 2009-12-10 Sony Corp 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム
US8111307B2 (en) * 2008-10-25 2012-02-07 Omnivision Technologies, Inc. Defective color and panchromatic CFA image
JP2010130238A (ja) * 2008-11-26 2010-06-10 Sony Corp 欠陥補正回路及びそれを備えた撮像装置
JP5664255B2 (ja) * 2011-01-14 2015-02-04 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
WO2012117616A1 (ja) * 2011-02-28 2012-09-07 富士フイルム株式会社 撮像装置及び欠陥画素補正方法
JP2012217139A (ja) * 2011-03-30 2012-11-08 Sony Corp 画像理装置および方法、並びにプログラム
JP5694907B2 (ja) 2011-11-30 2015-04-01 日立マクセル株式会社 撮像装置
CA2861220C (en) * 2012-01-24 2020-02-11 Sony Corporation Image processing apparatus and image processing method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11336849B2 (en) 2016-08-31 2022-05-17 Sony Corporation Image processing apparatus and image processing method

Also Published As

Publication number Publication date
US10348989B2 (en) 2019-07-09
WO2016031597A1 (ja) 2016-03-03
US20170257584A1 (en) 2017-09-07

Similar Documents

Publication Publication Date Title
WO2016031597A1 (ja) 画像処理装置、画像処理方法、及び、画像処理システム
US8576309B2 (en) Pixel defect correction device, imaging apparatus, pixel defect correction method, and program
JP4054184B2 (ja) 欠陥画素補正装置
US8253828B2 (en) Image capture device including edge direction determination unit, and image processing method for the same
US7366347B2 (en) Edge detecting method
US9131174B2 (en) Image processing device, image processing method, and program for detecting and correcting defective pixel in image
US9030579B2 (en) Image processing apparatus and control method that corrects a signal level of a defective pixel
US20090245683A1 (en) Defective pixel correction device
TWI547169B (zh) 影像處理方法與模組
US8385642B2 (en) Method for removing color fringe in digital image
CN106937064A (zh) 数字图像坏点的检测方法、校正方法及装置
JP2009130553A (ja) 欠陥画素補正方法、欠陥画素補正プログラム及び欠陥画素補正装置
US8164660B2 (en) Single row based defective pixel correction
JP5262953B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5600812B2 (ja) 撮像装置
JP4331120B2 (ja) 欠陥画素検出方法
JP4166974B2 (ja) 画素キズ検出・補正装置
JP2011114760A (ja) カメラモジュールの検査方法
JP2009290653A (ja) 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム
TWI528817B (zh) 數位攝像裝置及其影像處理方法
US20240203089A1 (en) Image processing device and image processing method
JP2010093336A (ja) 撮像装置および補間処理方法
JP2016195367A (ja) 画像処理装置及び方法、撮像装置、並びにプログラム
CN103686098B (zh) 数字摄像装置及其影像处理方法
JP6261353B2 (ja) 撮像装置及び撮像方法