JP2013055640A - 画像処理装置及びその制御方法 - Google Patents

画像処理装置及びその制御方法 Download PDF

Info

Publication number
JP2013055640A
JP2013055640A JP2012140037A JP2012140037A JP2013055640A JP 2013055640 A JP2013055640 A JP 2013055640A JP 2012140037 A JP2012140037 A JP 2012140037A JP 2012140037 A JP2012140037 A JP 2012140037A JP 2013055640 A JP2013055640 A JP 2013055640A
Authority
JP
Japan
Prior art keywords
defective pixel
pixel
signal level
defective
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012140037A
Other languages
English (en)
Other versions
JP2013055640A5 (ja
JP6046927B2 (ja
Inventor
Takayuki Yasuda
隆幸 安田
Hiroshi Ogino
洋 荻野
Takeshi Ogawa
武志 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012140037A priority Critical patent/JP6046927B2/ja
Priority to US14/131,377 priority patent/US9030579B2/en
Priority to CN201280038880.0A priority patent/CN103733608B/zh
Priority to EP12751132.7A priority patent/EP2742681B1/en
Priority to PCT/JP2012/070586 priority patent/WO2013022113A1/en
Publication of JP2013055640A publication Critical patent/JP2013055640A/ja
Publication of JP2013055640A5 publication Critical patent/JP2013055640A5/ja
Application granted granted Critical
Publication of JP6046927B2 publication Critical patent/JP6046927B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】 欠陥画素を補正する画素補正値の精度を一層向上させる。
【解決手段】 方向判別部101は、欠陥画素からどの方向に位置する画素を欠陥画素の信号レベルの算出に用いるかを判別する。信号レベル比算出部102は、欠陥画素に隣接する欠陥画素と異なる色の画素の信号レベルと、欠陥画素から方向判別部101で判別された方向に位置する欠陥画素と同色の画素、に隣接する欠陥画素と異なる色の画素の信号レベル、との比を求める。第1補正処理部103は、欠陥画素の信号レベルの算出に用いる画素の信号レベルの平均値に、信号レベル比算出部102で算出した比を乗じた値を、欠陥画素の信号レベルとして出力する。
【選択図】 図1

Description

本発明は、画像処理装置およびその制御方法に関し、特に、撮像画像を処理する画像処理装置及びその制御方法に関する。
従来、デジタルカメラやビデオカメラ等の撮像装置において、CCDイメージセンサやCMOSイメージセンサ等の固体撮像素子が一般的に使用されている。固体撮像素子は、製造過程で生じた欠陥画素を有することがあり、欠陥画素は撮像画像の質の低下や固体撮像素子の製造歩留まりを下げる要因の一つとなっている。
欠陥画素による画質低下を抑制するため、欠陥画素に対応する画素信号を他の正常画素の画素信号から補完することが提案されている。特許文献1には、欠陥画素を挟んで0度、45度、90度、135度の4方向で近接する画素の組の中から、画素間の出力比に応じて選択した組の画素信号の平均値を用いて欠陥画素の出力信号とする方法が提案されている。
特開2008−263521号公報
しかしながら、特許文献1では、欠陥画素を挟んで0度、45度、90度、135度の4方向の画素の組の中から選択した画素の組を用いて欠陥画素を補正するため、補完して得られる画素補正値の精度が必ずしも十分とはいえない場合があった。
本発明はこのような従来技術の課題に鑑みてなされたものであり、欠陥画素を補正する画素補正値の精度を一層向上させることが可能な画像処理装置及びその制御方法を提供することを目的とする。
上述の目的は、複数の特定色が規則的に配列された色フィルタを備えた撮像素子によって撮像された画像データに含まれる、撮像素子の欠陥画素の信号レベルを補正する画像処理装置であって、欠陥画素を挟んで位置する欠陥画素と同色の画素の複数組のそれぞれについての信号レベルの差から、欠陥画素からどの方向に位置する画素を欠陥画素の信号レベルの算出に用いるかを判別する判別手段と、欠陥画素に隣接する欠陥画素と異なる色の画素の信号レベルと、欠陥画素から判別手段で判別された方向に位置する欠陥画素と同色の画素、に隣接する欠陥画素と異なる色の画素の信号レベル、との比を求める比算出手段と、欠陥画素から判別手段で判別された方向に位置する欠陥画素と同色の画素の信号レベルの平均値に、比算出手段で算出した比を乗じた値を、欠陥画素の信号レベルとして出力する第1補正処理手段とを有することを特徴とする画像処理装置によって達成される。
このような構成により、本発明によれば、欠陥画素を補正する画素補正値の精度を一層向上させることが可能となる。
本発明の第1の実施形態に係る画像処理装置の機能構成例を模式的に示すブロック図。 図1の画像処理装置の動作を説明するためのフローチャート。 (a)は、画素配列の例と方向判別部の例を説明するための図、(b)はレベル比算出部の動作を説明するための図。 本発明の第1の実施形態に係る画像処理装置の機能構成例を模式的に示すブロック図。 図4における画素補正処理部の機能構成例を模式的に示すブロック図。 図4の画像処理装置の動作を説明するためのフローチャート。 図6のS1001における画素補正値の算出処理の詳細を説明するためのフローチャート (a)は本発明の第2の実施形態における重み付け係数α1の例を説明するための図、(b)は本発明の第2の実施形態に係る重み付け係数α2の例を説明するための図。
以下、添付図面を参照して本発明の例示的な実施形態について詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置の機能構成例を模式的に示すブロック図である。なお、図1に図示した機能ブロックはコンピュータがソフトウェアを実行することによって実現してもよいし、ハードウェアロジックで実現してもよい。画像処理装置は例えばCPUが制御プログラムを実行して記憶装置やインタフェースなど汎用コンピュータの有するハードウェアを制御することにより実施されてもよい。
なお、ここでは、入力される画像データを構成する複数の画素データのうち、欠陥画素に対応する画素データを画像処理装置100が判別可能であるものとする。例えば、入力画像データを撮像した撮像素子の欠陥画素座標に関する情報が予め画像処理装置100に与えられていてもよいし、入力画像データに補助情報として含まれる欠陥画素の位置情報を画像処理装置100が取得してもよい。
また、本実施形態において、入力画像データはベイヤー型原色フィルタを有する撮像素子を用いた撮像されているものとする。ベイヤー型原色フィルタは赤色(R)、緑色(G)および青色(B)フィルタの集合体であり、垂直方向・水平方向とも1画素おきに同色のフィルタが配置される。
方向判別部101は、欠陥画素を挟んで位置する欠陥画素と同色の画素の複数組のそれぞれについての信号レベルの差から、欠陥画素からどの方向に位置する画素を欠陥画素の信号レベルの算出に用いるかを判別する。
信号レベル比算出部102は、
・欠陥画素に隣接する(すなわち、欠陥画素と異なる色の)画素の信号レベルと、
・欠陥画素の周辺にある欠陥画素と同色の画素、に隣接する(すなわち、欠陥画素と異なる色の)画素の信号レベル、
との比を求める。
第1補正処理部103は、欠陥画素の周辺にある、欠陥画素と同色の画素の信号レベルの平均値に、信号レベル比算出部102で算出した比を乗じて、欠陥画素の信号レベルである画素補正データを算出する。
図1における各部の動作の詳細を、図2のフローチャートとともに、より具体的に説明する。以下の説明では、図3(a)に示すような色配列を有する画像データが入力され、赤色画素R4が欠陥画素800であるとする。図3(a)においてBは青色画素、G0〜G23は緑色画素である。なお、実際には同様の画素配列が繰り返し存在するのが通常であるが、発明の理解と説明を容易にするため、図3(a)は画像データのうち欠陥画素の周辺画素のみを示している。
まず、画像処理装置100に赤色画素、青色画素、緑色画素がベイヤー配列に従って配置された画像データが入力される(S501)。画像データは、例えば半導体メモリカードのような着脱可能な記録媒体から入力されてもよいし、ネットワークを介して入力されてもよい。また、本実施形態に係る画像処理装置が撮像装置に組み込まれる場合には、撮像装置によって撮像された画像データが入力されてもよい。
方向判別部101は、入力画像データから、欠陥画素800の周辺にある、欠陥画素800と同色の画素R0,R1,R2,R3,R5,R6,R7,R8の信号レベルを取得する。ここで、欠陥画素の「周辺」にある欠陥画素と同色の画素とは、欠陥画素を中心として、水平(0度)、垂直(90度)、45度及び135度方向に隣接する、欠陥画素と同色の画素を指すものとする。
そして、方向判別部101は、各方向における隣接画素の差の絶対値を求める。すなわち、方向判別部101は、画素R0,R8の差の絶対値|R0−R8|、画素R1,R7の差の絶対値|R1−R7|、画素R2,R6の差の絶対値|R2−R6|、画素R3,R5の差の絶対値|R3−R5|を求める。
方向判別部101は、差の絶対値が最小値となる隣接画素対が存在する方向を、方向判別結果801とする。図3(a)の例では、画素R2,R6の差の絶対値|R2−R6|が最小となり、45度が方向判別結果として得られる。方向判別部101は、方向判別結果801を表す方向判別情報を出力する(S502)。
なお、ここで説明した、欠陥画素の補完に用いる画素を抽出する方向の判別(方向判別)は、他の方法で行ってもよい。
次に、信号レベル比算出部102は、欠陥画素の周辺にある欠陥画素と同色の画素のうち、方向判別部101から得られた方向判別情報が表す方向(45度)に存在する画素R2、R6の信号レベルを抽出する。
そして、信号レベル比算出部102は、図3(b)に示すように、
・欠陥画素800に隣接する、欠陥画素と異なる色の画素である緑色画素(G8、G11、G12、G15)、
・画素R2に隣接する、画素R2と異なる色の画素である緑色画素(G2、G5、G6、G9)、
・画素R6に隣接する、画素R6と異なる色の画素である緑色画素(G14、G17、G18、G21)
の信号レベルを抽出する。
なお、信号レベルを抽出する画素の色は3箇所とも同じとする。また、欠陥画素、画素R2、画素R6に隣接する、これら画素と異なる色の画素として、緑色画素の代わりに、それぞれの赤色画素の斜め方向に位置する青色画素を抽出してもよい。欠陥画素が青色画素の場合も赤色の場合と同様に処理できる。欠陥画素が緑色画素の場合、欠陥画素に隣接する欠陥画素と異なる色の画素が2つの青色画素と2つの赤色画素となるが、両方の色の画素の信号レベルを抽出してもよいし、一方の色の画素の信号レベルを抽出してもよい。例えば、信号レベル比算出部102は、欠陥画素が緑色画素であれば、3箇所のそれぞれの緑色画素について、上下に隣接する2つの赤色画素と、緑色画素の左右に隣接する2つの青色画素を用いて、以下の式により信号レベル比を算出すればよい。
信号レベル比算出部102は、以下の式(1)、式(2)、式(3)、式(4)に従って、信号レベルの比を算出する(S503)。
欠陥画素800(R4)に隣接する緑色画素の平均値G_AVE0(第1平均値)
G_AVE0 = ( G8 + G11 + G12 + G15 ) / 4 (1)
画素R6に隣接する緑色画素の平均値G_AVE1(第2平均値)
G_AVE1 = ( G14 + G18 + G17 + G21 ) / 4 (2)
画素R2に隣接する緑色画素の平均値G_AVE2(第3平均値)
G_AVE2 = ( G2 + G5 + G6 + G9 ) / 4 (3)
信号レベルの比 = ( G_AVE0 / (( G_AVE1 + G_AVE2 ) / 2 )) (4)
次に、第1補正処理部103は、欠陥画素の周辺にある欠陥画素と同色の画素のうち、方向判別部101から得られた方向判別情報が表す方向(45度)に存在する画素R2、R6の信号レベルを抽出する。そして、第1補正処理部103は、信号レベル比算出部102が式(4)によって求めた信号レベルの比を用い、以下の式(5)に従って、欠陥画素の信号レベルとしての画素補正値を算出する(S504)。
欠陥画素800の補正値
= ( ( R2 + R6 ) / 2 ) ×( G_AVE0 / ( G_AVE1 + G_AVE2 ) / 2 ) (5)
このように、本実施形態によれば、欠陥画素の信号レベルを欠陥画素の周辺にある画素の信号レベルから補完する場合、まず、欠陥画素の周辺にある欠陥画素と同色の画素の組の信号レベルから、補完に用いる画素が存在する方向を特定の方向の中から判別する。この特定の方向は、色フィルタの配列によって決まる複数の方向の中から選択され、ベイヤー配列の場合には0度、45度、90度、135度のいずれかである。
本実施形態ではさらに、欠陥画素に隣接する欠陥画素と異なる色の画素の信号レベルの平均値と、欠陥画素の補完に用いる画素に隣接する、欠陥画素と異なる色の画素の信号レベルの平均値との比を求め、この比を用いて画素補正値を補正する。この補正により、上述の特定の方向と被写体の色エッジの方向のずれを補正した画素補正値を得ることができ、画素補正値の精度を向上させることが可能となる。
なお、上述の説明においては、欠陥画素の補正値の算出に関わる画素がいずれも非欠陥画素である場合について説明した。しかし、信号レベルを抽出する画素に欠陥画素が含まれる場合、その画素を用いないか、(補正対象の欠陥画素から見て)その画素の次に隣接する画素を代わりに用いるようにしてもよい。例えば、図3(a)において画素R2が欠陥画素の場合、45度方向では方向判別を行わないか、画素R2の次の隣接画素(図3(a)には含まれない、45度方向に2画素進んだ位置の赤色画素)の値を用いて45度方向の方向判別を行うことができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。
図4は本実施形態に係る画像処理装置の機能構成例を模式的に示すブロック図である。また、図5は、図4における0度、45度、90度、135度方向の画素補正処理部200−1〜200−4の機能構成例を示すブロック図である。画素補正処理部200−1〜200−4は同一構成でよいため、図5ではいずれか一つを200と記載している。
図4において、方向判別部101は第1の実施形態で説明したものと同じである。画素補正処理部200−1〜200−4は、それぞれ0度方向、45度方向、90度方向、135度方向の画素補正値を算出する。選択部701は、画素補正処理部200−1〜200−4からの画素補正値の1つを、方向判別部101の出力結果を用いて選択し、最終的な画素補正値として出力する。
図5において、信号レベル比算出部102及び、第1補正処理部103の構成は第1の実施形態と同様である。第2補正処理部201は、欠陥画素の周辺にある、欠陥画素と同色の画素の信号レベルの平均値を画素補正データとして算出する。また、第1及び第2重み付け係数算出部202,203、及び重み付け係数選択部204は、全体で、第1補正処理部103及び第2補正処理部201の出力値を重み付け加算するための重み付け係数を算出する。
第1重み付け係数算出部202は、第2補正処理部201から得られた補正値と、第1補正処理部103から得られた補正値と、の重み付け係数α1を算出する。
第2重み付け係数算出部203は、第2補正処理部201から得られた補正値と、第1補正処理部103から得られた補正値と、の重み付け係数α2を算出する。
重み付け係数選択部204は、重み付け係数α2と、重み付け係数α1の一方を選択し、重み付け係数αとして出力する。
第3補正処理部205は、重み付け係数選択部204が出力する重み付け係数αを用いて、第1補正処理部103から得られた補正値と、第2補正処理部201から得られた補正値の重み付け係数を重み付け加算して、欠陥画素の画素補正データを算出する。
図4における各部の動作の詳細を、図6のフローチャートとともに、より具体的に説明する。S501、S502は第1の実施形態と同様であるため説明を省略する。
画素補正処理部200−1〜200−4が、0度方向、45度方向、90度方向、135度方向における画素補正値をそれぞれ算出し、選択部701へ入力する(S1001)。
選択部701は、0度方向、45度方向、90度方向、135度方向における画素補正値のうち、S502で算出された方向判別結果に対応する方向の画素補正値を選択し、最終的な画素補正値として出力する(S1002)。
次に、図6のS1001における画素補正値の算出処理について、図7のフローチャートを用いて説明する。ここでは、画素補正処理部200−1〜200−4の処理を代表して、45度方向の画素補正値を算出する画素補正処理部200−1の処理を説明するが、0度、90度、135度方向の画素補正値算出も同様に行う。また、図7において、S503、S504における処理は第1の実施形態と同様であるため、説明を省略する。なお、第1の実施形態と同様、図3(a)に示した欠陥画素に対する画素補正値を算出するものとする。
(S601)
第2補正処理部201は、式(6)で表されるように、欠陥画素800を挟んで45度方向に存在する、欠陥画素と同色の画素R2,R6の信号レベルの平均値を画素補正データとして算出する。
45度方向の画素補正値= (R2 + R6) / 2 (6)
このように、第2補正処理部201は、第1補正処理部103と異なり、信号レベル比算出部102の算出する比を考慮しない画素補正値を算出する。
(S602)
第1重み付け係数算出部202において、信号レベル比算出部102で算出した3つの信号レベルG_AVE0、G_AVE1、G_AVE2の最小値G_AVE_MINを求める。すなわち、
G_AVE_MIN=最小値(G_AVE0,C_AVE_1,G_AVE2) (7)
である。第1重み付け係数算出部202は算出したG_AVE_MINの値に基づき、第1補正処理部103がS504で算出した画素補正値と、第2補正処理部201がS601で算出した45度方向の画素補正値との重み付け係数α1(0≦α1≦1)を算出する。
図8(a)に、G_AVE_MINと重み付け係数α1との関係例を示す。第1重み付け係数算出部202は、重み付け係数α1が0より大きくなる第1閾値300を設定できる。第1重み付け係数算出部202は、G_AVE_MINが、第1閾値以下の場合、G領域を暗部領域とみなす。第1閾値300は、撮像素子の特性などに応じて予め設定しておくことができる。暗部領域では、信号レベルに対するノイズレベルが相対的に大きくなり、信号レベル比算出部102で算出する比の信頼性が低下する。そのため、第1重み付け係数算出部202は、G_AVE_MINが第1閾値300以下の場合、重み付け係数α1を0とする。
また、第1傾き302は、G_AVE_MINが第1閾値300より大きい場合、G領域が暗部領域の影響を受けないように設定される事が望ましい。第1傾き302の具体的な値は、例えば実験により求めることができる。
なお、ここでは重み付け係数α1を、信号レベルの平均値の最小値G_AVE_MINに応じて設定するものとしたが、
平均値(G_AVE0,C_AVE_1,G_AVE2)
最大値(G_AVE0,C_AVE_1,G_AVE2)
などに応じて重み付け係数α1を算出してもよい。また、図8(a)に記載したG_AVE_MINと重み付け係数α1との関係は、第1重み付け係数算出部202がテーブルとして保持していてもよいし、G_AVE_MINを引数とする関数として記憶しておいてもよい。
(S603)
第2重み付け係数算出部203において、
・欠陥画素800を挟んで45度方向に存在する、欠陥画素と同色の画素R2,R6の信号レベルと、
・欠陥画素800に隣接する、欠陥画素と異なる色の画素G8、G11、G12、G15の信号レベルと、
・欠陥画素800と45度方向で欠陥画素と隣接する欠陥画素と同色の画素R2及びR6の各々に隣接する、欠陥画素と異なる色の画素G2、G5、G6、G9及びG14、G17、G18、G21の信号レベルと、を抽出する。
第2重み付け係数算出部203は、抽出した信号レベルの最大値RG_MAXを求める。すなわち、
RG_MAX=最大値(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19) (8)
である。第2重み付け係数算出部203は算出したRG_MAXの値に基づき、第1補正処理部103がS504で算出した画素補正値と、第2補正処理部201がS601で算出した画素補正値の重み付け係数α2(0≦α2≦1)を算出する。
図8(b)に、RG_MAXと重み付け係数α2との関係例を示す。第2重み付け係数算出部203は、重み付け係数α2が0となる第2閾値400を設定できる。第2重み付け係数算出部203は、RG_MAXが、第2閾値以上の場合、G領域を飽和領域とみなす。第2閾値400は、撮像素子の特性などに応じて予め設定しておくことができる。飽和領域でもやはり信号レベル比算出部102で算出する比の信頼性が低下する。そのため、第2重み付け係数算出部203は、G_MAXが第2閾値400以上の場合、重み付け係数α2を0とする。
なお、ここでは重み付け係数α2を、信号レベルの最大値RG_MAXに応じて設定するものとしたが、
平均値(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19)
最小値(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19)
などに応じて重み付け係数α2を算出してもよい。また、図8(b)に記載したRG_MAXと重み付け係数α2との関係は、第2重み付け係数算出部203がテーブルとして保持していてもよいし、RG_MAXを引数とする関数として記憶しておいてもよい。
また、第2傾き402はRG_MAXが、第2閾値400未満の場合、飽和領域の影響を受けないように設定される事が望ましい。第2傾き402の具体的な値は、例えば実験により求めることができる。
(S604)
重み付け係数選択部204において、S602で算出した重み付け係数α1と、S603で算出した重み付け係数α2を比較して、小さい方の値を最終的な重み付け係数αとして算出(選択)する。すなわち、
重み付け係数α=最小値(重み付け係数α1、重み付け係数α2) (9)
である。
小さい重み付け係数を選択することにより、信号レベル比算出部102の算出する、色信号レベルの比の信頼度が低い場合には、色信号レベルの比を考慮した画素補正値の重みが小さくなり、暗部領域や飽和領域の影響を抑制することができる。
(S605)
第3補正処理部205が、式(10)により、45度方向の最終的な画素補正値を算出する。
欠陥画素800の45度方向の最終的な画素補正値
= 第2補正処理部201が算出した画素補正値×(1−α)+第1補正処理部103が算出した補正値×α (10)
以上説明したように、本実施形態によれば、信号レベル比算出部102の算出する色信号レベルの比を考慮しない画素補正値と、信号レベル比算出部102の算出する色信号レベルの比を考慮した画素補正値とを重み付け加算して最終的な画素補正値を求める。そして、信号レベル比算出部102の算出する色信号レベルの比の信頼度が低いと考えられる場合には、色信号レベルの比を考慮した画素補正値の重みを減らす。そのため、色信号レベルの比の信頼度が高い場合には第1の実施形態と同様の効果が得られ、色信号レベルの比の信頼度が低い場合には画素補正値の誤補正を抑制できる。
なお、第2の実施形態においても、欠陥画素、画素R2、画素R6に隣接するこれら画素と異なる色の画素として、緑色画素の代わりに青色画素を抽出してもよい。上述した処理は欠陥画素が青色画素の場合もそのまま適用できる。ただし、赤色画素に隣接する画素として青色画素よりも緑色画素を用いたほうが、赤色画素との距離が近くなるため、緑色画素を用いたほうが補正精度は高くなると考えられる。また、欠陥画素が緑色画素の場合、欠陥画素に隣接する欠陥画素と異なる色の画素が2つの青色画素と2つの赤色画素となるが、両方の色の画素の信号レベルを抽出してもよいし、一方の色のみの画素の信号レベルを抽出してもよい。
(その他の実施形態)
上述の実施形態においては、ベイヤー配列の色フィルタを備えた撮像素子によって撮像された画像データを対象とする場合について説明した。しかし、本発明の原理は複数の特定色が規則的に配列された色フィルタを備えた撮像素子によって撮像された画像データに対して適用可能である。
また、第2の実施形態においては、方向判別部101で判別されうる各方向(ベイヤー配列の色フィルタの場合0度、45度、90度、135度)について画素補正値を生成し、方向判別部101での方向判別結果によって1つを選択する構成を説明した。しかし、第1の実施形態と同様、方向判別部101で判別された方向について画素補正値を算出するように構成してもよい。この場合、選択部701は不要となり、画素補正処理部200−1〜200−4は1つでよく、方向判別部101の出力が信号レベル比算出部102、第1及び第2補正処理部103、201に供給される。そして、信号レベル比算出部102、第1及び第2補正処理部103、201は、上述した45度の方向に代えて、判別された方向について同様の処理を行う。そして、第3補正処理部205の出力が欠陥画素の画素補正値となる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (8)

  1. 複数の特定色が規則的に配列された色フィルタを備えた撮像素子によって撮像された画像データに含まれる、前記撮像素子の欠陥画素の信号レベルを補正する画像処理装置であって、
    前記欠陥画素を挟んで位置する前記欠陥画素と同色の画素の複数組のそれぞれについての信号レベルの差から、前記欠陥画素からどの方向に位置する画素を前記欠陥画素の信号レベルの算出に用いるかを判別する判別手段と、
    前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベル、との比を求める比算出手段と、
    前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素の信号レベルの平均値に、前記比算出手段で算出した比を乗じた値を、前記欠陥画素の信号レベルとして出力する第1補正処理手段とを有することを特徴とする画像処理装置。
  2. 前記画素の信号レベルの平均値を出力する第2補正処理手段と、
    前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベルとから、重み付け係数とを算出する係数算出手段と、
    前記係数算出手段が算出した前記重み付け係数を用いて、前記第1補正処理手段が出力する値と前記第2補正処理手段の出力する値を重み付け加算して、前記欠陥画素の信号レベルとして出力する第3補正処理手段と、をさらに有し、
    前記係数算出手段は、前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベルとが、予め定めた暗部領域もしくは飽和領域に含まれる場合には、前記重み付け加算における前記第1補正処理手段が出力する値の重み付け係数を0とすることを特徴とする請求項1記載の画像処理装置。
  3. 前記係数算出手段は、前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベルとが、予め定めた暗部領域もしくは飽和領域に含まれない場合には、前記重み付け加算における前記第1補正処理手段が出力する値の重み付け係数を1とすることを特徴とする請求項2記載の画像処理装置。
  4. 前記係数算出手段は、
    前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルの平均値と、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベルの平均値とが、予め定めた第1閾値以下の場合、または
    前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベルの最大値とが、予め定めた第2閾値以上の場合に、前記重み付け加算における前記第1補正処理手段が出力する値の重み付け係数を0とすることを特徴とする請求項2又は請求項3記載の画像処理装置。
  5. 前記判別手段が、前記欠陥画素を挟んで位置する前記欠陥画素と同色の画素の複数組のうち、信号レベルの差が最小となる画素の組の位置から、前記方向を判別することを特徴とする請求項1乃至請求項4のいずれか1項に記載の画像処理装置。
  6. 前記比算出手段が、前記欠陥画素に隣接する前記欠陥画素と異なる色の複数の画素の信号レベルの平均値である第1平均値と、前記欠陥画素から前記判別手段で判別された方向に位置する前記欠陥画素と同色の2つの画素のそれぞれについて、隣接する前記欠陥画素と異なる色の複数の画素の信号レベルの平均値である第2平均値及び第3平均値とを求め、前記第1平均値 / ((前記第2平均値+前記第3平均値) / 2)を前記比として求めることを特徴とする請求項1乃至請求項5のいずれか1項に記載の画像処理装置。
  7. 複数の特定色が規則的に配列された色フィルタを備えた撮像素子によって撮像された画像データに含まれる、前記撮像素子の欠陥画素の信号レベルを補正する画像処理装置の制御方法であって、
    前記画像処理装置の判別手段が、前記欠陥画素を挟んで位置する前記欠陥画素と同色の画素の複数組のそれぞれについての信号レベルの差から、前記欠陥画素からどの方向に位置する画素を前記欠陥画素の信号レベルの算出に用いるかを判別する判別工程と、
    前記画像処理装置の比算出手段が、前記欠陥画素に隣接する前記欠陥画素と異なる色の画素の信号レベルと、前記欠陥画素から前記判別工程で判別された方向に位置する前記欠陥画素と同色の画素、に隣接する前記欠陥画素と異なる色の画素の信号レベル、との比を求める比算出工程と、
    前記画像処理装置の第1補正処理手段が、前記欠陥画素から前記判別工程で判別された方向に位置する前記欠陥画素と同色の画素の信号レベルの平均値に、前記比算出工程で算出した比を乗じた値を、前記欠陥画素の信号レベルとして出力する第1補正処理工程とを有することを特徴とする画像処理装置の制御方法。
  8. コンピュータを、請求項1乃至請求項6のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2012140037A 2011-08-09 2012-06-21 画像処理装置及びその制御方法 Expired - Fee Related JP6046927B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012140037A JP6046927B2 (ja) 2011-08-09 2012-06-21 画像処理装置及びその制御方法
US14/131,377 US9030579B2 (en) 2011-08-09 2012-08-07 Image processing apparatus and control method that corrects a signal level of a defective pixel
CN201280038880.0A CN103733608B (zh) 2011-08-09 2012-08-07 图像处理设备及其控制方法
EP12751132.7A EP2742681B1 (en) 2011-08-09 2012-08-07 Image processing apparatus and control method therefor
PCT/JP2012/070586 WO2013022113A1 (en) 2011-08-09 2012-08-07 Image processing apparatus and control method therefor

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011174252 2011-08-09
JP2011174252 2011-08-09
JP2012140037A JP6046927B2 (ja) 2011-08-09 2012-06-21 画像処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2013055640A true JP2013055640A (ja) 2013-03-21
JP2013055640A5 JP2013055640A5 (ja) 2015-08-06
JP6046927B2 JP6046927B2 (ja) 2016-12-21

Family

ID=46750394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012140037A Expired - Fee Related JP6046927B2 (ja) 2011-08-09 2012-06-21 画像処理装置及びその制御方法

Country Status (5)

Country Link
US (1) US9030579B2 (ja)
EP (1) EP2742681B1 (ja)
JP (1) JP6046927B2 (ja)
CN (1) CN103733608B (ja)
WO (1) WO2013022113A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017041738A (ja) * 2015-08-19 2017-02-23 株式会社東芝 固体撮像装置
KR20180080180A (ko) * 2016-11-30 2018-07-11 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 이미지 데드 픽셀 보상 방법, 장치 및 비 일시적 컴퓨터 판독 저장 매체

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9756353B2 (en) 2012-01-09 2017-09-05 Dolby Laboratories Licensing Corporation Hybrid reference picture reconstruction method for single and multiple layered video coding systems
EP2997732A1 (en) * 2013-05-15 2016-03-23 VID SCALE, Inc. Single loop decoding based inter layer prediction
JP2017055308A (ja) 2015-09-10 2017-03-16 キヤノン株式会社 撮像装置及びその制御方法
JP2017055309A (ja) * 2015-09-10 2017-03-16 キヤノン株式会社 撮像装置及びその制御方法
WO2018020685A1 (ja) * 2016-07-29 2018-02-01 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
US10536621B2 (en) * 2016-10-19 2020-01-14 Canon Kabushiki Kaisha Image capturing apparatus, storage medium and controlling method for correcting a second image by correcting a pixel value of the second image corresponding to a detected defective pixel
EP3688981B1 (en) * 2017-10-19 2024-02-28 Zhejiang Dahua Technology Co., Ltd. Methods and devices for processing images
JP2023010159A (ja) * 2021-07-09 2023-01-20 株式会社ソシオネクスト 画像処理装置および画像処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001307079A (ja) * 2000-04-26 2001-11-02 Seiko Epson Corp 画像処理装置、画像処理方法および記録媒体
JP2001339735A (ja) * 2000-03-24 2001-12-07 Sanyo Electric Co Ltd 単板式カラーカメラの色分離回路
JP2003116060A (ja) * 2001-10-03 2003-04-18 Olympus Optical Co Ltd 欠陥画素補正装置
JP2006166450A (ja) * 2004-12-09 2006-06-22 Agilent Technol Inc ディジタルイメージセンサ内の不良ピクセルを検出及び補正するためのシステム及び方法。
JP2007282109A (ja) * 2006-04-11 2007-10-25 Nikon Corp 撮像装置、カメラおよび画像処理方法
JP2009218994A (ja) * 2008-03-12 2009-09-24 Victor Co Of Japan Ltd 撮像装置及びこれに用いる欠陥画素補正方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7477781B1 (en) * 2002-10-10 2009-01-13 Dalsa Corporation Method and apparatus for adaptive pixel correction of multi-color matrix
EP1655621A1 (en) 2003-07-16 2006-05-10 Canon Kabushiki Kaisha Ground survey device, system, and method
JP2005167974A (ja) * 2003-11-10 2005-06-23 Seiko Epson Corp 画像処理方法及び画像処理装置、画像処理プログラム並びに半導体装置
US7667747B2 (en) * 2006-03-15 2010-02-23 Qualcomm Incorporated Processing of sensor values in imaging systems
JP5038005B2 (ja) 2007-04-13 2012-10-03 キヤノン株式会社 撮像装置及び画像処理方法
JP5655355B2 (ja) * 2009-11-02 2015-01-21 ソニー株式会社 画素欠陥補正装置、撮像装置、画素欠陥補正方法、およびプログラム
JP2011174252A (ja) 2010-02-23 2011-09-08 Takenaka Komuten Co Ltd 多段拡径杭及び構造物
US8351696B2 (en) * 2010-09-17 2013-01-08 Foveon, Inc. Correcting defective pixels in digital color images
JP5602008B2 (ja) 2010-12-28 2014-10-08 アルパイン株式会社 車載装置及び携帯装置
CN103404123B (zh) * 2011-02-28 2017-10-20 富士胶片株式会社 成像装置和缺陷像素校正方法
JP5898428B2 (ja) * 2011-08-09 2016-04-06 キヤノン株式会社 画像処理装置及びその制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001339735A (ja) * 2000-03-24 2001-12-07 Sanyo Electric Co Ltd 単板式カラーカメラの色分離回路
JP2001307079A (ja) * 2000-04-26 2001-11-02 Seiko Epson Corp 画像処理装置、画像処理方法および記録媒体
JP2003116060A (ja) * 2001-10-03 2003-04-18 Olympus Optical Co Ltd 欠陥画素補正装置
JP2006166450A (ja) * 2004-12-09 2006-06-22 Agilent Technol Inc ディジタルイメージセンサ内の不良ピクセルを検出及び補正するためのシステム及び方法。
JP2007282109A (ja) * 2006-04-11 2007-10-25 Nikon Corp 撮像装置、カメラおよび画像処理方法
JP2009218994A (ja) * 2008-03-12 2009-09-24 Victor Co Of Japan Ltd 撮像装置及びこれに用いる欠陥画素補正方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017041738A (ja) * 2015-08-19 2017-02-23 株式会社東芝 固体撮像装置
KR20180080180A (ko) * 2016-11-30 2018-07-11 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 이미지 데드 픽셀 보상 방법, 장치 및 비 일시적 컴퓨터 판독 저장 매체
JP6461430B1 (ja) * 2016-11-30 2019-01-30 広東欧珀移動通信有限公司 画像の不良画素補償方法、装置及び非一時的なコンピュータ可読記憶媒体
JP2019507361A (ja) * 2016-11-30 2019-03-14 広東欧珀移動通信有限公司 画像の不良画素補償方法、装置及び非一時的なコンピュータ可読記憶媒体
US10438330B2 (en) 2016-11-30 2019-10-08 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Method and device for compensating dead pixels of image, and non-transitory computer-readable storage medium
KR102049681B1 (ko) 2016-11-30 2019-11-27 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 이미지 데드 픽셀 보상 방법, 장치 및 비 일시적 컴퓨터 판독 저장 매체

Also Published As

Publication number Publication date
EP2742681B1 (en) 2017-05-31
CN103733608B (zh) 2017-02-15
CN103733608A (zh) 2014-04-16
US9030579B2 (en) 2015-05-12
EP2742681A1 (en) 2014-06-18
JP6046927B2 (ja) 2016-12-21
US20140125847A1 (en) 2014-05-08
WO2013022113A1 (en) 2013-02-14

Similar Documents

Publication Publication Date Title
JP6046927B2 (ja) 画像処理装置及びその制御方法
JP5016255B2 (ja) ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ
RU2527198C2 (ru) Устройство обработки изображения и способ управления устройством обработки изображения
JP5060535B2 (ja) 画像処理装置
CN110557584B (zh) 图像处理方法及装置、计算机可读存储介质
JP2007312304A (ja) 画像処理装置および画像処理方法
JP2008113222A (ja) 画像処理装置、撮影装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム
JP2011254321A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5169994B2 (ja) 画像処理装置、撮像装置及び画像処理方法
EP3953896B1 (en) High-dynamic-range image generation with pre-combination denoising
TWI449027B (zh) 適應性畫素補償方法
JP4717371B2 (ja) 画像処理装置および画像処理プログラム
JP2014027373A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4380399B2 (ja) 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム
JP5898428B2 (ja) 画像処理装置及びその制御方法
US9918028B2 (en) Image capturing apparatus comprising a plurality of processing circuits for correcting defective pixel by using information of defective pixel detected in different frames and control method for the same
KR101327790B1 (ko) 영상 보간 방법 및 장치
JP5484015B2 (ja) 撮像装置、撮像方法、及びプログラム
JP2008148115A (ja) 方向検出を用いた撮像デバイスの画像欠陥補正システム
KR20130021977A (ko) 이미지 센서의 픽셀 간 오프셋 보정 장치 및 그 보정 방법
JP2010028374A (ja) 画像処理装置および画像信号の補間処理方法、画像処理プログラム
JP2014110507A (ja) 画像処理装置および画像処理方法
JP2014086957A (ja) 画像処理装置及び画像処理方法
JP2009017583A (ja) 画像処理装置
JP5775413B2 (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150618

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161118

R151 Written notification of patent or utility model registration

Ref document number: 6046927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees