JP4745816B2 - 画像処理回路及び画像処理方法 - Google Patents

画像処理回路及び画像処理方法 Download PDF

Info

Publication number
JP4745816B2
JP4745816B2 JP2005366970A JP2005366970A JP4745816B2 JP 4745816 B2 JP4745816 B2 JP 4745816B2 JP 2005366970 A JP2005366970 A JP 2005366970A JP 2005366970 A JP2005366970 A JP 2005366970A JP 4745816 B2 JP4745816 B2 JP 4745816B2
Authority
JP
Japan
Prior art keywords
pixel
processing target
defect
color
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005366970A
Other languages
English (en)
Other versions
JP2007174104A (ja
Inventor
幸一 井倉
智博 福岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2005366970A priority Critical patent/JP4745816B2/ja
Priority to EP06126717.5A priority patent/EP1801752B1/en
Priority to KR1020060131006A priority patent/KR100893306B1/ko
Priority to TW095148080A priority patent/TWI369645B/zh
Priority to CN2006101683044A priority patent/CN1988673B/zh
Priority to US11/642,055 priority patent/US7978383B2/en
Publication of JP2007174104A publication Critical patent/JP2007174104A/ja
Application granted granted Critical
Publication of JP4745816B2 publication Critical patent/JP4745816B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/13Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/401Compensating positionally unequal response of the pick-up or reproducing head
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、画像処理回路及び画像処理方法に係り、詳しくはカラー画像データに対する補正処理及び補正方法に関するものである。
近年、CCD等のように、光を受光する画素をマトリックス状に配列した固体撮像装置が多く利用されている。カラー画像データは、赤色(R)と緑色(G)と青色(B)それぞれの光を受光する画素から出力される画像データから構成される。固体撮像装置は、製造プロセス等による構造的な欠陥が存在する画素を含む場合があるため、この欠陥を含む画素により生成された画像データを、その画素の近傍に位置する画素により生成された画像データにより補正する必要がある。
従来、カラー画像データを生成する固体撮像装置は、1つの赤色フィルタ(R)と2つの緑色フィルタ(Gr,Gb)と1つの青色フィルタ(B)とをベイヤ配列したフィルタ部と、各フィルタを透過した光をそれぞれ受光する複数の受光素子(画素)からなる撮像部とから構成されている(第1従来例)。従って、カラー画像データを生成する1つ画素は4つのフィルタと4つの受光素子とから構成され、1つの画素に対する画像データは、4つの色データ(R,Gr,Gb,B)から構成されている。
固体撮像装置を構成する受光素子には、受光光量に対するデータ量(電圧,電流)、所謂光電変換効率が他の多くの受光素子と異なるといった、製造プロセス等による構造的な欠陥が存在する場合がある。この欠陥は、画素を構成する4つの受光素子のうちのいくつかの受光素子に含まれる。すると、1つの画素に対する画像データを構成する4つの色データのいくつかが被写体の色と異なってしまう。このため、固体撮像装置により生成された画像データを処理する画像処理回路には、各色データの値と閾値とを比較して各受光素子における欠陥の有無を検出し、欠陥を有すると判定した受光素子により生成された色データを補正する。
上記第1従来例の固体撮像装置は、1つの画素が同一平面上に配列された4つの受光素子から構成されている。従って、各受光素子における入射光量は、1つの画素に入射する光の1/4であるため、各受光素子では1つの画素領域に照射される光の1/4しか利用することができない。また、各受光素子は、ベイヤ配列された各色のフィルタを透過した光を受光する。このため、赤色と青色は1列毎に受光されるとともに、各色の光は1つおきの素子により受光される。この結果、各色における受光素子の間隔が広くなって解像度をあげることが難しい。
上記問題点に対し、近年、複数の受光素子を、受光面と直交する方向に沿って配列した固体撮像装置がある(第2従来例)。半導体基板に入射された光は、光を受光する表面からそれぞれの波長に応じた深さまで到達する。従って、受光面と直交する方向に沿って配列された3つの受光素子は、配置された位置に応じた波長の光を電気信号に変換する。各受光素子の受光面積は、1つの画素の面積と同じである。従って、各受光素子は、画素の入射光の全てを電気信号に変換するため、第1従来例に比べて入射光量の利用率が高く、データ量が多くなる。また、各色の受光素子は、受光面に沿ってそれぞれ隣接しているため、解像度を上げることができる。
ところが、上記第2従来例の固体撮像装置においても、画素の受光素子に欠陥が生じる場合がる。そして、第2従来例は、受光素子が受光面と直交する方向に配列されているため、1つ色の受光素子に欠陥が含まれる場合、他の色受光素子にも欠陥が含まれる可能性が高い。しかし、上記の画像処理回路では、1つの色データに基づいて欠陥を検出しても、他の色データの値が閾値を超えていない場合に欠陥が検出されず、補正されない場合がある。その結果、補正されていない色データが被写体の色と異なって色ずれを起こすという問題があった。
本発明は上記問題点を解決するためになされたものであって、その目的は、複数層の受光素子からなる画素がマトリックス状に配列された固体撮像装置により生成された色データを補正して色ずれを低減することができる画像処理回路及び画像処理方法を提供することにある。
上記目的を達成するため、請求項に記載の発明によれば、各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、第1閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する複数の第1欠陥判定回路と、各色に対応し、対応しない色の第1欠陥判定回路の判定結果に基づいて、該対応しない色の処理対象画素に欠陥がある場合に、処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、前記第1閾値より小さい第2閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する複数の第2欠陥判定回路と、各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値に基づいて前記処理対象画素の補正値を生成する複数の補正回路と、を備え、各色に対応する補正回路は、それぞれ対応する色の第1欠陥判定回路及び第2欠陥判定回路の判定結果に基づき、対応する色の処理対象画素に欠陥があると判定された場合に前記補正値を生成するようにした。その結果、第1欠陥判定回路により欠陥無しと判定された色の処理対象画素についても、第2欠陥判定回路により欠陥有りと判定される場合があるため、その色の画素値に対する補正値が生成され、色ずれが低減される。また、第1欠陥判定回路により欠陥無しと判定された色の処理対象画素について、第2欠陥判定回路においても欠陥なし判定される場合があり、補正が不要な処理対象画素に対する補正値の生成をキャンセルすることで、その処理対象画素の画素値が被写体の色からずれることが防止される。
請求項に記載の発明によれば、各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、第1閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する第1の欠陥判定を行い、対応しない色の第1の欠陥判定の判定結果に基づいて、該対応しない色の処理対象画素に欠陥があると判定された場合に、対応する色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、前記第1閾値より小さい第2閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する第2の欠陥判定を行い、前記第1の欠陥判定と前記第2の欠陥判定に基づいて、対応する色の処理対象画素に欠陥があると判定された場合に、対応する色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値に基づいて前記処理対象画素の補正値を生成するようにした。その結果、第1欠陥判定回路により欠陥無しと判定された色の処理対象画素についても、第2欠陥判定回路により欠陥有りと判定される場合があるため、その色の画素値に対する補正値が生成され、色ずれが低減される。また、第1欠陥判定回路により欠陥無しと判定された色の処理対象画素について、第2欠陥判定回路においても欠陥なし判定される場合があり、補正が不要な処理対象画素に対する補正値の生成をキャンセルすることで、その処理対象画素の画素値が被写体の色からずれることが防止される。
本発明によれば、複数層の受光素子からなる画素がマトリックス状に配列された固体撮像装置により生成された色データを補正して色ずれの低減が可能な画像処理回路及び画像処理方法を提供することができる。
(第一実施形態)
以下、本発明を具体化した第一実施形態を図面に従って説明する。
図1に示すように、画像処理回路10は、赤色(R)と緑色(G)と青色(B)の色データRin,Gin,Binに基づいて、色データを生成する画素に欠陥があるか否かを判断し、その判断結果に基づいて、少なくとも1色の画素に欠陥があると判断した場合には、すべての色の画素に対して補正処理を行うように構成されている。
各色の色データRin,Gin,Binは、CMOSイメージセンサ等の固体撮像装置により生成される。固体撮像装置の1画素は、図2に示すように、シリコン基板に埋め込まれた3層の受光素子としてのピクセルセンサPB、PG、PRから構成されている。シリコンは、異なる深度で異なる色の光を吸収するため、それぞれの層PB,PG,PRは、深さに対応する波長の色を取り込み、入射光量に応じた画素値の信号を出力する。
図1に示す画像処理回路10は、処理する対象である処理対象画素の画素値と、その処理対象画素の近傍に位置する複数の画素(本実施形態では処理対象画素と隣接する周辺の8つの画素)の画素値とに基づいて、欠陥判定及び補正処理を行うように構成されている。つまり、赤色の色データRinは、処理対象画素R11の画素値と、その周辺の画素R00,R01,R01,R10,R12,R20,R21,R22それぞれの画素値と、つまり3×3画素の画素値から構成されている。そして、画像処理回路10は、画素R00〜R22の画素値に基づいて、処理対象画素R11に対する欠陥判定と、欠陥がある場合にその画素R11の画素値を補正した補正画素値を生成する。同様に、緑色の色データGinは、画素G00〜G22の画素値から構成され、処理対象画素G11の画素値に基づいて、欠陥判定と、欠陥がある場合にその画素G11の画素値を補正した補正画素値を生成する。同様に、緑色の色データBinは、画素B00〜B22の画素値から構成され、処理対象画素B11の画素値に基づいて、欠陥判定と、欠陥がある場合にその画素B11の画素値を補正した補正画素値を生成する。
画像処理回路10は、各色に対応する3つの欠陥判定回路11R,11G,11B及び3つの補正回路12R,12G,12Bを備え、欠陥判定のための閾値が予め設定されている。
赤色の欠陥判定回路11Rは、赤色の色データRinに基づいて、処理対象画素R11に欠陥があるか否かを判定する。本実施形態における欠陥判定は、その画素R11を通る直線上の1組の周辺画素の画素値の平均値と処理対象画素R11の画素値との差の絶対値と閾値とを比較する比較処理を、すべての周辺画素について行う。そして、赤色の欠陥判定回路11Rは、少なくとも1組の周辺画素について差の絶対値(差分値)が閾値より大きい場合に、処理対象画素R11に欠陥があると判定し、全ての差分値が閾値より小さい場合に処理対象画素R11に欠陥がないと判定する。
即ち、赤色の欠陥判定回路11Rは、処理対象画素R11の画素値と周辺画素R01,R21画素値とに基づいて、差分値|R11−(R01+R21)/2|と閾値とを比較する。同様に、赤色の欠陥判定回路11Rは、差分値|R11−(R10+R12)/2|と閾値、差分値|R11−(R00+R22)/2|と閾値、差分値|R11−(R02+R20)/2|と閾値とを比較する。そして、赤色の欠陥判定回路11Rは、全ての比較結果に基づいて処理対象画素R11の欠陥の有無を判定し、赤色の判定信号SRを生成する。本実施形態において、赤色の欠陥判定回路11Rは、少なくとも1つの差分値が閾値より大きい場合に処理対象画素R11に欠陥があると判定し、Hレベルの赤色の判定信号SRを生成し、全ての差分値が閾値以下の場合にLレベルの判定信号SRを生成する。
同様に、緑色の欠陥判定回路11Gは、緑色の色データGinに基づいて処理対象画素G11に欠陥があるか否かを判定し、緑色の判定信号SGを生成する。また、青色の欠陥判定回路11Bは、青色の色データBinに基づいて処理対象画素B11に欠陥があるか否かを判定し、第3判定信号SBを生成する。
各色の判定信号SR,SG,SBは、全ての補正回路12R,12G,12Bに入力される。即ち、各補正回路12R,12G,12Bには、各陥判定回路11R,11G,11Bにて生成された判定信号SR,SG,SBを論理和合成した合成信号が入力されることとなる。
各補正回路12R,12G,12Bは、合成信号に基づいて、3つの処理対象画素R11,G11,B11のうちの少なくとも1つに欠陥がある場合、それぞれに対応する処理対象画素R11,G11,B11の画素値を補正した補正画素値を生成する。例えば、赤色の補正回路12Rは、合成信号、つまり赤色の〜第3判定信号SR,SG,SBに基づいて、処理対象画素R11,G11,B11のうちの少なくとも1つに欠陥がある場合、処理対象画素R11の画素値を、その画素値と周辺画素の画素値とに基づいて補正する。補正値の算出方法として、例えば、周辺画素の画素値の平均値を算出し、その平均値を補正値とする方法がある。
同様に、緑色の補正回路12Gは、赤色の〜第3判定信号SR,SG,SBに基づいて、処理対象画素G11の画素値を補正する。更に、第3補正回路12Bは、赤色の〜第3判定信号SR,SG,SBに基づいて、処理対象画素B11の画素値を補正する。
つまり、3つの処理対象画素R11,G11,B11のうちの少なくとも1つに欠陥がある場合、画像処理回路10は、全ての処理対象画素R11,G11,B11の画素値を補正する。これにより、欠陥による色ずれを防ぐことができる。
つまり、従来の補正方法では、赤色の欠陥判定回路11Rにおいて処理対象画素R11に欠陥があると判定しても、被写体の色によって他の色(G,B)の欠陥判定回路11G,11Bにおいて欠陥ありと判定されない場合がある。しかし、図2に示す画素の場合、1つのピクセルセンサPRに欠陥がある場合、他のピクセルセンサPG,PBにも欠陥がある可能性が高い。
このため、各色の処理対象画素R11,G11,B11のうちの少なくとも1つに欠陥があると判定した場合、全ての画素R11,G11,B11の画素値を補正することで、欠陥による色ずれを防ぐことができる。
以上記述したように、本実施形態によれば、以下の効果を奏する。
(1)各色に対応する欠陥判定回路11R,11G,11Bは、各色の色データRin,Gin,Binの処理対象画素R11,G11,B11の画素値及び周辺画素の画素値に基づいて、処理対象画素R11,G11,B11に欠陥があるか否かを判定し、判定信号SR,SG,SBを生成する。各色に対応する補正回路12R,12G,12Bは、各色の色データRin,Gin,Binの処理対象画素R11,G11,B11の画素値及び周辺画素の画素値に基づいて、処理対象画素R11,G11,B11の補正値を生成する。そして、全ての補正回路12R,12G,12Bは、対応する色の欠陥判定回路と対応しない色の欠陥判定回路の判定結果に基づき、複数の色の処理対象画素のうちの少なくとも1つに欠陥があると判定した場合にそれぞれ前記補正値を生成する。その結果、各色の処理対象画素R11,G11,B11のうちの1つに欠陥があると判定された場合に全ての処理対象画素R11,G11,B11について補正値が生成されるため、色ずれが低減される。
(第二実施形態)
以下、本発明を具体化した第二実施形態を図面に従って説明する。
尚、本実施形態において、第一実施形態と同じ部材については同じ符号を付し、一部の説明を省略する。
図3に示すように、画像処理回路20は、各色に対応する3つの第1欠陥判定回路11R,11G,11Bと、3つの第2欠陥判定回路21R,21G,21Bと、3つの補正回路12R,12G,12Bを備え、欠陥判定のための閾値が予め設定されている。
各色の第1欠陥判定回路11R,11G,11Bは、第一実施形態と同様に、それぞれ対応する色の色データRin,Gin,Binに基づいて、処理対象画素R11に欠陥があるか否かを判定する第1判定処理を行い、第1判定信号SR,SG,SBを生成する。
各色の第2欠陥判定回路21R,21G,21Bは、対応する色とは異なる色、つまり対応しない色の欠陥判定回路の判定信号に基づいて、それぞれの欠陥判定回路が欠陥ありと判定した場合に第2判定処理を行い、その判定結果に基づく第2判定信号SRa,SGa,SBaを生成する。第2判定処理は、第1欠陥判定回路11R,11G,11Bにて用いられた閾値のn分の1(=1/n)(nは1より大きい正数)を第2閾値とし、この第2閾値と第一実施形態における差分値とを比較し、該比較結果に基づいて対応する色のピクセルセンサに欠陥があるか否かを判定し、その判定結果に応じた第2判定信号を生成するものである。
例えば、赤色に対応する第2欠陥判定回路21Rは、対応しない緑色の第欠陥判定回路1Gの第1判定信号SGと、対応しない青色の第欠陥判定回路1Bの第1判定信号SBとに基づいて、対応しない緑色と青色の処理対象画素G11,B11に欠陥がある場合、対応する赤色の処理対象画素R11に欠陥があるか否かを判定する第2判定処理を行う。その第2判定処理において、第2欠陥判定回路21Rは、処理対象画素R11の画素値と周辺画素R01,R21画素値とに基づいて、差分値|R11−(R01+R21)/2|と閾値/n(第2閾値)とを比較する。同様に、赤色の欠陥判定回路11Rは、差分値|R11−(R20+R12)/2|と閾値/n、差分値|R11−(R00+R22)/2|と閾値/n、差分値|R11−(R02+R20)/2|と閾値/nとを比較する。そして、第2欠陥判定回路21Rは、全ての比較結果に基づいて処理対象画素R11の欠陥の有無を判定し、第2判定信号SRaを生成する。本実施形態において、第2欠陥判定回路21Rは、少なくとも1つの差分値が閾値/nより大きい場合に処理対象画素R11に欠陥があると判定し、Hレベルの第2判定信号SRaを生成し、全ての差分値が閾値/n以下の場合にLレベルの第2判定信号SRaを生成する。
つまり、第2欠陥判定回路21Rは、第1欠陥判定回路11Rよりも小さな閾値により処理対象画素R11における欠陥の有無を判定する。そして、第2欠陥判定回路21Rは、その判定結果に応じた第2判定信号SRaを生成する。
同様に、緑色に対応する第2欠陥判定回路21Gは、対応しない赤色と青色の第欠陥判定回路1R,1Bの第1判定信号SR,SBに基づき、対応しない赤色と青色の処理対象画素R11,B11に欠陥がある場合、対応する緑色の処理対象画素G11に欠陥があるか否かを判定する第2判定処理を行い、第2判定信号SGaを生成する。同様に、青色に対応する第2欠陥判定回路21Bは、対応しない赤色と緑色の第欠陥判定回路1R,1Gの第1判定信号SR,SGに基づき、対応しない赤色と緑色の処理対象画素R11,G11に欠陥がある場合、対応する緑色の処理対象画素B11に欠陥があるか否かを判定する第2判定処理を行い、第2判定信号SGaを生成する。
赤色の補正回路12Rは、第1欠陥判定回路11Rの第1判定信号SRと第2欠陥判定回路21Rの第2判定信号SRaとに基づいて、少なくとも一方が欠陥有りを示す場合に、第一実施形態と同様にして、対応する処理対象画素R11の画素値を補正した補正画素値を生成する。同様に、緑色の補正回路12Gは、第1欠陥判定回路11Gの第1判定信号SGと第2欠陥判定回路21Gの第2判定信号SGaとに基づいて、少なくとも一方が欠陥有りを示す場合に、第一実施形態と同様にして、対応する処理対象画素G11の画素値を補正した補正画素値を生成する。同様に、青色の補正回路12Bは、第1欠陥判定回路11Bの第1判定信号SBと第2欠陥判定回路21Bの第2判定信号SBaとに基づいて、少なくとも一方が欠陥有りを示す場合に、第一実施形態と同様にして、対応する処理対象画素B11の画素値を補正した補正画素値を生成する。
上記のように構成された画像処理回路20の作用を説明する。
今、赤色の第1欠陥判定回路11Rが欠陥有りと判定し、緑色の第1欠陥判定回路11Gと青色の第1欠陥判定回路11Bが欠陥なしと判定している。
赤色の第2欠陥判定回路21Rは、対応しない緑色と青色の第1判定信号SG,SBが欠陥無しを示すため、第2判定処理を実施しない。緑色の第2欠陥判定回路21Gは、対応しない赤色の第1判定信号SRが欠陥ありを示すため、第2判定処理を実施する。この時、差分値の少なくとも1つが第2閾値(=閾値/n)より大きいため、欠陥有りを示す第2判定信号SGaを出力する。青色の第2欠陥判定回路21Bは、対応しない赤色の第1判定信号SRが欠陥ありを示すため、第2判定処理を実施する。この時、全ての差分値が第2閾値(=閾値/n)より小さいため、欠陥無しを示す第3判定信号SBaを出力する。
赤色の補正回路12Rは、欠陥有りを示す第1判定信号SRに基づいて、補正処理を実施し、処理対象画素R11に対する補正画素値を生成する。緑色の補正回路12Gは、欠陥有りを示す第2判定信号SGaに基づいて、補正処理を実施し、処理対象画素G11に対する補正画素値を生成する。青色の補正回路12Bは、欠陥なしを示す第1判定信号SBと第2判定信号SBaとに基づいて、補正処理を実施しない。
以上記述したように、本実施形態によれば、以下の効果を奏する。
(1)各色に対応する第1欠陥判定回路11R,11G,11Bは、各色の色データRin,Gin,Binの処理対象画素R11,G11,B11の画素値及び周辺画素の画素値と第1閾値とに基づいて、処理対象画素R11,G11,B11に欠陥があるか否かを判定し、第1判定信号SR,SG,SBを生成する。各色に対応する第2欠陥判定回路21R,21G,21Bは、対応しない色の第1欠陥判定回路の判定結果に基づき、対応しない色の処理対象画素に欠陥があると判定された場合に、処理対象画素R11,G11,B11の画素値及び周辺画素の画素値と、第1閾値より小さい第2閾値とに基づいて、処理対象画素R11,G11,B11に欠陥があるか否かを判定し、第2判定信号SRa,SGa,SBaを生成する。各色に対応する補正回路12R,12G,12Bは、第1判定信号SR,SG,SBと、第2判定信号SRa,SGa,SBaとに基づいて、対応する色の処理対象画素R11,G11,B11に欠陥があると判定された場合に、処理対象画素R11,G11,B11の画素値及び周辺画素の画素値に基づいて、処理対象画素R11,G11,B11の補正値を生成する。その結果、第1欠陥判定回路11R,11G,11Bにより欠陥無しと判定された色の処理対象画素についても、第2欠陥判定回路21R,21G,21Bにより欠陥有りと判定される場合があるため、その色の画素値に対する補正値が生成され、色ずれを低減することができる。また、第1欠陥判定回路11R,11G,11Bにより欠陥無しと判定された色の処理対象画素について、第2欠陥判定回路21R,21G,21Bにおいても欠陥なし判定される場合があり、補正が不要な処理対象画素に対する補正値の生成をキャンセルすることで、その処理対象画素の画素値が被写体の色からずれることを防止することができる。
尚、上記各実施の形態は、以下の態様で実施してもよい。
・上記各欠陥判定回路11R〜11B,21R〜21Bにおける欠陥判定方法を適宜変更してもよい。
・上記各補正回路12R〜12Bにおいて、汎用空間フィルタを用いて補正値を算出するようにしてもよい。例えば、各画素R00〜R22の画素値と、フィルタ係数とをそれぞれ対応して乗算し、その乗算結果の総和値を補正値とする、又は元の画素値に総和値を加算して補正値とする。また、メディアンフィルタを用いる。このようにすれば、処理対象画素の画素値及び近傍の画素の画素値に基づいて補正値を容易に算出することができる。
第一実施形態の画像処理回路のブロック回路図である。 画素の説明図である。 第二実施形態の画像処理回路のブロック回路図である。
符号の説明
11R,11G,11B 欠陥判定回路(第1欠陥判定回路)
12R,12G,12B 補正回路
21R,21G,21B 第2欠陥判定回路
R00〜R22 赤色の画素
G00〜G22 緑色の画素
B00〜B22 青色の画素
R11 処理対象画素
G11 処理対象画素
B11 処理対象画素
Bin,Gin,Rin 色データ
SR,SG,SB 判定信号(第1判定信号)
SRa,SGa,SBa 第2判定信号

Claims (2)

  1. 互いに波長が異なる光を受光する複数層の受光素子を有する画素がマトリックス状に配列された固体撮像装置によって前記受光素子毎に生成され各受光素子に対応する色の色データを処理する画像処理回路であって、
    各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、第1閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する複数の第1欠陥判定回路と、
    各色に対応し、対応しない色の第1欠陥判定回路の判定結果に基づいて、該対応しない色の処理対象画素に欠陥があると判定された場合に、処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、前記第1閾値より小さい第2閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する複数の第2欠陥判定回路と、
    各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値に基づいて前記処理対象画素の補正値を生成する複数の補正回路と、
    を備え、
    各色に対応する補正回路は、それぞれ対応する色の第1欠陥判定回路及び第2欠陥判定回路の判定結果に基づき、対応する色の処理対象画素に欠陥があると判定された場合に前記補正値を生成する、
    ことを特徴とする画像処理回路。
  2. 互いに波長が異なる光を受光する複数層の受光素子を有する画素がマトリックス状に配列された固体撮像装置によって前記受光素子毎に生成され各受光素子に対応する色の色データを処理する画像処理方法であって、
    各色の色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、第1閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する第1の欠陥判定を行い、
    対応しない色の第1の欠陥判定の判定結果に基づいて、該対応しない色の処理対象画素に欠陥があると判定された場合に、対応する色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値と、前記第1閾値より小さい第2閾値に基づいて、前記処理対象画素に欠陥があるか否かを判定する第2の欠陥判定を行い、
    前記第1の欠陥判定と前記第2の欠陥判定に基づいて、対応する色の処理対象画素に欠陥があると判定された場合に、対応する色データの処理対象画素の画素値及び該処理対象画素の近傍の画素の画素値に基づいて前記処理対象画素の補正値を生成する、
    ことを特徴とする画像処理方法。
JP2005366970A 2005-12-20 2005-12-20 画像処理回路及び画像処理方法 Expired - Fee Related JP4745816B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2005366970A JP4745816B2 (ja) 2005-12-20 2005-12-20 画像処理回路及び画像処理方法
EP06126717.5A EP1801752B1 (en) 2005-12-20 2006-12-20 Image processing circuit and image processing method
KR1020060131006A KR100893306B1 (ko) 2005-12-20 2006-12-20 화상 처리 회로 및 화상 처리 방법
TW095148080A TWI369645B (en) 2005-12-20 2006-12-20 Image processing circuit and image processing method
CN2006101683044A CN1988673B (zh) 2005-12-20 2006-12-20 图像处理电路和图像处理方法
US11/642,055 US7978383B2 (en) 2005-12-20 2006-12-20 Image processing circuit and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005366970A JP4745816B2 (ja) 2005-12-20 2005-12-20 画像処理回路及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2007174104A JP2007174104A (ja) 2007-07-05
JP4745816B2 true JP4745816B2 (ja) 2011-08-10

Family

ID=37836636

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005366970A Expired - Fee Related JP4745816B2 (ja) 2005-12-20 2005-12-20 画像処理回路及び画像処理方法

Country Status (6)

Country Link
US (1) US7978383B2 (ja)
EP (1) EP1801752B1 (ja)
JP (1) JP4745816B2 (ja)
KR (1) KR100893306B1 (ja)
CN (1) CN1988673B (ja)
TW (1) TWI369645B (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080117231A1 (en) 2006-11-19 2008-05-22 Tom Kimpe Display assemblies and computer programs and methods for defect compensation
JP2009302722A (ja) * 2008-06-11 2009-12-24 Nec Electronics Corp 欠陥画素処理装置および欠陥画素処理方法
US9515218B2 (en) 2008-09-04 2016-12-06 Zena Technologies, Inc. Vertical pillar structured photovoltaic devices with mirrors and optical claddings
US8274039B2 (en) 2008-11-13 2012-09-25 Zena Technologies, Inc. Vertical waveguides with various functionality on integrated circuits
US9299866B2 (en) 2010-12-30 2016-03-29 Zena Technologies, Inc. Nanowire array based solar energy harvesting device
US9406709B2 (en) 2010-06-22 2016-08-02 President And Fellows Of Harvard College Methods for fabricating and using nanowires
US8835831B2 (en) 2010-06-22 2014-09-16 Zena Technologies, Inc. Polarized light detecting device and fabrication methods of the same
US8546742B2 (en) 2009-06-04 2013-10-01 Zena Technologies, Inc. Array of nanowires in a single cavity with anti-reflective coating on substrate
US8748799B2 (en) 2010-12-14 2014-06-10 Zena Technologies, Inc. Full color single pixel including doublet or quadruplet si nanowires for image sensors
US8866065B2 (en) 2010-12-13 2014-10-21 Zena Technologies, Inc. Nanowire arrays comprising fluorescent nanowires
US8299472B2 (en) 2009-12-08 2012-10-30 Young-June Yu Active pixel sensor with nanowire structured photodetectors
US8890271B2 (en) 2010-06-30 2014-11-18 Zena Technologies, Inc. Silicon nitride light pipes for image sensors
US8735797B2 (en) 2009-12-08 2014-05-27 Zena Technologies, Inc. Nanowire photo-detector grown on a back-side illuminated image sensor
US8519379B2 (en) 2009-12-08 2013-08-27 Zena Technologies, Inc. Nanowire structured photodiode with a surrounding epitaxially grown P or N layer
US8791470B2 (en) 2009-10-05 2014-07-29 Zena Technologies, Inc. Nano structured LEDs
US9082673B2 (en) 2009-10-05 2015-07-14 Zena Technologies, Inc. Passivated upstanding nanostructures and methods of making the same
US9343490B2 (en) 2013-08-09 2016-05-17 Zena Technologies, Inc. Nanowire structured color filter arrays and fabrication method of the same
US8269985B2 (en) 2009-05-26 2012-09-18 Zena Technologies, Inc. Determination of optimal diameters for nanowires
US9000353B2 (en) 2010-06-22 2015-04-07 President And Fellows Of Harvard College Light absorption and filtering properties of vertically oriented semiconductor nano wires
US8229255B2 (en) * 2008-09-04 2012-07-24 Zena Technologies, Inc. Optical waveguides in image sensors
US8889455B2 (en) * 2009-12-08 2014-11-18 Zena Technologies, Inc. Manufacturing nanowire photo-detector grown on a back-side illuminated image sensor
US9478685B2 (en) 2014-06-23 2016-10-25 Zena Technologies, Inc. Vertical pillar structured infrared detector and fabrication method for the same
JP2010142464A (ja) * 2008-12-19 2010-07-01 Panasonic Corp 画像処理装置および画像入力装置
GB201011640D0 (en) * 2010-07-12 2010-08-25 Univ Sheffield Radiation detection and method
JP5517883B2 (ja) * 2010-10-20 2014-06-11 キヤノン株式会社 画像処理装置及び画像処理方法
GB201102478D0 (en) 2011-02-11 2011-03-30 Isdi Ltd Radiation detector and method
KR20120114021A (ko) 2011-04-06 2012-10-16 삼성디스플레이 주식회사 불량 픽셀 보정 방법
JP5874317B2 (ja) * 2011-10-27 2016-03-02 富士通株式会社 イメージセンサ及び画像補正方法
KR101896992B1 (ko) * 2011-11-25 2018-09-11 엘지이노텍 주식회사 영상 처리 방법, 컴퓨터 판독 가능한 기록 매체 및 영상 처리 장치
JP2013123812A (ja) * 2011-12-13 2013-06-24 Canon Inc 検査装置、検査方法、コンピュータプログラム
US9113025B2 (en) 2013-03-15 2015-08-18 Samsung Electronics Co., Ltd. Image signal processor circuits and methods for correcting crosstalk artifacts
GB2525625B (en) 2014-04-29 2017-05-31 Isdi Ltd Device and method
CN105812756B (zh) * 2016-03-16 2018-04-13 沈阳尚贤微创医疗器械股份有限公司 一种胶囊内窥镜无线传输数据丢失的修复补偿方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2903956B2 (ja) * 1993-07-06 1999-06-14 松下電器産業株式会社 画素欠陥補正装置
JPH1062257A (ja) 1996-08-20 1998-03-06 Nippon Avionics Co Ltd 赤外線2次元センサーカメラシステムの自動画素欠陥補正装置
US6606120B1 (en) * 1998-04-24 2003-08-12 Foveon, Inc. Multiple storage node full color active pixel sensors
US6727691B2 (en) * 2000-06-26 2004-04-27 Jentek Sensors, Inc. High resolution inductive sensor arrays for material and defect characterization of welds
JP2003023570A (ja) * 2001-07-06 2003-01-24 Sanyo Electric Co Ltd 画像データの修正方法及び画像信号処理装置
JP3884952B2 (ja) 2001-12-21 2007-02-21 株式会社日立製作所 撮像装置
JP2004007425A (ja) * 2002-04-09 2004-01-08 Canon Inc 画像読取システム及び画像読取プログラム
US7189951B2 (en) * 2002-04-09 2007-03-13 Canon Kabushiki Kaisha Solid-state image sensing apparatus and image sensing system
JP3950726B2 (ja) * 2002-04-09 2007-08-01 キヤノン株式会社 固体撮像装置及び撮影システム
JP2003304544A (ja) * 2002-04-10 2003-10-24 Canon Inc 撮像装置
JP4035356B2 (ja) * 2002-04-10 2008-01-23 キヤノン株式会社 撮像装置およびその制御方法
JP4297651B2 (ja) 2002-07-01 2009-07-15 三洋電機株式会社 画像信号処理装置
US7283164B2 (en) 2002-09-18 2007-10-16 Micron Technology, Inc. Method for detecting and correcting defective pixels in a digital image sensor
US7301571B2 (en) * 2003-01-17 2007-11-27 Fujifilm Corporation Method and imaging apparatus for correcting defective pixel of solid-state image sensor, and method for creating pixel information
KR100535636B1 (ko) * 2003-02-24 2005-12-08 매그나칩 반도체 유한회사 불량 화소 보상 기능을 갖는 이미지센서
JP2004297267A (ja) 2003-03-26 2004-10-21 Sharp Corp 画素欠陥処理装置
CN1290059C (zh) * 2003-04-18 2006-12-13 北京中星微电子有限公司 一种缺陷像素动态检测和补偿方法
US7388609B2 (en) * 2003-07-07 2008-06-17 Zoran Corporation Dynamic identification and correction of defective pixels
KR100573487B1 (ko) * 2004-04-27 2006-04-24 매그나칩 반도체 유한회사 이미지센서

Also Published As

Publication number Publication date
TW200734966A (en) 2007-09-16
US20070139740A1 (en) 2007-06-21
EP1801752B1 (en) 2018-05-02
TWI369645B (en) 2012-08-01
EP1801752A2 (en) 2007-06-27
EP1801752A3 (en) 2010-07-07
JP2007174104A (ja) 2007-07-05
KR100893306B1 (ko) 2009-04-15
CN1988673B (zh) 2010-05-19
KR20070065840A (ko) 2007-06-25
US7978383B2 (en) 2011-07-12
CN1988673A (zh) 2007-06-27

Similar Documents

Publication Publication Date Title
JP4745816B2 (ja) 画像処理回路及び画像処理方法
JP5269841B2 (ja) 画像処理装置
JP5060535B2 (ja) 画像処理装置
US8451350B2 (en) Solid-state imaging device, camera module, and imaging method
KR20080084996A (ko) 이미저에 대해 에지를 유지하면서 노이즈 감소를 제공하는방법 및 장치
JP4721744B2 (ja) イメージセンサの暗欠陥隠蔽方法
KR20080078044A (ko) 이미지 노이즈를 감소시키는 방법 및 장치
JP2008187249A (ja) 固体撮像装置
JP5306298B2 (ja) 画像処理装置
JP2011145559A (ja) 撮像装置
JP2009010936A (ja) 撮像装置
JP2020092431A5 (ja)
CN113824906A (zh) 图像感测装置
US20120127347A1 (en) Image processing apparatus and system
JP2010068329A (ja) 撮像装置
US11974054B2 (en) Image sensor and camera having high sensitivity and high color reproducibility
JP2006041687A (ja) 画像処理装置、画像処理方法、画像処理プログラム、電子カメラ、及びスキャナ
JP4255819B2 (ja) 信号処理方法および画像取得装置
JP7414538B2 (ja) 撮像装置及びその制御方法
JP2009290653A (ja) 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム
US8957997B2 (en) Image sensor and image data processing method using the same
JP2009021988A (ja) 撮像装置
JP4397869B2 (ja) スミア補正方法及びスミア補正回路
JP6316140B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5269016B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080416

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080730

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110510

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110512

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140520

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4745816

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees