JP2009290653A - 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム - Google Patents
欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム Download PDFInfo
- Publication number
- JP2009290653A JP2009290653A JP2008142258A JP2008142258A JP2009290653A JP 2009290653 A JP2009290653 A JP 2009290653A JP 2008142258 A JP2008142258 A JP 2008142258A JP 2008142258 A JP2008142258 A JP 2008142258A JP 2009290653 A JP2009290653 A JP 2009290653A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- correction
- defect
- defective
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】注目画素の色に依存することなくエッジの検出精度を高めることが可能で、また、欠陥補正系の回路規模の増大を抑えることが可能な欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラムを提供する。
【解決手段】所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部142と、所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部143と、輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部144と、方向検出部で決定された補正方向にある同色画素を用いて、欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部145とを有する。
【選択図】図1
【解決手段】所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部142と、所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部143と、輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部144と、方向検出部で決定された補正方向にある同色画素を用いて、欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部145とを有する。
【選択図】図1
Description
本発明は、CCD,CMOSセンサなどの固体撮像素子における欠陥画素を補償する機能を有する欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラムに関するものである。
一般に、CCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサなどの固体撮像素子には、欠陥画素が生じることが知られている。
すなわち、固体撮像素子において、半導体の局部的な結晶欠陥などによる異常な撮像信号を出力する欠陥画素を生じ、これに起因する画質劣化を生じることが知られている。
これらには、たとえば黒傷欠陥画素や白傷欠陥画素などがある。
すなわち、固体撮像素子において、半導体の局部的な結晶欠陥などによる異常な撮像信号を出力する欠陥画素を生じ、これに起因する画質劣化を生じることが知られている。
これらには、たとえば黒傷欠陥画素や白傷欠陥画素などがある。
これら欠陥画素を信号処理によって補正するための方式や回路構成が各種提案されている。
たとえば、出荷時の検査において欠陥画素を検出し、その位置をメモリに記憶しておくことで欠陥補正を行う技術が知られている。
しかし、この欠陥補正技術では、近年の画素数の増大に比例して1つの撮像素子あたりの欠陥画素の数も多くなり、記憶するためのコストが増大しているという問題がある。
さらに、欠陥画素は出荷後にも時間の経過とともに宇宙線等の影響で新たに発生するため、メモリに欠陥画素位置を記憶しておく方法では対応できない欠陥画素が存在する。
さらに、欠陥画素は出荷後にも時間の経過とともに宇宙線等の影響で新たに発生するため、メモリに欠陥画素位置を記憶しておく方法では対応できない欠陥画素が存在する。
このような欠点を補うものとして、周辺画素とのレベル差等を用いて動的に欠陥画素を検出する方法が知られている。
こうした欠陥検出方法では、しばしば過検出による画質低下が問題となるため、被写体の状況を考慮した補正方法が提案されている(たとえば特許文献1,2参照)。
特許文献1に開示された方法では、緑(G)画素を用いてエッジ検出を行い、補正に用いる画素の方向を選択している。
また、特許文献2に開示された方法では、注目画素を中心に(1,1,0,−1,−1)といったフィルタ演算を行うことでエッジ検出を行っている。
特開2005-318383号公報
特許第3950864号
ところが、特許文献1に開示された方法では、G画素のうち同色列のものをエッジ検出に用いているため、高周波のエッジに対応できないという不利益がある。
さらに、赤(R),青(B)画素を注目画素とした際とG画素を注目画素とした際に、エッジ検出の精度が異なるという不利益がある。
さらに、赤(R),青(B)画素を注目画素とした際とG画素を注目画素とした際に、エッジ検出の精度が異なるという不利益がある。
また、特許文献2に開示された方法では、異なる色の画素に対してフィルタ演算を行っているうえ、フィルタの性能として1/4fs以下のエッジしか検出できないため、高周波のエッジに対応できないという不利益ある。
また、特許文献2においては、G画素のみ斜め方向に用いて高周波のエッジを検出する実施例もあるが、これはG画素の補正に限られている。
さらに、特許文献2に開示された方法では、エッジ方向を算出するために逆正接関数を用いているため、回路規模が大きくなるという不利益がある。
また、特許文献2においては、G画素のみ斜め方向に用いて高周波のエッジを検出する実施例もあるが、これはG画素の補正に限られている。
さらに、特許文献2に開示された方法では、エッジ方向を算出するために逆正接関数を用いているため、回路規模が大きくなるという不利益がある。
本発明は、注目画素の色に依存することなくエッジの検出精度を高めることが可能で、また、欠陥補正系の回路規模の増大を抑えることが可能な欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラムを提供することにある。
本発明の第1の観点の欠陥画素補正装置は、所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部と、上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部と、上記輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部と、上記方向検出部で決定された補正方向にある同色画素を用いて、上記欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部とを有する。
本発明の第2の観点に係る撮像装置は、被写体像を撮像する撮像素子と、上記撮像素子からの画像データを受けて、撮像素子の欠陥画素を動的に検出し、被写体のエッジに沿って周辺画素を用いて補間を行う欠陥補正を行う機能を有する欠陥画素補正部と、を有し、上記欠陥画素補正部は、所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部と、上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部と、上記輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部と、上記方向検出部で決定された補正方向にある同色画素を用いて、上記欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部と、を含む。
好適には、上記欠陥検出部は、上記注目画素と周辺の同色複数画素とのレベルを比較することにより、注目画素が欠陥であるか否かを判定する。
好適には、上記欠陥検出部は、上記注目画素の周辺の複数の画素の平均値に対して、注目画素値が一定の閾値以上大きい場合に、注目画素は欠陥画素であると判定する。
好適には、上記方向検出部は、最もエッジ成分の弱い方向を補正方向として決定する。
好適には、上記方向検出部は、画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向についてエッジ検出を行い、最もエッジ成分の弱い方向を補正方向として決定する。
好適には、上記方向検出部は、画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向について複数列ずつエッジ検出処理を行い、当該絶対値の総和が最も小さい方向を補正方向として決定する。
好適には、上記欠陥補正部は、上記方向検出部で決定した補正方向に対して、注目画素と同色周辺の複数画素を抽出し、当該注目画素を含む複数画素に対して所定のフィルタリング処理を施す。
本発明の第3の観点の欠陥画素補正装置は、所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出ステップと、上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出ステップと、上記算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出ステップと、上記方向検出ステップで決定された補正方向にある同色画素を用いて、上記欠陥検出ステップで欠陥と判定された注目画素の補正を行う欠陥補正ステップとを有する。
本発明の第4の観点は、所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出処理と、上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出処理と、上記算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出処理と、上記方向検出処理で決定された補正方向にある同色画素を用いて、上記欠陥検出ステップで欠陥と判定された注目画素の補正を行う欠陥補正処理とを含む欠陥画素補正処理をコンピュータに実行させるプログラムである。
本発明によれば、欠陥検出部が、所定サイズの撮像画像データを受けて、注目画素と周辺画素のレベル基に、注目画素が欠陥であるか否かを検出し判定する。
また、輝度算出部が、所定サイズの撮像画像データを基に、所定サイズの輝度データを得し、その輝度データを方向検出部に出力する。
方向検出部は、輝度算出部で算出された所定サイズの輝度データを受けて、画素配列において、複数方向についてのエッジ検出を行い、補正を行う方向を決定する。
そして、欠陥補正部が、方向検出部で決定された補正方向にある同色画素を用いて、欠陥検出部で欠陥と判定された注目画素の補正を行う。
また、輝度算出部が、所定サイズの撮像画像データを基に、所定サイズの輝度データを得し、その輝度データを方向検出部に出力する。
方向検出部は、輝度算出部で算出された所定サイズの輝度データを受けて、画素配列において、複数方向についてのエッジ検出を行い、補正を行う方向を決定する。
そして、欠陥補正部が、方向検出部で決定された補正方向にある同色画素を用いて、欠陥検出部で欠陥と判定された注目画素の補正を行う。
本発明によれば、注目画素の色に依存することなくエッジの検出精度を高めることが可能で、また、欠陥補正系の回路規模の増大を抑えることができる。
以下、本発明の実施形態を図面に関連付けて説明する。
図1は、本発明の実施形態に係る欠陥画素補正装置を適用した撮像装置の構成例を示すブロック図である。
本撮像装置10は、図1に示すように、レンズ系11、撮像素子12、プリ処理部13、欠陥画素補正部14、およびカメラ信号処理部15を有する。
レンズ系11は、被写体像を撮像素子12の撮像面に結像する。
撮像素子12は、CCDやCMOSセンサにより形成され、複数の単位画素がマトリクス状に配列されている。
撮像素子12は、その画素配列として、たとえば図2に示すようなベイヤ配列が採用される。
撮像素子12は、その画素配列として、たとえば図2に示すようなベイヤ配列が採用される。
図3は、本実施形態に係る撮像素子12の単位画素の構成例を示す回路図である。
図3は、本実施形態に係る4つのトランジスタで構成されるCMOSイメージセンサの画素の一例を示している。
図3は、本実施形態に係る4つのトランジスタで構成されるCMOSイメージセンサの画素の一例を示している。
各画素120は、図3に示すように、たとえばフォトダイオードからなる光電変換素子121を有する。
そして、画素回路120は、この1個の光電変換素子111に対して、転送トランジスタ122、リセットトランジスタ123、増幅トランジスタ124、および選択トランジスタ125の4つのトランジスタを能動素子として有する。
そして、画素回路120は、この1個の光電変換素子111に対して、転送トランジスタ122、リセットトランジスタ123、増幅トランジスタ124、および選択トランジスタ125の4つのトランジスタを能動素子として有する。
光電変換素子121は、入射光をその光量に応じた量の電荷(ここでは電子)に光電変換する。
転送トランジスタ122は、光電変換素子121とフローティングディフュージョンFDとの間に接続され、転送制御線LTxを通じてそのゲート(転送ゲート)に制御信号である送信信号TGが与えられる。
これにより、転送トランジスタ122は、光電変換素子121で光電変換された電子をフローティングディフュージョンFDに転送する。
転送トランジスタ122は、光電変換素子121とフローティングディフュージョンFDとの間に接続され、転送制御線LTxを通じてそのゲート(転送ゲート)に制御信号である送信信号TGが与えられる。
これにより、転送トランジスタ122は、光電変換素子121で光電変換された電子をフローティングディフュージョンFDに転送する。
リセットトランジスタ123は、電源ラインLVDDとフローティングディフュージョンFDとの間に接続され、リセット制御線LRSTを通してそのゲートに制御信号であるリセット信号RSTが与えられる。
これにより、リセットトランジスタ123は、フローティングディフュージョンFDの電位を電源ラインLVDDの電位にリセットする。
これにより、リセットトランジスタ123は、フローティングディフュージョンFDの電位を電源ラインLVDDの電位にリセットする。
フローティングディフュージョンFDには、増幅トランジスタ124のゲートが接続されている。増幅トランジスタ124は、選択トランジスタ125を介して信号線LSGNに接続され、画素部外の定電流源126とソースフォロアを構成している。
そして、選択制御線LSELを通してアドレス信号に応じた制御信号である選択信号SELが選択トランジスタ125のゲートに与えられ、選択トランジスタ125がオンする。
選択トランジスタ125がオンすると、増幅トランジスタ124はフローティングディフュージョンFDの電位を増幅してその電位に応じた電圧を信号線LSGNに出力する。信号線LSGNを通じて、各画素から出力された電圧は、カラム読み出し回路に出力される。
これらの動作は、たとえば転送トランジスタ122、リセットトランジスタ123、および選択トランジスタ125の各ゲートが行単位で接続されていることから、1行分の各画素について同時に行われる。
そして、選択制御線LSELを通してアドレス信号に応じた制御信号である選択信号SELが選択トランジスタ125のゲートに与えられ、選択トランジスタ125がオンする。
選択トランジスタ125がオンすると、増幅トランジスタ124はフローティングディフュージョンFDの電位を増幅してその電位に応じた電圧を信号線LSGNに出力する。信号線LSGNを通じて、各画素から出力された電圧は、カラム読み出し回路に出力される。
これらの動作は、たとえば転送トランジスタ122、リセットトランジスタ123、および選択トランジスタ125の各ゲートが行単位で接続されていることから、1行分の各画素について同時に行われる。
撮像素子12は、画素アレイ部に配線されているリセット制御線LRST、転送制御線LTx、および選択制御線LSELが一組として画素配列の各行単位で配線されている。
これらのリセット制御線LRST、転送制御線LTx、および選択制御線LSELは、図示しない垂直走査回路により駆動される。
また、信号線LSGNは、CDS回路(相関二重サンプリング回路)等を含むカラム読み出し回路に接続される。
これらのリセット制御線LRST、転送制御線LTx、および選択制御線LSELは、図示しない垂直走査回路により駆動される。
また、信号線LSGNは、CDS回路(相関二重サンプリング回路)等を含むカラム読み出し回路に接続される。
プリ処理部13は、撮像素子12から読み出されたアナログ画素情報に対して標本化処理、量子化処理等を行い、アナログ信号からデジタル信号に変換(A/D変換)して、生(RAW)データを欠陥画素補正部14に出力する。
欠陥画素補正部14は、撮像素子12から画像のRAWデータを、プリ処理部13を介して受け取り、撮像素子12の欠陥画素を動的に検出し、被写体のエッジに沿って周辺画素を用いて補間を行う欠陥補正を行う機能を有する。
欠陥画素補正部14は、欠陥補正を行うに際し、RGB画素から輝度を計算することで高周波のエッジを検出し、補間の方向を決定する機能を有する。
欠陥画素補正部14は、欠陥補正を行うに際し、RGB画素から輝度を計算することで高周波のエッジを検出し、補間の方向を決定する機能を有する。
カメラ信号処理部15は、欠陥画素補正部14の出力画像信号に対してカラー補間、ホワイトバランス、圧縮等の処理を行う。
以下、本実施形態に係る欠陥画素補正部14の構成および機能についてさらに詳細に説明する。
図4は、本実施形態に係る欠陥画素補正部の構成例を示すブロック図である。
図4の欠陥画素補正部14は、ディレイライン141、欠陥検出回路142、輝度算出回路143、方向検出回路144、および欠陥補正回路145を有する。
ディレイライン141は、撮像素子12によるプリ処理部13を介した画像のRAWデータを受け取り、5×5サイズに展開する。
欠陥検出回路142は、ディレイライン141によるデータを受けて、注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する。
欠陥検出回路142は、検出(判定)結果を信号S142として欠陥補正回路145に出力する。
欠陥検出回路142は、検出(判定)結果を信号S142として欠陥補正回路145に出力する。
輝度算出回路143は、ディレイライン141による5×5のデータを基に、輝度算出4×4の輝度データを得る。
輝度算出回路143は、算出した輝度データを信号S143として方向検出回路144に出力する。
輝度算出回路143は、算出した輝度データを信号S143として方向検出回路144に出力する。
方向検出回路144は、輝度算出回路143で算出された4×4の輝度データを受けて、画素配列において、縦・横・斜め45度・斜め135度の4方向についてエッジ検出を行い、補正を行う方向を決定する。
方向検出回路144は、決定した方向情報を信号S144として欠陥補正回路145に出力する。
方向検出回路144は、決定した方向情報を信号S144として欠陥補正回路145に出力する。
欠陥補正回路145は、方向検出回路144で決定された補正方向にある同色画素を用いて、欠陥検出回路142で欠陥と判定された注目画素の補正を行う。
次に、本実施形態の欠陥画素補正部14を構成する欠陥検出回路142、輝度算出回路143、方向検出回路144、欠陥補正回路145の具体的な処理について説明する。
欠陥検出回路142は、ディレイライン141によるデータを受けて、注目画素と周辺の同色8画素とのレベルを比較することにより、注目画素が欠陥であるか否かを判定する。
図5は、5×5のベイヤ配列に対応する図であって、欠陥検出回路142の処理を説明するための図である。
図5において、P22を注目画素とすると、同色の周辺画素はP00,P02,P04,P20,P24,P40,P42,P44となり、欠陥検出回路142は、これらを用いて欠陥画素の判定を行う。
欠陥検出回路142は、たとえば周辺8画素P00,P02,P04,P20,P24,P40,P42,P44の平均値PAVEに対して、注目画素値が一定の閾値THDEF以上大きい、または小さい場合に、注目画素は欠陥画素であるという判断を行うことができる。
なお、周辺8画素P00,P02,P04,P20,P24,P40,P42,P44の平均値PAVは次式で与えられる。
欠陥検出回路142は、たとえば周辺8画素P00,P02,P04,P20,P24,P40,P42,P44の平均値PAVEに対して、注目画素値が一定の閾値THDEF以上大きい、または小さい場合に、注目画素は欠陥画素であるという判断を行うことができる。
なお、周辺8画素P00,P02,P04,P20,P24,P40,P42,P44の平均値PAVは次式で与えられる。
[数1]
PAVE = (P00+P02+P04+P20+P24+P40+P42+P44)/8
PAVE = (P00+P02+P04+P20+P24+P40+P42+P44)/8
欠陥検出回路142は、注目画素P22の値が平均値PAVと閾値THDEFとを加算した値と同じまたは大きい場合(P22 ≧ PAVE + THDE)、注目画素は白傷欠陥であると判定する。また、注目画素P22の値が平均値PAVから閾値THDEFを引いた値と同じまたは小さい場合(P22 ≦ PAVE - THDE)、注目画素は黒傷欠陥であると判定する。
欠陥検出回路142は、注目画素P22の値が平均値PAVと閾値THDEFとを加算した値より小さく、かつ平均値PAVから閾値THDEFを引いた値より大きい場合(PAVE - THDE < P22 < PAVE + THDE)、注目画素は欠陥でないと判定する。
ここで、欠陥判定に用いる閾値THDEFは、白傷欠陥判定用と黒傷欠陥判定用で別の値を用いても良い。
なお、欠陥検出の実現方法は必ずしもこれに限定されるものではない。
欠陥検出回路142は、注目画素P22の値が平均値PAVと閾値THDEFとを加算した値より小さく、かつ平均値PAVから閾値THDEFを引いた値より大きい場合(PAVE - THDE < P22 < PAVE + THDE)、注目画素は欠陥でないと判定する。
ここで、欠陥判定に用いる閾値THDEFは、白傷欠陥判定用と黒傷欠陥判定用で別の値を用いても良い。
なお、欠陥検出の実現方法は必ずしもこれに限定されるものではない。
輝度算出回路143は、5×5のRAWデータを基に、隣接した4画素(R,Gr,Gb,B)をそれぞれ加算することによって4×4の輝度データを得る。
輝度算出回路143は、隣接した4画素の中心位置の輝度値Yijを以下の式を計算することによって求める。
輝度算出回路143は、隣接した4画素の中心位置の輝度値Yijを以下の式を計算することによって求める。
[数2]
Yij = Pij + P(i+1)j + Pi(j+1) + P(i+1)(j+1)
Yij = Pij + P(i+1)j + Pi(j+1) + P(i+1)(j+1)
図6は、5×5のベイヤ配列に対応する図であって、輝度算出回路143の処理を説明するための図である。
画素PijがR,Gr,Gb,Bのいずれであっても、輝度YijはR,Gr,Gb,Bをそれぞれひとつずつ用いて演算されるため、図6に示すように輝度Yijはベイヤ配列の画素配置と同じ間隔で求めることができる。
図7(A)〜(D)は、方向検出回路144の処理を説明するための図である。
方向検出回路144は、輝度算出回路143で得た輝度データを基に、エッジ検出を行う。
方向検出回路144は、正方の画素配列において、図7(A)に示すような縦方向、図7(B)に示すような横方向、図7(C)に示すような斜め45度方向、図7(D)に示すような斜め135度方向の4方向についてエッジ検出を行い、最もエッジ成分の弱い方向を補正方向とする。
方向検出回路144は、正方の画素配列において、図7(A)に示すような縦方向、図7(B)に示すような横方向、図7(C)に示すような斜め45度方向、図7(D)に示すような斜め135度方向の4方向についてエッジ検出を行い、最もエッジ成分の弱い方向を補正方向とする。
エッジ成分は注目画素付近の3点の輝度値に関して(1,−2,1)フィルタを適用することで求める。
フィルタを適用する輝度値に関しては図7(A)〜(D)に示す通りである。
方向検出回路144は、各方向で、長円で示す4列ずつ処理を行い、その絶対値の総和が最も小さい方向を補正方向とする。
具体的に、各方向のエッジ成分は以下の通りに計算する。なお、以下の式でabsは絶対値であることを示す。
フィルタを適用する輝度値に関しては図7(A)〜(D)に示す通りである。
方向検出回路144は、各方向で、長円で示す4列ずつ処理を行い、その絶対値の総和が最も小さい方向を補正方向とする。
具体的に、各方向のエッジ成分は以下の通りに計算する。なお、以下の式でabsは絶対値であることを示す。
[数3]
縦方向:
abs(Y01 - 2*Y11 + Y21) + abs(Y11 - 2*Y21 + Y31) + abs(Y02 - 2*Y12 + Y22) + abs(Y12 - 2*Y22 + Y32)
縦方向:
abs(Y01 - 2*Y11 + Y21) + abs(Y11 - 2*Y21 + Y31) + abs(Y02 - 2*Y12 + Y22) + abs(Y12 - 2*Y22 + Y32)
[数4]
横方向:
abs(Y10 - 2*Y11 + Y12) + abs(Y11 - 2*Y12 + Y13) + abs(Y20 - 2*Y21 + Y22) + abs(Y21 - 2*Y22 + Y23)
横方向:
abs(Y10 - 2*Y11 + Y12) + abs(Y11 - 2*Y12 + Y13) + abs(Y20 - 2*Y21 + Y22) + abs(Y21 - 2*Y22 + Y23)
[数5]
斜め45度方向:
abs(Y20 - 2*Y11 + Y02) + abs(Y30 - 2*Y21 + Y12) + abs(Y21 - 2*Y12 + Y03) + abs(Y31 - 2*Y22 + Y13)
斜め45度方向:
abs(Y20 - 2*Y11 + Y02) + abs(Y30 - 2*Y21 + Y12) + abs(Y21 - 2*Y12 + Y03) + abs(Y31 - 2*Y22 + Y13)
[数6]
斜め135度方向:
abs(Y01 - 2*Y12 + Y23) + abs(Y00 - 2*Y11 + Y22) + abs(Y11 - 2*Y22 + Y33) + abs(Y10 - 2*Y21 + Y32)
斜め135度方向:
abs(Y01 - 2*Y12 + Y23) + abs(Y00 - 2*Y11 + Y22) + abs(Y11 - 2*Y22 + Y33) + abs(Y10 - 2*Y21 + Y32)
欠陥補正回路145は、欠陥検出回路142および方向検出回路144の出力情報に基づいて欠陥補正を行う。
欠陥補正回路145は、方向検出回路144で決定した補正方向に対して、注目画素と同色周辺画素2つの計3画素を取りだす。
取り出す3画素は、決定された補正方向に対して、それぞれ以下の通りである。
欠陥補正回路145は、方向検出回路144で決定した補正方向に対して、注目画素と同色周辺画素2つの計3画素を取りだす。
取り出す3画素は、決定された補正方向に対して、それぞれ以下の通りである。
縦方向:P02, P22, P42、
横方向:P20, P22, P24、
斜め45度方向:P40, P22, P04、
斜め135度方向:P00, P22, P44
横方向:P20, P22, P24、
斜め45度方向:P40, P22, P04、
斜め135度方向:P00, P22, P44
欠陥補正回路145は、この3画素に対してメディアンフィルタを施し、その結果を出力とする。
次に、上記構成による動作を図8のフローチャートに関連付けて説明する。
撮像素子12の撮像画像は、プリ処理部13で所定の処理を受けてデジタル画像信号として欠陥画素補正部14に入力される。
欠陥画素補正部14においては、RAWデータを受け取り、ディレイライン141によって5×5サイズに展開する(ST1)。
そして、注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを欠陥検出回路142によって判定する(ST2)。ここで欠陥であると判定された場合のみ、欠陥補正回路145における欠陥補正処理が行われる。
5×5のデータを基に、輝度算出回路143において4×4の輝度データを得る(ST3)。
この4×4の輝度データを用いて方向検出回路に144よって縦・横・斜め45度・斜め135度の4方向についてエッジ検出を行い、補正を行う方向を決定する(ST4)。
最後に、欠陥補正回路145において、決定された補正方向にある同色画素を用いて、欠陥と判定された注目画素の補正を行う(ST5)。
欠陥画素補正部14においては、RAWデータを受け取り、ディレイライン141によって5×5サイズに展開する(ST1)。
そして、注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを欠陥検出回路142によって判定する(ST2)。ここで欠陥であると判定された場合のみ、欠陥補正回路145における欠陥補正処理が行われる。
5×5のデータを基に、輝度算出回路143において4×4の輝度データを得る(ST3)。
この4×4の輝度データを用いて方向検出回路に144よって縦・横・斜め45度・斜め135度の4方向についてエッジ検出を行い、補正を行う方向を決定する(ST4)。
最後に、欠陥補正回路145において、決定された補正方向にある同色画素を用いて、欠陥と判定された注目画素の補正を行う(ST5)。
以上説明したように、本実施形態によれば、欠陥画素補正部14においては、ディレイライン141は、撮像素子12によるプリ処理部13を介した画像のRAWデータを受け取り、5×5サイズに展開する。
欠陥検出回路142が、ディレイライン141による5×5サイズのデータを受けて、注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する。
輝度算出回路143が、ディレイライン141による5×5のデータを基に、4×4の輝度データを得る。
方向検出回路144が、輝度算出回路143で算出された4×4の輝度データを受けて、画素配列において、縦・横・斜め45度・斜め135度の4方向についてエッジ検出を行い、補正を行う方向を決定する。
そして、欠陥補正回路145が、方向検出回路144で決定された補正方向にある同色画素を用いて、欠陥検出回路142で欠陥と判定された注目画素の補正を行う。
したがって、本実施形態によれば、以下の効果を得ることができる。
欠陥検出回路142が、ディレイライン141による5×5サイズのデータを受けて、注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する。
輝度算出回路143が、ディレイライン141による5×5のデータを基に、4×4の輝度データを得る。
方向検出回路144が、輝度算出回路143で算出された4×4の輝度データを受けて、画素配列において、縦・横・斜め45度・斜め135度の4方向についてエッジ検出を行い、補正を行う方向を決定する。
そして、欠陥補正回路145が、方向検出回路144で決定された補正方向にある同色画素を用いて、欠陥検出回路142で欠陥と判定された注目画素の補正を行う。
したがって、本実施形態によれば、以下の効果を得ることができる。
欠陥画素を補正するため、撮像素子の歩留まりを向上させることができる。
動的に欠陥画素を検出するため、宇宙線等による出荷後の欠陥画素を補正することができる。
エッジ検出を行っているため、欠陥画素でない画素を誤検出して補完してしまっても、その悪影響が目立ちにくい。そのため、動的欠陥検出の設定を可検出気味に設定することが可能となり、欠陥検出の取りこぼしが少なくなる。
また、高周波のエッジにも対応できる。
注目画素がRGBのいずれであっても同じように処理をすることができる。
動的に欠陥画素を検出するため、宇宙線等による出荷後の欠陥画素を補正することができる。
エッジ検出を行っているため、欠陥画素でない画素を誤検出して補完してしまっても、その悪影響が目立ちにくい。そのため、動的欠陥検出の設定を可検出気味に設定することが可能となり、欠陥検出の取りこぼしが少なくなる。
また、高周波のエッジにも対応できる。
注目画素がRGBのいずれであっても同じように処理をすることができる。
なお、以上詳細に説明した方法は、上記手順に応じたプログラムとして形成し、CPU等のコンピュータで実行するように構成することも可能である。
また、このようなプログラムは、半導体メモリ、磁気ディスク、光ディスク、フロッピー(登録商標)ディスク等の記録媒体、この記録媒体をセットしたコンピュータによりアクセスし上記プログラムを実行するように構成可能である。
また、このようなプログラムは、半導体メモリ、磁気ディスク、光ディスク、フロッピー(登録商標)ディスク等の記録媒体、この記録媒体をセットしたコンピュータによりアクセスし上記プログラムを実行するように構成可能である。
10・・・撮像装置、11・・・レンズ系、12・・・撮像素子、13・・・プリ処理部、14・・・欠陥画素補正部、141・・・ディレイライン、142・・・欠陥検出回路、143、輝度算出回路、144・・・方向検出回路、145・・・欠陥補正回路、15・・・カメラ信号処理部。
Claims (16)
- 所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部と、
上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部と、
上記輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部と、
上記方向検出部で決定された補正方向にある同色画素を用いて、上記欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部と
を有する欠陥画素補正装置。 - 上記欠陥検出部は、
上記注目画素と周辺の同色複数画素とのレベルを比較することにより、注目画素が欠陥であるか否かを判定する
請求項1記載の欠陥画素補正装置。 - 上記欠陥検出部は、
上記注目画素の周辺の複数の画素の平均値に対して、注目画素値が一定の閾値以上大きい場合に、注目画素は欠陥画素であると判定する
請求項2記載の欠陥画素補正装置。 - 上記方向検出部は、
最もエッジ成分の弱い方向を補正方向として決定する
請求項1から3のいずれか一に記載の欠陥画素補正装置。 - 上記方向検出部は、
画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向についてエッジ検出を行い、最もエッジ成分の弱い方向を補正方向として決定する
請求項4記載の欠陥画素補正装置。 - 上記方向検出部は、
画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向について複数列ずつエッジ検出処理を行い、当該絶対値の総和が最も小さい方向を補正方向として決定する
請求項4記載の欠陥画素補正装置。 - 上記欠陥補正部は、
上記方向検出部で決定した補正方向に対して、注目画素と同色周辺の複数画素を抽出し、当該注目画素を含む複数画素に対して所定のフィルタリング処理を施す
請求項1から6のいずれか一に記載の欠陥画素補正装置。 - 被写体像を撮像する撮像素子と、
上記撮像素子からの画像データを受けて、撮像素子の欠陥画素を動的に検出し、被写体のエッジに沿って周辺画素を用いて補間を行う欠陥補正を行う機能を有する欠陥画素補正部と、を有し、
上記欠陥画素補正部は、
所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出部と、
上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出部と、
上記輝度算出部で算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出部と、
上記方向検出部で決定された補正方向にある同色画素を用いて、上記欠陥検出部で欠陥と判定された注目画素の補正を行う欠陥補正部と、を含む
撮像装置。 - 上記欠陥検出部は、
上記注目画素と周辺の同色複数画素とのレベルを比較することにより、注目画素が欠陥であるか否かを判定する
請求項8記載の撮像装置。 - 上記欠陥検出部は、
上記注目画素の周辺の複数の画素の平均値に対して、注目画素値が一定の閾値以上大きい場合に、注目画素は欠陥画素であると判定する
請求項9記載の撮像装置。 - 上記方向検出部は、
最もエッジ成分の弱い方向を補正方向として決定する
請求項8から10のいずれか一に記載の撮像装置。 - 上記方向検出部は、
画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向についてエッジ検出を行い、最もエッジ成分の弱い方向を補正方向として決定する
請求項11記載の撮像装置。 - 上記方向検出部は、
画素配列において、縦方向、横方向、斜め45度方向、および斜め135度方向の4方向について複数列ずつエッジ検出処理を行い、当該絶対値の総和が最も小さい方向を補正方向として決定する
請求項11記載の撮像装置。 - 上記欠陥補正部は、
上記方向検出部で決定した補正方向に対して、注目画素と同色周辺の複数画素を抽出し、当該注目画素を含む複数画素に対して所定のフィルタリング処理を施す
請求項8から13のいずれか一に記載の撮像装置。 - 所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出ステップと、
上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出ステップと、
上記算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出ステップと、
上記方向検出ステップで決定された補正方向にある同色画素を用いて、上記欠陥検出ステップで欠陥と判定された注目画素の補正を行う欠陥補正ステップと
を有する欠陥画素補正方法。 - 所定サイズに配列された撮像画像データを受けて注目画素と周辺画素のレベルを基に、注目画素が欠陥であるか否かを検出し判定する欠陥検出処理と、
上記所定サイズに配列された画像データを基に、所定サイズの輝度データを算出する輝度算出処理と、
上記算出された輝度データを基に、複数の方向についてエッジ検出を行い、エッジ検出結果に基づいて補正を行う方向を決定する方向検出処理と、
上記方向検出処理で決定された補正方向にある同色画素を用いて、上記欠陥検出ステップで欠陥と判定された注目画素の補正を行う欠陥補正処理と
を含む欠陥画素補正処理をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008142258A JP2009290653A (ja) | 2008-05-30 | 2008-05-30 | 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008142258A JP2009290653A (ja) | 2008-05-30 | 2008-05-30 | 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009290653A true JP2009290653A (ja) | 2009-12-10 |
Family
ID=41459386
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008142258A Pending JP2009290653A (ja) | 2008-05-30 | 2008-05-30 | 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009290653A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103686098A (zh) * | 2012-09-04 | 2014-03-26 | 恒景科技股份有限公司 | 数字摄像装置及其影像处理方法 |
US9258555B2 (en) | 2012-08-29 | 2016-02-09 | Hanwha Techwin Co., Ltd. | Apparatus and method for determining defect pixel |
US10348989B2 (en) | 2014-08-27 | 2019-07-09 | Sony Semiconductor Solutions Corporation | Image processing device, image processing method, and image processing system |
-
2008
- 2008-05-30 JP JP2008142258A patent/JP2009290653A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9258555B2 (en) | 2012-08-29 | 2016-02-09 | Hanwha Techwin Co., Ltd. | Apparatus and method for determining defect pixel |
CN103686098A (zh) * | 2012-09-04 | 2014-03-26 | 恒景科技股份有限公司 | 数字摄像装置及其影像处理方法 |
CN103686098B (zh) * | 2012-09-04 | 2015-07-22 | 恒景科技股份有限公司 | 数字摄像装置及其影像处理方法 |
US10348989B2 (en) | 2014-08-27 | 2019-07-09 | Sony Semiconductor Solutions Corporation | Image processing device, image processing method, and image processing system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8576309B2 (en) | Pixel defect correction device, imaging apparatus, pixel defect correction method, and program | |
US8508631B2 (en) | Pixel defect detection and correction device, imaging apparatus, pixel defect detection and correction method, and program | |
US8908065B2 (en) | Solid state imaging processing systems and method for providing signal correction of pixel saturation errors | |
US8013914B2 (en) | Imaging apparatus including noise suppression circuit | |
US8451350B2 (en) | Solid-state imaging device, camera module, and imaging method | |
US7830428B2 (en) | Method, apparatus and system providing green-green imbalance compensation | |
US9998715B2 (en) | Solid-state imaging device, imaging system, and signal processing method correcting a read-out signal | |
JP6037170B2 (ja) | 固体撮像装置およびその信号処理方法、並びに電子機器 | |
WO2016031597A1 (ja) | 画像処理装置、画像処理方法、及び、画像処理システム | |
JP5900194B2 (ja) | 信号処理装置、信号処理方法、プログラム、固体撮像素子、および電子機器 | |
KR20150146308A (ko) | 이미지 센서 및 이미지 센서의 동작 방법 | |
JP4679174B2 (ja) | 画像処理装置およびこの画像処理装置を備えたデジタルカメラ | |
JP5262953B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009290653A (ja) | 欠陥画素補正装置、撮像装置、欠陥画素補正方法、およびプログラム | |
WO2017212870A1 (ja) | 信号処理装置、信号処理方法、及び、撮像装置 | |
JP2010068329A (ja) | 撮像装置 | |
JP2006041687A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、電子カメラ、及びスキャナ | |
JP2009177436A (ja) | 固体撮像装置、信号処理装置、および電子情報機器 | |
JP2003158744A (ja) | 画素キズ検出・補正装置およびそれを用いた撮像装置 | |
JP7134786B2 (ja) | 撮像装置および制御方法 | |
KR100801057B1 (ko) | 컬러 보정 블럭을 구비하는 cmos 이미지 센서 및 그이미지 센싱 방법 | |
JP2008028486A (ja) | 撮像装置、及びそのクランプ方法 | |
JP2006100913A (ja) | 画像処理装置および画像処理方法 | |
JP2004112025A (ja) | 固体撮像素子の欠陥画素補正装置 | |
JP2019186817A (ja) | 固体撮像素子、撮像装置および固体撮像素子の制御方法 |