JP2010010760A - 撮像装置および方法 - Google Patents
撮像装置および方法 Download PDFInfo
- Publication number
- JP2010010760A JP2010010760A JP2008164446A JP2008164446A JP2010010760A JP 2010010760 A JP2010010760 A JP 2010010760A JP 2008164446 A JP2008164446 A JP 2008164446A JP 2008164446 A JP2008164446 A JP 2008164446A JP 2010010760 A JP2010010760 A JP 2010010760A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- address
- shared
- defect
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】画素共有技術を利用した撮像素子におけるアドレス記憶式の画素欠陥補正手法を採用する場合、メモリ容量を削減するとともに、補正回路内のバッファを不用にすることができるようにする。
【解決手段】欠陥情報格納メモリに格納される欠陥画素情報は、欠陥アドレス41、共有フラグ42および共有位置情報43から構成されている。共有位置情報43とは、所定の共有画素の、他の共有画素との相対的な位置をいう。即ち、欠陥画素が共有画素である場合には当該画素共有構成毎に、そうでない場合には欠陥画素毎に、欠陥画素情報が欠陥情報格納メモリに格納される。したがって、画素共有構成(それに含まれる複数の共有画素)全体で1つの欠陥画素情報が用いられることになる。本発明は、例えば撮像装置に適用することができる。
【選択図】図4
【解決手段】欠陥情報格納メモリに格納される欠陥画素情報は、欠陥アドレス41、共有フラグ42および共有位置情報43から構成されている。共有位置情報43とは、所定の共有画素の、他の共有画素との相対的な位置をいう。即ち、欠陥画素が共有画素である場合には当該画素共有構成毎に、そうでない場合には欠陥画素毎に、欠陥画素情報が欠陥情報格納メモリに格納される。したがって、画素共有構成(それに含まれる複数の共有画素)全体で1つの欠陥画素情報が用いられることになる。本発明は、例えば撮像装置に適用することができる。
【選択図】図4
Description
本発明は、撮像装置および方法に関し、特に、画素共有技術を利用した撮像素子におけるアドレス記憶式の画素欠陥補正手法を採用する場合、メモリ容量を削減するとともに、補正回路内のバッファを不用にすることができるようになった、撮像装置および方法に関する。
CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)などの固体撮像素子において、製造工程上の不具合などにより、正しい出力ができない欠陥画素が存在することが知られている。このような欠陥画素があると、正しい出力を得ることができず、画質劣化を引き起こすことになる。
このような欠陥画素から出力される信号を補正する手法として、次のような一連の工程からなる手法が存在する。第1の工程は、従来の撮像装置について、まず、工場出荷時に欠陥画素の検出調整を行い、そこで見つかった欠陥画素のアドレスを、メモリなどにあらかじめ記憶しておくという工程である。第2の工程は、欠陥画素から出力される信号を、その欠陥画素の前後にある同色フィルタ画素データの加算平均値と置き換えるような欠陥補正回路を内蔵して、欠陥画素の補正を行わせるという工程である。
しかしながら、近年のイメージセンサの多画素化に従い、欠陥画素数も増加してきており、欠陥アドレスを記憶するためのメモリが増加することで、撮像装置のコストが上がるという問題が生じている。
また、イメージセンサの多画素化に従い、単位画素あたりの面積も縮小されてきている。CMOSセンサの単位画素は、フォトダイオードなどの光電変換素子で構成される光電変換部で形成されており、光電変換部の面積が低下することで単位画素あたりの感度が低下し、それによる画質劣化が懸念されている。
そこで、光電変換部の面積低下を防ぐための手法として、複数の光電変換部を1つの読み出し回路部で共有する、いわゆる画素共有という技術が提案されている(例えば特許文献1参照)。
しかしながら、このような画素共有構成をとった場合、共有部のトランジスタに起因する欠陥が発生すると、共有している画素の出力全てが欠陥画素となってしまう。以下、このような欠陥を共有欠陥と称する。
従来の補正システムにおいては、これらの共有欠陥を、通常の1画素のみに発生する欠陥と区別することは行っておらず、見つかった欠陥画素の全てのアドレスをメモリに記憶する方式を取っている。そのため、共有画素数分だけアドレス記憶領域が必要となり、メモリ容量を無駄に消費している、という問題が生じていた。
そこで、その問題の対策として、上述した特許文献1には、共有欠陥に対して先頭アドレスのみをメモリに記憶し、補正時に別のバッファ(欠陥アドレス記憶バッファ)へアドレスを展開するといった手法が開示されている。しかしながら、特許文献1の手法では、このようなアドレスを展開するためのバッファが別に必要となる。よって、共有欠陥が同一ライン上に複数ある場合等を想定すると、その容量も無視できないものとなる、という問題を生ずる。即ち、バッファには、画素共有されている画素(以下、共有画素と称する)の個数分のアドレスが展開されることになる。よって、共有画素の個数が増えた分だけ、バッファ容量が大きくなるという問題が生ずる。
本発明は、このような状況に鑑みてなされたものであり、画素共有技術を利用した撮像素子におけるアドレス記憶式の画素欠陥補正手法を採用する場合、メモリ容量を削減するとともに、補正回路内のバッファを不用にすることができるようにするものである。
本発明の一側面の撮像装置は、複数の画素と、前記複数の画素のうちの少なくとも2つの画素が共有画素とされ、前記共有画素に対して共有して設けられた読み出し手段とを備える撮像素子と、前記複数の画素のうちの欠陥画素に関する欠陥画素情報を記憶する欠陥情報記憶手段と、前記欠陥情報に基づいて欠陥画素を特定し、特定した欠陥画素の画素データを補正する欠陥補正手段とを備え、前記欠陥画素情報は、欠陥画素の読み出し順を示す前記撮像素子におけるアドレスと、共有欠陥であるか否かを示す共有情報と、共有画素中の位置を示す共有位置情報とを格納しており、1つの前記共有欠陥に対して1つの欠陥画素情報を備えており、前記欠陥補正手段は、処理対象の欠陥画素情報に格納された共有情報が共有欠陥であることを示す情報である場合、処理対象の欠陥画素情報に格納された前記アドレスと、処理対象の欠陥画素情報に格納された前記共有位置情報とを用いて、前記共有欠陥である欠陥画素群を特定する各画素をそれぞれ特定し、特定された前記各画素のそれぞれの画素データを補正する。
前記欠陥補正手段は、前記共有欠陥である欠陥画素群を構成する各画素のうち所定画素を補正対象とする場合、さらに、処理対象の前記欠陥画素情報に含まれる前記アドレスを、前記所定画素のアドレスから、前記共有欠陥である欠陥画素群を構成する各画素のうち前記所定画素の次に前記読み出し手段により読み出される次画素のアドレスに変更し、変更後の処理対象の前記欠陥画素情報を前記欠陥情報記憶手段に上書きする。
前記共有欠陥である欠陥画素群についての前記欠陥画素情報には、さらに、前記共有位置情報が含まれており、前記欠陥補正手段は、前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、さらに、前記共有位置情報の内容を、前記所定画素から前記次画素に関する情報に変更する。
前記欠陥補正手段は、前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、さらに、前記次画素のアドレスよりも前に前記読み出し手段により読み出されるアドレスが含まれる前記欠陥画素情報が、前記欠陥情報記憶手段に存在するとき、その欠陥画素情報を処理対象とするように、前記欠陥情報記憶手段内の前記欠陥画素情報を並べ替える。
前記欠陥補正手段は、さらに、処理対象の前記欠陥画素情報を示す処理対象参照情報を用いて、前記補正処理を実行しており、前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、前記所定画素が、前記読み出し手段の読み出し方向の最後尾アドレスに位置する欠陥画素であるとき、前記処理対象参照情報の内容を更新する。
前記欠陥補正手段は、補正対象の欠陥画素の画素データの補正処理として、前記補正対象に対して所定位置関係にある複数の同色フィルタ画素の各画素データから補正データを求め、前記補正対象の画素データを前記補正データに置き換える処理を実行する。
本発明の一側面の撮像方法は、本発明の一側面の上述した撮像装置に対応する方法である。
本発明の一側面の撮像装置および方法においては、複数の画素と、前記複数の画素のうちの少なくとも2つの画素が共有画素とされ、前記共有画素に対して共有して設けられた読み出し手段とを備える撮像素子と、前記複数の画素のうちの欠陥画素に関する欠陥画素情報を記憶する欠陥情報記憶手段と、前記欠陥情報に基づいて欠陥画素を特定し、特定した欠陥画素の画素データを補正する欠陥補正手段とを備える撮像装置によって、次の処理がなされる。即ち、前記欠陥画素情報は、欠陥画素の読み出し順を示す前記撮像素子におけるアドレスと、共有欠陥であるか否かを示す共有情報と、共有画素中の位置を示す共有位置情報とを格納しており、1つの前記共有欠陥に対して1つの欠陥画素情報を備えている場合に、処理対象の欠陥画素情報に格納された共有情報が共有欠陥であることを示す情報であるとき、処理対象の欠陥画素情報に格納された前記アドレスと、処理対象の欠陥画素情報に格納された前記共有位置情報とを用いて、前記共有欠陥である欠陥画素群を特定する各画素がそれぞれ特定され、特定された前記各画素のそれぞれの画素データが補正される。
以上のごとく、本発明によれば、画素共有起因で発生する共有欠陥について、全ての共有パターンを補正することが可能となる。特に、かかる補正をするために必要な、欠陥画素の前記撮像素子におけるアドレス(欠陥アドレス等)を記憶するためのメモリ容量の削減が可能となる。その結果、撮像装置全体のコストアップを抑制することができる。さらに、従来必要であった補正回路内のバッファを不用にすることができるようにもなる。
最初に、本発明の理解を容易にするために、画素共有技術について図1を参照して説明する。
図1は、画素共有技術を用いたCMOSセンサの画素部の回路図の構成例を示している。
図1に示されるCMOSセンサにおいて、2画素のフォトダイオード2a,2bに対して、それぞれ対応する転送トランジスタTr1a,Tr1bのソースが接続されている。
転送トランジスタTr1a,Tr1bの各ゲートには、それぞれ転送配線11A,11Bが接続されている。
転送トランジスタTr1a,Tr1bのドレインは、共に1つのリセットトランジスタTr2に接続されている。また、転送トランジスタTr1a,Tr1bのドレインとリセットトランジスタTr2のソース間のいわゆるフローティング・ディフージョン(FD)が、増幅トランジスタTr3のゲートに接続されている。
リセットトランジスタTr2のドレインおよび増幅トランジスタTr3のドレインは、電源配線13に接続されている。また、リセットトランジスタTr2のゲートはリセット線12に接続されている。増幅トランジスタTr3のソースは選択トランジスタTr4のドレインに接続されている。
選択トランジスタTr4のゲートは選択配線15に接続され、選択トランジスタTr4のソースは垂直信号線14に接続されている。
読み出し回路部20は、リセットトランジスタTr2、増幅トランジスタTr3および選択トランジスタTr4を含む。
即ち、図1の構成例では、2画素のフォトダイオード2a,2bは、1つの読み出し回路部20で共有されている。
このように、画素共有技術では、複数の光電変換部(図1の例では、2画素のフォトダイオード2a,2b)が、1つの読み出し回路部(図1の例では、読み出し回路部20)で共有されている。
このように、図1の構成例は、2画素共有の場合を示している。勿論、画素共有技術では、さらに複数の画素、たとえば4画素共有も実現可能である。
以下、画素共有技術を用いた読み出し回路の構成、即ち、図1に示される構成を、画素共有構成と称する。このような画素共有構成をとった場合、共有部のトランジスタ(図1の例では、リセットトランジスタTr2)に起因する欠陥が発生すると、共有画素(図1の例では、2画素のフォトダイオード2a,2b)の出力全てが欠陥画素となってしまう。即ち、[発明が解決しようとする課題]で説明した共有欠陥が発生してしまう。
この場合、特許文献1を含む従来の補正手法を採用した場合、[発明が解決しようとする課題]で上述した各種問題が生じてしまう。
そこで、本発明人は、従来の補正手法のうち、アドレス保持手法を改善する手法を発明した。かかる発明により、これらの従来の各種問題を解決することができるようになった。即ち、メモリ容量を削減し、かつ特許文献1の手法では必須なバッファを不要とする撮像装置を実現できるようになった。そこで、以下、図2以降の図面を参照して、本発明の実施の形態について説明する。
図2は、本発明を適用した一実施形態としての撮像装置の構成例を示すブロック図である。
図2の例の撮像装置は、レンズ31、CMOSセンサ32、前処理部33、A/D変換部34、欠陥補正部35、欠陥情報格納メモリ36および信号処理部37から構成されている。
ここで、CMOSセンサ32の読み出し回路は、画素共有構成を取っているとする。即ち、複数の光電変換部が、1つの読み出し回路部で共有されているとする。
例えば、CMOSセンサ32の読み出し回路の画素共有構成としては、図3のA,Bに示される4画素共有構成を採用することができる。図3のA,Bは、実線で結ばれた4画素を共有画素とする画素共有構成の2つの例を示している。図3のAにおいて、正方形が1つの画素(光電変換部)を示している。各画素内のアルファベットが、RGB(GはGrとGb)信号の各信号に対応している。なお、共有画素の数や共有画素の組み合わせ方等は、図3の例に限定されず、任意でよい。ただし、以下、説明の簡略上、本実施の形態では、CMOSセンサ32の読み出し回路の画素共有構成として、図3のAに示される4画素共有構成が採用されているとする。
図2において、CMOSセンサ32は、レンズ31から入射した光を光電変換し、その結果得られるアナログの画像信号を、前処理部33に提供する。前処理部33は、画像信号に対して、黒レベル調整などの前処理を施す。前処理部33により前処理が施された画像信号はA/D変換部34に提供される。
A/D変換部34は、アナログの画像信号に対してA/D変換(Analog to Digital変換)を施し、その結果得られるデジタルの画像信号を欠陥補正部35に提供する。このデジタルの画像信号は、各画素の画素データから構成されている。欠陥補正部35は、デジタルの画像信号を構成する各画素データのうち、欠陥画素の画素データについては補正処理を施した上、そうでない画素データについてはそのまま、信号処理部37に提供する。信号処理部37は、提供された画像信号に対して、適宜様々な処理を施す。
ここで、欠陥補正部35の補正処理では、欠陥情報格納メモリ36に格納された情報が用いられる。例えば本実施の形態では、欠陥情報格納メモリ36には、工場出荷時などにあらかじめ検出された情報として、CMOSセンサ32の欠陥画素のアドレス情報、共有欠陥であるか否かを判別するためのフラグ、共有位置を示す情報等が、欠陥画素毎に記憶されている。
ここで注目すべき点は、「欠陥画素毎」と記述しているが、この記述は全欠陥画素を意味しない点である。即ち、欠陥画素が共有画素である場合、その他の共有画素も欠陥画素になる。よって、この場合、CMOSセンサ32の読み出し方向の先頭アドレスに位置する共有画素(後述する図4のBの例では、共有位置情報が「00」である最上端の画素)についての情報のみが、欠陥情報格納メモリ36に格納される。これにより、欠陥情報格納メモリ36の容量の削減が可能になる。
例えば、図4のAは、欠陥情報格納メモリ36うち、1つの欠陥画素に関する情報のデータ構造例を示している。以下、かかる構造のデータをまとめて、欠陥画素情報と称する。
ここで、欠陥画素が共有画素である場合、初期状態では、先頭の共有画素(後述する図4のBの例では、共有位置情報が「00」である最上端の画素)に関する情報が、欠陥画素情報として欠陥情報格納メモリ36に格納される。初期状態と記述したのは、後述する図7の補正処理により、別の共有画素に関する情報に適宜更新されるからである。換言すると、画素共有構成(それに含まれる複数の共有画素)全体で1つの欠陥画素情報が用いられることになる。
欠陥画素情報は、欠陥アドレス41、共有フラグ42および共有位置情報43から構成される。即ち、欠陥画素が共有画素である場合には当該画素共有構成毎に、そうでない場合には欠陥画素毎に、欠陥画素情報が欠陥情報格納メモリ36内に格納されている。これらの複数の欠陥画素情報が、各欠陥アドレス41の内容に基づいて、CMOSセンサ32から読み出される順番に並べられて、欠陥情報格納メモリ36に格納されている。
欠陥アドレス41とは、欠陥画素のアドレスを特定する情報をいう。
共有フラグ42とは、bitで表示されるフラグであって、欠陥画素の欠陥が、共有欠陥であるか否かを示す情報をいう。例えば本実施の形態の共有フラグ42は、欠陥画素が共有欠陥である場合には「1」となり、共有欠陥でない場合には「0」となる。なお、当然ながら、「0」と「1」の対応付けは逆でもよい。
共有位置情報43とは、欠陥画素の共有位置を示す情報をいう。共有位置とは、所定の共有画素の、他の共有画素との相対的な位置をいう。よって、共有位置情報43の情報量は、共有画素数によって異なる。たとえば、4画素共有であれば2bitで共有位置情報43を構成することができる。
具体的には例えば本実施の形態では、CMOSセンサ32の読み出し回路の画素共有構成としては、上述したように、図3のAに示される4画素共有構成が採用されている。よって、例えば、図4のBに示される共有位置情報43を採用することができる。即ち、4つの共有画素のうち、垂直方向の一番上に配置される共有画素(先頭の共有画素)の共有位置情報43は、「00」が採用される。以下、同様に、4つの共有画素のうち、垂直方向の2番目、3番目、4番目に配置される各共有画素の共有位置情報43はそれぞれ、「01」、「10」、「11」が採用される。
ただし、上述のごとく、欠陥画素が共有画素の場合、欠陥画素情報は、画素共有構成毎に、即ち、本実施の形態では4画素共有構成毎に設けられている。よって、この場合、初期状態では、欠陥アドレス41としては、垂直方向の一番上に配置される共有画素(先頭の共有画素)の欠陥アドレスが欠陥情報格納メモリ36に格納される。共有フラグ42としては「1」が欠陥情報格納メモリ36に格納される。共有位置情報43としては、垂直方向の一番上に配置される共有画素(先頭の共有画素)の共有位置情報である「00」が欠陥情報格納メモリ36に格納される。
なお、欠陥画素が共有欠陥でない場合、即ち、共有フラグ42に「0」が格納される場合、共有位置情報43は不要となる。即ち、この場合、共有位置情報43の参照は不要となる。よって、この場合の共有位置情報43の代わりに任意の情報を欠陥情報格納メモリ36に格納することができる。
このような欠陥情報格納メモリ36に格納された欠陥画素情報が、欠陥補正部35の補正処理で用いられる。即ち、欠陥補正部35は、欠陥情報格納メモリ36のうち、処理対象の欠陥画素についての欠陥画素情報、具体的には、欠陥アドレス41、共有フラグ42および共有位置情報43を参照する。そして、欠陥補正部35は、欠陥情報格納メモリ36から得たこれらの情報を用いて、欠陥画素のデータを補正する。
この場合の補正手法は、特に限定されないが、本実施の形態では例えば、当該欠陥画素と所定位置関係(例えば前後)にある同色フィルタ画素の画素データより算出したデータを、欠陥画素の画素データとして置き換えるという手法が適用されるとする。以下、図5を参照して、かかる手法の概要を説明する。
図5の例では、説明の簡略上、ベイヤー状に配列された5×5画素群が処理対象とされている。正方形が1つの画素(光電変換部)を示している。各画素内のアルファベットが、RGB信号の各信号に対応している。この処理対象を構成する各画素の位置は、アドレス(x,y)で示されるとする。ここで、xは、最左端の画素位置を1とした場合の水平方向(右方向)のアドレス(以下、Hアドレスと称する)を示している。yは、最上端の画素位置を1とした場合の垂直方向(下方向)のアドレス(以下、Vアドレスと称する)を示している。
処理対象のうちのアドレス(3,3)にある画素PN、即ち図中太線枠で囲まれた画素PNが、欠陥画素であるとする。この場合欠陥画素PNと、同色フィルタで水平方向において最近傍にある画素は、図中網掛けで示される画素Pa,Pb、即ち、アドレス(1,3)にある画素Paとアドレス(5,3)にある画素Pbである。欠陥補正部35は、これら2つの画素Pa,Pbの画素データから求めたデータ(例えば各画素値の平均値)を、欠陥画素PNの画素データ(画素値)に置き換えることにより、欠陥画素PNの補正を行う。
図6は、このような欠陥補正部35の構成例を示すブロック図である。
図6の欠陥補正部35は、欠陥判定部51、欠陥補正部52、共有判定部53、共有位置情報生成部54、アドレス変換部55、および出力部56から構成されている。
欠陥判定部51には、A/D変換部34からデジタルの画像信号が画素データ毎に提供される。即ち、欠陥判定部51を含む欠陥補正部35の処理単位は、画素データである。そこで、以下、画素データを用いて、欠陥補正部35について説明していく。
欠陥判定部51は、画素データのアドレスと、欠陥情報格納メモリ36から提供される欠陥アドレス41とを比較する。ここで、欠陥情報格納メモリ36から提供される欠陥アドレス41とは、欠陥情報格納メモリ36に格納された各欠陥画素情報のうちの、処理対象の欠陥画素情報に含まれる欠陥アドレス41をいう。処理対象の欠陥画素情報とは、図9乃至図17を用いて後述する「欠陥アドレス参照位置P」となっている欠陥画素情報をいう。
欠陥判定部51は、この比較結果に基づいて、A/D変換部34から提供される画素データが欠陥画素の画素データであるか否かを判定する。欠陥判定部51は、欠陥画素の画素データであると判定した場合、その画素データを欠陥補正部52に提供する。また、欠陥判定部51は、欠陥画素の画素データではないと判定した場合、その画素データを出力部56に提供する。
欠陥補正部52は、欠陥画素の画素データに対して補正処理を施す。補正処理に適用される補正手法については、図5を用いて説明した通りである。補正後の欠陥画素の画素データは、共有判定部53に提供される。
共有判定部53は、欠陥情報格納メモリ36の処理対象の欠陥画素情報に含まれる共有フラグ42を用いて、欠陥補正部52から提供された画素データが共有欠陥の画素データであるか否かを判定し、その判定結果を共有位置情報生成部54に通知する。また、共有判定部53は、補正後の欠陥画素の画素データを出力部56に提供する。
共有位置情報生成部54は、共有欠陥の画素データであるという判定結果が共有判定部53から通知されてきた場合、その画素データに対応する共有画素についての共有位置を示す共有位置情報43を生成する。そして、共有位置情報生成部54は、その共有位置情報43を、次に読み出される共有画素の共有位置を示す情報に更新する。更新後の共有位置情報43は、アドレス変換部55に通知される。
アドレス変換部55は、共有位置情報生成部54から変換後の共有位置が通知された場合、欠陥アドレス41を、変換前の共有位置の共有画素(欠陥画素)のアドレスから、変換後の共有位置の共有画素(欠陥画素)のアドレスに変換する。アドレス変換部55は、変換後の共有位置情報43と変換後の欠陥アドレス41を、欠陥情報格納メモリ36内の欠陥アドレス41に基づいてソートして、欠陥情報格納メモリ36に書き戻す。換言すると、欠陥情報格納メモリ36に格納されている欠陥画素情報のうち、処理対象の共有画素を含む画素共有構成で用いられている欠陥画素情報の内容が更新され、必要に応じて並び替えられる。なお、この並び替えをアドレスソートと称する。アドレスソートについては後述する。
出力部56は、欠陥判定部51からの画素データ(欠陥のない画素データ)、または、共有判定部53からの画素データ(欠陥補正部52により補正された画素データ)を信号処理部37(図2)に通知する。
図7は、欠陥補正部35が実行する補正処理を説明するフローチャートである。
図7の例の補正処理は、画素データについての処理である。即ち、A/D変換部34から画素データが提供される毎に、図7の例の補正処理が繰り返し実行される。そこで、以下、A/D変換部34から提供されて、図7の例の補正処理の対象となる画素データを、処理対象画素データと称する。また、以下、処理対象画素データに対応する画素を、処理対象画素と称する。
ステップS1において、欠陥判定部51は、処理対象画素が欠陥画素であるか否かを判定する。即ち、欠陥判定部51は、処理対象画素のアドレスと、欠陥情報格納メモリ36から提供される欠陥アドレス41とを比較し、処理対象画素が欠陥画素であるか否かを判定する。
ここで、欠陥情報格納メモリ36から提供される欠陥アドレス41とは、欠陥情報格納メモリ36に格納された各欠陥画素情報のうちの、処理対象の欠陥画素情報に含まれる欠陥アドレス41である。なお、処理対象の欠陥画素情報とは、図9乃至図17を用いて後述する「欠陥アドレス参照位置P」となっている欠陥画素情報をいう。また、欠陥アドレス参照位置Pは、後述するステップS8の処理で更新される。
処理対象画素のアドレスと欠陥アドレス41とが不一致の場合、ステップS1においてNOであると判定されて、即ち、処理対象画素は欠陥画素ではないと判定されて、補正処理全体が終了となる。この場合、処理対象画素データは、補正処理が施されずにそのまま、出力部56を介して図2の信号処理部37に出力される。
これに対して、処理対象画素のアドレスと欠陥ドレス41とが一致した場合、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、処理対象画素データを補正する。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、欠陥情報格納メモリ36の処理対象の欠陥画素情報に含まれる共有フラグ42を用いて、処理対象画素の欠陥が共有欠陥であるか否かを判定する。
共有フラグ42が「0」の場合、ステップS3においてNOであると判定されて、即ち、処理対象画素の欠陥は共有欠陥ではないと判定されて、処理はステップS8に進む。ステップS8以降の処理については後述する。
これに対して、共有フラグ42が「1」の場合、ステップS3においてYESであると判定されて、即ち、処理対象画素の欠陥は共有欠陥であると判定されて、その判定結果が共有位置情報生成部54に通知される。これにより、処理はステップS4に進む。なお、以下、共有欠陥であると判定された画素を、共有欠陥画素と称する。
ステップS4において、共有位置情報生成部54は、共有欠陥画素の共有位置情報43を生成し、共有欠陥画素の共有位置情報43を、次に読み出される共有欠陥画素の共有位置情報43に変換する。
具体的には例えば本実施の形態では、図4のBで示される共有位置情報43が用いられている。よって、ステップS4の処理では、共有欠陥画素の共有位置情報43として、図8に示される表の各行のうち所定の行の「現在の共有位置情報」の記載値が生成される。この場合、同一行の「変換後の共有位置情報」の記載値が、次に読み出される共有欠陥画素の共有位置情報となっている。よって、所定の行の「現在の共有位置情報」の記載値が、同一行の「変換後の共有位置情報」の記載値に変更されるのである。
より具体的には例えば、共有欠陥画素の共有位置情報43として「01」が生成されたとする。この「01」は、2行目の「現在の共有位置情報」の記載値である。よって、「01」は、2行目の「変換後の共有位置情報」の記載値である「10」に変更されるのである。
図7に戻り、ステップS4の処理が実行され、変換後の共有位置情報(上の具体例では「10」)が、アドレス変換部55に通知されると、処理はステップS5に進む。
ステップS5において、アドレス変換部55は、共有欠陥画素の欠陥アドレス41を、次に読み出される共有欠陥画素の欠陥アドレス41に変換する。
具体的には例えば本実施の形態では、図4のBで示される共有位置情報が用いられている。よって、ステップS5の処理では、図8に示される表の各行のうち所定の行、即ち、ステップS5の処理で参照された行が処理対象行となる。この処理対象行の「アドレス変換方法」の記載内容に従って、共有欠陥画素の欠陥アドレス41が、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。
より具体的には、上述したステップS4の例にあわせて、処理対象行が2行目であるとする。即ち、ステップS4の処理で、共有位置情報43として「01」が生成され、その「01」が「10」に変換されたとする。また、共有欠陥画素の欠陥アドレス41が、アドレス(x,y)であったとする。ここで、xはHアドレスを示し、yはVアドレスを示している。この場合、2行目の「アドレス変換方法」の記載内容は、「Hアドレス−1 Vアドレス+1」となっている。この記載の意味は、Hアドレスは、現在のHアドレスxに対して「−1」だけ進め、Vアドレスは、現在のVアドレスyに対して「+1」だけ進めることを意味している。よって、共有欠陥画素の欠陥アドレス41は、アドレス(x,y)からアドレス(x-1,y+1)に変換されることになる。
即ち、本実施の形態では、CMOSセンサ32の読み出し回路の画素共有構成として、図3のAに示される4画素共有構成が採用されている。図3のAの4画素共有構成は、設計時点での既知かつ固定の情報である。よって、図3のAの4画素共有構成における4つの共有画素の各アドレスと、他の1つの共有画素のアドレスとの差分もまた、設計時点での既知かつ固定の情報である。例えば、図3のAの上から2番目の画素のアドレスと、図3のAの上から1番目の画素のアドレスとの差分は、Hアドレスについては+1であり、Vアドレスについては+1となる。換言すると、図3のAの上から1番目の画素のアドレスからこの差分だけアドレスを移動させれば、図3のAの上から2番目のアドレスに変換することが可能になる。
より一般的に言えば、共有欠陥画素の欠陥アドレス41と、次に読み出される共有欠陥画素の欠陥アドレス41との差分が、図8に示される表の「アドレス変換方法」の項目に各行毎に記載されている。よって、処理対象行の「現在の共有位置情報」で特定される共有欠陥画素の欠陥アドレス41から、処理対象行の「アドレス変換方法」の項目に記載されている差分だけアドレスを移動させることで、次に読み出される共有欠陥画素の欠陥アドレス41、即ち、処理対象の「変換後の共有位置情報」で特定される共有欠陥画素の欠陥アドレス41に変換される。
図7に戻り、ステップS6において、アドレス変換部55は、上述のステップS4とS5の処理内容に基づいて、アドレスソートして、欠陥情報格納メモリ36に書き戻す。具体的には、欠陥情報格納メモリ36に格納された欠陥画素情報のうち、処理対象の欠陥画素情報、即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の内容が書き換えられる。即ち、欠陥アドレス41が、ステップS5の処理で変換された内容に書き換えられる。上述の例で言えば、欠陥アドレス41が、アドレス(x,y)からアドレス(x-1,y+1)に書き換えられる。また、共有位置情報43として、ステップS4の処理で変換された内容に書き換えられる。上述の例で言えば、共有位置情報43が、「01」から「10」に書き換えられる。そして、アドレスソートが行われる。なお、アドレスソートについては、図10と図11を参照して後述する。
これにより、ステップS6の処理が終了し、処理はステップS7に進む。
ステップS7において、アドレス変換部55は、欠陥情報格納メモリ36の処理対象の欠陥画素情報、即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の共有位置情報43情報を参照し、共有位置が最後の位置(図4のBの例では共有位置情報「11」が示す共有位置)であるか否かを判定する。
ステップS7において、共有位置が最後の位置でないと判定された場合、具体的には例えば、図4のBの例では共有位置情報43が「00」、「01」、または「10」である場合、補正処理全体が終了となる。
これに対して、ステップS7において、共有位置が最後の位置であると判定された場合、処理はステップS8に進む。
ステップS8において、アドレス変換部55は、欠陥情報格納メモリ36の欠陥アドレス参照位置Pをひとつ進める。即ち、欠陥情報格納メモリ36に格納された欠陥画素情報のうち、処理対象の欠陥画素情報が、1つ下の欠陥画素情報に移動する。これにより、補正処理全体が終了となる。
以上説明したように、欠陥画素の欠陥が共有欠陥である場合、ステップS4乃至S7の処理が実行されて、欠陥情報格納メモリ36に格納された欠陥画素情報のうち、処理対象の欠陥画素情報の内容が更新される。これにより、欠陥情報格納メモリ36は、画素共有構成で1つの欠陥画素情報、例えば本実施の形態では4画素共有構成で1つの欠陥画素情報だけを格納させればよいことになる。即ち、欠陥情報格納メモリ36において、1画素分のメモリ領域(欠陥画素情報のメモリ領域)で4画素分の補正を実行することが可能となり、残りの共有画素数分に相当するメモリ容量(本実施の形態では3つの欠陥画素情報分のメモリ容量)の削減が可能となる。
さらに、以下、図9乃至図17の具体例を用いて、図7の補正処理について説明していく。ここで、図9乃至図17においては、説明を簡単なものにするために、6×6画素で構成されるCMOSセンサ32(図2)が採用されているとする。即ち、図9乃至図17の上方には、CMOSセンサ32の模式図として、ベイヤー状に配列された6×6画素群が図示されている。正方形が1つの画素(光電変換部)を示している。各画素内のアルファベットが、RGB(GはGrとGb)信号の各信号に対応している。このCMOSセンサ32を構成する各画素の位置は、アドレス(x,y)で示されるとする。ここで、xはHアドレスを示し、yはVアドレスを示している。
また、図9乃至図17の下方には、欠陥情報格納メモリ36の構成例が示されている。欠陥情報格納メモリ36の1行が、1つの欠陥画素情報に対応している。また、「P→」のシンボルで示される行が、処理対象の欠陥画素情報、即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報を示している。また、画素PNが処理対象画素を示している。
図9は、補正処理の動作開始時の状態を示している。
図9において、灰色でマスクされている画素が欠陥画素を示している。具体的には、アドレス(5,3)の画素およびアドレス(5,6)の画素が、共有に依存しない単独欠陥の欠陥画素である。これに対して、アドレス(1,3)、(2,4)、(1,5)、(2,6)の4画素が、共有欠陥画素である。即ち、これら4画素が共有画素である。
この状態で、補正処理が開始されると、欠陥判定部51は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図9中1行目の欠陥画素情報)の欠陥アドレス41としてアドレス(1,3)を取得する。そして、ステップS1において、欠陥判定部51は、処理対象画素が欠陥画素であるか否かを判定する。
例えばアドレス(1,3)の画素が処理対象画素PNであるとする。この場合、処理対象画素PNのアドレスと欠陥アドレス41とはともに(1,3)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(1,3)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図9中1行目の欠陥画素情報)の共有フラグ42として「1」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグ42が「1」であるため、欠陥画素PNの欠陥は共有欠陥であると判定する。即ち、処理対象画素PNは欠陥共有画素であると判定される。
このように、アドレス(1,3)の処理対象画素PNが共有欠陥画素であることから、ステップS4乃至S7において、共有位置情報生成部54およびアドレス変換部55により補正処理が行われる。
即ち、ステップS4の処理で、欠陥共有画素PNの共有位置情報43として「00」が生成される(図4のB参照)。そして、共有位置情報43が、「00」から「01」に変更される(図4のB,図8参照)。即ち、「01」が、次に読み出される共有欠陥画素の共有位置情報43である。
また、ステップS5の処理で、共有欠陥画素のアドレス(1,3)が、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。即ち、いまの場合、図8の処理対象行は1行目であるので、図8に示される1行目の「アドレス変換方法」の記載内容に従って、共有欠陥画素の欠陥アドレス41として、アドレス(1,3)から、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。1行目の「アドレス変換方法」の記載内容は、「Hアドレス+1 Vアドレス+1」となっている。よって、共有欠陥画素の欠陥アドレス41は、アドレス(1,3)からアドレス(1+1,3+1)=(2,4)に変換されることになる。
そして、ステップS6において、これらの変更内容が、欠陥情報格納メモリ36に上書きされる。即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の内容が書き換えられる。即ち、欠陥アドレス41が、アドレス(1,3)からアドレス(2,4)に書き換えられる。また、共有位置情報43が、「00」から「01」に書き換えられる。これにより、欠陥情報格納メモリ36の格納情報は図10に示される状態になる。
そして、アドレスソートが行われる。即ち、アドレス変換部55は、「欠陥アドレス参照位置P」となっている欠陥画素情報として、現在の欠陥画素情報と、次の欠陥画素情報とを入れ替える。その結果、欠陥情報格納メモリ36のデータは図11に示される状態になる。
ここで、アドレスソートの意味について説明する。即ち、図10の状態では、「欠陥アドレス参照位置P」となっている欠陥画素情報の欠陥アドレス41としてはアドレス(2,4)が格納されている。ところが、次の行の欠陥画素情報の欠陥アドレス41としてはアドレス(5,3)が格納されている。図7の補正処理は、走査順番、即ち、水平方向についてはHアドレス順に、垂直方向についてはVアドレス順に実行される。
ここで、現段階の処理対象画素PNは、図10の上方の図から明らかなように、アドレス(1,3)の画素である。よって、Vアドレスが3である各画素(3行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。よって、次に補正すべき欠陥画素は、アドレス(5,3)の通常欠陥の画素となる。このアドレス(5,3)の通常欠陥の画素が処理対象画素PNに設定された場合、図10の状態のままでは、ステップS1の処理で読み出される欠陥アドレス41は、アドレス(2,4)となってしまう。その結果、ステップS1の処理では欠陥画素ではないと判定されて、ステップS2の補正は行われないことになってしまう、という不具合が発生する。
そこで、アドレス変換部55は、「欠陥アドレス参照位置P」となっている欠陥画素情報の欠陥アドレス41と、次の欠陥画素情報の欠陥アドレス41とを比較する。そして、アドレス変換部55は、次の欠陥画素情報の欠陥アドレス41の方が先に補正される(CMOSセンサ32において先に読み出される)と判断した場合、「欠陥アドレス参照位置P」となっている欠陥画素情報として、現在の欠陥画素情報と、原則、次の欠陥画素情報とを入れ替える。なお、原則としたのは、次に読み出される共有欠陥画素が、次のフレームまたはフィールドの先頭の共有欠陥画素である場合には、入れ替え対象が、先頭の欠陥画素情報となるからである(後述する図15と図16参照)。
例えば、図10の状態では、欠陥画素情報の欠陥アドレス41であるアドレス(2,4)と、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,3)とが比較される。この場合、上述したように、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,3)の方が先に補正される(CMOSセンサ32において先に読み出される)と判断されるので、欠陥情報格納メモリ36の格納情報は、図10の状態から図11の状態にソートされることになる。
このような一連の処理が、アドレスソートである。
このようなアドレスソートをすることで、上述の不具合の発生を防止することができる。即ち、アドレスソートをすることにより、共有欠陥と通常欠陥が同じラインに存在していたとしても、正しい順で補正動作を行うことが可能となる。
なお、いまの場合、アドレス(1,3)の共有欠陥画素が処理対象画素PNであり、この共有欠陥画素PNの共有位置は最後の位置ではない。よって、ステップS7の処理でNOであると判定されて、即ち、欠陥アドレス参照位置Pは移動されずに、補正処理は終了となる。
よって、欠陥情報格納メモリ36の格納情報が図11に示される状態で、次以降の補正処理が行われていく。即ち、Vアドレスが3である各画素(3行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。これらの補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
そして、アドレス(5,3)の通常欠陥の画素が処理対象画素PNに設定された場合には、次のような補正処理が行われることになる。
図11において、処理対象画素PNのアドレスと欠陥アドレス41とはともに(5,3)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(5,3)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図11中1行目の欠陥画素情報)の共有フラグ42として「0」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグ42が「0」であるため、欠陥画素PNの欠陥は共有欠陥でないと判定する。即ち、処理対象画素PNは欠陥共有画素でないと判定される。
このように、アドレス(5,3)の処理対象画素PNが共有欠陥画素でないことから、ステップS3においてNOであると判定されて、処理はステップS8に進む。
ステップS8において、アドレス変換部55は、欠陥情報格納メモリ36の欠陥アドレス参照位置Pをひとつ進める。即ち、「欠陥アドレス参照位置P」は、図12に示されるように、欠陥情報格納メモリ36の1行目から2行目の欠陥画素情報に移動し、補正処理は終了となる。
その後、欠陥情報格納メモリ36の格納情報が図12に示される状態で、次以降の補正処理が行われていく。即ち、アドレス(6,3)の画素が処理対象画素PNに設定され補正処理が行われ、次に、Vアドレスが4である各画素(4行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。これらの補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
そして、アドレス(2,4)の共有欠陥の画素が処理対象画素PNに設定された場合には、次のような補正処理が行われることになる。
図12において、処理対象画素PNのアドレスと欠陥アドレス41とはともに(2,4)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(2,4)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図12中2行目の欠陥画素情報)の共有フラグ42として「1」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグが「1」であるため、欠陥画素PNの欠陥は共有欠陥であると判定する。即ち、処理対象画素PNは欠陥共有画素であると判定される。
このように、アドレス(2,4)の処理対象画素PNが共有欠陥画素であることから、ステップS4乃至S7において、共有位置情報生成部54およびアドレス変換部55により補正処理が行われる。
即ち、ステップS4の処理で、欠陥共有画素PNの共有位置情報43として「01」が生成される(図4のB参照)。そして、共有位置情報43が、「01」から「10」に変更される(図4のB,図8参照)。即ち、「10」が、次に読み出される共有欠陥画素の共有位置情報43である。
また、ステップS5の処理で、共有欠陥画素の欠陥アドレス(2,4)が、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。即ち、いまの場合図8の処理対象行は2行目であるので、図8に示される2行目の「アドレス変換方法」の記載内容に従って、共有欠陥画素の欠陥アドレス41であるアドレス(2,4)が、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。2行目の「アドレス変換方法」の記載内容は、「Hアドレス−1 Vアドレス+1」となっている。よって、共有欠陥画素の欠陥アドレス41は、アドレス(2,4)からアドレス(2−1,4+1)=(1,5)に変換されることになる。
そして、ステップS6において、これらの変更内容が、欠陥情報格納メモリ36に上書きされる。即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の内容が書き換えられる。即ち、欠陥アドレス41が、アドレス(2,4)からアドレス(1,5)に書き換えられる。また、共有位置情報43が、「01」から「10」に書き換えられる。これにより、欠陥情報格納メモリ36の格納情報は図13に示される状態になる。
ここで、アドレス変換部55は、「欠陥アドレス参照位置P」となっている欠陥画素情報の欠陥アドレス41であるアドレス(1,5)と、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,6)とを比較する。この場合、次に補正すべき欠陥画素は、アドレス(1,5)の画素であるため、アドレス変換部55によるアドレスソートは行われない。
なお、いまの場合、アドレス(2,4)の共有欠陥画素が処理対象画素PNであり、この共有欠陥画素PNの共有位置は最後の位置ではない。よって、ステップS7の処理でNOであると判定されて、即ち、欠陥アドレス参照位置Pは移動されずに、補正処理は終了となる。
その後、欠陥情報格納メモリ36の格納情報が図13に示される状態で、次以降の補正処理が行われていく。即ち、Vアドレスが4である各画素(4行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。これらの補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
そして、Vアドレスが5に遷移し、アドレス(1,5)の共有欠陥の画素が処理対象画素PNに設定された場合には、次のような補正処理が行われることになる。
図13において、処理対象画素PNのアドレスと欠陥アドレス41とはともに(1,5)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(1,5)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図13中2行目の欠陥画素情報)の共有フラグ42として「1」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグ42が「1」であるため、欠陥画素PNの欠陥は共有欠陥であると判定する。即ち、処理対象画素PNは欠陥共有画素であると判定される。
このように、アドレス(1,5)の処理対象画素PNが共有欠陥画素であることから、ステップS4乃至S7において、共有位置情報生成部54およびアドレス変換部55により補正処理が行われる。
即ち、ステップS4の処理で、欠陥共有画素PNの共有位置情報43として「10」が生成される(図4のB参照)。そして、共有位置情報43が、「10」から「11」に変更される(図4のB,図8参照)。即ち、「11」が、次に読み出される共有欠陥画素の共有位置情報43である。
また、ステップS5の処理で、共有欠陥画素の欠陥アドレス41が、アドレス(1,5)から、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。即ち、いまの場合、図8の処理対象行は3行目であるので、図8に示される3行目の「アドレス変換方法」の記載内容に従って、共有欠陥画素の欠陥アドレス41が、アドレス(1,5)から、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。3行目の「アドレス変換方法」の記載内容は、「Hアドレス+1 Vアドレス+1」となっている。よって、共有欠陥画素の欠陥アドレス41は、アドレス(1,5)からアドレス(1+1,5+1)=(2,6)に変換されることになる。
そして、ステップS6において、これらの変更内容が、欠陥情報格納メモリ36に上書きされる。即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の内容が書き換えられる。即ち、欠陥アドレス41が、アドレス(1,5)からアドレス(2,6)に書き換えられる。また、共有位置情報43が、「10」から「11」に書き換えられる。これにより、欠陥情報格納メモリ36の格納情報は図14に示される状態になる。
ここで、アドレス変換部55は、「欠陥アドレス参照位置P」となっている欠陥画素情報の欠陥アドレス41であるアドレス(2,6)と、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,6)とを比較する。この場合、次に補正すべき欠陥画素は、アドレス(2,6)の画素であるため、アドレス変換部55によるアドレスソートは行われない。
なお、いまの場合、アドレス(1,5)の共有欠陥画素が処理対象画素PNであり、この共有欠陥画素PNの共有位置は最後の位置ではない。よって、ステップS7の処理でNOであると判定されて、即ち、欠陥アドレス参照位置Pは移動されずに、補正処理は終了となる。
その後、欠陥情報格納メモリ36の格納情報が図14に示される状態で、次以降の補正処理が行われていく。即ち、Vアドレスが5である各画素(5行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、さらに、Vアドレスが6である各画素(6行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。これらの補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
そして、Vアドレス(2,6)の共有欠陥の画素が処理対象画素PNに設定された場合には、次のような補正処理が行われることになる。
図14において、処理対象画素PNのアドレスと欠陥アドレス41とはともに(2,6)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(2,6)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図12中2行目の欠陥画素情報)の共有フラグ42として「1」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグ42が「1」であるため、欠陥画素PNの欠陥は共有欠陥であると判定する。即ち、処理対象画素PNは欠陥共有画素であると判定される。
このように、アドレス(2,6)の処理対象画素PNが共有欠陥画素であることから、ステップS4乃至S7において、共有位置情報生成部54およびアドレス変換部55により補正処理が行われる。
即ち、ステップS4の処理で、欠陥共有画素PNの共有位置情報43として「11」が生成される(図4のB参照)。そして、共有位置情報43が、「11」から「00」に変更される(図4のB,図8参照)。即ち、「00」が、次に読み出される共有欠陥画素の共有位置情報43である。
また、ステップS5の処理で、共有欠陥画素の欠陥アドレス41が、アドレス(2,6)から、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。即ち、いまの場合、図8の処理対象行は4行目であるので、図8に示される4行目の「アドレス変換方法」の記載内容に従って、共有欠陥画素の欠陥アドレス41が、アドレス(2,6)から、次に読み出される共有欠陥画素の欠陥アドレス41に変換される。4行目の「アドレス変換方法」の記載内容は、「Hアドレス−1 Vアドレス−3」となっている。よって、共有欠陥画素の欠陥アドレス41は、アドレス(2,6)からアドレス(2−1,6−3)=(1,3)に変換されることになる。つまり、次のフレームまたはフィールドの先頭の共有欠陥画素の欠陥アドレス41に変更されることになる。
そして、ステップS6において、これらの変更内容が、欠陥情報格納メモリ36に上書きされる。即ち、「欠陥アドレス参照位置P」となっている欠陥画素情報の内容が書き換えられる。即ち、欠陥アドレス41が、アドレス(2,6)からアドレス(1,3)に書き換えられる。また、共有位置情報43が、「11」から「00」に書き換えられる。これにより、欠陥情報格納メモリ36の格納情報は図15に示される状態になる。
アドレス変換部55は、「欠陥アドレス参照位置P」となっている欠陥画素情報の欠陥アドレス41であるアドレス(1,3)と、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,6)とを比較する。この場合、アドレス変換部55は、次の欠陥画素情報の欠陥アドレス41であるアドレス(5,6)の方が先に補正される(CMOSセンサ32において先に読み出される)と判断することになる。アドレス(1,3)とは、次のフレーム又はフィールドの先頭の共有欠陥画素の欠陥アドレス41を示すからである。よって、この場合、アドレスソートが行われる。ただし、次に読み出される共有欠陥画素が、次のフレームまたはフィールドの先頭の共有欠陥画素であるので、現在の欠陥画素情報と、先頭の欠陥画素情報とが入れ替わる。その結果、欠陥情報格納メモリ36のデータは図16に示される状態になる。
ここで、いまの場合、アドレス(2,6)の共有欠陥画素が処理対象画素PNであり、この共有欠陥画素PNの共有位置は最後の位置である。よって、ステップS7の処理でYESであると判定されて、処理はステップS8に進む。
ステップS8において、アドレス変換部55は、欠陥情報格納メモリ36の欠陥アドレス参照位置Pをひとつ進める。即ち、「欠陥アドレス参照位置P」は、図17に示されるように、欠陥情報格納メモリ36の2行目から3行目の欠陥画素情報に移動し、補正処理は終了となる。
欠陥情報格納メモリ36の格納情報が図17に示される状態で、次以降の補正処理が行われていく。即ち、Vアドレスが6である各画素(3行目の水平ラインの画素)のそれぞれが、処理対象画素PNに順次設定されて、補正処理が行われることになる。これらの補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
そして、アドレス(5,6)の通常欠陥の画素が処理対象画素PNに設定された場合には、次のような補正処理が行われることになる。
図17において、処理対象画素PNのアドレスと欠陥アドレス41とはともに(5,6)で一致するので、ステップS1においてYESであると判定されて、即ち、処理対象画素は欠陥画素であると判定されて、処理対象画素の画素データは欠陥補正部52に提供される。これにより、処理はステップS2に進む。
ステップS2において、欠陥補正部52は、アドレス(5,6)の処理対象画素PNの画素データを補正する。この場合、図5を用いて説明した補正手法、即ち同色隣接画素を利用した補正手法が適用される。補正後の処理対象画素データが共有判定部53に提供されると、処理はステップS3に進む。
ステップS3において、共有判定部53は、「欠陥アドレス参照位置P」となっている欠陥画素情報(図17中3行目の欠陥画素情報)の共有フラグ42として、「0」を取得する。共有判定部53は、欠陥画素PN(処理対象画素PN)の共有フラグ42が「0」であるため、欠陥画素PNの欠陥は共有欠陥でないと判定する。即ち、処理対象画素PNは欠陥共有画素でないと判定される。
このように、アドレス(5,6)の処理対象画素PNが共有欠陥画素でないことから、ステップS3においてNOであると判定されて、処理はステップS8に進む。
ステップS8において、アドレス変換部55は、欠陥情報格納メモリ36の欠陥アドレス参照位置Pをひとつ進める。即ち、「欠陥アドレス参照位置P」は、上述した図9に示されるように、欠陥情報格納メモリ36の3行目から1行目の欠陥画素情報に移動し(戻り)、補正処理は終了となる。
その後、最後のアドレス(6,6)の画素が処理対象画素PNに設定され補正処理が行われる。この補正処理では、処理対象画素PNは欠陥画素では無いので、ステップS1の処理でNOであると判定されて直ちに、補正処理全体が終了となる。即ち、画素データの補正は行われない。
以上、図9乃至図17を用いて説明した一連の処理(各画素に対する各補正処理)により、所定のフレーム又はフィールドについて、6×6画素で構成されるCMOSセンサ32の欠陥画素すべてに対して補正が行われることになる。
そして、この所定のフレーム又はフィールドについての全ての補正処理が終了すると、上述したように、欠陥情報格納メモリ36の格納情報が図9に示される状態に戻っている。よって、次のフレーム又はフィールドについても、図9乃至図17を用いて説明した一連の処理(各画素に対する各補正処理)により、6×6画素で構成されるCMOSセンサ32の欠陥画素すべてに対して補正が行われることになる。
即ち、図9乃至図17を用いて説明した一連の処理(各画素に対する各補正処理)を繰り返し実行することで、CMOSセンサ32により撮影された動画像全体(複数のフレーム又はフィールドの集合体)の全てについて、6×6画素で構成されるCMOSセンサ32の欠陥画素すべてに対して補正を行うことが可能になる。
以上説明したように、図2の例等本発明が適用される撮像装置は、欠陥画素のアドレス情報(欠陥アドレス41等)を欠陥情報格納メモリ36等のメモリに記憶させる欠陥補正方式を採用し、撮像素子として画素共有技術を用いたCMOSセンサを採用することができる。この撮像装置は、上述したように、画素共有起因で発生する共有欠陥に関しては、共有画素のうちの1つに関するアドレス情報(欠陥アドレス41等)、例えば読み出し方向において先頭位置にある画素に関するアドレス情報を記憶するだけで、全ての共有パターンを補正することができる。換言すると、欠陥情報格納メモリ36等のメモリには、共有欠陥である欠陥画素群については1つだけの欠陥画素情報を格納させるだけでよい。これにより、欠陥アドレスを記憶するためのメモリ容量の削減が可能となり、撮像装置全体のコストアップを抑制する効果が期待できる。 さらに、特許文献1の技術で必須であった、欠陥補正部内のバッファも不要になるという効果を奏することができる。
さらに言えば、上述した図7のステップS4の処理と、図8の表とを採用することで、欠陥画素情報に含ませる情報として、共有位置情報43を削減することができる。即ち、図4の共有位置情報43を省略することが可能である。この場合、上述した効果はより顕著なものとなる。
ところで、上述した一連の処理は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることができる。
この場合、上述した情報処理システムの少なくとも一部として、例えば、図18に示されるパーソナルコンピュータを採用してもよい。
図18において、CPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記録されているプログラム、または記憶部108からRAM(Random Access Memory)103にロードされたプログラムに従って各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU101、ROM102、およびRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インタフェース105も接続されている。
入出力インタフェース105には、キーボード、マウスなどよりなる入力部106、ディスプレイなどよりなる出力部107、ハードディスクなどより構成される記憶部108、および、モデム、ターミナルアダプタなどより構成される通信部109が接続されている。通信部109は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
入出力インタフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブルメディア111が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部108にインストールされる。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
このようなプログラムを含む記録媒体は、図18に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア(パッケージメディア)111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM102や、記憶部108に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
31 レンズ、 32 CMOSセンサ、 33 前処理部、 34 A/D変換部、 35 欠陥補正部、 36 欠陥情報格納メモリ、 37 信号処理部、 41 欠陥アドレス、 42 共有フラグ、 43 共有位置情報、 51 欠陥判定部、 52 欠陥補正部、 53 共有判定部、 54 共有位置情報生成部、 55 アドレス変換部、 56 出力部
Claims (7)
- 複数の画素と、前記複数の画素のうちの少なくとも2つの画素が共有画素とされ、前記共有画素に対して共有して設けられた読み出し手段とを備える撮像素子と、
前記複数の画素のうちの欠陥画素に関する欠陥画素情報を記憶する欠陥情報記憶手段と、
前記欠陥情報に基づいて欠陥画素を特定し、特定した欠陥画素の画素データを補正する欠陥補正手段と
を備え、
前記欠陥画素情報は、欠陥画素の読み出し順を示す前記撮像素子におけるアドレスと、共有欠陥であるか否かを示す共有情報と、共有画素中の位置を示す共有位置情報とを格納しており、1つの前記共有欠陥に対して1つの欠陥画素情報を備えており、
前記欠陥補正手段は、処理対象の欠陥画素情報に格納された共有情報が共有欠陥であることを示す情報である場合、処理対象の欠陥画素情報に格納された前記アドレスと、処理対象の欠陥画素情報に格納された前記共有位置情報とを用いて、前記共有欠陥である欠陥画素群を特定する各画素をそれぞれ特定し、特定された前記各画素のそれぞれの画素データを補正する
撮像装置。 - 前記欠陥補正手段は、
前記共有欠陥である欠陥画素群を構成する各画素のうち所定画素を補正対象とする場合、さらに、
処理対象の前記欠陥画素情報に含まれる前記アドレスを、前記所定画素のアドレスから、前記共有欠陥である欠陥画素群を構成する各画素のうち前記所定画素の次に前記読み出し手段により読み出される次画素のアドレスに変更し、
変更後の処理対象の前記欠陥画素情報を前記欠陥情報記憶手段に上書きする
請求項1に記載の撮像装置。 - 前記共有欠陥である欠陥画素群についての前記欠陥画素情報には、さらに、前記共有位置情報が含まれており、
前記欠陥補正手段は、前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、さらに、前記共有位置情報の内容を、前記所定画素から前記次画素に関する情報に変更する
請求項2に記載の撮像装置。 - 前記欠陥補正手段は、
前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、さらに、
前記次画素のアドレスよりも前に前記読み出し手段により読み出されるアドレスが含まれる前記欠陥画素情報が、前記欠陥情報記憶手段に存在するとき、その欠陥画素情報を処理対象とするように、前記欠陥情報記憶手段内の前記欠陥画素情報を並べ替える
請求項3に記載の撮像装置。 - 前記欠陥補正手段は、
さらに、処理対象の前記欠陥画素情報を示す処理対象参照情報を用いて、前記補正処理を実行しており、
前記アドレスを前記所定画素のアドレスから前記次画素のアドレスに変更した場合、
前記所定画素が、前記読み出し手段の読み出し方向の最後尾アドレスに位置する欠陥画素であるとき、前記処理対象参照情報の内容を更新する
請求項4に記載の撮像装置。 - 前記欠陥補正手段は、補正対象の欠陥画素の画素データの補正処理として、前記補正対象に対して所定位置関係にある複数の同色フィルタ画素の各画素データから補正データを求め、前記補正対象の画素データを前記補正データに置き換える処理を実行する
請求項1に記載の撮像装置。 - 複数の画素と、前記複数の画素のうちの少なくとも2つの画素が共有画素とされ、前記共有画素に対して共有して設けられた読み出し手段とを備える撮像素子と、
前記複数の画素のうちの欠陥画素に関する欠陥画素情報を記憶する欠陥情報記憶手段と、
前記欠陥情報に基づいて欠陥画素を特定し、特定した欠陥画素の画素データを補正する欠陥補正手段と
を備える撮像装置が、
前記欠陥画素情報は、欠陥画素の読み出し順を示す前記撮像素子におけるアドレスと、共有欠陥であるか否かを示す共有情報と、共有画素中の位置を示す共有位置情報とを格納しており、1つの前記共有欠陥に対して1つの欠陥画素情報を備えている場合に、
処理対象の欠陥画素情報に格納された共有情報が共有欠陥であることを示す情報であるとき、処理対象の欠陥画素情報に格納された前記アドレスと、処理対象の欠陥画素情報に格納された前記共有位置情報とを用いて、前記共有欠陥である欠陥画素群を特定する各画素をそれぞれ特定し、特定された前記各画素のそれぞれの画素データを補正する
ステップを含む撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008164446A JP2010010760A (ja) | 2008-06-24 | 2008-06-24 | 撮像装置および方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008164446A JP2010010760A (ja) | 2008-06-24 | 2008-06-24 | 撮像装置および方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010010760A true JP2010010760A (ja) | 2010-01-14 |
Family
ID=41590791
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008164446A Withdrawn JP2010010760A (ja) | 2008-06-24 | 2008-06-24 | 撮像装置および方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010010760A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012109990A1 (en) * | 2011-02-16 | 2012-08-23 | Mediatek Inc. | Method and apparatus for slice common information sharing |
JP2015088947A (ja) * | 2013-10-31 | 2015-05-07 | ソニー株式会社 | 固体撮像装置、信号処理装置、および電子機器 |
JP2017005571A (ja) * | 2015-06-12 | 2017-01-05 | リコーイメージング株式会社 | 撮影装置 |
US9762827B2 (en) | 2014-11-17 | 2017-09-12 | Samsung Electronics Co., Ltd. | Method of removing a bad pixel from a pixel image generated by an image sensor, an image sensor using the method, and an application processor using the method |
-
2008
- 2008-06-24 JP JP2008164446A patent/JP2010010760A/ja not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012109990A1 (en) * | 2011-02-16 | 2012-08-23 | Mediatek Inc. | Method and apparatus for slice common information sharing |
CN103210650A (zh) * | 2011-02-16 | 2013-07-17 | 联发科技股份有限公司 | 用于条带通用信息共享的装置及其方法 |
KR101372965B1 (ko) | 2011-02-16 | 2014-03-12 | 미디어텍 인크. | 슬라이스 공통 정보 공유를 위한 방법 및 장치 |
US9237349B2 (en) | 2011-02-16 | 2016-01-12 | Mediatek Inc | Method and apparatus for slice common information sharing |
CN105979271A (zh) * | 2011-02-16 | 2016-09-28 | 联发科技股份有限公司 | 视频编解码系统中共享信息的方法与装置 |
JP2015088947A (ja) * | 2013-10-31 | 2015-05-07 | ソニー株式会社 | 固体撮像装置、信号処理装置、および電子機器 |
US9762827B2 (en) | 2014-11-17 | 2017-09-12 | Samsung Electronics Co., Ltd. | Method of removing a bad pixel from a pixel image generated by an image sensor, an image sensor using the method, and an application processor using the method |
JP2017005571A (ja) * | 2015-06-12 | 2017-01-05 | リコーイメージング株式会社 | 撮影装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8576309B2 (en) | Pixel defect correction device, imaging apparatus, pixel defect correction method, and program | |
JP4686496B2 (ja) | 撮像装置 | |
JP4354854B2 (ja) | 固体撮像装置の駆動方法及び固体撮像装置 | |
JP2013055529A (ja) | 固体撮像装置及びその駆動方法 | |
JP2007027815A (ja) | 動画撮像装置 | |
JP2007201530A (ja) | 画素欠陥補正装置 | |
US8325252B2 (en) | Solid-state imaging device and data processing device | |
US20130208974A1 (en) | Image processing device and image processing method | |
JP2010021858A (ja) | 画素欠陥補正装置 | |
JP2010010760A (ja) | 撮像装置および方法 | |
US20220309712A1 (en) | Application processor including neural processing unit and operating method thereof | |
US20090097743A1 (en) | Method and apparatus providing hardware-efficient demosaicing of image data | |
JP2010068329A (ja) | 撮像装置 | |
JP4807075B2 (ja) | 撮像装置およびその欠陥画素補正方法 | |
US11495005B2 (en) | Image sensor and control method thereof, and image capturing apparatus and control method thereof | |
JP5901188B2 (ja) | 撮像装置及び画像処理方法 | |
JP2006166194A (ja) | 画素欠陥検出回路及び画素欠陥検出方法 | |
US20170078600A1 (en) | Image capturing apparatus and control method for the same | |
JPH07336605A (ja) | 画素欠陥補正装置 | |
JP2012070319A (ja) | 画像処理方法、画像処理装置及び画像処理プログラム | |
JPH11262025A (ja) | 画像入力装置および画像補正方法 | |
JP5424601B2 (ja) | 撮像装置、撮像方法、及びプログラム | |
JP6929066B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2010056817A (ja) | 撮像装置 | |
JP2013126101A (ja) | 撮像装置および撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110906 |