JP5600812B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5600812B2
JP5600812B2 JP2013551723A JP2013551723A JP5600812B2 JP 5600812 B2 JP5600812 B2 JP 5600812B2 JP 2013551723 A JP2013551723 A JP 2013551723A JP 2013551723 A JP2013551723 A JP 2013551723A JP 5600812 B2 JP5600812 B2 JP 5600812B2
Authority
JP
Japan
Prior art keywords
pixels
defective
pixel
defective pixel
sparse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013551723A
Other languages
English (en)
Other versions
JPWO2013099917A1 (ja
Inventor
善工 古田
智行 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013551723A priority Critical patent/JP5600812B2/ja
Application granted granted Critical
Publication of JP5600812B2 publication Critical patent/JP5600812B2/ja
Publication of JPWO2013099917A1 publication Critical patent/JPWO2013099917A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Description

本発明は、単板式のカラー撮像素子を備える撮像装置に関し、より詳しくは欠陥画素の画素値を周辺の周辺画素の画素値から補間処理により求める撮像装置に関する。
デジタルカメラなどの撮像装置は、撮影光学系により撮像面に結像された被写体像を撮像する単板式のカラー撮像素子を備えるものが多い。単板式のカラー撮像素子の撮像面には、多数の赤(R)、緑(G)、青(B)画素が所定パターンで配列されている(特許文献1参照)。単板式のカラー撮像素子では、各画素上にそれぞれ単色のカラーフィルタが設けられるので各画素が単色の色情報しか持たない。このため、カラー撮像素子の出力画像はRAW画像(モザイク画像)となるので、欠落している色の画素(以下、欠落画素という)を、周辺の画素から補間する補間処理(同時化処理、またはデモザイク処理ともいう、以下同じ)により多チャネル画像を得ている。
カラー撮像素子には、製造工程上の種々の原因(例えば、傷など)により信号が出力されない、或いは暗電流などによる暗出力のレベルが大きい画素、いわゆる欠陥画素が存在する場合がある。この際に、欠落画素の周辺画素が欠陥画素であると、欠落画素の正確な色情報が得られない。このため、欠陥画素の画素値(出力値)を用いず、その周辺に位置する同色の周辺画素の画素値を用いて補間する補間処理が行われている。
特許文献2に記載の撮像装置では、露光時間が標準露光時間以内であれば予め取得した欠陥画素の検出結果に基づき補間処理を行い、一方、露光時間が標準露光時間よりも長い場合にはテスト撮影を行って欠陥画素を検出し、この検出結果に基づき補間処理を行う。
特許文献3に記載の撮像装置では、欠陥検出を行って欠陥レベルが大きい欠陥画素から順にEEPROMに格納し、このEEPROMに格納された欠陥画素情報に基づき、欠陥レベルの大きい欠陥画素から順番に補間処理を行っている。
特開2009−27684号公報 特開2001−36821号公報 特開2002−330353号公報
ところで、カラー撮像素子のカラーフィルタ配列が周知のベイヤー配列である場合に、G画素は市松模様(チェッカーパターン)状に配列される。このため、個々のG画素の水平及び垂直方向に他のG画素が隣接して配置されることはない。しかしながら、カラーフィルタ配列には、特許文献1の図9などに記載のように、水平及び垂直方向に他のG画素が隣接して配置されているG画素(以下、密のG画素という)と、他のG画素が隣接して配置されていないG画素(以下、疎のG画素という)とが含まれる場合がある。
この際に、例えば密のG画素が欠陥画素であると、この欠陥画素に水平及び垂直方向に隣接して配置されているG画素については補間処理を行う必要がないので、欠陥画素の影響は広がり難い(例えば図5参照)。逆に、疎のG画素が欠陥画素である場合には、水平・垂直方向にR画素またはB画素が隣接して配置されており、これらRB画素の位置に対応するG画素(欠落画素)の画素値を補間処理に求める必要がある。このため、密の画素が欠陥画素である場合に、この欠陥画素の影響が広がり易くなる(例えば図6参照)。
カラー撮像素子の欠陥画素の画素値の補間処理を行う際に、全ての欠陥画素の画素値を周辺の同色画素の画素値を用いて補間処理することが好ましい。しかしながら、近年のカラー撮像素子の高解像度化に伴って欠陥画素の数が増加しているため、全ての欠陥画素に関する情報をメモリなどに登録して補間処理を行うと、必要なメモリの容量が膨大となる。さらに、この場合、処理に時間がかかるため現実的ではない。従って、撮像装置では、全ての欠陥画素についての補間処理を行っていないのが通常である。
この際に、補間処理が行われなかった欠陥画素が疎のG画素である場合には、密のG画素である場合よりも影響が広がり易くなるので、撮影画像への影響が大きくなる。上記特許文献1から3では、疎の画素が欠陥画素である場合と、密の画素が欠陥画素である場合とで撮影画像に与える影響が異なることが一切考慮されていないので、疎の画素の欠陥に起因する撮影画像の品質低下が発生するおそれがある。
本発明の目的は、良好な撮影画像が得られる撮像装置を提供することにある。
上記目的を達成するため、本発明の一の態様に係る発明は、水平方向及び垂直方向に配列された光電変換素子により構成される複数の画素上に、複数色のカラーフィルタが所定のカラーフィルタ配列で配設されてなるカラー撮像素子であって、少なくとも1色のカラーフィルタは、水平及び垂直方向に隣接する同色のカラーフィルタの第1隣接数が相対的に少ない、或いは第1隣接数が共にM(0≦M≦4)である場合に斜め方向に隣接する同色のカラーフィルタの第2隣接数が相対的に少ない疎のフィルタと、相対的に多い密のフィルタとを含んでおり、複数の画素は、疎のフィルタに対応する疎の画素と、密のフィルタに対応する密の画素とを含むカラー撮像素子と、複数の画素に含まれる欠陥画素であって、疎のフィルタに対応する疎欠陥画素と、密のフィルタに対応する密欠陥画素とを含む欠陥画素に関する欠陥画素情報を取得する取得手段と、取得手段が取得した欠陥画素情報に基づき、欠陥画素の画素値を当該欠陥画素の周辺で且つ同色のカラーフィルタの下方に位置する周辺画素の画素値から補間処理により求める補間手段であって、密の画素の全画素数に対する密欠陥画素の補間の第1割合よりも、疎の画素の全画素数に対する疎欠陥画素の補間の第2割合を高くする補間手段と、を備える。
本発明の他の態様に係る撮像装置において、欠陥画素情報が登録された欠陥画素情報記憶手段であって、密の画素の全画素数に対する密欠陥画素の欠陥画素情報の登録数の割合よりも、疎の画素の全画素数に対する疎欠陥画素の欠陥画素情報の登録数の割合が高くされている欠陥画素情報記憶手段を備えており、取得手段は、欠陥画素情報記憶手段から欠陥画素情報を取得することが好ましい。これにより、欠陥画素情報記憶手段に登録されている欠陥画素情報に基づき密欠陥画素及び疎欠陥画素の補間を行うことで、第2割合を第1割合よりも高くすることができる。
本発明のさらに他の態様に係る撮像装置において、欠陥画素情報記憶手段には、撮影条件が変化したときに各撮影条件のいずれかで発生する欠陥画素の欠陥画素情報が記憶されており、取得手段は、撮影条件に対応した欠陥画素情報を欠陥画素情報記憶手段から取得することが好ましい。これにより、撮影条件により画素の暗出力が増減するような場合でも、撮影条件に対応する欠陥画素情報に基づき画素補間を行うことができる。
本発明のさらに他の態様に係る撮像装置において、撮影条件には、カラー撮像素子のゲイン、露光時間、及び温度の少なくともいずれかが含まれることが好ましい。
本発明のさらに他の態様に係る撮像装置において、カラーフィルタ配列は、1色のカラーフィルタが2×2画素に対応する配列パターンで隣接して配置されてなる正方配列と、1色のカラーフィルタが水平方向及び垂直方向に1色とは異なる色のカラーフィルタに隣接して配置されてなる孤立配列とを有することが好ましい。これにより、カラーフィルタ配列に疎のフィルタと密のフィルタが含まれる。
本発明のさらに他の態様に係る撮像装置において、1色のカラーフィルタは、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタであり、カラーフィルタ配列は、第1のフィルタと、第1の色以外の2色以上の第2の色に対応する第2のフィルタとがN×N(N:3以上の奇数)画素に対応する配列パターンで配列された基本配列パターンを含み、この基本配列パターンが水平方向及び垂直方向に繰り返して配置されることが好ましい。そして、第1のフィルタは、基本配列パターン内の2つの対角線上に配置されており、カラーフィルタ配列は、第1のフィルタで構成される2×2画素以上に対応する配列パターンの正方配列を含むことが好ましい。これにより、カラーフィルタ配列に疎のフィルタと密のフィルタが含まれる。
本発明のさらに他の態様に係る撮像装置において、複数の画素には、疎の画素と密の画素とが水平、垂直、斜めの各方向のいずれかにおいて隣接してなる第1の連画素が複数含まれており、補間手段は、欠陥画素情報に基づき、欠陥画素の中に疎欠陥画素と密欠陥画素とが各方向のいずれかにおいて隣接してなる第1の連欠陥画素が含まれている場合に、第1の連画素の全数に対する第1の連欠陥画素の補間の第3割合を、第2割合よりも高くすることが好ましい。これにより、撮影画像データの画質に与える影響が強い第1の連欠陥画素の補間処理が優先的に行われる。その結果、良好な撮影画像データが得られる。
本発明のさらに他の態様に係る撮像装置において、複数の画素には、2つの疎の画素が水平、垂直、斜めの各方向のいずれかにおいて近接してなる第2の連画素が複数含まれており、補間手段は、欠陥画素情報に基づき、欠陥画素の中に2つの疎欠陥画素が各方向のいずれかにおいて近接してなる第2の連欠陥画素が含まれている場合に、第2の連画素の全数に対する第2の連欠陥画素の補間の第4割合を、第2割合よりも高くすることが好ましい。これにより、撮影画像データの画質に与える影響が強い第2の連欠陥画素の補間処理が優先的に行われる。その結果、良好な撮影画像データが得られる。
本発明のさらに他の態様に係る撮像装置において、複数の画素には、2つの密の画素が水平、垂直、斜めの各方向のいずれかにおいて隣接または近接してなる第3の連画素が複数含まれており、補間手段は、欠陥画素情報に基づき、欠陥画素の中に2つの密欠陥画素が各方向のいずれかにおいて隣接または近接してなる第3の連欠陥画素が含まれている場合に、第3の連画素の全数に対する第3の連欠陥画素の補間の第5割合を、第2割合よりも高くすることが好ましい。これにより、撮影画像データの画質に与える影響が強い第3の連欠陥画素の補間処理が優先的に行われる。その結果、良好な撮影画像データが得られる。
本発明のさらに他の態様に係る撮像装置において、複数の画素には、疎の画素及び密の画素が水平、垂直、斜めの各方向のいずれかにおいて隣接してなる第1の連画素と、2つの疎の画素が各方向のいずれかにおいて近接してなる第2の連画素とがそれぞれ複数含まれており、補間手段は、欠陥画素情報に基づき、欠陥画素の中に疎欠陥画素と密欠陥画素とが各方向のいずれかにおいて隣接してなる第1の連欠陥画素と、2つの疎欠陥画素が各方向のいずれかにおいて近接してなる第2の連欠陥画素とが含まれている場合に、第1の連画素の全数に対する第1の連欠陥画素の補間の第3割合よりも、第2の連画素の全数に対する第2の連欠陥画素の補間の第4割合を高くすることが好ましい。これにより、補間処理されないと一つの大きな線状欠陥として認識される可能性がある第2の連欠陥画素の補間処理が優先的に行われるので、良好な撮影画像データが得られる。
本発明のさらに他の態様に係る撮像装置において、複数の画素には、2つの密の画素が水平、垂直、斜めの各方向のいずれかにおいて隣接または近接してなる第3の連画素が複数含まれており、補間手段は、欠陥画素情報に基づき、欠陥画素の中に、第1の連欠陥画素と、第2の連欠陥画素と、2つの密欠陥画素が各方向のいずれかにおいて隣接または近接してなる第3の連欠陥画素とが含まれている場合に、第3の連画素の全数に対する第3の連欠陥画素の補間の第5割合を、第3割合及び第4割合よりも低くすることが好ましい。
本発明の撮像装置によれば、欠陥画素の画素値の補間処理を行う際に、密の画素の全画素数に対する密欠陥画素の補間の割合よりも、疎の画素の全画素数に対する疎欠陥画素の補間の割合を高くしているので、撮影画像データの画質に与える影響が強い疎欠陥画素の補間が、密欠陥画素の補間よりも優先的に行われる。このため、欠陥画素情報の記憶容量の上限や補間処理に係る処理時間の増大防止の観点から、全ての欠陥画素の補間が実施できなくとも、疎欠陥画素が撮影画像データに与える影響を低減させることができる。その結果、良好な撮影画像データが得られる。
第1実施形態のデジタルカメラの電気的構成を示すブロック図である。 第1実施形態のカラー撮像素子の概略図である。 カラー撮像素子のカラーフィルタ配列を構成する基本配列パターンの概略図である。 デジタルカメラの画素補間処理に係る構成を示すブロック図である。 密G欠陥画素の周辺画素への影響を説明するための説明図である。 疎G欠陥画素の周辺画素への影響を説明するための説明図である。 欠陥画素情報データへの欠陥画素情報の登録処理の流れを示すフローチャートである。 疎G欠陥画素及び密G欠陥画素の画素値の補間処理を説明するための説明図である。 第1実施形態のデジタルカメラの作用を説明するためのフローチャートである。 第1−1実施形態のカラー撮像素子の概略図である。 図10に示したカラー撮像素子の他実施形態のカラー撮像素子の概略図である。 第1−2実施形態のカラー撮像素子の概略図である。 第1−3実施形態のカラー撮像素子の概略図である。 第2実施形態のデジタルカメラの電気的構成を示すブロック図である。 疎・密G欠陥画素を説明するための説明図である。 疎・疎G欠陥画素を説明するための説明図である。 密・密G欠陥画素を説明するための説明図である。 第2実施形態の欠陥画素の判定処理の流れを示すフローチャートである。 第2実施形態の欠陥画素情報の登録処理の流れを示すフローチャートである。 第3実施形態のデジタルカメラの電気的構成を示すブロック図である。 第3実施形態の欠陥画素情報の登録処理の流れを示すフローチャートである。 第3実施形態のデジタルカメラの作用を説明するためのフローチャートである。 第3実施形態の他実施形態のデジタルカメラの電気的構成を示すブロック図である。 第3実施形態のさらに他実施形態のデジタルカメラの電気的構成を示すブロック図である。 第4実施形態のデジタルカメラの電気的構成を示すブロック図である。 評価値の算出の第1の例を説明するための説明図である。 評価値の算出の第2の例を説明するための説明図である。 評価値の算出の第3の例を説明するための説明図である。 評価値の算出の第4の例を説明するための説明図である。 評価値の算出の第5の例を説明するための説明図である。 第5実施形態のデジタルカメラの電気的構成を示すブロック図である。 第3実施形態のさらに他実施形態のデジタルカメラの電気的構成を示すブロック図である。 図15に示した疎・密G連欠陥画素の画素値の補間処理とは異なる補間処理を説明するための説明図である。
[第1実施形態のデジタルカメラの全体構成]
図1に示すように、本発明の第1実施形態に係るデジタルカメラ(撮像装置)10のCPU11は、シャッタボタンまたはシャッタスイッチや各種操作ボタンを含む操作部12からの制御信号に基づき、図示しないメモリから読み出した各種プログラムやデータを逐次実行して、デジタルカメラ10の各部を統括的に制御する。
レンズユニット13には、ズームレンズ14、フォーカスレンズ15、メカシャッタ16などが組み込まれている。ズームレンズ14及びフォーカスレンズ15は、それぞれズーム機構17、フォーカス機構18により駆動され、両レンズ14,15の光軸に沿って前後移動される。
メカシャッタ16は、カラー撮像素子20への被写体光の入射を阻止する閉じ位置と、被写体光の入射を許容する開き位置との間で移動する可動部(図示は省略)を有する。メカシャッタ16は、可動部を各位置に移動させることによって、各レンズ14,15からカラー撮像素子20へと至る光路を開放/遮断する。なお、メカシャッタ16には、カラー撮像素子20に入射する被写体光の光量を制御する絞りが含まれている。メカシャッタ16、ズーム機構17、及びフォーカス機構18は、レンズドライバ21を介してCPU11によって動作制御される。
レンズユニット13の背後には単板式のカラー撮像素子20が配置されている。カラー撮像素子20は、各レンズ14,15からの被写体光を電気的な出力信号に変換して出力する。なお、カラー撮像素子20は、CCD(Charge Coupled Device)カラー撮像素子、CMOS(Complementary Metal Oxide Semiconductor)カラー撮像素子などの各種類の撮像素子であってもよい。撮像素子ドライバ23は、CPU11の制御の下でカラー撮像素子20の駆動を制御する。
信号調整回路24は、相関二重サンプリング処理回路、自動ゲイン補正回路などを有しており、カラー撮像素子20からの出力信号に対して相関二重サンプリング処理やゲイン増幅処理を施す。
画像処理回路25は、信号調整回路24から入力される出力信号に対して階調変換、ホワイトバランス補正、γ補正処理、画素補間処理などの各種処理を施して画像データを生成する。この画像処理回路25には、補間処理部(取得手段、補間手段)26が設けられている。
補間処理部26は、本発明の欠陥画素情報記憶手段に相当する欠陥画素情報記憶部(以下、単に記憶部と略す)27に記憶されている情報を取得して、欠陥画素の画素値(出力値)を周辺に位置する周辺画素の画素値を用いて補間処理する。なお、ここでいう「取得」には、記憶部27に記憶されている情報を「参照」することも含まれる。また、補間処理部26は、前述の欠落画素の画素値を周辺画素の画素値を用いて補間処理する。
圧縮伸長処理回路29は、画像処理回路25で処理された画像データに対して圧縮処理を施す。また、圧縮伸長処理回路29は、メディアI/F30を介してメモリカード31から得られた圧縮画像データに対して伸長処理を施す。メディアI/F30は、メモリカード31に対する画像データの記録及び読み出しなどを行う。表示部32は、液晶ディスプレイなどであり、スルー画像や再生画像などを表示する。
なお、図示は省略するが、デジタルカメラ10にはオートフォーカス用のAF検出回路やAE検出回路などが設けられている。CPU11は、AF検出回路の検出結果に基づき、レンズドライバ21を介してフォーカス機構18を駆動することでAF処理を実行する。また、CPU11は、AE検出回路の検出結果に基づき、レンズドライバ21を介してメカシャッタ16を駆動することでAE処理を実行する。
[カラー撮像素子の構成]
図2及び図3に示すように、カラー撮像素子20は、水平方向及び垂直方向に配列(二次元配列)された光電変換素子33を有する複数の画素と、各画素の受光面の上方に所定のカラーフィルタ配列で配置されたカラーフィルタとから構成されている。ここで、「上方」とは、カラー撮像素子20の撮像面に対して被写体光が入射してくる側の方向を指す。なお、「下方」は「上方」の反対側である。
各画素の上方には、RGBの3原色のカラーフィルタ(以下、Rフィルタ、Gフィルタ、Bフィルタという)34R,34G,34Bのうちのいずれかが配置される。なお、Gフィルタ34Gが本発明の第1のフィルタに相当し、Rフィルタ34R及びBフィルタ34Bが本発明の第2のフィルタに相当する。
以下、Rフィルタ34Rが配置された画素を「R画素」、Gフィルタ34Gが配置された画素を「G画素」、Bフィルタ34Bが配置された画素を「B画素」という。なお、図中の「a、b、c、d、e、f、・・・」及び「1、2、3、4、5、6、・・・」はRGB画素のアドレスを示す。また、図中のGフィルタ34Gの添え字(G「1」、G「2」)については後述する。
<カラーフィルタ配列の特徴>
カラー撮像素子20のカラーフィルタ配列(以下、単にカラーフィルタ配列という)は、下記の特徴(1)、(2)、(3)、(4)、(5)、及び(6)を有している。
〔特徴(1)〕
カラーフィルタ配列は、6×6画素に対応する正方配列パターンからなる基本配列パターンP(図中の太枠で示したパターン)を含み、この基本配列パターンPが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、Rフィルタ34R、Gフィルタ34G、Bフィルタ34Bが所定の周期性をもって配列されている。
このようにRフィルタ34R、Gフィルタ34G、Bフィルタ34Bが所定の周期性をもって配列されているため、従来知られているランダム配列と比較して、カラー撮像素子20から読み出されるR、G、B信号の同時化処理(デモザイク処理)等を行う際に、繰り返しパターンにしたがって処理を行うことができる。
また、基本配列パターンPの単位で間引き処理して画像を縮小する場合、間引き処理後のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
〔特徴(2)〕
カラーフィルタ配列は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するGフィルタ34Gが、カラーフィルタ配列の水平、垂直、及び斜め(NE,NW)方向の各ライン内に1つ以上配置されている。ここで、NEは斜め右上及び斜め左下方向を意味し、NWは斜め右下及び斜め左上方向を意味する。例えば、正方形の画素の配列の場合は、斜め(NE及びNW)方向とは水平方向に対しそれぞれ45°の方向となるが、長方形の画素の配列であれば、長方形の対角線の方向であり長辺・短辺の長さに応じてその角度は変わりうる。
輝度系画素に対応するGフィルタ34Gが、カラーフィルタ配列の水平、垂直、及び斜め(NE,NW)方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域での画素補間処理(同時化処理等)の再現精度を向上させることができる。
〔特徴(3)〕
基本配列パターンPは、R画素、G画素、B画素の画素数が、それぞれ8画素、20画素、8画素になっている。即ち、RGB画素の各画素数の比率は2:5:2であり、G画素の画素数の比率は他の色のR画素、B画素の各々の画素数の比率よりも大きくなる。
上記のようにG画素の画素数とR,B画素の画素数との比率が異なり、特に輝度信号を得るために最も寄与するG画素の画素数の比率を、R,B画素の画素数の比率よりも大きくするようにした。このため、画素補間処理(同時化処理等)時におけるエリアシングを抑制することができるとともに、高周波再現性もよくすることができる。
〔特徴(4)〕
カラーフィルタ配列は、Gの色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するRフィルタ34R、Bフィルタ34Bが、基本配列パターンP内においてカラーフィルタ配列の水平、及び垂直方向の各ライン内に1つ以上配置されている。
Rフィルタ34R及びBフィルタ34Bがそれぞれカラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されるため、色モワレ(偽色)の発生を低減することができる。これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにでき、又は光学ローパスフィルタを適用する場合でも偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができる。これにより、解像度を損なわないようにすることができる。
基本配列パターンPは、3×3画素のA配列35aと、3×3画素のB配列35bとが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
A配列35a及びB配列35bには、Gフィルタ34Gが4隅と中央に配置され、両対角線上に配置されている。また、A配列35aは、中央のGフィルタ34Gを挟んでRフィルタ34Rが水平方向に配列され、Bフィルタ34Bが垂直方向に配列されている。一方、B配列35bは、A配列35aのRフィルタ34RとBフィルタ34Bの配置を逆転させた配列である。
また、A配列35aとB配列35bの4隅のGフィルタ34Gは、A配列35aとB配列35bとが水平、垂直方向に交互に配置されることにより、2×2画素に対応する正方配列のGフィルタ34Gとなる。
以下、2×2画素に対応する正方配列のGフィルタ34G、すなわち、水平及び垂直方向に他のGフィルタ34Gが隣接して配置されているGフィルタ34Gを「密のGフィルタ34G」といい、図中では「G」と表示する。また、密のGフィルタ34Gに対応するG画素を「密のG画素」という。
一方、A配列35a及びB配列35bの中心のGフィルタ34Gは、水平及び垂直方向に異なる色のR、Bフィルタ34R,34Bと隣接して配置された孤立配列となる。以下、このような水平及び垂直方向に他のGフィルタ34Gが隣接して配置されていないGフィルタ34Gを「疎のGフィルタ34G」といい、図中では「G」と表示する。また、疎のGフィルタ34Gに対応するG画素を「疎のG画素」という。
なお、カラー撮像素子20のカラーフィルタ配列では、R、Bフィルタ34R,34Bのそれぞれの水平及び垂直方向には、同色のカラーフィルタは配置されていない。
〔特徴(5)〕
カラーフィルタ配列は、前述のように密のGフィルタ34Gが設けられた2×2画素に対応する正方配列を含んでいる。このような密のGフィルタ34Gが設けられた2×2画素を取り出し、水平方向のG画素の画素値の差分絶対値、垂直方向のG画素の画素値の差分絶対値、斜め方向(NE、NW)のG画素の画素値の差分絶対値を求める。これにより、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。
即ち、このカラーフィルタ配列によれば、最小画素間隔のG画素の情報を使用して、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向判別ができる。この方向判別結果は、周辺の画素から補間する補間処理(同時化処理等)に使用することができる。
〔特徴(6)〕
基本配列パターンPは、その中心(4つの密のGフィルタ34Gの中心)に対して点対称になっている。また、基本配列パターンP内のA配列35a及びB配列35bも、それぞれ中心のGフィルタ34Gに対して点対称になっている。このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化することが可能になる。
[欠陥画素情報記憶部に係る構成]
図4に示すように、記憶部27には、カラー撮像素子20の欠陥画素に関する欠陥画素情報データ37が記憶されている。欠陥画素情報データには、個々の欠陥画素毎に「登録No」と、「欠陥種類」と、「アドレス」と、「画素値」とが個別の欠陥画素情報(以下、単に欠陥画素情報という)として登録されている。
「登録No」は、欠陥画素情報データ37への登録順を示す。また、「欠陥種類」は欠陥画素の種類を示す。欠陥画素が、密のG画素である場合には密G欠陥画素、疎のG画素である場合には疎G欠陥画素、R画素である場合にはR欠陥画素、B画素である場合にはB欠陥画素として登録している。なお、以下の説明では、密G欠陥画素及び疎G欠陥画素を含むG画素の欠陥画素を「G欠陥画素」という。
「アドレス」は、カラー撮像素子20の撮像面上における欠陥画素のアドレス[座標(X,Y)]である。例えば、X座標(x1、x2、・・・)は図2及び図3に示した「1、2、3、・・・」のいずれかで表され、Y座標(y1、y2、・・・)は「a、b、c、・・・」のいずれかで表される。また、「画素値」は、後述する欠陥画素検査時に検出された欠陥画素の画素値である。
欠陥画素情報データ37には、記憶部27の記憶容量の関係からカラー撮像素子20の全ての欠陥画素に関する情報を登録することはできず、登録数に上限が設定されている。なお、RGB画素の各画素数の比率は前述の通り2:5:2であるので、例えば本実施形態では「G欠陥画素の登録上限数」>「R欠陥画素の登録上限数」=「B欠陥画素の登録上限数」とする。このような欠陥画素情報データ37への欠陥画素情報の登録は、例えば、デジタルカメラ10の製造メーカの検査工程にて、欠陥画素検査装置(以下、単に検査装置と略す)40により行われる。
[欠陥画素検査装置に係る構成]
検査装置40は、カラー撮像素子20の全画素についてそれぞれ欠陥画素であるか否かを検査して、欠陥画素に関する欠陥画素情報を欠陥画素情報データ37に登録する。この際に、「密G欠陥画素」よりも「疎G欠陥画素」が欠陥画素情報データ37に優先的に登録される。ここで、「優先的」に登録とは、「密のG画素の全画素数」に対する「密G欠陥画素の登録数」の割合をR1とし、「疎のG画素の全画素数」に対する「疎G欠陥画素の登録数」の割合をR2としたときに、R1<R2を満たすように登録することである。
「密G欠陥画素」よりも「疎G欠陥画素」を欠陥画素情報データ37に優先的に登録するのは以下の理由による。
図5に示すように、アドレス(3,d)にある密のG画素が密G欠陥画素(図中、×印を付している画素)である場合に、その水平及び垂直方向に隣接して配置されているG画素(密のG画素)については欠落画素とはならない。この場合には、密G欠陥画素に水平、及び垂直方向に隣接している2つのR、B画素の位置(図中にハッチングで表示)に対応するG画素(以下、欠落G画素という)の画素値を、G欠陥画素の画素値を用いて補間処理する。このため、密G欠陥画素の影響を特に強く受けるのは、2個の欠落G画素の画素値である。従って、密G欠陥画素の影響は広がりにくい。
一方、図6に示すように、アドレス(2,e)にある疎のG画素が疎G欠陥画素である場合に、水平及び垂直方向に隣接する4画素はR画素、B画素であるので、これら隣接4画素の位置に対応する欠落G画素の画素値を、G欠陥画素の画素値を用いて補間処理する必要がある。画素補間により算出される画素値は水平、垂直方向に隣接する画素値の影響を強く受けるので、疎G欠陥画素では隣接4画素の位置に対応する欠落G画素の画素値の値に影響が及ぶ。このため、疎G欠陥画素の影響は、密G欠陥画素よりも広がりやすく、撮影画像への影響が大きくなる。従って、疎G欠陥画素の欠陥画素情報が密G欠陥画素の欠陥情報よりも優先的に登録される。
図4に戻って、検査装置40は、カラー撮像素子20の個々の画素が欠陥画素であるか否かを判定する判定処理部42と、この判定に用いる画素情報43及びしきい値情報44と、欠陥画素情報を欠陥画素情報データ37に登録する登録処理部45と、を有する。
画素情報43は、カラー撮像素子20の各画素のアドレス情報と、画素の種類(例えば、疎のG画素、密のG画素、R画素、B画素など)に関する情報等が含まれている。
しきい値情報44には、疎のG画素が疎G欠陥画素であるか否かの判定に用いられるしきい値Aと、密のG画素が密G欠陥画素であるか否かの判定に用いられるしきい値Bとが格納されている。検査対象の画素の画素値(出力値)がしきい値以上となる場合には、暗出力のレベルが大きい欠陥画素とみなされる。しきい値Bは、しきい値Aよりも大きい値に設定されている。
なお、検査装置40では、判定処理部42による判定に先立って、例えばカラー撮像素子20の撮像面をメカシャッタ16で遮光した遮光状態下で、カラー撮像素子20による撮像を行わせる。すなわち、遮光状態下でのカラー撮像素子20の各画素の画素値(出力値)を求めておく。このようにして得られた各画素の画素値は、各画素の暗出力のレベルを示すものである。ここで、各画素の暗出力のレベルを求める方法は、上述の方法に限定されず、公知の各種方法を用いることができる。
判定処理部42は、遮光状態下で得られた各画素の画素値がしきい値以上となるか否かを判定し、しきい値以上となる場合には欠陥画素であると判定する。この際に、判定処理部42は、画素情報43に基づき、検査対象画素が疎のG画素である場合には「しきい値A」を用いて判定を行い、検査対象画素が密のG画素である場合には「しきい値B」を用いて判定を行う。
なお、判定処理部42は、検査対象画素がR画素またはB画素である場合には、例えばしきい値A(しきい値A以外の値でも可)を用いて判定処理を行う。
登録処理部45は、判定処理部42にて欠陥画素と判定された画素に関する欠陥画素情報を欠陥画素情報データ37に登録上限数の範囲内で登録する。この際に、G欠陥画素の全画素数がG欠陥画素の登録上限数よりも多い場合がある。この場合に、登録処理部45は、例えば疎G欠陥画素の欠陥画素情報から先に欠陥画素情報データ37に登録する。
[欠陥画素情報の登録処理]
次に、図7を用いて検査装置40による欠陥画素情報の登録処理の流れについて説明を行う。最初に、検査装置40からの撮像指令に基づき、メカシャッタ16が閉じた遮光状態にて、カラー撮像素子20による撮像が実行される。カラー撮像素子20の各画素から出力される出力信号は画素値として検査装置40に入力される。
次いで、検査装置40の判定処理部42が作動する。判定処理部42は、第1番目(例えば、アドレス(1,a))の画素についての判定処理を開始する。なお、検査対象の画素のアドレスは、例えば、カラー撮像素子20からの画素値の出力順などから判別することができる。判定処理部42は、検査対象の画素のアドレスに基づき、画素情報43を参照して画素の種類を判別する。
判定処理部42は、第1番目の画素が例えば「疎のG画素」である場合に、しきい値Aと画素値との大小を比較する。そして、画素値≧しきい値Aとなる場合には疎のG画素が疎G欠陥画素であると判定し、逆に画素値<しきい値Aとなる場合には疎のG画素が正常画素であると判定する。
また、判定処理部42は、第1番目画素が例えば「密のG画素」である場合にしきい値Bと画素値との大小を比較する。画素値≧しきい値Bとなる場合には密のG画素が密G欠陥画素であると判定し、逆に画素値<しきい値Bとなる場合には密のG画素が正常画素であると判定する。なお、判定処理部42は、第1番目の画素の種類がR画素またはB画素である場合に、例えばしきい値Aを用いて欠陥画素であるか否かを判定する。
以下、判定処理部42は第2番目以降の画素についても第1番目の画素の判定処理と同様にして、欠陥画素か否かを判定する。判定処理部42の判定結果は、登録処理部45に逐次入力される。
登録処理部45は、判定処理部42による判定処理が終了した後、各欠陥画素(疎G欠陥画素、密G欠陥画素、R・B欠陥画素)に関する欠陥画素情報を、デジタルカメラ10の欠陥画素情報データ37に登録する。なお、前述の通り、G欠陥画素の全画素数がG欠陥画素の登録上限数よりも多い場合には、疎G欠陥画素の欠陥画素情報から先に登録される。
検査装置40では、しきい値A<しきい値Bに設定しているので、疎のG画素は密の画素よりも画素値が小さい、すなわち、暗出力のレベルが低い場合でも疎G欠陥画素と判定される場合がある。このため、疎のG画素は密のG画素よりも欠陥画素であると判定される確率が高くなる。その結果、欠陥画素情報データ37に登録される「疎G欠陥画素の登録数の割合R2」は「密G欠陥画素の登録数の割合R1」よりも大きくなる。これにより、欠陥画素情報データ37には、疎G欠陥画素の欠陥画素情報が密G欠陥画素の欠陥画素情報よりも優先的に登録される。
なお、上記実施形態では、判定処理部42による全画素の判定処理が終了した後で、欠陥画素情報を欠陥画素情報データ37に一括登録しているが、逐次に欠陥画素情報を欠陥画素情報データ37に登録してもよい。この際に、欠陥画素情報データ37に登録されているG欠陥画素の登録数が登録上限数に達している場合には、例えば、新たな疎G欠陥画素の欠陥画素情報を、先に欠陥画素情報データ37に登録されている密G欠陥画素の欠陥画素情報に上書きすればよい。
[欠陥画素の画素値の補間処理]
補間処理部26は、記憶部27から欠陥画素情報データ37を取得し、この欠陥画素情報データ37に基づき、欠陥画素のアドレスを判別する。そして、この判別結果に基づき、補間処理部26は、欠陥画素情報データ37に登録されている個々の欠陥画素の画素値を同色の周辺画素の画素値を用いて補間処理する。
図8に示すように、補間処理部26は、アドレス(3,d)の密のG画素が密G欠陥画素である場合に、例えばその水平、垂直、及び斜め(NE)方向に隣接するアドレス(3,c),(4,c),(4,d),(2,e)の各G画素の画素値を用いて、密G欠陥画素の画素値を補間処理により求める。
また、補間処理部26は、アドレス(5,b)の疎のG画素が疎G欠陥画素である場合に、例えばその斜め(NE、NW)方向に隣接するアドレス(4,a),(4,c),(6,a),(6,c)の各G画素の画素値を用いて、疎G欠陥画素の画素値を補間処理により求める。
さらに、補間処理部26は、R、B画素がそれぞれR、B欠陥画素である場合に、近接する位置にある同色の画素の画素値を用いて補間処理を行う。なお、各欠陥画素の補間処理に用いる周辺画素は、図8に示した例に特に限定されず、適宜変更してもよい。また、補間処理により画素値を算出する方法(式)も特に限定されず、例えばシミュレーションなどにより決定した最適な式などを用いてもよい。
[第1実施形態のデジタルカメラの作用]
次に、図9を用いて上記構成のデジタルカメラ10の作用について説明する。操作部12にて、デジタルカメラ10の動作モードが撮影を行う撮影モードにセットされると、CPU11はレンズドライバ21を介してメカシャッタ16の動作を制御するとともに、撮像素子ドライバ23を介してカラー撮像素子20を駆動する。
所定のシャッタ速度でメカシャッタ16が開閉され、カラー撮像素子20のRGB画素に信号電荷が蓄積する。そして、撮像素子ドライバ23の制御の下、各RGB画素からの出力信号が信号調整回路24に出力される。信号調整回路24は、各RGB画素からの出力信号に対して、相関二重サンプリング処理やゲイン増幅処理などの各種処理を施した後、処理済みの出力信号を画像処理回路25へ出力する。
画像処理回路25の補間処理部26は、デジタルカメラ10の動作モードが撮影モードに設定された時などの所定のタイミングで作動して、記憶部27に記憶されている欠陥画素情報データ37を取得(参照)する。この欠陥画素情報データ37に基づき、補間処理部26は、補間処理の対象となる欠陥画素のアドレスを判別する。
次いで、補間処理部26は、例えば欠陥画素情報データ37に登録されている順番で、欠陥画素の出力信号に対応する画素値を、図8に示したような周辺画素の画素値を用いて補間処理により求める。これにより、欠陥画素情報データ37に登録されている全ての欠陥画素の補間処理が実行される。
この際に、「疎のG画素の全画素数」に対する疎G欠陥画素の補間の割合(第2割合)は、欠陥画素情報データ37に含まれる「疎G欠陥画素の登録数の割合R2」と等しくなる。また、「密のG画素の全画素数」に対する密G欠陥画素の補間の割合(第1割合)は、「密G欠陥画素の登録数の割合R1」と等しくなる。これにより、「疎G欠陥画素の補間の割合R2」>「密G欠陥画素の補間の割合R1」となる。このため、補間処理部26では、疎G欠陥画素の補間処理が、密G欠陥画素の補間処理よりも優先的に行われる。
補間処理部26は、欠陥画素の補間処理を行った後、欠落画素の補間処理を行う。なお、欠落画素の補間処理は周知技術であるので、具体的な説明は省略する。このような補間処理部26による補間処理とともに、画像処理回路25にて階調変換、ホワイトバランス補正、γ補正処理等の各種の画像処理が実施されて、撮影画像データが生成される。
画像処理回路25により生成された撮影画像データは、一定のタイミングで表示部32へ出力される。これにより、表示部32にスルー画像が表示される。また、同時にAF処理やAE処理などの撮影準備処理も同時に行われる。
操作部12で撮影指示がなされると、画像処理回路25にて1フレーム分の撮影画像データが生成される。この撮影画像データは、圧縮伸長処理回路29にて圧縮された後、メディアI/F30を経由してメモリカード31に記録される。
デジタルカメラ10では、撮影画像データの画質に与える影響が強い疎G欠陥画素の画素値の補間処理が、密G欠陥画素の画素値の補間処理よりも優先的に行われる。このため、記憶部27の記憶容量の上限や補間処理に係る処理時間の増大防止の観点から、全ての欠陥画素の補間処理が実施できなくとも、疎G欠陥画素が撮影画像データに与える影響を低減させることができる。その結果、良好な撮影画像データが得られる。
[第1−1実施形態のカラー撮像素子]
上記第1実施形態のカラー撮像素子20のG画素(Gフィルタ34G)には、2種類の疎・密のG画素(Gフィルタ34G)が含まれているが、3種類の疎・密のG画素(Gフィルタ34G)が含まれていてもよい。
例えば、図10に示すカラー撮像素子48のG画素には、水平及び垂直方向に他のG画素が3個隣接しているG画素と、1個隣接しているG画素と、1個も隣接していないG画素とが含まれている。この場合に、G画素はG画素に対しては「疎のG画素」となるが、G画素に対しては「密のG画素」となる。また、G画素及びG画素はそれぞれ他の各G画素に対して「密のG画素」、「疎のG画素」となる。なお、図中の符号「P1」は、カラー撮像素子48のカラーフィルタ配列を構成する基本配列パターンである。
このような3種類の疎・密のG画素が含まれている場合には、G画素>G画素>G画素の優先順位で、第1実施形態と同様に、欠陥画素情報の登録、欠陥画素の補間処理が行われる。
また、図11に示すカラー撮像素子49は、G画素の水平方向(垂直方向でも可)のみに2個のG画素が隣接している点を除けば、図10に示したカラー撮像素子48と基本的には同じである。なお、図中の符号「P2」は、カラー撮像素子49のカラーフィルタ配列を構成する基本配列パターンである。
このように本発明では、水平及び垂直方向に隣接するG画素の数が相対的に少ないG画素を「疎のG画素」として、相対的に多い「密のG画素」よりも優先的に欠陥画素情報の登録、欠陥画素の補間処理が行われる。なお、図10及び図11に示した実施形態では、G画素に3種類の疎・密のG画素(Gフィルタ34G)が含まれる場合について説明を行ったが、4種類以上の疎・密のG画素(Gフィルタ34G)が含まれる場合にも本発明を適用することができる。
[第1−2実施形態のカラー撮像素子]
上記第1の実施形態のカラー撮像素子20では、水平及び垂直方向に隣接するG画素の数が相対的に少ないG画素を「疎のG画素」とし、相対的に多いG画素を「密のG画素」としているが、水平及び垂直方向に隣接するG画素の数が同じであっても疎・密のG画素となる場合がある。
例えば、図12に示すカラー撮像素子50のG画素には、上記各実施形態とは異なるG画素と、G画素とが含まれている。なお、図中ではR、B画素(R、Bフィルタ34R,34Bは図示を省略している)。また、図中の符号「P3」は、カラー撮像素子50のカラーフィルタ配列を構成する基本配列パターンである。
画素の水平及び垂直方向には他のG画素が隣接して配置されていないが、斜め(NE)方向に他のG画素が1個隣接している。一方、G画素の水平、垂直、及び斜め(NE,NW)の各方向には他のG画素が1個も隣接してはいない。
補間処理により算出される欠落G画素の画素値は、水平、垂直方向に隣接するG画素の影響よりは低いものの、斜め(NE,NW)方向に隣接するG画素の影響も受ける。このため、G画素が欠陥画素であるときの影響は、G画素が欠陥画素であるときの影響よりも広がりやすく、撮影画像データへの影響が大きくなるといえる。従って、水平及び垂直方向に隣接するG画素の数が同じM個(0≦M≦4)であっても、斜め(NE,NW)方向に隣接するG画素(Gフィルタ34G)の数が相対的に少ないG画素を「疎のG画素」とし、相対的に多いG画素を「密のG画素」としている。そして、上記各実施形態と同様に、疎G欠陥画素の登録、補間処理を優先的に行っている。
なお、図12に示したカラー撮像素子50では、疎のG画素及び密のG画素の水平、垂直方向に隣接する他のG画素の数が0であるが、1個以上であっても同様に疎・密のG画素とすることができる。
[第1−3実施形態のカラー撮像素子]
上記第1の実施形態では、G画素(Gフィルタ34G)に「疎のG画素(疎のGフィルタ34G)」と「密のG画素(密のGフィルタ34G)」が含まれる場合について説明したが、本発明はこれに限定されるものではない。例えば、図13に示すカラー撮像素子52のように、R画素(Rフィルタ34R)に「疎のR画素(疎のRフィルタ34R、図中「R」で表示)」と「密のR画素(密のRフィルタ34R、図中「R」で表示)」とが含まれていてもよい。この場合も、第1実施形態と同様に疎R欠陥画素の登録、補間処理が優先的に行われる。なお、図中の符号「P4」は、カラー撮像素子52のカラーフィルタ配列を構成する基本配列パターンである。
なお、図13に示した実施形態では、疎・密のR画素の水平、垂直方向に隣接する他のR画素の数に差がないが、第1実施形態のG画素と同様に、水平、垂直方向に隣接する他のR画素の数が異なっていてもよい。
また、図13に示した実施形態では、疎・密のR画素(Rフィルタ34R)について説明したが、B画素(Bフィルタ34B)に疎・密のB画素(Bフィルタ34B)が含まれる場合も同様に本発明を適用することができる。
[第2実施形態のデジタルカメラの全体構成]
次に、図14を用いて本発明の第2実施形態のデジタルカメラ55について説明を行う。上記第1実施形態のデジタルカメラ10では、個々の欠陥画素(疎G欠陥画素、密G欠陥画素、R・B欠陥画素)の欠陥画素情報を欠陥画素情報データ37に登録して、欠陥画素の補間処理を行っている。これに対して、デジタルカメラ55では、個々の欠陥画素が隣接または近接して配置されてなる連欠陥画素の欠陥情報の登録、及び補間処理を行う。
デジタルカメラ55は、第1実施形態とは異なる欠陥画素情報データ57が記憶部27に格納されている点を除けば、第1実施形態と基本的に同じ構成である。このため、上記第1実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。なお、第2実施形態以降の各実施形態では、説明の煩雑化を防止するために、G画素のみに欠陥が発生する場合について説明を行う。
欠陥画素情報データ57には、G欠陥画素として、前述の疎G欠陥画素、密G欠陥画素の欠陥画素情報以外に、疎・密G連欠陥画素(第1の連欠陥画素)、疎・疎G連欠陥画素(第2の連欠陥画素)、及び密・密G連欠陥画素(第3の連欠陥画素)の欠陥画素情報が含まれている。
図15に示すように、疎・密G連欠陥画素は、疎G欠陥画素と密G欠陥画素とが水平、垂直、及び斜め(NE,NW)の各方向のいずれか(図中ではNE方向)に隣接してなる連欠陥画素である。なお、欠陥の有無に関わらず、疎のG画素と密のG画素とが各方向のいずれかに隣接してなるものを「疎・密G画素」(第1の連画素)という。
図16に示すように、疎・疎G連欠陥画素は、2つの疎G欠陥画素が水平、垂直、及び斜め(NE,NW)の各方向のいずれか(図中では水平方向)に近接してなる連欠陥画素である。ここでいう「近接」とは、隣接はしていないが近い位置(例えば数画素ピッチ以内)にあることをいう。なお、欠陥の有無に関わらず、2つの疎のG画素が各方向のいずれかに近接してなるものを「疎・疎G画素」(第2の連画素)という。
図17に示すように、密・密G連欠陥画素は、2つの密G欠陥画素が水平、垂直、及び斜め(NE,NW)の各方向のいずれか(図中では水平方向)に隣接してなる連欠陥画素である。なお、欠陥の有無に関わらず、2つの密のG画素が各方向のいずれかに隣接してなるものを「密・密G画素」(第3の連画素)という。また、密・密G連欠陥画素に、2つの密G欠陥画素が各方向のいずれかに近接してなる連欠陥画素(図中の点線の×印で表示)を含めてもよい。
図14に戻って、欠陥画素情報データ57への各欠陥画素の欠陥画素情報の登録は、検査装置59を用いて行われる。検査装置59は、各G連欠陥画素の欠陥画素情報を、疎G欠陥画素の欠陥画素情報よりも優先的に登録する。また、検査装置59は、疎・疎G連欠陥画素>疎・密G連欠陥画素>密・密G連欠陥画素の順で欠陥画素情報を優先的に欠陥画素情報データ57に登録する。
ここでいう「優先的」に登録とは、「疎・密G画素の全数」に対する「疎・密G連欠陥画素の登録数」の割合をR3とし、「疎・疎G画素の全数」に対する「疎・疎G連欠陥画素の登録数」の割合をR4とし、「密・密G画素の全数」に対する「密・密G連欠陥画素の登録数」の割合をR5としたときに、R4>R3>R5>R2>R1を満たすように登録することである。
各G連欠陥画素の影響は、2つの欠陥画素が隣接または近接することで疎G欠陥画素よりも広がりやすいので、撮影画像への影響がより大きくなる。従って、各G連欠陥画素の欠陥画素情報は疎G欠陥画素の欠陥情報よりも優先的に登録される。特に、疎・疎G連欠陥画素の場合は、疎G欠陥画素同士が隣接してはいないものの、補間処理されないと一つの大きな線状欠陥として認識される可能性がある。また、疎・密G連欠陥画素の場合には、その一方は密G欠陥画素であるが、この密G欠陥画素の補間処理後の画素値を用いて他方の疎G欠陥画素の補間処理を行うためである。
検査装置59は、前述の画素情報43の他に、第1実施形態の検査装置40とは異なるしきい値情報60、判定処理部61、及び登録処理部62を有している。
しきい値情報60には、前述のしきい値A,Bの他に、疎・密G画素が疎・密G連欠陥画素であるか否かの判定に用いられるしきい値Cと、疎・疎G画素が疎・疎G連欠陥画素であるか否かの判定に用いられるしきい値Dと、密・密G画素が密・密G連欠陥画素であるか否かの判定に用いられるしきい値Eと、が格納されている。各しきい値は、前述の登録の優先順位に基づき、この優先順位が高い方が低い方よりもしきい値が小さくなるように、しきい値D<しきい値C<しきい値E<しきい値A<しきい値Bとなる。
判定処理部61は、前述の第1実施形態と同様に遮光状態下で得られた各画素の画素値と、しきい値A〜Eとに基づいて、各画素が欠陥画素であるか否か、及び欠陥画素である場合にはその種類を判定する。以下、判定処理部61による欠陥画素判定処理を具体的に説明する。
[第2実施形態の欠陥画素判定処理]
図18に示すように、最初に判定処理部61は、検査対象のG画素(以下、単に検査対象画素という)の画素値が、しきい値A〜Eの中で最小のしきい値D未満となるか否かを判定する(S1)。そして、判定処理部61は、画素値がしきい値D未満である場合には、検査対象画素が正常画素であると判定する。
一方、判定処理部61は、判定S1にて検査対象画素の画素値がしきい値D以上であった場合に、画素情報43に基づいて、検査対象画素の周辺(隣接または近接位置)にあるG画素(以下、周辺画素という)が、G欠陥画素となる可能性があるか否かを判定する(S2)。具体的には、周辺画素の画素値がしきい値D以上となるか否かを判定する。
判定処理部61は、判定S2にて周辺画素がG欠陥画素となる可能性が無い場合に、画素情報43に基づき、検査対象画素が疎のG画素であるか否かを判定する(S3)。そして、検査対象画素が疎のG画素である場合、この検査対象画素の画素値がしきい値A以上であれば検査対象画素が疎G欠陥画素であると判定し、逆にしきい値A未満であれば検査対象画素が正常画素であると判定する(S4)。
また、判定処理部61は、判定S3にて検査対象画素が密のG画素であると判定した場合、この検査対象画素の画素値がしきい値B以上であれば検査対象画素が密G欠陥画素であると判定し、逆にしきい値B未満であれば正常画素であると判定する(S5)。
判定S2に戻って、判定処理部61は、周辺画素がG欠陥画素となる可能性(画素値≧しきい値D)がある場合に、画素情報43に基づき、検査対象画素(しきい値D以上:判定S1)が疎のG画素であるか否かを判定する(S6)。
判定処理部61は、判定S6にて検査対象画素(しきい値D以上)が疎のG画素である場合に、画素情報43に基づいて、周辺画素(しきい値D以上:判定S2)が疎のG画素であるか否かを判定する(S7)。周辺画素(しきい値D以上)が疎のG画素である場合には、検査対象画素及び周辺画素は共に疎のG画素であり、且つ両者の画素値はしきい値D以上となる。このため、判定処理部61は、検査対象画素及び周辺画素を疎・疎G連欠陥画素であると判定する。
逆に、判定処理部61は、判定S7にて周辺画素(しきい値D以上)が密のG画素であると判定した場合に、検査対象画素(疎のG画素、しきい値D以上)及び周辺画素(密のG画素、しきい値D以上)の画素値が共にしきい値C以上となるか否かを判定する(S8)。
判定処理部61は、判定S8にて検査対象画素及び周辺画素の画素値が共にしきい値C以上となる場合には、検査対象画素及び周辺画素を疎・密G連欠陥画素であると判定する。また、判定処理部61は、両者の画素値の一方がしきい値C未満となる場合には、前述の判定S4に進み、検査対象画素(疎のG画素、しきい値D以上)が疎G欠陥画素であるか否かを判定する。
判定S6に戻って、判定処理部61は、検査対象画素(しきい値D以上)が密のG画素である場合に、画素情報43に基づいて、周辺画素(しきい値D以上)が疎のG画素であるか否かを判定する(S9)。そして、周辺画素(しきい値D以上)が疎のG画素である場合には、前述の判定S8に進む。
また、判定処理部61は、判定S9にて周辺画素(しきい値D以上)が密のG画素であると判定した場合に、検査対象画素(密のG画素、しきい値D以上)及び周辺画素(密のG画素、しきい値D以上)の画素値が共にしきい値E以上となるか否かを判定する(S10)。
判定処理部61は、検査対象画素及び周辺画素の画素値が共にしきい値E以上となる場合には、検査対象画素及び周辺画素を密・密G連欠陥画素であると判定する。また、判定処理部61は、両者の画素値の一方がしきい値E未満となる場合に、前述の判定S5に進み、検査対象画素(密のG画素、しきい値D以上)が密G欠陥画素であるか否かを判定する。以上で判定処理部61による欠陥画素判定処理が全て完了する。
図14に戻って、登録処理部62は、第1実施形態の登録処理部45と基本的に同じであり、判定処理部61により判定された欠陥画素の欠陥画素情報を欠陥画素情報データ57に登録上限数の範囲内で登録する。ただし、登録処理部62は、「疎・疎G連欠陥画素の登録数の割合R4」>「疎・密G連欠陥画素の登録数の割合R3」>「密・密G連欠陥画素の登録数の割合R5」>「疎G欠陥画素の登録数の割合R2」>「密G欠陥画素の登録数の割合R1」を満たすように登録を行う。
[第2実施形態の欠陥画素情報の登録処理]
図19に示すように、検査装置59による欠陥画素情報の登録処理は、図18に示した欠陥画素判定処理を行う点を除けば、第1実施形態の欠陥画素情報の登録処理と基本的に同じであるので、具体的な説明は省略する。この登録処理により、疎・疎G連欠陥画素>疎・密G連欠陥画素>密・密G連欠陥画素>疎G欠陥画素>密G欠陥画素の優先順位で、欠陥画素情報が登録される。
なお、各欠陥画素情報を欠陥画素情報データ57に一括登録する代わりに、逐次に欠陥画素情報を欠陥画素情報データ57に登録してもよい。この際に、全画素の判定処理が完了する前に欠陥画素の登録数が登録上限数に達した場合には、相対的に優先順位の高い欠陥画素の欠陥画素情報を、先に登録された相対的に優先順位の低い欠陥画素の欠陥画素情報に上書きすればよい。
[欠陥画素の画素値の補間処理]
図14に戻って、補間処理部26は、第1実施形態と同様に、記憶部27から欠陥画素情報データ57を取得して、各欠陥画素の補間処理を行う。なお、欠陥画素が疎・密G連欠陥画素である場合に、図15中の矢印で示したように、密G欠陥画素及び疎G欠陥画素の画素値を補間処理により求める。具体的には、密G欠陥画素の画素値を水平、垂直、及び斜め方向(図中では、上、右、斜め右上方向)に隣接する3つのG画素の画素値を用いて補間処理により求める。また、疎G欠陥画素の画素値を斜め方向(図中では、斜め左上、斜め左下、斜め右下方向)に隣接する3つのG画素の画素値を用いて補間処理により求める。
疎・密G画素の全数に対する疎・密G連欠陥画素の補間の割合は、前述の割合R3(第3割合)と等しくなる。また、疎・疎G画素の全数に対する疎・疎G連欠陥画素の補間の割合は、前述の割合R4(第4割合)と等しくなる。さらに、密・密G画素の全数に対する密・密G連欠陥画素の補間の割合は、前述の割合R5(第5割合)と等しくなる。なお、疎G欠陥画素及び密G欠陥画素の補間の割合は、それぞれ前述の割合R2、割合R1となる。
なお、第2実施形態のデジタルカメラ55の作用は、図9に示した第1実施形態と基本的に同じであるので、ここでは説明を省略する。デジタルカメラ55においても、前述の相対的に優先順位の高い欠陥画素の補間処理が、相対的に優先順位の低い欠陥画素の補間処理よりも優先的に行われるので、良好な撮影画像データが得られる。
[第3実施形態のデジタルカメラの全体構成]
次に、図20を用いて本発明の第3実施形態のデジタルカメラ65について説明を行う。上記第1及び第2実施形態のデジタルカメラ10,55では、カラー撮像素子20の撮影ゲイン(例えばISO感度)の高低に関係なく共通の欠陥画素情報データ37,57を用いて画素補間処理を行うが、デジタルカメラ65では撮影ゲインの高低に応じて異なる欠陥画素情報データを用いて画素補間処理を行う。
デジタルカメラ65は、記憶部27に3種類の第1、第2、及び第3欠陥画素情報データ37a,37b,37cが格納されている点を除けば、第2実施形態と基本的に同じ構成である。このため、上記第2(第1)実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
第1欠陥画素情報データ57aには、撮影ゲインが例えばISO100以上ISO800未満に設定されているときの欠陥画素の欠陥画素情報が登録されている。第2欠陥画素情報データ57bには、撮影ゲインが例えばISO800以上ISO6400未満に設定されているときの欠陥画素の欠陥画素情報が登録されている。第3欠陥画素情報データ57cには、撮影ゲインが例えばISO6400以上に設定されているときの欠陥画素の欠陥画素情報が登録されている。これは撮影ゲインが高いほど各画素の暗出力が増加することで、撮影ゲインが低い場合には撮影画像データの画質にほとんど影響を及ぼさないが、撮影ゲインが高い場合に撮影画像データの画質に影響を及ぼす画素があるからである。
各欠陥画素情報データ57a〜57cへの欠陥画素情報の登録は、検査装置67により行われる。検査装置67は、しきい値情報テーブル68、判定処理部69を備える点を除けば、第2実施形態の検査装置59と基本的に同じ構成である。
しきい値情報テーブル68には、撮影ゲインの各範囲(「ISO100以上ISO800未満:図中ではISO100と表示」、「ISO800以上ISO6400未満:図中ではISO6400以上と表示」、「ISO6400以上」)に応じて、前述の各欠陥画素の判定に用いるしきい値がそれぞれ設定されている。
撮影ゲインが高いほど各画素の暗出力が増加するため欠陥画素が検知されやすくなる。このため、撮影ゲインが高いほどしきい値を高く設定しないと、欠陥画素の登録数が増大して記憶部27から欠陥画素情報を読み出す時間が増加、及び欠陥画素の補間処理に要する時間が増加してしまう。また、高周波の被写体では、欠陥画素の補間処理よって誤補間が発生する可能性がある。このため、各しきい値は、撮影ゲインが高いほど高くなるように設定されている。なお、撮影ゲインが高い方が、欠陥画素がノイズに埋もれるため、ゲイン倍よりは各しきい値を低く設定している。
判定処理部69は、しきい値情報テーブル68の各ISO感度の範囲で定められたしきい値と、各画素の画素値(暗出力)とに基づいて、各ISO感度の範囲内において各画素が欠陥画素であるか否か、及び欠陥画素である場合にはその種類を判定する。
[第3実施形態の欠陥画素情報の登録処理]
図21に示すように、全画素の画素値が取得された後、判定処理部69は、最初にしきい値情報テーブル68の「ISO100以上ISO800未満」で設定されている各しきい値を、欠陥画素判定処理に用いるしきい値として決定する。そして、判定処理部69は、決定したしきい値と、各画素の画素値(暗出力)とに基づき、全画素について図18に示したように欠陥画素判定処理を行う。
次いで、登録処理部62は、第2実施形態と同様に、判定処理部69にて欠陥画素と判定された画素に関する欠陥画素情報を第1欠陥画素情報データ57aに登録する。この登録処理後、判定処理部69は、しきい値情報テーブル68の「ISO800以上ISO6400未満」で設定されている各しきい値を、次の欠陥画素判定処理に用いるしきい値として決定する。以下同様に、判定処理部69による欠陥画素判定処理が行われて、欠陥画素情報が第2欠陥画素情報データ57bに登録される。
さらに、第2欠陥画素情報データ57bへの欠陥画素情報の登録後、しきい値情報テーブル68の「ISO6400以上」で設定されているしきい値に基づき、欠陥画素判定処理が行われて、欠陥画素情報が第3欠陥画素情報データ57cに登録される。各欠陥画素情報データ57a,57b,57cでは、第2実施形態と同様に、前述の割合R4>割合R3>割合R5>割合R2>割合R1を満たすように欠陥画素情報が登録される。
[第3実施形態のデジタルカメラの作用]
図22に示すように、第3実施形態のデジタルカメラ65の作用は、基本的には第2(第1)実施形態と同じである。ただし、デジタルカメラ65の補間処理部26は、例えばCPU11などから取得した撮影ゲイン(本実施形態ではISO感度)の情報に基づき、記憶部27内の各欠陥画素情報データ57a〜57cの中から撮影ゲインに対応するデータを選択・取得して、欠陥画素の補間処理を行う。第2実施形態と同様に、前述の相対的に優先順位の高い欠陥画素の補間処理が、相対的に優先順位の低い欠陥画素の補間処理よりも優先的に行われるので、良好な撮影画像データが得られる。
[第3−1実施形態のデジタルカメラ]
上記第3実施形態のデジタルカメラ65では、撮影ゲインに応じて異なる欠陥画素情報データを用いて画素補間処理を行うが、例えば、図23に示すように、カラー撮像素子20の露光時間に応じて異なる欠陥画素情報データを用いて補間処理を行ってもよい。これは、露光時間が長い場合にも撮影ゲインが高い場合と同様に各画素の暗出力が増加するためである。なお、具体的な欠陥画素情報データの登録処理や、欠陥画素の補間処理は、第3実施形態と同じであるのでここでは説明を省略する。
[第3−2実施形態のデジタルカメラ]
また、図24に示すように、カラー撮像素子20の温度(以下、素子温度という)に応じて異なる欠陥画素情報データを用いて補間処理を行ってもよい。これは素子温度が高い場合にも撮影ゲインが高い場合と同様に各画素の暗出力が増加するためである。
第3−2実施形態の補間処理部26は、素子温度を計測する温度センサ71からの素子温度情報に基づき、記憶部27内の各欠陥画素情報データ57a〜57cの中から対応するデータを選択・取得して、欠陥画素の補間処理を行う。なお、欠陥画素情報の登録処理や、欠陥画素の補間処理は、第3実施形態と同じであるのでここでは説明を省略する。
[第3、第3−1、第3−2実施形態のその他]
上記第3、第3−1、第3−2実施形態では、撮影ゲイン、露光時間、素子温度等の撮影条件を3段階の範囲に分けてそれぞれの範囲に対応する欠陥画素情報データを設けているが、撮影条件を2段階あるいは4段階以上の範囲に分けて各範囲の欠陥画素情報データを設けてもよい。また、記憶部27内に記憶されている各欠陥画素情報データを1つのデータにまとめて記憶してもよい。
上記第3、第3−1、第3−2実施形態では、画素の暗出力に影響を及ぼす撮影条件として撮影ゲイン、露光時間、素子温度を例に挙げたが、これら以外の画素の暗出力に影響を及ぼす各種の撮影条件に応じて異なる欠陥画素情報データを設けてもよい。なお、欠陥画素の判定に用いるしきい値も同様である。
[第4実施形態のデジタルカメラの構成]
次に、図25を用いて本発明の第4実施形態のデジタルカメラ75について説明を行う。上記第1実施形態のデジタルカメラ75では、疎G欠陥画素同士での補間処理や欠陥画素情報登録処理については優先順位を設けていないが、デジタルカメラ75では、個々の疎G欠陥画素の補間処理や登録処理についても優先順位を設けている。
デジタルカメラ75は、第1実施形態のデジタルカメラ10とは異なる欠陥画素情報データ76が記憶部27に格納されている点を除けば、第1実施形態と基本的に同じ構成である。このため、上記第1実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。また、説明の煩雑化を防止するために、欠陥画素の種類は疎G欠陥画素のみに限定して説明を行う。
欠陥画素情報データ76には、疎G欠陥画素の欠陥画素情報が、個々の疎G欠陥画素毎に求められた評価値の高い順に優先的に登録されている。この評価値は、検査装置78により求められる。検査装置78は、疎G欠陥画素の周辺に隣接するR、B画素のさらに周辺に隣接するG画素(以下、近接G画素という)の位置、数に応じて評価値を求める。
図26に示すように、アドレス(3,c)の疎のG画素が疎G欠陥画素であって、その周辺に近接G画素が存在しない場合には、疎G欠陥画素の画素値を用いて周囲の全R,B画素の位置に対応する欠落G画素の画素値を求める。このため、疎G欠陥画素の影響が隣接する全ての欠落G画素の画素値に強く及ぶ。このような場合には、評価値を「1」×8=8とする。
図27に示すように、アドレス(1,e)に1個の近接G画素がある場合に、アドレス(2,d)の欠落G画素の画素値は疎G欠陥画素の影響を半分受ける。このため、アドレス(2,d)の欠落G画素は「0.5」とし、その他の欠落G画素は「1」とするので、評価値は0.5+(1×7)=7.5となる。
図28に示すように、アドレス(2,d)の欠落G画素の垂直方向(図中下方)に隣接する位置に近接G画素[アドレス(2,e)]がある場合に、この欠落G画素の画素値は、斜め方向に隣接する疎G欠陥画素よりも、垂直方向(水平方向も同様)に隣接する近接G画素の影響を強く受ける。このため、水平及び垂直方向を斜め方向の倍の重みづけをすると、欠落G画素に対する疎G欠陥画素の影響は1/3となるので、アドレス(2,d)の欠落G画素を「0.33」とする。また、アドレス(3,d)の欠落G画素は、疎G欠陥画素の影響が強くなるので「0.67」とし、その他の欠落G画素は「1」とする。その結果、評価値は0.33+0.67+(1×6)=7となる。
図29に示すように、アドレス(2,e)、(3,e)に近接G画素がある場合にも同様の法則で、アドレス(2,d)、(3,d)、(4,d)の欠落G画素をそれぞれ「0.25」、「0.4」、「0.5」として、その他の欠落G画素を「1」とする。その結果、評価値は0.25+0.4+0.5+(1×5)=6.15となる。
図30に示すように、アドレス(2,e)、(3,e)、(2,e)に近接G画素がある場合にも同様の法則で、アドレス(2,d)、(3,d)、(4,d)の欠落G画素をそれぞれ「0.25」、「0.16」、「0.25」として、その他の欠落G画素を「1」とする。その結果、評価値は0.25+0.16+0.25+(1×5)=5.66となる。
このように近接画素の位置、数に応じて評価値が定められる。なお、上述の評価値の算出では水平・垂直方向に隣接する近接G画素の重みづけを、斜め方向に隣接する近接G画素の重みづけの倍にしているが、重みづけの量は適宜変更してもよい。
図25に戻って、検査装置78は、評価値算出部79、登録処理部80を備えている点を除けば基本的には第1実施形態の検査装置40と同じである。評価値算出部79は、判定処理部42で検査対象画素が「疎G欠陥画素」と判定された場合に、前述の図26から図30に示したように評価値を算出する。
登録処理部80は、第1実施形態の登録処理部45と同様に、疎G欠陥画素の欠陥画素情報を密G欠陥画素の欠陥画素情報よりも優先的に欠陥画素情報データ76に登録する。さらに、登録処理部80は、疎G欠陥画素に関する欠陥画素情報を登録する際に、評価値算出部79で算出された評価値が高いものについては優先的に登録する。
ここで「優先的に登録」とは、「疎のG画素の全画素数」に対する「相対的に評価値が高い疎G欠陥画素の登録数」の割合が、「疎のG画素の全画素数」に対する「相対的に評価値が低い疎G欠陥画素の登録数」の割合よりも高くなるように、欠陥画素情報の登録を行うことである。なお、相対的に評価値が高い疎G欠陥画素の欠陥画素情報を、相対的に評価値が低い疎G欠陥画素の欠陥画素情報よりも先に欠陥画素情報データ76に登録してもよい。
なお、第4実施形態の欠陥画素情報の登録処理は、前述の通り、相対的に評価値が高い疎G欠陥画素の欠陥画素情報を欠陥画素情報データ76に優先的に登録する点を除けば、上記第1実施形態と基本的に同じであるのでここでは説明を省略する。また、第4実施形態のデジタルカメラ75の作用も、図9に示した第1実施形態と基本的に同じであるので、ここでは説明を省略する。デジタルカメラ75では、疎G欠陥画素の中でも周囲の欠落G画素の画素値に与える影響が大きい(評価値が高い)画素の欠陥画素情報が優先的に欠陥画素情報データ76に登録されて優先的に補間処理されるので、より良好な撮影画像データが得られる。
[第4実施形態のその他]
上記第4実施形態では、疎G欠陥画素の画素補間処理や登録処理について優先順位を設けた場合を例に挙げて説明したが、他の種類のG欠陥画素についても同様に画素補間処理や登録処理に優先順位を設けてもよい。なお、R、B画素欠陥についても同様である。
[第5実施形態のデジタルカメラの構成]
次に、図31を用いて本発明の第5実施形態のデジタルカメラ83について説明を行う。上記各実施形態のデジタルカメラでは、外部の検査装置により得られた欠陥画素情報を欠陥画素情報データに登録しているが、デジタルカメラ83は、欠陥画素の判定と欠陥画素情報の登録を行う機能を有している。
デジタルカメラ83は、例えば画像処理回路25内に欠陥画素検査回路84を有する点を除けば、第1実施形態のデジタルカメラ10と基本的に同じ構成である。欠陥画素検査回路84は、上記各実施形態の検査装置40,59,67,78のいずれかと同等の機能を有している。欠陥画素検査回路84は、デジタルカメラ75の電源がONされたとき、動作モードが撮影モードに切り替えられたとき、あるいは一定期間毎の任意のタイミングで、前述の欠陥画素の判定処理と登録処理を行う。これにより、経時変化によって新たに発生した画素欠陥、いわゆる後発性欠陥にも対応することができる。
[その他]
上記第3実施形態のデジタルカメラ65では、図20に示したように、撮影条件(例えば撮影ゲイン、露光時間、素子温度)に応じて異なる欠陥画素情報データを記憶部27に格納し、この記憶部27から撮影条件に対応する欠陥画素情報データを取得して画素補間処理を行っているが、本発明はこれに限定されるものではない。例えば、図32に示すデジタルカメラ55aのように、欠陥画素情報データ57を1つのデータとして備え、この欠陥画素情報データ57から撮影条件に対応する欠陥画素情報を取り出してもよい。
欠陥画素情報データ57には、撮影条件が変化したときに各撮影条件(図20等に示した撮影条件の範囲)のいずれかで発生する欠陥画素の欠陥画素情報が登録されている。
補間処理部26aは、欠陥画素情報データ57に登録されている欠陥画素情報の中で、画素値が例えば撮影条件(撮影条件の種類、範囲)毎、及び欠陥画素の種類毎にそれぞれ予め定められたしきい値以上となる欠陥画素情報を取得して、画素補間処理を行う。あるいは、補間処理部26aは、例えば欠陥画素情報データ57に登録されている各欠陥画素情報の画素値に、撮影条件毎及び欠陥画素の種類毎にそれぞれ予め定められた係数または関数を掛けて、係数等を掛けた後の画素値が所定の値以上になる欠陥画素情報を取得する。なお、撮影条件に対応した欠陥画像情報の取得方法は、上記方法に限定されずに種々の方法を取ることができる。
このように、1つの欠陥画素情報データ57から撮影条件に対応した欠陥画素情報を取得する場合も、前述の第3実施形態と同様の効果が得られる。
なお、デジタルカメラ55aにおいても、第5実施形態のデジタルカメラ65と同様に、欠陥画素の判定と欠陥画素情報の登録を行ってもよい。この場合に、例えば全ての画素の画素値を記憶しておき、画素値が前述のしきい値以上となる画素、あるいは前述の係数等を掛けた画素値が所定の値以上となる画素を欠陥画素として、この欠陥画素に関する欠陥画素情報を取得してもよい。この場合でも、補間処理に係る処理時間の増加は防止される。
上記第2実施形態では、疎・密G連欠陥画素の画素値の補間処理を行う際に、図15に示したように疎G欠陥画素及び密G欠陥画素にそれぞれ隣接する3つのG画素の画素値を用いて補間処理を行っているが、本発明はこれに限定されるものではない。例えば、図33中の矢印で示すように、密G欠陥画素の画素値を補間処理により先に求めた後で、この画素値と、疎G欠陥画素に斜め方向に隣接する他のG画素の画素値とを用いて疎G欠陥画素の画素値を補間処理により求めてもよい。
本発明のカラー撮像素子のカラーフィルタ配列は、図2などに示した配列パターンに限定されるものではなく、少なくとも1色のカラーフィルタに「疎のフィルタ」と「密のフィルタ」とが含まれるような配列パターンであればよい。例えば、カラーフィルタ配列が、水平及び垂直方向に繰り返し配置されたN×N画素(Nは3以上)に対応する配列パターンの基本配列パターンにより構成され、かつこの基本配列パターンの2つの対角線上に沿ってGフィルタ34G(第1色のフィルタ)が配置されていてもよい。この場合に、カラーフィルタ配列には、Gフィルタ34G(第1色のフィルタ)が2×2画素以上に対応する配列パターンで互いに水平及び垂直方向に隣接して配置されている正方配列と、Gフィルタ34G(第1色のフィルタ)の孤立配列とが含まれる。
上記第2実施形態以降の各実施形態では、G画素(Gフィルタ34G)に「疎のG画素(疎のGフィルタ34G)」と「密のG画素(密のGフィルタ34G)」が含まれる場合について説明したが、R、B画素(R、Bフィルタ34R、34B)に「疎のR、B画素(疎のRフィルタ34R,34B)」と「密のR,B画素(密のRフィルタ34R、34B)」とが含まれていてもよい。さらに、全ての実施形態において、2色以上の画素(カラーフィルタ)に、「疎の画素(疎のフィルタ)」と「密の画素(密のフィルタ)」とが含まれていてもよい。
上記第1実施形態では、「疎G欠陥画素の補間処理数・登録数の割合R2」>「密G欠陥画素の補間処理数、登録数の割合R1」とすることを、疎G欠陥画素の補間処理・登録を優先的に行うと定義しているが、本発明はこれに限定されるものではない。例えば、「疎G欠陥画素の補間処理・登録」を、「密G欠陥画素の補間処理、登録」よりも先に行うこと優先的としてもよい。前述の通り、デジタルカメラにおける欠陥画素の補間処理数・登録数には上限があるので、「疎G欠陥画素の補間処理・登録」を先に行った場合には、前述の割合R2>割合R1となる。さらに、第1実施形態以外の各実施形態についても、相対的に優先順位の高い欠陥画素の補間処理・登録を、相対的に優先順位の低い欠陥画素の補間処理・登録よりも先に行ってもよい。
また、上記第1実施形態において、「疎G欠陥画素の補間処理数・登録数」を「密G欠陥画素の補間処理数、登録数」よりも大きくすることを「優先的に補間処理・登録」としてもよい。さらに、第1実施形態以外の各実施形態についても、「相対的に優先順位の高い欠陥画素の補間処理数・登録数」>「相対的に優先順位の低い欠陥画素の補間処理数・登録数」としてもよい。
上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、例えばRGBの3原色+他の色(例えば、エメラルド(E))の4色のカラーフィルタのカラーフィルタ配列であっても良く、カラーフィルタの種類は特に限定されない。また、本発明は、原色RGBの補色であるC(シアン)、M(マゼンタ)、Y(イエロー)のカラーフィルタのカラーフィルタ配列にも適用できる。
上記の各実施形態では、本発明のカラー撮像素子を備える撮像装置としてデジタルカメラを例に挙げて説明を行ったが、例えば内視鏡などの各種の撮像装置に本発明を適用することができる。
更にまた、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10,48,49,50,52,55,65,75…デジタルカメラ、20…カラー撮像素子、25…画像処理回路、26…補間処理部、27…欠陥画素情報記憶部、34R…Rフィルタ、34G…Gフィルタ、34B…Bフィルタ、37,57a〜57c,76…欠陥画素情報データ、40,67,78…欠陥画素検査装置、42,69…判定処理部、43…画素情報、44…しきい値情報、45,62…登録処理部、P,P1,P2,P3,P4…基本配列パターン

Claims (12)

  1. 水平方向及び垂直方向に配列された光電変換素子により構成される複数の画素上に、複数色のカラーフィルタが所定のカラーフィルタ配列で配設されてなるカラー撮像素子であって、少なくとも1色の前記カラーフィルタは、前記水平及び垂直方向に隣接する同色の前記カラーフィルタの第1隣接数が相対的に少ない、或いは前記第1隣接数が共にM(0≦M≦4)である場合に斜め方向に隣接する同色の前記カラーフィルタの第2隣接数が相対的に少ない疎のフィルタと、相対的に多い密のフィルタとを含んでおり、前記複数の画素は、前記疎のフィルタに対応する疎の画素と、前記密のフィルタに対応する密の画素とを含むカラー撮像素子と、
    前記複数の画素に含まれる欠陥画素であって、前記疎のフィルタに対応する疎欠陥画素と、前記密のフィルタに対応する密欠陥画素とを含む欠陥画素に関する欠陥画素情報を取得する取得手段と、
    前記取得手段が取得した前記欠陥画素情報に基づき、前記欠陥画素の画素値を当該欠陥画素の周辺で且つ同色の前記カラーフィルタの下方に位置する周辺画素の画素値から補間処理により求める補間手段であって、前記密の画素の全画素数に対する前記密欠陥画素の補間の第1割合よりも、前記疎の画素の全画素数に対する前記疎欠陥画素の補間の第2割合を高くする補間手段と、
    を備える撮像装置。
  2. 前記欠陥画素情報が登録された欠陥画素情報記憶手段であって、前記密の画素の全画素数に対する前記密欠陥画素の前記欠陥画素情報の登録数の割合よりも、前記疎の画素の全画素数に対する前記疎欠陥画素の前記欠陥画素情報の登録数の割合が高くされている欠陥画素情報記憶手段を備えており、
    前記取得手段は、前記欠陥画素情報記憶手段から前記欠陥画素情報を取得する請求項1記載の撮像装置。
  3. 前記欠陥画素情報記憶手段には、撮影条件が変化したときに各撮影条件のいずれかで発生する前記欠陥画素の前記欠陥画素情報が登録されており、
    前記取得手段は、前記撮影条件に対応した前記欠陥画素情報を前記欠陥画素情報記憶手段から取得する請求項2記載の撮像装置。
  4. 前記撮影条件には、前記カラー撮像素子のゲイン、露光時間、及び温度の少なくともいずれかが含まれる請求項3記載の撮像装置。
  5. 前記カラーフィルタ配列は、前記1色の前記カラーフィルタが2×2画素以上に対応する配列パターンで隣接して配置されてなる正方配列と、前記1色の前記カラーフィルタが前記水平方向及び垂直方向に前記1色とは異なる色の前記カラーフィルタに隣接して配置されてなる孤立配列とを有する請求項1から4のいずれか1項記載の撮像装置。
  6. 前記1色の前記カラーフィルタは、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタであり、
    前記カラーフィルタ配列は、前記第1のフィルタと、前記第1の色以外の2色以上の第2の色に対応する第2のフィルタとがN×N(N:3以上の奇数)画素に対応する配列パターンで配列された基本配列パターンを含み、該基本配列パターンが水平方向及び垂直方向に繰り返して配置される請求項5記載の撮像装置。
  7. 前記第1のフィルタは、前記基本配列パターン内の2つの対角線上に配置されており、
    前記カラーフィルタ配列は、前記第1のフィルタで構成される2×2画素に対応する配列パターンの正方配列を含む請求項6記載の撮像装置。
  8. 前記複数の画素には、前記疎の画素と前記密の画素とが前記水平、垂直、斜めの各方向のいずれかにおいて隣接してなる第1の連画素が複数含まれており、
    前記補間手段は、前記欠陥画素情報に基づき、前記欠陥画素の中に前記疎欠陥画素と前記密欠陥画素とが前記各方向のいずれかにおいて隣接してなる第1の連欠陥画素が含まれている場合に、前記第1の連画素の全数に対する前記第1の連欠陥画素の補間の第3割合を、前記第2割合よりも高くする請求項5から7のいずれか1項記載の撮像装置。
  9. 前記複数の画素には、2つの前記疎の画素が前記水平、垂直、斜めの各方向のいずれかにおいて近接してなる第2の連画素が複数含まれており、
    前記補間手段は、前記欠陥画素情報に基づき、前記欠陥画素の中に2つの前記疎欠陥画素が前記各方向のいずれかにおいて近接してなる第2の連欠陥画素が含まれている場合に、前記第2の連画素の全数に対する前記第2の連欠陥画素の補間の第4割合を、前記第2割合よりも高くする請求項5から8のいずれか1項に記載の撮像装置。
  10. 前記複数の画素には、2つの前記密の画素が前記水平、垂直、斜めの各方向のいずれかにおいて隣接または近接してなる第3の連画素が複数含まれており、
    前記補間手段は、前記欠陥画素情報に基づき、前記欠陥画素の中に2つの前記密欠陥画素が前記各方向のいずれかにおいて隣接または近接してなる第3の連欠陥画素が含まれている場合に、前記第3の連画素の全数に対する前記第3の連欠陥画素の補間の第5割合を、前記第2割合よりも高くする請求項5から9のいずれか1項に記載の撮像装置。
  11. 前記複数の画素には、前記疎の画素及び前記密の画素が前記水平、垂直、斜めの各方向のいずれかにおいて隣接してなる第1の連画素と、2つの前記疎の画素が前記各方向のいずれかにおいて近接してなる第2の連画素とがそれぞれ複数含まれており、
    前記補間手段は、前記欠陥画素情報に基づき、前記欠陥画素の中に前記疎欠陥画素と前記密欠陥画素とが前記各方向のいずれかにおいて隣接してなる第1の連欠陥画素と、2つの前記疎欠陥画素が前記各方向のいずれかにおいて近接してなる第2の連欠陥画素とが含まれている場合に、前記第1の連画素の全数に対する前記第1の連欠陥画素の補間の第3割合よりも、前記第2の連画素の全数に対する前記第2の連欠陥画素の補間の第4割合を高くする請求項5から7のいずれか1項記載の撮像装置。
  12. 前記複数の画素には、2つの前記密の画素が前記水平、垂直、斜めの各方向のいずれかにおいて隣接または近接してなる第3の連画素が複数含まれており、
    前記補間手段は、前記欠陥画素情報に基づき、前記欠陥画素の中に、前記第1の連欠陥画素と、前記第2の連欠陥画素と、2つの前記密欠陥画素が前記各方向のいずれかにおいて隣接または近接してなる第3の連欠陥画素とが含まれている場合に、前記第3の連画素の全数に対する前記第3の連欠陥画素の補間の第5割合を、前記第3割合及び前記第4割合よりも低くする請求項11記載の撮像装置。
JP2013551723A 2011-12-28 2012-12-26 撮像装置 Expired - Fee Related JP5600812B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013551723A JP5600812B2 (ja) 2011-12-28 2012-12-26 撮像装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011289365 2011-12-28
JP2011289365 2011-12-28
JP2013551723A JP5600812B2 (ja) 2011-12-28 2012-12-26 撮像装置
PCT/JP2012/083595 WO2013099917A1 (ja) 2011-12-28 2012-12-26 撮像装置

Publications (2)

Publication Number Publication Date
JP5600812B2 true JP5600812B2 (ja) 2014-10-01
JPWO2013099917A1 JPWO2013099917A1 (ja) 2015-05-07

Family

ID=48697401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013551723A Expired - Fee Related JP5600812B2 (ja) 2011-12-28 2012-12-26 撮像装置

Country Status (5)

Country Link
US (1) US8970747B2 (ja)
EP (1) EP2800377A4 (ja)
JP (1) JP5600812B2 (ja)
CN (1) CN104025581B (ja)
WO (1) WO2013099917A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9077941B2 (en) * 2013-09-03 2015-07-07 Himax Imaging Limited Image processing method and image processing device
JP6454359B2 (ja) * 2015-01-08 2019-01-16 オリンパス株式会社 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラムおよび内視鏡装置
JP6589071B2 (ja) * 2016-12-28 2019-10-09 オリンパス株式会社 撮像装置、内視鏡および内視鏡システム
EP3700192B1 (en) * 2017-10-19 2023-08-30 Sony Group Corporation Imaging device and signal processing device
WO2020042083A1 (zh) * 2018-08-30 2020-03-05 深圳市大疆创新科技有限公司 图像坏点校正方法及设备、存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244934A (ja) * 1998-12-21 2000-09-08 Nikon Corp 補間処理装置および補間処理プログラムを記録した記録媒体
JP2008278394A (ja) * 2007-05-07 2008-11-13 Sony Corp 撮像装置、欠陥画素補正装置およびこれらにおける処理方法ならびにプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4365483B2 (ja) * 1999-07-22 2009-11-18 オリンパス株式会社 撮像装置
US7218348B2 (en) * 2000-06-02 2007-05-15 Fujifilm Corporation Solid-state electronic imaging device and method of controlling opertion thereof
JP4546664B2 (ja) 2001-04-27 2010-09-15 オリンパス株式会社 撮像装置および画素欠陥補正方法
US7015961B2 (en) * 2002-08-16 2006-03-21 Ramakrishna Kakarala Digital image system and method for combining demosaicing and bad pixel correction
TWI228320B (en) * 2003-09-09 2005-02-21 Ind Tech Res Inst An avalanche photo-detector(APD) with high saturation power, high gain-bandwidth product
US7483596B2 (en) * 2004-01-13 2009-01-27 International Business Machines Corporation Performance digital image sensing
US8023017B2 (en) * 2007-01-08 2011-09-20 United Microelectronics Corp. Pattern of color filter array
US20090027527A1 (en) 2007-07-23 2009-01-29 Visera Technologies Company Limited Color filter arrays and image sensors using the same
JP2010239492A (ja) * 2009-03-31 2010-10-21 Olympus Corp 撮像装置および映像信号のノイズ低減方法
BR112012026632A2 (pt) * 2011-02-21 2016-07-12 Fujifilm Corp elemento de criação de imagem colorida
RU2551649C2 (ru) * 2011-02-28 2015-05-27 Фуджифилм Корпорэйшн Устройство формирования цветного изображения
BR112014004533A2 (pt) * 2011-09-29 2017-03-28 Fujifilm Corp dispositivo de processamento de imagem e método, e dispositivo de imagem

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244934A (ja) * 1998-12-21 2000-09-08 Nikon Corp 補間処理装置および補間処理プログラムを記録した記録媒体
JP2008278394A (ja) * 2007-05-07 2008-11-13 Sony Corp 撮像装置、欠陥画素補正装置およびこれらにおける処理方法ならびにプログラム

Also Published As

Publication number Publication date
EP2800377A1 (en) 2014-11-05
CN104025581A (zh) 2014-09-03
US8970747B2 (en) 2015-03-03
EP2800377A4 (en) 2015-07-15
US20140307130A1 (en) 2014-10-16
JPWO2013099917A1 (ja) 2015-05-07
WO2013099917A1 (ja) 2013-07-04
CN104025581B (zh) 2015-06-03

Similar Documents

Publication Publication Date Title
JP5572765B2 (ja) 固体撮像素子、撮像装置、及び合焦制御方法
JP5490313B2 (ja) カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
CN103444183B (zh) 彩色摄像元件及摄像装置
JP5361535B2 (ja) 撮像装置
JP5528627B2 (ja) 撮像装置、撮像素子及び感度差補正方法
JP5541718B2 (ja) 撮像装置及びその欠陥画素検出方法
US8854511B2 (en) Apparatus and method for image processing and storage medium, and image pickup apparatus
JP2013048410A (ja) カラー撮像装置
JP5474258B2 (ja) 撮像装置及び撮像プログラム
JP5490312B2 (ja) カラー撮像素子、撮像装置、及び撮像装置の制御プログラム
CN103460703B (zh) 彩色摄像元件及摄像装置
JP5539585B2 (ja) カラー撮像素子、撮像装置、及び撮像プログラム
JP5680797B2 (ja) 撮像装置、画像処理装置、及び画像処理方法
JP5600812B2 (ja) 撮像装置
JP4617870B2 (ja) 撮像装置および方法、並びにプログラム
JP5990008B2 (ja) 撮像装置およびその制御方法
JP5624227B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5607267B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP2010093336A (ja) 撮像装置および補間処理方法

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140818

R150 Certificate of patent or registration of utility model

Ref document number: 5600812

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees