JP5749409B2 - 撮像装置、画像処理方法及びプログラム - Google Patents

撮像装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP5749409B2
JP5749409B2 JP2014551008A JP2014551008A JP5749409B2 JP 5749409 B2 JP5749409 B2 JP 5749409B2 JP 2014551008 A JP2014551008 A JP 2014551008A JP 2014551008 A JP2014551008 A JP 2014551008A JP 5749409 B2 JP5749409 B2 JP 5749409B2
Authority
JP
Japan
Prior art keywords
pixel
color
pixels
adjacent
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014551008A
Other languages
English (en)
Other versions
JPWO2014087804A1 (ja
Inventor
秀和 倉橋
秀和 倉橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014551008A priority Critical patent/JP5749409B2/ja
Application granted granted Critical
Publication of JP5749409B2 publication Critical patent/JP5749409B2/ja
Publication of JPWO2014087804A1 publication Critical patent/JPWO2014087804A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0018Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for preventing ghost images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は撮像装置、画像処理方法及びプログラムに係り、特に異常斜め入射光による混色の影響を補正する技術に関する。
従来より、デジタルカメラにおいて、入射光がレンズやカメラ本体において反射することにより、斜め方向から入射する光(異常斜め入射光)が発生し、本来は存在しない像であるゴーストやフレアが発生することが知られている。又、ゴーストの発生に伴い、異常斜め入射光により混色の影響があることも知られている。
特許文献1では、カラーフィルタ配列がベイヤ配列であるカラー撮像素子において、撮像素子の各画素の出力値のうち予め記憶されている基準パターンに対応する領域内で、隣接するライン間の同色画素(GR、GB)(本願説明においてはGr、Gbに相当すると考えられる)の出力値のレベル差から、ゴーストによる色ノイズを検出し、補正により色ノイズを抑制する技術が開示されている。
又、特許文献2では、ゴースト像成分の情報に基づいて生成されたゴースト像成分のシミュレーション画像を原画像から減算することによりゴーストを除去する技術が開示されている。
一方、特許文献3では、混色補正を行う場合に、補正の対象である注目画素の出力値と注目画素に隣接する複数の周囲画素の各出力値との差分と、隣接方向ごとに独立した補正パラメータとを用いて注目画素の信号に対して混色補正を行う技術が開示されている。
特開2005−333251号公報 特開2008−289034号公報 特開2007−142697号公報
しかしながら、特許文献1に開示されている技術では、ゴーストの異常斜め入射光の入射方向の判別をすることができず、入射方向に応じた適切な補正ができないとう問題がある。
又、特許文献2に開示されている技術では、ゴーストを検出する為にシミュレーションを行わなくてはならないという問題がある。
又、特許文献3に開示されている技術では、異常斜め入射光の有無及び入射方向の判別をすることができないという問題がある。
そこで本発明は、異常斜め入射光の入射方向を検出し、異常斜め入射光による混色の影響を軽減する撮像装置及び画像処理方法の提供を目的とする。
上記目的を達成する為に、本発明の一の態様に係る撮像装置は、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、複数の画素の各々がカラーフィルタと、当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有する撮像素子と、画素データに基づいて、撮像素子への異常斜め入射光の入射を検出する異常斜め入射光検出手段と、異常斜め入射光検出手段の検出結果に基づいて、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する補正手段と、を備える撮像装置であって、複数の画素は、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、異常斜め入射光検出手段は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の画素データに基づいて、撮像素子へ第1の方向に入射する異常斜め入射光を検出する。
これにより、異常斜め入射光の入射を、画素データに基づいて検出することができ、且つ異常斜め入射光の入射方向を判別することができる。
撮像装置において、好ましくは、複数の画素は、第1の色のカラーフィルタを有する画素と第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第2方向同色隣接画素と、第1の色のカラーフィルタを有する画素と第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第2方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第2方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第2方向異色隣接画素とを含み、異常斜め入射光検出手段は、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素及び第2の第2方向異色隣接画素の画素データに基づいて、撮像素子へ第2の方向に入射する異常斜め入射光を検出する。
これにより、第2の方向に関しても、異常斜め入射光の入射を検出することができ、更に入射方向を検出することができる。
撮像装置において、好ましくは、異常斜め入射光検出手段は、第1の第1方向同色隣接画素の画素データ及び第2の第1方向同色隣接画素の画素データが同じであり、且つ、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の画素データが、第1の第1方向同色隣接画素及び第2の第1方向同色隣接画素の画素データと異なる場合に、撮像素子へ第1の方向に入射する異常斜め入射光を検出し、異常斜め入射光検出手段は、第1の第2方向同色隣接画素の画素データ及び第2の第2方向同色隣接画素の画素データが同じであり、且つ、第1の第2方向異色隣接画素及び第2の第2方向異色隣接画素の画素データが、第1の第2方向同色隣接画素及び第2の第2方向同色隣接画素の画素データと異なる場合に、撮像素子へ第2の方向に入射する異常斜め入射光を検出する。
撮像装置において、好ましくは、Nが3以上の整数であり、Mが3以上の整数である場合、複数の画素は、第1の方向及び第2の方向に関してN画素×M画素の配列を有する基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、基本配列画素群の各々は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素、第2の第1方向異色隣接画素、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素、及び第2の第2方向異色隣接画素を含む。
これにより、撮像素子全面において、異常斜め入射光の入射を検出することが可能である。
撮像装置において、好ましくは、複数の画素は、同色のカラーフィルタを有する画素と第1の方向の正方向に隣接し且つ異色のカラーフィルタを有する画素と第1の方向の負方向に隣接する第1の色のカラーフィルタを有する第1の第1色画素及び第2の第1色画素と、同色のカラーフィルタを有する画素と第1の方向の負方向に隣接し且つ異色のカラーフィルタを有する画素と第1の方向の正方向に隣接する第1の色のカラーフィルタを有する第3の第1色画素及び第4の第1色画素と、同色のカラーフィルタを有する画素と第2の方向の正方向に隣接し且つ異色のカラーフィルタを有する画素と第2の方向の負方向に隣接する第1の色のカラーフィルタを有する第5の第1色画素及び第6の第1色画素と、同色のカラーフィルタを有する画素と第2の方向の負方向に隣接し且つ異色のカラーフィルタを有する画素と第2の方向の正方向に隣接する第1の色のカラーフィルタを有する第7の第1色画素及び第8の第1色画素と、を含み、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の各々は、第1の第1色画素、第2の第1色画素、第3の第1色画素及び第4の第1色画素のいずれかによって構成され、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素及び第2の第2方向異色隣接画素の各々は、第5の第1色画素、第6の第1色画素、第7の第1色画素及び第8の第1色画素のいずれかによって構成され、異常斜め入射光検出手段は、第1の第1色画素、第2の第1色画素、第3の第1色画素及び第4の第1色画素の画素データに基づいて、撮像素子へ第1の方向に入射する異常斜め入射光が、第1の方向の正方向及び負方向のいずれの方向に入射するかを判定し、異常斜め入射光検出手段は、第5の第1色画素、第6の第1色画素、第7の第1色画素及び第8の第1色画素の画素データに基づいて、撮像素子へ第2の方向に入射する異常斜め入射光が、第2の方向の正方向及び負方向のいずれの方向に入射するかを判定する。
これにより、第1の方向の正方向及び負方向、及び/又は、第2の方向の正方向及び負方向に関して異常斜め入射光の入射を検出することができ、更に、第1の方向の正方向及び負方向、及び/又は、第2の方向の正方向及び負方向に関しての、異常斜め入射光の入射方向を検出することができる。
撮像装置において、好ましくは、補正手段は、異常斜め入射光検出手段により撮像素子へ第1の方向に入射する異常斜め入射光が検出された場合、第1の第1色画素、第2の第1色画素、第3の第1色画素及び第4の第1色画素のうち、同じ画素データを出力する画素の画素データを使って、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正し、補正手段は、異常斜め入射光検出手段により撮像素子へ第2の方向に入射する異常斜め入射光が検出された場合、第5の第1色画素、第6の第1色画素、第7の第1色画素及び第8の第1色画素のうち、同じ画素データを出力する画素の画素データを使って、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する。
これにより、異常斜め入射光による混色の影響が発生する同一色のフィルタを有する画素の画素データ間のバラツキを、無くすことができる。
撮像装置において、好ましくは、第1の第1方向異色隣接画素に対して第1の方向に隣接配置される第1の色と異色のカラーフィルタを有する画素と、第2の第1方向異色隣接画素に対して第1の方向に隣接配置される第1の色と異色のカラーフィルタを有する画素とは、異なる色のカラーフィルタを有し、第1の第2方向異色隣接画素に対して第2の方向に隣接配置される第1の色と異色のカラーフィルタを有する画素と、第2の第2方向異色隣接画素に対して第2の方向に隣接配置される第1の色と異色のカラーフィルタを有する画素とは、異なる色のカラーフィルタを有する。
これにより、第1の方向から異常斜め入射光の入射があった場合、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の各々の、混色の影響が異なるので、異常斜め入射光の入射方向の判別を簡易に行うことができる。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して2画素×2画素配列された第1の色のカラーフィルタを有する画素によって構成される第1色画素群を含み、第1色画素群を構成する画素は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素を構成し、且つ、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素及び第2の第2方向異色隣接画素を構成する。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して6画素×6画素配列される画素によって構成される複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、基本配列画素群の各々は、第1の方向及び第2の方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、第1サブ配列は、中央に配置される第1の色のカラーフィルタを有する1画素と、四隅に配置される第1の色のカラーフィルタを有する4画素と、中央に配置される第1の色のカラーフィルタを有する1画素を挟むように第1の方向に配置される第2の色のカラーフィルタを有する2画素と、中央に配置される第1の色のカラーフィルタを有する1画素を挟むように第2の方向に配置される第3の色のカラーフィルタを有する2画素とを有し、第2サブ配列は、中央に配置される第1の色のカラーフィルタを有する1画素と、四隅に配置される第1の色のカラーフィルタを有する4画素と、中央に配置される第1の色のカラーフィルタを有する1画素を挟むように第1の方向に配置される第3の色のカラーフィルタを有する2画素と、中央に配置される第1の色のカラーフィルタを有する1画素を挟むように第2の方向に配置される第2の色のカラーフィルタを有する2画素とを有し、第1サブ配列は、第1の方向及び第2の方向に第2サブ配列と隣接配置され、第1色画素群は、二つの第1サブ配列及び二つの第2サブ配列によって構成される。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、基本配列画素群の各々は、第1の方向及び第2の方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、第1サブ配列は第1の色のカラーフィルタを有する4画素によって構成され、第2サブ配列は第2の色のカラーフィルタを有する2画素及び第3の色のカラーフィルタを有する2画素によって構成され、第1サブ配列は、第1の方向及び第2の方向に第2サブ配列と隣接配置され、第1色画素群は、第1サブ配列によって構成される。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して6画素×6画素配列される画素によって構成される複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、基本配列画素群の各々は、第1の方向及び第2の方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、第1サブ配列は、中央に配置される第2の色のカラーフィルタを有する1画素と、四隅に配置される第3の色のカラーフィルタを有する4画素と、四隅の画素の各々間に配置される第1の色のカラーフィルタを有する4画素とを有し、第2サブ配列は、中央に配置される第3の色のカラーフィルタを有する1画素と、四隅に配置される第2の色のカラーフィルタを有する4画素と、四隅の画素の各々間に配置される第1の色のカラーフィルタを有する4画素とを有し、第1サブ配列は、第1の方向及び第2の方向に第2サブ配列と隣接配置され、第1の方向に隣接する第1サブ配列及び第2サブ配列の第1の色のカラーフィルタを有する画素のうち第1の方向に相互に隣接する第1の色のカラーフィルタを有する画素によって、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素が構成され、第2の方向に隣接する第1サブ配列及び第2サブ配列の第1の色のカラーフィルタを有する画素のうち第2の方向に相互に隣接する第1の色のカラーフィルタを有する画素によって、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素及び第2の第2方向異色隣接画素が構成される。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して3画素×3画素配列される画素ブロックであって、四隅に配置される第2の色のカラーフィルタを有する2画素及び第3の色のカラーフィルタを有する2画素と、第1の方向及び第2の方向に関して十字状に配置される第1の色のカラーフィルタを有する5画素によって構成される画素ブロックを含み、異常斜め入射光検出手段は、画素ブロックに含まれる第1の色のカラーフィルタを有する5画素の画素データに基づいて、第1の方向又は第2の方向に撮像素子へ入射する異常斜め入射光を検出する。
撮像装置において、好ましくは、補正手段は、異常斜め入射光検出手段により撮像素子へ第1の方向に入射する異常斜め入射光が検出された場合、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素の画素データを使って、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正し、補正手段は、異常斜め入射光検出手段により撮像素子へ第2の方向に入射する異常斜め入射光が検出された場合、第1の色のカラーフィルタを有する画素と第2の方向に隣接配置される第1の色のカラーフィルタを有する画素の画素データを使って、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する。
撮像装置において、好ましくは、複数の画素は、第1の方向及び第2の方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、基本配列画素群の各々は、第1の方向及び第2の方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、第1サブ配列は第1の色のカラーフィルタを有する3画素及び第2の色のカラーフィルタを有する1画素によって構成され、第2サブ配列は第1の色のカラーフィルタを有する3画素及び第3の色のカラーフィルタを有する1画素によって構成され、第1サブ配列における第2の色のカラーフィルタを有する画素の位置と第2サブ配列における第3の色のカラーフィルタを有する画素の位置とは対応し、第1サブ配列は、第1の方向及び第2の方向に第2サブ配列と隣接配置され、画素ブロックは、基本配列画素群の各々における第2の色のカラーフィルタを有する2画素、第3の色のカラーフィルタを有する2画素及び第1の色のカラーフィルタを有する5画素によって構成される。
撮像装置において、好ましくは、複数の画素は、少なくとも1以上の色のカラーフィルタによって構成される第1色の画素と、第1色以外の少なくとも2以上の色のカラーフィルタによって構成される第2色の画素とを含み、第1色の画素は、輝度信号を得るための寄与率が第2色の画素のカラーフィルタよりも高い色のカラーフィルタを有し、第1の色のカラーフィルタを有する画素は、第1色の画素によって構成される。
撮像装置において、好ましくは、第1色の画素は、緑色、透明、又は白色のカラーフィルタを有する。
上記目的を達成する為に、本発明の一の態様に係る画像処理方法は、カラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子への異常斜め光の入射を画素データに基づいて検出する異常斜め入射光検出ステップと、異常斜め入射光検出ステップの検出結果に基づいて、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する補正ステップと、を備える画像処理方法であって、複数の画素は、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、異常斜め入射光検出ステップは、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の画素データに基づいて、撮像素子へ第1の方向に入射する異常斜め入射光を検出する。
これにより、異常斜め入射光の入射を、画素データに基づいて検出することができ、且つ異常斜め入射光の入射方向を判別することができる。
上記目的を達成する為に、本発明の一の態様に係るプログラムは、カラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子への異常斜め光の入射を画素データに基づいて検出する異常斜め入射光検出ステップと、異常斜め入射光検出ステップの検出結果に基づいて、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する補正ステップと、をコンピュータに実行させるためのプログラムであって、複数の画素は、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、異常斜め入射光検出ステップは、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の画素データに基づいて、撮像素子へ第1の方向に入射する異常斜め入射光を検出する。
これにより、異常斜め入射光の入射を、画素データに基づいて検出することができ、且つ異常斜め入射光の入射方向を判別することができる。
本発明によれば、異常斜め入射光の検出及び入射方向を判定することができ、更に異常斜め入射光による混色の影響を軽減することができる。
異常斜め入射光の発生を説明する図である。 異常斜め入射光による混色の発生を説明する図である。 混色の発生により、画素データのバラツキが発生することを説明する図である。 画素データのバラツキが発生したことにより、ノイズ画像が発生することを説明した図である。 本発明の1つの実施態様である撮像装置の機能ブロック図である。 撮像素子に設けられているカラーフィルタ配列を示す図である。 図6に示されたカラーフィルタ配列の基本配列画素群を第1サブ配列及び第2サブ配列に分割した様子を示す図である。 異常斜め入射光の入射方向を混色補正に活かすことを説明した図である。 異常斜め入射光の入射方向を混色補正に活かすことを説明した図である。 撮像素子に設けられているカラーフィルタの他のカラーフィルタ配列を示す図である。 図10に示されたカラーフィルタ配列の基本配列画素群を第1サブ配列及び第2サブ配列に分割した様子を示す図である。 撮像素子に設けられているカラーフィルタの他のカラーフィルタ配列を示す図である。 図12に示されたカラーフィルタ配列の基本配列画素群を第1サブ配列及び第2サブ配列に分割した様子を示す図である。 図12に示されたカラーフィルタ配列において、異常斜め入射光の入射方向を判別することを説明した図である。 図12に示されたカラーフィルタ配列において、異常斜め入射光の入射方向を判別することを説明した図である。 撮像素子に設けられているカラーフィルタの他のカラーフィルタ配列を示す図である。 図16に示されたカラーフィルタ配列の基本配列画素群を第1サブ配列及び第2サブ配列に分割した様子を示す図である。 図16に示されたカラーフィルタ配列において、異常斜め入射光の入射方向を判別することを説明した図である。 図16に示されたカラーフィルタ配列において、異常斜め入射光の入射方向を判別することを説明した図である。 撮像素子に設けられているカラーフィルタの他のカラーフィルタ配列を示す図である。 スマートフォンの外観図である。 図21に示すスマートフォンの構成を示すブロック図である。
以下、添付図面に沿って本発明に係る撮像装置、画像処理方法及びプログラムの実施形態について詳説する。尚、以下の説明では、一例として、第1の方向を水平方向とし、第2の方向を垂直方向として説明をする。
先ず、異常斜め入射光による混色の発生及び混色の発生による同一色のカラーフィルタを有する画素の画素データのバラツキ(誤差)の発生に関して説明する。
図1では、複数のレンズを含む光学系において、ある点光源からの光によって発生する異常斜め入射光を点線で示す。異常斜め入射光が発生する場合、点光源から発生した光は、結像せずにある程度の広がりを持って像面に到着し、ゴーストを形成する。この際に、異常斜め入射光は、像面に対して、角度を持って入射される場合がある。
一般に言われるゴースト像とは、図1に示すように複数のレンズ等を含む光学系において、レンズ表面や撮像素子表面での反射を介して本来の結像光(有効結像光)が通る光路とは異なる光路を通って像面上に到達した光(不要光)により、視覚的に一定の形状が認められるように形成された光学像である。また、フレアとは、強い光が光学系に入射した場合に、同様にレンズ表面や撮像素子表面で反射して像面上に不要光として到達し、視覚的に一定の形状が認められないものであり、これにより画像のコントラストの低下を招いたり、画像で光りがにじんだように現れる。すなわち、異常斜め入射光の発生により、ゴーストやフレアが発生するといえる。
図2は、異常斜め入射光による混色の発生の様子を示した図である。図2における点線は異常斜め入射光を表し、実線は本来の像に対応する入射光である。図2(A)では、(a)は緑色(第1の色)のフィルタ(Gフィルタ)を有する画素であり、(b)は赤色(第2の色)のフィルタ(Rフィルタ)を有する画素であり、(c)はGフィルタを有する画素である。又、(a)で示されたGフィルタを有する画素、(b)で示されたRフィルタを有する画素、及び(c)で示されたGフィルタを有する画素は水平方向又は垂直方向に沿って並んでいる。(b)において、Rフィルタを通過した異常斜め入射光は、(a)に示されたGフィルタを有するフォトダイオードに入射される。Rフィルタを通過した異常斜め入射光を受光した(a)のフォトダイオードが出力する画素データは、異常斜め入射光を受光した分だけ、異常斜め入射光を受光していない画素データと異なる。
本発明では、同じ色のカラーフィルタを有する画素間で、異常斜め入射光を受光した画素の画素データと異常斜め入射光を受光していない画素の画素データとが異なることを、異常斜め入射光による混色の影響を受けていると言う。又、(c)において、Gフィルタを通過した異常斜め入射光は、(b)に示されたRフィルタを有するフォトダイオードに入射される。Rフィルタを通過した異常斜め入射光を受光した(b)のフォトダイオードの画素データは、Gフィルタを通過した異常斜め入射光を受光した分だけ、異常斜め入射光を受光していない画素データと異なる。ここで、Rフィルタを通過した異常斜め入射光を受光した、Gフィルタを有する画素の画素データをRgと表す。
図2(B)においても図2(A)同様であり、(b)において、青色(第3の色)のフィルタ(Bフィルタ)を通過した異常斜め入射光は、(a)に示されたGフィルタを有するフォトダイオードに入射される。Bフィルタを通過した異常斜め入射光を受光した(a)のフォトダイオードの画素データは、異常斜め入射光を受光した分だけ、異常斜め入射光を受光していない画素データと異なる。
尚、図2では、画素が水平方向又は垂直方向に隣接して配列されている様子を示している。ここで、隣接して配列される(隣接する)とは、最小画素間隔の四方向のいずれかで接することをいう。最小画素間隔の四方向に位置する画素による混色の影響が、支配的であるので、本発明の説明では、隣接する画素からの混色を主に考慮して説明を行う。しかし、これは隣接する画素以外の画素からの混色を除外する意図ではなく、隣接する画素以外の画素からの混色を考慮してもよい。ここで、隣接する画素以外の画素とは、例えば、混色を受ける画素から、隣接する画素より√2倍離れた位置に配列される画素のことをいう。
図3(A)は、カラーフィルタがベイヤ配列を形成する撮像素子22で均一な被写体を撮影した場合に撮像素子22から出力される画素データにおいて、異常斜め入射光による混色が発生した場合を表した図である。尚、図3(A)に示す場合は、異常斜め入射光が図3の左側から又は右側から入射しているものとする。図3(A)において、画素データGrは、図2で説明を行った図2(A)(a)の画素の画素データに対応する。又、図3(A)において、画素データGbは、図2で説明を行った図2(B)(a)の画素の画素データに対応する。
又、画素データGgは、Gフィルタを通過した異常斜め入射光が、隣接したGフィルタを有するフォトダイオードに受光された場合に出力される画素データである(図6参照)。
図3(B)では、カラーフィルタがベイヤ配列を形成する撮像素子22で均一な被写体を撮影した場合に撮像素子22から出力される画素データにおいて、異常斜め入射光の入射が無く混色の発生が無い場合の画素データを示している。図3(B)で示すように、異常斜め入射光の入射が無く混色の発生が無い場合は、Gフィルタを有する画素の画素データは、GとなりGフィルタを有する画素間でほぼ同一の値を示す。しかし、図3(A)に示すように、異常斜め入射光による混色が発生すると、Gフィルタを有する画素の画素データは、GrやGbとなりバラツキ(誤差)を示すようになる。
図4では、図3(A)で説明したカラーフィルタがベイヤ配列を形成する撮像素子22から出力される画素データをデモザイク処理(補間処理、同時化処理とも言う)した場合の画像ノイズの発生に関して説明している。図3(A)で説明した、カラーフィルタがベイヤ配列を形成する撮像素子22から出力される画素データをデモザイク処理した場合には、本来の画像(図3(B)に対応する画像)上には縦線又は横線が存在しないが、混色により画素データにバラツキが生じる為に縦線又は横線が存在すると誤って判断され、格子模様の画像ノイズが画像上に発生する恐れがある。
図4(A)では、図3(A)で説明した、カラーフィルタがベイヤ配列を形成する撮像素子22から出力される画素データに対し、GrとGbとのバラツキのため縦方向に相関があると判定しデモザイク処理を行った場合に、GrとGbの縞ができてしまうことを表している。一方、図4(B)では、カラーフィルタがベイヤ配列を形成する撮像素子22から出力される画素データに対し、GrとGbとのバラツキのため横方向にデモザイク処理を行った場合にもGbとGrの縞ができてしまうことを表している。更に、図3(A)のような画像データでは、縦方向に相関があるのか、横方向に相関があるのか、相関方向も判別できないため、デモザイク処理により更に画質が劣化する恐れもある。
[撮像装置の実施形態]
図5は本発明に係る撮像装置10の実施形態を示すブロック図である。
この撮像装置10は、撮像した画像を内部メモリ(メモリ部26)、又は外部の記録メディア(図示せず)に記録するデジタルカメラであり、装置全体の動作は、中央処理装置(CPU)12によって統括制御される。
撮像装置10には、シャッタボタン(シャッタースイッチ)、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、ズームボタン、BACKキー等を含む操作部14が設けられている。この操作部14からの信号はCPU12に入力され、CPU12は入力信号に基づいて撮像装置10の各回路を制御し、例えば、デバイス制御部16を介してレンズ部18、シャッタ20、撮像素子22を制御するとともに、撮影動作制御、画像処理制御、画像データの記録/再生制御、表示部25の表示制御などを行う。
レンズ部18は、フォーカスレンズ、ズームレンズ、絞り等を含み、レンズ部18及びシャッタ20を通過した光束は、撮像素子22の受光面に結像される。
撮像素子22は、CMOS(Complementary Metal−Oxide Semiconductor)型、XYアドレス型、又はCCD(Charge Coupled Device)型のカラーイメージセンサであり、多数の受光素子(フォトダイオード)が2次元配列されている。各受光素子の受光面に結像された被写体像は、その入射光量に応じた信号電圧(又は電荷)に変換される。
<撮像素子の実施形態>
図6は、上記撮像素子22の実施形態を示す図であり、特に撮像素子22の受光面上に配置されているカラーフィルタ配列に関して示している。又、撮像素子22は、水平方向及び垂直方向に配列される複数の画素を有し、複数の画素の各々がカラーフィルタと、カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有する。尚、フォトダイオードとは、光を検出して電荷を発生させる光電変換素子のことをいう。
図6に示された撮像素子22の例では、撮像素子22は、画素1−1、2−1、3−1、4−1を含んでいる。画素1−1は、Gフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。画素2−1は、Gフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。画素3−1は、Bフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。画素4−1は、Rフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
又、図6に示された撮像素子22の例では、撮像素子22は、画素1−2、2−2、3−2、4−2を含んでいる。画素1−2は、Gフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。画素2−2は、Gフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。画素3−2は、Bフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。画素4−2は、Rフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
又、図6に示された撮像素子22の例では、撮像素子22は、画素1−3、2−3、3−3、4−3を含んでいる。画素1−3は、Gフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。画素2−3は、Gフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。画素3−3は、Bフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。画素4−3は、Rフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
又、図6に示された撮像素子22の例では、撮像素子22は、画素1−4、2−4、3−4、4−4を含んでいる。画素1−4は、Gフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。画素2−4は、Gフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。画素3−4は、Bフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。画素4−4は、Rフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
又、図6に示すように、Bフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)(図6の符号3−1)及びRフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)(図6の符号4−1)の各々は、互いに異なる色のカラーフィルタを有する画素の紙面に向かって右側の水平方向に隣接配置されている。
又、図6に示すように、Bフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)(図6の符号3−2)及びRフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)(図6の符号4−2)の各々は、互いに異なる色のカラーフィルタを有する画素の紙面に向かって左側の水平方向に隣接配置されている。
同様に、Bフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)(図6の符号3−3)及びRフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)(図6の符号4−3)の各々は、互いに異なる色のカラーフィルタを有する画素の紙面に向かって下側の垂直方向に隣接配置されている。
同様に、Bフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)(図6の符号3−4)及びRフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)(図6の符号4−4)の各々は、互いに異なる色のカラーフィルタを有する画素の紙面に向かって上側の垂直方向に隣接配置されている。
より具体的に、図6に示された撮像素子22のカラーフィルタ配列に関して説明する。撮像素子22のカラーフィルタ配列は、6画素×6画素に対応する正方配列パターンからなる基本配列画素群P(太枠で示した画素群)を含み、この基本配列画素群Pが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、Rフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている為、撮像素子22から読み出されるR、G、B信号のデモザイク処理等を行う際に、繰り返しパターンに従って処理を行うことができる。
図6に示すカラーフィルタ配列は、R、G、Bの全ての色のフィルタが、基本配列画素群P内の水平方向及び垂直方向の各ライン内に配置されている。これにより、デモザイク処理時に相関方向が水平方向又は垂直方向と判別されると、水平方向又は垂直方向に存在する他の色の画素の画素データを使用して補間することができる為、色モワレ(偽色)の発生を抑圧することができる。又、上記のようにして偽色の発生を抑制することができる為、光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにでき、又は光学ローパスフィルタを適用する場合でも偽色の発生を防止する為の高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
図7は、図6に示した基本配列画素群Pを、3画素×3画素に4分割した状態に関して示している。
図7で示すように、基本配列画素群Pの各々は、水平方向及び垂直方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含む。第1サブ配列は、中央に配置されるGフィルタを有する1画素と、四隅に配置されるGフィルタを有する4画素と、中央に配置されるGフィルタを有する1画素を挟むように水平方向に配置されるRフィルタを有する2画素と、中央に配置されるGフィルタを有する1画素を挟むように垂直方向に配置されるBフィルタを有する2画素とを有する。
第2サブ配列は、中央に配置されるGフィルタを有する1画素と、四隅に配置されるGフィルタを有する4画素と、中央に配置されるGフィルタを有する1画素を挟むように水平方向に配置されるBフィルタを有する2画素と、中央に配置されるGフィルタを有する1画素を挟むように垂直方向に配置されるRフィルタを有する2画素とを有する。
第1サブ配列は、水平方向及び垂直方向に第2のサブ配列と隣接配置され、第1色画素群(Gフィルタを有する画素が2画素×2画素に配列された群、正方配列ともいう)は、二つの第1サブ配列及び二つの第2サブ配列によって構成される。
基本配列画素群Pは、Gフィルタが、水平、垂直、及び斜め方向に2以上隣接する部分を含んでいる。この基本配列画素群Pが水平方向及び垂直方向に配列されたカラーフィルタ配列は、Gフィルタからなる2画素×2画素に対応する正方配列を含んでいる(図6参照)。
これは、図7に示すように輝度系画素であるGフィルタが、第1サブ配列又は第2サブ配列における3画素×3画素において4隅と中央に配置され、この3画素×3画素が水平方向、垂直方向に交互に配置されることで2画素×2画素に対応する正方配列のGフィルタが形成される為である。これらのGフィルタからなる2画素×2画素の画素データは、水平方向、垂直方向、及び斜め方向の輝度の相関方向の算出(方向判別)に使用することができる。
又、上記Gフィルタを有する2画素×2画素のGフィルタを有する画素群(第1色画素群)は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素、及び第2の第1方向異色隣接画素を構成し、且つ、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素、及び第2の第2方向異色隣接画素を構成する。
上記構成の撮像素子22に蓄積された信号電荷は、デバイス制御部16から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。撮像素子22から読み出された電圧信号は、A/D変換器24に加えられ、ここで、順次カラーフィルタ配列に対応するデジタルのR、G、B信号に変換され、一旦、メモリ部26に保存される。
メモリ部26は、揮発性メモリであるSDRAMや、書き換え可能な不揮発性メモリであるEEPROM(記憶手段)等を含み、SDRAMは、CPU12によるプログラムの実行時におけるワークエリアとして、又、撮像され取得されたデジタル画像信号を一時保持する記憶エリアとして使用される。一方、EEPROMには、画像処理プログラムを含むカメラ制御プログラム、撮像素子22の画素の欠陥情報、混色補正を含む画像処理等に使用する各種のパラメータやテーブル等が記憶されている。
画像処理部28は、メモリ部26に一旦格納されたデジタルの画像信号に対して、混色補正、ホワイトバランス補正、ガンマ補正処理、デモザイク処理(同時化処理)、RGB/YC変換等の所定の信号処理を行う。尚、本発明の画像処理部28は更に、異常斜め入射光検出部(異常斜め入射光検出手段)34及び補正部(補正手段)36を含む。異常斜め入射光検出部34と補正部36に関しては後述する。
画像処理部28で処理された画像データは、エンコーダ30において画像表示用のデータにエンコーディングされ、ドライバ32を介してカメラ背面に設けられている表示部25に出力される。これにより、被写体像が連続的に表示部25の表示画面上に表示される。
操作部14のシャッタボタンの第1段階の押下(半押し)があると、CPU12は、AF動作及びAE動作を開始させ、デバイス制御部16を介してレンズ部18のフォーカスレンズを光軸方向に移動させ、フォーカスレンズが合焦位置にくるように制御する。
CPU12は、シャッタボタンの半押し時にA/D変換器24から出力される画像データに基づいて被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値により露出条件(F値、シャッタ速度)を決定する。
AE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、決定した露出条件により絞り、シャッタ20及び撮像素子22での電荷蓄積時間を制御して本撮像が行われる。本撮像時に撮像素子22から読み出され、A/D変換器24によりA/D変換されたRGBのモザイク画像(図6に示したカラーフィルタ配列に対応する画像)の画像データは、メモリ部26一時的に記憶される。
メモリ部26に一時的に記憶された画像データは、画像処理部28により適宜読み出され、ここで、異常斜め入射光検出、混色補正、ホワイトバランス補正、ガンマ補正、デモザイク処理、RGB/YC変換等を含む所定の信号処理が行われる。RGB/YC変換された画像データ(YCデータ)は、所定の圧縮フォーマット(例えば、JPEG方式)に従って圧縮され、圧縮された画像データは、所定の画像ファイル(例えば、Exifファイル)形式で内部メモリや外部メモリに記録される。
[異常斜め入射光検出]
本発明の撮像装置10は、画像処理部(画像処理手段)28内に、異常斜め入射光を検出する異常斜め入射光検出部(異常斜め入射光検出手段)34を有する。異常斜め入射光検出部34は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素及び第2の第1方向異色隣接画素の画素データに基づいて、撮像素子22へ水平方向に入射する異常斜め入射光を検出する。
図6において、異常斜め入射光検出部34による水平方向の紙面に向かって左側からの異常斜め入射光の検出を説明する。図6の符号1−1で示されるGフィルタを有する画素(第1の第1方向同色隣接画素)は、の紙面に向かって左側から異常斜め入射光が入射された場合、の紙面に向かって左側に隣接するGフィルタを有する画素(図6の符号3−1)からの混色の影響を受ける。そして、図6の符号1−1で示されるGフィルタを有する画素は、画素データGgを出力する。
図6の符号2−1で示されるGフィルタを有する画素(第2の第1方向同色隣接画素)は、水平方向の紙面に向かって左側から異常斜め入射光が入射された場合、の紙面に向かって左側に隣接するGフィルタを有する画素(図6の符号4−1)からの混色の影響を受ける。そして、図6の符号2−1で示されるGフィルタを有する画素は、画素データGgを出力する。
図6の符号3−1で示されるGフィルタを有する画素(第1の第1方向異色隣接画素)は、水平方向の紙面に向かって左側から異常斜め入射光が入射された場合、の紙面に向かって左側に隣接するBフィルタを有する画素からの混色の影響を受ける。そして、図6の符号3−1で示されるGフィルタを有する画素は、画素データGbを出力する。
図6の符号4−1で示されるGフィルタを有する画素(第2の第1方向異色隣接画素)は、水平方向の紙面に向かって左側から異常斜め入射光が入射された場合、の紙面に向かって左側に隣接するRフィルタを有する画素からの混色の影響を受ける。そして、図6の符号4−1で示されるGフィルタを有する画素は、画素データGrを出力する。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図6の符号1−1)、第2の第1方向同色隣接画素(図6の符号2−1)、第1の第1方向異色隣接画素(図6の符号3−1)、及び第2の第1方向異色隣接画素(図6の符号4−1)の画素データを比較する。
上記したように、第1の第1方向同色隣接画素(図6の符号1−1)と第2の第1方向同色隣接画素(図6の符号2−1)との画素データはGgであり同じである。又、第1の第1方向異色隣接画素(図6の符号3−1)と第2の第1方向異色隣接画素(図6の符号4−1)との画素データは、GbとGrで異なる。この結果より、異常斜め入射光検出部34は、水平方向の紙面に向かって左側からの異常斜め入射光があると判断することができる。
尚、画素データGgが同じであるとは、第1の第1方向同色隣接画素の画素データ(Gg)と第2の第1方向同色隣接画素の画素データ(Gg)との差分値が第1の第1方向同色隣接画素(又は第2の第1方向同色隣接画素)の画素データの2%以内であることをいい、又、撮像対象によっては、1%以内であってもよい。
又、画素データGbとGrが異なるとは、その差分値の絶対値が第1の第1方向同色隣接画素(又は第2の第1方向同色隣接画素)の画素データの10%以上であることをいい、又、撮像対象によっては、8%以上であってもよい。
次に、図6において、垂直方向の紙面に向かって上側からの異常斜め入射光検出部34が行う異常斜め入射光の検出を説明する。図6の符号1−3で示されるGフィルタを有する画素(第1の第2方向同色隣接画素)は、垂直方向の紙面に向かって上側から異常斜め入射光が入射された場合、隣接するGフィルタを有する画素(図6の符号3−3)からの混色の影響を受ける。そして、図6の符号1−3で示されるGフィルタを有する画素は、画素データGgを出力する。
図6の符号2−3で示されるGフィルタを有する画素(第2の第2方向同色隣接画素)は、垂直方向の紙面に向かって上側から異常斜め入射光が入射された場合、隣接するGフィルタを有する画素(図6の符号4−3)からの混色の影響を受ける。そして、図6の符号2−3で示されるGフィルタを有する画素は、画素データGgを出力する。
図6の符号3−3で示されるGフィルタを有する画素(第1の第2方向異色隣接画素)は、垂直方向の紙面に向かって上側から異常斜め入射光が入射された場合、上側のBフィルタを有する画素からの混色の影響を受ける。そして、図6の符号3−3で示されるGフィルタを有する画素は、画素データGbを出力する。
図6の符号4−3で示されるGフィルタを有する画素(第2の第2方向異色隣接画素)は、垂直方向の紙面に向かって上側から異常斜め入射光が入射された場合、上側のRフィルタを有する画素からの混色の影響を受ける。そして、図6の符号4−3で示されるGフィルタを有する画素は、画素データGrを出力する。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図6の符号1−3、第2の第2方向同色隣接画素(図6の符号2−3)、第1の第2方向異色隣接画素(図6の符号3−3)、及び第2の第2方向異色隣接画素(図6の符号4−3)の画素データを比較する。上記したように、第1の第2方向同色隣接画素(図6の符号1−3)と第2の第2方向同色隣接画素(図6の符号2−3)との画素データはGgであり同じである。又、第1の第2方向異色隣接画素(図6の符号3−3)と第2の第2方向異色隣接画素(図6の符号4−3)との画素データは、GbとGrで異なる。この結果より、異常斜め入射光検出部34は、垂直方向の紙面に向かって上側からの異常斜め入射光があると判断する。
尚、画素データGgが同じであるとは、第1の第2方向同色隣接画素の画素データ(Gg)と第2の第2方向同色隣接画素の画素データ(Gg)との差分値が第1の第2方向同色隣接画素(又は第2の第2方向同色隣接画素)の画素データの2%以内であることをいい、又、撮像対象によっては、1%以内であってもよい。
又、画素データGbとGrが異なるとは、その差分値の絶対値が第1の第2方向同色隣接画素(又は第2の第2方向同色隣接画素)の画素データの10%以上であることをいい、又、撮像対象によっては、8%以上であってもよい。
尚、水平方向の紙面に向かって右側からの異常斜め入射光検出部34が行う異常斜め入射光の検出、及び、垂直方向の紙面に向かって下側からの異常斜め入射光検出部34が行う異常斜め入射光の検出は、上記と同様に行われる。
以上の説明したように、異常斜め入射光検出部34は、四方向からの異常斜め入射光(水平方向の紙面に向かって左側から入射する異常斜め入射光、水平方向の紙面に向かって右側から入射する異常斜め入射光、垂直方向の紙面に向かって上側から入射する異常斜め入射光、垂直方向の紙面に向かって下側から入射する異常斜め入射光)を検出することができる。言い換えると、異常斜め入射光検出部34は、異常斜め入射光の検出を行うと、異常斜め入射光の入射方向の判別も行っている。
尚、ここでは、第1の方向の正方向を、水平方向の紙面に向かって左側とし、第1の方向の負方向を、水平方向の紙面に向かって右側として説明している。また、第2の方向の正方向を、垂直方向の紙面に向かって下側とし、第2の方向の負方向を、垂直方向の紙面に向かって上側として説明している。
異常斜め入射光の検出は、上記した、画素データのバラツキがある一定の範囲に発生する場合に検出する。ここでいう一定の範囲とは、一般的なゴースト(異常斜め入射光による本来存在しない像)を検出しうる範囲のことをいう。例えば、64画素×64画素の範囲において、上記異常斜め入射光の検出を行ってもよいし、32画素×32画素で上記異常斜め入射光の検出を行ってもよい。
[混色補正]
補正部36は、異常斜め入射光の入射による混色の補正を行う。すなわち、補正部36は、異常斜め入射光検出部34により撮像素子22へ水平方向に入射する異常斜め入射光が検出された場合、画素データGgを使用して、画素データGb及び画素データGrを補正することができる。
画素データGgを使用して画素データGb及び画素データGrを補正することにより、混色の影響を最小限に抑えることができる。すなわち、画素データGg、画素データGr、及び画素データGbを比較すると、画素データGgに対する混色は同色画素からの漏れ込みであり最も混色の影響が少ないので、画素データGgを使用して、画素データGr及び画素データGbを補正する。
補正部36は、様々な方法により、画素データGgを使用して画素データGr及びGbに対して補正を行うことがきる。例えば、補正部36は、画素データGr及びGbを有する画素の画素データを、画素データGgに置き換えることにより補正をすることもできる。又、Gフィルタ有する画素の画素データを、画素データGrと画素データGgとの平均値、画素データGbと画素データGgとの平均値、又は画素データGbと画素データGrと画素データGgとの平均値を使って補正することもできる。
補正部36は、図8及び図9で説明するように、異常斜め入射光の入射方向を考慮して混色補正を行うこともできる。
図8(A)及び図9(A)には、図6において示した撮像素子22の一部分を示しており、図8及び図9の水平方向の紙面に向かって右側から異常斜め入射光が入射した場合を示している。図6において示された撮像素子22においては、図8(A)及び図9(A)のように水平方向の紙面に向かって右側から異常斜め入射光が入射した場合には、Gフィルタを有する2画素×2画素の画素群(第1色画素群)がGg、Gg、Gr、及びGbという画素データを出力する。
図8(B)から(E)に示すように、四方の画素データを基にGフィルタを有する画素の画素データに対して補正を行う場合、補正にGrやGbといった混色の影響を受けている画素データを使用する為に、補正後の画素データGgC間で値が異なってしまう場合がある。
以下に補正後の画素データGgC間で値が異なることを説明する。先ず、図8(B)で示されるように、第1色画素群の紙面に向かって左上に位置するGgを示す画素データに対して、四方(紙面に向かって、左、右、上、下)の画素データの値を使用して混色補正を行い、画素データGgCを得る。この画素データGgCは、混色の影響を受けたGrを示す画素データを混色補正に使用しているので、混色の影響を受ける。
次に、図8(C)で示されるように、第1色画素群の紙面に向かって右上のGrを示す画素データに対して、四方の画素データの値を使用して混色補正を行い画素データGrCを得る。次に、図8(D)で示されるように、第1色画素群の紙面に向かって左下のGgを示す画素データに対して、回りの画素データの値を使用して混色補正を行い画素データGgCを得る。この画素データGgCは、混色の影響を受けたGbを示す画素データを混色補正に使用しているので、混色の影響を受ける。
次に、図8(E)で示されるように、第1色画素群の紙面に向かって右下のGbを示す画素データに対して、回りの画素データの値を使用して混色補正を行い、画素データGbCを得る。
図8(B)と図8(D)では、同じ画素データGgに対して混色補正が行われて、画素データGgCが得られる。しかし、図8(B)と図8(D)の画素データGgCの各々は、異なる混色の影響を受けているので、図8(B)と図8(D)画素データGgCは異なる値を示す。すなわち、図8(B)の場合は画素データGrが、及び、図8(D)の場合は画素データGbが混色の影響を受けており、GrとGbとで混色が異なるため、混色補正の結果得られる画素データGgC間で混色の影響による差異が生じてしまう。
一方、図9に示されたような混色補正では、異常斜め入射光の入射方向を考慮して混色補正を行っている為に、混色補正後に得られる画素データGgC間で差異は生じない。以下に補正後の画素データGgC間で値が異なることを説明する。
先ず、図9(B)で示されるように、第1色画素群の紙面に向かって右上のGrを示す画素データに対して、四方の画素データの値を使用して混色補正を行い画素データGrCを得る。尚、ここで、異常斜め入射光の入射方向(右側)への混色補正を強く行ってもよい。
次に、図9(C)で示されるように、第1色画素群の紙面に向かって右下のGbを示す画素データに対して、四方の画素データの値を使用して混色補正を行い、画素データGbCを得る。次に、図9(D)で示されるように、第1色画素群の紙面に向かって左上のGgを示す画素データに対して、四方の画素データの値を使用して混色補正を行い画素データGgCを得る。この際、GrCを示す画素データを混色補正に使用するが、GrCは予め混色補正を行っているので、混色補正の影響は取り除かれている。
次に、図9(E)で示されるように、第1色画素群の紙面に向かって左下のGbを示す画素データに対して、回りの画素データの値を使用して混色補正を行い画素データGgCを得る。この際、GbCを示す画素データを混色補正に使用するが、GbCは予め混色補正を行っているので、混色補正の影響は取り除かれている。
図9(D)と図9(E)では、同じ画素データGgに対して混色補正が行われ、得られる画素データのGgCも同じ値を示す。なぜならば、図9(B)の場合は画素データGrが、及び、図9(C)の場合は画素データGbが混色の影響を受けているが、図9(D)と図9(E)で混色補正が行われる前に図9(B)及び図9(C)で混色補正が行われていることにより混色の影響を取り除いているからである。
このように、異常斜め入射光の入射方向を考慮して、混色補正を行う画素の順番を変えることにより、より精度の高い混色補正を行うことができる。図9の場合では、異常斜め入射光の入射方向に位置する画素から、混色補正を行うことにより、より精度の高い混色補正を行うことができる。
本発明において、様々なカラーフィルタ配列を有する撮像素子22を使用することができる。以下に、異なるカラーフィルタ配列を有する撮像素子22を変形例として説明する。
<撮像素子の他の実施形態(変形例1)>
図10は、上記撮像素子22の他の実施形態を示す図であり、特に撮像素子22の受光面上に配置されているカラーフィルタ配列に関して示している。
図10に示すカラーフィルタ配列は、水平方向及び垂直方向に関して6画素×6画素配列される画素によって構成される複数の基本配列画素群Pが、水平方向及び垂直方向に並置される。
図10に示すカラーフィルタ配列は、6画素×6画素に対応する正方配列パターンからなる基本配列画素群P(太枠で示した画素群)を含み、この基本配列画素群Pが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、Rフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている為、撮像素子22から読み出されるR、G、B信号のデモザイク処理等を行う際に、繰り返しパターンに従って処理を行うことができる。
図10に示すカラーフィルタ配列を構成する基本配列画素群Pは、輝度信号を得る為に最も寄与する色(Gの色)に対応するGフィルタと、Gの色以外の他の色(R及びB)に対応するRフィルタ、Bフィルタとが、基本配列画素群P内の水平及び垂直方向の各ライン内に1つ以上配置されている。
R、G、Bフィルタが、それぞれ基本配列画素群P内の水平及び垂直方向の各ライン内に配置される為、色モワレ(偽色)の発生を抑制することができる。これにより、偽色の発生を抑制する為の光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにでき、又は光学ローパスフィルタを適用する場合でも偽色の発生を防止する為の高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
輝度系画素に対応するGフィルタは、基本配列画素群P内において、水平、垂直、及び斜め方向の各方向に2以上隣接する部分が含まれるように配置されている。
基本配列画素群Pの各々は、水平方向及び垂直方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含む。
図11は、図10に示した基本配列画素群Pを、3画素×3画素に4分割した状態に関して示している。
図11において、第1サブ配列は、中央に配置されるRフィルタを有する1画素と、四隅に配置されるBフィルタを有する4画素と、四隅の画素の各々間に配置されるGフィルタを有する4画素とを有する。また、図11において、第2サブ配列は、中央に配置されるBフィルタを有する1画素と、四隅に配置されるRフィルタを有する4画素と、四隅の画素の各々間に配置されるGフィルタを有する4画素とを有する。第1サブ配列は、水平方向及び垂直方向に第2のサブ配列と隣接配置される。
図11に示すように基本配列画素群Pは、実線の枠で囲んだ3画素×3画素の第1サブ配列と、破線の枠で囲んだ3画素×3画素の第2サブ配列とが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
第1サブ配列は、中心にRフィルタが配置され、4隅にBフィルタが配置され、中心のRフィルタを挟んで上下左右にGフィルタが配置されている。一方、第2サブ配列は、中心にBフィルタが配置され、4隅にRフィルタが配置され、中心のBフィルタを挟んで上下左右にGフィルタが配置されている。これらの第1サブ配列と第2サブ配列とは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
[異常斜め入射光検出]
図10に示された変形例1の撮像素子22を有する撮像装置10の場合、異常斜め入射光検出部34では以下のように異常斜め入射光の検出及び方向の特定を行う。
図10に示された変形例1おいて、水平方向の紙面に向かって左側からの異常斜め入射光検出部34が行う異常斜め入射光の検出を具体的に説明する。図10の符号1−1で示されるGフィルタを有する画素は、図10の紙面に向かって左側にGフィルタを有する画素(図10の符号3−1)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。図10の符号2−1で示されるGフィルタを有する画素は、図10の紙面に向かって左側にGフィルタを有する画素(図10の符号4−1)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。
図10の符号3−1で示されるGフィルタを有する画素は、図10の紙面に向かって左側にGフィルタとは異色であるRフィルタを有する画素が隣接配置されており、第1の色と異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。又、図10の符号4−1で示されるGフィルタを有する画素は、図10の紙面に向かって左側にGフィルタとは異色であるBフィルタを有する画素が隣接配置されており、第1の色と異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図10の符号1−1)、第2の第1方向同色隣接画素(図10の符号2−1)、第1の第1方向異色隣接画素(図10の符号3−1)、及び第2の第1方向異色隣接画素(図10の符号4−1)の画素データを比較し、第1の第1方向同色隣接画素(図10の符号1−1)と、第2の第1方向同色隣接画素(図10の符号2−1)の値が同じであり、且つ第1の第1方向異色隣接画素(図10の符号3−1)と、第2の第1方向異色隣接画素(図10の符号4−1)との値が異なる場合には、水平方向の紙面に向かって左側からの異常斜め入射光の存在が検出される。
図10に示された変形例1おいて、水平方向の紙面に向かって右側からの異常斜め入射光検出部34が行う異常斜め入射光の検出を具体的に説明する。図10の符号1−2で示されるGフィルタを有する画素は、図10の紙面に向かって右側にGフィルタを有する画素(図10の符号3−2)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。図10の符号2−2で示されるGフィルタを有する画素は、図10の紙面に向かって右側にGフィルタを有する画素(図10の符号4−2)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。
図10の符号3−2で示されるGフィルタを有する画素は、図10の紙面に向かって右側にGフィルタとは異色であるRフィルタを有する画素が隣接配置されており、第1の色と異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。又、図10の符号4−2で示されるGフィルタを有する画素は、図10の紙面に向かって右側にGフィルタとは異色であるBフィルタを有する画素が隣接配置されており、第1の色と異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図10の符号1−2)、第2の第1方向同色隣接画素(図10の符号2−2)、第1の第1方向異色隣接画素(図10の符号3−2)、及び第2の第1方向異色隣接画素(図10の符号4−2)の画素データを比較し、第1の第1方向同色隣接画素(図10の符号1−2)、第2の第1方向同色隣接画素(図10の符号2−2)の値が同じであり、且つ第1の第1方向異色隣接画素(図10の符号3−2)と、第2の第1方向異色隣接画素(図10の符号4−2)との値が異なる場合には、水平方向紙面に向かって右側からの異常斜め入射光の存在が検出される。
次に、垂直方向の紙面に向かって上側から入射される異常斜め入射光の検出を行う場合について説明する。図10に示された変形例1おいて、異常斜め入射光検出部34は、垂直方向の紙面に向かって上側からの異常斜め入射光の検出を以下のように行う。
図10の符号1−3で示されるGフィルタを有する画素は、図10の紙面に向かって上側にGフィルタを有する画素(図10の符号3−3)が隣接配置されており、Gフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。図10の符号2−3で示されるGフィルタを有する画素は、図10の紙面に向かって上側にGフィルタを有する画素(図10の符号4−3)が隣接配置されており、Gフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。
図10の符号3−3で示されるGフィルタを有する画素は、図10の紙面に向かって上側にGフィルタと異色であるRフィルタを有する画素が隣接配置されており、Gフィルタと異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。又、図10の符号4−3で示されるGフィルタを有する画素は、図10の紙面に向かって上側にGフィルタと異色であるBフィルタを有する画素が隣接配置されており、Gフィルタと異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図10の符号1−3)、第2の第2方向同色隣接画素(図10の符号2−3)、第1の第2方向異色隣接画素(図10の符号3−3)、及び第2の第2方向異色隣接画素(図10の符号4−3)の画素データを比較し、第1の第2方向同色隣接画素(図10の符号1−3)、第2の第2方向同色隣接画素(図10の符号2−3)の値が同じであり、且つ第1の第2方向異色隣接画素(図10の符号3−3)と、第2の第2方向異色隣接画素(図10の符号4−3)との値が異なる場合には、垂直方向からの異常斜め入射光の存在が検出される。
垂直方向の紙面に向かって下側から入射される異常斜め入射光の検出を行う場合は、以下のように行う。図10に示された変形例1おいて、異常斜め入射光検出部34による垂直方向の紙面に向かって下側からの異常斜め入射光の検出を具体的に説明する。
図10の符号1−4で示されるGフィルタを有する画素は、図10の下側にGフィルタを有する画素(図10の符号3−4)が隣接配置されており、Gフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。図10の符号2−4で示されるGフィルタを有する画素は、図10の下側にGフィルタを有する画素(図10の符号4−4)が隣接配置されており、Gフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。
図10の符号3−4で示されるGフィルタを有する画素は、図10の下側にGフィルタと異色であるRフィルタを有する画素が隣接配置されており、Gフィルタと異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。又、図10の符号4−4で示されるGフィルタを有する画素は、図10の下側にGフィルタと異色であるBフィルタを有する画素が隣接配置されており、Gフィルタと異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図10の符号1−4)、第2の第2方向同色隣接画素(図10の符号2−4)、第1の第2方向異色隣接画素(図10の符号3−4)、及び第2の第2方向異色隣接画素(図10の符号4−4)の画素データを比較し、第1の第2方向同色隣接画素(図10の符号1−4)、第2の第2方向同色隣接画素(図10の符号2−4)の値が同じであり、且つ第1の第2方向異色隣接画素(図10の符号3−4)と、第2の第2方向異色隣接画素(図10の符号4−4)との値が異なる場合には、垂直方向からの異常斜め入射光の存在が検出される。
尚、説明の明瞭化のため、図10において、符号1−1〜4−1の画素による水平方向の紙面に向かって左側からの異常斜め入射光の検出と、符号1−2〜4−2の画素による水平方向の紙面に向かって右側からの異常斜め入射光の検出と、符号1−3〜4−3の画素による垂直方向からの異常斜め入射光の検出と、符号1−4〜4−4の画素による垂直方向からの異常斜め入射光の検出とを、隣接する異なる基本配列画素群Pに配置された画素で検出するように説明した。しかし、同一の基本配列画素群P内に、符号1−1〜4−1の画素、符号1−2〜4−2の画素、符号1−3〜4−3の画素、及び符号1−4〜4−4の画素に対応する画素から検出するようにしてもよい。
<撮像素子の他の実施形態(変形例2)>
図12は、上記撮像素子22の他の実施形態(変形例2)を示す図であり、特に撮像素子22の受光面上に配置されているカラーフィルタ配列に関して示している。
図12に示された、カラーフィルタ配列は、水平方向及び垂直方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群Pを有する。又、カラーフィルタ配列は、水平方向及び垂直方向に並置される複数の基本配列画素群Pを含み、基本配列画素群Pの各々は、水平方向及び垂直方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含む。
第1サブ配列はRフィルタを有する2画素及びBフィルタを有する2画素によって構成され、第2サブ配列はGフィルタを有する4画素によって構成される。第1サブ配列は、水平方向及び垂直方向に第2のサブ配列と隣接配置され、第1色画素群は、第2サブ配列によって構成される。
具体的には、図12のカラーフィルタ配列は、4画素×4画素に対応する正方配列パターンからなる基本配列画素群P(太枠で示した画素群)を含み、この基本配列画素群Pが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、Rフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている為、撮像素子22から読み出されるR、G、B信号のデモザイク処理等を行う際に、繰り返しパターンに従って処理を行うことができる。
図12に示すカラーフィルタ配列は、R、G、Bの全ての色のフィルタが、基本配列画素群P内の水平方向及び垂直方向の各ライン内に配置されている。
図13は、図12に示した基本配列画素群Pを、2画素×2画素に4分割した状態を示している。
図13に示すように基本配列画素群Pは、実線の枠で囲んだ2画素×2画素の第1サブ配列と、破線の枠で囲んだ2画素×2画素の第2サブ配列とが、水平、垂直方向に交互に並べられた配列となる。
第1サブ配列は、Rフィルタ及びBフィルタが水平、垂直方向に交互に並べられた配列となっている。又、第1サブ配列は、Rフィルタ又はBフィルタを有する画素が2画素×2画素配列の対角線上に配列されているということもできる。
一方、第2サブ配列は、Gフィルタを有する画素が2画素×2画素配列されている。Gフィルタを有する画素が2画素×2画素配列は、Gフィルタを有する画素の画素群であり、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素、及び第2の第1方向異色隣接画素を構成し、且つ、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素、及び第2の第2方向異色隣接画素を構成する。
[異常斜め入射光検出]
図12に示された例における、変形例1の撮像素子22を有する撮像装置10の異常斜め入射光検出部34が行う、水平方向の紙面に向かって左側からの異常斜め入射光の検出を具体的に説明する。
図12の符号1−1で示されるGフィルタを有する画素は、図12の紙面に向かって左側にGフィルタを有する画素(図12の符号3−1)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。図12の符号2−1で示されるGフィルタを有する画素は、図12の紙面に向かって左側にGフィルタを有する画素(図12の符号4−1)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。
図12の符号3−1で示されるGフィルタを有する画素は、図12の紙面に向かって左側に異色であるBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。又、図12の符号4−1で示されるGフィルタを有する画素は、図12の紙面に向かって左側に異色であるRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図12の符号1−1)、第2の第1方向同色隣接画素(図12の符号2−1)、第1の第1方向異色隣接画素(図12の符号3−1)、及び第2の第1方向異色隣接画素(図12の符号4−1)の画素データを比較し、第1の第1方向同色隣接画素(図12の符号1−1)、第2の第1方向同色隣接画素(図12の符号2−1)の値が同じであり、且つ第1の第1方向異色隣接画素(図12の符号3−1)と、第2の第1方向異色隣接画素(図12の符号4−1)との値が異なる場合には、第1方向からの異常斜め入射光の存在が検出される。
図12に示された、変形例1の撮像素子22を有する撮像装置10の異常斜め入射光検出部34が行う、水平方向の紙面に向かって右側からの異常斜め入射光の検出を具体的に説明する。
図12の符号1−2で示されるGフィルタを有する画素は、図12の紙面に向かって右側にGフィルタを有する画素(図12の符号4−2)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。図12の符号2−2で示されるGフィルタを有する画素は、図12の紙面に向かって右側にGフィルタを有する画素(図12の符号3−2)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。
図12の符号3−2で示されるGフィルタを有する画素は、図12の紙面に向かって右側に異色であるBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。又、図12の符号4−2で示されるGフィルタを有する画素は、図12の紙面に向かって右側に異色であるRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図12の符号1−2)、第2の第1方向同色隣接画素(図12の符号2−2)、第1の第1方向異色隣接画素(図12の符号3−2)、及び第2の第1方向異色隣接画素(図12の符号4−2)の画素データを比較し、第1の第1方向同色隣接画素(図12の符号1−2)、第2の第1方向同色隣接画素(図12の符号2−2)の値が同じであり、且つ第1の第1方向異色隣接画素(図12の符号3−2)と、第2の第1方向異色隣接画素(図12の符号4−2)との値が異なる場合には、第1方向からの異常斜め入射光の存在が検出される。
図12に示された、変形例1の撮像素子22を有する撮像装置10の異常斜め入射光検出部34が行う、垂直方向の紙面に向かって上側から入射される異常斜め入射光の検出を説明する。
図12の符号1−3で示されるGフィルタを有する画素は、図12の紙面に向かって上側にGフィルタを有する画素(図12の符号3−3)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。図12の符号2−3で示されるGフィルタを有する画素は、図12の紙面に向かって上側にGフィルタを有する画素(図12の符号4−3)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。
図12の符号3−3で示されるGフィルタを有する画素は、図12の紙面に向かって上側に異色であるRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。又、図12の符号4−3で示されるGフィルタを有する画素は、図12の紙面に向かって上側に異色であるBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図12の符号1−3)、第2の第2方向同色隣接画素(図12の符号2−3)、第1の第2方向異色隣接画素(図12の符号3−3)、及び第2の第2方向異色隣接画素(図12の符号4−3)の画素データを比較し、第1の第2方向同色隣接画素(図12の符号1−3)、第2の第2方向同色隣接画素(図12の符号2−3)の値が同じであり、且つ第1の第2方向異色隣接画素(図12の符号3−3)と、第2の第2方向異色隣接画素(図12の符号4−3)との値が異なる場合には、垂直方向からの異常斜め入射光の存在が検出される。
図12に示された、変形例1の撮像素子22を有する撮像装置10の異常斜め入射光検出部34が行う、垂直方向の紙面に向かって下側から入射される異常斜め入射光の検出を説明する。
図12の符号1−4で示されるGフィルタを有する画素は、図12の紙面に向かって下側にGフィルタを有する画素(図12の符号3−4)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。図12の符号2−4で示されるGフィルタを有する画素は、図12の紙面に向かって下側にGフィルタを有する画素(図12の符号4−4)が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。
図12の符号3−4で示されるGフィルタを有する画素は、図12の紙面に向かって下側に異色であるRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。又、図12の符号4−4で示されるGフィルタを有する画素は、図12の紙面に向かって下側に異色であるBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図12の符号1−4)、第2の第2方向同色隣接画素(図12の符号2−4)、第1の第2方向異色隣接画素(図12の符号3−4)、及び第2の第2方向異色隣接画素(図12の符号4−4)の画素データを比較し、第1の第2方向同色隣接画素(図12の符号1−4)、第2の第2方向同色隣接画素(図12の符号2−4)の値が同じであり、且つ第1の第2方向異色隣接画素(図12の符号3−4)と、第2の第2方向異色隣接画素(図12の符号4−4)との値が異なる場合には、垂直方向からの異常斜め入射光の存在が検出される。
図14及び図15では、図12で示されたカラーフィルタ配列を有する撮像素子22において、異常斜め入射光が水平方向における正方向又は負方向のいずれの方向に入射するかの判定の仕方が示されている。図14及び図15では紙面に向かって右側を正方向、左側を負方向とする。
図14及び図15に示された複数の画素は、Gフィルタを有する画素と水平方向の正方向に隣接し且つ第1の色と異色のカラーフィルタを有する画素と水平方向の負方向に隣接するGフィルタを有する第1の第1色画素(図14の符号3−1)(図15の符号1−2)及び第2の第1色画素(図14の符号4−1)(図15の符号2−2)と、Gフィルタを有する画素と水平方向の負方向に隣接し且つ第1の色と異色のカラーフィルタを有する画素と水平方向の正方向に隣接するGフィルタを有する第3の第1色画素(図14の符号1−1)(図15の符号4−2)及び第4の第1色画素(図14の符号2−1)(図15の符号3−2)を含む。
図14では、水平方向の正方向に沿って異常斜め入射光が入射している状態を示す。異常斜め入射光が、水平方向の正方向に沿って撮像素子22に入射した場合、第3の第1色画素(図14の符号1−1)、は、隣接するGフィルタを有する画素(図14の符号3−1)からの混色があるので、画素データがGgとなる。又、第4の第1色画素(図14の符号2−1)も、隣接するGフィルタを有する画素(図14の符号2−1)からの混色があるので、画素データがGgとなる。
一方、第1の第1色画素(図14の符号3−1)は、負方向側で隣接するBフィルタを有する画素からの混色があるので、画素データがGbとなる。又、第2の第1色画素(図14の符号4−1)は、負方向側で隣接するRフィルタを有する画素からの混色があるので、画素データがGrとなる。
図14で示すように、第1の第1色画素(図14の符号3−1)がGb、第2の第1色画素(図14の符号4−1)がGr、第3の第1色画素(図14の符号1−1)がGg、及び第4の第1色画素(図14の符号2−1)がGgの出力値が検出された場合に、水平方向の正方向に沿って異常斜め入射光の入射があると判断することができる。更に、第1の画素又は第2の画素の画素データが、Ggである場合に第1の正方向からの異常斜め入射光があると判断することができる。
図15では、水平方向の負方向に沿って異常斜め入射光が入射している状態を示す。異常斜め入射光が、水平方向の負方向に沿って撮像素子22に入射した場合、第3の第1色画素(図15の符号4−2)は、正方向側に隣接するRフィルタを有する画素からの混色があるので、画素データがGrとなる。又、第4の第1色画素(図15の符号3−2)も、正方向側に隣接するBフィルタを有する画素からの混色があるので、画素データがGbとなる。
一方、第1の第1色画素(図15の符号1−2)は、正方向側で隣接するGフィルタを有する画素(図15の符号4−2)からの混色があるので、画素データがGgとなる。又、第2の第1色画素(図15の符号2−2)は、正方向側で隣接するGフィルタを有する画素(図15の符号3−2)からの混色があるので、画素データがGgとなる。
図15で示すように、第1の第1色画素(図15の符号1−2)がGg、第2の第1色画素(図15の符号2−2)がGg、第3の第1色画素(図15の符号4−2)がGr、及び第4の第1色画素(図15の符号3−2)がGbの出力値が検出された場合に、水平方向の負方向に沿って異常斜め入射光の入射があると判断することができる。更に、第1の画素又は第2の画素の画素データが、Ggである場合に水平方向の負方向からの異常斜め入射光があると判断することができる。
更に、異常斜め入射光を検出した場合、第1の第1色画素、第2の第1色画素、第3の第1色画素及び第4の第1色画素のうち、同じ画素データを出力する画素の画素データを使って、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正することができる。
図14及び図15は説明の都合上、上記撮像素子22の他の実施形態(変形例1)での、水平方向に関して、説明を行っている。しかし、上記撮像素子22の実施形態(図6、図10、及び図12に示されたカラーフィルタ配列を有する撮像素子)は、水平方向及び垂直方向に関して、正方向、負方向のいずれから異常斜め入射光の入射光が入射しているかを判別することができる。
<撮像素子の他の実施形態(変形例3)>
図16は、上記撮像素子22の他の実施形態(変形例3)を示す図であり、特に撮像素子22の受光面上に配置されているカラーフィルタ配列に関して示している。
図16で示されたカラーフィルタ配列では、水平方向及び垂直方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群Pであって、水平方向及び垂直方向に並置される複数の基本配列画素群Pを含む。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されている為、撮像素子22から読み出されるR、G、B信号のデモザイク処理等を行う際に、繰り返しパターンに従って処理を行うことができる。
図16に示すカラーフィルタ配列は、R、G、Bの全ての色のフィルタが、基本配列画素群P内の水平方向及び垂直方向の各ライン内に配置されている。
画素ブロックQ(図16において点線で図示)は、基本配列画素群Pの各々におけるRフィルタを有する2画素、Bフィルタを有する2画素及びGフィルタを有する5画素によって構成される。
基本配列画素群Pの各々は、水平方向及び垂直方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含む。図17は、図16に示した基本配列画素群Pを、2画素×2画素に4分割した状態を示している。
図17で示されるように、第1サブ配列はGフィルタを有する3画素及びRフィルタを有する1画素によって構成され、第2サブ配列はGフィルタを有する3画素及びBフィルタを有する1画素によって構成される。第1サブ配列におけるRフィルタを有する画素の位置と第2サブ配列におけるBフィルタを有する画素の位置とは対応する。第1サブ配列は、水平方向及び垂直方向に第2のサブ配列と隣接配置される。
具体的には、図17に示すように基本配列画素群Pは、実線の枠で囲んだ2画素×2画素の第1サブ配列と、破線の枠で囲んだ2画素×2画素の第2サブ配列とが、水平、垂直方向に交互に並べられた配列となる。
第1サブ配列は、3つのGフィルタと1つのRフィルタを有する。又、第2サブ配列は、3つのGフィルタと1つのBフィルタを有する。更に、第1サブ配列におけるRフィルタが配列される位置と、第2サブ配列におけるBフィルタが配列される位置とは同じである。
[異常斜め入射光検出]
図16に示された例において、水平方向からの異常斜め入射光検出部34が行う異常斜め入射光の検出を具体的に説明する。図16の符号1Aで示されるGフィルタを有する画素は、図16の紙面に向かって左側及び右側にGフィルタを有する画素が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向同色隣接画素)である。図16の符号2Aで示されるGフィルタを有する画素は、図16の紙面に向かって左側及び右側にGフィルタを有する画素が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向同色隣接画素)である。
図16の符号3Aで示されるGフィルタを有する画素は、図16の紙面に向かって左側にRフィルタ及び右側にBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第1方向異色隣接画素)である。又、図16の符号4Aで示されるGフィルタを有する画素は、図16の紙面に向かって左側にBフィルタ及び右側にRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第1方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第1方向同色隣接画素(図16の符号1A)、第2の第1方向同色隣接画素(図16の符号2A)、第1の第1方向異色隣接画素(図16の符号3A)、及び第2の第1方向異色隣接画素(図16の符号4A)の画素データを比較し、第1の第1方向同色隣接画素(図16の符号1A)、第2の第1方向同色隣接画素(図16の符号2A)の値が同じであり、且つ第1の第1方向異色隣接画素(図16の符号3A)と、第2の第1方向異色隣接画素(図16の符号4A)との値が異なる場合には、水平方向からの異常斜め入射光の存在が検出される。
垂直方向から入射される異常斜め入射光の検出を行う場合は、以下のように行う。
図16において、異常斜め入射光検出部34による垂直方向からの異常斜め入射光の検出を具体的に説明する。図16の符号1Bで示されるGフィルタを有する画素は、図16の紙面に向かって上側及び下側にGフィルタを有する画素が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向同色隣接画素)である。図16の符号2Bで示されるGフィルタを有する画素は、図16の紙面に向かって上側及び下側にGフィルタを有する画素が隣接配置されており、同色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向同色隣接画素)である。
図16の符号3Bで示されるGフィルタを有する画素は、図16の紙面に向かって上側及び下側に異色であるRフィルタ及びBフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第1の第2方向異色隣接画素)である。又、図16の符号4Bで示されるGフィルタを有する画素は、図16の紙面に向かって上側及び下側に異色であるBフィルタ及びRフィルタを有する画素が隣接配置されており、異色のカラーフィルタを有する画素が隣接配置されるGフィルタを有する画素(第2の第2方向異色隣接画素)である。
そして、異常斜め入射光検出部34では、上述した、第1の第2方向同色隣接画素(図16の符号1B)、第2の第2方向同色隣接画素(図16の符号2B)、第1の第2方向異色隣接画素(図16の符号3B)、及び第2の第2方向異色隣接画素(図16の符号4B)の画素データを比較し、第1の第2方向同色隣接画素(図16の符号1B)、第2の第2方向同色隣接画素(図16の符号2B)の値が同じであり、且つ第1の第2方向異色隣接画素(図16の符号3B)と、第2の第2方向異色隣接画素(図16の符号4B)との値が異なる場合には、垂直方向からの異常斜め入射光の存在が検出される。
又、図16及び図17に示すように、撮像装置10の他の実施形態(変形例3)では、Gフィルタを有する画素が水平方向に連続して並んでおり、又はGフィルタを有する画素が垂直方向に連続して並んでいるので、異常斜め入射光の方向をより容易に行うことができる。
更に、異常斜め入射光検出部34は、画素ブロックQ(図16において点線で図示)に含まれるGフィルタを有する5画素の画素データに基づいて、水平方向又は垂直方向に撮像素子22へ入射する異常斜め入射光を検出することができる。
図18では、図16で示されたカラーフィルタ配列を有する撮像素子22の、水平方向から異常斜め入射光が入射している場合を示している。又、図19では、図16で示されたカラーフィルタ配列を有する撮像素子22の、垂直方向からの異常斜め入射光が入射している場合を示している。
図18では、水平方向に、連続して配列されるGフィルタを有する画素の画素データはGgとなる。言い換えると、Ggの値を示す画素データが水平方向に連続して配列されている。この場合には、水平方向からの異常斜め入射光が検出される。















































一方、図19では、垂直方向に、連続して配列されるGフィルタを有する画素の画素データはGgとなる。言い換えると、Ggの値を示す画素データが垂直方向に連続して配列されている。この場合には、垂直方向からの異常斜め入射光が検出される。
又、複数の画素は、少なくともGフィルタ、Rフィルタ、及びBフィルタを有する画素によって構成さる。又、Gフィルタを有する画素が出力する画素データは、輝度信号を得るのに最も寄与する。
又、第1色の画素は、緑色、透明、又は白色のカラーフィルタを有する。透明フィルタ及び白色フィルタは、赤波長域の光、青波長域の光及び緑波長域の光のいずれも透過するフィルタであり、透明フィルタは比較的高い光透過率(例えば70%以上の光透過率)を有し、白色フィルタは透明フィルタよりも低い光透過率を有する。
又、「第1の方向」及び「第2の方向」は、特に限定されず、相互に垂直(実質的に垂直を含む)を形成する方向であればよい。例えば、撮像装置による撮像時に被写体に対する「水平方向」及び「垂直方向」を「第1の方向」及び「第2の方向」としてもよいし、これらの「水平方向」及び「垂直方向」に対して任意の角度を持つ方向を「第1の方向」及び「第2の方向」としてもよい。したがって、水平方向及び垂直方向に2次元的に配列された複数の画素を45度回転させた所謂「ハニカム型の配列」で複数の画素が配置される場合には、「水平方向」及び「垂直方向」と45度を成す方向を「第1の方向」及び「第2の方向」として扱いうる。
撮像素子22の受光面上に配置されているカラーフィルタ配列は、ここに示した配列以外も、採用することが可能である。例えば、第1の方向及び第2の方向に関してN画素×M画素(Nは3以上の整数、Mは3以上の整数)の配列群を基本配列画素群とし、基本配列画素群が、第1の方向及び第2の方向に並置されている配列を採用することができる。そして、基本配列画素群の各々は、第1の第1方向同色隣接画素、第2の第1方向同色隣接画素、第1の第1方向異色隣接画素、第2の第1方向異色隣接画素、第1の第2方向同色隣接画素、第2の第2方向同色隣接画素、第1の第2方向異色隣接画素、及び第2の第2方向異色隣接画素を含む配列も採用し得る。例えば、対応する配列として、図20に示すような3画素×3画素の基本配列画素群Pが水平方向(第1の方向)及び垂直方向(第2の方向)に並置されるものが挙げられる。
例えば、図20の符号1が付された画素は、水平方向の紙面に向かって左側に同色のGフィルタを有する画素と隣接するように配置されているので、第1の第1方向同色隣接画素である。又、図20の符号1が付された画素は、垂直方向の紙面に向かって上側に異色のRフィルタを有する画素と隣接するように配置されているので、第2の第2方向異色隣接画素である。図20の符号2が付された画素は、水平方向の紙面に向かって左側に同色のGフィルタを有する画素と隣接するように配置されているので、第2の第1方向同色隣接画素である。又、図20の符号2が付された画素は、垂直方向の紙面に向かって上側に同色のGフィルタを有する画素と隣接するように配置されているので、第1の第2方向同色隣接画素である。
図20の符号3が付された画素は、水平方向の紙面に向かって左側に異色のBフィルタを有する画素と隣接するように配置されているので、第1の第1方向異色隣接画素である。又、図20の符号3が付された画素は、垂直方向の紙面に向かって上側に同色のGフィルタを有する画素と隣接するように配置されているので、第2の第2方向同色隣接画素である。図20の符号4が付された画素は、水平方向の紙面に向かって左側に異色のRフィルタを有する画素と隣接するように配置されているので、第2の第1方向異色隣接画素である。又、図20の符号4が付された画素は、垂直方向の紙面に向かって上側に異色のBフィルタを有する画素と隣接するように配置されているので、第1の第2方向異色隣接画素である。
尚、基本配列画素群Pの大きさとしては、基本配列画素群の画素数が増加するとデモザイク処理等の信号処理が複雑化してしまう。したがって、信号処理の複雑化を防止する観点からは、基本配列画素群のサイズは大きすぎない10画素×10画素以下が好ましく、より好ましくは8画素×8画素以下のサイズが好ましい。
<スマートフォンの構成>
図21は、本発明の撮像装置10の一実施形態であるスマートフォン101の外観を示すものである。図21に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となった表示入力部120を備えている。又、係る筐体102は、スピーカ131と、マイクロホン132、操作部140と、カメラ部141とを備えている。尚、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図22は、図21に示すスマートフォン101の構成を示すブロック図である。図22に示すように、スマートフォンの主たる構成要素として、無線通信部110と、表示入力部120と、通話部130と、操作部140と、カメラ部141と、記憶部150と、外部入出力部160と、GPS(Global Positioning System)受信部170と、モーションセンサ部180と、電源部190と、主制御部100とを備える。又、スマートフォン101の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部110は、主制御部100の指示に従って、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。係る無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部120は、主制御部100の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル121と、操作パネル122とを備える。
表示パネル121は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。操作パネル122は、表示パネル121の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部100に出力する。次いで、主制御部100は、受信した検出信号に基づいて、表示パネル121上の操作位置(座標)を検出する。
図21に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン101の表示パネル121と操作パネル122とは一体となって表示入力部120を構成しており、操作パネル122が表示パネル121を完全に覆うような配置となっている。係る配置を採用した場合、操作パネル122は、表示パネル121外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル122は、表示パネル121に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル121に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル121の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。又、操作パネル122が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体102の大きさなどに応じて適宜設計されるものである。更に又、操作パネル122で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部130は、スピーカ131やマイクロホン132を備え、マイクロホン132を通じて入力されたユーザーの音声を主制御部100にて処理可能な音声データに変換して主制御部100に出力したり、無線通信部110あるいは外部入出力部160により受信された音声データを復号してスピーカ131から出力するものである。又、図21に示すように、例えば、スピーカ131を表示入力部120が設けられた面と同じ面に搭載し、マイクロホン132を筐体102の側面に搭載することができる。
操作部140は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図21に示すように、操作部140は、スマートフォン101の筐体102の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部150は、主制御部100の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、又ストリーミングデータなどを一時的に記憶するものである。又、記憶部150は、スマートフォン内蔵の内部記憶部151と着脱自在な外部メモリスロットを有する外部記憶部152により構成される。尚、記憶部150を構成するそれぞれの内部記憶部151と外部記憶部152は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部160は、スマートフォン101に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続する為のものである。
スマートフォン101に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン101の内部の各構成要素に伝達することや、スマートフォン101の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部170は、主制御部100の指示に従って、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン101の緯度、経度、高度からなる位置を検出する。GPS受信部170は、無線通信部110や外部入出力部160(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部180は、例えば、3軸の加速度センサなどを備え、主制御部100の指示に従って、スマートフォン101の物理的な動きを検出する。スマートフォン101の物理的な動きを検出することにより、スマートフォン101の動く方向や加速度が検出される。係る検出結果は、主制御部100に出力されるものである。
電源部190は、主制御部100の指示に従って、スマートフォン101の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部100は、マイクロプロセッサを備え、記憶部150が記憶する制御プログラムや制御データに従って動作し、スマートフォン101の各部を統括して制御するものである。又、主制御部100は、無線通信部110を通じて、音声通信やデータ通信を行う為に、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部150が記憶するアプリケーションソフトウェアに従って主制御部100が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部160を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
又、主制御部100は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部120に表示する等の画像処理機能を備える。画像処理機能とは、主制御部100が、上記画像データを復号し、係る復号結果に画像処理を施して、画像を表示入力部120に表示する機能のことをいう。
更に、主制御部100は、表示パネル121に対する表示制御と、操作部140、操作パネル122を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部100は、アプリケーションソフトウェアを起動する為のアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成する為のウィンドウを表示する。尚、スクロールバーとは、表示パネル121の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付ける為のソフトウェアキーのことをいう。
又、操作検出制御の実行により、主制御部100は、操作部140を通じたユーザ操作を検出したり、操作パネル122を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部100は、操作パネル122に対する操作位置が、表示パネル121に重なる重畳部分(表示領域)か、それ以外の表示パネル121に重ならない外縁部分(非表示領域)かを判定し、操作パネル122の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
又、主制御部100は、操作パネル122に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部141は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge−Coupled Device)などの撮像素子22を用いて電子撮影するデジタルカメラである。又、カメラ部141は、主制御部100の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力することができる。図21に示すにスマートフォン101において、カメラ部141は表示入力部120と同じ面に搭載されているが、カメラ部141の搭載位置はこれに限らず、表示入力部120の背面に搭載されてもよいし、あるいは、複数のカメラ部141が搭載されてもよい。尚、複数のカメラ部141が搭載されている場合には、撮影に供するカメラ部141を切り替えて単独にて撮影したり、あるいは、複数のカメラ部141を同時に使用して撮影することもできる。
又、カメラ部141はスマートフォン101の各種機能に利用することができる。例えば、表示パネル121にカメラ部141で取得した画像を表示することや、操作パネル122の操作入力のひとつとして、カメラ部141の画像を利用することができる。又、GPS受信部170が位置を検出する際に、カメラ部141からの画像を参照して位置を検出することもできる。更には、カメラ部141からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン101のカメラ部141の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部141からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部170により取得した位置情報、マイクロホン132により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部180により取得した姿勢情報等などを付加して記憶部150に記録したり、入出力部160や無線通信部110を通じて出力することもできる。
上述のスマートフォン101において、画像処理部28(異常斜め入射光検出部34及び補正部36を含む)は、例えば主制御部100、記憶部150等によって適宜実現可能である。
上述した実施形態の機能を実現するように上述した実施形態の構成を動作させるプログラムを記憶媒体に記憶させ、該記憶媒体に記憶されたプログラムをコードとして読み出し、コンピュータにおいて実行する処理方法も上述の実施形態の範疇に含まれる。即ちコンピュータ読み取り可能な記憶媒体も実施例の範囲に含まれる。また、上述のコンピュータプログラムが記憶された記憶媒体はもちろんそのコンピュータプログラム自体も上述の実施形態に含まれる。
かかる記憶媒体としてはたとえばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性メモリカード、ROMを用いることができる。
また上述の記憶媒体に記憶されたプログラム単体で処理を実行しているものに限らず、他のソフトウェア、拡張ボードの機能と共同して、OS上で動作し上述の実施形態の動作を実行するものも上述した実施形態の範疇に含まれる。
本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10…撮像装置、12…CPU、14…操作部、16…デバイス制御部、18…レンズ部、20…シャッタ、22…撮像素子、24…A/D変換器、25…表示部、26…メモリ部、28…画像処理部、30…エンコーダ、32…ドライバ、34…異常斜め入射光検出部、36…補正部、101…スマートフォン、P…基本配列画素群

Claims (18)

  1. 第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、前記複数の画素の各々がカラーフィルタと、当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有する撮像素子と、
    前記画素データに基づいて、前記撮像素子への異常斜め入射光の入射を検出する異常斜め入射光検出手段と、
    前記異常斜め入射光検出手段の検出結果に基づいて、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する補正手段と、を備える撮像装置であって、
    前記複数の画素は、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、
    前記異常斜め入射光検出手段は、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素の前記画素データに基づいて、前記撮像素子へ前記第1の方向に入射する異常斜め入射光を検出する撮像装置。
  2. 前記複数の画素は、第1の色のカラーフィルタを有する画素と前記第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第2方向同色隣接画素と、第1の色のカラーフィルタを有する画素と前記第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第2方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第2方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第2の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第2方向異色隣接画素とを含み、
    前記異常斜め入射光検出手段は、前記第1の第2方向同色隣接画素、前記第2の第2方向同色隣接画素、前記第1の第2方向異色隣接画素及び前記第2の第2方向異色隣接画素の前記画素データに基づいて、前記撮像素子へ前記第2の方向に入射する異常斜め入射光を検出する請求項1記載の撮像装置。
  3. 前記異常斜め入射光検出手段は、前記第1の第1方向同色隣接画素の前記画素データ及び前記第2の第1方向同色隣接画素の前記画素データが同じであり、且つ、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素の前記画素データが、前記第1の第1方向同色隣接画素及び前記第2の第1方向同色隣接画素の前記画素データと異なる場合に、前記撮像素子へ前記第1の方向に入射する異常斜め入射光を検出し、
    前記異常斜め入射光検出手段は、前記第1の第2方向同色隣接画素の前記画素データ及び前記第2の第2方向同色隣接画素の前記画素データが同じであり、且つ、前記第1の第2方向異色隣接画素及び前記第2の第2方向異色隣接画素の前記画素データが、前記第1の第2方向同色隣接画素及び前記第2の第2方向同色隣接画素の前記画素データと異なる場合に、前記撮像素子へ前記第2の方向に入射する異常斜め入射光を検出する請求項2に記載の撮像装置。
  4. Nが3以上の整数であり、Mが3以上の整数である場合、前記複数の画素は、前記第1の方向及び前記第2の方向に関してN画素×M画素の配列を有する基本配列画素群であって、前記第1の方向及び前記第2の方向に並置される複数の基本配列画素群を含み、
    前記基本配列画素群の各々は、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素、前記第2の第1方向異色隣接画素、前記第1の第2方向同色隣接画素、前記第2の第2方向同色隣接画素、前記第1の第2方向異色隣接画素、及び前記第2の第2方向異色隣接画素を含む請求項2又は3に記載の撮像装置。
  5. 前記複数の画素は、同色のカラーフィルタを有する画素と前記第1の方向の正方向に隣接し且つ異色のカラーフィルタを有する画素と前記第1の方向の負方向に隣接する第1の色のカラーフィルタを有する第1の第1色画素及び第2の第1色画素と、同色のカラーフィルタを有する画素と前記第1の方向の負方向に隣接し且つ異色のカラーフィルタを有する画素と前記第1の方向の正方向に隣接する第1の色のカラーフィルタを有する第3の第1色画素及び第4の第1色画素と、同色のカラーフィルタを有する画素と前記第2の方向の正方向に隣接し且つ異色のカラーフィルタを有する画素と前記第2の方向の負方向に隣接する第1の色のカラーフィルタを有する第5の第1色画素及び第6の第1色画素と、同色のカラーフィルタを有する画素と前記第2の方向の負方向に隣接し且つ異色のカラーフィルタを有する画素と前記第2の方向の正方向に隣接する第1の色のカラーフィルタを有する第7の第1色画素及び第8の第1色画素と、を含み、
    前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素の各々は、前記第1の第1色画素、前記第2の第1色画素、前記第3の第1色画素及び前記第4の第1色画素のいずれかによって構成され、
    前記第1の第2方向同色隣接画素、前記第2の第2方向同色隣接画素、前記第1の第2方向異色隣接画素及び前記第2の第2方向異色隣接画素の各々は、前記第5の第1色画素、前記第6の第1色画素、前記第7の第1色画素及び前記第8の第1色画素のいずれかによって構成され、
    前記異常斜め入射光検出手段は、前記第1の第1色画素、前記第2の第1色画素、前記第3の第1色画素及び前記第4の第1色画素の前記画素データに基づいて、前記撮像素子へ前記第1の方向に入射する異常斜め入射光が、前記第1の方向の正方向及び負方向のいずれの方向に入射するかを判定し、
    前記異常斜め入射光検出手段は、前記第5の第1色画素、前記第6の第1色画素、前記第7の第1色画素及び前記第8の第1色画素の前記画素データに基づいて、前記撮像素子へ前記第2の方向に入射する異常斜め入射光が、前記第2の方向の正方向及び負方向のいずれの方向に入射するかを判定する請求項2から4のいずれか1項に記載の撮像装置。
  6. 前記補正手段は、前記異常斜め入射光検出手段により前記撮像素子へ前記第1の方向に入射する異常斜め入射光が検出された場合、前記第1の第1色画素、前記第2の第1色画素、前記第3の第1色画素及び前記第4の第1色画素のうち、同じ画素データを出力する画素の前記画素データを使って、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正し、
    前記補正手段は、前記異常斜め入射光検出手段により前記撮像素子へ前記第2の方向に入射する異常斜め入射光が検出された場合、前記第5の第1色画素、前記第6の第1色画素、前記第7の第1色画素及び前記第8の第1色画素のうち、同じ画素データを出力する画素の前記画素データを使って、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する請求項5に記載の撮像装置。
  7. 前記第1の第1方向異色隣接画素に対して前記第1の方向に隣接配置される前記第1の色と異色のカラーフィルタを有する画素と、前記第2の第1方向異色隣接画素に対して前記第1の方向に隣接配置される前記第1の色と異色のカラーフィルタを有する画素とは、異なる色のカラーフィルタを有し、
    前記第1の第2方向異色隣接画素に対して前記第2の方向に隣接配置される前記第1の色と異色のカラーフィルタを有する画素と、前記第2の第2方向異色隣接画素に対して前記第2の方向に隣接配置される前記第1の色と異色のカラーフィルタを有する画素とは、異なる色のカラーフィルタを有する請求項5又は6に記載の撮像装置。
  8. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して2画素×2画素配列された第1の色のカラーフィルタを有する画素によって構成される第1色画素群を含み、
    前記第1色画素群を構成する画素は、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素を構成し、且つ、前記第1の第2方向同色隣接画素、前記第2の第2方向同色隣接画素、前記第1の第2方向異色隣接画素及び前記第2の第2方向異色隣接画素を構成する請求項2から7のいずれか1項に記載の撮像装置。
  9. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して6画素×6画素配列される画素によって構成される複数の基本配列画素群であって、前記第1の方向及び前記第2の方向に並置される複数の基本配列画素群を含み、
    前記基本配列画素群の各々は、前記第1の方向及び前記第2の方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、
    前記第1サブ配列は、中央に配置される第1の色のカラーフィルタを有する1画素と、四隅に配置される第1の色のカラーフィルタを有する4画素と、前記中央に配置される第1の色のカラーフィルタを有する1画素を挟むように前記第1の方向に配置される第2の色のカラーフィルタを有する2画素と、前記中央に配置される第1の色のカラーフィルタを有する1画素を挟むように前記第2の方向に配置される第3の色のカラーフィルタを有する2画素とを有し、
    前記第2サブ配列は、中央に配置される第1の色のカラーフィルタを有する1画素と、四隅に配置される第1の色のカラーフィルタを有する4画素と、前記中央に配置される第1の色のカラーフィルタを有する1画素を挟むように前記第1の方向に配置される第3の色のカラーフィルタを有する2画素と、前記中央に配置される第1の色のカラーフィルタを有する1画素を挟むように前記第2の方向に配置される第2の色のカラーフィルタを有する2画素とを有し、
    前記第1サブ配列は、前記第1の方向及び前記第2の方向に前記第2サブ配列と隣接配置され、
    前記第1色画素群は、前記二つの第1サブ配列及び前記二つの第2サブ配列によって構成される請求項8に記載の撮像装置。
  10. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群であって、前記第1の方向及び前記第2の方向に並置される複数の基本配列画素群を含み、
    前記基本配列画素群の各々は、前記第1の方向及び前記第2の方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、
    前記第1サブ配列は第1の色のカラーフィルタを有する4画素によって構成され、前記第2サブ配列は第2の色のカラーフィルタを有する2画素及び第3の色のカラーフィルタを有する2画素によって構成され、
    前記第1サブ配列は、前記第1の方向及び前記第2の方向に前記第2サブ配列と隣接配置され、
    前記第1色画素群は、前記第1サブ配列によって構成される請求項8に記載の撮像装置。
  11. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して6画素×6画素配列される画素によって構成される複数の基本配列画素群であって、前記第1の方向及び前記第2の方向に並置される複数の基本配列画素群を含み、
    前記基本配列画素群の各々は、前記第1の方向及び前記第2の方向に関して3画素×3画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、
    前記第1サブ配列は、中央に配置される第2の色のカラーフィルタを有する1画素と、四隅に配置される第3の色のカラーフィルタを有する4画素と、前記四隅の画素の各々間に配置される第1の色のカラーフィルタを有する4画素とを有し、
    前記第2サブ配列は、中央に配置される第3の色のカラーフィルタを有する1画素と、四隅に配置される第2の色のカラーフィルタを有する4画素と、前記四隅の画素の各々間に配置される第1の色のカラーフィルタを有する4画素とを有し、
    前記第1サブ配列は、前記第1の方向及び前記第2の方向に前記第2サブ配列と隣接配置され、
    前記第1の方向に隣接する前記第1サブ配列及び前記第2サブ配列の第1の色のカラーフィルタを有する画素のうち前記第1の方向に相互に隣接する第1の色のカラーフィルタを有する画素によって、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素が構成され、
    前記第2の方向に隣接する前記第1サブ配列及び前記第2サブ配列の第1の色のカラーフィルタを有する画素のうち前記第2の方向に相互に隣接する第1の色のカラーフィルタを有する画素によって、前記第1の第2方向同色隣接画素、前記第2の第2方向同色隣接画素、前記第1の第2方向異色隣接画素及び前記第2の第2方向異色隣接画素が構成される請求項2から7のいずれか1項に記載の撮像装置。
  12. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して3画素×3画素配列される画素ブロックであって、四隅に配置される第2の色のカラーフィルタを有する2画素及び第3の色のカラーフィルタを有する2画素と、前記第1の方向及び前記第2の方向に関して十字状に配置される第1の色のカラーフィルタを有する5画素によって構成される画素ブロックを含み、
    前記異常斜め入射光検出手段は、前記画素ブロックに含まれる第1の色のカラーフィルタを有する5画素の前記画素データに基づいて、前記第1の方向又は前記第2の方向に前記撮像素子へ入射する異常斜め入射光を検出する請求項2から4のいずれか1項に記載の撮像装置。
  13. 前記補正手段は、前記異常斜め入射光検出手段により前記撮像素子へ前記第1の方向に入射する異常斜め入射光が検出された場合、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素の前記画素データを使って、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正し、
    前記補正手段は、前記異常斜め入射光検出手段により前記撮像素子へ前記第2の方向に入射する異常斜め入射光が検出された場合、第1の色のカラーフィルタを有する画素と前記第2の方向に隣接配置される第1の色のカラーフィルタを有する画素の前記画素データを使って、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する請求項12に記載の撮像装置。
  14. 前記複数の画素は、前記第1の方向及び前記第2の方向に関して4画素×4画素配列される画素によって構成される複数の基本配列画素群であって、前記第1の方向及び前記第2の方向に並置される複数の基本配列画素群を含み、
    前記基本配列画素群の各々は、前記第1の方向及び前記第2の方向に関して2画素×2画素配列される画素によって構成される二つの第1サブ配列及び二つの第2サブ配列を含み、
    前記第1サブ配列は第1の色のカラーフィルタを有する3画素及び第2の色のカラーフィルタを有する1画素によって構成され、前記第2サブ配列は第1の色のカラーフィルタを有する3画素及び第3の色のカラーフィルタを有する1画素によって構成され、前記第1サブ配列における前記第2の色のカラーフィルタを有する画素の位置と前記第2サブ配列における前記第3の色のカラーフィルタを有する画素の位置とは対応し、
    前記第1サブ配列は、前記第1の方向及び前記第2の方向に前記第2サブ配列と隣接配置され、
    前記画素ブロックは、前記基本配列画素群の各々における第2の色のカラーフィルタを有する2画素、第3の色のカラーフィルタを有する2画素及び第1の色のカラーフィルタを有する5画素によって構成される請求項12又は13に記載の撮像装置。
  15. 前記複数の画素は、少なくとも1以上の色の前記カラーフィルタによって構成される第1色の画素と、前記第1色以外の少なくとも2以上の色の前記カラーフィルタによって構成される第2色の画素とを含み、
    前記第1色の画素は、輝度信号を得るための寄与率が前記第2色の画素の前記カラーフィルタよりも高い色の前記カラーフィルタを有し、
    前記第1の色のカラーフィルタを有する画素は、前記第1色の画素によって構成される請求項1から14のいずれか1項に記載の撮像装置。
  16. 前記第1色の画素は、緑色、透明、又は白色のカラーフィルタを有する請求項15に記載の撮像装置。
  17. カラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子への異常斜め光の入射を前記画素データに基づいて検出する異常斜め入射光検出ステップと、
    前記異常斜め入射光検出ステップの検出結果に基づいて、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する補正ステップと、を備える画像処理方法であって、
    前記複数の画素は、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、
    前記異常斜め入射光検出ステップは、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素の前記画素データに基づいて、前記撮像素子へ前記第1の方向に入射する異常斜め入射光を検出する画像処理方法。
  18. カラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子への異常斜め光の入射を前記画素データに基づいて検出する異常斜め入射光検出ステップと、
    前記異常斜め入射光検出ステップの検出結果に基づいて、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する補正ステップと、をコンピュータに実行させるためのプログラムであって、
    前記複数の画素は、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向同色隣接画素と、第1の色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向同色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第1の第1方向異色隣接画素と、第1の色と異色のカラーフィルタを有する画素と前記第1の方向に隣接配置される第1の色のカラーフィルタを有する画素によって構成される第2の第1方向異色隣接画素とを含み、
    前記異常斜め入射光検出ステップは、前記第1の第1方向同色隣接画素、前記第2の第1方向同色隣接画素、前記第1の第1方向異色隣接画素及び前記第2の第1方向異色隣接画素の前記画素データに基づいて、前記撮像素子へ前記第1の方向に入射する異常斜め入射光を検出するプログラム。
JP2014551008A 2012-12-07 2013-11-11 撮像装置、画像処理方法及びプログラム Expired - Fee Related JP5749409B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014551008A JP5749409B2 (ja) 2012-12-07 2013-11-11 撮像装置、画像処理方法及びプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012268183 2012-12-07
JP2012268183 2012-12-07
JP2014551008A JP5749409B2 (ja) 2012-12-07 2013-11-11 撮像装置、画像処理方法及びプログラム
PCT/JP2013/080375 WO2014087804A1 (ja) 2012-12-07 2013-11-11 撮像装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP5749409B2 true JP5749409B2 (ja) 2015-07-15
JPWO2014087804A1 JPWO2014087804A1 (ja) 2017-01-05

Family

ID=50883230

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014551008A Expired - Fee Related JP5749409B2 (ja) 2012-12-07 2013-11-11 撮像装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US9374544B2 (ja)
JP (1) JP5749409B2 (ja)
WO (1) WO2014087804A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104904197B (zh) * 2012-12-05 2016-12-28 富士胶片株式会社 摄像装置及异常倾斜入射光检测方法
CN104838646B (zh) * 2012-12-07 2016-11-23 富士胶片株式会社 图像处理装置、图像处理方法、程序及记录介质
CN104995912B (zh) * 2013-03-05 2017-03-08 富士胶片株式会社 摄像装置、图像处理装置及图像处理方法
KR102354991B1 (ko) 2017-05-24 2022-01-24 삼성전자주식회사 픽셀 회로 및 이를 포함하는 이미지 센서
CN112884763A (zh) * 2021-03-19 2021-06-01 东营市阔海水产科技有限公司 对虾头部异色检测方法、终端设备及可读存储介质

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005333251A (ja) * 2004-05-18 2005-12-02 Olympus Corp 撮像装置、カメラ及び撮像処理方法
JP4389865B2 (ja) 2005-11-17 2009-12-24 ソニー株式会社 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
JP4931227B2 (ja) 2007-05-21 2012-05-16 キヤノン株式会社 画像処理装置及び画像処理プログラム
EP3828519A3 (en) * 2007-05-31 2021-10-06 Panasonic Intellectual Property Management Co., Ltd. Image processing device
CN101569205B (zh) * 2007-06-15 2012-05-23 松下电器产业株式会社 图像处理装置
US8564700B2 (en) * 2007-12-07 2013-10-22 Panasonic Corporation Image processing device, image processing method, and imaging device using a patterned polarizer
JP5173496B2 (ja) * 2008-03-06 2013-04-03 キヤノン株式会社 撮像装置及び撮像システム
JP5471117B2 (ja) * 2009-07-24 2014-04-16 ソニー株式会社 固体撮像装置とその製造方法並びにカメラ
JP5436114B2 (ja) * 2009-09-18 2014-03-05 キヤノン株式会社 撮像システム
JP5232118B2 (ja) * 2009-09-30 2013-07-10 富士フイルム株式会社 撮像デバイスおよび電子カメラ
JP5523213B2 (ja) * 2010-06-22 2014-06-18 オリンパスイメージング株式会社 撮像装置および撮像方法
US8742309B2 (en) * 2011-01-28 2014-06-03 Aptina Imaging Corporation Imagers with depth sensing capabilities
EP2683167B1 (en) * 2011-02-28 2018-05-02 Fujifilm Corporation Color imaging device
WO2012124183A1 (ja) * 2011-03-11 2012-09-20 富士フイルム株式会社 撮像装置およびその動作制御方法
JP5935237B2 (ja) * 2011-03-24 2016-06-15 ソニー株式会社 固体撮像装置および電子機器
WO2012137650A1 (ja) * 2011-04-01 2012-10-11 富士フイルム株式会社 撮影装置及びプログラム
CN103874952B (zh) * 2011-09-29 2015-09-30 富士胶片株式会社 固体摄像元件、摄像装置及对焦控制方法
EP3182187B1 (en) * 2011-09-30 2020-12-23 FUJIFILM Corporation Image capturing apparatus and method for calculating sensitivity ratio of phase difference pixel
CN104041020B (zh) * 2011-12-27 2015-11-25 富士胶片株式会社 彩色摄像元件
US20130201388A1 (en) * 2012-02-03 2013-08-08 Novatek Microelectronics Corp. Optical sensing apparatus and optical setting method
CN104205809B (zh) * 2012-03-28 2016-06-15 富士胶片株式会社 固体摄像元件、摄像装置及固体摄像元件的驱动方法
WO2013145886A1 (ja) * 2012-03-28 2013-10-03 富士フイルム株式会社 撮像素子及びこれを用いた撮像装置及び撮像方法
CN104285435B (zh) * 2012-05-10 2016-09-28 富士胶片株式会社 摄像装置及信号校正方法
WO2013183378A1 (ja) * 2012-06-07 2013-12-12 富士フイルム株式会社 撮像装置、画像処理装置、及び画像処理方法
JP5914192B2 (ja) * 2012-06-11 2016-05-11 キヤノン株式会社 撮像装置及びその制御方法
JP5698875B2 (ja) * 2012-07-06 2015-04-08 富士フイルム株式会社 カラー撮像素子および撮像装置
US9601547B2 (en) * 2012-08-14 2017-03-21 Sony Corporation Solid-state image pickup device and electronic apparatus
CN104620572B (zh) * 2012-09-19 2016-06-29 富士胶片株式会社 摄像装置及其控制方法
CN104854496B (zh) * 2012-11-22 2017-04-12 富士胶片株式会社 摄像装置、散焦量运算方法及摄像光学系统
CN104904197B (zh) * 2012-12-05 2016-12-28 富士胶片株式会社 摄像装置及异常倾斜入射光检测方法
CN104838646B (zh) * 2012-12-07 2016-11-23 富士胶片株式会社 图像处理装置、图像处理方法、程序及记录介质
JP5860168B2 (ja) * 2012-12-21 2016-02-16 富士フイルム株式会社 固体撮像装置
CN104995912B (zh) * 2013-03-05 2017-03-08 富士胶片株式会社 摄像装置、图像处理装置及图像处理方法
JP2014179939A (ja) * 2013-03-15 2014-09-25 Sony Corp 信号処理装置および信号処理方法
JP6104049B2 (ja) * 2013-05-21 2017-03-29 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理用プログラム
JP6295526B2 (ja) * 2013-07-11 2018-03-20 ソニー株式会社 固体撮像装置および電子機器
WO2015004886A1 (ja) * 2013-07-12 2015-01-15 パナソニックIpマネジメント株式会社 撮像装置
JP2015037102A (ja) * 2013-08-12 2015-02-23 株式会社東芝 固体撮像装置
JP2015060855A (ja) * 2013-09-17 2015-03-30 ソニー株式会社 固体撮像装置およびその製造方法、並びに電子機器
US20150090909A1 (en) * 2013-09-30 2015-04-02 Capella Microsystems (Taiwan), Inc. Selectable view angle optical sensor
US9392198B2 (en) * 2014-02-26 2016-07-12 Semiconductor Components Industries, Llc Backside illuminated imaging systems having auto-focus pixels
KR102374109B1 (ko) * 2014-08-01 2022-03-14 삼성전자주식회사 크로스토크 특성을 개선하는 이미지 센서 및 그의 제조 방법

Also Published As

Publication number Publication date
US9374544B2 (en) 2016-06-21
CN104838647A (zh) 2015-08-12
US20150244955A1 (en) 2015-08-27
WO2014087804A1 (ja) 2014-06-12
JPWO2014087804A1 (ja) 2017-01-05

Similar Documents

Publication Publication Date Title
JP5777825B2 (ja) 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体
JP5778873B2 (ja) 画像処理装置、画像処理方法及びプログラム、並びに記録媒体
US9386216B2 (en) Imaging device, defocus amount calculating method, and imaging optical system
US10003731B2 (en) Image element, and imaging device and imaging method using the same for achieving improved image quality regardless of an incident angle of light
JP5697801B2 (ja) 撮像装置及び自動焦点調節方法
JP5802858B2 (ja) 撮像装置、画像処理装置、画像処理方法及びプログラム
JP5775977B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム
JP6077967B2 (ja) 撮像装置
WO2015198690A1 (ja) 撮像装置
WO2014141561A1 (ja) 撮像装置、信号処理方法、信号処理プログラム
JP5677625B2 (ja) 信号処理装置、撮像装置、信号補正方法
JP5749409B2 (ja) 撮像装置、画像処理方法及びプログラム
US9877004B2 (en) Color-mixture-ratio calculation device and method, and imaging device
WO2018181164A1 (ja) 撮像装置及び画像処理方法
US9363435B2 (en) Apparatus and method of determining how to perform low-pass filter processing as a reduction association processing when moire is suppressed in a captured image represented by image capture data according to an array of color filters and when the moire appears in the reduced image after processing the reduction processing on the image pickup data, on the basis of an acquisition result of the shooting condition data
US9344646B2 (en) Imaging device and imaging method
JP5798696B2 (ja) 画像処理装置、方法、記録媒体及びプログラム並びに撮像装置
JP5680803B2 (ja) 画像処理装置および方法ならびに撮像装置
CN104838647B (zh) 摄像装置、图像处理方法
WO2014185239A1 (ja) 画像データのオプティカル・ブラック補正装置およびその動作制御方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20150417

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150513

R150 Certificate of patent or registration of utility model

Ref document number: 5749409

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees