JP5486737B2 - 撮像装置及び信号量補正方法 - Google Patents

撮像装置及び信号量補正方法 Download PDF

Info

Publication number
JP5486737B2
JP5486737B2 JP2013523874A JP2013523874A JP5486737B2 JP 5486737 B2 JP5486737 B2 JP 5486737B2 JP 2013523874 A JP2013523874 A JP 2013523874A JP 2013523874 A JP2013523874 A JP 2013523874A JP 5486737 B2 JP5486737 B2 JP 5486737B2
Authority
JP
Japan
Prior art keywords
correction coefficient
correction
pixel
color
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013523874A
Other languages
English (en)
Other versions
JPWO2013008598A1 (ja
Inventor
隼人 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013523874A priority Critical patent/JP5486737B2/ja
Application granted granted Critical
Publication of JP5486737B2 publication Critical patent/JP5486737B2/ja
Publication of JPWO2013008598A1 publication Critical patent/JPWO2013008598A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、撮像素子のカラーフィルタの色配列に起因した信号量のばらつきと複数の画素で特定の回路素子を共有する構造に起因した信号量のばらつきとを簡易な構成で高速且つ精度良く補正することができる撮像装置及び信号量補正方法に関する。
CMOS(Complementary Metal Oxide Semiconductor;相補型金属酸化膜半導体)の撮像素子は、低消費電力であり、デジタルカメラ、携帯電話などの各種の携帯型の撮像装置に用いられている。
また、CMOSの撮像素子では、基板上に必要なトランジスタの数を減らす技術として、複数画素で1つのアンプを共有する技術が広く使われている。
特に、ベイヤ配列(GR/BG)のカラーフィルタと、2×2画素で1つのアンプを共有した共有構造を有する撮像素子は、ベイヤ配列の繰り返し周期(2×2)とアンプ共有構造の繰り返し周期(2×2)とが同一であるためにマッチングが良く、非常に多く使われている。
特許文献1には、アンプ共有のパターンを考慮し、複数行分の縦筋補正パラメータを使って補正を実施する構成が開示されている。
特許文献2には、縦2×横2画素でアンプを共有することにより省スペースを実現したCMOS撮像素子が記載されている。
特許文献3には、各画素の開口が非対称であることにより混色率が画素ごとに異なることに対応するため、混色補正パラメータを注目画素の周囲4画素に別個に持たせた構成が開示されている。
特開2008−288649号公報 特開2000−78474号公報 特開2007−142697号公報
撮像素子は、一般に、カラーフィルタの色(例えばRGB)の違いに起因した感度比が存在するため、撮像画像の画質を劣化させてしまうという問題がある。さらに、同色画素間であっても撮像面内で異なる感度比が分布するため、撮像画像の周辺部の色づきや、固定パターンノイズが現れるという問題もある。そこで、撮像面内を複数の領域に区切り、各領域内で、画素間の感度比の逆数を各画素の信号量(出力値)に掛ければ、カラーフィルタの色に起因した画素間の感度比を補正することができる。
一方で、アンプ共有構造を有するCMOS撮像素子では、共有アンプを基準にした画素の相対位置に応じて、同じ領域内の同色の画素間でも信号量に差が生じてしまう。つまり、共有アンプに対する相対位置が異なる画素間では、下地のレイアウトの違い等に因り感度がばらつくため、画像の再現性に悪影響を与えるという問題があった。この問題は、画素サイズの微細化に伴って、より顕在化していた。
そこで、撮像素子のカラーフィルタの色配列に起因した信号量のばらつきと複数の画素で特定の回路素子を共有する構造に起因した信号量のばらつきの両方を補正するため、カラーフィルタの基本配列パターンの繰り返し周期(M×M)とアンプ共有構造の繰り返し周期(N×N)との最小公倍数に相当する数(MN×MN)の補正係数を予め記憶しておき、その中から各画素ごとに適切な補正係数を選択し、その選択した補正係数を各画素の信号量に掛けるようにすることが考えられる。
しかしながらカラーフィルタが2×2のベイヤ配列であってアンプ共有構造も2×2の4画素正方配列である場合には4個の補正係数で済むが、例えばカラーフィルタ配列が3×3配列であったり6×6配列であるような場合には、補正係数の数(MN×MN)が膨大になってしまい、補正処理の時間や回路規模が増大してしまう問題がある。
特許文献1に記載の構成では、遮光画素を用いるため、アンプ共有構造の光学的特性のばらつきに起因した画素間の感度比の補正には適用不可である。
特許文献2、3に記載の構成では、カラーフィルタの繰り返しの配置周期とアンプ共有構造の繰り返しの配置周期とが異なると、補正係数が膨大に増えるという問題が生じる。
また、ベイヤ配列では、緑(G)画素を市松模様(チェッカー盤柄)状に配置し、赤(R)、青(B)を線順次に配置しているため、各色の再現帯域を越えた高周波信号の折り返りと各色の位相のずれにより低周波の色付き(色モアレ)が発生するという問題がある。従って、ベイヤ配列以外のカラーフィルタ配列でも精度良く且つ容易に感度比を補正することができる構成が求められている。
本発明はこのような事情に鑑みてなされたもので、撮像素子のカラーフィルタの色配列に起因した信号量のばらつきと複数の画素で特定の回路素子を共有する構造に起因した信号量のばらつきとを簡易な構成で高速且つ精度良く補正することができる撮像装置及び信号量補正方法を提供することを目的とする。
前記目的を達成するために、本発明は、水平方向及び垂直方向の二次元で配列された光電変換素子からなる複数の画素上に、複数のカラーフィルタがそれぞれ配置されている撮像素子と、前記撮像素子の各画素の信号量を補正するための情報を記憶する記憶手段と、前記記憶手段に記憶されている情報を用いて前記撮像素子の前記各画素の信号量を補正する補正手段とを備えた撮像装置であって、前記撮像素子の複数の画素は、複数画素単位で特定の回路素子を共有し、前記撮像素子の複数のカラーフィルタは、3色以上の各色のカラーフィルタを混在させた基本配列パターンを水平方向及び垂直方向に繰り返し配置したものであり、前記基本配列パターンの配置の周期は、前記特定の回路素子及び前記複数画素からなる共有構造パターンの配置の周期と異なり、前記記憶手段は、前記撮像素子の前記複数のカラーフィルタの色にそれぞれ対応する複数の第1の補正係数と、前記撮像素子の特定の回路素子の位置を基準にした前記画素の複数の相対位置にそれぞれ対応する複数の第2の補正係数とを記憶し、前記補正手段は、前記撮像素子の前記複数の画素にそれぞれ注目して各注目画素の信号量を補正するとき、前記記憶手段に記憶されている前記複数の第1の補正係数から前記注目画素上の前記カラーフィルタの色に対応する第1の補正係数を選択して、前記記憶手段に記憶されている前記複数の第2の補正係数から前記注目画素の前記相対位置に対応する第2の補正係数を選択し、選択された第1の補正係数及び第2の補正係数を前記注目画素の信号量に対して演算する撮像装置を提供する。
即ち、撮像素子のカラーフィルタの色に応じた第1の補正係数と、撮像素子の特定の回路素子の位置を基準にした画素の相対位置に応じた第2の補正係数とを記憶手段に記憶させておくだけで、各画素ごとに適切な第1の補正係数及び第2の補正係数の組み合わせが選択されて各画素の信号量に対して演算されるので、撮像素子のカラーフィルタの色配列に起因した信号量のばらつきと複数の画素で特定の回路素子を共有する構造に起因した信号量のばらつきとが、必要最小限の個数の補正係数で高速且つ精度良く補正される。
一実施形態では、前記記憶手段は、前記第1の補正係数及び前記第2の補正係数を含む補正係数であって、前記各画素間の感度比を補正するための感度比補正係数と、前記各画素に隣接した隣接画素上のカラーフィルタの混色を補正するための混色補正係数とを記憶し、前記補正手段は、前記注目画素の信号量に対して前記感度比補正係数及び前記混色補正係数のうち一方の前記第1の補正係数及び前記第2の補正係数を演算し、その演算結果に対して前記感度比補正係数及び前記混色補正係数のうち他方の前記第1の補正係数及び前記第2の補正係数を演算する。即ち、第1段の補正として、各注目画素の信号量に対して感度比補正係数及び混色補正係数のうち一方(例えば感度比補正係数)の第1の補正係数及び第2の補正係数が演算され、第2段の補正として、その演算結果に対して感度比補正係数及び混色補正係数のうち他方(例えば混色補正係数)の前記第1の補正係数及び前記第2の補正係数が演算されるので、画素の信号量が従来より精度良く補正される。
一実施形態では、前記第2の補正係数を計算する補正係数計算手段であって、前記特定の回路素子を基準にした相対位置が異なる画素間の信号量を比較して前記第2の補正係数を計算する補正係数計算手段を備え、前記記憶手段は、前記補正係数計算手段によって計算された前記第2の補正係数を記憶する。即ち、アンプ共有構造要因の感度比の補正係数をカラーフィルタ要因の感度比の補正係数とは分離して求めることができる。
一実施形態では、前記補正係数計算手段は、前記撮像素子によって生成された撮像画像の全部又は一部に基づいて、前記特定の回路素子を基準にした相対位置ごとに、前記複数の共有構造パターンにわたり同色の複数の画素の信号量の平均値を計算し、該平均値を異なる相対位置間で比較することで、前記第2の補正係数を計算する。即ち、感度比の補正係数を、レンズ交換に因る入射角の変化等の撮影環境の変化に容易に追従させることができる。
一実施形態では、前記撮像素子は、前記各基本配列パターン内に白いカラーフィルタを有し、前記補正係数計算手段は、複数の前記基本配列パターンにわたり、前記白いカラーフィルタに対応した各画素の信号量を平均することで前記第2の補正係数を計算する。即ち、白画素の感度が良い特性を利用することで、精度良く補正係数を求めることができる。
また、本発明は、水平方向及び垂直方向の二次元で配列された光電変換素子からなる複数の画素上に、複数のカラーフィルタがそれぞれ配置されている撮像素子の各画素の信号量を補正する信号量補正方法であって、前記撮像素子の複数の画素は、複数画素単位で特定の回路素子を共有し、前記撮像素子の複数のカラーフィルタは、3色以上の各色のカラーフィルタを混在させた基本配列パターンを水平方向及び垂直方向に繰り返し配置したものであり、前記基本配列パターンの配置の周期は、前記特定の回路素子及び前記複数画素からなる共有構造パターンの配置の周期と異なり、前記撮像素子の前記複数のカラーフィルタの色にそれぞれ対応する複数の第1の補正係数と、前記撮像素子の特定の回路素子の位置を基準にした前記画素の複数の相対位置にそれぞれ対応する複数の第2の補正係数とを記憶デバイスに予め記憶しておき、前記撮像素子の前記複数の画素にそれぞれ注目して各注目画素の信号量を補正するとき、前記複数の第1の補正係数から前記注目画素上の前記カラーフィルタの色に対応する第1の補正係数を選択して、前記複数の第2の補正係数から前記注目画素の前記相対位置に対応する第2の補正係数を選択し、選択された第1の補正係数及び第2の補正係数を前記注目画素の信号量に対して演算する信号量補正方法を提供する。
本発明によれば、撮像素子のカラーフィルタの色配列に起因した信号量のばらつきと複数の画素で特定の回路素子を共有する構造に起因した信号量のばらつきとを簡易な構成で高速且つ精度良く補正することができる。
第1実施形態における撮像装置の一例の全体構成を示すブロック図 第1実施形態における撮像素子の一例の一部を模式的に示す図 撮像素子のカラーフィルタ配列の一例を示す図 第1実施形態における感度補正処理例の流れを示すフローチャート 第1実施形態における混色補正処理例の流れを示すフローチャート 第2実施形態における撮像素子の一例の一部を模式的に示す図 第2実施形態における撮像装置の一例の全体構成を示すブロック図 第3実施形態における撮像素子の一例の一部を模式的に示す図 第3実施形態における混色補正処理例の流れを示すフローチャート 第4実施形態における撮像素子の一例の一部を模式的に示す図 第4実施形態における撮像装置の一例の全体構成を示すブロック図 第4実施形態における混色補正処理例の流れを示すフローチャート 共有構造パターンの他の例を示す図 第1実施例のカラーフィルタ配列を示す図 第1実施例のカラーフィルタ配列における基本配列パターンの説明に用いる説明図 第2実施例のカラーフィルタ配列を示す図
以下、添付図面に従って、本発明の実施形態について、詳細に説明する。
<第1実施形態>
図1は、本発明に係る第1実施形態における撮像装置の一例の全体構成を示すブロック図である。ここで撮像装置とは、カメラ単体に限られず、カメラ付き携帯電話、カメラ付きスマートフォン、カメラ付きタブレット型コンピュータ、カメラ付き音楽プレーヤなどの各種の情報機器や電子機器を含みうる。
撮像装置100は、入射した被写体光を被写体像として結像する撮影レンズ10と、アイリス11と、撮影レンズ10によって結像された被写体像を撮像する撮像素子12と、撮影レンズ10から撮像素子12まで至る被写体光の光路13を開閉することで撮像素子12の遮光状態と光照射状態とを切り替えるメカシャッタ14と、撮像素子12から出力された撮像信号をメモリ20に入力する画像入力コントローラ19と、デジタルの画像信号を一時記憶するメモリ20と、メモリ20に一時記憶されたデジタルの画像信号に対して所定のデジタル信号処理を行う画像信号処理回路22と、デジタルの画像信号に対する圧縮処理及び伸張処理を行う圧縮処理回路24と、デジタルの画像データの入出力を行うメディアコントローラ26と、圧縮されたデジタルの画像信号がメディアコントローラ26の制御により撮像画像として記録される記録メディア27と、各種の指示が入力される指示入力部29と、撮影レンズ10を駆動するモータドライバ30と、アイリス11を駆動するモータドライバ31と、メカシャッタ14を駆動するモータドライバ34を備える。
撮像素子12は、CMOS(Complementary Metal Oxide Semiconductor)撮像素子によって構成されている。撮像素子12のうちの一部である特定の2×2画素分の構造を図2に模式的に示す。この撮像素子12は、水平方向x及び垂直方向yの二次元で配列された光電変換素子からなる複数の画素62上に、複数のカラーフィルタ64がそれぞれ配置されて構成されている。また、複数の画素62は、2×2画素単位で特定の回路素子としてアンプ66(増幅素子)を共有している。複数のカラーフィルタ64は、図3に示すように、3色以上(本例ではR,G、Bの3色)の各色のカラーフィルタ64を混在させて配列した3×3画素の基本配列パターンBPを、水平方向x及び垂直方向yに繰り返し配置したものである。共有構造パターンCPは、アンプ66及びアンプ66を共有した2×2画素からなる。基本配列パターンBPの配列数(3×3)と共有構造パターンCPの配列数(2×2)との最小公倍数の配列数は6×6になる。その6×6の拡張パターンに対して図中EPを付した。拡張パターンEPでは、カラーフィルタの色と共有アンプ66からの相対位置との組み合わせは36通りになる。
撮像素子12は、撮像領域12aから出力されたアナログの画像信号をデジタルの画像信号に変換するAD変換部18と、撮像領域12aの撮像タイミングを生成するタイミングジェネレータ32を有する。
撮影レンズ10によって撮像素子12に結像された被写体像は、撮像素子12の画素62を構成している光電変換素子によって入射光量に応じた信号電荷に変換される。各光電変換素子に蓄積された信号電荷は、CPU50の指令に従ってタイミングジェネレータ32から与えられる駆動パルスに基づいて、信号電荷の量に応じた電圧信号(画像信号)として撮像素子12から順次読み出される。撮像素子12から読み出される画像信号は、撮像素子12のカラーフィルタ配列に対応したR,G,Bの画像信号である。
撮像素子12から出力されたデジタルの画像信号は、画像入力コントローラ19の制御によって、メモリ20に一時記憶される。この一時記憶されたデジタルの画像信号には、画像信号処理回路22によって、ホワイトバランス補正、ガンマ補正、輝度信号及び色差信号の生成、輪郭補正、色補正等、各種のデジタル信号処理が施される。このようなデジタル信号処理が施された画像信号は、圧縮処理回路24によって、JPEG規格等に準拠した圧縮処理が施された後、メディアコントローラ26によってメモリカード等の記録メディア27に記録される。
また、撮像装置100は、撮像素子12の各画素の信号量を補正するための補正係数を記憶する補正係数記憶部40と、補正係数記憶部40に記憶されている補正係数を用いて感度補正を行う感度補正部42と、補正係数記憶部40に記憶されている補正係数を用いて混色補正を行う混色補正部44と、撮像装置100の各部を制御するCPU50を備える。補正係数記憶部40は、例えば不揮発性メモリによって構成される。感度補正部42及び混色補正部44は、例えば演算回路によって構成される。感度補正部42及び混色補正部44をCPU50に含ませてもよい。
補正係数記憶部40は、撮像素子12の複数のカラーフィルタ64の色にそれぞれ対応する複数の第1の補正係数と、撮像素子12の共有アンプ66の位置を基準にした画素62の複数の相対位置にそれぞれ対応する複数の第2の補正係数とを記憶する。本例では、補正係数記憶部40は、不揮発性のメモリによって構成されている。本例の補正係数記憶部40は、複数の第1の補正係数として、撮像素子12のカラーフィルタ64の分光特性の異なる種類の数と同数の第1の補正係数を記憶する。また、本例の補正係数記憶部40は、複数の第2の補正係数として、撮像素子1の共有構造パターンCPのひとつに存在する画素の数と同数の第2の補正係数を記憶する。
CPU50は、感度補正部42及び混色補正部44を制御することで、撮像素子12の各画素から出力される信号量の補正を制御する。
[本発明における信号量補正の原理]
次に、本発明における信号量の補正の原理について、説明する。
感度補正部42及び混色補正部44は、撮像素子12の複数の画素62にそれぞれ注目して各注目画素の信号量を補正するとき、補正係数記憶部40に記憶されている複数の第1の補正係数から注目画素上のカラーフィルタ64の色に対応する第1の補正係数を選択して、補正係数記憶部40に記憶されている複数の第2の補正係数から共有アンプ66を基準とした注目画素の相対位置に対応する第2の補正係数を選択し、選択された第1の補正係数及び第2の補正係数を注目画素の信号量に対して演算する。従って、撮像素子12のカラーフィルタ64の色配列に起因した信号量のばらつきと複数の画素でアンプ66を共有する構造に起因した信号量のばらつきとが、必要最小限の個数の補正係数で高速且つ精度良く補正される。
また、第1段の信号量補正として、感度補正部42により、各注目画素の信号量に対して感度比補正係数の第1の補正係数及び第2の補正係数が演算され、第2段の信号量補正として、混色補正部44により、感度補正部42の演算結果に対して混色補正係数の第1の補正係数及び第2の補正係数が演算されるので、画素の信号量が従来よりも精度良く補正される。第1段の信号量補正として、混色補正部44により、各注目画素の信号量に対して混色補正係数の第1の補正係数及び第2の補正係数を演算し、第2段の信号量補正として、感度補正部42により、混色補正部44の演算結果に対して感度比補正係数の第1の補正係数及び第2の補正係数を演算するようにしてもよい。
[第1実施形態における信号量補正の一例]
図4は、第1実施形態における感度比補正処理例の流れを示すフローチャートである。本処理は、図1のCPU50の制御によりプログラムに従って実行される。CPU50は、感度補正部42を用い、撮像素子12の複数の画素にそれぞれ注目して、各画素間の感度比を補正する。
まず、CPU50は、注目画素が補正対象範囲内であるか否かを判定する(ステップS2)。補正対象範囲は、任意であるが、例えば実効画素領域である。補正対象範囲内である場合には、ステップS4〜S12を実行する。
CPU50は、注目画素について、色情報を取得する(ステップS4)。本例では、撮像素子12が、R、G、Bの3色のカラーフィルタを有しており、注目画素がR、G、Bのいずれのカラーフィルタ付きであるかを示す情報を取得する。各画素の色情報は、例えば、メモリ20に記憶されており、その色情報を取得する。
感度補正部42は、補正係数記憶部40に記憶されている複数の第1の感度比補正係数A_r,A_g,A_bのうちで、注目画素上のカラーフィルタの色に対応する補正係数を選択し、A_centerとする(ステップS6)。ここで、A_r,A_g,A_bは、カラーフィルタの色に応じた補正係数であって、本例ではそれぞれR、G、Bに応じた補正係数である。即ち、補正係数記憶部40に記憶されているA_r,A_g,A_bのうちで、注目画素に対応したカラーフィルタの色の補正係数を補正係数記憶部40から取得する。
次に、CPU50は、注目画素について、共有アンプ66の位置を基準にした相対位置情報を取得する(ステップS8)。本例では、ひとつの共有アンプ66が2×2の4画素(左上、右上、左下、右下)で共有されており、CPU50は、注目画素が共有アンプ66に対して左上、右上、左下、右下のいずれの位置であるかを示す情報を取得する。相対位置情報は、例えば、各画素と共有アンプ66との相対位置を示す情報として補正係数記憶部40に記憶される。
感度補正部42は、補正係数記憶部40に記憶されている第2の感度比補正係数B_ul,B_ur,B_ll,B_lrのうちで、注目画素の共有アンプ66に対する相対位置のものを選択し、B_centerとする(ステップS10)。ここで、B_ul,B_ur,B_ll,B_lrは、共有アンプ66に対する注目画素の相対位置に応じた補正係数であって、それぞれ注目画素がその注目画素の共有アンプ66に対して左上画素、右上画素、左下画素、右下画素である場合の感度比補正係数である。
次に、感度補正部42は、感度比補正を実行する(ステップS12)。本例では、次式を実行する。
X’=X * A_center * B_center
ここで、Xは各画素の感度比補正前の信号量であり、X’は感度比補正後の各画素の信号量であり、「*」は掛け算を示す。即ち、感度補正部42は、カラーフィルタの色に応じた第1の感度比補正係数A_centerと、共有アンプ66の位置を基準とした相対位置に応じた第2の感度比補正係数B_centerとを、注目画素の信号量に対して掛け算する。
CPU50は、ステップS4〜S12を実行後、注目画素が補正対象範囲内の最終画素であるか否かを判定する(ステップS14)。最終画素でない場合にはステップS2に戻り、最終画素である場合には本処理を終了する。
また、CPU50は、注目画素が補正対象範囲内でない場合(ステップS2でNo)、次画素を注目画素とする(ステップS16)。
図5は、第1実施形態における混色補正処理例の流れを示すフローチャートである。本処理は、図1のCPU50の制御によりプログラムに従って実行される。CPU50は、混色補正部44を用い、撮像素子12の複数の画素にそれぞれ注目して各注目画素の隣接画素上のカラーフィルタの混色を補正する。
まず、CPU50は、注目画素が補正対象範囲内であるか否かを判定する(ステップS22)。補正対象範囲内である場合には、CPU50は、ステップS24〜S34を実行する。
CPU50は、注目画素の上隣り画素(上画素)について、色情報を取得する(ステップS24)。つまり、CPU50は、上画素がR、G、Bのいずれのカラーフィルタ付きであるかを示す情報を取得する。各画素の色情報は、例えば、メモリ20に記憶されており、CPU50は、その色情報を取得する。
混色補正部44は、補正係数記憶部40に記憶されている複数の第1の混色補正係数C_r,C_g,C_bのうちで、上画素上のカラーフィルタの色に対応する補正係数を選択し、C_upとする(ステップS26)。ここで、C_r,C_g,C_bは、カラーフィルタの色に応じた補正係数であって、本例ではそれぞれR、G、Bに応じた補正係数である。即ち、混色補正部44は、補正係数記憶部40に記憶されているC_r,C_g,C_bのうちで、上画素に対応したカラーフィルタの色の補正係数を補正係数記憶部40から取得する。
次に、混色補正部44は、注目画素の上隣り画素(上画素)について、共有アンプ66の位置を基準にした相対位置情報を取得する(ステップS28)。本例では、混色補正部44は、上画素が共有アンプ66に対して左上、右上、左下、右下のいずれの位置であるかを示す情報を取得する。
次に、CPU50は、補正係数記憶部40に記憶されている第2の混色補正係数D_ul,D_ur,D_ll,D_lrのうちで、上画素の共有アンプ66に対する相対位置(左上、右上、左下、右下)に応じた補正係数を選択し、D_upとする(ステップS30)。ここで、D_ul,D_ur,D_ll,D_lrは、上画素が他の画素と共有している共有アンプ66(注目画素の共有アンプ66とは異なる場合がある)を基準とした上画素の相対位置に応じた補正係数であって、それぞれ上画素がその上画素の共有アンプ66に対して左上画素、右上画素、左下画素、右下画素である場合の混色補正係数である。
CPU50は、注目画素の下画素(下隣り画素)、左画素(左隣り画素)、右画素(右隣り画素)についても、上画素のC_up,D_upと同様に、混色補正係数を選択する(ステップS32)。
CPU50は、下画素の色に応じた補正係数をC_down、下画素の共有アンプ66に対する位置に応じた補正係数をD_down、左画素の色に応じた補正係数をC_left、左画素の共有アンプ66に対する位置に応じた補正係数をD_left、右画素の色に応じた補正係数をC_right、下画素の共有アンプ66に対する位置に応じた補正係数をD_rightとする。
次に、混色補正部44は、混色補正を実行する(ステップS34)。本例では、次式を実行する。
X”=X’- X_up*C_up*D_up-X_down*C_down*D_down - X_left*C_left*D_left - X_right*C_right*D_right
ここで、X’は感度比補正後の注目画素(自画素)の信号量、X_upは上画素の信号量、X_leftは左画素の信号量、X_rightは右画素の信号量、X”は混色補正後の注目画素(自画素)の信号量、「*」は掛け算を示す。
即ち、混色補正部44は、感度比補正後の自画素信号量X’から、上画素信号量X_upにその混色補正係数C_up、D_upを乗じて減算し、下画素信号量X_ downにその混色補正係数C_down、D_downを乗じて減算し、左画素信号量X_leftにその混色補正係数C_left、D_leftを乗じて減算し、右画素信号量X_rightにその混色補正係数C_right、D_rightを乗じて減算する。これにより、混色補正部44は、自画素の信号量から混色成分を除去する。
CPU50は、ステップS14〜S34を実行後、注目画素が補正対象範囲内の最終画素であるか否かを判定する(ステップS36)。最終画素でない場合にはステップS22に戻り、最終画素である場合には本処理を終了する。
また、CPU50は、注目画素が補正対象範囲内でない場合(ステップS22でNo)、次画素を注目画素とする(ステップS38)。
尚、図4及び図5を用いて、感度比補正後に混色補正を行う場合を例に説明したが、本発明はこのような場合に特に限定されず、混色補正後に感度比補正を行ってもよい。
<第2実施形態>
図6は、第2実施形態における撮像素子12の一例の一部を示す模式図である。本例の撮像素子12では、カラーフィルタの基本配列パターンBP(ベイヤ配列)の配列数が2×2であり、共有アンプ66の共有構造パターンCPの配列数が3×3である。よって、カラーフィルタの基本配列パターンBPの配列数(3×3)と共有構造パターンCPの配列数(2×2)との最小公倍数の配列数は6×6になる。その6×6の拡張パターンに対して図中に符号EPを付した。拡張パターンEPでは、カラーフィルタの色と共有アンプ66からの相対位置との組み合わせは36通りになり、本発明を用いない場合には36種類の補正係数を管理する必要がある。
感度比補正は、図4に示した手順と同様に実施することができる。混色補正は、図5に示した手順と同様に実施することができる。
本発明では、カラーフィルタの色に応じた補正係数と、共有アンプ66を基準にした画素の相対位置に応じた補正係数とを補正係数記憶部40に記憶して、これらの補正係数を各画素の信号量に演算する。即ち、カラーフィルタの色が3種類(R、G、B)であり、共有アンプ66からの相対位置が9種類(左上、上、右上、左、中心、右、左下、下、右下)なので、予め記憶すればよい補正係数は、感度比補正のみ行う場合には12(=3+9)種類でよい。第1実施形態と同様に感度比補正及び混色補正を行う場合でも補正係数が少なくても済む。
<第3実施形態>
図7は、第3実施形態における撮像装置の一例を示すブロック図である。この撮像装置100は、アンプ共有構造に起因した感度差を補正するための感度補正係数を計算する感度補正係数計算部46を備える。他の構成要素は、図1に示した第1実施形態における構成要素と同様であり、説明を省略する。
本例の感度補正係数計算部46は、共有アンプ66を基準にした相対位置ごとに、複数の共有構造パターンにわたり同色の複数の画素の信号量の平均値を計算し、計算した平均値を異なる相対位置間で比較することで、アンプ共有構造に起因した感度差を補正するための感度比補正係数(第2の感度比補正係数)を計算する。
図8は、第3実施形態における撮像素子12の一例の一部を示す模式図であって、複数のG画素を、共有アンプ66を基準にした相対位置でグループ化した様子を示す。図中、共有アンプ66の左上に位置した画素K1をAグループ(左上画素群)、右上に位置した画素K2をBグループ(右上画素群)、左下に位置した画素K3をCグループ(左下画素群)、右下に位置した画素K4をDグループ(右下画素群)としている。
図9は、第3実施形態における補正処理例の流れを示すフローチャートである。本処理は、図1のCPU50の制御によりプログラムに従って実行される。
まず、CPU50は、1番目の領域を指定する(ステップS40)。
感度補正係数計算部46は、指定領域内のAグループ(左上画素群)、Bグループ(右上画素群)、Cグループ(左下画素群)及びDグループ(右下画素群)の各画素群で、それぞれG(緑)の信号量を平均し、A_ave, B_ave, C_ave, D_aveとする(ステップS42)。
次に、感度補正係数計算部46は、B,C,Dグループのアンプ共有構造に起因した感度比を補正するための補正係数A_ave/B_ave, A_ave/C_ave, A_ave/D_ave を計算する(ステップS44)。即ち、本例では、感度補正係数計算部46は、Aグループ(左上画素群)の信号量の平均値を基準の感度として、グループ間の感度比の逆数を、補正係数として計算している。
次に、CPU50は、指定領域は最終領域であるか否かを判定し(ステップS46)、最終領域でなければ(ステップS46でNo)、次の領域を指定領域として(ステップS48)、ステップS42〜44を繰り返す。
CPU50は、全ての指定領域で感度比の補正係数を求め終わったら、感度比補正を実施する(ステップS50)。この感度比補正は、図4を用いて既に説明した第1実施形態における処理と同じであり、ここではその説明を省略する。図5に示した第1実施形態の混色補正を併せて行ってもよい。
以上では、G(緑)画素の信号量に基づいて感度比補正係数を求めたが、R(赤)等の他の色の画素の信号量に基づいて感度比補正係数を求めてもよい。
本実施形態によれば、アンプ共有構造に起因した感度のばらつきを補正するための補正係数(アンプ共有感度比補正係数)を、カラーフィルタに起因した感度のバラつきを補正するための補正係数(混色)から分離して、計算することができる。
また、アンプ共有に起因した感度比補正係数を撮影画像から求めることができる。これにより、予め補正テーブルを準備する必要が無い上に、ズーム動作やレンズ交換等を行って光学条件が変化していても追従可能になる。
<第4実施形態>
図10は、第4実施形態における撮像素子の一例の要部を示す模式図である。本例の撮像素子12では、アンプ共有構造が2×2配列であり、カラーフィルタの基本配列が3×3配列である。図中、「R」が赤色、「G」が緑色、「B」が青色、「W」が白色のカラーフィルタ及び画素を示す。つまり、本実施形態の撮像素子12は、白画素を有する。白画素を用いた撮像素子12wは、白画素を用いない撮像素子12に比べ感度を高くできるため、輝度ノイズ低減に効果がある。
本例では、共有アンプ66の共有構造パターンが2×2画素であるため、共有アンプ66に対する相対位置は4通りある。
図11は、図10の撮像素子12を備えた撮像装置100の一例のブロック図である。この撮像装置100は、図7の撮像装置100と同様に感度補正係数計算部46を備えるが、その感度補正係数計算部46内に、メモリ20に記憶されている撮像画像から白画素の信号量を取得する白画素信号量取得部46wが有る点で図7に示した第3実施形態の撮像装置100と異なる。以下では、第3実施形態と異なる点のみを説明する。
図12は、第4実施形態における補正処理例の流れを示すフローチャートである。本処理は、図11のCPU50の制御によりプログラムに従って実行される。
まず、CPU50は、1番目の領域を指定する(ステップS60)。
次に、感度補正係数計算部46は、メモリ20に記憶されている撮像画像から白画素の信号量を取得して、指定領域内のA〜Dグループ(4グループ)の各画素群で、それぞれW(白)の信号量を平均し、A_ave,B_ave,C_ave,D_aveとする(ステップS62)。A〜Dグループは、それぞれ左上画素群、右上画素群、左下画素群、及び右下画素群である。
次に、感度補正係数計算部46は、B〜Dグループのアンプ共有構造に起因した感度比の補正係数A_ave/B_ave, A_ave/C_ave, 及びA_ave/D_aveを計算する(ステップS64)。
次に、CPU50は、指定領域が補正対象領域内の最終領域であるか否かを判定し(ステップS66)、最終領域でなければ(ステップS66でNo)、次の領域を指定領域として(ステップS68)、ステップS62〜64を繰り返す。
CPU50は、全ての指定領域で感度比の補正係数を求め終わったら、感度比補正を実施する(ステップS70)。この感度比補正は、図4を用いて既に説明した第1実施形態における処理と同じであり、ここではその説明を省略する。図5に示した第1実施形態の混色補正を併せて行ってもよい。
白画素は実質的にカラーフィルタが付加されていない画素と等価と考えることができ、アンプ共有構造のみに起因した感度比を発生する。従って、カラーフィルタに起因した感度比とアンプ共有構造に起因した感度比とを精度良く分離することが可能となる。また、白画素は、カラーフィルタが付加された画素よりも感度が高いため、補正係数の精度を確保しやすい。
尚、本発明における「白いカラーフィルタ」は、白色のカラーフィルタである場合や、カラーフィルタが付加されていない場合(カラーフィルタ無しの場合)には、特に限定されない。「白いカラーフィルタ」は、無色のカラーフィルタを含む。可視光に対し略透明(例えば透過率が80%以上)のフィルタでもよい。
また、上記の例では、白画素が色画素の一つとして用いられた場合を例に説明したが、白画素の数を間引きにより減らすことも可能であり、この場合には計算時間を短縮できる。
<共有構造パターンのバリエーション>
以上、第1実施形態〜第4実施形態では、図3、図6等に示したように、同一種類の共有構造パターンCPが繰り返し配置された撮像素子12を例に説明したが、本発明はこのような場合には限定されない。画素の配置パターンが異なる複数種類の共有構造パターンが繰り返し配置された撮像素子12であってもよい。
図13は、画素の配置パターンが異なる複数種類(複数組)の共有構造パターンCP1、CP2が繰り返し配置された撮像素子12の一例の一部を示す。図13にて、「R」、「B」、「G」はそれぞれ、カラーフィルタの色が赤、青、緑であることを示す。第1の共有構造パターンCP1は、左上画素R11、左中画素G12,左下画素R13、右上画素G21からなる。第2の共有構造パターンCP2は、左上画素B22、左中画素G23,左下画素B24、及び右下画素G34からなる。そして、画素の配置パターンが異なる二種類の共有構造パターンCP1、CP2が水平方向x及び垂直方向yに繰り返し配列されている。
感度補正部42及び混色補正部44は、複数種類の共有構造パターンCP1、CP2のそれぞれで、共有アンプ66を基準とした画素62の相対位置に応じて信号量の補正を行う。
尚、本発明において、異なる共有構造パターンの種類の数は2組には、限定されない。
[カラーフィルタ配列の各種の実施例]
以下では、カラーフィルタ配列の各種の実施例を詳細に説明する。
(カラーフィルタ配列の第1実施例)
第1実施例のカラーフィルタ配列を図14に示す。
図14は、撮像素子12に設けられているカラーフィルタ64の配列(以下「カラーフィルタ配列」という)の一例を示している。各画素上には、赤(R)、緑(G)、青(B)の3原色のカラーフィルタのうちのいずれかが配置される。
尚、図14にて、光電変換素子からなる画素62はカラーフィルタ64で隠れており、アンプ66も本来は同様にカラーフィルタ64で隠れて見えないが、アンプ66の共有構造が判別できるようにアンプ66を透視して描いた。
図14に示すカラーフィルタ配列は、下記の第1〜第3の特徴を有している。
(第1の特徴)図14に示すカラーフィルタ配列は、3色(R,G,B)の各色のカラーフィルタ64を混在させて正方配列(本例では水平方向に6個、垂直方向に6個)配列した基本配列パターンBP(太枠で示したパターン)を、水平方向x及び垂直方向yに繰り返し配置したものである。即ち、このカラーフィルタ配列では、R、G、Bの各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が所定の周期性をもって配列されている。
このようにRフィルタ、Gフィルタ、Bフィルタが所定の周期性をもって配列されているため、撮像素子から読み出されるR、G、B信号の同時化(補間)処理(デモザイク処理とも言う)等を行う際に、繰り返しパターンにしたがって処理を行うことができる。
(第2の特徴)基本配列パターンBPの配置の周期(6×6)は、アンプ66及び2×2画素からなる共有構造CPの配置の周期(2×2)と比較して、水平方向x及び垂直方向yのいずれでも3倍である。基本配列パターンBP内には、アンプ共有構造の2×2画素(共有正方配列パターン)にそれぞれ対応する2×2個のカラーフィルタ64であって同一色の2×2個のカラーフィルタ64からなる同色正方配列パターンGPが少なくともひとつ含まれている。即ち、基本配列パターンBP内には、アンプ共有構造の2×2画素に水平方向x及び垂直方向yの両方で位置が一致する2×2個のカラーフィルタ(同色正方配列パターンCPのカラーフィルタ)が含まれている。
このように基本配列パターンBP内には、共有構造の2×2画素に水平方向x及び垂直方向yの両方で位置が一致する同色正方配列パターンGPのカラーフィルタが含まれているので、アンプ共有構造に起因した感度差を、同色正方配列パターンGPに対応した2×2画素の信号量に基づいて、容易に検出することが可能となる。
第3の特徴について説明する。図14にて、基本配列パターンBPは、複数色(R、G、B)の各色に注目したとき、それぞれ基本配列パターンBP内において水平方向x及び垂直方向yの各ラインに1つ以上配置されている。例えば、「G」のカラーフィルタ(以下では単に「G」という)が、基本配列パターンBP内において、水平方向ではx=0〜5の各ラインに1個以上、垂直方向yではy=0〜5の各ラインに1個以上、それぞれ配置されている。同様に、「R」のカラーフィルタ(以下では単に「R」という)が、基本配列パターンBP内において、水平方向xではx=0〜5の各ラインに1個以上、垂直方向yではy=0〜5の各ラインに1個以上、配置されている。同様に、「B」のカラーフィルタ(以下では単に「B」という)が、基本配列パターンBP内において、水平方向xではx=0〜5の各ラインに1個以上、垂直方向yではy=0〜5の各ラインに1個以上、配置されている。このような特徴により、色モワレ(偽色)の発生を抑制することができる。
第4の特徴について説明する。図14にて、複数のカラーフィルタでは、水平方向x及び垂直方向yのそれぞれにおいて、複数色(R、G、B)の各色に注目したとき、同一ライン上に同色のカラーフィルタが2種類以上の配置間隔で配置されているラインが存在する。例えば、y=0の水平ライン(図中で最も上の水平ライン)で「G」に注目したとき、座標(0,0)の「G」と座標(2、0)の「G」との間隔は2画素分、座標(2,0)の「G」と座標(3,0)の「G」との間隔は1画素分である。y=2、3、5の水平ラインも同様である。y=1の水平ライン(図中で上から2番目の水平ライン)で「B」に注目したとき、座標(0,1)の「B」と座標(2,1)の「B」との間隔は2画素分、座標(2,1)の「B」と座標(6,1)の「B」との間隔は4画素分である。同じy=1の水平ラインで「R」に注目したとき、座標(3,1)の「R」と座標(5,1)の「R」との間隔は2画素分、座標(5,1)の「R」と座標(9,1)の「R」との間隔は4画素分である。y=4の水平ラインも同様である。また、垂直方向のラインを各色ごとに見たときも同様である。このようなラインは、水平方向x及び垂直方向yのそれぞれにおいて、少なくとも基本配列パターンBPの繰返し周期(水平方向xで6、垂直方向で6)以下の間隔で存在する。このような特徴により、周期的なパターンの幾何学的なノイズの発生が抑制される。
第5の特徴について説明する。輝度系画素に対応するGフィルタは、基本配列パターンBP内において、水平方向、垂直方向、斜め方向(NE,NW)の各方向に2以上隣接する部分が含まれるように配置されている。
輝度系画素に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め(NE,NW)方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域での同時化処理(デモザイク処理)の再現精度を向上させることができる。
第6の特徴について説明する。図14にて、同色正方配列パターンGPを構成している各カラーフィルタ64を第kの同色フィルタ(kはアンプ66に対する位置を示す1から4の整数)としたとき、第1の同色フィルタ(アンプ66に対して左上の「G」)に隣接する複数のカラーフィルタ(0時の方向から時計回りにBRGGGBRG)と、第2の同色フィルタ(アンプ66に対して右上の「G」)に隣接する複数のカラーフィルタ(3時の方向から時計回りにBRGGGBRG)と、第3の同色フィルタ(アンプ66に対して左下の「G」)に隣接する複数のカラーフィルタ(6時の方向から時計回りにBRGGGBRG)と、第4の同色フィルタ(アンプ66に対して右下の「G」)に隣接する複数のカラーフィルタ(9時の方向から時計回りにBRGGGBRG)との間で、色の組み合わせ(RGB)及び各色ごとの数(R2個、G4個、B2個)が同一である。本例において、同一の同色正方配列パターン内では、いずれの同色フィルタに注目しても、隣接するカラーフィルタが時計回りにBRGGGBRGという順序で配列されている。つまり、いずれの同色フィルタも、同様な色配列で隣接するカラーフィルタに囲まれている。
図15は、図14に示した基本配列パターンBPを、3×3画素に4分割した状態に関して示している。図15に示すように基本配列パターンBPは、実線の枠で囲んだ3×3画素のA配列と、破線の枠で囲んだ3×3画素のB配列とが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。A配列及びB配列では、それぞれ輝度系画素であるGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、A配列では、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが垂直方向に配列され、一方、B配列では、中央のGフィルタを挟んでRフィルタが水平方向に配列され、Bフィルタが垂直方向に配列されている。即ち、A配列とB配列とは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、図14に示した基本配列パターンBPは、その基本配列パターンの中心(4つのGフィルタの中心)に対して点対称になっている。また、図15に示すように、基本配列パターン内のA配列及びB配列も、それぞれ中心のGフィルタに対して点対称になっており、かつ上下左右が対称(線対称)になっている。更に、図14に示すように、撮像素子12のカラーフィルタ配列では、Gフィルタが、カラーフィルタ配列の斜め方向(NE、NW)の各ライン内に配置されており、高周波領域での同時化処理の再現精度をより向上させることができるという特徴を有している。
(カラーフィルタ配列の第2実施例)
図16は、撮像素子のカラーフィルタ配列の第2実施例を示す。
図16に示すように、このカラーフィルタ配列は、7×7画素に対応する正方配列パターンからなる基本配列パターンBP(太枠で示したパターン)を含み、この基本配列パターンBPが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列では、図14に示した第1実施例のカラーフィルタ配列と同様、R、G、Bの各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が所定の周期性をもって配列されている(第1の特徴)。
また、基本配列パターンBP内には、アンプ共有構造の2×2画素に水平方向x及び垂直方向yの両方で位置が一致する2×2個のカラーフィルタ(同色正方配列パターンGPのカラーフィルタ)が含まれている(第2の特徴)。
ただし、本実施例の基本配列パターンBPは、水平方向x及び垂直方向yにそれぞれ奇数個のカラーフィルタを配置したものである。よって、同色Gの2×2パターンは、互いに水平方向x及び垂直方向yのそれぞれに奇数画素(本例では1画素)分だけ位置をずらして配置されている。
水平方向x及び垂直方向yの両方方向で同色の2×2パターン内の4画素をずらして配置してもよい。即ち、同色の2×2パターン内の4画素が(2n,2m),(2n+1,2m),(2n,2m+1),(2n+1,1m+1)の4種類の位置に来るようにすればよい。言い換えると、2×2の4つの同色カラーフィルタが、アンプ66に対して異なる4つの位置に来ればよい。
このように複数の同色正方配列パターンGPが互いに奇数画素分だけずらして配置されているため、各基本配列パターンBP内に、アンプ66を共有した共有構造パターン(図2のCP)に整合する同色正方配列パターンGPが必ず一つ以上存在するようにすることができる。この同色正方配列パターンGPの各画素の信号量を測定することで、アンプ66に対する画素の位置に起因した特性のばらつきを適切に測定及び補正することができる。
上記実施例では、RGBの3原色のカラーフィルタと、RGBWの4色のカラーフィルタを有する撮像素子について説明したが、本発明は、これに限らず、RGBの3原色+他の色(例えば、エメラルド(E))の4色のカラーフィルタを有する撮像素子にも適用できる。
また、本発明は、原色RGBの補色であるC(シアン)、M(マゼンタ)、Y(イエロー)に、Gを加えた4色の補色系のカラーフィルタを有する撮像素子にも適用できる。
以上、複数の画素でアンプ(増幅素子)のみを共有した場合を例に説明したが、感度差の原因となる共有構造であれば、他の回路素子の場合でも、本発明を適用できることは、言うまでもない。そのような場合の感度補正も本発明に含まれる。
また、基本配列パターンBPが6×6フィルタ、7×7フィルタの場合のみを図示したが、他のフィルタ数(8×8、9×9、・・・)であってもよいことは、言うまでもない。また、基本配列パターンはN×Nの正方配列となるカラーフィルタ配列に限られず、基本配列パターンがN×Mの配列のものであっても適用できる。尚、同時化処理(デモザイク処理)、動画撮影時の間引き処理等の画像処理の容易さを考えると、N及びMは10以下であることが望ましい。
本発明は、本明細書において説明した例や図面に図示された例には限定されず、本発明の要旨を逸脱しない範囲において、各種の設計変更や改良を行ってよいのはもちろんである。
10…撮影レンズ、12…撮像素子、40…補正係数記憶部、42…感度補正部、44…混色補正部、46…感度補正係数計算部、50…CPU、62…画素、64…カラーフィルタ、66…アンプ、100…撮像装置

Claims (13)

  1. 水平方向及び垂直方向の二次元で配列された光電変換素子からなる複数の画素上に、複数のカラーフィルタがそれぞれ配置されている撮像素子と、前記撮像素子の各画素の信号量を補正するための情報を記憶する記憶手段と、前記記憶手段に記憶されている情報を用いて前記撮像素子の前記各画素の信号量を補正する補正手段とを備えた撮像装置であって、
    前記撮像素子の複数の画素は、複数画素単位で特定の回路素子を共有し、
    前記撮像素子の複数のカラーフィルタは、3色以上の各色のカラーフィルタを混在させた基本配列パターンを水平方向及び垂直方向に繰り返し配置したものであり、前記基本配列パターンの配置の周期は、前記特定の回路素子及び前記複数画素からなる共有構造パターンの配置の周期と異なり、
    前記記憶手段は、前記撮像素子の前記複数のカラーフィルタの色にそれぞれ対応する複数の第1の補正係数と、前記撮像素子の特定の回路素子の位置を基準にした前記画素の複数の相対位置にそれぞれ対応する複数の第2の補正係数とを記憶し、
    前記補正手段は、前記撮像素子の前記複数の画素にそれぞれ注目して各注目画素の信号量を補正するとき、前記記憶手段に記憶されている前記複数の第1の補正係数から前記注目画素上の前記カラーフィルタの色に対応する第1の補正係数を選択して、前記記憶手段に記憶されている前記複数の第2の補正係数から前記注目画素の前記相対位置に対応する第2の補正係数を選択し、選択された第1の補正係数及び第2の補正係数を前記注目画素の信号量に対して演算する撮像装置。
  2. 前記記憶手段は、前記第1の補正係数及び前記第2の補正係数を含む補正係数であって、前記各画素間の感度比を補正するための感度比補正係数と、前記各画素に隣接した隣接画素上のカラーフィルタの混色を補正するための混色補正係数とを記憶し、
    前記補正手段は、前記注目画素の信号量に対して前記感度比補正係数及び前記混色補正係数のうち一方の前記第1の補正係数及び前記第2の補正係数を演算し、その演算結果に対して前記感度比補正係数及び前記混色補正係数のうち他方の前記第1の補正係数及び前記第2の補正係数を演算する請求項1に記載の撮像装置。
  3. 前記記憶手段は、前記複数の第1の補正係数として、前記撮像素子の前記カラーフィルタの分光特性の異なる種類の数と同数の第1の補正係数を記憶する請求項1又は2に記載の撮像装置。
  4. 前記記憶手段は、前記複数の第2の補正係数として、前記撮像素子の前記共有構造パターンのひとつに存在する画素の数と同数の第2の補正係数を記憶する請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記第2の補正係数を計算する補正係数計算手段であって、前記特定の回路素子を基準にした相対位置が異なる画素間の信号量を比較して前記第2の補正係数を計算する補正係数計算手段を備え、
    前記記憶手段は、前記補正係数計算手段によって計算された前記第2の補正係数を記憶する請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記補正係数計算手段は、前記撮像素子によって生成された撮像画像の全部又は一部に基づいて、前記特定の回路素子を基準にした相対位置ごとに、前記複数の共有構造パターンにわたり同色の複数の画素の信号量の平均値を計算し、該平均値を異なる相対位置間で比較することで、前記第2の補正係数を計算する請求項5に記載の撮像装置。
  7. 前記撮像素子は、前記各基本配列パターン内に白いカラーフィルタを有し、
    前記補正係数計算手段は、複数の前記基本配列パターンにわたり、前記白いカラーフィルタに対応した各画素の信号量を平均することで前記第2の補正係数を計算する請求項6に記載の撮像装置。
  8. 前記撮像素子には、前記画素の配置パターンが異なる複数種類の共有構造パターンが繰り返し配置され、
    前記補正手段は、前記複数種類の共有構造パターンのそれぞれで、前記特定の回路素子を基準とした前記画素の相対位置に応じて信号量の補正を行う請求項1から7のいずれか1項に記載の撮像装置。
  9. 水平方向及び垂直方向の二次元で配列された光電変換素子からなる複数の画素上に、複数のカラーフィルタがそれぞれ配置されている撮像素子の各画素の信号量を補正する信号量補正方法であって、
    前記撮像素子の複数の画素は、複数画素単位で特定の回路素子を共有し、
    前記撮像素子の複数のカラーフィルタは、3色以上の各色のカラーフィルタを混在させた基本配列パターンを水平方向及び垂直方向に繰り返し配置したものであり、前記基本配列パターンの配置の周期は、前記特定の回路素子及び前記複数画素からなる共有構造パターンの配置の周期と異なり、
    前記撮像素子の前記複数のカラーフィルタの色にそれぞれ対応する複数の第1の補正係数と、前記撮像素子の特定の回路素子の位置を基準にした前記画素の複数の相対位置にそれぞれ対応する複数の第2の補正係数とを記憶デバイスに予め記憶しておき、前記撮像素子の前記複数の画素にそれぞれ注目して各注目画素の信号量を補正するとき、前記複数の第1の補正係数から前記注目画素上の前記カラーフィルタの色に対応する第1の補正係数を選択して、前記複数の第2の補正係数から前記注目画素の前記相対位置に対応する第2の補正係数を選択し、選択された第1の補正係数及び第2の補正係数を前記注目画素の信号量に対して演算する信号量補正方法。
  10. 前記第1の補正係数及び前記第2の補正係数を含む補正係数であって、前記各画素間の感度比を補正するための感度比補正係数と、前記各画素に隣接した隣接画素上のカラーフィルタの混色を補正するための混色補正係数とを前記記憶デバイスに記憶させ、
    前記注目画素の信号量に対して前記感度比補正係数及び前記混色補正係数のうち一方の前記第1の補正係数及び前記第2の補正係数を演算し、その演算結果に対して前記感度比補正係数及び前記混色補正係数のうち他方の前記第1の補正係数及び前記第2の補正係数を演算する請求項9に記載の信号量補正方法。
  11. 前記特定の回路素子を基準にした相対位置が異なる画素間の信号量を比較して前記第2の補正係数を計算し、計算された前記第2の補正係数を前記記憶デバイスに記憶させる請求項9又は10に記載の信号量補正方法。
  12. 前記撮像素子によって生成された撮像画像の全部又は一部に基づいて、前記特定の回路素子を基準にした相対位置ごとに、前記複数の共有構造パターンにわたり同色の複数の画素の信号量の平均値を計算し、該平均値を異なる相対位置間で比較することで、前記第2の補正係数を計算する請求項11に記載の信号量補正方法。
  13. 前記撮像素子は、前記各基本配列パターン内に白いカラーフィルタを有し、
    複数の前記基本配列パターンにわたり、前記白いカラーフィルタに対応した各画素の信号量を平均することで前記第2の補正係数を計算する請求項12に記載の信号量補正方法。
JP2013523874A 2011-07-13 2012-06-21 撮像装置及び信号量補正方法 Expired - Fee Related JP5486737B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013523874A JP5486737B2 (ja) 2011-07-13 2012-06-21 撮像装置及び信号量補正方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011155136 2011-07-13
JP2011155136 2011-07-13
PCT/JP2012/065833 WO2013008598A1 (ja) 2011-07-13 2012-06-21 撮像装置及び信号量補正方法
JP2013523874A JP5486737B2 (ja) 2011-07-13 2012-06-21 撮像装置及び信号量補正方法

Publications (2)

Publication Number Publication Date
JP5486737B2 true JP5486737B2 (ja) 2014-05-07
JPWO2013008598A1 JPWO2013008598A1 (ja) 2015-02-23

Family

ID=47505896

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013523874A Expired - Fee Related JP5486737B2 (ja) 2011-07-13 2012-06-21 撮像装置及び信号量補正方法

Country Status (6)

Country Link
US (1) US8780239B2 (ja)
EP (1) EP2733944B1 (ja)
JP (1) JP5486737B2 (ja)
CN (1) CN103597821B (ja)
BR (1) BR112014000041A2 (ja)
WO (1) WO2013008598A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012147515A1 (ja) * 2011-04-28 2012-11-01 富士フイルム株式会社 撮像装置及び撮像方法
WO2014007279A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 カラー撮像素子および撮像装置
CN103854556B (zh) 2014-02-19 2016-05-18 北京京东方显示技术有限公司 基色子像素的电压补偿装置及方法、显示装置
JP6369233B2 (ja) * 2014-09-01 2018-08-08 ソニー株式会社 固体撮像素子及びその信号処理方法、並びに電子機器
CN107409200B (zh) 2015-03-12 2019-02-12 奥林巴斯株式会社 图像处理装置、图像处理方法和计算机可读取的记录介质
US10514335B2 (en) * 2017-09-08 2019-12-24 Arizona Board Of Regents On Behalf Of The University Of Arizona Systems and methods for optical spectrometer calibration
CN108305883A (zh) * 2018-01-30 2018-07-20 德淮半导体有限公司 图像传感器
CN110365923A (zh) * 2018-04-09 2019-10-22 印象认知(北京)科技有限公司 一种图像传感器
CN112087559B (zh) * 2019-06-13 2021-11-30 华为技术有限公司 图像传感器、图像拍摄装置和方法
KR20210156553A (ko) * 2020-06-18 2021-12-27 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법
KR102661114B1 (ko) * 2020-11-10 2024-04-25 삼성전자주식회사 카메라 모듈 검사 장치, 카메라 모듈 검사 방법 및 이미지 생성 장치
CN113936589B (zh) * 2021-10-26 2022-09-30 卡莱特云科技股份有限公司 一种虚拟像素亮色度校正方法及装置
CN113936590B (zh) * 2021-10-26 2022-09-16 卡莱特云科技股份有限公司 基于虚拟像素led显示屏的亮度校正方法、装置及显示系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000059697A (ja) * 1998-08-05 2000-02-25 Canon Inc 撮像装置及びそれを用いた撮像システム
JP2001292453A (ja) * 2000-04-07 2001-10-19 Canon Inc カラー撮像装置及びそれを用いた撮像システム
JP2006165663A (ja) * 2004-12-02 2006-06-22 Fuji Photo Film Co Ltd 撮像装置、デジタルカメラ、及びカラー画像データ生成方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6956605B1 (en) 1998-08-05 2005-10-18 Canon Kabushiki Kaisha Image pickup apparatus
JP3559714B2 (ja) 1998-09-02 2004-09-02 キヤノン株式会社 撮像装置およびそれを用いた撮像システム
US6734906B1 (en) 1998-09-02 2004-05-11 Canon Kabushiki Kaisha Image pickup apparatus with photoelectric conversion portions arranged two dimensionally
US6992714B1 (en) * 1999-05-31 2006-01-31 Canon Kabushiki Kaisha Image pickup apparatus having plural pixels arranged two-dimensionally, and selective addition of different pixel color signals to control spatial color arrangement
US7667764B2 (en) * 2004-06-04 2010-02-23 Konica Minolta Holdings, Inc. Image sensing apparatus
US20060119724A1 (en) * 2004-12-02 2006-06-08 Fuji Photo Film Co., Ltd. Imaging device, signal processing method on solid-state imaging element, digital camera and controlling method therefor and color image data generating method
JP4389865B2 (ja) 2005-11-17 2009-12-24 ソニー株式会社 固体撮像素子の信号処理装置および信号処理方法並びに撮像装置
JP4289419B2 (ja) * 2007-05-07 2009-07-01 ソニー株式会社 撮像装置、欠陥画素補正装置およびこれらにおける処理方法ならびにプログラム
JP2008288649A (ja) 2007-05-15 2008-11-27 Sony Corp 撮像装置および撮像データ補正方法
KR100976284B1 (ko) * 2007-06-07 2010-08-16 가부시끼가이샤 도시바 촬상 장치
JP5045380B2 (ja) * 2007-11-13 2012-10-10 ソニー株式会社 撮像装置および撮像データ補正方法並びにプログラム
US7745779B2 (en) * 2008-02-08 2010-06-29 Aptina Imaging Corporation Color pixel arrays having common color filters for multiple adjacent pixels for use in CMOS imagers
JP5311916B2 (ja) * 2008-07-31 2013-10-09 株式会社エルモ社 撮像装置
JP5438579B2 (ja) * 2010-03-29 2014-03-12 キヤノン株式会社 画像処理装置及びその制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000059697A (ja) * 1998-08-05 2000-02-25 Canon Inc 撮像装置及びそれを用いた撮像システム
JP2001292453A (ja) * 2000-04-07 2001-10-19 Canon Inc カラー撮像装置及びそれを用いた撮像システム
JP2006165663A (ja) * 2004-12-02 2006-06-22 Fuji Photo Film Co Ltd 撮像装置、デジタルカメラ、及びカラー画像データ生成方法

Also Published As

Publication number Publication date
US20140104465A1 (en) 2014-04-17
US8780239B2 (en) 2014-07-15
EP2733944A1 (en) 2014-05-21
EP2733944B1 (en) 2016-08-03
BR112014000041A2 (pt) 2017-02-07
WO2013008598A1 (ja) 2013-01-17
CN103597821B (zh) 2015-11-25
EP2733944A4 (en) 2015-02-25
JPWO2013008598A1 (ja) 2015-02-23
CN103597821A (zh) 2014-02-19

Similar Documents

Publication Publication Date Title
JP5486737B2 (ja) 撮像装置及び信号量補正方法
JP5528627B2 (ja) 撮像装置、撮像素子及び感度差補正方法
JP5872408B2 (ja) カラー撮像装置及び画像処理方法
JP5872406B2 (ja) カラー撮像素子
JP5095040B1 (ja) カラー撮像素子
US9159758B2 (en) Color imaging element and imaging device
JP5702893B2 (ja) カラー撮像素子および撮像装置
US9324749B2 (en) Color imaging element and imaging device
JPWO2013046828A1 (ja) 画像処理装置、方法、プログラムおよび撮像装置
WO2013047158A1 (ja) 撮像装置及び合焦制御方法
JP5456206B2 (ja) 撮像装置、撮像装置の制御プログラム、及び撮像装置の制御方法
JP5600812B2 (ja) 撮像装置
JP5607266B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5624226B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5411390B2 (ja) カラー撮像素子
JP5607267B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP5624227B2 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
JP4334484B2 (ja) 画素信号処理装置及び方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140129

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140221

R150 Certificate of patent or registration of utility model

Ref document number: 5486737

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees