JP2009010936A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2009010936A
JP2009010936A JP2008128458A JP2008128458A JP2009010936A JP 2009010936 A JP2009010936 A JP 2009010936A JP 2008128458 A JP2008128458 A JP 2008128458A JP 2008128458 A JP2008128458 A JP 2008128458A JP 2009010936 A JP2009010936 A JP 2009010936A
Authority
JP
Japan
Prior art keywords
signal
photoelectric conversion
luminance
conversion element
luminance signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008128458A
Other languages
English (en)
Other versions
JP5222625B2 (ja
Inventor
Satoru Wada
和田  哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2008128458A priority Critical patent/JP5222625B2/ja
Publication of JP2009010936A publication Critical patent/JP2009010936A/ja
Application granted granted Critical
Publication of JP5222625B2 publication Critical patent/JP5222625B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/86Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】色検出用光電変換素子と輝度検出用光電変換素子とを有する撮像素子から得られる信号のホワイトバランスをとった場合でも、輝度検出用光電変換素子から得られる輝度信号のダイナミックレンジを拡大させることのできる撮像装置を提供する。
【解決手段】R光を検出する光電変換素子1と、G光を検出する光電変換素子2と、B光を検出する光電変換素子3と、輝度成分を検出する光電変換素子4とを含む撮像素子10を有する撮像装置であって、光電変換素子1〜3の各々から得られるR信号,G信号,B信号及び光電変換素子4から得られるW信号のホワイトバランスを調整するWB調整部12と、ホワイトバランス調整後のR信号,G信号,B信号から、光電変換素子1〜3の各々に対応する輝度信号である輝度信号Yrgbを生成する輝度信号生成部14と、ホワイトバランス調整後のW信号を、輝度信号Yrgbを用いて補正するW信号補正部15とを備える。
【選択図】図2

Description

本発明は、それぞれ異なる光の色成分を検出する少なくとも3種類の色検出用光電変換素子と、光の輝度成分を検出する輝度検出用光電変換素子とを含む撮像素子を有する撮像装置に関する。
従来、受光面上に輝度フィルタが形成された輝度検出用光電変換素子と、受光面上に光の赤色(R)成分を透過するRカラーフィルタが形成されたR光電変換素子と、受光面上に光の緑色(G)成分を透過するGカラーフィルタが形成されたG光電変換素子と、受光面上に光の青色(B)成分を透過するBカラーフィルタが形成されたB光電変換素子とを含む撮像素子が提案されている(特許文献1参照)。
特開2003−318375号公報
上記撮像素子の輝度フィルタを、輝度検出用光電変換素子の受光面上方に何も設けないものとした例を考える。この場合、各光電変換素子から得られる信号の感度は図8の左側に示すようになる。輝度フィルタが全ての光を透過するものであることから、輝度検出用光電変換素子からの信号についてはW(ホワイト)で示してある。輝度検出用光電変換素子からの信号Wは、受光面上にフィルタが存在しないため、感度が最大となっている。又、一般的に、Gの感度はRやBよりも高い。このため、感度は、図示したように、W>G>R>Bとなっている。
この撮像素子から得られる信号のホワイトバランスを調整する場合、各信号の感度差を補うために、どれかの信号にレベルを合わせる必要がある。色再現性を考慮すると、G信号を基準にするのが一般的である。図8の右側に示したように、G信号に合わせるようにR信号とB信号とW信号にそれぞれゲインをかけると、各光電変換素子の飽和レベルは同一であるため、R信号とB信号の飽和レベルは、ゲインを掛けた分だけ大きくなるが、W信号の飽和レベルは、ゲインを掛けた分だけ小さくなってしまう。
本発明は、上記事情に鑑みてなされたものであり、色検出用光電変換素子と輝度検出用光電変換素子とを有する撮像素子から得られる信号のホワイトバランスをとった場合でも、輝度検出用光電変換素子から得られる輝度信号のダイナミックレンジを拡大させることのできる撮像装置を提供することを目的とする。
本発明の撮像装置は、それぞれ異なる光の色成分を検出する少なくとも3種類の色検出用光電変換素子と、光の輝度成分を検出する輝度検出用光電変換素子とを含む撮像素子を有する撮像装置であって、前記少なくとも3種類の色検出用光電変換素子の各々から得られる色信号及び前記輝度検出用光電変換素子から得られる輝度信号のレベルを調整するレベル調整手段と、前記レベル調整後の色信号から、1つの前記色検出用光電変換素子に対応させて、それぞれ異なる少なくとも3つの色信号を生成し、当該少なくとも3つの色信号を重み付け加算して、前記色検出用光電変換素子に対応する信号である合成信号を生成する合成信号生成手段と、前記レベル調整後の前記輝度信号を前記合成信号を用いて補正する輝度信号補正手段とを備える。
本発明の撮像装置は、前記輝度信号補正手段が、前記レベル調整後の前記輝度信号と、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号とを所定の割合で加算して得られた信号を補正後の輝度信号とする。
本発明の撮像装置は、前記輝度信号補正手段が、前記レベル調整後の前記輝度信号の高周波成分と、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号の低周波成分とを合成し、合成して得られた信号を補正後の輝度信号とする。
本発明の撮像装置は、前記輝度信号補正手段が、前記レベル調整後の前記輝度信号が飽和した際に、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号が当該輝度信号のレベルよりも高い場合には、当該輝度信号の飽和レベル以上のレベルを、当該合成信号のレベルに置き換える補正を行う。
本発明の撮像装置は、前記輝度信号補正手段が、前記レベル調整後の前記輝度信号が前記輝度検出用光電変換素子の飽和レベルよりも低い所定レベルに達しており、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号が、前記所定レベルよりも高い場合には、前記所定レベル以上の当該輝度信号を、当該輝度信号と、前記所定レベルよりも高い当該合成信号とを合成した信号に置き換える補正を行う。
本発明の撮像装置は、前記輝度信号が欠陥信号であった場合、前記輝度信号に対応する少なくとも前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号を用いて、前記欠陥信号を補正する。
本発明の撮像装置は、前記輝度信号が欠陥信号であった場合、前記輝度信号の高周波成分を“0”とすることで前記欠陥信号を補正する。
本発明の撮像装置は、前記撮像素子が、前記色検出用光電変換素子からなる第1のグループと前記輝度検出用光電変換素子からなる第2のグループとを備え、前記第1のグループに含まれる各光電変換素子は、前記第2のグループに含まれる各光電変換素子の位置を基準にした場合に、前記第2のグループに含まれる各光電変換素子に前記第1のグループに含まれる1つの光電変換素子が隣接するように、前記基準の位置から所定の方向にずれた位置に配置されている。
本発明の撮像装置は、前記撮像素子に含まれる前記色検出用光電変換素子が、赤色成分の光を検出する光電変換素子と、緑色成分の光を検出する光電変換素子と、青色成分の光を検出する光電変換素子の3種類である。
本発明によれば、色検出用光電変換素子と輝度検出用光電変換素子とを有する撮像素子から得られる信号のホワイトバランスをとった場合でも、輝度検出用光電変換素子から得られる輝度信号のダイナミックレンジを拡大させることのできる撮像装置を提供することができる。
以下、本発明の実施形態について図面を参照して説明する。
(第一実施形態)
図1は、本発明の第一実施形態である撮像装置に搭載される撮像素子の概略平面模式図である。
図1に示す撮像素子10は、半導体基板上の行方向Xとこれに直交する列方向Yに正方格子状に配列された多数の光電変換素子(1,2,3)からなる第1のグループと、半導体基板上の行方向Xと列方向Yに正方格子状に配列された多数の光電変換素子(4)からなる第2のグループとを備える。第1のグループを構成する光電変換素子と第2のグループを構成する光電変換素子との数は同一となっている。
第1のグループに含まれる各光電変換素子は、第2のグループに含まれる各光電変換素子4の位置を基準にした場合に、第2のグループに含まれる各光電変換素子4に第1のグループに含まれる1つの光電変換素子が隣接するように、該基準の位置から所定の方向(図1の例では、斜め左上45度の方向)にずれた位置に配置されており、全ての光電変換素子がいわゆるハニカム状に配列された構成となっている。
光電変換素子1〜4は、それぞれ同一構造となっており、それぞれの受光面上方に形成されるフィルタによって、それぞれの検出する光の成分が異なるものとなっている。
光電変換素子1は、光の赤色(R)成分を透過するRカラーフィルタが受光面上に形成されており、これにより、光のR成分を検出する光電変換素子として機能する。光電変換素子2は、光の緑色(G)成分を透過するGカラーフィルタが受光面上に形成されており、これにより、光のG成分を検出する光電変換素子として機能する。光電変換素子3は、光の青色(B)成分を透過するBカラーフィルタが受光面上に形成されており、これにより、光のB成分を検出する光電変換素子として機能する。光電変換素子4は、光の輝度成分と相関のある分光特性を持った輝度フィルタが受光面上に形成されており、これにより、光の輝度成分を検出する光電変換素子として機能する。
輝度フィルタは、NDフィルタや、透明フィルタ、白色フィルタ、グレーのフィルタ等が該当するが、光電変換素子4の受光面の上方に何も設けずに光が直接受光面に入射する構成も、輝度フィルタを設けたということができる。
以下では、光電変換素子1から得られる赤色成分の撮像信号をR信号、光電変換素子2から得られる緑色成分の撮像信号をG信号、光電変換素子3から得られる青色成分の撮像信号をB信号、光電変換素子4から得られる輝度信号をW信号と言う。光電変換素子1〜4の各々から出力される信号の感度の大小関係は、例えば、W信号>G信号>R信号>B信号となっている。
第1のグループの各光電変換素子の受光面上方に形成されたカラーフィルタはベイヤー配列となっている。つまり、第1のグループの各光電変換素子は、光電変換素子1と光電変換素子2とがこの順番でX方向に交互に配列されたRG光電変換素子行と、光電変換素子2と光電変換素子3とがこの順番でX方向に交互に配列されたGB光電変換素子行とが、Y方向に交互に配列された配置となっている。
図2は、本発明の第一実施形態である撮像装置の概略構成を示すブロック図である。
図2に示す撮像装置は、図1に示した撮像素子10と、撮像素子10から出力されるアナログ信号に所定のアナログ信号処理及びデジタル変換処理を行うAFE11と、AFE11から出力される信号のホワイトバランスを調整するWB調整部12と、1つの撮像点にRGB3色の色信号を持たせる同時化処理を行う同時化処理部13と、輝度信号生成部14と、W信号補正部15とを少なくとも備える。
WB調整部12は、R信号、G信号、B信号、及びW信号の各々に所定のホワイトバランスゲインを乗じて、各信号の感度差(レベル差)を補う調整を行う。例えば、R信号感度、B信号感度、及びW信号感度の各々とG信号感度との感度差を補うようなホワイトバランスゲインを、R信号、B信号、及びW信号の各々に乗じることで、ホワイトバランスの調整を行う。
尚、この調整により、R信号の飽和レベルとB信号の飽和レベルは、G信号の飽和レベルよりも大きくなってしまい、高輝度領域で紫色の偽色が発生してしまう。そこで、WB調整部12は、この偽色を防ぐために、R信号の飽和レベルとB信号の飽和レベルを、G信号の飽和レベルにクリップする。
図3は、WB調整部12によるホワイトバランス調整後の各信号の状態の一例を示した図である。図3に示すように、R信号とG信号とB信号の飽和レベルは同一となっており、W信号の飽和レベルはG信号の飽和レベルよりも低くなっている。
同時化処理部13は、WB調整部12から出力されるレベル調整後のR信号、G信号、及びB信号から、メモリ上の光電変換素子1〜4の各々に対応する画素位置に、該各々からは得られない色信号を、該各々の周囲の光電変換素子から得られた色信号を用いて補間生成する同時化処理を行う。
例えば、光電変換素子1に対応する画素位置には、該光電変換素子1の周囲にある光電変換素子2,3から得られたG信号とB信号を用いてG信号及びB信号を補間生成し、光電変換素子2に対応する画素位置には、該光電変換素子2の周囲にある光電変換素子1,3から得られたR信号とB信号を用いてR信号及びB信号を補間生成し、光電変換素子3に対応する画素位置には、該光電変換素子3の周囲にある光電変換素子1,2から得られたR信号とG信号を用いてR信号及びG信号を補間生成し、光電変換素子4に対応する画素位置には、該光電変換素子4の周囲にある光電変換素子1,2,3から得られたR信号とG信号とB信号を用いてR信号、G信号、及びB信号を補間生成する。
輝度信号生成部14は、第1のグループの各光電変換素子に対応する画素位置に生成されたR信号、G信号、及びB信号を、下記式(1)に示すように、所定の係数(α、β、γ)で重み付け加算して、該画素位置に対応する輝度信号Yrgbを生成する。
輝度信号Yrgb=α×R信号+β×G信号+γ×B信号・・・(1)
輝度信号生成部14での輝度信号生成処理により、図4に示すように、メモリ上の光電変換素子1,2,3の各々に対応する画素位置には、輝度信号生成部14で生成された輝度信号Yrgbが配置され、光電変換素子4に対応する画素位置には、該光電変換素子4から得られてホワイトバランス調整されたW信号が配置された状態となる。
W信号補正部15は、W信号の飽和レベルを上げてダイナミックレンジを拡大するために、W信号を、輝度信号Yrgbを用いて補正する処理を行う。W信号補正部15は、例えば、W信号と、該W信号に対応する光電変換素子4の周囲にある光電変換素子に対応する輝度信号Yrgbとを所定の割合で加算することで、補正後の輝度信号W’を求める。
例えば、図4に示した任意の位置にあるW信号と、その左上にある輝度信号Yrgbとの平均((W+Yrgb)/2)を求め、これを輝度信号W’とする。又は、図4に示した任意の位置にあるW信号とその周囲の4つの輝度信号Yrgbとに、図5に示すような係数を持つフィルタを用いて下記式(2)に示すようなフィルタ演算を行って輝度信号W’を求める。
W’=(4×W+1×Yrgb+1×Yrgb+1×Yrgb+1×Yrgb)/(4+1+1+1+1)・・・(2)
図6は、任意の画素位置にあるW信号と、その画素位置の左上に近接する画素位置にある輝度信号Yrgbと、そのW信号の補正後の輝度信号W’との関係を示した図である。輝度信号W’は、W信号と輝度信号Yrgbとが所定の割合で加算された信号となるため、その飽和レベルは、図6に示したように、G信号の飽和レベルとW信号の飽和レベルとの間のレベルまで上昇する。
このように、本実施形態の撮像装置によれば、ホワイトバランス調整によって下がってしまったW信号の飽和レベルを、輝度信号Yrgbを用いた補正によって上昇させることができる。したがって、光電変換素子4から得られる輝度信号のダイナミックレンジを拡大することができ、この信号を利用して画像データを生成することで、白とびや黒つぶれ等を効果的に防いだ撮影が可能となる。一方で、色再現性は、ホワイトバランス調整を行ったR信号、G信号、及びB信号によって決まるが、R信号、G信号、及びB信号は従来と変わらないレベルを維持しているため、色再現性に影響を与えることなく、ダイナミックレンジの拡大が可能となる。
尚、以上の説明では、第1のグループに含まれる多数の光電変換素子が、RGBの3つの異なる色成分を検出する光電変換素子からなるものとしたが、これらの色成分は、これらの色成分から輝度信号が生成できれば良い。つまり、RGBの原色系に限らず、補色系の色やその他の色であっても良いし、色成分の数についても、3つに限らず、4つ以上であっても良い。
又、以上の説明では、輝度信号を得るための光電変換素子4と、色信号を得るための光電変換素子1,2,3とがそれぞれ正方格子状に配列されて、全ての光電変換素子でハニカム配列となっているが、光電変換素子の配列はこれに限らない。多数の光電変換素子が、それぞれ異なる色信号を得るための少なくとも3種類の光電変換素子と、少なくとも3種類の光電変換素子の各々に隣接して設けられた輝度信号を得るための光電変換素子とを含む構成であれば、上述した効果を得ることができる。
又、以上の説明では、最終的な画像データの生成方法までは説明していないが、この方法としては、例えば、各光電変換素子1〜4に対応する画素位置にあるR信号、G信号、B信号、及び輝度信号Yrgb(又は輝度信号W’)から、各画素位置に色差信号を生成する方法や、各光電変換素子1〜3に対応する画素位置に、その周囲にある輝度信号W’を用いて輝度信号を補間生成し、補間生成した輝度信号と色信号とから各画素位置に色差信号を生成する方法等が考えられる。
又、本実施形態において、光電変換素子4に構造上何らかの欠陥があり、輝度信号Wが欠陥信号となっていた場合には、この欠陥信号を、その周囲にある輝度信号Wを用いて補正するのではなく、その周囲にある少なくとも1つの輝度信号Yrgbを用いて補正することが好ましい。例えば、輝度信号Wが欠陥信号であった場合、その輝度信号Wを、その輝度信号Wに対応する光電変換素子4の周囲にある4つの光電変換素子1〜3の各々に対応する輝度信号Yrgbの平均を求めて、その平均で置換する方法や、その輝度信号Wを、その輝度信号Wに対応する光電変換素子4の周囲にある4つの光電変換素子1〜3のいずれかに対応する輝度信号Yrgbで置換する方法等が考えられる。
このような欠陥補正を行うことで、輝度信号Wをその周囲の輝度信号Wで補正する場合と比べて、補正対象となる輝度信号Wにより近い位置にある色信号から生成された信号によって補正が行われるため、解像低下を防ぐことができる。
尚、上記欠陥補正は、W信号補正部15が行っても良いし、撮像装置内に別途欠陥補正部を設け、ここで行うようにしても良い。
(第二実施形態)
本実施形態では、図2のW信号補正部15の補正処理の第二の例について説明する。
W信号補正部15は、例えば、W信号の高周波成分と、該W信号に対応する光電変換素子4の周囲にある光電変換素子4とは異なる種類の光電変換素子に対応する輝度信号Yrgbの低周波成分とを合成することで、輝度信号W’を求める。
輝度信号W’を生成するための式の例を以下に列挙する。以下の式において、LPF(信号)は、()内の信号にローパスフィルタ処理を行って得られる値であり、HPF(信号)は、()内の信号にハイパスフィルタ処理を行って得られる値である。
(a) W’=LPF(Yrgb)+(W−LPF(W))
(b) W’=LPF(Yrgb−W)+W
(c) W’=HPF(W)+(Yrgb−HPF(Yrgb))
(d) W’=HPF(W−Yrgb)+Yrgb
上記式において、Yrgbは、例えば、W信号のある画素位置の左上に近接した画素位置にある信号を使ったり、W信号のある画素位置の周囲の4つの画素位置にある4つの信号の平均を使ったりすることができる。
W信号は、輝度成分を検出する光電変換素子4から得られたものであり、光電変換素子4は全光電変換素子のうちの半分を占める。このため、W信号の周波数特性(解像感)は輝度信号Yrgbよりも良好となるが、W信号の色再現性は輝度信号Yrgbよりも落ちる。一方、輝度信号Yrgbは、各色成分を検出する光電変換素子1,2,3から得られたものである。このため、輝度信号Yrgbの色再現性はW信号よりも良好となるが、輝度信号Yrgbの周波数特性はW信号よりも落ちる。つまり、W信号も輝度信号Yrgbもそれぞれ一長一短の特性を持っている。
本実施形態では、W信号補正部15が、W信号の高周波成分と輝度信号Yrgbの低周波成分とを合成して輝度信号W’を生成する。つまり、解像に影響する高周波成分は周波数特性の良好なW信号を用い、色再現性に影響する低周波成分は輝度信号Yrgbを用いることにより、W信号の利点と輝度信号Yrgbとの利点を兼ね備えた輝度信号W’を得ることができる。又、信号の合成処理を行っているため、単純に複数の輝度信号を所定の割合で加算する第一実施形態の場合よりも、W信号の飽和レベルを上昇させることができる。
尚、W信号の高周波成分と、輝度信号Yrgbの低周波成分のそれぞれの周波数成分の範囲は、得ようとする画質に応じて最適に決定すれば良い。解像感のよい画像を得たければ、W信号の高周波成分の範囲を広めにすれば良いし、色再現性のよい画像を得たければ、輝度信号Yrgbの低周波成分の範囲を広めにすれば良い。このような範囲の設定は、撮影時に設定された画質に応じてW信号補正部15が行うようにすれば良い。
又、本実施形態において、光電変換素子4に構造上何らかの欠陥があり、輝度信号Wが欠陥信号となっていた場合には、この輝度信号Wの高周波成分を“0”とすることで、欠陥補正を行うことが好ましい。このようにすることで、欠陥信号の補正を、周辺にある他の信号を用いて補間したり、他の信号で置換したりするといった演算を行う必要がなくなるため、コストを削減することができる。又、輝度信号Wの高周波成分を“0”にした場合でも、輝度信号W’には、輝度信号Yrgbの低周波成分が含まれるため、最低限、色再現性を確保することができる。
尚、上記欠陥補正は、W信号補正部15が行っても良いし、撮像装置内に別途欠陥補正部を設け、ここで行うようにしても良い。
(第三実施形態)
本実施形態では、図2のW信号補正部15の補正処理の第三の例について説明する。
W信号補正部15は、ホワイトバランス調整後のW信号が飽和した際に、該W信号に対応する光電変換素子4の周囲にある光電変換素子4とは異なる光電変換素子に対応する輝度信号Yrgbが該W信号のレベルよりも高い場合には、該W信号の飽和レベル以上のレベルを、該輝度信号Yrgbのレベルに置き換えることで、W信号の補正を行う。
図7は、第三実施形態で説明する補正方法による補正結果を示した図である。
図7に示すように、入射光量が高輝度領域に入り、W信号が飽和しているにも関わらず、輝度信号Yrgbの信号レベルが上昇してW信号の飽和レベルを超えると、W信号補正部15は、W信号の飽和レベル以上のレベルを、輝度信号Yrgbのレベルに置き換える。これにより、輝度信号W’の飽和レベルは、W信号が飽和レベル以上となる高輝度領域では、輝度信号Yrgbの飽和レベルと同じになる。したがって、第一実施形態の補正方法と比較してダイナミックレンジをより拡大することが可能となる。又、信号の置き換えによって補正を行うため、第一実施形態や第二実施形態の補正方法のような演算が不要となり、第一実施形態や第二実施形態の補正方法よりも簡単に補正を行うことができる。
W信号が所定レベルよりも大きいときに、該輝度信号Wを、その周囲の色信号を重み付け加算した信号で置換する方法も知られているが(例えば特開2008−22521号公報参照)、この方法では、色信号とW信号との分光特性の違いや被写体の色等により、W信号よりも色信号を重み付け加算した信号のレベルが低くなることがある。このため、W信号を該重み付け加算した信号で置換してしまうと、W信号のレベルが下がってしまう。例えばグラデーション部分では、レベル低下が偽輪郭となり画質が低下する。
これに対し、本実施形態によれば、飽和レベルまではW信号を用い、飽和レベル以上では輝度信号Yrgbを用いることで、W信号のレベル低下を防ぐことができる。
更に、W信号が飽和レベルではなく、飽和レベルよりも低い所定レベルに達している場合に、輝度信号Yrgbのレベルがその所定レベルを上回っているときには、その所定レベル以上のW信号を、その所定レベル以上のW信号と、その所定レベル以上の輝度信号Yrgbとを重み付け加算した信号に置き換えることにより、W信号を所定レベルの前後において滑らかに変化させることができ、補正によるつながりの改善が可能となる。
上記所定レベルは、求める画質に応じて適宜設定すれば良い。
尚、W信号補正部15が判断に用いる輝度信号Yrgbは、例えば、補正対象となるW信号のある画素位置の左上に近接した画素位置にある信号を使ったり、補正対象となるW信号のある画素位置に近接する周囲4つの画素位置にある4つの信号の平均を使ったりすることができる。
尚、上述してきた飽和レベルは、撮像素子等の製造ばらつきを考慮し、実際の飽和レベルよりも低く設定する場合も含まれる。
本発明の第一実施形態である撮像装置に搭載される撮像素子の概略平面模式図 本発明の第一実施形態である撮像装置の概略構成を示すブロック図 図2に示すWB調整部によるホワイトバランス調整後の各信号の状態の一例を示した図 画像データの画素位置に対応して生成された輝度信号を示す図 フィルタ係数の一例を示す図 第一実施形態で説明する補正方法による補正結果を示した図 第三実施形態で説明する補正方法による補正結果を示した図 ホワイトバランス調整処理を説明するための図
符号の説明
1,2,3 色検出用光電変換素子
4 輝度検出用光電変換素子
12 ホワイトバランス調整部
14 輝度信号生成部
15 W信号補正部

Claims (9)

  1. それぞれ異なる光の色成分を検出する少なくとも3種類の色検出用光電変換素子と、光の輝度成分を検出する輝度検出用光電変換素子とを含む撮像素子を有する撮像装置であって、
    前記少なくとも3種類の色検出用光電変換素子の各々から得られる色信号及び前記輝度検出用光電変換素子から得られる輝度信号のレベルを調整するレベル調整手段と、
    前記レベル調整後の色信号から、1つの前記色検出用光電変換素子に対応させて、それぞれ異なる少なくとも3つの色信号を生成し、当該少なくとも3つの色信号を重み付け加算して、前記色検出用光電変換素子に対応する合成信号を生成する合成信号生成手段と、
    前記レベル調整後の前記輝度信号を前記合成信号を用いて補正する輝度信号補正手段とを備える撮像装置。
  2. 請求項1記載の撮像装置であって、
    前記輝度信号補正手段が、前記レベル調整後の前記輝度信号と、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号とを所定の割合で加算して得られた信号を補正後の輝度信号とする撮像装置。
  3. 請求項1記載の撮像装置であって、
    前記輝度信号補正手段が、前記レベル調整後の前記輝度信号の高周波成分と、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号の低周波成分とを合成し、合成して得られた信号を補正後の輝度信号とする撮像装置。
  4. 請求項1記載の撮像装置であって、
    前記輝度信号補正手段が、前記レベル調整後の前記輝度信号が飽和した際に、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号が当該輝度信号のレベルよりも高い場合には、当該輝度信号の飽和レベル以上のレベルを、当該合成信号のレベルに置き換える補正を行う撮像装置。
  5. 請求項1記載の撮像装置であって、
    前記輝度信号補正手段が、前記レベル調整後の前記輝度信号が前記輝度検出用光電変換素子の飽和レベルよりも低い所定レベルに達しており、当該輝度信号に対応する前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号が、前記所定レベルよりも高い場合には、前記所定レベル以上の当該輝度信号を、当該輝度信号と、前記所定レベルよりも高い当該合成信号とを合成した信号に置き換える補正を行う撮像装置。
  6. 請求項1記載の撮像装置であって、
    前記輝度信号が欠陥信号であった場合、前記輝度信号に対応する少なくとも前記輝度検出用光電変換素子の周囲にある前記色検出用光電変換素子に対応する前記合成信号を用いて、前記欠陥信号を補正する撮像装置。
  7. 請求項3記載の撮像装置であって、
    前記輝度信号が欠陥信号であった場合、前記輝度信号の高周波成分を“0”とすることで前記欠陥信号を補正する撮像装置。
  8. 請求項1〜7のいずれか1項記載の撮像装置であって、
    前記撮像素子が、前記色検出用光電変換素子からなる第1のグループと前記輝度検出用光電変換素子からなる第2のグループとを備え、
    前記第1のグループに含まれる各光電変換素子は、前記第2のグループに含まれる各光電変換素子の位置を基準にした場合に、前記第2のグループに含まれる各光電変換素子に前記第1のグループに含まれる1つの光電変換素子が隣接するように、前記基準の位置から所定の方向にずれた位置に配置されている撮像装置。
  9. 請求項1〜8のいずれか1項記載の撮像装置であって、
    前記撮像素子に含まれる前記色検出用光電変換素子が、赤色成分の光を検出する光電変換素子と、緑色成分の光を検出する光電変換素子と、青色成分の光を検出する光電変換素子の3種類である撮像装置。
JP2008128458A 2007-06-01 2008-05-15 撮像装置 Expired - Fee Related JP5222625B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008128458A JP5222625B2 (ja) 2007-06-01 2008-05-15 撮像装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007146639 2007-06-01
JP2007146639 2007-06-01
JP2008128458A JP5222625B2 (ja) 2007-06-01 2008-05-15 撮像装置

Publications (2)

Publication Number Publication Date
JP2009010936A true JP2009010936A (ja) 2009-01-15
JP5222625B2 JP5222625B2 (ja) 2013-06-26

Family

ID=40087682

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008128458A Expired - Fee Related JP5222625B2 (ja) 2007-06-01 2008-05-15 撮像装置

Country Status (2)

Country Link
US (1) US8274585B2 (ja)
JP (1) JP5222625B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013013142A (ja) * 2008-10-25 2013-01-17 Omnivision Technologies Inc 不完全色および全色性cfa画像の改善
WO2014050249A1 (ja) * 2012-09-28 2014-04-03 株式会社メガチップス 画素補間装置、撮像装置、プログラムおよび集積回路

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7884866B2 (en) * 2007-09-14 2011-02-08 Ricoh Company, Ltd. Imaging apparatus and imaging method
EP2186345B1 (en) * 2007-09-14 2019-04-17 Ricoh Company, Ltd. Imaging apparatus and imaging method
JP4747154B2 (ja) * 2007-11-22 2011-08-17 富士フイルム株式会社 固体撮像素子の駆動方法、固体撮像素子、及び撮像装置
TWI422020B (zh) * 2008-12-08 2014-01-01 Sony Corp 固態成像裝置
JP5785398B2 (ja) * 2011-02-17 2015-09-30 キヤノン株式会社 撮像装置及び画像信号処理装置
CA2861220C (en) * 2012-01-24 2020-02-11 Sony Corporation Image processing apparatus and image processing method, and program
WO2013145487A1 (ja) * 2012-03-27 2013-10-03 ソニー株式会社 画像処理装置、撮像素子、および画像処理方法、並びにプログラム
CN109410889B (zh) * 2018-12-20 2020-08-04 惠州市华星光电技术有限公司 一种白平衡调整方法、装置及电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199117A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及び固体撮像素子の信号処理方法
JP2004364266A (ja) * 2003-05-15 2004-12-24 Matsushita Electric Ind Co Ltd 画像欠陥補正装置、及び、画像欠陥補正方法
WO2006064564A1 (ja) * 2004-12-16 2006-06-22 Fujitsu Limited 撮像装置、撮像素子および画像処理方法
JP2006253876A (ja) * 2005-03-09 2006-09-21 Sony Corp 物理量分布検知装置および物理量分布検知装置の駆動方法
JP2006262084A (ja) * 2005-03-17 2006-09-28 Matsushita Electric Ind Co Ltd 高域置換回路
JP2007104178A (ja) * 2005-10-03 2007-04-19 Konica Minolta Photo Imaging Inc 撮像素子および撮像装置
JP2007288403A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置およびカメラシステム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5323233A (en) * 1990-07-31 1994-06-21 Canon Kabushiki Kaisha Image signal processing apparatus having a color filter with offset luminance filter elements
DE69227869T2 (de) * 1991-09-05 1999-06-02 Canon K.K., Tokio/Tokyo Weissabgleichssteuerung für eine Bildaufnahmevorrichtung
JP3368041B2 (ja) * 1994-04-26 2003-01-20 キヤノン株式会社 撮像装置
US6788339B1 (en) * 1997-12-25 2004-09-07 Canon Kabushiki Kaisha Image pickup apparatus
US6611289B1 (en) * 1999-01-15 2003-08-26 Yanbin Yu Digital cameras using multiple sensors with multiple lenses
US6714243B1 (en) * 1999-03-22 2004-03-30 Biomorphic Vlsi, Inc. Color filter pattern
US6721000B1 (en) * 2000-02-23 2004-04-13 Neomagic Corp. Adaptive pixel-level color enhancement for a digital camera
US6476865B1 (en) * 2001-03-07 2002-11-05 Eastman Kodak Company Sparsely sampled image sensing device with color and luminance photosites
JP3880862B2 (ja) * 2002-01-29 2007-02-14 富士フイルムホールディングス株式会社 撮像装置
JP4159307B2 (ja) 2002-04-23 2008-10-01 富士フイルム株式会社 撮像画像の再現方法
JP4657564B2 (ja) * 2002-04-30 2011-03-23 イーストマン コダック カンパニー 電子スチルカメラ及び画像処理方法
JP2004312139A (ja) * 2003-04-03 2004-11-04 Canon Inc 撮像装置
US7545412B2 (en) * 2003-09-09 2009-06-09 Konica Minolta Holdings, Inc. Image-sensing apparatus with a solid-state image sensor switchable between linear and logarithmic conversion
EP1594321A3 (en) * 2004-05-07 2006-01-25 Dialog Semiconductor GmbH Extended dynamic range in color imagers
EP1608183A1 (en) * 2004-06-14 2005-12-21 Dialog Semiconductor GmbH Matrix circuit for imaging sensors
JP4253634B2 (ja) * 2004-11-30 2009-04-15 富士フイルム株式会社 デジタルカメラ
EP1679907A1 (en) * 2005-01-05 2006-07-12 Dialog Semiconductor GmbH Hexagonal color pixel structure with white pixels
US7583303B2 (en) * 2005-01-31 2009-09-01 Sony Corporation Imaging device element
US8139130B2 (en) * 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US8274715B2 (en) * 2005-07-28 2012-09-25 Omnivision Technologies, Inc. Processing color and panchromatic pixels
US7978240B2 (en) 2005-10-03 2011-07-12 Konica Minolta Photo Imaging, Inc. Enhancing image quality imaging unit and image sensor
JP4241840B2 (ja) * 2006-02-23 2009-03-18 富士フイルム株式会社 撮像装置
JP4796871B2 (ja) * 2006-03-06 2011-10-19 富士フイルム株式会社 撮像装置
US7769229B2 (en) * 2006-11-30 2010-08-03 Eastman Kodak Company Processing images having color and panchromatic pixels

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199117A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及び固体撮像素子の信号処理方法
JP2004364266A (ja) * 2003-05-15 2004-12-24 Matsushita Electric Ind Co Ltd 画像欠陥補正装置、及び、画像欠陥補正方法
WO2006064564A1 (ja) * 2004-12-16 2006-06-22 Fujitsu Limited 撮像装置、撮像素子および画像処理方法
JP2006253876A (ja) * 2005-03-09 2006-09-21 Sony Corp 物理量分布検知装置および物理量分布検知装置の駆動方法
JP2006262084A (ja) * 2005-03-17 2006-09-28 Matsushita Electric Ind Co Ltd 高域置換回路
JP2007104178A (ja) * 2005-10-03 2007-04-19 Konica Minolta Photo Imaging Inc 撮像素子および撮像装置
JP2007288403A (ja) * 2006-04-14 2007-11-01 Sony Corp 撮像装置およびカメラシステム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013013142A (ja) * 2008-10-25 2013-01-17 Omnivision Technologies Inc 不完全色および全色性cfa画像の改善
WO2014050249A1 (ja) * 2012-09-28 2014-04-03 株式会社メガチップス 画素補間装置、撮像装置、プログラムおよび集積回路
JP2014072658A (ja) * 2012-09-28 2014-04-21 Mega Chips Corp 画素補間装置、撮像装置、プログラムおよび集積回路
US9225948B2 (en) 2012-09-28 2015-12-29 Megachips Corporation Pixel interpolation apparatus, imaging apparatus, pixel interpolation processing method, integrated circuit, and non-transitory computer readable storage medium

Also Published As

Publication number Publication date
US8274585B2 (en) 2012-09-25
US20080297633A1 (en) 2008-12-04
JP5222625B2 (ja) 2013-06-26

Similar Documents

Publication Publication Date Title
JP5222625B2 (ja) 撮像装置
JP5816015B2 (ja) 固体撮像装置及びカメラモジュール
US8508625B2 (en) Image processing apparatus
US9681059B2 (en) Image-capturing device
JP4946795B2 (ja) 画像処理装置及び画像処理方法
JP3988457B2 (ja) 撮像装置及び固体撮像素子の信号処理方法
US8228407B2 (en) Solid-state image pickup device
US8144221B2 (en) Image sensor apparatus and methods employing unit pixel groups with overlapping green spectral content
JP5523802B2 (ja) 画像処理装置
JP2008022521A (ja) 固体撮像素子
WO2014073386A1 (ja) 信号処理装置、信号処理方法及び信号処理プログラム
JP2008289090A (ja) 撮像信号処理装置
US8045022B2 (en) Imaging apparatus for correcting a luminance signal
JP2010045580A (ja) 画像処理装置及びイメージセンサ
JPH1175109A (ja) 固体撮像装置
US7643073B2 (en) Image apparatus and method and program for producing interpolation signal
US8471936B2 (en) Imaging device and signal processing method
JP2013162248A (ja) 撮像装置及びその制御方法
JP2008278404A (ja) 画像処理装置および画像処理方法
JP5087474B2 (ja) 撮像装置
US6747698B2 (en) Image interpolating device
JP2006303774A (ja) 撮像装置
JP2008177724A (ja) 画像入力装置、信号処理装置および信号処理方法
US11431924B2 (en) Image capturing apparatus and control method thereof
JP4949766B2 (ja) 画像信号処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110208

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20111216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120626

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120914

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20121004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130311

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5222625

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees