JP2010245851A - 固体撮像装置及びホワイトバランス処理方法 - Google Patents

固体撮像装置及びホワイトバランス処理方法 Download PDF

Info

Publication number
JP2010245851A
JP2010245851A JP2009092517A JP2009092517A JP2010245851A JP 2010245851 A JP2010245851 A JP 2010245851A JP 2009092517 A JP2009092517 A JP 2009092517A JP 2009092517 A JP2009092517 A JP 2009092517A JP 2010245851 A JP2010245851 A JP 2010245851A
Authority
JP
Japan
Prior art keywords
signal
pixels
coefficient
unit
corrected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009092517A
Other languages
English (en)
Inventor
Shinzo Kayama
信三 香山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2009092517A priority Critical patent/JP2010245851A/ja
Publication of JP2010245851A publication Critical patent/JP2010245851A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Of Color Television Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】極端な色温度の照明条件であっても適切なホワイトバランス処理を行う。
【解決手段】本発明に係る固体撮像装置100は、XYZ表色系のX信号112とY信号113とZ信号114とを出力する撮像素子102と、ホワイトバランス処理部105とを備える。ホワイトバランス処理部105は、X信号135から、X信号135に含まれる赤色信号成分135B及び青色信号成分135Aの一方に相当するB信号172を減算することにより、他方に相当する(X−B)信号171を算出する減算部161と、(X−B)信号171に係数K1が乗算された(X−B)信号173を生成する乗算部163と、B信号172に係数K3を乗算することによりB信号174を生成する乗算部166と、(X−B)信号173とB信号174とを加算することにより補正後のX信号138を生成する加算部167とを備える。
【選択図】図1

Description

本発明は、固体撮像装置及びホワイトバランス処理方法に関し、特に、XYZ表色系のX信号とY信号とZ信号とを出力する撮像素子と、当該X信号、Y信号及びZ信号にホワイトバランス処理を行うホワイトバランス処理部とを備える固体撮像装置に関する。
人間の目の分光感度をRGB三原色で表現すると、図22に示すような等色関数と呼ばれる負の感度を持つ分光感度となる。一方、撮像素子には、RGB三原色を透過させるための色フィルタが積層されており、当該色フィルタの分光感度は図23のようになる。図23に示すように撮像素子の感度は正の値をとり、図22の感度とは異なっている。つまり、従来の撮像素子で撮像した画像データでは、図22に示す等色関数を完全には表現できない。
そこで図24に示すようなXYZフィルタという概念の色フィルタ特性が提案され、また、規格化されている。このXYZフィルタは、フィルタの透過率を全て正の値とし、さらに人間の目の赤色を感じる視神経が青緑色に対して負の感度を持つことを考慮した色フィルタ特性である。すなわちXYZ表色系の信号を線形変換することで図22の等色関数を表現できる。
このように、XYZ表色系の信号を線形変換することにより、視感度の感度特性に近づけることができる。すなわち、XYZフィルタの感度特性は、ルーター条件に近い。このことにより、XYZフィルタを用いることで、正しく色再現できる上に、線形変換において少ない変換量で計算がすむために演算によるノイズの拡大が低減できる。
また、ディスプレイ、及びカラープリンタ等の画像出力装置で出力可能な色空間は、RGB等の3原色のような正の出力値である。これにより、画像出力装置は、色度図においてスペクトル軌跡内の三角形内の色のみを表現できる。そのため、画像出力装置が表現できる色域は人間の感じる色域より狭くなるという問題がある。
一方、近年、LEDなどの発色材料の進歩により、発光原色を増やした画像出力装置、例えば6原色で出画するディスプレイなども登場しつつある(例えば非特許文献1参照。)。こういった多原色でのディスプレイで表現可能な色域は、色度図において原色の数だけ頂点を持つような多角形になる。つまり、多原色でのディスプレイでは表現可能な色域は、人間が感じることのできる、スペクトル軌跡内の色域に近づく。このように、多原色の画像出力装置の登場により、画像出力装置が表現可能な色空間がさらに拡大している。
逆に、このような画像出力装置の性能を引き出すためには、撮影装置側で被写体に対する人間が感じる色域に過不足の少ない効率的な撮像を行えるフィルタが必要である。すなわち、視感度である等色関数を線形変換して得られる、全波長で正の感度を持つXYZフィルタを用いて撮像する撮像素子が最も効率的に全ての色を捉えることができる。
例えば、XYZフィルタを撮像素子に簡易に作成できるフィルタ構造が特許文献1に記載されている。特許文献1では、シリコン酸化膜とチタン酸化膜との積層膜によりXYZフィルタを実現している。また、特許文献1記載のXYZフィルタは、この積層膜を少ない膜数で実現できる。さらに、特許文献1記載のXYZフィルタは、Xフィルタ、Yフィルタ、及びZフィルタのそれぞれにおいて膜厚が異なる膜の数を少なくできる。
一方で、撮像装置では、光源によって原色信号に補正係数を乗算するホワイトバランス処理を行う必要がある。
以下、従来のRGB原色系のカラーフィルタを配置した撮像素子について説明する。
図25及び図26は、異なる照明条件におけるRGBフィルタの分光感度特性を示す図である。
例えば色温度が6000K前後の色温度の高い照明条件であれば図25に示すように、RGBフィルタの分光感度特性は、青色領域の感度が高く、かつ、赤色領域の感度が低くなる。この照明条件で取得されたR、G、Bそれぞれの信号量に対して適切な補正係数、例えば1.3、1、0.8などを掛けることで白色が白色と表現される。言い換えると、R、G、Bそれぞれの信号量に対して適切な補正係数を掛けることにより、図25に示す分光感度特性を図23に示す分光感度特性に近づける。この処理は、ホワイトバランス処理と呼ばれる。
また、例えば色温度が3000K前後の色温度の低い照明条件であれば図26に示すように、RGBフィルタの分光感度特性は、青色領域の感度が低く、かつ、赤色領域の感度が高くなる。この場合には、取得されたR、G、Bそれぞれの信号量に補正係数、0.8、1、1.3などを乗算することで同様に白色を白色と表現できる。
一方、Xフィルタの透過率は青色領域と赤色領域とに透過率を有している。このようなXYZフィルタでは照明環境によってXフィルタを透過した光の量が変化してしまうという課題がある。
図27及び図28は、異なる照明条件におけるXYZフィルタの分光感度特性を示す図である。また、Xフィルタの透過波長領域のうち青色領域をAと示し、赤色領域をBと示している。
ここで、XフィルタのA部分、及びB部分の透過率に起因するそれぞれの積分信号量をSA、及びSBとする。例えば、図27に示すように色温度が6000K前後と高い場合、色温度が4000K程度の光源であった場合と比較してSAは大きくなり、SBは小さくなる。逆に図28に示すように色温度は3000K前後と低い場合、SAは小さくなり、SBは大きくなる。
ここで、撮像素子により出力されるXフィルタを透過した光に対応する信号量は、常にSAとSBとが加算された信号量である。よって、SAとSBとの大きさの違いが、被写体反射率による違いにより生じているのか、光源の違いにより生じているのかが不明となる。これにより、色の不一致が発生してしまう。結果的に、ホワイトバランス処理に用いる適正な係数をX、Y、Z信号に乗算しようとしてもX信号に関しては正しく補正できないという課題が生じる。
これに対して、この課題を改善する方法が特許文献2において提案されている。特許文献2に記載の撮像素子は、フィルタの点を色度図上で最適な位置に置く。具体的には、スペクトル軌跡に外接し、また、実質的にほぼ正の透過率で、かつXフィルタのSAの部分をSBに対して3パーセント又は1パーセントまで低く設定したフィルタを用いる。このように、特許文献2記載の撮像素子は、XフィルタのSAの部分の影響はきわめて小さくすることにより、色温度補正を容易に行える。
長瀬章裕、「6原色表示技術を用いた広色域PTVの開発」、電子情報通信学会技術研究報告、EID、電子ディスプレイ、社団法人電子情報通信学会、2007、vol.107、no.247、pp.21−24
特願2007−153289号公報 特開2004−151952号公報
しかしながら、特許文献2記載の撮像素子では、色温度が極端に高い時、又は低い時には実質的にSAとSBとの比率は正しく認識できない。これにより、特許文献2記載の撮像素子は、正しくホワイトバランス処理できないという課題がある。また、特許文献2記載のフィルタは、XYZフィルタ特性から外れた特性になる。つまり、特許文献2記載のフィルタは、ルーター条件から外れたフィルタとなるため、色域の効率が落ちてしまうという課題がある。
本発明は、上記課題に鑑み、XYZフィルタを備える固体撮像装置であって、極端な色温度の照明条件であっても適切なホワイトバランス処理を行える固体撮像装置、及び極端な色温度の照明条件であっても適切なホワイトバランス処理を行えるホワイトバランス処理方法を提供することを目的とする。
上記目的を達成するために、本発明に係る固体撮像装置は、XYZ表色系のX信号とY信号とZ信号とを出力する撮像素子と、前記X信号、前記Y信号及び前記Z信号にホワイトバランス処理を行うことにより、補正後X信号、補正後Y信号及び補正後Z信号を生成するホワイトバランス処理部とを備える固体撮像装置であって、前記X信号は、赤色領域に対応する赤色信号成分と、青色領域に対応する青色信号成分とを含み、前記ホワイトバランス処理部は、前記X信号から、前記赤色信号成分及び前記青色信号成分の一方に相当する第1信号を減算することにより、前記赤色信号成分及び前記青色信号成分の他方に相当する第2信号を算出する第1減算部と、前記第1信号に第1係数が乗算された補正後第1信号を生成する第1乗算部と、前記第2信号に前記第1係数と異なる第2係数を乗算することにより補正後第2信号を生成する第2乗算部と、前記Y信号に第3係数を乗算することにより前記補正後Y信号を生成する第3乗算部と、前記Z信号に第4係数を乗算することにより前記補正後Z信号を生成する第4乗算部と、前記補正後第1信号と前記補正後第2信号とを加算することにより前記補正後X信号を生成する第1加算部とを備える。
この構成によれば、本発明に係る固体撮像装置は、X信号に含まれる青色信号成分と赤色信号成分とを分離したうえで、分離した青色信号成分と赤色信号成分とに異なる係数を乗算したうえで加算することにより、X信号のホワイトバランス処理を行う。これにより、本発明に係る固体撮像装置は、極端な色温度の照明条件であってもホワイトバランス処理を高精度で行える。
また、前記ホワイトバランス処理部は、さらに、前記Z信号に第5係数を乗算することにより、前記青色信号成分に相当する前記第1信号を生成する第5乗算部を備え、前記第1減算部は、前記X信号から、前記第5乗算部により生成された前記第1信号を減算することにより、前記赤色信号成分に相当する前記第2信号を算出してもよい。
この構成によれば、本発明に係る固体撮像装置は、Z信号を用いてX信号に含まれる青色信号成分を生成する。これにより、本発明に係る固体撮像装置は、X信号、Y信号及びZ信号のみを用いて、当該X信号、Y信号及びZ信号のホワイトバランス処理を行える。
また、前記第1乗算部は、前記第1信号に前記第1係数を乗算することにより前記補正後第1信号を生成してもよい。
また、前記第1係数は、前記第4係数と同じ値でもよい。
また、前記固体撮像装置は、さらに、前記X信号、前記Y信号及び前記Z信号を用いて、輝度信号を生成する輝度演算部を備え、前記輝度演算部は、前記Z信号に第6係数を乗算することにより、前記青色信号成分に相当する第3信号を生成する第6乗算部と、前記X信号から前記第3信号を減算することにより、前記赤色信号成分に相当する第4信号を生成する第2減算部と、前記第4信号に第7係数を乗算することにより第5信号を生成する第7乗算部と、前記Y信号に第8係数を乗算することにより第6信号を生成する第8乗算部と、前記Z信号に第9係数を乗算することにより第7信号を生成する第9乗算部と、前記第5信号と前記第6信号と前記第7信号とを加算することにより、前記輝度信号を生成する第2加算部とを備えてもよい。
この構成によれば、本発明に係る固体撮像装置は、X信号、Y信号及びZ信号を用いて、適切な輝度を算出できる。
また、前記撮像素子は、さらに、前記赤色信号成分に相当する、RGB表色系のR信号を出力し、前記第1減算部は、前記X信号から、前記R信号を減算することにより前記青色信号成分に相当する前記第2信号を算出し、前記第1乗算部は、前記第1信号に前記第1係数を乗算することにより前記補正後第1信号を生成してもよい。
この構成によれば、本発明に係る固体撮像装置は、X信号からR信号を減算することにより、X信号に含まれる青色信号を生成できる。
また、前記撮像素子は、前記X信号を生成する複数のX画素と、前記Y信号を生成する複数のY画素と、前記Z信号を生成する複数のZ画素と、前記R信号を生成する複数のR画素とを備え、前記Y画素の数は、前記Z画素の数より多く、前記Z画素の数は、前記X画素の数より多く、前記X画素の数は、前記R画素の数より多い、又は等しくてもよい。
この構成によれば、輝度への影響が大きい緑色成分を主成分とするY信号を生成するY画素の数が最も多くなる。また、X信号及びR信号は、共に赤色領域に対応するので、X信号及びR信号を用いて赤色の輝度成分を算出できる。一方、青色の輝度成分は、Z信号のみを用いて算出される。よって、Z画素より、X画素及びR画素の数をそれぞれ少なくする。以上の画素配置により、精度良く輝度を算出できる。
また、前記撮像素子は、4画素×4画素の単位画素セルが規則的に配置された画素アレイを有し、前記単位画素セルは、2個の前記X画素と、8個の前記Y画素と、4個の前記Z画素と、2個の前記R画素とを含み、前記単位画素セルにおいて、各Y画素に斜め方向に隣接する画素は全てY画素であり、前記単位画素セルにおいて、各Z画素から横方向に2画素隣の画素、及び縦方向に2画素隣の画素は全てZ画素であり、前記単位画素セルにおいて、各X画素から斜め方向へ2画素隣の画素は全てX画素であり、前記単位画素セルにおいて、各R画素から斜め方向へ2画素隣の画素は全てR画素であってもよい。
また、前記撮像素子は、2画素×2画素の単位画素セルが規則的に配置された画素アレイを有し、前記単位画素セルは、前記X信号を生成する1個のX画素と、前記Y信号を生成する1個のY画素と、前記Z信号を生成する1個のZ画素と、前記R信号を生成する1個のR画素とを含んでもよい。
この構成によれば、単位画素セルが4画素で構成される。これにより、空間的に画素種による違いがないので、信号の取り扱いが容易になる。
また、前記第2係数は、前記第4係数と同じ値でもよい。
また、前記固体撮像装置は、さらに、前記X信号、前記Y信号、前記Z信号及び前記R信号を用いて、輝度信号を生成する輝度演算部を備え、前記輝度演算部は、前記Z信号に第5係数を乗算することにより、前記青色信号成分に相当する第3信号を生成する第5乗算部と、前記X信号から前記第3信号を減算することにより、前記赤色信号成分に相当する第4信号を生成する第2減算部と、前記第4信号に第6係数を乗算することにより第5信号を生成する第6乗算部と、前記Y信号に第7係数を乗算することにより第6信号を生成する第7乗算部と、前記Z信号に第8係数を乗算することにより第7信号を生成する第8乗算部と、前記R信号に第9係数を乗算することにより第8信号を生成する第9乗算部と、前記第5信号と前記第6信号と前記第7信号と前記第8信号とを加算することにより、前記輝度信号を生成する第2加算部とを備えてもよい。
この構成によれば、本発明に係る固体撮像装置は、X信号、Y信号、Z信号及びR信号を用いて、適切な輝度を算出できる。
また、前記ホワイトバランス処理部は、さらに、被写界の色温度を判定する色温度判定部と、前記色温度判定部により判定された色温度が予め定められた範囲外の場合、当該ホワイトバランス処理部が前記ホワイトバランス処理を行った前記補正後X信号、前記補正後Y信号及び前記補正後Z信号を出力し、前記色温度判定部により判定された色温度が予め定められた範囲内の場合、前記X信号、前記Y信号及び前記Z信号をそのまま前記補正後X信号、前記補正後Y信号及び前記補正後Z信号として出力する切り替え部とを備えてもよい。
この構成によれば、本発明に係る固体撮像装置は、色温度が所定の範囲内にある場合には、ホワイトバランス処理を行わないことにより、演算によるノイズを低減できる。
なお、本発明は、このような固体撮像装置として実現できるだけでなく、固体撮像装置が備えるホワイトバランス処理部に含まれる特徴的な手段をステップとするホワイトバランス処理方法として実現したり、そのような特徴的なステップをコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、CD−ROM等の記録媒体及びインターネット等の伝送媒体を介して流通させることができるのは言うまでもない。
さらに、本発明は、このような固体撮像装置の機能の一部又は全てを実現する半導体集積回路(LSI)として実現したり、このような固体撮像装置を備えるカメラとして実現したりできる。
以上より、本発明は、XYZフィルタを備える固体撮像装置であって、極端な色温度の照明条件であっても適切なホワイトバランス処理を行える固体撮像装置、及び極端な色温度の照明条件であっても適切なホワイトバランス処理を行えるホワイトバランス処理方法を提供できる。
本発明の実施の形態1に係る固体撮像装置の構成を示すブロック図である。 本発明の実施の形態1に係る固体撮像装置の画素配列の一例を示す図である。 本発明の実施の形態1に係る信号処理部の構成を示すブロック図である。 本発明の実施の形態1に係るホワイトバランス処理部の構成を示す図である。 本発明の実施の形態1に係るホワイトバランス処理を説明するための図である。 本発明の実施の形態1に係るホワイトバランス処理部の変形例の構成を示す図である。 本発明の実施の形態1に係る輝度演算部の構成を示す図である。 本発明の実施の形態1に係る輝度演算処理を説明するための図である。 本発明の実施の形態1に係る固体撮像装置による処理の流れを示すフローチャートである。 本発明の実施の形態1に係るホワイトバランス処理の流れを示すフローチャートである。 本発明の実施の形態2に係る固体撮像装置の構成を示すブロック図である。 本発明の実施の形態2に係る固体撮像装置の画素配列の一例を示す図である。 本発明の実施の形態2に係る固体撮像装置の画素配列の一例を示す図である。 本発明の実施の形態2に係る固体撮像装置の画素配列の一例を示す図である。 本発明の実施の形態2に係る固体撮像装置の画素配列の一例を示す図である。 本発明の実施の形態2に係る信号処理部の構成を示すブロック図である。 本発明の実施の形態2に係るホワイトバランス処理部の構成を示す図である。 本発明の実施の形態2に係るホワイトバランス処理を説明するための図である。 本発明の実施の形態2に係る輝度演算部の構成を示す図である。 本発明の実施の形態2に係る輝度演算処理を説明するための図である。 本発明の実施の形態2に係るホワイトバランス処理の流れを示すフローチャートである。 人間の目の分光感度をRGB三原色で表現した等色関数を示す図である。 RGB三原色を透過させる色フィルタの分光感度を示す図である。 XYZフィルタの透過特性を示す図である。 高色温度時のRGBフィルタの分光感度特性を示す図である。 低色温度時のRGBフィルタの分光感度特性を示す図である。 高色温度時のYXZフィルタの分光感度特性を示す図である。 低色温度時のYXZフィルタの分光感度特性を示す図である。
以下、本発明に係る実施の形態について、図面を参照しながら説明する。なお、本発明について、以下の実施の形態及び添付の図面を用いて説明を行うが、これは例示を目的としており、本発明がこれらに限定されることを意図しない。
(実施の形態1)
本発明の実施の形態1に係る固体撮像装置は、Z信号を用いてX信号の青色領域に相当する信号を生成する。さらに、本発明の実施の形態1に係る固体撮像装置は、X信号から当該青色領域に相当する信号を減算することで、X信号の赤色領域に相当する信号を生成する。また、本発明の実施の形態1に係る固体撮像装置は、生成したX信号の青色領域に相当する信号と、赤色領域に相当する信号とに異なる係数を乗算したうえで加算することにより、X信号のホワイトバランス処理を行う。これにより、本発明の実施の形態1に係る固体撮像装置は、極端な色温度の照明条件であってもホワイトバランス処理を高精度で行える。
図1は、本発明の実施の形態1に係る固体撮像装置100の全体の構成を示すブロック図である。
図1に示す固体撮像装置100は、例えば、デジタルスチルカメラ、又はデジタルビデオカメラ等に搭載される。この固体撮像装置100は、入射光110を電気信号に変換することにより、出力画像信号111を生成する。また、固体撮像装置100は、レンズ101と、撮像素子102と、信号処理部103と、データ変換部104とを備える。
レンズ101は、固体撮像装置100に入射された入射光110を撮像素子102に集光する。
撮像素子102は、レンズ101により集光された入射光110を光電変換することにより、X信号112、Y信号113及びZ信号114を生成し、生成したX信号112、Y信号113及びZ信号114を出力する。撮像素子102は、例えば、CCDイメージセンサ又はMOSイメージセンサである。
この時、被写体の反射率と、照明の分光強度と、入射光110が通過する光の経路に存在する光学素子の透過率との積で決定される分光特性の積分量が画素毎に光電変換される光の情報である。また、入射光110が通過する光の経路に存在する光学素子とは、レンズ101、撮像素子102が備える保護ガラス、撮像素子102が備える赤外カットフィルタ、撮像素子102が備えるX、Y、Zフィルタ等である。この光の情報は画素の光電変換特性に従って電気信号へ変換される。
図2は、撮像素子102の画素の配列の一例を示す図である。また、図2では、4画素×4画素の16画素の配列例を示す。例えば、撮像素子102は、図2に示すように2画素×2画素の4画素の単位画素セルが規則的に配置された画素アレイを有する。この単位画素セルは、1つのX画素301と、2つのY画素302と、1つのZ画素303とを含む。また、2つのY画素は単位画素セルの対角線上に配置される。
ここで、X画素301は、XYZ表色系のXフィルタを備え、当該Xフィルタを透過した光を光電変換することによりX信号112を生成する。また、Y画素302は、XYZ表色系のYフィルタを備え、当該Yフィルタを透過した光を光電変換することによりY信号113を生成する。また、Z画素303は、XYZ表色系のZフィルタを備え、当該Zフィルタを透過した光を光電変換することによりZ信号114を生成する。
また、例えば、これらXフィルタ、Yフィルタ、及びZフィルタはそれぞれ、図24に示すX、Y、Zのフィルタ透過率を有する。
ここで、Xフィルタ、Yフィルタ及びZフィルタの分光感度特性は、CIE(国際照明委員会)により定められたXYZ表色系の分光感度特性に相当する。なお、当該Xフィルタ、Yフィルタ及びZフィルタは、CIEにより定められたXYZ表色系の分光感度特性を完全に再現するものでなくてもよく、類似する分光感度特性を有するものでよいことは言うまでもない。つまり、Yフィルタは、緑色領域の光を透過するフィルタであり、Zフィルタは、青色領域の光を透過するフィルタである。また、Xフィルタは、青色領域の光と赤色領域の光とを透過するフィルタである。また、Xフィルタの青色領域の透過率のピークは、Zフィルタの透過率のピークより低い。例えば、Xフィルタの青色領域の透過率のピークは、Zフィルタの透過率のピークの70%以下であることが好ましく、10%以上かつ50%以下であることがより好ましい。また、Xフィルタの青色領域の透過率のピークは、当該Xフィルタの赤色領域の透過率のピークより低い。例えば、Xフィルタの青色領域の透過率のピークは、当該Xフィルタの赤色領域の透過率のピークの70%以下であることが好ましく、10%以上かつ50%以下であることがより好ましい。
信号処理部103は、撮像素子102により出力されたX信号112、Y信号113及びZ信号114に所定の信号処理を施したうえで、R信号115、G信号116及びB信号117に変換する。この信号処理部103は、ホワイトバランス処理部105を備える。
データ変換部104は、信号処理部103により出力されたR信号115、G信号116及びB信号117を1つの出力画像信号111に変換する。
以下、信号処理部103の詳細な構成について説明する。
図3は、信号処理部103の構成を示すブロック図である。図3に示すように、信号処理部103は、OB(オプティカル・ブラック)処理部121と、輝度演算部122と、色処理部123と、原信号生成部124と、ガンマ処理部125とを備える。
OB処理部121は、X信号112、Y信号113及びZ信号114の黒レベルを補正する。具体的には、OB処理部121は、X信号112、Y信号113及びZ信号114のそれぞれから、暗電流に相当する信号レベルを減算することにより、X信号131、Y信号132及びZ信号133を生成する。ここで、暗電流に相当する信号レベルとは、例えば、撮像領域の周辺領域に配置された、遮光された画素群の出力の平均値、又は当該平均値に近い値である。また、OB処理部121は、撮像素子の温度に応じて、この信号レベルを変化させてもよい。
色処理部123は、OB処理部121により生成されたX信号131、Y信号132及びZ信号133に色処理を行うことにより、Cr信号146及びCb信号147を生成する。
この色処理部123は、LPF(低域通過フィルタ)126と、ホワイトバランス処理部105と、補正部127と、変換部128と、ゲイン調整部129とを備える。なお、色処理部123は、少なくともホワイトバランス処理部105を備えればよく、他の処理部を必ずしも備えなくてもよい。
LPF126は、X信号131、Y信号132及びZ信号133の空間周波数を低下させることにより、X信号135、Y信号136及びZ信号137を生成する。例えば、LPF126は、ある着目画素に対しての周辺の同種類のフィルタ(Xフィルタ、Yフィルタ、Zフィルタ)の画素出力の平均値を算出することにより、X信号135、Y信号136及びZ信号137を生成する。なお、LPF126は、周辺の同種類のフィルタの画素出力に、着目している画素からの距離に対して比重をかけたうえで、平均値を算出してもよい。なお、LPF126は、色処理部123の初段にあることが好ましいが、色処理部123内であればどの段に配置されてもよい。
ホワイトバランス処理部105は、LPF126により生成されたX信号135、Y信号136及びZ信号137に、照明条件に応じた補正係数を乗算することにより、白レベルを補正する、所謂ホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する。
図4は、ホワイトバランス処理部105の構成を示す図である。図4に示すようにホワイトバランス処理部105は、演算部160と、切り替え部180と、色温度判定部185とを備える。
演算部160は、X信号135、Y信号136及びZ信号137に、ホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する。この演算部160は、減算部161と、乗算部162〜166と、加算部167とを備える。
図5は、演算部160によるホワイトバランス処理の説明図である。なお、図5は色温度が低い時を想定した図であるが、色温度が高い時であっても、同様にホワイトバランス処理を行うことができる。
また、図5には、色温度の低い照明が被写体に照射されている場合の、X信号135、Y信号136及びZ信号137の一例を示す。言い換えると、図5に示すX信号135、Y信号136及びZ信号137は、X画素301、Y画素302、及びZ画素303の分光感度に相当する。
また、X信号135は、青色領域(RGB表色系のB信号)に対応する青色信号成分135Aと、赤色領域(RGB表色系のR信号)に対応する赤色信号成分135Bとを含む。
乗算部162は、Z信号137に係数K4を乗算することにより、B信号172を生成する。ここで、B信号172は、X信号135の青色信号成分135Aに相当する信号である。言い換えると、係数K4は、Z信号137を青色信号成分135Aで除算した値である。ここで、Xフィルタの青色領域の透過率とZフィルタの透過率との比率は色温度に依存せずに一定である。よって、乗算部162は、色温度に依存しない一定の係数K4を、Z信号137に乗算することにより、青色信号成分135Aに相当するB信号172を生成できる。
減算部161は、X信号135からB信号172を減算することにより、(X−B)信号171を生成する。ここで、(X−B)信号171は、X信号135の赤色信号成分135Bに相当する。
乗算部163は、(X−B)信号171に係数K1を乗算することにより、(X−B)信号173を生成する。
乗算部164は、Y信号136に係数K2を乗算することにより、Y信号139を生成する。
乗算部165は、Z信号137に係数K3を乗算することにより、Z信号140を生成する。
乗算部166は、B信号172に係数K3を乗算することにより、B信号174を生成する。また、乗算部165及び乗算部166は共に、青色領域の信号に対して係数を乗算するので、同一の係数K3を用いる。
加算部167は、(X−B)信号173とB信号174とを加算することにより、X信号138を生成する。
色温度判定部185は、被写界の色温度を判定する。具体的には、色温度判定部185は、色温度検出素子で検出された色温度を用いて色温度を判定する。または、色温度判定部185は、Y信号136、Z信号137、及び(X−B)171信号を、RGB表色系のG信号、B信号及びR信号と見立てて、一般的なRGB処理による色温度算出アルゴリズムに従って色温度を算出する。例えば、色温度判定部185は、B信号のレベルが大きい場合には色温度が高いと判定し、R信号のレベルが大きい場合には色温度が低いと判定する。
また、上述した係数K1、K2、K3は、色温度判定部185により判定された色温度に基づき、手動又は自動で一意に決定される。例えば、色温度が低い状態であれば、係数K1、K2及びK3は、0.7、1.0及び1.3である。なお、ここでは、乗算部165及び166は、同一の係数K3を用いているが異なる係数を用いてもよい。
また、色温度判定部185は、色温度が所定の範囲内であるか否か、すなわち、色温度が特に高い、又は特に低い場合であるか否かを判定する。また、色温度判定部185は、当該判定結果を示すFLG信号186を生成する。例えば、色温度判定部185は、色温度が所定の範囲外である場合、HレベルのFLG信号186を出力し、色温度が所定の範囲内である場合、LレベルのFLG信号186を出力する。また、所定の色範囲とは、例えば、4000K〜5000Kである。
切り替え部180は、色温度判定部185により出力されたFLG信号186に応じて、X信号135、Y信号136及びZ信号137を演算部160に出力するか、演算部160を経由せずにそのままX信号138、Y信号139及びZ信号140として出力するかを切り替える。
この切り替え部180は、スイッチ181a〜182cと、反転器183とを備える。
スイッチ181a〜181cのゲートには、FLG信号186が接続される。反転器183は、FLG信号186の論理を反転することにより反転FLG信号184を生成する。
スイッチ182a〜182cのゲートには、反転FLG信号184が接続される。
以上の構成により、FLG信号186がHレベルの場合、つまり、色温度が所定の範囲外にある場合には、スイッチ181a〜181cがオンし、かつ、スイッチ182a〜182cがオフする。これにより、X信号135、Y信号136及びZ信号137が、演算部160に供給される。つまり、この場合、切り替え部180は、演算部160によりホワイトバランス処理が行われた補正後の信号を、X信号138、Y信号139及びZ信号140として出力させる。
一方、FLG信号186がLレベルの場合、つまり、色温度が所定の範囲内にある場合には、スイッチ181a〜181cがオフし、かつ、スイッチ182a〜182cがオンする。これにより、切り替え部180は、X信号135、Y信号136及びZ信号137を、そのままX信号138、Y信号139及びZ信号140として出力する。
ここで、色温度が4000K〜5000K程度であれば、上記のようなホワイトバランス処理を実施しなくても良い。よって、上記のように、本発明の実施の形態1に係る固体撮像装置100は、色温度が所定の範囲内にある場合には、ホワイトバランス処理を行わないことにより、演算によるノイズを低減できる。
なお、図4に示す演算部160を以下のように変形してもよい。
図6は、演算部160の変形例である演算部160Aを含むホワイトバランス処理部105の構成を示す図である。なお、図4と同様の要素には同一の符号を付している。
図6に示すように演算部160Aは、乗算部166の代わりに、乗算部168を備える。
乗算部168は、Z信号140に係数K4を乗算することにより、B信号174を生成する。
上記の構成でも、図4に示す構成と同様のB信号174が生成される。つまり、B信号174は、Z信号137に係数K3及び係数K4が乗算された信号であればよい。
再び、図3を参照して説明を行う。
補正部127は、撮像素子102の製造バラつきなどを含めた個体間のバラつきを補正する。具体的には、補正部127は、X信号138、Y信号139及びZ信号140に、和積演算による線形処理、又は非線形な演算による非線形処理を行うことによりX信号141、Y信号142及びZ信号143を生成する。
変換部128は、X信号141、Y信号142及びZ信号143を、色信号Cb、Crへ変換することにより、Cr信号144及びCb信号145を生成する。具体的には、変換部128は、下記(式1)及び(式2)を用いる。
Figure 2010245851
Figure 2010245851
ここで、例えば、行列M1に含まれる係数a1〜a6は、a1=−0.35、a2=−0.82、a3=1.06、a4=2.83、a5=−2.16、a6=−0.49などの値である。ただしこの値は、一例であり、これに類する値でも変換が可能である。
ゲイン調整部129は、変換部128により出力されたCr信号144及びCb信号145にゲイン調整を行うことにより、Cr信号146及びCb信号147を生成する。なお、ゲイン調整部129は、Cr信号144及びCb信号145に線形なゲインを加えてもよいし、撮像系、表示系、及び照明条件などを考慮した非線形なゲインを加えてもよい。
輝度演算部122は、OB処理部121により出力されたX信号131、Y信号132、及びZ信号133を用いて、輝度信号134(Y)を生成する。
図7は、輝度演算部122の構成を示す図である。
図7に示すように、輝度演算部122は、減算部191と、乗算部192〜195と、加算部196とを備える。
また、図8は、輝度演算部122の処理を模式的に示す図である。なお、図8は色温度が低い時を想定した図であるが、色温度が高い時であっても、同様に輝度演算処理を行うことができる。
図8には、色温度の低い照明が被写体に照射されている場合の、X信号131、Y信号132及びZ信号133の一例を示す。言い換えると、図8に示すX信号131、Y信号132及びZ信号133は、X画素301、Y画素302、及びZ画素303の分光感度に相当する。
また、X信号131は、青色領域(RGB表色系のB信号)に対応する青色信号成分131Aと、赤色領域(RGB表色系のR信号)に対応する赤色信号成分131Bとを含む。
輝度演算部122は、X信号131の赤色信号成分131BをRGB表色系のR信号とみなし、RGB表色系のY信号132をG信号とみなし、Z信号133をRGB表色系のB信号とみなし、輝度演算処理を行う。
乗算部192は、Z信号133に係数K4を乗算することにより、B信号175を生成する。ここで、B信号175は、X信号131の青色信号成分131Aに相当する信号である。例えば、乗算部192が用いる係数K4は、上述したホワイトバランス処理部105の乗算部162が用いる係数K4と同じである。
減算部191は、X信号131からB信号175を減算することにより、(X−B)信号176を生成する。ここで、(X−B)信号176は、X信号131の赤色信号成分131Bに相当する。
乗算部193は、(X−B)信号176に係数K5を乗算することにより、(X−B)信号177を生成する。
乗算部194は、Y信号132に係数K6を乗算することにより、Y信号178を生成する。
乗算部195は、Z信号133に係数K7を乗算することにより、Z信号179を生成する。
加算部196は、(X−B)信号177とY信号178とZ信号179とを加算することにより、輝度信号134(Y)を生成する。
なお、係数K5〜K7は、例えば、輝度信号134(Y)が最終的に下記(式3)の関係を満たすように決定することが好ましい。
Figure 2010245851
例えば、図2に示す画素構成の場合には、係数K5は0.299であり、係数K6は0.587/2であり、係数K7は0.114である。
なお、輝度演算部122は、Z信号133と、X信号131の青色信号成分131Aとの和をRGB表色系のB信号とみなし、輝度演算処理を行ってもよい。
再び、図3を参照して説明を行う。
原信号生成部124は、色処理部123から出力されたCr信号146及びCb信号147と、輝度演算部122により出力された輝度信号134(Y)と合成することにより、RGB表色系の3原色に対応するR信号148、G信号149及びB信号150を生成する。具体的には、原信号生成部124は、下記(式4)及び(式5)を用いて、Cr信号146、Cb信号147、及び輝度信号134(Y)を、R信号148、G信号149及びB信号150に変換する。
Figure 2010245851
Figure 2010245851
ここで行列式M2に含まれる係数b1〜b9は、例えば、b1=1、b2=0、b3=1、b4=1、b5=−1.94、b6=−0.51、b7=1、b8=1、b9=0に類する値である。
また、信号処理部103の出力は、その他の多原色出力であってもよい。例えば、原信号生成部124は、Cr信号146、Cb信号147、及び輝度信号134(Y)を、RGBに加え、イエロー、マジェンタ、シアンなどを含む多原色出力信号に変換してもよい。
ガンマ処理部125は、原信号生成部124により出力されるR信号148、G信号149及びB信号150にガンマ処理を行うことにより、R信号115、G信号116及びB信号117を生成する。なお、本実施例ではガンマ処理の工程は、信号処理部103の最終段で行っているが、撮像素子102の特性に応じて、処理工程の場所が代わってもよい。
また、信号処理部103は、XYZを、一旦Cb、Crへ変換するのでなく、伝送系の規格、保存ファイル形式などに合わせて、別の色空間に変換してもよい。例えば、別の色空間とは、CIE 1976(Luv)空間、CIE 1976(Lab)空間、YUV、YIQ、及びXVYCCなどである。
次に、固体撮像装置100の処理の流れを説明する。
図9は、固体撮像装置100による処理の流れを示すフローチャートである。
まず、撮像素子102は、入射光110を光電変換することにより、X信号112、Y信号113及びZ信号114を生成する(S101)。
次に、OB処理部121は、X信号112、Y信号113及びZ信号114のそれぞれから、暗電流に相当する信号レベルを減算することにより、X信号131、Y信号132及びZ信号133を生成する(S102)。
次に、LPF126は、X信号131、Y信号132及びZ信号133の空間周波数を低下させることにより、X信号135、Y信号136及びZ信号137を生成する(S103)。
次に、ホワイトバランス処理部105は、X信号135、Y信号136及びZ信号137にホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する(S104)。
以下、ホワイトバランス処理(ステップS104)について詳細に説明する。
図10は、ホワイトバランス処理部105によるホワイトバランス処理(S104)の流れを示すフローチャートである。
図10に示すように、まず、色温度判定部185は、被写界の色温度を判定する(S121)。
次に、色温度判定部185は、色温度が所定の範囲内であるか否かを判定する(S122)。
色温度が所定の色範囲内にない場合(S122でNo)、切り替え部180は、X信号135、Y信号136及びZ信号137を演算部160に出力する。
次に、乗算部162は、Z信号137に係数K4を乗算することにより、B信号172を生成する(S123)。
次に、減算部161は、X信号135からB信号172を減算することにより、(X−B)信号171を生成する(S124)。
次に、乗算部163〜166は、(X−B)信号171、Y信号136、Z信号137、B信号172に、それぞれ係数K1、K2、K3及びK3を乗算することにより、(X−B)信号173、Y信号139、Z信号140、B信号174を生成する(S125)。
次に、加算部167は、(X−B)信号173とB信号174とを加算することにより、X信号138を生成する(S126)。
以上の処理により、ホワイトバランス処理されたX信号138、Y信号139及びZ信号140が生成される。
一方、色温度が所定の色範囲内である場合(S122でYes)、切り替え部180は、X信号135、Y信号136及びZ信号137を、X信号138、Y信号139、Z信号140として出力する。つまり、ホワイトバランス処理部105は、ホワイトバランス処理を行わない(S127)。
再度、図9を参照して説明を行う。
ホワイトバランス処理(S104)の後、補正部127は、撮像素子102の個体間のバラつきを補正することにより、X信号141、Y信号142及びZ信号143を生成する(S105)。
次に、変換部128は、X信号141、Y信号142及びZ信号143を、Cr信号144及びCb145に変換する(S106)。
次に、ゲイン調整部129は、Cr信号144及びCb信号145にゲイン調整を行うことにより、Cr信号146及びCb信号147を生成する(S107)。
また、輝度演算部122は、X信号131、Y信号132、及びZ信号133を用いて、輝度信号134(Y)を算出する(S108)。
次に、原信号生成部124は、Cr信号146、Cb信号147及び輝度信号134(Y)を、R信号148、G信号149及びB信号150に変換する(S109)。
次に、ガンマ処理部125は、R信号148、G信号149及びB信号150にガンマ処理を行うことにより、R信号115、G信号116及びB信号117を生成する(S110)。
次に、データ変換部104は、信号処理部103により出力されたR信号115、G信号116及びB信号117を出力画像信号111に変換する(S111)。
以上のように、本発明の実施の形態1に係る固体撮像装置100は、Z信号137に所定の係数K4を乗算することにより、X信号135の青色信号成分135Aに相当するB信号172を生成する。さらに、固体撮像装置100は、X信号135からB信号172を減算することにより、X信号の赤色信号成分135Bに相当する(X−B)信号171を生成する。さらに、固体撮像装置100は、(X−B)信号171及びB信号172に、それぞれ異なる係数を乗算したうえで加算することにより、ホワイトバランス処理された補正後のX信号138を生成する。
このように、固体撮像装置100は、色温度に応じて分光感度特性の傾向が異なる、青色領域のB信号172と、赤色領域の(X−B)信号171とに異なる係数を乗算する。これにより、固体撮像装置100は、極端な色温度の照明条件であってもホワイトバランス処理を高精度で行える。
なお、図9及び図10に示す処理順序は、一例であり、これ以外の順序であってもよい。例えば、図9に示す輝度算出処理(S108)は、OB処理(S102)の後、かつYCrCbからRGBへの変換処理(S109)の前であれば、任意のタイミングで行ってよい。
(実施の形態2)
本発明の実施の形態2に係る固体撮像装置200は、X画素301、Y画素302、Z画素303に加え、赤色領域の光をR信号に変換するR画素304を備える。また、本発明の実施の形態2に係る固体撮像装置200は、X信号112からR信号を減算することで、X信号の青色領域に相当する信号を生成する。また、本発明の実施の形態2に係る固体撮像装置は、生成したX信号の青色領域に相当する信号と、R信号とに異なる係数を乗算したうえ加算することにより、X信号のホワイトバランス処理を行う。これにより、本発明の実施の形態2に係る固体撮像装置は、極端な色温度の照明条件であってもホワイトバランス処理を高精度で行える。
図11は、本発明の実施の形態2に係る固体撮像装置200の構成を示す図である。なお、図1に示す固体撮像装置100と同様の要素には同一の符号を付しており、重複する説明は省略する。
図11に示す固体撮像装置200は、固体撮像装置100に対して、撮像素子202、及び信号処理部203の構成が異なる。
撮像素子202は、X信号112、Y信号113及びZ信号114に加え、さらに、R信号210を生成し、生成したX信号112、Y信号113、Z信号114及びR信号210を出力する。
図12は、撮像素子102の画素の配列の一例を示す図である。また、図12では、4画素×4画素の16画素の配列例を示す。例えば、撮像素子202は、図12に示すように4画素×4画素の16画素の単位画素セルが規則的に配置された画素アレイを有する。この単位画素セルは、2つのX画素301と、8つのY画素302と、4つのZ画素303と、2つのR画素304を含む。
ここで、R画素304は、RGB表色系のRフィルタを備え、当該Rフィルタを透過した光を光電変換することによりR信号210を生成する。
また、例えば、Rフィルタは、図23に示すRの透過率を有する。つまり、Rフィルタは、赤色領域の光を透過するフィルタである。また、Xフィルタは、Rフィルタの透過波長領域(赤色領域)を含有する。つまり、R信号210は、X信号135の赤色信号成分135Bに相当する。
また、8つのY画素302は千鳥状に配置される。また、4つのZ画素303は、2画素×2画素の4画素に対して1つ配置され、また、当該4画素において同一の位置(図12では左下)に配置される。また、X画素301及びR画素304は、2画素×2画素の4画素に対していずれか一方が1つ配置され、また、当該4画素において同一の位置(図12では右上)に配置される。また、2画素×2画素の4画素単位でみた場合、X画素301を含む4画素単位と、R画素304を含む4画素単位とは、千鳥状に配置される。
言い換えると、単位画素セルにおいて、各Y画素302に斜め方向に隣接する画素は全てY画素302である。また、単位画素セルにおいて、各Z画素303から横方向に2画素隣の画素、及び縦方向に2画素隣の画素は全てZ画素303である。また、単位画素セルにおいて、各X画素301から斜め方向へ2画素隣の画素は全てX画素301である。また、単位画素セルにおいて、各R画素304から斜め方向へ2画素隣の画素は全てR画素304である。
また、図12に示す配列は、X画素301とR画素304とが互いに補間するような配列である。つまり、Rフィルタと、当該Rフィルタの透過波長領域を含有するXフィルタとを補間配列することにより、赤色領域の光を光電変換するX画素301及びR画素304の割合を、全画素の四分にできる。また、輝度信号を生成するためのY画素302を全画素の半分に配置できるので、図12に示す配列を用いることで、解像度の低下を抑制できる。
なお、撮像素子202の画素配列は、図12に示す配列に限定されないが、Y画素302の数をZ画素303の数より多くし、Z画素303の数をX画素301の数より多くし、X画素301の数をR画素304の数より多くする、又は等しくすることが好ましい。つまり、Y画素302の数を最も多くし、次に、Z画素303の数を多くし、また、X画素301及びR画素304の数を少なくすることが好ましい。
なぜなら、Y信号113の主成分である緑色成分は、輝度への影響が最も大きいので、Y画素302の数を最も多くすることで、精度良く輝度を算出できる。また、詳細は後述するが、固体撮像装置200では輝度演算部において、X信号112及びR信号210を用いて赤色の輝度成分を算出する。一方、青色の輝度成分は、Z信号114のみを用いて算出される。よって、Z画素303より、X画素301及びR画素304の数をそれぞれ少なくする。なお、X画素301の数とR画素304の数との和が、Z画素303の数とほぼ等しくなることがより好ましい。また、R画素304は、本実施例において、追加された画素であるので、最も数が少ないX画素301と同数又はそれ以下であることが好ましい。
また、異なる配列のパターンとしては、図13、図14、又は図15のような画素構成を用いてもよい。例えば、撮像素子202は、図13、図14及び図15に示すような2画素×2画素の単位画素セルが規則的に配置された画素アレイを有する。また、この単位画素セルは、1個のX画素301と、1個のY画素302と、1個のZ画素303と、1個のR画素304とを含む。これにより、後段の信号処理部203において、1単位画素セルが16画素の場合、つまり、1単位画素セルに含まれる各画素の比率が異なる場合と比べて信号処理が簡易になるという利点がある。
信号処理部203は、撮像素子102により出力されたX信号112、Y信号113、Z信号114及びR信号210に所定の信号処理を施したうえで、R信号115、G信号116及びB信号117に変換する。
図16は、信号処理部203の構成を示すブロック図である。なお、図3と同様の要素には、同一の符号を付しており詳細な説明は省略する。
信号処理部203は、図3に示す信号処理部103に対して、OB処理部221の構成と、色処理部223に含まれる輝度演算部222、LPF226、及びホワイトバランス処理部205の構成とが異なる。
OB処理部221は、さらに、R信号210の黒レベルを補正する。つまり、OB処理部221は、X信号112、Y信号113、Z信号114及びR信号210のそれぞれから、暗電流に相当する信号レベルを減算することにより、X信号131、Y信号132、Z信号133及びR信号211を生成する。
LPF226は、X信号131、Y信号132、Z信号133及びR信号211の空間周波数を低下させることにより、X信号135、Y信号136、Z信号137及びR信号212を生成する。
ホワイトバランス処理部205は、R信号212を用いてX信号135、Y信号136及びZ信号137にホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する。
図17は、ホワイトバランス処理部205の構成を示す図である。なお、図4と同様の要素には、同一の符号を付しており説明は省略する。
図17に示すようにホワイトバランス処理部205は、演算部260と、切り替え部280と、色温度判定部185とを備える。
演算部260は、R信号212を用いてX信号135、Y信号136及びZ信号137に、ホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する。この演算部260は、減算部261と、乗算部263〜266と、加算部267とを備える。
図18は、演算部260によるホワイトバランス処理の説明図である。なお、図18は色温度が低い時を想定した図であるが、色温度が高い時であっても、同様にホワイトバランス処理を行うことができる。
図18には、色温度の低い照明が被写体に照射されている場合の、X信号135、Y信号136、Z信号137及びR信号212の一例を示す。言い換えると、図18に示すX信号135、Y信号136、Z信号137及びR信号212は、X画素301、Y画素302、Z画素303及びR画素304の分光感度に相当する。
減算部261は、X信号135からR信号212を減算することにより、(X−R)信号271を生成する。ここで、(X−R)信号271は、X信号135の青色信号成分135Aに相当する。
乗算部263は、(X−R)信号271に係数K3を乗算することにより、(X−R)信号273を生成する。
乗算部264は、Y信号136に係数K2を乗算することにより、Y信号139を生成する。
乗算部265は、Z信号137に係数K3を乗算することにより、Z信号140を生成する。
乗算部266は、R信号212に係数K1を乗算することにより、R信号274を生成する。また、乗算部263及び乗算部265は共に、青色領域の信号に対して係数を乗算するので、同一の係数K3を用いる。
加算部267は、(X−R)信号273とR信号274とを加算することにより、X信号138を生成する。
色温度判定部185は、被写界の色温度を判定する。具体的には、色温度判定部185は、色温度検出素子で検出された色温度を用いて色温度を判定する。または、色温度判定部185は、Y信号136、Z信号137、及びR信号212を、RGB表色系のG信号、B信号及びR信号と見立てて、一般的なRGB処理による色温度算出アルゴリズムに従って色温度を算出する。
また、上述した係数K1、K2、K3は、色温度判定部185により判定された色温度に基づき、手動又は自動で一意に決定される。例えば、色温度が低い状態であれば、係数K1、K2及びK3は、0.7、1.0及び1.3である。なお、ここでは、乗算部263及び265は、同一の係数K3を用いているが異なる係数を用いてもよい。
また、色温度判定部185は、色温度が所定の範囲内であるか否か、すなわち、色温度が特に高い、又は特に低い場合であるか否かを判定する。
切り替え部280は、色温度判定部185により出力されたFLG信号186に応じて、X信号135、Y信号136、Z信号137及びR信号212を演算部260に出力するか、X信号135、Y信号136、及びZ信号137を、演算部260を経由せずにそのままX信号138、Y信号139及びZ信号140として出力するかを切り替える。
この切り替え部280は、スイッチ181a〜182c及び281と、反転器183とを備える。
スイッチ181a〜181c及び281のゲートには、FLG信号186が接続される。反転器183は、FLG信号186の論理を反転することにより反転FLG信号184を生成する。
スイッチ182a〜182cのゲートには、反転FLG信号184が接続される。
以上の構成により、FLG信号186がHレベルの場合、つまり、色温度が所定の範囲外にある場合には、スイッチ181a〜181c及び281がオンし、かつ、スイッチ182a〜182cがオフする。これにより、X信号135、Y信号136、Z信号137及びR信号212が、演算部260に供給される。つまり、この場合、切り替え部180は、演算部260によりホワイトバランス処理が行われた補正後の信号を、X信号138、Y信号139及びZ信号140として出力させる。
一方、FLG信号186がLレベルの場合、つまり、色温度が所定の範囲内にある場合には、スイッチ181a〜181c及び281がオフし、かつ、スイッチ182a〜182cがオンする。これにより、切り替え部180は、X信号135、Y信号136及びZ信号137を、そのままX信号138、Y信号139及びZ信号140として出力する。
輝度演算部222は、OB処理部221により出力されたX信号131、Y信号132、Z信号133及びR信号211を用いて、輝度信号134(Y)を生成する。
図19は、輝度演算部222の構成を示す図である。なお、図7と同様の要素には同一の符号を付しており、説明は省略する。
図19に示すように、輝度演算部222は、図7に示す輝度演算部122に対し、さらに、乗算部293を備える。また、加算部296の構成が異なる。
また、図20は、輝度演算部222の処理を模式的に示す図である。なお、図20は色温度が低い時を想定した図であるが、色温度が高い時であっても、同様に輝度演算処理を行うことができる。
輝度演算部222は、X信号131の赤色信号成分131BとR信号211との和をRGB表色系のR信号とみなし、RGB表色系のY信号132をB信号とみなし、Z信号133をRGB表色系のB信号とみなし、輝度演算処理を行う。
乗算部293は、R信号211に係数K5を乗算することにより、R信号277を生成する。ここで、例えば、乗算部293が用いる係数K5は、乗算部193が用いる係数K5と同じである。
加算部296は、(X−B)信号177とY信号178とZ信号179とR信号277とを加算することにより、輝度信号134(Y)を生成する。
なお、係数K5〜K7は、例えば、輝度信号134(Y)が最終的に上記(式3)の関係を満たすように決定することが好ましい。
例えば、図12に示す画素構成の場合には、係数K5は0.299であり、係数K6は0.587/2であり、係数K7は0.114である。
なお、輝度演算部222は、Z信号133と、X信号131の青色信号成分131Aとの和をRGB表色系のB信号とみなし、輝度演算処理を行ってもよい。
次に、固体撮像装置200の処理の流れを説明する。
なお、固体撮像装置200により処理の全体の流れは、図9とほぼ同様であるので、図9を用いて説明を行う。
まず、撮像素子202は、入射光110を光電変換することにより、X信号112、Y信号113、Z信号114及びR信号210を生成する(S101)。
次に、OB処理部221は、X信号112、Y信号113、Z信号114及びR信号210のそれぞれから、暗電流に相当する信号レベルを減算することにより、X信号131、Y信号132、Z信号133及びR信号211を生成する(S102)。
次に、LPF226は、X信号131、Y信号132、Z信号133及びR信号211の空間周波数を低下させることにより、X信号135、Y信号136、Z信号137及びR信号212を生成する(S103)。
次に、ホワイトバランス処理部205は、X信号135、Y信号136及びZ信号137に、R信号212を用いてホワイトバランス処理を行うことにより、X信号138、Y信号139、Z信号140を生成する(S104)。
以下、ホワイトバランス処理(ステップS104)について詳細に説明する。
図21は、ホワイトバランス処理部205によるホワイトバランス処理(S104)の流れを示すフローチャートである。
図21に示すように、まず、色温度判定部185は、被写界の色温度を判定する(S221)。
次に、色温度判定部185は、色温度が所定の範囲内であるか否かを判定する(S222)。
色温度が所定の色範囲内にない場合(S222でNo)、切り替え部280は、X信号135、Y信号136、Z信号137、R信号212を演算部260に出力する。
次に、減算部261は、X信号135からR信号212を減算することにより、(X−R)信号271を生成する(S223)。
次に、乗算部263〜226は、(X−R)信号271、Y信号136、Z信号137及びR信号212にそれぞれ係数K3、K2、K3、K1を乗算することにより、(X−R)信号273、Y信号139、Z信号140、R信号274を生成する(S224)。
次に、加算部267は、(X−R)信号273とR信号274とを加算することにより、X信号138を生成する(S225)。
以上の処理により、ホワイトバランス処理されたX信号138、Y信号139及びZ信号140が生成される。
一方、色温度が所定の色範囲内である場合(S222でYes)、切り替え部280は、X信号135、Y信号136及びZ信号137を、X信号138、Y信号139、Z信号140として出力する。つまり、ホワイトバランス処理部205は、ホワイトバランス処理を行わない(S226)。
なお、図9に示すステップSS105以降の処理は、実施の形態1と同様であり説明は省略する。
以上のように、本発明の実施の形態2に係る固体撮像装置200は、R画素304を備え、X信号135の赤色信号成分135Bに相当するR信号212を生成する。さらに、固体撮像装置200は、X信号135からR信号212を減算することにより、X信号の青色信号成分135Aに相当する(X−R)信号271を生成する。さらに、固体撮像装置200は、(X−R)信号271及びR信号212に、それぞれ異なる係数を乗算したうえで加算することにより、ホワイトバランス処理された補正後のX信号138を生成する。
このように、固体撮像装置200は、色温度に応じて分光感度特性の傾向が異なる、赤色領域のR信号212と、青色領域の(X−R)信号271とに異なる係数を乗算する。これにより、固体撮像装置200は、極端な色温度の照明条件であってもホワイトバランス処理を高精度で行える。
また、上記実施の形態1又は2に係る固体撮像装置100及び200に含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又はすべてを含むように1チップ化されてもよい。
ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、固体撮像装置100及び200に含まれる信号処理部103、203、及びデータ変換部104は、LSI製造後にプログラムすることが可能なFPGA(Field Programable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて各処理部の集積化を行ってもよい。
また、本発明の実施の形態1又は2に係る固体撮像装置100及び200に含まれる信号処理部103、203、及びデータ変換部104の機能の一部又は全てを、CPU等のプロセッサがプログラムを実行することにより実現してもよい。
さらに、本発明は上記プログラムであってもよいし、上記プログラムが記録された記録媒体であってもよい。また、上記プログラムは、インターネット等の伝送媒体を介して流通させることができるのは言うまでもない。
また、本発明は、上記固体撮像装置100又は200を備える、デジタルスチルカメラ及びデジタルビデオカメラ等のカメラとして実現してもよい。
また、上記実施の形態1又は2に係る固体撮像装置100、200、及びその変形例の機能のうち少なくとも一部を組み合わせてもよい。
本発明は、固体撮像装置に適用でき、特に、デジタルスチルカメラ及びデジタルビデオカメラ等のカメラに適用できる。
100、200 固体撮像装置
101 レンズ
102、202 撮像素子
103、203 信号処理部
104 データ変換部
105、205 ホワイトバランス処理部
110 入射光
111 出力画像信号
112、131、135、138、141 X信号
113、132、136、139、142、178 Y信号
114、133、137、140、143、179 Z信号
115、148、210、211、212、274、277 R信号
116、149 G信号
117、150、175 B信号
121、221 OB処理部
122、222 輝度演算部
123、223 色処理部
124 原信号生成部
125 ガンマ処理部
126、226 LPF
127 補正部
128 変換部
129 ゲイン調整部
131A、135A 青色信号成分
131B、135B 赤色信号成分
134 輝度信号
144、146 Cr信号
145、147 Cb信号
160、160A、260 演算部
161、191、261 減算部
162、163、164、165、166、168、192、193、194、195、263、264、265、266、293 乗算部
167、196、267、296 加算部
171、173、176、177 (X−B)信号
172、174 B信号
180、280 切り替え部
181a、181b、181c、182a、182b、182c、281、282 スイッチ
183 反転器
184 反転FLG信号
185 色温度判定部
186 FLG信号
271、273 (X−R)信号
301 X画素
302 Y画素
303 Z画素
304 R画素

Claims (15)

  1. XYZ表色系のX信号とY信号とZ信号とを出力する撮像素子と、
    前記X信号、前記Y信号及び前記Z信号にホワイトバランス処理を行うことにより、補正後X信号、補正後Y信号及び補正後Z信号を生成するホワイトバランス処理部とを備える固体撮像装置であって、
    前記X信号は、赤色領域に対応する赤色信号成分と、青色領域に対応する青色信号成分とを含み、
    前記ホワイトバランス処理部は、
    前記X信号から、前記赤色信号成分及び前記青色信号成分の一方に相当する第1信号を減算することにより、前記赤色信号成分及び前記青色信号成分の他方に相当する第2信号を算出する第1減算部と、
    前記第1信号に第1係数が乗算された補正後第1信号を生成する第1乗算部と、
    前記第2信号に前記第1係数と異なる第2係数を乗算することにより補正後第2信号を生成する第2乗算部と、
    前記Y信号に第3係数を乗算することにより前記補正後Y信号を生成する第3乗算部と、
    前記Z信号に第4係数を乗算することにより前記補正後Z信号を生成する第4乗算部と、
    前記補正後第1信号と前記補正後第2信号とを加算することにより前記補正後X信号を生成する第1加算部とを備える
    固体撮像装置。
  2. 前記ホワイトバランス処理部は、さらに、
    前記Z信号に第5係数を乗算することにより、前記青色信号成分に相当する前記第1信号を生成する第5乗算部を備え、
    前記第1減算部は、前記X信号から、前記第5乗算部により生成された前記第1信号を減算することにより、前記赤色信号成分に相当する前記第2信号を算出する
    請求項1記載の固体撮像装置。
  3. 前記第1乗算部は、前記第1信号に前記第1係数を乗算することにより前記補正後第1信号を生成する
    請求項2記載の固体撮像装置。
  4. 前記第1係数は、前記第4係数と同じ値である
    請求項2記載の固体撮像装置。
  5. 前記固体撮像装置は、さらに、
    前記X信号、前記Y信号及び前記Z信号を用いて、輝度信号を生成する輝度演算部を備え、
    前記輝度演算部は、
    前記Z信号に第6係数を乗算することにより、前記青色信号成分に相当する第3信号を生成する第6乗算部と、
    前記X信号から前記第3信号を減算することにより、前記赤色信号成分に相当する第4信号を生成する第2減算部と、
    前記第4信号に第7係数を乗算することにより第5信号を生成する第7乗算部と、
    前記Y信号に第8係数を乗算することにより第6信号を生成する第8乗算部と、
    前記Z信号に第9係数を乗算することにより第7信号を生成する第9乗算部と、
    前記第5信号と前記第6信号と前記第7信号とを加算することにより、前記輝度信号を生成する第2加算部とを備える
    請求項2記載の固体撮像装置。
  6. 前記撮像素子は、さらに、前記赤色信号成分に相当する、RGB表色系のR信号を出力し、
    前記第1減算部は、前記X信号から、前記R信号を減算することにより前記青色信号成分に相当する前記第2信号を算出し、
    前記第1乗算部は、前記第1信号に前記第1係数を乗算することにより前記補正後第1信号を生成する
    請求項1記載の固体撮像装置。
  7. 前記撮像素子は、
    前記X信号を生成する複数のX画素と、
    前記Y信号を生成する複数のY画素と、
    前記Z信号を生成する複数のZ画素と、
    前記R信号を生成する複数のR画素とを備え、
    前記Y画素の数は、前記Z画素の数より多く、
    前記Z画素の数は、前記X画素の数より多く、
    前記X画素の数は、前記R画素の数より多い、又は等しい
    請求項6記載の固体撮像装置。
  8. 前記撮像素子は、4画素×4画素の単位画素セルが規則的に配置された画素アレイを有し、
    前記単位画素セルは、2個の前記X画素と、8個の前記Y画素と、4個の前記Z画素と、2個の前記R画素とを含み、
    前記単位画素セルにおいて、各Y画素に斜め方向に隣接する画素は全てY画素であり、
    前記単位画素セルにおいて、各Z画素から横方向に2画素隣の画素、及び縦方向に2画素隣の画素は全てZ画素であり、
    前記単位画素セルにおいて、各X画素から斜め方向へ2画素隣の画素は全てX画素であり、
    前記単位画素セルにおいて、各R画素から斜め方向へ2画素隣の画素は全てR画素である
    請求項7記載の固体撮像装置。
  9. 前記撮像素子は、2画素×2画素の単位画素セルが規則的に配置された画素アレイを有し、
    前記単位画素セルは、
    前記X信号を生成する1個のX画素と、
    前記Y信号を生成する1個のY画素と、
    前記Z信号を生成する1個のZ画素と、
    前記R信号を生成する1個のR画素とを含む
    請求項6記載の固体撮像装置。
  10. 前記第2係数は、前記第4係数と同じ値である
    請求項6記載の固体撮像装置。
  11. 前記固体撮像装置は、さらに、
    前記X信号、前記Y信号、前記Z信号及び前記R信号を用いて、輝度信号を生成する輝度演算部を備え、
    前記輝度演算部は、
    前記Z信号に第5係数を乗算することにより、前記青色信号成分に相当する第3信号を生成する第5乗算部と、
    前記X信号から前記第3信号を減算することにより、前記赤色信号成分に相当する第4信号を生成する第2減算部と、
    前記第4信号に第6係数を乗算することにより第5信号を生成する第6乗算部と、
    前記Y信号に第7係数を乗算することにより第6信号を生成する第7乗算部と、
    前記Z信号に第8係数を乗算することにより第7信号を生成する第8乗算部と、
    前記R信号に第9係数を乗算することにより第8信号を生成する第9乗算部と、
    前記第5信号と前記第6信号と前記第7信号と前記第8信号とを加算することにより、前記輝度信号を生成する第2加算部とを備える
    請求項6記載の固体撮像装置。
  12. 前記ホワイトバランス処理部は、さらに、
    被写界の色温度を判定する色温度判定部と、
    前記色温度判定部により判定された色温度が予め定められた範囲外の場合、当該ホワイトバランス処理部が前記ホワイトバランス処理を行った前記補正後X信号、前記補正後Y信号及び前記補正後Z信号を出力し、前記色温度判定部により判定された色温度が予め定められた範囲内の場合、前記X信号、前記Y信号及び前記Z信号をそのまま前記補正後X信号、前記補正後Y信号及び前記補正後Z信号として出力する切り替え部とを備える
    請求項1記載の固体撮像装置。
  13. 撮像素子により出力されたXYZ表色系のX信号、Y信号及びZ信号にホワイトバランス処理を行うことにより、補正後X信号、補正後Y信号及び補正後Z信号を生成するホワイトバランス処理方法であって、
    前記X信号は、赤色領域に対応する赤色信号成分と、青色領域に対応する青色信号成分とを含み、
    前記ホワイトバランス処理方法は、
    前記X信号から、前記赤色信号成分及び前記青色信号成分の一方に相当する第1信号を減算することにより、前記赤色信号成分及び前記青色信号成分の他方に相当する第2信号を算出する第1減算ステップと、
    前記第1信号に第1係数が乗算された補正後第1信号を生成する第1乗算ステップと、
    前記第2信号に前記第1係数と異なる第2係数を乗算することにより補正後第2信号を生成する第2乗算ステップと、
    前記Y信号に第3係数を乗算することにより前記補正後Y信号を生成する第3乗算ステップと、
    前記Z信号に第4係数を乗算することにより前記補正後Z信号を生成する第4乗算ステップと、
    前記補正後第1信号と前記補正後第2信号とを加算することにより前記補正後X信号を生成する第1加算ステップとを含む
    ホワイトバランス処理方法。
  14. 前記ホワイトバランス処理方法は、さらに、
    前記Z信号に第5係数を乗算することにより、前記青色信号成分に相当する前記第1信号を生成する第5乗算ステップを含み、
    前記第1減算ステップでは、前記X信号から、前記第5乗算ステップで生成された前記第1信号を減算することにより、前記赤色信号成分に相当する前記第2信号を算出する
    請求項13記載のホワイトバランス処理方法。
  15. 前記撮像素子は、さらに、前記赤色信号成分に相当する、RGB表色系のR信号を出力し、
    前記第1減算ステップでは、前記X信号から、前記R信号を減算することにより、前記青色信号成分に相当する前記第2信号を算出し、
    前記第1乗算ステップでは、前記第1信号に前記第1係数を乗算することにより前記補正後第1信号を生成する
    請求項13記載のホワイトバランス処理方法。
JP2009092517A 2009-04-06 2009-04-06 固体撮像装置及びホワイトバランス処理方法 Pending JP2010245851A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009092517A JP2010245851A (ja) 2009-04-06 2009-04-06 固体撮像装置及びホワイトバランス処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009092517A JP2010245851A (ja) 2009-04-06 2009-04-06 固体撮像装置及びホワイトバランス処理方法

Publications (1)

Publication Number Publication Date
JP2010245851A true JP2010245851A (ja) 2010-10-28

Family

ID=43098385

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009092517A Pending JP2010245851A (ja) 2009-04-06 2009-04-06 固体撮像装置及びホワイトバランス処理方法

Country Status (1)

Country Link
JP (1) JP2010245851A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016194456A (ja) * 2015-03-31 2016-11-17 有限会社パパラボ 色忠実環境補正装置および色忠実環境補正方法
JP2018004423A (ja) * 2016-06-30 2018-01-11 有限会社パパラボ 色判定装置及び色判定方法
JP2019020311A (ja) * 2017-07-20 2019-02-07 株式会社パパラボ 色彩測定方法及び色彩測定装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016194456A (ja) * 2015-03-31 2016-11-17 有限会社パパラボ 色忠実環境補正装置および色忠実環境補正方法
JP2018004423A (ja) * 2016-06-30 2018-01-11 有限会社パパラボ 色判定装置及び色判定方法
JP7076760B2 (ja) 2016-06-30 2022-05-30 株式会社パパラボ 色判定装置及び色判定方法
JP2019020311A (ja) * 2017-07-20 2019-02-07 株式会社パパラボ 色彩測定方法及び色彩測定装置

Similar Documents

Publication Publication Date Title
US10257484B2 (en) Imaging processing device and imaging processing method
JP6096243B2 (ja) 画像データの処理方法およびシステム
US8666153B2 (en) Image input apparatus
US9793306B2 (en) Imaging systems with stacked photodiodes and chroma-luma de-noising
WO2021208593A1 (zh) 高动态范围图像处理系统及方法、电子设备和存储介质
EP4161061A1 (en) Image acquisition method, camera assembly, and mobile terminal
JP5397788B2 (ja) 画像入力装置
CN104756488A (zh) 信号处理设备、信号处理方法和信号处理程序
JP2015053578A (ja) カラー撮像装置及びカラー撮像方法
JP2010245851A (ja) 固体撮像装置及びホワイトバランス処理方法
US10593717B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP2005303704A (ja) 撮像装置、カメラ、及び信号処理方法
TWI536765B (zh) 具有透明濾波器像素之成像系統
JP2005323141A (ja) 撮像装置、カメラ、及び信号処理方法
TWI617198B (zh) 具有透明濾波器像素之成像系統
JP2005295419A (ja) 撮像装置、カメラ、及び信号処理方法
TWI601427B (zh) 具有透明濾波器像素之成像系統
JP2005303702A (ja) 撮像装置、カメラ、及び信号処理方法
JP2008283559A (ja) 撮像装置及びプログラム