以下、図面を参照して本発明の実施形態について詳細に説明する。
<固体撮像装置の全体概要>
図1は、本発明に係る固体撮像装置の一実施形態の概略構成図である。本実施形態の固体撮像装置1は、入射光量に応じた信号を出力する受光素子(電荷生成部の一例)を含む複数個の画素が行および列に配列された(すなわち2次元マトリクス状の)画素アレイ部を有し、画素アレイ部の後段に各画素からの信号出力が電圧信号であって、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部やAGC(Automatic Gain Control)処理機能部やデジタル変換部(ADC;Analog Digital Converter)などが設けられており、さらにその後段に、本実施形態特有のフリッカ抑制機能を備えたカメラ信号処理部が設けられているものである。以下、具体的に説明する。
なお、一般的には、画素アレイ部の基本要素としてCCDを採用したときには画素アレイ部とCDS処理機能部やデジタル変換部が別体とされるのに対して、画素アレイ部の基本要素としてCMOSを採用したときには画素アレイ部とCDS処理機能部やデジタル変換部が一体的に設けられる。なお、CCDやCMOSなどの固体撮像装置1の適用例としては、監視カメラ、ビデオカメラ、デジタルスチルカメラ、PCカメラ、携帯電話のカメラなどが考えられる。
固体撮像装置1は、複数の単位画素(図示を割愛する)が行および列に配列された画素アレイ部10と、駆動制御部7と、画素アレイ部10から出力された画素信号に対してCDS処理やAD変換処理などを施す画素信号処理部26とを備えている。駆動制御部7や画素信号処理部26は、画素アレイ部10の外側に設けられている。
駆動制御部7は、画素アレイ部10の信号を順次読み出すための制御回路機能を備えている。たとえば、駆動制御部7としては、図示を割愛するが、画素アレイ部の基本要素としてCCDを採用したときには、列方向への電荷転送を制御する垂直転送駆動部や行方向への電荷転送を制御する水平転送駆動部や垂直転送駆動部や水平転送駆動部などを制御するための駆動パルスを生成するなどの機能を持つ通信・タイミング制御部とを備える。画素アレイ部の基本要素としてCMOSを採用したときには、行アドレスや行走査を制御する垂直走査回路(行走査回路)と、列アドレスや列走査を制御する水平走査回路(列走査回路)と、垂直走査回路や水平走査回路などを制御するための内部クロック(駆動パルス)を生成するなどの機能を持つ通信・タイミング制御部とを備える。
通信・タイミング制御部は、図示しないが、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータTG(読出アドレス制御装置の一例)の機能ブロックと、外部から供給されるマスタークロックを受け取り、また外部から供給される動作モードなどを指令するデータを受け取り、さらに固体撮像装置1の情報を含むデータを出力する通信インタフェースの機能ブロックとを備える。
CMOの場合、これらの各機能部は、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成されたいわゆる1チップもの(同一の半導体基板上に設けられているもの)として、半導体システムの一例であるCMOSイメージセンサとして、本実施形態の固体撮像装置1の一部をなすように構成される。
なお、固体撮像装置1は、このように各部が半導体領域に一体的に形成された1チップとして形成された形態であってもよいし、図示を割愛するが、画素アレイ部10(撮像部)、駆動制御部7、画素信号処理部26などの各種の信号処理部の他に、撮影レンズ、光学ローパスフィルタ、あるいは赤外光カットフィルタなどの光学系をも含む状態で、これらを纏めてパッケージングされた撮像機能を有するモジュール状の形態としてもよい。
また、固体撮像装置1は、画素信号処理部26の後段に、撮像信号処理部220とフリッカ周波数特定部の機能をなすカメラ制御部900とを具備したカメラ信号処理部200を備えている。カメラ信号処理部200は、たとえば、DSP(Digital Signal Processor)で構成される。画素信号処理部26内のAD変換部をカメラ信号処理部200内に取り込む構成を採ることもある。
なお、このカメラ信号処理部200をも、画素アレイ部10、駆動制御部7、画素信号処理部26などの各種の信号処理部と纏めて、半導体領域に一体的に形成されたいわゆる1チップものとして、半導体システムの一例であるCMOSイメージセンサとして、本実施形態の固体撮像装置1の全体をなすように構成してもよい。
撮像信号処理部220は、色フィルタとして原色フィルタ以外のものが使用されているときに画素信号処理部26のAD変換機能部から供給されるデジタル撮像信号をR(赤),G(緑),B(青)の原色信号に分離する原色分離機能を具備した信号分離部222と、信号分離部222によって分離された原色信号R,G,Bに基づいて色信号Cに関しての信号処理を行なう色信号処理部230とを有する。
また撮像信号処理部220は、信号分離部222によって分離された原色信号R,G,Bに基づいて輝度信号Yに関しての信号処理を行なう輝度信号処理部240と、輝度信号Y/色信号Cに基づいて映像信号VDを生成するエンコーダ部260および出力用のアナログに変換するDA変換部262と、輝度信号もしくは色信号(原色信号もしくは色差信号)に基づいてフリッカ検波を行なうフリッカ検波部270とを有する。
色信号処理部230は、図示を割愛するが、たとえば、ホワイトバランスアンプ、ガンマ(γ)補正部、色相(Hue)/ゲイン処理を行なう色差マトリクス部などを有する。ホワイトバランスアンプは、図示しないホワイトバランスコントローラから供給されるゲイン信号に基づき、信号分離部222の原色分離機能部から供給される原色信号のゲインを調整(ホワイトバランス調整)し、ガンマ補正部および輝度信号処理部240に供給する。
ガンマ補正部は、ホワイトバランスが調整された原色信号に基づいて、忠実な色再現のためのガンマ(γ)補正を行ない、ガンマ補正された各色用の出力信号R,G,Bを色差マトリクス部に入力する。色差マトリクス部は、色差マトリクス処理を行なって得た色差信号R−Y,B−Yをエンコーダ部260に入力する。
輝度信号処理部240は、図示を割愛するが、たとえば、信号分離部222の原色分離機能部から供給される原色信号に基づいて比較的周波数が高い成分までをも含む輝度信号YHを生成する高周波輝度信号生成部と、ホワイトバランスアンプから供給されるホワイトバランスが調整された原色信号に基づいて比較的周波数が低い成分のみを含む輝度信号YLを生成する低周波輝度信号生成部と、2種類の輝度信号YH,YLに基づいて輝度信号Yを生成しエンコーダ部260に供給する輝度信号生成部とを有する。
エンコーダ部260は、色信号副搬送波に対応するデジタル信号で色差信号R−Y,B−Yをデジタル変調した後、輝度信号処理部240にて生成された輝度信号Yと合成して、デジタル映像信号VD(=Y+S+C;Sは同期信号、Cはクロマ信号)に変換する。
エンコーダ部260から出力されたデジタル映像信号VDは、さらに後段の図示を割愛したカメラ信号出力部に供給され、モニター出力や記録メディアへのデータ記録などに供される。この際、必要に応じて、DA変換部262によってデジタル映像信号VDがアナログ映像信号Vに変換される。
フリッカ検波部270は、各画素から得られる輝度信号量もしくは色信号量を積分して輝度信号量や色信号量の測定結果を取得する積分処理部を有する。なお、好ましくは、画像を垂直走査方向に分割して複数のフリッカ検波枠を設定するフリッカ検波枠設定部を設け、フリッカ検波枠設定部によって設定されたフリッカ検波枠ごとに各画素から得られる輝度信号量もしくは色信号量を積分して輝度信号量や色信号量の測定結果を取得するとよい。フリッカ検波枠の幅や間隔の指定は、カメラ制御部900に組み込まれる制御プログラムによって実行されるともに各設定値は任意である。フリッカ検波部270は、輝度信号量や色信号量の測定結果である積分値の情報をカメラ制御部900に提示する。
本実施形態のカメラ制御部900は、コンピュータが行なう演算と制御の機能を超小型の集積回路に集約させたCPU(Central Processing Unit )を代表例とする電子計算機の中枢をなすマイクロプロセッサ(microprocessor)902と、読出専用の記憶部であるROM(Read Only Memory)904、随時書込みおよび読出しが可能であるとともに揮発性の記憶部の一例であるRAM(Random Access Memory)906と、図示を割愛したその他の周辺部材を有している。マイクロプロセッサ902、ROM904、およびRAM906を纏めて、マイクロコンピュータ(microcomputer )とも称する。
なお、上記において“揮発性の記憶部”とは、装置の電源がオフされた場合には、記憶内容を消滅してしまう形態の記憶部を意味する。一方、“不揮発性の記憶部”とは、装置のメイン電源がオフされた場合でも、記憶内容を保持し続ける形態の記憶部を意味する。記憶内容を保持し続けることができるものであればよく、半導体製のメモリ素子自体が不揮発性を有するものに限らず、バックアップ電源を備えることで、揮発性のメモリ素子を“不揮発性”を呈するように構成するものであってもよい。
また、半導体製のメモリ素子により構成することに限らず、磁気ディスクや光ディスクなどの媒体を利用して構成してもよい。たとえば、ハードディスク装置を不揮発性の記憶部として利用できる。また、CD−ROMなどの記録媒体から情報を読み出す構成を採ることでも不揮発性の記憶部として利用できる。
カメラ制御部900は、システム全体を制御するものであり、本例では、フリッカ検波部270によって得られたフリッカ成分についての検波データに基づきカラーローリング(色フリッカ成分)を抑制する処理機能(詳細は後述する)を有している。ROM904にはカメラ制御部900の制御プログラムなどが格納されているが、本例では、カメラ制御部900によってカラーローリングを抑制するための機能をなすカラーローリング抑制プログラムが格納されている。
RAM906にはカメラ制御部900が各種処理を行なうためのデータなどが格納されているが、たとえば、1フレーム前のフリッカ検波部270の検波データを退避するための領域を提供する。
このような構成の固体撮像装置1においては、図示を割愛した撮像レンズを通して結像した光信号がCCDもしくはCMOSの画素アレイ部10にて電気信号に変換される。その後、画素信号処理部26のCDS処理にて画素信号をサンプルホールドし、AGC処理にてゲイン調整を行なった後、画素信号処理部26内のもしくはカメラ信号処理部200(たとえばDSPで構成されるとき)内のA/D変換器にてデジタルデータに変換される。さらに、信号分離部222にて輝度信号と色信号に分けて、それぞれ色信号処理部230や輝度信号処理部240にて処理を行なう。その後、エンコーダ部260にて出力用の信号に変換され、DA変換部262にてアナログ信号に戻しビデオ出力信号とする。駆動制御部7内のタイミングジェネレータは各機能部に必要なパルスを供給する。また、駆動制御部7からはAE(Automatic Exposure)の制御として電子シャッタパルスを画素アレイ部10に供給する。
AEの制御は、たとえば、輝度信号処理部240からの輝度信号に基づきフリッカ検波部270にて積分された輝度信号を元にカメラ制御部900内のROM904に書き込まれたソフトウェアで行なう。オートホワイトバランス制御は、たとえば色信号処理部230からの原色信号に基づきフリッカ検波部270にて積分された色信号(R,G,B)を元にカメラ制御部900内のROM904に書き込まれたソフトウェアで行なう。
<<カラーローリング抑制処理;第1実施形態>>
図2〜図4は、第1実施形態のカラーローリング抑制処理を説明する図である。ここで、図2は、第1実施形態のカラーローリング抑制処理に対する比較例および第1実施形態の各露光制御方式を説明するタイミングチャートである。図3は、第1実施形態のカラーローリング抑制処理におけるカラーローリング検出処理で実施される同時化処理を説明する図である。図4は、第1実施形態のカラーローリング抑圧処理の処理手順を説明するフローチャートである。
第1実施形態のカラーローリング抑制処理は、先ずカラーローリングの検出を、1フィールド間に複数回(典型的には2回)の露光を行ない、それぞれの信号の差異検出によって行なう点に特長を有する。すなわち、カラーローリングが発生しているときは、露光のタイミングの違いで2つの信号の輝度レベルと色に差異が生じるため、その差異で検出することができる。なお、各回の露光時間は好ましくは同一にする。露光時間を同一としない場合には、各回で取得される信号レベルを同一露光時間のものに正規化してカラーローリングの有無の判定処理を行なう。露光時間を同一とする場合、この正規化処理が不要になる利点がある。
また、カラーローリングの抑圧すなわち蛍光灯を撮像したときの色変化の抑圧は、1フィールド間に複数回露光したことによって得られた信号のうち、カラーローリングが起きていない方の信号を選択して出力することで実現する点に特長を有する。
<カラーローリング検出処理;第1実施形態>
先ず、第1実施形態のカラーローリング抑制処理の特徴を説明する上での比較例として、一般的な露光制御方式について図2(A)にて説明する。
所望の露光時間が得られるように電子シャッタパルスを発生させて、1フィールド期間に1回露光を行なう。図2(A)では、垂直同期信号VDで1フィールド期間が開始する場合において、前半部分で電子シャッタパルスを発生させて、後半部を露光期間としている。その後、CCDの場合には読出パルスで画素アレイ部10のセンサから垂直転送レジスタに信号電荷を転送する。
この露光時間が短くなればなるほど、蛍光灯の発光を捉えるタイミングのフィールドごとのズレが大きくなり、カラーローリングが発生し、色変化と輝度変化のレベルが大きくなる。これは、蛍光灯の発光スペクトルが時間とともに変化することに起因する。特に発光開始よりも終了時の方に差異が大きく、黄色成分(つまり赤色成分と緑色成分の合成成分)が残る傾向にある。
一方、第1実施形態のカラーローリング抑制処理における露光制御方式では、1フィールド期間内に複数回の露光を行なう。たとえば、図2(B)に示すように、1フィールド期間内に2回の露光を行なう。たとえば、比較例と同様の1フィールド期間における後半部分での露光タイミングに加えて、フィールドの開始直後にも露光を行なう。1フィールド期間における前半部分での露光タイミングを追加するのである。
たとえば、露光時間がNTSCの場合1/120[s](PALの場合は1/100[s])よりも短くなる場合には、この1フィールド期間内に2回の露光を行なう。ただし、1/120[s](PALの場合は1/100[s])よりも長くなるような被写体条件では、比較例と同じように1フィールドに1回の露光を行なうように自動的に制御方式を切り換える。つまり、カラーローリングの検出の際に露光時間がフィールド周期の1/2以上になる場合には、自動的に1フィールドに1回の露光時間に切り換える。
これは、露光時間がフィールド周期の1/2以上になると、通常の後半部分での露光タイミングと本実施形態での前半部分での露光タイミングとが重なってしまい、結果的には正しい露光ができなくなるためである。また、カラーローリングは露光時間が短いほど顕著に現れ、1/100[s]や1/120[s]程度の露光時間では殆ど目立たないことも理由の1つである。
1フィールド期間における前半部分での露光タイミングで取得される信号に関しては、次の後半部分での露光タイミングの前に読み出しておく。たとえばCCDの場合であれば、読出パルスを読出ゲートに供給してセンサ部から垂直レジスタに信号電荷を全て転送する。そして、後半部分での露光タイミングで取得される信号電荷が垂直レジスタに読み出される前に全て水平転送レジスタに転送しておく。このため、読出パルスの位置に垂直転送開始と水平転送開始のタイミングも合わせておく。これらのことは、あるフィールドにおける後半部分での露光タイミングで取得される信号と、次フィールドにおける前半部分での露光タイミングで取得される信号との関係においても同様である。これらの制御を行なうための各種パルスは、駆動制御部7のタイミングジェネレータから出力し画素アレイ部10に入力する。
ここで、カラーローリングが発生していない場合には、2回の露光で得られる信号に差異はないが、カラーローリングが発生している場合には、発光を捉えるタイミングが異なるため、輝度信号あるいは色信号に差異が発生する。カメラ制御部900は、前半部分と後半部分のそれぞれの露光タイミングで取得される各輝度信号あるいは色信号の情報を比較し、それぞれのレベルに差異がある場合には、カラーローリングが発生していると判定する。
たとえば、輝度信号の情報を比較してカラーローリングが発生の有無を判定するには以下のようにする。先ず、輝度信号については、フリッカ検波部270にて輝度成分を積分し、その値を監視(モニター)する。この際には、図3に示すように、1フィールド期間内に2回の露光信号があるので、次のフィールドを使ってそれぞれ1フィールドに1つの信号として同時化し、積分は1フィールド期間行なう。フリッカ検波部270は、前半部分と後半部分のそれぞれの露光タイミングで取得される各輝度積分値の情報をカメラ制御部900に組み込まれる制御プログラムに提示する。
カラーローリングが発生していない場合、同じ露光時間(シャッタスピード)であれば、前半部分と後半部分のそれぞれの露光タイミングで取得される輝度積分値の差異は生じないが、カラーローリングが発生している場合には同じ露光時間でも輝度積分値に差異が生じる。そこで、カメラ制御部900は、前半部分と後半部分のそれぞれの露光タイミングで取得される各輝度積分値を比較し、それぞれのレベルに差異がある場合には、カラーローリングが発生していると判定する。
一方、色信号の情報を比較してカラーローリングが発生の有無を判定するには以下のようにする。先ず、色信号については、フリッカ検波部270にて色成分(R,G,B)を積分し、カメラ制御部900にてその比率を監視(モニター)する。輝度信号と同様に、1フィールド期間内に2回の露光信号があるので、図3に示すように、それぞれ1フィールドに1つの信号として同時化し、積分は1フィールド期間行なう。フリッカ検波部270は、前半部分と後半部分のそれぞれの露光タイミングで取得される各色積分値の情報をカメラ制御部900に組み込まれる制御プログラムに提示する。
カラーローリング現象がなく、ホワイトバランスがあっている場合には、ホワイトバランス処理後のR,G,B信号の比率は1:1:1である。しかしながら、カラーローリングが起きている場合にはこのR,G,B信号の比率が崩れ、典型的には青色(B)成分が少なくなり、画面は黄色を帯びることが多い。もちろん、ホワイトバランス処理前の信号でもR,G,B比率が崩れ、青色(B)成分Bが少なくなり黄色が強く出る。
なお、蛍光灯の種類や、補色系であるのか原色系であるのかと言ったカラーフィルタ構成の違いにより、カラーローリングでB成分だけが少なくなるという現象が異なる可能性がある。この場合でも、ホワイトバランス処理後のR,G,B信号の比率はカラーローリング現象がない場とある場合とでは異なる。
何れにせよ、カメラ制御部900は、前半部分と後半部分のそれぞれの露光タイミングで取得される各色積分値に基づくR,G,Bの比率をモニターし、両者の間でR,G,Bの比率に差があり、さらに片側の信号で上記のように黄色(カラーフィルタ構成により異なる色)が強く出ているなどの現象が見られる場合にカラーローリングが発生していると判定する。
なお、第1実施形態のカラーローリング抑制処理におけるカラーローリング検出処理として、後述する第2実施形態のカラーローリング抑制処理におけるカラーローリング検出処理を適用してもよい。ただし、カラーローリング抑圧処理との組合せとしては、前述の第1実施形態のカラーローリング検出処理を適用するのが好ましいのは言うまでもない。
<カラーローリング抑圧処理;第1実施形態>
カメラ制御部900は、カラーローリングを検出した場合に、次に、カラーローリング抑圧処理を行なう。たとえば、1フィールドに2回の露光で得られた前半部分の露光タイミングで取得される前半信号1と後半部分の露光タイミングで取得される後半信号2の内、少なくとも、カラーローリングが起きていない方の信号を使って最終的な出力とする。たとえば、R,G,B比率の1:1:1からのずれが大きい方(カラーローリングの程度が大きい方)の信号を使用せず、もう片側のカラーローリングが起きていない方(カラーローリングの程度が少ない方)の信号のみを使って最終的な出力とする。カラーローリングを検出しなかった場合には、1フィールドに2回の露光で得られた信号に差はないので、どちらの信号を使用しても問題はない。
たとえば、図4に示すように、初期状態では前半信号1の方を使用するように設定しておく(S10)。カラーローリングの有無判定(S12)にてカラーローリングを検出しなかった場合には(S12−NO)、そのまま前半信号1を使うようにし、カメラとしての信号処理、たとえば輝度信号処理部240ではLPF処理やγ処理など、色信号処理部230ではホワイトバランス処理、γ処理、色相/ゲイン処理などを行ない、最終的には、エンコーダ部260にてビデオ信号として映像出力する(S18)。
一方、カラーローリングを検出した場合には(S12−NO)、前半信号1と後半信号2で比較して(S14)、後半信号2の方に大きなカラーローリングが発生している(R,G,Bの比率が1:1:1からのずれが大きい)と判定できれば(S14−YES)、前半信号1をそのまま使うようにし、前記と同じカメラとしての信号処理を行ない、ビデオ信号として出力する(S18)。前半信号1の方に大きなカラーローリングが発生している(R,G,Bの比率が1:1:1からのずれが大きい)と判定できれば(S14−NO)、後半信号2を使うように設定を切り替え(S16)、前記と同じカメラとしての信号処理を行ない、ビデオ信号として出力する(S18)。
あるいは、前半信号1と後半信号2とを合成した信号を常時出力するようにしてもよい。この場合でも、本実施形態を適用しない場合に比べるとカラーローリングの抑圧効果は多少なりとも得られる。ただし、カラーローリングの成分が出力画像に残留するので、カラーローリングが起きていない方の信号のみを使って最終的な出力とする方法の方がカラーローリングの抑圧効果が高い。
第1実施形態のカラーローリング抑制処理によれば、蛍光灯撮像時に起きるカラーローリングを抑圧することができ、カメラの画質向上を図ることができる。周期的な画像変化が起き難くなるため、カメラ出力の後段で画像圧縮を行なってデータ転送などの用途があった場合に圧縮率を高めることができる。たとえば、DVR(Digital Video Recorder)での画像記録やネットワーク画像配信の用途に効果的である。
また、第1実施形態では、フリッカ検波部270にて、各画素から得られる輝度信号量もしくは色信号量を積分して輝度信号量や色信号量の測定結果を示す積分値を取得するようにしているが、このような処理は、フリッカ検出に当たっての一般的な処理である。よって、カラーローリング検出や抑圧に特殊なハードウェアや外付け回路などを必要としないため、カラーローリングを対策したカメラとしての製造コストアップを抑えることができる。
<<カラーローリング抑制処理;第2実施形態>>
図5〜図7は、第2実施形態のカラーローリング抑制処理を説明する図である。ここで、図5は、第2実施形態のカラーローリング抑制処理におけるカラーローリング検出処理で実施される色信号R,G,Bについての輝度別積分処理を説明する図である。図6は、第2実施形態のカラーローリング抑圧処理の詳細を説明する図である。図7は、第2実施形態のカラーローリング抑圧処理の効果を説明する図である。
第2実施形態のカラーローリング抑制処理は、先ずカラーローリングの検出を、一定の周期ごとの色信号の比率を監視して、比率変化の有無や程度に基づきカラーローリングの有無を判定する点に特長を有する。特に、本実施形態では、高輝度部の色信号R,G,Bの比率を監視して行なう点に特長を有する。
また、カラーローリングの抑圧すなわち蛍光灯を撮像したときの色変化の抑圧は、色信号処理の中のある色信号レベルを自動的に切り替えて増やすことで実現する点に特長を有する。特に、この色信号レベルの切替えを、ホワイトバランスアンプの前段に設けられる信号分離部222での色分離処理にて行なう点に特長を有する。
<カラーローリング検出処理;第2実施形態>
第2実施形態のカラーローリング抑制処理におけるカラーローリング検出処理では、高輝度部の色信号R,G,Bの積分値の比率が変化した場合をカラーローリングとして判定する。たとえば、NTSCのカメラで発生するカラーローリングの場合、電源周波数が60Hz、フィールド周波数が59.94Hzであるため、999フィールドで約16.7sec、蛍光灯の発光周波数は120Hzで2000回発光すると約16.7sec、999/59.94=2000/120=16.7であり、カラーローリングの発生周期は約16.7secとなる。
フリッカ検波部270は、図5に示すように、色信号成分R,G,Bに関して、輝度レベルによって積分する範囲を分ける輝度別積分の仕組みを採り、高輝度領域の色成分をそれぞれ積分し、その積分結果をカメラ制御部900に組み込まれる制御プログラムに提示する。この輝度別積分方法は、ホワイトバランス制御において白色を効率よく抽出するために用いている既存の方法であり、本実施形態ではカラーローリング検出として使用する。
カメラ制御部900は、前記のカラーローリングの発生周期にて高輝度部のR,G,B積分値の比率が変化した場合、カラーローリングが発生してると判定する。たとえば、NTSCカメラで画素アレイ部10に補色フィルタが搭載されている固体撮像装置1の場合、R,G,Bの内のBの比率が約16.7secごとに小さくなった場合にはカラーローリングが起きていると判定する。
積分範囲を分割する輝度レベルは、長周期で変化する色信号レベルが最大になるように設定しておくことでより効果的となる。カラーローリング検出に当たり、輝度によって分けることなく画面全体で判定する場合にはカラーローリングを効果的に検出することが難しいが、本実施形態のように輝度別積分方法を適用することでカラーローリング検出性能が向上する。
カラーローリング現象がなく、ホワイトバランスがあっている場合には、ホワイトバランス処理後のR,G,B信号の比率は1:1:1である。しかしながら、カラーローリングが起きている場合にはこのR,G,B信号の比率が崩れ、典型的には青色(B)成分が少なくなり、画面は黄色を帯びることが多い。なお、蛍光灯の種類や、補色系であるのか原色系であるのかと言ったカラーフィルタ構成の違いにより、カラーローリングでB成分だけが少なくなるという現象が異なる可能性がある。この場合でも、ホワイトバランス処理後のR,G,B信号の比率はカラーローリング現象がない場とある場合とでは異なる。何れにせよ、カメラ制御部900は、R,G,Bの比率を監視し、周期的にR,G,Bの比率が変化するか否かに基づいてカラーローリングの有無を判定できる。
PALのカメラの場合、電源周波数が50Hz、フィールド周波数が50Hzであるため、カラーローリングの発生周期はNTSCと異なるが、検出の方法としてはNTSCと変わらない。
なお、多くの場合、輝度フリッカが生じるケースではカラーローリングも生じるので、輝度信号のみに基づきフリッカの有無を判定して、輝度フリッカが存在すればカラーローリングも生じているものと判定してもよい。この場合、色信号に基づきフリッカの有無を判定する場合に比べて判定処理が簡易になる利点がある。ただし、色信号に基づきフリッカの有無を判定する場合に比して性能が劣るのは言うまでもない。
<カラーローリング抑圧処理;第2実施形態>
カメラ制御部900は、カラーローリングを検出したときには、ホワイトバランスアンプの前段に設けられる信号分離部222での色分離処理にて、ある色信号レベルを自動的に切り替えて増やす。たとえば、NTSCのカメラで画素アレイ部10に補色フィルタが搭載されている固体撮像装置1の場合、信号分離部222は、補色信号(たとえば輝度信号Yと色差信号Cr,Cb)を図6(A)に示すように、R,G,B原色信号に変換する。変換式としては、たとえば下記式(1)を使用する。α1,α2,β1,β2は予め設定された分離係数(変換係数)である。
本実施形態の信号分離部222においては、B信号の変換式における係数β1を、カラーローリングを検出しない場合の初期値β1_0とカラーローリングを検出したときに応じた予め設定してある大きな設定値β1_1とで切り替える構成を採る。この係数β1の切替えのため、図6(B)に示すように、第2実施形態のカメラ信号処理部200は、2入力−1出力型のスイッチなどの係数切替部223を有する。係数切替部223は、被写体像のホワイトバランス調整機能の前段に設けられた色信号レベルを調整する調整部として機能する。
係数切替部223の一方の入力端には初期値β1_0が、他方の入力端には設定値β1_1が、制御入力端にはカメラ制御部900からのカラーローリング検出信号が入力される。カラーローリング検出信号(Detect result )を0,1に分け、たとえばカラーローリングが検出されなかった場合を0、検出した場合を1とする。係数切替部223は、カラーローリング検出信号が、0のときには初期値β1_0を係数として使用し、1のときには設定値β1_1を係数と使用するように自動で切り替える。
初期値β1_0については、カメラの色再現とホワイトバランス動作のどちらも満足するような値(たとえば20[h]〜40[h])を設定しておく。色再現については、色温度変化に対して変化が少なく、かつ色再現自体がよいようにする。ホワイトバランス動作については、色温度変化に追従でき、かつホワイトバランスゲインが大きくなりすぎてノイズが増大されないようにする。この設定では、カラーローリング抑圧に関して最適とは言えず、カラーローリング現象が起きたときに黄色方向に飽和度が伸びる。一方、設定値β1_1については、カラーローリングが抑圧される値に予め設定しておく。すなわち、青色信号が大きくなるような係数(たとえば7F[h])に設定する。
自動で切り替えるのは、たとえばドーム監視カメラのようにカメラ自体がパン(Pan),チルト(Tilt)を行なうと被写体も変わり、蛍光灯で照明された被写体やそうでない被写体が切り替わることがあるからである。
逆に固定の監視カメラでは、被写体に変化が殆どないため、自動で切り替える必要はないと考えられる。その場合には、予めどちらかの設定にしておくとよい。すなわち、カラーローリングが起きるような被写体の場合には、設定値β1_1を選択するようにしておき、そうでない場合には設定値β1_0を選択しておく。
このように、カラーローリング発生時に青色信号が大きくなるような設定値β1_1を使用する第2実施形態の仕組みを採ることで、図7に示すRGBの分光特性例のように、青色信号が増えたことによって、カラーローリングが発生するような状況でも青色成分が不足することはなく、黄色方向に色の飽和度が伸びることがない。青色信号の足りない分は、色信号処理部230でのホワイトバランスアンプのゲインで補うことでカラーローリングは抑圧できる。
従来技術の問題では、青色信号を絞ってからホワイトバランスアンプのゲインで増幅していたため、信号量に対してノイズが増える結果となっていた。これに対して、第2実施形態の仕組みでは、ホワイトバランス調整前の原色信号に変換する段階で予め青色信号を絞ることがなく、青色信号を大きくしておくので、ホワイトバランスでゲインを過度に大きく上げることがないためカラーローリング抑圧時に青色系統のノイズを抑えることができる。たとえば、初期値β1_0として20[h]〜40[h]を使用し、設定値β1_1として7F[h]を使用すると、青色信号は約2倍(6dB)に信号量が増えるため、ビット精度も1ビット改善され、ホワイトバランス調整でのゲインを抑えられることになり、相対的にノイズを約1/2(−6dB)抑圧することができる。
画素アレイ部10に原色フィルタが搭載されている固体撮像装置1の場合、青色信号の処理の途中のホワイトバランス調整前にゲインを乗算するようアンプを挿入し、そのゲインを切り替えられるようにしておけば、補色フィルタでの信号処理と同様のことが可能である。
第2実施形態のカラーローリング抑制処理においても、蛍光灯撮像時に起きるカラーローリングを抑圧することができ、カメラの画質向上を図ることができる。周期的な画像変化が起き難くなるため、カメラ出力の後段で画像圧縮を行なってデータ転送などの用途があった場合に圧縮率を高めることができる。
また、第2実施形態では、フリッカ検波部270にて、ホワイトバランス制御において白色を効率よく抽出するために用いている輝度別積分方法をカラーローリング検出に適用しており、カラーローリング検出に特殊なハードウェアや外付け回路などを必要とせずカラーローリング検出性能を向上できる利点がある。カラーローリング抑圧のため係数切替部223を追加するが、これは2入力−1出力型の簡単なスイッチであればよく、カラーローリング抑圧に特殊なハードウェアや外付け回路などを必要としないため、カラーローリングを対策したカメラとしての製造コストアップを抑えることができる。
<撮像装置>
図8は、前述の固体撮像装置1と同様の仕組みを利用した物理情報取得装置の一例である撮像装置の概略構成を示す図である。この撮像装置8は、可視光カラー画像を得る撮像装置になっている。
前述した固体撮像装置1の仕組みは固体撮像装置のみではなく、撮像装置にも適用可能である。この場合、撮像装置としても、カラーローリング検出時には、第1実施形態もしくは第2実施形態のカラーローリング抑圧処理を適用することで、フリッカ検出処理性能を向上させることができる。
特に、前述の説明から分かるように、フリッカ検出処理性能は、露光条件や、フレームレートと電源周波数との関係に左右されるので、露光条件やフレームレートを制御する機能部分との関係が重要になる。
具体的には、撮像装置8は、蛍光灯などの照明装置801の下にある被写体Zの像を担持する光Lを撮像装置側に導光して結像させる撮影レンズ802と、光学ローパスフィルタ804と、たとえばR,G,Bの色フィルタがベイヤ配列とされている色フィルタ群812、および画素アレイ部10と、画素アレイ部10を駆動する駆動制御部7と、画素アレイ部10から出力された撮像信号を処理するカメラ信号処理部810とを備えている。
光学ローパスフィルタ804は、折返し歪みを防ぐために、ナイキスト周波数以上の高周波成分を遮断するためのものである。また、図中に点線で示しように、光学ローパスフィルタ804と合わせて、赤外光成分を低減させる赤外光カットフィルタ805を設けることもできる。この点は、一般的な撮像装置と同様である。
カメラ信号処理部810は、先ず、固体撮像装置1のカメラ信号処理部200と同様に、撮像信号処理部220を有している。また、カメラ信号処理部810は、固体撮像装置1と同様に、カメラ制御部900を有している。ここで、撮像装置8におけるカメラ制御部900としては、マイクロプロセッサ902には、フリッカ抑制プログラムの他に、露光制御用のプログラムも組み込まれて、露光条件を制御する露光条件制御部としても機能するようになっている。
ここで、電子計算機の中枢をなすマイクロプロセッサ902を露光条件を制御する露光条件制御部として機能させるための露光制御用のプログラムとしては、フリッカ抑制プログラムによって特定されたフリッカ周波数を参照して電子シャッタを制御することで、フリッカ抑制を行なう点に特徴を有する。
具体的には、特定されたフリッカ周波数と完全に同期した電子シャッタを切る。たとえば、NTSC方式仕様の50Hz電源地域では電子シャッタ速度を1/100秒とする。電子シャッタ速度1/100秒が蛍光灯点滅周期1/100秒と同期するので、電子シャッタ動作の位相と蛍光灯点滅の位相がどのようにずれていても、固定された電子シャッタ速度である1/100秒の間に画素アレイ部10に入射される光量が一定に保たれ、光源フリッカ(輝度フリッカおよび色フリッカともに)が生じないようになる。
ただし、この場合は、光源フリッカを防止できても、電子シャッタを利用した露光制御は不可能となってしまう。このため、被写体照度が高い側では、照度上昇に伴って画素アレイ部10が電子的に飽和することがある。あるいは、画素アレイ部10が飽和しなくても、後段の信号処理系が飽和することもある。これら場合、画像輝度が増大し、画像が白っぽく潰れてしまう。
この対策としては、たとえばメカアイリスと組み合わせることで、光源フリッカを防止しつつ画像潰れが生じないように露光制御する仕組みを適用するとよい。ただし、今日では、撮像装置本体のローコスト化のために、メカニカルな絞り機構(メカアイリス)を取り除き、電子シャッタ機能だけで露光制御を行なうように構成することが多い。このような露光制御を電子アイリスという。
このようなメカアイリス機構を持たず電子アイリスにより露光制御する仕組みを採る場合は、フリッカ周波数と同期したタイミングの電子シャッタタイミングを設定することで光源フリッカを防止させたときに、画素アレイ部10が飽和しない限りにおいて、被写体照度の変動にかかわりなく画像輝度を一定にするために、画素アレイ部10から出力された信号に対しての自動利得制御を適用するようにしてもよい。
また、カメラ制御部900は、メモリカードなどの記録媒体924を挿脱可能に構成し、またインターネットなどの通信網との接続が可能に構成している。たとえば、カメラ制御部900は、マイクロプロセッサ902、ROM904、およびRAM906の他に、メモリ読出部907および通信I/F(インタフェース)908を備える。
記録媒体924は、たとえば、マイクロプロセッサ902にソフトウェア処理をさせるためのプログラムデータや、輝度信号処理部240からの輝度系信号に基づく測光データDLの収束範囲、フリッカ処理や露光制御処理(電子シャッタ制御を含む)における各種の設定値などのデータを登録するなどのために利用される。
メモリ読出部907は、記録媒体924から読み出したデータをRAM906に格納(インストール)する。通信I/F908は、インターネットなどの通信網との間の通信データの受け渡しを仲介する。
なお、このような撮像装置8は、駆動制御部7およびカラム処理部26を、画素アレイ部10と別体にしてモジュール状のもので示しているが、固体撮像装置1について述べたように、これらが画素アレイ部10と同一の半導体基板上に一体的に形成されたワンチップものの固体撮像装置1を利用してもよいのは言うまでもない。
また、図では、画素アレイ部10や駆動制御部7や画素信号処理部26やカメラ信号処理部810の他に、撮影レンズ802、光学ローパスフィルタ804、あるいは赤外光カットフィルタ805などの光学系をも含む状態で、撮像装置8を示しており、この態様は、これらを纏めてパッケージングされた撮像機能を有するモジュール状の形態とする場合に好適である。
ここで、前述の固体撮像装置1におけるモジュールとの関係においては、図示のように、画素アレイ部10(撮像部)と、AD変換機能や差分(CDS)処理機能を具備したカラム処理部26などの画素アレイ部10側と密接に関連した信号処理部(画素信号処理部26の後段のカメラ信号処理部は除く)が纏めてパッケージングされた状態で撮像機能を有するモジュール状の形態で固体撮像装置1を提供するようにし、そのモジュール状の形態で提供された固体撮像装置1の後段に、残りの信号処理部であるカメラ信号処理部810を設けて撮像装置8の全体を構成するようにしてもよい。
または、図示を割愛するが、画素アレイ部10(撮像部)と撮影レンズ802などの光学系とが纏めてパッケージングされた状態で撮像機能を有するモジュール状の形態で固体撮像装置1を提供するようにし、そのモジュール状の形態で提供された固体撮像装置1に加えて、カメラ信号処理部810をもモジュール内に設けて、撮像装置8の全体を構成するようにしてもよい。
また、固体撮像装置1におけるモジュールの形態として、カメラ信号処理部200に相当するカメラ信号処理部810を含めてもよく、この場合には、事実上、固体撮像装置1と撮像装置8とが同一のものと見なすこともできる。
このような撮像装置8は、「撮像」を行なうための、たとえば、カメラや撮像機能を有する携帯機器として提供される。なお、「撮像」は、通常のカメラ撮影時の像の撮り込みだけではなく、広義の意味として、指紋検出なども含むものである。
このような構成の撮像装置8においては、前述の固体撮像装置1の全ての機能を包含して構成されており、前述の第1もしくは第2実施形態のカラーローリング抑制処理を適用する固体撮像装置1の基本的な構成および動作と同様とすることができ、カラーローリング抑制処理性能を向上させることができる。
たとえば、上述した処理をコンピュータに実行させるプログラムは、フラッシュメモリ、ICカード、あるいはミニチュアーカードなどの不揮発性の半導体メモリカードなどの記録媒体924を通じて配布される。さらに、サーバなどからインターネットなどの通信網を経由して前記プログラムをダウンロードして取得したり、あるいは更新してもよい。
記録媒体924の一例としてのICカードやミニチュアーカードなどの半導体メモリには、上記実施形態で説明した固体撮像装置1(特にカラーローリング抑制処理に関わる機能)における処理の一部または全ての機能を格納することができる。したがって、プログラムや当該プログラムを格納した記憶媒体を提供することができる。たとえば、フリッカ処理用のプログラム、すなわちRAM906などにインストールされるソフトウェアは、固体撮像装置1について説明したフリッカ処理と同様に、輝度データや色データの測定と積分処理、あるいはこの輝度データや色データに基づくカラーローリングの判別・抑圧などの各機能部をソフトウェアとして備える。
同様に、露光制御用のプログラム、すなわちRAM906などにインストールされる露光制御用のソフトウェアも、測光データDLを受け取り、測光データDLが一定レベルに保持され、かつ蛍光灯照明下においてもフリッカが生じないように電子シャッタ速度を制御し、また必要に応じてフリッカ抑制プログラムとの連携によりフレームレートを制御するなどの各機能部をソフトウェアとして備える。
ソフトウェアは、RAM906に読み出された後にマイクロプロセッサ902により実行される。たとえばマイクロプロセッサ902は、記録媒体の一例であるROM904およびRAM906に格納されたプログラムに基づいて露光制御処理や前述のフリッカ処理を実行することにより、上記処理を実行するための機能をソフトウェア的に実現することができる。すなわち、コンピュ−タを用いたデジタル信号処理によって、露光制御処理やフリッカ処理(特にカラーローリング抑制処理)を実現することができる。
1…固体撮像装置、10…画素アレイ部、200…カメラ信号処理部、220…撮像信号処理部、222…信号分離部、223…係数切替部、230…色信号処理部、240…輝度信号処理部、260…エンコーダ部、262…DA変換部、270…フリッカ検波部、7…駆動制御部、8…撮像装置、900…カメラ制御部、902…マイクロプロセッサ、904…ROM、906…RAM