以下、本発明の好ましい実施例について図面を参照しながら説明する。
まず、具体的な実施例の説明に先立って、実施例の基本的な考え方について説明する。本実施例の撮像装置は、赤外カットフィルタを撮像光学系から撮像素子に至る光路内に配置した状態でカラーフィルタ付き撮像素子により得られた輝度信号と色差信号との比(第1の比)を求める。さらに、赤外カットフィルタを上記光路外に配置した状態で得られた輝度信号と色差信号との比(第2の比)を求める。そして、第1の比に対する第2の比の変化量に基づいて、赤外カットフィルタを光路内に配置するか光路外に配置するか、すなわち挿脱を決定(制御)する。
より具体的には、上記変化量から撮像光源(被写体を照らす光源)に含まれる赤外光成分の割合を算出し、該算出した赤外光成分の割合から可視光成分の光量を算出する。そして、可視光成分の光量に基づいて、赤外カットフィルタの挿脱を決定する。
上記変化量は、撮像素子に設けられたカラーフィルタの分光透過特性に応じた赤外波長領域の光が分布する輝度信号と色差信号の比の範囲に対して、赤外カットフィルタを光路外に配置した状態での該比がどれだけ近づいたかを評価する指標である。
ここにいう赤外波長領域は、赤色成分が多く透過される第1の赤外波長領域と、赤色成分(R)、緑色成分(G)及び青色成分(B)の3色成分がほぼ同量ずつ透過される第2の赤外波長領域とに分けるとよい。言い換えれば、カラーフィルタにおいて、赤色成分に対する透過率が他の色成分の透過率よりも大きい第1の赤外波長領域と、該第1の赤外波長領域に比べて3色成分に対する透過率の差が小さい第2の赤外波長領域での上記変化量をそれぞれ求めるとよい。
ここで、第1及び第2の赤外波長領域は、原色又は補色カラーフィルタの赤外波長領域における分光透過特性に基づいて定義される。図1には、原色カラーフィルタの分光透過特性を示す。
原色カラーフィルタは、650〜820nm付近の波長領域では赤色信号Rが最も透過率が高く、緑色信号G及び青色信号Bの透過率は低い。このため、この波長領域の光が原色カラーフィルタ付き撮像素子に入射した場合に得られる色情報は、赤色成分が支配的となる。この赤色成分が支配的となる波長領域を第1の赤外波長領域とする。
また、820nm付近よりも長波長側の波長領域では3色成分がほぼ同量ずつ透過されるため、この波長領域の光が原色カラーフィルタ付き撮像素子に入射した場合に得られる色情報は無彩色を示す信号となる。このように無彩色の色情報が得られる波長領域を第2の赤外波長領域とする。
図2には、補色カラーフィルタの分光透過特性を示す。補色カラーフィルタは、650〜820nm付近の波長領域ではイエローYe(R+G)及びマゼンダMg(R+B)の透過特性がほぼ同一で、かつ透過率が最も高い。そして、シアンCy(G+B)の透過率のみが低い。このため、この波長領域の光が補色カラーフィルタ付き撮像素子に入射した場合に得られる色情報も、赤色成分が支配的となる。この赤色成分が支配的となる波長領域を第1の赤外波長領域とする。また、820nm付近よりも長波長側の波長領域では、3色成分がほぼ同量ずつ透過されるため、この波長領域の光が補色カラーフィルタ付き撮像素子に入射した場合に得られる色情報は、無彩色を示す信号となる。この無彩色の色情報が得られる波長領域を第2の赤外波長領域とする。
第1及び第2の赤外波長領域の帯域幅は、撮像素子のカラーフィルタの分光透過特性によって若干変わる。しかし、一般的な撮像素子のカラーフィルタにおける赤外波長領域では、赤色成分が多く透過される第1の赤外波長領域と、3色成分がほぼ同量ずつ透過される第2の赤外波長領域とに大別することができる。
ここで本実施例では、第1及び第2の赤外波長領域の光によってどのような信号が出力されるかを検出するために、原色及び補色カラーフィルタに単波長光を照射し、波長毎に輝度信号と色差信号を取得する。色差信号のレベルは輝度信号のレベルにほぼ比例した関係を有する。このため、色差信号と輝度信号の比であるR−Y/Y軸とB−Y/Y軸からなる直交座標系に色差信号を変換することで、輝度信号のレベルによらない色情報のみを評価することが可能である。
以下、色差信号と輝度信号の比であるR−Y/Y及びB−Y/Yを、色差輝度比という。
原色及び補色カラーフィルタにおける各波長の色差輝度比の分布例を図3及び図4に示す。
図3に示す原色カラーフィルタの場合、第1の赤外波長領域の色差輝度比は、650〜770nm付近までは赤色から黄色の直線上に分布し、770〜820nm付近までは黄色から無彩色の直線上に分布している。この第1の赤外波長領域の色差輝度比が分布する範囲を、以下、第1の赤外色分布範囲という。また、第2の赤外波長領域の色差輝度比は、820nm以降すべて無彩色を示す座標中心にのみ分布している。この第2の赤外波長領域の色差輝度比が分布する範囲を、以下、第2の赤外色分布範囲という。
一方、図4に示す補色カラーフィルタの場合、色差輝度比は、原色カラーフィルタにおける第1の赤外色分布範囲に相当する650〜820nm付近では、赤色から無彩色の直線上に分布している。また、原色カラーフィルタにおける第2の赤外色分布範囲に相当する820nm以降では、原色カラーフィルタと同様に、すべて無彩色を示す座標中心にのみ分布している。
本実施例における第1の赤外色分布範囲は、撮像素子に設けられた原色又は補色カラーフィルタの分光透過特性によって形状が変化するため、カラーフィルタ毎の分光透過特性から算出もしくは測定しておく必要がある。
撮像光源に赤外波長領域の光が含まれると、可視波長領域の光での撮像により得られた色差輝度比と比較して、色差輝度比に変化が生じる。補色カラーフィルタにおいて、撮像光源の可視波長成分と赤外波長成分との割合を変化させた場合の色差輝度比の推移を図5及び図7に示す。
図5には、可視波長成分に対して第1の赤外波長成分の割合PIR1を変化させた場合の色差輝度比の推移を示す。第1の赤外波長成分の割合PIR1が増えるにしたがって、色差輝度比は第1の赤外色分布範囲に近づいていく特性を有する。色差輝度比の第1の赤外色分布範囲に対する距離LIR1と第1の赤外波長成分の割合PIR1との関係は、図6Aのような特性を示す。
また、第1の赤外波長成分を含まない可視波長成分のみの撮像光源下での色差輝度比と第1の赤外色分布範囲との距離LV1を基準とした場合、各色差輝度比が第1の赤外色分布範囲に近づく距離比率LIR1/LV1は、図6Bに示すようにほぼ一定の関係を有する。
図7には、可視波長成分に対して第2の赤外波長成分の割合PIR2を変化させた場合の色差輝度比の推移を示す。第2の赤外波長成分の割合PIR2が増えるにしたがって、色差輝度比は第2の赤外色分布範囲近傍に近づいていく特性を有する。色差輝度比の第2の赤外色分布範囲に対する距離LIR2と第2の赤外波長成分の割合PIR2との関係は、図8Aのような特性を示す。
また、第2の赤外波長成分を含まない可視波長成分のみの撮像光源下での色差輝度比と第2の赤外色分布範囲との距離LV2を基準とした場合、各色差輝度比が第2の赤外色分布範囲に近づく距離比率LIR2/LV2は、図8Bに示すようにほぼ一定の関係を有する。
撮像光源に第1及び第2の赤外波長成分が含まれている場合の色差輝度比の特性より、第1及び第2の赤外波長成分の割合PIRを、色差輝度比の赤外色分布範囲に対する距離比率LIR/LVの近似関数PIR=F(LIR/LV)のように表わすことが可能である。この近似関数PIR=F(LIR/LV)は、撮像素子のカラーフィルタによって変化するため、カラーフィルタ毎に検出する必要がある。
検出方法としては、図5に示すように、代表的な色の色チャートに対して撮像光源の可視波長成分と赤外波長成分の割合を変化させ、図6Aに示すようなデータベースを構築する。さらに、該データベースに基づいて、図6Bに示すような赤外波長成分の割合PIR1と、距離比率LIR1/LV1との関係を導き出すことが望ましい。
近似関数PIR=F(LIR/LV)を用いれば、以下のようにして撮像光源に含まれる第1及び第2の赤外波長成分の割合PIRをそれぞれ算出することができる。すなわち、基準となる可視波長成分のみでの撮像時、つまり赤外カットフィルタを挿入した状態での被写体の色差輝度比と、赤外カットフィルタを除去した状態での被写体の色差輝度比との距離比率LIR/LVに基づいて、上記割合PIRを算出することができる。距離比率LIR/LVは、言い換えれば、赤外カットフィルタを挿入した状態での色差輝度比と赤外カットフィルタを除去した状態での色差輝度比との変化量である。
そして、このような第1及び第2の赤外波長成分のそれぞれの割合を算出することにより、赤外カットフィルタを除去した状態において、撮像範囲(撮像範囲)の全光量のうち赤外光成分がどの程度の割合を占めるかを算出することができる。このため、赤外カットフィルタを除去した状態においても、可視光成分の光量、すなわち赤外カットフィルタを挿入した状態における撮像範囲の輝度を予測することができる。したがって、予測した輝度に基づいて赤外カットフィルタの挿入のタイミングを決定することにより、赤外カットフィルタの自動挿入動作を安定化させることができる。
言い換えれば、被写体及び光源の種類にかかわらず、撮像光源に含まれる赤外及び可視波長成分の光量を検出することができる。このため、検出した可視波長成分の光量に応じて赤外カットフィルタの挿脱を行うことで、誤動作なく適切な明るさにおいて赤外カットフィルタの自動挿脱が可能となる。
赤外光成分の割合の算出機能及び赤外カットフィルタの自動挿脱機能を有する撮像装置の実施例1について説明する。図9には、実施例1の撮像装置の構成を示す。なお、本実施例及び後述する他の実施例では撮像光学系を一体的に有する撮像装置について説明するが、本発明の実施例としては、撮像光学系(交換レンズ)の着脱が可能な撮像装置もある。
撮像光学系1において、不図示の被写体からの光(撮像光源から射出して被写体で反射した光)は、光路長補正フィルタ2又は赤外カットフィルタ3を透過し、撮像素子5の前面に設けられたカラーフィルタ4を透過して撮像素子5に入射する。撮像素子5は、CCDセンサやCMOSセンサ等の光電変換素子であり、撮像光学系1により形成された被写体像を光電変換する。撮像素子5から出力されたアナログ撮像信号は、増幅器7によって増幅され、A/D変換器8によってデジタル撮像信号に変換される。
光路長補正フィルタ2及び赤外カットフィルタ3は、フィルタ保持枠15により保持されている。フィルタ保持枠15は、フィルタ移動手段としてのフィルタ駆動モータ6によって撮像光学系1の光軸に対して直交する方向に駆動される。フィルタ駆動モータ6は、後述するマイクロコンピュータ200内の撮像モード決定部205からのフィルタ切り換え信号を受けたフィルタ制御回路9によって駆動される。
これにより、赤外カットフィルタ3が撮像光学系1から撮像素子5に至る光路内に配置(挿入)された状態と赤外カットフィルタ3が光路外に配置(除去又は退避)された状態とに切り換えることができる。赤外カットフィルタ3が除去された状態では、その代わりに光路長補正フィルタ2が光路内に挿入される。赤外カットフィルタ3が光路内に挿入された状態は、カラー撮像モード(以下、単にカラーモードともいう)に相当し、赤外カットフィルタ3が光路外に除去された状態は、白黒撮像モード(以下、単に白黒モードともいう)に相当する。
なお、マイクロコンピュータ200及びフィルタ制御回路9は、制御手段に相当する。
A/D変換器8からのデジタル撮像信号は、映像信号処理回路100における色分離マトリクス(MTX)101において、赤色信号R、青色信号B及び緑色信号Gに分解されてWB回路102に入力される。WB回路102は、撮像信号のRゲイン及びBゲインを、適切なホワイトバランスが得られるように調整する。
色分離マトリクス(MTX)103は、WB回路102によって適正なホワイトバランスに調整された赤色信号R、青色信号B及び緑色信号Gを、色差信号R−Y、B−Y及び輝度信号Yに変換する。色差信号R−Y、B−Y及び輝度信号Yは、映像信号合成部104により映像信号として合成され、外部へ出力される。
映像信号合成部104は、赤外カットフィルタ3が挿入されている状態では、色分離マトリクス103から得られる色差信号R−Y、B−Y及び輝度信号Yを合成し、カラー映像を出力する。ただし、赤外カットフィルタ3が除去されて光路長補正フィルタ2が挿入されている状態では、映像信号の色バランスが赤外光の混入によって崩れてしまう。このため、赤外カットフィルタ除去状態では、色分離マトリクス103から得られる色差信号R−Y、B−Yを破棄して輝度信号Yのみの白黒映像を出力する。
変換された撮像信号である色差信号R−Y、B−Y及び輝度信号Yは、平均値演算部105において平均化され、撮像範囲全体の平均色差信号及び平均輝度信号に変換される。
平均化された色差信号R−Y、B−Y及び輝度信号Yは、マイクロコンピュータ200における色差信号補正部201に入力される。平均化された色差信号R−Y、B−Yは、WB回路102において調整されたホワイトバランス値によって同一色であっても値が変わってしまう。このため、色差信号補正部201において現在のホワイトバランス値をWB回路102より読み込み、規定のホワイトバランス値に再変換する。また、色差信号R−Y、B−Yは、輝度信号Yに対してほぼ比例関係を有するため、色情報のみを評価可能な色差輝度比R−Y/Y、B−Y/Yに変換する。
メモリ202は、撮像モード決定部205からのモード決定信号がカラーモードを示す場合は、赤外カットフィルタ3を介した可視波長成分のみの撮像であると見なす。この場合、被写体の色を基準として色差信号補正部201で変換した色差輝度比R−Y/Y、B−Y/Y及び輝度信号Yを格納する。格納したデータは、色差信号補正部201からデータを取得するごとに更新してもよいし、取得した複数のデータを一定時間毎に平均化して更新してもよい。
メモリ202には、予め第1及び第2の赤外色分布範囲を示す色差輝度比R−Y/Y、B−Y/Yも記憶されている。記憶されているデータは、図3又は図4に示すように、カラーフィルタ4の特性に基づき測定又は算出したものである。
波長成分割合演算部203は、色差信号補正部201からの色差輝度比R−Y/Y、B−Y/Y、及びメモリ202に格納されている被写体の色差輝度比基準データに基づいて、第1及び第2の赤外波長成分の割合を検出する。図10に、波長成分割合演算部203において行う具体的な処理を示す。
なお、波長成分割合演算部203の処理は、マイクロコンピュータ200内の不図示のプログラム格納メモリに格納されたコンピュータプログラムに従って実行される。このことは、マイクロコンピュータ200内の他の処理部で行われる処理についても同じである。
図10のステップS500において、波長成分割合演算部203(マイクロコンピュータ200)は、撮像モード決定部205からのモード決定信号に基づいて、現在の撮像モードがカラーモードか白黒モードかを判別する。現在の撮像モードがカラーモードであった場合は、ステップS501の処理に移る。
ステップS501では、メモリ202に格納されている被写体の色差輝度比基準データを読み込む。
次に、ステップS502では、第1の赤外色分布範囲と被写体の色差輝度比基準データとの距離L1を算出する。次に、ステップS503では、第2の赤外色分布範囲と被写体の色差輝度比基準データとの距離L2を算出する。なお、ステップS502及びS503の処理順序はどちらが先でもよい。また、撮像環境に応じて第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
第1の赤外色分布範囲と色差輝度比基準データとの距離L1は、撮像光源が可視波長成分のみ、つまり第1の赤外波長成分の割合が0%であったときに相当する。このため、近似関数PIR1=F(LIR1/LV)にLV=L1を代入することで、図11に示すような色差輝度比の距離LIR1の変化量を測定するのみで、撮像光源に含まれる第1の赤外波長成分の割合を検出できるデータベースを作成することができる。
第2の赤外色分布範囲と色基準データとの距離L2は、光源が可視波長成分のみ、つまり第2の赤外波長成分の割合が0%であったときに相当する。このため、近似関数PIR2=F(LIR2/LV2)にLV2=L2を代入することで、色差輝度比の距離LIR2の変化量を測定するのみで、撮像光源に含まれる第2の赤外波長成分の割合を検出できるデータベースを作成することができる。
ステップS504では、距離L1及び近似関数PIR1=F(LIR1/LV1)を用いて、第1の赤外波長成分の割合を検出するデータベースを作成し、メモリ202に格納する。
ステップS505では、距離L2及び近似関数PIR2=F(LIR2/LV2)を用いて、第2の赤外波長成分の割合を検出するデータベースを作成し、メモリ202に格納する。
ステップS505の処理が終わると、ステップS500に戻り、撮像モードがカラーモードであり続ける限り、ステップS501〜S505までの処理を繰り返して赤外波長成分の割合を検出するデータベースを更新し続ける。
ステップS500において撮像モードが白黒モードであった場合は、ステップS506の処理を行う。ステップS506では、色差信号補正部201より現在の撮像範囲の色差輝度比R−Y/Y、B−Y/Yを取得してメモリ202に格納する。
次に、ステップS507では、第1の赤外色分布範囲と現在の撮像範囲の色差輝度比R−Y/Y、B−Y/Yとの距離L1′を算出する。
ステップS508では、第2の赤外色分布範囲と現在の撮像範囲の色差輝度比R−Y/Y、B−Y/Yとの距離L2′を算出する。なお、ステップS507及びS508の処理順序はどちらが先でもよい。また、撮像環境によって第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
ステップS509では、ステップS507にて算出した距離L1′とステップS504にてメモリ202に格納した第1の赤外波長成分の割合を検出するデータベースとを参照して、撮像光源に含まれる第1の赤外波長成分の割合PIR1を検出する。
ステップS510では、ステップS508にて算出した距離L2′とステップS505にてメモリ202に格納した第2の赤外波長成分の割合を検出するデータベースとを参照して、撮像光源に含まれる第2の赤外波長成分の割合PIR2を検出する。以上が波長成分割合演算部203において行われる処理である。
可視波長成分輝度演算部204及び撮像モード決定部205は、波長成分割合演算部203において検出した第1及び第2の赤外波長成分の割合PIR1、PIR2に基づいて、撮像モードの切り換えを決定する。
可視波長成分輝度演算部204及び撮像モード決定部205における処理を、図12に示す。ここでは、撮像モードとして、白黒モードが設定されているものとする。
ステップS700では、可視波長成分輝度演算部204は、波長成分割合演算部203から得られる第1及び第2の赤外波長成分の割合値PIR1、PIR2より、1−(PIR1+PIR2)を演算処理する。これにより、撮像光源に含まれる第1及び第2の赤外波長成分以外の波長成分、すなわち可視波長成分の割合を算出する。
次に、ステップS701では、色差信号補正部201より撮像範囲全体の平均輝度Yを取得する。
次に、ステップS702では、取得した平均輝度YとステップS700において演算した可視波長成分の割合とを乗算することで、撮像光源に含まれる可視波長成分の輝度YVを演算する。演算された可視波長成分の輝度YVは、撮像モード決定部205へ入力される。
ステップS703では、撮像モード決定部205は、予め設定された撮像モード切り換え閾値YDと可視波長成分の輝度YVとの比較を行う。可視波長成分の輝度YVが撮像モード切り換え閾値YDの値を上回っていれば撮像モードのカラーモードへの切り換えを決定する。可視波長成分の輝度YVが撮像モード切り換え閾値YDの値以下であれば、そのまま本処理を終了(白黒モードを維持)する。
撮像モードの切り換えを決定した場合、ステップS704において、撮像モード決定部205は、フィルタ制御回路9にフィルタ切り換え信号を出力する。また、ステップS705において、映像信号合成部104に色差信号R−Y、B−Yの破棄を中止してカラー映像信号の合成処理を行うよう信号を出力する。
フィルタ制御回路9は、撮像モード決定部205からのフィルタ切り換え信号を受けてフィルタ駆動モータ6にフィルタ駆動のための制御信号を送る。また、映像信号合成部104は、撮像モード決定部205からの信号を受け、色差信号R−Y、B−Yの破棄を中止し、色差信号R−Y、B−Y及び輝度信号Yを合成したカラー映像信号を出力する。
以上説明した実施例1によれば、撮像光源に含まれる可視波長成分の輝度YVを検出することができ、可視波長成分の輝度YVと予め設定した撮像モード切り換え閾値YDに基づいて撮像モードを決定することできる。したがって、撮像光源に含まれる赤外波長成分の量に関わらず、赤外カットフィルタを除去した状態から挿入した後のカラー撮像範囲の輝度を、撮像モード切り換え閾値YD付近の値に安定化させることができる。
また、本実施例では、可視波長成分のみの撮像時の被写体色を基準としているため、被写体の色によって赤外波長成分の割合及び可視波長成分の輝度の検出を誤る可能性が少ない。したがって、撮像光源に赤外光が含まれていないにも関わらず撮像光源が赤外光であると判断して撮像モードが適切に切り換らないといった問題を回避することができる。
実施例1における赤外波長成分の割合算出は、撮像範囲全体で平均化した色差及び輝度信号を用いている。このため、平均化した色差輝度比R−Y/Y、B−Y/Yが、第1又は第2の赤外色分布範囲に非常に近い場合には、第1又は第2の赤外波長成分の影響による色の変化量が微小であるため、算出精度が低下する可能性がある。
そこで、本実施例では、撮像範囲中の複数の領域について輝度及び色差信号を平均化して抽出し、各領域での輝度信号と色差信号の比の変化量に基づいてそれぞれの領域における赤外波長成分の割合を算出する。そして、複数の領域での赤外波長成分の割合を平均化することで、上述した算出精度の低下を回避する。
図13には被写体の例を示す。また、図14には、図13に示した被写体に含まれる色を撮像範囲全体で平均化した場合の色差輝度比を示す。さらに、図15には、図13に示した被写体に含まれる色を、撮像範囲を複数の領域に分割して抽出した場合の色差輝度比を示す。
図13の被写体に含まれる色を撮像範囲全体で平均化した場合に、図14におけるA点の座標に位置したとする。A点は第1の赤外色分布範囲に非常に近いため、撮像光源における第1の赤外波長成分が増加した場合の色差輝度比の座標A′点と比較して、第1の赤外色分布範囲からの距離がほとんど変わらない。
赤外カットフィルタが除去された状態では、撮像環境は暗い低輝度であり、撮像素子から得られる出力は、AGC回路によって増幅される。増幅された撮像信号は、実際の撮像素子の出力に対してノイズの割合が高いため、A点及びA′点のような非常に微小な位置関係は検出しにくい。このため、撮像範囲全体を平均化したA点及びA′点の位置関係に基づいた赤外波長成分の割合の算出の精度が低下する可能性があると言える。
一方、図13の被写体に含まれる色差輝度比を、撮像範囲を複数の領域に分割して抽出した場合、色差輝度比は図15のようにばらつきを持って分布する。これは撮像範囲を分割することにより、各領域に含まれる色が異なってくるためである。
図16には、撮像範囲の分割数を増やすことによって、各領域において抽出される色が異なっていく様子を示す。分割数が少ないと、抽出される色は被写体の色と背景色との混合色となる。分割数が十分な数に達すると、被写体の色及び背景色を、純色又は純色に近い混合色で抽出することが可能となる。
図15に示すように、撮像範囲を複数の領域に分割して抽出した色差輝度比のうち、例えばB点に着目する。B点は図14のA点に対して第1の赤外色分布範囲から遠い距離に位置している。撮像光源における第1の赤外波長成分が増加した場合の色差輝度比の座標をB′点とすると、第1の赤外色分布範囲からの距離はB点とB′点では大きな変化量が存在する。
B点及びB′点のような位置関係であると、ノイズの割合が撮像信号の変化量に対して相対的に小さくなるため検出しやすい。このため、撮像範囲を分割して抽出したB点及びB′点の位置関係に基づいた赤外波長成分の割合の算出は、精度が低下する可能性は低い。
また、本実施例における赤外波長成分の割合算出では、赤外カットフィルタの挿入状態における色差輝度比を基準として赤外波長成分の割合を算出する。このため、赤外カットフィルタの挿入状態と除去状態において、被写体が移動又は撮像装置のパン、チルト又はズーム動作等によって被写体に含まれる色が大きく変化した場合に、基準とした色差輝度比自体が変わってしまうため算出精度が低下する可能性がある。
そこで、本実施例では、撮像範囲中の複数の領域のうち、特定数以下の領域に関して色差信号の変化量に変化があった場合には、被写体が移動したものと見なす。この場合、基準となる赤外カットフィルタを挿入した状態での色差信号を変更(補正)することで、算出精度の低下を回避する。
また、パン、チルト又はズーム動作によって撮像範囲が変化した場合には、撮像光源の赤外光成分の割合は一定で被写体が変化したものと見なす。この場合も、基準となる赤外カットフィルタを挿入した状態での色差信号を変更(補正)することで、算出精度の低下を回避する。
色差信号の変更(補正)は、色差信号や撮像範囲の変化前と変化後における色差輝度比の変化量に基づいて行う。
例えば、赤外カットフィルタを挿入した状態での被写体の例を図17Aに示す。一定時間経過後、撮像環境の明るさが低下し、赤外カットフィルタを除去した状態に移行したときの被写体を図17Bに示す。次に、図17Cに示すように、被写体の一部(自動車)が移動した(撮像範囲から外れた)とする。
このとき、撮像範囲を複数の領域に分割して抽出した色差輝度比は、図18A〜図18Cに示すように変化する。図17Aの状態での色差輝度比は、図18Aのような分布を示す。また、図17Bに示す、赤外カットフィルタは除去されたが被写体は図17Aと同じ状態での色差輝度比は、図18Bのような分布となる。そして、赤外カットフィルタが除去され、かつ図17Bの状態から被写体が移動した図17Cの状態での色差輝度比は、図18Cのような分布となる。
例えば、撮像光源に含まれる波長成分のうち第1の赤外波長成分が30%を占めていたとする。この場合、赤外カットフィルタ除去状態での色差輝度比の分布(図18B)では、赤外カットフィルタ挿入状態での色差輝度比の分布(図18A)に対して、複数の領域全てにおいて色差輝度比がほぼ一定の比率で第1の赤外色分布範囲に近づく特性を示す。この特性が、赤外波長成分の割合が変化した場合の特性である。
また、被写体が移動した場合(図17B→図17C)、移動した物体が存在していた位置に該当する領域の色差輝度比のみが図18Cに示すように変化し、他の領域における色差輝度比にはほとんど変化がない。このように、被写体が移動した場合は、特定の領域のみの色差輝度比R−Y/Y、B−Y/Yに変化が起こる特性を有する。そして、特定の領域のみの色差輝度比に変化が起きた場合、該変化が起きた領域、つまり移動した物体が存在していた位置に該当する領域の色差輝度比の基準値を変更(補正)する必要がある。
図19には、色差輝度比の基準値の補正方法を示す。
図19中の実線グラフは、物体が移動する前の該当領域における第1の赤外波長成分の割合PIR1と、色差輝度比の第1の赤外色分布範囲からの距離LIR1との関係を示す。第1の赤外色分布範囲からの距離がL5であるときに被写体の移動が起き、該距離がL3に変化したとする。このとき、物体が移動している間、撮像光源に含まれる第1の赤外波長成分は一定と見なし、色差輝度比の基準距離LV1の補正処理を行う。
第1の赤外色分布範囲からの距離がL5であるときの第1の赤外波長成分の割合PIR1(例えば、30%)は、被写体が移動した後の距離L3でも同値である。このため、補正すべき色差輝度比の基準距離をLV1′とすると、近似関数PIR1=F(L5/LV1)=F(L3/LV1′)が成り立つ。このため、補正基準値LV1′=LV1×L3/L5を導き出すことができる。
また、図19中の破線グラフは、導き出した補正基準値LV1′に基づいて再構築した第1の赤外光成分の割合PIR1と、色差輝度比の第1の赤外色分布範囲からの距離LIR1との関係を示す。
基準値の補正処理は、第2の赤外波長成分の割合を算出する場合においても同様に行う。
このように基準値の補正処理を行えば、赤外カットフィルタを挿入した状態から被写体が移動してしまっても、赤外波長成分の割合の算出を誤ることを回避できる。
次に、パン、チルト又はズーム動作が行われた場合について説明する。パンチルトズーム動作が行われた場合、撮像範囲中の被写体がシフト又は拡大・縮小されるため、被写体が移動したのと同様に考えることができる。また、パン、チルト及びズーム動作は、一般に短時間で行われるので、該動作中における撮像光源に含まれる赤外波長成分の割合はほぼ一定であると見なしてよい。このため、パン、チルト又はズーム動作が行われた場合においても上記基準値の補正処理を同様に行えばよい。
なお、パン、チルト又はズーム動作が行われたか否かは、撮像装置に設けられた振れセンサ(加速度センサ等)やズーム駆動回路からの信号に基づいて検出することができる。本実施例では、パン、チルト又はズーム動作が行われたことを検出するPTZ制御回路10を設けている。
このように基準値の補正処理を行うことで、赤外カットフィルタが挿入された状態からパン、チルト又はズーム動作が行われても、赤外波長成分の割合の算出を誤ることなく行うことができる。
以上説明した、撮像範囲を複数の領域に分割して各領域で平均化した色差輝度比を抽出し、被写体の移動やパン、チルト又はズーム動作があった場合において色差輝度比の基準値を補正処理する撮像装置の構成について、図20を用いて説明する。
なお、実施例1の撮像装置と共通する構成要素については、実施例1と同符号を付す。また、マイクロコンピュータ200′及びフィルタ制御回路9は、制御手段に相当する。
実施例1と同様に、撮像素子5から出力されたアナログ撮像信号は、増幅器7によって増幅され、A/D変換器8によってデジタル撮像信号に変換される。A/D変換器8からのデジタル撮像信号は、映像信号処理回路100′における色分離マトリクス(MTX)101において、赤色信号R、青色信号B及び緑色信号Gに分解されてWB回路102に入力される。WB回路102は、撮像信号のRゲイン及びBゲインを、適切なホワイトバランスが得られるように調整する。
色分離マトリクス(MTX)103は、WB回路102によって適正なホワイトバランスに調整された赤色信号R、青色信号B及び緑色信号Gを、色差信号R−Y、B−Y及び輝度信号Yに変換する。色差信号R−Y、B−Y及び輝度信号Yは、映像信号合成部104により映像信号として合成され、外部へ出力される。
映像信号合成部104は、赤外カットフィルタ3が挿入されている状態では、色分離マトリクス103から得られる色差信号R−Y、B−Y及び輝度信号Yを合成し、カラー映像を出力する。ただし、赤外カットフィルタ3が除去されて光路長補正フィルタ2が挿入されている状態では、映像信号の色バランスが赤外光の混入によって崩れてしまう。このため、赤外カットフィルタ除去状態では、色分離マトリクス103から得られる色差信号R−Y、B−Yを破棄して輝度信号Yのみの白黒映像を出力する。
色分離マトリクス(MTX)103にて変換された撮像信号である色差信号R−Y、B−Y及び輝度信号Yは、映像信号合成部104に入力されるとともに、撮像範囲分割部151に入力される。撮像範囲分割部151は、撮像範囲を複数の領域に分割し、領域ごとの色差信号R−Y、B−Y及び輝度信号Yを抽出する。領域ごとの色差信号R−Y、B−Y及び輝度信号Yは、平均値演算部152に入力される。
平均値演算部152は、領域ごとの色差信号R−Y、B−Y及び輝度信号Yをそれぞれ平均化し、領域ごとの平均色差信号R−Y、B−Y及び平均輝度信号Yを生成する。
平均色差信号R−Y、B−Y及び輝度信号Yは、マイクロコンピュータ200′における色差信号補正部251に入力される。平均色差信号R−Y、B−Yは、WB回路102において調整されたホワイトバランス値によって同一色であっても値が変わってしまう。このため、色差信号補正部251は、現在のホワイトバランス値をWB回路102から読み込み、規定のホワイトバランス値に再変換する。また、色差信号R−Y、B−Yは、輝度信号Yに対してほぼ比例関係を有するため、色情報のみを評価可能な色差輝度比R−Y/Y、B−Y/Yに変換する。
メモリ252は、撮像モード決定部205からのモード決定信号がカラー撮像モードであった場合、赤外カットフィルタ3を介した可視波長成分のみの撮像であると見なす。この場合、被写体の色差輝度比の基準として、色差信号補正部251で変換した各領域の色差輝度比R−Y/Y、B−Y/Y及び輝度信号Yをそれぞれ格納する。格納したデータは、色差信号補正部251からデータを取得するごとに更新してもよいし、取得した複数のデータを一定時間毎に平均化して更新してもよい。
また、メモリ252は、撮像モード決定部205からのモード決定信号が白黒モードであった場合、後述する動体検知のため所定時間毎に、色差信号補正部251で変換した各領域の色差輝度比R−Y/Y、B−Y/Y及び輝度信号Yを格納する。
メモリ252には、予め第1及び第2の赤外色分布範囲を示す色差輝度比R−Y/Y、B−Y/Yも記憶されている。記憶されているデータは、図6又は図7に示すように、カラーフィルタ4の特性に基づき測定又は算出したものである。
波長成分割合演算部253は、色差信号補正部251からの各領域の色差輝度比R−Y/Y、B−Y/Y、及びメモリ252に格納されている被写体の色差輝度比基準データに基づいて、第1及び第2の赤外波長成分の割合を検出する。図21に、波長成分割合演算部253において行う具体的な処理を示す。
図21のステップS550では、波長成分割合演算部253は、撮像モード決定部205からのモード決定信号に基づいて現在の撮像モードがカラーモードか白黒モードかを判別する。現在の撮像モードがカラーモードである場合は、ステップS551の処理に移る。
ステップS551では、メモリ252に格納されている各領域の被写体の色差輝度比基準データを読み込む。
次に、ステップS552では、第1の赤外色分布範囲と各領域の被写体の色差輝度比基準データとの距離L1をそれぞれ算出する。
次に、ステップS553では、第2の赤外色分布範囲と各領域の被写体の色差輝度比基準データとの距離L2をそれぞれ算出する。なお、ステップS502及びS503の処理順序はどちらが先でもよい。また、撮像環境によって第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
第1の赤外色分布範囲と各領域の色差輝度比基準データとの距離L1は、撮像光源が可視波長成分のみ、つまりは第1の赤外波長成分の割合が0%であったときに相当する。このため、近似関数PIR1=F(LIR1/LV1)にLV1=L1を代入することで、図11に示す色差輝度比の距離LIR1を測定するのみで、撮像光源に含まれる第1の赤外波長成分の割合を検出できるデータベースを各領域について作成することができる。
第2の赤外色分布範囲と各領域の色差輝度比基準データとの距離L2は、撮像光源が可視波長成分のみ、つまり第2の赤外波長成分の割合が0%であったときに相当する。このため、近似関数PIR2=F(LIR2/LV2)にLV2=L2を代入することで、色差輝度比の距離LIR2を測定するのみで、撮像光源に含まれる第2の赤外波長成分の割合を検出できるデータベースを各領域について作成することができる。
ステップS554では、各領域の距離L1及び近似関数PIR1=F(LIR1/LV1)を用いて、第1の赤外波長成分の割合を検出するデータベースを領域毎にそれぞれ作成し、メモリ252に格納する。
さらに、ステップS555では、各領域の距離L2及び近似関数PIR2=F(LIR2/LV2)を用いて、第2の赤外波長成分の割合を検出するデータベースを領域毎にそれぞれ作成し、メモリ252に格納する。
ステップS555の処理が終わると、ステップS550まで戻り、撮像モードがカラーモードであり続ける限り、ステップS551〜S555までの処理を繰り返して赤外波長成分の割合を検出するデータベースを更新し続ける。
ステップS550において撮像モードが白黒モードであった場合は、ステップS556の処理が行われる。ステップS556では、色差信号補正部251から現在の撮像範囲の色差輝度比R−Y/Y、B−Y/Yを取得してメモリ252に格納する。
次に、ステップS557では、第1の赤外色分布範囲と、現在の撮像範囲における各領域の色差輝度比R−Y/Y、B−Y/Yとの距離LIR1を算出する。
また、ステップS558では、第2の赤外色分布範囲と、現在の撮像範囲における各領域の色差輝度比R−Y/Y、B−Y/Yとの距離LIR2を算出する。ステップS557及びS558の処理順序はどちらが先でもよい。また、撮像環境によって第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
ステップS559では、ステップS557で算出した領域ごとの距離LIR1とステップS554にてメモリ252に格納した領域ごとのデータベースを参照して、領域ごとの撮像光源に含まれる第1の赤外波長成分の割合PIR1を検出する。検出した領域ごとの第1の赤外波長成分の割合は、ステップS560にて平均化される。平均化することで、領域ごとの距離LIR1に含まれるノイズ誤差を軽減できる。
なお、第1の赤外波長成分の割合が他の領域と比較して極端に異なる領域が存在した場合は、その領域における第1の赤外波長成分の割合を平均化から除外する処理をステップS560に含めてもよい。
ステップS561では、ステップS558に算出した各領域の距離LIR2とステップS555にてメモリ252に格納した領域ごとデータベースを参照して、領域ごとの撮像光源に含まれる第2の赤外波長成分の割合PIR2を検出する。検出した領域ごとの第2の赤外波長成分の割合は、ステップS562において平均化される。平均化することで、各領域の距離LIR2に含まれるノイズ誤差を軽減できる。
なお、第2の赤外波長成分の割合が他の領域と比較して極端に異なる領域が存在した場合は、その領域における第2の赤外波長成分の割合を平均化から除外する処理をステップS562に含めてもよい。以上が、波長成分割合演算部253において行われる処理である。
動体検知部256は、撮像モード決定部205からのモード決定信号と、色差信号補正部251からの色差輝度比と、PTZ制御回路10からの信号とに基づいて 図22に示す処理を行う。ここでは、メモリ252に格納されている赤外カットフィルタを挿入した状態での各領域の色差輝度比の基準値を補正する。
ステップ600では、動体検知部256は、撮像モード決定部205からのモード決定信号から現在の撮像モードがカラーモードか白黒モードかを判別する。現在の撮像モードが白黒モードである場合は、ステップS601に移る。現在の撮像モードがカラーモードである場合は、処理を終了する。
ステップS601では、色差信号補正部251から、複数の領域のそれぞれにおける現在の色差輝度比を取得してメモリ252に格納する。
ステップS602では、複数の領域における色差輝度比と第1の赤外色分布範囲との距離L3をそれぞれ算出する。
ステップS603では、複数の領域における色差輝度比と第2の赤外色分布範囲との距離L4をそれぞれ算出する。なお、ステップS602及びS603の処理順序はどちらが先でもよい。また、撮像環境によって、第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
次に、ステップS604では、メモリ252から複数の領域のそれぞれにおける過去の色差輝度比を取得して格納する。
ステップS605では、複数の領域における色差輝度比と第1の赤外色分布範囲との距離L5をそれぞれ算出する。
ステップS606では、複数の領域における色差輝度比と第2の赤外色分布範囲との距離L6をそれぞれ算出する。ステップS605及びS606の処理順序はどちらが先でもよい。また、撮像環境によって、第1又は第2の赤外波長成分を検出する必要がない場合は、該当するステップを省いてもよい。
ステップS607では、ステップS602及びS605において算出したL3とL5との比であるL3/L5が、LIR1Max≧L3/L5≧LIR1Minのように規定の範囲内か否かを判別する。被写体の変化がない場合は、L3/L5はほぼ1に近い値となるため、動体検知の感度を高くするにはLIR1Max及びLIR1Minを1に近く設定すればよい。また、L3/L5が規定範囲外である領域に関しては、その領域の数Nをカウントする。
ステップS608では、ステップS603及びS606において算出したL4とL6との比であるL4/L6が、LIR2Max≧L4/L6≧LIR2Minのように規定の範囲内か否かを判別する。被写体の変化がない場合は、L4/L6はほぼ1に近い値となるため、動体検知の感度を高くするにはLIR2Max及びLIR2Minを1に近く設定すればよい。また、L4/L6が規定範囲外である領域に関しては、その領域の数Mをカウントする。
ステップS609では、ステップS607及びS608でカウントしたN及びMが特定数以下であるか否かを判別する。N及びMが特定数以下の場合は、被写体が変化したものと見なして、ステップS611の処理に移る。N及びMが特定数より多い場合には、撮像光源の赤外波長成分の割合が変化したか、あるいはパン、チルト又はズーム動作が行われたものと見なして、ステップS610の処理に移る。
ステップS610では、PTZ制御回路10からの信号に基づいて、パン、チルト又はズーム動作が行われたか否かを判別する。パン、チルト又はズーム動作が行われた場合は、ステップS611の処理に移る。パン、チルト又はズーム動作が行われていない場合は、撮像光源の赤外波長成分の割合が変化したものとして処理を終了する。
ステップS610において、被写体が移動した又はパン、チルトもしくはズーム動作が行われた、つまりは動体検知がなされた場合にのみステップS611の処理が行われる。ステップS611では、動体検知がなされた領域に関して、メモリ252から、基準距離LV1及びLV2をそれぞれ読み込む。
ステップS612では、ステップS611にて読み込んだ基準距離LV1及びLV2を現在の被写体に合わせて補正する。ここでは、前述した補正方法により、第1の赤外波長成分の割合を算出するための補正基準距離LV1′=LV1×(L3/L5)を用いた計算を行う。また、第2の赤外波長成分の割合を算出するための補正基準距離LV2′=LV2×(L4/L6)を用いた計算を行う。こうして、補正基準距離LV1′及びLV2′を動体検知がなされた領域ごとに算出し、メモリ252に格納する。以上が、動体検知部256において行われる処理である。
可視波長成分輝度演算部204及び撮像モード決定部205は、波長成分割合演算部253において検出した第1及び第2の赤外波長成分の割合PIR1、PIR2に基づいて、撮像モードの切り換えを決定する。
可視波長成分輝度演算部204及び撮像モード決定部205における処理は、実施例1で図12を用いて説明したものと同様であり、ここでは図12を用いて該処理を説明する。ここでは、撮像モードとして、白黒モードが設定されているものとする。
ステップS700では、可視波長成分輝度演算部204は、波長成分割合演算部253から得られる第1及び第2の赤外波長成分の割合値PIR1、PIR2より、1−(PIR1+PIR2)を演算処理する。これにより、撮像光源に含まれる第1及び第2の赤外波長成分以外の波長成分、すなわち可視波長成分の割合を算出する。
次に、ステップS701では、色差信号補正部251より撮像範囲全体の平均輝度Yを取得する。
次に、ステップS702では、取得した平均輝度YとステップS700において演算した可視波長成分の割合とを乗算することで、撮像光源に含まれる可視波長成分の輝度YVを演算する。演算された可視波長成分の輝度YVは、撮像モード決定部205へ入力される。
ステップS703では、撮像モード決定部205は、予め設定された撮像モード切り換え閾値YDと可視波長成分の輝度YVとの比較を行う。可視波長成分の輝度YVが撮像モード切り換え閾値YDの値を上回っていれば撮像モードのカラーモードへの切り換えを決定する。可視波長成分の輝度YVが撮像モード切り換え閾値YDの値以下であれば、そのまま本処理を終了(白黒モードを維持)する。
撮像モードの切り換えを決定した場合、ステップS704において、フィルタ制御回路9にフィルタ切り換え信号を出力する。また、ステップS705において、映像信号合成部104に色差信号R−Y、B−Yの破棄を中止してカラー映像信号の合成処理を行うよう信号を出力する。
フィルタ制御回路9は、撮像モード決定部205からのフィルタ切り換え信号を受けてフィルタ駆動モータ6にフィルタ駆動のための制御信号を送る。また、映像信号合成部104は、撮像モード決定部205からの信号を受け、色差信号R−Y、B−Yの破棄を中止し、色差信号R−Y、B−Y及び輝度信号Yを合成したカラー映像信号を出力する。
以上説明した実施例2によれば、撮像光源に含まれる可視波長成分の輝度YVを検出することができ、可視波長成分の輝度YVと予め設定した撮像モード切り換え閾値YDに基づいて撮像モードを決定することできる。したがって、撮像光源に含まれる赤外波長成分の量に関わらず、赤外カットフィルタを除去状態から挿入した後のカラー撮像範囲の輝度を、撮像モード切り換え閾値YD付近の値で安定化させることができる。
また、本実施例では、可視波長成分のみの撮像時の被写体色を基準としているため、被写体の色によって赤外波長成分の割合及び可視波長成分の輝度の検出を誤る可能性が少ない。したがって、撮像光源に赤外光が含まれていないにも関わらず、撮像光源が赤外光であると判断して撮像モードが適切に切り換らないといった問題を回避することができる。
さらに本実施例では、撮像範囲を複数の領域に分割して動体検知及び基準とした被写体色の補正処理が可能である。このため、赤外カットフィルタを挿入した状態から被写体が変化した場合においても、赤外波長成分の割合及び可視波長成分の輝度の検出を誤ること可能性が少ない。また、撮像中にパン、チルト又はズーム動作が行われた場合においても、基準とした被写体色の補正処理が可能である。このため、赤外波長成分の割合及び可視波長成分の輝度の検出を誤る可能性が少ない。
なお、上記実施例1及び2で説明した赤外カットフィルタの挿脱(撮像モードの切り換え)の決定方法は例にすぎない。すなわち、赤外カットフィルタの挿入状態で得た色差輝度比に対する赤外カットフィルタの除去状態で得た色差輝度比の変化量に基づいて赤外カットフィルタの挿脱を決定する方法であれば、他の方法を採用することもできる。