以下、一実施形態の撮像装置、撮像方法、撮像プログラムについて、添付図面を参照して説明する。
<撮像装置の構成>
まず、図1を用いて、一実施形態の撮像装置の全体的な構成について説明する。図1に示す一実施形態の撮像装置は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
中間モードは、可視光が少ない環境下で、赤外線を投光しながら撮像する第1の赤外光投光モードである。暗視モードは、可視光がさらに少ない(ほとんどない)環境下で、赤外線を投光しながら撮像する第2の赤外光投光モードである。
撮像装置は、中間モードと暗視モードとのうちの一方のみを備えていてもよい。撮像装置は、通常モードを備えていなくてもよい。撮像装置は、少なくとも、赤外線を投光しながら撮像する赤外光投光モードを備えていればよい。
図1において、被写体から反射した一点鎖線にて示す光は、光学レンズ1によって集光される。ここで、光学レンズ1には、可視光が十分に存在する環境下では可視光、可視光がほとんどない環境下では後述する赤外線投光器9より発せられた赤外光を被写体が反射した赤外光が入射される。
可視光がわずかに存在する環境下では、光学レンズ1には、可視光と赤外線投光器9より発せられた赤外光を被写体が反射した赤外光とが混在した光が入射される。
図1では簡略化のため、光学レンズ1を1つのみとしているが、実際には、撮像装置は複数の光学レンズを備える。
光学レンズ1と撮像部3との間には、光学フィルタ2が設けられている。光学フィルタ2は、赤外線カットフィルタ21とダミーガラス22との2つの部分を有する。光学フィルタ2は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入した状態と、光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態とのいずれかの状態に駆動される。
撮像部3は、水平方向及び垂直方向に複数の受光素子(画素)が配列した撮像素子31と、それぞれの受光素子に対応して赤色(R),緑色(G),青色(B)のいずれかの色のフィルタエレメントが配置されたカラーフィルタ32とを有する。撮像素子31は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)でよい。
カラーフィルタ32には、一例として、図2に示すように、R,G,Bの各色のフィルタエレメントがベイヤ配列と称される配列で並べられている。ベイヤ配列は、R,G,Bのフィルタエレメントの所定の配列の一例である。図2において、各行のRのフィルタエレメントに挟まれたGのフィルタエレメントをGr、Bのフィルタエレメントに挟まれたGのフィルタエレメントをGbとしている。
ベイヤ配列では、RのフィルタエレメントとGrのフィルタエレメントとが交互に配置された水平方向の行と、BのフィルタエレメントとGbのフィルタエレメントとが交互に配置された水平方向の行とが、垂直方向に交互に配列されている。
図3は、撮像部3におけるR光,G光,B光の波長と相対感度との分光感度特性を示している。相対感度は、最大値が1に正規化されている。撮像装置を通常モードで動作させるとき、可視光による良好なカラー映像を撮像するには、波長700nm以上の赤外光をカットする必要がある。
そこで、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入するように光学フィルタ2を駆動する。
図3より分かるように、撮像部3は、波長700nm以上の赤外光の領域においても感度を有する。そこで、撮像装置を中間モードまたは暗視モードで動作させるときには、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間の赤外線カットフィルタ21を外してダミーガラス22を挿入するように光学フィルタ2を駆動する。
光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態では、波長700nm以上の赤外光はカットされない。よって、撮像装置は、図3に破線の楕円で囲んだ部分の感度を利用して、R,G,Bの各色情報を得ることが可能となる。ダミーガラス22を挿入するのは、光路長を、赤外線カットフィルタ21を挿入した場合の光路長と同じにするためである。
赤外線投光器9は、それぞれ、波長IR1,IR2,IR3の赤外光を投光する投光部91,92,93を有する。中間モードまたは暗視モードのとき、制御部7内の投光制御部71は、時分割で投光部91〜93より波長IR1〜IR3の赤外光を選択的に投光させるように制御する。
ところで、撮像素子31にはシリコンウェハが用いられている。図4は、R,G,Bそれぞれの色を呈する素材に白色光を照射した場合の各波長における反射率にシリコンの受光感度を乗じたときの、波長と相対検出率との関係を示している。図4においても、相対検出率は、最大値が1に正規化されている。
図4に示すように、赤外光の領域において、例えば、波長780nmにおける反射光はR色を呈する素材の反射光との相関性が高く、波長870nmにおける反射光はB色を呈する素材の反射光との相関性が高く、波長940nmにおける反射光はG色を呈する素材の反射光との相関性が高い。
そこで、本実施形態においては、投光部91,92,93が投光する赤外光の波長IR1,IR2,IR3を、780nm,940nm,870nmとする。これらの波長は、波長IR1〜IR3の一例であり、780nm,940nm,870nm以外でもよい。
投光部91が波長IR1の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をR信号に割り当てる。投光部93が波長IR2の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をG信号に割り当てる。投光部92が波長IR3の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をB信号に割り当てる。
このようにすれば、原理的に、中間モードまたは暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができる。
色味が被写体の実際の色味と異なるカラー映像となるものの、780nmの波長IR1をR光、870nmの波長IR3をG光、940nmの波長IR2をB光に割り当ててもよい。波長IR1,IR2,IR3をR光,G光,B光に任意に割り当てることも可能である。
本実施形態においては、被写体の色味を最もよく再現する、波長IR1,IR2,IR3をそれぞれR光,G光,B光に割り当てることとする。
制御部7は、撮像部3における撮像と、映像処理部5内の各部と、映像出力部6とを制御する。制御部7は、投光制御部71の他、通常モードと中間モードと暗視モードとを切り換えるモード切換部72と、後述する色ゲイン設定部62によって3原色データ(R画素値,G画素値,B画素値)に乗じる色ゲインを調整して設定するよう制御する色ゲイン制御部73とを備える。
モード切換部72は、通常モードと中間モードと暗視モードとに対応させて、映像処理部5内の動作を後述のように適宜切り換える。映像処理部5と制御部7とが一体化されていてもよい。
撮像部3によって撮像された映像信号はA/D変換器4によってA/D変換され、映像処理部5に入力される。撮像部3とA/D変換器4とが一体化されていてもよい。
映像処理部5は、スイッチ51,53と、前信号処理部52と、デモザイク処理部54とを有する。スイッチ51,53は物理的なスイッチであってもよく、前信号処理部52の動作と不動作とを切り換えるための概念的なスイッチであってもよい。制御部7には、撮像している映像の明るさを検出するために、映像処理部5から映像信号が入力される。
図5に示すように、前信号処理部52は、周囲画素加算部521と、同一位置画素加算部522と、合成部523とを有する。
映像処理部5は、R,G,Bの3原色データを生成して、映像出力部6に供給する。映像出力部6は、3原色データを所定の形式で図示していない表示部等へと出力する。
映像出力部6は、R,G,B信号をそのまま出力してもよいし、R,G,B信号を輝度信号と色信号(または色差信号)に変換して出力してもよい。映像出力部6は、コンポジット映像信号を出力してもよい。映像出力部6は、デジタル信号の映像信号を出力してもよいし、D/A変換器によってアナログ信号に変換した映像信号を出力してもよい。
映像出力部6は、R,G,Bの3原色データのそれぞれに所定の色ゲインを乗じてR,G,Bのバランス(比率)を調整する色ゲイン設定部62を有する。色ゲイン設定部62は、通常モードにおける映像信号のホワイトバランスを調整するために、色ゲインを設定することができる。色ゲイン設定部62は、暗視モードにおいて、R,G,Bのバランスを調整するために、色ゲインを設定してもよい。
ここでは、色ゲイン設定部62を映像出力部6内に設けているが、映像処理部5内に設けてもよく、その設ける位置は任意である。
以下、通常モードと中間モードと暗視モードとのそれぞれの具体的な動作について説明する。
<通常モード>
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
撮像部3によって撮像された映像信号は、A/D変換器4によってデジタル信号である映像データに変換されて、映像処理部5に入力される。通常モードでは、モード切換部72は、スイッチ51,53を端子Tbに接続するように制御する。
図6の(a)は、撮像部3の露光Ex1,Ex2,Ex3…を示している。実際には露光時間はシャッタスピード等の条件によって変化するが、ここでは露光Ex1,Ex2,Ex3は最大露光時間を示している。
図6の(b)は、それぞれの映像信号のフレームが得られるタイミングを示している。露光Ex1の前の図示していない露光に基づいて、所定時間後に映像信号のフレームF0が得られる。露光Ex1に基づいて、所定時間後に映像信号のフレームF1が得られる。露光Ex2に基づいて、所定時間後に映像信号のフレームF2が得られる。露光Ex3以降も同様である。映像信号のフレーム周波数を、例えば30フレーム/秒とする。
映像信号のフレーム周波数は、NTSC方式であれば30フレーム/秒または60フレーム/秒、PAL方式であれば25フレーム/秒または50フレーム/秒のように適宜設定すればよい。また、映像信号のフレーム周波数は、映画で使われている24フレーム/秒であってもよい。
A/D変換器4より出力された各フレームの映像データは、スイッチ51,53を介してデモザイク処理部54に入力される。デモザイク処理部54は、入力された各フレームの映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図7を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図7において、(a)は映像データの任意のフレームFmを示している。フレームFmは、有効映像期間の画素によって構成されたフレームである。映像データの画素数は、例えばVGA規格では水平640画素、垂直480画素である。ここでは簡略化のため、フレームFmの画素数を大幅に少なくして、フレームFmを概念的に示している。
ベイヤ配列の撮像部3を用いて生成された映像データは、フレームFm内で、R,G,Bの画素データが混在したデータである。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて算出したRの補間画素データRiを生成する。デモザイク処理部54は、図7の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて算出したGの補間画素データGiを生成する。デモザイク処理部54は、図7の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて算出したBの補間画素データBiを生成する。デモザイク処理部54は、図7の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmBを生成する。
デモザイク処理部54は、Rの画素データを補間する際には少なくともRの画素データを用いればよく、Gの画素データを補間する際には少なくともGの画素データを用いればよく、Bの画素データを補間する際には少なくともBの画素データを用いればよい。デモザイク処理部54は、補間精度を向上させるために、R,G,Bの画素データを補間する際に、生成しようとする補間画素データの色とは異なる他の色の画素データを用いてもよい。
撮像部3には、有効映像期間より外側の画素も存在しているため、フレームFmの上下左右端部に位置する画素においても、R,G,Bの画素データを補間することができる。
デモザイク処理部54によって生成されたRフレームFmR,GフレームFmG,BフレームFmBがR,G,Bの3原色データとして出力される。図6では、理解を容易にするため、R,G,Bの画素データをフレーム単位で説明したが、実際には、R,G,Bの画素データは画素ごとに順次出力される。
<中間モード:第1中間モード>
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
図8の(a)は、赤外線投光器9による赤外光の投光の状態を示している。制御部7は、通常モードの1フレーム期間を1/3ずつに分け、例えば投光部91,92,93の順に赤外光を投光させるように制御する。
図8の(a)に示す例では、1フレームの最初の1/3の期間では、波長IR1(780nm)の赤外光が被写体に照射される。1フレームの次の1/3の期間では、波長IR2(940nm)の赤外光が被写体に照射される。1フレームの最後の1/3の期間では、波長IR3(870nm)の赤外光が被写体に照射される。波長IR1〜IR3の赤外光を投光する順番は任意である。
図8の(b)に示すように、波長IR1の赤外光を投光しているタイミングでは、撮像部3はR光との相関性が高い露光Ex1Rが行われる。波長IR2の赤外光を投光しているタイミングでは、撮像部3はG光との相関性が高い露光Ex1Gが行われる。波長IR3の赤外光を投光しているタイミングでは、撮像部3はB光との相関性が高い露光Ex1Bが行われる。
但し、中間モードでは、可視光がわずかに存在する環境下での撮像であるため、可視光と赤外線投光器9より投光された赤外光とが混在した状態である。よって、中間モードにおいては、露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、可視光による露光と赤外光による露光とを合わせた露光となる。
図8の(c)に示すように、露光Ex1R,Ex1G,Ex1Bに基づいて、所定時間後に、露光Ex1Rに対応したフレームF1IR1、露光Ex1Gに対応したフレームF1IR2、露光Ex1Bに対応したフレームF1IR3が得られる。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、所定時間後に、露光Ex2Rに対応したフレームF2IR1、露光Ex2Gに対応したフレームF2IR2、露光Ex2Bに対応したフレームF2IR3が得られる。露光Ex3R,Ex3G,Ex3B以降も同様である。
図8の(c)の撮像信号のフレーム周波数は、90フレーム/秒である。中間モードでは、通常モードにおける映像信号の1フレームを時分割して波長IR1〜IR3の赤外光を投光するため、通常モードと同じ形式の映像信号を出力するためには、図8の(c)の撮像信号のフレーム周波数は、通常モードにおけるフレーム周波数の3倍となる。
後述するように、図8の(c)の3フレームの撮像信号に基づいて、図8の(d)に示す30フレーム/秒のフレーム周波数を有する映像信号の1フレームが生成される。例えば、フレームF1IR1,F1IR2,F1IR3に基づいてフレームF1IRが生成され、フレームF2IR1,F2IR2,F2IR3に基づいてフレームF2IRが生成される。
図8の(c)の3フレームの撮像信号に基づいて、図8の(d)の各フレームの映像信号を生成する中間モードでの動作を具体的に説明する。
A/D変換器4より出力された図8の(c)に示す撮像信号に対応する各フレームの映像データは、スイッチ51を介して前信号処理部52に入力される。
図9を用いて、前信号処理部52における前信号処理について説明する。図9の(a)は、波長IR1の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR1を示している。フレームFmIR1内のR,B,Gr,Gbの画素データには、波長IR1の赤外光を投光した状態で生成されたことを示す添え字1を付している。
図9の(b)は、波長IR2の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR2を示している。フレームFmIR2内のR,B,Gr,Gbの画素データには、波長IR2の赤外光を投光した状態で生成されたことを示す添え字2を付している。
図9の(c)は、波長IR3の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR3を示している。フレームFmIR3内のR,B,Gr,Gbの画素データには、波長IR3の赤外光を投光した状態で生成されたことを示す添え字3を付している。
図9の(a)に示すフレームFmIR1は、R光との相関性が高い波長IR1の赤外光が投光された状態で生成された映像データであるので、Rの画素データは投光された赤外光と対応した画素データであり、B,Gの画素データは投光された赤外光と対応していない画素データである。B,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(b)に示すフレームFmIR2は、G光との相関性が高い波長IR2の赤外光が投光された状態で生成された映像データであるので、Gの画素データは投光された赤外光と対応した画素データであり、R,Bの画素データは投光された赤外光と対応していない画素データである。R,Bの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(c)に示すフレームFmIR3は、B光との相関性が高い波長IR3の赤外光が投光された状態で生成された映像データであるので、Bの画素データは投光された赤外光と対応した画素データであり、R,Gの画素データは投光された赤外光と対応していない画素データである。R,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
前信号処理部52内の同一位置画素加算部522は、互いに同じ画素位置のR,Gr,Gb,Bの画素データを以下の式(1)〜(3)に従って個別に加算して、画素データR123,Gr123,Gb123,B123を生成する。中間モードでは、前信号処理部52内の周囲画素加算部521は不動作である。
R123=ka×R1+kb×R2+kc×R3 …(1)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
式(1)〜(3)において、R1,G1,B1はフレームFmIR1におけるR,G,Bの画素データ、R2,G2,B2はフレームFmIR2におけるR,G,Bの画素データ、R3,G3,B3はフレームFmIR3におけるR,G,Bの画素データである。ka〜kiは所定の係数である。式(2)におけるG123はGr123またはGb123である。
このとき、同一位置画素加算部522は、ハッチングを付していないR,Gr,Gb,Bのそれぞれの画素データに、ハッチングを付した同じ画素位置のR,Gr,Gb,Bの画素データそれぞれを加算する。
即ち、同一位置画素加算部522は、式(1)に基づいて、フレームFmIR1におけるRの画素データに、フレームFmIR2,FmIR3における同じ画素位置のRの画素データを加算して、画素データR123を生成する。つまり、受光素子における赤色のカラーフィルタに対応する領域の画素データだけを用いて赤色用の画素データR123を生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2におけるGr,Gbの画素データに、フレームFmIR1,FmIR3における同じ画素位置のGr,Gbの画素データを加算して、画素データG123を生成する。つまり、受光素子における緑色のカラーフィルタに対応する領域の画素データだけを用いて緑色用の画素データG123を生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3におけるBの画素データに、フレームFmIR1,FmIR2における同じ画素位置のBの画素データを加算して、画素データB123を生成する。つまり、受光素子における青色のカラーフィルタに対応する領域の画素データだけを用いて青色用の画素データB123を生成する。
前信号処理部52内の合成部523は、それぞれの画素位置において生成された画素データR123,Gr123,Gb123,B123に基づいて、図9の(d)に示す合成映像信号のフレームFmIR123を生成する。
具体的には、合成部523は、フレームFmIR1における画素データR123と、フレームFmIR2における画素データGr123,Gb123と、フレームFmIR3における画素データB123とを選択して合成する。これによって合成部523は、合成映像信号のフレームFmIR123を生成する。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR123,Gr123,Gb123,B123を配列させたフレームFmIR123を生成する。
第1中間モードにおいては、ハッチングを付していない画素データと、ハッチングを付した画素データとを用いて、フレームFmIR123の映像データを生成する。
同一位置画素加算部522によって互いに同じ画素位置の画素データを加算するのは、次の理由による。中間モードではわずかではあるものの可視光が存在する環境下での撮像であるため、ハッチングを付した画素データは可視光による露光に基づくそれぞれの色の成分を含む。よって、同じ画素位置の画素データを加算することによって、それぞれの色の感度を上げることができる。
可視光と赤外光とが混在している状況で可視光が比較的多ければ、可視光による露光が支配的となる。この場合、フレームFmIR123の映像データは、可視光によって露光した映像信号に基づく成分が主となる。可視光と赤外光とが混在している状況で赤外光が比較的多ければ、赤外光による露光が支配的となる。この場合、フレームFmIR123の映像データは、赤外光によって露光した映像信号に基づく成分が主となる。
可視光が比較的少ない場合には、式(1)において、係数ka,kb,kcの大小関係を、ka>kb,kcとし、式(2)において、係数kd,ke,kfの大小関係を、kf>kd,keとし、式(3)において、係数kg,kh,kiの大小関係を、kh>kg,kiとするのがよい。これは、波長IR1はR光との相関性が高く、波長IR2はG光との相関性が高く、波長IR3はB光との相関性が高いからである。
このようにすれば、Rの画素データではフレームFmIR1におけるRの画素データ、Gの画素データではフレームFmIR2におけるGの画素データ、Bの画素データではフレームFmIR3におけるBの画素データを主とすることができる。
前信号処理部52より出力されたフレームFmIR123の映像データは、スイッチ53を介してデモザイク処理部54に入力される。デモザイク処理部54は、通常モードと同様に、入力されたフレームFmIR123の映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図10を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図10の(a)は、フレームFmIR123を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123iを生成する。デモザイク処理部54は、図10の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123iを生成する。デモザイク処理部54は、図10の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123iを生成する。デモザイク処理部54は、図10の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123Bを生成する。
通常モードにおける図7に示すデモザイク処理部54の動作と、中間モードにおける図10に示すデモザイク処理部54の動作とを比較すれば分かるように、両者は実質的に同じである。デモザイク処理部54の動作は、通常モードであっても中間モードであっても変わらない。
通常モードでは前信号処理部52を不動作とし、中間モードでは、周囲画素加算部521を除き、前信号処理部52を動作させればよい。通常モードと中間モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<中間モード:第2中間モード>
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
合成部523は、フレームFmIR1におけるRの画素データであるR1と、フレームFmIR2におけるGの画素データであるGr2,Gb2と、フレームFmIR3におけるBの画素データであるB3とを選択して合成する。これによって合成部523は、図11の(d)に示す合成映像信号のフレームFmIR123’を生成する。
即ち、フレームFmIR123’は、フレームFmIR1,FmIR2,FmIR3におけるハッチングを付していないR,Gr,Gb,Bの画素データを1フレームに集結させた映像データである。
つまり、フレームFmIR123’においては、波長IR1の赤外光を投光した状態における赤色のカラーフィルタに対応する領域の画素データだけを用いた赤色用の画素データ、波長IR2の赤外光を投光した状態における緑色のカラーフィルタに対応する領域の画素データだけを用いた緑色用の画素データ、波長IR3の赤外光を投光した状態における青色のカラーフィルタに対応する領域の画素データだけを用いた青色用の画素データとなっている。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1,Gr2,Gb2,B3を配列させたフレームFmIR123’を生成する。
第2中間モードでは、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1中間モードにおける動作と同様に、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データを選択すれば、フレームFmIR123’を生成することができる。
第2中間モードにおいては、前信号処理部52は、画素データの色と同じ色の画素データを生成するための赤外光が投光された状態で生成された画素データ(ハッチングを付していない画素データ)のみ用いて、フレームFmIR123’の映像データを生成する。
第2中間モードによれば、第1中間モードよりも感度や色の再現性は低下するものの、演算処理を簡略化したり、フレームメモリを削減したりすることができる。
図12を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図12の(a)は、フレームFmIR123’を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR1iを生成する。デモザイク処理部54は、図12の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG2iを生成する。デモザイク処理部54は、図12の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB3iを生成する。デモザイク処理部54は、図12の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’Bを生成する。
以上のように、中間モードにおいては、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成し、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成し、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成する。
<暗視モード:第1暗視モード>
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モードにおける概略的な動作は、図8と同じである。但し、暗視モードでは、可視光がほとんど存在しない環境下での撮像であるため、図8の(b)における露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、赤外光のみによる露光を想定している。
可視光がほとんど存在せず赤外光のみが存在している環境下では、カラーフィルタ32におけるそれぞれのフィルタエレメントの特性には差がなくなるため、撮像部3を単色の撮像素子とみなすことができる。
そこで、前信号処理部52内の周囲画素加算部521は、暗視モードでは、赤外光の感度を向上させるために、それぞれの画素データに対して、周囲に位置する画素データを加算する。
具体的には、図13の(a)に示すように、Rの画素が注目画素であるとき、周囲画素加算部521は、注目画素のRの画素データに対して周囲に位置するG(Gr,Gb)及びBの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから赤色用の画素データを生成することとなる。図13に示す例では、各色とも注目画素を含む9画素分の領域から得た画素データを用いている。
図13の(b)に示すように、Grの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGrの画素データに対して周囲に位置するR,Gb,Bの8画素の画素データを加算する。図13の(c)に示すように、Gbの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGbの画素データに対して周囲に位置するR,Gr,Bの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから緑色用の画素データを生成することとなる。
図13の(d)に示すように、Bの画素が注目画素であるとき、周囲画素加算部521は、注目画素のBの画素データに対して周囲に位置するR及びG(Gr,Gb)の8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから青色用の画素データを生成することとなる。
周囲画素加算部521は、注目画素の画素データと周囲の8画素の画素データとの9画素を単純に加算してもよいし、周囲の8画素の画素データに対して所定の重み付けをした上で注目画素の画素データに加算してもよい。
ところで、ビニングと称される複数の画素をまとめて1つの画素として読み出し可能な撮像素子が存在する。撮像素子31として、ビニング機能を有する撮像素子を用いる場合には、周囲画素加算部521による加算処理ではなく、ビニング機能を有する撮像素子による加算処理を行ってもよい。撮像素子によるビニングは、周囲画素加算部521による加算処理と実質的に等価である。
図14の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。図14の(d)〜(f)において、R1ad,Gr1ad,Gb1ad,B1ad,R2ad,Gr2ad,Gb2ad,B2ad,R3ad,Gr3ad,Gb3ad,B3adは、それぞれ、R,Gr,Gb,Bの画素データに対して周囲の8画素の画素データを加算した加算画素データである。
周囲画素加算部521は、フレームFmIR1,FmIR2,FmIR3のそれぞれの画素データに対して図13に示す加算処理を施すことにより、図14の(d)〜(f)に示すフレームFmIR1ad,FmIR2ad,FmIR3adを生成する。
図15の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図14の(d)〜(f)のフレームFmIR1ad,FmIR2ad,FmIR3adと同じである。
同一位置画素加算部522は、第1中間モードと同様に、式(1)に基づいて、フレームFmIR1adにおけるR1adの画素データに、フレームFmIR2ad,FmIR3adにおける同じ画素位置のR2ad,R3adの画素データを加算して、画素データR123adを生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2adにおけるGr2ad,Gb2adの画素データに、フレームFmIR1ad,FmIR3adにおける同じ画素位置のGr1ad,Gb1ad,Gr3ad,Gb3adの画素データを加算して、画素データGr123ad,Gb123adを生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3adにおけるB3adの画素データに、フレームFmIR1ad,FmIR2adにおける同じ画素位置のB1ad,B2adの画素データを加算して、画素データB123adを生成する。
合成部523は、第1中間モードと同様に、フレームFmIR1adにおける画素データR123adと、フレームFmIR2adにおける画素データGr123ad,Gb123adと、フレームFmIR3adにおける画素データB123adとを選択して合成する。これによって合成部523は、図15の(d)に示す合成映像信号のフレームFmIR123adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR123ad,Gr123ad,Gb123ad,B123adを配列させたフレームFmIR123adを生成する。
図16の(a)はフレームFmIR123adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123adiを生成する。デモザイク処理部54は、図16の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123adiを生成する。デモザイク処理部54は、図16の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123adiを生成する。デモザイク処理部54は、図16の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123adBを生成する。
第1中間モードと第1暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。モード切換部72は、暗視モードのとき、周囲画素加算部521を動作させればよい。
暗視モードにおけるデモザイク処理部54の動作は、通常モード及び中間モードにおけるデモザイク処理部54の動作と実質的に同じである。通常モードと中間モードと暗視モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<暗視モード:第2暗視モード>
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)〜(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
合成部523は、フレームFmIR1adにおけるRの画素データであるR1adと、フレームFmIR2におけるGの画素データであるGr2ad,Gb2adと、フレームFmIR3におけるBの画素データであるB3adとを選択して合成する。これによって合成部523は、図17の(d)に示す合成映像信号のフレームFmIR123’adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1ad,Gr2ad,Gb2ad,B3adを配列させたフレームFmIR123’adを生成する。
なお、図13を用いて説明したように、フレームFmIR123’adにおける赤色用の画素データR1adは、中間モードのときに赤色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
また、フレームFmIR123’adにおける緑色用の画素データGr2adは、中間モードのときに緑色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
さらに、フレームFmIR123’adにおける青色用の画素データB3adは、中間モードのときに青色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
第2暗視モードでは、第2中間モードと同様に、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1暗視モードにおける動作と同様に、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データを選択すれば、フレームFmIR123’adを生成することができる。
図18を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図18の(a)は、フレームFmIR123’adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のR1adの画素データを用いて演算して、Rの補間画素データR1adiを生成する。デモザイク処理部54は、図18の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGr2ad,Gb2adの画素データを用いて演算して、Gの補間画素データG2adiを生成する。デモザイク処理部54は、補間して、図18の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のB3adの画素データを用いて算出したBの補間画素データB3adiを生成する。デモザイク処理部54は、図18の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’adBを生成する。
第2中間モードと第2暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。
また、中間モードにおいては、受光素子における各色に対応する領域から得た画素データそれぞれから各色用の画素データを生成していたが、暗視モードにおいては、周囲画素を加算するため、中間モードにおける各色用の画素データを生成するための領域それぞれよりも広い領域から得た画素データから各色用の画素データを生成するとも言える。
<モード切換の例>
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19の(a)に示すように、昼間から夕刻へと時間が経過していくに従って明るさが低下していき、時刻t3以降、ほぼ真っ暗の状態となる。図19の(a)に示す明るさは実質的に可視光の量を示しており、時刻t3以降、可視光がほとんどない状態である。
制御部7は、映像処理部5から入力される映像信号(映像データ)の輝度レベルに基づいて周囲環境の明るさを判断することができる。図19の(b)に示すように、モード切換部72は、明るさが所定の閾値Th1(第1の閾値)以上であるとき通常モードとし、明るさが閾値Th1未満で所定の閾値Th2(第2の閾値)以上であるとき中間モード、閾値Th2未満であるとき暗視モードとする。
本実施形態の撮像装置は、明るさが閾値Th1となる時刻t1までは通常モード、時刻t1から明るさが閾値Th2となる時刻t2まで中間モード、時刻t2以降は暗視モードに、モードを自動的に切り換える。図19の(b)において、中間モードは第1中間モードと第2中間モードとのいずれでもよく、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
図19の(a)では可視光がほとんどなくなる時刻t3の直前の明るさを閾値Th2としているが、時刻t3の明るさを閾値Th2としてもよい。
図19の(c)に示すように、モード切換部72は、中間モードの期間で、可視光が比較的多い時刻t1側の期間を第1中間モード、可視光が比較的少ない時刻t2側の期間を第2中間モードとしてもよい。図19の(c)において、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
本実施形態の撮像装置は、投光制御部71が赤外線投光器9のオン・オフを制御し、モード切換部72が映像処理部5内の各部の動作・不動作を切り換えることにより、それぞれのモードを実現することができる。
図20に示すように、通常モードは、赤外線投光器9がオフ、周囲画素加算部521と同一位置画素加算部522と合成部523がいずれも不動作、デモザイク処理部54が動作の状態である。
第1中間モードは、赤外線投光器9がオン、周囲画素加算部521が不動作、同一位置画素加算部522と合成部523とデモザイク処理部54とが動作の状態である。第2中間モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522とが不動作、合成部523とデモザイク処理部54とが動作の状態である。
同一位置画素加算部522における動作と不動作とは、前述のように、式(1)〜(3)の係数ka〜kiの値を適宜に設定することによって容易に切り換えることができる。
第1暗視モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522と合成部523とデモザイク処理部54との全てが動作の状態である。第2暗視モードは、赤外線投光器9がオン、同一位置画素加算部522が不動作、周囲画素加算部521と合成部523とデモザイク処理部54とが動作の状態である。
ところで、周囲画素加算部521は、注目画素の画素データに対して周囲の画素データを加算するための計算式において、周囲の画素データに乗じる係数を、0を超える係数(例えば1)とすれば、周囲画素の加算処理を動作の状態とすることができる。
また、周囲画素加算部521は、その計算式において、周囲の画素データに乗じる係数を0とすれば、周囲画素の加算処理を不動作の状態とすることができる。
周囲画素加算部521における動作と不動作も、係数の値を適宜に設定することによって容易に切り換えることができる。
<撮像装置の第1の変形例>
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
図21に示すように、明るさセンサ11によって周囲環境の明るさを検出してもよい。図21において、映像信号の輝度レベルと明るさセンサ11によって検出した明るさとの双方に基づいて、周囲環境の明るさを判断してもよい。
<撮像装置の第2の変形例>
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
図22に示すように、モード設定テーブル12には、日にちと時間帯との組み合わせに対応して、通常モードと中間モードと暗視モードとのいずれかが設定されている。制御部7内の時計74は、日にちと時刻を管理している。制御部7は、時計74が示す日にちと時刻とを参照して、モード設定テーブル12より設定されているモードを読み出す。
投光制御部71とモード切換部72は、モード設定テーブル12より読み出されたモードとなるように、撮像装置を制御する。
<撮像装置の第3の変形例>
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
<映像信号処理方法>
図24を用いて、図1に示す撮像装置で実行される映像信号処理方法を改めて説明する。
図24において、撮像装置が動作を開始すると、制御部7は、ステップS1にて、周囲環境の明るさが閾値Th1以上であるか否かを判定する。閾値Th1以上であれば(YES)、制御部7は、ステップS3にて、通常モードでの処理を実行させる。閾値Th1以上でなければ(NO)、制御部7は、ステップS2にて、周囲環境の明るさが閾値Th2以上であるか否かを判定する。
閾値Th2以上であれば(YES)、制御部7は、ステップS4にて、中間モードでの処理を実行させる。閾値Th2以上でなければ(NO)、制御部7は、ステップS5にて、暗視モードでの処理を実行させる。
制御部7は、ステップS3〜S5の後、処理をステップS1に戻し、ステップS1以降を繰り返す。
図25は、ステップS3の通常モードの具体的な処理を示す。図25において、制御部7(投光制御部71)は、ステップS31にて、赤外線投光器9をオフにする。制御部7は、ステップS32にて、赤外線カットフィルタ21を挿入する。制御部7(モード切換部72)は、ステップS33にて、スイッチ51,53を端子Tbに接続させる。ステップS31〜S33の順番は任意であり、同時であってもよい。
制御部7は、ステップS34にて、撮像部3によって被写体を撮像させる。制御部7は、ステップS35にて、撮像部3が被写体を撮像することよって生成した映像信号を構成するフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
図26は、ステップS4の中間モードの具体的な処理を示す。図26において、制御部7(投光制御部71)は、ステップS41にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS42にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS43にて、スイッチ51,53を端子Taに接続させる。ステップS41〜S43の順番は任意であり、同時であってもよい。
制御部7は、ステップS44にて、撮像部3によって被写体を撮像させる。撮像部3は、Rに対応付けられた波長IR1の赤外光と、Gに対応付けられた波長IR2の赤外光と、Bに対応付けられた波長IR3の赤外光とがそれぞれ投光されている状態で被写体を撮像する。
制御部7(モード切換部72)は、ステップS45にて、周囲画素加算部521を不動作とし、合成部523を動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
波長IR1,IR2,IR3の赤外光がそれぞれ投光されている状態で撮像部3が被写体を撮像することよって生成された映像信号を構成するフレームを第1のフレーム,第2のフレーム,第3のフレームとする。
合成部523は、第1のフレーム内のRの画素データと、第2のフレーム内のGの画素データと、第3のフレーム内のBの画素データとに基づく3原色の画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させる。合成部523は、このようにして第1〜第3のフレームを1フレームに合成した合成映像信号を生成する。
制御部7は、ステップS46にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
デモザイク処理部54は、合成映像信号のフレームに基づいて、Rのフレームと、Gのフレームと、Bのフレームとを生成するデモザイク処理を施して、デモザイク処理された3原色のフレームを順次生成する。
デモザイク処理部54は、Rの画素データが存在しない画素位置にRの画素データを補間することによって、Rのフレームを生成することができる。デモザイク処理部54は、Gの画素データが存在しない画素位置にGの画素データを補間することによって、Gのフレームを生成することができる。デモザイク処理部54は、Bの画素データが存在しない画素位置にBの画素データを補間することによって、Bのフレームを生成することができる。
第1中間モードとする場合には、ステップS45にて、同一位置画素加算部522を動作させ、第2中間モードとする場合には、ステップS45にて、同一位置画素加算部522を不動作とすればよい。
図27は、ステップS5の暗視モードの具体的な処理を示す。図27において、制御部7(投光制御部71)は、ステップS51にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS52にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS53にて、スイッチ51,53を端子Taに接続させる。ステップS51〜S53の順番は任意であり、同時であってもよい。
制御部7は、ステップS54にて、撮像部3によって被写体を撮像させる。制御部7(モード切換部72)は、ステップS55にて、周囲画素加算部521と合成部523とを動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
制御部7は、ステップS56にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
第1暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を動作させ、第2暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を不動作とすればよい。
<映像信号処理プログラム>
図1において、制御部7、または、映像処理部5と制御部7とが一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した本実施形態の撮像装置と同様の動作を実現させることも可能である。
図28を用いて、図24のステップS4である中間モードにおける制御を映像信号処理プログラムで構成した場合にコンピュータに実行させる手順の例を説明する。図28は、映像信号処理プログラムがコンピュータに実行させる処理を示す。
図28において、映像信号処理プログラムは、ステップS401にて、コンピュータに、R,G,Bに対応付けられた波長IR1,IR2,IR3の赤外光をそれぞれ投光するように赤外線投光器9を制御するステップを実行させる。
ステップS401に示すステップを映像信号処理プログラムの外部にて実行させてもよい。図28では、ダミーガラス22を挿入させるステップを省略している。ダミーガラス22を挿入させるステップも映像信号処理プログラムの外部にて実行させてもよい。
映像信号処理プログラムは、ステップS402にて、コンピュータに、波長IR1の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第1のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS403にて、コンピュータに、波長IR2の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第2のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS404にて、コンピュータに、波長IR3の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第3のフレームを構成する画素データを取得するステップを実行させる。ステップS402〜S404の順番は任意である。
映像信号処理プログラムは、ステップS405にて、コンピュータに、R,G,Bの画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させて、1フレームに合成した合成映像信号を生成するステップを実行させる。
中間モードでは、映像信号処理プログラムは、ステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させない。
映像信号処理プログラムは、ステップS406にて、コンピュータに、合成映像信号のフレームにデモザイク処理を施して、R,G,Bのフレームを生成するステップを実行させる。
図示は省略するが、図24のステップS5である暗視モードにおける制御を映像信号処理プログラムで構成する場合には、図28のステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させればよい。
映像信号処理プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコンピュータプログラムであってよい。映像信号処理プログラムが記録媒体に記録された状態で提供されてもよいし、映像信号処理プログラムをコンピュータにダウンロードさせるよう、インターネット等のネットワークを介して提供されてもよい。コンピュータで読み取り可能な記録媒体は、CD−ROM,DVD−ROM等の非一時的な任意の記録媒体でよい。
<暗視モードにおける色の調整について>
ここで、暗視モードにおいて、カラー映像信号の色をどのように調整すれば色再現性のよい映像信号が得られるのかについて説明する。なお、撮影画像の画素値に応じて各色の色ゲインを変更しない例と、オートホワイトバランス処理のような技術を用いて、撮影画像の画素値に応じて各色の色ゲインを変更する例とを説明する。なお、以下の説明において、基本的に、単にR,G,Bと記すときは、Rの画素値,Gの画素値,Bの画素値を表すものとする。
まず、赤外光を投光しないよう赤外線投光器9が制御される通常モードにおいて、撮影画像の画素値に応じて各色の色ゲインを変更しない場合、映像信号の色をどのような調整方法で調整するのかを説明する。通常モードでは、可視光がある環境下で被写体を撮像する通常の撮像装置において確立されている一般的な調整方法を採用すればよい。
通常モードにおける調整時には、撮像装置は、基準光源下で基準となる無彩色の物体を撮像したときに出力される映像信号が白となるように調整される。基準光源は、例えば、色温度3100Kのハロゲンランプである。基準となる無彩色の物体としては、一般的に、例えば、標準白色板が用いられる。
標準白色板としては、例えば、Labsphere, Inc.,製の商品である“SRT-99-050 Reflectance Target”を用いることができる。標準白色板は複数の会社から提供されており、いずれの会社の製品であってもよい。標準白色板は、可視光域から近赤外域までほぼ一定の反射率を有する。なお、上記の製品は、250nm〜2500nmの波長帯域で90%以上の反射率を有する。
通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合、例えば、色ゲイン制御部73は、基準光源下で標準白色板を撮像したときに出力される映像信号が白となるように、色ゲイン設定部62がR,G,Bの各色データ(画素値)に乗じる色ゲインを制御する。
映像出力部6より出力されるR,G,Bの各色データの比率は、R:G:B=x:y:zと表される。通常モードにおいて、基準光源下で標準白色板を撮像したとき、R:G:B=1:1:1とすることによって、ホワイトバランスが調整される。このときのR:G:B=1:1:1とするための色ゲインが、基準光源下で標準白色板を撮像したときに出力される映像信号が白となる色ゲインの値である。このとき、少なくとも標準白色板に対応する領域の画素について、R:G:B=1:1:1となるように調整すればよい。
また、Gに対する色ゲインを固定し、R,Bに対する色ゲインを変化させてホワイトバランスを調整することもある。この場合、RとGの色データが等しくなるようにするとともに、BとGの色データが等しくなるように色ゲインを調整することによってホワイトバランスが調整される。つまり、R/G=1.0、B/G=1.0とすることによって、ホワイトバランスが調整される。このときの各色ゲインが、基準光源下で標準白色板を撮像したときに出力される映像信号が白となる色ゲインの値である。
通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合、以上のようにして、基準光源下で標準白色板を撮像したときに出力される映像信号が白となる色ゲインの値をメモリ等に保持しておき、色ゲイン設定部62は、映像出力部に入力される映像信号のR画素値、G画素値、B画素値のそれぞれに、メモリが保持している色ゲインを乗じればよい。なお、基準光源下で基準となる無彩色の物体を撮像したときのR画素値とG画素値とB画素値とを完全に等しくする必要はなく、数%程度であれば、ずれていてもよい。特に監視用途であれば、数%のずれは許容範囲内である。
通常モードでは、このようにホワイトバランスが調整されることによって、結果として、映像信号の各色も調整されることになる。
次に、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合の例について説明する。この場合、画面全体の画素値の平均値における各色データがR:G:B=1:1:1となるように、周知のオートホワイトバランス処理を実行する。その際、Gに対する色ゲインを固定し、R,Bに対する色ゲインを変化させて、R/G=1.0、B/G=1.0となるように、オートホワイトバランス処理を実行してもよい。いずれにしても、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが等しくなるように撮影した撮像信号の画面全体の画素値の平均値に応じて各色ゲインを決定すればよい。
このようにオートホワイトバランス処理を実行する場合、色ゲイン制御部73は、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが等しくなるように、各色ゲインを決定する。
例えば、画面全体の画素値の平均値において、R画素値が97であり、G画素値が100であり、B画素値が107であった場合、色ゲイン制御部73は、Rの色ゲインを100/97とし、Gの色ゲインを1.0とし、Bの色ゲインを100/107とする。そして、色ゲイン設定部62が 映像出力部6に入力された映像信号の各色データに対して、色ゲイン制御部73によって決定された各色ゲインを乗じることによって、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが等しくなる。このようにする場合、撮影している画像の画素値に応じて各色の色ゲインは変わることとなる。なお、実際の色ゲインは、装置の仕様上の設定可能な値にするために、Rの色ゲインを1.031とし、Gの色ゲインを1.000とし、Bの色ゲインを0.935として、装置の仕様上の設定可能な位までの数にしてもよい。
なお、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合において基準光源下で標準白色板を撮像したときの各色ゲインは、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合の各色ゲインと理論的に等しくなる。
また、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とを完全に等しくする必要はなく、数%程度であれば、ずれていてもよい。
また、オートホワイトバランス処理に係る種々の技術を採用してもよい。例えば、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との比が所定の閾値よりも大きくずれている場合は、ターゲットとなる値をR:G:B=1:1:1から変更してもよい。
次に、赤外光を投光するよう赤外線投光器9が制御される暗視モードにおいて、色再現性のよい映像信号を得るために、映像出力部6に入力されるカラー映像信号をどのように調整すべきかについて説明する。
暗視モードにおいては、前述のように、波長IR1,IR2,IR3の赤外光を被写体に照射したときに得られる映像信号をそれぞれR信号,G信号,B信号に割り当てている。原理的に、暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができるものの、全く同じ色を再現できるわけではない。
そこで、本実施形態においては、暗視モードのときに、通常モードとは異なる調整方法を採用している。なお、暗視モードについても、撮影画像の画素値に応じて各色の色ゲインを変更しない例と、撮影画像の画素値に応じて各色の色ゲインを変更する例とを説明する。なお、以下の説明において、説明の便宜上、各赤外光の強度は、各色ゲインを3色とも同じゲインとして、各赤外光を投光して標準白色板を撮像したときに、少なくともその標準白色板に対応する領域の画素において、R画素値とG画素値とB画素値とが等しくなるような強度であるとする。つまり、赤外光の強度は、R画素値とG画素値とB画素値とのばらつき度合いに寄与しないような強度であるとする。
なお、R画素値とG画素値とB画素値とのばらつき度合いとは、基本的には、同一画面内におけるR画素値とG画素値とB画素値とのばらつき度合いであるが、同じ被写体を撮像し続けている状況であればこの限りではない。
また、R画素値とG画素値とB画素値との値のばらつき度合いとは、例えば、R画素値とG画素値とB画素値とから算出される分散や標準偏差などの種々のばらつき度合いを示す指標で表すことができる。
また、R画素値とG画素値とB画素値との値のばらつき度合いは、R画素値、G画素値、及びB画素値の内の最も大きな値と、最も小さい値との差分値でも表すこともでき、公知の種々の統計的なばらつきを表す指標を用いて表すこともできる。
まず、暗視モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合について説明する。この場合、色ゲイン設定部62は、標準白色板を撮像したときに、少なくとも標準白色板に対応する領域の画素について、R画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときの少なくとも標準白色板に対応する領域の画素におけるR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなる所定の色ゲインを、映像出力部6に入力される映像信号のR,G,Bの3原色データに乗じる。
そして、映像出力部6は、色ゲイン設定部62によって色ゲインが乗じられて、各色の画素値に基づくばらつき度合いが所定のばらつき度合いよりも大きくされたカラー映像信号を出力する。
つまり、通常モードにおいて、基準光源下で標準白色板を撮像すると、R画素値とG画素値とB画素値とが等しくなるが、暗視モードでは前述のような色ゲインを各色データに乗じるため、標準白色板を撮像したときのR画素値とG画素値とB画素値とは等しくならない。
暗視モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合、このような色ゲインの値をメモリ等に保持しておき、色ゲイン設定部62は、映像出力部に入力される映像信号のR画素値、G画素値、B画素値のそれぞれに、メモリが保持している色ゲインを乗じればよい。
以上のように、撮像信号における標準白色板に対応する画素におけるR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなっていればよい。この撮像信号における標準白色板に対応する画素は、単一の画素でもよいし、標準白色板に対応する複数の画素における画素値を平均したものであってもよい。
また、この暗視モードにおける各色ゲインは、被写体に応じて複数準備してもよい。
例えば、本発明者による実験の結果、人の肌の色を重視する場合、波長IR1,IR2,IR3の赤外光を投光して標準白色板を撮像したときに、少なくともその標準白色板に対応する領域の画素において、R画素値とG画素値とB画素値との比が、次のような比となると良好な色再現性を得られることがわかった。
つまり、R画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/Gが1より小さくなり、かつ、B/Gが1より大きい所定の比となるように、色ゲイン設定部62における色ゲインを設定して、各色の画素値に基づくばらつき度合いを、通常モードのときよりも大きくすることで良好な色再現性を得られることがわかった。
このような色ゲインにすることによって、赤外線投光器9によって波長IR1〜IR3の赤外光を投光して撮像したときに人の肌の色がよく再現されることが確かめられた。より具体的には、R/G=0.66程度、B/G=1.46程度となるような色ゲインにすることが好ましい。
また、プラスチックの色を重視する場合、波長IR1,IR2,IR3の赤外光を投光して標準白色板を撮像したときに、少なくともその標準白色板に対応する領域の画素において、R画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/G及びB/Gが1より大きい所定の比となるように、色ゲイン設定部62における色ゲインを設定して、各色の画素値に基づくばらつき度合いを、通常モードのときよりも大きくすることで良好な色再現性を得られることがわかった。
このような色ゲインにすることによって、赤外線投光器9によって波長IR1〜IR3の赤外光を投光して撮像したときにプラスチックの色がよく再現されることが確かめられた。より具体的には、R/G=1.35程度、B/G=2.04程度となるような色ゲインにすることが好ましい。
なお、プラスチックの色を重視する場合、赤,緑,青等の複数の色がバランス良く良好な色再現性で表現される場合のR/G及びB/Gの値を採用すればよいが、複数の色のうちの特定の色の再現性を重視する場合には、その特定の色が色再現性よく表現される場合のR/G及びB/Gの値を採用すればよい。
以上のように、いずれの色を重視する場合においても、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合と比較すると、暗視モードにおける各色ゲインは、波長IR1,IR2,IR3の赤外光を照射して標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなるような色ゲインである。
また、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合と比較すると、暗視モードにおける各色ゲインは、波長IR1,IR2,IR3の赤外光を照射して標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいてオートホワイトバランス処理を実行したときの画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなるような色ゲインである。
また、肌やプラスチック以外の色にも、実際に被写体となる物体を撮像しながら、最も良好な色再現性となるように、色ゲインを調整し、その調整した結果を用いて撮像することができる。このように、肌やプラスチック以外の色を重視する場合においても、R画素値とG画素値とB画素値との値のばらつき度合いを、標準白色板を撮像したときのR画素値とG画素値とB画素値とが等しくならないように、所定のばらつき度合いよりも大きくすると良好な色再現性が得られる。
つまり、ばらつき度合いを標準偏差で表した場合、R画素値とG画素値とB画素値とから算出される標準偏差が0よりも大きくなるようにすると良好な色再現性が得られる。
また、ばらつき度合いを、R画素値、G画素値、及びB画素値の内の最も大きな値と、最も小さい値との差分値で表した場合、差分値が0よりも大きくなるようにすると良好な色再現性が得られる。
次に、暗視モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合について説明する。
このような場合、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合の各画素値と比較すると、色ゲイン制御部73は、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いよりも大きい所定の値となるように、R,G,Bの3原色データに乗じる色ゲインを制御する。
つまり、暗視モードではこのような色ゲインを各色データに乗じるため、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが基本的に等しくならない。
また、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合の各画素値と比較すると、色ゲイン制御部73は、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいてオートホワイトバランス処理を実行された後のR画素値とG画素値とB画素値との値のばらつき度合いよりも大きい所定の各色データとなるように、R,G,Bの3原色データに乗じる色ゲインを制御するとも言える。
色ゲイン制御部73は、1つ又は複数のフレームごとに、カラー映像信号の画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とを取得し、上述のような色ゲインを算出して、色ゲインを決定する。
そして、色ゲイン設定部62は、決定された色ゲインを各画素の各色の画素値に対して乗じる。
そして、映像出力部6は、色ゲイン設定部62によって色ゲインが乗じられて、各色の画素値に基づくばらつき度合いが所定のばらつき度合いよりも大きくされたカラー映像信号を出力する。
例えば、人の肌の色を重視するときは、上述のように画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/Gが1より小さくなり、かつ、B/Gが1より大きい所定の比となるように、色ゲイン設定部62における色ゲインを設定して、各色の画素値に基づくばらつき度合いを、通常モードのときよりも大きくすることで良好な色再現性を得られる。例えば、R/G=0.66程度、B/G=1.46程度となるような値をターゲット値として、色ゲインを設定することが好ましい。
具体的に、例えば、画面全体の画素値の平均値におけるR画素値、G画素値、及びB画素値が共に100であった場合、色ゲイン制御部73は、Rの色ゲインを0.66とし、Gの色ゲインを1.00とし、Bの色ゲインを1.46とする。そして、色ゲイン設定部62が 映像出力部6に入力された映像信号に対して、色ゲイン制御部73によって決定された各色データに各色ゲインを乗じることによって、画面全体の画素値の平均値において、R/G=0.66、B/G=1.46となる。プラスチックの色を重視する場合も前述した値をターゲット値とすれば良好に色を再現することができる。
以上のようにすることで、暗視モードにおいても色再現性のよい映像信号を得ることができる。
以上説明したように、通常モードにおいてホワイトバランスを調整した色ゲインと、暗視モードにおける色ゲインとが異なることになる。色ゲイン制御部73は、モード切換部72が通常モードと暗視モードとを切り換えるのに対応して、処理を切り換える。
なお、周知のパターンマッチング技術を用いて人物を検出する人物検出部(図示せず)を備え、人物を検出したときは上述の人の肌の色を重視するゲイン設定とし、人物を検出していないときはその他のゲイン設定としてもよい。
また、暗視モードにおいて、映像出力部6が、各色の画素値に基づくばらつき度合いが所定のばらつき度合いよりも大きいカラー映像信号を出力する方法として、他の方法を用いてもよい。以下、その方法について説明する。
なお、以下の説明において、説明の便宜上、色ゲイン設定部62が映像信号に乗じる色ゲインを通常モードおける色ゲインと同じであるとする。つまり、R画素値とG画素値とB画素値とのばらつき度合いに寄与しないような色ゲインであるとする。
以下説明する方法では、赤外線投光器9が波長IR1〜IR3の赤外光を投光するときのそれぞれの強度を制御することによって、R画素値とG画素値とB画素値との値のばらつき度合いや、R画素値とG画素値とB画素値との比を制御する。
撮影画像の画素値に応じて波長IR1〜IR3の赤外光の強度を変更しない例と、撮影画像の画素値に応じて波長IR1〜IR3の各赤外光の強度を変更する例とを説明する
まず、撮影画像の画素値に応じて波長IR1〜IR3の各赤外光の強度を変更しない場合について説明する。この場合、投光制御部71は、波長IR1〜IR3の各赤外光を投光して標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときの少なくとも標準白色板に対応する領域の画素におけるR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなる所定の強度で、各赤外光を投光するよう赤外線投光器9を制御する。
赤外光の強度がそのように制御されることによって、映像出力部6は、各色の画素値に基づくばらつき度合いが所定のばらつき度合いよりも大きくされたカラー映像信号を出力することとなる。
つまり、通常モードにおいて、基準光源下で標準白色板を撮像すると、R画素値とG画素値とB画素値とが等しくなるが、暗視モードでは前述のような強度で波長IR1〜IR3の各赤外光を投光するため、R画素値とG画素値とB画素値とは等しくならない。
暗視モードにおいて撮影画像の画素値に応じて波長IR1〜IR3の各赤外光の強度を変更しない場合、このような強度で投光するための各赤外光の強度(電流値等)をメモリ等に保持しておき、投光制御部71は、その強度で投光するよう赤外線投光器9を制御する。
また、各赤外光の強度は、被写体に応じて複数準備してもよい。
例えば、前述のように、人の肌の色を重視する場合、波長IR1〜IR3の各赤外光を投光して標準白色板を撮像したときに、少なくともその標準白色板に対応する領域の画素において、R画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/Gが1より小さくなり、かつ、B/Gが1より大きい所定の比となるように各赤外光の強度を制御して、各色の画素値に基づくばらつき度合いを通常モードのときよりも大きくすることで、赤外線投光器9によって波長IR1〜IR3の赤外光を投光して撮像したときに人の肌の色がよく再現される。
例えば、基準光源下で標準白色板を撮像したときにR画素値とG画素値とB画素値とが等しくなるような色ゲインが設定されている場合は、Rに対応するIR1の赤外光を、Gに対応するIR2の赤外光よりも弱い強度で投光するとともに、Bに対応するIR3の赤外光を、Gに対応するIR2の赤外光よりも強い強度で投光することで、各色の映像信号をR/G=0.66程度、B/G=1.46程度とすることができる。
また、前述のように、プラスチックの色を重視する場合、波長IR1〜IR3の各赤外光を投光して標準白色板を撮像したときに、少なくともその標準白色板に対応する領域の画素において、R画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/G及びB/Gが1より大きい所定の比となるように各赤外光の強度を制御して、各色の画素値に基づくばらつき度合いを通常モードのときよりも大きくすることで、波長IR1〜IR3の赤外光を投光して撮像したときにプラスチックの色がよく再現される。
なお、プラスチックの色を重視する場合、赤,緑,青等の複数の色がバランス良く良好な色再現性で表現される場合のR/G及びB/Gの値を採用すればよいが、複数の色のうちの特定の色の再現性を重視する場合には、その特定の色が色再現性よく表現される場合のR/G及びB/Gの値を採用すればよい。
以上のように、いずれの色を重視する場合においても、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更しない場合と比較すると、暗視モードにおける各赤外光の強度は、波長IR1,IR2,IR3の赤外光を照射して標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなるような強度である。
また、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合と比較すると、暗視モードにおける各赤外光の強度は、波長IR1,IR2,IR3の赤外光を照射して標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいてオートホワイトバランス処理を実行したときの画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いよりも大きくなるような強度である。
また、肌の色やプラスチックの色以外にも、重視したい被写体を撮像しながら、最も良好な色再現性となるように、各赤外光の強度を調整し、その調整した結果を用いて撮像することができる。その際、色ゲインも同時に調整し、赤外光の強度と色ゲインとで調整してもよい。このように、肌の色やプラスチックの色以外を重視する場合においても、標準白色板を撮像したときのR画素値とG画素値とB画素値とが等しくならないように所定のばらつき度合いよりも大きくすると良好な色再現性が得られる。ばらつき度合いを標準偏差で表した場合、R画素値とG画素値とB画素値とから算出される標準偏差が0よりも大きくなるようにすると良好な色再現性が得られる。
また、ばらつき度合いを、R画素値、G画素値、及びB画素値の内の最も大きな値と、最も小さい値との差分値で表した場合、差分値が0よりも大きくなるようにすると良好な色再現性が得られる。
次に、暗視モードにおいて撮影画像の画素値に応じて波長IR1〜IR3の各赤外光の強度を変更する場合について説明する。
この場合、投光制御部71は、波長IR1〜IR3の各赤外光を投光して撮像した画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいて基準光源下で標準白色板を撮像したときのR画素値とG画素値とB画素値との値のばらつき度合いよりも大きい所定の値となるように、波長IR1〜IR3の各赤外光の強度を決定する。
つまり、暗視モードではこのような強度の各赤外光を投光するため、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とは基本的に等しくならない。
また、通常モードにおいて撮影画像の画素値に応じて各色の色ゲインを変更する場合と比較すると、投光制御部71は、波長IR1〜IR3の各赤外光を投光して撮像した画面全体の画素値の平均値が、その平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いが、通常モードにおいてオートホワイトバランス処理を実行された後の画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との値のばらつき度合いよりも大きい所定の値となるように、波長IR1〜IR3の各赤外光の強度を決定する。
つまり、通常モードにおいて、オートホワイトバランス処理を実行すると、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが基本的に等しくなるが、暗視モードでは前述のような強度で赤外光を投光するため、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とは等しくならない。
なお、赤外光の強度を制御して調整する方法の場合、制御部71は、暗視モード中はオートホワイトバランス処理を行わないよう制御する。オートホワイトバランス処理を行うと、各赤外光の強度を変えても画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とが等しくなってしまうためである。
例えば、人の肌の色を重視するときは、上述のように、例えば、画面全体の画素値の平均値におけるR画素値とG画素値とB画素値との比が、B/GがR/Gよりも大きくなるとともに、R/Gが1より小さくなり、かつ、B/Gが1より大きい所定の比となるように、投光制御部71が赤外光の強度を設定して、各色の画素値に基づくばらつき度合いを、通常モードのときよりも大きくすることで良好な色再現性を得られる。例えば、R/G=0.66程度、B/G=1.46程度となるような値をターゲット値として、各赤外光の強度を設定することが好ましい。
具体的に、例えば、通常モードで撮影すると画面全体の画素値の平均値におけるR画素値、G画素値、及びB画素値が共に100であるような被写体を撮像する場合、投光制御部71は、Rに対応するIR1の赤外光を、Gに対応するIR2の赤外光よりも弱い強度で投光するとともに、Bに対応するIR3の赤外光を、Gに対応するIR2の赤外光よりも強い強度で投光することで、各色の映像信号がR/G=0.66程度、B/G=1.46程度とすることができる。プラスチックの色を重視する場合も前述した値をターゲット値とすれば良好に色を再現することができる。
暗視モードにおいて撮影画像の画素値に応じて波長IR1〜IR3の各赤外光の強度を変更する場合、投光制御部71は、1つ又は複数のフレームごとに、カラー映像信号の画面全体の画素値の平均値におけるR画素値とG画素値とB画素値とを取得し、上述のようになる強度を算出して、各赤外光の強度を決定する。R画素値とG画素値とB画素値とをフィードバックしながら、随時、強度を調整する。
そして、赤外線投光器9は、決定された強度で波長IR1〜IR3の各赤外光を投光し、映像出力部6は、各色の画素値に基づくばらつき度合いが所定のばらつき度合いよりも大きくされたカラー映像信号を出力することとなる。
以上のようにすることで、暗視モードにおいても色再現性のよいカラー映像信号を得ることができる。
なお、周知のパターンマッチング技術を用いて人物を検出する人物検出部(図示せず)を備え、人物を検出したときは上述の人の肌の色を重視する強度設定とし、人物を検出していないときはその他の強度設定としてもよい。
なお、色ゲイン設定部62によってカラー映像信号のR,G,Bに乗じる色ゲインを制御して、映像出力部6が出力するカラー映像信号のR画素値とG画素値とB画素値とのバランスを調整する方法と、波長IR1〜IR3の赤外光の強度を制御して、映像出力部6が出力するカラー映像信号のR画素値とG画素値とB画素値とのバランスを調整する方法とを組み合わせて、上述のR画素値とG画素値とB画素値との値のばらつき度合いや、R画素値とG画素値とB画素値との比を実現するようにしてもよい。
次に、図29〜図32を用いて、以上説明した通常モード及び暗視モードにおけるカラー映像信号の色の調整をさらに詳細に説明する。以下の説明は、初期段階における各赤外光の強度や色ゲインの値を設定するために有用である。また、撮像装置の品質検査等にも有用である。
図29〜図31は、一例として、NTSCのベクトルスコープを概略的に示している。横軸は色差信号B−Y、縦軸はR−Yである。Yは輝度信号である。ベクトルスコープが示す円の周方向は色相を示している。R,G,Bと、黄色(Ye),マゼンタ(Mg),シアン(Cy)はハッチングを付した丸で示す位置で表現される。
通常モードにおいて上述のようにホワイトバランスを調整すると、無彩色の物体(例えば、標準白色板)を撮像した場合に出力されるカラー映像信号を示す指標は、図29に白丸で示すように、ベクトルスコープの円の中心に位置する。
暗視モードにおいて人の肌の色を重視する場合のように、R画素値とG画素値とB画素値との値のばらつき度合いを大きくして、R画素値とG画素値とB画素値との比を、R/G=0.66、B/G=1.46となる所定の比にすると、無彩色の物体を撮像した場合に出力されるカラー映像信号を示す指標は、図30にクロスハッチングを付した丸で示す位置へと移動する。通常モードにおける白が、図30にクロスハッチングを付した丸で示す位置へと移動した状態になるように各色ゲイン又は各赤外光の強度が調整された状態で撮影することで人の肌の色が色再現性よく再現される。
暗視モードにおいてプラスチックの色を重視する場合のように、R画素値とG画素値とB画素値との値のばらつき度合いを大きくして、R画素値とG画素値とB画素値との比を、R/G=1.35、B/G=2.04となる所定の比にすると、無彩色の物体を撮像した場合に出力されるカラー映像信号を示す指標は、図31にクロスハッチングを付した丸で示す位置へと移動する。通常モードにおける白が、図31にクロスハッチングを付した丸で示す位置へと移動した状態になるように各色ゲイン又は各赤外光の強度が調整された状態で撮影することでプラスチックの複数の色が色再現性よく再現される。
以上のようにベクトルスコープに基づいて撮像装置の初期設定や品質検査等を行うこともできる。
図32は、通常モードにおける白を決めるための基準となる無彩色の物体(例えば、標準白色板)を撮影したときのR/G及びB/Gの値が、暗視モードにおいてどのように変化するかを示している。通常モードでは、黒丸で示すように、R/G=1.0、B/G=1.0である。
暗視モードにおいて人の肌の色を重視する場合には、R画素値とG画素値とB画素値との値のばらつき度合いを大きくして、R画素値とG画素値とB画素値との比を、R/G=0.66、B/G=1.46となる所定の比にするので、黒丸は黒の四角の位置へと移動する。
暗視モードにおいてプラスチックの色を重視する場合には、R画素値とG画素値とB画素値との値のばらつき度合いを大きくして、R画素値とG画素値とB画素値との比を、R/G=1.35、B/G=2.04となる所定の比にするので、黒丸は黒の三角の位置へと移動する。
以上のようなグラフ等に基づいて撮像装置の初期設定や品質検査等を行うこともできる。
以上の説明した調整方法をまとめると次のとおりである。
通常モードについては、調整時に、白を決めるための基準となる無彩色の物体(例えば、標準白色板)に基準光源からの光を照射した状態とする。色ゲイン制御部73は、その物体を撮像したときに、映像処理部5によって生成される3原色映像信号が白となるような色ゲインを、カラー映像信号における各色の映像信号に乗じるよう、色ゲイン設定部62を制御する。
暗視モードでは、調整時に、無彩色の物体に赤外線投光器9からの波長IR1〜IR3の赤外光を投光した状態とする。撮像部3がその物体を撮像したときに、映像処理部5によって生成されるカラー映像信号が白以外の特定の色を再現するように、カラー映像信号における各色の映像信号のバランスを調整する。
各色の映像信号のバランスは、色ゲイン設定部62が各色の映像信号に乗じる色ゲインを適宜設定することによって調整してもよいし、赤外線投光器9が投光する波長IR1〜IR3の赤外光の強度を適宜設定することによって調整してもよい。
また、次のようにすることもできる。
撮像部3によって、白を決めるための基準となる無彩色の物体に基準光源からの光を照射した状態で、その物体を撮像して第1の撮像信号を生成する。映像処理部5は、第1の撮像信号に基づいてR,G,Bの第1の3原色映像信号を生成する。
色ゲイン制御部73は、第1の3原色映像信号が白となるような、R,G,Bの各色の映像信号に乗じる色ゲインを決定する。以上で通常モードにおける調整が完了する。
上記と同じ物体に波長IR1〜IR3の赤外光を投光した状態で、撮像部3によってその物体を撮像して第2の撮像信号を生成する。映像処理部5は、第2の撮像信号に基づいてR,G,Bの第2の3原色映像信号を生成する。撮像装置は、第2の3原色映像信号が白以外の色を再現するように、3原色映像信号における各色の映像信号のバランスを調整する。以上で暗視モードにおける調整が完了する。
本実施形態の撮像装置及び撮像装置の調整方法によれば、暗視モードにおいて色再現性のよい映像信号を得ることができる。
ところで、本実施形態の撮像装置においては、暗視モードでの撮像時に、波長IR1〜IR3の赤外光を時分割で選択的に投光する構成を示したが、波長IR1〜IR3の赤外光を同時に投光する構成であってもよい。
例えば、撮像部3が単一の撮像素子を有する単板式であればマイクロフィルタ等を用いることにより、波長IR1〜IR3の赤外光を同時に投光する構成とすることができる。また、撮像部3が3つの撮像素子を有する三板式であればダイクロイックプリズム等を用いることにより、波長IR1〜IR3の赤外光を同時に投光する構成とすることができる。
単板式の場合、通常モードのときは、マイクロフィルタによって、Rの画素には可視光のR成分、Gの画素には可視光のG成分、Bの画素には可視光のB成分が入射し、暗視モードのときは、マイクロフィルタによって、Rの画素には波長IR1の赤外光、Gの画素には波長IR2の赤外光、Bの画素には波長IR3の赤外光が入射するように構成すればよい。
また、三板式の場合、通常モードのときは、ダイクロイックプリズムによって、Rに対応する撮像素子には可視光のR成分、Gに対応する撮像素子には可視光のG成分、Bに対応する撮像素子には可視光のB成分が入射し、暗視モードのときは、ダイクロイックプリズムによって、Rに対応する撮像素子には波長IR1の赤外光、Gに対応する撮像素子には波長IR2の赤外光、Bに対応する撮像素子には波長IR3の赤外光が入射するように構成すればよい。
本実施形態においては、R画素値とG画素値とB画素値とに基づくばらつき度合いが所定のばらつき度合いよりも大きくして、R画素値とG画素値とB画素値との比が上述の比となるようなカラー映像信号を出力するようにしたが、どのような物質をどのような比とするのかは任意である。
例えば、撮像素子の性質やカラー映像信号を生成する処理方法に応じて、適宜、変更してもよい。物質の素材によって元々の色が再現しにくい場合があるが、実際に赤外光を投光しながら撮像して生成したカラー映像信号を見ながら、被写体の本来の色またはそれに準ずる色が良好に再現するように調整するのがよい。その際、R画素値とG画素値とB画素値とに基づくばらつき度合いが所定のばらつき度合いよりも大きくすると良好な色を再現可能である。
なお、本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。
例えば、調整方法は種々考えられるが、調整した結果、出力されるカラー映像信号が同様な特性を有していれば同様な効果を発揮することができる。
また、人の肌の色を重視する設定と、プラスチックの色を重視する設定とで、色ゲインや赤外光強度等の各設定を切換え可能にしてもよい。その際、人の肌の色を重視するべき状態や、プラスチックの色を重視するべき状態等を検知して、色ゲイン制御部73や色ゲイン設定部62の動作を切換えてもよい。例えば、被写体を検出する被写体検出部(図示省略)を備え、その検出結果に応じて自動で切換えてもよい。例えば、被写体の種類を検出して自動で切換えてもよい。つまり、色ゲイン設定部62がカラー映像信号の各画素値に乗ずる色ゲインを被写体に応じて変えるようにし、映像出力部6が出力するカラー映像信号における各色間の画素値の比を被写体検出部による検出結果に応じて変えるようにしてもよい。
例えば、周知のパターンマッチング技術を用いて被写体を検出する被写体検出部を備え、被写体が人物であるか否か等を検出し、自動で切換えてもよい。
例えば、被写体検出部は人物検出部や顔検出部であってもよく、顔や人物を検出した場合は、人の肌の色を重視する色ゲイン設定とし、それ以外の場合は、その他の色ゲイン設定とすればよい。また、周知のパターンマッチング技術を用いて自動車等を検出した場合は金属を重視する設定にしてもよい。
また、画面内における特定の被写体を検出した領域と、その他の領域とで色ゲインを異ならせてもよい。例えば、画面内における顔を検出した領域は人の肌の色を重視する色ゲイン設定とし、その他の領域はその他の色ゲイン設定としてもよい。少なくとも検出した被写体に対応する領域の画素において、その被写体の色を重視する設定とすればよい。
また、上記と同様に、人の肌の色を重視するべき状態や、プラスチックの色を重視するべき状態等を検知して、投光制御部71の動作を切換えてもよい。例えば、被写体を検出する被写体検出部(図示省略)を備え、その検出結果に応じて自動で切換えてもよい。例えば、被写体の種類を検出して自動で切換えてもよい。つまり、投光制御部71が各赤外光の強度を被写体に応じて変えるようにし、映像出力部6が出力するカラー映像信号における各色間の画素値の比を被写体検出部による検出結果に応じて変えるようにしてもよい。
例えば、周知のパターンマッチング技術を用いて被写体を検出する被写体検出部を備え、被写体が人物であるか否か等を検出し、自動で切換えてもよい。
例えば、被写体検出部は人物検出部や顔検出部であってもよく、顔や人物を検出した場合は、人の肌の色を重視する赤外光の強度とし、それ以外の場合は、その他の赤外光の強度とすればよい。また、周知のパターンマッチング技術を用いて自動車等を検出した場合は金属を重視する赤外光の強度にしてもよい。
また、前述のように、色ゲイン設定部62によってカラー映像信号に乗じる色ゲインを制御して、映像出力部6が出力するカラー映像信号のR画素値とG画素値とB画素値とのバランスを調整する方法と、波長IR1〜IR3の赤外光の強度を制御して、映像出力部6が出力するカラー映像信号のR画素値とG画素値とB画素値とのバランスを調整する方法とを組み合わせて、上述のR画素値とG画素値とB画素値との値のばらつき度合いや、R画素値とG画素値とB画素値との比を実現するようにしてもよい。
また、映像処理部5や映像出力部6や制御部7は、1または複数のハードウェアのプロセッサで実現することができる。また、1または複数のハードウェアのプロセッサとソフトウェアとの協働で実現することもできる。また、各実施形態や実施例、変形例等を組み合わせてもよい。