以下、一実施形態の撮像装置及び撮像装置の調整方法について、添付図面を参照して説明する。
<撮像装置の構成>
まず、図1を用いて、一実施形態の撮像装置の全体的な構成について説明する。図1に示す一実施形態の撮像装置は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
中間モードは、可視光が少ない環境下で、赤外線を投光しながら撮像する第1の赤外光投光モードである。暗視モードは、可視光がさらに少ない(ほとんどない)環境下で、赤外線を投光しながら撮像する第2の赤外光投光モードである。
撮像装置は、中間モードと暗視モードとのうちの一方のみを備えていてもよい。撮像装置は、通常モードを備えていなくてもよい。撮像装置は、少なくとも、赤外線を投光しながら撮像する赤外光投光モードを備えていればよい。
図1において、被写体から反射した一点鎖線にて示す光は、光学レンズ1によって集光される。ここで、光学レンズ1には、可視光が十分に存在する環境下では可視光、可視光がほとんどない環境下では後述する赤外線投光器9より発せられた赤外光を被写体が反射した赤外光が入射される。
可視光がわずかに存在する環境下では、光学レンズ1には、可視光と赤外線投光器9より発せられた赤外光を被写体が反射した赤外光とが混在した光が入射される。
図1では簡略化のため、光学レンズ1を1つのみとしているが、実際には、撮像装置は複数の光学レンズを備える。
光学レンズ1と撮像部3との間には、光学フィルタ2が設けられている。光学フィルタ2は、赤外線カットフィルタ21とダミーガラス22との2つの部分を有する。光学フィルタ2は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入した状態と、光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態とのいずれかの状態に駆動される。
撮像部3は、水平方向及び垂直方向に複数の受光素子(画素)が配列した撮像素子31と、それぞれの受光素子に対応して赤色(R),緑色(G),青色(B)のいずれかの色のフィルタエレメントが配置されたカラーフィルタ32とを有する。撮像素子31は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)でよい。
カラーフィルタ32には、一例として、図2に示すように、R,G,Bの各色のフィルタエレメントがベイヤ配列と称される配列で並べられている。ベイヤ配列は、R,G,Bのフィルタエレメントの所定の配列の一例である。図2において、各行のRのフィルタエレメントに挟まれたGのフィルタエレメントをGr、Bのフィルタエレメントに挟まれたGのフィルタエレメントをGbとしている。
ベイヤ配列では、RのフィルタエレメントとGrのフィルタエレメントとが交互に配置された水平方向の行と、BのフィルタエレメントとGbのフィルタエレメントとが交互に配置された水平方向の行とが、垂直方向に交互に配列されている。
図3は、撮像部3におけるR光,G光,B光の波長と相対感度との分光感度特性を示している。相対感度は、最大値が1に正規化されている。撮像装置を通常モードで動作させるとき、可視光による良好なカラー映像を撮像するには、波長700nm以上の赤外光をカットする必要がある。
そこで、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入するように光学フィルタ2を駆動する。
図3より分かるように、撮像部3は、波長700nm以上の赤外光の領域においても感度を有する。そこで、撮像装置を中間モードまたは暗視モードで動作させるときには、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間の赤外線カットフィルタ21を外してダミーガラス22を挿入するように光学フィルタ2を駆動する。
光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態では、波長700nm以上の赤外光はカットされない。よって、撮像装置は、図3に破線の楕円で囲んだ部分の感度を利用して、R,G,Bの各色情報を得ることが可能となる。ダミーガラス22を挿入するのは、光路長を、赤外線カットフィルタ21を挿入した場合の光路長と同じにするためである。
赤外線投光器9は、それぞれ、波長IR1,IR2,IR3の赤外光を投光する投光部91,92,93を有する。中間モードまたは暗視モードのとき、制御部7内の投光制御部71は、時分割で投光部91〜93より波長IR1〜IR3の赤外光を選択的に投光させるように制御する。
ところで、撮像素子31にはシリコンウェハが用いられている。図4は、R,G,Bそれぞれの色を呈する素材に白色光を照射した場合の各波長における反射率にシリコンの受光感度を乗じたときの、波長と相対検出率との関係を示している。図4においても、相対検出率は、最大値が1に正規化されている。
図4に示すように、赤外光の領域において、例えば、波長780nmにおける反射光はR色を呈する素材の反射光との相関性が高く、波長870nmにおける反射光はB色を呈する素材の反射光との相関性が高く、波長940nmにおける反射光はG色を呈する素材の反射光との相関性が高い。
そこで、本実施形態においては、投光部91,92,93が投光する赤外光の波長IR1,IR2,IR3を、780nm,940nm,870nmとする。これらの波長は、波長IR1〜IR3の一例であり、780nm,940nm,870nm以外でもよい。
投光部91が波長IR1の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をR信号に割り当てる。投光部93が波長IR2の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をG信号に割り当てる。投光部92が波長IR3の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をB信号に割り当てる。
このようにすれば、原理的に、中間モードまたは暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができる。
色味が被写体の実際の色味と異なるカラー映像となるものの、780nmの波長IR1をR光、870nmの波長IR3をG光、940nmの波長IR2をB光に割り当ててもよい。波長IR1,IR2,IR3をR光,G光,B光に任意に割り当てることも可能である。
本実施形態においては、被写体の色味を最もよく再現する、波長IR1,IR2,IR3をそれぞれR光,G光,B光に割り当てることとする。
制御部7は、撮像部3における撮像と、映像処理部5内の各部と、映像出力部6とを制御する。制御部7は、投光制御部71の他、通常モードと中間モードと暗視モードとを切り換えるモード切換部72と、後述する色ゲイン設定部62によって3原色データに乗じる色ゲインを調整して設定するよう制御する色ゲイン制御部73とを備える。
モード切換部72は、通常モードと中間モードと暗視モードとに対応させて、映像処理部5内の動作を後述のように適宜切り換える。映像処理部5と制御部7とが一体化されていてもよい。
撮像部3によって撮像された映像信号はA/D変換器4によってA/D変換され、映像処理部5に入力される。撮像部3とA/D変換器4とが一体化されていてもよい。
映像処理部5は、スイッチ51,53と、前信号処理部52と、デモザイク処理部54とを有する。スイッチ51,53は物理的なスイッチであってもよく、前信号処理部52の動作と不動作とを切り換えるための概念的なスイッチであってもよい。制御部7には、撮像している映像の明るさを検出するために、映像処理部5から映像信号が入力される。
図5に示すように、前信号処理部52は、周囲画素加算部521と、同一位置画素加算部522と、合成部523とを有する。
映像処理部5は、R,G,Bの3原色データを生成して、映像出力部6に供給する。映像出力部6は、3原色データを所定の形式で図示していない表示部等へと出力する。
映像出力部6は、R,G,B信号をそのまま出力してもよいし、R,G,B信号を輝度信号と色信号(または色差信号)に変換して出力してもよい。映像出力部6は、コンポジット映像信号を出力してもよい。映像出力部6は、デジタル信号の映像信号を出力してもよいし、D/A変換器によってアナログ信号に変換した映像信号を出力してもよい。
映像出力部6は、R,G,Bの3原色データのそれぞれに所定の色ゲインを乗じてR,G,Bのバランス(比率)を調整する色ゲイン設定部62を有する。色ゲイン設定部62は、通常モードにおける映像信号のホワイトバランスを調整するために、色ゲインを設定することができる。色ゲイン設定部62は、暗視モードにおいて、R,G,Bのバランスを調整するために、色ゲインを設定してもよい。
ここでは、色ゲイン設定部62を映像出力部6内に設けているが、映像処理部5内に設けてもよい。
以下、通常モードと中間モードと暗視モードとのそれぞれの具体的な動作について説明する。
<通常モード>
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
撮像部3によって撮像された映像信号は、A/D変換器4によってデジタル信号である映像データに変換されて、映像処理部5に入力される。通常モードでは、モード切換部72は、スイッチ51,53を端子Tbに接続するように制御する。
図6の(a)は、撮像部3の露光Ex1,Ex2,Ex3…を示している。実際には露光時間はシャッタスピード等の条件によって変化するが、ここでは露光Ex1,Ex2,Ex3は最大露光時間を示している。
図6の(b)は、それぞれの映像信号のフレームが得られるタイミングを示している。露光Ex1の前の図示していない露光に基づいて、所定時間後に映像信号のフレームF0が得られる。露光Ex1に基づいて、所定時間後に映像信号のフレームF1が得られる。露光Ex2に基づいて、所定時間後に映像信号のフレームF2が得られる。露光Ex3以降も同様である。映像信号のフレーム周波数を、例えば30フレーム/秒とする。
映像信号のフレーム周波数は、NTSC方式であれば30フレーム/秒または60フレーム/秒、PAL方式であれば25フレーム/秒または50フレーム/秒のように適宜設定すればよい。また、映像信号のフレーム周波数は、映画で使われている24フレーム/秒であってもよい。
A/D変換器4より出力された各フレームの映像データは、スイッチ51,53を介してデモザイク処理部54に入力される。デモザイク処理部54は、入力された各フレームの映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図7を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図7において、(a)は映像データの任意のフレームFmを示している。フレームFmは、有効映像期間の画素によって構成されたフレームである。映像データの画素数は、例えばVGA規格では水平640画素、垂直480画素である。ここでは簡略化のため、フレームFmの画素数を大幅に少なくして、フレームFmを概念的に示している。
ベイヤ配列の撮像部3を用いて生成された映像データは、フレームFm内で、R,G,Bの画素データが混在したデータである。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて算出したRの補間画素データRiを生成する。デモザイク処理部54は、図7の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて算出したGの補間画素データGiを生成する。デモザイク処理部54は、図7の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて算出したBの補間画素データBiを生成する。デモザイク処理部54は、図7の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmBを生成する。
デモザイク処理部54は、Rの画素データを補間する際には少なくともRの画素データを用いればよく、Gの画素データを補間する際には少なくともGの画素データを用いればよく、Bの画素データを補間する際には少なくともBの画素データを用いればよい。デモザイク処理部54は、補間精度を向上させるために、R,G,Bの画素データを補間する際に、生成しようとする補間画素データの色とは異なる他の色の画素データを用いてもよい。
撮像部3には、有効映像期間より外側の画素も存在しているため、フレームFmの上下左右端部に位置する画素においても、R,G,Bの画素データを補間することができる。
デモザイク処理部54によって生成されたRフレームFmR,GフレームFmG,BフレームFmBがR,G,Bの3原色データとして出力される。図6では、理解を容易にするため、R,G,Bの画素データをフレーム単位で説明したが、実際には、R,G,Bの画素データは画素ごとに順次出力される。
<中間モード:第1中間モード>
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
図8の(a)は、赤外線投光器9による赤外光の投光の状態を示している。制御部7は、通常モードの1フレーム期間を1/3ずつに分け、例えば投光部91,92,93の順に赤外光を投光させるように制御する。
図8の(a)に示す例では、1フレームの最初の1/3の期間では、波長IR1(780nm)の赤外光が被写体に照射される。1フレームの次の1/3の期間では、波長IR2(940nm)の赤外光が被写体に照射される。1フレームの最後の1/3の期間では、波長IR3(870nm)の赤外光が被写体に照射される。波長IR1〜IR3の赤外光を投光する順番は任意である。
図8の(b)に示すように、波長IR1の赤外光を投光しているタイミングでは、撮像部3はR光との相関性が高い露光Ex1Rが行われる。波長IR2の赤外光を投光しているタイミングでは、撮像部3はG光との相関性が高い露光Ex1Gが行われる。波長IR3の赤外光を投光しているタイミングでは、撮像部3はB光との相関性が高い露光Ex1Bが行われる。
但し、中間モードでは、可視光がわずかに存在する環境下での撮像であるため、可視光と赤外線投光器9より投光された赤外光とが混在した状態である。よって、中間モードにおいては、露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、可視光による露光と赤外光による露光とを合わせた露光となる。
図8の(c)に示すように、露光Ex1R,Ex1G,Ex1Bに基づいて、所定時間後に、露光Ex1Rに対応したフレームF1IR1、露光Ex1Gに対応したフレームF1IR2、露光Ex1Bに対応したフレームF1IR3が得られる。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、所定時間後に、露光Ex2Rに対応したフレームF2IR1、露光Ex2Gに対応したフレームF2IR2、露光Ex2Bに対応したフレームF2IR3が得られる。露光Ex3R,Ex3G,Ex3B以降も同様である。
図8の(c)の撮像信号のフレーム周波数は、90フレーム/秒である。中間モードでは、通常モードにおける映像信号の1フレームを時分割して波長IR1〜IR3の赤外光を投光するため、通常モードと同じ形式の映像信号を出力するためには、図8の(c)の撮像信号のフレーム周波数は、通常モードにおけるフレーム周波数の3倍となる。
後述するように、図8の(c)の3フレームの撮像信号に基づいて、図8の(d)に示す30フレーム/秒のフレーム周波数を有する映像信号の1フレームが生成される。例えば、フレームF1IR1,F1IR2,F1IR3に基づいてフレームF1IRが生成され、フレームF2IR1,F2IR2,F2IR3に基づいてフレームF2IRが生成される。
図8の(c)の3フレームの撮像信号に基づいて、図8の(d)の各フレームの映像信号を生成する中間モードでの動作を具体的に説明する。
A/D変換器4より出力された図8の(c)に示す撮像信号に対応する各フレームの映像データは、スイッチ51を介して前信号処理部52に入力される。
図9を用いて、前信号処理部52における前信号処理について説明する。図9の(a)は、波長IR1の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR1を示している。フレームFmIR1内のR,B,Gr,Gbの画素データには、波長IR1の赤外光を投光した状態で生成されたことを示す添え字1を付している。
図9の(b)は、波長IR2の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR2を示している。フレームFmIR2内のR,B,Gr,Gbの画素データには、波長IR2の赤外光を投光した状態で生成されたことを示す添え字2を付している。
図9の(c)は、波長IR3の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR3を示している。フレームFmIR3内のR,B,Gr,Gbの画素データには、波長IR3の赤外光を投光した状態で生成されたことを示す添え字3を付している。
図9の(a)に示すフレームFmIR1は、R光との相関性が高い波長IR1の赤外光が投光された状態で生成された映像データであるので、Rの画素データは投光された赤外光と対応した画素データであり、B,Gの画素データは投光された赤外光と対応していない画素データである。B,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(b)に示すフレームFmIR2は、G光との相関性が高い波長IR2の赤外光が投光された状態で生成された映像データであるので、Gの画素データは投光された赤外光と対応した画素データであり、R,Bの画素データは投光された赤外光と対応していない画素データである。R,Bの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(c)に示すフレームFmIR3は、B光との相関性が高い波長IR3の赤外光が投光された状態で生成された映像データであるので、Bの画素データは投光された赤外光と対応した画素データであり、R,Gの画素データは投光された赤外光と対応していない画素データである。R,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
前信号処理部52内の同一位置画素加算部522は、互いに同じ画素位置のR,Gr,Gb,Bの画素データを以下の式(1)〜(3)に従って個別に加算して、画素データR123,Gr123,Gb123,B123を生成する。中間モードでは、前信号処理部52内の周囲画素加算部521は不動作である。
R123=ka×R1+kb×R2+kc×R3 …(1)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
式(1)〜(3)において、R1,G1,B1はフレームFmIR1におけるR,G,Bの画素データ、R2,G2,B2はフレームFmIR2におけるR,G,Bの画素データ、R3,G3,B3はフレームFmIR3におけるR,G,Bの画素データである。ka〜kiは所定の係数である。式(2)におけるG123はGr123またはGb123である。
このとき、同一位置画素加算部522は、ハッチングを付していないR,Gr,Gb,Bのそれぞれの画素データに、ハッチングを付した同じ画素位置のR,Gr,Gb,Bの画素データそれぞれを加算する。
即ち、同一位置画素加算部522は、式(1)に基づいて、フレームFmIR1におけるRの画素データに、フレームFmIR2,FmIR3における同じ画素位置のRの画素データを加算して、画素データR123を生成する。つまり、受光素子における赤色のカラーフィルタに対応する領域の画素データだけを用いて赤色用の画素データR123を生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2におけるGr,Gbの画素データに、フレームFmIR1,FmIR3における同じ画素位置のGr,Gbの画素データを加算して、画素データG123を生成する。つまり、受光素子における緑色のカラーフィルタに対応する領域の画素データだけを用いて緑色用の画素データG123を生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3におけるBの画素データに、フレームFmIR1,FmIR2における同じ画素位置のBの画素データを加算して、画素データB123を生成する。つまり、受光素子における青色のカラーフィルタに対応する領域の画素データだけを用いて青色用の画素データB123を生成する。
前信号処理部52内の合成部523は、それぞれの画素位置において生成された画素データR123,Gr123,Gb123,B123に基づいて、図9の(d)に示す合成映像信号のフレームFmIR123を生成する。
具体的には、合成部523は、フレームFmIR1における画素データR123と、フレームFmIR2における画素データGr123,Gb123と、フレームFmIR3における画素データB123とを選択して合成する。これによって合成部523は、合成映像信号のフレームFmIR123を生成する。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR123,Gr123,Gb123,B123を配列させたフレームFmIR123を生成する。
第1中間モードにおいては、ハッチングを付していない画素データと、ハッチングを付した画素データとを用いて、フレームFmIR123の映像データを生成する。
同一位置画素加算部522によって互いに同じ画素位置の画素データを加算するのは、次の理由による。中間モードではわずかではあるものの可視光が存在する環境下での撮像であるため、ハッチングを付した画素データは可視光による露光に基づくそれぞれの色の成分を含む。よって、同じ画素位置の画素データを加算することによって、それぞれの色の感度を上げることができる。
可視光と赤外光とが混在している状況で可視光が比較的多ければ、可視光による露光が支配的となる。この場合、フレームFmIR123の映像データは、可視光によって露光した映像信号に基づく成分が主となる。可視光と赤外光とが混在している状況で赤外光が比較的多ければ、赤外光による露光が支配的となる。この場合、フレームFmIR123の映像データは、赤外光によって露光した映像信号に基づく成分が主となる。
可視光が比較的少ない場合には、式(1)において、係数ka,kb,kcの大小関係を、ka>kb,kcとし、式(2)において、係数kd,ke,kfの大小関係を、kf>kd,keとし、式(3)において、係数kg,kh,kiの大小関係を、kh>kg,kiとするのがよい。これは、波長IR1はR光との相関性が高く、波長IR2はG光との相関性が高く、波長IR3はB光との相関性が高いからである。
このようにすれば、Rの画素データではフレームFmIR1におけるRの画素データ、Gの画素データではフレームFmIR2におけるGの画素データ、Bの画素データではフレームFmIR3におけるBの画素データを主とすることができる。
前信号処理部52より出力されたフレームFmIR123の映像データは、スイッチ53を介してデモザイク処理部54に入力される。デモザイク処理部54は、通常モードと同様に、入力されたフレームFmIR123の映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図10を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図10の(a)は、フレームFmIR123を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123iを生成する。デモザイク処理部54は、図10の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123iを生成する。デモザイク処理部54は、図10の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123iを生成する。デモザイク処理部54は、図10の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123Bを生成する。
通常モードにおける図7に示すデモザイク処理部54の動作と、中間モードにおける図10に示すデモザイク処理部54の動作とを比較すれば分かるように、両者は実質的に同じである。デモザイク処理部54の動作は、通常モードであっても中間モードであっても変わらない。
通常モードでは前信号処理部52を不動作とし、中間モードでは、周囲画素加算部521を除き、前信号処理部52を動作させればよい。通常モードと中間モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<中間モード:第2中間モード>
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
合成部523は、フレームFmIR1におけるRの画素データであるR1と、フレームFmIR2におけるGの画素データであるGr2,Gb2と、フレームFmIR3におけるBの画素データであるB3とを選択して合成する。これによって合成部523は、図11の(d)に示す合成映像信号のフレームFmIR123’を生成する。
即ち、フレームFmIR123’は、フレームFmIR1,FmIR2,FmIR3におけるハッチングを付していないR,Gr,Gb,Bの画素データを1フレームに集結させた映像データである。
つまり、フレームFmIR123’においては、波長IR1の赤外光を投光した状態における赤色のカラーフィルタに対応する領域の画素データだけを用いた赤色用の画素データ、波長IR2の赤外光を投光した状態における緑色のカラーフィルタに対応する領域の画素データだけを用いた緑色用の画素データ、波長IR3の赤外光を投光した状態における青色のカラーフィルタに対応する領域の画素データだけを用いた青色用の画素データとなっている。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1,Gr2,Gb2,B3を配列させたフレームFmIR123’を生成する。
第2中間モードでは、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1中間モードにおける動作と同様に、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データを選択すれば、フレームFmIR123’を生成することができる。
第2中間モードにおいては、前信号処理部52は、画素データの色と同じ色の画素データを生成するための赤外光が投光された状態で生成された画素データ(ハッチングを付していない画素データ)のみ用いて、フレームFmIR123’の映像データを生成する。
第2中間モードによれば、第1中間モードよりも感度や色の再現性は低下するものの、演算処理を簡略化したり、フレームメモリを削減したりすることができる。
図12を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図12の(a)は、フレームFmIR123’を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR1iを生成する。デモザイク処理部54は、図12の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG2iを生成する。デモザイク処理部54は、図12の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB3iを生成する。デモザイク処理部54は、図12の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’Bを生成する。
以上のように、中間モードにおいては、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成し、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成し、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成する。
<暗視モード:第1暗視モード>
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モードにおける概略的な動作は、図8と同じである。但し、暗視モードでは、可視光がほとんど存在しない環境下での撮像であるため、図8の(b)における露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、赤外光のみによる露光を想定している。
可視光がほとんど存在せず赤外光のみが存在している環境下では、カラーフィルタ32におけるそれぞれのフィルタエレメントの特性には差がなくなるため、撮像部3を単色の撮像素子とみなすことができる。
そこで、前信号処理部52内の周囲画素加算部521は、暗視モードでは、赤外光の感度を向上させるために、それぞれの画素データに対して、周囲に位置する画素データを加算する。
具体的には、図13の(a)に示すように、Rの画素が注目画素であるとき、周囲画素加算部521は、注目画素のRの画素データに対して周囲に位置するG(Gr,Gb)及びBの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから赤色用の画素データを生成することとなる。図13に示す例では、各色とも注目画素を含む9画素分の領域から得た画素データを用いている。
図13の(b)に示すように、Grの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGrの画素データに対して周囲に位置するR,Gb,Bの8画素の画素データを加算する。図13の(c)に示すように、Gbの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGbの画素データに対して周囲に位置するR,Gr,Bの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから緑色用の画素データを生成することとなる。
図13の(d)に示すように、Bの画素が注目画素であるとき、周囲画素加算部521は、注目画素のBの画素データに対して周囲に位置するR及びG(Gr,Gb)の8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから青色用の画素データを生成することとなる。
周囲画素加算部521は、注目画素の画素データと周囲の8画素の画素データとの9画素を単純に加算してもよいし、周囲の8画素の画素データに対して所定の重み付けをした上で注目画素の画素データに加算してもよい。
ところで、ビニングと称される複数の画素をまとめて1つの画素として読み出し可能な撮像素子が存在する。撮像素子31として、ビニング機能を有する撮像素子を用いる場合には、周囲画素加算部521による加算処理ではなく、ビニング機能を有する撮像素子による加算処理を行ってもよい。撮像素子によるビニングは、周囲画素加算部521による加算処理と実質的に等価である。
図14の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。図14の(d)〜(f)において、R1ad,Gr1ad,Gb1ad,B1ad,R2ad,Gr2ad,Gb2ad,B2ad,R3ad,Gr3ad,Gb3ad,B3adは、それぞれ、R,Gr,Gb,Bの画素データに対して周囲の8画素の画素データを加算した加算画素データである。
周囲画素加算部521は、フレームFmIR1,FmIR2,FmIR3のそれぞれの画素データに対して図13に示す加算処理を施すことにより、図14の(d)〜(f)に示すフレームFmIR1ad,FmIR2ad,FmIR3adを生成する。
図15の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図14の(d)〜(f)のフレームFmIR1ad,FmIR2ad,FmIR3adと同じである。
同一位置画素加算部522は、第1中間モードと同様に、式(1)に基づいて、フレームFmIR1adにおけるR1adの画素データに、フレームFmIR2ad,FmIR3adにおける同じ画素位置のR2ad,R3adの画素データを加算して、画素データR123adを生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2adにおけるGr2ad,Gb2adの画素データに、フレームFmIR1ad,FmIR3adにおける同じ画素位置のGr1ad,Gb1ad,Gr3ad,Gb3adの画素データを加算して、画素データGr123ad,Gb123adを生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3adにおけるB3adの画素データに、フレームFmIR1ad,FmIR2adにおける同じ画素位置のB1ad,B2adの画素データを加算して、画素データB123adを生成する。
合成部523は、第1中間モードと同様に、フレームFmIR1adにおける画素データR123adと、フレームFmIR2adにおける画素データGr123ad,Gb123adと、フレームFmIR3adにおける画素データB123adとを選択して合成する。これによって合成部523は、図15の(d)に示す合成映像信号のフレームFmIR123adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR123ad,Gr123ad,Gb123ad,B123adを配列させたフレームFmIR123adを生成する。
図16の(a)はフレームFmIR123adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123adiを生成する。デモザイク処理部54は、図16の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123adiを生成する。デモザイク処理部54は、図16の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123adiを生成する。デモザイク処理部54は、図16の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123adBを生成する。
第1中間モードと第1暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。モード切換部72は、暗視モードのとき、周囲画素加算部521を動作させればよい。
暗視モードにおけるデモザイク処理部54の動作は、通常モード及び中間モードにおけるデモザイク処理部54の動作と実質的に同じである。通常モードと中間モードと暗視モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<暗視モード:第2暗視モード>
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)〜(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
合成部523は、フレームFmIR1adにおけるRの画素データであるR1adと、フレームFmIR2におけるGの画素データであるGr2ad,Gb2adと、フレームFmIR3におけるBの画素データであるB3adとを選択して合成する。これによって合成部523は、図17の(d)に示す合成映像信号のフレームFmIR123’adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1ad,Gr2ad,Gb2ad,B3adを配列させたフレームFmIR123’adを生成する。
なお、図13を用いて説明したように、フレームFmIR123’adにおける赤色用の画素データR1adは、中間モードのときに赤色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
また、フレームFmIR123’adにおける緑色用の画素データGr2adは、中間モードのときに緑色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
さらに、フレームFmIR123’adにおける青色用の画素データB3adは、中間モードのときに青色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
第2暗視モードでは、第2中間モードと同様に、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1暗視モードにおける動作と同様に、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データを選択すれば、フレームFmIR123’adを生成することができる。
図18を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図18の(a)は、フレームFmIR123’adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のR1adの画素データを用いて演算して、Rの補間画素データR1adiを生成する。デモザイク処理部54は、図18の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGr2ad,Gb2adの画素データを用いて演算して、Gの補間画素データG2adiを生成する。デモザイク処理部54は、補間して、図18の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のB3adの画素データを用いて算出したBの補間画素データB3adiを生成する。デモザイク処理部54は、図18の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’adBを生成する。
第2中間モードと第2暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。
また、中間モードにおいては、受光素子における各色に対応する領域から得た画素データそれぞれから各色用の画素データを生成していたが、暗視モードにおいては、周囲画素を加算するため、中間モードにおける各色用の画素データを生成するための領域それぞれよりも広い領域から得た画素データから各色用の画素データを生成するとも言える。
<モード切換の例>
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19の(a)に示すように、昼間から夕刻へと時間が経過していくに従って明るさが低下していき、時刻t3以降、ほぼ真っ暗の状態となる。図19の(a)に示す明るさは実質的に可視光の量を示しており、時刻t3以降、可視光がほとんどない状態である。
制御部7は、映像処理部5から入力される映像信号(映像データ)の輝度レベルに基づいて周囲環境の明るさを判断することができる。図19の(b)に示すように、モード切換部72は、明るさが所定の閾値Th1(第1の閾値)以上であるとき通常モードとし、明るさが閾値Th1未満で所定の閾値Th2(第2の閾値)以上であるとき中間モード、閾値Th2未満であるとき暗視モードとする。
本実施形態の撮像装置は、明るさが閾値Th1となる時刻t1までは通常モード、時刻t1から明るさが閾値Th2となる時刻t2まで中間モード、時刻t2以降は暗視モードに、モードを自動的に切り換える。図19の(b)において、中間モードは第1中間モードと第2中間モードとのいずれでもよく、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
図19の(a)では可視光がほとんどなくなる時刻t3の直前の明るさを閾値Th2としているが、時刻t3の明るさを閾値Th2としてもよい。
図19の(c)に示すように、モード切換部72は、中間モードの期間で、可視光が比較的多い時刻t1側の期間を第1中間モード、可視光が比較的少ない時刻t2側の期間を第2中間モードとしてもよい。図19の(c)において、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
本実施形態の撮像装置は、投光制御部71が赤外線投光器9のオン・オフを制御し、モード切換部72が映像処理部5内の各部の動作・不動作を切り換えることにより、それぞれのモードを実現することができる。
図20に示すように、通常モードは、赤外線投光器9がオフ、周囲画素加算部521と同一位置画素加算部522と合成部523がいずれも不動作、デモザイク処理部54が動作の状態である。
第1中間モードは、赤外線投光器9がオン、周囲画素加算部521が不動作、同一位置画素加算部522と合成部523とデモザイク処理部54とが動作の状態である。第2中間モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522とが不動作、合成部523とデモザイク処理部54とが動作の状態である。
同一位置画素加算部522における動作と不動作とは、前述のように、式(1)〜(3)の係数ka〜kiの値を適宜に設定することによって容易に切り換えることができる。
第1暗視モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522と合成部523とデモザイク処理部54との全てが動作の状態である。第2暗視モードは、赤外線投光器9がオン、同一位置画素加算部522が不動作、周囲画素加算部521と合成部523とデモザイク処理部54とが動作の状態である。
ところで、周囲画素加算部521は、注目画素の画素データに対して周囲の画素データを加算するための計算式において、周囲の画素データに乗じる係数を、0を超える係数(例えば1)とすれば、周囲画素の加算処理を動作の状態とすることができる。
また、周囲画素加算部521は、その計算式において、周囲の画素データに乗じる係数を0とすれば、周囲画素の加算処理を不動作の状態とすることができる。
周囲画素加算部521における動作と不動作も、係数の値を適宜に設定することによって容易に切り換えることができる。
<撮像装置の第1の変形例>
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
図21に示すように、明るさセンサ11によって周囲環境の明るさを検出してもよい。図21において、映像信号の輝度レベルと明るさセンサ11によって検出した明るさとの双方に基づいて、周囲環境の明るさを判断してもよい。
<撮像装置の第2の変形例>
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
図22に示すように、モード設定テーブル12には、日にちと時間帯との組み合わせに対応して、通常モードと中間モードと暗視モードとのいずれかが設定されている。制御部7内の時計74は、日にちと時刻を管理している。制御部7は、時計74が示す日にちと時刻とを参照して、モード設定テーブル12より設定されているモードを読み出す。
投光制御部71とモード切換部72は、モード設定テーブル12より読み出されたモードとなるように、撮像装置を制御する。
<撮像装置の第3の変形例>
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
<映像信号処理方法>
図24を用いて、図1に示す撮像装置で実行される映像信号処理方法を改めて説明する。
図24において、撮像装置が動作を開始すると、制御部7は、ステップS1にて、周囲環境の明るさが閾値Th1以上であるか否かを判定する。閾値Th1以上であれば(YES)、制御部7は、ステップS3にて、通常モードでの処理を実行させる。閾値Th1以上でなければ(NO)、制御部7は、ステップS2にて、周囲環境の明るさが閾値Th2以上であるか否かを判定する。
閾値Th2以上であれば(YES)、制御部7は、ステップS4にて、中間モードでの処理を実行させる。閾値Th2以上でなければ(NO)、制御部7は、ステップS5にて、暗視モードでの処理を実行させる。
制御部7は、ステップS3〜S5の後、処理をステップS1に戻し、ステップS1以降を繰り返す。
図25は、ステップS3の通常モードの具体的な処理を示す。図25において、制御部7(投光制御部71)は、ステップS31にて、赤外線投光器9をオフにする。制御部7は、ステップS32にて、赤外線カットフィルタ21を挿入する。制御部7(モード切換部72)は、ステップS33にて、スイッチ51,53を端子Tbに接続させる。ステップS31〜S33の順番は任意であり、同時であってもよい。
制御部7は、ステップS34にて、撮像部3によって被写体を撮像させる。制御部7は、ステップS35にて、撮像部3が被写体を撮像することよって生成した映像信号を構成するフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
図26は、ステップS4の中間モードの具体的な処理を示す。図26において、制御部7(投光制御部71)は、ステップS41にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS42にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS43にて、スイッチ51,53を端子Taに接続させる。ステップS41〜S43の順番は任意であり、同時であってもよい。
制御部7は、ステップS44にて、撮像部3によって被写体を撮像させる。撮像部3は、Rに対応付けられた波長IR1の赤外光と、Gに対応付けられた波長IR2の赤外光と、Bに対応付けられた波長IR3の赤外光とがそれぞれ投光されている状態で被写体を撮像する。
制御部7(モード切換部72)は、ステップS45にて、周囲画素加算部521を不動作とし、合成部523を動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
波長IR1,IR2,IR3の赤外光がそれぞれ投光されている状態で撮像部3が被写体を撮像することよって生成された映像信号を構成するフレームを第1のフレーム,第2のフレーム,第3のフレームとする。
合成部523は、第1のフレーム内のRの画素データと、第2のフレーム内のGの画素データと、第3のフレーム内のBの画素データとに基づく3原色の画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させる。合成部523は、このようにして第1〜第3のフレームを1フレームに合成した合成映像信号を生成する。
制御部7は、ステップS46にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
デモザイク処理部54は、合成映像信号のフレームに基づいて、Rのフレームと、Gのフレームと、Bのフレームとを生成するデモザイク処理を施して、デモザイク処理された3原色のフレームを順次生成する。
デモザイク処理部54は、Rの画素データが存在しない画素位置にRの画素データを補間することによって、Rのフレームを生成することができる。デモザイク処理部54は、Gの画素データが存在しない画素位置にGの画素データを補間することによって、Gのフレームを生成することができる。デモザイク処理部54は、Bの画素データが存在しない画素位置にBの画素データを補間することによって、Bのフレームを生成することができる。
第1中間モードとする場合には、ステップS45にて、同一位置画素加算部522を動作させ、第2中間モードとする場合には、ステップS45にて、同一位置画素加算部522を不動作とすればよい。
図27は、ステップS5の暗視モードの具体的な処理を示す。図27において、制御部7(投光制御部71)は、ステップS51にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS52にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS53にて、スイッチ51,53を端子Taに接続させる。ステップS51〜S53の順番は任意であり、同時であってもよい。
制御部7は、ステップS54にて、撮像部3によって被写体を撮像させる。制御部7(モード切換部72)は、ステップS55にて、周囲画素加算部521と合成部523とを動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
制御部7は、ステップS56にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
第1暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を動作させ、第2暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を不動作とすればよい。
<映像信号処理プログラム>
図1において、制御部7、または、映像処理部5と制御部7とが一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した本実施形態の撮像装置と同様の動作を実現させることも可能である。
図28を用いて、図24のステップS4である中間モードにおける制御を映像信号処理プログラムで構成した場合にコンピュータに実行させる手順の例を説明する。図28は、映像信号処理プログラムがコンピュータに実行させる処理を示す。
図28において、映像信号処理プログラムは、ステップS401にて、コンピュータに、R,G,Bに対応付けられた波長IR1,IR2,IR3の赤外光をそれぞれ投光するように赤外線投光器9を制御するステップを実行させる。
ステップS401に示すステップを映像信号処理プログラムの外部にて実行させてもよい。図28では、ダミーガラス22を挿入させるステップを省略している。ダミーガラス22を挿入させるステップも映像信号処理プログラムの外部にて実行させてもよい。
映像信号処理プログラムは、ステップS402にて、コンピュータに、波長IR1の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第1のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS403にて、コンピュータに、波長IR2の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第2のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS404にて、コンピュータに、波長IR3の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第3のフレームを構成する画素データを取得するステップを実行させる。ステップS402〜S404の順番は任意である。
映像信号処理プログラムは、ステップS405にて、コンピュータに、R,G,Bの画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させて、1フレームに合成した合成映像信号を生成するステップを実行させる。
中間モードでは、映像信号処理プログラムは、ステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させない。
映像信号処理プログラムは、ステップS406にて、コンピュータに、合成映像信号のフレームにデモザイク処理を施して、R,G,Bのフレームを生成するステップを実行させる。
図示は省略するが、図24のステップS5である暗視モードにおける制御を映像信号処理プログラムで構成する場合には、図28のステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させればよい。
映像信号処理プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコンピュータプログラムであってよい。映像信号処理プログラムが記録媒体に記録された状態で提供されてもよいし、映像信号処理プログラムをコンピュータにダウンロードさせるよう、インターネット等のネットワークを介して提供されてもよい。コンピュータで読み取り可能な記録媒体は、CD−ROM,DVD−ROM等の非一時的な任意の記録媒体でよい。
<暗視モードにおける色の調整について>
ここで、暗視モードにおいて、映像信号の色をどのように調整すれば色再現性のよい映像信号が得られるのかについて考察する。
まず、通常モードにおいて、映像信号の色をどのような調整方法で調整するのかを説明する。通常モードでは、可視光がある環境下で被写体を撮像する通常の撮像装置において確立されている一般的な調整方法を採用すればよい。
通常モードにおける調整時には、撮像装置は、基準光源下で基準となる無彩色の物体を撮像したときに出力される映像信号が白となるように調整される。基準光源は、例えば、色温度3100Kのハロゲンランプである。基準となる無彩色の物体としては、一般的に標準白色板が用いられる。
標準白色板としては、例えば、Labsphere, Inc.,製の商品名“SRT-99-050 Reflectance Target”を用いることができる。標準白色板は複数の会社から提供されており、いずれの会社の製品であってもよい。標準白色板は、可視光域から近赤外域までほぼ一定の反射率を有する。なお、上記の製品は、250nm〜2500nmの波長帯域で90%以上の反射率を有する。
色ゲイン制御部73は、基準光源下で標準白色板を撮像したときに出力される映像信号が白となるように、色ゲイン設定部62がR,G,Bの3原色データに乗じる色ゲインを制御する。即ち、色ゲイン制御部73は、色ゲイン設定部62を制御して映像出力部6より出力される映像信号のホワイトバランスを調整する。
映像出力部6より出力されるR,G,Bの映像信号の比率は、R:G:B=x:y:zと表される。通常モードにおいて、基準光源下で標準白色板を撮像したとき、R:G:B=1:1:1とすることによって、ホワイトバランスが調整される。
Gに対する色ゲインを固定し、R,Bに対する色ゲインを変化させてホワイトバランスを調整することもある。この場合、R/G=1.0、B/G=1.0とすることによって、ホワイトバランスが調整される。
本実施形態の撮像装置は、通常モードの調整時に、以上のようにして、映像出力部6より出力される映像信号のホワイトバランスが調整されている。通常モードでは、ホワイトバランスが調整されることによって、結果として、映像信号の各色が調整されることになる。
次に、暗視モードにおいて、色再現性のよい映像信号を得るために、映像出力部6より出力される映像信号をどのように調整すべきかについて説明する。
暗視モードにおいては、前述のように、波長IR1,IR2,IR3の赤外光を被写体に照射したときに得られる映像信号をそれぞれR信号,G信号,B信号に割り当てている。原理的に、暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができるものの、全く同じ色を再現できるわけではない。しかも、再現可能な色は限定的である。
そこで、本実施形態においては、暗視モードのときに特定の色再現性を重視して映像信号の色を調整することとする。特定の色の第1の例は人の肌の色、特定の色の第2の例は着色されたプラスチックの色である。人の肌の色とは、一般的な日本人の肌の色を例とする。プラスチックの色は、例えば、赤,緑,青を含む。プラスチックの色は、1色であってもよい。
暗視モードにおける調整時には、基準光源の代わりに赤外線投光器9によって波長IR1〜IR3の赤外光を投光する。赤外線投光器9は、波長IR1〜IR3の赤外光を前述のように選択的に投光してもよいし、波長IR1〜IR3の全てを同時に投光してもよい。
本発明者による実験の結果、人の肌の色を重視して映像信号の色を調整する場合、R/G=0.66程度、B/G=1.46程度とすることによって、人の肌の色がよく再現されることが確かめられた。また、プラスチックの複数の色を重視して映像信号の色を調整する場合、R/G=1.35程度、B/G=2.04程度とすることによって、プラスチックの色がよく再現されることが確かめられた。
プラスチックの複数の色を重視する場合、赤,緑,青等の色が全体として最も色再現性よく表現される場合のR/G及びB/Gの値を選択すればよい。複数の色のうちの特定の色の再現性を重視する場合には、その特定の色が色再現性よく表現される場合のR/G及びB/Gの値を選択すればよい。
暗視モードにおける調整時に、色ゲイン制御部73が、色ゲイン設定部62によって、R,G,Bの映像信号に乗じる色ゲインを制御することによって、上記のR/G及びB/Gの値とすることができる。
このようにすると、通常モードにおいてホワイトバランスを調整した色ゲインと、暗視モードにおいて特定の色を再現するために調整する色ゲインとが異なることになる。色ゲイン制御部73は、モード切換部72が通常モードと暗視モードとを切り換えるのに対応して、色ゲイン設定部62が映像信号に乗じる色ゲインを切り換えるよう制御する。
他の方法として次のようにしてもよい。色ゲイン設定部62が映像信号に乗じる色ゲインを通常モードにおいてホワイトバランスを調整した色ゲインのままで一定とする。赤外線投光器9が波長IR1〜IR3の赤外光を投光するときのそれぞれの強度を調整することによって、上記のR/G及びB/Gの値とすることができる。
このようにすると、色ゲイン制御部73は、通常モードと暗視モードとにかかわらず、色ゲイン設定部62が映像信号に乗じる色ゲインを一定とすればよい。よって、波長IR1〜IR3の赤外光の強度を調整して、映像信号のR,G,Bのバランスを調整する方が好ましい。
色ゲイン設定部62によってR,G,Bの映像信号に乗じる色ゲインを制御して、映像信号のR,G,Bのバランスを調整する方法と、波長IR1〜IR3の赤外光の強度を調整して、映像信号のR,G,Bのバランスを調整する方法とを組み合わせてもよい。
図29〜図32を用いて、以上説明した通常モード及び暗視モードにおける映像信号の色の調整をさらに詳細に説明する。
図29〜図31は、NTSCのベクトルスコープを概略的に示している。横軸は色差信号B−Y、縦軸はR−Yである。Yは輝度信号である。ベクトルスコープが示す円の周方向は色相を示している。R,G,Bと、黄色(Ye),マゼンタ(Mg),シアン(Cy)はハッチングを付した丸で示す位置で表現される。
通常モードにおいて上記のようにホワイトバランスを調整すると、白は、図29に白丸で示すように、ベクトルスコープの円の中心に位置する。
暗視モードにおいて上記のようにR,G,BのバランスがR/G=0.66、B/G=1.46となるように調整すると、円の中心に位置していた白は、図30にクロスハッチングを付した丸で示す位置へと移動する。通常モードにおける白が、図30にクロスハッチングを付した丸で示す位置へと移動した状態における各色ゲインまたは各赤外光の強度で、人の肌の色が色再現性よく再現される。
暗視モードにおいて上記のようにR,G,BのバランスがR/G=1.35、B/G=2.04となるように調整すると、円の中心に位置していた白は、図31にクロスハッチングを付した丸で示す位置へと移動する。通常モードにおける白が、図31にクロスハッチングを付した丸で示す位置へと移動した状態における各色ゲインまたは各赤外光の強度で、プラスチックの色が色再現性よく再現される。
図32は、通常モードにおけるR/G及びB/Gの値が、暗視モードにおいてどのように変化するかを示している。通常モードでは、黒丸で示すように、R/G=1.0、B/G=1.0である。
暗視モードにおいて人の肌の色を重視する場合には、R/G=0.66、B/G=1.46であるので、黒丸は黒の四角の位置へと移動する。即ち、通常モードにおける白が暗視モードおいて人の肌の色に割り当てられる。
暗視モードにおいてプラスチックの色を重視する場合には、R/G=1.35、B/G=2.04であるので、黒丸は黒の三角の位置へと移動する。即ち、通常モードにおける白が暗視モードにおいて特定の色に割り当てられる。
以上説明した本実施形態の撮像装置をまとめると次のとおりである。通常モードでは、調整時に、白を決めるための基準となる無彩色の物体(例えば、標準白色板)に基準光源からの光を照射した状態とする。色ゲイン制御部73は、その物体を撮像したときに、映像処理部5によって生成される3原色映像信号(カラー映像信号)が白となるような色ゲインを赤,緑,青の各色の映像信号に乗じるよう、色ゲイン設定部62を制御する。
暗視モードでは、調整時に、無彩色の物体に赤外線投光器9からの波長IR1〜IR3の赤外光を照射した状態とする。撮像部3がその物体を撮像したときに、映像処理部5によって生成される3原色映像信号が白以外の特定の色を再現するように、3原色映像信号における各色の映像信号のバランスを調整する。
各色の映像信号のバランスは、色ゲイン設定部62が各色の映像信号に乗じる色ゲインを適宜設定することによって調整してもよいし、赤外線投光器9が投光する波長IR1〜IR3の赤外光の強度を適宜設定することによって調整してもよい。
以上説明した本実施形態の撮像装置の調整方法をまとめると次のとおりである。撮像部3によって、白を決めるための基準となる無彩色の物体に基準光源からの光を照射した状態で、その物体を撮像して第1の撮像信号を生成する。映像処理部5は、第1の撮像信号に基づいてR,G,Bの第1の3原色映像信号を生成する。
色ゲイン制御部73は、第1の3原色映像信号が白となるような、R,G,Bの各色の映像信号に乗じる色ゲインを決定する。以上で通常モードにおける調整が完了する。
上記と同じ物体に波長IR1〜IR3の赤外光を照射した状態で、撮像部3によってその物体を撮像して第2の撮像信号を生成する。映像処理部5は、第2の撮像信号に基づいてR,G,Bの第2の3原色映像信号を生成する。撮像装置は、第2の3原色映像信号が白以外の特定の色を再現するように、3原色映像信号における各色の映像信号のバランスを調整する。以上で暗視モードにおける調整が完了する。
本実施形態の撮像装置及び撮像装置の調整方法によれば、暗視モードにおいて色再現性のよい映像信号を得ることができる。
ところで、本実施形態の撮像装置においては、暗視モードでの撮像時に、波長IR1〜IR3の赤外光を時分割で選択的に投光する構成を示したが、波長IR1〜IR3の赤外光を同時に投光する構成であってもよい。
例えば、撮像部3が単板式であればマイクロフィルタを用い、撮像部3が三板式であればダイクロイックプリズムを用いることにより、波長IR1〜IR3の赤外光を同時に投光する構成とすることができる。
マイクロフィルタまたはダイクロイックプリズムによって、Rの画素には可視光のR成分または波長IR1の赤外光、Gの画素には可視光のG成分または波長IR2の赤外光、Bの画素には可視光のB分または波長IR3の赤外光が入射するように構成すればよい。
本実施形態においては、特定の色を人の肌の色または着色されたプラスチックの色としたが、どのような物質のどのような色を特定の色とするのかは任意である。勿論、物質の素材によって元々の色が再現しにくい場合がある。元々の色またはそれに準ずる色が再現可能な色を特定の色とするのがよい。
このように、本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。