JP2015149585A - 撮像装置及び撮像装置の制御方法 - Google Patents
撮像装置及び撮像装置の制御方法 Download PDFInfo
- Publication number
- JP2015149585A JP2015149585A JP2014021004A JP2014021004A JP2015149585A JP 2015149585 A JP2015149585 A JP 2015149585A JP 2014021004 A JP2014021004 A JP 2014021004A JP 2014021004 A JP2014021004 A JP 2014021004A JP 2015149585 A JP2015149585 A JP 2015149585A
- Authority
- JP
- Japan
- Prior art keywords
- imaging device
- infrared
- imaging
- unit
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Camera Bodies And Camera Details Or Accessories (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
【課題】自己の撮像装置以外に、他の撮像装置が存在する場合でも好ましい映像を撮像することができる撮像装置を提供する。
【解決手段】自己の撮像装置101をマスタ、他の撮像装置101をスレーブとする。スレーブの撮像装置101がタイミング調整モードに設定されているとき、投光制御部71は波長IR1〜IR3の赤外光を無投光とするよう赤外線投光器9を制御する。撮像部3は、マスタの撮像装置101が備える投光制御部71によって制御される赤外線投光器9が波長IR1〜IR3の赤外光のうちの1つの赤外光を3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像する。スレーブの撮像装置101の投光制御部71は、輝度レベル判定部75が判定したR,G,Bの映像信号の輝度レベルに基づいて、赤外光を投光させるタイミングを調整する。
【選択図】図1
【解決手段】自己の撮像装置101をマスタ、他の撮像装置101をスレーブとする。スレーブの撮像装置101がタイミング調整モードに設定されているとき、投光制御部71は波長IR1〜IR3の赤外光を無投光とするよう赤外線投光器9を制御する。撮像部3は、マスタの撮像装置101が備える投光制御部71によって制御される赤外線投光器9が波長IR1〜IR3の赤外光のうちの1つの赤外光を3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像する。スレーブの撮像装置101の投光制御部71は、輝度レベル判定部75が判定したR,G,Bの映像信号の輝度レベルに基づいて、赤外光を投光させるタイミングを調整する。
【選択図】図1
Description
本発明は、撮像装置及び撮像装置の制御方法に関する。
従来、例えば夜間等の可視光がほとんどない環境下において被写体を撮像するために、赤外線投光器によって被写体に赤外光を照射し、被写体から反射した赤外光を撮像する方法が用いられている。この方法は、可視光を照射するライトを用いることができない場合に有効な撮像方法である。
しかしながら、この撮像方法によって被写体を撮像した映像は、モノクロ映像となる。モノクロ映像では物体の識別が困難となることがある。可視光がない環境下でもカラー映像を撮像することができれば、物体の識別性を向上させることができる。例えば監視カメラでは、物体の識別性を向上させるために、可視光がない環境下でもカラー映像を撮像することが望まれる。
特許文献1には、可視光がない環境下でもカラー映像を撮像することができる撮像装置が記載されている。特許文献1に記載されている撮像装置においても、赤外線投光器が用いられる。監視カメラに特許文献1に記載の技術を搭載すれば、被写体をカラー映像化して物体の識別性を向上させることが可能となる。
特許文献1に記載されている撮像装置は、赤外線投光器によって3つの波長の赤外光を順次投光して被写体を撮像する。
監視システム(撮像システム)では複数の監視カメラを用いて、監視対象の被写体を撮像することがある。特許文献1に記載されている撮像装置を複数の監視カメラそれぞれに用いて、監視システムを構成することが考えられる。
複数の撮像装置が個々に赤外光を投光すると異なる波長の赤外光が混ざってしまい、好ましい色再現が可能なカラー映像を撮像することができない。
本発明は、赤外光を投光して被写体を撮像する自己の撮像装置以外に、赤外光を投光して被写体を撮像する他の撮像装置が存在する場合でも好ましい映像を撮像することができる撮像装置及び撮像装置の制御方法を提供することを目的とする。
本発明は、上述した従来の技術の課題を解決するため、撮像装置であり、赤色に対応付けられた第1の波長を有する第1の赤外光と、緑色に対応付けられた第2の波長を有する第2の赤外光と、青色に対応付けられた第3の波長を有する第3の赤外光とを、所定の期間を3分割した3つの分割期間で選択的に投光させるそれぞれの期間の長さと順番とを制御するよう、第1の赤外線投光器を制御する第1の投光制御部と、前記第1〜第3の赤外光が選択的に投光されている状態で被写体を撮像する撮像部と、前記撮像部によって撮像された撮像信号に基づいて赤色と緑色と青色それぞれの映像信号を生成する映像処理部と、前記映像処理部が生成した赤色と緑色と青色の映像信号の輝度レベルを判定する輝度レベル判定部とを備え、前記撮像装置が、前記第1の投光制御部が前記第1の赤外線投光器によって前記第1〜第3の赤外光を投光させるタイミングを調整するためのタイミング調整モードに設定されているとき、前記第1の投光制御部は、前記第1〜第3の赤外光を無投光とするよう前記第1の赤外線投光器を制御し、前記撮像部は、前記撮像装置以外の他の撮像装置が備える第2の投光制御部によって制御される第2の赤外線投光器が前記第1〜第3の赤外光のうちの1つの赤外光を前記3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像するか、前記第2の赤外線投光器が前記第1〜第3の赤外光を投光して、赤外線カットフィルタを介した状態で被写体を撮像し、前記第1の投光制御部は、前記輝度レベル判定部が判定した赤色と緑色と青色の映像信号の輝度レベルに基づいて、前記第1〜第3の赤外光を投光させるタイミングを調整することを特徴とする撮像装置を提供する。
また、本発明は、上述した従来の技術の課題を解決するため、複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法であり、前記複数の撮像装置を共通の基準クロックで動作させ、前記複数の撮像装置のうちの1つの撮像装置をマスタの撮像装置とし、前記マスタの撮像装置以外をスレーブの撮像装置とし、前記マスタの撮像装置が備える第1の投光制御部が第1の赤外線投光器を制御して、赤色に対応付けられた第1の波長を有する第1の赤外光と、緑色に対応付けられた第2の波長を有する第2の赤外光と、青色に対応付けられた第3の波長を有する第3の赤外光とのうちの1つの赤外光を、所定の期間を3分割した3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とするか、前記第1〜第3の赤外光を前記3つの分割期間でそれぞれ投光させ、前記スレーブの撮像装置が備える第2の投光制御部が前記第1〜第3の赤外光を無投光とするよう第2の赤外線投光器を制御し、前記スレーブの撮像装置が備える撮像部が、前記1つの赤外光が投光されている状態か、前記第1〜第3の赤外光を、赤外線カットフィルタを介した状態で被写体を撮像し、前記スレーブの撮像装置が備える輝度レベル判定部が、前記撮像部によって撮像された撮像信号に基づいて生成された赤色と緑色と青色それぞれの映像信号の輝度レベルを判定し、前記第2の投光制御部が、前記輝度レベル判定部が判定した赤色と緑色と青色の映像信号の輝度レベルに基づいて、前記第2の赤外線投光器によって前記第1〜第3の赤外光を投光させるタイミングを調整することを特徴とする撮像装置の制御方法を提供する。
本発明の撮像装置及び撮像装置の制御方法によれば、赤外光を投光して被写体を撮像する自己の撮像装置以外に、赤外光を投光して被写体を撮像する他の撮像装置が存在する場合でも好ましい映像を撮像することができる。
以下、各実施形態の撮像装置及び撮像装置の制御方法について、添付図面を参照して説明する。
<第1実施形態の撮像装置の構成>
まず、図1を用いて、第1実施形態の撮像装置101の全体的な構成について説明する。図1に示す第1実施形態の撮像装置101は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
まず、図1を用いて、第1実施形態の撮像装置101の全体的な構成について説明する。図1に示す第1実施形態の撮像装置101は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
暗視モードと中間モードとはいずれも可視光が少ない環境下で、赤外線を投光しながら撮像する赤外光投光モードである。赤外光投光モードは暗視モードのみであってもよい。本実施形態では、好ましい構成として、中間モードを含む3つのモードで撮像可能な撮像装置を例とする。
図1において、被写体から反射した一点鎖線にて示す光は、光学レンズ1によって集光される。ここで、光学レンズ1には、可視光が十分に存在する環境下では可視光、可視光がほとんどない環境下では後述する赤外線投光器9より発せられた赤外光を被写体が反射した赤外光が入射される。
可視光がわずかに存在する環境下では、光学レンズ1には、可視光と赤外線投光器9より発せられた赤外光を被写体が反射した赤外光とが混在した光が入射される。
図1では簡略化のため、光学レンズ1を1つのみとしているが、実際には、撮像装置101は複数の光学レンズを備える。
光学レンズ1と撮像部3との間には、光学フィルタ2が設けられている。光学フィルタ2は、赤外線カットフィルタ21とダミーガラス22との2つの部分を有する。光学フィルタ2は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入した状態と、光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態とのいずれかの状態に駆動される。
撮像部3は、水平方向及び垂直方向に複数の受光素子(画素)が配列した撮像素子31と、それぞれの受光素子に対応して赤色(R),緑色(G),青色(B)のいずれかの色のフィルタエレメントが配置されたカラーフィルタ32とを有する。撮像素子31は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)でよい。
カラーフィルタ32には、一例として、図2に示すように、R,G,Bのフィルタエレメントがベイヤ配列と称される配列で並べられている。ベイヤ配列は、R,G,Bのフィルタエレメントの所定の配列の一例である。図2において、各行のRのフィルタエレメントに挟まれたGのフィルタエレメントをGr、Bのフィルタエレメントに挟まれたGのフィルタエレメントをGbとしている。
ベイヤ配列では、RのフィルタエレメントとGrのフィルタエレメントとが交互に配置された水平方向の行と、BのフィルタエレメントとGbのフィルタエレメントとが交互に配置された水平方向の行とが、垂直方向に交互に配列されている。
図3は、撮像部3におけるR光,G光,B光の波長と相対感度との分光感度特性を示している。相対感度は、最大値が1に正規化されている。撮像装置101を通常モードで動作させるとき、可視光による良好なカラー映像を撮像するには、波長700nm以上の赤外光をカットする必要がある。
そこで、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入するように光学フィルタ2を駆動する。
図3より分かるように、撮像部3は、波長700nm以上の赤外光の領域においても感度を有する。そこで、撮像装置101を中間モードまたは暗視モードで動作させるときには、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間の赤外線カットフィルタ21を外してダミーガラス22を挿入するように光学フィルタ2を駆動する。
光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態では、波長700nm以上の赤外光はカットされない。よって、撮像装置101は、図3に破線の楕円で囲んだ部分の感度を利用して、R,G,Bの各色情報を得ることが可能となる。ダミーガラス22を挿入するのは、光路長を、赤外線カットフィルタ21を挿入した場合の光路長と同じにするためである。
赤外線投光器9は、それぞれ、波長IR1,IR2,IR3の赤外光を投光する投光部91,92,93を有する。中間モードまたは暗視モードのとき、制御部7内の投光制御部71は、時分割で投光部91〜93より波長IR1〜IR3の赤外光を選択的に投光させるように制御する。
ところで、撮像素子31にはシリコンウェハが用いられている。図4は、R,G,Bそれぞれの色を呈する素材に白色光を照射した場合の各波長における反射率にシリコンの受光感度を乗じたときの、波長と相対検出率との関係を示している。図4においても、相対検出率は、最大値が1に正規化されている。
図4に示すように、赤外光の領域において、例えば、波長780nmにおける反射光はR色を呈する素材の反射光との相関性が高く、波長870nmにおける反射光はB色を呈する素材の反射光との相関性が高く、波長940nmにおける反射光はG色を呈する素材の反射光との相関性が高い。
そこで、本実施形態においては、投光部91,92,93が投光する赤外光の波長IR1,IR2,IR3を、780nm,940nm,870nmとする。これらの波長は、波長IR1〜IR3の一例であり、780nm,940nm,870nm以外でもよい。
投光部91が波長IR1の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をR信号に割り当てる。投光部93が波長IR2の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をG信号に割り当てる。投光部92が波長IR3の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をB信号に割り当てる。
このようにすれば、原理的に、中間モードまたは暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができる。
色味が被写体の実際の色味と異なるカラー映像となるものの、780nmの波長IR1をR光、870nmの波長IR3をG光、940nmの波長IR2をB光に割り当ててもよい。波長IR1,IR2,IR3をR光,G光,B光に任意に割り当てることも可能である。
本実施形態においては、被写体の色味を最もよく再現する、波長IR1,IR2,IR3をそれぞれR光,G光,B光に割り当てることとする。
制御部7は、撮像部3における撮像と、映像処理部5内の各部とを制御する。撮像部3によって撮像された撮像信号はA/D変換器4によってA/D変換され、映像処理部5に入力される。撮像部3とA/D変換器4とが一体化されていてもよい。映像処理部5と制御部7とが一体化されていてもよい。
制御部7は、通常モードと中間モードと暗視モードとを切り換えるモード切換部72を備える。モード切換部72は、通常モードと中間モードと暗視モードとに対応させて、映像処理部5内の動作を後述のように適宜切り換える。モード切換部72は、赤外線投光器9によって波長IR1,IR2,IR3の赤外光を投光するタイミングを調整するタイミング調整モードに切り換えることができる。
また、制御部7は、1台の撮像装置101と他の撮像装置101とを含んで撮像システムを構成する場合に、撮像装置101をマスタの撮像装置とするか、スレーブの撮像装置とするかを設定するマスタ/スレーブ設定部74を備える。
マスタ/スレーブ設定部74は、機械的なスイッチによってマスタとスレーブとを選択して、選択されたマスタまたはスレーブの設定状態を保持してもよい。マスタ/スレーブ設定部74は、メニューによってマスタとスレーブとを選択して、選択されたマスタまたはスレーブの設定状態を保持してもよい。
さらに、制御部7は、撮像装置101の赤外線投光器9と他の撮像装置101が備える赤外線投光器とが、波長IR1,IR2,IR3の赤外光を投光するタイミング(位相)を同期させるための構成を備える。具体的には、制御部7は、輝度レベル判定部75と、同期信号送信部76tと、同期信号受信部76rとを備える。
撮像装置101がマスタの撮像装置として設定されているとき、同期信号送信部76tは基準クロックを基準とした同期信号Ssyncを他の撮像装置101へと送出する。同期信号Ssyncは、例えば、この撮像装置101における赤外光が投光されるタイミングに基づく信号である。なお、このとき、同期信号受信部76rは不動作である。
撮像装置101がスレーブの撮像装置として設定されているとき、同期信号受信部76rは、マスタである他の撮像装置101が送出した同期信号Ssyncを受信する。このとき、同期信号送信部76tは不動作である。また、同期信号Ssyncは、マスタの撮像装置から直接受信しなくてもよく、その他の装置を介して受信してもよい。
輝度レベル判定部75と、同期信号送信部76t及び同期信号受信部76rの具体的な動作については後述する。
映像処理部5は、スイッチ51,53と、前信号処理部52と、デモザイク処理部54とを有する。スイッチ51,53は物理的なスイッチであってもよく、前信号処理部52の動作と不動作とを切り換えるための概念的なスイッチであってもよい。制御部7には、撮像している映像の明るさを検出するために、映像処理部5から映像信号が入力される。
図5に示すように、前信号処理部52は、周囲画素加算部521と、同一位置画素加算部522と、合成部523とを有する。
映像処理部5は、R,G,Bの3原色データを生成して、映像出力部6に供給する。映像出力部6は、3原色データを所定の形式で図示していない表示部等へと出力する。
映像出力部6は、R,G,B信号をそのまま出力してもよいし、R,G,B信号を輝度信号と色信号(または色差信号)に変換して出力してもよい。映像出力部6は、コンポジット映像信号を出力してもよい。映像出力部6は、デジタル信号の映像信号を出力してもよいし、D/A変換器によってアナログ信号に変換した映像信号を出力してもよい。
以下、通常モードと中間モードと暗視モードとのそれぞれの具体的な動作について説明する。
<通常モード>
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
撮像部3によって撮像された撮像信号は、A/D変換器4によってデジタル信号である映像データに変換されて、映像処理部5に入力される。通常モードでは、モード切換部72は、スイッチ51,53を端子Tbに接続するように制御する。
図6の(a)は、撮像部3の露光Ex1,Ex2,Ex3…を示している。実際には露光時間はシャッタスピード等の条件によって変化するが、ここでは露光Ex1,Ex2,Ex3は最大露光時間を示している。
図6の(b)は、それぞれの映像信号のフレームが得られるタイミングを示している。露光Ex1の前の図示していない露光に基づいて、所定時間後に映像信号のフレームF0が得られる。露光Ex1に基づいて、所定時間後に映像信号のフレームF1が得られる。露光Ex2に基づいて、所定時間後に映像信号のフレームF2が得られる。露光Ex3以降も同様である。映像信号のフレーム周波数を、例えば30フレーム/秒とする。
映像信号のフレーム周波数は、NTSC方式であれば30フレーム/秒または60フレーム/秒、PAL方式であれば25フレーム/秒または50フレーム/秒のように適宜設定すればよい。また、映像信号のフレーム周波数は、映画で使われている24フレーム/秒であってもよい。
A/D変換器4より出力された各フレームの映像データは、スイッチ51,53を介してデモザイク処理部54に入力される。デモザイク処理部54は、入力された各フレームの映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図7を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図7において、(a)は映像データの任意のフレームFmを示している。フレームFmは、有効映像期間の画素によって構成されたフレームである。映像データの画素数は、例えばVGA規格では水平640画素、垂直480画素である。ここでは簡略化のため、フレームFmの画素数を大幅に少なくして、フレームFmを概念的に示している。
ベイヤ配列の撮像部3を用いて生成された映像データは、フレームFm内で、R,G,Bの画素データが混在したデータである。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて算出したRの補間画素データRiを生成する。デモザイク処理部54は、図7の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて算出したGの補間画素データGiを生成する。デモザイク処理部54は、図7の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて算出したBの補間画素データBiを生成する。デモザイク処理部54は、図7の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmBを生成する。
デモザイク処理部54は、Rの画素データを補間する際には少なくともRの画素データを用いればよく、Gの画素データを補間する際には少なくともGの画素データを用いればよく、Bの画素データを補間する際には少なくともBの画素データを用いればよい。デモザイク処理部54は、補間精度を向上させるために、R,G,Bの画素データを補間する際に、生成しようとする補間画素データの色とは異なる他の色の画素データを用いてもよい。
撮像部3には、有効映像期間より外側の画素も存在しているため、フレームFmの上下左右端部に位置する画素においても、R,G,Bの画素データを補間することができる。
デモザイク処理部54によって生成されたRフレームFmR,GフレームFmG,BフレームFmBがR,G,Bの3原色データとして出力される。図7では、理解を容易にするため、R,G,Bの画素データをフレーム単位で説明したが、実際には、R,G,Bの画素データは画素ごとに順次出力される。
<中間モード:第1中間モード>
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
図8の(a)は、赤外線投光器9による赤外光の投光の状態を示している。制御部7は、通常モードの1フレーム期間を1/3ずつに分け、例えば投光部91,92,93の順に赤外光を投光させるように制御する。
図8の(a)に示す例では、1フレームの最初の1/3の期間では、波長IR1(780nm)の赤外光が被写体に照射される。1フレームの次の1/3の期間では、波長IR2(940nm)の赤外光が被写体に照射される。1フレームの最後の1/3の期間では、波長IR3(870nm)の赤外光が被写体に照射される。波長IR1〜IR3の赤外光を投光する順番は任意である。
図8の(b)に示すように、波長IR1の赤外光を投光しているタイミングでは、撮像部3はR光との相関性が高い露光Ex1Rが行われる。波長IR2の赤外光を投光しているタイミングでは、撮像部3はG光との相関性が高い露光Ex1Gが行われる。波長IR3の赤外光を投光しているタイミングでは、撮像部3はB光との相関性が高い露光Ex1Bが行われる。
但し、中間モードでは、可視光がわずかに存在する環境下での撮像であるため、可視光と赤外線投光器9より投光された赤外光とが混在した状態である。よって、中間モードにおいては、露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、可視光による露光と赤外光による露光とを合わせた露光となる。
図8の(c)に示すように、露光Ex1R,Ex1G,Ex1Bに基づいて、所定時間後に、露光Ex1Rに対応したフレームF1IR1、露光Ex1Gに対応したフレームF1IR3、露光Ex1Bに対応したフレームF1IR2が得られる。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、所定時間後に、露光Ex2Rに対応したフレームF2IR1、露光Ex2Gに対応したフレームF2IR3、露光Ex2Bに対応したフレームF2IR2が得られる。露光Ex3R,Ex3G,Ex3B以降も同様である。
図8の(c)の撮像信号のフレーム周波数は、90フレーム/秒である。中間モードでは、通常モードにおける映像信号の1フレームを時分割して波長IR1〜IR3の赤外光を投光するため、通常モードと同じ形式の映像信号を出力するためには、図8の(c)の撮像信号のフレーム周波数は、通常モードにおけるフレーム周波数の3倍となる。
後述するように、図8の(c)の3フレームの撮像信号に基づいて、図8の(d)に示す30フレーム/秒のフレーム周波数を有する映像信号の1フレームが生成される。例えば、フレームF1IR1,F1IR2,F1IR3に基づいてフレームF1IRが生成され、フレームF2IR1,F2IR2,F2IR3に基づいてフレームF2IRが生成される。
図8の(c)の3フレームの撮像信号に基づいて、図8の(d)の各フレームの映像信号を生成する中間モードでの動作を具体的に説明する。
A/D変換器4より出力された図8の(c)に示す撮像信号に対応する各フレームの映像データは、スイッチ51を介して前信号処理部52に入力される。
図9を用いて、前信号処理部52における前信号処理について説明する。図9の(a)は、波長IR1の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR1を示している。フレームFmIR1内のR,B,Gr,Gbの画素データには、波長IR1の赤外光を投光した状態で生成されたことを示す添え字1を付している。
図9の(b)は、波長IR2の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR2を示している。フレームFmIR2内のR,B,Gr,Gbの画素データには、波長IR2の赤外光を投光した状態で生成されたことを示す添え字2を付している。
図9の(c)は、波長IR3の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR3を示している。フレームFmIR3内のR,B,Gr,Gbの画素データには、波長IR3の赤外光を投光した状態で生成されたことを示す添え字3を付している。
図9の(a)に示すフレームFmIR1は、R光との相関性が高い波長IR1の赤外光が投光された状態で生成された映像データであるので、Rの画素データは投光された赤外光と対応した画素データであり、B,Gの画素データは投光された赤外光と対応していない画素データである。B,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(b)に示すフレームFmIR2は、G光との相関性が高い波長IR2の赤外光が投光された状態で生成された映像データであるので、Gの画素データは投光された赤外光と対応した画素データであり、R,Bの画素データは投光された赤外光と対応していない画素データである。R,Bの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(c)に示すフレームFmIR3は、B光との相関性が高い波長IR3の赤外光が投光された状態で生成された映像データであるので、Bの画素データは投光された赤外光と対応した画素データであり、R,Gの画素データは投光された赤外光と対応していない画素データである。R,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
前信号処理部52内の同一位置画素加算部522は、互いに同じ画素位置のR,Gr,Gb,Bの画素データを以下の式(1)〜(3)に従って個別に加算して、加算画素データR123,Gr123,Gb123,B123を生成する。中間モードでは、前信号処理部52内の周囲画素加算部521は不動作である。
R123=ka×R1+kb×R2 +kc×R3 …(1)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
式(1)〜(3)において、R1,G1,B1はフレームFmIR1におけるR,G,Bの画素データ、R2,G2,B2はフレームFmIR2におけるR,G,Bの画素データ、R3,G3,B3はフレームFmIR3におけるR,G,Bの画素データである。ka〜kiは所定の係数である。式(2)におけるG123はGr123またはGb123である。
このとき、同一位置画素加算部522は、ハッチングを付していないR,Gr,Gb,Bのそれぞれの画素データに、ハッチングを付した同じ画素位置のR,Gr,Gb,Bの画素データそれぞれを加算する。
即ち、同一位置画素加算部522は、式(1)に基づいて、フレームFmIR1におけるRの画素データに、フレームFmIR2,FmIR3における同じ画素位置のRの画素データを加算して、加算画素データR123を生成する。つまり、受光素子における赤色のカラーフィルタに対応する領域の画素データだけを用いて赤色用の加算画素データR123を生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2におけるGr,Gbの画素データに、フレームFmIR1,FmIR3における同じ画素位置のGr,Gbの画素データを加算して、加算画素データG123を生成する。つまり、受光素子における緑色のカラーフィルタに対応する領域の画素データだけを用いて緑色用の加算画素データG123を生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3におけるBの画素データに、フレームFmIR1,FmIR2における同じ画素位置のBの画素データを加算して、加算画素データB123を生成する。つまり、受光素子における青色のカラーフィルタに対応する領域の画素データだけを用いて青色用の加算画素データB123を生成する。
前信号処理部52内の合成部523は、それぞれの画素位置において生成された加算画素データR123,Gr123,Gb123,B123に基づいて、図9の(d)に示す合成映像信号のフレームFmIR123を生成する。
具体的には、合成部523は、フレームFmIR1における加算画素データR123と、フレームFmIR2における加算画素データGr123,Gb123と、フレームFmIR3における加算画素データB123とを選択して合成する。これによって合成部523は、合成映像信号のフレームFmIR123を生成する。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR123,Gr123,Gb123,B123を配列させたフレームFmIR123を生成する。
第1中間モードにおいては、ハッチングを付していない画素データと、ハッチングを付した画素データとを用いて、フレームFmIR123の映像データを生成する。
同一位置画素加算部522によって互いに同じ画素位置の画素データを加算するのは、次の理由による。中間モードではわずかではあるものの可視光が存在する環境下での撮像であるため、ハッチングを付した画素データは可視光による露光に基づくそれぞれの色の成分を含む。よって、同じ画素位置の画素データを加算することによって、それぞれの色の感度を上げることができる。
可視光と赤外光とが混在している状況で可視光が比較的多ければ、可視光による露光が支配的となる。この場合、フレームFmIR123の映像データは、可視光によって露光した映像信号に基づく成分が主となる。可視光と赤外光とが混在している状況で赤外光が比較的多ければ、赤外光による露光が支配的となる。この場合、フレームFmIR123の映像データは、赤外光によって露光した映像信号に基づく成分が主となる。
可視光が比較的少ない場合には、式(1)において、係数ka,kb,kcの大小関係を、ka>kb,kcとし、式(2)において、係数kd,ke,kfの大小関係を、kf>kd,keとし、式(3)において、係数kg,kh,kiの大小関係を、kh>kg,kiとするのがよい。これは、波長IR1はR光との相関性が高く、波長IR2はG光との相関性が高く、波長IR3はB光との相関性が高いからである。
このようにすれば、Rの画素データではフレームFmIR1におけるRの画素データ、Gの画素データではフレームFmIR2におけるGの画素データ、Bの画素データではフレームFmIR3におけるBの画素データを主とすることができる。
前信号処理部52より出力されたフレームFmIR123の映像データは、スイッチ53を介してデモザイク処理部54に入力される。デモザイク処理部54は、通常モードと同様に、入力されたフレームFmIR123の映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図10を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図10の(a)は、フレームFmIR123を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123iを生成する。デモザイク処理部54は、図10の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123iを生成する。デモザイク処理部54は、図10の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123iを生成する。デモザイク処理部54は、図10の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123Bを生成する。
通常モードにおける図7に示すデモザイク処理部54の動作と、中間モードにおける図10に示すデモザイク処理部54の動作とを比較すれば分かるように、両者は実質的に同じである。デモザイク処理部54の動作は、通常モードであっても中間モードであっても変わらない。
通常モードでは前信号処理部52を不動作とし、中間モードでは、周囲画素加算部521を除き、前信号処理部52を動作させればよい。通常モードと中間モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<中間モード:第2中間モード>
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
合成部523は、フレームFmIR1におけるRの画素データであるR1と、フレームFmIR2におけるGの画素データであるGr2,Gb2と、フレームFmIR3におけるBの画素データであるB3とを選択して合成する。これによって合成部523は、図11の(d)に示す合成映像信号のフレームFmIR123’を生成する。
即ち、フレームFmIR123’は、フレームFmIR1,FmIR3,FmIR2におけるハッチングを付していないR,Gr,Gb,Bの画素データを1フレームに集結させた映像データである。
つまり、フレームFmIR123’においては、波長IR1の赤外光を投光した状態における赤色のカラーフィルタに対応する領域の画素データだけを用いた赤色用の画素データ、波長IR2の赤外光を投光した状態における緑色のカラーフィルタに対応する領域の画素データだけを用いた緑色用の画素データ、波長IR3の赤外光を投光した状態における青色のカラーフィルタに対応する領域の画素データだけを用いた青色用の画素データとなっている。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1,Gr2,Gb2,B3を配列させたフレームFmIR123’を生成する。
第2中間モードでは、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1中間モードにおける動作と同様に、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データを選択すれば、フレームFmIR123’を生成することができる。
第2中間モードにおいては、前信号処理部52は、画素データの色と同じ色の画素データを生成するための赤外光が投光された状態で生成された画素データ(ハッチングを付していない画素データ)のみ用いて、フレームFmIR123’の映像データを生成する。
第2中間モードによれば、第1中間モードよりも感度や色の再現性は低下するものの、演算処理を簡略化したり、フレームメモリを削減したりすることができる。
図12を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図12の(a)は、フレームFmIR123’を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR1iを生成する。デモザイク処理部54は、図12の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG2iを生成する。デモザイク処理部54は、図12の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB3iを生成する。デモザイク処理部54は、図12の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’Bを生成する。
以上のように、中間モードにおいては、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成し、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成し、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成する。
<暗視モード:第1暗視モード>
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モードにおける概略的な動作は、図8と同じである。但し、暗視モードでは、可視光がほとんど存在しない環境下での撮像であるため、図8の(b)における露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、赤外光のみによる露光を想定している。
可視光がほとんど存在せず赤外光のみが存在している環境下では、カラーフィルタ32におけるそれぞれのフィルタエレメントの特性には差がなくなるため、撮像部3を単色の撮像素子とみなすことができる。
そこで、前信号処理部52内の周囲画素加算部521は、暗視モードでは、赤外光の感度を向上させるために、それぞれの画素データに対して、周囲に位置する画素データを加算する。
具体的には、図13の(a)に示すように、Rの画素が注目画素であるとき、周囲画素加算部521は、注目画素のRの画素データに対して周囲に位置するG及びBの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから赤色用の画素データを生成することとなる。図13の例では、各色とも注目画素を含む9画素分の領域から得た画素データを用いている。
図13の(b)に示すように、Gの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGの画素データに対して周囲に位置するG及びBの8画素の画素データを加算する。図13の(b)におけるGの画素はGrまたはGbの画素である。
つまり、中間モードのときは、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから緑色用の画素データを生成することとなる。
図13の(c)に示すように、Bの画素が注目画素であるとき、周囲画素加算部521は、注目画素のBの画素データに対して周囲に位置するR及びGの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから青色用の画素データを生成することとなる。
周囲画素加算部521は、注目画素の画素データと周囲の8画素の画素データとの9画素を単純に加算してもよいし、周囲の8画素の画素データに対して所定の重み付けをした上で注目画素の画素データに加算してもよい。
ところで、ビニングと称される複数の画素をまとめて1つの画素として読み出し可能な撮像素子が存在する。撮像素子31として、ビニング機能を有する撮像素子を用いる場合には、周囲画素加算部521による加算処理ではなく、ビニング機能を有する撮像素子による加算処理を行ってもよい。撮像素子によるビニングは、周囲画素加算部521による加算処理と実質的に等価である。
図14の(a)〜(c)のフレームFmIR1,FmIR3,FmIR2は、図9の(a)〜(c)のフレームFmIR1,FmIR3,FmIR2と同じである。図14の(d)〜(f)において、R1ad,Gr1ad,Gb1ad,B1ad,R2ad,Gr2ad,Gb2ad,B2ad,R3ad,Gr3ad,Gb3ad,B3adは、それぞれ、R,Gr,Gb,Bの画素データに対して周囲の8画素の画素データを加算した加算画素データである。
周囲画素加算部521は、フレームFmIR1,FmIR3,FmIR2のそれぞれの画素データに対して図13に示す加算処理を施すことにより、図14の(d)〜(f)に示すフレームFmIR1ad,FmIR2ad,FmIR3adを生成する。
図15の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図14の(d)〜(f)のフレームFmIR1ad,FmIR2ad,FmIR3adと同じである。
同一位置画素加算部522は、第1中間モードと同様に、式(1)に基づいて、フレームFmIR1adにおけるR1adの画素データに、フレームFmIR2ad,FmIR3adにおける同じ画素位置のR2ad,R3adの画素データを加算して、加算画素データR123adを生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2adにおけるGr2ad,Gb2adの画素データに、フレームFmIR1ad,FmIR3adにおける同じ画素位置のGr1ad,Gb1ad,Gr3ad,Gb3adの画素データを加算して、加算画素データGr123ad,Gb123adを生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3adにおけるB3adの画素データに、フレームFmIR1ad,FmIR2adにおける同じ画素位置のB1ad,B2adの画素データを加算して、加算画素データB123adを生成する。
合成部523は、第1中間モードと同様に、フレームFmIR1adにおける加算画素データR123adと、フレームFmIR2adにおける加算画素データGr123ad,Gb123adと、フレームFmIR3adにおける加算画素データB123adとを選択して合成する。これによって合成部523は、図15の(d)に示す合成映像信号のフレームFmIR123adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR123ad,Gr123ad,Gb123ad,B123adを配列させたフレームFmIR123adを生成する。
図16の(a)はフレームFmIR123adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123adiを生成する。デモザイク処理部54は、図16の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123adiを生成する。デモザイク処理部54は、図16の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123adiを生成する。デモザイク処理部54は、図16の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123adBを生成する。
第1中間モードと第1暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。モード切換部72は、暗視モードのとき、周囲画素加算部521を動作させればよい。
暗視モードにおけるデモザイク処理部54の動作は、通常モード及び中間モードにおけるデモザイク処理部54の動作と実質的に同じである。通常モードと中間モードと暗視モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<暗視モード:第2暗視モード>
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)〜(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)〜(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
合成部523は、フレームFmIR1adにおけるRの画素データであるR1adと、フレームFmIR2におけるGの画素データであるGr2ad,Gb2adと、フレームFmIR3におけるBの画素データであるB3adとを選択して合成する。これによって合成部523は、図17の(d)に示す合成映像信号のフレームFmIR123’adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR1ad,Gr2ad,Gb2ad,B3adを配列させたフレームFmIR123’adを生成する。
なお、図13を用いて説明したように、フレームFmIR123’adにおける赤色用の加算画素データR1adは、中間モードのときに赤色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
また、フレームFmIR123’adにおける緑色用の加算画素データGr2adは、中間モードのときに緑色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
さらに、フレームFmIR123’adにおける青色用の加算画素データB3adは、中間モードのときに青色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
第2暗視モードでは、第2中間モードと同様に、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1暗視モードにおける動作と同様に、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データを選択すれば、フレームFmIR123’adを生成することができる。
図18を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図18の(a)は、フレームFmIR123’adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のR1adの画素データを用いて演算して、Rの補間画素データR1adiを生成する。デモザイク処理部54は、図18の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGr2ad,Gb2adの画素データを用いて演算して、Gの補間画素データG2adiを生成する。デモザイク処理部54は、補間して、図18の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のB3adの画素データを用いて算出したBの補間画素データB3adiを生成する。デモザイク処理部54は、図18の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’adBを生成する。
第2中間モードと第2暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。
また、中間モードにおいては、受光素子における各色に対応する領域から得た画素データそれぞれから各色用の画素データを生成していたが、暗視モードにおいては、周囲画素を加算するため、中間モードにおける各色用の画素データを生成するための領域それぞれよりも広い領域から得た画素データから各色用の画素データを生成するとも言える。
<モード切換の例>
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19の(a)に示すように、昼間から夕刻へと時間が経過していくに従って明るさが低下していき、時刻t3以降、ほぼ真っ暗の状態となる。図19の(a)に示す明るさは実質的に可視光の量を示しており、時刻t3以降、可視光がほとんどない状態である。
制御部7は、映像処理部5から入力される映像信号(映像データ)の輝度レベルに基づいて周囲環境の明るさを判断することができる。図19の(b)に示すように、モード切換部72は、明るさが所定の閾値Th1(第1の閾値)以上であるとき通常モードとし、明るさが閾値Th1未満で所定の閾値Th2(第2の閾値)以上であるとき中間モード、閾値Th2未満であるとき暗視モードとする。
本実施形態の撮像装置101は、明るさが閾値Th1となる時刻t1までは通常モード、時刻t1から明るさが閾値Th2となる時刻t2まで中間モード、時刻t2以降は暗視モードに、モードを自動的に切り換える。図19の(b)において、中間モードは第1中間モードと第2中間モードとのいずれでもよく、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
図19の(a)では可視光がほとんどなくなる時刻t3の直前の明るさを閾値Th2としているが、時刻t3の明るさを閾値Th2としてもよい。
図19の(c)に示すように、モード切換部72は、中間モードの期間で、可視光が比較的多い時刻t1側の期間を第1中間モード、可視光が比較的少ない時刻t2側の期間を第2中間モードとしてもよい。図19の(c)において、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
本実施形態の撮像装置101は、投光制御部71が赤外線投光器9のオン・オフを制御し、モード切換部72が映像処理部5内の各部の動作・不動作を切り換えることにより、それぞれのモードを実現することができる。
図20に示すように、通常モードは、赤外線投光器9がオフ、周囲画素加算部521と同一位置画素加算部522と合成部523がいずれも不動作、デモザイク処理部54が動作の状態である。
第1中間モードは、赤外線投光器9がオン、周囲画素加算部521が不動作、同一位置画素加算部522と合成部523とデモザイク処理部54とが動作の状態である。第2中間モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522とが不動作、合成部523とデモザイク処理部54とが動作の状態である。
同一位置画素加算部522における動作と不動作とは、前述のように、式(1)〜(3)の係数ka〜kiの値を適宜に設定することによって容易に切り換えることができる。
第1暗視モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522と合成部523とデモザイク処理部54との全てが動作の状態である。第2暗視モードは、赤外線投光器9がオン、同一位置画素加算部522が不動作、周囲画素加算部521と合成部523とデモザイク処理部54とが動作の状態である。
ところで、周囲画素加算部521は、注目画素の画素データに対して周囲の画素データを加算するための計算式において、周囲の画素データに乗じる係数を、0を超える係数(例えば1)とすれば、周囲画素の加算処理を動作の状態とすることができる。
また、周囲画素加算部521は、その計算式において、周囲の画素データに乗じる係数を0とすれば、周囲画素の加算処理を不動作の状態とすることができる。
周囲画素加算部521における動作と不動作も、係数の値を適宜に設定することによって容易に切り換えることができる。
<第1の実施形態の撮像装置の第1の変形例>
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
図21に示すように、明るさセンサ11によって周囲環境の明るさを検出してもよい。図21において、映像信号の輝度レベルと明るさセンサ11によって検出した明るさとの双方に基づいて、周囲環境の明るさを判断してもよい。
<第1の実施形態の撮像装置の第2の変形例>
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
図22に示すように、モード設定テーブル12には、日にちと時間帯との組み合わせに対応して、通常モードと中間モードと暗視モードとのいずれかが設定されている。制御部7内の時計73は、日にちと時刻を管理している。制御部7は、時計73が示す日にちと時刻とを参照して、モード設定テーブル12より設定されているモードを読み出す。
投光制御部71とモード切換部72は、モード設定テーブル12より読み出されたモードとなるように、撮像装置を制御する。
<第1の実施形態の撮像装置の第3の変形例>
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
<映像信号処理方法>
図24を用いて、図1に示す撮像装置101で実行される映像信号処理方法を改めて説明する。
図24を用いて、図1に示す撮像装置101で実行される映像信号処理方法を改めて説明する。
図24において、撮像装置が動作を開始すると、制御部7は、ステップS1にて、周囲環境の明るさが閾値Th1以上であるか否かを判定する。閾値Th1以上であれば(YES)、制御部7は、ステップS3にて、通常モードでの処理を実行させる。閾値Th1以上でなければ(NO)、制御部7は、ステップS2にて、周囲環境の明るさが閾値Th2以上であるか否かを判定する。
閾値Th2以上であれば(YES)、制御部7は、ステップS4にて、中間モードでの処理を実行させる。閾値Th2以上でなければ(NO)、制御部7は、ステップS5にて、暗視モードでの処理を実行させる。
制御部7は、ステップS3〜S5の後、処理をステップS1に戻し、ステップS1以降を繰り返す。
図25は、ステップS3の通常モードの具体的な処理を示す。図25において、制御部7(投光制御部71)は、ステップS31にて、赤外線投光器9をオフにする。制御部7は、ステップS32にて、赤外線カットフィルタ21を挿入する。制御部7(モード切換部72)は、ステップS33にて、スイッチ51,53を端子Tbに接続させる。ステップS31〜S33の順番は任意であり、同時であってもよい。
制御部7は、ステップS34にて、撮像部3によって被写体を撮像させる。制御部7は、ステップS35にて、撮像部3が被写体を撮像することよって生成した映像信号を構成するフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
図26は、ステップS4の中間モードの具体的な処理を示す。図26において、制御部7(投光制御部71)は、ステップS41にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS42にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS43にて、スイッチ51,53を端子Taに接続させる。ステップS41〜S43の順番は任意であり、同時であってもよい。
制御部7は、ステップS44にて、撮像部3によって被写体を撮像させる。撮像部3は、Rに対応付けられた波長IR1の赤外光と、Gに対応付けられた波長IR2の赤外光と、Bに対応付けられた波長IR3の赤外光とがそれぞれ投光されている状態で被写体を撮像する。
制御部7(モード切換部72)は、ステップS45にて、周囲画素加算部521を不動作とし、合成部523を動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
波長IR1,IR2,IR3の赤外光がそれぞれ投光されている状態で撮像部3が被写体を撮像することよって生成された映像信号を構成するフレームを第1のフレーム,第2のフレーム,第3のフレームとする。
合成部523は、第1のフレーム内のRの画素データと、第2のフレーム内のGの画素データと、第3のフレーム内のBの画素データとに基づく3原色の画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させる。合成部523は、このようにして第1〜第3のフレームを1フレームに合成した合成映像信号を生成する。
制御部7は、ステップS46にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
デモザイク処理部54は、合成映像信号のフレームに基づいて、Rのフレームと、Gのフレームと、Bのフレームとを生成するデモザイク処理を施して、デモザイク処理された3原色のフレームを順次生成する。
デモザイク処理部54は、Rの画素データが存在しない画素位置にRの画素データを補間することによって、Rのフレームを生成することができる。デモザイク処理部54は、Gの画素データが存在しない画素位置にGの画素データを補間することによって、Gのフレームを生成することができる。デモザイク処理部54は、Bの画素データが存在しない画素位置にBの画素データを補間することによって、Bのフレームとを生成することができる。
第1中間モードとする場合には、ステップS45にて、同一位置画素加算部522を動作させ、第2中間モードとする場合には、ステップS45にて、同一位置画素加算部522を不動作とすればよい。
図27は、ステップS5の暗視モードの具体的な処理を示す。図27において、制御部7(投光制御部71)は、ステップS51にて、投光部91〜93より波長IR1〜IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS52にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS53にて、スイッチ51,53を端子Taに接続させる。ステップS51〜S53の順番は任意であり、同時であってもよい。
制御部7は、ステップS54にて、撮像部3によって被写体を撮像させる。制御部7(モード切換部72)は、ステップS55にて、周囲画素加算部521と合成部523とを動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
制御部7は、ステップS56にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
第1暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を動作させ、第2暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を不動作とすればよい。
<映像信号処理プログラム>
図1において、制御部7、または、映像処理部5と制御部7との一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した本実施形態の撮像装置101と同様の動作を実現させることも可能である。
図1において、制御部7、または、映像処理部5と制御部7との一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した本実施形態の撮像装置101と同様の動作を実現させることも可能である。
図28を用いて、図24のステップS4である中間モードにおける制御を映像信号処理プログラムで構成した場合にコンピュータに実行させる手順の例を説明する。図28は、映像信号処理プログラムがコンピュータに実行させる処理を示す。
図28において、映像信号処理プログラムは、ステップS401にて、コンピュータに、R,G,Bに対応付けられた波長IR1,IR2,IR3の赤外光をそれぞれ投光するように赤外線投光器9を制御する処理を実行させる。
ステップS401に示す処理を映像信号処理プログラムの外部にて実行させてもよい。図28では、ダミーガラス22を挿入させる処理を省略している。ダミーガラス22を挿入させる処理も映像信号処理プログラムの外部にて実行させてもよい。
映像信号処理プログラムは、ステップS402にて、コンピュータに、波長IR1の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第1のフレームを構成する画素データを取得する処理を実行させる。
映像信号処理プログラムは、ステップS403にて、コンピュータに、波長IR2の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第2のフレームを構成する画素データを取得する処理を実行させる。
映像信号処理プログラムは、ステップS404にて、コンピュータに、波長IR3の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第3のフレームを構成する画素データを取得する処理を実行させる。ステップS402〜S404の順番は任意である。
映像信号処理プログラムは、ステップS405にて、コンピュータに、R,G,Bの画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させて、1フレームに合成した合成映像信号を生成する処理を実行させる。
中間モードでは、映像信号処理プログラムは、ステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させない。
映像信号処理プログラムは、ステップS406にて、コンピュータに、合成映像信号のフレームにデモザイク処理を施して、R,G,Bのフレームを生成する処理を実行させる。
図示は省略するが、図24のステップS5である暗視モードにおける制御を映像信号処理プログラムで構成する場合には、図28のステップS405にて、コンピュータに、周囲画素の加算処理の処理を実行させればよい。
映像信号処理プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコンピュータプログラムであってよい。映像信号処理プログラムが記録媒体に記録された状態で提供されてもよいし、映像信号処理プログラムをコンピュータにダウンロードさせるよう、インターネット等のネットワークを介して提供されてもよい。コンピュータで読み取り可能な記録媒体は、CD−ROM,DVD−ROM等の非一時的な任意の記録媒体でよい。
図1のように構成される撮像装置において、例えば、必要に応じて各部を複数設けたりして、中間モードと暗視モードとを同時に実行するようにしてもよい。その場合、映像出力部6が、中間モードによって生成された映像信号と、暗視モードによって生成された映像信号との両方を出力するようにしてもよい。
また、モード切換部72は、映像出力部6が中間モードによって生成された映像信号を出力する状態と、映像出力部6が暗視モードによって生成された映像信号を出力する状態とを切り換えるようにしてもよい。その際、前述のように、周囲環境の明るさや時刻等に応じて切り換えてもよい。また、映像処理部5(映像処理装置)を他の各部と別体にしてもよい。
さらに、中間モードを使用せずに、通常モードから暗視モードに切り換えたり、暗視モードから通常モードに切り換えたりする場合があってもよい。
中間モードを使用しない場合には、上述した中間モードの使用が適した環境下では、通常モードと暗視モードとのいずれかを選択して使用すればよい。この場合、中間モードを使用する場合と比較して良好なカラー映像信号とはならないが、撮像は可能である。
しかしながら、通常モードと暗視モードのみを搭載した撮像装置であっても、例えば監視カメラで被写体を終日撮影する場合のような周囲の明るさが変化する状況で、1つの撮像装置で被写体を撮影することができる、という効果を奏する。
さらにまた、暗視モードを使用せずに、通常モードから中間モードに切り換え、中間モードから通常モードに切り換える場合があってもよい。暗視モードを常時使用しない場合は、暗視モードを搭載しないようにしてもよい。
電灯がある場所等では暗視モードを使用しなくてもよい場合がある。通常モードと中間モードのみを搭載した撮像装置は、暗視モードを使用しなくてもよい場合に利用できる。
暗視モードを使用しない場合には、上述した暗視モードの使用が適した環境下では、中間モードを使用すればよい。この場合、暗視モードを使用する場合と比較して良好なカラー映像信号とはならないが、撮像は可能である。
通常モードと中間モードのみを搭載した撮像装置であっても、同様に、周囲の明るさが変化する状況で、1つの撮像装置で被写体を撮影することができる、という効果を奏する。
<赤外光投光タイミングの同期方法:第1の例>
次に、図29に示すように、例えば2台の撮像装置101によって被写体SB1を撮像する撮像システムを構成して、タイミング調整モードに設定されている場合を考える。タイミング調整モードでは、後述するように、赤外線投光器9によって赤外光を投光して、赤外光の投光タイミングを同期させる。よって、可視光が弱い夜間等にタイミング調整モードに設定するのがよい。
次に、図29に示すように、例えば2台の撮像装置101によって被写体SB1を撮像する撮像システムを構成して、タイミング調整モードに設定されている場合を考える。タイミング調整モードでは、後述するように、赤外線投光器9によって赤外光を投光して、赤外光の投光タイミングを同期させる。よって、可視光が弱い夜間等にタイミング調整モードに設定するのがよい。
図29に示す2台の撮像装置101のうちの一方を自己の撮像装置101、もう一方を他の撮像装置101とする。2台の撮像装置101は有線または無線にて接続されている。
図30において、(a)は自己の撮像装置101の赤外線投光器9による赤外光の投光を、(c)は他の撮像装置101の赤外線投光器9による赤外光の投光を示している。2台の撮像装置101の赤外線投光器9による赤外光の投光における位相が同期しておらず、1つの波長の赤外光を投光する期間よりも短い期間だけずれているとする。図30において、(b)は自己の撮像装置101による撮像によって生成されるフレームの露光期間(以下、単にフレームとも称する)を示している。
図30の(b)に示すように、2台の撮像装置101の赤外線投光器9による赤外光の投光のタイミングがずれているため、ハッチングを付した期間では、2つの波長の赤外光が混ざった状態となる。よって、ハッチングを付した期間では、色の再現性が損なわれる。
図31において、(a)は自己の撮像装置101の赤外線投光器9による赤外光の投光を、(c)は他の撮像装置101の赤外線投光器9による赤外光の投光を示している。2台の撮像装置101の赤外線投光器9による赤外光の投光は同期しておらず、1つの波長の赤外光を投光する期間だけずれているとする。図31において、(b)は自己の撮像装置101による撮像によって生成されるフレームを示している。
図31の(b)に示すように、2台の撮像装置101の赤外線投光器9による赤外光の投光のタイミングが完全にずれているため、全期間で、2つの波長の赤外光が混ざった状態となってしまう。よって、全期間で色の再現性が損なわれる。
このように、2台の撮像装置101の赤外線投光器9が個々に赤外光を投光すると異なる波長の赤外光が混ざってしまい、正しい色再現が可能なカラー映像を撮像することができない。
2台の撮像装置101の赤外線投光器9が波長IR1,IR2,IR3の赤外光を投光するタイミングを同期させる同期方法について説明する。図29では、撮像装置101を2台としているが、3台以上であってもよい。
図32に示すように、マスタ/スレーブ設定部74によって自己の撮像装置101をマスタの撮像装置101M、他の撮像装置101をスレーブの撮像装置101Sに設定したとする。図32は、図1で説明した撮像装置101の構成を概略的に示している。
撮像装置101Mの同期信号送信部76tは、撮像装置101Sに同期信号Ssyncを送出する。撮像装置101Sの同期信号受信部76rは、同期信号Ssyncを受信する。撮像装置101Sの制御部7は、受信した同期信号Ssyncに基づいて波長IR1,IR2,IR3の赤外光を投光するタイミングを制御する。
撮像装置101Sは、図示していないPLL回路等を用いて、受信した同期信号Ssyncを基準とした基準クロックを生成する。撮像装置101Sは、この基準クロックに基づいて各部を動作させる。
同期信号Ssyncは、一例として、図33の(a)に示すように、図33の(b)に示す波長IR1,IR2,IR3の赤外光を投光する1フレーム期間の先頭を示すパルスでよい。即ち、同期信号Ssyncは、フレーム周期のパルスでよい。ここでのフレームとは、映像出力部6より出力される映像信号のフレームである。
波長IR1,IR2,IR3の赤外光それぞれを投光する期間の先頭を示すパルスを同期信号Ssyncとしてもよい。波長IR1,IR2,IR3のうちのいずれかの赤外光を投光する期間の先頭を示すパルスを同期信号Ssyncとしてもよい。同期信号Ssyncは、波長IR1,IR2,IR3の赤外光を投光する所定の期間(1フレーム期間)に同期していればよい。
同期信号Ssyncは、所定の期間を3分割した分割期間の内の1つまたは2つに同期するようにしてもよい。また、複数種類の同期信号Ssyncを用いて、所定の期間を3分割した分割期間それぞれで異なる同期信号Ssyncを用いるようにしてもよい。
撮像装置101Mから撮像装置101Sへと同期信号Ssyncを供給すれば、原理的には、それぞれの赤外線投光器9による赤外光の投光を同期させて、波長IR1,IR2,IR3の赤外光を投光するタイミングを一致させることができる。
ところが、撮像装置101Mと撮像装置101Sとが有線にて接続されている場合であっても、配線長に起因する遅延、2つの撮像装置101の内部的な遅延時間の差によって、波長IR1,IR2,IR3の赤外光を投光するタイミングにずれが生じる場合がある。
そこで、さらに精度を高める必要がある場合、次のようにして、撮像装置101Mの赤外線投光器9による赤外光のタイミングに、撮像装置101Sの赤外線投光器9による赤外光のタイミングを一致させて、両者の赤外線投光器9による赤外光の投光を同期させる。
撮像装置101Mがタイミング調整モードに設定されているとき、図34の(a)に示すように、投光制御部71は、波長IR1,IR2,IR3の赤外光のうちの1つの赤外光のみを3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とするよう赤外線投光器9を制御する。1つの赤外光は、波長IR1,IR2,IR3の赤外光のうちのいずれでもよい。本実施形態では、波長IR1の赤外光のみを投光する。
撮像装置101Sがタイミング調整モードに設定されているとき、投光制御部71は、全ての期間で赤外光を無投光とするよう赤外線投光器9を制御する。撮像装置101Sは、図34の(a)に示すように撮像装置101Mの赤外線投光器9によって1つの赤外光のみを投光している状態で、被写体SB1を撮像して映像信号のフレームを生成する。
撮像装置101M,101Sをタイミング調整モードとしたとき、撮像装置101Mを撮像装置101Sに向けて、撮像装置101Mの赤外線投光器9から投光される赤外光が撮像装置101Sに効果的に照射されるようにしてもよい。
図34の(b)は、図34の(a)の赤外光の投光のタイミングと、撮像装置101Sによる撮像によって生成されるフレームとの位相が一致している状態を示している。フレームFIR1は、波長IR1の赤外光が投光されている期間で生成されるRのフレームである。フレームFIR2,FIR3は、本来であればそれぞれ波長IR2,IR3の赤外光が投光される無投光の期間で生成されるG,Bのフレームである。
図34の(b)に示すように、RのフレームFIR1は明るく、G,BのフレームFIR2,FIR3は暗い。よって、図34の(b)の状態では、撮像装置101Sの輝度レベル判定部75によって判定される輝度レベルは、フレームFIR1におけるRの輝度レベルのみ高くなり、G,BのフレームFIR2,FIR3の輝度レベルは非常に低くなる。
図34の(c)は位相が少し遅れている場合、図34の(d)は位相が少し進んでいる場合を示している。
図34の(c)のように位相が遅れると、BのフレームFIR3を生成するために撮像している期間内に波長IR1の赤外光の投光が開始するため、BのフレームFIR3は図34の(b)の場合よりも少し明るいやや暗い状態となる。よって、輝度レベル判定部75によって判定されるBのフレームFIR3におけるBの輝度レベルは、図34の(b)の場合と比較して若干高くなる。
逆に、図34の(d)のように位相が進むと、波長IR1の赤外光の投光が終了するよりも前にGのフレームFIR2を生成するための撮像が開始するため、GのフレームFIR2は図34の(b)の場合よりも少し明るいやや暗い状態となる。よって、輝度レベル判定部75によって判定されるGのフレームFIR2におけるGの輝度レベルは、図34の(b)の場合と比較して若干高くなる。
なお、図34の(c),(d)において、RのフレームFIR1に「やや明」と記載しているように、RのフレームFIR1におけるRの輝度レベルは、図34の(b)の場合と比較すれば若干低い。
よって、R,G,Bの輝度レベルは、撮像装置101Mの赤外線投光器9が波長IR1の赤外光を投光するタイミングと、撮像装置101SにおいてR,G,BのフレームFIR1,FIR2,FIR3を生成するタイミングとに応じて、図35に示すように変化する。
図35に示すように、撮像装置101Mの赤外線投光器9から投光される赤外光のタイミングと、撮像装置101Sによる撮像によって生成されるフレームとの位相が一致している適正な状態では、Rの輝度レベルが高く、G,Bの輝度レベルは同等の低い値となる。同等とは、所定の誤差を含んでほぼ同じとみなすことができる状態である。
撮像装置101Mの赤外線投光器9から投光される赤外光のタイミングに対して、撮像装置101Sによる撮像によって生成されるフレームの位相が遅れると、Bの輝度レベルがGの輝度レベルよりも高くなる。Rの輝度レベルは適正な状態よりも低下する。
撮像装置101Mの赤外線投光器9から投光される赤外光のタイミングに対して、撮像装置101Sによる撮像によって生成されるフレームの位相が進むと、Gの輝度レベルがBの輝度レベルよりも高くなる。Rの輝度レベルは適正な状態よりも低下する。
そこで、撮像装置101Sの輝度レベル判定部75は、Gの輝度レベルとBの輝度レベルとの大小関係を判定する。制御部7は、大小関係に応じて、撮像装置101Sを動作させている同期信号Ssyncに基づいて赤外線投光器9及び前信号処理部52を動作させるタイミングを進ませたり、遅らせたりする。
具体的には、投光制御部71は、Bの輝度レベルがGの輝度レベルよりも高ければ、波長IR1,IR2,IR3の赤外光を投光するタイミングを進ませるように赤外線投光器9を制御する。これに併せて、制御部7は、R,G,BのフレームFIR1,FIR2,FIR3を生成するタイミングを進ませるように前信号処理部52を制御する。
投光制御部71は、Gの輝度レベルがBの輝度レベルよりも高ければ、波長IR1,IR2,IR3の赤外光を投光するタイミングを遅らせるように赤外線投光器9を制御する。これに併せて、制御部7は、R,G,BのフレームFIR1,FIR2,FIR3を生成するタイミングを遅らせるように前信号処理部52を制御する。
制御部7(投光制御部71)は、G,Bの輝度レベルが同等の値となるまで赤外線投光器9及び前信号処理部52を制御する。制御部7は、G,Bの輝度レベルが同等の値となったタイミングの調整量を保持する。
撮像装置101Sは、タイミング調整モードを解除した後、タイミング調整モードで求めて保持した調整量だけ撮像装置101Sを動作させるタイミングをずらすよう各部を制御する。
以上によって、図29のように構成した撮像システムは、撮像装置101Mと撮像装置101Sとのそれぞれの赤外線投光器9による赤外光の投光タイミングを同期させた状態で、被写体SB1を撮像することができる。なお、明るさがあまり変わらない環境下であれば、Rの輝度レベルが最大となるように調整してもよい。
<赤外光投光タイミングの同期方法:第2の例>
赤外光投光タイミングの同期方法の第1の例では、撮像装置101Mの赤外線投光器9による赤外光の投光タイミングに、撮像装置101Sの赤外線投光器9による赤外光の投光タイミングを一致させたが、逆にしてもよい。
赤外光投光タイミングの同期方法の第1の例では、撮像装置101Mの赤外線投光器9による赤外光の投光タイミングに、撮像装置101Sの赤外線投光器9による赤外光の投光タイミングを一致させたが、逆にしてもよい。
赤外光投光タイミングの同期方法の第2の例では、撮像装置101Sの赤外線投光器9による赤外光の投光タイミングに、撮像装置101Mの赤外線投光器9による赤外光の投光タイミングを一致させる。第2の例の説明において、第1の例と共通部分の説明を省略する。
撮像装置101Sがタイミング調整モードに設定されているとき、図36の(a)に示すように、投光制御部71は、波長IR1,IR2,IR3の赤外光のうちの波長IR1の赤外光のみを3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とするよう赤外線投光器9を制御する。
撮像装置101Mがタイミング調整モードに設定されているとき、投光制御部71は、全ての期間で赤外光を無投光とするよう赤外線投光器9を制御する。撮像装置101Mは、図36の(a)に示すように撮像装置101Sの赤外線投光器9によって波長IR1の赤外光のみを投光している状態で、被写体SB1を撮像して映像信号のフレームを生成する。
図36の(b)は、図36の(a)の赤外光の投光のタイミングと、撮像装置101Mによる撮像によって生成されるフレームとが一致している状態を示している。図36の(c)は位相が遅れている場合、図36の(d)は位相が進んでいる場合を示している。
第2の例においては、R,G,Bの輝度レベルは、撮像装置101Sの赤外線投光器9が波長IR1の赤外光を投光するタイミングと、撮像装置101MにおいてR,G,BのフレームFIR1,FIR2,FIR3を生成するタイミングとに応じて、図37に示すように変化する。
図37に示すように、撮像装置101Sの赤外線投光器9から投光される赤外光のタイミングに対して、撮像装置101Mによる撮像によって生成されるフレームの位相が遅れると、Gの輝度レベルがBの輝度レベルよりも高くなる。Rの輝度レベルは適正な状態よりも低下する。
撮像装置101Sの赤外線投光器9から投光される赤外光のタイミングに対して、撮像装置101Mによる撮像によって生成されるフレームの位相が進むと、Bの輝度レベルがGの輝度レベルよりも高くなる。Rの輝度レベルは適正な状態よりも低下する。
撮像装置101Mの制御部7は、輝度レベル判定部75によって判定されるG,Bの輝度レベルが同等の値となるまで赤外線投光器9及び前信号処理部52を制御する。制御部7は、G,Bの輝度レベルが同等の値となったタイミングの調整量を保持する。
撮像装置101Mは、タイミング調整モードを解除した後、タイミング調整モードで求めて保持した調整量だけ撮像装置101Mを動作させるタイミングをずらすよう各部を制御する。
このように、撮像装置101Sの赤外線投光器9による赤外光の投光タイミングに撮像装置101Mの赤外線投光器9による赤外光の投光タイミングを一致させる第2の例おいても、撮像装置101Mと撮像装置101Sとのそれぞれの赤外線投光器9による赤外光の投光タイミングを同期させることができる。なお、第2の例は、撮像装置101が2台のみの場合に利用できる。
以上説明した第1の例及び第2の例では、タイミング調整モードにおいて、撮像装置101M(または101S)が波長IR1の赤外光のみを投光し、撮像装置101S(または101M)が赤外光を無投光とした状態で被写体SB1を撮像して映像信号を生成する。なお、明るさがあまり変わらない環境下であれば、Rの輝度レベルが最大となるように調整してもよい。
その代わりに次のようにすることもできる。赤外光の投光タイミングの基準側である撮像装置101M(または101S)は、波長IR1,IR2,IR3の赤外光を通常のように投光する。赤外光の投光タイミングを調整する側の撮像装置101S(または101M)は、赤外光を無投光とし、赤外線カットフィルタ21を挿入した状態で映像信号を生成する。
可視光が弱い夜間等にタイミング調整モードに設定した場合には、ダミーガラス22が挿入された状態である。ダミーガラス22の代わりに赤外線カットフィルタ21を挿入して映像信号を生成すれば、基準側である撮像装置101M(または101S)は、全ての赤外光を投光してもよい。
例えば、投光部91を780nmの赤外光を発光する発光ダイオード(LED)とする。LEDからの光の波長帯域は一部で可視光の帯域にかかっている。よって、赤外線カットフィルタ21を挿入した状態で撮像すれば、実質的に波長IR1の赤外光のみが投光されているのと同等の状態とすることができる。よって、波長IR1の赤外光のみを投光したのと同様に投光タイミングの調整が可能となる。なお、波長IR1は、赤外線カットフィルタ21によってカットされない程度に波長が短いものとする。
<第2実施形態の撮像装置の構成及び動作>
図38に示す第2実施形態の撮像装置102において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置102によって撮像システムを構成することができる。
図38に示す第2実施形態の撮像装置102において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置102によって撮像システムを構成することができる。
撮像装置102は、赤外線投光器9の代わりに赤外線投光器9Bを備える。赤外線投光器9Bは、波長IR1,IR2,IR3の赤外光を投光するタイミングを示す同期信号Ssyncを生成して、制御部7に供給する。赤外線投光器9Bは、同期信号Ssyncを送信する同期信号送信部9Btと同期信号Ssyncを受信する同期信号受信部9Brを有する。
撮像装置102における制御部7は、撮像装置101の制御部7における同期信号送信部76t及び同期信号受信部76rを省いた構成を有する。
図39に示すように、マスタ/スレーブ設定部74によって自己の撮像装置102をマスタの撮像装置102M、他の撮像装置102をスレーブの撮像装置102Sに設定したとする。図39は、図38で説明した撮像装置102の構成を概略的に示している。
撮像装置102Mの同期信号送信部9Btは、撮像装置102Sに同期信号Ssyncを送出する。撮像装置102Sの同期信号受信部9Brは、同期信号Ssyncを受信する。同期信号Ssyncは、図33の(a)で説明したように、波長IR1,IR2,IR3の赤外光を投光する1フレーム期間の先頭を示すフレーム周期のパルスでよい。
撮像装置102Sは、自己の赤外線投光器9Bによって同期信号Ssyncを生成しない。撮像装置102Sの赤外線投光器9Bは、受信した同期信号Ssyncを制御部7に供給する。撮像装置102Sの赤外線投光器9Bは、受信した同期信号Ssyncに基づいたタイミングで波長IR1,IR2,IR3の赤外光を投光する。
撮像装置102Mと撮像装置102Sとで波長IR1,IR2,IR3の赤外光を投光するタイミングにずれが生じる場合には、図34〜図37と同様にして、投光タイミングを調整すればよい。
即ち、撮像装置102Mの赤外線投光器9Bによる赤外光の投光タイミングと、撮像装置102Sの赤外線投光器9Bによる赤外光の投光タイミングとを一致させて、両者の赤外線投光器9Bによる赤外光の投光を同期させる。
図21〜図23に示す第1〜第3の変形例は、第2実施形態の撮像装置102においても適用することができる。後述する第3〜第6実施形態の撮像装置103〜106でも同様である。
<第3実施形態の撮像装置の構成及び動作>
図40に示す第3実施形態の撮像装置103において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図40は、撮像装置3の構成を概略的に示している。
図40に示す第3実施形態の撮像装置103において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図40は、撮像装置3の構成を概略的に示している。
図29に示すように、複数台の撮像装置103によって撮像システムを構成することができる。図40において、自己の撮像装置103をマスタの撮像装置103M、他の撮像装置103をスレーブの撮像装置103Sに設定している。
マスタの撮像装置103Mの赤外線投光器9Cは、同期信号送信部9Ctを有する。赤外線投光器9Cは、制御部7による制御に基づいて、波長IR1,IR2,IR3の赤外光を投光する。同期信号送信部9Ctは、赤外光を投光するタイミングを示す同期信号Ssyncをスレーブの撮像装置103Sに送出する。
撮像装置103Sの赤外線投光器9Cは、同期信号受信部9Crを有する。撮像装置103Sの受信した同期信号Ssyncを制御部7に供給する。撮像装置103Sの赤外線投光器9Cは、受信した同期信号Ssyncに基づいたタイミングで波長IR1,IR2,IR3の赤外光を投光する。撮像装置103Sは、図39の撮像装置102Sと同じ構成でよい。
第3実施形態においても、撮像装置103Mと撮像装置103Sとで波長IR1,IR2,IR3の赤外光を投光するタイミングにずれが生じる場合には、タイミングを一致させて、両者の赤外線投光器9Cによる赤外光の投光を同期させる。
<第4実施形態の撮像装置の構成及び動作>
図41に示す第4実施形態の撮像装置104において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置104によって撮像システムを構成することができる。
図41に示す第4実施形態の撮像装置104において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置104によって撮像システムを構成することができる。
撮像装置104における制御部7は、撮像装置101の制御部7における同期信号送信部76t及び同期信号受信部76rの代わりに、基準クロック送信部77t及び基準クロック受信部77rを有する。
撮像装置104がマスタの撮像装置として設定されているとき、基準クロック送信部77tは基準クロックSclkを他の撮像装置104へと送出する。このとき、基準クロック受信部77rは不動作である。
撮像装置104がスレーブの撮像装置として設定されているとき、基準クロック受信部77rは、マスタである他の撮像装置104が送出した基準クロックSclkを受信する。このとき、基準クロック送信部77tは不動作である。
図42に示すように、マスタ/スレーブ設定部74によって自己の撮像装置104をマスタの撮像装置104M、他の撮像装置104をスレーブの撮像装置104Sに設定したとする。図42は、図41で説明した撮像装置104の構成を概略的に示している。
撮像装置104Mの基準クロック送信部77tは、撮像装置104Sに基準クロックSclkを送出する。撮像装置104Sの基準クロック受信部77rは、基準クロックSclkを受信する。撮像装置104Mと撮像装置104Sとは、共通の基準クロックSclkに同期して動作する。
基準クロックSclkは、例えば、映像信号の色副搬送波周波数(3.58MHz)の4倍の14.32MHzのクロック、GenLock(Generator Lock)と称される放送スタジオ等で使用される基準信号、MPEG2で使用される27MHzのクロックを用いることができる。勿論、基準クロックSclkは、これらのクロックに限定されない。
撮像装置104Mと撮像装置104Sとを共通の基準クロックSclkで動作させることにより、撮像装置104Mと撮像装置104Sとの周波数的な同期をとることができる。しかしながら、撮像装置104M,104Sそれぞれの赤外線投光器9が波長IR1,IR2,IR3の赤外光を投光するタイミングを同期させることはできない。
そこで、第4実施形態の撮像装置104においては、撮像装置104M,104Sがタイミング調整モードに設定されているとき、撮像装置104M,104Sの赤外線投光器9による赤外光の投光タイミングを一致させた状態で同期させるように調整する。
図43は、図43と同様に、撮像装置104Mの赤外線投光器9による投光のタイミングと、撮像装置104Sによる撮像によって生成されるフレームとの位相の関係を示している。図43の(b)は、図43の(a)の赤外光の投光のタイミングとフレームとが一致している状態、図43の(c)は位相が少し遅れている場合を示している。
第4実施形態の撮像装置104においては、図43の(d)に示すように位相が大幅に進んだり、大幅に遅れたりする場合がある。
第4実施形態の撮像装置104においては、R,G,Bの輝度レベルは、撮像装置104Mの赤外線投光器9が波長IR1の赤外光を投光するタイミングと、撮像装置104SがフレームFIR1,FIR2,FIR3を生成するタイミングとに応じて、図44に示すように変化する。
図35に示す特性は、図44の適正の状態の近傍のみを示したものに相当する。第1〜第3実施形態では、配線長に起因する遅延や遅延時間の差に起因するわずかな投光タイミングのずれを解消すればよい。第4実施形態では、そもそも周波数的な同期しかとれていないので、図44に示すように、かなり大きな量のタイミング調整が必要となる場合がある。
図45に示すフローチャートを用いて、制御部7によるタイミング調整の処理を説明する。図45において、制御部7(輝度レベル判定部75)は、ステップS101にて、Gの輝度レベルとBの輝度レベルとが同等であるか否かを判定する。
同等であるということは、図44の位相が一致している適正な状態であるPh0の位置、位相が遅れているPh(-3)の位置、位相が進んでいるPh(+3)の位置のいずれかということである。
同等であれば(YES)、制御部7は、ステップS102にて、Rの輝度レベルは最低であるか否かを判定する。最低でなければ(NO)、Ph0の位置で適正な状態ということであるので、処理を終了させる。
ステップS102にて最低であれば(YES)、Ph(-3)またはPh(+3)の位置で1/2周期がずれている(遅れているか進んでいる)ことであるので、制御部7(投光制御部71)は、ステップS103にて、タイミングを1/2周期進めるか遅らせる。
一方、ステップS101にて同等でなければ(NO)、制御部7は、処理をステップS104に移行させる。制御部7は、ステップS103の処理を終了後も、処理をステップS104に移行させる。
制御部7は、ステップS104にて、Gの輝度レベルはBの輝度レベルより大きいか否かを判定する。Gの輝度レベルがBの輝度レベルより大きければ(YES)、制御部7は、タイミングを少し遅らせて、処理をステップS101に戻す。Gの輝度レベルがBの輝度レベルより大きくなければ(NO)、制御部7は、タイミングを少し進めて、処理をステップS101に戻す。
以上のステップS101〜S106を繰り返すことにより、撮像装置104M,104Sの赤外線投光器9による赤外光の投光タイミングを一致させた状態で同期させることができる。
撮像装置104Sは、タイミング調整モードを解除した後、タイミング調整モードで求めて保持した調整量だけ撮像装置104Sを動作させるタイミングをずらすよう各部を制御する。
なお、撮像装置とは別体の装置から、基準クロックを出力し、各撮像装置でその基準クロックを受信するようにしてもよい。例えば、複数の撮像装置の画像を切り換えて表示するためのスイッチャ等が基準クロックを生成して出力するようにしてもよい。また、基準クロックを出力する撮像装置と、タイミング調整モードでマスタとして動作する撮像装置とが別のものであってもよい。
<第5実施形態の撮像装置の構成及び動作>
図46に示す第5実施形態の撮像装置105において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置105によって撮像システムを構成することができる。
図46に示す第5実施形態の撮像装置105において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置105によって撮像システムを構成することができる。
撮像装置105は、商用交流電源からの電力に基づいて、撮像装置105の各部に必要な電力を供給する電源回路15を備える。撮像装置105は、交流電圧の周波数に同期した基準クロックを生成して、撮像装置105を動作させる。よって、マスタの撮像装置105Mとスレーブの撮像装置105Sとの周波数的な同期をとることができる。
撮像装置105Sは、第4実施形態と同じ方法で、赤外線投光器9による赤外光の投光タイミングを調整する。これによって、撮像装置105M,105Sは、それぞれの赤外線投光器9による赤外光の投光タイミングを一致させた状態で同期させることができる。
<第6実施形態の撮像装置の構成の構成及び動作>
図47に示す第6実施形態の撮像装置106において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置106によって撮像システムを構成することができる。
図47に示す第6実施形態の撮像装置106において、図1に示す第1実施形態の撮像装置101と同一部分には同一符号を付し、その説明を省略する。図29に示すように、複数台の撮像装置106によって撮像システムを構成することができる。
撮像装置106は、全地球航法衛星システム(Global Navigation Satellite System: GNSS)用の衛星200からの電波を受信するアンテナ16aと、アンテナ16aが出力するGNSS信号を受信するGNSS受信部16とを備える。GNSS信号は一般的にRF信号である。GNSSは、一例としてGPS(Global Positioning System)である。
GNSS受信部16は、衛星200からの電波に含まれる時刻情報に基づいてクロック信号を生成する。衛星200から送信される時刻情報は、衛星200に内蔵されている原子時計と高精度に同期している。GNSS受信部16は、原子時計と高精度に同期するクロック信号を制御部7に供給する。制御部7は、このクロック信号を基準クロックとする。制御部7は、基準クロックに基づいて撮像装置106を動作させる。
よって、マスタの撮像装置106Mとスレーブの撮像装置106Sとの周波数的な同期をとることができる。
撮像装置106Sは、第4実施形態と同じ方法で、赤外線投光器9による赤外光の投光タイミングを調整する。これによって、撮像装置106M,106Sは、それぞれの赤外線投光器9による赤外光の投光タイミングを一致させた状態で同期させることができる。
<第7実施形態の撮像装置の構成の構成及び動作>
第4〜第6実施形態の撮像装置104〜106では、共通の基準クロックによって周波数的な同期をとることを前提としている。第7実施形態においては、複数の撮像装置で共通の基準クロックを用いない。第7実施形態の撮像装置は、複数の撮像装置それぞれが個別に、高精度な基準クロックを発生する基準クロック発生源を備える。
第4〜第6実施形態の撮像装置104〜106では、共通の基準クロックによって周波数的な同期をとることを前提としている。第7実施形態においては、複数の撮像装置で共通の基準クロックを用いない。第7実施形態の撮像装置は、複数の撮像装置それぞれが個別に、高精度な基準クロックを発生する基準クロック発生源を備える。
高精度な基準クロックを発生する基準クロック発生源としては、一例として、水晶発振器である。
第7実施形態複数の撮像装置は、定期的に、第4実施形態と同じ方法で、投光タイミングを一致させるよう投光タイミングを調整する。複数の撮像装置の投光タイミングのずれの許容度に応じて、投光タイミングを調整する時間間隔を設定すればよい。
高い色再現性が求められる場合には位相のずれの許容度が小さくなるので、時間間隔を極力短く設定するのがよい。さほどの高い色再現性が求められない場合には位相のずれの許容度が大きくなるので、時間間隔を比較的長く設定してもよい。
<第1〜第3実施形態の撮像装置のまとめ>
第1〜第3実施形態において、マスタの撮像装置101M〜103Mは、次のように構成される。
第1〜第3実施形態において、マスタの撮像装置101M〜103Mは、次のように構成される。
投光制御部71は、波長IR1〜IR3の赤外光を、所定の期間を3分割した3つの分割期間で選択的に投光させるそれぞれの分割期間の長さと順番とを制御するよう、赤外線投光器9を制御する。
撮像部3は、波長IR1〜IR3の赤外光の赤外光が選択的に投光されている状態で被写体を撮像する。同期信号送信部76t,9Bt,9Ctは、装置の外部、具体的には、マスタの撮像装置101M〜103M以外の他の撮像装置(スレーブの撮像装置101S〜103S)に同期信号を送信する。同期信号は、スレーブ側の撮像装置が備える投光制御部71が赤外線投光器9によって赤外光を投光させるタイミングを、マスタ側の投光制御部71が赤外線投光器9によって赤外光を投光させるタイミングと同期させるために用いられる。
マスタの撮像装置101M〜103Mが、スレーブ側の投光制御部71がスレーブ側の赤外線投光器9によって赤外光を投光させるタイミングを調整するためのタイミング調整モードに設定されているとき、投光制御部71は赤外線投光器9を次のように制御する。投光制御部71は、波長IR1〜IR3の赤外光のうちの1つの赤外光のみを3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とする。
マスタの撮像装置101M,102M,103Mにおける投光制御部71、赤外線投光器9を第1の投光制御部、第1の赤外線投光器とすると、スレーブの撮像装置101S〜103Sにおける投光制御部71、赤外線投光器9は、第2の投光制御部、第2の赤外線投光器である。
第1〜第3実施形態において、スレーブの撮像装置101S〜103Sは、次のように構成される。
投光制御部71は、波長IR1〜IR3の赤外光を、所定の期間を3分割した3つの分割期間で選択的に投光させるそれぞれの分割期間の長さと順番とを制御するよう、赤外線投光器9を制御する。
撮像部3は、波長IR1〜IR3の赤外光の赤外光が選択的に投光されている状態で被写体を撮像する。映像処理部5は、撮像部3によって撮像された撮像信号に基づいてR,G,Bそれぞれの映像信号を生成する。
同期信号受信部76r,9Br,9Crは、スレーブの撮像装置101S〜103S以外の他の撮像装置(マスタの撮像装置101M〜103M)が送信した同期信号を受信する。同期信号は、スレーブ側の投光制御部71が赤外線投光器9によって赤外光を投光させるタイミングを、マスタ側の投光制御部71が赤外線投光器9によって赤外光を投光させるタイミングと同期させるために用いられる。
スレーブの撮像装置101S〜103Sは、映像処理部5が生成したR,G,Bの映像信号の輝度レベルを判定する輝度レベル判定部75を備えるのがよい。スレーブの撮像装置101S〜103Sが、投光制御部71が赤外線投光器9によって赤外光を投光させるタイミングを調整するためのタイミング調整モードに設定されているとき、次のように動作するのがよい。
投光制御部71は、赤外光を無投光とするよう赤外線投光器9を制御する。撮像部3は、マスタ側の赤外線投光器9が波長IR1〜IR3の赤外光のうちの1つの赤外光のみを3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像する。
または、撮像部3は、マスタ側の赤外線投光器9が全ての波長の赤外光を投光して、赤外線カットフィルタ21を介することによって実質的に1つの波長の赤外光のみが投光されている状態として被写体を撮像する。赤外線カットフィルタ21とは、スレーブの撮像装置101S〜103Sに備えられている赤外線カットフィルタ21である。
投光制御部は、輝度レベル判定部75が判定したR,G,Bの映像信号の輝度レベルに基づいて、赤外光を投光させるタイミングを調整する。
スレーブの撮像装置101S〜103Sにおける投光制御部71、赤外線投光器9を第1の投光制御部、第1の赤外線投光器とすると、マスタの撮像装置101M〜103Mにおける投光制御部71、赤外線投光器9は、第2の投光制御部、第2の赤外線投光器である。
<第1〜第7実施形態のスレーブの撮像装置のまとめ>
第1〜第6実施形態のスレーブの撮像装置101S〜106S及び第7実施形態のスレーブの撮像装置は、投光制御部71(第1の投光制御部)と、撮像部3と、映像処理部5と、輝度レベル判定部75とを備える。スレーブの撮像装置は、タイミング調整モードに設定されているとき、次のように動作する。投光制御部71は、波長IR1〜IR3の赤外光を無投光とするよう赤外線投光器9(第1の赤外線投光器)を制御する。
第1〜第6実施形態のスレーブの撮像装置101S〜106S及び第7実施形態のスレーブの撮像装置は、投光制御部71(第1の投光制御部)と、撮像部3と、映像処理部5と、輝度レベル判定部75とを備える。スレーブの撮像装置は、タイミング調整モードに設定されているとき、次のように動作する。投光制御部71は、波長IR1〜IR3の赤外光を無投光とするよう赤外線投光器9(第1の赤外線投光器)を制御する。
撮像部3は、他の撮像装置が備える投光制御部71によって制御される赤外線投光器9が波長IR1〜IR3の赤外光のうちの1つの赤外光のみを3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像する。
他の撮像装置とは、マスタの撮像装置101M〜106M及び第7実施形態のマスタの撮像装置である。マスタの撮像装置における投光制御部71は第2の投光制御部であり、マスタの撮像装置における赤外線投光器9は第2の赤外線投光器である。
または、撮像部3は、第2の赤外線投光器が波長IR1〜IR3の赤外光を投光して、赤外線カットフィルタを介した状態で被写体を撮像する。
投光制御部71は、輝度レベル判定部75が判定したR,G,Bの映像信号の輝度レベルに基づいて、波長IR1〜IR3の赤外光を投光させるタイミングを調整する。
第1の投光制御部は、輝度レベル判定部75が次のように判定した状態となるように、赤外光を投光させるタイミングを調整するのがよい。第2の赤外線投光器が投光したRに対応付けられた色以外の2つの色の映像信号の輝度レベルが同等の第1のレベルである。かつ、第2の赤外線投光器が投光したRに対応付けられた色の映像信号の輝度レベルが第1のレベルより大きい第2のレベルである。
<第1〜第7実施形態の撮像装置の制御方法のまとめ>
複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法は次のとおりである。複数の撮像装置それぞれが、個々の赤外線投光器9によって、波長IR1〜IR3の赤外光を、所定の期間を3分割した3つの分割期間で選択的に投光させるタイミングを互いに同期させる。複数の撮像装置それぞれによって、波長IR1〜IR3の赤外光が選択的に投光されている状態で被写体を撮像させる。
複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法は次のとおりである。複数の撮像装置それぞれが、個々の赤外線投光器9によって、波長IR1〜IR3の赤外光を、所定の期間を3分割した3つの分割期間で選択的に投光させるタイミングを互いに同期させる。複数の撮像装置それぞれによって、波長IR1〜IR3の赤外光が選択的に投光されている状態で被写体を撮像させる。
<第4〜第6実施形態の撮像装置の制御方法のまとめ>
複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法は次のとおりである。複数の撮像装置を共通の基準クロックで動作させる。複数の撮像装置のうちの1つの撮像装置をマスタの撮像装置とし、マスタの撮像装置以外をスレーブの撮像装置とする。
複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法は次のとおりである。複数の撮像装置を共通の基準クロックで動作させる。複数の撮像装置のうちの1つの撮像装置をマスタの撮像装置とし、マスタの撮像装置以外をスレーブの撮像装置とする。
マスタの撮像装置が備える第1の投光制御部が第1の赤外線投光器を制御して、波長IR1〜IR3の赤外光とのうちの1つの赤外光のみを、所定の期間を3分割した3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とする。または、波長IR1〜IR3の赤外光を3つの分割期間でそれぞれ投光させる。
スレーブの撮像装置が備える第2の投光制御部が波長IR1〜IR3の赤外光を無投光とするよう第2の赤外線投光器を制御する。
スレーブの撮像装置が備える撮像部3が、1つの赤外光のみが投光されている状態か、波長IR1〜IR3の赤外光を、赤外線カットフィルタを介した状態で被写体を撮像する。スレーブの撮像装置が備える輝度レベル判定部75が、撮像部3によって撮像された撮像信号に基づいて生成されたR,G,Bそれぞれの映像信号の輝度レベルを判定する。
第2の投光制御部が、輝度レベル判定部75が判定したR,G,Bの映像信号の輝度レベルに基づいて、第2の赤外線投光器によって波長IR1〜IR3の赤外光を投光させるタイミングを調整する。
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。例えば、図1,図38,図40,図41,図46,図47に示す撮像装置において、赤外線投光器9を撮像装置の筐体と着脱自在にしてもよい。赤外線投光器9を、撮像装置外部の構成としてもよい。撮像装置は、赤外線投光器9を装着したときに、赤外線投光器9を制御する構成を有すればよい。
また、複数の撮像装置における赤外光を投光させるタイミングを同期させるには、赤外光を発光させるタイミングと消灯させるタイミングとを完全に一致させなくてもよい。マスタの撮像装置における所定の赤外光に対応する露光区間において、スレーブの撮像装置が、その所定の赤外光以外の赤外光を投光しないようにすればよい。
撮影に影響が少ない程度の時間であれば、マスタの撮像装置における所定の赤外光に対応する露光区間において、スレーブの撮像装置が、その所定の赤外光以外の赤外光を投光することを許容してもよい。
例えば、マスタの撮像装置における所定の赤外光に対応する露光区間の少なくとも半分以上の区間において、スレーブの撮像装置が、その所定の赤外光以外の赤外光を投光しないようにすればよい。
さらに、本発明は以上説明した本実施形態に限定されるものではなく、赤外光を用いた他の撮像技術にも適用可能である。制御部7や映像処理部5は、1または複数のハードウェアのプロセッサを用いて実現することができる。
以上の説明において、マスタとスレーブの定義は各実施形態において異なっていてもよい。
3 撮像部
5 映像処理部
7 制御部
9 赤外線投光器
71 投光制御部
75 輝度レベル判定部
76t 同期信号送信部
76r 同期信号受信部
5 映像処理部
7 制御部
9 赤外線投光器
71 投光制御部
75 輝度レベル判定部
76t 同期信号送信部
76r 同期信号受信部
Claims (3)
- 撮像装置であり、
赤色に対応付けられた第1の波長を有する第1の赤外光と、緑色に対応付けられた第2の波長を有する第2の赤外光と、青色に対応付けられた第3の波長を有する第3の赤外光とを、所定の期間を3分割した3つの分割期間で選択的に投光させるそれぞれの期間の長さと順番とを制御するよう、第1の赤外線投光器を制御する第1の投光制御部と、
前記第1〜第3の赤外光が選択的に投光されている状態で被写体を撮像する撮像部と、
前記撮像部によって撮像された撮像信号に基づいて赤色と緑色と青色それぞれの映像信号を生成する映像処理部と、
前記映像処理部が生成した赤色と緑色と青色の映像信号の輝度レベルを判定する輝度レベル判定部と、
を備え、
前記撮像装置が、前記第1の投光制御部が前記第1の赤外線投光器によって前記第1〜第3の赤外光を投光させるタイミングを調整するためのタイミング調整モードに設定されているとき、
前記第1の投光制御部は、前記第1〜第3の赤外光を無投光とするよう前記第1の赤外線投光器を制御し、
前記撮像部は、前記撮像装置以外の他の撮像装置が備える第2の投光制御部によって制御される第2の赤外線投光器が前記第1〜第3の赤外光のうちの1つの赤外光を前記3つの分割期間における1つの分割期間内で投光し、残りの2つの分割期間を無投光とした状態で被写体を撮像するか、前記第2の赤外線投光器が前記第1〜第3の赤外光を投光して、赤外線カットフィルタを介した状態で被写体を撮像し、
前記第1の投光制御部は、前記輝度レベル判定部が判定した赤色と緑色と青色の映像信号の輝度レベルに基づいて、前記第1〜第3の赤外光を投光させるタイミングを調整する
ことを特徴とする撮像装置。 - 前記第1の投光制御部は、前記第1〜第3の赤外光を投光させるタイミングを、前記輝度レベル判定部が、前記第2の赤外線投光器が投光した赤色に対応付けられた色以外の2つの色の映像信号の輝度レベルが同等の第1のレベルであり、前記第2の赤外線投光器が投光した赤色に対応付けられた色の映像信号の輝度レベルが前記第1のレベルより大きい第2のレベルであると判定した状態のタイミングに調整することを特徴とする請求項1記載の撮像装置。
- 複数の撮像装置を備える撮像システムに用いる撮像装置の制御方法であり、
前記複数の撮像装置を共通の基準クロックで動作させ、
前記複数の撮像装置のうちの1つの撮像装置をマスタの撮像装置とし、前記マスタの撮像装置以外をスレーブの撮像装置とし、
前記マスタの撮像装置が備える第1の投光制御部が第1の赤外線投光器を制御して、赤色に対応付けられた第1の波長を有する第1の赤外光と、緑色に対応付けられた第2の波長を有する第2の赤外光と、青色に対応付けられた第3の波長を有する第3の赤外光とのうちの1つの赤外光を、所定の期間を3分割した3つの分割期間における1つの分割期間内で投光させ、残りの2つの分割期間を無投光とするか、前記第1〜第3の赤外光を前記3つの分割期間でそれぞれ投光させ、
前記スレーブの撮像装置が備える第2の投光制御部が前記第1〜第3の赤外光を無投光とするよう第2の赤外線投光器を制御し、
前記スレーブの撮像装置が備える撮像部が、前記1つの赤外光が投光されている状態か、前記第1〜第3の赤外光を、赤外線カットフィルタを介した状態で被写体を撮像し、
前記スレーブの撮像装置が備える輝度レベル判定部が、前記撮像部によって撮像された撮像信号に基づいて生成された赤色と緑色と青色それぞれの映像信号の輝度レベルを判定し、
前記第2の投光制御部が、前記輝度レベル判定部が判定した赤色と緑色と青色の映像信号の輝度レベルに基づいて、前記第2の赤外線投光器によって前記第1〜第3の赤外光を投光させるタイミングを調整する
ことを特徴とする撮像装置の制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014021004A JP6183238B2 (ja) | 2014-02-06 | 2014-02-06 | 撮像装置及び撮像装置の制御方法 |
CN201580005174.XA CN105917638B (zh) | 2014-02-06 | 2015-01-14 | 摄像装置和摄像装置的控制方法、以及摄像系统和摄像系统的控制方法 |
PCT/JP2015/050724 WO2015118911A1 (ja) | 2014-02-06 | 2015-01-14 | 撮像装置及び撮像装置の制御方法、並びに、撮像システム及び撮像システムの制御方法 |
US15/212,814 US10171759B2 (en) | 2014-02-06 | 2016-07-18 | Imaging device, method for controlling imaging device, imaging system, and method for controlling imaging system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014021004A JP6183238B2 (ja) | 2014-02-06 | 2014-02-06 | 撮像装置及び撮像装置の制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015149585A true JP2015149585A (ja) | 2015-08-20 |
JP6183238B2 JP6183238B2 (ja) | 2017-08-23 |
Family
ID=53892648
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014021004A Active JP6183238B2 (ja) | 2014-02-06 | 2014-02-06 | 撮像装置及び撮像装置の制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6183238B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018079372A1 (ja) | 2016-10-28 | 2018-05-03 | 京セラ株式会社 | 撮像装置、撮像システム、移動体、及び撮像方法 |
CN110278362A (zh) * | 2019-06-30 | 2019-09-24 | Oppo广东移动通信有限公司 | 电子设备及电子设备的控制方法 |
CN111398975A (zh) * | 2018-12-27 | 2020-07-10 | 株式会社小糸制作所 | 主动传感器、物体识别系统、车辆、车辆用灯具 |
CN113163124A (zh) * | 2020-01-22 | 2021-07-23 | 杭州海康威视数字技术股份有限公司 | 一种成像系统及图像处理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08130748A (ja) * | 1994-10-31 | 1996-05-21 | Sony Tektronix Corp | カラー静止画像撮影装置 |
JP2013243589A (ja) * | 2012-05-22 | 2013-12-05 | Fujitsu General Ltd | 暗視撮像装置および赤外線照射装置および暗視撮像システム |
-
2014
- 2014-02-06 JP JP2014021004A patent/JP6183238B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08130748A (ja) * | 1994-10-31 | 1996-05-21 | Sony Tektronix Corp | カラー静止画像撮影装置 |
JP2013243589A (ja) * | 2012-05-22 | 2013-12-05 | Fujitsu General Ltd | 暗視撮像装置および赤外線照射装置および暗視撮像システム |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018079372A1 (ja) | 2016-10-28 | 2018-05-03 | 京セラ株式会社 | 撮像装置、撮像システム、移動体、及び撮像方法 |
US10742890B2 (en) | 2016-10-28 | 2020-08-11 | Kyocera Corporation | Imaging apparatus, imaging system, moving body, and imaging method |
CN111398975A (zh) * | 2018-12-27 | 2020-07-10 | 株式会社小糸制作所 | 主动传感器、物体识别系统、车辆、车辆用灯具 |
CN111398975B (zh) * | 2018-12-27 | 2023-12-05 | 株式会社小糸制作所 | 主动传感器、物体识别系统、车辆、车辆用灯具 |
CN110278362A (zh) * | 2019-06-30 | 2019-09-24 | Oppo广东移动通信有限公司 | 电子设备及电子设备的控制方法 |
CN113163124A (zh) * | 2020-01-22 | 2021-07-23 | 杭州海康威视数字技术股份有限公司 | 一种成像系统及图像处理方法 |
CN113163124B (zh) * | 2020-01-22 | 2022-06-03 | 杭州海康威视数字技术股份有限公司 | 一种成像系统及图像处理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6183238B2 (ja) | 2017-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2015118911A1 (ja) | 撮像装置及び撮像装置の制御方法、並びに、撮像システム及び撮像システムの制御方法 | |
US10230883B2 (en) | Imaging device, method for controlling imaging device, and control program | |
US10313608B2 (en) | Imaging device, method for controlling imaging device, and control program | |
JP6183238B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
US10178327B2 (en) | Imaging device, method for controlling imaging device, and control program | |
JP6318789B2 (ja) | 映像処理装置、映像処理方法、及び映像処理プログラム | |
JP6136948B2 (ja) | 撮像装置、映像信号処理方法及び映像信号処理プログラム | |
JP6090191B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP6090217B2 (ja) | 撮像システム及び撮像システムの制御方法 | |
JP5692446B1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP6344279B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP6221911B2 (ja) | 撮像装置、映像信号処理方法及び映像信号処理プログラム | |
WO2015115142A1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP6331966B2 (ja) | 撮像装置及び撮像装置の調整方法 | |
JP5655969B1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP6260512B2 (ja) | 撮像装置、撮像方法、撮像プログラム | |
JP6160546B2 (ja) | 映像処理装置、撮像装置、映像処理方法、及び映像処理プログラム | |
JP6330704B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
JP6299556B2 (ja) | 撮像装置、撮像方法、撮像プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160425 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170710 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6183238 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |