JP5692446B1 - 撮像装置、撮像装置の制御方法及び制御プログラム - Google Patents

撮像装置、撮像装置の制御方法及び制御プログラム Download PDF

Info

Publication number
JP5692446B1
JP5692446B1 JP2014135764A JP2014135764A JP5692446B1 JP 5692446 B1 JP5692446 B1 JP 5692446B1 JP 2014135764 A JP2014135764 A JP 2014135764A JP 2014135764 A JP2014135764 A JP 2014135764A JP 5692446 B1 JP5692446 B1 JP 5692446B1
Authority
JP
Japan
Prior art keywords
mode
imaging
frame
pixel data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014135764A
Other languages
English (en)
Other versions
JP2015126537A (ja
Inventor
関口 智
智 関口
笹生 剛良
剛良 笹生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2014135764A priority Critical patent/JP5692446B1/ja
Application granted granted Critical
Publication of JP5692446B1 publication Critical patent/JP5692446B1/ja
Publication of JP2015126537A publication Critical patent/JP2015126537A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Stroboscope Apparatuses (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】第1のモードと第2のモードとを、映像の乱れが発生せず映像を切り換えることができる撮像装置を提供する。【解決手段】映像処理部5は第1の映像信号を生成し、映像出力部6は第2の映像信号を生成する。撮像部3は、第1のモードでは、第2の映像信号の1フレーム期間に対応させて露光し、第2のモードでは、第2の映像信号の1フレーム期間を複数の区間に分割した各区間で互いに異なる撮像条件で露光する。映像処理部5は、第1のモードでは、1フレーム期間に対応させた露光に対応して読み出された撮像信号に基づいて、第1の映像信号のフレームを生成し、第2のモードでは、各区間の露光に対応して読み出された撮像信号に基づいて、第1の映像信号のフレームを生成する。映像出力部6は、第2の映像信号を、第1のモードと前記第2のモードとで共通の信号方式とし、第2の映像信号のフレームを連続的に出力する。【選択図】図1

Description

本発明は、撮像装置、撮像装置の制御方法及び制御プログラムに関する。
従来、例えば夜間等の可視光がほとんどない環境下において被写体を撮像するために、
赤外線投光器によって被写体に赤外光を照射し、被写体から反射した赤外光を撮像する方
法が用いられている。この方法は、可視光を照射するライトを用いることができない場合
に有効な撮像方法である。
しかしながら、この撮像方法によって被写体を撮像した映像は、モノクロ映像となる。
モノクロ映像では物体の識別が困難となることがある。可視光がない環境下でもカラー映
像を撮像することができれば、物体の識別性を向上させることができる。例えば監視カメ
ラでは、物体の識別性を向上させるために、可視光がない環境下でもカラー映像を撮像す
ることが望まれる。
特許文献1には、可視光がない環境下でもカラー映像を撮像することができる撮像装置
が記載されている。特許文献1に記載されている撮像装置においても、赤外線投光器が用
いられる。監視カメラに特許文献1に記載の技術を搭載すれば、被写体をカラー映像化し
て物体の識別性を向上させることが可能となる。
特開2011−50049号公報
1台の撮像装置で、可視光が存在する環境下での通常の撮像と、可視光が少ない環境下
での赤外線投光器を用いた暗視撮像との双方を可能とすることが望まれる。撮像装置が赤
外線投光器を使用せず通常の撮像を実行するモードを通常モード、撮像装置が赤外線投光
器によって赤外光を投光している状態で撮像を実行するモードを赤外光投光モードと称す
ることとする。
撮像装置が通常モードと赤外光投光モードとの2つの撮像モードを搭載する場合、通常
モード(第1のモード)から赤外光投光モード(第2のモード)へ、赤外光投光モード(
第2のモード)から通常モード(第1のモード)へと、映像の乱れが発生せず映像が切り
換えられるのがよい。
本発明は、可視光が存在する環境下で赤外光を投光しない状態で被写体を撮像する第1
のモードと、可視光が少ない環境下で、赤外光を投光しながら被写体を撮像する第2のモ
ードとを、映像の乱れが発生せず映像を切り換えることができる撮像装置、撮像装置の制
御方法及び制御プログラムを提供することを目的とする。
赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像部と、前記撮像部より出力された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力部とを備え、前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長いことを特徴とする撮像装置を提供する。
赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像ステップと、前記撮像ステップにおいて撮像された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力ステップとを有し、前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長いことを特徴とする撮像装置の制御方法を提供する。
赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像ステップと、前記撮像ステップにおいて撮像された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力ステップとをコンピュータに実行させ、前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長いことを特徴とする撮像装置の制御プログラムを提供する。
本発明の撮像装置、撮像装置の制御方法及び制御プログラムによれば、可視光が存在す
る環境下で赤外光を投光しない状態で被写体を撮像する第1のモードと、可視光が少ない
環境下で、赤外光を投光しながら被写体を撮像する第2のモードとを、映像の乱れが発生
せず映像を切り換えることができる。
一実施形態の撮像装置の全体的な構成を示すブロック図である。 一実施形態の撮像装置に用いられるカラーフィルタにおける色フィルタの配列の一例を示す図である。 一実施形態の撮像装置を構成する撮像部における3原色光の波長と相対感度との分光感度特性を示す特性図である。 所定の物質からの3原色光の反射率にシリコンの受光感度を乗じたときの、波長と相対検出率との関係を示す特性図である。 図1中の撮像素子31の具体的な構成例を示すブロック図である。 図5に示す撮像素子31の露光及び撮像信号の読み出しの動作を説明するための図である。 図1中の前信号処理部52の具体的な構成例を示すブロック図である。 一実施形態の撮像装置が通常モードで動作しているときのデモザイク処理を説明するための図である。 一実施形態の撮像装置が中間モード及び暗視モードで動作しているときの露光と映像信号のフレームとの関係を概略的に示す図である。 一実施形態の撮像装置が中間第1モードで動作しているときの前信号処理を説明するための図である。 一実施形態の撮像装置が中間第1モードで動作しているときのデモザイク処理を説明するための図である。 一実施形態の撮像装置が中間第2モードで動作しているときの前信号処理を説明するための図である。 一実施形態の撮像装置が中間第2モードで動作しているときのデモザイク処理を説明するための図である。 一実施形態の撮像装置が暗視モードで動作しているときの周囲画素の加算処理を説明するための図である。 周囲画素の加算処理が施されたフレームを示す図である。 一実施形態の撮像装置が暗視第1モードで動作しているときの前信号処理を説明するための図である。 一実施形態の撮像装置が暗視第1モードで動作しているときのデモザイク処理を説明するための図である。 一実施形態の撮像装置が暗視第2モードで動作しているときの前信号処理を説明するための図である。 一実施形態の撮像装置が暗視第2モードで動作しているときのデモザイク処理を説明するための図である。 一実施形態の撮像装置におけるモード切換の例を説明するための図である。 一実施形態の撮像装置がそれぞれのモードに設定されているときの各部の状態を示す図である。 一実施形態の撮像装置の第1の変形例を示す部分ブロック図である。 一実施形態の撮像装置の第2の変形例を示す部分ブロック図である。 一実施形態の撮像装置の第3の変形例を示す部分ブロック図である。 一実施形態の撮像装置で実行される映像信号処理方法を示すフローチャートである。 図25におけるステップS3に示す通常モードの具体的な処理を示すフローチャートである。 図25におけるステップS4の中間モードの具体的な処理を示すフローチャートである。 図25におけるステップS5の暗視モードの具体的な処理を示すフローチャートである。 一実施形態の撮像装置内に記憶されている映像信号処理プログラムがコンピュータに実行させる処理を示すフローチャートである。 通常モードと赤外光投光モードとのモード切換方法の第1の例のシーケンスを示す図である。 通常モードと赤外光投光モードとのモード切換方法の第1の例のシーケンスを示す図である。 通常モードと赤外光投光モードとのモード切換方法の第2の例のシーケンスを示す図である。 通常モードと赤外光投光モードとのモード切換方法の第2の例のシーケンスを示す図である。 通常モードと赤外光投光モードとのモード切換方法の第3の例のシーケンスを示す図である。 通常モードと赤外光投光モードとのモード切換方法の第3の例のシーケンスを示す図である。
以下、一実施形態の撮像装置、撮像装置の制御方法及び制御プログラムについて、添付
図面を参照して説明する。
<撮像装置の構成>
まず、図1を用いて、一実施形態の撮像装置の全体的な構成について説明する。図1に
示す一実施形態の撮像装置は、昼間等の可視光が十分に存在する環境下に適した通常モー
ドと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存
在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
暗視モードと中間モードとはいずれも可視光が少ない環境下で、赤外線を投光しながら
撮像する赤外光投光モードである。赤外光投光モードは暗視モードのみであってもよい。
本実施形態では、好ましい構成として、中間モードを含む3つのモードで撮像可能な撮像
装置を例とする。
図1において、被写体から反射した一点鎖線にて示す光は、光学レンズ1によって集光
される。ここで、光学レンズ1には、可視光が十分に存在する環境下では可視光、可視光
がほとんどない環境下では後述する赤外線投光器9より発せられた赤外光を被写体が反射
した赤外光が入射される。
可視光がわずかに存在する環境下では、光学レンズ1には、可視光と赤外線投光器9よ
り発せられた赤外光を被写体が反射した赤外光とが混在した光が入射される。
図1では簡略化のため、光学レンズ1を1つのみとしているが、実際には、撮像装置は
複数の光学レンズを備える。
光学レンズ1と撮像部3との間には、光学フィルタ2が設けられている。光学フィルタ
2は、赤外線カットフィルタ21とダミーガラス22との2つの部分を有する。光学フィ
ルタ2は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ2
1を挿入した状態と、光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態
とのいずれかの状態に駆動される。
撮像部3は、水平方向及び垂直方向に複数の受光素子(画素)が配列した撮像素子31
と、それぞれの受光素子に対応して赤色(R),緑色(G),青色(B)のいずれかの色
フィルタが配置されたカラーフィルタ32とを有する。撮像素子31は、CCD(Charge
Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)でよい
カラーフィルタ32には、一例として、図2に示すように、R,G,Bの色フィルタが
ベイヤ配列と称される配列で並べられている。ベイヤ配列は、R,G,Bの色フィルタの
所定の配列の一例である。図2において、各行のRの色フィルタに挟まれたGの色フィル
タをGr、Bの色フィルタに挟まれたGの色フィルタをGbとしている。
ベイヤ配列では、Rの色フィルタとGrの色フィルタとが交互に配置された水平方向の
行と、Bの色フィルタとGbの色フィルタとが交互に配置された水平方向の行とが、垂直
方向に交互に配列されている。
図3は、撮像部3におけるR光,G光,B光の波長と相対感度との分光感度特性を示し
ている。相対感度は、最大値が1に正規化されている。撮像装置を通常モードで動作させ
るとき、可視光による良好なカラー映像を撮像するには、波長700nm以上の赤外光を
カットする必要がある。
そこで、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間
に赤外線カットフィルタ21を挿入するように光学フィルタ2を駆動する。
図3より分かるように、撮像部3は、波長700nm以上の赤外光の領域においても感
度を有する。そこで、撮像装置を中間モードまたは暗視モードで動作させるときには、駆
動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間の赤外線カッ
トフィルタ21を外してダミーガラス22を挿入するように光学フィルタ2を駆動する。
光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態では、波長700n
m以上の赤外光はカットされない。よって、撮像装置は、図3に破線の楕円で囲んだ部分
の感度を利用して、R,G,Bの各色情報を得ることが可能となる。ダミーガラス22を
挿入するのは、光路長を、赤外線カットフィルタ21を挿入した場合の光路長と同じにす
るためである。
赤外線投光器9は、それぞれ、波長IR1,IR2,IR3の赤外光を投光する投光部
91,92,93を有する。中間モードまたは暗視モードのとき、制御部7内の投光制御
部71は、時分割で投光部91〜93より波長IR1〜IR3の赤外光を選択的に投光さ
せるように制御する。
ところで、撮像素子31にはシリコンウェハが用いられている。図4は、R,G,Bそ
れぞれの色を呈する素材に白色光を照射した場合の各波長における反射率にシリコンの受
光感度を乗じたときの、波長と相対検出率との関係を示している。図4においても、相対
検出率は、最大値が1に正規化されている。
図4に示すように、赤外光の領域において、例えば、波長780nmにおける反射光は
R色を呈する素材の反射光との相関性が高く、波長870nmにおける反射光はB色を呈
する素材の反射光との相関性が高く、波長940nmにおける反射光はG色を呈する素材
の反射光との相関性が高い。
そこで、本実施形態においては、投光部91,92,93が投光する赤外光の波長IR
1,IR2,IR3を、780nm,940nm,870nmとする。これらの波長は、
波長IR1〜IR3の一例であり、780nm,940nm,870nm以外でもよい。
投光部91が波長IR1の赤外光を被写体に照射し、被写体から反射した光を撮像した
映像信号をR信号に割り当てる。投光部93が波長IR2の赤外光を被写体に照射し、被
写体から反射した光を撮像した映像信号をG信号に割り当てる。投光部92が波長IR3
の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をB信号に割り当
てる。
このようにすれば、原理的に、中間モードまたは暗視モードにおいても、通常モードに
おいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができ
る。
色味が被写体の実際の色味と異なるカラー映像となるものの、780nmの波長IR1
をR光、870nmの波長IR3をG光、940nmの波長IR2をB光に割り当てても
よい。波長IR1,IR2,IR3をR光,G光,B光に任意に割り当てることも可能で
ある。
本実施形態においては、被写体の色味を最もよく再現する、波長IR1,IR2,IR
3をそれぞれR光,G光,B光に割り当てることとする。
制御部7は、撮像部3における撮像と、映像処理部5内の各部と、映像出力部6とを制
御する。
撮像素子31がCCDである場合を例として、撮像素子31の概略的な構成と、制御部
7が撮像部3をどのように制御するかについて説明する。
図5に示すように、撮像素子31は水平方向及び垂直方向に配列した複数の受光素子P
xを備える。撮像素子31は、垂直方向に並んだ受光素子Pxのそれぞれの列に対応した
垂直転送レジスタ3vrと、それぞれの垂直転送レジスタ3vrに接続された水平転送レ
ジスタ3hrとを備える。
水平方向及び垂直方向に配列した複数の受光素子Pxそれぞれに、図2で説明したカラ
ーフィルタ32のR,G,Bの色フィルタが対応付けられている。実際には、図5に示す
ように、互いに隣り合う受光素子Pxは水平方向及び垂直方向に離間した状態で配置され
ているが、図2では便宜上、カラーフィルタ32を互いに隣り合う色フィルタが密着して
いる状態で示している。
図6において、(a)は撮像素子31の受光素子Pxの露光を示している。受光素子P
xの最大露光時間をtExmaxとする。最大露光時間tExmaxは、1フレーム期間に相当する。
受光素子Pxの露光時間は、最大露光時間tExmaxを最大として、シャッタスピードに応じ
て増減する。
撮像素子31には、例えば1水平期間の間隔で露光により蓄積した電荷を排出するため
の抜き取りパルスPs1が供給される。制御部7が所定のタイミングで抜き取りパルスP
s1の供給を停止させると、抜き取りパルスPs1の供給が停止された以降がハッチング
で示す時間の露光Ex1,Ex2…となる。
撮像素子31には、最大露光時間tExmaxに達するタイミングで、読み出しパルスPs2
が供給される。撮像素子31に読み出しパルスPs2が供給されると、図5におけるそれ
ぞれの列の受光素子Pxに蓄積された電荷は、垂直転送レジスタ3vrへと一括して転送
される。
垂直転送レジスタ3vrは、受光素子Pxより転送された電荷を垂直転送クロックによ
って水平転送レジスタ3hrへと順次転送する。水平転送レジスタ3hrは、それぞれの
垂直転送レジスタ3vrより転送された電荷を水平転送クロックによって順次転送する。
水平転送レジスタ3hrが転送する電荷は、出力アンプ3apによって増幅されて電圧信
号に変換されて出力される。
図6において、(b)に示すように、撮像素子31は、読み出しパルスPs2が供給さ
れた以降の1フレーム期間に渡って、露光Ex1,Ex2…によって得られた電荷を電圧
信号として読み出すことにより、撮像信号のフレームF1,F2…を出力する。フレーム
F1,F2…の撮像信号は、A/D変換器4に供給される。
A/D変換器4に入力された撮像信号はA/D変換され、映像処理部5に入力される。
撮像部3とA/D変換器4とが一体化されていてもよい。
制御部7は、映像処理部5内に設けられたフレームバッファ50への映像データの書き
込みとフレームバッファ50からの映像データの読み出しを制御する書込・読出制御部7
0と、通常モードと中間モードと暗視モードとを切り換えるモード切換部72を備える。
書込・読出制御部70によって映像データがフレームバッファ50どのように書き込まれ
、読み出されるかについては後述する。
モード切換部72は、通常モードと中間モードと暗視モードとに対応させて、映像処理
部5内の動作を後述のように適宜切り換える。映像処理部5と制御部7とが一体化されて
いてもよい。
映像処理部5は、フレームバッファ50と、スイッチ51,53と、前信号処理部52
と、デモザイク処理部54とを有する。フレームバッファ50は、それぞれ1フレーム分
の容量のメモリ50a〜50fを有する。破線で示すように、フレームバッファ50が、
合計6フレーム分の容量のメモリ50a〜50fに加えて、それぞれ1フレーム分の容量
のメモリ50g〜50iを有する場合もある。
スイッチ51,53は物理的なスイッチであってもよく、前信号処理部52の動作と不
動作とを切り換えるための概念的なスイッチであってもよい。制御部7には、撮像してい
る映像の明るさを検出するために、映像処理部5から映像信号が入力される。
図7に示すように、前信号処理部52は、周囲画素加算部521と、同一位置画素加算
部522と、合成部523とを有する。
映像処理部5は、R,G,Bの3原色データを生成して、映像出力部6に供給する。映
像出力部6は、3原色データを所定の形式で図示していない表示部等へと出力する。
映像出力部6は、R,G,B信号をそのまま出力してもよいし、R,G,B信号を輝度
信号と色信号(または色差信号)に変換して出力してもよい。映像出力部6は、コンポジ
ット映像信号を出力してもよい。映像出力部6は、デジタル信号の映像信号を出力しても
よいし、D/A変換器によってアナログ信号に変換した映像信号を出力してもよい。
本実施形態においては、映像出力部6はNTSCエンコーダ61を有し、制御部7によ
る制御に基づいて、NTSC方式のインターレース方式の映像信号を出力するものとする
。映像出力部6は、NTSCエンコーダ61の代わりに、PAL方式の映像信号を生成す
るためのPALエンコーダを有する構成とすることも可能である。また、HDTV(High
-definition television)方式でもよく、映像出力部6は種々の方式に適用可能である。
以下、通常モードと中間モードと暗視モードとのそれぞれの具体的な動作について説明
する。
<通常モード>
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤
外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光
の投光をオフにする。
撮像部3によって撮像された撮像信号は、A/D変換器4によってデジタル信号である
映像データに変換されて、映像処理部5に入力される。通常モードでは、モード切換部7
2は、スイッチ51,53を端子Tbに接続するように制御する。
図6で説明したように、露光Ex1に基づいて、映像信号のフレームF1が得られる。
露光Ex2に基づいて、映像信号のフレームF2が得られる。以降の露光でも同様である
。映像信号のフレーム周波数を、例えば30フレーム/秒とする。
映像信号のフレーム周波数は、NTSC方式であれば30フレーム/秒または60フレ
ーム/秒、PAL方式であれば25フレーム/秒または50フレーム/秒のように適宜設
定すればよい。また、映像信号のフレーム周波数は、映画で使われている24フレーム/
秒であってもよい。
A/D変換器4より出力された各フレームの映像データは、フレームバッファ50に一
時的に保持される。フレームバッファ50より読み出された映像データは、スイッチ51
,53を介してデモザイク処理部54に入力される。デモザイク処理部54は、入力され
た各フレームの映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の
他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原
色データを出力する。
図8を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図8
において、(a)は映像データの任意のフレームFmを示している。フレームFmは、有
効映像期間の画素によって構成されたフレームである。映像データの画素数は、例えばV
GA規格では水平640画素、垂直480画素である。ここでは簡略化のため、フレーム
Fmの画素数を大幅に少なくして、フレームFmを概念的に示している。
ベイヤ配列の撮像部3を用いて生成された映像データは、フレームFm内で、R,G,
Bの画素データが混在したデータである。デモザイク処理部54は、Rの画素データが存
在しない画素位置のRの画素データを周囲のRの画素データを用いて算出したRの補間画
素データRiを生成する。デモザイク処理部54は、図8の(b)に示す1フレームの全
画素がRの画素データよりなるRフレームFmRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周
囲のGの画素データを用いて算出したGの補間画素データGiを生成する。デモザイク処
理部54は、図8の(c)に示す1フレームの全画素がGの画素データよりなるGフレー
ムFmGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周
囲のBの画素データを用いて算出したBの補間画素データBiを生成する。デモザイク処
理部54は、図8の(d)に示す1フレームの全画素がBの画素データよりなるBフレー
ムFmBを生成する。
デモザイク処理部54は、Rの画素データを補間する際には少なくともRの画素データ
を用いればよく、Gの画素データを補間する際には少なくともGの画素データを用いれば
よく、Bの画素データを補間する際には少なくともBの画素データを用いればよい。デモ
ザイク処理部54は、補間精度を向上させるために、R,G,Bの画素データを補間する
際に、生成しようとする補間画素データの色とは異なる他の色の画素データを用いてもよ
い。
撮像部3には、有効映像期間より外側の画素も存在しているため、フレームFmの上下
左右端部に位置する画素においても、R,G,Bの画素データを補間することができる。
デモザイク処理部54によって生成されたRフレームFmR,GフレームFmG,Bフ
レームFmBがR,G,Bの3原色データとして出力される。図8では、理解を容易にす
るため、R,G,Bの画素データをフレーム単位で説明したが、実際には、R,G,Bの
画素データは画素ごとに順次出力される。
<中間モード:中間第1モード>
中間モード(中間第1モード及び後述する中間第2モード)では、制御部7は、駆動部
8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御
部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイ
ッチ51,53を端子Taに接続するように制御する。
図9の(a)は、赤外線投光器9による赤外光の投光の状態を示している。制御部7は
、通常モードの1フレーム期間を1/3ずつに分け、例えば投光部91,92,93の順
に赤外光を投光させるように制御する。
図9の(a)に示す例では、1フレームの最初の1/3の期間では、波長IR1(78
0nm)の赤外光が被写体に照射される。1フレームの次の1/3の期間では、波長IR
2(940nm)の赤外光が被写体に照射される。1フレームの最後の1/3の期間では
、波長IR3(870nm)の赤外光が被写体に照射される。波長IR1〜IR3の赤外
光を投光する順番は任意である。
図9の(b)に示すように、波長IR1の赤外光を投光しているタイミングでは、撮像
部3はR光との相関性が高い露光Ex1Rが行われる。波長IR2の赤外光を投光しているタ
イミングでは、撮像部3はG光との相関性が高い露光Ex1Gが行われる。波長IR3の赤外
光を投光しているタイミングでは、撮像部3はB光との相関性が高い露光Ex1Bが行われる
但し、中間モードでは、可視光がわずかに存在する環境下での撮像であるため、可視光
と赤外線投光器9より投光された赤外光とが混在した状態である。よって、中間モードに
おいては、露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、可視光による露光と赤外光に
よる露光とを合わせた露光となる。
図9の(c)に示すように、露光Ex1R,Ex1G,Ex1Bに基づいて、所定時間後に、露光Ex
1Rに対応したフレームF1IR1、露光Ex1Gに対応したフレームF1IR3、露光Ex1Bに対応したフ
レームF1IR2が得られる。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、所定時間後に、露光Ex2Rに対応したフレーム
F2IR1、露光Ex2Gに対応したフレームF2IR3、露光Ex2Bに対応したフレームF2IR2が得られ
る。露光Ex3R,Ex3G,Ex3B以降も同様である。
図9の(c)の撮像信号のフレーム周波数は、90フレーム/秒である。中間モードで
は、通常モードにおける映像信号の1フレームを時分割して波長IR1〜IR3の赤外光
を投光するため、通常モードと同じ形式の映像信号を出力するためには、図9の(c)の
撮像信号のフレーム周波数は、通常モードにおけるフレーム周波数の3倍となる。
後述するように、図9の(c)の3フレームの撮像信号に基づいて、図9の(d)に示
す30フレーム/秒のフレーム周波数を有する映像信号の1フレームが生成される。ここ
では概略的にインターレース方式の映像信号ではなく、プログレッシブ方式の映像信号と
して説明する。例えば、フレームF1IR1,F1IR2,F1IR3に基づいてフレームF1IRが生成さ
れ、フレームF2IR1,F2IR2,F2IR3に基づいてフレームF2IRが生成される。
図9の(c)の3フレームの撮像信号に基づいて、図9の(d)の各フレームの映像信
号を生成する中間モードでの動作を具体的に説明する。
A/D変換器4より出力された図9の(c)に示す撮像信号に対応する各フレームの映
像データは、フレームバッファ50に一時的に保持される。フレームバッファ50より読
み出された映像データは、スイッチ51を介して前信号処理部52に入力される。
図10を用いて、前信号処理部52における前信号処理について説明する。図10の(
a)は、波長IR1の赤外光を投光しているタイミングで生成された映像データの任意の
フレームFmIR1を示している。フレームFmIR1内のR,B,Gr,Gbの画素データには、
波長IR1の赤外光を投光した状態で生成されたことを示す添え字1を付している。
図10の(b)は、波長IR2の赤外光を投光しているタイミングで生成された映像デ
ータの任意のフレームFmIR2を示している。フレームFmIR2内のR,B,Gr,Gbの画素
データには、波長IR2の赤外光を投光した状態で生成されたことを示す添え字2を付し
ている。
図10の(c)は、波長IR3の赤外光を投光しているタイミングで生成された映像デ
ータの任意のフレームFmIR3を示している。フレームFmIR3内のR,B,Gr,Gbの画素
データには、波長IR3の赤外光を投光した状態で生成されたことを示す添え字3を付し
ている。
図10の(a)に示すフレームFmIR1は、R光との相関性が高い波長IR1の赤外光が
投光された状態で生成された映像データであるので、Rの画素データは投光された赤外光
と対応した画素データであり、B,Gの画素データは投光された赤外光と対応していない
画素データである。B,Gr,Gbの画素データに付しているハッチングは、投光された
赤外光と対応していない画素データであることを意味する。
図10の(b)に示すフレームFmIR2は、G光との相関性が高い波長IR2の赤外光が
投光された状態で生成された映像データであるので、Gの画素データは投光された赤外光
と対応した画素データであり、R,Bの画素データは投光された赤外光と対応していない
画素データである。R,Bの画素データに付しているハッチングは、投光された赤外光と
対応していない画素データであることを意味する。
図10の(c)に示すフレームFmIR3は、B光との相関性が高い波長IR3の赤外光が
投光された状態で生成された映像データであるので、Bの画素データは投光された赤外光
と対応した画素データであり、R,Gの画素データは投光された赤外光と対応していない
画素データである。R,Gr,Gbの画素データに付しているハッチングは、投光された
赤外光と対応していない画素データであることを意味する。
前信号処理部52内の同一位置画素加算部522は、互いに同じ画素位置のR,Gr,
Gb,Bの画素データを以下の式(1)〜(3)に従って個別に加算して、画素データR1
23,Gr123,Gb123,B123を生成する。中間モードでは、前信号処理部52内の周囲画素加
算部521は不動作である。
R123=ka×R1+kb×R2 +kc×R3 …(1)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
式(1)〜(3)において、R1,G1,B1はフレームFmIR1におけるR,G,Bの画素デ
ータ、R2,G2,B2はフレームFmIR2におけるR,G,Bの画素データ、R3,G3,B3はフレ
ームFmIR3におけるR,G,Bの画素データである。ka〜kiは所定の係数である。式(2
)におけるG123はGr123またはGb123である。
このとき、同一位置画素加算部522は、ハッチングを付していないR,Gr,Gb,
Bのそれぞれの画素データに、ハッチングを付した同じ画素位置のR,Gr,Gb,Bの
画素データそれぞれを加算する。
即ち、同一位置画素加算部522は、式(1)に基づいて、フレームFmIR1におけるR
の画素データに、フレームFmIR2,FmIR3における同じ画素位置のRの画素データを加算し
て、画素データR123を生成する。つまり、受光素子における赤色のカラーフィルタに対応
する領域の画素データだけを用いて赤色用の画素データR123を生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2におけるGr,G
bの画素データに、フレームFmIR1,FmIR3における同じ画素位置のGr,Gbの画素デー
タを加算して、画素データG123を生成する。つまり、受光素子における緑色のカラーフィ
ルタに対応する領域の画素データだけを用いて緑色用の画素データG123を生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3におけるBの画素
データに、フレームFmIR1,FmIR2における同じ画素位置のBの画素データを加算して、画
素データB123を生成する。つまり、受光素子における青色のカラーフィルタに対応する領
域の画素データだけを用いて青色用の画素データB123を生成する。
前信号処理部52内の合成部523は、それぞれの画素位置において生成された画素デ
ータR123,Gr123,Gb123,B123に基づいて、図10の(d)に示す合成映像信号のフレー
ムFmIR123を生成する。
具体的には、合成部523は、フレームFmIR1における画素データR123と、フレームFmI
R2における画素データGr123,Gb123と、フレームFmIR3における画素データB123とを選択
して合成する。これによって合成部523は、合成映像信号のフレームFmIR123を生成す
る。
このように、合成部523は、カラーフィルタ32における色フィルタの配列と同じ配
列となるように、画素データR123,Gr123,Gb123,B123を配列させたフレームFmIR123を
生成する。
中間第1モードにおいては、ハッチングを付していない画素データと、ハッチングを付
した画素データとを用いて、フレームFmIR123の映像データを生成する。
同一位置画素加算部522によって互いに同じ画素位置の画素データを加算するのは、
次の理由による。中間モードではわずかではあるものの可視光が存在する環境下での撮像
であるため、ハッチングを付した画素データは可視光による露光に基づくそれぞれの色の
成分を含む。よって、同じ画素位置の画素データを加算することによって、それぞれの色
の感度を上げることができる。
可視光と赤外光とが混在している状況で可視光が比較的多ければ、可視光による露光が
支配的となる。この場合、フレームFmIR123の映像データは、可視光によって露光した映
像信号に基づく成分が主となる。可視光と赤外光とが混在している状況で赤外光が比較的
多ければ、赤外光による露光が支配的となる。この場合、フレームFmIR123の映像データ
は、赤外光によって露光した映像信号に基づく成分が主となる。
可視光が比較的少ない場合には、式(1)において、係数ka,kb,kcの大小関係を、ka
>kb,kcとし、式(2)において、係数kd,ke,kfの大小関係を、kf>kd,keとし、式(3
)において、係数kg,kh,kiの大小関係を、kh>kg,kiとするのがよい。これは、波長I
R1はR光との相関性が高く、波長IR2はG光との相関性が高く、波長IR3はB光と
の相関性が高いからである。
このようにすれば、Rの画素データではフレームFmIR1におけるRの画素データ、Gの
画素データではフレームFmIR2におけるGの画素データ、Bの画素データではフレームFmI
R3におけるBの画素データを主とすることができる。
前信号処理部52より出力されたフレームFmIR123の映像データは、スイッチ53を介
してデモザイク処理部54に入力される。デモザイク処理部54は、通常モードと同様に
、入力されたフレームFmIR123の映像データにデモザイク処理を施す。映像処理部5は、
デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、
R,G,Bの3原色データを出力する。
図11を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図
11の(a)は、フレームFmIR123を示している。デモザイク処理部54は、Rの画素デ
ータが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、
Rの補間画素データR123iを生成する。デモザイク処理部54は、図11の(b)に示す
1フレームの全画素がRの画素データよりなるRフレームFmIR123Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周
囲のGの画素データを用いて演算して、Gの補間画素データG123iを生成する。デモザイ
ク処理部54は、図11の(c)に示す1フレームの全画素がGの画素データよりなるG
フレームFmIR123Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周
囲のBの画素データを用いて演算して、Bの補間画素データB123iを生成する。デモザイ
ク処理部54は、図11の(d)に示す1フレームの全画素がBの画素データよりなるB
フレームFmIR123Bを生成する。
通常モードにおける図8に示すデモザイク処理部54の動作と、中間モードにおける図
11に示すデモザイク処理部54の動作とを比較すれば分かるように、両者は実質的に同
じである。デモザイク処理部54の動作は、通常モードであっても中間モードであっても
変わらない。
通常モードでは前信号処理部52を不動作とし、中間モードでは、周囲画素加算部52
1を除き、前信号処理部52を動作させればよい。通常モードと中間モードとで、映像処
理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信
号処理部を共用させることができる。
<中間モード:中間第2モード>
図12及び図13を用いて、中間第2モードにおける動作を説明する。中間第2モード
における動作において、中間第1モードにおける動作と同一部分は説明を省略する。図1
2の(a)〜(c)のフレームFmIR1,FmIR2,FmIR3は、図10の(a)〜(c)のフレ
ームFmIR1,FmIR2,FmIR3と同じである。
合成部523は、フレームFmIR1におけるRの画素データであるR1と、フレームFmIR2に
おけるGの画素データであるGr2,Gb2と、フレームFmIR3におけるBの画素データであるB
3とを選択して合成する。これによって合成部523は、図12の(d)に示す合成映像
信号のフレームFmIR123’を生成する。
即ち、フレームFmIR123’は、フレームFmIR1,FmIR3,FmIR2におけるハッチングを付し
ていないR,Gr,Gb,Bの画素データを1フレームに集結させた映像データである。
つまり、フレームFmIR123’においては、波長IR1の赤外光を投光した状態における
赤色のカラーフィルタに対応する領域の画素データだけを用いた赤色用の画素データ、波
長IR2の赤外光を投光した状態における緑色のカラーフィルタに対応する領域の画素デ
ータだけを用いた緑色用の画素データ、波長IR3の赤外光を投光した状態における青色
のカラーフィルタに対応する領域の画素データだけを用いた青色用の画素データとなって
いる。
このように、合成部523は、カラーフィルタ32における色フィルタの配列と同じ配
列となるように、画素データR1,Gr2,Gb2,B3を配列させたフレームFmIR123’を生成す
る。
中間第2モードでは、同一位置画素加算部522は、式(1)における係数kaを1、係
数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)におけ
る係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr
,Gbの画素データと、フレームFmIR3におけるBの画素データは、それぞれそのままの
値となる。
よって、合成部523は、中間第1モードにおける動作と同様に、フレームFmIR1にお
けるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmI
R3におけるBの画素データを選択すれば、フレームFmIR123’を生成することができる。
中間第2モードにおいては、前信号処理部52は、画素データの色と同じ色の画素デー
タを生成するための赤外光が投光された状態で生成された画素データ(ハッチングを付し
ていない画素データ)のみ用いて、フレームFmIR123’の映像データを生成する。
中間第2モードによれば、中間第1モードよりも感度や色の再現性は低下するものの、
演算処理を簡略化したり、フレームメモリを削減したりすることができる。
図13を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図
13の(a)は、フレームFmIR123’を示している。デモザイク処理部54は、Rの画素
データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して
、Rの補間画素データR1iを生成する。デモザイク処理部54は、図13の(b)に示
す1フレームの全画素がRの画素データよりなるRフレームFmIR123’Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周
囲のGの画素データを用いて演算して、Gの補間画素データG2iを生成する。デモザイ
ク処理部54は、図13の(c)に示す1フレームの全画素がGの画素データよりなるG
フレームFmIR123’Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周
囲のBの画素データを用いて演算して、Bの補間画素データB3iを生成する。デモザイ
ク処理部54は、図13の(d)に示す1フレームの全画素がBの画素データよりなるB
フレームFmIR123’Bを生成する。
以上のように、中間モードにおいては、受光素子における赤色のカラーフィルタに対応
する領域から得た画素データから赤色用の画素データを生成し、受光素子における緑色の
カラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成し、受
光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画
素データを生成する。
<暗視モード:暗視第1モード>
暗視モード(暗視第1モード及び後述する暗視第2モード)では、中間モードと同様、
制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿
入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード
切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モードにおける概略的な動作は、図9と同じである。但し、暗視モードでは、可視
光がほとんど存在しない環境下での撮像であるため、図9の(b)における露光Ex1R,Ex
1G,Ex1B,Ex2R,Ex2G,Ex2B…は、赤外光のみによる露光を想定している。
可視光がほとんど存在せず赤外光のみが存在している環境下では、カラーフィルタ32
におけるそれぞれの色フィルタの特性には差がなくなるため、撮像部3を単色の撮像素子
とみなすことができる。
そこで、前信号処理部52内の周囲画素加算部521は、暗視モードでは、赤外光の感
度を向上させるために、それぞれの画素データに対して、周囲に位置する画素データを加
算する。
具体的には、図14の(a)に示すように、Rの画素が注目画素であるとき、周囲画素
加算部521は、注目画素のRの画素データに対して周囲に位置するG及びBの8画素の
画素データを加算する。
つまり、中間モードのときは、受光素子における赤色のカラーフィルタに対応する領域
から得た画素データから赤色用の画素データを生成していたが、暗視モードでは、中間モ
ードのときよりも広い領域から得た画素データから赤色用の画素データを生成することと
なる。図14の例では、各色とも注目画素を含む9画素分の領域から得た画素データを用
いている。
図14の(b)に示すように、Gの画素が注目画素であるとき、周囲画素加算部521
は、注目画素のGの画素データに対して周囲に位置するG及びBの8画素の画素データを
加算する。図14の(b)におけるGの画素はGrまたはGbの画素である。
つまり、中間モードのときは、受光素子における緑色のカラーフィルタに対応する領域
から得た画素データから緑色用の画素データを生成していたが、暗視モードでは、中間モ
ードのときよりも広い領域から得た画素データから緑色用の画素データを生成することと
なる。
図14の(c)に示すように、Bの画素が注目画素であるとき、周囲画素加算部521
は、注目画素のBの画素データに対して周囲に位置するR及びGの8画素の画素データを
加算する。
つまり、中間モードのときは、受光素子における青色のカラーフィルタに対応する領域
から得た画素データから青色用の画素データを生成していたが、暗視モードでは、中間モ
ードのときよりも広い領域から得た画素データから青色用の画素データを生成することと
なる。
周囲画素加算部521は、注目画素の画素データと周囲の8画素の画素データとの9画
素を単純に加算してもよいし、周囲の8画素の画素データに対して所定の重み付けをした
上で注目画素の画素データに加算してもよい。
ところで、ビニングと称される複数の画素をまとめて1つの画素として読み出し可能な
撮像素子が存在する。撮像素子31として、ビニング機能を有する撮像素子を用いる場合
には、周囲画素加算部521による加算処理ではなく、ビニング機能を有する撮像素子に
よる加算処理を行ってもよい。撮像素子によるビニングは、周囲画素加算部521による
加算処理と実質的に等価である。
図15の(a)〜(c)のフレームFmIR1,FmIR3,FmIR2は、図10の(a)〜(c)
のフレームFmIR1,FmIR3,FmIR2と同じである。図15の(d)〜(f)において、R1ad
,Gr1ad,Gb1ad,B1ad,R2ad,Gr2ad,Gb2ad,B2ad,R3ad,Gr3ad,Gb3ad,B3adは、それ
ぞれ、R,Gr,Gb,Bの画素データに対して周囲の8画素の画素データを加算した加
算画素データである。
周囲画素加算部521は、フレームFmIR1,FmIR3,FmIR2のそれぞれの画素データに対
して図14に示す加算処理を施すことにより、図15の(d)〜(f)に示すフレームFm
IR1ad,FmIR2ad,FmIR3adを生成する。
図16の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(d)〜
(f)のフレームFmIR1ad,FmIR2ad,FmIR3adと同じである。
同一位置画素加算部522は、中間第1モードと同様に、式(1)に基づいて、フレー
ムFmIR1adにおけるR1adの画素データに、フレームFmIR2ad,FmIR3adにおける同じ画素位
置のR2ad,R3adの画素データを加算して、画素データR123adを生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2adにおけるGr2ad,
Gb2adの画素データに、フレームFmIR1ad,FmIR3adにおける同じ画素位置のGr1ad,Gb1ad
,Gr3ad,Gb3adの画素データを加算して、画素データGr123ad,Gb123adを生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3adにおけるB3adの
画素データに、フレームFmIR1ad,FmIR2adにおける同じ画素位置のB1ad,B2adの画素デー
タを加算して、画素データB123adを生成する。
合成部523は、中間第1モードと同様に、フレームFmIR1adにおける画素データR123a
dと、フレームFmIR2adにおける画素データGr123ad,Gb123adと、フレームFmIR3adにおけ
る画素データB123adとを選択して合成する。これによって合成部523は、図16の(d
)に示す合成映像信号のフレームFmIR123adを生成する。
合成部523は、カラーフィルタ32における色フィルタの配列と同じ配列となるよう
に、画素データR123ad,Gr123ad,Gb123ad,B123adを配列させたフレームFmIR123adを生
成する。
図17の(a)はフレームFmIR123adを示している。デモザイク処理部54は、Rの画
素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算し
て、Rの補間画素データR123adiを生成する。デモザイク処理部54は、図17の(b)
に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周
囲のGの画素データを用いて演算して、Gの補間画素データG123adiを生成する。デモザ
イク処理部54は、図17の(c)に示す1フレームの全画素がGの画素データよりなる
GフレームFmIR123adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周
囲のBの画素データを用いて演算して、Bの補間画素データB123adiを生成する。デモザ
イク処理部54は、図17の(d)に示す1フレームの全画素がBの画素データよりなる
BフレームFmIR123adBを生成する。
中間第1モードと暗視第1モードとは、前者が周囲画素加算部521を不動作としてい
る一方で、後者が周囲画素加算部521を動作させている点で異なる。モード切換部72
は、暗視モードのとき、周囲画素加算部521を動作させればよい。
暗視モードにおけるデモザイク処理部54の動作は、通常モード及び中間モードにおけ
るデモザイク処理部54の動作と実質的に同じである。通常モードと中間モードと暗視モ
ードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正や
ゲイン補正等の信号処理部を共用させることができる。
<暗視モード:暗視第2モード>
図18及び図19を用いて、暗視第2モードにおける動作を説明する。暗視第2モード
における動作において、暗視第1モードにおける動作と同一部分は説明を省略する。図1
8の(a)〜(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図16の(a)〜(c)
のFmIR1ad,FmIR2ad,FmIR3adと同じである。
合成部523は、フレームFmIR1adにおけるRの画素データであるR1adと、フレームFmI
R2におけるGの画素データであるGr2ad,Gb2adと、フレームFmIR3におけるBの画素デー
タであるB3adとを選択して合成する。これによって合成部523は、図18の(d)に示
す合成映像信号のフレームFmIR123’adを生成する。
合成部523は、カラーフィルタ32における色フィルタの配列と同じ配列となるよう
に、画素データR1ad,Gr2ad,Gb2ad,B3adを配列させたフレームFmIR123’adを生成する
なお、図14を用いて説明したように、フレームFmIR123’adにおける赤色用の画素デ
ータR1adは、中間モードのときに赤色用の画素データを生成するために用いた領域よりも
広い領域から得た画素データから生成されたものとなっている。
また、フレームFmIR123’adにおける緑色用の画素データGr2adは、中間モードのときに
緑色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから
生成されたものとなっている。
さらに、フレームFmIR123’adにおける青色用の画素データB3adは、中間モードのとき
に青色用の画素データを生成するために用いた領域よりも広い領域から得た画素データか
ら生成されたものとなっている。
暗視第2モードでは、中間第2モードと同様に、同一位置画素加算部522は、式(1
)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kf
を0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけ
るGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データは、それぞ
れそのままの値となる。
よって、合成部523は、暗視第1モードにおける動作と同様に、フレームFmIR1adに
おけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フ
レームFmIR3adにおけるB3adの画素データを選択すれば、フレームFmIR123’adを生成する
ことができる。
図19を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図
19の(a)は、フレームFmIR123’adを示している。デモザイク処理部54は、Rの画
素データが存在しない画素位置のRの画素データを周囲のR1adの画素データを用いて演算
して、Rの補間画素データR1adiを生成する。デモザイク処理部54は、図19の(b)
に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’adRを生成する
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周
囲のGr2ad,Gb2adの画素データを用いて演算して、Gの補間画素データG2adiを生成する
。デモザイク処理部54は、補間して、図19の(c)に示す1フレームの全画素がGの
画素データよりなるGフレームFmIR123’adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周
囲のB3adの画素データを用いて算出したBの補間画素データB3adiを生成する。デモザイ
ク処理部54は、図19の(d)に示す1フレームの全画素がBの画素データよりなるB
フレームFmIR123’adBを生成する。
中間第2モードと暗視第2モードとは、前者が周囲画素加算部521を不動作としてい
る一方で、後者が周囲画素加算部521を動作させている点で異なる。
また、中間モードにおいては、受光素子における各色に対応する領域から得た画素デー
タそれぞれから各色用の画素データを生成していたが、暗視モードにおいては、周囲画素
を加算するため、中間モードにおける各色用の画素データを生成するための領域それぞれ
よりも広い領域から得た画素データから各色用の画素データを生成するとも言える。
<モード切換の例>
図20を用いて、モード切換部72によるモード切換の例を説明する。図20の(a)
は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の
明るさが変化していく様子を概略的に示している。
図20の(a)に示すように、昼間から夕刻へと時間が経過していくに従って明るさが
低下していき、時刻t3以降、ほぼ真っ暗の状態となる。図20の(a)に示す明るさは
実質的に可視光の量を示しており、時刻t3以降、可視光がほとんどない状態である。
制御部7は、映像処理部5から入力される映像信号(映像データ)の輝度レベルに基づ
いて周囲環境の明るさを判断することができる。図20の(b)に示すように、モード切
換部72は、明るさが所定の閾値Th1(第1の閾値)以上であるとき通常モードとし、明
るさが閾値Th1未満で所定の閾値Th2(第2の閾値)以上であるとき中間モード、閾値Th2
未満であるとき暗視モードとする。
本実施形態の撮像装置は、明るさが閾値Th1となる時刻t1までは通常モード、時刻t
1から明るさが閾値Th2となる時刻t2まで中間モード、時刻t2以降は暗視モードに、
モードを自動的に切り換える。図20の(b)において、中間モードは中間第1モードと
中間第2モードとのいずれでもよく、暗視モードは暗視第1モードと暗視第2モードとの
いずれでもよい。
図20の(a)では可視光がほとんどなくなる時刻t3の直前の明るさを閾値Th2とし
ているが、時刻t3の明るさを閾値Th2としてもよい。
図20の(c)に示すように、モード切換部72は、中間モードの期間で、可視光が比
較的多い時刻t1側の期間を中間第1モード、可視光が比較的少ない時刻t2側の期間を
中間第2モードとしてもよい。図20の(c)において、暗視モードは暗視第1モードと
暗視第2モードとのいずれでもよい。
本実施形態の撮像装置は、投光制御部71が赤外線投光器9のオン・オフを制御し、モ
ード切換部72が映像処理部5内の各部の動作・不動作を切り換えることにより、それぞ
れのモードを実現することができる。
図21に示すように、通常モードは、赤外線投光器9がオフ、周囲画素加算部521と
同一位置画素加算部522と合成部523がいずれも不動作、デモザイク処理部54が動
作の状態である。
中間第1モードは、赤外線投光器9がオン、周囲画素加算部521が不動作、同一位置
画素加算部522と合成部523とデモザイク処理部54とが動作の状態である。中間第
2モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522
とが不動作、合成部523とデモザイク処理部54とが動作の状態である。
同一位置画素加算部522における動作と不動作とは、前述のように、式(1)〜(3
)の係数ka〜kiの値を適宜に設定することによって容易に切り換えることができる。
暗視第1モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算
部522と合成部523とデモザイク処理部54との全てが動作の状態である。暗視第2
モードは、赤外線投光器9がオン、同一位置画素加算部522が不動作、周囲画素加算部
521と合成部523とデモザイク処理部54とが動作の状態である。
ところで、周囲画素加算部521は、注目画素の画素データに対して周囲の画素データ
を加算するための計算式において、周囲の画素データに乗じる係数を、0を超える係数(
例えば1)とすれば、周囲画素の加算処理を動作の状態とすることができる。
また、周囲画素加算部521は、その計算式において、周囲の画素データに乗じる係数
を0とすれば、周囲画素の加算処理を不動作の状態とすることができる。
周囲画素加算部521における動作と不動作も、係数の値を適宜に設定することによっ
て容易に切り換えることができる。
<撮像装置の第1の変形例>
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に
限定されない。
図22に示すように、明るさセンサ11によって周囲環境の明るさを検出してもよい。
図20において、映像信号の輝度レベルと明るさセンサ11によって検出した明るさとの
双方に基づいて、周囲環境の明るさを判断してもよい。
<撮像装置の第2の変形例>
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及
び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が
各モードに切り換えるようにしてもよい。
図23に示すように、モード設定テーブル12には、日にちと時間帯との組み合わせに
対応して、通常モードと中間モードと暗視モードとのいずれかが設定されている。制御部
7内の時計73は、日にちと時刻を管理している。制御部7は、時計73が示す日にちと
時刻とを参照して、モード設定テーブル12より設定されているモードを読み出す。
投光制御部71とモード切換部72は、モード設定テーブル12より読み出されたモー
ドとなるように、撮像装置を制御する。
<撮像装置の第3の変形例>
図24に示すように、操作部13によってユーザがモードを手動で選択して、投光制御
部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。
操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコ
ントローラであってもよい。
<映像信号処理方法>
図25を用いて、図1に示す撮像装置で実行される映像信号処理方法を改めて説明する
図25において、撮像装置が動作を開始すると、制御部7は、ステップS1にて、周囲
環境の明るさが閾値Th1以上であるか否かを判定する。閾値Th1以上であれば(YES)、制
御部7は、ステップS3にて、通常モードでの処理を実行させる。閾値Th1以上でなけれ
ば(NO)、制御部7は、ステップS2にて、周囲環境の明るさが閾値Th2以上であるか否
かを判定する。
閾値Th2以上であれば(YES)、制御部7は、ステップS4にて、中間モードでの処理を
実行させる。閾値Th2以上でなければ(NO)、制御部7は、ステップS5にて、暗視モー
ドでの処理を実行させる。
制御部7は、ステップS3〜S5の後、処理をステップS1に戻し、ステップS1以降
を繰り返す。
図26は、ステップS3の通常モードの具体的な処理を示す。図26において、制御部
7(投光制御部71)は、ステップS31にて、赤外線投光器9をオフにする。制御部7
は、ステップS32にて、赤外線カットフィルタ21を挿入する。制御部7(モード切換
部72)は、ステップS33にて、スイッチ51,53を端子Tbに接続させる。ステッ
プS31〜S33の順番は任意であり、同時であってもよい。
制御部7は、ステップS34にて、撮像部3によって被写体を撮像させる。制御部7は
、ステップS35にて、撮像部3が被写体を撮像することよって生成した映像信号を構成
するフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5
を制御する。
図27は、ステップS4の中間モードの具体的な処理を示す。図27において、制御部
7(投光制御部71)は、ステップS41にて、投光部91〜93より波長IR1〜IR
3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS42にて、ダミーガラス22を挿入する。制御部7(モード切
換部72)は、ステップS43にて、スイッチ51,53を端子Taに接続させる。ステ
ップS41〜S43の順番は任意であり、同時であってもよい。
制御部7は、ステップS44にて、撮像部3によって被写体を撮像させる。撮像部3は
、Rに対応付けられた波長IR1の赤外光と、Gに対応付けられた波長IR2の赤外光と
、Bに対応付けられた波長IR3の赤外光とがそれぞれ投光されている状態で被写体を撮
像する。
制御部7(モード切換部72)は、ステップS45にて、周囲画素加算部521を不動作
とし、合成部523を動作させて合成映像信号を生成させるよう、前信号処理部52を制
御する。
波長IR1,IR2,IR3の赤外光がそれぞれ投光されている状態で撮像部3が被写
体を撮像することよって生成された映像信号を構成するフレームを第1のフレーム,第2
のフレーム,第3のフレームとする。
合成部523は、第1のフレーム内のRの画素データと、第2のフレーム内のGの画素
データと、第3のフレーム内のBの画素データとに基づく3原色の画素データを、カラー
フィルタ32における色フィルタの配列と同じ配列となるように配列させる。合成部52
3は、このようにして第1〜第3のフレームを1フレームに合成した合成映像信号を生成
する。
制御部7は、ステップS46にて、合成映像信号のフレームをデモザイク処理部54に
よってデモザイク処理させるよう、映像処理部5を制御する。
デモザイク処理部54は、合成映像信号のフレームに基づいて、Rのフレームと、Gの
フレームと、Bのフレームとを生成するデモザイク処理を施して、デモザイク処理された
3原色のフレームを順次生成する。
デモザイク処理部54は、Rの画素データが存在しない画素位置にRの画素データを補
間することによって、Rのフレームを生成することができる。デモザイク処理部54は、
Gの画素データが存在しない画素位置にGの画素データを補間することによって、Gのフ
レームを生成することができる。デモザイク処理部54は、Bの画素データが存在しない
画素位置にBの画素データを補間することによって、Bのフレームとを生成することがで
きる。
中間第1モードとする場合には、ステップS45にて、同一位置画素加算部522を動
作させ、中間第2モードとする場合には、ステップS45にて、同一位置画素加算部52
2を不動作とすればよい。
図28は、ステップS5の暗視モードの具体的な処理を示す。図28において、制御部
7(投光制御部71)は、ステップS51にて、投光部91〜93より波長IR1〜IR
3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS52にて、ダミーガラス22を挿入する。制御部7(モード切
換部72)は、ステップS53にて、スイッチ51,53を端子Taに接続させる。ステ
ップS51〜S53の順番は任意であり、同時であってもよい。
制御部7は、ステップS54にて、撮像部3によって被写体を撮像させる。制御部7(
モード切換部72)は、ステップS55にて、周囲画素加算部521と合成部523とを
動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
制御部7は、ステップS56にて、合成映像信号のフレームをデモザイク処理部54に
よってデモザイク処理させるよう、映像処理部5を制御する。
暗視第1モードとする場合には、ステップS55にて、同一位置画素加算部522を動
作させ、暗視第2モードとする場合には、ステップS55にて、同一位置画素加算部52
2を不動作とすればよい。
<映像信号処理プログラム>
図1において、制御部7、または、映像処理部5と制御部7との一体化部分をコンピュ
ータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログ
ラム)をコンピュータで実行させることによって、上述した本実施形態の撮像装置と同様
の動作を実現させることも可能である。映像出力部6も含めてコンピュータで構成しても
よい。
図29を用いて、図23のステップS4である中間モードにおける制御を映像信号処理
プログラムで構成した場合にコンピュータに実行させる手順の例を説明する。図29は、
映像信号処理プログラムがコンピュータに実行させる処理を示す。
図29において、映像信号処理プログラムは、ステップS401にて、コンピュータに、R
,G,Bに対応付けられた波長IR1,IR2,IR3の赤外光をそれぞれ投光するよう
に赤外線投光器9を制御するステップを実行させる。
ステップS401に示すステップを映像信号処理プログラムの外部にて実行させてもよい。
図29では、ダミーガラス22を挿入させるステップを省略している。ダミーガラス22
を挿入させるステップも映像信号処理プログラムの外部にて実行させてもよい。
映像信号処理プログラムは、ステップS402にて、コンピュータに、波長IR1の赤外光
が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号
の第1のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS403にて、コンピュータに、波長IR2の赤外光
が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号
の第2のフレームを構成する画素データを取得するステップを実行させる。
映像信号処理プログラムは、ステップS404にて、コンピュータに、波長IR3の赤外光
が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号
の第3のフレームを構成する画素データを取得するステップを実行させる。ステップS402
〜S404の順番は任意である。
映像信号処理プログラムは、ステップS405にて、コンピュータに、R,G,Bの画素デ
ータを、カラーフィルタ32における色フィルタの配列と同じ配列となるように配列させ
て、1フレームに合成した合成映像信号を生成するステップを実行させる。
中間モードでは、映像信号処理プログラムは、ステップS405にて、コンピュータに、周
囲画素の加算処理のステップを実行させない。
映像信号処理プログラムは、ステップS406にて、コンピュータに、合成映像信号のフレ
ームにデモザイク処理を施して、R,G,Bのフレームを生成するステップを実行させる
図示は省略するが、図25のステップS5である暗視モードにおける制御を映像信号処
理プログラムで構成する場合には、図29のステップS405にて、コンピュータに、周囲画
素の加算処理のステップを実行させればよい。
映像信号処理プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコン
ピュータプログラムであってよい。映像信号処理プログラムが記録媒体に記録された状態
で提供されてもよいし、映像信号処理プログラムをコンピュータにダウンロードさせるよ
う、インターネット等のネットワークを介して提供されてもよい。コンピュータで読み取
り可能な記録媒体は、CD−ROM,DVD−ROM等の非一時的な任意の記録媒体でよ
い。
図1のように構成される本実施形態の撮像装置において、例えば、必要に応じて各部を
複数設けたりして、中間モードと暗視モードとを同時に実行するようにしてもよい。その
場合、映像出力部6が、中間モードによって生成された映像信号と、暗視モードによって
生成された映像信号との両方を出力するようにしてもよい。
また、モード切換部72は、映像出力部6が中間モードによって生成された映像信号を
出力する状態と、映像出力部6が暗視モードによって生成された映像信号を出力する状態
とを切り換えるようにしてもよい。その際、前述のように、周囲環境の明るさや時刻等に
応じて切り換えてもよい。また、映像処理部5(映像処理装置)を他の各部と別体にして
もよい。
さらに、また、中間モードを使用せずに、通常モードから暗視モードに切り換えたり、
暗視モードから通常モードに切り換えたりするようにしてもよい。
通常モードや暗視モードは、可視光と暗視撮像用の赤外光とが混在した状態においては
、中間モードよりも良好なカラー映像信号とはならない。しかしながら、通常モードや暗
視モードであっても、可視光と暗視撮像用の赤外光とが混在した状態での撮像は可能であ
り、周囲の明るさが変わる場合(例えば監視カメラで終日撮影する場合など)であっても
同じ撮像装置で撮像を可能にする、という効果を奏することができる。
さらにまた、暗視モードを使用せずに、通常モードから中間モードに切り換えたり、中
間モードから通常モードに切り換えたりするようにしてもよい。その場合は、暗視モード
を搭載しないようにしてもよい。
通常モードや中間モードは、可視光がほとんどない環境下においては、暗視モードより
も良好なカラー映像信号とはならないが、中間モードでも可視光がほとんどない環境下で
の撮像は可能であり、周囲の明るさが変わる場合(例えば監視カメラで終日撮影する場合
など)であっても同じ撮像装置で撮像を可能にする、という効果を奏することができる。
また、電灯がある場所などでは暗視モードを使用しなくてもよい場合がある。
次に、通常モードと赤外光投光モードとを、映像の乱れが発生せず各モードの映像を切
り換える具体的なモード切換方法について説明する。
<モード切換方法の第1の例>
図30A及び図30Bは、モード切換方法の第1の例を示す。図30A及び図30Bは
、映像出力部6がNTSCエンコーダ61によってインターレース方式の映像信号を出力
する場合の撮像装置の各部の動作を示している。
また、図30A及び図30Bは、制御部7が撮像装置を、時刻t1にて赤外光投光モー
ドから通常モードへと切り換え、時刻t2にて通常モードから赤外光投光モードへと切り
換える場合のシーケンスを示している。赤外光投光モードは、中間モードと暗視モードと
のいずれでもよい。
図30A及び図30Bは、シーケンスを2つに分断して示している。なお、図30Aと
図30Bとは、一部が重複している。
図30A及び図30Bにおいて、(a)は赤外線投光器9による赤外光の投光の状態、
(b)は撮像部3の露光を示している。図30A及び図30Bの(b)に示す撮像部3の
露光は、図6の(a)で説明した最大露光時間tExmaxを示しており、実際の露光時間はシ
ャッタスピードに応じて異なる。但し、赤外光投光モードでは、最大露光時間tExmaxが実
際の露光時間となる可能性が高い。
図30A及び図30Bにおいて、(c)は、(b)のそれぞれの露光に基づき、撮像部
3から読み出される撮像信号によって生成されるフレームを示している。図30Aに示す
ように、露光Ex1R,Ex1G,Ex1Bに基づいて、露光Ex1Rに対応したフレームF1R、露光Ex1G
に対応したフレームF1G、露光Ex1Bに対応したフレームF1Bが得られる。フレームF1R,F1G
,F1Bは、図9の(c)のフレームF1IR1,F1IR2,F1IR3に相当する。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、露光Ex2Rに対応したフレームF2R、露光Ex2G
に対応したフレームF2G、露光Ex2Bに対応したフレームF2Bが得られる。フレームF2R,F2G
,F2Bは、図9の(c)のフレームF2IR1,F2IR2,F2IR3に相当する。露光Ex1R〜Ex2Bの最
大露光時間tExmaxは1/90秒である。
時刻t1以前の赤外光投光モードの期間では、撮像部3より出力される撮像信号は、9
0フレーム/秒のプログレッシブ方式である。90フレーム/秒のプログレッシブ方式を
90Pと称することとする。撮像装置は、後述のようにして、90Pの撮像信号に基づい
て、60フィールド/秒のインターレース方式の映像信号を生成する。60フィールド/
秒のインターレース方式を60iと称することとする。
投光制御部71は、時刻t1にて赤外線投光器9による赤外光の投光をオフにする。制
御部7は、時刻t1以降、撮像装置を通常モードにて動作させる。
通常モードの期間で30フレーム/秒とすると、インターレース方式では60フィール
ド/秒である。そこで、通常モードでは、映像出力部6が最終的に60iの映像信号を生
成して出力するよう、制御部7は、撮像部3が60Pの撮像信号を出力するように撮像部
3を制御する。
具体的には、撮像部3は、最大露光時間tExmaxを1/60秒として、奇数フィールド用
の露光と、偶数フィールド用の露光とを交互に繰り返す。図30A及び図30Bの(b)
において、添え字oは奇数フィールド用の露光、添え字eは偶数フィールド用の露光である
ことを示す。
時刻t1以降の最初の露光のタイミングでは、図30Aの(c)に示すように、最大露
光時間tExmaxが1/90秒であるフレームF2Bが生成される。そこで、時刻t1以降の最
初の露光では、最大露光時間tExmaxを1/60秒とするのではなく、最大露光時間tExmax
を1/90秒とした奇数フィールド用の露光Ex3oとする。
図30Aに示すように、第1の例においては、撮像部3は、露光Ex3oが終了する時刻t
11まで、90Pの撮像信号を出力するよう動作する。撮像部3は、時刻t11以降、6
0Pの撮像信号を出力するよう動作する。
時刻t11以降の最初の露光である偶数フィールド用の露光Ex3eは、奇数フィールド用
の露光Ex3oと対となる露光であることから、最大露光時間tExmaxを1/60秒とするので
はなく、露光Ex3oにおける最大露光時間tExmaxと同じ1/90秒とするのがよい。
そこで、制御部7は、1/60秒の最大露光時間tExmaxの先頭から1/180秒の期間
だけ、図6で説明したように抜き取りパルスPs1によって蓄積した電荷を排出させるよ
うに撮像部3を制御する。これによって、露光Ex3oと露光Ex3eとの間には1/180秒の
時間的な間隙が形成され、露光Ex3eの実質的な最大露光時間は1/90秒となる。
最大露光時間を1/90秒とした露光Ex3o,Ex3eによって蓄積した電荷を1/60秒の
期間で読み出すことによって、露光Ex3oに対応したフレームF3oと、露光Ex3eに対応した
フレームF3eが得られる。
露光Ex3e以降、最大露光時間tExmaxが1/60秒である露光Ex4o,Ex4e,Ex5o,Ex5eに
よって蓄積した電荷を1/60秒の期間で読み出すことによって、フレームF4o,F4e,F5
o,F5eが得られる。
図30Bに示すように、投光制御部71は、時刻t2にて赤外線投光器9による赤外光
の投光を再びオンにする。制御部7は、時刻t2以降、撮像装置を赤外光投光モードにて
動作させる。
露光Ex5eに基づいたフレームF5eは、時刻t2を跨ぐ1/60秒の期間に発生する。時
刻t2以降の赤外光投光モードでは、最大露光時間tExmaxを1/90秒とする必要がある
。そこで、制御部7は、露光Ex5eに続く露光Ex6Rでは、1/60秒の最大露光時間tExmax
の先頭から1/180秒の期間だけ、抜き取りパルスPs1によって蓄積した電荷を排出
させるよう撮像部3を制御する。
これによって、露光Ex5eと露光Ex6Rとの間には1/180秒の時間的な間隙が形成され
、露光Ex6Rの実質的な最大露光時間を1/90秒となる。
露光Ex6R,Ex6G,Ex6Bに基づいて、露光Ex6Rに対応したフレームF6R、露光Ex6Gに対応
したフレームF6G、露光Ex6Bに対応したフレームF6Bが得られる。フレームF6R,F6G,F6B
によって1フレームが形成されることから、露光Ex6R,Ex6G,Ex6Bの露光時間は同じでな
ければならない。露光Ex6Rの最大露光時間を1/90秒とすることによって、露光Ex6R,
Ex6G,Ex6Bの露光時間を同じにすることができる。
露光Ex7R,Ex7G,Ex7Bに基づいて、露光Ex7Rに対応したフレームF7R、露光Ex7Gに対応
したフレームF7G、露光Ex7Bに対応したフレームF7Bが得られる。露光Ex8R以降も同様であ
る。
図30Bに示すように、第1の例においては、撮像部3は、露光Ex6Rが終了する時刻t
21まで60Pの撮像信号を出力するよう動作しており、時刻t21以降、90Pの撮像
信号を出力するよう動作する。
以上のように、図30A及び図30Bに示す第1の例においては、赤外光投光モードか
ら通常モードへと切り換わる時刻t1以降の最初の露光で、最大露光時間tExmaxを1/6
0秒とするのではなく、1/90秒とした露光Ex3oとしている。
また、通常モードから赤外光投光モードへと切り換わる時刻t2を跨ぐ1/60秒の最
大露光時間tExmaxの先頭から1/180秒の期間の電荷を排出させて、時刻t2以降の最
初の露光の最大露光時間tExmaxを1/90秒としている。
これによって、撮像部3から読み出される撮像信号によって生成される撮像信号のフレ
ームは、図30A及び図30Bの(c)に示すように、赤外光投光モードから通常モード
へと切り換わるとき、通常モードから赤外光投光モードへと切り換わるときの双方で連続
的となる。
図30A及び図30Bにおいて、(d)はA/D変換器4より出力された映像データの
フレームのフレームバッファ50への書き込み、(e)はフレームバッファ50からのフ
レームの読み出しを示している。図30A及び図30Bの(d),(e)それぞれの区画
内には書き込まれる、または、読み出されるメモリ50a〜50fの符号を記している。
A/D変換器4より出力された映像データのフレームも、図30A及び図30Bの(c
)に示す撮像信号のフレームF1R,F1G,F1B,…と称することとする。フレームF1R,F1G
,F1Bはそれぞれメモリ50a,50b,50cに書き込まれる。
フレームF1Bのメモリ50cへの書き込みが完了すると、メモリ50a〜50cから、
フレームF1R,F1G,F1Bが同時に1/60秒の期間で読み出される。続く1/60秒の期
間でも、メモリ50a〜50cから、フレームF1R,F1G,F1Bが同時に読み出される。即
ち、フレームF1R,F1G,F1Bは、2つの1/60秒の期間で連続的に読み出される。
フレームF1R,F1G,F1Bを読み出す期間に対応させて、フレームF2R,F2G,F2Bはそれぞ
れメモリ50d,50e,50fに書き込まれる。フレームF2R,F2G,F2Bも、フレームF
2Bのメモリ50fへの書き込みが完了すると、2つの1/60秒の期間で連続的に読み出
される。
赤外光投光モードにおける1組のフレームを2度読み出すのは、読み出した一方の1組
のフレームで奇数フィールドを生成し、もう一方の1組のフレームで偶数フィールドを生
成するためである。
フレームF3o,F3eはメモリ50a,50bに書き込まれる。フレームF3eのメモリ50
bへの書き込みが完了すると、フレームF3o,F3eがメモリ50a,50bから読み出され
る。フレームF4o,F4eはメモリ50d,50eに書き込まれる。フレームF4eのメモリ5
0eへの書き込みが完了すると、フレームF4o,F4eがメモリ50d,50eから読み出さ
れる。
る。
フレームF5o,F5eはメモリ50a,50bに書き込まれる。フレームF5eのメモリ50
bへの書き込みが完了すると、フレームF5o,F5eがメモリ50a,50bから読み出され
る。
フレームF6R,F6G,F6Bはそれぞれメモリ50d,50e,50fに書き込まれる。フ
レームF6R,F6G,F6Bは、フレームF6Bのメモリ50fへの書き込みが完了すると、2つの
1/60秒の期間で連続的に読み出される。
フレームF7R,F7G,F7Bはそれぞれメモリ50a,50b,50cに書き込まれる。図
30Bでは図示されていないが、フレームF7R,F7G,F7Bは、フレームF7Bのメモリ50f
への書き込みが完了すると、2つの1/60秒の期間で連続的に読み出される。以降、同
様の動作を繰り返す。
図30A及び図30Bにおいて、(f)は、上述した前信号処理部52における前信号
処理を示している。前信号処理をP52と表す。メモリ50a〜50cから読み出したフレ
ームF1R,F1G,F1Bの全体をフレームF1RGBと表す。例えば、P52(F1RGB)はフレームF1RGB
に上述した前信号処理P52を施すことを示す。
図30A及び図30Bの(f)に示すように、それぞれ2つの1/60秒の期間連続し
て、フレームF0RGB,F1RGB,F2RGB,F6RGB…に前信号処理P52が施される。
図30A及び図30Bにおいて、(g)は、上述したデモザイク処理部54における前
信号処理を示している。デモザイク処理をP54と表す。例えば、P54(F1RGB)はフレームF1R
GBに上述したデモザイク処理P54を施すことを示す。
図30A及び図30Bの(g)に示すように、前信号処理P52が施されたフレームF0RGB
,F1RGB,F2RGB,F6RGB…にデモザイク処理P54が施される。前信号処理P52が施されてい
ないフレームF3o,F3e,F4o,F4e,F5o,F5eにデモザイク処理P54が施される。
図30A及び図30Bにおいて、(h)は、(g)に示す各フレームをNTSCエンコ
ーダ61によってプログレッシブ−インターレース変換(PI変換)したインターレース
方式の映像信号を示している。図30A及び図30Bの(h)において、添え字oは奇数
フィールドの映像信号、添え字eは偶数フィールドの映像信号であることを示す。
図30Aの(h)に示すように、赤外光投光モードでは、デモザイク処理P54が施され
たフレームF0RGB,F1RGB,F2RGBそれぞれの映像データに基づいて、インターレース方式
の映像信号F0io,F0ie,F1io,F1ie,F2io,F2ieが順に生成されて出力される。添え字i
は、PI変換によって水平ラインが間引かれて、インターレース方式の映像信号となって
いることを示す。
図30A及び図30Bの(h)に示すように、通常モードに切り換わると、デモザイク
処理P54が施されたフレームF3o,F3e,F4o,F4e,F5o,F5eそれぞれの映像データに基づ
いて、インターレース方式の映像信号F3io,F3ie,F4io,F4ie,F5io,F5ieが順に生成さ
れて出力される。
図30Bの(h)に示すように、赤外光投光モードに切り換わると、デモザイク処理P5
4が施されたフレームF6RGB…それぞれの映像データに基づいて、インターレース方式の映
像信号F6io,F6ie…が順に生成されて出力される。
図30A及び図30Bの(h)に示すように、第1の例によれば、60iの映像信号が
、赤外光投光モードから通常モードへと切り換えられても、通常モードから赤外光投光モ
ードへと切り換えられても、各フレーム(各フィールド)が連続的に出力される。
よって、第1の例によれば、映像の乱れが発生することなく、各モードの映像を切り換
えることができる。
図30A及び図30Bに示す第1の例においては、通常モードの期間において、(b)
に示す撮像部3の露光によって生成されるフレームの境界と、(g)に示す出力映像信号
のフレーム(フィールド)の境界とが一致している。即ち、撮像部3の露光によって生成
されるフレームと出力映像信号のフレームとは同期している。よって、出力映像信号にノ
イズが発生しにくい。
<モード切換方法の第2の例>
図31A及び図31Bは、モード切換方法の第2の例を示す。図31A及び図31Bも
、映像出力部6がNTSCエンコーダ61によってインターレース方式の映像信号を出力
する場合の撮像装置の各部の動作を示している。
図31A及び図31Bに示す第2の例では、図30A及び図30Bに示す第1の例と異
なる部分を中心に説明する。図31A及び図31Bも、シーケンスを2つに分断して示し
ており、図31Aと図31Bとは一部が重複している。
図31A及び図31Bの(b)に示すように、第2の例においては、時刻t1〜t2の
通常モードの期間では、撮像部3は、最大露光時間tExmaxを全て1/60秒として露光す
る。図31A及び図31Bの(c)に示すように、制御部7は、通常モードの期間の露光
Ex3o,Ex3e,Ex4o,Ex4e,Ex5o,Ex5eに基づき、撮像部3より撮像信号を1/90秒で読
み出すように制御して、フレームF3o,F3e,F4o,F4e,F5o,F5eを生成する。
露光Ex3oに対応したフレームF3oの読み出しは露光Ex3oが終了する時刻より開始される
ので、フレームF3oは、フレームF2Bが終了した時刻から1/180秒経過した時刻より開
始する。よって、フレームF2BとフレームF3oとの間には、1/180秒の時間的な間隙が
形成される。以降同様に、フレームF3o,F3e,F4o,F4e,F5o,F5eの隣接するフレームの
間には、1/180秒の時間的な間隙が形成される。
図31A及び図31Bの(d)〜(h)は、図30A及び図30Bの(d)〜(h)と
同様である。但し、図31A及び図31Bの(d),(e)においては、フレームバッフ
ァ50に1/90秒の期間で書き込まれたフレームF3o〜F5eは、それぞれ1/60秒の期
間で読み出される。
図31A及び図31Bの(g)に示すように、第2の例によれば、60iの映像信号が
、赤外光投光モードから通常モードへと切り換えられても、通常モードから赤外光投光モ
ードへと切り換えられても、各フレーム(各フィールド)が連続的に出力される。
よって、第2の例によれば、映像の乱れが発生することなく、各モードの映像を切り換
えることができる。
図31A及び図31Bに示す第2の例においては、通常モードの期間において、(b)
に示す撮像部3の露光よって生成されるフレームと(g)に示す出力映像信号のフレーム
とは同期しない。しかしながら、図31A及び図31Bに示す第2の例においては、通常
モードの期間において、撮像部3の露光の奇数フィールド用のフレームと偶数フィールド
用のフレームとの一対の期間が全て1/30秒に統一される。
<モード切換方法の第3の例>
図32A及び図32Bは、モード切換方法の第3の例を示す。図32A及び図32Bも
、映像出力部6がNTSCエンコーダ61によってインターレース方式の映像信号を出力
する場合の撮像装置の各部の動作を示している。
図32A及び図32Bに示す第3の例では、図30A及び図30Bに示す第1の例と異
なる部分を中心に説明する。図32A及び図32Bも、シーケンスを2つに分断して示し
ており、図32Aと図32Bとは一部が重複している。
第3の例を実現するために、図1に示すように、フレームバッファ50を、合計9フレ
ーム分の容量のメモリ50a〜50iを有する構成とする。なお、第3の例を実現するた
めに、少なくとも7フレーム分の容量のメモリを有する構成であればよいが、メモリの書
き込みや読み出しの制御を容易にするため、図1では9フレーム分の容量のメモリ50a
〜50iを有する構成としている。
図32A及び図32Bの(b)に示すように、第3の例においては、時刻t1〜t2の
通常モードの期間では、撮像部3は、最大露光時間tExmaxを全て1/60秒として露光す
る。
図32A及び図32Bの(c)に示すように、制御部7は、通常モードの期間の露光Ex
3o,Ex3e,Ex4o,Ex4e,Ex5oに基づき、撮像部3より蓄積した電荷を1/60秒で読み出
すように制御して、フレームF3o,F3e,F4o,F4e,F5oを生成する。
図32Aの(c)に示すように、制御部7は、赤外光投光モードにおける最後の露光Ex
2Bのみ、撮像部3より蓄積した電荷を1/60秒で読み出すように制御して、フレームF2
Bを生成する。
図32Bの(c)に示すように、制御部7は、通常モードの期間の最後の露光Ex5eのみ
、撮像部3より蓄積した電荷を1/90秒で読み出すように制御して、フレームF5eを生
成する。これによって、時刻t2以降の最初の露光Ex6Rの最大露光時間と、フレームF5e
の期間とが同じとなる。
図32Aの(d)に示すように、フレームF1R,F1G,F1Bはそれぞれメモリ50a,5
0b,50cに書き込まれる。図32Aの(e)に示すように、フレームF1Bのメモリ5
0cへの書き込みが完了すると、フレームF1R,F1G,F1Bは、メモリ50a〜50cから
、2つの1/60秒の期間で連続的に読み出される。
フレームF2R,F2G,F2Bはそれぞれメモリ50d,50e,50fに書き込まれる。フ
レームF2Bのメモリ50fへの書き込みが完了すると、フレームF2R,F2G,F2Bも、2つの
1/60秒の期間で連続的に読み出される。
図32Aの(d),(e)を比較すれば分かるように、第3の例においては、例えば、
フレームF2R,F2G,F2Bをメモリ50d〜50fに書き込むタイミングと、メモリ50a
〜50cからフレームF1R,F1G,F1Bを読み出すタイミングとが一致していない。これは
、フレームF2Bを1/60秒の期間で生成しているからである。
よって、図1に示す合計6フレーム分の容量のメモリ50a〜50fを有する構成のフ
レームバッファ50では、第3の例を実現することができないことになる。そこで、第3
の例を実現するために、図34に示す合計9フレーム分の容量のメモリ50a〜50iを
有する構成のフレームバッファ50としている。
図32A及び図32Bの(d),(e)に示すように、フレームF3o,F3eはメモリ50
g,50hに書き込まれる。フレームF3eのメモリ50hへの書き込みが完了すると、フ
レームF3o,F3eがメモリ50g,50hから読み出される。フレームF4o,F4eはメモリ5
0a,50bに書き込まれる。フレームF4eのメモリ50bへの書き込みが完了すると、
フレームF4o,F4eがメモリ50a,50bから読み出される。
フレームF5o,F5eはメモリ50d,50eに書き込まれる。フレームF5eのメモリ50
eへの書き込みが完了すると、フレームF5o,F5eがメモリ50d,50eから読み出され
る。
フレームF6R,F6G,F6Bはそれぞれメモリ50g,50h,50iに書き込まれる。フ
レームF6R,F6G,F6Bは、フレームF6Bのメモリ50iへの書き込みが完了すると、2つの
1/60秒の期間で連続的に読み出される。
フレームF7R,F7G,F7Bはそれぞれメモリ50a,50b,50cに書き込まれる。図
32Bでは図示されていないが、フレームF7R,F7G,F7Bは、フレームF7Bのメモリ50c
への書き込みが完了すると、2つの1/60秒の期間で連続的に読み出される。以降、同
様の動作を繰り返す。
図32A及び図32Bの(f)〜(h)は、図30A及び図30Bの(g)〜(h)と
同様である。
図32A及び図32Bの(h)に示すように、第3の例によれば、60iの映像信号が
、赤外光投光モードから通常モードへと切り換えられても、通常モードから赤外光投光モ
ードへと切り換えられても、各フレーム(各フィールド)が連続的に出力される。
よって、第3の例によれば、映像の乱れが発生することなく、各モードの映像を切り換
えることができる。
図322A及び図32Bに示す第3の例においては、通常モードの期間において、(b
)に示す撮像部3の露光の同期と(g)に示す出力映像信号の同期とが一致している。撮
像部3の露光の同期と出力映像信号の同期とが一致していると、出力映像信号にノイズが
発生しにくい。
上記のように、第3の例を実現するには、フレームバッファ50のメモリ容量を第1の
例を実現する場合より多くすることが必要である。フレームバッファ50のメモリ容量を
より少なくするという点では第1の例の方がよい。
しかしながら、メモリの書き込み及び読み出しの制御を工夫すれば、7フレーム分の容
量のメモリを有する構成のフレームバッファ50で第3の例を実現することが可能である
。よって、第3の例でも、フレームバッファ50のメモリ容量はさほど問題にはならない
<撮像装置におけるモード切換方法のまとめ>
以上説明したモード切換方法の第1〜第3の例をまとめると、本実施形態の撮像装置は
、次のように動作する。
撮像部3は被写体を撮像する。映像処理部5は、撮像部3より出力された撮像信号に基
づいて第1の映像信号を生成する。第1の映像信号とは、A/D変換器4より出力された
映像データに対して、前信号処理P52及びデモザイク処理P54の双方、または、デモザイク
処理P54のみを施した映像信号である。
映像出力部6(NTSCエンコーダ61)は、第1の映像信号に基づいて所定の信号方
式の第2の映像信号を生成して出力する。所定の信号方式とは例えばインターレース方式
であり、プログレッシブ方式であってもよい。第2の映像信号とは、第1の映像信号に基
づいて、最終的な信号方式に変換した映像信号である。
ここで、通常モードを第1のモード、赤外光投光モードを第2のモードと称する。撮像
部3は、第1のモードでは、第2の映像信号のそれぞれの1フレーム期間に対応させて露
光して被写体を撮像する。撮像部3は、第2のモードでは、第2の映像信号のそれぞれの
1フレーム期間を複数の区間に分割した各区間で互いに異なる撮像条件で露光して被写体
を撮像する。
映像処理部5は、第1のモードでは、1フレーム期間に対応させた露光に対応して読み
出された撮像信号に基づいて、第1の映像信号のそれぞれのフレームを生成し、第2のモ
ードでは、各区間の露光に対応して読み出された撮像信号に基づいて、第1の映像信号の
それぞれのフレームを生成する。
映像出力部6は、第2の映像信号を、第1のモードと第2のモードとで共通の信号方式
(例えば60i)とし、第2の映像信号のフレームを連続的に出力する。よって、映像の
乱れが発生することなく、第1のモードと第2のモードの映像を互いに切り換えることが
できる。第2の映像信号を、第1のモードと第2のモードとで同じ水平及び垂直周波数に
するとより好ましい。
可視光が少ない環境下で、赤外光を投光しながら被写体を撮像する第2のモードでは、
撮像部3は次のように被写体を撮像する。
撮像部3は、第2の映像信号のそれぞれの1フレーム期間を3つの区間に分割して被写
体を撮像する。撮像部3は、互いに異なる撮像条件として、3つの区間の各区間で、第1
の赤外光が投光されている状態と、第2の赤外光が投光されている状態と、第3の赤外光
が投光されている状態とのそれぞれで被写体を撮像する。第1の赤外光は、赤色に対応付
けられた第1の波長を有する。第2の赤外光は、緑色に対応付けられた第2の波長を有す
る。第3の赤外光は、青色に対応付けられた第3の波長を有する。
映像出力部6が第2の映像信号としてインターレース方式の映像信号を出力する場合に
は、撮像部3と映像処理部5と映像出力部6は次のように動作すればよい。
撮像部3は、第1のモードでは、第2の映像信号のそれぞれの1フレーム期間を奇数フ
ィールド期間と偶数フィールド期間との2つのフィールド期間に分けて被写体を撮像する
。制御部7は、2つのフィールド期間の最大露光時間を互いに同じ時間に設定する。映像
処理部5は、第1の映像信号として、奇数フィールド期間の映像信号と偶数フィールド期
間の映像信号とを生成する。
映像出力部6は、第1のモードでは、映像処理部5で生成された奇数フィールド期間の
映像信号に基づいて奇数フィールドの映像信号を生成し、偶数フィールド期間の映像信号
に基づいて偶数フィールドの映像信号を生成する。映像出力部6は、第2のモードでは、
映像処理部5で生成された第1の映像信号のそれぞれのフレームに基づいて、奇数フィー
ルドの映像信号と偶数フィールドの映像信号とを生成する。
映像出力部6が、映像の乱れが発生しないよう、第2の映像信号のフレームを連続的に
出力するために、撮像部3は具体的に次のように動作する。
図30A,図30Bで説明した第1の例では、次のとおりである。撮像部3は、第1の
モードから第2のモードへと切り換えた最初の区間の露光では、第1のモードにおけるフ
ィールド期間の最大露光時間の先頭から電荷を排出させて、最大露光時間を、第2のモー
ドにおける1つの区間の最大露光時間と同じ時間とする。
撮像部3は、第2のモードから第1のモードへと切り換えた最初のフィールド期間の露
光では、最大露光時間を、第2のモードにおける1つの区間の最大露光時間と同じ時間す
る。撮像部3は、第1のモードでは、それぞれのフィールド期間の露光により蓄積した電
荷を1フィールド期間で撮像信号として読み出す。
図31A,図31Bで説明した第2の例では、次のとおりである。撮像部3は、第1の
モードでは、1フィールド期間を最大露光時間とし、最大露光時間の露光を終了したら露
光により蓄積した電荷を、第2のモードにおける1つの区間の最大露光時間と同じ時間で
撮像信号として読み出す。
撮像部3は、撮像信号の読み出しの前に、1フィールド期間と、第2のモードにおける
1つの区間の最大露光時間との差に相当する時間的な間隙を設ける。
図32A,図32Bで説明した第3の例では、次のとおりである。撮像部3は、第1の
モードでは、1フィールド期間を最大露光時間として露光する。
撮像部3は、第2のモードにおける最後の1つの区間の露光により蓄積した電荷を1フ
ィールド期間で撮像信号として読み出す。
撮像部3は、第1のモードにおける最後のフィールド期間の露光により蓄積した電荷を
、1つの区間の最大露光時間と同じ時間で撮像信号として読み出す。
<撮像装置の制御方法>
制御部7は、撮像装置を次のように制御する。
制御部7は、撮像部3によって被写体を撮像させる。制御部7は、撮像部3が被写体を
撮像した撮像信号に基づいて、映像処理部5によって第1の映像信号を生成させる。制御
部7は、映像出力部6によって、第1の映像信号に基づいて所定の信号方式の第2の映像
信号を生成させる。
制御部7が撮像装置を第1のモードに設定させたとき、撮像装置を次のように制御する
。制御部7は、撮像部3によって、第2の映像信号のそれぞれの1フレーム期間に対応さ
せて露光して被写体を撮像させる。制御部7は、映像処理部5によって、1フレーム期間
に対応させた露光に対応して読み出された撮像信号に基づいて、第1の映像信号のそれぞ
れのフレームを生成させる。
制御部7が撮像装置を第2のモードに設定させたとき、撮像装置を次のように制御する
。制御部7は、撮像部3によって、第2の映像信号のそれぞれの1フレーム期間を複数の
区間に分割した各区間で互いに異なる撮像条件で露光して被写体を撮像させる。制御部7
は、映像処理部5によって、各区間の露光に対応して読み出された撮像信号に基づいて、
第1の映像信号のそれぞれのフレームを生成させる。
制御部7は、映像出力部6によって、第2の映像信号を、第1のモードと第2のモード
とで共通の信号方式とし、第2の映像信号のフレームを連続的に出力させる。第2の映像
信号を、第1のモードと第2のモードとで同じ水平及び垂直周波数にするとより好ましい
<撮像装置の制御プログラム>
上述したモード切換方法をコンピュータプログラムによる制御で実現する場合には、撮
像装置に搭載されているコンピュータに、次の各ステップを有する制御プログラムを実行
させればよい。
まず、コンピュータに、撮像部3によって被写体を撮像する第1のステップを実行させ
る。次に、コンピュータに、撮像部3が被写体を撮像した撮像信号に基づいて第1の映像
信号を生成する第2のステップを実行させる。最後に、コンピュータに、第1の映像信号
に基づいて所定の信号方式の第2の映像信号を生成する第3のステップを実行させる。
コンピュータが、撮像装置を第1のモードに設定させたとき、第1のステップと第2の
ステップは次のとおりである。第1のステップは、撮像部3によって、第2の映像信号の
それぞれの1フレーム期間に対応させて露光して被写体を撮像するステップである。第2
のステップは、1フレーム期間に対応させた露光に対応して読み出された撮像信号に基づ
いて、第1の映像信号のそれぞれのフレームを生成するステップである。
コンピュータが、撮像装置を第2のモードに設定させたとき、第1のステップと第2の
ステップは次のとおりである。第1のステップは、撮像部3によって、第2の映像信号の
それぞれの1フレーム期間を複数の区間に分割した各区間で互いに異なる撮像条件で露光
して被写体を撮像するステップである。第2のステップは、各区間の露光に対応して読み
出された撮像信号に基づいて、前記第1の映像信号のそれぞれのフレームを生成するステ
ップである。
コンピュータが、撮像装置を第1のモードから第2のモードに移行させたとき、及び、
第2のモードから第1のモードに移行させたとき、第3のステップは、第2の映像信号を
、第1のモードと第2のモードとで共通の信号方式とし、第2の映像信号のフレームを連
続的に出力するステップである。このステップにおいて、第2の映像信号を、第1のモー
ドと第2のモードとで同じ水平及び垂直周波数にするとより好ましい。
撮像装置の制御プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコ
ンピュータプログラムであってよい。制御プログラムが記録媒体に記録された状態で提供
されてもよいし、制御プログラムをコンピュータにダウンロードさせるよう、インターネ
ット等のネットワークを介して提供されてもよい。コンピュータで読み取り可能な記録媒
体は、CD−ROM,DVD−ROM等の非一時的な任意の記録媒体でよい。
<応用例>
ところで、以上説明した本実施形態の撮像装置の動作は、赤外光を投光しながら被写体
を撮像する赤外光投光モードだけではなく、次のような場合にも応用が可能である。
可視光が存在する環境下で赤外光を投光しない状態であっても、第2の映像信号のそれ
ぞれの1フレーム期間を複数の区間に分割して、各区間で互いに異なる撮像条件(異なる
シャッタスピード)で露光する、いわゆる多重露光を行う場合に応用することができる。
即ち、第2のモードは、赤外光投光モードに限定されず、多重露光のために第2の映像
信号のそれぞれの1フレーム期間を例えば3つの区間に分割して露光して、3つの区間の
撮像信号を合成して1つの映像信号を生成する場合に利用できる。
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しな
い範囲において種々変更可能である。上述した発明が解決しようとする課題や目的及び効
果の記載においては、本発明の理解を容易にするために、通常モードと赤外光投光モード
との切り換えについて記載した。
しかしながら、上述のように、本実施形態の撮像装置の動作は多重露光にも応用可能で
ある。発明が解決しようとする課題、目的、効果の記載を根拠として、本発明が通常モー
ドと赤外光投光モードとの切り換えのみに適用されると限定的に解釈されるものではない
3 撮像部
5 映像処理部
6 映像出力部

Claims (7)

  1. 赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像部と、
    前記撮像部より出力された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力部と
    を備え、
    前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長い、
    ことを特徴とする撮像装置。
  2. 前記撮像部は、前記第1のモードでは、前記所定の映像信号の1フレーム期間を奇数フィールド期間と偶数フィールド期間との2つのフィールド期間に分けて被写体を撮像し、
    前記最初の区間は、奇数フィールド期間である、
    ことを特徴とする請求項1記載の撮像装置。
  3. 前記2つのフィールド期間の最大露光時間は互いに同じ時間である、
    ことを特徴とする請求項2記載の撮像装置。
  4. 前記撮像部は、
    前記第1のモードから前記第2のモードへと切り換えた最初の区間の露光では、前記第1のモードにおける区間の最大露光時間の先頭から電荷を排出させて、最大露光時間を、前記第2のモードにおける1つの区間の最大露光時間と同じ時間とする、
    ことを特徴とする請求項1〜3のいずれか1項に記載の撮像装置。
  5. 前記映像出力部は、前記第1のモードと前記第2のモードとで共通の信号方式の映像信号を生成する、
    ことを特徴とする請求項1〜4のいずれか1項に記載の撮像装置。
  6. 赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像ステップと、
    前記撮像ステップにおいて撮像された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力ステップと
    を有し、
    前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長い、
    ことを特徴とする撮像装置の制御方法。
  7. 赤外光を投光していない状態で撮像する第1のモード、又は、赤色に対応付けられた第1の波長を有する第1の赤外光が投光されている状態で撮像する第1の区間と、緑色に対応付けられた第2の波長を有する第2の赤外光が投光されている状態で撮像する第2の区間と、青色に対応付けられた第3の波長を有する第3の赤外光が投光されている状態で撮像する第3の区間とのそれぞれで撮像する第2のモードで、被写体を撮像する撮像ステップと、
    前記撮像ステップにおいて撮像された撮像信号に基づく所定の信号方式の映像信号を生成して出力する映像出力ステップと
    をコンピュータに実行させ、
    前記第2のモードから前記第1のモードへと切り換えた、少なくとも最初の区間における露光時間は、前記第2のモードにおける1つの区間における最大露光時間以下の時間であり、前記第1のモードにおけるその他の区間における最大露光時間は、前記第2のモードにおける最大露光時間よりも長い、
    ことを特徴とする撮像装置の制御プログラム。
JP2014135764A 2014-07-01 2014-07-01 撮像装置、撮像装置の制御方法及び制御プログラム Active JP5692446B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014135764A JP5692446B1 (ja) 2014-07-01 2014-07-01 撮像装置、撮像装置の制御方法及び制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014135764A JP5692446B1 (ja) 2014-07-01 2014-07-01 撮像装置、撮像装置の制御方法及び制御プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013269096A Division JP6264029B2 (ja) 2013-12-26 2013-12-26 撮像装置、撮像装置の制御方法及び制御プログラム

Publications (2)

Publication Number Publication Date
JP5692446B1 true JP5692446B1 (ja) 2015-04-01
JP2015126537A JP2015126537A (ja) 2015-07-06

Family

ID=52830782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014135764A Active JP5692446B1 (ja) 2014-07-01 2014-07-01 撮像装置、撮像装置の制御方法及び制御プログラム

Country Status (1)

Country Link
JP (1) JP5692446B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114175615A (zh) * 2019-09-18 2022-03-11 索尼半导体解决方案公司 摄像器件、摄像系统和摄像方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6739066B2 (ja) * 2016-09-30 2020-08-12 パナソニックIpマネジメント株式会社 撮像制御装置、撮像制御方法、プログラムおよびそれを記録した記録媒体

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006109120A (ja) * 2004-10-06 2006-04-20 Funai Electric Co Ltd 赤外線撮像装置
JP2011050049A (ja) * 2009-07-30 2011-03-10 National Institute Of Advanced Industrial Science & Technology 画像撮影装置および画像撮影方法
JP2013243589A (ja) * 2012-05-22 2013-12-05 Fujitsu General Ltd 暗視撮像装置および赤外線照射装置および暗視撮像システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006109120A (ja) * 2004-10-06 2006-04-20 Funai Electric Co Ltd 赤外線撮像装置
JP2011050049A (ja) * 2009-07-30 2011-03-10 National Institute Of Advanced Industrial Science & Technology 画像撮影装置および画像撮影方法
JP2013243589A (ja) * 2012-05-22 2013-12-05 Fujitsu General Ltd 暗視撮像装置および赤外線照射装置および暗視撮像システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114175615A (zh) * 2019-09-18 2022-03-11 索尼半导体解决方案公司 摄像器件、摄像系统和摄像方法

Also Published As

Publication number Publication date
JP2015126537A (ja) 2015-07-06

Similar Documents

Publication Publication Date Title
JP6264233B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP6264029B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
WO2015118911A1 (ja) 撮像装置及び撮像装置の制御方法、並びに、撮像システム及び撮像システムの制御方法
JP6264234B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP2020053771A (ja) 画像処理装置、撮像装置
JP6318789B2 (ja) 映像処理装置、映像処理方法、及び映像処理プログラム
JP5692446B1 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP6183238B2 (ja) 撮像装置及び撮像装置の制御方法
JP5943740B2 (ja) 撮像装置ならびに撮像方法およびそのプログラム
JP6136948B2 (ja) 撮像装置、映像信号処理方法及び映像信号処理プログラム
JP5655969B1 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP6344279B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP3399454B2 (ja) デジタルカメラ及び画像処理方法、並びに画像撮影プログラムを記録した記録媒体
JP6330704B2 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP6221911B2 (ja) 撮像装置、映像信号処理方法及び映像信号処理プログラム
JP6331966B2 (ja) 撮像装置及び撮像装置の調整方法
JP6260512B2 (ja) 撮像装置、撮像方法、撮像プログラム
JP6160546B2 (ja) 映像処理装置、撮像装置、映像処理方法、及び映像処理プログラム
JP6090217B2 (ja) 撮像システム及び撮像システムの制御方法
JP2009272703A (ja) 撮像装置及びその制御方法
JP6299556B2 (ja) 撮像装置、撮像方法、撮像プログラム
WO2015115142A1 (ja) 撮像装置、撮像装置の制御方法及び制御プログラム
JP6090191B2 (ja) 撮像装置及び撮像装置の制御方法
JP2015128256A (ja) 画像処理装置、画像処理方法、撮像装置および撮像素子
JP2004289055A (ja) 固体撮像素子

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150119

R150 Certificate of patent or registration of utility model

Ref document number: 5692446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150