以下、本発明の具体的な実施の形態について図面を参照しつつ詳細に説明する。なお、本発明の技術的範囲は以下に記述する実施の形態に限定されるものではなく、発明の構成要件やその組み合わせによって得られる特定の効果を導き出せる範囲において、種々の変更や改良を加えた形態も含む。
本発明に係る撮像装置は、例えば、防犯等を目的として、屋内や屋外に設置される監視カメラシステムなどに用いられるものである。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る撮像装置の構成を示す概略図である。図1においては、被写体からの光が撮像レンズ10を通して入射する仕組みになっている。本書で記述する「被写体」とは、撮像装置の撮像レンズ10を向けたときに、当該撮像レンズ10を通して撮像装置に撮像される範囲に含まれるすべてのものをいう。撮像レンズ10は、レンズの種類を標準、広角、望遠の3つに分けると、広角レンズに該当するものである。撮像レンズ10としては、できるだけ広い範囲を対象にして監視撮影を行えるように、例えば画角が90度〜180度程度の魚眼レンズを用いる。
撮像レンズ10を通して入射する光の光軸上には第1の撮像センサ11が配置されている。第1の撮像センサ11は、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子を用いて構成されるものである。第1の撮像センサ11の受光面には、光電変換機能を有する多数の画素が所定の配列(例えば、マトリクス状の配列)で二次元的に配置されている。第1の撮像センサ11の受光面は、入射光の光軸上で撮像レンズ10と対向する状態に配置されている。撮像レンズ10と第1の撮像センサ11は、入射光の光軸上に、共に固定された状態で設けられている。このため、撮像レンズ10から第1の撮像センサ11に至る光路長は一定となっている。撮像レンズ10から第1の撮像センサ11に至る光路の途中には反射部材12が配置されている。反射部材12の一方の面は、光を反射する反射面13となっている。本発明の第1の実施の形態においては、反射部材12の反射面13が、光を全反射する鏡面となっている。
反射部材12は、反射面13での光の反射を利用して、被写体からの光を第1の撮像センサ11と後述する第2の撮像センサ14に選択的に入射させるものである。反射部材12は、撮像レンズ10から第1の撮像センサ11に至る光路から離間した第1の位置(図中、実線で示す位置)と、当該光路を遮る第2の位置(図中、破線で示す位置)との間で、後述する反射部材移動手段により、移動可能に支持されている。反射部材12の移動は、板状をなす反射部材12の一辺部を中心とした回転動作により行なわれる。
反射部材12を第1の位置に配置した状態では、反射部材12の反射面13が入射光の光軸(撮像レンズ10から第1の撮像センサ11に至る光路)と平行に配置される。このため、第1の位置に反射部材12を配置した状態では、被写体からの光が撮像レンズ10を通して第1の撮像センサ11に入射することになる。
一方、反射部材12を第2の位置に配置した状態では、反射部材12の反射面13が入射光の光軸に対して所定の傾斜角度(図例では斜め45度の角度)で傾いて配置される。図例では第1の位置で反射部材12が水平な姿勢に配置され、第2の位置ではそこから45度傾いた姿勢になっている。このため、第2の位置に反射部材12を配置した状態では、撮像レンズ10を通して入射した被写体の光が反射部材12の反射面13で直角に折れ曲がるように反射される。ただし、反射部材12による光の反射角度は、直角に限らず、鋭角であっても、鈍角であってもよい。その理由は後段で記述する。
反射部材12と対向する位置には第2の撮像センサ14が配置されている。第2の撮像センサ14は、例えば上記第1の撮像センサ11と同様に、CCDイメージセンサやCMOSイメージセンサなどの撮像素子を用いて構成されるものである。第2の撮像センサ14の受光面には、光電変換機能を有する多数の画素が所定の配列(例えば、マトリクス状の配列)で二次元的に配置されている。第2の撮像センサ14の受光面は、反射部材12によって反射される反射光の光軸上で後述するズームレンズ15と対向する状態に配置されている。ただし、イメージセンサの特性は、第1の撮像センサ11と第2の撮像センサ14で変えた方が好ましい。具体的には、イメージセンサの解像度特性に関しては、第2の撮像センサ14を第1の撮像センサ11よりも高解像度とすることが好ましい。また、イメージセンサの感度特性に関しては、第2の撮像センサ14を第1の撮像センサ11よりも高感度とすることが望ましい。このようにすることによって、撮像レンズ10を通して第1の撮像センサ11で広角に広い領域を監視した後に、第2の撮像センサ14で部分的に監視をする際に、暗所でも鮮明な画像出力が得られるようになる。
第2の撮像センサ14は、第1の撮像センサ11と異なる位置に配置されるものである。ここでは一例として、第1の撮像センサ11と90度向きを変えた位置に第2の撮像センサ14が配置されている。すなわち、図1においては、第1の撮像センサ11が垂直な向きで配置され、第2の撮像センサ14は水平な向きで配置されている。第2の撮像センサ14は、撮像レンズ10から第1の撮像センサ11に至る光路を間に挟んで、第1の位置に配置された反射部材12の反射面13と対向(対面)する状態に配置されている。第2の撮像センサ14は、反射部材12を第2の位置に配置した場合に、当該反射部材12の反射面13で反射(全反射)される反射光の光軸上に配置されている。
このため、反射部材12が第1の位置に存在するときは、被写体からの光が第1の撮像センサ11に入射することになり、反射部材12が第2の位置に存在するときは、被写体からの光が第2の撮像センサ14に入射することになる。ちなみに、反射部材12による光の反射角度を鋭角又は鈍角とした場合は、それに応じて第2の撮像センサ14を配置する位置を変えればよい。また、撮像レンズ10を通して入射する光の光軸に対して、ある角度で傾けた反射部材12の反射面13で反射させた光を第1の撮像センサ11に入射させ、それと別の角度で傾けた反射部材12の反射面13で反射させた光を第2の撮像センサ14に入射させてもよい。
第2の撮像センサ14の前段部分(光の入射側)にはズームレンズ15が配置されている。ズームレンズ15は、後述するレンズ駆動手段により、第2の撮像センサ14と接近離間する方向に移動可能に設けられている。このため、ズームレンズ15を移動させると、第2の撮像センサ14とズームレンズ15の間の焦点距離が変化する。したがって、ズームレンズ15は、光学ズームの機能を実現するものとなる。ズームレンズ15のズーム倍率は、レンズ構成に応じた所定の範囲内で、連続的にかつ任意の倍率に可変となっている。このズームレンズ15の介在により、第2の位置に配置された反射部材12の反射面13で反射された光は、ズームレンズ15を通して第2の撮像センサ14に入射することになる。このため、同じ撮像レンズ10を通して入射する光を受光するセンサ同士であっても、第1の撮像センサ11は、第2の撮像センサ14よりも被写体を広角に撮影し、第2の撮像センサ14は、第1の撮像センサ11よりも被写体を高倍率に撮影するものとなる。
第2の撮像センサ14は、後述するセンサ移動手段によりにより、上記ズームレンズ15を通して第2の撮像センサ14に入射する光の光軸と直交する方向に移動可能に支持されている。センサ移動手段は、入射光軸に直交する平面内で、第2の撮像センサ14をX方向及びY方向(直交二軸方向)に移動させるもので、例えばX−Yステージ機構を用いて構成される。第2の撮像センサ14の撮影範囲は、センサ移動手段で第2の撮像センサ14を移動させることにより、第1の撮像センサ11の撮影範囲と同等に設定されている。
図2は本発明の第1の実施の形態に係る撮像装置の構成を示す機能ブロック図である。図2において、第1の撮像センサ11から出力されるデジタルの画像信号と、第2の撮像センサ14から出力されるデジタルの画像信号は、それぞれ個別にDSP(デジタル・シグナル・プロセッサ)16に入力される構成となっている。DSP16は、各々の撮像センサ11,14から出力される画像信号を取り込んで信号処理するとともに、当該信号処理によって生成された画像信号(例えば、REC656等の映像信号)を外部機器(例えば、モニターなど)に出力するものである。また、DSP16は、予め与えられた制御用のアルゴリズムにしたがって、反射部材移動手段17、センサ移動手段18及びレンズ移動手段19の駆動を個別に制御するものである。
図3は本発明の第1の実施の形態に係る撮像装置の撮影中のアルゴリズムを示すフローチャートである。このアルゴリズムは、DSP16によって実行されるものである。撮像装置の撮影モードには、第1の撮影モードと、第2の撮影モードがある。第1の撮影モードは、広角撮影モードであり、第2の撮影モードは、高倍率撮影モードである。広角撮影モードは、高倍率撮影モードよりも広い画角で撮影するモードである。高倍率撮影モードは、広角撮影モードよりも高い撮影倍率で撮影するモードである。高倍率撮影モードは、ズームレンズのズーム機能を用いて行なわれる。
まず、DSP16は、広角撮影モードで撮影を開始する。広角撮影モードでは、反射部材12を第1の位置に配置した状態で、第1の撮像センサ11を用いた広角撮影を行なうとともに、この広角撮影によって生成される画像信号を図示しない外部機器に出力する(ステップS1)。ここでは、外部機器として、モニターに画像信号を出力するものとする。
次に、DSP16は、第1の撮像センサ11から出力される画像信号を時系列で順に取り込みつつ、第1のタイミングで取り込んだフレーム(一画面分の画像信号)とその次の第2のタイミングで取り込んだフレームの差分を求める(ステップS2)。フレームの差分は、新たなフレームを取り込むたびに求めることとする。
次に、DSP16は、上記ステップS2で求めたフレーム差分が予め設定された閾値以上であるかどうかを判定する(ステップS3)。本発明の第1の実施の形態では、第1の撮像センサ11で広角撮影している被写体の中に移動物体が存在したときに、フレーム差分が閾値以上となる。閾値は、移動物体の存在を検出のために設定されるものである。閾値は、広角監視に無用な動きを検出しないように、例えば被写体に含まれる樹木の枝葉の僅かな揺れなどによって生じるフレーム差分よりも大きな値で設定される。
次に、DSP16は、上記ステップS3において、フレーム差分が閾値未満であれば、上記ステップS1に戻って広角撮影を継続させる。また、フレーム差分が閾値以上である場合は、被写体中に存在する移動物体の座標位置と当該移動物体の大きさ(面積)を演算する(ステップS4)。移動物体の座標位置は、例えば、第1の撮像センサ11で撮影される被写体の撮影範囲に二次元の座標系(XY座標系)を設定し、この座標系の中で移動物体が存在する位置(X座標値、Y座標値)を演算することにより求める。移動物体の大きさは、例えば、第1の撮像センサ11で広角撮影に寄与する全画素数のうち、フレーム差分が生じた部分の画素数を計数することにより求める。
次に、DSP16は、上記ステップS4で求めた移動物体の座標位置に応じてセンサ移動手段18を駆動することにより、第2の撮像センサ14の撮影範囲の中心に移動物体が位置するように、第2の撮像センサ14を移動させる(ステップS5)。第2の撮像センサ14の移動は、予め設定された初期位置から開始する。ただし、移動物体の座標位置によっては、第2の撮像センサ14を初期位置に配置したままにすることもあり得る。
次に、DSP16は、上記ステップS4で求めた移動物体の大きさに応じてレンズ移動手段19を駆動することにより、移動物体の撮影サイズが所定サイズとなるように、ズームレンズ15のズーム倍率(撮影倍率)を設定する(ステップS6)。ズーム倍率の設定方法としては、撮影の対象物となる移動物体の大きさに対して適当なのり白を持たせて、モニターの画面一杯に移動体を表示するようにDSP16で計算する。当然ながら、小さい移動体を撮影する場合は高倍率となり、大きい移動体を撮影する場合は低倍率となる。また、ズーム倍率の設定は、予め設定された初期倍率からの変更によって行なう。ただし、移動物体の大きさによっては、ズーム倍率を初期倍率のままにすることもあり得る。移動物体の撮影サイズとは、撮像センサを用いて撮影される被写体の中に占める移動物体のサイズをいう。このため、同じ大きさの移動物体であっても、撮像センサで撮影するときの画角が広いほど(広角撮影になるほど)、移動物体の撮影サイズが小さくなる。
次に、DSP16は、反射部材移動手段17を駆動することにより、反射部材12を第1の位置から第2の位置へと移動させる(ステップS7)。これにより、撮像装置の撮像モードが、第1の撮像センサ11を用いた広角撮影モードから、第2の撮像センサ14を用いた高倍率撮影モードに切り替わる。反射部材12の移動は瞬時に行なうことが望ましい。図4(A)は第1の撮像センサ11を用いて広角撮影モードを実行する場合の画角と表示サイズを示し、図4(B)は第2の撮像センサ14を用いて高倍率撮影モードを実行する場合の画角と表示サイズを示している。図示のように同じ大きさの移動物体20であっても、第1の撮像センサ11で撮影される移動物体20の撮影サイズと、第2の撮像センサ14で撮影される移動物体20の撮影サイズは、画角の違いによって変わる。
次に、DSP16は、第2の撮像センサ14を用いて移動物体の追尾を開始する(ステップS8)。移動物体の追尾中は、被写体中の移動物体の撮影サイズが所定サイズとなるように、レンズ移動手段19を適宜駆動して、第2の撮像センサ14による撮影倍率を動的に変化させる。また、移動物体の追尾中は、第2の撮像センサ14の撮影範囲の中心に移動物体が位置するように(移動物体を追尾するように)、センサ移動手段18を適宜駆動して、第2の撮像センサ14を移動させる。具体的には、図5に示すように、第2の撮像センサ14で撮影される被写体の中で移動物体20がM1矢視方向に移動した場合に、それに連動させて第2の撮像センサ14をM2矢視方向に移動させる。これにより、移動物体20の移動前と移動後で、第2の撮像センサ14の撮影範囲の中心に移動物体20をとらえることができる。
次に、DSP16は、高倍率撮影モードでの移動物体の追尾中に第2の撮像センサ14から出力される画像信号を処理してモニターに出力する(ステップS9)。このとき、モニターの画面には、第1の撮像センサ11を用いて撮影された被写体の中からフレーム差分によって検出された移動物体が背景と一緒に表示されることになる。
次に、DSP16は、第2の撮像センサ14で追尾している移動物体の座標位置が予め設定された所定時間内に変化したかどうかを判定する(ステップS10)。そして、所定時間内に移動物体の座標位置が変化した場合は、上記ステップS8に戻って移動物体の追尾を継続する。これに対して、所定時間が過ぎても移動物体の座標位置が変化しなかった場合は、反射部材移動手段17を駆動することにより、反射部材12を第2の位置から第1の位置へと移動させた後(ステップS11)、上記ステップS1に戻る。これにより、撮像装置の撮像モードが、第2の撮像センサ14を用いた高倍率撮影モードから、第1の撮像センサ11を用いた広角撮影モードに切り替わる。したがって、この時点で第2の撮像センサ14を用いた移動物体の追尾が終了し、再び広角撮影による監視状態に入る。
以降は、移動物体の検出状態に応じて、第1の撮像センサ11を用いた広角撮影と、第2の撮像センサ14を用いた高倍率撮影が繰り返されることになる。このため、移動物体の広角監視と、移動物体のズーム監視を適宜切り替えて行なうことができる。
なお、高倍率撮影モードで移動物体の座標位置が所定時間を超えて変化しない状況としては、具体的に次のような3つのケースが考えられる。第1のケースは、撮像センサの撮影範囲に存在する移動物体が長時間にわたって停止している場合である。第2のケースは、移動物体の動きが速いために、撮像センサでの追尾が間に合わずに見失ってしまった場合である。第3のケースは、移動物体が撮像センサの撮影範囲を超えて移動した場合である。
移動物体の追尾が終了した段階では、第2の撮像センサ14の移動位置をセンサ移動手段18の駆動により初期位置に戻すとともに、ズームレンズ15のズーム倍率をレンズ移動手段19の駆動により初期倍率に戻しておくことが望ましい。このように第2の撮像センサ14の移動位置とズームレンズ15のズーム倍率を初期状態に戻しておけば、高倍率撮影モードでの移動物体の追尾を常に同じ動作状態から開始することができる。
本発明の第1の実施の形態に係る撮像装置においては、被写体からの光を反射部材12の反射面13を利用して第1の撮像センサ11と第2の撮像センサ14に選択的に入射させる仕組みになっている。このため、第1の撮像センサ11と第2の撮像センサ14の双方に対して、被写体からの光を100%又はそれに近い比率で入射させることができる。したがって、暗所で撮影する場合の感度を高めることができる。また、従来のように2つのカメラを組み合わせて使用するシステムでは、カメラの台数に応じて、光学系や信号処理系が2つ必要になるが、本発明の第1の実施の形態に係る撮像装置では、光学系や信号処理系が1つで済む。このため、システム構成を簡素化することができる。したがって、システムの小型化、低コスト化を図るうえで有利になる。また、第1の撮像センサ11を用いた広角撮影においては、動き検出、顔検出などの処理を組み込むことにより、単純なフレーム差分だけではなく、高度な検出処理を実装することが可能である。
ところで、広角撮影モードで撮影された画像をモニターに表示する場合は、第1の撮像センサ11を用いて撮影された画像をそのままモニター画面に表示すればよい。これに対して、高倍率撮影モードで撮影された画像をモニターの画面に表示する場合は、第2の撮像センサ14を用いて撮影された画像をそのままモニター画面に表示しても、移動物体が監視エリアのどこに存在しているのか把握できない。なぜなら、第2の撮像センサ14の移動による追尾動作や、ズームレンズ15のズーム倍率の動的な変化により、移動物体は常にモニター画面に大きく映し出され、限られた領域の背景だけで移動物体の位置を特定することが困難となるためである。
そこで、本発明の第1の実施の形態においては、高倍率撮影モード時のモニター画面への画像の表示方式として、二画面表示方式、好ましくは、二画面表示方式の一つであるpicture in picture方式を採用することとする。二画面表示方式とは、二つの画面を並べて又は重ねて同時に表示する方式である。picture in picture方式とは、相対的に大きい親画面の上に、相対的に小さい子画面を重ねて表示する方式である。その場合、親画面は、モニターの画面全体に表示し、子画面は、親画面の四隅のいずれか一つに重ねて表示することが望ましい。
図6はpicture in picture方式を採用した場合の表示例を示す図である。なお、図6においては、被写体に含まれる背景の部分を省略して移動物体20のみ表示している。図6(A)に示す表示画面では、広角撮影モードで第1の撮像センサ11により得られる移動物体20-1の画像を表示している。図6(B)に示す表示画面では、高倍率撮影モードで第2の撮像センサ14により得られる移動物体20-2の画像を含む親画面の左下隅に、広角撮影モードで第1の撮像センサ11により得られる移動物体20-1の画像を含む子画面を表示している。図6(C)に示す表示画面では、上記同様に親画面の左下隅に子画面を表示している。ただし、図6(B)と図6(C)では、子画面に表示された移動物体20-1の位置が異なっている。これは、追尾中に移動物体20の動きに合わせて第2の撮像センサ14をセンサ移動手段18の駆動により移動させたときに、その移動量及び移動方向に応じて、子画面内で移動物体20-1の表示位置を変えているためである。
広角撮影モードを行なう場合は、反射部材12を第1の位置に移動させることで、第1の撮像センサ11を用いた広角撮影を可能としている。また、高倍率撮影モードを行なう場合は、反射部材12を第2の位置に移動させることで、第2の撮像センサ14を用いた高倍率撮影を可能としている。このため、高倍率撮影を行なっているときは広角撮影が行なわれず、逆に、広角撮影を行っているときは高倍率撮影が行われない。つまり、2つのセンサ11,14を同時に使用して、広角撮影と高倍率撮影を同時に行なうことはできない仕組みになっている。このため、子画面に表示される移動物体の画像は、高倍率撮影モードに切り替える前(反射部材12を第1の位置から第2の位置に移動させる前)に、第1の撮像センサ11を用いて撮影されたものとなる。監視撮影においては、親画面に表示される移動物体20-2の画像は、高倍率モード時に第2の撮像センサ14を用いて撮影される移動物体の画像(実像)とする必要がある。これに対して、子画面に表示される移動物体20-1の画像は、広角撮影モード時に第1の撮像センサ11を用いて撮影された移動物体の画像としてもよいし、単なる抽象的なマーク等の画像としてもよい。
このような表示方式を採用すれば、移動物体の追尾中に、第2の撮像センサ14によって得られる移動物体の詳細画像をリアルタイムに把握することができると共に、移動物体が監視エリアのどこに存在しているかをセンサの切り替えなしで把握することができる。
(第2の実施の形態)
図7は本発明の第2の実施の形態に係る撮像装置の構成を示す概略図である。図7においては、被写体からの光が撮像レンズ21を通して入射する仕組みになっている。撮像レンズ21としては、例えば、画角が120度の広角レンズを用いる。
撮像レンズ21を通して入射する光の光軸上には撮像センサ22が配置されている。撮像センサ22は、例えばCCDイメージセンサやCMOSイメージセンサなどの撮像素子を用いて構成されるものである。撮像センサ22の受光面には、光電変換機能を有する多数の画素が所定の配列(例えば、マトリクス状の配列)で二次元的に配置されている。撮像センサ22の受光面は、入射光の光軸上で撮像レンズ21と対向する状態に配置されている。撮像レンズ21と撮像センサ22は、入射光の光軸上に、共に固定された状態で設けられている。このため、撮像レンズ21から撮像センサ22に至る光路長は一定となっている。
撮像レンズ21から撮像センサ22に至る光路の途中にはズームレンズ23が配置されている。撮像レンズ21とズームレンズ23の光学中心位置は互いに一致している。ズームレンズ23は、後述するレンズ駆動手段により、撮像センサ22と接近離間する方向に移動可能に設けられている。このため、ズームレンズ23を移動させると、撮像センサ22とズームレンズ23の間の焦点距離が変化する。したがって、ズームレンズ23は、光学ズームの機能を実現するものとなる。ズームレンズ23のズーム倍率は、レンズ構成に応じた所定の範囲内で、連続的にかつ任意の倍率に可変となっている。このズームレンズ23の介在により、被写体からの光は撮像レンズ21とズームレンズ23を順に通して撮像センサ22に入射することになる。
撮像センサ22は、後述するセンサ移動手段によりにより、上記ズームレンズ23を通して撮像センサ22に入射する光の光軸と直交する方向に移動可能に支持されている。センサ移動手段は、入射光軸に直交する平面内で、撮像センサ22をX方向及びY方向(直交二軸方向)に移動させるもので、例えばX−Yステージ機構を用いて構成される。
図8は本発明の第2の実施の形態に係る撮像装置の構成を示す機能ブロック図である。図8において、撮像センサ22から出力されるデジタルの画像信号は、DSP(デジタル・シグナル・プロセッサ)24に入力される構成となっている。DSP24は、撮像センサ22から出力される画像信号を取り込んで信号処理するとともに、当該信号処理によって生成された画像信号(例えば、REC656等の映像信号)を外部機器(例えば、モニターなど)に出力するものである。また、DSP24は、予め与えられた制御用のアルゴリズムにしたがって、センサ移動手段25及びレンズ移動手段26の駆動を個別に制御するものである。
図9は本発明の第2の実施の形態に係る撮像装置の撮影中のアルゴリズムを示すフローチャートである。このアルゴリズムは、DSP24によって実行されるものである。
まず、DSP24は、広角撮影モードで撮影を開始する。広角撮影モードでは、ズームレンズ15を用いた撮像センサ22の撮影倍率(ズーム倍率)を1倍に設定し、撮像レンズ21を通して120度の広角撮影を行なうとともに、この広角撮影によって生成される画像信号を図示しない外部機器に出力する(ステップS21)。また、広角撮影モードでは、撮像センサ22を予め設定された初期位置に移動させた状態で撮影を開始する。ここでは、外部機器として、モニターに画像信号を出力するものとする。
次に、DSP24は、撮像センサ22から出力される画像信号を時系列で順に取り込みつつ、第1のタイミングで取り込んだフレーム(一画面分の画像信号)とその次の第2のタイミングで取り込んだフレームの差分を求める(ステップS22)。フレームの差分は、新たなフレームを取り込むたびに求めることとする。
次に、DSP24は、上記ステップS22で求めたフレーム差分が予め設定された閾値以上であるかどうかを判定する(ステップS23)。本発明の第2の実施の形態では、撮像センサ22で広角撮影している被写体の中に移動物体が存在したときに、フレーム差分が閾値以上となる。閾値は、移動物体の存在を検出のために設定されるものである。閾値は、広角監視に無用な動きを検出しないように、例えば被写体に含まれる樹木の枝葉の僅かな揺れなどによって生じるフレーム差分よりも大きな値で設定される。
次に、DSP24は、上記ステップS23において、フレーム差分が閾値未満であれば、上記ステップS21に戻って広角撮影を継続させる。また、フレーム差分が閾値以上である場合は、被写体中に存在する移動物体の座標位置と当該移動物体の大きさ(面積)を演算する(ステップS24)。移動物体の座標位置は、例えば、撮像センサ22で撮影される被写体の撮影範囲に二次元の座標系(XY座標系)を設定し、この座標系の中で移動物体が存在する位置(X座標値、Y座標値)を演算することにより求める。移動物体の大きさは、例えば、撮像センサ22で広角撮影に寄与する全画素数のうち、フレーム差分が生じた部分の画素数を計数することにより求める。
次に、DSP24は、上記ステップS24で求めた移動物体の座標位置に応じてセンサ移動手段25を駆動することにより、撮像センサ22の撮影範囲の中心に移動物体が位置するように、撮像センサ22を移動させる(ステップS25)。撮像センサ22の移動は、予め設定された初期位置から開始する。ただし、移動物体の座標位置によっては、撮像センサ22を初期位置に配置したままにすることもあり得る。
次に、DSP24は、上記ステップS24で求めた移動物体の大きさに応じてレンズ移動手段26を駆動することにより、移動物体の撮影サイズが所定サイズとなるように、ズームレンズ23のズーム倍率(撮影倍率)を設定する(ステップS26)。ズーム倍率の設定方法としては、上記第1の実施の形態と同様に、撮影の対象物となる移動物体の大きさに対して適当なのり白を持たせて、モニターの画面一杯に移動体を表示するようにDSP24で計算する。当然ながら、小さい移動体を撮影する場合は高倍率となり、大きい移動体を撮影する場合は低倍率となる。また、ズーム倍率の設定は、予め設定された初期倍率からの変更によって行なう。ここで設定されるズーム倍率(撮影倍率)は、初期倍率(本形態では1倍)よりも高い倍率となる。このため、ズーム倍率が変更された段階で、撮像装置の撮影モードが、広角撮影モードから高倍率撮影モードに切り替わることになる。
次に、DSP24は、撮像センサ22を用いて移動物体の追尾を開始する(ステップS27)。移動物体の追尾中は、被写体中の移動物体の撮影サイズが所定サイズとなるように、レンズ移動手段26を適宜駆動して、撮像センサ22による撮影倍率を動的に変化させる。また、移動物体の追尾中は、撮像センサ22の撮影範囲の中心に移動物体が位置するように(移動物体を追尾するように)、センサ移動手段25を適宜駆動して、撮像センサ22を移動させる。
次に、DSP24は、高倍率撮影モードでの移動物体の追尾中に撮像センサ22から出力される画像信号を処理してモニターに出力する(ステップS28)。このとき、モニターの画面には、フレーム差分によって検出された移動物体が背景と一緒に表示されることになる。この場合も、上記第1の実施の形態と同様に、二画面表示方式(picture in picture方式)を採用することが可能である。
次に、DSP24は、撮像センサ22で追尾している移動物体の座標位置が予め設定された所定時間内に変化したかどうかを判定する(ステップS29)。そして、所定時間内に移動物体の座標位置が変化した場合は、上記ステップS27に戻って移動物体の追尾を継続する。これに対して、所定時間が過ぎても移動物体の座標位置が変化しなかった場合は、センサ移動手段25を駆動することにより、撮像センサ22を初期位置に戻す(ステップS30)。次いで、レンズ移動手段26を駆動することにより、撮像センサ22による撮影倍率を初期倍率に戻す(ステップS31)。ステップS30とステップS31は、どちらを先に行なってもよいし、同時進行で行なってもよい。その後、上記ステップS21に戻る。これにより、撮像装置の撮像モードが、高倍率撮影モードから広角撮影モードに切り替わる。
以降は、移動物体の検出状態に応じて、撮影倍率に初期倍率を適用した広角撮影と、撮影倍率に初期倍率よりも高い倍率を適用した高倍率撮影が繰り返されることになる。このため、移動物体の広角監視と、移動物体のズーム監視を適宜切り替えて行なうことができる。
本発明の第2の実施の形態に係る撮像装置においては、被写体からの光を撮像レンズ21とズームレンズ23を通して撮像センサ22に入射させる仕組みになっている。このため、被写体からの光を100%又はそれに近い比率で撮像センサ22に入射させることができる。このため、暗所で撮影する場合の感度を高めることができる。また、上記第1の実施の形態と比較すると、1つの撮像センサで、広角撮影と高倍率撮影に対応することができる。このため、光学系の簡素化とセンサ個数の削減により、システムの小型化、低コスト化を図ることができる。
(第3の実施の形態)
図10は本発明の第3の実施の形態に係る撮像装置の構成を示す概略図である。図10においては、被写体からの光が撮像レンズ30を通して入射する仕組みになっている。撮像レンズ30としては、例えば画角が120度の広角レンズを用いる。
撮像レンズ30を通して入射する光の光軸上には第1の撮像センサ31が配置されている。第1の撮像センサ31は、例えばCCDイメージセンサやCMOSイメージセンサなどの撮像素子を用いて構成されるものである。第1の撮像センサ31の受光面には、光電変換機能を有する多数の画素が所定の配列(例えば、マトリクス状の配列)で二次元的に配置されている。第1の撮像センサ13の受光面は、入射光の光軸上で撮像レンズ30と対向する状態に配置されている。撮像レンズ30と第1の撮像センサ31は、入射光の光軸上に、共に固定された状態で設けられている。このため、撮像レンズ30から第1の撮像センサ31に至る光路長は一定となっている。
撮像レンズ30から第1の撮像センサ31に至る光路の途中には、板状の光変調素子32が配置されている。光変調素子32は、撮像レンズ30を通して第1の撮像センサ31に入射する光の光路を遮る状態に配置されている。光変調素子32は、被写体からの光のうち、一部の光を透過し、他の光を反射するものである。光変調素子32としては、例えば液晶パネルを用いる。液晶パネルは、光透過性を有する2枚の基板(一般的には透明なガラス基板)の間に液晶を封入したもので、液晶に電圧を印加することで光の透過率が変化する特性を有する。なお、光変調素子32は、光の透過率と反射率の相対的な比率を変えられるものであれば、液晶パネル以外の光学素子を用いて構成してもよい。光変調素子32の光透過率は、後述する透過率可変手段により、所定の範囲で変更可能となっている。光変調素子32の光透過率を高くすると、当該光変調素子32の光反射率が低くなり、逆に、光変調素子32の光透過率を低くすると、当該光変調素子32の光反射率が高くなる。このため、光変調素子32の光透過率を変更するということは、相対的に光変調素子32の光反射率を変更するということでもある。
光変調素子32は、撮像レンズ30を通して入射する光の光軸に対して所定の傾斜角度(図例では斜め45度の角度)で傾いた状態に配置されている。このため、撮像レンズ30を通して光変調素子32に入射した光のうち、当該光変調素子32で反射される光は、当該光変調素子32の傾斜角度に応じて折れ曲がる。ここでは一例として、光変調素子32が入射光の光軸に対して45度の角度で傾いて配置されているため、光変調素子32で反射される光は直角に折り曲がることになる。
光変調素子32で反射される光の光軸上には、第2の撮像センサ34が配置されている。第2の撮像センサ34は、例えば上記第1の撮像センサ31と同様に、CCDイメージセンサやCMOSイメージセンサなどの撮像素子を用いて構成されるものである。第2の撮像センサ34の受光面には、光電変換機能を有する多数の画素が所定の配列(例えば、マトリクス状の配列)で二次元的に配置されている。第2の撮像センサ34の受光面は、光変調素子32によって反射される反射光の光軸上で後述するズームレンズ35と対向する状態に配置されている。イメージセンサの特性は、第1の撮像センサ31と第2の撮像センサ34で変えた方が好ましい。具体的には、イメージセンサの解像度特性に関しては、第2の撮像センサ34を第1の撮像センサ31よりも高解像度とすることが好ましい。また、イメージセンサの感度特性に関しては、第2の撮像センサ34を第1の撮像センサ31よりも高感度とすることが望ましい。このようにすることによって、撮像レンズ30を通して第1の撮像センサ31で広角に広い領域を監視した後に、第2の撮像センサ34で部分的に監視をする際に、暗所でも鮮明な画像出力が得られるようになる。第2の撮像センサ34は、第1の撮像センサ31と異なる位置に配置されるものである。ここでは一例として、第1の撮像センサ11と90度向きを変えた位置に第2の撮像センサ34が配置されている。すなわち、図10においては、第1の撮像センサ31が垂直な向きで配置され、第2の撮像センサ34は水平な向きで配置されている。
第2の撮像センサ34の前段部分(光の入射側)にはズームレンズ35が配置されている。ズームレンズ35は、後述するレンズ駆動手段により、第2の撮像センサ34と接近離間する方向に移動可能に設けられている。このため、ズームレンズ35を移動させると、第2の撮像センサ34とズームレンズ35の間の焦点距離が変化する。したがって、ズームレンズ35は、光学ズームの機能を実現するものとなる。ズームレンズ35のズーム倍率は、レンズ構成に応じた所定の範囲内で、連続的にかつ任意の倍率に可変となっている。このズームレンズ35の介在により、光変調素子32で反射された光は、ズームレンズ35を通して第2の撮像センサ34に入射することになる。このため、同じ撮像レンズ10を通して入射する光を受光するセンサ同士であっても、第1の撮像センサ31は、第2の撮像センサ34よりも被写体を広角に撮影し、第2の撮像センサ34は、第1の撮像センサ31よりも被写体を高倍率に撮影するものとなる。
第2の撮像センサ34は、後述するセンサ移動手段によりにより、上記ズームレンズ35を通して第2の撮像センサ34に入射する光の光軸と直交する方向に移動可能に支持されている。センサ移動手段は、入射光軸に直交する平面内で、第2の撮像センサ34をX方向及びY方向(直交二軸方向)に移動させるもので、例えばX−Yステージ機構を用いて構成される。第2の撮像センサ34の撮影範囲は、センサ移動手段で第2の撮像センサ34を移動させることにより、第1の撮像センサ31の撮影範囲と同等に設定されている。
図11は本発明の第3の実施の形態に係る撮像装置の構成を示す機能ブロック図である。図11において、第1の撮像センサ31から出力されるデジタルの画像信号と、第2の撮像センサ34から出力されるデジタルの画像信号は、それぞれ個別にDSP(デジタル・シグナル・プロセッサ)36に入力される構成となっている。DSP36は、各々の撮像センサ31,34から出力される画像信号を取り込んで信号処理するとともに、当該信号処理によって生成された画像信号(例えば、REC656等の映像信号)を外部機器(例えば、モニターなど)に出力するものである。また、DSP36は、予め与えられた制御用のアルゴリズムにしたがって、透過率可変手段37、センサ移動手段38及びレンズ移動手段39の駆動を個別に制御するものである。
透過率可変手段37は、光変調素子32の光透過率を変更するものである。透過率可変手段37は、電気的な操作によって光変調素子32の光透過率を変更する。例えば、光変調素子32を液晶パネルで構成した場合は、当該液晶パネルの液晶に印加する電圧を操作(制御)することにより、光変調素子32の光透過率を変更する。このように電気的な操作によって光変調素子32の光透過率を変更する構成とすれば、機械的な操作に比較して、光透過率の変更を素早く行なうことができる。ここでは一例として、透過率可変手段37で変更可能な光変調素子32の光透過率の最大値を80%、最小値を20%とする。
図12は本発明の第3の実施の形態に係る撮像装置の撮影中のアルゴリズムを示すフローチャートである。このアルゴリズムは、DSP36によって実行されるものである。
まず、DSP36は、広角撮影モードで撮影を開始する。広角撮影モードでは、光変調素子32の光反射率を最大値に設定した状態で、第1の撮像センサ31を用いた広角撮影を行なうとともに、この広角撮影によって生成される画像信号を図示しない外部機器に出力する(ステップS41)。この場合は、撮像レンズ30を通して入射する被写体からの光の多くが、第1の撮像センサ31に入射することになる。ここでは、外部機器として、モニターに画像信号を出力するものとする。
次に、DSP36は、第1の撮像センサ31から出力される画像信号を時系列で順に取り込みつつ、第1のタイミングで取り込んだフレーム(一画面分の画像信号)とその次の第2のタイミングで取り込んだフレームの差分を求める(ステップS42)。フレームの差分は、新たなフレームを取り込むたびに求めることとする。
次に、DSP36は、上記ステップS42で求めたフレーム差分が予め設定された閾値以上であるかどうかを判定する(ステップS43)。本発明の第3の実施の形態では、第1の撮像センサ31で広角撮影している被写体の中に移動物体が存在したときに、フレーム差分が閾値以上となる。閾値は、移動物体の存在を検出のために設定されるものである。閾値は、広角監視に無用な動きを検出しないように、例えば被写体に含まれる樹木の枝葉の僅かな揺れなどによって生じるフレーム差分よりも大きな値で設定される。
次に、DSP36は、上記ステップS43において、フレーム差分が閾値未満であれば、上記ステップS41に戻って広角撮影を継続させる。また、フレーム差分が閾値以上である場合は、被写体中に存在する移動物体の座標位置と当該移動物体の大きさ(面積)を演算する(ステップS44)。移動物体の座標位置は、例えば、第1の撮像センサ31で撮影される被写体の撮影範囲に二次元の座標系(XY座標系)を設定し、この座標系の中で移動物体が存在する位置(X座標値、Y座標値)を演算することにより求める。移動物体の大きさは、例えば、第1の撮像センサ31で広角撮影に寄与する全画素数のうち、フレーム差分が生じた部分の画素数を計数することにより求める。
次に、DSP36は、上記ステップS44で求めた移動物体の座標位置に応じてセンサ移動手段38を駆動することにより、第2の撮像センサ34の撮影範囲の中心に移動物体が位置するように、第2の撮像センサ34を移動させる(ステップS45)。第2の撮像センサ34の移動は、予め設定された初期位置から開始する。ただし、移動物体の座標位置によっては、第2の撮像センサ34を初期位置に配置したままにすることもあり得る。
次に、DSP36は、上記ステップS44で求めた移動物体の大きさに応じてレンズ移動手段39を駆動することにより、第2の撮像センサ34の撮影範囲で移動物体の撮影サイズが所定サイズとなるように、ズームレンズ35のズーム倍率を設定する(ステップS46)。ズーム倍率の設定方法としては、上記第1の実施の形態と同様に、撮影の対象物となる移動物体の大きさに対して適当なのり白を持たせて、モニターの画面一杯に移動体を表示するようにDSP36で計算する。
次に、DSP36は、透過率可変手段37を駆動することにより、光変調素子32の光透過率を最大値から最小値に変更する(ステップS47)。このとき、光変調素子32の光透過率が80%から20%に変更されると、それに応じて光変調素子32の光反射率が高くなる。このため、撮像レンズ30を通して入射する被写体からの光の多くが、光変調素子32で反射され、ズームレンズ35を通して第2の撮像センサ34に入射するようになる。これにより、撮像装置の撮像モードが、第1の撮像センサ31を用いた広角撮影モードから、第2の撮像センサ34を用いた高倍率撮影モードに切り替わる。
ここで、図13に示すように、時刻t0で撮影を開始する場合は、時刻t0で光変調素子32の光透過率を最大値に設定するとともに、第1の撮像センサ31の出力をオン状態、第2の撮像センサ34の出力をオフ状態とする。その後、移動物体の検出に伴って、時刻t1で光変調素子32の光透過率を最小値に設定するとともに、第1の撮像センサ31の出力をオフ状態、第2の撮像センサ34の出力をオン状態とする。これにより、第1の撮像センサ31と第2の撮像センサ34の両方から間欠的(交互)に画像信号を出力させることが可能となる。
次に、DSP36は、第2の撮像センサ34を用いて移動物体の追尾を開始する(ステップS48)。移動物体の追尾中は、被写体中の移動物体の撮影サイズが所定サイズとなるように、レンズ移動手段39を適宜駆動して、第2の撮像センサ34による撮影倍率を動的に変化させる。また、移動物体の追尾中は、第2の撮像センサ34の撮影範囲の中心に移動物体が位置するように(移動物体を追尾するように)、センサ移動手段38を適宜駆動して、第2の撮像センサ34を移動させる。
次に、DSP36は、高倍率撮影モードでの移動物体の追尾中に第2の撮像センサ34から出力される画像信号を処理してモニターに出力する(ステップS49)。このとき、モニターの画面には、第1の撮像センサ31を用いて撮影された被写体の中からフレーム差分によって検出された移動物体が背景と一緒に表示されることになる。この場合も、上記第1の実施の形態と同様に、二画面表示方式(picture in picture方式)を採用することが可能である。
次に、DSP36は、第2の撮像センサ34で追尾している移動物体の座標位置が予め設定された所定時間内に変化したかどうかを判定する(ステップS50)。そして、所定時間内に移動物体の座標位置が変化した場合は、上記ステップS48に戻って移動物体の追尾を継続する。これに対して、所定時間が過ぎても移動物体の座標位置が変化しなかった場合は、透過率可変手段37を駆動することにより、光変調素子32の光反射率を最小値から最大値に変更した後(ステップS51)、上記ステップS41に戻る。これにより、撮像装置の撮像モードが、第2の撮像センサ34を用いた高倍率撮影モードから、第1の撮像センサ31を用いた広角撮影モードに切り替わる。したがって、この時点で第2の撮像センサ34を用いた移動物体の追尾が終了し、再び広角撮影による監視状態に入る。
以降は、移動物体の検出状態に応じて、第1の撮像センサ31を用いた広角撮影と、第2の撮像センサ34を用いた高倍率撮影が繰り返されることになる。このため、移動物体の広角監視と、移動物体のズーム監視を適宜切り替えて行なうことができる。
移動物体の追尾が終了した段階では、第2の撮像センサ34の移動位置をセンサ移動手段38の駆動により初期位置に戻すとともに、ズームレンズ35のズーム倍率をレンズ移動手段39の駆動により初期倍率に戻しておくことが望ましい。このように第2の撮像センサ34の移動位置とズームレンズ13のズーム倍率を初期状態に戻しておけば、高倍率撮影モードでの移動物体の追尾を常に同じ動作状態から開始することができる。
本発明の第3の実施の形態に係る撮像装置においては、広角撮影モードでは光変調素子32の光透過率を最大値に設定し、高倍率撮像モードでは光変調素子32の光透過率を最小値に設定することにより、第1の撮像センサ31を用いた広角撮影と、第2の撮像センサ34を用いた高倍率撮影(ズーム撮影)を行なう仕組みになっている。このため、広角撮影モードでは、第1の撮像センサ31に対して、より多くの光を入射させることができる。また、高倍率撮影モードでは、第2の撮像センサ34に対して、より多くの光を入射させることができる。このため、光透過率又は光反射率が一定となるハーフミラー等の光学素子を用いて被写体の光を分光する場合に比較して、暗所で撮影する場合の感度を高めることができる。また、従来のように2つのカメラを組み合わせて使用するシステムでは、カメラの台数に応じて、光学系や信号処理系が2つ必要になるが、本発明の第3の実施の形態に係る撮像装置では、光学系や信号処理系が1つで済む。このため、システム構成を簡素化することができる。したがって、システムの小型化、低コスト化を図るうえで有利になる。また、第1の撮像センサ31を用いた広角撮影においては、動き検出、顔検出などの処理を組み込むことにより、単純なフレーム差分だけではなく、高度な検出処理を実装することが可能である。
さらに、本発明の第3の実施の形態に係る撮像装置においては、撮像レンズ30を通して入射する被写体からの光のうち、一部の光が光変調素子32を透過して第1の撮像センサ31に入射し、他の光が光変調素子32で反射して第2の撮像センサ34に入射する。つまり、第1の撮像センサ31と第2の撮像センサ34に同時に光を入射させることができる。このため、各々の撮像センサ31,34から出力される画像信号をDSP36で並列処理する構成とすれば、第1の撮像センサ31を用いて広角撮影を行ない、これと並行して、第2の撮像センサ34を用いて高倍率撮影を行なうことができる。広角撮影と高倍率撮影を同時に行なうことにより、高速に動く移動物体への追尾性能を向上させることができる。ただし、撮影モードによって各々の撮像センサ31,34に入射する光量の割合が大きく変化するため、一方の撮像センサによる撮影感度が低くなる。したがって、暗所の撮影では感度不足になることも懸念されるが、昼間の屋外などのように十分な照度がある場合は、広角撮影とズーム撮影での同時監視が十分に可能である。
なお、上記各実施の形態においては、各々の撮像センサから出力される画像信号をDSPで処理するとともに、当該DSPで反射部材の移動制御やセンサ、レンズ等の移動制御、さらには透過率の可変制御を行なう構成を例示したが、本発明はこれに限らない。例えば、上記第1の実施の形態に係る撮像装置の他の構成として、図14に示す構成を採用してもよい。図示した装置構成においては、第1の撮像センサ11から出力される画像信号を第1のカメラ信号処理部111で処理し、第2の撮像センサ14から出力される画像信号を第2のカメラ信号処理部114で処理する構成となっている。そして、各々のカメラ信号処理部111,114で処理された画像信号をCPU(中央演算処理装置)112に取り込み、このCPU112が反射部材移動手段17、センサ移動手段18及びレンズ駆動手段19の駆動を個別に制御する構成となっている。
また、上記第2の実施の形態に係る撮像装置の他の構成として、図15に示す構成を採用してもよい。図示した装置構成においては、撮像センサ22から出力される画像信号をカメラ信号処理部122で処理する構成となっている。そして、カメラ信号処理部で処理された画像信号をCPU123に取り込み、このCPU123がセンサ移動手段25及びレンズ駆動手段26の駆動を個別に制御する構成となっている。
また、上記第3の実施の形態に係る撮像装置の他の構成として、図16に示す構成を採用してもよい。図示した装置構成においては、第1の撮像センサ31から出力される画像信号を第1のカメラ信号処理部131で処理し、第2の撮像センサ34から出力される画像信号を第2のカメラ信号処理部134で処理する構成となっている。そして、各々のカメラ信号処理部131,134で処理された画像信号をCPU132に取り込み、このCPU132が透過率可変手段37、センサ移動手段38及びレンズ駆動手段39の駆動を個別に制御する構成となっている。
10…撮像レンズ、11…第1の撮像センサ、12…反射部材、13…反射面、14…第2の撮像センサ、15…ズームレンズ、16…DSP、17…反射部材移動手段、18…センサ移動手段、19…レンズ移動手段、20…移動物体、21…撮像レンズ、22…撮像センサ、23…ズームレンズ、24…DSP、25…センサ移動手段、26…レンズ移動手段、30…撮像レンズ、31…第1の撮像センサ、32…光変調素子、34…第2の撮像センサ、35…ズームレンズ、36…DSP、37…透過率可変手段、38…センサ移動手段、39…レンズ駆動手段