JP4736381B2 - 撮像装置及び方法、監視システム、プログラム並びに記録媒体 - Google Patents

撮像装置及び方法、監視システム、プログラム並びに記録媒体 Download PDF

Info

Publication number
JP4736381B2
JP4736381B2 JP2004266014A JP2004266014A JP4736381B2 JP 4736381 B2 JP4736381 B2 JP 4736381B2 JP 2004266014 A JP2004266014 A JP 2004266014A JP 2004266014 A JP2004266014 A JP 2004266014A JP 4736381 B2 JP4736381 B2 JP 4736381B2
Authority
JP
Japan
Prior art keywords
image
unit
imaging
tracking
panoramic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004266014A
Other languages
English (en)
Other versions
JP2005184776A (ja
Inventor
秀宇 宮牧
朝子 田村
博 日比
聡 田淵
雅晴 鈴木
雄一 小岩
弘文 杉谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004266014A priority Critical patent/JP4736381B2/ja
Priority to US10/994,485 priority patent/US20050128292A1/en
Publication of JP2005184776A publication Critical patent/JP2005184776A/ja
Application granted granted Critical
Publication of JP4736381B2 publication Critical patent/JP4736381B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/78Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
    • G01S3/782Systems for determining direction or deviation from predetermined direction
    • G01S3/785Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system
    • G01S3/786Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system the desired condition being maintained automatically
    • G01S3/7864T.V. type tracking systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/19626Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses
    • G08B13/19628Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses of wide angled cameras and camera groups, e.g. omni-directional cameras, fish eye, single units having multiple cameras achieving a wide angle view
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/1963Arrangements allowing camera rotation to change view, e.g. pivoting camera, pan-tilt and zoom [PTZ]
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19641Multiple cameras having overlapping views on a single scene
    • G08B13/19643Multiple cameras having overlapping views on a single scene wherein the cameras play different roles, e.g. different resolution, different camera type, master-slave camera
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19682Graphic User Interface [GUI] presenting system data to the user, e.g. information on a screen helping a user interacting with an alarm system
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19689Remote control of cameras, e.g. remote orientation or image zooming control for a PTZ camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position

Description

本発明は、撮影方向を順次変化させて撮像することにより得られたパノラマ画像を介して広範囲の状況を監視する撮像装置及び方法、監視システム、プログラム並びに記録媒体に関する。
従来より広く用いられている電子スチルカメラは、被写体を撮像することでレンズを通過した光を、CCD等の固体撮像素子により画像信号に変換し、これを記録媒体に記録し、また記録した画像信号を再生することができる。また電子スチルカメラの多くは、撮像した静止画像を表示することができるモニターを備え、これまでに記録した静止画像のうち特定のものを選択して表示することができる。この電子スチルカメラにおいて、モニターに供給される画像信号は、一画面毎の被写体に対応するものである。このため、同時に表示される画像は狭い範囲のものとなり、広範囲の状況を同時に監視することができなかった。
このため、カメラの撮影方向を順にシフトさせながら被写体を撮像することにより、複数の単位画像から構成されるパノラマ状の全体画像を得ることにより、広範囲の状況を監視することができる監視カメラが普及している。特に、近年において、複数の映像信号を縮小/合成し、1フレームの映像信号とする技術も提案され(例えば、特許文献1参照。)、また設置された複数の監視用ビデオカメラから監視映像を集めてビデオテープ等の記録媒体に記録することにより、監視の実現を可能とする集中監視記録システムも提案されている(例えば、特許文献2参照。)。
従来の監視カメラにより、例えば図26に示すような撮影範囲内を所定の撮影画角で撮像する場合には、撮影方向を水平方向又は垂直方向へ順にシフトさせて撮像する必要がある。仮に撮影範囲のサイズを、上記所定の撮影画角により撮像することにより得られるフレーム(以下、単位画像という。)のサイズのs×t倍で表せるときには、少なくともs×t通りの撮影方向を設定する必要がある。
実際には、監視カメラの撮影方向を、先ず左上に位置する座標(1,1)に合わせて撮像を実行する。次に、この監視カメラの撮影方向を座標(2,1)、(3,1)、(4,1)・・(s,1)と水平方向へ順次変更させて撮像を実行する。1列目の撮像を終了させた後、撮影方向を2列目の座標(1,2)に調整して撮像を実行し、その後、水平方向へ順次シフトさせながら撮像を実行する。かかる動作を繰り返して座標(s,t)まで撮像を実行した後、このs×t個の単位画像を貼り合わせることにより撮影範囲全体を表した全体画像を合成することができる。
特開平10−108163号公報 特開2000−243062号公報
しかしながら、従来の如き監視カメラは、一枚の全体画像を生成するために、これを構成する全てのs×t個の単位画像を撮像する必要があり、特に撮影範囲内において短時間に生じた僅かな状況変化を漏れなく捉えることができないという問題点があった。
図27は、時刻t1〜t4へ経過していくにつれ、移動速度の速い移動被写体(鳥)が建物から徐々に遠ざかる様子を示している。この図27に示す時刻t1において全体画像を構成するs×t個の単位画像を撮像する際には、移動被写体の存在しない建物や雲等を構成する単位画像も含めて順次撮像する必要があるため、長時間を要することになる。
その結果、次のタイミングで全体画像の撮像する際には、既に時刻がt4に到達している場合もあり、時刻t2,t3における移動被写体の状況を画像データとして捉えることができず、ひいては監視カメラを介した監視の実効が図れなくなるという問題点があった。
更に、この移動被写体が撮影範囲から逸脱した場合に、これを随時捉えて撮像を続行することができなくなるという問題点もあった。
そこで本発明は、上述した問題点に鑑みて案出されたものであり、その目的とするところは、広範な撮影範囲の状況を監視するために撮影範囲全体を表す全体画像を構成する各単位画像を撮像する撮像装置及び方法、監視システム、プログラム並びに記録媒体において、さらに移動被写体を追跡撮像することにより、移動被写体の動きを広範な領域に至るまで短い時間間隔で捉えることができる撮像装置及び方法、監視システム、プログラム並びに記録媒体を提供することにある。
本発明では、上述した課題を解決するために、撮影範囲全体を表すパノラマ画像を構成する各単位画像に1以上の全体撮影部の撮影方向を順次合わせて撮像し、撮像された一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別し、動きがあるものと判別された画像位置に応じて、追跡画像位置を求め、1以上の追跡撮影部の撮影方向を上記求めた追跡画像位置に合わせて単位画像を撮像する際に、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求める。
即ち、本発明を適用した撮像装置は、撮影範囲全体を表すパノラマ画像を撮像する1以上のパノラマ撮像手段と、指定された撮影方向に合わせて単位画像を撮像する1以上の追跡撮像手段と、上記パノラマ撮像手段により生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別手段と、上記パノラマ撮像手段及び上記追跡撮像手段から得られる単位画像間の各画像位置における相関関係を示す相関情報が予め記録される記録手段と、上記記録手段に記録された上記相関情報を参照しつつ、上記動き判別手段により動きがあるものと判別された画像位置に応じて、上記追跡撮像手段の撮影方向を指定する方向指定手段と、上記相関情報を作成する相関情報作成手段とを備え、上記相関情報作成手段は、上記パノラマ撮像手段により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記パノラマ撮像手段及び上記追跡撮像手段から得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づき、上記相関情報を作成して上記記録手段に記録し、上記方向指定手段は、上記記録手段に記録されている上記相関情報に基づいて、上記動き判別手段により動きがあるものと判別された画像位置の上記相関情報作成手段により設定された上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮像手段により得られる全体画像における座標位置を算出して、上記追跡撮像手段の撮影方向を指定する
また、本発明を適用した撮像方法は、全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、上記パノラマ画像撮像ステップにおいて撮像されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、1以上の追跡撮影部の撮影方向を上記追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求める。
また、本発明を適用した監視システムは、撮影範囲全体を表すパノラマ画像を撮像する1以上の全体撮影部と、指定された撮影方向に合わせて単位画像を撮像する1以上の追跡撮影部と、上記全体撮影部からネットワークを介して送信されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別手段と、上記全体撮影部及び上記追跡撮影部から得られる単位画像間の各画像位置における相関関係を示す相関情報が予め記録される記録手段と、上記記録手段に記録された上記相関情報を参照しつつ、上記動き判別手段により動きがあるものと判別された画像位置に応じて、上記追跡撮影部の撮影方向を上記ネットワークを介して指定する方向指定手段と、上記相関情報を作成する相関情報作成手段とを有し、上記相関情報作成手段は、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部から得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づき、上記相関情報を作成して上記記録手段に記録し、上記方向指定手段は、上記記録手段に記録されている上記相関情報に基づいて、上記動き判別手段により動きがあるものと判別された画像位置の上記相関情報作成手段により設定された上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出して、上記追跡撮影部の撮影方向を指定する監視装置とを備える。
本発明を適用したプログラムは、全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、上記パノラマ画像撮像ステップにおいて生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、1以上の追跡撮影部の撮影方向を上記求められた追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求めることをコンピュータに実行させる。
本発明を適用した記録媒体は、全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、上記パノラマ画像撮像ステップにおいて生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、1以上の追跡撮影部の撮影方向を上記求められた追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求めることをコンピュータに実行させるためのプログラムが記録されている。
本発明では、撮影範囲全体を表すパノラマ画像を構成する各単位画像に1以上の全体撮影部の撮影方向を順次合わせて撮像し、撮像された一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別し、動きがあるものと判別された画像位置に応じて、追跡画像位置を求め、1以上の追跡撮影部の撮影方向を上記求めた追跡画像位置に合わせて単位画像を撮像する際に、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求める。
これにより、広範な撮影範囲の状況を監視するために撮影範囲全体を表す全体画像を構成する各単位画像を撮像すると同時に、移動被写体を追跡撮像することができ、さらに移動被写体の動きを広範な領域に至るまで短い時間間隔で捉えることが可能となる。
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。本発明を適用した監視システム1は、例えば図1に示すように、被写体を撮像して画像信号を生成する全体撮影用カメラ2並びに追跡撮影用カメラ5と、これらの各カメラ2,5に接続されたネットワーク8と、接続されたネットワーク8を介して全体撮影用カメラ2、追跡撮影用カメラ5を制御し、又はこれらから画像信号を取得する監視装置15とを備えている。
全体撮影用カメラ2は、パンチルタ部3と、カメラ部4とが一体的に構成されてなる。パンチルタ部3は、例えばパン、チルトの2軸につき撮影方向を自在に変更するための回転台として構成される。カメラ部4は、パンチルタ部3を構成する回転台上に配設され、監視装置15に基づく制御の下、撮影方向を水平方向或いは垂直方向に調整しつつ、被写体を撮像する。またこのカメラ部4は、監視装置15による制御に応じて、撮影画角を順次変更することにより、撮影倍率を拡大又は縮小して、被写体を撮像する。
この全体撮影用カメラ2は、図1に示すように、撮影範囲全体を表すパノラマ画像を構成する各単位画像に撮影方向を順次合わせて撮像を実行する。かかる単位画像を画像信号としてネットワーク8を介して監視装置15側へ送信することにより、単位画像を貼り合わせた撮影範囲全体を表した全体画像を合成することができる。
追跡撮影用カメラ5は、パンチルタ部6と、カメラ部7とが一体的に構成されてなる。このパンチルタ部6,カメラ部7の構成は、全体撮影用カメラ2におけるパンチルタ部3,カメラ部4と同様であるため、説明を省略する。
監視装置15は、パーソナルコンピュータ(PC)等により構成され、全体撮影用カメラ2からネットワーク8を介して送信される画像信号を記録メディアへ記録し、また記録メディアへ記録した画像信号に基づく各画像をユーザに表示する。またこの監視装置15は、全体撮影用カメラ2から伝送される画像信号につき輝度成分を識別することにより動きの有無を判別し、当該判別結果に応じて全体撮影用カメラ2における撮像のモードを切り替えるように制御する。更に、この監視装置15は、このネットワーク8全体を制御するためのいわゆる中央制御装置としての役割も担い、図示しない他の端末装置からの要求に応じて、画像や音声を送信する。
ネットワーク8は、例えば監視装置15と電話回線を介して接続されるインターネット網を始め、TA/モデムと接続されるISDN(Integrated Services Digital Network)/B(broadband)−ISDN等のように、情報の双方向送受信を可能とした通信網である。ちなみにこの監視システム1を、一定の狭いエリア内で運用する場合には、このネットワーク8を、LAN(Local Area Network)で構成してもよいし、またIEEE1394インターフェース等を介して接続するようにしてもよい。さらにこのネットワーク8は、静止画像に加えて動画像をも送信できるようにしてもよい。かかる場合には、インターネットプロトコル(IP)に基づき、例えばMPEG(Moving Picture Experts Group)データを始めとする動画像がある一つのチャネルから継続的に送信され、静止画像データは別のチャネルから一定時間毎に送信されることになる。なお、このネットワーク8には、さらに図示しないネットワークサーバを接続してもよい。この図示しないネットワークサーバは、例えばインターネット情報を管理し、端末装置による要求を受けて、自身に格納してある所定の情報を送信する。
次に、本発明を適用した監視システム1における全体撮影用カメラ2,追跡撮影用カメラ5,並びに監視装置15の構成について詳細に説明する。
図2は、全体撮影用カメラ2,追跡撮影用カメラ5,並びに監視装置15の構成図である。この図2では、全体撮影用カメラ2を構成するパンチルタ部3は、撮像方向を変更するための回転台を制御するTilt部並びにPan部より構成される。このパンチルタ部3には、接続された方位センサ25によりカメラ部4の位置と角度に関する情報が送信される。また、全体撮影用カメラ2を構成するカメラ部4は、主としてレンズ部22の画角を変更するためのレンズ制御部23と、レンズ部22の光軸に直交する位置に配設される撮像部24とを備えている。
同様に、追跡撮影用カメラ5を構成するパンチルタ部6は、撮像方向を変更するための回転台を制御するTilt部並びにPan部より構成される。このパンチルタ部6には、接続された方位センサ55によりカメラ部52の位置と角度に関する情報が送信される。また、全体撮影用カメラ2を構成するカメラ部7は、主としてレンズ部52の画角を変更するためのレンズ制御部53と、レンズ部52の光軸に直交する位置に配設される撮像部54とを備えている。
監視装置15は、ネットワーク8を介して全体撮影用カメラ2から送信される画像信号に基づいてパノラマ状の全体画像(パノラマ画像)を作成する全体画像作成部31と、全体画像作成部31において作成された全体画像につき動き検出する差異検知部32と、ネットワーク8を介して追跡撮影用カメラ5に接続され、また当該追跡撮影用カメラ5を制御するための追跡撮影制御部33と、上記差異検知部32において動きがあるものと判別された画像位置に応じて追跡画像位置を求める追跡位置計算部34と、少なくとも全体画像作成部31並びに追跡位置計算部34に接続されてなり、全体撮影用カメラ2及び追跡撮影用カメラ5から得られる単位画像間の各画像位置における相関関係を示す相関情報を記録するパノラマ設定データベース(DB)35と、上記相関情報を作成するためのパノラマ設定部36と、追跡撮影を行うための条件(以下、追跡撮影条件という。)を設定するための追跡撮影条件設定部38と、上記追跡撮影条件設定部38において設定された追跡撮影条件を記録するための追跡撮影条件DB39とを備えている。
パンチルタ部3は、全体画像作成部31からの駆動信号に基づき、回転台の駆動源として構成されているステッピングモータを回転させる。これにより回転台自体を水平方向、或いは垂直方向へ旋回させることができるため、回転台上に載置されているカメラ部4の撮影方向を水平方向、或いは垂直方向へ旋回させることができる。
レンズ制御部23は、全体画像作成部31からの駆動信号に基づき、レンズ部22に対して自動絞り制御動作や自動焦点制御動作を実行する。またこのレンズ制御部23は、かかる駆動信号に基づき、被写体に対する撮影画角を変更する。これにより、カメラ部4は、撮影倍率を順次調整して被写体を撮像することも可能となる。
撮像部24は、例えばCCD(Charge Coupled Device )等の固体撮像素子により構成され、レンズ部22を介して入射される被写体像を撮像面上に結像させ、光電変換により画像信号を生成する。この撮像部24は、生成した画像信号を全体画像作成部31へ送信する。
パンチルタ部6は、追跡撮影制御部33からの駆動信号に基づき、回転台の駆動源として構成されているステッピングモータを回転させる。これにより回転台上に載置されているカメラ部7の撮影方向を水平方向、或いは垂直方向へ旋回させることができる。
レンズ制御部53は、追跡撮影制御部33からの駆動信号に基づき、レンズ部52に対して自動絞り制御動作や自動焦点制御動作を実行する。またこのレンズ制御部53は、かかる駆動信号に基づき、被写体に対する撮影画角を変更する。これにより、カメラ部4は、撮影倍率を順次調整して被写体を撮像することも可能となる。
撮像部54は、例えばCCD(Charge Coupled Device )等の固体撮像素子により構成され、レンズ部52を介して入射される被写体像を撮像面上に結像させ、光電変換により画像信号を生成する。この撮像部54は、生成した画像信号を追跡撮影制御部33へ送信する。
全体画像作成部31は、広範囲な撮影を実現すべく、全体撮影用カメラ2による撮像時において撮影方向を徐々に変化させることができるように、ネットワーク8を介して所定の制御を施す。またこの全体画像作成部31は、全体撮影用カメラ2により撮影された単位画像を貼り合わせて一枚のパノラマ状の全体画像を作成する。全体画像作成部31は、作成した全体画像を記録し、また差異検知部32の要求に応じてこれを読み出す。
差異検知部32は、全体画像作成部31において作成された全体画像につき動き検出する。この差異検知部32は、この動き検出した結果を追跡位置計算部34並びに、追跡撮影制御部33へ通知する。ちなみに、この差異検知部32は、この動き検出の条件につき、追跡撮影条件DB39へ問い合わせるようにしてもよい。
追跡撮影制御部33は、差異検知部32から通知された動き検出結果等に基づいて、ネットワーク8を介して追跡撮影用カメラ5の撮影方向、撮影画角等を制御する。また、この追跡撮影制御部33は、追跡撮影用カメラ5により撮影された単位画像をネットワーク8を介して取得する。
パノラマ設定部36は、上記相関情報を作成すべく、ユーザが所望の情報を入力するためのキーボードやマウス等により構成される。
追跡撮影条件設定部38は、追跡撮影条件DB39に蓄積されるべき動き検出の条件を設定するためのキーボードやマウス等により構成される。
次に、全体画像作成部31における詳細な構成につき説明をする。
全体画像作成部31は、図3に示すように、全体撮影用カメラ2との間でネットワーク8を介して接続されるA/D変換部61と、このA/D変換部61に接続されるエンコーダ63と、エンコーダ63から出力される画像を蓄積する記録メディア66と、記録メディア66から読み出された画像を伸張するためのデコーダ67と、A/D変換部61並びにデコーダ67に接続され、ユーザに対して表示するための画像を作り出すモニター用画像処理部68と、接続されたモニター用画像処理部68から供給される画像を一時的に記憶するメモリ69と、接続されたモニター用画像処理部68から入力される信号をアナログ化するD/A変換部74と、各構成要素を制御するための制御部70とを備えている。
ちなみに、このD/A変換部74には、液晶表示面等から構成され、ユーザに対して所定の情報を表示するためのモニター75が接続されている。またモニター75上に表示されている画像からユーザが所望の画像領域、画像位置を指定するための操作部76が制御部70に接続されている。
A/D変換部61は、全体撮影用カメラ2から送信される画像信号をデジタル化し、これをエンコーダ63,差異検知部32,モニター用画像処理部68へ送信する。
エンコーダ63は、例えばJPEG(Joint Photographic Experts Group)等の規格に基づいて圧縮符号化される。ちなみにこのエンコーダ63は、圧縮符号化する画像信号に対して、位置情報やメタデータを付加してもよい。エンコーダ63は、圧縮符号化した画像信号を記録メディア66へ出力する。なお供給される画像信号につき、圧縮符号化を行わない場合には、このエンコーダ63における処理は省略される。
記録メディア66は、例えばハードディスクや、着脱自在なディスク状記録媒体等として適用され、エンコーダ63から出力される画像信号を位置情報やメタデータと関連付けて順次記録する。記録メディア66に記録された画像信号は、制御部70による制御に基づき読み出され、デコーダ67へ送信される。なお記録メディア66に記録される画像信号を図示しないメモリカードへ記録するように制御することにより、メモリカードに記録されている画像信号を他のPCへ移し換えることも可能となる。また、この記録メディア66に記録されている画像信号を上述した図示しないネットワークサーバに記録するように制御することにより、記録メディア66を図示しないネットワークサーバに代替することも可能となる。
デコーダ67は、記録メディア66から読み出されたJPEG形式の画像信号を伸張し、これをモニター用画像処理部68へ送信する。
モニター用画像処理部68は、制御部70による制御の下、A/D変換部61或いはデコーダ67から送信される画像信号に基づき、モニター75への絵画処理を実行する。またモニター用画像処理部68は、制御部70による制御に基づき、モニター75におけるコントラスト、輝度の制御を実行する。また、このモニター用画像処理部68は、メモリ69と協働することにより、複数枚の画像をモニター75における液晶表示面上へ同時に表示するために画素を間引く処理を実行する。
制御部70は、ユーザにより操作部76を介して画像領域、画像位置が指定された場合に、パンチルタ部3やレンズ制御部23を駆動するための駆動信号や、監視装置15内の各ユニットを制御するための制御信号を送信する。また、この制御部70は、ネットワーク8を介した他の端末装置からの要求を受けて、記録メディア66に記録されている最適な静止画像、動画像、或いは各種情報を選択し、これを当該端末装置へ送信するように制御する。
モニター75は、例えば図示しない液晶表示素子やバックライト等から構成され、ユーザが撮像された画像を視認するためのインターフェースである。液晶表示素子の背面からは上述したバックライトにより照明光が照射され、モニター75全体の視認性を向上させることができる。
操作部76は、モニター75上に表示されている画像からユーザが所望の画像領域、画像位置を指定するためのキーボードやマウス等により構成される。ちなみに、パノラマ設定部36及び/又は追跡撮影条件設定部38の構成をこの操作部76に担わせることにより、これらを省略してもよいことは勿論である。
次に、この全体画像作成部31により全体画像が作成されるまでの動作につき説明をする。
図4は、全体撮影用カメラ2により、黒枠で示される撮影範囲内を撮影画角uで撮像する場合について示している。撮影範囲を撮影画角uで全て撮像するためには、撮影方向を水平方向又は垂直方向へ順にシフトさせて撮像する必要がある。仮に撮影範囲のサイズが、任意の撮影画角uで撮像することにより得られるフレーム(以下、単位画像という。)のサイズのi×j倍で表せるときには、少なくともi×j通りの撮影方向を設定する必要がある。この撮影画角uで撮像したi×j個の単位画像を貼り合わせることにより撮影範囲全体を表した全体画像を合成することができる。
ここで、撮影範囲の各単位画像の座標(M,N)を、水平方向につき、左端から順に1、2、・・M・、iとし、垂直方向につき上端から順に1、2、・・N・、jとしたとき、制御部70は、パンチルタ部3に対して所定の駆動信号を送信することにより、カメラ部4の撮影方向を、先ず左上に位置する座標(1,1)に合わせて撮像を実行させる。この座標(1,1)について撮像することにより生成された単位画像に基づく画像信号は、A/D変換部61によりA/D変換された後、またモニター用画像処理部68を介してメモリ69へ記憶される。また、この画像信号は、エンコーダ62において、JPEG規格に基づいて圧縮符号化され、メタデータ等も同時に付加された上で、記録メディア66へ順次記録される。
同様に制御部70は、パンチルタ部3に対して駆動信号を送信することにより、カメラ部4の撮影方向を、右側に1画枠分シフトさせて座標(2,1)に合わせて撮像を実行する。この座標(2,1)について撮像することにより生成された画像信号も同様に記録メディア66へ記録される。制御部70による制御に基づき、カメラ部4は、撮影方向を座標(3,1)、(4,1)・・(i,1)と水平方向へ順次変更させて撮像を実行する。
カメラ部4は、1列目の撮像を終了させた後、制御部70による制御に基づき、撮影方向を2列目の座標(1,2)に調整して撮像を実行し、その後、水平方向へ順次シフトさせながら撮像を実行する。かかる動作を繰り返して座標(i,j)まで撮像を終了させた時、メモリ69,記録メディア66には、座標毎に撮像したi×j個の単位画像に基づく画像信号が記録されている状態になる。ちなみに座標(i,j)まで撮像を終了後、制御部70は、パンチルタ部3に対して駆動信号を送信することにより、カメラ部4の撮影方向を、再び左上に位置する座標(1,1)に合わせて、次のタイミングにおける撮像を実行させる。
ちなみに、単位画像の撮像の順は上述した例に限定されるものではなく、例えば、1列目の撮像を終了させた後、制御部70による制御に基づき、撮影方向を2列目の座標(i,2)に調整して撮像を実行し、その後、座標(1,2)へ向かって撮影方向をシフトさせるようにしてもよい。
メモリ69に記録されている各単位画像に基づく画像信号は、モニター用画像処理部68により順次読み出されて、モニター75における表示画面のサイズに適合するように縮小される。この縮小された各単位画像は、D/A変換部74を経てモニター75に表示される。メモリ69に記録されたi×j個の単位画像を全てモニター75に表示させることにより、1枚のパノラマ状の全体画像が合成されることになる。上述の撮像動作を一定の間隔で実行することにより、撮影範囲の最新の状況を示す全体画像を取得することが可能となる。
また制御部70により、記録メディア66において以前より記録されている単位画像をモニター75上に表示する旨が指定された場合には、記録メディア66からかかる単位画像に基づく画像信号が順次読み出され、デコーダ67により伸張されてモニター用画像処理部68へ送られる。モニター用画像処理部68において、上述の如く表示画面のサイズに適合するように縮小され、パノラマ状の全体画像へ合成されて表示されることになる。
図5は、撮像したi×j個の単位画像を貼り合わせることにより合成した全体画像を、モニター75の全体画像表示部170に表示する例を示している。なお、この監視装置15は、全体画像表示部170に対して、全体画像を構成する各単位画像間の境界を表示させてもよいし、シームレスな全体画像のみを表示させてもよい。また監視装置15は、パノラマ状の全体画像の代替として、撮影範囲全体を捉えることができる撮影画角で撮影した1枚の全体画像を、この全体画像表示部170に表示させてもよい。
ちなみに表示画面45には、単位画像を拡大した拡大画像を表示するための拡大画像表示部171がさらに設けられている。この拡大画像表示部171は、全体画像表示部170に表示される全体画像を構成する単位画像のうち、ユーザにより指定された一の単位画像を拡大して表示してもよいし、またかかる一の単位画像の撮影方向につき、動画を順次表示してもよい。これによりユーザは、指定した単位画像における撮影方向の状況につき、リアルタイムに確認することもできる。
また表示画面45には、拡大画像表示部171に表示されている単位画像につき、撮影倍率を縮小して表示させるためのWIDEボタン172、撮影倍率を拡大して表示させるためのZOOMボタン173が表示される。また、この表示画面45には、カメラ部4の撮影方向を水平、垂直方向において調整するための撮影方向制御部175、各種モードの設定やサーバに対して所望のアドレスに単位画像に基づく画像信号を記録させるための設定ボタン176等も表示される。
またユーザは、全体画像表示部170や拡大画像表示部171に対して、操作部176を介して、所望の画像領域、画像位置を指定することができる。なお、各表示部170,171には、操作部176におけるマウス等の動きに連動させて上述の指定操作を実行するための照準線やポインタをさらに表示させてもよい。
ちなみに、本発明を適用した監視システム1では、上述の如く全体撮影用カメラ2により撮像したi×j個の単位画像を貼り合わせることにより撮影範囲全体を表した全体画像を合成する通常撮像モードに加えて、追跡撮影用カメラ5により所望の移動被写体を随時捉えてこれを連続的に撮影する追跡撮像モードも有する。この追跡撮像モードでは、全体画像を短い時間間隔で生成してゆくことにより、図5における全体画像表示部170に表示される鳥等のような移動被写体の動きを漏れなく画像信号として捉える。
図6は、通常撮像モードと追跡撮像モードについて時系列的に示している。通常撮像モードでは、全体画像を構成する全ての単位画像に対して撮影方向を順次合わせて撮像を実行するため、一枚の全体画像を合成するまでに長時間を要する結果、単位時間あたりに生成し得る全体画像の数(以下、リフレッシュレートという)が小さくなる。
これに対して、追跡撮像モードでは、移動被写体を捉えた追跡画像位置を含む1以上の単位画像のみを撮像すれば足りるため、通常撮像モードと比較して短時間で撮像を終了することができ、リフレッシュレートを高めることが可能となる。
本発明を適用した監視システム1では、被写体に対する撮像動作が開始された場合に、先ず通常撮像モードによる撮像が実行される。その際、差異検知部32は、図6に示すように、撮像された単位画像と、先の全体画像を構成する同一撮影方向上の単位画像との間で動きの有無を判別する。その結果、差異検知部32により、動きがあるものと判別された単位画像が存在する場合には、移動被写体が存在することを示唆するものとして、その旨が追跡位置計算部34並びに追跡撮影制御部33へ通知され、追跡撮像モードが発動されることになる。
ちなみに、この追跡撮像モードでは、差異検知部32により動きがあるものと判別された単位画像a1中の追跡画像位置につき、追跡撮影用カメラ5により追跡撮影することにより、単位画像b1を生成する。かかる場合において、全体撮影用カメラ2、追跡撮影用カメラ5間における設置環境、撮影方向等が互いに異なる場合もあることから、追跡位置計算部34において、パノラマ設定DB35に記録された相関情報を参照しつつ、各カメラ2,5間における撮影方向につき整合をとる。実際にこの追跡位置計算部34では、計算した追跡画像位置を介してカメラ2,5間の撮影方向につき整合をとるようにする。これにより、追跡撮影用カメラ5は、追跡位置計算部34から追跡撮影制御部33を介して指定される撮影方向へカメラ部7をパンチルト走査させることにより、取得される単位画像b1につき、単位画像a1との間で整合をとることが可能となる。なお、追跡画像位置を介してカメラ2,5間の撮影方向を整合させる詳細な手順については後述する。
なお、差異検知部32は、新たに撮像された単位画像との間で輝度レベルを比較する先の全体画像として、前のタイミングで撮像された全体画像を用いる場合のみならず、事前に保存してある全体画像を用いてもよい。かかる場合において、追跡撮影条件設定部39により、如何なる条件の下で何れの全体画像を用いるか予め設定しておき、これを追跡撮影条件DBを記録しておくようにしてもよい。
追跡撮像モードが発動された場合には、通常撮像モードと並行して2台のカメラにより、撮像が実行されてゆくことになる。例えば図7に示すように、時刻t1〜t4へ経過していくにつれ、移動速度の速い移動被写体(鳥)が建物から徐々に遠ざかる場合において、通常撮像モードでは、時刻t1において全体画像を構成するs×t個の単位画像を撮像する際には、移動被写体の存在しない建物や雲等を構成する単位画像も含めて順次撮像する必要があるため、長時間を要することになる。
その結果、この通常撮像モードでは、次のタイミングで全体画像の撮像する際において既に時刻がt4に到達している場合もあり、時刻t2,t3における移動被写体の状況を画像データとして捉えることができない。
これに対して、追跡撮像モードでは、移動被写体を含む単位画像のみ順次撮像するため、時刻t2,t3における移動被写体の状況についても、逐一撮像して、これを保存しておくことができる。また、この移動被写体が撮影範囲から逸脱した場合であっても、これを追跡撮影用カメラ5により随時捉えて撮像を続行することができる。その結果、追跡撮像モードでは、図7に示すように各時刻t1〜t4における枠内の領域のみ撮像した単位画像を取得することができ、短時間に生じた僅かな状況変化を漏れなく捉えることができる。
次に、追跡位置計算部34により追跡画像位置を求める手順につき、更に詳細に説明をする。
先ず、図8に示すステップS11において、全体撮影用カメラ2並びに追跡撮影用カメラ5について撮影方向をチルト方向にそれぞれ340°旋回させながら、単位画像を撮影する。各カメラ2,5により撮像された単位画像は、それぞれ全体画像作成部31へ送信され、記録メディア66へ記録されることになる。なお、この旋回させる角度は、340°に限定されるものではなく、いかなるものであってもよい。
次に、ステップS12へ移行し、ステップS11において各カメラ2,5により340°旋回させて撮像した単位画像を貼り合わせてそれぞれ全体画像を作成する。また、作成した各全体画像をモニター75上に表示させる。
次にステップS13へ移行し、ユーザは、ステップS12においてモニター75上に表示された全体画像から、監視を望む領域を特定する。かかる場合において、ユーザは、モニター75上に表示されている全体画像の中から、監視を望む領域を操作部76により指定することになる。
図9(a)は、駐車場を監視する場合において、全体撮影用カメラ2により撮像した単位画像からなる全体画像の一部を示している。また、図9(b)は、異なる場所に設置した追跡撮影用カメラ5により撮像した単位画像からなる全体画像の一部を示している。ステップS12において、ユーザは、この図9(a)に示す全体画像につき、監視を望む領域を、例えばA〜D点を結ぶ枠(以下、監視枠という。)内に設定する。この監視枠が上述した撮影範囲となる。同様に、このステップS12において、ユーザは、この図9(b)に示す全体画像につき、撮影対象が、上述したA〜D点に対応するように、A’点〜D’点をそれぞれ設定する。以下、これらの設定を監視枠設定という。
ちなみに、このA〜D点並びにA’点〜D’点の監視枠設定は、操作部76を介して手動で設定する場合のみならず、例えば輝度情報等に基づいて自動的に行ってもよい。
次にステップS13へ移行し、ステップS12において監視枠設定したA〜D点並びにA’点〜D’点につき、それぞれ同一の画像位置を示すように微調整を行う。かかる場合において、各設定点の名称、座標、設定名等が、A〜D点とA’点〜D’点との間で一致するように微調整を行う。なお、この微調整は、設定したA〜D点とA’点〜D’点との間で対応付けがされているだけでもよい。これにより、設定したA〜D点とA’点〜D’点のみならず、監視枠内における各画像位置間においても互いに対応付けをとることが可能となる。また互いの画像位置間で対応付けがなされていることで、一方の画像位置の移動に応じて他方の画像位置における相関的な移動も識別することが可能となる。
次にステップS14へ移行し、全ての監視枠設定をパノラマ設定DB35へ保存する。即ち、このステップS14では、設定したA〜D点とA’点〜D’点との間における対応付けを上記相関情報としてパノラマ設定DB35へ保存する。
ちなみに、全体撮影用カメラ2と追跡撮影用カメラ5とを互いに重ねることにより、略同一位置に配設するようにすることで、上述したステップS11〜ステップS14までの処理することもできる。
本発明では、上述したステップS11〜ステップS14までの処理を、実際に監視を行う前に実行する。そして、実際の撮像は、以下の図10に示す手順に基づいて実行する。
先ず、ステップS21において、全体画像作成部31は、パノラマ設定DB35に記録されている監視枠設定を読み出して、撮影範囲を識別する。
次にステップS22へ移行し、この全体画像作成部31は、識別した撮影範囲に基づいてパンチルタ部3を制御するための駆動信号を生成する。この駆動信号をパンチルタ部3へ送信することにより、識別した撮影範囲において、撮影方向を水平方向又は垂直方向へ順にシフトさせて撮像を行う。
次にステップS23へ移行し、撮影範囲(監視枠)内における全ての単位画像の撮像につき終了したか否か判別する。その結果、未だ全ての単位画像の撮像が終了していないものと判別された場合には、上記撮像を続行し、終了したものと判別された場合には、ステップS24へ移行する。
ステップS24へ移行した場合において、単位画像を貼り合わせて全体画像を作成する。このとき、この生成した全体画像を改めてモニター75上へ表示してもよい。
次にステップS25へ移行し、全体画像作成部31は、新たな全体画像を生成した旨を差異検知部32へ通知する。
図11は、かかる通知を受けた差異検知部32の動作手順を示している。
先ずステップS31において、差異検知部32は、追跡撮影条件DB39へアクセスすることにより、そこに記録されている追跡撮影条件を取得する。
次にステップS32へ移行し、差異検知部32は、取得した追跡撮影条件に基づいて、動き検出を行う。このステップS32における動き検出は、新たに生成した全体画像と、先に取得した全体画像との間で、輝度レベルの差分値を求めることにより実行する。かかる場合において、求めた輝度レベルの差分値が、予め設定された閾値を超えているか否か判断する(ステップS33)。ここで輝度レベルの差分値が閾値を超えている場合には、動きが検出されたものと判断してステップS34へ移行する。これに対して、当該輝度レベルの差分値が上記閾値以下の場合には、動きが検出されなかったものと判断して、処理を終了する。かかる場合において、差異検知部32は、上記閾値を上述した追跡撮影条件として追跡撮影条件DB39から取得するようにする。動き検出の精度は、この閾値を如何に設定するかにより支配される。このため、追跡撮影条件設定部38を介して、この閾値を自由に設定できるようにすることにより、動き検出のレベル、精度を自由に調整できるようにしてもよい。
次にステップS34へ移行し、差異検知部32は、追跡位置計算部34へアクセスし、動き検出した画像位置E、換言すれば、輝度レベルの差分値が閾値を超える画像領域の座標(Ex,Ey)を、追跡位置計算部34へ通知する。また次にステップS35へ移行し、差異検知部32は、追跡位置計算部34により算出された追跡画像位置を取得する。更にこの差異検知部32は、更にステップS36において、取得した追跡画像位置を、追跡撮影制御部33へ通知する。
ここで、ステップS35における追跡画像位置の算出方法につき、上述したステップS11〜S14において、駐車場につき監視枠設定した場合を例にとり、説明をする。
先ず追跡位置計算部34は、パノラマ設定DB35に記録されているA〜D点並びにA‘点〜D’点における監視枠設定を読み出す。ここで読み出したA点の座標を(Ax,Ay)とし、B点の座標を(Bx,By)とし、C点の座標を(Cx,Cy)とし、D点の座標を(Dx,Dy)とする。
また追跡位置計算部34は、上述したステップS34において差異検知部32から通知された画像位置EのA〜D点で定義される監視領域における相対的な位置を識別する。かかる場合において画像位置Eの相対的な位置を、例えば図12(a)に示すように、縦方向の比(x1:x2)、横方向の比(y1:y2)により表すようにしてもよい。かかる場合において、この縦方向の比、横方向の比は、それぞれ以下の式1、式2により表すことができる。
x1:x2≒Ex−(Ax+Bx)/2:(Dx+Cx)/2−Ex・・・・式1
y1:y2≒Ey−(Ay+Cy)/2:(By+Dy)/2−Ey・・・・式2
これにより、全体撮影用カメラ2により撮像した全体画像において、動き検出した画像位置Eの相対的位置を求めることができる。
次にこの追跡位置計算部34は、この画像位置Eが、追跡撮影用カメラ5における全体画像の何れの座標に対応するか計算する。ここで、図12(b)に示すように、取得したA’点の座標を(A’x,A’y)とし、B点の座標を(B’x,B’y)とし、C’点の座標を(C’x,C’y)とし、D’点の座標を(D’x,D’y)とする。また、追跡撮影用カメラ5における全体画像において、上記画像位置Eに対応する追跡画像位置を、以下追跡画像位置E’とし、その座標を(E’x,E’y)とする。
かかる場合において、A’x≧B’xであり、かつD’x≧C’xの場合には、E’xは以下の式3で表すことができる。
E’x≒((C’x+(D’x−C’x)×y1/(y1+y2))−((B’x+(A’x−B’x)×y2/(y1+y2))×x1/(x1+x2)+B’x+(A’x−B’x)×y2/(y1+y2)・・・・・・・式3
また、D’y≧B’yであり、かつA’y≧C’yの場合には、E’yは以下の式4で表すことができる。
E’y≒((B’y+(D’y−B’y)×x1/(x1+x2))−((C’y+(A’y−C’y)×x2/(x1+x2))×y1/(y1+y2)+C’y+(A’y−C’y)×x2/(x1+x2)・・・・・・・式4
即ち、この求めた追跡画像位置E’の座標(E’x,E’y)は、座標位置Eの座標(Ex,Ey)との間で対応付けがとれている状態となっている。仮に全体撮影用カメラ2並びに追跡撮影用カメラ5が互いに異なる場所において設置されていたとしても、また互いに駐車場から異なる距離において設置されていたとしても、このため、全体撮影用カメラ2における全体画像から動き検出した座標位置Eから、追跡撮影用カメラ5における座標位置E’を一義的に求めることが可能となる。
追跡位置計算部34は、求めた追跡画像位置E’の座標(E’x,E’y)を上記追跡画像位置として、これを差異検知部32へ送信することができる。差異検知部32は、この追跡画像位置E’の座標(E’x,E’y)を追跡撮影制御部33へ送信する。追跡撮影制御部33は、かかる追跡撮影用カメラ5の撮影方向を座標(E’x,E’y)が含まれるように設定することにより、動き検出された画像位置に当該撮影方向を合わせ込むことができる。
図13は、かかる追跡画像位置E’が通知された追跡撮影制御部33の撮影動作手順を示している。
先ずステップS41において、差異検知部から追跡画像位置を取得した追跡撮影制御部33は、追跡撮影用カメラ5の撮影方向を座標(E’x,E’y)が含まれるように設定し直す。次にステップS42へ移行して、追跡撮影用カメラ5に対して駆動信号を送信することにより、当該撮影方向における撮影が開始される。
ちなみに、追跡撮影用カメラ5は、追跡撮影制御部33から撮影を停止するための信号が送信されたか否か逐一チェックする。そして、当該信号が送信された場合には、撮影動作を停止することになる。
このような監視システム1は、特に駐車場を監視する場合のアプリケーションとして、例えば図14(a)に示すように、全体撮影用カメラ2により立入禁止区域において、上記監視枠を設定する。そして、当該領域内に人が入ってくることにより、先の全体画像との間で輝度レベルの差異が生じた場合には、図14(b)に示すように追跡撮影用カメラ5により、追跡画像位置を含むように撮影方向を合わせ込み、追跡撮像を実行することになる。
また、このような監視システム1は、いわゆるシネマコンプレックスと呼ばれる複合映画館の各映写室内に設置することもできる。観客の着席前におけるいわゆる空席状態の全体画像を取得し、各座席を含むように上記監視枠を設定する。これにより、座席に座った観客の輝度レベル分だけ差異が生じ、求められた差分値が閾値を超える結果、追跡画像位置を含むように撮影方向を合わせ込み、追跡撮像を実行することができる。これにより、チケットの販売情報、座席の予約情報と照らし合わせて、御代約の座席に人が座った場合にこれを追跡することができる。
なお、上述した実施の形態では、被写体を撮像して画像信号を生成する全体撮影用カメラ2並びに追跡撮影用カメラ5を1つずつ設ける場合を例にとり説明をしたが、かかる場合に限定されるものではなく、例えば1以上の全体撮影用カメラ2と、1以上の追跡撮影用カメラ5により構成されていればよい。図15は、3つの全体撮影用カメラ2と、1つの追跡撮影用カメラ5により構成された監視システム100を示している。この監視システム100では、複数の全体撮影用カメラ2で互いに異なる撮影方向から同一の被写体を撮像してもよいし、互いに異なる対象物を撮像するようにしてもよい。各全体撮影用カメラ2により動き検出された場合に、追跡撮像モードへ移行し、追跡撮影用カメラ5による撮像が実行されることになる。なお、全体撮影用カメラ2並びに追跡撮影用カメラ5の数量、比に関しては任意に決定することができることは勿論である。
また、本発明を適用した監視システム1においては、各カメラ2,5につき、全体撮像、追跡撮像としての役割を特定するのではなく、状況に応じて全体撮像、追跡撮像の何れかを実行するようにしてもよい。図16に示す監視システム101では、カメラ2,5を2台配設し、通常撮像モード下においては、2台のカメラ2,5により、それぞれ全体画像を撮像する。いずれかのカメラ2,5より動き検出された場合に、追跡撮像モードへ移行し、いずれか一のカメラ2,5により追跡撮像が実行されることになる。
また、本発明を適用した監視システム1では、上述した単位画像間における輝度レベルの比較を、R,G,Bの原色成分毎に実行してもよい。この輝度レベルの比較は、上述の如く、同一座標(M,N)にある単位画像間で、換言すれば同一撮影方向にある単位画像間で実行する。これにより、基準全体画像に対する比較全体画像の各原色成分における輝度レベルの変化を、換言すれば、各原色成分における輝度レベルの差分値を撮影方向毎に検出することができる。
更に本発明は、上述した監視システム1として実施する場合のみならず、例えば、監視装置15の機能を全てカメラ側に搭載するようにしてもよい。さらに、上述した処理をコンピュータに実行させるためのプログラムや、かかるプログラムが記録された記録媒体に適用してもよいことは勿論である。
また、本発明は、図17に示すように360度の広範囲な領域を撮影する固定カメラ2Aを上述の監視システム1にける全体撮影用カメラ2に使用する監視システム200にも適用することができる。この監視システム200は、被写体を撮像して画像信号を生成する全体撮影用カメラ2A並びに追跡撮影用カメラ5と、これらの各カメラ2A,5に接続されたネットワーク8と、接続されたネットワーク8を介して全体撮影用カメラ2、追跡撮影用カメラ5を制御し、又はこれらから画像信号を取得する監視装置15とを備えている。
この監視システム200では、360°全方位撮影がリアルタイムに可能な固定カメラ2Aを全体撮影用カメラ2として使用し、この固定カメラ2Aとパン/チルト/ズームの可能な追跡撮影用カメラ5が図18の(A),(B)に示すように同軸状に配置されている。
なお、図18は、固定カメラ2Aと追跡撮影用カメラ5の配置例を正面図(A)及び側面図(B)にて示している。
この監視システム200において固定カメラ2Aによりリアルタイムに取得される360°全方位の画像は、例えば図19に示すように、
パン方向画角 360°
チルト方向画角 55°(仰角38°俯角17°)
で、画素数は、1280×240程度の画質となっている。
また、追跡撮影用カメラ5により得られる画像を貼り合わせることにより形成されるパノラマ画像は、例えば図20に示すように、
パン方向画角 340°
チルト方向画角 51°(仰角25.5°俯角25.5°)
で、画素数は、6400×960の画質となっている。
この監視システム200では、その画像空間を図21に示すように、張り合わせ画像取得(VGA 10×2枚)を行っている。
追跡撮影用カメラ5が取得する1枚の画像は、チルト方向25.5°、パン方向34°となるようにあらかじめズーム調整をしている。
この監視システム200における監視装置15は、出荷時に、次の初期設定(1),初期設定(2)がなされる。
初期設定(1): この監視システム200におけるパノラマ画像の広角画像空間は、パン方向=340°,チルト方向=51°の総画角で、パン方向に6400等分割・チルト方向に960等分割した画像情報を持ち、この画像情報を、監視装置15のパノラマ設定データベースに格納する。
初期設定(2): 固定カメラ2Aによりリアルタイムに取得される図22に示す360°全方位の画像上にA,B,C,Dの4点と、追跡撮影用カメラ5により得られる画像を貼り合わせることにより形成される図23に示すパノラマ画像上にA’,B’,C’,D’の4点を設定する。上記4点は同じ箇所を示しているとみなす。これも監視装置15のパノラマ設定データベースに格納する。
この監視システム200では、このような初期設定がされた監視装置15により、図24のフローチャートに示す手順に従って、固定カメラ2Aによりリアルタイムに取得される360°全方位の画像上での指示情報に基づいて、追跡撮影用カメラ5が制御される。
すなわち、この監視システム200における監視装置15は、ユーザが360°全方位の画像上で任意の点を指定すると(ステップS51)、マウスペイントでユーザが指定したポイントE(X,Y)の360°全方位画像上の座標を取得し(ステップS52)、パノラマ設定データベースから360°全方位画像の位置合わせポイントA,B,C,Dを取得し(ステップS53)、パノラマ設定データベースから追跡撮影用カメラ5の340°パノラマ画像の位置合わせポイントA’,B’,C’,D’を取得し(ステップS54)、360°全方位画像上の位置E(X,Y)に対応する340°パノラマ画像上の位置E(X’,Y’)の位置情報を取得し(ステップS55)、追跡撮影用カメラ5にE(X’,Y’)の位置に移動する要求を送信して(ステップS56)、移動先の画像を表示する(ステップS57)。
すなわち、この監視システム200では、図22に示す360°全方位の画像上で任意の点Eをクリックした場合、図22の画像上の座標E(X,Y)が導き出され、この座標E(X,Y)について、あらかじめパノラマ設定データベースに格納されているA,B,C,Dの各点からの相対位置(概算)を計算する。
あらかじめパノラマ設定データベースに格納されている図23のA’,B’,C’,D’は、上記のA,B,C,Dの各点に相当するとみなされるので、図22のE(X,Y)に対応する図23のE’(X’,Y’)は、上記のA’,B’,C’,D’と上記算出したA,B,C,Dの各点からの相対位置とから求めることができる。計算されたE’ (X’,Y’)は、上記データベースに格納された画像情報上の位置情報として表される。
このE’(X’,Y’)の位置情報に基づいて、追跡撮影用カメラ5の画像の中心がE’となるようにパンチルト制御をする。
ここで、この監視システム200における固定カメラ2Aによりリアルタイムに取得される360°全方位の画像上で任意に指定されるEの相対位置(概算)の算出は次のように行われる。
X1:X2≒Ex−(Ax+Bx)/2:(Dx+Cx)/2−Ex
Y1:Y2≒Ey−(Ay+Cy)/2:(By+Dy)/2−Ey
また、追跡撮影用カメラ5により得られる340°パノラマ画像におけるE´の位置(概算)の算出は次のようにして行われる。
先の計算で求めた相対位置の比率X1:X2が5:2、Y1:Y2が3:4で
A’x>=B’xかつD’x>=C’xの場合
E’x≒((C’x+(D’x−C’x)*3/7)−(B’x+(A’x−B’x)*4/7))*5/7+B’x+(A’x−B’x)*4/7
D’y>=B’yかつA’y>=C’yの場合
E’y≒((B’y+(D’y−B’y)*5/7)−(C’y+(A’y−C’y)*2/7))3*/7+C’y+(A’y−C’y)*2/7
ここで、この監視システム200における全体撮影用カメラ2Aと追跡撮影用カメラ5の垂直方向の視野角断面図を図25に示す。
この図25は、全体撮影用カメラ2Aすなわち広角カメラ(Panorama Camera)と追跡撮影用カメラ5すなわち狭角カメラ(Zoom Camera)を同軸上にレイアウトした場合に対象物を、両カメラでほぼ同じ方向(垂直方向)に捕えることができるということを図式化して表している。
最初に、
X:撮影対象とカメラの水平方向距離
Y:X距離での、チルト画角全体で撮影可能な垂直方向距離(高さ)
ΔY:2台のカメラの撮像部中心間の距離
とする。
前提として、以下の2つの前提があることとする。
前提1:追跡撮影用カメラ5と360°カメラは、それぞれのカメラの撮像部中心をほぼ同一垂直線上に存在する。
前提2:追跡撮影用カメラ5と全体撮影用カメラ2Aのチルト方向画角は、55°〜66°程度の範囲で同じ画角に調整されている。
その上で、図25のような2台の視野角の位置関係を持つこととする。
仮に、2台の画角をそれぞれ2台とも 55°とすると
ΔY=100mmのカメラ位置関係で
X=10mの位置の物体を撮影する場合、
Y=2*X*Tan(55/2)°=10.41m
となる。その結果
ΔY/Y=0.0096 =0.96%
となり、Y:垂直方向の全体距離に対して、2台のカメラ間の垂直方向の位置の差は微量で、2台の画像をモニター表示した場合、差異を感じるレベルに無い。
すなわち、VGA:640×480に換算した場合の5dot程度の差に過ぎない。
なお、同軸レイアウトの為、水平方向の画角は両カメラとも同じ画角を共有できる。
この監視システム200では、各カメラ2A,5を同軸状に配置することにより、各カメラ2,5の相対位置関係による対象物の位置算出アルゴリズムを必要とせずに、全体撮影用カメラ2Aにより得られる360°全方位の画像のポイントを指定して、そのポイント中心とした画像を追跡撮影用カメラ5により撮影することができる。
本発明を適用した監視システムの構成を示す図である。 各カメラ,監視装置のブロック構成図である。 全体画像作成部の詳細な構成につき説明するための図である。 カメラユニットにより、黒枠で示される撮影範囲内を撮影画角uで撮像する場合について説明するための図である。 ディスプレイ上の表示画面の構成例を示す図である。 通常撮像モード並びに追跡撮像モードにつき時系列的に示した図である。 通常撮像モード並びに追跡撮像モードにつき更に詳細に説明するための図である。 追跡位置計算部により追跡画像位置を求める手順につき説明するためのフローチャートである。 駐車場を監視する場合における監視枠の設定につき説明するための図である。 全体撮影用カメラによる撮像手順につき説明するためのフローチャートである。 差異検知部の動作手順につき説明するためのフローチャートである。 画像位置EのA〜D点で定義される監視領域における相対的な位置を識別する場合につき説明するための図である。 追跡画像位置E’が通知された追跡撮影制御部の撮影動作手順を示すフローチャートである。 本発明を適用した監視システムにおけるアプリケーション例につき説明するための図である。 本発明を適用した監視システムの他の構成を示す図である。 本発明を適用した監視システムの更なる他の構成を示す図である。 固定カメラを全体撮影用カメラに使用する監視システムの構成を示す図である。 上記監視システムにおける固定カメラと追跡撮影用カメラの配置例を示す正面図(A)及び側面図(B)である。 上記監視システムにおいて固定カメラによりリアルタイムに取得される360°全方位の画像を示す図である。 上記監視システムにおいて追跡撮影用カメラにより得られる画像を貼り合わせることにより形成されるパノラマ画像を示す図である。 上記監視システムにおける画像空間を示す図である。 上記監視システムにおいて監視装置に初期設定される360°全方位の画像上にA,B,C,Dの4点を示す図である。 上記監視システムにおいて監視装置に初期設定されるパノラマ画像上のA’,B’,C’,D’の4点を示す図である。 上記監視システムにおける監視装置の動作を示すフローチャートである。 上記監視システムにおける全体撮影用カメラと追跡撮影用カメラの垂直方向の視野角断面図である。 パノラマ状の全体画像を構成する単位画像の例につき説明するための図である。 従来技術の問題点につき説明するための図である。
符号の説明
1,100,101,200 監視システム、2,2A 全体撮影用カメラ、3 パンチルタ部、4 カメラ部、5 追跡撮影用カメラ、6 パンチルタ部、7 カメラ部、15 監視装置、22,52 レンズ部、24,54 撮像部、25,55 方位センサ、31 全体画像作成部、32 差異検知部、33 追跡撮影制御部、34 追跡位置計算部、35 パノラマ設定DB、36 相関情報作成部、38 追跡撮影条件設定部、39 追跡撮影条件DB

Claims (10)

  1. 撮影範囲全体を表すパノラマ画像を撮像する1以上のパノラマ撮像手段と、
    指定された撮影方向に合わせて単位画像を撮像する1以上の追跡撮像手段と、
    上記パノラマ撮像手段により生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別手段と、
    上記パノラマ撮像手段及び上記追跡撮像手段から得られる単位画像間の各画像位置における相関関係を示す相関情報が予め記録される記録手段と、
    上記記録手段に記録された上記相関情報を参照しつつ、上記動き判別手段により動きがあるものと判別された画像位置に応じて、上記追跡撮像手段の撮影方向を指定する方向指定手段と、
    上記相関情報を作成する相関情報作成手段と
    を備え、
    上記相関情報作成手段は、上記パノラマ撮像手段により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記パノラマ撮像手段及び上記追跡撮像手段から得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づき、上記相関情報を作成して上記記録手段に記録し、
    上記方向指定手段は、上記記録手段に記録されている上記相関情報に基づいて、上記動き判別手段により動きがあるものと判別された画像位置の上記相関情報作成手段により設定された上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮像手段により得られる全体画像における座標位置を算出して、上記追跡撮像手段の撮影方向を指定することを特徴とする撮像装置。
  2. 上記動き判別手段における動きの有無を判別する際に参照する閾値を設定するための閾値設定手段をさらに備え、
    上記動き判別手段は、上記輝度レベルの差異と予め設定された閾値とを比較することにより、上記動きの有無を判別すること
    を特徴とする請求項1記載の撮像装置。
  3. 上記パノラマ撮像手段と、上記追跡撮像手段とは、略同一位置上に配設されてなること
    を特徴とする請求項1記載の撮像装置。
  4. 上記撮像された単位画像を記録媒体へ記録する記録手段をさらに備えること
    を特徴とする請求項1記載の撮像装置。
  5. 上記パノラマ撮像手段は、撮影範囲全体を表すパノラマ画像を毎回撮像する広角の固定撮像手段であること
    を特徴とする請求項1記載の撮像装置。
  6. 上記パノラマ撮像手段は、撮影範囲全体を表すパノラマ画像を構成する各単位画像に撮影方向を順次合わせて撮像すること
    を特徴とする請求項1記載の撮像装置。
  7. 全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、
    上記パノラマ画像撮像ステップにおいて撮像されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、
    上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、
    1以上の追跡撮影部の撮影方向を上記追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、
    上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求める
    ことを特徴とする撮像方法。
  8. 撮影範囲全体を表すパノラマ画像を撮像する1以上の全体撮影部と、
    指定された撮影方向に合わせて単位画像を撮像する1以上の追跡撮影部と、
    上記全体撮影部からネットワークを介して送信されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別手段と、上記全体撮影部及び上記追跡撮影部から得られる単位画像間の各画像位置における相関関係を示す相関情報が予め記録される記録手段と、上記記録手段に記録された上記相関情報を参照しつつ、上記動き判別手段により動きがあるものと判別された画像位置に応じて、上記追跡撮影部の撮影方向を上記ネットワークを介して指定する方向指定手段と、上記相関情報を作成する相関情報作成手段とを有し、
    上記相関情報作成手段は、上記全体撮影手段により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮像部及び上記追跡撮像部から得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づき、上記相関情報を作成して上記記録手段に記録し、上記方向指定手段は、上記記録手段に記録されている上記相関情報に基づいて、上記動き判別手段により動きがあるものと判別された画像位置の上記相関情報作成手段により設定された上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出して、上記追跡撮影部の撮影方向を指定する監視装置と
    を備えることを特徴とする監視システム。
  9. 全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、
    上記パノラマ画像撮像ステップにおいて生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、
    上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、
    1以上の追跡撮影部の撮影方向を上記求められた追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、
    上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮像部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮像部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求める
    をコンピュータに実行させるためのプログラム。
  10. 全体撮影部により撮影範囲全体を表すパノラマ画像を撮像するパノラマ画像撮像ステップと、
    上記パノラマ画像撮像ステップにおいて生成されたパノラマ画像を構成する一の単位画像と、当該単位画像よりも先に撮像された同一撮影方向上の単位画像との間で輝度レベルの差異を比較することにより、当該一の単位画像における画像位置毎に動きの有無を判別する動き判別ステップと、
    上記動き判別ステップにおいて動きがあるものと判別された画像位置に応じて、追跡画像位置を求める追跡位置算出ステップと、
    1以上の追跡撮影部の撮影方向を上記求められた追跡画像位置に合わせて単位画像を撮像する追跡撮影ステップとを有し、
    上記追跡位置算出ステップでは、上記全体撮影部により生成されるパノラマ画像上で設定される4点を結ぶ監視枠で示される監視領域について、上記全体撮影部及び上記追跡撮影部により得られる単位画像間の各画像位置における上記パノラマ画像に対する相対的位置に基づいて作成された上記単位画像間の各画像位置における相関関係を示す相関情報を参照して、上記動きがあるものと判別された画像位置の上記4点で定義される上記監視領域における相対的位置を表す縦方向の比と横方向の比を求め、上記縦方向の比と横方向の比を用いて、上記動きがあるものと判別された画像位置の上記パノラマ画像上での座標位置に対応する上記追跡撮影部により得られる全体画像における座標位置を算出することにより、上記追跡画像位置を求めること
    をコンピュータに実行させるためのプログラムが記録された記録媒体。
JP2004266014A 2003-11-27 2004-09-13 撮像装置及び方法、監視システム、プログラム並びに記録媒体 Expired - Fee Related JP4736381B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004266014A JP4736381B2 (ja) 2003-11-27 2004-09-13 撮像装置及び方法、監視システム、プログラム並びに記録媒体
US10/994,485 US20050128292A1 (en) 2003-11-27 2004-11-23 Photographing apparatus and method, supervising system, program and recording medium

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003398152 2003-11-27
JP2003398152 2003-11-27
JP2004266014A JP4736381B2 (ja) 2003-11-27 2004-09-13 撮像装置及び方法、監視システム、プログラム並びに記録媒体

Publications (2)

Publication Number Publication Date
JP2005184776A JP2005184776A (ja) 2005-07-07
JP4736381B2 true JP4736381B2 (ja) 2011-07-27

Family

ID=34656180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004266014A Expired - Fee Related JP4736381B2 (ja) 2003-11-27 2004-09-13 撮像装置及び方法、監視システム、プログラム並びに記録媒体

Country Status (2)

Country Link
US (1) US20050128292A1 (ja)
JP (1) JP4736381B2 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060190750A1 (en) * 2005-02-22 2006-08-24 Logitech Europe S.A. System power management based on motion detection
JP4611231B2 (ja) * 2006-03-28 2011-01-12 富士通株式会社 パノラマ画像作成装置、方法およびプログラム
CN101416499A (zh) * 2006-04-03 2009-04-22 方可成 视讯设备及其影像处理方法
JP5084550B2 (ja) * 2008-02-25 2012-11-28 キヤノン株式会社 入室監視システム、開錠指示装置及びその制御方法、並びに、プログラム
JP2009235696A (ja) * 2008-03-26 2009-10-15 Compensation Seminary Co Ltd 建物の経年変化を調査するためのシステム、方法、及びコンピュータ・プログラム
KR101586702B1 (ko) * 2009-07-08 2016-01-19 한화테크윈 주식회사 감시 카메라들의 제어 방법 및 이를 사용한 제어 장치
JP5743396B2 (ja) * 2009-11-27 2015-07-01 キヤノン株式会社 撮影装置、撮影制御方法、及びコンピュータプログラム
EP2590396B1 (en) * 2010-07-02 2018-08-08 Sony Interactive Entertainment Inc. Information processing system and information processing method
US20120105577A1 (en) * 2010-11-01 2012-05-03 Olympus Imaging Corp. Panoramic image generation device and panoramic image generation method
JP5664161B2 (ja) * 2010-11-16 2015-02-04 住友電気工業株式会社 監視システム及び監視装置
CN103297668A (zh) * 2012-02-29 2013-09-11 深圳市振华微电子有限公司 全景视频图像摄录系统及方法
US8917354B2 (en) * 2013-09-30 2014-12-23 Amlogic Co., Ltd. Motion detection in video fields
CN108293091B (zh) 2015-09-23 2020-07-07 诺基亚技术有限公司 视频内容选择
CN107707808A (zh) * 2016-08-09 2018-02-16 英业达科技有限公司 摄影系统及摄影方法
KR101963449B1 (ko) * 2017-09-20 2019-04-01 주식회사 쓰리아이 360°비디오 생성 시스템 및 방법
JP2019080226A (ja) * 2017-10-26 2019-05-23 キヤノン株式会社 撮像装置、撮像装置の制御方法、及びプログラム
CN111623810A (zh) * 2019-02-27 2020-09-04 多方科技(广州)有限公司 移动侦测方法及其电路
JP6871458B2 (ja) * 2020-05-12 2021-05-12 マクセル株式会社 撮像表示方法
WO2024004534A1 (ja) * 2022-06-27 2024-01-04 富士フイルム株式会社 情報処理装置、情報処理方法、及び情報処理プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001325695A (ja) * 2000-05-17 2001-11-22 Mitsubishi Electric Corp 交通流監視装置
JP2003259350A (ja) * 2002-02-28 2003-09-12 Sharp Corp 全方位監視制御システム、全方位監視制御方法および全方位監視制御プログラム
JP2003324717A (ja) * 2002-05-02 2003-11-14 Sony Corp モニタリングシステムおよび方法、並びにプログラムおよび記録媒体
JP2004007374A (ja) * 2002-03-25 2004-01-08 Chuo Electronics Co Ltd 動き検出を用いた画像監視・画像記録方法及び遠隔監視システム
JP2004015516A (ja) * 2002-06-07 2004-01-15 Chuo Electronics Co Ltd 動画像の自動追尾撮影方法および自動追尾撮影装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162730A (ja) * 1993-12-09 1995-06-23 Ibiden Co Ltd 移動体撮像装置
CA2155719C (en) * 1994-11-22 2005-11-01 Terry Laurence Glatt Video surveillance system with pilot and slave cameras
JP4332231B2 (ja) * 1997-04-21 2009-09-16 ソニー株式会社 撮像装置コントローラおよび撮像システム
US20020075258A1 (en) * 1999-05-12 2002-06-20 Imove Inc. Camera system with high resolution image inside a wide angle view
DE60138330D1 (de) * 2000-02-28 2009-05-28 Hitachi Int Electric Inc Vorricht ung und Systemzur Überwachung von eingedrungenen Objekte

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001325695A (ja) * 2000-05-17 2001-11-22 Mitsubishi Electric Corp 交通流監視装置
JP2003259350A (ja) * 2002-02-28 2003-09-12 Sharp Corp 全方位監視制御システム、全方位監視制御方法および全方位監視制御プログラム
JP2004007374A (ja) * 2002-03-25 2004-01-08 Chuo Electronics Co Ltd 動き検出を用いた画像監視・画像記録方法及び遠隔監視システム
JP2003324717A (ja) * 2002-05-02 2003-11-14 Sony Corp モニタリングシステムおよび方法、並びにプログラムおよび記録媒体
JP2004015516A (ja) * 2002-06-07 2004-01-15 Chuo Electronics Co Ltd 動画像の自動追尾撮影方法および自動追尾撮影装置

Also Published As

Publication number Publication date
US20050128292A1 (en) 2005-06-16
JP2005184776A (ja) 2005-07-07

Similar Documents

Publication Publication Date Title
JP4736381B2 (ja) 撮像装置及び方法、監視システム、プログラム並びに記録媒体
CN100455014C (zh) 拍摄装置和方法、监视系统
JP4614653B2 (ja) 監視装置
JP4345692B2 (ja) 情報処理システム、情報処理装置および方法、並びにプログラム
JP3849645B2 (ja) 監視装置
US9426379B2 (en) Photographing unit, cooperative photographing method, and recording medium having recorded program
JP2006333133A (ja) 撮像装置、撮像方法、プログラム、プログラム記録媒体並びに撮像システム
JP2006333132A (ja) 撮像装置及び撮像方法、プログラム、プログラム記録媒体並びに撮像システム
US7697025B2 (en) Camera surveillance system and method for displaying multiple zoom levels of an image on different portions of a display
JP2006013923A (ja) 監視装置
JP4378636B2 (ja) 情報処理システム、情報処理装置および情報処理方法、プログラム、並びに記録媒体
JP4583717B2 (ja) 撮像装置及び方法、画像情報提供システム、プログラム、並びに制御装置
JP3994469B2 (ja) 撮像装置、表示装置及び記録装置
JP4172352B2 (ja) 撮像装置及び方法、撮像システム、プログラム
JP2004228711A (ja) 監視装置及び方法、プログラム並びに監視システム
JP4449525B2 (ja) 監視装置
JP2006025340A (ja) 広角撮像装置、撮像システムおよびその制御方法
JP3969172B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP4333255B2 (ja) 監視装置
JP2004241834A (ja) 動画像生成装置及び方法、動画像送信システム、プログラム並びに記録媒体
JP4438396B2 (ja) 監視装置
JP2004266669A (ja) 監視カメラ並びに撮像方法
JP4127080B2 (ja) 撮像装置及び方法
JP2005277582A (ja) パノラマ撮像装置、パノラマ撮像方法、監視システム、パノラマ撮像装置の制御プログラム並びにプログラム記録媒体
JP4211377B2 (ja) 画像信号処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100910

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees