JP3849645B2 - 監視装置 - Google Patents

監視装置 Download PDF

Info

Publication number
JP3849645B2
JP3849645B2 JP2003011614A JP2003011614A JP3849645B2 JP 3849645 B2 JP3849645 B2 JP 3849645B2 JP 2003011614 A JP2003011614 A JP 2003011614A JP 2003011614 A JP2003011614 A JP 2003011614A JP 3849645 B2 JP3849645 B2 JP 3849645B2
Authority
JP
Japan
Prior art keywords
image
unit
unit image
imaging
sequentially
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003011614A
Other languages
English (en)
Other versions
JP2004266317A (ja
Inventor
博則 藤田
水紀子 間瀬
秀樹 浜
裕之 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003011614A priority Critical patent/JP3849645B2/ja
Priority to EP04702068A priority patent/EP1653743A4/en
Priority to CNB2004800001386A priority patent/CN100433830C/zh
Priority to KR1020047014685A priority patent/KR101029202B1/ko
Priority to PCT/JP2004/000177 priority patent/WO2004066631A1/ja
Priority to US10/508,042 priority patent/US20050151838A1/en
Publication of JP2004266317A publication Critical patent/JP2004266317A/ja
Application granted granted Critical
Publication of JP3849645B2 publication Critical patent/JP3849645B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19606Discriminating between target movement or movement in an area of interest and other non-signicative movements, e.g. target movements induced by camera shake or movements of pets, falling leaves, rotating fan
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19665Details related to the storage of video surveillance data
    • G08B13/19671Addition of non-video data, i.e. metadata, to video stream
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/1968Interfaces for setting up or customising the system
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19682Graphic User Interface [GUI] presenting system data to the user, e.g. information on a screen helping a user interacting with an alarm system
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19689Remote control of cameras, e.g. remote orientation or image zooming control for a PTZ camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • H04N9/8047Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Description

【0001】
【発明の属する技術分野】
本発明は、撮影方向を順次変化させて撮像することにより得られたパノラマ画像を介して広範囲の状況を監視する監視装置及び方法、撮像装置、プログラム並びに監視システムに関する。
【0002】
【従来の技術】
従来より広く用いられている電子スチルカメラは、被写体を撮像することでレンズを通過した光を、CCD等の固体撮像素子によりの画像信号に変換し、これを記録媒体に記録し、また記録した画像信号を再生することができる。また電子スチルカメラの多くは、撮像した静止画像を表示することができるモニタを備え、これまでに記録した静止画像のうち特定のものを選択して表示することができる。この電子スチルカメラにおいて、モニタに供給される画像信号は、一画面毎の被写体に対応するものである。このため、同時に表示される画像は狭い範囲のものとなり、広範囲の状況を同時に監視することができなかった。このため、従来では、カメラの撮影方向を順にシフトさせながら被写体を撮影し、これらを合成してパノラマ画像を得ることにより、広範囲の状況を監視することができるモニタリング方法が提案されている。
【0003】
特に近年において、複数の映像信号を縮小/合成し、1フレームの映像信号とする技術も提案され(例えば、特許文献1参照。)、また設置された複数の監視用ビデオカメラから監視映像を集めてビデオテープ等の記録媒体に記録し、監視を行うことを可能とする集中監視記録システムも提案されている(例えば、特許文献2参照。)。
【0004】
【特許文献1】
特開平10−108163号公報
【特許文献2】
特開2000−243062号公報
【0005】
【発明が解決しようとする課題】
しかしながら、この記録媒体に記録されている画像を利用して、撮影範囲における何らかの変化を検出する場合に、監視員は、1スキャン毎に刻々と入力される監視画像の状況を隅々まで観察しなければならなかった。特に監視員は、細かい画像の変化や、微小な対象物の出現等につき常に識別しなければならず、過大な労力や時間を必要とし、さらには、かかる監視員の眼に依存するシステムであるが故に、かかる状況変化の見落としが生じる危険性もあった。
【0006】
また、撮影範囲における変化が検出された場合において、過去に記録されている画像データまで遡ってこれを参照し、詳細な状況や原因を解析しなければならず、監視員の労力の負担が更に増大するという問題点もあった。
【0007】
そこで、本発明は、かかる監視員の労力の負担を軽減し、広大な撮影範囲から迅速かつ精確に状況の変化を検出することができる監視装置及び方法、撮像装置、プログラム並びに監視システムを提供することを目的とする。
【0008】
【課題を解決するための手段】
本発明者は、撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録しておき、記録媒体から選択した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で原色成分毎に輝度レベルを比較し、撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、その比較結果に基づき、パノラマ画像を構成する単位画像毎に所定の情報を表示することにより、ユーザに注意を促すことで、上述した問題点の解決を図った。
【0009】
すなわち、本発明は、撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視する監視装置において、上記パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録する記録手段と、上記記録媒体から選択した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、原色成分毎に輝度レベルを比較する比較手段と、上記撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、上記比較手段による比較結果に基づき、上記パノラマ画像を構成する上記単位画像毎に所定の情報を表示する表示手段とを備え、上記比較手段は、上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、上記原色成分毎に輝度レベルを比較することを特徴とする。
【0010】
また、本発明は、撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視する監視方法において、パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録し、記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、原色成分毎に輝度レベルを比較し、撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、比較結果に基づき、パノラマ画像を構成する単位画像毎に所定の情報を表示することを特徴とする
【0011】
また、本発明は、撮影方向を順次変化させて撮影範囲を撮像することによりパノラマ画像の画像信号を生成する撮像手段と、生成される画像信号に基づき、パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録する記録手段と、記録媒体から選択した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、原色成分毎に輝度レベルを比較する比較手段と、撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、比較手段による比較結果に基づき、パノラマ画像を構成する単位画像毎に所定の情報を表示する表示手段とを備え、上記比較手段は、上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、上記原色成分毎に輝度レベルを比較することを特徴とする。
【0012】
さらに、本発明は、撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視するプログラムにおいて、パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録し、記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、原色成分毎に輝度レベルを比較し、撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、比較結果に基づき、パノラマ画像を構成する単位画像毎に所定の情報を表示することをコンピュータに実行させることを特徴とする。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。本発明を適用した監視システム1は、例えば図1に示すように、被写体を撮像して画像信号を生成するカメラユニット2と、カメラユニット2により生成された画像信号が伝送される監視装置5と、監視装置5に接続されるディスプレイ6と、複数のユーザがアプリケーションを実行するための端末装置9と、監視装置5と各端末装置9との間で情報を送受信するためのネットワーク8と、端末装置9に接続される端末ディスプレイ10と、ネットワーク8に接続されるネットワークサーバ11とを備えている。
【0015】
カメラユニット2は、パンチルタ部3と、カメラ部4とが一体的に構成されてなる。パンチルタ部3は、例えばパン、チルトの2軸につき撮影方向を自在に変更するための回転台として構成される。
【0016】
カメラ部4は、パンチルタ部3を構成する回転台上に配設され、監視装置5による制御に応じて、撮影方向を水平方向或いは垂直方向に調整しつつ、被写体を撮像する。またこのカメラ部4は、監視装置5による制御に応じて、撮影画角を順次変更することにより、撮影倍率を拡大又は縮小して、被写体を撮像する。このカメラ部4を一の監視装置5に対して複数設置することにより、同一の被写体につき、互いに異なる撮影角度で撮像することができ、多面的な画像情報を得ることも可能となる。
【0017】
監視装置5は、例えばパーソナルコンピュータ(PC)等の電子機器により構成され、カメラユニット2から伝送される画像信号を記録し、また記録した画像信号につきディスプレイ6を介してユーザに表示する。またこの監視装置5は、ユーザから所望の画像領域又は画像位置が指定された場合には、記録した画像信号の中から最適なものを選択してこれを表示するように制御する。この監視装置5は、このネットワーク8全体を制御するためのいわゆる中央制御装置としての役割も担い、他の端末装置9からの要求に応じて、画像を送信する。
【0018】
ネットワーク8は、例えば監視装置5と電話回線を介して接続されるインターネット網を始め、TA/モデムと接続されるISDN(Integrated Services Digital Network)/B(broadband)−ISDN等のように、情報の双方向送受信を可能とした公衆通信網である。ちなみにこの監視システム1を、一定の狭いエリア内で運用する場合には、このネットワーク8を、LAN(Local Area Network)で構成してもよい。さらにこのネットワーク8は、静止画像に加えてMPEG画像をも送信できるようにしてもよい。かかる場合には、インターネットプロトコル(IP)に基づき、MPEGデータがある一つのチャネルから継続的に送信され、静止画像データは別のチャネルから一定時間毎に送信されることになる。
【0019】
端末装置9は、各家庭や企業等に待機するユーザがネットワーク8を介して監視装置5から画像を取得し、所望の処理を実行するためのPCである。複数の端末装置9をネットワーク8に接続することにより、複数のユーザに対してこの監視システム1のアプリケーションを同時に提供することが可能となる。この端末装置9は、監視装置5から取得した画像を、端末ディスプレイ10に対して表示する。またこの端末装置9は、ユーザによる指定操作に応じて要求信号を生成し、これを監視装置5に対して送信する。なお端末装置9のブロック構成については、後述する監視装置5の構成を引用し、説明を省略する。
【0020】
ネットワークサーバ11は、例えばインターネット情報を管理し、端末装置9による要求を受けて、自身に格納してある所定の情報を送信する。
【0021】
次に、本発明を適用した監視システム1におけるカメラユニット2,監視装置5の構成について詳細に説明する。
【0022】
図2は、カメラユニット2,監視装置5の構成図である。この図2では、共通のコントローラバス21に対して、カメラユニット2並びに監視装置5の各構成要素が接続されている。
【0023】
カメラユニット2を構成するパンチルタ部3は、撮像方向を変更するための回転台を制御するTilt部3a、Pan部3bとを有する。また、カメラユニット2を構成するカメラ部4は、主としてレンズ部22の画角を変更するためのレンズ制御部23と、レンズ部22の光軸に直交する位置に配設される撮像部24と、撮像部24により生成された画像信号を監視装置5へ送信するためのIEEE(Institute of Electrical and Electronics Engineers)1394インターフェース25と、カメラユニット2の現在位置を検出するためのGPS(Global Positioning System)受信部28と、GPS受信部28に装着されるメタデータ生成部29とを備えている。ちなみに、IEEE1394インターフェース25は、イーサネット(登録商標)に代替してもよい。
【0024】
また監視装置5は、IEEE1394インターフェース25に接続されるバッファメモリ51と、バッファメモリ51に接続されるエンコーダ52と、エンコーダ52から出力される画像を蓄積するサーバ53と、サーバ53から読み出された画像を圧縮するための画像圧縮部54と、サーバ53及び画像圧縮部54に接続され、ディスプレイ6上に表示する画像を作り出すグラフィックコントローラ55と、コントローラバス21を介して各部を制御するためのCPU56と、I/Oポート58にそれぞれ接続され、ディスプレイ6上に表示されている画像からユーザが所望の画像領域、画像位置を指定するためのキーボード59並びにマウス60と、さらにこのI/Oポート58に接続されるメモリカード61並びに時計62とを備えている。
【0025】
Tilt部3a並びにPan部3bは、CPU56からの駆動信号に基づき、回転台の駆動源として構成されているステッピングモータを回転させる。これにより回転台上に載置されてなるカメラ部4の撮影方向を水平方向、或いは垂直方向に変更することができる。
【0026】
レンズ制御部23は、CPU56からの駆動信号に基づき、レンズ部22に対して自動絞り制御動作や自動焦点制御動作を実行する。またこのレンズ制御部23は、かかる駆動信号に基づき、被写体に対する撮影画角を変更する。これにより、カメラ部4は、撮影倍率を順次調整して被写体を撮像することも可能となる。
【0027】
撮像部24は、例えばCCD(Charge Coupled Device )等の固体撮像素子により構成され、レンズ部22を介して入射される被写体像を撮像面上に結像させ、光電変換により画像信号を生成し、これをIEEE1394インターフェース25へ送信する。
【0028】
GPS受信部28は、GPSシステムにより送出される信号に基づき、カメラユニット2の設置場所や撮影方向を検出する。このGPS受信部28を設けることにより、特に複数のカメラユニット2を設置する場合において、双方の撮影方向を連動して制御することが可能となる。GPS受信部28からの出力信号は、メタデータ生成部29に供給され、GPSによる測位結果に基づく、緯度、経度、方位、高度等の位置情報、並びに時刻や各種パラメータ等からなるメタデータが生成される。メタデータ生成部29は、この生成した位置情報やメタデータをエンコーダ52へ供給する。なお本発明では、このGPS受信部28、メタデータ生成部29の構成を省略してもよい。
【0029】
バッファメモリ51は、CPU56からの制御信号に基づき、IEEE1394インターフェース25から供給される画像信号を一時的に格納する。このバッファメモリ51において一時的に格納された画像信号は、エンコーダ52に供給され、例えばJPEG(Joint Photographic Experts Group)等の規格に基づいて圧縮符号化される。ちなみに、このエンコーダ52は、圧縮符号化する画像信号に対して、メタデータ生成部29から供給される位置情報やメタデータを付加してもよい。エンコーダ52は、圧縮符号化した画像信号をサーバ53或いは画像圧縮部54へ出力する。なお供給される画像信号につき、圧縮符号化を行わない場合には、このエンコーダ52における処理は省略される。
【0030】
サーバ53は、エンコーダ52から出力される画像信号を位置情報やメタデータと関連付けて順次記録する。ちなみに、このサーバ53は、例えばハードディスクや、着脱自在なディスク状記録媒体に代替してもよい。サーバ53に記録された画像信号は、CPU56による制御に基づき、画像圧縮部54やグラフィックコントローラ55へ読み出される。なおサーバ53に記録される画像信号をメモリカード61へ記録するように制御することにより、ユーザは、かかる撮像した画像を他のPCへ移し換えることも可能となる。また、このサーバ53に記録されている画像信号をネットワークサーバ11に記録するように制御することにより、サーバ53をネットワークサーバ11に代替することも可能となる。
【0031】
画像圧縮部54は、サーバ53から読み出したJPEG形式の画像信号につき、それぞれ圧縮画像又はサムネイル画像を生成する。グラフィックコントローラ55は、サーバ53から読み出した画像信号、又は画像圧縮部54から出力される画像信号に基づき、ディスプレイ6への絵画処理を実行する。また、このグラフィックコントローラ55は、CPU56による制御に基づき、ディスプレイ6におけるコントラスト、輝度の制御を実行する。
【0032】
CPU56は、ユーザによりキーボード59やマウス60を介して画像領域、画像位置が指定された場合に、パンチルタ部3やレンズ制御部23を駆動するための駆動信号や、監視装置5内の各部を制御するための制御信号を、コントローラバス21を介して送信する。また、このCPU56は、端末装置9から所定の要求信号を受けて、サーバ53に記録されている画像から最適なものを選択し、或いは各種情報を選択し、これを当該端末装置9へ送信するように制御する。
【0033】
次に本発明を適用した監視システム1における撮像動作について説明をする。
【0034】
図3は、カメラユニット2により、黒枠で示される撮影範囲内を撮影画角uで撮像する場合について示している。撮影範囲を撮影画角uで全て撮像するためには、撮影方向を水平方向又は垂直方向へ順にシフトさせて撮像する必要がある。仮に撮影範囲のサイズが、任意の撮影画角uで撮像することにより得られるフレーム(以下、単位画像という。)のサイズのi×j倍で表せるときには、少なくともi×j通りの撮影方向を設定する必要がある。この撮影画角uで撮像したi×j個の単位画像を貼り合わせることにより撮影範囲全体を表した全体画像を合成することができる。
【0035】
ここで、撮影範囲の各単位画像の座標(M,N)を、水平方向につき、左端から順に1、2、・・M・、iとし、垂直方向につき上端から順に1、2、・・N・、jとしたとき、CPU56は、Tilt部3a並びにPan部3bに対して駆動信号を送信することにより、カメラ部4の撮影方向を、先ず左上に位置する座標(1,1)に合わせて撮像を実行させる。この座標(1,1)について撮像することにより生成された単位画像に基づく画像信号は、バッファメモリ51に一時的に格納され、エンコーダ52において、JPEG規格に基づいて圧縮符号化される。そしてこの画像信号は、GPS28から送信される撮影方向等を示す位置情報やメタデータが同時に付加され、サーバ53に記録される。
【0036】
同様にCPU56は、Tilt部3a並びにPan部3bに対して駆動信号を送信することにより、カメラ部4の撮影方向を、右側に1画枠分シフトさせて座標(2,1)に合わせて撮像を実行する。この座標(2,1)について撮像することにより生成された画像信号も同様にサーバ53へ記録される。CPU56による制御に基づき、カメラ部4は、撮影方向を座標(3,1)、(4,1)・・(i,1)と水平方向へ順次変更させて撮像を実行する。
【0037】
カメラ部4は、1列目の撮像を終了させた後、CPU56による制御に基づき、撮影方向を2列目の座標(1,2)に調整して撮像を実行し、その後、水平方向へ順次シフトさせながら撮像を実行する。かかる動作を繰り返して座標(i,j)まで撮像を終了させた時、サーバ53は、座標毎に撮像したi×j個の単位画像に基づく画像信号が記録されている状態になる。
【0038】
ちなみに、このサーバ53に記録されている各単位画像に基づく画像信号は、画像圧縮部54により順次読み出されて、ディスプレイ6の表示画面のサイズに適合するように圧縮される。この圧縮された各単位画像は、グラフィックコントローラ15を経てディスプレイ6に表示される。サーバ53に記録されたi×j個の単位画像を全てディスプレイ6に表示させることにより、1枚の全体画像が合成されることになる。上述の撮像動作を一定の間隔で実行することにより、撮影範囲の最新の状況を示す全体画像を取得することが可能となる。
【0039】
図4は、撮像したi×j個の単位画像を貼り合わせることにより合成した全体画像を、ディスプレイ6の全体画像表示部70に表示する例を示している。なお、この監視装置5は、全体画像表示部70に対して、全体画像を構成する各単位画像間の境界を表示させてもよいし、シームレスな全体画像のみを表示させてもよい。また監視装置5は、パノラマ状の全体画像の代替として、撮影範囲全体を捉えることができる撮影画角で撮影した1枚の全体画像を、この全体画像表示部71に表示させてもよい。
【0040】
ちなみに表示画面45には、単位画像を拡大した拡大画像を表示するための拡大画像表示部71がさらに設けられている。この拡大画像表示部71は、全体画像表示部79に表示される全体画像を構成する単位画像のうち、ユーザにより指定された一の単位画像を拡大して表示してもよいし、またかかる一の単位画像の撮影方向につき、動画を順次表示してもよい。これによりユーザは、指定した単位画像における撮影方向の状況につき、リアルタイムに確認することもできる。
【0041】
また表示画面45には、拡大画像表示部71に表示されている単位画像につき、撮影倍率を縮小して表示させるためのWIDEボタン72、撮影倍率を拡大して表示させるためのZOOMボタン73が表示される。また、この表示画面45には、カメラ部4の撮影方向を水平、垂直方向において調整するための撮影方向制御部75、各種モードの設定やサーバに対して所望のアドレスに単位画像に基づく画像信号を記録させるための設定ボタン76等も表示される。
【0042】
ユーザは、全体画像表示部70や拡大画像表示部71に対して、キーボード59やマウス60を用いて、所望の画像領域、画像位置を指定することができる。なお、各表示部70,71には、マウス60等の動きに連動させて上述の指定操作を実行するための照準線やポインタをさらに表示させてもよい。
【0043】
次に本発明を適用した監視システム1により、撮像した画像上に生じた差異を検出する方法について説明をする。
【0044】
上述の如く一定の間隔で実行される撮像動作により、サーバ53には最新の状況を撮像した全体画像が順次記録される。ここで、サーバ53に記録されている全体画像のうち、上記撮影範囲の最新の状況を示す全体画像を比較全体画像といい、またこの比較全体画像の直前に撮像され記録されている全体画像を基本全体画像という。
【0045】
監視システム1は、図5に示すように比較全体画像を構成する各単位画像と、基本全体画像を構成する各単位画像との間で、R,G,Bの原色成分毎に輝度レベルを比較する。この輝度レベルの比較は、同一座標(M,N)にある単位画像間で、換言すれば同一撮影方向にある単位画像間で実行する。これにより、基本全体画像に対する比較全体画像の各原色成分における輝度レベルの変化を、撮影方向毎に検出することができる。
【0046】
また、輝度レベルを単位画像毎に比較した結果、例えば、座標(3,2)、(5,5)、(7,6)において差異が検出された場合には、かかる単位画像のみ色付きの枠を表示することによりユーザに対して注意を促す。このとき、表示画面45において、色付きの枠を表示すると同時に比較する二つの単位画像を表示することにより、かかる差異の原因を即座に知らせるようにしてもよい。
【0047】
これによりユーザは、表示画面45上において、色付きの枠で表示されている単位画像のみ着目して、差異の詳細を調べることができるため、労力の負担を軽減させることができる。
【0048】
ちなみに、本発明では、比較全体画像を構成する一部の単位画像のみについて、上述の如く輝度レベルを比較してもよい。このときユーザは、マウス60等を用いて、所望の単位画像を指定することにより、かかる指定された単位画像のみにつき輝度レベルの差異の有無を識別することが可能となる。これにより、高精度、高感度な画像の差異検出が可能となる。
【0049】
図6(a)は、原色成分のうちR(赤)の輝度レベルを比較する場合につき説明するための図である。縦軸は、比較する単位画像につき、対応する画素毎に演算した差分値(明るさ)を示している。また図6(b)は、この図6(a)に示される差分値のうち水平方向における最大値を表示したものであり、図6(c)は、図6(a)に示される差分値のうち垂直方向における最大値を表示したものである。
【0050】
差異検出レベルL1並びに色レベルL2は、キーボード59やマウス60を用いて、ともにユーザにより自由に設定できるレベルである。演算された原色成分(R)の輝度レベルの差分値がこの差異検出レベルL1を超えたときに、差異が検出されたものと判定される。色レベルL2は、S/N比を向上させるべく、演算される差分値のゲインを設定するためのレベルである。例えば図6に示すように、一の差分値を色レベルL2まで増幅させることにより、他の差分値も同様に増幅されることになる。増幅された各差分値に対して所望の差異検出レベルL1を設定することにより、高精度な差異検出を実現することができる。すなわちユーザは、検出を望む差分値のレベルに対応させて自在に色レベルL2を設定することができ、またこの色レベルL2との関係において差異検出レベルL1を設定することにより、色レベルL2の割合に対してどの程度のレベル変化を起こしたら差異が検出されたものと判断するか自由に設定することができる。ちなみに、他の原色成分(G、B)に関しても同様にL1,L2を設定することができる。
【0051】
なお、この差異検出レベルL1及び色レベルL2は、R、G、Bの原色成分毎に互いに異なるレベルに設定してもよく、また比較全体画像を構成する単位画像毎に、互いに異なるレベルに設定してもよい。
【0052】
すなわち、監視システム1では、比較する単位画像について原色成分毎に演算した輝度レベルの差分値のうち、少なくとも一の原色成分において差異検出レベルL1を超える場合に、当該単位画像につき何らかの差異が検出されたものと判断することができる。このため、R、G、B毎に単独で差異を検出することができ、実際に表示画面45上において表示される全体画像において、視覚的に検出することが不可能な微小な状況変化までも高精度に検出することができる。
【0053】
また、本発明を適用した監視システム1では、差異を検出することができる対象物の大きさを選択することもできる。
【0054】
図7(a)に示すようにユーザは、キーボード59やマウス60を用いて各単位画像毎に所望の参照画像領域を設定することができる。この設定される参照画像領域は、一の単位画像に対して1種のみ設定してもよいし、複数種設定してもよい。また原色成分毎に互いに異なるサイズからなる参照画像領域を設定してもよい。
【0055】
ここで、ユーザにより図7(b)に示すように、水平方向の長さをWであり、また垂直方向の長さがtである参照画像領域が設定された場合において、CPU56は、かかる参照画像領域が設定された単位画像につき、求められた差分値が差異検出レベルL1を超える被検出領域を識別する。CPU56は、この識別した被検出領域につき、参照画像領域との間でサイズを比較する。
【0056】
例えば、図8に示すように、差分値が差異検出レベルL1を超える被検出領域として、先ず水平方向の長さがW1であり、垂直方向の長さがt1である被検出領域R1を識別した場合に、水平方向につき、参照画像領域の長さWと、このW1とを比較し、また垂直方向につき、参照画像領域の長さtと、このt1とを比較する。その結果、被検出領域R1のサイズが水平、垂直方向において共に参照画像領域のサイズを超える場合には、差異が検出されたものと判定する。また、この被検出領域R1において、水平、垂直方向のうちいずれか一方のサイズが、参照画像領域のサイズを下回る場合には、差異が検出されなかったものと判定する。
【0057】
同様に、CPU56は、差分値が差異検出レベルL1を超える被検出領域として、水平方向の長さがW2であり、垂直方向の長さがt2である被検出領域R2を識別した場合には、水平方向につき、参照画像領域の長さWと、このW2とを比較し、また垂直方向につき、参照画像領域の長さtと、このt2とを比較し、差異の有無を判定する。
【0058】
すなわち、本発明を適用した監視システム1では、ユーザにより設定された参照画像領域に基づき、差異を検出するための被検出領域を選択することができる。特に、参照画像領域のサイズを細かく調整することにより、微小な被検出領域につき、差異が検出されることはなくなる。その結果、かかる被検出領域を含む単位画像につき、上述の如く色付きの枠を表示されることがなくなるため、ユーザに対する過度の注意喚起を防ぐことができる。
【0059】
また撮影範囲内に存在する被写体の中から、ある特定の対象につき、差異の検出を望む場合においても、参照画像領域のサイズを当該検出対象のサイズに応じて設定することにより実現することができる。特に撮影方向を順次変化させて被写体を撮像することにより得られる全体画像は、様々な撮影対象物を含む場合が多いため、単位画像間で互いに異なるサイズからなる参照画像領域を設定することにより、各撮影対象物につき、単一システムによる差異検出を実現することができる。
【0060】
また、カメラ部4から遠距離にある撮影対象物と近距離にある撮影対象物は、仮に同一物であっても単位画像に表示されるサイズが異なる。例えばカメラ部4から遠距離位置に敷設されている道路上の自動車と、カメラ部4から近距離位置に敷設されている道路上の自動車では、同一種類のものであっても、後者の方が大きく表示される。このため、カメラ部4から遠距離位置に敷設されている道路を含む単位画像と、カメラ部4から近距離位置に敷設されている道路を含む単位画像との間で、設定する参照画像領域のサイズを変えることにより、かかる同一種類の自動車についても、カメラ部4からの遠近によらず精確な差異検出を実現することができる。
【0061】
なお、本発明では、上述した実施の形態に限定されるものではなく、被検出領域のサイズが水平、垂直方向の何れか一方において、参照画像領域のサイズを超える場合に、差異が検出されたものと判定してもよい。
【0062】
また、本発明を適用した監視システム1では、輝度レベルを比較する単位画像の位置ずれを調整するための位置合わせを行うこともできる。
【0063】
CPU56は、輝度レベルを比較する二つの単位画像のうち、基本全体画像を構成する単位画像(先の単位画像)から、所定の画素数(例えば16×16画素)からなる基準ブロック91を切り出す。この基準ブロック91は、例えば図9に示すように、エッジ成分等のようないわゆる高周波領域を含むように設定される。
【0064】
次にCPU56は、比較全体画像を構成する単位画像(後の単位画像)において探索範囲94を設定する。この探索範囲94は、例えば、基準ブロック91を中心としてそれぞれ水平、垂直方向に±4画素分拡張した24×24画素からなる領域として設定される。次にCPU56は、後の単位画像において、さらにこの探索範囲94内において探索ブロック93を設定する。探索ブロック93における水平、垂直方向の画素数は、上述した基準ブロック91の水平、垂直方向の画素数と同等になるように設定される。
【0065】
次にCPU56は、探索ブロック93を探索範囲94内において水平、垂直方向へ順次移動させる。CPU56は、この探索ブロック93につき、1画素ずつ移動させてもよいし、数画素おきに移動させてもよい。CPU56は、この順次移動する探索ブロック93と基準ブロック91との間で相似度を求める。そして、基準ブロック91と最も高い相似度を示す探索ブロック93の位置を検出する。
【0066】
この相似度を求める場合において、CPU56は、先ず探索ブロック93の白黒画像信号の輝度レベルと、基準ブロック91の白黒画像信号の輝度レベルとの差分値RDを演算する。白黒画像信号は、R,G,Bの原色成分から以下の式1に基づいて計算することができる。
白黒画像信号=(R×0.30+G×0.59+B×0.11)・・・式1
図10(a)は、探索ブロック93において、白黒画像信号の輝度レベル差が生じた領域を示している。この図10(a)において斜線で示される領域は、後の単位画像において位置ずれが生じた結果、基準ブロック91と探索ブロック93との間で白黒画像信号の輝度レベルにつき格差が生じた領域である。
【0067】
また図10(b)の横軸は、図10(a)における点線上に位置する水平方向の画素に対応し、また、横軸はかかる点線上に位置する画素について求めた差分値RDを8ビットデータで表示する例である。
【0068】
ここでCPU56は、かかる縦軸で表される差分値の平均である平均差分値RAを求める。そして、求めた平均差分値RAを基準として、点線上に位置する各画素について以下の式2を用いて分散積分値Fを求める。
分散積分値F=∫(差分値RD−平均差分値RA)・・・・・・式2
この式2により求められた分散積分値Fは、図10(b)の斜線領域で表される。
【0069】
CPU56は、このような分散積分値Fを、図11(a)に示すように点線を垂直方向へ順次ずらしながら求めることができる。その結果、図11(b)の斜線領域に示されるように、垂直成分毎に求めた分散積分値Fを得ることができる。CPU56は、この分散積分値Fを利用し、最終的に以下の式3で示される分散積分値F’を求める。
分散積分値F’=∬(差分値RD−平均差分値RA)・・・・・式3
このようにして、探索範囲94内を順次移動する探索ブロック93と基準ブロック91との間で、上述の式に基づき分散積分値F’を順次求め、最も小さい分散積分値F’を示す探索ブロック93の位置を、最も高い相似度を示す位置とする。そして、かかる探索ブロック93について求めた基準ブロック91に対する相対的な位置に基づき、後の単位画像の位置合わせを行う。
【0070】
すなわち、本発明を適用した監視システム1は、全体画像を構成する全ての単位画像について上述の如く位置合わせを実行することができる。これにより、単なる単位画像の位置ずれにつき、差異検出されることはなくなる。特に広範な撮影範囲につき、撮影方向を順次変化させながら撮像する単位画像は、画素単位で位置ずれが生じる場合が多く、また撮像するカメラ部4の性能によりパンチルタ部3により制御される撮影方向に微妙にずれが生じる場合がある。かかる場合においても、各単位画像を最適な位置へ合わせ込むことにより、差異検出の精度をより向上させることが可能となる。
【0071】
なお、上述した位置合わせでは、基準ブロック91及び探索ブロック93を各一ずつ設定する場合について説明をしたが、図9に示すようにそれぞれにつき複数設定してもよい。これにより、設定した基準ブロック91の領域において、差異が発生する場合であっても他の基準ブロックにおいて、精確に位置合わせを行うことができる。
【0072】
なお、この位置合わせにおいて、通常のブロックマッチング法に基づき、最も高い相似度を示す探索ブロック93の位置を求めてもよいことは勿論である。
【0073】
最後に、本発明を適用した監視システム1における動作手順の一例について説明をする。
【0074】
図12は、全体画像表示部70において表示される単位画像につきユーザが各種設定をするためのフローチャートを示している。
【0075】
先ずステップS11において、基準ブロック91の設定を行う。この基準ブロック91の設定は、ユーザが所望の領域につきマウス60等を用いて設定してもよいし、CPU56が、自らエッジ部分を優先的に抽出することにより設定してもよい。
【0076】
次にステップS12に移行し、基準ブロック91を複数設ける場合には、ステップS11と同様の処理を実行する。
【0077】
次にステップS13へ移行し、ユーザは、原色成分(R)につき、色レベルL2の設定を行い、さらに設定した色レベルL2に応じて差異検出レベルL1の設定を行う。このL1、L2の設定は、各単位画像毎に実行してもよいし、全体画像において一律に設定してもよい。
【0078】
次にステップS14へ移行し、ユーザは、原色成分(G)につき、色レベルL2の設定を行い、さらに設定した色レベルL2に応じて差異検出レベルL1の設定を行う。ステップS15においても、原色成分(B)につき、同様にL1、L2の設定を行う。
【0079】
次にステップS15へ移行し、上述した参照画像領域の設定を各単位画像毎に実行する。このステップS15までの設定処理を完了させることにより、全体画像を構成する各単位画像につき差異検出が可能となる。
【0080】
図13は、かかる各単位画像についての差異検出のフローチャートを示している。
【0081】
撮像が実行されると、上述の如くサーバ53には、撮像された画像信号に基づく単位画像が順次記録される。CPU56は、サーバ53に新たに記録された比較全体画像を構成する後の単位画像につき、基本全体画像を構成する先の単位画像との間で位置合わせを実行する(ステップS21)。
【0082】
次にステップS22へ移行し、原色成分(R)につき、各単位画像毎に輝度レベルの差分値を演算する。次にステップS23へ移行し、かかる輝度レベルの差分値が差異検出レベルL1を超えているか否か判断する。
【0083】
同様にステップS24〜ステップS25において、原色成分(G)につき、各単位画像毎に輝度レベルの差分値を演算し、また当該差分値が差異検出レベルL1を超えているか否か判断する。ステップS26〜ステップS27においても原色成分(B)につき同様に判断する。
【0084】
次にステップS28へ移行し、原色成分であるR,G,Bのうち少なくとも一色につき差異が検出されたか否か判断する。その結果、少なくとも一色につき差異が検出された場合には、ステップS29へ移行する。一方、各原色成分において何らかの差異が検出されなかった場合には、ステップS31へ移行し、比較の対象となる単位画像につき特にユーザに対して注意を喚起せずに、次の単位画像の差異検出へ移行する。
【0085】
ステップS29において、被検出領域と参照画像領域のサイズを比較する。その結果、上述の如く被検出領域の水平、垂直方向ともに参照画像領域のサイズを超える場合には、ステップS30へ移行する。水平、垂直方向のうちいずれか一方のサイズが、参照画像領域のサイズを下回る場合には、ステップS31へ移行する。ステップS30では、比較の対象となる単位画像につき色付きの枠を表示することによりユーザに対して注意を促した後、ステップS31へ移行する。
【0086】
このステップS21からステップ31までの動作を全体画像を構成する全ての単位画像につき実行した後、次の撮像に入る。ちなみに、上述の処理における比較全体画像は、そのままサーバ53へ記録され続け、次の撮像に基づく単位画像が新たにサーバに記録された場合には、基本単位画像として、差異検出時に参照されることになる。すなわち、この比較全体画像並びに基本全体画像は、新たな撮像が実行されることにより、順次更新されることになる。
【0087】
なお、本発明を適用した監視システム1では、さらに図14に示す手順により、端末装置9を操作するユーザに対しても検出した差異に関する情報を提供することができる。
【0088】
先ずステップS41において、端末装置9を操作する各ユーザは、ネットワーク8に接続されている監視装置5にアクセスする。
【0089】
次にステップS42に移行し、監視装置5は、自身のサーバ53に記録されている全体画像のうち、ユーザに対して公開できるものについて、公開可能画像リストを作成し、これを端末装置9へ送信する。ちなみに、この公開可能画像リストには、各全体画像のファイル名やファイルサイズのみにならず、縮小された全体画像が貼り付けられる場合もある。この公開可能画像リストは、ネットワーク8、端末装置9を介して、端末ディスプレイ10上に表示される。
【0090】
次にステップS43へ移行し、ユーザは、公開可能画像リストから所望の全体画像を選択する。端末装置9は、ユーザによる選択操作に応じて、全体画像送信要求C1を監視装置5へ送信する。
【0091】
ステップS44において、監視装置5は、かかる全体画像送信要求C1を受けて、ユーザにより選択された全体画像をサーバから読み出し、これを端末装置9へ送信する。送信された全体画像は、ネットワーク8、端末装置9を介して、端末ディスプレイ10に表示される。
【0092】
次にステップS45へ移行し、ユーザは、端末ディスプレイ10に表示される全体画像につき、各単位画像或いは所望の単位画像につき、マウス60等を用いてポイント指定し、ステップS11〜S16に示す各種設定を行う。端末装置9は、かかるユーザの指定操作に応じて、所定の要求信号C2を送信する。
【0093】
次にステップS46へ移行し、監視装置5は、かかる要求信号C2を受けて、ステップS21〜S31に示す動作を実行する。そして監視装置5は、ステップS30において、ユーザに対して注意を促すことが必要となる単位画像の座標を端末装置9へ通知する。その結果、ステップS47において、端末装置9に接続される端末ディスプレイ10上において、かかる差異が検出された単位画像につき色付きの枠が表示されることになる。
【0094】
以上説明した手順を実行することにより、本発明を適用した監視システム1では、監視装置5を操作するユーザに加えて、ネットワーク8に接続されている端末装置9を操作するユーザに対しても、適切な検出情報を提供することができる。
【0095】
ちなみに、この図14の例では、ステップS46に示す動作をあくまで監視装置5が実行する場合につき説明をしたが、かかる場合に限定されるものではない。例えば、撮像した単位画像をネットワーク8に接続されているネットワークサーバ11へ順次記録しておくことにより、端末装置5自身がかかるネットワークサーバ11へアクセスして、単位画像を読み出し、ステップS46に相当する動作を実行してもよい。これにより、複数の端末装置9からアクセスを受けた監視装置5につき負担を軽減させることができる。
【0096】
また、この監視システム1では、過去に撮像した画像信号に基づく全体画像をサーバ53に蓄積することにより、過去に生じた差異につき、事後的に分析することができる。かかる場合において、詳細な状況や原因を解析する際に、CPU56が単位画像間の輝度レベルを比較し、何らかの差異が発生した単位画像につき注意を促すことができるため、ユーザの労力の負担を解消することができる。
【0097】
【発明の効果】
以上詳細に説明したように、本発明では、撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録しておき、記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、原色成分毎に輝度レベルを比較し、撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、その比較結果に基づき、パノラマ画像を構成する単位画像毎に所定の情報を表示する。
【0098】
これにより、ユーザは、細かい画像の変化や、微小な対象物の出現等につき、常に注意を払う必要がなくなり、労力の負担を軽減させることができる。また、かかる差異の検出に要する時間を短縮化させることができる。さらに、ユーザの眼に依存する必要はなくなり、差異検出の精度を向上させることができる。
【図面の簡単な説明】
【図1】本発明を適用した監視システムの構成を示す図である。
【図2】カメラユニット,監視装置のブロック構成図である。
【図3】カメラユニットにより、黒枠で示される撮影範囲内を撮影画角uで撮像する場合について説明するための図である。
【図4】ディスプレイ上の表示画面の構成例を示す図である。
【図5】撮像した画像上に生じた差異を検出する方法について説明をするための図である。
【図6】原色成分毎に色レベル、差異検出レベルを設定する方法について説明するための図である。
【図7】差異を検出することができる対象物の大きさを選択する場合につき説明するための図である。
【図8】被検出領域と参照画像領域とのサイズ比較の一例を示す図である。
【図9】基準ブロック、探索ブロックの設定について説明するための図である。
【図10】相似度を求める方法について説明するための図である。
【図11】分散積分値の算出方法について説明するための図である。
【図12】全体画像表示部において表示される単位画像につきユーザによる各種設定手順を示すフローチャートである。
【図13】各単位画像についての差異検出の手順を示すフローチャートである。
【図14】検出した差異に関する情報を端末装置を操作するユーザに対して提供する手順を示すフローチャートである。
【符号の説明】
1 画像情報提供システム、2 カメラユニット、3 パンチルタ部、4 カメラ部、5 画像信号処理装置、6 ディスプレイ、8 ネットワーク、9 ユーザ端末、10 端末ディスプレイ、11 ネットワークサーバ、21 コントローラバス、22 レンズ部、23 レンズ制御部、24 撮像部、25 IEEE1394インターフェース、28 GPS受信部、29 メタデータ生成部、51 バッファメモリ、52 エンコーダ、53 サーバ、54 画像圧縮部、55 グラフィックコントローラ、56 CPU、58 I/Oポート、59 キーボード、60 マウス、61 メモリカード、62 時計

Claims (8)

  1. 撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視する監視装置において、
    上記パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録する記録手段と、
    上記記録媒体から選択した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、原色成分毎に輝度レベルを比較する比較手段と、
    上記撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、上記比較手段による比較結果に基づき、上記パノラマ画像を構成する上記単位画像毎に所定の情報を表示する表示手段とを備え、
    上記比較手段は、上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、上記原色成分毎に輝度レベルを比較すること
    を特徴とする監視装置。
  2. 上記比較手段は、上記記録媒体から読み出した単位画像を構成する少なくとも1つの基準ブロックを切り出し、また当該単位画像よりも先に記録されている同一撮影方向上の単位画像から探索ブロックを順次移動させて切り出し、上記切り出した基準ブロック及び探索ブロックとの間で上記白黒画像信号の輝度レベルにおける分散積分値を順次演算し、
    上記表示手段は、上記比較手段より演算された分散積分値に基づき、上記所定の情報を表示すること
    を特徴とする請求項1記載の監視装置。
  3. 撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視する監視方法において、
    上記パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録し、
    上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、原色成分毎に輝度レベルを比較し、
    上記撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、上記比較結果に基づき、上記パノラマ画像を構成する上記単位画像毎に所定の情報を表示すること
    を特徴とする監視方法。
  4. 上記記録媒体から読み出した単位画像を構成する少なくとも1つの基準ブロックを切り出し、また当該単位画像よりも先に記録されている同一撮影方向上の単位画像から探索ブロックを順次移動させて切り出し、上記切り出した基準ブロック及び探索ブロックとの間で上記白黒画像信号の輝度レベルにおける分散積分値を順次演算し、
    上記演算された分散積分値に基づき、上記所定の情報を表示すること
    を特徴とする請求項3記載の監視方法。
  5. 撮影方向を順次変化させて撮影範囲を撮像することによりパノラマ画像の画像信号を生成する撮像手段と、
    上記生成される画像信号に基づき、上記パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録する記録手段と、
    上記記録媒体から選択した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、原色成分毎に輝度レベルを比較する比較手段と、
    上記撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、上記比較手段による比較結果に基づき、上記パノラマ画像を構成する上記単位画像毎に所定の情報を表示する表示手段とを備え、
    上記比較手段は、上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、上記原色成分毎に輝度レベルを比較すること
    を特徴とする撮像装置。
  6. 上記比較手段は、上記記録媒体から読み出した単位画像を構成する少なくとも1つの基準ブロックを切り出し、また当該単位画像よりも先に記録されている同一撮影方向上の単位画像から探索ブロックを順次移動させて切り出し、上記切り出した基準ブロック及び探索ブロックとの間で上記白黒画像信号の輝度レベルにおける分散積分値を順次演算し、
    上記表示手段は、上記比較手段より演算された分散積分値に基づき、上記所定の情報を表示すること
    を特徴とする請求項5記載の撮像装置。
  7. 撮影方向を順次変化させて撮影範囲を撮像することにより得られたパノラマ画像を監視することをコンピュータに実行させるプログラムにおいて、
    上記パノラマ画像を構成する各単位画像であって、撮像方向を水平方向または垂直方向へ順に変化させて撮像されたi×j個の単位画像を記録媒体へ順次記録し、
    上記記録媒体から読み出した一の単位画像と、当該単位画像よりも先に記録されている同一撮影方向上の単位画像との間で、白黒画像信号の輝度レベルを比較し、当該比較結果に応じて上記読み出した一の単位画像の位置を移動させて、上記原色成分毎に輝度レベルを比較し、
    上記撮像したi×j個の単位画像を貼り合わせることにより合成したパノラマ画像と共に、上記比較結果に基づき、上記パノラマ画像を構成する上記単位画像毎に所定の情報を表示することをコンピュータに実行させるためのプログラム。
  8. 上記記録媒体から読み出した単位画像を構成する少なくとも1つの基準ブロックを切り出し、また当該単位画像よりも先に記録されている同一撮影方向上の単位画像から探索ブロックを順次移動させて切り出し、上記切り出した基準ブロック及び探索ブロックとの間で上記白黒画像信号の輝度レベルにおける分散積分値を順次演算し、
    上記演算された分散積分値に基づき、上記所定の情報を表示することをコンピュータに実行させる請求項7記載のプログラム。
JP2003011614A 2003-01-20 2003-01-20 監視装置 Expired - Fee Related JP3849645B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2003011614A JP3849645B2 (ja) 2003-01-20 2003-01-20 監視装置
EP04702068A EP1653743A4 (en) 2003-01-20 2004-01-14 MONITORING DEVICE AND MONITORING PROCEDURE USING PANORAMIC IMAGES
CNB2004800001386A CN100433830C (zh) 2003-01-20 2004-01-14 使用全景图像的监视装置与监视方法
KR1020047014685A KR101029202B1 (ko) 2003-01-20 2004-01-14 파노라마 화상을 이용한 감시 장치 및 감시 방법
PCT/JP2004/000177 WO2004066631A1 (ja) 2003-01-20 2004-01-14 パノラマ画像を用いた監視装置及び監視方法
US10/508,042 US20050151838A1 (en) 2003-01-20 2004-01-14 Monitoring apparatus and monitoring method using panoramic image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003011614A JP3849645B2 (ja) 2003-01-20 2003-01-20 監視装置

Publications (2)

Publication Number Publication Date
JP2004266317A JP2004266317A (ja) 2004-09-24
JP3849645B2 true JP3849645B2 (ja) 2006-11-22

Family

ID=32767289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003011614A Expired - Fee Related JP3849645B2 (ja) 2003-01-20 2003-01-20 監視装置

Country Status (6)

Country Link
US (1) US20050151838A1 (ja)
EP (1) EP1653743A4 (ja)
JP (1) JP3849645B2 (ja)
KR (1) KR101029202B1 (ja)
CN (1) CN100433830C (ja)
WO (1) WO2004066631A1 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1686531B1 (en) * 2005-01-27 2018-04-25 QUALCOMM Incorporated A method, a software product and an electronic device for generating an image composition
JP4573032B2 (ja) * 2005-02-04 2010-11-04 富士フイルム株式会社 オートフォーカスシステム
EP1886258A4 (en) * 2005-04-20 2011-01-12 Mediapod Llc SYSTEM AND METHOD FOR SIMULATION OF MOVIES OR OTHER MEDIA FOR IMAGE PROCESSING
US8194168B2 (en) * 2005-06-03 2012-06-05 Mediapod Llc Multi-dimensional imaging system and method
US20070035542A1 (en) * 2005-07-27 2007-02-15 Mediapod Llc System, apparatus, and method for capturing and screening visual images for multi-dimensional display
US20070127909A1 (en) * 2005-08-25 2007-06-07 Craig Mowry System and apparatus for increasing quality and efficiency of film capture and methods of use thereof
US7801440B2 (en) 2005-06-22 2010-09-21 Craig Mowry System and method for digital film simulation
KR20080075079A (ko) * 2005-07-06 2008-08-14 미디어팟 엘엘씨 비주얼 데이터 캡처 시스템 및 방법
KR20080052555A (ko) * 2005-07-22 2008-06-11 미디어팟 엘엘씨 매체 저장 용량을 증가시키기 위한 시스템, 장치 및 방법
JP2009512396A (ja) * 2005-10-16 2009-03-19 メディアポッド リミテッド ライアビリティ カンパニー デジタル映像捕獲の質を高めるための装置、システム及び方法
WO2007062396A2 (en) * 2005-11-22 2007-05-31 Mediapod Llc Composite media recording element and imaging system and method of use thereof
CA2680813C (en) * 2007-03-16 2016-06-14 Kollmorgen Corporation System for panoramic image processing
JP2009044328A (ja) 2007-08-07 2009-02-26 Seiko Epson Corp 会議システム、サーバ、画像表示方法、コンピュータプログラム及び記録媒体
CN101119482B (zh) * 2007-09-28 2011-07-20 北京智安邦科技有限公司 一种全景监控方法及设备
WO2010035752A1 (ja) * 2008-09-24 2010-04-01 株式会社ニコン 画像生成装置、撮像装置、画像再生装置、画像再生プログラム
JP2010093342A (ja) * 2008-10-03 2010-04-22 Canon Inc 映像サーバ装置、映像クライアント装置、映像送受信システム及び情報処理方法
JP5453953B2 (ja) * 2009-06-24 2014-03-26 ソニー株式会社 可動機構部制御装置、可動機構部制御方法、プログラム
JP2011009929A (ja) 2009-06-24 2011-01-13 Sony Corp 可動機構部制御装置、可動機構部制御方法、プログラム
KR101586702B1 (ko) * 2009-07-08 2016-01-19 한화테크윈 주식회사 감시 카메라들의 제어 방법 및 이를 사용한 제어 장치
CN101668190A (zh) * 2009-09-15 2010-03-10 中兴通讯股份有限公司 云台控制方法及云台控制系统
JP5696419B2 (ja) * 2010-09-30 2015-04-08 カシオ計算機株式会社 画像処理装置及び方法、並びにプログラム
CN103828357B (zh) * 2011-09-30 2016-01-20 李汶基 图像处理系统以及图像处理方法
CN103442178A (zh) * 2013-09-12 2013-12-11 电子科技大学 高速多数据通路拼接系统
KR101386285B1 (ko) * 2014-02-07 2014-04-17 에이치씨테크(주) 영상처리보드 및 이를 이용한 영상감시장치
US10204291B2 (en) 2015-08-31 2019-02-12 International Business Machines Corporation System, method, and recording medium for detecting events for interest from mobile
KR102632270B1 (ko) * 2015-11-27 2024-02-02 삼성전자주식회사 전자 장치 및 파노라마 영상 표시와 생성 방법
US10389972B2 (en) * 2016-02-10 2019-08-20 Hitachi Kokusai Electric Inc. Video signal transmission device
US10163219B2 (en) * 2016-06-24 2018-12-25 Fca Us Llc Machine vision cargo monitoring in a vehicle
US10791316B2 (en) * 2017-03-28 2020-09-29 Samsung Electronics Co., Ltd. Method for transmitting data about three-dimensional image
JP7267686B2 (ja) * 2018-05-31 2023-05-02 キヤノン株式会社 撮像装置及びその制御方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3842356A1 (de) * 1988-12-16 1990-06-28 Martin Spies System zum feststellen einer bewegung bzw. einer veraenderung im ueberwachungsbereich mehrerer fernsehkameras
JPH0827338B2 (ja) * 1989-03-13 1996-03-21 日本電気株式会社 カラー画像目標追随装置
FR2665600A1 (fr) * 1990-08-03 1992-02-07 Thomson Csf Procede de detection pour camera panoramique, camera pour sa mise en óoeuvre, et systeme de veille equipe d'une telle camera.
DE4138254C1 (ja) * 1991-11-21 1993-06-24 Grundig E.M.V. Elektro-Mechanische Versuchsanstalt Max Grundig Hollaend. Stiftung & Co Kg, 8510 Fuerth, De
US5631697A (en) * 1991-11-27 1997-05-20 Hitachi, Ltd. Video camera capable of automatic target tracking
JPH06153051A (ja) * 1992-11-02 1994-05-31 Nippon Telegr & Teleph Corp <Ntt> 移動物体追尾撮像装置
EP0623268A1 (en) * 1992-11-24 1994-11-09 Geeris Holding Nederland B.V. A method and device for producing panoramic images, and a method and device for consulting panoramic images
US6037936A (en) * 1993-09-10 2000-03-14 Criticom Corp. Computer vision system with a graphic user interface and remote camera control
US5555019A (en) * 1995-03-09 1996-09-10 Dole; Kevin Miniature vehicle video production system
US6640004B2 (en) * 1995-07-28 2003-10-28 Canon Kabushiki Kaisha Image sensing and image processing apparatuses
JP3702520B2 (ja) * 1995-12-15 2005-10-05 ソニー株式会社 ビデオカメラシステム及びその自動追尾方法
DE19603935A1 (de) * 1996-02-03 1997-08-07 Bosch Gmbh Robert Verfahren zum Erkennen von Änderungen in einem Überwachungsbereich
JP3749369B2 (ja) * 1997-03-21 2006-02-22 株式会社竹中工務店 ハンドポインティング装置
AU6515798A (en) * 1997-04-16 1998-11-11 Isight Ltd. Video teleconferencing
JP4332231B2 (ja) * 1997-04-21 2009-09-16 ソニー株式会社 撮像装置コントローラおよび撮像システム
US6034716A (en) * 1997-12-18 2000-03-07 Whiting; Joshua B. Panoramic digital camera system
CN1240323A (zh) * 1998-05-29 2000-01-05 日本电气株式会社 摄像机用户接口、摄像机控制方法及计算机程序产品
US7023913B1 (en) * 2000-06-14 2006-04-04 Monroe David A Digital security multimedia sensor
JP2000152168A (ja) * 1998-11-13 2000-05-30 Olympus Optical Co Ltd 画像再生装置
US6661918B1 (en) * 1998-12-04 2003-12-09 Interval Research Corporation Background estimation and segmentation based on range and color
JP2001069394A (ja) * 1999-06-22 2001-03-16 Canon Inc 画像処理システム、カメラ、画像出力装置、画像修正装置、画像修正システム、画像修正方法、及び画像修正プログラムを提供する媒体
US6470151B1 (en) * 1999-06-22 2002-10-22 Canon Kabushiki Kaisha Camera, image correcting apparatus, image correcting system, image correcting method, and computer program product providing the image correcting method
JP3773433B2 (ja) * 2000-10-11 2006-05-10 シャープ株式会社 移動体の周囲監視装置
US20020054211A1 (en) * 2000-11-06 2002-05-09 Edelson Steven D. Surveillance video camera enhancement system
JP3960758B2 (ja) * 2001-06-12 2007-08-15 三洋電機株式会社 監視装置

Also Published As

Publication number Publication date
CN100433830C (zh) 2008-11-12
CN1698379A (zh) 2005-11-16
JP2004266317A (ja) 2004-09-24
EP1653743A1 (en) 2006-05-03
US20050151838A1 (en) 2005-07-14
EP1653743A4 (en) 2009-01-14
KR101029202B1 (ko) 2011-04-12
KR20050090318A (ko) 2005-09-13
WO2004066631A1 (ja) 2004-08-05

Similar Documents

Publication Publication Date Title
JP3849645B2 (ja) 監視装置
JP4614653B2 (ja) 監視装置
JP2006333133A (ja) 撮像装置、撮像方法、プログラム、プログラム記録媒体並びに撮像システム
EP1536633A1 (en) Photographing apparatus and method, supervising system, program and recording medium
JP2006333132A (ja) 撮像装置及び撮像方法、プログラム、プログラム記録媒体並びに撮像システム
JP2006013923A (ja) 監視装置
US7697025B2 (en) Camera surveillance system and method for displaying multiple zoom levels of an image on different portions of a display
US20110090341A1 (en) Intruding object detection system and controlling method thereof
JP4736381B2 (ja) 撮像装置及び方法、監視システム、プログラム並びに記録媒体
JP4583717B2 (ja) 撮像装置及び方法、画像情報提供システム、プログラム、並びに制御装置
JP2004228711A (ja) 監視装置及び方法、プログラム並びに監視システム
JP4172352B2 (ja) 撮像装置及び方法、撮像システム、プログラム
JP4333255B2 (ja) 監視装置
JP4449525B2 (ja) 監視装置
JP4438396B2 (ja) 監視装置
JP2004088558A (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP4367177B2 (ja) 監視装置
JP3969172B2 (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体
JP2010062834A (ja) 撮影システム並びに当該撮影システムを構成する撮影装置及び操作装置
JP2004266669A (ja) 監視カメラ並びに撮像方法
JP4127080B2 (ja) 撮像装置及び方法
JP2002238016A (ja) 画像処理装置、画像処理システム、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読取可能な記録媒体
JP4211377B2 (ja) 画像信号処理装置
JP2005176141A (ja) 監視装置
JP2004088559A (ja) モニタリングシステムおよび方法並びにプログラムおよび記録媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050914

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060316

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060821

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100908

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110908

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120908

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130908

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees