JP2001292441A - Multi-point information supervisory system and method and recording medium - Google Patents

Multi-point information supervisory system and method and recording medium

Info

Publication number
JP2001292441A
JP2001292441A JP2000105947A JP2000105947A JP2001292441A JP 2001292441 A JP2001292441 A JP 2001292441A JP 2000105947 A JP2000105947 A JP 2000105947A JP 2000105947 A JP2000105947 A JP 2000105947A JP 2001292441 A JP2001292441 A JP 2001292441A
Authority
JP
Japan
Prior art keywords
information
computer
image information
person
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000105947A
Other languages
Japanese (ja)
Other versions
JP3607566B2 (en
Inventor
Kouichi Katou
晃市 加藤
Shinichi Meguro
眞一 目黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2000105947A priority Critical patent/JP3607566B2/en
Publication of JP2001292441A publication Critical patent/JP2001292441A/en
Application granted granted Critical
Publication of JP3607566B2 publication Critical patent/JP3607566B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a multi-point information supervisory system that can reduce temporal and man-hour costs with respect to a supervisory job and a human error, decrease a time required for detection processing from image information and simply provide a wide range of supervisory area by the use of an existing network. SOLUTION: An operation computer, an information storage computer and a characteristic analysis computer are interconnected via a network to send/ receive information mutually. A camera system for the information storage computer is provided in the vicinity of the control computer and the characteristic analysis computer acquires image information of a user and information of a person identifier and stores them to a database. When the system receives a search request of a specific person, the characteristic analysis computer calculates a correlation value between the image information stored in the database and the image information of the camera system and informs the user about the image information with a high correlation. Furthermore, the system raises a warning on intrusion of a person other than the specific person.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は主に人物を監視する
装置に利用する。本発明は、1)入力端末等を操作する
人物の情報を取得する、2)指定された人物の居場所を
探索する、3)指定された人物以外の人物の存在を検出
する、といったことに利用する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention is mainly used for an apparatus for monitoring a person. The present invention is used for 1) acquiring information of a person operating an input terminal or the like, 2) searching for a location of a designated person, 3) detecting the presence of a person other than the designated person. I do.

【0002】[0002]

【従来の技術】近年のCCDカメラの高性能、低価格化
に伴い、カメラ装置を用いた監視装置が急速に普及して
いる。また、インターネット等を介した情報流通基盤の
拡充によって、遠隔地の情報を低コストで取得可能とな
り、ネットワークを利用した遠隔地からの監視技術への
ニーズも顕在化している。
2. Description of the Related Art Along with the recent high performance and low price of a CCD camera, a monitoring device using a camera device has rapidly spread. In addition, by expanding the information distribution infrastructure via the Internet and the like, it has become possible to acquire information on remote locations at low cost, and the need for monitoring techniques from remote locations using networks has become apparent.

【0003】現在、複数のカメラ装置とコンピュータ装
置とを組み合せたモニタリングシステムが販売されてお
り、その多くは大容量の記憶装置を備え、カメラ装置か
らの映像をデジタル画像として蓄積する。
At present, a monitoring system combining a plurality of camera devices and a computer device is sold, and most of them are provided with a large-capacity storage device, and accumulate images from the camera device as digital images.

【0004】デジタル画像として蓄積された映像情報は
記録時間および記録場所の情報とともに蓄積されるため
ビデオテープ等の入れ替えを必要とせず、必要な映像情
報を検索することが可能である。
Since the video information stored as a digital image is stored together with the information on the recording time and the recording location, it is possible to search for the required video information without replacing the video tape or the like.

【0005】[0005]

【発明が解決しようとする課題】しかし、記録された映
像情報には、時間および記録場所の情報しか付加されて
いないため、まず必要な映像情報に関する時間および取
得場所より映像を選択し、その後目視確認にて必要な個
所を検索するという作業が必要である。
However, since only the time and recording location information is added to the recorded video information, the video is first selected from the time and the acquisition location related to the required video information and then visually checked. It is necessary to search for necessary places by confirmation.

【0006】また、不審者監視のように取得時間および
撮影場所が特定できないような場合には、すべての映像
を目視確認する必要があった。ただし、人物の特定の場
合には、服装色等の類似画像情報より映像検索を行うと
いう方式もあるが、時間および撮影場所が多岐に渡る場
合には、その処理にかかる時間は増大する。
Further, when the acquisition time and the photographing place cannot be specified as in the case of monitoring a suspicious individual, it is necessary to visually check all the images. However, in the case of specifying a person, there is also a method of performing a video search from similar image information such as clothing color. However, when the time and the shooting location are various, the time required for the processing increases.

【0007】このような従来方式の監視システムでは、
目視確認にて必要な個所を検索するという作業が必要で
あるため、時間的および人的コストが増加する。また、
目視作業であるため、見落とし等のヒューマンエラーを
回避困難である。さらに、画像情報からの自動検出を行
う場合には、時間および撮影場所の増大に比例して、処
理時間も増大する。
In such a conventional monitoring system,
Since an operation of searching for a necessary place by visual confirmation is required, time and human costs increase. Also,
Since it is a visual check, it is difficult to avoid human errors such as oversight. Furthermore, when performing automatic detection from image information, the processing time also increases in proportion to the increase in time and shooting location.

【0008】本発明は、このような背景に行われたもの
であって、監視作業に関わる時間的および人的コストお
よびヒューマンエラーを軽減し、画像情報からの検出処
理にかかる時間を削減する多地点情報監視装置および方
法および記録媒体を提供することを目的とする。本発明
は、既存のネットワークを利用して簡単に広範囲な監視
エリアを設けることができる多地点情報監視装置および
方法および記録媒体を提供することを目的とする。
SUMMARY OF THE INVENTION The present invention has been made in view of the above background, and has been developed to reduce the time and human cost and human error involved in monitoring work, and to reduce the time required for detection processing from image information. It is an object of the present invention to provide a point information monitoring device and method, and a recording medium. SUMMARY OF THE INVENTION An object of the present invention is to provide a multipoint information monitoring device and method and a recording medium that can easily provide a wide monitoring area using an existing network.

【0009】[0009]

【課題を解決するための手段】本発明の第一の観点は多
地点情報監視装置であって、本発明の特徴とするところ
は、入力手段と、この入力手段への入力操作の終了を検
出する手段と、表示手段とを備えた操作用計算機と、カ
メラ装置と、このカメラ装置の撮影範囲内の人の有無を
検出するセンサと、このセンサが利用者の存在を検出中
および非検出中の前記カメラ装置により撮影された双方
の画像情報をそれぞれ生成する手段と、これらの画像情
報を前記カメラ装置の設置位置情報および撮影時刻情報
および前記センサの検出情報とともに一時蓄積する手段
とを備えた情報蓄積用計算機と、前記一時蓄積する手段
に蓄積された画像情報にしたがって個人毎の画像情報を
取得する手段と、この画像情報を蓄積するデータベース
と、この画像情報と前記一時蓄積する手段に蓄積されこ
の画像情報とはその撮影時刻情報が異なる画像情報との
相関値を計算する手段とを備えた特徴解析用計算機とを
備え、前記操作用計算機および前記情報蓄積用計算機お
よび前記特徴解析用計算機はネットワークを介して接続
され相互に情報の送受信を行う手段を備えたところにあ
る。
A first aspect of the present invention is a multipoint information monitoring apparatus, which is characterized by detecting input means and detecting the end of an input operation to the input means. Operating device having a means for performing the operation, a display device, a camera device, a sensor for detecting the presence or absence of a person in the photographing range of the camera device, and the sensor detecting and not detecting the presence of the user. Means for respectively generating image information of both images photographed by the camera device, and means for temporarily storing these image information together with installation position information, photographing time information and detection information of the sensor of the camera device. An information storage computer; a unit for obtaining image information for each individual according to the image information stored in the temporary storage unit; a database for storing the image information; Means for calculating a correlation value between the image information stored in the means for temporarily storing the image information and image information whose shooting time information is different from the image information. The computer and the computer for feature analysis are connected via a network and include means for mutually transmitting and receiving information.

【0010】前記操作用計算機および前記情報蓄積用計
算機が複数設けられ、これらの計算機同士が前記ネット
ワークを介して接続され相互に情報の送受信を行う手段
を備えることが望ましい。これにより、広範囲な監視エ
リアを既存のネットワークを利用して簡単に設けること
ができる。
It is desirable that a plurality of the operation computers and the information storage computers are provided, and that these computers are connected via the network and have means for mutually transmitting and receiving information. Thus, a wide monitoring area can be easily provided by using an existing network.

【0011】このように本発明では、各種処理を行う計
算機を蓄積、解析、操作の各カテゴリに分類し、カメラ
装置およびセンサの出力情報および利用者の操作入力を
ネットワークを介して共有し、逐次検出情報を画像情報
と共に付加しておくことで、多地点情報監視に必要な処
理を自動的に行うことができるため、時間的および人的
コストおよびヒューマンエラーを軽減することができ
る。多地点情報監視の主な内容としては、例えば、1)
操作用計算機を操作する人物の情報を取得する、2)指
定された人物の居場所を探索する、3)指定された人物
以外の人物の存在を検出する、といったことが挙げられ
る。
As described above, in the present invention, computers for performing various processes are classified into respective categories of accumulation, analysis, and operation, and output information of the camera device and the sensor and operation input of the user are shared via a network, and the computer is sequentially operated. By adding the detection information together with the image information, the processing required for monitoring the multipoint information can be automatically performed, so that time and human cost and human error can be reduced. The main contents of multipoint information monitoring are, for example, 1)
Information of a person who operates the operation computer is acquired, 2) a location of the designated person is searched, and 3) presence of a person other than the designated person is detected.

【0012】前記操作用計算機は、前記入力操作の終了
を検出する手段の検出結果をこの入力操作を行った利用
者の人物識別子の情報とともに前記特徴解析計算機に通
知する手段を備え、前記カメラ装置は、この利用者をそ
の撮影範囲内に含む位置に設けられ、前記センサは、こ
の利用者の有無を検出できる位置に設けられ、前記個人
毎の画像情報を取得する手段は、前記入力操作の終了を
検出する手段の検出結果にしたがって入力操作終了検出
時刻から所定時間遡った時刻の前記センサが利用者の存
在を検出中および非検出中の前記カメラ装置により撮影
された双方の画像情報を前記一時蓄積する手段から取得
する手段と、取得したこの双方の画像情報の差分情報を
検出する手段と、この差分情報を前記データベースに前
記個人毎の画像情報として前記利用者の人物識別子の情
報とともに蓄積する手段とを備えることが望ましい。
The operation computer includes means for notifying the feature analysis computer of a detection result of the means for detecting the end of the input operation together with information on a person identifier of a user who has performed the input operation, and the camera device Is provided at a position that includes the user within the photographing range, the sensor is provided at a position that can detect the presence or absence of the user, and the unit that acquires image information for each individual is According to the detection result of the means for detecting the end, the sensor detects the presence of the user at a time preceding the input operation end detection time by a predetermined time from the input operation end detection time. A means for obtaining from the means for temporarily storing, a means for detecting difference information between the obtained two pieces of image information, and a means for storing the difference information in the database for each individual image information. It is desirable to provide a means for storing together with information of the person identifier of the user as.

【0013】すなわち、操作用計算機への入力操作の終
了を検出する毎に、その直前までその操作用計算機を利
用していた利用者の画像情報および人物識別子の情報を
取得し、これを個人毎の特徴を示す画像情報としてデー
タベースに蓄積する。このとき、利用者が撮影されてい
る画像情報から利用者が撮影されていない背景だけの画
像情報を差し引くことにより、利用者だけの画像情報を
得ることができる。この利用者だけの画像情報を個人毎
の特徴を示す画像情報としてこの利用者の人物識別子の
情報とともにデータベースに蓄積する。操作用計算機へ
の入力操作の終了検出は、例えば、しばらくの間入力操
作が行われないことによって検出できる。
That is, every time the end of the input operation to the operation computer is detected, the image information and the person identifier information of the user who has used the operation computer until immediately before the end are obtained, and this is obtained for each individual. Is stored in the database as image information indicating the characteristics of At this time, image information of only the user can be obtained by subtracting image information of only the background where the user has not been imaged from image information where the user has been imaged. The image information of the user alone is stored in the database as the image information indicating the characteristics of each individual together with the information of the person identifier of the user. The end detection of the input operation to the operation computer can be detected by, for example, not performing the input operation for a while.

【0014】前記操作用計算機は、前記入力手段を介し
て人物識別子の情報の入力を受付ける手段と、受付けた
人物識別子の情報を前記特徴解析用計算機に通知する手
段とを備え、前記特徴解析用計算機は、当該人物識別子
の情報が通知されたときには、前記センサが人の存在を
検出中および非検出中の前記カメラ装置により撮影され
た双方の画像情報を前記一時蓄積する手段から取得する
手段と、取得したこの双方の画像情報の差分情報を検出
する手段と、この差分情報と前記データベースに蓄積さ
れている前記人物識別子の情報に対応する画像情報との
相関値を前記相関値を計算する手段により計算する手段
と、この計算結果にしたがって閾値より高い相関値が計
算されたときには前記カメラ装置の画像情報を前記表示
手段に表示する手段とを備える構成とすることもでき
る。
The operating computer comprises means for receiving input of information on a person identifier via the input means, and means for notifying the information on the received person identifier to the computer for characteristic analysis. The computer, when the information of the person identifier is notified, a means for acquiring from the means for temporarily storing both image information captured by the camera device while the sensor is detecting and non-detecting the presence of a person. Means for detecting difference information between the acquired two pieces of image information, and means for calculating a correlation value between the difference information and image information corresponding to the information on the person identifier stored in the database. And a means for displaying image information of the camera device on the display means when a correlation value higher than a threshold value is calculated according to the calculation result. It may be configured to include and.

【0015】すなわち、利用者が自分が探索したい人物
の識別子を操作用計算機に入力すると、その人物識別子
の情報が特徴解析用計算機に通知される。この通知を受
け取った特徴解析用計算機では、まず、情報蓄積用計算
機に蓄積されている最新の画像情報を取得する。さら
に、自己のデータベースに蓄積されている通知された人
物識別子の情報に対応する人物の画像情報を抽出する。
情報蓄積用計算機から取得した画像情報と自己のデータ
ベースから抽出した画像情報との相関値を計算し、閾値
よりも高い相関値となった画像情報が存在するときに
は、その画像情報を提供した情報蓄積用計算機のカメラ
装置の画像情報を利用者の操作用計算機に表示する。こ
れにより、利用者は自分が入力した人物識別子の情報に
対応する人物の最新画像情報を得ることができる。
That is, when the user inputs the identifier of the person he / she wants to search into the operation computer, the information of the person identifier is notified to the feature analysis computer. The feature analysis computer that has received this notification first obtains the latest image information stored in the information storage computer. Furthermore, the image information of the person corresponding to the notified information of the person identifier stored in the own database is extracted.
Calculates the correlation value between the image information obtained from the information storage computer and the image information extracted from its own database, and when there is image information having a correlation value higher than the threshold value, stores the image information provided by the image information. The image information of the camera device of the operation computer is displayed on the operation computer of the user. Thereby, the user can obtain the latest image information of the person corresponding to the information of the person identifier input by the user.

【0016】前記特徴解析用計算機は、前記センサが人
の存在を検出中および非検出中の前記カメラ装置により
撮影された双方の画像情報を前記一時蓄積する手段から
取得する手段と、取得したこの双方の画像情報の差分情
報を検出する手段と、この差分情報と前記データベース
に蓄積されているあらかじめ指定された人物の画像情報
との相関値を前記相関値を計算する手段により計算する
手段と、この計算結果にしたがって閾値より低い相関値
が計算されたときには警報を発出するもしくは前記差分
情報を前記表示手段に表示する手段とを備える構成とす
ることもできる。
[0016] The feature analysis computer comprises: means for obtaining from the means for temporarily storing both image information taken by the camera device while the sensor is detecting and not detecting the presence of a person; Means for detecting difference information between the two pieces of image information, and means for calculating a correlation value between the difference information and image information of a previously designated person stored in the database by means for calculating the correlation value, When a correlation value lower than the threshold value is calculated according to the calculation result, an alarm may be issued or the difference information may be displayed on the display means.

【0017】すなわち、これは利用者が指定した人物以
外の人物が探索された場合には警報を発出するまたはそ
の人物を特定するための構成であり、利用者はあらかじ
め操作用計算機等から入力を行い、特徴解析用計算機に
特定の人物を指定しておく。特徴解析用計算機では、指
定された人物に対応する画像情報を自己のデータベース
から抽出し、この画像情報と情報蓄積用計算機から取得
した画像情報との相関値を計算する。このとき、閾値よ
りも低い相関値が計算されたときには、指定された人物
以外の人物の画像情報が検出されたことになるので警報
を発出する。これは不審者を探索するために用いること
ができる。
That is, when a person other than the person designated by the user is searched, a warning is issued or the person is specified. The user inputs an input from an operation computer or the like in advance. Then, a specific person is designated in the computer for feature analysis. The feature analysis computer extracts image information corresponding to the designated person from its own database, and calculates a correlation value between the image information and the image information acquired from the information storage computer. At this time, when a correlation value lower than the threshold value is calculated, an alarm is issued because image information of a person other than the designated person has been detected. This can be used to search for suspicious individuals.

【0018】警報を発出する代わりに、指定された人物
以外の人物の画像情報を前記表示手段に配信し、表示す
ることもできる。また、警報または画像情報を配信する
操作用計算機は、利用者が任意に設定することができ
る。
Instead of issuing an alarm, image information of a person other than the designated person can be distributed to the display means and displayed. Further, the operation computer for distributing an alarm or image information can be arbitrarily set by the user.

【0019】他の利用形態として、利用者が操作用計算
機から直接、情報蓄積用計算機に指示を与え、任意の画
像情報を得ることもできる。
As another mode of use, a user can directly give an instruction to the information storage computer from the operation computer to obtain arbitrary image information.

【0020】本発明の第二の観点は、本発明の多地点情
報監視装置に設けられた操作用計算機である。また、本
発明の第三の観点は、本発明の多地点情報監視装置に設
けられた情報蓄積用計算機である。また、本発明の第四
の観点は、本発明の多地点情報監視装置に設けられた特
徴解析用計算機である。
A second aspect of the present invention is an operation computer provided in the multipoint information monitoring device of the present invention. A third aspect of the present invention is an information storage computer provided in the multipoint information monitoring device of the present invention. A fourth aspect of the present invention is a feature analysis computer provided in the multipoint information monitoring device of the present invention.

【0021】本発明の第五の観点は、所定のハードウェ
アと、このハードウェアにインストールされた所定の基
本ソフトウェアとを備えたコンピュータ装置に、さらに
インストールすることによりそのコンピュータ装置を本
発明の操作用計算機に相応する装置とするソフトウェア
が記録された機械読取可能な記録媒体である。
According to a fifth aspect of the present invention, a computer device having predetermined hardware and predetermined basic software installed on the hardware is further installed on the computer device to operate the computer device according to the present invention. It is a machine-readable recording medium in which software is recorded as a device corresponding to a computer for use.

【0022】本発明の第六の観点は、所定のハードウェ
アと、このハードウェアにインストールされた所定の基
本ソフトウェアとを備えたコンピュータ装置に、さらに
インストールすることによりそのコンピュータ装置を本
発明の情報蓄積用計算機に相応する装置とするソフトウ
ェアが記録された機械読取可能な記録媒体である。
According to a sixth aspect of the present invention, a computer device having predetermined hardware and predetermined basic software installed on the hardware is further installed on the computer device so that the computer device according to the present invention can be used. This is a machine-readable recording medium in which software is recorded as a device corresponding to the storage computer.

【0023】本発明の第七の観点は、所定のハードウェ
アと、このハードウェアにインストールされた所定の基
本ソフトウェアとを備えたコンピュータ装置に、さらに
インストールすることによりそのコンピュータ装置を本
発明の特徴解析用計算機に相応する装置とするソフトウ
ェアが記録された機械読取可能な記録媒体である。
According to a seventh aspect of the present invention, a computer device having predetermined hardware and predetermined basic software installed on the hardware is further installed on the computer device to thereby provide the computer device with the features of the present invention. This is a machine-readable recording medium on which software, which is a device corresponding to an analysis computer, is recorded.

【0024】本発明の第八の観点は多地点情報監視方法
であって、本発明の特徴とするところは、利用者の操作
用計算機に対する入力操作の終了を検出してその検出結
果およびこの利用者の人物識別子の情報を特徴解析用計
算機に通知し、特徴解析用計算機は、この検出結果にし
たがって入力操作終了検出時刻から所定時間遡った時刻
の前記利用者をその撮影範囲内に含むカメラ装置により
撮影された前記利用者が写っている画像情報と前記利用
者が写っていない背景の画像情報とを取得し、取得した
この双方の画像情報の差分情報を検出し、この差分情報
をデータベースに個人毎の特徴を示す情報として前記利
用者の人物識別子の情報とともに蓄積するところにあ
る。
An eighth aspect of the present invention is a multipoint information monitoring method, which is characterized by detecting the end of an input operation performed by a user on an operation computer, detecting the end of the input operation, and using the result. A camera device that notifies the feature analysis computer of the information of the person identifier of the user, and the feature analysis computer includes the user within the shooting range at a time that is a predetermined time before the input operation end detection time according to the detection result. Image information in which the user is captured and image information of a background in which the user is not captured, and detects difference information between the obtained two pieces of image information, and stores the difference information in a database. The information is stored together with information on the user's personal identifier as information indicating characteristics of each individual.

【0025】あるいは、利用者は操作用計算機に人物識
別子の情報を入力し、この操作用計算機は、入力された
人物識別子の情報を特徴解析用計算機に通知し、この特
徴解析用計算機は、この通知を受け取ると、カメラ装置
により撮影されたその撮影範囲内に人が存在する画像情
報と人が存在しない画像情報の双方の画像情報を取得
し、取得したこの双方の画像情報の差分情報を検出し、
この差分情報とデータベースに蓄積されている前記人物
識別子の情報に対応する人物の画像情報との相関値を計
算し、この計算結果にしたがって閾値より高い相関値が
計算されたときには前記カメラ装置の画像情報を前記操
作用計算機の表示手段に表示させるところにある。
Alternatively, the user inputs the information of the person identifier to the operation computer, and the operation computer notifies the input information of the person identifier to the feature analysis computer. Upon receiving the notification, obtains image information of both image information of a person existing in the shooting range captured by the camera device and image information of no human being, and detects difference information between the obtained image information of the two. And
A correlation value between the difference information and the image information of the person corresponding to the information of the person identifier stored in the database is calculated. When a correlation value higher than a threshold is calculated according to the calculation result, the image of the camera device is calculated. The information is to be displayed on the display means of the operation computer.

【0026】あるいは、特徴解析用計算機は、カメラ装
置からその撮影範囲内に人が存在する画像情報と人が存
在しない画像情報の双方の画像情報を取得し、取得した
この双方の画像情報の差分情報を検出し、この差分情報
と前記データベースに蓄積されているあらかじめ指定さ
れた人物の画像情報との相関値を計算し、この計算結果
にしたがって閾値より低い相関値が検出されたときには
警報を発出するもしくは前記差分情報を表示するところ
にある。
Alternatively, the computer for characteristic analysis acquires from the camera device both the image information of the image information in which the person exists in the photographing range and the image information of the image in which the person does not exist, and calculates the difference between the acquired image information. Detects information, calculates a correlation value between the difference information and image information of a predetermined person stored in the database, and issues an alarm when a correlation value lower than a threshold is detected according to the calculation result. Or displaying the difference information.

【0027】このように、本発明によれば、監視作業に
関わる時間的および人的コストおよびヒューマンエラー
を軽減し、画像情報からの検出処理にかかる時間を削減
することができる。また、既存のネットワークを利用し
て簡単に広範囲な監視エリアを設けることができる。
As described above, according to the present invention, it is possible to reduce time and human costs and human errors involved in monitoring work, and to reduce the time required for detection processing from image information. Further, a wide monitoring area can be easily provided by using an existing network.

【0028】[0028]

【発明の実施の形態】本発明実施例の多地点情報監視装
置の構成を図1ないし図4を参照して説明する。図1は
多地点情報監視装置の全体構成図である。図2は操作用
計算機の要部ブロック構成図である。図3は情報蓄積用
計算機の要部ブロック構成図である。図4は特徴解析用
計算機の要部ブロック構成図である。
DESCRIPTION OF THE PREFERRED EMBODIMENTS The configuration of a multipoint information monitoring apparatus according to an embodiment of the present invention will be described with reference to FIGS. FIG. 1 is an overall configuration diagram of the multipoint information monitoring device. FIG. 2 is a block diagram of a main part of the operation computer. FIG. 3 is a block diagram of a main part of the information storage computer. FIG. 4 is a block diagram of a main part of the computer for feature analysis.

【0029】本発明は多地点情報監視装置であって、本
発明の特徴とするところは、図2に示すように、入力部
1と、この入力部1への入力操作の終了を検出するスク
リーンセーバアプリケーション部2と、表示部3とを備
えた操作用計算機30と、図3に示すように、カメラ装
置4と、このカメラ装置4の撮影範囲内の人の有無を検
出するセンサ5と、このセンサ5が利用者の存在を検出
中および非検出中のカメラ装置4により撮影された双方
の画像情報をそれぞれ生成する観測情報取得部6および
背景画像生成部7と、これらの画像情報をカメラ装置4
の設置位置情報および撮影時刻情報およびセンサ5の検
出情報とともに一時蓄積する情報蓄積部8とを備えた情
報蓄積用計算機40と、図4に示すように、情報蓄積部
8に蓄積された画像情報にしたがって個人毎の画像情報
を取得する特徴量取得アプリケーション部9と、この画
像情報を蓄積するデータベースである個人特徴蓄積部1
0と、この画像情報と情報蓄積部8に蓄積されこの画像
情報とはその撮影時刻情報が異なる画像情報との相関値
を計算する相関値計算部11とを備えた特徴解析用計算
機50とを備え、操作用計算機30および情報蓄積用計
算機40および特徴解析用計算機50はネットワーク6
0を介して接続され相互に情報の送受信を行う情報送受
信部12および蓄積情報配信部13および特徴解析送受
信部14を備えたところにある。
The present invention relates to a multipoint information monitoring apparatus, which is characterized by an input unit 1 and a screen saver for detecting the end of an input operation to the input unit 1 as shown in FIG. An operation computer 30 including an application unit 2 and a display unit 3, a camera device 4 as shown in FIG. 3, a sensor 5 for detecting the presence or absence of a person within a shooting range of the camera device 4, and An observation information acquisition unit 6 and a background image generation unit 7 that respectively generate image information of both images captured by the camera device 4 while the sensor 5 is detecting and not detecting the presence of the user; 4
An information storage computer 40 including an information storage unit 8 for temporarily storing the installation position information, the photographing time information, and the detection information of the sensor 5, and the image information stored in the information storage unit 8 as shown in FIG. A feature amount acquisition application unit 9 for acquiring image information for each individual according to the above, and a personal feature accumulation unit 1 which is a database for accumulating the image information
0 and a feature analysis computer 50 having a correlation value calculation unit 11 for calculating a correlation value between the image information and image information stored in the information storage unit 8 and having different shooting time information. The operation computer 30, the information storage computer 40, and the feature analysis computer 50 are connected to the network 6
The information transmission / reception unit 12, the stored information distribution unit 13, and the feature analysis transmission / reception unit 14, which are connected to each other via the H.0 and mutually transmit and receive information, are provided.

【0030】また、図1に示すように、操作用計算機3
0および情報蓄積用計算機40が複数設けられ、これら
の計算機同士がネットワーク60を介して接続され相互
に情報送受信部12および蓄積情報配信部13により情
報の送受信を行う。特徴解析用計算機50もこれら複数
の操作用計算機30および情報蓄積用計算機40と特徴
解析送受信部14により相互に情報の送受信を行う。
Further, as shown in FIG.
0 and a plurality of information storage computers 40 are provided. These computers are connected to each other via a network 60, and the information transmission / reception unit 12 and the stored information distribution unit 13 mutually transmit and receive information. The feature analysis computer 50 also transmits and receives information to and from each other by the plurality of operation computers 30 and information storage computers 40 and the feature analysis transmission / reception unit 14.

【0031】本発明実施例の多地点情報監視装置を指定
人物検索システムを例としてさらに詳細に説明する。セ
ンサ5およびカメラ装置4は情報蓄積用計算機40に接
続され、情報蓄積用計算機40、特徴解析用計算機50
および操作用計算機30はネットワーク60を介して接
続されているものとする。操作用計算機30はネットワ
ーククライアントとして動作するためのソフトウェアが
インストールされている。情報蓄積用計算機40および
特徴解析用計算機50にはネットワークサーバ用ソフト
ウェアがインストールされている。
The multipoint information monitoring apparatus according to the embodiment of the present invention will be described in more detail by taking a designated person search system as an example. The sensor 5 and the camera device 4 are connected to the information storage computer 40, and the information storage computer 40, the feature analysis computer 50
The operation computer 30 is connected via a network 60. The operation computer 30 has installed therein software for operating as a network client. Network server software is installed in the information storage computer 40 and the feature analysis computer 50.

【0032】図2に操作用計算機30の概略図を示す。
操作用計算機30はスクリーンセーバアプリケーション
部2、人物探索クライアントアプリケーション部15、
情報送受信部12、ネットワークインタフェース部16
を含む。外部には、入力部1および表示部3を備える。
スクリーンセーバアプリケーション部2は、入力部1に
対して一定時間入力がなかった場合に起動し、利用者の
最終入力時刻、利用者ID、操作用計算機位置情報をネ
ットワークインタフェース部16を介して情報送受信部
12により送信する。
FIG. 2 is a schematic diagram of the operation computer 30.
The operation computer 30 includes a screen saver application unit 2, a person search client application unit 15,
Information transmitting / receiving unit 12, network interface unit 16
including. An input unit 1 and a display unit 3 are provided outside.
The screen saver application unit 2 starts when there is no input to the input unit 1 for a certain period of time, and transmits the user's last input time, user ID, and operation computer position information via the network interface unit 16 to the information transmitting / receiving unit. 12 is transmitted.

【0033】人物探索クライアントアプリケーション部
15は入力部1に対し、マニュアル操作で人物識別子
(以下、人物IDという)の情報の入力があった場合に
その人物IDの情報をネットワークインタフェース部1
6を介して情報送受信部12により送信する。
When the information of a person identifier (hereinafter, referred to as a person ID) is input to the input unit 1 by manual operation, the person search client application unit 15 transmits the information of the person ID to the network interface unit 1.
6 and transmitted by the information transmitting / receiving unit 12.

【0034】図3に情報蓄積用計算機40の概略図を示
す。情報蓄積用計算機40は観測情報取得部6、情報蓄
積部8、背景画像生成部7、蓄積情報配信部13、ネッ
トワークインタフェース部16を含む。外部に、カメラ
装置4およびセンサ5を備える。カメラ装置4により撮
影された画像情報は、観測情報取得部6を介して情報蓄
積部8に蓄積される。このとき、センサ5およびカメラ
装置4の設置位置情報および撮影時刻情報およびセンサ
5の検出情報を蓄積される画像情報に付加する。センサ
5は赤外線感知センサあるいは超音波センサとし、カメ
ラ装置4による撮影範囲内における人物の有無を検出
し、その検出結果および検出時刻を検出情報として画像
情報に付加する。
FIG. 3 is a schematic diagram of the information storage computer 40. The information storage computer 40 includes an observation information acquisition unit 6, an information storage unit 8, a background image generation unit 7, a storage information distribution unit 13, and a network interface unit 16. A camera device 4 and a sensor 5 are provided outside. Image information captured by the camera device 4 is stored in the information storage unit 8 via the observation information acquisition unit 6. At this time, the installation position information and the photographing time information of the sensor 5 and the camera device 4 and the detection information of the sensor 5 are added to the stored image information. The sensor 5 is an infrared sensor or an ultrasonic sensor, detects the presence or absence of a person in the photographing range of the camera device 4, and adds the detection result and detection time to the image information as detection information.

【0035】背景画像生成部7では情報蓄積部8に蓄積
されたセンサの検出情報およびカメラ装置の画像情報よ
り、人物が画面中に存在しなかった時刻の画像を逐次抽
出し、その時刻の背景画像として情報蓄積部8に蓄積す
る。情報蓄積部8に蓄積された画像情報は、ネットワー
クインタフェース部16を介して蓄積情報配信部13に
よりネットワーク60経由にて配信される。
The background image generation unit 7 sequentially extracts images at a time when a person was not present on the screen from the detection information of the sensor and the image information of the camera device stored in the information storage unit 8, and the background at that time. The information is stored in the information storage unit 8 as an image. The image information stored in the information storage unit 8 is distributed via the network 60 by the stored information distribution unit 13 via the network interface unit 16.

【0036】図4に特徴解析用計算機50の概略図を示
す。特徴解析用計算機50は個人特徴蓄積部10、デー
タベース管理部17、人物探索サーバアプリケーション
部18、特徴量取得アプリケーション部9、特徴解析送
受信部14、ネットワークインタフェース部16を含
む。特徴量取得アプリケーション部9は、操作用計算機
30のスクリーンセーバアプリケーション部2からの人
物IDの情報を受信すると、指定された個人の特徴を情
報蓄積用計算機40より取得し、個人特徴蓄積部10へ
蓄積する。人物探索サーバアプリケーション部18は、
操作用計算機30の人物探索クライアントアプリケーシ
ョン部15からの人物IDの情報を受信すると、データ
ベース管理部17を介して指定された人物IDの特徴を
個人特徴蓄積部10より検索する。
FIG. 4 shows a schematic diagram of the computer 50 for characteristic analysis. The feature analysis computer 50 includes a personal feature storage unit 10, a database management unit 17, a person search server application unit 18, a feature amount acquisition application unit 9, a feature analysis transmission / reception unit 14, and a network interface unit 16. When receiving the information of the person ID from the screen saver application unit 2 of the operation computer 30, the feature amount obtaining application unit 9 obtains the characteristics of the designated individual from the information storage computer 40 and stores it in the personal characteristic storage unit 10. I do. The person search server application unit 18
When the information of the person ID is received from the person search client application unit 15 of the operation computer 30, the feature of the designated person ID is searched from the personal feature storage unit 10 via the database management unit 17.

【0037】さらに、ネットワークインタフェース部1
6を介して各情報蓄積用計算機40より現在の画像情報
を取得し、先の特徴と一致する画像情報を検索する。検
索結果はネットワークインタフェース部16を介して操
作用計算機30に返信される。
Further, the network interface unit 1
6, the current image information is obtained from each information storage computer 40, and the image information that matches the previous feature is searched. The search result is returned to the operation computer 30 via the network interface unit 16.

【0038】次に、本発明実施例の多地点情報監視装置
の動作を図5ないし図8を参照して説明する。まず、ス
クリーンセーバアプリケーション部2および特徴量取得
アプリケーション部9により個人特徴を取得し、蓄積を
行う処理のシーケンスを図5を参照して説明する。操作
用計算機30がスクリーンセーバとして動作し、その動
作時刻およびスクリーンセーバ起動設定時刻より、利用
者が最終入力を行った時刻を算出し、時刻、操作用計算
機設置場所、利用者の人物IDの情報を特徴解析用計算
機50へ配信する。ここで、操作用計算機設置場所、人
物IDの情報は、あらかじめ操作用計算機30上にて設
定されているものとする[時刻、場所、ID配信]。特
徴解析用計算機50の特徴量取得アプリケーション部9
では、時刻、操作用計算機設置場所、人物IDの情報を
受信し、この操作用計算機を受け持つ情報蓄積用計算機
40に、指定時刻の画像情報をリクエストする[指定時
刻画像リクエスト]。情報蓄積用計算機40は特徴解析
用計算機50に対し、指定時刻の画像情報を配信する
[指定時刻画像を受信]。操作用計算機設置場所近接の
情報蓄積用計算機40に、指定時刻の背景画像をリクエ
ストする[指定時刻背景画像リクエスト]。情報蓄積用
計算機40は特徴解析用計算機50に対し、指定時刻の
背景画像を配信する[指定時刻背景画像を受信]。特徴
解析用計算機50の背景差分画像生成部19では、取得
した画像データより、利用者が存在した場合の画像情報
「観測画像」と利用者が存在していなかった時間の画像
情報「背景画像」の差分を計算し、利用者の画像中での
存在領域を特定する。この差分処理の概念を図6に示
す。
Next, the operation of the multipoint information monitoring apparatus according to the embodiment of the present invention will be described with reference to FIGS. First, a sequence of processing for acquiring and storing personal characteristics by the screen saver application unit 2 and the characteristic amount acquisition application unit 9 will be described with reference to FIG. The operation computer 30 operates as a screen saver, calculates the time at which the user made the final input from the operation time and the screen saver activation set time, and features information on the time, the operation computer installation location, and the user ID of the user. It is distributed to the analysis computer 50. Here, it is assumed that the information on the operation computer installation location and the person ID is set in advance on the operation computer 30 [time, place, ID distribution]. Feature amount acquisition application section 9 of feature analysis computer 50
Then, the information of the time, the installation location of the operation computer, and the person ID are received, and the image information of the specified time is requested to the information storage computer 40 which is in charge of the operation computer [designated time image request]. The information storage computer 40 distributes the image information at the specified time to the feature analysis computer 50 [receiving the specified time image]. A request for a background image at a specified time is made to the information storage computer 40 near the operation computer installation location [designated time background image request]. The information storage computer 40 distributes the background image at the specified time to the feature analysis computer 50 [receives the specified time background image]. In the background difference image generation unit 19 of the feature analysis computer 50, based on the acquired image data, the image information “observed image” when the user is present and the image information “background image” at the time when the user is not present are obtained. Is calculated, and the existence area in the image of the user is specified. FIG. 6 shows the concept of this difference processing.

【0039】差分処理は、観測画像をAij、観測画像
の座標(i,j)における赤色成分の値をarij、観
測画像の座標(i,j)における緑色成分の値をagi
j、観測画像の座標(i,j)における青色成分の値を
abij、背景画像をHij、背景画像の座標(i,
j)における赤色成分の値をhrij、背景画像の座標
(i,j)における緑色成分の値をhgij、背景画像
の座標(i,j)における青色成分の値をhbij、人
物領域画像をRij、人物領域画像の座標(i,j)に
おける赤色成分の値をrrij、人物領域画像の座標
(i,j)における緑色成分の値をrgij、人物領域
画像の座標(i,j)における青色成分の値をrbi
j、画像のX座標値をi、Y座標値をj、領域決定閾値
をthとして、以下の演算によって行う[背景差分処
理]。
In the difference processing, the observed image is Aij, the value of the red component at the coordinates (i, j) of the observed image is arid, and the value of the green component at the coordinates (i, j) of the observed image is agi.
j, the value of the blue component at the coordinates (i, j) of the observed image is abij, the background image is Hij, and the coordinates of the background image are (i, j).
h) is the value of the red component in j), hgij is the value of the green component at coordinates (i, j) of the background image, hbij is the value of the blue component at coordinates (i, j) of the background image, and Rij is the person region image. The value of the red component at the coordinates (i, j) of the person region image is rrij, the value of the green component at the coordinates (i, j) of the person region image is rgij, and the value of the blue component at the coordinates (i, j) of the person region image is Value rbi
j, the X coordinate value of the image is i, the Y coordinate value is j, and the area determination threshold value is th.

【0040】[0040]

【数1】 この差分処理により、背景画像との差がth以上の場
合、観測画像がコピーされ、それ以外の場合は、−1が
代入された画像が生成される。
(Equation 1) As a result of this difference processing, if the difference from the background image is equal to or greater than th, the observed image is copied. Otherwise, an image to which −1 is substituted is generated.

【0041】人物領域をRijに対し以下の演算によ
り、カラーヒストグラム生成部20では、色ヒストグラ
ムを算出する[色ヒストグラム検出]。ここで色ヒスト
グラムの格納変数をhn、色ヒストグラムの要素番号を
n、色成分のとりうる最大値をcmaxとし、hnに
は、初期値として0が代入されているものとする。
The color histogram generation section 20 calculates a color histogram by performing the following operation on the person region Rij [color histogram detection]. Here, it is assumed that the storage variable of the color histogram is hn, the element number of the color histogram is n, the maximum possible value of the color component is cmax, and 0 is substituted into hn as an initial value.

【0042】[0042]

【数2】 この計算式により、人物領域内各画素における赤色成
分、青色成分、緑色成分の色比率によって、nが一意に
決定され、その色に対する頻度値格納変数であるhnは
1加算される。これは、例えば、赤色成分、青色成分、
緑色成分がそれぞれ10階調(cmax=10)とする
と、nは、その最大値が10×10×10=1000で
あるので1〜1000の範囲の番号となり、頻度値格納
変数hnは、h1〜h1000の1000個が用意され
る。そして、人物領域内の各画素は、赤色成分、青色成
分、緑色成分の色比率によって1〜1000の内の1つ
の番号が割り当てられ、その番号に対応した頻度値格納
変数hnに1加算されることになる。また、Rij=−
1のときは人物領域以外の画素であるので対象外とし
て、頻度値格納変数hnは変わらない。よって人物領域
内をすべて走査し、この演算を行えば、人物領域内の各
色比率に対する領域内頻度分布(ヒストグラム)がhn
の各配列の各値として得ることができる。
(Equation 2) According to this formula, n is uniquely determined by the color ratio of the red component, the blue component, and the green component in each pixel in the person area, and hn, which is a frequency value storage variable for that color, is incremented by one. This includes, for example, a red component, a blue component,
Assuming that each green component has 10 gradations (cmax = 10), n is a number in the range of 1 to 1000 because its maximum value is 10 × 10 × 10 = 1000, and the frequency value storage variable hn is h1 to h1. h1000 are prepared. Then, each pixel in the person area is assigned one number from 1 to 1000 according to the color ratio of the red component, the blue component, and the green component, and 1 is added to the frequency value storage variable hn corresponding to the number. Will be. Also, R ij = −
When the value is 1, it is a pixel other than the person area, so that it is not targeted and the frequency value storage variable hn does not change. Therefore, if the whole of the person area is scanned and this calculation is performed, the frequency distribution (histogram) in the area for each color ratio in the person area is hn.
Can be obtained as each value of each array.

【0043】この色ヒストグラム検出処理により、人物
領域画像の色頻度がhnの各々に代人される。hnを特
徴データとして、利用者のID情報と関連付け個人特徴
蓄積部10へ保存する[個人特徴蓄積部へ保存]。
By this color histogram detection processing, the color frequency of the person area image is substituted for each of hn. hn is stored in the personal characteristic storage unit 10 in association with the user ID information as the characteristic data [save to the personal characteristic storage unit].

【0044】次に、人物探索クライアントアプリケーシ
ョン部15、人物探索サーバアプリケーション部9にて
人物IDの情報より特定対象者の探索を行う処理のシー
ケンスを図7を参照して説明する。操作用計算機30の
人物探索クライアントアプリケーション部15に対し、
利用者は入力部1を介して探索対象者の人物IDの情報
を入力して配信する[人物ID指定]。特徴解析用計算
機50の人物探索サーバアプリケーション部18では人
物IDの情報を受信し、人物IDの情報に一致する特徴
データをデータベース管理部17を介して個人特徴蓄積
部10よりロードする。ロードしたヒストグラムデータ
は、特徴解析用計算機50の一次記憶領域にh0nとし
て格納する[特徴ファイル選択、ロード]。特徴解析用
計算機50より全ての情報蓄積用計算機40に、最新時
刻の画像をリクエストする[最新時刻画像リクエス
ト]。全ての情報蓄積用計算機40は特徴解析用計算機
50に対し、最新時刻の画像情報を配信する[最新時刻
画像を受信]。特徴解析用計算機50より全ての情報蓄
積用計算機40に、最新時刻の背景画像をリクエストす
る[最新時刻背景画像リクエスト]。全ての情報蓄積用
計算機40は特徴解析用計算機50に対し、最新時刻の
背景画像を配信する[最新時刻背景画像を受信]。背景
差分画像生成部19では、取得した全画像情報より人物
が存在した時間の画像情報「観測画像」と人物が存在し
ていなかった時間の画像情報「背景画像」の差分を計算
し、人物の画像中での存在領域を特定する[背景差分処
理]。 [数1]この差分処理により、背景画像との差がth以
上の場合には観測画像がコピーされ、それ以外の場合に
は−1が代入された画像が生成される。
Next, the sequence of processing for searching for a specific target person from the information of the person ID in the person search client application unit 15 and the person search server application unit 9 will be described with reference to FIG. For the person search client application unit 15 of the operation computer 30,
The user inputs and distributes information on the person ID of the search target person via the input unit 1 (person ID designation). The person search server application unit 18 of the feature analysis computer 50 receives the information of the person ID and loads feature data that matches the information of the person ID from the personal feature storage unit 10 via the database management unit 17. The loaded histogram data is stored as h0n in the primary storage area of the feature analysis computer 50 [feature file selection and loading]. The image of the latest time is requested from all the information storage computers 40 from the feature analysis computer 50 [latest time image request]. All the information storage computers 40 deliver the latest time image information to the feature analysis computer 50 [receive the latest time image]. The feature analysis computer 50 requests all information storage computers 40 for the latest time background image [latest time background image request]. All the information storage computers 40 deliver the latest time background image to the feature analysis computer 50 [receive the latest time background image]. The background difference image generation unit 19 calculates the difference between the image information “observed image” at the time when the person was present and the image information “background image” at the time when the person was not present, from all the acquired image information. A background region in the image is specified [background difference processing]. [Equation 1] As a result of this difference processing, the observed image is copied when the difference from the background image is equal to or larger than th, and otherwise, an image substituted with −1 is generated.

【0045】人物領域をRijに対し以下の演算によ
り、カラーヒストグラム生成部20では、色ヒストグラ
ムを算出する[色ヒストグラム検出]。ここで全画像情
報よりi番目に見つかった人物領域のヒストグラムを色
ヒストグラムの格納変数をhniとし、色ヒストグラム
の要素番号をn、色成分のとりうる最大値をcmaxと
する。 [数2]hniおよびh0nの相関値を計算し、最大相
関値をとるhniを求める[相関値計算]。もし、あら
かじめ与えられた閾値以上のhniがあれば、[指定カ
メラ画像リクエスト]処理に進む。もし存在しなけれ
ば、人物探索クライアントアプリケーション部15に探
索不能メッセージを送信する[相関値>閾値]。特徴解
析用計算機50より最大相関値をとった情報蓄積用計算
機40に、最新時刻の画像をリクエストする[指定カメ
ラ画像リクエスト]。その情報蓄積用計算機40は特徴
解析用計算機50に対し、指定時刻の画像情報を配信す
る[指定カメラ画像を受信]。操作用計算機30の人物
探索クライアントアプリケーション部15には、特徴解
析用計算機50から受信した指定カメラ画像が配信され
て表示部3に表示される[画像表示]。以上の方法にし
たがえば、人物IDの情報の指定のみで自動的に所望の
画像情報および特定人物の所在場所の情報を取得するこ
とが可能である。
The color histogram generation unit 20 calculates a color histogram of the person area Rij by the following operation [color histogram detection]. Here, the storage variable of the color histogram is hni, the element number of the color histogram is n, and the maximum value that the color component can take is cmax, the histogram of the i-th person area found from the entire image information. [Equation 2] The correlation value between hni and h0n is calculated, and the hni that takes the maximum correlation value is calculated [correlation value calculation]. If there is an hni equal to or larger than the predetermined threshold, the process proceeds to the [designated camera image request] process. If it does not exist, a search impossible message is transmitted to the person search client application unit 15 [correlation value> threshold]. The feature analysis computer 50 requests the image of the latest time from the information storage computer 40 having the maximum correlation value [designated camera image request]. The information storage computer 40 distributes the image information at the specified time to the feature analysis computer 50 [receives the specified camera image]. The designated camera image received from the feature analysis computer 50 is distributed to the person search client application unit 15 of the operation computer 30 and displayed on the display unit 3 [image display]. According to the above method, it is possible to automatically obtain desired image information and information on the location of a specific person only by specifying the information of the person ID.

【0046】次に、人物探索クライアントアプリケーシ
ョン部15、人物探索サーバアプリケーション部18に
て不審者の監視を行う処理のシーケンスを図8を参照し
て説明する。特徴解析用計算機50の人物探索サーバア
プリケーション部18では、個人特徴蓄積部10より全
ユーザ特徴データをロードする。ロードしたヒストグラ
ムデータは、hidに格納する[特徴ファイル選択、ロ
ード]。ここで、idは人物IDとする。特徴解析用計
算機50より全ての情報蓄積用計算機40に、最新時刻
の画像情報をリクエストする[最新時刻画像リクエス
ト〕。全ての情報蓄積用計算機40は特徴解析用計算機
50に対し、最新時刻の画像情報を配信する[最新時刻
画像を受信]。特徴解析用計算機50より全ての情報蓄
積用計算機40に、最新時刻の背景画像をリクエストす
る[最新時刻背景画像リクエスト]。全ての情報蓄積用
計算機40は特徴解析用計算機50に対し、最新時刻の
背景画像を配信する[最新時刻背景画像を受信]。背景
差分画像生成部19では、取得した全画像情報より、人
物が存在した時間の画像「観測画像」と人物が存在して
いなかった時間の画像「背景画像」の差分を計算し、人
物の画像中での存在領域を特定する[背景差分処理]。 [数1]この差分処理により背景画像との差がth以上
の場合には、観測画像がコピーされ、それ以外の場合に
は−1が代入された画像が生成される。
Next, the sequence of processing for monitoring a suspicious individual in the person search client application unit 15 and the person search server application unit 18 will be described with reference to FIG. The person search server application unit 18 of the feature analysis computer 50 loads all user feature data from the personal feature storage unit 10. The loaded histogram data is stored in hid [feature file selection and loading]. Here, id is a person ID. The feature analysis computer 50 requests all the information storage computers 40 for the latest time image information [latest time image request]. All the information storage computers 40 deliver the latest time image information to the feature analysis computer 50 [receive the latest time image]. The feature analysis computer 50 requests all information storage computers 40 for the latest time background image [latest time background image request]. All the information storage computers 40 deliver the latest time background image to the feature analysis computer 50 [receive the latest time background image]. The background difference image generation unit 19 calculates a difference between the image “observed image” at the time when the person was present and the image “background image” at the time when the person was not present, from all the acquired image information, and [Background subtraction processing] for specifying an existing area in the interior. [Equation 1] If the difference from the background image is equal to or larger than th by this difference processing, the observed image is copied, and otherwise, an image substituted with −1 is generated.

【0047】人物領域をRijに対し以下の演算によ
り、カラーヒストグラム生成部20では、色ヒストグラ
ムを算出する[色ヒストグラム検出]。ここで全画像よ
りi番目に見つかった人物領域のヒストグラムを色ヒス
トグラムの格納変数をhn1とし、色ヒストグラムの要
素番号をn、色成分のとりうる最大値をcmaxとす
る。 [数2]hniおよびhidのすべての組み合わせで相
関値を計算し、あらかじめ与えられた閾値以下のhni
を求める[相関値計算]。もしあらかじめ与えられた閾
値以下のhniがあれば人物探索クライアントアプリケ
ーション部15に警報メッセージを送信する。もし存在
しなければ他の情報蓄積用計算機40に対する画像リク
エストヘ戻り、同一の処理を繰り返す[相関値>閾
値]。以上の方法にしたがえば指定人物以外の侵入を検
出し利用者に対し警告を発することが可能である。
The color histogram generation unit 20 calculates the color histogram of the person area Rij by the following operation [color histogram detection]. Here, the storage variable of the color histogram is hn1, the element number of the color histogram is n, and the maximum possible value of the color component is cmax. [Equation 2] Correlation values are calculated for all combinations of hni and hid, and hni less than or equal to a predetermined threshold value are calculated.
[Correlation value calculation]. If there is an hni equal to or smaller than a predetermined threshold, an alarm message is transmitted to the person search client application unit 15. If not, the process returns to the image request for the other information storage computer 40, and the same process is repeated [correlation value> threshold]. According to the above method, it is possible to detect an intrusion of a person other than the designated person and issue a warning to the user.

【0048】なお、あらかじめ警報の発出の対象から除
外されるべき社員等の人物の画像情報および人物IDの
情報は、利用者が操作用計算機30の入力部1から入力
する。また、警報が表示される操作用計算機30は、任
意に利用者が設定することができる。この場合の操作用
計算機30の数は一つであっても複数であってもよい。
あるいは、利用者は、警報を受け取るのではなく、不審
者の画像情報を得るように設定することもできる。
The user inputs the image information of the person such as an employee and the information of the person ID to be excluded from the target of the alarm in advance from the input unit 1 of the operation computer 30. Further, the operation computer 30 on which the alarm is displayed can be arbitrarily set by the user. In this case, the number of operation computers 30 may be one or plural.
Alternatively, the user can set so as to obtain image information of a suspicious individual instead of receiving an alarm.

【0049】その他の使用例として、利用者は、操作用
計算機30から直接に情報蓄積用計算機40に指示を与
え、任意のカメラ装置4からの画像情報を得ることもで
きる。
As another example of use, the user can directly give an instruction to the information storage computer 40 from the operation computer 30 to obtain image information from an arbitrary camera device 4.

【0050】[0050]

【発明の効果】以上説明したように、本発明によれば、
監視作業に関わる時間的および人的コストおよびヒュー
マンエラーを軽減し、画像情報からの検出処理にかかる
時間を削減することができる。また、既存のネットワー
クを利用して簡単に広範囲な監視エリアを設けることが
できる。
As described above, according to the present invention,
It is possible to reduce the time and human costs and human error involved in the monitoring operation, and to reduce the time required for the detection process from the image information. Further, a wide monitoring area can be easily provided by using an existing network.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明実施例の多地点情報監視装置の全体構成
図。
FIG. 1 is an overall configuration diagram of a multipoint information monitoring device according to an embodiment of the present invention.

【図2】本発明実施例の操作用計算機の要部ブロック構
成図。
FIG. 2 is a block diagram of a main part of an operation computer according to the embodiment of the present invention.

【図3】本発明実施例の情報蓄積用計算機の要部ブロッ
ク構成図。
FIG. 3 is a block diagram of a main part of an information storage computer according to the embodiment of the present invention.

【図4】本発明実施例の特徴解析用計算機の要部ブロッ
ク構成図。
FIG. 4 is a block diagram of a main part of a feature analysis computer according to the embodiment of the present invention.

【図5】本発明実施例の特徴量保存動作を示すフローチ
ャート。
FIG. 5 is a flowchart showing a feature amount storing operation according to the embodiment of the present invention.

【図6】差分処理の概念図。FIG. 6 is a conceptual diagram of a difference process.

【図7】本発明実施例の人物探査動作を示すフローチャ
ート。
FIG. 7 is a flowchart illustrating a person search operation according to the embodiment of the present invention.

【図8】本発明実施例の不審者探索動作を示すフローチ
ャート。
FIG. 8 is a flowchart showing a suspicious person search operation according to the embodiment of the present invention.

【符号の説明】[Explanation of symbols]

1 入力部 2 スクリーンセーバアプリケーション部 3 表示部 4 カメラ装置 5 センサ 6 観測情報取得部 7 背景画像生成部 8 情報蓄積部 9 特徴量取得アプリケーション部 10 個人特徴蓄積部 11 相関値計算部 12 情報送受信部 13 蓄積情報配信部 14 特徴解析送受信部 15 人物探索クライアントアプリケーション部 16 ネットワークインタフェース部 17 データベース管理部 18 人物探索サーバアプリケーション部 19 背景差分画像生成部 20 カラーヒストグラム生成部 30 操作用計算機 40 情報蓄積用計算機 50 特徴解析用計算機 60 ネットワーク DESCRIPTION OF SYMBOLS 1 Input part 2 Screen saver application part 3 Display part 4 Camera device 5 Sensor 6 Observation information acquisition part 7 Background image generation part 8 Information storage part 9 Feature amount acquisition application part 10 Personal characteristic storage part 11 Correlation value calculation part 12 Information transmission / reception part 13 Stored information distribution unit 14 Feature analysis transmission / reception unit 15 Person search client application unit 16 Network interface unit 17 Database management unit 18 Person search server application unit 19 Background difference image generation unit 20 Color histogram generation unit 30 Operation computer 40 Information storage computer 50 Computer for feature analysis 60 Network

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C054 AA02 AA05 CA04 CC02 CE16 CH03 CH06 DA08 EA05 EA07 EG10 EH07 FB03 FC01 FC07 FC12 FC16 FE28 GB02 GB05 GB15 GB17 GC03 GD06 HA18 5L096 BA02 CA05 CA07 DA01 DA03 FA34 FA35 LA05  ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5C054 AA02 AA05 CA04 CC02 CE16 CH03 CH06 DA08 EA05 EA07 EG10 EH07 FB03 FC01 FC07 FC12 FC16 FE28 GB02 GB05 GB15 GB17 GC03 GD06 HA18 5L096 BA02 CA05 CA07 DA01 DA03 FA34 FA35 LA05

Claims (14)

【特許請求の範囲】[Claims] 【請求項1】 入力手段と、この入力手段への入力操作
の終了を検出する手段と、表示手段とを備えた操作用計
算機と、 カメラ装置と、このカメラ装置の撮影範囲内の人の有無
を検出するセンサと、このセンサが利用者の存在を検出
中および非検出中の前記カメラ装置により撮影された双
方の画像情報をそれぞれ生成する手段と、これらの画像
情報を前記カメラ装置の設置位置情報および撮影時刻情
報および前記センサの検出情報とともに一時蓄積する手
段とを備えた情報蓄積用計算機と、 前記一時蓄積する手段に蓄積された画像情報にしたがっ
て個人毎の画像情報を取得する手段と、この画像情報を
蓄積するデータベースと、この画像情報と前記一時蓄積
する手段に蓄積されこの画像情報とはその撮影時刻情報
が異なる画像情報との相関値を計算する手段とを備えた
特徴解析用計算機とを備え、 前記操作用計算機および前記情報蓄積用計算機および前
記特徴解析用計算機はネットワークを介して接続され相
互に情報の送受信を行う手段を備えたことを特徴とする
多地点情報監視装置。
1. An operation computer comprising: input means; means for detecting the end of an input operation on the input means; and display means; a camera device; and the presence or absence of a person within a shooting range of the camera device. And a means for respectively generating image information of both the camera device that is detecting and not detecting the presence of a user, and a device that detects the position of the camera device. An information storage computer comprising means for temporarily storing information and photographing time information and detection information of the sensor, and means for acquiring image information for each individual according to the image information stored in the means for temporarily storing; A database for storing the image information, and a correlation value between the image information and the image information stored in the temporary storage unit and having different shooting time information. A computer for feature analysis comprising means for calculating; and a means for connecting the operation computer, the information storage computer, and the feature analysis computer via a network and mutually transmitting and receiving information. A multipoint information monitoring device characterized by the following.
【請求項2】 前記操作用計算機および前記情報蓄積用
計算機が複数設けられ、これらの計算機同士が前記ネッ
トワークを介して接続され相互に情報の送受信を行う手
段を備えた請求項1記載の多地点情報監視装置。
2. The multipoint system according to claim 1, wherein a plurality of the operation computers and the information storage computers are provided, and the computers are connected to each other via the network to mutually transmit and receive information. Information monitoring device.
【請求項3】 前記操作用計算機は、前記入力操作の終
了を検出する手段の検出結果をこの入力操作を行った利
用者の人物識別子の情報とともに前記特徴解析計算機に
通知する手段を備え、 前記カメラ装置は、この利用者をその撮影範囲内に含む
位置に設けられ、 前記センサは、この利用者の有無を検出できる位置に設
けられ、 前記個人毎の画像情報を取得する手段は、前記入力操作
の終了を検出する手段の検出結果にしたがって入力操作
終了検出時刻から所定時間遡った時刻の前記センサが利
用者の存在を検出中および非検出中の前記カメラ装置に
より撮影された双方の画像情報を前記一時蓄積する手段
から取得する手段と、取得したこの双方の画像情報の差
分情報を検出する手段と、この差分情報を前記データベ
ースに前記個人毎の画像情報として前記利用者の人物識
別子の情報とともに蓄積する手段とを備えた請求項1記
載の多地点情報監視装置。
3. The operation computer further comprises means for notifying the feature analysis computer of a detection result of the means for detecting the end of the input operation together with information on a person identifier of a user who has performed the input operation. The camera device is provided at a position that includes the user within the photographing range, the sensor is provided at a position that can detect the presence or absence of the user, and the unit that obtains image information for each individual is the input device. Both image information captured by the camera device when the sensor is detecting and not detecting the presence of a user at a time that is a predetermined time before the input operation end detection time according to the detection result of the means for detecting the end of the operation Means for temporarily acquiring the image information from the means for temporarily storing the image information, means for detecting the difference information between the acquired image information and the image information for the individual, and 2. A multipoint information monitoring apparatus according to claim 1, further comprising means for storing the information together with information on the user's person identifier as information.
【請求項4】 前記操作用計算機は、前記入力手段を介
して人物識別子の情報の入力を受付ける手段と、受付け
た人物識別子の情報を前記特徴解析用計算機に通知する
手段とを備え、 前記特徴解析用計算機は、当該人物識別子の情報が通知
されたときには、前記センサが人の存在を検出中および
非検出中の前記カメラ装置により撮影された双方の画像
情報を前記一時蓄積する手段から取得する手段と、取得
したこの双方の画像情報の差分情報を検出する手段と、
この差分情報と前記データベースに蓄積されている前記
人物識別子の情報に対応する画像情報との相関値を前記
相関値を計算する手段により計算する手段と、この計算
結果にしたがって閾値より高い相関値が計算されたとき
には前記カメラ装置の画像情報を前記表示手段に表示す
る手段とを備えた請求項1記載の多地点情報監視装置。
4. The computer for operation includes: a unit for receiving input of information on a person identifier via the input unit; and a unit for notifying the computer for characteristic analysis of the information on the received person identifier. The analysis computer, when notified of the information of the person identifier, acquires from the means for temporarily storing both image information captured by the camera device while the sensor is detecting and not detecting the presence of a person. Means for detecting difference information between the acquired two pieces of image information,
Means for calculating a correlation value between the difference information and image information corresponding to the information of the person identifier stored in the database by means for calculating the correlation value, and a correlation value higher than a threshold value is calculated in accordance with the calculation result. 2. A multi-point information monitoring apparatus according to claim 1, further comprising: means for displaying image information of the camera device on the display means when the calculation is performed.
【請求項5】 前記特徴解析用計算機は、前記センサが
人の存在を検出中および非検出中の前記カメラ装置によ
り撮影された双方の画像情報を前記一時蓄積する手段か
ら取得する手段と、取得したこの双方の画像情報の差分
情報を検出する手段と、この差分情報と前記データベー
スに蓄積されているあらかじめ指定された人物の画像情
報との相関値を前記相関値を計算する手段により計算す
る手段と、この計算結果にしたがって閾値より低い相関
値が計算されたときには警報を発出するもしくは前記差
分情報を前記表示手段に表示する手段とを備えた請求項
1記載の多地点情報監視装置。
5. A means for acquiring from the means for temporarily storing both image information taken by the camera device while the sensor is detecting and not detecting the presence of a person, wherein the computer for feature analysis comprises: Means for detecting the difference information between the two pieces of image information, and means for calculating a correlation value between the difference information and the image information of a predetermined person stored in the database by the means for calculating the correlation value. 2. The multipoint information monitoring device according to claim 1, further comprising: a unit that issues a warning when the correlation value lower than the threshold value is calculated according to the calculation result, or displays the difference information on the display unit.
【請求項6】 請求項1ないし5のいずれかに記載の多
地点情報監視装置に設けられた操作用計算機。
6. An operation computer provided in the multipoint information monitoring device according to claim 1.
【請求項7】 請求項1ないし5のいずれかに記載の多
地点情報監視装置に設けられた情報蓄積用計算機。
7. An information storage computer provided in the multipoint information monitoring device according to claim 1.
【請求項8】 請求項1ないし5のいずれかに記載の多
地点情報監視装置に設けられた特徴解析用計算機。
8. A computer for characteristic analysis provided in the multipoint information monitoring device according to claim 1.
【請求項9】 所定のハードウェアと、このハードウェ
アにインストールされた所定の基本ソフトウェアとを備
えたコンピュータ装置に、さらにインストールすること
によりそのコンピュータ装置を請求項6記載の操作用計
算機に相応する装置とするソフトウェアが記録された機
械読取可能な記録媒体。
9. A computer corresponding to the operation computer according to claim 6, further installed on a computer having predetermined hardware and predetermined basic software installed on the hardware. A machine-readable recording medium on which software used as a device is recorded.
【請求項10】 所定のハードウェアと、このハードウ
ェアにインストールされた所定の基本ソフトウェアとを
備えたコンピュータ装置に、さらにインストールするこ
とによりそのコンピュータ装置を請求項7記載の情報蓄
積用計算機に相応する装置とするソフトウェアが記録さ
れた機械読取可能な記録媒体。
10. A computer device having predetermined hardware and predetermined basic software installed on the hardware, and further installed on the computer device to make the computer device correspond to the information storage computer according to claim 7. A machine-readable recording medium on which software to be used as a device for recording is recorded.
【請求項11】 所定のハードウェアと、このハードウ
ェアにインストールされた所定の基本ソフトウェアとを
備えたコンピュータ装置に、さらにインストールするこ
とによりそのコンピュータ装置を請求項8記載の特徴解
析用計算機に相応する装置とするソフトウェアが記録さ
れた機械読取可能な記録媒体。
11. The computer according to claim 8, wherein said computer is further installed in a computer having predetermined hardware and predetermined basic software installed in said hardware. A machine-readable recording medium on which software to be used as a device for recording is recorded.
【請求項12】 利用者の操作用計算機に対する入力操
作の終了を検出してその検出結果およびこの利用者の人
物識別子の情報を特徴解析用計算機に通知し、特徴解析
用計算機は、この検出結果にしたがって入力操作終了検
出時刻から所定時間遡った時刻の前記利用者をその撮影
範囲内に含むカメラ装置により撮影された前記利用者が
写っている画像情報と前記利用者が写っていない背景の
画像情報とを取得し、取得したこの双方の画像情報の差
分情報を検出し、この差分情報をデータベースに個人毎
の特徴を示す情報として前記利用者の人物識別子の情報
とともに蓄積することを特徴とする多地点情報監視方
法。
12. Detecting the end of the input operation of the user on the operation computer, and notifying the detection result and the information of the user's person identifier to the feature analysis computer, and the feature analysis computer Image information of the user photographed by the camera device including the user within the photographing range at a time that is earlier than the input operation end detection time by a predetermined time in accordance with the image information of the user and a background image in which the user is not photographed And acquiring difference information between the acquired two pieces of image information, and storing the difference information as information indicating characteristics of each individual in a database together with information on the person identifier of the user. Multipoint information monitoring method.
【請求項13】 利用者は操作用計算機に人物識別子の
情報を入力し、この操作用計算機は、入力された人物識
別子の情報を特徴解析用計算機に通知し、この特徴解析
用計算機は、この通知を受け取ると、カメラ装置により
撮影されたその撮影範囲内に人が存在する画像情報と人
が存在しない画像情報の双方の画像情報を取得し、取得
したこの双方の画像情報の差分情報を検出し、この差分
情報とデータベースに蓄積されている前記人物識別子の
情報に対応する人物の画像情報との相関値を計算し、こ
の計算結果にしたがって閾値より高い相関値が計算され
たときには前記カメラ装置の画像情報を前記操作用計算
機の表示手段に表示させることを特徴とする多地点情報
監視方法。
13. A user inputs information of a person identifier to an operation computer, and the operation computer notifies the input information of the person identifier to a feature analysis computer. Upon receiving the notification, obtains image information of both image information of a person existing in the shooting range captured by the camera device and image information of no human being, and detects difference information between the obtained image information of the two. Calculating a correlation value between the difference information and image information of a person corresponding to the information of the person identifier stored in the database; and when a correlation value higher than a threshold is calculated according to the calculation result, the camera device A multi-point information monitoring method, characterized by displaying the image information of (1) on a display means of the operation computer.
【請求項14】 特徴解析用計算機は、カメラ装置から
その撮影範囲内に人が存在する画像情報と人が存在しな
い画像情報の双方の画像情報を取得し、取得したこの双
方の画像情報の差分情報を検出し、この差分情報と前記
データベースに蓄積されているあらかじめ指定された人
物の画像情報との相関値を計算し、この計算結果にした
がって閾値より低い相関値が検出されたときには警報を
発出するもしくは前記差分情報を表示することを特徴と
する多地点情報監視方法。
14. A feature analysis computer acquires, from a camera device, image information of both image information in which a person exists in the photographing range and image information in which no person exists, and calculates a difference between the acquired image information. Detects information, calculates a correlation value between the difference information and image information of a predetermined person stored in the database, and issues an alarm when a correlation value lower than a threshold is detected according to the calculation result. Or displaying the difference information.
JP2000105947A 2000-04-07 2000-04-07 Multipoint information monitoring apparatus and method Expired - Fee Related JP3607566B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000105947A JP3607566B2 (en) 2000-04-07 2000-04-07 Multipoint information monitoring apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000105947A JP3607566B2 (en) 2000-04-07 2000-04-07 Multipoint information monitoring apparatus and method

Publications (2)

Publication Number Publication Date
JP2001292441A true JP2001292441A (en) 2001-10-19
JP3607566B2 JP3607566B2 (en) 2005-01-05

Family

ID=18619196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000105947A Expired - Fee Related JP3607566B2 (en) 2000-04-07 2000-04-07 Multipoint information monitoring apparatus and method

Country Status (1)

Country Link
JP (1) JP3607566B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271605A (en) * 2002-03-14 2003-09-26 Hitachi Ltd Remote recognition and delivery method using image, execution system thereof, and processing program thereof
US9277165B2 (en) 2008-01-17 2016-03-01 Hitachi, Ltd. Video surveillance system and method using IP-based networks

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271605A (en) * 2002-03-14 2003-09-26 Hitachi Ltd Remote recognition and delivery method using image, execution system thereof, and processing program thereof
US9277165B2 (en) 2008-01-17 2016-03-01 Hitachi, Ltd. Video surveillance system and method using IP-based networks

Also Published As

Publication number Publication date
JP3607566B2 (en) 2005-01-05

Similar Documents

Publication Publication Date Title
US11875467B2 (en) Processing method for combining a real-world environment with virtual information according to a video frame difference value to provide an augmented reality scene, terminal device, system, and computer storage medium
US9338311B2 (en) Image-related handling support system, information processing apparatus, and image-related handling support method
US20160127699A1 (en) View handling in video surveillance systems
US9477891B2 (en) Surveillance system and method based on accumulated feature of object
JP2008040781A (en) Subject verification apparatus and subject verification method
JP2004021495A (en) Monitoring system and monitoring method
CN103916626A (en) Monitoring video information providing method and device and video monitoring system
JP7067604B2 (en) Event monitoring system, event monitoring method, and program
JP2018032950A (en) Information processing unit and information processing method, and computer program
JP2008085874A (en) Person monitoring system, and person monitoring method
JP2017204838A (en) Information processing apparatus and information processing method
US20040150715A1 (en) Image-capture event monitoring
JP6396682B2 (en) Surveillance camera system
JP2006093955A (en) Video processing apparatus
JP5865584B2 (en) Specific person detection system and detection method
JP5707238B2 (en) Image search apparatus and image search system
JP3607566B2 (en) Multipoint information monitoring apparatus and method
KR101745370B1 (en) Method and system for providing image information with main frame
JP4985742B2 (en) Imaging system, method and program
JP7146416B2 (en) Information processing device, information processing system, information processing method, and program
JP6979643B2 (en) Surveillance video display system, surveillance video display device, surveillance information management server, and surveillance video display method
JP2020166590A (en) Monitoring system, monitoring device, monitoring method, and monitoring program
JP6455590B2 (en) Image processing system, image processing method, and computer program
CN114466168A (en) Building indoor video monitoring system
JP2009239804A (en) Surveillance system and image retrieval server

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040420

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041007

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071015

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081015

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091015

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101015

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101015

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111015

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees