JP5098160B2 - Security device, security system and security program - Google Patents

Security device, security system and security program Download PDF

Info

Publication number
JP5098160B2
JP5098160B2 JP2005343868A JP2005343868A JP5098160B2 JP 5098160 B2 JP5098160 B2 JP 5098160B2 JP 2005343868 A JP2005343868 A JP 2005343868A JP 2005343868 A JP2005343868 A JP 2005343868A JP 5098160 B2 JP5098160 B2 JP 5098160B2
Authority
JP
Japan
Prior art keywords
distance
imaging
image
value
crime prevention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005343868A
Other languages
Japanese (ja)
Other versions
JP2007148894A (en
Inventor
孝則 中条
宏 矢野
悠佑 茂木
之男 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Retail Systems Co Ltd
Original Assignee
Fuji Electric Retail Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Retail Systems Co Ltd filed Critical Fuji Electric Retail Systems Co Ltd
Priority to JP2005343868A priority Critical patent/JP5098160B2/en
Publication of JP2007148894A publication Critical patent/JP2007148894A/en
Application granted granted Critical
Publication of JP5098160B2 publication Critical patent/JP5098160B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Control Of Vending Devices And Auxiliary Devices For Vending Devices (AREA)
  • Image Processing (AREA)
  • Alarm Systems (AREA)
  • Image Analysis (AREA)

Description

この発明は、管理対象が設けられた所定の撮像領域を撮像する撮像手段を備えた防犯装置、防犯システムおよび防犯プログラムに関する。   The present invention relates to a crime prevention device, a crime prevention system, and a crime prevention program provided with an imaging means for imaging a predetermined imaging area where a management target is provided.

従来から自動販売機内部の金銭や商品の盗難を目的として自動販売機に対する盗難破壊被害が多く発生している。このため、振動センサなどを設け、自動販売機への外部からの異常行為を検出し、異常行為があった場合に所定の警告または異常行為を撮像した画像情報の監視センターへの送信を行う防犯装置および防犯システムが提案されている(特許文献1〜3参照)。このような防犯装置および防犯システムでは、所定の警告を行うことによって盗難破壊を防止し、また、異常行為を撮像した画像情報を解析することによって自動販売機への盗難破壊を行った人物を特定している。   Conventionally, theft destruction damage to the vending machine has occurred frequently for the purpose of theft of money and goods inside the vending machine. For this reason, a crime prevention sensor is installed that detects abnormal actions from the outside to the vending machine, and sends image information that captures the specified warning or abnormal actions to the monitoring center when there is an abnormal action. Devices and security systems have been proposed (see Patent Documents 1 to 3). In such a crime prevention device and crime prevention system, a predetermined warning is given to prevent theft destruction, and by analyzing image information obtained by imaging abnormal acts, a person who has caused the theft destruction to a vending machine is identified. is doing.

特開2000−149114号公報JP 2000-149114 A 特開2004−302605号公報JP 2004-302605 A 特開2005−71232号公報JP 2005-71232 A

しかしながら、従来の振動センサなどを備えた防犯装置においては、盗難破壊防止の警告が単なる警告にすぎないものであると盗難破壊者に認識されていることが多く、特に短時間の盗難破壊行為においては、警告があった場合であっても盗難破壊行為を継続されることがあった。このため、自動販売機に対する盗難破壊を確実に防止することができず、自動販売機本体が破壊されてしまう場合があった。また、盗難破壊行為を撮像した画像情報を解析する防犯システムにおいては、盗難破壊行為が実際に行われた後に、画像情報を解析する場合が多い。したがって、従来の防犯装置および防犯システムにおいては、自動販売機本体を破壊されてしまうことが多く、この自動販売機本体を修理するために多くのコストを要するという問題があった。   However, in crime prevention devices equipped with conventional vibration sensors and the like, theft destruction prevention warning is often recognized as a warning only by theft destruction, especially in a short period of theft destruction. May continue to be stolen and destroyed even when there is a warning. For this reason, the theft destruction to the vending machine cannot be surely prevented, and the vending machine main body may be destroyed. Moreover, in a crime prevention system that analyzes image information obtained by imaging a theft destruction act, the image information is often analyzed after the theft destruction act is actually performed. Therefore, in the conventional crime prevention device and crime prevention system, the vending machine main body is often destroyed, and there is a problem that a lot of cost is required to repair the vending machine main body.

この発明は、上記した従来技術の欠点に鑑みてなされたものであり、自動販売機に対する盗難破壊などの異常動作を予測し、異常動作を防止する防犯装置、防犯システムおよび防犯プログラムを提供することを目的とする。   The present invention has been made in view of the above-described drawbacks of the prior art, and provides a crime prevention device, a crime prevention system, and a crime prevention program for predicting an abnormal operation such as theft destruction of a vending machine and preventing the abnormal operation. With the goal.

上述した課題を解決し、目的を達成するために、この発明にかかる防犯装置は、管理対象が設けられた所定の撮像領域を撮像する撮像手段を備えた防犯装置において、撮像領域内が無人状態である場合の画像群を第1の母集団として記憶するとともに、前記管理対象に一般的動作を行った場合を撮像した画像群と前記第1の母集団とのMT法におけるマハラノビス距離を第2の母集団として記憶する記憶手段と、前記撮像手段で撮像した画像と前記第1の母集団とのMT法におけるマハラノビス距離を第1の距離として計算する第1の計算手段と、前記第1の距離と前記第2の母集団とのMT法におけるマハラノビス距離を第2の距離として計算する第2の計算手段と、前記第2の計算手段によって計算された前記第2の距離を隔たり度とし、該隔たり度をもとに、前記撮像領域内における人物の動作が一般的である可能性が高いか、または、異常動作である可能性が高いかを判定する判定手段と、前記撮像手段により前記撮像領域を撮像した場合に都度第1の距離を計算し、前記計算した第1の距離の変動をもとに前記第2の距離を計算するか否かを判断し、前記第1の距離の変動がある値を超えた場合にのみ前記第2の距離を計算する制御手段と、を備え、前記判定手段は、前記管理対象に一般的動作を行った場合を撮像した画像群および前記管理対象に異常動作を行った場合を撮像した画像群における第2の距離群の分布傾向をもとに設定した閾値よりも、前記隔たり度が大きな値である場合に異常動作である可能性が高いと判定することを特徴とする。 To solve the above problems and achieve the object, the security device is in a security device provided with imaging means for imaging a predetermined imaging region provided is managed, the imaging area is unattended according to the present invention Is stored as a first population, and the Mahalanobis distance in the MT method between the image group captured when a general operation is performed on the management target and the first population is a second population. Storage means for storing as a population, first calculation means for calculating a Mahalanobis distance in the MT method between an image captured by the imaging means and the first population as a first distance, and the first a second calculating means for calculating the distance between the Mahalanobis distance in the MT method between the second population as a second distance, the calculated second distance to the separation degree by the second calculating means Based on the separation of the, or the operation of a person in the image pickup area is likely to be general, or, a determination unit configured to determine is likely to be abnormal operation, by the image pickup means A first distance is calculated each time an imaging region is imaged, and it is determined whether to calculate the second distance based on the variation of the calculated first distance. Control means for calculating the second distance only when the fluctuation exceeds a certain value, and the determination means is a group of images taken when a general operation is performed on the management target and the management target If the degree of separation is larger than the threshold value set based on the distribution tendency of the second distance group in the image group in which the abnormal operation is performed, the possibility of abnormal operation is high It is characterized by determining.

また、この発明にかかる防犯装置は、前記撮像画像の分割および/または圧縮を行う画像処理手段をさらに備え、前記第1の計算手段は、前記画像処理手段によって画像データを複数領域にて分割および/または圧縮を行われた画像をもとに前記第1の距離を計算することを特徴とする。   The crime prevention apparatus according to the present invention further includes image processing means for dividing and / or compressing the captured image, and the first calculation means divides and separates image data into a plurality of regions by the image processing means. The first distance is calculated based on the compressed image.

また、この発明にかかる防犯装置は、前記判定手段が前記撮像領域内における人物の動作が異常動作である可能性が高いと判定した場合、前記異常動作を警告する音声および/または前記異常動作を警告する表示を出力する出力手段をさらに備えたことを特徴とする。   In addition, the security device according to the present invention, when the determination unit determines that there is a high possibility that the motion of the person in the imaging area is an abnormal operation, and / or the voice for warning the abnormal operation and / or the abnormal operation It further comprises output means for outputting a warning display.

また、この発明にかかる防犯装置は、前記判定手段が前記撮像領域内の人物の動作が異常動作である可能性が高いと判定した場合、該異常動作である可能性が高い旨を外部装置に対して報知する外部通信手段をさらに備えたことを特徴とする。   In addition, the security device according to the present invention notifies the external device that the possibility of the abnormal operation is high when the determination unit determines that the operation of the person in the imaging area is likely to be an abnormal operation. It further comprises external communication means for informing the user.

また、この発明にかかる防犯システムは、所定の管理対象を管理する防犯システムにおいて、請求項1〜のいずれか一つに記載の防犯装置と、前記防犯装置から送信された情報をもとに前記管理対象を管理する管理装置と、を備えたことを特徴とする。 A crime prevention system according to the present invention is a crime prevention system for managing a predetermined management target, based on the crime prevention device according to any one of claims 1 to 4 and information transmitted from the crime prevention device. And a management device that manages the management object.

また、この発明にかかる防犯プログラムは、所定の管理対象を管理する防犯プログラムにおいて、所定の管理対象を管理する防犯プログラムにおいて、前記管理対象が設けられた所定の撮像領域を撮像する撮像手順と、前記撮像領域内が無人状態である場合の画像群を第1の母集団として記憶するとともに、前記管理対象に一般的動作を行った場合を撮像した画像群と前記第1の母集団とのMT法におけるマハラノビス距離を第2の母集団として記憶する記憶手順と、前記撮像手順で撮像した画像と前記第1の母集団とのMT法におけるマハラノビス距離を第1の距離として計算する第1の計算手順と、前記第1の距離と前記第2の母集団とのMT法におけるマハラノビス距離を第2の距離として計算する第2の計算手順と、前記第2の計算手順において計算された前記第2の距離を隔たり度とし、該隔たり度をもとに、前記撮像領域内における人物の動作が一般的である可能性が高いか、または、異常動作である可能性が高いかを判定する判定手順と、前記撮像手順により前記撮像領域を撮像した場合に都度第1の距離を計算し、前記計算した第1の距離の変動をもとに前記第2の距離を計算するか否かを判断し、前記第1の距離の変動がある値を超えた場合にのみ前記第2の距離を計算する制御手順と、を含み、前記判定手順は、前記管理対象に一般的動作を行った場合を撮像した画像群および前記管理対象に異常動作を行った場合を撮像した画像群における第2の距離群の分布傾向をもとに設定した閾値よりも、前記隔たり度が大きな値である場合に異常動作である可能性が高いと判定することを特徴とする。 Further, the crime prevention program according to the present invention is a crime prevention program for managing a predetermined management object.In a crime prevention program for managing a predetermined management object, an imaging procedure for imaging a predetermined imaging area provided with the management object; An image group when the imaging region is unattended is stored as a first population, and an MT of the image group captured when a general operation is performed on the management target and the first population Storage procedure for storing the Mahalanobis distance in the method as a second population, and a first calculation for calculating the Mahalanobis distance in the MT method between the image captured in the imaging procedure and the first population as the first distance procedures and, a second calculation procedure for calculating the Mahalanobis distance as the second distance in the MT method between the first distance and the second population, the second calculation The second distance calculated in order is set as a separation degree, and based on the separation degree, it is highly likely that a person's movement in the imaging region is general or an abnormal movement. A determination procedure for determining whether or not the image pickup area is high, and a first distance is calculated each time the imaging region is imaged by the imaging procedure , and the second distance is calculated based on the calculated variation in the first distance. A control procedure for determining whether or not to calculate, and calculating the second distance only when a variation in the first distance exceeds a certain value. The degree of separation is greater than the threshold set based on the distribution tendency of the second distance group in the image group in which the case of performing an automatic operation and the image group in which the abnormal operation is performed on the management target. If the value is large, there is a possibility of abnormal operation. The Most and judging.

本発明にかかる防犯装置によれば、撮像領域内における人物の動作を撮像した撮像画像と、管理対象に一般的動作を行った場合の画像との隔たり度を計算し、この隔たり度をもとに、撮像領域内における人物の動作が一般的である可能性が高いか、または、異常動作である可能性が高いかを判定することによって、管理対象に対する盗難破壊などの異常動作を予測し、このような異常動作を防止することができる。   According to the security device of the present invention, the degree of separation between a captured image obtained by capturing a person's movement in the imaging region and an image when a general operation is performed on a management target is calculated. In addition, it is possible to predict an abnormal operation such as theft destruction on the management target by determining whether the human operation in the imaging region is likely to be general or likely to be an abnormal operation, Such abnormal operation can be prevented.

(実施の形態)
以下、図面を参照して、この発明の実施の形態である防犯システムおよび防犯システムとして、自動販売機に対する防犯装置および防犯システムを例に説明する。なお、この実施の形態によりこの発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付している。
(Embodiment)
Hereinafter, a crime prevention system and a crime prevention system for a vending machine will be described as an example of the crime prevention system and the crime prevention system according to an embodiment of the present invention with reference to the drawings. Note that the present invention is not limited to the embodiments. In the description of the drawings, the same parts are denoted by the same reference numerals.

図1は、本実施の形態にかかる防犯装置を備えた防犯システムの全体構成を示す模式図である。本実施の形態にかかる防犯装置は、MT法を用いた計算処理を2回行うことによって、撮像領域内における人物の動作を撮像した撮像画像と、管理対象に一般的動作を行った場合の画像との隔たり度を計算し、この隔たり度をもとに、撮像領域内における人物の動作が異常動作である可能性が高いか否かを予測する。図1に示すように、実施の形態における防犯システム1は、管理対象である自動販売機10と、自動販売機10に対する盗難破壊などを防止する防犯装置20と、防犯装置20から送信された情報をもとに自動販売機10を管理する管理装置を備えた監視センター30とを備える。なお、防犯装置20と監視センター30とは、ネットワーク40を介して接続する。また、接続態様は、有線または無線のいずれであってもよく、ネットワーク40を介さずに直接接続してもよい。   FIG. 1 is a schematic diagram illustrating an overall configuration of a security system including a security device according to the present embodiment. The crime prevention device according to the present embodiment performs a calculation process using the MT method twice, thereby taking a captured image obtained by capturing a person's movement in the imaging region, and an image when a general operation is performed on a management target. Is calculated, and based on this distance, it is predicted whether or not there is a high possibility that the motion of the person in the imaging region is an abnormal operation. As shown in FIG. 1, the crime prevention system 1 according to the embodiment includes a vending machine 10 that is a management target, a crime prevention device 20 that prevents theft destruction of the vending machine 10, and information transmitted from the crime prevention device 20. And a monitoring center 30 having a management device for managing the vending machine 10 based on the above. The security device 20 and the monitoring center 30 are connected via the network 40. Further, the connection mode may be either wired or wireless, and may be directly connected without going through the network 40.

防犯装置20は、自動販売機10が設けられた所定の撮像領域を撮像し撮像した画像をもとに、撮像領域内の人物の動作が商品購入などの一般的動作である可能性が高いか、または、盗難や破壊などの異常動作である可能性が高いかを判定する。防犯装置20は、撮像領域内の人物の動作が異常動作である可能性が高いと判定した場合には、所定の警告を行い、また、判定結果および撮像した画像情報を監視センター30へ送信する。   Whether the crime prevention apparatus 20 is likely to be a general operation such as purchasing a product based on an image obtained by imaging a predetermined imaging area in which the vending machine 10 is provided. Or, it is determined whether or not there is a high possibility of an abnormal operation such as theft or destruction. The security device 20 issues a predetermined warning when it is determined that there is a high possibility that the action of the person in the imaging area is an abnormal action, and transmits the determination result and the captured image information to the monitoring center 30. .

監視センター30は、防犯装置20から送信された情報をもとに、管理者への通報、画像情報の解析による異常動作を行う人物の特徴解析などを行う。なお、監視センター30は、自動販売機10の商品販売処理を制御してもよく、防犯装置20から撮像領域内の人物の動作が異常動作である可能性が高い旨の判定結果を送信された場合には、自動販売機10に商品販売処理の停止を指示してもよい。   Based on the information transmitted from the crime prevention device 20, the monitoring center 30 performs a feature analysis of a person who performs an abnormal operation by reporting to an administrator or analyzing image information. The monitoring center 30 may control the merchandise sales process of the vending machine 10, and a determination result indicating that there is a high possibility that the action of the person in the imaging area is abnormal is transmitted from the security device 20. In this case, the vending machine 10 may be instructed to stop the product sales process.

つぎに、防犯装置20について説明する。図1に示すように、防犯装置20は、制御部21、カメラ22、記憶部23、画像処理部24、距離計算部25、判定部26、警告出力部27、外部通信部28を備える。   Next, the crime prevention device 20 will be described. As shown in FIG. 1, the security device 20 includes a control unit 21, a camera 22, a storage unit 23, an image processing unit 24, a distance calculation unit 25, a determination unit 26, a warning output unit 27, and an external communication unit 28.

制御部21は、カメラ22、記憶部23、画像処理部24、距離計算部25、判定部26、警告出力部27、外部通信部28の各処理または動作を制御する。制御部21は、これらの各構成部位に入出力される情報について所定の入出力制御を行い、かつ、この情報に対して所定の情報処理を行う。   The control unit 21 controls each process or operation of the camera 22, the storage unit 23, the image processing unit 24, the distance calculation unit 25, the determination unit 26, the warning output unit 27, and the external communication unit 28. The control unit 21 performs predetermined input / output control on information input / output to / from each of these components, and performs predetermined information processing on the information.

カメラ22は、制御部21の制御のもと、自動販売機10が設けられた所定の撮像領域を撮像する。カメラ22は、撮像した画像、撮像順序および撮像日時などを含む画像情報を制御部21に出力する。カメラ22は、撮像領域を連続して撮像し、連続する一連の静止画像を制御部21に出力する。なお、カメラ22は、自動販売機10とともに、自動販売機10の商品の購入を行う人物が画像の中に入るよう撮像領域を設定されている。   The camera 22 images a predetermined imaging area where the vending machine 10 is provided under the control of the control unit 21. The camera 22 outputs image information including the captured image, the imaging order, and the imaging date and time to the control unit 21. The camera 22 continuously captures an imaging area and outputs a series of continuous still images to the control unit 21. In addition, the camera 22 has an imaging region set so that a person who purchases a product of the vending machine 10 enters the image together with the vending machine 10.

記憶部23は、各構成部位の処理動作に要する各種情報およびプログラムを記憶する。記憶部23は、距離計算部25の計算処理に要する第1の基準空間および第2の基準空間を記憶する。   The memory | storage part 23 memorize | stores the various information and program which are required for the processing operation of each structure part. The storage unit 23 stores the first reference space and the second reference space required for the calculation process of the distance calculation unit 25.

画像処理部24は、制御部21の制御のもと、カメラ22によって撮像された画像であって撮像領域内における人物の動作を撮像した画像の分割および/または圧縮を行う。画像処理部24は、カメラ22が撮像した一連の静止画像を、それぞれ所定の領域に分割する。なお、本実施の形態では、画像処理部24は、画像を縦方向3分割、横方向3分割の9つの領域に分割した場合について説明するが、これに限らず、たとえば、縦方向2分割、横方向2分割の4つの領域に分割してもよく、また、縦方向4分割、横方向3分割の12の領域に分割してもよい。さらに、分割領域が非対称であってもよい。画像処理部24は、画像処理部24が処理した画像に対して計算処理を行う距離計算部25の処理能力に応じて、分割する領域を定めればよい。また、画像処理部24は、カメラ22が撮像した一連の静止画像に対して、解析対象以外の枠部分などを削除する削除処理、フルカラー画像からモノクロ画像に処理するモノクロ処理、画像の解像度を減少させるモザイク処理などの圧縮処理を行う。画像処理部24は、モノクロ処理において、たとえば、R(赤)、G(緑)、B(青)のそれぞれの色相について256段階の色濃度を有する情報を、白から黒までを256階調に減じたデータとする。また、画像処理部24は、モザイク処理において、たとえば、176画素×144画素を有する画像を24画素×18画素にまで減じたデータとする。また、画像処理部24は、一連の静止画像を、撮像領域内の人物の動作を判定可能な程度まで間引き、間引いた画像に対して、画像分割処理、画像圧縮処理を行ってもよい。   Under the control of the control unit 21, the image processing unit 24 divides and / or compresses an image captured by the camera 22 and capturing an image of a person's movement in the imaging region. The image processing unit 24 divides a series of still images captured by the camera 22 into predetermined regions. In the present embodiment, the case where the image processing unit 24 divides the image into nine regions of 3 divisions in the vertical direction and 3 divisions in the horizontal direction is described, but the present invention is not limited to this. You may divide | segment into 4 area | regions of 2 horizontal divisions, and may divide | segment into 12 area | regions of 4 vertical divisions and 3 horizontal divisions. Further, the divided area may be asymmetric. The image processing unit 24 may determine a region to be divided according to the processing capability of the distance calculation unit 25 that performs calculation processing on the image processed by the image processing unit 24. In addition, the image processing unit 24 deletes a series of still images captured by the camera 22 to delete a frame portion other than the analysis target, monochrome processing to process a full-color image into a monochrome image, and reduces image resolution. Perform compression processing such as mosaic processing. In the monochrome processing, the image processing unit 24 uses, for example, information having 256 levels of color density for each hue of R (red), G (green), and B (blue) to 256 gradations from white to black. Reduced data. Further, the image processing unit 24 uses, for example, data obtained by reducing an image having 176 pixels × 144 pixels to 24 pixels × 18 pixels in the mosaic processing. In addition, the image processing unit 24 may thin out a series of still images to such an extent that a person's movement in the imaging region can be determined, and may perform image division processing and image compression processing on the thinned images.

距離計算部25は、カメラ22によって撮像された画像であって撮像領域内における人物の動作を撮像した撮像画像と、自動販売機10に一般的動作を行った場合の画像との隔たり度を計算する。距離計算部25は、この隔たり度として、MT法を用いた計算処理を2回行うことによって得られたマハラノビス距離(MD)を計算する。距離計算部25は、画像処理部24が処理した画像と所定の母集団とのMDの値を計算する。MDの値Dは、母集団である基準空間と標本である画像情報との間の距離尺度である。言い換えると、母集団である基準空間と標本である画像とがどの程度かけ離れているかを数値化したものである。このMDの値Dは、以下の(1)式を用いることによって求められる。
2=(x−μ)tΣ-1(x−μ) ・・・(1)
上記(1)式において、xは、標本値の縦ベクトルであり、μは基準空間である母集団の平均値縦ベクトルであり、tは、転置行列を示し、Σ-1は、母集団の分散・共分散行列の逆行列である。ここで、MT法では、Dの値が1近傍にある場合には、このMD値を有する標本は、母集団に属する可能性が高いとされる。本実施の形態においては、距離計算部25は、第1MT処理を行う第1計算部25aと、第2MT処理を行う第2計算部25bとを有し、MT法を用いた計算処理を2回行っている。
The distance calculation unit 25 calculates the degree of separation between an image captured by the camera 22 and captured of a person's movement in the imaging area, and an image when a general operation is performed on the vending machine 10. To do. The distance calculation unit 25 calculates the Mahalanobis distance (MD) obtained by performing the calculation process using the MT method twice as the distance. The distance calculation unit 25 calculates the MD value between the image processed by the image processing unit 24 and a predetermined population. The MD value D is a distance measure between the reference space as the population and the image information as the sample. In other words, the distance between the reference space as the population and the image as the sample is quantified. The MD value D is obtained by using the following equation (1).
D 2 = (x−μ) t Σ −1 (x−μ) (1)
In the above equation (1), x is a vertical vector of sample values, μ is an average vertical vector of a population that is a reference space, t is a transposed matrix, and Σ −1 is a population vector It is the inverse of the variance / covariance matrix. Here, in the MT method, when the value of D is in the vicinity of 1, a sample having this MD value is highly likely to belong to the population. In the present embodiment, the distance calculation unit 25 includes a first calculation unit 25a that performs the first MT process and a second calculation unit 25b that performs the second MT process, and performs the calculation process using the MT method twice. Is going.

第1計算部25aは、第1MT処理として、撮像領域内が無人状態である場合の多数の画像群を第1の母集団である第1の基準空間とし、MT法を用いて、この第1の基準空間と画像処理部24によって処理された画像とのMD値を、第1の距離である第1MD値として計算する。第1計算部25aは、各画像ごとに第1MD値を計算する。また、第1計算部25aは、画像処理部24によって画像が分割されていた場合には、分割された領域ごとに第1MD値を求める。なお、防犯装置20は、撮像領域が無人状態である場合の静止画像を予め多数取得しておく。   As the first MT process, the first calculation unit 25a uses a large number of image groups when the imaging region is unattended as a first reference space that is a first population, and uses the MT method to perform the first MT. The MD value between the reference space and the image processed by the image processing unit 24 is calculated as the first MD value that is the first distance. The first calculator 25a calculates a first MD value for each image. In addition, when the image processing unit 24 has divided the image, the first calculation unit 25a obtains a first MD value for each divided region. In addition, the crime prevention apparatus 20 acquires many still images in case an imaging area is unmanned.

第2計算部25bは、第2MT処理として、自動販売機10に商品購入などの一般的動作を行った場合を多数撮像した一連の静止画像における第1MD値群を第2の母集団である第2の基準空間とし、MT法を用いて、この第2の基準空間と第1計算部25aが求めた第1MD値とのMD値を、第2の距離である第2MD値として計算する。この第2MT処理では、一つの動作に対する一連の静止画像におけるすべての第1MD値、すなわち一つの動作に対して計算された第1MD値すべてが第2MT処理の処理対象となる。距離計算部25bは、第2MD値を計算することによって、第2の基準空間である多数の一般的動作における第1MD値群に、第1計算部25aが第1MT処理において計算した第1MD値がどの程度かけ離れているかを数値化している。第1計算部25aが第1MT処理において計算した第1MD値は、カメラ22の撮像領域内にいる人物の動作を撮像した画像をもとに計算されるため、第2MD値は、撮像領域内の人物の動作が、多数の一般的動作にどの程度かけ離れているかを数値化したものと言える。言い換えると、第2MD値は、撮像領域内における人物の動作を撮像した撮像画像と、自動販売機10に一般的動作を行った場合の画像との隔たり度に対応する。なお、防犯装置20は、予め、自動販売機10に対して人物が商品購入などの一般的動作を行った場合を多数撮像した一連の静止画像を数多く取得し、第1の基準空間に対する第1MD値をそれぞれ計算することによって、第2の基準空間を得ている。また、第2MT処理では、一つの動作に対する一連の静止画像における第1MD値、すなわち一つの動作に対して計算された第1MD値すべてが第2MT処理の処理対象となるため、時間軸も項目に含むこととなる。   As the second MT process, the second calculation unit 25b uses the first MD value group in a series of still images obtained by capturing a large number of cases where a general operation such as product purchase is performed on the vending machine 10 as the second population. Using the MT method, the MD value between the second reference space and the first MD value obtained by the first calculator 25a is calculated as the second MD value that is the second distance. In the second MT process, all the first MD values in a series of still images for one operation, that is, all the first MD values calculated for one operation are the targets of the second MT process. The distance calculation unit 25b calculates the second MD value, so that the first MD value calculated by the first calculation unit 25a in the first MT process is included in the first MD value group in many general operations as the second reference space. It quantifies how far away. The first MD value calculated in the first MT process by the first calculation unit 25a is calculated based on an image obtained by capturing the motion of a person in the imaging area of the camera 22, and therefore the second MD value is calculated in the imaging area. It can be said that the figure shows how far a person's movement is far from many general movements. In other words, the second MD value corresponds to the degree of separation between the captured image obtained by capturing the motion of the person in the imaging region and the image when the general operation is performed on the vending machine 10. The crime prevention device 20 acquires in advance a series of still images obtained by capturing a large number of cases where a person performs a general operation such as purchasing a product with respect to the vending machine 10, and the first MD for the first reference space is obtained. A second reference space is obtained by calculating each value. In the second MT processing, the first MD value in a series of still images for one motion, that is, all the first MD values calculated for one motion are subject to the processing of the second MT processing. Will be included.

判定部26は、距離計算部25によって計算された隔たり度をもとに、撮像領域内における人物の動作が一般的動作である可能性が高いか、または、異常動作である可能性が高いかを判定する。判定部26は、第2計算部25bによって計算された第2MD値をこの隔たり度として、撮像領域内の人物の動作が一般的動作である可能性が高いか、または、異常動作である可能性が高いかを判定する。第2MD値は、第2の基準空間である多数の一般的動作における第1MD値群に、第1計算部25aが第1MT処理において計算した第1MD値がどの程度かけ離れているかを数値化したものである。言い換えると、撮像領域内の人物の動作が、一般的動作にどの程度かけ離れているかを数値化したものと言える。ここで、MT法では、MD値が1近傍にある場合には、このMD値を有する標本は、母集団に属する可能性が高いとされる。このMT法の基本原理より、第2MD値が1近傍である場合には、カメラ22によって撮像された人物の動作における第1MD値は、第2の基準空間であり母集団である一般的動作における第1MD値群に属する可能性が高い。このため、判定部26は、第2MD値が1近傍である場合には、カメラ22の撮像範囲内の人物が一般的動作を行うと予測する。この結果、判定部26は、カメラ22の撮像範囲内の人物が商品の購入などの一般的動作を行う可能性が高いことを示す正常判定を行う。一方、MT法の基本原理より、第2MD値が大きな値である場合には、カメラ22によって撮像された人物の動作における第1MD値は、第2の基準空間であり母集団である一般的動作における第1MD値群に属さない可能性が高い。このため、判定部26は、第2MD値が1よりも大きい値、たとえば5以上である場合には、カメラ22の撮像範囲内における人物の動作が一般的動作に属さず、撮像範囲内の人物が盗難破壊動作などの異常動作を行うと予測する。この結果、判定部26は、カメラ22の撮像範囲内の人物が異常動作を行う可能性が高いことを示す異常判定を行う。なお、判定部26による一般的動作および異常動作の判定のもととなる第2MD値の閾値は、多数の一般的動作および多数の異常動作を撮像した一連の静止画像をもととした第2MD値をそれぞれ予め取得し、一般的動作および異常動作における第2MD値の分布傾向をもとに設定してもよい。   Based on the degree of separation calculated by the distance calculation unit 25, the determination unit 26 has a high possibility that the person's movement in the imaging area is a general movement or an abnormal movement. Determine. The determination unit 26 uses the second MD value calculated by the second calculation unit 25b as the degree of separation, and it is highly possible that the action of the person in the imaging region is a general action or an abnormal action. To determine if it is high. The second MD value is obtained by quantifying how far the first MD value calculated by the first calculation unit 25a in the first MT process is different from the first MD value group in many general operations which are the second reference space. It is. In other words, it can be said that the distance between the movement of the person in the imaging region and the general movement is quantified. Here, in the MT method, when the MD value is in the vicinity of 1, a sample having this MD value is highly likely to belong to the population. According to the basic principle of the MT method, when the second MD value is close to 1, the first MD value in the motion of the person imaged by the camera 22 is the second reference space and the general motion in the population. The possibility of belonging to the first MD value group is high. For this reason, the determination unit 26 predicts that a person within the imaging range of the camera 22 performs a general operation when the second MD value is near 1. As a result, the determination unit 26 performs normal determination indicating that a person within the imaging range of the camera 22 is likely to perform a general operation such as purchase of a product. On the other hand, when the second MD value is a large value based on the basic principle of the MT method, the first MD value in the motion of the person imaged by the camera 22 is a general motion that is a second reference space and a population. There is a high possibility of not belonging to the first MD value group. For this reason, when the second MD value is larger than 1, for example, 5 or more, the determination unit 26 does not belong to the general operation in the imaging range of the camera 22, and the person in the imaging range. Predict that they will perform abnormal operations such as theft destruction. As a result, the determination unit 26 performs an abnormality determination indicating that a person within the imaging range of the camera 22 is likely to perform an abnormal operation. Note that the threshold value of the second MD value that is a basis for the determination of the general motion and the abnormal motion by the determination unit 26 is the second MD based on a series of still images obtained by imaging a large number of general motions and a large number of abnormal motions. Each of the values may be acquired in advance and set based on the distribution tendency of the second MD value in the general operation and the abnormal operation.

警告出力部27は、判定部26がカメラ22の撮像範囲内の人物が異常動作を行う可能性が高いと予測した異常判定を行った場合に、この異常動作を警告する音声および/またはこの異常動作を警告する表示を出力する。具体的には、警告出力部27は、マイクロフォンおよびスピーカーを用いて実現され、音声を出力してもよい。また、警告出力部27は、液晶表示装置(Liquid Crystal Display : LCD)、有機エレクトロルミネッセンス表示装置、電流が供給される間発光を継続する発光ダイオード(Light emitting diode : LED)を用いて実現され、表示を出力してもよい。   When the determination unit 26 performs an abnormality determination that the person in the imaging range of the camera 22 predicts that there is a high possibility of performing an abnormal operation, the warning output unit 27 is a voice for warning the abnormal operation and / or the abnormality. Output a warning to alert the operation. Specifically, the warning output unit 27 may be realized using a microphone and a speaker and may output sound. The warning output unit 27 is realized by using a liquid crystal display (LCD), an organic electroluminescence display, and a light emitting diode (LED) that continues to emit light while a current is supplied. A display may be output.

外部通信部28は、外部通信用インターフェースを用いて実現され、監視センター30などに対する情報通信を行う。外部通信部28は、判定部26が撮像領域内の人物の動作が異常動作である可能性が高いことを示す異常判定を行った場合には、撮像領域内の人物の動作が異常動作である可能性が高い旨を監視センター30に報知し、さらに、カメラ22が撮像した画像を含む情報を監視センター30へ送信する。   The external communication unit 28 is implemented using an external communication interface, and performs information communication with the monitoring center 30 and the like. When the determination unit 26 performs an abnormality determination indicating that there is a high possibility that the motion of the person in the imaging region is an abnormal operation, the external communication unit 28 indicates that the motion of the person in the imaging region is an abnormal operation. The monitoring center 30 is notified that the possibility is high, and information including an image captured by the camera 22 is transmitted to the monitoring center 30.

つぎに、防犯装置20の動作処理を説明する。図2は、防犯装置20の動作処理を説明するフローチャートである。図2に示すように、まず、カメラ22は、制御部21の制御のもと、自動販売機10が設けられた所定の撮像領域の静止画像を連続して撮像し、撮像した静止画像を含む画像情報を順次制御部21に出力する撮像処理を行う(ステップS102)。画像処理部24は、制御部21の制御のもと、カメラ22が撮像した画像を9つの領域に分割する画像分割処理を行う(ステップS104)。その後、画像処理部24は、画像の分割された各領域に対して、モノクロ処理、モザイク処理を行って画像の情報量を圧縮する画像圧縮処理を行う(ステップS106)。   Next, an operation process of the security device 20 will be described. FIG. 2 is a flowchart for explaining the operation process of the security device 20. As shown in FIG. 2, first, the camera 22 continuously captures still images in a predetermined imaging area provided with the vending machine 10 under the control of the control unit 21, and includes the captured still images. Imaging processing for sequentially outputting the image information to the control unit 21 is performed (step S102). Under the control of the control unit 21, the image processing unit 24 performs image division processing for dividing the image captured by the camera 22 into nine regions (step S104). Thereafter, the image processing unit 24 performs an image compression process for compressing the information amount of the image by performing a monochrome process and a mosaic process on each of the divided areas of the image (step S106).

つぎに、距離計算部25は、MD値の計算処理を行う。まず、第1計算部25aは、MT法を用いて第1MT処理を行う(ステップS108)。第1MT処理では、第1計算部25aは、第1の基準空間と画像処理部24によって処理された画像との第1MD値を求める。この場合、防犯装置20は、撮像領域が無人状態である場合の画像を予め多数取得しておく。そして、防犯装置20は、これらの画像をそれぞれ画像分割処理(ステップS104)と同様に9つの領域に分割後、画像圧縮処理(ステップS106)と同様にモノクロ処理、モザイク処理を行う。防犯装置20は、これらの画像を第1MT処理における第1の基準空間として記憶部23に記憶させる。第1計算部25aは、第1MT処理において、記憶部23に記憶された第1の基準空間を参照し、この第1の基準空間に対する各画像の第1MD値を求める。第1MT処理では、画像圧縮処理(ステップS106)を行った画像の各領域の画像情報と、第1の基準空間である多数の画像における同領域の画像情報群とを用いることによって、第1MD値を計算する。   Next, the distance calculation unit 25 performs MD value calculation processing. First, the first calculator 25a performs a first MT process using the MT method (step S108). In the first MT process, the first calculation unit 25a obtains a first MD value between the first reference space and the image processed by the image processing unit 24. In this case, the security device 20 acquires in advance a large number of images when the imaging region is unattended. Then, the security device 20 divides these images into nine regions as in the image division process (step S104), and then performs monochrome processing and mosaic processing as in the image compression process (step S106). The security device 20 stores these images in the storage unit 23 as the first reference space in the first MT process. In the first MT processing, the first calculation unit 25a refers to the first reference space stored in the storage unit 23, and obtains the first MD value of each image with respect to the first reference space. In the first MT process, the first MD value is obtained by using the image information of each area of the image subjected to the image compression process (step S106) and the image information group of the same area in many images as the first reference space. Calculate

その後、第2計算部25bは、MT法を用いて第2MT処理を行う(ステップS110)。第2MT処理では、第2計算部25bは、第2の基準空間と第1計算部25aにおいて計算された第1MD値とにおける第2MD値を計算する。この場合、防犯装置20は、予め自動販売機10に対して人物が商品購入などの一般的動作を行った場合を多数撮像し、一般的動作における一連の静止画像を多数取得しておく。そして、防犯装置20は、これらの画像をそれぞれ画像分割処理(ステップS104)と同様に9つの領域に分割後、画像圧縮処理(ステップS106)と同様にモノクロ処理、モザイク処理を行う。さらに、防犯装置20は、これらの画像について第1の基準空間に対する第1MD値をそれぞれ求める。そして、防犯装置20は、これらの各第1MD値を第2の基準空間として記憶部23に記憶させる。すなわち、第2の基準空間は、多数の一般的動作における第1MD値群となる。第2計算部25bは、第2MT処理において、記憶部23に記憶された第2の基準空間を参照し、この第2の基準空間と第1MT処理において計算された第1MD値とにおける第2MD値を求める。ステップS108における第1MT処理およびステップS110における第2MT処理において、距離計算部25は、撮像処理(ステップS102)において撮像された画像であって撮像領域内における人物の動作を撮像した撮像画像と、自動販売機10に一般的動作を行った場合の画像との隔たり度である第2MD値を計算することとなる。   Thereafter, the second calculator 25b performs the second MT process using the MT method (step S110). In the second MT process, the second calculator 25b calculates a second MD value in the second reference space and the first MD value calculated in the first calculator 25a. In this case, the crime prevention apparatus 20 captures a large number of cases where a person performs a general operation such as purchasing a product with respect to the vending machine 10 in advance, and acquires a large number of still images in the general operation. Then, the security device 20 divides these images into nine regions as in the image division process (step S104), and then performs monochrome processing and mosaic processing as in the image compression process (step S106). Furthermore, the security device 20 calculates | requires the 1st MD value with respect to 1st reference space about these images, respectively. And the crime prevention apparatus 20 memorize | stores these each 1st MD values in the memory | storage part 23 as 2nd reference space. That is, the second reference space is a first MD value group in many general operations. The second calculation unit 25b refers to the second reference space stored in the storage unit 23 in the second MT process, and the second MD value in the second reference space and the first MD value calculated in the first MT process. Ask for. In the first MT process in step S108 and the second MT process in step S110, the distance calculation unit 25 automatically captures an image captured in the imaging process (step S102) and images a person's action in the imaging region. The second MD value, which is the distance from the image when a general operation is performed on the vending machine 10, is calculated.

その後、判定部26は、第2計算部25bが計算した第2MD値をもとに、カメラ22の撮像領域内における人物の動作が一般的動作である可能性が高いか、または、異常動作である可能性が高いかを判定する判定処理を行う(ステップS112)。判定部26は、第2MD値が1近傍である場合に、カメラ22の撮像範囲内の人物が自動販売機10に対して商品の購入などの一般的動作を行う可能性が高いことを示す正常判定を行う。一方、判定部26は、第2MD値が1よりも大きい値、たとえば5以上である場合に、カメラ22の撮像範囲内の人物が異常動作を行う可能性が高いことを示す異常判定を行う。   Thereafter, the determination unit 26 has a high possibility that the action of the person in the imaging region of the camera 22 is a general action based on the second MD value calculated by the second calculator 25b, or is an abnormal action. A determination process is performed to determine whether there is a high possibility (step S112). When the second MD value is close to 1, the determination unit 26 indicates that a person within the imaging range of the camera 22 is likely to perform a general operation such as purchasing a product on the vending machine 10. Make a decision. On the other hand, when the second MD value is greater than 1, for example, 5 or more, the determination unit 26 performs abnormality determination indicating that a person within the imaging range of the camera 22 is likely to perform an abnormal operation.

つぎに、制御部21は、判定部26が出力した判定結果が正常判定または異常判定のいずれかであるかを判断する(ステップS114)。制御部21は、判定部26が出力した判定結果が正常判定であると判断した場合には(ステップS114:正常判定)、ステップS102へ進み、カメラ22に対して撮像処理を指示し、画像処理部24、距離計算部25、判定部26に対して、カメラ22が撮像した静止画像におけるステップS104〜ステップS112の処理を指示する。   Next, the control unit 21 determines whether the determination result output from the determination unit 26 is normal determination or abnormality determination (step S114). When the control unit 21 determines that the determination result output from the determination unit 26 is normal determination (step S114: normal determination), the control unit 21 proceeds to step S102, instructs the camera 22 to perform imaging processing, and performs image processing. The unit 24, the distance calculation unit 25, and the determination unit 26 are instructed to perform the processing from step S104 to step S112 on the still image captured by the camera 22.

一方、制御部21が判定部26が出力した判定結果が異常判定であると判断した場合には(ステップS114:異常判定)、撮像範囲内の人物が異常動作を行う可能性が高い。このため、制御部21は、警告出力部27に異常動作を警告する音声、異常動作を警告する表示を出力させ、警告出力部27は、異常動作を警告する音声、異常動作を警告する表示を出力する警告処理を行う(ステップS116)。そして、外部通信部28は、制御部21の制御のもと、撮像領域内の人物の動作が異常動作である可能性が高い旨を報知し、予測された異常動作を撮像した画像を含む情報を監視センター30に送信させる異常報知処理を行う(ステップS118)。監視センター30は、送信された情報を用いて、異常動作が行われる可能性が高い旨を管理者に通報し、送信された情報をもとに異常動作を行う人物の特徴を解析する。   On the other hand, when the control unit 21 determines that the determination result output from the determination unit 26 is an abnormality determination (step S114: abnormality determination), there is a high possibility that a person within the imaging range performs an abnormal operation. For this reason, the control unit 21 causes the warning output unit 27 to output a sound for warning of abnormal operation and a display for warning of abnormal operation, and the warning output unit 27 displays a sound for warning of abnormal operation and a display for warning of abnormal operation. The warning process to output is performed (step S116). Then, under the control of the control unit 21, the external communication unit 28 informs that there is a high possibility that the motion of the person in the imaging area is an abnormal operation, and includes information including an image obtained by capturing the predicted abnormal operation Is transmitted to the monitoring center 30 (step S118). The monitoring center 30 notifies the administrator that there is a high possibility that an abnormal operation will be performed using the transmitted information, and analyzes the characteristics of the person who performs the abnormal operation based on the transmitted information.

このように、本実施の形態にかかる防犯装置20および防犯システム1においては、2度のMT処理を行うことによって、自動販売機10に対する人物の行動が、商品購入などの一般的動作である可能性が高いか、または、盗難破壊動作などの異常動作である可能性が高いかを予測することができる。この結果、防犯装置20および防犯システム1は、自動販売機10本体への盗難破壊動作などの異常動作が行われる前に警告処理や異常報知処理などを行うことによって、自動販売機10本体が完全に破壊されることを防止することが可能となる。   As described above, in the crime prevention device 20 and the crime prevention system 1 according to the present embodiment, by performing the MT process twice, the action of the person with respect to the vending machine 10 may be a general operation such as product purchase. It is possible to predict whether or not there is a high possibility of an abnormal operation such as a theft destruction operation. As a result, the security device 20 and the security system 1 perform the warning process and the abnormality notification process before the abnormal operation such as theft destruction operation on the main body of the vending machine 10 is performed. It can be prevented from being destroyed.

つぎに、図2において説明した各処理手順について具体的に説明する。まず、図2のステップS104に示す画像分割処理およびステップS106に示す画像圧縮処理について説明する。図3および図4は、図2に示す画像分割処理を説明するための図であり、図5は、図2に示す画像圧縮処理を説明するための図である。図3は、カメラ22によって撮像された画像の一例を示す図である。図3の画像F1に示すように、カメラ22は、自動販売機10を含む周辺領域を撮像している。また、画像F1は、このカメラ22の撮像範囲内に人物Hが入った場合を示している。カメラ22は、たとえば、177画素×144画素、すなわち、全25488画素の解像度であるフルカラー画像を順次撮像している。画像処理部24は、図2のステップS104における画像分割処理として、図4に示す画像Fc1のように画像F1を領域A〜Iの9つの領域に分割する。その後、画像処理部24は、図2のステップS106における画像圧縮処理として、図4の画像Fc1に示す領域A〜Iごとにモノクロ処理およびモザイク処理を行い、たとえば図5に示すような画像Fm1を取得する。この画像Fm1は、白から黒までの256階調であり、24画素×18画素である。この画像Fm1がつぎのステップS108における第1MT処理の処理対象の画像となる。このように、防犯装置20は、図面分割処理および図面圧縮処理を行い、処理対象である画像の情報量を減じているため、第1MT処理では画像全体が高解像度であっても処理可能となる。   Next, each processing procedure described in FIG. 2 will be specifically described. First, the image division process shown in step S104 and the image compression process shown in step S106 in FIG. 2 will be described. 3 and 4 are diagrams for explaining the image division processing shown in FIG. 2, and FIG. 5 is a diagram for explaining the image compression processing shown in FIG. FIG. 3 is a diagram illustrating an example of an image captured by the camera 22. As shown in an image F <b> 1 in FIG. 3, the camera 22 images a peripheral area including the vending machine 10. The image F <b> 1 shows a case where the person H is in the imaging range of the camera 22. For example, the camera 22 sequentially captures full-color images having a resolution of 177 pixels × 144 pixels, that is, a total of 25488 pixels. The image processing unit 24 divides the image F1 into nine areas A to I as an image Fc1 shown in FIG. 4 as the image division processing in step S104 of FIG. After that, the image processing unit 24 performs monochrome processing and mosaic processing for each of the areas A to I shown in the image Fc1 of FIG. 4 as the image compression processing in step S106 of FIG. 2, for example, an image Fm1 as shown in FIG. get. This image Fm1 has 256 gradations from white to black and is 24 pixels × 18 pixels. This image Fm1 is an image to be processed in the first MT process in the next step S108. As described above, the crime prevention apparatus 20 performs the drawing division process and the drawing compression process to reduce the information amount of the image to be processed, so that the first MT process can be performed even if the entire image has a high resolution. .

つぎに、図2のステップS108に示す第1MT処理について説明する。まず、第1MT処理における第1の基準空間について説明する。図6〜図8は、第1MT処理における第1の基準空間を説明する図である。第1MT処理における第1の基準空間は、図6に示す画像F0のように、管理対象である自動販売機10を含む周辺領域に人物が入っていない無人状態である場合の多数の画像がもととなる。図7に示すように、防犯装置20は、このような無人状態である画像F0に対し、図2のステップS104に示す図面分割処理と同様の分割処理を行い、図4に示す画像Fc1と同様の領域A〜Iに分割した画像Fc0とする。そして、図8に示すように、防犯装置20は、図2のステップS106に示す図面圧縮処理と同様の圧縮処理を行い、図5に示す画像Fm1同様の情報量である画像Fm0を取得する。防犯装置20は、この画像Fm0を第1MT処理における第1の基準空間を構成する画像として設定する。防犯装置20は、このような無人状態である画像を予め多数取得し、取得した画像それぞれに対して撮像処理、画像分割処理および画像圧縮処理を行うことによって得られた画像群を第1の基準空間として記憶部23に記憶する。たとえば、防犯装置20は、基準空間として無人状態である画像を3000枚程度取得しておく。   Next, the first MT process shown in step S108 of FIG. 2 will be described. First, the first reference space in the first MT process will be described. 6 to 8 are diagrams illustrating the first reference space in the first MT process. The first reference space in the first MT process includes a large number of images when there is no person in the peripheral area including the vending machine 10 to be managed as in the image F0 shown in FIG. It becomes. As shown in FIG. 7, the security device 20 performs the same division processing as the image division processing shown in step S104 of FIG. 2 on the image F0 in such an unmanned state, and is the same as the image Fc1 shown in FIG. An image Fc0 divided into areas A to I of FIG. Then, as shown in FIG. 8, the security device 20 performs a compression process similar to the drawing compression process shown in step S106 of FIG. 2, and acquires an image Fm0 having the same amount of information as the image Fm1 shown in FIG. The security device 20 sets the image Fm0 as an image constituting the first reference space in the first MT process. The security device 20 acquires a large number of such unmanned images in advance, and sets the image group obtained by performing the imaging process, the image dividing process, and the image compression process on each of the acquired images as a first reference. It memorize | stores in the memory | storage part 23 as space. For example, the security device 20 acquires about 3000 images that are unattended as a reference space.

さらに、図9を参照し、第1MT処理について説明する。図9では、図8に示す画像Fm0を第1の基準空間を構成する画像の一例として示し、画像Fm1〜Fm4に対して第1MT処理を行った場合を例に説明する。なお、画像Fm1、Fm2、Fm3、Fm4の順でカメラ22によって撮像されたものとする。   Further, the first MT process will be described with reference to FIG. In FIG. 9, the image Fm0 shown in FIG. 8 is shown as an example of an image constituting the first reference space, and a case where the first MT process is performed on the images Fm1 to Fm4 will be described as an example. It is assumed that images are captured by the camera 22 in the order of images Fm1, Fm2, Fm3, and Fm4.

図9に示すように、第1計算部25aは、第1MT処理において(1)式を用いることによって、画像Fm0を含む第1の基準空間に対する第1MD値を取得する。第1計算部25aは、この第1MT処理において、領域A〜Iごとに、基準空間に対する第1MD値を計算する。この結果、たとえば、図9の矢印Y1に示すように、画像Fm1の領域Aにおける第1MD値であるMD1(1)は41.2と求められる。同様に、画像Fm2についても、図9の矢印Y2に示すように、画像Fm2の領域Aにおける第1MD値であるMD1(2)は39.6と求められる。また、画像Fm3についても、図9の矢印Y3に示すように、領域Aにおける第1MD値であるMD1(3)は、39.2と求められ、画像Fm4についても、矢印Y4に示すように、領域Aにおける第1MD値であるMD1(4)は、35.0と求められる。このように、第1計算部25aは、画像処理部24によって処理された画像の各領域に対して、順次第1MT処理を行い、第1MD値を求める。   As illustrated in FIG. 9, the first calculation unit 25a acquires the first MD value for the first reference space including the image Fm0 by using the equation (1) in the first MT process. The first calculator 25a calculates a first MD value for the reference space for each of the regions A to I in the first MT process. As a result, for example, as indicated by an arrow Y1 in FIG. 9, MD1 (1) that is the first MD value in the region A of the image Fm1 is obtained as 41.2. Similarly, for the image Fm2, MD1 (2), which is the first MD value in the region A of the image Fm2, is obtained as 39.6, as indicated by the arrow Y2 in FIG. Also for the image Fm3, as indicated by the arrow Y3 in FIG. 9, MD1 (3), which is the first MD value in the region A, is obtained as 39.2, and for the image Fm4, as indicated by the arrow Y4, MD1 (4), which is the first MD value in the area A, is obtained as 35.0. As described above, the first calculation unit 25a sequentially performs the first MT processing on each region of the image processed by the image processing unit 24 to obtain the first MD value.

この結果、図10および図11に示すような第1MD値の計算結果が得られる。図10では、たとえば、撮像された一連の静止画像を1秒間に2コマの割合まで間引きし、画像分割処理、画像圧縮処理および第1MT処理を行った場合における各領域A〜Iにおける第1MD値を示す。図10は、撮像時間が5秒間であり、11枚の画像の第1MD値を示している。また、図11に、図10に示す各領域A〜Iにおける第1MD値の撮像順序依存を示す。図11は、撮像開始3秒後、すなわち、直線lmに対応する撮像順序が「6」以降に人物が撮像領域内に入り、無人状態から有人状態になる。図11に示すように、無人状態から有人状態となる直線lmを境界とし、1近傍であった第1MD値が少なくとも10以上の値に大きく変動している。このように、第1MD値が大きく変動することによって、撮像領域内が有人状態になることが判別できる。なお、制御部21は、第1MT処理における第1MD値の変動をもとに、第2MT処理を行うか否かを判断してもよい。すなわち、第1MT処理における第1MD値が大きく変動した場合には、撮像領域内が有人状態になったと判断して第2MT処理を行い、第1MT処理における第1MD値の変動が少ない場合には、撮像領域内が無人状態であると判断して、第2MT処理を行わず図2に示す撮像処理に進んでもよい。   As a result, a calculation result of the first MD value as shown in FIGS. 10 and 11 is obtained. In FIG. 10, for example, the first MD value in each of the areas A to I when a series of captured still images are thinned out to a rate of two frames per second and image division processing, image compression processing, and first MT processing are performed. Indicates. FIG. 10 shows the first MD value of 11 images with an imaging time of 5 seconds. FIG. 11 shows the imaging order dependence of the first MD values in the areas A to I shown in FIG. In FIG. 11, after 3 seconds from the start of imaging, that is, after the imaging order corresponding to the straight line lm is “6”, the person enters the imaging area and changes from the unmanned state to the manned state. As shown in FIG. 11, the first MD value that is in the vicinity of 1 greatly fluctuates to at least 10 or more, with the straight line lm from the unmanned state to the manned state as a boundary. Thus, it can be determined that the imaging region is in a manned state when the first MD value varies greatly. Note that the control unit 21 may determine whether or not to perform the second MT process based on a change in the first MD value in the first MT process. That is, when the first MD value in the first MT process greatly fluctuates, it is determined that the imaging region is in a manned state, the second MT process is performed, and when the first MD value fluctuates in the first MT process is small, It may be determined that the imaging region is in an unattended state, and the process may proceed to the imaging process shown in FIG. 2 without performing the second MT process.

つぎに、図2のステップS110に示す第2MT処理について説明する。第2MT処理では、自動販売機10に対して人物が商品購入などの一般的動作を行う場合の第1MD値群を第2の基準空間とし、この第2の基準空間と第1計算部25aにおいて計算された第1MD値とにおける第2MD値を計算する。   Next, the second MT process shown in step S110 of FIG. 2 will be described. In the second MT process, the first MD value group when a person performs a general operation such as purchasing a product with respect to the vending machine 10 is set as the second reference space, and the second reference space and the first calculation unit 25a A second MD value in the calculated first MD value is calculated.

まず、第2MT処理における第2の基準空間について説明する。第2MT処理における第2の基準空間は、自動販売機10に対して人物が一般的動作を行う場合の第1MD値群である。ここで、自動販売機10に人物の一般的動作におけるについて具体的に説明する。図12〜図14は、撮像領域内に入ってきた人物が自動販売機10に対して一般的動作である商品購入を行った場合を撮像した一連の静止画像における第1MD値の撮像順序依存を示す図である。図12〜図14は、それぞれ異なる人物が商品の購入を行った場合について示し、商品購入のため撮像領域内に人物が入ってきたときから5秒間の間に撮像された一連の静止画像をもととする。図12の曲線lB1、図13の曲線lB2および図14の曲線lB3は、それぞれ異なる人物に対する画像の領域Bにおける第1MD値の撮像順序依存を示す。曲線lB1、曲線lB2、曲線lB3に示すように、第1MD値は、いずれも撮像順序5以降に大きく増加し、撮像順序10近傍で撮像開始時の値に戻る点で大きく類似する。また、領域A,C〜Iのそれぞれ対応する曲線を同じ領域ごとに比較した場合も同様に各領域ごとに類似する傾向にある。すなわち、商品の購入をそれぞれ異なる人物が行った場合でも、各領域の第1MD値の撮像順序依存はそれぞれ類似する傾向にある。このため、商品購入などの一般的動作を行った場合、第1MD値の撮像順序依存はそれぞれ大きくかけ離れることは少ないと考えられる。   First, the second reference space in the second MT process will be described. The second reference space in the second MT process is a first MD value group when a person performs a general operation on the vending machine 10. Here, the general operation of a person in the vending machine 10 will be specifically described. FIGS. 12 to 14 show the imaging order dependence of the first MD values in a series of still images taken when a person who has entered the imaging area purchases a product that is a general operation for the vending machine 10. FIG. FIGS. 12 to 14 show cases in which different persons purchase products, and a series of still images captured for 5 seconds from when a person enters the imaging area for purchasing products are also shown. And Curve 1B1 in FIG. 12, curve 1B2 in FIG. 13, and curve 1B3 in FIG. 14 show the imaging order dependence of the first MD value in the region B of the image for different persons. As shown by the curve 1B1, the curve 1B2, and the curve 1B3, all of the first MD values greatly increase after the imaging order 5 and return to the values at the start of imaging in the vicinity of the imaging order 10 and are largely similar. Further, when the corresponding curves of the regions A and C to I are compared for each of the same regions, they tend to be similar for each region. That is, even when different persons purchase products, the dependence of the first MD value of each region on the imaging order tends to be similar. For this reason, when a general operation such as product purchase is performed, it is considered that the imaging order dependence of the first MD value is not significantly different from each other.

これに対し、図15〜図17を参照し、それぞれ異なる人物が異常動作である盗難破壊行為を行った場合について説明する。図15〜図17は、それぞれ異なる人物が異常動作である盗難破壊動作を行った場合を撮像した一連の静止画像における第1MD値の撮像順序依存を示す図である。この場合、図15〜図17では、同じ領域の第1MD値の撮像順序依存であってもほとんど類似せず、それぞれ大きく異なる撮像順序依存を示す。また、図15〜図17に示すように、図12〜図14に示す商品購入動作に対応する第1MD値の撮像順序依存とも類似する点がない。言い換えると、盗難破壊動作を行った場合における第1MD値の撮像順序依存は、商品購入などの一般的動作を行った場合の第1MD値の撮像順序依存と大きくかけ離れているものと考えられる。   On the other hand, with reference to FIGS. 15-17, the case where each different person performs the theft destruction act which is abnormal operation | movement is demonstrated. FIGS. 15 to 17 are diagrams illustrating the imaging order dependence of the first MD values in a series of still images captured when different persons perform a theft destruction operation that is an abnormal operation. In this case, in FIGS. 15 to 17, even if the first MD value of the same region is dependent on the imaging order, the imaging order dependence is greatly different from each other. Further, as shown in FIGS. 15 to 17, there is no point similar to the imaging order dependence of the first MD value corresponding to the product purchase operation shown in FIGS. 12 to 14. In other words, it is considered that the imaging order dependence of the first MD value when the theft destruction operation is performed is significantly different from the imaging order dependence of the first MD value when a general operation such as product purchase is performed.

したがって、第1計算部25aによって計算された第1MD値が、一般的動作に対応する第1MD値の母集団と大きくかけ離れていない場合、計算された第1MD値は、一般的動作に属する可能性が高いと考えられる。一方、第1計算部25aによって計算さされた第1MD値が、一般的動作に対応する第1MD値の母集団と大きくかけ離れている場合、計算された第1MD値は、一般的動作に属せず、盗難破壊動作などを含む異常動作に属する可能性が高いと考えられる。このため、防犯装置20は、一般的動作に対応する第1MD値を多数求め、この第1MD値群を、第2MT処理における基準空間である第2の基準空間として設定する。つぎに、第2計算部25bは、第1MT処理において計算された第1MD値に対して第2MT処理を行い、第2の基準空間と第1MT処理において計算された第1MD値との距離である第2MD値を求める。そして、判定部26は、第2MD値をもとに第2の基準空間に対してどの程度かけ離れているかによって、カメラ22に撮像された人物の動作が盗難破壊動作などの異常動作に属する可能性が高いか否かを判断することができる。   Therefore, if the first MD value calculated by the first calculation unit 25a is not significantly different from the population of the first MD value corresponding to the general action, the calculated first MD value may belong to the general action. Is considered high. On the other hand, when the first MD value calculated by the first calculation unit 25a is far from the population of the first MD value corresponding to the general motion, the calculated first MD value belongs to the general motion. Therefore, the possibility of belonging to an abnormal operation including theft destruction operation is high. For this reason, the crime prevention apparatus 20 obtains a large number of first MD values corresponding to general operations, and sets the first MD value group as a second reference space that is a reference space in the second MT process. Next, the second calculator 25b performs the second MT process on the first MD value calculated in the first MT process, and is the distance between the second reference space and the first MD value calculated in the first MT process. A second MD value is obtained. Then, the determination unit 26 may determine whether the person's motion captured by the camera 22 belongs to an abnormal operation such as a theft destruction operation, depending on how far the second reference space is based on the second MD value. It can be determined whether or not is high.

実際に、一般的動作を行った場合の第2MD値の計算結果について説明する。図18は、第2MT処理を説明する図である。図18の第1MD群Daは、第2MT処理における第2の基準空間であり、多数回の一般的動作を撮像した一連の静止画像に画像分割処理、画像圧縮処理および第1MT処理を行うことによって予め取得されたものである。また、第1MD値群Dnは、第2MT処理における処理対象であり、自動販売機10における商品購入動作を撮像した一連の静止画像に画像分割処理、画像圧縮処理および第1MT処理を行うことによって得られた第1MD値である。この第1MD群Dnは、商品購入動作を撮像した一連の静止画像のうち、第1MT処理を行われた画像すべてにおける第1MD値である。言い換えると、一つの動作に対して計算された第1MD値すべてが第2MT処理の処理対象となる。第2計算部25bは、第2の基準空間である第1MD群Daと第1MD群DnとのMD値、すなわち、第2MD値を計算する。この結果、第1MD群Dnにおける第2MD値であるMD2(n)は、1.2となる。このように、第2計算部25bは、一つの動作ごとに第2MD値を計算する。   Actually, the calculation result of the second MD value when the general operation is performed will be described. FIG. 18 is a diagram illustrating the second MT process. The first MD group Da in FIG. 18 is a second reference space in the second MT processing, and is obtained by performing image division processing, image compression processing, and first MT processing on a series of still images obtained by imaging a general operation many times. It is acquired in advance. The first MD value group Dn is a processing target in the second MT process, and is obtained by performing an image division process, an image compression process, and a first MT process on a series of still images obtained by capturing a product purchase operation in the vending machine 10. The first MD value obtained. The first MD group Dn is a first MD value in all the images that have been subjected to the first MT processing, among a series of still images obtained by capturing a product purchase operation. In other words, all the first MD values calculated for one operation are the processing targets of the second MT process. The second calculator 25b calculates the MD values of the first MD group Da and the first MD group Dn that are the second reference space, that is, the second MD value. As a result, MD2 (n) which is the second MD value in the first MD group Dn is 1.2. Thus, the 2nd calculation part 25b calculates a 2nd MD value for every operation | movement.

つぎに、図2に示す判定処理について説明する。図19は、一般的動作に対する第2MD値の各値に対するデータ数を示す表であり、図20は、図19の結果をグラフ化したものであり、分布データ数の第2MD値依存を示す図である。図19および図20に示すように、一般的動作においては、第2MT処理において計算されたデータは、ほぼ1近傍に分布している。MT法では、MD値が1近傍にある場合には、このMD値を有する標本は、母集団に属する可能性が高いとされる。すなわち、一般的動作においては、第2の基準空間のもととなる多数の一般的動作の第1MD群に大きくかけ離れていないことから、第2MD値は、1近傍に集中するものと考えられる。このため、第2MD値が1近傍である場合、この第2MD値に対応する動作は、一般的動作に属する可能性が高いと考えられる。   Next, the determination process shown in FIG. 2 will be described. FIG. 19 is a table showing the number of data for each value of the second MD value with respect to a general operation, and FIG. 20 is a graph showing the result of FIG. 19, showing the dependence of the number of distribution data on the second MD value. It is. As shown in FIGS. 19 and 20, in a general operation, the data calculated in the second MT process is distributed almost in the vicinity of one. In the MT method, when the MD value is in the vicinity of 1, a sample having this MD value is highly likely to belong to the population. That is, in the general operation, the second MD value is considered to be concentrated in the vicinity of 1 because it is not greatly separated from the first MD group of many general operations that are the basis of the second reference space. For this reason, when the second MD value is near 1, it is considered that the operation corresponding to the second MD value is likely to belong to a general operation.

実際に、商品購入などの一般的動作および窃盗破壊動作などの異常動作を行い、第2MD値を計算した結果を図21に示す。図21に示すように、一般的動作1〜3を行った場合、第2MD値は、0.96、1.03、1.37の値を示す。このように、一般的動作を行った場合、第2MD値は1近傍に集中する。これに対し、盗難破壊動作などの異常動作1〜3を行った場合、第2MD値は、5.82、6.84、21.72の値を示す。このように、異常動作を行った場合、第2MD値は1よりも明らかに大きな値、たとえば、5以上の大きな値を示す傾向があるものと考えられる。このような傾向を利用し、判定部26は、第2計算部25bが計算した第2MD値が1近傍であるか、または、5以上であるかを判断することによって、撮像領域内の人物が一般的動作を行う可能性が高いか、または、異常動作を行う可能性が高いかを判定している。判定部26は、第2MD値が1近傍である場合には、カメラ22の撮像範囲内の人物が一般的動作を行うと予測し、カメラ22の撮像範囲内の人物が商品の購入などの一般的動作を行う可能性が高いことを示す正常判定を行う。一方、判定部26は、第2MD値が5以上である場合に、カメラ22の撮像範囲内の人物が盗難破壊動作などの異常動作を行うと予測し、カメラ22の撮像範囲内の人物が異常動作を行う可能性が高いことを示す異常判定を行う。この結果、防犯装置20は、判定部26が異常判定を行った場合、撮像範囲内の人物が盗難破壊などを行う前に、所定の警告音声、所定の警告表示を出力することによって、盗難破壊などの異常動作の完了を防止することができ、自動販売機10の破壊を防止することができる。また、防犯装置20は、判定部26が判定結果を監視センター30に報知することによって、異常動作を行う人物がいることを管理者に通報することができ、異常動作の完了前に異常動作を行う人物の特徴の解析を行える場合がある。   FIG. 21 shows the result of calculating the second MD value by actually performing a general operation such as merchandise purchase and an abnormal operation such as theft destruction operation. As shown in FIG. 21, when the general operations 1 to 3 are performed, the second MD values are 0.96, 1.03, and 1.37. Thus, when the general operation is performed, the second MD value is concentrated in the vicinity of 1. On the other hand, when the abnormal operations 1 to 3 such as the theft destruction operation are performed, the second MD values are 5.82, 6.84, and 21.72. Thus, when an abnormal operation is performed, it is considered that the second MD value tends to show a value clearly larger than 1, for example, a value larger than 5. By using such a tendency, the determination unit 26 determines whether the second MD value calculated by the second calculation unit 25b is near 1 or 5 or more, so that the person in the imaging region can be identified. It is determined whether there is a high possibility of performing a general operation or a high possibility of performing an abnormal operation. When the second MD value is close to 1, the determination unit 26 predicts that a person within the imaging range of the camera 22 performs a general operation, and the person within the imaging range of the camera 22 generally purchases a product. A normal determination is made to indicate that there is a high possibility of performing a target action. On the other hand, when the second MD value is 5 or more, the determination unit 26 predicts that the person in the imaging range of the camera 22 performs an abnormal operation such as a theft destruction operation, and the person in the imaging range of the camera 22 is abnormal. An abnormality determination is performed indicating that there is a high possibility of performing the operation. As a result, the crime prevention apparatus 20 outputs the predetermined warning sound and the predetermined warning display before the person in the imaging range performs the theft destruction when the determination unit 26 performs the abnormality determination. Completion of abnormal operations such as the above can be prevented, and destruction of the vending machine 10 can be prevented. In addition, the security device 20 can notify the administrator that there is a person who performs an abnormal operation by the determination unit 26 notifying the monitoring center 30 of the determination result, and the abnormal operation can be performed before the abnormal operation is completed. In some cases, the characteristics of the person to be performed can be analyzed.

このように、本実施の形態にかかる防犯装置20を備えた防犯システム1によれば、カメラ22の撮像領域内における人物の行動が盗難破壊などの異常動作である可能性が高いことを予測し、警告処理などを行うことができるため、従来の防犯装置と比較し、異常動作の完了を防止することができる。この結果、防犯システム1は、従来と比較し、管理対象である自動販売機10の破壊を防止することができ、自動販売機10の管理を適切に行うことができる。   Thus, according to the crime prevention system 1 provided with the crime prevention device 20 according to the present embodiment, it is predicted that there is a high possibility that the action of the person in the imaging area of the camera 22 is an abnormal operation such as theft destruction. Since warning processing or the like can be performed, the completion of abnormal operation can be prevented as compared with a conventional security device. As a result, the crime prevention system 1 can prevent the vending machine 10 to be managed from being destroyed and can appropriately manage the vending machine 10 as compared with the conventional system.

また、本実施の形態にかかる防犯装置20および防犯システム1は、カメラ22が撮像した画像の第1MD値を求め、この第1MD値の変動の有無から撮像領域内が有人状態になったことを認識することができる。このため、本実施の形態にかかる防犯装置20および防犯システム1は、従来の防犯装置および防犯システムと比較し、振動センサなどの異常動作検出センサを削除した構成を有するため、従来よりも簡易な構成とすることができる。   In addition, the security device 20 and the security system 1 according to the present embodiment obtain the first MD value of the image captured by the camera 22 and confirm that the imaging region is in a manned state based on whether or not the first MD value varies. Can be recognized. For this reason, since the crime prevention device 20 and the crime prevention system 1 according to the present embodiment have a configuration in which an abnormal operation detection sensor such as a vibration sensor is deleted as compared with the conventional crime prevention device and the crime prevention system, it is simpler than before. It can be configured.

なお、本実施の形態では、撮像領域内の人物の行動が異常動作である可能性が高いか否かを判定し、警告処理などを行う場合について説明したが、これに限らない。たとえば防犯装置20は、第2の基準空間として、商品購入を迷っている場合の動作に対する一連の静止画像を多数取得し、これらの画像における第1MD値群を予め取得しておく。そして、第2計算部25bは、第2MT処理において、この商品購入を迷っている場合の動作に対応する第2の基準空間に対して第2MD値を求める。つぎに、判定部26は、第2MD値が1近傍である場合には、撮像領域内の人物が商品購入を迷っている可能性が高いと判定し、この判定に基づいて、警告出力部27は、推奨商品などの商品紹介を行う音声を出力してもよい。   In the present embodiment, a case has been described in which it is determined whether there is a high possibility that the action of a person in the imaging region is an abnormal operation, and a warning process or the like is performed. However, the present invention is not limited to this. For example, the crime prevention apparatus 20 acquires a large number of still images for the operation when he / she is unsure about product purchase as the second reference space, and previously acquires the first MD value group in these images. And the 2nd calculation part 25b calculates | requires 2nd MD value with respect to the 2nd reference | standard space corresponding to the operation | movement in the case of being uncertain about this goods purchase in 2nd MT process. Next, when the second MD value is close to 1, the determination unit 26 determines that there is a high possibility that a person in the imaging region is at a loss in purchasing the product, and based on this determination, the warning output unit 27 May output a voice for introducing a product such as a recommended product.

また、本実施の形態では、防犯装置20が画像処理部24、距離計算部25、判定部26を備えた場合について説明したが、これに限らず、監視センター30における管理装置が画像処理部24、距離計算部25、判定部26を備え、撮像領域内の人物の動作が異常動作である可能性が高いか否かを判断してもよい。この場合、防犯装置20における制御部21は、カメラ22が撮像した一連の静止画像を監視センター30に随時送信し、監視センター30における管理装置の指示をもとに警告出力部27における警告処理を行ってもよい。   Further, in the present embodiment, the case where the crime prevention device 20 includes the image processing unit 24, the distance calculation unit 25, and the determination unit 26 has been described. However, the present invention is not limited to this, and the management device in the monitoring center 30 is the image processing unit 24. The distance calculation unit 25 and the determination unit 26 may be provided, and it may be determined whether or not there is a high possibility that the motion of the person in the imaging region is an abnormal operation. In this case, the control unit 21 in the security device 20 transmits a series of still images captured by the camera 22 to the monitoring center 30 as needed, and performs warning processing in the warning output unit 27 based on instructions from the management device in the monitoring center 30. You may go.

また、本実施の形態では、管理対象を自動販売機10とした場合について説明したが、これに限らず、金銭、商品の盗難や装置本体の破壊を防止する防犯装置および防犯システム全般に適用することが可能である。たとえば、現金自動預け入れ払い機本体の破壊や現金自動預け入れ払い機内の金銭の盗難を防止する防犯装置に適用してもよい。   Moreover, although this embodiment demonstrated the case where the management object was the vending machine 10, it is not restricted to this, It applies to the crime prevention apparatus and crime prevention system generally which prevent money, theft of goods, or destruction of an apparatus main body. It is possible. For example, you may apply to the crime prevention apparatus which prevents destruction of the automatic teller machine main body, or the theft of money in an automatic teller machine.

また、上記実施の形態で説明した防犯システム1、防犯装置20は、あらかじめ用意されたプログラムをパーソナル・コンピュータやワークステーションなどのコンピュータシステムで実行することによって実現することができる。以下、上記実施の形態で説明した防犯システムにおける処理動作と同様の機能を有するプログラムを実行するコンピュータシステムについて説明する。   The security system 1 and the security device 20 described in the above embodiment can be realized by executing a program prepared in advance on a computer system such as a personal computer or a workstation. Hereinafter, a computer system that executes a program having the same function as the processing operation in the crime prevention system described in the above embodiment will be described.

図22は、上述した実施の形態を用いたコンピュータシステムの構成を示すシステム構成図であり、図23は、このコンピュータシステムにおける本体部の構成を示すブロック図である。図22に示すように、本実施の形態にかかるコンピュータシステム100は、本体部101と、本体部101からの指示によって表示画面102aに画像などの情報を表示するためのディスプレイ102と、このコンピュータシステム100に種々の情報を入力するためのキーボード103と、ディスプレイ102の表示画面102a上の任意の位置を指定するためのマウス104とを備える。   FIG. 22 is a system configuration diagram showing the configuration of the computer system using the above-described embodiment, and FIG. 23 is a block diagram showing the configuration of the main body in this computer system. As shown in FIG. 22, a computer system 100 according to the present embodiment includes a main body 101, a display 102 for displaying information such as an image on a display screen 102a according to an instruction from the main body 101, and the computer system. A keyboard 103 for inputting various information to 100 and a mouse 104 for designating an arbitrary position on the display screen 102a of the display 102 are provided.

また、このコンピュータシステム100における本体部101は、図10に示すように、CPU121と、RAM122と、ROM123と、ハードディスクドライブ(HDD)124と、CD−ROM109を受け入れるCD−ROMドライブ125と、フレキシブルディスク(FD)108を受け入れるFDドライブ126と、ディスプレイ102、キーボード103並びにマウス104を接続するI/Oインターフェース127と、ローカルエリアネットワークまたは広域エリアネットワーク(LAN/WAN)106に接続するLANインターフェース128とを備える。   Further, as shown in FIG. 10, a main body 101 in the computer system 100 includes a CPU 121, a RAM 122, a ROM 123, a hard disk drive (HDD) 124, a CD-ROM drive 125 that receives a CD-ROM 109, and a flexible disk. An FD drive 126 that accepts an (FD) 108; an I / O interface 127 that connects the display 102, keyboard 103, and mouse 104; and a LAN interface 128 that connects to a local area network or wide area network (LAN / WAN) 106 Prepare.

さらに、このコンピュータシステム100には、インターネットなどの公衆回線107に接続するためのモデム105が接続されるとともに、LANインターフェース128およびLAN/WAN106を介して、他のコンピュータシステム(PC)111、サーバ112、プリンタ113などが接続される。   Further, a modem 105 for connecting to a public line 107 such as the Internet is connected to the computer system 100, and another computer system (PC) 111 and server 112 are connected via a LAN interface 128 and a LAN / WAN 106. The printer 113 is connected.

そして、このコンピュータシステム100は、所定の記録媒体に記録されたプログラムを読み出して実行することで防犯システムを実現する。ここで、所定の記録媒体とは、フレキシブルディスク(FD)108、CD−ROM109、MOディスク、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」の他に、コンピュータシステム100の内外に備えられるハードディスクドライブ(HDD)124や、RAM122、ROM123などの「固定用の物理媒体」、さらに、モデム105を介して接続される公衆回線107や、他のコンピュータシステム111並びにサーバ112が接続されるLAN/WAN106などのように、プログラムの送信に際して短期にプログラムを保持する「通信媒体」など、コンピュータシステム100によって読み取り可能なプログラムを記録する、あらゆる記録媒体を含むものである。   And this computer system 100 implement | achieves a crime prevention system by reading and running the program recorded on the predetermined recording medium. Here, the predetermined recording medium is not limited to “portable physical medium” such as flexible disk (FD) 108, CD-ROM 109, MO disk, DVD disk, magneto-optical disk, IC card, etc. Connected to internal and external hard disk drives (HDD) 124, “fixed physical media” such as RAM 122 and ROM 123, public line 107 connected via modem 105, other computer system 111 and server 112 Any recording medium that records a program that can be read by the computer system 100, such as a “communication medium” that holds the program in a short period of time when the program is transmitted, such as a LAN / WAN 106 that is used.

すなわち、プログラムは、上記した「可搬用の物理媒体」、「固定用の物理媒体」、「通信媒体」などの記録媒体に、コンピュータ読み取り可能に記録されるものであり、コンピュータシステム100は、このような記録媒体からプログラムを読み出して実行することで防犯装置および防犯システムを実現する。なお、プログラムは、コンピュータシステム100によって実行されることに限定されるものではなく、他のコンピュータシステム111またはサーバ112がプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。   That is, the program is recorded on a recording medium such as the above-mentioned “portable physical medium”, “fixed physical medium”, “communication medium” and the like so that the computer system 100 can read the program. A security device and a security system are realized by reading and executing the program from such a recording medium. Note that the program is not limited to being executed by the computer system 100, and when the other computer system 111 or the server 112 executes the program, or when they cooperate to execute the program. In addition, the present invention can be similarly applied.

実施の形態における防犯システムの全体構成を示す模式図である。It is a mimetic diagram showing the whole crime prevention system composition in an embodiment. 図1に示す防犯装置の動作処理を説明するフローチャートである。It is a flowchart explaining the operation | movement process of the crime prevention apparatus shown in FIG. 図2に示す画像分割処理を説明する図である。It is a figure explaining the image division process shown in FIG. 図2に示す画像分割処理を説明する図である。It is a figure explaining the image division process shown in FIG. 図2に示す画像圧縮処理を説明する図である。It is a figure explaining the image compression process shown in FIG. 図2に示す第1MT処理における第1の基準空間を説明する図である。It is a figure explaining the 1st reference space in the 1st MT processing shown in FIG. 図2に示す第1MT処理における第1の基準空間を説明する図である。It is a figure explaining the 1st reference space in the 1st MT processing shown in FIG. 図2に示す第1MT処理における第1の基準空間を説明する図である。It is a figure explaining the 1st reference space in the 1st MT processing shown in FIG. 図2に示す第1MT処理を説明する図である。It is a figure explaining the 1st MT process shown in FIG. 図2に示す第1MT処理における第1MD値の計算結果を例示する図である。It is a figure which illustrates the calculation result of the 1st MD value in the 1st MT processing shown in FIG. 図10に示す各領域A〜Iにおける第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in each area | region AI shown in FIG. 撮像領域内に入ってきた人物が自動販売機に対して一般的動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed general operation | movement with respect to the vending machine. 撮像領域内に入ってきた人物が自動販売機に対して一般的動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed general operation | movement with respect to the vending machine. 撮像領域内に入ってきた人物が自動販売機に対して一般的動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed general operation | movement with respect to the vending machine. 撮像領域内に入ってきた人物が自動販売機に対して異常動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed abnormal operation | movement with respect to a vending machine. 撮像領域内に入ってきた人物が自動販売機に対して異常動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed abnormal operation | movement with respect to a vending machine. 撮像領域内に入ってきた人物が自動販売機に対して異常動作を行った場合を撮像した画像における第1MD値の撮像順序依存を示す図である。It is a figure which shows the imaging order dependence of the 1st MD value in the image imaged when the person who entered the imaging region performed abnormal operation | movement with respect to a vending machine. 図2に示す第2MT処理を説明する図である。It is a figure explaining the 2nd MT processing shown in FIG. 一般的動作に対する第2MD値の各値に対するデータ数を示す図である。It is a figure which shows the data number with respect to each value of the 2nd MD value with respect to general operation | movement. 図19に示すデータ数の第2MD値依存を示す図である。It is a figure which shows 2nd MD value dependence of the number of data shown in FIG. 一般的動作および異常動作を行った場合の第2MD値を示す図である。It is a figure which shows the 2nd MD value at the time of performing general operation | movement and abnormal operation | movement. 実施の形態を用いたコンピュータシステムの構成を示す構成図である。It is a block diagram which shows the structure of the computer system using embodiment. 図22に示したコンピュータシステムにおける本体部の構成を示すブロック図である。It is a block diagram which shows the structure of the main-body part in the computer system shown in FIG.

符号の説明Explanation of symbols

1 防犯システム
10 自動販売機
20 防犯装置
21 制御部
22 カメラ
23 記憶部
24 画像処理部
25 距離計算部
25a 第1計算部
25b 第2計算部
26 判定部
27 警告出力部
28 外部通信部
30 監視センター
100 コンピュータシステム
101 本体部
102 ディスプレイ
102a 表示画面
103 キーボード
104 マウス
105 モデム
106 ローカルエリアネットワークまたは広域エリアネットワーク(LAN/WAN)
107 公衆回線
108 フレキシブルディスク(FD)
109 CD−ROM
111 他のコンピュータシステム(PC)
112 サーバ
113 プリンタ
121 CPU
122 RAM
123 ROM
124 ハードディスクドライブ(HDD)
125 CD−ROMドライブ
126 FDドライブ
127 I/Oインターフェース
128 LANインターフェース
DESCRIPTION OF SYMBOLS 1 Security system 10 Vending machine 20 Security device 21 Control part 22 Camera 23 Memory | storage part 24 Image processing part 25 Distance calculation part 25a 1st calculation part 25b 2nd calculation part 26 Judgment part 27 Warning output part 28 External communication part 30 Monitoring center DESCRIPTION OF SYMBOLS 100 Computer system 101 Main body part 102 Display 102a Display screen 103 Keyboard 104 Mouse 105 Modem 106 Local area network or wide area network (LAN / WAN)
107 Public line 108 Flexible disk (FD)
109 CD-ROM
111 Other computer systems (PC)
112 server 113 printer 121 CPU
122 RAM
123 ROM
124 hard disk drive (HDD)
125 CD-ROM drive 126 FD drive 127 I / O interface 128 LAN interface

Claims (6)

管理対象が設けられた所定の撮像領域を撮像する撮像手段を備えた防犯装置において、
撮像領域内が無人状態である場合の画像群を第1の母集団として記憶するとともに、前記管理対象に一般的動作を行った場合を撮像した画像群と前記第1の母集団とのMT法におけるマハラノビス距離を第2の母集団として記憶する記憶手段と、
前記撮像手段で撮像した画像と前記第1の母集団とのMT法におけるマハラノビス距離を第1の距離として計算する第1の計算手段と、
前記第1の距離と前記第2の母集団とのMT法におけるマハラノビス距離を第2の距離として計算する第2の計算手段と、
前記第2の計算手段によって計算された前記第2の距離を隔たり度とし、該隔たり度をもとに、前記撮像領域内における人物の動作が一般的である可能性が高いか、または、異常動作である可能性が高いかを判定する判定手段と、
前記撮像手段により前記撮像領域を撮像した場合に都度第1の距離を計算し、前記計算した第1の距離の変動をもとに前記第2の距離を計算するか否かを判断し、前記第1の距離の変動がある値を超えた場合にのみ前記第2の距離を計算する制御手段と、を備え、
前記判定手段は、前記管理対象に一般的動作を行った場合を撮像した画像群および前記管理対象に異常動作を行った場合を撮像した画像群における第2の距離群の分布傾向をもとに設定した閾値よりも、前記隔たり度が大きな値である場合に異常動作である可能性が高いと判定することを特徴とする防犯装置。
In a crime prevention apparatus provided with an imaging means for imaging a predetermined imaging area provided with a management target,
An image method in which an imaging region is unattended is stored as a first population, and an MT method is performed between an image group in which a general operation is performed on the management target and the first population. Storage means for storing the Mahalanobis distance in as a second population;
First calculation means for calculating a Mahalanobis distance in an MT method between an image captured by the imaging means and the first population as a first distance;
Second calculating means for calculating the Mahalanobis distance in the MT method between the first distance and the second population as a second distance;
The second distance calculated by the second calculation means is set as a separation degree, and based on the separation degree, it is highly likely that a person's movement in the imaging region is general or abnormal. A determination means for determining whether or not there is a high possibility of an action;
A first distance is calculated each time the imaging area is imaged by the imaging means, and it is determined whether to calculate the second distance based on the variation of the calculated first distance, Control means for calculating the second distance only when a variation in the first distance exceeds a certain value ,
The determination means is based on the distribution tendency of the second distance group in the image group obtained by imaging the case where the general operation is performed on the management target and the image group obtained when the abnormal operation is performed on the management target. A crime prevention device characterized by determining that the possibility of an abnormal operation is high when the degree of separation is greater than a set threshold value.
前記撮像画像の分割および/または圧縮を行う画像処理手段をさらに備え、
前記第1の計算手段は、前記画像処理手段によって画像データを複数領域にて分割および/または圧縮を行われた画像をもとに前記第1の距離を計算することを特徴とする請求項1に記載の防犯装置。
Further comprising image processing means for dividing and / or compressing the captured image;
2. The first calculation unit according to claim 1, wherein the first calculation unit calculates the first distance based on an image obtained by dividing and / or compressing image data in a plurality of regions by the image processing unit. Security device as described in 4.
前記判定手段が前記撮像領域内における人物の動作が異常動作である可能性が高いと判定した場合、前記異常動作を警告する音声および/または前記異常動作を警告する表示を出力する出力手段をさらに備えたことを特徴とする請求項1または2に記載の防犯装置。   An output means for outputting a sound for warning of the abnormal action and / or a display for warning of the abnormal action when the judging means determines that there is a high possibility that the action of the person in the imaging region is an abnormal action; The crime prevention device according to claim 1, wherein the security device is provided. 前記判定手段が前記撮像領域内の人物の動作が異常動作である可能性が高いと判定した場合、該異常動作である可能性が高い旨を外部装置に対して報知する外部通信手段をさらに備えたことを特徴とする請求項1〜3のいずれか一つに記載の防犯装置。   When the determination unit determines that the action of the person in the imaging area is likely to be an abnormal operation, the communication unit further includes an external communication unit that notifies an external device that the possibility of the abnormal operation is high The crime prevention device according to any one of claims 1 to 3, wherein 所定の管理対象を管理する防犯システムにおいて、
請求項1〜4のいずれか一つに記載の防犯装置と、
前記防犯装置から送信された情報をもとに前記管理対象を管理する管理装置と、
を備えたことを特徴とする防犯システム。
In a crime prevention system that manages a predetermined management target,
The crime prevention device according to any one of claims 1 to 4,
A management device for managing the management object based on information transmitted from the security device;
Security system characterized by having
所定の管理対象を管理する防犯プログラムにおいて、
前記管理対象が設けられた所定の撮像領域を撮像する撮像手順と、
前記撮像領域内が無人状態である場合の画像群を第1の母集団として記憶するとともに、前記管理対象に一般的動作を行った場合を撮像した画像群と前記第1の母集団とのMT法におけるマハラノビス距離を第2の母集団として記憶する記憶手順と、
前記撮像手順で撮像した画像と前記第1の母集団とのMT法におけるマハラノビス距離を第1の距離として計算する第1の計算手順と、
前記第1の距離と前記第2の母集団とのMT法におけるマハラノビス距離を第2の距離として計算する第2の計算手順と、
前記第2の計算手順において計算された前記第2の距離を隔たり度とし、該隔たり度をもとに、前記撮像領域内における人物の動作が一般的である可能性が高いか、または、異常動作である可能性が高いかを判定する判定手順と、
前記撮像手順により前記撮像領域を撮像した場合に都度第1の距離を計算し、前記計算した第1の距離の変動をもとに前記第2の距離を計算するか否かを判断し、前記第1の距離の変動がある値を超えた場合にのみ前記第2の距離を計算する制御手順と、を含み、
前記判定手順は、前記管理対象に一般的動作を行った場合を撮像した画像群および前記管理対象に異常動作を行った場合を撮像した画像群における第2の距離群の分布傾向をもとに設定した閾値よりも、前記隔たり度が大きな値である場合に異常動作である可能性が高いと判定することを特徴とする防犯プログラム。
In a crime prevention program that manages a predetermined management target,
An imaging procedure for imaging a predetermined imaging area in which the management object is provided;
An image group when the imaging region is unattended is stored as a first population, and an MT of the image group captured when a general operation is performed on the management target and the first population A memory procedure for storing the Mahalanobis distance in the law as a second population;
A first calculation procedure for calculating the Mahalanobis distance in the MT method between the image captured in the imaging procedure and the first population as a first distance;
A second calculation procedure for calculating the Mahalanobis distance in the MT method between the first distance and the second population as a second distance;
The second distance calculated in the second calculation procedure is set as a separation degree, and based on the separation degree, it is highly likely that a person's movement in the imaging region is general or abnormal. A determination procedure for determining whether or not there is a high possibility of an action,
Calculating the first distance each time the imaging region is imaged by the imaging procedure, determining whether to calculate the second distance based on the variation of the calculated first distance, A control procedure for calculating the second distance only when a variation in the first distance exceeds a certain value ,
The determination procedure is based on a distribution tendency of a second distance group in an image group obtained by imaging a case where a general operation is performed on the management target and an image group obtained by imaging an abnormal operation on the management target. A crime prevention program characterized by determining that there is a high possibility of abnormal operation when the degree of separation is larger than a set threshold value.
JP2005343868A 2005-11-29 2005-11-29 Security device, security system and security program Expired - Fee Related JP5098160B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005343868A JP5098160B2 (en) 2005-11-29 2005-11-29 Security device, security system and security program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005343868A JP5098160B2 (en) 2005-11-29 2005-11-29 Security device, security system and security program

Publications (2)

Publication Number Publication Date
JP2007148894A JP2007148894A (en) 2007-06-14
JP5098160B2 true JP5098160B2 (en) 2012-12-12

Family

ID=38210227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005343868A Expired - Fee Related JP5098160B2 (en) 2005-11-29 2005-11-29 Security device, security system and security program

Country Status (1)

Country Link
JP (1) JP5098160B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5401062B2 (en) * 2008-09-05 2014-01-29 ベックマン コールター, インコーポレイテッド Image pattern determination method, system, apparatus, program, and computer-readable recording medium storing the program
US20160189043A1 (en) * 2014-12-24 2016-06-30 Locator IP, L.P. Crime forcasting system
JP7250264B2 (en) * 2019-08-08 2023-04-03 株式会社ティファナ ドットコム Security device, vending machine or information providing device, and program
JP7316712B1 (en) 2022-04-26 2023-07-28 株式会社アジラ Abnormal behavior detection system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04273689A (en) * 1991-02-28 1992-09-29 Hitachi Ltd Monitoring device
JPH0749915A (en) * 1993-08-04 1995-02-21 Omron Corp Crime prevention device for automatic transaction area
JP2000149114A (en) * 1998-11-12 2000-05-30 Fuji Electric Co Ltd Automatic vending machine and crime preventing method for the same
JP2004302605A (en) * 2003-03-28 2004-10-28 Sanden Corp Antitheft system for vending machine
JP4513365B2 (en) * 2004-03-12 2010-07-28 コニカミノルタエムジー株式会社 Medical image processing apparatus and medical image processing program
JP2005293331A (en) * 2004-04-01 2005-10-20 Nissan Motor Co Ltd Simulation method of non-rigid object added to robot and state diagnosing method of non-rigid object added to robot

Also Published As

Publication number Publication date
JP2007148894A (en) 2007-06-14

Similar Documents

Publication Publication Date Title
JP7160154B2 (en) System, abnormality determination device and method
US10817710B2 (en) Predictive theft notification
US20190251537A1 (en) Intelligent video verification of point of sale (pos) transactions
US8675065B2 (en) Video monitoring system
US8295545B2 (en) System and method for model based people counting
US8694443B2 (en) System and method for automatically distinguishing between customers and in-store employees
US20190327451A1 (en) Video image analysis apparatus and video image analysis method
US20100114617A1 (en) Detecting potentially fraudulent transactions
CN108391147B (en) Display control device and display control method
JP7069667B2 (en) Estimating program, estimation system, and estimation method
US20060072010A1 (en) Target property maps for surveillance systems
JP5098160B2 (en) Security device, security system and security program
WO2017163532A1 (en) Information processing device, information processing method, and program
JP5088463B2 (en) Monitoring system
JP2004178524A (en) Pos system and information processing method of pos system
US11842513B2 (en) Image processing apparatus, image processing method, and storage medium
US20100169169A1 (en) System and method for using transaction statistics to facilitate checkout variance investigation
US20100157051A1 (en) System and method for detecting and deterring rfid tag related fraud
JP2022027439A (en) Analysis method of image/video using activity signature and analysis system of the same
JP2009151485A (en) Suspicious behavior detecting system, suspicious behavior detecting method, and suspicious behavior detecting program
JP5002131B2 (en) Imaging device for monitoring and control method thereof
EP2375382A1 (en) Image motion detection method and apparatus
JP2010087937A (en) Video detection device, video detection method and video detection program
JP5618366B2 (en) Monitoring system, monitoring device, monitoring method, and program
JP4637564B2 (en) Status detection device, status detection method, program, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120910

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5098160

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees