JP7054075B2 - Information processing system, information processing method, and program - Google Patents

Information processing system, information processing method, and program Download PDF

Info

Publication number
JP7054075B2
JP7054075B2 JP2021010034A JP2021010034A JP7054075B2 JP 7054075 B2 JP7054075 B2 JP 7054075B2 JP 2021010034 A JP2021010034 A JP 2021010034A JP 2021010034 A JP2021010034 A JP 2021010034A JP 7054075 B2 JP7054075 B2 JP 7054075B2
Authority
JP
Japan
Prior art keywords
information
person
store
product
shoplifting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021010034A
Other languages
Japanese (ja)
Other versions
JP2021073595A (en
Inventor
康人 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2021010034A priority Critical patent/JP7054075B2/en
Publication of JP2021073595A publication Critical patent/JP2021073595A/en
Application granted granted Critical
Publication of JP7054075B2 publication Critical patent/JP7054075B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)

Description

本発明は情報処理システム、情報処理方法、及びプログラムに関する。 The present invention relates to an information processing system, an information processing method, and a program.

近年、スーパーマーケットや小売店舗(以下、まとめて店舗と呼ぶ)における万引きによる被害金額の増大化が問題となっている。それゆえ、万引きによる被害を減らすための様々な対策が講じられている。 In recent years, an increase in the amount of damage caused by shoplifting in supermarkets and retail stores (hereinafter collectively referred to as stores) has become a problem. Therefore, various measures have been taken to reduce the damage caused by shoplifting.

一般的な万引き犯の検出は、万引きGメンと呼ばれる専門要員を店舗に配置し、万引きGメンにより万引きの現場を押さえることで実現している。しかし、万引きGメンと呼ばれる専門要員は、特殊な技術を要する上に人件費がかかるため、配置される店舗には限りがある。それゆえ、現状において検出される万引き犯は氷山の一角でしかなく、万引きGメンのような人手によらずに万引きに対処する方法が望まれている。 The detection of general shoplifting criminals is realized by allocating specialized personnel called shoplifting G-men to stores and using shoplifting G-men to control the shoplifting site. However, the number of stores that can be assigned to professional personnel called shoplifting G-men is limited because they require special skills and labor costs. Therefore, the shoplifters detected at present are only the tip of the iceberg, and a method of dealing with shoplifting without human intervention such as shoplifting G-Men is desired.

万引きGメンを配置せずに万引きに対処する方法として、顔認証技術を利用した防犯管理システムによる方法がある。この方法では、店舗スタッフが、店舗に配置した監視カメラの画像を監視し、怪しいと思われる人物を発見した場合にはその人物の顔情報(主に、顔画像)を、その都度、手動で防犯管理システムに登録する。以後、監視カメラの画像に対して顔認証技術による顔認証を行い、登録された人物の顔画像に一致する画像が検出されると、その旨を店舗スタッフに知らせる。 As a method of dealing with shoplifting without arranging shoplifting G-men, there is a method using a crime prevention management system using face recognition technology. In this method, the store staff monitors the image of the surveillance camera placed in the store, and if a person who seems to be suspicious is found, the face information (mainly the face image) of that person is manually obtained each time. Register with the security management system. After that, face recognition is performed on the image of the surveillance camera by face recognition technology, and when an image matching the face image of the registered person is detected, the store staff is notified to that effect.

しかし、この方法では、怪しいと思われる人物の見た目や関係ない挙動も目に入るため、万引きGメンの様な特殊技能を持たない店舗スタッフが登録作業を行う場合、個人の感情が影響することを避けることは難しく、登録データの信憑性に根拠が無くなってしまう可能性がある。そのため、誤認識が許されない万引き防止という観点からは、このような方法では運用が難しく、個人的感情の入る余地のない方法が望まれている。 However, with this method, the appearance and unrelated behavior of a person who seems to be suspicious can also be seen, so when store staff who do not have special skills such as shoplifting G-men perform registration work, personal emotions may affect it. It is difficult to avoid, and the credibility of the registered data may be unfounded. Therefore, from the viewpoint of shoplifting prevention where misrecognition is not allowed, it is difficult to operate such a method, and a method without room for personal feelings is desired.

万引き現場を実際に画像認識技術で捉える技術も提案されているが、巧みな万引き犯を現在の画像認識技術で確実に検出することは難しい。 A technique for actually capturing the shoplifting site with image recognition technology has been proposed, but it is difficult to reliably detect a skillful shoplifter with the current image recognition technology.

万引き防止の関連技術として、特許文献1~3に開示された技術があり、以下に簡単に説明する。 As a technique related to shoplifting prevention, there is a technique disclosed in Patent Documents 1 to 3, which will be briefly described below.

特許文献1は、ショーケースに陳列されている商品の在庫状況についてコンピュータを用いて管理する商品管理システムについて開示している。このシステムは、ショーケースからの商品の取得有無を検知する商品取得検知手段と、商品取得検知手段が商品の取得有りを検知した場合に当該商品の取得行為者を撮像する第一撮像手段と、商品取得検知手段が商品の取得有りを検知した場合にレジにおいて商品の売上情報を取得する売上取得手段と、を備える。このシステムは更に、売上取得手段で売上情報を取得した場合に当該商品購入者を撮像する第二撮像手段と、第一撮像手段による撮像情報と、第二撮像手段による撮像情報とに基づいて万引き行為を判定する制御手段と、前記二つの撮像手段による撮像情報が格納される情報格納手段と、を備え、万引き行為を撮像情報に基づいて判定する。 Patent Document 1 discloses a product management system that manages the inventory status of products displayed in a showcase using a computer. This system includes a product acquisition detection means that detects whether or not a product has been acquired from a showcase, and a first imaging means that captures an image of the person who acquired the product when the product acquisition detection means detects that the product has been acquired. It is provided with a sales acquisition means for acquiring sales information of a product at a cash register when the product acquisition detection means detects that the product has been acquired. This system further shoplifts based on the second image pickup means that images the purchaser of the product when the sales information is acquired by the sales acquisition means, the image pickup information by the first image pickup means, and the image pickup information by the second image pickup means. It is provided with a control means for determining an action and an information storage means for storing the image pickup information by the two image pickup means, and determines the shoplifting action based on the image pickup information.

特許文献2は、万引き被害を低減することのできる販売管理システムについて開示している。このシステムはストアコントローラを備える。ストアコントローラは、記録装置に記録された精算カメラからの精算撮像データと陳列棚カメラからの陳列棚撮像データが一致した場合、記録装置から精算撮像データおよび陳列棚撮像データを消去する。しかし、所定期間において陳列棚撮像データが残存した場合、ストアコントローラは、その旨を知らせて注意を促す。以後、顔認識システムにより万引きの可能性の高い人物の特定作業を実行する。 Patent Document 2 discloses a sales management system capable of reducing shoplifting damage. This system is equipped with a store controller. When the settlement image data from the settlement camera recorded in the recording device and the display shelf image pickup data from the display shelf camera match, the store controller deletes the settlement image pickup data and the display shelf image pickup data from the recording device. However, if the display shelf imaging data remains in the predetermined period, the store controller notifies that fact and calls attention. After that, the face recognition system is used to identify a person who is likely to be shoplifted.

特許文献3は、販売品種や販売個数が多い店舗にても採用しやすいセキュリティシステムについて開示している。このシステムは、RFID(Radio-Frequency Identification Device)を用いて店内の商品を把握し、レジを通っていないにも拘わらず店内から消えた商品を、定期的に店内のRFIDをスキャンすることで把握する。このシステムは、レジを通っていないにも拘わらず店内から消えた商品があると判別すると、今回のスキャン時刻と前回のスキャン時刻との間に店内に居た人物を万引き行為者の候補として挙げる。そして、上記動作を繰り返すことで候補の積み上げを行い、検出精度を増すようにしている。 Patent Document 3 discloses a security system that can be easily adopted even in a store that sells a large number of products and sells a large number of products. This system uses RFID (Radio-Frequency Identification Device) to grasp the products in the store, and periodically scans the RFID in the store to grasp the products that disappeared from the store even though they did not go through the cash register. do. If the system determines that there is a product that has disappeared from the store even though it has not passed through the cash register, the person who was in the store between the current scan time and the previous scan time is listed as a candidate shoplifter. .. Then, by repeating the above operation, candidates are piled up to increase the detection accuracy.

特開2013-188401号公報Japanese Unexamined Patent Publication No. 2013-188401 特開2012-242912号公報Japanese Unexamined Patent Publication No. 2012-2429112 特開2013-134644号公報Japanese Unexamined Patent Publication No. 2013-134644

特許文献1の開示によれば、特許文献1のシステムは、万引き行為者の特定だけでなく、常習化した万引き行為者の再犯にも寄与するとしている。しかしながら、特許文献1のシステムでは、通常の商品取り出しであっても商品を商品陳列部から取り出す毎に取り出した人物を撮像することが必要であり、万引き行為判定のための動作を必要とする。加えて、特許文献1のシステムは、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 According to the disclosure of Patent Document 1, the system of Patent Document 1 contributes not only to the identification of shoplifters but also to the recidivism of shoplifters who have become habitual. However, in the system of Patent Document 1, it is necessary to take an image of a person who has taken out a product every time the product is taken out from the product display unit even in a normal product taking out, and an operation for shoplifting action determination is required. In addition, the system of Patent Document 1 does not make any diagnosis or determination of the person's behavior itself, so that even if a person has suspicious behavior that leads to shoplifting, it is not taken into consideration.

特許文献2のシステムでも、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 Even in the system of Patent Document 2, since no diagnosis or discrimination is made regarding the behavior of a person itself, even if a person has a suspicious behavior that leads to shoplifting, it is not taken into consideration.

特許文献3のシステムでは、積み上がった候補の情報を減らすことは考えていないので、偶然何度も候補として挙げられてしまった場合は誤った判断をしてしまうことになりかねない。また、特許文献1、2のシステムと同様、特許文献3のシステムも、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 Since the system of Patent Document 3 does not consider reducing the accumulated information of candidates, if it is accidentally listed as a candidate many times, it may make a wrong judgment. Further, like the systems of Patent Documents 1 and 2, the system of Patent Document 3 does not make any diagnosis or discrimination regarding the behavior of a person itself, so that a person may behave suspiciously as if it leads to shoplifting. If so, it is not taken into account.

更に、特許文献1~3のいずれのシステムも、1つの店舗内で実行することしか考えていない。 Further, any of the systems of Patent Documents 1 to 3 is considered to be executed only in one store.

本発明は、上記のような課題に鑑み、万引き行為そのものというよりも、万引きにつながると思われるような行為の検出に重きをおいて、万引き防止に寄与することのできる情報処理システム、情報処理方法及びプログラムを提供しようとするものである。 In view of the above problems, the present invention is an information processing system and information processing that can contribute to the prevention of shoplifting by focusing on the detection of actions that are thought to lead to shoplifting rather than the shoplifting action itself. It seeks to provide methods and programs.

本発明の第1の態様によれば、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段と、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段と、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段と、を備える情報処理システム、が提供される。 According to the first aspect of the present invention, a motion line detecting means for extracting face information and detecting motion line information for each person included in the image based on an image acquired from a camera is not purchased. Despite this, the product detection means that detects the lost product and generates the information processing information including the information about the detected product and the information of the time zone when the product is lost, and the flow line information and the information processing information. Based on this, an information processing system including a control means for updating a suspicious numerical value stored in association with each person included in the image is provided.

本発明の第2の態様は、情報処理システムによって実行される情報処理方法であって、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出することと、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成することと、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新することと、を含む情報処理方法である。 The second aspect of the present invention is an information processing method executed by an information processing system, in which face information is extracted for each person included in the image and movement line information is obtained based on the image acquired from the camera. To detect, to detect a lost product even though it has not been purchased, to generate shoplifting information including information on the detected product and information on a time zone in which the product is lost, and the above-mentioned operation. It is an information processing method including updating a suspicious numerical value stored in association with each person included in the image based on the line information and the shoplifting information .

本発明の第3の態様は、コンピュータを、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段、として機能させるためのプログラムである。 A third aspect of the present invention is a motion line detecting means for extracting face information and detecting motion line information for each person included in the image based on an image acquired from a camera, which has not been purchased. Based on the product detection means, the flow line information, and the shoplifting information, which detects the lost product and generates the shoplifting information including the information about the detected product and the information of the time zone when the product is lost. , Is a program for functioning as a control means for updating a suspicious numerical value stored in association with each person included in the image .

本発明によれば、万引き行為そのものというよりも、万引きにつながると思われるような行為の検出に重きをおいて、万引き防止に寄与することのできる情報処理システムを提供することができる。 According to the present invention, it is possible to provide an information processing system that can contribute to the prevention of shoplifting by emphasizing the detection of an act that seems to lead to shoplifting rather than the shoplifting act itself.

本発明に係る情報処理システムである万引き防止システムの概略構成を説明するための図である。It is a figure for demonstrating the schematic structure of the shoplifting prevention system which is an information processing system which concerns on this invention. 本発明が適用される店舗のレイアウトの一例と、この店舗において万引き防止システムを構築するために店舗内外に設置されるカメラの配置例を示した図である。It is a figure which showed an example of the layout of the store to which this invention is applied, and the arrangement example of the camera installed inside and outside the store in order to construct the shoplifting prevention system in this store. 本発明の実施形態に係る店舗側装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the store-side apparatus which concerns on embodiment of this invention. 本発明の実施形態に係るセンタ側装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the center side apparatus which concerns on embodiment of this invention. 本発明の実施形態に係るセンタ側装置のメモリに記憶される情報の一例を示した図である。It is a figure which showed an example of the information stored in the memory of the center side apparatus which concerns on embodiment of this invention. 本発明の実施形態に係る店舗側装置の動作を説明するためのフローチャート図である。It is a flowchart for demonstrating the operation of the store-side apparatus which concerns on embodiment of this invention. 本発明の実施形態に係るセンタ側装置の動作を説明するためのフローチャート図である。It is a flowchart for demonstrating the operation of the center side apparatus which concerns on embodiment of this invention.

本発明による情報処理システムである万引き防止システムは、店舗を訪れた人物の顔情報、日時及び時間帯の情報、商品が店舗から無くなった日時及び時間帯の情報、店舗内における人物の動線情報を組み合わせることで、万引き行為を繰り返す可能性のある人物を統計的に導き出し、再犯を未然に防ぐことを可能とする。 The shoplifting prevention system, which is an information processing system according to the present invention, has information on the face of a person who visited the store, information on the date and time and time zone, information on the date and time when the product disappeared from the store, and information on the movement line of the person in the store. By combining these, it is possible to statistically derive a person who may repeat shoplifting and prevent re-offending.

以下に、本発明に係る万引き防止システムの実施形態について説明する。 Hereinafter, embodiments of the shoplifting prevention system according to the present invention will be described.

図1は、万引き防止システムの概略構成を説明するための図で、データセンタDCに設置されるセンタ側装置と、店舗毎に設置され、センタ側装置に通信回線を介して接続した1つ以上の店舗側装置とで構成される。ここでは、2つの店舗α、βのみを示し、センタ側装置、店舗側装置の構成については後述する。 FIG. 1 is a diagram for explaining a schematic configuration of a shoplifting prevention system, and is one or more of a center-side device installed in a data center DC and one or more installed in each store and connected to the center-side device via a communication line. It is composed of equipment on the store side. Here, only two stores α and β are shown, and the configuration of the center-side device and the store-side device will be described later.

図2は、店舗のレイアウトの一例と、この店舗において万引き防止システムを構築するために店舗内外に設置されるカメラの配置例を示した図である。 FIG. 2 is a diagram showing an example of the layout of a store and an example of the arrangement of cameras installed inside and outside the store to construct a shoplifting prevention system in this store.

図2において、店舗内の壁に沿って商品陳列棚100が設置されているほか、間隔をおいて複数の商品陳列棚200が設置されている。店舗内にはまた、精算処理を行う1つ以上のレジカウンタ300が設置されている。このようなレイアウトの店舗において、商品陳列棚100、200におけるすべての領域を撮影できるように複数のカメラCM1が設置されるほか、レジカウンタ300での精算者、店舗の出入り口400における入場者、退場者を撮影できるように複数のカメラCM2、CM3が設置される。カメラCM1とその撮影領域、換言すれば商品の陳列場所はあらかじめ対応付けられている。また、カメラの設置に際しては、死角領域ができないように工夫される。 In FIG. 2, in addition to the product display shelves 100 being installed along the wall in the store, a plurality of product display shelves 200 are installed at intervals. In addition, one or more checkout counters 300 for performing settlement processing are installed in the store. In a store with such a layout, a plurality of cameras CM1 are installed so that all areas of the product display shelves 100 and 200 can be photographed, a checkout counter 300, a visitor at the entrance / exit 400 of the store, and an exit. A plurality of cameras CM2 and CM3 are installed so that a person can be photographed. The camera CM1 and its shooting area, in other words, the display location of the product, are associated in advance. In addition, when installing the camera, it is devised so that there is no blind spot area.

図3は、店舗側装置の構成例を示すブロック図である。 FIG. 3 is a block diagram showing a configuration example of the store-side device.

図3において、本実施形態に係る店舗側装置10は、前述したように、店舗の出入り口400に設置されて入場する人物及び退場する人物をそれぞれ撮像する2つの入退場撮像用のカメラCM3と、店舗内の所定箇所に設置されて決められた撮影領域内を撮像する複数のカメラCM1、CM2とを備える。 In FIG. 3, as described above, the store-side device 10 according to the present embodiment includes two cameras CM3 for entrance / exit imaging, which are installed at the entrance / exit 400 of the store and capture images of a person entering and exiting, respectively. It is provided with a plurality of cameras CM1 and CM2 that are installed at predetermined locations in the store and capture images in a predetermined shooting area.

店舗側装置10はまた、店舗側顔認証部20、動線検出部30、商品検出装置40、不審行動検出部50、店舗側制御装置60を備える。店舗側顔認証部20、動線検出部30、商品検出装置40、不審行動検出部50、店舗側制御装置60は、1つのコンピュータあるいはCPUで実現することができるが、以下では、各部を個別に備える場合について説明する。以下に、前記各部の機能、動作について簡単に説明する。 The store-side device 10 also includes a store-side face recognition unit 20, a flow line detection unit 30, a product detection device 40, a suspicious behavior detection unit 50, and a store-side control device 60. The store-side face recognition unit 20, the flow line detection unit 30, the product detection device 40, the suspicious behavior detection unit 50, and the store-side control device 60 can be realized by one computer or CPU, but in the following, each unit is individually. The case of preparing for the above will be described. The functions and operations of the above parts will be briefly described below.

店舗側顔認証部20は、2つの入退場撮像用のカメラCM3からの画像情報と複数のカメラCM1、CM2からの画像情報を受け、2つの入退場撮像用のカメラCM3の画像情報を基に入場する人物及び退場する人物の顔画像から顔情報を抽出し、顔認証を行って人物毎に入場日時及び退場日時と顔情報を店舗側制御装置60に出力する。なお、日時のうちの「時」は時間帯で示される。また、ここでの顔情報は、顔画像そのものを用いるが、顔画像から抽出される顔の輪郭、目の間隔や頬骨の長さ等、顔認証を行う際に使用される特徴点情報を用いても良い。 The store-side face authentication unit 20 receives image information from the two entrance / exit imaging cameras CM3 and image information from the plurality of cameras CM1 and CM2, and based on the image information of the two entrance / exit imaging cameras CM3. Face information is extracted from the face images of the person entering and leaving, face authentication is performed, and the entry date and time, the exit date and time, and the face information are output to the store side control device 60 for each person. The "hour" of the date and time is indicated by the time zone. In addition, although the face image itself is used as the face information here, the feature point information used for face recognition such as the contour of the face extracted from the face image, the distance between the eyes and the length of the cheekbones is used. May be.

動線検出部30は、2つの入退場撮像用のカメラCM3からの画像情報と複数のカメラCM1、CM2からの画像情報を受け、複数のカメラCM1、CM2からの画像情報に対して画像に含まれる人物毎に顔画像から顔情報を抽出するとともに人物の動線検出を行い、人物毎に検出した動線情報と該当する人物の顔情報を店舗側制御装置60に出力する。 The motion line detection unit 30 receives image information from two cameras CM3 for entrance / exit imaging and image information from a plurality of cameras CM1 and CM2, and includes the image information from the plurality of cameras CM1 and CM2 in the image. The face information is extracted from the face image for each person, the movement line of the person is detected, and the movement line information detected for each person and the face information of the corresponding person are output to the store side control device 60.

商品検出装置40は、店舗内の商品について購入されていないにもかかわらず、無くなった商品が無いかどうかの検出を一定時間毎に行い、無くなった商品(ロスト商品)があると、ロスト商品に関する情報と、無くなった日時及び時間帯情報を店舗側制御装置60に出力する。ロスト商品に関する情報は、無くなった商品が陳列されていた場所(陳列場所)情報を含む。商品検出装置40の具体例としては、商品陳列棚100、200に陳列されている個々の商品にRFIDを付け、商品陳列棚100、200にRFIDの読み取り機を設置して定期的に商品の有無を検知する形態が挙げられる。あるいは、この種の店舗はPOS(Point of Sales)装置を備えることが普通であるので、POS装置に接続された店舗スタッフ用の携帯端末(バーコード読み取り機能付き)で商品の個数を確認する形態でも良い。 The product detection device 40 detects whether or not there is a lost product even though the product in the store has not been purchased, and if there is a lost product (lost product), the product is related to the lost product. The information and the lost date / time and time zone information are output to the store side control device 60. The information about the lost product includes the place (display place) information where the lost product was displayed. As a specific example of the product detection device 40, RFID is attached to each product displayed on the product display shelves 100 and 200, and an RFID reader is installed on the product display shelves 100 and 200 to periodically present the presence or absence of products. There is a form of detecting. Alternatively, since this type of store is usually equipped with a POS (Point of Sales) device, the number of products is confirmed by a mobile terminal (with a barcode reading function) for store staff connected to the POS device. But it's okay.

不審行動検出部50は、動線検出部30で検出された、人物毎の検出した動線情報と該当する人物の顔情報を店舗側制御装置60経由で受け取り、これらの情報を用いて、商品陳列棚100、200の近くで不審行動をとる人物の有無を調べ、不審行動をとる人物有りと判別すると、判別した動線情報に該当する人物の顔情報とその場所情報を店舗側制御装置60に出力する。 The suspicious behavior detection unit 50 receives the flow line information detected for each person and the face information of the corresponding person detected by the flow line detection unit 30 via the store side control device 60, and uses these information to obtain a product. When the presence or absence of a person who takes suspicious behavior is checked near the display shelves 100 and 200 and it is determined that there is a person who takes suspicious behavior, the face information and the location information of the person corresponding to the determined flow line information are input to the store side control device 60. Output to.

店舗側装置10は更に、センタ側装置と無線あるいは有線で通信を行うための通信部70、センタ側装置からの警戒情報に基づいて店舗スタッフに万引きに対する警戒を促す通知を行う報知部80、店舗側制御装置60の制御下で上記各部からの各種検出情報や判別情報を記録するメモリ(店舗側メモリ)90を備える。メモリ90は、店舗側制御装置60が制御動作を実行するために必要なプログラムを格納しているメモリも含む。 The store-side device 10 further includes a communication unit 70 for wirelessly or wiredly communicating with the center-side device, a notification unit 80 for notifying store staff of warning against shoplifting based on warning information from the center-side device, and a store. A memory (store side memory) 90 for recording various detection information and discrimination information from each of the above parts under the control of the side control device 60 is provided. The memory 90 also includes a memory for storing a program necessary for the store-side control device 60 to execute a control operation.

店舗側制御装置60は、メモリ90から制御動作を実行するためのプログラムを読み出し、以下の制御動作を実行する。 The store-side control device 60 reads a program for executing the control operation from the memory 90 and executes the following control operation.

店舗側制御装置60は、カメラCM1~CM3の撮像動作を制御する。店舗側制御装置60はまた、店舗側顔認証部20から人物毎の入場日時と退場日時及び顔情報を取得して店舗情報とともにセンタ側装置に出力(送信)する。店舗情報というのは、店舗を識別するために店舗別に付与される識別情報である。店舗側制御装置60は更に、動線検出部30で取得された人物毎に検出された動線情報と該当する人物の顔情報を店舗情報とともにセンタ側装置に送信するとともに、人物毎の検出した動線情報と該当する人物の顔情報を不審行動検出部50に出力し、不審行動の検出を実行させる。店舗側制御装置60は更に、商品検出装置40からロスト商品に関する情報と無くなった日時及び時間帯情報を受け取ると、これらの情報を万引き情報として店舗情報と共にセンタ側装置に出力する。店舗側制御装置60は更に、不審行動検出部50において不審な人物有りと判別した時に送られてくる、該当する人物の顔情報と場所情報及び店舗情報をセンタ側装置に出力する。 The store-side control device 60 controls the imaging operation of the cameras CM1 to CM3. The store-side control device 60 also acquires the entry date / time, exit date / time, and face information for each person from the store-side face authentication unit 20, and outputs (transmits) to the center-side device together with the store information. Store information is identification information given to each store in order to identify the store. The store-side control device 60 further transmits the flow line information detected for each person acquired by the flow line detection unit 30 and the face information of the corresponding person to the center-side device together with the store information, and detects each person. The flow line information and the face information of the corresponding person are output to the suspicious behavior detection unit 50, and the suspicious behavior is detected. When the store-side control device 60 further receives the information on the lost product and the lost date / time and time zone information from the product detection device 40, the store-side control device 60 outputs these information as shoplifting information to the center-side device together with the store information. The store-side control device 60 further outputs the face information, location information, and store information of the corresponding person, which is sent when the suspicious behavior detection unit 50 determines that there is a suspicious person, to the center-side device.

店舗側制御装置60は、上述したように、センタ側装置からの警戒情報を通信部70経由で受信すると、報知部80に対し、受信した警戒情報に基づいて店舗側スタッフに万引きに対する警戒を促す通知を報知させる。 As described above, when the store-side control device 60 receives the warning information from the center-side device via the communication unit 70, the store-side control device 60 urges the store-side staff to warn against shoplifting based on the received warning information to the notification unit 80. Notify the notification.

図4は、センタ側装置500の構成例を示すブロック図である。 FIG. 4 is a block diagram showing a configuration example of the center side device 500.

図4において、本実施形態に係るセンタ側装置500は、センタ側制御装置510、センタ側顔認証部520、各店舗の店舗側装置と無線あるいは有線で通信を行う通信部530、データベースとなるメモリ(センタ側メモリ)540を備える。メモリ540は、センタ側制御装置510が制御動作を実行するために必要なプログラムも格納しているメモリも含む。センタ側制御装置510、センタ側顔認証部520は、1つのコンピュータあるいはCPUで実現することができるが、以下では、各部を個別に備える場合について説明する。 In FIG. 4, the center-side device 500 according to the present embodiment includes a center-side control device 510, a center-side face recognition unit 520, a communication unit 530 that communicates wirelessly or by wire with the store-side device of each store, and a memory that serves as a database. (Center side memory) 540 is provided. The memory 540 also includes a memory that stores a program necessary for the center-side control device 510 to execute a control operation. The center-side control device 510 and the center-side face recognition unit 520 can be realized by one computer or CPU, but the case where each unit is individually provided will be described below.

センタ側制御装置510は、メモリ540から制御動作を実行するためのプログラムを読み出し、以下の制御動作を実行する。 The center-side control device 510 reads a program for executing the control operation from the memory 540 and executes the following control operation.

センタ側制御装置510は、店舗側装置から送られてくる当該店舗への人物毎の入場日時と退場日時及び顔情報と店舗情報を受け、これらの情報を人物毎に付与される怪しさ数値とともにメモリ540に蓄積する。センタ側制御装置510はまた、店舗側装置から送られてくる、ロスト商品に関する情報と無くなった日時及び時間帯情報と店舗情報を受け、これらの情報をメモリ540に蓄積する。センタ側制御装置510は更に、店舗側装置の不審行動検出部50において不審な人物有りと判別した時に店舗側装置から送られてくる、該当する人物の顔情報と場所情報及び店舗情報を受け、これらの情報をメモリ540に蓄積すると共に、後述する怪しさ数値の更新を行う。 The center-side control device 510 receives the entry / exit date / time, face information, and store information of each person to the store sent from the store-side device, and these information are given to each person together with the suspicious numerical value. It is stored in the memory 540. The center-side control device 510 also receives information on lost products, lost date / time and time zone information, and store information sent from the store-side device, and stores these information in the memory 540. The center-side control device 510 further receives face information, location information, and store information of the corresponding person sent from the store-side device when the suspicious behavior detection unit 50 of the store-side device determines that there is a suspicious person. While accumulating this information in the memory 540, the suspicious numerical value described later is updated.

センタ側顔認証部520は、センタ側制御装置510経由で得られる、ロスト商品に関する情報と無くなった日時及び時間帯情報と店舗情報、人物毎に検出された動線情報と該当する人物の顔情報及び店舗情報を用いて、商品の無くなった日時及び時間帯に、ロスト商品の陳列場所に近づいた人物の有無を調べ、人物有りと判別すると該当する人物の顔情報がメモリ540に記憶されているか調べる。すなわち、センタ側顔認証部520は、上記の判別の結果得られた該当する人物の顔情報とメモリ540に蓄積されている人物毎の顔情報との照合を行い、該当する顔情報を検出するとそれをセンタ側制御装置510に出力する。これを受けたセンタ側制御装置510は、メモリ540における、検出された顔情報の人物に対応する怪しさ数値を増加するように更新する動作を実行する。なお、センタ側顔認証部520において人物有りと判別したが、該当する人物の顔情報がメモリ540に存在しない場合には、センタ側制御装置510は、その顔情報と店舗情報を怪しさ数値と共にメモリ540に新たに蓄積する。 The center-side face recognition unit 520 obtains information about lost products, lost date / time and time zone information, store information, movement line information detected for each person, and face information of the corresponding person, which is obtained via the center-side control device 510. And, using the store information, it is checked whether there is a person who has approached the display place of the lost product at the time and time when the product disappears, and if it is determined that there is a person, is the face information of the corresponding person stored in the memory 540? investigate. That is, when the center side face recognition unit 520 collates the face information of the corresponding person obtained as a result of the above determination with the face information of each person stored in the memory 540 and detects the corresponding face information. It is output to the center side control device 510. In response to this, the center-side control device 510 executes an operation of updating the memory 540 so as to increase the suspicious value corresponding to the person in the detected face information. If the center side face recognition unit 520 determines that there is a person, but the face information of the corresponding person does not exist in the memory 540, the center side control device 510 displays the face information and the store information together with a suspicious numerical value. It is newly stored in the memory 540.

次に、店舗αの店舗側装置10とセンタ側装置500の動作を、それらのフローチャート図である図6、図7を参照して順を追って説明する。 Next, the operations of the store-side device 10 and the center-side device 500 of the store α will be described step by step with reference to FIGS. 6 and 7 which are flowcharts thereof.

1.店舗側制御装置60は、店舗αの出入口400に設置されたカメラCM3によって、入場する人物及び退場する人物の顔情報を取得し、顔情報と入退場日時及び店舗情報をメモリ90に記憶すると共に、通信部70経由でデータセンタのセンタ側装置500に送信する(ステップS101)。センタ側装置500のセンタ側制御装置510は店舗αから送信されてきたすべての人物の顔情報及び入退場日時と店舗情報を怪しさデータと共にメモリ540に記憶する(ステップS201)。 1. 1. The store-side control device 60 acquires face information of a person entering and exiting by a camera CM3 installed at the entrance / exit 400 of the store α, and stores the face information, the date and time of entry / exit, and the store information in the memory 90. , Is transmitted to the center side device 500 of the data center via the communication unit 70 (step S101). The center-side control device 510 of the center-side device 500 stores the face information, entry / exit date / time, and store information of all persons transmitted from the store α in the memory 540 together with the suspicious data (step S201).

メモリ540における記憶形態の一例を図5に示す。情報の記憶は、メモリ540の記憶領域を人物毎に区画し、区画毎に人物を特定する記号又は番号を付した顔情報と、店舗情報及び入退場日時と、後述する怪しさデータを紐付して記憶する。以下では、人物毎に区画された記憶領域を人物記憶領域と呼ぶ。 FIG. 5 shows an example of the storage form in the memory 540. For the storage of information, the storage area of the memory 540 is divided for each person, and the face information with a symbol or number for identifying the person for each section is associated with the store information, the entry / exit date and time, and the suspicious data described later. And remember. Hereinafter, the storage area divided for each person is referred to as a person storage area.

センタ側制御装置510は、新たな顔情報及び入退場日時と店舗情報が送信されてきた際には、顔情報についてすでに記憶している顔情報との照合を行い、一致する顔情報がある場合には、一致した顔情報の人物記憶領域(区画)に、新たな店舗情報及び入退場日時を追記する。なお、以降の説明における「一致」というのは、類似度に基づく照合を行った結果、類似度が所定値以上の場合を含むものとする。 When new face information and entry / exit date / time and store information are transmitted, the center side control device 510 collates the face information with the face information already stored, and if there is matching face information. In, new store information and entry / exit date / time are added to the person storage area (section) of the matching face information. In the following description, "match" includes the case where the degree of similarity is equal to or more than a predetermined value as a result of collation based on the degree of similarity.

2.店舗αの店舗側制御装置60は、定期的に、購入されていないにもかかわらず店舗α内から無くなった商品(ロスト商品)があるかどうかの検出動作を商品検出装置40に実行させる(ステップS102)。店舗側制御装置60は、商品検出装置40からロスト商品有りの出力を受け取ると、ロスト商品名と日時、無くなった時間帯及び場所情報をメモリ90に記憶すると共に、ロスト商品名と日時、無くなった時間帯及び場所情報に店舗情報を加えてセンタ側装置500に送信する(ステップS103)。以下では、ロスト商品名と日時、無くなった時間帯及び場所情報に店舗情報を加えた情報をまとめてロスト情報と呼ぶことがある。 2. 2. The store-side control device 60 of the store α causes the product detection device 40 to periodically detect whether or not there is a product (lost product) that has been lost from the store α even though it has not been purchased (step). S102). When the store-side control device 60 receives the output of the lost product from the product detection device 40, the store side control device 60 stores the lost product name and date and time, the lost time zone and location information in the memory 90, and the lost product name and date and time are lost. Store information is added to the time zone and location information and transmitted to the center side device 500 (step S103). In the following, information obtained by adding store information to lost product name, date and time, lost time zone and place information may be collectively referred to as lost information.

3.センタ側制御装置510は、ロスト情報の受信があることを検出すると(ステップS202)、受信したロスト情報をメモリ540に記憶する(ステップS203)。ロスト情報は、店舗別に記憶される。 3. 3. When the center-side control device 510 detects that the lost information has been received (step S202), the center-side control device 510 stores the received lost information in the memory 540 (step S203). Lost information is stored for each store.

センタ側制御装置510は、上記1及び2において取得した情報を基に、定期的に、店舗αに入場した人物の怪しさデータを計上、更新していく。怪しさデータは、ここでは数値で示すこととし、以後、怪しさ数値と呼ぶ。 The center-side control device 510 periodically records and updates the suspicious data of the person who entered the store α based on the information acquired in the above 1 and 2. The suspiciousness data is shown here as a numerical value, and will be referred to as a suspiciousness numerical value hereafter.

店舗αでは、店舗側制御装置60が動線検出部30に対して店舗α内の人物の動線情報及び顔情報を取得させ、これらの情報をメモリ90に記憶すると共に、センタ側装置500に送信する(ステップS104)。 In the store α, the store side control device 60 causes the flow line detection unit 30 to acquire the flow line information and the face information of the person in the store α, stores these information in the memory 90, and stores the information in the center side device 500. Transmit (step S104).

センタ側制御装置510は、店舗αから送信されてきた店舗α内の人物の動線情報及び顔情報の受信があることを検出すると(ステップS202)、受信した情報をメモリ540に記憶する(ステップS203)。 When the center side control device 510 detects that the flow line information and the face information of the person in the store α transmitted from the store α are received (step S202), the received information is stored in the memory 540 (step S202). S203).

店舗側制御装置60はまた、動線検出部30で検出された、人物毎の検出した動線情報と該当する人物の顔情報を用いて、不審行動検出部50に対して、商品陳列棚100、200の近くで不審な行動をとる人物の有無を調べさせ(ステップS105)、不審な人物有りの判別結果が得られると、該当する人物の顔情報とその人物がいた場所情報及び店舗情報を不審情報としてセンタ側装置500に送信する(ステップS106)。 The store-side control device 60 also uses the flow line information detected for each person and the face information of the corresponding person detected by the flow line detection unit 30 to the suspicious behavior detection unit 50 for the product display shelf 100. , Check for the presence or absence of a person who behaves suspiciously near 200 (step S105), and when the determination result of the presence or absence of a suspicious person is obtained, the face information of the corresponding person, the location information where the person was, and the store information are obtained. It is transmitted to the center side device 500 as suspicious information (step S106).

センタ側制御装置510は、不審情報を受信すると(ステップS204)、不審情報中の顔情報を用いて、記憶しているすべての人物の顔情報に対して照合を行って当該人物に対応する顔情報があるかどうか調べる(ステップS205)。センタ側制御装置510はまた、対応する顔情報を抽出することができた場合(ステップS205のYes)には、メモリ540における抽出した顔情報の人物に対して怪しさ数値を所定数値プラスする(ステップS206)。センタ側制御装置510は、対応する顔情報を抽出することができない場合には、不審情報に含まれる顔情報を店舗情報と共にメモリ540の新たな人物記憶領域に記憶する(S207)。 When the center-side control device 510 receives the suspicious information (step S204), the center-side control device 510 uses the face information in the suspicious information to collate the face information of all the stored persons with the face corresponding to the person. Check for information (step S205). When the center side control device 510 can also extract the corresponding face information (Yes in step S205), the suspicious value is added to the person in the extracted face information in the memory 540 by a predetermined value (Yes). Step S206). When the corresponding face information cannot be extracted, the center-side control device 510 stores the face information included in the suspicious information in a new person storage area of the memory 540 together with the store information (S207).

センタ側制御装置510は更に、上記1及び2において取得した情報と、店舗情報と、商品が無くなった日時、時間帯の動線情報及び顔情報を基に、商品が無くなった日時、時間帯に、無くなった商品が置かれていた商品陳列棚100、200、すなわち陳列場所の前に一定時間滞在した人物がいたかどうかの判別動作を実行する(ステップS208)。この判別動作にはセンタ側顔認証部520が用いられる。センタ側制御装置510は、該当する人物有りと判別すると、その人物の顔情報を用いて、メモリ540に記憶しているすべての人物の顔情報に対して照合を行って当該人物に対応する顔情報を抽出する。センタ側制御装置510はまた、対応する顔情報を抽出することができた場合には、抽出した顔情報を記憶している人物記憶領域の怪しさ数値を所定数値プラスする(ステップS209)。なお、判別の結果、商品陳列棚の前を通過しただけ、または通過すらしてない人物の場合には、怪しさ数値をプラスしないだけでなく、マイナスするというようにしても良い。 The center side control device 510 further sets the date and time when the product is lost and the time zone based on the information acquired in 1 and 2 above, the store information, the date and time when the product is lost, the flow line information of the time zone, and the face information. , The product display shelves 100 and 200 on which the lost products are placed, that is, the operation of determining whether or not there is a person who has stayed for a certain period of time in front of the display place is executed (step S208). The center side face recognition unit 520 is used for this determination operation. When the center side control device 510 determines that there is a corresponding person, the center side control device 510 uses the face information of the person to collate the face information of all the persons stored in the memory 540, and the face corresponding to the person. Extract information. When the center-side control device 510 can also extract the corresponding face information, the center-side control device 510 also adds a predetermined value to the suspicious value of the person storage area that stores the extracted face information (step S209). As a result of the determination, in the case of a person who has just passed in front of the product display shelf or has not even passed, the suspicious value may not be added but also decreased.

4.上記1~3を複数の店舗についてセンタ側装置500で日々繰り返すことで、センタ側装置500は、図5に示されるような記憶情報において、再犯を繰り返す可能性のある人物の怪しさ数値を更新する。怪しさ数値の更新に際しては、上記3に記載の工夫により、万引きとは無関係な人物の場合は怪しさ数値が上がらないようにすることができる。 4. By repeating the above steps 1 to 3 daily with the center-side device 500 for a plurality of stores, the center-side device 500 updates the suspicious value of a person who may repeat recidivism in the stored information as shown in FIG. .. When updating the suspiciousness value, the suspiciousness value can be prevented from increasing in the case of a person unrelated to shoplifting by the device described in 3 above.

この情報を元に、センタ側装置500は、ある閾値以上に怪しさ数値が上がった人物がいる場合(ステップS210のYes)には、その旨を該当する人物の顔情報と共に不審人物情報として該当する店舗(α)だけでなく、すべての店舗に通知する(ステップS211)。通知を受けた各店舗では(ステップS107のYes)、店舗スタッフ専用のディスプレイにより通知を受けた人物の顔情報を表示して店舗スタッフに通知する(ステップS108)。 Based on this information, when there is a person whose suspicious value has risen above a certain threshold value (Yes in step S210), the center-side device 500 corresponds to that fact as suspicious person information together with the face information of the corresponding person. Not only the store (α) but all the stores are notified (step S211). At each store that received the notification (Yes in step S107), the face information of the notified person is displayed on the display dedicated to the store staff and the store staff is notified (step S108).

店舗側制御装置60は、以後、店舗側顔認証部20により入場時に撮影された人物の顔情報と通知を受けた人物の顔情報との照合を行い(ステップS109)、該当する人物の入場有りと判別した場合にはその旨を店員に通知して注意を促すことで、万引きを未然に防ぐことができる(ステップS110)。 After that, the store-side control device 60 collates the face information of the person photographed at the time of admission with the face information of the notified person by the store-side face recognition unit 20 (step S109), and the corresponding person is admitted. If it is determined that the item is, the store clerk is notified to that effect to call attention, so that shoplifting can be prevented (step S110).

以上のように、複数の各店舗α、βにおいて、各店舗に入場したことのある人物の顔情報とその人物に関する怪しさデータ(怪しさ数値)を、センタ側装置を通して共有しているため、店舗αだけでなく他の店舗βでも怪しさ数値の高い人物の検出が可能となる。 As described above, in each of the plurality of stores α and β, the face information of the person who has entered each store and the suspicious data (suspicious numerical value) related to the person are shared through the center side device. It is possible to detect a person with a high suspicious value not only in store α but also in other store β.

5.なお、誤検出を防ぐ方法としては、上記に記載した項目を含めて以下の手法が考えられる。 5. As a method for preventing erroneous detection, the following methods including the items described above can be considered.

5-1.センタ側装置での動線情報を使用した検出処理により、無くなった商品が置かれていた棚の前にある人物が一定時間滞在した場合には、怪しさ数値をプラスに、逆に棚の前を通過しただけ、または通過すらしてない様な場合には、プラスしないだけでなくマイナスするという制御を行う。 5-1. When a person in front of the shelf where the lost product was placed stays for a certain period of time due to the detection process using the flow line information on the center side device, the suspicious value is added to the plus, and conversely, in front of the shelf. If it just passed or did not even pass, it controls not only not to add but also to decrease.

5-2.店舗側装置10の不審行動検出部50において、動線情報を使用した検出処理により、ある人物が万引きのための品定めをしているのではないかと疑われる不審行動を検出した場合には、不審行動検出を示す情報と、顔情報及び店舗情報をセンタ側装置500に送信してメモリ540における怪しさ数値をプラスさせる。不審行動の検出は以下のようにして実現される。不審行動として検出すべき動作パターンを、いくつかの不審行動パターンに類型化してあらかじめメモリ90に記憶しておく。不審行動検出部50は、店舗側制御装置60の制御下で動線検出部30から送付されてくる動線情報について通常とは異なる動きを検出した場合には、動線情報が不審行動パターンに該当するかどうかの判別を行う。該当すると判別した場合には、不審行動検出部50はすぐに店舗側制御装置60経由で不審行動をとる人物が存在することを検出したことを示す情報を顔情報及び店舗情報と共にセンタ側装置500に送信する。勿論、不審行動をとる人物が存在することを店舗スタッフ専用のディスプレイにより店舗スタッフに通知するようにしても良い。なお、不審行動検出部をセンタ側装置500に設置して、不審行動検出をセンタ側装置500において実行するようにしても良い。 5-2. When the suspicious behavior detection unit 50 of the store-side device 10 detects a suspicious behavior that is suspected that a certain person may be deciding the item for shoplifting by the detection process using the flow line information, the suspicious behavior is suspicious. Information indicating behavior detection, face information, and store information are transmitted to the center side device 500 to add a suspicious value in the memory 540. The detection of suspicious behavior is realized as follows. The motion patterns to be detected as suspicious behaviors are categorized into several suspicious behavior patterns and stored in the memory 90 in advance. When the suspicious behavior detection unit 50 detects an unusual movement in the flow line information sent from the flow line detection unit 30 under the control of the store-side control device 60, the flow line information becomes a suspicious behavior pattern. Determine if it is applicable. When it is determined to be applicable, the suspicious behavior detection unit 50 immediately displays information indicating that the existence of a person who takes suspicious behavior via the store side control device 60 is detected, along with face information and store information, in the center side device 500. Send to. Of course, the store staff may be notified by a display dedicated to the store staff that there is a person who behaves suspiciously. The suspicious behavior detection unit may be installed in the center-side device 500, and the suspicious behavior detection may be executed in the center-side device 500.

5-3.万引きを行った人物と同じ時間帯に偶然複数回店舗を訪問した他人の場合には、怪しさ数値が誤って計上される可能性があるので、商品の紛失を検出する時間間隔を短くし、怪しさ数値の正確さを向上させる。 5-3. In the case of another person who accidentally visits the store multiple times at the same time as the person who shoplifted, the suspicious value may be mistakenly recorded, so shorten the time interval to detect the loss of the product and shorten the time interval. Improves the accuracy of suspicious numbers.

5-4.怪しさ数値としては単に個人として計上するだけではなく、同じ時間帯に店舗内に存在した人物と紐付けた情報も管理することで、それと外れた行動(例えば怪しさ数値計上時に店内に存在した人物と一緒ではない時間帯に店舗αを訪れた場合や、他店舗βを訪れた)をした場合に何もなければ、怪しさ数値をマイナスする。 5-4. As a suspicious numerical value, it is not only recorded as an individual, but by managing information associated with a person who existed in the store at the same time, behavior that deviates from that (for example, it existed in the store when the suspicious numerical value was recorded). If there is nothing when you visit the store α or visit another store β when you are not with a person, the suspiciousness value is subtracted.

5-5.怪しさ数値が閾値を超えた場合でも、万一誤検出であることがわかった場合や、警察官が万引き現場を抑えて逮捕した様な場合には、データを手動でクリアすることもできる。 5-5. Even if the suspiciousness value exceeds the threshold value, the data can be cleared manually if it is found to be a false positive or if a police officer arrests the shoplifting site.

怪しさ数値の扱いについて例を用いて説明する。 The handling of suspicious numbers will be explained using an example.

図1の店舗αに、X、Y、Zの3名がそれぞれ、同日の図1に記載の時間帯に店舗に滞在したと仮定する。店舗αで図1に記載の商品(ビール、アイス)が万引きに合ったと仮定する。すると、商品(ビール)が無くなった日時、時間帯(2016/7/5、11:00~14:00)に店舗αに滞在したX、Y、Zの3名が疑わしいので、怪しさ数値を計上する。 It is assumed that three people, X, Y, and Z, each stay in the store α in FIG. 1 at the time zone shown in FIG. 1 on the same day. It is assumed that the products (beer, ice cream) shown in FIG. 1 are suitable for shoplifting at the store α. Then, the three people X, Y, and Z who stayed at the store α during the time and date (2016/7/5, 11:00 to 14:00) when the product (beer) disappeared are suspicious. Record.

その際、店舗α内に設置された人物の動線検出部や不審行動検出部により、商品が無くなった時間帯(11:00~14:00)に商品が無くなった商品陳列棚の前に、ある一定閾値時間以上滞在した人物Xの存在を検出した場合には、不審行動検出に該当した人物Xの怪しさ数値を大きめに計上する。逆に、同じ時間帯に店舗αに滞在したにも拘わらず、商品が無くなった商品陳列棚の前を通過しただけ、または通っていない人物Y、Zについては、怪しさ数値を計上しない。これを繰り返すことで、怪しさ数値に信憑性が増す。 At that time, by the flow line detection unit and suspicious behavior detection unit of the person installed in the store α, in front of the product display shelf where the product disappeared during the time zone (11:00 to 14:00) when the product disappeared. When the presence of the person X who has stayed for a certain threshold time or longer is detected, the suspicious value of the person X corresponding to the suspicious behavior detection is counted as a large value. On the contrary, the suspicious figures are not recorded for the persons Y and Z who have just passed or did not pass in front of the product display shelves where the products have disappeared even though they stayed at the store α at the same time. By repeating this, the credibility of the suspicious value increases.

そして、ある人物の怪しさ数値が所定の閾値を超えた場合に、センタ側装置はその旨を該当する人物の顔情報と共に該当するすべての店舗に通知する。通知を受けた各店舗では、以後、入場時に撮影された人物の顔情報と通知を受けた人物の顔情報との照合を行い、該当する人物の入場を検出した場合には店員に注意を促し、店内の見回りを強化したり、店内で防犯強化についての放送を行ったりすることにより、万引きを未然に防ぐことができる。 Then, when the suspicious value of a certain person exceeds a predetermined threshold value, the center-side device notifies all the corresponding stores together with the face information of the corresponding person. After that, each store that received the notification will collate the face information of the person photographed at the time of admission with the face information of the person who received the notification, and if the entry of the corresponding person is detected, the store clerk will be alerted. , Shoplifting can be prevented by strengthening the patrol in the store and broadcasting about the strengthening of crime prevention in the store.

なお、店舗側装置10におけるメモリ90、センタ側装置500におけるメモリ540においては、記憶時間が一定期間を経過した情報については自動的に消去するようにしても良い。特に、メモリ540の人物記憶領域に記憶される情報とこれに関連する店舗情報、入退場日時情報、怪しさ数値情報は、怪しさ数値が一定期間変化しなければ自動的に消去するようにしても良い。 In the memory 90 in the store-side device 10 and the memory 540 in the center-side device 500, the information whose storage time has passed a certain period may be automatically erased. In particular, the information stored in the person storage area of the memory 540, the store information related thereto, the entry / exit date / time information, and the suspicious numerical value information are automatically deleted if the suspicious numerical value does not change for a certain period. Is also good.

本発明による万引き防止システム及び店舗側装置並びにセンタ側装置は、スーパーマーケットや小売店舗等の様々な販売施設に適用することができる。 The shoplifting prevention system, the store-side device, and the center-side device according to the present invention can be applied to various sales facilities such as supermarkets and retail stores.

DC データセンタ
CM1~CM3 カメラ
100、200 商品陳列棚
300 レジカウンタ
400 出入り口
10 店舗側装置
60 店舗側制御装置
500 センタ側装置
510 センタ側制御装置
DC data center CM1 to CM3 Camera 100, 200 Product display shelf 300 Registration counter 400 Doorway 10 Store side device 60 Store side control device 500 Center side device 510 Center side control device

Claims (6)

カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段と、
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段と、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段と、
を備える情報処理システム。
Based on the image acquired from the camera, the flow line detecting means for extracting face information and detecting the flow line information for each person included in the image, and
A product detection means that detects a lost product even though it has not been purchased and generates shoplifting information including information on the detected product and information on a time zone in which the product is lost.
A control means for updating the suspicious numerical value stored in association with each person included in the image based on the flow line information and the shoplifting information.
Information processing system equipped with.
前記制御手段は、前記商品が無くなった前記時間帯に前記商品が陳列されていた陳列場所に所定時間滞在した人物を特定し、特定した前記人物に対応付けられた前記怪しさ数値を更新する、請求項1に記載の情報処理システム。 The control means identifies a person who has stayed at a display place where the product was displayed for a predetermined time in the time zone when the product disappears, and updates the suspicious value associated with the specified person . The information processing system according to claim 1. 前記制御手段は、前記商品が無くなった時間帯に前記商品が陳列されていた陳列場所に所定時間滞在していない人物について、前記怪しさ数値を減少させる請求項1又は2に記載の情報処理システム。 The information processing system according to claim 1 or 2, wherein the control means reduces the suspicious value of a person who has not stayed at the display place where the product was displayed for a predetermined time during the time when the product disappeared. .. 顔認証により前記怪しさ数値が所定値以上である人物の来店を検知すると、前記人物が来店したことを報知する報知手段を更に備える請求項1から3の何れかに記載の情報処理システム。 The information processing system according to any one of claims 1 to 3, further comprising a notification means for notifying that the person has visited the store when the visit of a person whose suspiciousness value is equal to or higher than a predetermined value is detected by face authentication. 情報処理システムによって実行される情報処理方法であって、
カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出することと、
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成することと、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新することと、
を含む情報処理方法。
An information processing method executed by an information processing system.
Based on the image acquired from the camera, face information is extracted for each person included in the image and flow line information is detected.
Detecting lost products even though they have not been purchased, and generating shoplifting information including information on the detected products and information on the time zone when the products are lost.
Based on the flow line information and the shoplifting information, updating the suspicious numerical value stored in association with each person included in the image, and
Information processing methods including.
コンピュータを、
カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段、
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段、
として機能させるためのプログラム。
Computer,
A flow line detecting means for extracting face information and detecting flow line information for each person included in the image based on an image acquired from a camera.
A product detection means that detects a lost product even though it has not been purchased, and generates shoplifting information including information on the detected product and information on a time zone in which the product is lost.
A control means for updating a suspicious numerical value stored in association with each person included in the image based on the flow line information and the shoplifting information.
A program to function as.
JP2021010034A 2021-01-26 2021-01-26 Information processing system, information processing method, and program Active JP7054075B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021010034A JP7054075B2 (en) 2021-01-26 2021-01-26 Information processing system, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021010034A JP7054075B2 (en) 2021-01-26 2021-01-26 Information processing system, information processing method, and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017072078A Division JP6836173B2 (en) 2017-03-31 2017-03-31 Shoplifting prevention system and store-side equipment and center-side equipment used for it

Publications (2)

Publication Number Publication Date
JP2021073595A JP2021073595A (en) 2021-05-13
JP7054075B2 true JP7054075B2 (en) 2022-04-13

Family

ID=75802581

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021010034A Active JP7054075B2 (en) 2021-01-26 2021-01-26 Information processing system, information processing method, and program

Country Status (1)

Country Link
JP (1) JP7054075B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013134644A (en) 2011-12-27 2013-07-08 Panasonic Corp Security system
JP2013196043A (en) 2012-03-15 2013-09-30 Glory Ltd Specific person monitoring system
WO2015033576A1 (en) 2013-09-06 2015-03-12 日本電気株式会社 Security system, security method, and non-temporary computer-readable medium
JP2015130155A (en) 2013-12-02 2015-07-16 Lykaon株式会社 Crime prevention system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013134644A (en) 2011-12-27 2013-07-08 Panasonic Corp Security system
JP2013196043A (en) 2012-03-15 2013-09-30 Glory Ltd Specific person monitoring system
WO2015033576A1 (en) 2013-09-06 2015-03-12 日本電気株式会社 Security system, security method, and non-temporary computer-readable medium
JP2015130155A (en) 2013-12-02 2015-07-16 Lykaon株式会社 Crime prevention system

Also Published As

Publication number Publication date
JP2021073595A (en) 2021-05-13

Similar Documents

Publication Publication Date Title
US9311799B2 (en) Modifying RFID system operation using movement detection
US9977971B2 (en) Role-based tracking and surveillance
US10817710B2 (en) Predictive theft notification
US20220156686A1 (en) Commodity monitoring device, commodity monitoring system, output destination device, commodity monitoring method, display method and program
US20180115749A1 (en) Surveillance system and surveillance method
JP6836173B2 (en) Shoplifting prevention system and store-side equipment and center-side equipment used for it
US7448542B1 (en) Method for detecting a non-scan at a retail checkout station
WO2018180588A1 (en) Facial image matching system and facial image search system
CN103578018A (en) Method, device and system for detecting lost sales due to an out-of-shelf condition
JP4961158B2 (en) Automatic transaction device and suspicious object detection system
KR20040027951A (en) Vision-based method and apparatus for detecting fraudulent events in a retail environment
JP6573185B1 (en) Information processing system, information processing method, and program
JP2012242912A (en) Sales management system
JP5903557B2 (en) Security system
US20210090057A1 (en) Store management device, store management system, and store management method
JP5202419B2 (en) Security system and security method
JP4159572B2 (en) Abnormality notification device and abnormality notification method
US20240070642A1 (en) Method and system for self-checkout in a retail environment
US20230394555A1 (en) Information processing method, information processing device, and recording medium
JP7054075B2 (en) Information processing system, information processing method, and program
JP2003169320A (en) Monitoring method and system thereof
JP2022127013A (en) Self-checkout system and program
JP6707774B2 (en) Information processing system, information processing method, and program
JP2022011704A (en) Image processing device, image processing method, and program
JP2023085251A (en) Unmanned store system and server

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220302

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220315

R151 Written notification of patent or utility model registration

Ref document number: 7054075

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151