JP7054075B2 - Information processing system, information processing method, and program - Google Patents
Information processing system, information processing method, and program Download PDFInfo
- Publication number
- JP7054075B2 JP7054075B2 JP2021010034A JP2021010034A JP7054075B2 JP 7054075 B2 JP7054075 B2 JP 7054075B2 JP 2021010034 A JP2021010034 A JP 2021010034A JP 2021010034 A JP2021010034 A JP 2021010034A JP 7054075 B2 JP7054075 B2 JP 7054075B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- person
- store
- product
- shoplifting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Burglar Alarm Systems (AREA)
- Alarm Systems (AREA)
Description
本発明は情報処理システム、情報処理方法、及びプログラムに関する。 The present invention relates to an information processing system, an information processing method, and a program.
近年、スーパーマーケットや小売店舗(以下、まとめて店舗と呼ぶ)における万引きによる被害金額の増大化が問題となっている。それゆえ、万引きによる被害を減らすための様々な対策が講じられている。 In recent years, an increase in the amount of damage caused by shoplifting in supermarkets and retail stores (hereinafter collectively referred to as stores) has become a problem. Therefore, various measures have been taken to reduce the damage caused by shoplifting.
一般的な万引き犯の検出は、万引きGメンと呼ばれる専門要員を店舗に配置し、万引きGメンにより万引きの現場を押さえることで実現している。しかし、万引きGメンと呼ばれる専門要員は、特殊な技術を要する上に人件費がかかるため、配置される店舗には限りがある。それゆえ、現状において検出される万引き犯は氷山の一角でしかなく、万引きGメンのような人手によらずに万引きに対処する方法が望まれている。 The detection of general shoplifting criminals is realized by allocating specialized personnel called shoplifting G-men to stores and using shoplifting G-men to control the shoplifting site. However, the number of stores that can be assigned to professional personnel called shoplifting G-men is limited because they require special skills and labor costs. Therefore, the shoplifters detected at present are only the tip of the iceberg, and a method of dealing with shoplifting without human intervention such as shoplifting G-Men is desired.
万引きGメンを配置せずに万引きに対処する方法として、顔認証技術を利用した防犯管理システムによる方法がある。この方法では、店舗スタッフが、店舗に配置した監視カメラの画像を監視し、怪しいと思われる人物を発見した場合にはその人物の顔情報(主に、顔画像)を、その都度、手動で防犯管理システムに登録する。以後、監視カメラの画像に対して顔認証技術による顔認証を行い、登録された人物の顔画像に一致する画像が検出されると、その旨を店舗スタッフに知らせる。 As a method of dealing with shoplifting without arranging shoplifting G-men, there is a method using a crime prevention management system using face recognition technology. In this method, the store staff monitors the image of the surveillance camera placed in the store, and if a person who seems to be suspicious is found, the face information (mainly the face image) of that person is manually obtained each time. Register with the security management system. After that, face recognition is performed on the image of the surveillance camera by face recognition technology, and when an image matching the face image of the registered person is detected, the store staff is notified to that effect.
しかし、この方法では、怪しいと思われる人物の見た目や関係ない挙動も目に入るため、万引きGメンの様な特殊技能を持たない店舗スタッフが登録作業を行う場合、個人の感情が影響することを避けることは難しく、登録データの信憑性に根拠が無くなってしまう可能性がある。そのため、誤認識が許されない万引き防止という観点からは、このような方法では運用が難しく、個人的感情の入る余地のない方法が望まれている。 However, with this method, the appearance and unrelated behavior of a person who seems to be suspicious can also be seen, so when store staff who do not have special skills such as shoplifting G-men perform registration work, personal emotions may affect it. It is difficult to avoid, and the credibility of the registered data may be unfounded. Therefore, from the viewpoint of shoplifting prevention where misrecognition is not allowed, it is difficult to operate such a method, and a method without room for personal feelings is desired.
万引き現場を実際に画像認識技術で捉える技術も提案されているが、巧みな万引き犯を現在の画像認識技術で確実に検出することは難しい。 A technique for actually capturing the shoplifting site with image recognition technology has been proposed, but it is difficult to reliably detect a skillful shoplifter with the current image recognition technology.
万引き防止の関連技術として、特許文献1~3に開示された技術があり、以下に簡単に説明する。 As a technique related to shoplifting prevention, there is a technique disclosed in Patent Documents 1 to 3, which will be briefly described below.
特許文献1は、ショーケースに陳列されている商品の在庫状況についてコンピュータを用いて管理する商品管理システムについて開示している。このシステムは、ショーケースからの商品の取得有無を検知する商品取得検知手段と、商品取得検知手段が商品の取得有りを検知した場合に当該商品の取得行為者を撮像する第一撮像手段と、商品取得検知手段が商品の取得有りを検知した場合にレジにおいて商品の売上情報を取得する売上取得手段と、を備える。このシステムは更に、売上取得手段で売上情報を取得した場合に当該商品購入者を撮像する第二撮像手段と、第一撮像手段による撮像情報と、第二撮像手段による撮像情報とに基づいて万引き行為を判定する制御手段と、前記二つの撮像手段による撮像情報が格納される情報格納手段と、を備え、万引き行為を撮像情報に基づいて判定する。 Patent Document 1 discloses a product management system that manages the inventory status of products displayed in a showcase using a computer. This system includes a product acquisition detection means that detects whether or not a product has been acquired from a showcase, and a first imaging means that captures an image of the person who acquired the product when the product acquisition detection means detects that the product has been acquired. It is provided with a sales acquisition means for acquiring sales information of a product at a cash register when the product acquisition detection means detects that the product has been acquired. This system further shoplifts based on the second image pickup means that images the purchaser of the product when the sales information is acquired by the sales acquisition means, the image pickup information by the first image pickup means, and the image pickup information by the second image pickup means. It is provided with a control means for determining an action and an information storage means for storing the image pickup information by the two image pickup means, and determines the shoplifting action based on the image pickup information.
特許文献2は、万引き被害を低減することのできる販売管理システムについて開示している。このシステムはストアコントローラを備える。ストアコントローラは、記録装置に記録された精算カメラからの精算撮像データと陳列棚カメラからの陳列棚撮像データが一致した場合、記録装置から精算撮像データおよび陳列棚撮像データを消去する。しかし、所定期間において陳列棚撮像データが残存した場合、ストアコントローラは、その旨を知らせて注意を促す。以後、顔認識システムにより万引きの可能性の高い人物の特定作業を実行する。 Patent Document 2 discloses a sales management system capable of reducing shoplifting damage. This system is equipped with a store controller. When the settlement image data from the settlement camera recorded in the recording device and the display shelf image pickup data from the display shelf camera match, the store controller deletes the settlement image pickup data and the display shelf image pickup data from the recording device. However, if the display shelf imaging data remains in the predetermined period, the store controller notifies that fact and calls attention. After that, the face recognition system is used to identify a person who is likely to be shoplifted.
特許文献3は、販売品種や販売個数が多い店舗にても採用しやすいセキュリティシステムについて開示している。このシステムは、RFID(Radio-Frequency Identification Device)を用いて店内の商品を把握し、レジを通っていないにも拘わらず店内から消えた商品を、定期的に店内のRFIDをスキャンすることで把握する。このシステムは、レジを通っていないにも拘わらず店内から消えた商品があると判別すると、今回のスキャン時刻と前回のスキャン時刻との間に店内に居た人物を万引き行為者の候補として挙げる。そして、上記動作を繰り返すことで候補の積み上げを行い、検出精度を増すようにしている。 Patent Document 3 discloses a security system that can be easily adopted even in a store that sells a large number of products and sells a large number of products. This system uses RFID (Radio-Frequency Identification Device) to grasp the products in the store, and periodically scans the RFID in the store to grasp the products that disappeared from the store even though they did not go through the cash register. do. If the system determines that there is a product that has disappeared from the store even though it has not passed through the cash register, the person who was in the store between the current scan time and the previous scan time is listed as a candidate shoplifter. .. Then, by repeating the above operation, candidates are piled up to increase the detection accuracy.
特許文献1の開示によれば、特許文献1のシステムは、万引き行為者の特定だけでなく、常習化した万引き行為者の再犯にも寄与するとしている。しかしながら、特許文献1のシステムでは、通常の商品取り出しであっても商品を商品陳列部から取り出す毎に取り出した人物を撮像することが必要であり、万引き行為判定のための動作を必要とする。加えて、特許文献1のシステムは、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 According to the disclosure of Patent Document 1, the system of Patent Document 1 contributes not only to the identification of shoplifters but also to the recidivism of shoplifters who have become habitual. However, in the system of Patent Document 1, it is necessary to take an image of a person who has taken out a product every time the product is taken out from the product display unit even in a normal product taking out, and an operation for shoplifting action determination is required. In addition, the system of Patent Document 1 does not make any diagnosis or determination of the person's behavior itself, so that even if a person has suspicious behavior that leads to shoplifting, it is not taken into consideration.
特許文献2のシステムでも、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 Even in the system of Patent Document 2, since no diagnosis or discrimination is made regarding the behavior of a person itself, even if a person has a suspicious behavior that leads to shoplifting, it is not taken into consideration.
特許文献3のシステムでは、積み上がった候補の情報を減らすことは考えていないので、偶然何度も候補として挙げられてしまった場合は誤った判断をしてしまうことになりかねない。また、特許文献1、2のシステムと同様、特許文献3のシステムも、人物の行為そのものについて何らかの診断あるいは判別を行うようなことはしないので、ある人物に万引き行為につながるような不審な行動があっても、それは考慮されない。 Since the system of Patent Document 3 does not consider reducing the accumulated information of candidates, if it is accidentally listed as a candidate many times, it may make a wrong judgment. Further, like the systems of Patent Documents 1 and 2, the system of Patent Document 3 does not make any diagnosis or discrimination regarding the behavior of a person itself, so that a person may behave suspiciously as if it leads to shoplifting. If so, it is not taken into account.
更に、特許文献1~3のいずれのシステムも、1つの店舗内で実行することしか考えていない。 Further, any of the systems of Patent Documents 1 to 3 is considered to be executed only in one store.
本発明は、上記のような課題に鑑み、万引き行為そのものというよりも、万引きにつながると思われるような行為の検出に重きをおいて、万引き防止に寄与することのできる情報処理システム、情報処理方法及びプログラムを提供しようとするものである。 In view of the above problems, the present invention is an information processing system and information processing that can contribute to the prevention of shoplifting by focusing on the detection of actions that are thought to lead to shoplifting rather than the shoplifting action itself. It seeks to provide methods and programs.
本発明の第1の態様によれば、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段と、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段と、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段と、を備える情報処理システム、が提供される。 According to the first aspect of the present invention, a motion line detecting means for extracting face information and detecting motion line information for each person included in the image based on an image acquired from a camera is not purchased. Despite this, the product detection means that detects the lost product and generates the information processing information including the information about the detected product and the information of the time zone when the product is lost, and the flow line information and the information processing information. Based on this, an information processing system including a control means for updating a suspicious numerical value stored in association with each person included in the image is provided.
本発明の第2の態様は、情報処理システムによって実行される情報処理方法であって、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出することと、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成することと、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新することと、を含む情報処理方法である。 The second aspect of the present invention is an information processing method executed by an information processing system, in which face information is extracted for each person included in the image and movement line information is obtained based on the image acquired from the camera. To detect, to detect a lost product even though it has not been purchased, to generate shoplifting information including information on the detected product and information on a time zone in which the product is lost, and the above-mentioned operation. It is an information processing method including updating a suspicious numerical value stored in association with each person included in the image based on the line information and the shoplifting information .
本発明の第3の態様は、コンピュータを、カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段、購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段、前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段、として機能させるためのプログラムである。 A third aspect of the present invention is a motion line detecting means for extracting face information and detecting motion line information for each person included in the image based on an image acquired from a camera, which has not been purchased. Based on the product detection means, the flow line information, and the shoplifting information, which detects the lost product and generates the shoplifting information including the information about the detected product and the information of the time zone when the product is lost. , Is a program for functioning as a control means for updating a suspicious numerical value stored in association with each person included in the image .
本発明によれば、万引き行為そのものというよりも、万引きにつながると思われるような行為の検出に重きをおいて、万引き防止に寄与することのできる情報処理システムを提供することができる。 According to the present invention, it is possible to provide an information processing system that can contribute to the prevention of shoplifting by emphasizing the detection of an act that seems to lead to shoplifting rather than the shoplifting act itself.
本発明による情報処理システムである万引き防止システムは、店舗を訪れた人物の顔情報、日時及び時間帯の情報、商品が店舗から無くなった日時及び時間帯の情報、店舗内における人物の動線情報を組み合わせることで、万引き行為を繰り返す可能性のある人物を統計的に導き出し、再犯を未然に防ぐことを可能とする。 The shoplifting prevention system, which is an information processing system according to the present invention, has information on the face of a person who visited the store, information on the date and time and time zone, information on the date and time when the product disappeared from the store, and information on the movement line of the person in the store. By combining these, it is possible to statistically derive a person who may repeat shoplifting and prevent re-offending.
以下に、本発明に係る万引き防止システムの実施形態について説明する。 Hereinafter, embodiments of the shoplifting prevention system according to the present invention will be described.
図1は、万引き防止システムの概略構成を説明するための図で、データセンタDCに設置されるセンタ側装置と、店舗毎に設置され、センタ側装置に通信回線を介して接続した1つ以上の店舗側装置とで構成される。ここでは、2つの店舗α、βのみを示し、センタ側装置、店舗側装置の構成については後述する。 FIG. 1 is a diagram for explaining a schematic configuration of a shoplifting prevention system, and is one or more of a center-side device installed in a data center DC and one or more installed in each store and connected to the center-side device via a communication line. It is composed of equipment on the store side. Here, only two stores α and β are shown, and the configuration of the center-side device and the store-side device will be described later.
図2は、店舗のレイアウトの一例と、この店舗において万引き防止システムを構築するために店舗内外に設置されるカメラの配置例を示した図である。 FIG. 2 is a diagram showing an example of the layout of a store and an example of the arrangement of cameras installed inside and outside the store to construct a shoplifting prevention system in this store.
図2において、店舗内の壁に沿って商品陳列棚100が設置されているほか、間隔をおいて複数の商品陳列棚200が設置されている。店舗内にはまた、精算処理を行う1つ以上のレジカウンタ300が設置されている。このようなレイアウトの店舗において、商品陳列棚100、200におけるすべての領域を撮影できるように複数のカメラCM1が設置されるほか、レジカウンタ300での精算者、店舗の出入り口400における入場者、退場者を撮影できるように複数のカメラCM2、CM3が設置される。カメラCM1とその撮影領域、換言すれば商品の陳列場所はあらかじめ対応付けられている。また、カメラの設置に際しては、死角領域ができないように工夫される。
In FIG. 2, in addition to the
図3は、店舗側装置の構成例を示すブロック図である。 FIG. 3 is a block diagram showing a configuration example of the store-side device.
図3において、本実施形態に係る店舗側装置10は、前述したように、店舗の出入り口400に設置されて入場する人物及び退場する人物をそれぞれ撮像する2つの入退場撮像用のカメラCM3と、店舗内の所定箇所に設置されて決められた撮影領域内を撮像する複数のカメラCM1、CM2とを備える。
In FIG. 3, as described above, the store-
店舗側装置10はまた、店舗側顔認証部20、動線検出部30、商品検出装置40、不審行動検出部50、店舗側制御装置60を備える。店舗側顔認証部20、動線検出部30、商品検出装置40、不審行動検出部50、店舗側制御装置60は、1つのコンピュータあるいはCPUで実現することができるが、以下では、各部を個別に備える場合について説明する。以下に、前記各部の機能、動作について簡単に説明する。
The store-
店舗側顔認証部20は、2つの入退場撮像用のカメラCM3からの画像情報と複数のカメラCM1、CM2からの画像情報を受け、2つの入退場撮像用のカメラCM3の画像情報を基に入場する人物及び退場する人物の顔画像から顔情報を抽出し、顔認証を行って人物毎に入場日時及び退場日時と顔情報を店舗側制御装置60に出力する。なお、日時のうちの「時」は時間帯で示される。また、ここでの顔情報は、顔画像そのものを用いるが、顔画像から抽出される顔の輪郭、目の間隔や頬骨の長さ等、顔認証を行う際に使用される特徴点情報を用いても良い。
The store-side
動線検出部30は、2つの入退場撮像用のカメラCM3からの画像情報と複数のカメラCM1、CM2からの画像情報を受け、複数のカメラCM1、CM2からの画像情報に対して画像に含まれる人物毎に顔画像から顔情報を抽出するとともに人物の動線検出を行い、人物毎に検出した動線情報と該当する人物の顔情報を店舗側制御装置60に出力する。
The motion
商品検出装置40は、店舗内の商品について購入されていないにもかかわらず、無くなった商品が無いかどうかの検出を一定時間毎に行い、無くなった商品(ロスト商品)があると、ロスト商品に関する情報と、無くなった日時及び時間帯情報を店舗側制御装置60に出力する。ロスト商品に関する情報は、無くなった商品が陳列されていた場所(陳列場所)情報を含む。商品検出装置40の具体例としては、商品陳列棚100、200に陳列されている個々の商品にRFIDを付け、商品陳列棚100、200にRFIDの読み取り機を設置して定期的に商品の有無を検知する形態が挙げられる。あるいは、この種の店舗はPOS(Point of Sales)装置を備えることが普通であるので、POS装置に接続された店舗スタッフ用の携帯端末(バーコード読み取り機能付き)で商品の個数を確認する形態でも良い。
The
不審行動検出部50は、動線検出部30で検出された、人物毎の検出した動線情報と該当する人物の顔情報を店舗側制御装置60経由で受け取り、これらの情報を用いて、商品陳列棚100、200の近くで不審行動をとる人物の有無を調べ、不審行動をとる人物有りと判別すると、判別した動線情報に該当する人物の顔情報とその場所情報を店舗側制御装置60に出力する。
The suspicious
店舗側装置10は更に、センタ側装置と無線あるいは有線で通信を行うための通信部70、センタ側装置からの警戒情報に基づいて店舗スタッフに万引きに対する警戒を促す通知を行う報知部80、店舗側制御装置60の制御下で上記各部からの各種検出情報や判別情報を記録するメモリ(店舗側メモリ)90を備える。メモリ90は、店舗側制御装置60が制御動作を実行するために必要なプログラムを格納しているメモリも含む。
The store-
店舗側制御装置60は、メモリ90から制御動作を実行するためのプログラムを読み出し、以下の制御動作を実行する。
The store-
店舗側制御装置60は、カメラCM1~CM3の撮像動作を制御する。店舗側制御装置60はまた、店舗側顔認証部20から人物毎の入場日時と退場日時及び顔情報を取得して店舗情報とともにセンタ側装置に出力(送信)する。店舗情報というのは、店舗を識別するために店舗別に付与される識別情報である。店舗側制御装置60は更に、動線検出部30で取得された人物毎に検出された動線情報と該当する人物の顔情報を店舗情報とともにセンタ側装置に送信するとともに、人物毎の検出した動線情報と該当する人物の顔情報を不審行動検出部50に出力し、不審行動の検出を実行させる。店舗側制御装置60は更に、商品検出装置40からロスト商品に関する情報と無くなった日時及び時間帯情報を受け取ると、これらの情報を万引き情報として店舗情報と共にセンタ側装置に出力する。店舗側制御装置60は更に、不審行動検出部50において不審な人物有りと判別した時に送られてくる、該当する人物の顔情報と場所情報及び店舗情報をセンタ側装置に出力する。
The store-
店舗側制御装置60は、上述したように、センタ側装置からの警戒情報を通信部70経由で受信すると、報知部80に対し、受信した警戒情報に基づいて店舗側スタッフに万引きに対する警戒を促す通知を報知させる。
As described above, when the store-
図4は、センタ側装置500の構成例を示すブロック図である。
FIG. 4 is a block diagram showing a configuration example of the
図4において、本実施形態に係るセンタ側装置500は、センタ側制御装置510、センタ側顔認証部520、各店舗の店舗側装置と無線あるいは有線で通信を行う通信部530、データベースとなるメモリ(センタ側メモリ)540を備える。メモリ540は、センタ側制御装置510が制御動作を実行するために必要なプログラムも格納しているメモリも含む。センタ側制御装置510、センタ側顔認証部520は、1つのコンピュータあるいはCPUで実現することができるが、以下では、各部を個別に備える場合について説明する。
In FIG. 4, the center-
センタ側制御装置510は、メモリ540から制御動作を実行するためのプログラムを読み出し、以下の制御動作を実行する。
The center-
センタ側制御装置510は、店舗側装置から送られてくる当該店舗への人物毎の入場日時と退場日時及び顔情報と店舗情報を受け、これらの情報を人物毎に付与される怪しさ数値とともにメモリ540に蓄積する。センタ側制御装置510はまた、店舗側装置から送られてくる、ロスト商品に関する情報と無くなった日時及び時間帯情報と店舗情報を受け、これらの情報をメモリ540に蓄積する。センタ側制御装置510は更に、店舗側装置の不審行動検出部50において不審な人物有りと判別した時に店舗側装置から送られてくる、該当する人物の顔情報と場所情報及び店舗情報を受け、これらの情報をメモリ540に蓄積すると共に、後述する怪しさ数値の更新を行う。
The center-
センタ側顔認証部520は、センタ側制御装置510経由で得られる、ロスト商品に関する情報と無くなった日時及び時間帯情報と店舗情報、人物毎に検出された動線情報と該当する人物の顔情報及び店舗情報を用いて、商品の無くなった日時及び時間帯に、ロスト商品の陳列場所に近づいた人物の有無を調べ、人物有りと判別すると該当する人物の顔情報がメモリ540に記憶されているか調べる。すなわち、センタ側顔認証部520は、上記の判別の結果得られた該当する人物の顔情報とメモリ540に蓄積されている人物毎の顔情報との照合を行い、該当する顔情報を検出するとそれをセンタ側制御装置510に出力する。これを受けたセンタ側制御装置510は、メモリ540における、検出された顔情報の人物に対応する怪しさ数値を増加するように更新する動作を実行する。なお、センタ側顔認証部520において人物有りと判別したが、該当する人物の顔情報がメモリ540に存在しない場合には、センタ側制御装置510は、その顔情報と店舗情報を怪しさ数値と共にメモリ540に新たに蓄積する。
The center-side
次に、店舗αの店舗側装置10とセンタ側装置500の動作を、それらのフローチャート図である図6、図7を参照して順を追って説明する。
Next, the operations of the store-
1.店舗側制御装置60は、店舗αの出入口400に設置されたカメラCM3によって、入場する人物及び退場する人物の顔情報を取得し、顔情報と入退場日時及び店舗情報をメモリ90に記憶すると共に、通信部70経由でデータセンタのセンタ側装置500に送信する(ステップS101)。センタ側装置500のセンタ側制御装置510は店舗αから送信されてきたすべての人物の顔情報及び入退場日時と店舗情報を怪しさデータと共にメモリ540に記憶する(ステップS201)。
1. 1. The store-
メモリ540における記憶形態の一例を図5に示す。情報の記憶は、メモリ540の記憶領域を人物毎に区画し、区画毎に人物を特定する記号又は番号を付した顔情報と、店舗情報及び入退場日時と、後述する怪しさデータを紐付して記憶する。以下では、人物毎に区画された記憶領域を人物記憶領域と呼ぶ。
FIG. 5 shows an example of the storage form in the
センタ側制御装置510は、新たな顔情報及び入退場日時と店舗情報が送信されてきた際には、顔情報についてすでに記憶している顔情報との照合を行い、一致する顔情報がある場合には、一致した顔情報の人物記憶領域(区画)に、新たな店舗情報及び入退場日時を追記する。なお、以降の説明における「一致」というのは、類似度に基づく照合を行った結果、類似度が所定値以上の場合を含むものとする。
When new face information and entry / exit date / time and store information are transmitted, the center
2.店舗αの店舗側制御装置60は、定期的に、購入されていないにもかかわらず店舗α内から無くなった商品(ロスト商品)があるかどうかの検出動作を商品検出装置40に実行させる(ステップS102)。店舗側制御装置60は、商品検出装置40からロスト商品有りの出力を受け取ると、ロスト商品名と日時、無くなった時間帯及び場所情報をメモリ90に記憶すると共に、ロスト商品名と日時、無くなった時間帯及び場所情報に店舗情報を加えてセンタ側装置500に送信する(ステップS103)。以下では、ロスト商品名と日時、無くなった時間帯及び場所情報に店舗情報を加えた情報をまとめてロスト情報と呼ぶことがある。
2. 2. The store-
3.センタ側制御装置510は、ロスト情報の受信があることを検出すると(ステップS202)、受信したロスト情報をメモリ540に記憶する(ステップS203)。ロスト情報は、店舗別に記憶される。
3. 3. When the center-
センタ側制御装置510は、上記1及び2において取得した情報を基に、定期的に、店舗αに入場した人物の怪しさデータを計上、更新していく。怪しさデータは、ここでは数値で示すこととし、以後、怪しさ数値と呼ぶ。
The center-
店舗αでは、店舗側制御装置60が動線検出部30に対して店舗α内の人物の動線情報及び顔情報を取得させ、これらの情報をメモリ90に記憶すると共に、センタ側装置500に送信する(ステップS104)。
In the store α, the store
センタ側制御装置510は、店舗αから送信されてきた店舗α内の人物の動線情報及び顔情報の受信があることを検出すると(ステップS202)、受信した情報をメモリ540に記憶する(ステップS203)。
When the center
店舗側制御装置60はまた、動線検出部30で検出された、人物毎の検出した動線情報と該当する人物の顔情報を用いて、不審行動検出部50に対して、商品陳列棚100、200の近くで不審な行動をとる人物の有無を調べさせ(ステップS105)、不審な人物有りの判別結果が得られると、該当する人物の顔情報とその人物がいた場所情報及び店舗情報を不審情報としてセンタ側装置500に送信する(ステップS106)。
The store-
センタ側制御装置510は、不審情報を受信すると(ステップS204)、不審情報中の顔情報を用いて、記憶しているすべての人物の顔情報に対して照合を行って当該人物に対応する顔情報があるかどうか調べる(ステップS205)。センタ側制御装置510はまた、対応する顔情報を抽出することができた場合(ステップS205のYes)には、メモリ540における抽出した顔情報の人物に対して怪しさ数値を所定数値プラスする(ステップS206)。センタ側制御装置510は、対応する顔情報を抽出することができない場合には、不審情報に含まれる顔情報を店舗情報と共にメモリ540の新たな人物記憶領域に記憶する(S207)。
When the center-
センタ側制御装置510は更に、上記1及び2において取得した情報と、店舗情報と、商品が無くなった日時、時間帯の動線情報及び顔情報を基に、商品が無くなった日時、時間帯に、無くなった商品が置かれていた商品陳列棚100、200、すなわち陳列場所の前に一定時間滞在した人物がいたかどうかの判別動作を実行する(ステップS208)。この判別動作にはセンタ側顔認証部520が用いられる。センタ側制御装置510は、該当する人物有りと判別すると、その人物の顔情報を用いて、メモリ540に記憶しているすべての人物の顔情報に対して照合を行って当該人物に対応する顔情報を抽出する。センタ側制御装置510はまた、対応する顔情報を抽出することができた場合には、抽出した顔情報を記憶している人物記憶領域の怪しさ数値を所定数値プラスする(ステップS209)。なお、判別の結果、商品陳列棚の前を通過しただけ、または通過すらしてない人物の場合には、怪しさ数値をプラスしないだけでなく、マイナスするというようにしても良い。
The center
4.上記1~3を複数の店舗についてセンタ側装置500で日々繰り返すことで、センタ側装置500は、図5に示されるような記憶情報において、再犯を繰り返す可能性のある人物の怪しさ数値を更新する。怪しさ数値の更新に際しては、上記3に記載の工夫により、万引きとは無関係な人物の場合は怪しさ数値が上がらないようにすることができる。
4. By repeating the above steps 1 to 3 daily with the center-
この情報を元に、センタ側装置500は、ある閾値以上に怪しさ数値が上がった人物がいる場合(ステップS210のYes)には、その旨を該当する人物の顔情報と共に不審人物情報として該当する店舗(α)だけでなく、すべての店舗に通知する(ステップS211)。通知を受けた各店舗では(ステップS107のYes)、店舗スタッフ専用のディスプレイにより通知を受けた人物の顔情報を表示して店舗スタッフに通知する(ステップS108)。
Based on this information, when there is a person whose suspicious value has risen above a certain threshold value (Yes in step S210), the center-
店舗側制御装置60は、以後、店舗側顔認証部20により入場時に撮影された人物の顔情報と通知を受けた人物の顔情報との照合を行い(ステップS109)、該当する人物の入場有りと判別した場合にはその旨を店員に通知して注意を促すことで、万引きを未然に防ぐことができる(ステップS110)。
After that, the store-
以上のように、複数の各店舗α、βにおいて、各店舗に入場したことのある人物の顔情報とその人物に関する怪しさデータ(怪しさ数値)を、センタ側装置を通して共有しているため、店舗αだけでなく他の店舗βでも怪しさ数値の高い人物の検出が可能となる。 As described above, in each of the plurality of stores α and β, the face information of the person who has entered each store and the suspicious data (suspicious numerical value) related to the person are shared through the center side device. It is possible to detect a person with a high suspicious value not only in store α but also in other store β.
5.なお、誤検出を防ぐ方法としては、上記に記載した項目を含めて以下の手法が考えられる。 5. As a method for preventing erroneous detection, the following methods including the items described above can be considered.
5-1.センタ側装置での動線情報を使用した検出処理により、無くなった商品が置かれていた棚の前にある人物が一定時間滞在した場合には、怪しさ数値をプラスに、逆に棚の前を通過しただけ、または通過すらしてない様な場合には、プラスしないだけでなくマイナスするという制御を行う。 5-1. When a person in front of the shelf where the lost product was placed stays for a certain period of time due to the detection process using the flow line information on the center side device, the suspicious value is added to the plus, and conversely, in front of the shelf. If it just passed or did not even pass, it controls not only not to add but also to decrease.
5-2.店舗側装置10の不審行動検出部50において、動線情報を使用した検出処理により、ある人物が万引きのための品定めをしているのではないかと疑われる不審行動を検出した場合には、不審行動検出を示す情報と、顔情報及び店舗情報をセンタ側装置500に送信してメモリ540における怪しさ数値をプラスさせる。不審行動の検出は以下のようにして実現される。不審行動として検出すべき動作パターンを、いくつかの不審行動パターンに類型化してあらかじめメモリ90に記憶しておく。不審行動検出部50は、店舗側制御装置60の制御下で動線検出部30から送付されてくる動線情報について通常とは異なる動きを検出した場合には、動線情報が不審行動パターンに該当するかどうかの判別を行う。該当すると判別した場合には、不審行動検出部50はすぐに店舗側制御装置60経由で不審行動をとる人物が存在することを検出したことを示す情報を顔情報及び店舗情報と共にセンタ側装置500に送信する。勿論、不審行動をとる人物が存在することを店舗スタッフ専用のディスプレイにより店舗スタッフに通知するようにしても良い。なお、不審行動検出部をセンタ側装置500に設置して、不審行動検出をセンタ側装置500において実行するようにしても良い。
5-2. When the suspicious
5-3.万引きを行った人物と同じ時間帯に偶然複数回店舗を訪問した他人の場合には、怪しさ数値が誤って計上される可能性があるので、商品の紛失を検出する時間間隔を短くし、怪しさ数値の正確さを向上させる。 5-3. In the case of another person who accidentally visits the store multiple times at the same time as the person who shoplifted, the suspicious value may be mistakenly recorded, so shorten the time interval to detect the loss of the product and shorten the time interval. Improves the accuracy of suspicious numbers.
5-4.怪しさ数値としては単に個人として計上するだけではなく、同じ時間帯に店舗内に存在した人物と紐付けた情報も管理することで、それと外れた行動(例えば怪しさ数値計上時に店内に存在した人物と一緒ではない時間帯に店舗αを訪れた場合や、他店舗βを訪れた)をした場合に何もなければ、怪しさ数値をマイナスする。 5-4. As a suspicious numerical value, it is not only recorded as an individual, but by managing information associated with a person who existed in the store at the same time, behavior that deviates from that (for example, it existed in the store when the suspicious numerical value was recorded). If there is nothing when you visit the store α or visit another store β when you are not with a person, the suspiciousness value is subtracted.
5-5.怪しさ数値が閾値を超えた場合でも、万一誤検出であることがわかった場合や、警察官が万引き現場を抑えて逮捕した様な場合には、データを手動でクリアすることもできる。 5-5. Even if the suspiciousness value exceeds the threshold value, the data can be cleared manually if it is found to be a false positive or if a police officer arrests the shoplifting site.
怪しさ数値の扱いについて例を用いて説明する。 The handling of suspicious numbers will be explained using an example.
図1の店舗αに、X、Y、Zの3名がそれぞれ、同日の図1に記載の時間帯に店舗に滞在したと仮定する。店舗αで図1に記載の商品(ビール、アイス)が万引きに合ったと仮定する。すると、商品(ビール)が無くなった日時、時間帯(2016/7/5、11:00~14:00)に店舗αに滞在したX、Y、Zの3名が疑わしいので、怪しさ数値を計上する。 It is assumed that three people, X, Y, and Z, each stay in the store α in FIG. 1 at the time zone shown in FIG. 1 on the same day. It is assumed that the products (beer, ice cream) shown in FIG. 1 are suitable for shoplifting at the store α. Then, the three people X, Y, and Z who stayed at the store α during the time and date (2016/7/5, 11:00 to 14:00) when the product (beer) disappeared are suspicious. Record.
その際、店舗α内に設置された人物の動線検出部や不審行動検出部により、商品が無くなった時間帯(11:00~14:00)に商品が無くなった商品陳列棚の前に、ある一定閾値時間以上滞在した人物Xの存在を検出した場合には、不審行動検出に該当した人物Xの怪しさ数値を大きめに計上する。逆に、同じ時間帯に店舗αに滞在したにも拘わらず、商品が無くなった商品陳列棚の前を通過しただけ、または通っていない人物Y、Zについては、怪しさ数値を計上しない。これを繰り返すことで、怪しさ数値に信憑性が増す。 At that time, by the flow line detection unit and suspicious behavior detection unit of the person installed in the store α, in front of the product display shelf where the product disappeared during the time zone (11:00 to 14:00) when the product disappeared. When the presence of the person X who has stayed for a certain threshold time or longer is detected, the suspicious value of the person X corresponding to the suspicious behavior detection is counted as a large value. On the contrary, the suspicious figures are not recorded for the persons Y and Z who have just passed or did not pass in front of the product display shelves where the products have disappeared even though they stayed at the store α at the same time. By repeating this, the credibility of the suspicious value increases.
そして、ある人物の怪しさ数値が所定の閾値を超えた場合に、センタ側装置はその旨を該当する人物の顔情報と共に該当するすべての店舗に通知する。通知を受けた各店舗では、以後、入場時に撮影された人物の顔情報と通知を受けた人物の顔情報との照合を行い、該当する人物の入場を検出した場合には店員に注意を促し、店内の見回りを強化したり、店内で防犯強化についての放送を行ったりすることにより、万引きを未然に防ぐことができる。 Then, when the suspicious value of a certain person exceeds a predetermined threshold value, the center-side device notifies all the corresponding stores together with the face information of the corresponding person. After that, each store that received the notification will collate the face information of the person photographed at the time of admission with the face information of the person who received the notification, and if the entry of the corresponding person is detected, the store clerk will be alerted. , Shoplifting can be prevented by strengthening the patrol in the store and broadcasting about the strengthening of crime prevention in the store.
なお、店舗側装置10におけるメモリ90、センタ側装置500におけるメモリ540においては、記憶時間が一定期間を経過した情報については自動的に消去するようにしても良い。特に、メモリ540の人物記憶領域に記憶される情報とこれに関連する店舗情報、入退場日時情報、怪しさ数値情報は、怪しさ数値が一定期間変化しなければ自動的に消去するようにしても良い。
In the
本発明による万引き防止システム及び店舗側装置並びにセンタ側装置は、スーパーマーケットや小売店舗等の様々な販売施設に適用することができる。 The shoplifting prevention system, the store-side device, and the center-side device according to the present invention can be applied to various sales facilities such as supermarkets and retail stores.
DC データセンタ
CM1~CM3 カメラ
100、200 商品陳列棚
300 レジカウンタ
400 出入り口
10 店舗側装置
60 店舗側制御装置
500 センタ側装置
510 センタ側制御装置
DC data center CM1 to
Claims (6)
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段と、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段と、
を備える情報処理システム。 Based on the image acquired from the camera, the flow line detecting means for extracting face information and detecting the flow line information for each person included in the image, and
A product detection means that detects a lost product even though it has not been purchased and generates shoplifting information including information on the detected product and information on a time zone in which the product is lost.
A control means for updating the suspicious numerical value stored in association with each person included in the image based on the flow line information and the shoplifting information.
Information processing system equipped with.
カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出することと、
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成することと、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新することと、
を含む情報処理方法。 An information processing method executed by an information processing system.
Based on the image acquired from the camera, face information is extracted for each person included in the image and flow line information is detected.
Detecting lost products even though they have not been purchased, and generating shoplifting information including information on the detected products and information on the time zone when the products are lost.
Based on the flow line information and the shoplifting information, updating the suspicious numerical value stored in association with each person included in the image, and
Information processing methods including.
カメラから取得した画像に基づいて、前記画像に含まれる人物毎に顔情報を抽出するとともに動線情報を検出する動線検出手段、
購入されていないにもかかわらず無くなった商品を検出し、検出した前記商品に関する情報と、前記商品が無くなった時間帯の情報とを含む万引き情報を生成する商品検出手段、
前記動線情報および前記万引き情報に基づき、前記画像に含まれる人物毎に対応付けて格納する怪しさ数値を更新する制御手段、
として機能させるためのプログラム。 Computer,
A flow line detecting means for extracting face information and detecting flow line information for each person included in the image based on an image acquired from a camera.
A product detection means that detects a lost product even though it has not been purchased, and generates shoplifting information including information on the detected product and information on a time zone in which the product is lost.
A control means for updating a suspicious numerical value stored in association with each person included in the image based on the flow line information and the shoplifting information.
A program to function as.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021010034A JP7054075B2 (en) | 2021-01-26 | 2021-01-26 | Information processing system, information processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021010034A JP7054075B2 (en) | 2021-01-26 | 2021-01-26 | Information processing system, information processing method, and program |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017072078A Division JP6836173B2 (en) | 2017-03-31 | 2017-03-31 | Shoplifting prevention system and store-side equipment and center-side equipment used for it |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021073595A JP2021073595A (en) | 2021-05-13 |
JP7054075B2 true JP7054075B2 (en) | 2022-04-13 |
Family
ID=75802581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021010034A Active JP7054075B2 (en) | 2021-01-26 | 2021-01-26 | Information processing system, information processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7054075B2 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013134644A (en) | 2011-12-27 | 2013-07-08 | Panasonic Corp | Security system |
JP2013196043A (en) | 2012-03-15 | 2013-09-30 | Glory Ltd | Specific person monitoring system |
WO2015033576A1 (en) | 2013-09-06 | 2015-03-12 | 日本電気株式会社 | Security system, security method, and non-temporary computer-readable medium |
JP2015130155A (en) | 2013-12-02 | 2015-07-16 | Lykaon株式会社 | Crime prevention system |
-
2021
- 2021-01-26 JP JP2021010034A patent/JP7054075B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013134644A (en) | 2011-12-27 | 2013-07-08 | Panasonic Corp | Security system |
JP2013196043A (en) | 2012-03-15 | 2013-09-30 | Glory Ltd | Specific person monitoring system |
WO2015033576A1 (en) | 2013-09-06 | 2015-03-12 | 日本電気株式会社 | Security system, security method, and non-temporary computer-readable medium |
JP2015130155A (en) | 2013-12-02 | 2015-07-16 | Lykaon株式会社 | Crime prevention system |
Also Published As
Publication number | Publication date |
---|---|
JP2021073595A (en) | 2021-05-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9311799B2 (en) | Modifying RFID system operation using movement detection | |
US9977971B2 (en) | Role-based tracking and surveillance | |
US10817710B2 (en) | Predictive theft notification | |
US20220156686A1 (en) | Commodity monitoring device, commodity monitoring system, output destination device, commodity monitoring method, display method and program | |
US20180115749A1 (en) | Surveillance system and surveillance method | |
JP6836173B2 (en) | Shoplifting prevention system and store-side equipment and center-side equipment used for it | |
US7448542B1 (en) | Method for detecting a non-scan at a retail checkout station | |
WO2018180588A1 (en) | Facial image matching system and facial image search system | |
CN103578018A (en) | Method, device and system for detecting lost sales due to an out-of-shelf condition | |
JP4961158B2 (en) | Automatic transaction device and suspicious object detection system | |
KR20040027951A (en) | Vision-based method and apparatus for detecting fraudulent events in a retail environment | |
JP6573185B1 (en) | Information processing system, information processing method, and program | |
JP2012242912A (en) | Sales management system | |
JP5903557B2 (en) | Security system | |
US20210090057A1 (en) | Store management device, store management system, and store management method | |
JP5202419B2 (en) | Security system and security method | |
JP4159572B2 (en) | Abnormality notification device and abnormality notification method | |
US20240070642A1 (en) | Method and system for self-checkout in a retail environment | |
US20230394555A1 (en) | Information processing method, information processing device, and recording medium | |
JP7054075B2 (en) | Information processing system, information processing method, and program | |
JP2003169320A (en) | Monitoring method and system thereof | |
JP2022127013A (en) | Self-checkout system and program | |
JP6707774B2 (en) | Information processing system, information processing method, and program | |
JP2022011704A (en) | Image processing device, image processing method, and program | |
JP2023085251A (en) | Unmanned store system and server |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211014 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211020 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220302 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220315 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7054075 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |