JP2020077330A - Shop device - Google Patents

Shop device Download PDF

Info

Publication number
JP2020077330A
JP2020077330A JP2018211529A JP2018211529A JP2020077330A JP 2020077330 A JP2020077330 A JP 2020077330A JP 2018211529 A JP2018211529 A JP 2018211529A JP 2018211529 A JP2018211529 A JP 2018211529A JP 2020077330 A JP2020077330 A JP 2020077330A
Authority
JP
Japan
Prior art keywords
store
unit
monitoring
monitoring area
suspicious person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018211529A
Other languages
Japanese (ja)
Other versions
JP7138547B2 (en
Inventor
沙魚川 久史
Hisashi Hazekawa
久史 沙魚川
辰徳 佐々木
Tatsunori Sasaki
辰徳 佐々木
学 小南
Manabu Kominami
学 小南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2018211529A priority Critical patent/JP7138547B2/en
Publication of JP2020077330A publication Critical patent/JP2020077330A/en
Application granted granted Critical
Publication of JP7138547B2 publication Critical patent/JP7138547B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To provide a shop device capable of transmitting a message to an important monitoring area and other monitoring areas with different criteria.SOLUTION: A shop device 10 includes: a first storage unit 13 that stores an arrangement position of each of a plurality of commodities in a shop and a monitoring area in the shop; an image acquisition unit 141 that acquires a captured image obtained by capturing an image of the monitoring area; a suspicious person detection unit 142 that detects a suspicious person from the captured image; a notification unit 143 that transmits a massage to a monitoring device 30 in the case where a suspicious person has been detected; an acceptance unit 144 that accepts one of the commodities among the plurality of commodities and a designation of an importance level for the commodity by a user; and an important monitoring area setting unit 145 that sets an important monitoring area on the basis of the arrangement position of the designated commodity and the designated importance level. The suspicious person detection unit 142 changes a reference for detecting a suspicious person from the captured image in accordance with whether or not the monitoring area includes the importance monitoring area.SELECTED DRAWING: Figure 1

Description

本発明は、店舗を監視する店舗装置に関する。   The present invention relates to a store device that monitors a store.

従来、店舗に設置された店舗装置が、店舗内を撮影した撮影画像を解析し、撮影画像から検出した人物への対処が必要である場合、監視センタに設置された監視装置に通報を行う画像監視システムが利用されている。   Conventionally, an image that a store device installed in a store analyzes a captured image of the inside of the store and notifies a monitoring device installed in a monitoring center when a person detected from the captured image needs to be dealt with Surveillance system is used.

例えば、特許文献1には、監視対象の状況を監視センタで画像により監視する画像監視システムが開示されている。この画像監視システムにおいて、画像監視装置は、利用者により非常通報操作があったときは、監視センタへの非常通報及び現画像の送出を行う。   For example, Patent Document 1 discloses an image monitoring system that monitors the status of a monitoring target with an image at a monitoring center. In this image monitoring system, the image monitoring device sends an emergency notification to the monitoring center and sends out the current image when the user performs an emergency notification operation.

また、特許文献2には、重要監視物への人物の接近を検知すると、重要監視物の周囲の所定領域内の画像を取得する装置が開示されている。この装置は、所定の条件を満たす人物が画像から検出された場合、監視センタに通報を行い、監視画像を送信する。   Further, Patent Document 2 discloses a device that acquires an image in a predetermined area around an important monitored object when a person's approach to the important monitored object is detected. When a person who satisfies a predetermined condition is detected from the image, this device notifies the monitoring center and transmits the monitoring image.

特開2001−109973号公報JP 2001-109973 A 特開2012−50031号公報JP 2012-50031 A

一般に、店舗内を撮影した撮影画像を用いて店舗を監視する店舗装置において、重点的に監視するエリアを設定するためには特別なスキルが必要である。そのため、このような店舗装置では、重点的に監視するエリアを容易に設定できることが望まれている。   Generally, in a store apparatus that monitors a store using a captured image of the inside of the store, special skill is required to set an area to be monitored intensively. Therefore, in such a store apparatus, it is desired to be able to easily set the area to be monitored intensively.

本発明の目的は、店舗内で重点的に監視するエリアを容易に設定できる店舗装置を提供することにある。   An object of the present invention is to provide a store apparatus that can easily set an area to be focused on in a store.

かかる課題を解決するため本発明は、店舗を監視する店舗装置であって、店舗内における複数の商品のそれぞれの配置位置と、店舗内の監視エリアとを記憶する記憶部と、監視エリアを撮影した撮影画像を取得する画像取得部と、撮影画像から不審人物を検出する不審人物検出部と、不審人物が検出された場合、監視装置に通報を送信する通報部と、利用者による複数の商品の内の何れかの商品及び当該商品に対する重要度の指定を受け付ける受付部と、指定された商品の配置位置及び指定された重要度に基づいて、重点監視エリアを設定する重点監視エリア設定部と、を有し、不審人物検出部は、監視エリアが重点監視エリアを含むか否かに応じて、撮影画像から不審人物を検出する基準を変更する店舗装置を提供する。   In order to solve such a problem, the present invention is a store apparatus for monitoring a store, and a storage unit that stores each arrangement position of a plurality of products in the store and a monitor area in the store, and shoots the monitor area. An image acquisition unit that acquires the captured image, a suspicious person detection unit that detects a suspicious person from the captured image, a notification unit that sends a notification to the monitoring device when a suspicious person is detected, and multiple products by the user A receiving unit that receives designation of any of the products and the degree of importance of the product, and a focused monitoring area setting unit that sets a focused monitoring area based on the arrangement position of the designated product and the designated importance. And the suspicious person detection unit provides a store apparatus that changes a reference for detecting a suspicious person from a captured image according to whether or not the monitoring area includes a priority monitoring area.

この店舗装置において、受付部は、複数の商品のそれぞれの個数の設定をさらに受け付け、重点監視エリア設定部は、さらに複数の商品のそれぞれの個数に基づいて、重点監視エリアを設定することが好適である。   In this store apparatus, it is preferable that the reception unit further receives the setting of the number of each of the plurality of products, and the priority monitoring area setting unit further sets the priority monitoring area based on the number of each of the plurality of products. Is.

この店舗装置は、撮影画像から店舗の店員を検出する店員検出部をさらに有し、不審人物検出部は、店員が検出されたか否かに応じて基準を変更することが好適である。   It is preferable that the store apparatus further includes a store clerk detection unit that detects a store clerk of the store from the captured image, and the suspicious person detection unit changes the reference depending on whether the store clerk is detected.

この店舗装置は、店舗が混雑しているか否かを判定する混雑判定部をさらに有し、不審人物検出部は、店舗が混雑しているか否かに応じて基準を変更することが好適である。   It is preferable that the store device further includes a congestion determination unit that determines whether or not the store is crowded, and the suspicious person detection unit changes the reference depending on whether or not the store is crowded. .

本発明に係る店舗装置は、店舗内で重点的に監視するエリアを容易に設定できる。   With the store apparatus according to the present invention, it is possible to easily set an area to be focused on and monitored in the store.

画像監視システム1の全体システム構成を示す図である。It is a figure which shows the whole system structure of the image monitoring system 1. 店舗における商品の配置位置、監視エリア及び撮像装置の位置の一例を示す平面図である。It is a top view which shows an example of the arrangement | positioning position of the goods in a store, a monitoring area, and the position of an imaging device. 設定処理の動作を示すフローチャートの一例を示す図である。It is a figure which shows an example of the flowchart which shows operation | movement of a setting process. 監視処理の動作を示すフローチャートの一例を示す図である。It is a figure which shows an example of the flowchart which shows operation | movement of a monitoring process. 通報決定処理の動作を示すフローチャートの一例を示す図である。It is a figure which shows an example of the flowchart which shows operation | movement of notification determination processing. 画像監視システム1の動作シーケンスの一例を示す図である。It is a figure which shows an example of the operation sequence of the image monitoring system 1. 監視装置30に表示される表示画面の一例である。6 is an example of a display screen displayed on the monitoring device 30.

以下、実施形態に係る画像監視システムについて図を参照しつつ説明する。   The image monitoring system according to the embodiment will be described below with reference to the drawings.

図1は、実施形態に係る画像監視システム1の全体システム構成を示す図である。図1に示すように、画像監視システム1は、一又は複数の店舗のそれぞれに設置される一又は複数の店舗装置10と、構内LAN又はインターネット等の通信ネットワークを介して各店舗装置10と接続される監視装置30とを有する。また、各店舗装置10には、一又は複数の撮像装置21と、音出力装置22と、一又は複数の端末装置23とが接続される。   FIG. 1 is a diagram showing an overall system configuration of an image monitoring system 1 according to the embodiment. As shown in FIG. 1, the image monitoring system 1 is connected to one or a plurality of store devices 10 installed in each of one or a plurality of stores and each store device 10 via a communication network such as a local area LAN or the Internet. And the monitoring device 30. In addition, one or more imaging devices 21, a sound output device 22, and one or more terminal devices 23 are connected to each store device 10.

店舗装置10は、例えばパーソナルコンピュータ等であり、インタフェース部11と、第1通信部12と、第1記憶部13と、第1制御部14とを有する。   The store device 10 is, for example, a personal computer or the like, and includes an interface unit 11, a first communication unit 12, a first storage unit 13, and a first control unit 14.

インタフェース部11は、例えばUSB等のシリアルバス規格に準じるインタフェース回路を有し、撮像装置21、音出力装置22及び/又は端末装置23と通信接続して各種の情報を送受信する。なお、インタフェース部11は、シリアルバス規格に準じるインタフェース回路の代わりに、WiFi、Bluetooth(登録商標)、NFC等の近距離無線通信規格に準じるインタフェース回路を有してもよい。   The interface unit 11 has an interface circuit conforming to a serial bus standard such as USB, and is connected to the image pickup device 21, the sound output device 22, and / or the terminal device 23 to transmit and receive various information. The interface unit 11 may have an interface circuit conforming to the short-distance wireless communication standard such as WiFi, Bluetooth (registered trademark), NFC, etc., instead of the interface circuit conforming to the serial bus standard.

第1通信部12は、イーサネット(登録商標)などの各種の通信インタフェース回路を有し、通信ネットワークを介して監視装置30と各種の信号を送受信する。   The first communication unit 12 has various communication interface circuits such as Ethernet (registered trademark), and transmits and receives various signals to and from the monitoring device 30 via a communication network.

第1記憶部13は、ROM、RAM等の半導体メモリ、磁気ディスク(HDD)、又はCD−ROM、DVD−RAM等の光ディスクドライブ及びその記録媒体を有する。第1記憶部13は、店舗装置10を制御するためのコンピュータプログラム及び各種データを記憶し、第1制御部14との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて第1記憶部13にインストールされてもよい。また、記憶部15は、データとして、背景画像131、商品配置情報132、監視エリア情報133、撮像装置情報134、店員情報135等を記憶する。
背景画像131は、各撮像装置21が、動物体が存在しないときに店舗内を撮影した画像である。商品配置情報132は、店舗内における複数の商品のそれぞれの配置位置を示す情報である。監視エリア情報133は、各商品の配置位置と店舗内の監視エリアとの対応関係を示す情報である。撮像装置情報134は、監視エリアとその監視エリアを撮影する撮像装置21との対応関係を示す情報である。店員情報135は、店員毎の顔写真を含む情報である。
The first storage unit 13 has a semiconductor memory such as ROM and RAM, a magnetic disk (HDD), or an optical disk drive such as CD-ROM and DVD-RAM, and its recording medium. The first storage unit 13 stores a computer program for controlling the store apparatus 10 and various data, and inputs / outputs these pieces of information to / from the first control unit 14. The computer program may be installed in the first storage unit 13 from a computer-readable portable recording medium such as a CD-ROM or a DVD-ROM using a known setup program or the like. Further, the storage unit 15 stores, as data, a background image 131, product arrangement information 132, monitoring area information 133, imaging device information 134, clerk information 135, and the like.
The background image 131 is an image captured by the imaging device 21 inside the store when there is no moving object. The product placement information 132 is information indicating the placement position of each of the plurality of products in the store. The monitoring area information 133 is information indicating the correspondence relationship between the arrangement position of each product and the monitoring area in the store. The imaging device information 134 is information indicating the correspondence between the surveillance area and the imaging device 21 that photographs the surveillance area. The clerk information 135 is information including a face photograph for each clerk.

第1制御部14は、CPU、MPU等のプロセッサと、ROM、RAM等のメモリと、その周辺回路とを有し、店舗装置10の各種信号処理を実行する。第1制御部14は、プロセッサ上で動作するプログラムの機能モジュールとして実装される画像取得手段141、不審人物検出手段142、通報手段143、受付手段144、重点監視エリア設定手段145、人物検出手段146、店員検出手段147、混雑判定手段148及び画像送信手段149等を有する。なお、第1制御部14として、DSP、LSI、ASIC、FPGA等が用いられてもよい。   The first control unit 14 includes a processor such as a CPU and an MPU, a memory such as a ROM and a RAM, and peripheral circuits thereof, and executes various signal processes of the store apparatus 10. The first control unit 14 is an image acquisition unit 141, a suspicious person detection unit 142, a notification unit 143, a reception unit 144, an emphasis monitoring area setting unit 145, and a person detection unit 146, which are implemented as a functional module of a program operating on the processor. , A clerk detection unit 147, a congestion determination unit 148, an image transmission unit 149, and the like. A DSP, LSI, ASIC, FPGA or the like may be used as the first control unit 14.

撮像装置21は、店舗装置10が設置される店舗に固定設置され、店舗内を撮影するカメラである。撮像装置21は、CCD素子またはC−MOS素子など、可視光に感度を有する光電変換素子と、その光電変換素子上に像を結像する結像光学系と、光電変換素子から出力された電気信号を増幅し、アナログ/デジタル(A/D)変換するA/D変換器とを有する。撮像装置21は、撮影したRGB各色の画像を各画素が0〜255の範囲の輝度値を有するデジタルの撮影画像に変換して店舗装置10へ出力する。   The imaging device 21 is a camera that is fixedly installed in the store where the store device 10 is installed and that captures an image of the inside of the store. The image pickup device 21 includes a photoelectric conversion element having a sensitivity to visible light, such as a CCD element or a C-MOS element, an imaging optical system that forms an image on the photoelectric conversion element, and an electrical output from the photoelectric conversion element. And an A / D converter that amplifies the signal and converts it into analog / digital (A / D). The imaging device 21 converts the captured image of each RGB color into a digital captured image in which each pixel has a brightness value in the range of 0 to 255, and outputs the digital captured image to the store device 10.

音出力装置22は、店舗装置10が設置される店舗に設置され、店舗内に音声を出力するスピーカである。音出力装置22は、店舗装置10から音声信号を受信し、受信した音声信号に従って、店員又は客等の店舗内の人物に音声を出力する。   The sound output device 22 is a speaker that is installed in the store where the store device 10 is installed and that outputs a sound in the store. The sound output device 22 receives a voice signal from the store device 10 and outputs a voice to a person in the store such as a clerk or a customer according to the received voice signal.

端末装置23は、店舗装置10の店員により携帯される端末であり、例えばインカム(インターコミュニケーション)、スマートフォン等である。端末装置23は、店舗装置10と接続するためのインタフェースと、店員に通知を行うための表示装置及び/又は音声出力装置等の通知部と、それらを制御するためのプロセッサとを有する。端末装置23は、店舗装置10から通知信号を受信し、受信した通知信号に従って、店員に画像又は音声による通知を行う。   The terminal device 23 is a terminal carried by a store clerk of the store device 10, and is, for example, an intercom (intercom) or a smartphone. The terminal device 23 has an interface for connecting to the store apparatus 10, a notification unit such as a display device and / or a voice output device for notifying a store clerk, and a processor for controlling them. The terminal device 23 receives the notification signal from the store device 10, and notifies the store clerk by image or voice according to the received notification signal.

なお、撮像装置21、音出力装置22及び/又は端末装置23は、店舗装置10と別個に設けられるのでなく、店舗装置10と一体に設けられてもよい。   The imaging device 21, the sound output device 22, and / or the terminal device 23 may be provided integrally with the store device 10 instead of being provided separately from the store device 10.

監視装置30は、例えばサーバ等であり、第2通信部31と、操作部32と、表示部33と、第2記憶部34と、第2制御部35とを有する。   The monitoring device 30 is, for example, a server, and includes a second communication unit 31, an operation unit 32, a display unit 33, a second storage unit 34, and a second control unit 35.

第2通信部31は、第1通信部12と同様の通信インタフェース回路を有し、通信ネットワークを介して店舗装置10と各種の信号を送受信する。   The second communication unit 31 has the same communication interface circuit as the first communication unit 12, and transmits and receives various signals to and from the store apparatus 10 via the communication network.

操作部32は、例えばタッチパネル、マウス、キーボード等であり、監視センタの監視員による操作を受け付け、受け付けた操作に応じた信号を第2制御部35に送る。   The operation unit 32 is, for example, a touch panel, a mouse, a keyboard, or the like, receives an operation by a monitoring staff member of the monitoring center, and sends a signal according to the received operation to the second control unit 35.

表示部33は、例えば液晶ディスプレイ、有機ELディスプレイ等であり、第2制御部35からの指示に従って、店舗装置10から受信した通報、撮影画像等を表示する。   The display unit 33 is, for example, a liquid crystal display, an organic EL display, or the like, and displays a notification, a captured image, or the like received from the store apparatus 10 according to an instruction from the second control unit 35.

第2記憶部34は、第1記憶部13と同様の半導体メモリ、磁気ディスク又は光ディスクドライブ及びその記録媒体を有する。第2記憶部34は、監視装置30を制御するためのコンピュータプログラム及び各種データを記憶し、第2制御部35との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて第2記憶部34にインストールされてもよい。   The second storage unit 34 has the same semiconductor memory as the first storage unit 13, a magnetic disk or an optical disk drive, and its recording medium. The second storage unit 34 stores a computer program for controlling the monitoring device 30 and various data, and inputs / outputs these pieces of information from / to the second control unit 35. The computer program may be installed in the second storage unit 34 from a computer-readable portable recording medium such as a CD-ROM or a DVD-ROM using a known setup program or the like.

第2制御部35は、第1制御部14と同様のプロセッサ、メモリ及び周辺回路を有し、監視装置30の各種信号処理を実行する。第2制御部35は、プロセッサ上で動作するプログラムの機能モジュールとして実装される監視手段351等を有する。   The second control unit 35 has the same processor, memory, and peripheral circuits as the first control unit 14, and executes various signal processing of the monitoring device 30. The second control unit 35 has a monitoring unit 351 mounted as a functional module of a program operating on the processor.

図2は、店舗における商品の配置位置、監視エリア及び撮像装置の位置の一例を示す平面図である。
図2に示す様に、店舗には複数の棚S1〜S9が配置され、商品は、棚S1〜S9の何れかに配置される。店舗には棚S1〜S9及びその周辺をそれぞれ含む複数の監視エリアA1〜A9が設定されている。なお、各監視エリアの一部は、他の監視エリアと重複する様に設定されてもよい。また、撮像装置21a〜21cは、監視エリアA1〜A9の内の少なくとも一つを撮影する。本実施形態では、撮像装置21aは、監視エリアA1を、撮像装置21bは、監視エリアA2〜A5を、撮像装置21cは、監視エリアA6〜A9を、それぞれ撮影するように設定されている。
FIG. 2 is a plan view showing an example of the arrangement positions of the products in the store, the monitoring areas, and the positions of the image pickup apparatus.
As shown in FIG. 2, a plurality of shelves S1 to S9 are arranged in the store, and the products are arranged on any of the shelves S1 to S9. A plurality of monitoring areas A1 to A9 including shelves S1 to S9 and their surroundings are set in the store. Note that a part of each monitoring area may be set so as to overlap with another monitoring area. Further, the imaging devices 21a to 21c capture at least one of the monitoring areas A1 to A9. In the present embodiment, the imaging device 21a is set to shoot the monitoring area A1, the imaging device 21b is set to shoot monitoring areas A2 to A5, and the imaging device 21c is set to shoot monitoring areas A6 to A9.

図3は、店舗装置10による設定処理の動作を示すフローチャートの一例を示す図である。以下、図3に示したフローチャートを参照しつつ、本実施形態による登録処理の動作を説明する。なお、以下に説明する動作のフローは、第1記憶部13に予め記憶されているプログラムに基づいて、主に第1制御部14により、店舗装置10の各部と協働して実行される。なお、設定処理は、店舗装置10が後述する監視処理の実行前、又は、監視処理と並行して実行される。   FIG. 3 is a diagram showing an example of a flowchart showing the operation of the setting process by the store apparatus 10. The operation of the registration process according to this embodiment will be described below with reference to the flowchart shown in FIG. The operation flow described below is executed mainly by the first control unit 14 in cooperation with each unit of the store apparatus 10 based on a program stored in advance in the first storage unit 13. The setting process is executed by the store apparatus 10 before the monitoring process described below is executed or in parallel with the monitoring process.

まず、受付手段144は、インタフェース部11を介して、端末装置23から重要度設定指示を受信する(ステップS101)。尚、重要度設定指示は端末装置23から受信するものに限られず、店舗内に設置されたパソコン等から入力された指示内容をインタフェース部11を介して受信できるようにしてもよい。重要度設定指示は、店舗の店員等、画像監視システム1の利用者により指定された、複数の商品の内の何れかの商品及びその商品に対する重要度の組を一つ以上含む。次に、受付手段144は、受信した重要度設定指示に含まれる商品及び重要度の指定を受け付ける(ステップS102)。   First, the reception unit 144 receives the importance setting instruction from the terminal device 23 via the interface unit 11 (step S101). The importance setting instruction is not limited to being received from the terminal device 23, but the instruction content input from a personal computer or the like installed in the store may be received via the interface unit 11. The degree-of-importance setting instruction includes any one or more of a plurality of items designated by the user of the image monitoring system 1, such as a store clerk, and a set of the degree of importance for the item. Next, the accepting unit 144 accepts the designation of the product and the importance included in the received importance setting instruction (step S102).

次に、重点監視エリア設定手段145は、指定された商品の配置位置及び指定された重要度に基づいて、重点監視エリアを設定する(ステップS103)。
重点監視エリア設定手段145は、重要度設定指示に含まれる商品の内、重要度が所定値以上である商品を抽出する。重点監視エリア設定手段145は、商品配置情報132を参照して抽出した商品の配置位置を特定し、監視エリア情報133を参照して特定された配置位置に対応付けられた監視エリアを特定する。重点監視エリア設定手段145は、特定した監視エリアを重点監視エリアに設定する。
Next, the priority monitoring area setting means 145 sets a priority monitoring area based on the arrangement position of the designated product and the designated importance (step S103).
The priority monitoring area setting means 145 extracts, from the products included in the importance setting instruction, the products having the importance of a predetermined value or more. The priority monitoring area setting unit 145 specifies the arrangement position of the extracted product by referring to the product arrangement information 132, and specifies the monitoring area associated with the specified arrangement position by referring to the monitoring area information 133. The priority monitoring area setting means 145 sets the specified monitoring area as a priority monitoring area.

一方、重点監視エリア設定手段145は、重点監視エリアに設定されなかった監視エリアを通常監視エリアに設定する。
以上により、設定処理の動作は終了する。
なお、重点監視エリア設定手段145は、重要度が最大である商品が配置された監視エリア、又は、監視エリア毎に各監視エリアに配置された商品の重要度の合計値を算出し、合計値が最大である監視エリアを、重点監視エリアに設定してもよい。
On the other hand, the priority monitoring area setting means 145 sets the monitoring area not set as the priority monitoring area to the normal monitoring area.
With the above, the operation of the setting process ends.
The priority monitoring area setting means 145 calculates the total value of the importance levels of the monitoring areas in which the products having the highest importance are placed, or the importance values of the products in each of the monitoring areas, and calculates the total value. The monitoring area with the maximum value may be set as the priority monitoring area.

図4は、店舗装置10による監視処理の動作を示すフローチャートの一例を示す図である。以下、図4に示したフローチャートを参照しつつ、本実施形態による監視処理の動作を説明する。なお、以下に説明する動作のフローは、第1記憶部13に予め記憶されているプログラムに基づいて、主に第1制御部14により、店舗装置10の各部と協働して実行される。監視処理は、撮像装置21毎に実行される。   FIG. 4 is a diagram showing an example of a flowchart showing the operation of the monitoring process by the store apparatus 10. Hereinafter, the operation of the monitoring process according to the present embodiment will be described with reference to the flowchart shown in FIG. The operation flow described below is executed mainly by the first control unit 14 in cooperation with each unit of the store apparatus 10 based on a program stored in advance in the first storage unit 13. The monitoring process is executed for each imaging device 21.

まず、不審人物検出手段142は、撮影画像に写る監視エリアが、重点監視エリアを含むか否かを判定する(ステップS201)。不審人物検出手段142は、撮像装置情報134を参照して撮像装置21が撮影する監視エリアを特定し、特定した監視エリアが図3のステップS103において設定された重点監視エリアを含むか否かを判定する。
撮影画像に写る監視エリアが重点監視エリアを含む場合、不審人物検出手段142は、不審人物を検出するための基準を重点監視エリア用の基準に設定する(ステップS202)。
撮影画像に写る監視エリアが重点監視エリアを含まない場合、不審人物検出手段142は、不審人物を検出するための基準を通常監視エリア用の基準に設定する(ステップS203)。
First, the suspicious person detection unit 142 determines whether or not the surveillance area shown in the photographed image includes the priority surveillance area (step S201). The suspicious person detection means 142 identifies the monitoring area imaged by the imaging device 21 with reference to the imaging device information 134, and determines whether the identified monitoring area includes the priority monitoring area set in step S103 of FIG. judge.
When the monitoring area shown in the captured image includes the important monitoring area, the suspicious person detection unit 142 sets the reference for detecting the suspicious person as the reference for the important monitoring area (step S202).
When the surveillance area shown in the captured image does not include the priority surveillance area, the suspicious person detection unit 142 sets the standard for detecting the suspicious person to the standard for the normal surveillance area (step S203).

不審人物を検出するための基準には、監視エリアに第1時間以上滞留している人物が所定人数以上存在する第1基準と、監視エリアに少なくとも一人の人物が第2時間以上滞留している第2基準が含まれる。第2時間は、第1時間より長い。店舗装置10は、撮影画像に第1基準及び第2基準のうち少なくとも一つを満たす人物が存在する場合、その人物を不審人物として検出する。
重点監視エリア用の基準における第1時間及び第2時間は、通常監視エリア用の基準における第1時間及び第2時間より短く、重点監視エリア用の基準における所定人数は、通常監視エリア用の基準における所定人数より少ない。即ち、店舗装置10は、重点監視エリア用の基準に従って判定する場合、通常監視エリア用の基準に従って判定する場合より、滞留時間が短い人物又は少ない人数で滞留している人物を不審人物として検出しやすくなる。但し、重点監視エリア用の基準及び通常監視エリア用の基準において、第1時間、第2時間及び所定人数のうち一つ又は二つは、同一の値であってもよい。
The criteria for detecting a suspicious person are the first criterion in which there are a predetermined number or more of people who have stayed in the surveillance area for the first hour or longer, and at least one person has stayed in the surveillance area for the second hour or longer. A second criterion is included. The second time is longer than the first time. When the photographed image includes a person who satisfies at least one of the first criterion and the second criterion, the shop device 10 detects the person as a suspicious person.
The first time and the second time in the standard for the priority monitoring area are shorter than the first time and the second time in the standard for the normal monitoring area, and the predetermined number of people in the standard for the priority monitoring area is the standard for the normal monitoring area. Less than the prescribed number in. That is, the store apparatus 10 detects a person with a short residence time or a person who is staying with a small number as a suspicious person when determining according to the criterion for the priority monitoring area, compared to determining according to the criterion for the normal monitoring area. It will be easier. However, in the reference for the priority monitoring area and the reference for the normal monitoring area, one or two of the first time, the second time, and the predetermined number of people may have the same value.

次に、店舗装置10は、不審人物検出手段142が設定した基準を適用して通報決定処理を実行し(ステップS204)、処理をステップS201に戻す。   Next, the store apparatus 10 applies the criterion set by the suspicious person detection unit 142 to execute the notification determination process (step S204), and returns the process to step S201.

図5は、店舗装置10による通報決定処理の動作を示すフローチャートの一例を示す図である。以下、図5に示したフローチャートを参照しつつ、本実施形態による通報決定処理の動作を説明する。   FIG. 5 is a diagram showing an example of a flowchart showing the operation of the notification determination process by the store apparatus 10. The operation of the notification determination process according to this embodiment will be described below with reference to the flowchart shown in FIG.

まず、画像取得手段141は、撮像装置21が店舗内の監視エリアを撮影した撮影画像をインタフェース部11を介して撮像装置21から取得する(ステップS301)。   First, the image acquisition unit 141 acquires, from the imaging device 21 via the interface unit 11, a captured image in which the imaging device 21 has captured the surveillance area in the store (step S301).

次に、人物検出手段146は、撮影画像から人物を検出する(ステップS302)。人物検出手段146は、撮影画像と、その撮影画像を撮影した撮像装置21が撮影した背景画像131との間で、対応画素間の輝度差を求め、各画素の画素値がその輝度差の絶対値で表される差分画像を生成する。人物検出手段146は、撮影画像において、対応する差分画像内の画素値が所定の閾値以上となる領域を動物体領域として検出する。例えば、所定の閾値は、差分画像の各画素値の平均値とすることができる。人物検出手段146は、検出した動物体領域が、人物に対応する所定範囲の大きさを有する場合、その動物体領域を人物が写っている人物領域として検出する。
また、人物検出手段146は、画像取得手段141が順次取得した撮影画像において、検出した各人物領域に対して公知のトラッキング技術を用いて追跡処理を実行する。人物検出手段146は、例えば、最新の撮影画像内の人物領域のそれぞれについて、その人物領域の重心位置と、直前の撮影画像から検出された人物領域の重心位置との距離を算出し、距離が所定の閾値以下である人物領域を同一人物による人物領域として対応付ける。なお、人物検出手段146は、オプティカルフロー、パーティクルフィルタ等の方法を用いて追跡処理を実行してもよい。人物検出手段146は、同一人物による人物領域毎に、その人物領域を最初に検出した時刻を記憶する。
撮影画像から人物が検出されなかった場合、通報決定処理の動作は終了する。
Next, the person detecting unit 146 detects a person from the captured image (step S302). The person detecting unit 146 obtains the brightness difference between corresponding pixels between the captured image and the background image 131 captured by the imaging device 21 that captured the captured image, and the pixel value of each pixel is the absolute brightness difference. A difference image represented by a value is generated. The person detecting unit 146 detects, in the captured image, a region in which the pixel value in the corresponding difference image is equal to or larger than a predetermined threshold as a moving body region. For example, the predetermined threshold can be an average value of the pixel values of the difference image. When the detected moving object region has a size within a predetermined range corresponding to a person, the person detecting unit 146 detects the moving object region as a person region in which the person is shown.
In addition, the person detecting unit 146 performs a tracking process on each of the detected person regions in the captured images sequentially acquired by the image acquiring unit 141 using a known tracking technique. For example, for each of the person areas in the latest captured image, the person detection unit 146 calculates the distance between the center of gravity position of the person area and the center of gravity position of the person area detected from the immediately preceding captured image, and the distance is calculated. Person areas that are equal to or less than a predetermined threshold are associated as person areas by the same person. The person detecting unit 146 may execute the tracking process using a method such as an optical flow or a particle filter. The person detection unit 146 stores, for each person area of the same person, the time when the person area is first detected.
If no person is detected from the captured image, the operation of the notification determination process ends.

一方、撮影画像から人物が検出された場合、店員検出手段147は、検出された人物領域から店舗の店員を検出する(ステップS303)。店員検出手段147は、人物検出手段146が検出した人物領域に対して公知の顔認識処理を実行する。店員検出手段147は、人物領域から顔を抽出し、抽出した顔と店員情報135に記憶された店員の顔との類似度(例えば正規化相互相関値)が所定の閾値以上であると判定した場合に、その人物領域に映っている人物を店員として検出する。店員検出手段147は、人物検出手段146が検出した人物領域に、予め第1記憶部13に記憶された店員の制服の色が所定割合以上含まれると判定した場合に、その人物領域に映っている人物を店員として検出してもよい。
店員が検出された場合、不審人物検出手段142は、図4のステップS202又はS203において設定された基準を変更する(ステップS304)。不審人物検出手段142は、基準に対して、第1時間又は第2時間を長くする。又は、不審人物検出手段142は、基準に対して、所定人数を多くする。
撮影画像において店員が検出された場合、監視エリアは店員の目により直接見られている可能性が高い。店舗装置10は、撮影画像において店員が検出された場合に基準を変更することにより、監視装置30への通報を減少させ、通報に対する監視員の対応負荷を軽減させることができる。
一方、撮影画像において店員が検出されなかった場合、不審人物検出手段142は、ステップS304の処理を実行しない。
On the other hand, when a person is detected from the captured image, the salesclerk detection unit 147 detects the salesclerk of the store from the detected person area (step S303). The store clerk detection unit 147 executes known face recognition processing on the person area detected by the person detection unit 146. The clerk detection unit 147 extracts a face from the person area, and determines that the similarity between the extracted face and the clerk's face stored in the clerk information 135 (for example, a normalized cross-correlation value) is equal to or greater than a predetermined threshold. In this case, the person reflected in the person area is detected as a clerk. When the store area detecting unit 147 determines that the person area detected by the person detecting unit 146 includes the color of the store employee uniform stored in the first storage unit 13 in advance at a predetermined ratio or more, the store area detecting unit 147 reflects the person area. The person present may be detected as a clerk.
When a clerk is detected, the suspicious person detection unit 142 changes the standard set in step S202 or S203 of FIG. 4 (step S304). The suspicious person detection unit 142 lengthens the first time or the second time with respect to the reference. Alternatively, the suspicious person detection unit 142 increases the predetermined number of people with respect to the reference.
When a clerk is detected in the captured image, the surveillance area is likely to be directly seen by the clerk's eyes. The store apparatus 10 can reduce the number of notifications to the monitoring device 30 by changing the reference when a salesclerk is detected in the captured image, and reduce the response load of the monitoring staff to the notification.
On the other hand, when the clerk is not detected in the captured image, the suspicious person detection unit 142 does not execute the process of step S304.

次に、混雑判定手段148は、撮影画像から、店舗が混雑している度合いを示す混雑度を算出する(ステップS305)。例えば、混雑判定手段148は、人物検出手段146により撮影画像から検出された人物の数を混雑度として算出する。なお、混雑判定手段148は、撮影画像から検出された人物の内、レジ前等の予め設定された所定範囲内に位置する人物の数を混雑度として算出してもよい。また、混雑判定手段148は、所定範囲内に位置する人物の重みが大きくなるように、撮影画像から検出された各人物を重み付けして混雑度を算出してもよい。
次に、混雑判定手段148は、算出した混雑度に基づいて、店舗が混雑しているか否かを判定する(ステップS306)。混雑判定手段148は、混雑度が所定閾値以上である場合、店舗が混雑していると判定し、混雑度が所定閾値未満である場合、店舗が混雑していないと判定する。
Next, the congestion determination unit 148 calculates the congestion degree indicating the degree of congestion in the store from the captured image (step S305). For example, the congestion determination unit 148 calculates the number of people detected from the captured image by the person detection unit 146 as the congestion degree. The congestion determination unit 148 may calculate, as the congestion degree, the number of persons who are located within a predetermined range, such as before the cash register, among the persons detected from the captured image. Further, the congestion determination unit 148 may calculate the congestion degree by weighting each person detected from the photographed image so that the weight of the person located within the predetermined range becomes large.
Next, the congestion determination unit 148 determines whether or not the store is crowded based on the calculated congestion degree (step S306). The congestion determination unit 148 determines that the store is busy when the congestion degree is equal to or higher than a predetermined threshold value, and determines that the store is not crowded when the congestion degree is lower than the predetermined threshold value.

店舗が混雑していると判定された場合、不審人物検出手段142は、ステップS202又はS203において設定された基準を変更する(ステップS307)。不審人物検出手段142は、基準に対して、第1時間又は第2時間を短くする。又は、不審人物検出手段142は、基準に対して、所定人数を少なくする。
店舗が混雑している場合、多くの客が妨げとなって監視エリアに店員の目が届きにくい。店舗装置10は、店舗が混雑している場合に基準を変更することにより、監視装置30への通報を増加させ、監視を監視員に分担させることができる。
一方、店舗が混雑していると判定されなかった場合、不審人物検出手段142は、ステップS307の処理を実行しない。
なお、店舗が混雑していると判定された場合、不審人物検出手段142は、基準に対して、第1時間又は第2時間を長くしてもよく、所定人数を多くしてもよい。店舗が混雑している場合、監視エリアは一般客により直接見られている可能性が高い。このことは、万引き等の犯罪を実行しようとする人物に対して、犯罪の実行を抑止するように作用する。そこで、店舗装置10は、店舗が混雑している場合に基準を変更することにより、監視装置30への通報を減少させ、通報に対する監視員の対応負荷を軽減させてもよい。
When it is determined that the store is crowded, the suspicious person detection unit 142 changes the standard set in step S202 or S203 (step S307). The suspicious person detection unit 142 shortens the first time or the second time with respect to the reference. Alternatively, the suspicious person detection unit 142 reduces the predetermined number of people with respect to the reference.
When the store is crowded, many customers are obstructed and it is difficult for the clerk to reach the surveillance area. By changing the standard when the store is crowded, the store device 10 can increase the number of notifications to the monitoring device 30 and allow the monitoring staff to share the monitoring.
On the other hand, if the store is not determined to be crowded, the suspicious person detection unit 142 does not execute the process of step S307.
When it is determined that the store is crowded, the suspicious person detection unit 142 may increase the first time or the second time with respect to the reference, or may increase the predetermined number of people. If the store is crowded, the surveillance area is likely to be seen directly by the general public. This acts on the person who is going to commit a crime such as shoplifting to prevent the crime. Therefore, the store device 10 may reduce the number of notifications to the monitoring device 30 and reduce the response load of the monitoring staff by changing the standard when the store is crowded.

次に、不審人物検出手段142は、ステップS202、S203、S304又はS307において設定された基準に従って、撮影画像から不審人物を検出する(ステップS308)。不審人物検出手段142は、人物検出手段146が検出した同一人物による各人物領域に対し、最初に検出した時刻から現在時刻までの経過時間を算出する。不審人物検出手段142は、各人物領域の数及び各人物領域について算出した経過時間を使用して、撮影画像が第1基準及び第2基準を満たすか否かを判定する。不審人物検出手段142は、撮影画像が第1基準及び第2基準のうち少なくとも一つを満たす場合、監視エリアに滞留していると判定された人物領域に写っている人物を不審人物として検出する。
撮影画像から不審人物が検出された場合、通報手段143は、通報を監視装置30に送信することを決定し(ステップS309)、通報決定処理の動作を終了する。
Next, the suspicious person detection unit 142 detects a suspicious person from the captured image according to the standard set in step S202, S203, S304, or S307 (step S308). The suspicious person detection unit 142 calculates the elapsed time from the time of the first detection to the current time for each person region of the same person detected by the person detection unit 146. The suspicious person detection unit 142 uses the number of each person area and the elapsed time calculated for each person area to determine whether the captured image satisfies the first criterion and the second criterion. The suspicious person detection unit 142 detects, as a suspicious person, a person in the person area determined to be staying in the monitoring area when the captured image satisfies at least one of the first criterion and the second criterion. ..
When a suspicious person is detected from the captured image, the notification unit 143 determines to send the notification to the monitoring device 30 (step S309), and ends the operation of the notification determination process.

一方、撮影画像から不審人物が検出されなかった場合、通報手段143は、ステップS309の処理を実行せず、通報決定処理の動作を終了する。   On the other hand, when the suspicious person is not detected from the captured image, the notification unit 143 does not execute the process of step S309 and ends the operation of the notification determination process.

図6は、画像監視システム1の動作シーケンスの一例を示す図である。この動作シーケンスは、予め各装置の各記憶部に記憶されているプログラムに基づいて、主に各装置の各制御部により、店舗装置10及び監視装置30の各要素と協働して実行される。この動作シーケンスは、店舗装置10が、通報決定処理において不審人物を検出し、通報を監視装置30に送信することを決定した場合に実行される。   FIG. 6 is a diagram showing an example of an operation sequence of the image monitoring system 1. This operation sequence is executed based on a program stored in advance in each storage unit of each device, mainly by each control unit of each device, in cooperation with each element of the store device 10 and the monitoring device 30. .. This operation sequence is executed when the store device 10 detects a suspicious person in the notification determination process and determines to send a notification to the monitoring device 30.

まず、店舗装置10の通報手段143は、通報と、通報を送信することを決定した際に使用された撮影画像とを第1通信部12を介して監視装置30に送信する(ステップS401)。通報には、通報を送信した店舗装置10が設置された店舗の識別情報が含まれる。   First, the notification unit 143 of the store apparatus 10 transmits the notification and the captured image used when the notification is determined to be transmitted to the monitoring apparatus 30 via the first communication unit 12 (step S401). The notification includes identification information of the store in which the store device 10 that has transmitted the notification is installed.

次に、監視装置30の監視手段351は、第2通信部31を介して店舗装置10から通報及び撮影画像を受信した場合、通報に含まれる店舗の識別情報、及び、撮影画像を表示部33に表示する(ステップS402)。   Next, when the monitoring unit 351 of the monitoring device 30 receives the notification and the captured image from the store apparatus 10 via the second communication unit 31, the display unit 33 displays the identification information of the store included in the notification and the captured image. Is displayed (step S402).

図7は、監視装置30に表示される表示画面の一例である。
図7に示すように、表示画面400には、通報を送信した店舗の識別情報401、不審人物検知時の撮影画像402、ライブ映像を表示するライブ画像403、音声通知ボタン404、通報ボタン405及び終了ボタン406等が表示される。
監視員により音声通知ボタン404が押下されると、監視装置30は、第2通信部31を介して店舗装置10に、警告等の所定の音声を出力することを要求する音声出力要求を送信する。店舗装置10は、音声出力要求を受信すると、インタフェース部11を介して音出力装置22に所定の音声を出力させる。なお、監視装置30は、マイク等の音声入力部(不図示)を有し、監視員による音声の入力を受け付け、受け付けた音声を店舗装置10に送信してもよい。
監視員により通報ボタン405が押下されると、監視装置30は、第2通信部31を介して警察等に設置された他の装置(不図示)に、通報を送信する。
監視員により終了ボタン406が押下されると、監視装置30は、表示画面400の表示を終了する。
FIG. 7 is an example of a display screen displayed on the monitoring device 30.
As shown in FIG. 7, on the display screen 400, the identification information 401 of the store that has transmitted the notification, the captured image 402 when a suspicious person is detected, the live image 403 displaying the live video, the voice notification button 404, the notification button 405, and An end button 406 or the like is displayed.
When the voice notification button 404 is pressed by the monitor, the monitoring device 30 transmits a voice output request for requesting output of a predetermined voice such as a warning to the store device 10 via the second communication unit 31. .. Upon receiving the voice output request, the store device 10 causes the sound output device 22 to output a predetermined voice through the interface unit 11. The monitoring device 30 may include a voice input unit (not shown) such as a microphone, accept voice input by a monitor, and transmit the received voice to the store device 10.
When the report button 405 is pressed by the monitoring staff, the monitoring device 30 transmits a report to another device (not shown) installed in the police or the like via the second communication unit 31.
When the monitor pushes the end button 406, the monitoring device 30 ends the display of the display screen 400.

次に、店舗装置10の画像送信手段149は、撮像装置21が新たに撮影した撮影画像を取得し、第1通信部12を介して監視装置30に送信する(ステップS403)。画像送信手段149は、撮像装置21が新たに撮影した撮影画像を取得するたびに、取得した撮影画像を監視装置30に送信する。   Next, the image transmission means 149 of the store apparatus 10 acquires the captured image newly captured by the imaging device 21 and transmits it to the monitoring device 30 via the first communication unit 12 (step S403). The image transmitting unit 149 transmits the acquired captured image to the monitoring device 30 every time the image capturing device 21 acquires a captured image newly captured.

次に、監視装置30の監視手段351は、第2通信部31を介して店舗装置10から取得した新たな撮影画像を表示部33に表示する(ステップS404)。監視手段351は、店舗装置10から新たな撮影画像を取得するたびに、取得した撮影画像を表示部33に表示する。
以上により、画像監視システム1の動作シーケンスは終了する。
Next, the monitoring unit 351 of the monitoring device 30 displays the new captured image acquired from the store apparatus 10 via the second communication unit 31 on the display unit 33 (step S404). Every time the monitoring unit 351 acquires a new captured image from the store apparatus 10, the monitoring unit 351 displays the acquired captured image on the display unit 33.
With the above, the operation sequence of the image monitoring system 1 ends.

以上説明してきたように、本発明に係る店舗装置10は、利用者から指定された商品の配置位置及び重要度に基づいて重点監視エリアを設定する。これにより、店舗装置10は、店舗内で重点的に監視するエリアを容易に設定できる。   As described above, the store apparatus 10 according to the present invention sets the priority monitoring area based on the arrangement position and importance of the product designated by the user. As a result, the store apparatus 10 can easily set the area to be focused on and monitored in the store.

以上、本発明の好適な実施形態について説明してきたが、本発明はこれらの実施形態に限定されない。例えば、受付手段144は、商品の在庫数を管理する在庫管理サーバから、第1通信部12を介して、複数の商品のそれぞれの個数の設定をさらに受け付けてもよい。在庫管理サーバは、POS(point of sales system)システムなどの既存の在庫管理システムを利用することができる。その場合、重点監視エリア設定手段145は、指定された商品、指定された重要度及び当該商品の配置位置に加え、さらに複数の商品のそれぞれの個数に基づいて、重点監視エリアを設定する。
例えば、店舗装置10は、商品配置情報132において、商品及び商品の配置位置の組に、その配置位置に配置されているその商品の個数をさらに関連付けて記憶する。図3のステップS103の後に、重点監視エリア設定手段145は、商品配置情報132を参照して、ステップS102において受け付けた商品の個数をその商品の配置位置毎に取得する。重点監視エリア設定手段145は、重要度が所定値以上である商品の個数が所定数(例えば1)以上である場合に限り、その商品が配置された監視エリアを重点監視エリアとして設定する。これにより、店舗装置10は、売り切れ等によって配置されていない商品が配置されたエリアを重点的に監視し、監視員に不要な負担をかけてしまうことを防止できる。在庫管理サーバで管理する在庫数は、店舗に配置せず、倉庫で保管している数も含む場合があるため、在庫管理サーバで管理する情報に加えて、商品が配置されているエリアを撮影するカメラ画像から取得した配置数の情報を加えて算出するようにしてもよい。予め商品の画像情報、サイズ、高さ情報等を記憶しておくことで、撮影画像から店舗に配置されている数量を算出することができる。或いは、商品がない状態での画像を記憶しておき、商品がない状態での画像と現在画像が一致すれば、在庫なしと判定するようにしてもよい。
算出された数量が所定数以上である場合に、当該エリアを重点監視エリアとして設定する。尚、在庫管理の方法は上記に限られない。
Although the preferred embodiments of the present invention have been described above, the present invention is not limited to these embodiments. For example, the accepting unit 144 may further accept the setting of the number of each of the plurality of products from the inventory management server that manages the number of products in stock via the first communication unit 12. The inventory management server can use an existing inventory management system such as a POS (point of sales system) system. In that case, the priority monitoring area setting unit 145 sets the priority monitoring area based on the number of each of the plurality of products in addition to the specified product, the specified importance, and the arrangement position of the product.
For example, the store apparatus 10 stores, in the product placement information 132, a product and a set of product placement positions in association with the number of products placed at the placement position. After step S103 in FIG. 3, the priority monitoring area setting unit 145 refers to the product placement information 132 and acquires the number of products received in step S102 for each placement position of the product. The priority monitoring area setting unit 145 sets the monitoring area in which the product is placed as the priority monitoring area only when the number of products whose importance is equal to or higher than a predetermined value is a predetermined number (for example, 1) or more. As a result, the store apparatus 10 can intensively monitor the area where the products that are not placed due to sold-out or the like are placed, and prevent unnecessary load on the surveillance staff. The number of stocks managed by the inventory management server may include the number stored in the warehouse instead of being placed in the store. Therefore, in addition to the information managed by the inventory management server, the area where the products are located is captured. The calculation may be performed by adding the information on the number of arrangements acquired from the camera image. By storing the image information, size, height information, and the like of the product in advance, the quantity placed in the store can be calculated from the captured image. Alternatively, it is possible to store an image in the absence of a product and determine that the product is out of stock if the image in the absence of the product matches the current image.
When the calculated quantity is equal to or larger than the predetermined quantity, the area is set as the priority monitoring area. The inventory management method is not limited to the above.

また、不審人物を検出するための基準は、第1基準及び第2基準の何れか一方だけでもよく、第1基準及び第2基準の何れとも異なる他の基準であってもよい。例えば、サングラス又はマスク等で顔を隠蔽している人物が存在することを、不審人物を検出するための基準としてもよい。
この場合、第1記憶部13は、楕円パターン等の頭部輪郭パターン、サングラス判定用テンプレート画像及びマスク判定用テンプレート画像を予め記憶している。図5のステップS308において、不審人物検出手段142は、人物検出手段146が検出した各人物領域から頭部候補領域を抽出し、抽出した頭部候補領域に対して顔隠蔽の有無を判定することにより、撮影画像から不審人物を検出する。不審人物検出手段142は、頭部輪郭パターンをテンプレート画像として、各人物領域においてテンプレート画像との類似度(例えば正規化相互相関値)が高い領域を頭部候補領域として抽出する。不審人物検出手段142は、抽出した頭部候補領域と、サングラス判定用テンプレート画像及びマスク判定用テンプレート画像との類似度をそれぞれ算出する。不審人物検出手段142は、算出した類似度の何れかが所定の閾値以上である場合、顔が隠蔽されていると判定し、閾値以上の類似度に対応する人物領域を不審人物が写っている人物領域として検出する。
Further, the criterion for detecting the suspicious person may be only one of the first criterion and the second criterion, or may be another criterion different from both the first criterion and the second criterion. For example, the presence of a person whose face is covered with sunglasses or a mask may be used as a reference for detecting a suspicious person.
In this case, the first storage unit 13 stores in advance a head contour pattern such as an elliptical pattern, a sunglasses determination template image, and a mask determination template image. In step S308 of FIG. 5, the suspicious person detection unit 142 extracts a head candidate area from each person area detected by the person detection unit 146, and determines whether or not there is face concealment in the extracted head candidate area. Thus, a suspicious person is detected from the captured image. The suspicious person detection unit 142 extracts a region having a high similarity (for example, a normalized cross-correlation value) with the template image in each human region as a head candidate region using the head contour pattern as a template image. The suspicious person detection unit 142 respectively calculates the degrees of similarity between the extracted head candidate area and the sunglasses determination template image and the mask determination template image. The suspicious person detection unit 142 determines that the face is hidden when any of the calculated similarities is equal to or higher than a predetermined threshold, and the suspicious person is included in the person area corresponding to the similarity equal to or higher than the threshold. It is detected as a person area.

また、図5の通報決定処理において、店舗装置10は、ステップS303〜S304の店員の検出に関する処理、及び、ステップS305〜S307の混雑度の算出に関する処理のうち、一方の処理を省略してもよく、両方の処理を省略してもよい。   Further, in the notification determination process of FIG. 5, the store apparatus 10 may omit one of the processes related to the detection of the clerk in steps S303 to S304 and the processes related to the calculation of the congestion degree in steps S305 to S307. Well, both processes may be omitted.

以上のように、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。   As described above, various modifications can be made within the scope of the present invention in accordance with the embodiment.

10 店舗装置、13 第1記憶部、141 画像取得手段、142 不審人物検出手段、143 通報手段、144 受付手段、145 重点監視エリア設定手段、147 店員検出手段、148 混雑判定手段、30 監視装置   10 store device, 13 first storage unit, 141 image acquisition unit, 142 suspicious person detection unit, 143 notification unit, 144 reception unit, 145 focused monitoring area setting unit, 147 store clerk detection unit, 148 congestion determination unit, 30 monitoring device

Claims (4)

店舗を監視する店舗装置であって、
店舗内における複数の商品のそれぞれの配置位置と、店舗内の監視エリアとを記憶する記憶部と、
前記監視エリアを撮影した撮影画像を取得する画像取得部と、
前記撮影画像から不審人物を検出する不審人物検出部と、
不審人物が検出された場合、監視装置に通報を送信する通報部と、
利用者による前記複数の商品の内の何れかの商品及び当該商品に対する重要度の指定を受け付ける受付部と、
前記指定された商品の配置位置及び指定された重要度に基づいて、重点監視エリアを設定する重点監視エリア設定部と、を有し、
前記不審人物検出部は、前記監視エリアが前記重点監視エリアを含むか否かに応じて、前記撮影画像から不審人物を検出する基準を変更する、
ことを特徴とする店舗装置。
A store device for monitoring a store,
A storage unit that stores each arrangement position of a plurality of products in the store and a monitoring area in the store,
An image acquisition unit that acquires a captured image of the surveillance area,
A suspicious person detection unit that detects a suspicious person from the captured image,
If a suspicious person is detected, a notification unit that sends a notification to the monitoring device,
A receiving unit that receives designation of any one of the plurality of products by the user and importance of the product,
Based on the placement position of the designated product and the designated importance, a focused monitoring area setting unit for setting a focused monitoring area, and
The suspicious person detection unit changes a reference for detecting a suspicious person from the captured image according to whether the monitoring area includes the priority monitoring area,
A store device characterized by the above.
前記受付部は、前記複数の商品のそれぞれの個数の設定をさらに受け付け、
前記重点監視エリア設定部は、さらに前記複数の商品のそれぞれの個数に基づいて、前記重点監視エリアを設定する、請求項1に記載の店舗装置。
The reception unit further receives the setting of the number of each of the plurality of products,
The store apparatus according to claim 1, wherein the priority monitoring area setting unit further sets the priority monitoring area based on the number of each of the plurality of products.
前記撮影画像から店舗の店員を検出する店員検出部をさらに有し、
前記不審人物検出部は、店員が検出されたか否かに応じて前記基準を変更する、請求項1又は2に記載の店舗装置。
Further comprising a clerk detection unit for detecting a clerk of the store from the captured image,
The store apparatus according to claim 1, wherein the suspicious person detection unit changes the reference according to whether a clerk is detected.
店舗が混雑しているか否かを判定する混雑判定部をさらに有し、
前記不審人物検出部は、店舗が混雑しているか否かに応じて前記基準を変更する、請求項1〜3の何れか一項に記載の店舗装置。
Further having a congestion determination unit for determining whether the store is crowded,
The said suspicious person detection part is a store apparatus as described in any one of Claims 1-3 which changes the said reference according to whether the store is crowded.
JP2018211529A 2018-11-09 2018-11-09 store equipment Active JP7138547B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018211529A JP7138547B2 (en) 2018-11-09 2018-11-09 store equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018211529A JP7138547B2 (en) 2018-11-09 2018-11-09 store equipment

Publications (2)

Publication Number Publication Date
JP2020077330A true JP2020077330A (en) 2020-05-21
JP7138547B2 JP7138547B2 (en) 2022-09-16

Family

ID=70725081

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018211529A Active JP7138547B2 (en) 2018-11-09 2018-11-09 store equipment

Country Status (1)

Country Link
JP (1) JP7138547B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022013340A (en) * 2020-07-03 2022-01-18 トヨタ自動車株式会社 Control device, program, and control system
WO2023181328A1 (en) * 2022-03-25 2023-09-28 日本電気株式会社 Information processing device, method for controlling information processing device, and recording medium for storing control program for information processing device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120044614A (en) * 2010-10-28 2012-05-08 주식회사 케이티 Intelligent video transmitting apparatus and method for reporting event in intelligent video transmitting apparatus
WO2015033576A1 (en) * 2013-09-06 2015-03-12 日本電気株式会社 Security system, security method, and non-temporary computer-readable medium

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120044614A (en) * 2010-10-28 2012-05-08 주식회사 케이티 Intelligent video transmitting apparatus and method for reporting event in intelligent video transmitting apparatus
WO2015033576A1 (en) * 2013-09-06 2015-03-12 日本電気株式会社 Security system, security method, and non-temporary computer-readable medium

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022013340A (en) * 2020-07-03 2022-01-18 トヨタ自動車株式会社 Control device, program, and control system
JP7334686B2 (en) 2020-07-03 2023-08-29 トヨタ自動車株式会社 Controllers, programs and control systems
WO2023181328A1 (en) * 2022-03-25 2023-09-28 日本電気株式会社 Information processing device, method for controlling information processing device, and recording medium for storing control program for information processing device

Also Published As

Publication number Publication date
JP7138547B2 (en) 2022-09-16

Similar Documents

Publication Publication Date Title
JP7031588B2 (en) Suspicious person detection device, suspicious person detection method and program
JP5928261B2 (en) Information sharing apparatus and program
JP5871296B1 (en) Smart security digital system, method and program
JP4617269B2 (en) Monitoring system
JP5790761B2 (en) Distributed image processing system
JP2018181159A (en) Security system, crime prevention method, and robot
US20220012911A1 (en) System and method for analyzing an image to determine spacing between a person and an object
JP2015002477A (en) Information processing apparatus, information processing system, and information processing method
JP7138547B2 (en) store equipment
JP2003179912A (en) System and method for distributing monitoring image
TW202006676A (en) Computer system and resource arrangement method thereof
JP2006074822A (en) Monitored video delivery method, monitored video delivering apparatus, and monitored video delivery system
EP4038592B1 (en) Systems and methods for repeat offender anti-theft notification
JP2015228626A (en) Image output device, image management system, image processing method and program
JP6754451B2 (en) Monitoring system, monitoring method and program
JP2020166590A (en) Monitoring system, monitoring device, monitoring method, and monitoring program
JP6941458B2 (en) Monitoring system
WO2022059223A1 (en) Video analyzing system and video analyzing method
JP7246166B2 (en) image surveillance system
JP6773389B1 (en) Digital autofile security system, methods and programs
JP2016219990A (en) Position estimation system, position estimation method and program
JP2020077337A (en) Image monitoring system
JP2004355453A (en) Marketing information acquisition system
JP2006352908A (en) Monitoring apparatus, monitored image delivering system, and monitored image delivering method
JP7161920B2 (en) store equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220906

R150 Certificate of patent or registration of utility model

Ref document number: 7138547

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150