JP2023039282A - Determination apparatus, program, and determination method - Google Patents

Determination apparatus, program, and determination method Download PDF

Info

Publication number
JP2023039282A
JP2023039282A JP2021146377A JP2021146377A JP2023039282A JP 2023039282 A JP2023039282 A JP 2023039282A JP 2021146377 A JP2021146377 A JP 2021146377A JP 2021146377 A JP2021146377 A JP 2021146377A JP 2023039282 A JP2023039282 A JP 2023039282A
Authority
JP
Japan
Prior art keywords
area
pixels
specified
threshold
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021146377A
Other languages
Japanese (ja)
Other versions
JP7295181B2 (en
Inventor
彩菜 藤本
Ayana Fujimoto
達大 内藤
Tatsuhiro Naito
聡志 原
Satoshi Hara
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2021146377A priority Critical patent/JP7295181B2/en
Publication of JP2023039282A publication Critical patent/JP2023039282A/en
Application granted granted Critical
Publication of JP7295181B2 publication Critical patent/JP7295181B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

To provide a determination apparatus, a program, and a determination method.SOLUTION: In a system including a determination apparatus which communicates with a camera over a network to acquire a captured image, the determination apparatus 100 includes: an image storage unit which stores a reference image captured in advance; a threshold storage unit which stores a difference threshold determined in advance; a designated region acquisition unit which acquires multiple designated regions designated by a user of the determination apparatus with respect to the reference image; an image acquisition nit which acquires an analysis target image which is to be subjected to image analysis; a difference value acquisition unit which acquires a difference value between each pixel in each of the designated regions in the reference image with each pixel in each corresponding region which corresponds to each designated region in the reference image, of the analysis target image; and a status determination unit which determines a status of each of the corresponding regions of the analysis target images, on the basis of a ratio of the number of non-similar pixels, which is the number of pixels in the corresponding region of which the difference value is higher than the difference threshold, with respect to the number of corresponding region pixels, which is the number of pixels in the corresponding region.SELECTED DRAWING: Figure 11

Description

本発明は、判定装置、プログラム、及び判定方法に関する。 The present invention relates to a determination device, program, and determination method.

特許文献1には、教師データして数千枚の商品の画像を登録し、ディープラーニングのアルゴリズムを用いて学習させた学習済モデルを用いることによって、商品棚の商品を特定する技術が記載されている。
[先行技術文献]
[特許文献]
[特許文献1]特開2021-047747号公報
Patent Document 1 describes a technique for identifying products on product shelves by registering thousands of product images as training data and using a trained model trained using a deep learning algorithm. ing.
[Prior art documents]
[Patent Literature]
[Patent Document 1] JP 2021-047747 A

本発明の一実施態様によれば、判定装置が提供される。判定装置は、予め撮像された基準画像を格納する画像格納部を備えてよい。判定装置は、予め定められた差分閾値を格納する閾値格納部を備えてよい。判定装置は、基準画像に対して判定装置のユーザによって指定された複数の指定領域を取得する指定領域取得部を備えてよい。判定装置は、画像解析の対象である解析対象画像を取得する画像取得部を備えてよい。判定装置は、基準画像の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像の、基準画像における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得部を備えてよい。判定装置は、解析対象画像の各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する状況判定部を備えてよい。 According to one embodiment of the present invention, a determination device is provided. The determination device may comprise an image storage unit for storing pre-captured reference images. The determination device may include a threshold storage unit that stores a predetermined difference threshold. The determination device may include a specified region acquisition unit that acquires a plurality of specified regions specified by the user of the determination device with respect to the reference image. The determination device may include an image acquisition unit that acquires an analysis target image that is the target of image analysis. The determination device acquires a difference value between each pixel in each of the plurality of specified regions of the reference image and each pixel in each corresponding region of the analysis target image corresponding to each of the specified regions in the reference image. A value acquisition unit may be provided. For each corresponding region of the image to be analyzed, the determination device determines the ratio of the number of dissimilar pixels, which is the number of pixels in the corresponding region whose difference value is higher than the difference threshold, to the number of pixels in the corresponding region, which is the number of pixels in the corresponding region. A situation determination unit may be provided that determines the situation of the corresponding area based on.

上記閾値格納部は、複数の上記差分閾値のそれぞれを、上記複数の指定領域のそれぞれと対応付けて格納してよい。上記状況判定部は、上記対応領域ピクセル数に対する、上記差分値が指定領域に対応付けられて上記閾値格納部に格納されている上記差分閾値より高い上記非類似ピクセル数の割合に基づいて、上記対応領域の状況を判定してよい。上記画像格納部は、それぞれに1又は複数の種類の商品を陳列する領域である複数の陳列領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた不足閾値をさらに格納してよい。上記指定領域取得部は、上記複数の陳列領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より低い場合、陳列領域に対して指定された指定領域に対応する上記対応領域の上記商品が不足状態であると判定してよい。 The threshold storage unit may store each of the plurality of difference thresholds in association with each of the plurality of specified regions. The situation determination unit determines, based on the ratio of the number of dissimilar pixels higher than the difference threshold stored in the threshold storage unit in which the difference value is associated with the designated area, to the number of pixels in the corresponding area, the The status of the corresponding area may be determined. The image storage unit may store the reference image including a plurality of display areas, each of which is an area for displaying one or more types of products. The threshold storage unit may further store a predetermined shortage threshold. The specified area acquiring unit may acquire the plurality of specified areas specified by the user for the plurality of display areas. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the shortage threshold, the situation determination unit determines that the product in the corresponding area corresponding to the specified area specified for the display area is in a shortage state. It can be determined that

上記指定領域取得部は、それぞれに1つの種類の商品を陳列する上記複数の陳列領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記閾値格納部は、複数の上記差分閾値のそれぞれを、上記複数の指定領域のそれぞれ及び複数の上記対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納してよい。上記状況判定部は、上記対応領域ピクセル数に対する、上記差分値が上記指定領域及び上記商品の上記識別情報と対応付けられて上記閾値格納部に格納されている上記差分閾値より高い上記非類似ピクセル数の割合が、上記不足閾値より低い場合、上記対応領域の上記商品が不足状態であると判定してよい。上記画像格納部は、上記商品の画像をさらに格納してよい。上記差分値取得部は、上記指定領域の各ピクセルの平均値と、上記商品の画像の各ピクセルの平均値との差分値である平均差分値を取得してよい。上記判定装置は、
上記平均差分値に基づいて、上記差分閾値を設定する閾値設定部をさらに備えてよい。
The specified area acquiring unit may acquire the plurality of specified areas specified by the user for the plurality of display areas each displaying one type of product. The threshold storage unit may store each of the plurality of difference thresholds in association with identification information of a product displayed in each of the plurality of designated areas and each of the plurality of corresponding areas. The situation determination unit determines the non-similar pixels whose difference value with respect to the number of pixels in the corresponding area is higher than the difference threshold stored in the threshold storage unit in association with the identification information of the specified area and the product. If the percentage of the number is lower than the shortage threshold, it may be determined that the product in the corresponding area is in a shortage state. The image storage section may further store an image of the product. The difference value acquisition unit may acquire an average difference value, which is a difference value between an average value of pixels in the specified region and an average value of pixels in the product image. The above determination device
The apparatus may further include a threshold setting unit that sets the difference threshold based on the average difference value.

上記指定領域取得部は、一の上記陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、上記ユーザによって指定された2つの上記指定領域を取得してよい。上記状況判定部は、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合と、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合とに基づいて、上記2つの指定領域に対応する2つの上記対応領域の上記商品の状態を判定してよい。上記第1の部分領域は、上記一の陳列領域の前方領域であってよい。上記第2の部分領域は、上記一の陳列領域の後方領域であってよい。上記状況判定部は、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より低く、且つ、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より高い場合、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記商品を、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域に前出し可能な状態であると判定してよい。 The specified area acquisition unit may acquire the two specified areas specified by the user for each of a first partial area and a second partial area of the one display area. The situation determination unit determines a ratio of the number of dissimilar pixels to the number of pixels of the corresponding region in the corresponding region corresponding to the designated region designated for the first partial region, and and the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area of the corresponding area corresponding to the specified area specified for the product in the two corresponding areas corresponding to the two specified areas status may be determined. The first partial area may be a front area of the one display area. The second partial area may be a rear area of the one display area. The situation determination unit determines that a ratio of the number of dissimilar pixels to the number of pixels of the corresponding region in the corresponding region corresponding to the designated region designated for the first partial region is lower than the shortage threshold, and , if the ratio of the number of dissimilar pixels to the number of corresponding region pixels of the corresponding region corresponding to the designated region designated for the second partial region is higher than the shortage threshold, the second portion The product in the corresponding area corresponding to the specified area specified for the area can be advanced to the corresponding area corresponding to the specified area specified for the first partial area. can be determined.

上記画像格納部は、製品を製造する領域である複数の製造領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた作業閾値をさらに格納してよい。上記指定領域取得部は、上記複数の製造領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、予め定められた期間の間、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が上記作業閾値より高い場合、製造領域に対して指定された指定領域に対応する上記対応領域で、上記製品の製造が滞留状態であると判定してよい。上記画像格納部は、複数の座席領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた利用閾値をさらに格納してよい。上記指定領域取得部は、上記複数の座席領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記利用閾値より高い場合、座席領域に対して指定された指定領域に対応する上記対応領域の座席が利用状態であると判定してよい。 The image storage section may store the reference image including a plurality of manufacturing areas, which are areas for manufacturing products. The threshold storage unit may further store a predetermined work threshold. The designated area obtaining unit may obtain the plurality of designated areas designated by the user for the plurality of manufacturing areas. If the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is higher than the work threshold during a predetermined period, the situation determination unit determines whether the correspondence corresponding to the designated region designated for the manufacturing region It may be determined that production of the product is stalled in the region. The image storage may store the reference image including a plurality of seat areas. The threshold storage unit may further store a predetermined usage threshold. The specified area acquisition unit may acquire the plurality of specified areas specified by the user for the plurality of seat areas. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the utilization threshold, the situation determination unit determines that the seat in the corresponding area corresponding to the designated area designated for the seat area is in a occupied state. It can be determined that there is

本発明の一実施態様によれば、コンピュータを、上記判定装置として機能させるためのプログラムが提供される。 According to one embodiment of the present invention, there is provided a program for causing a computer to function as the determination device.

本発明の一実施態様によれば、コンピュータによって実行される判定方法が提供される。判定方法は、予め撮像された基準画像に対してコンピュータのユーザによって指定された複数の指定領域を取得する指定領域取得段階を備えてよい。判定方法は、画像解析の対象である解析対象画像を取得する画像取得段階を備えてよい。判定方法は、基準画像の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像の、基準画像における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得段階を備えてよい。判定方法は、解析対象画像の各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が予め定められた差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する状況判定段階を備えてよい。 According to one embodiment of the present invention, a computer-implemented method of determination is provided. The determination method may comprise a designated region obtaining step of obtaining a plurality of designated regions designated by a user of the computer with respect to a pre-captured reference image. The determination method may comprise an image acquisition step of acquiring an analysis target image that is the target of image analysis. The determination method is a difference that acquires a difference value between each pixel in each specified area of the plurality of specified areas of the reference image and each pixel in each corresponding area of the analysis target image corresponding to each specified area in the reference image. A value acquisition stage may be provided. For each corresponding region of the image to be analyzed, the determination method is to determine dissimilarity, which is the number of pixels in the corresponding region whose difference value is higher than a predetermined difference threshold with respect to the number of pixels in the corresponding region, which is the number of pixels in the corresponding region. A condition determination step may be provided for determining the condition of the corresponding region based on the percentage of the number of pixels.

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。 It should be noted that the above summary of the invention does not list all the necessary features of the invention. Subcombinations of these feature groups can also be inventions.

システム10の一例を概略的に示す。An example system 10 is shown schematically. 基準画像400の一例を概略的に示す。An example of a reference image 400 is shown schematically. 解析対象画像500の一例を概略的に示す。An example of an analysis target image 500 is shown schematically. 基準画像400の他の一例を概略的に示す。Another example of the reference image 400 is shown schematically. 解析対象画像500の他の一例を概略的に示す。Another example of the analysis target image 500 is schematically shown. 基準画像400の他の一例を概略的に示す。Another example of the reference image 400 is shown schematically. 解析対象画像500の他の一例を概略的に示す。Another example of the analysis target image 500 is schematically shown. 対応領域635、対応領域645、及び対応領域655の状況を表すグラフの一例を概略的に示す。An example of a graph representing the situation of corresponding area 635, corresponding area 645, and corresponding area 655 is schematically shown. 基準画像400の他の一例を概略的に示す。Another example of the reference image 400 is shown schematically. 解析対象画像500の他の一例を概略的に示す。Another example of the analysis target image 500 is schematically shown. 判定装置100の機能構成の一例を概略的に示す。An example of the functional configuration of the determination device 100 is shown schematically. 判定装置100による処理の流れの一例を概略的に示す。An example of the flow of processing by the determination device 100 is shown schematically. 判定装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。1 schematically shows an example of a hardware configuration of a computer 1200 functioning as the determination device 100. FIG.

従来のディープラーニングを用いた商品の検出には、逐次画像収集が必要になり、非効率的であり、コストも大きくなってしまう。例えば、小売店において商品の欠品を検出するために従来の技術を利用しようとした場合、小売店の商品は種類も多く、メーカ数も多いので、事前準備の負荷が非常に高くなり、実際に利用することは非常に困難となる。本実施形態に係る判定装置は、このような事前準備の負荷を軽減可能な技術を提供する。 Product detection using conventional deep learning requires sequential image collection, which is inefficient and costly. For example, when trying to use conventional technology to detect product shortages in retail stores, there are many types of products in retail stores and there are many manufacturers, so the load of advance preparation becomes extremely high. very difficult to use. The determination device according to the present embodiment provides technology capable of reducing the load of such advance preparation.

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。 Hereinafter, the present invention will be described through embodiments of the invention, but the following embodiments do not limit the invention according to the claims. Also, not all combinations of features described in the embodiments are essential for the solution of the invention.

図1は、システム10の一例を概略的に示す。システム10は、判定装置100を備える。システム10は、カメラ200を備えてよい。システム10は、複数のカメラ200を備えてもよい。図1では、システム10が1つのカメラ200を備える一例を示す。 FIG. 1 schematically illustrates an example system 10 . The system 10 has a determination device 100 . System 10 may include camera 200 . System 10 may include multiple cameras 200 . FIG. 1 shows an example in which system 10 includes one camera 200 .

判定装置100は、撮像画像を取得する。判定装置100は、例えば、検出対象が配置される領域を撮像した撮像画像を取得する。例えば、検出対象が商品である場合に、当該領域は、商品棚であり得る。判定装置100は、例えば、基準画像を取得する。基準画像は、検出対象が存在していない状態の撮像画像である。判定装置100は、例えば、実際に検出対象が存在するか否かを判定する対象となる撮像画像(解析対象画像と記載する場合がある。)を取得する。 The determination device 100 acquires a captured image. The determination device 100 acquires, for example, a captured image of an area in which a detection target is arranged. For example, if the detection target is a product, the area may be a product shelf. The determination device 100 acquires, for example, a reference image. A reference image is a captured image in which there is no detection target. The determination device 100 acquires, for example, a captured image (sometimes referred to as an analysis target image) for determining whether or not a detection target actually exists.

判定装置100は、例えば、カメラ200によって撮像された撮像画像を取得する。判定装置100は、例えば、ネットワーク20を介してカメラ200と通信することによって、カメラ200から撮像画像を取得する。ネットワーク20は、例えば、インターネットを含む。ネットワーク20は、例えば、LAN(Local Area Network)を含む。ネットワーク20は、移動体通信ネットワークを含んでもよい。移動体通信ネットワークは、例えば、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、5G(5th Generation)通信方式、及び6G(6th Generation)通信方式以降の通信方式のいずれに準拠してもよい。 The determination device 100 acquires a captured image captured by the camera 200, for example. The determination device 100 acquires a captured image from the camera 200 by communicating with the camera 200 via the network 20, for example. Network 20 includes, for example, the Internet. The network 20 includes, for example, a LAN (Local Area Network). Network 20 may include a mobile communication network. The mobile communication network, for example, conforms to any of the 3G (3rd Generation) communication method, the LTE (Long Term Evolution) communication method, the 5G (5th Generation) communication method, and the 6G (6th Generation) communication method and later communication methods. may

判定装置100は、カメラ200と直接通信することによって、カメラ200から撮像画像を取得してもよい。判定装置100は、例えば、カメラ200と無線通信することによって、カメラ200から撮像画像を取得する。無線通信方式の例として、Wi-Fi(登録商標)、Bluetooth(登録商標)及びZigBee(登録商標)等が挙げられる。判定装置100は、カメラ200と有線通信することによって、カメラ200から撮像画像を取得してもよい。尚、判定装置100は、判定装置100に内蔵されたカメラによって撮像された撮像画像を取得してもよい。 The determination device 100 may acquire the captured image from the camera 200 by communicating directly with the camera 200 . The determination device 100 acquires a captured image from the camera 200 by wirelessly communicating with the camera 200, for example. Examples of wireless communication systems include Wi-Fi (registered trademark), Bluetooth (registered trademark), ZigBee (registered trademark), and the like. The determination device 100 may acquire the captured image from the camera 200 by wire communication with the camera 200 . Note that the determination device 100 may acquire a captured image captured by a camera incorporated in the determination device 100 .

撮像画像は、例えば、静止画像である。撮像画像は、動画像であってもよい。 A captured image is, for example, a still image. The captured image may be a moving image.

判定装置100は、基準画像に対して判定装置100のユーザによって指定された指定領域を取得する。判定装置100のユーザとは、判定装置100を直接利用する者のことであってよく、判定装置100が提供するサービスを利用する者のことであってもよい。 The determination device 100 acquires a specified region specified by the user of the determination device 100 with respect to the reference image. The user of the determination device 100 may be a person who directly uses the determination device 100 or a person who uses the service provided by the determination device 100 .

判定装置100は、基準画像の指定領域内の各ピクセルと、基準画像の指定領域に対応する解析対象画像の対応領域内の各ピクセルとの差分値を取得する。判定装置100は、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が予め定められた差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。 The determination device 100 acquires a difference value between each pixel in the specified area of the reference image and each pixel in the corresponding area of the analysis target image corresponding to the specified area of the reference image. Based on the ratio of the number of dissimilar pixels, which is the number of pixels in the corresponding region whose difference value is higher than a predetermined difference threshold, to the number of pixels in the corresponding region, the determination device 100 Determine the status of the corresponding area.

カメラ200は、任意の撮像装置であってよい。カメラ200は、例えば、ネットワークカメラである。カメラ200は、Webカメラであってもよい。 Camera 200 may be any imaging device. Camera 200 is, for example, a network camera. Camera 200 may be a web camera.

従来、予め大量に収集した検出対象の画像を用いて解析対象画像の領域の状態を判定することが行われてきたが、非効率的でコスト面の負担が大きかった。特に、複数の種類の検出対象が存在する場合、検出対象の種類毎に大量の画像を予め収集する必要があり、より一層、非効率的でコスト面の負担が大きかった。これに対して、本実施形態に係る判定装置100は、検出対象が存在していない状態の基準画像を予め準備するだけで、検出対象の種類に関わらず、解析対象画像の対応領域内の大まかな状況を判定することができる。これにより、本実施形態に係る判定装置100は、効率的に、且つ、低コストで対応領域の大まかな状況を判定することができる。 Conventionally, the state of the region of the image to be analyzed has been determined using a large amount of images to be detected that have been collected in advance, but this has been inefficient and costly. In particular, when there are multiple types of detection targets, it is necessary to collect a large number of images in advance for each type of detection target, which is even more inefficient and costly. In contrast, the determination apparatus 100 according to the present embodiment simply prepares in advance a reference image in which no detection target exists, and roughly approximates the corresponding region of the analysis target image regardless of the type of detection target. situation can be determined. As a result, the determination device 100 according to the present embodiment can efficiently determine the rough situation of the corresponding region at low cost.

図2は、基準画像400の一例を概略的に示す。図2の基準画像400は、商品が陳列されていない状態の商品棚300を撮像した撮像画像である。 FIG. 2 schematically shows an example of a reference image 400. As shown in FIG. A reference image 400 in FIG. 2 is a captured image of the product shelf 300 in which no products are displayed.

図2は、判定装置100のユーザによって、基準画像400に対して、指定領域330、指定領域340、及び指定領域350が指定された場合を例示している。図2に示す例において、指定領域330は、1種類の商品を陳列する陳列領域であり、指定領域340及び指定領域350は、複数の種類の商品を陳列する陳列領域である。 FIG. 2 illustrates a case where the user of the determination device 100 designates a designated area 330 , a designated area 340 , and a designated area 350 on the reference image 400 . In the example shown in FIG. 2, the designated area 330 is a display area for displaying one type of product, and the designated areas 340 and 350 are display areas for displaying a plurality of types of products.

図3は、解析対象画像500の一例を概略的に示す。図3の解析対象画像500は、図2の基準画像400に対応する、商品棚300を撮像した撮像画像である。図3の対応領域335、対応領域345、及び対応領域355は、それぞれ、図2の指定領域330、指定領域340、及び指定領域350に対応する。 FIG. 3 schematically shows an example of an image 500 to be analyzed. An analysis target image 500 in FIG. 3 is a captured image of the product shelf 300 corresponding to the reference image 400 in FIG. Corresponding area 335, corresponding area 345, and corresponding area 355 in FIG. 3 correspond to designated area 330, designated area 340, and designated area 350 in FIG. 2, respectively.

判定装置100は、指定領域330の各ピクセルと対応領域335の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 330 and each pixel in the corresponding area 335 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 335 from the obtained difference value.

判定装置100は、指定領域340の各ピクセルと対応領域345の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域345における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 340 and each pixel in the corresponding area 345 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 345 from the obtained difference value.

判定装置100は、指定領域350の各ピクセルと対応領域355の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 350 and each pixel in the corresponding area 355 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 355 from the acquired difference value.

判定装置100は、対応領域335、対応領域345、及び対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた不足閾値より低いか否かを判定する。ここでは、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低く、対応領域345及び対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いものとして説明を続ける。 The determination device 100 determines whether the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 335, 345, and 355 is lower than a predetermined shortage threshold. Here, it is assumed that the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 335 is lower than the shortage threshold, and the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 345 and 355 is higher than the shortage threshold. continue the explanation.

判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低いと判定した対応領域335に陳列される商品が不足状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いと判定した対応領域345及び対応領域355のそれぞれに陳列される商品が充足状態であると判定する。このように、基準画像400に対して複数の指定領域を指定可能にすることで、商品の状態をより細かく把握可能にすることができる。 The determination device 100 determines that the product displayed in the corresponding area 335 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the shortage threshold is in a shortage state. The determination device 100 determines that the products displayed in each of the corresponding areas 345 and 355 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the shortage threshold is sufficient. In this way, by allowing a plurality of specified areas to be specified for the reference image 400, it is possible to grasp the state of the product in more detail.

図4は、基準画像400の他の一例を概略的に示す。図4の基準画像400は、商品が陳列されていない状態の商品棚300を撮像した撮像画像である。 FIG. 4 schematically shows another example of the reference image 400. As shown in FIG. A reference image 400 in FIG. 4 is a captured image of the product shelf 300 in which no products are displayed.

図4は、判定装置100のユーザによって、基準画像400に対して、指定領域330、指定領域340、指定領域350、指定領域360、及び、指定領域370が指定された場合を例示している。図4に示す例において、指定領域330、指定領域340、指定領域350、指定領域360、及び、指定領域370は、1種類の商品を陳列する陳列領域である。 FIG. 4 illustrates a case where the user of the determination device 100 designates a designated area 330 , a designated area 340 , a designated area 350 , a designated area 360 , and a designated area 370 with respect to the reference image 400 . In the example shown in FIG. 4, the designated area 330, the designated area 340, the designated area 350, the designated area 360, and the designated area 370 are display areas for displaying one type of product.

図5は、解析対象画像500の他の一例を概略的に示す。図5の解析対象画像500は、図4の基準画像400に対応する、商品棚300を撮像した撮像画像である。図5の対応領域335、対応領域345、対応領域355、対応領域365、及び対応領域375は、それぞれ、図4の指定領域330、指定領域340、指定領域350、指定領域360、及び指定領域370に対応する。 FIG. 5 schematically shows another example of an image 500 to be analyzed. An analysis target image 500 in FIG. 5 is a captured image of the product shelf 300 corresponding to the reference image 400 in FIG. Corresponding area 335, corresponding area 345, corresponding area 355, corresponding area 365, and corresponding area 375 in FIG. corresponds to

判定装置100は、指定領域330の各ピクセルと対応領域335の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 330 and each pixel in the corresponding area 335 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 335 from the obtained difference value.

判定装置100は、指定領域340の各ピクセルと対応領域345の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域345における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 340 and each pixel in the corresponding area 345 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 345 from the obtained difference value.

判定装置100は、指定領域350の各ピクセルと対応領域355の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 350 and each pixel in the corresponding area 355 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 355 from the acquired difference value.

判定装置100は、指定領域360の各ピクセルと対応領域365の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域365における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 360 and each pixel in the corresponding area 365 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 365 from the obtained difference value.

判定装置100は、指定領域370の各ピクセルと対応領域375の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 370 and each pixel in the corresponding area 375 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 375 from the obtained difference value.

判定装置100は、対応領域335、対応領域345、対応領域355、対応領域365、及び対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた不足閾値より低いか否かを判定する。ここでは、対応領域335及び対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低く、対応領域345、対応領域355、及び対応領域365における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いものとして説明を続ける。 The determination device 100 determines whether the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 335, the corresponding region 345, the corresponding region 355, the corresponding region 365, and the corresponding region 375 is lower than a predetermined shortage threshold. judge. Here, the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 335 and 375 is lower than the shortage threshold, and the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 345, 355, and 365 is is higher than the deficient threshold.

判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低いと判定した対応領域335及び対応領域375のそれぞれに陳列される商品が不足状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いと判定した対応領域345、対応領域355、及び対応領域365のそれぞれに陳列される商品が充足状態であると判定する。基準画像400に対して複数の指定領域を指定可能にすることで、図4及び図5に例示したように商品の種類毎に指定領域を設定可能にでき、商品の種類毎に不足状態であるか否かを判定することができる。 The determination device 100 determines that there is a shortage of products displayed in each of the corresponding areas 335 and 375 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the shortage threshold. The determination device 100 determines that the products displayed in each of the corresponding regions 345, 355, and 365 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is higher than the shortage threshold is in a sufficient state. do. By making it possible to specify a plurality of specified areas for the reference image 400, it is possible to set a specified area for each product type as illustrated in FIGS. It is possible to determine whether

図6は、基準画像400の他の一例を概略的に示す。図6の基準画像400は、物が置かれていない状態の製造ラインの作業台600を撮像した撮像画像である。 FIG. 6 schematically shows another example of the reference image 400. As shown in FIG. A reference image 400 in FIG. 6 is a captured image of a workbench 600 of a manufacturing line on which no object is placed.

図6は、判定装置100のユーザによって、基準画像400に対して、指定領域630、指定領域640、及び指定領域650が指定された場合を例示している。図6に示す例において、指定領域630、指定領域640、及び指定領域650は、製品を製造する製造領域である。 FIG. 6 illustrates a case where the user of the determination device 100 designates a designated area 630 , a designated area 640 , and a designated area 650 on the reference image 400 . In the example shown in FIG. 6, designated area 630, designated area 640, and designated area 650 are manufacturing areas for manufacturing products.

図7は、解析対象画像500の他の一例を概略的に示す。図7の解析対象画像500は、図6の基準画像400に対応する、作業台600を撮像した撮像画像である。図7の対応領域635、対応領域645、及び対応領域655は、それぞれ、図6の指定領域630、指定領域640、及び指定領域650に対応する。ここでは、製造ラインが、対応領域635、対応領域645、及び対応領域655の順の製造工程であるものとして説明を続ける。 FIG. 7 schematically shows another example of the image 500 to be analyzed. An analysis target image 500 in FIG. 7 is a captured image of the workbench 600 corresponding to the reference image 400 in FIG. Corresponding area 635, corresponding area 645, and corresponding area 655 in FIG. 7 correspond to designated area 630, designated area 640, and designated area 650 in FIG. 6, respectively. Here, the explanation will be continued assuming that the manufacturing line is the manufacturing process of the corresponding region 635, the corresponding region 645, and the corresponding region 655 in that order.

判定装置100は、指定領域630の各ピクセルと対応領域635の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 acquires a difference value between each pixel in the designated area 630 and each pixel in the corresponding area 635 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 635 from the obtained difference value.

判定装置100は、指定領域640の各ピクセルと対応領域645の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域645における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 640 and each pixel in the corresponding area 645 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 645 from the obtained difference value.

判定装置100は、指定領域650の各ピクセルと対応領域655の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 650 and each pixel in the corresponding area 655 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 655 from the obtained difference value.

判定装置100は、対応領域635、対応領域645、及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた作業閾値より高いか否かを判定する。ここでは、対応領域645及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高く、対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低いものとして説明を続ける。 The determination device 100 determines whether the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 635, 645, and 655 is higher than a predetermined work threshold. Here, it is assumed that the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 645 and 655 is higher than the work threshold, and the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 635 is lower than the work threshold. continue the explanation.

判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高いと判定した対応領域645及び対応領域655のそれぞれで作業員が作業をしている状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低いと判定した対応領域635で作業員が作業をしていない状態であると判定する。 The determination device 100 determines that the worker is working in each of the corresponding regions 645 and 655 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is higher than the work threshold. The determination device 100 determines that the worker is not working in the corresponding area 635 determined that the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the work threshold.

図8は、対応領域635、対応領域645、及び対応領域655の状況を表すグラフの一例を概略的に示す。図8の(A)のグラフは、対応領域635、対応領域645、及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を表すグラフである。図8の(A)のグラフの横軸は、時間である。図8の(A)のグラフの縦軸は、対応領域ピクセル数に対する非類似ピクセル数の割合である。 FIG. 8 schematically shows an example of a graph representing the situation of corresponding area 635, corresponding area 645, and corresponding area 655. As shown in FIG. The graph in FIG. 8A is a graph showing the ratio of the number of dissimilar pixels to the number of pixels in the corresponding regions in the corresponding regions 635, 645, and 655. FIG. The horizontal axis of the graph in (A) of FIG. 8 is time. The vertical axis of the graph in FIG. 8A is the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region.

図8の(B)のグラフは、判定装置100が対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフであり、図8の(C)のグラフは、判定装置100が対応領域645における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフであり、図8の(D)のグラフは、判定装置100が対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフである。ここでいう二値化処理は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合に対応領域ピクセル数に対する非類似ピクセル数の割合を1とし、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低い場合に対応領域ピクセル数に対する非類似ピクセル数の割合を0とする処理である。 Graph (B) of FIG. 8 is a graph showing the result of binarization processing of the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region in the corresponding region 635 by the determination device 100, and the graph of (C) of FIG. is a graph showing the result of binarization processing of the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region in the corresponding region 645 by the determination device 100, and the graph of (D) in FIG. 10 is a graph showing the result of binarizing the ratio of the number of dissimilar pixels to the number of corresponding region pixels in 655; In the binarization process here, when the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is higher than the working threshold, the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is set to 1, and the dissimilar pixels to the number of pixels in the corresponding region are This is a process of setting the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region to 0 when the ratio of the number is lower than the working threshold.

図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの横軸は、時間である。図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの縦軸の0は、作業員が作業をしていない状態を表す。図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの縦軸の1は、作業員が作業をしている状態を表す。 The horizontal axis of the graph of (B) of FIG. 8, the graph of (C) of FIG. 8, and the graph of (D) of FIG. 8 is time. 0 on the vertical axis of the graph in FIG. 8B, the graph in FIG. 8C, and the graph in FIG. 1 on the vertical axis of the graph of FIG. 8B, the graph of FIG. 8C, and the graph of FIG. 8D represents the state in which the worker is working.

図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフから、対応領域635で20分過ぎから開始された作業が60分手前で終了していること、対応領域645で20分過ぎから開始された作業が100分を過ぎても終了していないこと、及び、対応領域655で70分頃から作業が行われていないことがわかる。これにより、対応領域645において、製品の製造の滞留が発生していることがわかる。 From the graph of (B) of FIG. 8, the graph of (C) of FIG. 8, and the graph of (D) of FIG. It can be seen that the work started after 20 minutes in the corresponding area 645 has not finished even after 100 minutes, and that the work has not been performed in the corresponding area 655 since about 70 minutes. As a result, it can be seen that the production of products is delayed in the corresponding region 645 .

図9は、基準画像400の他の一例を概略的に示す。図9の基準画像400は、物が置かれていない状態の机700を上から撮像した撮像画像である。 FIG. 9 schematically shows another example of the reference image 400. As shown in FIG. A reference image 400 in FIG. 9 is a captured image of the desk 700 on which no object is placed, captured from above.

図9は、判定装置100のユーザによって、基準画像400に対して、指定領域730及び指定領域740が指定された場合を例示している。指定領域730及び指定領域740は、座席領域である。 FIG. 9 illustrates a case where the user of the determination device 100 designates a designated area 730 and a designated area 740 on the reference image 400 . Designated area 730 and designated area 740 are seating areas.

図10は、解析対象画像500の他の一例を概略的に示す。図10の解析対象画像500は、図9の基準画像400に対応する、机700を上から撮像した撮像画像である。図10の対応領域735及び対応領域745は、それぞれ、図9の指定領域730及び指定領域740に対応する。 FIG. 10 schematically shows another example of the image 500 to be analyzed. An analysis target image 500 in FIG. 10 is a captured image of the desk 700 captured from above, corresponding to the reference image 400 in FIG. Corresponding regions 735 and 745 in FIG. 10 correspond to designated regions 730 and 740 in FIG. 9, respectively.

判定装置100は、指定領域730の各ピクセルと対応領域735の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域735における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 obtains a difference value between each pixel in the designated area 730 and each pixel in the corresponding area 735 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 735 from the obtained difference value.

判定装置100は、指定領域740の各ピクセルと対応領域745の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。 The determination device 100 acquires a difference value between each pixel in the designated area 740 and each pixel in the corresponding area 745 . The determination device 100 derives the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 745 from the obtained difference value.

判定装置100は、対応領域735及び対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合のそれぞれが、予め定められた利用閾値より高いか否かを判定する。ここでは、対応領域735における対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より高く、対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より低いものとして説明を続ける。 The determination device 100 determines whether each ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding regions 735 and 745 is higher than a predetermined usage threshold. Here, the description is continued assuming that the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 735 is higher than the usage threshold, and the ratio of the number of dissimilar pixels to the number of corresponding region pixels in the corresponding region 745 is lower than the usage threshold.

判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より高いと判定した対応領域735の座席が利用状態であると判定する。利用状態とは、人が座席に座っている状態であってよく、荷物や本等が机700の上に置かれている状態であってもよい。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より低いと判定した対応領域745の座席が空席状態であると判定する。 The determination device 100 determines that the seat in the corresponding area 735 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the usage threshold is in the occupied state. The state of use may be a state in which a person is sitting on a seat, or a state in which luggage, books, or the like are placed on the desk 700 . The determination device 100 determines that the seat in the corresponding area 745 for which the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the usage threshold is vacant.

図11は、判定装置100の機能構成の一例を概略的に示す。判定装置100は、画像格納部102、画像取得部104、表示制御部106、指定領域取得部108、差分値取得部110、閾値格納部112、閾値設定部113、状況判定部114、状況通知部116、画像解析部120、候補領域決定部122、及び候補領域提示部124を備える。尚、判定装置100がこれらの全ての構成を備えることは必須とは限らない。 FIG. 11 schematically shows an example of the functional configuration of the determination device 100. As shown in FIG. The determination device 100 includes an image storage unit 102, an image acquisition unit 104, a display control unit 106, a specified area acquisition unit 108, a difference value acquisition unit 110, a threshold storage unit 112, a threshold setting unit 113, a situation determination unit 114, and a situation notification unit. 116 , an image analysis unit 120 , a candidate area determination unit 122 , and a candidate area presentation unit 124 . It should be noted that it is not essential for the determination device 100 to have all of these configurations.

画像格納部102は、撮像画像を格納する。画像格納部102は、例えば、複数の画像を格納する。画像格納部102は、例えば、基準画像400を格納する。画像格納部102は、例えば、解析対象画像500を格納する。画像格納部102は、商品の画像を格納してもよい。画像格納部102は、製品の画像を格納してもよい。 The image storage unit 102 stores captured images. The image storage unit 102 stores, for example, multiple images. The image storage unit 102 stores the reference image 400, for example. The image storage unit 102 stores an analysis target image 500, for example. The image storage unit 102 may store images of products. The image storage unit 102 may store images of products.

基準画像400は、例えば、それぞれに1又は複数の種類の商品を陳列する領域である複数の陳列領域を含む。基準画像400は、例えば、製品を製造する領域である複数の製造領域を含む。基準画像400は、例えば、複数の座席領域を含む。 The reference image 400 includes, for example, multiple display areas, each of which is an area for displaying one or more types of products. Reference image 400 includes a plurality of manufacturing areas, which are, for example, areas where products are manufactured. Reference image 400 includes, for example, a plurality of seat regions.

画像取得部104は、撮像画像を取得する。画像取得部104は、例えば、カメラ200から撮像画像を取得する。画像取得部104は、判定装置100が備える撮像部によって撮像された撮像画像を取得してもよい。画像取得部104は、取得した撮像画像を画像格納部102に格納する。 The image acquisition unit 104 acquires a captured image. The image acquisition unit 104 acquires a captured image from the camera 200, for example. The image acquisition unit 104 may acquire a captured image captured by an imaging unit included in the determination device 100 . The image acquisition unit 104 stores the acquired captured image in the image storage unit 102 .

画像取得部104は、例えば、基準画像400を取得する。画像取得部104は、例えば、解析対象画像500を取得する。画像取得部104は、商品の画像を取得してもよい。画像取得部104は、製品の画像を取得してもよい。 The image acquisition unit 104 acquires the reference image 400, for example. The image acquisition unit 104 acquires the analysis target image 500, for example. The image acquisition unit 104 may acquire an image of the product. The image acquisition unit 104 may acquire an image of the product.

表示制御部106は、表示部の表示を制御する。表示制御部106は、例えば、画像格納部102に格納されている撮像画像を表示するよう表示部の表示を制御する。表示制御部106は、例えば、判定装置100が備える表示部の表示を制御する。表示制御部106は、判定装置100のユーザが所有する通信端末が備える表示部の表示を制御してもよい。この場合、表示制御部106は、判定装置100のユーザが所有する通信端末に撮像画像を送信してよい。表示部は、表示制御部106による制御に従って、撮像画像を表示する。 The display control unit 106 controls display on the display unit. The display control unit 106 controls the display of the display unit so as to display the captured image stored in the image storage unit 102, for example. The display control unit 106 controls display of a display unit included in the determination device 100, for example. The display control unit 106 may control the display of the display unit of the communication terminal owned by the user of the determination device 100 . In this case, the display control unit 106 may transmit the captured image to the communication terminal owned by the user of the determination device 100 . The display unit displays the captured image under the control of the display control unit 106 .

指定領域取得部108は、画像格納部102に格納されている基準画像400に対して判定装置100のユーザによって指定された指定領域を取得する。指定領域取得部108は、例えば、基準画像400に対して判定装置100のユーザによって指定された複数の指定領域を取得する。 The specified area acquisition unit 108 acquires a specified area specified by the user of the determination device 100 with respect to the reference image 400 stored in the image storage unit 102 . The designated area obtaining unit 108 obtains, for example, a plurality of designated areas designated by the user of the determination device 100 with respect to the reference image 400 .

指定領域取得部108は、例えば、判定装置100が備える入力デバイスを用いて判定装置100のユーザの入力を受け付けることによって、指定領域を取得する。指定領域取得部108は、判定装置100のユーザが所有する通信端末から、指定領域を受信することによって、指定領域を取得してもよい。 The designated area acquisition unit 108 acquires the designated area by, for example, receiving input from the user of the determination device 100 using an input device included in the determination device 100 . The specified area acquiring unit 108 may acquire the specified area by receiving the specified area from the communication terminal owned by the user of the determination device 100 .

指定領域取得部108は、例えば、基準画像400に含まれる複数の陳列領域に対して、判定装置100のユーザによって指定された複数の指定領域を取得する。指定領域取得部108は、例えば、基準画像400に含まれる一の陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、判定装置100のユーザによって指定された2つの指定領域を取得する。例えば、第1の部分領域及び第2の部分領域は、一の陳列領域の前方領域及び後方領域である。第1の部分領域及び第2の部分領域は、一の陳列領域の右側領域及び左側領域であってもよい。 The designated area obtaining unit 108 obtains, for example, a plurality of designated areas designated by the user of the determination device 100 for a plurality of display areas included in the reference image 400 . For example, the specified area acquisition unit 108 acquires two specified areas specified by the user of the determination device 100 for each of the first partial area and the second partial area of one display area included in the reference image 400. to get For example, the first partial area and the second partial area are the front area and the rear area of one display area. The first partial area and the second partial area may be the right side area and the left side area of one display area.

指定領域取得部108は、基準画像400に含まれる複数の製造領域に対して、指定領域取得部108のユーザによって指定された複数の指定領域を取得してもよい。指定領域取得部108は、基準画像400に含まれる複数の座席領域に対して、判定装置100のユーザによって指定された複数の指定領域を取得してもよい。 The designated area obtaining unit 108 may obtain a plurality of designated areas designated by the user of the designated area obtaining unit 108 for a plurality of manufacturing areas included in the reference image 400 . The designated area acquisition unit 108 may acquire a plurality of designated areas designated by the user of the determination device 100 for a plurality of seat areas included in the reference image 400 .

指定領域は、任意の形状の領域であってよい。指定領域は、例えば、多角形領域である。指定領域は、例えば、矩形領域である。指定領域は、円形領域であってもよい。指定領域は、楕円領域であってもよい。 The designated area may be an area of any shape. The designated area is, for example, a polygonal area. The designated area is, for example, a rectangular area. The designated area may be a circular area. The designated area may be an elliptical area.

差分値取得部110は、画像格納部102に格納されている基準画像400の指定領域内の各ピクセルと、画像格納部102に格納されている解析対象画像500の、基準画像400における指定領域に対応する対応領域内の各ピクセルとの差分値を取得する。差分値取得部110は、例えば、基準画像400の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像500の、基準画像400における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する。 The difference value acquiring unit 110 extracts each pixel in the designated area of the reference image 400 stored in the image storage unit 102 and the analysis object image 500 stored in the image storage unit 102 into the designated area in the reference image 400. Get the difference value with each pixel in the corresponding corresponding region. For example, the difference value acquiring unit 110 obtains each pixel in each of the plurality of specified regions of the reference image 400 and each pixel in each corresponding region of the analysis target image 500 corresponding to each specified region in the reference image 400. Get the difference value with

差分値取得部110は、指定領域の各ピクセルの平均値と、商品の画像の各ピクセルの平均値との差分値である平均差分値を取得してもよい。差分値取得部110は、指定領域の各ピクセルの平均値と、製品の画像の各ピクセルの平均値との差分値である平均差分値を取得してもよい。 The difference value acquisition unit 110 may acquire an average difference value, which is a difference value between the average value of each pixel in the designated area and the average value of each pixel in the product image. The difference value acquisition unit 110 may acquire an average difference value, which is a difference value between the average value of each pixel in the designated area and the average value of each pixel in the image of the product.

閾値格納部112は、予め定められた閾値を格納する。閾値格納部112は、例えば、予め定められた複数の閾値を格納する。 The threshold storage unit 112 stores a predetermined threshold. The threshold storage unit 112 stores, for example, a plurality of predetermined thresholds.

閾値格納部112は、例えば、差分閾値を格納する。閾値格納部112は、例えば、不足閾値を格納する。閾値格納部112は、例えば、作業閾値を格納する。閾値格納部112は、例えば、利用閾値を格納する。 The threshold storage unit 112 stores, for example, a difference threshold. The threshold storage unit 112 stores, for example, an insufficient threshold. The threshold storage unit 112 stores, for example, work thresholds. The threshold storage unit 112 stores, for example, usage thresholds.

閾値格納部112、例えば、複数の差分閾値のそれぞれを、複数の指定領域のそれぞれと対応付けて格納してよい。閾値格納部112は、複数の差分閾値のそれぞれを、複数の指定領域のそれぞれ及び複数の対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納してもよい。 The threshold storage unit 112 may store, for example, each of a plurality of difference thresholds in association with each of a plurality of designated regions. The threshold storage unit 112 may store each of the plurality of difference thresholds in association with the identification information of the product displayed in each of the plurality of designated areas and each of the plurality of corresponding areas.

閾値設定部113は、閾値を設定する。閾値設定部113は、例えば、判定装置100が備える入力デバイス用いて判定装置100のユーザの入力を受け付けることによって、閾値を設定する。閾値設定部113は、判定装置100のユーザが所有する通信端末から、閾値を設定する情報を受信することによって、閾値を設定してもよい。閾値設定部113は、設定した閾値を閾値格納部112に格納する。 The threshold setting unit 113 sets a threshold. The threshold setting unit 113 sets the threshold by, for example, receiving input from the user of the determination device 100 using an input device included in the determination device 100 . The threshold setting unit 113 may set the threshold by receiving information for setting the threshold from the communication terminal owned by the user of the determination device 100 . The threshold setting unit 113 stores the set threshold in the threshold storage unit 112 .

閾値設定部113は、例えば、差分閾値を設定する。閾値設定部113は、例えば、不足閾値を設定する。閾値設定部113は、例えば、作業閾値を設定する。閾値設定部113は、例えば、利用閾値を設定する。 The threshold setting unit 113 sets, for example, a difference threshold. The threshold setting unit 113 sets, for example, a shortage threshold. The threshold setting unit 113 sets, for example, a work threshold. The threshold setting unit 113 sets, for example, a usage threshold.

閾値設定部113は、例えば、基準画像400が複数の陳列領域を含む場合、指定領域の各ピクセルの平均値と、商品の画像の各ピクセルの平均値との差分値である平均差分値に基づいて、差分閾値を設定する。閾値設定部113は、例えば、当該平均差分値が小さい程、差分閾値を低く設定する。 For example, when the reference image 400 includes a plurality of display areas, the threshold setting unit 113 sets the threshold based on the average difference value, which is the difference between the average value of each pixel in the specified area and the average value of each pixel in the product image. to set the difference threshold. For example, the threshold value setting unit 113 sets a lower difference threshold value as the average difference value is smaller.

閾値設定部113は、例えば、基準画像400が複数の製造領域を含む場合、指定領域の各ピクセルの平均値と、製品の画像の各ピクセルの平均値との差分値である平均差分値に基づいて、差分閾値を設定する。閾値設定部113は、例えば、当該平均差分値が小さい程、差分閾値を低く設定する。 For example, when the reference image 400 includes a plurality of manufacturing regions, the threshold value setting unit 113 is based on the average difference value, which is the difference value between the average value of each pixel in the designated region and the average value of each pixel in the image of the product. to set the difference threshold. For example, the threshold value setting unit 113 sets a lower difference threshold value as the average difference value is smaller.

状況判定部114は、対応領域の状況を判定する。状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。状況判定部114は、例えば、対応領域ピクセル数に対する、差分値が指定領域に対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。 The status determination unit 114 determines the status of the corresponding area. The status determination unit 114 determines the status of the corresponding region based on, for example, the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region. For example, the situation determination unit 114 determines the number of pixels in the corresponding region based on the ratio of the number of dissimilar pixels higher than the difference threshold stored in the threshold storage unit 112 with the difference value associated with the specified region, to the number of pixels in the corresponding region. determine the situation.

例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より低い場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より高い場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が充足状態であると判定する。 For example, when the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is lower than the shortage threshold, the situation determination unit 114 determines that the product in the corresponding region corresponding to the specified region specified for the display region is in a shortage state. judge. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the shortage threshold, the situation determination unit 114 determines that the products in the corresponding area corresponding to the specified area specified for the display area are in a sufficient state. .

状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値と同一である場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値と同一である場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が充足状態であると判定してもよい。 For example, when the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is the same as the shortage threshold, the situation determination unit 114 determines that the product in the corresponding region corresponding to the specified region specified for the display region is in a shortage state. Determine that there is. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is the same as the shortage threshold, the situation determination unit 114 determines that the product in the corresponding region corresponding to the specified region specified for the display region is in a sufficient state. You can judge.

例えば、状況判定部114は、対応領域ピクセル数に対する、差分値が指定領域及び商品の識別情報と対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合が、不足閾値より低い場合、対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する、差分値が指定領域及び商品の識別情報と対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合が、不足閾値より高い場合、対応領域の商品が充足状態であると判定する。 For example, the situation determination unit 114 determines that the ratio of the number of dissimilar pixels with respect to the number of pixels in the corresponding region that is higher than the difference threshold stored in the threshold storage unit 112 in association with the identification information of the specified region and product is If it is lower than the shortage threshold, it is determined that the product in the corresponding area is in a shortage state. The situation determination unit 114 determines that the ratio of the number of dissimilar pixels with respect to the number of pixels in the corresponding region, whose difference value is higher than the difference threshold stored in the threshold storage unit 112 in association with the identification information of the designated region and product, is the insufficient threshold. If it is higher, it is determined that the product in the corresponding area is in a sufficient state.

状況判定部114は、例えば、一の陳列領域の第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合と、一の陳列領域の第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合とに基づいて、第1の部分領域及び第2の部分領域のそれぞれに対して判定装置100のユーザによって指定された2つの指定領域に対応する2つの対応領域の商品の状態を判定する。例えば、状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合の両方が、不足閾値より低い場合、当該2つの対応領域の商品の状態が不足状態であると判定する。状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合の両方が、不足閾値より高い場合、当該2つの対応領域の商品の状態が充足状態であると判定する。 For example, the situation determination unit 114 determines the ratio of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area corresponding to the specified area specified for the first partial area of one display area, and the number of pixels of the one display area. For each of the first partial area and the second partial area, based on the ratio of the number of dissimilar pixels to the number of corresponding area pixels in the corresponding area corresponding to the specified area specified for the second partial area The state of the product in the two corresponding areas corresponding to the two specified areas specified by the user of the determination device 100 is determined. For example, the situation determination unit 114 determines the ratio of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area corresponding to the specified area specified for the first partial area and the number of dissimilar pixels specified for the second partial area. If both the ratios of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area corresponding to the designated area are lower than the shortage threshold, it is determined that the products in the two corresponding areas are in the shortage state. The situation determination unit 114 determines the ratio of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area corresponding to the specified area specified for the first partial area and the specified area specified for the second partial area. If both ratios of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area are higher than the shortage threshold, it is determined that the products in the two corresponding areas are in the sufficient state.

状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合のいずれか一方が、不足閾値より低い場合、当該2つの対応領域の商品の状態が、不足状態と充足状態との間の状態である中間状態であると判定する。第1の部分領域が一の陳列領域の前方領域であり、第2の部分領域が一の陳列領域の後方領域である場合、状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より低く、且つ、第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より高い場合、第2の部分領域に対して指定された指定領域に対応する対応領域の商品を、第1の部分領域に対して指定された指定領域に対応する対応領域に前出し可能な状態であると判定してもよい。 The situation determination unit 114 determines the ratio of the number of dissimilar pixels to the number of pixels in the corresponding area of the corresponding area corresponding to the specified area specified for the first partial area and the specified area specified for the second partial area. If either one of the ratios of the number of dissimilar pixels to the number of pixels in the corresponding region of the corresponding region is lower than the shortage threshold, the state of the product in the two corresponding regions is between the state of shortage and the state of sufficiency is determined to be an intermediate state. When the first partial area is the front area of one display area and the second partial area is the rear area of the one display area, the situation determination unit 114 determines the The ratio of the number of dissimilar pixels to the number of corresponding area pixels of the corresponding area corresponding to the specified area is lower than the shortage threshold, and the corresponding area pixels of the corresponding area corresponding to the specified area specified for the second partial area If the ratio of the number of dissimilar pixels to the number of pixels is higher than the shortage threshold, the product in the corresponding region corresponding to the specified region specified for the second partial region is replaced with the product specified for the first partial region. It may be determined that the corresponding area corresponding to the area can be advanced.

例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしている状態であると判定する。状況判定部114は、例えば、予め定められた期間の間、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合、製造領域に対して指定された指定領域に対応する対応領域で、製品の製造が滞留状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低い場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしていない状態であると判定する。 For example, if the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is higher than the work threshold, the situation determination unit 114 determines that the worker is working in the corresponding region corresponding to the designated region designated for the manufacturing region. state. For example, if the ratio of the number of dissimilar pixels to the number of pixels in the corresponding region is higher than the work threshold during a predetermined period, the situation determination unit 114 , the production of the product is determined to be in a stagnant state. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is lower than the work threshold, the situation determination unit 114 determines that the worker is not working in the corresponding region corresponding to the designated region designated for the manufacturing region. Determine that there is.

状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値と同一である場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしている状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値と同一である場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしていない状態であると判定してもよい。 For example, when the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is the same as the work threshold, the situation determination unit 114 determines whether the worker is working in the corresponding region corresponding to the designated region designated for the manufacturing region. It is determined that the If the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is the same as the work threshold, the situation determination unit 114 determines that the worker is not working in the corresponding region corresponding to the designated region designated for the manufacturing region. state may be determined.

例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、利用閾値より高い場合、座席領域に対して指定された指定領域に対応する対応領域の座席が利用状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、利用閾値より低い場合、座席領域に対して指定された指定領域に対応する対応領域の座席が空席状態であると判定する。 For example, when the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the utilization threshold, the situation determination unit 114 determines that the seats in the corresponding area corresponding to the designated area designated for the seat area are in the occupied state. judge. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the utilization threshold, the situation determination unit 114 determines that the seats in the corresponding area corresponding to the designated area designated for the seat area are in an empty state. .

状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値と同一である場合、座席領域に対して指定された指定領域に対応する対応領域の座席が利用状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値と同一である場合、座席領域に対して指定された指定領域に対応する対応領域の座席が空席状態であると判定してもよい。 For example, when the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is the same as the utilization threshold, the situation determination unit 114 determines that the seats in the corresponding area corresponding to the designated area designated for the seat area are in the occupied state. I judge. When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is the same as the utilization threshold, the situation determination unit 114 determines that the seat in the corresponding area corresponding to the designated area designated for the seat area is in an empty state. You may

状況通知部116は、状況判定部114が判定した対応領域の状況を通知する。状況通知部116は、例えば、判定装置100が備える表示部に対応領域の状況を表示することによって、対応領域の状況を通知する。状況通知部116は、判定装置100のユーザが所有する通信端末に対応領域の状況を送信することによって、対応領域の状況を通知してもよい。 The status notification unit 116 notifies the status of the corresponding area determined by the status determination unit 114 . The status notification unit 116 notifies the status of the corresponding area by, for example, displaying the status of the corresponding area on the display unit included in the determination device 100 . The status notification unit 116 may notify the status of the corresponding area by transmitting the status of the corresponding area to the communication terminal owned by the user of the determination device 100 .

画像解析部120は、画像格納部102に格納されている撮像画像を解析する。画像解析部120は、例えば、画像格納部102に格納されている複数の解析対象画像500を解析する。 The image analysis unit 120 analyzes captured images stored in the image storage unit 102 . The image analysis unit 120 analyzes a plurality of analysis target images 500 stored in the image storage unit 102, for example.

画像解析部120は、例えば、解析対象画像500が複数の製造領域を含む撮像画像である場合に、過去の複数の解析対象画像500をそれぞれ解析し、解析対象画像500内の製品でない物体が予め定められた頻度以上で検出される領域を特定する。製品でない物体は、例えば、作業員の手である。製品でない物体は、工具であってもよい。 For example, when the analysis target image 500 is a captured image including a plurality of manufacturing regions, the image analysis unit 120 analyzes each of the plurality of past analysis target images 500, and determines whether an object that is not a product in the analysis target image 500 is Identify regions that are detected at a frequency greater than or equal to a specified frequency. A non-product object is, for example, a worker's hand. A non-product object may be a tool.

候補領域決定部122は、指定領域の候補である候補領域を決定する。候補領域決定部122は、例えば、複数の製造領域のうち、製品でない物体が予め定められた頻度以上で検出される領域を除いた領域を、候補領域とする。 The candidate area determination unit 122 determines candidate areas that are candidates for the specified area. For example, the candidate area determination unit 122 determines, as candidate areas, areas excluding areas in which non-product objects are detected at a frequency equal to or higher than a predetermined frequency, among the plurality of manufacturing areas.

候補領域提示部124は、候補領域決定部122が決定した候補領域を判定装置100のユーザに提示する。候補領域提示部124は、例えば、表示部が表示している基準画像400に候補領域を重畳して表示することによって、候補領域を判定装置100のユーザに提示する。 Candidate area presentation section 124 presents the candidate area determined by candidate area determination section 122 to the user of determination device 100 . The candidate area presenting unit 124 presents the candidate area to the user of the determination device 100 by, for example, superimposing the candidate area on the reference image 400 displayed by the display unit.

図12は、判定装置100による処理の流れの一例を概略的に示す。図12では、画像取得部104が基準画像400を取得していない状態を開始状態として説明する。 FIG. 12 schematically shows an example of the flow of processing by the determination device 100. As shown in FIG. In FIG. 12, a state in which the image acquisition unit 104 has not acquired the reference image 400 will be described as a start state.

ステップ(ステップをSと省略して記載する場合がある。)102において、画像取得部104は、基準画像400を取得する。S104において、指定領域取得部108は、基準画像400に対して、判定装置100のユーザによって指定された複数の指定領域を取得する。判定装置100のユーザは、例えば、基準画像400を確認しながら、複数の指定領域を指定する。 In step (the step may be abbreviated as S) 102 , the image acquisition unit 104 acquires the reference image 400 . In S<b>104 , the specified area acquisition unit 108 acquires a plurality of specified areas specified by the user of the determination device 100 with respect to the reference image 400 . The user of the determination device 100 designates a plurality of designated regions while confirming the reference image 400, for example.

S106において、画像取得部104は、解析対象画像500を取得する。S108において、状況判定部114は、指定領域に対応する対応領域における対応領域ピクセル数に対する非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。S110において、状況判定部114は、全ての対応領域の状況を判定したか否かを判定する。全ての対応領域を判定している場合、S112に進む。全ての対応領域を判定していない場合、S108に戻る。 In S<b>106 , the image acquisition unit 104 acquires the analysis target image 500 . In S108, the status determination unit 114 determines the status of the corresponding area based on the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area in the corresponding area corresponding to the specified area. In S110, the status determination unit 114 determines whether or not the status of all corresponding areas has been determined. If all corresponding areas have been determined, the process proceeds to S112. If all corresponding areas have not been determined, the process returns to S108.

S112において、状況通知部116は、状況判定部114が判定した複数の対応領域の状況を通知する。その後、処理が終了する。 In S<b>112 , the status notification unit 116 notifies the status of the plurality of corresponding regions determined by the status determination unit 114 . After that, the process ends.

図13は、判定装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200を、上記実施形態に係る装置の1又は複数の「部」として機能させ、又はコンピュータ1200に、上記実施形態に係る装置に関連付けられるオペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ1200に、上記実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。 FIG. 13 schematically shows an example of a hardware configuration of a computer 1200 functioning as the determination device 100. As shown in FIG. Programs installed on the computer 1200 cause the computer 1200 to act as one or more "parts" of the apparatus of the above embodiments, or cause the computer 1200 to operate or perform operations associated with the apparatus of the above embodiments. Multiple "units" can be executed and/or the computer 1200 can be caused to execute the processes or steps of the processes according to the above embodiments. Such programs may be executed by CPU 1212 to cause computer 1200 to perform certain operations associated with some or all of the blocks in the flowcharts and block diagrams described herein.

本実施形態によるコンピュータ1200は、CPU1212、RAM1214、及びグラフィックコントローラ1216を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、記憶装置1224、DVDドライブ1226、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。DVDドライブ1226は、DVD-ROMドライブ及びDVD-RAMドライブ等であってよい。記憶装置1224は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ1200はまた、ROM1230及びキーボード1242のようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。 Computer 1200 according to this embodiment includes CPU 1212 , RAM 1214 , and graphics controller 1216 , which are interconnected by host controller 1210 . Computer 1200 also includes input/output units such as communication interface 1222 , storage device 1224 , DVD drive 1226 , and IC card drive, which are connected to host controller 1210 via input/output controller 1220 . DVD drive 1226 may be a DVD-ROM drive, a DVD-RAM drive, and the like. Storage devices 1224 may be hard disk drives, solid state drives, and the like. Computer 1200 also includes legacy input/output units, such as ROM 1230 and keyboard 1242 , which are connected to input/output controller 1220 via input/output chip 1240 .

CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等又はそれ自体の中に、CPU1212によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。 The CPU 1212 operates according to programs stored in the ROM 1230 and RAM 1214, thereby controlling each unit. Graphics controller 1216 retrieves image data generated by CPU 1212 into a frame buffer or the like provided in RAM 1214 or itself, and causes the image data to be displayed on display device 1218 .

通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。記憶装置1224は、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納する。DVDドライブ1226は、プログラム又はデータをDVD-ROM1227等から読み取り、記憶装置1224に提供する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。 Communication interface 1222 communicates with other electronic devices over a network. Storage device 1224 stores programs and data used by CPU 1212 within computer 1200 . DVD drive 1226 reads programs or data from DVD-ROM 1227 or the like and provides them to storage device 1224 . The IC card drive reads programs and data from IC cards and/or writes programs and data to IC cards.

ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/又はコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをUSBポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。 ROM 1230 stores therein programs that are dependent on the hardware of computer 1200, such as a boot program that is executed by computer 1200 upon activation. Input/output chip 1240 may also connect various input/output units to input/output controller 1220 via USB ports, parallel ports, serial ports, keyboard ports, mouse ports, and the like.

プログラムは、DVD-ROM1227又はICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置1224、RAM1214、又はROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ1200の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。 The program is provided by a computer-readable storage medium such as DVD-ROM 1227 or IC card. The program is read from a computer-readable storage medium, installed in storage device 1224 , RAM 1214 , or ROM 1230 , which are also examples of computer-readable storage media, and executed by CPU 1212 . The information processing described within these programs is read by computer 1200 to provide coordination between the programs and the various types of hardware resources described above. An apparatus or method may be configured by implementing information operations or processing according to the use of computer 1200 .

例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、記憶装置1224、DVD-ROM1227、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。 For example, when communication is performed between the computer 1200 and an external device, the CPU 1212 executes a communication program loaded into the RAM 1214 and sends communication processing to the communication interface 1222 based on the processing described in the communication program. you can command. Under the control of the CPU 1212, the communication interface 1222 reads transmission data stored in a transmission buffer area provided in a recording medium such as a RAM 1214, a storage device 1224, a DVD-ROM 1227, or an IC card, and transmits the read transmission data. Data is transmitted to the network, or received data received from the network is written in a receive buffer area or the like provided on the recording medium.

また、CPU1212は、記憶装置1224、DVDドライブ1226(DVD-ROM1227)、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。 In addition, the CPU 1212 causes the RAM 1214 to read all or necessary portions of files or databases stored in external recording media such as the storage device 1224, DVD drive 1226 (DVD-ROM 1227), IC card, etc. Various types of processing may be performed on the data. CPU 1212 may then write back the processed data to an external recording medium.

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。 Various types of information, such as various types of programs, data, tables, and databases, may be stored on recording media and subjected to information processing. CPU 1212 performs various types of operations on data read from RAM 1214, information processing, conditional decisions, conditional branching, unconditional branching, and information retrieval, which are described throughout this disclosure and are specified by instruction sequences of programs. Various types of processing may be performed, including /replace, etc., and the results written back to RAM 1214 . In addition, the CPU 1212 may search for information in a file in a recording medium, a database, or the like. For example, when a plurality of entries each having an attribute value of a first attribute associated with an attribute value of a second attribute are stored in the recording medium, the CPU 1212 selects the first attribute from among the plurality of entries. search for an entry that matches the specified condition of the attribute value of the attribute, read the attribute value of the second attribute stored in the entry, and thereby determine the first attribute that satisfies the predetermined condition An attribute value of the associated second attribute may be obtained.

上で説明したプログラム又はソフトウェアモジュールは、コンピュータ1200上又はコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。 The programs or software modules described above may be stored in a computer-readable storage medium on or near computer 1200 . Also, a recording medium such as a hard disk or RAM provided in a server system connected to a dedicated communication network or the Internet can be used as a computer-readable storage medium, whereby the program can be transferred to the computer 1200 via the network. offer.

本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び/又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び/又はアナログハードウェア回路を含んでよく、集積回路(IC)及び/又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ(FPGA)、及びプログラマブルロジックアレイ(PLA)等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。 The blocks in the flowcharts and block diagrams in this embodiment may represent steps in the process in which the operations are performed or "parts" of the apparatus responsible for performing the operations. Certain steps and "sections" may be provided with dedicated circuitry, programmable circuitry provided with computer readable instructions stored on a computer readable storage medium, and/or computer readable instructions provided with computer readable instructions stored on a computer readable storage medium. It may be implemented by a processor. Dedicated circuitry may include digital and/or analog hardware circuitry, and may include integrated circuits (ICs) and/or discrete circuitry. Programmable circuits, such as Field Programmable Gate Arrays (FPGAs), Programmable Logic Arrays (PLAs), etc., perform AND, OR, EXCLUSIVE OR, NOT AND, NOT OR, and other logical operations. , flip-flops, registers, and memory elements.

コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。 A computer-readable storage medium may comprise any tangible device capable of storing instructions to be executed by a suitable device, such that a computer-readable storage medium having instructions stored thereon may be illustrated in flowchart or block diagram form. It will comprise an article of manufacture containing instructions that can be executed to create means for performing specified operations. Examples of computer-readable storage media may include electronic storage media, magnetic storage media, optical storage media, electromagnetic storage media, semiconductor storage media, and the like. More specific examples of computer readable storage media include floppy disks, diskettes, hard disks, random access memory (RAM), read only memory (ROM), erasable programmable read only memory (EPROM or flash memory) , electrically erasable programmable read only memory (EEPROM), static random access memory (SRAM), compact disc read only memory (CD-ROM), digital versatile disc (DVD), Blu-ray disc, memory stick , integrated circuit cards, and the like.

コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。 The computer readable instructions may be assembler instructions, Instruction Set Architecture (ISA) instructions, machine instructions, machine dependent instructions, microcode, firmware instructions, state configuration data, or instructions such as Smalltalk, JAVA, C++, etc. any source or object code written in any combination of one or more programming languages, including object-oriented programming languages, and conventional procedural programming languages such as the "C" programming language or similar programming languages; may include

コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。 Computer readable instructions are used to produce means for a processor of a general purpose computer, special purpose computer, or other programmable data processing apparatus, or programmable circuits to perform the operations specified in the flowchart or block diagrams. A general purpose computer, special purpose computer, or other programmable data processor, locally or over a wide area network (WAN) such as the Internet, etc., to execute such computer readable instructions. It may be provided in the processor of the device or in a programmable circuit. Examples of processors include computer processors, processing units, microprocessors, digital signal processors, controllers, microcontrollers, and the like.

以上、本開示に係る発明を実施の形態を用いて説明したが、本開示に係る発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。 Although the invention according to the present disclosure has been described above using the embodiments, the technical scope of the invention according to the present disclosure is not limited to the scope described in the above embodiments. It is obvious to those skilled in the art that various modifications or improvements can be made to the above embodiments. It is clear from the description of the scope of the claims that forms with such modifications or improvements can also be included in the technical scope of the present invention.

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。 The execution order of each process such as actions, procedures, steps, and stages in the devices, systems, programs, and methods shown in the claims, the specification, and the drawings is etc., and it should be noted that they can be implemented in any order unless the output of the previous process is used in the subsequent process. Regarding the operation flow in the claims, the specification, and the drawings, even if the description is made using "first," "next," etc. for convenience, it means that it is essential to carry out in this order. not a thing

10 システム、20 ネットワーク、100 判定装置、102 画像格納部、104 画像取得部、106 表示制御部、108 指定領域取得部、110 差分値取得部、112 閾値格納部、113 閾値設定部、114 状況判定部、116 状況通知部、120 画像解析部、122 候補領域決定部、124 候補領域提示部、200 カメラ、300 商品棚、330 指定領域、335 対応領域、340 指定領域、345 対応領域、350 指定領域、355 対応領域、360 指定領域、365 対応領域、370 指定領域、375 対応領域、400 基準画像、500 解析対象画像、600 作業台、630 指定領域、635 対応領域、640 指定領域、645 対応領域、650 指定領域、655 対応領域、700 机、730 指定領域、735 対応領域、740 指定領域、745 対応領域、1200 コンピュータ、1210 ホストコントローラ、1212 CPU、1214 RAM、1216 グラフィックコントローラ、1218 ディスプレイデバイス、1220 入出力コントローラ、1222 通信インタフェース、1224 記憶装置、1226 DVDドライブ、1227 DVD-ROM、1230 ROM、1240 入出力チップ 10 system, 20 network, 100 determination device, 102 image storage unit, 104 image acquisition unit, 106 display control unit, 108 specified area acquisition unit, 110 difference value acquisition unit, 112 threshold storage unit, 113 threshold setting unit, 114 situation determination Unit 116 Status notification unit 120 Image analysis unit 122 Candidate area determination unit 124 Candidate area presentation unit 200 Camera 300 Product shelf 330 Designated area 335 Corresponding area 340 Designated area 345 Corresponding area 350 Designated area , 355 corresponding area, 360 designated area, 365 corresponding area, 370 designated area, 375 corresponding area, 400 reference image, 500 analysis target image, 600 workbench, 630 designated area, 635 corresponding area, 640 designated area, 645 corresponding area, 650 designated area, 655 corresponding area, 700 desk, 730 designated area, 735 corresponding area, 740 designated area, 745 corresponding area, 1200 computer, 1210 host controller, 1212 CPU, 1214 RAM, 1216 graphic controller, 1218 display device, 1220 input Output controller, 1222 communication interface, 1224 storage device, 1226 DVD drive, 1227 DVD-ROM, 1230 ROM, 1240 input/output chip

Claims (11)

判定装置であって、
予め撮像された基準画像を格納する画像格納部と、
予め定められた差分閾値を格納する閾値格納部と、
前記基準画像に対して前記判定装置のユーザによって指定された複数の指定領域を取得する指定領域取得部と、
画像解析の対象である解析対象画像を取得する画像取得部と、
前記基準画像の前記複数の指定領域の各指定領域内の各ピクセルと、前記解析対象画像の、前記基準画像における前記各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得部と、
前記解析対象画像の前記各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、前記差分値が前記差分閾値より高い前記対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、前記対応領域の状況を判定する状況判定部と
を備える、判定装置。
A determination device,
an image storage unit that stores a pre-captured reference image;
a threshold storage unit that stores a predetermined difference threshold;
a specified area acquiring unit that acquires a plurality of specified areas specified by a user of the determination device with respect to the reference image;
an image acquisition unit that acquires an analysis target image that is the target of image analysis;
Obtaining a difference value between each pixel in each of the plurality of specified regions of the reference image and each pixel in each corresponding region of the analysis target image corresponding to each of the specified regions in the reference image. a difference value acquisition unit;
For each of the corresponding regions of the image to be analyzed, the number of dissimilar pixels, which is the number of pixels in the corresponding region in which the difference value is higher than the difference threshold, relative to the number of pixels in the corresponding region, which is the number of pixels in the corresponding region A determination device comprising: a situation determination unit that determines the situation of the corresponding area based on the ratio.
前記閾値格納部は、複数の前記差分閾値のそれぞれを、前記複数の指定領域のそれぞれと対応付けて格納し、
前記状況判定部は、前記対応領域ピクセル数に対する、前記差分値が指定領域に対応付けられて前記閾値格納部に格納されている前記差分閾値より高い前記非類似ピクセル数の割合に基づいて、前記対応領域の状況を判定する、
請求項1に記載の判定装置。
The threshold storage unit stores each of the plurality of difference thresholds in association with each of the plurality of specified regions,
The situation determination unit determines, based on the ratio of the number of dissimilar pixels higher than the difference threshold stored in the threshold storage unit that the difference value is associated with the designated area, to the number of pixels in the corresponding area, determine the status of the corresponding area;
The determination device according to claim 1.
前記画像格納部は、それぞれに1又は複数の種類の商品を陳列する領域である複数の陳列領域を含む前記基準画像を格納し、
前記閾値格納部は、予め定められた不足閾値をさらに格納し、
前記指定領域取得部は、前記複数の陳列領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
前記状況判定部は、前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記不足閾値より低い場合、陳列領域に対して指定された指定領域に対応する前記対応領域の前記商品が不足状態であると判定する、
請求項1又は2に記載の判定装置。
The image storage unit stores the reference image including a plurality of display areas, each of which is an area for displaying one or more types of products;
The threshold storage unit further stores a predetermined shortage threshold,
The specified area acquisition unit acquires the plurality of specified areas specified by the user for the plurality of display areas,
When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is lower than the shortage threshold, the situation determination unit determines that the product in the corresponding area corresponding to the specified area specified for the display area is in a shortage state. determine that
The determination device according to claim 1 or 2.
前記指定領域取得部は、それぞれに1つの種類の商品を陳列する前記複数の陳列領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
前記閾値格納部は、複数の前記差分閾値のそれぞれを、前記複数の指定領域のそれぞれ及び複数の前記対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納し、
前記状況判定部は、前記対応領域ピクセル数に対する、前記差分値が前記指定領域及び前記商品の前記識別情報と対応付けられて前記閾値格納部に格納されている前記差分閾値より高い前記非類似ピクセル数の割合が、前記不足閾値より低い場合、前記対応領域の前記商品が不足状態であると判定する、
請求項3に記載の判定装置。
The specified area acquisition unit acquires the plurality of specified areas specified by the user for the plurality of display areas each displaying one type of product,
The threshold storage unit stores each of the plurality of difference thresholds in association with identification information of products displayed in each of the plurality of designated areas and each of the plurality of corresponding areas;
The situation determination unit determines the number of pixels in the corresponding region, the dissimilar pixels whose difference value is higher than the difference threshold stored in the threshold storage unit in association with the identification information of the specified region and the product. If the ratio of the number is lower than the shortage threshold, determine that the product in the corresponding area is in a shortage state;
The determination device according to claim 3.
前記画像格納部は、前記商品の画像をさらに格納し、
前記差分値取得部は、前記指定領域の各ピクセルの平均値と、前記商品の画像の各ピクセルの平均値との差分値である平均差分値を取得し、
前記判定装置は、
前記平均差分値に基づいて、前記差分閾値を設定する閾値設定部
をさらに備える、請求項4に記載の判定装置。
The image storage unit further stores an image of the product,
The difference value acquisition unit acquires an average difference value, which is a difference value between the average value of each pixel in the specified area and the average value of each pixel in the image of the product,
The determination device is
The determination device according to claim 4, further comprising a threshold setting unit that sets the difference threshold based on the average difference value.
前記指定領域取得部は、一の前記陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、前記ユーザによって指定された2つの前記指定領域を取得し、
前記状況判定部は、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合と、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合とに基づいて、前記2つの指定領域に対応する2つの前記対応領域の前記商品の状態を判定する、
請求項3から5のいずれか一項に記載の判定装置。
The specified area acquiring unit acquires the two specified areas specified by the user for each of a first partial area and a second partial area of the one display area,
The situation determination unit determines a ratio of the number of dissimilar pixels to the number of pixels of the corresponding region of the corresponding region corresponding to the designated region designated for the first partial region, and and the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area of the corresponding area corresponding to the specified area specified for the product in the two corresponding areas corresponding to the two specified areas determine the state of
The determination device according to any one of claims 3 to 5.
前記第1の部分領域は、前記一の陳列領域の前方領域であり、
前記第2の部分領域は、前記一の陳列領域の後方領域であり、
前記状況判定部は、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記不足閾値より低く、且つ、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記不足閾値より高い場合、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記商品を、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域に前出し可能な状態であると判定する、
請求項6に記載の判定装置。
The first partial area is a front area of the one display area,
the second partial area is a rear area of the one display area;
The situation determination unit determines that a ratio of the number of dissimilar pixels to the number of pixels of the corresponding region in the corresponding region corresponding to the designated region designated for the first partial region is lower than the shortage threshold, and , if the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region of the corresponding region corresponding to the designated region designated for the second partial region is higher than the shortage threshold, the second portion The product in the corresponding area corresponding to the specified area specified for the area can be advanced to the corresponding area corresponding to the specified area specified for the first partial area. determine that
The determination device according to claim 6.
前記画像格納部は、製品を製造する領域である複数の製造領域を含む前記基準画像を格納し、
前記閾値格納部は、予め定められた作業閾値をさらに格納し、
前記指定領域取得部は、前記複数の製造領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
前記状況判定部は、予め定められた期間の間、前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が前記作業閾値より高い場合、製造領域に対して指定された指定領域に対応する前記対応領域で、前記製品の製造が滞留状態であると判定する、
請求項1から7のいずれか一項に記載の判定装置。
The image storage unit stores the reference image including a plurality of manufacturing areas that are areas for manufacturing products,
The threshold storage unit further stores a predetermined work threshold,
The specified area acquiring unit acquires the plurality of specified areas specified by the user for the plurality of manufacturing areas,
If the ratio of the number of dissimilar pixels to the number of pixels of the corresponding region is higher than the work threshold during a predetermined period, the situation determination unit determines whether the correspondence corresponding to the designated region designated for the manufacturing region determining that production of the product is stalled in a region;
The determination device according to any one of claims 1 to 7.
前記画像格納部は、複数の座席領域を含む前記基準画像を格納し、
前記閾値格納部は、予め定められた利用閾値をさらに格納し、
前記指定領域取得部は、前記複数の座席領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
前記状況判定部は、前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記利用閾値より高い場合、座席領域に対して指定された指定領域に対応する前記対応領域の座席が利用状態であると判定する、
請求項1から8のいずれか一項に記載の判定装置。
the image storage unit stores the reference image including a plurality of seat areas;
The threshold storage unit further stores a predetermined usage threshold,
The specified area acquisition unit acquires the plurality of specified areas specified by the user for the plurality of seat areas,
When the ratio of the number of dissimilar pixels to the number of pixels of the corresponding area is higher than the utilization threshold, the situation determination unit determines that the seat in the corresponding area corresponding to the designated area designated for the seat area is in a occupied state. determine that there is
The determination device according to any one of claims 1 to 8.
コンピュータを、請求項1から9のいずれか一項に記載の判定装置として機能させるためのプログラム。 A program for causing a computer to function as the determination device according to any one of claims 1 to 9. コンピュータによって実行される判定方法であって、
予め撮像された基準画像に対して前記コンピュータのユーザによって指定された複数の指定領域を取得する指定領域取得段階と、
画像解析の対象である解析対象画像を取得する画像取得段階と、
前記基準画像の前記複数の指定領域の各指定領域内の各ピクセルと、前記解析対象画像の、前記基準画像における前記各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得段階と、
前記解析対象画像の前記各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、前記差分値が予め定められた差分閾値より高い前記対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、前記対応領域の状況を判定する状況判定段階と
を備える、判定方法。
A computer-implemented determination method comprising:
a specified area acquisition step of acquiring a plurality of specified areas specified by a user of the computer with respect to a pre-captured reference image;
an image acquisition step of acquiring an image to be analyzed, which is the target of image analysis;
Obtaining a difference value between each pixel in each of the plurality of specified regions of the reference image and each pixel in each corresponding region of the analysis target image corresponding to each of the specified regions in the reference image. a differential value acquisition step;
For each of the corresponding regions of the image to be analyzed, dissimilarity is the number of pixels in the corresponding region where the difference value is higher than a predetermined difference threshold with respect to the number of pixels in the corresponding region, which is the number of pixels in the corresponding region. and determining the status of the corresponding area based on the ratio of the number of pixels.
JP2021146377A 2021-09-08 2021-09-08 Determination device, program, and determination method Active JP7295181B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021146377A JP7295181B2 (en) 2021-09-08 2021-09-08 Determination device, program, and determination method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021146377A JP7295181B2 (en) 2021-09-08 2021-09-08 Determination device, program, and determination method

Publications (2)

Publication Number Publication Date
JP2023039282A true JP2023039282A (en) 2023-03-20
JP7295181B2 JP7295181B2 (en) 2023-06-20

Family

ID=85600639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021146377A Active JP7295181B2 (en) 2021-09-08 2021-09-08 Determination device, program, and determination method

Country Status (1)

Country Link
JP (1) JP7295181B2 (en)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009110054A (en) * 2007-10-26 2009-05-21 Panasonic Corp Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program
JP2009107527A (en) * 2007-10-31 2009-05-21 Denso Corp Occupant detection device of vehicle
JP2015090679A (en) * 2013-11-07 2015-05-11 国立大学法人京都大学 Vehicle trajectory extraction method, vehicle region extraction method, vehicle speed estimation method, vehicle trajectory extraction program, vehicle region extraction program, vehicle speed estimation program, vehicle trajectory extraction system, vehicle region extraction system, and vehicle speed estimation system
JP2016057952A (en) * 2014-09-11 2016-04-21 パナソニックIpマネジメント株式会社 Merchandise monitoring device, merchandise monitoring system, and merchandise monitoring method
JP2016091287A (en) * 2014-11-05 2016-05-23 パナソニックIpマネジメント株式会社 Commodity monitoring apparatus, commodity monitoring system, and commodity monitoring method
JP2018129090A (en) * 2014-08-21 2018-08-16 パナソニックIpマネジメント株式会社 Detection apparatus, detection system, and program
JP2019133286A (en) * 2018-01-30 2019-08-08 三菱電機インフォメーションシステムズ株式会社 State determination device and state determination program
WO2019171573A1 (en) * 2018-03-09 2019-09-12 日本電気株式会社 Self-checkout system, purchased product management method, and purchased product management program
JP2020106257A (en) * 2018-12-28 2020-07-09 シャープ株式会社 Refrigerator system, server device, refrigerator, communication terminal and method for controlling server device
JP2020184171A (en) * 2019-05-07 2020-11-12 株式会社Hacarus Electronic circuit, hardware component, edge processing system, edge computing system, identification method, and identification program

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009110054A (en) * 2007-10-26 2009-05-21 Panasonic Corp Situation judging device, situation judging method, situation judging program, abnormality judging device, abnormality judging method and abnormality judging program
JP2009107527A (en) * 2007-10-31 2009-05-21 Denso Corp Occupant detection device of vehicle
JP2015090679A (en) * 2013-11-07 2015-05-11 国立大学法人京都大学 Vehicle trajectory extraction method, vehicle region extraction method, vehicle speed estimation method, vehicle trajectory extraction program, vehicle region extraction program, vehicle speed estimation program, vehicle trajectory extraction system, vehicle region extraction system, and vehicle speed estimation system
JP2018129090A (en) * 2014-08-21 2018-08-16 パナソニックIpマネジメント株式会社 Detection apparatus, detection system, and program
JP2016057952A (en) * 2014-09-11 2016-04-21 パナソニックIpマネジメント株式会社 Merchandise monitoring device, merchandise monitoring system, and merchandise monitoring method
JP2016091287A (en) * 2014-11-05 2016-05-23 パナソニックIpマネジメント株式会社 Commodity monitoring apparatus, commodity monitoring system, and commodity monitoring method
JP2019133286A (en) * 2018-01-30 2019-08-08 三菱電機インフォメーションシステムズ株式会社 State determination device and state determination program
WO2019171573A1 (en) * 2018-03-09 2019-09-12 日本電気株式会社 Self-checkout system, purchased product management method, and purchased product management program
JP2020106257A (en) * 2018-12-28 2020-07-09 シャープ株式会社 Refrigerator system, server device, refrigerator, communication terminal and method for controlling server device
JP2020184171A (en) * 2019-05-07 2020-11-12 株式会社Hacarus Electronic circuit, hardware component, edge processing system, edge computing system, identification method, and identification program

Also Published As

Publication number Publication date
JP7295181B2 (en) 2023-06-20

Similar Documents

Publication Publication Date Title
US20220405321A1 (en) Product auditing in point-of-sale images
US20160098636A1 (en) Data processing apparatus, data processing method, and recording medium that stores computer program
US9418352B2 (en) Image-augmented inventory management and wayfinding
JP6176257B2 (en) Product information processing apparatus, data processing method thereof, and program
CN107077686B (en) Image processing apparatus, image processing method, and program
EP2836977A1 (en) Presentation-structure-aware display of planograms
CN108292380B (en) Factor analysis device, factor analysis method, and recording medium
US20150262370A1 (en) Image processing device, image processing method, and image processing program
JP2018512567A (en) Barcode tag detection in side view sample tube images for laboratory automation
JP6989485B2 (en) Multi-label data learning support device, multi-label data learning support method and multi-label data learning support program
US20170330206A1 (en) Motion line processing system and motion line processing method
JPWO2018179361A1 (en) Image processing apparatus, image processing method, and program
US20220044147A1 (en) Teaching data extending device, teaching data extending method, and program
JP6623851B2 (en) Learning method, information processing device and learning program
US20230252654A1 (en) Video analysis device, wide-area monitoring system, and method for selecting camera
JP7295181B2 (en) Determination device, program, and determination method
JP7019339B2 (en) Defect cause extraction system and its method
CN104809053A (en) Control style testing method and device
JP2024023957A (en) Processing apparatus, processing method, and program
US20220414569A1 (en) Store management system, store management method, computer program and recording medium
US10430507B2 (en) Report creating support apparatus, method for the same, and computer-readable storage medium
US20220019848A1 (en) Information processing apparatus, control method for information processing apparatus, and storage medium
US11068716B2 (en) Information processing method and information processing system
JP6935527B2 (en) Image processing equipment, programs, systems and image processing methods
EP4246438A1 (en) Information processing device, generation method, and generation program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230608

R150 Certificate of patent or registration of utility model

Ref document number: 7295181

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150