WO2015079622A1 - 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法 - Google Patents

商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法 Download PDF

Info

Publication number
WO2015079622A1
WO2015079622A1 PCT/JP2014/005464 JP2014005464W WO2015079622A1 WO 2015079622 A1 WO2015079622 A1 WO 2015079622A1 JP 2014005464 W JP2014005464 W JP 2014005464W WO 2015079622 A1 WO2015079622 A1 WO 2015079622A1
Authority
WO
WIPO (PCT)
Prior art keywords
state
product
display
unit
person
Prior art date
Application number
PCT/JP2014/005464
Other languages
English (en)
French (fr)
Inventor
岩井　和彦
哲郎 柿沢
Original Assignee
パナソニックＩｐマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックＩｐマネジメント株式会社 filed Critical パナソニックＩｐマネジメント株式会社
Priority to EP14865351.2A priority Critical patent/EP3076351A4/en
Priority to CN201480073292.XA priority patent/CN105917371A/zh
Priority to US15/038,509 priority patent/US10304032B2/en
Publication of WO2015079622A1 publication Critical patent/WO2015079622A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects

Definitions

  • the present invention relates to a product monitoring device, a product monitoring system, and a product monitoring method for monitoring the display status of a product based on an image of a display area in a store.
  • a monitoring system that installs a camera that captures the inside of the store and monitors the person in the store with the image of the camera is widely used.
  • This monitoring camera or another camera When the display area is photographed in the monitor and the display status of the product is monitored based on the video, the product display work is detected based on the display status of the product, and the product management work (organization work or replenishment) is detected.
  • the deficiencies in the product display can be quickly resolved, and the loss of sales opportunities and the drop in customer satisfaction due to the deficiencies in the product display can be avoided.
  • Patent Document 1 As a technology related to such product management work instructions, conventionally, there has been known a technique for determining the necessity of product replenishment based on a video image of a display area and performing notification for instructing replenishment work.
  • Patent Document 2 a technique is known in which the necessity of ordering products is determined based on a video obtained by photographing a display area, and notification for instructing ordering work is performed.
  • Patent Document 3 a technique is known in which a corrected image obtained by removing a shield from a video obtained by photographing a display area is generated so that the face-up situation in the display area can be easily grasped.
  • the present invention has been devised to solve such problems of the prior art, and its main purpose is to be able to perform notification instructing merchandise management work at an appropriate and effective timing.
  • the object is to provide a configured product monitoring device, product monitoring system and product monitoring method.
  • the product monitoring device of the present invention is a product monitoring device that monitors the display status of a product based on an image obtained by photographing a display area in a store, and is based on an image obtained by photographing the display area.
  • a product detection unit that detects a product a product state detection unit that detects a product display state in the display area based on a detection result of the product detection unit, and a stay in the store based on a video image of the store
  • the product monitoring system of the present invention is a product monitoring system for monitoring the display status of products based on video images of the display area in the store, a camera for shooting the inside of the store, a plurality of information processing devices, And a product detection unit that detects a product in the display area based on an image obtained by photographing the display area, and a detection result of the product detection unit.
  • the product state detection unit for detecting the product display state in the display area, the person detection unit for detecting a person staying in the store based on the video taken in the store, and the detection result of the person detection unit Based on the person state detection unit for detecting the person staying state in the store, the detection result of the product state detection unit and the detection result of the person state detection unit, And determining informing determination section whether the notification that instructs the goods management work clerk, on the basis of the notification determination unit of the judgment result, a structure in which and a notification unit for performing the notification.
  • the product monitoring method of the present invention is a product monitoring method for causing an information processing device to perform processing for monitoring the display status of a product based on an image of a display area in a store, wherein the display area is imaged.
  • a step of detecting a person staying inside, a step of detecting a person staying state in a store based on a detection result of this step, a step of detecting a detection result of the step of detecting the product state, and a step of detecting the person state A step of determining whether or not to notify the store clerk of the product management work based on the detection result of the Based on the flop of the determination result, a structure and a step of performing the notification.
  • the present invention it is possible to notify at an appropriate and effective timing because it is determined whether or not the notification for instructing the product management work is performed in consideration of the person staying state in addition to the product display state. That is, the necessity and possibility of the product management work can be determined based on the product display state and the person staying state, and the product management work is necessary and possible by considering both the product display state and the person staying state. In this case, notification is performed, and thus notification can be performed at an appropriate and effective timing.
  • a first invention made to solve the above-mentioned problems is a product monitoring device for monitoring the display status of a product based on an image obtained by photographing a display area in a store, based on the image obtained by photographing the display area.
  • a product detection unit for detecting a product in the display area a product state detection unit for detecting a product display state in the display area based on a detection result of the product detection unit, and a video image of the inside of the store
  • a person detection unit that detects a person staying in the store a person state detection unit that detects a person staying state in the store based on a detection result of the person detection unit, and detection of the product state detection unit Based on the result and the detection result of the person state detection unit, based on the determination result of the notification determination unit for determining whether or not notification for instructing the product management work to the store clerk is possible, and the determination result of the notification determination unit Te, a structure in which and a notification unit for performing the notification.
  • the notification for instructing the product management work is possible, so that the notification can be performed at an appropriate and effective timing. That is, the necessity and possibility of the product management work can be determined based on the product display state and the person staying state, and the product management work is necessary and possible by considering both the product display state and the person staying state. In this case, notification is performed, and thus notification can be performed at an appropriate and effective timing.
  • the person state detection unit detects a person staying state in an accounting area where a customer who makes a payment stays
  • the notification determination unit detects the accounting area detected by the person state detection unit.
  • the person state detection unit detects a person staying state in a product access area where a customer who views a product displayed in the display area stays, and the notification determination unit includes the person state detection unit.
  • the notification determination unit includes the person state detection unit.
  • the person state detecting unit detects a person staying state in an accounting area where a customer who makes an account stays, and a product access area where a customer who sees a product displayed in the display area stays.
  • the notification determination unit is a state where the product display state detected by the product state detection unit is a state requiring product management work, and the person staying state in the accounting area detected by the person state detection unit Is not in a state that makes product management work difficult, and the person staying state in the product access area detected by the person state detection unit is not in a state that makes product management work in the product access area difficult.
  • the notification is performed.
  • the notification since the notification is performed when the product management work is necessary and not difficult, the notification can be performed at an appropriate and effective timing.
  • the product state detection unit detects at least one of a display disorder state and a display shortage state as the product display state, and the notification unit performs display disorder as the product management work. It is set as the structure which performs notification which instruct
  • the notification determination unit is based on at least one of inventory information, sales information, and staffing information in addition to the detection result of the product state detection unit and the detection result of the person state detection unit. Thus, it is configured to determine whether the notification is possible.
  • the notification is made at a more appropriate and effective timing. It can be performed.
  • the seventh invention includes an information storage unit that stores information related to a product display state for each detection time acquired by the product state detection unit, and information related to the notification performed by the notification unit, and the information storage unit. Based on the information accumulated in the product display state, a totaling unit for acquiring a totaling result regarding the temporal transition status of the product display state and the occurrence status of the notification, and the product based on the totaling result acquired by the totaling unit A display information generation unit that generates display information that integrates the temporal transition state of the display state and the generation state of the notification.
  • the product state detection unit detects a display disorder state and a display shortage state as the product display state, and the display disorder state and the display shortage state are detected according to a user input operation.
  • An input information acquisition unit that acquires input information for selecting a notification type corresponding to each of the notifications is provided, and the aggregation unit is configured to notify the type of notification selected by the user based on the input information acquired by the input information acquisition unit.
  • the total result regarding the occurrence state is acquired, and the display information generation unit is configured to generate the display information regarding the total result.
  • the user can grasp at what timing the notification has occurred while comparing with the temporal transition state of the product display state.
  • the problem in the merchandise management in the store can be examined according to the type of notification, that is, the content of the deficiency of merchandise display.
  • the person state detection unit acquires the number of staying people for each detection time as the person staying state, and the information storage unit stays for each detection time acquired by the person state detection unit.
  • the totaling unit acquires a totaling result regarding the temporal transition state of the number of staying people based on the information stored in the information storage unit
  • the display information generation unit is the totaling unit Based on the acquired aggregation result, display information is generated by integrating the temporal transition status of the number of staying persons into the temporal transition status of the commodity display state and the occurrence status of the notification.
  • the user can check the occurrence status of the notification while comparing with the temporal transition status of the number of visitors in the store. Thereby, the problem in the merchandise management in the store can be recognized.
  • the tenth aspect of the invention includes an information storage unit that stores the detection result of the product display state for each detection time acquired by the product state detection unit, and a detection result for each detection time stored in the information storage unit.
  • the product status totaling unit that acquires the product display state for each totaling period and the display information related to the product display status for each totaling period acquired by the product status totaling unit is generated.
  • a display information generation unit that uses the information to generate the product display state for each totaling period.
  • the user can grasp the product display state for each counting period. Then, by comparing the product display state for each tabulation period, the user can grasp the difference in the product display state depending on the tabulation period.
  • An eleventh aspect of the invention is a product monitoring system for monitoring the display status of a product based on an image of a display area in a store, the camera for shooting the inside of the store, and a plurality of information processing devices. And a product detection unit that detects a product in the display area based on an image obtained by photographing the display area, and a detection result of the product detection unit.
  • a product state detection unit that detects a product display state in the display area
  • a person detection unit that detects a person staying in the store based on an image of the store
  • a detection result of the person detection unit Based on the detection result of the person state detection unit, the detection state of the product state detection unit, and the detection result of the person state detection unit And propriety determining notification determination unit of Shimesuru notification, based on the notification determination unit of the judgment result, a structure in which and a notification unit for performing the notification.
  • a twelfth aspect of the invention is a product monitoring method for causing an information processing device to perform processing for monitoring the display status of a product based on a video obtained by photographing a display area in a store, wherein the video obtained by photographing the display area is displayed.
  • a step of detecting a product in the display area On the basis of a step of detecting a product in the display area, a step of detecting a product display state in the display area based on a detection result of the step, and a video imaged in the store.
  • Detection of a staying person detection of a person staying state in a store, detection result of the step of detecting the product state, and detection of the person state based on the detection result of this step Based on the result, a step of determining whether or not to notify the store clerk about the product management work and a determination result of this step Zui it, a structure and a step of performing the notification.
  • FIG. 1 is an overall configuration diagram of a product monitoring system according to the first embodiment.
  • This human behavior analysis system is built for retail chain stores such as convenience stores, and includes a camera (imaging device) 1, a recorder (image recording device) 2, a PC provided for each of a plurality of stores. (Product monitoring device) 3, a monitor (display device) 4, and a PC 11 and a monitor 12 provided in a headquarters that generalizes a plurality of stores.
  • the camera 1 is installed at an appropriate place in the store, the inside of the store is imaged by the camera 1, and the image information obtained thereby is recorded in the recorder 2.
  • the recorder 2 With the PC 3 provided in the store and the PC 11 provided in the headquarters, the store image captured by the camera 1 can be viewed in real time, and the past store image recorded in the recorder 2 can be viewed. It is possible to check the situation in the store at the store or the headquarters.
  • the PC 3 installed in the store is configured as a product monitoring device that monitors the display status of products in the store. Further, the PC 3 performs an analysis process regarding the display status of the product in the store, and the analysis result information generated by the analysis process can be browsed by the PC 3 itself, and the PC 11 installed in the headquarters. The PC 7 can be browsed, and the PCs 3 and 11 are configured as browsing devices for browsing the analysis result information.
  • FIG. 2 is a plan view of the store explaining the store layout and the installation status of the camera 1.
  • the store has an entrance, a display shelf (display area), and a cashier counter.
  • Display shelves are divided into different types of products such as bento boxes, plastic bottles, and rice balls.
  • Next to the checkout counter is a fast food display shelf.
  • the customer enters the store from the entrance, moves through the passage between the display shelves, finds the desired product, and goes to the checkout counter with the product and pays at the checkout counter (payment). After exiting, exit from the entrance.
  • the customer stays in front of the cashier counter when performing the accounting.
  • the accounting area is set in front of the cashier counter in order to detect the status of the customer who performs such accounting. Yes.
  • the customer stays in front of the display shelf when deciding whether to purchase by looking at the product on the display shelf.
  • a product access area is set in front of the display shelf. This product access area is set for each display area.
  • a plurality of cameras 1 that image the inside of the store (monitoring area) are installed in the store.
  • an omnidirectional camera having a 360-degree shooting range using a fish-eye lens is adopted as the camera 1, and the camera 1 can image products displayed on the display shelf, It is also possible to take an image of a person staying in front of a display shelf or a cashier counter.
  • both the display shelf and the person may be imaged with the same camera 1, a camera for imaging the display shelf and a camera for imaging the person may be installed separately.
  • FIG. 3 is a functional block diagram showing a schematic configuration of the PC 3.
  • the PC 3 includes a monitoring unit 31, a product monitoring unit 32, and an analysis unit 33.
  • the monitoring unit 31 causes the PC 3 to function as a monitoring system for monitoring the inside of the store.
  • the operation of the camera 1 and the recorder 2 is controlled by the monitoring unit 31, and the in-store image captured by the camera 1 Can be viewed in real time, and images in the store recorded by the recorder 2 can be viewed.
  • the product monitoring unit 32 monitors the display state of the product based on the video of the display area (display shelf) in the store.
  • the product detection unit 41, the product state detection unit 42, and the person detection unit 43 A person state detection unit 44, a notification determination unit 45, and a notification unit 46.
  • the product detection unit 41 processing for detecting products in the display area is performed based on the video obtained by photographing the display area by the camera 1.
  • the product detection process may use a known image recognition technique, that is, a technique for extracting the image of the object from the video to obtain the position of the object. From the product detection unit 41, a detection result regarding the position of the product in each display area. Is output at each detection time.
  • the product state detection unit 42 performs processing for detecting the product display state in the display area based on the detection result of the product detection unit 41.
  • This merchandise state detection process detects deficiencies in the merchandise display.
  • the deficiencies in the merchandise display include a display disorder state in which the arrangement of the merchandise displayed in the display area is disturbed, and a display in the display area.
  • the display disorder state detection process it is determined that the state is neat when the state where it is determined that there is display disorder from the detection result of the product detection unit 41 continues for a predetermined time. Further, in the display shortage detection process, it is determined that the supply is required when a state in which the number of products is determined to be insufficient from the detection result of the product detection unit 41 continues for a predetermined time. The product state detection process will be described in detail later.
  • processing for detecting a person staying in the store is performed based on the video taken inside the store by the camera 1.
  • This person detection process may use a known image recognition technique, that is, a technique for extracting the person image from the video to obtain the position of the person, and the person detection unit 43 obtains a detection result regarding the position of the person in the store. Output at every detection time.
  • the person state detection unit 44 performs processing for detecting a person staying state in the store based on the detection result of the person detection unit 43.
  • the number of staying persons in the accounting area the number of staying persons for each product access area, that is, the number of persons staying in the accounting area or the product access area is measured. A different number of visitors is output at each detection time.
  • this staying person count processing when one person is detected in the accounting area or the product access area continuously for a predetermined detection period (for example, 3 seconds), 1 count is set.
  • the detection result of the product state detection unit 42 that is, the product display state in the display area (display disordered state and insufficient display state)
  • the detection result of the person state detection unit 44 that is, the number of people staying in the accounting area and the product Based on the number of visitors for each access area
  • a process for determining whether or not to notify the store clerk about product management work is performed.
  • a display area that requires product management work is determined based on the product display state in the display area, and the product access area corresponding to the number of visitors in the accounting area and the display area that requires product management work Based on the number of staying persons, it is determined whether or not the product management work is possible, and when the product management work is possible, notification is performed.
  • the procedure of the notification determination process will be described later in detail.
  • indicates merchandise management work to a shop assistant is performed.
  • This notification is performed for each of the display disorder state and the display shortage state.
  • a notification display disorder alert
  • a notification display shortage alert
  • This notification may be displayed on a screen of the monitor 4, but may be output by an appropriate output device such as a speaker or a lamp.
  • the product display state of the corresponding display area can be predicted, and the notification determination unit 45 can determine whether notification is possible based on the prediction result of the product display state. In this case, notification different from the notification based on the detection result of the product state detection unit 42, for example, notification that there is a possibility that display disorder or display shortage has occurred may be performed.
  • monitoring unit 31, the product monitoring unit 32, and the analysis unit 33 are realized by causing the CPU of the PC 3 to execute monitoring, product monitoring, and product display state analysis programs. These programs are installed in advance on the PC 3 as an information processing device and configured as a dedicated device, or are recorded on an appropriate program recording medium as an application program that runs on a general-purpose OS, and also via a network May be provided.
  • FIG. 4 is an explanatory diagram showing a display state of products in a display area (display shelf).
  • the state with the display disorder shown in FIG. 4A-1 is set as a neat state, and in this case, a notification (display disorder alert) instructing the store clerk to perform the product ordering work for eliminating the display disorder state. ) Is performed.
  • the case of face-up that arranges the appearance of the front surface of the display shelf is shown.
  • the display area is open as in the case of a wagon, the overall display state is shown. Since it is necessary to eliminate the disturbance, it is preferable to determine the display disorder state based on the overall display state of the product.
  • the detection of the display disorder state it may be determined that the display disorder is noticeable and notification is performed when the display disorder is remarkable, assuming that some display disorder is allowed. In this case, it is only necessary to determine whether or not the display is disturbed by quantifying the degree of display disturbance and comparing it with a predetermined threshold value.
  • the shortage state that is, the state where there is no product on the display shelf
  • the shortage state ie, the product on the display shelf
  • the shortage state is distinguished from a full state, that is, a state where a sufficient number of products are displayed on the display shelf.
  • a notification is issued to instruct the clerk about the replenishment work.
  • the determination of the shortage state and the fullness state may be made by comparing the shortage rate, that is, the proportion of shortage of products with a predetermined threshold (for example, 50%), and the shortage rate is a predetermined threshold. When the value is exceeded, it is determined as an insufficient state, and when the insufficient rate does not reach the threshold value, it is determined as a sufficient state.
  • a predetermined threshold for example, 50%
  • three cases are classified by detection of an insufficient display state.
  • the present invention is not limited to this, and two, four, or more cases may be classified.
  • FIG. 5 is a flowchart showing a procedure of notification determination processing performed by the notification determination unit 45.
  • 6, 7 and 8 are plan views of a store showing an example of a person staying state.
  • the notification determination unit 45 determines whether notification is possible based on the detection result of the product state detection unit 42 and the detection result of the person state detection unit 44 as described above. This notification determination is performed in order for the display area (display shelf) in the store, and as shown in FIG. 5, the detection result (ST101) of the display disorder state by the product state detection unit 42, the product state detection unit 42 according to the detection result of the shortage of display state (ST102), the detection result of the person staying state in the accounting area (ST103), and the detection result of the person staying state in the product access area (ST104). Is determined (ST105, ST106). This is performed for each display shelf and is repeated until all display shelves are completed.
  • the detection result of the display disorder state (ST101) is “no display disorder” or the detection result of the display shortage state (ST102) is “no shortage” (satisfaction state), of course.
  • the notification is not performed (ST106).
  • the product state detection unit 42 causes the display shelf to be in a neat state or It is detected as a replenishment state.
  • a person who performs accounting stays in the vicinity of the cashier counter, and the person status detection unit 44 detects that a person stays in the accounting area.
  • the store clerk needs to give priority to the response of the customer who performs the accounting at the cashier counter, so the product management work cannot be performed. For this reason, even if there is a shelf row in which the necessitated state or the replenishment state is required, notification that prompts the merchandise management work is not performed.
  • the display disorder detection result (ST101) is “display disorder”, or the display shortage detection result (ST102) is “insufficient” and the person staying state detection result in the accounting area (ST103). ) Is “no person”, but if the person staying state detection result (ST104) in the product access area corresponding to the display shelf is “person”, no notification is made (ST106). .
  • the display of the product is disturbed in a certain display shelf, or the number of products displayed is insufficient.
  • the display shelf is detected as being in order or in a replenishment state.
  • the person status detecting unit 44 does not detect that the person is staying in the accounting area, but it is detected as a neat state or a replenishment required state.
  • the detection result (ST101) of the display disorder state becomes “display disorder”
  • the detection result (ST102) of the insufficient display state becomes “insufficient”
  • the person stay state detection result (ST103) in the accounting area ) Is “no person”
  • the person staying state detection result (ST104) in the product access area corresponding to the display shelf is “no person”
  • the product management instruction is notified. (ST105).
  • the display of the product is disturbed on the display shelf or the number of products displayed is insufficient, and the product state detection unit 42 ,
  • the display shelf is detected as being in order or in a replenishment state. Since no person performing the accounting stays in the vicinity of the cashier counter, the person status detecting unit 44 does not detect that the person is staying in the accounting area, and also detects whether the person is in a tidy state or in a supplementary state. Since the person is not staying in the product access area corresponding to the displayed shelf, the person state detecting unit 44 does not detect that the person is staying in the product access area.
  • the determination is made based on the presence or absence of a person. If there is even one person in the accounting area or the product access area, the notification is not performed, but the notification may not be performed when a predetermined threshold value of two or more is exceeded. Moreover, since the circumstances are different between the accounting area and the product access area, the threshold value of the number of people may be changed between the accounting area and the product access area.
  • notification for instructing product management work is determined in consideration of the person staying state in addition to the product display state, it is possible to perform notification at an appropriate and effective timing. . That is, the necessity and possibility of the product management work can be determined based on the product display state and the person staying state, and the product management work is necessary and possible by considering both the product display state and the person staying state. In this case, notification is performed, and thus notification can be performed at an appropriate and effective timing.
  • the person staying state in the accounting area where the customer performing the accounting stays is detected, and if the person staying state in the accounting area is a state that makes the product management work difficult, a notification is performed. Therefore, when the product management work is difficult, it is possible to avoid performing unnecessary notification.
  • the person staying state in the product access area where the customer who views the product displayed in the display area stays is detected, and the person staying state in the product access area detects the product management work in the product access area. Since the notification is not performed in the difficult state, it is possible to avoid performing unnecessary notification when the product management work is difficult.
  • the person staying state in the accounting area where the customer performing the accounting stays and the product access area where the customer who sees the products displayed in the display area stays is detected, and the product display state is the product management work.
  • the person staying state in the accounting area is not a state that makes the product management work difficult, and the person staying state in the product access area is difficult to manage the product in the product access area. Since the notification is performed when it is not in the state to be set, the notification is performed when the merchandise management work is necessary and not difficult, so the notification can be performed at an appropriate and effective timing.
  • the product display state a display disorder state and a display shortage state are detected. Since the notification to be performed is performed, when there is a defect in the display of the product, an appropriate notification can be performed according to the content of the defect. Thereby, the store clerk can quickly perform appropriate product management work according to the content of the notification.
  • the analysis unit 33 of the PC 3 performs an analysis on the product display state, and includes an information storage unit 51, a totaling unit 52, and a GUI control unit 53.
  • notification generation information related to the time of occurrence of notifications (display disorder alert and display shortage alert) performed by the notification unit 46 is stored. Further, in the information storage unit 51, the detection result of the product display state (display disorder state and display shortage state) for each detection time acquired by the product state detection unit 42 is stored. In addition, the information storage unit 51 stores the number of staying people at each detection time acquired by the person state detection unit 44.
  • the totaling unit 52 includes a product state totaling unit 54 and a person state totaling unit 55.
  • the detection result of the product display state (display disorder state and display shortage state) for each detection time accumulated in the information storage unit 51 is displayed in a predetermined total period unit (for example, time zone, day, month). Aggregation is performed, and a product display state is acquired for each aggregation period. This aggregation process is performed in each of a display disorder state and a display shortage state.
  • the product display state for each summing period may be acquired by giving priority to a state with a greater problem in product management. That is, in the aggregation processing of the display disorder state, the display disorder state is prioritized over the normal state, and when the display disorder state is detected within the aggregation period, the aggregation period is set to the display disorder state, and the display disorder state is not included in the aggregation period. If it is not detected, the counting period is not in a display disorder state.
  • the aggregation period is set as a missing item state, and the missing item state is detected within the aggregation period. If it is not detected and a shortage state is detected, the counting period is set to a shortage state. If neither a missing item state nor a shortage state is detected within the counting period, the counting period is set to a satisfactory state.
  • the product display state detection result may be averaged within the aggregation period.
  • the product display state for each counting period is acquired at the time ratio of each detected state. That is, in the aggregation processing of the display disorder state, the time ratio between the display disorder state and the normal state within the aggregation period is obtained, and the product display state for each aggregation period is acquired according to the ratio.
  • the time ratio of each of the shortage state, shortage state and fullness state within the totaling period is obtained, and the product display state for each totaling period is acquired according to the ratio. .
  • the person state totaling unit 55 the number of staying people for each detection time accumulated in the information accumulating unit 51 is totaled in a predetermined counting period (for example, time zone, day, month, etc.), and the number of staying people for each counting period is calculated. Processing to obtain is performed.
  • the person state detection unit 44 the number of staying persons for each detection time is obtained for each product access area, and by summing these, the staying person in the entire store can be acquired.
  • the GUI control unit 53 obtains input information by a user input operation using a GUI (Graphical User Interface) using the monitor 4 and an input device (input unit) 6 such as a mouse, and an analysis result relating to the movement state of the person And an input information acquisition unit 56 and a screen generation unit (display information generation unit) 57 are provided.
  • GUI Graphic User Interface
  • the screen generation unit 57 processing for generating display information related to the analysis result output screen relating to the notification occurrence status and the product display state is performed, and the analysis result output screen is displayed on the monitor 4.
  • the input information acquisition unit 56 performs a process of acquiring input information according to an input operation performed by the user using the input device 6 on the analysis result output screen displayed on the monitor 4. Based on the input information acquired by the input information acquisition unit 56, processing for setting conditions for analysis processing performed by the analysis unit 33 is performed.
  • the screen generation unit 57 based on the information acquired by the product state totaling unit 54 and the person state totaling unit 55, the temporal transition state of the product display state, the notification occurrence state, and the person stay in the predetermined target period A process of generating display information related to an analysis result output screen (see FIGS. 9 and 10) that integrates and displays the temporal transition state of the state is performed, and this analysis result output screen is displayed on the monitor 4.
  • the screen generation unit 57 also displays an analysis result output screen (see FIG. 11) for displaying the product display status for each total period based on the information acquired by the product status totaling unit 54 and the person status totaling unit 55.
  • An analysis result output screen (see FIG. 12) that displays the product display state for each of the totaling periods that are aggregated in the totaling periods of different lengths, and an analysis result output that displays the product display state and the number of visitors for each totaling period. Processing for generating display information relating to the screen (see FIG. 13) is performed, and these analysis result output screens are displayed on the monitor 4.
  • an analysis result output screen displayed on the monitor 4 shown in FIG. FIG. 9 and FIG. 10 are explanatory diagrams showing analysis result output screens relating to the state of occurrence of notification.
  • the analysis result output screen shown in FIG. 9 relates to a display disorder alert, that is, a notification generation state instructing a store clerk to clear a product tidy operation in the case of a tidy state (a state in which the display of the product is distorted). is there.
  • the analysis result output screen includes a store selection unit 61, a start button 62, a display area selection unit 63, an analysis result selection unit 64, a date display unit 65, a calendar button 66, and an analysis result display unit 67. , Is provided.
  • the store selection unit 61 selects a store from a pull-down menu.
  • the start button 62 causes the analysis unit 33 to start analysis processing.
  • the display area selection unit 63 selects a display area from a pull-down menu.
  • the analysis result selection unit 64 selects an analysis result from a pull-down menu. In this embodiment, it is possible to select an analysis result regarding the occurrence status of the display disorder alert, an analysis result regarding the occurrence status of the insufficient display alert, an analysis result regarding the display disorder status, an analysis result regarding the insufficient display status, and the like. Is displayed on the monitor 4. In particular, here, display disorder alert analysis is selected, and the analysis result display section 67 displays an analysis result regarding the occurrence state of the display disorder alert.
  • the date display unit 65 displays a date, and the calendar button 66 selects a date.
  • a calendar screen is displayed, and the date is selected by selecting a date here.
  • the selected date is displayed on the date display unit 65, and the analysis result of the selected date is displayed on the analysis result display unit 67.
  • the analysis result display unit 67 is provided with a staying number display unit 68, an alert occurrence status display unit 69, and a display time operation unit 70.
  • the staying number display unit 68 is provided with a graph display unit 71.
  • this graph display unit 71 the temporal transition state of the number of staying people in the entire store is displayed in a graph (line graph).
  • the horizontal axis is the time zone
  • the vertical axis is the number of visitors.
  • the number of staying persons in this graph is the number of staying persons for each time period counted by the person state totaling unit 55 using the counting period as the time period. Thereby, the user can grasp
  • the alert occurrence status display unit 69 is provided with a video display unit 72 and a graph display unit 73 for each display area. In particular, here, a lunch box display shelf and a plastic bottle display shelf are selected in the display area.
  • the video display unit 72 displays a video of the display area. In the video display unit 72, a frame image indicating a detection area in the display area is displayed.
  • the temporal transition state of the display disorder state is displayed as a graph (line graph).
  • the horizontal axis is a time zone
  • the vertical axis is a display disorder state.
  • the display disorder state in this graph is the product display state for each time period acquired by the product state totaling unit 54 using the total period as the time period, and becomes “1” when the display of the product is disturbed. “2” when there is no disturbance.
  • an alert mark 74 indicating the occurrence time of the display disorder alert is displayed.
  • a user can grasp
  • the display time operation unit 70 adjusts the time of the video in the display area displayed on the video display unit 72. By operating the display time operation unit 70, the video in the display area can be switched to a video at a desired time. Thereby, the actual state of the display area at a required time, such as the time when the display disorder alert occurs, can be confirmed on the video of the video display unit 72.
  • a plurality of detection areas can be set in one display area (display shelf).
  • the display shelf can be divided into an upper stage, a middle stage, and a lower stage, and a detection area can be set for each.
  • the product state detection unit 42 detects the product display state for each detection area
  • the notification determination unit 45 determines whether notification is possible for each detection area
  • the notification unit 46 performs notification for each detection area. .
  • the analysis result can be displayed for each detection area as in the analysis result output screen shown in FIG.
  • a video and a graph are displayed for each detection area on the video display unit 72 and the graph display unit 73.
  • a plurality of detection areas are displayed on the video display unit 72, and a graph display unit is displayed.
  • the graph of each detection area may be displayed side by side on 73.
  • the graphs of the respective detection areas may be displayed on the graph display unit 73 while changing the color.
  • the analysis result output screen shown in FIG. 10 relates to a display shortage alert, that is, a notification occurrence state instructing a store clerk to replenish a product in the case of a replenishment necessary state (shortage state and shortage state).
  • This analysis result output screen is displayed when the analysis result selection unit 64 selects the display shortage alert analysis.
  • This analysis result output screen is the same as the analysis result output screen shown in FIG. 9 except for the alert occurrence status display unit 82 of the analysis result display unit 81.
  • the alert occurrence status display section 82 is provided with a video display section 83 and a graph display section 84 for each of a plurality of detection areas set in the display area.
  • the video display unit 83 displays the video in the detection area.
  • a fast food display shelf is selected in the display area.
  • the temporal transition state of the display satisfaction state is displayed as a graph (line graph).
  • the horizontal axis is the time zone, and the vertical axis is in a display shortage state.
  • the display shortage state in this graph is a shortage display state for each time period acquired by the product state totaling unit 54 using the total period as a time period, and is “1” in the shortage state and “2” in the shortage state. ”And“ 3 ”in the satisfied state.
  • an alert mark 85 indicating the occurrence time of an insufficient display alert is displayed. Accordingly, the user can grasp at what timing the display shortage alert has occurred while comparing with the temporal transition state of the display shortage state.
  • FIG. 11 are explanatory diagrams showing analysis result output screens related to a display shortage state.
  • the analysis result output screen shown in FIG. 11 displays the total result of the display shortage state for each display area, and is displayed by selecting the shortage display state analysis (1) by the analysis result selection unit 64.
  • This analysis result output screen is the same as the analysis result output screen shown in FIG. 9 except for the analysis result display unit 91.
  • the analysis result display unit 91 includes a list display unit 92, a display area name display unit 93, a video display unit 94, and a display time operation unit 95.
  • the video display unit 94 displays a video of the display area.
  • a frame image indicating a detection area in the display area is displayed. This frame image is displayed in different colors depending on the state of shortage, shortage and fullness. Thereby, the user can grasp
  • the display time operation unit 95 adjusts the time of the video in the display area displayed on the video display unit 94.
  • evaluation marks ( ⁇ , ⁇ , and ⁇ ) regarding the display shortage state for each time zone are displayed in a list for each display area. Particularly, here, in addition to each time zone of the designated date, an evaluation mark of the latest time zone is displayed on the list display unit 92.
  • a fast food display shelf three-stage FF
  • a rice ball display shelf and a lunch box display shelf are selected.
  • the evaluation mark is determined based on the display shortage state for each counting period acquired by the product state totaling unit 54.
  • the evaluation mark represents each of the shortage state, the shortage state, and the fullness state. “X”, “ ⁇ ” in the shortage state, and “ ⁇ ” in the full state.
  • the evaluation mark represents a display shortage state for each time period calculated by the product state totaling unit 54 using the total period as the time period.
  • the video displayed on the video display unit 94 is switched to the video of the corresponding display area and time zone.
  • the evaluation mark of the fast food display shelf (3-stage FF) is selected here, and the video display unit 94 displays the video of the latest time (23:45) of the fast food display shelf.
  • an evaluation mark of a lunch box display shelf or a rice ball display shelf is selected, an image of the lunch box display shelf or the rice ball display shelf is displayed on the video display unit 94.
  • the user can grasp the transition status of the display shortage state for each time zone on a specific day.
  • the user can grasp the difference depending on the display area in the insufficient display state for each time zone.
  • the analysis result output screen shown in FIG. 12 displays the tabulation result in an insufficient display state with the tabulation period as the time zone for each week of each month and the time zone for each day of the week (day). It is displayed by selecting the display shortage state analysis (2) at 64.
  • This analysis result output screen is the same as the analysis result output screen shown in FIG. 11 except for the list display unit 102 of the analysis result display unit 101.
  • the list display unit 102 includes a monthly total display unit 103 and a week total display unit 104.
  • evaluation marks ( ⁇ , ⁇ , and X) regarding the display shortage state for each weekly time zone of each month are displayed in a list.
  • the evaluation mark of the monthly total display unit 103 is determined based on the weekly display shortage state totaled by the product state total unit 54 with the total period being one week.
  • evaluation marks ( ⁇ , ⁇ , and ⁇ ) relating to insufficient display status for each time zone for each day of the week (day) of each week are displayed in a list.
  • the evaluation mark of the weekly aggregation display unit 104 is determined based on the display shortage state for each time period that is aggregated by the product state aggregation unit 54 with the aggregation period as the time period.
  • the analysis result display unit 101 is provided with scroll buttons 105 and 106 corresponding to the monthly total display unit 103 and the weekly total display unit 104, respectively. By operating the scroll buttons 105 and 106, the monthly total is displayed. The week displayed on the display unit 103 and the day displayed on the week total display unit 104 can be shifted.
  • the user can grasp the shortage of display for each time period of each week of each month and the shortage of display for each time period of each day of the week (day) in the specified display area. .
  • the number of staying persons for every totaling period can be displayed on the analysis result display part 91, and the display shortage state for every totaling period can be contrasted. It may be.
  • the analysis result output screen shown in FIG. 13 displays the display shortage state in comparison with the person staying state, and is displayed by selecting the display shortage state analysis (3).
  • This analysis result output screen is the same as the analysis result output screen shown in FIG. 9 except for the analysis result display unit 111.
  • the analysis result display unit 111 is provided with a display area name display unit 112, a video display unit 113, and a list display unit 114 for each display area (display shelf).
  • the display area name display unit 112 displays the name of the display area.
  • the video display unit 113 displays a video of the display area.
  • the number of staying persons is the number of staying persons in the product access area corresponding to the display area, and is the number of staying persons counted by the person state totaling unit 55 as the totaling period of one day.
  • the evaluation mark represents a totaling result totaled by the product state totaling unit 54 with the totaling period as one day.
  • the analysis result display unit 111 is provided with a scroll button 115, and the date displayed on the list display unit 114 can be shifted by operating the scroll button 115.
  • FIG. 11 Although the analysis result output screen regarding a display shortage state was shown, it is also possible to display the same analysis result output screen about a display disorder state.
  • the product state totaling unit 54 evaluates in consideration of the necessity of notification (display disorder alert and display shortage alert), that is, totals the determination results of the notification determination unit 45 in units of a predetermined total period. Evaluation information regarding the product display state (display disorder state and display shortage state) for each counting period may be acquired, and an evaluation mark may be determined based on the evaluation information.
  • the information related to the product display state for each detection time and the information related to the notification are accumulated, and based on this accumulated information, the temporal transition state of the product display state in the predetermined target period and Since the tabulation results related to the status of notifications are acquired and display information is generated to display the tabulation results, the timing at which notifications occur while comparing with the time transition status of the product display status The user can grasp this.
  • a display disorder state and a display shortage state are detected, and notifications (display disorder alert and display) corresponding to each of the display disorder state and the display shortage state according to a user input operation
  • the input information related to the selection of the type of (insufficient alert) is acquired, and based on the input information, the total result regarding the occurrence status of the notification of the type selected by the user is acquired, and the display information regarding the total result is generated. Therefore, according to the type of notification, the user can grasp at what timing the notification has occurred while comparing with the temporal transition state of the product display state. Thereby, the problem in the merchandise management in the store can be examined according to the type of notification, that is, the content of the deficiency of merchandise display.
  • the person staying state the number of staying persons for each detection time is acquired, the number of staying persons for each detection time is accumulated, and the time of the person staying state is determined based on the accumulated information. Acquires the aggregated results related to the transition status, and generates display information based on the aggregated results, integrating the temporal transition status of the product display status and the occurrence status of the notification with the temporal transition status of the person staying status. Since it did in this way, a user can check the generating situation of information, comparing with the temporal transition situation of the number of visitors in a store. Thereby, the problem in the merchandise management in the store can be recognized.
  • the detection results of the product display state for each detection time are accumulated, the detection results for each of the accumulated detection times are totaled in a predetermined total period, and the product display state for each total period Since the display information regarding the product display state for each aggregation period is generated, the user can grasp the product display state for each aggregation period. Then, by comparing the product display state for each tabulation period, the user can grasp the difference in the product display state depending on the tabulation period.
  • FIG. 14 is an overall configuration diagram of a product monitoring system according to the second embodiment. The points not particularly mentioned here are the same as in the first embodiment.
  • an inventory management device 121 in addition to the PC 3 as a product monitoring device, an inventory management device 121, a sales information management device 122, and a personnel allocation management device 123 are provided in the store. Note that at least one of the inventory management device 121, the sales information management device 122, and the personnel allocation management device 123 may be integrated into the PC 3.
  • the headquarters is provided with an inventory management server 125, a sales information management server 126, and a staffing management server 127.
  • the notification determination unit 45 of the product monitoring unit 32 in the PC 3 in addition to the detection result of the product state detection unit 42 and the detection result of the person state detection unit 44, the inventory information acquired from the inventory management device 121 and the sales information management device 122 Based on at least one of the acquired sales information and the personnel allocation information acquired from the personnel allocation management device 123, a process for determining whether notification is possible is performed.
  • the product status detector 42 cannot supply the product even if a display shortage alert is issued. Even if a (status) is detected, an insufficient display alert is not issued. Further, when there is only one store clerk in the store based on the staff arrangement information, it is difficult to perform merchandise management work (organization work and replenishment work), and therefore, display disorder alerts and display shortage alerts are not issued. In addition, when the sale of the product is confirmed based on the sales information, it is highly possible that the display area of the product is in a replenishment state. Therefore, the display is performed together with the detection result of the product state detection unit 42. Judge whether or not a shortage alert is possible.
  • the store inventory status, sales status, and store clerk status based on the inventory information, the sales information, and the staff allocation information Since it is determined whether or not notification is possible in consideration of the arrangement status and the like, notification can be performed at a more appropriate and effective timing.
  • the display shelf is a display area.
  • the display area is not limited to the display shelf.
  • furniture such as a wagon or a display stand may be used as the display area. Good.
  • both the display disorder state and the insufficient display state are detected as the product display state, but only one of the display disorder state and the insufficient display state may be used.
  • the notification availability was determined based on the person staying state in the accounting area and the product access area, the notification availability was determined based on the person staying state of the entire store as the monitoring area. You may do it.
  • the person state detection unit 44 may acquire the number of persons staying in the store and not notify when the store is in a congested state.
  • the camera 1 is an omnidirectional camera having a 360-degree shooting range using a fisheye lens.
  • a camera having a predetermined angle of view a so-called box camera is also possible. It is.
  • processing necessary for product monitoring is performed by the PC 3 provided in the store.
  • the necessary processing is performed by the PC 11 provided in the headquarters.
  • the cloud computer 21 constituting the cloud computing system may be made to perform the process.
  • necessary processing may be shared by a plurality of information processing apparatuses, and information may be transferred between the plurality of information processing apparatuses via a communication medium such as an IP network or a LAN.
  • a product monitoring system is configured by a plurality of information processing apparatuses that share necessary processing.
  • At least a product detection process and a person detection process be performed by a device provided in the store.
  • the amount of information required for the remaining processing can be reduced, so that the remaining processing is performed by an information processing apparatus installed at a location different from the store, for example, the PC 11 installed at the headquarters. Even if it does in this way, since communication load can be reduced, operation of the system by a wide area network connection form becomes easy.
  • the cloud computer 21 may be caused to perform at least a process with a large calculation amount among processes necessary for product monitoring, such as a product detection process and a person detection process.
  • a process with a large calculation amount by causing the cloud computer 21 to perform a process with a large calculation amount, a high-speed information processing device is unnecessary on the user side such as a store, and the remaining process requires a small calculation amount. It becomes possible to make the information processing apparatus that constitutes the sales information management apparatus installed in the store also serve as an extended function, thereby reducing the cost of the user.
  • the cloud computer 21 may perform all necessary processes, or the cloud computer 21 may share at least the notification process and the display information generation process among the necessary processes.
  • the PCs 3 and 11 provided in the store and the headquarters it is possible to output notifications and display analysis results on a portable terminal such as the smartphone 22, thereby allowing the user to go out of the store and the headquarters. Notification and analysis results can be confirmed at an arbitrary place such as the tip.
  • the analysis result is output to the monitor 4 of the PC 3 installed in the store.
  • an analysis result output device can be provided separately from the PC 3, for example, as described above.
  • the analysis result output screen is displayed on the monitor 4 of the PC 3 installed in the store.
  • the information processing apparatus that performs necessary input and output separately from the PC 3 that performs the product monitoring process,
  • a portable information processing apparatus such as a tablet terminal may be provided.
  • the product monitoring device, the product monitoring system, and the product monitoring method according to the present invention have an effect that notification for instructing product management work can be performed at an appropriate and effective timing, and are based on an image of a display area in a store. Therefore, the present invention is useful as a product monitoring apparatus, a product monitoring system, and a product monitoring method for monitoring the display status of products.

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Game Theory and Decision Science (AREA)
  • Multimedia (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Stored Programmes (AREA)

Abstract

【課題】商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができるようにする。 【解決手段】店舗における陳列エリアの映像に基づいて、商品の陳列状況を監視する商品モニタリング装置を、陳列エリアの映像に基づいて、陳列エリア内の商品を検出する商品検出部４１と、この商品検出部の検出結果に基づいて陳列エリアにおける商品陳列状態を検知する商品状態検知部４２と、店舗内の映像に基づいて店舗内に滞在する人物を検出する人物検出部４３と、この人物検出部の検出結果に基づいて店舗内における人物滞在状態を検知する人物状態検知部４４と、商品状態検知部および人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部４５と、この報知判定部の判定結果に基づいて報知を行う報知部４６と、を備えたものとする。

Description

商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
　本発明は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法に関するものである。
　コンビニエンスストアなどの店舗においては、店舗内を撮影するカメラを設置して、そのカメラの映像で店舗内の人物を監視する監視システムが広く普及しているが、この監視用のカメラあるいは別のカメラで陳列エリアを撮影して、その映像に基づいて商品の陳列状況を監視するようにすると、その商品の陳列状況に基づいて、商品陳列の不備を検知して、商品管理作業（整頓作業や補充作業）を店員に指示する報知を行うことで、商品陳列の不備を速やかに解消して、商品陳列の不備による販売機会の逸失や顧客満足度の低下を避けることができる。
　このような商品管理作業の指示に関連するものとして、従来、陳列エリアを撮影した映像に基づいて、商品の補充の必要性を判断して、補充作業を指示する報知を行う技術が知られている（特許文献１参照）。また、陳列エリアを撮影した映像に基づいて、商品の整頓の必要性を判断して、整頓作業を指示する報知を行う技術が知られている（特許文献２参照）。また、陳列エリアを撮影した映像から遮蔽物を取り除いた修正画像を生成して、陳列エリアにおけるフェイスアップの状況を簡便に把握することができるようにした技術が知られている（特許文献３参照）。
特開平５－０８１５５２号公報 特許第３９０８０４７号公報 特許第４４５６４３７号公報
　しかしながら、前記従来の技術では、陳列エリアにおける商品の陳列状況を監視して、必要に応じて商品管理作業（整頓作業や補充作業）を店員に指示することができるが、店員に商品管理作業を指示する報知が、必ずしも適切かつ有効なタイミングで行われないという問題があった。
　例えば、レジカウンタで会計を行う顧客に対応している最中に商品管理作業の指示を受けても、店員は顧客の対応を優先させる必要があるため、すぐに商品管理作業を行うことができない。また、商品管理作業を必要とする陳列棚の前に顧客がいると、商品管理作業が顧客の邪魔になるため、商品管理作業を行うことができない。このように、商品の陳列状況を監視するだけでは、店員に商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができない。
　本発明は、このような従来技術の問題点を解消するべく案出されたものであり、その主な目的は、商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができるように構成された商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法を提供することにある。
　本発明の商品モニタリング装置は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリング装置であって、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、この報知判定部の判定結果に基づいて、前記報知を行う報知部と、を備えた構成とする。
　また、本発明の商品モニタリングシステムは、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリングシステムであって、店舗内を撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、この報知判定部の判定結果に基づいて、前記報知を行う報知部と、を備えた構成とする。
　また、本発明の商品モニタリング方法は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する処理を情報処理装置に行わせる商品モニタリング方法であって、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出するステップと、このステップの検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知するステップと、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出するステップと、このステップの検出結果に基づいて、店舗内における人物滞在状態を検知するステップと、前記商品状態を検知するステップの検知結果および前記人物状態を検知するステップの検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定するステップと、このステップの判定結果に基づいて、前記報知を行うステップと、を有する構成とする。
　本発明によれば、商品陳列状態の他に人物滞在状態を考慮して、商品管理作業を指示する報知の可否が判断されるため、適切かつ有効なタイミングで報知を行うことができる。すなわち、商品陳列状態および人物滞在状態で商品管理作業の必要性および可能性を判断することができ、商品陳列状態および人物滞在状態の双方を考慮することで、商品管理作業が必要でかつ可能な場合に報知が行われ、これにより、適切かつ有効なタイミングで報知を行うことができる。
第１実施形態に係る商品モニタリングシステムの全体構成図 店舗のレイアウト、およびカメラ１の設置状況を説明する店舗の平面図 ＰＣ３の概略構成を示す機能ブロック図 陳列エリア（陳列棚）における商品の陳列状態を示す説明図 報知判定部４５で行われる報知判定処理の手順を示すフロー図 人物滞在状態の一例を示す店舗の平面図 人物滞在状態の一例を示す店舗の平面図 人物滞在状態の一例を示す店舗の平面図 報知の発生状況に関する分析結果出力画面を示す説明図 報知の発生状況に関する分析結果出力画面を示す説明図 陳列不足状態に関する分析結果出力画面を示す説明図 陳列不足状態に関する分析結果出力画面を示す説明図 陳列不足状態に関する分析結果出力画面を示す説明図 第２実施形態に係る商品モニタリングシステムの全体構成図
　前記課題を解決するためになされた第１の発明は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリング装置であって、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、この報知判定部の判定結果に基づいて、前記報知を行う報知部と、を備えた構成とする。
　これによると、商品陳列状態の他に人物滞在状態を考慮して、商品管理作業を指示する報知の可否が判断されるため、適切かつ有効なタイミングで報知を行うことができる。すなわち、商品陳列状態および人物滞在状態で商品管理作業の必要性および可能性を判断することができ、商品陳列状態および人物滞在状態の双方を考慮することで、商品管理作業が必要でかつ可能な場合に報知が行われ、これにより、適切かつ有効なタイミングで報知を行うことができる。
　また、第２の発明は、前記人物状態検知部は、会計を行う顧客が滞在する会計エリアにおける人物滞在状態を検知し、前記報知判定部は、前記人物状態検知部で検知された前記会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態である場合には、前記報知を行わないものとする構成とする。
　これによると、商品管理作業が困難な場合に、無駄な報知が行われることを避けることができる。
　また、第３の発明は、前記人物状態検知部は、前記陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、前記報知判定部は、前記人物状態検知部で検知された前記商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態である場合には、前記報知を行わないものとする構成とする。
　これによると、商品管理作業が困難な場合に、無駄な報知が行われることを避けることができる。
　また、第４の発明は、前記人物状態検知部は、会計を行う顧客が滞在する会計エリア、および前記陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、前記報知判定部は、前記商品状態検知部で検知された商品陳列状態が、商品管理作業を必要とする状態であり、かつ、前記人物状態検知部で検知された前記会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態でなく、かつ、前記人物状態検知部で検知された前記商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態でない場合に、前記報知を行うものとする構成とする。
　これによると、商品管理作業が必要でかつ困難でない場合に報知が行われることから、適切かつ有効なタイミングで報知を行うことができる。
　また、第５の発明は、前記商品状態検知部は、前記商品陳列状態として、陳列乱れ状態および陳列不足状態の少なくともいずれかを検知し、前記報知部は、前記商品管理作業として、陳列の乱れを解消する整頓作業、および商品の不足を解消する補充作業の少なくともいずれかを店員に指示する報知を行う構成とする。
　これによると、商品の陳列に不備がある場合に、その不備の内容に応じて適切な報知を行うことができる。これにより、店員が、報知の内容に応じて適切な商品管理作業を迅速に行うことができる。
　また、第６の発明は、前記報知判定部は、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に加えて、在庫情報、販売情報および人員配置情報の少なくともいずれかに基づいて、前記報知の可否を判定する構成とする。
　これによると、在庫情報、販売情報および人員配置情報に基づく店舗の在庫状況、売上げ状況および店員の配置状況などを考慮して、報知の可否を判定するため、より一層適切かつ有効なタイミングで報知を行うことができる。
　また、第７の発明は、前記商品状態検知部で取得した検知時刻ごとの商品陳列状態に関する情報、および前記報知部で行われた前記報知に関する情報を蓄積する情報蓄積部と、この情報蓄積部に蓄積された情報に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況に関する集計結果を取得する集計部と、この集計部で取得した前記集計結果に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況を統合した表示情報を生成する表示情報生成部と、をさらに備えた構成とする。
　これによると、商品陳列状態の時間的な推移状況と比較しながら、報知がどのようなタイミングで発生したかをユーザが把握することができる。
　また、第８の発明は、前記商品状態検知部は、前記商品陳列状態として、陳列乱れ状態および陳列不足状態を検知し、ユーザの入力操作に応じて、前記陳列乱れ状態および前記陳列不足状態の各々に対応する報知の種別を選択する入力情報を取得する入力情報取得部をさらに備え、前記集計部は、前記入力情報取得部で取得した入力情報に基づいて、ユーザが選択した種別の報知の発生状況に関する集計結果を取得し、前記表示情報生成部は、前記集計結果に関する前記表示情報を生成する構成とする。
　これによると、報知の種別に応じて、商品陳列状態の時間的な推移状況と比較しながら、報知がどのようなタイミングで発生したかをユーザが把握することができる。これにより、報知の種別、すなわち商品陳列の不備の内容に応じて、店舗における商品管理上の問題点を検討することができる。
　また、第９の発明は、前記人物状態検知部は、前記人物滞在状態として、検知時刻ごとの滞在人数を取得し、前記情報蓄積部は、前記人物状態検知部で取得した検知時刻ごとの滞在人数を蓄積し、前記集計部は、前記情報蓄積部に蓄積された情報に基づいて、前記滞在人数の時間的な推移状況に関する集計結果を取得し、前記表示情報生成部は、前記集計部で取得した前記集計結果に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況に、前記滞在人数の時間的な推移状況を統合した表示情報を生成する構成とする。
　これによると、店舗内の滞在人数の時間的な推移状況と比較しながら、報知の発生状況をユーザが確認することができる。これにより、店舗における商品管理上の問題点を認識することができる。
　また、第１０の発明は、前記商品状態検知部で取得した検知時刻ごとの前記商品陳列状態の検知結果を蓄積する情報蓄積部と、この情報蓄積部に蓄積された前記検知時刻ごとの検知結果を所定の集計期間単位で集計して、その集計期間ごとの商品陳列状態を取得する商品状態集計部と、この商品状態集計部で取得した前記集計期間ごとの商品陳列状態に関する表示情報を生成する表示情報生成部と、をさらに備えた構成とする。
　これによると、商品陳列状態を集計期間ごとにユーザが把握することができる。そして、集計期間ごとの商品陳列状態を比較することで、商品陳列状態の集計期間による違いをユーザが把握することができる。
　また、第１１の発明は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリングシステムであって、店舗内を撮影するカメラと、複数の情報処理装置と、を有し、前記複数の情報処理装置のいずれかが、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、この報知判定部の判定結果に基づいて、前記報知を行う報知部と、を備えた構成とする。
　これによると、第１の発明と同様に、商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができる。
　また、第１２の発明は、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する処理を情報処理装置に行わせる商品モニタリング方法であって、前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出するステップと、このステップの検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知するステップと、店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出するステップと、このステップの検出結果に基づいて、店舗内における人物滞在状態を検知するステップと、前記商品状態を検知するステップの検知結果および前記人物状態を検知するステップの検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定するステップと、このステップの判定結果に基づいて、前記報知を行うステップと、を有する構成とする。
　これによると、第１の発明と同様に、商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができる。
　以下、本発明の実施の形態を、図面を参照しながら説明する。
（第１実施形態）
　図１は、第１実施形態に係る商品モニタリングシステムの全体構成図である。この人物行動分析システムは、コンビニエンスストアなどの小売チェーン店などを対象にして構築されるものであり、複数の店舗ごとに設けられたカメラ（撮像装置）１、レコーダ（画像記録装置）２、ＰＣ（商品モニタリング装置）３、およびモニタ（表示装置）４と、複数の店舗を総括する本部に設けられたＰＣ１１、およびモニタ１２と、を備えている。
　カメラ１は店舗内の適所に設置され、カメラ１により店舗内が撮像され、これにより得られた画像情報がレコーダ２に録画される。店舗に設けられたＰＣ３や本部に設けられたＰＣ１１では、カメラ１で撮像された店舗内の画像をリアルタイムで閲覧することができ、また、レコーダ２に録画された過去の店舗内の画像を閲覧することができ、これにより店舗や本部で店舗内の状況を確認することができる。
　店舗に設置されたＰＣ３は、店舗内での商品の陳列状況を監視する商品モニタリング装置として構成される。また、このＰＣ３では、店舗内での商品の陳列状況などに関する分析処理が行われ、この分析処理で生成した分析結果情報を、ＰＣ３自身で閲覧することができ、さらに、本部に設置されたＰＣ１１に送信されて、このＰＣ７でも閲覧することができ、ＰＣ３，１１が分析結果情報を閲覧する閲覧装置として構成される。
　次に、コンビニエンスストアを例にして店舗のレイアウト、およびカメラ１の設置状況について説明する。図２は、店舗のレイアウト、およびカメラ１の設置状況を説明する店舗の平面図である。
　店舗には、出入口と、陳列棚（陳列エリア）と、レジカウンタと、が設けられている。陳列棚は、弁当、ペットボトル、おにぎりなどの商品の種類に分けて設置されている。レジカウンタの隣にはファーストフードの陳列棚が設置されている。
　顧客は、出入口から入店し、陳列棚の間の通路を通って店舗内を移動し、所望の商品が見つかると、その商品を持ってレジカウンタに向かい、レジカウンタで会計（代金の支払い）を済ませた後に出入口から退店する。ここで、顧客は、会計を行う際にレジカウンタの前に滞在するが、このような会計を行う顧客の状態を検知するため、本実施形態では、レジカウンタの前に会計エリアが設定されている。また、顧客は、陳列棚の商品を見て購買するか否かを決定する際に陳列棚の前に滞在するが、このような陳列棚の商品を見る顧客の状態を検知するため、本実施形態では、陳列棚の前に商品アクセスエリアが設定されている。この商品アクセスエリアは陳列エリアごとに設定される。
　また、店舗には、店舗内（監視エリア）を撮像する複数のカメラ１が設置されている。特に、図２に示す例では、カメラ１に、魚眼レンズを用いて３６０度の撮影範囲を有する全方位カメラが採用され、このカメラ１により、陳列棚に陳列された商品を撮像することができ、また、陳列棚やレジカウンタの前に滞在する人物を撮像することができる。
　なお、同一のカメラ１で陳列棚と人物との双方を撮像するようにしてもよいが、陳列棚を撮像するカメラと、人物を撮像するカメラとを別々に設置するようにしてもよい。
　次に、図１に示したＰＣ３で行われる処理を機能ブロック図に基づいて説明する。図３は、ＰＣ３の概略構成を示す機能ブロック図である。
　ＰＣ３は、監視部３１と、商品モニタリング部３２と、分析部３３と、を備えている。監視部３１は、ＰＣ３を店舗内を監視する監視システムとして機能させるものであり、この監視部３１により、カメラ１およびレコーダ２の動作が制御され、また、カメラ１で撮像された店舗内の画像をリアルタイムで閲覧し、また、レコーダ２に録画された店舗内の画像を閲覧することができる。
　商品モニタリング部３２は、店舗における陳列エリア（陳列棚）を撮影した映像に基づいて、商品の陳列状況を監視するものであり、商品検出部４１と、商品状態検知部４２と、人物検出部４３と、人物状態検知部４４と、報知判定部４５と、報知部４６と、を備えている。
　商品検出部４１では、カメラ１により陳列エリアを撮影した映像に基づいて、陳列エリア内の商品を検出する処理が行われる。この商品検出処理は、公知の画像認識技術、すなわち映像から物体の像を抽出して物体の位置を求める技術を利用すればよく、商品検出部４１から、各陳列エリアにおける商品の位置に関する検出結果が検出時刻ごとに出力される。
　商品状態検知部４２では、商品検出部４１の検出結果に基づいて、陳列エリアにおける商品陳列状態を検知する処理が行われる。この商品状態検知処理は、商品陳列の不備を検知するものであり、この商品陳列の不備には、陳列エリアに陳列された商品の配置に乱れがある陳列乱れ状態と、陳列エリアに陳列された商品の個数に不足がある陳列不足状態とがあり、商品状態検知処理が陳列乱れ状態および陳列不足状態の各々に関して行われ、商品状態検知部４２から、検知時刻ごとの商品陳列状態（陳列乱れ状態および陳列不足状態）の検知結果が出力される。
　また、陳列乱れ状態の検知処理では、商品検出部４１の検出結果から陳列乱れがあるものと判定された状態が所定の時間継続した場合に要整頓状態と判断する。また、陳列不足状態の検知処理では、商品検出部４１の検出結果から商品の個数に不足があるものと判定された状態が所定の時間継続した場合に要補充状態と判断する。なお、この商品状態検知処理については後に詳しく説明する。
　人物検出部４３では、カメラ１により店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する処理が行われる。この人物検出処理は、公知の画像認識技術、すなわち映像から人物の像を抽出して人物の位置を求める技術を利用すればよく、人物検出部４３から、店舗内における人物の位置に関する検出結果が検出時刻ごとに出力される。
　人物状態検知部４４では、人物検出部４３の検出結果に基づいて、店舗内における人物滞在状態を検知する処理が行われる。本実施形態では、会計エリアにおける滞在人数、商品アクセスエリアごとの滞在人数、すなわち会計エリアまたは商品アクセスエリアに同時に滞留する人物の人数を計測し、人物状態検知部４４から、会計エリアまたは商品アクセスエリア別の滞在人数が検知時刻ごとに出力される。なお、この滞在人数計測処理では、所定の検出期間（例えば３秒間）で継続して会計エリアまたは商品アクセスエリア内に１人の人物が検出された場合に１カウントとする。
　報知判定部４５では、商品状態検知部４２の検知結果、すなわち陳列エリアにおける商品陳列状態（陳列乱れ状態および陳列不足状態）、および人物状態検知部４４の検知結果、すなわち会計エリアにおける滞在人数と商品アクセスエリアごとの滞在人数に基づいて、商品管理作業を店員に指示する報知の可否を判定する処理が行われる。この報知判定処理では、陳列エリアにおける商品陳列状態に基づいて、商品管理作業を必要とする陳列エリアを決定し、会計エリアにおける滞在人数と商品管理作業を必要とする陳列エリアに対応する商品アクセスエリアの滞在人数とに基づいて、商品管理作業が可能か否かを判断し、商品管理作業が可能な場合に、報知を行うものとする。なお、この報知判定処理の手順については後に詳しく説明する。
　報知部４６では、報知判定部４５の判定結果に基づいて、商品管理作業を店員に指示する報知が行われる。この報知は、陳列乱れ状態および陳列不足状態の各々に関して行われる。すなわち、陳列乱れ状態（要整頓状態）の場合には、それを解消する商品整頓作業を店員に指示する報知（陳列乱れアラート）が行われ、陳列不足状態（要補充状態）の場合には、それを解消する商品補充作業を店員に指示する報知（陳列不足アラート）が行われる。この報知（陳列乱れアラートおよび陳列不足アラート）は、モニタ４の画面にメッセージを表示すればよいが、スピーカやランプなどの適宜な出力装置で出力するようにしてもよい。
　ところで、商品アクセスエリアに人物が滞在していた場合、陳列エリアで要整頓状態または要補充状態が発生している可能性が高いため、商品アクセスエリアの滞在人数に基づいて、その商品アクセスエリアに対応する陳列エリアの商品陳列状態を予測することができ、この商品陳列状態の予測結果に基づいて、報知判定部４５で報知の可否を判定することも可能である。この場合、商品状態検知部４２の検知結果に基づく報知とは異なる報知、例えば陳列乱れまたは陳列不足が発生している可能性がある旨の報知を行うようにしてもよい。
　なお、監視部３１、商品モニタリング部３２および分析部３３は、ＰＣ３のＣＰＵで監視用、商品モニタリング用および商品陳列状態分析用のプログラムを実行させることで実現される。これらのプログラムは、情報処理装置としてのＰＣ３に予め導入して専用の装置として構成する他、汎用ＯＳ上で動作するアプリケーションプログラムとして適宜なプログラム記録媒体に記録して、またネットワークを介して、ユーザに提供されるようにしてもよい。
　次に、図３に示した商品状態検知部４２で行われる陳列乱れ状態および陳列不足状態の判定について説明する。図４は、陳列エリア（陳列棚）における商品の陳列状態を示す説明図である。
　陳列乱れ状態の検知では、商品の陳列に乱れがあるか否かを判別する。すなわち、図４（Ａ－１）に示すように、陳列棚の奥にしか商品がない陳列乱れのある状態と、図４（Ａ－２）に示すように、陳列棚の最前列に商品が並んでいる陳列乱れのない状態と、を判別する。そして、本実施形態では、図４（Ａ－１）に示す陳列乱れのある状態を要整頓状態として、この場合に、陳列乱れ状態を解消する商品整頓作業を店員に指示する報知（陳列乱れアラート）が行われる。
　なお、図４に示す例では、陳列棚の前面の体裁を整えるフェイスアップの場合を示したが、陳列エリアがワゴンの場合のように上方が開放された状態の場合、全体的な陳列状態の乱れを解消する必要があるため、全体的な商品の陳列状態に基づいて陳列乱れ状態の判定を行うとよい。
　また、陳列乱れ状態の検知では、ある程度の陳列の乱れを許容するものとして、陳列の乱れが顕著である場合に、陳列乱れ状態と判定して、報知を行うようにしてもよい。この場合、陳列の乱れの程度を数値化して、これを所定のしきい値と比較することで、陳列乱れ状態か否かを判定すればよい。
　陳列不足状態の検知では、陳列された商品に不足があるか否かを判別する。すなわち、図４（Ｂ－１）に示すように、欠品状態、すなわち陳列棚に商品が全くない状態と、図４（Ｂ－２）に示すように、不足状態、すなわち陳列棚の商品が不足している状態と、図４（Ｂ－３）に示すように、充足状態、すなわち陳列棚に十分な数の商品が陳列されている状態と、を判別する。そして、本実施形態では、図４（Ｂ－１）に示す欠品状態と、図４（Ｂ－２）に示す不足状態を要補充状態として、これらの場合に、商品の不足を解消する商品補充作業を店員に指示する報知（陳列不足アラート）が行われる。
　ここで、不足状態と充足状態との判別は、不足率、すなわち商品が不足している割合を所定のしきい値（例えば５０％）と比較して行えばよく、不足率が所定のしきい値を超えた場合には不足状態と判定し、不足率がしきい値に達しない場合には充足状態と判定する。
　なお、ここでは、陳列不足状態の検知で３つの場合分けを行ったが、これに限定されるものではなく、２つ、あるいは４つ以上に場合分けするようにしてもよい。
　次に、図３に示した報知判定部４５で行われる報知判定処理について説明する。図５は、報知判定部４５で行われる報知判定処理の手順を示すフロー図である。図６、図７および図８は、人物滞在状態の一例を示す店舗の平面図である。
　報知判定部４５では、前記のように、商品状態検知部４２の検知結果および人物状態検知部４４の検知結果に基づいて、報知の可否を判定する。この報知判定は、店舗内の陳列エリア（陳列棚）を対象にして順番に行われ、図５に示すように、商品状態検知部４２による陳列乱れ状態の検知結果（ＳＴ１０１）、商品状態検知部４２による陳列不足状態の検知結果（ＳＴ１０２）、人物状態検知部４４による会計エリアにおける人物滞在状態の検知結果（ＳＴ１０３）、および商品アクセスエリアにおける人物滞在状態の検知結果（ＳＴ１０４）に応じて、報知の可否を判定する（ＳＴ１０５，ＳＴ１０６）。これが、陳列棚ごとに実施され、全ての陳列棚が終了するまで繰り返される。
　具体的には、陳列乱れ状態の検知結果（ＳＴ１０１）が「陳列乱れなし」となり、または、陳列不足状態の検知結果（ＳＴ１０２）が「不足なし」（充足状態）となる場合には、当然ながら、報知を行わないものとする（ＳＴ１０６）。
　また、陳列乱れ状態の検知結果（ＳＴ１０１）が「陳列乱れあり」となり、または、陳列不足状態の検知結果（ＳＴ１０２）が「不足あり」（欠品状態または不足状態）となる場合でも、会計エリアにおける人物滞在状態の検知結果（ＳＴ１０３）が「人物あり」となる場合には、報知を行わないものとする（ＳＴ１０６）。
　例えば、図６に示す例では、ある陳列棚で、商品の陳列に乱れが発生し、または商品の陳列数に不足が発生して、商品状態検知部４２により、その陳列棚が要整頓状態または要補充状態と検知される。また、レジカウンタの付近には会計を行う人物が滞在しており、人物状態検知部４４により、会計エリアに人物が滞在していることが検知される。
　この場合、店員は、レジカウンタで会計を行う顧客の対応を優先する必要があるため、商品管理作業を行うことができない。このため、要整頓状態または要補充状態が発生している棚列棚があっても、商品管理作業を促す報知は行われない。
　また、陳列乱れ状態の検知結果（ＳＴ１０１）が「陳列乱れあり」となり、または、陳列不足状態の検知結果（ＳＴ１０２）が「不足あり」となり、かつ、会計エリアにおける人物滞在状態の検知結果（ＳＴ１０３）が「人物なし」となる場合でも、陳列棚に対応する商品アクセスエリアにおける人物滞在状態の検知結果（ＳＴ１０４）が「人物あり」となる場合には、報知を行わないものとする（ＳＴ１０６）。
　例えば、図７に示す例では、図６に示す例と同様に、ある陳列棚で、商品の陳列に乱れが発生し、または商品の陳列数に不足が発生して、商品状態検知部４２により、その陳列棚が要整頓状態または要補充状態と検知される。また、レジカウンタの付近には会計を行う人物が滞在していないため、人物状態検知部４４により、会計エリアに人物が滞在していることは検知されないが、要整頓状態または要補充状態と検知された陳列棚に対応する商品アクセスエリアには人物が滞在しており、人物状態検知部４４により、商品アクセスエリアに人物が滞在していることが検知される。
　この場合、要整頓状態または要補充状態が発生している陳列棚で、商品管理作業（商品整頓作業または商品補充作業）を行うことは、顧客の邪魔になるため、店員は、商品管理作業を行うことができないため、商品管理作業を促す報知は行われない。
　一方、陳列乱れ状態の検知結果（ＳＴ１０１）が「陳列乱れあり」となり、または、陳列不足状態の検知結果（ＳＴ１０２）が「不足あり」となり、かつ、会計エリアにおける人物滞在状態の検知結果（ＳＴ１０３）が「人物なし」となる場合に、陳列棚に対応する商品アクセスエリアにおける人物滞在状態の検知結果（ＳＴ１０４）が「人物なし」となる場合には、商品管理指示の報知を行うものとする（ＳＴ１０５）。
　例えば、図８に示す例では、図６に示す例と同様に、ある陳列棚で、商品の陳列に乱れが発生し、または商品の陳列数に不足が発生して、商品状態検知部４２により、その陳列棚が要整頓状態または要補充状態と検知される。レジカウンタの付近には会計を行う人物が滞在していないため、人物状態検知部４４により、会計エリアに人物が滞在していることは検知されず、また、要整頓状態または要補充状態と検知された陳列棚に対応する商品アクセスエリアにも人物が滞在していないため、人物状態検知部４４により、商品アクセスエリアに人物が滞在していることは検知されない。
　この場合、店員は、要整頓状態または要補充状態が発生している陳列棚で、問題なく商品管理作業（商品整頓作業または商品補充作業）を行うことができるため、商品管理作業を促す報知が行われる。
　なお、ここでは、会計エリアにおける人物滞在状態の検知結果に関する判定（図５のＳＴ１０３）および商品アクセスエリアにおける人物滞在状態の検知結果に関する判定（図５のＳＴ１０４）では、人物の有無で判定を行い、会計エリアや商品アクセスエリアに１人でも人物がいれば、報知を行わないようにしたが、２人以上とした所定のしきい値を超えた場合に、報知を行わないようにしてもよい。また、会計エリアと商品アクセスエリアとでは事情が異なるため、会計エリアと商品アクセスエリアとで人数のしきい値を変えるようにしてもよい。
　以上のように本実施形態では、商品陳列状態の他に人物滞在状態を考慮して、商品管理作業を指示する報知の可否が判断されるため、適切かつ有効なタイミングで報知を行うことができる。すなわち、商品陳列状態および人物滞在状態で商品管理作業の必要性および可能性を判断することができ、商品陳列状態および人物滞在状態の双方を考慮することで、商品管理作業が必要でかつ可能な場合に報知が行われ、これにより、適切かつ有効なタイミングで報知を行うことができる。
　また、本実施形態では、会計を行う顧客が滞在する会計エリアにおける人物滞在状態を検知し、その会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態である場合には、報知を行わないようにしたため、商品管理作業が困難な場合に、無駄な報知が行われることを避けることができる。
　また、本実施形態では、陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、その商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態である場合には、報知を行わないようにしたため、商品管理作業が困難な場合に、無駄な報知が行われることを避けることができる。
　また、本実施形態では、会計を行う顧客が滞在する会計エリア、および陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、商品陳列状態が、商品管理作業を必要とする状態であり、かつ、会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態でなく、かつ、商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態でない場合に、報知を行うようにしたため、商品管理作業が必要でかつ困難でない場合に報知が行われることから、適切かつ有効なタイミングで報知を行うことができる。
　また、本実施形態では、商品陳列状態として、陳列乱れ状態および陳列不足状態を検知し、商品管理作業として、陳列の乱れを解消する整頓作業、および商品の不足を解消する補充作業を店員に指示する報知を行うようにしたため、商品の陳列に不備がある場合に、その不備の内容に応じて適切な報知を行うことができる。これにより、店員が、報知の内容に応じて適切な商品管理作業を迅速に行うことができる。
　次に、図３に示したＰＣ３の分析部３３で行われる商品陳列状態分析処理について説明する。
　ＰＣ３の分析部３３は、商品陳列状態に関する分析を行うものであり、情報蓄積部５１と、集計部５２と、ＧＵＩ制御部５３と、を備えている。
　情報蓄積部５１では、報知部４６で行われた報知（陳列乱れアラートおよび陳列不足アラート）の発生時刻などに関する報知発生情報が蓄積される。また、情報蓄積部５１では、商品状態検知部４２で取得した検知時刻ごとの商品陳列状態（陳列乱れ状態および陳列不足状態）の検知結果が蓄積される。また、情報蓄積部５１では、人物状態検知部４４で取得した検知時刻ごとの滞在人数が蓄積される。
　集計部５２は、商品状態集計部５４と、人物状態集計部５５と、を備えている。
　商品状態集計部５４では、情報蓄積部５１に蓄積された検知時刻ごとの商品陳列状態（陳列乱れ状態および陳列不足状態）の検知結果を所定の集計期間単位（例えば時間帯、日、月）で集計して、その集計期間ごとに商品陳列状態を取得する処理が行われる。この集計処理は、陳列乱れ状態および陳列不足状態の各々で行われる。
　商品陳列状態の集計処理には、種々の方法があるが、例えば、商品管理上の問題がより大きな状態を優先させて、集計期間ごとの商品陳列状態を取得すればよい。すなわち、陳列乱れ状態の集計処理では、陳列乱れ状態を正常状態より優先させ、集計期間内に陳列乱れ状態が検知されると、その集計期間は陳列乱れ状態とし、集計期間内に陳列乱れ状態が検知されない場合には、その集計期間は陳列乱れ状態でないものとする。また、陳列不足状態の集計処理では、不足の程度が大きいものを優先させ、集計期間内に欠品状態が検知されると、その集計期間は欠品状態とし、集計期間内に欠品状態が検知されず、かつ不足状態が検知されると、その集計期間は不足状態とし、集計期間内に欠品状態および不足状態のいずれも検知されない場合には、その集計期間は充足状態とする。
　また、商品陳列状態の集計処理には、商品陳列状態の検知結果を集計期間内で平均化するようにしてもよい。例えば、検知された各状態の時間的な割合で集計期間ごとの商品陳列状態を取得する。すなわち、陳列乱れ状態の集計処理では、集計期間内での陳列乱れ状態と正常状態との時間的な割合を求め、その割合に応じて集計期間ごとの商品陳列状態を取得する。また、陳列不足状態の集計処理では、集計期間内での欠品状態、不足状態および充足状態の各状態の時間的な割合を求め、その割合に応じて集計期間ごとの商品陳列状態を取得する。
　人物状態集計部５５では、情報蓄積部５１に蓄積された検知時刻ごとの滞在人数を所定の集計期間（例えば時間帯、日および月など）単位で集計して、その集計期間ごとの滞在人数を取得する処理が行われる。人物状態検知部４４では、検知時刻ごとの滞在人数が商品アクセスエリア別に求められ、これを合計することで店舗全体での滞在人物を取得することができる。
　ＧＵＩ制御部５３は、モニタ４およびマウスなどの入力デバイス（入力部）６を用いたＧＵＩ（Graphical User Interface）により、ユーザの入力操作による入力情報を取得する処理、および人物の移動状況に関する分析結果を出力する処理を行うものであり、入力情報取得部５６と、画面生成部（表示情報生成部）５７と、を備えている。
　画面生成部５７では、報知の発生状況や商品陳列状態に関する分析結果出力画面に関する表示情報を生成する処理が行われ、分析結果出力画面がモニタ４に表示される。入力情報取得部５６では、モニタ４に表示させた分析結果出力画面上で入力デバイス６を用いてユーザが行った入力操作に応じて入力情報を取得する処理が行われる。この入力情報取得部５６で取得した入力情報に基づいて、分析部３３で行われる分析処理の条件を設定する処理が行われる。
　特に、画面生成部５７では、商品状態集計部５４および人物状態集計部５５で取得した情報に基づいて、所定の対象期間における商品陳列状態の時間的な推移状況、報知の発生状況、および人物滞在状態の時間的な推移状況を統合して表示する分析結果出力画面（図９および図１０参照）に関する表示情報を生成する処理が行われ、この分析結果出力画面がモニタ４に表示される。
　また、画面生成部５７では、商品状態集計部５４および人物状態集計部５５で取得した情報に基づいて、集計期間ごとの商品陳列状態を陳列エリア別に表示する分析結果出力画面（図１１参照）や、長さが異なる集計期間で集計された集計期間ごとの商品陳列状態を並べて表示する分析結果出力画面（図１２参照）や、集計期間ごとの商品陳列状態および滞在人数を並べて表示する分析結果出力画面（図１３参照）に関する表示情報を生成する処理が行われ、これらの分析結果出力画面がモニタ４に表示される。
　次に、図３に示したモニタ４に表示される分析結果出力画面、特に報知の発生状況に関する分析結果出力画面について説明する。図９および図１０は、報知の発生状況に関する分析結果出力画面を示す説明図である。
　図９に示す分析結果出力画面は、陳列乱れアラート、すなわち要整頓状態（商品の陳列に乱れがある状態）の場合にそれを解消する商品整頓作業を店員に指示する報知の発生状況に関するものである。
　この分析結果出力画面には、店舗選択部６１と、開始ボタン６２と、陳列エリア選択部６３と、分析結果選択部６４と、日付表示部６５と、カレンダーボタン６６と、分析結果表示部６７と、が設けられている。
　店舗選択部６１は、プルダウンメニューにより店舗を選択するものである。開始ボタン６２は、分析部３３に分析処理を開始させるものである。陳列エリア選択部６３は、プルダウンメニューにより陳列エリアを選択するものである。
　分析結果選択部６４は、プルダウンメニューにより分析結果を選択するものである。本実施形態では、陳列乱れアラートの発生状況に関する分析結果、陳列不足アラートの発生状況に関する分析結果、陳列乱れ状態に関する分析結果、および陳列不足状態に関する分析結果などを選択することができ、各分析結果の出力画面がモニタ４に表示される。特にここでは、陳列乱れアラート分析が選択されており、分析結果表示部６７に、陳列乱れアラートの発生状況に関する分析結果が表示される。
　日付表示部６５は、日付を表示するものであり、カレンダーボタン６６は、日付を選択するものであり、カレンダーボタン６６を操作すると、カレンダー画面が表示され、ここで日付を選択することで、選択した日付が日付表示部６５に表示され、また、選択した日付の分析結果が分析結果表示部６７に表示される。
　分析結果表示部６７には、滞在人数表示部６８と、アラート発生状況表示部６９と、表示時刻操作部７０と、が設けられている。
　滞在人数表示部６８には、グラフ表示部７１設けられており、このグラフ表示部７１では、店舗全体での滞在人数の時間的な推移状況がグラフ（折れ線グラフ）で表示されている。グラフでは、横軸が時間帯となり、縦軸が滞在人数となっている。このグラフにおける滞在人数は、集計期間を時間帯として人物状態集計部５５で集計された時間帯ごとの滞在人数である。これにより、店舗内の滞在人数の時間的な推移状況をユーザが把握することができる。
　アラート発生状況表示部６９には、映像表示部７２と、グラフ表示部７３と、が陳列エリア別に設けられている。特にここでは、陳列エリアに弁当の陳列棚と、ペットボトルの陳列棚とが選択されている。映像表示部７２では、陳列エリアの映像が表示される。また、この映像表示部７２では、陳列エリア内の検出エリアを示す枠画像が表示される。
　グラフ表示部７３では、陳列乱れ状態の時間的な推移状況がグラフ（折れ線グラフ）で表示されている。このグラフでは、横軸が時間帯となり、縦軸が陳列乱れ状態となっている。このグラフにおける陳列乱れ状態は、集計期間を時間帯として商品状態集計部５４で取得した時間帯ごとの商品陳列状態であり、商品の陳列に乱れがある場合に「１」となり、商品の陳列に乱れがない場合に「２」となる。
　また、グラフ表示部７３では、陳列乱れアラートの発生時刻を示すアラートマーク７４が表示されている。これにより、陳列乱れ状態の時間的な推移状況と比較しながら、陳列乱れアラートがどのようなタイミングで発生したかをユーザが把握することができる。
　表示時刻操作部７０は、映像表示部７２に表示される陳列エリアの映像の時刻を調整するものである。表示時刻操作部７０を操作することで、陳列エリアの映像を所望の時刻の映像に切り替えることができる。これにより、陳列乱れアラートが発生した時刻など、所要の時刻における陳列エリアの実際の状態を映像表示部７２の映像で確認することができる。
　この分析結果出力画面では、陳列乱れアラートの発生状況を滞在人数と比較しながら確認することができる。店舗に多数の顧客が来店している状態で商品の陳列に不備があることは、販売機会の逸失や顧客満足度の低下につながることから、特に問題であり、この分析結果出力画面により、陳列乱れアラートの発生状況を滞在人数と比較しながら確認することで、店舗における商品管理上の問題点を認識することができる。
　なお、本実施形態では、１つの陳列エリア（陳列棚）に検出エリアを複数設定することができる。例えば陳列棚を上段、中段および下段に分けてそれぞれに検出エリアを設定することができる。この場合、商品状態検知部４２では、検出エリアごとに商品陳列状態を検知し、報知判定部４５では、検出エリアごとに報知の可否を判定し、報知部４６では、検出エリアごとに報知を行う。
　また、１つの陳列エリアに検出エリアを複数設定した場合、図９に示した分析結果出力画面のように、分析結果を検出エリアごとに表示させることができる。なお、図９に示した例では、映像表示部７２およびグラフ表示部７３に検出エリア別に映像およびグラフを表示するようにしたが、映像表示部７２に複数の検出エリアを表示し、グラフ表示部７３に各検出エリアのグラフを並べて表示するようにしてもよい。また、グラフ表示部７３に各検出エリアのグラフを色を変えて重ねて表示するようにしてもよい。
　図１０に示す分析結果出力画面は、陳列不足アラート、すなわち要補充状態（欠品状態および不足状態）の場合にそれを解消する商品補充作業を店員に指示する報知の発生状況に関するものである。
　この分析結果出力画面は、分析結果選択部６４で陳列不足アラート分析を選択することで表示される。この分析結果出力画面では、分析結果表示部８１のアラート発生状況表示部８２以外は、図９に示した分析結果出力画面と同様である。
　アラート発生状況表示部８２には、映像表示部８３と、グラフ表示部８４と、が陳列エリアに設定された複数の検出エリア別に設けられている。映像表示部８３では、検出エリアの映像が表示される。特にここでは、陳列エリアにファーストフードの陳列棚が選択されている。
　グラフ表示部８４では、陳列充足状態の時間的な推移状況がグラフ（折れ線グラフ）で表示されている。このグラフでは、横軸が時間帯となり、縦軸が陳列不足状態となっている。このグラフにおける陳列不足状態は、集計期間を時間帯として商品状態集計部５４で取得した時間帯ごとの陳列不足状態であり、欠品状態の場合に「１」となり、不足状態の場合に「２」となり、充足状態の場合に「３」となる。
　また、グラフ表示部８４では、陳列不足アラートの発生時刻を示すアラートマーク８５が表示されている。これにより、陳列不足状態の時間的な推移状況と比較しながら、陳列不足アラートがどのようなタイミングで発生したかをユーザが把握することができる。
　次に、商品陳列状態、特に陳列不足状態に関する分析結果出力画面について説明する。図１１、図１２および図１３は、陳列不足状態に関する分析結果出力画面を示す説明図である。
　図１１に示す分析結果出力画面は、陳列エリアごとの陳列不足状態の集計結果を表示するものであり、分析結果選択部６４で陳列不足状態分析（１）を選択することで表示される。この分析結果出力画面では、分析結果表示部９１以外は、図９に示した分析結果出力画面と同様である。
　分析結果表示部９１には、一覧表表示部９２と、陳列エリア名称表示部９３と、映像表示部９４と、表示時刻操作部９５と、が設けられている。映像表示部９４には、陳列エリアの映像が表示される。また、この映像表示部９４では、陳列エリア内の検出エリアを示す枠画像が表示されている。この枠画像は、欠品状態、不足状態および充足状態の各状態に応じて、色を変えて表示される。これにより、陳列エリア内の検出エリアごとの陳列不足状態をユーザが一目で把握することができる。表示時刻操作部９５は、映像表示部９４に表示される陳列エリアの映像の時刻を調整するものである。
　一覧表表示部９２では、時間帯ごとの陳列不足状態に関する評価マーク（○、△および×）が陳列エリア別に一覧表で表示される。特にここでは、指定された日付の各時間帯の他に、最新の時間帯の評価マークが一覧表表示部９２に表示される。また、陳列エリアに、ファーストフードの陳列棚（３段ＦＦ）、おにぎりの陳列棚、および弁当の陳列棚が選択されている。
　評価マークは、商品状態集計部５４で取得した集計期間ごとの陳列不足状態に基づいて決定され、特にここでは、欠品状態、不足状態および充足状態の各状態を表し、欠品状態の場合に「×」となり、不足状態の場合に「△」となり、充足状態の場合に「○」となる。また、ここでは、評価マークが、集計期間を時間帯として商品状態集計部５４で集計された時間帯ごとの陳列不足状態を表している。
　評価マークをマウス等を用いてクリック操作をすると、映像表示部９４に表示される映像が、該当する陳列エリアおよび時間帯の映像に切り替わる。特にここでは、ファーストフードの陳列棚（３段ＦＦ）の評価マークが選択され、映像表示部９４にファーストフードの陳列棚の最新時刻（２３：４５）の映像が表示されている。ここで、弁当の陳列棚やおにぎりの陳列棚の評価マークを選択すれば、弁当の陳列棚やおにぎりの陳列棚の映像が映像表示部９４に表示される。
　この分析結果出力画面では、特定の日の時間帯ごとの陳列不足状態の推移状況をユーザが把握することができる。また、時間帯ごとの陳列不足状態の陳列エリアによる違いをユーザが把握することができる。
　図１２に示す分析結果出力画面は、集計期間を各月の週別の時間帯および各週の曜日（日）別の時間帯として陳列不足状態の集計結果を表示するものであり、分析結果選択部６４で陳列不足状態分析（２）を選択することで表示される。この分析結果出力画面では、分析結果表示部１０１の一覧表表示部１０２以外は、図１１に示した分析結果出力画面と同様である。
　一覧表表示部１０２には、月間集計表示部１０３と、週間集計表示部１０４とが設けられている。月間集計表示部１０３には、各月の週別の時間帯ごとの陳列不足状態に関する評価マーク（○、△および×）が一覧表で表示される。この月間集計表示部１０３の評価マークは、集計期間を１週間として商品状態集計部５４で集計された週ごとの陳列不足状態に基づいて決定される。
　週間集計表示部１０４には、各週の曜日（日）別の時間帯ごとの陳列不足状態に関する評価マーク（○、△および×）が一覧表で表示される。この週間集計表示部１０４の評価マークは、集計期間を時間帯として商品状態集計部５４で集計された時間帯ごとの陳列不足状態に基づいて決定される。
　また、分析結果表示部１０１には、月間集計表示部１０３および週間集計表示部１０４にそれぞれ対応するスクロールボタン１０５，１０６が設けられており、このスクロールボタン１０５，１０６を操作することで、月間集計表示部１０３に表示される週や、週間集計表示部１０４に表示される日をずらすことができる。
　この分析結果出力画面では、指定された陳列エリアにおける各月の週別の時間帯ごとの陳列不足状態および各週の曜日（日）別の時間帯ごとの陳列不足状態をユーザが把握することができる。
　なお、図１１及び図１２に示す分析結果出力画面において、分析結果表示部９１に集計期間ごとの滞在人数を表示して、集計期間ごとの陳列不足状態と滞在人数とを対比することができるようにしてもよい。
　図１３に示す分析結果出力画面は、陳列不足状態を人物滞在状況と対比して表示するものであり、陳列不足状態分析（３）を選択することで表示される。この分析結果出力画面では、分析結果表示部１１１以外は、図９に示した分析結果出力画面と同様である。
　分析結果表示部１１１には、陳列エリア名称表示部１１２と、映像表示部１１３と、一覧表表示部１１４と、が陳列エリア（陳列棚）別に設けられている。陳列エリア名称表示部１１２には、陳列エリアの名称が表示される。映像表示部１１３には、陳列エリアの映像が表示される。
　一覧表表示部１１４には、滞在人数および評価マークが日別に表示されている。滞在人数は、陳列エリアに対応する商品アクセスエリアの滞在人数であり、人物状態集計部５５で集計期間を１日として集計された滞在人数である。評価マークは、商品状態集計部５４で集計期間を１日として集計された集計結果を表す。
　また、分析結果表示部１１１には、スクロールボタン１１５が設けられており、スクロールボタン１１５を操作することで、一覧表表示部１１４に表示された日付をずらすことができる。
　この分析結果出力画面では、各陳列エリアにおける日ごとの陳列不足状態を滞在人数と比較しながら確認することができる。
　なお、図１１、図１２および図１３では、陳列不足状態に関する分析結果出力画面を示したが、同様の分析結果出力画面を陳列乱れ状態について表示することも可能である。
　また、商品状態集計部５４では、報知（陳列乱れアラートおよび陳列不足アラート）の必要性を考慮して評価する、すなわち、報知判定部４５の判定結果を所定の集計期間単位で集計して、その集計期間ごとの商品陳列状態（陳列乱れ状態および陳列不足状態）に関する評価情報を取得し、この評価情報に基づいて評価マークを決定するようにしてもよい。
　このように本実施形態では、検知時刻ごとの商品陳列状態に関する情報、および報知に関する情報を蓄積し、この蓄積された情報に基づいて、所定の対象期間における商品陳列状態の時間的な推移状況および報知の発生状況に関する集計結果を取得して、その集計結果を表示する表示情報を生成するようにしたため、商品陳列状態の時間的な推移状況と比較しながら、報知がどのようなタイミングで発生したかをユーザが把握することができる。
　また、本実施形態では、商品陳列状態として、陳列乱れ状態および陳列不足状態を検知し、ユーザの入力操作に応じて、陳列乱れ状態および陳列不足状態の各々に対応する報知（陳列乱れアラートおよび陳列不足アラート）の種別の選択に関する入力情報を取得して、その入力情報に基づいて、ユーザが選択した種別の報知の発生状況に関する集計結果を取得して、その集計結果に関する表示情報を生成するようにしたため、報知の種別に応じて、商品陳列状態の時間的な推移状況と比較しながら、報知がどのようなタイミングで発生したかをユーザが把握することができる。これにより、報知の種別、すなわち商品陳列の不備の内容に応じて、店舗における商品管理上の問題点を検討することができる。
　また、本実施形態では、人物滞在状態として、検知時刻ごとの滞在人数を取得して、その検知時刻ごとの滞在人数を蓄積し、その蓄積された情報に基づいて、人物滞在状態の時間的な推移状況に関する集計結果を取得して、その集計結果に基づいて、商品陳列状態の時間的な推移状況および報知の発生状況に、人物滞在状態の時間的な推移状況を統合した表示情報を生成するようにしたため、店舗内の滞在人数の時間的な推移状況と比較しながら、報知の発生状況をユーザが確認することができる。これにより、店舗における商品管理上の問題点を認識することができる。
　また、本実施形態では、検知時刻ごとの商品陳列状態の検知結果を蓄積し、その蓄積された検知時刻ごとの検知結果を所定の集計期間単位で集計して、その集計期間ごとの商品陳列状態を取得して、その集計期間ごとの商品陳列状態に関する表示情報を生成するようにしたため、商品陳列状態を集計期間ごとにユーザが把握することができる。そして、集計期間ごとの商品陳列状態を比較することで、商品陳列状態の集計期間による違いをユーザが把握することができる。
（第２実施形態）
　図１４は、第２実施形態に係る商品モニタリングシステムの全体構成図である。なお、ここで特に言及しない点は第１実施形態と同様である。
　この第２実施形態では、商品モニタリング装置としてのＰＣ３の他に、在庫管理装置１２１、販売情報管理装置１２２、および人員配置管理装置１２３が店舗に設けられている。なお、在庫管理装置１２１、販売情報管理装置１２２、および人員配置管理装置１２３の少なくともいずれかをＰＣ３に統合するようにしてもよい。また、本部には、在庫管理サーバ１２５、販売情報管理サーバ１２６、および人員配置管理サーバ１２７が設けられている。
　ＰＣ３における商品モニタリング部３２の報知判定部４５では、商品状態検知部４２の検知結果および人物状態検知部４４の検知結果に加えて、在庫管理装置１２１から取得した在庫情報、販売情報管理装置１２２から取得した販売情報、および人員配置管理装置１２３から取得した人員配置情報の少なくともいずれかに基づいて、報知の可否を判定する処理が行われる。
　具体的には、在庫情報に基づいて商品の在庫がない場合には、陳列不足アラートを出しても、商品の補充ができないため、商品状態検知部４２にて要補充状態（欠品状態および不足状態）が検知されても、陳列不足アラートを出さないものとする。また、人員配置情報に基づいて店員が店舗に１人しかいない場合には、商品管理作業（整頓作業および補充作業）が難しいため、陳列乱れアラートおよび陳列不足アラートを出さないものとする。
また、販売情報に基づいて商品の販売が確認された場合には、その商品の陳列エリアが要補充状態となっている可能性が高いため、商品状態検知部４２の検知結果と合わせて、陳列不足アラートの可否を判定する。
　このように本実施形態では、商品状態検知部４２の検知結果および人物状態検知部４４の検知結果に加えて、在庫情報、販売情報および人員配置情報に基づく店舗の在庫状況、売上げ状況および店員の配置状況などを考慮して、報知の可否を判定するため、より一層適切かつ有効なタイミングで報知を行うことができる。
　以上、本発明を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本発明はこれらの実施形態によって限定されるものではない。また、上記実施形態に示した本発明に係る商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
　例えば、本実施形態では、図２に示したように、陳列棚を陳列エリアとしたが、陳列エリアは陳列棚に限定されるものではなく、例えばワゴンや陳列台などの什器を陳列エリアとしてもよい。
　また、本実施形態では、商品陳列状態として、陳列乱れ状態および陳列不足状態の双方を検知するようにしたが、陳列乱れ状態および陳列不足状態のいずれか一方のみとしてもよい。
　また、本実施形態では、会計エリアおよび商品アクセスエリアにおける人物滞在状態に基づいて報知の可否を判定するようにしたが、監視エリアである店舗全体の人物滞在状態に基づいて報知の可否を判定するようにしてもよい。この場合、人物状態検知部４４では、店舗に滞在している人物の人数を取得し、店舗が混雑状態にある場合には、報知を行わないようにすればよい。
　また、本実施形態では、図２に示したように、カメラ１を、魚眼レンズを用いて３６０度の撮影範囲を有する全方位カメラとしたが、所定の画角を有するカメラ、いわゆるボックスカメラでも可能である。
　また、本実施形態では、商品モニタリングに必要な処理を、店舗に設けられたＰＣ３に行わせるようにしたが、この必要な処理を、図１に示したように、本部に設けられたＰＣ１１や、クラウドコンピューティングシステムを構成するクラウドコンピュータ２１に行わせるようにしてもよい。また、必要な処理を複数の情報処理装置で分担し、ＩＰネットワークやＬＡＮなどの通信媒体を介して、複数の情報処理装置の間で情報を受け渡すようにしてもよい。この場合、必要な処理を分担する複数の情報処理装置で商品モニタリングシステムが構成される。
　このような構成では、店舗に設けられた装置に、少なくとも商品検出処理および人物検出処理を行わせるようにするとよい。このように構成すると、残りの処理で必要となる情報のデータ量が少なくて済むため、残りの処理を店舗とは異なる場所に設置された情報処理装置、例えば本部に設置されたＰＣ１１に行わせるようにしても、通信負荷を軽減することができるため、広域ネットワーク接続形態によるシステムの運用が容易になる。
　また、クラウドコンピュータ２１に、商品モニタリングに必要な処理のうち、少なくとも演算量が大きな処理、例えば商品検出処理および人物検出処理を行わせるようにしてもよい。このように構成すると、演算量が大きな処理をクラウドコンピュータ２１に行わせることで、店舗などのユーザ側に高速な情報処理装置が不要となり、また、残りの処理は演算量が小さくて済むため、店舗に設置された販売情報管理装置を構成する情報処理装置に拡張機能として兼用させることも可能になり、これによりユーザが負担するコストを軽減することができる。
　また、クラウドコンピュータ２１に必要な処理の全部を行わせ、あるいは、必要な処理のうちの少なくとも報知処理や表示情報生成処理をクラウドコンピュータ２１に分担させるようにしてもよく、このように構成すると、店舗や本部に設けられたＰＣ３，１１の他に、スマートフォン２２などの携帯型端末でも報知を出力させ、また、分析結果を表示することができるようになり、これにより店舗や本部の他に外出先などの任意の場所で報知や分析結果を確認することができる。
　また、本実施形態では、店舗に設置されたＰＣ３のモニタ４に分析結果を出力するようにしたが、分析結果の出力装置をＰＣ３とは別に設けることも可能であり、例えば、前記のように本部に設置されたＰＣ１１やスマートフォン２２を分析結果の閲覧装置とする他に、店舗に設置された販売情報管理装置に分析結果の閲覧装置としての機能を付加することも可能である。また、分析結果をプリンタで出力することも可能である。
　また、本実施形態では、店舗に設置されたＰＣ３のモニタ４に分析結果出力画面を表示させるようにしたが、商品モニタリング処理を行うＰＣ３とは別に、必要な入力および出力を行う情報処理装置、特に携帯型情報処理装置、例えばタブレット端末を設けるようにしてもよい。
　本発明にかかる商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法は、商品管理作業を指示する報知を適切かつ有効なタイミングで行うことができる効果を有し、店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法などとして有用である。
１　カメラ
２　レコーダ
４　モニタ
６　入力デバイス
１２　モニタ
２１　クラウドコンピュータ
２２　スマートフォン
３１　監視部
３２　商品モニタリング部
３３　分析部
４１　商品検出部
４２　商品状態検知部
４３　人物検出部
４４　人物状態検知部
４５　報知判定部
４６　報知部
５１　情報蓄積部
５２　集計部
５３　ＧＵＩ制御部
５４　商品状態集計部
５５　人物状態集計部
５６　入力情報取得部
５７　画面生成部（表示情報生成部）

Claims (12)

  1. 　店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリング装置であって、
    　前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、
    　この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、
    　店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、
    　この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、
    　前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、
    　この報知判定部の判定結果に基づいて、前記報知を行う報知部と、
    を備えたことを特徴とする商品モニタリング装置。
  2. 　前記人物状態検知部は、会計を行う顧客が滞在する会計エリアにおける人物滞在状態を検知し、
    　前記報知判定部は、前記人物状態検知部で検知された前記会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態である場合には、前記報知を行わないものとすることを特徴とする請求項１に記載の商品モニタリング装置。
  3. 　前記人物状態検知部は、前記陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、
    　前記報知判定部は、前記人物状態検知部で検知された前記商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態である場合には、前記報知を行わないものとすることを特徴とする請求項１または請求項２に記載の商品モニタリング装置。
  4. 　前記人物状態検知部は、会計を行う顧客が滞在する会計エリア、および前記陳列エリアに陳列された商品を見る顧客が滞在する商品アクセスエリアにおける人物滞在状態を検知し、
    　前記報知判定部は、前記商品状態検知部で検知された商品陳列状態が、商品管理作業を必要とする状態であり、かつ、前記人物状態検知部で検知された前記会計エリアにおける人物滞在状態が、商品管理作業を困難にする状態でなく、かつ、前記人物状態検知部で検知された前記商品アクセスエリアにおける人物滞在状態が、その商品アクセスエリアにおける商品管理作業を困難にする状態でない場合に、前記報知を行うものとすることを特徴とする請求項１から請求項３のいずれかに記載の商品モニタリング装置。
  5. 　前記商品状態検知部は、前記商品陳列状態として、陳列乱れ状態および陳列不足状態の少なくともいずれかを検知し、
    　前記報知部は、前記商品管理作業として、陳列の乱れを解消する整頓作業、および商品の不足を解消する補充作業の少なくともいずれかを店員に指示する報知を行うことを特徴とする請求項１から請求項４のいずれかに記載の商品モニタリング装置。
  6. 　前記報知判定部は、前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に加えて、在庫情報、販売情報および人員配置情報の少なくともいずれかに基づいて、前記報知の可否を判定することを特徴とする請求項１から請求項５のいずれかに記載の商品モニタリング装置。
  7. 　前記商品状態検知部で取得した検知時刻ごとの商品陳列状態に関する情報、および前記報知部で行われた前記報知に関する情報を蓄積する情報蓄積部と、
    　この情報蓄積部に蓄積された情報に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況に関する集計結果を取得する集計部と、
    　この集計部で取得した前記集計結果に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況を統合した表示情報を生成する表示情報生成部と、
    をさらに備えたことを特徴とする請求項１から請求項６のいずれかに記載の商品モニタリング装置。
  8. 　前記商品状態検知部は、前記商品陳列状態として、陳列乱れ状態および陳列不足状態を検知し、
    　ユーザの入力操作に応じて、前記陳列乱れ状態および前記陳列不足状態の各々に対応する報知の種別を選択する入力情報を取得する入力情報取得部をさらに備え、
    　前記集計部は、前記入力情報取得部で取得した入力情報に基づいて、ユーザが選択した種別の報知の発生状況に関する集計結果を取得し、
    　前記表示情報生成部は、前記集計結果に関する前記表示情報を生成することを特徴とする請求項７に記載の商品モニタリング装置。
  9. 　前記人物状態検知部は、前記人物滞在状態として、検知時刻ごとの滞在人数を取得し、
    　前記情報蓄積部は、前記人物状態検知部で取得した検知時刻ごとの滞在人数を蓄積し、
    　前記集計部は、前記情報蓄積部に蓄積された情報に基づいて、前記滞在人数の時間的な推移状況に関する集計結果を取得し、
    　前記表示情報生成部は、前記集計部で取得した前記集計結果に基づいて、前記商品陳列状態の時間的な推移状況および前記報知の発生状況に、前記滞在人数の時間的な推移状況を統合した表示情報を生成することを特徴とする請求項７または請求項８に記載の商品モニタリング装置。
  10. 　前記商品状態検知部で取得した検知時刻ごとの前記商品陳列状態の検知結果を蓄積する情報蓄積部と、
    　この情報蓄積部に蓄積された前記検知時刻ごとの検知結果を所定の集計期間単位で集計して、その集計期間ごとの商品陳列状態を取得する商品状態集計部と、
    　この商品状態集計部で取得した前記集計期間ごとの商品陳列状態に関する表示情報を生成する表示情報生成部と、
    をさらに備えたことを特徴とする請求項１から請求項９のいずれかに記載の商品モニタリング装置。
  11. 　店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する商品モニタリングシステムであって、
    　店舗内を撮影するカメラと、
    　複数の情報処理装置と、
    を有し、
    　前記複数の情報処理装置のいずれかが、
    　前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出する商品検出部と、
    　この商品検出部の検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知する商品状態検知部と、
    　店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出する人物検出部と、
    　この人物検出部の検出結果に基づいて、店舗内における人物滞在状態を検知する人物状態検知部と、
    　前記商品状態検知部の検知結果および前記人物状態検知部の検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定する報知判定部と、
    　この報知判定部の判定結果に基づいて、前記報知を行う報知部と、
    を備えたことを特徴とする商品モニタリングシステム。
  12. 　店舗における陳列エリアを撮影した映像に基づいて、商品の陳列状況を監視する処理を情報処理装置に行わせる商品モニタリング方法であって、
    　前記陳列エリアを撮影した映像に基づいて、前記陳列エリア内の商品を検出するステップと、
    　このステップの検出結果に基づいて、前記陳列エリアにおける商品陳列状態を検知するステップと、
    　店舗内を撮影した映像に基づいて、店舗内に滞在する人物を検出するステップと、
    　このステップの検出結果に基づいて、店舗内における人物滞在状態を検知するステップと、
    　前記商品状態を検知するステップの検知結果および前記人物状態を検知するステップの検知結果に基づいて、商品管理作業を店員に指示する報知の可否を判定するステップと、
    　このステップの判定結果に基づいて、前記報知を行うステップと、
    を有することを特徴とする商品モニタリング方法。
PCT/JP2014/005464 2013-11-27 2014-10-29 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法 WO2015079622A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP14865351.2A EP3076351A4 (en) 2013-11-27 2014-10-29 PRODUCT MONITORING, PRODUCT MONITORING SYSTEM AND PRODUCT MONITORING PROCESS
CN201480073292.XA CN105917371A (zh) 2013-11-27 2014-10-29 商品监控装置、商品监控系统以及商品监控方法
US15/038,509 US10304032B2 (en) 2013-11-27 2014-10-29 Product monitoring device, product monitoring system, and product monitoring method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013-244995 2013-11-27
JP2013244995A JP5728654B1 (ja) 2013-11-27 2013-11-27 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法

Publications (1)

Publication Number Publication Date
WO2015079622A1 true WO2015079622A1 (ja) 2015-06-04

Family

ID=53198600

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2014/005464 WO2015079622A1 (ja) 2013-11-27 2014-10-29 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法

Country Status (5)

Country Link
US (1) US10304032B2 (ja)
EP (1) EP3076351A4 (ja)
JP (1) JP5728654B1 (ja)
CN (1) CN105917371A (ja)
WO (1) WO2015079622A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018012389A1 (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、ユーザ端末装置、および施設運営支援方法
JP2018010373A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、および施設運営支援方法
JP2018010374A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、ユーザ端末装置、および施設運営支援方法
JP2018010372A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、および施設運営支援方法
WO2018159132A1 (ja) * 2017-03-03 2018-09-07 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP2018147139A (ja) * 2017-03-03 2018-09-20 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP2018147138A (ja) * 2017-03-03 2018-09-20 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP2021157726A (ja) * 2020-03-30 2021-10-07 株式会社エヌ・ティ・ティ・データ 商品管理システム、商品管理方法および商品管理プログラム
US11475673B2 (en) 2017-12-04 2022-10-18 Nec Corporation Image recognition device for detecting a change of an object, image recognition method for detecting a change of an object, and image recognition system for detecting a change of an object
US11922482B2 (en) 2018-03-09 2024-03-05 Nec Corporation Self-checkout system, purchased product management method, and purchased product management program

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6699547B2 (ja) * 2014-03-12 2020-05-27 日本電気株式会社 陳列状況解析装置、陳列状況解析方法およびプログラム
JP6226249B2 (ja) * 2015-10-30 2017-11-08 パナソニックＩｐマネジメント株式会社 施設撮像装置、施設画像収集装置、施設画像蓄積装置、および施設画像出力制御装置
US20180300802A1 (en) * 2015-10-30 2018-10-18 Panasonic Intellectual Property Management Co., Lt d. Facility imaging device, facility image collecting device, facility image storage device, facility image output control device, facility operation support device, user terminal device, and facility operation support method
JP6161013B2 (ja) * 2015-10-30 2017-07-12 パナソニックＩｐマネジメント株式会社 施設運営支援装置および施設運営支援方法
JP6238028B2 (ja) * 2016-03-11 2017-11-29 パナソニックＩｐマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
WO2018053847A1 (zh) * 2016-09-26 2018-03-29 达闼科技（北京）有限公司 一种智能库存管理系统、服务器、方法、终端和程序产品
CN109389744A (zh) * 2017-08-14 2019-02-26 上海仁基互联网科技股份有限公司 一种应用基于视觉方法生成订单的自助终端
JP2019049785A (ja) * 2017-09-08 2019-03-28 株式会社日立ビルシステム ロボット管理システム及び商品提案方法
JP6916707B2 (ja) * 2017-10-16 2021-08-11 信越ポリマー株式会社 商品陳列棚のモニタリングシステム
JP7286822B2 (ja) * 2017-10-25 2023-06-05 東芝テック株式会社 商品管理装置及び商品管理プログラム
JP7020860B2 (ja) * 2017-10-25 2022-02-16 東芝テック株式会社 商品管理装置及び商品管理プログラム、商品管理システム
CN111315670B (zh) 2017-10-30 2021-11-26 松下知识产权经营株式会社 货架标签检测装置、货架标签检测方法、以及记录介质
WO2019087519A1 (ja) 2017-10-30 2019-05-09 パナソニックＩｐマネジメント株式会社 棚監視装置、棚監視方法、及び、棚監視プログラム
JP7165860B2 (ja) * 2018-04-04 2022-11-07 パナソニックＩｐマネジメント株式会社 店舗管理方法及び店舗管理システム
US10509949B1 (en) 2019-01-24 2019-12-17 Capital One Services, Llc Method and system for customizing user experience
JP7287015B2 (ja) * 2019-03-14 2023-06-06 富士電機株式会社 商品管理システム及び商品管理方法
JPWO2020195735A1 (ja) * 2019-03-22 2020-10-01
CA3144811A1 (en) * 2019-07-09 2021-01-14 Pricer Ab Stitch images
WO2021033703A1 (ja) * 2019-08-22 2021-02-25 日本電気株式会社 表示制御装置、表示制御方法、プログラム、および表示制御システム
CN111753614A (zh) * 2019-11-01 2020-10-09 北京京东尚科信息技术有限公司 一种商品货架的监控方法和装置
JP6899535B2 (ja) * 2019-11-18 2021-07-07 パナソニックＩｐマネジメント株式会社 業務支援装置、業務支援方法、コンピュータプログラム、及び、業務支援システム
JP2021124865A (ja) * 2020-02-04 2021-08-30 東芝テック株式会社 陳列什器
US20210264503A1 (en) * 2020-02-26 2021-08-26 Toshiba Tec Kabushiki Kaisha Sales management system, sales management device, and control method of sales management device
CN111553889A (zh) * 2020-04-16 2020-08-18 上海扩博智能技术有限公司 货架上商品摆放位置的对比方法、系统、设备和存储介质
US11776205B2 (en) * 2020-06-09 2023-10-03 Ptc Inc. Determination of interactions with predefined volumes of space based on automated analysis of volumetric video
JP2022032784A (ja) * 2020-08-14 2022-02-25 東芝デジタルソリューションズ株式会社 作業内容分析装置、作業内容分析方法、およびプログラム
JP2022038364A (ja) * 2020-08-26 2022-03-10 パナソニックＩｐマネジメント株式会社 業務支援装置、業務支援方法、及び、コンピュータプログラム
CN112309031B (zh) * 2020-09-17 2022-06-07 北京京东乾石科技有限公司 无人货柜混放检测方法、装置、设备及可读存储介质
CN113674049A (zh) * 2021-06-24 2021-11-19 杭州碑石数据技术有限公司 基于图片搜索的商品在架位置识别方法、系统和存储介质
JP2023030341A (ja) * 2021-08-23 2023-03-08 株式会社Retail AI 通知システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0581552A (ja) 1991-07-12 1993-04-02 Omron Corp 商品監視システム
JP2003114968A (ja) * 2001-10-02 2003-04-18 Kao Corp 顧客動線集計装置
JP2004133583A (ja) * 2002-10-09 2004-04-30 Nec Infrontia Corp 店舗管理システムおよびそれに使用するｐｏｓ端末
JP3908047B2 (ja) 2002-02-04 2007-04-25 富士通株式会社 陳列状態監視方法及び陳列状態監視プログラム
JP4456437B2 (ja) 2004-08-06 2010-04-28 株式会社野村総合研究所 画像処理システム、画像処理プログラム及び画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6837436B2 (en) * 1996-09-05 2005-01-04 Symbol Technologies, Inc. Consumer interactive shopping system
US7825792B2 (en) * 2006-06-02 2010-11-02 Sensormatic Electronics Llc Systems and methods for distributed monitoring of remote sites
US7671728B2 (en) * 2006-06-02 2010-03-02 Sensormatic Electronics, LLC Systems and methods for distributed monitoring of remote sites
US20080077510A1 (en) * 2006-09-21 2008-03-27 Polymer Logistics Bv Method And System For Providing Security Surveillance And Shelf Monitoring Functions
US8630924B2 (en) * 2007-08-31 2014-01-14 Accenture Global Services Limited Detection of stock out conditions based on image processing
US7949568B2 (en) * 2007-08-31 2011-05-24 Accenture Global Services Limited Determination of product display parameters based on image processing
US8009864B2 (en) * 2007-08-31 2011-08-30 Accenture Global Services Limited Determination of inventory conditions based on image processing
US8219438B1 (en) * 2008-06-30 2012-07-10 Videomining Corporation Method and system for measuring shopper response to products based on behavior and facial expression
US7954712B2 (en) * 2008-09-12 2011-06-07 Transparent Visibility Holdings, LLC Product, asset, and device tracking, identification, and pricing system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0581552A (ja) 1991-07-12 1993-04-02 Omron Corp 商品監視システム
JP2003114968A (ja) * 2001-10-02 2003-04-18 Kao Corp 顧客動線集計装置
JP3908047B2 (ja) 2002-02-04 2007-04-25 富士通株式会社 陳列状態監視方法及び陳列状態監視プログラム
JP2004133583A (ja) * 2002-10-09 2004-04-30 Nec Infrontia Corp 店舗管理システムおよびそれに使用するｐｏｓ端末
JP4456437B2 (ja) 2004-08-06 2010-04-28 株式会社野村総合研究所 画像処理システム、画像処理プログラム及び画像処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3076351A4

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018012389A1 (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、ユーザ端末装置、および施設運営支援方法
JP2018010373A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、および施設運営支援方法
JP2018010374A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、ユーザ端末装置、および施設運営支援方法
JP2018010372A (ja) * 2016-07-11 2018-01-18 パナソニックＩｐマネジメント株式会社 施設運営支援装置、および施設運営支援方法
WO2018159132A1 (ja) * 2017-03-03 2018-09-07 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP2018147139A (ja) * 2017-03-03 2018-09-20 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP2018147138A (ja) * 2017-03-03 2018-09-20 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
JP7106815B2 (ja) 2017-03-03 2022-07-27 日本電気株式会社 情報処理システム
JP7124269B2 (ja) 2017-03-03 2022-08-24 日本電気株式会社 情報処理システム、情報処理装置、情報処理方法および情報処理プログラム
US11475673B2 (en) 2017-12-04 2022-10-18 Nec Corporation Image recognition device for detecting a change of an object, image recognition method for detecting a change of an object, and image recognition system for detecting a change of an object
US11922482B2 (en) 2018-03-09 2024-03-05 Nec Corporation Self-checkout system, purchased product management method, and purchased product management program
JP2021157726A (ja) * 2020-03-30 2021-10-07 株式会社エヌ・ティ・ティ・データ 商品管理システム、商品管理方法および商品管理プログラム

Also Published As

Publication number Publication date
EP3076351A1 (en) 2016-10-05
US10304032B2 (en) 2019-05-28
JP2015103153A (ja) 2015-06-04
US20160300181A1 (en) 2016-10-13
EP3076351A4 (en) 2016-10-05
JP5728654B1 (ja) 2015-06-03
CN105917371A (zh) 2016-08-31

Similar Documents

Publication Publication Date Title
JP5728654B1 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
US10304015B2 (en) Facility management support apparatus, facility management support system, and facility management support method
JP5942173B2 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP5881022B1 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP6008339B1 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP5796228B2 (ja) 会計業務支援装置、会計業務支援システムおよび会計業務支援方法
JP6319669B2 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP6341388B2 (ja) 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP5866542B1 (ja) 施設管理支援装置、施設管理支援システムおよび施設管理支援方法
JP6098981B2 (ja) 会計業務支援装置、会計業務支援システムおよび会計業務支援方法
JP5866523B2 (ja) 施設利用状況計測装置、施設利用状況計測システムおよび施設利用状況計測方法
US10049333B2 (en) Sales clerk operation management apparatus, sales clerk operation management system, and sales clerk operation management method
US20190156261A1 (en) Facility operation support device, user terminal device, and facility operation support method
JP6024933B2 (ja) 店員作業管理装置、店員作業管理システムおよび店員作業管理方法
JP6161011B2 (ja) 施設管理支援装置、施設管理支援システムおよび施設管理支援方法
JP6260959B2 (ja) 施設運営支援装置、および施設運営支援方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14865351

Country of ref document: EP

Kind code of ref document: A1

REEP Request for entry into the european phase

Ref document number: 2014865351

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2014865351

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 15038509

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE