WO2021205831A1 - 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法 - Google Patents

置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法 Download PDF

Info

Publication number
WO2021205831A1
WO2021205831A1 PCT/JP2021/010805 JP2021010805W WO2021205831A1 WO 2021205831 A1 WO2021205831 A1 WO 2021205831A1 JP 2021010805 W JP2021010805 W JP 2021010805W WO 2021205831 A1 WO2021205831 A1 WO 2021205831A1
Authority
WO
WIPO (PCT)
Prior art keywords
leftover
mask area
detected
area
monitoring
Prior art date
Application number
PCT/JP2021/010805
Other languages
English (en)
French (fr)
Inventor
偉志 渡邊
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to CN202180026915.8A priority Critical patent/CN115428440A/zh
Priority to US17/916,967 priority patent/US20230169773A1/en
Publication of WO2021205831A1 publication Critical patent/WO2021205831A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Definitions

  • the present disclosure detects leftover objects left behind in the monitoring area based on the captured image of the monitoring area captured by the imaging device, and issues an alarm when the leftover objects are detected.
  • the present invention relates to a monitoring device, a leftover object monitoring system equipped with the monitoring device, and a leftover object monitoring method.
  • Abandonment monitoring is generally performed by the observer monitoring the captured image of the monitoring area captured by the surveillance camera (imaging device), but in order to reduce the burden on the observer and improve the accuracy of the abandonment detection, It is required to automatically detect leftover objects based on the captured image of the monitoring area.
  • Patent Document 1 various techniques for automatically detecting leftover objects based on the captured image of the monitoring area captured by the imaging device have been proposed (for example, Patent Document 1).
  • a person image in the monitored area is cut out by finding the difference between the input image of the monitored area and the initial image of the monitored area, which are captured and input at a predetermined time interval, and this predetermined time.
  • a person image that is sequentially obtained at intervals is compared with each other to detect an object image separated from the person image, and when the object image is detected, the leaving time of this object image is measured, and when a predetermined time elapses. I am trying to issue an alarm.
  • the present disclosure has been devised in view of such problems of the prior art, and is a leftover object monitoring device capable of excluding leftover objects that do not require alarm issuance from the alarm issuance target.
  • the main purpose is to provide a left-behind object monitoring system and a left-behind object monitoring method equipped with this.
  • the leftover object monitoring device of the present disclosure detects a leftover object left behind in the monitoring area based on an image captured in the monitoring area captured by the imaging device, and when the leftover object is detected.
  • It is a left-behind object monitoring device that issues an alarm, and includes a processor that performs a process of detecting the left-behind object.
  • the processor detects an object that appears in the monitoring area from the captured image.
  • Each detected object is tracked between the captured images, and based on the tracking result for each detected object, the object that does not displace beyond a predetermined time is detected and detected as the leftover object. It is determined whether or not the leftover object exists in the mask area set in advance in the monitoring area, and if it is determined that the detected leftover object exists in the mask area, it is determined. It is characterized in that the leftover object is excluded from the notification target of the alarm.
  • FIG. Schematic configuration diagram of the leftover monitoring system according to the first embodiment of the present disclosure.
  • Block diagram showing the schematic configuration of the leftover monitoring device of the leftover monitoring system
  • the figure which shows the example of the judgment processing in the report target judgment part of the left-behind object monitoring device The figure which shows the example of the judgment processing in the report target judgment part of the left-behind object monitoring device.
  • the first invention made to solve the above-mentioned problems detects an abandoned object left in the monitoring area based on an image captured in the monitoring area imaged by an imaging device, and the abandoned object causes the abandoned object.
  • It is a left-behind object monitoring device that issues an alarm when it is detected, and includes a processor that performs a process of detecting the left-behind object, and the processor appears in the monitoring area from the captured image.
  • An object is detected, each detected object is tracked between the captured images, and based on the tracking result for each detected object, the object that does not displace beyond a predetermined time is detected as the leftover object. Then, it is determined whether or not the detected leftover object exists in the mask area preset in the monitoring area, and it is determined that the detected leftover object exists in the mask area. In that case, the leftover object is excluded from the alarm issuance target.
  • leftover objects determined to exist in the mask area set in advance in the monitoring area can be excluded from the alarm issuance target.
  • the number of alarms to be issued can be suppressed, so that the burden on the observer can be reduced.
  • the second invention is characterized in that, in the first invention, the processor generates a setting screen for setting the mask area in the monitoring area.
  • the user can easily set the mask area with a simple operation.
  • the processor determines the type of the detected leftover object.
  • the mask area is set in association with the type of the leftover object, and in the processor, the detected leftover object is the mask area. If it is determined that it exists in the mask area, it is further determined whether or not the type of the leftover object is the type associated with the mask area, and the type of the leftover object is set in the mask area. It is characterized in that the leftover object is excluded from the alarm issuance target only when it is determined that the type is associated with the alarm.
  • the leftovers are alerted. It can be excluded from the notification target. As a result, it is possible to exclude leftover objects that do not require an alarm from being issued as an alarm, so that the burden on the observer can be further reduced.
  • the processor in the third invention or the fourth invention, the processor generates an image in which a frame image surrounding the mask area is superimposed on the captured image, and the display form of the frame image is changed.
  • the feature is that it is determined according to the type of the leftover object associated with the mask area.
  • the representative position of the leftover object determined to be of the type associated with the mask area is detected and detected. It is characterized in that the range of the mask area is changed based on the statistical data of the representative position created by accumulating the representative positions for a predetermined period.
  • the mask area is set in association with a usage period indicating a period for which the mask area is used
  • the processor is set in association with a usage period indicating a period for which the mask area is used. It is characterized in that it is determined whether or not the detected leftover object exists in the mask area only for the mask area for which the period of use is valid.
  • the processor detects the detected representative position of the leftover object, and based on the detected representative position.
  • the feature is to determine whether or not the leftover object is included in the mask area.
  • the processor when the processor detects a plurality of the leftover objects in one mask area, the processor subsequently performs the subsequent invention.
  • the determination process is characterized in that it is performed for each of the leftover objects.
  • the tenth invention is issued by the left-behind object monitoring device according to any one of the first to ninth inventions, the imaging device for imaging the monitoring area, and the left-behind object monitoring device. It is a left-behind object monitoring system equipped with a notification device for notifying the user of the alarm that has been issued.
  • the eleventh invention detects an abandoned object left in the monitoring area based on an image captured in the monitoring area captured by the imaging device, and issues an alarm when the abandoned object is detected. It is a method of monitoring leftover objects to be notified, in which a step of acquiring an image of the monitoring area captured by the imaging device and an object appearing in the monitoring area are detected from the captured image and detected. A step of tracking between the captured images for each object and a step of detecting the object that does not displace beyond a predetermined time based on the detected tracking result for each object as the leftover object are detected. A step of determining whether or not the leftover object exists in a mask area preset in the monitoring area, and when it is determined that the leftover object exists in the mask area, It is characterized by including a step of excluding the leftover object from the target of issuing an alarm.
  • the left-behind object monitoring system 1 detects the left-behind object left behind in the monitoring area based on the captured image of the monitoring area imaged by the imaging device 2, and issues an alarm when the left-behind object is detected. It is a system for reporting, and can be applied to monitor the leaving of suspicious objects in spaces used by an unspecified number of people such as stations, airports, commercial facilities, shopping districts, and underground malls.
  • the leftover object monitoring system 1 is applied to the monitoring of the abandoned object left behind in, for example, a commercial facility, a shopping district, an underground shopping mall, etc.
  • a commercial facility a shopping district, an underground shopping mall, etc.
  • abandoned items such as store signboards (store signboards) and cleaning signs that do not require an alarm, so such abandonment does not require an alarm.
  • an object can be excluded from the alarm issuance target (hereinafter, simply referred to as "alarm target"), the burden on the observer can be reduced.
  • FIG. 1 is a schematic configuration diagram of a leftover monitoring system 1 according to the first embodiment of the present disclosure.
  • the left-behind object monitoring system 1 includes an image pickup device 2, a left-behind object monitoring device 3, and a display device 4.
  • the display device serves as a notification device for notifying the observer of an alarm.
  • the leftover object monitoring device 3 is connected to the image pickup device 2 and the display device 4 via wired or wireless communication (for example, Wi-Fi (registered trademark)) such as LAN (Local Area Network).
  • Wi-Fi registered trademark
  • LAN Local Area Network
  • connection form between the left-behind object monitoring device 3 and the image pickup device 2 and the display device 4 is not particularly limited, and may be, for example, a connection via a network such as the Internet, or a general-purpose interface (for example, USB (Universal Serial Bus) interface) may be used to connect to each other with a communication cable.
  • a network such as the Internet
  • a general-purpose interface For example, USB (Universal Serial Bus) interface
  • USB Universal Serial Bus
  • the image pickup device 2 is a general image pickup device such as a CCD camera, and is installed on a wall, a ceiling, a pole, or the like in various places such as a commercial facility, a shopping district, or an underground mall, and a predetermined monitoring area can be used as a still image or a still image. Captured in chronological order as a moving image.
  • the form, function, arrangement, quantity, and the like of the imaging device 2 are not particularly limited as long as the monitoring area can be imaged in time series, and various changes can be made.
  • the image pickup device 2 may be a panoramic camera installed on a wall or the like and capable of photographing 180 degrees by one unit, or an omnidirectional camera installed on a ceiling or the like and capable of photographing 360 degrees by one unit.
  • the captured images of the monitoring area captured in time series by the image pickup device 2 are input to the leftover object monitoring device 3.
  • the display device 4 is a general display device such as a monitor (display) installed in a monitoring room or the like where an observer performs monitoring work, and is a broadcast image output from the left-behind object monitoring device 3 (see FIG. 9). Is displayed. The details of the broadcast image will be described later.
  • the form, function, arrangement, quantity, and the like of the display device 4 are not particularly limited as long as the broadcast image can be displayed, and various changes can be made.
  • the display device 4 may be a display screen of a mobile terminal carried by an observer when leaving the monitoring room due to patrol or the like.
  • the left-behind object monitoring device 3 is a general computer device having a known configuration, detects left-behind objects left behind in the monitoring area based on the captured image input from the image pickup device 2, and leaves behind. When an object is detected, a notification image for issuing an alarm is generated and output to the display device 4. Further, the left-behind object monitoring device 3 outputs the captured image input from the image acquisition unit 13 to the display device 4 as it is until the left-behind object is detected.
  • FIG. 2 is a block diagram showing a schematic configuration of the left-behind object monitoring device 3.
  • the leftover object monitoring device 3 has a known hardware configuration, and is a processor 101 that comprehensively executes each process in the leftover object monitoring system 1 based on a predetermined control program (for example, a leftover object monitoring program).
  • RAM 102 which is a volatile memory that functions as a work area of the processor 101
  • ROM 103 which is a non-volatile memory that stores control programs and data executed by the processor 101, and programs necessary for the operation of the leftover monitoring device 3.
  • a storage unit 104 having a storage for storing data, a display unit 105 having a monitor for displaying information necessary for the user, an input unit 106 having an input device such as a keyboard or a mouse that enables the user's input operation, via a network. It is provided with a communication unit 107 or the like having a communication module for executing the communication.
  • Each function of the leftover monitoring device 3 can be realized by the processor 101 executing a predetermined control program in the hardware configuration shown in FIG.
  • the leftover object monitoring device 3 is not limited to a computer device, and other information processing devices (servers, etc.) capable of performing the same function can also be used. Further, at least a part of the function of the leftover monitoring device may be replaced by processing by other known hardware.
  • the left-behind object monitoring device 3 includes a mask area information setting unit 11, a mask area information storage unit 12, an image acquisition unit 13, an image processing unit 14, and a broadcast image generation unit 15. Includes.
  • the image processing unit 14 has an object tracking unit 21, a left-behind object detection unit 22, a left-behind object type determination unit 23, and a notification target determination unit 24. Each of the above units is controlled by a control unit (not shown).
  • the mask area information setting unit 11 generates a mask area information setting screen for setting information about the mask area preset in the monitoring area (hereinafter referred to as “mask area information”), and is a left-behind object monitoring device. It is output and displayed on the display unit 105 (FIG. 2) of No. 3. The user of the left-behind object monitoring device 3 sets the mask area information by operating an input device such as a keyboard or a mouse and inputting various information on the mask area information setting screen.
  • an input device such as a keyboard or a mouse
  • the mask area information includes the name of the mask area, the range of the mask area, and the type of leftovers associated with the mask area (hereinafter referred to as "designated leftovers").
  • the range of the mask area is an arbitrary area set in the monitoring area. In the present embodiment, the range of the mask area is set to a rectangle, but the range is not limited to this, and can be set to various other shapes.
  • the mask area information includes the display form of the mask area frame image indicating the range of the mask area and the usage period of the mask area.
  • the mask area frame image is a rectangular broken line image surrounding the mask area, and is colored according to the designated leftover object.
  • the display form of the mask area frame image is not limited to the broken line image, and various other forms are possible.
  • the mask area frame image may be a solid line image. Further, it is not essential to color the mask area frame image according to the designated leftover object, and it may not be performed if it is unnecessary.
  • the usage period of the mask area is information indicating the period such as the time zone and the day of the week when the mask area is used.
  • the mask area is set in association with the designated leftover object, so if the usage period of the mask area is further associated with the mask area, when the designated leftover object is actually used (when placed). ) Only, it is possible to use the mask area corresponding to the designated leftover object. As a result, the number of determination processes described later in the notification target determination unit can be suppressed, so that the load of the determination processing in the notification target determination unit can be reduced.
  • the designated abandoned item is a store sign
  • the store sign is only used during the corresponding store business hours and business days, so the mask area is set to the time zone and day of the week when the store sign is actually used. Only need to be used.
  • the designated leftover object is a construction cone
  • the construction cone is actually used in the mask area because the construction cone is used only when the corresponding construction or work is performed. It should be used only during the time and day of the week corresponding to the construction period.
  • the mask area information can include various other information in addition to the above information.
  • image data of a designated leftover object in the mask area may be further included.
  • FIG. 3 is a diagram showing an example of the mask area information setting screen 31 generated by the mask area information setting unit 11.
  • the mask area information setting screen 31 includes a mask area setting screen 32 displayed on the left side and a designated leftover setting screen 33 displayed on the right side. Further, on the lower side of the designated left-behind object setting screen 33, a screen switching button 34 for switching the designated left-behind object setting screen 33 to the usage period setting screen 36 described later is displayed.
  • the captured image of the monitoring area captured by the imaging device 2 is displayed.
  • a captured image of a predetermined monitoring area of the shopping district is displayed.
  • a check box for designating the designated left-behind object corresponding to the mask area is displayed together with a color for coloring the mask area frame image according to the designated left-behind object.
  • a store sign, a bulletin board, a cleaning sign, and a construction cone are shown as designated leftovers, the store sign is red, the bulletin board is blue, the cleaning sign is yellow, and the construction cone. Is associated with green as the color that colors the mask area frame image.
  • the check box on the designated left-behind object setting screen 33 is operated. , Designate Specify the leftovers. In the example of FIG. 3, a store signboard is designated. Next, the range of the mask area is set by designating a desired area in the mask area setting screen 32 using a mouse or the like.
  • the position where the store signboard is placed may change daily.
  • the position of the store signboard may change due to contact with passers-by or the like. Therefore, the range of the mask area may be set wider than the range assumed as the position where the store signboard is placed so that the position of the store signboard can be changed.
  • the mask area A1 is set on the lower right side of the mask area setting screen 32.
  • the mask area A1 is shown by being surrounded by the mask area frame image 35. Since the store signboard is designated as the designated leftover object of the mask area A1 and the store signboard is associated with red, the mask area frame image 35 is colored in red. In this way, in the example of FIG. 3, the mask area A1 is set in association with the store signboard.
  • the range of the mask area is set after setting the designated leftover object, but the range of the mask area and the order of setting the designated leftover object are not limited to this, and the mask is used.
  • the designated leftover object may be set.
  • the mask area frame image 35 is displayed in black or the like, and when the designated leftover object is set, the color of the mask area frame image 35 becomes the designated leftover object. It is preferable to change to the associated color.
  • FIG. 4 shows a usage period setting screen 36 for setting the usage period of the mask area.
  • the display of the usage period setting screen 36 can be switched from the designated left-behind object setting screen 33 by operating the screen switching button 34.
  • a time zone and a day of the week are set as the usage period.
  • the period of use is not limited to this, and may be, for example, a unit such as a day, a week, a month, or a year.
  • the usage period may be set to a continuous period between the specified start date and time and the end date and time by specifying the start date and time and the end date and time.
  • the usage period is a periodic usage period, it is preferable to set the time zone and the day of the week when the mask area function is ON to be repeated over a predetermined period.
  • the time zone in which the mask area is used is set to "8:00 to 22:00", and the time zone in which the mask area is not used, That is, the time zone for turning off the mask area function is set to "22:00 to 8:00".
  • the day of the week when the mask area is used is set to "Monday to Friday"
  • the day of the week when the mask area is not used is turned off.
  • the day of the week) is set to "Saturday, Sunday". This is because the business days of the stores corresponding to this store sign are from Monday to Friday, and the store sign is not displayed on Saturday and Sunday.
  • the mask area information set by the mask area information setting unit 11 is stored in the mask area information storage unit 12.
  • the range of the mask area is defined by the upper left coordinates of the rectangular frame of the mask area frame image and the lower right coordinates on the mask area setting screen 32.
  • FIG. 5 is a diagram showing an example of mask area information stored in the mask area information storage unit 12.
  • the mask area information includes a "mask area name” indicating the name of the mask area, a "designated leftover object” indicating the designated leftover object of the mask area associated with the "mask area name”, and a mask.
  • the "frame image coordinates” indicating the coordinates of the area frame image, the “frame coordinate color” indicating the color of the mask area frame image, and the "usage period” indicating the usage period of the mask area are included.
  • FIG. 5 is a diagram showing an example of mask area information stored in the mask area information storage unit 12.
  • the mask area information includes a "mask area name” indicating the name of the mask area, a "designated leftover object” indicating the designated leftover object of the mask area associated with the "mask area name”, and a mask.
  • the image acquisition unit 13 is connected to the image pickup device 2 and acquires the captured image of the monitoring area from the image pickup device 2.
  • the image acquisition unit 13 is connected to the image processing unit 14 and the broadcast image generation unit 15, and the captured image acquired by the image acquisition unit 13 from the image pickup device 2 is input to the image processing unit 14 and the broadcast image generation unit 15. NS.
  • the image processing unit 14 acquires an captured image from the image acquisition unit 13. If the captured image is a still image captured at a predetermined time interval, it is acquired as the still image data, and if the captured image is a moving image, the still image data (image) extracted from the moving image at a predetermined time interval. Acquire as frame data).
  • the captured image (still image data) acquired by the image processing unit 14 from the image acquisition unit 13 is processed by the object tracking unit 21, the leftover object detection unit 22, the leftover object type determination unit 23, and the alarm target determination unit 24. Will be done.
  • the object tracking unit 21 detects an object appearing in the monitoring area (hereinafter referred to as “appearing object”) from the captured image, and tracks each detected appearing object between the captured images after the detection of the appearing object. ..
  • the appearing object can be, for example, a paper bag, a store sign, a cleaning sign, a bag, or the like.
  • the detection of the appearing object is performed by comparing the background image captured in advance with the captured image, or by comparing two captured images adjacent to each other in time series. Specifically, the degree of difference (difference or correlation value) in the pixel values (for example, luminance value) of the corresponding pixels between the captured images to be compared is obtained, and the obtained degree of difference exceeds a predetermined threshold value. Is extracted, and the area where the pixels extracted in close proximity are grouped together is detected as an appearing object. When a appearing object is detected from the captured image, an individual identification code is assigned to each detected appearing object, and the captured image is tracked after the detection of the appearing object.
  • the leftover object detection unit 22 detects the leftover object based on the tracking result for each appearing object by the object tracking unit 21. Specifically, for each appearing object detected by the object tracking unit 21, the displacement of the appearing object over time in the captured image is obtained, and the appearing object that does not displace beyond a predetermined time, that is, a predetermined value. Appearing objects that have been stationary for more than the specified time are detected as leftover objects. When the leftover object is detected, a unique identification code is assigned to each detected leftover object, and the image is tracked between the captured images after the detection of the leftover object. When a leftover object is detected, the detection result is input to the broadcast image generation unit 15.
  • the left-behind object type determination unit 23 determines the type of the left-behind object detected by the left-behind object detection unit 22.
  • the type of leftover object can be determined by using a known image recognition technique such as a discriminator by deep learning. For example, it is preferable to use a classifier that identifies the type of the leftover object based on the shape feature and the texture feature of the leftover object detected from the captured image. In this case, prepare a database in which the correspondence between the shape feature and texture feature of the leftover object and the type of the leftover object is stored in advance.
  • the method for identifying the type of leftover object is not particularly limited, and various conventionally known methods can be used.
  • the type of the leftover object determined by the leftover object type determination unit 23 is input to the broadcast image generation unit 15.
  • the alarm target determination unit 24 determines whether or not the abandoned object detected by the abandoned object detection unit 22 is the alarm target. When a plurality of leftover objects are detected by the leftover object detection unit 22, a determination process is performed for each of the leftover objects.
  • the determination process in the alarm target determination unit 24 is performed with reference to the mask area information stored in the mask area information storage unit 12.
  • the mask area information includes the range of the mask area (coordinates of the mask area frame image) and the designated leftover object of the mask area. Further, in this determination process, only the mask area for which the usage period is valid is used. If a plurality of mask areas are set in the monitoring area, the determination process is performed for each mask area.
  • the leftover object detected by the leftover object detection unit 22 it is determined whether or not the leftover object detected by the leftover object detection unit 22 exists in the mask area. This determination can be made using a known image analysis technique. If it is determined that the detected leftover object does not exist in the mask area, the leftover object is determined to be subject to notification.
  • the abandoned object is determined to be an abandoned object that does not require an alarm (hereinafter referred to as "non-reporting target"). do.
  • the leftover object is determined to be subject to notification.
  • the notification target determination unit 24 determines only the leftover objects that exist in the mask area and are determined to be the designated leftover objects in the mask area as non-reporting targets, and leave other objects. All items are judged as subject to notification.
  • FIG. 6 is a diagram showing an example of determination processing in the alarm target determination unit 24.
  • the mask area A1 is preset on the lower right side of the monitoring area, and the designated leftover item of the mask area A1 is the store signboard. Since the store signboard is associated with red, the mask area frame image 35 is colored in red.
  • the alarm target determination unit 24 determines whether or not the paper bag 41 and the store signboard 42 exist in the mask area A1. As described above, this determination process is performed for each leftover object. In the example of FIG. 6B, it is determined that the paper bag 41 does not exist in the mask area A1, and the store sign 42 is determined to exist in the mask area A1. Therefore, the paper bag 41 is determined to be the subject of notification.
  • the notification target determination unit 24 further determines whether or not the store signboard 42 determined to exist in the mask area A1 is a designated leftover object in the mask area A1. Since the designated leftover item in the mask area A1 is the store signboard, the store signboard 42 is determined to be the designated leftover item. Therefore, the store signboard 42 is determined to be a non-reporting target (see FIG. 6C).
  • FIG. 7 is a diagram showing an example of the determination process in that case.
  • the mask area A2 is preset in the lower center of the monitoring area, and the designated leftover object in the mask area A2 is the cleaning signboard. Since the cleaning signboard is associated with yellow, the mask area frame image 35 is colored in yellow.
  • the alarm target determination unit 24 determines whether or not the cleaning signboard 43 and the bag 44 exist in the mask area A2. As described above, this determination process is performed for each leftover object. In the example of FIG. 7B, it is determined that both the cleaning signboard 43 and the bag 44 are present in the mask area A2.
  • the alarm target determination unit 24 further determines whether or not the cleaning signboard 43 and the bag 44 determined to exist in the mask area A2 are the designated leftover objects in the mask area A2. Since the designated leftover object in the mask area A2 is a cleaning signboard, the cleaning signboard 43 is determined to be a designated leftover object. Therefore, the cleaning signboard 43 is determined to be a non-reporting target. On the other hand, the bag 44 is determined not to be a designated leftover object. Therefore, the bag 44 is determined to be the subject of notification (see FIG. 7C).
  • FIG. 8 is a diagram showing an example of the determination process in that case. First, as shown in FIG. 8A, it is assumed that the mask area A1 is preset on the lower right side of the monitoring area, and the designated leftover item of the mask area A1 is the store signboard. Since the store signboard is associated with red, the mask area frame image 35 is colored in red.
  • the notification target determination unit 24 determines whether or not the store signboard 42 and the bag 44 exist in the mask area A1. As described above, this determination process is performed for each leftover object.
  • FIG. 8B In this example, it is determined that both the store signboard 42 and the bag 44 are present in the mask area A1.
  • the notification target determination unit 24 further determines whether or not the store signboard 42 and the bag 44 determined to exist in the mask area A1 are the designated leftover items in the mask area A1. Since the designated leftover item in the mask area A1 is the store signboard, the store signboard 42 is determined to be the designated leftover item. Therefore, the store signboard 42 is determined to be non-reporting target. On the other hand, the bag 44 is determined not to be a designated leftover object. Therefore, the bag 44 is determined to be the subject of notification (see FIG. 8C).
  • the leftovers detected by the leftovers detection unit 22 are given a unique identification code for each leftovers, a plurality of leftovers are detected overlapping each other. Even if this is the case, individual leftovers can be identified. Therefore, even when a plurality of leftovers are detected overlapping each other, it is necessary to determine whether or not each leftover is present in the mask area, and to determine the type of each leftover. Is possible.
  • the determination result in the notification target determination unit 24 is input to the notification image generation unit 15.
  • the notification image generation unit 15 generates a notification image for issuing an alarm about the notification target based on the determination result in the notification target determination unit 24. Non-alarm targets are excluded from alarm alert targets. Specifically, the broadcast image generation unit 15 adds a notification frame image surrounding the notification target, information indicating the type of leftover object, and a mask indicating a mask area to the captured image input from the image acquisition unit 13. The area frame image is superimposed to generate a notification image for issuing an alarm. It should be noted that the superimposition of the mask area frame image is not essential in the broadcast image, and the display and non-display of the mask area frame image may be selected and set.
  • the alarm frame image 51 should have a conspicuous color such as red or yellow. Further, the alarm frame image 51 may be blinked, or characters or pictures indicating the alarm may be displayed in the vicinity of the frame image. In the present embodiment, characters indicating the type of the leftover object are used as the information indicating the type of the leftover object.
  • the information indicating the type of the leftover object is not limited to this, and may be, for example, a picture or a symbol indicating the type of the leftover object.
  • 9 (a) to 9 (c) are diagrams showing an example of the broadcast image generated by the broadcast image generation unit 15.
  • FIG. 9A is a diagram showing an example corresponding to the determination process shown in FIG.
  • a paper bag 41 and a store signboard 42 are detected as leftover objects
  • the paper bag 41 is determined to be a notification target
  • the store signboard 42 is determined to be a non-reporting target. Therefore, the notification image P1 is generated by superimposing the notification frame image 51 surrounding the paper bag 41, which is the notification target, on the captured image.
  • the character 52 “paper bag” is further superimposed on the captured image as information indicating the type of the leftover object.
  • the mask area frame image 35 showing the mask area A1 is further superimposed on the captured image. Since the store signboard is associated with red, the mask area frame image 35 is colored in red.
  • FIG. 9B is a diagram showing an example corresponding to the determination process shown in FIG. 7.
  • the cleaning signboard 43 and the bag 44 are detected as leftover objects
  • the cleaning signboard 43 is determined to be a non-reporting target
  • the bag 44 is determined to be a reporting target. Therefore, the notification image P2 is generated by superimposing the notification frame image 51 surrounding the bag 44, which is the notification target, on the captured image.
  • the character 52 “bag” is further superimposed on the captured image as information indicating the type of the leftover object.
  • the mask area frame image 35 showing the mask area A2 is further superimposed on the captured image. Since the cleaning signboard is associated with yellow, the mask area frame image 35 is colored in yellow.
  • FIG. 9 (c) is a diagram showing an example corresponding to the determination process shown in FIG.
  • the store signboard 42 and the bag 44 are detected as leftover objects, the store signboard 42 is determined to be non-reporting target, and the bag 44 is determined to be reporting target. Therefore, the notification image P3 is generated by superimposing the notification frame image 51 surrounding the bag 44, which is the notification target, on the captured image. Further, in the example of FIG. 9C, since the leftover object to be notified is the bag 44, the character 52 “bag” is further superimposed on the captured image as information indicating the type of the leftover object. In addition, in the example of FIG. 9C, the mask area frame image 35 showing the mask area A1 is further superimposed on the captured image. Since the store signboard is associated with red, the mask area frame image 35 is colored in red.
  • the broadcast image generated by the broadcast image generation unit 15 is output to the display device 4. Further, the broadcast image generation unit 15 outputs the captured image input from the image acquisition unit 13 to the display device 4 as it is until the leftover object detection unit 22 detects the leftover object.
  • the alarm is issued by the alarm voice or the blinking of the alarm lamp by using the voice output function of the display device or the alarm device linked with the display device. You may do so. This makes it possible to draw more attention to the watchman.
  • the image acquisition unit 13 acquires an captured image from the image pickup device 2 and inputs it to the image processing unit 14 and the broadcast image generation unit 15 (step ST101). Subsequently, the object tracking unit 21 detects an appearing object that appears in the monitoring area from the captured image (step ST102). If the appearing object is detected (step ST102: Yes), the process proceeds to step ST103, and if the appearing object is not detected (step ST102: No), the process returns to step ST101.
  • step ST103 the object tracking unit 21 starts tracking between the captured images after the detection of the appearing object for each detected appearing object.
  • the abandoned object detection unit 22 detects an appearing object that does not displace beyond a predetermined time as an abandoned object based on the tracking result of each appearing object by the object tracking unit 21. If the leftover object is detected (step ST104: Yes), the process proceeds to step ST105, and if the leftover object is not detected (step ST104: No), the process returns to step ST101. When returning to step ST101, in the next step ST102, a newly detected appearing object other than the already detected appearing object is detected.
  • step ST105 the left-behind object type determination unit 23 determines the type of left-behind object detected by the left-behind object detection unit 22. As described above, this determination process is performed for each leftover object. The same applies to the subsequent determination procedure.
  • the alarm target determination unit 24 determines whether or not the leftover object detected by the leftover object detection unit 22 exists in the mask area preset in the monitoring area (). 6 (b), 7 (b), 8 (b)). As described above, in this determination process, only the mask area for which the usage period is valid is used. If a plurality of mask areas are set in the monitoring area, the determination process is performed for each mask area.
  • step ST106: Yes When it is determined that the leftover object detected by the leftover object detection unit 22 exists in the mask area (step ST106: Yes), the process proceeds to step ST107, and when it is determined that the leftover object does not exist in the mask area (step ST106: Yes). Step ST106: No) proceeds to step ST109.
  • step ST107 the alarm target determination unit 24 further determines whether or not the type of the leftover object is the designated leftover object in the mask area (FIGS. 6 (c), 7 (c), See FIG. 8 (c)).
  • step ST107: Yes the process proceeds to step ST108, and when it is determined that the leftover object is not the designated leftover object (step ST107: Yes). No) proceeds to step ST109.
  • step ST108 the leftover object is determined to be a non-reporting target, and then the process is terminated.
  • step ST109 the leftover object is determined to be the target of notification, and then the process is terminated.
  • the leftovers determined to exist in the mask area preset in the monitoring area can be excluded from the alarm issuance target.
  • the number of alarms to be issued can be suppressed, so that the burden on the observer can be reduced.
  • only when it is determined that the type of the leftover object determined to exist in the mask area is the type of the leftover object associated with the mask area.
  • the leftovers can be excluded from the alarm issuance target. As a result, it is possible to exclude leftover objects that do not require an alarm from being issued as an alarm, so that the burden on the observer can be further reduced.
  • the leftover monitoring system 1 according to the second embodiment of the present disclosure will be described with reference to FIGS. 11 to 13.
  • This second embodiment is different from the first embodiment shown in FIG. 1 in that the image processing unit 14 of the left-behind object monitoring device 3 further has a representative position detecting unit 25. Since other points are the same as those of the first embodiment described above, the same reference numerals are given and the description thereof will be omitted.
  • the representative position detection unit 25 detects the representative position of the leftover object by using a known image analysis technique.
  • a representative position of the leftover object for example, the position of the center of gravity or the position of the center of the lower end can be used.
  • FIG. 12 is a diagram showing an example of a representative position of an abandoned object
  • FIG. 12 (a) shows an example of using the center of gravity as the representative position
  • FIG. 12 (b) shows an example of using the center of the lower end as the representative position.
  • the store signboard 42 is detected as an abandoned object
  • the representative position detection unit 25 detects the center of gravity position 61 of the store signboard 42 as the representative position of the store signboard 42.
  • the cleaning signboard 43 is detected as an abandoned object
  • the representative position detection unit 25 detects the position 62 at the center of the lower end of the cleaning signboard 43 as the representative position of the cleaning signboard 43.
  • the alarm target determination unit 24 determines whether or not the leftover object exists in the mask area based on the representative position of the leftover object. Specifically, when the representative position of the leftover object exists in the mask area, it is determined that the leftover object exists in the mask area.
  • the representative position of the leftover object exists in the mask area.
  • FIG. 12A a part of the right side of the store signboard 42 protrudes from the mask area A1, but the center of gravity position 61 of the store signboard 42 exists in the mask area A1, so that the store signboard 42 is , It is determined that it exists in the mask area A1.
  • FIG. 12A a part of the right side of the store signboard 42 protrudes from the mask area A1, but the center of gravity position 61 of the store signboard 42 exists in the mask area A1, so that the store signboard 42 is , It is determined that it exists in the mask area A1.
  • FIG. 12A a part of the right side of the store signboard 42 protrudes from the mask area A1, but the center of gravity position 61 of
  • the representative position of the leftover object is not limited to the position of the center of gravity or the position of the center of the lower end. Various other positions such as the position of can be used. During the actual determination process, a part or the lower end of the leftover object may be hidden behind a passerby or another leftover object, and the position of the center of gravity or the center of the lower end of the leftover object may not be detected. .. In such a case, the position of the center of the upper end, the position of the upper left end, the position of the upper right end, and the like may be used as representative positions of the leftover object.
  • the range of the mask area is changed based on the statistical data of the representative position of the designated leftover object in the mask area.
  • the position of a signboard such as a store signboard 42 or a cleaning signboard 43 may change every day.
  • the position of the signboard may change due to contact with passersby. Therefore, it is useful to change the range of the mask area according to the actual placement position of the designated leftover object.
  • the data of the representative position of the designated leftover object detected by the leftover object detection unit 22 is accumulated for a predetermined period, and the statistical data of the representative position of the designated leftover object is created. Then, the created statistical data is analyzed using a known statistical analysis technique, and the range of the mask area is changed according to the actual placement position of the designated leftover object.
  • the range of the mask area is changed by moving the position of the mask area. Specifically, the position of the mask area may be moved so that the representative position of the designated leftover object is located within a predetermined distance from the center position of the range of the mask area.
  • the range of the mask area is defined by the upper left coordinates and the lower right coordinates of the rectangular frame of the mask area frame image, so that the center position (coordinates) of the mask area range is the mask area frame. It can be obtained based on the upper left coordinates and the lower right coordinates of the image.
  • the predetermined distance from the center position of the range of the mask area may be set to a distance that can include the entire designated leftover object within the range of the mask area.
  • FIG. 13 is a diagram showing an example in which the range of the mask area is changed.
  • FIG. 13A shows an example in which the range of the mask area A1 is changed, A1-1 shows the mask area A1 before the change, and A1-2 shows the mask area A1 after the change. As shown in the figure, after the change, the position of the mask area A1 is slightly moved to the right.
  • FIG. 13B shows an example in which the range of the mask area A2 is changed, A2-1 shows the mask area A2 before the change, and A2-2 shows the mask area A2 after the change. As shown in the figure, after the change, the position of the mask area A2 is slightly moved to the left.
  • the range of the mask area was changed by moving the position of the mask area, but the change of the range of the mask area is not limited to this.
  • the range of the mask area may be changed by changing the size of the mask area.
  • the range of the mask area may be changed by increasing or decreasing the size of the mask area based on the statistical data of the representative position of the designated leftover object.
  • the range of the mask area may be changed by changing the shape of the mask area. In this case, the range of the mask area is changed by changing the shape of the mask area from the initially set rectangle to various other shapes based on the statistical data of the representative position of the designated leftover object. It is good to do it.
  • the range of the mask area is set more accurately according to the actual placement position of the designated leftover object. It becomes possible to do.
  • the present disclosure has been described above based on specific embodiments, these embodiments are merely examples, and the present disclosure is not limited to these embodiments. It should be noted that not all of the components of the left-behind object monitoring device, the left-behind object monitoring system provided with the left-behind object monitoring device, and the left-behind object monitoring method according to the present embodiment shown in the above-described embodiment are not necessarily all essential, and at least all of the components of the present disclosure are disclosed. It is possible to select as appropriate as long as it does not deviate from the range.
  • the leftovers monitoring device, the leftovers monitoring system equipped with the leftovers monitoring device, and the leftovers monitoring method according to the present disclosure can exclude leftovers that do not require an alarm from being issued as an alarm. It is useful as a left-behind object monitoring device, a left-behind object monitoring system equipped with the left-behind object monitoring device, a left-behind object monitoring method, and the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)
  • Image Analysis (AREA)
  • Emergency Alarm Devices (AREA)

Abstract

【課題】警報発報が不要な置去り物を警報の発報対象から除外することを可能とする。 【解決手段】撮像装置により撮像された監視領域の撮像画像に基づいて監視領域内に置き去りにされた置去り物を検出し、置去り物が検出された場合に警報を発報する置去り物監視装置3は、置去り物を検出する処理を行うプロセッサを備えており、プロセッサは、撮像画像から監視領域内に出現した物体を検出し、検出された物体毎に撮像画像間で追跡し、検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない物体を置去り物として検出し、検出された置去り物が、監視領域内に予め設定されたマスクエリア内に存在するか否かを判定し、検出された置去り物がマスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外する構成とする。

Description

置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
 本開示は、撮像装置により撮像された監視領域の撮像画像に基づいて監視領域内に置き去りにされた置去り物を検出し、置去り物が検出された場合に警報を発報する置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法に関する。
 従来、駅、空港、商業施設、商店街、地下街等の不特定多数の者が利用する空間では、防犯等を目的として、不審物の置き去りを監視することが行われている。置き去りの監視は一般的に、監視カメラ(撮像装置)により撮像された監視領域の撮像画像を監視員がモニタリングすることにより行われるが、監視員の負担軽減および置き去り検出の精度向上のために、監視領域の撮像画像に基づいて置去り物を自動的に検出することが求められている。
 そこで、撮像装置により撮像された監視領域の撮像画像に基づいて置去り物を自動的に検出するための様々な技術が提案されている(例えば、特許文献1)。特許文献1の従来技術では、所定の時間間隔で撮像入力される監視対象領域の入力画像と監視対象領域の初期画像との差を求めて監視対象領域内における人物像を切り出し、この所定の時間間隔で逐次求められる人物像を相互に比較して該人物像から分離する物体像を検出し、物体像が検出されたときにはこの物体像の放置時間を計測し、所定の時間が経過したときに警報を発報するようにしている。
特開平1-245395号公報
 しかしながら、上記特許文献1の従来技術では、置去り物が検出されると、置去り物の種別に関わらず一律に発報されるため、例えば、店舗の置き看板(店舗看板)、清掃看板、工事用コーン、工事看板、案内板等の、警報発報が不要な置去り物に対しても警報が発報されてしまうという問題があった。このように、警報発報が不要な置去り物に対しても警報が発報されてしまうと、監視員が確認する必要のある置去り物の数が増えるため、監視員の負担が大きくなる。このことは、とりわけ、監視領域内に警報発報が不要な置去り物が多数存在する場合や、監視領域が広範囲である場合に顕著となる。もし、警報発報が不要な置去り物を警報の発報対象から除外することができれば、監視員の負担を軽減することが可能となるので有益である。
 本開示は、このような従来技術の課題を鑑みて案出されたものであり、警報発報が不要な置去り物を警報の発報対象から除外することが可能な置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法を提供することを主目的とする。
 本開示の置去り物監視装置は、撮像装置により撮像された監視領域の撮像画像に基づいて前記監視領域内に置き去りにされた置去り物を検出し、前記置去り物が検出された場合に警報を発報する置去り物監視装置であって、前記置去り物を検出する処理を行うプロセッサを備えており、前記プロセッサは、前記撮像画像から前記監視領域内に出現した物体を検出し、検出された物体毎に前記撮像画像間で追跡し、前記検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない前記物体を前記置去り物として検出し、検出された前記置去り物が、前記監視領域内に予め設定されたマスクエリア内に存在するか否かを判定し、検出された前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外することを特徴とする。
 本開示によれば、警報発報が不要な置去り物を警報の発報対象から除外することが可能となる。これにより、とりわけ監視領域内に警報発報が不要な置去り物が多数存在する場合や監視領域が広範囲である場合に、監視員の負担を軽減することが可能となる。
本開示の第1実施形態に係る置去り物監視システムの概略構成図 置去り物監視システムの置去り物監視装置の概略構成を示すブロック図 マスクエリア設定画面と置去り物種別設定画面とを示す図 マスクエリア設定画面と使用期間設定画面とを示す図 マスクエリア情報の一例を示す図 置去り物監視装置の発報対象判定部での判定処理の例を示す図 置去り物監視装置の発報対象判定部での判定処理の例を示す図 置去り物監視装置の発報対象判定部での判定処理の例を示す図 報知画像の例を示す図 置去り物監視装置での処理の流れを示すフロー図 本開示の第2実施形態に係る置去り物監視システムの概略構成図 置去り物の代表位置の例を示す図 マスクエリアの範囲を変更した例を示す図
 上記課題を解決するためになされた第1の発明は、撮像装置により撮像された監視領域の撮像画像に基づいて前記監視領域内に置き去りにされた置去り物を検出し、前記置去り物が検出された場合に警報を発報する置去り物監視装置であって、前記置去り物を検出する処理を行うプロセッサを備えており、前記プロセッサは、前記撮像画像から前記監視領域内に出現した物体を検出し、検出された物体毎に前記撮像画像間で追跡し、前記検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない前記物体を前記置去り物として検出し、検出された前記置去り物が、前記監視領域内に予め設定されたマスクエリア内に存在するか否かを判定し、検出された前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外することを特徴とする。
 これによると、監視領域内に予め設定されたマスクエリア内に存在すると判定された置去り物を、警報の発報対象から除外することができる。これにより、警報の発報対象の数を抑制することができるので、監視員の負担を軽減することが可能となる。
 また、第2の発明では、上記第1の発明において、前記プロセッサは、前記監視領域内に前記マスクエリアを設定するための設定画面を生成することを特徴とする。
 これによると、ユーザは、マスクエリアを簡単な操作で容易に設定することが可能となる。
 また、第3の発明では、上記第1の発明において、前記プロセッサは、検出された前記置去り物の種別を判定することを特徴とする。
 これによると、置去り物が検出されたときに、その置去り物の種別を知ることが可能となる。
 また、第4の発明では、上記第3の発明において、前記マスクエリアは、前記置去り物の種別を対応付けて設定されており、前記プロセッサは、検出された前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物の種別が、該マスクエリアに対応付けられた種別であるか否かの判定をさらに行い、その置去り物の種別が該マスクエリアに対応付けられた種別であると判定された場合にのみ、その置去り物を、警報の発報対象から除外することを特徴とする。
 これによると、マスクエリア内に存在すると判定された置去り物の種別が、そのマスクエリアに対応付けられた置去り物の種別であると判定された場合にのみ、その置去り物を警報の発報対象から除外することができる。これにより、警報発報が不要な置去り物を警報の発報対象から除外することができるので、監視員の負担をさらに軽減することが可能となる。
 また、第5の発明では、上記第3の発明または第4の発明において、前記プロセッサは、前記マスクエリアを取り囲む枠画像を前記撮像画像に重畳した画像を生成し、前記枠画像の表示形態は、前記マスクエリアに対応付けられた前記置去り物の種別に応じて決定されることを特徴とする。
 これによると、枠画像によってマスクエリアの範囲をユーザに対して視覚的に分かりやすく表示することが可能となる。また、枠画像の表示形態は置去り物の種別に応じて決定されるので、そのマスクエリアに対応付けられた置去り物の種別をユーザに対して視覚的に分かりやすく表示することが可能となる。
 また、第6の発明では、上記第4の発明または第5の発明において、前記マスクエリアに対応付けられた種別であると判定された前記置去り物の代表位置を検出し、検出された前記代表位置を所定期間蓄積して作成した前記代表位置の統計データに基づいて、前記マスクエリアの範囲を変更することを特徴とする。
 これによると、マスクエリアに対応付けられた置去り物の実際の置き位置に合わせて、マスクエリアの範囲をより正確に設定することが可能となる。
 また、第7の発明では、上記第1の発明ないし第6の発明のいずれかにおいて、前記マスクエリアは、それを使用する期間を示す使用期間を対応付けて設定されており、前記プロセッサは、前記使用期間が有効な前記マスクエリアについてのみ、検出された前記置去り物がそのマスクエリア内に存在するか否かの判定を行うことを特徴とする。
 これによると、マスクエリアに対応付けられた置去り物が実際に使用されるときにのみ、その置去り物に対応するマスクエリアを使用することが可能となる。これにより、置去り物の検出後の判定処理の数を抑制することができるので、判定処理の負荷を軽減することが可能となる。
 また、第8の発明では、上記第1の発明ないし第7の発明のいずれかにおいて、前記プロセッサは、検出された前記置去り物の代表位置を検出し、検出された前記代表位置に基づいて、その置去り物が前記マスクエリアに含まれるか否かを判定することを特徴とする。
 これによると、検出された置去り物がマスクエリアに含まれるか否かの判定を、その置去り物の代表位置に基づいてより容易かつより正確に行うことが可能となる。
 また、第9の発明では、上記第1の発明ないし第8の発明のいずれかにおいて、前記プロセッサは、1つの前記マスクエリア内に複数の前記置去り物が検出された場合には、その後の判定処理は、個々の前記置去り物毎に行うことを特徴とする。
 これによると、1つのマスクエリア内に複数の置去り物が検出された場合でも、個々の置去り物についての判定処理を確実に行うことが可能となる。
 また、第10の発明は、上記第1の発明ないし第9発明のいずれかに記載の置去り物監視装置と、監視領域を撮像するための撮像装置と、前記置去り物監視装置から発報された警報をユーザに報知する報知装置と、を備えた置去り物監視システムである。
 また、第11の発明は、撮像装置により撮像された監視領域の撮像画像に基づいて前記監視領域内に置き去りにされた置去り物を検出し、前記置去り物が検出されたときに警報を発報する置去り物監視方法であって、前記撮像装置により撮像された前記監視領域の撮像画像を取得するステップと、前記撮像画像から前記監視領域内に出現した物体を検出し、検出された物体毎に前記撮像画像間で追跡するステップと、前記検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない前記物体を前記置去り物として検出するステップと、検出された前記置去り物が、前記監視領域内に予め設定されたマスクエリア内に存在するか否かを判定するステップと、前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外するステップと、を含むことを特徴とする。
 以下、本開示の実施形態について、図面を参照しながら説明する。
 (第1実施形態)
 まず、本開示の第1実施形態に係る置去り物監視システム1について、図1~10を参照して説明する。この置去り物監視システム1は、撮像装置2により撮像された監視領域の撮像画像に基づいて監視領域内に置き去りにされた置去り物を検出し、置去り物が検出された場合に警報を発報するためのシステムであり、駅、空港、商業施設、商店街、地下街等の不特定多数の者が利用する空間での不審物の置き去りの監視に適用可能である。
 以下では、本開示に係る置去り物監視システム1を、例えば、商業施設、商店街、地下街等での不審物の置き去りの監視に適用した場合について説明する。商業施設、商店街、地下街等には、店舗の置き看板(店舗看板)や清掃看板等の警報発報が不要な置去り物が多数存在するので、このような警報発報が不要な置去り物を、警報の発報対象(以降、単に「発報対象」と称する)から除外することができれば、監視員の負担を軽減することが可能となる。
 図1は、本開示の第1実施形態に係る置去り物監視システム1の概略構成図である。図1に示すように、置去り物監視システム1は、撮像装置2と、置去り物監視装置3と、表示装置4とを備えて構成される。表示装置は、監視員に対して警報を報知するための報知装置としての役割を果たす。置去り物監視装置3は、撮像装置2および表示装置4と、LAN(Local Area Network)等の有線または無線通信(例えば、Wi-Fi(登録商標)等)を介して接続されている。なお、置去り物監視装置3と、撮像装置2および表示装置4との接続形態は特に限定されるものではなく、例えば、インターネット等のネットワークを介した接続であってよいし、汎用のインターフェース(例えば、USB(Universal Serial Bus)インターフェース)を用いて通信ケーブルで互いに接続してもよい。
 撮像装置2は、例えばCCDカメラ等の一般的な撮像装置であり、商業施設、商店街、地下街等の各所の壁、天井、ポール等に設置され、予め定められた監視領域を、静止画像または動画像として時系列に撮像する。なお、撮像装置2は、監視領域を時系列に撮像可能な限りにおいて、その形態、機能、配置、数量等については、特に限定されるものではなく種々の変更が可能である。例えば、撮像装置2は、壁等に設置され1台で180度撮影できるパノラマ型カメラや、天井等に設置され1台で360度撮影できる全方位型カメラであってもよい。撮像装置2により時系列に撮像された監視領域の撮像画像は、置去り物監視装置3に入力される。
 表示装置4は、監視員が監視業務を行う監視室等に設置されたモニタ(ディスプレイ)等の一般的な表示装置であり、置去り物監視装置3から出力された報知画像(図9参照)を表示する。報知画像の詳細については後述する。なお、表示装置4は、報知画像の表示が可能な限りにおいて、その形態、機能、配置、数量等については、特に限定されるものではなく種々の変更が可能である。例えば、表示装置4は、巡回等で監視室を離れる場合に監視員が携帯する携帯端末の表示画面であってもよい。
 置去り物監視装置3は、公知の構成を有する一般的なコンピュータ装置であり、撮像装置2から入力された撮像画像に基づいて監視領域内に置き去りにされた置去り物を検出し、置去り物が検出された場合に、警報発報のための報知画像を生成して表示装置4に出力する。また、置去り物監視装置3は、置去り物が検出されるまでは、画像取得部13から入力された撮像画像をそのまま表示装置4に出力する。
 図2は、置去り物監視装置3の概略構成を示すブロック図である。置去り物監視装置3は、公知のハードウェア構成を備えており、所定の制御プログラム(例えば、置去り物監視プログラム)に基づき置去り物監視システム1における各処理を統括的に実行するプロセッサ101、このプロセッサ101のワークエリア等として機能する揮発性メモリであるRAM102、プロセッサ101が実行する制御プログラムやデータを格納する不揮発性メモリであるROM103、置去り物監視装置3の動作に必要なプログラムやデータを記憶するストレージを有する記憶部104、ユーザに必要な情報を表示するモニタを有する表示部105、ユーザの入力操作を可能とするキーボードやマウス等の入力デバイスを有する入力部106、ネットワークを介した通信を実行する通信モジュールを有する通信部107等を備えている。
 置去り物監視装置3の各機能は、図2に示したハードウェア構成において、プロセッサ101が所定の制御プログラムを実行することによって実現可能である。なお、置去り物監視装置3としては、コンピュータ装置に限らず、同様の機能を果たすことが可能な他の情報処理装置(サーバ等)を用いることもできる。また、置去り物監視装置の機能の少なくとも一部を他の公知のハードウェアによる処理によって代替してもよい。
 再び図1を参照して、置去り物監視装置3は、マスクエリア情報設定部11と、マスクエリア情報記憶部12と、画像取得部13と、画像処理部14と、報知画像生成部15とを含んでいる。そして、画像処理部14は、物体追跡部21と、置去り物検出部22と、置去り物種別判定部23と、発報対象判定部24とを有している。上記の各部は、図示しない制御部によって制御される。
 マスクエリア情報設定部11は、監視領域内に予め設定されるマスクエリアに関する情報(以降、「マスクエリア情報」と称する)を設定するためのマスクエリア情報設定画面を生成し、置去り物監視装置3の表示部105(図2)等に出力して表示する。置去り物監視装置3のユーザは、キーボードやマウス等の入力デバイスを操作して、マスクエリア情報設定画面に各種の情報を入力することにより、マスクエリア情報を設定する。
 マスクエリア情報には、マスクエリアの名称と、マスクエリアの範囲と、マスクエリアに対応付けられた置去り物の種別(以降、「指定置去り物」と称する)とが含まれる。マスクエリアの範囲とは、監視領域中に設定される任意の領域のことである。なお、本実施形態では、マスクエリアの範囲は、矩形に設定されるが、これに限定されるものではなく、他の様々な形状に設定可能である。
 また、マスクエリア情報には、マスクエリアの範囲を示すマスクエリア枠画像の表示形態と、マスクエリアの使用期間とも含まれる。
 本実施形態では、マスクエリア枠画像は、マスクエリアを取り囲む矩形の破線の画像であり、指定置去り物に応じて色付けされる。なお、マスクエリア枠画像の表示形態は、破線の画像に限らず、他の様々な形態が可能である。例えば、マスクエリア枠画像は、実線の画像であってもよい。また、指定置去り物に応じたマスクエリア枠画像の色付けは必須ではなく、不要であれば行わなくてもよい。
 マスクエリアの使用期間は、そのマスクエリアを使用する時間帯や曜日等の期間を示す情報である。上述したように、マスクエリアは指定置去り物を対応付けて設定されるので、マスクエリアの使用期間をマスクエリアにさらに対応付ければ、指定置去り物が実際に使用されるとき(置かれるとき)にのみ、その指定置去り物に対応するマスクエリアを使用することが可能となる。これにより、発報対象判定部における後述する判定処理の数を抑制することができるので、発報対象判定部での判定処理の負荷を軽減することが可能となる。
 例えば、指定置去り物が店舗看板である場合、店舗看板は、それに対応する店舗の営業時間および営業日にしか使用されないので、マスクエリアは、店舗看板が実際に使用される時間帯および曜日にのみ使用すればよい。また、例えば、指定置去り物が工事用コーンである場合、工事用コーンは、それに対応する工事や作業が行われるときにしか使用されないので、マスクエリアは、工事用コーンが実際に使用される工事期間に対応した時間帯および曜日にのみ使用すればよい。
 なお、マスクエリア情報は、上記の各情報以外にも、他の様々な情報を含むことができる。例えば、マスクエリアの指定置去り物の画像データ等をさらに含んでもよい。
 図3は、マスクエリア情報設定部11により生成されるマスクエリア情報設定画面31の一例を示す図である。マスクエリア情報設定画面31は、左側に表示されるマスクエリア設定画面32と、右側に表示される指定置去り物設定画面33とを含む。また、指定置去り物設定画面33の下側には、指定置去り物設定画面33を後述する使用期間設定画面36に切り替えるための画面切替ボタン34が表示されている。
 マスクエリア設定画面32には、撮像装置2により撮像された監視領域の撮像画像が表示される。図3の例では、商店街の予め定められた監視領域の撮像画像が表示されている。
 指定置去り物設定画面33には、マスクエリアに対応付ける指定置去り物を指定するためのチェックボックスが、指定置去り物に応じてマスクエリア枠画像を色付けする色と共に表示されている。図3の例では、指定置去り物として、店舗看板、掲示板、清掃看板、工事用コーンが示されており、店舗看板には赤色、掲示板には青色、清掃看板には黄色、工事用コーンには緑色が、マスクエリア枠画像を色付けする色として対応付けられている。
 置去り物監視装置3のユーザが、このマスクエリア情報設定画面31に各種の情報を入力してマスクエリア情報を設定するときは、まず、指定置去り物設定画面33のチェックボックスを操作して、指定置去り物を指定する。図3の例では、店舗看板が指定されている。次いで、マウス等を使用して、マスクエリア設定画面32中の所望の領域を指定することにより、マスクエリアの範囲を設定する。
 なお、指定置去り物が店舗看板の場合、店舗看板が置かれる位置は日々変わる可能性がある。また、店舗看板を置いた後も、通行人との接触等により、店舗看板の位置が変わる可能性もある。そのため、マスクエリアの範囲は、店舗看板の位置の変更に対応できるように、店舗看板が置かれる位置として想定される範囲よりも広めに設定するとよい。
 図3の例では、マスクエリア設定画面32中の右下側に、マスクエリアA1が設定されている。マスクエリアA1は、マスクエリア枠画像35で取り囲むことにより示されている。マスクエリアA1の指定置去り物として店舗看板が指定されおり、店舗看板には赤色が対応付けられているので、マスクエリア枠画像35は赤色で色付けされている。このようにして、図3の例では、マスクエリアA1は、店舗看板を対応付けて設定される。
 なお、図3の例では、指定置去り物を設定した後に、マスクエリアの範囲を設定したが、マスクエリアの範囲および指定置去り物を設定する順序はこれに限定されるものではなく、マスクエリアの範囲を設定した後に、指定置去り物を設定してもよい。この場合は、マスクエリアの範囲の設定時には、マスクエリア枠画像35は黒色等で表示しておき、指定置去り物が設定されたときに、マスクエリア枠画像35の色が指定置去り物に対応付けられた色に変更されるようにするとよい。
 図4は、マスクエリアの使用期間を設定するための使用期間設定画面36を示す。使用期間設定画面36は、上述したように、画面切替ボタン34を操作することにより、指定置去り物設定画面33から表示を切り替えることができる。
 使用期間設定画面36には、マスクエリアを使用する使用期間を指定するための入力ボックスが表示されている。本実施形態では、使用期間として、時間帯および曜日を設定する。なお、使用期間は、これに限定されるものではなく、例えば、日、週、月、年等の単位であってよい。また、使用期間は、開始日時と終了日時を指定することにより、指定された開始日時と終了日時との間の連続的な期間に設定してもよい。また、使用期間が、周期的な使用期間である場合には、マスクエリア機能ONの時間帯や曜日が、所定の期間にわたって繰り返されるように設定するとよい。
 図4の例では、マスクエリアを使用する時間帯、すなわち、マスクエリア機能をONにする時間帯は、「8:00~22:00」に設定されており、マスクエリアを使用しない時間帯、すなわち、マスクエリア機能をOFFにする時間帯は、「22:00~8:00」に設定されている。この店舗看板に対応する店舗の営業時間が8:00~22:00であり、それ以外の時間帯は店舗看板を出さないためである。また、図4の例では、マスクエリアを使用する曜日(マスクエリア機能をONにする曜日)は、「月~金に」設定されており、マスクエリアを使用しない曜日(マスクエリア機能をOFFにする曜日)は、「土、日」に設定されている。この店舗看板に対応する店舗の営業日は月曜日~金曜日であり、土曜日と日曜日は店舗看板を出さないためである。
 マスクエリア情報設定部11で設定されたマスクエリア情報は、マスクエリア情報記憶部12に記憶される。本実施形態では、マスクエリアの範囲は、マスクエリア設定画面32上での、マスクエリア枠画像の矩形枠の左上の座標と、右下の座標とにより定義している。
 図5は、マスクエリア情報記憶部12に記憶されるマスクエリア情報の一例を示す図である。図5に示すように、マスクエリア情報には、マスクエリアの名称を示す「マスクエリア名」と、それに紐付けられた、そのマスクエリアの指定置去り物を示す「指定置去り物」、マスクエリア枠画像の座標を示す「枠画像の座標」、マスクエリア枠画像の色を示す「枠座標の色」、マスクエリアの使用期間を示す「使用期間」が含まれる。図5の例では、マスクエリア名「マスクエリアA1」に、指定置去り物「店舗看板」、枠画像の座標「(x800、y300)、(x900、y200)」、枠座標の色「赤色」、使用期間「時間帯:8:00-22:00、曜日:月~金」の各情報が紐付けられている。
 画像取得部13は、撮像装置2と接続されており、撮像装置2から監視領域の撮像画像を取得する。画像取得部13は、画像処理部14および報知画像生成部15と接続されており、画像取得部13が撮像装置2から取得した撮像画像は、画像処理部14および報知画像生成部15に入力される。
 画像処理部14は、画像取得部13から撮像画像を取得する。撮像画像が所定時間間隔で撮像された静止画像である場合は、その静止画像データとして取得し、撮像画像が動画像である場合は、該動画像から所定時間間隔で抽出した静止画像データ(画像フレームデータ)として取得する。画像処理部14が画像取得部13から取得した撮像画像(静止画像データ)は、物体追跡部21、置去り物検出部22、置去り物種別判定部23、および発報対象判定部24で処理される。
 物体追跡部21は、撮像画像から監視領域に出現した物体(以降、「出現物体」と称する)を検出し、検出された出現物体毎に、該出現物体の検出以降の撮像画像間で追跡する。出現物体は、例えば、紙袋、店舗看板、清掃看板、かばん等であり得る。出現物体の検出は、予め撮像した背景画像と撮像画像との比較、または時系列において互いに隣接する2枚の撮像画像の比較により行われる。具体的には、比較される撮像画像間の対応する画素の画素値(例えば、輝度値)の相違度(差または相関値)を求め、求められた相違度が予め定められた閾値を超える画素を抽出し、近接して抽出された画素をまとめた領域を出現物体として検出する。撮像画像から出現物体が検出されたら、検出された出現物体毎に個別の識別符号を付与し、該出現物体の検出以降の撮像画像間で追跡する。
 置去り物検出部22は、物体追跡部21による出現物体毎の追跡結果に基づき、置去り物を検出する。具体的には、物体追跡部21で検出された出現物体毎に、該出現物体の撮像画像内での経時的な変位を求め、予め定められた時間を超えて変位しない出現物体、すなわち予め定められた時間を超えて静止している出現物体を、置去り物として検出する。置去り物が検出されたら、検出された置去り物毎に固有の識別符号を付与し、該置去り物の検出以降の撮像画像間で追跡する。また、置去り物が検出された場合は、その検出結果が報知画像生成部15に入力される。
 置去り物種別判定部23は、置去り物検出部22で検出された置去り物の種別を判定する。置去り物の種別の判定は、ディープラーニングによる識別器等の公知の画像認識技術を用いて行うことができる。例えば、撮像画像から検出された置去り物の形状特徴やテクスチャ特徴に基づいて置去り物の種別を識別する識別器を用いるとよい。この場合は、置去り物の形状特徴やテクスチャ特徴と置去り物の種別との対応関係を予め記憶したデータベースを用意しておく。なお、置去り物の種別を識別する方法は特に限定されるものではなく、従来公知の様々な方法を用いることが可能である。置去り物種別判定部23で判定された置去り物の種別は、報知画像生成部15に入力される。
 発報対象判定部24は、置去り物検出部22で検出された置去り物について、その置去り物が発報対象であるか否かについて判定する。なお、置去り物検出部22で複数の置去り物が検出された場合は、個々の置去り物毎に判定処理を行う。
 発報対象判定部24での判定処理は、マスクエリア情報記憶部12に記憶されたマスクエリア情報を参照して行われる。上述したように、マスクエリア情報には、マスクエリアの範囲(マスクエリア枠画像の座標)と、マスクエリアの指定置去り物とが含まれている。また、この判定処理では、使用期間が有効なマスクエリアのみを使用することとする。また、監視領域内に複数のマスクエリアが設定されている場合は、個々のマスクエリア毎に判定処理を行うこととする。
 具体的には、まず、置去り物検出部22で検出された置去り物が、マスクエリア内に存在するか否かを判定する。この判定は、公知の画像解析技術を用いて行うことができる。検出された置去り物が、マスクエリア内に存在しないと判定された場合、その置去り物は、発報対象と判定される。
 そして、検出された置去り物が、マスクエリア内に存在すると判定された場合には、その置去り物の種別が、マスクエリアの指定置去り物であるか否かの判定をさらに行う。その置去り物の種別が指定置去り物であると判定された場合には、その置去り物は、警報発報が不要な置去り物(以降、「非発報対象」と称する)と判定する。一方、その置去り物の種別が該マスクエリアの指定置去り物ではないと判定された場合には、その置去り物は、発報対象と判定される。
 すなわち、発報対象判定部24は、マスクエリア内に存在し、かつ、マスクエリアの指定置去り物であると判定された置去り物のみを非発報対象として判定し、それ以外の置去り物はすべて発報対象として判定する。
 図6は、発報対象判定部24での判定処理の一例を示す図である。まず、図6(a)に示すように、監視領域の右下側に、マスクエリアA1が予め設定されており、そのマスクエリアA1の指定置去り物が店舗看板であるとする。店舗看板には赤色が対応付けられているので、マスクエリア枠画像35は赤色で色付けされている。
 そして、図6(b)に示すように、監視領域中に、紙袋41と店舗看板42が検出されたとする。この場合、発報対象判定部24は、紙袋41と店舗看板42が、マスクエリアA1内に存在するか否かを判定する。上述したように、この判定処理は、置去り物毎に行われる。図6(b)の例では、紙袋41は、マスクエリアA1内に存在しないと判定され、店舗看板42は、マスクエリアA1内に存在すると判定される。したがって、紙袋41は、発報対象と判定される。
 次いで、発報対象判定部24は、マスクエリアA1内に存在すると判定された店舗看板42が、マスクエリアA1の指定置去り物であるか否かについてさらに判定する。マスクエリアA1の指定置去り物は店舗看板であるので、店舗看板42は、指定置去り物であると判定される。したがって、店舗看板42は、非発報対象と判定される(図6(c)参照)。
 このように、マスクエリア内に存在し、かつ、マスクエリアの指定置去り物であると判定された置去り物のみが非発報対象として判定され、それ以外の置去り物はすべて発報対象として判定される。
 なお、1つのマスクエリア内に複数の置去り物が検出される場合もある。図7は、その場合の判定処理の一例を示す図である。まず、図7(a)に示すように、監視領域の中央下側に、マスクエリアA2が予め設定されており、そのマスクエリアA2の指定置去り物が清掃看板であるとする。清掃看板には黄色が対応付けられているので、マスクエリア枠画像35は黄色で色付けされている。
 そして、図7(b)に示すように、監視領域中に、清掃看板43とかばん44が検出されたとする。この場合、発報対象判定部24は、清掃看板43とかばん44が、マスクエリアA2内に存在するか否かを判定する。上述したように、この判定処理は、置去り物毎に行われる。図7(b)の例では、清掃看板43とかばん44は両方とも、マスクエリアA2内に存在すると判定される。
 次いで、発報対象判定部24は、マスクエリアA2内に存在すると判定された清掃看板43とかばん44が、マスクエリアA2の指定置去り物であるか否かについてさらに判定する。マスクエリアA2の指定置去り物は清掃看板であるので、清掃看板43は、指定置去り物であると判定される。したがって、清掃看板43は、非発報対象と判定される。一方、かばん44は、指定置去り物ではないと判定される。したがって、かばん44は発報対象と判定される(図7(c)参照)。
 このように、1つのマスクエリア内に複数の置去り物が検出された場合でも、個々の置去り物毎に判定処理を行うことにより、その置去り物が、発報対象であるか、それとも非発報対象であるかについて判定することができる。
 また、1つのマスクエリア内に複数の置去り物が重なって検出される場合もある。通常、2つの置去り物が同時に出現することは稀なので、出現順に指定置去り物であるか否かの判定と、非発報対象か発報対象かの判定を行う。この場合も、上記の図7の例の場合と同様に、個々の置去り物毎に判定を行う。図8は、その場合の判定処理の一例を示す図である。まず、図8(a)に示すように、監視領域の右下側に、マスクエリアA1が予め設定されており、そのマスクエリアA1の指定置去り物が店舗看板であるとする。店舗看板には赤色が対応付けられているので、マスクエリア枠画像35は赤色で色付けされている。
 そして、図8(b)に示すように、監視領域中に、店舗看板42とかばん44が検出されたとする。この場合、発報対象判定部24は、店舗看板42とかばん44が、マスクエリアA1内に存在するか否かを判定する。上述したように、この判定処理は、置去り物毎に行われる。図8(b)この例では、店舗看板42とかばん44は両方とも、マスクエリアA1内に存在すると判定される。
 次いで、発報対象判定部24は、マスクエリアA1内に存在すると判定された店舗看板42とかばん44が、マスクエリアA1の指定置去り物であるか否かについてさらに判定する。マスクエリアA1の指定置去り物は店舗看板であるので、店舗看板42は、指定置去り物であると判定される。したがって、店舗看板42は非発報対象と判定される。一方、かばん44は、指定置去り物ではないと判定される。したがって、かばん44は、発報対象と判定される(図8(c)参照)。
 上述したように、置去り物検出部22で検出された置去り物には、個々の置去り物毎に固有の識別符号が付与されているので、複数の置去り物が互いに重なって検出された場合でも、個々の置去り物を識別することができる。したがって、複数の置去り物が互いに重なって検出された場合でも、個々の置去り物がマスクエリア内に存在するか否かを判定すること、および、個々の置去り物の種別を判定することが可能となる。
 発報対象判定部24での判定結果は、報知画像生成部15に入力される。
 報知画像生成部15は、発報対象判定部24での判定結果に基づき、発報対象についての警報を発報するための報知画像を生成する。非発報対象は、警報の発報対象から除外する。具体的には、報知画像生成部15は、画像取得部13から入力された撮像画像に、発報対象を取り囲む発報枠画像、置去り物の種別を示す情報、および、マスクエリアを示すマスクエリア枠画像を重畳して、警報を発報するための報知画像を生成する。なお、報知画像において、マスクエリア枠画像の重畳は必須ではなく、マスクエリア枠画像の表示と非表示を選択して設定できるようにしてもよい。
 発報枠画像51は、赤色や黄色等の目立つ色にするとよい。また、発報枠画像51を点滅させたり、枠画像の近傍に、警報の発報を示す文字や絵等を表示したりしてもよい。本実施形態では、置去り物が種別を示す情報として、置去り物の種別を示す文字を用いている。なお、置去り物が種別を示す情報は、これに限定されるものではなく、例えば、置去り物の種別を示す絵や記号等であってもよい。
 図9(a)~図9(c)は、報知画像生成部15で生成された報知画像の例を示す図である。
 図9(a)は、図6に示した判定処理に対応する例を示す図である。この図9(a)の例では、置去り物として紙袋41と店舗看板42が検出されており、紙袋41は発報対象と判定され、店舗看板42は非発報対象と判定されている。このため、撮像画像に、発報対象である紙袋41を取り囲む発報枠画像51を重畳して報知画像P1を生成している。また、図9(a)の例では、発報対象の置去り物が紙袋41なので、置去り物の種別を示す情報として「紙袋」という文字52が、撮像画像にさらに重畳されている。加えて、図9(a)の例では、マスクエリアA1を示すマスクエリア枠画像35が、撮像画像にさらに重畳されている。店舗看板には赤色が対応付けられているので、マスクエリア枠画像35は赤色で色付けされている。
 図9(b)は、図7に示した判定処理に対応する例を示す図である。この図9(b)の例では、置去り物として清掃看板43とかばん44が検出されており、清掃看板43は非発報対象と判定され、かばん44は発報対象と判定されている。このため、撮像画像に、発報対象であるかばん44を取り囲む発報枠画像51を重畳して報知画像P2を生成している。また、図9(b)の例では、発報対象の置去り物がかばん44なので、置去り物の種別を示す情報として「カバン」という文字52が、撮像画像にさらに重畳されている。加えて、図9(b)の例では、マスクエリアA2を示すマスクエリア枠画像35が、撮像画像にさらに重畳されている。清掃看板には黄色が対応付けられているので、マスクエリア枠画像35は黄色で色付けされている。
 図9(c)は、図8に示した判定処理に対応する例を示す図である。この図9(c)の例では、置去り物として店舗看板42とかばん44が検出されており、店舗看板42は非発報対象と判定され、かばん44は発報対象と判定されている。このため、撮像画像に、発報対象であるかばん44を取り囲む発報枠画像51を重畳して報知画像P3を生成している。また、図9(c)の例では、発報対象の置去り物がかばん44なので、置去り物の種別を示す情報として「カバン」という文字52が、撮像画像にさらに重畳されている。加えて、図9(c)の例では、マスクエリアA1を示すマスクエリア枠画像35が、撮像画像にさらに重畳されている。店舗看板には赤色が対応付けられているので、マスクエリア枠画像35は赤色で色付けされている。
 報知画像生成部15で生成された報知画像は、表示装置4に出力される。また、報知画像生成部15は、置去り物検出部22で置去り物が検出されるまでは、画像取得部13から入力された撮像画像をそのまま表示装置4に出力する。
 なお、表示装置に報知画像を表示するときは、表示装置の音声出力機能や、表示装置と連動する発報装置等を使用して、警報音声や警報ランプの点滅等によって警報の発報を行うようにしてもよい。これにより、監視員に注意をより強く喚起することが可能となる。
 次に、図1に示した本開示の第1実施形態に係る置去り物監視システム1の置去り物監視装置3での処理の流れを、図10のフロー図を参照して説明する。
 まず、画像取得部13が、撮像装置2から撮像画像を取得し、画像処理部14および報知画像生成部15に入力する(ステップST101)。続いて、物体追跡部21が、撮像画像から監視領域内に出現した出現物体の検出を行う(ステップST102)。出現物体が検出された場合(ステップST102:Yes)は、ステップST103に進み、出現物体が検出されなかった場合(ステップST102:No)は、ステップST101に戻る。
 ステップST103では、物体追跡部21が、検出された出現物体毎に、該出現物体の検出以降の撮像画像間での追跡を開始する。続くステップST104では、置去り物検出部22が、物体追跡部21による出現物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない出現物体を置去り物として検出する。置去り物が検出された場合(ステップST104:Yes)は、ステップST105に進み、置去り物が検出されなかった場合(ステップST104:No)は、ステップST101に戻る。ステップST101に戻った場合、その次のステップST102では、既に検出済みの出現物体以外の、新規に検出される出現物体の検出を行う。
 ステップST105では、置去り物種別判定部23が、置去り物検出部22で検出された置去り物の種別を判定する。上述したように、この判定処理は、置去り物毎に行われる。以降の判定処置でも同様である。
 次いで、ステップST106では、発報対象判定部24が、置去り物検出部22で検出された置去り物が、監視領域内に予め設定されたマスクエリア内に存在するか否かを判定する(図6(b)、図7(b)、図8(b)参照)。上述したように、この判定処理では、使用期間が有効なマスクエリアのみを使用することとする。また、監視領域内に複数のマスクエリアが設定されている場合は、個々のマスクエリア毎に判定処理を行うこととする。
 置去り物検出部22で検出された置去り物が、マスクエリア内に存在すると判定された場合(ステップST106:Yes)は、ステップST107に進み、マスクエリア内に存在しないと判定された場合(ステップST106:No)は、ステップST109に進む。
 ステップST107では、発報対象判定部24が、その置去り物の種別が、該マスクエリアの指定置去り物であるか否かをさらに判定する(図6(c)、図7(c)、図8(c)参照)。その置去り物の種別が該マスクエリアの指定置去り物であると判定された場合(ステップST107:Yes)は、ステップST108に進み、指定置去り物ではないと判定された場合(ステップST107:No)は、ステップST109に進む。
 ステップST108では、その置去り物を非発報対象と判定し、その後、処理を終了する。
 ステップST109では、その置去り物を発報対象と判定し、その後、処理を終了する。
 以上のように、この第1実施形態によれば、監視領域内に予め設定されたマスクエリア内に存在すると判定された置去り物を、警報の発報対象から除外することができる。これにより、警報の発報対象の数を抑制することができるので、監視員の負担を軽減することが可能となる。また、この第1実施形態によれば、マスクエリア内に存在すると判定された置去り物の種別が、そのマスクエリアに対応付けられた置去り物の種別であると判定された場合にのみ、その置去り物を警報の発報対象から除外することができる。これにより、警報発報が不要な置去り物を警報の発報対象から除外することができるので、監視員の負担をさらに軽減することが可能となる。
 (第2実施形態)
 次に、本開示の第2実施形態に係る置去り物監視システム1について、図11~13を参照して説明する。この第2実施形態は、置去り物監視装置3の画像処理部14が代表位置検出部25をさらに有している点が、図1に示した第1実施形態と異なる。他の点は上述した第1実施形態と同じであるので、同一の符号を付してその説明は省略する。
 代表位置検出部25は、置去り物検出部22で置去り物が検出された場合に、公知の画像解析技術を用いて、その置去り物の代表位置を検出する。置去り物の代表位置としては、例えば、重心位置や、下端中心の位置を用いることができる。
 図12は、置去り物の代表位置の例を示す図であり、図12(a)は、代表位置として重心を用いる例を示し、図12(b)は、代表位置として下端中心を用いる例を示す。図12(a)の例では、置去り物として店舗看板42が検出されており、代表位置検出部25は、店舗看板42の代表位置として、店舗看板42の重心位置61を検出している。図12(b)の例では、置去り物として清掃看板43が検出されており、代表位置検出部25は、清掃看板43の代表位置として、清掃看板43の下端中心の位置62を検出している。
 そして、この第2実施形態では、発報対象判定部24は、置去り物の代表位置に基づいて、その置去り物がマスクエリアに存在するか否かを判定する。具体的には、その置去り物の代表位置がマスクエリア内に存在する場合には、その置去り物は、マスクエリア内に存在すると判定する。図12(a)の例では、店舗看板42は、その右側の一部がマスクエリアA1からはみ出ているが、店舗看板42の重心位置61がマスクエリアA1内に存在するので、店舗看板42は、マスクエリアA1内に存在すると判定される。図12(b)の例では、清掃看板43は、その左側の一部がマスクエリアA2からはみ出ているが、下端中心の位置62がマスクエリアA2内に存在するので、清掃看板43は、マスクエリアA2内に存在すると判定される。
 このように、検出された置去り物がマスクエリアに含まれるか否かの判定を、その置去り物の代表位置(重心位置、下端中心の位置)に基づいて行うことにより、判定をより容易かつより正確に行うことが可能となる。
 なお、置去り物の代表位置は、重心位置や、下端中心の位置に限定されるものではなく、例えば、上端中心の位置、左上端の位置、右上端の位置、左下端の位置、右下端の位置等の他の様々な位置を用いることができる。実際の判定処理時には、置去り物の一部や下端が、通行者や他の置去り物等の陰に隠れてしまい、その置去り物の重心位置や下端中心の位置を検出できない場合がある。そのような場合には、上端中心の位置、左上端の位置、右上端の位置等を、その置去り物の代表位置として用いるとよい。
 また、この第2実施形態では、マスクエリアの指定置去り物の代表位置の統計データに基づいて、マスクエリアの範囲を変更する。例えば、店舗看板42や清掃看板43等の看板は、置かれる位置が日々変わる可能性がある。また、看板を置いた後も、通行人との接触等により、看板の位置が変わる可能性もある。したがって、指定置去り物の実際の置き位置に合わせてマスクエリアの範囲を変更することは有益である。
 具体的には、まず、置去り物検出部22で検出された指定置去り物の代表位置のデータを所定期間蓄積して、指定置去り物の代表位置の統計データを作成する。そして、作成された統計データを、公知の統計分析技術を用いて分析して、指定置去り物の実際の置き位置に合わせて、マスクエリアの範囲を変更する。
 本実施形態では、マスクエリアの範囲の変更は、マスクエリアの位置の移動することにより行われる。具体的には、指定置去り物の代表位置がマスクエリアの範囲の中心位置から所定距離内に位置するように、マスクエリアの位置を移動させるとよい。本実施形態では、マスクエリアの範囲は、マスクエリア枠画像の矩形枠の左上の座標と右下の座標とにより定義しているので、マスクエリアの範囲の中心位置(座標)は、マスクエリア枠画像の左上の座標と右下の座標とに基づいて求めることができる。マスクエリアの範囲の中心位置からの所定距離は、指定置去り物の全体をマスクエリアの範囲内に含むことができる距離に設定するとよい。
 図13は、マスクエリアの範囲を変更した例を示す図である。図13(a)は、マスクエリアA1の範囲を変更した例を示し、A1-1が変更前のマスクエリアA1を示し、A1-2が変更後のマスクエリアA1を示す。図示のように、変更後は、マスクエリアA1の位置は、少しだけ右側に移動されている。図13(b)は、マスクエリアA2の範囲を変更した例を示し、A2-1が変更前のマスクエリアA2を示し、A2-2が変更後のマスクエリアA2を示す。図示のように、変更後は、マスクエリアA2の位置は、少しだけ左側に移動されている。
 なお、図13の例では、マスクエリアの位置を移動させることによりマスクエリアの範囲を変更したが、マスクエリアの範囲の変更は、これに限定されるものではない。例えば、マスクエリアの範囲の変更は、マスクエリアのサイズを変更することにより行ってもよい。この場合は、指定置去り物の代表位置の統計データに基づき、マスクエリアのサイズを大きくまたは小さくすることにより、マスクエリアの範囲を変更するとよい。また、マスクエリアの範囲の変更は、マスクエリアの形状を変更すること行ってもよい。この場合は、指定置去り物の代表位置の統計データに基づき、マスクエリアの形状を、最初に設定されている矩形から、それ以外の様々な形状に変更することにより、マスクエリアの範囲を変更するとよい。
 このように、指定置去り物の代表位置の統計データに基づいて、マスクエリアの範囲を変更することにより、指定置去り物の実際の置き位置に合わせて、マスクエリアの範囲をより正確に設定することが可能となる。
 以上、本開示を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本開示はこれらの実施形態によって限定されるものではない。なお、上記実施形態に示した本開示に係る置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本開示の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
 本開示に係る置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法は、警報発報が不要な置去り物を警報の発報対象から除外することが可能な置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法等として有用である。
 1  置去り物監視システム
 2  撮像装置
 3  置去り物監視装置
 4  表示装置(報知装置)
 11 マスクエリア情報設定部
 12 マスクエリア情報記憶部
 13 画像取得部
 14 画像処理部
 15 報知画像生成部
 21 物体追跡部
 22 置去り物検出部
 23 置去り物種別判定部
 24 発報対象判定部
 25 代表位置検出部

Claims (11)

  1.  撮像装置により撮像された監視領域の撮像画像に基づいて前記監視領域内に置き去りにされた置去り物を検出し、前記置去り物が検出された場合に警報を発報する置去り物監視装置であって、
     前記置去り物を検出する処理を行うプロセッサを備えており、
     前記プロセッサは、
     前記撮像画像から前記監視領域内に出現した物体を検出し、検出された物体毎に前記撮像画像間で追跡し、
     前記検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない前記物体を前記置去り物として検出し、
     検出された前記置去り物が、前記監視領域内に予め設定されたマスクエリア内に存在するか否かを判定し、
     検出された前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外することを特徴とする置去り物監視装置。
  2.  前記プロセッサは、前記監視領域内に前記マスクエリアを設定するための設定画面を生成することを特徴とする請求項1に記載の置去り物監視装置。
  3.  前記プロセッサは、検出された前記置去り物の種別を判定することを特徴とする請求項1に記載の置去り物監視装置。
  4.  前記マスクエリアは、前記置去り物の種別を対応付けて設定されており、
     前記プロセッサは、
     検出された前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物の種別が、該マスクエリアに対応付けられた種別であるか否かの判定をさらに行い、
     その置去り物の種別が該マスクエリアに対応付けられた種別であると判定された場合にのみ、その置去り物を、警報の発報対象から除外することを特徴とする請求項3に記載の置去り物監視装置。
  5.  前記プロセッサは、前記マスクエリアを取り囲む枠画像を前記撮像画像に重畳した画像を生成し、
     前記枠画像の表示形態は、前記マスクエリアに対応付けられた前記置去り物の種別に応じて決定されることを特徴とする請求項4に記載の置去り物監視装置。
  6.  前記プロセッサは、前記マスクエリアに対応付けられた種別であると判定された前記置去り物の代表位置を検出し、検出された前記代表位置を所定期間蓄積して作成した前記代表位置の統計データに基づいて、前記マスクエリアの範囲を変更することを特徴とする請求項4に記載の置去り物監視装置。
  7.  前記マスクエリアは、それを使用する期間を示す使用期間を対応付けて設定されており、
     前記プロセッサは、前記使用期間が有効な前記マスクエリアについてのみ、検出された前記置去り物がそのマスクエリア内に存在するか否かの判定を行うことを特徴とする請求項1に記載の置去り物監視装置。
  8.  前記プロセッサは、検出された前記置去り物の代表位置を検出し、検出された前記代表位置に基づいて、その置去り物が前記マスクエリアに含まれるか否かを判定することを特徴とする請求項1ないし7のいずれかに記載の置去り物監視装置。
  9.  前記プロセッサは、1つの前記マスクエリア内に複数の前記置去り物が検出された場合には、その後の判定処理は、個々の前記置去り物毎に行うことを特徴とする請求項1に記載の置去り物監視装置。
  10.  請求項1ないし請求項9のいずれかに記載の置去り物監視装置と、
     監視領域を撮像するための撮像装置と、
     前記置去り物監視装置から発報された警報をユーザに報知する報知装置と、
     を備えた置去り物監視システム。
  11.  撮像装置により撮像された監視領域の撮像画像に基づいて前記監視領域内に置き去りにされた置去り物を検出し、前記置去り物が検出されたときに警報を発報する置去り物監視方法であって、
     前記撮像装置により撮像された前記監視領域の撮像画像を取得するステップと、
     前記撮像画像から前記監視領域内に出現した物体を検出し、検出された物体毎に前記撮像画像間で追跡するステップと、
     前記検出された物体毎の追跡結果に基づき、予め定められた時間を超えて変位しない前記物体を前記置去り物として検出するステップと、
     検出された前記置去り物が、前記監視領域内に予め設定されたマスクエリア内に存在するか否かを判定するステップと、
     前記置去り物が前記マスクエリア内に存在すると判定された場合には、その置去り物を、警報の発報対象から除外するステップと、
     を含むことを特徴とする置去り物監視方法。
PCT/JP2021/010805 2020-04-06 2021-03-17 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法 WO2021205831A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202180026915.8A CN115428440A (zh) 2020-04-06 2021-03-17 无人看管物体监视装置、配备有该装置的无人看管物体监视系统和无人看管物体监视方法
US17/916,967 US20230169773A1 (en) 2020-04-06 2021-03-17 Unattended object monitoring device, unattended object monitoring system equipped with same, and unattended object monitoring method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020068193A JP7486117B2 (ja) 2020-04-06 2020-04-06 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
JP2020-068193 2020-04-06

Publications (1)

Publication Number Publication Date
WO2021205831A1 true WO2021205831A1 (ja) 2021-10-14

Family

ID=78022248

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/010805 WO2021205831A1 (ja) 2020-04-06 2021-03-17 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法

Country Status (4)

Country Link
US (1) US20230169773A1 (ja)
JP (1) JP7486117B2 (ja)
CN (1) CN115428440A (ja)
WO (1) WO2021205831A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008181347A (ja) * 2007-01-25 2008-08-07 Meidensha Corp 侵入監視システム
JP2013098797A (ja) * 2011-11-01 2013-05-20 Toshiba Corp 情報出力装置、検知装置、プログラム及び情報出力方法
JP2018042270A (ja) * 2017-10-26 2018-03-15 パナソニックIpマネジメント株式会社 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
JP2019071578A (ja) * 2017-10-11 2019-05-09 パナソニックIpマネジメント株式会社 物体検知装置、物体検知システムおよび物体検知方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6253311B2 (ja) 2013-08-28 2017-12-27 キヤノン株式会社 画像処理装置、画像処理方法
JP6241796B2 (ja) 2015-12-25 2017-12-06 パナソニックIpマネジメント株式会社 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
JP6729793B2 (ja) 2017-03-30 2020-07-22 日本電気株式会社 情報処理装置、制御方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008181347A (ja) * 2007-01-25 2008-08-07 Meidensha Corp 侵入監視システム
JP2013098797A (ja) * 2011-11-01 2013-05-20 Toshiba Corp 情報出力装置、検知装置、プログラム及び情報出力方法
JP2019071578A (ja) * 2017-10-11 2019-05-09 パナソニックIpマネジメント株式会社 物体検知装置、物体検知システムおよび物体検知方法
JP2018042270A (ja) * 2017-10-26 2018-03-15 パナソニックIpマネジメント株式会社 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法

Also Published As

Publication number Publication date
JP2021166325A (ja) 2021-10-14
JP7486117B2 (ja) 2024-05-17
US20230169773A1 (en) 2023-06-01
CN115428440A (zh) 2022-12-02

Similar Documents

Publication Publication Date Title
US10043360B1 (en) Behavioral theft detection and notification system
JP6390860B2 (ja) 置去り物体監視装置およびこれを備えた置去り物体監視システムならびに置去り物体監視方法
JP6241796B2 (ja) 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
US20200211343A1 (en) Video analytics system
US8184154B2 (en) Video surveillance correlating detected moving objects and RF signals
US10051246B2 (en) Stopped object detection
JP6532043B2 (ja) 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
JP2018085597A (ja) 人物行動監視装置および人物行動監視システム
US20130208123A1 (en) Method and System for Collecting Evidence in a Security System
AU2011352023B2 (en) Multi-resolution image display
CN105554440A (zh) 监控方法和设备
CN107786838B (zh) 视频监控方法、装置及系统
CN107920223B (zh) 一种对象行为检测方法及装置
JP6268497B2 (ja) 警備システム、及び人物画像表示方法
US20150269440A1 (en) Movable monitoring device, a method therein and a monitoring system comprising the movable monitoring device
CN110244923B (zh) 一种图像显示方法及装置
CN108419045B (zh) 一种基于红外热成像技术的监控方法及装置
WO2021205831A1 (ja) 置去り物監視装置およびこれを備えた置去り物監視システムならびに置去り物監視方法
US20110304467A1 (en) Image monitoring device and method
WO2017029779A1 (ja) 警備システム、人物画像表示方法、及びレポート作成方法
JP2007243270A (ja) 映像監視システムおよび方法
JP4687850B2 (ja) 監視カメラシステム
US20030004913A1 (en) Vision-based method and apparatus for detecting an event requiring assistance or documentation
JP2020074506A (ja) 人物行動監視装置および人物行動監視システム
EP4280187A1 (en) Methods and systems for reducing redundant alarm notifications in a security system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21784728

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21784728

Country of ref document: EP

Kind code of ref document: A1