WO2015194118A1 - 物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体 - Google Patents

物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体 Download PDF

Info

Publication number
WO2015194118A1
WO2015194118A1 PCT/JP2015/002843 JP2015002843W WO2015194118A1 WO 2015194118 A1 WO2015194118 A1 WO 2015194118A1 JP 2015002843 W JP2015002843 W JP 2015002843W WO 2015194118 A1 WO2015194118 A1 WO 2015194118A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
entry
detected
unit
area
Prior art date
Application number
PCT/JP2015/002843
Other languages
English (en)
French (fr)
Inventor
丈晴 北川
尚司 谷内田
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Publication of WO2015194118A1 publication Critical patent/WO2015194118A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes

Definitions

  • the present invention relates to a technique for managing an object.
  • Patent Document 1 An example of a technique for recognizing an object such as a loaded luggage is described in Patent Document 1, for example.
  • the image processing apparatus described in Patent Document 1 detects the position of an object based on the image of the object photographed by two cameras.
  • the image processing apparatus captures a plurality of stacked objects with the two cameras.
  • the image processing apparatus generates a distance image based on the captured image.
  • the image processing apparatus detects the uppermost region of a plurality of photographed objects from the generated distance image.
  • the image processing apparatus further performs pattern matching using a two-dimensional reference pattern generated based on a database in which the dimensions of the recognition target object are stored in the detected uppermost region, thereby detecting individual recognition target objects. Recognize the position of
  • An object of the present invention is to provide an object management device or the like that can reduce the calculation load for detecting an object.
  • An object management apparatus includes an entry detection unit that detects entry of an approaching object into a predetermined area, and a video sensor before the entry is detected in response to the entry being detected. Using an image of the area captured and an image of the image sensor captured of the area after the entry is detected, the image sensor is not present in the area before the entry is detected.
  • Object detection means for detecting the position of a carried-in object that is an object existing in the area after detection, and object registration means for storing the detected position of the carried-in object in an object storage means.
  • An object management method detects an approach of an approaching object to a predetermined region, and in response to detecting the approach, a video sensor detects the region before the approach is detected. Using the captured image and the image where the video sensor has captured the area after the entry is detected, it is not present in the area before the entry is detected, and after the entry is detected The position of the carried-in object that is an object existing in the area is detected, and the detected position of the carried-in object is stored in the object storage means.
  • a recording medium including an entry detection unit that detects entry of an entry object into a predetermined area, and before the entry is detected in response to the entry being detected. Using an image captured by the image sensor and the image captured by the image sensor after the entry is detected, the image sensor is not present in the region before the entry is detected, Object detection means for detecting the position of a carried-in object that is an object existing in the area after entry is detected, and object registration means for storing the detected position of the carried-in object in an object storage means. An object management program to be operated is stored.
  • the present invention is also realized by an object management program stored in the above recording medium.
  • the present invention has an effect that the calculation load for detecting an object can be reduced.
  • FIG. 1 is a block diagram showing an example of the configuration of an object management system 300 according to the first embodiment of the present invention.
  • FIG. 2 is a first diagram illustrating an example of the output device 240 according to the first embodiment of this invention.
  • FIG. 3 is a second diagram illustrating an example of the output device 240 according to the first embodiment of this invention.
  • FIG. 4 is a third diagram illustrating an example of the output device 240 according to the first embodiment of this invention.
  • FIG. 5 is a fourth diagram illustrating an example of the output device 240 according to the first embodiment of this invention.
  • FIG. 6 is a first diagram illustrating an example of a space in which an object is placed in which the object management system according to the first embodiment of the present invention is installed.
  • FIG. 1 is a block diagram showing an example of the configuration of an object management system 300 according to the first embodiment of the present invention.
  • FIG. 2 is a first diagram illustrating an example of the output device 240 according to the first embodiment of this invention.
  • FIG. 3
  • FIG. 7 is a second diagram illustrating an example of a space in which an object is placed, in which the object management system according to the first embodiment of the present invention is installed.
  • FIG. 8 is a third diagram illustrating an example of a space in which an object is placed, in which the object management system according to the first embodiment of the present invention is installed.
  • FIG. 9 is a first diagram illustrating another example of a space in which an object is placed, in which the object management system according to the first embodiment of the present invention is installed.
  • FIG. 10 is a second diagram illustrating another example of a space in which an object is placed, in which the object management system according to the first embodiment of the present invention is installed.
  • FIG. 11 is a diagram schematically illustrating an example of a change in the position of an object.
  • FIG. 12 is a flowchart showing an example of the overall operation of the object management apparatus according to the first and second embodiments of the present invention.
  • FIG. 13 is a flowchart illustrating first and second examples of operations in the object registration process of the object management device 1 according to the first embodiment of this invention.
  • FIG. 14 is a diagram schematically illustrating a first example of a position stored in the object storage unit 108 according to the first embodiment of this invention.
  • FIG. 15 is a diagram schematically illustrating a second example of the position stored in the object storage unit 108 according to the first embodiment of this invention.
  • FIG. 16 is a flowchart illustrating a third example of the operation in the object registration process of the object management device 1 according to the first embodiment of this invention.
  • FIG. 14 is a diagram schematically illustrating a first example of a position stored in the object storage unit 108 according to the first embodiment of this invention.
  • FIG. 15 is a diagram schematically illustrating a second example of the position stored in the object storage unit 108
  • FIG. 17 is a diagram schematically illustrating a third example of the position stored in the object storage unit 108 according to the first embodiment of this invention.
  • FIG. 18 is a block diagram illustrating an example of the configuration of an object management system 300A according to a modification of the first embodiment of this invention.
  • FIG. 19 is a block diagram illustrating an example of a configuration of an object management system 300B according to the second embodiment of this invention.
  • FIG. 20 is a flowchart illustrating the operation of the object registration process of the object management device 1B according to the second embodiment of this invention.
  • FIG. 21 is a block diagram illustrating an example of a configuration of an object management system 300C according to the third embodiment of this invention.
  • FIG. 22 is a flowchart illustrating an example of the entire operation of the object management apparatus 1C according to the third embodiment of this invention.
  • FIG. 23 is a flowchart illustrating an example of the operation of the object registration process of the object management device 1C according to the third embodiment of this invention.
  • FIG. 24 is a flowchart illustrating an example of the operation of object registration processing in the object management device 1C according to the modification of the third embodiment of this invention.
  • FIG. 25 is a diagram schematically illustrating an identification image associated with the object ID stored in the object storage unit 108 according to the third embodiment of this invention.
  • FIG. 26 is a block diagram illustrating an example of a configuration of an object management device 1D according to the fourth exemplary embodiment of the present invention.
  • FIG. 27 is a diagram illustrating an example of a hardware configuration of a computer 1000 that can realize the object management apparatus according to each embodiment of the present invention.
  • FIG. 1 is a block diagram illustrating an example of a configuration of an object management system 300 according to the present embodiment.
  • the object management system 300 includes an object management device 1, an approach sensor 210, a video sensor 220, an object ID input device 230, and an output device 240.
  • the object management apparatus 1 includes an entry data input unit 101, an entry detection unit 102, a video input unit 103, a video storage unit 104, an object detection unit 105, an object ID (Identifier) input unit 106, and an object registration unit. 107, an object storage unit 108, and an output unit 109.
  • At least the entry sensor 210 and the image sensor 220 of the object management system 300 are arranged in a space where an object is arranged.
  • the output device 240 may be disposed in a space where an object is disposed.
  • the output device 240 may be brought into a space where an object is placed, for example, by an entry body.
  • “Intruder” represents at least one of a person and a transport device.
  • a carrying device is a device that carries an object.
  • the approaching body may be a transport machine operated by a person.
  • An intruder may be only a person.
  • the object management device 1 only needs to be communicably connected to the ingress sensor 210, the video sensor 220, the object ID input device 230, and the output device 240.
  • the space where the luggage is placed may be a predetermined area.
  • the space in which the object is placed is, for example, a truck bed or a warehouse. In that case, the object is, for example, a luggage.
  • the space where the object is placed may be a plant factory. In that case, the object is, for example, a plant cultivated in a plant factory.
  • the space where the object is placed may be, for example, a library. In this case, the object is, for example, a book or a magazine.
  • the space in which the luggage is placed may be a predetermined part of a space such as a truck bed, a warehouse, a plant factory, or a library.
  • the entry sensor 210 is a sensor for detecting the entry of at least one of a person and a transport device, that is, the above-described entry body, into a space where an object is arranged, for example.
  • the ingress sensor 210 may be a visible light camera 221 that captures an image by visible light.
  • the approach sensor 210 may be an infrared camera that captures an infrared image.
  • the approach sensor 210 may be a distance camera 222 described later.
  • the approach sensor 210 may be a combination of any two or more of the visible light camera 221, the distance camera 222, and the infrared camera (not shown).
  • the entry sensor 210 only needs to be attached so as to be able to photograph the range in which the entry body can enter in the space where the object is placed.
  • the approach sensor 210 transmits the acquired image
  • the approach detection unit 102 to be described later may detect the approaching object in the image obtained by the approach sensor 210 by, for example, image processing.
  • video represents a moving image represented by a plurality of frames (that is, a plurality of still images).
  • An “image” represents a still image that is one image.
  • the ingress sensor 210 may be a human sensor that detects the presence of a person or the like by at least one of infrared rays, ultrasonic waves, and visible light.
  • the entry sensor 210 may be attached so that the entry object can be detected in a range in which the entry object in the space where the object is placed can enter. And when an approaching body is detected, the approach sensor 210 should just transmit the signal showing that the approaching body was detected to the approach data input part 101.
  • the space where the object is placed may be separated by a wall or the like. In that case, it suffices if there is one or more entrances through which an entering body that brings in or takes out an object can enter the space in which the object is placed.
  • the space in which the object is arranged does not have to be separated by a wall or the like.
  • the approach sensor 210 can detect the approach of the approaching body into the space where the object is placed. In that case, for example, the ingress sensor 210 generates a signal indicating a value indicating the presence of the intruding body or a value indicating the absence of the intruding body in accordance with the result of detecting the intrusion of the intruding body. 101 may be transmitted.
  • the image sensor 220 is a visible light camera 221 and a distance camera 222 in the example shown in FIG.
  • the video sensor 220 may be one of the visible light camera 221 and the distance camera 222.
  • the video sensor 220 may be at least one of a visible light camera 221, a distance camera 222, and an infrared camera (not shown), for example.
  • the visible light camera 221 is a camera that captures a color image in which the pixel value of each pixel represents the intensity of light in the visible light band.
  • the distance camera 222 is a camera that shoots a distance video in which the pixel value of each pixel represents the distance to the shooting target.
  • the method by which the distance camera 222 measures the distance may be, for example, a TOF (Time Of Flight) method, a pattern irradiation method, or another method.
  • An infrared camera is a camera that takes an infrared image in which the pixel value of each pixel represents the intensity of electromagnetic waves in the infrared band.
  • the video sensor 220 may operate as the ingress sensor 210. The video sensor 220 transmits the obtained video to the video input unit 103.
  • the object ID input device 230 is, for example, a device that acquires an object ID and transmits the acquired object ID to the object management device 1.
  • the object ID is an identifier that can identify the object. In the description of each embodiment of the present invention, the object ID is also expressed as an object identifier.
  • the object ID input device 230 may obtain, for example, object IDs of an object that the approaching object is to bring into the space where the object is placed and an object that the approaching object is to take out from the space where the object is placed. .
  • the object ID input device 230 may acquire the object ID of the object brought into the space where the object is placed.
  • the object ID input device 230 may acquire the object ID of the object taken out from the space where the object is placed.
  • an approaching body or the like may input an object ID using the object ID input device 230.
  • the object ID input device 230 may read the object ID regardless of the operation of the entry body or the like.
  • the object ID input device 230 transmits the read object ID to the object ID input unit 106.
  • the object ID input device 230 may transmit data representing the read object ID to the object ID input unit 106.
  • the object ID input unit 106 may extract the object ID from the received data.
  • the object ID input device 230 may be, for example, a mobile terminal device held by an approaching body.
  • the object ID input device 230 may be, for example, a terminal device such as a tablet terminal installed in or near a space in which an object is placed. In that case, the approaching body may input the object ID by hand, for example.
  • the object ID input device 230 may include a reading device that reads a figure such as a barcode representing the object ID.
  • the reading device may be any device that reads a figure representing an object ID and converts the read figure into an object ID.
  • the graphic representing the object ID may be a character string representing the object ID.
  • the approaching body or the like may input the object ID by reading the graphic representing the object ID pasted or printed on the object or the slip using the reading device.
  • the graphic representing the object ID may be printed on the object.
  • a label on which a graphic representing the object ID is printed may be attached to the object.
  • the graphic representing the object ID may be printed on the slip.
  • the video sensor 220 may further operate as the object ID input device 230.
  • the visible light camera 221 included in the video sensor 220 may operate as the object ID input device 230.
  • a label or the like written on a graphic representing the object ID of the object is attached to the object.
  • the graphic representing the object ID may be any graphic that can be recognized in the video imaged by the visible light camera 221.
  • the object ID input device 230 may transmit the captured video to the object ID input unit 106.
  • the object ID input unit 106 may detect a graphic representing the object ID in the received video. Then, the object ID input unit 106 may identify the object ID based on the detected figure.
  • the object ID input device 230 may be a device that reads a wireless IC (Integrated Circuit) tag.
  • a wireless IC tag in which an object ID is stored in advance may be attached to the object.
  • the object ID input device 230 may read the object ID from, for example, a wireless IC tag attached to an object brought in by the entry object.
  • the mobile terminal device held by the entry body may include a wireless IC tag.
  • the object ID input device 230 may read the object ID from the wireless IC tag included in the mobile terminal device held by the entry body.
  • the approaching body or the like may store the object ID of the object to be taken out in advance in the wireless IC tag included in the mobile terminal device.
  • the approaching body or the like may store in advance the object ID of the object to be brought into the wireless IC tag included in the mobile terminal device.
  • the output device 240 is a device in which the output unit 109 outputs position information that is information representing the position of an object. In the following description, outputting information representing the position of an object is also referred to as “outputting the position of the object”.
  • FIG. 2 is a first diagram illustrating an example of the output device 240 of the present embodiment.
  • FIG. 2 illustrates a tablet terminal including a display unit that displays an image and the like.
  • the output device 240 may be a terminal device that can display an image or the like, such as a tablet terminal shown in FIG.
  • the terminal device that operates as the output device 240 may be fixed in a space in which an object is placed.
  • the output device 240 may not be fixed.
  • the mobile terminal device held by the entry body may operate as the output device 240 in a space where an object is placed.
  • FIG. 3 is a second diagram illustrating an example of the output device 240 of the present embodiment.
  • FIG. 3 shows a laser pointer that can control the direction in which the output unit 109 emits light, for example.
  • the output device 240 may be a device capable of pointing the position by light, such as a laser pointer shown in FIG. In that case, the output device 240 switches the state of the output device 240 between the light emitting state and the non-light emitting state by the output unit 109 transmitting a signal indicating an instruction to the output device 240. If it is designed to be able to. Further, the output device 240 only needs to be designed so that the output unit 109 can control the position indicated by the output device 240.
  • the output device 240 may be fixed via an actuator such as a robot arm that changes the direction of the output device 240 in accordance with an instruction from the output unit 109.
  • a laser pointer or the like that operates as the output device 240 is installed so that it can be pointed anywhere within the space where the load can be placed within the space where the load is placed, for example, by controlling the pointing direction. It only has to be done.
  • FIG. 4 is a third diagram illustrating an example of the output device 240 of the present embodiment.
  • FIG. 4 shows a projector device that projects video and images.
  • the output device 240 may be, for example, a projector device that projects video and images as shown in FIG.
  • the projector device that operates as the output device 240 may be arranged so that the range in which the luggage can be arranged in the space in which the luggage is arranged is included in the range in which the projector apparatus can project an image.
  • the projector device that operates as the output device 240 may be fixed so that the range in which the luggage can be placed is included in the range in which light is projected by the projector device that operates as the output device 240.
  • FIG. 5 is a fourth diagram illustrating an example of the output device 240 of the present embodiment.
  • FIG. 5 shows a projector device that can control the direction in which the output unit 109 emits light.
  • the output device 240 is attached to a ceiling or the like by an arm that can rotate the output device 240 with two rotation shafts.
  • the direction of the output device 240 can be changed by an actuator that rotates the arm in accordance with a signal indicating an instruction.
  • the output unit 109 can change the direction of the output device 240 by transmitting a signal representing an instruction to rotate the arm to the actuator.
  • the output unit 109 may control the direction in which the projector device operating as the output device 240 projects an image.
  • the output device 240 may be fixed via an actuator such as a robot arm that changes the direction of the output device 240 in accordance with an instruction from the output unit 109.
  • the output device 240 only needs to be arranged so that the image can be projected anywhere within the range in which the luggage can be arranged by controlling the direction in which the image is projected.
  • FIG. 6 is a first diagram illustrating an example of a space in which an object is placed, in which the object management system according to the present embodiment is installed.
  • the object is a luggage.
  • the space in which the object is placed is a truck bed or a warehouse.
  • An input / output unit including a video sensor 220 including a visible light camera 221 and a distance camera 222 and an output device 240 serving as a projector is installed.
  • the input / output unit is connected to the object management apparatus 1.
  • An entrance sensor 210 that is a human sensor is attached near the entrance.
  • a tablet terminal which is the output device 240 is installed near the entrance.
  • the portable terminal operates as the object ID input device 230.
  • the entry body is an operator not shown.
  • the worker When carrying a load into a space where an object is placed, the worker inputs the object ID of the load to be loaded by the object ID input device 230 before loading the load.
  • the entry body When unloading a package from a space where an object is placed, the entry body inputs the object ID of the package to be unloaded by the object ID input device 230 before unloading the package.
  • a plurality of types of output devices 240 may be attached.
  • the output unit 109 may perform output to each of a plurality of types of output devices 240 by a method according to the type.
  • FIG. 7 is a second diagram illustrating an example of a space in which an object is placed, in which the object management system according to the present embodiment is installed.
  • the worker has entered the space where the object is placed as an entry body.
  • the worker carries the luggage into the space where the object is placed.
  • the entry sensor 210 may continue to detect entry while a worker is in the space where the object is placed.
  • FIG. 8 is a third diagram illustrating an example of a space in which an object is placed, in which the object management system according to the present embodiment is installed.
  • FIG. 8 shows a state after one baggage is carried in by an operator.
  • the object detection unit 105 operates when a state in which an approach by an approaching body is detected as shown in FIG. Start.
  • FIG. 9 is a first diagram showing another example of a space in which an object is placed, in which the object management system according to the present embodiment is installed.
  • the visible light camera 221 and the distance camera 222 are attached so that two entrances can be photographed.
  • the visible light camera 221 and the distance camera 222 included in the input / output unit operate as the ingress sensor 210.
  • a plurality of visible light cameras 221 and a plurality of distance cameras 222 may be attached.
  • FIG. 10 is a second diagram showing another example of a space in which an object is placed, in which the object management system according to the present embodiment is installed.
  • a visible light camera 221, a distance camera 222, and an output device 240 that is a projector are attached instead of the input / output unit.
  • the entry data input unit 101 receives from the entry sensor 210 a signal indicating whether or not an entry object has entered the space where the luggage is placed.
  • the signal transmitted by the human sensor or the like that operates as the ingress sensor 210 is, for example, a value indicating the presence of the intrusion body or the presence of the intrusion body according to the detection result of the ingress by the intrusion body. Is a signal representing one of the values representing the above.
  • the entry data input unit 101 receives, from the image sensor 220 operating as the entry sensor 210, an image of the space in which the luggage is placed as a signal indicating whether or not an entry body has entered the space in which the luggage is placed. May be. In that case, the video input unit 103 described later may operate as the approach data input unit 101.
  • the entry detection unit 102 detects an entry by the entry object into the space where the luggage is placed based on the signal received by the entry data input unit 101.
  • the entry body is, for example, at least one of a person and a transport device.
  • the entry detection unit 102 may determine whether or not an entry object exists in the space where the luggage is placed. For example, when the value of the signal transmitted by the approach sensor 210 indicates that an approaching body exists, the approach detection unit 102 may determine that the approaching body exists. When the value of the signal transmitted by the ingress sensor 210 indicates that there is no intruder, the intrusion detector 102 may determine that there is no intruder.
  • the intrusion detection unit 102 determines that the intruder is from the received image. What is necessary is just to extract the feature. The characteristics of the entry body will be described later. When the characteristics of the entering body are extracted from the image, the entrance detecting unit 102 may determine that the entering body exists in the space where the luggage is placed. When the characteristics of the entering body are not extracted from the image, the entrance detecting unit 102 may determine that there is no entering body in the space where the luggage is placed.
  • the intrusion detecting unit 102 may detect an ingress by the intruding body.
  • the intrusion detection unit 102 may detect exit due to the intruding body.
  • the entry detection unit 102 detects the entry object by extracting the feature of the entry object in the image, for example.
  • the feature of the approaching object in the image is an image of a part of the approaching object having a characteristic shape and size, for example. For example, if the approaching body is a person, the shape and size of the person's head will not change significantly. Also, the human head often exists above the human torso. Therefore, the human head is easily photographed by the image sensor 220 installed at a place higher than the normal height of the person, for example, near the ceiling.
  • the approach detection unit 102 may extract a human head as a feature of the approaching body.
  • the entry detection unit 102 may detect the entry object by extracting a head image from the image.
  • the entry body is a transporting machine
  • Characteristic shaped parts that facilitate detection may be attached to the transporting machine.
  • the entry detection unit 102 may detect the entry object by detecting a characteristic part of the transporting machine in the image.
  • the entry detection unit 102 may detect the entry object by detecting at least one of a human head or a characteristic part of the transport machine.
  • the intrusion detection unit 102 extracts a human head.
  • the video sent from the video sensor 220 is a video taken by the visible light camera 221
  • the entry detection unit 102 may first extract the region of the moving object, for example.
  • a method for detecting a region of a moving object for example, there is a method based on a difference image between successive frames in an image or between adjacent frames. In an environment where there is little change in illumination, there is a method based on a difference image between a background image generated in advance and an image from which a head is extracted as a method for detecting a region of a moving object.
  • the difference image is an image in which the difference between the pixel values of the pixels at the same position in the two images is the pixel value of the pixel at the same position.
  • the entry detection unit 102 extracts a connected region of pixels having a pixel value greater than or equal to a predetermined value in the difference image as a moving object region.
  • the approach detection unit 102 can also extract the region of the moving object by performing contour extraction and region segmentation based on the pixel values for the image sent from the image sensor 220.
  • the entry detection unit 102 may detect a convex portion in the upper part of the extracted region of the moving body. And the approach detection part 102 should just determine whether the detected convex part is a human head.
  • the entry detection unit 102 may detect the detected convex portion as the human head when it is determined that the detected convex portion is the human head.
  • the approach detection unit 102 can determine whether or not the detected convex portion is a human head as follows, for example.
  • the approach detection unit 102 is based on camera parameters such as the focal length of the visible light camera 221 that captures an image, and the visible light in the case where the size of the detected convex portion is a standard size of a human head.
  • a distance from the camera 221 to an object photographed as a convex portion is estimated.
  • the approach detection unit 102 estimates the direction of the object photographed as the detected convex portion with respect to the visible light camera 221.
  • the distance and the direction estimated as described above represent a relative position between the visible light camera 221 and the object photographed as the convex portion.
  • the approach detection unit 102 determines the position of the target imaged as a convex portion in the space in which the luggage is arranged based on the estimated relative position and the position of the visible light camera 221 in the space in which the luggage is arranged. presume. And the approach detection part 102 determines whether the estimated position of the object image
  • the entry detection unit 102 may determine that the target photographed as the convex part is not a human head. Further, the entry detection unit 102 may determine a range in which the head of a person who works in the space can exist based on the arrangement of the visible light camera 221 in the space where the luggage is placed and the model of the human body. it can. When the estimated position of the object imaged as the convex part is not included in the determined range, the approach detection unit 102 may determine that the object imaged as the convex part is not a human head.
  • the approach detection unit 102 may determine that the object photographed as the convex part is a human head.
  • the approach detection unit 102 may detect a human head in an image captured by the visible light camera 221 by another method.
  • the pixel value of the pixel in each frame of the image represents the distance from the camera. If the camera parameters of the distance camera 222 are known, the shape and size of a surface that is present in the space where the package is placed and is not hidden from the distance camera 222 can be derived based on the distance image.
  • the approach detection unit 102 may detect, as a human head, a portion whose shape and size meet a predetermined human head condition on the surface derived based on the distance image. In addition to the above-described method, various methods can be applied as a method by which the approach detection unit 102 detects a person or a person's head in a distance video or a distance image.
  • the approach detection unit 102 detects the human head in at least one of the visible light image and the distance image, for example, as described above. It may be detected.
  • the approach detection unit 102 may detect a human head in both the visible light image and the distance image.
  • the approach detection unit 102 determines that the person's head is What is necessary is just to determine with having detected.
  • a human head is detected from a visible light image, erroneous detection may occur due to the influence of changes in illumination conditions.
  • the change in the illumination condition is, for example, a change in incident light incident from the outside through the entrance by opening and closing the door.
  • erroneous detection is likely to occur when strong external light such as sunlight is inserted.
  • a human head is detected from a distance image, another object having a shape similar to the shape of the human head may be detected as the human head.
  • the detection accuracy of the human head can be improved by combining the detection result of the human head from the visible light image and the detection result of the human head from the distance image.
  • the approach detection unit 102 may detect the approach by the approaching object by other methods.
  • Good The approach detection unit 102 may detect an approach by the approaching body by a method according to the type of the approaching body.
  • the video input unit 103 receives the video taken by the video sensor 220 from the video sensor 220.
  • the video input unit 103 stores the received video in the video storage unit 104.
  • the video input unit 103 may convert the received video into a still image for each frame and store the converted still image in the video storage unit 104.
  • the video input unit 103 may store the received video data in the video storage unit 104 as it is.
  • the video input unit 103 further transmits the received video to the ingress detection unit 102.
  • the video storage unit 104 stores the video received by the video input unit 103.
  • the video storage unit 104 may store the video for a predetermined time period after the video input unit 103 receives the video.
  • the video storage unit 104 may store a predetermined number of frames from the shorter time that has elapsed since the video input unit 103 received the video. In that case, for example, the video stored in the video storage unit 104 may be erased from the video that has passed since the video input unit 103 received the video.
  • the video input unit 103 may erase the video to be erased and store the received video by overwriting the received video on the video to be erased.
  • the object detection unit 105 when an approach by the approaching body is detected by the approach detection unit 102, after the approach is not detected, an image photographed before the detected approach and an image photographed after the approach Are read from the video storage unit 104.
  • the object detection unit 105 uses the read image to detect the carry-in of the object into the space where the object is placed and the carry-out of the object from the space where the object is placed.
  • the object detection unit 105 further detects the position of the object carried into the space where the object is placed and the position of the object carried out from the space where the object is placed.
  • the object detection unit 105 reads, from the video storage unit 104, an image taken before the entry is detected, for example, as described below.
  • the object detection unit 105 reads out a predetermined number of still images from a still image at the time when entry has started to be detected. Good.
  • the object detection unit 105 uses the video data to obtain a frame that is a predetermined number of frames before the frame at the time when entry is detected. What is necessary is just to extract as a still image.
  • the object detection unit 105 further reads from the video storage unit 104 an image taken after the entry is detected and the entry is no longer detected.
  • the object detection unit 105 may similarly read, for example, a predetermined number of still images from the video storage unit 104 from the still images at the time when entry is no longer detected.
  • the object detection unit 105 uses the video data to obtain a frame after a predetermined number of frames from the frame at the time when entry is no longer detected. What is necessary is just to extract as a still image.
  • the object detection unit 105 performs the object loading and the object detection based on the difference between the image captured before the entry is detected and the image captured after the entry is not detected. Detecting unloading.
  • an image taken before an entry is detected is referred to as an “before entry image” of the entry.
  • an image taken after the entry is detected and the entry is no longer detected is referred to as an “post-entry image” of the entry.
  • the object detection unit 105 extracts a change area including a set of pixels in which the magnitude of change in pixel value between the pre-entry image and the post-entry image is greater than or equal to a predetermined reference, for example.
  • the object detection unit 105 may generate a difference image between the pre-entry image and the post-entry image.
  • the difference image is, for example, an image that represents the difference between the pixel values of two pixels at the same position as the pixel.
  • the object detection part 105 should just extract the area
  • the change area may be a connected area of pixels in which the magnitude of change in pixel value is equal to or greater than a predetermined reference.
  • the change area may be a convex hull of a connected area of pixels whose pixel value change is equal to or greater than a predetermined reference.
  • the change area may be a polygon such as a rectangle including a connected area of pixels whose magnitude of change in pixel value is equal to or greater than a predetermined reference.
  • a connected region is a set of pixels in which, for example, pixels included in the connected region are adjacent to any pixel included in the same connected region.
  • the object detection unit 105 determines whether the extracted change area is caused by the carry-in of the object or the carry-out of the object.
  • the object detection unit 105 detects the presence or absence of an object in the change region based on, for example, the color or contour in the change region. For example, the object detection unit 105 may estimate the shape of the target in which the image is included in the change area based on the color or outline in the change area. For example, when a label is attached to the object, the object detection unit 105 may detect the object by detecting an image of the label in the change area based on, for example, the color or contour in the change area. The object detection unit 105 may compare the characteristics such as the color and texture of the change area with the same type of characteristics of the floor or wall in the space where the object is placed. Then, the object detection unit 105 may determine that an object is present in the change region when the feature of the change region is different from the feature of the floor or wall. The object detection unit 105 may detect the object by other methods.
  • the object detection unit 105 may detect the presence or absence of an object in the change areas of both the pre-entry image and the post-entry image.
  • the object detection unit 105 carries out the object detected in the change area of the pre-entry image by the approaching body. It is determined that In the following description, the carried object is referred to as a carried object.
  • the object detection unit 105 determines that the object detected in the change area of the post-entry image is It is determined that it has been brought in.
  • the carried object is referred to as a carried object.
  • the object detection unit 105 may determine that the carry-in object is placed at the place where the carry-out object is placed. .
  • the amount of change in the pixel value in the distance image is the change in the shortest distance from the distance camera 222 that captured the distance image to the surface of the object to be imaged. Represents. Within the shooting range by the distance camera 222, an object is carried in and out between a distance image shot in the state where the object exists and a distance image shot in the state where the object does not exist. Appear as a change area.
  • the distance camera 222 changes to the distance camera 222.
  • the distance to the nearest surface does not change. In that case, in the area where the object in the distance image was present, the distance from the distance camera 222 to the surface closest to the distance camera 222 is increased by the absence of the object.
  • the distance camera 222 changes to the distance camera 222. The distance to the nearest surface does not change. In that case, in the area of the arranged object in the distance image, the distance from the distance camera 222 to the surface closest to the distance camera 222 is reduced due to the presence of the object.
  • the object detection unit 105 determines whether the change area is caused by the carry-out of the object, based on the amount of change in the pixel value in the change area of the post-entry image with respect to the pre-entry image. To detect.
  • the object detection unit 105 may determine that the change area is caused by the unloading object. If there is a pixel whose pixel value decreases in the change area, but no pixel whose pixel value increases, the object detection unit 105 may determine that the change area is caused by the carried-in object.
  • the object detection unit 105 considers that the pixel value of the pixel does not change when the magnitude of the change in the pixel value of the pixel between the pre-entry image and the post-entry image does not exceed a predetermined difference threshold. May be.
  • the difference threshold only needs to be experimentally determined in advance so as to exceed the magnitude of fluctuation of the pixel value due to fluctuations or the like in a plurality of distance images obtained by photographing the same object.
  • the distance sensor of the video sensor 220 may be arranged such that an image of an object photographed in a space in which the object is arranged is an area having a certain width or more. In that case, the carrying-in and carrying-out of the object appear as a change region having a width larger than a certain width.
  • the object detection unit 105 has, for example, a pixel whose magnitude of decrease in the pixel value exceeds a predetermined difference threshold and exceeds a predetermined width threshold. What is necessary is just to detect a connection area
  • the object detection unit 105 In the change area of the difference image between the pre-entry image and the post-entry image, the object detection unit 105, for example, has a size that exceeds a predetermined width threshold of a pixel whose pixel value increases beyond a predetermined difference threshold. What is necessary is just to detect a connection area
  • the width threshold described above may be experimentally determined in advance so that the width of the image of the photographed object does not fall below the width threshold.
  • the object detection unit 105 may determine whether each change area is a change area due to a carry-out object or a change area due to a carry-in object as described above.
  • the object detection unit 105 determines the cause of the change area, for example, as described later. do it.
  • an object is replaced after the approaching object is placed in a place where the unloading object is placed before the approaching object.
  • a carry-in object is placed at a place where an object that is neither a carry-out object nor a carry-in object is placed, and an object that is neither a carry-out object nor a carry-in object is placed on the carry-in object.
  • An object that is placed on the carry-out object and is not a carry-out object or a carry-in object may be placed at the place where the carry-out object was placed.
  • FIG. 11 is a diagram schematically illustrating an example of a change in the position of an object.
  • FIG. 11 illustrates an example of a change in the position of the object when the object D is further placed in the space in which the objects A, B, and C are placed.
  • an image photographed in the left state is an image before entry
  • an image photographed in the right state is an image after entry.
  • an object D is newly placed under the object A.
  • a region where the pixel value is decreasing and a region where the pixel value is increasing may be mixed in one change region.
  • the object detection unit 105 may determine the cause of the change area as follows, for example.
  • the object detection unit 105 first detects the presence / absence of movement of an object in a change area including an area where the pixel value is decreasing and an area where the pixel value is increasing. The object detection unit 105 selects a template in the change area of the pre-entry image.
  • the object detection unit 105 specifies, for example, the area in the visible light image corresponding to the change area detected in the distance image. Also good.
  • the detection unit 105 may identify a region in the visible light image corresponding to the change region detected in the distance image based on the relative positions of the distance camera 222 and the visible light camera 221 and the camera parameters.
  • the region in the visible light image corresponding to the change region in the distance image is a region in the visible light image including, for example, a region in which the distance is photographed in the change region is observed with visible light. Then, the object detection unit 105 may select a template in the identified visible light image region.
  • the object detection unit 105 may select, as a template, an area having a predetermined size in which the change amount of the pixel value is equal to or greater than a predetermined value in the change area of the pre-entry image.
  • the object detection unit 105 selects, as a template, an area of a predetermined size where the average value of the pixel values of the differential image detected by using an appropriately selected operator is equal to or greater than a predetermined value. May be.
  • the object detection unit 105 may select, as a template, an area in which the ratio of pixels having a pixel value equal to or greater than a predetermined value in the differential image described above is equal to or greater than a predetermined ratio.
  • the object detection unit 105 may determine the size of the region selected as the template.
  • the object detection unit 105 may select a template by another method.
  • the object detection unit 105 detects the destination of the template by performing template matching using the template in the change area of the post-entry image.
  • the object detection unit 105 When the change area is detected in the distance image and the visible light image is obtained, the object detection unit 105 performs template matching in the area of the visible light image corresponding to the change area in the distance image as described later. You may go. Furthermore, the object detection unit 105 may specify a region in the distance image corresponding to a region specified as the template movement destination in the visible light image.
  • the object detection unit 105 may determine that an object that is neither a carry-out object nor a carry-in object has moved when the movement destination of the template is detected. Then, the object detection unit 105 may detect the template and the destination of the template as the position of the object that is neither the carry-out object nor the carry-in object. The object detection unit 105 may select a plurality of templates in one change area. Then, the object detection unit 105 may perform template matching using each of the plurality of templates. For example, the object detection unit 105 may select a movement vector whose difference is within a predetermined range from movement vectors obtained by template matching.
  • the object detection unit 105 may determine that an object that is neither a carry-out object nor a carry-in object has moved when the number of selected movement vectors is a predetermined number or more. Then, the object detection unit 105 may detect the template in which the movement vector is detected and the movement destination of the template as the position of the object that is not the carry-out object or the carry-in object.
  • the change area includes It is determined that it has been caused by a carried-in object.
  • the object detection unit 105 may determine that an object has been carried in.
  • the object detection unit 105 may determine that the object has been carried out.
  • the object detection unit 105 may determine that an object has been carried in.
  • the place where the moved object is located changes from a location that is not the top to a location that is the top, other objects placed on the object are carried out. It may have been done.
  • the object detection unit 105 may determine that the object has been carried out.
  • the object detection unit 105 may determine that the change area is caused by the carried-out object.
  • the object detection unit 105 may determine that the change area is caused by the carried object. When it is determined that an object has been carried out and carried in, the object detection unit 105 may determine that the change area is caused by the carried object and the carried object.
  • the above determination is an example. The object detection unit 105 may make a determination different from the above example.
  • the object detection unit 105 can detect an unloaded object and a loaded object based on the pre-entry image and the post-entry image in the visible light image. That's fine. Further, the object detection unit 105 may detect the carry-out object and the carry-in object based on the pre-entry image and the post-entry image even in the distance video.
  • the object detection unit 105 detects the position of the detected carry-out object and carry-in object in at least one of the visible light image and the distance image.
  • the object detection unit 105 may detect the detected positions of the carried-out object and the carried-in object in the visible light image.
  • the object detection unit 105 may detect the detected carry-out object and the position of the carry-in object in the distance image.
  • the position of an object such as a carry-out object and a carry-in object may be, for example, the position of a characteristic part of the object.
  • the characteristic part of the object may be a part that can be specified based on the image of the object in the image.
  • the characteristic part of the object is, for example, the corner of the object, the center of gravity of the image of the object, or the center of gravity of the label attached to the object.
  • the object detection unit 105 may extract an object image based on object characteristics such as shape and color given in advance in the change area or the area including the change area.
  • the object detection unit 105 may regard the change area as an object image.
  • the object detection unit 105 may detect, for example, the center of gravity of the change area as the position of the object.
  • the object detection unit 105 may detect a change area or a predetermined area including the change area as the position of the object.
  • the characteristic part of the object may be another part.
  • the detected position is represented by the coordinates of one point, for example.
  • the characteristic part of the object is a line segment
  • the detected position is represented by the coordinates of two end points of the line segment, for example.
  • the characteristic part of the object is a polygon
  • the detected position is represented by, for example, the coordinates of each vertex of the polygon.
  • the characteristic part of the object is a circle
  • the detected position is represented by, for example, the coordinates and radius of the center of the circle.
  • the characteristic part of the object may be another figure represented by coordinates and length.
  • the coordinates representing the position of the object may be represented by discrete values selected as appropriate.
  • the object detection unit 105 may convert a position detected in an image such as a visible light image or a distance image into, for example, a position in a space where the object is arranged.
  • the object detection unit 105 detects the characteristic part of the object in the space in which the object is arranged based on the pixel value of the pixel of the distance image at the position detected in the image and the camera parameter of the distance camera 222.
  • the position can be specified.
  • the position of the object may be represented by coordinates in a coordinate system determined in advance in the space where the object is arranged.
  • the coordinate system may be a coordinate system centered on the video sensor 220.
  • the coordinate system may be a coordinate system centered on the visible light camera 221, for example.
  • the coordinate system may be a coordinate system centered on the distance camera 222, for example.
  • the object detection unit 105 transmits the position detected as the position of the carry-in object to the object registration unit 107. When a plurality of positions are detected as the positions of the carried-in objects, the object detection unit 105 transmits the plurality of positions to the object registration unit 107.
  • the object detection unit 105 may further cut out, for example, an image of a change area determined to be caused by the carried-in object or an area including the change area from the post-entry image of the visible light image.
  • the change area determined to be caused by the carry-in object includes a change area determined to be caused only by the carry-in object and a change area determined to be caused by the carry-in object and the carry-out object.
  • the object detection unit 105 may associate the clipped image with the position of the object.
  • the object detection unit 105 may transmit the clipped image associated with the position of the object to the object registration unit 107.
  • the object detection unit 105 may associate the clipped image with the position for each position. Then, the object detection unit 105 may transmit the clipped image associated with the position to the object registration unit 107.
  • the object detection unit 105 may associate the post-entry image with the position instead of the clipped image. Then, the object detection unit 105 may transmit the post-entry image associated with the position to the object registration unit 107.
  • an image transmitted from the object detection unit 105 to the object registration unit 107 is also referred to as a “display image”.
  • the position transmitted from the object detection unit 105 to the object registration unit 107 may be a display image instead of coordinates. That is, the object detection unit 105 may transmit the display image to the object registration unit 107 as the position of the carried-in object. The object detection unit 105 may further transmit the position detected as the position of the carry-out object to the object registration unit 107.
  • the object detection unit 105 may further transmit to the object registration unit 107 a combination of the position of the movement source and the position of the movement destination of an object that is not a carry-in object as a carry-out object.
  • the position of the movement source is the position of the template described above.
  • the position of the movement destination is the position of the movement destination of the template described above.
  • the object ID input unit 106 receives the object ID from the object ID input device 230.
  • the object ID input unit 106 may receive a plurality of object IDs.
  • the object ID input unit 106 may extract the object ID from the received video.
  • the object ID input unit 106 transmits the received or extracted object ID to the object registration unit 107.
  • the object storage unit 108 stores an object ID and a position associated with the object ID.
  • the object storage unit 108 may further store an image associated with the object ID.
  • the image stored in the object storage unit 108 of the present embodiment is the display image described above.
  • the object registration unit 107 determines whether or not the position associated with the received object ID is stored in the object storage unit 108.
  • the object registration unit 107 When the position is associated with the received object ID, the object registration unit 107 reads the position associated with the received object ID from the object storage unit 108. The object registration unit 107 transmits the read position to the output unit 109. When an image is associated with the received object ID, the object registration unit 107 may further read an image associated with the received object ID from the object storage unit 108. In that case, the object registration unit 107 transmits the read position and image to the output unit 109. The object registration unit 107 may transmit the position or the position and the image to the output unit 109 when the approach detection unit 102 detects the approach by the approaching body. The object registration unit 107 may transmit the position or the position and the image to the output unit 109 in response to the input of the object ID.
  • the output unit 109 When the output unit 109 receives the position, the output unit 109 outputs the received position to the output device 240.
  • the output unit 109 may display the received position on the screen of the output device 240 that is a terminal device. In that case, for example, the output unit 109 may draw a predetermined figure on a plan view of a place where the object is placed and a place represented by the received position on the plan view.
  • the output unit 109 sets the direction of the output device 240 so that the output device 240 irradiates a position associated with the object ID.
  • the output device 240 may irradiate light in the set direction.
  • the output unit 109 controls the direction of the output device 240 so that the position associated with the object ID is irradiated, for example, by feedback control. May be.
  • the output unit 109 irradiates, for example, the output device 240 so that the output device 240 irradiates the plurality of positions in a predetermined order every predetermined time. What is necessary is just to switch the position to perform.
  • the output unit 109 sets the direction of the output device 240 and the position where the irradiation center is associated with the object ID.
  • the direction of the output device 240 is set so that The output device 240 may irradiate light in the set direction.
  • the output unit 109 may cause the output device 240 to irradiate the image associated with the object ID in the set direction.
  • the output unit 109 causes the output device 240 to display images associated with the positions at the plurality of positions in a predetermined order every predetermined time.
  • the output unit 109 may cut out the image at the position associated with the object ID from the after-entry image.
  • the position associated with the object ID is represented by coordinates in a three-dimensional coordinate system set in the space where the object is placed
  • the output unit 109 is associated with the object ID in the post-entry image.
  • the coordinates of the position image may be derived.
  • the coordinates in the three-dimensional coordinate system can be converted to the coordinates in the post-entry image based on the camera parameters of the camera that captured the post-entry image and the relationship between the camera position and the three-dimensional coordinate system.
  • the output part 109 should just irradiate the position linked
  • the output device 240 is a projector in which the output unit 109 cannot set the irradiation direction
  • the output device 240 is configured so that, for example, the range in which the object is arranged is included in the range of irradiation by the output device 240. Should just be installed. In the output unit 109, the brightness of the portion irradiated to the position associated with the object ID of the image irradiated by the output device 240 becomes bright, and the brightness of the portion irradiated to other positions becomes dark. Set to be. And the output part 109 should just irradiate the output image 240 with the set image
  • the output unit 109 displays the image associated with the object ID on the portion of the image irradiated by the output device 240 that is irradiated to the position associated with the object ID. What is necessary is just to synthesize.
  • the output unit 109 displays an image associated with the position of the portion of the video irradiated by the output device 240 that is irradiated with the position associated with the object ID. Can be synthesized.
  • the output unit 109 increases the brightness of the portion irradiated to the position associated with the object ID of the image and darkens the other portion. Should be generated.
  • the output unit 109 may irradiate the output device 240 with the generated image.
  • the output unit 109 ends the position output.
  • the object registration unit 107 further deletes the position associated with the received object ID from the object storage unit 108.
  • the object registration unit 107 may not wait for the position associated with the received object ID immediately but wait until the object detection unit 105 transmits the position of the unloading object.
  • the object registration unit 107 may receive the position of the carry-out object from the object detection unit 105.
  • the object registration unit 107 may compare the position of the carry-out object received from the object detection unit 105 with the position associated with the received object ID. When the distance between the position of the received carry-out object and the position associated with the received object ID is equal to or less than a predetermined distance, the object registration unit 107 displays the position associated with the object ID as the object storage unit 108. You may delete from.
  • the object registration unit 107 When the object registration unit 107 receives an object ID associated with a position and an object ID not associated with a position, the object registration unit 107 performs the above-described operation on the object ID associated with the position. Then, the object registration unit 107 waits until the position of the carried-in object is transmitted from the object detection unit 105.
  • the object registration unit 107 waits until the position of the carry-in object is transmitted from the object detection unit 105.
  • the object registration unit 107 When the position of the carry-in object transmitted from the object detection unit 105 is received, the object registration unit 107 receives the position of the carry-in object received from the object detection unit 105 from the object ID input unit 106 and is associated with the position. It associates with the object ID which is not. The object registration unit 107 stores the position associated with the object ID in the object storage unit 108. When the object registration unit 107 receives the position of the carry-in object and an image associated with the position, the object registration unit 107 receives the received position of the carry-in object and the image associated with the position as the object ID that is not associated with the position. Associate.
  • the object registration unit 107 stores the position of the carry-in object and the image associated with the position, which are associated with the object ID, in the object storage unit 108.
  • the image transmitted from the object detection unit 105 is, for example, an image of a change area generated by a carried-in object as described above.
  • the object registration unit 107 may associate the position of the carry-in object and the post-entry image with the object ID.
  • the object registration unit 107 may associate the positions of all the imported objects detected by the object detection unit 105 with each of the object IDs that are not associated with the positions.
  • the object registration unit 107 further associates all the received combinations of position and image with each object ID that is not associated with a position. May be.
  • the object registration unit 107 uses the received position and the post-entry image for the object ID that is not associated with the position. You may associate with each.
  • the object registration unit 107 When the object registration unit 107 receives a combination of a movement source position and a movement destination position of a moved object that is neither a carry-out object nor a carry-in object, the object registration unit 107 stores it in the object storage unit 108 as the position of the moved object. You may update the position. For example, the object registration unit 107 may first identify the object ID associated with the position closest to the received movement source position. When the position of the object is represented by coordinates, the object registration unit 107 may specify, for example, the object ID associated with the position that is the closest to the movement source position. The object registration unit 107 associates the position of the movement destination with the identified object ID, and stores the position of the movement destination associated with the identified object ID in the object storage unit 108.
  • the object registration unit 107 uses the image representing the position of the movement source as a template, the position registered in the object storage unit 108 (that is, the image representing the position), the template Matching may be performed. And the object registration part 107 should just identify object ID linked
  • the object registration unit 107 may store an image representing the position of the movement destination in the object storage unit 108 as the position of the object specified by the specified object ID. For example, the object registration unit 107 associates the identified object ID with an image representing the position of the movement destination, and stores an image representing the position of the movement destination associated with the identified object ID in the object storage unit 108. Good.
  • the image received by the object registration unit 107 from the object detection unit 105 and stored in the object storage unit 108 by the object registration unit 107 is the display image described above.
  • FIG. 12 is a flowchart showing a first example of the entire operation of the object management apparatus 1 of the present embodiment.
  • the output device 240 of the object management system 300 is, for example, a laser pointer whose direction can be changed, a projector shown in FIG. 4, a projector shown in FIG.
  • the operation in this case is referred to as “first operation example” in the following description.
  • the object ID input unit 106 receives an object ID from the object ID input device 230 (step S101).
  • the object ID input unit 106 transmits the received object ID to the object registration unit 107.
  • the object registration unit 107 determines whether or not a position is associated with the received object ID (step S102).
  • the object registration unit 107 may determine whether or not the position associated with the received object ID is stored in the object storage unit 108.
  • step S104 If the position is not associated with the received object ID (No in step S102), the object management device 1 next performs the operation of step S104.
  • step S102 When the position is associated with the received object ID (Yes in step S102), the output unit 109 outputs the position associated with the received object ID by the output device 240 (step S103). The operation of step S103 will be described later in detail. Then, the object management apparatus 1 next performs the operation of step S104.
  • step S104 based on the data acquired by the ingress sensor 210 and received by the ingress data input unit 101 from the ingress sensor 210, the ingress detection unit 102 detects the ingress by the intruder.
  • the entry detection unit 102 checks the value of the entry detection flag (step S109).
  • the entry detection flag indicates whether an entry has been detected. For example, when the approach detection flag is Yes, the approach detection flag indicates that an approach has been detected. When the entry detection flag is No, the entry detection flag indicates that no entry is detected. The value that is “Yes” and the value that is “No” may be different values determined in advance. The initial value of the approach flag is No. When the approach detection flag is No (No in Step S109), the object management device 1 continues the operation from Step S104. If no entry is detected and the entry flag is No, no entry by an entry object has been detected yet.
  • step S105 the approach detection unit 102 confirms the value of the approach detection flag (step S106).
  • the object detection unit 105 acquires, for example, an image N frames before the frame where the entry is detected (Step S107).
  • the value N is, for example, the number of frames obtained experimentally in advance and acquired by the video input unit 103 from the start of the influence of the approach until the entry is detected.
  • the influence of the approach is, for example, the influence on the image acquired by the image sensor 220 due to the external light inserted from the door when the approaching body opens the door.
  • an image N frames before the frame in which entry is detected, acquired in step S107 will be referred to as an image A.
  • Image A is the above-mentioned pre-entry image.
  • the object detection unit 105 may read the image A from the video storage unit 104.
  • the approach detection part 102 sets an approach flag to Yes (step S108).
  • the object management device 1 continues the operation from step S104.
  • Step S106 If the entry detection flag is Yes (Yes in Step S106), the object management device 1 continues the operation from Step S104. When the approach is detected and the approach flag is Yes, the approach by the approaching body is continuously detected.
  • the object management device 1 performs an object registration process (step S110).
  • the entry flag is Yes and no entry is detected, the entry has been detected, but no entry has been detected in the latest detection. For example, when an approaching body that has entered the space in which the object is placed leaves the space in which the object is placed, the entry flag is Yes and no entry is detected.
  • the object registration process will be described later in detail. In the object registration process, the approach detection flag is set to No by being initialized.
  • step S111 when the administrator of the object management system 300 performs an operation to end the operation of the object management apparatus 1 (Yes in step S111), the object management apparatus 1 ends the operation.
  • the operation for ending the operation of the object management device 1 is not executed (No in step S111), the object management device 1 continues the operation from step S101.
  • FIG. 13 is a flowchart showing a first example of the operation in the object registration process of the object management apparatus 1 of the present embodiment.
  • the object detection unit 105 acquires an image after M frames from a frame in which no entry by the approaching object is detected (step S201).
  • the value M is, for example, the number of frames obtained experimentally in advance and acquired by the video input unit 103 after no entry is detected until the influence of the entry disappears.
  • the influence of the approach is, for example, an influence on an image acquired by the image sensor 220 due to external light inserted from the door before the door is closed.
  • the image acquired in step S201 is referred to as an image B.
  • Image B is the above-mentioned image after entering.
  • the approach detection part 102 performs initialization which sets an approach flag to No (step S202).
  • the object detection unit 105 specifies the positions of the carried-out object (that is, the carried-out object) and the brought-in object (that is, the carried-in object) (step S203).
  • step S204 If the position of the brought-in object is not detected (No in step S204), the object management device 1 next performs the operation of step S208.
  • the object registration unit 107 selects an object ID that is not associated with a position among the object IDs received by the object ID input unit 106 in step S101. Specify (step S205). In the following description, an object ID that is not associated with a position is referred to as an “unregistered object ID”.
  • the object registration unit 107 associates the position detected as the position of the brought-in object with the unregistered object ID (step S206).
  • the object registration unit 107 stores the position associated with the unregistered object ID in the object storage unit 108 (step S207).
  • the object management apparatus 1 may perform the operations from step S204 to step S207 for all the detected carried-in objects.
  • FIG. 14 is a diagram schematically illustrating a first example of a position stored in the object storage unit 108 of the present embodiment.
  • the object storage unit 108 stores a combination of the object ID, the time, and the position of the object.
  • the object storage unit 108 stores coordinates as the position of the object.
  • the object detection unit 105 detects coordinates as the positions of objects such as a carry-in object and a carry-out object.
  • the object registration unit 107 stores the coordinates in the object storage unit 108 as a position.
  • the coordinates of the object may be expressed by, for example, an image coordinate system in the images A and B.
  • the image coordinate system may be an image coordinate system in an image captured by the visible light camera 221 in the video sensor 220.
  • the image coordinate system may be an image coordinate system in an image captured by the distance camera 222.
  • the coordinate system of the coordinates stored in the object storage unit 108 may be determined in advance.
  • the object registration unit 107 may store, in addition to the coordinates, values representing the coordinate system of the coordinates stored in the object storage unit 108 in the object storage unit 108.
  • the object management apparatus 1 ends the object registration process shown in FIG.
  • the object registration unit 107 deletes the position of the taken-out object from the object storage unit 108 (step S209).
  • the object registration unit 107 may identify all object IDs whose positions are associated at the time of reception in step S101. For example, when the worker who is an entry body carries out all the objects represented by the object ID associated with the position received in step S101, the object registration unit 107 is associated with the identified object ID. All the existing positions should be deleted.
  • the object registration unit 107 may compare the position associated with the specified object ID with the position specified as the position of the carry-out object.
  • the object registration unit 107 is associated with the object ID. May be deleted.
  • the object management apparatus 1 ends the operation shown in FIG.
  • the object registration unit 107 updates the position stored in the object storage unit 108 of the moved object that is neither a carry-out object nor a carry-in object. May be performed.
  • step S103 Next, the operation of step S103 will be described in more detail.
  • the output device 240 is, for example, a laser pointer whose direction can be changed as shown in FIG.
  • the output unit 109 reads the position associated with the object ID received in step S101 from the object storage unit 108.
  • the output unit 109 sets the direction of the output device 240 that is a laser pointer so as to indicate the position associated with the object ID received by the laser pointer.
  • the position associated with the object ID is represented by coordinates in the image captured by the video sensor 220 (coordinates in the image coordinate system). If a distance image is obtained, the distance image is used to represent the position represented by the image coordinate system by a three-dimensional coordinate system of the position in the space where the object is represented, represented by the position. Can be converted to the coordinates.
  • the output unit 109 may convert the coordinates of the position associated with the object ID into the coordinates of the position in the space where the object is placed. And the output part 109 should just set the direction of the output device 240 so that the laser pointer may point to the position which the coordinate obtained by conversion represents.
  • the output unit 109 outputs so that the laser pointer points to the position represented by the read coordinates.
  • the direction of the device 240 may be set.
  • the output unit 109 may illuminate the laser pointer and extract the point indicated by the laser pointer in the video captured by the video sensor 220.
  • the brightness of the point indicated by the laser pointer only needs to be brighter than the illumination light in the space where the object is placed.
  • the output unit 109 may extract the point indicated by the laser pointer based on the brightness, the brightness, the color of light emitted by the laser pointer, or the like. And the output part 109 should just control the direction of the output device 240, for example by feedback control so that the point which a laser pointer points may approach the position linked
  • the output unit 109 sets the direction of the output device 240 in the same manner as when the output device 240 is a laser pointer. Then, the output unit 109 causes the output device 240 that is a projector to irradiate the position associated with the object ID.
  • the range irradiated by the output device 240 may be a predetermined range including, for example, a position associated with an object.
  • the output device 240 is a fixed projector shown in FIG. 4, as long as the output device 240 projects an image as described above, the range in which the luggage can be arranged is included. Then, a three-dimensional coordinate system (hereinafter referred to as “object coordinate system”) set in a space in which the object is arranged, and a coordinate system in an image captured by the distance camera 222 (hereinafter referred to as “distance image coordinate system”). As long as it is known. Furthermore, the relationship between the object coordinate system and the coordinate system (hereinafter referred to as “projection coordinate system”) in an image or video projected by the output device 240 that is a projector may be known.
  • object coordinate system set in a space in which the object is arranged
  • distance image coordinate system a coordinate system in an image captured by the distance camera 222
  • the output unit 109 may derive the coordinates represented by the object coordinate system of the point where the image appears at the position based on the position in the distance image and the pixel value of the pixel at the position. And the output part 109 should just derive
  • the output unit 109 may generate an image in which the predetermined area including the point represented by the derived coordinates is bright and the other areas are dark.
  • the output unit 109 may project the generated image onto the space where the object is placed by the output device 240.
  • the operation in this case is referred to as “second operation example” in the following description.
  • the display image in this case is a post-entry image, that is, an image of an area including the above-described change area, which is generated by the carry-in object, cut out from the image B in FIG.
  • the after-entry image that is, the image B in FIG. 13 may be a visible light image.
  • the operation of the object management apparatus 1 in that case is also represented by FIGS. 12 and 13. Except for the matters described below, the operation of the object management apparatus 1 when the display image is transmitted as the object position is the object management apparatus 1 when the coordinates are transmitted as the object position described above. Is the same as the operation.
  • step S203 is the above-described display image.
  • the display image is an image including a region of the image of the carried-in object in the image in which the space in which the object is arranged is captured. From the display image, it is possible to know the shape of the imported object, or the shape of the imported object and the situation around the imported object. Therefore, it can be said that the display image represents the position of the carried-in object.
  • step S103 illustrated in FIG. 12 the output unit 109 displays a display image on the output device 240, thereby outputting a position associated with the object ID.
  • FIG. 15 is a diagram schematically illustrating a second example of the position stored in the object storage unit 108 of the present embodiment.
  • FIG. 15 schematically shows an example of the position stored in the object storage unit 108 by the object registration unit 107 in step S207 shown in FIG.
  • the object storage unit 108 stores a combination of the object ID, time, and position.
  • the time and position are associated with the object ID.
  • the time associated with the object ID represents the time when it is detected that the object specified by the object ID is carried in.
  • the object storage unit 108 stores a display image as a position.
  • the position associated with the object ID is an image identifier that identifies a display image.
  • the image identifier is, for example, a file name.
  • the object storage unit 108 may store the display image as an image file to which a file name that is an image identifier is assigned.
  • “.jpg” included in the image file name indicates that the format of the image file is a JPEG (Joint Photographic Experts Group) format.
  • the format of the image file may be another format.
  • the object registration unit 107 may store, for example, the received display image in the object storage unit 108 as an image file to which a file name that is an image identifier is assigned. And the object registration part 107 should just register unregistered object ID, time, and a position in the table as shown, for example in FIG. 15 which the object memory
  • the output device 240 is a terminal device including a display unit such as a tablet terminal.
  • the output unit 109 reads a display image associated with the received object ID. Then, the output unit 109 may display the display image on the display unit of the output device 240.
  • the output device 240 may be the projector shown in FIG. 4 or FIG.
  • the output unit 109 may project the display image onto an appropriately selected place by the output device 240.
  • the operation of the object management apparatus 1 according to the present embodiment when the object storage unit 108 stores the position and display image associated with the object ID will be described in detail with reference to the drawings.
  • the operation in this case is referred to as “third operation example” of the first embodiment.
  • the flowchart shown in FIG. 12 further represents the operation of the object management apparatus 1 in the third operation example.
  • the output unit 109 may operate in the same manner as the output unit 109 in the first operation example described above.
  • the output unit 109 may operate in the same manner as the output unit 109 in the second operation example described above.
  • the output unit 109 may perform an operation different from the operation of the output unit 109 in the first operation example and the operation of the output unit 109 in the second operation example.
  • the operation of the output unit 109 in that case will be described in detail later.
  • the operations in the other steps are the same as the operations in the steps given the same reference numerals in the first operation example, except for step S110.
  • FIG. 16 is a flowchart illustrating a third example of the operation in the object registration process of the object management apparatus 1 according to the first embodiment.
  • the flowchart shown in FIG. 16 represents an example of the operation of the object registration process in the third operation example of the object management apparatus 1 of the present embodiment. 16 is compared with FIG. 13, in this operation example, the object management apparatus 1 performs the operation of step S306 instead of the operation of step S206.
  • the object management apparatus 1 performs the operation of step S307 instead of the operation of step S207.
  • the object management apparatus 1 performs the operation of step S309 instead of the operation of step S209.
  • the object detection unit 105 transmits the detected position of the carried-in object and the display image to the object registration unit 107.
  • the carry-in object represents a brought-in object.
  • the display image represents an image of an area including a change area that is determined to have been caused by the carried-in object, cut out from the post-entry image.
  • the range for cutting out the display image from the post-entry image may be determined in advance.
  • the object registration unit 107 instead of the object detection unit 105 may cut out the display image from the post-entry image.
  • the display image may be the entire after-entry image.
  • the object registration unit 107 associates the position of the carry-in object detected by the object detection unit 105 and the display image with the unregistered object ID.
  • the display image is an image of an area including a change area determined to be caused by the carried-in object.
  • the change area generated by the carried-in object includes an image of the carried-in object.
  • the unregistered object ID represents an object ID whose associated position is not stored in the object storage unit 108.
  • step S307 the object registration unit 107 stores the position and the display image associated with the unregistered object ID in the object storage unit 108.
  • FIG. 17 is a diagram schematically illustrating a third example of the position stored in the object storage unit 108 of the first embodiment.
  • the object storage unit 108 stores a combination of the object ID, time, and position.
  • coordinates and a display image are stored in the object storage unit 108 as positions.
  • the time and position are associated with the object ID.
  • the time associated with the object ID represents the time when it is detected that the object specified by the object ID is carried in.
  • the object storage unit 108 stores coordinates and a display image as positions as shown in FIG.
  • the coordinates are represented by, for example, an image coordinate system in an image acquired by the visible light camera 221, similarly to the coordinates illustrated in FIG. 14.
  • the coordinates may be represented by other coordinate systems as described above.
  • the object storage unit 108 only needs to store an image file of a display image.
  • the position associated with the object ID is an image identifier that identifies a display image.
  • the image identifier is, for example, a file name.
  • the object storage unit 108 may store the display image as an image file to which a file name that is an image identifier is assigned.
  • the object registration unit 107 may store the display image in the object storage unit 108 as an image file to which a file name that is an image identifier is assigned, for example. Then, the object registration unit 107 may register the unregistered object ID, time, coordinates, and image identifier in the table as shown in FIG. 17 stored in the object storage unit 108.
  • step S309 the object registration unit 107 deletes the position of the carry-out object and the display image from the object storage unit 108.
  • the object management device 1 may perform the following operation in step S103 when the output device 240 is the projector shown in FIG. 4 or FIG. Note that the following description is a case where coordinates associated with an object are represented by an image coordinate system in a visible light image captured by the visible light camera 221, for example.
  • the output unit 109 first reads the coordinates and display image associated with the received object ID from the object storage unit 108.
  • the output unit 109 includes a point in the space where the object is represented, which is represented by the coordinates associated with the object ID.
  • the direction of the output device 240 is set so as to irradiate a predetermined area.
  • the method of setting the direction of the output device 240 that is a projector may be the same method as the setting of the direction of the laser pointer described above.
  • the output unit 109 causes the output device 240 to project the display image associated with the same object ID.
  • the output unit 109 may cut out an image of a predetermined area including the position associated with the object ID from the after-entry image. Then, the output unit 109 may project the clipped image on the output device 240.
  • the output device 240 When the output device 240 is a fixed projector as in the example illustrated in FIG. 4, the output device 240 first displays the coordinates associated with the object ID as coordinates expressed by the above-described projected coordinate system. Can be converted to.
  • the output unit 109 When the display image is a partial image of the after-entry image cut out from the after-entry image, the output unit 109 includes a point where the display image associated with the same object ID is represented by the converted coordinates. An image arranged at a position is generated. And the output part 109 should just darken the area
  • the output unit 109 causes the output device 240 to project the generated image.
  • the output unit 109 causes the brightness of the area other than the predetermined area including the point represented by the transformed coordinates of the display image to be darker than the brightness of the predetermined area.
  • the display image is changed.
  • the output unit 109 causes the output device 240 to project the changed display image.
  • the present embodiment described above has an effect that the calculation load for detecting an object can be reduced.
  • the reason is that the object detection unit 105 starts a process of detecting an object such as a carried-in object after the entry detection unit 102 detects the entry by the entry object. Therefore, the object management apparatus 1 according to the present embodiment does not need to continuously perform the object detection process. Therefore, the calculation load for detecting the object can be reduced.
  • the calculation load is, for example, a calculation load of processing for detecting an object. That is, the calculation load is a calculation amount (calculation amount) of calculation executed for the process of detecting an object.
  • the power consumption of the object management device 1 can be reduced. For example, when the space where the object is arranged is a truck bed, the object management apparatus 1 is mounted on the truck.
  • the object management device 1 it is necessary to supply power to the object management apparatus 1 from the truck.
  • the power that the truck can supply is limited.
  • the object management device 1 when the power required by the object management device 1 exceeds the power that can be supplied by the truck, the object management device 1 cannot be mounted on the truck. Even if the power required by the object management device 1 does not exceed the power that can be supplied by the truck, it is necessary to mount a battery having a capacity corresponding to the amount of power required by the object management device 1 on the truck. There is. By reducing the power required by the object management device 1, the object management device 1 can be easily mounted on a truck.
  • FIG. 18 is a block diagram showing an example of the configuration of the object management system 300A of the present modification.
  • the object management system 300A includes not the object management device 1 but the object management device 1A.
  • the object management system 300A does not include the ingress sensor 210.
  • the object management apparatus 1A does not include the approach data input unit 101. Except for the above differences, the configuration of the object management system 300A is the same as the configuration of the object management system 300 shown in FIG. In the description of this modification, the description overlapping with the description of the first embodiment is omitted.
  • the image sensor 220 operates as the ingress sensor 210 of the first embodiment.
  • the video input unit 103 operates as the approach data input unit 101 of the first embodiment.
  • the intrusion detection unit 102 of the present embodiment detects the intrusion by the intruder by any of the above-described methods for detecting the intruder using the image obtained by the video sensor 220 operating as the ingress sensor 210.
  • the entry detection unit 102 of the present embodiment may detect the head of an approaching body that is a person in an image captured by the image sensor 220.
  • the approach detection part 102 should just detect the approach by an approach body, when a person's head is detected.
  • the approach detection unit 102 may determine that the approach by the approaching body continues while the human head is detected.
  • the approach detection unit 102 may determine that the approach by the approaching body has ended when the detected human head is no longer detected.
  • the object management device 1A of the present modification performs the same operation as the object management device 1 of the first embodiment, except for the operation of detecting entry in step S104 shown in FIG.
  • the ingress detection unit 102 is an intruder that is a person (that is, an intruder) based on the detection result by the human sensor. May be detected.
  • the image sensor 220 operates as the ingress sensor 210.
  • the approach detection part 102 detects an approach body using the image obtained by the video sensor 220.
  • FIG. Except for the above differences, the operation of the object management device 1A of the present modification is the same as the operation of the object management device 1 of the first embodiment.
  • the present embodiment described above has the same effect as the first embodiment.
  • the reason is the same as the reason for the effect of the first embodiment.
  • This modification has the effect of further reducing costs.
  • the reason is that the image sensor 220 operates as the ingress sensor 210. Therefore, an ingress sensor 210 different from the image sensor 220 is not necessary.
  • the approaching body is a person.
  • the space in which the object is placed is a truck bed.
  • the object is a luggage.
  • FIG. 19 is a block diagram showing an example of the configuration of the object management system 300B of the present embodiment.
  • the object management system 300B of this embodiment includes the object management device 1B instead of the object management device 1.
  • the object management device 1B includes a notification unit 110 in addition to the configuration of the object management device 1.
  • Other configurations of the object management system 300B of the present embodiment are the same as, for example, the configuration of the object management system 300 illustrated in FIG.
  • Another configuration of the object management system 300B of the present embodiment may be the same as the configuration of the object management system 300A of the modification of the first embodiment illustrated in FIG. 18, for example.
  • the configuration of the object management system 300 ⁇ / b> B is the same as that of the object management system 300 ⁇ / b> A of the modified example of the first embodiment illustrated in FIG. 18 except that the notification unit 110 is included.
  • the notification unit 110 can communicate with a notification server, for example, by wireless communication.
  • a notification server for example, by wireless communication.
  • the notification unit 110 A notification server is notified.
  • the notification unit 110 may notify an object ID that is input via the object ID input unit 106 and whose associated position is not stored in the object storage unit 108.
  • FIG. 12 is a flowchart showing an example of the overall operation of the object management apparatus 1B of the present embodiment.
  • the operation of the object management device 1B of the present embodiment in the flowchart shown in FIG. 12 is the same as the operation of the object management device 1 of the first embodiment except for the object registration process in step S110.
  • FIG. 20 is a flowchart showing the operation of the object registration process of the object management apparatus 1B of the present embodiment. 20 and FIG. 13, the object management apparatus 1B of the present embodiment performs the operation of step S401 between the operation of step S205 and the operation of step S206 in addition to the operation of each step shown in FIG. I do. Other operations of the object management device 1B are the same as the operations of the object management device 1 of the first embodiment shown in FIG.
  • step S401 the notification unit 110 transmits the unregistered object ID specified in step S205 to, for example, a notification server.
  • the object management apparatus 1B may perform the operation of step S401 between the operations of step S205 and step S306 of FIG. 16 in addition to the operations illustrated in FIG.
  • the other operations of the object management apparatus 1B in that case are the same as the operations of the object management apparatus 1 of the first embodiment shown in FIG.
  • the object management apparatus 1B stores the associated position in the object storage unit 108 in the received object ID.
  • the object ID may be notified to the object server described above.
  • the present embodiment described above has the same effect as the first embodiment.
  • the reason is the same as the reason for the effect of the first embodiment.
  • the notification unit 110 notifies, for example, a notification server or the like when a carry-in object is detected.
  • FIG. 21 is a block diagram showing an example of the configuration of the object management system 300C of the present embodiment.
  • the object management system 300C includes not the object management apparatus 1 but the object management apparatus 1C.
  • the object management device 1 ⁇ / b> C includes an object recognition unit 111 in addition to the configuration of the object management device 1. Except for the above differences, the configuration of the object management system 300C of the present embodiment is the same as the configuration of the object management system 300 of the first embodiment.
  • the object includes an area where the object can be specified.
  • a figure, a character, a pattern, or the like that can identify the object is drawn.
  • a figure, character, pattern, or the like that can identify an object is referred to as an “identification figure”.
  • the identification graphic may be a graphic uniquely associated with the object ID. It may be possible to derive the object ID from the identification graphic.
  • the identification figure may be, for example, a two-dimensional code, a three-dimensional code, or a character string representing an object ID.
  • a label or the like on which an identification graphic is drawn may be attached to the object. The object is carried into the space where the object is placed by the approaching body.
  • the object is carried out of the space where the object is placed by the approaching body.
  • the approaching body is installed so that the video sensor 220 can photograph the identification graphic of the object that has been carried into the space in which the object is placed.
  • the identification graphic may include a graphic indicating the range of the identification graphic.
  • the graphic indicating the range of the identification graphic is, for example, an outline of the identification graphic.
  • the graphic indicating the range of the identification graphic may be a graphic representing each corner of the identification graphic, for example.
  • the ingress sensor 210 of this embodiment is, for example, a human sensor.
  • the approach sensor 210 may be a door opening / closing sensor. In the present embodiment, the approach sensor 210 is not the video sensor 220.
  • the approach sensor 210 detects an approach by an approaching body.
  • the approach sensor 210 transmits a signal indicating that there is no entry to the approach data input unit 101 when no approach by the approaching object is detected.
  • the approach sensor 210 transmits a signal indicating that there is an approach to the approach data input unit 101 when an approach by an approaching body is detected.
  • the approach sensor 210 may transmit a signal indicating that there is an approach by an approaching body while a person is detected.
  • the approach sensor 210 may transmit a signal indicating that there is no entry by the approaching body when no person is detected.
  • the approach sensor 210 is a door opening / closing sensor
  • the approach sensor 210 may transmit a signal indicating that there is an approach by an approaching body when it is detected that the door is opened.
  • the ingress sensor 210 may transmit a signal indicating that there is no ingress by the approaching body.
  • the object management device 1C of the present embodiment While the entry data input unit 101 receives a signal indicating that there is no entry, the object management device 1C of the present embodiment maintains a standby state. In the standby state, the video sensor 220 does not perform shooting. Then, the video sensor 220 does not transmit the video to the video input unit 103.
  • the constituent elements of the object management device 1 ⁇ / b> C, excluding the entry data input unit 101 and the object ID input unit 106, and the output device 240 suffice as long as the operations are stopped in the dormant state.
  • the object management device 1C changes from the standby state to the operating state.
  • the entry data input unit 101 may change the state of the object management device 1C to an operation state.
  • the object management apparatus 1C changes the image sensor 220 to the operation state after changing to the operation state.
  • the video input unit 103 may change the state of the video sensor 220 to the operation state by transmitting, for example, a control signal indicating an instruction to change the state from the standby state to the operation state.
  • the image sensor 220 in the operating state performs shooting.
  • the video sensor 220 transmits the captured video to the video input unit 103.
  • the object management device 1C changes the output device 240 to the operation state after changing to the operation state.
  • the output unit 109 may change the state of the output device 240 to the operation state by transmitting a control signal indicating an instruction to change the state from the standby state to the operation state to the output device 240.
  • the approach detection unit 102 When the approach sensor 210 detects an approach by an approaching body, that is, when the approach data input unit 101 receives a signal indicating that there is an approach, the approach detection unit 102 is Detect human head.
  • the approach detection unit 102 may detect the human head by the human head detection method described in the description of the first embodiment.
  • the pre-entry image is stored in the video storage unit 104.
  • the pre-entry image stored in the video storage unit 104 may be, for example, an image taken after a predetermined frame, for example, from the frame when the human head is no longer detected when the previous entry is detected.
  • the pre-entry image stored in the video storage unit 104 may be an image used as the post-entry image when a previous entry is detected and a human head is detected.
  • the entry detection unit 102 may store the pre-entry image in the video storage unit 104.
  • the entry detection unit 102 may store the frame number of the frame that is the pre-entry image in the video stored in the object detection unit 105 in the video storage unit 104.
  • the entry detection unit 102 may detect the presence or absence of a human head. And the approach detection part 102 should just select the flame
  • the approach detection unit 102 may store the selected frame in the video storage unit 104 as a pre-entry image.
  • the method for selecting a frame that is initially stored in the video storage unit 104 as the pre-entry image may be arbitrary.
  • the entry detection unit 102 may select a frame when a state in which the sum of changes in pixel values between consecutive frames is equal to or less than a predetermined value continues for a predetermined time or more as the pre-entry image.
  • the entry detection unit 102 may update the pre-entry image by storing the post-entry image as the next pre-entry image in the video storage unit 104 each time an entry is detected and a human head is detected. Good.
  • the object detection unit 105 detects the position of the carry-in object and the carry-out object after the human head is not detected.
  • the identification image associated with the object ID may be stored in advance in the object storage unit 108.
  • the identification image may be, for example, an image obtained by photographing the above-described identification graphic.
  • FIG. 25 is a diagram schematically showing an identification image associated with the object ID stored in the object storage unit 108.
  • “Identification image” in the table shown in FIG. 25 represents a file name that is an image identifier of the identification image.
  • the identification image associated with each object ID may be stored in the object storage unit 108 as an image file to which a file name that is an image identifier that can identify the identification image is assigned.
  • a table shown in FIG. 25 for associating the image file of the identification image with the object ID may be stored in the object storage unit 108.
  • the time and position of the object that is associated with the object ID of the object that is loaded at the place where the object is placed are also recorded in the same table.
  • the object recognizing unit 111 specifies an image of the identification graphic at the detected position of the carried-in object in the post-entry image, for example.
  • the object recognizing unit 111 may perform distortion correction, noise removal, or the like on the after-entry image or the image of the identification graphic specified in the before-entry image as will be described later. For example, if the shape of the identification figure is known, it is possible to perform distortion correction by converting an image of the identification figure photographed from an oblique direction into a shape photographed from the front.
  • the object recognition unit 111 specifies the object ID of the detected carry-in object using the identified identification graphic image.
  • the object recognition unit 111 includes, for example, an image of the same identification graphic as the detected identification graphic of the carried-in object by comparing the identified identification graphic image with the identification image stored in the object storage unit 108. What is necessary is just to specify object ID linked
  • the object recognition unit 111 may identify an identification image including an image of the same identification graphic as the identification graphic of the detected carried-in object, for example, by performing template matching.
  • the identification graphic is, for example, a two-dimensional code, a three-dimensional code, or a character string representing an object ID
  • the object recognition unit 111 may derive the object ID from the identified identification graphic image.
  • the object recognition unit 111 may derive the object ID by decoding the identification graphic specifying the image.
  • the identification graphic is a character string representing the object ID
  • the object recognition unit 111 may recognize the object ID by performing character recognition on the identified identification graphic image.
  • the object recognition unit 111 individually identifies the object IDs of these carry-in objects.
  • the object recognition unit 111 specifies, for example, the image of the identification graphic at the position of the detected carry-out object in the pre-entry image. And the object recognition part 111 should just specify object ID of a carrying-out object by the method similar to the identification method of object ID of the above-mentioned carrying-in object. When a plurality of carry-out objects are detected, the object recognition unit 111 individually identifies the object IDs of these carry-out objects.
  • the object recognition unit 111 may specify the object ID of the moved object.
  • the method for specifying the object ID of the moved object is the same as the method for specifying the object ID of the carried-in object described above.
  • the object recognition unit 111 may transmit the specified object ID to the object ID input unit 106, for example.
  • the object ID input unit 106 may transmit the received object ID to the object registration unit 107, for example.
  • FIG. 22 is a flowchart showing an example of the entire operation of the object management apparatus 1C of the present embodiment. Below, it demonstrates centering around the difference with operation
  • steps to which the same reference numerals are given represent the same operations except for differences described below.
  • the object management device 1C of the present embodiment performs the operations of Step S104 and Step S105 after Step S101.
  • the approach sensor 210 in step S104 is, for example, a human sensor or a door opening / closing sensor.
  • the approach sensor 210 in step S104 is not the video sensor 220.
  • the approach detection unit 102 detects a person's head using the image captured by the image sensor 220 (step S501).
  • the approach detection unit 102 determines whether the approach detection flag is Yes or No.
  • the approach detection unit 102 continues to detect the human head (step S501).
  • the object registration unit 107 determines whether or not a position is associated with the object ID received in Step S101 (Step S102). If there is no object ID associated with the position among the received object IDs (No in step S102), the object management apparatus 1C next performs the operation of step S503. When the position is associated with the received object ID (Yes in step S102), the output unit 109 outputs the position associated with the received object ID (step S103). Next, the object detection unit 105 reads the image A, which is an image before the entry is detected, from the video storage unit 104 (step S503). After setting the approach detection flag to Yes (step S108), the approach detection unit 102 continues to detect the human head (step S501).
  • the approach detection unit 102 determines whether the approach detection flag is Yes or No (step S109). When the entry detection flag is No (No in Step S109), the entry detection unit 102 continues to detect the human head (Step S501). When the approach detection flag is Yes (Yes in Step S109), the object management device 1C performs an object registration process (Step S110). The object registration process in this embodiment will be described in detail later. For example, after step S110, the approach detection unit 102 updates the image A by storing, for example, the post-entry image (ie, image B) in the video storage unit 104 as the next pre-entry image (ie, image A). Also good.
  • the object management device 1C ends the operation.
  • the object management apparatus 1C repeats the operation illustrated in FIG. 22 from Step S101.
  • FIG. 23 is a flowchart showing an example of the object registration processing operation of the object management apparatus 1C of the present embodiment.
  • the operation of the object registration process of the object management apparatus 1C of the present embodiment is represented by the flowchart shown in FIG. 16, except for the differences described below, and the operation of the object registration process of the object management apparatus 1 of the first embodiment. Is the same.
  • step S204 when the position of the brought-in object is detected (Yes in step S204), the object recognition unit 111 identifies the object ID of the brought-in object based on the image B (step S505).
  • the method for identifying the object ID by the object recognition unit 111 may be any one of the above-described methods for identifying the object ID using the recognition graphic.
  • the object management apparatus 1C After the operation in step S505, the object management apparatus 1C performs the operation in step S306.
  • step S208 when the position of the taken-out object is detected (Yes in step S208), the object recognition unit 111 identifies the object ID of the taken-out object based on the image A (step S509). Similar to the operation in step S505, the method by which the object recognition unit 111 identifies the object ID may be any one of the above-described methods for identifying the object ID using the recognition graphic. After the operation in step S509, the object management apparatus 1C performs the operation in step S309.
  • the object management apparatus 1C of the present embodiment performs the same operation as the object registration processing of the object management apparatus 1 of the first embodiment, which is represented by the flowchart shown in FIG. 12, except for the differences described below. You may go.
  • the object management apparatus 1C may perform the above-described operation of step S505 instead of the operation of step S205. Then, when the position of the object taken out in step S208 is detected (Yes in step S208), the object management apparatus 1C may perform the operation of step S509 before the operation of step S209.
  • the object registration unit 107 of the object management device 1C of the present embodiment may receive an unregistered object ID from the object ID input device 230 in step S306, for example. Then, the object ID of the carried-in object specified by the object recognition unit 111 may be compared with the received unregistered object ID. And the object registration part 107 may specify undetected object ID which is object ID which was not specified as object ID of a carrying-in object in unregistered object ID. When there is an unregistered object ID, the object registration unit 107 displays, for example, the position of the specified carry-in object and the display image that is the area of the image after entering the visible light image including the image at the position as the undetected object. You may link with ID. The place specified as the position of the carry-in object may be a place specified as described above by comparing the pre-entry image and the post-entry image that are distance images.
  • the present embodiment described above has the same effect as the first embodiment.
  • the reason is the same as the reason for the effect of the first embodiment.
  • This embodiment has a second effect that the load can be further reduced.
  • the reason is that the entry detection unit 102 starts detecting the human head based on the image after the entry is detected by the entry sensor 210 such as a human sensor or a door opening / closing sensor. Therefore, the calculation load is reduced. By reducing the calculation load, the power consumption is further reduced.
  • This embodiment has a third effect that it is possible to improve the accuracy of detecting a person's entry.
  • the reason is that, in addition to detection of entry by the entry sensor 210 such as a human sensor or door opening / closing sensor, the entry detection unit 102 detects entry by detecting a person's head in the captured image. It is.
  • the object recognition unit 111 identifies the object ID of the carry-in object and the carry-out object based on the object identification figure in the captured image. Accordingly, the accuracy of specifying an object is improved as compared with specifying the carried-out object and the carried-in object based only on the object ID input via the object ID input device 230.
  • the objects may be arranged so that the identification figures of all the objects are photographed by the video sensor 220.
  • the object recognizing unit 111 may extract an image of the identification graphic from the change area extracted by the object detecting unit 105 of the pre-entry image and the post-entry image.
  • the object recognition unit 111 further specifies the object ID of the object on which the identification graphic is drawn using all the extracted images of the identification graphic.
  • the object recognition unit 111 may transmit the combination of the position of the identification graphic extracted from the pre-entry image and the object ID specified by the identification graphic to the object detection unit 105.
  • the object recognition unit 111 may further transmit the combination of the position of the identification graphic extracted from the post-entry image and the object ID specified by the identification graphic to the object detection unit 105.
  • the object detection unit 105 may specify the carry-out object, the carry-in object, and the moved object by comparing the object ID specified in the pre-entry image with the object ID specified in the post-entry image. For example, the object detection unit 105 may determine that the object ID specified in the pre-entry image and not specified in the post-entry image is the object ID of the carry-out object. Furthermore, the object detection unit 105 may determine that the object ID specified in the post-entry image is not specified in the pre-entry image and is the object ID of the carried-in object.
  • the object detection unit 105 moves the object ID specified in the pre-entry image and the post-entry image, and the position where the identification graphic is extracted in the pre-entry image and the position where the identification graphic is extracted in the post-entry image move. What is necessary is just to determine with it being object ID of an object.
  • the object detection unit 105 may further detect the position of the image of the identification graphic with the specified object ID as the position of the object represented by the object ID.
  • the object recognizing unit 111 may extract the identification figure from the entire pre-entry image and the post-entry image instead of the change area of the pre-entry image and the post-entry image. In that case, the object detection unit 105 may not extract the change region. Furthermore, the object detection unit 105 may set a region including the image of the identification graphic determined by a predetermined method as a display image of the object specified by the object ID guided by the identification graphic.
  • the operation of the object management apparatus 1C of the present modification is the same as the operation of the object management apparatus 1C of the third embodiment represented by the flowchart shown in FIG. 22 except for the object registration process in step S110.
  • FIG. 24 is a flowchart showing an example of the operation of the object registration process of the object management device 1C of the present modification.
  • the operations of the steps given the same reference numerals are the same unless otherwise specified.
  • the object recognition unit 111 extracts an identification figure from the image A and the image B (step S511). As described above, the object recognition unit 111 may extract the identification graphic in the change area of the image A and the image B. The object recognizing unit 111 may extract an identification graphic in the entire image A and image B. The object recognition unit 111 may perform distortion correction, noise removal, and the like on the extracted identification figure. The object recognizing unit 111 identifies the object ID based on the extracted identification graphic (step S512). The object detection unit 105 detects the brought-in object and the taken-out object by comparing the identified object ID between the image A and the image B (step S513). In step S512, the object detection unit 105 sets the position where the identification graphic is detected as the position of the graphic specified by the object ID guided by the identification graphic.
  • the object management device 1C next performs the operation of step S208.
  • the position of the brought-in object and the display image are associated with the object ID of the brought-in object (Step S306).
  • the display image only needs to include at least the image of the identification graphic included in the image of the brought-in object in the image B.
  • the object registration unit 107 stores the position and display image associated with the object ID in the object storage unit 108 (step S307).
  • Step S208 When the taken-out object is detected (Yes in Step S208), the position and the display image associated with the object ID specified as the object ID of the taken-out object are deleted from the object storage unit 108 (Step S208). S309).
  • the visible light camera 221 may be mounted so that, for example, the shooting direction and the focal length can be changed by a control signal transmitted by the object management device 1C. Similar to the laser pointer that can control the direction shown in FIG. 3 and the projector that can control the direction shown in FIG. 5, the visible light camera 221 is also installed via an actuator that can be controlled by a signal such as a robot arm. It only has to be.
  • the visible light camera 221 may include a motor that can be controlled by a signal and that changes the focal length of the lens.
  • the object recognition unit 111 detects an identification graphic
  • the direction and focal length of the visible light camera 221 are set so that the visible light camera 221 captures an area detected as the recognition graphic with a larger size. You may control.
  • the object recognition unit 111 may detect an identification graphic in an area detected as an identification graphic in an enlarged image, which is an image captured at a larger size.
  • the object recognition unit 111 may specify the object ID using the identification graphic detected in the enlarged image.
  • FIG. 26 is a block diagram illustrating an example of the configuration of the object management apparatus 1D of the present embodiment.
  • the object management apparatus 1D of the present embodiment includes an approach detection unit 102, an object detection unit 105, and an object registration unit 107.
  • the entry detection unit 102 detects entry of an entry object into a predetermined area.
  • the object detection unit 105 detects an image of the area captured by the image sensor 220 before the entry is detected, and the image sensor 220 detects the area after the entry is detected.
  • the position of the carried-in object is detected using the image obtained by capturing the image.
  • a carry-in object is an object that does not exist in the area before the entry is detected and exists in the area after the entry is detected.
  • the object registration unit 107 stores the detected position of the carry-in object in the object storage unit 108.
  • the present embodiment described above has the same effect as the first embodiment.
  • the reason is the same as the reason for the effect of the first embodiment.
  • the object management device 1, the object management device 1A, the object management device 1B, the object management device 1C, and the object management device 1D can be realized by a computer and a program that controls the computer, respectively.
  • the object management device 1, the object management device 1A, the object management device 1B, the object management device 1C, and the object management device 1D can also be realized by dedicated hardware.
  • the object management device 1, the object management device 1A, the object management device 1B, the object management device 1C, and the object management device 1D can also be realized by a combination of a computer, a program that controls the computer, and dedicated hardware.
  • FIG. 27 is a diagram illustrating an example of a hardware configuration of a computer 1000 that can implement the object management apparatus 1, the object management apparatus 1A, the object management apparatus 1B, the object management apparatus 1C, and the object management apparatus 1D.
  • the computer 1000 includes a processor 1001, a memory 1002, a storage device 1003, and an I / O (Input / Output) interface 1004.
  • the computer 1000 can access the recording medium 1005.
  • the memory 1002 and the storage device 1003 are storage devices such as a RAM (Random Access Memory) and a hard disk, for example.
  • the recording medium 1005 is, for example, a storage device such as a RAM or a hard disk, a ROM (Read Only Memory), or a portable recording medium.
  • the storage device 1003 may be the recording medium 1005.
  • the processor 1001 can read and write data and programs from and to the memory 1002 and the storage device 1003.
  • the processor 1001 can access, for example, the ingress sensor 210, the image sensor 220, the visible light camera 221, the distance camera 222, the object ID input device 230, the output device 240, and the like via the I / O interface 1004.
  • the processor 1001 can access the recording medium 1005.
  • the recording medium 1005 stores a program that causes the computer 1000 to operate as the object management apparatus 1, the object management apparatus 1A, the object management apparatus 1B, the object management apparatus 1C, or the object management apparatus 1D.
  • the processor 1001 stores a program stored in the recording medium 1005 for operating the computer 1000 as the object management device 1, the object management device 1A, the object management device 1B, the object management device 1C, or the object management device 1D. To load. Then, when the processor 1001 executes the program loaded in the memory 1002, the computer 1000 operates as the object management device 1, the object management device 1A, the object management device 1B, the object management device 1C, or the object management device 1D. To do.
  • Each unit included in the first group is realized by, for example, a dedicated program that can be read from a recording medium 1005 that stores the program into the memory 1002 and that can realize the function of each unit, and a processor 1001 that executes the program. be able to.
  • the first group includes an entry data input unit 101, an entry detection unit 102, a video input unit 103, an object detection unit 105, an object ID input unit 106, an object registration unit 107, an output unit 109, a notification unit 110, and an object recognition unit. 111.
  • Each unit included in the second group can be realized by a memory 1002 included in the computer 1000 or a storage device 1003 such as a hard disk device.
  • the second group is the video storage unit 104 and the object storage unit 108.
  • part or all of the units included in the first group and the units included in the second group can be realized by a dedicated circuit that realizes the function of each unit.
  • An entry detection means for detecting the entry of an entry body into a predetermined area; In response to detection of the entry, an image obtained by photographing the area before the entry is detected and an image obtained by photographing the area after the entry is detected are used.
  • An object detection means for detecting a position of a carry-in object that is not present in the area before the entry is detected and is present in the area after the entry is detected;
  • Object registration means for storing the detected position of the carry-in object in an object storage means;
  • An object management apparatus comprising:
  • (Appendix 2) An object ID input means for acquiring an object identifier of the carried-in object;
  • the object management device according to claim 1, wherein the object registration unit stores the detected position of the carried-in object and the acquired object identifier in the object storage unit in association with each other.
  • the object storage means stores a position associated with an object identifier of the object arranged in the region;
  • the object ID input means obtains an object identifier of at least one of the carry-in object and the object arranged in the region,
  • the object management device includes: The object management apparatus according to appendix 2, further comprising output means for outputting information representing the position when a position is associated with the acquired object identifier.
  • the output means projects light corresponding to information representing the position within a predetermined distance from the position associated with at least one of the acquired object identifiers of the region.
  • the object storage means further stores a display image that is an image including an image of the position of the object associated with the object identifier of the object arranged in the region,
  • the object management apparatus according to claim 3 or 4, wherein the output unit projects the display image, which is associated with the object ID of the object whose position is detected, into the range by light.
  • the object registration means detects an image including an image of the detected position of the carried-in object, which is at least a part of the image obtained by the video sensor capturing the area after the entry is detected.
  • the object management device according to claim 5, wherein the object management device stores the display image in the object storage unit in association with the object identifier of the object.
  • the object detection means is an unloading object that exists in the area before the entry is detected and is no longer in the area after the entry is detected. Identify the location of The object registration means stores the detected position of the carried-in object and the object identifier in association with each other in the object storage means when the position of the object is not associated with the acquired object identifier, Furthermore, when the position of the unloading object is specified, the specified position of the unloading object is deleted from the object storage unit.
  • the object identifier of the carry-in object is specified based on the area including the detected position of the carry-in object in the image obtained by photographing the area by the video sensor after the entry is detected.
  • the object management device further comprising: an object recognition unit that identifies an object identifier of the carry-out object based on a region including a position of the detected carry-out object in an image obtained by photographing the region by the video sensor. .
  • Appendix 10 The object management device according to any one of appendices 1 to 9, wherein the approach detection unit detects an approach of the approaching object by detecting a specific feature included in the video.
  • the video is at least one of a visible light image captured by a visible light camera included in the image sensor and a distance image captured by a distance camera included in the image sensor.
  • the object management device according to any one of the above.
  • a display image that is an image including an image of the position of the object associated with the object identifier of the object arranged in the region is stored in the object storage unit, The object management method according to claim 15 or 16, wherein the display image associated with the object ID of the object whose position is detected is projected onto the range by light.
  • the object identifier of the carry-in object is specified based on a region including the detected position of the carry-in object in an image obtained by photographing the region by the video sensor after the entry is detected. The object management method described.
  • the object identifier of the carry-in object is specified based on the area including the detected position of the carry-in object in the image obtained by photographing the area by the video sensor after the entry is detected.
  • Appendix 22 The object management method according to any one of appendices 13 to 21, wherein the entry of the approaching object is detected by detecting a specific feature included in the video.
  • the video images are at least one of a visible light video imaged by a visible light camera included in the video sensor and a distance video imaged by a distance camera included in the video sensor.
  • the object management method according to any one of the above.
  • An entry detection means for detecting the entry of an entry body into a predetermined area; In response to detection of the entry, an image obtained by photographing the area before the entry is detected and an image obtained by photographing the area after the entry is detected are used.
  • An object detection means for detecting a position of a carry-in object that is not present in the area before the entry is detected and is present in the area after the entry is detected;
  • Object registration means for storing the detected position of the carry-in object in an object storage means; Object management program to be operated.
  • Computer Object ID input means for acquiring an object identifier of the carried-in object;
  • the object registration means for associating the detected position of the carried-in object and the acquired object identifier with each other and storing them in the object storage means;
  • (Appendix 26) Computer
  • the object storage means for storing a position associated with an object identifier of the object arranged in the region;
  • the object ID input means for acquiring an object identifier of at least one of the carried object and the object arranged in the region;
  • output means for outputting information representing the position;
  • the output means projects light corresponding to information representing the position to a range within a predetermined distance from the position associated with at least one of the acquired object identifiers of the region.
  • the object storage means further stores a display image that is an image including an image of the position of the object associated with the object identifier of the object arranged in the region, 28.
  • the object registration means detects an image including an image of the detected position of the carried-in object, which is at least a part of the image obtained by the video sensor capturing the area after the entry is detected.
  • the object detection means is an unloading object that exists in the area before the entry is detected and is no longer in the area after the entry is detected. Identify the location of The object registration means stores the detected position of the carried-in object and the object identifier in association with each other in the object storage means when the position of the object is not associated with the acquired object identifier, Furthermore, the object management program according to any one of appendices 25 to 29, wherein when the position of the unloading object is specified, the position of the specified unloading object is deleted from the object storage unit.
  • Appendix 31 Computer Object recognition means for identifying an object identifier of the carried-in object based on a region including the detected position of the carried-in object in an image obtained by photographing the region after the entry is detected;
  • the object management program according to any one of appendices 25 to 30 that is operated as described above.
  • the object identifier of the carry-in object is specified based on the area including the detected position of the carry-in object in the image obtained by photographing the area by the video sensor after the entry is detected.
  • the object management program according to supplementary note 30 that is operated as described above.
  • Appendix 33 Computer The object management program according to any one of appendices 24 to 32, wherein the entry detection unit detects entry of the entry object by detecting a specific feature included in the video.
  • the video images are at least one of a visible light image captured by a visible light camera included in the image sensor and a distance image captured by a distance camera included in the image sensor.
  • the object management program according to any one of the above.

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Resources & Organizations (AREA)
  • Development Economics (AREA)
  • Geometry (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Alarm Systems (AREA)

Abstract

 物体を検出する計算負荷を減少させることができる物体管理装置等を提供する。 本発明の物体管理装置1Dは、所定の領域への進入体の進入を検出する進入検出部102と、前記進入が検出されるのに応じて、前記進入が検出される前に映像センサ220が前記領域を撮影した画像と前記進入が検出された後に前記映像センサ220が前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出部105と、検出された前記搬入物体の位置を物体記憶部108に格納する物体登録部107と、を備える。

Description

物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体
 本発明は、物体を管理する技術に関する。
 積載された荷物などの物体を認識する技術の例が、例えば特許文献1に記載されている。
 特許文献1に記載の画像処理装置は、2台のカメラで撮影した物体の画像に基づき、その物体の位置を検出する。その画像処理装置は、それらの2台のカメラによって、積載された複数の物体を撮影する。その画像処理装置は、撮影した画像をもとに、距離画像を生成する。その画像処理装置は、撮影された複数の物体の最上段領域を、生成された距離画像によって検出する。その画像処理装置は、さらに、検出された最上段領域において、認識対象物体の寸法が格納されたデータベースに基づいて生成した2次元基準パターンを使用するパターンマッチングを行うことによって、個々の認識対象物体の位置を認識する。
特許第2921496号公報
 特許文献1の技術を使用して、例えば、物体の集積場所に搬入された物体を検出するためには、例えば、荷物の位置を認識する画像処理を、継続的に行う必要がある。しかし、一般的に、画像処理を行うことは、情報処理装置にとって計算負荷が高い。画像処理を継続的に行うことによって、情報処理装置にとって計算負荷はさらに増大する。そのため、画像処理を継続的に行うことにより、画像処理に要する計算量(処理量)が増大するために、画像処理を行う情報処理装置の消費電力が増大する。
 本発明の目的の一つは、物体を検出する計算負荷を減少させることができる物体管理装置等を提供することにある。
 本発明の一態様に係る物体管理装置は、所定の領域への進入体の進入を検出する進入検出手段と、前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、を備える。
 本発明の一態様に係る物体管理方法は、所定の領域への進入体の進入を検出し、前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出し、検出された前記搬入物体の位置を物体記憶手段に格納する。
 本発明の一態様に係る記録媒体は、コンピュータを、所定の領域への進入体の進入を検出する進入検出手段と、前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、して動作させる物体管理プログラムを記憶する。本発明は、上述の記録媒体が記憶する物体管理プログラムによっても実現される。
 本発明には、物体を検出する計算負荷を減少させることができるという効果がある。
図1は、本発明の第1の実施形態に係る物体管理システム300の構成の例を表すブロック図である。 図2は、本発明の第1の実施形態の出力装置240の例を表す第1の図である。 図3は、本発明の第1の実施形態の出力装置240の例を表す第2の図である。 図4は、本発明の第1の実施形態の出力装置240の例を表す第3の図である。 図5は、本発明の第1の実施形態の出力装置240の例を表す第4の図である。 図6は、本発明の第1の実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第1の図である。 図7は、本発明の第1の実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第2の図である。 図8は、本発明の第1の実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第3の図である。 図9は、本発明の第1の実施形態に係る物体管理システムが設置されている、物体が配置される空間の他の例を表す第1の図である。 図10は、本発明の第1の実施形態に係る物体管理システムが設置されている、物体が配置される空間の他の例を表す第2の図である。 図11は、物体の位置の変化の例を模式的に表す図である。 図12は、本発明の第1及び第2の実施形態に係る物体管理装置の動作全体の例を表すフローチャートである。 図13は、本発明の第1の実施形態の物体管理装置1の、物体登録処理における動作の第1、第2の例を表すフローチャートである。 図14は、本発明の第1の実施形態の物体記憶部108に格納される、位置の第1の例を模式的に表す図である。 図15は、本発明の第1の実施形態の物体記憶部108に格納される、位置の第2の例を模式的に表す図である。 図16は、本発明の第1の実施形態の物体管理装置1の、物体登録処理における動作の第3の例を表すフローチャートである。 図17は、本発明の第1の実施形態の物体記憶部108に格納される、位置の第3の例を模式的に表す図である。 図18は、本発明の第1の実施形態の変形例の物体管理システム300Aの構成の例を表すブロック図である。 図19は、本発明の第2の実施形態の実施形態の物体管理システム300Bの構成の一例を表すブロック図である。 図20は、本発明の第2の実施形態の物体管理装置1Bの、物体登録処理の動作を表すフローチャートである。 図21は、本発明の第3の実施形態の物体管理システム300Cの構成の一例を表すブロック図である。 図22は、本発明の第3の実施形態の物体管理装置1Cの動作全体の例を表すフローチャートである。 図23は、本発明の第3の実施形態の物体管理装置1Cの、物体登録処理の動作の例を表すフローチャートである。 図24は、本発明の第3の実施形態の変形例の物体管理装置1Cの、物体登録処理の動作の例を表すフローチャートである。 図25は、本発明の第3の実施形態の物体記憶部108に格納される、物体IDに関連付けられた識別画像を模式的に表す図である。 図26は、本発明の第4の実施形態の物体管理装置1Dの構成の例を表すブロック図である。 図27は、本発明の各実施形態に係る物体管理装置を実現することができる、コンピュータ1000のハードウェア構成の一例を表す図である。
 以下では、本発明の実施形態について説明する。
 <第1の実施形態>
 まず、本発明の第1の実施形態について、図面を参照して詳細に説明する。
 図1は、本実施形態の物体管理システム300の構成の例を表すブロック図である。図1を参照すると、物体管理システム300は、物体管理装置1と、進入センサ210と、映像センサ220と、物体ID入力装置230と、出力装置240とを含む。
 物体管理装置1は、進入データ入力部101と、進入検出部102と、映像入力部103と、映像記憶部104と、物体検出部105と、物体ID(Identifier)入力部106と、物体登録部107と、物体記憶部108と、出力部109とを備える。
 物体管理システム300の、少なくとも、進入センサ210と、映像センサ220とは、物体が配置される空間に配置される。出力装置240は、物体が配置される空間に配置されていてもよい。出力装置240は、物体が配置される空間に、例えば進入体によって持ち込まれてもよい。「進入体」は、人及び運搬装置の少なくとも一方を表す。運搬装置は、物体を運ぶ装置である。進入体は、人が操縦する運搬機械であってもよい。進入体は、人だけであってもよい。物体管理装置1は、進入センサ210、映像センサ220、物体ID入力装置230、及び出力装置240と、通信可能に接続されていればよい。
 荷物が配置される空間は、あらかじめ定められた領域であればよい。物体が配置される空間は、例えば、トラックの荷台あるいは倉庫などである。その場合、物体は、例えば、荷物である。物体が置かれる空間は、植物工場であってもよい。その場合、物体は、例えば、植物工場で栽培される植物である。物体が置かれる空間は、例えば、図書室であってもよい。その場合、物体は、例えば、本や雑誌などである。荷物が配置される空間は、例えば、トラックの荷台、倉庫、植物工場、図書室などの空間の、あらかじめ定められた一部の領域であってもよい。
 進入センサ210は、例えば、物体が配置される空間への、人及び運搬装置の少なくとも一方、すなわち、前述の進入体の、進入を検出するためのセンサである。
 進入センサ210は、可視光による映像を撮影する可視光カメラ221であってもよい。進入センサ210は、赤外線による映像を撮影する赤外カメラであってもよい。進入センサ210は、後述される距離カメラ222であってもよい。進入センサ210は、可視光カメラ221、距離カメラ222、及び赤外カメラ(図示されない)のいずれか2つ以上の組み合わせであってもよい。以上の場合、進入センサ210は、物体が配置される空間における、進入体が進入できる範囲を撮影できるように取り付けられていればよい。そして、進入センサ210は、例えば、後述される進入データ入力部101に、得られた映像を、信号として送信する。そして、例えば、後述される進入検出部102が、進入センサ210によって得られた画像において、例えば画像処理によって、進入体を検出すればよい。なお、本発明の各実施形態の説明において、「映像」は、複数のフレーム(すなわち、複数の静止画像)によって表される動画像を表す。また、「画像」は、1枚の画像である静止画像を表す。
 進入センサ210は、赤外線、超音波、可視光の少なくともいずれか1つ以上によって、人などの存在を検出する人感センサであってもよい。その場合、進入センサ210は、例えば、物体が配置される空間内の進入体が進入できる範囲において、進入体を検出できるよう取り付けられていればよい。そして、進入体が検出された場合、進入センサ210は、進入体が検出されたことを表す信号を、進入データ入力部101に送信すればよい。
 物体が配置される空間は、壁などによって区切られていてもよい。その場合、物体が配置される空間に、物体を持ち込んだり持ち出したりする進入体が進入できる1つ以上の入口があればよい。物体が配置される空間は、壁などによって区切られていなくてもよい。進入センサ210によって、物体が配置される空間への、進入体の進入が検出可能であればよい。その場合、進入センサ210は、例えば、進入体の進入を検出した結果に応じて、進入体が存在することを表す値又は進入体が存在しないことを表す値を示す信号を、進入データ入力部101に送信すればよい。
 映像センサ220は、図1に示す例では、可視光カメラ221及び距離カメラ222である。映像センサ220は、可視光カメラ221及び距離カメラ222のいずれか一方であってもよい。映像センサ220は、例えば、可視光カメラ221、距離カメラ222、及び、赤外カメラ(図示されない)の少なくとも1つであってもよい。可視光カメラ221は、各画素の画素値が可視光の帯域の光の強さを表す、カラー映像を撮影するカメラである。距離カメラ222は、各画素の画素値が撮影対象までの距離を表す、距離映像を撮影するカメラである。距離カメラ222が距離を測定する方式は、例えば、TOF(Time Of Flight)方式であっても、パターン照射方式であっても、他の方式であってもよい。赤外カメラは、各画素の画素値が赤外線の帯域の電磁波の強さを表す、赤外映像を撮影するカメラである。前述のように、映像センサ220が、進入センサ210として動作してもよい。映像センサ220は、得られた映像を、映像入力部103に送信する。
 物体ID入力装置230は、例えば、物体IDを取得し、取得した物体IDを物体管理装置1に送信する装置である。物体IDは、物体を特定することができる識別子である。本発明の各実施形態の説明において、物体IDは、物体識別子とも表記される。物体ID入力装置230は、例えば、物体が配置される空間に進入体が持ち込もうとする物体、及び、物体が配置される空間から進入体が持ち出そうとする物体の、物体IDを取得してもよい。物体ID入力装置230は、物体が配置される空間に持ち込まれた物体の物体IDを取得してもよい。物体ID入力装置230は、物体が配置される空間から持ち出された物体の物体IDを取得してもよい。以下で詳細に説明するように、進入体等が、物体ID入力装置230を使用して、物体IDを入力してもよい。あるいは、物体ID入力装置230が、進入体等の操作によらず、物体IDを読み取ってもよい。物体ID入力装置230は、読み取った物体IDを、物体ID入力部106に送信する。物体ID入力装置230は、読み取った物体IDを表すデータを、物体ID入力部106に送信してもよい。そして、例えば物体ID入力部106が、受信したデータから物体IDを抽出してもよい。
 物体ID入力装置230は、例えば、進入体が保持する携帯端末装置であってもよい。物体ID入力装置230は、例えば、物体が配置される空間又はその空間の近くに設置された、例えばタブレット端末などの端末装置であってもよい。その場合、進入体が、例えば手で、物体IDを入力してもよい。
 物体ID入力装置230は、物体IDを表す、バーコード等の図形を読み取る読み取り装置を備えていてもよい。読み取り装置は、物体IDを表す図形を読み取り、読み取った図形を物体IDに変換する装置であればよい。物体IDを表す図形は、物体IDを表す文字列であってもよい。進入体等は、その読み取り装置を使用して、物体又は伝票などに貼付又は印刷された、物体IDを表す図形を読み取ることによって、物体IDを入力してもよい。物体IDを表す図形は、物体に印刷されていてもよい。物体IDを表す図形が印刷されたラベルなどが、物体に貼付されていてもよい。物体IDを表す図形は、伝票に印刷されていてもよい。
 映像センサ220が、さらに、物体ID入力装置230として動作してもよい。その場合、例えば、映像センサ220が含む可視光カメラ221が、物体ID入力装置230として動作すればよい。また物体には、その物体の物体IDを表す図形など書かれたラベルなどが貼付されていればよい。物体IDを表す図形は、可視光カメラ221によって撮影された映像において認識することができる図形であればよい。物体ID入力装置230は、撮影した映像を物体ID入力部106に送信すればよい。例えば物体ID入力部106が、受信した映像において物体IDを表す図形を検出すればよい。そして、物体ID入力部106は、検出された図形に基づき、物体IDを特定すればよい。
 物体ID入力装置230は、無線IC(Integrated Circuit)タグを読み取る装置であってもよい。その場合、あらかじめ物体IDが格納された無線ICタグが、物体に貼付されていればよい。物体ID入力装置230は、例えば、進入体が持ち込んでいる物体に貼付された無線ICタグから、物体IDを読み取ればよい。例えば、進入体が保持する携帯端末装置が無線ICタグを備えていてもよい。その場合、物体ID入力装置230は、進入体が保持する携帯端末装置が備える無線ICタグから、物体IDを読み取ればよい。進入体等は、その携帯端末装置が備える無線ICタグに、持ち出そうとする物体の物体IDを、あらかじめ格納しておけばよい。進入体等は、その携帯端末装置が備える無線ICタグに、持ち込もうとする物体の物体IDを、あらかじめ格納しておいてもよい。
 出力装置240は、出力部109が、物体の、位置を表す情報である、位置情報を出力する装置である。なお、以下の説明において、物体の位置を表す情報を出力することを、「物体の位置を出力する」とも表記する。
 図2は、本実施形態の出力装置240の例を表す第1の図である。図2は、画像などを表示する表示部を備えたタブレット端末である。出力装置240は、例えば、図2に示すタブレット端末などの、画像等を表示することができる端末装置であってもよい。出力装置240として動作する端末装置は、物体が配置される空間に固定されていてもよい。出力装置240は、固定されていなくてもよい。例えば、進入体が保持する携帯端末装置が、物体が配置されている空間などにおいて、出力装置240として動作してもよい。
 図3は、本実施形態の出力装置240の例を表す第2の図である。図3は、例えば出力部109が光を照射する方向を制御できる、レーザポインタを表す。出力装置240は、例えば、図3に示すレーザポインタ等の、光によって位置を指し示すことができる装置であってもよい。その場合、出力装置240は、出力部109が、指示を表す信号を出力装置240に送信することによって、出力装置240の状態を、発光している状態と発光していない状態との間で切り替えられるよう設計されていればよい。さらに、出力装置240は、出力部109が、出力装置240が指し示す位置を制御できるよう設計されていればよい。例えば、出力装置240は、出力部109による指示に応じて出力装置240の方向を変更する、ロボットアームなどのアクチュエータを介して固定されていればよい。出力装置240として動作するレーザポインタ等は、例えば、指し示す方向を制御することによって、荷物が配置される空間内において荷物が配置されうる範囲であればどこであっても指し示すことができるように、設置されていればよい。
 図4は、本実施形態の出力装置240の例を表す第3の図である。図4は、映像や画像を投影するプロジェクタ装置を表す。出力装置240は、例えば、図4に示す、映像や画像を投影するプロジェクタ装置であってもよい。その場合、出力装置240として動作するプロジェクタ装置は、荷物が配置される空間内において荷物が配置されうる範囲が、そのプロジェクタ装置が画像を投影できる範囲に含まれるように配置されていればよい。例えば、出力装置240として動作するプロジェクタ装置によって光が投影される範囲に、荷物が配置されうる範囲が含まれるように、出力装置240として動作するプロジェクタ装置は固定されていてもよい。
 図5は、本実施形態の出力装置240の例を表す第4の図である。図5は、出力部109が光を照射する方向を制御できるプロジェクタ装置を表す。図5に示す例では、出力装置240は、2つの回転軸で出力装置240を回転させることができるアームによって、天井などに取り付けられている。そして、出力装置240の方向は、指示を表す信号に従ってアームを回転させるアクチュエータによって、変更できる。出力部109は、例えば、アームを回転させる指示を表す信号をそのアクチュエータに送信することによって、出力装置240の方向を変更できる。図5に示す例のように、出力装置240として動作するプロジェクタ装置が画像を投影する方向は、出力部109によって制御可能であってもよい。その場合も、例えば、出力装置240は、出力部109による指示に応じて出力装置240の方向を変更する、ロボットアームなどのアクチュエータを介して固定されていればよい。出力装置240は、画像を投影する方向を制御することによって、荷物が配置されうる範囲であればどこであっても画像を投影することができるように、配置されていればよい。
 図6は、本実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第1の図である。図6に示す例では、物体は荷物である。そして、物体が配置される空間は、トラックの荷台あるいは倉庫である。図6と、後述される図7と、図8と、図9と、図10とにおいて、壁及び天井は透明に描かれている。可視光カメラ221及び距離カメラ222を含む映像センサ220と、プロジェクタである出力装置240とを含む入出力ユニットが設置されている。入出力ユニットは、物体管理装置1に接続されている。荷物が配置される空間には、入口がある。そして、その入口の近くに、人感センサである進入センサ210が取り付けられている。さらに、その入口の近くに、出力装置240であるタブレット端末が設置されている。携帯端末が、物体ID入力装置230として動作する。図6に示す例では、進入体は、図示されない作業者である。物体が配置される空間に荷物を搬入する場合、作業者は、荷物の搬入の前に、物体ID入力装置230によって、搬入する荷物の物体IDを入力する。物体が配置される空間から荷物を搬出する場合、進入体は、荷物の搬出の前に、物体ID入力装置230によって、搬出する荷物の物体IDを入力する。図6に示す例のように、複数の種類の出力装置240が取り付けられていてもよい。出力部109は、種類に応じた方法で、複数の種類の出力装置240のそれぞれに、出力を行ってもよい。
 図7は、本実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第2の図である。図7に示す例では、作業員が進入体として、物体が配置される空間に進入している。作業員は、物体が配置される空間に、荷物を搬入している。進入センサ210は、物体が配置される空間に作業員がいる間、進入を検出し続ければよい。
 図8は、本実施形態に係る物体管理システムが設置されている、物体が配置される空間の例を表す第3の図である。図8は、1つの荷物が作業員によって搬入された後の状態を表す。後述されるように、物体検出部105は、図7に示すような、進入体による進入が検出される状態から、図8に示すような、進入体による進入が検出されない状態になると、動作を開始する。
 図9は、本実施形態に係る物体管理システムが設置されている、物体が配置される空間の他の例を表す第1の図である。図9に示す例では、2つの入口がある。可視光カメラ221及び距離カメラ222は、2つの入口を撮影できるよう取り付けられている。そして、入出力ユニットに含まれる可視光カメラ221及び距離カメラ222が、進入センサ210として動作する。図9に示すように、物体が配置される空間には、2つの入口があってもよい。複数の可視光カメラ221と、複数の距離カメラ222が、取り付けられていてもよい。
 図10は、本実施形態に係る物体管理システムが設置されている、物体が配置される空間の他の例を表す第2の図である。図10に示す例では、入出力ユニットの代わりに、可視光カメラ221と、距離カメラ222と、プロジェクタである出力装置240とが取り付けられている。
 次に、図1に示す、本実施形態の物体管理装置1について、図面を参照して詳細に説明する。
 進入データ入力部101は、進入センサ210から、荷物が配置される空間への進入体による進入の有無を表す信号を受信する。前述のように、進入センサ210として動作する人感センサ等によって送信される信号は、例えば、進入体による進入の検出結果に応じた、進入体が存在することを表す値又は進入体が存在しないことを表す値のいずれかを表す信号である。進入データ入力部101は、進入センサ210として動作する映像センサ220から、荷物が配置される空間が撮影された映像を、荷物が配置される空間への進入体による進入の有無を表す信号として受信してもよい。その場合、後述される映像入力部103が、進入データ入力部101として動作すればよい。
 進入検出部102は、進入データ入力部101が受信した信号に基づき、荷物が配置される空間への進入体による進入を検出する。前述のように、進入体は、例えば、人又は運搬装置の少なくとも一方である。進入検出部102は、荷物が配置される空間に進入体が存在するか否かを判定すればよい。例えば、進入センサ210が送信する信号の値が、進入体が存在することを表す場合、進入検出部102は、進入体が存在すると判定すればよい。進入センサ210が送信する信号の値が、進入体が存在しないことを表す場合、進入検出部102は、進入体が存在しないと判定すればよい。
 例えば映像センサ220が進入センサ210として動作することにより、進入センサ210が送信する信号が、荷物が配置される空間を撮影した映像である場合、進入検出部102は、受信した映像から、進入体の特徴を抽出すればよい。進入体の特徴については後述する。進入体の特徴が画像から抽出された場合、進入検出部102は、荷物が配置される空間に進入体が存在すると判定すればよい。進入体の特徴が画像から抽出されない場合、進入検出部102は、荷物が配置される空間に進入体が存在しないと判定すればよい。
 進入センサ210から受信した信号に基づく判定の結果が、進入体が存在しない状態から進入体が存在する状態に移行した場合、進入検出部102は、進入体による進入を検出すればよい。進入センサ210から受信した信号に基づく判定の結果が、進入体が存在する状態から進入体が存在しない状態に移行した場合、進入検出部102は、進入体による退出を検出すればよい。
 進入センサ210として動作する映像センサ220によって得られた画像を使用して進入体を検出する方法として、様々な方法が適用可能である。上述のように、進入検出部102は、例えば、画像において、進入体の特徴を抽出することによって、進入体を検出する。画像における進入体の特徴は、進入体の、例えば形及び大きさが特徴的な部分の像である。例えば、進入体が人であれば、人の頭部の形及び大きさは、大きく変わらない。また、人の頭部は、人の胴体部分などより上部に存在することが多い。従って、人の頭部は、例えば天井付近など、通常の人の身長より高い場所に設置された映像センサ220によって撮影されやすい。進入検出部102は、例えば、人の頭部を、進入体の特徴として抽出すればよい。進入検出部102は、画像において頭部の像を抽出することによって、進入体を検出すればよい。進入体が運搬用の機械である場合、その機械の形が特徴的な部分があらかじめ特定されていればよい。検出を容易にする、特徴的な形の部品が、運搬用の機械に取り付けられていてもよい。進入検出部102は、画像において、運搬用の機械の特徴的な部分を検出することによって、進入体を検出すればよい。進入検出部102は、人の頭部又は運搬用の機械の特徴的な部分の少なくともいずれかを検出することによって、進入体を検出してもよい。
 進入検出部102が人の頭部を抽出する方法として、さまざまな方法を適用することができる。例えば、映像センサ220から送られてくる映像が可視光カメラ221によって撮影された映像である場合、進入検出部102は、例えば、まず、移動体の領域を抽出すればよい。移動体の領域を検出する方法として、例えば、映像中の連続するフレーム間又は近接するフレーム間の差分画像に基づく方法がある。照明の変化が少ない環境では、移動体の領域を検出する方法として、あらかじめ生成された背景画像と頭部の抽出の対象である画像との間の差分画像に基づく方法もある。差分画像は、2枚の画像において同じ位置にある画素の画素値の差が、その同じ位置にある画素の画素値である画像である。進入検出部102は、例えば、差分画像において、画素値の大きさが所定値以上である画素の連結領域を、移動体の領域として抽出する。進入検出部102は、映像センサ220から送られてくる映像に対して、輪郭抽出や、画素値に基づく領域分割を行うことによって、移動体の領域を抽出することもできる。進入検出部102は、抽出された移動体の領域の上部において、凸部を検出すればよい。そして、進入検出部102は、検出された凸部が人の頭部であるか否かを判定すればよい。進入検出部102は、検出された凸部が人の頭部であると判定した場合に、検出された凸部を人の頭部として検出すればよい。
 進入検出部102は、検出された凸部が人の頭部であるか否かを、例えば以下のように判定することができる。進入検出部102は、映像を撮影する可視光カメラ221の焦点距離などのカメラパラメータに基づき、検出された凸部の大きさが人間の頭部の標準的な大きさである場合の、可視光カメラ221から凸部として撮影された対象までの距離を推定する。進入検出部102は、可視光カメラ221のカメラパラメータと、画像における凸部の位置とに基づき、可視光カメラ221に対する、検出された凸部として撮影された対象の方向を推定する。以上のように推定された距離及び方向は、可視光カメラ221と、凸部として撮影された対象との間の、相対位置を表す。さらに、進入検出部102は、推定された相対位置と、荷物が配置される空間における可視光カメラ221の位置とに基づき、荷物が配置される空間における、凸部として撮影された対象の位置を推定する。そして、進入検出部102は、凸部として撮影された対象の推定された位置が、荷物が配置される空間の範囲に含まれるか否かを判定する。判定の結果、凸部として撮影された対象が、荷物が配置される空間に含まれない場合、進入検出部102は、凸部として撮影された対象は人の頭部でないと判定すればよい。また、進入検出部102は、荷物が配置される空間における可視光カメラ221の配置と、人の身体のモデルに基づき、その空間で作業を行う人の頭部が存在しうる範囲を定めることができる。凸部として撮影された対象の、推定された位置が、定められた範囲に含まれない場合、進入検出部102は、凸部として撮影された対象は人の頭部でないと判定すればよい。凸部として撮影された対象の、推定された位置が、定められた範囲に含まれる場合、進入検出部102は、凸部として撮影された対象は人の頭部であると判定すればよい。進入検出部102は、他の方法によって、可視光カメラ221によって撮影された映像において人の頭部を検出してもよい。
 映像センサ220から送られてくる映像が距離カメラ222によって撮影された距離映像である場合、その映像の各フレームにおける画素の画素値は、カメラからの距離を表す。距離カメラ222のカメラパラメータが既知であれば、荷物が配置される空間内の存在する、距離カメラ222に対して隠れていない面の形及び大きさを、距離画像に基づき導出できる。進入検出部102は、距離画像に基づき導出される面において、形及び大きさが、あらかじめ定められた人の頭部の条件にあてはまる部分を、人の頭部として検出すればよい。進入検出部102が、距離映像又は距離画像において、人又は人の頭部を検出する方法として、上述の方法の他にも、様々な方法が適用可能である。
 映像センサ220から送られてくる映像が、可視光映像及び距離映像である場合、進入検出部102は、可視光映像及び距離映像の少なくともいずれかにおいて、例えば上述のように、人の頭部を検出してもよい。進入検出部102は、可視光映像及び距離映像の双方において人の頭部を検出してもよい。そして、可視光映像において検出された人の頭部の位置と、距離映像において検出された人の頭部の位置とが、所定の基準より近い場合、進入検出部102は、人の頭部が検出されたと判定すればよい。可視光映像から人の頭部を検出する場合、照明条件の変化などの影響により、誤検出が生じることがある。照明条件の変化は、例えば、ドアの開閉によって外部から入口を介して入射する入射光の変化などである。特に、太陽光などの強い外光が差し込んだ場合、誤検出が起きやすい。距離映像から人の頭部を検出する場合、形状が人の頭部の形状に類似した他の物体を、人の頭部として検出する場合がある。可視光映像からの人の頭部の検出結果と距離映像からの人の頭部の検出結果とを組み合わせることによって、人の頭部の検出精度を向上させることができる。
 以上では、進入検出部102が人の頭部を検出することによって進入体による進入を検出する方法について説明したが、進入検出部102は、他の方法によって、進入体による進入を検出してもよい。進入検出部102は、進入体の種類に応じた方法によって、進入体による進入を検出すればよい。
 映像入力部103は、映像センサ220が撮影した映像を、映像センサ220から受信する。映像入力部103は、受信した映像を、映像記憶部104に格納する。映像入力部103は、受信した映像をフレーム毎に静止画像に変換し、変換後の静止画像を映像記憶部104に格納してもよい。映像入力部103は、受信した映像のデータを、そのまま映像記憶部104に格納してもよい。映像センサ220が進入センサ210として動作し、映像入力部103が進入データ入力部101として動作する場合、映像入力部103は、さらに、受信した映像を進入検出部102に送信する。
 映像記憶部104は、映像入力部103が受信した映像を記憶する。映像記憶部104は、映像入力部103が映像を受信してから所定時間の期間、その映像を記憶していてもよい。映像記憶部104は、映像入力部103が受信してから経過した時間が短い方から所定フレーム数の映像を記憶していてもよい。その場合、例えば映像入力部103が、受信してから経過した時間が長い映像から、映像記憶部104が記憶する映像を消去してもよい。映像入力部103は、消去の対象である映像に、受信した映像を上書きすることによって、消去の対象である映像の消去と、受信した映像の格納を行ってもよい。
 物体検出部105は、進入体による進入が進入検出部102によって検出された場合、進入が検出されなくなった後、検出された進入の前に撮影された画像と、その進入の後に撮影された画像とを、映像記憶部104から読み出す。物体検出部105は、読み出した画像を使用して、物体が配置される空間への物体の搬入と、物体が配置される空間からの物体の搬出とを検出する。物体検出部105は、さらに、物体が配置される空間に搬入された物体の位置と、物体が配置される空間から搬出された物体の位置とを検出する。
 物体検出部105は、例えば以下のように、進入が検出される前に撮影された画像を、映像記憶部104から読み出す。映像記憶部104に、映像が変換された静止画像が格納されている場合、物体検出部105は、例えば、進入が検出され始めた時点の静止画像から、所定枚数前の静止画像を読み出せばよい。映像記憶部104に、受信した映像のデータがそのまま格納されている場合、物体検出部105は、その映像のデータから、進入が検出され始めた時点のフレームよりも所定フレーム数前のフレームを、静止画像として抽出すればよい。物体検出部105は、さらに、進入が検出され、さらにその進入が検出されなくなった後に撮影された画像を、映像記憶部104から読み出す。物体検出部105は、進入が検出されなくなった時点の静止画像から、例えば所定枚数後の静止画像を、映像記憶部104から同様に読み出せばよい。映像記憶部104に、受信した映像のデータがそのまま格納されている場合、物体検出部105は、その映像のデータから、進入が検出されなくなった時点のフレームよりも所定フレーム数後のフレームを、静止画像として抽出すればよい。
 次に、物体検出部105は、例えば以下のように、進入が検出される前に撮影された画像と、進入が検出されなくなった後に撮影された画像との相違に基づき、物体の搬入及び物体の搬出を検出する。本発明の各実施形態の説明において、進入が検出される前に撮影された画像を、その進入の「進入前画像」と表記する。また、進入が検出され、さらに、その進入が検出されなくなった後に撮影された画像を、その進入の「進入後画像」と表記する。
 まず、物体検出部105は、例えば、進入前画像と進入後画像との間における画素値の変化の大きさが所定の基準以上である画素の集合を含む、変化領域を抽出する。物体検出部105は、例えば、進入前画像と進入後画像との間の差分画像を生成すればよい。差分画像は、例えば、各画素の画素値が、その画素と同じ位置における、2つの画像の画素の画素値の差を表す画像である。そして、物体検出部105は、その差分画像から、画素値の大きさが所定の基準以上である領域を抽出すればよい。変化領域は、画素値の変化の大きさが所定の基準以上である画素の連結領域であってもよい。変化領域は、画素値の変化の大きさが所定の基準以上である画素の連結領域の凸包であってもよい。変化領域は、画素値の変化の大きさが所定の基準以上である画素の連結領域を含む矩形などの多角形であってもよい。なお、連結領域は、例えば、その連結領域に含まれる画素は同じ連結領域に含まれるいずれかの画素に隣接する、画素の集合である。
 次に、物体検出部105は、抽出された変化領域が、物体の搬入によって生じたか、物体の搬出によって生じたかを判定する。
 映像記憶部104に格納されている映像が可視光映像である場合、物体検出部105は、例えば、変化領域内における色や輪郭に基づき、変化領域における物体の有無を検出する。物体検出部105は、例えば、変化領域内における色や輪郭に基づき、変化領域に像が含まれる対象の形状を推定してもよい。物体に例えばラベルが貼付されている場合、物体検出部105は、例えば、変化領域内における色や輪郭に基づき、変化領域においてラベルの像を検出することによって物体を検出してもよい。物体検出部105は、変化領域の色及びテクスチャ等の特徴を、物体が配置される空間における床や壁の同じ種類の特徴と比較してもよい。そして、物体検出部105は、変化領域の特徴が、床や壁の特徴と異なる場合、変化領域に物体が存在すると判定してもよい。物体検出部105は、他の方法によって、物体を検出してもよい。
 物体検出部105は、進入前画像及び進入後画像の双方の変化領域において、物体の有無を検出すればよい。物体検出部105は、進入前画像の変化領域において物体が検出され、進入後画像の変化領域において物体が検出されない場合、進入前画像のその変化領域において検出される物体が、進入体によって搬出されたと判定する。以下の説明において、搬出された物体を搬出物体と表記する。物体検出部105は、進入前画像の変化領域において物体が検出されず、進入後画像の変化領域において物体が検出される場合、進入後画像のその変化領域において検出される物体が、進入体によって搬入されたと判定する。以下の説明において、搬入された物体を搬入物体と表記する。進入前画像の変化領域及び進入後画像の変化領域の双方において、物体が検出された場合、物体検出部105は、搬出物体が配置されていた場所に、搬入物体が配置されたと判定すればよい。
 映像記憶部104に格納されている映像が距離映像である場合、距離画像における画素値の変化量は、その距離画像を撮影した距離カメラ222から、撮影される対象の表面までの最短距離の変化を表す。距離カメラ222による撮影範囲内における、物体の搬入及び搬出は、その物体が存在している状態で撮影された距離画像と、その物体が存在していない状態で撮影された距離画像との間の、変化領域として現れる。
 例えば、撮影範囲から物体が搬出され、撮影範囲内の他の対象の位置は変化していない場合、距離画像におけるその物体が存在していた領域以外の領域では、距離カメラ222から距離カメラ222に最も近い表面までの距離は変化しない。その場合、距離画像における物体が存在していた領域では、距離カメラ222から距離カメラ222に最も近い表面までの距離は、その物体が存在しなくなることによって、大きくなる。例えば、撮影範囲に物体が搬入され、撮影範囲内の他の対象の位置は変化していない場合、距離画像におけるその物体が存在していた領域以外の領域では、距離カメラ222から距離カメラ222に最も近い表面までの距離は変化しない。その場合、距離画像における、配置された物体の領域では、距離カメラ222から距離カメラ222に最も近い表面までの距離は、その物体の存在によって、小さくなる。
 物体検出部105は、例えば以下のように、進入前画像に対する進入後画像の、変化領域における画素値の変化量に基づき、変化領域が物体の搬出によって生じたが、物体の搬入によって生じたかを検出する。
 距離画像における変化領域が、一つの物体が搬出されたことによって生じた場合、その変化領域において、画素値が増加する画素は存在するが、画素値が減少する画素は存在しないはずである。距離画像における変化領域が、一つの物体が搬入されたことによって生じた場合、その変化領域において、画素値が減少する画素は存在するが、画素値が増加する画素は存在しないはずである。変化領域において、画素値が増加する画素は存在するが、画素値が減少する画素は存在しない場合、物体検出部105は、その変化領域が搬出物体によって生じたと判定すればよい。変化領域において、画素値が減少する画素は存在するが、画素値が増加する画素は存在しない場合、物体検出部105は、その変化領域が搬入物体によって生じたと判定すればよい。なお、物体検出部105は、進入前画像と進入後画像との間における、画素の画素値の変化の大きさが、所定の差分閾値を越えない場合、その画素の画素値は変化しないと見なしてもよい。差分閾値は、同一の対象が撮影された複数の距離画像における、ゆらぎ等による画素値の変動の大きさを上回るよう、あらかじめ実験的に決められていればよい。
 また、映像センサ220の距離センサは、物体が配置される空間において撮影された物体の、撮影された画像における像が、一定以上の広さの領域になるように配置されていてもよい。その場合、物体の搬入及び搬出は、その一定以上の広さの変化領域として現れる。物体検出部105は、進入前画像と進入後画像との差分画像の変化領域において、例えば画素値の減少の大きさが所定の差分閾値を越える画素の、所定の広さ閾値を越える大きさの連結領域を、搬出物体の像として検出すればよい。物体検出部105は、進入前画像と進入後画像との差分画像の変化領域において、例えば画素値の増加の大きさが所定の差分閾値を越える画素の、所定の広さ閾値を越える大きさの連結領域を、搬入物体の像として検出すればよい。上述の広さ閾値は、撮影された物体の像の広さがその広さ閾値を下回らないよう、あらかじめ実験的に決められていればよい。
 複数の変化領域が検出された場合、物体検出部105は、それぞれの変化領域が、搬出物体による変化領域であるか、搬入物体による変化領域であるかを、上述のように判定すればよい。
 1つの変化領域に、画素値が減少している領域と画素値が増加している領域が含まれる場合、物体検出部105は、例えば後述されるように、その変化領域が生じた原因を判定すればよい。
 進入体によって、例えば、搬出物体が進入の前に配置されていた場所に、進入の後、搬入物体が配置される、物体の置き換えが行われる場合がある。搬出物体でも搬入物体でもない物体が配置されていた場所に、搬入物体が置かれ、さらに、その搬入物体の上に、搬出物体でも搬入物体でもない物体が置かれる場合もある。搬出物体が置かれていた場所に、搬出物体の上に置かれていた、搬出物体でも搬入物体でもない物体が、その搬出物体が置かれていた場所に置かれる場合もある。
 図11は、物体の位置の変化の例を模式的に表す図である。図11は、物体A、B、及びCが置かれている空間に、さらに物体Dが置かれる場合における、物体の位置の変化の例を表す。図11に示す例は、例えば、左の状態で撮影された画像が進入前画像であり、右の状態で撮影された画像が進入後画像である。右側の状態では、物体Aの下に、新たに物体Dが置かれている。
 例えば以上のような場合、一つの変化領域に、画素値が減少している領域と画素値が増加している領域とが混在していることがある。その場合、物体検出部105は、例えば以下のように、変化領域が生じた原因を判定すればよい。
 例えば、物体検出部105は、まず、画素値が減少している領域と画素値が増加している領域とを含む変化領域において、物体の移動の有無を検出する。物体検出部105は、進入前画像の変化領域において、テンプレートを選択する。
 変化領域が距離画像において検出され、そして、可視光画像が得られている場合、物体検出部105は、例えば、距離画像において検出された変化領域に対応する、可視光画像における領域を特定してもよい。検出部105は、距離画像において検出された変化領域に対応する、可視光画像における領域を距離カメラ222及び可視光カメラ221の相対位置及びカメラパラメータに基づいて特定すればよい。距離画像における変化領域に対応する、可視光画像における領域は、例えば、その変化領域において距離が撮影された範囲が可視光によって観測された領域を含む、可視光画像における領域である。そして、物体検出部105は、特定した可視光画像の領域において、テンプレートを選択してもよい。
 物体検出部105がテンプレートマッチングに使用されるテンプレートを選択する方法として、既存の様々な方法が適用できる。物体検出部105は、例えば、進入前画像の変化領域において、画素値の変化量が所定値以上である所定サイズの領域を、テンプレートとして選択してもよい。具体的には、物体検出部105は、例えば、適宜選択されたオペレータを使用することによって検出した微分画像の画素値の平均値が所定値以上である、所定サイズの領域を、テンプレートとして選択してもよい。物体検出部105は、例えば、上述の微分画像において画素値が所定値以上である画素の割合が所定割合以上である領域をテンプレートとして選択してもよい。物体検出部105は、テンプレートとして選択される領域のサイズを決定してもよい。物体検出部105は、他の方法によってテンプレートを選択してもよい。
 そして、物体検出部105は、進入後画像の変化領域において、そのテンプレートを使用してテンプレートマッチングを行うことによって、そのテンプレートの移動先を検出する。
 変化領域が距離画像において検出され、そして、可視光画像が得られている場合、物体検出部105は、距離画像における変化領域に対応する可視光画像の領域において、後述されるようにテンプレートマッチングを行ってもよい。さらに、物体検出部105は、可視光画像においてテンプレートの移動先として特定された領域に対応する、距離画像における領域を特定してもよい。
 物体検出部105は、テンプレートの移動先が検出された場合、搬出物体でも搬入物体でもない物体が移動したと判定すればよい。そして、物体検出部105は、テンプレート及びテンプレートの移動先を、その搬出物体でも搬入物体でもない物体の位置として検出すればよい。物体検出部105は、一つの変化領域において複数のテンプレートを選択してもよい。そして、物体検出部105は、複数のテンプレートの各々を使用して、テンプレートマッチングを行ってもよい。物体検出部105は、例えば、テンプレートマッチングによって得られた移動ベクトルから、差が所定の範囲内の移動ベクトルを選択してもよい。そして、物体検出部105は、選択された移動ベクトルの数が所定数以上である場合、搬出物体でも搬入物体でもない物体が移動したと判定すればよい。そして、物体検出部105は、それらの移動ベクトルが検出されたテンプレートと、そのテンプレートの移動先とを、その搬出物体でも搬入物体でもない物体の位置として検出すればよい。
 物体検出部105は、画素値が減少している領域と画素値が増加している領域とを含む変化領域において、移動した物体を検出しなかった場合、例えば、その変化領域は、搬出物体及び搬入物体によって生じたと判定する。移動した物体が検出され、その物体が配置されている場所の高さが上昇した場合、その物体の下に他の物体が搬入された可能性がある。この場合、物体検出部105は、物体が搬入されたと判定すればよい。移動した物体が検出され、その物体が配置されている場所の高さが下降した場合、その物体の下にあった他の物体が搬出された可能性がある。この場合、物体検出部105は、物体が搬出されたと判定すればよい。移動した物体が検出され、さらに、その移動した物体が配置されている場所が、最も上の場所から、最も上でない場所に変化した場合、その物体の上に搬入された他の物体が置かれた可能性がある。この場合、物体検出部105は、物体が搬入されたと判定すればよい。移動した物体が検出され、さらに、その移動した物体が配置されている場所が、最も上でない場所から、最も上の場所に変化した場合、その物体の上に置かれていた他の物体が搬出された可能性がある。この場合、物体検出部105は、物体が搬出されたと判定すればよい。物体が搬出され、かつ、搬入されなかったと判定された場合、物体検出部105は、その変化領域が、搬出物体によって生じたと判定すればよい。物体が搬入され、かつ、搬出されなかったと判定された場合、物体検出部105は、その変化領域が、搬入物体によって生じたと判定すればよい。物体が搬出され、かつ、搬入されたと判定された場合、物体検出部105は、その変化領域が、搬出物体及び搬入物体によって生じたと判定すればよい。以上の判定は例である。物体検出部105は、以上の例と異なる判定を行ってもよい。
 映像記憶部104に、映像として、可視光映像及び距離映像が格納されている場合、物体検出部105は、可視光映像における進入前画像及び進入後画像に基づき、搬出物体及び搬入物体を検出すればよい。さらに、物体検出部105は、距離映像においても、進入前画像及び進入後画像に基づき、搬出物体及び搬入物体を検出すればよい。
 物体検出部105は、検出された搬出物体及び搬入物体の位置を、可視光映像及び距離映像の少なくともいずれか一方において検出する。映像記憶部104に、映像として、可視光映像のみが格納されている場合、物体検出部105は、検出された搬出物体及び搬入物体の位置を、可視光映像において検出すればよい。映像記憶部104に、映像として、距離映像のみが格納されている場合、物体検出部105は、検出された搬出物体及び搬入物体の位置を、距離映像において検出すればよい。
 搬出物体及び搬入物体等の物体の位置は、例えば、その物体の特徴的な部分の位置であってもよい。物体の特徴的な部分は、画像におけるその物体の像に基づき特定できる部分であればよい。物体の特徴的な部分は、例えば、物体の角、物体の像の重心、あるいは物体に貼付されたラベルの重心などである。物体検出部105は、変化領域又は変化領域を含む領域において、あらかじめ与えられた、形状及び色などの物体の特徴に基づき、物体の像を抽出してもよい。物体検出部105は、変化領域を、物体の像と見なしてもよい。物体検出部105は、物体の位置として、例えば変化領域の重心を検出してもよい。物体検出部105は、変化領域又は変化領域を含む所定の領域を、物体の位置として検出してもよい。物体の特徴的な部分は、他の部分であってもよい。物体の特徴的な部分が点である場合、検出された位置は例えば1点の座標によって表される。物体の特徴的な部分が線分である場合、検出された位置は、例えば線分の2つの端点の座標によって表される。物体の特徴的な部分が多角形である場合、検出された位置は、例えばその多角形の各頂点の座標によって表される。物体の特徴的な部分が円である場合、検出された位置は、例えばその円の中心の座標及び半径によって表される。物体の特徴的な部分は、座標や長さによって表される他の図形であってもよい。物体の位置を表す座標は、適宜選択された離散値によって表されていてもよい。
 物体検出部105は、可視光画像又は距離画像などの画像において検出した位置を、例えば、物体が配置される空間内における位置に変換してもよい。
 前述のように、距離カメラ222によって撮影された距離画像では、各画素の画素値は、距離カメラ222からの距離を表す。従って、物体検出部105は、画像において検出した位置にある、距離画像の画素の画素値と、距離カメラ222のカメラパラメータとに基づき、物体が配置される空間における、物体の特徴的な部分の位置を特定することができる。
 その場合の物体の位置は、例えば、物体が配置される空間においてあらかじめ定められた座標系における座標によって表されていればよい。その座標系は、映像センサ220を中心とする座標系であってもよい。その場合、その座標系は、例えば、可視光カメラ221を中心とする座標系であってもよい。その座標系は、例えば、距離カメラ222を中心とする座標系であってもよい。
 物体検出部105は、搬入物体の位置として検出された位置を、物体登録部107に送信する。搬入物体の位置として複数の位置が検出された場合、物体検出部105は、それらの複数の位置を、物体登録部107に送信する。物体検出部105は、さらに、例えば、可視光画像の進入後画像から、搬入物体によって生じたと判定された変化領域又はその変化領域を含む領域の画像を切り出してもよい。搬入物体によって生じたと判定された変化領域は、搬入物体のみによって生じたと判定された変化領域と、搬入物体及び搬出物体によって生じたと判定された変化領域とを含む。物体検出部105は、切り出した画像を物体の位置に関連付ければよい。物体検出部105は、物体の位置に関連付けられた、切り出した画像を、物体登録部107に送信してもよい。搬出物体の位置として複数の位置が検出された場合、物体検出部105は、位置毎に、切り出された画像を位置に関連付ければよい。そして、物体検出部105は、位置に関連付けられた、切り出された画像を、物体登録部107に送信すればよい。物体検出部105は、切り出された画像ではなく、進入後画像を位置に関連付けてもよい。そして、物体検出部105は、位置に関連付けられた進入後画像を物体登録部107に送信してもよい。以下の説明において、物体検出部105が物体登録部107に送信する画像を、「表示画像」とも表記する。物体検出部105が物体登録部107に送信する位置は、座標ではなく、表示画像であってもよい。すなわち、物体検出部105は、表示画像を、搬入物体の位置として物体登録部107に送信してもよい。物体検出部105は、さらに、搬出物体の位置として検出された位置を、物体登録部107に送信してもよい。
 物体検出部105は、さらに、搬出物体での搬入物体でもない物体の、移動元の位置及び移動先の位置の組み合わせを、物体登録部107に送信してもよい。移動元の位置は、前述のテンプレートの位置である。移動先の位置は、前述のテンプレートの移動先の位置である。
 物体ID入力部106は、物体ID入力装置230から、物体IDを受信する。物体ID入力部106は、複数の物体IDを受信してもよい。映像センサ220が物体ID入力装置230として動作する場合、物体ID入力部106は、受信した映像から、物体IDを抽出すればよい。物体ID入力部106は、受信又は抽出した物体IDを、物体登録部107に送信する。
 物体記憶部108は、物体IDと、物体IDに関連付けられた位置とを記憶する。物体記憶部108は、さらに、物体IDに関連付けられた画像を記憶していてもよい。本実施形態の物体記憶部108が記憶する画像は、上述の表示画像である。
 物体登録部107は、受信した物体IDに関連付けられている位置が、物体記憶部108に格納されているか否かを判定する。
 受信した物体IDに位置が関連付けられている場合、物体登録部107は、物体記憶部108から、受信した物体IDに関連付けられている位置を読み出す。物体登録部107は、読み出した位置を、出力部109に送信する。受信した物体IDに画像が関連付けられている場合、物体登録部107は、物体記憶部108から、さらに、受信した物体IDに関連付けられている画像を読み出してもよい。その場合、物体登録部107は、読み出した位置と画像とを、出力部109に送信する。物体登録部107は、進入体による進入が進入検出部102によって検出された場合、出力部109に、位置、又は、位置と画像とを送信すればよい。物体登録部107は、物体IDが入力されるのに応じて、出力部109に、位置、又は、位置と画像とを送信してもよい。
 出力部109は、位置を受信した場合、受信した位置を出力装置240に出力する。
 例えば、出力装置240が、タブレット端末などの端末装置である場合、出力部109は、端末装置である出力装置240の画面に、受信した位置を表示すればよい。その場合、出力部109は、例えば、物体が配置される場所の平面図と、その平面図上の、受信した位置が表す場所に、所定の図形を描画すればよい。
 例えば、出力装置240が、照射する方向を変更できるレーザポインタである場合、出力部109は、出力装置240が物体IDに関連付けられている位置を照射するよう、出力装置240の方向を設定する。出力装置240は、設定された方向に、光を照射すればよい。物体IDに関連付けられている位置が、画像上の位置である場合、出力部109は、例えばフィードバック制御によって、物体IDに関連付けられている位置が照射されるよう、出力装置240の方向を制御してもよい。物体IDに複数の位置が関連付けられている場合、出力部109は、例えば、出力装置240が、それらの複数の位置を、所定の時間毎に所定の順番で照射するよう、出力装置240が照射する位置を切り替えればよい。
 例えば、出力装置240が、所定の範囲を照射し、照射する方向を設定できるプロジェクタである場合、出力部109は、出力装置240の方向を、照射の中心が、物体IDに関連付けられている位置になるよう、出力装置240の方向を設定する。出力装置240は、設定された方向に、光を照射すればよい。物体IDに画像が関連付けられている場合、出力部109は、出力装置240に、物体IDに関連付けられている画像を設定された方向に照射させてもよい。物体IDに複数の位置が関連付けられている場合、出力部109は、例えば、出力装置240が、それらの複数の位置に、その位置に関連付けられた画像を、所定の時間毎に所定の順番で照射するよう、出力装置240が照射する位置及び画像を切り替えればよい。物体IDに、進入後画像が関連付けられている場合、出力部109は、進入後画像から、物体IDに関連付けられている位置の画像を切り出せばよい。物体IDに関連付けられている位置が、物体が配置される空間に設定された3次元の座標系における座標で表されている場合、出力部109は、進入後画像における物体IDに関連付けられている位置の像の座標を導出すればよい。3次元の座標系における座標は、進入後画像を撮影したカメラのカメラパラメータと、そのカメラの位置及びその3次元の座標系の関係とに基づき、その進入後画像における座標に変換可能である。そして、出力部109は、物体IDに関連付けられている位置の画像を、物体IDに関連付けられている位置に照射すればよい。
 出力装置240が、照射する方向を出力部109が設定できないプロジェクタである場合、出力装置240は、例えば、出力装置240による照射の範囲に、物体が配置される範囲が含まれるよう、出力装置240が設置されていればよい。そして、出力部109は、出力装置240が照射する映像の、物体IDに関連付けられている位置に照射される部分の明るさが明るくなり、それ以外の位置に照射される部分の明るさが暗くなるよう設定する。そして、出力部109は、設定した映像を、出力装置240に照射させればよい。物体IDに画像が関連付けられている場合、出力部109は、出力装置240が照射する映像の、物体IDに関連付けられている位置に照射される部分に、その物体IDに関連付けられている画像を合成すればよい。物体IDに複数の位置が関連付けられている場合、出力部109は、出力装置240が照射する映像の、物体IDに関連付けられている位置に照射される部分に、その位置に関連付けられている画像を合成すればよい。物体IDに進入後画像が関連付けられている場合、出力部109は、その画像の、物体IDに関連付けられている位置に照射される部分の明るさを明るくし、それ以外の部分を暗くした画像を生成すればよい。そして、出力部109は、生成した画像を、出力装置240に照射させればよい。
 出力部109が位置の出力を開始した後、進入体による進入が検出される状態から、進入体による進入がされない状態に変化した場合、出力部109は、位置の出力を終了する。そして、その場合、さらに、物体登録部107は、受信した物体IDに関連付けられている位置を、物体記憶部108から削除する。その場合、物体登録部107は、受信した物体IDに関連付けられている位置をすぐには削除せず、物体検出部105が搬出物体の位置を送信するまで待機してもよい。そして、物体登録部107は、物体検出部105から、搬出物体の位置を受信してもよい。物体登録部107は、物体検出部105から受信した、搬出物体の位置と、受信した物体IDに関連付けられている位置とを比較してもよい。物体登録部107は、受信した搬出物体の位置と受信した物体IDに関連付けられている位置との距離が、所定距離以下である場合、その物体IDに関連付けられている位置を、物体記憶部108から削除してもよい。
 物体登録部107は、位置が関連付けられている物体IDと、位置が関連付けられていない物体IDとを受信した場合、位置が関連付けられている物体IDに対して、上述の動作を行う。そして、物体登録部107は、物体検出部105から、搬入物体の位置が送信されるまで待機する。
 受信した物体IDに位置が関連付けられていない場合、物体登録部107は、物体検出部105から、搬入物体の位置が送信されるまで待機する。
 物体検出部105から送信された搬入物体の位置を受信した場合、物体登録部107は、物体検出部105から受信したその搬入物体の位置を、物体ID入力部106から受信した、位置が関連付けられていない物体IDに関連付ける。物体登録部107は、物体IDに関連付けられた位置を、物体記憶部108に格納する。物体登録部107は、搬入物体の位置とその位置に関連付けられた画像とを受信した場合、位置が関連付けられていない物体IDに、受信した、搬入物体の位置とその位置に関連付けられた画像とを関連付ける。そして、物体登録部107は、物体IDに関連付けられた、搬入物体の位置及びその位置に関連付けられた画像を、物体記憶部108に格納する。なお、物体検出部105から送信される画像は、上述のように、例えば、搬入物体によって生じた変化領域の画像等である。物体登録部107は、搬入物体の位置と、その搬入物体が検出された進入後画像とを受信した場合、搬入物体の位置及び進入後画像を、物体IDに関連付けてもよい。
 進入体が複数の物体を搬入する場合、進入体は、搬入する物体の数と同じ数の、位置が関連付けられていない物体IDを、物体ID入力装置230を介して入力する。その場合、本実施形態では、物体登録部107は、物体検出部105によって検出された、全ての搬入物体の位置を、位置が関連付けられていない物体IDのそれぞれに関連付ければよい。物体検出部105から、位置及び画像の複数の組み合わせを受信した場合、物体登録部107は、さらに、位置及び画像の、受信した全ての組み合わせを、位置が関連付けられていない物体IDのそれぞれに関連付けてもよい。物体検出部105から、さらに、位置と、搬入物体が検出された進入後画像を受信した場合、物体登録部107は、受信した位置と進入後画像とを、位置が関連付けられていない物体IDのそれぞれに関連付けてもよい。
 物体登録部107は、搬出物体でも搬入物体でもない、移動した物体の、移動元の位置及び移動先の位置の組み合わせを受信した場合、その移動した物体の位置として物体記憶部108に格納されている位置を、更新してもよい。物体登録部107は、例えば、まず、受信した移動元の位置に最も近い位置に関連付けられている物体IDを特定すればよい。物体の位置が座標によって表される場合、物体登録部107は、例えば、移動元の位置との距離が最も近い位置に関連付けられている物体IDを特定すればよい。物体登録部107は、特定した物体IDに移動先の位置を関連付け、特定した物体IDに関連付けられた、移動先の位置を、物体記憶部108に格納すればよい。物体の位置が画像によって表されている場合、物体登録部107は、移動元の位置を表す画像をテンプレートとして、物体記憶部108に登録されている位置(すなわち、位置を表す画像)と、テンプレートマッチングを行えばよい。そして、物体登録部107は、移動元の位置を表す画像に最もマッチする画像に関連付けられている物体IDを特定すればよい。物体登録部107は、特定した物体IDによって特定される物体の位置として、移動先の位置を表す画像を物体記憶部108に格納すればよい。物体登録部107は、例えば、特定した物体IDを移動先の位置を表す画像に関連付け、特定した物体IDが関連付けられている、移動先の位置を表す画像を、物体記憶部108に格納すればよい。上述のように、物体登録部107が物体検出部105から受信し、物体登録部107が物体記憶部108に格納する画像は、上述の表示画像である。
 次に、本実施形態の物体管理装置1の動作について、図面を参照して詳細に説明する。
 図12は、本実施形態の物体管理装置1の動作全体の第1の例を表すフローチャートである。本動作では、物体管理システム300の出力装置240は、例えば、図3に示す、方向を変更可能なレーザポインタ、図4に示すプロジェクタ、又は、図5に示すプロジェクタ等である。この場合の動作を、以下の説明において、「第1の動作例」と表記する。
 図12を参照すると、まず物体ID入力部106が、物体ID入力装置230から物体IDを受信する(ステップS101)。物体ID入力部106は、受信した物体IDを、物体登録部107に送信する。物体登録部107は、受信した物体IDに位置が関連付けられているか否かを判定する(ステップS102)。物体登録部107は、受信した物体IDが関連付けられている位置が、物体記憶部108に格納されているか否かを判定すればよい。
 受信した物体IDに位置が関連付けられていない場合(ステップS102においてNo)、物体管理装置1は、次に、ステップS104の動作を行う。
 受信した物体IDに位置が関連付けられている場合(ステップS102においてYes)、出力部109は、受信した物体IDに関連付けられている位置を、出力装置240によって出力する(ステップS103)。ステップS103の動作については、後で詳細に説明する。そして、物体管理装置1は、次に、ステップS104の動作を行う。
 ステップS104において、進入センサ210が取得し、進入データ入力部101が進入センサ210から受信したデータに基づき、進入検出部102は、進入体による進入を検出する。
 進入が検出されない場合(ステップS105においてNo)、進入検出部102は、進入検出フラグの値を確認する(ステップS109)。進入検出フラグは、進入が検出されたか否かを表す。例えば、進入検出フラグがYesである場合、進入検出フラグは、進入が検出されたことを表す。進入検出フラグがNoである場合、進入検出フラグは、進入が検出されていないことを表す。進入フラグのYesである値と、Noである値は、あらかじめ定められた、異なる値であればよい。進入フラグの初期値はNoである。進入検出フラグがNoである場合(ステップS109においてNo)、物体管理装置1は、ステップS104からの動作を継続する。進入が検出されず、かつ、進入フラグがNoである場合、まだ進入体による進入は検出されていない。
 進入が検出された場合(ステップS105においてYes)、進入検出部102は、進入検出フラグの値を確認する(ステップS106)。
 進入検出フラグがNoである場合(ステップS106においてNo)、物体検出部105は、例えば、進入が検出されたフレームよりもNフレーム前の画像を取得する(ステップS107)。値Nは、例えば、あらかじめ実験的に求められた、進入による影響が生じ始めてから進入が検出されるまでの間に映像入力部103が取得するフレームの数である。進入の影響は、例えば、進入体がドアを開けた際ドアから差し込む外光による、映像センサ220が取得する映像への影響である。以下の説明において、ステップS107において取得される、進入が検出されたフレームよりもNフレーム前の画像を、画像Aと表記する。画像Aが、上述の進入前画像である。物体検出部105は、画像Aを映像記憶部104から読み出せばよい。進入が検出され、かつ、進入フラグがNoである場合、進入体が進入を開始したことが検出された。次に、進入検出部102は、進入フラグをYesに設定する(ステップS108)。ステップS108の動作の後、物体管理装置1は、ステップS104からの動作を継続する。
 進入検出フラグがYesである場合(ステップS106においてYes)、物体管理装置1は、ステップS104からの動作を継続する。進入が検出され、かつ、進入フラグがYesである場合、進入体による進入が継続的に検出されている。
 進入が検出されず(ステップS105においてNo)、進入フラグがYesである場合(ステップS109においてYes)、物体管理装置1は、物体登録処理を行う(ステップS110)。進入フラグがYesであり、かつ、進入が検出されない場合、進入が検出されていたが、直近の検出において進入は検出されていない。例えば、物体が配置される空間に進入していた進入体が、物体が配置される空間から退去した場合、進入フラグはYesであり、かつ、進入は検出されない。物体登録処理については、後で詳細に説明する。物体登録処理において、進入検出フラグは、初期化されることによって、Noに設定される。
 例えば、物体管理システム300の管理者が、物体管理装置1の動作を終了させる操作を行った場合(ステップS111においてYes)、物体管理装置1は、動作を終了する。物体管理装置1の動作を終了させる動作が実行されない場合(ステップS111においてNo)、物体管理装置1は、ステップS101からの動作を継続する。
 次に、本実施形態の物体管理装置1の、物体登録処理における動作について、図面を参照して詳細に説明する。
 図13は、本実施形態の物体管理装置1の、物体登録処理における動作の第1の例を表すフローチャートである。
 図13を参照すると、物体検出部105は、進入体による進入が検出されなくなったフレームからMフレーム後の画像を取得する(ステップS201)。値Mは、例えば、あらかじめ実験的に求められた、進入が検出されなくなってから進入の影響が無くなるまでの間に映像入力部103が取得するフレームの数である。進入の影響は、例えば、ドアが閉められるまでの間にドアから差し込む外光による、映像センサ220が取得する映像への影響である。以下の説明において、ステップS201において取得された画像を、画像Bと表記する。画像Bが、上述の進入後画像である。そして、進入検出部102は、進入フラグをNoに設定する、初期化を行う(ステップS202)。次に、物体検出部105が、例えば上述のように、持ち出された物体(すなわち搬出物体)及び持ち込まれた物体(すなわち搬入物体)の位置を特定する(ステップS203)。
 持ち込まれた物体の位置が検出されない場合(ステップS204においてNo)、物体管理装置1は、次に、ステップS208の動作を行う。
 持ち込まれた物体の位置が検出された場合(ステップS204においてYes)、物体登録部107は、ステップS101において物体ID入力部106が受信した物体IDの中で、位置が関連付けられていない物体IDを特定する(ステップS205)。以下の説明において、位置が関連付けられていない物体IDを、「未登録物体ID」と表記する。物体登録部107は、持ち込まれた物体の位置として検出された位置と、未登録物体IDとを関連付ける(ステップS206)。物体登録部107は、未登録物体IDに関連付けられた位置を、物体記憶部108に格納する(ステップS207)。複数の持ち込まれた物体が検出された場合、物体管理装置1は、検出された全ての持ち込まれた物体に対して、ステップS204からステップS207までの動作を行えばよい。
 図14は、本実施形態の物体記憶部108に格納される、位置の第1の例を模式的に表す図である。図14に示す例では、物体記憶部108は、物体IDと、時刻と、物体の位置との組み合わせを記憶する。物体記憶部108は、物体の位置として、座標を記憶する。
 本動作例では、ステップS203において、物体検出部105は、搬入物体及び搬出物体などの物体の位置として、座標を検出する。そして、ステップS307において、物体登録部107は、位置として、座標を物体記憶部108に格納する。物体の座標は、例えば、画像A及び画像Bにおける画像座標系によって表されていればよい。画像座標系は、映像センサ220のうち、可視光カメラ221が撮影した画像における画像座標系であればよい。画像座標系は、距離カメラ222が撮影した画像における画像座標系であってもよい。物体記憶部108に格納される座標の座標系は、あらかじめ定められていればよい。物体登録部107は、座標に加えて、物体記憶部108に格納される座標の座標系を表す値を、物体記憶部108に格納してもよい。
 持ち出された物体の位置が検出されなかった場合(ステップS208においてNo)、物体管理装置1は、図13に示す、物体登録処理を終了する。
 持ち出された物体の位置が検出された場合(ステップS208においてYes)、物体登録部107は、持ち出された物体の位置を、物体記憶部108から消去する(ステップS209)。物体登録部107は、ステップS101における受信時に位置が関連付けられていた全ての物体IDを特定すればよい。例えば、進入体である作業者が、ステップS101において受信した、位置が関連付けられている物体IDが表す全ての物体を搬出する場合、そして、物体登録部107は、特定した物体IDに関連付けられている位置を全て消去すればよい。物体登録部107は、特定された物体IDに関連付けられている位置と、搬出物体の位置として特定された位置とを比較してもよい。物体登録部107は、特定された物体IDに関連付けられている位置と、搬出物体の位置として特定された位置との距離が、例えば所定距離以下である場合、その物体IDに関連付けられている位置を消去してもよい。ステップS209の動作の後、物体管理装置1は、図13に示す動作を終了する。ステップS209の動作の後、図13に示す動作が終了する前に、物体登録部107は、搬出物体でも搬入物体でもない、移動した物体の、物体記憶部108に格納されている位置を、更新する動作を行ってもよい。
 次に、ステップS103の動作について、さらに詳細に説明する。
 前述のように、出力装置240は、例えば、図3に示す、方向を変更可能なレーザポインタである。出力部109は、ステップS101において受信した物体IDに関連付けられている位置を、物体記憶部108から読み出す。出力部109は、レーザポインタである出力装置240の方向を、レーザポインタが受信した物体IDに関連付けられている位置を指すように設定する。図14に示す例では、物体IDに関連付けられている位置は、映像センサ220によって撮影された画像における座標(画像座標系における座標)によって表されている。距離画像が得られていれば、その距離画像を使用して、画像座標系によって表される位置を、その位置が表す、物体が配置される空間内の位置の、3次元の座標系によって表された座標に変換することができる。その場合、出力部109は、物体IDに関連付けられている位置の座標を、物体が配置される空間内の位置の座標に変換すればよい。そして、出力部109は、レーザポインタが変換によって得られた座標が表す位置を指すよう、出力装置240の方向を設定すればよい。物体記憶部108に、物体の位置として、3次元の座標系で表された座標が格納されている場合、出力部109は、読み出された座標が表す位置をレーザポインタが指すように、出力装置240の方向を設定すればよい。距離画像が得られない場合、出力部109は、レーザポインタを点灯させ、映像センサ220が撮影する映像において、レーザポインタが指し示す点を抽出すればよい。レーザポインタが指し示す点の明るさは、物体が配置される空間の照明光と比較して、明るければよい。出力部109は、明るさ、あるいは、明るさ及びレーザポインタが照射する光の色等によって、レーザポインタが指し示す点を抽出すればよい。そして、出力部109は、レーザポインタが指し示す点が、物体IDに関連付けられている位置に近づくよう、例えば、フィードバック制御によって、出力装置240の方向を制御すればよい。
 出力装置240が、図5に示す、方向を制御可能なプロジェクタである場合、出力部109は、出力装置240がレーザポインタである場合と同様に、出力装置240の方向を設定する。そして、出力部109は、物体IDに関連づけられている位置を、プロジェクタである出力装置240によって照射させる。出力装置240が照射する範囲は、例えば、物体に関連づけられている位置を含む、あらかじめ定められた範囲であればよい。
 出力装置240が、図4に示す、固定されているプロジェクタである場合、上述のように、出力装置240が映像を投影する範囲に、荷物が配置されうる範囲が含まれていればよい。そして、物体が配置される空間に設定された3次元の座標系(以下、「物体座標系」と表記する)と、距離カメラ222によって撮影される画像における座標系(以下、「距離画像座標系」と表記する)との関係が既知であればよい。さらに、物体座標系と、プロジェクタである出力装置240が投影する画像又は映像における座標系(以下、「投影座標系」と表記する)との関係が既知であればよい。出力部109は、例えば、距離画像における位置と、その位置にある画素の画素値とに基づき、その位置に像が現れる点の、物体座標系によって表される座標を導出すればよい。そして、出力部109は、プロジェクタである出力装置240によってその点に投影される、出力装置240が投影する映像における点の、投影座標系によって表される座標を導出すればよい。出力部109は、導出した座標が表す点を含む所定領域が明るく、他の領域が暗い画像を生成すればよい。出力部109は、生成した画像を、出力装置240によって、物体が配置される空間に投影すればよい。
 次に、物体記憶部108が、物体の位置として、前述の表示画像を記憶する場合における、本実施形態の物体管理装置1の動作について、図面を参照して詳細に説明する。この場合の動作を、以下の説明において、「第2の動作例」と表記する。この場合の表示画像は、進入後画像すなわち図13における画像Bから切り出された、搬入物体によって生じた、上述の変化領域を含む領域の画像である。進入後画像すなわち図13における画像Bは、可視光画像であればよい。その場合の物体管理装置1の動作も、図12及び図13によって表される。そして、以下で説明する事項を除き、物体の位置として表示画像が送信される場合における物体管理装置1の動作は、以上で説明した、物体の位置として座標が送信される場合における物体管理装置1の動作と同じである。
 図13に示すステップS203からステップS209までの各ステップにおいて、「位置」は、前述の表示画像である。表示画像は、物体が配置される空間が撮影された画像において、搬入物体の像の領域を含む画像である。表示画像によって、搬入物体の形状、又は、搬入物体の形状及び搬入物体の周囲の状況を知ることができる。従って、表示画像は、搬入物体の位置を表すとも言える。図12に示すステップS103において、出力部109は、表示画像を出力装置240に表示することによって、物体IDに関連付けられている位置を出力する。
 図15は、本実施形態の物体記憶部108に格納される、位置の第2の例を模式的に表す図である。図15は、本動作例において、図13に示すステップS207において、物体登録部107によって物体記憶部108に格納された位置の例を模式的に表す。物体記憶部108は、物体IDと、時刻と、位置との組み合わせを記憶する。時刻及び位置は、物体IDに関連付けられている。物体IDに関連付けられている時刻は、その物体IDによって特定される物体が搬入されたことが検出された時刻を表す。物体記憶部108は、位置として、表示画像を記憶する。図15に示す例では、物体IDに関連付けられている位置は、表示画像を特定する画像識別子である。画像識別子は、例えば、ファイル名である。物体記憶部108は、画像識別子であるファイル名が付与された画像ファイルとして、表示画像を記憶していればよい。図15と、後述される図17及び図25とにおいて、画像ファイル名に含まれる「.jpg」は、画像ファイルのフォーマットが、JPEG(Joint Photographic Experts Group)形式であることを表す。画像ファイルのフォーマットは、他の形式でもよい。
 物体登録部107は、例えば、受信した表示画像を、画像識別子であるファイル名が付与された画像ファイルとして、物体記憶部108に格納すればよい。そして、物体登録部107は、物体記憶部108が記憶する例えば図15に示すようなテーブルに、未登録物体IDと、時刻と、位置とを登録すればよい。上述のように、物体登録部107は、位置として、物体記憶部108に格納した表示画像の画像ファイルに付与されている、画像識別子であるファイル名を、物体記憶部108が記憶するテーブルに登録すればよい。
 本動作例では、出力装置240は、例えば、タブレット端末などの、表示部を備える端末装置である。出力部109は、まず、受信した物体IDに関連付けられている表示画像を読み出す。そして、出力部109は、出力装置240の表示部に、表示画像を表示すればよい。出力装置240は、図4又は図5に示すプロジェクタであってもよい。出力部109は、出力装置240によって、表示画像を、適宜選択された場所に投影すればよい。
 次に、物体記憶部108が、物体IDに関連付けられている位置及び表示画像を記憶する場合における、本実施形態の物体管理装置1の動作について、図面を参照して詳細に説明する。以下の説明において、この場合の動作を、第1の実施形態の「第3の動作例」と表記する。
 図12に示すフローチャートは、さらに、第3の動作例における、物体管理装置1の動作を表す。ステップS103において、出力部109は、前述の第1の動作例における出力部109と同様に動作してもよい。ステップS103において、出力部109は、前述の第2の動作例における出力部109と同様に動作してもよい。ステップS103において、出力部109は、第1の動作例における出力部109の動作及び第2の動作例における出力部109の動作と異なる動作を行ってもよい。その場合の出力部109の動作については、後で詳細に説明する。他のステップにおける動作は、ステップS110を除き、第1の動作例における、同じ符号が付与されたステップにおける動作と同じである。
 図16は、第1の実施形態の物体管理装置1の、物体登録処理における動作の第3の例を表すフローチャートである。図16に示すフローチャートは、本実施形態の物体管理装置1の、第3の動作例における物体登録処理の動作の例を表す。図16を図13と比較すると、本動作例において、物体管理装置1は、ステップS206の動作の代わりに、ステップS306の動作を行う。物体管理装置1は、ステップS207の動作の代わりに、ステップS307の動作を行う。さらに、本動作例において、物体管理装置1は、ステップS209の動作の代わりに、ステップS309の動作を行う。
 ステップS205の動作の後、物体検出部105は、検出した搬入物体の位置と、表示画像とを、物体登録部107に送信する。前述のように、搬入物体は、持ち込まれた物体を表す。また、表示画像は、進入後画像から切り出された、搬入物体によって生じたと判定された変化領域を含む領域の画像を表す。進入後画像から表示画像を切り出す範囲は、あらかじめ決められていればよい。物体検出部105ではなく物体登録部107が、進入後画像から表示画像を切り出してもよい。表示画像は、進入後画像全体であってもよい。
 ステップS306において、物体登録部107は、物体検出部105によって検出された、搬入物体の位置と、表示画像とを、未登録物体IDに関連付ける。前述のように、表示画像は、搬入物体によって生じたと判定された変化領域を含む領域の画像である。搬入物体によって生じた変化領域には、搬入物体の像が含まれる。前述のように、未登録物体IDは、関連付けられている位置が物体記憶部108に格納されていない物体IDを表す。
 ステップS307において、物体登録部107は、未登録物体IDに関連付けた、位置と表示画像とを、物体記憶部108に格納する。
 図17は、第1の実施形態の物体記憶部108に格納される、位置の第3の例を模式的に表す図である。物体記憶部108は、物体IDと、時刻と、位置との組み合わせを記憶する。図17に示す例では、位置として、座標と表示画像とが、物体記憶部108に格納されている。時刻及び位置は、物体IDに関連付けられている。物体IDに関連付けられている時刻は、その物体IDによって特定される物体が搬入されたことが検出された時刻を表す。
 本動作例では、物体記憶部108は、図17に示すように、位置として、座標と表示画像とを記憶する。図17に示す例では、座標は、図14に示す座標と同様に、例えば、可視光カメラ221によって取得された画像における画像座標系によって表されている。座標は、上述のように、他の座標系によって表されていてもよい。物体記憶部108は、表示画像の画像ファイルを記憶していればよい。図17に示す例では、物体IDに関連付けられている位置は、表示画像を特定する画像識別子である。画像識別子は、例えば、ファイル名である。物体記憶部108は、画像識別子であるファイル名が付与された画像ファイルとして、表示画像を記憶していればよい。
 物体登録部107は、例えば、表示画像を、画像識別子であるファイル名が付与された画像ファイルとして、物体記憶部108に格納すればよい。そして、物体登録部107は、物体記憶部108が記憶する図17に示すようなテーブルに、未登録物体IDと、時刻と、座標と、画像識別子とを登録すればよい。
 ステップS309において、物体登録部107は、搬出物体の位置と表示画像とを、物体記憶部108から消去する。
 物体管理装置1は、出力装置240が、図4又は図5に示すプロジェクタである場合に、ステップS103において、以下の動作を行ってもよい。なお、以下の説明は、物体に関連付けられている座標が、例えば、可視光カメラ221によって撮影された可視光画像における画像座標系によって表されている場合の説明である。
 出力部109は、まず、受信した物体IDに関連付けられている座標及び表示画像を、物体記憶部108から読み出す。
 出力装置240が、図5に示す例のような、方向を制御できるプロジェクタである場合、出力部109は、物体IDに関連付けられている座標が表す、物体が配置される空間内の点を含む所定領域を照射するよう、出力装置240の方向を設定する。プロジェクタである出力装置240の方向を設定する方法は、前述の、レーザポインタの方向の設定と同様の方法でよい。表示画像が、進入後画像から切り出された、進入後画像の部分画像である場合、出力部109は、同じ物体IDに関連付けられている表示画像を、出力装置240に投影させる。表示画像が、進入後画像全体である場合、出力部109は、進入後画像から、物体IDに関連付けられている位置を含む所定領域の画像を切り出せばよい。そして、出力部109は、切り出した画像を、出力装置240に投影させればよい。
 出力装置240が、図4に示す例のような、固定されているプロジェクタである場合、出力装置240は、まず、物体IDに関連付けられている座標を、前述の投影座標系によって表される座標に変換すればよい。表示画像が、進入後画像から切り出された、進入後画像の部分画像である場合、出力部109は、同じ物体IDに関連付けられている表示画像が、変換された座標によって表される点を含む位置に配置された画像を生成する。そして出力部109は、生成する画像の、表示画像が配置されている領域以外の領域を、表示画像と比較して暗くすればよい。出力部109は、生成した画像を、出力装置240に投影させる。表示画像が進入後画像全体である場合、出力部109は、表示画像の、変換された座標によって表される点を含む所定領域以外の領域の明るさが、その所定領域の明るさより暗くなるように、その表示画像を変更する。出力部109は、変更された表示画像を、出力装置240に投影させる。
 以上で説明した本実施形態には、物体を検出する計算負荷を減少させることができるという効果がある。
 その理由は、進入検出部102が進入体による進入を検出した後に、物体検出部105が、搬入された物体などの物体を検出する処理を開始するからである。従って、本実施形態の物体管理装置1は、物体を検出する処理を、継続的に行う必要はない。従って、物体を検出する計算負荷を減少させることができる。計算負荷は、例えば、物体を検出する処理の演算の負荷である。すなわち、計算負荷は、物体を検出する処理のために実行される計算の計算量(演算の演算量)である。演算の負荷を削減することによって、物体管理装置1の消費電力を削減することができる。例えば、物体が配置される空間がトラックの荷台である場合、物体管理装置1はトラックに搭載される。その場合、物体管理装置1に、トラックから電力を供給する必要がある。しかし、トラックが供給可能な電力は限られる。例えば、物体管理装置1が必要とする電力が、トラックが供給可能な電力を越える場合、物体管理装置1をトラックに搭載できない。物体管理装置1が必要とする電力が、トラックが供給可能な電力を越えない場合であっても、物体管理装置1が必要とする電力の大きさに応じた容量のバッテリをトラックに搭載する必要がある。物体管理装置1が必要とする電力の削減によって、物体管理装置1のトラックへの搭載が容易になる。
 <第1の実施形態の変形例>
 次に、本発明の第1の実施形態の変形例について、図面を参照して詳細に説明する。
 図18は、本変形例の物体管理システム300Aの構成の例を表すブロック図である。物体管理システム300Aは、物体管理装置1ではなく、物体管理装置1Aを含む。物体管理システム300Aは、進入センサ210を含まない。物体管理装置1Aは、進入データ入力部101を含まない。以上の相違を除き、物体管理システム300Aの構成は、図1に示す物体管理システム300の構成と同じである。本変形例の説明において、第1の実施形態の説明と重複する説明は省略する。
 本変形例では、映像センサ220が、第1の実施形態の進入センサ210として動作する。そして、映像入力部103が、第1の実施形態の進入データ入力部101として動作する。
 本実施形態の進入検出部102は、上述の、進入センサ210として動作する映像センサ220によって得られた画像を使用して進入体を検出する方法のいずれかによって、進入体による進入を検出する。本実施形態の進入検出部102は、例えば、映像センサ220によって撮影された映像において、人である進入体の頭部を検出すればよい。そして、進入検出部102は、人の頭部が検出された場合に、進入体による進入を検出すればよい。進入検出部102は、人の頭部が検出される間、進入体による進入が継続していると判定すればよい。進入検出部102は、検出されていた人の頭部が検出されなくなった場合、進入体による進入が終了したと判定すればよい。
 次に、本変形例の物体管理装置1Aの動作について、図面を参照して詳細に説明する。
 本変形例の物体管理装置1Aは、図12に示すステップS104における、進入を検出する動作を除き、第1の実施形態の物体管理装置1と同じ動作を行う。
 第1の実施形態では、進入センサ210が人感センサである場合は、ステップS104において、進入検出部102は、人感センサによる検出の結果に基づいて、人である進入体(すなわち進入者)の進入を検出してもよい。しかし、本変形例では、映像センサ220が進入センサ210として動作する。そして、進入検出部102は、映像センサ220によって得られた画像を使用して進入体を検出する。以上の相違を除き、本変形例の物体管理装置1Aの動作は、第1の実施形態の物体管理装置1の動作と同じである。
 以上で説明した本実施形態には、第1の実施形態と同じ効果がある。その理由は、第1の実施形態の効果が生じる理由と同じである。
 本変形例には、さらにコストを削減できるという効果がある。その理由は、映像センサ220が進入センサ210として動作するからである。従って、映像センサ220とは別の進入センサ210が必要ない。
 <第2の実施形態>
 次に、上述した第1の実施形態に係る物体管理システム300を基本とする、本発明の第2の実施形態について説明する。以下では、本実施形態に係る特徴的な部分の中心に説明する。以下の説明において、上述した第1の実施形態に係る物体管理システム300と同様な構成についての説明は省略する。
 本実施形態では、進入体は、人である。物体が配置される空間は、トラックの荷台である。物体は、荷物である。
 図19は、本実施形態の物体管理システム300Bの構成の一例を表すブロック図である。
 本実施形態の物体管理システム300Bは、物体管理装置1ではなく物体管理装置1Bを含む。物体管理装置1Bは、物体管理装置1の構成に加えて、通知部110を含む。本実施形態の物体管理システム300Bの他の構成は、例えば、図1に示す物体管理システム300の構成と同じである。本実施形態の物体管理システム300Bの他の構成は、例えば、図18に示す、第1の実施形態の変形例の物体管理システム300Aの構成と同じであってもよい。図19に示す例は、物体管理システム300Bの構成は、通知部110を含むことを除き、図18に示す第1の実施形態の変形例の物体管理システム300Aと同じである。
 通知部110は、例えば、無線通信によって、通知サーバなどと通信できる。通知部110は、関連付けられている位置が物体記憶部108に格納されていない物体IDが物体ID入力部106を介して入力され、かつ、物体検出部105によって搬入物体が検出された場合、その通知サーバなどに通知を行う。通知部110は、例えば、物体ID入力部106を介して入力された、関連付けられている位置が物体記憶部108に格納されていない物体IDの通知を行えばよい。
 次に、本実施形態の物体管理装置1Bの動作について、図面を参照して詳細に説明する。
 図12は、本実施形態の物体管理装置1Bの動作全体の例を表すフローチャートである。図12に示すフローチャートにおける、本実施形態の物体管理装置1Bの動作は、ステップS110における物体登録処理を除き、第1の実施形態の物体管理装置1の動作と同じである。
 図20は、本実施形態の物体管理装置1Bの、物体登録処理の動作を表すフローチャートである。図20と図13とを比較すると、本実施形態の物体管理装置1Bは、図13に示す各ステップの動作に加えて、ステップS205の動作とステップS206の動作との間において、ステップS401の動作を行う。物体管理装置1Bのその他の動作は、図13に示す、第1の実施形態の物体管理装置1の動作と同じである。
 ステップS401において、通知部110は、ステップS205において特定された未登録物体IDを、例えば通知サーバなどに送信する。
 物体管理装置1Bは、図16に示す動作に加えて、図16のステップS205とステップS306の動作との間において、ステップS401の動作を行ってもよい。その場合の物体管理装置1Bのその他の動作は、図16に示す、第1の実施形態の物体管理装置1の動作と同じである。
 物体管理装置1Bは、さらに、ステップS208において持ち出された物体の位置が検出された場合(ステップS208においてYes)、受信した物体IDの中で、関連付けられている位置が物体記憶部108に格納されている物体IDを、上述の物体サーバなどに通知してもよい。
 以上で説明した本実施形態には、第1の実施形態と同じ効果がある。その理由は、第1の実施形態の効果が生じる理由と同じである。
 本実施形態では、さらに、例えば、配送中のトラックへの荷物の搬入が実際に行われたことを、例えば配送センター等のトラックから離れた場所において知ることができるという効果がある。その理由は、通知部110が、搬入物体が検出された場合に、例えば通知サーバなどに通知を行うからである。
 <第3の実施形態>
 次に、上述した第1の実施形態に係る物体管理システム300を基本とする、本発明の第3の実施形態について説明する。以下では、本実施形態に係る特徴的な部分の中心に説明する。以下の説明において、上述した第1の実施形態に係る物体管理システム300と同様な構成についての説明は省略する。
 図21は、本実施形態の物体管理システム300Cの構成の一例を表すブロック図である。物体管理システム300Cは、物体管理装置1ではなく物体管理装置1Cを含む。物体管理装置1Cは、物体管理装置1の構成に加えて、物体認識部111を含む。以上の相違を除き、本実施形態の物体管理システム300Cの構成は、第1の実施形態の物体管理システム300の構成と同じである。
 本実施形態では、物体は、その物体を特定することができる領域を備える。物体を特定することができる領域には、物体を識別することができる図形、文字、あるいは模様などが描かれている。以下の説明において物体を識別することができる図形、文字、あるいは模様などを「識別図形」と表記する。識別図形は、物体IDと一意に関連付けられる図形であればよい。識別図形から物体IDを導出することが可能であってもよい。その場合、識別図形は、例えば、2次元コード、3次元コード、あるいは、物体IDを表す文字列であってもよい。例えば、物体に、識別図形が描かれたラベルなどが貼付されていればよい。物体は、進入体によって、物体が配置される空間に搬入される。さらに、物体は、進入体によって、物体が配置される空間から搬出される。本実施形態では、進入体は、物体が配置される空間に搬入した物体を、映像センサ220がその物体の識別図形を撮影できるように設置する。識別図形は、識別図形の範囲を示す図形を含んでいてもよい。識別図形の範囲を示す図形は、例えば、識別図形の輪郭線である。識別図形の範囲を示す図形は、例えば、識別図形のそれぞれの角を表す図形であってもよい。
 本実施形態の進入センサ210は、例えば、人感センサである。進入センサ210は、ドア開閉センサであってもよい。本実施形態では、進入センサ210は、映像センサ220ではない。進入センサ210は、進入体による進入を検出する。進入センサ210は、進入体による進入が検出されない場合、進入が無いことを表す信号を進入データ入力部101に送信する。進入センサ210は、進入体による進入が検出されている場合、進入があることを表す信号を進入データ入力部101に送信する。進入センサ210が人感センサである場合、進入センサ210は、人が検出されている間、進入体による進入があることを表す信号を送信すればよい。進入センサ210は、人が検出されていない場合、進入体による進入が無いことを表す信号を送信すればよい。進入センサ210がドア開閉センサである場合、進入センサ210は、ドアが開いたことが検出された場合、進入体による進入があることを表す信号を送信すればよい。進入センサ210は、ドアが閉じていることが検出されている場合、進入体による進入が無いことを表す信号を送信すればよい。
 進入データ入力部101が、進入が無いことを表す信号を受信している間、本実施形態の物体管理装置1Cは、待機状態を保つ。待機状態では、映像センサ220は、撮影を行わない。そして、映像センサ220は、映像を映像入力部103に送信しない。進入データ入力部101と物体ID入力部106とを除く、物体管理装置1Cの構成要素と、出力装置240とは、休止状態において、動作を停止していればよい。
 進入データ入力部101が、進入があることを表す信号を受信した場合、物体管理装置1Cは、待機状態から動作状態になる。進入があることを表す信号を受信した場合、例えば、進入データ入力部101が、物体管理装置1Cの状態を、動作状態に変更すればよい。映像センサ220が待機状態である場合、物体管理装置1Cは、動作状態に遷移した後、映像センサ220を動作状態に遷移させる。例えば、映像入力部103が、映像センサ220に、例えば、状態を待機状態から動作状態に変更する指示を表す制御信号を送信することによって、映像センサ220の状態を動作状態に変更すればよい。動作状態にある映像センサ220は、撮影を行う。そして、映像センサ220は、撮影された映像を、映像入力部103に送信する。出力装置240が待機状態にある場合、物体管理装置1Cは、動作状態に遷移した後、出力装置240を動作状態に遷移させる。例えば、出力部109が、出力装置240に、状態を待機状態から動作状態に変更する指示を表す制御信号を送信することによって、出力装置240の状態を動作状態に変更すればよい。
 進入センサ210によって進入体による進入が検出された場合、すなわち、進入データ入力部101が、進入があることを表す信号を受信した場合、進入検出部102は、映像センサ220が撮影する映像において、人の頭部の検出を行う。進入検出部102は、例えば、第1の実施形態の説明において説明した、人の頭部の検出方法によって、人の頭部の検出を行えばよい。
 映像記憶部104には、進入前画像が記憶されている。映像記憶部104が記憶する進入前画像は、例えば、前回進入が検出された際に、人の頭が検出されなくなった時のフレームから、例えば所定フレーム後に撮影された画像であればよい。映像記憶部104が記憶する進入前画像は、前回進入が検出され、人の頭が検出された際に、進入後画像として使用された画像であってもよい。例えば進入検出部102が、進入前画像を映像記憶部104に格納すればよい。進入検出部102は、例えば、物体検出部105に格納されている映像における、進入前画像であるフレームのフレーム番号を、映像記憶部104に格納してもよい。物体管理装置1Cが動作を開始した後、まず、進入検出部102は、人の頭部の有無を検出してもよい。そして、進入検出部102は、人の頭が検出されない状態で撮影されたフレームを選択すればよい。進入検出部102は、選択されたフレームを、進入前画像として、映像記憶部104に格納してもよい。物体管理装置1Cが動作を開始した後、進入前画像として最初に映像記憶部104に格納されるフレームの選択方法は、任意でよい。進入検出部102は、例えば、連続するフレーム間における画素値の変化の大きさの総和が所定値以下である状態が所定時間以上継続した時のフレームを、進入前画像として選択してもよい。進入検出部102は、進入が検出され人の頭部が検出されるたびに、例えば進入後画像を次の進入前画像として映像記憶部104に格納することによって、進入前画像を更新してもよい。
 進入検出部102によって人の頭部が検出された場合、さらに、人の頭部が検出されない状態になった後、物体検出部105は、搬入物体及び搬出物体の位置の検出を行う。
 物体記憶部108には、物体IDに関連付けられた識別画像が、あらかじめ格納されていてもよい。識別画像は、例えば、前述の識別図形が撮影された画像であってもよい。
 図25は、物体記憶部108に格納される、物体IDに関連付けられた識別画像を模式的に表す図である。図25に示すテーブルにおける「識別画像」は、識別画像の画像識別子であるファイル名を表す。各物体IDに関連付けられている識別画像は、識別画像を特定できる画像識別子であるファイル名が付与された、画像ファイルとして、物体記憶部108に格納されていればよい。そして、識別画像の画像ファイルと物体IDとを関連付ける、例えば図25に示すテーブルが、物体記憶部108に格納されていればよい。図25に示す例では、同じテーブルに、物体が配置される場所に搬入された物体の、物体ID関連付けられた、搬入された時刻及び位置も記録されている。
 物体検出部105によって搬入物体の位置が検出された場合、物体認識部111は、例えば、進入後画像の、検出された搬入物体の位置において、識別図形の像を特定する。物体認識部111は、進入後画像、又は、後述されるように進入前画像において特定した識別図形の像に対して、歪み補正や、ノイズ除去などを行ってもよい。例えば、識別図形の形状が既知であれば、斜めから撮影された識別図形の像を正面から撮影された形に変換する歪み補正を行うことができる。物体認識部111は、特定した識別図形の像を使用して、検出された搬入物体の物体IDを特定する。物体認識部111は、例えば、特定した識別図形の像と、物体記憶部108に格納されている識別画像とを比較することによって、検出された搬入物体の識別図形と同じ識別図形の像を含む識別画像に関連付けられている物体IDを特定すればよい。物体認識部111は、例えばテンプレートマッチングを行うことによって、検出された搬入物体の識別図形と同じ識別図形の像を含む識別画像を特定すればよい。識別図形が、例えば、2次元コード、3次元コード、あるいは物体IDを表す文字列である場合、物体認識部111は、特定した識別図形の像から、物体IDを導出してもよい。識別図形が2次元コード又は3次元コードである場合、物体認識部111は、像を特定した識別図形をデコードすることによって、物体IDを導出すればよい。識別図形が物体IDを表す文字列である場合、物体認識部111は、特定した識別図形の像において文字認識を行うことによって、物体IDを認識すればよい。複数の搬入物体が検出された場合、物体認識部111は、それらの搬入物体の物体IDを個別に特定する。
 物体検出部105によって搬出物体の位置が特定された場合、物体認識部111は、例えば、進入前画像の、検出された搬出物体の位置において、識別図形の像を特定する。そして、物体認識部111は、上述の搬入物体の物体IDの特定方法と同様の方法によって、搬出物体の物体IDを特定すればよい。複数の搬出物体が検出された場合、物体認識部111は、それらの搬出物体の物体IDを個別に特定する。
 物体検出部105によって、搬入物体でも搬出物体でもない、移動した物体の位置が特定された場合、物体認識部111は、その移動した物体の物体IDを特定してもよい。移動した物体の物体IDの特定方法は、上述の搬入物体の物体IDの特定方法と同様である。
 物体認識部111は、例えば、物体ID入力部106に、特定した物体IDを送信してもよい。物体ID入力部106は、受信した物体IDを、例えば、物体登録部107に送信してもよい。
 次に、本実施形態の物体管理装置1Cの動作について、図面を参照して詳細に説明する。
 図22は、本実施形態の物体管理装置1Cの動作全体の例を表すフローチャートである。以下では、図12に示すフローチャートによって表される、第1の実施形態の物体管理装置1の動作との違いを中心に説明する。なお、図22に示すフローチャート及び図12に示すフローチャートにおいて、同じ符号が付与されているステップは、以下で説明する相違を除き、同じ動作を表す。
 本実施形態の物体管理装置1Cは、ステップS101の後、ステップS104及びステップS105の動作を行う。ただし、ステップS104における進入センサ210は、例えば、人感センサや、ドア開閉センサなどである。ステップS104における進入センサ210は、映像センサ220ではない。
 進入センサ210によって進入が検出された場合(ステップS105においてYes)、進入検出部102は、映像センサ220が撮影した映像を使用して、人の頭部を検出する(ステップS501)。人の頭部が検出された場合(ステップS502においてYes)、進入検出部102は、進入検出フラグがYesであるかNoであるかを判定する。進入検出フラグがYesである場合(ステップS106においてYes)、進入検出部102は、人の頭部の検出を継続する(ステップS501)。
 進入検出フラグがNoである場合(ステップS106においてNo)、物体登録部107は、ステップS101において受信した物体IDに位置が関連付けられているか否かを判定する(ステップS102)。受信した物体IDの中に、位置が関連付けられている物体IDが存在しない場合(ステップS102においてNo)、物体管理装置1Cは、次に、ステップS503の動作を行う。受信した物体IDに位置が関連付けられている場合(ステップS102においてYes)、出力部109は、受信した物体IDに関連付けられている位置を出力する(ステップS103)。次に、物体検出部105は、進入が検出される前の画像である画像Aを映像記憶部104から読み出す(ステップS503)。進入検出部102は、進入検出フラグをYesに設定した後(ステップS108)、人の頭部の検出を継続する(ステップS501)。
 人の頭部が検出されない場合(ステップS502においてNo)、進入検出部102は、進入検出フラグがYesであるかNoであるかを判定する(ステップS109)。進入検出フラグがNoである場合(ステップS109においてNo)、進入検出部102は、人の頭部の検出を継続する(ステップS501)。進入検出フラグがYesである場合(ステップS109においてYes)、物体管理装置1Cは、物体登録処理を行う(ステップS110)。本実施形態における物体登録処理については、後で詳細に説明する。例えば、ステップS110の後、進入検出部102は、例えば進入後画像(すなわち画像B)を次の進入前画像(すなわち画像A)として映像記憶部104に格納することによって、画像Aを更新してもよい。進入体あるいは物体管理システム300Cの管理者によって、動作の終了を指示する操作が行われた場合(ステップS111においてYes)、物体管理装置1Cは動作を終了する。動作の終了を指示する操作が行われない場合(ステップS111においてNo)、物体管理装置1Cは、図22に示す動作を、ステップS101から繰り返す。
 次に、本実施形態の物体管理装置1Cの、物体登録処理について、図面を参照して詳細に説明する。
 図23は、本実施形態の物体管理装置1Cの、物体登録処理の動作の例を表すフローチャートである。本実施形態の物体管理装置1Cの物体登録処理の動作は、以下で説明する相違を除き、図16に示すフローチャートによって表される、第1の実施形態の物体管理装置1の物体登録処理の動作と同じである。
 ステップS204において、持ち込まれた物体の位置が検出された場合(ステップS204においてYes)、物体認識部111は、画像Bに基づき、持ち込まれた物体の物体IDを特定する(ステップS505)。物体認識部111が物体IDを特定する方法は、例えば、上述の、認識図形を使用して物体IDを特定する方法のいずれかであればよい。ステップS505の動作の後、物体管理装置1Cは、ステップS306の動作を行う。
 ステップS208において、持ち出された物体の位置が検出された場合(ステップS208においてYes)、物体認識部111は、画像Aに基づき、持ち出された物体の物体IDを特定する(ステップS509)。ステップS505における動作と同様に、物体認識部111が物体IDを特定する方法は、例えば、上述の、認識図形を使用して物体IDを特定する方法のいずれかであればよい。ステップS509の動作の後、物体管理装置1Cは、ステップS309の動作を行う。
 なお、本実施形態の物体管理装置1Cは、以下で説明する相違を除き、図12に示すフローチャートによって表される、第1の実施形態の物体管理装置1の物体登録処理の動作と同じ動作を行ってもよい。物体管理装置1Cは、ステップS205の動作の代わりに、上述の、ステップS505の動作を行ってもよい。そして、物体管理装置1Cは、ステップS208において持ち出された物体の位置が検出された場合(ステップS208においてYes)、ステップS209の動作の前に、ステップS509の動作を行ってもよい。
 本実施形態の物体管理装置1Cの物体登録部107は、例えばステップS306において、物体ID入力装置230から未登録物体IDを受信してもよい。そして、物体認識部111によって特定された搬入物体の物体IDと、受信した未登録物体IDとを比較してもよい。そして、物体登録部107は、未登録物体IDの中で、搬入物体の物体IDとして特定されなかった物体IDである、未検出物体IDを特定してもよい。未登録物体IDが存在する場合、物体登録部107は、例えば、特定した搬入物体の位置と、その位置の像を含む可視光画像の進入後画像の領域である表示画像とを、未検出物体IDに関連付けてもよい。搬入物体の位置として特定される場所は、距離画像である進入前画像及び進入後画像を比較することによって上述のように特定された場所であればよい。
 以上で説明した本実施形態には、第1の実施形態と同じ効果がある。その理由は、第1の実施形態の効果が生じる理由と同じである。
 本実施形態には、負荷をさらに削減できるという第2の効果がある。その理由は、人感センサやドア開閉センサなどの進入センサ210によって進入が検出されてから、進入検出部102が画像に基づく人の頭部の検出を開始するからである。そのため、演算の負荷が削減される。演算の負荷が削減されることによって、消費電力がさらに削減される。
 本実施形態には、人の進入を検出する精度を向上させることができるという第3の効果がある。その理由は、人感センサやドア開閉センサなどの進入センサ210による進入の検出に加えて、進入検出部102が、撮影された映像において人の頭部を検出することによって、進入を検出するからである。
 本実施形態には、さらに、搬入される物体及び搬出される物体を特定する精度を向上させることができるという第4の効果がある。その理由は、その理由は、物体認識部111が、撮影された画像における物体の識別図形に基づき、搬入物体と搬出物体の物体IDを特定するからである。従って、物体ID入力装置230を介して入力された物体IDのみに基づき、搬出された物体及び搬入された物体を特定することと比較して、物体を特定する精度が向上する。
 <第3の実施形態の変形例>
 次に、第3の実施形態の変形例について、図面を参照して詳細に説明する。本変形例に係る物体管理システム300Cの構成は、図21に示す、第3の実施形態の物体管理システム300Cの構成と同じである。以下で説明する事項を除き、本変形例は第3の実施形態と同じである。
 本実施形態では、前述のように、物体は、全ての物体の識別図形が映像センサ220によって撮影されるように配置されていればよい。その場合、物体認識部111は、進入前画像及び進入後画像の、物体検出部105によって抽出された変化領域から、識別図形の像を抽出してもよい。物体認識部111は、さらに、抽出した全ての識別図形の像を使用して、その識別図形が描かれている物体の物体IDを特定する。物体認識部111は、進入前画像から抽出された識別図形の位置とその識別図形によって特定された物体IDとの組み合わせを、物体検出部105に送信すればよい。物体認識部111は、さらに、進入後画像から抽出された識別図形の位置とその識別図形によって特定された物体IDとの組み合わせを、物体検出部105に送信すればよい。
 物体検出部105は、進入前画像において特定された物体IDと、進入後画像において特定された物体IDとを比較することによって、搬出物体、搬入物体、及び移動した物体を特定してもよい。例えば、物体検出部105は、進入前画像において特定され、進入後画像において特定されない物体IDが、搬出物体の物体IDであると判定すればよい。さらに、物体検出部105は、進入前画像において特定されず、進入後画像において特定された物体IDが、搬入物体の物体IDであると判定すればよい。物体検出部105は、進入前画像及び進入後画像において特定され、かつ、進入前画像において識別図形が抽出された位置と進入後画像において識別図形が抽出された位置とが異なる物体IDが、移動物体の物体IDであると判定すればよい。物体検出部105は、さらに、物体IDが特定された識別図形の像の位置を、その物体IDによって表される物体の位置として検出すればよい。
 物体認識部111は、進入前画像及び進入後画像の変化領域ではなく、進入前画像及び進入後画像の全体から、識別図形を抽出してもよい。その場合、物体検出部105は、変化領域を抽出しなくてもよい。さらに、物体検出部105は、所定の方法で定められた、識別図形の像を含む領域を、その識別図形によって導かれる物体IDによって特定される物体の表示画像にすればよい。
 次に、本変形例の物体管理装置1Cの動作について、図面を参照して詳細に説明する。本変形例の物体管理装置1Cの動作は、ステップS110の物体登録処理を除き、図22に示すフローチャートによって表される、第3の実施形態の物体管理装置1Cの動作と同じである。
 図24は、本変形例の物体管理装置1Cの、物体登録処理の動作の例を表すフローチャートである。図23及び図24に示すフローチャートにおいて、同じ符号が付与されているステップの動作は、特に説明がない限り、同じである。
 ステップS202の後、物体認識部111は、画像A及び画像Bから、識別図形を抽出する(ステップS511)。前述のように、物体認識部111は、画像A及び画像Bの変化領域において、識別図形を抽出してもよい。物体認識部111は、画像A及び画像Bの全体において、識別図形を抽出してもよい。物体認識部111は、抽出された識別図形に対して、歪み補正やノイズ除去などを行ってもよい。物体認識部111は、抽出した識別図形によって、物体IDを特定する(ステップS512)。物体検出部105は、画像Aと画像Bとの間で、特定された物体IDを比較することによって、持ち込まれた物体と持ち出された物体とを検出する(ステップS513)。ステップS512において、物体検出部105は、識別図形が検出された位置を、その識別図形によって導かれる物体IDによって特定される図形の位置にする。
 持ち込まれた物体が検出されない場合(ステップS204においてNo)、物体管理装置1Cは、次に、ステップS208の動作を行う。持ち込まれた物体が検出された場合(ステップS204においてYes)、持ち込まれた物体の位置及び表示画像を、その持ち込まれた物体の物体IDに関連付ける(ステップS306)。表示画像は、画像Bにおける、持ち込まれた物体の像に含まれる、少なくとも識別図形の像を含んでいればよい。物体登録部107は、物体IDに関連付けられた、位置及び表示画像を、物体記憶部108に格納する(ステップS307)。
 持ち出された物体が検出された場合(ステップS208においてYes)、持ち出された物体の物体IDとして特定された物体IDに関連付けられている位置と表示画像とを、物体記憶部108から消去する(ステップS309)。
 可視光カメラ221は、例えば、物体管理装置1Cが送信する制御信号によって、撮影する方向や、焦点距離を変更することが可能なように実装されていてもよい。図3に示す、方向を制御できるレーザポインタや、図5に示す、方向を制御できるプロジェクタと同様に、可視光カメラ221も、例えばロボットアーム等の信号による制御が可能なアクチュエータを介して設置されていればよい。また、例えば、可視光カメラ221は、信号による制御が可能な、レンズの焦点距離を変更するモータなどを備えていればよい。そして、例えば、物体認識部111が、識別図形を検出した場合、可視光カメラ221が、認識図形として検出された領域を、より大きなサイズで撮影するよう、可視光カメラ221の方向及び焦点距離を制御してもよい。物体認識部111は、より大きなサイズで撮影された画像である、拡大画像において、識別図形として検出された領域において識別図形を検出してもよい。物体認識部111は、拡大画像において検出された識別図形を使用して、物体IDを特定してもよい。
 <第4の実施形態>
 次に、本発明の第4の実施形態について、図面を参照して詳細に説明する。本実施形態は、上述した各実施形態に共通する概念を表す実施形態である。
 図26は、本実施形態の物体管理装置1Dの構成の例を表すブロック図である。
 図26を参照すると、本実施形態の物体管理装置1Dは、進入検出部102と、物体検出部105と、物体登録部107と、を備える。進入検出部102は、所定の領域への進入体の進入を検出する。物体検出部105は、前記進入が検出されるのに応じて、前記進入が検出される前に映像センサ220が前記領域を撮影した画像と前記進入が検出された後に前記映像センサ220が前記領域を撮影した画像とを使用して、搬入物体の位置を検出する。搬入物体は、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である。物体登録部107は、検出された前記搬入物体の位置を物体記憶部108に格納する。
 以上で説明した本実施形態には、第1の実施形態と同じ効果がある。その理由は、第1の実施形態の効果が生じる理由と同じである。
 <他の実施形態>
 物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、及び物体管理装置1Dは、それぞれ、コンピュータ及びコンピュータを制御するプログラムによって実現することができる。物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、及び物体管理装置1Dは、専用のハードウェアによって実現することもできる。物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、及び物体管理装置1Dは、コンピュータ及びコンピュータを制御するプログラムと専用のハードウェアの組合せにより実現することもできる。
 図27は、物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、及び物体管理装置1Dを実現することができる、コンピュータ1000のハードウェア構成の一例を表す図である。図27を参照すると、コンピュータ1000は、プロセッサ1001と、メモリ1002と、記憶装置1003と、I/O(Input/Output)インタフェース1004とを含む。また、コンピュータ1000は、記録媒体1005にアクセスすることができる。メモリ1002と記憶装置1003は、例えば、RAM(Random Access Memory)、ハードディスクなどの記憶装置である。記録媒体1005は、例えば、RAM、ハードディスクなどの記憶装置、ROM(Read Only Memory)、可搬記録媒体である。記憶装置1003が記録媒体1005であってもよい。プロセッサ1001は、メモリ1002と、記憶装置1003に対して、データやプログラムの読み出しと書き込みを行うことができる。プロセッサ1001は、I/Oインタフェース1004を介して、例えば、進入センサ210、映像センサ220、可視光カメラ221、距離カメラ222、物体ID入力装置230、及び出力装置240などにアクセスすることができる。プロセッサ1001は、記録媒体1005にアクセスすることができる。記録媒体1005には、コンピュータ1000を、物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、又は物体管理装置1Dとして動作させるプログラムが格納されている。
 プロセッサ1001は、記録媒体1005に格納されている、コンピュータ1000を、物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、又は物体管理装置1Dとして動作させるプログラムを、メモリ1002にロードする。そして、プロセッサ1001が、メモリ1002にロードされたプログラムを実行することにより、コンピュータ1000は、物体管理装置1、物体管理装置1A、物体管理装置1B、物体管理装置1C、又は物体管理装置1Dとして動作する。
 第1グループに含まれる各部は、例えば、プログラムを記憶する記録媒体1005からメモリ1002に読み込まれた、各部の機能を実現することができる専用のプログラムと、そのプログラムを実行するプロセッサ1001により実現することができる。第1グループは、進入データ入力部101、進入検出部102、映像入力部103、物体検出部105、物体ID入力部106、物体登録部107、出力部109、通知部110、及び、物体認識部111である。また、第2グループに含まれる各部は、コンピュータ1000が含むメモリ1002やハードディスク装置等の記憶装置1003により実現することができる。第2グループは、映像記憶部104、及び、物体記憶部108である。あるいは、第1グループに含まれる部及び第2グループに含まれる部の一部又は全部を、各部の機能を実現する専用の回路によって実現することもできる。
 また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
 (付記1)
 所定の領域への進入体の進入を検出する進入検出手段と、
 前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、
 検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、
 を備える物体管理装置。
 (付記2)
 前記搬入物体の物体識別子を取得する物体ID入力手段を備え、
 前記物体登録手段は、検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する
 付記1に記載の物体管理装置。
 (付記3)
 前記物体記憶手段は、前記領域に配置されている前記物体の物体識別子に関連付けられた位置を記憶し、
 前記物体ID入力手段は、前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得し、
 前記物体管理装置は、
 取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する出力手段
 をさらに備える付記2に記載の物体管理装置。
 (付記4)
 前記出力手段は、前記領域の、取得された前記物体識別子の少なくともいずれかに関連付けられている前記位置から所定距離以内にある範囲に、前記位置を表す情報に応じた光を投影する
 付記3に記載の物体管理装置。
 (付記5)
 前記物体記憶手段は、さらに、前記領域に配置されている前記物体の物体識別子に関連付けられた、前記物体の位置の像を含む画像である表示画像を記憶し、
 前記出力手段は、前記範囲に、位置が検出された前記物体の物体IDに関連付けられている前記表示画像を光によって投影する
 付記3又は4に記載の物体管理装置。
 (付記6)
 前記物体登録手段は、前記進入が検出された後に前記映像センサが前記領域を撮影した前記画像の少なくとも一部である、検出された前記搬入物体の位置の像を含む画像を、検出された前記物体の物体識別子に関連付けて、前記表示画像として前記物体記憶手段に格納する
 付記5に記載の物体管理装置。
 (付記7)
 前記物体検出手段は、前記進入が検出された場合、さらに、前記進入が検出される前には前記領域に存在し、前記進入が検出された後に前記領域に存在しなくなった物体である搬出物体の位置を特定し、
 前記物体登録手段は、取得された前記物体識別子に物体の位置が関連付けられていない場合、検出された前記搬入物体の位置と、前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納し、さらに、前記搬出物体の位置が特定された場合、特定された前記搬出物体の位置を、前記物体記憶手段から消去する
 付記2乃至6のいずれかに記載の物体管理装置。
 (付記8)
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定する物体認識手段
 をさらに備える付記2乃至7のいずれかに記載の物体管理装置。
 (付記9)
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定し、前記進入が検出される前に前記映像センサが前記領域を撮影した画像における、検出された前記搬出物体の位置を含む領域に基づいて前記搬出物体の物体識別子を特定する物体認識手段
 をさらに備える付記7に記載の物体管理装置。
 (付記10)
 進入検出手段は、前記映像に含まれる特定の特徴を検出することによって、前記進入体の進入を検出する
 付記1乃至9のいずれかに記載の物体管理装置。
 (付記11)
 前記映像は、前記映像センサに含まれる可視光カメラによって撮影された可視光映像、及び、前記映像センサに含まれる距離カメラによって撮影された距離映像の、少なくともいずれか一方である
 付記1乃至10のいずれかに記載の物体管理装置。
 (付記12)
 付記1乃至11のいずれかに記載の物体管理装置と、
 前記映像センサと、
 を含む物体管理システム。
 (付記13)
 所定の領域への進入体の進入を検出し、
 前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出し、
 検出された前記搬入物体の位置を物体記憶手段に格納する
 物体管理方法。
 (付記14)
 前記搬入物体の物体識別子を取得し、
 検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する
 付記13に記載の物体管理方法。
 (付記15)
 前記領域に配置されている前記物体の物体識別子に関連付けられた位置を前記物体記憶手段に記憶し、
 前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得し、
 取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する
 付記14に記載の物体管理方法。
 (付記16)
 前記領域の、取得された前記物体識別子の少なくともいずれかに関連付けられている前記位置から所定距離以内にある範囲に、前記位置を表す情報に応じた光を投影する
 付記15に記載の物体管理方法。
 (付記17)
 さらに、前記領域に配置されている前記物体の物体識別子に関連付けられた、前記物体の位置の像を含む画像である表示画像を前記物体記憶手段に記憶し、
 前記範囲に、位置が検出された前記物体の物体IDに関連付けられている前記表示画像を光によって投影する
 付記15又は16に記載の物体管理方法。
 (付記18)
 前記進入が検出された後に前記映像センサが前記領域を撮影した前記画像の少なくとも一部である、検出された前記搬入物体の位置の像を含む画像を、検出された前記物体の物体識別子に関連付けて、前記表示画像として前記物体記憶手段に格納する
 付記17に記載の物体管理方法。
 (付記19)
 前記進入が検出された場合、さらに、前記進入が検出される前には前記領域に存在し、前記進入が検出された後に前記領域に存在しなくなった物体である搬出物体の位置を特定し、
 取得された前記物体識別子に物体の位置が関連付けられていない場合、検出された前記搬入物体の位置と、前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納し、さらに、前記搬出物体の位置が特定された場合、特定された前記搬出物体の位置を、前記物体記憶手段から消去する
 付記14乃至18のいずれかに記載の物体管理方法。
 (付記20)
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定する
 付記14乃至19のいずれかに記載の物体管理方法。
 (付記21)
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定し、前記進入が検出される前に前記映像センサが前記領域を撮影した画像における、検出された前記搬出物体の位置を含む領域に基づいて前記搬出物体の物体識別子を特定する
 付記19に記載の物体管理方法。
 (付記22)
 前記映像に含まれる特定の特徴を検出することによって、前記進入体の進入を検出する
 付記13乃至21のいずれかに記載の物体管理方法。
 (付記23)
 前記映像は、前記映像センサに含まれる可視光カメラによって撮影された可視光映像、及び、前記映像センサに含まれる距離カメラによって撮影された距離映像の、少なくともいずれか一方である
 付記13乃至22のいずれかに記載の物体管理方法。
 (付記24)
 コンピュータを、
 所定の領域への進入体の進入を検出する進入検出手段と、
 前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、
 検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、
 して動作させる物体管理プログラム。
 (付記25)
 コンピュータを、
 前記搬入物体の物体識別子を取得する物体ID入力手段と、
 検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する前記物体登録手段と、
 して動作させる付記24に記載の物体管理プログラム。
 (付記26)
 コンピュータを、
 前記領域に配置されている前記物体の物体識別子に関連付けられた位置を記憶する前記物体記憶手段と、
 前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得する前記物体ID入力手段と、
 取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する出力手段と、
 して動作させる付記25に記載の物体管理プログラム。
 (付記27)
 前記出力手段は、前記領域の、取得された前記物体識別子の少なくともいずれかに関連付けられている前記位置から所定距離以内にある範囲に、前記位置を表す情報に応じた光を投影する
 付記26に記載の物体管理プログラム。
 (付記28)
 前記物体記憶手段は、さらに、前記領域に配置されている前記物体の物体識別子に関連付けられた、前記物体の位置の像を含む画像である表示画像を記憶し、
 前記出力手段は、前記範囲に、位置が検出された前記物体の物体IDに関連付けられている前記表示画像を光によって投影する
 付記26又は27に記載の物体管理プログラム。
 (付記29)
 前記物体登録手段は、前記進入が検出された後に前記映像センサが前記領域を撮影した前記画像の少なくとも一部である、検出された前記搬入物体の位置の像を含む画像を、検出された前記物体の物体識別子に関連付けて、前記表示画像として前記物体記憶手段に格納する
 付記28に記載の物体管理プログラム。
 (付記30)
 前記物体検出手段は、前記進入が検出された場合、さらに、前記進入が検出される前には前記領域に存在し、前記進入が検出された後に前記領域に存在しなくなった物体である搬出物体の位置を特定し、
 前記物体登録手段は、取得された前記物体識別子に物体の位置が関連付けられていない場合、検出された前記搬入物体の位置と、前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納し、さらに、前記搬出物体の位置が特定された場合、特定された前記搬出物体の位置を、前記物体記憶手段から消去する
 付記25乃至29のいずれかに記載の物体管理プログラム。
 (付記31)
 コンピュータを、
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定する物体認識手段と、
 して動作させる付記25乃至30のいずれかに記載の物体管理プログラム。
 (付記32)
 コンピュータを、
 前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定し、前記進入が検出される前に前記映像センサが前記領域を撮影した画像における、検出された前記搬出物体の位置を含む領域に基づいて前記搬出物体の物体識別子を特定する物体認識手段と、
 して動作させる付記30に記載の物体管理プログラム。
 (付記33)
 コンピュータを、
 進入検出手段は、前記映像に含まれる特定の特徴を検出することによって、前記進入体の進入を検出する
 付記24乃至32のいずれかに記載の物体管理プログラム。
 (付記34)
 前記映像は、前記映像センサに含まれる可視光カメラによって撮影された可視光映像、及び、前記映像センサに含まれる距離カメラによって撮影された距離映像の、少なくともいずれか一方である
 付記24乃至33のいずれかに記載の物体管理プログラム。
 以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
 この出願は、2014年6月16日に出願された日本出願特願2014-123037を基礎とする優先権を主張し、その開示の全てをここに取り込む。
 1  物体管理装置
 1A  物体管理装置
 1B  物体管理装置
 1C  物体管理装置
 1D  物体管理装置
 101  進入データ入力部
 102  進入検出部
 103  映像入力部
 104  映像記憶部
 105  物体検出部
 106  物体ID入力部
 107  物体登録部
 108  物体記憶部
 109  出力部
 110  通知部
 111  物体認識部
 210  進入センサ
 220  映像センサ
 221  可視光カメラ
 222  距離カメラ
 230  物体ID入力装置
 240  出力装置
 300  物体管理システム
 300A  物体管理システム
 300B  物体管理システム
 300C  物体管理システム
 1000  コンピュータ
 1001  プロセッサ
 1002  メモリ
 1003  記憶装置
 1004  I/Oインタフェース
 1005  記録媒体

Claims (18)

  1.  所定の領域への進入体の進入を検出する進入検出手段と、
     前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、
     検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、
     を備える物体管理装置。
  2.  前記搬入物体の物体識別子を取得する物体ID入力手段を備え、
     前記物体登録手段は、検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する
     請求項1に記載の物体管理装置。
  3.  前記物体記憶手段は、前記領域に配置されている前記物体の物体識別子に関連付けられた位置を記憶し、
     前記物体ID入力手段は、前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得し、
     前記物体管理装置は、
     取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する出力手段
     をさらに備える請求項2に記載の物体管理装置。
  4.  前記出力手段は、前記領域の、取得された前記物体識別子の少なくともいずれかに関連付けられている前記位置から所定距離以内にある範囲に、前記位置を表す情報に応じた光を投影する
     請求項3に記載の物体管理装置。
  5.  前記物体記憶手段は、さらに、前記領域に配置されている前記物体の物体識別子に関連付けられた、前記物体の位置の像を含む画像である表示画像を記憶し、
     前記出力手段は、前記範囲に、位置が検出された前記物体の物体IDに関連付けられている前記表示画像を光によって投影する
     請求項3又は4に記載の物体管理装置。
  6.  前記物体登録手段は、前記進入が検出された後に前記映像センサが前記領域を撮影した前記画像の少なくとも一部である、検出された前記搬入物体の位置の像を含む画像を、検出された前記物体の物体識別子に関連付けて、前記表示画像として前記物体記憶手段に格納する
     請求項5に記載の物体管理装置。
  7.  前記物体検出手段は、前記進入が検出された場合、さらに、前記進入が検出される前には前記領域に存在し、前記進入が検出された後に前記領域に存在しなくなった物体である搬出物体の位置を特定し、
     前記物体登録手段は、取得された前記物体識別子に物体の位置が関連付けられていない場合、検出された前記搬入物体の位置と、前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納し、さらに、前記搬出物体の位置が特定された場合、特定された前記搬出物体の位置を、前記物体記憶手段から消去する
     請求項2乃至6のいずれかに記載の物体管理装置。
  8.  前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定する物体認識手段
     をさらに備える請求項2乃至7のいずれかに記載の物体管理装置。
  9.  前記進入が検出された後に前記映像センサが前記領域を撮影した画像における、検出された前記搬入物体の位置を含む領域に基づいて前記搬入物体の物体識別子を特定し、前記進入が検出される前に前記映像センサが前記領域を撮影した画像における、検出された前記搬出物体の位置を含む領域に基づいて前記搬出物体の物体識別子を特定する物体認識手段
     をさらに備える請求項7に記載の物体管理装置。
  10.  進入検出手段は、前記映像に含まれる特定の特徴を検出することによって、前記進入体の進入を検出する
     請求項1乃至9のいずれかに記載の物体管理装置。
  11.  前記映像は、前記映像センサに含まれる可視光カメラによって撮影された可視光映像、及び、前記映像センサに含まれる距離カメラによって撮影された距離映像の、少なくともいずれか一方である
     請求項1乃至10のいずれかに記載の物体管理装置。
  12.  請求項1乃至11のいずれかに記載の物体管理装置と、
     前記映像センサと、
     を含む物体管理システム。
  13.  所定の領域への進入体の進入を検出し、
     前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出し、
     検出された前記搬入物体の位置を物体記憶手段に格納する
     物体管理方法。
  14.  前記搬入物体の物体識別子を取得し、
     検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する
     請求項13に記載の物体管理方法。
  15.  前記領域に配置されている前記物体の物体識別子に関連付けられた位置を前記物体記憶手段に記憶し、
     前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得し、
     取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する
     請求項14に記載の物体管理方法。
  16.  コンピュータを、
     所定の領域への進入体の進入を検出する進入検出手段と、
     前記進入が検出されるのに応じて、前記進入が検出される前に映像センサが前記領域を撮影した画像と前記進入が検出された後に前記映像センサが前記領域を撮影した画像とを使用して、前記進入が検出される前には前記領域に存在せず、前記進入が検出された後に前記領域に存在している物体である搬入物体の位置を検出する物体検出手段と、
     検出された前記搬入物体の位置を物体記憶手段に格納する物体登録手段と、
     して動作させる物体管理プログラムを記憶する記録媒体。
  17.  コンピュータを、さらに、
     前記搬入物体の物体識別子を取得する物体ID入力手段と、
     検出された前記搬入物体の位置と取得された前記物体識別子とを、互いに関連付けて前記物体記憶手段に格納する前記物体登録手段と、
     して動作させる前記物体管理プログラムを記憶する請求項16に記載の記録媒体。
  18.  コンピュータを、さらに、
     前記領域に配置されている前記物体の物体識別子に関連付けられた位置を記憶する前記物体記憶手段と、
     前記搬入物体、及び、前記領域に配置されている前記物体の少なくともいずれかの物体識別子を取得する前記物体ID入力手段と、
     取得された前記物体識別子に位置が関連付けられている場合、当該位置を表す情報を出力する出力手段と、
     して動作させる前記物体管理プログラムを記憶する請求項17に記載の記録媒体。
PCT/JP2015/002843 2014-06-16 2015-06-05 物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体 WO2015194118A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014-123037 2014-06-16
JP2014123037 2014-06-16

Publications (1)

Publication Number Publication Date
WO2015194118A1 true WO2015194118A1 (ja) 2015-12-23

Family

ID=54935129

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2015/002843 WO2015194118A1 (ja) 2014-06-16 2015-06-05 物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体

Country Status (1)

Country Link
WO (1) WO2015194118A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018124168A1 (ja) * 2016-12-27 2018-07-05 株式会社Space2020 画像処理システムと画像処理装置と画像処理方法と画像処理プログラム
WO2020061725A1 (en) * 2018-09-25 2020-04-02 Shenzhen Dorabot Robotics Co., Ltd. Method and system of detecting and tracking objects in a workspace
SE1951257A1 (en) * 2019-11-04 2021-05-05 Assa Abloy Ab Detecting people using a people detector provided by a doorway
WO2022202564A1 (ja) * 2021-03-24 2022-09-29 いすゞ自動車株式会社 検知装置および積載率推定システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH057363A (ja) * 1991-06-27 1993-01-14 Toshiba Corp 画像監視装置
JP2009100256A (ja) * 2007-10-17 2009-05-07 Hitachi Kokusai Electric Inc 物体検知装置
US20120183177A1 (en) * 2011-01-17 2012-07-19 Postech Academy-Industry Foundation Image surveillance system and method of detecting whether object is left behind or taken away

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH057363A (ja) * 1991-06-27 1993-01-14 Toshiba Corp 画像監視装置
JP2009100256A (ja) * 2007-10-17 2009-05-07 Hitachi Kokusai Electric Inc 物体検知装置
US20120183177A1 (en) * 2011-01-17 2012-07-19 Postech Academy-Industry Foundation Image surveillance system and method of detecting whether object is left behind or taken away

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018124168A1 (ja) * 2016-12-27 2018-07-05 株式会社Space2020 画像処理システムと画像処理装置と画像処理方法と画像処理プログラム
JPWO2018124168A1 (ja) * 2016-12-27 2019-10-31 株式会社Space2020 画像処理システムと画像処理装置と画像処理方法と画像処理プログラム
WO2020061725A1 (en) * 2018-09-25 2020-04-02 Shenzhen Dorabot Robotics Co., Ltd. Method and system of detecting and tracking objects in a workspace
SE1951257A1 (en) * 2019-11-04 2021-05-05 Assa Abloy Ab Detecting people using a people detector provided by a doorway
SE544624C2 (en) * 2019-11-04 2022-09-27 Assa Abloy Ab Setting a people sensor in a power save mode based on a closed signal indicating that a door of a doorway is closed
WO2022202564A1 (ja) * 2021-03-24 2022-09-29 いすゞ自動車株式会社 検知装置および積載率推定システム
JP2022148167A (ja) * 2021-03-24 2022-10-06 いすゞ自動車株式会社 検知装置および積載率推定システム
JP7342907B2 (ja) 2021-03-24 2023-09-12 いすゞ自動車株式会社 検知装置および積載率推定システム

Similar Documents

Publication Publication Date Title
US12008513B2 (en) System and method of object tracking using weight confirmation
US11049278B2 (en) System and method for visual identification, and system and method for classifying and sorting
US7362219B2 (en) Information acquisition apparatus
JP2022036143A (ja) 物体追跡システム、物体追跡装置、および物体追跡方法
WO2015194118A1 (ja) 物体管理装置、物体管理方法及び物体管理プログラムを記憶する記録媒体
US10742935B2 (en) Video surveillance system with aerial camera device
US20210185987A1 (en) Rearing place management device and method
US20180114420A1 (en) Parcel Delivery Assistance and Parcel Theft Deterrence for Audio/Video Recording and Communication Devices
US20200145623A1 (en) Method and System for Initiating a Video Stream
US20180082554A1 (en) Parcel Theft Deterrence for Wireless Audio/Video Recording and Communication Devices
WO2021065413A1 (ja) 物体認識装置、物体認識システムおよび物体認識方法
JP2016222371A (ja) 情報処理装置、情報処理方法、プログラム、及びフォークリフト
CN111295683A (zh) 基于增强现实的包裹查找辅助系统
WO2020244592A1 (zh) 物品取放检测系统、方法及装置
US20170200044A1 (en) Apparatus and method for providing surveillance image based on depth image
US11501244B1 (en) Package tracking systems and methods
US11250578B2 (en) Projection indication device, parcel sorting system, and projection indication method
JP2006040035A (ja) 情報取得装置及び撮影画像中の撮影対象物の位置を判別する判別方法、撮影画像中の撮影対象物を特定する対象物特定方法
US20210064876A1 (en) Output control apparatus, display control system, and output control method
US11666948B2 (en) Projection instruction device, parcel sorting system, and projection instruction method
JP2012198802A (ja) 侵入物検出システム
JP2013106238A (ja) マーカの検出および追跡装置
KR20180049470A (ko) 대형 재난 현장 대응을 위한 nfc 태그 환자 식별띠 및 비콘을 이용한 응급 이송 관리 스마트 시스템
JPWO2020090897A1 (ja) 位置検出装置、位置検出システム、遠隔制御装置、遠隔制御システム、位置検出方法、及びプログラム
WO2022107000A1 (en) Automated tracking of inventory items for order fulfilment and replenishment

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15810562

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15810562

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP