WO2020105669A1 - 体積計測装置、システム、方法、及びプログラム - Google Patents

体積計測装置、システム、方法、及びプログラム

Info

Publication number
WO2020105669A1
WO2020105669A1 PCT/JP2019/045391 JP2019045391W WO2020105669A1 WO 2020105669 A1 WO2020105669 A1 WO 2020105669A1 JP 2019045391 W JP2019045391 W JP 2019045391W WO 2020105669 A1 WO2020105669 A1 WO 2020105669A1
Authority
WO
WIPO (PCT)
Prior art keywords
raw material
volume
mountain
point cloud
material mountain
Prior art date
Application number
PCT/JP2019/045391
Other languages
English (en)
French (fr)
Inventor
大輝 横田
真則 高岡
青木 教之
研二 河野
Original Assignee
日本電気通信システム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気通信システム株式会社 filed Critical 日本電気通信システム株式会社
Priority to US17/417,317 priority Critical patent/US20220252443A1/en
Priority to SG11202104860WA priority patent/SG11202104860WA/en
Priority to CN201980076211.4A priority patent/CN113167569B/zh
Priority to JP2020557587A priority patent/JP7103690B2/ja
Publication of WO2020105669A1 publication Critical patent/WO2020105669A1/ja
Priority to PH12021551120A priority patent/PH12021551120A1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/22Measuring arrangements characterised by the use of optical techniques for measuring depth
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01FMEASURING VOLUME, VOLUME FLOW, MASS FLOW OR LIQUID LEVEL; METERING BY VOLUME
    • G01F22/00Methods or apparatus for measuring volume of fluids or fluent solid material, not otherwise provided for
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Definitions

  • the present invention is based on the priority claim of Japanese Patent Application: Japanese Patent Application No. 2018-218148 (filed on November 21, 2018), and the entire description of the application is incorporated by reference in this document. I shall.
  • the present invention relates to a volume measuring device, system, method, and program for measuring the volume of a raw material pile in a raw material yard.
  • FIG. 17 is an image diagram when the raw material yard 10 surrounded by the walls 12 on three sides is viewed from above. Each raw material pile 11 on which the raw material is deposited is surrounded by walls 12 on three sides. Due to the operation of the factory, the remaining amount of raw materials changes every moment. At present, the workers often manage the remaining amount of the raw material visually.
  • a depth sensor depth measuring sensor
  • a depth sensor such as a laser scanner, a 2D (2-Dimensions) laser rangefinder, and a stereo camera is attached to a yard machine such as a stacker or a reclaimer to measure the shape of the raw material pile. ing.
  • a plurality of depth sensors are used because the measurement target is photographed from a plurality of viewpoints to acquire three-dimensional data and perform measurement.
  • JP, 2010-286436 A JP, 2011-157187, A JP 2012-193030 A JP, 2016-61674, A
  • a main object of the present invention is to provide a volume measuring device, system, method, and program that can contribute to measuring the volume of a raw material mountain at low cost and efficiently without affecting the operation of a factory. It is to be.
  • a volume measuring device includes a point cloud conversion unit that converts depth information regarding a raw material yard from a depth sensor that captures a raw material yard having raw material mountains into point cloud data regarding the raw material yard, and the raw material.
  • a point cloud conversion unit that converts depth information regarding a raw material yard from a depth sensor that captures a raw material yard having raw material mountains into point cloud data regarding the raw material yard, and the raw material.
  • the volume of the raw material mountain non-occlusion part that can be photographed from the depth sensor in the raw material mountain is calculated, and the volume of the raw material mountain occlusion portion that cannot be photographed from the depth sensor in the raw material mountain is calculated using at least the point cloud related to the raw material mountain.
  • the calculated volume of the raw material mountain non-occlusion portion, and a raw material mountain volume calculation unit that calculates the volume of the raw material mountain that is the sum of the estimated volumes of the raw material mountain occlusion portion, ..
  • the volume measuring system includes a depth sensor that captures an image of a raw material yard having raw material mountains, and a volume measuring device according to the first aspect.
  • a volume measuring method includes a step of converting depth information relating to the raw material yard from a depth sensor that photographs a raw material yard having raw material mountains into point cloud data relating to the raw material yard, and a rest of the raw material mountains. Detecting the point cloud related to the raw material mountain from the point cloud data related to the raw material yard using the angle of repose related to the raw material yard, and the depth sensor in the raw material mountain based on the point cloud related to the raw material mountain Calculate the volume of the non-occlusion part of the raw material mountain that can be photographed from, using at least the point cloud related to the raw material mountain, estimate the volume of the raw material mountain occlusion part that cannot be photographed from the depth sensor in the raw material mountain, and it is calculated. And calculating a volume of the raw material mountain that is the sum of the volume of the raw material mountain non-occlusion portion and the estimated volume of the raw material mountain occlusion portion.
  • a program according to a fourth aspect is a process of converting depth information relating to the raw material yard from a depth sensor that photographs a raw material yard having raw material mountains into point cloud data relating to the raw material yard, and a repose angle of the raw material mountain.
  • a process of detecting a point cloud related to the raw material mountain from the point cloud data related to the raw material yard using the angle of repose information, and an image taken from the depth sensor in the raw material mountain based on the point cloud related to the raw material mountain Calculate the volume of possible raw material mountain non-occlusion part, by using at least the point cloud related to the raw material mountain, to estimate the volume of the raw material mountain occlusion part that can not be photographed from the depth sensor in the raw material mountain, the calculated A hardware resource is caused to execute a process of calculating the volume of the raw material mountain that is the sum of the volume of the raw material mountain non-occlusion portion and the estimated volume of the raw material mountain occlusion portion.
  • the above program can be recorded in a computer-readable storage medium.
  • the storage medium in which the program is stored can be a non-transient one such as a semiconductor memory, a hard disk, a magnetic recording medium, an optical recording medium, or the like.
  • the present disclosure may be embodied as a computer program product.
  • the program is input to the computer device from an input device or an external device through a communication interface, stored in a storage device, and drives a processor in accordance with predetermined steps or processes. If necessary, the processing result including an intermediate state can be obtained step by step. Can be displayed via a display device, or can communicate with the outside via a communication interface.
  • a computer device therefor includes a processor, a storage device, an input device, a communication interface, and optionally a display device, which are typically connectable to each other by a bus.
  • FIG. 1 is a block diagram schematically showing a configuration of a volume measuring system according to a first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of a state in which the imaging device in the volume measuring system according to the first embodiment is arranged in a raw material yard.
  • FIG. 3 is a flowchart diagram schematically showing the operation of the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of point cloud data related to a raw material yard viewed from a photographing position of a photographing device in the volume measuring system according to the first embodiment.
  • FIG. 6 is an image diagram schematically showing another example of point cloud data relating to a raw material yard as seen from a photographing position of a photographing device in the volume measuring system according to the first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of point cloud data in a state where an obstacle is present in a raw material yard viewed from a photographing position of a photographing device in the volume measuring system according to the first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of a point cloud in a state in which an obstacle has been removed from a raw material yard viewed from a photographing position of a photographing device in the volume measuring system according to the first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of a point cloud in a state in which an obstacle has been removed from a raw material yard viewed from a photographing position of a photographing device in the volume measuring system according to the first embodiment.
  • FIG. 3 is an image diagram schematically showing an example of a state in which the raw material yard imaged by the imaging device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 3 is an image diagram schematically showing an example of a state in which the convex hull created by the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 5 is an image diagram schematically showing an example of one tetrahedron extracted from the convex hull created by the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment.
  • FIG. 6 is an image diagram schematically showing another example of a state in which the raw material yard photographed by the photographing device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 6 is an image diagram when another raw material mountain non-occlusion part is cropped in another example of the raw material yard being photographed by the photographing device in the volume measuring system according to the first embodiment as viewed from the side.
  • FIG. 6 is an image diagram schematically showing another example of a state in which the image capturing device in the volume measuring system according to the first embodiment is arranged in the raw material yard.
  • It is a block diagram which showed typically the structure of the volume measurement system which concerns on Embodiment 2.
  • the volume measuring device may include a raw material mountain detection unit that detects a point cloud related to the raw material mountain from the point cloud data related to the raw material yard by using angle of repose information related to the angle of repose of the raw material mountain. is there.
  • the volume measuring device calculates the volume of a raw material mountain non-occlusion part that can be photographed from the depth sensor in the raw material mountain based on the point cloud of the raw material mountain, and uses at least the point cloud of the raw material mountain.
  • the volume of the raw material mountain occlusion part that cannot be photographed from the depth sensor in the raw material mountain is estimated, and the calculated volume of the raw material mountain non-occlusion part, and the estimated volume of the raw material mountain occlusion part It is possible to provide a raw material mountain volume calculation unit that calculates the volume of the raw material mountain.
  • the volume measuring device may further include an acquisition unit that acquires the depth information on the raw material yard from the depth sensor.
  • the point cloud conversion unit when converting into the point cloud data related to the raw material yard, converting the depth information related to the raw material yard acquired by the acquisition unit into point cloud data related to the raw material yard.
  • the volume measuring device may further include a repose angle storage unit that stores repose angle information for rainy weather and repose angle information for non-rainy weather.
  • the raw material pile detection unit when detecting the point cloud relating to the raw material pile, confirms whether or not a rain sensor that detects rainfall in the raw material yard detects rain, and the rain sensor detects rainfall.
  • the angle of repose information for rainy weather is read from the angle of repose storage unit when detecting, and the angle of repose information for non-rainy weather is read from the angle of repose storage unit when the rain sensor does not detect rainfall.
  • the point cloud related to the raw material mountain can be detected from the point cloud data related to the raw material yard by using the read-out rain angle of repose information or the read non-rainy angle of repose information. ..
  • the raw material pile detection unit when detecting the point cloud related to the raw material pile, measures angle of repose information using image data from a camera, and uses the measured angle of repose to measure the raw material yard.
  • the point cloud related to the raw material mountain can be detected from the point cloud data related to.
  • the raw material pile detection unit when measuring the angle of repose information, creates a model in which the texture of the surface of the raw material pile is learned by deep learning from the image data, and uses the created model to create the model.
  • the coordinates of the raw material pile can be detected, and the angle of repose information can be measured from the depth information relating to the raw material yard at the coordinates of the detected raw material pile. Further, the raw material pile detection unit further confirms, in the point cloud data relating to the raw material yard, whether or not there is a point cloud relating to an obstacle existing between the raw material pile and the depth sensor, and When there is the point cloud related to the obstacle, the point cloud related to the obstacle is removed from the detected point cloud related to the raw material mountain, and the obstacle related to the obstacle in the point cloud related to the raw material mountain. It is possible to interpolate the point cloud related to the defective portion formed by removing the point cloud.
  • the raw material mountain volume calculation unit when calculating the volume of the raw material mountain non-occlusion portion, to the point cloud related to the raw material mountain obtained by interpolating the point group related to the defective portion in the raw material mountain detection unit. Based on this, it is possible to calculate the volume of the non-occlusion part of the raw material mountain. Further, when the raw material mountain detection unit interpolates the point group related to the defective portion, the raw material mountain detection unit can interpolate the point group related to the defective portion using an image interpolation method. In addition, when calculating the volume of the raw material mountain non-occlusion portion, the raw material mountain volume calculation unit detects the raw material mountain detection unit when the raw material mountain detection unit does not have the point cloud related to the obstacle.
  • the raw material mountain volume calculation unit when calculating the volume of the raw material mountain non-occlusion portion, based on the point cloud related to the raw material mountain, to create a convex hull composed of a plurality of tetrahedra, By calculating the sum of the respective volumes of the plurality of tetrahedra, the volume of the entire convex hull is calculated, and the calculated volume of the entire convex hull may be the volume of the raw material mountain non-occlusion part. it can.
  • the volume measuring device may further include a wall position storage unit that stores wall position information related to the position of the wall in the raw material yard.
  • the raw material mountain volume calculation unit when estimating the volume of the raw material mountain occlusion section, by using the point cloud related to the raw material mountain, to check whether there is a wall in the raw material yard, When there is a wall, the wall position information may be read from the wall position storage unit, and the volume of the raw material mountain occlusion unit may be estimated using the point cloud related to the raw material mountain and the wall position information. it can.
  • the raw material mountain volume calculation unit when estimating the volume of the raw material mountain occlusion part, a portion corresponding to the distance between the apex of the raw material mountain and the wall from the point cloud relating to the raw material mountain.
  • a convex hull composed of a plurality of tetrahedrons based on the point group relating to the cut-out portion, and by calculating the sum of the respective volumes of the plurality of tetrahedrons, the convex hull The total volume may be calculated, and the calculated total volume of the convex hull may be the volume of the raw material mountain occlusion part.
  • the raw material mountain volume calculation unit uses the point cloud related to the raw material mountain to calculate the volume of the raw material mountain occlusion portion when there is no wall. Can be estimated.
  • the volume measuring system according to the mode 2 it is possible to include a depth sensor for photographing the raw material yard having the raw material mountain and the volume measuring device according to the mode 1.
  • the volume measurement method according to Mode 3 may include a step of converting depth information regarding the raw material yard from a depth sensor that captures a raw material yard having raw material mountains into point cloud data regarding the raw material yard. .. Further, the volume measuring method may include a step of detecting a point cloud related to the raw material mountain from the point cloud data related to the raw material yard by using angle of repose information related to a repose angle of the raw material mountain. Further, the volume measuring method calculates the volume of the raw material mountain non-occlusion part which can be photographed from the depth sensor in the raw material mountain based on the point cloud of the raw material mountain, and at least the point cloud of the raw material mountain.
  • the step of calculating the total volume of the raw material piles can be included.
  • a hardware resource is caused to execute a process of converting depth information regarding a raw material yard from a depth sensor that photographs a raw material yard having raw material mountains into point cloud data regarding the raw material yard. be able to. Further, the program causes a hardware resource to execute a process of detecting a point cloud related to the raw material mountain from the point cloud data related to the raw material yard by using angle of repose information related to the angle of repose of the raw material mountain. it can. Further, the program calculates the volume of the raw material mountain non-occlusion part that can be photographed from the depth sensor in the raw material mountain based on the point cloud of the raw material mountain, and uses at least the point cloud of the raw material mountain.
  • the volume of the raw material mountain occlusion part that cannot be photographed from the depth sensor in the raw material mountain is estimated, and the calculated volume of the raw material mountain non-occlusion part, and the estimated volume of the raw material mountain occlusion part
  • the processing for calculating the volume of the raw material pile can be executed by the hardware resource.
  • the program is executed via a computer device, and the computer device includes, for example, a processor, a storage device, an input device, a communication interface, and a display device as necessary, and the computer device is in the device via a communication interface or It is configured to be able to communicate with an external device (including a computer), whether wired or wireless.
  • the computer device includes, for example, a processor, a storage device, an input device, a communication interface, and a display device as necessary, and the computer device is in the device via a communication interface or It is configured to be able to communicate with an external device (including a computer), whether wired or wireless.
  • FIG. 1 is a block diagram schematically showing the configuration of the volume measuring system according to the first embodiment.
  • FIG. 2 is an image diagram schematically showing an example of a state in which the imaging device in the volume measuring system according to the first embodiment is arranged in the raw material yard.
  • the volume measuring system 1 is a system for measuring the volume of the raw material pile (11 in FIG. 2) in the raw material yard (10 in FIG. 2) (see FIG. 1).
  • the volume measuring system 1 includes a volume measuring device 100 and a photographing device 200.
  • each raw material yard 10 there are two raw material yards 10 in Fig. 2, but the number is not limited to this.
  • the raw material mountain 11 is arranged on the ground surface 14, and the raw material mountain 11 is surrounded on three sides by a wall 12 grounded on the ground surface 14.
  • the shape of the raw material mountain 11 does not have to be an ideal conical shape, and the raw material mountain 11 may have irregularities.
  • the volume measuring device 100 automatically measures (manages) the volume of the raw material pile (11 in FIG. 2) in the raw material yard (10 in FIG. 2) using the image capturing device 200 that photographs the raw material yard (10 in FIG. 2). ) Device (see FIG. 1).
  • hardware resources including a processor, a memory, a network interface, etc. (for example, an information processing device, a computer) can be used.
  • the volume measuring device 100 includes an information processing unit 110, a storage unit 120, an input unit 130, an output unit 140, and a communication unit 150.
  • the information processing unit 110 is a functional unit that processes information (see FIG. 1).
  • the information processing unit 110 is communicatively connected to the storage unit 120, the input unit 130, the output unit 140, and the communication unit 150.
  • the information processing unit 110 includes an acquisition unit 111, a point cloud conversion unit 112, a raw material mountain detection unit 113, and a raw material mountain volume calculation unit 114.
  • a processor such as a CPU (Central Processing Unit) and an MPU (Micro Processor Unit) can be used.
  • the information processing unit 110 executes the program while using the storage unit 120 that stores the program, thereby virtually obtaining the acquisition unit 111, the point cloud conversion unit 112, the raw material mountain detection unit 113, and The raw material mountain volume calculation unit 114 may be configured.
  • the acquisition unit 111 is a processing unit that acquires (collects) depth information (depth information related to the raw material yard (10 in FIG. 2); three-dimensional data) generated by the depth sensor 201 of the image capturing apparatus 200 (see FIG. 1). ..
  • the point cloud conversion unit 112 converts the depth information (depth information related to the raw material yard (10 in FIG. 2)) acquired by the acquisition unit 111 into point cloud data (point cloud data related to the raw material yard (10 in FIG. 2)). It is a processing unit for converting (see FIG. 1).
  • the raw material mountain detection unit 113 detects the point cloud related to the raw material mountain (11 in FIG. 2) from the point cloud data (point cloud data related to the raw material yard (10 in FIG. 2)) converted by the point cloud conversion unit 112 ( (Extracting) processing unit (see FIG. 1).
  • the raw material mountain detection unit 113 performs processing for confirming whether or not the rain sensor 205 of the image capturing device 200 detects rainfall. In addition, when the raw material yard (10 in FIG. 2) is indoors and there is no influence of rainfall, the raw material mountain detection unit 113 can omit the confirmation process of the rainfall detection.
  • the raw material mountain detection unit 113 performs a process of reading the angle of repose information from the angle of repose storage unit 121.
  • the raw material mountain detection unit 113 reads out the repose angle information for non-rainy weather from the repose angle storage unit 121.
  • the raw material mountain detection unit 113 reads out the repose angle information for rainy weather from the repose angle storage unit 121.
  • the raw material yard (10 in FIG. 2) is indoors and the confirmation process of the rainfall detection is omitted, the raw material mountain detection unit 113 reads the repose angle information for non-rainy weather from the repose angle storage unit 121.
  • the raw material mountain detection unit 113 uses the angle of repose information read from the angle of repose storage unit 121 (the angle of repose information for non-rainy weather or the angle of repose angle for rainy weather) to convert the point cloud data by the point cloud conversion unit 112.
  • the process of detecting the point cloud related to the raw material mountain 11 from the (point cloud data related to the raw material yard (10 in FIG. 2)) is performed.
  • the raw material mountain detection unit 113 stores the raw material mountain (11 in FIG. 2) and the image capturing apparatus 200.
  • a process of confirming whether or not there is a point cloud related to an obstacle (20 in FIG. 6; for example, a pillar) is performed.
  • the obstacle (20 in FIG. 6) between the raw material pile (11 in FIG. 2) and the imaging device 200 cannot be found, the raw material pile detection unit 113 relates to the obstacle (20 in FIG. 6). The process of confirming the existence of the point cloud can be omitted.
  • the raw material mountain detection unit 113 When there is a point cloud related to the obstacle (20 in FIG. 6), the raw material mountain detection unit 113 removes the point cloud related to the obstacle (20 in FIG. 6) from the detected point cloud related to the raw material mountain 11. Then, the point cloud of the defective portion (17 of FIG. 7) formed by removing the point cloud of the obstacle (20 of FIG. 6) in the point cloud of the raw material mountain 11 is interpolated. The raw material mountain detection unit 113 does not perform the removal processing and the interpolation processing when the point cloud related to the obstacle (20 in FIG. 6) does not exist. “Interpolation” refers to calculating the value of a non-measured part based on the value of the part obtained by measurement.
  • the raw material mountain volume calculation unit 114 is a processing unit that calculates the volume (remaining amount of raw material) of the raw material mountain (11 in FIG. 2) (see FIG. 1).
  • the raw material mountain volume calculation unit 114 determines the raw material mountain non-occlusion part (FIG. 8) in the raw material mountain (11 in FIG. 2) based on the point cloud (detected point group or interpolated point group) related to the raw material mountain. 11a) is calculated.
  • the raw material mountain non-occlusion portion 11a is a portion (a portion that can be photographed (visible) from the depth sensor 201) that does not cause occlusion in the raw material mountain 11.
  • the raw material mountain volume calculation unit 114 uses the point cloud (the detected point group or the interpolated point group) related to the raw material mountain to perform a process of confirming whether or not a wall exists.
  • the raw material mountain volume calculation unit 114 performs a process of reading the wall position information from the wall position storage unit 122.
  • the raw material mountain volume calculation unit 114 does not read the wall position information from the wall position storage unit 122 when there is no wall.
  • the raw material mountain volume calculation unit 114 can omit the process of confirming the existence of the wall and the process of reading the wall position information.
  • the raw material mountain volume calculation unit 114 uses at least the point cloud related to the raw material mountain (the detected point group or the interpolated point group), and the raw material mountain occlusion unit (FIG. 8) in the raw material mountain (11 in FIG. 2). 11b) is performed to estimate the volume.
  • the raw material mountain volume calculation unit 114 estimates the volume of the raw material mountain occlusion unit (11b in FIG. 8) in the raw material mountain (11 in FIG. 2) by using the read wall position information. ..
  • the raw material mountain volume calculation unit 114 sums the calculated volume of the raw material mountain non-occlusion portion (11a in FIG. 8) and the estimated volume of the raw material mountain occlusion portion (11b in FIG. 8) (FIG. 2). 11) The process of calculating the remaining amount (volume) is performed.
  • the storage unit 120 is a functional unit that stores information such as data and programs (see FIG. 1).
  • the storage unit 120 includes a repose angle storage unit 121 and a wall position storage unit 122.
  • the angle of repose storage unit 121 stores information on the angle of repose of the raw material mountain (11 in FIG. 2) (angle of repose information).
  • the angle of repose information includes non-rainy angle of repose information and rainy angle of repose information.
  • the angle of repose is the angle formed by the slope of the mountain and the horizontal plane of the particles formed when the particles are dropped from a certain height and kept stable without spontaneously collapsing.
  • the angle of repose can be obtained by measuring the angle between the slope of the raw material pile (11 in FIG. 2) deposited on a flat place and the flat surface (horizontal plane).
  • the angle of repose is determined by the size of the raw material particles, the roundness and shape of the corners of the particles, etc., but it is also greatly affected by the water content.Therefore, the angle of repose can be used as non-rainy weather repose angle information and rainy weather information. And the angle of repose information for The angle of repose information can be input to the angle of repose storage unit 121 from the input unit 130. If the raw material yard (10 in FIG. 2) is indoors and there is no influence of rainfall, the repose angle information for rainy weather can be omitted.
  • the wall position storage unit 122 stores information (wall position information) on the position of the wall (12 in FIG. 2) in the raw material yard (10 in FIG. 2).
  • the wall position information may be obtained from the design information of the raw material yard (10 in FIG. 2) or may be obtained by measuring with a measuring device such as a laser range finder.
  • the wall position information can be input to the wall position storage unit 122 from the input unit 130.
  • the wall position storage unit 122 can be omitted.
  • the input unit 130 is a functional unit that inputs information by an operator's operation (see FIG. 1).
  • a keyboard, a mouse, a touch panel, a microphone, a button, and other input means can be used, and an information terminal or the like having an input unit communicably connected via a communication unit (not shown) is used. May be.
  • the output unit 140 is a functional unit that displays the measured raw material volume and the like (see FIG. 1).
  • the output unit 140 may be, for example, a display for displaying, a printer for printing, or other output means, and may be an information terminal or the like having an output unit communicatively connected via a communication unit (not shown). Good. Further, instead of using the output unit 140, another information terminal or the like (not shown; for example, a terminal used by the user) connected through the communication unit and the network may be used to output the information. ..
  • the communication unit 150 is a functional unit that connects to the communication unit 203 of the image capturing apparatus 200 so as to be communicable (wireless communication, wired communication).
  • the communication unit 150 may be communicatively connected to the communication unit 203 of the image capturing apparatus 200 via a network (not shown).
  • the photographing device 200 is a device for photographing a subject (see FIG. 1).
  • the image capturing apparatus 200 is installed so as to have a bird's eye view of at least one entire raw material yard (10 in FIG. 2).
  • the photographing device 200 may be installed so as to photograph the raw material yard (10 in FIG. 2) from above.
  • the imaging device 200 may be installed for each raw material yard 10 as shown in FIG.
  • the image capturing apparatus 200 includes a depth sensor 201, a sensor control unit 202, a communication unit 203, a battery 204, and a rain sensor 205.
  • the depth sensor 201 is a sensor that photographs a subject and generates depth information that becomes three-dimensional data (see FIG. 1).
  • a laser scanner for example, a 2D laser distance meter, a stereo camera, a ToF (Time of Flight) sensor, a LiDAR (Light Detection and Ranging) sensor, or the like can be used.
  • the depth sensor 201 is preferably one in the image capturing apparatus 200, but may be two or more.
  • the sensor control unit 202 is a functional unit that controls the depth sensor 201 (see FIG. 1).
  • the communication unit 203 is a functional unit that connects to the communication unit 150 of the volume measuring device 100 so as to be communicable (wireless communication, wired communication) (see FIG. 1).
  • the communication unit 203 may be communicatively connected to the communication unit 150 of the volume measuring apparatus 100 via a network (not shown).
  • the battery 204 is a driving power source for the image capturing apparatus 200 (see FIG. 1).
  • An external power source (not shown) may be used instead of the battery 204.
  • the rain sensor 205 is a sensor that detects rainfall (see FIG. 1). Instead of the rain sensor 205, a rain confirmation unit (not shown) that acquires weather information via the Internet and confirms whether or not there is rainfall may be used. In addition, without using the rain sensor 205, the operator confirms the presence or absence of rainfall and operates the input unit 130 of the volume measuring apparatus 100, and the angle of repose information in the angle of repose storage unit 121 (the angle of repose for non-rainy weather or The angle of repose for rainy weather) may be selected.
  • FIG. 3 is a flowchart diagram schematically showing the operation of the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment.
  • FIG. 4 is an image diagram schematically showing an example of the point cloud data related to the raw material yard viewed from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 5 is an image diagram schematically showing another example of the point cloud data relating to the raw material yard viewed from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 4 is an image diagram schematically showing an example of the point cloud data related to the raw material yard viewed from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 5 is an image diagram schematically showing another example of the point cloud data relating to the raw material yard viewed from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 6 is an image diagram schematically showing an example of the point cloud data in a state where there is an obstacle in the raw material yard viewed from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 7 is an image diagram schematically showing an example of a point cloud related to a state in which an obstacle has been removed from the raw material yard as seen from the photographing position of the photographing device in the volume measuring system according to the first embodiment.
  • FIG. 8 is an image diagram schematically showing an example of a state in which the raw material yard imaged by the imaging device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 9 is an image diagram schematically showing an example of a state in which the convex hull created by the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 10 is an image diagram schematically showing an example of one tetrahedron extracted from the convex hull created by the information processing unit of the volume measuring device in the volume measuring system according to the first embodiment.
  • FIG. 11 is an image diagram schematically showing another example of a state in which the raw material yard photographed by the photographing device in the volume measuring system according to the first embodiment is viewed from the side.
  • FIG. 12 is an image diagram when the raw material mountain non-occlusion portion of another example of the state in which the raw material yard imaged by the imaging device in the volume measuring system according to the first embodiment is viewed from the side is cropped.
  • FIG. 13 is an image diagram schematically showing another example of a state in which the image capturing device in the volume measuring system according to the first embodiment is arranged in the raw material yard. See FIG. 1 for the configuration of the volume measuring system.
  • the information on the position of the wall 12 in the raw material yard (10 in FIG. 2) is stored in the wall position storage unit 122 in advance. It is also assumed that the information regarding the angle of repose of the raw material pile 11 (angle of repose information) is stored in advance in the angle of repose storage unit 121.
  • the acquisition unit 111 of the information processing unit 110 of the volume measuring device 100 acquires the depth information regarding the raw material yard (10 in FIG. 2) generated by the depth sensor 201 of the imaging device 200 (see step A1 in FIG. 3). ..
  • the point cloud conversion unit 112 of the information processing unit 110 of the volume measuring device 100 converts the depth information acquired by the acquisition unit 111 into point cloud data (point cloud data related to the raw material yard (10 in FIG. 2)). (See step A2 in FIG. 3).
  • the raw material pile detection unit 113 of the information processing unit 110 of the volume measuring apparatus 100 confirms whether or not the rain sensor 205 detects rainfall (see step A3 in FIG. 3).
  • the raw material mountain detection unit 113 reads the repose angle information for non-rainy weather from the repose angle storage unit 121 (see step A4 in FIG. 3).
  • the raw material mountain detection unit 113 reads out the repose angle information for rainy weather from the repose angle storage unit 121 (see step A5 in FIG. 3).
  • the raw material mountain detection unit 113 uses the angle of repose read out from the angle of repose storage unit 121 (the angle of repose for non-rainy weather or the angle of repose for rainy weather) to convert the point cloud.
  • the point cloud related to the raw material mountain (11 in FIG. 4) is detected (extracted) from the point cloud data related to the raw material yard (10 in FIG. 2) converted in 112 (see step A6 in FIG. 3).
  • the raw material mountain detection unit 113 in the point cloud data related to the raw material yard (10 in FIG. 2) converted by the point cloud conversion unit 112, the raw material mountain (11 in FIG. 2) and the imaging device (200 in FIG. 2). It is confirmed whether or not there is a point cloud related to an obstacle (20 in FIG. 6; for example, a pillar or the like) that exists between () and () (see step A7 in FIG. 3).
  • the point cloud related to the obstacle (20 in FIG. 6) does not exist (NO in step A7), the process proceeds to step A9.
  • the raw material mountain detection unit 113 determines the point related to the raw material mountain (11 in FIG. 6) detected (extracted) in step A6.
  • the point cloud related to the obstacle (20 in FIG. 6) was removed from the group, and the point cloud related to the obstacle (20 in FIG. 6) in the point cloud related to the raw material pile (11 in FIG. 6) was removed.
  • the point group related to the missing portion (17 in FIG. 7) is interpolated (see step A8 in FIG. 3).
  • the raw material mountain volume calculation unit 114 of the information processing unit 110 of the volume measuring apparatus 100 determines the raw material mountain. Based on the point group (11 in FIG. 8) (the point group detected (extracted) in step A6 or the point group interpolated in step A8) of the raw material mountain non-occlusion part (11a in FIG. 8) Calculate the volume (see step A9 in FIG. 3).
  • the raw material mountain volume calculation unit 114 uses the point cloud (the point cloud detected in step A6 or the point cloud interpolated in step A8) related to the raw material mountain (11 in FIG. 2) to calculate the raw material yard. It is confirmed whether or not there is a wall (12 in FIG. 2) on (10 in FIG. 2) (see step A10 in FIG. 3). When the wall (12 in FIG. 2) does not exist (NO in step A10), the process proceeds to step A12.
  • the raw material mountain volume calculation unit 114 reads wall position information from the wall position storage unit 122 (see step A11 in FIG. 3).
  • the raw material mountain volume calculation unit 114 sets the point cloud (detected points) related to the raw material mountain (11 in FIG. 2).
  • the volume of the raw material occlusion part (11b in FIG. 8) is estimated using the group or the interpolated point group (see step A12 in FIG. 3).
  • the raw material mountain volume calculation unit 114 further uses the wall position information to estimate the volume of the raw material mountain occlusion unit (11b in FIG. 8).
  • the raw material mountain volume calculation unit 114 calculates the volume of the raw material mountain non-occlusion portion (11a in FIG. 8) calculated in step A9 and the volume of the raw material mountain occlusion portion (11b in FIG. 8) estimated in step A12. , And the volume of the raw material pile (11 in FIG. 2) (remaining amount of raw material) is calculated (see step A13 in FIG. 3).
  • the output unit 140 outputs (displays) the volume (remaining amount of raw material) of the raw material pile (11 in FIG. 2) calculated in step A13 (see step A14 in FIG. 3), and then ends. After the end, when a predetermined time has passed, the process may return to the start and perform steps A1 to A13.
  • step A6 the method of detecting the point cloud related to the raw material pile (11 in FIG. 4) in step A6 will be described.
  • the equation of a certain plane 16 on the slope of the raw material mountain 11 is [Equation 1], and the normal vector n s perpendicular to the plane 16 is [Equation 2]. Further, the equation of the ground surface 14 in the raw material yard 10 is set to [Expression 3], and the normal vector ng perpendicular to the ground surface 14 is set to [Expression 4].
  • the angle ⁇ formed by the plane 16 and the ground surface 14 can be expressed as in [Equation 5] by using the normal vectors n s and ng .
  • a point cloud related to the raw material mountain 11 is detected when the angle ⁇ between the plane 16 and the ground 14 satisfies the angle of repose.
  • the point cloud related to the raw material pile 11 can be detected by a similar method even if it has a complicated shape as shown in FIG.
  • step A8 the removal of the point cloud associated with the obstacle (20 in FIG. 6) and the interpolation of the point cloud associated with the missing portion (17 in FIG. 7) in step A8 will be described.
  • the interpolation method include an image interpolation method such as a linear interpolation method, a nearest neighbor interpolation method, and a density storage method.
  • step A9 the method of calculating the volume of the raw material mountain non-occlusion part (11a in FIG. 8) of the raw material mountain (11 in FIG. 8) in step A9 will be described.
  • the volume of the raw material mountain non-occlusion portion 11a is detected (extracted) in step A6, or based on the point cloud related to the raw material mountain (11 in FIG. 8) interpolated in step A8, Can be obtained by creating.
  • the convex hull can be created by an algorithm using the Quickhull method described in Non-Patent Document 1, for example.
  • the convex hull created by the algorithm using the Quickhull method is composed of a plurality of tetrahedra as shown in FIG. As shown in FIG. 10, when the bottom area of the tetrahedron is S and the height is h, the volume V i of the tetrahedron can be calculated from the triangular pyramid volume formula [Equation 6].
  • the volume of the entire convex hull can be calculated, and the calculated volume of the entire convex hull can be set as the volume of the raw material mountain non-occlusion portion 11a.
  • step A8 a method of estimating the volume of the raw material occlusion part (11b in FIG. 8) of the raw material mountain (11 in FIG. 8) in step A8 will be described.
  • the volume V b of the raw material mountain occlusion portion 11 b can be expressed as [Equation 8] when the volume V a of the raw material mountain non-occlusion portion 11 a is set.
  • the point cloud related to the raw material mountain 11 (the point cloud related to the raw material mountain non-occlusion part 11 a is
  • the portion corresponding to the raw material mountain occlusion part 11b is cropped (corresponding to the distance from the apex C of the raw material mountain 11 to d bc (corresponding to the distance between the apex C and the wall)), and the point related to the cropped portion
  • the volume V b of the raw material mountain occlusion part 11 b can be estimated by creating a convex hull of the group and calculating the sum of the volumes of the tetrahedra that make up the created convex hull.
  • the volume calculation by the convex hull here is the same as the volume calculation method of the raw material mountain non-occlusion part 11a in step A9.
  • the raw material yard 10 does not have to be surrounded by walls on three sides of the raw material pile 11.
  • the volume measurement system as described above is used for managing raw materials and products in the smart factory area, managing falling coal and coal in the mining industry, managing raw materials in the food manufacturing industry, managing chips in the paper manufacturing industry, and waste in the waste processing industry. Can be used in the management of.
  • the volume of the raw material mountain non-occlusion portion 11a is calculated, and the volume of the raw material mountain occlusion 11b is estimated to calculate the volume of the raw material mountain 11 as a whole, thereby affecting the operation of the factory. Without this, it is possible to contribute to measuring the volume of the raw material pile efficiently at low cost. Further, according to the first embodiment, even if there are some defects or irregularities in the raw material pile 11, the interpolation can be performed, so there is no influence on the measurement. Further, according to the first embodiment, the volume of the raw material mountain 11 is calculated by properly using the repose angle information for non-rainy weather and the repose angle information for rainy weather, so that erroneous detection due to a change in weather can be reduced. ..
  • FIG. 14 is a block diagram schematically showing the configuration of the volume measuring system according to the second embodiment.
  • the second embodiment is a modification of the first embodiment, and the repose angle information for rainy weather and non-rainy weather preset by using the repose angle storage unit (121 in FIG. 1) and the rain sensor (205 in FIG. 1). Instead of properly using, the angle of repose information is measured in real time using the image data of the camera 206 provided in the imaging device 200.
  • the image capturing device 200 has a camera 206.
  • the camera 206 is a camera that captures a subject and generates image data.
  • the camera 206 outputs the generated image data to the volume measuring apparatus 100 via the communication unit 203.
  • a monocular RGB camera or stereo camera capable of generating RGB (Red Green Blue) image data can be used.
  • the depth sensor 201 is capable of generating image data, the camera 206 can be omitted and the image data generated by the depth sensor 201 can be used.
  • the raw material mountain detection unit 113 of the information processing unit 110 of the volume measuring device 100 does not perform rainfall detection (step A3 in FIG. 3) and read angle of repose information (steps A4 and A5 in FIG. 3), and the acquisition unit 111.
  • the angle of repose information is measured by using the image data from the camera 206 together with the depth information acquired in.
  • a model is created by learning the texture of the surface of the raw material pile from the image data by deep learning, the coordinates of the raw material pile are detected using the created model, and the detected raw material is detected.
  • the angle of repose information can be measured from the depth information related to the raw material yard at the mountain coordinates.
  • the raw material pile detection unit 113 uses the measured angle of repose information to identify the raw material pile (11 of FIG. 4) from the point cloud data of the raw material yard (10 of FIG. 2) converted by the point cloud conversion unit 112. Detect (extract) a point cloud.
  • the second embodiment similarly to the first embodiment, it is possible to contribute to the low cost and efficient measurement of the volume of the raw material pile without affecting the operation of the factory, and the repose angle information By automating the measurement, it is possible to reduce false detection due to various factors.
  • FIG. 15 is a block diagram schematically showing the configuration of the volume measuring device according to the third embodiment.
  • FIG. 16 is a flowchart schematically showing the operation of the volume measuring device according to the third embodiment.
  • the volume measuring device 100 is a device for measuring the volume of the raw material pile 11.
  • the volume measuring device 100 includes a point cloud conversion unit 112, a raw material mountain detection unit 113, and a raw material mountain volume calculation unit 114 (see FIG. 15).
  • the point cloud conversion unit 112 converts the depth information on the raw material yard 10 from the depth sensor 201 that photographs the raw material yard 10 having the raw material mountain 11 into the point cloud data on the raw material yard 10 (see step B1 in FIG. 16).
  • the raw material mountain detection unit 113 detects the point cloud of the raw material mountain 11 from the point cloud data of the raw material yard 10 using the angle of repose information of the raw material mountain 11 (see step B2 in FIG. 16).
  • the raw material mountain volume calculation unit 114 calculates the volume of the raw material mountain non-occlusion part 11a that can be photographed from the depth sensor 201 in the raw material mountain 11 based on the point cloud related to the raw material mountain 11 (see step B3 in FIG. 16).
  • the raw material mountain volume calculation unit 114 estimates the volume of the raw material mountain occlusion unit 11b that cannot be imaged from the depth sensor 201 in the raw material mountain 11 using at least the point cloud related to the raw material mountain 11 (see step B4 in FIG. 16).
  • the raw material mountain volume calculation unit 114 calculates the volume of the raw material mountain 11 that is the sum of the calculated volume of the raw material mountain non-occlusion portion 11a and the estimated volume of the raw material mountain occlusion portion 11b (see step B5 in FIG. 16). ).
  • the volume of the raw material mountain non-occlusion portion 11a is calculated, and the volume of the raw material mountain occlusion 11b is estimated to calculate the volume of the raw material mountain 11 as a whole, thereby affecting the operation of the factory. Without this, it is possible to contribute to measuring the volume of the raw material pile efficiently at low cost.
  • the volume measuring devices according to the first to third embodiments can be configured by so-called hardware resources (information processing device, computer), and the device having the configuration illustrated in FIG. 18 can be used.
  • the hardware resource 300 includes a processor 301, a memory 302, a network interface 303, etc., which are interconnected by an internal bus 304.
  • the configuration shown in FIG. 18 is not intended to limit the hardware configuration of the hardware resource 300.
  • the hardware resource 300 may include hardware (not shown) (for example, an input / output interface).
  • the number of units such as the processor 301 included in the hardware resource 300 is not limited to the example illustrated in FIG. 18, and a plurality of processors 301 may be included in the device, for example.
  • a CPU Central Processing Unit
  • MPU Micro Processor Unit
  • RAM Random Access Memory
  • ROM Read Only Memory
  • HDD Hard Disk Drive
  • SSD Solid State Drive
  • a network interface 303 for example, a LAN (Local Area Network) card, a network adapter, a network interface card, etc. can be used.
  • LAN Local Area Network
  • the function of the hardware resource 300 is realized by the processing module described above.
  • the processing module is realized by the processor 301 executing a program stored in the memory 302, for example.
  • the program can be downloaded via a network or updated using a storage medium storing the program.
  • the processing module may be realized by a semiconductor chip. That is, the function performed by the processing module may be realized by executing software on some hardware.
  • Appendix 3 Further comprising an acquisition unit for acquiring the depth information related to the raw material yard from the depth sensor,
  • the point cloud conversion unit when converting to the point cloud data related to the raw material yard, converts the depth information related to the raw material yard acquired by the acquisition unit to point cloud data related to the raw material yard,
  • the volume measuring device according to appendix 1 or 2.
  • a repose angle storage unit that stores repose angle information for rainy weather and repose angle information for non-rainy weather is further provided,
  • the raw material pile detection unit when detecting the point cloud related to the raw material pile, confirms whether or not a rain sensor that detects rainfall in the raw material yard detects rain, and the rain sensor detects rainfall.
  • the angle of repose information for rainy weather is read from the angle of repose storage unit while reading, and the angle of repose information for non-rainy weather is read from the angle of repose storage unit when the rain sensor does not detect rainfall,
  • the read angle of repose information for rainy weather, or the angle of repose information for non-rainy weather is used to detect the point cloud related to the raw material mountain from the point cloud data related to the raw material yard, 4.
  • the volume measuring device according to any one of appendices 1 to 3.
  • the raw material pile detection unit measures angle of repose information using image data from a camera, and relates to the raw material yard using the measured angle of repose information. Detecting a point cloud related to the raw material mountain from the point cloud data, 4.
  • the volume measuring device according to any one of appendices 1 to 3.
  • the raw material pile detection unit When measuring the angle of repose information, creates a model in which the texture of the surface of the raw material pile is learned by deep learning from the image data, and the raw material pile is created using the created model. Detecting the coordinates of, measuring the angle of repose information from the depth information related to the raw material yard at the coordinates of the detected raw material mountain, The volume measuring device according to attachment 5.
  • the raw material pile detection unit further confirms, in the point cloud data relating to the raw material yard, whether or not there is a point cloud relating to an obstacle existing between the raw material pile and the depth sensor, and checking the obstacle.
  • the point cloud related to the obstacle is removed from the detected point cloud related to the raw material mountain, and the point related to the obstacle in the point cloud related to the raw material mountain.
  • the raw material mountain volume calculation unit when calculating the volume of the raw material mountain non-occlusion portion, based on the point cloud of the raw material mountain, which is obtained by interpolating the point cloud of the defective portion in the raw material mountain detection unit. , Calculating the volume of the non-occlusion part of the raw material mountain, 7.
  • the volume measuring device according to any one of appendices 1 to 6.
  • the raw material mountain volume calculation unit when calculating the volume of the raw material mountain non-occlusion portion, is detected by the raw material mountain detection unit when the raw material mountain detection unit does not have the point cloud related to the obstacle. Calculating the volume of the raw material mountain non-occlusion part based on the point cloud related to the raw material mountain, The volume measuring device according to appendix 7 or 8.
  • the raw material mountain volume calculation unit when calculating the volume of the raw material mountain non-occlusion portion, creates a convex hull composed of a plurality of tetrahedra based on the point cloud related to the raw material mountain, By calculating the sum of the respective volumes of the tetrahedra, to calculate the volume of the entire convex hull, the calculated volume of the entire convex hull is the volume of the raw material non-occlusion part, The volume measuring device according to any one of appendices 1 to 9.
  • Appendix 11 Further comprising a wall position storage unit for storing wall position information relating to the position of the wall in the raw material yard,
  • the raw material mountain volume calculation unit when estimating the volume of the raw material mountain occlusion part, using the point cloud related to the raw material mountain, confirms whether there is a wall in the raw material yard, the wall is At some time, the wall position information is read from the wall position storage unit, and the point cloud related to the raw material mountain and the wall position information are used to estimate the volume of the raw material mountain occlusion unit, 11.
  • the volume measuring device according to any one of appendices 1 to 10.
  • the raw material mountain volume calculation unit when estimating the volume of the raw material mountain occlusion part, cuts out a portion corresponding to the distance between the apex of the raw material mountain and the wall from the point cloud related to the raw material mountain. , Based on the point group according to the cut out portion, to create a convex hull composed of a plurality of tetrahedra, by calculating the sum of the respective volumes of the plurality of tetrahedra, the entire convex hull Calculate the volume, and the calculated volume of the entire convex hull is the volume of the raw material mountain occlusion part, The volume measuring device according to attachment 11.
  • the raw material mountain volume calculation unit estimates the volume of the raw material mountain occlusion portion by using the point cloud related to the raw material mountain when there is no wall. , The volume measuring device according to appendix 11 or 12.
  • the present invention can take the form of the volume measuring method according to the third aspect.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Fluid Mechanics (AREA)
  • Geometry (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Abstract

工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができる体積計測装置等を提供する。体積計測装置は、原料ヤードを撮影するデプスセンサからのデプス情報を点群データに変換する点群変換部と、原料山の安息角に係る安息角情報を用いて点群データから原料山に係る点群を検出する原料山検出部と、原料山に係る点群に基づいて、原料山におけるデプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも原料山に係る点群を用いて、原料山におけるデプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された原料山非オクルージョン部の体積、及び、推定された原料山オクルージョン部の体積を合計した原料山の体積を計算する原料山体積計算部と、を備える。

Description

体積計測装置、システム、方法、及びプログラム
 [関連出願についての記載]
 本発明は、日本国特許出願:特願2018-218148号(2018年11月21日出願)の優先権主張に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
 本発明は、原料ヤードにおける原料山の体積を計測する体積計測装置、システム、方法、及びプログラムに関する。
 ガラス工場や製鉄所では、ガラスの原料である珪砂や鉄鋼の原料である鉄鉱石を、屋内又は屋外の地面の上に3方が壁に囲まれた原料ヤード(原料置き場)に保管している。図17は、3方が壁12に囲まれた原料ヤード10を上から見たときのイメージ図である。原料を堆積させた各原料山11は、壁12により3方が囲われている。工場の操業により、原料の残量は、刻々と変化する。現状、この原料の残量の管理は、作業員が目視で行っていることが多い。
 高い生産性を維持するためには、原料の残量を早く正確に把握することが重要である。すなわち、リアルタイムに自動で残量の管理をするためのシステムが求められている。原料の残量管理システムを構築する場合、残量計測のためのセンサとしてデプスセンサ(深度測定センサ)を利用することが考えられる。デプスセンサを利用した原料山の形状を管理する技術として、特許文献1~3に記載の技術がある。特許文献1~3に記載の技術では、レーザスキャナ、2D(2-Dimensions)レーザ距離計、ステレオカメラ等のデプスセンサを、スタッカ、リクレーマなどのヤード機械に取り付けることで、原料山の形状を計測している。このようなデプスセンサを利用したシステムでは、一般的に測定対象物を複数の視点から撮影することで3次元データを取得して測定を行うため、複数のデプスセンサが用いられる。
特開2010-286436号公報 特開2011-157187号公報 特開2012-193030号公報 特開2016-61674号公報
C. BRADFORD BARBER et al., "The Quickhull Algorithm for Convex Hulls", ACM Transactions on Mathematical Software, Vol. 22, No. 4, December 1996, Pages 469-483. (https://www.cise.ufl.edu/~ungor/courses/fall06/papers/QuickHull.pdf)
 以下の分析は、本願発明者により与えられる。
 特許文献1~3に記載の技術は、ヤード機械にデプスセンサを取り付けているため、原料山の形状を計測している間、原料の受け入れ、払出し等の作業を行うことができなくなる。そのため、ヤード機械にデプスセンサを取り付けて計測することは工場の操業に影響を与えてしまう可能性がある。
 また、デプスセンサは近年低価格化が進んできているものの、産業用途において十分な測定範囲や精度や精細さを満たすものは依然として高価である。メンテナンス性の観点から見ても、複数のデプスセンサを使用することは望ましくない。仮に1台のデプスセンサでシステムを構築する場合、3次元空間において手前にある物体が背後にある物体を隠して見えない領域(オクルージョン)の問題が発生する。例えば、原料山を正面方向から撮影した場合、原料山の背面方向の部分が隠れてしまい、背面方向の部分のデプス情報を取得することができなくなる。
 このようなオクルージョンの問題を解決するために、特許文献4に記載の技術のように、デプスセンサを搭載した1台の無人飛行体(ドローン)で上方から移動しながら原料山を撮影することが考えられる。しかしながら、建屋型の原料ヤードには天井があるため、ドローンが原料山から十分な距離を取って航行することが難しく、ドローンのプロペラからの風が原料を巻き上げてしまい、計測自体ができなくなる可能性がある。
 また、オクルージョンの問題を解決するために、作業員が原料山を回り込みながら1台のデプスセンサで撮影する方法も考えられる。しかしながら、原料ヤードが大規模かつ複数あると、計測に手間や時間がかかるだけでなく、作業中のヤード機械を回避しながら計測する必要があるため、効率よく計測できない可能性がある。
 本発明の主な課題は、工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができる体積計測装置、システム、方法、及びプログラムを提供することである。
 第1の視点に係る体積計測装置は、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する点群変換部と、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する原料山検出部と、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する原料山体積計算部と、を備える。
 第2の視点に係る体積計測システムは、原料山を有する原料ヤードを撮影するデプスセンサと、前記第1の視点に係る体積計測装置と、を備える。
 第3の視点に係る体積計測方法は、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換するステップと、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出するステップと、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算するステップと、を含む。
 第4の視点に係るプログラムは、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する処理と、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する処理と、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する処理と、をハードウェア資源に実行させる。
 なお、上記のプログラムは、コンピュータが読み取り可能な記憶媒体に記録することができる。そして、当該プログラムが格納された記憶媒体は、半導体メモリ、ハードディスク、磁気記録媒体、光記録媒体等の非トランジェント(non-transient)なものとすることができる。また、本開示では、コンピュータプログラム製品として具現することも可能である。プログラムは、コンピュータ装置に入力装置又は外部から通信インタフェースを介して入力され、記憶装置に記憶されて、プロセッサを所定のステップないし処理に従って駆動させ、必要に応じ中間状態を含めその処理結果を段階毎に表示装置を介して表示することができ、あるいは通信インタフェースを介して、外部と交信することができる。そのためのコンピュータ装置は、一例として、典型的には互いにバスによって接続可能なプロセッサ、記憶装置、入力装置、通信インタフェース、及び必要に応じ表示装置を備える。
 前記第1~第4の視点によれば、工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができる。
実施形態1に係る体積計測システムの構成を模式的に示したブロック図である。 実施形態1に係る体積計測システムにおける撮影装置を原料ヤードに配置した状態の一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける体積計測装置の情報処理部の動作を模式的に示したフローチャート図である。 実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードに係る点群データの一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードに係る点群データの他の例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードにおいて障害物がある状態の点群データの一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードから障害物を除去した状態に係る点群の一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける体積測定装置の情報処理部で作成した凸包を横から見た状態の一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける体積測定装置の情報処理部で作成した凸包から抽出された1つの四面体の一例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の他の例を模式的に示したイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の他の例の原料山非オクルージョン部をクロップしたときのイメージ図である。 実施形態1に係る体積計測システムにおける撮影装置を原料ヤードに配置した状態の他の例を模式的に示したイメージ図である。 実施形態2に係る体積計測システムの構成を模式的に示したブロック図である。 実施形態3に係る体積計測装置の構成を模式的に示したブロック図である。 実施形態3に係る体積計測装置の動作を模式的に示したフローチャート図である。 原料ヤードの一例を上から見たときのイメージ図である。 ハードウェア資源の構成を模式的に示したブロック図である。
 以下に説明する本開示では、モード1に係る体積計測装置及びその変形モードを適宜選択して組み合わせることができる。
 前記モード1に係る体積計測装置として、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する点群変換部、を備えることが可能である。前記体積計測装置は、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する原料山検出部を備えることが可能である。前記体積計測装置は、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する原料山体積計算部を備えることが可能である。
 前記モード1に係る体積計測装置の変形モードとして、前記原料山検出部は、前記原料山に係る点群を検出する際、前記原料山の斜面上のある平面と前記原料ヤードにおける地面とのなす角が前記安息角情報における前記安息角を満たすものを前記原料山に係る前記点群として検出することができる。また、前記体積計測装置は、前記デプスセンサから前記原料ヤードに係る前記デプス情報を取得する取得部をさらに備えることができる。また、前記点群変換部は、前記原料ヤードに係る前記点群データに変換する際、前記取得部で取得した前記原料ヤードに係る前記デプス情報を前記原料ヤードに係る点群データに変換することができる。また、前記体積計測装置は、雨天用の安息角情報、及び、非雨天用の安息角情報を記憶する安息角記憶部をさらに備えることができる。また、前記原料山検出部は、前記原料山に係る前記点群を検出する際、前記原料ヤードの降雨を検出する雨センサが降雨を検出しているか否かを確認し、前記雨センサが降雨を検出しているときに前記安息角記憶部から前記雨天用の安息角情報を読み出し、前記雨センサが降雨を検出していないときに前記安息角記憶部から前記非雨天用の安息角情報を読み出し、読み出された前記雨天用の安息角情報、又は、前記非雨天用の安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出することができる。また、前記原料山検出部は、前記原料山に係る前記点群を検出する際、カメラからの画像データを用いて安息角情報を計測し、計測された前記安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出することができる。また、前記原料山検出部は、前記安息角情報を計測する際、前記画像データから前記原料山の表面のテクスチャをディープラーニングにより学習したモデルを作成し、作成された前記モデルを使用して前記原料山の座標を検出し、検出された前記原料山の前記座標における前記原料ヤードに係る前記デプス情報から前記安息角情報を計測することができる。また、前記原料山検出部は、さらに、前記原料ヤードに係る前記点群データにおいて、前記原料山と前記デプスセンサとの間に存在する障害物に係る点群があるか否かを確認し、前記障害物に係る前記点群があるときに、検出された前記原料山に係る点群から前記障害物に係る前記点群を除去し、前記原料山に係る前記点群における、前記障害物に係る前記点群の除去によってできた欠損部分に係る点群を補間することができる。また、前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山検出部で前記欠損部分に係る前記点群を補間した前記原料山に係る前記点群に基づいて、前記原料山非オクルージョン部の体積を計算することができる。また、前記原料山検出部は、前記欠損部分に係る前記点群を補間する際、画像補間法を用いて前記欠損部分に係る前記点群を補間することができる。また、前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山検出部で前記障害物に係る前記点群がないときに、前記原料山検出部で検出された前記原料山に係る前記点群に基づいて、前記原料山非オクルージョン部の体積を計算することができる。また、前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山非オクルージョン部の前記体積とすることができる。また、前記体積計測装置は、前記原料ヤードにおける壁の位置に係る壁位置情報を記憶する壁位置記憶部をさらに備えることができる。また、前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群を用いて、前記原料ヤードに壁があるか否かを確認し、前記壁があるときに、前記壁位置記憶部から前記壁位置情報を読み出し、前記原料山に係る前記点群、及び、前記壁位置情報を用いて、前記原料山オクルージョン部の体積を推定することができる。また、前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群から、前記原料山の頂点と前記壁との間の距離に相当する部分を切り出し、切り出された前記部分に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山オクルージョン部の前記体積とすることができる。また、前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記壁がないときに、前記原料山に係る前記点群を用いて、前記原料山オクルージョン部の体積を推定することができる。
 本開示では、モード2に係る体積計測システムとして、原料山を有する原料ヤードを撮影するデプスセンサと、前記モード1に係る体積計測装置と、を備えることが可能である。
 本開示では、モード3に係る体積計測方法として、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換するステップを含むことができる。また、前記体積計測方法は、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出するステップを含むことができる。また、前記体積計測方法は、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算するステップを含むことができる。
 本開示では、モード4に係るプログラムとして、原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する処理をハードウェア資源に実行させることができる。また、前記プログラムは、前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する処理をハードウェア資源に実行させることができる。また、前記プログラムは、前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する処理をハードウェア資源に実行させることができる。
 以下、実施形態について図面を参照しつつ説明する。なお、本出願において図面参照符号を付している場合は、それらは、専ら理解を助けるためのものであり、図示の態様に限定することを意図するものではない。また、下記の実施形態は、あくまで例示であり、本発明を限定するものではない。また、以降の説明で参照する図面等のブロック間の接続線は、双方向及び単方向の双方を含む。一方向矢印については、主たる信号(データ)の流れを模式的に示すものであり、双方向性を排除するものではない。さらに、本願開示に示す回路図、ブロック図、内部構成図、接続図などにおいて、明示は省略するが、入力ポート及び出力ポートが各接続線の入力端及び出力端のそれぞれに存在する。入出力インタフェースも同様である。プログラムはコンピュータ装置を介して実行され、コンピュータ装置は、例えば、プロセッサ、記憶装置、入力装置、通信インタフェース、及び必要に応じ表示装置を備え、コンピュータ装置は、通信インタフェ-スを介して装置内又は外部の機器(コンピュータを含む)と、有線、無線を問わず、交信可能に構成される。
[実施形態1]
 実施形態1に係る体積計測システムについて図面を用いて説明する。図1は、実施形態1に係る体積計測システムの構成を模式的に示したブロック図である。図2は、実施形態1に係る体積計測システムにおける撮影装置を原料ヤードに配置した状態の一例を模式的に示したイメージ図である。
 体積計測システム1は、原料ヤード(図2の10)における原料山(図2の11)の体積を計測するシステムである(図1参照)。体積計測システム1は、体積計測装置100と、撮影装置200と、を備える。
 ここで、図2の原料ヤード10は2つあるが、これに限るものではない。各原料ヤード10では、地面14の上に原料山11が配され、原料山11の3方が、地面14に接地された壁12で囲まれている。原料山11の形状は、理想的な円錐形である必要はなく、原料山11において凹凸があってもよい。
 体積計測装置100は、原料ヤード(図2の10)を撮影する撮影装置200を用いて、原料ヤード(図2の10)における原料山(図2の11)の体積を自動的に計測(管理)する装置である(図1参照)。体積計測装置100には、例えば、プロセッサ、メモリ、ネットワークインタフェース等を含むハードウェア資源(例えば、情報処理装置、コンピュータ)を用いることができる。体積計測装置100は、情報処理部110と、記憶部120と、入力部130と、出力部140と、通信部150と、を有する。
 情報処理部110は、情報を処理する機能部である(図1参照)。情報処理部110は、記憶部120、入力部130、出力部140、及び、通信部150と通信可能に接続されている。情報処理部110は、取得部111と、点群変換部112と、原料山検出部113と、原料山体積計算部114と、を有する。情報処理部110には、例えば、CPU(Central Processing Unit)、MPU(Micro Processor Unit)等のプロセッサを用いることができる。この場合、情報処理部110は、プログラムを記憶する記憶部120を利用しながら、プログラムを実行することにより、仮想的な、取得部111、点群変換部112、原料山検出部113、及び、原料山体積計算部114を構成するようにしてもよい。
 取得部111は、撮影装置200のデプスセンサ201で生成されたデプス情報(原料ヤード(図2の10)に係るデプス情報;3次元データ)を取得(収集)する処理部である(図1参照)。
 点群変換部112は、取得部111で取得したデプス情報(原料ヤード(図2の10)に係るデプス情報)を、点群データ(原料ヤード(図2の10)に係る点群データ)に変換する処理部である(図1参照)。
 原料山検出部113は、点群変換部112で変換された点群データ(原料ヤード(図2の10)に係る点群データ)から原料山(図2の11)に係る点群を検出(抽出)する処理部である(図1参照)。
 原料山検出部113は、撮影装置200の雨センサ205が降雨を検出しているか否かを確認する処理を行う。なお、原料ヤード(図2の10)が屋内にあり降雨の影響がない場合、原料山検出部113は降雨の検出の確認処理を省略することができる。
 原料山検出部113は、安息角記憶部121から安息角情報を読み出す処理を行う。原料山検出部113は、雨センサ205が降雨を検出していない場合、安息角記憶部121から非雨天用の安息角情報を読み出す。原料山検出部113は、雨センサ205が降雨を検出している場合、安息角記憶部121から雨天用の安息角情報を読み出す。なお、原料ヤード(図2の10)が屋内にあり降雨の検出の確認処理を省略している場合、原料山検出部113は、安息角記憶部121から非雨天用の安息角情報を読み出す。
 原料山検出部113は、安息角記憶部121から読み出した安息角情報(非雨天用の安息角情報又は雨天用の安息角情報)を用いて、点群変換部112で変換された点群データ(原料ヤード(図2の10)に係る点群データ)から原料山11に係る点群を検出する処理を行う。
 原料山検出部113は、点群変換部112で変換された点群データ(原料ヤード(図2の10)に係る点群データ)において、原料山(図2の11)と撮影装置200との間に障害物(図6の20;例えば、柱等)に係る点群が存在するか否かを確認する処理を行う。なお、原料山(図2の11)と撮影装置200との間に障害物(図6の20)がもとからない場合、原料山検出部113は、障害物(図6の20)に係る点群の存在の確認処理を省略することができる。
 原料山検出部113は、障害物(図6の20)に係る点群が存在する場合、検出された原料山11に係る点群から、障害物(図6の20)に係る点群を除去し、原料山11に係る点群における、障害物(図6の20)に係る点群の除去によってできた欠損部分(図7の17)の点群を補間する。原料山検出部113は、障害物(図6の20)に係る点群が存在しない場合、除去処理及び補間処理を行わない。「補間」とは、計測で得られた部位の値に基づいて、計測していない部位の値を算出することをいう。
 原料山体積計算部114は、原料山(図2の11)の体積(原料の残量)を計算する処理部である(図1参照)。
 原料山体積計算部114は、原料山に係る点群(検出された点群、又は、補間された点群)に基づいて、原料山(図2の11)における原料山非オクルージョン部(図8の11a)の体積を計算する処理を行う。ここで、原料山非オクルージョン部11aは、原料山11においてオクルージョンとならない部分(デプスセンサ201から撮影可能な(見える)部分)である。
 原料山体積計算部114は、原料山に係る点群(検出された点群、又は、補間された点群)を用いて、壁が存在するか否かを確認する処理を行う。原料山体積計算部114は、壁が存在する場合、壁位置記憶部122から壁位置情報を読み出す処理を行う。原料山体積計算部114は、壁が存在しない場合、壁位置記憶部122から壁位置情報を読み出さない。なお、もとから壁が存在しない場合、原料山体積計算部114は、壁の存在の確認処理、及び、壁位置情報の読み出し処理を省略することができる。
 原料山体積計算部114は、少なくとも原料山に係る点群(検出された点群、又は、補間された点群)を用いて、原料山(図2の11)における原料山オクルージョン部(図8の11b)の体積を推定する処理を行う。なお、原料山体積計算部114は、壁が存在する場合、さらに読み出した壁位置情報も用いて、原料山(図2の11)における原料山オクルージョン部(図8の11b)の体積を推定する。
 原料山体積計算部114は、計算した原料山非オクルージョン部(図8の11a)の体積と、推定された原料山オクルージョン部(図8の11b)の体積と、を合計した原料山(図2の11)の残量(体積)を計算する処理を行う。
 記憶部120は、データ、プログラム等の情報を記憶する機能部である(図1参照)。記憶部120は、安息角記憶部121と、壁位置記憶部122と、を有する。
 安息角記憶部121は、原料山(図2の11)の安息角に係る情報(安息角情報)を記憶する。安息角情報には、非雨天用の安息角情報と、雨天用の安息角情報と、がある。安息角は、一定の高さから粒子を落下させて、自発的に崩れることなく安定を保つ時に、形成する粒子の山の斜面と水平面とのなす角度である。安息角は、平坦な場所に堆積した原料山(図2の11)の斜面と平坦面(水平面)との角度を計測して得ることができる。安息角は、原料の粒子の大きさ、粒子の角の丸みや形状等により決まるが、水分の含有量にも大きく影響されるため、安息角情報として、非雨天用の安息角情報と、雨天用の安息角情報と、が用意されている。安息角記憶部121への安息角情報の入力は、入力部130から行うことができる。なお、原料ヤード(図2の10)が屋内にあり降雨の影響がない場合、雨天用の安息角情報を省略することができる。
 壁位置記憶部122は、原料ヤード(図2の10)における壁(図2の12)の位置に係る情報(壁位置情報)を記憶する。壁位置情報は、原料ヤード(図2の10)の設計情報から入手したものであってもよく、レーザ距離計などの計測機を用いて計測して入手したものでもよい。壁位置記憶部122への壁位置情報の入力は、入力部130から行うことができる。なお、原料ヤード(図2の10)においてもとから壁(図2の12)が存在しない場合、壁位置記憶部122を省略することができる。
 入力部130は、オペレータの操作により情報を入力する機能部である(図1参照)。入力部130には、例えば、キーボード、マウス、タッチパネル、マイク、ボタン、その他の入力手段を用いることができ、図示しない通信部を介して通信可能に接続された入力部を有する情報端末等を用いてもよい。
 出力部140は、計測した原料山の体積などを表示する機能部である(図1参照)。出力部140は、例えば、表示を行うディスプレイ、印刷を行うプリンタ、その他の出力手段を用いることができ、図示しない通信部を介して通信可能に接続された出力部を有する情報端末等を用いてもよい。また、出力部140を使用する代わりに、通信部及びネットワークを通じて接続された別の情報端末等(図示せず;例えば、ユーザが使用する端末)を使用して情報を出力するようにしてもよい。
 通信部150は、撮影装置200の通信部203と通信(無線通信、有線通信)可能に接続する機能部である。通信部150は、図示しないネットワークを介して撮影装置200の通信部203と通信可能に接続してもよい。
 撮影装置200は、被写体を撮影する装置である(図1参照)。撮影装置200は、少なくとも1つの原料ヤード(図2の10)全体を俯瞰することができるように設置されている。撮影装置200は、原料ヤード(図2の10)を上方から撮影するように設置してもよい。撮影装置200は、図2のように、原料ヤード10ごとに設置してもよい。撮影装置200は、デプスセンサ201と、センサ制御部202と、通信部203と、バッテリ204と、雨センサ205と、を備える。
 デプスセンサ201は、被写体を撮影して3次元データとなるデプス情報を生成するセンサである(図1参照)。デプスセンサ201には、例えば、レーザスキャナ、2Dレーザ距離計、ステレオカメラ、ToF(Time of Flight)センサ、LiDAR(Light Detection and Ranging)センサ等を用いることができる。デプスセンサ201は、撮影装置200において1台であることが好ましいが、2台以上であってもよい。
 センサ制御部202は、デプスセンサ201を制御する機能部である(図1参照)。
 通信部203は、体積計測装置100の通信部150と通信(無線通信、有線通信)可能に接続する機能部である(図1参照)。通信部203は、図示しないネットワークを介して体積計測装置100の通信部150と通信可能に接続してもよい。
 バッテリ204は、撮影装置200の駆動電源である(図1参照)。バッテリ204の代わりに、図示しない外部電源を利用してもよい。
 雨センサ205は、降雨を検出するセンサである(図1参照)。雨センサ205の代わりに、インターネット経由で天気情報を取得して降雨の有無を確認する降雨確認部(図示せず)を用いてもよい。また、雨センサ205を用いないで、オペレータが降雨の有無を確認して体積計測装置100の入力部130を操作して、安息角記憶部121における安息角情報(非雨天用の安息角情報又は雨天用の安息角情報)を選択するようにしてもよい。
 次に、実施形態1に係る体積計測システムにおける体積計測装置の情報処理部の動作について図面を用いて説明する。図3は、実施形態1に係る体積計測システムにおける体積計測装置の情報処理部の動作を模式的に示したフローチャート図である。図4は、実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードに係る点群データの一例を模式的に示したイメージ図である。図5は、実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードに係る点群データの他の例を模式的に示したイメージ図である。図6は、実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードにおいて障害物がある状態の点群データの一例を模式的に示したイメージ図である。図7は、実施形態1に係る体積計測システムにおける撮影装置の撮影位置から見た原料ヤードから障害物を除去した状態に係る点群の一例を模式的に示したイメージ図である。図8は、実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の一例を模式的に示したイメージ図である。図9は、実施形態1に係る体積計測システムにおける体積測定装置の情報処理部で作成した凸包を横から見た状態の一例を模式的に示したイメージ図である。図10は、実施形態1に係る体積計測システムにおける体積測定装置の情報処理部で作成した凸包から抽出された1つの四面体の一例を模式的に示したイメージ図である。図11は、実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の他の例を模式的に示したイメージ図である。図12は、実施形態1に係る体積計測システムにおける撮影装置が撮影している原料ヤードを横から見た状態の他の例の原料山非オクルージョン部をクロップしたときのイメージ図である。図13は、実施形態1に係る体積計測システムにおける撮影装置を原料ヤードに配置した状態の他の例を模式的に示したイメージ図である。なお、体積計測システムの構成については、図1を参照されたい。
 前提として、原料ヤード(図2の10)内の壁12の位置に係る情報(壁位置情報)については事前に壁位置記憶部122に記憶されているものとする。また、原料山11の安息角に係る情報(安息角情報)についても事前に安息角記憶部121に記憶されているものとする。
 まず、体積計測装置100の情報処理部110の取得部111は、撮影装置200のデプスセンサ201で生成された原料ヤード(図2の10)に係るデプス情報を取得する(図3のステップA1参照)。
 次に、体積計測装置100の情報処理部110の点群変換部112は、取得部111で取得されたデプス情報を点群データ(原料ヤード(図2の10)に係る点群データ)に変換する(図3のステップA2参照)。
 次に、体積計測装置100の情報処理部110の原料山検出部113は、雨センサ205が降雨を検出しているか否かを確認する(図3のステップA3参照)。
 降雨を検出していない場合(ステップA3のNO)、原料山検出部113は、安息角記憶部121から非雨天用の安息角情報を読み出す(図3のステップA4参照)。
 降雨を検出している場合(ステップA3のYES)、原料山検出部113は、安息角記憶部121から雨天用の安息角情報を読み出す(図3のステップA5参照)。
 ステップA4又はステップA5の後、原料山検出部113は、安息角記憶部121から読み出した安息角情報(非雨天用の安息角情報又は雨天用の安息角情報)を用いて、点群変換部112で変換された原料ヤード(図2の10)に係る点群データから原料山(図4の11)に係る点群を検出(抽出)する(図3のステップA6参照)。
 次に、原料山検出部113は、点群変換部112で変換された原料ヤード(図2の10)に係る点群データにおいて、原料山(図2の11)と撮影装置(図2の200)との間に存在する障害物(図6の20;例えば、柱等)に係る点群があるか否かを確認する(図3のステップA7参照)。障害物(図6の20)に係る点群が存在しない場合(ステップA7のNO)、ステップA9に進む。
 障害物(図6の20)に係る点群が存在する場合(ステップA7のYES)、原料山検出部113は、ステップA6で検出(抽出)された原料山(図6の11)に係る点群から、障害物(図6の20)に係る点群を除去し、原料山(図6の11)に係る点群における、障害物(図6の20)に係る点群の除去によってできた欠損部分(図7の17)に係る点群を補間する(図3のステップA8参照)。
 障害物(図6の20)に係る点群が存在しない場合(ステップA7のNO)、又は、ステップA8の後、体積計測装置100の情報処理部110の原料山体積計算部114は、原料山(図8の11)に係る点群(ステップA6で検出(抽出)された点群、又は、ステップA8で補間された点群)に基づいて、原料山非オクルージョン部(図8の11a)の体積を計算する(図3のステップA9参照)。
 次に、原料山体積計算部114は、原料山(図2の11)に係る点群(ステップA6で検出された点群、又は、ステップA8で補間された点群)を用いて、原料ヤード(図2の10)に壁(図2の12)があるか否かを確認する(図3のステップA10参照)。壁(図2の12)が存在しない場合(ステップA10のNO)、ステップA12に進む。
 壁(図2の12)が存在する場合(ステップA10のYES)、原料山体積計算部114は、壁位置記憶部122から壁位置情報を読み出す(図3のステップA11参照)。
 壁(図2の12)が存在しない場合(ステップA10のNO)、又は、ステップA11の後、原料山体積計算部114は、原料山(図2の11)に係る点群(検出された点群、又は、補間された点群)を用いて、原料山オクルージョン部(図8の11b)の体積を推定する(図3のステップA12参照)。ここで、ステップA11で壁位置情報を読み出した場合、原料山体積計算部114は、さらに壁位置情報も用いて、原料山オクルージョン部(図8の11b)の体積を推定する。
 次に、原料山体積計算部114は、ステップA9で計算した原料山非オクルージョン部(図8の11a)の体積と、ステップA12で推定された原料山オクルージョン部(図8の11b)の体積と、を合計した原料山(図2の11)の体積(原料の残量)を計算する(図3のステップA13参照)。
 最後に、出力部140は、ステップA13で計算された原料山(図2の11)の体積(原料の残量)を出力(表示)し(図3のステップA14参照)、その後、終了する。終了後、所定時間経過したときにスタートに戻り、ステップA1~A13を行うようにしてもよい。
 ここで、ステップA6における、原料山(図4の11)に係る点群の検出方法について説明する。
 図4を参照すると、原料山11の斜面上のある平面16の方程式を[式1]とし、当該平面16に垂直な法線ベクトルnを[式2]とする。また、原料ヤード10における地面14の方程式を[式3]とし、当該地面14に垂直な法線ベクトルnを[式4]とする。平面16と地面14とのなす角θは、法線ベクトルn、nを用いると、[式5]のように表すことができる。
[式1]
Figure JPOXMLDOC01-appb-I000001
[式2]
Figure JPOXMLDOC01-appb-I000002
[式3]
Figure JPOXMLDOC01-appb-I000003
[式4]
Figure JPOXMLDOC01-appb-I000004
[式5]
Figure JPOXMLDOC01-appb-I000005
 平面16と地面14とのなす角θが安息角を満たすものを原料山11に係る点群として検出する。原料山11に係る点群は、図5に示すように、複雑な形状をしていても同様の方法で検出することができる。
 次に、ステップA8における、障害物(図6の20)に係る点群の除去、及び、欠損部分(図7の17)に係る点群の補間について説明する。
 撮影装置(図2の200)と原料山(図2の11)との間に、図6に示すような柱状(直方体、円柱等)の障害物20が存在する場合、原料山(図6の11)に係る点群から、障害物20に係る点群を除去すると、図7のように、欠損部分17を有する原料山11に係る点群が得られる。欠損部分17は、取得できている原料山11に係る点群に基づいて補間をする。補間方法として、例えば、線形補間法、最近傍補間法、濃度保管法等の画像補間法が挙げられる。
 次にステップA9における、原料山(図8の11)の原料山非オクルージョン部(図8の11a)の体積計算方法について説明する。
 図8を参照すると、原料山非オクルージョン部11aの体積は、ステップA6で検出(抽出)、又は、ステップA8で補間された原料山(図8の11)に係る点群に基づいて、凸包を作成することで求めることができる。凸包は、例えば、非特許文献1に記載のQuickhull法を用いたアルゴリズムによって作成することができる。Quickhull法を用いたアルゴリズムで作成した凸包は、図9のように複数の四面体により構成される。図10のように四面体の底面積をS、高さをhとすると、四面体の体積Vは三角錐の体積の公式[式6]から算出することができる。複数の四面体のそれぞれの体積の総和を算出することで、凸包全体の体積を計算し、計算された凸包全体の体積を原料山非オクルージョン部11aの体積とすることができる。
[式6]
Figure JPOXMLDOC01-appb-I000006
 次に、ステップA8における、原料山(図8の11)の原料山オクルージョン部(図8の11b)の体積推定方法について説明する。
 図8を参照すると、横から見た原料山11の各頂点をA、B、Cとすると、AC間のz軸方向の距離dacと、BC間のz軸方向の距離dbcとの関係が[式7]を満たす場合、原料山オクルージョン部11bの体積Vは、原料山非オクルージョン部11aの体積Vとすると、[式8]のように表すことができる。
[式7]
Figure JPOXMLDOC01-appb-I000007
[式8]
Figure JPOXMLDOC01-appb-I000008
 また、図11のようにdacとdbcとの関係が[式9]となる場合、図12に示すように、原料山11に係る点群(原料山非オクルージョン部11aに係る点群に相当)から原料山オクルージョン部11bに相当する部分をクロップし(原料山11の頂点Cからdbcまでの距離(頂点Cと壁との距離に相当)で切り出し)、クロップされた部分に係る点群の凸包を作成し、作成された凸包を構成する各四面体の体積の総和を算出することで、原料山オクルージョン部11bの体積Vを推定することができる。ここでの凸包による体積計算は、ステップA9における原料山非オクルージョン部11aの体積計算方法と同一である。
[式9]
Figure JPOXMLDOC01-appb-I000009
 なお、図13のように、おおよその積み付け範囲15が決まっている場合、原料ヤード10は原料山11の3方が壁に囲まれていなくてもよい。この場合、積み付け範囲15の外周に壁があるものと仮想することで前述の手順と同様の方法で原料山11の体積を計測することができる。
 以上のような体積計測システムは、スマートファクトリ領域の原料・製品の管理、鉱業における落鉱落炭の管理、食品製造業における原材料の管理、製紙業におけるチップの管理、廃棄物処理業における廃棄物の管理において利用することができる。
 実施形態1によれば、原料山非オクルージョン部11aの体積を計算し、かつ、原料山オクルージョン11bの体積を推定して原料山11全体の体積を計算することで、工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができる。また、実施形態1によれば、原料山11において一部の欠損や凹凸があっても、補間できるので、計測に影響はない。さらに、実施形態1によれば、非雨天用の安息角情報と雨天用の安息角情報とを使い分けて原料山11の体積を計算することで、天候の変化による誤検出を少なくすることができる。
[実施形態2]
 実施形態2に係る体積計測システムについて図面を用いて説明する。図14は、実施形態2に係る体積計測システムの構成を模式的に示したブロック図である。
 実施形態2は、実施形態1の変形例であり、安息角記憶部(図1の121)及び雨センサ(図1の205)を用いて予め設定された雨天用及び非雨天用の安息角情報を使い分ける代わりに、撮影装置200に設けられたカメラ206の画像データを用いて安息角情報をリアルタイムで計測するようにしたものである。
 撮影装置200は、カメラ206を有する。カメラ206は、被写体を撮影して画像データを生成するカメラである。カメラ206は、生成した画像データを、通信部203を通じて体積計測装置100に向けて出力する。カメラ206には、例えば、RGB(Red Green Blue)画像データを生成することが可能な、単眼のRGBカメラ、ステレオカメラを用いることができる。なお、デプスセンサ201が画像データを生成することが可能なものであれば、カメラ206を省略し、デプスセンサ201で生成された画像データを用いることができる。
 体積計測装置100の情報処理部110の原料山検出部113は、降雨検出(図3のステップA3)、及び、安息角情報読み出し(図3のステップA4、A5)を行わないで、取得部111で取得されたデプス情報とともに、カメラ206からの画像データを用いて、安息角情報を計測する。安息角情報の計測方法として、例えば、画像データから原料山の表面のテクスチャをディープラーニングにより学習したモデルを作成し、作成されたモデルを使用して原料山の座標を検出し、検出された原料山の座標における原料ヤードに係るデプス情報から安息角情報を計測することができる。原料山検出部113は、計測された安息角情報を用いて、点群変換部112で変換された原料ヤード(図2の10)に係る点群データから原料山(図4の11)に係る点群を検出(抽出)する。
 その他の構成及び動作については、実施形態1と同様である。
 実施形態2によれば、実施形態1と同様に、工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができるとともに、安息角情報の計測を自動化することで、様々な要因による誤検出を少なくすることができる。
[実施形態3]
 実施形態3に係る体積計測装置について図面を用いて説明する。図15は、実施形態3に係る体積計測装置の構成を模式的に示したブロック図である。図16は、実施形態3に係る体積計測装置の動作を模式的に示したフローチャート図である。
 体積計測装置100は、原料山11の体積を計測する装置である。体積計測装置100は、点群変換部112と、原料山検出部113と、原料山体積計算部114と、を有する(図15参照)。
 点群変換部112は、原料山11を有する原料ヤード10を撮影するデプスセンサ201からの原料ヤード10に係るデプス情報を原料ヤード10に係る点群データに変換する(図16のステップB1参照)。
 原料山検出部113は、原料山11の安息角に係る安息角情報を用いて原料ヤード10に係る点群データから原料山11に係る点群を検出する(図16のステップB2参照)。
 原料山体積計算部114は、原料山11に係る点群に基づいて、原料山11におけるデプスセンサ201から撮影可能な原料山非オクルージョン部11aの体積を計算する(図16のステップB3参照)。原料山体積計算部114は、少なくとも原料山11に係る点群を用いて、原料山11におけるデプスセンサ201から撮影不能な原料山オクルージョン部11bの体積を推定する(図16のステップB4参照)。原料山体積計算部114は、計算された原料山非オクルージョン部11aの体積、及び、推定された原料山オクルージョン部11bの体積を合計した原料山11の体積を計算する(図16のステップB5参照)。
 実施形態3によれば、原料山非オクルージョン部11aの体積を計算し、かつ、原料山オクルージョン11bの体積を推定して原料山11全体の体積を計算することで、工場の操業に影響を与えることなく、低コストかつ効率的に原料山の体積を計測するのに貢献することができる。
 なお、実施形態1~3に係る体積計測装置は、いわゆるハードウェア資源(情報処理装置、コンピュータ)により構成することができ、図18に例示する構成を備えたものを用いることができる。例えば、ハードウェア資源300は、内部バス304により相互に接続される、プロセッサ301、メモリ302、ネットワークインタフェース303等を備える。
 なお、図18に示す構成は、ハードウェア資源300のハードウェア構成を限定する趣旨ではない。ハードウェア資源300は、図示しないハードウェア(例えば、入出力インタフェース)を含んでもよい。あるいは、ハードウェア資源300に含まれるプロセッサ301等のユニットの数も図18の例示に限定する趣旨ではなく、例えば、複数のプロセッサ301が装置に含まれていてもよい。プロセッサ301には、例えば、CPU(Central Processing Unit)、MPU(Micro Processor Unit)等を用いることができる。
 メモリ302には、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)等を用いることができる。
 ネットワークインタフェース303には、例えば、LAN(Local Area Network)カード、ネットワークアダプタ、ネットワークインタフェースカード等を用いることができる。
 ハードウェア資源300の機能は、上述の処理モジュールにより実現される。当該処理モジュールは、例えば、メモリ302に格納されたプログラムをプロセッサ301が実行することで実現される。また、そのプログラムは、ネットワークを介してダウンロードするか、あるいは、プログラムを記憶した記憶媒体を用いて、更新することができる。さらに、上記処理モジュールは、半導体チップにより実現されてもよい。即ち、上記処理モジュールが行う機能は、何らかのハードウェアにおいてソフトウェアが実行されることによって実現できればよい。
 上記実施形態の一部又は全部は以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
 本発明では、前記第1の視点に係る体積計測装置の形態が可能である。
[付記2]
 前記原料山検出部は、前記原料山に係る点群を検出する際、前記原料山の斜面上のある平面と前記原料ヤードにおける地面とのなす角が前記安息角情報における前記安息角を満たすものを前記原料山に係る前記点群として検出する、
付記1記載の体積計測装置。
[付記3]
 前記デプスセンサから前記原料ヤードに係る前記デプス情報を取得する取得部をさらに備え、
 前記点群変換部は、前記原料ヤードに係る前記点群データに変換する際、前記取得部で取得した前記原料ヤードに係る前記デプス情報を前記原料ヤードに係る点群データに変換する、
付記1又は2記載の体積計測装置。
[付記4]
 雨天用の安息角情報、及び、非雨天用の安息角情報を記憶する安息角記憶部をさらに備え、
 前記原料山検出部は、前記原料山に係る前記点群を検出する際、前記原料ヤードの降雨を検出する雨センサが降雨を検出しているか否かを確認し、前記雨センサが降雨を検出しているときに前記安息角記憶部から前記雨天用の安息角情報を読み出し、前記雨センサが降雨を検出していないときに前記安息角記憶部から前記非雨天用の安息角情報を読み出し、読み出された前記雨天用の安息角情報、又は、前記非雨天用の安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する、
付記1乃至3のいずれか一に記載の体積計測装置。
[付記5]
 前記原料山検出部は、前記原料山に係る前記点群を検出する際、カメラからの画像データを用いて安息角情報を計測し、計測された前記安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する、
付記1乃至3のいずれか一に記載の体積計測装置。
[付記6]
 前記原料山検出部は、前記安息角情報を計測する際、前記画像データから前記原料山の表面のテクスチャをディープラーニングにより学習したモデルを作成し、作成された前記モデルを使用して前記原料山の座標を検出し、検出された前記原料山の前記座標における前記原料ヤードに係る前記デプス情報から前記安息角情報を計測する、
付記5記載の体積計測装置。
[付記7]
 前記原料山検出部は、さらに、前記原料ヤードに係る前記点群データにおいて、前記原料山と前記デプスセンサとの間に存在する障害物に係る点群があるか否かを確認し、前記障害物に係る前記点群があるときに、検出された前記原料山に係る点群から前記障害物に係る前記点群を除去し、前記原料山に係る前記点群における、前記障害物に係る前記点群の除去によってできた欠損部分に係る点群を補間し、
 前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山検出部で前記欠損部分に係る前記点群を補間した前記原料山に係る前記点群に基づいて、前記原料山非オクルージョン部の体積を計算する、
付記1乃至6のいずれか一に記載の体積計測装置。
[付記8]
 前記原料山検出部は、前記欠損部分に係る前記点群を補間する際、画像補間法を用いて前記欠損部分に係る前記点群を補間する、
付記7記載の体積計測装置。
[付記9]
 前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山検出部で前記障害物に係る前記点群がないときに、前記原料山検出部で検出された前記原料山に係る前記点群に基づいて、前記原料山非オクルージョン部の体積を計算する、
付記7又は8記載の体積計測装置。
[付記10]
 前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山非オクルージョン部の前記体積とする、
付記1乃至9のいずれか一に記載の体積計測装置。
[付記11]
 前記原料ヤードにおける壁の位置に係る壁位置情報を記憶する壁位置記憶部をさらに備え、
 前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群を用いて、前記原料ヤードに壁があるか否かを確認し、前記壁があるときに、前記壁位置記憶部から前記壁位置情報を読み出し、前記原料山に係る前記点群、及び、前記壁位置情報を用いて、前記原料山オクルージョン部の体積を推定する、
付記1乃至10のいずれか一に記載の体積計測装置。
[付記12]
 前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群から、前記原料山の頂点と前記壁との間の距離に相当する部分を切り出し、切り出された前記部分に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山オクルージョン部の前記体積とする、
付記11記載の体積計測装置。
[付記13]
 前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記壁がないときに、前記原料山に係る前記点群を用いて、前記原料山オクルージョン部の体積を推定する、
付記11又は12記載の体積計測装置。     
[付記14]
 本発明では、前記第2の視点に係る体積計測システムの形態が可能である。
[付記15]
 本発明では、前記第3の視点に係る体積計測方法の形態が可能である。
[付記16]
 本発明では、前記第4の視点に係るプログラムの形態が可能である。
 なお、上記の特許文献、非特許文献の各開示を、本書に引用をもって繰り込むものとする。本発明の全開示(特許請求の範囲及び図面を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の全開示の枠内において種々の開示要素(各請求項の各要素、各実施形態ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせないし選択(必要により不選択)が可能である。すなわち、本発明は、請求の範囲及び図面を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。また、本願に記載の数値及び数値範囲については、明記がなくともその任意の中間値、下位数値、及び、小範囲が記載されているものとみなされる。さらに、上記引用した文献の各開示事項は、必要に応じ、本発明の趣旨に則り、本発明の開示の一部として、その一部又は全部を、本書の記載事項と組み合わせて用いることも、本願の開示事項に含まれるものとみなされる。
 1 体積計測システム
 10 原料ヤード
 11 原料山
 11a 原料山非オクルージョン部
 11b 原料山オクルージョン部
 12 壁
 13 カメラ
 14 地面
 15 積み付け範囲
 16 平面
 17 欠損部分
 20 障害物
 100 体積計測装置
 110 情報処理部
 111 取得部
 112 点群変換部
 113 原料山検出部
 114 原料山体積計算部
 120 記憶部
 121 安息角記憶部
 122 壁位置記憶部
 130 入力部
 140 出力部
 150 通信部
 200 撮影装置
 201 デプスセンサ
 202 センサ制御部
 203 通信部
 204 バッテリ
 205 雨センサ
 206 カメラ
 300 ハードウェア資源
 301 プロセッサ
 302 メモリ
 303 ネットワークインタフェース
 304 内部バス

Claims (11)

  1.  原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する点群変換部と、
     前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する原料山検出部と、
     前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する原料山体積計算部と、
    を備える、
    体積計測装置。
  2.  前記原料山検出部は、前記原料山に係る点群を検出する際、前記原料山の斜面上のある平面と前記原料ヤードにおける地面とのなす角が前記安息角情報における前記安息角を満たすものを前記原料山に係る前記点群として検出する、
    請求項1記載の体積計測装置。
  3.  雨天用の安息角情報、及び、非雨天用の安息角情報を記憶する安息角記憶部をさらに備え、
     前記原料山検出部は、前記原料山に係る前記点群を検出する際、前記原料ヤードの降雨を検出する雨センサが降雨を検出しているか否かを確認し、前記雨センサが降雨を検出しているときに前記安息角記憶部から前記雨天用の安息角情報を読み出し、前記雨センサが降雨を検出していないときに前記安息角記憶部から前記非雨天用の安息角情報を読み出し、読み出された前記雨天用の安息角情報、又は、前記非雨天用の安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する、
    請求項1又は2記載の体積計測装置。
  4.  前記原料山検出部は、前記原料山に係る前記点群を検出する際、カメラからの画像データを用いて安息角情報を計測し、計測された前記安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する、
    請求項1又は2記載の体積計測装置。
  5.  前記原料山検出部は、さらに、前記原料ヤードに係る前記点群データにおいて、前記原料山と前記デプスセンサとの間に存在する障害物に係る点群があるか否かを確認し、前記障害物に係る前記点群があるときに、検出された前記原料山に係る点群から前記障害物に係る前記点群を除去し、前記原料山に係る前記点群における、前記障害物に係る前記点群の除去によってできた欠損部分に係る点群を補間し、
     前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山検出部で前記欠損部分に係る前記点群を補間した前記原料山に係る前記点群に基づいて、前記原料山非オクルージョン部の体積を計算する、
    請求項1乃至4のいずれか一に記載の体積計測装置。
  6.  前記原料山体積計算部は、前記原料山非オクルージョン部の前記体積を計算する際、前記原料山に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山非オクルージョン部の前記体積とする、
    請求項1乃至5のいずれか一に記載の体積計測装置。
  7.  前記原料ヤードにおける壁の位置に係る壁位置情報を記憶する壁位置記憶部をさらに備え、
     前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群を用いて、前記原料ヤードに壁があるか否かを確認し、前記壁があるときに、前記壁位置記憶部から前記壁位置情報を読み出し、前記原料山に係る前記点群、及び、前記壁位置情報を用いて、前記原料山オクルージョン部の体積を推定する、
    請求項1乃至6のいずれか一に記載の体積計測装置。
  8.  前記原料山体積計算部は、前記原料山オクルージョン部の前記体積を推定する際、前記原料山に係る前記点群から、前記原料山の頂点と前記壁との間の距離に相当する部分を切り出し、切り出された前記部分に係る点群に基づいて、複数の四面体から構成される凸包を作成し、前記複数の四面体のそれぞれの体積の総和を算出することで、前記凸包全体の体積を計算し、計算された前記凸包全体の前記体積を前記原料山オクルージョン部の前記体積とする、
    請求項7記載の体積計測装置。
  9.  原料山を有する原料ヤードを撮影するデプスセンサと、
     請求項1乃至8のいずれか一に記載の体積計測装置と、
    を備える、
    体積計測システム。
  10.  原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換するステップと、
     前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出するステップと、
     前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算するステップと、
    を含む、
    体積計測方法。
  11.  原料山を有する原料ヤードを撮影するデプスセンサからの前記原料ヤードに係るデプス情報を前記原料ヤードに係る点群データに変換する処理と、
     前記原料山の安息角に係る安息角情報を用いて前記原料ヤードに係る前記点群データから前記原料山に係る点群を検出する処理と、
     前記原料山に係る前記点群に基づいて、前記原料山における前記デプスセンサから撮影可能な原料山非オクルージョン部の体積を計算し、少なくとも前記原料山に係る前記点群を用いて、前記原料山における前記デプスセンサから撮影不能な原料山オクルージョン部の体積を推定し、計算された前記原料山非オクルージョン部の前記体積、及び、推定された前記原料山オクルージョン部の前記体積を合計した前記原料山の体積を計算する処理と、
    をハードウェア資源に実行させる、
    プログラム。
PCT/JP2019/045391 2018-11-21 2019-11-20 体積計測装置、システム、方法、及びプログラム WO2020105669A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
US17/417,317 US20220252443A1 (en) 2018-11-21 2019-11-20 Volume measurement apparatus, system, method, and program
SG11202104860WA SG11202104860WA (en) 2018-11-21 2019-11-20 Volume measurement apparatus, system, method, and program
CN201980076211.4A CN113167569B (zh) 2018-11-21 2019-11-20 体积测量装置、系统、方法和程序
JP2020557587A JP7103690B2 (ja) 2018-11-21 2019-11-20 体積計測装置、システム、方法、及びプログラム
PH12021551120A PH12021551120A1 (en) 2018-11-21 2021-05-14 Volume measurement apparatus, system, method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-218148 2018-11-21
JP2018218148 2018-11-21

Publications (1)

Publication Number Publication Date
WO2020105669A1 true WO2020105669A1 (ja) 2020-05-28

Family

ID=70773830

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/045391 WO2020105669A1 (ja) 2018-11-21 2019-11-20 体積計測装置、システム、方法、及びプログラム

Country Status (6)

Country Link
US (1) US20220252443A1 (ja)
JP (1) JP7103690B2 (ja)
CN (1) CN113167569B (ja)
PH (1) PH12021551120A1 (ja)
SG (1) SG11202104860WA (ja)
WO (1) WO2020105669A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113008136A (zh) * 2021-02-04 2021-06-22 江汉大学 不规则堆料的体积测量方法、系统、电子设备及存储介质
CN114139793A (zh) * 2021-11-25 2022-03-04 北京众驰自动化设备有限公司 智能料场集中管控系统及方法
JP7348144B2 (ja) 2020-07-09 2023-09-20 株式会社神戸製鋼所 廃棄物高さ情報検出装置および該方法
WO2024034297A1 (ja) * 2022-08-12 2024-02-15 株式会社日立製作所 在庫管理装置および在庫管理方法
JP7489363B2 (ja) 2021-10-15 2024-05-23 株式会社神戸製鋼所 点群データ処理装置、該方法および該プログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114964437B (zh) * 2022-04-13 2024-02-13 成都百威智联科技有限公司 一种自动测量锥型圆筒仓粮食数量的方法、装置及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01321206A (ja) * 1988-06-20 1989-12-27 Kawasaki Steel Corp 原料ヤードの管理装置
US20140163885A1 (en) * 2012-12-07 2014-06-12 Caterpillar Inc. Terrain map updating system
WO2016159839A1 (en) * 2015-03-30 2016-10-06 Volvo Construction Equipment Ab System and method for determining the material loading condition of a bucket of a material moving machine
WO2017175312A1 (ja) * 2016-04-05 2017-10-12 株式会社日立物流 計測システム及び計測方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10005127A1 (de) * 2000-02-07 2001-08-09 Valeo Auto Electric Gmbh Verwendung eines Regensensors für Kraftfahrzeuge als Sensor zur Messung der Umgebungshelligkeit
JP4155942B2 (ja) * 2004-04-20 2008-09-24 ホソカワミクロン株式会社 粉体堆積層の角度測定装置
CN100427876C (zh) * 2005-05-26 2008-10-22 上海交通大学 料场测量的计算机视觉系统自动测量的方法
JP2010286436A (ja) * 2009-06-15 2010-12-24 Mitsubishi Electric Corp 計測装置及び計測方法
JP5574726B2 (ja) * 2010-02-01 2014-08-20 新日鐵住金株式会社 原料ヤードの原料山計測システム、原料ヤードの原料山計測方法、及びコンピュータプログラム
JP5847409B2 (ja) * 2011-03-17 2016-01-20 新日鐵住金株式会社 原料ヤード管理システム、原料ヤード管理方法、及びコンピュータプログラム
JP6408317B2 (ja) * 2014-09-18 2018-10-17 日鉄住金テックスエンジ株式会社 原料ヤードの原料山形状の計測方法および計測装置
CN106610263A (zh) * 2015-10-22 2017-05-03 宝山钢铁股份有限公司 大型料场全天候测量系统及方法
CN105551064B (zh) * 2015-12-08 2018-04-20 济南中维世纪科技有限公司 一种基于图像特征估计堆料体积变化率的方法
CN106094702B (zh) * 2016-05-31 2020-07-07 中国神华能源股份有限公司 一种料堆建模方法和料堆建模装置
US9656429B1 (en) * 2016-08-09 2017-05-23 Arevo, Inc. Systems and methods for structurally analyzing and printing parts
CN107437268A (zh) * 2017-07-31 2017-12-05 广东欧珀移动通信有限公司 拍照方法、装置、移动终端和计算机存储介质
CN108182715A (zh) * 2017-12-13 2018-06-19 泰富智能科技有限公司 一种具有统计堆料场物料信息的堆取料系统
JP2020009326A (ja) * 2018-07-11 2020-01-16 日本電信電話株式会社 電波伝搬シミュレーションモデルの作成方法、作成システム、作成装置および作成プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01321206A (ja) * 1988-06-20 1989-12-27 Kawasaki Steel Corp 原料ヤードの管理装置
US20140163885A1 (en) * 2012-12-07 2014-06-12 Caterpillar Inc. Terrain map updating system
WO2016159839A1 (en) * 2015-03-30 2016-10-06 Volvo Construction Equipment Ab System and method for determining the material loading condition of a bucket of a material moving machine
WO2017175312A1 (ja) * 2016-04-05 2017-10-12 株式会社日立物流 計測システム及び計測方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7348144B2 (ja) 2020-07-09 2023-09-20 株式会社神戸製鋼所 廃棄物高さ情報検出装置および該方法
CN113008136A (zh) * 2021-02-04 2021-06-22 江汉大学 不规则堆料的体积测量方法、系统、电子设备及存储介质
JP7489363B2 (ja) 2021-10-15 2024-05-23 株式会社神戸製鋼所 点群データ処理装置、該方法および該プログラム
CN114139793A (zh) * 2021-11-25 2022-03-04 北京众驰自动化设备有限公司 智能料场集中管控系统及方法
CN114139793B (zh) * 2021-11-25 2023-12-22 北京众驰自动化设备有限公司 智能料场集中管控系统及方法
WO2024034297A1 (ja) * 2022-08-12 2024-02-15 株式会社日立製作所 在庫管理装置および在庫管理方法

Also Published As

Publication number Publication date
US20220252443A1 (en) 2022-08-11
CN113167569B (zh) 2022-10-11
SG11202104860WA (en) 2021-06-29
JP7103690B2 (ja) 2022-07-20
JPWO2020105669A1 (ja) 2021-10-14
CN113167569A (zh) 2021-07-23
PH12021551120A1 (en) 2021-11-22

Similar Documents

Publication Publication Date Title
WO2020105669A1 (ja) 体積計測装置、システム、方法、及びプログラム
US10321116B2 (en) Method and system for volume determination using a structure from motion algorithm
CN105787923B (zh) 用于平面表面分割的视觉系统和分析方法
EP3012601B1 (en) Handheld dimensioning system with measurement-conformance feedback
EP3438602B1 (en) Dimension measurement apparatus and control method of the same
KR101531305B1 (ko) 선박의 흘수 측정 시스템 및 방법
JP6733267B2 (ja) 情報処理プログラム、情報処理方法および情報処理装置
JP6632208B2 (ja) 情報処理装置、情報処理方法、プログラム
CN103456038A (zh) 一种井下环境三维场景重建方法
WO2013186160A1 (en) Closed loop 3d video scanner for generation of textured 3d point cloud
JP6791041B2 (ja) 原料山計測方法および原料山計測システム
CN110428372B (zh) 深度数据与2d激光数据融合方法及装置、存储介质
JP6091658B2 (ja) 情報処理装置及び情報処理方法及びプログラム
CN112378333B (zh) 仓储货物测量方法和装置
CN111814739B (zh) 快递包裹体积的检测方法、装置、设备及存储介质
JP2021135234A (ja) 体積計測装置、システム、方法、及びプログラム
JP6702370B2 (ja) 計測装置、計測システム、計測方法およびコンピュータプログラム
Verhoeven et al. From 2D (to 3D) to 2.5 D: not all gridded digital surfaces are created equally
Briese et al. Analysis of mobile laser scanning data and multi-view image reconstruction
JP7323170B2 (ja) 積載容積率計測装置、システム、方法、及び、プログラム
JP7251869B2 (ja) 距離計測装置、システム、方法、及びプログラム
JP7298687B2 (ja) 物体認識装置及び物体認識方法
JP2022018517A (ja) ケーブル検出装置、方法、及びプログラム
JP2022018516A (ja) 離隔距離計測装置、方法、及びプログラム
CN109060086A (zh) 一种预估危险废物重量的方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19886631

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020557587

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19886631

Country of ref document: EP

Kind code of ref document: A1