WO2019049475A1 - 施工管理装置および施工管理方法 - Google Patents

施工管理装置および施工管理方法 Download PDF

Info

Publication number
WO2019049475A1
WO2019049475A1 PCT/JP2018/024382 JP2018024382W WO2019049475A1 WO 2019049475 A1 WO2019049475 A1 WO 2019049475A1 JP 2018024382 W JP2018024382 W JP 2018024382W WO 2019049475 A1 WO2019049475 A1 WO 2019049475A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
construction management
camera
image pair
dimensional data
Prior art date
Application number
PCT/JP2018/024382
Other languages
English (en)
French (fr)
Inventor
雄一 根本
充広 青木
Original Assignee
株式会社小松製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所 filed Critical 株式会社小松製作所
Priority to DE112018001834.2T priority Critical patent/DE112018001834T5/de
Priority to US16/606,816 priority patent/US11100663B2/en
Priority to CN201880027693.XA priority patent/CN110573834B/zh
Priority to AU2018327449A priority patent/AU2018327449B9/en
Publication of WO2019049475A1 publication Critical patent/WO2019049475A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Definitions

  • the present invention relates to a construction management device and a construction management method.
  • Priority is claimed on Japanese Patent Application No. 2017-173237, filed on Sep. 8, 2017, the content of which is incorporated herein by reference.
  • Patent Document 1 a technique is known in which an imaging device attached to a working machine captures a pair of images, and a computer with which the working machine is provided generates three-dimensional data representing topography based thereon. It is done.
  • the aspect of this invention aims at providing the construction management apparatus and construction management method which can calculate the three-dimensional data of the topography in arbitrary time points or points.
  • the construction management device is a construction management device that generates three-dimensional data of the construction site using a plurality of work machines provided with an imaging device disposed at the construction site, A camera parameter storage unit storing a plurality of camera parameters associated with each imaging device in the plurality of work machines, and a plurality of image pairs captured by the imaging devices provided in the plurality of work machines; A working unit that picks up the selected target image pair among a plurality of camera parameters stored in the camera parameter storage unit and a selection unit that selects a target image pair to be processed based on an input from a user 3D representing the topography of the periphery of the work machine which has captured the target image pair from the selected target image pair using camera parameters related to the imaging device in And a stereo measurement unit that generates over data.
  • the construction management device can calculate three-dimensional data of terrain at any point or time.
  • BRIEF DESCRIPTION OF THE DRAWINGS It is a perspective view which shows the external appearance of the hydraulic shovel which concerns on 1st Embodiment.
  • FIG. 1 is a block diagram of a construction management system according to the first embodiment.
  • the construction management system 1 includes a plurality of hydraulic shovels 100 and a construction management device 200.
  • the construction management system 1 is a system that manages the construction state of a construction site by the hydraulic shovel 100.
  • the hydraulic shovel 100 and the construction management device 200 are connected via a network.
  • the hydraulic shovel 100 performs work such as excavation and filling at a construction site.
  • the hydraulic shovel 100 also includes a stereo camera configured by at least one imaging device pair, and captures at least one pair of images having parallax.
  • a pair of images captured by a stereo camera is also referred to as an image pair.
  • the image pair is transmitted to the construction management device 200.
  • the hydraulic shovel 100 is an example of a working machine. In another embodiment, a working machine that is not the hydraulic shovel 100 may include a stereo camera.
  • the construction management device 200 receives an image pair showing the construction site from the hydraulic shovel 100, and manages the image pair in association with the ID of the hydraulic shovel 100 and the imaging time.
  • the construction management apparatus 200 generates point cloud data representing the topography of the construction site by stereo measuring the image pair.
  • the construction management device 200 calculates the amount of work (volume) of the construction site using the point cloud data.
  • Point cloud data is an example of three-dimensional data.
  • TIN Triangulated Irregular Network
  • DEM Digital Elevation Model
  • polygon data Polygon data
  • voxel data may be generated as three-dimensional data.
  • FIG. 2 is a perspective view showing the appearance of the hydraulic shovel according to the first embodiment.
  • the hydraulic shovel 100 which is a working machine, includes a working machine 110 that operates hydraulically, a swing body 120 that supports the working machine 110, and a traveling body 130 that supports the swing body 120.
  • the revolving unit 120 is provided with an operation room 121 in which an operator gets on.
  • a stereo camera 122 is provided at the top of the cab 121.
  • the stereo camera 122 is installed forward and upward in the cab 121.
  • the stereo camera 122 captures an image of the front of the cab 121 through the windshield on the front of the cab 121.
  • the stereo camera 122 comprises at least one pair of cameras.
  • the stereo camera 122 comprises two pairs of imaging devices. That is, the stereo camera 122 includes four imaging devices.
  • the stereo camera 122 includes a first camera 1221, a second camera 1222, a third camera 1223, and a fourth camera 1224 in order from the right. Examples of each imaging device include, for example, an imaging device using a charge coupled device (CCD) sensor and a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charge coupled device
  • CMOS complementary metal oxide semiconductor
  • the first camera 1221 and the third camera 1223 are an imaging device pair.
  • the first camera 1221 and the third camera 1223 are installed at intervals in the left-right direction so that the optical axes are substantially parallel to the floor surface of the cab 121.
  • the second camera 1222 and the fourth camera 1224 are an imaging device pair.
  • the second camera 1222 and the fourth camera 1224 have left and right directions such that the optical axes are substantially parallel and that the optical axes are inclined downward from the front of the cab 121 with respect to the floor surface of the cab 121. Spaced apart from each other.
  • the stereo camera 122 By using a pair of images (image pairs) captured by at least one imaging device pair of the stereo cameras 122, the distance between the stereo camera 122 and the imaging target can be calculated.
  • the stereo camera 122 may be configured by one pair of cameras or may be configured by three or more pairs of cameras.
  • the hydraulic shovel 100 includes a stereo camera 122, a position / orientation calculator 123, an inclination detector 124, and a controller 125.
  • the position / orientation calculator 123 calculates the position of the rotating body 120 and the direction in which the rotating body 120 faces.
  • the position / orientation calculator 123 includes a first receiver 1231 and a second receiver 1232 that receive positioning signals from satellites that constitute a Global Navigation Satellite System (GNSS).
  • the first receiver 1231 and the second receiver 1232 are respectively installed at different positions of the revolving unit 120.
  • the position / orientation calculator 123 detects the position of the representative point (the origin of the vehicle coordinate system) of the revolving unit 120 in the on-site coordinate system based on the positioning signal received by the first receiver 1231.
  • An example of the GNSS is GPS (Global Positioning System).
  • the position and orientation computing unit 123 is a second receiver for the installation position of the first receiver 1231 detected using the positioning signal received by the first receiver 1231 and the positioning signal received by the second receiver 1232 As a relationship of the installation position of 1232, the direction in which the rotating body 120 faces is calculated.
  • the inclination detector 124 measures the acceleration and angular velocity of the swing body 120, and detects the attitude (for example, roll angle, pitch angle, yaw angle) of the swing body 120 based on the measurement result.
  • the inclination detector 124 is installed, for example, on the lower surface of the cab 121.
  • the inclination detector 124 may use, for example, an inertial measurement unit (IMU).
  • IMU inertial measurement unit
  • FIG. 3 is a schematic view showing the configuration of the control device of the hydraulic shovel according to the first embodiment.
  • the control device 125 is a computer provided with a processor 310, a main memory 320, a storage 330, and an interface 340.
  • the storage 330 stores a program.
  • the processor 310 reads the program from the storage 330, develops the program in the main memory 320, and executes processing in accordance with the program.
  • the controller 125 is connected to the network via an interface 340.
  • the storage 330 has a storage area as a camera parameter storage unit 331.
  • Examples of the storage 330 include a hard disk drive (HDD), a solid state drive (SSD), a magnetic disk, an optical magnetic disk, a compact disc read only memory (CD-ROM), and a digital versatile disc read only memory (DVD-ROM). , Semiconductor memory and the like.
  • the storage 330 may be internal media directly connected to the bus of the controller 125 or may be external media connected to the controller 125 via the interface 340.
  • the storage 330 is a non-temporary, tangible storage medium.
  • the camera parameter storage unit 331 stores camera parameters of the stereo camera 122.
  • Camera parameters are parameters used for stereo measurement by an image pair.
  • the camera parameters include, for example, internal parameters, external parameters and vehicle parameters.
  • the internal parameter is a parameter that indicates the characteristics of each imaging device. Examples of internal parameters include the focal length of the optical system of the imaging device, the position of the intersection of the optical axis of the optical system of the imaging device and the imaging surface of the image sensor, and the distortion coefficient in the radial direction of the imaging device lens.
  • the external parameter is a parameter that indicates the positional relationship between the pair of imaging devices. Examples of external parameters include the relative position between a pair of imaging devices and the relative attitude (roll angle, pitch angle, yaw angle).
  • the vehicle body parameters include the camera position in the vehicle body coordinate system. The vehicle body parameters are parameters for converting the vehicle body coordinate system and the camera coordinate system.
  • the processor 310 includes an image acquisition unit 311, an image transmission unit 312, a camera parameter update unit 313, and a camera parameter transmission unit 314 by execution of a program.
  • the image acquisition unit 311 acquires a pair of images captured by the stereo camera 122, the position and orientation of the rotating body 120 measured by the position and orientation computing unit 123, and the posture of the rotating body 120 measured by the tilt detector 124.
  • the image transmission unit 312 measures the ID of the hydraulic shovel 100, the image pair captured by the stereo camera 122, the image capturing time of the image pair, the position and orientation of the rotating body 120 measured by the position and orientation calculator 123, and the tilt detector 124
  • the postures of the revolving unit 120 are associated and transmitted to the construction management device 200.
  • the camera parameter updating unit 313 updates the camera parameters stored in the camera parameter storage unit 331 each time the stereo camera 122 is calibrated.
  • the camera parameter transmission unit 314 transmits the ID of the hydraulic shovel, the camera parameter, and the update time thereof to the construction management apparatus 200 each time the camera parameter update unit 313 updates the camera parameter stored in the camera parameter storage unit 331.
  • the control device 125 may perform stereo measurement using the image pair captured by the stereo camera 122 and the camera parameter stored in the camera parameter storage unit 331 independently of the construction management device 200.
  • FIG. 4 is schematic which shows the structure of the construction management apparatus which concerns on 1st Embodiment.
  • the construction management device 200 is a computer including a processor 210, a main memory 220, a storage 230, and an interface 240.
  • the storage 230 stores a construction management program P.
  • the processor 210 reads out the construction management program P from the storage 230, develops the construction management program P in the main memory 220, and executes processing according to the construction management program P.
  • the construction management device 200 is connected to the network via the interface 240.
  • the construction management device 200 is also connected to an input / output device (not shown) via the interface 240.
  • the storage 230 includes storage areas as a camera parameter storage unit 231, a model data storage unit 232, and an image storage unit 233.
  • Examples of the storage 230 include a hard disk drive (HDD), a solid state drive (SSD), a magnetic disk, a magneto-optical disk, a compact disc read only memory (CD-ROM), and a digital versatile disc read only memory (DVD-ROM). , Semiconductor memory and the like.
  • the storage 230 may be internal media directly connected to the bus of the construction management device 200, or may be external media connected to the construction management device 200 via the interface 240.
  • the storage 230 is a non-temporary, tangible storage medium.
  • the camera parameter storage unit 231 stores camera parameters in association with the ID of the hydraulic shovel 100 and the update time of the camera parameter of the stereo camera 122 included in the hydraulic shovel 100. That is, the camera parameter storage unit 231 stores the camera parameters of the imaging device pair at the time, in association with each of the plurality of times. Camera parameters differ for each stereo camera 122 provided in each hydraulic excavator 100. Also, even with the same stereo camera 122, the camera parameters are updated each time calibration is performed.
  • the camera parameter storage unit 331 stores camera parameters for each ID of the hydraulic shovel 100 and for each calibration operation (every update time).
  • the camera parameter storage unit 331 can store camera parameters by a file system having a directory structure. For example, the camera parameter storage unit 331 stores a site directory divided for each construction site. The camera parameter storage unit 331 stores a machine directory divided for each hydraulic excavator 100 deployed at the construction site under the control of each site directory. The camera parameter storage unit 331 stores the camera parameters of the hydraulic excavator 100 for each update time under each
  • the model data storage unit 232 stores model-specific data such as the installation positions of the first receiver 1231 and the second receiver 1232 in the model in association with the model of the hydraulic shovel 100.
  • the position of the first receiver 1231 is a representative point of the revolving unit 120 in the work site coordinate system (the origin of the vehicle coordinate system). That is, the model-specific data can be parameters for converting the on-site coordinate system and the vehicle-body coordinate system. In this way, the construction management device 200 can compensate for differences between models such as the installation position of the GNSS reception antenna being different depending on the model of the hydraulic shovel 100.
  • the image storage unit 233 stores an image pair captured by the stereo camera 122 included in the hydraulic shovel 100 at the imaging time, in association with the ID of the hydraulic shovel 100 and the imaging time.
  • the image pair stores the position and orientation of the swing body 120 measured by the position and orientation computing unit 123 of the hydraulic shovel 100 at the imaging time and the posture of the swing body 120 measured by the inclination detector 124 in association with each other.
  • FIG. 5 is an example showing a management method of an image pair by the image storage unit.
  • the image storage unit 233 can store an image pair by a file system having a directory structure as shown in FIG.
  • the image storage unit 233 stores a site directory divided for each construction site.
  • the image storage unit 233 stores a machine directory divided for each work machine deployed at the construction site under the control of each site directory.
  • the image storage unit 233 stores an image pair captured by the work machine under each machine directory.
  • Each image pair stores time, position, orientation, and attitude as attribute information.
  • the image storage unit 233 may store the image pair by a database. In this case, the image storage unit 233 associates and stores the ID of the construction site, the ID of the hydraulic shovel 100, the imaging time, the image pair, the position, the direction, and the posture.
  • the processor 210 includes a pre-operation data input unit 211, a list instruction unit 212, a selection unit 213, a camera parameter acquisition unit 214, a stereo measurement unit 215, an integration unit 216, and an amount-of-earthwork calculation unit 217 by executing the construction management program P. .
  • the pre-operation data input unit 211 receives, from the user, input of pre-operation data which is three-dimensional data representing the shape of the construction site before the operation.
  • pre-operation data include point cloud data representing the shape of a construction site generated by photogrammetry by a drone at the time of construction and point cloud data representing the shape of the construction site generated by a laser scanner at the time of construction.
  • the pre-operation data is not limited to point cloud data, and may be surface data such as TIN data.
  • the pre-work data may be stored in advance in the storage 230 or may be transferred from another computer via a network. “Before work” may be a time before starting construction at a construction site (during construction) or may be a certain time during construction.
  • the list designation unit 212 receives a selection instruction of an image pair used for calculation of the amount of work from the user.
  • the user inputs an instruction using, for example, an input device connected via the interface 240 or another computer connected via a network.
  • the list designation unit 212 presents the user with a list of a plurality of image pairs stored in the image storage unit 233.
  • the list instruction unit 212 receives an input of the end date of the period for which the amount of earthwork is to be calculated from the user, and uses the list of a plurality of image pairs captured from the start date to the end date input. May be presented to The user specifies an image pair to be used for calculation of the amount of work from the presented list.
  • the user selects, from among the plurality of image pairs stored in the image storage unit 233, a plurality of image pairs in which the construction site after work is shown.
  • the list instruction unit 212 receives an instruction to select an image pair specified by the user. “After work” may be at a certain point in the middle of construction, or may be at a construction time when construction at the construction site has the same shape as the design data (when construction is completed).
  • Selection unit 213 selects an image pair used for calculation of the amount of work from among the plurality of image pairs stored in image storage unit 233 in accordance with the selection instruction received by list instruction unit 212.
  • the image pair selected by the selection unit 213 is referred to as a target image pair or one target image pair.
  • a target image pair in which a construction site after work is photographed is referred to as a post-work image pair. That is, the selection unit 213 selects at least one target image pair to be processed from among the plurality of image pairs captured by the stereo camera 122 provided in the hydraulic shovel 100.
  • the processing target refers to an image pair used for stereo measurement.
  • the target image pair refers to an image pair selected as a processing target.
  • the camera parameter acquisition unit 214 specifies the hydraulic shovel 100 that has captured the selected target image pair, and acquires the latest camera parameter related to the hydraulic shovel 100 from the camera parameter storage unit 231.
  • the camera parameter acquisition unit 214 reads out the ID of the hydraulic shovel 100 associated with each target image pair from the image storage unit 233, and stores camera parameters associated with the ID and associated with the latest update time, Acquired from the part 231. That is, the camera parameter acquisition unit 214 acquires camera parameters associated with the target image pair from the camera parameter storage unit 231.
  • “to acquire” is to acquire a new value.
  • "acquire" includes receiving a value, accepting an input of a value, reading a value from a table, and calculating another value from one value.
  • the stereo measurement unit 215 calculates point cloud data representing topography by performing stereo measurement on the target image pair selected by the selection unit 213 using the camera parameters acquired by the camera parameter acquisition unit 214.
  • the point cloud data is, for example, three-dimensional data consisting of a plurality of points indicating the three-dimensional position of the on-site coordinate system. That is, the stereo measurement unit 215 calculates three-dimensional data representing topography from the selected target image pair, using the camera parameters of the stereo camera 122 that has captured the selected target image pair.
  • the stereo measurement unit 215 calculates point cloud data by performing stereo measurement on the post-operation image pair selected by the selection unit 213.
  • point cloud data obtained from the post-operation image pair is referred to as post-operation point cloud data.
  • the integration unit 216 integrates the plurality of point cloud data generated by the stereo measurement unit 215 into one point cloud data when the selection unit 213 selects a plurality of target image pairs.
  • the point cloud data integrated by the integrating unit 216 is referred to as integrated point cloud data.
  • the integrated point cloud data is an example of integrated three-dimensional data. That is, the integration unit 216 calculates integrated three-dimensional data based on a plurality of three-dimensional data.
  • the integration unit 216 integrates a plurality of post-operation point cloud data and generates post-operation integrated point cloud data.
  • the integration unit 216 reduces the density of the integrated point group data to a predetermined density.
  • the integration unit 216 extracts, as a representative point, a point corresponding to a median value of heights among a plurality of points existing in the section. Reduce the density of integrated point cloud data.
  • the integration unit 216 according to the other embodiment extracts representative points using other methods, such as extracting the lowest point among the plurality of points existing in each of the plurality of sections as a representative point.
  • the integration unit 216 generates surface data representing topography, for example, by arranging a TIN (Triangulated Irregular Network: unequal triangle network) in the integrated point cloud data. Surface data is an example of integrated three-dimensional data.
  • the integration unit 216 arranges TIN in post-operation integration point cloud data, and generates post-operation data.
  • the amount-of-earthwork calculation unit 217 calculates the difference between the pre-operation data input by the before-operation data input unit 211 and the post-operation data generated by the integration unit 216 as an amount of earthwork. At this time, the amount-of-earthwork calculation unit 217 calculates the volume of the portion where the post-operation data is located above the pre-operation data as the amount of filling. The amount-of-earthwork calculation unit 217 calculates the volume of the portion where the post-operation data is located below the pre-operation data as the amount of excavation. Examples of the method of calculating the amount of work include the mesh method, the triangular prism method, the prismoid method, and the average cross section method.
  • FIG. 6 is a flowchart showing the operation of the construction management device according to the first embodiment.
  • the pre-work data input unit 211 receives an input of pre-work data which is three-dimensional data representing the shape of the construction site before work from the user (step S1). For example, the user acquires pre-operation data in advance by photogrammetry using a drone, and uploads the pre-operation data to the construction management device 200 from another computer. If the pre-work data is not TIN data (for example, if it is point cloud data), the pre-work data input unit 211 may place a TIN on the input pre-work data.
  • TIN data for example, if it is point cloud data
  • the list instruction unit 212 receives an input of a period for which the amount of work is to be calculated from the user (step S2).
  • the list designation unit 212 generates a list (for example, a thumbnail list) of image pairs associated with the time within the period to be calculated among the plurality of image pairs stored in the image storage unit 233.
  • the list is presented to the user (step S3).
  • the list instruction unit 212 receives specification of one or more image pairs in which the construction site after the work is photographed from the list presented to the user (step S4).
  • the selection unit 213 selects one or more post-operation image pairs from the plurality of image pairs stored in the image storage unit 233 based on the designation from the user (step S5).
  • the camera parameter acquisition unit 214 acquires the ID of the hydraulic excavator 100 associated with the selected post-operation image pair from the image storage unit 233 (step S6).
  • the camera parameter acquisition unit 214 acquires, from the camera parameter storage unit 231, camera parameters that are associated with the respective read IDs and that are created at the latest update time (step S7).
  • the stereo measurement unit 215 of the hydraulic shovel 100 stored in the image storage unit 233 in association with the camera parameters associated with the post-operation image pair and the post-operation image pair.
  • the post-operation point cloud data is calculated by performing stereo measurement using the position, orientation, attitude, and model-specific data related to the model of the hydraulic excavator 100 (step S8).
  • the integration unit 216 integrates a plurality of post-operation point clouds data, and integrates a plurality of post-operation point clouds data.
  • Point cloud data is generated (step S9).
  • the integration unit 216 is a point that configures post-operation integrated point group data for each of a plurality of sections obtained by dividing a two-dimensional plane by a predetermined width, and has a central value of heights among the plurality of points existing in the section. By extracting corresponding points as representative points, the density of post-operation integrated point cloud data is reduced (step S10).
  • the integration unit 216 arranges the TIN in the post-operation integrated point cloud data whose density has been reduced, and generates post-operation data (step S11). Then, the amount-of-earthwork calculation unit 217 calculates the difference between the data before work and the data after work as the amount of earthwork (step S12).
  • Example of use a usage scene of the construction management device 200 according to the first embodiment will be described.
  • the calculation of the amount of soil work by the construction management device 200 is executed to determine the progress of construction from the time of construction, for example, at a stage of construction on the construction site.
  • the usage method of the construction management apparatus 200 is demonstrated according to the form of construction.
  • the construction management apparatus 200 selects the target image pair to be processed from the plurality of image pairs captured by the stereo camera 122, and selects the selected target image pair.
  • Three-dimensional data representing topography is calculated using camera parameters relating to the captured stereo camera 122.
  • the construction management device 200 can calculate three-dimensional data of terrain at any point or time.
  • the construction management device 200 presents a list of a plurality of image pairs to the user, and receives a selection of a target image pair to be processed from the list. Thereby, in the use scene which concerns on the said type B, only the image pair at the time of completing a construction object can be selected. Therefore, the construction management device 200 according to the first embodiment can calculate the amount of earth work based on an appropriate measurement result.
  • the construction management device 200 generates integrated point cloud data based on a plurality of point cloud data calculated from a plurality of target image pairs.
  • the construction management device 200 can generate point cloud data representing terrain in a range wider than the imaging range of one stereo camera 122.
  • the construction management device 200 can reduce the density of the integrated point group data by extracting representative points of each of the plurality of sections obtained by dividing the two-dimensional plane based on the plurality of point group data.
  • the construction management device 200 according to the first embodiment corresponds to a median value of heights among points which are a plurality of points constituting a plurality of point cloud data for each section and exist in the section.
  • Integrated point cloud data is calculated by extracting points as the representative points.
  • the construction management device 200 can appropriately reduce the density of the integrated point cloud data without changing the coordinate values of the points constituting the integrated point cloud data.
  • the construction management device 200 generates surface data from the integrated point cloud data, and calculates the amount of earth work based on the difference in surface data at different times.
  • the construction management device 200 can calculate the amount of work at any point in any period.
  • the earthworking is performed based on the difference between integrated point group data and the difference between other integrated three-dimensional data (for example, DEM, polygon data, voxel data) generated from the integrated point group data. The amount may be calculated.
  • the camera parameter storage unit 231 stores camera parameters at the update time of the stereo camera 122 included in the hydraulic shovel 100 in association with the ID of the hydraulic shovel 100 and the update time. It is not restricted to this.
  • the camera parameter storage unit 231 according to another embodiment may store only the latest camera parameters for a plurality of hydraulic excavators 100.
  • the list instruction unit 212 presents a list of image pairs and receives an instruction to select an image pair from the list, but the present invention is not limited thereto.
  • the list instruction unit 212 according to another embodiment presents a list of position information or time information, and receives an instruction of the position information or time information from the list, and thereby an image associated with the position information or time information.
  • a pair selection instruction may be accepted.
  • the list instruction unit 212 receives an input of a period for which the amount of earthwork is to be calculated, and presents a list of image pairs according to the period, but the present invention is not limited thereto.
  • the list instruction unit 212 according to another embodiment may present a list of all image pairs stored in the image storage unit 233 without receiving an input of a period for which the amount of earthwork is to be calculated.
  • the construction management apparatus 200 performs stereo measurement using the latest camera parameter among the plurality of camera parameters related to the stereo camera 122 of the hydraulic shovel 100 stored in the camera parameter storage unit 231. For example, assuming that camera parameters are regularly updated, if calibration of camera parameters is performed after capturing an image pair, point cloud data can be generated using the parameters after calibration, so the measurement error is small. The amount of soil work can be calculated using the measurement results. On the other hand, the stereo camera 122 may move for some reason after capturing the image pair, and camera parameters may be calibrated to cope with the deviation.
  • the construction management device 200 when performing stereo measurement using the latest camera parameters, stereo measurement is performed using an image pair captured before the stereo camera shifts based on the camera parameters after the stereo camera shifts, There is a possibility that point cloud data can not be obtained properly. Therefore, the construction management device 200 according to the second embodiment performs stereo measurement using camera parameters at the time of imaging of an image pair.
  • the construction management apparatus 200 differs from the first embodiment in the operation of the camera parameter acquisition unit 214.
  • the camera parameter acquisition unit 214 identifies the hydraulic shovel 100 that has captured the selected target image pair, and stores camera parameters of the target image pair at the time of capturing the target image pair according to the hydraulic shovel 100 Acquired from the part 231.
  • the camera parameter acquisition unit 214 reads the ID of the hydraulic shovel 100 associated with each target image pair and the imaging time from the image storage unit 233, is associated with the ID, and is associated with the update time immediately before the imaging time.
  • the obtained camera parameters are acquired from the camera parameter storage unit 231.
  • FIG. 7 is a flowchart showing the operation of the construction management device according to the second embodiment.
  • the pre-operation data input unit 211 receives an input of pre-operation data which is three-dimensional data representing the shape of the construction site before the operation from the user (step S21).
  • the list instruction unit 212 receives an input of a period for which the amount of earthwork is to be calculated from the user (step S22).
  • the list designation unit 212 generates a list of image pairs associated with the time within the calculation target period among the plurality of image pairs stored in the image storage unit 233, and presents the list to the user. (Step S23).
  • the list designation unit 212 receives from the user a specification of one or more image pairs in which the construction site after the work is photographed (step S24).
  • the selection unit 213 selects one or more post-operation image pairs from the plurality of image pairs stored in the image storage unit 233 based on the designation from the user (step S25).
  • the camera parameter acquisition unit 214 reads the ID and imaging time of the hydraulic excavator 100 associated with each post-operation image pair from the image storage unit 233 (step S26).
  • the camera parameter acquisition unit 214 acquires, from the camera parameter storage unit 231, camera parameters that are associated with the respective read IDs and that are associated with the update time immediately before the read imaging time (step S27).
  • step S28 to step S32 are the same as the processes of step S18 to step S32 of the first embodiment, respectively.
  • the construction management apparatus 200 acquires, from the camera parameter storage unit 231, camera parameters relating to the update time immediately before the imaging time of the target image pair, that is, camera parameters at the imaging time. Based on this, point cloud data is obtained.
  • the construction management device 200 can appropriately obtain point cloud data even when, for example, the stereo camera 122 is moved after capturing an image pair.
  • the construction management device 200 may obtain camera parameters relating to the update time closest to the imaging time, and may obtain point cloud data based on this. For example, a camera parameter A whose update time is January 1 and a camera parameter B whose update time is February 1 are stored in the camera parameter storage unit 231, and the imaging time of the image pair is January 31. If there is, the construction management device 200 may obtain point cloud data based on the camera parameter B.
  • the construction management device 200 according to another embodiment may obtain point cloud data based on camera parameters obtained by a plurality of camera parameters related to update times before and after the imaging time.
  • the construction management device 200 may obtain point cloud data based on a camera parameter related to an update time immediately after an imaging time.
  • Camera parameters related to update time immediately before imaging time are all examples of camera parameters related to the imaging time of the target image pair.
  • the control device 125 of the hydraulic shovel 100 transmits the image pair to the construction management device 200, and calculates the point cloud data based on the image pair received by the construction management device 200, but is limited thereto. Absent.
  • the control device 125 of the hydraulic shovel 100 calculates point cloud data using the image pair captured by the stereo camera 122 and the camera parameters stored in the camera parameter storage unit 331, and the control device 125 May transmit the point cloud data to the construction management device 200.
  • the storage 230 includes a storage unit that plays the same role as the image storage unit 233, and the camera parameter storage unit 331 stores a plurality of camera parameters together with the update date and time for each update of the camera parameters.
  • the communication load and the storage capacity can be reduced by transmitting the image pair to the construction management device 200 as in the embodiment described above. .
  • the construction management apparatus 200 which concerns on embodiment mentioned above reduces the density of integrated point-group data, it calculates the amount of earthwork, but it is not restricted to this.
  • the construction management device 200 may calculate the amount of earth work using all points of the integrated point cloud data without reducing the density of the integrated point cloud data.
  • the construction management apparatus 200 which concerns on embodiment mentioned above is a computer separate from the hydraulic shovel 100, it is not restricted to this.
  • the construction management device 200 may be mounted on the control device 125 of the hydraulic shovel 100. That is, in another embodiment, the control device 125 of the hydraulic shovel 100 may integrate point cloud data and calculate the amount of work.
  • a construction management device 200 includes aerial photogrammetry using a drone, surveying with a laser scanner, and a working machine 110.
  • the integrated point cloud data may be generated using point cloud data generated based on other means such as the measurement result of the cutting edge position of the above and the measurement result of the crawler belt position of the working machine.
  • the construction management apparatus 200 prepares two three-dimensional data (integrated three-dimensional data) at different times of pre-operation data and post-operation data, and compares the two three-dimensional data with each other.
  • the amount of soil work is calculated based on it, it is not limited to this.
  • the pre-operation data may be three-dimensional data calculated by stereo-measuring an image pair. That is, both of the two three-dimensional data may be calculated by the image pair.
  • the post-operation data may be calculated regardless of the post-operation image pair.
  • post-work data may be three-dimensional data generated by CAD (Computer Aided Design), aerial photogrammetry, measurement by laser scanner, measurement result of cutting edge position of work machine 110, measurement result of track position of work machine
  • CAD Computer Aided Design
  • aerial photogrammetry measurement by laser scanner
  • measurement result of cutting edge position of work machine 110 measurement result of track position of work machine
  • the three-dimensional data may be generated based on other means such as.
  • FIG. 8 is a schematic view showing the configuration of a construction management device according to the third embodiment.
  • the construction management apparatus 200 presents the user with a list of a plurality of image pairs, and accepts the selection of the target image pair to be processed from the list, but the present invention is limited to this embodiment. Absent.
  • the construction management device 200 according to the third embodiment may include a date and time instruction unit 218 instead of or in addition to the list instruction unit 212.
  • the construction management device 200 according to the third embodiment secures a storage area of the three-dimensional data storage unit 234 on the storage 230.
  • the stereo measurement unit 215 generates point cloud data from an image pair captured every constant period (for example, every day) as in the above-described construction form A, and the integration unit 216 generates the point cloud data. Integrate group data to generate three-dimensional data. The integration unit 216 stores the generated three-dimensional data in the three-dimensional data storage unit 234 in association with the date and time.
  • the date and time instruction unit 218 receives an input of date and time from the user, and reads out three-dimensional data associated with the input date and time from the three-dimensional data storage unit 234.
  • the date and time instructing unit 218 receives input of the date and time before the work and the date and time after the work, and reads out the three-dimensional data before the work and the three-dimensional data after the work.
  • the date and time instruction unit 218 may receive an input of a date from the user. In that case, the date is an example of the date and time.
  • the amount-of-earthwork calculation unit 217 calculates the amount of earthwork based on the three-dimensional data before work read by the date-and-time instruction unit 218 and the three-dimensional data after work. According to the construction management device 200 according to the third embodiment, in the case of the construction form A described above, the amount of work can be easily calculated.
  • FIG. 9 is a schematic view showing the configuration of a construction management device according to the fourth embodiment.
  • the construction management apparatus 200 may include an area designation unit 219 instead of or in addition to the list designation unit 212 as illustrated in FIG. 9.
  • the area designation unit 219 receives an input of a construction target area from the user.
  • the area designation unit 219 receives an input of an area closed at the coordinates by input of a plurality of coordinates at the construction site.
  • the selection unit 213 can select an image pair associated with the position associated with the area designated by the area designation unit 219 among the plurality of image pairs stored in the image storage unit 233.
  • An example of the position related to the designated area includes the position included in the designated area.
  • the construction management apparatus 200 according to the fourth embodiment in the case of the construction form B described above, the user does not select one image pair captured at the completion of each slope. An image pair on the slope can be selected based on the position information of the image pair.
  • the construction management device 200 may include at least one of the list designation unit 212, the date and time designation unit 218, and the area designation unit 219.
  • the selection unit 213 can select an image pair satisfying all the instructed conditions or an image pair meeting at least one of the instructed conditions.
  • the amount-of-earthwork calculation unit 217 calculates the difference between the pre-operation data and the post-operation data, which is TIN data, as the amount of earthwork
  • the present invention is not limited thereto.
  • the amount-of-earthwork calculation unit 217 according to another embodiment may calculate the amount of earthwork by comparing point cloud data.
  • the hydraulic shovel 100 which concerns on embodiment mentioned above images an image pair using the stereo camera 122 provided with an imaging device pair
  • the stereo camera 122 may be an imaging device capable of single stereo photography.
  • the stereo camera 122 can capture an image pair by capturing an object at different timings from two different positions using one imaging device. That is, the hydraulic shovel 100 may capture an image pair using an imaging device pair, or may capture an image pair using one imaging device. That is, the image pair may be an image pair simultaneously imaged by a pair of imaging devices, or may be an image pair imaged in stereo at different timings by one imaging device.
  • the stereo camera 122 is composed of one imaging device capable of stereo photography, the camera parameters include internal parameters and vehicle body parameters, but do not include external parameters. That is, the “imaging device” includes a pair of imaging devices and an imaging device capable of one stereo imaging.
  • the construction management program P may be distributed to the construction management apparatus 200 by a communication line.
  • the construction management device 200 that has received the distribution develops the construction management program P in the main memory 220 and executes the above processing.
  • the construction management program P may be for realizing a part of the functions described above.
  • the construction management program P realizes the above-described function in combination with another construction management program P already stored in the storage 230 or in combination with another construction management program P implemented in another device. It may be one.
  • the construction management apparatus 200 may further include a PLD (Programmable Logic Device) in addition to or in place of the above configuration.
  • PLDs include Programmable Array Logic (PAL), Generic Array Logic (GAL), Complex Programmable Logic Device (CPLD), and Field Programmable Gate Array (FPGA).
  • PAL Programmable Array Logic
  • GAL Generic Array Logic
  • CPLD Complex Programmable Logic Device
  • FPGA Field Programmable Gate Array
  • the construction management device can calculate three-dimensional data of terrain at any point or time.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Mining & Mineral Resources (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Operation Control Of Excavators (AREA)
  • Image Processing (AREA)

Abstract

選択部は、作業機械に設けられた撮像装置によって撮像された複数の画像対の中から、処理対象となる対象画像対を選択する。ステレオ計測部は、選択された前記対象画像対を撮像した前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から地形を表す三次元データを生成する。

Description

施工管理装置および施工管理方法
 本発明は、施工管理装置および施工管理方法に関する。
 本願は、2017年9月8日に日本に出願された特願2017-173237号について優先権を主張し、その内容をここに援用する。
 特許文献1に開示されているように、作業機械に取り付けられた撮像装置が一対の画像を撮像し、当該作業機械が備える計算機がこれに基づいて地形を表す三次元データを生成する技術が知られている。
特開2017-071915号公報
 撮像装置が撮像した画像に基づいて、所定の期間内(例えば、施工開始時点からある過去の時点まで)に施工した土工量を算出したいという要望がある。土工量を算出するためには、過去に撮影された複数の画像の対から、計測対象となる時点および地点における地形の三次元データを計算する必要がある。
 本発明の態様は、任意の時点または地点における地形の三次元データを計算できる施工管理装置および施工管理方法を提供することを目的とする。
 本発明の第1の態様によれば、施工管理装置は、施工現場に配置される撮像装置を備えた複数の作業機械を用いて前記施工現場の三次元データを生成する施工管理装置であって、前記複数の作業機械における各撮像装置に関連付けられた複数のカメラパラメータを記憶するカメラパラメータ記憶部と、前記複数の作業機械に設けられた撮像装置によって撮像された複数の画像対の中から、利用者からの入力に基づいて、処理対象となる対象画像対を選択する選択部と、前記カメラパラメータ記憶部が記憶する複数のカメラパラメータのうち、選択された前記対象画像対を撮像した作業機械における前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から前記対象画像対を撮像した作業機械の周辺の地形を表す三次元データを生成するステレオ計測部とを備える。
 上記態様によれば、施工管理装置は、任意の時点または地点における地形の三次元データを計算できる。
第1の実施形態に係る施工管理システムの構成図である。 第1の実施形態に係る油圧ショベルの外観を示す斜視図である。 第1の実施形態に係る油圧ショベルの制御装置の構成を示す概略図である。 第1の実施形態に係る施工管理装置の構成を示す概略図である。 画像記憶部による画像対の管理方式を表す例である。 第1の実施形態に係る施工管理装置の動作を示すフローチャートである。 第2の実施形態に係る施工管理装置の動作を示すフローチャートである。 第3の実施形態に係る施工管理装置の構成を示す概略図である。 第4の実施形態に係る施工管理装置の構成を示す概略図である。
〈第1の実施形態〉
《施工管理システムの構成》
 図1は、第1の実施形態に係る施工管理システムの構成図である。
 施工管理システム1は、複数の油圧ショベル100と、施工管理装置200とを備える。施工管理システム1は、油圧ショベル100による施工現場の施工状態を管理するシステムである。油圧ショベル100と施工管理装置200とは、ネットワークを介して接続されている。
 油圧ショベル100は、施工現場において掘削や盛土などの作業を行う。また油圧ショベル100は、少なくとも1つの撮像装置対によって構成されるステレオカメラを備え、視差を有する少なくとも1対の画像を撮像する。以下、ステレオカメラが撮像する画像の対を画像対ともいう。画像対は、施工管理装置200に送信される。油圧ショベル100は、作業機械の一例である。他の実施形態においては、油圧ショベル100でない作業機械がステレオカメラを備えてもよい。
 施工管理装置200は、油圧ショベル100から施工現場が写る画像対を受信し、油圧ショベル100のIDと、撮像時刻とに関連付けて画像対を管理する。施工管理装置200は、画像対をステレオ計測することで、施工現場の地形を表す点群データを生成する。施工管理装置200は、点群データを用いて施工現場の土工量(出来高)を算出する。点群データは、三次元データの一例である。他の実施形態においては、三次元データとしてTIN(Triangulated Irregular Network:不等三角網)データ、DEM(Digital Elevation Model:数値標高モデル)データ、ポリゴンデータ、ボクセルデータを生成してもよい。
《油圧ショベルの構成》
 図2は、第1の実施形態に係る油圧ショベルの外観を示す斜視図である。
 作業機械である油圧ショベル100は、油圧により作動する作業機110と、作業機110を支持する旋回体120と、旋回体120を支持する走行体130とを備える。
《油圧ショベルの車体》
 旋回体120には、オペレータが搭乗する運転室121が備えられる。運転室121の上部には、ステレオカメラ122が設けられる。ステレオカメラ122は、運転室121内の前方かつ上方に設置される。ステレオカメラ122は、運転室121前面のフロントガラスを通して、運転室121の前方を撮像する。ステレオカメラ122は、少なくとも1対のカメラを備える。第1の実施形態においては、ステレオカメラ122は、2対の撮像装置を備える。すなわち、ステレオカメラ122は、4個の撮像装置を備える。具体的には、ステレオカメラ122は、右側から順に、第1カメラ1221、第2カメラ1222、第3カメラ1223、および第4カメラ1224を備える。各撮像装置の例としては、例えばCCD(Charge Coupled Device)センサ、およびCMOS(Complementary Metal Oxide Semiconductor)センサを用いた撮像装置が挙げられる。
 第1カメラ1221と第3カメラ1223は、撮像装置対である。第1カメラ1221と第3カメラ1223は、それぞれ光軸が運転室121の床面に対して略平行となるように、左右方向に間隔を空けて設置される。
 第2カメラ1222と第4カメラ1224は、撮像装置対である。第2カメラ1222と第4カメラ1224は、それぞれ光軸が略平行となるように、かつその光軸が運転室121の床面に対して運転室121前方より下方向に傾くように、左右方向に間隔を空けて設置される。
 ステレオカメラ122のうち少なくとも1つの撮像装置対が撮像した1対の画像(画像対)を用いることで、ステレオカメラ122と撮像対象との距離を算出することができる。なお、他の実施形態においては、ステレオカメラ122は、1対のカメラによって構成されてもよいし、3対以上のカメラによって構成されてもよい。
《油圧ショベルの制御系》
 油圧ショベル100は、ステレオカメラ122、位置方位演算器123、傾斜検出器124、制御装置125を備える。
 位置方位演算器123は、旋回体120の位置および旋回体120が向く方位を演算する。位置方位演算器123は、GNSS(Global Navigation Satellite System)を構成する人工衛星から測位信号を受信する第1受信器1231および第2受信器1232を備える。第1受信器1231および第2受信器1232は、それぞれ旋回体120の異なる位置に設置される。位置方位演算器123は、第1受信器1231が受信した測位信号に基づいて、現場座標系における旋回体120の代表点(車体座標系の原点)の位置を検出する。GNSSの例としては、GPS(Global Positioning System)が挙げられる。
 位置方位演算器123は、第1受信器1231が受信した測位信号と、第2受信器1232が受信した測位信号とを用いて、検出された第1受信器1231の設置位置に対する第2受信器1232の設置位置の関係として、旋回体120の向く方位を演算する。
 傾斜検出器124は、旋回体120の加速度および角速度を計測し、計測結果に基づいて旋回体120の姿勢(例えば、ロール角、ピッチ角、ヨー角)を検出する。傾斜検出器124は、例えば運転室121の下面に設置される。傾斜検出器124は、例えば、慣性計測装置(IMU:Inertial Measurement Unit)を用いることができる。
 図3は、第1の実施形態に係る油圧ショベルの制御装置の構成を示す概略図である。
 制御装置125は、プロセッサ310、メインメモリ320、ストレージ330、インタフェース340を備えるコンピュータである。ストレージ330は、プログラムを記憶する。プロセッサ310は、プログラムをストレージ330から読み出してメインメモリ320に展開し、プログラムに従った処理を実行する。制御装置125は、インタフェース340を介してネットワークに接続される。
 ストレージ330は、カメラパラメータ記憶部331としての記憶領域を有する。ストレージ330の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ330は、制御装置125のバスに直接接続された内部メディアであってもよいし、インタフェース340を介して制御装置125に接続される外部メディアであってもよい。ストレージ330は、一時的でない有形の記憶媒体である。
 カメラパラメータ記憶部331は、ステレオカメラ122のカメラパラメータを記憶する。カメラパラメータは、画像対によるステレオ計測に用いられるパラメータである。カメラパラメータは、例えば内部パラメータ、外部パラメータおよび車体パラメータを含む。内部パラメータは、各撮像装置の特性を示すパラメータである。内部パラメータの例としては、撮像装置の光学系の焦点距離、撮像装置の光学系の光軸とイメージセンサの撮像面との交点の位置、撮像装置レンズの半径方向の歪係数等が挙げられる。外部パラメータは、一対の撮像装置間の位置関係を示すパラメータである。外部パラメータの例としては、一対の撮像装置間の相対位置、相対姿勢(ロール角、ピッチ角、ヨー角)が挙げられる。車体パラメータは、車体座標系におけるカメラ位置を含む。車体パラメータは、車体座標系とカメラ座標系とを変換するパラメータである。
 プロセッサ310は、プログラムの実行により、画像取得部311、画像送信部312、カメラパラメータ更新部313、カメラパラメータ送信部314を備える。
 画像取得部311は、ステレオカメラ122が撮像した画像対、位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を取得する。
 画像送信部312は、油圧ショベル100のID、ステレオカメラ122が撮像した画像対、画像対の撮像時刻、位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を、関連付けて施工管理装置200に送信する。
 カメラパラメータ更新部313は、カメラパラメータ記憶部331が記憶するカメラパラメータを、ステレオカメラ122の校正がなされるたびに更新する。
 カメラパラメータ送信部314は、カメラパラメータ記憶部331が記憶するカメラパラメータをカメラパラメータ更新部313が更新するたびに、油圧ショベルのID、当該カメラパラメータおよびその更新時刻を施工管理装置200に送信する。
 なお、制御装置125は、施工管理装置200と独立して、ステレオカメラ122が撮像した画像対とカメラパラメータ記憶部331が記憶するカメラパラメータとを用いたステレオ計測を行ってもよい。
《施工管理装置200》
 図4は、第1の実施形態に係る施工管理装置の構成を示す概略図である。
 施工管理装置200は、プロセッサ210、メインメモリ220、ストレージ230、インタフェース240を備えるコンピュータである。ストレージ230は、施工管理プログラムPを記憶する。プロセッサ210は、施工管理プログラムPをストレージ230から読み出してメインメモリ220に展開し、施工管理プログラムPに従った処理を実行する。施工管理装置200は、インタフェース240を介してネットワークに接続される。また施工管理装置200は、インタフェース240を介して図示しない入出力装置に接続される。
 ストレージ230は、カメラパラメータ記憶部231、機種データ記憶部232、および画像記憶部233としての記憶領域を有する。ストレージ230の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ230は、施工管理装置200のバスに直接接続された内部メディアであってもよいし、インタフェース240を介して施工管理装置200に接続される外部メディアであってもよい。ストレージ230は、一時的でない有形の記憶媒体である。
 カメラパラメータ記憶部231は、油圧ショベル100のIDと、当該油圧ショベル100が備えるステレオカメラ122のカメラパラメータの更新時刻とに関連付けて、カメラパラメータを記憶する。つまり、カメラパラメータ記憶部231は、複数の時刻のそれぞれに関連付けて、当該時刻における撮像装置対に係るカメラパラメータを記憶する。カメラパラメータは、各油圧ショベル100に設けられたステレオカメラ122毎に異なる。また同一のステレオカメラ122であっても校正作業を実施するたびにカメラパラメータは更新される。カメラパラメータ記憶部331は、油圧ショベル100のID毎に、また校正作業の実施毎(更新時刻毎)に、それぞれカメラパラメータを記憶する。カメラパラメータ記憶部331は、ディレクトリ構造を有するファイルシステムによってカメラパラメータを記憶することができる。例えば、カメラパラメータ記憶部331は、施工現場ごとに分けられた現場ディレクトリを記憶する。カメラパラメータ記憶部331は、各現場ディレクトリの配下に当該施工現場に配備される油圧ショベル100ごとに分けられた機械ディレクトリを記憶する。カメラパラメータ記憶部331は、各機械ディレクトリの配下に更新時刻別に当該油圧ショベル100のカメラパラメータを記憶する。
 機種データ記憶部232は、油圧ショベル100の機種に関連付けて、当該機種における第1受信器1231および第2受信器1232の設置位置などの機種固有データを記憶する。上述したとおり、第1受信器1231の位置は、現場座標系における旋回体120の代表点(車体座標系の原点)である。つまり、機種固有データは、現場座標系と車体座標系とを変換するためのパラメータとすることができる。これにより、施工管理装置200は、油圧ショベル100の機種によってGNSSの受信アンテナの設置位置が異なるなどの機種ごとの相違を補償することができる。
 画像記憶部233は、油圧ショベル100のIDと撮像時刻とに関連付けて、当該油圧ショベル100が備えるステレオカメラ122が当該撮像時刻に撮像した画像対を記憶する。また画像対は、当該撮像時刻における油圧ショベル100の位置方位演算器123が計測した旋回体120の位置および方位、ならびに傾斜検出器124が計測した旋回体120の姿勢を、関連付けて格納する。
 図5は、画像記憶部による画像対の管理方式を表す例である。
 画像記憶部233は、図5に示すように、ディレクトリ構造を有するファイルシステムによって画像対を記憶することができる。例えば、画像記憶部233は施工現場ごとに分けられた現場ディレクトリを記憶する。画像記憶部233は、各現場ディレクトリの配下に当該施工現場に配備される作業機械ごとに分けられた機械ディレクトリを記憶する。画像記憶部233は、各機械ディレクトリの配下に当該作業機械が撮像した画像対を記憶する。各画像対は、属性情報として、時刻、位置、方位、および姿勢を格納する。他方、画像記憶部233は、データベースによって画像対を記憶してもよい。この場合、画像記憶部233は、施工現場のID、油圧ショベル100のID、撮像時刻、画像対、位置、方位、および姿勢を、関連付けて格納する。
 プロセッサ210は、施工管理プログラムPの実行により、作業前データ入力部211、リスト指示部212、選択部213、カメラパラメータ取得部214、ステレオ計測部215、統合部216、土工量算出部217を備える。
 作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける。作業前データの例としては、起工時にドローンによる写真測量によって生成された施工現場の形状を表す点群データや、起工時にレーザスキャナによって生成された施工現場の形状を表す点群データが挙げられる。作業前データは、点群データに限られず、例えばTINデータなどの面データであってもよい。作業前データは、予めストレージ230に記憶しておいてもよいし、他のコンピュータからネットワークを介して転送されてもよい。作業前とは、施工現場における施工を開始する前の時点(起工時)であってもよいし、施工途中のある時点であってもよい。
 リスト指示部212は、利用者から土工量の算出に用いられる画像対の選択指示を受け付ける。利用者は、例えば、インタフェース240を介して接続される入力装置や、ネットワークを介して接続される他のコンピュータを用いて指示を入力する。リスト指示部212は、画像記憶部233が記憶する複数の画像対のリストを利用者に提示する。このとき、リスト指示部212は、利用者から土工量の算出対象となる期間の終了日の入力を受け付け、起工日から入力された終了日までに撮像された複数の画像対のリストを、利用者に提示してもよい。利用者は、提示されたリストの中から、土工量の算出に用いる画像対を特定する。例えば、利用者は、画像記憶部233が記憶する複数の画像対の中から、作業後の施工現場が写る複数の画像対を選択する。リスト指示部212は、利用者から特定された画像対の選択指示を受け付ける。作業後とは、施工途中のある時点であってもよいし、施工現場における施工が設計データと同様の形状になるまで施工された時点(完工時)であってもよい。
 選択部213は、リスト指示部212が受け付けた選択指示に従って、画像記憶部233が記憶する複数の画像対の中から、土工量の算出に用いられる画像対を選択する。以下、選択部213が選択した画像対を対象画像対、または1つの対象画像対という。また、作業後の施工現場が写る対象画像対を、作業後画像対という。
 つまり、選択部213は、油圧ショベル100に設けられたステレオカメラ122によって撮像された複数の画像対の中から、処理対象となる少なくとも1つの対象画像対を選択する。処理対象とは、ステレオ計測に用いられる画像対をいう。対象画像対とは、処理対象として選択された画像対をいう。
 カメラパラメータ取得部214は、選択された対象画像対を撮像した油圧ショベル100を特定し、当該油圧ショベル100に係る最新のカメラパラメータを、カメラパラメータ記憶部231から取得する。カメラパラメータ取得部214は、各対象画像対に関連付けられた油圧ショベル100のIDを画像記憶部233から読み出し、当該IDに関連付けられ、かつ最も新しい更新時刻に関連付けられたカメラパラメータを、カメラパラメータ記憶部231から取得する。
 つまり、カメラパラメータ取得部214はカメラパラメータ記憶部231から、対象画像対に関連するカメラパラメータを取得する。なお、「取得する」とは、新たに値を得ることである。例えば、「取得する」は、値を受信すること、値の入力を受け付けること、テーブルから値を読み出すこと、ある値から他の値を算出することを含む。
 ステレオ計測部215は、選択部213が選択した対象画像対について、カメラパラメータ取得部214が取得したカメラパラメータを用いてステレオ計測を行うことで、地形を表す点群データを算出する。点群データは、例えば現場座標系の三次元位置を示す複数の点からなる三次元データである。つまり、ステレオ計測部215は、選択された対象画像対を撮像したステレオカメラ122に係るカメラパラメータを用いて、選択された対象画像対から地形を表す三次元データを計算する。
 ステレオ計測部215は、選択部213が選択した作業後画像対についてステレオ計測を行うことで、点群データを算出する。以下、作業後画像対から求められた点群データを、作業後点群データという。
 統合部216は、選択部213が複数の対象画像対を選択した場合に、ステレオ計測部215が生成した複数の点群データを1つの点群データに統合する。以下、統合部216が統合した点群データを、統合点群データという。統合点群データは、統合三次元データの一例である。つまり、統合部216は、複数の三次元データに基づいて統合三次元データを計算する。統合部216は、複数の作業後点群データを統合し、作業後統合点群データを生成する。
 統合部216は、統合点群データの密度を所定密度まで減らす。例えば、統合部216は、二次元平面を所定幅で分割した複数の区間それぞれについて、当該区間に存在する複数の点のうち高さの中央値に相当する点を代表点として抽出することで、統合点群データの密度を減らす。なお、他の実施形態に係る統合部216は、複数の区間それぞれについて、当該区間に存在する複数の点のうち最下点を代表点として抽出する等、その他の手法を用いて代表点を抽出してもよい。
 統合部216は、例えば統合点群データにTIN(Triangulated Irregular Network:不等三角網)を配置することで、地形を表す面データを生成する。面データは、統合三次元データの一例である。統合部216は、作業後統合点群データにTINを配置し、作業後データを生成する。
 土工量算出部217は、作業前データ入力部211によって入力された作業前データと、統合部216によって生成された作業後データとの差分を土工量として算出する。このとき、土工量算出部217は、作業後データが作業前データより上に位置する部分の体積を盛土量として算出する。土工量算出部217は、作業後データが作業前データより下に位置する部分の体積を掘削量として算出する。土工量の算出方法の例としては、メッシュ法、三角柱法、プリズモイダル法、平均断面法などが挙げられる。
《施工管理方法》
 図6は、第1の実施形態に係る施工管理装置の動作を示すフローチャートである。
 作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける(ステップS1)。例えば、利用者は、ドローンによる写真測量により予め作業前データを取得しておき、当該作業前データを他のコンピュータから施工管理装置200にアップロードする。作業前データがTINデータでない場合(例えば、点群データである場合)、作業前データ入力部211は、入力された作業前データにTINを配置してもよい。
 また、リスト指示部212は、利用者から土工量の算出対象となる期間の入力を受け付ける(ステップS2)。次に、リスト指示部212は、画像記憶部233が記憶する複数の画像対のうち、算出対象となる期間内の時刻に関連付けられた画像対のリスト(例えば、サムネイルリスト)を生成し、当該リストを利用者に提示する(ステップS3)。次に、リスト指示部212は、利用者に提示したリストの中から作業後の施工現場が写る1つもしくは複数の画像対の指定を受け付ける(ステップS4)。選択部213は、利用者からの指定に基づいて、画像記憶部233が記憶する複数の画像対の中から、1つもしくは複数の作業後画像対を選択する(ステップS5)。
 カメラパラメータ取得部214は、選択された作業後画像対に関連付けられた油圧ショベル100のIDを、画像記憶部233から取得する(ステップS6)。カメラパラメータ取得部214は、読み出した各IDに関連付けられ、かつ最も新しい更新時刻に作成されたカメラパラメータを、それぞれカメラパラメータ記憶部231から取得する(ステップS7)。
 ステレオ計測部215は、選択部213が選択した作業後画像対について、当該作業後画像対に関連するカメラパラメータと、当該作業後画像対に関連付けて画像記憶部233に記憶された油圧ショベル100の位置、方位および姿勢と、当該油圧ショベル100の機種に係る機種固有データとを用いてステレオ計測を行うことで、作業後点群データを算出する(ステップS8)。
 選択部213によって複数の作業後画像対が選択された場合、統合部216は、複数の作業後点群データを統合し、複数の作業後点群データを構成する複数の点からなる作業後統合点群データを生成する(ステップS9)。統合部216は、二次元平面を所定幅で分割した複数の区間それぞれについて、作業後統合点群データを構成する点であって、当該区間に存在する複数の点のうち高さの中央値に相当する点を、代表点として抽出することで、作業後統合点群データの密度を減らす(ステップS10)。統合部216は、密度を減らした作業後統合点群データにTINを配置し、作業後データを生成する(ステップS11)。
 そして、土工量算出部217は、作業前データと作業後データとの差分を土工量として算出する(ステップS12)。
 《活用例》
 ここで、第1の実施形態に係る施工管理装置200の利用場面について説明する。施工管理装置200による土工量の計算は、例えば施工現場の施工途中の段階において、起工時からの施工の進捗を判断するために実行される。以下、施工の形態別に施工管理装置200の利用方法を説明する。
 (施工形態A)
 施工現場の施工において、段階的に掘削や盛土がなされる場合、施工現場の地形は日々変化する、すなわち掘削であれば地形が切り下がっていき、盛土であれば地形が盛り上がっていく。この施工形態の場合、油圧ショベル100のオペレータが定期的に(例えば毎日)施工現場の現況地形をステレオカメラ122にて撮像することで、画像記憶部233には一定期間ごとに最新の現況地形を表す画像対が記憶される。このとき、施工管理装置200が一定期間ごとに撮像された画像対をそれぞれステレオ計測することで、一定期間ごとの現況地形の三次元データ(作業後データ)が、例えばストレージ230内に記憶される。この施工形態においては、管理者が、ステップS4において、リストのうち算出対象の期間の終了日に係る画像対を指定することで、施工管理装置200は、算出対象の期間の終了日の地形を特定することができる。
 (施工形態B)
 施工現場の施工が、施工現場の領域ごとに逐次的に完了されていく場合、例えば所定距離の法面成形において、施工対象領域の一端から順に法面を成形していく場合には、日を追うごとに完了された領域が広がっていく。この施工形態の場合、オペレータは、対象の領域の施工が完了するたびに、その領域をステレオカメラ122で撮像する。それにより、画像記憶部233には、領域ごとに最新の現況地形を表す画像対記憶される。このとき、各画像対の撮像日は異なることとなる。この施工形態においては、管理者が、ステップS4において、リストのうち算出対象の期間内の画像対から土工量を算出する領域に対応する画像対のみを指定することで、施工管理装置200は、算出対象の期間の終了日の地形を特定することができる。
《作用・効果》
 このように、第1の実施形態に係る施工管理装置200は、ステレオカメラ122によって撮像された複数の画像対の中から、処理対象となる対象画像対を選択し、選択された対象画像対を撮像したステレオカメラ122に係るカメラパラメータを用いて、地形を表す三次元データを計算する。これにより、施工管理装置200は、任意の時点または地点における地形の三次元データを計算できる。
 また、第1の実施形態に係る施工管理装置200は、複数の画像対のリストを利用者に提示し、当該リストから処理対象となる対象画像対の選択を受け付ける。これにより、上記タイプBに係る利用場面において、施工対象を完成させた時点の画像対のみを選択することができる。したがって、第1の実施形態に係る施工管理装置200は、適切な計測結果に基づいて土工量を算出することができる。
 また、第1の実施形態に係る施工管理装置200は、複数の対象画像対から計算された複数の点群データに基づいて統合点群データを生成する。これにより、施工管理装置200は、1台のステレオカメラ122の撮像範囲より広い範囲の地形を表す点群データを生成することができる。このとき、施工管理装置200は、複数の点群データに基づいて、二次元平面を分割した複数の区画それぞれの代表点を抽出することで、統合点群データの密度を減らすことができる。特に、第1の実施形態に係る施工管理装置200は、各区画について、複数の点群データを構成する複数の点であってその区画に存在する点のうち、高さの中央値に相当する点を前記代表点として抽出することで、統合点群データを計算する。これにより、施工管理装置200は、統合点群データを構成する点の座標値を変更することなく、適切に統合点群データの密度を減らすことができる。
 また、第1の実施形態に係る施工管理装置200は、統合点群データから面データを生成し、異なる時刻に係る面データの差に基づいて土工量を算出する。これにより、施工管理装置200は、任意の期間における任意の地点の土工量を計算できる。なお、他の実施形態においては、統合点群データ同士の差や、統合点群データから生成された他の統合三次元データ(例えば、DEM、ポリゴンデータ、ボクセルデータ)同士の差に基づいて土工量を算出してもよい。
《変形例》
 なお、第1の実施形態に係るカメラパラメータ記憶部231は、油圧ショベル100のIDと更新時刻とに関連付けて、当該油圧ショベル100が備えるステレオカメラ122の当該更新時刻におけるカメラパラメータを記憶するが、これに限られない。例えば、他の実施形態に係るカメラパラメータ記憶部231は、複数の油圧ショベル100について最新のカメラパラメータだけを記憶してもよい。
 また、第1の実施形態に係るリスト指示部212は、画像対のリストを提示し、当該リストから画像対の選択指示を受け付けるが、これに限られない。例えば、他の実施形態に係るリスト指示部212は、位置情報または時刻情報のリストを提示し、当該リストから位置情報または時刻情報の指示を受け付けることで、位置情報または時刻情報に関連付けられた画像対の選択指示を受け付けてもよい。
 また、第1の実施形態に係るリスト指示部212は、土工量の算出対象の期間の入力を受け付け、当該期間に係る画像対のリストを提示するが、これに限られない。例えば、他の実施形態に係るリスト指示部212は、土工量の算出対象の期間の入力を受け付けず、画像記憶部233が記憶するすべての画像対のリストを提示してもよい。
〈第2の実施形態〉
 第1の実施形態に係る施工管理装置200は、カメラパラメータ記憶部231に記憶された油圧ショベル100のステレオカメラ122に係る複数のカメラパラメータの内、最新のカメラパラメータを用いてステレオ計測を行う。例えば定期的にカメラパラメータを更新することとした場合、画像対の撮像後にカメラパラメータの校正がなされたとすると、校正後のパラメータを用いて点群データを生成することができるので、計測誤差の小さい計測結果を用いて土工量を計算することができる。一方、画像対の撮像後にステレオカメラ122が何らかの理由により動いてしまい、そのずれに対応するためにカメラパラメータの校正がなされる可能性がある。この場合には、最新のカメラパラメータを用いてステレオ計測すると、ステレオカメラがずれた後のカメラパラメータに基づいて、ステレオカメラがずれる前に撮像した画像対を用いてステレオ計測することになるため、適切に点群データを求められない可能性がある。そこで、第2の実施形態に係る施工管理装置200は、画像対の撮像時点におけるカメラパラメータを用いてステレオ計測を行う。
 第2の実施形態に係る施工管理装置200は、第1の実施形態とカメラパラメータ取得部214の動作が異なる。第2の実施形態に係るカメラパラメータ取得部214は、選択された対象画像対を撮像した油圧ショベル100を特定し、当該油圧ショベル100に係る対象画像対の撮像時点のカメラパラメータを、カメラパラメータ記憶部231から取得する。カメラパラメータ取得部214は、各対象画像対に関連付けられた油圧ショベル100のIDと撮像時刻とを画像記憶部233から読み出し、当該IDに関連付けられ、かつ当該撮像時刻の直前の更新時刻に関連付けられたカメラパラメータを、カメラパラメータ記憶部231から取得する。
《施工管理方法》
 図7は、第2の実施形態に係る施工管理装置の動作を示すフローチャートである。
 作業前データ入力部211は、利用者から作業前の施工現場の形状を表す三次元データである作業前データの入力を受け付ける(ステップS21)。また、リスト指示部212は、利用者から土工量の算出対象となる期間の入力を受け付ける(ステップS22)。次に、リスト指示部212は、画像記憶部233が記憶する複数の画像対のうち、算出対象となる期間内の時刻に関連付けられた画像対のリストを生成し、当該リストを利用者に提示する(ステップS23)。次に、リスト指示部212は、利用者から作業後の施工現場が写る1つもしくは複数の画像対の指定を受け付ける(ステップS24)。選択部213は、利用者からの指定に基づいて、画像記憶部233が記憶する複数の画像対の中から、1つもしくは複数の作業後画像対を選択する(ステップS25)。
 カメラパラメータ取得部214は、各作業後画像対に関連付けられた油圧ショベル100のIDおよび撮像時刻を、それぞれ画像記憶部233から読み出す(ステップS26)。カメラパラメータ取得部214は、読み出した各IDに関連付けられ、かつ読み出した撮像時刻の直前の更新時刻に関連付けられたカメラパラメータを、それぞれカメラパラメータ記憶部231から取得する(ステップS27)。
 そして、施工管理装置は、ステップS28からステップS32の処理を実行する。ステップS28からステップS32の処理は、それぞれ第1の実施形態のステップS18からステップS32の処理と同じである。
《作用・効果》
 このように、第2の実施形態に係る施工管理装置200は、カメラパラメータ記憶部231から、対象画像対の撮像時刻の直前の更新時刻に係るカメラパラメータ、すなわち撮像時刻時点におけるカメラパラメータを取得し、これに基づいて点群データを求める。これにより、施工管理装置200は、例えば画像対の撮像後にステレオカメラ122が動かされた場合にも、適切に点群データを求めることができる。
《変形例》
 なお、他の実施形態に係る施工管理装置200は、撮像時刻に最も近い更新時刻に係るカメラパラメータを取得し、これに基づいて点群データを求めてもよい。例えば、更新時刻が1月1日のカメラパラメータAと、更新時刻が2月1日のカメラパラメータBとがカメラパラメータ記憶部231に記憶されており、画像対の撮像時刻が1月31日である場合、施工管理装置200は、カメラパラメータBに基づいて点群データを求めてもよい。また他の実施形態に係る施工管理装置200は、撮像時刻の前後の更新時刻に係る複数のカメラパラメータによって求められるカメラパラメータに基づいて点群データを求めてもよい。また他の実施形態に係る施工管理装置200は、撮像時刻の直後の更新時刻に係るカメラパラメータに基づいて点群データを求めてもよい。
 撮像時刻の直前の更新時刻に係るカメラパラメータ、撮像時刻の直後の更新時刻に係るカメラパラメータ、撮像時刻に最も近い更新時刻に係るカメラパラメータ、および撮像時刻の前後の更新時刻に係る複数のカメラパラメータによって求められるカメラパラメータは、いずれも対象画像対の撮像時刻に関連するカメラパラメータの一例である。
〈他の実施形態〉
 以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
 上述した実施形態においては、油圧ショベル100の制御装置125が画像対を施工管理装置200に送信し、施工管理装置200が受信した画像対に基づいて点群データを算出するが、これに限られない。例えば、他の実施形態においては、油圧ショベル100の制御装置125が、ステレオカメラ122が撮像した画像対とカメラパラメータ記憶部331が記憶するカメラパラメータを用いて点群データを算出し、制御装置125が当該点群データを施工管理装置200に送信してもよい。その場合、ストレージ230が画像記憶部233と同様の役割を果たす記憶部を備え、カメラパラメータ記憶部331は、カメラパラメータの更新ごとに更新日時とともにカメラパラメータを複数記憶する。ただし、画像対は、点群データと比較してデータ量が小さいため、上述した実施形態のように画像対を施工管理装置200に送信することで、通信負荷および記憶容量を低減することができる。
 また、上述した実施形態に係る施工管理装置200は、統合点群データの密度を減らしたうえで土工量を算出するが、これに限られない。例えば、施工管理装置200は、統合点群データの密度を減らさずに統合点群データのすべての点を用いて土工量を算出してもよい。
 また、上述した実施形態に係る施工管理装置200は、油圧ショベル100と別個のコンピュータであるが、これに限られない。例えば、他の実施形態に係る施工管理装置200は、油圧ショベル100の制御装置125に実装されるものであってもよい。つまり、他の実施形態においては、油圧ショベル100の制御装置125が点群データの統合や土工量の算出を行ってもよい。
 また、上述した実施形態に係る施工管理装置は、画像対に基づいて生成された複数の点群データのみを利用して統合点群データを生成するが、これに限られない。例えば、他の実施形態に係る施工管理装置200は、画像対に基づいて生成された点群データに加えて、無人航空機(ドローン)を用いた空中写真測量、レーザスキャナによる測量、および作業機110の刃先位置の測定結果、作業機械の履帯位置の測定結果等の他の手段に基づいて生成された点群データも利用して統合点群データを生成してもよい。
 また、上述した実施形態に係る施工管理装置200は、作業前データと作業後データという異なる時点に係る2つの三次元データ(統合三次元データ)を用意し、当該2つの三次元データの差に基づいて土工量を算出するが、これに限られない。例えば、作業前データは、画像対をステレオ計測することによって算出された三次元データであってもよい。つまり2つの三次元データの両方が、画像対によって算出されたものであってもよい。また、作業後データは、作業後画像対によらずに算出されたものであってもよい。例えば、作業後データは、CAD(Computer Aided Design)によって生成された三次元データや、空中写真測量、レーザスキャナによる測量、および作業機110の刃先位置の測定結果、作業機械の履帯位置の測定結果等の他の手段に基づいて生成された三次元データであってもよい。
 図8は、第3の実施形態に係る施工管理装置の構成を示す概略図である。
 上述した実施形態に係る施工管理装置200は、複数の画像対のリストを利用者に提示し、当該リストから処理対象となる対象画像対の選択を受け付けるようにしたが、この実施形態に限られない。例えば、第3の実施形態に係る施工管理装置200は、図8に示すように、リスト指示部212に代えてまたはリスト指示部212に加えて、日時指示部218を備えてもよい。また第3の実施形態に係る施工管理装置200は、三次元データ記憶部234の記憶領域をストレージ230上に確保する。
 第3の実施形態に係るステレオ計測部215は、上記の施工形態Aのように一定期間毎(例えば毎日)に撮像された画像対から点群データを生成し、統合部216は生成された点群データを統合して三次元データを生成する。統合部216は、生成した三次元データを日時に関連付けて三次元データ記憶部234に記憶させる。
 日時指示部218は、利用者から日時の入力を受け付け、入力された日時に関連付けられた三次元データを三次元データ記憶部234から読み出す。例えば、日時指示部218は、作業前の日時と作業後の日時の入力を受け付け、作業前の三次元データと作業後の三次元データとを読み出す。日時指示部218は、利用者から日付の入力を受け付けてもよい。その場合、日付は日時の一例である。
 土工量算出部217は、日時指示部218が読み出した作業前の三次元データと作業後の三次元データとに基づいて土工量を計算する。
 第3の実施形態に係る施工管理装置200によれば、上述した施工形態Aのような場合に、容易に土工量計算を行うことができる。
 図9は、第4の実施形態に係る施工管理装置の構成を示す概略図である。他の実施形態に係る施工管理装置200は、図9に示すように、リスト指示部212に代えてまたはリスト指示部212に加えて、領域指示部219を備えてもよい。
 領域指示部219は、利用者から施工対象の領域の入力を受け付ける。例えば、領域指示部219は、施工現場において複数の座標の入力により当該座標で閉じた領域の入力を受け付ける。
 この場合、選択部213は、画像記憶部233が記憶する複数の画像対のうち、領域指示部219が指定した領域に関連する位置に関連付けられた画像対を選択することができる。指定した領域に関連する位置の例としては、指定した領域に含まれる位置が挙げられる。第4の実施形態に係る施工管理装置200によれば、上述した施工形態Bのような場合に、各法面の完成した際に撮像した画像対を利用者が1つずつ選択することなく、画像対の位置情報に基づいて法面の画像対を選択することができる。
 また、他の実施形態においては、施工管理装置200は、リスト指示部212、日時指示部218、および領域指示部219の少なくとも1つを備えてもよい。この場合、選択部213は、指示されたすべての条件を満たす画像対、または指示された条件のうち少なくとも1つを満たす画像対を選択することができる。
 上述した実施形態に係る土工量算出部217は、TINデータである作業前データと作業後データとの差分を土工量として算出するが、これに限られない。例えば、他の実施形態に係る土工量算出部217は、点群データどうしの比較により、土工量を算出してもよい。
 上述した実施形態に係る油圧ショベル100は、撮像装置対を備えるステレオカメラ122を用いて画像対を撮像するが、これに限られない。例えば、他の実施形態に係るステレオカメラ122は、1つのステレオ撮影可能な撮像装置からなるものであってもよい。この場合、ステレオカメラ122は、1つの撮像装置で、異なる2つの位置から異なるタイミングで対象を撮像することで、画像対を撮像することができる。すなわち、油圧ショベル100は、撮像装置対を用いて画像対を撮像してもよいし、1つの撮像装置を用いて画像対を撮像してもよい。つまり、画像対は、1対の撮像装置によって同時に撮像された画像対であってもよいし、1つの撮像装置によって異なるタイミングでステレオ撮像された画像対であってもよい。なお、ステレオカメラ122が1つのステレオ撮影可能な撮像装置からなる場合、カメラパラメータは、内部パラメータと車体パラメータを含み、外部パラメータを含まない。つまり、「撮像装置」は、撮像装置対および1つのステレオ撮影可能な撮像装置を含む。
 上述した実施形態に係る施工管理装置200においては、施工管理プログラムPがストレージ230に格納される場合について説明したが、これに限られない。例えば、他の実施形態においては、施工管理プログラムPが通信回線によって施工管理装置200に配信されるものであってもよい。この場合、配信を受けた施工管理装置200が当該施工管理プログラムPをメインメモリ220に展開し、上記処理を実行する。
 また、施工管理プログラムPは、上述した機能の一部を実現するためのものであってもよい。例えば、施工管理プログラムPは、上述した機能をストレージ230に既に記憶されている他の施工管理プログラムPとの組み合わせ、または他の装置に実装された他の施工管理プログラムPとの組み合わせで実現するものであってもよい。
 また、施工管理装置200は、上記構成に加えて、または上記構成に代えてPLD(Programmable Logic Device)を備えてもよい。PLDの例としては、PAL(Programmable Array Logic)、GAL(Generic Array Logic)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)が挙げられる。この場合、プロセッサ210によって実現される機能の一部または全部が当該PLDによって実現されてよい。
 上記態様によれば、施工管理装置は、任意の時点または地点における地形の三次元データを計算できる。
1…施工管理システム 100…油圧ショベル 122…ステレオカメラ 123…位置方位演算器 124…傾斜検出器 125…制御装置 200…施工管理装置 210…プロセッサ 220…メインメモリ 230…ストレージ 240…インタフェース 211…作業前データ入力部 212…リスト指示部 213…選択部 214…カメラパラメータ取得部 215…ステレオ計測部 216…統合部 217…土工量算出部 日時指示部218 領域指示部219 231…カメラパラメータ記憶部 232…機種データ記憶部 233…画像記憶部 234…三次元データ記憶部

Claims (7)

  1.  施工現場に配置される撮像装置を備えた複数の作業機械を用いて前記施工現場の三次元データを生成する施工管理装置であって、
     前記複数の作業機械における各撮像装置に関連付けられた複数のカメラパラメータを記憶するカメラパラメータ記憶部と、
     前記複数の作業機械に設けられた撮像装置によって撮像された複数の画像対の中から、利用者からの入力に基づいて、処理対象となる対象画像対を選択する選択部と、
     前記カメラパラメータ記憶部が記憶する複数のカメラパラメータのうち、選択された前記対象画像対を撮像した作業機械における前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から前記対象画像対を撮像した作業機械の周辺の地形を表す三次元データを生成するステレオ計測部と
     を備える施工管理装置。
  2.  前記ステレオ計測部が生成した三次元データを統合する統合部をさらに備え、
     前記選択部は利用者からの入力に基づく複数の画像対を選択し、
     前記統合部は、選択された複数の画像対から得られる複数の三次元データを統合する、
     請求項1の施工管理装置。
  3.  前記カメラパラメータ記憶部が記憶する複数のカメラパラメータは、さらに、前記複数の作業機械における各撮像装置ごとの複数の時刻のそれぞれに関連付けられて記憶されており、
     前記ステレオ計測部は、前記複数の時刻に関連付けられたカメラパラメータの中から、撮像時刻におけるカメラパラメータを用いて、選択された前記対象画像対から前記三次元データを生成する
     請求項1または請求項2に記載の施工管理装置。
  4.  日時の入力を受け付ける日時指定部と、
     複数の日時に関連付けて三次元データを記憶する三次元データ記憶部と
     を備え、
     前記選択部は、前記三次元データ記憶部が記憶する複数の三次元データの中から、前記日時指定部に入力された日時に関連付けられた前記三次元データを選択する
     請求項1から請求項3のいずれか1項に記載の施工管理装置。
  5.  施工対象の領域の入力を受け付ける領域指示部を備え、
     前記選択部は、前記画像対の中から、前記領域指示部に入力された領域に関連する位置で撮像された前記対象画像対を選択する
     請求項1から請求項4のいずれか1項に記載の施工管理装置。
  6.  施工現場に配置される撮像装置を備えた複数の作業機械を用いて前記施工現場の三次元データを生成する施工管理方法であって、
     前記複数の作業機械における各撮像装置に関連付けられた複数のカメラパラメータを記憶するカメラパラメータを記憶し、
     前記作業機械に設けられた撮像装置によって撮像された画像対の中から、利用者からの入力に基づいて、処理対象となる対象画像対を選択するステップと、
     前記カメラパラメータ記憶部が記憶する複数のカメラパラメータのうち、選択された前記対象画像対を撮像した作業機械における前記撮像装置に係るカメラパラメータを用いて、選択された前記対象画像対から前記対象画像対を撮像した作業機械の周辺の地形を表す三次元データを生成するステップと
     を有する施工管理方法。
  7.  前記対象画像対を選択する選択するステップは、利用者からの入力に基づく複数の画像対を選択するものであり、
     生成された複数の三次元データを統合するステップをさらに有する、
     請求項6の施工管理装置。
PCT/JP2018/024382 2017-09-08 2018-06-27 施工管理装置および施工管理方法 WO2019049475A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
DE112018001834.2T DE112018001834T5 (de) 2017-09-08 2018-06-27 Bau-Leitungs-Vorrichtung und Bau-Leitungs-Verfahren
US16/606,816 US11100663B2 (en) 2017-09-08 2018-06-27 Construction management device and construction management method
CN201880027693.XA CN110573834B (zh) 2017-09-08 2018-06-27 施工管理装置及施工管理方法
AU2018327449A AU2018327449B9 (en) 2017-09-08 2018-06-27 Construction management device and construction management method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017173237A JP6840645B2 (ja) 2017-09-08 2017-09-08 施工管理装置および施工管理方法
JP2017-173237 2017-09-08

Publications (1)

Publication Number Publication Date
WO2019049475A1 true WO2019049475A1 (ja) 2019-03-14

Family

ID=65633910

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/024382 WO2019049475A1 (ja) 2017-09-08 2018-06-27 施工管理装置および施工管理方法

Country Status (6)

Country Link
US (1) US11100663B2 (ja)
JP (1) JP6840645B2 (ja)
CN (1) CN110573834B (ja)
AU (1) AU2018327449B9 (ja)
DE (1) DE112018001834T5 (ja)
WO (1) WO2019049475A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6996012B1 (ja) * 2021-01-14 2022-01-17 オリエンタル白石株式会社 三次元形状推定システム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6974217B2 (ja) * 2018-02-28 2021-12-01 株式会社小松製作所 施工管理装置
JP2021021245A (ja) * 2019-07-29 2021-02-18 コベルコ建機株式会社 建設機械の作業内容判定システム及び作業判定方法
US11531943B1 (en) * 2021-11-18 2022-12-20 Slate Technologies Inc. Intelligence driven method and system for multi-factor optimization of schedules and resource recommendations for smart construction
US11906981B2 (en) 2022-02-08 2024-02-20 Caterpillar Inc. System and method for updating virtual worksite
US11907885B1 (en) 2022-03-29 2024-02-20 Slate Technologies Inc. System and method for computational simulation and augmented/virtual reality in a construction environment
US11748675B1 (en) * 2022-04-14 2023-09-05 Haul Hub Inc. Construction site automatic telematic data to project specification requirements reconciliation system
US11461716B1 (en) 2022-04-14 2022-10-04 Haul Hub Inc. Construction source record and project reconciliation system with life cycle chain of custody capability
WO2024053315A1 (ja) * 2022-09-08 2024-03-14 日立建機株式会社 施工履歴演算システム及び地形データ生成システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816783A (ja) * 1994-06-24 1996-01-19 Canon Inc 画像処理装置及び方法
WO2017061515A1 (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 建設機械及び施工管理システム

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1314623C (en) 1988-09-20 1993-03-16 Naoshi Suzuki Image pickup system capable of obtaining a plurality of stereo images with different base height ratios
JP3720972B2 (ja) * 1998-01-22 2005-11-30 株式会社小松製作所 地形形状計測装置
US6333749B1 (en) * 1998-04-17 2001-12-25 Adobe Systems, Inc. Method and apparatus for image assisted modeling of three-dimensional scenes
US6789039B1 (en) * 2000-04-05 2004-09-07 Microsoft Corporation Relative range camera calibration
JP2003075148A (ja) * 2001-09-03 2003-03-12 Techno Vanguard:Kk デジタルスチルカメラを用いた変位計測装置
US7860276B2 (en) 2005-12-08 2010-12-28 Topcon Corporation Image processing device and method
JP2008204318A (ja) * 2007-02-22 2008-09-04 Advanced Telecommunication Research Institute International 画像処理装置、画像処理方法及び画像処理プログラム
JP4985241B2 (ja) * 2007-08-31 2012-07-25 オムロン株式会社 画像処理装置
JP2010166302A (ja) * 2009-01-15 2010-07-29 Konica Minolta Holdings Inc 画像記録装置
CN101576382B (zh) 2009-02-27 2010-12-08 泰瑞数创科技(北京)有限公司 一种基于三维展示平台的水利监测方法
JP2011147067A (ja) * 2010-01-18 2011-07-28 Sony Corp 画像処理装置及び方法、並びにプログラム
CN101915569B (zh) 2010-07-07 2012-09-26 南京信息工程大学 风浪要素数值实景监测系统及其监测方法
US9401178B2 (en) * 2010-08-26 2016-07-26 Blast Motion Inc. Event analysis system
JP5759798B2 (ja) * 2011-06-08 2015-08-05 株式会社トプコン 建設機械制御システム
US8817067B1 (en) * 2011-07-29 2014-08-26 Google Inc. Interface for applying a photogrammetry algorithm to panoramic photographic images
JP5802476B2 (ja) * 2011-08-09 2015-10-28 株式会社トプコン 建設機械制御システム
WO2013062557A1 (en) 2011-10-27 2013-05-02 The Boeing Company Stereo video movies
US9070216B2 (en) * 2011-12-14 2015-06-30 The Board Of Trustees Of The University Of Illinois Four-dimensional augmented reality models for interactive visualization and automated construction progress monitoring
JP5735455B2 (ja) * 2012-05-22 2015-06-17 日本電信電話株式会社 移動物体ポーズ算出装置、移動物体ポーズ算出方法、及びプログラム
US9300954B2 (en) 2012-09-21 2016-03-29 Tadano Ltd. Surrounding information-obtaining device for working vehicle
US9659237B2 (en) * 2012-10-05 2017-05-23 Micro Usa, Inc. Imaging through aerosol obscurants
US20150094953A1 (en) * 2013-10-02 2015-04-02 Deere & Company System for locating and characterizing a topographic feature from a work vehicle
CN104580920B (zh) * 2013-10-21 2018-03-13 华为技术有限公司 一种成像处理的方法及用户终端
JP6425405B2 (ja) * 2014-04-16 2018-11-21 キヤノン株式会社 情報処理装置、方法、プログラム
CN105225265B (zh) 2014-05-28 2019-08-06 深圳超多维科技有限公司 三维图像自动合成方法及装置
CN106462961B (zh) 2014-06-03 2021-04-09 住友重机械工业株式会社 施工机械用人检测系统以及挖土机
JP6433200B2 (ja) * 2014-08-28 2018-12-05 株式会社トプコン 演算装置、演算方法、およびプログラム
US9378554B2 (en) * 2014-10-09 2016-06-28 Caterpillar Inc. Real-time range map generation
JP6552192B2 (ja) * 2014-12-18 2019-07-31 京セラ株式会社 ステレオカメラ装置、移動体、制御方法及び較正装置
US10007998B2 (en) * 2015-03-20 2018-06-26 Ricoh Company, Ltd. Image processor, apparatus, and control system for correction of stereo images
CN104778740A (zh) 2015-04-16 2015-07-15 成都中科合迅科技有限公司 一种大坝施工进度三维仿真方法
EP3086196B1 (en) * 2015-04-21 2017-04-05 Hexagon Technology Center GmbH Method and control system for surveying and mapping a terrain while operating a bulldozer
US20160312432A1 (en) * 2015-04-23 2016-10-27 Caterpillar Inc. Computer Vision Assisted Work Tool Recognition and Installation
WO2016203988A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法
CN105046426B (zh) 2015-07-08 2018-08-31 安徽立卓智能电网科技有限公司 一种基于数据库多张历史数据表的工况信息断面重现方法
JP2017049052A (ja) * 2015-08-31 2017-03-09 日本ユニシス株式会社 対象物の3次元画像データを生成するためのシステム、方法、プログラム
KR20170048231A (ko) * 2015-09-30 2017-05-08 가부시키가이샤 고마쓰 세이사쿠쇼 촬상 장치의 교정 시스템, 작업 기계 및 촬상 장치의 교정 방법
JP6925775B2 (ja) 2015-10-05 2021-08-25 株式会社小松製作所 施工管理システム
JP6558289B2 (ja) 2016-03-25 2019-08-14 セイコーエプソン株式会社 電子時計および電子時計の制御方法
JP6229097B2 (ja) 2016-03-29 2017-11-08 株式会社小松製作所 校正システム、作業機械及び校正方法
CN105867404A (zh) 2016-05-20 2016-08-17 张爱军 一种无人机测量土石方的设备及方法
CN106354869A (zh) 2016-09-13 2017-01-25 四川研宝科技有限公司 基于位置信息与时间段的实景图像处理方法及其服务器
US10399325B2 (en) * 2016-12-13 2019-09-03 Caterpillar Inc. Systems and methods for preparing a worksite for additive construction
JP6581139B2 (ja) * 2017-03-31 2019-09-25 日立建機株式会社 作業機械の周囲監視装置
US10733752B2 (en) * 2017-07-24 2020-08-04 Deere & Company Estimating a volume of contents in a container of a work vehicle
JP7365122B2 (ja) * 2019-02-01 2023-10-19 株式会社小松製作所 画像処理システムおよび画像処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816783A (ja) * 1994-06-24 1996-01-19 Canon Inc 画像処理装置及び方法
WO2017061515A1 (ja) * 2015-10-05 2017-04-13 株式会社小松製作所 建設機械及び施工管理システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6996012B1 (ja) * 2021-01-14 2022-01-17 オリエンタル白石株式会社 三次元形状推定システム

Also Published As

Publication number Publication date
JP2019049121A (ja) 2019-03-28
CN110573834A (zh) 2019-12-13
CN110573834B (zh) 2022-05-17
US11100663B2 (en) 2021-08-24
AU2018327449B9 (en) 2021-10-21
JP6840645B2 (ja) 2021-03-10
AU2018327449B2 (en) 2021-06-10
US20200388043A1 (en) 2020-12-10
DE112018001834T5 (de) 2020-01-16
AU2018327449A1 (en) 2019-12-05

Similar Documents

Publication Publication Date Title
JP6840645B2 (ja) 施工管理装置および施工管理方法
US11934192B2 (en) Obstacle detection and manipulation by a vehicle within a dig site
AU2022209235B2 (en) Display control device and display control method
CN109661494B (zh) 作业机械的检测处理装置及作业机械的检测处理方法
CN112469869A (zh) 图像处理系统、显示装置、图像处理方法、学习完毕模型的生成方法以及学习用数据集
WO2017061511A1 (ja) 形状計測システム及び形状計測方法
JP6803471B2 (ja) 表示制御装置、表示制御方法、プログラムおよび表示システム
AU2019292457B2 (en) Display control device, display control system, and display control method
JP7203616B2 (ja) 作業機械
AU2019292458B2 (en) Display control system, display control device, and display control method
JP2024028464A (ja) 表示制御システムおよび表示制御方法
JP7215742B2 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP2022547608A (ja) 画像ベースの生産性追跡システム
CN108779985B (zh) 施工管理系统
JP6815462B2 (ja) 形状計測システム及び形状計測方法
JP2021103840A (ja) 作業支援サーバ、撮像装置の選択方法
JP7436339B2 (ja) 表示制御装置及び表示方法
JP7107792B2 (ja) 建設機械
WO2022209052A1 (ja) 出来形情報処理システム
WO2024058017A1 (ja) 画像生成装置、操作支援システム
JP2024062809A (ja) 建設機械の作業管理システム及び作業管理方法
JP2024018497A (ja) 施工支援装置および施工支援方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18853380

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2018327449

Country of ref document: AU

Date of ref document: 20180627

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 18853380

Country of ref document: EP

Kind code of ref document: A1