WO2018026019A1 - 施工管理システム - Google Patents

施工管理システム Download PDF

Info

Publication number
WO2018026019A1
WO2018026019A1 PCT/JP2017/028494 JP2017028494W WO2018026019A1 WO 2018026019 A1 WO2018026019 A1 WO 2018026019A1 JP 2017028494 W JP2017028494 W JP 2017028494W WO 2018026019 A1 WO2018026019 A1 WO 2018026019A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
geological
dimensional
image data
acquisition unit
Prior art date
Application number
PCT/JP2017/028494
Other languages
English (en)
French (fr)
Inventor
中野 一郎
豊久 松田
Original Assignee
株式会社小松製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所 filed Critical 株式会社小松製作所
Priority to US16/090,326 priority Critical patent/US11966990B2/en
Priority to AU2017305111A priority patent/AU2017305111B2/en
Priority to CN201780016276.0A priority patent/CN108779985B/zh
Priority to DE112017001522.7T priority patent/DE112017001522T5/de
Publication of WO2018026019A1 publication Critical patent/WO2018026019A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2054Fleet management
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • G01C15/02Means for marking measuring points
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated

Definitions

  • the present invention relates to a construction management system.
  • Patent Document 1 Construction plan image data is created based on the construction plan data and the position information of the stereo camera, the construction plan image data is superposed on the current image data captured by the stereo camera, and a composite image obtained by superimposing them is obtained.
  • Patent Document 2 A technique for three-dimensional display on a three-dimensional display device is disclosed.
  • the construction amount or construction period that can be performed per unit time may vary depending on the geology of the construction target.
  • the construction amount increases and the construction period is shortened.
  • the construction amount is reduced and the construction period is prolonged.
  • the geology of the construction target may affect the construction amount or construction period that can be performed per unit time. Therefore, the survey of the geology of the construction target is carried out at the stage of the construction plan, and data on the geology is acquired.
  • the geology surveyed at the construction planning stage differs from the geology recognized at the construction stage, it is necessary to conduct a geological survey again at the construction stage.
  • a technology that can efficiently acquire the three-dimensional data of the construction target including the geological data is desired.
  • An object of an aspect of the present invention is to provide a construction management system that can efficiently obtain three-dimensional data of a construction target including geological data.
  • a two-dimensional image data acquisition unit that acquires two-dimensional image data of an object photographed by an imaging device provided in the work machine, and attached to the work machine, A three-dimensional data acquisition unit that acquires three-dimensional data; an input unit that inputs geological data to the two-dimensional image data; and a geological data acquisition unit that adds the input geological data to the three-dimensional data.
  • a construction management system is provided.
  • a two-dimensional image data acquisition unit that acquires two-dimensional image data of an object photographed by an imaging device provided in a work machine, and the two-dimensional image data is acquired by the imaging device.
  • a position data acquisition unit that acquires position data at the time of shooting, a geological data acquisition unit that acquires geological data related to the geology of the ground included in the two-dimensional image data, and the two-dimensional image data, The position data of the work machine when the image data is acquired, the geological data of the ground included in the two-dimensional image data, and the time data when the two-dimensional image data is acquired are added and stored.
  • a construction management system including a storage unit is provided.
  • the three-dimensional data acquisition unit that is attached to the work machine and acquires the three-dimensional data of the construction target, and the event position data indicating the position of the event that has occurred in the construction target are acquired.
  • An event position data acquisition unit, and the three-dimensional data acquisition unit adds information related to the event and the event position data to the three-dimensional data obtained by the three-dimensional data acquisition unit.
  • FIG. 1 is a perspective view illustrating an example of a work machine according to the present embodiment.
  • FIG. 2 is a perspective view illustrating an example of the imaging apparatus according to the present embodiment.
  • FIG. 3 is a diagram schematically illustrating an example of a work machine control system and a construction management system according to the present embodiment.
  • FIG. 4 is a functional block diagram illustrating an example of the detection processing apparatus according to the present embodiment.
  • FIG. 5 is a schematic diagram illustrating an example of processing of the imaging device and the detection processing device according to the present embodiment.
  • FIG. 6 is a diagram schematically showing a construction object having a uniform geology.
  • FIG. 7 is a diagram schematically showing a construction object whose geology changes.
  • FIG. 1 is a perspective view illustrating an example of a work machine according to the present embodiment.
  • FIG. 2 is a perspective view illustrating an example of the imaging apparatus according to the present embodiment.
  • FIG. 3 is a diagram schematically illustrating an example of a work machine control system
  • FIG. 8 is a diagram schematically illustrating an example of two-dimensional image data acquired by the two-dimensional image data acquisition unit according to the present embodiment.
  • FIG. 9 is a diagram schematically illustrating an example of a display device that displays geological area data according to the present embodiment.
  • FIG. 10 is a flowchart illustrating an example of the construction management method according to the present embodiment.
  • a three-dimensional global coordinate system (Xg, Yg, Zg), a three-dimensional vehicle body coordinate system (Xm, Ym, Zm), and a three-dimensional camera coordinate system (Xs, Ys, Zs) are defined. Then, the positional relationship of each part will be described.
  • the global coordinate system is defined by the Xg axis in the horizontal plane, the Yg axis orthogonal to the Xg axis in the horizontal plane, and the Zg axis orthogonal to the Xg axis and the Yg axis.
  • the direction parallel to the Xg axis is the Xg axis direction
  • the direction parallel to the Yg axis is the Yg axis direction
  • the direction parallel to the Zg axis is the Zg axis direction.
  • the rotation or tilt direction around the Xg axis is the ⁇ Xg direction
  • the rotation or tilt direction around the Yg axis is the ⁇ Yg direction
  • the rotation or tilt direction around the Zg axis is the ⁇ Zg direction.
  • the Zg axis direction is the vertical direction.
  • the vehicle body coordinate system is defined by an Xm axis extending in one direction with reference to the origin defined in the vehicle body of the work machine, a Ym axis orthogonal to the Xm axis, and a Zm axis orthogonal to the Xm axis and the Ym axis.
  • the direction parallel to the Xm axis is the Xm axis direction
  • the direction parallel to the Ym axis is the Ym axis direction
  • the direction parallel to the Zm axis is the Zm axis direction.
  • the Xm-axis direction is the longitudinal direction of the work machine
  • the Ym-axis direction is the vehicle width direction of the work machine
  • the Zm-axis direction is the vertical direction of the work machine.
  • the camera coordinate system is defined by an Xs axis extending in one direction with reference to the origin defined in the imaging device, a Ys axis orthogonal to the Xs axis, and a Zs axis orthogonal to the Xs axis and the Ys axis.
  • the direction parallel to the Xs axis is the Xs axis direction
  • the direction parallel to the Ys axis is the Ys axis direction
  • the direction parallel to the Zs axis is the Zs axis direction.
  • the Xs axis direction is the vertical direction of the imaging device
  • the Ys axis direction is the width direction of the imaging device
  • the Zs axis direction is the front-rear direction of the imaging device.
  • the Zs axis direction is parallel to the optical axis of the optical system of the imaging apparatus.
  • FIG. 1 is a perspective view illustrating an example of a work machine 1 according to the present embodiment.
  • the work machine 1 is a hydraulic excavator
  • the work machine 1 is appropriately referred to as a hydraulic excavator 1.
  • the excavator 1 includes a vehicle body 1 ⁇ / b> B and a work machine 2.
  • the vehicle body 1B includes a revolving body 3 and a traveling body 5 that supports the revolving body 3 so as to be able to turn.
  • the turning body 3 can turn around the turning axis Zr.
  • the turning axis Zr and the Zm axis are parallel.
  • the swivel body 3 has a cab 4.
  • a hydraulic pump and an internal combustion engine are arranged on the swing body 3.
  • the traveling body 5 has crawler belts 5a and 5b. As the crawler belts 5a and 5b rotate, the excavator 1 travels.
  • the work machine 2 is connected to the swivel body 3.
  • the work implement 2 drives a boom 6 connected to the swing body 3, an arm 7 connected to the boom 6, a bucket 8 connected to the arm 7, a boom cylinder 10 that drives the boom 6, and the arm 7.
  • Each of the boom cylinder 10, the arm cylinder 11, and the bucket cylinder 12 is a hydraulic cylinder driven by hydraulic pressure.
  • the bucket 8 has a plurality of blades 8B.
  • the plurality of blades 8B are arranged in the Ym axis direction of the vehicle body coordinate system.
  • the blade 8B has a blade edge 8BT.
  • the cutting edge 8BT is provided at the tip of the blade 8B.
  • the bucket 8 is a kind of work tool.
  • the work tool connected to the arm 7 is not limited to the bucket 8.
  • the work tool connected to the arm 7 may be, for example, a tilt bucket or a rock drilling attachment having a slope bucket or a rock drilling tip.
  • the position of the revolving structure 3 defined by the global coordinate system is detected.
  • the global coordinate system is a coordinate system based on an origin fixed on the earth.
  • the global coordinate system is a coordinate system defined by GNSS (Global Navigation Satellite System).
  • GNSS refers to the global navigation satellite system.
  • GPS Global Positioning System
  • the GNSS has a plurality of positioning satellites. The GNSS detects a position defined by latitude, longitude, and altitude coordinate data.
  • the vehicle body coordinate system (Xm, Ym, Zm) is a coordinate system based on the origin fixed to the revolving unit 3.
  • the origin of the vehicle body coordinate system is, for example, the center of the swing circle of the swing body 3.
  • the center of the swing circle exists on the swing axis Zr of the swing body 3.
  • the Zm axis of the vehicle body coordinate system coincides with the turning axis Zr of the turning body 3.
  • the Xm-axis direction is the front-rear direction of the swing body 3.
  • the Ym axis direction is the vehicle width direction of the revolving structure 3.
  • the Zm-axis direction is the vertical direction of the revolving structure 3.
  • the hydraulic excavator 1 includes a position detector 23 that detects the position of the swing body 3, an attitude detector 24 that detects the attitude of the swing body 3, and an orientation detector 25 that detects the orientation of the swing body 3.
  • the position detector 23 includes a GPS receiver.
  • the position detector 23 is provided on the revolving unit 3.
  • the position detector 23 detects an absolute position that is the position of the revolving structure 3 defined by the global coordinate system.
  • the absolute position of the swing body 3 includes coordinate data in the Xg axis direction, coordinate data in the Yg axis direction, and coordinate data in the Zg axis direction.
  • a pair of GPS antennas 21 and 22 are provided on the revolving unit 3.
  • the GPS antennas 21 and 22 are provided on the handrail 9 provided on the upper part of the revolving structure 3.
  • the GPS antennas 21 and 22 are arranged in the Ym axis direction of the vehicle body coordinate system.
  • the GPS antennas 21 and 22 are separated by a certain distance.
  • the GPS antennas 21 and 22 receive radio waves from GPS satellites and output signals generated based on the received radio waves to the position detector 23.
  • the position detector 23 detects the absolute position, which is the position of the GPS antennas 21 and 22 defined by the global coordinate system, based on the signals supplied from the GPS antennas 21 and 22.
  • the position detector 23 detects the absolute position of the revolving unit 3 based on the absolute positions of the GPS antennas 21 and 22.
  • the position detector 23 detects the absolute position of one GPS antenna 21 and the absolute position of the other GPS antenna 22.
  • the position detector 23 performs arithmetic processing based on at least one of the absolute position of the GPS antenna 21 and the absolute position of the GPS antenna 22 to calculate the absolute position of the revolving unit 3.
  • the attitude detector 24 includes an inertial measurement device (IMU: Inertial Measurement Unit).
  • the attitude detector 24 is provided on the revolving unit 3.
  • the attitude detector 24 calculates the inclination angle of the revolving unit 3 with respect to the horizontal plane (XgYg plane) defined by the global coordinate system.
  • the tilt angle of the swing body 3 with respect to the horizontal plane is a roll angle ⁇ r indicating the tilt angle of the swing body 3 in the Ym axis direction (vehicle width direction) and a pitch angle indicating the tilt angle of the swing body 3 in the Xm axis direction (front-rear direction).
  • ⁇ p inertial measurement device
  • the attitude detector 24 detects acceleration and angular velocity acting on the attitude detector 24. By detecting the acceleration and angular velocity acting on the posture detector 24, the acceleration and angular velocity acting on the swing body 3 are detected. Based on the acceleration and angular velocity acting on the revolving structure 3, the posture of the revolving structure 3 is calculated.
  • the orientation detector 25 calculates the orientation of the revolving unit 3 with respect to the reference orientation defined by the global coordinate system based on the absolute position of the one GPS antenna 21 and the absolute position of the other GPS antenna 22.
  • the reference orientation is, for example, north.
  • the direction detector 25 performs arithmetic processing based on the absolute position of the GPS antenna 21 and the absolute position of the GPS antenna 22 to calculate the direction of the revolving unit 3 with respect to the reference direction.
  • the azimuth detector 25 calculates a straight line connecting the absolute position of the GPS antenna 21 and the absolute position of the GPS antenna 22, and based on the angle formed by the calculated straight line and the reference azimuth, determines the azimuth of the revolving unit 3 relative to the reference azimuth. calculate.
  • the azimuth of the swing body 3 with respect to the reference azimuth includes a yaw angle (azimuth angle) ⁇ y indicating an angle formed by the reference azimuth and the azimuth of the swing body 3.
  • FIG. 2 is a perspective view illustrating an example of the imaging device 30 according to the present embodiment.
  • FIG. 2 is a perspective view showing the vicinity of the cab 4 of the excavator 1.
  • the excavator 1 has an imaging device 30.
  • the imaging device 30 is provided inside the cab 4.
  • the imaging device 30 is disposed in front of the cab 4 (+ Xm direction) and above (+ Zm direction).
  • the imaging device 30 captures an imaging target existing in front of the revolving unit 3.
  • the photographing target includes a construction target that is constructed at a construction site.
  • the construction object includes an excavation object excavated by the work machine 2 of the excavator 1.
  • the construction object may be an excavation object excavated by the work machine 2 of another hydraulic excavator 1 ot (see FIG. 3), or an execution object constructed by a work machine different from the hydraulic excavator 1 having the imaging device 30. But you can.
  • the construction target may be a construction target constructed by an operator.
  • the construction object is a concept including a construction object before construction, a construction object during construction, and a construction object after construction.
  • the imaging device 30 has an optical system and an image sensor.
  • the image sensor includes a CCD (Couple Charged Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor.
  • the imaging device 30 can acquire at least two-dimensional image data of an image quality at which the construction target geology can be visually determined. For example, when the construction targets are formed of a plurality of different geological features, the imaging device 30 can acquire two-dimensional image data having a level of image quality that allows visual judgment of boundaries between different geological features.
  • the imaging device 30 includes a plurality of imaging devices 30a, 30b, 30c, and 30d.
  • the imaging devices 30a and 30c are arranged on the + Ym side (working machine 2 side) with respect to the imaging devices 30b and 30d.
  • the imaging device 30a and the imaging device 30b are arranged with an interval in the Ym axis direction.
  • the imaging device 30c and the imaging device 30d are arranged with an interval in the Ym-axis direction.
  • the imaging devices 30a and 30b are arranged on the + Zm side with respect to the imaging devices 30c and 30d.
  • the imaging device 30a and the imaging device 30b are disposed at substantially the same position.
  • the imaging device 30c and the imaging device 30d are disposed at substantially the same position.
  • a stereo camera is constituted by a combination of two imaging devices 30 among the four imaging devices 30 (30a, 30b, 30c, 30d).
  • a stereo camera refers to a camera that can also acquire data about the depth direction of a shooting target by simultaneously shooting the shooting target from a plurality of different directions.
  • a first stereo camera is configured by a combination of the imaging devices 30a and 30b
  • a second stereo camera is configured by a combination of the imaging devices 30c and 30d.
  • the imaging devices 30a and 30b face upward (+ Zm direction).
  • the imaging devices 30c and 30d face downward ( ⁇ Zm direction).
  • the imaging devices 30a and 30c face forward (+ Xm direction).
  • the imaging devices 30b and 30d face the + Ym side (working machine 2 side) slightly from the front. That is, the imaging devices 30a and 30c face the front of the revolving unit 3, and the imaging devices 30b and 30d face the imaging devices 30a and 30c.
  • the imaging devices 30b and 30d may face the front of the revolving unit 3
  • the imaging devices 30a and 30c may face the imaging devices 30b and 30d.
  • the imaging device 30 performs stereo shooting of a shooting target existing in front of the revolving unit 3.
  • the construction target is three-dimensionally measured using stereo two-dimensional image data from at least a pair of imaging devices 30, and the three-dimensional data of the construction target is calculated.
  • the three-dimensional data of the construction target is three-dimensional data of the surface (ground surface) of the construction target.
  • the three-dimensional data of the construction target includes three-dimensional position data and three-dimensional shape data of the construction target in the global coordinate system.
  • a camera coordinate system (Xs, Ys, Zs) is defined for each of the plurality of imaging devices 30 (30a, 30b, 30c, 30d).
  • the camera coordinate system is a coordinate system based on the origin fixed to the imaging device 30.
  • the Zs axis of the camera coordinate system coincides with the optical axis of the optical system of the imaging device 30.
  • the Xs axis direction is the vertical direction of the imaging device 30.
  • the Ys axis direction is the width direction of the imaging device 30.
  • the Zs axis direction is the front-rear direction of the imaging device 30.
  • the imaging device 30c is set as the reference imaging device.
  • FIG. 3 is a diagram schematically illustrating an example of the construction management system 100 including the control system 50 and the server 61 of the excavator 1 according to the present embodiment.
  • the control system 50 is disposed on the excavator 1.
  • the server 61 is provided at a remote location of the excavator 1.
  • the control system 50 and the server 61 can perform data communication via the communication line NTW. Further, not only the control system 50 and the server 61 but also the mobile terminal device 64 and the control system 50 ot of another hydraulic excavator 1 ot are connected to the communication line NTW.
  • the control system 50 of the excavator 1, the server 61, the portable terminal device 64, and the control system 50ot of another excavator 1ot can communicate data via the communication line NTW.
  • the communication line NTW includes at least one of a mobile phone network and the Internet.
  • the communication line NTW may include a wireless LAN (Local Area Network).
  • the control system 50 includes a plurality of imaging devices 30 (30a, 30b, 30c, 30d), a detection processing device 51, a construction data generation device 52, a construction management device 57, a display device 58, and a communication device 26. Have.
  • control system 50 includes a position detector 23, an attitude detector 24, and an orientation detector 25.
  • the detection processing device 51, the construction data generation device 52, the construction management device 57, the display device 58, the communication device 26, the position detector 23, the posture detector 24, and the direction detector 25 are connected to a signal line 59 and are mutually connected. Communication is possible.
  • a communication standard applied to the signal line 59 is, for example, CAN (Controller Area Network).
  • the control system 50 includes a computer system.
  • the control system 50 includes an arithmetic processing unit including a processor such as a CPU (Central Processing Unit), a nonvolatile memory such as a RAM (Random Access Memory), and a memory including a volatile memory such as a ROM (Random Access Memory).
  • Communication antenna 26 ⁇ / b> A is connected to communication device 26.
  • the communication device 26 can perform data communication with at least one of the server 61, the portable terminal device 64, and the control system 50ot of another hydraulic excavator 1ot via the communication line NTW.
  • the detection processing device 51 calculates the three-dimensional data of the construction target based on at least the pair of two-dimensional image data of the construction target imaged by the pair of imaging devices 30.
  • the detection processing device 51 calculates three-dimensional data indicating the coordinates of a plurality of parts of the construction target in the three-dimensional coordinate system by performing image processing on the pair of two-dimensional image data of the construction target in a stereo manner.
  • Stereo image processing refers to a technique for obtaining the distance to a subject from two images obtained by observing the same subject from two different imaging devices 30.
  • the distance to the shooting target is expressed as, for example, a distance image in which the distance data to the shooting target is visualized by contrast.
  • the hub 31, the imaging switch 32, the identifier assignment switch 33, and the input unit 34 are connected to the detection processing device 51.
  • the hub 31 is connected to a plurality of imaging devices 30a, 30b, 30c, and 30d.
  • the two-dimensional image data acquired by the imaging devices 30a, 30b, 30c, and 30d is supplied to the detection processing device 51 via the hub 31.
  • the hub 31 may be omitted.
  • the imaging switch 32 is installed in the cab 4. In the present embodiment, when the imaging switch 32 is operated by the operator of the cab 4, the imaging of the construction target by the imaging device 30 is performed.
  • the identifier assignment switch 33 is installed in the cab 4. In the present embodiment, when the identifier assignment switch 33 is operated by the operator of the cab 4, an identifier is assigned to the two-dimensional image data acquired by the imaging device 30. As will be described later, the identifier is information indicating whether or not a geological boundary is included in the two-dimensional image data captured by the imaging device.
  • the input unit 34 includes, for example, a computer keyboard or touch panel.
  • the construction data generation device 52 generates target terrain data indicating the target shape of the construction target.
  • the construction data generation device 52 generates target terrain data based on the three-dimensional data of the construction target calculated by the detection processing device 51.
  • the three-dimensional data of the construction target calculated by the detection processing device 51 is current terrain data indicating the current shape of the construction target.
  • the construction data generation device 52 generates target terrain data based on the current terrain data to be constructed.
  • the target terrain data is defined in the global coordinate system.
  • the construction management device 57 manages the state of the hydraulic excavator 1 and the status of construction by the hydraulic excavator 1.
  • the construction management device 57 acquires, for example, completed construction data indicating a construction result at the end stage of work on one day, and transmits it to at least one of the server 61 and the mobile terminal device 64. Further, the construction management device 57 acquires intermediate construction data indicating the result of construction in the middle of the day's work, and transmits it to at least one of the server 61 and the portable terminal device 64.
  • the completed construction data and the intermediate construction data include the three-dimensional data of the construction target calculated by the detection processing device 51 based on the two-dimensional image data acquired by the imaging device 30.
  • the current terrain data of the construction target in the middle stage and the end stage of the daily work is transmitted to at least one of the server 61 and the mobile terminal device 64.
  • the display device 58 includes a flat panel display such as a liquid crystal display (LCD: Liquid Crystal Display) or an organic EL display (OELD: Organic Electroluminescence Display).
  • LCD Liquid Crystal Display
  • OELD Organic Electroluminescence Display
  • the portable terminal device 64 is carried by an administrator who manages the work of the excavator 1, for example.
  • the server 61 includes a computer system.
  • the server 61 includes an arithmetic processing device including a processor such as a CPU, and a storage device including a nonvolatile memory such as a RAM and a volatile memory such as a ROM.
  • a communication device 62 and a display device 65 are connected to the server 61.
  • the communication device 62 is connected to the communication antenna 63.
  • the communication device 62 is capable of data communication with at least one of the control system 50 of the excavator 1, the portable terminal device 64, and the control system 50ot of another excavator 1ot via the communication line NTW.
  • FIG. 4 is a functional block diagram showing an example of the detection processing device 51 according to the present embodiment.
  • the detection processing device 51 includes a computer system having an arithmetic processing device including a processor, a storage device including a nonvolatile memory and a volatile memory, and an input / output interface.
  • the detection processing device 51 includes a two-dimensional image data acquisition unit 101, a three-dimensional data acquisition unit 102, a position data acquisition unit 103, an attitude data acquisition unit 104, an orientation data acquisition unit 105, and a geological data acquisition unit 106.
  • 2D image data acquisition unit 101 3D data acquisition unit 102, position data acquisition unit 103, orientation data acquisition unit 104, orientation data acquisition unit 105, geological data acquisition unit 106, identifier assignment unit 107, and display control unit 108
  • the function is exhibited by the arithmetic processing unit.
  • the function of the storage unit 109 is exhibited by the storage device.
  • the function of the input / output unit 110 is exhibited by the input / output interface.
  • the two-dimensional image data acquisition unit 101 acquires, from the pair of imaging devices 30, the construction target two-dimensional image data captured by at least the pair of imaging devices 30 provided in the excavator 1. That is, the two-dimensional image data acquisition unit 101 acquires stereo two-dimensional image data from at least a pair of imaging devices 30.
  • the 3D data acquisition unit 102 acquires 3D data of the construction target based on the 2D image data acquired by the 2D image data acquisition unit 101.
  • the three-dimensional data acquisition unit 102 acquires the three-dimensional position data of the construction target in the camera coordinate system based on the two-dimensional image data acquired by the two-dimensional image data acquisition unit 101.
  • the position data acquisition unit 103 acquires the position data of the excavator 1 from the position detector 23.
  • the position data of the excavator 1 includes position data indicating the position of the swing body 3 in the global coordinate system detected by the position detector 23.
  • the attitude data acquisition unit 104 acquires the attitude data of the excavator 1 from the attitude detector 24.
  • the attitude data of the excavator 1 includes attitude data indicating the attitude of the swing body 3 in the global coordinate system detected by the attitude detector 24.
  • the azimuth data acquisition unit 105 acquires the azimuth data of the excavator 1 from the azimuth detector 25.
  • the azimuth data of the excavator 1 includes azimuth data indicating the azimuth of the revolving unit 3 in the global coordinate system detected by the azimuth detector 25.
  • the three-dimensional data acquisition unit 102 is the position data of the swing body 3 acquired by the position data acquisition unit 103, the posture data of the swing body 3 acquired by the posture data acquisition unit 104, and the rotation acquired by the direction data acquisition unit 105. Based on the orientation data of the body 3 and the two-dimensional image data of the construction target acquired by the two-dimensional image data acquisition unit 101, the three-dimensional data of the construction target in the global coordinate system is calculated.
  • the three-dimensional data of the construction target in the global coordinate system includes the three-dimensional position data of the construction target in the global coordinate system.
  • the three-dimensional data acquisition unit 102 converts the three-dimensional data of the construction target in the camera coordinate system based on the position data of the revolving structure 3, the posture data of the revolving structure 3, and the orientation data of the revolving structure 3, and Calculate the three-dimensional data of the construction object in the coordinate system.
  • the geological data acquisition part 106 acquires the geological data of construction object.
  • the geological data of the construction target includes various data on the geology such as the geology of the construction target, soil quality (such as clay and true sand), rock quality, and ground hardness. Further, the geological data includes information on the boundary of the geology to be constructed, specifically, the position of the boundary.
  • the geological boundary of the construction target includes a boundary between the first geological area and a second geological area different from the geology of the first geological area.
  • the geological data acquisition unit 106 acquires input data generated by operating the input unit 34.
  • the input unit 34 is operated by, for example, an operator of the cab 4.
  • input data for specifying the geological data to be constructed is generated.
  • the geological data acquisition unit 106 acquires geological data from the input unit 34.
  • the operator looks at the two-dimensional image data of the construction target acquired by the two-dimensional image data acquisition unit 101 and displayed on the display device 58, specifies the position of the geological boundary of the construction target, and inputs the input unit 34 is input to input boundary data indicating that there is a boundary at the boundary position of the geology in the two-dimensional image data to be constructed. By doing so, it is possible to reflect and store the geological boundary position information on the three-dimensional data to be constructed.
  • the operator operates the input unit 34 to input geological data (geology, soil, rock, etc.) to a geological region defined based on the geological boundary, that is, a ground region having the same geology. input.
  • geological data geology, soil, rock, etc.
  • the input geological data can be stored for a certain geological region on the three-dimensional data to be constructed.
  • the operator inputs different geological data on one side and the other side of the boundary.
  • 3D data is composed of elements provided at predetermined intervals such as a mesh.
  • the geological data may be stored in units of geological regions defined based on the boundary of the geology, or the geological data may be stored in units of each element (partial region). Also good.
  • the geological data it is possible to store the ground hardness information in the three-dimensional data.
  • the soil hardness information may be stored together with the geological data stored in a certain geological region.
  • the identifier assigning unit 107 assigns an identifier to the two-dimensional image data including the boundary of the soil to be constructed based on the input data generated by the operation of the identifier assigning switch 33.
  • the operator determines that the construction target two-dimensional image data acquired by the two-dimensional image data acquisition unit 101 and displayed on the display device 58 includes the geological boundary of the construction target, the operator operates the identifier assignment switch 33.
  • an identifier can be given to the two-dimensional image data including the boundary of the geology to be constructed.
  • the two-dimensional image data provided with the identifier is appropriately referred to as specific two-dimensional image data.
  • the three-dimensional data acquisition unit 102 acquires the three-dimensional data of the boundary of the geology to be constructed based on the specific two-dimensional image data provided with the identifier and the pair of two-dimensional image data for further stereo processing. .
  • the three-dimensional data acquisition unit 102 combines the three-dimensional data composed of a plurality of specific two-dimensional image data, and acquires the three-dimensional data of the region formed by the specific geology.
  • the display control unit 108 causes the display device 58 to display the construction target 3D data calculated by the 3D data acquisition unit 102. In addition, the display control unit 108 causes the display device 58 to display three-dimensional data including the geological boundary data acquired by the three-dimensional data acquisition unit 102. The display control unit 108 causes the display device 58 to display the geological area data acquired by the three-dimensional data acquisition unit 102. The display control unit 108 converts the construction target 3D data and the geological area data acquired by the 3D data acquisition unit 102 into display data that can be displayed by the display device 58, and displays the display data. It is displayed on the device 58.
  • FIG. 5 is a schematic diagram illustrating an example of processing of the imaging device 30 and the detection processing device 51 according to the present embodiment.
  • the construction target OBP is a part of the construction site where the construction machine 2 of the hydraulic excavator 1 is constructed.
  • the construction target OBP may be a construction target to be constructed by at least one of another hydraulic excavator 1 ot, a working machine different from the hydraulic excavator 1, and an operator.
  • the construction target OBP may be not only the construction target before construction, but also the construction target during construction and the construction target after construction.
  • the construction target OBP exists in front of the swivel body 3.
  • the construction target OBP is imaged by at least the pair of imaging devices 30.
  • imaging by the imaging device 30 is performed.
  • Input data indicating a shooting command generated by operating the imaging switch 32 is supplied to the detection processing device 51.
  • the detection processing device 51 causes the imaging device 30 to image the construction target OBP based on the input data supplied from the imaging switch 32.
  • the 2D image data of the construction target OBP imaged by at least the pair of imaging devices 30 is acquired by the 2D image data acquisition unit 101 of the detection processing device 51.
  • the three-dimensional data acquisition unit 102 performs image processing on the two-dimensional image data of the construction target OBP captured by the at least one pair of imaging devices 30 acquired by the two-dimensional image data acquisition unit 101 in a stereo manner, and performs the processing of the construction target OBP.
  • Acquire 3D data The three-dimensional data acquired based on the two-dimensional image data acquired by the two-dimensional image data acquisition unit 101 is three-dimensional data in the camera coordinate system. Three-dimensional data in the camera coordinate system is converted into three-dimensional data in the global coordinate system.
  • the three-dimensional data acquisition unit 102 converts the three-dimensional data in the camera coordinate system into the three-dimensional data in the global coordinate system based on the posture data of the excavator 1 acquired by the posture data acquisition unit 104.
  • the three-dimensional data acquisition unit 102 acquires the position Ps (xs, ys, zs) of the construction target OBP in the camera coordinate system based on at least the two-dimensional image data imaged by the pair of imaging devices 30, and in the global coordinate system Convert to position Pg (xg, yg, zg).
  • the three-dimensional data acquisition unit 102 converts the three-dimensional data of the construction target OBP in the camera coordinate system acquired based on the two-dimensional image data acquired by the two-dimensional image data acquisition unit 101 into the position data acquisition unit. Using the position data of the excavator 1 acquired in 103, the attitude data of the excavator 1 acquired in the attitude data acquisition unit 104, and the azimuth data of the excavator 1 acquired in the azimuth data acquisition unit 105, coordinate conversion is performed. Thus, the three-dimensional data of the construction target OBP in the global coordinate system can be acquired.
  • the three-dimensional data acquisition unit 102 acquires the position Pr (Xg, Yg, Zg) of the surface of the construction target OBP in at least the entire region of the construction target OBP imaged by the pair of imaging devices 30.
  • FIG. 6 is a diagram schematically showing a construction object OBPf having uniform geology.
  • FIG. 7 is a diagram schematically showing a construction target OBPd whose geology changes. As shown in FIGS. 6 and 7, depending on the construction site, there may be a construction target OBPf whose geology is uniform and a construction target OBPd whose geology changes.
  • the three-dimensional data acquisition unit 102 acquires three-dimensional data of a region including the boundary of the geology in the construction target OBPd whose geology changes. For example, as shown in FIG. 7, when the construction target OBPd includes the first geology and the second geology, the three-dimensional data acquisition unit 102 is an area including the boundary between the first geology and the second geology. Acquire 3D data.
  • the geological boundary is a geological boundary on the surface (surface) of the construction target OBPd.
  • the three-dimensional data of the region including the boundary of the geology is the three-dimensional data of the region including the boundary of the geology on the surface (the ground surface) of the construction target OBPd.
  • FIG. 8 is a diagram schematically illustrating an example of the two-dimensional image data acquired by the two-dimensional image data acquisition unit 101 according to the present embodiment.
  • the operator changes the position or orientation of the imaging device 30 by performing at least one of the turning of the turning body 3 and the running of the traveling body 5, and images each of the plurality of construction target OBPs at the construction site. Thereby, the two-dimensional image data about each of several construction object OBP in a construction site is acquired.
  • two-dimensional image data of the construction target OBP is acquired by the imaging device 30 when the imaging switch 32 is operated by the operator.
  • the 2D image data acquisition unit 101 acquires a plurality of 2D image data for each of the plurality of construction target OBPs.
  • FIG. 8 shows an example in which the two-dimensional image data acquisition unit 101 acquires N number of two-dimensional image data.
  • the two-dimensional image data 1 is two-dimensional image data that does not include a geological boundary.
  • the two-dimensional image data 2 is two-dimensional image data including a geological boundary.
  • the two-dimensional image data 3 is two-dimensional image data that does not include a geological boundary.
  • the two-dimensional image data 4 is two-dimensional image data including a geological boundary.
  • the two-dimensional image data 5 is two-dimensional image data that does not include a geological boundary.
  • the two-dimensional image data 6 is two-dimensional image data that does not include a geological boundary.
  • the two-dimensional image data 7 is two-dimensional image data including a geological boundary.
  • the two-dimensional image data N is two-dimensional image data that does not include a geological boundary.
  • the identifier assigning unit 107 assigns an identifier to the two-dimensional image data including the boundary of the construction target geology based on the operation of the identifier assigning switch 33 by the operator of the cab 4.
  • identifiers D1, D2, and D3 are assigned to the two-dimensional image data 2, the two-dimensional image data 4, and the two-dimensional image data 7.
  • no identifier is given to the two-dimensional image data 1, the two-dimensional image data 3, the two-dimensional image data 5, the two-dimensional image data 6, and the two-dimensional image data N.
  • the 2D image data 1 to 2D image data N acquired by the 2D image data acquisition unit 101 are displayed on the display device 58.
  • the operator visually checks the display device 58 and determines whether or not the two-dimensional image data displayed on the display device 58 includes a geological boundary.
  • the imaging device 30 can acquire two-dimensional image data with image quality at a level at which boundaries between different geological features can be visually determined. Therefore, the operator can determine whether or not a geological boundary is included in the two-dimensional image data by viewing the two-dimensional image data.
  • the imaging device 30 is in a state in which a geological boundary line is determined by inspecting the geological structure in advance before photographing, and a mark is provided at the geological boundary of the construction target OBP. Imaging may be performed.
  • the marks may be, for example, colored powder sprayed along the geological boundary, rod members arranged at regular intervals along the geological boundary, or arranged at regular intervals along the geological boundary. A reflective member such as a prism may also be used.
  • the operator captures the 2D image data of the construction target OBP by the imaging device 30, so that the operator visually observes the mark included in the 2D image data. It can be easily determined whether or not the geological boundary is included in the dimensional image data.
  • the operator visually operates the two-dimensional image data displayed on the display device 58 and operates the identifier assigning switch 33 when determining that the two-dimensional image data includes a geological boundary.
  • Input data generated by operating the identifier assigning switch 33 is supplied to the identifier assigning unit 107.
  • the identifier assigning unit 107 assigns an identifier to the two-dimensional image data including the boundary of the geology to be constructed.
  • the operator visually observes the display device 58 and adds the geological features to the two-dimensional image data 2 displayed on the display device 58. It is determined that a boundary is included, and the identifier assignment switch 33 is operated. Thereby, the identifier D1 is given to the two-dimensional image data 2.
  • the identifier assignment switch 33 is operated by the operator, and the identifier D ⁇ b> 2 is assigned to the two-dimensional image data 4.
  • the identifier assigning switch 33 is operated by the operator, and the identifier D3 is assigned to the two-dimensional image data 7.
  • the operator looks at the display device 58 and if the two-dimensional image data 1 displayed on the display device 58 does not include a geological boundary.
  • the identifier assignment switch 33 is not operated. Thereby, no identifier is given to the two-dimensional image data 1.
  • Specific 2D image data which is 2D image data to which an identifier is assigned, is stored in the storage unit 109.
  • the specific two-dimensional image data is three of the two-dimensional image data 2, 4, 7. Actually, a large number of specific two-dimensional image data is stored in the storage unit 109. Two-dimensional image data to which no identifier is assigned is also stored in the storage unit 109.
  • the specific two-dimensional image data to which the identifier is assigned is transmitted to the server 61 via the communication line NTW.
  • two-dimensional image data to which no identifier is assigned is also transmitted to the server 61 via the communication line NTW.
  • the operator looks at the specific two-dimensional image data 2, 4, 7 displayed on the display device 58, determines the position of the boundary of the geology in the specific two-dimensional image data 2, 4, 7, and uses the input unit 34.
  • boundary data indicating the position of the boundary of the geology in the specific two-dimensional image data 2, 4, 7 is input.
  • the operator looks at the specific two-dimensional image data 2, 4, and 7 displayed on the display device 58, and the first geological data indicating the first geology forming the boundary and the second geological data indicating the second geology. Are input via the input unit 34.
  • the operator views the two-dimensional image data 1, 3, 5, 6, N displayed on the display device 58 and inputs the geological data displayed on the display device 58 via the input unit 34.
  • the 3D data acquisition unit 102 acquires 3D data including geological boundaries in the camera coordinate system based on the specific 2D image data. By performing stereo processing based on the specific two-dimensional image data including the boundary data, the acquired three-dimensional data reflects the boundary between the first geological area and the second geological area, and the first The second geological area and the second geological area are identified.
  • the three-dimensional data of the construction target includes the three-dimensional data of the first geological area including the first geological data, and the three-dimensional data of the second geological area including the second geological data. , Including boundary data indicating a boundary between the first geological area and the second geological area.
  • the three-dimensional data acquisition unit 102 stores the position data of the excavator 1 acquired by the position data acquisition unit 103, the posture data of the excavator 1 acquired by the posture data acquisition unit 104, and the direction data acquisition unit 105. Based on the obtained azimuth data of the excavator 1, the three-dimensional data of the geological boundary in the camera coordinate system is coordinate-transformed to obtain the three-dimensional data of the geological boundary in the global coordinate system. Three-dimensional data of geological boundaries in the global coordinate system is also stored in the storage unit 109.
  • the three-dimensional data indicating the geological boundary in the global coordinate system acquired by the three-dimensional data acquisition unit 102 is transmitted to the server 61 via the communication line NTW.
  • the three-dimensional data of the construction target OBP in the global coordinate system not including the geological boundary is also transmitted to the server 61 via the communication line NTW.
  • the three-dimensional data acquisition unit 102 synthesizes the three-dimensional data including the geological boundary stored in the storage unit 109 to acquire specific geological area data.
  • the three-dimensional data acquisition unit 102 acquires specific geological area data by connecting a plurality of geological boundary three-dimensional data. can do.
  • the three-dimensional data acquisition unit 102 connects the first geological area data or the plurality of specific two-dimensional image data including the first geology and the second geology. Second geological area data can be acquired.
  • the display control unit 108 causes the display device 58 to display the acquired geological area data.
  • FIG. 9 is a diagram schematically illustrating an example of the display device 58 that displays the geological area data according to the present embodiment.
  • the three-dimensional data acquisition unit 102 includes, for example, a plurality of specific two-dimensional images including a first geology and a second geology that approximate the specific two-dimensional image data 2, 4, 7 and the specific two-dimensional image data 2, 4, 7, Get geological area data by data.
  • the display control unit 108 causes the display device 58 to display the geological area data acquired by the three-dimensional data acquisition unit 102.
  • the display control unit 108 may cause the display device 58 to display the three-dimensional data of the geological boundary acquired by the three-dimensional data acquisition unit 102.
  • FIG. 10 is a flowchart illustrating an example of the construction management method according to the present embodiment.
  • a plurality of construction target OBPs at the construction site are imaged by the imaging device 30.
  • the two-dimensional image data acquisition unit 101 acquires two-dimensional image data for a plurality of construction target OBPs from the imaging device 30 (step SP1).
  • the 2D image data of the construction target OBP acquired by the 2D image data acquisition unit 101 is displayed on the display device 58.
  • the operator of the hydraulic excavator 1 visually checks the two-dimensional image data displayed on the display device 58 and determines whether or not the two-dimensional image data includes a geological boundary to be constructed. When the operator determines that the two-dimensional image data includes the boundary of the target geology, the operator operates the identifier assignment switch 33.
  • the identifier assignment unit 107 assigns an identifier to the two-dimensional image data (step SP2).
  • the operator of the hydraulic excavator 1 visually checks the two-dimensional image data displayed on the display device 58 and specifies the geology of the construction target in the two-dimensional image data.
  • the operator specifies the construction target geology in the two-dimensional image data, and then operates the input unit 34 to input the construction target geological data.
  • Geological data includes boundary data indicating the position of the geological boundary.
  • the operator specifies the position of the boundary of the geology to be constructed in the two-dimensional image data. After specifying the position of the geological boundary, the operator operates the input unit 34 to input boundary data indicating the position of the data boundary.
  • the geological data including the geological boundary data generated by the operation of the input unit 34 is acquired by the geological data acquisition unit 106 (step SP3).
  • the three-dimensional data acquisition unit 102 acquires three-dimensional data including geological data in the camera coordinate system by performing stereo processing on a plurality of images captured by the imaging device 30 (step SP4).
  • the position data of the swing body 3 is acquired by the position data acquisition unit 103.
  • the posture data acquisition unit 104 acquires the posture data of the revolving structure 3.
  • the azimuth data of the swing body 3 is acquired by the azimuth data acquisition unit 105.
  • the three-dimensional data acquisition unit 102 converts the three-dimensional data of the construction target in the camera coordinate system based on the position data, the posture data, and the orientation data of the revolving structure 3, and performs the three-dimensional construction target in the global coordinate system. Data is acquired (step SP5).
  • the three-dimensional data acquisition unit 102 acquires a specific geological area data by combining a plurality of specific two-dimensional image data (step SP6).
  • the display control unit 108 displays the acquired geological area data on the display device 58 (step SP7).
  • the three-dimensional data to be constructed in the global coordinate system acquired in step SP5 is transmitted from the control system 50 of the excavator 1 to the server 61 via the communication line NTW (step SP8).
  • the geological area data acquired in step SP6 is transmitted from the control system 50 of the excavator 1 to the server 61 via the communication line NTW.
  • specific two-dimensional image data including a geological boundary in the global coordinate system and two-dimensional image data not including a geological boundary in the global coordinate system are also transmitted from the control system 50 of the excavator 1 to the server via the communication line NTW. 61 is transmitted.
  • the specific two-dimensional image data including the geological boundary in the global coordinate system is obtained by coordinate conversion of the specific two-dimensional image data such as the two-dimensional image data 2, 4, and 7 described with reference to FIG. Two-dimensional image data.
  • the two-dimensional image data that does not include the geological boundary in the global coordinate system is obtained by coordinate-transforming two-dimensional image data such as the two-dimensional image data 1, 3, 5, 6, N described with reference to FIG. It is the acquired two-dimensional image data.
  • the server 61 includes not only the hydraulic excavator 1 but also a plurality of other hydraulic excavators 1 ot, specific two-dimensional data including three-dimensional data of geological boundaries in the global coordinate system, geological area data, and geological boundaries in the global coordinate system. Image data and two-dimensional image data that does not include geological boundaries in the global coordinate system are transmitted.
  • the server 61 creates a database of three-dimensional data of construction objects in the global coordinate system supplied from the excavator 1 and other excavators 1 ot. As described above, the server 61 includes an arithmetic processing device and a storage device. The three-dimensional data of the construction object supplied from the hydraulic excavator 1 and other hydraulic excavators 1 ot is made into a database and stored in the storage device of the server 61.
  • geological area data supplied from the hydraulic excavator 1 and other hydraulic excavators 1 ot, specific two-dimensional image data including geological boundaries in the global coordinate system, and two-dimensional image data not including geological boundaries in the global coordinate system Is also made into a database and stored in the storage device of the server 61.
  • the arithmetic processing unit of the server 61 integrates the three-dimensional data of the construction target in the global coordinate system supplied from the hydraulic excavator 1 and other hydraulic excavators 1ot (step SP9). Thereby, the three-dimensional data of the construction target including the geological data in the entire construction site is acquired.
  • the server 61 causes the display device 65 to display construction target three-dimensional data including the acquired geological data for the entire construction site. Thereby, the administrator can recognize the geology and the boundary of the geology in the whole construction site. Since the three-dimensional data of the construction target including the geological data in the entire construction site is displayed on the display device 65, the administrator can intuitively recognize the geological boundary in the entire construction site.
  • the arithmetic processing unit of the server 61 integrates geological area data supplied from the hydraulic excavator 1 and other hydraulic excavators 1 ot, integrates specific two-dimensional image data including geological boundaries in the global coordinate system, and global coordinates. Integration of two-dimensional image data that does not include geological boundaries in the system can be performed.
  • the integrated geological area data, the specific two-dimensional image data including the geological boundary in the integrated global coordinate system, and the two-dimensional image data not including the geological boundary in the integrated global coordinate system are displayed on the display device 65. Is done. Thereby, the administrator can intuitively recognize the geological distribution of the entire construction site and the progress of construction.
  • the imaging device 30 is used as completed construction data indicating the result of construction at the end stage of the day's work and intermediate construction data indicating the result of construction during the stage of the day's work.
  • the current terrain data that is the three-dimensional data of the construction target acquired by the detection processing device 51 is transmitted to the server 61. Therefore, the manager can intuitively recognize the progress of construction based on the current terrain data that is three-dimensional data displayed on the display device 65 connected to the server 61.
  • the geological data including the geological boundary data is acquired, and the three-dimensional data including the geological boundary of the construction target is acquired based on the geological data. Therefore, the three-dimensional data of the construction target including the geological data is efficiently acquired.
  • the construction amount or construction period that can be performed per unit time may vary depending on the geology of the construction target. For example, in the case of geology that is easy to construct, such as soft geology, the construction amount increases and the construction period is shortened. In the case of geology that is difficult to construct, such as hard geology, the construction amount is reduced and the construction period is prolonged. Thus, the geology of the construction target affects the construction amount or construction period that can be performed per unit time. Therefore, it is important to investigate the geology of the construction target and acquire data on the geology.
  • an identifier is given to the two-dimensional image data including the soil boundary. Therefore, three-dimensional data including the boundary data of the geology of the construction target OBP is efficiently acquired based on the specific two-dimensional image data to which the identifier is assigned.
  • the number of the two-dimensional image data acquired by the imaging device 30 is enormous, and the two-dimensional image data including the geological boundary and the two-dimensional image data not including the geological boundary are included. If they are mixed, complicated processing may be required to acquire the three-dimensional data of the geological boundary, or it may take a long time to acquire the three-dimensional data of the geological boundary. .
  • an identifier is assigned by the identifier assigning unit 107 to the two-dimensional image data including a geological boundary.
  • the geological features defined by the camera coordinate system are based on the position data of the revolving structure 3 on which the imaging device 30 is mounted, the attitude data of the revolving structure 3, and the orientation data of the revolving structure 3.
  • the two-dimensional image data of the boundary is subjected to coordinate transformation, and the three-dimensional data of the geological boundary in the global coordinate system is acquired.
  • specific geological area data is acquired by synthesizing the three-dimensional data of the geological boundary. Therefore, it is possible to grasp the geological distribution at the construction site.
  • the three-dimensional data and the geological area data to be constructed are displayed on the display device 58 or the display device 65.
  • the operator or the administrator can intuitively recognize the geological boundary or the geological distribution by looking at the display device 65.
  • the geological boundary is included in the two-dimensional image data acquired by the imaging device 30 . If determined, the identifier assignment switch 33 is operated. Thereby, an identifier can be given to the two-dimensional image data including the boundary of the geology without performing advanced image processing on the two-dimensional image data acquired by the imaging device 30.
  • the three-dimensional data acquired by the excavator 1 is supplied to the server 61.
  • the server 61 is supplied with three-dimensional data not only from the excavator 1 but also from other excavators 1 ot. Therefore, the server 61 can construct the three-dimensional data of the entire construction site based on the supplied three-dimensional data.
  • the operator operates the identifier assigning switch 33 to assign an identifier to the two-dimensional image data.
  • the control system 50 performs image processing on the two-dimensional image data acquired by the imaging device 30, and determines whether or not a geological boundary is included in the two-dimensional image data based on the result of the image processing. Good.
  • the control system 50 can determine whether or not a geological boundary is included in the two-dimensional image data by detecting an edge of the two-dimensional image data or binarizing the two-dimensional image data. it can.
  • the server 61 may have a part or all of the functions of the detection processing device 51. That is, the server 61 includes a two-dimensional image data acquisition unit 101, a three-dimensional data acquisition unit 102, a position data acquisition unit 103, an orientation data acquisition unit 104, an orientation data acquisition unit 105, a geological data acquisition unit 106, an identifier assignment unit 107, You may have at least one of the display control part 108, the memory
  • the orientation data of the revolving structure 3 detected by the device 25 and the input data generated by the identifier assignment switch 33 may be supplied to the server 61 via the communication device 26 and the communication line NTW.
  • the identifier assigning unit 107 of the server 61 assigns an identifier to the two-dimensional image data including the boundary of the target geology based on the two-dimensional image data and the input data supplied via the communication device 26 and the communication line NTW. be able to.
  • the three-dimensional data acquisition unit 102 of the server 61 can acquire three-dimensional data including geological boundary data based on the specific two-dimensional image data to which the identifier is assigned. Further, the three-dimensional data acquisition unit 102 of the server 61 uses the geological boundary in the global coordinate system based on the position data, posture data, and direction data of the swivel body 3 supplied via the communication device 26 and the communication line NTW. 3D data can be acquired. The three-dimensional data acquisition unit 102 of the server 61 can acquire specific geological area data by combining a plurality of specific two-dimensional image data.
  • the server 61 is supplied with both two-dimensional image data including a geological boundary and two-dimensional image data not including a geological boundary from the hydraulic excavator 1 and a plurality of other hydraulic excavators 1 ot. A huge number of two-dimensional image data is transmitted to the server 61 from the hydraulic excavator 1 and a plurality of other hydraulic excavators 1ot.
  • the server 61 extracts only the specific two-dimensional image data to which the identifier is given, If image processing is performed, the three-dimensional data of the geological boundary of the construction target OBP can be efficiently acquired.
  • the three-dimensional data includes geological data. At least one of the first geological data about the first geological area, the second geological data about the second geological area, and the boundary data between the first geological area and the second geological area is stored in the server 61. It may be stored in the storage unit 109.
  • the operator specifies a geological boundary, inputs the boundary data by operating the input unit 34, and based on the boundary data input by the operation of the input unit 34, the first geology The area and the second geological area were determined.
  • the two-dimensional image data acquired by the two-dimensional image data acquisition unit 101 may be subjected to image processing in a computer system, and the geological boundary may be specified by the computer system.
  • the identifier is given to the two-dimensional image data including the boundary.
  • the identifier may not be given to the two-dimensional image data including the boundary.
  • three-dimensional data is acquired by a stereo camera.
  • Three-dimensional data may be acquired by one camera and a three-dimensional measuring device such as a laser scanner.
  • three-dimensional data may not be acquired.
  • Two-dimensional image data including the boundary of the construction target geology imaged by the imaging device 30 provided in the excavator 1 is acquired by the two-dimensional image data acquisition unit 101, and the position data of the excavator 1 is acquired by the position data acquisition unit 103.
  • the storage unit 109 provided in the server 61 acquires the 2D image data as the 2D image data.
  • the position data, posture data, and time data when the two-dimensional image data of the hydraulic excavator 1 is acquired may be added and stored.
  • the storage unit 109 may store not only the position data, the posture data, and the time point data of the excavator 1 but also the geological data of the construction target in addition to the two-dimensional image data.
  • produced in the construction object may be linked
  • the three-dimensional data acquisition unit 102 that acquires the three-dimensional data of the construction target may acquire three-dimensional data including geological data, information about what kind of event has occurred (information about the event), and event position data. .
  • the events that have occurred in the construction target include, for example, the generation of water in the construction of the construction target, and a sudden increase in the load on the work implement.
  • the position data acquisition unit 103 can specify event position data indicating a position where water is generated based on the position data of the blade edge 8BT.
  • the storage unit 109 may add and store event position data to the three-dimensional data.
  • the work machine 1 is a hydraulic excavator.
  • the work machine 1 may be a work machine capable of constructing a construction target, and may be a drilling machine capable of excavating the construction target and a transport machine capable of transporting earth and sand.
  • the work machine 1 may be a wheel loader, a bulldozer, or a dump truck, for example.

Abstract

施工管理システムは、施工対象の地質データを取得する地質データ取得部と、施工対象の3次元データを取得する3次元データ取得部と、を備え、3次元データ取得部は、地質データに基づいて、施工対象の地質の境界を含む3次元データを取得する。

Description

施工管理システム
 本発明は、施工管理システムに関する。
 撮像装置を搭載した作業機械が知られている。特許文献1には、施工計画データとステレオカメラの位置情報に基づき施工計画画像データを作成し、施工計画画像データとステレオカメラで撮像された現況画像データとを重合わせ、重合わせた合成画像を3次元表示装置に3次元表示させる技術が開示されている。
特開2013-036243号公報
 施工対象の地質によって単位時間当たりに実施可能な施工量又は工期が変動する可能性がある。施工し易い地質の場合、施工量が増大し工期が短期化する。施工し難い地質の場合、施工量が低減し工期が長期化する。このように、施工対象の地質は、単位時間当たりに実施可能な施工量又は工期に影響を及ぼす可能性がある。そのため、施工計画の段階において施工対象の地質の調査が実施され、地質についてのデータが取得される。
 施工計画の段階において調査された地質と施工実施の段階において認識される地質とが異なる場合、施工実施の段階において地質の調査を再度実施する必要がある。施工対象において地質が変化する場合、地質データを含む施工対象の3次元データを効率良く取得できる技術が要望される。
 本発明の態様は、地質データを含む施工対象の3次元データを効率良く取得できる施工管理システムを提供することを目的とする。
 本発明の第1の態様に従えば、作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、前記作業機械に取り付けられ、前記対象の3次元データを取得する3次元データ取得部と、前記2次元画像データに地質データを入力する入力部と、入力された前記地質データを、前記3次元データに付与する地質データ取得部と、を備える、施工管理システムが提供される。
 本発明の第2の態様に従えば、作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、前記撮像装置によって前記2次元画像データが撮影された時点の位置データを取得する位置データ取得部と、前記2次元画像データ内に含まれる地面の地質に関する地質データを取得する地質データ取得部と、前記2次元画像データに、前記2次元画像データが取得された時点の前記作業機械の前記位置データ、前記2次元画像データ内に含まれる地面の地質データ、及び前記2次元画像データが取得された時点の時点データを付加して記憶する記憶部と、を備える施工管理システムが提供される。
 本発明の第3の態様に従えば、作業機械に取り付けられ、施工対象の3次元データを取得する3次元データ取得部と、前記施工対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部と、を備え、前記3次元データ取得部は、前記3次元データ取得部により得られた3次元データに、前記事象に関する情報及び前記事象位置データを付与する、施工管理システムが提供される。
 本発明の態様によれば、地質データを含む施工対象の3次元データを効率良く取得できる施工管理システムが提供される。
図1は、本実施形態に係る作業機械の一例を示す斜視図である。 図2は、本実施形態に係る撮像装置の一例を示す斜視図である。 図3は、本実施形態に係る作業機械の制御システム及び施工管理システムの一例を模式的に示す図である。 図4は、本実施形態に係る検出処理装置の一例を示す機能ブロック図である。 図5は、本実施形態に係る撮像装置及び検出処理装置の処理の一例を示す模式図である。 図6は、地質が均一である施工対象を模式的に示す図である。 図7は、地質が変化する施工対象を模式的に示す図である。 図8は、本実施形態に係る2次元画像データ取得部に取得された2次元画像データの一例を模式的に示す図である。 図9は、本実施形態に係る地質エリアデータを表示する表示装置の一例を模式的に示す図である。 図10は、本実施形態に係る施工管理方法の一例を示すフローチャートである。
 以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
 以下の説明においては、3次元のグローバル座標系(Xg,Yg,Zg)、3次元の車体座標系(Xm,Ym,Zm)、及び3次元のカメラ座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
 グローバル座標系は、水平面内のXg軸と、水平面内においてXg軸と直交するYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸と平行な方向をXg軸方向とし、Yg軸と平行な方向をYg軸方向とし、Zg軸と平行な方向をZg軸方向とする。また、Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
 車体座標系は、作業機械の車体に規定された原点を基準として一方向に延在するXm軸と、Xm軸と直交するYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸と平行な方向をXm軸方向とし、Ym軸と平行な方向をYm軸方向とし、Zm軸と平行な方向をZm軸方向とする。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
 カメラ座標系は、撮像装置に規定された原点を基準として一方向に延在するXs軸と、Xs軸と直交するYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸と平行な方向をXs軸方向とし、Ys軸と平行な方向をYs軸方向とし、Zs軸と平行な方向をZs軸方向とする。Xs軸方向は撮像装置の上下方向であり、Ys軸方向は撮像装置の幅方向であり、Zs軸方向は撮像装置の前後方向である。Zs軸方向は撮像装置の光学系の光軸と平行である。
[作業機械]
 図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
 図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
 旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸ZrとZm軸とは平行である。旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。走行体5は、履帯5a,5bを有する。履帯5a,5bが回転することにより、油圧ショベル1が走行する。
 作業機2は、旋回体3に連結される。作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
 バケット8は、複数の刃8Bを有する。複数の刃8Bは、車体座標系のYm軸方向に配置される。刃8Bは、刃先8BTを有する。刃先8BTは、刃8Bの先端部に設けられる。バケット8は、作業具の一種である。なお、アーム7に連結される作業具は、バケット8に限定されない。作業具は、アーム7に連結される作業具は、例えばチルトバケットでもよいし、法面バケット又は削岩用のチップを備えた削岩用のアタッチメントでもよい。
 本実施形態において、グローバル座標系(Xg,Yg,Zg)で規定される旋回体3の位置が検出される。グローバル座標系は、地球に固定された原点を基準とする座標系である。グローバル座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。GNSSは、複数の測位衛星を有する。GNSSは、緯度、経度、及び高度の座標データで規定される位置を検出する。
 車体座標系(Xm,Ym,Zm)は、旋回体3に固定された原点を基準とする座標系である。車体座標系の原点は、例えば旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回軸Zrに存在する。車体座標系のZm軸は、旋回体3の旋回軸Zrと一致する。Xm軸方向は、旋回体3の前後方向である。Ym軸方向は、旋回体3の車幅方向である。Zm軸方向は、旋回体3の上下方向である。
 油圧ショベル1は、旋回体3の位置を検出する位置検出器23と、旋回体3の姿勢を検出する姿勢検出器24と、旋回体3の方位を検出する方位検出器25とを有する。
 位置検出器23は、GPS受信機を含む。位置検出器23は、旋回体3に設けられる。位置検出器23は、グローバル座標系で規定される旋回体3の位置である絶対位置を検出する。旋回体3の絶対位置は、Xg軸方向の座標データ、Yg軸方向の座標データ、及びZg軸方向の座標データを含む。
 旋回体3に一対のGPSアンテナ21,22が設けられる。本実施形態において、GPSアンテナ21,22は、旋回体3の上部に設けられた手すり9に設けられる。GPSアンテナ21,22は、車体座標系のYm軸方向に配置される。GPSアンテナ21,22は、一定距離だけ離れている。GPSアンテナ21,22は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出器23に出力する。位置検出器23は、GPSアンテナ21,22から供給された信号に基づいて、グローバル座標系で規定されるGPSアンテナ21,22の位置である絶対位置を検出する。位置検出器23は、GPSアンテナ21,22の絶対位置に基づいて、旋回体3の絶対位置を検出する。
 位置検出器23は、一方のGPSアンテナ21の絶対位置及び他方のGPSアンテナ22の絶対位置のそれぞれを検出する。位置検出器23は、GPSアンテナ21の絶対位置及びGPSアンテナ22の絶対位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の絶対位置を算出する。
 姿勢検出器24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出器24は、旋回体3に設けられる。姿勢検出器24は、グローバル座標系で規定される水平面(XgYg平面)に対する旋回体3の傾斜角度を算出する。水平面に対する旋回体3の傾斜角度は、Ym軸方向(車幅方向)における旋回体3の傾斜角度を示すロール角θrと、Xm軸方向(前後方向)における旋回体3の傾斜角度を示すピッチ角θpとを含む。
 姿勢検出器24は、姿勢検出器24に作用する加速度及び角速度を検出する。姿勢検出器24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。旋回体3に作用する加速度及び角速度に基づいて、旋回体3の姿勢が算出される。
 方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ22の絶対位置とに基づいて、グローバル座標系で規定される基準方位に対する旋回体3の方位を算出する。基準方位は、例えば北である。方位検出器25は、GPSアンテナ21の絶対位置とGPSアンテナ22の絶対位置とに基づいて演算処理を実施して、基準方位に対する旋回体3の方位を算出する。方位検出器25は、GPSアンテナ21の絶対位置とGPSアンテナ22の絶対位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位を算出する。基準方位に対する旋回体3の方位は、基準方位と旋回体3の方位とがなす角度を示すヨー角(方位角)θyを含む。
[撮像装置]
 図2は、本実施形態に係る撮像装置30の一例を示す斜視図である。図2は、油圧ショベル1の運転室4の近傍を示す斜視図である。
 図2に示すように、油圧ショベル1は、撮像装置30を有する。撮像装置30は、運転室4の内側に設けられる。撮像装置30は、運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。
 撮像装置30は、旋回体3の前方に存在する撮影対象を撮影する。本実施形態において、撮影対象は、施工現場において施工される施工対象を含む。施工対象は、油圧ショベル1の作業機2で掘削される掘削対象を含む。なお、施工対象は、他の油圧ショベル1ot(図3参照)の作業機2で掘削される掘削対象でもよいし、撮像装置30を有する油圧ショベル1とは別の作業機械によって施工される施工対象でもよい。なお、施工対象は、作業者によって施工される施工対象でもよい。
 また、施工対象は、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
 撮像装置30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。撮像装置30は、少なくとも施工対象の地質を目視で判断できるレベルの画質の2次元画像データを取得可能である。例えば、施工対象が異なる複数の地質で形成されている場合、撮像装置30は、異なる地質の境界を目視で判断できるレベルの画質の2次元画像データを取得可能である。
 本実施形態において、撮像装置30は、複数の撮像装置30a,30b,30c,30dを含む。撮像装置30a,30cは、撮像装置30b,30dよりも+Ym側(作業機2側)に配置される。撮像装置30aと撮像装置30bとはYm軸方向に間隔をあけて配置される。撮像装置30cと撮像装置30dとはYm軸方向に間隔をあけて配置される。撮像装置30a,30bは、撮像装置30c,30dよりも+Zm側に配置される。Zm軸方向において、撮像装置30aと撮像装置30bとは実質的に同一の位置に配置される。Zm軸方向において、撮像装置30cと撮像装置30dとは実質的に同一の位置に配置される。
 4つの撮像装置30(30a,30b,30c,30d)のうち2つの撮像装置30の組合せによりステレオカメラが構成される。ステレオカメラとは、撮影対象を複数の異なる方向から同時に撮影することにより、撮影対象の奥行き方向についてのデータも取得できるカメラをいう。本実施形態においては、撮像装置30a,30bの組合せにより第1のステレオカメラが構成され、撮像装置30c,30dの組合せにより第2のステレオカメラが構成される。
 本実施形態において、撮像装置30a,30bは上方(+Zm方向)を向く。撮像装置30c,30dは下方(-Zm方向)を向く。また、撮像装置30a,30cは、前方(+Xm方向)を向く。撮像装置30b,30dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、撮像装置30a,30cは、旋回体3の正面を向き、撮像装置30b,30dは、撮像装置30a,30c側を向く。なお、撮像装置30b,30dが旋回体3の正面を向き、撮像装置30a,30cが撮像装置30b,30d側を向いてもよい。
 撮像装置30は、旋回体3の前方に存在する撮影対象をステレオ撮影する。本実施形態においては、少なくとも一対の撮像装置30によるステレオ2次元画像データを用いて施工対象が3次元計測され、施工対象の3次元データが算出される。施工対象の3次元データは、施工対象の表面(地表)の3次元データである。施工対象の3次元データは、グローバル座標系における施工対象の3次元位置データ及び3次元形状データを含む。
 複数の撮像装置30(30a,30b,30c,30d)のそれぞれについてカメラ座標系(Xs,Ys,Zs)が規定される。カメラ座標系は、撮像装置30に固定された原点を基準とする座標系である。カメラ座標系のZs軸は撮像装置30の光学系の光軸と一致する。Xs軸方向は撮像装置30の上下方向である。Ys軸方向は撮像装置30の幅方向である。Zs軸方向は撮像装置30の前後方向である。また、本実施形態においては、複数の撮像装置30a,30b,30c,30dのうち、撮像装置30cが基準撮像装置に設定される。
[施工管理システム]
 図3は、本実施形態に係る油圧ショベル1の制御システム50及びサーバ61を含む施工管理システム100の一例を模式的に示す図である。
 制御システム50は、油圧ショベル1に配置される。サーバ61は、油圧ショベル1の遠隔地に設けられる。制御システム50とサーバ61とは、通信回線NTWを介してデータ通信可能である。また、通信回線NTWには、制御システム50及びサーバ61のみならず、携帯端末装置64及び他の油圧ショベル1otの制御システム50otが接続される。油圧ショベル1の制御システム50と、サーバ61と、携帯端末装置64と、他の油圧ショベル1otの制御システム50otとは、通信回線NTWを介してデータ通信可能である。通信回線NTWは、携帯電話網及びインターネットの少なくとも一方を含む。なお、通信回線NTWが無線LAN(Local Area Network)を含んでもよい。
 制御システム50は、複数の撮像装置30(30a,30b,30c,30d)と、検出処理装置51と、施工データ生成装置52と、施工管理装置57と、表示装置58と、通信装置26とを有する。
 また、制御システム50は、位置検出器23と、姿勢検出器24と、方位検出器25とを有する。
 検出処理装置51、施工データ生成装置52、施工管理装置57、表示装置58、通信装置26、位置検出器23、姿勢検出器24、及び方位検出器25は、信号線59に接続され相互にデータ通信可能である。信号線59に適用される通信規格は、例えばCAN(Controller Area Network)である。
 制御システム50は、コンピュータシステムを含む。制御システム50は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような不揮発性メモリ及びROM(Random Access Memory)のような揮発性メモリを含む記憶装置とを有する。通信用アンテナ26Aが通信装置26と接続される。通信装置26は、サーバ61、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
 検出処理装置51は、少なくとも一対の撮像装置30によって撮像された施工対象の一対の2次元画像データに基づいて、施工対象の3次元データを算出する。検出処理装置51は、施工対象の一対の2次元画像データをステレオ方式で画像処理することにより、3次元座標系における施工対象の複数の部位の座標を示す3次元データを算出する。ステレオ方式の画像処理とは、同一の撮影対象を2つの異なる撮像装置30から観測して得られる2つの画像から、その撮影対象までの距離を得る手法をいう。撮影対象までの距離は、例えば撮影対象までの距離データを濃淡により可視化した距離画像として表現される。
 ハブ31、撮像スイッチ32、識別子付与スイッチ33、及び入力部34が検出処理装置51に接続される。ハブ31は、複数の撮像装置30a,30b,30c,30dと接続される。撮像装置30a,30b,30c,30dで取得された2次元画像データは、ハブ31を介して検出処理装置51に供給される。なお、ハブ31は省略されてもよい。
 撮像スイッチ32は、運転室4に設置される。本実施形態においては、運転室4のオペレータによって撮像スイッチ32が操作されたとき、撮像装置30による施工対象の撮像が実施される。
 識別子付与スイッチ33は、運転室4に設置される。本実施形態においては、運転室4のオペレータによって識別子付与スイッチ33が操作されたとき、撮像装置30によって取得された2次元画像データに識別子が付与される。識別子とは、後述するが、撮像装置により撮像した2次元画像データ内に地質の境界が含まれているか否かを示す情報である。
 入力部34は、例えばコンピュータ用のキーボード又はタッチパネルを含む。
 施工データ生成装置52は、施工対象の目標形状を示す目標地形データを生成する。本実施形態において、施工データ生成装置52は、検出処理装置51で算出された施工対象の3次元データに基づいて、目標地形データを生成する。検出処理装置51で算出された施工対象の3次元データは、施工対象の現況形状を示す現況地形データである。施工データ生成装置52は、施工対象の現況地形データに基づいて、目標地形データを生成する。本実施形態において、目標地形データは、グローバル座標系において規定される。
 施工管理装置57は、油圧ショベル1の状態及び油圧ショベル1による施工の状況を管理する。施工管理装置57は、例えば1日の作業の終了段階における施工の結果を示す完了施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。また、施工管理装置57は、1日の作業の途中段階における施工の結果を示す中間施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。
 完了施工データ及び中間施工データは、撮像装置30で取得された2次元画像データに基づいて検出処理装置51で算出された施工対象の3次元データを含む。すなわち、1日の作業の途中段階及び終了段階における施工対象の現況地形データがサーバ61及び携帯端末装置64の少なくとも一方に送信される。
 表示装置58は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。
 携帯端末装置64は、例えば油圧ショベル1の作業を管理する管理者に所持される。
 サーバ61は、コンピュータシステムを含む。サーバ61は、CPUのようなプロセッサを含む演算処理装置と、RAMのような不揮発性メモリ及びROMのような揮発性メモリを含む記憶装置とを含む。通信装置62及び表示装置65がサーバ61と接続される。通信装置62は、通信用アンテナ63と接続される。通信装置62は、油圧ショベル1の制御システム50、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
 図4は、本実施形態に係る検出処理装置51の一例を示す機能ブロック図である。検出処理装置51は、プロセッサを含む演算処理装置と、不揮発性メモリ及び揮発性メモリを含む記憶装置と、入出力インターフェースとを有するコンピュータシステムを含む。
 検出処理装置51は、2次元画像データ取得部101と、3次元データ取得部102と、位置データ取得部103と、姿勢データ取得部104と、方位データ取得部105と、地質データ取得部106と、識別子付与部107と、表示制御部108と、記憶部109と、入出力部110と、を有する。
 2次元画像データ取得部101、3次元データ取得部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、地質データ取得部106、識別子付与部107、及び表示制御部108の機能は、演算処理装置によって発揮される。記憶部109の機能は、記憶装置によって発揮される。入出力部110の機能は、入出力インターフェースによって発揮される。
 図4に記載された各構成は、入出力部110を介してデータ通信可能である。
 2次元画像データ取得部101は、油圧ショベル1に設けられた少なくとも一対の撮像装置30で撮影された施工対象の2次元画像データを一対の撮像装置30から取得する。すなわち、2次元画像データ取得部101は、少なくとも一対の撮像装置30によるステレオ2次元画像データを取得する。
 3次元データ取得部102は、2次元画像データ取得部101で取得された2次元画像データに基づいて、施工対象の3次元データを取得する。3次元データ取得部102は、2次元画像データ取得部101で取得された2次元画像データに基づいて、カメラ座標系における施工対象の3次元位置データを取得する。
 位置データ取得部103は、油圧ショベル1の位置データを位置検出器23から取得する。油圧ショベル1の位置データは、位置検出器23で検出されたグローバル座標系における旋回体3の位置を示す位置データを含む。
 姿勢データ取得部104は、油圧ショベル1の姿勢データを姿勢検出器24から取得する。油圧ショベル1の姿勢データは、姿勢検出器24で検出されたグローバル座標系における旋回体3の姿勢を示す姿勢データを含む。
 方位データ取得部105は、油圧ショベル1の方位データを方位検出器25から取得する。油圧ショベル1の方位データは、方位検出器25で検出されたグローバル座標系における旋回体3の方位を示す方位データを含む。
 3次元データ取得部102は、位置データ取得部103で取得された旋回体3の位置データ、姿勢データ取得部104で取得された旋回体3の姿勢データ、方位データ取得部105で取得された旋回体3の方位データ、及び2次元画像データ取得部101で取得された施工対象の2次元画像データに基づいて、グローバル座標系における施工対象の3次元データを算出する。グローバル座標系における施工対象の3次元データは、グローバル座標系における施工対象の3次元位置データを含む。3次元データ取得部102は、旋回体3の位置データ、旋回体3の姿勢データ、及び旋回体3の方位データに基づいて、カメラ座標系における施工対象の3次元データを座標変換して、グローバル座標系における施工対象の3次元データを算出する。
 地質データ取得部106は、施工対象の地質データを取得する。施工対象の地質データは、施工対象の地質、土質(粘土質、真砂土等)、岩質、及び地盤の堅さのような地質についての種々のデータを含む。また、地質データは、施工対象の地質の境界に関する情報、具体的には境界の位置を含む。施工対象の地質の境界は、第1の地質エリアと、第1の地質エリアの地質とは異なる第2の地質エリアとの境界を含む。
 地質データ取得部106は、入力部34の操作により生成された入力データを取得する。入力部34は、例えば運転室4のオペレータに操作される。オペレータにより入力部34が操作されると、施工対象の地質データを特定するための入力データが生成される。地質データ取得部106は、入力部34から地質データを取得する。
 本実施形態において、オペレータは、2次元画像データ取得部101に取得され表示装置58に表示された施工対象の2次元画像データを見て、施工対象の地質の境界の位置を特定し、入力部34を操作して、施工対象の2次元画像データ内の地質の境界位置に、境界があることを示す境界データを入力する。そうすることにより、施工対象の3次元データ上に地質の境界位置情報を反映させるとともに記憶させることができる。
 また、オペレータは、入力部34を操作して、地質の境界に基づいて規定される地質領域、すなわち同一の地質からなる地面の領域に対して、地質データ(地質、土質、岩質等)を入力する。そうすることにより、施工対象の3次元データ上におけるある地質領域に対して、入力した地質データを記憶させることができる。なお、オペレータは、境界の一方側と他方側に、異なる地質データを入力する。
 3次元データは、メッシュのように所定間隔毎に設けられる要素により構成される。地質データを3次元データに記憶する方法として、地質の境界に基づいて規定される地質領域単位で地質データを記憶してもよいし、各要素単位(一部領域)で地質データを記憶してもよい。
 地質データとして、地盤の堅さ情報を3次元データに記憶させることができる。例えば、ある地質領域に記憶させた地質データに併せて地盤の堅さ情報も記憶できるようにしてもよい。
 識別子付与部107は、識別子付与スイッチ33の操作により生成された入力データに基づいて、施工対象の土質の境界を含む2次元画像データに識別子を付与する。オペレータは、2次元画像データ取得部101で取得され表示装置58に表示された施工対象の2次元画像データに施工対象の地質の境界が含まれていると判定した場合、識別子付与スイッチ33を操作し、施工対象の地質の境界を含む2次元画像データに識別子を付与することができる。
 以下の説明においては、識別子が付与された2次元画像データを適宜、特定2次元画像データ、と称する。
 3次元データ取得部102は、識別子が付与された特定2次元画像データと、更にステレオ処理するためのペアの2次元画像データとに基づいて、施工対象の地質の境界の3次元データを取得する。
 また、3次元データ取得部102は、複数の特定2次元画像データからなる3次元データを合成して、特定の地質により形成される領域の3次元データを取得する。
 表示制御部108は、3次元データ取得部102で算出された施工対象の3次元データを表示装置58に表示させる。また、表示制御部108は、3次元データ取得部102で取得された地質の境界データを含む3次元データを表示装置58に表示させる。また、表示制御部108は、3次元データ取得部102で取得された地質エリアデータを表示装置58に表示させる。表示制御部108は、3次元データ取得部102で取得された施工対象の3次元データ、及び地質エリアデータを表示装置58が表示可能な表示形式の表示データに変換して、その表示データを表示装置58に表示させる。
[施工対象の撮像及び形状データの生成]
 図5は、本実施形態に係る撮像装置30及び検出処理装置51の処理の一例を示す模式図である。以下の説明においては、施工対象OBPが油圧ショベル1の作業機2によって施工される施工現場の一部分であることとする。なお、上述のように、施工対象OBPは、他の油圧ショベル1ot、油圧ショベル1とは別の作業機械、及び作業者の少なくとも一つによって施工される施工対象でもよい。また、施工対象OBPは、施工前の施工対象のみならず、施工中の施工対象、及び施工後の施工対象でもよい。
 施工対象OBPは、旋回体3の前方に存在する。少なくとも一対の撮像装置30によって施工対象OBPが撮像される。本実施形態においては、運転室4に搭乗している油圧ショベル1のオペレータが撮像スイッチ32を操作したとき、撮像装置30による撮像が実施される。撮像スイッチ32が操作されることにより生成された撮影の指令を示す入力データが検出処理装置51に供給される。検出処理装置51は、撮像スイッチ32から供給された入力データに基づいて、撮像装置30に施工対象OBPを撮像させる。
 少なくとも一対の撮像装置30で撮像された施工対象OBPの2次元画像データは、検出処理装置51の2次元画像データ取得部101に取得される。3次元データ取得部102は、2次元画像データ取得部101に取得された少なくとも一対の撮像装置30で撮像された施工対象OBPの2次元画像データをステレオ方式で画像処理して、施工対象OBPの3次元データを取得する。2次元画像データ取得部101に取得された2次元画像データに基づいて取得された3次元データは、カメラ座標系における3次元データである。カメラ座標系における3次元データがグローバル座標系における3次元データに変換される。3次元データ取得部102は、姿勢データ取得部104に取得された油圧ショベル1の姿勢データに基づいて、カメラ座標系における3次元データをグローバル座標系における3次元データに変換する。
 3次元データ取得部102は、少なくとも一対の撮像装置30によって撮像された2次元画像データに基づいてカメラ座標系における施工対象OBPの位置Ps(xs,ys,zs)を取得し、グローバル座標系における位置Pg(xg,yg,zg)に変換する。
 このように、3次元データ取得部102は、2次元画像データ取得部101に取得された2次元画像データに基づいて取得されたカメラ座標系における施工対象OBPの3次元データを、位置データ取得部103に取得された油圧ショベル1の位置データ、姿勢データ取得部104に取得された油圧ショベル1の姿勢データ、及び方位データ取得部105に取得された油圧ショベル1の方位データを使って座標変換して、グローバル座標系における施工対象OBPの3次元データを取得することができる。
 3次元データ取得部102は、少なくとも一対の撮像装置30によって撮像された施工対象OBPの領域の全部において、施工対象OBPの表面の位置Pr(Xg,Yg,Zg)を取得する。
[地質データを含む3次元データ]
 図6は、地質が均一である施工対象OBPfを模式的に示す図である。図7は、地質が変化する施工対象OBPdを模式的に示す図である。図6及び図7に示すように、施工現場によっては、地質が均一である施工対象OBPfと、地質が変化する施工対象OBPdとが存在する場合がある。
 本実施形態において、3次元データ取得部102は、地質が変化する施工対象OBPdにおける地質の境界を含む領域の3次元データを取得する。例えば図7に示すように、施工対象OBPdが第1の地質と第2の地質とを含む場合、3次元データ取得部102は、第1の地質と第2の地質との境界を含む領域の3次元データを取得する。地質の境界は、施工対象OBPdの表面(地表)における地質の境界である。地質の境界を含む領域の3次元データは、施工対象OBPdの表面(地表)における地質の境界を含む領域の3次元データである。
 図8は、本実施形態に係る2次元画像データ取得部101に取得された2次元画像データの一例を模式的に示す図である。オペレータは、旋回体3の旋回及び走行体5の走行の少なくとも一方を実施して撮像装置30の位置又は向きを変え、施工現場における複数の施工対象OBPのそれぞれを撮像装置30で撮像する。これにより、施工現場における複数の施工対象OBPのそれぞれについての2次元画像データが取得される。上述のように、撮像スイッチ32がオペレータに操作されることにより、施工対象OBPの2次元画像データが撮像装置30によって取得される。
 2次元画像データ取得部101は、複数の施工対象OBPのそれぞれについての複数の2次元画像データを取得する。図8は、2次元画像データ取得部101がN数の2次元画像データを取得した例を示す。
 図8に示す例において、2次元画像データ1は、地質の境界を含まない2次元画像データである。2次元画像データ2は、地質の境界を含む2次元画像データである。2次元画像データ3は、地質の境界を含まない2次元画像データである。2次元画像データ4は、地質の境界を含む2次元画像データである。2次元画像データ5は、地質の境界を含まない2次元画像データである。2次元画像データ6は、地質の境界を含まない2次元画像データである。2次元画像データ7は、地質の境界を含む2次元画像データである。2次元画像データNは、地質の境界を含まない2次元画像データである。
 識別子付与部107は、運転室4のオペレータによる識別子付与スイッチ33の操作に基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与する。図8に示す例では、2次元画像データ2、2次元画像データ4、及び2次元画像データ7に識別子D1,D2,D3が付与される。一方、2次元画像データ1、2次元画像データ3、2次元画像データ5、2次元画像データ6、及び2次元画像データNには識別子が付与されない。
 2次元画像データ取得部101に取得された2次元画像データ1から2次元画像データNは、表示装置58に表示される。オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データに地質の境界が含まれているか否かを判定する。
 上述のように、本実施形態において、撮像装置30は、異なる地質の境界を目視で判断できるレベルの画質の2次元画像データを取得可能である。したがって、オペレータは、2次元画像データを目視することにより、その2次元画像データに地質の境界が含まれているか否かを判定することができる。
 なお、目視による判定が困難な場合、撮影前に予め地質を詳細に調査して地質の境界線を決定した上で、施工対象OBPの地質の境界にマークが設けられた状態で、撮像装置30による撮像が実施されてもよい。マークは、例えば地質の境界に沿って噴霧された有色粉末でもよいし、地質の境界に沿って一定の間隔で配置された棒部材でもよいし、地質の境界に沿って一定の間隔で配置されたプリズムのような反射部材でもよい。地質の境界にマークが設けられた状態で、撮像装置30により施工対象OBPの2次元画像データが取得されることにより、オペレータは、2次元画像データに含まれているマークを目視して、2次元画像データに地質の境界が含まれているか否かを容易に判定することができる。
 オペレータは、表示装置58に表示されている2次元画像データを目視して、その2次元画像データに地質の境界が含まれていると判定したとき、識別子付与スイッチ33を操作する。識別子付与スイッチ33が操作されることにより生成された入力データは、識別子付与部107に供給される。識別子付与部107は、識別子付与スイッチ33において生成された入力データに基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与する。
 図8に示す例では、例えば2次元画像データ2が表示装置58に表示されたとき、オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データ2に地質の境界が含まれていると判定し、識別子付与スイッチ33を操作する。これにより、2次元画像データ2に識別子D1が付与される。同様に、2次元画像データ4が表示装置58に表示されたとき、オペレータにより識別子付与スイッチ33が操作され、2次元画像データ4に識別子D2が付与される。同様に、2次元画像データ7が表示装置58に表示されたとき、オペレータにより識別子付与スイッチ33が操作され、2次元画像データ7に識別子D3が付与される。
 例えば2次元画像データ1が表示装置58に表示されたとき、オペレータは、表示装置58を目視して、表示装置58に表示されている2次元画像データ1に地質の境界が含まれていないと判定し、識別子付与スイッチ33を操作しない。これにより、2次元画像データ1には識別子が付与されない。2次元画像データ3,5,6,Nについても同様である。
 識別子が付与された2次元画像データである特定2次元画像データは、記憶部109に記憶される。図8に示す例においては、説明を簡素化するため、特定2次元画像データが2次元画像データ2,4,7の3つであることとした。実際には多数の特定2次元画像データが記憶部109に記憶される。また、識別子が付与されていない2次元画像データも、記憶部109に記憶される。
 また、識別子が付与された特定2次元画像データは、通信回線NTWを介してサーバ61に送信される。また、識別子が付与されていない2次元画像データも、通信回線NTWを介してサーバ61に送信される。
 また、オペレータは、表示装置58に表示された特定2次元画像データ2,4,7を見て、特定2次元画像データ2,4,7における地質の境界の位置を判定し、入力部34を操作して、特定2次元画像データ2,4,7における地質の境界の位置を示す境界データを入力する。また、オペレータは、表示装置58に表示された特定2次元画像データ2,4,7を見て、境界を形成する第1の地質を示す第1の地質データと第2の地質を示す第2の地質データとを、入力部34を介して入力する。また、オペレータは、表示装置58に表示された2次元画像データ1,3,5,6,Nを見て、表示装置58に表示されている地質データを、入力部34を介して入力する。
 3次元データ取得部102は、特定2次元画像データに基づいて、カメラ座標系における地質の境界を含む3次元データを取得する。境界データを含む特定2次元画像データに基づいてステレオ処理が実施されることにより、取得された3次元データにおいては、第1の地質エリアと第2の地質エリアとの境界が反映され、第1の地質エリアと第2の地質エリアとが特定される。
 すなわち、本実施形態において、施工対象の3次元データは、第1の地質データを含む第1の地質エリアの3次元データと、第2の地質データを含む第2の地質エリアの3次元データと、第1の地質エリアと第2の地質エリアとの境界を示す境界データとを含む。
 また、3次元データ取得部102は、位置データ取得部103に取得された油圧ショベル1の位置データと、姿勢データ取得部104に取得された油圧ショベル1の姿勢データと、方位データ取得部105に取得された油圧ショベル1の方位データとに基づいて、カメラ座標系における地質の境界の3次元データを座標変換して、グローバル座標系における地質の境界の3次元データを取得する。グローバル座標系における地質の境界の3次元データも、記憶部109に記憶されている。
 また、3次元データ取得部102で取得されたグローバル座標系における地質の境界を示す3次元データは、通信回線NTWを介してサーバ61に送信される。また、地質の境界を含まないグローバル座標系における施工対象OBPの3次元データも、通信回線NTWを介してサーバ61に送信される。
 また、3次元データ取得部102は、記憶部109に記憶されている地質の境界を含む3次元データを合成して、特定の地質エリアデータを取得する。グローバル座標系で規定されている地質の境界の3次元データが複数存在する場合、3次元データ取得部102は、複数の地質の境界の3次元データを繋ぎ合わせて、特定の地質エリアデータを取得することができる。例えば図8に示した例においては、3次元データ取得部102は、第1の地質と第2の地質とを含む複数の特定2次元画像データを繋ぎ合わせることにより、第1の地質エリアデータ又は第2の地質エリアデータを取得することができる。
 表示制御部108は、取得された地質エリアデータを表示装置58に表示させる。図9は、本実施形態に係る地質エリアデータを表示する表示装置58の一例を模式的に示す図である。3次元データ取得部102は、例えば特定2次元画像データ2,4,7及び特定2次元画像データ2,4,7に近似する第1の地質及び第2の地質を含む複数の特定2次元画像データによって地質エリアデータを取得する。図9に示すように、表示制御部108は、3次元データ取得部102で取得された地質エリアデータを表示装置58に表示させる。なお、表示制御部108は、3次元データ取得部102で取得された地質の境界の3次元データを表示装置58に表示させてもよい。
[施工管理方法]
 次に、本実施形態に係る施工管理方法の一例について説明する。図10は、本実施形態に係る施工管理方法の一例を示すフローチャートである。
 施工現場の複数の施工対象OBPが撮像装置30によって撮像される。2次元画像データ取得部101は、複数の施工対象OBPについての2次元画像データを撮像装置30から取得する(ステップSP1)。
 2次元画像データ取得部101に取得された施工対象OBPの2次元画像データが表示装置58に表示される。油圧ショベル1のオペレータは、表示装置58に表示された2次元画像データを目視して、その2次元画像データに施工対象の地質の境界が含まれているか否かを判定する。オペレータは、2次元画像データに施工対象の地質の境界が含まれていると判定した場合、識別子付与スイッチ33を操作する。
 識別子付与スイッチ33が操作されることにより、識別子付与部107は、2次元画像データに識別子を付与する(ステップSP2)。
 また、油圧ショベル1のオペレータは、表示装置58に表示された2次元画像データを目視して、その2次元画像データにおける施工対象の地質を特定する。オペレータは、2次元画像データにおける施工対象の地質を特定した後、入力部34を操作して、施工対象の地質データを入力する。
 地質データは、地質の境界の位置を示す境界データを含む。オペレータは、2次元画像データにおける施工対象の地質の境界の位置を特定する。オペレータは、地質の境界の位置を特定した後、入力部34を操作して、データの境界の位置を示す境界データを入力する。
 入力部34の操作により生成された、地質の境界データを含む地質データは、地質データ取得部106に取得される(ステップSP3)。
 3次元データ取得部102は、撮像装置30によって撮像された複数の画像をステレオ処理することによって、カメラ座標系における地質データを含む3次元データを取得する(ステップSP4)。
 旋回体3の位置データが位置データ取得部103に取得される。旋回体3の姿勢データが姿勢データ取得部104に取得される。旋回体3の方位データが方位データ取得部105に取得される。3次元データ取得部102は、旋回体3の位置データ、姿勢データ、及び方位データに基づいて、カメラ座標系における施工対象の3次元データを座標変換して、グローバル座標系における施工対象の3次元データを取得する(ステップSP5)。
 また、3次元データ取得部102は、複数の特定2次元画像データを合成して、特定の地質エリアデータを取得する(ステップSP6)。
 表示制御部108は、取得された地質エリアデータを表示装置58に表示させる(ステップSP7)。
 また、ステップSP5で取得されたグローバル座標系における施工対象の3次元データが、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される(ステップSP8)。
 また、ステップSP6で取得された地質エリアデータも、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される。
 また、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データも、通信回線NTWを介して、油圧ショベル1の制御システム50からサーバ61に送信される。グローバル座標系における地質の境界を含む特定2次元画像データは、例えば図8を参照して説明した2次元画像データ2,4,7のような特定2次元画像データを座標変換して取得された2次元画像データである。グローバル座標系における地質の境界を含まない2次元画像データは、例えば図8を参照して説明した2次元画像データ1,3,5,6,Nのような2次元画像データを座標変換して取得された2次元画像データである。
 サーバ61には、油圧ショベル1のみならず、複数の他の油圧ショベル1otからも、グローバル座標系における地質の境界の3次元データ、地質エリアデータ、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データが送信される。
 サーバ61は、油圧ショベル1及び他の油圧ショベル1otから供給されたグローバル座標系における施工対象の3次元データのデータベースを作成する。上述のように、サーバ61は、演算処理装置及び記憶装置を有する。油圧ショベル1及び他の油圧ショベル1otから供給された施工対象の3次元データは、データベース化され、サーバ61の記憶装置に記憶される。
 同様に、油圧ショベル1及び他の油圧ショベル1otから供給された地質エリアデータ、グローバル座標系における地質の境界を含む特定2次元画像データ、及びグローバル座標系における地質の境界を含まない2次元画像データも、データベース化され、サーバ61の記憶装置に記憶される。
 サーバ61の演算処理装置は、油圧ショベル1及び他の油圧ショベル1otから供給されたグローバル座標系における施工対象の3次元データを統合する(ステップSP9)。これにより、施工現場全体における地質データを含む施工対象の3次元データが取得される。サーバ61は、取得した施工現場全体における地質データを含む施工対象の3次元データを表示装置65に表示させる。これにより、管理者は、施工現場全体における地質及び地質の境界を認識することができる。施工現場全体における地質データを含む施工対象の3次元データが表示装置65に表示されるため、管理者は、施工現場全体における地質の境界を直感的に認識することができる。
 同様に、サーバ61の演算処理装置は、油圧ショベル1及び他の油圧ショベル1otから供給された地質エリアデータの統合、グローバル座標系における地質の境界を含む特定2次元画像データの統合、及びグローバル座標系における地質の境界を含まない2次元画像データの統合を実施することができる。統合された地質エリアデータ、統合されたグローバル座標系における地質の境界を含む特定2次元画像データ、及び統合されたグローバル座標系における地質の境界を含まない2次元画像データは、表示装置65に表示される。これにより、管理者は、施工現場全体の地質分布及び施工の進捗状況を直感的に認識することができる。
 上述のように、本実施形態においては、1日の作業の終了段階における施工の結果を示す完了施工データ、及び1日の作業の途中段階における施工の結果を示す中間施工データとして、撮像装置30で取得された2次元画像データに基づいて検出処理装置51で取得された施工対象の3次元データである現況地形データがサーバ61に送信される。したがって、管理者は、サーバ61に接続された表示装置65に表示された3次元データである現況地形データに基づいて、施工の進捗状況を直感的に認識することができる。
[作用及び効果]
 以上説明したように、本実施形態によれば、地質の境界データを含む地質データが取得され、地質データに基づいて、施工対象の地質の境界を含む3次元データが取得される。したがって、地質データを含む施工対象の3次元データが効率良く取得される。
 施工現場においては、礫質土、砂質土、及び粘性土など、様々な地質の領域が存在する。施工対象の地質によって単位時間当たりに実施可能な施工量又は工期が変動する可能性がある。例えば軟らかい地質のような施工し易い地質の場合、施工量は増大し工期は短期化する。硬い地質のような施工し難い地質の場合、施工量は低減し工期は長期化する。このように、施工対象の地質は、単位時間当たりに実施可能な施工量又は工期に影響を及ぼす。そのため、施工対象の地質を調査し、地質についてのデータを取得することが重要である。本実施形態によれば、施工対象OBPの2次元画像データに基づいて、施工対象OBPの地質の種類のみならず、地質の境界を効率良く認識することができる。したがって、地質の種類及び地質の境界を含む地質についてのデータに基づいて、良好な作業効率で施工を実施することができる。
 また、本実施形態においては、土質の境界を含む2次元画像データに識別子が付与される。したがって、識別子が付与された特定2次元画像データに基づいて、施工対象OBPの地質の境界データを含む3次元データが効率良く取得される。
 地質の境界データを取得したい場合において、撮像装置30によって取得される2次元画像データの数が膨大であり、地質の境界を含む2次元画像データと地質の境界を含まない2次元画像データとが混在している場合、地質の境界の3次元データを取得するために煩雑な処理が必要となったり、地質の境界の3次元データを取得するまでに長時間を要したりする可能性がある。本実施形態においては、撮像装置30によって2次元画像データが取得されたとき、地質の境界を含む2次元画像データに識別子付与部107により識別子が付与される。したがって、地質の境界の3次元データを取得したいときには、識別子が付与された特定2次元画像データのみを抽出して、画像処理を実施すれば、施工対象OBPの地質の境界の3次元データを効率良く取得することができる。
 また、本実施形態においては、撮像装置30が搭載されている旋回体3の位置データ、旋回体3の姿勢データ、及び旋回体3の方位データに基づいて、カメラ座標系で規定される地質の境界の2次元画像データが座標変換され、グローバル座標系における地質の境界の3次元データが取得される。これにより、例えば測量機を使った地形測量が実施されなくても、撮像装置30で取得された2次元画像データに基づいて、グローバル座標系における施工対象の3次元データを取得することができる。
 また、本実施形態においては、地質の境界の3次元データが合成されることにより、特定の地質エリアデータが取得される。したがって、施工現場における地質分布を把握することができる。
 また、本実施形態においては、施工対象の3次元データ及び地質エリアデータが表示装置58又は表示装置65に表示される。これにより、オペレータ又は管理者は、表示装置65を見て、地質の境界又は地質分布を直感的に認識することができる。
 また、本実施形態においては、撮像装置30で取得された2次元画像データに地質の境界が含まれているか否かがオペレータによって判定され、2次元画像データに地質の境界が含まれていると判定された場合、識別子付与スイッチ33が操作される。これにより、撮像装置30で取得された2次元画像データに対して高度な画像処理を実施しなくても、地質の境界を含む2次元画像データに識別子を付与することができる。
 また、本実施形態においては、油圧ショベル1で取得された3次元データがサーバ61に供給される。サーバ61には、油圧ショベル1のみならず他の油圧ショベル1otからも3次元データが供給される。したがって、サーバ61は、供給された複数の3次元データに基づいて、施工現場全体の3次元データを構築することができる。
 なお、上述の実施形態においては、オペレータが識別子付与スイッチ33を操作して、2次元画像データに識別子を付与することとした。制御システム50が、撮像装置30で取得された2次元画像データを画像処理し、その画像処理の結果に基づいて、2次元画像データに地質の境界が含まれているか否かを判定してもよい。例えば、制御システム50は、2次元画像データをエッジ検出したり、2次元画像データを2値化したりすることによって、2次元画像データに地質の境界が含まれているか否かを判定することができる。
 なお、上述の実施形態においては、油圧ショベル1に撮像装置30が4つ設けられる例について説明した。撮像装置30は、油圧ショベル1に少なくとも2つ設けられていればよい。
 なお、上述の実施形態において、サーバ61が検出処理装置51の一部又は全部の機能を有してもよい。すなわち、サーバ61が、2次元画像データ取得部101、3次元データ取得部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、地質データ取得部106、識別子付与部107、表示制御部108、記憶部109、及び入出力部110の少なくとも一つを有してもよい。例えば、油圧ショベル1の撮像装置30で撮像された2次元画像データ、位置検出器23で検出された旋回体3の位置データ、姿勢検出器24で検出された旋回体3の姿勢データ、方位検出器25で検出された旋回体3の方位データ、及び識別子付与スイッチ33で生成された入力データが、通信装置26及び通信回線NTWを介して、サーバ61に供給されてもよい。サーバ61の識別子付与部107は、通信装置26及び通信回線NTWを介して供給された2次元画像データ及び入力データに基づいて、施工対象の地質の境界を含む2次元画像データに識別子を付与することができる。サーバ61の3次元データ取得部102は、識別子が付与された特定2次元画像データに基づいて、地質の境界データを含む3次元データを取得することができる。また、サーバ61の3次元データ取得部102は、通信装置26及び通信回線NTWを介して供給された旋回体3の位置データ、姿勢データ、及び方位データに基づいて、グローバル座標系における地質の境界の3次元データを取得することができる。また、サーバ61の3次元データ取得部102は、複数の特定2次元画像データを合成して、特定の地質エリアデータを取得することができる。
 サーバ61には、油圧ショベル1及び複数の他の油圧ショベル1otから、地質の境界を含む2次元画像データ及び地質の境界を含まない2次元画像データの両方が供給される。油圧ショベル1及び複数の他の油圧ショベル1otからサーバ61には膨大な数の2次元画像データが送信される。地質の境界を含む2次元画像データに識別子が付与されることにより、地質の境界の3次元データを取得したいときには、サーバ61は、識別子が付与された特定2次元画像データのみを抽出して、画像処理を実施すれば、施工対象OBPの地質の境界の3次元データを効率良く取得することができる。
 また、上述のように、3次元データは、地質データを含む。第1の地質エリアについての第1の地質データ、第2の地質エリアについての第2の地質データ、及び第1の地質エリアと第2の地質エリアとの境界データの少なくとも一つが、サーバ61の記憶部109に記憶されてもよい。
 なお、上述の実施形態においては、オペレータが地質の境界を特定し、入力部34を操作して境界データを入力し、入力部34の操作により入力された境界データに基づいて、第1の地質エリア及び第2の地質エリアが特定されることとした。2次元画像データ取得部101で取得された2次元画像データがコンピュータシステムにおいて画像処理され、コンピュータシステムによって地質の境界が特定されてもよい。
 なお、上述の実施形態においては、境界を含む2次元画像データに識別子が付与されることとした。境界を含む2次元画像データに識別子が付与されなくてもよい。
 なお、上述の実施形態においては、ステレオカメラによって3次元データが取得されることとした。1つのカメラとレーザスキャナのような3次元計測装置とによって3次元データが取得されてもよい。
 なお、上述の実施形態において、3次元データは取得されなくてもよい。油圧ショベル1に設けられた撮像装置30で撮影された施工対象の地質の境界を含む2次元画像データが2次元画像データ取得部101に取得され、油圧ショベル1の位置データが位置データ取得部103に取得され、油圧ショベル1の姿勢データが姿勢データ取得部104に取得された場合において、サーバ61に設けられている記憶部109が、2次元画像データに、2次元画像データが取得された時点の油圧ショベル1の位置データ、姿勢データ、及び2次元画像データが取得された時点データを付加して記憶してもよい。また、記憶部109は、2次元画像データに、油圧ショベル1の位置データ、姿勢データ、及び時点データのみならず、施工対象の地質データを付加して、記憶してもよい。
 なお、施工対象の3次元データに、施工対象において発生した事象の位置を示す事象位置データが関連付けられてもよい。例えば、施工対象の地質データが地質データ取得部106に取得され、施工対象において発生した事象の位置を示す事象位置データが事象位置データ取得部として機能する位置データ取得部103に取得された場合、施工対象の3次元データを取得する3次元データ取得部102は、地質データ、どのような事象が発生したかという情報(事象に関する情報)及び事象位置データを含む3次元データを取得してもよい。施工対象において発生した事象は、例えば施工対象の施工において水が発生すること、作業機の負荷が急激に増大すること、などを含む。例えば水が発生した位置に刃先8BTが位置付けられることにより、位置データ取得部103は、刃先8BTの位置データに基づいて、水が発生した位置を示す事象位置データを特定することができる。記憶部109は、3次元データに、事象位置データを付与して、記憶してもよい。
 なお、上述の実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、施工対象を施工可能な作業機械であればよく、施工対象を掘削可能な掘削機械及び土砂を運搬可能な運搬機械でもよい。作業機械1は、例えばホイールローダでもよいし、ブルドーザでもよいし、ダンプトラックでもよい。
 1 油圧ショベル(作業機械)、1B 車体、2 作業機、3 旋回体、4 運転室、5 走行体、6 ブーム、7 アーム、8 バケット、8B 刃、8BT 刃先、10 ブームシリンダ、11 アームシリンダ、12 バケットシリンダ、21,22 GPSアンテナ、23 位置検出器、24 姿勢検出器、25 方位検出器、26 通信装置、26A 通信用アンテナ、30(30a,30b,30c,30d) 撮像装置、31 ハブ、32 撮像スイッチ、33 識別子付与スイッチ、34 入力部、51 検出処理装置、52 施工データ生成装置、57 施工管理装置、58 表示装置、61 サーバ、62 通信装置、63 通信用アンテナ、64 携帯端末装置、65 表示装置、100 施工管理システム、101 2次元画像データ取得部、102 3次元データ取得部、103 位置データ取得部、104 姿勢データ取得部、105 方位データ取得部、106 地質データ取得部、107 識別子付与部、108 表示制御部、109 記憶部、110 入出力部、NTW 通信回線。

Claims (8)

  1.  作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、
     前記作業機械に取り付けられ、前記対象の3次元データを取得する3次元データ取得部と、
     前記2次元画像データに地質データを入力する入力部と、
     入力された前記地質データを、前記3次元データに付与する地質データ取得部と、を備える、
     施工管理システム。
  2.  前記地質データは、少なくとも地質の境界を含み、
     前記地質データ取得部は、前記地質の境界の一方側に対応する3次元データに対して第1の地質データを付与し、前記地質の境界の他方側に対応する3次元データに対して第2の地質データを付与する、
     請求項1に記載の施工管理システム。
  3.  前記地質データ取得部は、前記地質の境界に基づいて規定される地質領域に対して前記地質データを付与する、又は前記3次元データの一部領域に対して前記地質データを付与する、
     請求項1又は請求項2に記載の施工管理システム。
  4.  前記地質データは、地質、土質、岩質、地盤の堅さ、地質の境界の位置、を含む、
     請求項1から請求項3のいずれか一項に記載の施工管理システム。
  5.  前記対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部を備え、
     前記3次元データ取得部は、前記3次元データに、前記事象に関する情報、及び前記事象位置データを付与する、
     請求項1から請求項4のいずれか一項に記載の施工管理システム。
  6.  前記事象は、地盤からの水の発生、又は作業負荷の増大が含まれる、
     請求項5に記載の施工管理システム。
  7.  作業機械に設けられた撮像装置で撮影された対象の2次元画像データを取得する2次元画像データ取得部と、
     前記撮像装置によって前記2次元画像データが撮影された時点の位置データを取得する位置データ取得部と、
     前記2次元画像データ内に含まれる地面の地質に関する地質データを取得する地質データ取得部と、
     前記2次元画像データに、前記2次元画像データが取得された時点の前記作業機械の前記位置データ、前記2次元画像データ内に含まれる地面の地質データ、及び前記2次元画像データが取得された時点の時点データを付加して記憶する記憶部と、
     を備える施工管理システム。
  8.  作業機械に取り付けられ、施工対象の3次元データを取得する3次元データ取得部と、
     前記施工対象において発生した事象の位置を示す事象位置データを取得する事象位置データ取得部と、
    を備え、
     前記3次元データ取得部は、前記3次元データ取得部により得られた3次元データに、前記事象に関する情報及び前記事象位置データを付与する、
     施工管理システム。
PCT/JP2017/028494 2016-08-05 2017-08-04 施工管理システム WO2018026019A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US16/090,326 US11966990B2 (en) 2016-08-05 2017-08-04 Construction management system
AU2017305111A AU2017305111B2 (en) 2016-08-05 2017-08-04 Construction management system
CN201780016276.0A CN108779985B (zh) 2016-08-05 2017-08-04 施工管理系统
DE112017001522.7T DE112017001522T5 (de) 2016-08-05 2017-08-04 Bauverwaltungssystem

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016155103A JP6887229B2 (ja) 2016-08-05 2016-08-05 施工管理システム
JP2016-155103 2016-08-05

Publications (1)

Publication Number Publication Date
WO2018026019A1 true WO2018026019A1 (ja) 2018-02-08

Family

ID=61073552

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/028494 WO2018026019A1 (ja) 2016-08-05 2017-08-04 施工管理システム

Country Status (6)

Country Link
US (1) US11966990B2 (ja)
JP (1) JP6887229B2 (ja)
CN (1) CN108779985B (ja)
AU (1) AU2017305111B2 (ja)
DE (1) DE112017001522T5 (ja)
WO (1) WO2018026019A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7301514B2 (ja) * 2018-09-21 2023-07-03 日立建機株式会社 座標変換システム及び作業機械
JP7183744B2 (ja) * 2018-11-30 2022-12-06 コベルコ建機株式会社 建設機械の遠隔操作装置
JP2022185846A (ja) * 2021-06-03 2022-12-15 コベルコ建機株式会社 土質情報取得システムおよびこれを備える作業機械

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH063145A (ja) * 1992-06-18 1994-01-11 Shimizu Corp トンネル切羽画像収録処理システム
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2000034890A (ja) * 1998-07-16 2000-02-02 Kajima Corp Tbm切羽及び周辺地質のリアルタイム評価方法及び装置
US20060265914A1 (en) * 2005-05-31 2006-11-30 Caterpillar Inc. Work machine having boundary tracking system
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
US20160163088A1 (en) * 2014-12-05 2016-06-09 Caterpillar Inc. Terrain mapping system using moved material estimation

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07190767A (ja) * 1993-12-27 1995-07-28 Mitsui Constr Co Ltd 三次元形状測量装置及び、三次元形状測量方法
US5553407A (en) * 1995-06-19 1996-09-10 Vermeer Manufacturing Company Excavator data acquisition and control system and method of use
JPH1010690A (ja) * 1996-06-19 1998-01-16 Konica Corp ハロゲン化銀カラー写真感光材料
AUPR678401A0 (en) * 2001-08-02 2001-08-23 Singfield, Christian Network image server
JP2006064585A (ja) * 2004-08-27 2006-03-09 Canon Inc 画像処理方法、画像処理装置
CN100450152C (zh) * 2005-10-28 2009-01-07 中国水电顾问集团中南勘测设计研究院 地质数码影像编录系统及其使用方法
CA2659020C (en) * 2006-06-21 2018-08-07 Terraspark Geosciences, L.P. Extraction of depositional systems
US8184159B2 (en) * 2007-03-26 2012-05-22 Trw Automotive U.S. Llc Forward looking sensor system
US8768667B2 (en) * 2010-10-25 2014-07-01 Trimble Navigation Limited Water erosion management incorporating topography, soil type, and weather statistics
JP5802476B2 (ja) 2011-08-09 2015-10-28 株式会社トプコン 建設機械制御システム
JP6029306B2 (ja) * 2012-03-29 2016-11-24 住友建機株式会社 作業機械用周辺監視装置
CN102707332A (zh) * 2012-05-11 2012-10-03 北京科技大学 一种水库区工程地质调查的解译与评价方法
CA2912432C (en) * 2012-05-15 2020-09-15 Tesman Inc. Mapping of mining excavations
US9639978B2 (en) * 2013-12-04 2017-05-02 Verizon Telematics Inc. Method and system for avatar replay based on mobile sensor information
US9489576B2 (en) * 2014-03-26 2016-11-08 F12 Solutions, LLC. Crop stand analysis
US9401030B2 (en) * 2014-04-25 2016-07-26 Tazco Soil Service Co. Image processing system for soil characterization
CN104183017A (zh) * 2014-07-29 2014-12-03 浙江大学 基于地面三维激光点云实现地质体产状自动提取的方法
CN104331931B (zh) 2014-10-10 2017-05-17 北京航空航天大学 一种面向油藏数值模拟的地质断裂层面pebi网格处理方法
CN204331743U (zh) * 2014-11-13 2015-05-13 中国矿业大学(北京) 一种基于图像频域特征提取及分类识别的煤岩分界系统
US10013509B2 (en) * 2015-03-19 2018-07-03 Trimble Inc. Agricultural drainage design based on soil modeling
JP6496182B2 (ja) * 2015-04-28 2019-04-03 株式会社小松製作所 施工計画システム
WO2017024254A1 (en) * 2015-08-05 2017-02-09 Iteris, Inc. Customized land surface modeling for irrigation decision support in a crop and agronomic advisory service in precision agriculture
KR101581037B1 (ko) 2015-10-20 2015-12-29 한국지질자원연구원 드론을 이용한 지질 경계 탐색 시스템 및 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH063145A (ja) * 1992-06-18 1994-01-11 Shimizu Corp トンネル切羽画像収録処理システム
JPH11211473A (ja) * 1998-01-22 1999-08-06 Komatsu Ltd 地形形状計測装置
JP2000034890A (ja) * 1998-07-16 2000-02-02 Kajima Corp Tbm切羽及び周辺地質のリアルタイム評価方法及び装置
US20060265914A1 (en) * 2005-05-31 2006-11-30 Caterpillar Inc. Work machine having boundary tracking system
JP2008267843A (ja) * 2007-04-17 2008-11-06 Tobishima Corp トンネル切羽面の測量システム
US20160163088A1 (en) * 2014-12-05 2016-06-09 Caterpillar Inc. Terrain mapping system using moved material estimation

Also Published As

Publication number Publication date
US20200394726A1 (en) 2020-12-17
US11966990B2 (en) 2024-04-23
JP2018021885A (ja) 2018-02-08
CN108779985B (zh) 2021-04-06
AU2017305111B2 (en) 2019-11-14
DE112017001522T5 (de) 2018-12-06
AU2017305111A1 (en) 2018-10-25
JP6887229B2 (ja) 2021-06-16
CN108779985A (zh) 2018-11-09

Similar Documents

Publication Publication Date Title
JP6777375B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
WO2017061518A1 (ja) 施工管理システム、施工管理方法、及び管理装置
KR101695914B1 (ko) 토공공사 수행시 굴삭기의 형상정보를 실시간 제공하는 굴삭기 3d 토공 bim 시스템
US11585490B2 (en) Management system
JP6927821B2 (ja) 表示システム、及び表示装置
WO2018062523A1 (ja) 作業機械の検出処理装置及び作業機械の検出処理方法
JP6322612B2 (ja) 施工管理システム及び形状計測方法
US11873948B2 (en) Management system
JP6925816B2 (ja) 位置計測システム、作業機械、及び位置計測方法
JP6585697B2 (ja) 施工管理システム
JP6918716B2 (ja) 建設機械
WO2018026019A1 (ja) 施工管理システム
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP6606230B2 (ja) 形状計測システム
JP6616149B2 (ja) 施工方法、作業機械の制御システム及び作業機械
WO2020121933A1 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP6684004B1 (ja) 建設機械管理システム、建設機械管理プログラム、建設機械管理方法、建設機械および建設機械の外部管理装置
JP7065002B2 (ja) 作業機械

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2017305111

Country of ref document: AU

Date of ref document: 20170804

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17837120

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 17837120

Country of ref document: EP

Kind code of ref document: A1