WO2019044316A1 - 作業機械の計測システム、作業機械、及び作業機械の計測方法 - Google Patents

作業機械の計測システム、作業機械、及び作業機械の計測方法 Download PDF

Info

Publication number
WO2019044316A1
WO2019044316A1 PCT/JP2018/028347 JP2018028347W WO2019044316A1 WO 2019044316 A1 WO2019044316 A1 WO 2019044316A1 JP 2018028347 W JP2018028347 W JP 2018028347W WO 2019044316 A1 WO2019044316 A1 WO 2019044316A1
Authority
WO
WIPO (PCT)
Prior art keywords
turning
swing
condition
data
imaging
Prior art date
Application number
PCT/JP2018/028347
Other languages
English (en)
French (fr)
Inventor
駿 川本
豊久 松田
博義 山口
Original Assignee
株式会社小松製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所 filed Critical 株式会社小松製作所
Priority to KR1020197024035A priority Critical patent/KR102248026B1/ko
Priority to DE112018000828.2T priority patent/DE112018000828B4/de
Priority to CN201880009782.1A priority patent/CN110249203B/zh
Priority to JP2019539088A priority patent/JP7104050B2/ja
Priority to US16/487,863 priority patent/US11195351B2/en
Publication of WO2019044316A1 publication Critical patent/WO2019044316A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841Registering performance data
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0816Indicating performance data, e.g. occurrence of a malfunction
    • G07C5/0825Indicating performance data, e.g. occurrence of a malfunction using optical means
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/64Buckets cars, i.e. having scraper bowls
    • E02F3/65Component parts, e.g. drives, control devices
    • E02F3/651Hydraulic or pneumatic drives; Electric or electro-mechanical control devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/08Superstructures; Supports for superstructures
    • E02F9/10Supports for movable superstructures mounted on travelling or walking gears or on other superstructures
    • E02F9/12Slewing or traversing gears
    • E02F9/121Turntables, i.e. structure rotatable about 360°
    • E02F9/123Drives or control devices specially adapted therefor
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/22Hydraulic or pneumatic drives
    • E02F9/2221Control of flow rate; Load sensing arrangements
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/267Diagnosing or detecting failure of vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C7/00Tracing profiles
    • G01C7/02Tracing profiles of land surfaces

Definitions

  • the present invention relates to a measurement system of a work machine, a work machine, and a measurement method of the work machine.
  • An aspect of the present invention aims to suppress a decrease in measurement accuracy of a three-dimensional shape of an object.
  • an image acquisition unit for acquiring an image of a construction target photographed during turning of the turning body by an imaging device mounted on the turning body of a working machine, and the construction target based on the image
  • a three-dimensional position calculation unit that calculates a three-dimensional position of the vehicle, a turning data acquisition unit that obtains turning data of the turning body, and a determination unit that determines whether the turning data satisfies a prescribed turning condition;
  • a measurement system for a working machine comprising: an output unit that outputs a turning instruction signal based on the determination result of the determination unit.
  • FIG. 1 is a perspective view showing an example of a working machine according to the present embodiment.
  • FIG. 2 is a perspective view showing a part of the work machine according to the present embodiment.
  • FIG. 3 is a functional block diagram showing an example of a measurement system according to the present embodiment.
  • FIG. 4: is a figure which shows typically an example of operation
  • FIG. 5 is a figure which shows typically an example of operation
  • FIG. 6 is a schematic view for explaining an example of processing of the measurement system according to the present embodiment.
  • FIG. 7 is a schematic view for explaining an example of processing of the measurement system according to the present embodiment.
  • FIG. 4 is a figure which shows typically an example of operation
  • FIG. 5: is a figure which shows typically an example of operation
  • FIG. 6 is a schematic view for explaining an example of processing of
  • FIG. 8 is a schematic view for explaining an example of processing of the measurement system according to the present embodiment.
  • FIG. 9 is a view schematically showing an example of integration of three-dimensional positions of objects according to the present embodiment.
  • FIG. 10 is a perspective view schematically showing an example of the input device according to the present embodiment.
  • FIG. 11 is a flowchart showing an example of the measurement method according to the present embodiment.
  • FIG. 12 is a timing chart of the measurement method according to the present embodiment.
  • FIG. 13 is a view showing a display example of the display device according to the present embodiment.
  • a three-dimensional on-site coordinate system (Xg, Yg, Zg), a three-dimensional vehicle coordinate system (Xm, Ym, Zm), and a three-dimensional imager coordinate system (Xs, Ys, Zs) are used. It prescribes and explains the physical relationship of each part.
  • the on-site coordinate system is a coordinate system based on an origin fixed to the earth.
  • the on-site coordinate system is a coordinate system defined by the Global Navigation Satellite System (GNSS).
  • GNSS refers to the Global Navigation Satellite System.
  • GPS Global Positioning System
  • GPS Global Positioning System
  • the on-site coordinate system is defined by the Xg axis in the horizontal plane, the Yg axis in the horizontal plane orthogonal to the Xg axis, and the Zg axis orthogonal to the Xg axis and the Yg axis.
  • the rotation or inclination direction about the Xg axis is the ⁇ Xg direction
  • the rotation or inclination direction about the Yg axis is the ⁇ Yg direction
  • the rotation or inclination direction about the Zg axis is the ⁇ Zg direction.
  • the Zg axis direction is the vertical direction.
  • the vehicle body coordinate system includes an Xm axis of a first predetermined surface with respect to an origin defined on a vehicle body of the work machine, a Ym axis of the first predetermined surface orthogonal to the Xm axis, and a Zm orthogonal to the Xm axis and the Ym axis It is defined by the axis.
  • the rotation or inclination direction about the Xm axis is the ⁇ Xm direction
  • the rotation or inclination direction about the Ym axis is the ⁇ Ym direction
  • the rotation or inclination direction about the Zm axis is the ⁇ Zm direction.
  • the Xm-axis direction is the longitudinal direction of the working machine
  • the Ym-axis direction is the vehicle width direction of the working machine
  • the Zm-axis direction is the vertical direction of the working machine.
  • the imaging device coordinate system includes an Xs axis of the second predetermined surface with respect to the origin defined in the imaging device, a Ys axis of the second predetermined surface orthogonal to the Xs axis, and a Zs axis orthogonal to the Xs axis and the Ys axis And defined by
  • the rotation or tilt direction about the Xs axis is the ⁇ Xs direction
  • the rotation or tilt direction about the Ys axis is the ⁇ Ys direction
  • the rotation or tilt direction about the Zs axis is the ⁇ Zs direction.
  • the Xs axis direction is the vertical direction of the imaging device
  • the Ys axis direction is the width direction of the imaging device
  • the Zs axis direction is the front and back direction of the imaging device.
  • the Zs axis direction is parallel to the optical axis of the optical system of the imaging device.
  • the position in the work site coordinate system, the position in the vehicle body coordinate system, and the position in the imaging device coordinate system can be mutually converted.
  • FIG. 1 is a perspective view showing an example of a working machine 1 according to the present embodiment.
  • the work machine 1 is a hydraulic shovel
  • the work machine 1 is appropriately referred to as a hydraulic shovel 1.
  • the hydraulic shovel 1 has a vehicle body 1 ⁇ / b> B and a work implement 2.
  • the vehicle body 1 ⁇ / b> B includes a revolving unit 3 and a traveling unit 5 that supports the revolving unit 3 so as to be rotatable.
  • the swing body 3 has a cab 4.
  • a hydraulic pump and an internal combustion engine are arranged in the revolving unit 3.
  • the pivoting body 3 is pivotable about a pivot axis Zr.
  • the pivot axis Zr is parallel to the Zm axis of the vehicle coordinate system.
  • the origin of the vehicle body coordinate system is defined, for example, at the center of the swing circle of the swing body 3.
  • the center of the swing circle is located on the pivot axis Zr of the swing body 3.
  • the traveling body 5 has crawler belts 5A and 5B.
  • the hydraulic shovel 1 travels by rotation of the crawler belts 5A and 5B.
  • the Zm axis of the vehicle body coordinate system is orthogonal to the ground contact surface of the crawler belts 5A and 5B.
  • the upper side (+ Zm direction) of the vehicle body coordinate system is a direction away from the ground contact surface of the crawler belts 5A and 5B, and the lower side (-Zm direction) of the vehicle body coordinate system is a direction opposite to the upper side of the vehicle body coordinate system.
  • the work implement 2 is connected to the swing body 3.
  • the swing body coordinate system In the vehicle body coordinate system, at least a part of the work implement 2 is disposed in front of the swing body 3.
  • the front (+ Xm direction) of the body coordinate system is the direction in which the working machine 2 exists with reference to the revolving unit 3 and the back (-Xm direction) of the body coordinate system is the direction opposite to the front of the body coordinate system is there.
  • the work machine 2 drives a boom 6 coupled to the revolving unit 3, an arm 7 coupled to the boom 6, a bucket 8 coupled to the arm 7, a boom cylinder 10 for driving the boom 6, and the arm 7 And a bucket cylinder 12 for driving the bucket 8.
  • the boom cylinder 10, the arm cylinder 11, and the bucket cylinder 12 are hydraulic cylinders driven by hydraulic pressure.
  • the hydraulic shovel 1 has a position detection device 23 that detects the position of the swing body 3, a posture detection device 24 that detects the posture of the swing body 3, and a control device 40.
  • the position detection device 23 detects the position of the swing body 3 in the on-site coordinate system.
  • the position of the swing body 3 includes coordinates in the Xg axis direction, coordinates in the Yg axis direction, and coordinates in the Zg axis direction.
  • the position detection device 23 includes a GPS receiver.
  • the position detection device 23 is provided on the revolving unit 3.
  • a GPS antenna 21 is provided on the revolving unit 3.
  • two GPS antennas 21 are arranged in the Ym axis direction of the vehicle body coordinate system.
  • the GPS antenna 21 receives a radio wave from a GPS satellite, and outputs a signal generated based on the received radio wave to the position detection device 23.
  • the position detection device 23 detects the position of the GPS antenna 21 in the on-site coordinate system based on the signal from the GPS antenna 21.
  • the position detection device 23 performs arithmetic processing based on at least one of the positions of the two GPS antennas 21 to calculate the position of the revolving unit 3.
  • the position of the revolving unit 3 may be the position of one GPS antenna 21 or the position between the position of one GPS antenna 21 and the position of the other GPS antenna 21.
  • the posture detection device 24 detects the posture of the rotating body 3 in the on-site coordinate system.
  • the posture of the revolving unit 3 is a roll angle indicating the inclination angle of the revolving unit 3 in the rotational direction about the Xm axis, a pitch angle indicating the inclination angle of the revolving unit 3 in the rotational direction about the Ym axis, and Zm And an azimuth angle indicating an inclination angle of the swing body 3 in the rotation direction about the axis and the axis.
  • the attitude detection device 24 includes an inertial measurement unit (IMU).
  • the posture detection device 24 is provided on the revolving unit 3.
  • a gyro sensor may be mounted on the revolving unit 3 as the posture detection device 24.
  • the posture detection device 24 detects an acceleration and an angular velocity that act on the posture detection device 24. By detecting the acceleration and angular velocity acting on the posture detection device 24, the acceleration and angular velocity acting on the revolving unit 3 are detected. The posture detection device 24 performs arithmetic processing based on the acceleration and angular velocity acting on the swing body 3 to calculate the posture of the swing body 3 including the roll angle, the pitch angle, and the azimuth angle.
  • the azimuth may be calculated based on the detection data of the position detection device 23.
  • the position detection device 23 can calculate the azimuth angle of the rotating body 3 with respect to the reference azimuth in the on-site coordinate system based on the position of one GPS antenna 21 and the position of the other GPS antenna 21.
  • the reference orientation is, for example, north.
  • the position detection device 23 calculates a straight line connecting the position of one GPS antenna 21 and the position of the other GPS antenna 21, and based on the angle formed by the calculated straight line and the reference direction, The azimuth angle can be calculated.
  • the hydraulic shovel 1 has a swing motor 37 generating power for swinging the swing body 3 and a hydraulic controller 38 controlling the swing operation of the swing motor 37.
  • the hydraulic pressure controller 38 controls the flow rate of the hydraulic oil supplied to the swing motor 37 by controlling a control valve (not shown) based on the operation amount of the operation device 35 described later.
  • FIG. 2 is a perspective view showing a part of the hydraulic shovel 1 according to the present embodiment.
  • the hydraulic shovel 1 has a stereo camera 300.
  • the stereo camera 300 refers to a camera capable of measuring the distance to the construction object SB by simultaneously photographing the construction object SB from a plurality of directions to generate parallax data.
  • the stereo camera 300 photographs the construction target SB around the hydraulic shovel 1.
  • the construction target SB includes a digging target to be excavated by the work machine 2 of the hydraulic shovel 1.
  • the construction target SB may be a construction target to be constructed by a working machine different from the hydraulic shovel 1, or may be a construction target to be constructed by a worker.
  • the construction target SB is a concept including a construction target before construction, a construction target during construction, and a construction target after construction.
  • the stereo camera 300 is mounted on the revolving unit 3.
  • the stereo camera 300 is provided in the cab 4.
  • the stereo camera 300 is disposed in front (+ Xm direction) and above (+ Zm direction) of the cab 4.
  • the stereo camera 300 photographs the construction target SB in front of the hydraulic shovel 1.
  • the stereo camera 300 has a plurality of imaging devices 30.
  • the imaging device 30 is mounted on the revolving unit 3.
  • the imaging device 30 has an optical system and an image sensor.
  • the image sensor includes a CCD (Couple Charged Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor.
  • the imaging device 30 includes four imaging devices 30A, 30B, 30C, and 30D.
  • Stereo camera 300 is configured by the pair of imaging devices 30.
  • Stereo camera 300 includes a first stereo camera 301 configured by a pair of imaging devices 30A and 30B, and a second stereo camera 302 configured by a pair of imaging devices 30C and 30D.
  • the imaging devices 30A and 30C are disposed on the + Ym side (the work machine 2 side) of the imaging devices 30B and 30D.
  • the imaging device 30A and the imaging device 30B are arranged at intervals in the Ym axis direction.
  • the imaging device 30C and the imaging device 30D are arranged at intervals in the Ym axis direction.
  • the imaging devices 30A and 30B are disposed on the + Zm side of the imaging devices 30C and 30D. In the Zm-axis direction, the imaging device 30A and the imaging device 30B are disposed at substantially the same position. In the Zm-axis direction, the imaging device 30C and the imaging device 30D are disposed at substantially the same position.
  • the imaging devices 30A and 30B face upward (in the + Zm direction).
  • the imaging devices 30C and 30D face downward (-Zm direction). Further, the imaging devices 30A and 30C face forward (in the + Xm direction).
  • the imaging devices 30B and 30D face the + Ym side (working machine 2 side) slightly more than the front. That is, the imaging devices 30A and 30C face the front of the swing structure 3, and the imaging devices 30B and 30D face the imaging devices 30A and 30C.
  • the imaging devices 30B and 30D may face the front of the swing body 3, and the imaging devices 30A and 30C may face the imaging devices 30B and 30D.
  • the imaging device 30 photographs the construction target SB existing in front of the revolving unit 3.
  • the stereo image processing of the pair of images taken by the pair of imaging devices 30 is performed by the control device 40, whereby three-dimensional data indicating the three-dimensional shape of the construction target SB is calculated.
  • the control device 40 converts three-dimensional data of the construction object SB in the imaging device coordinate system into three-dimensional data of the construction object SB in the on-site coordinate system.
  • the three-dimensional data indicates the three-dimensional position of the construction object SB.
  • the three-dimensional position of the construction object SB includes three-dimensional coordinates of each of a plurality of portions of the surface of the construction object SB.
  • An imaging device coordinate system is defined for each of the plurality of imaging devices 30.
  • the imaging device coordinate system is a coordinate system based on the origin fixed to the imaging device 30.
  • the Zs axis of the imaging device coordinate system coincides with the optical axis of the optical system of the imaging device 30.
  • first stereo camera 301 and second stereo camera 302 are mounted on the revolving unit 3, but one set of stereo cameras may be mounted. And three or more sets of stereo cameras may be mounted.
  • the hydraulic shovel 1 has a driver's seat 4S, an input device 32, a notification device 33, and an operation device 35.
  • the driver's seat 4S, the input device 32, the notification device 33, and the operation device 35 are disposed in the driver's cab 4.
  • the driver of the hydraulic shovel 1 sits on the driver's seat 4S.
  • the input device 32 is operated by the driver for start or end of imaging by the imaging device 30.
  • the input device 32 is provided near the driver's seat 4S. When the input device 32 is operated, imaging by the imaging device 30 starts or ends.
  • the notification device 33 acquires a notification signal regarding turning from the notification control unit 419 described later, and notifies the driver of the notification signal.
  • the notification for example, the output of success / failure (success / failure) of the measurement result by the stereo camera 300, the reason for failure when the stereo measurement result is failure, and guidance on the operation condition of the operating device 35 for operating the hydraulic shovel 100. Is included. The specific content of the notification will be described later.
  • the notification device 33 is provided in the vicinity of the driver's seat 4S.
  • the operating device 35 is operated by the driver to drive or stop the work machine 2, stop the swing or swing of the swing body 3, and stop the traveling or running of the traveling body 5.
  • the operating device 35 includes a right operating lever 35R and a left operating lever 35L for operating the work machine 2 and the swing body 3.
  • the operating device 35 includes a right travel lever and a left travel lever (not shown) for operating the traveling body 5.
  • FIG. 3 is a functional block diagram showing an example of a measurement system 50 according to the present embodiment.
  • the measurement system 50 is provided to the hydraulic shovel 1.
  • the measurement system 50 is an operation for detecting an operation amount of the control device 40, the stereo camera 300 including the first stereo camera 301 and the second stereo camera 302, the position detection device 23, the posture detection device 24, and the operation device 35.
  • An amount sensor 36, an input device 32, and a notification device 33 are provided.
  • the control device 40 is provided on the swing body 3 of the hydraulic shovel 1.
  • Control device 40 includes a computer system.
  • the control device 40 includes an arithmetic processing unit 41 including a processor such as a CPU (Central Processing Unit), a volatile memory such as a RAM (Random Access Memory), and a non-volatile memory such as a ROM (Read Only Memory).
  • a storage device 42 and an input / output interface 43 are provided.
  • the arithmetic processing unit 41 includes an image acquisition unit 410, a signal acquisition unit 411, a common part extraction unit 413, a turning data acquisition unit 415, an imaging position calculation unit 416, a three-dimensional position calculation unit 417, and a determination unit 418. , A notification control unit 419, and a turning control unit 420.
  • the image acquisition unit 410 acquires a plurality of images PC of the construction target SB captured by the imaging device 30 while the hydraulic shovel 1 is turning. Further, the image acquisition unit 410 acquires the image PC of the construction object SB captured by the imaging device 30 in the operation stop state of the hydraulic shovel 1, that is, in the state in which traveling and turning are also stopped.
  • the signal acquisition unit 411 acquires a command signal generated by operating the input device 32.
  • the input device 32 is operated to start or end imaging by the imaging device 30.
  • the command signal includes a shooting start command signal and a shooting end command signal.
  • the arithmetic processing unit 41 outputs a control signal for causing the imaging device 30 to start imaging based on the imaging start instruction signal acquired by the signal acquisition unit 411. Further, the arithmetic processing unit 41 outputs a control signal for causing the imaging device 30 to end shooting based on the shooting end command signal acquired by the signal acquisition unit 411.
  • image PC captured in the period between the time when the signal acquisition unit 411 acquires the imaging start instruction signal and the time when the imaging end instruction signal is acquired is stored in the storage device 42 and stored in the storage device 42.
  • An image PC may be used for stereo processing.
  • the common part extraction unit 413 extracts a common part KS of the plurality of images PC captured by the imaging device 30 while the hydraulic shovel 1 is turning.
  • the common part KS will be described later.
  • the turning data acquisition unit 415 acquires turning data of the turning body 3 during turning.
  • the pivoting data is data indicating the pivoting state of the pivoting body 3 and includes at least one of the pivoting speed V of the pivoting body 3, the pivoting angle ⁇ , and the pivoting direction RD.
  • the turn data is calculated by the imaging position calculation unit 416.
  • the turning data acquisition unit 415 acquires turning data from the imaging position calculation unit 416.
  • the imaging position calculation unit 416 calculates the position P and orientation of the imaging device 30 at the time of imaging.
  • the position P of the imaging device 30 at the time of shooting includes the position of the imaging device 30 in the turning direction RD.
  • the traveling body 5 is in the traveling state
  • the position P of the imaging device 30 at the time of shooting includes the position of the imaging device 30 in the traveling direction MD.
  • the imaging position calculation unit 416 calculates rotation data of the rotating body 3.
  • the pivoting data of the pivoting body 3 includes at least one of the pivoting speed V of the pivoting body 3, the pivoting angle ⁇ , and the pivoting direction RD.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PC captured by the pair of imaging devices 30, to calculate the three-dimensional position of the construction target SB in the imaging device coordinate system.
  • the three-dimensional position calculation unit 417 determines the three-dimensional position of the construction object SB in the imaging device coordinate system based on the position P of the imaging device 30 calculated by the imaging position calculation unit 416 Convert to position.
  • the determination unit 418 determines whether or not the turning data of the turning body 3 satisfies a prescribed turning condition.
  • the turning conditions include conditions that suppress the decrease in the measurement accuracy of stereo measurement. If the turning condition is not satisfied, the possibility that the measurement accuracy of the stereo measurement is lowered is high.
  • the turning condition is stored in the turning condition storage unit 422 of the storage device 42. The turning conditions will be described later.
  • the notification control unit 419 controls the notification device 33 based on the determination result of the determination unit 418.
  • the notification control unit 419 outputs a notification signal regarding turning to the notification device 33.
  • the notification control unit 419 outputs, for example, at least one of stereo measurement success / failure data, stereo measurement failure reason data, and guidance data as a notification signal regarding turning.
  • the notification control unit 419 functions as an output unit that outputs a notification signal, which is a type of turn instruction signal, based on the determination result of the determination unit 418. For example, when it is determined by the determination unit 418 that the turning data does not satisfy the turning condition, the notification control unit 419 operates the notification device 33 in the first notification form. When it is determined by the determination unit 418 that the turning data satisfies the turning condition, the notification control unit 419 may operate the notification device 33 in a second notification form different from the first notification form. The notification device 33 may not be operated.
  • the turning control unit 420 controls the hydraulic controller 38 that turns the swing body 3 based on the determination result of the determination unit 418.
  • the swing body control unit 420 outputs a control signal for controlling the swing operation of the swing body 3 to the hydraulic pressure controller 38.
  • the swing control unit 420 outputs a control signal to the hydraulic controller 38 that controls the swing motor 37 to control the swing speed of the swing body 3 during the swing.
  • the hydraulic controller 38 implements intervention control to reduce the turning speed based on the control signal from the turning control unit 420.
  • the intervention control refers to controlling the swing motor 37 based on a control signal output from the swing control unit 420 by intervening in the swing motor 37 driven based on the operation amount of the operating device 35 by the driver.
  • the turning control unit 420 functions as an output unit that outputs a control signal, which is a type of turning instruction signal, based on the determination result of the determination unit 418.
  • the turning control unit 420 limits the turning operation of the turning body 3 to slow the turning speed.
  • the storage device 42 includes a turning condition storage unit 422 and an image storage unit 423.
  • the turning condition storage unit 422 stores turning conditions for operating the notification device 33.
  • the image storage unit 423 sequentially stores a plurality of images PC captured by the imaging device 30.
  • the input / output interface 43 includes an interface circuit that connects the arithmetic processing unit 41 and the storage unit 42 to an external device.
  • the hub 31, the position detection device 23, the posture detection device 24, the operation amount sensor 36, the input device 32, and the notification device 33 are connected to the input / output interface 43.
  • the plurality of imaging devices 30 (30A, 30B, 30C, 30D) are connected to the arithmetic processing unit 41 via the hub 31.
  • the imaging device 30 captures an image PC of the construction target SB based on the imaging start command signal from the signal acquisition unit 411.
  • the image PC of the construction object SB captured by the imaging device 30 is input to the arithmetic processing unit 41 and the storage device 42 through the hub 31 and the input / output interface 43.
  • Each of the image acquisition unit 410 and the image storage unit 423 acquires the image PC of the construction target SB captured by the imaging device 30 via the hub 31 and the input / output interface 43.
  • the hub 31 may be omitted.
  • the input device 32 is operated to start or end imaging by the imaging device 30. By operating the input device 32, a shooting start command signal or a shooting end command signal is generated. As the input device 32, at least one of an operation switch, an operation button, a touch panel, a voice input, and a keyboard is exemplified.
  • the notification device 33 includes a display device 33A, a light emitting device 33B, and a sound output device 33C.
  • the display device 33A includes a flat panel display such as a liquid crystal display (LCD) or an organic electroluminescence display (OELD).
  • the light emitting device 33B includes a light source such as a light emitting diode (LED).
  • the sound output device 33C includes a siren or an audio output device capable of generating a warning sound.
  • the notification device 33 notifies the driver of information using at least one of display data displayed on the display device 33A, light emitted from the light emitting device 33B, and sound output from the sound output device 33C.
  • the notification device 33 notifies the driver that the turning data does not satisfy the turning condition.
  • the display device 33A displays display data including characters or an image to notify that the turning data does not satisfy the turning condition.
  • the light emitting device 33B emits light to notify that the turning data does not satisfy the turning condition.
  • the sound output device 33C outputs a warning sound or a voice to notify that the turning data does not satisfy the turning condition.
  • the notification device 33 may notify that the turning data satisfies the turning condition.
  • the notification device 33 is not limited to the display device 33A, the light emitting device 33B, and the sound output device 33C. In addition, at least one of the display device 33A, the light emitting device 33B, and the sound output device 33C may be omitted.
  • FIG. 4 is a figure which shows typically an example of operation
  • the measurement system 50 continuously captures the image PC of the construction target SB around the hydraulic shovel 1 by the imaging device 30 while the swing body 3 is swinging.
  • the imaging device 30 sequentially captures images PC of the construction target SB at a predetermined cycle while the revolving unit 3 is turning.
  • the imaging device 30 is mounted on the revolving unit 3. When the swing body 3 swings, the imaging region FM of the imaging device 30 moves in the swing direction RD.
  • the imaging device 30 can obtain the images PC of the plurality of regions of the construction object SB by the imaging device 30 continuously photographing the images PC of the construction object SB while the revolving structure 3 is turning.
  • the three-dimensional position calculation unit 417 can calculate the three-dimensional position of the construction target SB around the hydraulic shovel 1 by performing stereo processing on the pair of images PC captured by the pair of imaging devices 30.
  • the three-dimensional position of the construction target SB calculated by stereo processing is defined in the imaging device coordinate system.
  • the three-dimensional position calculation unit 417 converts a three-dimensional position in the imaging device coordinate system into a three-dimensional position in the work site coordinate system.
  • the position and posture of the revolving unit 3 on the on-site coordinate system are required.
  • the position and posture of the swing body 3 in the site coordinate system can be detected by the position detection device 23 and the posture detection device 24.
  • each of the position detection device 23 and the posture detection device 24 mounted on the hydraulic shovel 1 is displaced.
  • the detection data output from each of the position detection device 23 and the posture detection device 24 in a moving state may be unstable or the detection accuracy may decrease.
  • the position detection device 23 outputs detection data at a predetermined cycle. Therefore, when the detection of the position by the position detection device 23 and the photographing by the imaging device 30 are performed in parallel while the hydraulic shovel 1 is turning, if the position detection device 23 is moving, the imaging device 30 photographs an image There is a possibility that the timing to be performed may not be synchronized with the timing at which the position detection device 23 detects the position. If the three-dimensional position of the construction object SB is subjected to coordinate conversion based on detection data of the position detection device 23 detected at a timing different from the timing of imaging, the measurement accuracy of the three-dimensional position may be reduced.
  • the measurement system 50 calculates with high accuracy the position and orientation of the swing body 3 at the time when the image PC is photographed by the imaging device 30 while the swing body 3 is swinging, based on a method described later.
  • the measurement system 50 can calculate the three-dimensional position of the construction object SB in the on-site coordinate system with high accuracy.
  • the imaging position calculation unit 416 acquires detection data of each of the position detection device 23 and the posture detection device 24 detected when the hydraulic shovel 1 is in the operation stop state. There is a high possibility that the detection data detected by the position detection device 23 and the posture detection device 24 when the hydraulic shovel 1 is in the operation stop state is stable.
  • the imaging position calculation unit 416 acquires detection data detected in the operation stop state before and after the turning of the turning body 3.
  • the imaging device 30 captures an image PC of the construction object SB in the operation stop state before and after the turning of the swing body 3.
  • the imaging position calculation unit 416 Based on detection data of the position detection device 23 and the posture detection device 24 acquired when the hydraulic shovel 1 is in the operation stop state, the imaging position calculation unit 416 generates an image PC taken from the image PC while the hydraulic shovel 1 is in the operation stop state.
  • the three-dimensional position of the construction object SB in the calculated imaging device coordinate system is converted to a three-dimensional position in the on-site coordinate system.
  • the imaging position calculation unit 416 calculates the image by the imaging device 30 while the swing body 3 is swinging.
  • the position and posture of the swing body 3 at the time of shooting the image PC are calculated.
  • the imaging position calculation unit 416 converts the three-dimensional position in the imaging device coordinate system calculated from the captured image PC into the three-dimensional position in the site coordinate system based on the calculated position and posture of the swing body 3.
  • FIG. 5 is a figure which shows typically an example of operation
  • FIG. 5 is a schematic diagram for explaining that the imaging device 30 captures an image of the construction target SB while the revolving structure 3 is revolving.
  • the traveling body 5 is in the traveling stop state.
  • the imaging device 30 mounted on the swing body 3 and the imaging region FM of the imaging device 30 move in the swing direction RD.
  • the imaging region FM of the imaging device 30 is defined based on the field of view of the optical system of the imaging device 30.
  • the imaging device 30 acquires an image PC of the construction target SB disposed in the imaging region FM. Due to the swing of the swing body 3, the imaging region FM of the imaging device 30 moves in the swing direction RD of the swing body 3.
  • the imaging device 30 captures an image PC of the construction target SB sequentially disposed in the moving imaging region FM.
  • FIG. 5 illustrates an example in which the imaging region FM moves in the rotation direction RD in the order of the imaging region FM1, the imaging region FM2, and the imaging region FM3 by the rotation of the revolving structure 3.
  • the imaging area FM1 is defined at the first position PJ1 in the turning direction RD.
  • the imaging area FM2 is defined at the second position PJ2 in the turning direction RD.
  • the imaging area FM3 is defined at the third position PJ3 in the turning direction RD.
  • the second position PJ2 is a position turned from the first position PJ1 by a turning angle ⁇ 1.
  • the third position PJ3 is a position turned from the second position PJ2 by a turning angle ⁇ 2.
  • the imaging device 30 displays each of the image PC1 of the construction object SB disposed in the imaging area FM1, the image PC2 of the construction object SB disposed in the imaging area FM2, and the image PC3 of the construction object SB disposed in the imaging area FM3. Take a picture.
  • the image PC1, the image PC2, and the image PC3 are images captured by the same imaging device 30 (the imaging device 30C in the example shown in FIG. 5).
  • the imaging device 30 performs imaging at a predetermined timing so that the overlapping region OB is provided in the adjacent imaging regions FM.
  • FIG. 5 shows an example in which the overlapping area OB1 is provided in the imaging area FM1 and the imaging area FM2, and the overlapping area OB2 is provided between the imaging area FM2 and the imaging area FM3.
  • the overlapping area OB1 is an overlapping area OB in which the image PC1 and a part of the image PC2 overlap.
  • the overlapping area OB2 is an overlapping area OB in which the image PC2 and a part of the image PC3 overlap.
  • the common part KS of the image PC is present in the overlapping area OB.
  • the common part KS1 present in the overlapping area OB1 is a common part KS between the image PC1 and the image PC2.
  • the common part KS2 present in the overlapping area OB2 is a common part KS between the image PC2 and the image PC3.
  • the common part extraction unit 413 extracts a common part KS of the plurality of two-dimensional images PC captured by the imaging device 30.
  • FIG. 6 is a schematic view for explaining an example of processing of the measurement system 50 according to the present embodiment.
  • FIG. 6 is a view showing an example of an image PC (PC1, PC2) captured when the revolving unit 3 is pivoting.
  • the common part extraction unit 413 extracts the common part KS from the image PC.
  • the common part extraction unit 413 uses the image PC1 and the image PC2 from the image PC1 of the construction object SB disposed in the imaging region FM1 and the image PC2 of the construction object SB disposed in the imaging region FM2. Extract common part KS1 with.
  • the imaging position calculation unit 416 calculates an estimated angle ⁇ s ( ⁇ 1 in FIG. 5) of the rotating body 3 based on the common part KS1 extracted by the common part extraction unit 413. Further, the imaging position calculation unit 416 calculates an estimated position Ps (PJ2 in FIG. 5) at the time of imaging based on the estimated angle ⁇ s.
  • the common part KS is a feature point in the image PC.
  • the common part extraction unit 413 extracts the common part KS based on a known feature point detection algorithm such as, for example, ORB (Oriented FAST and Rotated Brief) or Harris corner detection.
  • the common part extraction unit 413 extracts a plurality of feature points from each of the plurality of images PC, and extracts a common part KS by searching for similar feature points from the plurality of extracted feature points.
  • the common part extraction unit 413 may extract a plurality of common parts KS.
  • the common part extraction unit 413 extracts, for example, a corner of the construction target SB in the image PC as a feature point.
  • the imaging area FM of the imaging device 30 moves in the revolving direction RD by the rotation of the rotating body 3, and the common part KS in the image PC is displaced by the movement of the imaging area FM.
  • the common part KS exists at the pixel position PX1 in the image PC1 and exists at the pixel position PX2 in the image PC2.
  • the position where the common part KS exists differs between the image PC1 and the image PC2. That is, the common part KS1 is displaced between the image PC1 and the image PC2.
  • the imaging position calculation unit 416 can calculate the turning angle ⁇ 1 from the position PJ1 to the position PJ2 based on the position of the common part KS in the plurality of images PC.
  • FIG. 7 is a schematic view for explaining an example of processing of the measurement system 50 according to the present embodiment.
  • FIG. 7 is a diagram for explaining the movement of the imaging device coordinate system (Xs, Ys, Zs) as the revolving unit 3 revolves.
  • the swing body 3 swings around the swing axis Zr in the Xm-Ym plane of the vehicle body coordinate system.
  • the imaging device coordinate system (Xs, Ys, Zs) moves around the swing axis Zr by the swing angle ⁇ .
  • the imaging position calculation unit 416 estimates the estimated angle ⁇ s of the swing body 3 when the swing body 3 swings from the pre-swing angle ⁇ ra by the swing angle ⁇ under the constraint that the swing body 3 turns about the swing axis Zr.
  • the estimated position Ps can be calculated.
  • FIG. 8 is a schematic view for explaining an example of processing of the measurement system 50 according to the present embodiment.
  • FIG. 8 is a schematic view showing an example of calculating the turning angle ⁇ of the turning body 3 and the position P of the imaging device 30. As shown in FIG. FIG. 8 shows the turning angle ⁇ of the turning body 3 and the position P of the imaging device 30 in the vehicle body coordinate system.
  • the swing body 3 turns in the turning direction RD in the order of the pre-turning angle ⁇ ra, the first estimated angle ⁇ s1, the second estimated angle ⁇ s2, the third estimated angle ⁇ s3, and the after-turning angle ⁇ rb.
  • the imaging device 30 moves in order of the pre-rotation position Pra, the first estimated position Ps1, the second estimated position Ps2, the third estimated position Ps3, and the post-rotation position Prb by the rotation of the rotating body 3.
  • the imaging area FM of the imaging device 30 moves in the order of the imaging area FMra, the imaging area FMs1, the imaging area FMs2, the imaging area FMs3, and the imaging area FMrb by the movement of the imaging apparatus 30 in the turning direction RD.
  • the swing body 3 When the pre-rotation angle ⁇ ra and the post-rotation angle ⁇ rb, the swing body 3 is in the non-rotation state.
  • the swing body 3 in the swinging stop state at the pre-swing angle ⁇ ra reaches the post-swing angle ⁇ rb via the first estimated angle ⁇ s1, the second estimated angle ⁇ s2, and the third estimated angle ⁇ s3, It turns from ⁇ ra to a post-turn angle ⁇ rb.
  • the imaging device 30 acquires the image PCra of the construction target SB disposed in the imaging region FMra in a state where the imaging device 30 is disposed at the pre-turning position Pra.
  • the imaging device 30 acquires the image PCs1 of the construction target SB disposed in the imaging region FMs1 in the state of being disposed at the first estimated position Ps1.
  • the imaging device 30 acquires the image PCs2 of the construction target SB disposed in the imaging region FMs2 in the state of being disposed at the second estimated position Ps2.
  • the imaging device 30 acquires the image PCs3 of the construction target SB disposed in the imaging region FMs3 in the state of being disposed at the third estimated position Ps3.
  • the imaging device 30 acquires the image PCrb of the construction target SB disposed in the imaging region FMrb in a state where the imaging device 30 is disposed at the post-turning position Prb.
  • the imaging position calculation unit 416 determines the after-swing angle ⁇ rb based on the position and posture of the swing body 3 detected by the position detection device 23 and the posture detection device 24 in the swing stop state after the swing body 3 finishes the swing. calculate.
  • the imaging position calculation unit 416 also calculates the pre-turn position Pra based on the pre-turn angle ⁇ ra.
  • the imaging position calculation unit 416 also calculates the after-turn position Prb based on the after-turn angle ⁇ rb.
  • the pre-turning angle ⁇ ra, the post-turning angle ⁇ rb, the pre-turning position Pra, and the post-turning position Prb are calculated with high accuracy based on detection data of the position detection device 23 and detection data of the posture detection device 24.
  • the imaging position calculation unit 416 estimates the estimated angle ⁇ s (the first estimated angle ⁇ s1, the second estimated angle ⁇ s2, and the like) based on the common part KS of the plurality of images PC captured while the rotating body 3 is turning. And a third estimated angle ⁇ s3). Further, the imaging position calculation unit 416 calculates an estimated position Ps (a first estimated position Ps1, a second estimated position Ps2, and a third estimated position Ps3) based on the estimated angle ⁇ s.
  • the common part extraction unit 413 extracts a common part KS1 between the image PCra and the image PCs1.
  • the imaging position calculation unit 416 performs the turning based on the pre-turning angle ⁇ ra of the turning body 3 and the common portion KS1 of the image PCra and the image PCs1 under the constraint that the turning body 3 turns about the turning axis Zr.
  • the angle ⁇ 1 is calculated.
  • the imaging position calculation unit 416 can calculate the estimated angles ⁇ s ( ⁇ s1, ⁇ s2, ⁇ s3, ⁇ s4) of the swing body 3 when the imaging device 30 captures an image while the swing body 3 is swinging. . Further, by calculating the estimated angle ⁇ s of the swing body 3, the imaging position calculation unit 416 estimates the estimated position Ps (Ps1, Ps2, Ps3) of the imaging device 30 while the swing body 3 is swinging based on the estimated angle ⁇ s. , Ps 4) can be calculated.
  • the imaging position calculation unit 416 acquires, from the imaging device 30, point-in-time data indicating a point in time when each of the plurality of images PC (PCra, PCs1, PCs2, PCs3, PCs4, and PCrb) is captured.
  • the imaging device 416 can calculate the turning speed V based on the time when each of the plurality of images PC is taken and the turning angle ⁇ ( ⁇ 1, ⁇ 2, ⁇ 3, ⁇ 4).
  • the turning angle V when turning from the estimated angle ⁇ s1 to the estimated angle ⁇ s2 can be calculated. Further, the imaging device 416 can calculate the turning direction R based on the time when each of the plurality of images PC is captured and the turning angle ⁇ .
  • the imaging position calculation unit 416 calculates the swing data of the swing body 3 including the swing angle ⁇ , the swing speed V, and the swing direction R based on the common part KS of the plurality of images PC. It can be calculated.
  • the post-turning angle ⁇ rb is calculated with high accuracy based on the detection data of the position detection device 23 and the detection data of the posture detection device 24.
  • the estimated angle ⁇ s4 is calculated based on the displacement of the common portion KS. If the estimated angle ⁇ s4 and the estimated position Ps4 calculated using the common part KS are accurate, the difference between the estimated angle ⁇ s4 and the post-turning angle ⁇ rb is small, and the difference between the estimated position Ps4 and the post-turning position Prb is small.
  • the error of the estimated angle ⁇ s4 and the estimated position Ps4 calculated using the common portion KS may be large.
  • the difference between the estimated angle ⁇ s4 and the post-turning angle ⁇ rb is large, and the difference between the estimated position Ps4 and the post-turning position Prb is large.
  • the imaging position calculation unit 416 is turning based on the angle ⁇ r (the pre-turning angle ⁇ ra and the after-turning angle ⁇ rb) which is the turning angle ⁇ in the turning stop state.
  • the estimated angle ⁇ s (a first estimated angle ⁇ s1, a second estimated angle ⁇ s2, a third estimated angle ⁇ s3, and a fourth estimated angle ⁇ s4), which is the turning angle ⁇ , is corrected. Further, the imaging position calculation unit 416 corrects the estimated position Ps based on the corrected estimated angle ⁇ s.
  • the imaging position calculation unit 416 can accurately calculate the estimated position Ps1 of the imaging device 30 at the time of shooting based on the corrected estimated angle ⁇ s1 '. Similarly, the imaging position calculation unit 416 can accurately calculate the estimated position Ps2 of the imaging device 30 at the time of photographing based on the corrected estimated angle ⁇ s2 ′, and the corrected estimated angle ⁇ s3 ′. The estimated position Ps3 of the imaging device 30 at the time of shooting the image PCs3 can be calculated with high accuracy based on the above. Therefore, the three-dimensional position calculation unit 417 determines the construction target SB of the on-site coordinate system based on the estimated position Ps of the imaging device 30 at the time of imaging calculated with high accuracy and the image PCs captured by the imaging device 30. The three-dimensional position can be calculated with high accuracy.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PC captured by the pair of imaging devices 30, and calculates a three-dimensional position of the construction target SB. Note that integration of three-dimensional data may be omitted.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PCra captured by the pair of imaging devices 30 arranged at the pre-swing position Pra in the swing stop state before the swing body 3 starts to rotate, The three-dimensional position of the construction object SB placed in FMra is calculated.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PCs captured by the pair of imaging devices 30 disposed at the estimated position Ps while the revolving unit 3 is pivoted, and is disposed in the imaging region FMs.
  • the three-dimensional position of the construction object SB is calculated.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PCs captured by the pair of imaging devices 30 disposed at the estimated position Ps while the traveling body 5 is in the traveling stop state and the swing body 3 is turning.
  • the three-dimensional position of the construction object SB disposed in the imaging area FMs is calculated.
  • the three-dimensional position calculation unit 417 performs stereo processing on a pair of images PCrb captured by the pair of imaging devices 30 disposed at the after-swing position Prb in the swing stop state after the swing body 3 finishes the swing, The three-dimensional position of the construction object SB disposed in the imaging area FMrb is calculated.
  • the three-dimensional position calculation unit 417 calculates the three-dimensional position of the construction object SB based on the plurality of images PC captured in each of the swinging state and the rotation stop state of the swing body 3 and then the plurality of construction objects Integrate the 3D position of SB.
  • FIG. 9 is a view schematically showing an example of integration of the three-dimensional position of the construction object SB according to the present embodiment.
  • Three-dimensional data PTDra acquired in the turning stop state before the turning start of the turning body 3, three-dimensional data PTDs obtained while the turning body 3 was turning, and acquisition in the turning stop state after the turning body 3 ends turning
  • the three-dimensional data PTDrb By integrating the three-dimensional data PTDrb with the selected three-dimensional data PTD indicating the three-dimensional shape of the construction object SB in the range where the imaging device 30 has photographed the image PC among the construction objects SB around the hydraulic shovel 1 It is generated.
  • the three-dimensional data PTDra includes the three-dimensional position of the construction object SB calculated from the image PC captured in the swing stop state before the swing body 3 starts swinging.
  • the three-dimensional data PTDs includes the three-dimensional position of the construction object SB calculated from the image PC captured while the rotating body 3 is turning.
  • the three-dimensional data PTDs may be singular or plural.
  • the three-dimensional data PTDrb includes the three-dimensional position of the construction object SB calculated from the image PC captured in the swing stop state after the swing body 3 finishes the swing.
  • the three-dimensional position calculation unit 417 integrates a plurality of three-dimensional data PTDra, PTDs, and PTDrb.
  • the three-dimensional position calculation unit 417 combines Zg coordinates such that Xg coordinates and Yg coordinates of three-dimensional positions of the three-dimensional data PTDra, PTDs, and PTDrb in the on-site coordinate system coincide with each other.
  • the three-dimensional position of the construction object SB acquired in the turning stop state before the start of turning, the three-dimensional position of the construction target SB obtained in turning, and the construction obtained in the turning stop state after the turning end
  • the three-dimensional position of the target SB is integrated.
  • the swing condition refers to a swing condition of the swing body 3 that can suppress a decrease in measurement accuracy of stereo measurement. If the swing body 3 turns without satisfying the swing conditions, the measurement accuracy of stereo measurement may be reduced.
  • the prescribed turning conditions are predetermined and stored in the turning condition storage unit 422 of the storage device 42.
  • the first turning condition turning (re-turning) is performed in the turning condition storage unit 422 after the turning body 3 turns from the turning start position to the turning end position and stops turning.
  • a turning condition indicating no is stored.
  • the first turning condition includes the condition that the turning body 3 stops turning and does not start turning again after a prescribed time has elapsed since the turning was stopped.
  • the turning direction when re-turning may be either forward or reverse.
  • the turning body 3 When continuously photographing the image PC with the imaging device 30 while turning the turning body 3, the turning body 3 reaches the turning end position from the turning start position, the turning of the turning body 3 is stopped, and the turning body 3 is in the forward direction or Turning in the opposite direction may reduce the measurement accuracy of stereo measurement.
  • the determination unit 413 determines whether the turning data of the turning body 3 satisfies the first turning condition. When it is determined that the swing body 3 ends the swing without stopping and re-swirling, it is determined that the swing data satisfies the first swing condition. That is, it is determined that the image PC capable of suppressing the decrease in the measurement accuracy of the stereo measurement has been captured. On the other hand, when it is determined that the turning body 3 has started turning again after the turning body 3 has stopped turning, it is determined that the turning data does not satisfy the first turning condition. That is, it is determined that the measurement accuracy of stereo measurement may be reduced.
  • the turning condition storage unit 422 stores, as a second turning condition, a turning condition indicating that the turning speed V of the turning body 3 is less than the specified speed.
  • a turning condition indicating that the turning speed V of the turning body 3 is less than the specified speed.
  • the determination unit 413 determines whether or not the turning data of the turning body 3 satisfies the second turning condition. When it is determined that the swing speed V of the swing body 3 is less than the specified speed, that is, it is determined that the swing speed V is low, it is determined that the swing data satisfies the second swing condition. That is, it is determined that the image PC capable of suppressing the decrease in the measurement accuracy of the stereo measurement has been captured. On the other hand, when it is determined that the swing speed C of the swing body 3 is equal to or higher than the specified speed, that is, it is determined that the swing speed V is too fast, it is determined that the swing data does not satisfy the second swing condition. That is, it is determined that the measurement accuracy of stereo measurement may be reduced.
  • a turning angle indicating that ⁇ 2 is less than the second prescribed angle are stored.
  • the image PC is continuously photographed with the imaging device 30 while turning the swing body 3
  • the turning angle ⁇ is too small (if it is equal to or less than the first prescribed angle)
  • the above-mentioned turning angle can not be corrected accurately.
  • the accuracy of the measurement may be reduced. If the turning angle ⁇ is too large (more than the second prescribed angle), the accumulated error of the calculated estimated angle ⁇ s may be large, and the measurement accuracy of stereo measurement may be reduced.
  • the determination unit 413 determines whether or not the turning data of the turning body 3 satisfies the third turning condition. When it is determined that the turning angle ⁇ of the swing body 3 from the turning start position to the turning end position is larger than the first predetermined angle or less than the second predetermined angle, the turning data satisfies the third turning condition. It is determined that the That is, it is determined that the image PC capable of suppressing the decrease in the measurement accuracy of the stereo measurement has been captured. On the other hand, when it is determined that the turning angle ⁇ of the swing structure 3 from the turning start position to the turning end position is equal to or less than the first predetermined angle or equal to or more than the second predetermined angle, the turning data satisfies the third turning condition. It is judged that it has not done. That is, it is determined that the measurement accuracy of stereo measurement may be reduced.
  • the turning condition storage unit 422 stores, as a fourth turning condition, a turning condition indicating that the turning direction R of the turning body 3 is one direction.
  • a turning condition indicating that the turning direction R of the turning body 3 is one direction.
  • the turning body 3 is reversed with the turning body 3 turning in the forward direction so as to turn from the turning start position to the turning end position.
  • the same region of the construction object SB is photographed twice.
  • stereo processing is performed on a plurality of images PC obtained by photographing the same area of the construction target SB, there is a possibility that the measurement accuracy of stereo measurement may be lowered.
  • the determination unit 413 determines whether or not the turning data of the turning body 3 satisfies the fourth turning condition. If it is determined that the turning direction has not been switched from the forward direction to the reverse direction before the turning body 3 reaches the turning end position, the turning data is the fourth turning condition. Is determined to be satisfied. That is, it is determined that the image PC capable of suppressing the decrease in the measurement accuracy of the stereo measurement has been captured. On the other hand, when it is determined that the turning direction is switched from the forward direction to the reverse direction before the swing body 3 reaches the swing end position, it is determined that the swing data does not satisfy the fourth swing condition. That is, it is determined that the measurement accuracy of stereo measurement may be reduced.
  • the imaging device 30 after the end of turning calculated based on the position and posture of the swing body 3 detected by the position detection device 23 and the posture detection device 24.
  • a turning condition indicating that the difference between the after-turning angle ⁇ rb of and the estimated angle ⁇ s of the imaging device 30 after the turning is calculated based on the common part KS is less than a specified value. If the difference between the post-turning angle ⁇ rb and the estimated angle ⁇ s is large, it means that the estimated angle ⁇ s is far from the actual turning angle ⁇ .
  • the estimated angle ⁇ s of the rotating body 3 after the end of turning calculated using the common part KS due to the accumulated error of the common part KS calculated from the plurality of images PC, and the position detection device 23 The difference with the after-turning angle ⁇ rb calculated using the detection data of and the detection data of the posture detection device 24 may be large. As the estimated angle ⁇ s is less accurate, the difference between the estimated angle ⁇ s and the post-turning angle ⁇ rb becomes larger. If the estimated angle ⁇ s is incorrect, the image PC obtained by photographing the construction target SB at a position different from the actual turning angle ⁇ is subjected to stereo processing, which may lower the measurement accuracy of the stereo measurement.
  • the determination unit 413 determines whether the turning data of the turning body 3 satisfies the fifth turning condition. When it is determined that the difference between the post-turning angle ⁇ rb after the end of turning and the estimated angle ⁇ s after the end of turning is less than the specified value, the turning data is determined to satisfy the fifth turning condition. That is, it is determined that the image PC capable of suppressing the decrease in the measurement accuracy of the stereo measurement has been captured. When it is determined that the difference between the after-swing angle ⁇ rb after the end of turning and the estimated angle ⁇ s after the end of turning is equal to or greater than a specified value, the turning data is determined not to satisfy the fifth turning condition. That is, it is determined that there is a high possibility that the measurement accuracy of the stereo measurement decreases.
  • the turning condition storage unit 422 stores, as the fifth turning condition, a turning condition indicating that the difference between the after-turning position Prb after the end of turning and the estimated position Ps after the ending of the turning is less than a prescribed value. May be
  • the notification control unit 419 operates the notification device 33 when it is determined that the turning data of the turning body 3 does not satisfy the turning condition. As a result, the driver can adjust the operation of the operating device 35 so as not to reduce the measurement accuracy of the stereo measurement, and can perform the photographing again.
  • the determination of whether or not the turning data satisfies the turning condition, and the operation of the notification device 33 can be performed at any timing.
  • the determination of whether or not the turning data satisfies the turning condition, and the operation of the notification device 33 may be performed during a period from when the turning of the turning body 3 is started to when it ends, or the turning of the turning body 3 is It may be implemented after the end of the imaging by the imaging device 30, or may be performed after the calculation of the estimated angle ⁇ s is completed.
  • the determination as to whether or not the swing data satisfies the first swing condition, and the operation of the notification device 33 are performed in a period from when the swing of the swing body 3 is started to the end thereof.
  • the determination as to whether or not the turning data satisfies the second, third, and fourth turning conditions, and the operation of the notification device 33 are performed after the turning of the swing body 3 is finished and the imaging of the imaging device 30 is finished.
  • the determination as to whether or not the turning data satisfies the fifth turning condition, and the operation of the notification device 33 are performed after the calculation of the estimated angle ⁇ s is completed.
  • regulation are an example, and are not limited to the above-mentioned example.
  • the determination as to whether the turning data satisfies the turning condition and the operation timing of the notification device 33 are also an example, and the present invention is not limited to the above example.
  • FIG. 10 is a perspective view schematically showing an example of the input device 32 according to the present embodiment.
  • the measurement system 50 performs a continuous shooting mode in which the imaging device 30 continuously shoots the construction target SB while the swing body 3 is swinging, and a construction target by the imaging device 30 when the swing body 3 is in a swing stop state.
  • a single image shooting mode for shooting SB can be implemented.
  • the input device 32 can generate a continuous shooting switch 32A capable of generating a shooting start command signal for starting the continuous shooting mode and a shooting end command signal for instructing termination of the continuous shooting mode, and shooting in the single image shooting mode.
  • a single-image shooting switch 32B capable of generating a single-image shooting command signal to be commanded.
  • the first light emitting unit 34A is provided in a part of the turning continuous shooting switch 32A
  • the second light emitting unit 34B is provided in a part of the single image shooting switch 32B.
  • Each of the first light emitting unit 34A and the second light emitting unit 34B includes a light emitting diode.
  • the first light emitting unit 34A is turned on, blinks, or is turned off based on the operation state of the turning continuous shooting switch 32A.
  • the second light emitting unit 34B is turned on, blinks, or is turned off based on the operation state of the single image photographing switch 32B.
  • the notification control unit 419 turns on each of the first light emitting unit 34A and the second light emitting unit 34B that have been extinguished at time t1.
  • FIG. 11 is a flowchart showing an example of the measurement method according to the present embodiment.
  • FIG. 12 is a timing chart of the measurement method according to the present embodiment.
  • the driver of the hydraulic shovel 1 operates the operation device 35 to turn the swing body 3 so that the imaging device 30 faces the measurement start position of the construction target SB.
  • the determination unit 418 determines that the position detection device 23 and the posture detection device 24 respectively Is determined to be in a stationary state where detection data can be stably output.
  • the imaging position calculation unit 416 determines the position of the swing body 3 from the position detection device 23
  • the detection data indicating the posture of the swing body 3 is acquired from the posture detection device 24 (step S10).
  • the imaging position calculation unit 416 acquires the pre-turning angle ⁇ ra and the pre-turning position Pra.
  • the detection data of the position detection device 23 and the detection data of the attitude detection device 24 are temporarily stored in the storage device 42.
  • the driver of the hydraulic shovel 1 When starting the turning continuous shooting mode, the driver of the hydraulic shovel 1 operates (depresses) the turning continuous shooting switch 32A. In the example shown in FIG. 18, the turning continuous shooting switch 32A is operated at time t2. A photographing start instruction signal generated by operating the turning continuous photographing switch 32A is output to the arithmetic processing unit 41.
  • the signal acquisition unit 411 acquires a photographing start instruction signal (step S20).
  • the arithmetic processing unit 41 starts shooting of the imaging device 30 (step S30).
  • the image acquisition unit 410 acquires an image PCra of the construction target SB captured by the imaging device 30 in the operation stop state before the hydraulic shovel 1 starts the operation. Further, the image storage unit 423 stores the image PCra.
  • the driver operates the operation device 35 to start the turning of the swing body 3 in a state in which the traveling of the traveling body 5 is stopped (step S40).
  • the driver turns the controller 35 from the turning start position where the imaging device 30 faces the measurement start position of the construction object SB to the turning end position where the imaging device 30 steps on the measurement end position of the construction object SB Operate to start the swing of the swing body 3.
  • the operating device 35 is operated at time t3 to start turning of the swing body 3.
  • Each of the plurality of imaging devices 30 (30A, 30B, 30C, and 30D) captures an image PCs of the construction object SB a plurality of times at intervals while the rotating body 3 is turning.
  • the image acquisition unit 410 sequentially acquires a plurality of images PCs of the construction target SB captured by the imaging device 30 while the rotating body 3 is turning. Further, the image storage unit 423 sequentially stores a plurality of image PCs.
  • the imaging position calculation unit 416 calculates turning data.
  • the determination unit 418 determines whether or not the turning data satisfies the turning conditions stored in the turning data storage unit 422 (step S50). Also, the turning data is temporarily stored in the storage device 42.
  • step S50 it is determined whether or not the conditions under which the swing has ended without turning again after the swing body 3 has stopped turning are satisfied as a turning condition (first turn condition).
  • a turning condition first turn condition
  • the turning data is determined to satisfy the turning condition.
  • it is determined that the turning body 3 has stopped turning and the turning has been stopped after the specified time has elapsed it is determined that the turning data does not satisfy the turning condition.
  • step S50 When it is determined in step S50 that the turning data does not satisfy the turning conditions (step S50: No), the notification control unit 419 operates the notification device 33, and the turning data does not satisfy the turning conditions. The driver is notified of information indicating that (step S180).
  • step S50 When it is determined in step S50 that the turning data satisfies the turning condition (step S50: Yes), the notification device 33 does not operate.
  • the notification control unit 419 operates the notification device 33 in a notification form different from the notification form in step S180, and turns Information indicating that the data satisfies the turning condition may be notified to the driver.
  • step S60 When the swing body 3 reaches the swing end position, the driver cancels the operation of the operating device 35 and ends the swing of the swing body 3 (step S60). In the example shown in FIG. 12, the operation of the operating device 35 is released at time t4, and the turning of the swing body 3 is ended.
  • the determination unit 418 causes each of the position detection device 23 and the posture detection device 24 to stabilize detection data. It is determined that it is in a stationary state that can be output.
  • the imaging position calculation unit 416 acquires detection data indicating the position of the swing body 3 from the position detection device 23, Detection data indicating the attitude of the swing body 3 is acquired from the attitude detection device 24 (step S70).
  • the imaging position calculation unit 416 acquires the after-turn angle ⁇ rb and the after-turn position Prb.
  • the detection data of the position detection device 23 and the detection data of the attitude detection device 24 are temporarily stored in the storage device 42.
  • the image acquisition unit 410 acquires the image PCrb of the construction target SB captured by the imaging device 30 in the operation stop state after the hydraulic shovel 1 ends the operation. Further, the image storage unit 423 stores the image PCrb.
  • the driver of the hydraulic shovel 1 operates (depresses) the turning continuous shooting switch 32A.
  • the turning continuous shooting switch 32A is operated at time t6.
  • a photographing end command signal generated by operating the turning continuous photographing switch 32A is output to the arithmetic processing unit 41.
  • the signal acquisition unit 411 acquires a photographing end instruction signal (step S80).
  • the imaging of the imaging device 30 ends (step S90).
  • the imaging device 30 transitions to the imaging disabled state.
  • the determination unit 418 determines whether the turning data when the turning body 3 is turning satisfies the turning conditions stored in the turning data storage unit 422 (step S100).
  • step S100 determination unit 418 determines whether a condition in which swing speed V of swing body 3 is less than a specified speed is satisfied as a swing condition (second swing condition).
  • step S100 determination unit 418 sets a turning angle ⁇ of swing body 3 from the turning start position to the turning end position as a turning condition under the condition that the turning angle ⁇ is larger than the first prescribed angle and less than the second prescribed angle. It is determined whether one or both of the conditions are satisfied (third turning condition).
  • the swing data is determined to satisfy the swing condition.
  • the swing angle ⁇ of the swing body 3 is equal to or less than the first predetermined angle
  • it is determined that the swing data does not satisfy the swing condition.
  • the swing data is determined to satisfy the swing condition.
  • the swing angle ⁇ of the swing body 3 is equal to or greater than the second predetermined angle
  • it is determined that the swing data does not satisfy the swing condition.
  • step S100 determination unit 418 determines whether a condition in which the swing direction of swing body 3 is one direction is satisfied as a swing condition (fourth swing condition).
  • the turning data is determined to satisfy the turning condition.
  • the swing direction of the swing body 3 has been switched from the forward direction to the reverse direction, it is determined that the swing data does not satisfy the swing condition.
  • step S100 When it is determined in step S100 that the turning data does not satisfy the turning conditions (step S100: No), the notification control unit 419 operates the notification device 33, and the turning data does not satisfy the turning conditions. The driver is notified of information indicating that (step S190).
  • step S100 When it is determined in step S100 that the turning data satisfies the turning condition (step S50: Yes), the notification device 33 does not operate.
  • the notification control unit 419 operates the notification device 33 in a notification form different from the notification form in step S190, and turns Information indicating that the data satisfies the turning condition may be notified to the driver.
  • the common part extraction unit 413 extracts the common part KS from each of the plurality of images PC stored in the image storage unit 423 (step S120).
  • the common part extraction unit 413 extracts a common part KS of the two images PC from at least two images PC captured by the imaging device 30 while the rotating body 3 is stopped and turned.
  • the extraction of the common part KS is performed on all the images PC acquired from when the turning of the turning body 3 is started to the end in the turning direction R of the turning body 3.
  • the imaging position calculation unit 416 estimates the estimated angle ⁇ s of the rotating body 3 based on the common part KS of the plurality of images PC (step S140).
  • the imaging position calculation unit 416 can estimate the estimated angle ⁇ s by calculating the turning angle ⁇ based on the position of the common part KS in the plurality of images PC.
  • the determination unit 418 determines whether the turning data when the turning body 3 is turning satisfies the turning conditions stored in the turning data storage unit 422 (step S150).
  • step S150 the determination unit 418 determines the post-rotation angle of the imaging device 30 after the end of rotation, which is calculated based on the position and orientation of the swing body 3 detected by the position detection device 23 and the posture detection device 24 as the turning condition. It is determined whether the condition that the difference between ⁇ rb and the estimated angle ⁇ s of the imaging device 30 after the end of turning calculated based on the common part KS is less than a prescribed value is satisfied (fifth turning condition).
  • determination unit 418 satisfies the condition that the difference between post-turning angle ⁇ rb in the turning stop state after the end of turning and the estimated angle ⁇ s after the end of turning estimated from the estimated angle ⁇ s during turning is less than the specified value. It is determined whether to do. For example, the estimated angle ⁇ s of the rotating body 3 after the end of turning calculated using the common part KS due to the accumulated error of the common part KS calculated from the plurality of images PC, and the position detection device 23 The difference with the after-turning angle ⁇ rb calculated using the detection data of and the detection data of the posture detection device 24 may be large.
  • the determination unit 418 determines whether or not the condition that the difference between the estimated angle ⁇ s after the end of turning and the after-turning angle ⁇ rb is less than a specified value is satisfied.
  • the turning data is determined to satisfy the turning condition.
  • the turning data is determined not to satisfy the turning condition.
  • step S150 When it is determined in step S150 that the turning data does not satisfy the turning conditions (step S150: No), the notification control unit 419 operates the notification device 33, and the turning data does not satisfy the turning conditions. The driver is notified of information indicating that (step S200).
  • step S150 When it is determined in step S150 that the turning data satisfies the turning condition (step S150: Yes), the notification device 33 does not operate.
  • the notification control unit 419 operates the notification device 33 in a notification form different from the notification form in step S200, and turns Information indicating that the data satisfies the turning condition may be notified to the driver.
  • the imaging position calculation unit 416 determines during turning based on the angle ⁇ r (pre-turning angle ⁇ ra, after-turning angle ⁇ rb). The estimated angle ⁇ s is corrected. Further, the imaging position calculation unit 416 corrects the estimated position Ps of the imaging device 30 during turning based on the corrected estimated angle ⁇ s. The imaging position calculation unit 416 can correct the estimated angle ⁇ s based on the above-described procedure.
  • the three-dimensional position calculation unit 417 performs stereo processing on the image PC at the time of shooting to calculate a three-dimensional position in the imaging device coordinate system of the plurality of construction targets SB (step S160). Also, the three-dimensional position calculation unit 417 converts the three-dimensional position in the imaging device coordinate system into a three-dimensional position in the on-site coordinate system.
  • the three-dimensional position calculation unit 417 integrates the three-dimensional positions of the plurality of construction objects SB calculated in step S130 based on the position P of the imaging device 30 at the time of shooting acquired in step S140 (step S170).
  • the position P of the imaging device 30 at the time of shooting includes a pre-turning position Pra, a plurality of estimated positions Ps during turning, and a post-turning position Prb.
  • three-dimensional data PTD indicating the three-dimensional shape of the construction object SB is generated. The process of integrating three-dimensional positions may be omitted.
  • the revolving unit data does not satisfy at least one of the first pivoting condition, the second pivoting condition, the third pivoting condition, the fourth pivoting condition, and the fifth pivoting condition.
  • the three-dimensional position calculation unit 417 is acquired in step S80 and the image PCra of the construction object SB captured by the imaging device 30 in the operation stop state before the hydraulic shovel 1 starts operating. Even if the three-dimensional position of the construction object SB in the imaging device coordinate system is calculated by stereo processing the image PCrb of the construction object SB captured by the imaging device 30 in the operation stop state after the operation of the hydraulic shovel 1 ends. Good.
  • step S180 In the notification of the notification device 33 in step S180, step S190, and step S200, display data is displayed on the display device 33A, light is emitted from the light emitting device 33B, and sound is output from the sound output device 33C. Includes at least one.
  • the notification control unit 419 when it is determined that the turning data does not satisfy the turning condition, causes the notification device 33 to output guidance data that indicates the operating condition of the operating device 35 that operates the hydraulic shovel 1.
  • the driver recognizes that the accuracy of the stereo measurement performed based on the image PC acquired while the revolving unit 3 is turning is insufficient by receiving the notification by the notification device 33, that is, the stereo measurement has failed. For example, the same region of the construction object SB can be measured in stereo again. At that time, the driver can suppress the decrease in the accuracy of the stereo measurement by correcting the turning condition of the swing body 3 at the time of shooting based on the content of the notification by the notification device 44 and performing stereo measurement. .
  • FIG. 13 is a diagram showing an example in which the display device 33A according to the present embodiment displays a guidance.
  • the display device 33A may display the success or failure of the stereo measurement or the reason for the failure of the stereo measurement instead of the guidance or together with the guidance.
  • step S50 it is determined whether or not the conditions for completing the turning without turning again after the turning body 3 stops turning are satisfied, and it is determined that the turning data does not satisfy the turning conditions.
  • 12 shows a display example of the display device 33A in step S180 when being displayed.
  • the display device 33A when it is determined that the turning operation has been started again after the rotating body 3 has stopped turning, the display device 33A functions as a guidance. Do not output. "Character data is output.
  • step S100 it is determined in step S100 whether or not the condition that the swing speed V of the swing structure 3 is less than the specified speed is satisfied, and it is determined that the swing data does not satisfy the swing condition.
  • the example of a display of 33 A of display devices in step S190 is shown.
  • the display device 33A when it is determined that the turning data does not satisfy the turning condition, that is, when it is determined that the turning speed V of the swing body 3 is equal to or higher than the specified speed, the display device 33A.
  • the character data "Please reduce the turning speed.” Is output.
  • step S100 it is determined whether one or both of the condition where the swing speed ⁇ of the swing body 3 is larger than the first prescribed angle and the condition smaller than the second prescribed angle are satisfied.
  • the example of a display of display apparatus 33A in step S190 when it is determined that the turning data does not satisfy the turning condition is shown.
  • display The device 33A outputs, as guidance, character data "Please reduce the turning angle.”
  • the display device 33A when it is determined that the swing angle ⁇ of the swing body 3 is equal to or less than the first specified angle, the display device 33A provides guidance: "Please increase the swing angle at the start of the swing and at the end of the swing.” Output character data.
  • step S100 it is determined whether or not the turning direction of the swing body 3 satisfies the condition of one direction without switching from the forward direction to the reverse direction, and the turning data indicates the turning condition.
  • the example of a display of display 33A in Step S190 when it is judged that it is not satisfied is shown.
  • the display device 33A outputs, as a guidance, character data that "always turn in one direction at the time of continuous shooting in turn".
  • step S150 whether or not the difference between the after-swing angle ⁇ rb of the swing body 3 after the end of the swing and the estimated angle ⁇ s of the swing body 3 after the end of the swing is less than a prescribed value
  • a display example of the display device 33A in step S200 when it is determined that the turning data do not satisfy the turning condition is shown.
  • the display device 33A outputs, as a guidance, character data "Please change the position of the vehicle body. Please check the posture of the working machine.”
  • the notification control unit 419 outputs a notification signal such as a guidance for prompting a change of the conditions for continuous shooting of the turn as shown in FIG. 13 (E).
  • the guidance as described above, the success or failure of the stereo measurement, and the reason for the failure of the stereo measurement may be notified by a light emitting state including a combination of lighting, blinking and extinguishing of the light emitting device 33B. May be output by voice.
  • the notification control unit 419 can operate the notification device 33 to notify information indicating that stereo measurement has failed. .
  • the position of the imaging device 30 is calculated based on the common portion KS while the hydraulic excavator 1 is turning, but the present invention is not limited to this embodiment.
  • the position of the imaging device 30 while the hydraulic shovel 1 is turning may be calculated based on detection data of the position detection device 23 and detection data of the posture detection device 24.
  • the imaging position calculation unit 416 calculates the imaging position with the turning axis Zr as the constraint condition and the variable as the turning angle ⁇ only, but the imaging device does not use the turning axis Zr as the constraint condition.
  • the 30 positions and orientations may be calculated based on six variables of the position in the X axis direction, the position in the Y axis direction, the position in the Z axis direction, the roll angle, the pitch angle, and the yaw angle.
  • imaging by the imaging device 30 is started or ended. Photographing by the imaging device 30 may be started or ended by the operation of the operation device 35.
  • the operation amount sensor 36 for detecting the operation amount of the operation device 35 is provided. The operation amount sensor 36 can detect an operation state in which the operation device 35 is operated and a neutral state in which the operation device 35 is not operated.
  • the imaging by the imaging device 30 is started based on the detection data of the operation amount sensor 36 detecting the operation state, and the turning body 3 is turning
  • the controller device 35 is in the neutral state to end the shooting by the imaging device 30 may be ended based on the detection data of the operation amount sensor 36 that has detected the neutral state.
  • the photographing may be started by the operation of the input device 32, and the photographing may be ended when the operation device 35 is in the neutral state.
  • the determination as to whether or not the swing body 3 is swinging may be performed by any swing detection method without being based on the detection data of the operation amount sensor 36.
  • the photographing by the imaging device 30 and the turning of the swing body 3 are automatically started, and after the turning to the prescribed turning end position, the photographing and the turning by the imaging device 30 automatically.
  • the turning of the body 3 may be ended.
  • the input device 32 may be attached to at least one of the right control lever 35R and the left control lever 35L of the operation device 35, for example. It may be provided, or may be provided in a portable terminal device. In addition, the input device 32 may be provided outside the hydraulic shovel 1 and the start or end of imaging of the imaging device 30 may be remotely controlled.
  • the notification control unit 419 outputs a notification signal to the notification device 33 as a turn instruction signal when the determination unit 418 determines that the turning condition is not satisfied.
  • the swing control unit 420 outputs a control signal to the hydraulic controller 38 as a swing instruction signal. Then, the turning speed V of the turning body 3 during turning may be controlled to satisfy the turning condition.
  • the hydraulic pressure controller 38 performs intervention control so as to reduce the turning speed V based on the control signal from the turning control unit 420 with respect to the drive control of the turning motor 37 according to the operation amount of the operating device 35 by the driver. It can be implemented.
  • the control signal output to the hydraulic pressure controller 38 to reduce the swing speed V, that is, to control the swing motion is an example of the swing instruction signal.
  • a notification signal regarding turning which is output to the notification device 33 to control the notification device 33, for example, success or failure data of stereo measurement, failure reason data of stereo measurement, and guidance data are examples of the rotation instruction signal.
  • the notification control unit 419 and the turning control unit 420 are examples of an output unit that outputs a turning instruction signal.
  • the notification device 33 may be a monitor panel disposed in the driver's cab 4 or may be a portable terminal device. Moreover, such a monitor panel and a portable terminal device may be provided outside the hydraulic shovel 1. Further, the notification device 33 may be provided outside the hydraulic shovel 1 and may notify a manager present outside the hydraulic shovel 1. In addition, the operation device 35 and the notification device 33 may be provided outside the hydraulic shovel 1, and the notification device 33 may notify a driver who is remotely operating the hydraulic shovel 1.
  • the notification device 33 instructs the driver A guidance may be provided to prompt the user to slow the turning speed V in real time. At that time, since the driver is in the turning operation, for example, it is desirable that the guidance be made by a sound prompting to make the turning speed V slower.
  • a condition that data of the image PC having a prescribed capacity is not stored as a turning condition (memory over condition) or data of the image PC A condition (time-over condition) may be set such that the time during which is accumulated does not exceed the specified time. Further, as the turning condition, a condition may be set that the traveling body 2 is not traveling. If the traveling body 2 travels during the swing shooting, the accuracy of the stereo measurement is lowered, so the condition that the traveling body 2 is not traveling may be set.
  • the imaging position calculation unit 416 calculates turning data based on the common part KS
  • the turning data acquisition unit 415 acquires the turning data from the imaging position calculation unit 416.
  • the turning data acquisition unit 415 may calculate the turning data based on detection data of a detection device for calculating the turning data. For example, the turning data acquisition unit 415 calculates turning data including the turning angle ⁇ , the turning speed V, and the turning direction R of the turning body 3 based on the detection data of the position detection device 23 or the detection data of the attitude detection device 24.
  • the turning data may be calculated based on the detection data of the operation amount sensor 36, or the turning data may be based on detection data of an angle sensor capable of detecting the turning data of the turning body 3, for example, a rotary encoder. May be calculated.
  • the arithmetic processing unit 41 synchronizes the timing at which the turning angle ⁇ , which is the detection value of the angle detection sensor, is acquired from the angle detection sensor with the timing at which at least a pair of imaging devices 30 shoot the construction object SB. In this manner, the timing at which the image PC is captured by at least a pair of imaging devices 30 is associated with the pivot angle ⁇ of the pivoting body 3 at that timing.
  • arithmetic processing unit 41 carries out stereo processing of image PC picturized by at least one pair of imaging devices 30, and realizes three-dimensional measurement, it is not limited to such a thing.
  • the image PC of the excavating object SB around the hydraulic shovel 1 captured by at least a pair of imaging devices 30, the position and posture of the hydraulic shovel 1 at rest when determined by the position detection device 23 and the posture detection device 24 Is transmitted to, for example, an external management device of the hydraulic shovel 1.
  • the external management device performs stereo processing on the image PC of the excavating object SB around the hydraulic shovel 1, and obtains the turning angle ⁇ at the time of turning of the turning body 3 and the position and attitude of the hydraulic shovel 1
  • the three-dimensional position of the excavating target SB around the hydraulic shovel 1 at the time of turning may be determined using
  • an external management device of the hydraulic shovel 1 corresponds to the arithmetic processing unit 41.
  • the detection device is a stereo camera that includes at least one pair of imaging devices 30.
  • the shooting timing of each camera is synchronized.
  • the imaging device is not limited to a stereo camera.
  • the imaging device may be, for example, a sensor that can obtain both an image and three-dimensional data, such as a TOF (Time Of Flight) camera.
  • the imaging device may be an imaging device in which three-dimensional data can be obtained by one camera.
  • the imaging device may be a laser scanner.
  • the working machine 1 is the hydraulic shovel 1 having the swing body 3.
  • the work machine 1 may be a work machine having no rotating body.
  • the work machine may be at least one of a bulldozer, a wheel loader, a dump truck, and a motor grader.
  • SYMBOLS 1 Hydraulic shovel (work machine), 1B ... Car body, 2 ... Work machine, 3 ... Swirling body, 4 ... Cab, 4S ... Driver seat, 5 ... Traveling body, 5A ... Track, 5B ... Track, 6 ...

Abstract

作業機械の計測システムは、作業機械の旋回体に搭載された撮像装置によって旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、画像に基づいて施工対象の三次元位置を算出する三次元位置算出部と、旋回体の旋回データを取得する旋回データ取得部と、旋回データが規定の旋回条件を満足するか否かを判定する判定部と、判定部の判定結果に基づいて旋回指示信号を出力する出力部と、を備える。

Description

作業機械の計測システム、作業機械、及び作業機械の計測方法
 本発明は、作業機械の計測システム、作業機械、及び作業機械の計測方法に関する。
 作業機械に係る技術分野において、特許文献1に開示されているような、撮像装置が搭載された作業機械が知られている。一対の撮像装置で撮影された一対の画像がステレオ処理されることにより、作業機械の周辺の対象の三次元形状が計測される。
国際公開第2017/033991号
 旋回体を旋回させながら撮像装置によって作業機械の周辺の対象を連続撮影するとき、ステレオ計測の計測精度を低下させる旋回条件で旋回体が旋回する可能性がある。その結果、対象の三次元形状の計測精度が低下する可能性がある。
 本発明の態様は、対象の三次元形状の計測精度の低下を抑制することを目的とする。
 本発明の態様に従えば、作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、前記画像に基づいて前記施工対象の三次元位置を算出する三次元位置算出部と、前記旋回体の旋回データを取得する旋回データ取得部と、前記旋回データが規定の旋回条件を満足するか否かを判定する判定部と、前記判定部の判定結果に基づいて旋回指示信号を出力する出力部と、を備える作業機械の計測システムが提供される。
 本発明の態様によれば、対象の三次元形状の計測精度の低下を抑制することができる。
図1は、本実施形態に係る作業機械の一例を示す斜視図である。 図2は、本実施形態に係る作業機械の一部を示す斜視図である。 図3は、本実施形態に係る計測システムの一例を示す機能ブロック図である。 図4は、本実施形態に係る作業機械の動作の一例を模式的に示す図である。 図5は、本実施形態に係る計測システムの動作の一例を模式的に示す図である。 図6は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図7は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図8は、本実施形態に係る計測システムの処理の一例を説明するための模式図である。 図9は、本実施形態に係る対象の三次元位置の統合の一例を模式的に示す図である。 図10は、本実施形態に係る入力装置の一例を模式的に示す斜視図である。 図11は、本実施形態に係る計測方法の一例を示すフローチャートである。 図12は、本実施形態に係る計測方法のタイミングチャートである。 図13は、本実施形態に係る表示装置の表示例を示す図である。
 以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
 以下の説明においては、三次元の現場座標系(Xg,Yg,Zg)、三次元の車体座標系(Xm,Ym,Zm)、及び三次元の撮像装置座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
 現場座標系は、地球に固定された原点を基準とする座標系である。現場座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。
 現場座標系は、水平面のXg軸と、Xg軸と直交する水平面のYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
 車体座標系は、作業機械の車体に規定された原点を基準とする第1所定面のXm軸と、Xm軸と直交する第1所定面のYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸を中心とする回転又は傾斜方向をθXm方向とし、Ym軸を中心とする回転又は傾斜方向をθYm方向とし、Zm軸を中心とする回転又は傾斜方向をθZm方向とする。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
 撮像装置座標系は、撮像装置に規定された原点を基準とする第2所定面のXs軸と、Xs軸と直交する第2所定面のYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸を中心とする回転又は傾斜方向をθXs方向とし、Ys軸を中心とする回転又は傾斜方向をθYs方向とし、Zs軸を中心とする回転又は傾斜方向をθZs方向とする。Xs軸方向は撮像装置の上下方向であり、Ys軸方向は撮像装置の幅方向であり、Zs軸方向は撮像装置の前後方向である。Zs軸方向は撮像装置の光学系の光軸と平行である。
 現場座標系における位置と、車体座標系における位置と、撮像装置座標系における位置とは、相互に変換可能である。
[作業機械]
 図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
 図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
 旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸Zrは、車体座標系のZm軸と平行である。車体座標系の原点は、例えば旋回体3のスイングサークルの中心に規定される。スイングサークルの中心は、旋回体3の旋回軸Zrに位置する。
 走行体5は、履帯5A,5Bを有する。履帯5A,5Bが回転することにより、油圧ショベル1が走行する。車体座標系のZm軸は、履帯5A,5Bの接地面と直交する。車体座標系の上方(+Zm方向)は、履帯5A,5Bの接地面から離れる方向であり、車体座標系の下方(-Zm方向)は、車体座標系の上方とは反対の方向である。
 作業機2は、旋回体3に連結される。車体座標系において、作業機2の少なくとも一部は、旋回体3よりも前方に配置される。車体座標系の前方(+Xm方向)は、旋回体3を基準として作業機2が存在する方向であり、車体座標系の後方(-Xm方向)は、車体座標系の前方とは反対の方向である。
 作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
 また、油圧ショベル1は、旋回体3の位置を検出する位置検出装置23と、旋回体3の姿勢を検出する姿勢検出装置24と、制御装置40とを有する。
 位置検出装置23は、現場座標系における旋回体3の位置を検出する。旋回体3の位置は、Xg軸方向の座標、Yg軸方向の座標、及びZg軸方向の座標を含む。位置検出装置23は、GPS受信機を含む。位置検出装置23は、旋回体3に設けられる。
 GPSアンテナ21が旋回体3に設けられる。GPSアンテナ21は、例えば車体座標系のYm軸方向に2つ配置される。GPSアンテナ21は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出装置23に出力する。位置検出装置23は、GPSアンテナ21からの信号に基づいて、現場座標系におけるGPSアンテナ21の位置を検出する。
 位置検出装置23は、2つのGPSアンテナ21の位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の位置を算出する。旋回体3の位置は、一方のGPSアンテナ21の位置でもよいし、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置との間の位置でもよい。
 姿勢検出装置24は、現場座標系における旋回体3の姿勢を検出する。旋回体3の姿勢は、Xm軸を中心とする回転方向における旋回体3の傾斜角度を示すロール角と、Ym軸を中心とする回転方向における旋回体3の傾斜角度を示すピッチ角と、Zm軸と中心とする回転方向における旋回体3の傾斜角度を示す方位角とを含む。姿勢検出装置24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出装置24は、旋回体3に設けられる。なお、姿勢検出装置24としてジャイロセンサが旋回体3に搭載されてもよい。
 姿勢検出装置24は、姿勢検出装置24に作用する加速度及び角速度を検出する。姿勢検出装置24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。姿勢検出装置24は、旋回体3に作用する加速度及び角速度に基づいて演算処理を実施して、ロール角、ピッチ角、及び方位角を含む旋回体3の姿勢を算出する。
 なお、位置検出装置23の検出データに基づいて方位角が算出されてもよい。位置検出装置23は、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置とに基づいて、現場座標系における基準方位に対する旋回体3の方位角を算出することができる。基準方位は、例えば北である。位置検出装置23は、一方のGPSアンテナ21の位置と他方のGPSアンテナ21の位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位角を算出することができる。
 油圧ショベル1は、旋回体3を旋回させる動力を発生する旋回モータ37と、旋回モータ37の旋回動作を制御する油圧コントローラ38とを有する。油圧コントローラ38は、後述する操作装置35の操作量に基づいて図示しない制御弁を制御することによって、旋回モータ37に供給される作動油の流量を制御する。
 次に、本実施形態に係るステレオカメラ300について説明する。図2は、本実施形態に係る油圧ショベル1の一部を示す斜視図である。図2に示すように、油圧ショベル1は、ステレオカメラ300を有する。ステレオカメラ300とは、施工対象SBを複数の方向から同時に撮影して視差データを生成することにより、施工対象SBまでの距離を計測可能なカメラをいう。
 ステレオカメラ300は、油圧ショベル1の周辺の施工対象SBを撮影する。施工対象SBは、油圧ショベル1の作業機2で掘削される掘削対象を含む。なお、施工対象SBは、油圧ショベル1とは別の作業機械によって施工される施工対象でもよいし、作業者によって施工される施工対象でもよい。また、施工対象SBは、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
 ステレオカメラ300は、旋回体3に搭載される。ステレオカメラ300は、運転室4に設けられる。ステレオカメラ300は、運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。ステレオカメラ300は、油圧ショベル1の前方の施工対象SBを撮影する。
 ステレオカメラ300は、複数の撮像装置30を有する。撮像装置30は、旋回体3に搭載される。撮像装置30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。本実施形態において、撮像装置30は、4つの撮像装置30A,30B,30C,30Dを含む。
 一対の撮像装置30によってステレオカメラ300が構成される。ステレオカメラ300は、一対の撮像装置30A,30Bによって構成される第1ステレオカメラ301と、一対の撮像装置30C,30Dによって構成される第2ステレオカメラ302とを含む。
 撮像装置30A,30Cは、撮像装置30B,30Dよりも+Ym側(作業機2側)に配置される。撮像装置30Aと撮像装置30Bとは、Ym軸方向に間隔をあけて配置される。撮像装置30Cと撮像装置30Dとは、Ym軸方向に間隔をあけて配置される。撮像装置30A,30Bは、撮像装置30C,30Dよりも+Zm側に配置される。Zm軸方向において、撮像装置30Aと撮像装置30Bとは、実質的に同一の位置に配置される。Zm軸方向において、撮像装置30Cと撮像装置30Dとは、実質的に同一の位置に配置される。
 撮像装置30A,30Bは、上方(+Zm方向)を向く。撮像装置30C,30Dは、下方(-Zm方向)を向く。また、撮像装置30A,30Cは、前方(+Xm方向)を向く。撮像装置30B,30Dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、撮像装置30A,30Cは、旋回体3の正面を向き、撮像装置30B,30Dは、撮像装置30A,30C側を向く。なお、撮像装置30B,30Dが旋回体3の正面を向き、撮像装置30A,30Cが撮像装置30B,30D側を向いてもよい。
 撮像装置30は、旋回体3の前方に存在する施工対象SBを撮影する。一対の撮像装置30が撮影した一対の画像が制御装置40においてステレオ処理されることにより、施工対象SBの三次元形状を示す三次元データが算出される。制御装置40は、撮像装置座標系における施工対象SBの三次元データを現場座標系における施工対象SBの三次元データに変換する。三次元データは、施工対象SBの三次元位置を示す。施工対象SBの三次元位置は、施工対象SBの表面の複数の部位のそれぞれの三次元座標を含む。
 複数の撮像装置30のそれぞれに撮像装置座標系が規定される。撮像装置座標系は、撮像装置30に固定された原点を基準とする座標系である。撮像装置座標系のZs軸は、撮像装置30の光学系の光軸と一致する。
 なお、本実施形態においては、旋回体3に2組のステレオカメラ(第1ステレオカメラ301及び第2ステレオカメラ302)が搭載されることとするが、1組のステレオカメラが搭載されてもよいし、3組以上のステレオカメラが搭載されてもよい。
 また、図2に示すように、油圧ショベル1は、運転席4Sと、入力装置32と、報知装置33と、操作装置35とを有する。運転席4S、入力装置32、報知装置33、及び操作装置35は、運転室4に配置される。油圧ショベル1の運転者は、運転席4Sに着座する。
 入力装置32は、撮像装置30による撮影の開始又は終了のために運転者に操作される。入力装置32は、運転席4Sの近傍に設けられる。入力装置32が操作されることにより、撮像装置30による撮影が開始又は終了する。
 報知装置33は、後述する報知制御部419から旋回に関する報知信号を取得し、運転者に報知する。報知には、例えばステレオカメラ300による計測結果の成否(成功/失敗)の出力、ステレオ計測結果が失敗であった場合には失敗した理由、油圧ショベル100を操作する操作装置35の操作条件に関するガイダンスが含まれる。報知の具体的な内容については後述する。報知装置33は、運転席4Sの近傍に設けられる。
 操作装置35は、作業機2の駆動又は駆動停止、旋回体3の旋回又は旋回停止、及び走行体5の走行又は走行停止のために運転者に操作される。操作装置35は、作業機2及び旋回体3を操作するための右操作レバー35R及び左操作レバー35Lを含む。また、操作装置35は、走行体5を操作するための右走行レバー及び左走行レバー(不図示)を含む。操作装置35が操作されることにより、作業機2の駆動又は駆動停止、旋回体3の旋回又は旋回停止、及び走行体5の走行又は走行停止が実施される。
[計測システム]
 次に、本実施形態に係る計測システム50について説明する。図3は、本実施形態に係る計測システム50の一例を示す機能ブロック図である。計測システム50は、油圧ショベル1に設けられる。
 計測システム50は、制御装置40と、第1ステレオカメラ301及び第2ステレオカメラ302を含むステレオカメラ300と、位置検出装置23と、姿勢検出装置24と、操作装置35の操作量を検出する操作量センサ36と、入力装置32と、報知装置33とを備える。
 制御装置40は、油圧ショベル1の旋回体3に設けられる。制御装置40は、コンピュータシステムを含む。制御装置40は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置41と、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置42と、入出力インターフェース43とを有する。
 演算処理装置41は、画像取得部410と、信号取得部411と、共通部分抽出部413と、旋回データ取得部415と、撮像位置算出部416と、三次元位置算出部417と、判定部418と、報知制御部419と、旋回制御部420とを有する。
 画像取得部410は、油圧ショベル1が旋回中において撮像装置30によって撮影された施工対象SBの複数の画像PCを取得する。また、画像取得部410は、油圧ショベル1が動作停止状態、すなわち走行も旋回も停止した状態において撮像装置30によって撮影された施工対象SBの画像PCを取得する。
 信号取得部411は、入力装置32が操作されることにより生成された指令信号を取得する。入力装置32は、撮像装置30による撮影の開始又は終了のために操作される。指令信号は、撮影開始指令信号及び撮影終了指令信号を含む。演算処理装置41は、信号取得部411に取得された撮影開始指令信号に基づいて、撮像装置30に撮影を開始させる制御信号を出力する。また、演算処理装置41は、信号取得部411に取得された撮影終了指令信号に基づいて、撮像装置30に撮影を終了させる制御信号を出力する。
 なお、信号取得部411が撮影開始指令信号を取得した時点と撮影終了指令信号を取得した時点との期間に撮影された画像PCが記憶装置42に記憶され、その記憶装置42に記憶されている画像PCがステレオ処理に使用されてもよい。
 共通部分抽出部413は、油圧ショベル1が旋回中において撮像装置30によって撮影された複数の画像PCの共通部分KSを抽出する。共通部分KSについては後述する。
 旋回データ取得部415は、旋回中の旋回体3の旋回データを取得する。旋回データとは、旋回体3の旋回状態を示すデータであり、旋回体3の旋回速度V、旋回角度θ、及び旋回方向RDの少なくとも一つを含む。後述するように、本実施形態において、旋回データは撮像位置算出部416によって算出される。旋回データ取得部415は、撮像位置算出部416から旋回データを取得する。
 撮像位置算出部416は、撮影時の撮像装置30の位置P及び姿勢を算出する。旋回体3が旋回中である場合、撮影時の撮像装置30の位置Pは、旋回方向RDの撮像装置30の位置を含む。走行体5が走行状態である場合、撮影時の撮像装置30の位置Pは、走行方向MDの撮像装置30の位置を含む。また、撮像位置算出部416は、旋回体3の旋回データを算出する。旋回体3の旋回データは、旋回体3の旋回速度V、旋回角度θ、及び旋回方向RDの少なくとも一つを含む。
 三次元位置算出部417は、一対の撮像装置30によって撮影された一対の画像PCをステレオ処理することにより、撮像装置座標系における施工対象SBの三次元位置を算出する。三次元位置算出部417は、撮像位置算出部416に算出された撮像装置30の位置Pに基づいて、撮像装置座標系における施工対象SBの三次元位置を現場座標系における施工対象SBの三次元位置に変換する。
 判定部418は、旋回体3の旋回データが規定の旋回条件を満足するか否かを判定する。旋回条件は、ステレオ計測の計測精度の低下を抑制する条件を含む。旋回条件を満足しない場合、ステレオ計測の計測精度が低下する可能性が高くなる。旋回条件は、記憶装置42の旋回条件記憶部422に記憶されている。旋回条件については後述する。
 報知制御部419は、判定部418の判定結果に基づいて、報知装置33を制御する。報知制御部419は、旋回に関する報知信号を報知装置33に出力する。報知制御部419は、旋回に関する報知信号として、例えばステレオ計測の成否データ、ステレオ計測の失敗理由データ、及びガイダンスデータの少なくも一つを出力する。報知制御部419は、判定部418の判定結果に基づいて、旋回指示信号の一種である報知信号を出力する出力部として機能する。例えば、旋回データが旋回条件を満足しないと判定部418に判定された場合、報知制御部419は、第1の報知形態で報知装置33を作動させる。また、旋回データが旋回条件を満足すると判定部418に判定された場合、報知制御部419は、第1の報知形態とは異なる第2の報知形態で報知装置33を作動させてもよいし、報知装置33を作動させなくてもよい。
 旋回制御部420は、判定部418の判定結果に基づいて、旋回体3を旋回させる油圧コントローラ38を制御する。旋回体制御部420は、旋回体3の旋回動作を制御する制御信号を油圧コントローラ38に出力する。旋回制御部420は、旋回モータ37を制御する油圧コントローラ38に制御信号を出力して、旋回中の旋回体3の旋回速度を制御する。油圧コントローラ38は、旋回制御部420からの制御信号に基づいて、旋回速度を遅くする介入制御を実施する。介入制御とは、運転者による操作装置35の操作量に基づいて駆動する旋回モータ37に介入して、旋回制御部420から出力された制御信号に基づいて旋回モータ37を制御することをいう。旋回制御部420は、判定部418の判定結果に基づいて、旋回指示信号の一種である制御信号を出力する出力部として機能する。本実施形態において、旋回制御部420は、旋回体3の旋回動作を制限して、旋回速度を遅くする。
 記憶装置42は、旋回条件記憶部422と、画像記憶部423とを有する。
 旋回条件記憶部422は、報知装置33を作動させるための旋回条件を記憶する。画像記憶部423は、撮像装置30によって撮影された複数の画像PCを順次記憶する。
 入出力インターフェース43は、演算処理装置41及び記憶装置42と外部機器とを接続するインターフェース回路を含む。入出力インターフェース43には、ハブ31、位置検出装置23、姿勢検出装置24、操作量センサ36、入力装置32、及び報知装置33が接続される。
 複数の撮像装置30(30A,30B,30C,30D)は、ハブ31を介して演算処理装置41と接続される。撮像装置30は、信号取得部411からの撮影開始指令信号に基づいて、施工対象SBの画像PCを撮影する。撮像装置30が撮影した施工対象SBの画像PCは、ハブ31及び入出力インターフェース43を介して演算処理装置41及び記憶装置42のそれぞれに入力される。画像取得部410及び画像記憶部423のそれぞれは、撮像装置30が撮影した施工対象SBの画像PCを、ハブ31及び入出力インターフェース43を介して取得する。なお、ハブ31は省略されてもよい。
 入力装置32は、撮像装置30による撮影の開始又は終了のために操作される。入力装置32が操作されることにより、撮影開始指令信号又は撮影終了指令信号が生成される。入力装置32として、操作スイッチ、操作ボタン、タッチパネル、音声入力、及びキーボードの少なくとも一つが例示される。
 報知装置33は、表示装置33A、発光装置33B,及び音出力装置33Cを含む。表示装置33Aは、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。発光装置33Bは、発光ダイオード(LED:Light Emitting Diode)のような光源を含む。音出力装置33Cは、警告音を発生可能なサイレン又は音声出力装置を含む。報知装置33は、表示装置33Aに表示される表示データ、発光装置33Bから射出される光、及び音出力装置33Cから出力される音の少なくとも一つを使って、運転者に情報を報知する。
 本実施形態において、報知装置33は、旋回データが旋回条件を満足しないことを運転者に報知する。表示装置33Aは、文字又は画像を含む表示データを表示して、旋回データが旋回条件を満足しないことを報知する。発光装置33Bは、光を射出して、旋回データが旋回条件を満足しないことを報知する。音出力装置33Cは、警告音又は音声を出力して、旋回データが旋回条件を満足しないことを報知する。なお、報知装置33は、旋回データが旋回条件を満足することを報知してもよい。
 なお、報知装置33は、表示装置33A、発光装置33B,及び音出力装置33Cに限定されない。また、表示装置33A、発光装置33B,及び音出力装置33Cの少なくとも一つが省略されてもよい。
[旋回地形計測]
 次に、本実施形態に係る油圧ショベル1の動作の一例について説明する。図4は、本実施形態に係る油圧ショベル1の動作の一例を模式的に示す図である。計測システム50は、旋回体3が旋回中において撮像装置30によって油圧ショベル1の周辺の施工対象SBの画像PCを連続撮影する。撮像装置30は、旋回体3が旋回中において、所定の周期で施工対象SBの画像PCを順次撮影する。
 撮像装置30は、旋回体3に搭載されている。旋回体3が旋回することにより、撮像装置30の撮影領域FMは、旋回方向RDに移動する。旋回体3が旋回中において撮像装置30が施工対象SBの画像PCを連続撮影することによって、撮像装置30は、施工対象SBの複数の領域のそれぞれの画像PCを取得することができる。三次元位置算出部417は、一対の撮像装置30で撮影された一対の画像PCをステレオ処理することにより、油圧ショベル1の周辺の施工対象SBの三次元位置を算出することができる。
 ステレオ処理により算出された施工対象SBの三次元位置は、撮像装置座標系において規定される。三次元位置算出部417は、撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。撮像装置座標系における三次元位置を現場座標系における三次元位置に変換するため、現場座標系における旋回体3の位置及び姿勢が必要となる。現場座標系における旋回体3の位置及び姿勢は、位置検出装置23及び姿勢検出装置24によって検出可能である。
 油圧ショベル1が旋回中において、油圧ショベル1に搭載されている位置検出装置23及び姿勢検出装置24のそれぞれは変位する。動いている状態の位置検出装置23及び姿勢検出装置24のそれぞれから出力される検出データは、不安定であったり検出精度が低下したりする可能性がある。
 位置検出装置23は、所定の周期で検出データを出力する。そのため、油圧ショベル1が旋回中において位置検出装置23による位置の検出と撮像装置30による撮影とが並行して実施される場合、位置検出装置23が動いていると、撮像装置30が画像を撮影するタイミングと位置検出装置23が位置を検出するタイミングとが同期しない可能性がある。撮影のタイミングとは異なるタイミングで検出された位置検出装置23の検出データに基づいて施工対象SBの三次元位置が座標変換されると、三次元位置の計測精度が低下する可能性がある。
 本実施形態において、計測システム50は、後述する方法に基づいて、旋回体3が旋回中において撮像装置30によって画像PCが撮影された時点における旋回体3の位置及び姿勢を高精度に算出する。これにより、計測システム50は、現場座標系における施工対象SBの三次元位置を高精度に算出することができる。
 撮像位置算出部416は、油圧ショベル1が動作停止状態において検出された位置検出装置23及び姿勢検出装置24のそれぞれの検出データを取得する。油圧ショベル1が動作停止状態において位置検出装置23及び姿勢検出装置24によって検出された検出データは安定している可能性が高い。撮像位置算出部416は、旋回体3の旋回開始前及び旋回終了後のそれぞれの動作停止状態において検出された検出データを取得する。撮像装置30は、旋回体3の旋回開始前及び旋回終了後のそれぞれの動作停止状態において施工対象SBの画像PCを撮影する。撮像位置算出部416は、油圧ショベル1が動作停止状態において取得された位置検出装置23及び姿勢検出装置24のそれぞれの検出データに基づいて、油圧ショベル1が動作停止状態において撮影された画像PCから算出された撮像装置座標系における施工対象SBの三次元位置を現場座標系における三次元位置に変換する。
 一方、撮像位置算出部416は、旋回体3が旋回中において撮像装置30によって施工対象SBの画像PCが撮影された場合、後述する方法に基づいて、旋回体3が旋回中において撮像装置30によって画像PCが撮影した時点における旋回体3の位置及び姿勢を算出する。撮像位置算出部416は、算出された旋回体3の位置及び姿勢に基づいて、撮影された画像PCから算出された撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。
 図5は、本実施形態に係る計測システム50の動作の一例を模式的に示す図である。図5は、旋回体3が旋回中において撮像装置30が施工対象SBを撮影することを説明するための模式図である。
 以下の説明においては、走行体5が走行停止状態であることとする。図5に示すように、旋回体3が旋回することにより、旋回体3に搭載されている撮像装置30及び撮像装置30の撮影領域FMは、旋回方向RDに移動する。撮像装置30の撮影領域FMは、撮像装置30の光学系の視野に基づいて規定される。撮像装置30は、撮影領域FMに配置される施工対象SBの画像PCを取得する。旋回体3の旋回により、撮像装置30の撮影領域FMは、旋回体3の旋回方向RDに移動する。撮像装置30は、移動する撮影領域FMに順次配置される施工対象SBの画像PCを撮影する。
 図5は、旋回体3の旋回により、撮影領域FMが旋回方向RDに、撮影領域FM1、撮影領域FM2、及び撮影領域FM3の順に移動する例を示す。撮影領域FM1は、旋回方向RDにおける第1位置PJ1に規定される。撮影領域FM2は、旋回方向RDにおける第2位置PJ2に規定される。撮影領域FM3は、旋回方向RDにおける第3位置PJ3に規定される。第2位置PJ2は、第1位置PJ1から旋回角度Δθ1だけ旋回した位置である。第3位置PJ3は、第2位置PJ2から旋回角度Δθ2だけ旋回した位置である。撮像装置30は、撮影領域FM1に配置された施工対象SBの画像PC1、撮影領域FM2に配置された施工対象SBの画像PC2、及び撮影領域FM3に配置された施工対象SBの画像PC3のそれぞれを撮影する。画像PC1、画像PC2、画像PC3は、同一の撮像装置30(図5に示す例では撮像装置30C)により撮像された画像である。
 撮像装置30は、隣り合う撮影領域FMに重複領域OBが設けられるように、所定のタイミングで撮影する。図5は、撮影領域FM1と撮影領域FM2とに重複領域OB1が設けられ、撮影領域FM2と撮影領域FM3との間に重複領域OB2が設けられる例を示す。重複領域OB1は、画像PC1と画像PC2の一部とが重複する重複領域OBである。重複領域OB2は、画像PC2と画像PC3の一部とが重複する重複領域OBである。
 重複領域OBに画像PCの共通部分KSが存在する。重複領域OB1に存在する共通部分KS1は、画像PC1と画像PC2との共通部分KSである。重複領域OB2に存在する共通部分KS2は、画像PC2と画像PC3との共通部分KSである。共通部分抽出部413は、撮像装置30によって撮影された複数の二次元の画像PCの共通部分KSを抽出する。
 図6は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図6は、旋回体3が旋回中において撮影された画像PC(PC1,PC2)の一例を示す図である。共通部分抽出部413は、画像PCから共通部分KSを抽出する。
 図6に示すように、共通部分抽出部413は、撮影領域FM1に配置された施工対象SBの画像PC1と、撮影領域FM2に配置された施工対象SBの画像PC2とから、画像PC1と画像PC2との共通部分KS1を抽出する。撮像位置算出部416は、共通部分抽出部413で抽出された共通部分KS1に基づいて、旋回体3の推定角度θs(図5においてはΔθ1)を算出する。また、撮像位置算出部416は、推定角度θsに基づいて、撮影時の撮像装置30の推定位置Ps(図5においてはPJ2)を算出する。
 共通部分KSは、画像PCにおける特徴点である。共通部分抽出部413は、例えばORB(Oriented FAST and Rotated BRIEF)又はHarrisコーナー検出のような既知の特徴点検出アルゴリズムに基づいて、共通部分KSを抽出する。共通部分抽出部413は、複数の画像PCのそれぞれから複数の特徴点を抽出し、抽出した複数の特徴点から類似する特徴点を探索することによって、共通部分KSを抽出する。共通部分抽出部413は、共通部分KSを複数点抽出してもよい。共通部分抽出部413は、例えば画像PCにおける施工対象SBの角部を特徴点として抽出する。
 旋回体3の旋回により撮像装置30の撮影領域FMが旋回方向RDに移動し、撮影領域FMの移動により、画像PCにおける共通部分KSが変位する。図6に示す例では、共通部分KSは、画像PC1においては画素位置PX1に存在し、画像PC2においては画素位置PX2に存在する。画像PC1と画像PC2とにおいて、共通部分KSが存在する位置が異なる。すなわち、共通部分KS1は、画像PC1と画像PC2との間において変位したことになる。撮像位置算出部416は、複数の画像PCにおける共通部分KSの位置に基づいて、位置PJ1から位置PJ2までの旋回角度Δθ1を算出することができる。
 図7は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図7は、旋回体3が旋回することにより撮像装置座標系(Xs,Ys,Zs)が移動することを説明する図である。図7に示すように、旋回体3は、車体座標系のXm-Ym平面内において旋回軸Zrを中心に旋回する。旋回体3が旋回軸Zrを中心に旋回角度Δθだけ旋回すると、撮像装置座標系(Xs,Ys,Zs)が旋回軸Zrを中心に旋回角度Δθだけ移動する。撮像位置算出部416は、旋回体3が旋回軸Zrを中心に旋回することを拘束条件として、旋回前角度θraから旋回角度Δθだけ旋回したときの旋回体3の推定角度θs及び撮像装置30の推定位置Psを算出することができる。
[推定角度の算出]
 図8は、本実施形態に係る計測システム50の処理の一例を説明するための模式図である。図8は、旋回体3の旋回角度θ及び撮像装置30の位置Pを算出する例を示す模式図である。図8は、車体座標系における旋回体3の旋回角度θ及び撮像装置30の位置Pを示す。
 図8に示す例において、旋回体3は、旋回前角度θra、第1推定角度θs1、第2推定角度θs2、第3推定角度θs3、及び旋回後角度θrbの順に、旋回方向RDに旋回する。撮像装置30は、旋回体3の旋回により、旋回前位置Pra、第1推定位置Ps1、第2推定位置Ps2、第3推定位置Ps3、及び旋回後位置Prbの順に移動する。撮像装置30の撮影領域FMは、旋回方向RDの撮像装置30の移動により、撮影領域FMra、撮影領域FMs1、撮影領域FMs2、撮影領域FMs3、及び撮影領域FMrbの順に移動する。
 旋回前角度θra及び旋回後角度θrbのとき、旋回体3は旋回停止状態である。旋回前角度θraにおいて旋回停止状態の旋回体3は、第1推定角度θs1、第2推定角度θs2、及び第3推定角度θs3を経由して、旋回後角度θrbに到達するように、旋回前角度θraから旋回後角度θrbまで旋回する。
 撮像装置30は、旋回前位置Praに配置されている状態で、撮影領域FMraに配置される施工対象SBの画像PCraを取得する。撮像装置30は、第1推定位置Ps1に配置されている状態で、撮影領域FMs1に配置される施工対象SBの画像PCs1を取得する。撮像装置30は、第2推定位置Ps2に配置されている状態で、撮影領域FMs2に配置される施工対象SBの画像PCs2を取得する。撮像装置30は、第3推定位置Ps3に配置されている状態で、撮影領域FMs3に配置される施工対象SBの画像PCs3を取得する。撮像装置30は、旋回後位置Prbに配置されている状態で、撮影領域FMrbに配置される施工対象SBの画像PCrbを取得する。
 上述のように、撮像位置算出部416は、旋回体3が旋回開始前の旋回停止状態において位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて、旋回前角度θraを算出する。また、撮像位置算出部416は、旋回体3が旋回終了後の旋回停止状態において位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて、旋回後角度θrbを算出する。また、撮像位置算出部416は、旋回前角度θraに基づいて、旋回前位置Praを算出する。また、撮像位置算出部416は、旋回後角度θrbに基づいて、旋回後位置Prbを算出する。
 旋回前角度θra、旋回後角度θrb、旋回前位置Pra、及び旋回後位置Prbは、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて、高精度に算出される。
 上述のように、撮像位置算出部416は、旋回体3が旋回中において撮影された複数の画像PCの共通部分KSに基づいて、推定角度θs(第1推定角度θs1、第2推定角度θs2、及び第3推定角度θs3)を算出する。また、撮像位置算出部416は、推定角度θsに基づいて、推定位置Ps(第1推定位置Ps1、第2推定位置Ps2、及び第3推定位置Ps3)を算出する。
 共通部分抽出部413は、画像PCraと画像PCs1との共通部分KS1を抽出する。撮像位置算出部416は、旋回体3が旋回軸Zrを中心に旋回することを拘束条件として、旋回体3の旋回前角度θraと、画像PCraと画像PCs1との共通部分KS1に基づいて、旋回角度Δθ1を算出する。第1推定角度θs1は、旋回前正解角度θraと旋回角度Δθ1との和である(θs1=θra+Δθ1)。
 同様に、共通部分抽出部413は、旋回角度Δθ2、旋回角度Δθ3、及び旋回角度Δθ4を算出することができ、撮像位置算出部416は、第2推定角度θs2(θs2=θra+Δθ1+Δθ2)、第3推定角度θs3(θs3=θra+Δθ1+Δθ2+Δθ3)、第4推定角度θs4(θs4=θra+Δθ1+Δθ2+Δθ3+Δθ4)を算出することができる。
 このように、撮像位置算出部416は、旋回体3が旋回中において撮像装置30が撮影時の旋回体3の推定角度θs(θs1、θs2、θs3、θs4)を段階的に算出することができる。また、旋回体3の推定角度θsが算出されることにより、撮像位置算出部416は、推定角度θsに基づいて、旋回体3が旋回中における撮像装置30の推定位置Ps(Ps1,Ps2,Ps3,Ps4)を算出することができる。
 また、撮像位置算出部416は、複数の画像PC(PCra,PCs1,PCs2,PCs3,PCs4,PCrb)のそれぞれが撮影された時点を示す時点データを撮像装置30から取得する。撮像装置416は、複数の画像PCのそれぞれが撮影された時点と、旋回角度Δθ(Δθ1,Δθ2,Δθ3,Δθ4)とに基づいて、旋回速度Vを算出することができる。例えば、画像PCs1が撮影された時点から画像PCs2が撮影された時点までの時間と、画像PCs1が撮影されたときの推定角度θs1から推定角度θs2までの移動量とに基づいて、旋回体3が推定角度θs1から推定角度θs2まで旋回するときの旋回角度Vを算出することができる。また、撮像装置416は、複数の画像PCのそれぞれが撮影された時点と旋回角度Δθとに基づいて、旋回方向Rを算出することができる。
 このように、本実施形態においては、撮像位置算出部416は、複数の画像PCの共通部分KSに基づいて、旋回角度θ、旋回速度V、及び旋回方向Rを含む旋回体3の旋回データを算出することができる。
[推定角度の補正]
 旋回後角度θrbは、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて高精度に算出される。一方、推定角度θs4は、共通部分KSの変位量に基づいて算出される。共通部分KSを使って算出された推定角度θs4及び推定位置Ps4が正確であれば、推定角度θs4と旋回後角度θrbとの差は小さく、推定位置Ps4と旋回後位置Prbとの差は小さい。
 一方、例えば共通部分KSの変位量の累積誤差などに起因して、共通部分KSを使って算出された推定角度θs4及び推定位置Ps4の誤差が大きくなる可能性がある。推定角度θs4及び推定位置Ps4の誤差が大きいと、推定角度θs4と旋回後角度θrbとの差は大きくなり、推定位置Ps4と旋回後位置Prbとの差は大きくなる。
 撮像位置算出部416は、推定角度θs4と旋回後角度θrbとに差があるとき、旋回停止状態における旋回角度θである角度θr(旋回前角度θra及び旋回後角度θrb)に基づいて、旋回中における旋回角度θである推定角度θs(第1推定角度θs1、第2推定角度θs2、第3推定角度θs3、及び第4推定角度θs4)を補正する。また、撮像位置算出部416は、補正後の推定角度θsに基づいて、推定位置Psを補正する。
 撮像位置算出部416は、補正後の推定角度θs1’に基づいて、画像PCs1を撮影時の撮像装置30の推定位置Ps1を精度良く算出することができる。同様に、撮像位置算出部416は、補正後の推定角度θs2’に基づいて、画像PCs2を撮影時の撮像装置30の推定位置Ps2を精度良く算出することができ、補正後の推定角度θs3’に基づいて、画像PCs3を撮影時の撮像装置30の推定位置Ps3を高精度に算出することができる。したがって、三次元位置算出部417は、高精度に算出された撮影時の撮像装置30の推定位置Psとその撮像装置30に撮影された画像PCsとに基づいて、現場座標系の施工対象SBの三次元位置を高精度に算出することができる。
[三次元データの統合]
 三次元位置算出部417は、一対の撮像装置30によって撮影された一対の画像PCをステレオ処理して、施工対象SBの三次元位置を算出する。なお、三次元データの統合は省略されてもよい。
 三次元位置算出部417は、旋回体3が旋回開始前の旋回停止状態において、旋回前位置Praに配置される一対の撮像装置30で撮影された一対の画像PCraをステレオ処理して、撮影領域FMraに配置された施工対象SBの三次元位置を算出する。
 また、三次元位置算出部417は、旋回体3が旋回中において、推定位置Psに配置される一対の撮像装置30で撮影された一対の画像PCsをステレオ処理して、撮影領域FMsに配置された施工対象SBの三次元位置を算出する。三次元位置算出部417は、走行体5が走行停止状態であり旋回体3が旋回中において、推定位置Psに配置される一対の撮像装置30で撮影された一対の画像PCsをステレオ処理して、撮影領域FMsに配置された施工対象SBの三次元位置を算出する。
 また、三次元位置算出部417は、旋回体3が旋回終了後の旋回停止状態において、旋回後位置Prbに配置される一対の撮像装置30で撮影された一対の画像PCrbをステレオ処理して、撮影領域FMrbに配置された施工対象SBの三次元位置を算出する。
 また、三次元位置算出部417は、旋回体3が旋回中及び旋回停止状態のそれぞれにおいて撮影された複数の画像PCに基づいて、施工対象SBの三次元位置を算出した後、複数の施工対象SBの三次元位置を統合する。
 図9は、本実施形態に係る施工対象SBの三次元位置の統合の一例を模式的に示す図である。旋回体3が旋回開始前の旋回停止状態において取得された三次元データPTDraと、旋回体3が旋回中において取得された三次元データPTDsと、旋回体3が旋回終了後の旋回停止状態において取得された三次元データPTDrbとが統合されることにより、油圧ショベル1の周辺の施工対象SBのうち撮像装置30が画像PCを撮影した範囲の施工対象SBの三次元形状を示す三次元データPTDが生成される。
 三次元データPTDraは、旋回体3が旋回開始前の旋回停止状態において撮影された画像PCから算出された施工対象SBの三次元位置を含む。三次元データPTDsは、旋回体3が旋回中において撮影された画像PCから算出された施工対象SBの三次元位置を含む。三次元データPTDsは、単数でもよいし複数でもよい。三次元データPTDrbは、旋回体3が旋回終了後の旋回停止状態において撮影された画像PCから算出された施工対象SBの三次元位置を含む。
 三次元位置算出部417は、複数の三次元データPTDra,PTDs,PTDrbを統合する。三次元位置算出部417は、現場座標系における三次元データPTDra,PTDs,PTDrbの三次元位置のそれぞれのXg座標及びYg座標が一致するように、Zg座標を結合する。これにより、旋回開始前の旋回停止状態において取得された施工対象SBの三次元位置と、旋回中において取得された施工対象SBの三次元位置と、旋回終了後の旋回停止状態において取得された施工対象SBの三次元位置とが統合される。
 複数の三次元データPTDra,PTDs,PTDrbが統合されることにより、油圧ショベル1の周辺の施工対象SBのうち撮像装置30が画像PCを撮影した範囲の施工対象SBの三次元形状を示す三次元データPTDが生成される。
[旋回条件]
 次に、旋回条件について説明する。旋回条件とは、ステレオ計測の計測精度の低下を抑制できる旋回体3の旋回条件をいう。旋回体3が旋回条件を満足せずに旋回した場合、ステレオ計測の計測精度が低下する可能性がある。規定の旋回条件は、予め定められており、記憶装置42の旋回条件記憶部422に記憶されている。
 本実施形態において、旋回条件記憶部422には、第1の旋回条件として、旋回体3が旋回開始位置から旋回終了位置まで旋回して旋回を停止した後、旋回(再旋回)が行われていないことを示す旋回条件が記憶されている。第1の旋回条件は、旋回体3が旋回を停止し、旋回を停止してから規定時間経過後、再び旋回を開始していないという条件を含む。再旋回するときの旋回方向は、順方向又は逆方向のいずれでもよい。油圧ショベル1の運転者が操作装置35を中立状態にして旋回を停止させて入力装置32を操作することにより、旋回及び撮影が終了する。旋回体3を旋回させながら撮像装置30で画像PCを連続撮影するとき、旋回体3が旋回開始位置から旋回終了位置に到達し旋回体3の旋回が停止し、再び旋回体3が順方向又は逆方向に旋回してしまうと、ステレオ計測の計測精度が低下する可能性がある。
 判定部413は、旋回体3の旋回データが第1の旋回条件を満足するか否かを判定する。旋回体3が旋回停止及び再旋回することなく旋回を終了と判定されたとき、旋回データは第1の旋回条件を満足していると判定される。すなわち、ステレオ計測の計測精度の低下を抑制できる画像PCが撮影されたと判定される。一方、旋回体3が旋回を停止した後、再び旋回を開始したと判定されたとき、旋回データは第1の旋回条件を満足していないと判定される。すなわち、ステレオ計測の計測精度が低下する可能性があると判定される。
 また、旋回条件記憶部422には、第2の旋回条件として、旋回体3の旋回速度Vが規定速度未満であることを示す旋回条件が記憶されている。旋回体3を旋回させながら撮像装置30で画像PCを連続撮影するとき、旋回体3の旋回速度Vが速過ぎると、撮影される画像PCがぶれる又は歪む場合がある。その結果、その画像PCを用いてステレオ処理すると、ステレオ計測の計測精度が低下する可能性がある。また、例えば油圧ショベル1が傾斜部に位置付けられている状態で旋回体3が旋回する場合、旋回体3の自重により、意図せずに旋回速度Vが速くなる場合がある。その場合においても、ステレオ計測の計測精度が低下する可能性がある。
 判定部413は、旋回体3の旋回データが第2の旋回条件を満足するか否かを判定する。旋回体3の旋回速度Vが規定速度未満である、すなわち旋回速度Vは低速であると判定されたとき、旋回データは第2の旋回条件を満足していると判定される。すなわち、ステレオ計測の計測精度の低下を抑制できる画像PCが撮影されたと判定される。一方、旋回体3の旋回速度Cが規定速度以上である、すなわち旋回速度Vが速過ぎると判定されたとき、旋回データは第2の旋回条件を満足していないと判定される。すなわち、ステレオ計測の計測精度が低下する可能性があると判定される。
 また、旋回条件記憶部422には、第3の旋回条件として、旋回開始位置から旋回終了位置までの旋回体3の旋回角度θが第1規定角度よりも大きいことを示す旋回条件、及び旋回角度θ2が第2規定角度未満であることを示す旋回条件の一方又は両方が記憶されている。旋回体3を旋回させながら撮像装置30で画像PCを連続撮影するとき、旋回角度θが小さ過ぎる場合(第1規定角度以下である場合)、上述の旋回角度の補正が精度よく行えないためステレオ計測の精度が低下する可能性がある。また、旋回角度θが大き過ぎる場合(第2規定角度以上である場合)、算出される推定角度θsの累積誤差が大きくなりステレオ計測の計測精度が低下する可能性がある。
 判定部413は、旋回体3の旋回データが第3の旋回条件を満足するか否かを判定する。旋回開始位置から旋回終了位置までの旋回体3の旋回角度θが第1規定角度よりも大きい又は第2規定角度未満であると判定されたとき、旋回データは第3の旋回条件を満足していると判定される。すなわち、ステレオ計測の計測精度の低下を抑制できる画像PCが撮影されたと判定される。一方、旋回開始位置から旋回終了位置までの旋回体3の旋回角度θが第1規定角度以下である又は第2規定角度以上であると判定されたとき、旋回データは第3の旋回条件を満足していないと判定される。すなわち、ステレオ計測の計測精度が低下する可能性があると判定される。
 また、旋回条件記憶部422には、第4の旋回条件として、旋回体3の旋回方向Rが一方向であることを示す旋回条件が記憶されている。旋回体3を旋回させながら撮像装置30で画像PCを連続撮影するとき、旋回体3が旋回開始位置から旋回終了位置に旋回するように順方向に旋回している状態で、旋回体3が逆方向に旋回してしまうと、施工対象SBの同一領域が2回撮影されてしまうことになる。施工対象SBの同一領域を撮影した複数の画像PCをステレオ処理すると、ステレオ計測の計測精度が低下する可能性がある。
 判定部413は、旋回体3の旋回データが第4の旋回条件を満足するか否かを判定する。旋回体3が旋回終了位置に到達する前に旋回方向が順方向から逆方向に切り換わることなく、一方向(順方向)のみに旋回したと判定されたとき、旋回データは第4の旋回条件を満足していると判定される。すなわち、ステレオ計測の計測精度の低下を抑制できる画像PCが撮影されたと判定される。一方、旋回体3が旋回終了位置に到達する前に、旋回方向が順方向から逆方向に切り換わったと判定されたとき、旋回データは第4の旋回条件を満足していないと判定される。すなわち、ステレオ計測の計測精度が低下する可能性があると判定される。
 また、旋回条件記憶部422には、第5の旋回条件として、位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて算出された旋回終了後の撮像装置30の旋回後角度θrbと、共通部分KSに基づいて算出された旋回終了後の撮像装置30の推定角度θsとの差が規定値未満であることを示す旋回条件が記憶されている。旋回後角度θrbと推定角度θsとの差が大きい場合、推定角度θsが実際の旋回角度θからかけ離れていることを意味する。例えば、複数の画像PCから算出される複数の共通部分KSの累積誤差などに起因して、共通部分KSを使って算出された旋回終了後の旋回体3の推定角度θsと、位置検出装置23の検出データ及び姿勢検出装置24の検出データを使って算出された旋回後角度θrbとの差が大きくなる可能性がある。推定角度θsが不正確であるほど、推定角度θsと旋回後角度θrbとの差は大きくなる。推定角度θsが不正確である場合、実際の旋回角度θとは異なる位置で施工対象SBを撮影した画像PCをステレオ処理することとなり、ステレオ計測の計測精度が低下する可能性がある。
 判定部413は、旋回体3の旋回データが第5の旋回条件を満足するか否かを判定する。旋回終了後の旋回後角度θrbと旋回終了後の推定角度θsとの差が規定値未満であると判定されたとき、旋回データは第5の旋回条件を満足していると判定される。すなわち、ステレオ計測の計測精度の低下を抑制できる画像PCが撮影されたと判定される。旋回終了後の旋回後角度θrbと旋回終了後の推定角度θsとの差が規定値以上であると判定されたとき、旋回データは第5の旋回条件を満足していないと判定される。すなわち、ステレオ計測の計測精度が低下する可能性が高いと判定される。
 なお、旋回条件記憶部422に、第5の旋回条件として、旋回終了後の旋回後位置Prbと、旋回終了後の推定位置Psとの差が規定値未満であることを示す旋回条件が記憶されてもよい。
 報知制御部419は、旋回体3の旋回データが旋回条件を満足しないと判定されたとき、報知装置33を作動させる。これにより、運転者は、ステレオ計測の計測精度が低下しないように操作装置35の操作を調整したり、撮影をやり直したりすることができる。
 旋回データが旋回条件を満足するか否かの判定及び報知装置33の作動は、任意のタイミングで実施することができる。旋回データが旋回条件を満足するか否かの判定及び報知装置33の作動は、旋回体3の旋回が開始されてから終了するまでの期間に実施されてもよいし、旋回体3の旋回が終了し撮像装置30の撮像が終了した後に実施されてもよいし、推定角度θsの算出が終了した後に実施されてもよい。
 本実施形態においては、旋回データが第1の旋回条件を満足するか否かの判定及び報知装置33の作動は、旋回体3の旋回が開始されてから終了するまでの期間に実施される。旋回データが第2,第3,第4の旋回条件を満足するか否かの判定及び報知装置33の作動は、旋回体3の旋回が終了し撮像装置30の撮像が終了した後に実施される。旋回データが第5の旋回条件を満足するか否かの判定及び報知装置33の作動は、推定角度θsの算出が終了した後に実施される。
 なお、上述の規定の旋回条件は一例であり、上述の例に限定されない。また、旋回データが旋回条件を満足するか否かの判定及び報知装置33の作動のタイミングも一例であり、上述の例に限定されない。
[入力装置]
 図10は、本実施形態に係る入力装置32の一例を模式的に示す斜視図である。本実施形態において、計測システム50は、旋回体3が旋回中において撮像装置30によって施工対象SBを連続的に撮影する旋回連続撮影モードと、旋回体3が旋回停止状態において撮像装置30によって施工対象SBを撮影する単画像撮影モードとを実施可能である。入力装置32は、旋回連続撮影モードの開始を指令する撮影開始指令信号及び旋回連続撮影モードの終了を指令する撮影終了指令信号を生成可能な旋回連続撮影スイッチ32Aと、単画像撮影モードの撮影を指令する単画像撮影指令信号を生成可能な単画像撮影スイッチ32Bとを有する。また、旋回連続撮影スイッチ32Aの一部に第1発光部34Aが設けられ、単画像撮影スイッチ32Bの一部に第2発光部34Bが設けられる。第1発光部34A及び第2発光部34Bのそれぞれは、発光ダイオードを含む。旋回連続撮影スイッチ32Aの操作状態に基づいて、第1発光部34Aが点灯、点滅、又は消灯する。単画像撮影スイッチ32Bの操作状態に基づいて、第2発光部34Bが点灯、点滅、又は消灯する。例えば、撮影不可状態から撮影待機状態に遷移したとき、報知制御部419は、消灯していた第1発光部34A及び第2発光部34Bのそれぞれを時点t1において点灯させる。
[計測方法]
 図11は、本実施形態に係る計測方法の一例を示すフローチャートである。図12は、本実施形態に係る計測方法のタイミングチャートである。
 油圧ショベル1の運転者は、撮像装置30が施工対象SBの計測開始位置を向くように、操作装置35を操作して旋回体3を旋回させる。旋回体3の旋回を含む油圧ショベル1の動作が停止した時点t0から予め規定された時間が経過して時点t1になったとき、判定部418は、位置検出装置23及び姿勢検出装置24のそれぞれが検出データを安定して出力できる静定状態であると判定する。
 油圧ショベル1が動作停止状態であり、位置検出装置32及び姿勢検出装置24が静定状態において、撮影開始指令信号を取得すると、撮像位置算出部416は、位置検出装置23から旋回体3の位置を示す検出データを取得し、姿勢検出装置24から旋回体3の姿勢を示す検出データを取得する(ステップS10)。
 撮像位置算出部416は、旋回前角度θra、及び旋回前位置Praを取得する。
 位置検出装置23の検出データ及び姿勢検出装置24の検出データは、一時的に記憶装置42に記憶される。
 旋回連続撮影モードを開始する場合、油圧ショベル1の運転者は、旋回連続撮影スイッチ32Aを操作(押下)する。図18に示す例では、時点t2において旋回連続撮影スイッチ32Aが操作される。旋回連続撮影スイッチ32Aが操作されることにより生成された撮影開始指令信号は、演算処理装置41に出力される。信号取得部411は、撮影開始指令信号を取得する(ステップS20)。
 また、旋回連続撮影スイッチ32Aが操作され、撮影開始指令信号を取得すると、演算処理装置41は、撮像装置30の撮像を開始する(ステップS30)。画像取得部410は、油圧ショベル1が動作開始前の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCraを取得する。また、画像記憶部423は、画像PCraを記憶する。
 運転者は、操作装置35を操作して、走行体5の走行を停止した状態で、旋回体3の旋回を開始する(ステップS40)。運転者は、撮像装置30が施工対象SBの計測開始位置を向いている旋回開始位置から、撮像装置30が施工対象SBの計測終了位置を踏む旋回終了位置まで旋回するように、操作装置35を操作して、旋回体3の旋回を開始する。
 図18に示す例では、時点t3において操作装置35が操作され、旋回体3の旋回が開始される。複数の撮像装置30(30A,30B,30C,30D)のそれぞれは、旋回体3が旋回中において間隔をあけて施工対象SBの画像PCsを複数回撮影する。
 画像取得部410は、旋回体3が旋回中において撮像装置30によって撮影された施工対象SBの複数の画像PCsを順次取得する。また、画像記憶部423は、複数の画像PCsを順次記憶する。
 旋回体3が旋回中において、撮像位置算出部416は、旋回データを算出する。判定部418は、旋回データが旋回データ記憶部422に記憶されている旋回条件を満足するか否かを判定する(ステップS50)。また、旋回データは、記憶装置42に一時的に記憶される。
 ステップS50においては、旋回条件として、旋回体3が旋回停止後、再旋回することなく旋回を終了した条件を満足するか否かが判定される(第1の旋回条件)。旋回体3が再旋回することなく旋回を終了と判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回体3が旋回を停止し、旋回を停止してから規定時間経過後、再び旋回を開始したと判定されたとき、旋回データは旋回条件を満足していないと判定される。
 ステップS50において、旋回データは旋回条件を満足していないと判定されたとき(ステップS50:No)、報知制御部419は、報知装置33を作動して、旋回データが旋回条件を満足していないことを示す情報を運転者に報知する(ステップS180)。
 ステップS50において、旋回データは旋回条件を満足していると判定されたとき(ステップS50:Yes)、報知装置33は作動しない。なお、ステップS50において、旋回体データは旋回条件を満足していると判定されたとき、報知制御部419は、ステップS180における報知形態とは別の報知形態で報知装置33を作動して、旋回データが旋回条件を満足していることを示す情報を運転者に報知してもよい。
 旋回体3が旋回終了位置に到達すると、運転者は、操作装置35の操作を解除し、旋回体3の旋回を終了する(ステップS60)。図12に示す例では、時点t4において操作装置35の操作が解除され、旋回体3の旋回が終了される。
 旋回体3の旋回が停止した時点t4から予め規定された時間が経過して時点t5になったとき、判定部418は、位置検出装置23及び姿勢検出装置24のそれぞれが検出データを安定して出力できる静定状態であると判定する。
 油圧ショベル1が動作停止状態であり、位置検出装置32及び姿勢検出装置24が静定状態において、撮影位置算出部416は、位置検出装置23から旋回体3の位置を示す検出データを取得し、姿勢検出装置24から旋回体3の姿勢を示す検出データを取得する(ステップS70)。
 撮像位置算出部416は、旋回後角度θrb、及び旋回後位置Prbを取得する。
 位置検出装置23の検出データ及び姿勢検出装置24の検出データは、一時的に記憶装置42に記憶される。
 また、画像取得部410は、油圧ショベル1が動作終了後の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCrbを取得する。また、画像記憶部423は、画像PCrbを記憶する。
 旋回連続撮影モードを終了する場合、油圧ショベル1の運転者は、旋回連続撮影スイッチ32Aを操作(押下)する。図18に示す例では、時点t6において旋回連続撮影スイッチ32Aが操作される。旋回連続撮影スイッチ32Aが操作されることにより生成された撮影終了指令信号は、演算処理装置41に出力される。信号取得部411は、撮影終了指令信号を取得する(ステップS80)。
 撮影終了信号が取得されることにより、撮像装置30の撮影が終了する(ステップS90)。撮像装置30は、撮影不可状態に遷移する。
 判定部418は、旋回体3が旋回中のときの旋回データが旋回データ記憶部422に記憶されている旋回条件を満足するか否かを判定する(ステップS100)。
 判定部418は、ステップS100において、旋回条件として、旋回体3の旋回速度Vが規定速度未満である条件を満足するか否かを判定する(第2の旋回条件)。
 旋回体3の旋回速度Vが規定速度未満であると判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回体3の旋回速度Vが規定速度以上であると判定されたとき、旋回データは旋回条件を満足していないと判定される。
 また、判定部418は、ステップS100において、旋回条件として、旋回開始位置から旋回終了位置までの旋回体3の旋回角度θが第1規定角度よりも大きい条件及び第2規定角度未満である条件の一方又は両方を満足するか否かを判定する(第3の旋回条件)。
 旋回体3の旋回角度θが第1規定角度よりも大きいと判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回体3の旋回角度θが第1規定角度以下であると判定されたとき、旋回データは旋回条件を満足していないと判定される。また、旋回体3の旋回角度θが第2規定角度未満であると判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回体3の旋回角度θが第2規定角度以上であると判定されたとき、旋回データは旋回条件を満足していないと判定される。
 また、判定部418は、ステップS100において、旋回条件として、旋回体3の旋回方向が一方向である条件を満足しているか否かを判定する(第4の旋回条件)。
 旋回体3の旋回方向が一方向(順方向)であると判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回体3の旋回方向が順方向から逆方向に切り換わったと判定されたとき、旋回データは旋回条件を満足していないと判定される。
 ステップS100において、旋回データは旋回条件を満足していないと判定されたとき(ステップS100:No)、報知制御部419は、報知装置33を作動して、旋回データが旋回条件を満足していないことを示す情報を運転者に報知する(ステップS190)。
 ステップS100において、旋回データは旋回条件を満足していると判定されたとき(ステップS50:Yes)、報知装置33は作動しない。なお、ステップS100において、旋回体データは旋回条件を満足していると判定されたとき、報知制御部419は、ステップS190における報知形態とは別の報知形態で報知装置33を作動して、旋回データが旋回条件を満足していることを示す情報を運転者に報知してもよい。
 共通部分抽出部413は、画像記憶部423に記憶されている複数の画像PCのそれぞれから共通部分KSを抽出する(ステップS120)。
 共通部分抽出部413は、旋回体3が旋回停止中及び旋回中において撮像装置30によって撮影された少なくとも2つの画像PCからそれら2つの画像PCの共通部分KSを抽出する。共通部分KSの抽出は、旋回体3の旋回方向Rにおいて、旋回体3の旋回が開始されてから終了するまでに取得された全ての画像PCについて実施される。
 次に、撮像位置算出部416は、複数の画像PCの共通部分KSに基づいて、旋回体3の推定角度θsを推定する(ステップS140)。撮像位置算出部416は、複数の画像PCにおける共通部分KSの位置に基づいて、旋回角度Δθを算出して、推定角度θsを推定することができる。
 判定部418は、旋回体3が旋回中のときの旋回データが旋回データ記憶部422に記憶されている旋回条件を満足するか否かを判定する(ステップS150)。
 判定部418は、ステップS150において、旋回条件として、位置検出装置23及び姿勢検出装置24によって検出された旋回体3の位置及び姿勢に基づいて算出された旋回終了後の撮像装置30の旋回後角度θrbと、共通部分KSに基づいて算出された旋回終了後の撮像装置30の推定角度θsとの差が規定値未満である条件を満足するか否かを判定する(第5の旋回条件)。
 すなわち、判定部418は、旋回終了後の旋回停止状態における旋回後角度θrbと、旋回中の推定角度θsから推定された旋回終了後の推定角度θsとの差が規定値未満である条件を満足するか否かを判定する。例えば、複数の画像PCから算出される複数の共通部分KSの累積誤差などに起因して、共通部分KSを使って算出された旋回終了後の旋回体3の推定角度θsと、位置検出装置23の検出データ及び姿勢検出装置24の検出データを使って算出された旋回後角度θrbとの差が大きくなる可能性がある。推定角度θsが不正確であるほど、推定角度θsと旋回後角度θrbとの差は大きくなる。判定部418は、旋回終了後の推定角度θsと、旋回後角度θrbとの差が規定値未満である条件を満足するか否かを判定する。
 旋回終了後の旋回後角度θrbと旋回終了後の推定角度θsとの差が規定値未満であると判定されたとき、旋回データは旋回条件を満足していると判定される。一方、旋回終了後の旋回後角度θrbと旋回終了後の推定角度θsとの差が規定値以上であると判定されたとき、旋回データは旋回条件を満足していないと判定される。
 ステップS150において、旋回データは旋回条件を満足していないと判定されたとき(ステップS150:No)、報知制御部419は、報知装置33を作動して、旋回データが旋回条件を満足していないことを示す情報を運転者に報知する(ステップS200)。
 ステップS150において、旋回データは旋回条件を満足していると判定されたとき(ステップS150:Yes)、報知装置33は作動しない。なお、ステップS150において、旋回体データは旋回条件を満足していると判定されたとき、報知制御部419は、ステップS200における報知形態とは別の報知形態で報知装置33を作動して、旋回データが旋回条件を満足していることを示す情報を運転者に報知してもよい。
 撮像位置算出部416は、旋回終了後の推定角度θsと旋回後角度θrbとの差が規定値未満であるとき、角度θr(旋回前角度θra、旋回後角度θrb)に基づいて、旋回中における推定角度θsを補正する。また、撮像位置算出部416は、補正後の推定角度θsに基づいて、旋回中における撮像装置30の推定位置Psを補正する。撮像位置算出部416は、上述した手順に基づいて、推定角度θsの補正を実施することができる。
 三次元位置算出部417は、撮影時の画像PCをステレオ処理して、複数の施工対象SBの撮像装置座標系における三次元位置を算出する(ステップS160)。また、三次元位置算出部417は、撮像装置座標系における三次元位置を現場座標系における三次元位置に変換する。
 三次元位置算出部417は、ステップS140で取得された撮影時の撮像装置30の位置Pに基づいて、ステップS130で算出された複数の施工対象SBの三次元位置を統合する(ステップS170)。撮影時の撮像装置30の位置Pは、旋回前位置Pra、旋回中における複数の推定位置Ps、及び旋回後位置Prbを含む。複数の施工対象SBが統合されることにより、図9を参照して説明したように、施工対象SBの三次元形状を示す三次元データPTDが生成される。なお、三次元位置を統合する処理は、省略されてもよい。
 なお、旋回体データが、第1の旋回条件、第2の旋回条件、第3の旋回条件、第4の旋回条件、及び第5の旋回条件の少なくとも一つを満足していないと判定された場合、三次元位置算出部417は、ステップS30において取得された、油圧ショベル1が動作開始前の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCraと、ステップS80において取得された、油圧ショベル1が動作終了後の動作停止状態において撮像装置30によって撮影された施工対象SBの画像PCrbとをステレオ処理して、施工対象SBの撮像装置座標系における三次元位置を算出してもよい。
[報知装置]
 ステップS180、ステップS190、及びステップS200における報知装置33の報知は、表示装置33Aに表示データを表示すること、発光装置33Bから光を射出すること、及び音出力装置33Cから音を出力することの少なくとも一つを含む。
 本実施形態において、旋回データが旋回条件を満足しないと判定されたとき、報知制御部419は、油圧ショベル1を操作する操作装置35の操作条件を指示するガイダンスデータを報知装置33に出力させる。運転者は、報知装置33による報知を受け取ることによって、旋回体3が旋回中に取得された画像PCに基づいて実施されたステレオ計測の精度が不足していた、すなわちステレオ計測が失敗したと認識することができ、例えば再度施工対象SBの同じ領域をステレオ計測することができる。その際に、運転者は、報知装置44による報知の内容に基づいて、撮影時における旋回体3の旋回条件を修正してステレオ計測することで、ステレオ計測の精度の低下を抑制することができる。
 図13は、本実施形態に係る表示装置33Aがガイダンスを表示している例を示す図である。なお、表示装置33Aはガイダンスに代えて、またはガイダンスとともに、ステレオ計測の成否や、ステレオ計測の失敗理由を表示してもよい。
 図13(A)は、ステップS50において、旋回体3が旋回停止後に再旋回することなく旋回を終了した条件を満足するか否かが判定され、旋回データが旋回条件を満足していないと判定されたときの、ステップS180における表示装置33Aの表示例を示す。図13(A)に示すように、旋回体3が旋回を停止した後に、再び旋回を開始したと判定されたとき、表示装置33Aは、ガイダンスとして、「旋回停止後の再旋回の操作は行わないで下さい。」という文字データを出力する。
 図13(B)は、ステップS100において、旋回体3の旋回速度Vが規定速度未満である条件を満足するか否かが判定され、旋回データが旋回条件を満足していないと判定されたときの、ステップS190における表示装置33Aの表示例を示す。図13(B)に示すように、旋回データが旋回条件を満足してないと判定されたとき、すなわち、旋回体3の旋回速度Vが規定速度以上であると判定されたとき、表示装置33Aは、ガイダンスとして、「旋回速度を遅くして下さい。」という文字データを出力する。
 図13(C)は、ステップS100において、旋回体3の旋回速度θが第1規定角度よりも大きい条件及び第2規定角度未満である条件の一方又は両方を満足するか否かが判定され、旋回データが旋回条件を満足していないと判定されたときの、ステップS190における表示装置33Aの表示例を示す。図13(C)に示すように、旋回データが旋回条件を満足してないと判定されたとき、すなわち、旋回体3の旋回角度θが第2規定角度以上であると判定されたとき、表示装置33Aは、ガイダンスとして、「旋回角度を小さくして下さい。」という文字データを出力する。
 また、旋回体3の旋回角度θが第1規定角度以下であると判定されたとき、表示装置33Aは、ガイダンスとして、「旋回開始時と旋回終了時の旋回角度を大きくして下さい。」という文字データを出力する。
 図13(D)は、ステップS100において、旋回体3の旋回方向が順方向から逆方向に切り換わらずに一方向である条件を満足しているか否かが判定され、旋回データが旋回条件を満足していないと判定されたときの、ステップS190における表示装置33Aの表示例を示す。図13(D)に示すように、旋回データが旋回条件を満足してないと判定されたとき、すなわち、旋回体3の旋回方向が順方向から逆方向に切り換わっていると判定されたとき、表示装置33Aは、ガイダンスとして、「旋回連続撮影時は必ず一方向に旋回して下さい」という文字データを出力する。
 図13(E)は、ステップS150において、旋回終了後の旋回体3の旋回後角度θrbと旋回終了後の旋回体3の推定角度θsとの差が規定値未満である条件を満足するか否かが判定され、旋回データが旋回条件を満足していないと判定されたときの、ステップS200における表示装置33Aの表示例を示す。図13(E)に示すように、旋回データが旋回条件を満足してないと判定されたとき、すなわち、旋回後角度θrbと旋回終了後の旋回体3の推定角度θsとの差が規定値以上であると判定されたとき、表示装置33Aは、ガイダンスとして、「車体の位置を変更して下さい。作業機姿勢を確認して下さい。」という文字データを出力する。
 旋回後角度θrbと推定角度θsとの差が大きい場合、推定角度θsが不正確である可能性が高く、推定角度θsの補正を実施しても、正確な推定角度θsを取得することが困難である可能性が高い。その場合、報知制御部419は、図13(E)に示したような、旋回連続撮影の条件の変更を促すガイダンスのような報知信号を出力する。
 なお、上述のようなガイダンスや、ステレオ計測の成否や、ステレオ計測の失敗理由は、発光装置33Bの点灯、点滅、及び消灯の組み合わせを含む発光状態によって報知されてもよいし、音出力装置33Cから音声によって出力されてもよい。
 また、報知制御部419は、その他の理由により三次元位置算出部417によるステレオ計測が失敗したときも、報知装置33を作動して、ステレオ計測が失敗したことを示す情報を報知することができる。
[効果]
 以上説明したように、本実施形態によれば、ステレオ計測の計測精度を低下させる旋回条件で旋回体3が旋回した場合、旋回条件が不適切であることを示す情報が運転者に報知される。そのため、運転者は、ステレオ計測の計測精度が低下しないように操作装置35の操作を調整したり、撮影をやり直したりすることができる。これにより、ステレオ計測に適切な画像PCが取得されるため、施工対象SBの三次元形状の計測精度の低下が抑制される。
 なお、上述の実施形態においては、油圧ショベル1が旋回中においては、撮像装置30の位置が共通部分KSに基づいて算出されることとしたが、その実施形態に限られない。例えば、油圧ショベル1が旋回中における撮像装置30の位置が、位置検出装置23の検出データ及び姿勢検出装置24の検出データに基づいて算出されてもよい。
 なお、上述の実施形態において、撮像位置算出部416は、旋回軸Zrを拘束条件として、変数を旋回角度θのみとして撮影位置を算出したが、旋回軸Zrを拘束条件とすることなく、撮像装置30の位置及び姿勢を、X軸方向の位置、Y軸方向の位置、Z軸方向の位置、ロール角、ピッチ角、及びヨー角の6変数に基づいて算出してもよい。
 なお、本実施形態においては、入力装置32が操作されることにより、撮像装置30による撮影が開始又は終了することとした。操作装置35の操作により、撮像装置30による撮影が開始又は終了してもよい。上述のように、操作装置35の操作量を検出する操作量センサ36が設けられている。操作量センサ36は、操作装置35が操作された操作状態と、操作装置35が操作されていない中立状態とを検出可能である。旋回体3の旋回を開始するために操作装置35が操作状態になったとき、操作状態を検出した操作量センサ36の検出データに基づいて撮像装置30による撮影が開始され、旋回体3の旋回を終了するために操作装置35が中立状態になったとき、中立状態を検出した操作量センサ36の検出データに基づいて撮像装置30による撮影が終了してもよい。また、入力装置32の操作により撮影が開始され、操作装置35が中立状態になったときに撮影が終了してもよい。また、旋回体3が旋回中か否かの判定は、操作量センサ36の検出データに基づかずに、任意の旋回検出方法によって実施されてもよい。
 また、入力装置32が操作されることにより、自動的に撮像装置30による撮影及び旋回体3の旋回が開始され、規定の旋回終了位置まで旋回した後、自動的に撮像装置30による撮影及び旋回体3の旋回が終了するようにしてもよい。
 なお、上述の実施形態において、入力装置32は、例えば操作装置35の右操作レバー35R及び左操作レバー35Lの少なくとも一方に取り付けられていてもよいし、運転室4に配置されるモニタパネルに設けられていてもよいし、携帯端末装置に設けられてもよい。また、入力装置32が油圧ショベル1の外部に設けられ、撮像装置30の撮影の開始又は終了が遠隔操作されてもよい。
 上述の実施形態においては、判定部418が旋回条件を満足していないと判定したときに、報知制御部419が、旋回指示信号として報知信号を報知装置33に出力する例について説明した。上述の実施形態において、例えば、旋回体3の旋回中に旋回速度Vが所定の旋回速度よりも速いと判定されたとき、旋回制御部420は、旋回指示信号として油圧コントローラ38に制御信号を出力して、旋回中の旋回体3の旋回速度Vを、旋回条件を満たすように制御してもよい。その場合、油圧コントローラ38は、運転者の操作装置35の操作量に応じた旋回モータ37の駆動制御に対して、旋回制御部420からの制御信号に基づいて旋回速度Vを減ずるよう介入制御を実施することができる。旋回速度Vを遅くする、すなわち旋回動作を制御するために油圧コントローラ38に出力される制御信号は、旋回指示信号の一例である。また、報知装置33を制御するために報知装置33へ出力される旋回に関する報知信号、例えばステレオ計測の成否データ、ステレオ計測の失敗理由データ、ガイダンスデータは、旋回指示信号の一例である。また、報知制御部419及び旋回制御部420は、旋回指示信号を出力する出力部の一例である。
 なお、上述の実施形態において、報知装置33は、運転室4に配置されるモニタパネルであってもよいし、携帯端末装置であってもよい。また、そのようなモニタパネル及び携帯端末装置が油圧ショベル1の外部に設けられてもよい。また、報知装置33が油圧ショベル1の外部に設けられ、油圧ショベル1の外部に存在する管理者に報知してもよい。また、操作装置35、報知装置33が油圧ショベル1の外部に設けられ、報知装置33は油圧ショベル1を遠隔操作している運転者に対して報知を行ってもよい。
 なお、上述の実施形態において、旋回体3の旋回中において旋回速度Vが旋回条件を満足しなくなる程ではないがある程度速い旋回速度Vで旋回している場合、報知装置33は、運転者に対してリアルタイムに旋回速度Vを遅くさせることを促すガイダンスを報知してもよい。その際、運転者は旋回操作中であるため、例えば旋回速度Vを遅くさせることを促す音によるガイダンスが望ましい。
 なお、撮像装置30で撮影された画像PCが画像記憶部423に蓄積される場合、旋回条件として、規定の容量の画像PCのデータが蓄積されないという条件(メモリオーバー条件)、又は画像PCのデータが蓄積される時間が規定時間を超えないという条件(タイムオーバー条件)が設定されてもよい。また、旋回条件として、走行体2が走行していないという条件が設定されてもよい。旋回撮影中に走行体2が走行してしまうとステレオ計測の精度が低下するため、走行体2が走行していないという条件が設定されてもよい。
 なお、上述の実施形態においては、撮像位置算出部416が共通部分KSに基づいて旋回データを算出し、旋回データ取得部415は、撮像位置算出部416から旋回データを取得することとした。旋回データ取得部415は、旋回データを算出するための検出装置の検出データに基づいて旋回データを算出してもよい。例えば、旋回データ取得部415は、位置検出装置23の検出データまたは姿勢検出装置24の検出データに基づいて、旋回体3の旋回角度θ、旋回速度V、及び旋回方向Rを含む旋回データを算出してもよいし、操作量センサ36の検出データに基づいて旋回データを算出してもよいし、旋回体3の旋回データを検出可能な角度センサ、例えばロータリーエンコーダの検出データに基づいて旋回データを算出してもよい。この場合、演算処理装置41は、角度検出センサの検出値である旋回角度θを角度検出センサから取得するタイミングと、少なくとも一対の撮像装置30が施工対象SBを撮影するタイミングとを同期させる。このようにして、少なくとも一対の撮像装置30によって画像PCが撮影されたタイミングと、そのタイミングにおける旋回体3の旋回角度θとが対応付けられる。
 なお、上述の実施形態においては、演算処理装置41が少なくとも一対の撮像装置30によって撮像された画像PCをステレオ処理して三次元計測を実現したが、このようなものには限定されない。例えば、少なくとも一対の撮像装置30によって撮像された油圧ショベル1の周囲の掘削対象SBの画像PCと、位置検出装置23及び姿勢検出装置24によって求められた油圧ショベル1の静止時における位置及び姿勢とが、例えば油圧ショベル1の外部の管理装置に送信される。そして、外部の管理装置が油圧ショベル1の周囲の掘削対象SBの画像PCをステレオ処理するとともに、旋回体3の旋回時における旋回角度θ、油圧ショベル1の位置及び姿勢を求め、得られた結果を用いて旋回時における油圧ショベル1の周囲の掘削対象SBの三次元位置を求めてもよい。この場合、油圧ショベル1の外部の管理装置が、演算処理装置41に相当する。
 上述の実施形態において、検出装置は少なくとも一対の撮像装置30を含むステレオカメラである。ステレオカメラで撮影する際には、各カメラの撮影タイミングを同期させる。撮像装置はステレオカメラに限定されない。撮像装置は、例えば、TOF(Time Of Flight)カメラのような、画像と三次元データとの両方が得られるセンサであってもよい。撮像装置は一つのカメラにより三次元データが得られる撮像装置であってもよい。撮像装置は、レーザスキャナであってもよい。
 なお、上述の実施形態においては、作業機械1が旋回体3を有する油圧ショベル1であることとした。作業機械1は、旋回体を有しない作業機械でもよい。例えば、作業機械は、ブルドーザ、ホイールローダ、ダンプトラック、及びモーターグレーダの少なくとも一つでもよい。
 1…油圧ショベル(作業機械)、1B…車体、2…作業機、3…旋回体、4…運転室、4S…運転席、5…走行体、5A…履帯、5B…履帯、6…ブーム、7…アーム、8…バケット、10…ブームシリンダ、11…アームシリンダ、12…バケットシリンダ、21…GPSアンテナ、23…位置検出装置、24…姿勢検出装置、30…撮像装置、30A,30B,30C,30D…撮像装置、31…ハブ、32…入力装置、32A…旋回連続撮影スイッチ、32B…単画像撮影スイッチ、33…報知装置、33A…表示装置、33B…発光装置、33C…音出力装置、34A…第1発光部、34B…第2発光部、35…操作装置、35L…左操作レバー、35R…右操作レバー、36…操作量センサ、37…旋回モータ、38…油圧コントローラ、40…制御装置、41…演算処理装置、42…記憶装置、43…入出力インターフェース、50…計測システム、300…ステレオカメラ、301…第1ステレオカメラ、302…第2ステレオカメラ、410…画像取得部、411…信号取得部、413…共通部分抽出部、415…旋回データ取得部、416…撮像位置算出部、417…三次元位置算出部、418…判定部、419…報知制御部、420…旋回制御部、422…旋回条件記憶部、423…画像記憶部、FM…撮影領域、KS…共通部分、PC…画像、Pr…位置、Pra…旋回前位置、Prb…旋回後位置、Ps…推定位置、RD…旋回方向、SB…施工対象、Zr…旋回軸、θr…角度、θra…旋回前角度、θrb…旋回後角度、θs…推定角度。

Claims (10)

  1.  作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得する画像取得部と、
     前記画像に基づいて前記施工対象の三次元位置を算出する三次元位置算出部と、
     前記旋回体の旋回データを取得する旋回データ取得部と、
     前記旋回データが規定の旋回条件を満足するか否かを判定する判定部と、
     前記判定部の判定結果に基づいて旋回指示信号を出力する出力部と、
    を備える作業機械の計測システム。
  2.  前記旋回条件は、前記旋回体の旋回停止後、再旋回が行われない条件を含む、
    請求項1に記載の作業機械の計測システム。
  3.  前記旋回データは、前記旋回体の旋回速度を含み、
     前記旋回条件は、前記旋回速度が規定速度未満である条件を含む、
    請求項1又は請求項2に記載の作業機械の計測システム。
  4.  前記旋回データは、前記旋回体の旋回角度を含み、
     前記旋回条件は、前記旋回角度が第1規定角度よりも大きい条件及び第2規定角度未満である条件の一方又は両方を含む、
    請求項1から請求項3のいずれか一項に記載の作業機械の計測システム。
  5.  前記旋回データは、前記旋回体の旋回方向を含み、
     前記旋回条件は、前記旋回方向が一方向である条件を含む、
    請求項1から請求項4のいずれか一項に記載の作業機械の計測システム。
  6.  前記作業機械の運転者に報知する報知装置を備え、
     前記旋回指示信号は、前記旋回に関する報知信号を含み、
     前記出力部は、前記報知信号を前記報知装置に出力する、
    請求項1から請求項5のいずれか一項に記載の作業機械の計測システム。
  7.  前記旋回体を旋回させる油圧コントローラを備え、
     前記旋回指示信号は、前記旋回体の旋回動作を制御する制御信号を含み、
     前記出力部は、前記制御信号を前記油圧コントローラに出力する、
    請求項1から請求項6のいずれか一項に記載の作業機械の計測システム。
  8.  前記三次元位置算出部は、前記旋回データが前記旋回条件を満足しないと判定された場合、前記旋回体が動作開始前の動作停止状態において撮影された前記画像と、前記旋回体が動作終了後の動作停止状態において撮影された前記画像とに基づいて、前記施工対象の三次元位置を算出する、
    請求項1から請求項7のいずれか一項に記載の作業機械の計測システム。
  9.  請求項1から請求項8のいずれか一項に記載の作業機械の計測システムを備える作業機械。
  10.  作業機械の旋回体に搭載された撮像装置によって前記旋回体の旋回中に撮影された施工対象の画像を取得することと、
     前記旋回体の旋回データを取得することと、
     前記旋回データが規定の旋回条件を満足するか否かを判定することと、
     判定結果に基づいて旋回指示信号を出力することと、
    を含む作業機械の計測方法。
PCT/JP2018/028347 2017-09-01 2018-07-27 作業機械の計測システム、作業機械、及び作業機械の計測方法 WO2019044316A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020197024035A KR102248026B1 (ko) 2017-09-01 2018-07-27 작업 기계의 계측 시스템, 작업 기계, 및 작업 기계의 계측 방법
DE112018000828.2T DE112018000828B4 (de) 2017-09-01 2018-07-27 Arbeitsmaschinenmesssystem, Arbeitsmaschine und Messfahren für Arbeitsmaschine
CN201880009782.1A CN110249203B (zh) 2017-09-01 2018-07-27 作业机械的测量系统、作业机械以及作业机械的测量方法
JP2019539088A JP7104050B2 (ja) 2017-09-01 2018-07-27 作業機械の計測システム、作業機械、及び作業機械の計測方法
US16/487,863 US11195351B2 (en) 2017-09-01 2018-07-27 Work machine measurement system, work machine, and measuring method for work machine

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-168955 2017-09-01
JP2017168955 2017-09-01

Publications (1)

Publication Number Publication Date
WO2019044316A1 true WO2019044316A1 (ja) 2019-03-07

Family

ID=65525379

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/028347 WO2019044316A1 (ja) 2017-09-01 2018-07-27 作業機械の計測システム、作業機械、及び作業機械の計測方法

Country Status (6)

Country Link
US (1) US11195351B2 (ja)
JP (1) JP7104050B2 (ja)
KR (1) KR102248026B1 (ja)
CN (1) CN110249203B (ja)
DE (1) DE112018000828B4 (ja)
WO (1) WO2019044316A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2020285097B2 (en) * 2019-05-31 2023-09-14 Komatsu Ltd. Map generation system and map generation method
AU2020282145B2 (en) * 2019-05-31 2023-10-12 Komatsu Ltd. Map generation system and map generation method

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6824856B2 (ja) * 2017-09-29 2021-02-03 株式会社小松製作所 表示制御装置および表示制御方法
JP7080750B2 (ja) * 2018-06-29 2022-06-06 株式会社小松製作所 表示制御システム、遠隔操作システム、表示制御装置、および表示制御方法
JP7301514B2 (ja) * 2018-09-21 2023-07-03 日立建機株式会社 座標変換システム及び作業機械
CN113785091B (zh) * 2020-03-27 2023-10-24 住友重机械工业株式会社 施工机械、信息管理系统、信息终端、程序
CA3214926A1 (en) * 2021-04-19 2022-10-27 Benny Chen Fragmentation georeferencing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012173114A (ja) * 2011-02-21 2012-09-10 Topcon Corp 全周画像計測装置
WO2015167022A1 (ja) * 2015-05-29 2015-11-05 株式会社小松製作所 作業機械の制御システム及び作業機械
WO2017033991A1 (ja) * 2015-08-26 2017-03-02 住友建機株式会社 ショベルの計測装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002310652A (ja) * 2001-04-18 2002-10-23 Hitachi Constr Mach Co Ltd 走行式建設機械の位置計測システム
JP4972404B2 (ja) * 2004-05-13 2012-07-11 株式会社小松製作所 旋回制御装置、旋回制御方法、および建設機械
JP2007147588A (ja) 2005-11-01 2007-06-14 Hitachi Constr Mach Co Ltd 作業機械の位置計測システム
JP2008053766A (ja) * 2006-08-22 2008-03-06 Nippon Seiki Co Ltd 動体検出装置
US7975410B2 (en) * 2008-05-30 2011-07-12 Caterpillar Inc. Adaptive excavation control system having adjustable swing stops
US9113047B2 (en) 2010-10-22 2015-08-18 Hitachi Construction Machinery Co., Ltd. Peripheral monitoring device for working machine
JPWO2013058093A1 (ja) 2011-10-18 2015-04-02 日立建機株式会社 作業機械の周囲監視装置
CN104395537B (zh) * 2012-06-22 2016-11-16 日立建机株式会社 工程机械
KR101762524B1 (ko) * 2014-05-15 2017-07-27 가부시키가이샤 고마쓰 세이사쿠쇼 굴삭 기계의 표시 시스템, 굴삭 기계 및 굴삭 기계의 표시 방법
CN105358771B (zh) * 2014-05-15 2018-06-29 株式会社小松制作所 挖掘机械的显示系统、挖掘机械和挖掘机械的显示方法
US10794047B2 (en) * 2015-07-15 2020-10-06 Komatsu Ltd. Display system and construction machine
JP6925775B2 (ja) 2015-10-05 2021-08-25 株式会社小松製作所 施工管理システム
WO2016013691A1 (ja) 2015-10-15 2016-01-28 株式会社小松製作所 位置計測システム及び位置計測方法
JP2017089139A (ja) * 2015-11-04 2017-05-25 住友建機株式会社 ショベル
JP6598685B2 (ja) * 2016-01-05 2019-10-30 住友建機株式会社 ショベル
CN106460373B (zh) 2016-03-28 2020-10-02 株式会社小松制作所 评价装置
US20170284071A1 (en) 2016-03-29 2017-10-05 Komatsu Ltd. Calibration system, work machine, and calibration method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012173114A (ja) * 2011-02-21 2012-09-10 Topcon Corp 全周画像計測装置
WO2015167022A1 (ja) * 2015-05-29 2015-11-05 株式会社小松製作所 作業機械の制御システム及び作業機械
WO2017033991A1 (ja) * 2015-08-26 2017-03-02 住友建機株式会社 ショベルの計測装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2020285097B2 (en) * 2019-05-31 2023-09-14 Komatsu Ltd. Map generation system and map generation method
AU2020282145B2 (en) * 2019-05-31 2023-10-12 Komatsu Ltd. Map generation system and map generation method

Also Published As

Publication number Publication date
US11195351B2 (en) 2021-12-07
US20200058177A1 (en) 2020-02-20
JP7104050B2 (ja) 2022-07-20
KR20190108597A (ko) 2019-09-24
DE112018000828B4 (de) 2022-12-29
CN110249203B (zh) 2022-03-15
JPWO2019044316A1 (ja) 2020-08-20
CN110249203A (zh) 2019-09-17
DE112018000828T5 (de) 2019-10-24
KR102248026B1 (ko) 2021-05-03

Similar Documents

Publication Publication Date Title
JP7104050B2 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
US20200399869A1 (en) Image display system for work machine, remote operation system for work machine, and work machine
AU2018333191B2 (en) Display system, display method, and display apparatus
JP6927821B2 (ja) 表示システム、及び表示装置
WO2020241618A1 (ja) マップ生成システム及びマップ生成方法
JP6925816B2 (ja) 位置計測システム、作業機械、及び位置計測方法
JP2022164713A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP7135191B2 (ja) 作業機械の計測システム、作業機械、及び作業機械の計測方法
JP6895350B2 (ja) 作業機械の計測システム及び作業機械
US20220316188A1 (en) Display system, remote operation system, and display method
US20220002977A1 (en) System and method for work machine
KR20230171035A (ko) 작업 기계의 제어 시스템, 작업 기계, 및 작업 기계의 제어 방법
KR20240009502A (ko) 작업 기계의 제어 시스템, 작업 기계, 및 작업 기계의 제어 방법
JP2020197045A (ja) 表示システムおよび表示方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18852253

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019539088

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20197024035

Country of ref document: KR

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 18852253

Country of ref document: EP

Kind code of ref document: A1