WO2018043299A1 - 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法 - Google Patents

作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法 Download PDF

Info

Publication number
WO2018043299A1
WO2018043299A1 PCT/JP2017/030406 JP2017030406W WO2018043299A1 WO 2018043299 A1 WO2018043299 A1 WO 2018043299A1 JP 2017030406 W JP2017030406 W JP 2017030406W WO 2018043299 A1 WO2018043299 A1 WO 2018043299A1
Authority
WO
WIPO (PCT)
Prior art keywords
work machine
route
image
work
display
Prior art date
Application number
PCT/JP2017/030406
Other languages
English (en)
French (fr)
Inventor
貴頌 谷本
啓 篠原
裕 吉灘
Original Assignee
株式会社小松製作所
国立大学法人大阪大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社小松製作所, 国立大学法人大阪大学 filed Critical 株式会社小松製作所
Priority to US16/316,093 priority Critical patent/US20210285184A1/en
Priority to CA3029812A priority patent/CA3029812C/en
Priority to AU2017318911A priority patent/AU2017318911B2/en
Priority to JP2018537209A priority patent/JP6832548B2/ja
Publication of WO2018043299A1 publication Critical patent/WO2018043299A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/16Cabins, platforms, or the like, for drivers
    • B60K35/23
    • B60K35/28
    • B60K35/60
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D1/00Steering controls, i.e. means for initiating a change of direction of the vehicle
    • B62D1/24Steering controls, i.e. means for initiating a change of direction of the vehicle not vehicle-mounted
    • B62D1/28Steering controls, i.e. means for initiating a change of direction of the vehicle not vehicle-mounted non-mechanical, e.g. following a line or other known markers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • E02F9/265Sensors and their calibration for indicating the position of the work tool with follow-up actions (e.g. control signals sent to actuate the work tool)
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • B60K2360/166
    • B60K2360/171
    • B60K2360/177
    • B60K2360/21
    • B60K2360/31
    • B60K2360/61
    • B60K2360/785
    • B60K35/81
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/45Nc applications
    • G05B2219/45012Excavator

Definitions

  • the present invention relates to an image display system for a work machine, a remote operation system for the work machine, a work machine, and an image display method for the work machine.
  • Patent Document 1 a technique for remotely operating a work machine such as a hydraulic excavator is known. Further, Patent Document 2 controls the display position along the combiner surface of the work support information and the depth display position in front of the cab based on the position information of the work implement, and the work support perceived by the operator in the cab. A technique for displaying a projected image of information around a work machine is described.
  • An aspect of the present invention aims to suppress a decrease in work efficiency when working using a work machine equipped with a work machine.
  • a position calculation unit that obtains the position of a work machine that a work machine has, a display unit that displays a route image corresponding to a route that the work machine will move, and the route The route image corresponding to a portion of the route that is shielded by the work implement from a predetermined position as a viewpoint is shielded by the work implement based on the position of the work implement and the position of the work implement obtained by the position calculation unit.
  • an image display system for a work machine including a display processing unit that displays on the display unit in a form different from the route image corresponding to the portion of the route that is not performed.
  • the display processing unit converts the route image into an image viewed from the predetermined position and displays the image on the display unit.
  • An image display system is provided.
  • the image processing apparatus includes an imaging device that is attached to the work machine and images a target, and the display processing unit captures the path image and the imaging device.
  • an image display system for a work machine that combines the image of the work machine thus displayed and displays the image on the display unit.
  • the image display system for a work machine according to the third aspect, wherein the predetermined position is a position of an imaging device that is attached to the work machine and images a target. .
  • the display processing unit is configured to change the route according to a distance between the work implement and the route.
  • An image display system for a work machine that changes an image display form is provided.
  • a work machine comprising: a work machine image display system according to any one of the first to fifth aspects; and an operating device that operates the work machine.
  • a remote control system is provided.
  • a work machine including the work machine image display system according to any one of the first to fifth aspects.
  • the position of the work machine of the work machine is obtained, and based on the position of the path on which the work machine will move and the position of the work machine, the predetermined position is used as a viewpoint. It is determined whether or not the work machine shields the route, the route image corresponding to the route of the part where the work machine shields the route, and the route corresponding to the part where the work machine does not shield the route.
  • an image display method for a work machine that is displayed on a display unit in a form different from an image.
  • the aspect of the present invention can suppress a decrease in work efficiency when working using a work machine equipped with a work machine.
  • FIG. 1 is a diagram illustrating an image display system for a work machine and a remote operation system for the work machine according to an embodiment.
  • FIG. 2 is a diagram illustrating a control system of the hydraulic excavator.
  • FIG. 3 is a control block diagram of a processing unit included in the processing device of the image display system.
  • FIG. 4 is a diagram illustrating an example of converting a position in the global coordinate system into a position in the imaging apparatus coordinate system.
  • FIG. 5 is a diagram for explaining processing for determining whether or not the work machine shields the route when the route image is viewed from a predetermined position.
  • FIG. 6 is a diagram illustrating an example of a state in which a route image and a bucket of a work machine are displayed superimposed on a display device.
  • FIG. 1 is a diagram illustrating an image display system for a work machine and a remote operation system for the work machine according to an embodiment.
  • FIG. 2 is a diagram illustrating a control system of the hydraulic exca
  • FIG. 7 is a diagram illustrating an example of a state in which a route image and a bucket of a work machine are displayed superimposed on a display device.
  • FIG. 8 is a flowchart illustrating a procedure of the image display method for the work machine according to the embodiment.
  • FIG. 9 is a diagram illustrating a control system of a hydraulic excavator according to a modified example of the embodiment.
  • FIG. 1 is a diagram illustrating a work machine image display system 100 and a work machine remote control system 101 according to an embodiment.
  • An image display system 100 for a work machine (hereinafter, referred to as an image display system 100 as appropriate) is a work object of the excavator 1 when the operator of the work machine remotely operates the excavator 1 which is an example of the work machine. More specifically, the terrain surface that is a target of work by the work machine 2 provided in the excavator 1, that is, the work target WA and the bucket 8 that is the work tool are picked up by the image pickup device 19, and the obtained image is displayed on the display device 52. Display. At this time, the image display system 100 causes the display device 52 to display an image including the bucket 8 and a route image TL corresponding to the route tl when the bucket 8 moves.
  • the image display system 100 includes a position calculation unit 51C, a route calculation unit 51R, a display device 52 as a display unit, and a display processing unit 51D.
  • a work machine remote operation system 101 (hereinafter referred to as a remote operation system 101 as appropriate) includes an image display system 100 and an operation device 53.
  • the position calculation device 23 of the image display system 100 is installed in the excavator 1, and the position calculation unit 51C, the route calculation unit 51R, the display device 52, and the display processing unit 51D are installed in the facility 50.
  • the facility 50 is used for remotely operating the excavator 1 and managing the excavator 1.
  • the position calculation unit 51C, the route calculation unit 51R, and the display processing unit 51D of the image display system 100 are part of the processing device 51 in the facility 50.
  • the processing device 51 includes a processing unit 51P, a storage unit 51M, and an input / output unit 51IO.
  • the processing unit 51P is exemplified by a processor such as a CPU (Central Processing Unit) and a GPU (Graphical Processing Unit).
  • Examples of the storage unit 51M include a RAM (Random Access Memory), a ROM (Read Only Memory), a hard disk drive, a storage device, or a combination thereof.
  • the input / output unit 51IO is an interface circuit for connecting the processing device 51 and an external device.
  • a display device 52, an operation device 53, and a communication device 54 are connected to the input / output unit 51IO as external devices.
  • the external devices connected to the input / output unit 51IO are not limited to these.
  • the processing unit 51P includes a position calculation unit 51C, a route calculation unit 51R, and a display processing unit 51D.
  • the position calculation unit 51C obtains the position of the work machine 2 of the excavator 1.
  • the position of the work machine 2 includes the position of the work tool that the work machine 2 has, in the embodiment, the bucket 8.
  • the route calculation unit 51R obtains a route tl when the work implement 2 moves, that is, a route tl (the route tl that the work implement 2 is scheduled to move) from which the work implement 2 will move.
  • a route tl when the bucket 8 that is a part of the work machine 2 moves is obtained, but the route of the bucket 8 is not limited.
  • the route tl is a route that becomes a target when the bucket 8 moves. That is, the route tl serves as a target when the operator moves the work implement 2 and thus becomes a target index for supporting the operator.
  • the route tl when the work implement 2 moves is, for example, a route that prevents the work implement 2 from contacting an obstacle, a route that can be moved in the shortest, a route that can be moved most efficiently, or a target construction surface on site.
  • a route along design information such as a design surface can be used.
  • the working machine 2 has a route at the time of hoist turning that lifts the work machine 2 after excavating the object, and a route at the time of hoist turning that turns the work machine 2 while lowering the work machine 2 after loading or waste soil. It may be a route tl along which 2 moves.
  • the center in the width direction of the cutting edge 8T of the bucket 8 is set as the reference position of the path tl.
  • the present invention is not limited to this, and the left end or the right end of the cutting edge 8T of the bucket 8 may be set as the reference point.
  • the reference position of the path tl may be used.
  • the display processing unit 51D uses the obtained route tl as a viewpoint to determine the route tl. Finds the first part tl1 which is the part shielded by the work implement 2.
  • the display processing unit 51D displays the route image TL of the first portion tl1 where the route tl is shielded by the work implement 2 when viewed from a predetermined position, and the second portion which is a portion where the route tl is not shielded by the work implement 2 It is displayed on the display device 52 in a form different from the route image TL of tl2.
  • the work machine 2 includes a bucket 8, an arm 7, and a boom 6 as members constituting the work machine 2. Therefore, the route tl being shielded by the work implement 2 means that the route tl is shielded by the members constituting the work implement 2.
  • the route tl is shielded by at least a part of the work machine 2, for example, the bucket 8, the blade 8B of the bucket 8, the arm 7, the boom 6, or the bucket 8 and the arm 7, and the path tl is In any case, the path tl is included in the shielding by the work machine 2.
  • the predetermined position is exemplified by the position corresponding to the viewpoint of the operator who operates the hydraulic excavator 1 and the position of the imaging device 19 attached to the hydraulic excavator 1 and imaging the target.
  • the position corresponding to the viewpoint of the operator who operates the excavator 1 is exemplified by the position of the eye in a posture where the operator is seated on the driver's seat of the excavator 1 and operates the excavator 1.
  • the predetermined position is not limited to the position corresponding to the operator's viewpoint and the position of the imaging device 19, and may be a free viewpoint unrelated to these viewpoints. Examples of the free viewpoint include a bird's-eye viewpoint and an operator's viewpoint arranged in a virtual space.
  • the processing unit 51P reads and executes a computer program for realizing the functions of the position calculation unit 51C, the route calculation unit 51R, and the display processing unit 51D from the storage unit 51M, thereby executing the position calculation unit 51C and the route.
  • the functions of the calculation unit 51R and the display processing unit 51D are realized.
  • the functions of the position calculation unit 51C, the route calculation unit 51R, and the display processing unit 51D may be realized by a processing circuit.
  • the processing circuit is dedicated hardware for realizing the functions of the position calculation unit 51C, the route calculation unit 51R, and the display processing unit 51D.
  • the processing circuit corresponds to a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific Integrated Circuit), an FPGA (Field Programmable Gate Array), or a combination thereof.
  • the display device 52 displays the path tl generated by the processing device 51 and the image captured by the imaging device 19 of the excavator 1, that is, the image including the bucket 8 in the embodiment.
  • the display device 52 is exemplified by a liquid crystal display or a projector, but is not limited thereto.
  • the communication device 54 includes an antenna 54A. The communication device 54 communicates with the communication device 25 provided in the excavator 1 to acquire information on the excavator 1 or transmit information to the excavator 1.
  • the operating device 53 has a left operating lever 53L installed on the left side of the operator and a right operating lever 53R arranged on the right side of the operator.
  • the front-rear and left-right operations correspond to the biaxial operations.
  • the operation in the front-rear direction of the right operation lever 53R corresponds to the operation of the boom 6 of the work machine 2 provided in the hydraulic excavator 1.
  • the left / right operation of the right operation lever 53R corresponds to the operation of the bucket 8 of the work machine 2.
  • the operation in the front-rear direction of the left operation lever 53L corresponds to the operation of the arm 7 of the work machine 2.
  • the left / right operation of the left operation lever 53L corresponds to the turning of the swing body 3 of the excavator 1.
  • the operation amounts of the left operation lever 53L and the right operation lever 53R are detected by, for example, a potentiometer and a Hall IC, and the processing device 51 is provided with an electromagnetic control valve provided in the hydraulic circuit of the hydraulic excavator 1 based on these detected values.
  • a control signal for controlling the signal is generated.
  • This signal is sent to the work machine control device 27 via the communication device 54 of the facility 50 and the communication device 25 of the excavator 1.
  • the work machine control device 27 controls the work machine 2 by controlling the electromagnetic control valve based on the control signal.
  • the electromagnetic control valve will be described later.
  • the processing device 51 acquires an input to at least one of the left operation lever 53L and the right operation lever 53R, and generates a command for operating at least one of the work implement 2 and the swing body 3.
  • the processing device 51 transmits the generated command to the communication device 25 of the excavator 1 via the communication device 54.
  • the work machine control device 27 included in the excavator 1 acquires a command from the processing device 51 via the communication device 25, and operates at least one of the work machine 2 and the swing body 3 according to the command.
  • the hydraulic excavator 1 includes a communication device 25, a work machine control device 27, a first posture detection device 32, a second posture detection device 33, an imaging device 19, antennas 21 and 22, and a position calculation device 23.
  • the communication device 25 is connected to the antenna 24 and communicates with a communication device 54 provided in the facility 50.
  • the work machine control device 27 controls the operation of the work machine 2 and the swing body 3.
  • the first attitude detection device 32 detects the attitude of the work machine 2.
  • the second attitude detection device 33 detects the attitude of the excavator 1.
  • the imaging device 19 is attached to the excavator 1 and images the work implement 2 or the work target WA.
  • the antennas 21 and 22 receive radio waves from the positioning satellite 200.
  • the position calculation device 23 uses the radio waves received by the antennas 21 and 22 to determine the global positions of the antennas 21 and 22, that is, the positions in the global coordinate system.
  • the hydraulic excavator 1 has a vehicle main body 1B and a work implement 2 as main body portions.
  • the vehicle main body 1 ⁇ / b> B includes a turning body 3 and a traveling body 5.
  • the excavator 1 uses an internal combustion engine such as a diesel engine as an engine that is a power generation device, but the power generation device is not limited to the internal combustion engine.
  • the power generation device of the hydraulic excavator 1 may be, for example, a so-called hybrid device in which an internal combustion engine, a generator motor, and a power storage device are combined.
  • the power generation device of the hydraulic excavator 1 may not be an internal combustion engine, and may be a device that combines a power storage device and a generator motor.
  • the traveling body 5 carries the revolving body 3.
  • the traveling body 5 has a crawler belt.
  • the work machine 2 is attached to the side of the cab 4 of the revolving structure 3.
  • the swivel body 3 is on the front side where the work implement 2 and the operator cab 4 are arranged, and is on the side where the counterweight is arranged.
  • the front-rear direction of the revolving structure 3 is the direction of the Xm axis.
  • the left side toward the front is the left of the revolving unit 3, and the right side toward the front is the right of the revolving unit 3.
  • the left-right direction of the revolving structure 3 is also referred to as the width direction or the direction of the Ym axis.
  • the excavator 1 or the vehicle main body 1 ⁇ / b> B has the traveling body 5 side on the basis of the revolving body 3, and the revolving body 3 side on the basis of the traveling body 5.
  • the vertical direction of the revolving structure 3 is the direction of the Zm axis.
  • the lower side is the vertical direction, that is, the gravity direction side
  • the upper side is the opposite side of the vertical direction.
  • the work machine 2 includes a boom 6, an arm 7, a bucket 8 as a work tool, a boom cylinder 10, an arm cylinder 11, and a bucket cylinder 12.
  • the bucket 8 has a plurality of blades 8B.
  • the blade tip 8T is the tip of the blade 8B.
  • the bucket 8 is not limited to one having a plurality of blades 8B.
  • the bucket 8 may be a tilt bucket.
  • the working machine 2 may include, as a work tool, a rock drilling attachment provided with a slope bucket or a chip for rock drilling instead of the bucket 8.
  • the boom cylinder 10, the arm cylinder 11, and the bucket cylinder 12 are hydraulic cylinders that are driven by the pressure of hydraulic oil discharged from the hydraulic pump.
  • the boom cylinder 10 drives the boom 6.
  • the arm cylinder 11 drives the arm 7.
  • the bucket cylinder 12 drives the bucket 8.
  • the antennas 21 and 22 and the antenna 24 are attached to the upper part of the revolving unit 3.
  • the antennas 21 and 22 are used to detect the position of the excavator 1.
  • the antennas 21 and 22 are electrically connected to the position calculation device 23 shown in FIG.
  • Antennas 21 and 22 are antennas for GNSS (Real Time Kinematic-Global Navigation Satellite Systems, GNSS means Global Navigation Satellite System).
  • GNSS Real Time Kinematic-Global Navigation Satellite Systems
  • the antennas 21 and 22 are arranged apart from each other by a certain distance along a direction parallel to the Ym axis.
  • the antennas 21 and 22 receive GNSS radio waves from the positioning satellite 200 and output signals according to the received GNSS radio waves.
  • the antennas 21 and 22 may be antennas for GPS (Global Positioning System).
  • the position calculation device 23 is a position detection device that detects the position of the excavator 1.
  • the position calculation device 23 detects the position of the excavator 1 using GNSS.
  • the imaging device 19 images the work target WA shown in FIG. 1, it is preferable to acquire information from the widest work target WA as much as possible. For this reason, in the embodiment, the imaging device 19 is installed above the cab 4 of the revolving structure 3.
  • the place where the imaging device 19 is installed is not limited to above the driver's seat.
  • the imaging device 19 may be installed inside and above the cab 4.
  • the imaging surface 19L faces the front of the revolving unit 3.
  • the imaging device 19 is a monocular camera including an image sensor such as a CCD (Charge Coupled Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor, but is not limited thereto.
  • the coordinate system of the excavator 1 is a vehicle body coordinate system (Xm, Ym, Zm), and the coordinate system of the imaging device 19 is an imaging device coordinate system (Xs, Ys, Zs).
  • the GNSS or GPS coordinate system is a global coordinate system (Xg, Yg, Zg).
  • the global coordinate system (Xg, Yg, Zg) is a coordinate system based on the origin fixed on the earth.
  • the vehicle body coordinate system (Xm, Ym, Zm) is a coordinate system based on the origin fixed to the vehicle body 1B, in the embodiment, the swing body 3.
  • the origin of the vehicle body coordinate system (Xm, Ym, Zm) is, for example, the center of the swing circle of the swing body 3.
  • the center of the swing circle exists on the turning center axis of the turning body 3.
  • the Zm axis of the vehicle body coordinate system (Xm, Ym, Zm) is an axis that becomes the turning center axis of the turning body 3.
  • the Xm axis is an axis that extends in the front-rear direction of the revolving structure 3 and is orthogonal to the Zm axis.
  • the Xm axis is a reference axis in the front-rear direction of the swing body 3.
  • the Ym axis is an axis extending in the width direction of the revolving structure 3 and orthogonal to the Zm axis and the Xm axis.
  • the origin of the imaging device coordinate system is, for example, the center of the imaging device 19.
  • the center of the imaging device 19 can be the optical center of the imaging device 19 or the center of the light receiving surface of the image sensor included in the imaging device 19.
  • the Xs axis of the imaging device coordinate system is an axis that passes through the optical center of the imaging device 19 and extends in a direction orthogonal to the imaging surface 19L.
  • the Ys axis is an axis orthogonal to the Xs axis.
  • the Zs axis is an axis orthogonal to both the Xs axis and the Ys axis.
  • FIG. 2 is a diagram illustrating a control system 1 ⁇ / b> S of the hydraulic excavator 1.
  • the control system 1S includes a communication device 25, a sensor controller 26, a work machine control device 27, an imaging device 19, a position calculation device 23, a first posture detection device 32, a second posture detection device 33, and a hydraulic pressure. And a system 36.
  • the communication device 25, the sensor controller 26, and the work machine control device 27 are connected by a signal line 35. With such a structure, the communication device 25, the sensor controller 26, and the work machine control device 27 can exchange information with each other via the signal line 35.
  • the signal line for transmitting information in the control system 1S is exemplified by an in-vehicle signal line such as CAN (Controller Area Network).
  • the sensor controller 26 includes a processor such as a CPU (Central Processing Unit) and storage devices such as a RAM and a ROM.
  • the sensor controller 26 receives the detection value of the position calculation device 23, the information of the image captured by the imaging device 19, the detection value of the first posture detection device 32, and the detection value of the second posture detection device 33.
  • the sensor controller 26 transmits the input detection value and image information to the processing device 51 of the facility 50 shown in FIG. 1 via the signal line 35 and the communication device 25.
  • the work machine control device 27 includes a processor such as a CPU (Central Processing Unit) and a storage device such as a RAM (Random Access Memory) and a ROM (Read Only Memory).
  • the work machine control device 27 acquires a command generated by the processing device 51 of the facility 50 for operating at least one of the work machine 2 and the swivel body 3 via the communication device 25.
  • the work machine control device 27 controls the electromagnetic control valve 28 of the hydraulic system 36 based on the acquired command.
  • the hydraulic system 36 includes an electromagnetic control valve 28, a hydraulic pump 29, and hydraulic actuators such as a boom cylinder 10, an arm cylinder 11, a bucket cylinder 12, and a swing motor 30.
  • the hydraulic pump 29 is driven by the engine 31 and discharges hydraulic oil for operating the hydraulic actuator.
  • the work machine control device 27 controls the flow rate of hydraulic oil supplied to the boom cylinder 10, the arm cylinder 11, the bucket cylinder 12, and the swing motor 30 by controlling the electromagnetic control valve 28. In this way, the work machine control device 27 controls the operations of the boom cylinder 10, the arm cylinder 11, the bucket cylinder 12, and the turning motor 30.
  • the sensor controller 26 acquires the detection values of the first stroke sensor 16, the second stroke sensor 17, and the third stroke sensor 18.
  • the first stroke sensor 16 is provided in the boom cylinder 10
  • the second stroke sensor 17 is provided in the arm cylinder 11
  • the third stroke sensor 18 is provided in the bucket cylinder 12.
  • the first stroke sensor 16 detects the boom cylinder length which is the length of the boom cylinder 10 and outputs it to the sensor controller 26.
  • the second stroke sensor 17 detects the arm cylinder length, which is the length of the arm cylinder 11, and outputs it to the sensor controller 26.
  • the third stroke sensor 18 detects the bucket cylinder length, which is the length of the bucket cylinder 12, and outputs it to the sensor controller 26.
  • the attitude of the work implement 2 is determined.
  • the first stroke sensor 16, the second stroke sensor 17, and the third stroke sensor 18 that detect these correspond to the first posture detection device 32 that detects the posture of the work implement 2.
  • position detection apparatus 32 is not limited to the 1st stroke sensor 16, the 2nd stroke sensor 17, and the 3rd stroke sensor 18, An angle detector may be sufficient.
  • the sensor controller 26 is a boom angle that is an inclination angle of the boom 6 with respect to a direction (Zm axis direction) orthogonal to the horizontal plane in the vehicle body coordinate system that is the coordinate system of the excavator 1 from the boom cylinder length detected by the first stroke sensor 16. Is calculated.
  • the sensor controller 26 calculates an arm angle that is an inclination angle of the arm 7 with respect to the boom 6 from the arm cylinder length detected by the second stroke sensor 17.
  • the sensor controller 26 calculates a bucket angle that is an inclination angle of the bucket 8 with respect to the arm 7 from the bucket cylinder length detected by the third stroke sensor 18.
  • the inclination angles of the boom 6, the arm 7, and the bucket 8 are information indicating the posture of the work machine 2. That is, the sensor controller 26 obtains information indicating the posture of the work machine 2.
  • the sensor controller 26 transmits the calculated inclination angle to the processing device 51 of the facility 50 shown in FIG. 1 via the signal line 35 and the communication device 25.
  • the position calculation device 23 has a processor such as a CPU and a storage device such as a RAM and a ROM.
  • the position calculation device 23 obtains the position of the excavator 1. Specifically, the position calculation device 23 detects the positions of the antennas 21 and 22 and the orientation of the revolving unit 3 in the global coordinate system (Xg, Yg, Zg) using the signals acquired from the antennas 21 and 22, Output.
  • the orientation of the revolving structure 3 represents the direction of the revolving structure 3 in the global coordinate system.
  • the orientation of the revolving structure 3 can be expressed by, for example, the front-rear direction of the revolving structure 3 around the Zg axis of the global coordinate system.
  • the azimuth angle is a rotation angle of the reference axis in the front-rear direction of the revolving unit 3 around the Zg axis in the global coordinate system.
  • the azimuth of the revolving unit 3 is represented by the azimuth angle.
  • the second attitude detection device 33 is an IMU (Inertial Measurement Unit) in the embodiment.
  • the second attitude detection device 33 detects the operation and attitude of the excavator 1.
  • position detection apparatus 33 may be called IMU33.
  • the operation of the hydraulic excavator 1 includes at least one of the operation of the swing body 3 and the operation of the traveling body 5.
  • the posture of the excavator 1 is represented by the roll angle, pitch angle, and yaw angle of the excavator 1.
  • the second attitude detection device 33 detects and outputs the angle or angular velocity and acceleration of the excavator 1.
  • the angles of the excavator 1 detected by the second attitude detection device 33 are the roll angle, pitch angle, and yaw angle of the excavator 1.
  • processing device 51 When the operator of the hydraulic excavator 1 remotely operates the hydraulic excavator 1 using the operation device 53 while visually recognizing the display device 52 of the remote operation system 101, the processing device 51 serves as a guide serving as an index of remote operation by the operator.
  • the route image TL is displayed on the display device 52.
  • the screen of the display device 52 is a two-dimensional screen, and it is difficult to convey the depth to the operator.
  • the processing device 51 looks from a predetermined position, for example, a position corresponding to the viewpoint of the operator or the position of the imaging device 19 of the hydraulic excavator 1. Information on whether or not the route tl is blocked by the work implement 2 is displayed on the display device 52. Specifically, the processing device 51 obtains a first portion where the path tl is shielded by the work implement 2 when viewed from a predetermined position. Then, the processing device 51 displays the route image TL of the first part in which the route tl is shielded by the work implement 2 in a form different from the route image TL of the second portion in which the route tl is not shielded by the work implement 2.
  • the processing device 51 when viewed from a predetermined position, does not display the first portion of the route image TL in which the route tl is shielded by the work implement 2 and the route tl is not shielded by the work implement 2. A two-part route image TL is displayed.
  • the processing device 51 can inform the operator of information on whether the work implement 2 is on the imaging device 19 side or the back side of the excavator 1 with respect to the path t1, that is, depth information. Therefore, it is possible to suppress a decrease in work efficiency in remote operation.
  • FIG. 3 is a control block diagram of the processing unit 51P included in the processing device 51 of the image display system 100.
  • FIG. 4 is a diagram illustrating an example of converting a position in the global coordinate system into a position in the imaging apparatus coordinate system.
  • FIG. 5 is a diagram for explaining processing for determining whether or not the route tl is blocked by the work implement 2 when the route image TL is viewed from a predetermined position.
  • 6 and 7 are diagrams illustrating an example of a state in which the route image TL and the bucket 8 of the work machine 2 are displayed superimposed on the display device 52.
  • the processing unit 51P receives the vehicle information IFm and supplies the received vehicle information IFm to the position calculation unit 51C, the route calculation unit 51R, and the display processing unit 51D.
  • the display processing unit 51D includes a viewpoint conversion unit 51DT, a work machine area calculation unit 51DM, a route drawing unit 51DR, a shielding calculation unit 51DC, and an image composition unit 51DS.
  • the vehicle information IFm includes the position and posture of the excavator 1 and the posture of the work machine 2 included in the excavator 1.
  • the position Pg of the excavator 1 is at least one position of the antenna 21 and the antenna 22 in the global coordinate system detected by the position calculation device 23.
  • the attitude of the excavator 1 is the roll angle ⁇ r, pitch angle ⁇ p, and yaw angle ⁇ y of the excavator 1 detected by the second attitude detection device 33.
  • the yaw angle may be an azimuth angle obtained from the relative position of the two antennas 21 and 22 by the position calculation device 23.
  • the posture of the work implement 2 is detected by the first stroke sensor 16, the second stroke sensor 17, and the third stroke sensor 18 which are the first posture detection device 32.
  • the posture of the work machine 2 is the boom angle ⁇ b, the arm angle ⁇ a, and the bucket angle ⁇ k.
  • the vehicle information IFm is sent from the sensor controller 26 of the excavator 1 to the communication device 54 of the facility 50 via the communication device 25.
  • the communication device 54 that has received the vehicle information IFm gives the vehicle information IFm to the input / output unit 51IO of the processing device 51.
  • the input / output unit 51IO provides the received vehicle information IFm to the processing unit 51P.
  • the position calculation unit 51C, the route calculation unit 51R of the processing unit 51P, and the viewpoint conversion unit 51DT of the display processing unit 51D each perform processing using the received vehicle information IFm.
  • the position calculation unit 51C obtains the position of the work implement 2 using information related to the work implement 2 in the received vehicle information IFm.
  • the information regarding the work machine 2 is the boom angle ⁇ b, the arm angle ⁇ a, and the bucket angle ⁇ k of the work machine 2.
  • the dimensions of the work implement 2, for example, the length of the boom 6, the length of the arm 7, and the length from the rotation center of the bucket 8 to the cutting edge 8T are stored in advance in the storage unit 51M of the processing device 51 as a model of the work implement 2. ing.
  • the position of the cutting edge 8T of the bucket 8 when obtaining the position of the cutting edge 8T of the bucket 8 as the position of the work machine 2, for example, the boom angle ⁇ b, the arm angle ⁇ a and the bucket angle ⁇ k of the work machine 2, the length of the boom 6, the length of the arm 7, and the bucket
  • the positional relationship between the base end of the boom 6 on the revolving structure 3 side and the cutting edge 8T can be determined by the length from the rotation center 8 to the cutting edge 8T.
  • the position computing unit 51C The position of the cutting edge 8T of the bucket 8 in the global coordinate system can be obtained from the position 1 Pg, information on the work machine 2, the dimensions of the work machine 2, and the orientation of the swivel body 3.
  • the orientation of the swing body 3 may be obtained from these positions obtained by the antennas 21 and 22, or the yaw angle of the swing body 3 detected by the IMU 33 may be used.
  • the position of the cutting edge 8T of the bucket 8 that is the position of the work machine 2 is obtained from the position of the work machine 2 and the attitude of the excavator 1, more specifically, the position of the work machine 2 and the attitude of the swivel body 3. .
  • the position of the work machine 2 is obtained from the dimensions of the work machine 2 and the posture of the work machine 2.
  • the position calculation unit 51 ⁇ / b> C obtains the positions of the bucket 8, the arm 7, and the boom 6 that the work machine 2 has as the position of the work machine 2.
  • the position calculation unit 51 ⁇ / b> C obtains the position of the work implement 2 using, for example, the model of the work implement 2 based on the size and shape information of the work implement 2.
  • the dimensions and shape of the work machine 2 are included in the design information of the work machine 2 or a CAD (Computer Aided Design) model.
  • the position calculation unit 51C has obtained the cutting edge 8T of the bucket 8 as the position of the work machine 2.
  • the position calculation unit 51C obtains a plurality of representative positions from which the outer shape of the work machine 2 can be grasped, and sets the position within the range surrounded by the plurality of representative positions to the work machine 2. It is good also as a position.
  • the position of the work machine 2 includes at least one of the position of the bucket 8, the position of the arm 7, and the position of the boom 6.
  • the position of the cutting edge 8T described above is a part of the position of the bucket 8.
  • the position calculation unit 51 ⁇ / b> C obtains the position of the bucket 8, the position of the arm 7, and the position of the boom 6 as the position of the work machine 2.
  • the position calculation unit 51C changes the target for obtaining the position of the work machine 2 among the work machines 2 according to the part of the work machine 2 occupying the screen of the display device 52, the position of the path tl, the processing load, and the like. Also good. For example, when the bucket 8 and a part of the arm 7 are shown on the screen of the display device 52, the position calculation unit 51C may obtain the position of the bucket 8 and the position of the arm 7 as the position of the work implement 2. . By doing in this way, the load of the process which 51C of position calculating parts perform is reduced.
  • the position calculation unit 51C may obtain only the position of the bucket 8 of the work implement 2 as the position of the work implement 2 when the processing load becomes excessive when all the positions of the bucket 8, the arm 7 and the boom 6 are obtained. . By doing so, the load of processing executed by the position calculation unit 51C is reduced, so that the load of hardware resources of the image display system 100 is reduced.
  • the route calculation unit 51R obtains a route when the work implement 2 moves, in the embodiment, a route when the bucket 8 moves, based on the received vehicle information IFm. As described above, this route is a route targeted when the work machine 2 moves. In obtaining the route, information on the current position and posture of the excavator 1 is necessary. The route calculation unit 51R obtains a route based on the current position Pg and posture of the excavator 1 included in the vehicle information IFm. When the route calculation unit 51R obtains a route, the route calculation unit 51R includes the hydraulic excavator 1 obtained by the imaging device 19 of the excavator 1, or a distance detection device such as a stereo camera or a laser scanner mounted on the excavator 1. You may use information around. For example, when the excavator 1 loads a load on the dump truck, the route calculation unit 51R can obtain a route in which the work machine 2 does not interfere with the dump truck. This route is a route in the global coordinate system.
  • the viewpoint conversion unit 51DT obtains a conversion matrix for converting the path image TL and the position of the work machine 2 into a predetermined position, for example, a position corresponding to the line of sight of the operator or an image viewed from the position of the imaging device 19.
  • a predetermined position for example, a position corresponding to the line of sight of the operator or an image viewed from the position of the imaging device 19.
  • the position Pgk (xg, yg, zg) of the work machine 2 in the global coordinate system (Xg, Yg, Zg) is the position of the work machine 2 in the imaging device coordinate system (Xs, Ys, Zs).
  • An example of conversion to Psk (xs, ys, zs) will be described.
  • the viewpoint conversion unit 51DT changes the position Pgk (xg, yg, zg) of the work machine 2 in the global coordinate system to the position Pmk (xm, ym, zm) of the work machine 2 in the vehicle body coordinate system (Xm, Ym, Zm).
  • a first conversion matrix Rg for conversion is obtained.
  • the position Pgk of the work machine 2 in the global coordinate system is converted to the position Pmk of the work machine 2 in the vehicle body coordinate system.
  • the first transformation matrix Rg is a 3 ⁇ 4 matrix including the roll angle ⁇ r, the pitch angle ⁇ p, the yaw angle ⁇ y of the excavator 1 and the translational components of the global coordinate system and the vehicle body coordinate system.
  • the roll angle ⁇ r, pitch angle ⁇ p, and yaw angle ⁇ y of the hydraulic excavator 1 are obtained from the vehicle information IFm.
  • the translational component between the global coordinate system and the vehicle body coordinate system can be obtained from the position Pg of the hydraulic excavator 1 included in the vehicle information IFm and the positional relationship between the position Pg of the hydraulic excavator 1 and the vehicle body coordinate system.
  • the viewpoint conversion unit 51DT obtains a second conversion matrix Rm for converting the position Pmk of the work machine 2 in the vehicle body coordinate system to the position Psk of the work machine 2 in the imaging device coordinate system. For this reason, by calculating the product of the position Pmk and the second conversion matrix Rm, the position Pmk of the work machine 2 in the vehicle body coordinate system is converted to the position Psk of the work machine 2 in the imaging device coordinate system.
  • the second transformation matrix Rm includes an angle ⁇ representing the displacement of the imaging device 19 around the Xs axis, an angle ⁇ representing the displacement of the imaging device 19 around the Ys axis, an angle ⁇ representing the displacement of the imaging device 19 around the Zs axis, And a 3 ⁇ 4 matrix including translational components of the vehicle body coordinate system and the imaging apparatus coordinate system.
  • the angles ⁇ , ⁇ , and ⁇ are obtained in advance.
  • the translational component between the vehicle body coordinate system and the imaging device coordinate system is obtained in advance from the positional relationship between the two in the hydraulic excavator 1.
  • the work machine area calculation unit 51DM uses the first conversion matrix Rg and the second conversion matrix Rm obtained by the viewpoint conversion unit 51DT to calculate the position Pgk of the work machine 2 in the global coordinate system in the imaging device coordinate system. Convert to position Psk.
  • the path drawing unit 51DR uses the first conversion matrix Rg and the second conversion matrix Rm obtained by the viewpoint conversion unit 51DT to convert the path tl or the path image TL in the global coordinate system into the path tl in the imaging apparatus coordinate system. Alternatively, it is converted into a route image TL.
  • the shielding calculation unit 51DC is based on a route image TL corresponding to the route tl or the route tl of the work implement 2 and the position Psk of the work implement 2, for example, a predetermined position of the imaging device 19.
  • the route tl is viewed from the position, the first portion where the route tl is shielded by the work implement 2 is obtained.
  • the route tl of the work machine 2 or the route image TL corresponding to the route tl is obtained by the route calculation unit 51R and converted into the imaging device coordinate system by the first conversion matrix Rg and the second conversion matrix Rm.
  • a route tl or a route image TL is obtained by the route calculation unit 51R and converted into the imaging device coordinate system by the first conversion matrix Rg and the second conversion matrix Rm.
  • the position Psk of the work machine 2 is a position obtained by the position calculation unit 51C and converted into the imaging apparatus coordinate system by the first conversion matrix Rg and the second conversion matrix Rm.
  • the shielding calculation unit 51DC displays the route image TL of the first part where the route tl is shielded by the work implement 2 on the display device 52 in a form different from the route image TL of the second portion where the route tl is not shielded by the work implement 2. Generate information to be displayed.
  • the first portion tl1 where the route image TL corresponding to the route tl or the route tl of the bucket 8 or the route tl in this example is blocked by the bucket 8 is a range from the position a to the position b.
  • this range is referred to as a range ab as appropriate.
  • the first portion tl1 in which the path tl or the path image TL corresponding to the path tl is shielded by the bucket 8 is obtained when the bucket 8 and the path tl or the path tl are viewed from the position of the imaging device 19 that is a predetermined position. 8 is a portion where the path tl or the path image TL is blocked.
  • the shielding calculation unit 51DC uses, for example, a process called a Z buffer or a W buffer (see Catmull, E. A Subdivision Algorithm for Computer Display of Curved Surfaces. 1974) in computer graphics technology to work the route tl.
  • the first part tl1 shielded by the machine 2 and the second part tl2 not shielded can be obtained.
  • the shielding calculation unit 51DC of the display processing unit 51D causes the display device 52 to display the route image TL existing in the range ab in a form different from the route image TL outside the range ab.
  • the shielding calculation unit 51DC displays the route image TL in the range ab transparent or semi-transparent and adds a color to the route image TL outside the range ab, or displays the color of the route image TL in the range ab.
  • the color of the route image TL outside the range ab is displayed differently, or the line type of the route image TL within the range ab is different from the line type of the route image TL outside the range ab.
  • the line type includes the thickness of the line.
  • Displaying the route image TL in the range ab in a transparent manner means that an image of the work machine 2 having a different form from the route image TL outside the range ab is displayed in the portion of the route image TL in the range ab.
  • the route image TL in the range ab is displayed transparently, the image of the bucket 8 is displayed in the portion of the route image TL in the range ab.
  • the imaging device 19 When the imaging device 19 is at the first position PLa and the route tl and the route image TL are represented by a one-dot chain line, that is, when the route tl exists between the work machine 2 and the imaging device 19, the bucket There is no portion where the path 8 tl or the path image TL corresponding to the path tl is blocked by the bucket 8. That is, when the bucket 8 and the path tl or path tl are viewed from the position of the imaging device 19 that is a predetermined position, there is no portion where the path tl or the path image TL is blocked by the bucket 8. In this case, the shielding calculation unit 51DC displays the route image TL on the display device 52 in the same form.
  • the first portion tl1 is a range from the position c to the position d.
  • this range is referred to as a range cd as appropriate.
  • the second portion tl2 where the bucket 8 does not shield the path tl of the bucket 8 or the path image TL corresponding to the path tl.
  • an operator who actually gets on the excavator 1 may wear a head-mounted display, and a route image TL may be displayed on the head-mounted display.
  • the position of the operator's viewpoint is changed by an operation such as moving the head
  • the position of the head mounted display is also changed.
  • the shielding calculation unit 51DC may obtain a portion where the path tl is shielded by the work implement 2 based on the changed position.
  • the image composition unit 51DS synthesizes the route image TL obtained by the shielding calculation unit 51DC and the image of the work machine 2 imaged by the imaging device 19 and causes the display device 52 to display the synthesized image.
  • the route image TL is an image in a three-dimensional space, but the route image TL displayed on the display device 52 is a two-dimensional image.
  • the image of the work machine 2 captured by the imaging device 19 is also a two-dimensional image. Accordingly, the image composition unit 51DS performs perspective projection conversion in which a path image TL defined in a three-dimensional space, that is, the imaging apparatus coordinate system, is projected onto a two-dimensional plane, and the converted path image TL is captured by the imaging apparatus. 19 is combined with the image of the work machine 2 imaged by 19 and displayed on the display device 52.
  • FIGS. 6 shows a state in which the bucket 8 is present behind the path tl when viewed from the position corresponding to the operator's viewpoint or the position of the imaging device 19.
  • the route image TL does not have a portion displayed in a different form.
  • FIG. 7 shows an example in which the bucket 8 is present in front of the route tl and the portion where the route tl is shielded by the bucket 8 is displayed transparently.
  • an image of the bucket 8 having a different form from the portion where the route tl is not shielded by the bucket 8 is displayed in the portion where the route tl is shielded by the bucket 8.
  • the image display system 100 specifically the processing device 51, can inform the operator of whether the work machine 2 is on the imaging device 19 side or the back side of the route tl, so that the remote Reduction in work efficiency in operation can be suppressed.
  • FIG. 8 is a flowchart illustrating a procedure of the image display method for the work machine according to the embodiment.
  • the image display method of the work machine is realized by the image display system 100.
  • the position calculation unit 51 ⁇ / b> C of the processing device 51 obtains the position of the work machine 2.
  • the display processing unit 51 ⁇ / b> D of the processing device 51 determines whether the route tl is blocked by the work implement 2 when viewed from a predetermined position.
  • step S103 the display processing unit 51D displays the route image TL of the shielded portion in a form different from the route image TL of the non-shielded portion. It is displayed on the display device 52.
  • Step S104 the display processing unit 51D causes the display device 52 to display all the route images TL in the same form.
  • FIG. 9 is a diagram illustrating a control system 1Sa of the excavator 1 according to a modification of the embodiment.
  • the image display system 100 and the remote operation system 101 described above remotely operate the hydraulic excavator 1 using the operation device 53 of the facility 50 shown in FIG.
  • a display device 52a is provided in the cab 4 of the excavator 1, and a route image TL is displayed on the display device 52a in order to assist the operation of the operator of the excavator 1.
  • a processing device 51 is connected to the signal line 35 of the control system 1S described above.
  • the operation device 53a is connected to the signal line 35 of the control system 1S described above via the work implement control device 17.
  • a display device 52 a is connected to the processing device 51.
  • the processing device 51 provided in the control system 1Sa has the same function as the processing device 51 provided in the facility 50 shown in FIG. 1 in the image display system 100 and the remote operation system 101 described above.
  • the processing device 51 and the display device 52a constitute an image display system 100a according to a modification.
  • the display device 52a of the control system 1Sa is a head-up display that projects an image on the front window FG of the driver's seat.
  • the display device 52a displays the route image TL at a position that matches the bucket 8 that can be seen through the front window FG.
  • the display device 52a is not limited to a head-up display, and may be a normal display.
  • the operating device 53a is a device for operating the excavator 1, and includes a left operating lever 53La and a right operating lever 53Ra.
  • the operating device 53a may be a pilot hydraulic system or an electric system.
  • the image display system 100a uses the route image TL displayed on the front window FG to inform the operator who operates the excavator 1 whether the work implement 2 is closer to the operator side than the route tl. It is possible to inform the operator of the information on the side.
  • the image display system 100a can suppress a reduction in work efficiency. The further away the bucket 8 is from the vehicle body 1B of the excavator 1, the more difficult it is for the operator to grasp the perspective. In such a case, the image display system 100a is effective in suppressing a reduction in work efficiency.
  • the image display systems 100 and 100a obtain the first part where the work machine 2 shields the path tl when the path tl is viewed from a predetermined position, and the path image TL corresponding to the first part. Is displayed on the display devices 52 and 52a in a form different from the route image TL corresponding to the second portion where the work machine 2 does not block the route tl.
  • the image display systems 100 and 100a may display the distance between the route image TL and the work implement 2 on the display devices 52 and 52a in addition to the route image TL.
  • the processing device 51 may change the display form of the route image TL in accordance with the distance between the work machine 2 and the route tl. For example, the processing device 51 changes the color of the route image TL as the distance between the work implement 2 and the route tl increases, or the brightness of the route image TL as the distance between the work implement 2 and the route tl increases. Or the route image TL can be made thicker as the distance between the work implement 2 and the route tl increases.
  • the position calculation unit 51C obtains a plurality of representative positions where the outer shape of the work machine 2 can be grasped as the position of the work machine 2. In addition to this, the position calculation unit 51C obtains the position of the plane corresponding to the opening of the bucket 8 as the position of the work machine 2, determines whether the work machine 2 blocks the path tl, and the path image TL. You may use for the process which changes a display form.
  • the position of the work machine 2 is not limited to that exemplified in the embodiment and the modification.
  • the work tool may be other than the bucket 8.
  • a gripping device that grips an object may be a work tool.
  • the position calculation unit 51C may determine whether the work tool and an object gripped by the work tool shield the path tl.
  • a distance detection device such as a stereo camera or a laser scanner is attached to the excavator 1, and the position of the object held by the work tool is detected by the distance detection device.
  • the position calculation unit 51C obtains the position of the object held by the work tool from the position information detected by the distance detection device.
  • the position calculation unit 51C determines, for example, the position of a portion whose distance from the imaging device 19 is within a predetermined range centering on the position of the gripping portion of the work tool. Suppose that the position of the object held by the work tool. By such processing, the position calculation unit 51C obtains the position of the work tool and the object gripped by the work tool, and the work tool and the object gripped by the work tool shield the path tl based on the obtained position. It is determined whether or not to do.
  • the position calculation unit 51 ⁇ / b> C sets the position of the portion raised from the opening of the bucket 8 to the bucket 8 by a process similar to the process for obtaining the position of the object held by the work tool. It can be obtained as the position of the loaded object.
  • the position calculation unit 51C obtains the position of the object loaded on the bucket 8 and determines whether the bucket 8 and the object loaded on the bucket 8 block the path tl based on the obtained position. Good. By such processing, the image display systems 100 and 100a can display more realistic images on the display devices 52 and 52a.
  • the processing device 51 detects the posture of the work machine 2 and the first operation of the operation devices 53 and 53a by the operator, displays the route image TL on the display devices 52 and 52a, and the second of the operation devices 53 and 53a.
  • the display of the route image TL may be turned off.
  • the route image TL is erased, so that the visibility of the operator is improved.
  • Examples of the first operation include an operation of turning the swing body 3 in a state where the bucket 8 is held at a low position.
  • An example of the second operation is a dump operation (a soil discharge operation) for discharging the load in the bucket 8.
  • the work machine is not limited to the hydraulic excavator 1 and may be another work machine having a work machine such as a wheel loader or a bulldozer.

Abstract

作業機械が有する作業機の位置を求める位置演算部と、前記作業機が移動するであろう経路に対応する経路画像を表示する表示部と、前記経路の位置と前記位置演算部によって求められた前記作業機の位置とに基づき、所定の位置を視点として前記作業機によって遮蔽される前記経路の部分に対応する前記経路画像を、前記作業機によって遮蔽されない前記経路の部分に対応する前記経路画像とは異なる形態で前記表示部に表示させる表示処理部と、を含む。

Description

作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法
 本発明は、作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法に関する。
 特許文献1に記載されているように、油圧ショベル等の作業機械を遠隔操作する技術が知られている。また、特許文献2は、作業機の位置情報に基づいて、作業支援情報のコンバイナ表面に沿った表示位置及び運転室の前方への奥行き表示位置を制御し、運転室のオペレータが知覚する作業支援情報の投影像を作業機の周囲に表示する技術が記載されている。
特開2004-294067号公報 特開2014-129676号公報
 作業機械を遠隔操作する場合、作業機械のオペレータ視点の画像を用いた操作では、表示される画像が2次元のため、遠近感に乏しくなる。そのため、作業機と作業対象との距離を把握することが難しくなり、作業効率が低下する可能性がある。また、作業機械に搭乗したオペレータが作業機を操作する場合も、オペレータの熟練度によっては作業機と作業対象との距離を把握することが難しい場合があり、作業効率が低下する可能性もある。単に奥行き表示位置を制御して作業支援情報を運転室の前方に投影しても、2次元の画面でオペレータに奥行きを伝えることは難しい。その結果、作業効率の低下を招く可能性がある。
 本発明の態様は、作業機を備えた作業機械を用いて作業する際に、作業効率の低下を抑制することを目的とする。
 本発明の第1の態様によれば、作業機械が有する作業機の位置を求める位置演算部と、前記作業機が移動するであろう経路に対応する経路画像を表示する表示部と、前記経路の位置と前記位置演算部によって求められた前記作業機の位置とに基づき、所定の位置を視点として前記作業機によって遮蔽される前記経路の部分に対応する前記経路画像を、前記作業機によって遮蔽されない前記経路の部分に対応する前記経路画像とは異なる形態で前記表示部に表示させる表示処理部と、を含む作業機械の画像表示システムが提供される。
 本発明の第2の態様によれば、第1の態様において、前記表示処理部は、前記経路画像を、前記所定の位置から見た画像に変換して、前記表示部に表示させる作業機械の画像表示システムが提供される。
 本発明の第3の態様によれば、第2の態様において、前記作業機械に取り付けられて対象を撮像する撮像装置を有し、前記表示処理部は、前記経路画像と、前記撮像装置によって撮像された前記作業機の画像とを合成して、前記表示部に表示させる作業機械の画像表示システムが提供される。
 本発明の第4の態様によれば、第3の態様において、前記所定の位置は、前記作業機械に取り付けられて対象を撮像する撮像装置の位置である作業機械の画像表示システムが提供される。
 本発明の第5の態様によれば、第1の態様から第4の態様のいずれか1つにおいて、前記表示処理部は、前記作業機と前記経路との間の距離に応じて、前記経路画像の表示形態を変更する作業機械の画像表示システムが提供される。
 本発明の第6の態様によれば、第1の態様から第5の態様のいずれか1つに係る作業機械の画像表示システムと、前記作業機を操作する操作装置と、を含む作業機械の遠隔操作システムが提供される。
 本発明の第7の態様によれば、第1の態様から第5の態様のいずれか1つに係る作業機械の画像表示システムを備えた作業機械が提供される。
 本発明の第8の態様によれば、作業機械の作業機の位置を求め、前記作業機が移動するであろう経路の位置と前記作業機の位置とに基づいて、所定の位置を視点として前記作業機が前記経路を遮蔽するか否かを判定し、前記作業機が前記経路を遮蔽する部分の経路に対応する経路画像を、前記作業機が前記経路を遮蔽しない部分に対応する前記経路画像とは異なる形態で表示部に表示させる作業機械の画像表示方法が提供される。
 本発明の態様は、作業機を備えた作業機械を用いて作業する際に、作業効率の低下を抑制することができる。
図1は、実施形態に係る作業機械の画像表示システム及び作業機械の遠隔操作システムを示す図である。 図2は、油圧ショベルの制御系を示す図である。 図3は、画像表示システムの処理装置が備える処理部の制御ブロック図である。 図4は、グローバル座標系の位置を撮像装置座標系の位置へ変換する例を示す図である。 図5は、所定の位置から経路画像を見た場合において、作業機が経路を遮蔽するか否かを判定する処理を説明するための図である。 図6は、経路画像と作業機のバケットとを表示装置に重畳して表示させた状態の一例を示す図である。 図7は、経路画像と作業機のバケットとを表示装置に重畳して表示させた状態の一例を示す図である。 図8は、実施形態に係る作業機械の画像表示方法の手順を示すフローチャートである。 図9は、実施形態の変形例に係る油圧ショベルの制御系を示す図である。
 本発明を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。
<作業機械の画像表示システム及び作業機械の遠隔操作システムの概要>
 図1は、実施形態に係る作業機械の画像表示システム100及び作業機械の遠隔操作システム101を示す図である。作業機械の画像表示システム100(以下においては適宜、画像表示システム100と称する)は、作業機械のオペレータが、作業機械の一例である油圧ショベル1を遠隔操作する際に、油圧ショベル1の作業対象、より詳細には油圧ショベル1が備える作業機2による作業の対象である地形面、すなわち作業対象WA及び作業具であるバケット8を撮像装置19で撮像し、得られた画像を表示装置52に表示させる。このとき、画像表示システム100は、バケット8を含む画像及びバケット8が移動する際の経路tlに対応する経路画像TLを表示装置52に表示させる。
 画像表示システム100は、位置演算部51Cと、経路演算部51Rと、表示部である表示装置52と、表示処理部51Dとを含む。作業機械の遠隔操作システム101(以下においては適宜、遠隔操作システム101と称する)は、画像表示システム100と、操作装置53とを含む。実施形態において、画像表示システム100の位置演算装置23は油圧ショベル1に設置され、位置演算部51C、経路演算部51R、表示装置52及び表示処理部51Dは施設50に設置される。施設50は、油圧ショベル1を遠隔操作したり、油圧ショベル1を管理したりするために用いられる。
 画像表示システム100の位置演算部51C、経路演算部51R及び表示処理部51Dは、施設50内の処理装置51の一部である。処理装置51は、処理部51Pと、記憶部51Mと、入出力部51IOとを含む。処理部51Pは、例えばCPU(Central Processing Unit)及びGPU(Graphical Processing Unit)のようなプロセッサが例示される。記憶部51Mは、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスクドライブ、ストレージデバイス又はこれらの組合せが例示される。入出力部51IOは、処理装置51と外部の機器とを接続するためのインターフェース回路である。実施形態において、入出力部51IOには、外部の機器として、表示装置52、操作装置53及び通信装置54が接続されている。入出力部51IOに接続される外部の機器はこれらに限定されるものではない。
 処理部51Pは、位置演算部51C、経路演算部51R及び表示処理部51Dを有する。位置演算部51Cは、油圧ショベル1の作業機2の位置を求める。作業機2の位置は、作業機2が有する作業具、実施形態ではバケット8の位置を含む。経路演算部51Rは、作業機2が移動する際の経路tl、すなわち作業機2が移動するであろう経路tl(作業機2がこれから移動する予定の経路tl)を求める。実施形態においては、作業機2の一部であるバケット8が移動する際の経路tlが求められるが、バケット8の経路には限定されない。経路tlは、バケット8が移動する際に目標となる経路である。すなわち、経路tlは、オペレータが作業機2を移動させる際の目安となることにより、オペレータを支援するための目標指標となる。
 作業機2が移動する際の経路tlは、例えば障害物に作業機2が接触しないような経路としたり、最短で移動できる経路としたり、最も効率よく移動できる経路としたり、現場の目標施工面又は設計面のような設計情報に沿った経路としたりすることができる。この他にも、作業機2が対象を掘削した後に作業機2を持ち上げながら旋回するホイスト旋回時の経路、及び積み込み又は廃土後に作業機2を下げながら旋回するホイスト旋回時の経路を作業機2が移動する経路tlとしてもよい。実施形態において、バケット8の刃先8Tの幅方向における中心を経路tlの基準の位置とするが、これに限らず、バケット8の刃先8Tの左端又は右端を基準点としてもよい。また、バケット8の刃先8T以外を経路tlの基準の位置としてもよい。
 表示処理部51Dは、経路演算部51Rによって求められた経路の位置と位置演算部51Cによって求められた作業機2の位置とに基づき、求められた経路tlを所定の位置を視点として、経路tlが作業機2によって遮蔽される部分である第1部分tl1を求める。表示処理部51Dは、所定の位置から見た場合において、経路tlが作業機2によって遮蔽される第1部分tl1の経路画像TLを、経路tlが作業機2によって遮蔽されない部分である第2部分tl2の経路画像TLとは異なる形態で表示装置52に表示させる。作業機2は、作業機2を構成する部材としてバケット8、アーム7及びブーム6を含む。したがって、経路tlが作業機2によって遮蔽されるとは、経路tlが作業機2を構成する部材によって遮蔽されることを意味する。実施形態においては、経路tlが作業機2の少なくとも一部、例えばバケット8、バケット8の刃8B、アーム7、ブーム6又はバケット8及びアーム7等によって遮蔽される場合、及び経路tlが作業機2の全体によって遮蔽される場合のいずれも、経路tlが作業機2によって遮蔽されることに含まれる。
 所定の位置とは、油圧ショベル1を操作するオペレータの視点に対応する位置及び油圧ショベル1に取り付けられて対象を撮像する撮像装置19の位置が例示される。油圧ショベル1を操作するオペレータの視点に対応する位置とは、オペレータが油圧ショベル1の運転席に着座して油圧ショベル1を操作する姿勢での目の位置が例示される。また、所定の位置としては、オペレータの視点に対応する位置及び撮像装置19の位置には限定されず、これらの視点とは関係のない自由な視点であってもよい。自由な視点としては、鳥瞰視点及び仮想空間上に配置されるオペレータの視点等が例示される。
 実施形態において、処理部51Pは、記憶部51Mから位置演算部51C、経路演算部51R及び表示処理部51Dの機能を実現するためのコンピュータプログラムを読み込んで実行することにより、位置演算部51C、経路演算部51R及び表示処理部51Dの機能を実現する。位置演算部51C、経路演算部51R及び表示処理部51Dの機能は、処理回路によって実現されてもよい。処理回路は、位置演算部51C、経路演算部51R及び表示処理部51Dの機能を実現するための専用のハードウェアである。処理回路は、単一回路、複合回路、プログラム化されたプロセッサ、並列プログラム化されたプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、又はこれらを組み合わせたものが該当する。
 表示装置52は、処理装置51によって生成された経路tlと、油圧ショベル1の撮像装置19によって撮像された画像、実施形態ではバケット8を含む画像とを表示する。表示装置52は、液晶ディスプレイ又はプロジェクタが例示されるがこれらに限定されるものではない。通信装置54は、アンテナ54Aを備えている。通信装置54は、油圧ショベル1に備えられた通信装置25と通信して、油圧ショベル1の情報を取得したり、油圧ショベル1に情報を送信したりする。
 操作装置53は、オペレータの左側に設置される左操作レバー53Lと、オペレータの右側に配置される右操作レバー53Rと、を有する。左操作レバー53L及び右操作レバー53Rは、前後左右の動作が2軸の動作に対応されている。例えば、右操作レバー53Rの前後方向の操作は、油圧ショベル1が備える作業機2のブーム6の操作に対応している。右操作レバー53Rの左右方向の操作は、作業機2のバケット8の操作に対応している。左操作レバー53Lの前後方向の操作は、作業機2のアーム7の操作に対応している。左操作レバー53Lの左右方向の操作は、油圧ショベル1の旋回体3の旋回に対応している。
 左操作レバー53L及び右操作レバー53Rの操作量は、例えば、ポテンショメータ及びホールIC等によって検出され、処理装置51は、これらの検出値に基づいて油圧ショベル1の油圧回路に備えられた電磁制御弁を制御するための制御信号を生成する。この信号は、施設50の通信装置54及び油圧ショベル1の通信装置25を介して作業機制御装置27に送られる。作業機制御装置27は、制御信号に基づいて電磁制御弁を制御することによって作業機2を制御する。電磁制御弁については後述する。
 処理装置51は、左操作レバー53L及び右操作レバー53Rの少なくとも一方に対する入力を取得し、作業機2及び旋回体3の少なくとも一方を動作させるための命令を生成する。処理装置51は、生成した命令を、通信装置54を介して油圧ショベル1の通信装置25に送信する。油圧ショベル1が備える作業機制御装置27は、通信装置25を介して処理装置51からの命令を取得し、命令にしたがって作業機2及び旋回体3の少なくとも一方を動作させる。
<油圧ショベル1>
 油圧ショベル1は、通信装置25と、作業機制御装置27と、第1姿勢検出装置32と、第2姿勢検出装置33と、撮像装置19と、アンテナ21,22と、位置演算装置23とを備える。通信装置25は、アンテナ24に接続されており、施設50に備えられた通信装置54と通信する。作業機制御装置27は、作業機2及び旋回体3の動作を制御する。第1姿勢検出装置32は、作業機2の姿勢を検出する。第2姿勢検出装置33は、油圧ショベル1の姿勢を検出する。撮像装置19は、油圧ショベル1に取り付けられて、作業機2を撮像したり、作業対象WAを撮像したりする。アンテナ21,22は、測位衛星200からの電波を受信する。位置演算装置23は、アンテナ21,22が受信した電波を用いて、アンテナ21,22のグローバル位置、すなわちグローバル座標系における位置を求める。
 油圧ショベル1は、本体部としての車両本体1Bと作業機2とを有する。車両本体1Bは、旋回体3と走行体5とを有する。実施形態において、油圧ショベル1は、動力発生装置であるエンジンに、例えばディーゼルエンジン等の内燃機関が用いられるが、動力発生装置は内燃機関に限定されない。油圧ショベル1の動力発生装置は、例えば、内燃機関と発電電動機と蓄電装置とを組み合わせた、いわゆるハイブリッド方式の装置であってもよい。また、油圧ショベル1の動力発生装置は、内燃機関を有さず、蓄電装置と発電電動機とを組み合わせた装置であってもよい。
 走行体5は、旋回体3を搭載する。走行体5は、履帯を有している。作業機2は、旋回体3の運転室4の側方側に取り付けられている。
 旋回体3は、作業機2及び運転室4が配置されている側が前であり、カウンタウェイトが配置されている側が後である。旋回体3の前後方向がXm軸の方向である。前に向かって左側が旋回体3の左であり、前に向かって右側が旋回体3の右である。旋回体3の左右方向は、幅方向又はYm軸の方向ともいう。油圧ショベル1又は車両本体1Bは、旋回体3を基準として走行体5側が下であり、走行体5を基準として旋回体3側が上である。旋回体3の上下方向がZm軸の方向である。油圧ショベル1が水平面に設置されている場合、下は鉛直方向、すなわち重力の作用方向側であり、上は鉛直方向とは反対側である。
 作業機2は、ブーム6とアーム7と作業具であるバケット8とブームシリンダ10とアームシリンダ11とバケットシリンダ12とを有する。バケット8は、複数の刃8Bを有する。刃先8Tは、刃8Bの先端である。バケット8は、複数の刃8Bを有するものには限定されない。バケット8は、チルトバケットであってもよい。この他にも、作業機2は、バケット8の代わりに、法面バケット又は削岩用のチップを備えた削岩用のアタッチメント等を作業具として備えていてもよい。
 ブームシリンダ10とアームシリンダ11とバケットシリンダ12とは、それぞれ油圧ポンプから吐出される作動油の圧力によって駆動される油圧シリンダである。ブームシリンダ10はブーム6を駆動する。アームシリンダ11は、アーム7を駆動する。バケットシリンダ12は、バケット8を駆動する。
 旋回体3の上部には、アンテナ21,22及びアンテナ24が取り付けられている。アンテナ21,22は、油圧ショベル1の位置を検出するために用いられる。アンテナ21,22は、図1に示される位置演算装置23と電気的に接続されている。
 アンテナ21,22は、GNSS(Real Time Kinematic-Global Navigation Satellite Systems,GNSSは全地球航法衛星システムをいう)用のアンテナである。アンテナ21,22は、Ym軸と平行な方向に沿って、一定距離だけ離れて配置されている。アンテナ21,22は、測位衛星200からGNSS電波を受信し、受信したGNSS電波に応じた信号を出力する。アンテナ21,22は、GPS(Global Positioning System)用のアンテナであってもよい。
 位置演算装置23は、油圧ショベル1の位置を検出する位置検出装置である。位置演算装置23は、GNSSを利用して油圧ショベル1の位置を検出する。
 撮像装置19は、図1に示される作業対象WAを撮像するので、できる限り広い作業対象WAからの情報を取得することが好ましい。このため、実施形態において、撮像装置19は、旋回体3の運転室4の上方に設置される。撮像装置19が設置される場所は運転席の上方に限定されるものではない。例えば、撮像装置19は、運転室4の内部かつ上方に設置されてもよい。
 撮像装置19は、撮像面19Lが旋回体3の前方を向いている。実施形態において、撮像装置19は、CCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサのようなイメージセンサを備えた単眼カメラであるが、これに限定されるものではない。
<座標系について>
 実施形態において、油圧ショベル1の座標系は車体座標系(Xm,Ym,Zm)であり、撮像装置19の座標系は撮像装置座標系(Xs,Ys,Zs)である。GNSS又はGPSの座標系は、グローバル座標系(Xg,Yg,Zg)である。グローバル座標系(Xg,Yg,Zg)は、地球に固定された原点を基準とした座標系である。
 車体座標系(Xm,Ym,Zm)は、車両本体1B、実施形態では旋回体3に固定された原点を基準とする座標系である。実施形態において、車体座標系(Xm,Ym,Zm)の原点は、例えば、旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回中心軸上に存在する。車体座標系(Xm,Ym,Zm)のZm軸は旋回体3の旋回中心軸となる軸である。Xm軸は、旋回体3の前後方向に延び、かつZm軸と直交する軸である。Xm軸は、旋回体3の前後方向における基準軸である。Ym軸は、Zm軸及びXm軸と直交する、旋回体3の幅方向に延びる軸である。
 撮像装置座標系(Xs,Ys,Zs)の原点は、例えば、撮像装置19の中心である。撮像装置19の中心は、撮像装置19の光学中心又は撮像装置19が有するイメージセンサの受光面の中心とすることができる。撮像装置座標系(Xs,Ys,Zs)のXs軸は、撮像装置19の光学中心を通り、かつ撮像面19Lと直交する方向に延びる軸である。Ys軸は、Xs軸と直交する軸である。Zs軸は、Xs軸及びYs軸の両方と直交する軸である。
<油圧ショベル1の制御系>
 図2は、油圧ショベル1の制御系1Sを示す図である。制御系1Sは、通信装置25と、センサコントローラ26と、作業機制御装置27と、撮像装置19と、位置演算装置23と、第1姿勢検出装置32と、第2姿勢検出装置33と、油圧システム36と、を備える。通信装置25と、センサコントローラ26と、作業機制御装置27とは、信号線35によって接続されている。このような構造により、通信装置25と、センサコントローラ26と、作業機制御装置27とは、信号線35を介して相互に情報をやり取りすることができる。制御系1S内で情報を伝達する信号線は、CAN(Controller Area Network)のような車内信号線が例示される。
 センサコントローラ26は、CPU(Central Processing Unit)等のプロセッサと、RAM及びROM等の記憶装置とを有する。センサコントローラ26には、位置演算装置23の検出値、撮像装置19によって撮像された画像の情報、第1姿勢検出装置32の検出値及び第2姿勢検出装置33の検出値が入力される。センサコントローラ26は、入力された検出値及び画像の情報を、信号線35及び通信装置25を介して、図1に示される施設50の処理装置51に送信する。
 作業機制御装置27は、CPU(Central Processing Unit)等のプロセッサと、RAM(Random Access Memory)及びROM(Read Only Memory)等の記憶装置とを有する。作業機制御装置27は、施設50の処理装置51によって生成された、作業機2及び旋回体3の少なくとも一方を動作させるための命令を、通信装置25を介して取得する。作業機制御装置27は、取得した命令に基づいて、油圧システム36の電磁制御弁28を制御する。
 油圧システム36は、電磁制御弁28と、油圧ポンプ29と、ブームシリンダ10、アームシリンダ11、バケットシリンダ12及び旋回モータ30等の油圧アクチュエータとを備える。油圧ポンプ29は、エンジン31によって駆動されて、油圧アクチュエータを動作させるための作動油を吐出する。作業機制御装置27は、電磁制御弁28を制御することにより、ブームシリンダ10、アームシリンダ11、バケットシリンダ12及び旋回モータ30に供給される作動油の流量を制御する。このようにして、作業機制御装置27は、ブームシリンダ10、アームシリンダ11、バケットシリンダ12及び旋回モータ30の動作を制御する。
 センサコントローラ26は、第1ストロークセンサ16、第2ストロークセンサ17及び第3ストロークセンサ18の検出値を取得する。第1ストロークセンサ16はブームシリンダ10に、第2ストロークセンサ17はアームシリンダ11に、第3ストロークセンサ18はバケットシリンダ12に、それぞれ設けられる。
 第1ストロークセンサ16は、ブームシリンダ10の長さであるブームシリンダ長を検出してセンサコントローラ26に出力する。第2ストロークセンサ17は、アームシリンダ11の長さであるアームシリンダ長を検出してセンサコントローラ26に出力する。第3ストロークセンサ18は、バケットシリンダ12の長さであるバケットシリンダ長を検出してセンサコントローラ26に出力する。
 ブームシリンダ長、アームシリンダ長及びバケットシリンダ長が決定されれば、作業機2の姿勢が決定される。これらを検出する第1ストロークセンサ16、第2ストロークセンサ17及び第3ストロークセンサ18は、作業機2の姿勢を検出する第1姿勢検出装置32に相当する。第1姿勢検出装置32は、第1ストロークセンサ16、第2ストロークセンサ17及び第3ストロークセンサ18に限定されるものではなく、角度検出器であってもよい。
 センサコントローラ26は、第1ストロークセンサ16が検出したブームシリンダ長から、油圧ショベル1の座標系である車体座標系における水平面と直交する方向(Zm軸方向)に対するブーム6の傾斜角であるブーム角を算出する。センサコントローラ26は、第2ストロークセンサ17が検出したアームシリンダ長から、ブーム6に対するアーム7の傾斜角であるアーム角を算出する。センサコントローラ26は、第3ストロークセンサ18が検出したバケットシリンダ長から、アーム7に対するバケット8の傾斜角であるバケット角を算出する。ブーム6、アーム7及びバケット8の傾斜角は、作業機2の姿勢を示す情報である。すなわち、センサコントローラ26は、作業機2の姿勢を示す情報を求める。センサコントローラ26は、算出した傾斜角を、信号線35及び通信装置25を介して、図1に示される施設50の処理装置51に送信する。
 位置演算装置23は、CPU等のプロセッサと、RAM及びROM等の記憶装置とを有する。位置演算装置23は、油圧ショベル1の位置を求める。詳細には、位置演算装置23は、アンテナ21,22から取得した信号を用いて、グローバル座標系(Xg,Yg,Zg)におけるアンテナ21,22の位置及び旋回体3の方位を検出して、出力する。旋回体3の方位は、グローバル座標系における旋回体3の向きを表す。旋回体3の向きは、例えば、グローバル座標系のZg軸周りにおける旋回体3の前後方向の向きで表すことができる。方位角は、旋回体3の前後方向における基準軸の、グローバル座標系のZg軸周りにおける回転角である。方位角によって旋回体3の方位が表される。
 第2姿勢検出装置33は、実施形態においてはIMU(Inertial Measurement Unit:慣性計測装置)である。第2姿勢検出装置33は、油圧ショベル1の動作及び姿勢を検出する。以下において、第2姿勢検出装置33を、IMU33と称することもある。油圧ショベル1の動作は、旋回体3の動作及び走行体5の動作の少なくとも一方を含む。油圧ショベル1の姿勢は、油圧ショベル1のロール角、ピッチ角及びヨー角によって表される。実施形態において、第2姿勢検出装置33は、油圧ショベル1の角度又は角速度、及び加速度を検出して出力する。第2姿勢検出装置33によって検出される油圧ショベル1の角度は、油圧ショベル1のロール角、ピッチ角及びヨー角である。
<処理装置51が実行する処理の詳細>
 油圧ショベル1のオペレータが、遠隔操作システム101の表示装置52を視認しながら操作装置53を用いて油圧ショベル1を遠隔操作する場合、処理装置51は、オペレータによる遠隔操作の指標となるガイドとして、経路画像TLを表示装置52に表示させる。表示装置52の画面は2次元画面であり、奥行きをオペレータに伝えることは難しい。
 このため、処理装置51は、経路画像TLを作業機2の画像に重畳して表示する場合、所定の位置、例えばオペレータの視点に対応する位置又は油圧ショベル1が有する撮像装置19の位置から見た場合に、経路tlが作業機2によって遮蔽されるか否かの情報を表示装置52に表示する。詳細には、処理装置51は、所定の位置から見た場合において、経路tlが作業機2によって遮蔽される第1部分を求める。そして、処理装置51は、経路tlが作業機2によって遮蔽される第1部分の経路画像TLを、経路tlが作業機2によって遮蔽されない第2部分の経路画像TLとは異なる形態で表示装置52に表示させる。実施形態において、処理装置51は、所定の位置から見た場合において、経路tlが作業機2によって遮蔽される第1部分の経路画像TLを表示せず、経路tlが作業機2によって遮蔽されない第2部分の経路画像TLを表示する。このような処理により、処理装置51は、経路t1よりも作業機2が油圧ショベル1の撮像装置19側にあるか、奥側にあるかの情報、すなわち、奥行きの情報をオペレータに伝えることができるので、遠隔操作における作業の効率低下を抑制できる。
 図3は、画像表示システム100の処理装置51が備える処理部51Pの制御ブロック図である。図4は、グローバル座標系の位置を撮像装置座標系の位置へ変換する例を示す図である。図5は、所定の位置から経路画像TLを見た場合において、経路tlが作業機2によって遮蔽されるか否かを判定する処理を説明するための図である。図6及び図7は、経路画像TLと作業機2のバケット8とを表示装置52に重畳して表示させた状態の一例を示す図である。
 処理部51Pは、車両情報IFmを受け付けて、受け付けた車両情報IFmを位置演算部51Cと、経路演算部51Rと、表示処理部51Dに与える。表示処理部51Dは、視点変換部51DT、作業機領域演算部51DM、経路描画部51DR、遮蔽演算部51DC及び画像合成部51DSを有する。
 車両情報IFmは、油圧ショベル1の位置及び姿勢と、油圧ショベル1が有する作業機2の姿勢とを含む。油圧ショベル1の位置Pgは、位置演算装置23によって検出された、グローバル座標系におけるアンテナ21及びアンテナ22の少なくとも一方の位置である。油圧ショベル1の姿勢は、第2姿勢検出装置33によって検出された、油圧ショベル1のロール角θr、ピッチ角θp及びヨー角θyである。ヨー角は、位置演算装置23によって、2個のアンテナ21,22の相対位置から求められた方位角であってもよい。
 作業機2の姿勢は、第1姿勢検出装置32である第1ストロークセンサ16、第2ストロークセンサ17及び第3ストロークセンサ18によって検出される。実施形態において、作業機2の姿勢は、ブーム角θb、アーム角θa及びバケット角θkである。
 車両情報IFmは、油圧ショベル1のセンサコントローラ26から通信装置25を介して施設50の通信装置54に送られる。車両情報IFmを受け取った通信装置54は、処理装置51の入出力部51IOに車両情報IFmを与える。入出力部51IOは、受け取った車両情報IFmを、処理部51Pに与える。処理部51Pの位置演算部51C、経路演算部51R及び表示処理部51Dの視点変換部51DTは、それぞれ受け取った車両情報IFmを用いて処理を実行する。
 位置演算部51Cは、受け取った車両情報IFmのうち、作業機2に関する情報を用いて、作業機2の位置を求める。作業機2に関する情報は、作業機2のブーム角θb、アーム角θa及びバケット角θkである。作業機2の寸法、例えばブーム6の長さ、アーム7の長さ及びバケット8の回転中心から刃先8Tまでの長さは、作業機2のモデルとして予め処理装置51の記憶部51Mに記憶されている。
 例えば、作業機2の位置として例えばバケット8の刃先8Tの位置を求める場合、作業機2のブーム角θb、アーム角θa及びバケット角θkと、ブーム6の長さ、アーム7の長さ及びバケット8の回転中心から刃先8Tまでの長さとにより、ブーム6の旋回体3側の基端と刃先8Tとの位置関係が分かる。油圧ショベル1の位置Pg、実施形態ではアンテナ21及びアンテナ22の少なくとも一方の位置と、ブーム6の旋回体3側の基端との位置関係は予め求められるので、位置演算部51Cは、油圧ショベル1の位置Pgと、作業機2に関する情報と、作業機2の寸法と、旋回体3の方位とから、グローバル座標系におけるバケット8の刃先8Tの位置を求めることができる。旋回体3の方位は、アンテナ21,22によって得られたこれらの位置から求められてもよいし、IMU33によって検出された旋回体3のヨー角が用いられてもよい。
 このように、作業機2の位置であるバケット8の刃先8Tの位置は、作業機2の位置及び油圧ショベル1の姿勢、より詳細には作業機2の位置及び旋回体3の姿勢から求められる。作業機2の位置は、作業機2の寸法及び作業機2の姿勢から求められる。実施形態において位置演算部51Cは、作業機2の位置として、作業機2が有するバケット8、アーム7及びブーム6の位置を求める。位置演算部51Cは、作業機2の位置を求める場合、例えば、作業機2の寸法及び形状の情報に基づく作業機2のモデルを用いて、作業機2の位置を求める。作業機2の寸法及び形状は、作業機2の設計情報又はCAD(Computer Aided Design)のモデルに含まれる。
 前述した説明において、位置演算部51Cは、作業機2の位置としてバケット8の刃先8Tを求めた。位置演算部51Cは、作業機2の刃先8T以外の位置を求める場合は、作業機2の外形を把握できる複数の代表位置を求め、複数の代表位置で囲まれる範囲内の位置を作業機2の位置としてもよい。作業機2の位置としては、バケット8の位置、アーム7の位置及びブーム6の位置の少なくとも1つが含まれる。前述した刃先8Tの位置は、バケット8の位置の一部である。実施形態において、位置演算部51Cは、バケット8の位置、アーム7の位置及びブーム6の位置を作業機2の位置として求める。
 位置演算部51Cは、表示装置52の画面に占める作業機2の部分、経路tlの位置及び処理の負荷等に応じて、作業機2のうち、作業機2の位置を求める対象を変更してもよい。例えば、表示装置52の画面にバケット8と、アーム7の一部とが写る場合には、位置演算部51Cは、バケット8の位置及びアーム7の位置を作業機2の位置として求めてもよい。このようにすることで、位置演算部51Cが実行する処理の負荷が低減される。位置演算部51Cは、バケット8、アーム7及びブーム6のすべての位置を求めると処理の負荷が過大になる場合、作業機2のバケット8の位置のみを作業機2の位置として求めてもよい。このようにすることで、位置演算部51Cが実行する処理の負荷が低減されるので、画像表示システム100のハードウェア資源の負荷が軽減される。
 経路演算部51Rは、受け取った車両情報IFmに基づき、作業機2が移動する際の経路、実施形態ではバケット8が移動する際の経路を求める。この経路は、前述した通り、作業機2が移動する際に目標とする経路である。経路を求めるにあたっては、油圧ショベル1の現在の位置及び姿勢に関する情報が必要である。経路演算部51Rは車両情報IFmに含まれる油圧ショベル1の現在の位置Pg及び姿勢を基準に経路を求める。経路演算部51Rが経路を求めるにあたって、経路演算部51Rは、油圧ショベル1の撮像装置19、又は油圧ショベル1に搭載されたステレオカメラ若しくはレーザスキャナのような距離検出装置によって得られた油圧ショベル1の周囲の情報を用いてもよい。例えば、油圧ショベル1がダンプトラックに積荷を積載する場合、経路演算部51Rは、作業機2がダンプトラックと干渉しないような経路を求めることができる。この経路は、グローバル座標系における経路である。
 視点変換部51DTは、経路画像TL及び作業機2の位置を、所定の位置、例えばオペレータの視線に対応する位置又は撮像装置19の位置から見た画像に変換するための変換行列を求める。図4を参照しながら、グローバル座標系(Xg,Yg,Zg)における作業機2の位置Pgk(xg,yg,zg)を、撮像装置座標系(Xs,Ys,Zs)における作業機2の位置Psk(xs,ys,zs)に変換する一例を説明する。
 視点変換部51DTは、グローバル座標系における作業機2の位置Pgk(xg,yg,zg)を、車体座標系(Xm,Ym,Zm)における作業機2の位置Pmk(xm,ym,zm)に変換するための、第1の変換行列Rgを求める。位置Pgkと第1の変換行列Rgとの積が演算されることにより、グローバル座標系における作業機2の位置Pgkは、車体座標系における作業機2の位置Pmkに変換される。第1の変換行列Rgは、油圧ショベル1のロール角θr、ピッチ角θp、ヨー角θy、及びグローバル座標系と車体座標系との並進成分を含む、3×4の行列である。油圧ショベル1のロール角θr、ピッチ角θp、ヨー角θyは、車両情報IFmから得られる。グローバル座標系と車体座標系との並進成分は、車両情報IFmに含まれる油圧ショベル1の位置Pg、及び油圧ショベル1の位置Pgと車体座標系との位置関係から求めることができる。
 次に、視点変換部51DTは、車体座標系における作業機2の位置Pmkを、撮像装置座標系における作業機2の位置Pskに変換するための、第2の変換行列Rmを求める。このため、位置Pmkと第2の変換行列Rmとの積が演算されることにより、車体座標系における作業機2の位置Pmkは、撮像装置座標系における作業機2の位置Pskに変換される。第2の変換行列Rmは、Xs軸周りにおける撮像装置19のずれを表す角度α、Ys軸周りにおける撮像装置19のずれを表す角度β、Zs軸周りにおける撮像装置19のずれを表す角度γ、及び車体座標系と撮像装置座標系との並進成分を含む、3×4の行列である。角度α,β,γは予め求められる。また、車体座標系と撮像装置座標系との並進成分は、油圧ショベル1における両者の位置関係から予め求められる。
 作業機領域演算部51DMは、視点変換部51DTによって求められた第1の変換行列Rg及び第2の変換行列Rmを用いて、グローバル座標系における作業機2の位置Pgkを、撮像装置座標系における位置Pskに変換する。経路描画部51DRは、視点変換部51DTによって求められた第1の変換行列Rg及び第2の変換行列Rmを用いて、グローバル座標系における経路tl又は経路画像TLを、撮像装置座標系における経路tl又は経路画像TLに変換する。
 図5に示されるように、遮蔽演算部51DCは、作業機2の経路tl又は経路tlに対応する経路画像TLと、作業機2の位置Pskとに基づき、所定の位置、例えば撮像装置19の位置から経路tlを見た場合において、経路tlが作業機2によって遮蔽される第1部分を求める。この場合、作業機2の経路tl又は経路tlに対応する経路画像TLは、経路演算部51Rによって求められ、第1の変換行列Rg及び第2の変換行列Rmによって撮像装置座標系に変換された経路tl又は経路画像TLである。作業機2の位置Pskは、位置演算部51Cによって求められ、第1の変換行列Rg及び第2の変換行列Rmによって撮像装置座標系に変換された位置である。遮蔽演算部51DCは、経路tlが作業機2によって遮蔽される第1部分の経路画像TLを、経路tlが作業機2によって遮蔽されない第2部分の経路画像TLとは異なる形態で表示装置52に表示させるための情報を生成する。
 撮像装置19が第1の位置PLaにあり、経路tl及び経路画像TLが実線で表される方である場合、つまり経路tlの手前である撮像装置19側に作業機2が存在する場合、作業機2、この例ではバケット8の経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽される第1部分tl1は、位置aから位置bの範囲である。この範囲を、以下においては適宜、範囲abと称する。経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽される第1部分tl1は、所定の位置である撮像装置19の位置からバケット8及び経路tl又は経路tlを見た場合に、バケット8で経路tl又は経路画像TLが遮蔽される部分である。遮蔽演算部51DCは、例えば、コンピュータグラフィックス技術におけるZバッファ又はWバッファ(Catmull, E. A Subdivision Algorithm for Computer Display of Curved Surfaces. 1974を参照)と称される処理を用いて、経路tlが作業機2によって遮蔽される第1部分tl1と遮蔽されない第2部分tl2とを求めることができる。
 表示処理部51Dの遮蔽演算部51DCは、範囲abに存在する経路画像TLを、範囲ab外の経路画像TLとは異なる形態で表示装置52に表示させる。例えば、遮蔽演算部51DCは、範囲ab内の経路画像TLを透明又は半透明で、範囲ab外の経路画像TLには何らかの色を付けて表示させたり、範囲ab内の経路画像TLの色と、範囲ab外の経路画像TLの色とを異ならせて表示させたり、範囲ab内の経路画像TLの線種と、範囲ab外の経路画像TLの線種とを異ならせて表示させたりする。線種は、線の太さを含む。範囲ab内の経路画像TLを透明で表示するとは、範囲ab内の経路画像TLの部分に、範囲ab外の経路画像TLとは異なる形態である作業機2の画像を表示することをいう。実施形態において、範囲ab内の経路画像TLを透明で表示する場合、範囲ab内の経路画像TLの部分に、バケット8の画像が表示される。
 撮像装置19が第1の位置PLaにあり、経路tl及び経路画像TLが一点鎖線で表される方である場合、つまり経路tlが作業機2と撮像装置19との間に存在する場合、バケット8の経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽される部分は存在しない。すなわち、所定の位置である撮像装置19の位置からバケット8及び経路tl又は経路tlを見た場合に、バケット8で経路tl又は経路画像TLが遮蔽される部分は存在しない。この場合、遮蔽演算部51DCは、経路画像TLをすべて同一の形態で表示装置52に表示させる。
 撮像装置19が第2の位置PLbにあり、経路tl及び経路画像TLが実線で表される方である場合、バケット8の経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽される第1部分tl1は、位置cから位置dの範囲である。この範囲を、以下においては適宜、範囲cdと称する。範囲cdの外側は、バケット8の経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽されない第2部分tl2である。所定の位置である撮像装置19の位置が変化すると、経路tl又は経路tlに対応する経路画像TLがバケット8によって遮蔽される部分は異なる。
 例えば、油圧ショベル1に実際に搭乗するオペレータがヘッドマウントディスプレイを装着し、ヘッドマウントディスプレイに経路画像TLが表示される場合がある。この場合、オペレータが頭を動かす等の動作をすることによってオペレータの視点の位置が変化すると、ヘッドマウントディスプレイの位置も変化する。オペレータの視点の位置、すなわちヘッドマウントディスプレイの位置が変化した場合、遮蔽演算部51DCは、変化後の位置に基づいて、経路tlが作業機2によって遮蔽される部分を求めてもよい。
 画像合成部51DSは、遮蔽演算部51DCによって求められた経路画像TLと、撮像装置19によって撮像された作業機2の画像とを合成して、表示装置52に表示させる。経路画像TLは3次元空間内の画像であるが、表示装置52に表示される経路画像TLは2次元の画像である。また、撮像装置19によって撮像された作業機2の画像も2次元の画像である。したがって、画像合成部51DSは、3次元空間、すなわち撮像装置座標系内に定義された経路画像TLを、2次元面上に投影する透視投影変換を実行し、変換後の経路画像TLを撮像装置19によって撮像された作業機2の画像と合成して、表示装置52に表示させる。
 経路画像TLと撮像装置19によって撮像された作業機2の画像とが合成されると、図6及び図7に示されるように、経路画像TLと作業機2、この例ではバケット8とが表示装置52に重畳されて表示される。図6は、オペレータの視点に対応する位置又は撮像装置19の位置から見た場合に、バケット8が経路tlよりも奥に存在する状態を示す。この場合、経路tlはバケット8に遮蔽される部分がないので、経路画像TLは異なる形態で表示される部分を有さない。図7は、バケット8が経路tlよりも手前に存在し、経路tlがバケット8によって遮蔽される部分を透明に表示した例を示す。この例では、経路tlがバケット8によって遮蔽される部分に、経路tlがバケット8によって遮蔽されない部分とは異なる形態であるバケット8の画像が表示される。このように、画像表示システム100、詳細には処理装置51は、経路tlよりも作業機2が撮像装置19側にあるか、奥側にあるかの情報をオペレータに伝えることができるので、遠隔操作における作業の効率低下を抑制できる。
<作業機械の画像表示方法>
 図8は、実施形態に係る作業機械の画像表示方法の手順を示すフローチャートである。作業機械の画像表示方法は、画像表示システム100によって実現される。ステップS101において、処理装置51の位置演算部51Cは、作業機2の位置を求める。ステップS102において、処理装置51の表示処理部51Dは、所定の位置から見た場合に、経路tlが作業機2によって遮蔽されるかを判定する。経路tlが作業機2によって遮蔽される場合(ステップS102、Yes)、ステップS103において、表示処理部51Dは、遮蔽される部分の経路画像TLを、遮蔽されない部分の経路画像TLとは異なる形態で表示装置52に表示させる。経路tlが作業機2によって遮蔽されない場合(ステップS102、No)、ステップS104において、表示処理部51Dは、すべての経路画像TLを、同一の形態で表示装置52に表示させる。
<実施形態の変形例>
 図9は、実施形態の変形例に係る油圧ショベル1の制御系1Saを示す図である。前述した画像表示システム100及び遠隔操作システム101は、図1に示される施設50の操作装置53を用いて油圧ショベル1を遠隔操作する。変形例は、油圧ショベル1の運転室4内に表示装置52aが備えられており、油圧ショベル1のオペレータの操作を補助するために、経路画像TLが表示装置52aに表示される。
 制御系1Saは、前述した制御系1Sの信号線35に、処理装置51が接続されている。また、制御系1Saは、前述した制御系1Sの信号線35に、作業機制御装置17を介して操作装置53aが接続されている。処理装置51には、表示装置52aが接続されている。制御系1Saが備える処理装置51は、前述した画像表示システム100及び遠隔操作システム101において図1に示される施設50に備えられる処理装置51と同様の機能を有している。処理装置51及び表示装置52aによって、変形例に係る画像表示システム100aが構成される。
 制御系1Saの表示装置52aは、運転席のフロントウィンドウFGに画像を投影するヘッドアップディスプレイである。表示装置52aは、フロントウィンドウFG越しに見えるバケット8に合わせた位置に、経路画像TLを表示する。表示装置52aはヘッドアップディスプレイには限定されず、通常のディスプレイであってもよい。
 操作装置53aは、油圧ショベル1を操作するための装置であり、左操作レバー53La及び右操作レバー53Raを備えている。操作装置53aは、パイロット油圧方式であってもよいし、電気方式であってもよい。
 制御系1Saを備える油圧ショベル1は、画像表示システム100aによって、所定の位置、例えば運転席に着座したオペレータの視点に対応する位置から経路tlを見た場合の経路画像TLが、フロントウィンドウFGに表示される。このような処理により、画像表示システム100aは、油圧ショベル1を操作するオペレータに、フロントウィンドウFGに表示された経路画像TLを用いて、経路tlよりも作業機2がオペレータ側にあるか、奥側にあるかの情報をオペレータに伝えることができる。その結果、画像表示システム100aは、作業の効率低下を抑制できる。バケット8が油圧ショベル1の車両本体1Bから離れるほど、オペレータは遠近感を把握し難くなる。このような場合において、画像表示システム100aは作業の効率低下を抑制することに有効である。
 また、経験の浅いオペレータも、画像表示システム100aを備える油圧ショベル1を用いることにより、バケット8の遠近感を把握しやすくなる。その結果、作業効率及び作業の精度の低下が抑制される。さらに、夜間作業のように、オペレータが実際の作業対象WAを目視し難い状況であっても、オペレータは表示装置52aに表示された経路画像TLを見ながら作業することができるので、作業効率の低下が抑制される。
 実施形態及び変形例において、画像表示システム100,100aは、所定の位置から経路tlを見た場合において作業機2が経路tlを遮蔽する第1部分を求め、第1部分に対応する経路画像TLを、作業機2が経路tlを遮蔽しない第2部分に対応する経路画像TLとは異なる形態で表示装置52,52aに表示させる。このような処理により、画像表示システム100,100aは、作業機2を備えた作業機械を用いて作業する際に、作業効率の低下が抑制される。
 実施形態及び変形例において、画像表示システム100,100aは、経路画像TLに加えて、経路画像TLと作業機2との距離を表示装置52,52aに表示してもよい。また、画像表示システム100,100aにおいて、処理装置51は、作業機2と経路tlとの間の距離に応じて、経路画像TLの表示形態を変更してもよい。例えば、処理装置51は、作業機2と経路tlとの距離が大きくなるにしたがって経路画像TLの色を変更したり、作業機2と経路tlとの距離が大きくなるにしたがって経路画像TLの輝度を大きくしたり、作業機2と経路tlとの距離が大きくなるにしたがって経路画像TLを太くしたりすることができる。
 実施形態及び変形例において、位置演算部51Cは、作業機2の位置として作業機2の外形を把握できる複数の代表位置を求めた。この他にも、位置演算部51Cは、バケット8の開口部に対応する平面の位置を作業機2の位置として求め、作業機2が経路tlを遮蔽するか否かの判定及び経路画像TLの表示形態を変更する処理に用いてもよい。作業機2の位置は、実施形態及び変形例において例示されたものには限定されない。
 作業具は、バケット8以外のものであってもよい。例えば、物体を把持する把持装置が作業具であってもよい。把持装置が作業具である場合、位置演算部51Cは、作業具及び作業具に把持された物体が経路tlを遮蔽するか否かを判定してもよい。この場合、例えば、ステレオカメラ又はレーザスキャナのような距離検出装置を油圧ショベル1に取り付け、この距離検出装置によって作業具に把持された物体の位置が検出される。位置演算部51Cは、距離検出装置によって検出された位置の情報から、作業具に把持された物体の位置を求める。位置演算部51Cは、例えば、位置検出装置によって検出された位置の情報から、例えば作業具の把持部分の位置を中心として、撮像装置19からの距離が所定の範囲内に存在する部分の位置を、作業具に把持された物体の位置であるとする。このような処理によって、位置演算部51Cは、作業具及び作業具に把持された物体の位置を求め、得られた位置に基づいて、作業具及び作業具に把持された物体が経路tlを遮蔽するか否かを判定する。
 作業具がバケット8である場合も、位置演算部51Cは、作業具に把持された物体の位置を求める処理と同様の処理によって、バケット8の開口部から盛り上がった部分の位置を、バケット8に積載された物体の位置として求めることができる。位置演算部51Cは、バケット8に積載された物体の位置を求め、得られた位置に基づいて、バケット8及びバケット8に積載された物体が経路tlを遮蔽するか否かを判定してもよい。このような処理により、画像表示システム100,100aは、より実際に即した画像を表示装置52,52aに表示させることができる。
 処理装置51は、作業機2の姿勢とオペレータによる操作装置53,53aの第1の操作を検出して、経路画像TLを表示装置52,52aに表示させ、操作装置53,53aの第2の操作を検出した場合に経路画像TLの表示を消してもよい。このような処理により、経路画像TLによる案内が不要な場合には経路画像TLが消されるので、オペレータの視認性が向上する。第1の操作は、例えば、低い位置でバケット8を抱え込んだ状態で旋回体3を旋回させる操作が例示される。第2の操作は、例えば、バケット8の積載物を排出させるためのダンプ操作(排土操作)が例示される。
 以上、実施形態及び変形例を説明したが、前述した内容により実施形態及び変形例が限定されるものではない。前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。前述した構成要素は適宜組み合わせることが可能である。実施形態及び変形例の要旨を逸脱しない範囲で構成要素の種々の省略、置換及び変更のうち少なくとも1つを行うことができる。作業機械は油圧ショベル1に限定されず、ホイールローダー又はブルドーザのような、作業機を有する他の作業機械であってもよい。
1 油圧ショベル
1B 車両本体
1S,1Sa 制御系
2 作業機
3 旋回体
5 走行体
16 第1ストロークセンサ
17 第2ストロークセンサ
18 第3ストロークセンサ
19 撮像装置
19L 撮像面
21,22 アンテナ
23 位置演算装置
25 通信装置
26 センサコントローラ
27 作業機制御装置
32 第1姿勢検出装置
33 第2姿勢検出装置
36 油圧システム
50 施設
51 処理装置
51C 位置演算部
51D 表示処理部
51DC 遮蔽演算部
51DM 作業機領域演算部
51DR 経路描画部
51DS 画像合成部
51DT 視点変換部
51IO 入出力部
51M 記憶部
51P 処理部
51R 経路演算部
52,52a 表示装置
53,53a 操作装置
100,100a 画像表示システム
101 遠隔操作システム
FG フロントウィンドウ
IFm 車両情報
Rg 第1の変換行列
Rm 第2の変換行列
TL 経路画像

Claims (8)

  1.  作業機械が有する作業機の位置を求める位置演算部と、
     前記作業機が移動するであろう経路に対応する経路画像を表示する表示部と、
     前記経路の位置と前記位置演算部によって求められた前記作業機の位置とに基づき、所定の位置を視点として前記作業機によって遮蔽される前記経路の部分に対応する前記経路画像を、前記作業機によって遮蔽されない前記経路の部分に対応する前記経路画像とは異なる形態で前記表示部に表示させる表示処理部と、
     を含む、作業機械の画像表示システム。
  2.  前記表示処理部は、
     前記経路画像を、前記所定の位置から見た画像に変換して、前記表示部に表示させる、請求項1に記載の作業機械の画像表示システム。
  3.  前記作業機械に取り付けられて対象を撮像する撮像装置を有し、
     前記表示処理部は、前記経路画像と、前記撮像装置によって撮像された前記作業機の画像とを合成して、前記表示部に表示させる、請求項2に記載の作業機械の画像表示システム。
  4.  前記所定の位置は、前記作業機械に取り付けられて対象を撮像する撮像装置の位置である、請求項3に記載の作業機械の画像表示システム。
  5.  前記表示処理部は、
     前記作業機と前記経路との間の距離に応じて、前記経路画像の表示形態を変更する、請求項1から請求項4のいずれか1項に記載の作業機械の画像表示システム。
  6.  請求項1から請求項5のいずれか1項に記載の作業機械の画像表示システムと、
     前記作業機を操作する操作装置と、
     を含む、作業機械の遠隔操作システム。
  7.  請求項1から請求項5のいずれか1項に記載の作業機械の画像表示システムを備えた、作業機械。
  8.  作業機械の作業機の位置を求め、
     前記作業機が移動するであろう経路の位置と前記作業機の位置とに基づいて、所定の位置を視点として前記作業機が前記経路を遮蔽するか否かを判定し、
     前記作業機によって遮蔽される前記経路の部分に対応する経路画像を、前記経路が前記作業機によって遮蔽されない前記経路の部分に対応する前記経路画像とは異なる形態で表示部に表示させる、
     作業機械の画像表示方法。
PCT/JP2017/030406 2016-08-31 2017-08-24 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法 WO2018043299A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US16/316,093 US20210285184A1 (en) 2016-08-31 2017-08-24 Image display system of work machine, remote operation system of work machine, work machine, and method for displaying image of work machine
CA3029812A CA3029812C (en) 2016-08-31 2017-08-24 Image display system of work machine, remote operation system of work machine, work machine, and method for displaying image of work machine
AU2017318911A AU2017318911B2 (en) 2016-08-31 2017-08-24 Image display system of work machine, remote operation system of work machine, work machine, and method for displaying image of work machine
JP2018537209A JP6832548B2 (ja) 2016-08-31 2017-08-24 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016170343 2016-08-31
JP2016-170343 2016-08-31

Publications (1)

Publication Number Publication Date
WO2018043299A1 true WO2018043299A1 (ja) 2018-03-08

Family

ID=61300788

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/030406 WO2018043299A1 (ja) 2016-08-31 2017-08-24 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法

Country Status (5)

Country Link
US (1) US20210285184A1 (ja)
JP (1) JP6832548B2 (ja)
AU (1) AU2017318911B2 (ja)
CA (1) CA3029812C (ja)
WO (1) WO2018043299A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019172409A (ja) * 2018-03-27 2019-10-10 株式会社タダノ 作業車両
WO2019238328A1 (de) * 2018-06-12 2019-12-19 Robert Bosch Gmbh Verfahren zur visualisierung
WO2020003632A1 (ja) * 2018-06-29 2020-01-02 株式会社小松製作所 表示制御装置、表示制御システムおよび表示制御方法
WO2020003631A1 (ja) * 2018-06-29 2020-01-02 株式会社小松製作所 表示制御装置、および表示制御方法
WO2021020292A1 (ja) * 2019-07-26 2021-02-04 株式会社小松製作所 表示システム、遠隔操作システム、及び表示方法
WO2021241716A1 (ja) * 2020-05-27 2021-12-02 住友重機械工業株式会社 ショベル用の施工支援システム
US11434623B2 (en) * 2018-09-25 2022-09-06 Hitachi Construction Machinery Co., Ltd. Work-implement external-shape measurement system, work-implement external-shape display system, work-implement control system and work machine

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7165638B2 (ja) * 2019-09-25 2022-11-04 日立建機株式会社 作業機械
KR20210089039A (ko) * 2020-01-07 2021-07-15 두산인프라코어 주식회사 건설기계의 제어 시스템 및 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5996702A (en) * 1995-06-29 1999-12-07 David Hall System for monitoring movement of a vehicle tool
JP2000116947A (ja) * 1998-10-20 2000-04-25 Taito Corp 課題解決型乗り物ゲーム装置
JP2002146846A (ja) * 2000-11-13 2002-05-22 Topcon Corp 建設機械の施工案内装置
JP2005114235A (ja) * 2003-10-07 2005-04-28 Hitachi Constr Mach Co Ltd 移動式作業機の埋設物処理支援装置
JP2006053922A (ja) * 2004-08-10 2006-02-23 Caterpillar Inc 機械操作者にとっての視認性を高める方法及び装置
JP2016061054A (ja) * 2014-09-17 2016-04-25 住友重機械工業株式会社 ショベル及びショベルの支援装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004348095A (ja) * 2003-03-26 2004-12-09 National Institute Of Advanced Industrial & Technology トレーニングシステム
GB0410415D0 (en) * 2004-05-11 2004-06-16 Bamford Excavators Ltd Operator display system
US20060178820A1 (en) * 2005-02-04 2006-08-10 Novariant, Inc. System and method for guiding an agricultural vehicle through a recorded template of guide paths
US8290204B2 (en) * 2008-02-12 2012-10-16 Certusview Technologies, Llc Searchable electronic records of underground facility locate marking operations
CN103180522B (zh) * 2010-10-22 2016-01-13 日立建机株式会社 作业机械的周边监视装置
US10610172B2 (en) * 2012-07-17 2020-04-07 Koninklijke Philips N.V. Imaging system and method for enabling instrument guidance
CN107343381A (zh) * 2016-03-01 2017-11-10 株式会社小松制作所 评价装置以及评价方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5996702A (en) * 1995-06-29 1999-12-07 David Hall System for monitoring movement of a vehicle tool
JP2000116947A (ja) * 1998-10-20 2000-04-25 Taito Corp 課題解決型乗り物ゲーム装置
JP2002146846A (ja) * 2000-11-13 2002-05-22 Topcon Corp 建設機械の施工案内装置
JP2005114235A (ja) * 2003-10-07 2005-04-28 Hitachi Constr Mach Co Ltd 移動式作業機の埋設物処理支援装置
JP2006053922A (ja) * 2004-08-10 2006-02-23 Caterpillar Inc 機械操作者にとっての視認性を高める方法及び装置
JP2016061054A (ja) * 2014-09-17 2016-04-25 住友重機械工業株式会社 ショベル及びショベルの支援装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7106929B2 (ja) 2018-03-27 2022-07-27 株式会社タダノ 作業車両
JP2019172409A (ja) * 2018-03-27 2019-10-10 株式会社タダノ 作業車両
WO2019238328A1 (de) * 2018-06-12 2019-12-19 Robert Bosch Gmbh Verfahren zur visualisierung
US11427988B2 (en) 2018-06-29 2022-08-30 Komatsu Ltd. Display control device and display control method
JP2020002718A (ja) * 2018-06-29 2020-01-09 株式会社小松製作所 表示制御装置、および表示制御方法
JP2020002717A (ja) * 2018-06-29 2020-01-09 株式会社小松製作所 表示制御装置、表示制御システムおよび表示制御方法
WO2020003631A1 (ja) * 2018-06-29 2020-01-02 株式会社小松製作所 表示制御装置、および表示制御方法
WO2020003632A1 (ja) * 2018-06-29 2020-01-02 株式会社小松製作所 表示制御装置、表示制御システムおよび表示制御方法
JP7285051B2 (ja) 2018-06-29 2023-06-01 株式会社小松製作所 表示制御装置、および表示制御方法
JP7372029B2 (ja) 2018-06-29 2023-10-31 株式会社小松製作所 表示制御装置、表示制御システムおよび表示制御方法
US11434623B2 (en) * 2018-09-25 2022-09-06 Hitachi Construction Machinery Co., Ltd. Work-implement external-shape measurement system, work-implement external-shape display system, work-implement control system and work machine
WO2021020292A1 (ja) * 2019-07-26 2021-02-04 株式会社小松製作所 表示システム、遠隔操作システム、及び表示方法
JP7351478B2 (ja) 2019-07-26 2023-09-27 株式会社小松製作所 表示システム、遠隔操作システム、及び表示方法
US11939744B2 (en) 2019-07-26 2024-03-26 Komatsu Ltd. Display system, remote operation system, and display method
WO2021241716A1 (ja) * 2020-05-27 2021-12-02 住友重機械工業株式会社 ショベル用の施工支援システム

Also Published As

Publication number Publication date
JP6832548B2 (ja) 2021-02-24
JPWO2018043299A1 (ja) 2019-06-24
AU2017318911A1 (en) 2019-01-24
CA3029812C (en) 2020-07-14
CA3029812A1 (en) 2018-03-08
US20210285184A1 (en) 2021-09-16
AU2017318911B2 (en) 2020-07-02

Similar Documents

Publication Publication Date Title
JP6832548B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法
US11384515B2 (en) Image display system for work machine, remote operation system for work machine, and work machine
US11634890B2 (en) Image display system for work machine
JP7420733B2 (ja) 表示制御システムおよび表示制御方法
JP2024028438A (ja) 作業機械の画像表示システム及び作業機械の画像表示方法
JP2024052764A (ja) 表示制御装置及び表示方法
JP7128497B2 (ja) 作業機械の画像表示システム
JP7333551B2 (ja) 作業機械の画像表示システム
US11908076B2 (en) Display system and display method
WO2022070707A1 (ja) 表示制御装置及び表示方法
JP6923144B2 (ja) 作業機械の画像表示システム
US20210395980A1 (en) System and method for work machine

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2018537209

Country of ref document: JP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17846304

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 3029812

Country of ref document: CA

ENP Entry into the national phase

Ref document number: 2017318911

Country of ref document: AU

Date of ref document: 20170824

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17846304

Country of ref document: EP

Kind code of ref document: A1