WO2023100889A1 - 操縦支援システム及び作業車両 - Google Patents

操縦支援システム及び作業車両 Download PDF

Info

Publication number
WO2023100889A1
WO2023100889A1 PCT/JP2022/044009 JP2022044009W WO2023100889A1 WO 2023100889 A1 WO2023100889 A1 WO 2023100889A1 JP 2022044009 W JP2022044009 W JP 2022044009W WO 2023100889 A1 WO2023100889 A1 WO 2023100889A1
Authority
WO
WIPO (PCT)
Prior art keywords
virtual image
boom
crane
information
display device
Prior art date
Application number
PCT/JP2022/044009
Other languages
English (en)
French (fr)
Inventor
浩平 元木
真輔 神田
瑞生 米田
文彦 二葉
Original Assignee
株式会社タダノ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社タダノ filed Critical 株式会社タダノ
Publication of WO2023100889A1 publication Critical patent/WO2023100889A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66CCRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
    • B66C13/00Other constructional features or details
    • B66C13/18Control systems or devices
    • B66C13/46Position indicators for suspended loads or for crane elements
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices

Definitions

  • the present invention relates to a work vehicle steering support system and a work vehicle having the steering support system.
  • the operator of the mobile crane has to operate a turning operating tool, a hoisting operating tool, and an extending/contracting operating tool for operating the boom of the mobile crane. , and a plurality of manipulators such as a winch manipulator for lifting or suspending a load.
  • the operator must operate the mobile crane while operating a plurality of operating tools at the same time so that the load does not come into contact with structures or the like at the work site. Therefore, the operator obtains information about the position of the load, information about the feature, and the like from the slinging operator or the like, thereby supplementing the information on the range and time that the operator cannot visually recognize. In other words, the operator operates the crane based on the operator's visual information and the information from the outside instructor.
  • mobile cranes have a boom camera, etc., to acquire information on areas that are difficult for the operator to recognize from the operator's seat.
  • a mobile crane can acquire an image from above, such as a load being transported and surrounding structures, by a boom camera. For example, it is as in Patent Document 1.
  • the crane described in Patent Document 1 acquires an image of a work site and an image of a load suspended on a hook with a boom camera provided at the tip of the boom, and a reference line centered on the load and a scale on the image. , a directed segment indicating the moving direction of the load, and at least one of the trajectory on which the load can turn are displayed in an overlapping manner.
  • a crane operator operates a crane by comprehensively judging the visual information of the operator himself, the information from the instructor, and the image information of the boom camera.
  • the crane operator will operate the crane according to the content and timing of the instructions given by the instructor. At this time, the operator of the crane guesses the positional relationship between the surrounding structures, the boom, the hook, and the like from the instructions given by the instructor. Therefore, the operator of the crane cannot efficiently operate the crane unless the instructions given by the instructor are appropriate.
  • An object of the present invention is to provide an operation support system and a work vehicle that can suppress the influence of information acquired from an instructor on operation and efficiently operate a crane.
  • the inventors have studied a configuration of a steering support system and a work vehicle that can suppress the influence of information acquired from an instructor on steering and efficiently steer the work vehicle. As a result of intensive studies, the inventors of the present invention came up with the following configuration.
  • a steering support system for assisting the operation of a work vehicle having a boom, a transparent display capable of displaying images; a generator that generates a virtual image showing a target member including a boom and/or a member that moves with the boom; a control unit that displays a virtual image on the display so that the user of the display can recognize the position of the target member, and the virtual image overlaps with the scenery seen through the display.
  • One aspect of the work vehicle according to the present invention includes the steering support system described above.
  • attachment As used herein, “attached,” “connected,” “coupled,” and/or equivalents thereof are used broadly and include “direct and indirect” attachment, It includes both connection and coupling. Furthermore, “connected” and “coupled” are not limited to physical or mechanical connections or couplings, but can include direct or indirect connections or couplings.
  • the virtual image is an image or video other than the background (scenery) of the transmissive display device that is visually recognized by the user in the transmissive display device, and the line displayed by the transmissive display device , graphics, images, videos, three-dimensional images, and/or three-dimensional videos.
  • the virtual image is an image that can be displayed without discomfort on the background of the transmissive display device visually recognized by the user by converting the image of an object that does not actually exist into the image of the shape seen from the user's viewpoint. be.
  • the virtual image is superimposed on the background of the transmissive display that is viewed by the user on the transmissive display.
  • the virtual images include a first virtual image, a second virtual image, a third virtual image, a fourth virtual image, and a fifth virtual image.
  • a viewpoint means a standing point when viewing an object.
  • the user's viewpoint means the position of the user with respect to the object when the user is visually recognizing the object.
  • the information about the virtual image means information necessary for displaying the virtual image on the display screen of the transmissive display device as an image viewed from the viewpoint of the user of the transmissive display device.
  • the information about the virtual image includes the coordinates and/or display state of the virtual image.
  • a trajectory means a figure representing a set of a plurality of coordinates through which a reference member of the work vehicle passes by operation of each operating tool of the work vehicle, represented by continuous lines. Further, the trajectory includes a figure represented by a continuous line obtained by converting a set of coordinates through which the reference member of the working vehicle passes by operation of each operating tool into coordinates on an arbitrary reference plane.
  • a communication device means a device that transmits and receives information between an image processing device and a display device control device, an image processing device and an input device, and an image processing device and a work vehicle control device.
  • the communication device may be integrated with the display device control device and the image processing device.
  • the reference member is a member that moves along with the movement of the boom of the work vehicle and that is photographed by a photographing device provided on the boom. That is, the reference member is a member whose current position is recognized by the photographing device.
  • Reference members are, for example, main hooks, main hook blocks, sub-hooks, sub-hook blocks, main wire ropes suspended from the boom, and loads suspended by hooks (main hooks or sub-hooks).
  • an operation support system and a work vehicle that can suppress the influence of information acquired from an instructor on operation and efficiently operate a crane.
  • FIG. 1 shows a perspective view of a user wearing a transmissive display device in a steering support system for a work vehicle according to Embodiment 1 of the present invention.
  • FIG. 2 shows a perspective view of a transmissive display device in the steering support system for a work vehicle according to Embodiment 1 of the present invention.
  • FIG. 3 shows a block diagram of a steering support system for a work vehicle according to Embodiment 1 of the present invention.
  • FIG. 4 shows a side view of a crane to which the work vehicle steering support system according to the first embodiment of the present invention is connected.
  • FIG. 5 shows a control block diagram of a crane to which the work vehicle steering support system according to the first embodiment of the present invention is connected.
  • FIG. 1 shows a perspective view of a user wearing a transmissive display device in a steering support system for a work vehicle according to Embodiment 1 of the present invention.
  • FIG. 3 shows a block diagram of a steering support system for a work vehicle according to Em
  • FIG. 6 shows a block diagram when the work vehicle steering support system according to the first embodiment of the present invention generates information necessary for displaying a virtual image.
  • FIG. 7 shows a schematic diagram of a state in which the steering support system for a work vehicle according to Embodiment 1 of the present invention displays a virtual image.
  • FIG. 8 is a schematic diagram showing a state in which the steering support system for a work vehicle according to Embodiment 1 of the present invention displays a virtual image in a state in which part of the boom cannot be visually recognized.
  • FIG. 9 shows a block diagram when the work vehicle steering support system according to the second embodiment of the present invention generates information necessary for displaying a virtual image.
  • FIG. 10 is a schematic diagram showing a state in which a virtual image is displayed when the steering support system for a work vehicle according to Embodiment 2 of the present invention uses the ground surface as a reference plane.
  • FIG. 11 is a schematic diagram showing a state in which a virtual image is displayed when the steering support system for a work vehicle according to Embodiment 2 of the present invention uses a horizontal plane including the tip of the boom as a reference plane.
  • FIG. 12 shows a block diagram when the work vehicle steering support system according to the third embodiment of the present invention generates information necessary for displaying a virtual image.
  • FIG. 13 shows a block diagram when the work vehicle steering support system according to the fourth embodiment of the present invention generates information necessary for displaying a virtual image.
  • FIG. 14 shows a block diagram when the work vehicle steering support system according to the fifth embodiment of the present invention generates information necessary for displaying a virtual image.
  • FIG. 1 is a perspective view of a transmission type display device 2 attached to a user in an operation support system 1 for a crane 11 according to Embodiment 1 of the present invention.
  • FIG. 2 is a perspective view of the transmissive display device 2 in the operation support system 1 for the crane 11.
  • FIG. 3 is a block diagram of the operation support system 1 for the crane 11.
  • a rough terrain crane hereinafter simply referred to as "crane"
  • the work vehicle may be any work vehicle provided with a boom that can be raised and lowered via a swivel base, such as an all-terrain crane, a truck crane, and an aerial work vehicle.
  • the operation support system 1 for the crane 11 (see FIG. 4), which is a work vehicle, is a system that supports operation of the crane 11 using mixed reality.
  • the steering support system 1 has a transmissive display device 2 , a communication device 8 and an image processing device 9 .
  • the operation support system 1 is a system that supports operation of the crane 11 having the boom 19.
  • the steering support system 1 of the present embodiment includes a transparent display capable of displaying an image (specifically, a transmissive display 4), a boom 19 and/or a member that moves with the boom 19 (specifically, A generation unit (image processing device 9) that generates a virtual image (specifically, a first virtual image Im1) showing a target member including a wire rope and / or hook), and a user of the image processing device 9 is a target member a control unit (control device for display device 7) for displaying a virtual image on the image processing device 9 so as to overlap with the scenery seen through the image processing device 9 in a manner in which the position of the image processing device 9 can be recognized.
  • a specific configuration of the steering support system 1 will be described below.
  • the transmissive display device 2 is visible to the user in a state in which a virtual image seen from the user's viewpoint of the transmissive display device 2 is superimposed on the background (landscape) Ls of the transmissive display device 2 seen from the user's viewpoint. It is a display device that allows The transmissive display device 2 is a wearable terminal worn on the body by the user. In this embodiment, the transmissive display device 2 will be described as a glasses-type wearable terminal.
  • the transmissive display device 2 is attached to the operator of the crane 11 who is the user.
  • the transmissive display device 2 includes a frame 3 , a transmissive display 4 , an inertial measurement device 5 , a display device camera 6 , and a display device control device 7 .
  • the frame 3 supports the transmissive display 4, the inertial measurement device 5, the display device camera 6, and the display device control device 7.
  • the frame 3 is configured as an eyeglass-type frame.
  • the frame 3 is attached to the head of the user of the transmissive display device 2 .
  • Frame 3 is supported by the user's nose and ears.
  • the transmissive display 4 is a display with a transmittance of approximately 50% or more.
  • the transmissive display 4 does not have a backlight, polarizing filters and color filters.
  • the transmissive display 4 may be a liquid crystal display, an organic EL display, an inorganic EL display, or the like. That is, the transmissive display 4 does not have members such as a backlight and a filter that cover the back surface of the display screen facing the user of the transmissive display device 2 . Therefore, the transmissive display 4 has a transparent background that overlaps with the transmissive display 4 when viewed from the viewpoint of the user of the transmissive display device 2 .
  • the transmissive display 4 displays the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5 generated by the display device control device 7 on the display screen.
  • the first virtual image Im1 includes at least one of a first boom virtual image Im1a that is a virtual image of the boom 19 and a first reference member virtual image Im1b that is a virtual image of the reference member Rm.
  • the first virtual image Im1 (first boom virtual image Im1a and first reference member virtual image Im1b) corresponds to an example of a virtual image representing a target member.
  • the transmissive display 4 transmits light that has entered from the back in a portion where no virtual image is displayed.
  • the transmissive display 4 blocks at least part of the light entering from the back in the portion where the virtual image is displayed.
  • the transmissive display 4 displays a virtual image on the light-shielded portion.
  • a virtual image seen from the viewpoint of the user of the transmissive display device 2 is displayed on the transmissive display 4 .
  • the transmissive display 4 allows the user of the transmissive display device 2 to visually recognize a state in which the virtual image is superimposed on the background Ls seen from the user's viewpoint of the transmissive display device 2 .
  • a transmissive display 4 is provided on the frame 3 .
  • the transmissive display 4 is positioned so as to cover the visual fields of the right and left eyes of the user wearing the frame 3 .
  • the transmissive display 4 is configured to be able to display a virtual image for the right eye and a virtual image for the left eye as parallax images on the display screen.
  • the transmissive display 4 can display a stereoscopic virtual image over substantially the entire visual field of the user.
  • a technique for displaying a virtual image seen from the user's viewpoint in the user's field of view in the transmissive display device 2 is known.
  • the inertial measurement unit 5 calculates the position and orientation of the transmissive display device 2 .
  • the inertial measurement device 5 is positioned on the frame 3 .
  • the inertial measurement device 5 calculates angles and angular accelerations about the X-, Y-, and Z-axes. In other words, the inertial measurement device 5 calculates the movement direction and movement amount of the transmissive display device 2 with reference to an arbitrary position.
  • the display device camera 6 captures the line of sight of the user wearing the transmissive display device 2 .
  • the display device camera 6 is provided on the frame 3 .
  • the display camera 6 captures an image of a range substantially equal to the visual field range of the user from a position substantially equal to the viewpoint of the user of the transmissive display device 2 .
  • the camera for display device 6 is provided in the frame 3, but it is possible to photograph the visual field range of the user of the transmissive display device 2 from the viewpoint of the user of the transmissive display device 2. It should be provided in a position where it is possible.
  • the display device control device 7 displays a first virtual image Im1, a second virtual image Im2, a third virtual image Im3, a fourth virtual image Im4, and/or a fifth virtual image Im1 on the transmissive display 4. It is a control device for displaying an image Im5.
  • a CPU, a ROM, a RAM, an HDD, and the like are actually connected to the display device control device 7 via a bus.
  • the display device control device 7 may be configured by a one-chip LSI or the like.
  • the display device is connected to a transmissive display 4 and a display camera 6 .
  • the display device control device 7 is connected to the image processing device 9 via the communication device 8 .
  • the display device control device 7 can acquire the display device image P1 captured by the display device camera 6 .
  • the display device control device 7 can recognize a specific marker included in the display device image P1.
  • the display device control device 7 can calculate the position and/or orientation of the display device camera 6 by recognizing the specific marker.
  • a specific marker is positioned, for example, at a predetermined location within the cabin 27 of the crane 11, which will be described later. Further, the display device control device 7 calculates the position and/or orientation of the display device camera 6 using the inertial measurement device 5 based on the position and/or orientation of the display device camera 6 calculated based on the specific markers. is calculated for each unit time. As a result, when the past display device image P1 contains the specific marker, the display device control device 7 can be used to display the current display device image even if the current display device image P1 does not contain the specific marker. The position and/or orientation of the camera 6 can be calculated.
  • the position of the user of the transmissive display device 2 is predetermined with the display device camera 6 as a reference. Therefore, the display device control device 7 can generate the information Ifa regarding the position of the user of the transmissive display device 2 based on the calculated position and/or attitude of the display device camera 6 .
  • the information Ifa on the position of the user includes coordinate information such as latitude, longitude, and altitude where the user of the transmissive display device 2 is located, and the direction that the user of the transmissive display device 2 is viewing. .
  • the transmissive display device 2 calculates information Ifa regarding the position of the user of the transmissive display device 2 by recognizing, for example, a marker positioned inside the cabin 27 of the crane 11 to be described later.
  • the display device control device 7 receives information If1 about the first virtual image Im1, information If2 about the second virtual image Im2, information If3 about the third virtual image Im3, and information If3 about the third virtual image Im3 to be displayed on the transmissive display 4 from the image processing device 9. Obtain information If4 about the image Im4 and/or information If5 about the fifth virtual image Im5. The display device control device 7 obtains information If1 about the first virtual image Im1, information If2 about the second virtual image Im2, information If3 about the third virtual image Im3, information If4 about the fourth virtual image Im4, and/or the acquired information If4 about the fourth virtual image Im4. A first virtual image Im1, a second virtual image Im2, a third virtual image Im3, a fourth virtual image Im4, and a fifth The virtual image Im5 can be displayed on the transmissive display 4. FIG.
  • the transmissive display device 2 displays the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4 and the /or a fifth virtual image Im5 can be displayed. Further, the transmissive display device 2 recognizes a specific marker to display the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and/or the fifth virtual image Im5. Information Ifa on the user's position required for display on the transmissive display 4 can be calculated.
  • the transmissive display device 2 displays a first virtual image Im1, a second virtual image Im2, a third virtual image Im2, and a third virtual image Im1 viewed from the viewpoint of the user of the transmissive display device 2 on the display screen of the transmissive display 4 through which the background Ls is transparent. At least one of the image Im3, the fourth virtual image Im4, and the fifth virtual image Im5 can be displayed on the transmissive display 4.
  • the transmissive display device 2 displays at least one of the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5.
  • the user of the transmissive display device 2 can visually recognize the background Ls.
  • the communication device 8 is a device that transmits and receives information between the transmissive display device 2, the image processing device 9, and the crane control device 30.
  • the communication device 8 is provided in each of the display device control device 7 and the image processing device 9 of the transmissive display device 2 .
  • the communication device 8 transmits and receives information between the crane control device 30 and the image processing device 9 . Further, the communication device 8 transmits and receives information between the display device control device 7 and the image processing device 9 .
  • the image processing device 9 corresponds to an example of a generation unit, and includes information If1 about a first virtual image Im1, information If2 about a second virtual image Im2, information If3 about a third virtual image Im3, information If4 about a fourth virtual image Im4, and a control device that generates information If5 about the fifth virtual image Im5.
  • the image processing device 9 is substantially connected with a CPU, a ROM, a RAM, an HDD, and the like via a bus.
  • the image processing device 9 may be configured by a one-chip LSI or the like.
  • the image processing device 9 is provided in the transmissive display device 2 . That is, the image processing device 9 is supported by the frame 3 .
  • the image processing device 9 stores various programs and data for controlling operations of the transmissive display device 2 and the like and processing image data. Note that the image processing device 9 may be configured integrally with the display device control device 7 or a crane control device 30 of a crane 11, which is a working vehicle, which will be described later.
  • the image processing device 9 is connected to the display device control device 7 of the transmissive display device 2 via the communication device 8 .
  • the image processing device 9 can acquire the information Ifa on the position of the user from the display device control device 7 via the communication device 8 . Further, the image processing device 9 can acquire the display device image P ⁇ b>1 captured by the display device camera 6 from the display device control device 7 via the communication device 8 .
  • the image processing device 9 also captures a reference member image P2, which is an image of a predetermined range including the reference member Rm, captured by the boom camera 19b (see FIG. 4) of the crane 11, which is an imaging device, via the communication device 8. can be obtained.
  • the image processing device 9 can acquire information Ifb regarding the position of the crane 11 from the crane control device 30 via the communication device 8 .
  • the information Ifb regarding the position of the crane 11 includes coordinate information such as the latitude, longitude, and altitude at which the turning center of the crane 11 is located, the orientation of the vehicle 12, and the like.
  • the image processing device 9 can acquire information Ifc about the attitude of the crane 11 from the crane control device 30 via the communication device 8 .
  • the information Ifc on the posture of the crane 11 includes the turning angle of the crane 11, the boom hoisting angle, the length of the boom, the length of the main wire rope 24 paid out, the length of the sub wire rope 26 paid out, the angle of view of the boom camera 19b, and the like. , and the operating direction and operating amount of each operating tool of the crane 11 (see FIGS. 4 and 5).
  • the image processing device 9 can acquire information Ifi on the shape of the crane 11 from the crane control device 30 or an external server (not shown) via the communication device 8 .
  • the information Ifi on the shape of the crane 11 relates to the boom 19 such as a boom 19, a jib 19c, a main hook block 20, a main hook 20a, a sub-hook block 21, a sub-hook 21a, a main wire rope 24 and a sub-wire rope 26, which will be described later. It is information about the three-dimensional coordinates (in other words, a three-dimensional image) of the shape of the member.
  • the information Ifi on the shape of the crane 11 includes latitude, longitude, and altitude coordinate information of the boom camera 19b provided on the boom 19, the photographing direction of the boom camera 19b, and the like.
  • the image processing device 9 can acquire information Ifh about the shape of the reference member Rm from the crane control device 30 or the BIM or the like of an external server via the communication device 8 .
  • the reference member Rm includes the main hook block 20, main hook 20a, sub-hook block 21, sub-hook 21a, main wire rope 24, sub-wire rope 26, load W, etc. that move as the boom 19 moves.
  • the reference member Rm can be arbitrarily selected by the user of the transmissive display device 2 .
  • the information Ifh on the shape of the reference member Rm is information on the three-dimensional coordinates (in other words, three-dimensional image) of the reference member Rm. In this embodiment, the reference member Rm is the main hook 20a.
  • the image processing device 9 can acquire information Iff on the reference member image P2 from the crane control device 30 or the boom camera 19b, which is the imaging device of the crane 11, via the communication device 8.
  • the information Iff regarding the reference member image P2 is the reference member image P2 photographed by the boom camera 19b and the angle of view of the boom camera 19b when the reference member image P2 is photographed.
  • the information Ifg on the reference member image P2 includes information Ifg on the orientation of the reference member Rm.
  • the operation support system 1 for the crane 11 configured as described above uses the image processing device 9 to display information Ifa on the position of the user of the transmissive display device 2, information Ifb on the position of the crane 11, information Ifc on the attitude of the crane 11, Information Iff on the reference member image P2 and information Ifi on the shape of the crane 11 are acquired.
  • FIG. 4 is a side view of the crane 11 to which the steering support system 1 is connected.
  • FIG. 5 is a control block diagram of the crane 11 to which the steering support system 1 is connected.
  • the crane 11 is a mobile crane that can be moved to any location.
  • the crane 11 has a vehicle 12 , a crane device 16 , a boom camera 19 b as a photographing device, and a crane control device 30 .
  • the vehicle 12 is a traveling body that transports the crane device 16.
  • Vehicle 12 has a plurality of wheels 13 .
  • the vehicle 12 runs using the engine 14 as a power source.
  • Vehicle 12 has outriggers 15 .
  • the outriggers 15 have overhang beams that can be hydraulically extended on both sides in the width direction of the vehicle 12 and hydraulic jack cylinders that can be extended in a direction perpendicular to the ground.
  • the crane device 16 is a working device that lifts the load W with a wire rope.
  • the crane device 16 includes a swivel base 17, a crane GNSS receiver 18, a boom 19, a main hook block 20, a sub hook block 21, a hoisting hydraulic cylinder 22, a main winch 23, a main wire rope 24, a sub winch 25, and a sub wire.
  • a rope 26, a cabin 27, and the like are provided.
  • the swivel base 17 is a rotating device that allows the crane device 16 to swivel.
  • the swivel base 17 is provided on the frame of the vehicle 12 via an annular bearing.
  • the swivel base 17 is rotatable around the center of an annular bearing.
  • the revolving base 17 has a hydraulic revolving hydraulic motor 17a as an actuator.
  • the swivel base 17 is configured to be swivelable in one direction and the other direction by a swivel hydraulic motor 17a.
  • the crane GNSS receiver 18 is a receiver that constitutes the Global Navigation Satellite System.
  • the crane GNSS receiver 18 receives ranging radio waves from satellites and detects latitude, longitude, altitude, azimuth, etc., which are the absolute coordinates of the crane GNSS receiver 18 .
  • a crane GNSS receiver 18 is provided on the swivel base 17 .
  • the crane GNSS receiver 18 detects information Ifb regarding the position of the crane 11 .
  • the boom 19 is a movable strut that supports the main wire rope 24 and the sub wire rope 26.
  • the boom 19 is composed of a plurality of boom members.
  • the base end of the base boom member of the boom 19 is swingably provided substantially at the center of the swivel base 17 .
  • the boom 19 has a telescopic hydraulic cylinder 19a, which is an actuator for extending and retracting each boom member, and a hoisting hydraulic cylinder 22 for hoisting the boom member.
  • the boom 19 is axially extended and retracted by a telescopic hydraulic cylinder 19a.
  • the boom 19 has a boom camera 19b as a photographing device. Furthermore, the boom 19 has a jib 19c as an extension member.
  • a reference member image P2 which is an image captured by the boom camera 19b, is transmitted to the image processing device 9 via the communication device 30a of the control device 30 for the crane.
  • the main hook block 20 and the sub hook block 21 are parts for hanging the load W.
  • the main hook block 20 has a plurality of hook sheaves around which the main wire rope 24 is wound, and a main hook 20a for hanging the load W.
  • the sub-hook block 21 has a sub-hook 21a for hanging the load W.
  • the main winch 23 is a device that carries in (hoists) and lets out (lowers) the main wire rope 24 .
  • the sub winch 25 is a device that carries in (winds up) and lets out (winds down) the sub wire rope 26 .
  • the main winch 23 is rotated by a main hydraulic motor (not shown) whose actuator is a main drum around which the main wire rope 24 is wound.
  • the sub winch 25 is rotated by a sub hydraulic motor (not shown) whose actuator is a sub drum around which the sub wire rope 26 is wound.
  • the cabin 27 is a housing that covers the cockpit.
  • the cabin 27 is mounted on the swivel base 17 .
  • the cabin 27 is provided with a cockpit (not shown).
  • a traveling operating tool 28 for operating the vehicle 12 to travel
  • a turning operating tool 29a for operating the turning hydraulic motor 17a of the crane device 16
  • a telescopic operating tool 29b for operating a telescopic cylinder
  • a hoisting/raising operation tool At the operator's seat, there are a traveling operating tool 28 for operating the vehicle 12 to travel, a turning operating tool 29a for operating the turning hydraulic motor 17a of the crane device 16, a telescopic operating tool 29b for operating a telescopic cylinder, and a hoisting/raising operation tool.
  • a crane device operating tool 29 including a hoisting operating tool 29c for operating the hydraulic cylinder 22, a main operating tool 29d for operating the main winch 23, and a sub operating tool 29e for operating the sub winch 25 are provided. (See Figure 5).
  • the crane control device 30 controls each actuator of the crane 11 .
  • the crane control device 30 is provided inside the cabin 27 .
  • a CPU, a ROM, a RAM, an HDD, and the like are connected via a bus.
  • the crane control device 30 is composed of a one-chip LSI or the like.
  • the crane control device 30 stores various programs and data for controlling the operation of each actuator, switching valve, etc., and for processing image data.
  • the crane control device 30 has a communication device 30a.
  • the communication device 30 a transmits and receives information to and from the image processing device 9 of the steering support system 1 .
  • the crane controller 30 is connected to the crane GNSS receiver 18.
  • the crane control device 30 can acquire information Ifb regarding the position of the crane 11 .
  • the crane control device 30 is connected to the travel operating tool 28 and the crane device operating tool 29 .
  • the crane control device 30 can acquire respective operation signals of the travel operation tool 28 and the crane apparatus operation tool 29 .
  • the crane control device 30 generates a control signal for the vehicle 12 based on the operation signal generated by operating the traveling operation tool 28 . Similarly, the crane control device 30 generates a control signal for the crane device 16 based on an operation signal generated by operating the crane device operating tool 29 . The crane controller 30 can transmit the generated control signals to each actuator of the crane apparatus 16 .
  • the crane control device 30 can generate information Ifc regarding the posture of the crane 11 from the acquired operation signals of the crane device operating tools 29 . It is assumed that the crane control device 30 holds in advance information Ifi regarding the shape of the crane 11 and information Ifh regarding the shape of the reference member Rm.
  • the crane control device 30 is connected to the image processing device 9 of the steering support system 1 via a communication device 30a.
  • the crane controller 30 supplies the image processing device 9 with information Ifb on the position of the crane 11, information Ifc on the posture of the crane 11, information Ifi on the shape of the crane 11, information Ifh on the shape of the reference member Rm, and a reference member image P2. can transmit information If about.
  • the crane 11 configured in this way can move the vehicle 12 to an arbitrary position by operating the travel operating tool 28 . Further, the crane 11 can convey the load W to an arbitrary position by turning, raising and lowering, and expanding and contracting the boom 19 by operating the operating tool 29 for the crane device. Also, the crane 11 can transmit various information to the steering support system 1 .
  • Fig. 6 is a control block diagram when the first virtual image Im1 is displayed by the operation support system 1 of the crane 11.
  • Fig. 7 is a control block diagram of the operation support system 1 of the crane 11. is displaying a first virtual image Im1, a third virtual image Im3, a fourth virtual image Im4, and a fifth virtual image Im5.
  • Figure 8 is a part of the boom 19 and the main hook 20a.
  • 1 is a schematic diagram of a state in which the operation support system 1 of the crane 11 displays a first boom virtual image Im1a and a first reference member virtual image Im1b in a state in which is not visible.
  • the operator of the crane 11 is also the user of the transmissive display device 2.
  • An operator of the crane 11 operates the crane 11 with the transmissive display device 2 mounted on the head.
  • the operator of the crane 11 operates the crane 11 while seated in the cabin 27 (see FIG. 4) of the crane 11 .
  • the main hook 20a of the crane 11 is used as the reference member Rm.
  • the image processing device 9 of the steering support system 1 connected to the crane control device 30 of the crane 11 stores information Ifb regarding the position of the crane 11, information Ifc regarding the posture of the crane 11, and information Ifc regarding the posture of the crane 11.
  • a first reference coordinate C1 which is a set of three-dimensional coordinates of the boom 19 in the current attitude of the boom 19, is calculated based on the information Ifi regarding the shape of the .
  • the image processing device 9 generates a first boom virtual image showing the shape of the boom 19 seen from the viewpoint of the user of the transmissive display device 2 based on the information Ifa on the position of the user and the first reference coordinates C1.
  • Information If1 about the first virtual image Im1 for displaying Im1a on the display screen of the transmissive display 4 is generated.
  • the image processing device 9 generates a virtual image ( Determine the position on the display where the first boom virtual image Im1a) is to be displayed.
  • the image processing device 9 then sends information about the position on the display where the determined virtual image is to be displayed to the display device control device 7 .
  • the information Ifi regarding the shape of the crane 11 may be omitted.
  • the image processing device 9 also extracts the reference member Rm from the reference member image P2 based on the information Ifh regarding the shape of the reference member Rm and the information Iff regarding the reference member image P2. Further, the image processing device 9 extracts the reference member Rm based on the reference member Rm extracted from the reference member image P2, the information Ifb regarding the position of the crane 11, the information Ifc regarding the posture of the crane 11, and the information Ifi regarding the shape of the crane 11.
  • current position RLp of the reference member Rm including coordinate information such as the current latitude, longitude and altitude (height from the tip of the boom 19) and the orientation of the reference member Rm.
  • the current position RLp of the reference member Rm is calculated from the position of the reference member Rm included in the reference member image P2 captured by the boom camera 19b (see FIG. 5) every unit time.
  • the current position RLp includes positional fluctuations due to shaking of the reference member Rm.
  • the image processing device 9 calculates the three-dimensional coordinates of the reference member Rm at the current position RLp of the reference member Rm based on the current position RLp of the reference member Rm, the information Ifc about the attitude of the crane 11, and the information Ifh about the shape of the reference member Rm.
  • a second reference coordinate C2 that is a set of is calculated.
  • the image processing device 9 creates a first reference member virtual image representing the shape of the reference member Rm seen from the viewpoint of the user of the transmissive display device 2 based on the information Ifa regarding the position of the user and the second reference coordinates C2.
  • Information If1 regarding the first virtual image Im1 for displaying the image Im1b on the display screen of the transmissive display 4 is generated.
  • the image processing device 9 generates a virtual image ( A position on the display for displaying the first reference member virtual image Im1b) is determined.
  • the image processing device 9 then sends information about the position on the display where the determined virtual image is to be displayed to the display device control device 7 .
  • the method for calculating the current position RLp of the reference member Rm is not limited to the method described above.
  • the current position RLp of the reference member Rm may be calculated, for example, based on information about the position of the crane and information about the attitude of the crane.
  • the image processing device 9 generates information about the first virtual image Im1 for displaying at least one of the generated first boom virtual image Im1a and the first reference member virtual image Im1b on the display screen of the transmissive display 4. If1 is sent to the display device control device 7 .
  • the display device control device 7 acquires information If1 about the first virtual image Im1 from the image processing device 9 via the communication device 8 .
  • the display device control device 7 controls the transmission image overlapping the boom 19 viewed by the user of the transmission display device 2 through the transmission display 4 based on the information If1 regarding the first virtual image Im1.
  • a first boom virtual image Im1a showing the shape of the boom 19 seen from the viewpoint of the user of the transmissive display device 2 and a second boom virtual image Im1a showing the shape of the reference member Rm seen from the user's viewpoint are displayed on the display screen of the mold display 4.
  • At least one of one reference member virtual image Im1b is displayed.
  • the first boom virtual image Im1a overlaps the boom 19 viewed by the user of the transmissive display device 2 through the transmissive display 4 .
  • the first reference member virtual image Im1b overlaps the main hook 20a, which is the reference member Rm viewed by the user of the transmissive display device 2 through the transmissive display 4.
  • the transmissive display device 2 can be used even when at least part of the boom 19 cannot be seen from the viewpoint of the user of the transmissive display device 2 due to being blocked by a structure C or the like.
  • a first boom virtual image Im1a showing the shape of the boom 19 seen from the user's viewpoint is displayed on the transmissive display 4.
  • the transmissive display device 2 can display the reference member Rm as seen from the user's viewpoint even when at least part of the reference member Rm cannot be seen from the user's viewpoint because of the structure C or the like.
  • a first reference member virtual image Im1b showing the shape of Rm is displayed on the transmissive display 4 .
  • the display device control device 7 displays the virtual image (specifically, the first boom virtual image Im1a and the first reference member virtual image) so as to overlap the obstacle.
  • the image Im1b) is displayed on the transmissive display 4 .
  • the image processing device 9 generates the first boom virtual image based on the information Ifa regarding the position of the user, the information Ifb regarding the position of the crane 11, the information Ifc regarding the posture of the crane 11, and the information Ifi regarding the shape of the crane 11.
  • Information If1 about the first virtual image Im1 for displaying Im1a is generated.
  • the image processing device 9 performs the first image based on the information Ifa regarding the position of the user, the information Ifb regarding the position of the crane 11, the information Ifc regarding the orientation of the crane 11, the information Ifh regarding the shape of the reference member Rm, and the reference member image P2.
  • Information If1 related to the first virtual image Im1 for displaying the one reference member virtual image Im1b is generated.
  • the image processing device 9 does not use the image information including the boom 19 and the reference member Rm seen from the viewpoint of the user of the transmissive display device 2 when generating the information If1 regarding the first virtual image Im1. . Therefore, the image processing device 9 can reproduce the first boom virtual image Im1a and the first reference member virtual image even if at least a part of the boom 19 and the reference member Rm is blocked when viewed from the viewpoint of the user of the transmissive display device 2 . Information If1 about the first virtual image Im1 for displaying Im1b can be generated.
  • FIG. 9 shows a block diagram when the operation support system 1 of the crane 11 generates the information If2 regarding the second virtual image necessary for displaying the second virtual image Im2.
  • FIG. 10 shows a schematic diagram of a state in which the operation support system 1 of the crane 11 displays the second virtual image Im2 when the ground surface is the reference plane S1.
  • FIG. 11 is a schematic diagram showing a state in which the operation support system 1 of the crane 11 displays the second virtual image Im2 when the horizontal plane including the current position BLp of the boom tip is set as the reference plane S1.
  • the operation support system 1 for the crane 11 displays a reference member image P2, which is an image of a predetermined range including the reference member Rm, captured by the boom camera 19b of the boom 19 on an arbitrary reference plane S1. It is displayed on the transmissive display device 2 (see FIG. 3) as the second virtual image Im2.
  • the display device control device 7 of the transmissive display device 2 has information Ifa on the position of the user and information Ifd on the reference plane S1.
  • the information Ifd on the reference plane S1 includes the position and inclination of the virtual plane that serves as a reference for the position of displaying the second virtual image Im2 viewed from the user's viewpoint.
  • the reference plane S1 is at least one of the ground surface and the horizontal plane including the current position BLp of the tip of the boom 19, and is set in advance within the background (landscape) Ls.
  • the reference plane S1 may be arbitrarily determined by the user.
  • the image processing device 9 connected to the display device control device 7 via the communication device 8 acquires information Ifa on the position of the user from the display device control device 7 . Further, the image processing device 9 connected to the crane control device 30 via the communication device 8 receives the reference member image P2 captured by the boom camera 19b from the crane control device 30, the information Ifb on the position of the crane 11, and the Information Ifc about the posture of the crane 11 is acquired. The image processing device 9 determines the reference plane S ⁇ b>1 from the obtained information Ifa regarding the position of the user, information Ifb regarding the position of the crane 11 , and information Ifc regarding the attitude of the crane 11 .
  • the image processing device 9 determines that the direction viewed by the user is below the horizontal direction based on the information Ifa regarding the position of the user, the image processing device 9 changes the reference plane S1 to the ground surface. and That is, the image processing device 9 sets the reference plane based on the direction viewed by the user of the display.
  • the image processing device 9 determines that the direction in which the user is visually recognizing is above the horizontal direction based on the information Ifa regarding the position of the user, the image processing device 9 sets the reference plane S1 to the boom 19. , the horizontal plane including the current position BLp of the tip of .
  • the image processing device 9 when the reference plane S1 is a horizontal plane including the current position BLp, that is, when the reference plane S1 is higher than the horizontal line-of-sight position of the user, the image processing device 9 generates the reference member image P2. is generated as the second virtual image Im2 on the display screen of the transmissive display 4. Information If2 regarding the second virtual image Im2 is generated.
  • the reference plane S1 is the ground surface, that is, when the reference plane S1 is lower than the position of the horizontal line of sight of the user, the image processing device 9 sets an image obtained by not reversing the reference member image P2 as the second virtual image Im2. Information If2 relating to the second virtual image Im2 to be displayed on the display screen of the transmissive display 4 is generated.
  • the display device control device 7 of the transmissive display device 2 acquires information If2 regarding the reference member image P2 and the second virtual image Im2 from the image processing device 9 via the communication device 8. do. Further, the display device control device 7 displays the second virtual image Im2 viewed from the user's viewpoint on the reference plane S1 on the display screen of the transmissive display 4. FIG.
  • the operation support system 1 for the crane 11 is provided on the boom 19 in the background Ls of the transmissive display device 2 that is viewed by the operator of the crane 11 who is the user of the transmissive display device 2.
  • the steering support system 1 displays the second virtual image Im2 on the display screen of the transmissive display 4 so as to overlap an arbitrary reference plane S1 designated by the user.
  • the second virtual image Im2 includes an image of the main hook 20a that moves with the movement of the boom 19, the image of the main hook 20a is displayed so as to overlap the main hook 20a when viewed in the vertical direction.
  • the operator of the crane 11 can use the second virtual image Im2 on the reference plane S1 as a projected view of the main hook 20a.
  • the operator of the crane 11 operates the boom 19 by displaying the second virtual image Im2 within the field of view of the operator even when the instruction from the instructor is insufficient and the state of the ground surface cannot be visually recognized.
  • Information on the positional relationship between the boom 19 and the main hook 20a and the surrounding structure C necessary for this can be supplemented.
  • the operator of the crane 11 can suppress the influence of the information acquired from the instructor on the operation and operate the crane 11 efficiently.
  • FIG. 12 is a control block diagram when the operation support system 1 of the crane 11 displays the third virtual image Im3.
  • the operation support system 1 for the crane 11 includes the tip of the boom 19 moved by the crane device 16 when the crane device operation tool 29 is operated, and the trajectory of the tip of the boom 19 at the current position BLp. is displayed on the transmissive display device 2 (see FIG. 3) as a third virtual image Im3 on the reference plane S1. That is, the third virtual image Im3 includes an image showing the trajectory of the tip of the boom corresponding to the attitude of the boom.
  • the third virtual image Im3 is an image included in the virtual image representing the target member.
  • the display device control device 7 has information Ifd regarding the reference plane S1.
  • the reference plane S1 is the ground surface.
  • the image processing device 9 can acquire information Ifd regarding the reference plane S1 from the display device control device 7 via the communication device 8 .
  • the information Ifd about the reference plane S1 includes the position and inclination of the virtual plane that serves as a reference for the position of displaying the third virtual image Im3 viewed from the user's viewpoint.
  • the image processing device 9 acquires information Ifb on the position of the crane 11 and information Ifc on the attitude of the crane 11 from the crane control device 30 . Based on the acquired information Ifb on the position of the crane 11, information Ifc on the posture of the crane 11, and information Ifd on the reference plane S1, the image processing device 9 determines the tip of the boom 19 when the crane device operating tool 29 is operated. and the trajectory coordinates of the boom 19 from the current position BLp on the reference plane S1.
  • the image processing device 9 detects the current position BLp of the boom 19 viewed from the viewpoint of the user of the transmissive display device 2 and the trajectory at the current position BLp. on the display screen of the transmissive display 4, information If3 relating to the third virtual image Im3 is generated.
  • the image processing device 9 transmits information If3 regarding the generated third virtual image Im3 to the display device control device 7 .
  • the transmissive display device 2 acquires information If3 about the third virtual image Im3 from the image processing device 9 via the communication device 8.
  • the transmissive display device 2 displays the third virtual image Im3 in addition to the first virtual image Im1. Based on the information If3 about the third virtual image Im3, the transmissive display device 2 displays the current position BLp and the current position A third virtual image Im3 showing the trajectory in BLp is displayed.
  • the third virtual image Im3 is superimposed on the reference plane S1 viewed by the user of the transmissive display device 2 through the transmissive display 4 and displayed.
  • the display device controller 7 causes the display screen of the transmissive display 4 to overlap the ground surface viewed by the user of the transmissive display device 2 through the transmissive display 4.
  • the current position BLp of the boom 19 on the ground surface viewed from the user's viewpoint and the trajectory from the current position BLp are displayed as a third virtual image Im3.
  • the user of the transmissive display device 2 can see the current position BLp of the tip of the boom 19 displayed on the ground surface of the work site, which is the actual background Ls, and the current position BLp. View the trajectory from position BLp.
  • the operator who is the user of the transmissive display device 2, can view the current position BLp of the tip of the boom 19 and the trajectory from the current position BLp even in a state where the tip of the boom 19 or the reference member Rm cannot be visually recognized from the operator's seat due to the structure C or the like. can be confirmed by the third virtual image Im3 displayed on the ground surface.
  • the steering support system 1 displays the first virtual image Im1 and the third virtual image Im3 on the background Ls within the field of view of the user of the transmissive display device 2, so that the boom 19
  • the user of the transmissive display device 2 is provided with information for grasping the current position BLp of the tip of the boom 19, the current position RLp of the main hook 20a, and the positional relationship between the boom 19 and the main hook 20a and the structure C.
  • the steering support system 1 displays the current position BLp of the boom 19 from any direction and position desired by the user of the transmissive display device 2 and the trajectory from the current position BLp in the field of view of the user of the transmissive display device 2 . display in
  • the user of the transmissive display device 2 can see the current position BLp of the boom 19 displayed within the field of view of the user of the transmissive display device 2 even if the instruction from the instructor in charge of slinging is insufficient. and the trajectory from the current position BLp can supplement the information necessary to operate the crane 11 . As a result, the user of the transmissive display device 2 can suppress the influence of the information acquired from the instructor on the operation and operate the crane 11 efficiently.
  • FIG. 13 is a block diagram when the operation support system 1 of the crane 11 generates information necessary for displaying the fourth virtual image Im4.
  • the operation support system 1 of the crane 11 displays the shape of the reference member Rm at the target position RLt of the reference member Rm as a fourth virtual image Im4.
  • the image processing device 9 receives information Ifb on the position of the crane 11, information Ife on the target position RLt of the reference member Rm, and reference Information Ifh on the shape of the member Rm is acquired.
  • the information Ife on the target position RLt of the reference member Rm is coordinate information such as latitude, longitude, and altitude (corresponding to the extension amount from the tip of the boom 19) of the target position RLt of the reference member Rm.
  • the image processing device 9 calculates the three-dimensional coordinates of the reference member Rm at the target position RLt based on the information Ifb regarding the position of the crane 11, the information Ife regarding the target position RLt of the reference member Rm, and the information Ifh regarding the shape of the reference member Rm.
  • a set of fourth reference coordinates C4 is calculated. Further, the image processing device 9, based on the information Ifa on the position of the user and the fourth reference coordinates C4, provides a fourth coordinate indicating the shape of the reference member Rm at the visual reference position RLt from the viewpoint of the user of the transmissive display device 2.
  • Information If4 regarding a fourth virtual image Im4 for displaying the virtual image Im4 on the display screen of the transmissive display 4 is generated.
  • the image processing device 9 transmits information If4 regarding the generated fourth virtual image Im4 to the display device control device 7 .
  • the display device control device 7 acquires information If4 about the fourth virtual image Im4 from the image processing device 9 via the communication device 8 .
  • the display device control device 7 displays a reference image viewed from the viewpoint of the user of the transmissive display device 2 on the display screen of the transmissive display device 4 based on the information If4 regarding the fourth virtual image Im4.
  • a fourth virtual image Im4 showing the shape of the member Rm is displayed.
  • the fourth virtual image Im ⁇ b>4 is displayed at the target position RLt of the reference member Rm viewed by the user of the transmissive display device 2 through the transmissive display 4 .
  • the transmissive display device 2 displays images on the display screen of the transmissive display device 4 based on the information If1 related to the first virtual image Im1.
  • a first reference member virtual image Im1b representing the shape of the reference member Rm at the current position RLp is displayed.
  • the virtual first reference member image Im1b overlaps the main hook 20a, which is the reference member Rm, which is visually recognized by the user of the transmissive display device 2 through the transmissive display 4.
  • the transmissive display device 2 can be seen from the viewpoint of the user of the transmissive display device 2.
  • a fourth virtual image Im ⁇ b>4 showing the shape of the target position RLt on the reference member Rm is displayed on the transmission display 4 .
  • the reference member It is possible to operate while objectively grasping the positional relationship between the current position RLp of Rm and the target position RLt and the positional relationship between the surrounding structure C and the reference member Rm at the current position RLp and the target position RLt. Therefore, the operator moves the reference member Rm positioned at the current position RLp to the target position RLt of the reference member Rm displayed within the operator's visual field even if the instruction from the instructor is insufficient.
  • the fourth virtual image Im4 may include a virtual image showing the boom 19 and/or the wire rope (the main wire rope 24 and/or the sub wire rope 26). That is, the display device control device 7 places the boom 19 and/or the wire rope (the main wire rope 24 and/or the sub wire rope 26) at the position corresponding to the target position RLt of the reference member Rm on the transmissive display 4. A virtual image showing boom 19 and/or wire ropes (main wire rope 24 and/or sub wire rope 26) may be displayed.
  • FIG. 14 is a block diagram when the operation support system 1 of the crane 11 generates information necessary for displaying the fifth virtual image Im5.
  • the operation support system 1 of the crane 11 displays a vertical line passing through the current position BLp of the boom 19 as a fifth virtual image Im5.
  • the image processing device 9 passes the current position BLp of the boom 19 based on the obtained information Ifb regarding the position of the crane 11, information Ifc regarding the attitude of the crane 11, and information Ifd regarding the reference plane S1.
  • a fifth reference coordinate C5 which is a set of coordinates for displaying a perpendicular line to be drawn, is calculated.
  • the image processing device 9 converts the fifth reference coordinates C5 into a fifth virtual image Im5 viewed from the viewpoint of the user of the transmissive display device 2. It is generated as information If5.
  • the image processing device 9 transmits information If5 regarding the generated fifth virtual image Im5 to the display device control device 7 .
  • the display device control device 7 acquires information If5 regarding the fifth virtual image Im5 via the communication device 8.
  • the display device control device 7 draws a perpendicular line passing through the current position BLp of the boom 19 seen from the viewpoint of the user of the transmissive display device 2, which is the fifth virtual image Im5, based on the information If5 regarding the fifth virtual image Im5. is displayed on the display screen of the transmissive display 4 .
  • the user of the transmissive display device 2 can see the current position BLp of the boom 19 displayed in the actual background Ls on the transmissive display device 2 by a fifth virtual image Im5.
  • the current position BLp of the boom 19 is recognized.
  • both the fourth virtual image Im4 and the fifth virtual image Im5 showing the shape of the target position RLt on the reference member Rm are displayed, the user of the transmissive display device 2 cannot visually recognize the boom 19 from the operator's seat.
  • the positional relationship between the current position BLp of the boom 19 and the target position RLt of the reference member Rm can be recognized. Therefore, even if the instruction from the instructor is insufficient, the user of the transmissive display device 2 can suppress the influence of the information acquired from the instructor on the operation and operate the crane 11 efficiently. .
  • the operation support system 1 for the crane 11 displays any one of the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5. It is displayed on the transmissive display device 2 .
  • the operation support system 1 of the crane 11 displays at least one of the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5 on the transmissive display device. 2 users may arbitrarily select and display.
  • the operation support system 1 for the crane 11 may display not only the virtual image displayed in the above-described embodiment, but also a virtual image that supports the operation of the work vehicle.
  • the transmissive display device 2 of the operation support system 1 is attached to the operator who is operating the crane 11 within the cabin 27 of the crane 11 .
  • the transmissive display device 2 may be attached to an operator who remotely operates the crane 11 from the outside of the crane 11 .
  • the slinger when the slinger is wearing the transmissive display device 2, the slinger can display the first virtual image Im1 and the second virtual image Im2 on the transmissive display device 2 so that the boom 19 or the reference member Rm is displayed. is blocked by the structure C or the like, the position of the boom 19 or the reference member Rm can be communicated to the user of the transmissive display device 2 of the crane 11 .
  • the transmissive display device 2 of the steering support system 1 displays a third virtual image Im3 showing the current position BLp of the boom 19 and the trajectory at the current position BLp, and a second virtual image Im2. It is displayed on the reference plane S1.
  • the third virtual image Im3 may be displayed on any reference plane on which the second virtual image Im2 is not displayed.
  • the third virtual image may be displayed as a trajectory passing through the load W, for example, in the case of the load W being transported with the reference member Rm.
  • the operation support system 1 is configured as the operation support system 1 for the crane 11 .
  • the steering assistance system may be configured as a steering assistance system for an aerial work vehicle, which is a working vehicle.
  • the control support system for aerial work platforms provides information on the user's position, information on the position of the aerial work platform, information on the posture of the aerial work platform, and a reference plane that serves as a reference for displaying a virtual image via a communication device. Obtain information about the reference plane, including the position and orientation of the .
  • the image processing device of the operation support system displays the current position of the bucket, which is a reference member, and the trajectory from the current position on the display screen of the transmissive display device as a virtual image seen from the viewpoint of the operator of the aerial work platform.
  • Generate information about the virtual image of the bucket for The transmissive display device acquires information about a virtual image of the bucket of the aerial work platform via the communication device, and displays the virtual image on the display screen.
  • the operation support system 1 for the crane 11 uses the transmissive display device 2 to display the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the third virtual image Im4. At least one of the five virtual images Im5 is displayed. However, the operation support system 1 of the crane 11 displays at least one of the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5 on the image captured by the camera. can be displayed. At least one of the first virtual image Im1, the second virtual image Im2, the third virtual image Im3, the fourth virtual image Im4, and the fifth virtual image Im5 may be operable on a display screen such as a touch panel. .
  • the image processing device 9 acquires the information Ife regarding the target position RLt of the reference member Rm from the external server or the crane control device 30 via the communication device 8 .
  • the user of the transmissive display device 2 may acquire the information Ife regarding the target position RLt using an input device or the like.
  • the image processing device 9 may input the target position RLt of the reference member Rm, for example, using the transmissive display device 2 as an input device.
  • the image processing device 9 acquires the information Ifg regarding the orientation of the reference member Rm from the reference member image P2 captured by the boom camera 19b. However, the image processing device 9 may acquire the information Ifg regarding the attitude of the reference member Rm from the outside. The image processing device 9 may acquire information Ifg on the orientation of the reference member Rm from an image from a camera provided outside the crane 11 via the communication device 8, for example.
  • the image processing device 9 transmits, via the communication device 8, information Ifi about the shape of the crane 11, information Ifa about the position of the user, information Ifb about the position of the crane 11, information about the attitude of the crane 11, and information Ifb about the position of the crane 11. Ifc, information Ifh about the shape of the reference member Rm that moves with the movement of the boom 19, and information Ifg about the attitude of the reference member Rm are acquired.
  • the image processing apparatus may be configured to acquire at least one of these pieces of information.
  • the transmissive display device 2 uses information about the user's position necessary for displaying a virtual image on the transmissive display 4 by recognizing a marker positioned at a specific position. Ifa is calculated. However, the transmissive display device may calculate the information Ifa about the position of the user from the position of the transmissive display device 2 detected by the GNSS receiver.
  • the transmissive display device 2 is a wearable terminal worn by the user on the body.
  • the transmissive display device may be a display device that superimposes and visually recognizes a virtual image viewed from the user's viewpoint on a display screen that allows the background to be transparent viewed from the user's viewpoint.
  • the transmissive display device may be, for example, a head-up display that displays a virtual image viewed from the viewpoint of the user of the transmissive display device 2 sitting in the cockpit, using the windshield of the cabin as the display screen.
  • the transmissive display device 2 calculates the movement direction and the movement amount using the inertial measurement device 5 .
  • the transmissive display device may calculate the movement direction and the movement amount by Visual SLAM (Visual Simultaneous Localization And Mapping) that generates a map of the surrounding environment and estimates the self-position based on the image data.
  • Visual SLAM grasps feature points in images acquired from a stereo camera or the like.
  • Visual SLAM performs self-position estimation and map creation from the movement of feature points accompanying the movement of the stereo camera or the like.
  • a transmissive display device can calculate a moving direction and a moving amount using an image captured by a display device camera that captures the direction of a user's line of sight.
  • the present invention is applicable to various work machines with booms.

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Jib Cranes (AREA)

Abstract

操縦支援システムは、ブームを有する作業車両の操縦を支援する操縦支援システムであって、透明であり、画像を表示可能なディスプレイと、ブーム及び/またはブームとともに移動する部材を含む対象部材を示す仮想画像を生成する生成部と、ディスプレイの使用者が対象部材の位置を認識可能な態様で、ディスプレイ越しに見える風景と重なるように、ディスプレイに前記仮想画像を表示する制御部と、を備える。

Description

操縦支援システム及び作業車両
 本発明は、作業車両の操縦支援システム及び操縦支援システムを有する作業車両に関する。
 従来、作業車両である移動式クレーンを用いて荷物を搬送する場合、移動式クレーンの操縦者は、移動式クレーンのブームを操作するための旋回用操作具、起伏用操作具、伸縮用操作具、及び荷物を吊り上げまたは吊り下げるためのウインチ用操作具等の複数の操作具を操作する。また、操縦者は、複数の操作具を同時に操作しつつ、作業現場の構造物等に荷物が接触しないように移動式クレーンを操作しなくてはならない。そこで、操縦者は、荷物の位置についての情報及び地物の情報等を、玉掛け作業者等から取得することによって、操縦者が視認できない範囲及び時期の情報を補っている。つまり、操縦者は、操縦者の視覚による情報と外部の指示者からの情報とに基づいてクレーンの操縦を行う。
 また、移動式クレーンは、操縦者が操縦席から認識し難い領域の情報を取得するためにブームカメラ等を有している。移動式クレーンは、搬送中の荷物及び周囲の構造物等の上方からの画像をブームカメラによって取得することができる。例えば、特許文献1の如くである。
 特許文献1に記載のクレーンは、ブームの先端に設けられたブームカメラで作業現場の画像及びフックに吊り下げられている荷物の画像を取得するとともに、画像に荷物を中心とする基準線、目盛、荷物の移動方向を示す有向線分、及び荷物の旋回可能軌道等の少なくとも一つを重ねて表示する。クレーンの操縦者は、操縦者自身の視覚情報、指示者からの情報、及びブームカメラの画像情報を総合的に判断してクレーンを操縦する。
特開2019-156538号公報
 クレーン操縦者は、ブームの先端及びフック等が視認できない場合、指示者の指示内容及び指示のタイミングに合わせてクレーンを操作する。この際、クレーンの操縦者は、周囲の構造物とブーム及びフック等との位置関係を指示者の指示内容から推測する。よって、クレーンの操縦者は、指示者の指示内容が適切でないと効率よくクレーンを操縦できない。
 本発明の目的は、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーンを操縦することができる操縦支援システム及び作業車両を提供することである。
 本発明者らは、指示者から取得する情報が操縦に与える影響を抑制し、効率よく作業車両を操縦することができる操縦支援システム及び作業車両の構成について検討した。本発明者らは、鋭意検討の結果、以下のような構成に想到した。
 本発明に係る操縦支援システムの一態様は、
 ブームを有する作業車両の操縦を支援する操縦支援システムであって、
 透明であり、画像を表示可能なディスプレイと、
 ブーム及び/またはブームとともに移動する部材を含む対象部材を示す仮想画像を生成する生成部と、
 ディスプレイの使用者が対象部材の位置を認識可能な態様で、ディスプレイ越しに見える風景と重なるように、ディスプレイに仮想画像を表示する制御部と、を備える。
 本発明に係る作業車両の一態様は、上述の操縦支援システムを備える。
 本明細書で使用される専門用語は、特定の実施例のみを定義する目的で使用されるのであって、専門用語によって発明を制限する意図はない。
 本明細書で使用される「及び/または」は、一つまたは複数の関連して列挙された構成物のすべての組み合わせを含む。
 本明細書において、「含む、備える(including)」「含む、備える(comprising)」または「有する(having)」及びそれらの変形の使用は、記載された特徴、工程、要素、成分、及び/または、それらの等価物の存在を特定するが、工程、動作、要素、成分、及び/または、それらのグループのうちの1つまたは複数を含むことができる。
 本明細書において、「取り付けられた」、「接続された」、「結合された」、及び/または、それらの等価物は、広義の意味で使用され、“直接的及び間接的な”取り付け、接続及び結合の両方を包含する。さらに、「接続された」及び「結合された」は、物理的または機械的な接続または結合に限定されず、直接的または間接的な接続または結合を含むことができる。
 他に定義されない限り、本明細書で使用される全ての用語(技術用語及び科学用語を含む)は、本発明が属する技術分野の当業者によって一般的に理解される意味と同じ意味を有する。
 一般的に使用される辞書に定義された用語は、関連する技術及び本開示の文脈における意味と一致する意味を有すると解釈されるべきであり、本明細書で明示的に定義されていない限り、理想的または過度に形式的な意味で解釈されることはない。
 本発明の説明においては、いくつもの技術及び工程が開示されていると理解される。これらの各々は、個別の利益を有し、他に開示された技術の1つ以上、または、場合によっては全てと共に使用することもできる。
 したがって、明確にするために、本発明の説明では、不要に個々のステップの可能な組み合わせをすべて繰り返すことを控える。しかしながら、本明細書及び特許請求の範囲は、そのような組み合わせがすべて本発明の範囲内であることを理解して読まれるべきである。
 本明細書では、本発明に係る作業車両の操縦支援システム及び操縦支援システムを備える作業車両の実施形態について説明する。
 以下の説明では、本発明の完全な理解を提供するために多数の具体的な例を述べる。しかしながら、当業者は、これらの具体的な例がなくても本発明を実施できることが明らかである。
 よって、以下の開示は、本発明の例示として考慮されるべきであり、本発明を以下の図面または説明によって示される特定の実施形態に限定することを意図するものではない。
 [仮想画像]
 本明細書において、仮想画像とは、透過型表示装置において使用者が視認している透過型表示装置の背景(風景)以外の画像、映像であって、透過型表示装置が表示している線、図形、画像、映像、3次元画像、及び/または3次元映像を意味する。つまり、仮想画像は、実際に存在しない物体の画像を使用者の視点から見た形状の画像に変換することで使用者が視認している透過型表示装置の背景に違和感なく表示可能な画像である。仮想画像は、透過型表示装置おいて使用者が視認している透過型表示装置の背景に重ねて表示される。仮想画像は、第1仮想画像、第2仮想画像、第3仮想画像、第4仮想画像、及び第5仮想画像を含む。
 [視点]
 本明細書において、視点とは、対象を見るときの立脚点を意味する。使用者の視点とは、使用者が対象物を視認している際の使用者の対象物に対する位置を意味する。
 [仮想画像に関する情報]
 本明細書において、仮想画像に関する情報とは、透過型表示装置の使用者の視点から見た画像として透過型表示装置の表示画面に仮想画像を表示するために必要な情報を意味する。仮想画像に関する情報は、仮想画像の座標及び/または表示の状態等を含む。
 [軌道]
 本明細書において、軌道とは、作業車両の操作具毎の操作によって作業車両の基準部材が通過する複数の座標の集合を連続する線で表した図形を意味する。また、軌道には、操作具毎の操作によって作業車両の基準部材が通過する座標の集合を任意の基準面上の座標に変換し、連続する線で表した図形を含む。
 [通信装置]
 本明細書において、通信装置とは、画像処理装置と表示装置用制御装置、画像処理装置と入力装置、画像処理装置と作業車両の制御装置との間で情報を送受信する装置を意味する。通信装置は、表示装置用制御装置及び画像処理装置と一体に構成されていてもよい。
 [基準部材]
 本明細書において、基準部材とは、作業車両が有するブームの移動に伴って移動する部材であり、且つブームに設けられた撮影装置により撮影される部材である。つまり、基準部材は、撮影装置によって現在位置を認識される部材である。基準部材は、例えばブームから吊り下げられたメインフック、メインフックブロック、サブフック、サブフックブロック、メインワイヤロープ、及び、フック(メインフックまたはサブフック)により吊り下げられた荷物である。
 本発明によれば、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーンを操縦することができる操縦支援システム及び作業車両を提供できる。
図1は、本発明の実施形態1に係る作業車両の操縦支援システムにおける透過型表示装置が使用者に装着された斜視図を示す。 図2は、本発明の実施形態1に係る作業車両の操縦支援システムにおける透過型表示装置の斜視図を示す。 図3は、本発明の実施形態1に係る作業車両の操縦支援システムのブロック図を示す。 図4は、本発明の実施形態1に係る作業車両の操縦支援システムが接続されるクレーンの側面図を示す。 図5は、本発明の実施形態1に係る作業車両の操縦支援システムが接続されるクレーンの制御ブロック図を示す。 図6は、本発明の実施形態1に係る作業車両の操縦支援システムが仮想画像を表示するために必要な情報を生成する際のブロック図を示す。 図7は、本発明の実施形態1に係る作業車両の操縦支援システムが仮想画像を表示している状態の模式図を示す。 図8は、本発明の実施形態1に係る作業車両の操縦支援システムがブームの一部が視認できない状態で仮想画像を表示している状態の模式図を示す。 図9は、本発明の実施形態2に係る作業車両の操縦支援システムが仮想画像を表示するために必要な情報を生成する際のブロック図を示す。 図10は、本発明の実施形態2に係る作業車両の操縦支援システムが地表面を基準面とした場合の仮想画像を表示している状態の模式図を示す。 図11は、本発明の実施形態2に係る作業車両の操縦支援システムがブーム先端を含む水平面を基準面とした場合の仮想画像を表示している状態の模式図を示す。 図12は、本発明の実施形態3に係る作業車両の操縦支援システムが仮想画像を表示するために必要な情報を生成する際のブロック図を示す。 図13は、本発明の実施形態4に係る作業車両の操縦支援システムが仮想画像を表示するために必要な情報を生成する際のブロック図を示す。 図14は、本発明の実施形態5に係る作業車両の操縦支援システムが仮想画像を表示するために必要な情報を生成する際のブロック図を示す。
 [実施形態1]
 以下に、図1から図3を用いて、本発明の実施形態1に係るブーム19を有する作業車両であるクレーン11の操縦支援システム1について説明する。図1は、本発明の実施形態1に係るクレーン11の操縦支援システム1における透過型表示装置2が使用者に装着された斜視図である。図2は、クレーン11の操縦支援システム1における透過型表示装置2の斜視図である。図3は、クレーン11の操縦支援システム1のブロック図である。なお、本実施形態においては、作業車両としてラフテレーンクレーン(以下、単に「クレーン」と記す。)について説明する。しかしながら、作業車両は、オールテレーンクレーン、トラッククレーン、及び高所作業車等の旋回台を介して起伏可能なブームが設けられた作業車両であればよい。
 図1及び図2に示すように、作業車両であるクレーン11(図4参照)の操縦支援システム1は、複合現実(Mixed Reality)を用いてクレーン11の操縦を支援するシステムである。操縦支援システム1は、透過型表示装置2と、通信装置8と、画像処理装置9とを有する。
 操縦支援システム1は、ブーム19を有するクレーン11の操縦を支援するシステムである。本実施形態の操縦支援システム1は、透明であり、画像を表示可能なディスプレイ(具体的には、透過型ディスプレイ4)と、ブーム19及び/またはブーム19とともに移動する部材(具体的には、ワイヤロープ及び/またはフック)を含む対象部材を示す仮想画像(具体的には、第1仮想画像Im1)を生成する生成部(画像処理装置9)と、画像処理装置9の使用者が対象部材の位置を認識可能な態様で、画像処理装置9越しに見える風景と重なるように、画像処理装置9に仮想画像を表示する制御部(表示装置用制御装置7)と、を備える。以下、操縦支援システム1の具体的構成について説明する。
 透過型表示装置2は、透過型表示装置2の使用者の視点から見た仮想画像を使用者の視点から見た透過型表示装置2の背景(風景)Lsに重ねた状態で使用者に視認させる表示装置である。透過型表示装置2は、使用者が身体に装着して使用するウェアラブル端末である。本実施形態において、透過型表示装置2は、眼鏡型のウェアラブル端末として説明する。透過型表示装置2は、使用者であるクレーン11の操縦者に装着されている。透過型表示装置2は、フレーム3と、透過型ディスプレイ4と、慣性計測装置5と、表示装置用カメラ6と、表示装置用制御装置7とを有する。
 フレーム3は、透過型ディスプレイ4と、慣性計測装置5と、表示装置用カメラ6と、表示装置用制御装置7とを支持する。フレーム3は、眼鏡型フレームとして構成されている。フレーム3は、透過型表示装置2の使用者の頭部に装着される。フレーム3は、使用者の鼻と両耳とによって支持される。
 透過型ディスプレイ4は、透過率が概ね50%以上のディスプレイである。透過型ディスプレイ4は、バックライト、偏光フィルタ、及びカラーフィルタを有さない。透過型ディスプレイ4は、液晶ディスプレイ、有機ELディスプレイ、または無機ELディスプレイ等であってよい。つまり、透過型ディスプレイ4は、透過型表示装置2の使用者と対向している表示画面の背面を覆うバックライト及びフィルタ等の部材が存在しない。従って、透過型ディスプレイ4は、透過型表示装置2の使用者の視点から見て透過型ディスプレイ4と重複している背景が透過している。
 透過型ディスプレイ4は、表示画面に表示装置用制御装置7よって生成された第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5を表示する。なお、第1仮想画像Im1は、ブーム19の仮想画像である第1ブーム仮想画像Im1aと、基準部材Rmの仮想画像である第1基準部材仮想画像Im1bとのうち少なくとも一つを含む。第1仮想画像Im1(第1ブーム仮想画像Im1a及び第1基準部材仮想画像Im1b)は、対象部材を示す仮想画像の一例に該当する。
 透過型ディスプレイ4は、仮想画像を表示させない部分において背面から入光した光を透過させる。また、透過型ディスプレイ4は、仮想画像を表示させる部分において背面から入光した光の少なくとも一部を遮光する。更に、透過型ディスプレイ4は、遮光した部分に仮想画像を表示する。この際、透過型ディスプレイ4には、透過型表示装置2の使用者の視点から見た仮想画像が表示される。これにより、透過型ディスプレイ4は、透過型表示装置2の使用者の視点から見た背景Lsに仮想画像が重なって表示された状態を透過型表示装置2の使用者に視認させる。透過型ディスプレイ4は、フレーム3に設けられている。
 透過型ディスプレイ4は、フレーム3を装着している使用者の右目の視野範囲と左目の視野範囲とを覆うように位置している。透過型ディスプレイ4は、右目用の仮想画像と左目用の仮想画像とを視差画像としてそれぞれ表示画面に表示可能に構成されている。これにより、透過型ディスプレイ4は、使用者の視野範囲のほぼ全域において立体的な仮想画像を表示させることができる。なお、透過型表示装置2において、使用者の視点から見た仮想画像を使用者の視野内に表示させる技術は公知である。
 慣性計測装置5(IMU:Inertial Measurement Unit)は、透過型表示装置2の位置及び方位を算出する。慣性計測装置5は、フレーム3に位置している。慣性計測装置5は、X軸、Y軸、及びZ軸まわりの角度及び角加速度を算出する。つまり、慣性計測装置5は、任意の位置を基準として透過型表示装置2の移動方向及び移動量を算出する。
 表示装置用カメラ6は、透過型表示装置2を装着している使用者の視線の方向を撮影する。表示装置用カメラ6は、フレーム3に設けられている。表示装置用カメラ6は、透過型表示装置2の使用者の視点と略等しい位置から使用者の視野範囲と略等しい範囲を撮影する。なお、本実施形態において、表示装置用カメラ6は、フレーム3に設けられているが、透過型表示装置2の使用者の視点から透過型表示装置2の使用者の視野範囲を撮影することができる位置に設けられればよい。
 図3に示すように、表示装置用制御装置7は、透過型ディスプレイ4に第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び/または第5仮想画像Im5を表示させる制御装置である。表示装置用制御装置7は、実体的には、CPU、ROM、RAM、及びHDD等がバスで接続されている。または、表示装置用制御装置7は、ワンチップのLSI等からなる構成であってもよい。表示装置は、透過型ディスプレイ4及び表示装置用カメラ6と接続されている。表示装置用制御装置7は、通信装置8を介して画像処理装置9と接続されている。
 表示装置用制御装置7は、表示装置用カメラ6が撮影した表示装置画像P1を取得することができる。表示装置用制御装置7は、表示装置画像P1に含まれる特定のマーカを認識することができる。表示装置用制御装置7は、予め特定のマーカの座標を取得している場合、特定のマーカを認識することで表示装置用カメラ6の位置及び/または姿勢等を算出することができる。
 特定のマーカは、例えば後述するクレーン11のキャビン27内の定められた箇所に位置する。更に、表示装置用制御装置7は、特定のマーカに基づいて算出した表示装置用カメラ6の位置及び/または姿勢等を基準として慣性計測装置5により表示装置用カメラ6の位置及び/または姿勢等を単位時間毎に算出する。これにより、表示装置用制御装置7は、過去の表示装置画像P1に特定のマーカが含まれている場合、現在の表示装置画像P1に特定のマーカが含まれていない状態でも現在の表示装置用カメラ6の位置及び/または姿勢等を算出することができる。
 透過型表示装置2の使用者の位置は、表示装置用カメラ6を基準として予め定められている。従って、表示装置用制御装置7は、算出した表示装置用カメラ6の位置及び/または姿勢等に基づいて透過型表示装置2の使用者の位置に関する情報Ifaを生成することができる。使用者の位置に関する情報Ifaは、透過型表示装置2の使用者が位置する緯度、経度、及び標高等の座標情報、並びに、透過型表示装置2の使用者が視認している方向等を含む。透過型表示装置2は、例えば後述するクレーン11のキャビン27内に位置するマーカを認識することで透過型表示装置2の使用者の位置に関する情報Ifaを算出する。
 表示装置用制御装置7は、画像処理装置9から透過型ディスプレイ4に表示する第1仮想画像Im1に関する情報If1、第2仮想画像Im2に関する情報If2、第3仮想画像Im3に関する情報If3、第4仮想画像Im4に関する情報If4、及び/または第5仮想画像Im5に関する情報If5を取得する。表示装置用制御装置7は、取得した第1仮想画像Im1に関する情報If1、第2仮想画像Im2に関する情報If2、第3仮想画像Im3に関する情報If3、第4仮想画像Im4に関する情報If4、及び/または第5仮想画像Im5に関する情報If5に基づいて透過型表示装置2の使用者の視点から見た第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5を透過型ディスプレイ4に表示することができる。
 透過型表示装置2は、使用者が頭部に装着した状態で透過型ディスプレイ4の表示画面に第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び/または第5仮想画像Im5を表示することができる。また、透過型表示装置2は、特定のマーカを認識することで第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び/または第5仮想画像Im5を透過型ディスプレイ4に表示するために必要な使用者の位置に関する情報Ifaを算出することができる。
 透過型表示装置2は、背景Lsが透過している透過型ディスプレイ4の表示画面に透過型表示装置2の使用者の視点から見た第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5のうちの少なくとも一つを透過型ディスプレイ4に表示することができる。これにより、透過型表示装置2は、第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5の少なくとも一つを透過型表示装置2の背景Lsに重ねた状態で透過型表示装置2の使用者に視認させることができる。
 図3に示すように、通信装置8は、透過型表示装置2と、画像処理装置9と、クレーン用制御装置30との間で情報を送受信する装置である。通信装置8は、透過型表示装置2の表示装置用制御装置7及び画像処理装置9にそれぞれ設けられている。通信装置8は、クレーン用制御装置30と画像処理装置9との間で情報を送信及び受信する。また、通信装置8は、表示装置用制御装置7と画像処理装置9との間で情報を送信及び受信する。
 画像処理装置9は、生成部の一例に該当し、第1仮想画像Im1に関する情報If1、第2仮想画像Im2に関する情報If2、第3仮想画像Im3に関する情報If3、第4仮想画像Im4に関する情報If4、及び第5仮想画像Im5に関する情報If5を生成する制御装置である。画像処理装置9は、実体的には、CPU、ROM、RAM、HDD等がバスで接続されている。または、画像処理装置9は、ワンチップのLSI等からなる構成でもよい。本実施形態において、画像処理装置9は、透過型表示装置2に設けられている。つまり、画像処理装置9は、フレーム3に支持されている。
 画像処理装置9は、透過型表示装置2等の動作を制御したり画像データを処理したりするために種々のプログラム及びデータが格納されている。なお、画像処理装置9は、表示装置用制御装置7または後述する作業車両であるクレーン11のクレーン用制御装置30と一体に構成されていてもよい。
 画像処理装置9は、通信装置8を介して透過型表示装置2の表示装置用制御装置7に接続されている。画像処理装置9は、通信装置8を介して表示装置用制御装置7から使用者の位置に関する情報Ifaを取得することができる。また、画像処理装置9は、通信装置8を介して表示装置用制御装置7から表示装置用カメラ6が撮影した表示装置画像P1を取得することができる。また、画像処理装置9は、通信装置8を介して撮影装置であるクレーン11のブームカメラ19b(図4参照)が撮影した基準部材Rmを含む所定の範囲を撮影した画像である基準部材画像P2を取得することができる。
 画像処理装置9は、通信装置8を介してクレーン用制御装置30からクレーン11の位置に関する情報Ifbを取得することができる。クレーン11の位置に関する情報Ifbとは、クレーン11の旋回中心が位置する緯度、経度、及び標高等の座標情報、並びに、車両12の方位等を含む。
 画像処理装置9は、通信装置8を介してクレーン用制御装置30からクレーン11の姿勢に関する情報Ifcを取得することができる。クレーン11の姿勢に関する情報Ifcとは、クレーン11の旋回角度、ブームの起伏角度、ブーム長さ、メインワイヤロープ24の繰り出し長さ、サブワイヤロープ26の繰り出し長さ、ブームカメラ19bの画角等の諸元、並びにクレーン11の各操作具の操作方向及び操作量を含む(図4及び図5参照)。
 画像処理装置9は、通信装置8を介してクレーン用制御装置30または図示しない外部のサーバーからクレーン11の形状に関する情報Ifiを取得することができる。クレーン11の形状に関する情報Ifiとは、後述するブーム19、ジブ19c、メインフックブロック20、メインフック20a、サブフックブロック21、サブフック21a、メインワイヤロープ24及びサブワイヤロープ26等のブーム19に関係する部材の形状についての3次元座標(換言すれば、3次元画像)に関する情報である。また、クレーン11の形状に関する情報Ifiは、ブーム19に設けられたブームカメラ19bの緯度、経度、標高の座標情報、及びブームカメラ19bの撮影方向等を含む。
 画像処理装置9は、通信装置8を介してクレーン用制御装置30または外部のサーバーが有するBIM等から基準部材Rmの形状に関する情報Ifhを取得することができる。基準部材Rmとは、ブーム19の移動に伴って移動するメインフックブロック20、メインフック20a、サブフックブロック21、サブフック21a、メインワイヤロープ24、サブワイヤロープ26、及び荷物W等である。基準部材Rmは、透過型表示装置2の使用者が任意に選択することができる。基準部材Rmの形状に関する情報Ifhとは、基準部材Rmについての3次元座標(換言すれば、3次元画像)に関する情報である。本実施形態において、基準部材Rmは、メインフック20aとする。
 画像処理装置9は、通信装置8を介してクレーン用制御装置30またはクレーン11の撮影装置であるブームカメラ19bから基準部材画像P2に関する情報Iffを取得することができる。基準部材画像P2に関する情報Iffとは、ブームカメラ19bが撮影した基準部材画像P2及び基準部材画像P2を撮影した際のブームカメラ19bの画角等である。基準部材画像P2に関する情報Iffは、基準部材Rmの姿勢に関する情報Ifgを含む。
 このように構成されるクレーン11の操縦支援システム1は、画像処理装置9によって透過型表示装置2の使用者の位置に関する情報Ifa、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、基準部材画像P2に関する情報Iff及びクレーン11の形状に関する情報Ifiを取得する。
 以下に、図4と図5とを用いて、本発明の一実施形態に係る作業車両であるクレーン11について説明する。図4は、操縦支援システム1が接続されるクレーン11の側面図である。図5は、操縦支援システム1が接続されるクレーン11の制御ブロック図である。
 図4と図5とに示すように、クレーン11は、任意の場所に移動可能な移動式クレーンである。クレーン11は、車両12、クレーン装置16、撮影装置であるブームカメラ19b、クレーン用制御装置30を有する。
 車両12は、クレーン装置16を搬送する走行体である。車両12は、複数の車輪13を有する。車両12は、エンジン14を動力源として走行する。車両12は、アウトリガ15を有する。アウトリガ15は、車両12の幅方向両側に油圧によって延伸可能な張り出しビームと地面に垂直な方向に延伸可能な油圧式のジャッキシリンダとを有する。
 クレーン装置16は、荷物Wをワイヤロープによって吊り上げる作業装置である。クレーン装置16は、旋回台17、クレーン用GNSS受信機18、ブーム19、メインフックブロック20、サブフックブロック21、起伏用油圧シリンダ22、メインウインチ23、メインワイヤロープ24、サブウインチ25、サブワイヤロープ26、及びキャビン27等を具備する。
 旋回台17は、クレーン装置16を旋回可能に構成する回転装置である。旋回台17は、円環状の軸受を介して車両12のフレーム上に設けられる。旋回台17は、円環状の軸受の中心を回転中心として回転自在に構成されている。旋回台17には、アクチュエータである油圧式の旋回用油圧モータ17aを有する。旋回台17は、旋回用油圧モータ17aによって一方向と他方向とに旋回可能に構成されている。
 クレーン用GNSS受信機18は、全球測位衛星システム(Global Navigation Satellite System)を構成する受信機である。クレーン用GNSS受信機18は、衛星から測距電波を受信し、クレーン用GNSS受信機18の絶対座標である緯度、経度、標高、及び方位等を検出する。クレーン用GNSS受信機18は、旋回台17に設けられている。クレーン用GNSS受信機18は、クレーン11の位置に関する情報Ifbを検出する。
 ブーム19は、メインワイヤロープ24及びサブワイヤロープ26を支持する可動支柱である。ブーム19は、複数のブーム部材から構成されている。ブーム19は、ベースブーム部材の基端が旋回台17の略中央に揺動可能に設けられている。ブーム19は、各ブーム部材を伸縮させるアクチュエータである伸縮用油圧シリンダ19aとブーム部材を起伏させる起伏用油圧シリンダ22を有する。
 ブーム19は、伸縮用油圧シリンダ19aによって軸方向に伸縮させられる。ブーム19には、撮影装置であるブームカメラ19bを有する。さらに、ブーム19は、延長用部材であるジブ19cを有する。ブームカメラ19bが撮影した画像である基準部材画像P2は、クレーン用制御装置30の通信装置30aを介して画像処理装置9に送信される。
 メインフックブロック20とサブフックブロック21とは、荷物Wを吊る部品である。メインフックブロック20は、メインワイヤロープ24が巻き掛けられる複数のフックシーブと、荷物Wを吊るメインフック20aとを有する。サブフックブロック21は、荷物Wを吊るサブフック21aを有する。
 メインウインチ23は、メインワイヤロープ24の繰り入れ(巻き上げ)及び繰り出し(巻き下げ)を行う装置である。サブウインチ25は、サブワイヤロープ26の繰り入れ(巻き上げ)及び繰り出し(巻き下げ)を行う装置である。メインウインチ23は、メインワイヤロープ24が巻きつけられるメインドラムがアクチュエータである図示しないメイン用油圧モータによって回転される。サブウインチ25は、サブワイヤロープ26が巻きつけられるサブドラムがアクチュエータである図示しないサブ用油圧モータによって回転させられる。
 キャビン27は、操縦席を覆う筐体である。キャビン27は、旋回台17に搭載されている。キャビン27には、図示しない操縦席が設けられている。操縦席には、車両12を走行操作するための走行用操作具28、クレーン装置16の旋回用油圧モータ17aを操作する旋回用操作具29a、伸縮用シリンダを操作する伸縮用操作具29b、起伏用油圧シリンダ22を操作する起伏用操作具29c、メインウインチ23を操作するメイン用操作具29d、及びサブウインチ25を操作するサブ用操作具29eを含むクレーン装置用操作具29等が設けられている(図5参照)。
 図5に示すように、クレーン用制御装置30は、クレーン11の各アクチュエータを制御する。クレーン用制御装置30は、キャビン27内に設けられている。クレーン用制御装置30は、実体的には、CPU、ROM、RAM、HDD等がバスで接続されている。またはクレーン用制御装置30は、ワンチップのLSI等から構成される。
 クレーン用制御装置30は、各アクチュエータ、切換え弁等の動作を制御したり画像データを処理したりするために種々のプログラム及びデータが格納されている。クレーン用制御装置30は、通信装置30aを有している。通信装置30aは、操縦支援システム1の画像処理装置9との間で情報を送信及び受信する。
 クレーン用制御装置30は、クレーン用GNSS受信機18に接続されている。クレーン用制御装置30は、クレーン11の位置に関する情報Ifbを取得することができる。クレーン用制御装置30は、走行用操作具28及びクレーン装置用操作具29に接続されている。クレーン用制御装置30は、走行用操作具28及びクレーン装置用操作具29のそれぞれの操作信号を取得することができる。
 クレーン用制御装置30は、走行用操作具28の操作により生成される操作信号に基づいて、車両12の制御信号を生成する。同様に、クレーン用制御装置30は、クレーン装置用操作具29の操作により生成される操作信号に基づいて、クレーン装置16の制御信号を生成する。クレーン用制御装置30は、生成した制御信号をクレーン装置16の各アクチュエータに送信することができる。
 クレーン用制御装置30は、取得したクレーン装置用操作具29のそれぞれの操作信号からクレーン11の姿勢に関する情報Ifcを生成することができる。クレーン用制御装置30は、予めクレーン11の形状に関する情報Ifi及び基準部材Rmの形状に関する情報Ifhを保持しているものとする。
 クレーン用制御装置30は、通信装置30aを介して操縦支援システム1の画像処理装置9に接続されている。クレーン用制御装置30は、画像処理装置9にクレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、クレーン11の形状に関する情報Ifi、基準部材Rmの形状に関する情報Ifh、及び基準部材画像P2に関する情報Iffを送信することができる。
 このように構成されるクレーン11は、走行用操作具28の操作によって車両12を任意の位置に移動させることができる。また、クレーン11は、クレーン装置用操作具29の操作によって、ブーム19を旋回、起伏、伸縮させることで荷物Wを任意の位置に搬送することができる。また、クレーン11は、操縦支援システム1に各種情報を送信することができる。
 <ブーム19及びメインフック20aの現在位置表示>
 以下に、図6~図8を用いて、クレーン11の操縦者に対する操縦支援システム1の第1実施形態としてブーム19、メインフックブロック20及びメインフック20a(以下、単に「メインフック20aと記す)の現在位置表示について具体的に説明する。図6は、クレーン11の操縦支援システム1が第1仮想画像Im1を表示する際の制御ブロック図である。図7は、クレーン11の操縦支援システム1が第1仮想画像Im1、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5を表示している状態の模式図である。図8は、ブーム19及びメインフック20aの一部が視認できない状態でクレーン11の操縦支援システム1が第1ブーム仮想画像Im1a及び第1基準部材仮想画像Im1bを表示している状態の模式図である。
 クレーン11の操縦者は、透過型表示装置2の使用者でもある。クレーン11の操縦者は、透過型表示装置2を頭部に装着した状態でクレーン11を操縦する。また、クレーン11の操縦者は、クレーン11のキャビン27(図4参照)内に着席した状態でクレーン11を操縦している。本実施形態において、基準部材Rmは、クレーン11のメインフック20aとする。
 図6に示すように、クレーン11のクレーン用制御装置30と接続されている操縦支援システム1の画像処理装置9は、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、及びクレーン11の形状に関する情報Ifiに基づいて、現在のブーム19の姿勢におけるブーム19の3次元座標の集合である第1基準座標C1を算出する。更に、画像処理装置9は、使用者の位置に関する情報Ifa、及び第1基準座標C1に基づいて、透過型表示装置2の使用者の視点から見たブーム19の形状を示す第1ブーム仮想画像Im1aを透過型ディスプレイ4の表示画面上に表示するための第1仮想画像Im1に関する情報If1を生成する。換言すれば、画像処理装置9は、ディスプレイの使用者の位置に関する情報と、作業車の姿勢及び作業車の位置に基づいて算出された対象部材の位置に関する情報と、に基づいて、仮想画像(第1ブーム仮想画像Im1a)を表示するディスプレイ上の位置を決定する。そして、画像処理装置9は、決定した仮想画像を表示するディスプレイ上の位置に関する情報を、表示装置用制御装置7に送る。尚、このように位置を決定する際、クレーン11の形状に関する情報Ifiは、省略されてもよい。
 また、画像処理装置9は、基準部材Rmの形状に関する情報Ifhと基準部材画像P2に関する情報Iffとに基づいて、基準部材画像P2から基準部材Rmを抽出する。更に、画像処理装置9は、基準部材画像P2から抽出した基準部材Rm、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、及びクレーン11の形状に関する情報Ifiに基づいて、基準部材Rmの現在の緯度、経度、標高(ブーム19の先端からの高さ)等の座標情報及び基準部材Rmの方位等を含む基準部材Rmの現在位置RLpを算出する。基準部材Rmの現在位置RLpは、ブームカメラ19b(図5参照)が単位時間毎に撮影した基準部材画像P2に含まれる基準部材Rmの位置から算出される。つまり、現在位置RLpは、基準部材Rmの揺れ等による位置の変動等も含まれる。
 画像処理装置9は、基準部材Rmの現在位置RLp、クレーン11の姿勢に関する情報Ifc、及び基準部材Rmの形状に関する情報Ifhに基づいて、基準部材Rmの現在位置RLpにおける基準部材Rmの3次元座標の集合である第2基準座標C2を算出する。更に、画像処理装置9は、使用者の位置に関する情報Ifa及び第2基準座標C2に基づいて、透過型表示装置2の使用者の視点から見た基準部材Rmの形状を示す第1基準部材仮想画像Im1bを透過型ディスプレイ4の表示画面上に表示するための第1仮想画像Im1に関する情報If1を生成する。換言すれば、画像処理装置9は、ディスプレイの使用者の位置に関する情報と、作業車の姿勢及び作業車の位置に基づいて算出された対象部材の位置に関する情報と、に基づいて、仮想画像(第1基準部材仮想画像Im1b)を表示するディスプレイ上の位置を決定する。そして、画像処理装置9は、決定した仮想画像を表示するディスプレイ上の位置に関する情報を、表示装置用制御装置7に送る。尚、基準部材Rmの現在位置RLpを算出する方法は、上述の方法に限定されない。基準部材Rmの現在位置RLpは、例えば、クレーンの位置に関する情報及びクレーンの姿勢に関する情報に基づいて算出されてもよい。
 画像処理装置9は、生成した第1ブーム仮想画像Im1aと、第1基準部材仮想画像Im1bとのうち少なくとも一つを透過型ディスプレイ4の表示画面上に表示するための第1仮想画像Im1に関する情報If1を表示装置用制御装置7に送信する。
 表示装置用制御装置7は、通信装置8を介して画像処理装置9から第1仮想画像Im1に関する情報If1を取得する。
 図7に示すように、表示装置用制御装置7は、第1仮想画像Im1に関する情報If1に基づいて、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認しているブーム19と重なる透過型ディスプレイ4の表示画面上に透過型表示装置2の使用者の視点から見たブーム19の形状を示す第1ブーム仮想画像Im1aと、使用者の視点から見た基準部材Rmの形状を示す第1基準部材仮想画像Im1bとのうち少なくとも一つを表示する。第1ブーム仮想画像Im1aは、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認しているブーム19に重なる。第1基準部材仮想画像Im1bは、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認している基準部材Rmであるメインフック20aに重なる。
 図8に示すように、透過型表示装置2は、構造物C等に遮られて透過型表示装置2の使用者の視点からブーム19の少なくとも一部が見えない場合でも透過型表示装置2の使用者の視点から見たブーム19の形状を示す第1ブーム仮想画像Im1aを透過型ディスプレイ4上に表示する。同様に、透過型表示装置2は、構造物C等に遮られて透過型表示装置2の使用者の視点から基準部材Rmの少なくとも一部が見えない場合でも使用者の視点から見た基準部材Rmの形状を示す第1基準部材仮想画像Im1bを透過型ディスプレイ4上に表示する。つまり、表示装置用制御装置7は、対象部材が障害物に隠れて視認不可能な場合、障害物に重なるように仮想画像(具体的には、第1ブーム仮想画像Im1a及び第1基準部材仮想画像Im1b)を透過型ディスプレイ4に表示する。
 このように、画像処理装置9は、使用者の位置に関する情報Ifa、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、及びクレーン11の形状に関する情報Ifiに基づいて第1ブーム仮想画像Im1aを表示するための第1仮想画像Im1に関する情報If1を生成している。また、画像処理装置9は、使用者の位置に関する情報Ifa、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、基準部材Rmの形状に関する情報Ifh、及び基準部材画像P2に基づいて第1基準部材仮想画像Im1bを表示するための第1仮想画像Im1に関する情報If1を生成している。
 つまり、画像処理装置9は、第1仮想画像Im1に関する情報If1を生成する際に透過型表示装置2の使用者の視点から見たブーム19及び基準部材Rmが含まれる画像情報を利用していない。従って、画像処理装置9は、透過型表示装置2の使用者の視点から見てブーム19及び基準部材Rmの少なくとも一部が遮られていても第1ブーム仮想画像Im1a及び第1基準部材仮想画像Im1bを表示するための第1仮想画像Im1に関する情報If1を生成することができる。
 透過型表示装置2を使用しているクレーン11の操縦者は、荷物Wの搬送中にブーム19または荷物Wを吊り下げているメインフック20aがキャビン27内から視認できない状態になっても、第1ブーム仮想画像Im1aと、第1基準部材仮想画像Im1bとのうち少なくとも一つによって周囲の構造物Cとブーム19及びメインフック20aとの位置関係を客観的に把握しながら操縦することができる。これにより、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーン11を操縦することができる。
 <実施形態2:ブームカメラの画像表示>
 以下に、図9から図11を用いて、クレーン11の操縦者に対する操縦支援システム1の実施形態2として、任意の基準面S1におけるブームカメラ19bの画像表示について具体的に説明する。図9は、クレーン11の操縦支援システム1が第2仮想画像Im2を表示するために必要な第2仮想画像に関する情報If2を生成する際のブロック図を示す。図10は、クレーン11の操縦支援システム1が地表面を基準面S1とした場合の第2仮想画像Im2を表示している状態の模式図を示す。図11は、クレーン11の操縦支援システム1がブーム先端の現在位置BLpを含む水平面を基準面S1とした場合の第2仮想画像Im2を表示している状態の模式図を示す。
 図9に示すように、クレーン11の操縦支援システム1は、ブーム19が有するブームカメラ19bが撮影した基準部材Rmを含む所定の範囲の画像である基準部材画像P2を任意の基準面S1上の第2仮想画像Im2として透過型表示装置2(図3参照)に表示する。
 透過型表示装置2の表示装置用制御装置7は、使用者の位置に関する情報Ifa及び基準面S1に関する情報Ifdを有している。基準面S1に関する情報Ifdとは、使用者の視点から見た第2仮想画像Im2を表示する位置の基準となる仮想平面の位置、傾きを含む。本実施形態において、基準面S1は、地表面とブーム19の先端の現在位置BLpを含む水平面とのうち少なくとも一方であって、背景(風景)Ls内に予め設定される。なお、基準面S1は、使用者が任意に定めてもよい。
 表示装置用制御装置7と通信装置8を介して接続されている画像処理装置9は、表示装置用制御装置7から使用者の位置に関する情報Ifaを取得する。また、クレーン用制御装置30と通信装置8を介して接続されている画像処理装置9は、クレーン用制御装置30からブームカメラ19bが撮影した基準部材画像P2、クレーン11の位置に関する情報Ifb、及びクレーン11の姿勢に関する情報Ifcを取得する。画像処理装置9は、取得した使用者の位置に関する情報Ifa、クレーン11の位置に関する情報Ifb、及びクレーン11の姿勢に関する情報Ifcとから基準面S1を決定する。
 図10に示すように、画像処理装置9は、使用者の位置に関する情報Ifaに基づいて使用者の視認している方向が水平方向よりも下方であると判断した場合、基準面S1を地表面とする。つまり、画像処理装置9は、ディスプレイの使用者が視認している方向に基づいて、基準面を設定する。
 図11に示すように、画像処理装置9は、使用者の位置に関する情報Ifaに基づいて使用者の視認している方向が水平方向よりも上方であると判断した場合、基準面S1をブーム19の先端の現在位置BLpを含む水平面とする。
 図9に示すように、画像処理装置9は、基準面S1が現在位置BLpを含む水平面である場合、すなわち基準面S1が使用者の水平方向の視線の位置よりも高い場合、基準部材画像P2を表裏反転した画像を第2仮想画像Im2として透過型ディスプレイ4の表示画面上に表示するための第2仮想画像Im2に関する情報If2を生成する。画像処理装置9は、基準面S1地表面である場合、すなわち基準面S1が使用者の水平方向の視線の位置よりも低い場合、基準部材画像P2を表裏反転しない画像を第2仮想画像Im2として透過型ディスプレイ4の表示画面上に表示するための第2仮想画像Im2に関する情報If2を生成する。
 図10及び図11に示すように、透過型表示装置2の表示装置用制御装置7は、通信装置8を介して画像処理装置9から基準部材画像P2及び第2仮想画像Im2に関する情報If2を取得する。更に、表示装置用制御装置7は、基準面S1上に使用者の視点から見た第2仮想画像Im2を透過型ディスプレイ4の表示画面上に表示する。
 上述の構成では、クレーン11の操縦支援システム1は、透過型表示装置2の使用者であるクレーン11の操縦者が視認している透過型表示装置2の背景Lsに、ブーム19に設けられたブームカメラ19bが撮影した基準部材画像P2を透過型表示装置2の使用者の視点から見た画像である第2仮想画像Im2として表示するための第2仮想画像Im2に関する情報If2を生成する。操縦支援システム1は、使用者が指定した任意の基準面S1上に第2仮想画像Im2が重なるように透過型ディスプレイ4の表示画面に表示する。第2仮想画像Im2は、ブーム19の移動に伴って移動するメインフック20aの画像が含まれている場合、鉛直方向に見て、メインフック20aの画像がメインフック20aに重なるように表示される。クレーン11の操縦者は、基準面S1上の第2仮想画像Im2をメインフック20aの投影図として利用することができる。
 従って、クレーン11の操縦者は、指示者からの指示が不十分であり、地表面の状態が視認できない状態でも、操縦者の視野内に第2仮想画像Im2を表示することによってブーム19を操縦するために必要なブーム19及びメインフック20aと周囲の構造物Cとの位置関係に関する情報を補うことができる。これにより、クレーン11の操縦者は、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーン11を操縦することができる。
 <実施形態3:ブーム19の先端の現在位置BLp及び軌道表示>
 以下に、図7、図8、及び図12を用いて、クレーン11の操縦者に対する操縦支援システム1の実施形態3として、ブーム19の先端の現在位置BLpにおける軌道表示について具体的に説明する。図12は、クレーン11の操縦支援システム1が第3仮想画像Im3を表示する際の制御ブロック図である。
 図7に示すように、クレーン11の操縦支援システム1は、クレーン装置用操作具29が操作された場合にクレーン装置16によって移動されるブーム19の先端及び現在位置BLpにおけるブーム19の先端の軌道を基準面S1上の第3仮想画像Im3として透過型表示装置2(図3参照)に表示する。つまり、第3仮想画像Im3は、ブームの姿勢に対応する、前記ブームの先端部の軌道を示す画像を含む。第3仮想画像Im3は、対象部材を示す仮想画像に含まれる画像である。
 表示装置用制御装置7は、基準面S1に関する情報Ifdを有している。本実施形態において、基準面S1は、地表面とする。
 図12に示すように、画像処理装置9は、通信装置8を介して表示装置用制御装置7から基準面S1に関する情報Ifdを取得することができる。基準面S1に関する情報Ifdとは、使用者の視点から見た第3仮想画像Im3を表示する位置の基準となる仮想平面の位置及び傾きを含む。
 画像処理装置9は、クレーン用制御装置30からクレーン11の位置に関する情報Ifb及びクレーン11の姿勢に関する情報Ifcを取得する。画像処理装置9は、取得したクレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、及び基準面S1に関する情報Ifdに基づいてクレーン装置用操作具29が操作された際のブーム19の先端の現在位置BLp及び現在位置BLpからのブーム19の軌道座標を基準面S1上で表示するための座標の集合である第3基準座標C3を算出する。
 更に、画像処理装置9は、使用者の位置に関する情報Ifa及び第3基準座標C3に基づいて、透過型表示装置2の使用者の視点から見たブーム19の現在位置BLp及び現在位置BLpにおける軌道を示す第3仮想画像Im3を透過型ディスプレイ4の表示画面上に表示するための第3仮想画像Im3に関する情報If3を生成する。
 画像処理装置9は、生成した第3仮想画像Im3に関する情報If3を表示装置用制御装置7に送信する。
 透過型表示装置2は、通信装置8を介して画像処理装置9から第3仮想画像Im3に関する情報If3を取得する。
 図7に示すように、透過型表示装置2は、第1仮想画像Im1仮想に加えて第3仮想画像Im3を表示する。透過型表示装置2は、第3仮想画像Im3に関する情報If3に基づいて、透過型ディスプレイ4の表示画面上に透過型表示装置2の使用者の視点から見たブーム19の現在位置BLp及び現在位置BLpにおける軌道を示す第3仮想画像Im3を表示する。
 第3仮想画像Im3は、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認している基準面S1に重ねて表示される。基準面S1が地表面である場合、表示装置用制御装置7は、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認している地表面と重複する透過型ディスプレイ4の表示画面上に使用者の視点から見た地表面上のブーム19の現在位置BLp及び現在位置BLpからの軌道を第3仮想画像Im3として表示する。
 図8に示すように、透過型表示装置2の使用者は、透過型表示装置2によって実際の背景Lsである作業現場の地表面上に表示されているブーム19の先端の現在位置BLp及び現在位置BLpからの軌道を視認する。透過型表示装置2の使用者である操縦者は、構造物C等によって操縦席からブーム19の先端または基準部材Rmが視認できない状態でもブーム19の先端の現在位置BLp及び現在位置BLpからの軌道を地表面上に表示された第3仮想画像Im3によって確認することができる。
 操縦支援システム1は、図7及び図8に示すように、第1仮想画像Im1及び第3仮想画像Im3を透過型表示装置2の使用者の視野内の背景Lsに表示することで、ブーム19の先端の現在位置BLp、メインフック20aの現在位置RLp、並びに、ブーム19及びメインフック20aと構造物Cとの位置関係を把握するための情報を透過型表示装置2の使用者に提供する。また、操縦支援システム1は、透過型表示装置2の使用者が所望する任意の方向及び位置からのブーム19の現在位置BLp及び現在位置BLpからの軌道を透過型表示装置2の使用者の視野内に表示する。
 従って、透過型表示装置2の使用者は、玉掛担当の指示者からの指示が不十分であっても、透過型表示装置2の使用者の視野内に表示されているブーム19の現在位置BLp及び現在位置BLpからの軌道によってクレーン11を操縦するために必要な情報を補うことができる。これにより、透過型表示装置2の使用者は、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーン11を操縦することができる。
 <実施形態4:基準部材Rmの目標位置RLt表示>
 次に、図7及び図13を用いて、クレーン11の操縦者に対する操縦支援システム1の第4実施形態として、基準部材Rmの目標位置RLtの表示について具体的に説明する。図13は、クレーン11の操縦支援システム1が第4仮想画像Im4を表示するために必要な情報を生成する際のブロック図である。
 図7に示すように、クレーン11の操縦支援システム1は、基準部材Rmの目標位置RLtにおける基準部材Rmの形状を第4仮想画像Im4として表示する。
 図13に示すように、画像処理装置9は、通信装置8を介して外部のサーバーまたはクレーン用制御装置30からクレーン11の位置に関する情報Ifb、基準部材Rmの目標位置RLtに関する情報Ife、及び基準部材Rmの形状に関する情報Ifhを取得する。基準部材Rmの目標位置RLtに関する情報Ifeは、基準部材Rmの目標位置RLtの緯度、経度、及び標高(ブーム19の先端からの繰り出し量に相当)等の座標情報である。
 画像処理装置9は、クレーン11の位置に関する情報Ifb、基準部材Rmの目標位置RLtに関する情報Ife、及び基準部材Rmの形状に関する情報Ifhに基づいて、目標位置RLtにおける基準部材Rmの3次元座標の集合である第4基準座標C4を算出する。更に、画像処理装置9は、使用者の位置に関する情報Ifa及び第4基準座標C4に基づいて、透過型表示装置2の使用者の視点から見た目標位置RLtにおける基準部材Rmの形状を示す第4仮想画像Im4を透過型ディスプレイ4の表示画面上に表示するための第4仮想画像Im4に関する情報If4を生成する。
 画像処理装置9は、生成した第4仮想画像Im4に関する情報If4を表示装置用制御装置7に送信する。
 表示装置用制御装置7は、通信装置8を介して画像処理装置9から第4仮想画像Im4に関する情報If4を取得する。
 図7に示すように、表示装置用制御装置7は、第4仮想画像Im4に関する情報If4に基づいて、透過型ディスプレイ4の表示画面上に透過型表示装置2の使用者の視点から見た基準部材Rmの形状を示す第4仮想画像Im4を表示する。第4仮想画像Im4は、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認している基準部材Rmの目標位置RLtに表示される。
 また、透過型表示装置2は、図7に示すように、第1仮想画像Im1に関する情報If1に基づいて、透過型ディスプレイ4の表示画面上に透過型表示装置2の使用者の視点から見た現在位置RLpにおける基準部材Rmの形状を示す第1基準部材仮想画像Im1b仮想を表示する。第1基準部材仮想画像Im1b仮想は、透過型ディスプレイ4を通して透過型表示装置2の使用者が視認している基準部材Rmであるメインフック20aに重なる。
 透過型表示装置2は、構造物C等に遮られて透過型表示装置2の使用者の視点から基準部材Rmの目標位置RLtが見えない場合でも透過型表示装置2の使用者の視点から見た基準部材Rmにおける目標位置RLtの形状を示す第4仮想画像Im4を透過型ディスプレイ4上に表示する。
 透過型表示装置2を使用しているクレーン11の操縦者は、構造物C等に遮られて透過型表示装置2の使用者の視点から基準部材Rmの目標位置RLtが見えない場合でも基準部材Rmの現在位置RLpと目標位置RLtとの位置関係及び周囲の構造物Cと現在位置RLp及び目標位置RLtにおける基準部材Rmとの位置関係を客観的に把握しながら操縦することができる。従って、操縦者は、指示者からの指示が不十分であっても、現在位置RLpに位置する基準部材Rmを操縦者の視野内に表示されている基準部材Rmの目標位置RLtに移動させるために必要な情報を補うことができる。これにより、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーン11を操縦することができる。尚、第4仮想画像Im4は、ブーム19及び/またはワイヤロープ(メインワイヤロープ24及び/またはサブワイヤロープ26)を示す仮想画像を含んでもよい。つまり、表示装置用制御装置7は、透過型ディスプレイ4において、基準部材Rmの目標位置RLtに対応するブーム19及び/またはワイヤロープ(メインワイヤロープ24及び/またはサブワイヤロープ26)の位置に、ブーム19及び/またはワイヤロープ(メインワイヤロープ24及び/またはサブワイヤロープ26)を示す仮想画像を表示してもよい。
 <実施形態5:ブーム19の現在位置BLpにおける垂線表示>
 次に、図7、図8及び図14を用いて、クレーン11の操縦者に対する操縦支援システム1の実施形態5として、ブーム19の現在位置BLpを通過する垂線の表示について具体的に説明する。図14は、クレーン11の操縦支援システム1が第5仮想画像Im5を表示するために必要な情報を生成する際のブロック図である。
 図7に示すように、クレーン11の操縦支援システム1は、ブーム19の現在位置BLpを通過する垂線を第5仮想画像Im5として表示する。
 図14に示すように、画像処理装置9は、取得したクレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、及び基準面S1に関する情報Ifdに基づいて、ブーム19の現在位置BLpを通過する垂線を表示するための座標の集合である第5基準座標C5を算出する。画像処理装置9は、取得した使用者の位置に関する情報Ifa及び第5基準座標C5に基づいて、第5基準座標C5を透過型表示装置2の使用者の視点から見た第5仮想画像Im5に関する情報If5として生成する。画像処理装置9は、生成した第5仮想画像Im5に関する情報If5を表示装置用制御装置7に送信する。
 表示装置用制御装置7は、通信装置8を介して第5仮想画像Im5に関する情報If5を取得する。表示装置用制御装置7は、第5仮想画像Im5に関する情報If5に基づいて第5仮想画像Im5である透過型表示装置2の使用者の視点から見たブーム19の現在位置BLpを通過する垂線を示す第5仮想画像Im5を透過型ディスプレイ4の表示画面上に表示する。
 図7及び図8に示すように、透過型表示装置2の使用者は、透過型表示装置2において実際の背景Ls内に表示されているブーム19の現在位置BLpを示す第5仮想画像Im5によってブーム19の現在位置BLpを認識する。基準部材Rmにおける目標位置RLtの形状を示す第4仮想画像Im4と第5仮想画像Im5とが共に表示されている場合、透過型表示装置2の使用者は、操縦席からブーム19が視認できない状態でもブーム19の現在位置BLpと基準部材Rmの目標位置RLtとの位置関係を認識することができる。従って、透過型表示装置2の使用者は、指示者からの指示が不十分であっても、指示者から取得する情報が操縦に与える影響を抑制し、効率よくクレーン11を操縦することができる。
 <他の実施形態>
 上述の各実施形態において、クレーン11の操縦支援システム1は、第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5のいずれかを透過型表示装置2に表示させている。しかしながら、クレーン11の操縦支援システム1は、第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5の少なくとも一つを透過型表示装置2の使用者が任意に選択して表示させてもよい。また、クレーン11の操縦支援システム1は、上述の実施形態で表示している仮想画像に限らず、作業車両の操縦を支援する仮想画像を表示してもよい。
 また、上述の実施形態として、操縦支援システム1の透過型表示装置2は、クレーン11のキャビン27内でクレーン11を操縦している操縦者に装着されている。しかしながら、透過型表示装置2は、クレーン11の外部からクレーン11を遠隔操作する操縦者に装着されてもよい。例えば、玉掛者が透過型表示装置2を装着している場合、玉掛者は、透過型表示装置2において第1仮想画像Im1と第2仮想画像Im2とを表示させることでブーム19または基準部材Rmが構造物C等で遮られてもクレーン11の透過型表示装置2の使用者にブーム19または基準部材Rmの位置を伝えることができる。
 また、図10に示すように、操縦支援システム1の透過型表示装置2は、ブーム19の現在位置BLp及び現在位置BLpにおける軌道を示す第3仮想画像Im3を第2仮想画像Im2が表示される基準面S1上に表示している。しかしながら、第3仮想画像Im3は、第2仮想画像Im2が表示されない任意の基準面に表示されてもよい。また、第3仮想画像は、例えば基準部材Rmが搬送されている荷物Wの場合、荷物Wを通過する軌道として表示されてもよい。
 また、上述の実施形態として、操縦支援システム1は、クレーン11の操縦支援システム1として構成されている。しかしながら、操縦支援システムは、作業車両である高所作業車の操縦支援システムとして構成されていてもよい。高所作業車の操縦支援システムは、通信装置を介して使用者の位置に関する情報、高所作業車の位置に関する情報、高所作業車の姿勢に関する情報及び仮想画像を表示する基準となる基準面の位置と姿勢とを含む基準面に関する情報を取得する。操縦支援システムの画像処理装置は、基準部材であるバケットの現在位置及び現在位置からの軌道を高所作業車の操縦者の視点から見た仮想画像として透過型表示装置の表示画面上に表示させるためのバケットの仮想画像に関する情報を生成する。透過型表示装置は、通信装置を介して高所作業車についてのバケットの仮想画像に関する情報を取得し、仮想画像を表示画面上に表示する。
 また、上述の各実施形態において、クレーン11の操縦支援システム1は、透過型表示装置2によって第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5の少なくとも一つを表示している。しかしながら、クレーン11の操縦支援システム1は、カメラの撮影画像上に第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5の少なくとも一つを表示してもよい。第1仮想画像Im1、第2仮想画像Im2、第3仮想画像Im3、第4仮想画像Im4、及び第5仮想画像Im5の少なくとも一つは、タッチパネル等の表示画面上で操作可能であってもよい。
 また、上述の実施形態において、画像処理装置9は、通信装置8を介して外部のサーバーまたはクレーン用制御装置30から基準部材Rmの目標位置RLtに関する情報Ifeを取得している。しかしながら、画像処理装置9は、透過型表示装置2の使用者が入力装置等によって目標位置RLtに関する情報Ifeを取得してもよい。画像処理装置9は、例えば、透過型表示装置2を入力装置として基準部材Rmの目標位置RLtを入力してもよい。
 また、上述の実施形態において、画像処理装置9は、ブームカメラ19bが撮影した基準部材画像P2から基準部材Rmの姿勢に関する情報Ifgを取得している。しかしながら、画像処理装置9は、外部から基準部材Rmの姿勢に関する情報Ifgを取得ししてもよい。画像処理装置9は、例えば、通信装置8を介してクレーン11の外部に設けられているカメラからの画像から基準部材Rmの姿勢に関する情報Ifgを取得してもよい。
 また、上述の実施形態において、画像処理装置9は、通信装置8を介してクレーン11の形状に関する情報Ifi、使用者の位置に関する情報Ifa、クレーン11の位置に関する情報Ifb、クレーン11の姿勢に関する情報Ifc、ブーム19の移動に伴って移動する基準部材Rmの形状に関する情報Ifh、及び基準部材Rmの姿勢に関する情報Ifgを取得する。しかしながら、画像処理装置は、これらの情報のうち少なくとも一つを取得する構成でもよい。
 また、上述の各実施形態において、透過型表示装置2は、特定の位置に位置しているマーカを認識することで仮想画像を透過型ディスプレイ4に表示するために必要な使用者の位置に関する情報Ifaを算出している。しかしながら、透過型表示装置は、使用者の位置に関する情報IfaをGNSS受信機が検出した透過型表示装置2の位置から算出してもよい。
 また、上述の各実施形態において、透過型表示装置2は、使用者が身体に装着して使用するウェアラブル端末である。しかしなら、透過型表示装置は、使用者の視点から見て背景を透過させる表示画面に使用者の視点から見た仮想画像を重ねて視認させる表示装置であればよい。透過型表示装置は、例えばキャビンのフロントガラスを表示画面として、操縦席に着席した透過型表示装置2の使用者の視点から見た仮想画像を表示させるヘッドアップディスプレイでもよい。
 また、上述の各実施形態において、透過型表示装置2は、慣性計測装置5によって移動方向及び移動量を算出している。しかしながら、透過型表示装置は、画像データに基づいて周辺環境の地図生成と自己位置推定を行うVisual SLAM(Visual Simultaneous Localization And Mapping)によって移動方向及び移動量を算出してもよい。Visual SLAMでは、ステレオカメラ等から取得した画像における特徴点を把握する。次に、Visual SLAMは、ステレオカメラ等の移動に伴う特徴点の動きから自己位置推定及び地図作成を行う。透過型表示装置は、使用者の視線の方向を撮影する表示装置用カメラが撮影した画像を利用して移動方向及び移動量を算出することができる。
 上述の実施形態は、代表的な形態を示したに過ぎず、一実施形態の骨子を逸脱しない範囲で種々変形して実施することができる。さらに種々なる形態で実施し得ることは勿論のことであり、本発明の範囲は、特許請求の範囲の記載によって示され、さらに特許請求の範囲に記載の均等の意味、及び範囲内のすべての変更を含む。
 2021年11月30日出願の特願2021-194526の日本出願に含まれる明細書、図面、及び要約書の開示内容は、すべて本願に援用される。
 本発明は、ブームを有する種々の作業機に適用可能である。
  1  操縦支援システム
  2  透過型表示装置
  3  フレーム
  4  透過型ディスプレイ
  5  慣性計測装置
  6  表示装置用カメラ
  7  表示装置用制御装置
  8  通信装置
  9  画像処理装置
 11  クレーン
 12 車両
 13 車輪
 14 エンジン
 15 アウトリガ
 16 クレーン装置
 17 旋回台
 17a 旋回用油圧モータ
 18 クレーン用GNSS受信機
 19 ブーム
 19a 伸縮用油圧シリンダ
 19b ブームカメラ
 19c ジブ
 20 メインフックブロック
 20a メインフック(基準部材)
 21 サブフックブロック
 21a サブフック
 22 起伏用油圧シリンダ
 23 メインウインチ
 24 メインワイヤロープ
 25 サブウインチ
 26 サブワイヤロープ
 27 キャビン
 28 走行用操作具
 29 クレーン装置用操作具
 29a 旋回用操作具
 29b 伸縮用操作具
 29c 起伏用操作具
 29d メイン用操作具
 29e サブ用操作具
 30  クレーン用制御装置
 30a 通信装置
 BLp  ブームの現在位置
 RLt  基準部材の現在位置
 RLt  基準部材の目標位置
 S1  基準面
 Rm  基準部材
 Ifa  使用者の位置に関する情報
 Ifb  クレーンの位置に関する情報
 Ifc  クレーンの姿勢に関する情報
 Ifd  基準面に関する情報
 Ife  基準部材の目標位置に関する情報
 Iff  基準部材画像に関する情報
 Ifg  基準部材の姿勢に関する情報
 Ifh  基準部材の形状に関する情報
 Ifi  クレーンの形状に関する情報
 Im1  第1仮想画像
 Im1a 第1ブーム仮想画像
 Im1b 第1基準部材仮想え
 Im2  第2仮想画像
 Im3  第3仮想え
 Im4  第4仮想画像
 Im5  第5仮想画像
 C1  第1基準座標
 If1 第1仮想画像に関する情報
 If2 第2仮想画像に関する情報
 If3 第3仮想画像に関する情報
 If4 第4仮想画像に関する情報
 If5 第5仮想画像に関する情報
 

Claims (13)

  1.  ブームを有する作業車両の操縦を支援する操縦支援システムであって、
     透明であり、画像を表示可能なディスプレイと、
     前記ブーム及び/または前記ブームとともに移動する部材を含む対象部材を示す仮想画像を生成する生成部と、
     前記ディスプレイの使用者が前記対象部材の位置を認識可能な態様で、前記ディスプレイ越しに見える風景と重なるように、前記ディスプレイに前記仮想画像を表示する制御部と、を備える、
     操縦支援システム。
  2.  前記対象部材は、前記ブーム及び/又は前記ブームとともに移動するフックであり、
     前記制御部は、前記ディスプレイにおいて、前記対象部材の位置と一致する部分に、前記仮想画像を表示する、
     請求項1に記載の操縦支援システム。
  3.  前記仮想画像は、前記対象部材の形状を表した画像である、
     請求項2に記載の操縦支援システム。
  4.  前記制御部は、前記対象部材が障害物に隠れて視認不可能な場合、前記障害物に重なるように前記仮想画像を前記ディスプレイに表示する、
     請求項2に記載の操縦支援システム。
  5.  前記制御部は、前記ディスプレイの使用者の位置に関する情報と、前記作業車両の姿勢及び前記作業車両の位置に基づいて算出された前記対象部材の位置に関する情報と、に基づいて決定された前記ディスプレイ上の位置に、前記仮想画像を表示する、
     請求項1に記載の操縦支援システム。
  6.  前記生成部は、前記ディスプレイ上の位置を決定し、決定した前記ディスプレイ上の位置を含む情報を、前記制御部に送る、
     請求項5に記載の操縦支援システム。
  7.  前記仮想画像が示す部材は、前記ブームとともに移動するフックであり、
     前記仮想画像は、前記ブームの先端部から前記フックを撮影するカメラにより撮影された画像であり、
     前記制御部は、前記ディスプレイにおいて、前記風景に設定された基準面と重なるように前記仮想画像を表示する、
     請求項1に記載の操縦支援システム。
  8.  前記生成部は、前記基準面として、前記風景における地表面、又は、前記ブームの先端の位置を含む水平面を設定する、
     請求項7に記載の操縦支援システム。
  9.  前記生成部は、前記ディスプレイの使用者が視認している方向に基づいて、前記基準面を設定する、
     請求項8に記載の操縦支援システム。
  10.  前記仮想画像は、前記ブームの姿勢に対応する、前記ブームの先端部の軌道を示す仮想画像を含み、
     前記制御部は、前記風景に設定された基準面と重なるように前記軌道を示す仮想画像を表示する、
     請求項1に記載の操縦支援システム。
  11.  前記制御部は、前記ディスプレイにおいて、前記対象部材の目標位置と一致する部分に、前記仮想画像を表示する、
     請求項2に記載の操縦支援システム。
  12.  前記仮想画像は、前記ブームの先端部を通る垂線を示す仮想画像を含み、
     前記制御部は、前記ディスプレイにおいて、前記ブームの先端部に対応する部分に、前記垂線を示す仮想画像を表示する、
     請求項2に記載の操縦支援システム。
  13.  請求項1に係る操縦支援システムを備える、作業車両。
PCT/JP2022/044009 2021-11-30 2022-11-29 操縦支援システム及び作業車両 WO2023100889A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-194526 2021-11-30
JP2021194526 2021-11-30

Publications (1)

Publication Number Publication Date
WO2023100889A1 true WO2023100889A1 (ja) 2023-06-08

Family

ID=86612328

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/044009 WO2023100889A1 (ja) 2021-11-30 2022-11-29 操縦支援システム及び作業車両

Country Status (1)

Country Link
WO (1) WO2023100889A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013113044A (ja) * 2011-11-30 2013-06-10 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械用モニタシステム
JP2018095369A (ja) * 2016-12-09 2018-06-21 株式会社タダノ クレーン
WO2019066693A1 (en) * 2017-09-26 2019-04-04 Cargotec Patenter Ab OPERATOR ASSISTANCE SYSTEM AND METHOD ASSOCIATED WITH THE SYSTEM
JP2020535091A (ja) * 2017-09-26 2020-12-03 パルフィンガー アクチエンゲゼルシャフトPalfinger Ag 操作装置および操作装置を備えた貨物クレーン

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013113044A (ja) * 2011-11-30 2013-06-10 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械用モニタシステム
JP2018095369A (ja) * 2016-12-09 2018-06-21 株式会社タダノ クレーン
WO2019066693A1 (en) * 2017-09-26 2019-04-04 Cargotec Patenter Ab OPERATOR ASSISTANCE SYSTEM AND METHOD ASSOCIATED WITH THE SYSTEM
JP2020535091A (ja) * 2017-09-26 2020-12-03 パルフィンガー アクチエンゲゼルシャフトPalfinger Ag 操作装置および操作装置を備えた貨物クレーン

Similar Documents

Publication Publication Date Title
US11292699B2 (en) Remote operation terminal and work vehicle provided with remote operation terminal
CN107922171B (zh) 移动式起重机的周边显示装置
JP6801421B2 (ja) クレーン
EP3556713A1 (en) Remote operation terminal and work vehicle provided with remote operation terminal
US10661712B2 (en) Bird's-eye view image system, bird's-eye view image display method and program
JP2016181119A (ja) 移動機器の周囲状況提示システム
US20200391980A1 (en) Remote operation terminal and mobile crane comprising remote operation terminal
JP7091729B2 (ja) 遠隔操作端末および遠隔操作端末を備える作業車両
WO2022230592A1 (ja) 操縦支援装置及び作業機
WO2020153325A1 (ja) クレーン
WO2023100889A1 (ja) 操縦支援システム及び作業車両
JP7114950B2 (ja) 遠隔操作端末及び作業車両
JP7172199B2 (ja) 遠隔操作端末及び作業車両
JP2018095361A (ja) クレーン
US20210316966A1 (en) Crane device
JP7099150B2 (ja) クレーン及び情報共有システム
JP6958216B2 (ja) 作業車両
US20220219949A1 (en) Remote operation terminal and mobile crane provided with remote operation terminal
JP2023121467A (ja) 作業車両の操縦支援システム及び操縦支援システムを有する作業車両
JP2022133929A (ja) 設置位置表示システムおよび作業車両
JP2023121468A (ja) クレーンの操縦支援システム及び操縦支援システムを有するクレーン
JP7167469B2 (ja) 遠隔操作端末および遠隔操作端末を備える作業車両
JP2022166669A (ja) アウトリガ装置の設置位置表示システム及び作業車両
JP7172253B2 (ja) 作業車両
WO2020256101A1 (ja) 画像システムおよび画像システムを備える作業車両

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22901321

Country of ref document: EP

Kind code of ref document: A1