WO2021060466A1 - クレーン情報表示システム - Google Patents

クレーン情報表示システム Download PDF

Info

Publication number
WO2021060466A1
WO2021060466A1 PCT/JP2020/036270 JP2020036270W WO2021060466A1 WO 2021060466 A1 WO2021060466 A1 WO 2021060466A1 JP 2020036270 W JP2020036270 W JP 2020036270W WO 2021060466 A1 WO2021060466 A1 WO 2021060466A1
Authority
WO
WIPO (PCT)
Prior art keywords
crane
information
unit
information display
display unit
Prior art date
Application number
PCT/JP2020/036270
Other languages
English (en)
French (fr)
Inventor
瑞生 米田
Original Assignee
株式会社タダノ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社タダノ filed Critical 株式会社タダノ
Priority to JP2021549041A priority Critical patent/JP7024926B2/ja
Priority to EP20869889.4A priority patent/EP4036047A4/en
Priority to US17/763,022 priority patent/US12030751B2/en
Publication of WO2021060466A1 publication Critical patent/WO2021060466A1/ja

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B66—HOISTING; LIFTING; HAULING
    • B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
    • B66C13/00—Other constructional features or details
    • B66C13/18—Control systems or devices
    • B66C13/46—Position indicators for suspended loads or for crane elements
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B66—HOISTING; LIFTING; HAULING
    • B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
    • B66C13/00—Other constructional features or details
    • B66C13/18—Control systems or devices
    • B66C13/40—Applications of devices for transmitting control pulses; Applications of remote control devices
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B66—HOISTING; LIFTING; HAULING
    • B66C—CRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
    • B66C23/00—Cranes comprising essentially a beam, boom, or triangular structure acting as a cantilever and mounted for translatory of swinging movements in vertical or horizontal planes or a combination of such movements, e.g. jib-cranes, derricks, tower cranes
    • B66C23/88—Safety gear
    • B66C23/90—Devices for indicating or limiting lifting moment
    • B66C23/905—Devices for indicating or limiting lifting moment electrical
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods

Definitions

  • the present invention relates to a crane information display system.
  • Patent Document 1 discloses a configuration in which information on the operating state of a crane is visualized and a display screen is displayed on a display unit of a mobile terminal. As a result, even a person outside the crane can grasp the operating state of the crane.
  • Patent Document 1 visualizes and displays information on the operating state of the crane by drawing the crane from above or from the side. Therefore, there is a problem that the configuration described in Patent Document 1 must be examined in two dimensions.
  • an object of the present invention is to provide a crane information display system capable of examining crane information in three dimensions at a work site.
  • a crane information display system equipped with a terminal device having a camera, and the camera captures a crane to obtain a camera image. From the camera image, the crane information acquisition unit that reads the display information of the information display unit mounted on the crane and acquires the information of the crane, and the crane information acquisition unit.
  • the display information of the information display unit is read from the camera image, information on the reference shape of the information display unit and the mounting position of the information display unit in the crane is acquired, and the information display unit reflected in the camera image.
  • the position and posture of the crane are calculated based on the information of the reference shape of the information display unit, the mounting position of the information display unit, and the contour shape of the information display unit.
  • Position and attitude calculation unit and An information processing unit that converts the crane information acquired by the crane information acquisition unit into three-dimensional image information corresponding to the position and attitude of the crane calculated by the position / orientation calculation unit.
  • An image display unit that superimposes and displays information on the crane that has been converted by the information processing unit on the camera image. It is a crane information display system equipped with.
  • the crane information display system of the present invention configured in this way can examine crane information in three dimensions at a work site.
  • FIG. 1 It is a figure which shows the crane information display system of Example 1.
  • FIG. It is a block diagram which shows the functional structure of the crane information display system of Example 1.
  • FIG. It is a figure which shows the image which is displayed on the image display part of Example 1.
  • FIG. It is a flowchart which shows the flow of processing by the control part of the crane information display system of Example 1.
  • FIG. 1 shows the crane information display system of Example 1.
  • FIG. 1 is a diagram showing a crane information display system of the first embodiment. Hereinafter, the configuration of the crane information display system of the first embodiment will be described.
  • the crane information display system 100 of the first embodiment describes an example in which a worker M photographs a crane 1 placed at a work site with a tablet terminal 50 as a user terminal provided with a camera 51. To do.
  • the crane information display system 100 of the first embodiment describes an example in which the camera 51 takes a picture of the crane 1 in a state where the outrigger 80 is not overhanging.
  • the front-rear direction of the crane 1 is the front-rear direction D.
  • the crane 1 includes a traveling body 10, a swivel body 20, and a boom 30.
  • the traveling body 10 includes a vehicle body frame 11, an outrigger 80, a traveling device for self-propelling on a road or a work site, and the like.
  • the outrigger 80 is composed of a rear outrigger 81 attached to the rear side surface of the vehicle body frame 11 of the traveling body 10 and a front outrigger 82 attached to the front side surface of the vehicle body frame 11.
  • the outrigger 80 is housed in the vehicle body frame 11 during traveling.
  • the outrigger 80 projects in the horizontal and vertical directions during work, lifts the entire vehicle body, and stabilizes the posture.
  • An April Tag as an information display unit 40 is attached to the vehicle body frame 11 of the traveling body 10.
  • the information display unit 40 is attached to the first information display unit 41 attached to the front surface of the vehicle body frame 11, the second information display unit 42 attached to the rear surface of the vehicle body frame 11, and the right side surface of the vehicle body frame 11.
  • a third information display unit 43 and a fourth information display unit 44 attached to the left side surface of the vehicle body frame 11 are provided.
  • the first information display unit 41, the second information display unit 42, the third information display unit 43, and the fourth information display unit 44 are, for example, by characters, symbols, symbols, patterns, etc. attached to their surfaces.
  • Has separate display information ie, code information
  • the display information (that is, code information) held by each of the first information display unit 41, the second information display unit 42, the third information display unit 43, and the fourth information display unit 44 is previously controlled by the control unit 60 (described later) or the like. It is possible to read from the camera image generated by the camera 51 by using the decoding program stored in.
  • the first information display unit 41 records information on the model of the crane 1, information on the position where the first information display unit 41 is attached on the crane 1, and the shape and size of the first information display unit 41. Has been done.
  • the second information display unit 42 records information on the model of the crane 1, information on the position where the second information display unit 42 is attached on the crane 1, and the shape and size of the second information display unit 42. Has been done.
  • the third information display unit 43 records information on the model of the crane 1, information on the position of the crane 1 to which the third information display unit 43 is attached, and the shape and size of the third information display unit 43. Has been done.
  • the fourth information display unit 44 records information on the model of the crane 1, information on the position of the crane 1 to which the fourth information display unit 44 is attached, and the shape and size of the fourth information display unit 44. Has been done.
  • the shapes and sizes recorded in the first information display unit 41, the second information display unit 42, the third information display unit 43, and the fourth information display unit 44 are, for example, the shapes and sizes recorded on the first information display unit 41, the second information display unit 42, and the fourth information display unit 44.
  • the shape and size obtained when the image is taken hereinafter referred to as "reference shape” and "reference size").
  • the first information display unit 41, the second information display unit 42, the third information display unit 43, and the fourth information display unit 44 are formed to have the same outer shape (for example, a rectangle) and the same size.
  • the first information display unit 41, the second information display unit 42, the third information display unit 43, and the fourth information display unit 44 are identified from the display information (that is, code information) held by each. It is possible.
  • the swivel body 20 is provided above the traveling body 10 and is rotatable around the vertical axis C1 with respect to the traveling body 10.
  • the swivel body 20 includes a cabin 21.
  • the cabin 21 has an operation unit (for example, a steering wheel, a shift lever, an accelerator pedal, a brake pedal, etc.) for controlling the traveling of the traveling body 10. Further, the cabin 21 has an operation unit for operating the swivel body 20, the boom 30, the winch, and the like.
  • the operator boarding the cabin 21 operates the operation unit to rotate the swivel body 20, undulate and expand the boom 30, and rotate the winch to perform the work.
  • the base end side of the boom 30 is supported by the swivel body 20, and the boom 30 is attached to the swivel body 20 so as to be undulating.
  • the boom 30 is undulated by an undulating cylinder 22 provided on the swivel body 20, and is expanded and contracted by a telescopic cylinder (not shown).
  • the boom 30 includes intermediate booms 32 to 35 between the proximal boom 31 on the proximal end side and the distal end boom 36 on the distal end side.
  • the intermediate booms 32 to 35 and the tip boom 36 are sequentially housed inside the base end boom 31 in a nested manner.
  • a sheave 37 is arranged on the boom head 36a provided at the tip of the tip boom 36.
  • a wire rope 38 for hanging loads is wound around a winch of the swivel body 20 provided near the base end of the boom 30.
  • the wire rope 38 is arranged along the axial direction of the boom 30 from the winch to the sheave 37, and the wire rope 38 hung around the sheave 37 is suspended vertically downward from the sheave 37.
  • a hook 39 is provided at the bottom of the wire rope 38.
  • the crane 1 configured in this way moves the load suspended on the hook 39 to a predetermined position by feeding and hoisting the wire rope 38 by the winch, undulating and expanding and contracting the boom 30, and turning the swivel body 20.
  • the tablet terminal 50 includes a camera 51, an image display unit 52, and an input unit 53.
  • the image taken by the camera 51 is displayed on the image display unit 52.
  • the image display unit 52 is also configured as a touch panel as the input unit 53.
  • FIG. 2 is a block diagram showing a functional configuration of the crane information display system 100 of the first embodiment.
  • FIG. 3 is a diagram showing an image displayed on the image display unit of the first embodiment.
  • the functional configuration of the crane information display system 100 of the first embodiment will be described.
  • the image captured by the camera 51 of the information display unit 40 and the input information input by the input unit 53 are combined with the control unit 60 (in this embodiment, the control unit built in the tablet terminal 50). ), And the information controlled by the control unit 60 is output by the image display unit 52.
  • the camera 51 can be, for example, a camera 51 provided in a general tablet terminal 50.
  • the camera 51 can take a picture of the crane 1, the site environment around the crane 1, and the information display unit 40.
  • the input unit 53 can input the horizontal overhang amount of the outrigger 80, the suspended load, the length of the boom 30, and the like.
  • the length of the boom 30 is the length of the boom 30 in which the tip boom 36 and the intermediate booms 32 to 35 are stored in the base end boom 31 (fully contracted state), or the boom in which the tip boom 36 is extended.
  • the control unit 60 includes a storage unit 61, a crane information acquisition unit 62, a position / orientation calculation unit 65, and an information processing unit 66.
  • the control unit 60 is a well-known microcomputer composed of, for example, a CPU (Central Processing Unit), a RAM (Random Access Memory), a ROM (Read Only Memory), and the like, and has a function (crane) of the control unit 60.
  • the information acquisition unit 62, the position / orientation calculation unit 65, and the information processing unit 66 for example, allow the CPU to refer to a control program or various data stored in the storage unit 61 (for example, HDD), ROM, or RAM. It will be realized.
  • the storage unit 61 stores performance information of various cranes.
  • the performance information includes, for example, information on the shape of the outrigger 80, information on the workable area in the horizontal direction and information on the workable area in the height direction according to the overhang amount of the outrigger 80 and the length of the boom 30, and the boom. It includes information on the undulation angle range of 30, information on the load factor, information on the tail swing region, and the like.
  • the crane information acquisition unit 62 acquires information on the model of the crane 1 based on the information display unit 40 captured by the camera 51, and acquires the acquired performance information of the model of the crane 1 from the storage unit 61. That is, the crane information acquisition unit 62 reads the information display unit 40 captured by the camera 51 (that is, reads the display information of the information display unit 40 from the camera image), acquires the model of the crane 1, and acquires the model.
  • the performance information of the model is acquired from the storage unit 61.
  • the crane information acquisition unit 62 includes a virtual outrigger generation unit 63 and a workable area calculation unit 64.
  • the virtual outrigger generation unit 63 contains information on the shape of the outrigger 80 stored in the storage unit 61 (that is, the shape of the outrigger 80 corresponding to the model of the crane 1 specified from the display information of the information display unit 40) and the input unit. Based on the horizontal overhang amount of the outrigger 80 input to 53, the virtual outrigger three-dimensional data (that is, the image information of the three-dimensional image of the outrigger 80) is generated as the information of the crane 1.
  • the workable area calculation unit 64 refers to the information of the model of the crane 1 specified from the display information of the information display unit 40, and also determines the suspended load input to the input unit 53, the length of the boom 30, and the boom 30. Based on the above, the workable area of the crane 1 is calculated as the information of the crane 1.
  • the workable area calculation unit 64 can calculate the workable areas of a plurality of load factors. In the first embodiment, the workable area calculation unit 64 calculates a workable area having a load factor of 80% and a workable area having a load factor of 100%.
  • the workable area means a workable area in the horizontal direction of the crane 1 on the installation surface of the crane 1.
  • the position / attitude calculation unit 65 calculates the position and attitude of the crane 1 based on the information display unit 40 captured by the camera 51.
  • the position / orientation calculation unit 65 reads the information display unit 40 captured by the camera 51 (that is, reads the display information of the information display unit 40 from the image of the camera 51), and causes the crane 1 to read the information display unit 40. Information on the position where the information display unit 40 is mounted (that is, the mounting position of the information display unit 40) is acquired, and the direction of the crane 1 is calculated.
  • the first information display unit 41 is attached to the front surface of the vehicle body frame 11, so that the camera 51 faces forward.
  • the camera 51 is a rearward crane. It means that 1 was taken.
  • the third information display unit 43 is attached to the right side surface of the vehicle body frame 11, so that the camera 51 is oriented sideways to the right. This means that the crane 1 was photographed.
  • the fourth information display unit 44 is attached to the left side surface of the vehicle body frame 11, so that the camera 51 faces left sideways. This means that the crane 1 was photographed.
  • the position / orientation calculation unit 65 includes the shape of the information display unit 40 photographed by the camera 51 (hereinafter referred to as “outline shape of the information display unit 40”) and the information display unit 40 recorded in the information display unit 40.
  • Information on the posture of the crane 1 is acquired based on the reference shape of. That is, the position / orientation calculation unit 65 reads the display information (that is, code information) of the information display unit 40 from the image of the camera 51, acquires the information related to the reference shape of the information display unit 40, and also obtains the information related to the reference shape of the information display unit 40.
  • the contour shape of the information display unit 40 reflected on the camera 51 is extracted from the image by a known pattern matching or the like. Then, the position / orientation calculation unit 65 calculates the attitude information of the crane 1 by comparing the contour shape of the information display unit 40 reflected in the image of the camera 51 with the reference shape of the information display unit 40.
  • the crane 1 is directly in front of the camera 51. It is in a position that is suitable for.
  • the information display unit 40 photographed by the camera 51 is the first information display unit 41, and the left edge of the information display unit 40 is longer (higher) than the right edge, not the rectangular shape recorded in the first information display unit 41.
  • a trapezoid that is, the contour shape of the first information display unit 41 reflected in the image of the camera 51 is a trapezoid whose left edge is longer than the right edge, and is specified from the display information of the first information display unit 41.
  • the crane 1 is in a posture of facing slightly to the left from the front of the camera 51.
  • the information display unit 40 photographed by the camera 51 is the first information display unit 41, and is not a rectangular shape recorded in the first information display unit 41, but a trapezoidal shape in which the right edge of the information display unit 40 is longer than the left edge.
  • the contour shape of the first information display unit 41 reflected in the image of the camera 51 is a trapezoid whose right edge is longer than the left edge, and the first information specified from the display information of the first information display unit 41.
  • the crane 1 is in a posture of facing slightly to the right from the front of the camera 51.
  • the position / orientation calculation unit 65 compares the shape of the information display unit 40 photographed by the camera 51 with the shape of the information display unit 40 recorded in the information display unit 40, and acquires information on the attitude of the crane 1. To do.
  • the position / orientation calculation unit 65 of the crane 1 is based on the size of the contour shape of the information display unit 40 photographed by the camera 51 and the reference size of the information display unit 40 recorded in the information display unit 40. Get position information. Specifically, the position / orientation calculation unit 65 compares the reference size of the information display unit 40 recorded in the information display unit 40 with the size of the contour shape of the information display unit 40 photographed by the camera 51, and the camera The distance from 51 to the information display unit 40 is calculated.
  • the information processing unit 66 obtains the performance information of the crane 1 acquired by the crane information acquisition unit 62, the virtual outrigger generated by the virtual outrigger generation unit 63, and the workable area of the crane 1 calculated by the workable area calculation unit 64. , The information corresponding to the position and attitude of the crane 1 calculated by the position / orientation calculation unit 65 is processed.
  • the information processing unit 66 processes the information of the crane 1 acquired by the crane information acquisition unit 62 into the information corresponding to the position and attitude of the crane 1 calculated by the position / attitude calculation unit 65.
  • the information processing unit 66 converts the information of the crane 1 acquired by the crane information acquisition unit 62 into three-dimensional image information corresponding to the position and attitude of the crane 1 calculated by the position / attitude calculation unit 65.
  • the information processing unit 66 displays the virtual outrigger 80A so that the three-dimensional image of the virtual outrigger 80A is an image simulating a state in which the outrigger 80 is actually projected.
  • a three-dimensional image of 80A is converted.
  • the image processing performed by the information processing unit 66 is realized by a known coordinate conversion process or the like.
  • the image display unit 52 displays the information processed by the information processing unit 66 (that is, the information of the crane 1 converted into the image information to be displayed by the information processing unit 66) overlaid on the image of the camera 51. Specifically, as shown in FIG. 3, the image display unit 52 captures an image of the crane 1 and its surrounding site environment taken by the camera 51, and the tail swing region 73 of the crane 1 acquired by the crane information acquisition unit 62. The virtual outrigger 80A generated by the virtual outrigger generation unit 63 and the workable areas 71 and 72 of the crane 1 calculated by the workable area calculation unit 64 are superimposed and displayed. Further, the image display unit 52 displays the suspended load input to the input unit 53.
  • the image display unit 52 can examine in three dimensions how each part of the crane 1 affects the site environment when the user actually operates the crane 1 at the site.
  • the workable areas 71 and 72 of the crane 1, the virtual outrigger 80A of the crane 1, and the tail swing area 73 of the crane 1 are overlapped with the crane 1 or the surrounding environment of the crane 1 shown in the image of the camera 51. Display as a three-dimensional image.
  • the image display unit 52 displays the virtual outrigger 80A at the position of the outrigger of the crane 1 reflected in the image of the camera 51, for example.
  • the image display unit 52 displays, for example, the workable areas 71 and 72 of the crane 1 around the crane 1 shown in the image of the camera 51.
  • the image display unit 52 displays, for example, the tail swing region 73 of the crane 1 around the swivel base of the crane 1 shown in the image of the camera 51.
  • the virtual outrigger 80A is composed of a virtual front outrigger 82A and a virtual rear outrigger 81A.
  • the workable area of the crane 1 is composed of a workable area 72 having a load factor of 80% and a workable area 71 having a load factor of 100%.
  • FIG. 4 is a flowchart showing a processing flow by the control unit 60 of the crane information display system 100 of the first embodiment.
  • the processing flow by the control unit 60 of the crane information display system 100 of the first embodiment will be described.
  • the crane information acquisition unit 62 photographs with the camera 51 as shown in FIG.
  • Information on the model of the crane 1 is acquired based on the information display unit 40 (step S101).
  • the position / orientation calculation unit 65 calculates the position and attitude of the crane 1 based on the information display unit 40 captured by the camera 51 (step S102).
  • control unit 60 determines whether or not the overhang amount of the outrigger 80 has been input to the input unit 53 (step S103).
  • the virtual outrigger generation unit 63 generates the virtual outrigger 80A (step S104), and proceeds to step S105.
  • the process proceeds to step S105.
  • control unit 60 determines whether or not the suspended load and the length of the boom 30 have been input to the input unit 53 (step S105).
  • the workable area calculation unit 64 calculates the workable areas 71 and 72 (step S106), and steps. Proceed to 107.
  • the process proceeds to step S107.
  • the information processing unit 66 processes the information of the crane 1 acquired by the crane information acquisition unit 62 into the information corresponding to the position and attitude of the crane 1 calculated by the position / attitude calculation unit 65 (step S107). That is, the information processing unit 66 can work on the crane 1 performance information acquired by the crane information acquisition unit 62, the virtual outrigger 80A generated by the virtual outrigger generation unit 63, and the crane 1 calculated by the workable area calculation unit 64. The areas 71 and 72 are processed into information corresponding to the position and orientation of the crane 1 calculated by the position / orientation calculation unit 65.
  • the image display unit 52 generated the tail swing region 73 of the crane 1 acquired by the crane information acquisition unit 62 and the virtual outrigger generation unit 63 on the image of the crane 1 and its surrounding site environment taken by the camera 51.
  • the virtual outrigger 80A and the workable areas 71 and 72 of the crane 1 calculated by the workable area calculation unit 64 are superimposed and displayed (step S108), and the process is completed.
  • the crane information display unit 40 provided in the crane 1 for displaying the information of the crane 1 is photographed by the camera 51, and the crane information acquisition unit 62 for acquiring the information of the crane 1 and the crane information display unit 62.
  • the position / orientation calculation unit 65 calculates the crane information acquired by the position / attitude calculation unit 65 that calculates the position and attitude of the crane 1 and the crane information acquisition unit 62 based on the information display unit 40 taken by the camera 51. It includes an information processing unit 66 that processes information corresponding to the position and orientation of the crane 1, and an image display unit 52 that superimposes the information processed by the information processing unit 66 on an image taken by the camera 51.
  • Figure 2 the information processing unit 66 that processes information corresponding to the position and orientation of the crane 1
  • an image display unit 52 that superimposes the information processed by the information processing unit 66 on an image taken by the camera 51.
  • the information of the crane 1 can be superimposed and displayed on the image of the crane 1 and its surroundings. Therefore, at the work site, the crane 1, the surrounding environment, and the information of the crane 1 can be confirmed in real time with a three-dimensional image. As a result, the work plan of the crane 1 can be examined in real time at the work site.
  • the crane information display system 100 of the first embodiment includes an input unit 53 for inputting an overhang amount of the outrigger 80 of the crane 1, and the crane information acquisition unit 62 is a three-dimensional virtual outrigger based on an input value to the input unit 53.
  • a virtual outrigger generation unit 63 that generates 80A is provided (FIG. 2).
  • the crane information display system 100 of the first embodiment includes an input unit 53 for inputting a suspended load load and a boom 30 length of the crane 1, and the crane information acquisition unit 62 is based on an input value to the input unit 53.
  • the workable area calculation unit 64 for calculating the workable areas 71 and 72 of the crane 1 is provided (FIG. 2).
  • the workable areas 71 and 72 for a predetermined suspended load can be superimposed and displayed on the image of the crane 1 and its surroundings based on the length of the boom 30. Therefore, at the work site, the workable areas 71 and 72 can be confirmed in real time with a three-dimensional image.
  • the information of the crane 1 includes the tail swing region 73 of the crane 1 (FIG. 3).
  • the tail swing area 73 can be superimposed and displayed on the image of the crane 1 and its surroundings. Therefore, the tail swing region 73 can be confirmed in real time with a three-dimensional image at the work site.
  • Example 1 an example in which the information display unit 40 is used as an April tag is shown.
  • the information display unit is not limited to this mode, and may be a two-dimensional code such as a QR code (registered trademark).
  • the information display unit may be used as the crane itself, and the crane information may be acquired by image recognition using deep learning.
  • one April tag as the information display unit 40 is attached to the front surface, the rear surface, the right side surface, and the left side surface of the body frame 11 of the crane 1.
  • two or more information display units 40 may be attached to the front surface, the rear surface, the right side surface, and the left side surface of the vehicle body frame 11 of the crane 1.
  • Example 1 a workable area 72 having a load factor of 80% and a workable area 71 having a load factor of 100% are displayed on the image display unit 52.
  • one workable area may be displayed on the image display unit, or three or more workable areas may be displayed.
  • the load factor of the workable area is not limited to 80% or 100%.
  • the user terminal is a tablet terminal 50 including a camera 51, an input unit 53, and an image display unit 52.
  • the user terminal may be a smartphone. Further, the user terminal may have a camera and an image display unit separately.
  • Example 1 an example in which the performance information of the crane 1 is stored in the storage unit 61 is shown.
  • the performance information of the crane may be stored in the information display unit.

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Jib Cranes (AREA)
  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

カメラ（５１）を有する端末装置（５０）を備え、カメラ（５１）にて、クレーン（１）を撮影してカメラ画像を得るクレーン情報表示システム（１００）であって、カメラ画像から、クレーン（１）に搭載された情報表示部（４０）の表示情報を読み取り、クレーン（１）の情報を取得するクレーン情報取得部（６２）と、カメラ画像から、クレーン（１）の位置と姿勢を算出する位置姿勢算出部（６５）と、クレーン情報取得部（６２）が取得したクレーン（１）の情報を、位置姿勢算出部（６５）が算出したクレーン（１）の位置と姿勢に対応した三次元の画像情報に変換する情報処理部（６６）と、情報処理部（６６）にて変換処理が施されたクレーン（１）の情報をカメラ画像に重ねて表示する画像表示部（５２）と、を備えるクレーン情報表示システム（１００）。

Description

クレーン情報表示システム
　本発明は、クレーン情報表示システムに関する。
　従来、クレーンの情報を表示するクレーン情報表示システムが知られている（例えば、特許文献１参照）。
　特許文献１には、クレーンの稼働状態に関する情報を視覚化して表示画面を携帯端末の表示部に表示させる構成が開示されている。これにより、クレーンの外にいる人間でもクレーンの稼働状態を把握することができる。
特開２０１４－２２７２８１号公報
　しかしながら、特許文献１に記載の構成は、クレーンの稼働状態に関する情報を、クレーンを上方や側方から描画することにより視覚化して表示する。そのため、特許文献１に記載の構成では、２次元で検討しなければならない、という問題がある。
　そこで、本発明は、作業現場において、クレーンの情報を３次元で検討することができるクレーン情報表示システムを提供することを目的とする。
　前述した課題を解決する主たる本開示は、
　カメラを有する端末装置を備え、前記カメラにて、クレーンを撮影してカメラ画像を得るクレーン情報表示システムであって、
　前記カメラ画像から、前記クレーンに搭載された情報表示部の表示情報を読み取り、前記クレーンの情報を取得するクレーン情報取得部と、
　前記カメラ画像から、前記情報表示部の表示情報を読み取り、前記情報表示部の基準形状と前記情報表示部の前記クレーンにおける搭載位置に係る情報を取得すると共に、前記カメラ画像に映る前記情報表示部の輪郭形状を抽出して、前記情報表示部の前記基準形状、前記情報表示部の前記搭載位置、及び、前記情報表示部の前記輪郭形状の情報に基づいて、前記クレーンの位置と姿勢を算出する位置姿勢算出部と、
　前記クレーン情報取得部が取得した前記クレーンの情報を、前記位置姿勢算出部が算出した前記クレーンの位置と姿勢に対応した三次元の画像情報に変換する情報処理部と、
　前記情報処理部にて変換処理が施された前記クレーンの情報を前記カメラ画像に重ねて表示する画像表示部と、
　を備えるクレーン情報表示システムである。
　このように構成された本発明のクレーン情報表示システムは、作業現場において、クレーンの情報を３次元で検討することができる。
実施例１のクレーン情報表示システムを示す図である。 実施例１のクレーン情報表示システムの機能構成を示すブロック図である。 実施例１の画像表示部に表示される画像を示す図である。 実施例１のクレーン情報表示システムの制御部による処理の流れを示すフローチャートである。
　以下、本発明によるクレーン情報表示システムを実現する実施形態を、図面に示す実施例１に基づいて説明する。
［クレーン情報表示システムの構成］
　図１は、実施例１のクレーン情報表示システムを示す図である。以下、実施例１のクレーン情報表示システムの構成を説明する。
　図１に示すように、実施例１のクレーン情報表示システム１００は、カメラ５１を備えたユーザ端末としてのタブレット端末５０で、作業者Ｍが作業現場に置かれたクレーン１を撮影する例について説明する。実施例１のクレーン情報表示システム１００は、アウトリガー８０が張り出していない状態のクレーン１を、カメラ５１で撮影する例について説明する。なお、クレーン１の前後方向を前後方向Ｄとする。
［クレーンの構成］
　図１に示すように、クレーン１は、走行体１０と、旋回体２０と、ブーム３０とを備える。
　走行体１０は、車体フレーム１１と、アウトリガー８０と、道路や作業現場を自走するための走行装置等を備える。
　アウトリガー８０は、走行体１０の車体フレーム１１のリア側面に取り付けられたリアアウトリガー８１と、車体フレーム１１のフロント側面に取り付けられたフロントアウトリガー８２と、で構成される。アウトリガー８０は、走行時には、車体フレーム１１に収納される。一方、アウトリガー８０は、作業時には、水平方向及び垂直方向に張り出し、車体全体を持ち上げて、姿勢を安定させる。
　走行体１０の車体フレーム１１には、情報表示部４０（即ち、マーカー）としてのエイプリルタグ（AprilTag）が取り付けられる。情報表示部４０は、車体フレーム１１の前面に取り付けられた第１情報表示部４１と、車体フレーム１１の後面に取り付けられた第２情報表示部４２と、車体フレーム１１の右側面に取り付けられた第３情報表示部４３と、車体フレーム１１の左側面に取り付けられた第４情報表示部４４と、を備える。第１情報表示部４１、第２情報表示部４２、第３情報表示部４３、及び第４情報表示部４４は、例えば、それぞれ、その表面に付された文字、符号、記号、又はパターン等によって、別個の表示情報（即ち、コード情報）を保有する。第１情報表示部４１、第２情報表示部４２、第３情報表示部４３、及び第４情報表示部４４それぞれの保有する表示情報（即ち、コード情報）は、予め制御部６０（後述）等に記憶された解読プログラムを用いて、カメラ５１により生成されたカメラ画像から読み取り可能となっている。
　第１情報表示部４１には、クレーン１の機種の情報と、クレーン１における、第１情報表示部４１が取り付けられた位置の情報と、第１情報表示部４１の形状とサイズと、が記録されている。第２情報表示部４２には、クレーン１の機種の情報と、クレーン１における、第２情報表示部４２が取り付けられた位置の情報と、第２情報表示部４２の形状とサイズと、が記録されている。第３情報表示部４３には、クレーン１の機種の情報と、クレーン１における、第３情報表示部４３が取り付けられた位置の情報と、第３情報表示部４３の形状とサイズと、が記録されている。第４情報表示部４４には、クレーン１の機種の情報と、クレーン１における、第４情報表示部４４が取り付けられた位置の情報と、第４情報表示部４４の形状とサイズと、が記録されている。尚、第１情報表示部４１、第２情報表示部４２、第３情報表示部４３、及び第４情報表示部４４に記録された形状とサイズは、例えば、これらを、所定距離離れた正面から撮影した際に得られる形状とサイズである（以下、「基準形状」及び「基準サイズ」と称する）。
　第１情報表示部４１と、第２情報表示部４２と、第３情報表示部４３と、第４情報表示部４４とは、同じ外形（例えば、矩形）で、同じサイズに形成される。尚、第１情報表示部４１と、第２情報表示部４２と、第３情報表示部４３と、第４情報表示部４４とは、それぞれが保有する表示情報（即ち、コード情報）から、識別可能となっている。
　旋回体２０は、走行体１０の上方に設けられ、走行体１０に対して、鉛直軸Ｃ１回りに回転可能となっている。旋回体２０は、キャビン２１を備える。キャビン２１は、走行体１０の走行を制御するための操作部（例えば、ステアリング、シフトレバー、アクセルペダル、及びブレーキペダル等）を有する。また、キャビン２１は、旋回体２０やブーム３０やウインチ等を操作する操作部を有する。キャビン２１に搭乗した作業者は、操作部を操作して、旋回体２０を旋回させ、ブーム３０を起伏及び伸縮させ、ウインチを回転させて作業を行う。
　ブーム３０は、基端側が旋回体２０に支持されて、旋回体２０に対して起伏可能に取り付けられる。ブーム３０は、旋回体２０に設けられた起伏シリンダ２２によって起伏され、伸縮シリンダ（不図示）によって伸縮される。
　ブーム３０は、基端側の基端ブーム３１から先端側の先端ブーム３６までの間に、中間ブーム３２～３５を備える。中間ブーム３２～３５と先端ブーム３６は、順次、基端ブーム３１の内部に格納される入れ子式になっている。
　先端ブーム３６の先端に設けられたブームヘッド３６ａには、シーブ３７が配置されている。旋回体２０の、ブーム３０の基端近くに設けられたウインチには、吊り荷用のワイヤロープ３８が巻かれている。ワイヤロープ３８は、ウインチからシーブ３７までブーム３０の軸方向に沿って配置され、シーブ３７に掛け回されたワイヤロープ３８は、シーブ３７から鉛直方向の下方に吊り下げられる。ワイヤロープ３８の最下部には、フック３９が設けられている。
　フック３９に荷物が吊られ、ウインチに巻かれたワイヤロープ３８を繰り出すことで、フック３９が降下し、ワイヤロープ３８を巻き上げることで、フック３９は上昇する。
　このように構成されたクレーン１は、ウインチによるワイヤロープ３８の繰り出し・巻き上げ、ブーム３０の起伏及び伸縮、並びに旋回体２０の旋回により、フック３９に吊られた荷物を所定の位置に移動させる。
［タブレット端末の構成］
　図１に示すように、タブレット端末５０は、カメラ５１と、画像表示部５２と、入力部５３と、を備える。
　カメラ５１で撮影した画像は、画像表示部５２に表示される。画像表示部５２は、入力部５３としてのタッチパネルとしても構成される。
［クレーン情報表示システムの機能構成］
　図２は、実施例１のクレーン情報表示システム１００の機能構成を示すブロック図である。図３は、実施例１の画像表示部に表示される画像を示す図である。以下、実施例１のクレーン情報表示システム１００の機能構成を説明する。
　クレーン情報表示システム１００は、情報表示部４０をカメラ５１で撮影した画像と、入力部５３で入力された入力情報とが、制御部６０（本実施形態では、タブレット端末５０に内蔵された制御部）に入力され、制御部６０で制御された情報が、画像表示部５２で出力される。
　カメラ５１は、例えば一般的なタブレット端末５０に備わるカメラ５１とすることができる。カメラ５１は、クレーン１や、クレーン１の周辺の現場環境や、情報表示部４０を撮影することができる。
　入力部５３は、アウトリガー８０の水平方向の張り出し量や、吊荷荷重や、ブーム３０の長さ等を入力することができる。ブーム３０の長さは、先端ブーム３６と、中間ブーム３２～３５とが、基端ブーム３１に格納された状態（全縮状態）のブーム３０の長さや、先端ブーム３６が伸張した状態のブーム３０の長さや、先端ブーム３６と中間ブーム３２～３５とが伸張した状態（全伸状態）の長さ等である。
　制御部６０は、記憶部６１と、クレーン情報取得部６２と、位置姿勢算出部６５と、情報処理部６６と、を備える。尚、制御部６０は、例えば、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、及び、ＲＯＭ（Read Only Memory）等によって構成された周知のマイコンであり、制御部６０が有する機能（クレーン情報取得部６２、位置姿勢算出部６５、及び情報処理部６６）は、例えば、ＣＰＵが、記憶部６１（例えば、ＨＤＤ）、ＲＯＭ又はＲＡＭに格納された制御プログラムや各種データを参照することによって実現される。
　記憶部６１は、各種クレーンの性能情報を記憶する。性能情報には、例えば、アウトリガー８０の形状に関する情報と、アウトリガー８０の張り出し量とブーム３０の長さとに応じた水平方向の作業可能領域の情報と高さ方向の作業可能領域の情報や、ブーム３０の起伏角度範囲の情報や、負荷率に関する情報や、テールスイング領域に関する情報等を含む。
　クレーン情報取得部６２は、カメラ５１で撮影した情報表示部４０に基づいて、クレーン１の機種の情報を取得し、取得したクレーン１の機種の性能情報を記憶部６１から取得する。すなわち、クレーン情報取得部６２は、カメラ５１で撮影した情報表示部４０を読み込んで（即ち、カメラ画像から、情報表示部４０の表示情報を読み取って）、クレーン１の機種を取得し、取得した機種の性能情報を記憶部６１から取得する。
　クレーン情報取得部６２は、仮想アウトリガー生成部６３と、作業可能領域算出部６４と、を備える。
　仮想アウトリガー生成部６３は、記憶部６１に記憶されたアウトリガー８０の形状に関する情報（即ち、情報表示部４０の表示情報から特定されたクレーン１の機種に対応するアウトリガー８０の形状）と、入力部５３に対して入力されたアウトリガー８０の水平方向の張り出し量と、基づいて、クレーン１の情報として、仮想アウトリガーの３次元データ（即ち、アウトリガー８０の３次元画像の画像情報）を生成する。
　作業可能領域算出部６４は、情報表示部４０の表示情報から特定されたクレーン１の機種の情報を参照すると共に、入力部５３に対して入力された吊荷荷重と、ブーム３０の長さと、に基づいて、クレーン１の情報として、クレーン１の作業可能領域を算出する。作業可能領域算出部６４は、複数の負荷率の作業可能領域を算出することができる。実施例１では、作業可能領域算出部６４は、８０％の負荷率の作業可能領域と、１００％の負荷率の作業可能領域と、を算出する。なお、作業可能領域とは、クレーン１の設置面における、クレーン１の水平方向の作業可能な領域をいう。
　位置姿勢算出部６５は、カメラ５１で撮影した情報表示部４０に基づいて、クレーン１の位置と姿勢を算出する。
　具体的には、位置姿勢算出部６５は、カメラ５１で撮影された情報表示部４０を読み込んで（即ち、カメラ５１の画像から、情報表示部４０の表示情報を読み取って）、クレーン１における、情報表示部４０が取り付けられた位置（即ち、情報表示部４０の搭載位置）の情報を取得し、クレーン１の向きを算出する。
　例えば、カメラ５１で撮影した情報表示部４０が、第１情報表示部４１であった場合、第１情報表示部４１は、車体フレーム１１の前面に取り付けられていることから、カメラ５１は、前向きのクレーン１を撮影したことになる。カメラ５１で撮影した情報表示部４０が、第２情報表示部４２であった場合、第２情報表示部４２は、車体フレーム１１の後面に取り付けられていることから、カメラ５１は、後向きのクレーン１を撮影したことになる。カメラ５１で撮影した情報表示部４０が、第３情報表示部４３であった場合、第３情報表示部４３は、車体フレーム１１の右側面に取り付けられていることから、カメラ５１は、右横向きのクレーン１を撮影したことになる。カメラ５１で撮影した情報表示部４０が、第４情報表示部４４であった場合、第４情報表示部４４は、車体フレーム１１の左側面に取り付けられていることから、カメラ５１は、左横向きのクレーン１を撮影したことになる。
　また、位置姿勢算出部６５は、カメラ５１で撮影された情報表示部４０の形状（以下、「情報表示部４０の輪郭形状」と称する）と、情報表示部４０に記録された情報表示部４０の基準形状と、に基づいて、クレーン１の姿勢の情報を取得する。即ち、位置姿勢算出部６５は、カメラ５１の画像から、情報表示部４０の表示情報（即ち、コード情報）を読み取って、情報表示部４０の基準形状に係る情報を取得すると共に、カメラ５１の画像から、公知のパターンマッチング等によって、カメラ５１に映る情報表示部４０の輪郭形状を抽出する。そして、位置姿勢算出部６５は、カメラ５１の画像に映る情報表示部４０の輪郭形状と、情報表示部４０の基準形状と、を比較することで、クレーン１の姿勢の情報を算出する。
　例えば、カメラ５１で撮影した情報表示部４０が、第１情報表示部４１であり、第１情報表示部４１に記録された矩形状である場合（即ち、カメラ５１の画像に映る第１情報表示部４１の輪郭形状と、第１情報表示部４１の表示情報から特定される第１情報表示部４１の基準形状とが、共に矩形状である場合）、クレーン１は、カメラ５１に対して真正面に向く姿勢にある。カメラ５１で撮影した情報表示部４０が、第１情報表示部４１であり、第１情報表示部４１に記録された矩形状ではなく、情報表示部４０の左縁が、右縁より長い（高い）台形である場合（即ち、カメラ５１の画像に映る第１情報表示部４１の輪郭形状が、左縁が右縁より長い台形であり、且つ、第１情報表示部４１の表示情報から特定される第１情報表示部４１の基準形状が矩形状である場合）、クレーン１は、カメラ５１に対して、真正面から若干左側を向いた姿勢にある。カメラ５１で撮影した情報表示部４０が、第１情報表示部４１であり、第１情報表示部４１に記録された矩形状ではなく、情報表示部４０の右縁が、左縁より長い台形の場合（即ち、カメラ５１の画像に映る第１情報表示部４１の輪郭形状が、右縁が左縁より長い台形であり、且つ、第１情報表示部４１の表示情報から特定される第１情報表示部４１の基準形状が矩形状である場合）、クレーン１は、カメラ５１に対して、真正面から若干右側を向いた姿勢にある。
　すなわち、位置姿勢算出部６５は、カメラ５１で撮影された情報表示部４０の形状と、情報表示部４０に記録された情報表示部４０の形状とを比較し、クレーン１の姿勢の情報を取得する。
　また、位置姿勢算出部６５は、カメラ５１で撮影された情報表示部４０の輪郭形状のサイズと、情報表示部４０に記録された情報表示部４０の基準サイズと、に基づいて、クレーン１の位置の情報を取得する。具体的には、位置姿勢算出部６５は、情報表示部４０に記録された情報表示部４０の基準サイズと、カメラ５１で撮影された情報表示部４０の輪郭形状のサイズとを比較し、カメラ５１から情報表示部４０までの距離を算出する。
　情報処理部６６は、クレーン情報取得部６２が取得したクレーン１の性能情報と、仮想アウトリガー生成部６３が生成した仮想アウトリガーと、作業可能領域算出部６４が算出したクレーン１の作業可能領域とを、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した情報に処理する。
　すなわち、情報処理部６６は、クレーン情報取得部６２が取得したクレーン１の情報を、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した情報に処理する。換言すると、情報処理部６６は、クレーン情報取得部６２が取得したクレーン１の情報を、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した三次元の画像情報に変換する。情報処理部６６は、例えば、カメラ５１の撮影位置からクレーン１を見たときに、仮想アウトリガー８０Ａの三次元画像が、実際にアウトリガー８０を張り出した状態を模擬した画像となるように、仮想アウトリガー８０Ａの三次元画像を、変換する。尚、情報処理部６６のかかる画像処理は、公知の座標変換処理等によって、実現される。
　画像表示部５２は、情報処理部６６が処理した情報（即ち、情報処理部６６にて、表示対象の画像情報に変換されたクレーン１の情報）を、カメラ５１の画像に重ねて表示する。具体的には、図３に示すように、画像表示部５２は、カメラ５１で撮影したクレーン１とその周辺の現場環境の画像に、クレーン情報取得部６２が取得したクレーン１のテールスイング領域７３と、仮想アウトリガー生成部６３が生成した仮想アウトリガー８０Ａと、作業可能領域算出部６４が算出したクレーン１の作業可能領域７１，７２とを、重畳して表示する。また、画像表示部５２は、入力部５３に入力された吊荷荷重を表示する。
　即ち、画像表示部５２は、ユーザが、クレーン１を現場で実際に稼働した際に、クレーン１の各部位が現場環境にどのような影響を与えるか等を、３次元で検討することができるように、カメラ５１の画像に映るクレーン１又はクレーン１の周辺環境に重ね合わせるように、クレーン１の作業可能領域７１，７２、クレーン１の仮想アウトリガー８０Ａ、及び、クレーン１のテールスイング領域７３を、３次元画像で表示する。画像表示部５２は、例えば、カメラ５１の画像に映るクレーン１のアウトリガーの位置に、仮想アウトリガー８０Ａを表示する。又、画像表示部５２は、例えば、カメラ５１の画像に映るクレーン１を中心として、その周囲に、クレーン１の作業可能領域７１，７２を表示する。又、画像表示部５２は、例えば、カメラ５１の画像に映るクレーン１の旋回台を中心として、その周囲に、クレーン１のテールスイング領域７３を表示する。
　仮想アウトリガー８０Ａは、仮想フロントアウトリガー８２Ａと、仮想リアアウトリガー８１Ａから構成される。クレーン１の作業可能領域は、８０％の負荷率の作業可能領域７２と、１００％の負荷率の作業可能領域７１とから構成される。
［制御部による処理の流れ］
　図４は、実施例１のクレーン情報表示システム１００の制御部６０による処理の流れを示すフローチャートである。以下、実施例１のクレーン情報表示システム１００の制御部６０による処理の流れを説明する。
　作業者Ｍが、タブレット端末５０のカメラ５１で、作業現場に設置されたクレーン１と、その周辺の現場環境を撮影すると、図４に示すように、クレーン情報取得部６２は、カメラ５１で撮影した情報表示部４０に基づいて、クレーン１の機種の情報を取得する（ステップＳ１０１）。
　次いで、位置姿勢算出部６５は、カメラ５１で撮影した情報表示部４０に基づいて、クレーン１の位置と姿勢を算出する（ステップＳ１０２）。
　次いで、制御部６０は、アウトリガー８０の張り出し量が入力部５３に入力されたか否かを判断する（ステップＳ１０３）。アウトリガー８０の張り出し量が入力部５３に入力されたと判断した場合（ステップＳ１０３でＹＥＳ）、仮想アウトリガー生成部６３は、仮想アウトリガー８０Ａを生成し（ステップＳ１０４）、ステップＳ１０５に進む。一方、アウトリガー８０の張り出し量が入力部５３に入力されていない場合（ステップＳ１０３でＮＯ）、ステップＳ１０５に進む。
　次いで、制御部６０は、吊荷荷重とブーム３０の長さが入力部５３に入力されたか否かを判断する（ステップＳ１０５）。吊荷荷重とブーム３０の長さが入力部５３に入力されたと判断した場合（ステップＳ１０５でＹＥＳ）、作業可能領域算出部６４は、作業可能領域７１，７２を算出し（ステップＳ１０６）、ステップ１０７に進む。一方、吊荷荷重とブーム３０の長さが入力部５３に入力されていないと判断した場合（ステップＳ１０５でＮＯ）、ステップＳ１０７に進む。
　次いで、情報処理部６６は、クレーン情報取得部６２が取得したクレーン１の情報を、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した情報に処理する（ステップＳ１０７）。すなわち、情報処理部６６は、クレーン情報取得部６２が取得したクレーン１の性能情報と、仮想アウトリガー生成部６３が生成した仮想アウトリガー８０Ａと、作業可能領域算出部６４が算出したクレーン１の作業可能領域７１，７２とを、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した情報に処理する。
　次いで、画像表示部５２は、カメラ５１で撮影したクレーン１とその周辺の現場環境の画像に、クレーン情報取得部６２が取得したクレーン１のテールスイング領域７３と、仮想アウトリガー生成部６３が生成した仮想アウトリガー８０Ａと、作業可能領域算出部６４が算出したクレーン１の作業可能領域７１，７２とを、重畳して表示して（ステップＳ１０８）、処理を終了する。
［クレーン情報表示システムの作用］　
　以下、実施例１のクレーン情報表示システム１００の作用を説明する。
　実施例１のクレーン情報表示システム１００は、クレーン１に備えられた、クレーン１の情報を表示する情報表示部４０をカメラ５１で撮影して、クレーン１の情報を取得するクレーン情報取得部６２と、カメラ５１で撮影した情報表示部４０に基づいて、クレーン１の位置と姿勢を算出する位置姿勢算出部６５と、クレーン情報取得部６２が取得したクレーンの情報を、位置姿勢算出部６５が算出したクレーン１の位置と姿勢に対応した情報に処理する情報処理部６６と、情報処理部６６が処理した情報を、カメラ５１で撮影した画像に重ねて表示する画像表示部５２と、を備える（図２）。
　これにより、クレーン１とその周囲を撮影した画像上に、クレーン１の情報を重ね合わせて表示することができる。そのため、作業現場において、クレーン１と、その周辺の現場環境と、クレーン１の情報と、をリアルタイムに３次元の画像で確認することができる。その結果、クレーン１の作業計画を作業現場においてリアルタイムに検討することができる。
　実施例１のクレーン情報表示システム１００は、クレーン１のアウトリガー８０の張り出し量を入力する入力部５３を備え、クレーン情報取得部６２は、入力部５３への入力値に基づいて、立体の仮想アウトリガー８０Ａを生成する仮想アウトリガー生成部６３を備える（図２）。
　これにより、クレーン１とその周囲を撮影した画像上に、入力値に対応した張り出し量の仮想アウトリガー８０Ａを重ね合わせて表示することができる。そのため、作業現場において、アウトリガー８０の張り出し量をリアルタイムに３次元の画像上で確認することができる。
　実施例１のクレーン情報表示システム１００は、吊荷荷重と、クレーン１のブーム３０の長さと、を入力する入力部５３を備え、クレーン情報取得部６２は、入力部５３への入力値に基づいて、クレーン１の作業可能領域７１，７２を算出する作業可能領域算出部６４を備える（図２）。
　これにより、クレーン１とその周囲を撮影した画像上に、ブーム３０の長さに基づいて、所定の吊荷荷重に対する作業可能領域７１，７２を重ね合わせて表示することができる。そのため、作業現場において、作業可能領域７１，７２をリアルタイムに３次元の画像で確認することができる。
　実施例１のクレーン情報表示システム１００において、クレーン１の情報は、クレーン１のテールスイング領域７３が含まれる（図３）。
　これにより、クレーン１とその周囲を撮影した画像上に、テールスイング領域７３を重ね合わせて表示することができる。そのため、作業現場においいて、テールスイング領域７３をリアルタイムに３次元の画像で確認することができる。
　以上、本発明のクレーン情報表示システムを実施例１に基づき説明してきた。しかし、具体的な構成については、この実施例に限られるものではなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計の変更や追加等は許容される。
　実施例１では、情報表示部４０をエイプリルタグとする例を示した。しかし、情報表示部は、この態様に限定されず、例えばＱＲコード（登録商標）等の２次元コードとしてもよい。また、情報表示部をクレーン自体として、深層学習を使用した画像認識によって、クレーンの情報を取得してもよい。
　実施例１では、情報表示部４０としてのエイプリルタグを、クレーン１の車体フレーム１１の前面と、後面と、右側面と、左側面とに、それぞれ１つ取り付ける例を示した。しかし、情報表示部４０は、クレーン１の車体フレーム１１の前面と、後面と、右側面と、左側面とに、それぞれ２つ以上取り付けてもよい。
　実施例１では、８０％の負荷率の作業可能領域７２と、１００％の負荷率の作業可能領域７１を画像表示部５２に表示する例を示した。しかし、画像表示部には、１つの作業可能領域を表示しても良いし、３つ以上の作業可能領域を表示してもよい。また、作業可能領域の負荷率は、８０％や１００％に限定されるものではない。
　実施例１では、ユーザ端末を、カメラ５１と入力部５３と画像表示部５２を備えるタブレット端末５０とする例を示した。しかし、ユーザ端末は、スマートフォンであってもよい。また、ユーザ端末は、カメラと画像表示部が別体のものであってもよい。
　実施例１では、クレーン１の性能情報を記憶部６１に記憶する例を示した。しかし、クレーンの性能情報は、情報表示部に記憶させてもよい。
　２０１９年９月２７日出願の特願２０１９－１７６７５８の日本出願に含まれる明細書、図面および要約書の開示内容は、すべて本願に援用される。
　１　　クレーン
　４０　情報表示部
　５０　タブレット端末
　５１　カメラ
　５２　画像表示部
　５３　入力部
　８０　アウトリガー
　８０Ａ　仮想アウトリガー
　６０　制御部
　６１　記憶部
　６２　クレーン情報取得部
　６３　仮想アウトリガー生成部
　６４　作業可能領域算出部
　６５　位置姿勢算出部
　６６　情報処理部
　７１　作業可能領域
　７２　作業可能領域
　７３　テールスイング領域
　１００　クレーン情報表示システム

Claims (4)

  1. 　カメラを有する端末装置を備え、前記カメラにて、クレーンを撮影してカメラ画像を得るクレーン情報表示システムであって、
    　前記カメラ画像から、前記クレーンに搭載された情報表示部の表示情報を読み取り、前記クレーンの情報を取得するクレーン情報取得部と、
    　前記カメラ画像から、前記情報表示部の表示情報を読み取り、前記情報表示部の基準形状と前記情報表示部の前記クレーンにおける搭載位置に係る情報を取得すると共に、前記カメラ画像に映る前記情報表示部の輪郭形状を抽出して、前記情報表示部の前記基準形状、前記情報表示部の前記搭載位置、及び、前記情報表示部の前記輪郭形状の情報に基づいて、前記クレーンの位置と姿勢を算出する位置姿勢算出部と、
    　前記クレーン情報取得部が取得した前記クレーンの情報を、前記位置姿勢算出部が算出した前記クレーンの位置と姿勢に対応した三次元の画像情報に変換する情報処理部と、
    　前記情報処理部にて変換処理が施された前記クレーンの情報を前記カメラ画像に重ねて表示する画像表示部と、
    　を備えるクレーン情報表示システム。
  2. 　前記クレーンのアウトリガーの張り出し量を入力する入力部を備え、
    　前記クレーン情報取得部は、前記情報表示部の表示情報から特定される前記クレーンのアウトリガーの情報と、前記入力部への入力値と、に基づいて、表示対象の前記クレーンの情報として、前記アウトリガーの三次元画像に相当する仮想アウトリガーの画像情報を生成する、
    　請求項１に記載のクレーン情報表示システム。
  3. 　前記クレーンのブームの吊荷荷重と、前記クレーンのブームの長さと、を入力する入力部を備え、
    　前記クレーン情報取得部は、前記情報表示部の表示情報から特定される前記クレーンの機種の情報と、前記入力部への入力値と、に基づいて、表示対象の前記クレーンの情報として、前記クレーンの作業可能領域を算出する、
    　請求項１に記載のクレーン情報表示システム。
  4. 　前記クレーンの情報は、前記クレーンのテールスイング領域の情報を含む、
    　請求項１に記載のクレーン情報表示システム。
PCT/JP2020/036270 2019-09-27 2020-09-25 クレーン情報表示システム WO2021060466A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021549041A JP7024926B2 (ja) 2019-09-27 2020-09-25 クレーン情報表示システム
EP20869889.4A EP4036047A4 (en) 2019-09-27 2020-09-25 CRANE INFORMATION DISPLAY SYSTEM
US17/763,022 US12030751B2 (en) 2019-09-27 2020-09-25 Crane information display system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019-176758 2019-09-27
JP2019176758 2019-09-27

Publications (1)

Publication Number Publication Date
WO2021060466A1 true WO2021060466A1 (ja) 2021-04-01

Family

ID=75164946

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/036270 WO2021060466A1 (ja) 2019-09-27 2020-09-25 クレーン情報表示システム

Country Status (3)

Country Link
EP (1) EP4036047A4 (ja)
JP (1) JP7024926B2 (ja)
WO (1) WO2021060466A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08133677A (ja) * 1994-11-02 1996-05-28 Komatsu Ltd 車体傾斜角表示装置
JP2014031223A (ja) * 2012-08-01 2014-02-20 Tadano Ltd 作業範囲図および作業範囲図表示装置
JP2014227281A (ja) 2013-05-24 2014-12-08 株式会社タダノ 作業機の表示システム
JP2019024151A (ja) * 2017-07-21 2019-02-14 株式会社タダノ ガイド情報表示装置およびこれを備えたクレーンおよびガイド情報表示方法
JP2019059593A (ja) * 2017-09-27 2019-04-18 株式会社大林組 クレーン操縦支援装置
JP2019176758A (ja) 2018-03-30 2019-10-17 雪印メグミルク株式会社 焼成層状食品用可塑性油脂組成物

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004001987A (ja) * 2002-03-25 2004-01-08 Hitachi Constr Mach Co Ltd 操作支援装置
NL2013409B1 (en) * 2014-09-03 2016-09-27 Fugro N V Spatial positioning of offshore structures.
JP6306552B2 (ja) * 2015-10-13 2018-04-04 株式会社タダノ 遠隔操作装置、及び案内システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08133677A (ja) * 1994-11-02 1996-05-28 Komatsu Ltd 車体傾斜角表示装置
JP2014031223A (ja) * 2012-08-01 2014-02-20 Tadano Ltd 作業範囲図および作業範囲図表示装置
JP2014227281A (ja) 2013-05-24 2014-12-08 株式会社タダノ 作業機の表示システム
JP2019024151A (ja) * 2017-07-21 2019-02-14 株式会社タダノ ガイド情報表示装置およびこれを備えたクレーンおよびガイド情報表示方法
JP2019059593A (ja) * 2017-09-27 2019-04-18 株式会社大林組 クレーン操縦支援装置
JP2019176758A (ja) 2018-03-30 2019-10-17 雪印メグミルク株式会社 焼成層状食品用可塑性油脂組成物

Also Published As

Publication number Publication date
EP4036047A4 (en) 2023-11-01
US20220340398A1 (en) 2022-10-27
JPWO2021060466A1 (ja) 2021-04-01
EP4036047A1 (en) 2022-08-03
JP7024926B2 (ja) 2022-02-24

Similar Documents

Publication Publication Date Title
JP6589468B2 (ja) 移動式クレーンの周囲表示装置
JP6805781B2 (ja) クレーン
JP5091447B2 (ja) 作業機搭載車両の周辺監視支援装置
JP6756555B2 (ja) 俯瞰画像システム、俯瞰画像表示方法およびプログラム
JP5971994B2 (ja) クレーン作業監視装置
JP6419677B2 (ja) 作業機械用周辺監視システム
WO2021060473A1 (ja) クレーン情報表示システム
JP6352797B2 (ja) 作業機械の周囲監視装置
JP6550803B2 (ja) 画像表示装置
WO2021060471A1 (ja) クレーン情報表示システム
WO2021060466A1 (ja) クレーン情報表示システム
JP6756554B2 (ja) 画像表示システム
US12030751B2 (en) Crane information display system
JP6713884B2 (ja) 俯瞰画像システム、俯瞰画像表示方法およびプログラム
JP2019218198A (ja) 操作支援システム
JP3374547B2 (ja) 遠隔操作用監視装置
JP6737369B1 (ja) クレーン
JP6737368B1 (ja) クレーン
JP2018039477A (ja) 画像表示システム
JP2018095362A (ja) クレーン
JP2019014584A (ja) クレーン車
JP2019156535A (ja) クレーン及び情報表示方法
JP2018095371A (ja) クレーン
JP2019014585A (ja) クレーン車
WO2023037936A1 (ja) 作業車両

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20869889

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021549041

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2020869889

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2020869889

Country of ref document: EP

Effective date: 20220428