JP6600545B2 - Control device, mechanical system, control method, and program - Google Patents

Control device, mechanical system, control method, and program Download PDF

Info

Publication number
JP6600545B2
JP6600545B2 JP2015240905A JP2015240905A JP6600545B2 JP 6600545 B2 JP6600545 B2 JP 6600545B2 JP 2015240905 A JP2015240905 A JP 2015240905A JP 2015240905 A JP2015240905 A JP 2015240905A JP 6600545 B2 JP6600545 B2 JP 6600545B2
Authority
JP
Japan
Prior art keywords
worker
moving
unit
faces
moving unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015240905A
Other languages
Japanese (ja)
Other versions
JP2017105595A (en
Inventor
一登 三田
俊彦 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Furukawa Co Ltd
Original Assignee
Furukawa Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Furukawa Co Ltd filed Critical Furukawa Co Ltd
Priority to JP2015240905A priority Critical patent/JP6600545B2/en
Publication of JP2017105595A publication Critical patent/JP2017105595A/en
Application granted granted Critical
Publication of JP6600545B2 publication Critical patent/JP6600545B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、制御装置、機械システム、制御方法、及び、プログラムに関する。   The present invention relates to a control device, a mechanical system, a control method, and a program.

特許文献1に関連する技術が開示されている。特許文献1には、伸縮動作、起伏動作及び旋回動作が可能なクレーンが開示されている。クレーンのオペレータは、クレーンが備える手動レバーや遠隔操作端末等を操作し、クレーンに所望の動作を行わせる。   A technique related to Patent Document 1 is disclosed. Patent Document 1 discloses a crane capable of extending, retracting, and turning. The crane operator operates a manual lever, a remote control terminal, or the like included in the crane to cause the crane to perform a desired operation.

特開2013−193825号公報JP2013-193825A

本発明者らは、上述のようなクレーンを利用した作業を検討した結果、以下のような課題を見出した。   As a result of studying work using the above-described crane, the present inventors have found the following problems.

クレーンを用いた作業の一例として、クレーンで物体を持ち上げ、当該クレーンを動作させることで当該物体を移動させ、そして、当該物体を移動後の所望の位置に配置する作業が考えられる。   As an example of the operation using the crane, an operation of lifting the object with the crane, moving the object by operating the crane, and arranging the object at a desired position after the movement can be considered.

図1に当該作業のイメージ図を示す。車両40にクレーン30が搭載されている。そして、当該クレーン30が、物体60を持ち上げている。図は、所望の配置位置付近まで物体60を移動した後、かつ、配置前の状態を示す。所望の配置位置付近には、作業員50が存在する。当該物体を所望の位置に配置するため、作業員50は、物体60を地面に下ろす前に位置の微調整を行う。   FIG. 1 shows an image diagram of the work. A crane 30 is mounted on the vehicle 40. The crane 30 lifts the object 60. The figure shows a state after the object 60 is moved to the vicinity of the desired arrangement position and before the arrangement. An operator 50 is present near the desired arrangement position. In order to place the object at a desired position, the worker 50 performs fine adjustment of the position before the object 60 is lowered to the ground.

作業員50は、例えば口頭で、物体60を所定の方向に移動させる指示をクレーン30のオペレータ(不図示)に伝える。クレーン30のオペレータは、作業員50からの指示に従いクレーン30を動作させる。これにより、物体60が所望の方向に移動する。例えばこのようにして、物体60の位置の微調整が行われる。   For example, the worker 50 verbally transmits an instruction to move the object 60 in a predetermined direction to an operator (not shown) of the crane 30. The operator of the crane 30 operates the crane 30 in accordance with instructions from the worker 50. Thereby, the object 60 moves in a desired direction. For example, in this way, fine adjustment of the position of the object 60 is performed.

このような作業においては、以下のような問題がある。作業員50は、「(自分から見て)右に移動」、「(自分から見て)左に移動」、「(自分から)遠ざける」、「(自分に)近づける」等、自分を基準にした方向(自分から見た方向)で移動方向を伝えるのが容易である。このような指示の場合、クレーン30のオペレータは、作業員50の向く方向を視認した後、視認結果と指示内容とに基づき、物体60を移動させるべき方向を解釈する必要がある。かかる場合、クレーン30のオペレータの負担が大きくなる。また、クレーン30のオペレータが、物体60を移動させる方向を誤って解釈し得る。そして、作業員50の意図する方向とは異なる方向に物体60を移動させてしまう事態が発生し得る。結果、作業効率が悪くなる。   Such work has the following problems. The worker 50 is based on himself / herself, such as “move to the right (viewed from the user)”, “move to the left (viewed from the user)”, “keep away from me”, “close to me”, etc. It is easy to tell the direction of movement in the direction (viewed from you). In the case of such an instruction, the operator of the crane 30 needs to interpret the direction in which the object 60 should be moved based on the result of the visual recognition and the content of the instruction after visually confirming the direction in which the worker 50 faces. In such a case, the burden on the operator of the crane 30 increases. Further, the operator of the crane 30 can misinterpret the direction in which the object 60 is moved. And the situation which moves the object 60 in the direction different from the direction which the worker 50 intends may generate | occur | produce. As a result, work efficiency is deteriorated.

なお、作業員50が、クレーン30のオペレータを基準にした方向(クレーン30のオペレータから見た方向)や、クレーン30を基準にした方向で、物体60を移動させる方向を伝える手段も考えられる。しかし、この場合には、作業員50の負担が大きくなる。また、作業員50が誤った方向を伝えてしまい、意図する方向とは異なる方向に移動させてしまう事態が発生し得る。結果、作業効率が悪くなる。   In addition, a means for conveying the direction in which the worker 50 moves the object 60 in a direction based on the operator of the crane 30 (a direction viewed from the operator of the crane 30) or in a direction based on the crane 30 is also conceivable. However, in this case, the burden on the worker 50 increases. In addition, a situation may occur in which the worker 50 transmits an incorrect direction and moves in a direction different from the intended direction. As a result, work efficiency is deteriorated.

同様の問題が、クレーン30以外のその他の機械装置を用いた作業においても発生し得る。   Similar problems may occur in operations using other mechanical devices other than the crane 30.

本発明は、機械装置を用いた作業の効率を向上させるための技術を提供することを課題とする。   An object of the present invention is to provide a technique for improving the efficiency of work using a mechanical device.

本発明によれば、
水平方向に移動可能な移動部を制御する制御装置であって、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析部と、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付部と、
前記画像解析部が検出した前記相対的な関係に基づき、前記指示受付部が受付けた方向を、前記移動部を基準にした方向に変換する変換部と、
前記変換部による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御部と、
を有し、
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められる制御装置が提供される。
According to the present invention,
A control device for controlling a moving unit movable in the horizontal direction,
An image analysis unit that analyzes an image including a worker and detects a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving unit that receives an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected by the image analysis unit, a conversion unit that converts the direction received by the instruction receiving unit into a direction based on the moving unit;
A control unit that outputs a control signal for moving the moving unit in a predetermined direction based on a conversion result by the converting unit;
I have a,
The moving unit is a predetermined portion of the boom that can perform an expansion / contraction operation, a hoisting operation, and a turning operation, and a control device is provided in which a direction in which the moving unit faces is determined based on an extension direction of the boom .

また、本発明によれば、上記制御装置と、伸縮動作、起伏動作及び旋回動作が可能なブームを備える機械装置と、を有する機械システムが提供される。   Moreover, according to this invention, the mechanical system which has the said control apparatus and a mechanical apparatus provided with the boom which can perform expansion-contraction operation | movement, raising / lowering operation | movement, and turning operation | movement is provided.

また、本発明によれば、
水平方向に移動可能な移動部を制御する制御装置が、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析ステップと、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付ステップと、
前記画像解析ステップで検出した前記相対的な関係に基づき、前記指示受付ステップで受付けた方向を、前記移動部を基準にした方向に変換する変換ステップと、
前記変換ステップによる変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御ステップと、
を実行し、
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められる制御方法が提供される。
Moreover, according to the present invention,
A control device that controls a moving unit that is movable in the horizontal direction,
An image analysis step of analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving step for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected in the image analysis step, a conversion step for converting the direction received in the instruction reception step into a direction based on the moving unit;
A control step of outputting a control signal for moving the moving unit in a predetermined direction based on the conversion result of the conversion step;
The execution,
The moving part is a predetermined part of the boom capable of extending / contracting, raising / lowering, and turning, and a control method is provided in which a direction in which the moving part faces is determined based on an extension direction of the boom .

また、本発明によれば、
水平方向に移動可能な移動部を制御する制御装置を、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析手段、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付手段、
前記画像解析手段が検出した前記相対的な関係に基づき、前記指示受付手段が受付けた方向を、前記移動部を基準にした方向に変換する変換手段、
前記変換手段による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御手段、
として機能させ
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められるプログラムが提供される。
Moreover, according to the present invention,
A control device that controls a moving unit that can move in the horizontal direction,
Image analysis means for analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving means for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Conversion means for converting the direction received by the instruction receiving means into a direction based on the moving unit based on the relative relationship detected by the image analysis means;
Control means for outputting a control signal for moving the moving section in a predetermined direction based on a conversion result by the conversion means;
To function as,
The moving part is a predetermined part of the boom capable of extending, retracting and turning, and a program is provided in which the direction in which the moving part is directed is determined based on the extending direction of the boom .

本発明によれば、機械装置を用いた作業の効率を向上させるための技術が実現される。   ADVANTAGE OF THE INVENTION According to this invention, the technique for improving the efficiency of the operation | work using a mechanical apparatus is implement | achieved.

クレーン30を用いた作業の一例を説明するための図である。4 is a diagram for explaining an example of work using a crane 30. FIG. 本実施形態の装置のハードウエア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the apparatus of this embodiment. 本実施形態の機械システム1の機能ブロック図の一例である。It is an example of a functional block diagram of mechanical system 1 of this embodiment. 本実施形態のクレーン30の一例を示す図である。It is a figure showing an example of crane 30 of this embodiment. 本実施形態の制御装置10の機能ブロック図の一例である。It is an example of a functional block diagram of control device 10 of this embodiment. 本実施形態のクレーン30とカメラ70との関係の一例を説明するための図である。It is a figure for demonstrating an example of the relationship between the crane 30 and the camera 70 of this embodiment. 本実施形態の画像解析部11が解析するフレーム71の一例を説明するための図である。It is a figure for demonstrating an example of the flame | frame 71 which the image analysis part 11 of this embodiment analyzes. 本実施形態の画像解析部11が解析するフレーム71の一例を説明するための図である。It is a figure for demonstrating an example of the flame | frame 71 which the image analysis part 11 of this embodiment analyzes. 本実施形態の変換部13の処理の概念を説明するための図である。It is a figure for demonstrating the concept of the process of the conversion part 13 of this embodiment. 本実施形態の変換部13の処理の概念を説明するための図である。It is a figure for demonstrating the concept of the process of the conversion part 13 of this embodiment. 本実施形態の制御部14の処理の一例を説明するための図である。It is a figure for demonstrating an example of a process of the control part 14 of this embodiment. 本実施形態の機械装置の一例を説明するための図である。It is a figure for demonstrating an example of the mechanical apparatus of this embodiment.

まず、本実施形態の装置(制御装置、移動部)のハードウエア構成の一例について説明する。図2は、本実施形態の装置のハードウエア構成を例示するブロック図である。図2に示すように、装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路には、様々なモジュールが含まれる。   First, an example of a hardware configuration of the device (control device, moving unit) of the present embodiment will be described. FIG. 2 is a block diagram illustrating a hardware configuration of the apparatus according to the present embodiment. As shown in FIG. 2, the apparatus includes a processor 1A, a memory 2A, an input / output interface 3A, a peripheral circuit 4A, and a bus 5A. The peripheral circuit includes various modules.

バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU(Central Processing Unit) やGPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、センサや遠隔操作端末等の装置と情報の送受信を行うためのインターフェイスなどを含む。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行う。   The bus 5A is a data transmission path through which the processor 1A, the memory 2A, the peripheral circuit 4A, and the input / output interface 3A transmit / receive data to / from each other. The processor 1A is an arithmetic processing device such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit). The memory 2A is a memory such as a RAM (Random Access Memory) or a ROM (Read Only Memory). The input / output interface 3A includes an interface for transmitting / receiving information to / from devices such as sensors and remote control terminals. The processor 1A issues a command to each module and performs a calculation based on the calculation result.

以下、本実施の形態について説明する。なお、以下の実施形態の説明において利用する機能ブロック図は、ハードウエア単位の構成ではなく、機能単位のブロックを示している。これらの図においては、各装置は1つの機器により実現されるよう記載されているが、その実現手段はこれに限定されない。すなわち、物理的に分かれた構成であっても、論理的に分かれた構成であっても構わない。なお、同一の構成要素には同一の符号を付し、適宜説明を省略する。   Hereinafter, this embodiment will be described. Note that the functional block diagram used in the following description of the embodiment shows functional unit blocks rather than hardware unit configurations. In these drawings, each device is described as being realized by one device, but the means for realizing it is not limited to this. That is, it may be a physically separated configuration or a logically separated configuration. In addition, the same code | symbol is attached | subjected to the same component and description is abbreviate | omitted suitably.

<実施形態>
まず、本実施形態の概要について説明する。本実施形態の機械システムは、移動部と、制御装置とを有する。
<Embodiment>
First, an outline of the present embodiment will be described. The mechanical system of the present embodiment includes a moving unit and a control device.

移動部は、水平方向の移動が可能である。移動部の移動はコンピュータにより制御される。   The moving unit can move in the horizontal direction. The movement of the moving unit is controlled by a computer.

制御装置は、移動部の移動動作を制御する。制御装置は、移動部を所定方向に移動させる指示入力をオペレータから受付ける。そして、制御装置は、オペレータから受付けた指示に従い、移動部を所定方向に移動させる。制御装置は、移動部を用いた作業の効率を向上させるため、以下のような特徴を有する。   The control device controls the moving operation of the moving unit. The control device receives an instruction input for moving the moving unit in a predetermined direction from the operator. Then, the control device moves the moving unit in a predetermined direction in accordance with an instruction received from the operator. The control device has the following characteristics in order to improve the efficiency of work using the moving unit.

(1)現場の作業員50を基準にした相対的な方向により、移動部を所定の方向に移動させる指示入力を受付ける。
「現場の作業員50を基準にした相対的な方向」は、例えば、「(作業員50から見て)右方向」、「(作業員50から見て)左方向」、「(作業員50から)遠ざける方向」、「(作業員50に)近づける方向」等が考えられるが、これらに限定されない。
(2)現場の作業員50を所定の方向から撮影した画像を解析し、現場の作業員50が向く方向と移動部が向く方向との相対的な関係を検出する。
(3)検出した上記相対的な関係に基づき、入力された「現場の作業員50を基準にした相対的な方向」を、「移動部を基準にした方向」に変換する。
(4)変換の結果に基づき、移動部を所定方向に移動させる。
(1) An instruction input for moving the moving unit in a predetermined direction is received according to a relative direction based on the worker 50 at the site.
“Relative direction with respect to the worker 50 at the site” is, for example, “right direction (viewed from the worker 50)”, “left direction (viewed from the worker 50)”, “(worker 50 "From the direction away from"), "the direction toward (from the worker 50)" can be considered, but is not limited thereto.
(2) Analyzing an image obtained by photographing the on-site worker 50 from a predetermined direction, and detecting a relative relationship between the direction in which the on-site worker 50 faces and the direction in which the moving unit faces.
(3) Based on the detected relative relationship, the input “relative direction based on the on-site worker 50” is converted to “direction based on the moving unit”.
(4) The moving unit is moved in a predetermined direction based on the conversion result.

次に、本実施形態の機械システムの構成について詳細に説明する。図3に、本実施形態の機械システム1の機能ブロック図の一例を示す。図示するように、機械システム1は、制御装置10と、移動部20とを有する。   Next, the configuration of the mechanical system of the present embodiment will be described in detail. FIG. 3 shows an example of a functional block diagram of the mechanical system 1 of the present embodiment. As illustrated, the mechanical system 1 includes a control device 10 and a moving unit 20.

移動部20は、水平方向の移動が可能である。移動部の移動はコンピュータにより制御される。移動部は、機械装置の一部又は全部である。   The moving unit 20 can move in the horizontal direction. The movement of the moving unit is controlled by a computer. The moving unit is a part or all of the mechanical device.

本実施形態の機械装置は、クレーンである。そして、クレーンのブームのトップが移動部となる。ブームの旋回動作、伸縮動作及び起伏動作を組み合わせることで、ブームのトップを水平方向に移動させることができる。結果、ブームのトップから吊り下げられたフックを介して持ち上げられている物体60を、水平方向に移動させることができる。   The mechanical device of this embodiment is a crane. And the top of the boom of a crane becomes a moving part. The top of the boom can be moved in the horizontal direction by combining the boom turning operation, the telescopic operation, and the hoisting operation. As a result, the object 60 lifted through the hook suspended from the top of the boom can be moved in the horizontal direction.

図4に、クレーン30の一例を示す。図示するように、クレーン30は、左右自在に回転する旋回体の上にコラム32を取り付けている。そして、そのコラム32にブーム34をブームフートピンと起伏シリンダ33で固定している。起伏シリンダ33の伸縮でブーム34の起伏動作を可能としている。また、ブーム34に内蔵されている伸縮シリンダ35を伸縮させることでブーム34を伸縮させることができる。   FIG. 4 shows an example of the crane 30. As shown in the drawing, the crane 30 has a column 32 mounted on a revolving body that rotates freely. A boom 34 is fixed to the column 32 with a boom foot pin and a hoisting cylinder 33. The boom 34 can be raised and lowered by extending and retracting the raising and lowering cylinder 33. Further, the boom 34 can be expanded and contracted by expanding and contracting the telescopic cylinder 35 built in the boom 34.

さらに、フック37がワイヤロープ36を用いて吊り下げられている。ブーム34のトップが支点となっている。すなわち、ブーム34のトップからフック37が吊り下げられている。巻き上げ装置でワイヤロープ36を巻き取ったり、巻き戻したりすることで、フック37の位置が上下する。   Further, the hook 37 is suspended using the wire rope 36. The top of the boom 34 is a fulcrum. That is, the hook 37 is suspended from the top of the boom 34. The position of the hook 37 moves up and down by winding or unwinding the wire rope 36 with a winding device.

このようなクレーン30の動作を、本体に設置されている手動レバー31や遠隔操作端末(不図示)等を用いて制御することができる。クレーン30は、例えば図1に示すように、トラックなどの車両40に搭載されてもよい。   The operation of the crane 30 can be controlled using a manual lever 31 or a remote operation terminal (not shown) installed on the main body. For example, as illustrated in FIG. 1, the crane 30 may be mounted on a vehicle 40 such as a truck.

次に、図5に、本実施形態の制御装置10の機能ブロック図の一例を示す。制御装置10は、移動部20の移動動作を制御する。本実施形態の制御装置10は、クレーン30のブーム34の動作(旋回動作、伸縮動作及び起伏動作)を制御する。図示するように、制御装置10は、画像解析部11と、指示受付部12と、変換部13と、制御部14とを有する。   Next, FIG. 5 shows an example of a functional block diagram of the control device 10 of the present embodiment. The control device 10 controls the moving operation of the moving unit 20. The control device 10 of the present embodiment controls the operation (swing operation, expansion / contraction operation, and hoisting operation) of the boom 34 of the crane 30. As illustrated, the control device 10 includes an image analysis unit 11, an instruction reception unit 12, a conversion unit 13, and a control unit 14.

画像解析部11は、現場の作業員50を含む画像を解析し、移動部20が向く方向と作業員50が向く方向との相対的な関係を検出する。   The image analysis unit 11 analyzes an image including the on-site worker 50 and detects a relative relationship between the direction in which the moving unit 20 faces and the direction in which the worker 50 faces.

本実施形態では、クレーン30のブーム34にカメラが取り付けられる。カメラは鉛直下方向を撮影する。このようにすれば、作業員50を上方から撮影できる。カメラは動画像を撮影してもよいし、静止画像を連続的に撮影してもよい。画像解析部11は、当該カメラが撮影した画像(フレーム)を解析する。   In this embodiment, a camera is attached to the boom 34 of the crane 30. The camera captures a vertically downward direction. In this way, the worker 50 can be photographed from above. The camera may shoot moving images or may shoot still images continuously. The image analysis unit 11 analyzes an image (frame) taken by the camera.

図6を用いて、クレーン30、カメラ70及び作業員50の関係の一例を説明する。図は、上空から地面を見下ろした様子を示す。当該図では、説明に支障のない範囲で、車両40、クレーン30及びカメラ70等を簡易的に示している。車両40に搭載されたクレーン30が、ブーム34のトップから吊り下げられたフック37(不図示)を介して物体60を持ち上げている。そして、物体60の近くで作業員50が位置調整等の作業をしている。   An example of the relationship between the crane 30, the camera 70, and the worker 50 will be described with reference to FIG. The figure shows a state where the ground is looked down from above. In the figure, the vehicle 40, the crane 30, the camera 70, and the like are simply shown within a range that does not hinder the description. A crane 30 mounted on the vehicle 40 lifts the object 60 via a hook 37 (not shown) suspended from the top of the boom 34. The worker 50 is performing work such as position adjustment near the object 60.

例えば図示するように、ブーム34のトップ(先端付近)やその近辺にカメラ70が取り付けられる。カメラ70は、姿勢調整機構を介してブーム34に取り付けるのが好ましい。姿勢調整機構は、ブーム34の状態(伸縮状態、起伏状態、旋回状態)に関わらず、カメラ70の撮影方向(光軸方向)を略鉛直下向きに保つ。姿勢調整機構は、従来技術に準じて実現できるので、ここでの説明は省略する。   For example, as shown in the figure, the camera 70 is attached to the top (near the tip) of the boom 34 or the vicinity thereof. The camera 70 is preferably attached to the boom 34 via an attitude adjustment mechanism. The posture adjustment mechanism keeps the shooting direction (optical axis direction) of the camera 70 substantially vertically downward regardless of the state of the boom 34 (expanded state, undulating state, turning state). Since the attitude adjustment mechanism can be realized according to the prior art, description thereof is omitted here.

カメラ70は、所定の向きでブーム34に取り付けられる。図では、カメラ70は、ブーム34の伸長方向を水平面に投影した方向(以下、「投影伸長方向」という)が上となるように取り付けられている。このようなカメラ70で撮影されたフレーム71の上下左右方向は、図示するようになる。ブーム34の伸長方向は、その状態(伸縮状態、起伏状態、旋回状態)からブーム34を伸長させた時にブーム34のトップが移動する方向である。   The camera 70 is attached to the boom 34 in a predetermined direction. In the figure, the camera 70 is attached so that the direction in which the extension direction of the boom 34 is projected onto the horizontal plane (hereinafter referred to as “projection extension direction”) is on the top. The vertical and horizontal directions of the frame 71 photographed by such a camera 70 are as shown in the figure. The extending direction of the boom 34 is a direction in which the top of the boom 34 moves when the boom 34 is extended from the state (expanded state, undulating state, turning state).

なお、カメラ70をブーム34に取り付ける向きは、図6を用いて説明したものに限定されない。例えば、ブーム34の投影伸長方向から水平方向にX°(0°<X°<360°)傾いた方向が上となるようにカメラ70が取り付けられてもよい。   In addition, the direction which attaches the camera 70 to the boom 34 is not limited to what was demonstrated using FIG. For example, the camera 70 may be attached so that the direction inclined by X ° (0 ° <X ° <360 °) in the horizontal direction from the projection extension direction of the boom 34 is on the upper side.

以上説明したように取り付けられるカメラ70によれば、ブーム34のトップから吊り下げられているフック37を画像に含むように撮影することができる。結果、図6のフレーム71に示すように、フック37(不図示)を介して持ち上げられている物体60や、当該物体60の近くで作業する作業員50を画像に含むように撮影することができる。   According to the camera 70 attached as described above, it is possible to take an image so that the hook 37 suspended from the top of the boom 34 is included in the image. As a result, as shown in the frame 71 of FIG. 6, it is possible to photograph the object 60 being lifted via the hook 37 (not shown) and the worker 50 working near the object 60 so as to include the image. it can.

画像解析部11は、上述のようなカメラ70が撮影した画像を解析し、「作業員50を検出する処理」、「画像内で作業員50が向く方向を検出する処理」、「画像内で作業員50が向く方向と、画像内で移動部20が向く方向との相対的な関係を検出する処理」を実行する。なお、画像解析部11は、全てのフレームに対してこれらの処理を行ってもよいし、所定フレームおきにこれらの処理を行ってもよい。以下、これらの処理を順に説明する。   The image analysis unit 11 analyzes the image captured by the camera 70 as described above, and performs “processing for detecting the worker 50”, “processing for detecting the direction in which the worker 50 faces”, “in the image” A process of detecting a relative relationship between the direction in which the worker 50 faces and the direction in which the moving unit 20 faces in the image is executed. Note that the image analysis unit 11 may perform these processes on all the frames, or may perform these processes every predetermined frame. Hereinafter, these processes will be described in order.

「作業員50を検出する処理」
画像解析部11は、予め、作業員50の外観の特徴を示す特徴量を保持しておく。そして、画像解析部11は、当該特徴量をキーとして画像を検索することで、画像から作業員50を検出する。
"Process to detect worker 50"
The image analysis unit 11 holds in advance a feature amount indicating the appearance feature of the worker 50. Then, the image analysis unit 11 detects the worker 50 from the image by searching the image using the feature amount as a key.

例えば、作業員50が被るヘルメットの所定位置(鉛直上方向から見て視認できる位置。例えば、ヘルメットの頂上付近。)に所定のマークを付しておく。そして、画像解析部11は、当該マークの特徴量をキーとして画像を検索することで、当該ヘルメットを被った作業員50を検出する。図6に示す例の場合、作業員50は、矢印マークを付されたヘルメットを被っている。なお、作業員50が着用するその他の物に所定のマークを付してもよい。また、矢印マーク以外のマークを付してもよい。   For example, a predetermined mark is attached to a predetermined position of the helmet worn by the worker 50 (a position that can be seen when viewed from the vertically upward direction, for example, near the top of the helmet). And the image analysis part 11 detects the worker 50 who covered the said helmet by searching an image using the feature-value of the said mark as a key. In the case of the example shown in FIG. 6, the worker 50 is wearing a helmet with an arrow mark. In addition, you may attach | subject a predetermined | prescribed mark to the other thing which the worker 50 wears. A mark other than the arrow mark may be attached.

「画像内で作業員50が向く方向を検出する処理」
「作業員50が向く方向」は、「作業員50の顔が向く方向」、「作業員50の顔が正対する方向」等と同義である。
“Process to detect the direction in which the worker 50 faces in the image”
“The direction in which the worker 50 faces” is synonymous with “the direction in which the face of the worker 50 faces”, “the direction in which the face of the worker 50 directly faces”, and the like.

画像解析部11は、作業員50の外観の特徴に基づき、画像内で作業員50が向く方向を検出する。   The image analysis unit 11 detects the direction in which the worker 50 faces in the image based on the appearance characteristics of the worker 50.

例えば、画像解析部11は、作業員50が被るヘルメットに付された所定のマークの向く方向に基づき、作業員50が向く方向を検出してもよい。図6に示す例の場合、矢印マークがヘルメットに付されている。当該矢印マークは、ヘルメットが正しく着用された状態において、作業員50の前方(顔が向く方向)を指し示す。当該例の場合、画像解析部11は、矢印マークが指し示す方向を、作業員50が向く方向として検出することができる。   For example, the image analysis unit 11 may detect the direction in which the worker 50 faces based on the direction in which a predetermined mark attached to the helmet worn by the worker 50 faces. In the example shown in FIG. 6, an arrow mark is attached to the helmet. The arrow mark points to the front (face facing direction) of the worker 50 in a state where the helmet is correctly worn. In the case of this example, the image analysis unit 11 can detect the direction indicated by the arrow mark as the direction in which the worker 50 faces.

画像解析部11は、当該処理の検出結果として、画像内で作業員50が向く方向を出力する。当該向く方向の表し方は設計的事項であるが、例えば、図7に示すように、フレーム71の上方向を0°、右方向を90°、下方向を180°、左方向を270°とした角度情報で表してもよい。   The image analysis unit 11 outputs a direction in which the worker 50 faces in the image as a detection result of the processing. The way of expressing the facing direction is a design matter. For example, as shown in FIG. 7, the upper direction of the frame 71 is 0 °, the right direction is 90 °, the lower direction is 180 °, and the left direction is 270 °. It may be expressed by angle information.

図7のフレーム71は、作業員50が着用するヘルメットのみを抽出した状態を示している。当該例の場合、画像解析部11は、「270°」という検出結果を出力する。   A frame 71 in FIG. 7 shows a state in which only the helmet worn by the worker 50 is extracted. In the case of this example, the image analysis unit 11 outputs a detection result “270 °”.

「画像内で作業員50が向く方向と、画像内で移動部20が向く方向との相対的な関係を検出する処理」
まず、画像内で移動部20が向く方向について説明する。「移動部20が向く方向」は、任意に定義できる。例えば、「ブーム34の投影伸長方向」を、「移動部20(ブーム34のトップ)が向く方向」と定義してもよい。その他、投影伸長方向から水平方向にY°(0°<Y°<360°)傾いた方向を、「移動部20(ブーム34のトップ)が向く方向」と定義してもよい。
“Process for detecting the relative relationship between the direction in which the worker 50 faces in the image and the direction in which the moving unit 20 faces in the image”
First, the direction in which the moving unit 20 faces in the image will be described. The “direction in which the moving unit 20 faces” can be arbitrarily defined. For example, the “projection extension direction of the boom 34” may be defined as “the direction in which the moving unit 20 (the top of the boom 34 faces)”. In addition, a direction inclined by Y ° (0 ° <Y ° <360 °) in the horizontal direction from the projection extension direction may be defined as “a direction in which the moving unit 20 (the top of the boom 34 faces)”.

上述のように、移動部20が向く方向を、ブーム34を基準にした方向で定義した場合、画像内で移動部20が向く方向は、ブーム34に取り付けられたカメラ70の向きに基づき特定できる。   As described above, when the direction in which the moving unit 20 faces is defined as the direction with reference to the boom 34, the direction in which the moving unit 20 faces in the image can be specified based on the direction of the camera 70 attached to the boom 34. .

ブーム34の投影伸長方向が上となるようにカメラ70が取り付けられている場合、図7に示すフレーム71の上方向が、画像内でのブーム34の投影伸長方向となる。ブーム34の投影伸長方向から水平方向にX°(0°<X°<360°)傾いた方向が上となるようにカメラ70が取り付けられている場合、フレーム71の上方向からX°傾いた方向が、画像内でのブーム34の投影伸長方向となる。   When the camera 70 is mounted so that the projection extension direction of the boom 34 is upward, the upward direction of the frame 71 shown in FIG. 7 is the projection extension direction of the boom 34 in the image. When the camera 70 is mounted so that the direction inclined by X ° (0 ° <X ° <360 °) in the horizontal direction from the projection extension direction of the boom 34 is upward, it is inclined by X ° from the upper direction of the frame 71. The direction is the projection extension direction of the boom 34 in the image.

このように、画像内でのブーム34の投影伸長方向は、ブーム34に取り付けられたカメラ70の向きに基づき予め特定できる。そして上述のように定義された移動部20が向く方向は、画像内で特定されたブーム34の投影伸長方向に基づき特定できる。   Thus, the projection extension direction of the boom 34 in the image can be specified in advance based on the direction of the camera 70 attached to the boom 34. The direction in which the moving unit 20 defined as described above faces can be specified based on the projection extension direction of the boom 34 specified in the image.

画像内で移動部20が向く方向は、画像内で作業員50が向く方向と同様に表すことができる。例えば図7に示すように、フレーム71の上方向を0°、右方向を90°、下方向を180°、左方向を270°とした角度情報で表すことができる。   The direction in which the moving unit 20 faces in the image can be expressed in the same manner as the direction in which the worker 50 faces in the image. For example, as shown in FIG. 7, it can be represented by angle information in which the upper direction of the frame 71 is 0 °, the right direction is 90 °, the lower direction is 180 °, and the left direction is 270 °.

画像解析部11は、予め、画像内で移動部20が向く方向を示す情報を保持している。例えば、オペレータは、ブーム34取り付けられているカメラ70の向きや、移動部20が向く方向の定義等に基づき、画像内で移動部20が向く方向(例:上述のような角度情報)を算出する。そして、オペレータは、算出結果を、画像内で移動部20が向く方向を示す情報として、画像解析部11に登録する。   The image analysis unit 11 holds in advance information indicating the direction in which the moving unit 20 faces in the image. For example, the operator calculates the direction in which the moving unit 20 faces in the image (eg, angle information as described above) based on the orientation of the camera 70 attached to the boom 34, the definition of the direction in which the moving unit 20 faces, and the like. To do. Then, the operator registers the calculation result in the image analysis unit 11 as information indicating the direction in which the moving unit 20 faces in the image.

次に、画像内で作業員50が向く方向と、画像内で移動部20が向く方向との相対的な関係を検出する処理について説明する。   Next, a process for detecting a relative relationship between the direction in which the worker 50 faces in the image and the direction in which the moving unit 20 faces in the image will be described.

画像解析部11は、画像解析により画像内で作業員50が向く方向を検出すると、「検出した作業員50が向く方向」と、予め登録されている「画像内で移動部20が向く方向」との相対的な関係を算出する。   When the image analysis unit 11 detects the direction in which the worker 50 faces in the image by image analysis, the “direction in which the detected worker 50 faces” is registered in advance as the “direction in which the moving unit 20 faces in the image”. The relative relationship with is calculated.

相対的な関係の表し方は設計的事項であるが、例えば、画像解析部11は、一方の向く方向を基準とし、そこから他方の向く方向までの変位で、相対的な関係を表してもよい。例えば、「画像内で移動部20が向く方向」を基準とし、そこから「画像内で作業員50が向く方向」までの変位により、それらの相対的な関係を示してもよい。変位は、例えば、時計回りの回転角度により表すことができるが、これに限定されない。   Although the method of expressing the relative relationship is a design matter, for example, the image analysis unit 11 may represent the relative relationship with a displacement from one direction to the other direction as a reference. Good. For example, the relative direction may be indicated by a displacement from “the direction in which the moving unit 20 faces in the image” as a reference to “the direction in which the worker 50 faces in the image”. The displacement can be expressed by, for example, a clockwise rotation angle, but is not limited thereto.

図7に示す例においては、画像内で移動部20が向く方向(フレーム71の上方向。0°。)から画像内で作業員50が向く方向(フレーム71の左方向。270°。)までの変位は、「270°」と表される。   In the example shown in FIG. 7, from the direction in which the moving unit 20 faces in the image (upward direction of the frame 71, 0 °) to the direction in which the worker 50 faces in the image (left direction of the frame 71, 270 °). This displacement is expressed as “270 °”.

同様に、図8に示す例においては、画像内で移動部20が向く方向(フレーム71の上方向。0°。)から画像内で作業員50が向く方向(フレーム71の左上方向。315°。)までの変位は、「315°」と表される。   Similarly, in the example illustrated in FIG. 8, the direction in which the worker 50 faces in the image from the direction in which the moving unit 20 faces in the image (upward direction of the frame 71 .0 °) (upper left direction of the frame 71. 315 °). .) Is expressed as “315 °”.

図5に戻り、指示受付部12は、作業員50を基準にした相対的な方向により、移動部20を所定の方向に移動させる指示入力を受付ける。   Returning to FIG. 5, the instruction receiving unit 12 receives an instruction input for moving the moving unit 20 in a predetermined direction based on a relative direction with respect to the worker 50.

「作業員50を基準にした相対的な方向」は、例えば、「(作業員50から見て)右方向」、「(作業員50から見て)左方向」、「(作業員50から)遠ざける方向」、「(作業員50に)近づける方向」等が考えられる。ここでは4つのバリエーションを示したが、その他のバリエーションが存在してもよい。また、指示入力のバリエーションの数はその他であってもよい。   “Relative direction with reference to worker 50” is, for example, “right direction (viewed from worker 50)”, “left direction (viewed from worker 50)”, “(from worker 50)”. "Direction away from", "Direction toward (to worker 50)", etc. are conceivable. Although four variations are shown here, other variations may exist. The number of instruction input variations may be other.

指示受付部12は、例えば、図4を用いて説明した手動レバー31や遠隔操作端末を介して、上述のような指示入力を受付けることができる。   For example, the instruction receiving unit 12 can receive the instruction input as described above via the manual lever 31 or the remote operation terminal described with reference to FIG.

この例の場合、複数の手動レバー31の各々や、遠隔操作端末の複数の操作対象(操作ボタン、操作レバー、タッチパネルディスプレイに表示されたアイコン等)の各々に、上記「作業員50を基準にした相対的な方向のバリエーション」の各々が対応付けられる。各手動レバー31や各操作対象を操作することで、各々に対応した方向(作業員50を基準にした相対的な方向)に移動部20を移動させる指示入力がなされる。   In the case of this example, each of the plurality of manual levers 31 and each of the plurality of operation objects (operation buttons, operation levers, icons displayed on the touch panel display, etc.) of the remote operation terminal are referred to based on the above “worker 50”. Each of the “relative direction variations” is associated with each other. By operating each manual lever 31 and each operation target, an instruction input for moving the moving unit 20 in a corresponding direction (a relative direction with respect to the worker 50) is made.

例えば、作業員50は、上記指示入力のバリエーションの表現を用いて、移動部20を移動させる方向をクレーン30のオペレータに伝える。クレーン30のオペレータは、作業員50から聞いた内容通りに、指示入力を行う。   For example, the worker 50 informs the operator of the crane 30 of the direction in which the moving unit 20 is moved using the expression of variations of the instruction input. The operator of the crane 30 inputs instructions according to the contents heard from the worker 50.

その他の例として、指示受付部12は、作業員50による指示入力を可能とする入力手段を備えてもよい。物体60の近くで作業する作業員50は、図1に示すように、両手がふさがっている可能性がある。そこで、手での操作なしで、入力を可能とする手段が好ましい。   As another example, the instruction receiving unit 12 may include an input unit that allows the operator 50 to input an instruction. As shown in FIG. 1, the worker 50 who works near the object 60 may have both hands occupied. Therefore, a means that enables input without manual operation is preferable.

例えば、指示受付部12は、作業員50が発した音声を検出するマイクや、作業員50の体を伝搬する振動(発話内容に応じて変化する振動)を検出する振動センサ等を備えてもよい。そして、指示受付部12は、これらで検出した信号を解析し、解析結果を指示入力として受付けてもよい。当該例の場合、作業員50が上記指示入力のバリエーションを発話すると、それに応じた音声や振動の信号が指示受付部12に入力される。指示受付部12は、入力された信号を解析し、解析結果(上記指示入力のバリエーションのいずれか)を指示入力として受付ける。   For example, the instruction receiving unit 12 may include a microphone that detects a voice uttered by the worker 50, a vibration sensor that detects vibrations that propagate through the body of the worker 50 (vibrations that change according to the utterance content), and the like. Good. And the instruction | indication reception part 12 may analyze the signal detected by these, and may receive an analysis result as instruction | indication input. In the case of the example, when the worker 50 speaks the instruction input variation, a voice or vibration signal corresponding thereto is input to the instruction receiving unit 12. The instruction receiving unit 12 analyzes the input signal and receives the analysis result (any one of the above-described instruction input variations) as an instruction input.

図5に戻り、変換部13は、画像解析部11が検出した相対的な関係に基づき、指示受付部12が受付けた方向(作業員50を基準にした方向)を、移動部20を基準にした方向に変換する。   Returning to FIG. 5, based on the relative relationship detected by the image analysis unit 11, the conversion unit 13 uses the direction received by the instruction receiving unit 12 (the direction based on the worker 50) as a reference and the moving unit 20 as a reference. Convert to the direction.

ここで、当該変換処理の概念を説明する。なお、変換のアルゴリズムは設計的事項である。   Here, the concept of the conversion process will be described. The conversion algorithm is a design matter.

画像解析部11が検出した相対的な関係により、図9(1)に示すような関係が得られる。図では、移動部20の向く方向と、作業員50の向く方向との相対的な関係を示している。   The relationship shown in FIG. 9A is obtained by the relative relationship detected by the image analysis unit 11. In the figure, the relative relationship between the direction in which the moving unit 20 faces and the direction in which the worker 50 faces is shown.

また、指示受付部12が受付けた「作業員50を基準にした相対的な方向(指示入力)」は、図9(2)に示すように、作業員50が向く方向を基準とした情報に変換される。図では、「作業員50を基準にした相対的な方向(指示入力)」として、「(作業員50から)遠ざける方向」、「(作業員50から見て)右方向」、「(作業員50に)近づける方向」及び「(作業員50から見て)左方向」が示されている。   The “relative direction with respect to the worker 50 (instruction input)” received by the instruction receiving unit 12 is information based on the direction in which the worker 50 faces, as shown in FIG. Converted. In the figure, as “relative direction (instruction input) with respect to the worker 50”, “(the direction away from the worker 50)”, “(to the right from the worker 50)”, “(the worker) 50 ”) and“ left direction ”(as viewed from the operator 50).

図示するように、「作業員50が向く方向」と、「(作業員50から)遠ざける方向」とが一致する。そして、「(作業員50から見て)右方向」は、「作業員50が向く方向」から時計回りに90°回転させた方向となる。「(作業員50に)近づける方向」は、「作業員50が向く方向」から時計回りに180°回転させた方向となる。「(作業員50から見て)左方向」は、「作業員50が向く方向」から時計回りに270°回転させた方向となる。   As shown in the drawing, “the direction in which the worker 50 faces” and “the direction in which the worker 50 moves away” coincide with each other. The “right direction (as viewed from the worker 50)” is a direction rotated 90 ° clockwise from the “direction in which the worker 50 faces”. The “direction approaching (to the worker 50)” is a direction rotated 180 ° clockwise from the “direction toward the worker 50”. “Left direction (as viewed from the worker 50)” is a direction rotated 270 ° clockwise from the “direction in which the worker 50 faces”.

そして、図9(3)に示すように、作業員50の向く方向を基準にすることで、指示受付部12が受付けた指示入力、すなわち作業員50を基準にした相対的な方向と、移動部20の向く方向との相対的な関係が特定される。結果、指示受付部12が受付けた指示入力を、移動部20を基準にした方向に変換できる。図9の例の場合、例えば、以下のように変換される。   Then, as shown in FIG. 9 (3), by referring to the direction in which the worker 50 faces, the instruction input received by the instruction receiving unit 12, that is, the relative direction with respect to the worker 50 and the movement A relative relationship with the direction in which the unit 20 faces is specified. As a result, the instruction input received by the instruction receiving unit 12 can be converted into a direction based on the moving unit 20. In the case of the example of FIG. 9, for example, the conversion is performed as follows.

指示入力が「(作業員50から)遠ざける方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに270°回転した方向に変換される。   When the instruction input is “a direction away from the worker 50”, the instruction input is converted into a direction rotated 270 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). The

指示入力が「(作業員50から見て)右方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)に変換される。   When the instruction input is “rightward (as viewed from the worker 50)”, the instruction input is converted into a direction (eg, projection extension direction) toward the moving unit 20.

指示入力が「(作業員50に)近づける方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに90°回転した方向に変換される。   When the instruction input is “the direction in which the worker 50 is approached”, the instruction input is converted into a direction rotated 90 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). The

指示入力が「(作業員50から見て)左方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに180°回転した方向に変換される。   When the instruction input is “leftward (as viewed from the worker 50)”, the instruction input is in a direction rotated 180 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). Converted.

図10に、他の例を示す。当該例の場合、以下のように変換される。   FIG. 10 shows another example. In the case of this example, it is converted as follows.

指示入力が「(作業員50から)遠ざける方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに315°回転した方向に変換される。   When the instruction input is “a direction away from the worker 50”, the instruction input is converted into a direction rotated 315 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). The

指示入力が「(作業員50から見て)右方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに45°回転した方向に変換される。   When the instruction input is “rightward (as viewed from the worker 50)”, the instruction input is in a direction rotated 45 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). Converted.

指示入力が「(作業員50に)近づける方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに135°回転した方向に変換される。   When the instruction input is “a direction to approach (to the worker 50)”, the instruction input is converted into a direction rotated 135 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). The

指示入力が「(作業員50から見て)左方向」である場合、当該指示入力は、移動部20の向く方向(例:投影伸長方向)から水平方向に時計回りに225°回転した方向に変換される。   When the instruction input is “leftward (as viewed from the worker 50)”, the instruction input is in a direction rotated 225 ° clockwise from the direction in which the moving unit 20 faces (eg, projection extension direction). Converted.

図5に戻り、制御部14は、変換部13による変換結果に基づき、移動部20を所定の方向に移動させる制御信号を出力する。変換部13は、移動部20(ブーム34のトップ)を基準にした移動方向(例:投影伸長方向を基準にした移動方向)を、制御部14に入力する。制御部14は、入力された移動方向に移動部20を移動させる制御信号を出力する。結果、移動部20がその移動方向に移動する。   Returning to FIG. 5, the control unit 14 outputs a control signal for moving the moving unit 20 in a predetermined direction based on the conversion result by the conversion unit 13. The conversion unit 13 inputs a moving direction (eg, a moving direction based on the projection extension direction) based on the moving unit 20 (the top of the boom 34) to the control unit 14. The control unit 14 outputs a control signal for moving the moving unit 20 in the input moving direction. As a result, the moving unit 20 moves in the moving direction.

以下、制御部14の処理例を説明するが、これに限定されない。   Hereinafter, although the process example of the control part 14 is demonstrated, it is not limited to this.

例えば、クレーン30の所定位置に設置されたセンサが、ブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φを検出する。検出された値は、制御部14に入力される。制御部14は、ブーム34のトップの位置を、ブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φを用いて所定の直交座標系で管理する。   For example, a sensor installed at a predetermined position of the crane 30 detects the length L of the boom 34, the undulation angle θ of the boom 34, and the turning angle φ of the boom 34. The detected value is input to the control unit 14. The control unit 14 manages the position of the top of the boom 34 in a predetermined orthogonal coordinate system using the length L of the boom 34, the undulation angle θ of the boom 34, and the turning angle φ of the boom 34.

図11に示すように、ブーム34のトップの座標は、ブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φを用いて表すことができる。図示する例は、図1に示すように車両40に搭載されたクレーン30において、旋回中心軸(Z軸)の直下の地面を原点(0、0、0)とし、車両40の幅方向をx軸方向、車両40の長さ方向をy軸方向、車両40の高さ方向をz軸方向とした直交座標系でブーム34のトップの座標(x、y、z)を示している。   As shown in FIG. 11, the coordinates of the top of the boom 34 can be expressed using the length L of the boom 34, the undulation angle θ of the boom 34, and the turning angle φ of the boom 34. In the illustrated example, in the crane 30 mounted on the vehicle 40 as shown in FIG. 1, the ground directly below the turning center axis (Z axis) is the origin (0, 0, 0), and the width direction of the vehicle 40 is x The top coordinates (x, y, z) of the boom 34 are shown in an orthogonal coordinate system in which the axial direction, the length direction of the vehicle 40 is the y-axis direction, and the height direction of the vehicle 40 is the z-axis direction.

図示する可変要素は値が可変な要素であり、固定要素は値が固定な要素である。予め、固定要素の値が制御部14に登録されている。なお、直交座標系の設定の仕方(原点位置、軸方向等)は設計的事項であり、ここで例示したものに限定されない。   The illustrated variable element is an element whose value is variable, and the fixed element is an element whose value is fixed. The value of the fixed element is registered in the control unit 14 in advance. Note that the method of setting the orthogonal coordinate system (the origin position, the axial direction, etc.) is a design matter, and is not limited to those exemplified here.

制御部14は、ブーム34のトップの現在の座標点(x1、y1、z1)を管理している。この点(x1、y1、z1)と、点(0、0、z1)とを結ぶベクトルを、これらの点間の距離で割ることで、投影伸長方向の単位ベクトルが求まる。   The control unit 14 manages the current coordinate point (x1, y1, z1) at the top of the boom 34. By dividing the vector connecting the point (x1, y1, z1) and the point (0, 0, z1) by the distance between these points, a unit vector in the projection extension direction can be obtained.

制御部14は、変換部13から、移動部20(ブーム34のトップ)を基準にした移動方向(例:投影伸長方向を基準にした移動方向)の入力を受付けると、上記投影伸長方向の単位ベクトルに基づき、移動方向の単位ベクトルを算出する。その後、移動方向の単位ベクトルに所定の移動量を乗じたベクトルを、現在の座標点(x1、y1、z1)に加えることで、移動後の座標点が求まる。なお、移動量は、予め制御部14に与えられていてもよい。   When the control unit 14 receives from the conversion unit 13 an input of a movement direction based on the movement unit 20 (the top of the boom 34) (eg, a movement direction based on the projection extension direction), the unit of the projection extension direction is received. A unit vector in the movement direction is calculated based on the vector. Thereafter, a vector obtained by multiplying the unit vector in the movement direction by a predetermined amount of movement is added to the current coordinate point (x1, y1, z1) to obtain the coordinate point after movement. Note that the movement amount may be given to the control unit 14 in advance.

移動後のブーム34のトップの座標点を算出した後、制御部14は、図11に示すブーム34のトップの座標と、ブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φとの関係式に基づき、ブーム34のトップを移動後の座標点に位置させるためのブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φを算出する。   After calculating the coordinate point of the top of the boom 34 after the movement, the control unit 14 determines the coordinates of the top of the boom 34 shown in FIG. Based on the relational expression with the angle φ, the length L of the boom 34 for positioning the top of the boom 34 at the coordinate point after movement, the undulation angle θ of the boom 34 and the turning angle φ of the boom 34 are calculated.

その後、制御部14は、ブーム34の長さL、ブーム34の起伏角度θ及びブーム34の旋回角度φを算出した状態にさせる制御信号を出力する。クレーン30のブーム34の状態(伸縮状態、起伏状態、旋回状態)が、制御信号で示される状態となる。   Thereafter, the control unit 14 outputs a control signal that causes the length L of the boom 34, the raising / lowering angle θ of the boom 34, and the turning angle φ of the boom 34 to be calculated. The state of the boom 34 of the crane 30 (expanded state, undulating state, turning state) is a state indicated by the control signal.

以上説明した本実施形態の制御装置10は、現場の作業員50を基準にした相対的な方向により、移動部20を所定の方向に移動させる指示入力を受付けることができる。このため、クレーン30のオペレータは、現場の作業員50を基準にした相対的な方向を、そのまま、移動部20を移動させる方向として制御装置10に入力することができる。すなわち、クレーン30のオペレータは、現場の作業員50を基準にした相対的な方向を、例えば移動部20や自分を基準にした方向に解釈し直すという面倒な作業を行う必要がない。このため、クレーン30のオペレータの負担が軽減される。また、作業員50が意図する方向と、実際に移動させる方向とが異なるという、不都合が発生し難い。このため、作業効率が向上する。   The control device 10 of the present embodiment described above can accept an instruction input for moving the moving unit 20 in a predetermined direction based on a relative direction with respect to the worker 50 at the site. For this reason, the operator of the crane 30 can input the relative direction on the basis of the worker 50 at the site as it is to the control device 10 as the direction in which the moving unit 20 is moved. That is, the operator of the crane 30 does not need to perform the troublesome work of reinterpreting the relative direction with respect to the worker 50 at the site as, for example, the direction with reference to the moving unit 20 or itself. For this reason, the burden on the operator of the crane 30 is reduced. In addition, it is difficult for the inconvenience that the direction intended by the worker 50 is different from the direction in which the worker 50 actually moves. For this reason, work efficiency improves.

また、本実施形態の制御装置10の一例によれば、現場の作業員50が自ら、移動部20を所定の方向に移動させる指示入力を行うこともできる。かかる場合、作業効率が向上するとともに、作業に関わる人員を減らすことが可能となる。   In addition, according to the example of the control device 10 of the present embodiment, the worker 50 at the site can input an instruction to move the moving unit 20 in a predetermined direction. In such a case, the work efficiency can be improved and the number of personnel involved in the work can be reduced.

<変形例>
上記実施形態では、クレーン30のトップを移動部20とした。変形例として、クレーン30からワイヤロープ36やフック37を取り外し、ブーム34のトップに所定の装置を取り付けた機械装置の一部を、移動部20としてもよい。
<Modification>
In the above embodiment, the top of the crane 30 is the moving unit 20. As a modification, a part of a mechanical device in which a wire rope 36 and a hook 37 are removed from the crane 30 and a predetermined device is attached to the top of the boom 34 may be used as the moving unit 20.

図12に、このような機械装置の一例を示す。図4のクレーン30と比較すると、ワイヤロープ36及びフック37が取り外されていることが分かる。そして、ブーム34のトップに、姿勢調整機構39を介して、装置38が取り付けられている。姿勢調整機構39は、ブーム34の状態(伸縮状態、起伏状態、旋回状態)に関わらず、装置38の姿勢を一定(鉛直上向き)に保つ。   FIG. 12 shows an example of such a mechanical device. Compared with the crane 30 of FIG. 4, it can be seen that the wire rope 36 and the hook 37 have been removed. A device 38 is attached to the top of the boom 34 via a posture adjustment mechanism 39. The posture adjustment mechanism 39 keeps the posture of the device 38 constant (vertically upward) regardless of the state of the boom 34 (expanded state, undulating state, turning state).

装置38は、例えば、被検査物に打撃を加える打撃部、及び、打撃に応じた音を収集するマイクを備える打音検査装置であってもよい。その他、マーキング、塗装、打撃等の任意の機能を備える装置であってもよい。   The device 38 may be, for example, a sound hitting inspection device including a hitting unit that hits an object to be inspected and a microphone that collects sound according to the hitting. In addition, an apparatus having an arbitrary function such as marking, painting, or striking may be used.

当該例の場合、ブーム34のトップに取り付けられた装置38を用いて、例えば、橋梁の裏等、高所の対象物に所定の処理が行われる。作業員50は、地上から装置38を見上げ、対象物と装置38との位置関係を確認しながら、装置38を所定の方向に移動させる指示入力を行う。   In the case of this example, a predetermined process is performed on an object at a high place, such as the back of a bridge, using the device 38 attached to the top of the boom 34. The worker 50 looks up at the device 38 from the ground, and inputs an instruction to move the device 38 in a predetermined direction while confirming the positional relationship between the object and the device 38.

当該変形例においても、上記実施形態と同様な作用効果を実現できる。   Also in this modification, the same effect as the above embodiment can be realized.

以下、参考形態の例を付記する。
1. 水平方向に移動可能な移動部を制御する制御装置であって、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析部と、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付部と、
前記画像解析部が検出した前記相対的な関係に基づき、前記指示受付部が受付けた方向を、前記移動部を基準にした方向に変換する変換部と、
前記変換部による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御部と、
を有する制御装置。
2. 1に記載の制御装置において、
前記画像解析部は、上方から前記作業員を含むように撮影した前記画像を解析する制御装置。
3. 2に記載の制御装置において、
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、
前記画像解析部は、前記ブームに取り付けられたカメラが前記作業員を含むように前記作業員の上方から撮影した前記画像を解析する制御装置。
4. 2又は3に記載の制御装置において、
前記画像解析部は、前記作業員が被るヘルメットに付された所定のマークを前記画像内から抽出し、前記マークの向く方向に基づき、前記作業員が向く方向を特定する制御装置。
5. 1から4のいずれかに記載の制御装置と、
伸縮動作、起伏動作及び旋回動作が可能なブームを備える機械装置と、
を有する機械システム。
6. 水平方向に移動可能な移動部を制御する制御装置が、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析ステップと、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付ステップと、
前記画像解析ステップで検出した前記相対的な関係に基づき、前記指示受付ステップで受付けた方向を、前記移動部を基準にした方向に変換する変換ステップと、
前記変換ステップによる変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御ステップと、
を実行する制御方法。
7. 水平方向に移動可能な移動部を制御する制御装置を、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析手段、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付手段、
前記画像解析手段が検出した前記相対的な関係に基づき、前記指示受付手段が受付けた方向を、前記移動部を基準にした方向に変換する変換手段、
前記変換手段による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御手段、
として機能させるプログラム。
Hereinafter, examples of the reference form will be added.
1. A control device for controlling a moving unit movable in the horizontal direction,
An image analysis unit that analyzes an image including a worker and detects a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving unit that receives an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected by the image analysis unit, a conversion unit that converts the direction received by the instruction receiving unit into a direction based on the moving unit;
A control unit that outputs a control signal for moving the moving unit in a predetermined direction based on a conversion result by the converting unit;
Control device.
2. In the control apparatus according to 1,
The said image analysis part is a control apparatus which analyzes the said image | photographed so that the said worker may be included from upper direction.
3. 2, the control device according to
The moving part is a predetermined part of the boom capable of extending / contracting, raising / lowering and turning.
The image analysis unit is a control device that analyzes the image taken from above the worker so that a camera attached to the boom includes the worker.
4). In the control device according to 2 or 3,
The image analysis unit is a control device that extracts a predetermined mark attached to a helmet worn by the worker from the image and identifies a direction in which the worker faces based on a direction in which the mark faces.
5. A control device according to any one of 1 to 4;
A mechanical device including a boom capable of extending, retracting and turning;
Having a mechanical system.
6). A control device that controls a moving unit that is movable in the horizontal direction,
An image analysis step of analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving step for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected in the image analysis step, a conversion step for converting the direction received in the instruction reception step into a direction based on the moving unit;
A control step of outputting a control signal for moving the moving unit in a predetermined direction based on the conversion result of the conversion step;
Control method to execute.
7). A control device that controls a moving unit that can move in the horizontal direction,
Image analysis means for analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving means for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Conversion means for converting the direction received by the instruction receiving means into a direction based on the moving unit based on the relative relationship detected by the image analysis means;
Control means for outputting a control signal for moving the moving section in a predetermined direction based on a conversion result by the conversion means;
Program to function as.

1A プロセッサ
2A メモリ
3A 入出力I/F
4A 周辺回路
5A バス
1 機械システム
10 制御装置
11 画像解析部
12 指示受付部
13 変換部
14 制御部
20 移動部
30 クレーン
31
32 コラム
33 起伏シリンダ
34 ブーム
35 伸縮シリンダ
36 ワイヤロープ
37 フック
38 装置
39 姿勢調整機構
40 車両
50 作業員
60 物体
70 カメラ
71 フレーム
1A processor 2A memory 3A I / O I / F
4A Peripheral circuit 5A Bus 1 Mechanical system 10 Controller 11 Image analysis unit 12 Instruction receiving unit 13 Conversion unit 14 Control unit 20 Moving unit 30 Crane 31
32 column 33 hoisting cylinder 34 boom 35 telescopic cylinder 36 wire rope 37 hook 38 device 39 attitude adjustment mechanism 40 vehicle 50 worker 60 object 70 camera 71 frame

Claims (7)

水平方向に移動可能な移動部を制御する制御装置であって、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析部と、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付部と、
前記画像解析部が検出した前記相対的な関係に基づき、前記指示受付部が受付けた方向を、前記移動部を基準にした方向に変換する変換部と、
前記変換部による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御部と、
を有し、
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められる制御装置。
A control device for controlling a moving unit movable in the horizontal direction,
An image analysis unit that analyzes an image including a worker and detects a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving unit that receives an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected by the image analysis unit, a conversion unit that converts the direction received by the instruction receiving unit into a direction based on the moving unit;
A control unit that outputs a control signal for moving the moving unit in a predetermined direction based on a conversion result by the converting unit;
I have a,
The said moving part is a predetermined part of the boom which can perform expansion-contraction operation | movement, raising / lowering operation | movement, and turning operation | movement, and the direction which the said moving part faces is determined based on the extension direction of the said boom .
請求項1に記載の制御装置において、
前記画像解析部は、上方から前記作業員を含むように撮影した前記画像を解析する制御装置。
The control device according to claim 1,
The said image analysis part is a control apparatus which analyzes the said image | photographed so that the said worker may be included from upper direction.
請求項2に記載の制御装置において
記画像解析部は、前記ブームに取り付けられたカメラが前記作業員を含むように前記作業員の上方から撮影した前記画像を解析する制御装置。
The control device according to claim 2 ,
Before Symbol image analysis unit, a control device camera attached to the boom analyzing the images taken from above the operator to include the worker.
請求項2又は3に記載の制御装置において、
前記画像解析部は、前記作業員が被るヘルメットに付された所定のマークを前記画像内から抽出し、前記マークの向く方向に基づき、前記作業員が向く方向を特定する制御装置。
The control device according to claim 2 or 3,
The image analysis unit is a control device that extracts a predetermined mark attached to a helmet worn by the worker from the image and identifies a direction in which the worker faces based on a direction in which the mark faces.
請求項1から4のいずれか1項に記載の制御装置と、
伸縮動作、起伏動作及び旋回動作が可能なブームを備える機械装置と、
を有する機械システム。
A control device according to any one of claims 1 to 4,
A mechanical device including a boom capable of extending, retracting and turning;
Having a mechanical system.
水平方向に移動可能な移動部を制御する制御装置が、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析ステップと、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付ステップと、
前記画像解析ステップで検出した前記相対的な関係に基づき、前記指示受付ステップで受付けた方向を、前記移動部を基準にした方向に変換する変換ステップと、
前記変換ステップによる変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御ステップと、
を実行し、
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められる制御方法。
A control device that controls a moving unit that is movable in the horizontal direction,
An image analysis step of analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving step for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Based on the relative relationship detected in the image analysis step, a conversion step for converting the direction received in the instruction reception step into a direction based on the moving unit;
A control step of outputting a control signal for moving the moving unit in a predetermined direction based on the conversion result of the conversion step;
The execution,
The said moving part is a predetermined part of the boom which can perform expansion-contraction operation | movement, raising / lowering operation | movement, and turning operation | movement, and the direction to which the said moving part faces is determined based on the extension direction of the said boom .
水平方向に移動可能な移動部を制御する制御装置を、
作業員を含む画像を解析し、前記移動部が向く方向と前記作業員が向く方向との相対的な関係を検出する画像解析手段、
前記作業員を基準にした相対的な方向により、前記移動部を所定の方向に移動させる指示入力を受付ける指示受付手段、
前記画像解析手段が検出した前記相対的な関係に基づき、前記指示受付手段が受付けた方向を、前記移動部を基準にした方向に変換する変換手段、
前記変換手段による変換結果に基づき、前記移動部を所定の方向に移動させる制御信号を出力する制御手段、
として機能させ
前記移動部は、伸縮動作、起伏動作及び旋回動作が可能なブームの所定部分であり、前記移動部が向く方向は前記ブームの伸長方向に基づき定められるプログラム。
A control device that controls a moving unit that can move in the horizontal direction,
Image analysis means for analyzing an image including a worker and detecting a relative relationship between a direction in which the moving unit faces and a direction in which the worker faces;
An instruction receiving means for receiving an instruction input for moving the moving unit in a predetermined direction according to a relative direction with respect to the worker;
Conversion means for converting the direction received by the instruction receiving means into a direction based on the moving unit based on the relative relationship detected by the image analysis means;
Control means for outputting a control signal for moving the moving section in a predetermined direction based on a conversion result by the conversion means;
To function as,
The moving unit is a predetermined part of a boom capable of extending / contracting, raising / lowering and turning, and a direction in which the moving unit faces is determined based on an extension direction of the boom .
JP2015240905A 2015-12-10 2015-12-10 Control device, mechanical system, control method, and program Active JP6600545B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015240905A JP6600545B2 (en) 2015-12-10 2015-12-10 Control device, mechanical system, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015240905A JP6600545B2 (en) 2015-12-10 2015-12-10 Control device, mechanical system, control method, and program

Publications (2)

Publication Number Publication Date
JP2017105595A JP2017105595A (en) 2017-06-15
JP6600545B2 true JP6600545B2 (en) 2019-10-30

Family

ID=59058891

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015240905A Active JP6600545B2 (en) 2015-12-10 2015-12-10 Control device, mechanical system, control method, and program

Country Status (1)

Country Link
JP (1) JP6600545B2 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010042880A (en) * 2008-08-11 2010-02-25 Tadano Ltd Crane operation indicator
JP2010241548A (en) * 2009-04-03 2010-10-28 Kansai Electric Power Co Inc:The Safety confirmation device of crane
JP2014043327A (en) * 2012-08-27 2014-03-13 Toyota Industries Corp Industrial vehicle

Also Published As

Publication number Publication date
JP2017105595A (en) 2017-06-15

Similar Documents

Publication Publication Date Title
JP4850984B2 (en) Action space presentation device, action space presentation method, and program
JP4725526B2 (en) Information processing apparatus, imaging apparatus, information processing system, apparatus control method, and program
US11029766B2 (en) Information processing apparatus, control method, and storage medium
US20170076491A1 (en) Operation support method, operation support program, and operation support system
JP2018183845A (en) Operation device, robot system, and operation method, for operating robot
JP2017073670A (en) Image processing apparatus, image processing method and image processing system
JP6399692B2 (en) Head mounted display, image display method and program
EP2752640B1 (en) Method and program for using gestures to control a coordinate measuring device
JP2016153335A (en) Suspended load monitoring equipment
CN109405804B (en) Operation assisting method and system
JP6483556B2 (en) Operation recognition device, operation recognition method and program
JP2013193825A (en) Crane work monitoring device
JP6402497B2 (en) Height detection device
JP2006026790A (en) Teaching model production device
CN110061755B (en) Operation assisting method and system, wearable device and engineering vehicle
JP2019209392A (en) Haptic visualization device, robot and haptic visualization program
US11392106B2 (en) Servomotor adjustment device and servomotor adjustment method
JP6600545B2 (en) Control device, mechanical system, control method, and program
US20230356405A1 (en) Robot control system, and control device
JP2015219107A (en) Camera posture detection device
US20230271317A1 (en) Operation range setting device, operation range setting method, and storage medium
JPWO2008059614A1 (en) A program that executes movement control of an object that is executed and displayed on a game device that uses a direct pointing device
JP2016078142A (en) Method for control of robot device, and robot device
WO2021060466A1 (en) Crane information display system
CN112279099A (en) Crane work assistance system and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191007

R150 Certificate of patent or registration of utility model

Ref document number: 6600545

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250