JP7468228B2 - crane - Google Patents
crane Download PDFInfo
- Publication number
- JP7468228B2 JP7468228B2 JP2020129601A JP2020129601A JP7468228B2 JP 7468228 B2 JP7468228 B2 JP 7468228B2 JP 2020129601 A JP2020129601 A JP 2020129601A JP 2020129601 A JP2020129601 A JP 2020129601A JP 7468228 B2 JP7468228 B2 JP 7468228B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- marker
- control device
- exposure time
- exposure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000003550 marker Substances 0.000 claims description 79
- 230000005540 biological transmission Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 230000032258 transport Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 13
- 238000000034 method Methods 0.000 description 9
- 230000005855 radiation Effects 0.000 description 7
- 230000007704 transition Effects 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000004804 winding Methods 0.000 description 6
- 230000007423 decrease Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000005611 electricity Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Chemical compound O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
Images
Landscapes
- Control And Safety Of Cranes (AREA)
Description
本発明は、クレーンに関する。 The present invention relates to a crane.
従来より、移動式クレーン、クローラークレーン、タワークレーン、ガントリークレーン、天井クレーン等のクレーンが知られている。クレーンは、フックに荷物を吊り下げた状態でこれを運搬可能としている。 Conventionally, cranes such as mobile cranes, crawler cranes, tower cranes, gantry cranes, and overhead cranes are known. Cranes are capable of transporting loads suspended from a hook.
ところで、トロリにカメラを備え、フック等に取り付けたマーカを撮影するクレーンが知られている(特許文献1及び特許文献2参照)。かかるクレーンは、カメラが撮影した画像に基づいてフック又は荷物の位置を検出することができる。しかし、このような技術的思想を屋外で用いられるクレーンに適用しても、太陽光等の外乱光の影響を受けることよりフック又は荷物の位置を検出できない場合があった。一方、このような外乱光の影響を受けないように、マーカが発する波長の照射光を透過させるフィルターを介して撮影した場合、マーカ以外の撮影対象物が画像に映らないため、カメラにより撮影される領域の監視画像を取得できなかった。そこで、外乱光の影響を受けずに、カメラが撮影した画像に基づいてフック又は荷物の位置を精度よく検出できるとともに、当該カメラにより撮影される領域の監視画像を取得できるクレーンが求められていた。
Incidentally, there is known a crane equipped with a camera on the trolley that photographs a marker attached to a hook or the like (see
外乱光の影響を受けずに、カメラが撮影した画像に基づいてフック又は荷物の位置を精度よく検出できるとともに、当該カメラにより撮影される領域の監視画像を取得できるクレーンを提供する。 To provide a crane that can accurately detect the position of a hook or a load based on an image captured by a camera without being affected by ambient light, and can also obtain a surveillance image of the area captured by the camera.
第一の発明は、
フックに荷物を吊り下げた状態で当該荷物を運搬するクレーンであって、
前記フック又は前記荷物に取り付けられ、所定の波長の照射光を発するマーカと、
前記マーカの照射光を透過させるフィルターと、
前記フィルターを介して前記マーカを含む画像を所定の露光時間で撮影するカメラと、
前記画像を処理する制御装置と、を具備し、
前記所定の露光時間は、
前記マーカの位置の検出に用いる画像を撮影する第1露光時間と、
前記マーカを含む領域の監視に用いる画像を撮影する、前記第1露光時間よりも長い第2露光時間と、からなり、
前記制御装置は、前記カメラによって、前記第1露光時間と前記第2露光時間とを交互に繰り返して撮影した画像を取得する、ものである。
The first invention is
A crane that transports a load with the load suspended from a hook,
A marker attached to the hook or the luggage and emitting irradiation light of a predetermined wavelength;
A filter that transmits the marker's illuminating light;
a camera that captures an image including the marker through the filter with a predetermined exposure time;
a control device for processing the image,
The predetermined exposure time is
a first exposure time for capturing an image used to detect the position of the marker;
a second exposure time longer than the first exposure time for capturing an image used to monitor an area including the marker;
The control device is configured to obtain images captured by the camera by repeatedly alternating between the first exposure time and the second exposure time.
第二の発明は、第一の発明に係るクレーンにおいて、
前記制御装置は、
前記第2露光時間で撮影された画像の撮影対象物上に基準点を設定し、
前記マーカから所定距離以上離間した位置にある前記基準点を追尾し、
前記追尾した基準点の移動量に基づいて前記第2露光時間で撮影された画像の振れ量を算出し、
前記算出した画像の振れ量に応じて当該画像の振れを補正する、ものである。
The second invention is a crane according to the first invention,
The control device includes:
setting a reference point on the object captured in the image captured with the second exposure time;
Tracking the reference point located at a position at least a predetermined distance away from the marker;
Calculating an amount of shake of the image captured with the second exposure time based on the amount of movement of the tracked reference point;
The image shake is corrected in accordance with the calculated amount of image shake.
第三の発明は、第二の発明に係るクレーンにおいて、
前記制御装置は、前記算出した画像の振れ量に応じて前記マーカの位置を補正する、ものである。
The third invention is a crane according to the second invention,
The control device corrects the position of the marker in accordance with the calculated amount of image shake.
第四の発明は、第二又は第三の発明に係るクレーンにおいて、
前記追尾した基準点は、地物上に設けられた前記基準点である、ものである。
The fourth invention is a crane according to the second or third invention,
The tracked reference point is a reference point provided on a feature on the ground.
第五の発明は、第一から第四のいずれかの発明に係るクレーンにおいて、
前記マーカは、赤外発光ダイオードを光源としており、
前記フィルターは、前記赤外発光ダイオードの照射光を透過する赤外透過フィルターである、ものである。
The fifth invention is a crane according to any one of the first to fourth inventions,
The marker uses an infrared light emitting diode as a light source,
The filter is an infrared transmission filter that transmits the light emitted from the infrared light emitting diode.
第一の発明に係るクレーンにおいて、制御装置は、カメラによって、第1露光時間と第2露光時間とを交互に繰り返して撮影した画像を取得する。かかるクレーンによれば、第1露光時間でマーカのみが映る画像が撮影され、第2露光時間でマーカ以外の荷物等が映る画像が撮影される。従って、外乱光の影響を受けずに、カメラが撮影した画像に基づいてフック又は荷物の位置を精度よく検出できるとともに、当該カメラにより撮影される領域の監視画像を取得できる。 In the crane according to the first invention, the control device acquires images captured by the camera by repeatedly alternating between a first exposure time and a second exposure time. With such a crane, an image showing only the marker is captured during the first exposure time, and an image showing luggage and other items other than the marker is captured during the second exposure time. Therefore, the position of the hook or luggage can be accurately detected based on the image captured by the camera without being affected by ambient light, and a monitoring image of the area captured by the camera can be acquired.
第二の発明に係るクレーンにおいて、制御装置は、第2露光時間で撮影された画像の撮影対象物上に基準点を設定し、マーカから所定距離以上離間した位置にある基準点を追尾する。そして、追尾した基準点の移動量に基づいて第2露光時間で撮影された画像の振れ量を算出し、算出した画像の振れ量に応じて画像の振れを補正する。かかるクレーンによれば、フックや荷物から離間した位置にある静止物体を基準として、画像の振れ量を算出可能となる。従って、静止物体に対してカメラが動くことによる画像の振れを正確に補正できる。 In the crane according to the second invention, the control device sets a reference point on the object to be photographed in the image captured with the second exposure time, and tracks the reference point located at a position at least a predetermined distance away from the marker. Then, the control device calculates the amount of shake of the image captured with the second exposure time based on the amount of movement of the tracked reference point, and corrects the image shake according to the calculated amount of image shake. With such a crane, it is possible to calculate the amount of image shake using a stationary object located at a position away from the hook or cargo as a reference. Therefore, image shake caused by camera movement relative to the stationary object can be accurately corrected.
第三の発明に係るクレーンにおいて、制御装置は、算出した画像の振れ量に応じてマーカの位置を補正する。かかるクレーンによれば、画像の振れの影響を除いたマーカの位置が検出される。従って、フック又は荷物の位置を精度よく検出できる。 In the crane according to the third invention, the control device corrects the position of the marker according to the calculated amount of image shake. With such a crane, the position of the marker is detected without the influence of image shake. Therefore, the position of the hook or the cargo can be detected with high accuracy.
第四の発明に係るクレーンにおいて、追尾する基準点は、地物上に設けられた基準点である。かかるクレーンによれば、静止物体である地物を基準として、画像の振れ量が算出される。従って、静止物体に対してカメラが動くことによる画像の振れを正確に補正できる。 In the crane according to the fourth invention, the reference point to be tracked is a reference point set on a feature. With such a crane, the amount of image blur is calculated based on the feature, which is a stationary object. Therefore, image blur caused by the camera moving relative to the stationary object can be accurately corrected.
第五の発明に係るクレーンにおいて、マーカは、赤外発光ダイオードを光源としており、フィルターは、赤外発光ダイオードの照射光を透過する赤外透過フィルターである。かかるクレーンによれば、第1露光時間での画像の撮影において、外乱光となる太陽光の影響を受けない。従って、フック又は荷物の位置を精度よく検出できる。 In the crane according to the fifth invention, the marker uses an infrared light emitting diode as a light source, and the filter is an infrared transmission filter that transmits the light emitted by the infrared light emitting diode. With such a crane, the image capture with the first exposure time is not affected by sunlight, which is an external disturbance light. Therefore, the position of the hook or the load can be detected with high accuracy.
本願に開示する技術的思想は、以下に説明する実施形態のほか、他の実施形態にも適用できる。 The technical ideas disclosed in this application can be applied to other embodiments in addition to the embodiments described below.
まず、図1を用いて、一実施形態に係るクレーン1について説明する。なお、本願においては、クレーン1を移動式クレーンとして説明するが、フックに荷物を吊り下げた状態で当該荷物を運搬する他種のクレーンに対しても適用できる。他種のクレーンは、例えばクローラークレーン、タワークレーン、ガントリークレーン、天井クレーン等である。
First, a
クレーン1は、主に走行体2と旋回体3で構成されている。
The
走行体2は、左右一対の前輪21と後輪22を備えている。また、走行体2は、荷物Lの運搬作業を行う際に接地させて安定を図るアウトリガ23を備えている。なお、走行体2は、アクチュエータによって、その上部に支持する旋回体3を旋回自在としている。
The running
旋回体3は、その後部から前方へ突き出すようにブーム31を備えている。そのため、ブーム31は、アクチュエータによって旋回自在となっている(矢印A参照)。また、ブーム31は、アクチュエータによって伸縮自在となっている(矢印B参照)。更に、ブーム31は、アクチュエータによって起伏自在となっている(矢印C参照)。
The
加えて、ブーム31には、ワイヤロープ32が架け渡されている。ブーム31の先端部分から垂下するワイヤロープ32には、フック33が取り付けられている。また、ブーム31の基端側近傍には、ウインチ34が配置されている。ウインチ34は、アクチュエータと一体的に構成されており、ワイヤロープ32の巻き入れ及び巻き出しを可能としている。そのため、フック33は、アクチュエータによって昇降自在となっている(矢印D参照)。なお、旋回体3は、ブーム31の側方にキャビン35を備えている。キャビン35の内部には、旋回レバー61や伸縮レバー62、起伏レバー63、巻回レバー64等が設けられている(図4参照)。
In addition, a
次に、図2及び図3を用いて、フック33に取り付けられるマーカ40について説明する。
Next, the
マーカ40は、所定の波長の照射光を発するものである。本実施形態において、マーカ40は、フック33の側面部分に取り付けられている。なお、マーカ40の取付位置については限定しない。従って、フック33ではなく、荷物Lに取り付けられるとしてもよい(図11参照)。
The
また、マーカ40は、上方から見て長方形状となっている。マーカ40は、その上面に複数の発光装置41が埋め込まれており、透明の樹脂材によって覆われている。そして、これら発光装置41には、マーカ40の下方に配置されたドライバ42を介して同じくマーカ40の下方に配置されたバッテリ43から電気が供給される。ドライバ42は、予め定められた条件に基づいて電気の流れを調節することができる。バッテリ43は、いわゆる一次電池であるが、ソーラーパネル等から蓄電できる二次電池であってもよい。
The
このようにして、マーカ40は、その上面(被撮影面)に発光装置41によるドット模様が描き出される。ドット模様は、例えば所定の位置に配置された九つの発光装置41で構成される。本実施形態において、発光装置41は、赤外発光ダイオードを光源としている。赤外発光ダイオードは、その照射光の波長が約940nm(「約940nm」はピーク波長が940nm±5%の範囲を意味する)となっている。なお、発光装置41の配置及び数は、特に限定するものでなく、発光装置41が映された画像に基づいてマーカ40の位置や向きが検出できるものであればよい。
In this way, a dot pattern is drawn on the upper surface (imaged surface) of the
ところで、太陽放射は、特徴あるスペクトル分布を有している(図3参照)。太陽放射は、主に約400nm以下の紫外線と約400nm~約700nmの可視光線と約700nm以上の赤外線で構成されている。太陽放射は、約500nmのときに放射側のエネルギー量を表す放射発散度が最大となっている。また、太陽放射は、約500nmから波長が短くなるにつれて急速に放射発散度が小さくなり、約500nmから波長が長くなるにつれて緩やかに放射発散度が小さくなる(図中の太線T参照)。 Solar radiation has a characteristic spectral distribution (see Figure 3). Solar radiation is mainly composed of ultraviolet rays below about 400 nm, visible light from about 400 nm to about 700 nm, and infrared rays above about 700 nm. The radiant emittance of solar radiation, which indicates the amount of energy emitted, is maximum at about 500 nm. Furthermore, the radiant emittance of solar radiation decreases rapidly as the wavelength becomes shorter from about 500 nm, and decreases more gradually as the wavelength becomes longer from about 500 nm (see the thick line T in the figure).
この点、地球は、大気に覆われていることから、地表面に届くまでにエネルギーの吸収が行われる。このため、太陽放射は、約500nmのときに被放射側のエネルギー量を表す放射照度が最大となっている。また、太陽放射は、約500nmから波長が短くなるにつれて急速に放射照度が小さくなり、約500nmから波長が長くなるにつれて緩やかに放射照度が小さくなる(図中の細線t参照)。加えて、大気によるエネルギーの吸収量は、波長に応じて増減することが知られている。これは、大気中の成分によるものである。例えば940nm±5%においては、大気中の水蒸気に起因してエネルギーの吸収量が大幅に増加する(図中のta部参照)。 Since the Earth is covered by the atmosphere, energy is absorbed before it reaches the Earth's surface. For this reason, the irradiance of solar radiation, which indicates the amount of energy on the irradiated side, is maximum at approximately 500 nm. Furthermore, the irradiance of solar radiation decreases rapidly as the wavelength becomes shorter from approximately 500 nm, and decreases gradually as the wavelength becomes longer from approximately 500 nm (see the thin line t in the figure). In addition, it is known that the amount of energy absorbed by the atmosphere increases or decreases depending on the wavelength. This is due to the components in the atmosphere. For example, at 940 nm ± 5%, the amount of energy absorbed increases significantly due to water vapor in the atmosphere (see the ta section in the figure).
即ち、主な外乱光である太陽光は、940nm±5%における放射照度が大幅に減少する。従って、波長が約940nmの赤外発光ダイオードを光源として照射光を発し、この照射光を選択的に撮影することで、撮影した画像における外乱光の影響を抑制できる。なお、照射光の波長は、約940nmに限定されず、放射照度が減少する他の波長でもよい(例えば図中のtb部、tc部参照)。 That is, sunlight, which is the main disturbance light, has a significantly reduced irradiance at 940 nm ±5%. Therefore, by emitting irradiance light using an infrared light-emitting diode with a wavelength of approximately 940 nm as a light source and selectively capturing this irradiance light, the effects of disturbance light on the captured image can be suppressed. Note that the wavelength of the irradiance light is not limited to approximately 940 nm, and other wavelengths at which the irradiance is reduced may also be used (for example, see parts tb and tc in the figure).
次に、図4及び図5を用いて、クレーン1の制御構成について説明する。
Next, the control configuration of the
クレーン1は、制御装置50を備える。制御装置50には、各種レバー61~64が接続されている。また、制御装置50には、各種バルブ71~74が接続されている。
The
上述したように、ブーム31は、アクチュエータによって旋回自在となっている(図1における矢印A参照)。本願においては、かかるアクチュエータを旋回用モーター36と定義する(図1参照)。旋回用モーター36は、方向制御弁である旋回用バルブ71によって適宜に稼動される。なお、旋回用バルブ71は、オペレータによる旋回レバー61の操作に基づいて稼動される。また、ブーム31の旋回角度や旋回速度は、図示されていないセンサによって検出される。
As described above, the
また、ブーム31は、アクチュエータによって伸縮自在となっている(図1における矢印B参照)。本願においては、かかるアクチュエータを伸縮用シリンダ37と定義する(図1参照)。伸縮用シリンダ37は、方向制御弁である伸縮用バルブ72によって適宜に稼動される。なお、伸縮用バルブ72は、オペレータによる伸縮レバー62の操作に基づいて稼動される。また、ブーム31の伸縮長さや伸縮速度は、図示されていないセンサによって検出される。
The
更に、ブーム31は、アクチュエータによって起伏自在となっている(図1における矢印C参照)。本願においては、かかるアクチュエータを起伏用シリンダ38と定義する(図1参照)。起伏用シリンダ38は、方向制御弁である起伏用バルブ73によって適宜に稼動される。なお、起伏用バルブ73は、オペレータによる起伏レバー63の操作に基づいて稼動される。また、ブーム31の起伏角度や起伏速度は、図示されていないセンサによって検出される。
The
更に、フック33は、アクチュエータによって昇降自在となっている(図1における矢印D参照)。本願においては、かかるアクチュエータを巻回用モーター39と定義する(図1参照)。巻回用モーター39は、方向制御弁である巻回用バルブ74によって適宜に稼動される。なお、巻回用バルブ74は、オペレータによる巻回レバー64の操作に基づいて稼動される。また、フック33の吊下長さや昇降速度は、図示されていないセンサによって検出される。
Furthermore, the
加えて、制御装置50には、カメラ65、傾斜計67、ディスプレイ75が接続されている。なお、カメラ65には、フィルター66が取り付けられている(図1参照)。
In addition, a
カメラ65は、クレーン1の作業現場を上方から撮影するものである。カメラ65は、マーカ40を含む画像を真上から撮影できるよう、ブーム31の先端部分に取り付けられている(図1参照)。また、カメラ65は、制御装置50に接続されている。そのため、制御装置50は、マーカ40を含む画像を取得することができる。
The
カメラ65は、ブーム31の先端部分に吊り下げられているため、クレーン1の稼働やカメラ65に向かって吹く風によって、振り子のように振動する。また、カメラ65は、ブーム31自体にも振動が発生するため、カメラ65の位置や向きが変化する。撮影時に、このようにカメラ65が動くことは、撮影される画像の振れの原因となる。なお、制御装置50は、カメラ65が撮影した画像を所定時間の間だけ保持することができる。つまり、制御装置50は、カメラ65が動いた場合でも、所定時間内にカメラ65が動きながら撮影した範囲である振動撮影範囲G0の画像を全て取得することができる(図7における振動撮影範囲G0参照)。
Since the
カメラ65は、設定された所定の露光時間で画像を撮影する。所定の露光時間は、第1露光時間と、第1露光時間よりも長い第2露光時間と、からなる。以下では、第1露光時間での露光を短時間露光と呼び、第2露光時間での露光を長時間露光と呼ぶ。カメラ65は、短時間露光と長時間露光を交互に繰り返して画像を撮影することができる。短時間露光では、マーカ40の位置の検出に用いる画像が撮影される。マーカ40の位置とは、マーカ40の地上高を含む三次元の位置である。また、長時間露光では、マーカ40を含む領域の監視に用いる画像(監視画像)が撮影される。マーカ40を含む領域とは、例えばフック33や荷物Lを含むクレーン1の作業現場の領域である。カメラ65は、例えば撮影のフレームレートが60fpsに設定される。カメラ65は、短時間露光と長時間露光を交互に繰り返した場合、それぞれのフレームレートが30fpsであり、動画として十分なフレームレートを有する。カメラ65は、例えば第1露光時間が0.1msに設定され、第2露光時間が2msに設定された場合、前述したフレームレートに対して、十分に短い時間で画像を撮影できる。これにより、カメラ65は、前述したフレームレートでリアルタイムに画像を撮影できる。なお、フレームレート、第1露光時間、第2露光時間は、前述した値に限定されるものではない。
The
フィルター66は、マーカ40の照射光を透過させるものである。フィルター66は、カメラ65がフィルター66を介して撮影できるよう、カメラ65に取り付けられている。本実施形態において、フィルター66は、赤外発光ダイオードの照射光を透過する赤外透過フィルターである。赤外透過フィルターは、透過波長が940nm帯(「940nm帯」は透過率の大小に関わらず940nm±15%(前述した大気によるエネルギーの吸収量を考慮するとより好ましくは940nm±5%)の範囲を意味する)となっている。
傾斜計67は、カメラ65の角度を検出するものである。傾斜計67は、鉛直方向に対するカメラ65の現在の姿勢角である現在姿勢角を検出できるよう、カメラ65に取り付けられている。また、傾斜計67は、制御装置50に接続されている。そのため、制御装置50は、現在姿勢角を認識することができる。
The
ディスプレイ75は、様々な画像を映し出すものである。ディスプレイ75は、オペレータが各種レバー61~64を操作しながら視認できるよう、キャビン35の内部における運転座席の前側に取り付けられている(図4参照)。また、ディスプレイ75は、制御装置50に接続されている。そのため、制御装置50は、ディスプレイ75を通じてオペレータへ情報を提供することができる。具体的には、第2露光時間でカメラ65が撮影した画像を表示範囲G1の範囲で表示することができる(図6(c)参照)。本実施形態において、表示範囲G1は、カメラ65の現在姿勢角がゼロ度とみなせる所定角度範囲未満においてカメラ65が撮影している範囲とする。
The
次に、図6から図8を用いて、クレーン1が有する機能について説明する。なお、便宜的に、図7及び図8の表示範囲G1は、紙面に向かって上方向をX方向、右方向をY方向と定義する。
Next, the functions of the
カメラ65は、短時間露光の画像を撮影することと、長時間露光の画像を撮影することを交互に繰り返す(図6(a)参照)。前述したように、マーカ40は、赤外発光ダイオードを光源としている。他方、カメラ65には、赤外発光ダイオードの照射光を透過する赤外透過フィルターが取り付けられている。このため、短時間露光では、カメラ65が撮影した画像Maは、暗闇に発光装置41によって描かれたドット模様が浮き上がったものとなる(図6(b)参照)。但し、図6(b)においては、図面の明確性を確保すべく、明度を変えたものとする。一方、長時間露光では、カメラ65が撮影した画像Mbは、940nm帯の太陽光のエネルギーが大気中の水蒸気により完全に吸収されるものではないため、荷物Lやクレーン1の作業現場が映されたものとなる(図6(c)参照)。
The
制御装置50は、カメラ65が撮影した短時間露光の画像Maを取得する。制御装置50は、短時間露光の画像Ma上のドット模様を認識し、マーカ40の位置や向きをリアルタイムに検出する。ここで、短時間露光の画像Maは、マーカ40のみが映っている。これにより、認識する対象物の数が最小化されるため、誤認識する可能性が最小化されるとともに、認識の高速化が図られている。このようにすることで、制御装置50は、マーカ40がフック33に取り付けられている場合、フック33の位置や向きをリアルタイムに精度よく検出できる。また、制御装置50は、マーカ40が荷物Lに取り付けられている場合、荷物Lの位置や向きをリアルタイムに精度よく検出できる。なお、マーカ40の位置や向きの検出は、例えばパターンマッチングを用いた画像認識技術等により実現されるが、どのような技術をもって実現するかについては限定しない。
The
同様に、制御装置50は、カメラ65が撮影した長時間露光の画像Mbを取得する。制御装置50は、荷物Lやクレーン1の作業現場が映された長時間露光の画像Mbをディスプレイ75に表示させる。このようにすることで、オペレータは、ディスプレイ75に表示された長時間露光の画像Mbから荷物Lやクレーン1の作業現場を監視することができる。
Similarly, the
前述したように、長時間露光の画像Mbは、クレーン1の作業現場が映されたものとなる。制御装置50は、クレーン1の作業現場の静止物体を用いて、前述した画像の振れを補正できる。これは、例えば以下に説明する長時間露光の画像Mbの振れを補正する技術等により実現されるが、どのような技術をもって実現するかについては限定しない。なお、マーカ40の位置は、短時間露光の画像Maに基づいてリアルタイムに検出されている。
As described above, the long-exposure image Mb shows the work site of the
まず、制御装置50は、現在撮影範囲G2における長時間露光の画像Mbをリアルタイムに取得する(図7(a)参照)。そして、制御装置50は、長時間露光の画像Mbにおける撮影対象物上に基準点Pを設定する。基準点Pとは、長時間露光の画像Mbにおける撮影対象物を追尾するための点である。これは、例えばオプティカルフロー(Optical Flow)を用いた画像認識技術等により実現されるが、どのような技術をもって実現するかについては限定しない。オプティカルフローを用いる場合、基準点Pは、いわゆる特徴点と呼ばれるものであり、長時間露光の画像Mbの撮影対象物上で特徴点が抽出(設定)される。特徴点は、公知の手法を用いて抽出(設定)することができるため、ここでは説明を省略する。
First, the
制御装置50は、現在撮影範囲G2における長時間露光の次フレームの画像Mbをリアルタイムに取得する(図7(b)参照)。本実施形態において、図7(b)の長時間露光の画像Mbは、カメラ65の振動によってカメラ65の撮影範囲が-Y方向に向けられた状態を示す。制御装置50は、設定した基準点Pを追尾し、追尾した基準点Pの移動量J1に基づいて長時間露光の画像Mbの振れ量J2を算出する。本実施形態において、制御装置50は、マーカ40から所定距離Fよりも近い位置にある基準点Pを、移動量J1の算出対象となる基準点Pから除外する。換言すると、制御装置50は、マーカ40から所定距離F以上離間した位置にある基準点Pを追尾する。所定距離Fとは、運動物体であるマーカ40上及び荷物L上に設定された基準点Pを、移動量J1の算出対象となる基準点Pから除外するためのものであり、例えばマーカ40から荷物Lの最側端までの距離よりも大きく設定される。このようにすることで、制御装置50は、地物E等の静止物体上に設けられた基準点Pの移動量J1を算出できる。静止物体上に設けられた基準点Pの移動量J1に応じて長時間露光の画像Mbの振れ量J2が変化するため、基準点Pの移動量J1が算出されることにより長時間露光の画像Mbの振れ量J2が定まる。なお、基準点Pの移動量J1は、例えば地物E上の各基準点Pの移動量J1を平均することで算出される。
The
制御装置50は、算出した長時間露光の画像Mbの振れ量J2を用いて、現在撮影範囲G2のうち表示範囲G1と一致している部分の画像を一致画像Mb1として抽出する(図6(c)参照)。本実施形態において、一致画像Mb1は、現在撮影範囲G2が表示範囲G1に対して-Y方向に振れ量J2だけずれていることに基づいて抽出される。一方、制御装置50は、所定時間前まで保持されている画像から、現在撮影範囲G2が表示範囲G1と一致していない部分の画像である不一致画像Mb2(薄墨部分)を抽出する。そして、制御装置50は、一致画像Mb1と不一致画像Mb2とを繋ぎ合わせた合成画像Mb3をディスプレイ75に表示させる。このようにすることで、制御装置50は、長時間露光の画像Mbの振れ量J2に応じて当該画像Mbの振れを補正し、視認性の高い長時間露光の画像Mbをリアルタイムに表示できる。
The
更に、制御装置50は、以下に説明するように長時間露光の画像Mbの振れ量J2に応じてマーカ40の位置を補正できる。なお、図8においても、図面の明確性を確保すべく、短時間露光の画像Maの明度を変えたものとする。
Furthermore, the
まず、制御装置50は、現在撮影範囲G2における短時間露光の画像Maをリアルタイムに取得する(図8(a)参照)。そして、制御装置50は、短時間露光の画像Ma上のドット模様を認識し、マーカ40の位置を検出する。
First, the
制御装置50は、現在撮影範囲G2における短時間露光の次フレームの画像Maをリアルタイムに取得する(図8(b)参照)。本実施形態において、図8(b)の短時間露光の画像Maは、カメラ65の振動によってカメラ65の撮影範囲が-Y方向に向けられた状態を示す。制御装置50は、短時間露光の画像Ma上のドット模様を認識し、マーカ40の位置を算出する。短時間露光の画像Maは、マーカ40以外の撮影対象物が映っておらず、地物E等の静止物体が映されない。しかし、長時間露光の画像Mbの振れ量J2がリアルタイムに算出可能であるとともに、短時間露光の画像Maにおいても長時間露光の画像Mbと同様の振れが生じていると推定される。従って、制御装置50は、長時間露光の画像Mbの振れ量J2だけマーカ40の位置を補正し、補正されたマーカ40の位置をリアルタイムに検出する。このようにすることで、制御装置50は、マーカ40がフック33に取り付けられている場合、フック33の位置を検出する精度の向上が図れる。また、マーカ40が荷物Lに取り付けられている場合、荷物Lの位置を検出する精度の向上が図れる。
The
次に、図9及び図10を用いて、制御装置50による処理の流れについて説明する。なお、制御装置50は、STEP-110から行われる短時間露光処理と、STEP-210から行われる長時間露光処理と、を交互に繰り返し行う。
Next, the flow of processing by the
まず、短時間露光処理について説明する。 First, let's explain short-time exposure processing.
ステップS110において、制御装置50は、カメラ65が撮影した短時間露光の画像Maを取得し、ステップをステップS120に移行させる。
In step S110, the
ステップS120において、制御装置50は、短時間露光の画像Maに基づいてマーカ40の位置を検出し、ステップをステップS130に移行させる。
In step S120, the
ステップS130において、制御装置50は、長時間露光の画像Mbの振れ量J2に応じてマーカ40の位置を補正し、ステップをステップS140に移行させる。
In step S130, the
ステップS140において、制御装置50は、マーカ40が取り付けられているフック33又は荷物Lの位置を出力し、短時間露光処理を終了させる。
In step S140, the
次に、長時間露光処理について説明する。 Next, we will explain long exposure processing.
ステップS210において、制御装置50は、カメラ65が撮影した長時間露光の画像Mbを取得し、ステップをステップS220に移行させる。
In step S210, the
ステップS220において、制御装置50は、長時間露光の画像Mbにおける撮影対象物上に基準点Pを設定し、ステップをステップS230に移行させる。
In step S220, the
ステップS230において、制御装置50は、マーカ40から所定距離F以上離間した位置にある基準点Pを追尾し、ステップをステップS240に移行させる。
In step S230, the
ステップS240において、制御装置50は、追尾した基準点Pの移動量J1に基づいて長時間露光の画像Mbの振れ量J2を算出し、ステップをステップS250に移行させる。
In step S240, the
ステップS250において、制御装置50は、長時間露光の画像Mbの振れ量J2に応じて当該画像Mbの振れを補正し、ステップをステップS260に移行させる。
In step S250, the
ステップS260において、制御装置50は、振れが補正された長時間露光の画像Mbを出力し、長時間露光処理を終了させる。
In step S260, the
なお、ステップS130において、直前の長時間露光処理のステップS240で算出された長時間露光の画像Mbの振れ量J2を用いて、マーカ40の位置を補正している。また、ステップS230において、直前の短時間露光処理のステップS130で補正されたマーカ40の位置を用いて、追尾する基準点Pが定められている。
In step S130, the position of the
最後に、本願に開示した技術的思想とその効果についてまとめる。 Finally, we will summarize the technical ideas and effects disclosed in this application.
即ち、クレーン1において、制御装置50は、カメラ65によって、第1露光時間と第2露光時間とを交互に繰り返して撮影した画像を取得する。かかるクレーン1によれば、第1露光時間でマーカ40のみが映る画像Maが撮影され、第2露光時間でマーカ40以外の荷物L等が映る画像Mbが撮影される。従って、外乱光の影響を受けずに、カメラ65が撮影した画像Maに基づいてフック33又は荷物Lの位置を精度よく検出できるとともに、当該カメラ65により撮影される領域の監視画像を取得できる。換言すると、単一のカメラ65により、フック33又は荷物Lの位置を精度よく検出できるとともに、カメラ65により撮影される領域の監視画像を取得できる。
That is, in the
また、クレーン1において、制御装置50は、第2露光時間で撮影された画像Maの撮影対象物上に基準点Pを設定し、マーカ40から所定距離F以上離間した位置にある基準点Pを追尾する。そして、追尾した基準点Pの移動量J1に基づいて第2露光時間で撮影された画像Mbの振れ量J2を算出し、算出した画像Mbの振れ量J2に応じて画像Mbの振れを補正する。かかるクレーン1によれば、フック33や荷物Lから離間した位置にある静止物体を基準として、画像Mbの振れ量J2を算出可能となる。従って、静止物体に対してカメラ65が動くことによる画像Mbの振れを正確に補正できる。
In addition, in the
更に、クレーン1において、制御装置50は、算出した画像Mbの振れ量J2に応じてマーカ40の位置を補正する。かかるクレーン1によれば、画像Maの振れの影響を除いたマーカ40の位置が検出される。従って、フック33又は荷物Lの位置を精度よく検出できる。
Furthermore, in the
更に、クレーン1において、追尾する基準点Pは、地物E上に設けられた基準点Pである。かかるクレーン1によれば、静止物体である地物Eを基準として、画像Mbの振れ量J2が算出される。従って、静止物体に対してカメラ65が動くことによる画像Mbの振れを正確に補正できる。
Furthermore, in the
更に、クレーン1において、マーカ40は、赤外発光ダイオードを光源としており、フィルター66は、赤外発光ダイオードの照射光を透過する赤外透過フィルターである。かかるクレーン1によれば、第1露光時間での画像Maの撮影において、外乱光となる太陽光の影響を受けない。従って、フック33又は荷物Lの位置を精度よく検出できる。
Furthermore, in the
1 クレーン
33 フック
40 マーカ
50 制御装置
65 カメラ
66 フィルター
E 地物
F 所定距離
J1 基準点の移動量
J2 画像の振れ量
Ma 画像(第1露光時間で撮影される画像)
Mb 画像(第2露光時間で撮影される画像)
L 荷物
P 基準点
1
Mb Image (image taken with the second exposure time)
L Baggage P Reference point
Claims (5)
前記フック又は前記荷物に取り付けられ、所定の波長の照射光を発するマーカと、
前記マーカの照射光を透過させるフィルターと、
前記フィルターを介して前記マーカを含む画像を所定の露光時間で撮影するカメラと、
前記画像を処理する制御装置と、を具備し、
前記所定の露光時間は、
前記マーカの位置の検出に用いる画像を撮影する第1露光時間と、
前記マーカを含む領域の監視に用いる画像を撮影する、前記第1露光時間よりも長い第2露光時間と、からなり、
前記制御装置は、前記カメラによって、前記第1露光時間と前記第2露光時間とを交互に繰り返して撮影した画像を取得する、ことを特徴とするクレーン。 A crane that transports a load with the load suspended from a hook,
A marker attached to the hook or the luggage and emitting irradiation light of a predetermined wavelength;
A filter that transmits the marker's illuminating light;
a camera that captures an image including the marker through the filter with a predetermined exposure time;
a control device for processing the image,
The predetermined exposure time is
a first exposure time for capturing an image used to detect the position of the marker;
a second exposure time longer than the first exposure time for capturing an image used to monitor an area including the marker;
The control device acquires images captured by the camera by alternately repeating the first exposure time and the second exposure time.
前記第2露光時間で撮影された画像の撮影対象物上に基準点を設定し、
前記マーカから所定距離以上離間した位置にある前記基準点を追尾し、
前記追尾した基準点の移動量に基づいて前記第2露光時間で撮影された画像の振れ量を算出し、
前記算出した画像の振れ量に応じて当該画像の振れを補正する、ことを特徴とする請求項1に記載のクレーン。 The control device includes:
setting a reference point on the object captured in the image captured with the second exposure time;
Tracking the reference point located at a position at least a predetermined distance away from the marker;
Calculating an amount of shake of the image captured with the second exposure time based on the amount of movement of the tracked reference point;
2. The crane according to claim 1, wherein the image shake is corrected in accordance with the calculated amount of image shake.
前記フィルターは、前記赤外発光ダイオードの照射光を透過する赤外透過フィルターである、ことを特徴とする請求項1から請求項4のいずれか一項に記載のクレーン。 The marker uses an infrared light emitting diode as a light source,
The crane according to any one of claims 1 to 4, characterized in that the filter is an infrared transmission filter that transmits light emitted by the infrared light emitting diode.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020129601A JP7468228B2 (en) | 2020-07-30 | 2020-07-30 | crane |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020129601A JP7468228B2 (en) | 2020-07-30 | 2020-07-30 | crane |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022026235A JP2022026235A (en) | 2022-02-10 |
JP7468228B2 true JP7468228B2 (en) | 2024-04-16 |
Family
ID=80263486
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020129601A Active JP7468228B2 (en) | 2020-07-30 | 2020-07-30 | crane |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7468228B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012226513A (en) | 2011-04-19 | 2012-11-15 | Honda Elesys Co Ltd | Detection device and detection method |
JP5227461B2 (en) | 2008-11-26 | 2013-07-03 | マイクロソフト コーポレーション | Provision of a proposal site related to the target site |
-
2020
- 2020-07-30 JP JP2020129601A patent/JP7468228B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5227461B2 (en) | 2008-11-26 | 2013-07-03 | マイクロソフト コーポレーション | Provision of a proposal site related to the target site |
JP2012226513A (en) | 2011-04-19 | 2012-11-15 | Honda Elesys Co Ltd | Detection device and detection method |
Also Published As
Publication number | Publication date |
---|---|
JP2022026235A (en) | 2022-02-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2386516B1 (en) | Trolley assembly for a crane and crane comprising said trolley assembly. | |
JP6466669B2 (en) | Work robot system and control method of work robot system | |
WO2018164273A1 (en) | Human detection system for work vehicle, and work vehicle equipped with same | |
CN110023711B (en) | Crane with a movable crane | |
JP7147248B2 (en) | crane truck | |
JP7119674B2 (en) | crane | |
CN109941885B (en) | Container number snapshot and recognition device and method based on telescopic arm | |
JP2017056904A (en) | Control system, control method and control program of unmanned flight vehicle | |
JP7468228B2 (en) | crane | |
JP2016119559A (en) | Circumference monitoring device of work machine | |
JP2015025727A (en) | Road surface imaging apparatus | |
JP2009073248A (en) | Outrigger extending amount detecting device | |
JP7343433B2 (en) | Guide display system and cranes equipped with it | |
JP7283246B2 (en) | crane | |
US20220356048A1 (en) | Crane information display system | |
JP7369654B2 (en) | Guide display system and cranes equipped with it | |
JP6202667B2 (en) | Crane lighting equipment | |
WO2020080434A1 (en) | Crane device | |
JP2018095371A (en) | Crane | |
JP2020066520A (en) | Crane vehicle | |
JP2019142679A (en) | Suspended load monitoring device | |
US20220340398A1 (en) | Crane information display system | |
WO2018043659A1 (en) | Crane vehicle | |
JP2019147685A (en) | Crane calculating length of slinging tool and method for calculating length of slinging tool | |
JP2019156533A (en) | crane |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230428 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240228 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7468228 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |