JP6106754B2 - 作業機械の周囲監視装置 - Google Patents

作業機械の周囲監視装置 Download PDF

Info

Publication number
JP6106754B2
JP6106754B2 JP2015533799A JP2015533799A JP6106754B2 JP 6106754 B2 JP6106754 B2 JP 6106754B2 JP 2015533799 A JP2015533799 A JP 2015533799A JP 2015533799 A JP2015533799 A JP 2015533799A JP 6106754 B2 JP6106754 B2 JP 6106754B2
Authority
JP
Japan
Prior art keywords
image
viewpoint
work machine
work
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015533799A
Other languages
English (en)
Other versions
JPWO2015029110A1 (ja
Inventor
石本 英史
英史 石本
守飛 太田
守飛 太田
古渡 陽一
陽一 古渡
慶仁 稲野辺
慶仁 稲野辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Publication of JPWO2015029110A1 publication Critical patent/JPWO2015029110A1/ja
Application granted granted Critical
Publication of JP6106754B2 publication Critical patent/JP6106754B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • B60K35/65
    • B60K35/81
    • G06T3/047
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Description

本発明は、油圧ショベル等からなる作業機械において、この作業機械による作業の安全確保等のために設けられる作業機械の周囲監視装置に関するものである。
作業機械の一例として、例えば油圧ショベルは下部側に走行体を有し、この走行体には、旋回装置を介して上部側の旋回体が設けられる。旋回体には土砂の掘削等の作業を行う作業手段が設けられており、作業手段は旋回体に俯仰動作可能に連結したブームと、このブームの先端に上下方向に回動可能に連結したアームとを備え、土砂の掘削等の作業を行うバケットはアタッチメントとして、アームの先端にリンク機構を介して連結されている。これらにより多関節を有するフロント作業機を構成している。
自走式の作業機械、例えば油圧ショベルにおいて、作業の安全を確保し、また操作性の向上を図るために、旋回体の周囲の状況を監視する周囲監視装置を設けたものは従来から知られている。この周囲監視装置は、旋回体にカメラを装着すると共に、運転室において、オペレータが着座する運転席の前方位置にモニタを設置することにより構成される。カメラで撮影した画像は動画状態の映像にしてモニタ画面に表示される。
ところで、カメラは旋回体に固定的に保持されており、その視野範囲は限られている。作業対象となる前方位置の視野が必要なのは当然のことながら、走行時や作業時の安全性の確保等のためには、旋回体の後方及び左右の両側方における視野も必要である、作業機械の周囲において、広い範囲の視野を得るために、旋回体に複数のカメラを装着する構成としたものは従来から用いられている。これによって、旋回体のほぼ全周にわたって死角をなくし、作業の安全確保及び作業機械の操作性の向上が図られる。
複数のカメラで取得した作業機械の周囲のカメラ画像を上方視点となるように視点変換して、モニタ画面には平面的に投影した平面視監視画像として表示するように構成したものは、特許文献1等に開示されている。この周囲監視画像を取得するために、作業機械としての油圧ショベルの周囲に複数のカメラを設置して、これら各カメラからの画像をモニタ画面に合成して表示する構成としている。カメラは油圧ショベルの後部位置と左右の両側部位置との3箇所に設置されており、これら各カメラの撮像レンズの光軸は斜め下方に向けられている。監視画像とするために、カメラにより撮影され、画像処理を行う前のカメラ画像であるスルー画像について視点変換処理される。この変換される視点は上方視点であって、これによって上方から投影した3枚の上方視点画像が得られる。
上方視点画像はモニタ画面に表示されるが、このときにモニタ画面には油圧ショベルをシンボル化したイラスト画像(具体的には油圧ショベルの平面イラスト画像)を表示し、各々のカメラで取得した上方視点画像はこのイラスト画像の周囲に配置する構成としている。より具体的には、イラスト画像をモニタ画面の中心位置に表示し、このイラスト画像の後方領域及び左右の側方領域に各上方視点画像を並べて、周囲監視用の俯瞰画像が表示されることになる。
特開2008−114814号公報
前述した俯瞰画像をモニタ画面に表示することによって、油圧ショベルを操作するオペレータは作業機械における周囲の状況を的確に把握でき、土砂を掘削して、掘削物を運搬手段としてのダンプトラックに積載する作業や、油圧ショベルの走行といった動作を行う際に、モニタ画面を視認することによって、周囲の監視を行い、作業の安全が確保される。従って、モニタ画面に表示される俯瞰画像は、作業の安全確保のために、極めて有益なものとなる。少ない数のカメラで広い監視領域を確保するために、カメラは広角レンズを装着して、各カメラは広い視野範囲を持たせる。ただし、広角レンズを用いたカメラで撮影したスルー画像は、カメラの位置に近い場所は大きく表示され、カメラの前方に向けて、また左右側方に向けて連続的に小さくなるように、概略球面状に歪んだ画像となってしまう。このために、そのまま視点変換が行われると、得られる画像は全体的に球形乃至球形に近い形状のものとなる。
以上のことから、俯瞰画像として表示すると、表示画像は距離方向及び角度方向において歪みが生じることになり、正確な像が表示されない。周囲監視は、作業機械の動作時に衝突を回避しなければならない固定及び可動の障害物体(車両や作業者等を含む)の存在を確認するためのものであるから、多少像が歪んでも、周囲監視する上で格別支障を来すものではない。
作業機械として、例えば油圧ショベルは、鉱山等の作業現場における土砂や鉱石を掘削してバケットに掘削物を収容して、旋回体を旋回させ、油圧ショベルの近傍位置に配置されているダンプトラックのベッセルに掘削物を積載する作業を繰り返し行うことになる。また、掘削箇所を変えるために、油圧ショベルを自走させて、次に掘削すべき位置に移行させることもある。
以上の作業を行うに当たっては、バケットを掘削すべき箇所に位置させるように動作制御を行い、またバケットをベッセルの上部位置に正確に位置決めすることは、作業の正確さ及び作業効率の点から極めて重要なことである。モニタ画面には油圧ショベルとその周囲の画像が表示されているので、このモニタ画面を安全確認のためだけでなく、作業効率の向上のためにも使用できることは望ましい。しかしながら、前述したように、モニタ画面には作業現場の画像が歪んだ状態に表示されていると、作業を行うオペレータにとって動作制御のうえで違和感が生じることから、作業の正確さを図る上では十分ではないという問題点がある。
本発明は以上の点に鑑みてなされたものであって、その目的とするところは、周囲の安全確認のために表示されるモニタ画面によって、作業効率を向上させるために正確かつ有効に利用できるようにすることにある。
前述した目的を達成するために、本発明は、走行体に旋回可能に設置した旋回体に作業手段が装着され、前記旋回体に設けた操作手段を操作することにより作業を行う作業機械に設けられ、前記作業機械の周囲を監視するための作業機械の周囲監視装置であって、前記旋回体に複数台設けられ、相隣接する2台が相互に視野範囲が一部重なり合うように配置した複数台のカメラと、前記各カメラで取得したカメラ画像を上方視点画像に変換する視点変換手段と、前記視点変換手段により生成した複数の上方視点画像から、前記作業機械の周囲を監視するための俯瞰画像を生成する表示画像生成手段と、前記表示画像生成手段によって生成された前記俯瞰画像を、前記作業機械を平面的に表示したイラスト画像の周囲の表示領域、当該イラスト画像とともに表示する画像表示手段と、を備え、前記画像表示手段は、前記表示領域のうち、前記作業機械の前記作業手段の最大リーチ範囲内に対応する表示領域には、第一の上方視点画像である平面視画像から構成される画像を表示し、前記最大リーチ範囲より外側に対応する表示領域には、前記第一の上方視点画像とは異なる視点で作成した第二の上方視点画像から構成される画像を表示することをその特徴とするものである。
また、前記第一の上方視点画像である平面視画像は、仮想水平面上に投影され、投影線がほぼ平行である画像であり、前記第二の上方視点画像は、前記第一の上方視点画像を生成するために設定した第一の仮想視点より視点を前記作業機械により近い位置に設定して変換した画像であることを特徴とする。そして、前記第二の上方視点画像は、周囲の状況を前記平面視画像より広い範囲にわたって表示する曲面視画像(例えば、球面化画像等)であることを特徴とする。
画像表示手段は作業機械を平面的に表示したイラスト画像が表示され、このイラスト画像の周囲に各々のカメラで取得した上方視点となるようにした平面視画像を並べて表示させることにより俯瞰画像となし、この俯瞰画像により作業機械の周囲監視が行われる。ここで、作業機械の周囲監視は、作業機械の稼働時に作業機械を構成する各部が周囲の物体と接触乃至衝突したり、作動不能状態になったりするのを防止する安全確認の観点からのものである。
この俯瞰画像は作業手段の作動の確実性や円滑性を確保し、正確で効率的な作動を確保するという作業性の観点からも利用される。作業性の観点からは、作業手段の作業対象に対する位置関係を正確に把握する必要がある。作業機械として、油圧ショベルは、フロント作業機を構成するバケットにより掘削を行い、掘削物をダンプトラック等に積載する作業を円滑かつ確実に操作するために、掘削位置とバケットとの位置関係、またバケットとダンプトラックとの位置関係を正確に認識できるように表示する。
俯瞰画像は作業機械の周囲に設けた複数台のカメラから取得した画像を視点変換して表示するものである。カメラは、好ましくは作業機械の前部と、後部及び左右の両側部の4箇所に設ける。これら各カメラの配設位置はそれぞれ作業機械の前部,後部及び左右の両側部のほぼ中間位置であって、できるだけ高所とする。また、各カメラの高さ位置はできるだけ等しいか、近い高さ位置とする。ただし、作業機械には各種の部材が様々な位置に配置されている関係から、全てを同じ高さ位置できない場合もあるが、できるだけ高さを揃えるのが望ましい。そして、各カメラの視野の方向は斜め下方向とする。
作業機械の周囲に配置した各カメラによりスルー画像を取得する。これらスルー画像は斜め下方に光軸を向けた画像である。視点変換手段は、スルー画像の視点を上方視点となるように視点変換することによって、仮想水平面上に投影され、投影線がほぼ平行となった平面視画像とする。平面視画像は画像の全体ではなく、作業手段による作業範囲に限定する。つまり、作業手段の最小リーチ位置から最大リーチ位置までの範囲とする。最大リーチより遠位置は、平面視画像ではなく、曲面視画像としても良い。曲面視画像とすることによって、有限のモニタ画面に広範な監視画像が得られる。ただし、この曲面視画像であっても、画像により障害物等の存在が認識できる程度のものとする。
このように、作業手段のリーチが及ぶ範囲を作業・監視範囲とし、その外側の監視範囲とで視点を異ならせることによって、作業効率が向上すると共に、監視範囲を広くすることができる。ここで、外側の監視範囲は作業手段による作業範囲ではないので、画像に多少の歪みがあっても、物体等の存在の有無が確認できれば良いものである。むしろ、多くの範囲を表示するのが望ましい。そこで、最大リーチ範囲の外側の画像は、作業・監視範囲とは異なる第2の視点位置を持たせるように設定する。つまり、平面視画像を生成するために設定した仮想視点を主仮想視点位置としたときに、最大リーチ範囲の外側の画像については、主視点位置より近位置側に変位させ、斜め方向から見た画像とする。
俯瞰画像は作業機械のイラスト画像の周辺に並べるようにして表示される。ここで、モニタ画面においては、イラスト画像はその中央位置に配置し、各平面視画像はその周囲にほぼ均等に割り付けることもできるが、場合によっては、イラスト画像をモニタ画面の中央より前後若しくは左右に偏った位置に配置することもできる。前部側の平面視画像の表示エリアを大きくし、後方の画像の表示範囲を狭くすることができ、また逆に後部側の平面視画像の表示エリアを広くすることもできる。フロント作業機による作業範囲をできるだけ広く表示すると、掘削作業の効率性がより高くなる。一方、後部側の平面視画像を広く表示すると、後方監視の精度が高くなる。さらに、作業の性質によっては、イラスト画像を左右いずれかに偏寄させて表示することもできる。
画像表示手段の表示により、作業機械の周囲の安全確認を可能とするだけでなく、作業効率の向上が図られる。
作業機械の一例としての油圧ショベルの外観斜視図である。 図1の側面図である。 油圧ショベルに設けられた4台のカメラによる撮影範囲を示す説明図である。 俯瞰画像の概念説明図である。 俯瞰画像をモニタ画面に表示するための各平面視画像の切り出しを示す説明図である。 俯瞰画像を生成して画像表示するためのシステムを示すブロック図である。 画像処理を行うに当っての画像の歪み補正について、補正前の画像と補正後の画像とを示す説明図である。 側方カメラのスルー画像から平面視画像に変換して切り出す範囲を示す説明図である。 カメラによる画像取得からモニタ画面に表示するための処理手順を示すフローチャート図である。 最大リーチ範囲とリーチ範囲外監視領域とで視点位置を変えるようにした時の画像の説明図である。 図4とは異なる俯瞰画像の概念説明図である。
以下、図面に基づいて本発明の実施の形態について説明する。まず、図1及び図2に作業機械の一例としての油圧ショベル1の構成を示す。図中において、2はクローラ式走行手段を有する走行体であって、走行体2には旋回体3が旋回可能に連結されている。走行手段2は履帯2aを有し、履帯2aは駆動輪2bにより駆動されるものである。
旋回体3には運転室4が設けられており、オペレータは運転室4に搭乗して機械を操作することになる。土砂の掘削等の作業を行う作業手段として、フロント作業機5が設けられている。フロント作業機5は運転室4の右手において、ほぼ並ぶような位置に設けられる。さらに、旋回体3には、運転室4及びフロント作業機5の後方位置に建屋6等が設けられており、最後端部にはカウンタウエイト7が設置されている。
フロント作業機5は、図示したものにあっては、ブーム10,アーム11及びアタッチメントとしてのバケット12から構成される掘削作業手段である。ブーム10は、その基端部が旋回体3に連結ピンにより軸支されて俯仰動作可能となっている。ブーム10の先端にはアーム11が上下方向に回動可能に連結されており、アーム11の先端にはバケット12が回動可能に連結されている。ブーム10の俯仰動作はブームシリンダ10aを駆動することにより行われる。アーム11はアームシリンダ11aにより、さらにバケット12はバケットシリンダ12aにより駆動される。
油圧ショベル1には、その旋回体2の周囲を監視するために、動画撮影が可能なビデオカメラが装着されている。図1において、13Fは前方カメラ、13Bは後方カメラ,13L,13Rは左右の側方カメラである。これらのカメラ13F,13B,13L,13Rにより油圧ショベル1の周囲が監視される。各カメラ13F,13B,13L,13Rによる撮影範囲を図3に示す。これらカメラの映像は、左右の側方カメラ13L及び13Rの映像E1,E2と前方カメラ13Fの映像E3が、また左右の側方カメラ13L及び13Rの映像E1,E2と後方カメラ13Bの映像E4がそれぞれ部分的に重なり合っている。
ここで、運転室4の内部には、後述するように、モニタ装置20が設置されており、前述した各カメラ13B,13L,13Rから取得した画像はこのモニタ装置20のモニタ画面20aに動画状態にして表示されることになる。ただし、これら各カメラ13B,13R,13Lで取得したカメラ画像はスルー画像としてそのまま表示されるのではなく、上方視点となるように視点変換された仮想視点画像として表示される。
例えば、後方カメラ13Bを例に取ると、図2に示したように、旋回体3の後方に対して角度θをもった斜め下方に対物レンズの光軸を向けている。このときに、油圧ショベルの走行体2の接地面をLとしたときに、この接地面Lに対して角度θを持ったカメラ画像が得られている。この接地面Lを仮想水平面とした仮想視点VPの光軸が垂直になるように投影した概略水平面上に投影され、投影線VAが図2に矢印で示したように、ほぼ平行にシフトした平面視画像となる。従って、各カメラ13F,13B,13L,13Rにより取得したスルー画像を仮想視点VFとなるように視点変換される。
これらカメラ13F,13B,13L,13Rで撮影することにより生成した平面視画像FV,BV,LV及びVRは、図4にあるように、点線に沿って必要分が切り出されて、切り出し画像e1,e2,e3,e4となし、これらの切り出し画像がモニタ装置20を構成するモニタ画面20aに表示される。ここで、図5にあるように、モニタ画面21の中央に作業の対象となる作業機械としての油圧ショベル1が平面状態にしてシンボル化したイラスト画像Gが表示されており、その周囲の平面視画像FV,BV,LV及びRVは、イラスト画像Gの周囲に並べて配置されて、油圧ショベル1を中心とした周囲の俯瞰画像が表示される。ここで、モニタ画面20aに実際に表示されるのは、平面視画像FV,BV,LV,RVのうちの切り出し画像e1,e2,e3,e4である。また、図5には作業員Pが存在していることが示されている。ここで、俯瞰画像は4箇所で撮影したスルー画像から視点変換したものであることから、油圧ショベル1の周辺に作業者が立った状態に位置していても、地面上に押し潰されたように見えることになる。
モニタ画面20aに表示されているのは、高所から見下ろすようにして表示されている油圧ショベル1と、その周囲における平面視画像であるから、このモニタ画面20aを見ることによって、油圧ショベル1を取り巻く周囲状況を的確に把握できる。ここで、図5の作業員Pといった高さ寸法を有する像は押し潰された形となるものの、殆ど凹凸が存在しない平面状となった掘削現場の地面についてはほぼ正確な平面画像となる。
油圧ショベル1による代表的な作業としては、作業手段で地面を掘削して、バケット12に掘削物を収容させて、ダンプトラック等の運搬機械に積載させる操作があり、この操作は繰り返し行われる。このために、フロント作業機5を構成する各部の作動と、旋回体3の旋回動作が行われる。また、油圧ショベル1による作業位置を変える等のために、走行体2を駆動して、この油圧ショベル1を走行させることもある。
以上の操作時には、オペレータによる操作でバケット12の動作等が制御されるが、油圧ショベル1とその周囲を平面状態にしてモニタ画面20aに表示することは、掘削して、ダンプトラックに掘削物を積載するという操作を安全に、迅速かつ正確に行うのに有利である。
図6にモニタ装置20とその制御装置を構成する監表示コントローラ21のブロック構成を示す。表示コントローラ21は、上方視点画像作成部22,俯瞰画像生成部23及びパラメータ記憶部24を有するものであって、カメラ13F,13B,13L,13Rは上方視点画像作成部22に接続されている。各カメラ13F,13B,13L,13Rでの撮影により取得した複数のスルー画像は、上方視点画像作成部22により上方視点となるように視点変換された上方視点画像、つまり平面視画像FV,BV,LV,RVが生成される。
この画像処理のために、表示コントローラ21は、CPU,RAM,ROM,入出力インターフェイス等の画像処理に必要な画像処理LSIを備えており、カメラ13F,13B,13L,13Rから入力された各スルー画像が画像メモリに取り込まれて、レンズの歪み補正等を行ったうえで、ホモグラフィ行列による平面射影変換処理や三次元空間での投影処理等といった公知の画像変換処理が行われる。
以上の処理により生成した画像信号は、例えば30フレーム/秒のフレーム画像とした4つの画像からなる平面視画像であって、これら平面視画像からなるフレーム画像はNTSC等のコンポジット信号としてフレームメモリに記憶される。ここで生成した画像は図4に示した4枚のフレーム画像であり、地面を仮想平面とした平面視画像である。俯瞰画像作成部23では、これらの平面視画像は油圧ショベル1のイラスト画像Gを中心として、その周囲に配置されることになる。しかも、各平面視画像は相互に重なり合わないように切り出して、境界線を境とした図4の切り出し画像e1,e2,e3,e4として表示される。
カメラ13F,13B,13L,13Rは広角レンズを使用しているので、撮影されたときのスルー画像rpを模式的に示すと、図7(a)に示したようになる。同図において、格子線で座標軸h,vを示すと、球形に膨らんだ状態に歪んだ状態となる。レンズの歪み補正は、図7(a)の画像を補正して、同図(b)に示した画像RPというように、直線的な格子状の座標軸H,Vとなるように補正するものである。このレンズ補正処理は、例えば画像メモリに保存されている画像データにおける各画素のアドレスを変換前と変換後とで対応関係を持たせるようにした画素変換テーブルを用いる等、一般的な座標変換により行われる。
さらに、パラメータ記憶部24は、油圧ショベル1の各部に関するデータやカメラ13F,13B,13L,13Rの位置や視野範囲のデータ等が記憶されており、モニタ画面20aにおける各平面視画像FV,BV,LV,RV及びイラスト画像Gの表示位置に関するデータ等についても、このパラメータ記憶部24に設定されている。従って、俯瞰画像作成部23により作成された平面視画像FV,BV,LV,RVからなる画像データはパラメータ記憶部23からの出力によって、モニタ画面20aの各所定位置に表示されることになる。そして、パラメータ記憶部24に記憶されている各種パラメータは設定端末25により設定及び変更することができるようになっている。
モニタ画面20aに表示する平面視画像FV,BV,LV,RVは、図8に示したようにして生成する。同図においては、右側における平面視画像RVを例にとって説明するが、4つの平面視画像FV,BV,LV,RVは全て同じ手法で作成される。作業機械としての油圧ショベル1は、旋回体3が360度旋回可能となっている。そして、各カメラで撮影したスルー画像は、それぞれほぼ180度の視野角を持っている。
図8においては、モニタ画面20aに表示される平面視画像RVは、点線で示したように、90度の角度範囲に設定したとする。モニタ画面20aは、監視画面として使用されるので、フロント作業機5の最大リーチ範囲Mmax(同図に点線で示した円の内側)になっても、バケット12の先端が画像に表示されなければならない。最大リーチ範囲Mmaxは、フロント作業機5を最も伸ばした状態でのバケット12が届く位置であり、上部旋回体3が旋回するこから、旋回時における移動軌跡範囲はWAとなる。
監視画像としては、最大リーチ範囲Mmaxより広い範囲の画像を表示するのが望ましい。油圧ショベル1の作業時には、フロント作業機5は最大リーチ範囲Mmaxを越えた位置まで突出することはないが、作業を行っている現場には、作業員やダンプトラックやサービスカー等の車両からなる可動体が立ち入ることがある。これらの可動体が最大リーチ範囲Mmaxの外から内部に入り込むように移動する可能性がある。このために、最大リーチ範囲Mmaxの外側であっても、近い位置に可動物が位置していると、オペレータは予めそれを認識しておくことが必要となる。そこで、リーチ範囲外監視領域exBUを設定し、このリーチ範囲外監視領域exBUも画像に含めるようにする。
最大リーチ範囲Mmaxは周囲の安全監視という点から設定されるが、さらにフロント作業機5による作業の作業性を向上させるものとしても利用される。即ち、フロント作業機5による掘削作業時に、バケット12をどの位置まで伸ばすことが必要か、掘削物をダンプトラックに積載する作業を正確に行うには、旋回体3をどの程度まで旋回させるか、この旋回角位置でバケット12をどの位置に位置させるかをオペレータに認識させる上で、モニタ画面20aの表示は極めて重要な役割を発揮する。
平面射影変換処理を含めた画像処理は、前述した作業性のために必要な画像を生成するためのものである。図8の平面視画像RVにおいては、少なくとも移動軌跡範囲WA内では、均等な桝目(H,V)で示したように、上方視点において、水平面上に投影された投影線がほぼ平行となるように画像処理がなされている。従って、油圧ショベル1を操作するオペレータは、バケット12の動き制御をモニタ画面20a上において違和感なく円滑に操作することができるようになる。
次に、モニタ装置20におけるモニタ画面20aに油圧ショベル1の監視画面の表示のための手順を図9に基づいて説明する。モニタ装置20は運転室4内で、運転席に着座するオペレータが操作する間に見易い位置に配置されている。油圧ショベル1が起動すると、モニタ画面20aに俯瞰画像が表示される。ここで、モニタ画面20aの画像表示は、油圧ショベル1の起動時に自動的に行われるように設定することができ、またスイッチ操作で表示が開始するようにしても良い。
監視装置の作動が開始すると、4台設けられているカメラ13F,13B,13L,13Rによる撮影が開始される(ステップS100)。これら各カメラ13F,13B,13L,13Rの画像は画像処理装置を構成する表示コントローラ21に取り込まれて、この表示コントローラ21の上方視点画像作成部22で平面視画像FV,BV,LV,RVが生成され(ステップS102)、パラメータ記憶部23からの出力によって(ステップ104)、モニタ画面20aに表示するのに適した範囲の切り出し画像が調整される(ステップS10108)。次いで、俯瞰画像作成部23で平面視画像FV,BV,LV,RVの切り出し画像e1,e2,e3,e4とイラスト画像Gとにより俯瞰画像の作成が行われる(ステップS110)。このようにして作成された俯瞰画像はモニタ20aに動画状態で表示され、油圧ショベル1が旋回し、またフロント作業機5が駆動されると、その状況がモニタ画面20aに反映される(ステップS112)。この表示は油圧ショベル1のエンジンが停止するまで継続し、エンジンが停止すると、モニタ画面20aの表示も停止する(ステップS114)。なお、このモニタ画面20aへの画像の表示は、オペレータによるモニタ装置20へのスイッチ操作によっても停止できるようにしても良い。
ところで、油圧ショベル1の走行体2の位置を固定して、フロント作業機5が最大リーチ状態として旋回体3を旋回させたときの移動軌跡範囲WAが図8に示されている。オペレータによる作業のためには、平面視画像FV,BV,LV,RVはできるだけ大きく表示するのが望ましい。ただし、モニタ画面20aにおける画像表示範囲は限定されたものである。そして、前述した移動軌跡範囲WAは360度にわたって表示されていなければならないが、安全確認のためには、ある程度の範囲においてリーチ範囲外監視領域exBUも表示する必要がある。
以上のことから、図10に示したように、最大リーチ範囲Mmaxの内部では平面投影領域とした平面視画像として表示するようにしている。これによって、フロント作業機5を操作して行う掘削及び掘削物のダンプトラックへの積載等といった作業を円滑かつ正確に行うことができる。しかも、リーチ範囲外監視領域exBUの範囲では、多少画像に歪みがあるにしろ、周囲の状況を広い範囲にわたって表示できるように、凹状の曲面投影領域としている。
これによって、図11に示したように、モニタ画面20aには、フロント作業機5の最大リーチ範囲Mmax内の移動軌跡範囲WAを周囲の安全確認を行うことを可能とし、かつ正確かつ効率的な作業を可能にするための作業・監視範囲とし、その外側において、リーチ範囲外監視領域exBUの広い領域を圧縮して表示する監視範囲とが表示される。
さらに、モニタ画面20aに表示される監視画像は、イラスト画像Gの周囲に平面視画像FV,BV,LV,RVを配置するように表示されるが、このイラスト画像Gは必ずしもモニタ画面20aの中心に配置しなければならないものではない。作業によっては、前方の画像の画像を広く表示し、後方の画像は狭い表示領域とする方が望ましい場合もある。このような場合には、設定端末25を操作して、イラスト画像Gの表示位置を変えることができる。
1 走行体 3 旋回体
4 運転室 5 フロント作業機
10 ブーム 11 アーム
12 バケット 13B 後方カメラ
13L 左方カメラ 13R 右方カメラ
13F 前方カメラ 20 モニタ装置
20a モニタ画面 21 表示コントローラ
22 上方視点画像作成部 23 俯瞰画像作成部
24 パラメータ記憶部 25 設定端末
FV,BV,LV,RV 平面視画像
G イラスト画像
Mmax 最大リーチ範囲
exBU リーチ範囲外監視領域
WA 移動軌跡範囲

Claims (3)

  1. 走行体に旋回可能に設置した旋回体に作業手段が装着され、前記旋回体に設けた操作手段を操作することにより作業を行う作業機械に設けられ、前記作業機械の周囲を監視するための作業機械の周囲監視装置であって、
    前記旋回体に複数台設けられ、相隣接する2台が相互に視野範囲が一部重なり合うように配置した複数台のカメラと、
    前記各カメラで取得したカメラ画像を上方視点画像に変換する視点変換手段と、
    前記視点変換手段により生成した複数の上方視点画像から、前記作業機械の周囲を監視するための俯瞰画像を生成する表示画像生成手段と、
    前記表示画像生成手段によって生成された前記俯瞰画像を、前記作業機械を平面的に表示したイラスト画像の周囲の表示領域、当該イラスト画像とともに表示する画像表示手段と、を備え、
    前記画像表示手段は、前記表示領域のうち、前記作業機械の前記作業手段の最大リーチ範囲内に対応する表示領域には、第一の上方視点画像である平面視画像から構成される画像を表示し、前記最大リーチ範囲より外側に対応する表示領域には、前記第一の上方視点画像とは異なる視点で作成した第二の上方視点画像から構成される画像を表示すること
    を特徴とする作業機械の周囲監視装置。
  2. 前記第一の上方視点画像である平面視画像は、仮想水平面上に投影され、投影線がほぼ平行である画像であり、
    前記第二の上方視点画像は、前記第一の上方視点画像を生成するために設定した第一の仮想視点より視点を前記作業機械により近い位置に設定して変換した画像であること
    を特徴とする請求項1記載の作業機械の周囲監視装置。
  3. 前記第二の上方視点画像は、周囲の状況を前記平面視画像より広い範囲にわたって表示する曲面視画像であること
    を特徴とする請求項1または2記載の作業機械の周囲監視装置。
JP2015533799A 2013-08-26 2013-08-26 作業機械の周囲監視装置 Active JP6106754B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/072731 WO2015029110A1 (ja) 2013-08-26 2013-08-26 作業機械の周囲監視装置

Publications (2)

Publication Number Publication Date
JPWO2015029110A1 JPWO2015029110A1 (ja) 2017-03-02
JP6106754B2 true JP6106754B2 (ja) 2017-04-05

Family

ID=52585731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015533799A Active JP6106754B2 (ja) 2013-08-26 2013-08-26 作業機械の周囲監視装置

Country Status (5)

Country Link
US (1) US20160024758A1 (ja)
EP (1) EP3041227A4 (ja)
JP (1) JP6106754B2 (ja)
CN (1) CN105009572B (ja)
WO (1) WO2015029110A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2015125979A1 (ja) 2015-04-28 2018-02-15 株式会社小松製作所 作業機械の周辺監視装置及び作業機械の周辺監視方法
JP6589468B2 (ja) * 2015-09-01 2019-10-16 株式会社タダノ 移動式クレーンの周囲表示装置
TW201721314A (zh) * 2015-12-01 2017-06-16 佳霖科技股份有限公司 機台監控聯鎖系統
DE202017103443U1 (de) * 2017-06-08 2018-09-11 Liebherr-Werk Bischofshofen Gmbh Arbeitsmaschine
WO2019026802A1 (ja) * 2017-07-31 2019-02-07 住友重機械工業株式会社 ショベル
CN107656544B (zh) * 2017-11-10 2020-10-23 广东工业大学 一种无人机控制的方法及系统
JP7206658B2 (ja) * 2018-07-12 2023-01-18 コベルコ建機株式会社 旋回式作業機械の安全装置
EP3832034B1 (en) * 2018-07-31 2023-08-23 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. Excavator
CN113491110A (zh) 2019-02-28 2021-10-08 住友重机械工业株式会社 显示装置、挖土机、信息处理装置
DE102019116759A1 (de) * 2019-06-21 2020-12-24 Tadano Demag Gmbh Verfahren zum Betrieb eines Fahrzeugkrans
JP7269853B2 (ja) * 2019-09-30 2023-05-09 日立建機株式会社 作業機械

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002083285A (ja) * 2000-07-07 2002-03-22 Matsushita Electric Ind Co Ltd 画像合成装置および画像合成方法
JP2008114814A (ja) * 2006-11-07 2008-05-22 Sumitomo (Shi) Construction Machinery Manufacturing Co Ltd 建設機械のビデオカメラ切替装置
JP4927512B2 (ja) * 2006-12-05 2012-05-09 株式会社日立製作所 画像生成装置
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
JP5269026B2 (ja) * 2010-09-29 2013-08-21 日立建機株式会社 作業機械の周囲監視装置
US9113047B2 (en) * 2010-10-22 2015-08-18 Hitachi Construction Machinery Co., Ltd. Peripheral monitoring device for working machine
JP2012147149A (ja) * 2011-01-11 2012-08-02 Aisin Seiki Co Ltd 画像生成装置
EP2708663A4 (en) * 2011-05-13 2014-12-24 Hitachi Construction Machinery DEVICE FOR DISPLAYING THE REAR FIELD OF A HYDRAULIC EXCAVATOR
JP5124671B2 (ja) * 2011-06-07 2013-01-23 株式会社小松製作所 作業車両の周辺監視装置
JP5750344B2 (ja) * 2011-09-16 2015-07-22 日立建機株式会社 作業機の周囲監視装置
JP6029306B2 (ja) * 2012-03-29 2016-11-24 住友建機株式会社 作業機械用周辺監視装置
JP5911775B2 (ja) * 2012-08-21 2016-04-27 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
JP6545430B2 (ja) * 2013-03-19 2019-07-17 住友重機械工業株式会社 ショベル

Also Published As

Publication number Publication date
CN105009572B (zh) 2018-04-03
US20160024758A1 (en) 2016-01-28
EP3041227A1 (en) 2016-07-06
WO2015029110A1 (ja) 2015-03-05
JPWO2015029110A1 (ja) 2017-03-02
CN105009572A (zh) 2015-10-28
EP3041227A4 (en) 2017-05-24

Similar Documents

Publication Publication Date Title
JP6106754B2 (ja) 作業機械の周囲監視装置
JP6095592B2 (ja) 油圧ショベルの監視画像表示装置
JP6204884B2 (ja) 旋回式作業機の周囲表示装置
JP6173358B2 (ja) 旋回式作業機械の周囲監視装置
US20140111648A1 (en) Device For Monitoring Area Around Working Machine
JP6014664B2 (ja) 自走式産業機械の表示装置
JP5988683B2 (ja) 自走式産業機械の表示装置
EP2757782A1 (en) Surroundings monitoring device for work machine
JP2013253402A (ja) 作業機械の周囲監視装置
CA3029812C (en) Image display system of work machine, remote operation system of work machine, work machine, and method for displaying image of work machine
WO2013118705A1 (ja) 運搬車両の周囲監視装置
WO2016140016A1 (ja) 車両の周囲監視装置
JP2018050119A (ja) 作業車両の表示システム
JP6602936B2 (ja) ショベル
JP6224770B2 (ja) ダンプトラックの表示装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170306

R150 Certificate of patent or registration of utility model

Ref document number: 6106754

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150