JP7472746B2 - 作業支援装置 - Google Patents

作業支援装置 Download PDF

Info

Publication number
JP7472746B2
JP7472746B2 JP2020165395A JP2020165395A JP7472746B2 JP 7472746 B2 JP7472746 B2 JP 7472746B2 JP 2020165395 A JP2020165395 A JP 2020165395A JP 2020165395 A JP2020165395 A JP 2020165395A JP 7472746 B2 JP7472746 B2 JP 7472746B2
Authority
JP
Japan
Prior art keywords
mode
target flight
work
work machine
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020165395A
Other languages
English (en)
Other versions
JP2022057248A (ja
Inventor
智宙 福田
昭彦 ▲栄▼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2020165395A priority Critical patent/JP7472746B2/ja
Priority to EP21198161.8A priority patent/EP3978692A1/en
Priority to US17/448,719 priority patent/US11835970B2/en
Publication of JP2022057248A publication Critical patent/JP2022057248A/ja
Application granted granted Critical
Publication of JP7472746B2 publication Critical patent/JP7472746B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • G05D1/106Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones
    • G05D1/1064Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones specially adapted for avoiding collisions with other aircraft
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D1/00Dropping, ejecting, releasing, or receiving articles, liquids, or the like, in flight
    • B64D1/22Taking-up articles from earth's surface
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENTS OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0094Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/003Flight plan management
    • G08G5/0039Modification of a flight plan
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0069Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/04Anti-collision systems
    • G08G5/045Navigation or guidance aids, e.g. determination of anti-collision manoeuvers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • B64U10/14Flying platforms with four distinct rotor axes, e.g. quadcopters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/22Hydraulic or pneumatic drives
    • E02F9/2221Control of flow rate; Load sensing arrangements
    • E02F9/2225Control of flow rate; Load sensing arrangements using pressure-compensating valves
    • E02F9/2228Control of flow rate; Load sensing arrangements using pressure-compensating valves including an electronic controller
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/22Hydraulic or pneumatic drives
    • E02F9/2278Hydraulic circuits
    • E02F9/2285Pilot-operated systems
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/22Hydraulic or pneumatic drives
    • E02F9/2278Hydraulic circuits
    • E02F9/2292Systems with two or more pumps

Description

本開示は、作業支援装置に関する。
ショベルの上部旋回体に取り付けられた撮像装置では撮像できない空間を、自律式の飛行体に取り付けられた撮像装置で撮像する技術が知られる(例えば、特許文献1参照)。
国際公開公報WO2017/131194号
上記のような従来技術は、飛行体の目標飛行位置は、ショベルの操作者の死角を無くすこと(すなわち周辺監視)を目的としており、操作者の作業支援のための視角を提供する観点から、飛行体の目標飛行位置を決定するものではない。なお、飛行体を用いて作業機械の周辺監視をする場合、作業機械全体と作業機械の周辺とを含む画像が操作者にとって有用となり、それ故に、飛行体の目標飛行位置は作業機械の真上又は後方位置が適当であるのに対して、例えば解体作業のような作業を支援する場合、作業装置の先端部と作業対象物とを含む画像が操作者にとって有用となり、それ故に、飛行体の目標飛行位置は作業機械の側方が適当である。
そこで、1つの側面では、本発明は、作業機械を用いて各種作業等を行う操作者にとって有用な画像を飛行体から提供することを目的とする。
1つの側面では、作業機械と、撮像装置を搭載した飛行体との位置関係を制御する作業支援装置であって、
前記作業機械は、
下部走行体と、
前記下部走行体に搭載される上部旋回体と、
前記上部旋回体に回動可能に設けられる作業装置と、
前記撮像装置が撮像した画像を表示する表示装置とを有し、
当該作業支援装置は、前記飛行体と通信可能であり、前記飛行体に係る動作モードを複数のモード間で切り替えるモード切替部を有し、
前記複数のモードは、前記作業機械の周辺を監視可能な前記画像を取得する第1動作モードと、前記作業装置による作業を支援可能な前記画像を取得する第2動作モードとを含む、作業支援装置が提供される。
1つの側面では、本発明によれば、作業機械を用いて各種作業等を行う操作者にとって有用な画像を飛行体から提供することが可能となる。
作業機械及び無人飛行機の構成に関する説明図である。 作業機械の制御系に係るハードウェア構成の一例を示す図である。 作業機械の操作系に係る概略的な説明図である。 各種制御装置により実現される機能を説明する図である。 下部走行体の向きの算出方法の説明図である。 第1動作モードと第2動作モードの概略的な説明図である 下部追従モードでの目標飛行位置に係る緯度及び経度に関する設定方法の説明図である。 目標飛行位置の設定に関連して飛行制御装置により実行される処理の一例を示す概略フローチャートである。 モード切替処理の一例を示す概略フローチャートである。 目標飛行位置/姿勢設定処理の一例を示す概略フローチャートである。 第1動作モード用の目標飛行位置/姿勢算出処理の一例を示す概略フローチャートである。 第2動作モード用の目標飛行位置/姿勢算出処理の一例を示す概略フローチャートである。 モード遷移処理の説明図である。
以下、添付図面を参照しながら各実施例について詳細に説明する。
図1は、一実施例による作業機械1及び無人飛行機40の構成に関する説明図である。なお、図1には、作業機械1及び無人飛行機40に加えて、飛行制御装置50(作業支援装置の一例)と遠隔操作装置52が図示されている。
作業機械1は、無人飛行機40と連携しながら所定の作業を遂行する。作業機械1は、例えば解体作業等に好適な破砕機145を備えた建設機械であり、クローラ式の下部走行体110と、下部走行体110に旋回機構130を介して旋回可能に搭載される上部旋回体120と、作業機構140と、を備えている。上部旋回体120の前方左側部にはキャブ(運転室)122が設けられる。上部旋回体120の前方中央部には作業機構140が設けられ、作業機構140の先端に破砕機145が設けられる。なお、作業機械1は、無人飛行機40が発着するベースメントを備えてもよい。
作業機構140は、上部旋回体120に起伏可能に装着されるブーム141と、ブーム141の先端に回動可能に連結されるアーム143と、アーム143の先端に取り付けられた破砕機145と、を備えている。作業機構140には、伸縮可能な油圧シリンダにより形成されるブームシリンダ142、アームシリンダ144及びバケットシリンダ146が装着される。破砕機145に代えてバケットなどの他の先端アタッチメントがアーム143の先端部に取り付けられていてもよい。
ブームシリンダ142は、作動油の供給を受けることにより伸縮してブーム141を起伏方向に回動させるようにブーム141と上部旋回体120との間に介在する。アームシリンダ144は、作動油の供給を受けることにより伸縮してアーム143をブーム141に対して水平軸回りに回動させるようにアーム143とブーム141との間に介在する。バケットシリンダ146は、作動油の供給を受けることにより伸縮して破砕機145をアーム143に対して水平軸回りに回動させるように破砕機145とアーム143との間に介在する。破砕機用シリンダ147は、作動油の供給を受けることにより伸縮して破砕機145を開閉させるように破砕機145に設けられる。
無人飛行機40は、回転翼機であり、複数(例えば、4、6又は8)の羽根、当該複数の羽根を回転させるための電動モータ(アクチュエータ)等に電力を供給するバッテリなどを備える。なお、かかるバッテリに代えて又は加えて、無人飛行機40は、地上から電力供給線に接続されてもよい。
無人飛行機40は、制御装置400と、撮像装置410とを備える。
制御装置400は、後述する飛行制御装置50からの制御情報(指令)や遠隔操作装置52からの操作情報に応じて、無人飛行機40の各種飛行状態(前進状態、後退状態、上昇状態、下降状態、ホバリング等)を実現する。また、制御装置400は、撮像装置410で取得される画像(前方環境画像)を作業機械1に送信する。
撮像装置410は、カメラを含む。カメラの種類等は任意であり、例えば広角カメラであってもよい。撮像装置410は、取り外し可能に無人飛行機40に取り付けられてもよいし、無人飛行機40に強固に固定されてもよい。撮像装置410は、CCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子により、無人飛行機40の機体前方の前方環境画像を取得する。撮像装置410は、例えば、リアルタイムに前方環境画像を取得し、所定のフレーム周期のストリーム形式で制御装置400に供給するものであってよい。
撮像装置410は、好ましくは、ジンバル(図示せず)を備える。ジンバルは、無人飛行機40の姿勢が変化しても、撮像装置410の光軸が一定の向き(例えば水平面内の所定方向)に保つように機能する。
飛行制御装置50は、無人飛行機40の各種制御を実行する。一実施例では、飛行制御装置50は、サーバ(サーバコンピュータ)より実現され、この場合、飛行制御装置50は、ネットワーク(図示せず)を介して作業機械1及び無人飛行機40に接続される。この場合、ネットワークは、無線通信網や、インターネット、VPN(Virtual Private Network)、WAN(Wide Area Network)、有線ネットワーク、又はこれらの任意の組み合わせ等を含んでもよい。他の実施例では、飛行制御装置50は、作業機械1の制御装置10(図2参照)により実現されてもよい(すなわち飛行制御装置50は、作業機械1に設けられてもよい)。また、他の実施例では、飛行制御装置50は、無人飛行機40の制御装置400により実現されてもよい。あるいは、他の実施例では、飛行制御装置50の機能は、サーバ、制御装置10、及び制御装置400のうちの、いずれか2つの組み合わせ又はすべてにより協動して実現されてもよい。飛行制御装置50の詳細は後述する。
遠隔操作装置52は、例えばリモートコントローラの形態であり、ユーザ(例えば、作業機械1の操作者又は操作者とは異なる作業者)により操作されてよい。なお、ユーザが、作業機械1の操作者である場合、遠隔操作装置52は、キャブ122内に持ち込まれうる。遠隔操作装置52は、無人飛行機40と無線通信可能であり、ユーザの操作に応じた操作信号を無人飛行機40に向けて送信する。この場合、無人飛行機40は遠隔操作装置52からの操作情報を受信すると、無人飛行機40の制御装置400は、操作情報に応じた無人飛行機40の動き(前進、後退、昇降等)を実現する。なお、変形例では、遠隔操作装置52は省略されてもよい。また、遠隔操作装置52は、スマートフォン等により実現されてもよい。
図2は、作業機械1の制御系に係るハードウェア構成の一例を示す図である。
作業機械1は、図2に示すように、電装系装置8と、制御装置10とを備える。
電装系装置8は、作業機械1に搭載される電子制御可能な機器や各種センサ等である。電装系装置8は、例えば、画像出力装置80(表示装置の一例)や、ブザー、音声出力装置(図示せず)、旋回機構130、作業機構140や下部走行体110等を作動させる油圧発生装置(図2A参照)、各種操作部材の操作状態を検出する各種センサ類82等を含んでよい。なお、電装系装置8(特に各種センサ類82)は、基本的には、上部旋回体120に設けられる。これは、下部走行体110は、上部旋回体120よりも外部環境に晒されやすいためである。
なお、油圧発生装置は、エンジン及び/又は電動モータにより駆動される油圧ポンプ(図2Aのメインポンプ914参照)を含んでよい。電動モータにより駆動される油圧ポンプを利用する場合、油圧発生装置は、電動モータを駆動するためのインバータを更に含んでよい。
各種センサ類82は、ジャイロセンサや、各種の角度センサ、加速度センサ(傾斜センサ)、油圧発生装置により付与される油圧ライン(図2Aの高圧油圧ライン916参照)の所定箇所の油圧を検出する油圧センサ(図2Aの圧力センサ929参照)等を含んでよい。
本実施例では、特に、センサ類82は、GPS(Global Positioning System)コンパス821(衛星電波受信機の一例)を含む。GPSコンパス821は、上部旋回体120に設けられる2つのアンテナ(図示せず)を含み、2つのアンテナは、互いに離れた位置に設けられ、それぞれ、衛星から電波を受信する。2つのアンテナのそれぞれで受信された衛星信号は、それぞれ、例えば干渉測位法等により測位処理されることで、位置情報(測位情報)に変換される。そして、各アンテナの位置情報に基づいて方位が算出される。このようにして、GPSコンパス821は、当該2つのアンテナの相対的な位置関係に基づいて、向き(方位)を算出する。なお、GPSコンパス821に代えて、GNSS(Global Navigation Satellite System)のうちの、GPS以外を利用する同様のコンパスが利用されてもよい。
画像出力装置80(図1参照)は、作業機械1の操作者が視認できるようにキャブ122内に設けられる。画像出力装置80は、任意であるが、例えば液晶ディスプレイや、有機EL(Electro-Luminescence)ディスプレイ等であってよい。なお、変形例では、画像出力装置80は、作業機械1の操作者によりキャブ122に持ち込まれうる携帯型の装置(例えばタブレット端末等)であってもよい。
制御装置10は、バス19で接続されたCPU(Central Processing Unit)11、RAM(Random Access Memory)12、ROM(Read Only Memory)13、補助記憶装置14、ドライブ装置15、及び通信インターフェース17、並びに、通信インターフェース17に接続された有線送受信部25及び無線送受信部26を含む。
補助記憶装置14は、例えばHDD(Hard Disk Drive)や、SSD(Solid State Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
有線送受信部25は、有線ネットワークを利用して通信可能な送受信部を含む。有線送受信部25には、電装系装置8が接続される。ただし、電装系装置8の一部又は全部は、バス19に接続されてもよいし、無線送受信部26に接続されてもよい。
無線送受信部26は、無線ネットワークを利用して通信可能な送受信部である。無線ネットワークは、携帯電話の無線通信網や、インターネット、VPN、WAN等を含んでよい。また、無線送受信部26は、近距離無線通信(NFC:Near Field Communication)部、ブルートゥース(Bluetooth、登録商標)通信部、Wi-Fi(Wireless-Fidelity)送受信部、赤外線送受信部などを含んでもよい。例えば、無線送受信部26は、サーバの形態の飛行制御装置50との間で通信を実現できる。
なお、制御装置10は、記録媒体16と接続可能であってもよい。記録媒体16は、所定のプログラムを格納する。この記録媒体16に格納されたプログラムは、ドライブ装置15を介して制御装置10の補助記憶装置14等にインストールされる。インストールされた所定のプログラムは、制御装置10のCPU11により実行可能となる。例えば、記録媒体16は、CD(Compact Disc)-ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する記録媒体、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等であってよい。なお、記録媒体16には、搬送波は含まれない。
ここでは、図2を参照して、作業機械1の制御系について説明したが、無人飛行機40についても、電装系装置8に係る構成を除いて、実質的に同様であってよい。例えば、無人飛行機40の制御系の場合、制御装置400のハードウェア構成は、制御装置10と同様であってよい。また、電装系装置8に対応する電装系装置は、撮像装置410(図1参照)や各種センサ類を含む。
また、飛行制御装置50のハードウェア構成についても、図2に示す制御装置10のハードウェア構成と実質的に同様であってよい。
図2Aは、作業機械1の操作系に係る概略的な説明図である。図2Aでは、高圧油圧ラインを実線、パイロットラインを破線でそれぞれ示す。
メインポンプ914は、コントロールバルブ917に供給するための油圧を発生するポンプである。この油圧は、コントロールバルブ917を介して油圧モータ110A、110B、ブームシリンダ142、アームシリンダ144、及びシリンダ146の各々を駆動するために供給される。
パイロットポンプ915は、油圧操作系に必要なパイロット圧を発生するポンプである。
操作装置926には、油圧ライン927及び928を介して、コントロールバルブ917及び圧力センサ929がそれぞれ接続される。この圧力センサ929には、作業機械1の電気系の駆動制御を行う上述した制御装置10が接続される。
コントロールバルブ917には、下部走行体110用の油圧モータ110A(右用)及び110B(左用)、ブームシリンダ142、アームシリンダ144、及びシリンダ146が高圧油圧ライン916を介して接続される。
コントロールバルブ917は、高圧油圧ライン916を介して接続される下部走行体110用の油圧モータ110A、110B、ブームシリンダ142、アームシリンダ144、及びシリンダ146の各々に供給する油圧を運転者の操作入力に応じて制御する。
操作装置926は、下部走行体110、ブーム141、アーム143、及び破砕機145を操作するための操作装置である。操作装置926は、レバー926A及び926Bとレバー926Cを含む。レバー926Aは、アーム143を操作するためのレバーであり、レバー926Bは、ブーム141及び破砕機145を操作するためのレバーである。また、レバー926Cは、下部走行体110を操作するための一対のレバーである。具体的には、レバー926Cは、左側のクローラを駆動回転させる左側レバーと、右側のクローラを駆動回転させる右側レバーとを含む。なお、レバー926Cは、運転席の足下に設けられる対のペダルの形態であってもよい。
操作装置926は、パイロットライン925を通じて供給される油圧(1次側の油圧)を運転者の操作量に応じた油圧(2次側の油圧)に変換して出力する。操作装置926から出力される2次側の油圧は、油圧ライン927を通じてコントロールバルブ917に供給されるとともに、圧力センサ929によって検出される。
レバー926A及び926Bとレバー926Cの各々が操作されると、油圧ライン927を通じてコントロールバルブ917が駆動され、これにより、油圧モータ110A、110B、ブームシリンダ142、アームシリンダ144、及びシリンダ146内の油圧が制御されることによって、下部走行体110、ブーム141、アーム143、及び破砕機145が駆動される。
なお、油圧ライン927は、油圧モータ110A及び110B、ブームシリンダ142、アームシリンダ144、及びシリンダ146の駆動に必要な油圧をコントロールバルブ917に供給する。
圧力センサ929は、レバー926Cの操作による油圧ライン928内の油圧の変化を検出する。圧力センサ929は、油圧ライン928内の油圧を表す電気信号を出力する。この電気信号は、レバー926Cの操作態様(左側レバー及び右側レバーのそれぞれの操作量と方向)を表す信号を含み、制御装置10に入力される。なお、レバー926Cの操作態様は、磁気的に又は光学的に検出されてもよい。
次に、図3以降を参照して、制御装置10及び制御装置400とともに、飛行制御装置50を詳説する。
図3は、制御装置10、制御装置400、及び飛行制御装置50により実現される機能を説明する図である。図3では、主に、後述するホバリング維持制御に関連する機能について図示されている。従って、制御装置10等は、図示以外の他の機能を適宜備えてよい。図4は、下部走行体110の向きの算出方法の説明図であり、上部旋回体120及び下部走行体110を上面視で概略的に示す図である。図4には、左側に、上部旋回体120が旋回していない状態(以下、「中立状態」と称する)が示され、右側に、上部旋回体120が、時計まわりに角度αだけ旋回した状態(以下、「旋回状態」と称する)が示されている。図4Aは、第1動作モードと第2動作モードの概略的な説明図である。
制御装置10は、図3に示すように、位置情報取得部150と、姿勢情報取得部151と、向き情報取得部152と、通信処理部153と、画像出力処理部154と、操作情報取得部155と、アクチュエータ制御部156と、を含む。位置情報取得部150のような各機能部は、図2に示したCPU11が、図2に示したROM13のような記憶装置内のプログラムを実行することで、実現できる。
位置情報取得部150は、センサ類82のうちの、GPSコンパス821から、作業機械1の位置情報を取得する。作業機械1の位置情報は、緯度、経度、及び高度で表現される。なお、GPSセンサは、GPS受信機を含み、衛星から電波に基づいて、干渉測位等により、緯度、経度、及び高度を算出する。
姿勢情報取得部151は、センサ類82のうちの、作業機械1の姿勢に係るパラメータを取得する各種センサに基づいて、作業機械1の姿勢情報を取得する。この場合、姿勢に係るパラメータを取得する各種センサは、例えば、ブーム角度センサや、アーム角度センサ、バケット角度センサ、機体傾斜センサ等であってよい。なお、ブーム角度センサは、ブーム角度を取得するセンサであり、例えば、ブームフートピンの回転角度を検出する回転角センサ、ブームシリンダ142のストローク量を検出するストロークセンサ、ブーム141の傾斜角度を検出する傾斜(加速度)センサ等を含む。また、アーム角度センサ及びバケット角度センサについても同様である。機体傾斜センサは、機体傾斜角度を取得するセンサであり、例えば、水平面に対する上部旋回体120の傾斜角度を検出する。
向き情報取得部152は、作業機械1の向き(鉛直軸まわりの向き)に関する情報を取得する。本実施例では、向き情報取得部152は、上部旋回体向き算出部1520と、下部走行体向き算出部1521と、を含む。
上部旋回体向き算出部1520は、センサ類82のうちの、GPSコンパス821から得た向きの計算結果に基づいて、上部旋回体120の向きを算出する。なお、GPSコンパス821は、上述したように上部旋回体120に設けられるので、上部旋回体120とともに旋回する。従って、GPSコンパス821により検出される向き(方位)は、上部旋回体120の向きに相関する。なお、本実施例では、一例として、GPSコンパス821は、上部旋回体120の向きとして、ブーム141を基準とした上部旋回体120の中心軸L0(図4参照)に沿った前方の方位を算出する。すなわち、中心軸L0が基線の方向である。なお、上部旋回体向き算出部1520の算出機能は、GPSコンパス821により実現されてもよい。
下部走行体向き算出部1521は、センサ類82のうちの、回転角センサ822からの旋回角度情報に基づいて、下部走行体110の向きを算出する。なお、回転角センサ822は、旋回機構130の旋回軸まわりの旋回角度(上部旋回体120と下部走行体110との間の旋回軸まわりの相対的な旋回角度)を検出する。ここで、回転角センサ822が検出する旋回角度は、所定の基準位置(ゼロ点)からの回転角度である。本実施例では、一例として、所定の基準位置は、上部旋回体120の中心軸L0と、下部走行体110の中心軸L1とが重なる位置である。なお、下部走行体110の中心軸L1は、左右のクローラの回転軸に直交する関係である。例えば、図4の右側の状態では、上部旋回体120の中心軸L0が下部走行体110の中心軸L1に対して、0度より大きい角度αをなしている。この場合、回転角センサ822は、係る角度αを検出する。以下、旋回機構130の旋回軸まわりの旋回角度とは、中心軸L1に対する中心軸L0のなす角度αを表すものとする。
下部走行体向き算出部1521は、上部旋回体120の向きを、旋回機構130の旋回軸まわりの旋回角度に対応した分だけ補正することで、下部走行体110の向きを算出する。例えば、図4の右側の状態では、上部旋回体120の中心軸L0が下部走行体110の中心軸L1に対して角度αをなしている。この場合、上部旋回体120の向き(方位)が真北であるとき、下部走行体110の向きは、角度αに対応する方位分だけ西方向に算出(補正)される。
このようにして、本実施例では、向き情報取得部152により取得される向き情報は、上部旋回体向き算出部1520により算出される上部旋回体120の向きを表す情報(以下、「上部旋回体向き情報」とも称する)と、下部走行体向き算出部1521により算出される下部走行体110の向きを表す情報(以下、「下部走行体向き情報」とも称する)と、を含む。
通信処理部153は、位置情報取得部150、姿勢情報取得部151、及び向き情報取得部152により取得される各種情報等を、飛行制御装置50に送信する。例えば、通信処理部153は、飛行制御装置50からの要求に応じて、所定周期ごとに最新の情報を飛行制御装置50に送信してもよい。
また、通信処理部153は、無人飛行機40から画像データを受信する。画像データは、撮像装置410により撮像される前方環境画像のデータである。
画像出力処理部154は、通信処理部153により取得される画像データに基づいて、画像出力装置80上に前方環境画像を出力する。これにより、作業機械1の操作者は、画像出力装置80上の前方環境画像から、例えば直視では見えない作業現場の状況等を把握できる。
操作情報取得部155は、操作装置926を介して入力される各種の操作情報(操作入力)を取得する。
アクチュエータ制御部156は、操作装置926を介して入力される各種の操作情報に基づいて、各種の指令値を発生する。例えば、アクチュエータ制御部156は、操作装置926を介して入力される各種の操作情報に基づいて、メインポンプ914からの吐出圧や吐出量等を制御してよい。
制御装置400は、図3に示すように、機体情報取得部401と、目標飛行状態設定部402と、機体制御部403と、通信処理部404とを含む。機体情報取得部401のような各機能部は、図2に示したCPU11のようなCPUが、図2に示したROM13のような記憶装置内のプログラムを実行することで、実現できる。
機体情報取得部401は、無人飛行機40の機体に係る各種状態を表す機体情報を取得する。機体情報は、無人飛行機40の位置情報や、無人飛行機40の姿勢情報等を含んでよい。無人飛行機40の位置情報は、例えば、緯度、経度、及び高度で表現されてよい。なお、このような無人飛行機40の位置情報は、GPSセンサから取得可能である。無人飛行機40の姿勢情報は、無人飛行機40のヨー軸、ロール軸、及びピッチ軸の各軸まわりの回転に関する情報を含んでよい。なお、このような無人飛行機40の姿勢情報は、無人飛行機40に搭載される慣性計測装置(IMU:Inertial Measurement Unit)のようなセンサから取得可能である。
目標飛行状態設定部402は、飛行制御装置50からの制御情報(指令)に基づいて、無人飛行機40の目標飛行状態を設定する。目標飛行状態は、目標飛行位置と目標飛行姿勢とを含む。本実施例では、制御情報が後述のように目標飛行位置と目標飛行姿勢とを含み、この場合、目標飛行状態設定部402は、当該目標飛行位置と目標飛行姿勢をそのまま利用してよい。ただし、変形例では、上述したように、目標飛行状態設定部402は、飛行制御装置50に代えて、目標飛行位置及び目標飛行姿勢のうちの少なくとも一方を算出してもよい。
機体制御部403は、目標飛行状態設定部402により設定された目標飛行状態が実現されるように無人飛行機40の各種アクチュエータ(図示せず)を制御する。なお、無人飛行機40の各種アクチュエータは、複数の羽根を回転させるための電動モータ等を含む。
通信処理部404は、機体情報取得部401により取得される機体情報等を、飛行制御装置50に送信する。例えば、通信処理部404は、飛行制御装置50からの要求に応じて、所定周期ごとに最新の機体情報を飛行制御装置50に送信してもよい。
また、通信処理部404は、撮像装置410により撮像される前方環境画像のデータを、作業機械1に送信する。例えば、通信処理部404は、飛行制御装置50からの要求に応じて、所定周期ごとに前方環境画像のデータを飛行制御装置50に送信してもよい。
飛行制御装置50は、図3に示すように、情報取得部510と、モード切替部511と、相対位置関係判定部512と、飛行制御部514とを含む。情報取得部510のような各機能部は、図2に示したCPU11のようなCPUが、図2に示したROM13のような記憶装置内のプログラムを実行することで、実現できる。
情報取得部510は、飛行制御部514の各種制御に必要な各種情報を取得する。本実施例では、一例として、情報取得部510は、作業機械1の位置情報、作業機構140に係る姿勢情報、及び向き情報と、無人飛行機40の機体情報とを取得する。姿勢情報は、例えば、破砕機145の位置を導出する際に利用可能な姿勢情報であり、例えばアーム143、ブーム141等の姿勢を表す。また、情報取得部510は、作業機械1の操作情報(特にレバー926Cに係る操作情報)を適宜取得する。なお、作業機械1の位置情報、姿勢情報、及び向き情報は、作業機械1の制御装置10の通信処理部153から通信により取得できる。また、無人飛行機40の機体情報は、無人飛行機40の制御装置400の通信処理部404から取得できる。
モード切替部511は、無人飛行機40に係る動作モードを複数のモード間で切り替える。複数のモードは、作業機械1の周辺を監視可能な前方環境画像を取得する第1動作モードと、破砕機145(作業装置の一例)による作業を支援可能な前方環境画像を取得する第2動作モードとを含む。また、第1動作モードは、下部走行体110の向きを基準として目標飛行位置等が設定される動作モード(以下、「下部追従モード」とも称する)と、上部旋回体120の向きを基準として目標飛行位置等が設定される動作モード(以下、「上部追従モード」とも称する)とを含む。
モード切替部511は、ユーザにより入力されうるモード切替入力に応答して、動作モードを切り替えてもよい。この場合、モード切替入力は、ボタンの操作による入力や、音声入力、ジェスチャ入力等、任意である。制御装置10は、モード切替入力があった場合、飛行制御装置50にモード切替要求を送信する。なお、モード切替要求は、切替先の動作モード(例えば第1動作モードや第2動作モード)を含んでよい。この場合、モード切替部511は、当該モード切替要求に応答して、動作モードを切り替えてもよい。
モード切替部511は、上述のモード切替入力に応答することに代えて又は加えて、上述のモード切替入力に関連しない所定の切替条件が満たされると、自動的に動作モードを切り替えてもよい。例えば、モード切替部511は、操作装置926において生成される各種の操作情報(操作信号)に基づいて、動作モードを切り替えてもよい。具体的には、下部走行体110を走行させるための操作信号が入力された場合は第1動作モードに切り替えてよい。これは、第1動作モードで得られる前方環境画像は、作業機械1の走行時に有用であるためである。また、モード切替部511は、破砕機145(先端アタッチメント)の操作信号が入力された場合は第2動作モードに切り替えてよい。これは、第2動作モードで得られる前方環境画像は、破砕機145の操作の際に有用であるためである。なお、その他の操作として、上部旋回体120の旋回操作、ブーム141の操作、及びアーム143の操作があるが、これらの3つの操作が行われる状況は、第1動作モード及び第2動作モードのいずれも好適となりうる。従って、これらの3つの操作に係る操作信号が入力されても動作モードは維持されてよい。なお、このような所定の切替条件に基づいて動作モードが自動的に切り替わる自動モードと、上述したようにユーザによるモード切替入力に基づいて動作モードが切り替わるマニュアルモードとが形成可能な構成においては、ユーザにより自動モードかマニュアルモードかが選択可能とされてよい。
相対位置関係判定部512は、情報取得部510により取得された作業機械1の位置情報及び無人飛行機40の位置情報(機体情報の一部)に基づいて、作業機械1に対する無人飛行機40の相対位置関係を把握(判定)する。作業機械1に対する無人飛行機40の相対位置関係は、高度を考慮した位置関係(すなわち3次元の位置関係)であってもよいし、高度を考慮しない位置関係であってもよい。高度を考慮しない位置関係としては、例えば、所定の基準平面(例えば地表面)に投影したときの位置関係であってよい。
また、作業機械1に対する無人飛行機40の相対位置関係は、作業機械1の所定部位に対する無人飛行機40の相対位置関係であってよい。この場合、所定部位は、作業機械1の下部走行体110の部位(例えば重心付近の部位)であってもよいし、上部旋回体120の部位であってもよいし、旋回機構130の部位(例えば破砕機145)であってもよい。また、所定部位は、動作モード等に応じて自動的に変化されてもよい。なお、以下では、作業機械1に対する無人飛行機40の相対位置関係は、単に「相対位置関係」とも称する。
飛行制御部514は、情報取得部510により取得された各種情報に基づいて、無人飛行機40に送信する制御情報(指令)を生成する。制御情報は、上述したように、無人飛行機40の目標飛行状態設定部402に目標飛行状態を設定させるための情報である。
飛行制御部514は、ホバリング開始条件が成立すると、無人飛行機40のホバリングが開始されるように、制御情報を生成する。ホバリング開始条件は、例えば、無人飛行機40の位置が目標飛行位置に到達した場合に満たされてよい。なお、無人飛行機40の位置が目標飛行位置に到達した否かは、例えば、情報取得部510により取得される機体情報に基づいて判断できる。
飛行制御部514は、例えば、制御情報を変化させないことで(これに伴い無人飛行機40の目標飛行位置を変化させないことで)、制御装置400にホバリングを開始させてもよい。あるいは、飛行制御部514は、ホバリングを開始させる指令(例えば、ホバリングモードのようなモードを指示する制御情報)を無人飛行機40に送信することで、制御装置400にホバリングを開始させてもよい。
本実施例では、飛行制御部514は、無人飛行機40のホバリング中、相対位置関係が基準の相対位置関係から変化した場合でも、基準の相対位置関係からの変化量が所定閾値Th1以下である場合は、無人飛行機40のホバリングを維持するためのホバリング維持制御を実行してもよい。この場合、基準の相対位置関係は、無人飛行機40が目標飛行位置に到達した時点又はその前後の相対位置関係であってよく、例えば、ホバリングが開始されたときの相対位置関係であってよい。あるいは、基準の相対位置関係は、ユーザにより設定されてもよい。この場合、例えば、基準の相対位置関係は、ユーザにより所定入力がなされた時点の相対位置関係であってよい。なお、無人飛行機40がホバリング中であるか否かは、例えば、情報取得部510により取得される機体情報に基づいて判断できる。
以下、このようなホバリング維持制御との対比として、相対位置関係の変化に追従して無人飛行機40の目標飛行位置を動的に変化させる制御を、「位置追従制御」とも称する。
本実施例では、飛行制御部514は、目標飛行位置算出部5141と、目標飛行姿勢算出部5142とを含む。飛行制御部514は、目標飛行位置算出部5141により算出される目標飛行位置と、目標飛行姿勢算出部5142により算出される目標飛行姿勢とに基づいて、これらを含む制御情報を生成する。
本実施例では、目標飛行位置は、動作モードに応じて異なる態様で算出される。
具体的には、第1動作モードのうちの、下部追従モードでは、目標飛行位置(すなわち下部追従モード用の目標飛行位置)は、下部走行体110の後方位置に設定される。なお、目標飛行位置は、例えば、緯度、経度、及び高度で表現されてよい。図4Aには、第1動作モードに係る無人飛行機40の位置(P2)と、そのときの撮像装置410の画角R2が模式的に示されている。
この場合、目標飛行位置に係る緯度及び経度は、例えば、作業機械1の下部走行体110の前後軸上の位置であって、作業機械1の下部走行体110の後部に対して所定距離D1だけ後方に設定される。下部走行体110の前後軸上の位置は、上面視で、上述した下部走行体110の中心軸L1上の位置に対応する。従って、下部走行体110の前後軸は、上述した向き情報のうちの、上述した下部走行体向き情報から特定可能である。所定距離D1は、例えば20m程度であってよい。また、所定距離D1は、ユーザにより可変とされてもよい。また、目標飛行位置に係る緯度及び経度は、作業機械1の下部走行体110の前後軸に対して横方向に所定距離D2だけオフセットするように設定されてもよい。所定距離D2は、例えば作業機械1に対して目標飛行位置が後方45度程度になるように、例えば20m程度であってもよい。この場合も、所定距離D2は、ユーザにより可変とされてもよい。
また、第1動作モードのうちの、上部追従モードでは、目標飛行位置(すなわち上部追従モード用の目標飛行位置)に係る緯度及び経度は、上部旋回体120の旋回に応じて変化し、上部旋回体120の中心軸L0上の後方位置(旋回機構130の旋回軸よりも後方)に設定される。あるいは、上部追従モードでは、目標飛行位置は、旋回機構130の旋回軸上(すなわち旋回機構130の真上)に設定されてもよい。
なお、目標飛行位置は、撮像装置410により作業機械1全体が含まれる前方環境画像が得られるような位置であればよく、撮像装置410の画角等に応じて適合されてよい。また、変形例では、下部追従モードや上部追従モードとは無関係に、目標飛行位置は、作業機械1の旋回機構130の旋回軸上(すなわち旋回機構130の真上)や、それより前方に設定されてもよい。
第2動作モードでは、目標飛行位置(すなわち第2動作モード用の目標飛行位置)に係る緯度及び経度は、撮像装置410から視て破砕機145の先端部が画角内に入るような飛行位置であり、例えば、上面視で、作業機械1の側方又は前方に設定されてよい。図4Aには、第2動作モードに係る無人飛行機40の位置(目標飛行位置P1)と、そのときの撮像装置410の画角R1が模式的に示されている。ここで、破砕機145の先端部の位置は、アーム143等の動きに加えて、上部旋回体120の旋回に応じても変化する。従って、第2動作モードでの目標飛行位置は、これらの各種可動部材の動きに応じて設定されてよい。例えば、目標飛行位置算出部5141は、上面視で上部旋回体120の中心軸L0に対して直交する横方向に所定距離D3(図示せず)だけ離れ、かつ、旋回機構130の旋回軸よりも所定距離D4(図示せず)だけ前方に目標飛行位置に係る緯度及び経度を設定してよい。この場合も、所定距離D3及びD4は、ユーザにより可変とされてもよい。
また、目標飛行位置に係る高度は、一定(例えば30mから40mの範囲内)であってもよい。ただし、目標飛行位置に係る高度は、同様に、ユーザにより可変とされてもよいし、動作モード等に応じて自動的に変化されてもよい。例えば、第2動作モードでは、ブーム141の状態(例えば起伏角度)に基づいて、ブーム141が起伏しているほど高くなる態様で、変化されてもよい。
目標飛行姿勢は、例えば、ヨー軸、ロール軸、及びピッチ軸の各軸まわりの回転に関するパラメータで表現されてよい。目標飛行姿勢は、例えば、無人飛行機40の機体の前後軸が作業機械1の下部走行体110の前後軸に対して平行となり、かつ、無人飛行機40の機体の前後軸が水平面内に位置するように設定されてもよい。同様に、目標飛行姿勢に係るパラメータは、ユーザにより可変とされてもよいし、動作モード等に応じて自動的に変化されてもよい。あるいは、目標飛行姿勢は、例えば、無人飛行機40の機体の前後軸がアーム143の延在方向に対して平行となり、かつ、無人飛行機40の機体の前後軸が水平面内に位置するように設定されてもよい。
例えば、第1動作モードのうちの、上部追従モードでの目標飛行姿勢(すなわち上部追従モード用の目標飛行姿勢)は、ヨー軸まわりに関しては、上面視で、撮像装置410の光軸が上部旋回体120の中心軸L0に平行となるように設定されてもよい。また、上部追従モードでの目標飛行姿勢は、ピッチ軸まわりに関しては、側面視で、撮像装置410の光軸が上部旋回体120の中心(中心軸L0に沿った中心)を通るように設定されてもよい。
また、第1動作モードのうちの、下部追従モードでの目標飛行姿勢(すなわち下部追従モード用の目標飛行姿勢)は、ヨー軸まわりに関しては、上面視で、撮像装置410の光軸が下部走行体110の中心軸L1に平行となるように設定されてもよい。また、下部追従モードでの目標飛行姿勢は、ピッチ軸まわりに関しては、側面視で、撮像装置410の光軸が下部走行体110の中心(中心軸L1に沿った中心)付近を通るように設定されてもよい。
また、第2動作モードでは、目標飛行姿勢は、撮像装置410の画角内に破砕機145が収まるように設定されてよい。この場合、目標飛行姿勢は、撮像装置410の画角内のほぼ中央部に破砕機145が収まるように設定されてよい。また、目標飛行姿勢は、撮像装置410の画角内に破砕機145及び作業対象物(例えば解体作業の場合は、解体すべき物体)が収まるように設定されてもよい。例えば、簡易的には、目標飛行姿勢は、撮像装置410の画角内に破砕機145の先端部が収まるように設定されてよい。この場合、破砕機145の先端部の位置を算出し、算出した位置を撮像装置410の光軸が通るように無人飛行機40の目標飛行姿勢が算出されてもよい。
なお、ロール軸まわりの目標飛行姿勢は、いずれの動作モードにおいても、基本的に、無人飛行機40の機体が略水平となるように設定されてよい。
図5は、一例として、下部追従モードでの目標飛行位置に係る緯度及び経度に関する設定方法の説明図である。下部追従モードの場合、目標飛行位置に係る緯度及び経度は、上述したように、作業機械1の下部走行体110の後方に設定される。従って、図5の左側に示す中立状態のように、上部旋回体120の中心軸L0と下部走行体110の中心軸L1が一致する場合であっても、図5の右側に示す旋回状態のように、上部旋回体120の中心軸L0と下部走行体110の中心軸L1が一致しない場合であっても、目標飛行位置に係る緯度及び経度は、同じように下部走行体110の後方に対応する。
このようにして、本実施例では、下部追従モードの場合、上述したように、目標飛行位置に係る緯度及び経度を作業機械1の下部走行体110の後方に設定するので、下部走行体110の中心軸L1上の後方からの前方環境画像(無人飛行機40の撮像装置410からの前方環境画像)を、無人飛行機40から安定的に提供できる。この際、目標飛行姿勢を上述したように適切に設定することで、作業機械1及びその周辺を捕捉した有用な前方環境画像(すなわち、周辺監視機能の観点から有用性の高い前方環境画像)を得ることができる。
なお、下部追従モードの場合、本実施例によれば、上述したように、作業機械1の下部走行体110の向きに応じて目標飛行位置に係る緯度及び経度が設定されるので、旋回状態で作業機械1を走行させると、無人飛行機40の撮像装置410により提供される前方環境画像は、当該作業機械1の走行動作に追従したものとなる。従って、下部追従モードの場合、上部旋回体120が旋回した状態で下部走行体110が走行した場合でも、無人飛行機40の撮像装置410により提供される前方環境画像の有用性(ユーザにとっての有用性)を効果的に高めることができる。なお、このような観点から、作業機械1が走行状態である場合は、下部追従モードが実現され、作業機械1が走行状態でない場合は、他の動作モード(例えば上部追従モードや第2動作モード)が実現されてもよい。
ところで、無人飛行機40を用いて作業機械1の周辺監視をする場合、無人飛行機40の目標飛行位置は作業機械1の真上又は後方位置が適当であるのに対して、例えば解体作業のような作業を支援する場合、無人飛行機40の目標飛行位置は作業機械の側方が適当である。
この点、本実施例によれば、上述したように、無人飛行機40の動作モードを第1動作モードと第2動作モードとの間で適切に切り替えるので、周辺監視用と作業支援用のそれぞれに好適な前方環境画像を提供できる。
次に、図6A以降を参照して、本実施例の動作例について説明する。
図6Aは、目標飛行位置の設定に関連して飛行制御装置50により実行される処理の一例を示す概略フローチャートである。図6Aに示す処理は、例えば所定周期ごとに繰り返し実行されてよい。なお、図6A以降の処理フロー図(フローチャート)においては、各ステップの入力と出力の関係を損なわない限り、各ステップの処理順序を入れ替えてもよい。
ステップS6では、飛行制御装置50は、無人飛行機40の動作モードを設定(切り替える)ためのモード切替処理を実行する。モード切替処理の一例は、図6Bを参照して後述する。
ステップS7では、飛行制御装置50は、無人飛行機40の目標飛行位置及び目標飛行姿勢を設定するための目標飛行位置/姿勢設定処理を実行する。目標飛行位置/姿勢設定処理の一例は、図6Cを参照して後述する。
ステップS8では、飛行制御装置50は、ステップS7(後述のステップS32又はステップS34)で得た目標飛行位置及び目標飛行姿勢を指示するための制御情報を生成し、生成した制御情報を無人飛行機40に送信する。
図6Bは、モード切替処理の一例を示す概略フローチャートである。図7は、モード遷移処理の説明図である。
ステップS10では、飛行制御装置50は、モード遷移中フラグが“0”であるか否かを判定する。モード遷移中フラグは、動作モードが遷移している間(後述するモード遷移処理中)だけ“1”となり、初期値は“0”である。判定結果が“YES”の場合、ステップS11に進み、それ以外の場合(モード遷移中フラグが“1”である場合)は、ステップS15に進む。
ステップS11では、飛行制御装置50は、モード切替条件が成立したか否かを判定する。モード切替条件は、例えば上述したモード切替入力が処理待ち状態である場合に成立する。モード切替入力の処理待ち状態とは、モード切替入力が発生しているが、動作モードの切替がまだ実現されていない状態である。なお、モード切替条件は、自動的に判定されてもよい。例えば、作業機械1が作業位置に移動している間は、第1動作モードが実現され、作業機械1が作業位置に到着しかつ破砕機145が作業対象物に対して移動した場合に、第1動作モードから第2動作モードへの遷移に係るモード切替条件が成立してもよい。あるいは、作業機械1が作業位置に到着し、上部旋回体120が旋回した場合に、第1動作モードから第2動作モードへの遷移に係るモード切替条件が成立してもよい。判定結果が“YES”の場合、ステップS12に進み、それ以外の場合は、今回周期の処理は終了する。
ステップS12では、飛行制御装置50は、即座のモード切替が可能であるか否かを判定する。例えば、動作モードの変化に伴って生じる無人飛行機40の移動(目標飛行位置の変化に伴う移動)中に、無人飛行機40と作業機械1(例えば作業機械1のブーム141)が接触又は近接する場合、即座のモード切替が可能でないと判定されてよい。判定結果が“YES”の場合、ステップS13に進み、それ以外の場合は、ステップS15に進む。
ステップS13では、飛行制御装置50は、処理待ち状態のモード切替入力にしたがって動作モードの切替を実現する。例えば、モード切替入力が、第1動作モードから第2動作モードへの切替を要求する入力である場合、飛行制御装置50は、動作モードを第1動作モードから第2動作モードへと切り替える。
ステップS14では、飛行制御装置50は、処理待ち状態のモード切替入力を処理済みの状態とする。
ステップS15では、飛行制御装置50は、モード遷移処理の内容を設定し、かつ、モード遷移中フラグを“1”にセットする。モード遷移処理は、無人飛行機40と作業機械1とが接触又は近接しないような移動態様で、無人飛行機40を移動させるための処理である。本実施例では、一例として、第1動作モードのうちの、下部追従モードと、第2動作モードとの間のモード切替入力の場合、モード遷移処理は、下部追従モードと第2動作モードとの間に、上部追従モードを介在(経由)させる処理を含む。なお、図7には、下部追従モードから第2動作モードへの切替の際の無人飛行機40の動きが模式的に示される。図7では、下部追従モードに係る目標飛行位置P21の無人飛行機40は、モード遷移処理によって、まず、上部追従モードに係る目標飛行位置P22へと移動し(矢印R70参照)、ついで、第2動作モードに係る目標飛行位置P1へと移動する(矢印R71参照)。これにより、図7に点線の矢印R73に示すように下部追従モードから第2動作モードへと直接的に遷移する(すなわち目標飛行位置P21から目標飛行位置P1へと最短距離で移動する)場合に生じうる不都合(例えばブーム141と無人飛行機40が接触又は近接するような不都合)を防止できる。
なお、他の実施例では、モード遷移処理は、無人飛行機40の上昇を伴ってもよい。この場合、無人飛行機40の高さは、その時点でのブーム141の最も高い部位を基準として決定されてもよいし、ブーム141の可動範囲内における最大高さを基準として決定されてもよい。例えば、下部追従モードに係る目標飛行位置P21の無人飛行機40は、モード遷移処理によって、まず、所定高さまで上昇し、ついで、図7に点線の矢印R73に示すように下部追従モードから第2動作モードへと直接的に遷移する(すなわち目標飛行位置P21から目標飛行位置P1へと最短距離で移動する)。あるいは、下部追従モードに係る目標飛行位置P21の無人飛行機40は、モード遷移処理によって、まず、所定高さまで上昇し、ついで、上部追従モードに係る目標飛行位置P22へと移動し(矢印R70参照)、その後第2動作モードに係る目標飛行位置P1へと移動してもよい(矢印R71参照)。
ステップS16では、飛行制御装置50は、ステップS15で決定した内容にしたがってモード遷移処理を実行する。
ステップS17では、飛行制御装置50は、モード遷移処理が完了したか否かを判定する。判定結果が“YES”の場合、ステップS18に進み、それ以外の場合は、今回周期の処理を終了する。
ステップS18では、飛行制御装置50は、処理待ち状態のモード切替入力を処理済みの状態とする。
ステップS19では、飛行制御装置50は、モード遷移中フラグを“0”にリセットする。
このようにして図6Bに示す処理によれば、モード遷移処理を介して動作モードが切り替えられるので、安全な態様で動作モードの切替を実現できる。
なお、変形例では、モード切替入力にしたがって動作モードの切替を実行するのに先立って、ブーム141等が自動的に退避位置(例えば最も低い位置)に移動されてもよい。この場合、例えば、下部追従モードに係る目標飛行位置P21の無人飛行機40は、まず、作業機械1の最も高い位置に応じた所定高さまで上昇し、ついで、図7に点線の矢印R73に示すように下部追従モードから第2動作モードへと直接的に遷移してもよい(すなわち目標飛行位置P21から目標飛行位置P1へと最短距離で移動してもよい)。
あるいは、モード切替入力にしたがって動作モードの切替を実行している間、ブーム141等の作業機構140の動作が一時的に禁止されてもよい。この場合、例えば、下部追従モードに係る目標飛行位置P21の無人飛行機40は、まず、現時点のブーム141の高さに応じた所定高さまで上昇し、ついで、図7に点線の矢印R73に示すように下部追従モードから第2動作モードへと直接的に遷移してもよい(すなわち目標飛行位置P21から目標飛行位置P1へと最短距離で移動してもよい)。
図6Cは、目標飛行位置/姿勢設定処理の一例を示す概略フローチャートである。
ステップS30では、飛行制御装置50は、動作モードが第1動作モードあるか否かを判定する。判定結果が“YES”の場合、ステップS32に進み、それ以外の場合は、ステップS34に進む。
ステップS32では、飛行制御装置50は、第1動作モード用の目標飛行位置/姿勢算出処理を実行する。第1動作モード用の目標飛行位置/姿勢算出処理の一例は、図6Dを参照して後述する。
ステップS34では、飛行制御装置50は、第2動作モード用の目標飛行位置/姿勢算出処理を実行する。第2動作モード用の目標飛行位置/姿勢算出処理の一例は、図6Eを参照して後述する。
図6Dは、第1動作モード用の目標飛行位置/姿勢算出処理の一例を示す概略フローチャートである。
ステップS40では、飛行制御装置50は、制御装置10から作業機械1の位置情報及び上部旋回体120の上部旋回体向き情報を取得する。作業機械1の位置情報及び上部旋回体120の上部旋回体向き情報は、それぞれ、上述したように制御装置10の位置情報取得部150及び向き情報取得部152により取得され、飛行制御装置50に送信される。
ステップS42では、飛行制御装置50は、制御装置10から作業機械1の姿勢情報を取得する。姿勢情報は、破砕機145の位置に影響する情報(先端アタッチメント関連の姿勢情報)であり、上述したように制御装置10の姿勢情報取得部151により取得され、飛行制御装置50に送信される。
ステップS44では、飛行制御装置50は、ステップS40で得た位置情報及び上部旋回体向き情報と、ステップS42で得た姿勢情報と基づいて、破砕機145の先端部の位置(先端アタッチメント位置)を算出する。破砕機145の先端部の位置は、上部旋回体120に対して相対的に決まる。具体的には、上部旋回体120に対する破砕機145の先端部の位置は、ブーム141及びアーム143のそれぞれの姿勢に応じて一意に定まる。なお、変形例では、破砕機145の先端部の位置に代えて、破砕機145の他の部位の位置や、アーム143の先端部の位置が算出されてもよい。これは、これらの位置であっても、破砕機145の先端部の位置と略同等に扱えるためである。
ステップS46では、飛行制御装置50は、ステップS44で算出した破砕機145の先端部の位置(先端アタッチメント位置)に基づいて、当該先端部が撮像装置410の画角内の中央部内又はその近傍に位置するように目標飛行位置(所定位置の一例)及び目標飛行姿勢を算出する。この場合、目標飛行位置は、上述したように、破砕機145の先端部周辺に設定され、目標飛行姿勢は、上述したように、当該目標飛行位置に無人飛行機40が位置するときに撮像装置410の画角内に破砕機145及び作業対象物(例えば分解対象の物体)が収まるように設定されてよい。
このようにして図6Dに示す処理によれば、第1動作モード用の目標飛行位置及び目標飛行姿勢を適切に算出できる。この結果、破砕機145による作業を支援可能な前方環境画像として、破砕機145の先端部(及び作業対象物)を含む前方環境画像を取得できる。
図6Eは、第2動作モード用の目標飛行位置/姿勢算出処理の一例を示す概略フローチャートである。
ステップS50では、飛行制御装置50は、制御装置10から作業機械1の位置情報を取得する。作業機械1の位置情報及び上部旋回体120の上部旋回体向き情報は、それぞれ、上述したように制御装置10の位置情報取得部150及び向き情報取得部152(上部旋回体向き算出部1520)により取得され、飛行制御装置50に送信される。
ステップS52では、飛行制御装置50は、動作モードが、第1動作モードのうちの、下部追従モードであるか否かを判定する。判定結果が“YES”の場合、ステップS54に進み、それ以外の場合(すなわち動作モードが上部追従モードである場合)は、ステップS58に進む。
ステップS54では、飛行制御装置50は、制御装置10から作業機械1の下部走行体向き情報を取得する。作業機械1の下部走行体向き情報は、上述したように制御装置10の向き情報取得部152(下部走行体向き算出部1521)により取得され、飛行制御装置50に送信される。
ステップS56では、飛行制御装置50は、ステップS50で得た作業機械1の位置情報と、ステップS54で得た下部走行体向き情報とに基づいて、下部追従モード用の目標飛行位置及び目標飛行姿勢を算出する。下部追従モード用の目標飛行位置は、上述したとおりである。例えば、下部追従モード用の目標飛行位置は、上面視で下部走行体110の中心軸L1(図4参照)上の位置であって下部走行体110の後方の位置として算出されてもよい。この場合、飛行制御装置50は、下部追従モード用の目標飛行姿勢として所定の目標飛行姿勢を設定してもよい。
ステップS58では、飛行制御装置50は、制御装置10から作業機械1の上部旋回体向き情報を取得する。作業機械1の上部旋回体120の上部旋回体向き情報は、上述したように制御装置10の向き情報取得部152(上部旋回体向き算出部1520)により取得され、飛行制御装置50に送信される。
ステップS60では、飛行制御装置50は、ステップS50で得た作業機械1の位置情報と、ステップS58で得た上部旋回体向き情報とに基づいて、上部追従モード用の目標飛行位置及び目標飛行姿勢を算出する。上部追従モード用の目標飛行位置は、上述したとおりである。例えば、上部追従モード用の目標飛行位置は、上面視で上部追従モードの中心軸L0(図4参照)上の位置であって上部旋回体120の後方の位置(又は旋回機構130の旋回軸付近の位置)として算出されてもよい。この場合、飛行制御装置50は、上部追従モード用の目標飛行姿勢として所定の目標飛行姿勢を設定してもよい。
このようにして図6Eに示す処理によれば、第2動作モード用の目標飛行位置及び目標飛行姿勢を適切に算出できる。この結果、作業機械1による作業を支援可能な画像として、作業機械1の先端部と作業対象物とを含む前方環境画像を取得できる。
以上、各実施例について詳述したが、特定の実施例に限定されるものではなく、特許請求の範囲に記載された範囲内において、種々の変形及び変更が可能である。また、前述した実施例の構成要素を全部又は複数を組み合わせることも可能である。
1 作業機械
8 電装系装置
10 制御装置
40 無人飛行機
50 飛行制御装置
52 遠隔操作装置
80 画像出力装置
82 センサ類
821 GPSコンパス
822 回転角センサ
110 下部走行体
120 上部旋回体
122 キャブ(運転室)
130 旋回機構
140 作業機構
141 ブーム
142 ブームシリンダ
143 アーム
144 アームシリンダ
145 破砕機
146 バケットシリンダ
147 破砕機用シリンダ
150 位置情報取得部
151 姿勢情報取得部
152 向き情報取得部
1520 上部旋回体向き算出部
1521 下部走行体向き算出部
153 通信処理部
154 画像出力処理部
400 制御装置
401 機体情報取得部
402 目標飛行状態設定部
403 機体制御部
404 通信処理部
410 撮像装置
510 情報取得部
511 モード切替部
512 相対位置関係判定部
514 飛行制御部
5141 目標飛行位置算出部
5142 目標飛行姿勢算出部

Claims (5)

  1. 解体作業機械と、撮像装置を搭載した飛行体との位置関係を制御する作業支援装置であって、
    前記解体作業機械は、
    下部走行体と、
    前記下部走行体に搭載される上部旋回体と、
    前記上部旋回体に設けられる作業機構と、
    前記撮像装置が撮像した画像を表示する表示装置とを有し、
    前記作業機構が
    前記上部旋回体に起伏可能に装着されるブームと、
    前記ブームの先端に回動可能に連結されるアームと、
    前記アームの先端に取り付けられた破砕機と、を備え、
    当該作業支援装置は、前記飛行体と通信可能であり、前記飛行体に係る動作モードを複数のモード間で切り替えるモード切替部を有し、
    前記複数のモードは、前記解体作業機械の周辺を監視可能な前記画像を取得する第1動作モードと、前記作業機構及び前記上部旋回体を含む旋回部分の側方から前記破砕機による作業を支援可能な破砕機と作業対象物とを含む前記画像を取得する第2動作モードとを含む、作業支援装置。
  2. 当該作業支援装置は、前記第1動作モードにおいて、前記飛行体を前記解体作業機械の後方位置でホバリングさせ、前記解体作業機械の周辺を監視可能な前記画像として、前記解体作業機械全体と前記解体作業機械の周辺とを含む前記画像を取得する、請求項1に記載の作業支援装置。
  3. 当該作業支援装置は、前記第2動作モードにおいて、前記飛行体を前記作業機構及び前記上部旋回体を含む旋回部分の側方の位置でホバリングさせ、前記破砕機による作業を支援可能な前記画像を取得する、請求項1又は2に記載の作業支援装置。
  4. 前記第1動作モードは、前記下部走行体を基準として前記飛行体の目標飛行位置を決定する下部基準モードを含み、
    当該作業支援装置は、前記モード切替部が前記第1動作モードと前記第2動作モードとの間の切替を行う際、前記上部旋回体を基準として前記飛行体の目標飛行位置を決定する遷移処理を実行する、請求項1から3のうちのいずれか1項に記載の作業支援装置。
  5. 前記第1動作モードは、前記下部走行体を基準として前記飛行体の目標飛行位置を決定する下部基準モードを含み、
    当該作業支援装置は、前記モード切替部が前記第1動作モードと前記第2動作モードとの間の切替を行う際、前記飛行体を一時的に上昇させる遷移処理を実行する、請求項1から4のうちのいずれか1項に記載の作業支援装置。
JP2020165395A 2020-09-30 2020-09-30 作業支援装置 Active JP7472746B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020165395A JP7472746B2 (ja) 2020-09-30 2020-09-30 作業支援装置
EP21198161.8A EP3978692A1 (en) 2020-09-30 2021-09-22 Work support apparatus for work machine
US17/448,719 US11835970B2 (en) 2020-09-30 2021-09-24 Unmanned aerial vehicle with work implement view and overview mode for industrial vehicles

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020165395A JP7472746B2 (ja) 2020-09-30 2020-09-30 作業支援装置

Publications (2)

Publication Number Publication Date
JP2022057248A JP2022057248A (ja) 2022-04-11
JP7472746B2 true JP7472746B2 (ja) 2024-04-23

Family

ID=77897531

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020165395A Active JP7472746B2 (ja) 2020-09-30 2020-09-30 作業支援装置

Country Status (3)

Country Link
US (1) US11835970B2 (ja)
EP (1) EP3978692A1 (ja)
JP (1) JP7472746B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017131194A1 (ja) 2016-01-29 2017-08-03 住友建機株式会社 ショベル及びショベルの周囲を飛行する自律式飛行体
JP2019214836A (ja) 2018-06-11 2019-12-19 株式会社フジタ 作業機械の遠隔制御システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9170117B1 (en) * 2014-08-21 2015-10-27 International Business Machines Corporation Unmanned aerial vehicle navigation assistance
GB2533140A (en) * 2014-12-11 2016-06-15 Caterpillar Inc Drone
JP6512657B2 (ja) * 2015-03-24 2019-05-15 株式会社フジタ 移動機器の周囲状況提示システム
WO2016159839A1 (en) * 2015-03-30 2016-10-06 Volvo Construction Equipment Ab System and method for determining the material loading condition of a bucket of a material moving machine
DE102015116736A1 (de) * 2015-10-02 2017-04-06 Claas Selbstfahrende Erntemaschinen Gmbh Verfahren zur sensorgestützten Bewirtschaftung
US20170175363A1 (en) * 2015-12-22 2017-06-22 Caterpillar Inc. Method for providing images of a work tool for a machine
CN109074612A (zh) * 2016-03-31 2018-12-21 住友重机械工业株式会社 施工机械用工作管理系统及施工机械
DE102016004250A1 (de) * 2016-04-08 2017-10-12 Liebherr-Components Biberach Gmbh Verfahren und Vorrichtung zum Steuern eines Krans, eines Baggers, einer Raupe oder einer ähnlichen Baumaschine
US10234856B2 (en) * 2016-05-12 2019-03-19 Caterpillar Inc. System and method for controlling a machine
US10775796B2 (en) * 2017-01-10 2020-09-15 Cnh Industrial America Llc Aerial vehicle systems and methods
CN114482157A (zh) * 2017-03-07 2022-05-13 住友重机械工业株式会社 挖土机及施工机械的作业支援系统
EP3392801A1 (en) * 2017-04-21 2018-10-24 Harman International Industries, Incorporated Systems and methods for driver assistance
US10519631B2 (en) * 2017-09-22 2019-12-31 Caterpillar Inc. Work tool vision system
JP7081554B2 (ja) 2019-03-29 2022-06-07 株式会社豊田自動織機 電動圧縮機
EP3969369A4 (en) * 2019-05-14 2023-05-17 ESCO Group LLC MONITORING TOOL, SYSTEM AND PROCESS FOR EARTHWORKS EQUIPMENT AND OPERATIONS
US11466984B2 (en) * 2019-05-15 2022-10-11 Caterpillar Inc. Bucket get monitoring system
PE20220162A1 (es) * 2019-06-17 2022-01-27 Esco Group Llc Monitorizacion de producto de enganche del suelo

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017131194A1 (ja) 2016-01-29 2017-08-03 住友建機株式会社 ショベル及びショベルの周囲を飛行する自律式飛行体
JP2019214836A (ja) 2018-06-11 2019-12-19 株式会社フジタ 作業機械の遠隔制御システム

Also Published As

Publication number Publication date
JP2022057248A (ja) 2022-04-11
US11835970B2 (en) 2023-12-05
US20220100212A1 (en) 2022-03-31
EP3978692A1 (en) 2022-04-06

Similar Documents

Publication Publication Date Title
JP7328212B2 (ja) 建設機械の運転支援システム、建設機械
JP6512657B2 (ja) 移動機器の周囲状況提示システム
JP6339427B2 (ja) 併走作業システム
US10843331B2 (en) Mounting a sensor module to an unmanned ground vehicle
WO2018110707A1 (ja) 遠隔操作端末および遠隔操作端末を備える作業車両
EP3112967A1 (en) Site management system, in-flight detection method, and nontransitory computer readable medium storing program of site management system
JP2016078770A (ja) 浮体取付装置、無人水上艇及び無人移動体制御システム
JP5393500B2 (ja) 無人移動体の制御方法及び遠隔操縦装置
US20210262196A1 (en) Excavator and control apparatus for excavator
JP6078025B2 (ja) 併走作業システム
JP6163460B2 (ja) 随伴作業システム
WO2020203843A1 (ja) ショベル
JP2020143481A (ja) 自動運転作業機械
JP6893746B2 (ja) 重機の遠隔操作装置
JP7472746B2 (ja) 作業支援装置
EP3964910B1 (en) Work support system for work machine
JP7443978B2 (ja) 作業支援装置
JP6444131B2 (ja) 無人水上艇及び無人移動体制御システム
JP7472708B2 (ja) 作業支援装置
JP2022030463A (ja) 作業支援装置
JP7293933B2 (ja) 作業機械および作業機械支援サーバ
JP7349947B2 (ja) 情報処理装置、作業機械、情報処理方法、情報処理プログラム
JP7293934B2 (ja) 作業機械および作業機械支援サーバ
JP2023156807A (ja) 作業支援装置およびこれを備えた作業システム
JP7293939B2 (ja) 作業機械および作業機械支援サーバ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240325

R150 Certificate of patent or registration of utility model

Ref document number: 7472746

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150