JP2023150082A - 支援装置、作業機械、プログラム - Google Patents
支援装置、作業機械、プログラム Download PDFInfo
- Publication number
- JP2023150082A JP2023150082A JP2022058984A JP2022058984A JP2023150082A JP 2023150082 A JP2023150082 A JP 2023150082A JP 2022058984 A JP2022058984 A JP 2022058984A JP 2022058984 A JP2022058984 A JP 2022058984A JP 2023150082 A JP2023150082 A JP 2023150082A
- Authority
- JP
- Japan
- Prior art keywords
- work
- shape
- motion
- image
- shovel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 claims description 235
- 230000004044 response Effects 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 3
- 230000006978 adaptation Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 abstract description 27
- 238000010801 machine learning Methods 0.000 abstract description 10
- 238000010408 sweeping Methods 0.000 description 63
- 230000006870 function Effects 0.000 description 61
- 230000010365 information processing Effects 0.000 description 49
- 238000004891 communication Methods 0.000 description 48
- 238000003860 storage Methods 0.000 description 45
- 230000009471 action Effects 0.000 description 29
- 238000003384 imaging method Methods 0.000 description 22
- 230000008569 process Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 19
- 244000007853 Sarothamnus scoparius Species 0.000 description 16
- 238000012545 processing Methods 0.000 description 16
- 238000005096 rolling process Methods 0.000 description 13
- 238000001514 detection method Methods 0.000 description 9
- 239000010720 hydraulic oil Substances 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 238000009826 distribution Methods 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 6
- 238000005056 compaction Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000003825 pressing Methods 0.000 description 3
- 239000004576 sand Substances 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000012530 fluid Substances 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000003921 oil Substances 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Component Parts Of Construction Machinery (AREA)
Abstract
【課題】作業機械をより適切に動作させることが可能な技術を提供する。【解決手段】本開示の一実施形態に係るコントローラ30は、ショベル100の周辺の作業対象の形状に関するデータを取得する作業対象形状取得部302Bと、作業対象の形状と対応付けられた、相対的に熟練度の高いオペレータの操作によるショベル100の動作に関する教師データによって機械学習がされた学習済みモデルLMを用いて、ショベル100の周辺の作業対象の形状に関するデータに基づき、所定の作業におけるショベル100の複数の候補の動作の中からショベル100の周辺の作業対象の形状に適合する動作を推定する推定部302Cと、推定部302Cの推定結果に基づき、複数の候補の動作の中の一又は複数の動作をユーザに提案する提案部302Dと、を備える。【選択図】図10
Description
本開示は、作業機械の支援装置等に関する。
ショベル等の作業機械が知られている(例えば、特許文献1参照)。
ところで、作業機械を用いてある作業を行う場合、地形形状等の作業対象の状態に応じて、複数の動作を使い分ける必要が生じる。例えば、ショベルの整地作業の場合、バケットの背面で土砂を前方に掃き出す動作、水平引き動作、転圧動作等が用いられる。そのため、例えば、経験の浅いオペレータの場合、複数の候補の動作の中から適切な動作を選択するのが難しい状況が生じ、その結果、作業効率の低下等を招来する可能性がある。
そこで、上記課題に鑑み、作業機械をより適切に動作させることが可能な技術を提供することを目的とする。
上記目的を達成するため、本開示の一実施形態では、
作業機械の周辺の作業対象の形状に関するデータを取得する取得部と、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案部と、を備える、
支援装置が提供される。
作業機械の周辺の作業対象の形状に関するデータを取得する取得部と、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案部と、を備える、
支援装置が提供される。
また、本開示の他の実施形態では、
上述の支援装置を備える、
作業機械が提供される。
上述の支援装置を備える、
作業機械が提供される。
また、本開示の更に他の実施形態では、
支援装置に、
作業機械の周辺の作業対象の形状に関するデータを取得する取得ステップと、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案ステップと、を実行させる、
プログラムが提供される。
支援装置に、
作業機械の周辺の作業対象の形状に関するデータを取得する取得ステップと、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案ステップと、を実行させる、
プログラムが提供される。
上述の実施形態によれば、作業機械をより適切に動作させることができる。
以下、図面を参照して実施形態について説明する。
[稼働支援システムの概要]
まず、図1~図3を参照して、本実施形世周防に係る稼働支援システムSYSの概要について説明をする。
まず、図1~図3を参照して、本実施形世周防に係る稼働支援システムSYSの概要について説明をする。
図1は、稼働支援システムSYSの一例を示す図である。図1において、ショベル100は、左側面図が示される。図2は、ショベル100の一例を示す上面図である。図3は、ショベルの遠隔操作に関する構成の一例を示す図である。以下、ショベル100の上面視でアタッチメントATが延び出す方向(図2の上方向)を"前"と規定して、ショベル100における方向、或いは、ショベル100から見た方向を説明する場合がある。
図1に示すように、稼働支援システムSYSは、ショベル100と、情報処理装置200とを含む。
稼働支援システムSYSは、情報処理装置200を用いて、ショベル100と連携し、ショベル100の稼働に関する支援を行う。
稼働支援システムSYSに含まれるショベル100は、1台であってもよいし、複数台であってもよい。
ショベル100は、稼働支援システムSYSにおいて、稼働に関する支援の対象の作業機械である。
図1、図2に示すように、ショベル100は、下部走行体1と、上部旋回体3と、ブーム4、アーム5、及び、バケット6を含むアタッチメントATと、キャビン10とを備える。
下部走行体1は、クローラ1Cを用いて、ショベル100を走行させる。クローラ1Cは、左側のクローラ1CL及び右側のクローラ1CRを含む。クローラ1CLは、走行油圧モータ1MLで油圧駆動される。同様に、クローラ1CLは、走行油圧モータ1MRで油圧駆動される。これにより、下部走行体1は、自走することができる。
上部旋回体3は、旋回機構2を介して下部走行体1に旋回可能に搭載される。例えば、上部旋回体3は、旋回油圧モータ2Mで旋回機構2が油圧駆動されることにより、下部走行体1に対して旋回する。
ブーム4は、左右方向に沿う回転軸を中心として俯仰可能なように、上部旋回体3の前部中央に取り付けられる。アーム5は、左右方向に沿う回転軸を中心として回転可能なように、ブーム4の先端に取り付けられる。バケット6は、左右方向に沿う回転軸を中心として回転可能なように、アーム5の先端に取り付けられる。
バケット6は、エンドアタッチメントの一例であり、例えば、掘削作業に用いられる。
バケット6は、ショベル100の作業内容に応じて、適宜交換可能な態様で、アーム5の先端に取り付けられている。つまり、アーム5の先端には、バケット6に代えて、バケット6とは異なる種類のバケット、例えば、相対的に大きい大型バケット、法面用バケット、浚渫用バケット等が取り付けられてもよい。また、アーム5の先端には、バケット以外の種類のエンドアタッチメント、例えば、攪拌機、ブレーカ、クラッシャー等が取り付けられてもよい。また、アーム5と、エンドアタッチメントとの間には、例えば、クイックカップリングやチルトローテータ等の予備アタッチメントが設けられてもよい。
ブーム4、アーム5、及び、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9により油圧駆動される。
キャビン10は、オペレータが搭乗し、ショベル100を操作するための操縦室である。キャビン10は、例えば、上部旋回体3の前部左側に搭載される。
例えば、ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、下部走行体1(即ち、左右の一対のクローラ1CL,1CR)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を動作させる。
また、ショベル100は、キャビン10に搭乗するオペレータによって操作可能に構成されるのに代えて、或いは、加えて、ショベル100の外部から遠隔操作(リモート操作)が可能に構成されてもよい。ショベル100が遠隔操作される場合、キャビン10の内部は、無人状態であってもよい。以下、オペレータの操作には、キャビン10のオペレータの操作装置26に対する操作、及び外部のオペレータの遠隔操作の少なくとも一方が含まれる前提で説明を進める。
例えば、図3に示すように、遠隔操作には、遠隔操作支援装置300で行われるショベル100のアクチュエータに関する操作入力によって、ショベル100が操作される態様が含まれる。
遠隔操作支援装置300は、例えば、ショベル100の作業を外部から管理する管理センタ等に設けられる。また、遠隔操作支援装置300は、可搬型の操作端末であってもよく、この場合、オペレータは、ショベル100の周辺からショベル100の作業状況を直接確認しながらショベル100の遠隔操作を行うことができる。
ショベル100は、例えば、後述の通信装置60を通じて、後述の撮像装置40が出力する撮像画像に基づくショベル100の前方を含む周辺の様子を表す画像(以下、「周辺画像」)を遠隔操作支援装置300に送信してよい。そして、遠隔操作支援装置300は、ショベル100から受信される画像(周辺画像)を表示装置に表示させてよい。また、ショベル100のキャビン10の内部の出力装置50(表示装置)に表示される各種の情報画像(情報画面)は、同様に、遠隔操作支援装置300の表示装置にも表示されてよい。これにより、遠隔操作支援装置300を利用するオペレータは、例えば、表示装置に表示されるショベル100の周辺の様子を表す画像や情報画面等の表示内容を確認しながら、ショベル100を遠隔操作することができる。そして、ショベル100は、通信装置60により遠隔操作支援装置300から受信される、遠隔操作の内容を表す遠隔操作信号に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動してよい。
また、遠隔操作には、例えば、ショベル100の周囲の人(例えば、作業者)のショベル100に対する外部からの音声入力やジェスチャ入力等によって、ショベル100が操作される態様が含まれてよい。具体的には、ショベル100は、自機に搭載される音声入力装置(例えば、マイクロフォン)やジェスチャ入力装置(例えば、撮像装置)等を通じて、周囲の作業者等により発話される音声や作業者等により行われるジェスチャ等を認識する。そして、ショベル100は、認識した音声やジェスチャ等の内容に応じて、アクチュエータを動作させ、下部走行体1(左右のクローラ1C)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動してもよい。
また、ショベル100の作業が遠隔監視されてもよい。この場合、遠隔操作支援装置300と同様の機能を有する遠隔監視支援装置が設けられてもよい。遠隔監視支援装置は、例えば、情報処理装置200である。これにより、遠隔監視支援装置のユーザである監視者は、遠隔監視支援装置の表示装置に表示される周辺画像を確認しながら、ショベル100の作業の状況を監視することができる。また、例えば、監視者は、安全性の観点から必要と判断した場合、遠隔監視支援装置の入力装置を用いて、所定の入力を行うことによって、ショベル100のオペレータによる操作に介入し緊急停止させることができる。
情報処理装置200は、ショベル100と通信を行うことにより相互に連携し、ショベル100の稼働に関する支援を行う。
情報処理装置200は、例えば、ショベル100の作業現場内の管理事務所、或いは、ショベル100の作業現場とは異なる場所にある、ショベル100の稼働状況等を管理する管理センタ等に設置されるサーバや管理用の端末装置である。管理用の端末装置は、例えば、デスクトップ型のPC(Personal Computer)等の定置型の端末装置であってもよいし、タブレット端末、スマートフォン、ラップトップ型のPC等の可搬型の端末装置(携帯端末)であってもよい。後者の場合、作業現場の作業者や作業を監督する監督者や作業現場を管理する管理者等は、可搬型の情報処理装置200を所持して作業現場内を移動することができる。また、後者の場合、オペレータは、例えば、可搬型の情報処理装置200をショベル100のキャビンに持ち込むことができる。また、情報処理装置200は、例えば、遠隔監視用、後述のオペレータに対するショベル100の動作の提案機能に関する処理用等の用途に応じて、複数設けられてもよい。
情報処理装置200は、例えば、ショベル100から稼働状態に関するデータを取得する。これにより、情報処理装置200は、ショベル100の稼働状態を把握し、ショベル100の異常の有無等を監視することができる。また、情報処理装置200は、後述の表示装置208を通じて、ショベル100の稼働状態に関するデータを表示し、ユーザに確認させることができる。
また、情報処理装置200は、例えば、ショベル100にコントローラ30等の処理で利用されるプログラムや参照データ等の各種データをショベル100に送信する。これにより、ショベル100は、情報処理装置200からダウンロードされる各種データを用いて、ショベル100の稼働に関する各種の処理を行うことができる。
また、情報処理装置200は、例えば、後述のオペレータに対するショベル100の動作の提案に関する機能(以下、「動作提案機能」)を支援するための処理を行う(図6参照)。詳細は、後述する。
[稼働支援システムのハードウェア構成]
次に、図1~図3に加えて、図4、図5を参照して、稼働支援システムSYSのハードウェア構成について説明する。
次に、図1~図3に加えて、図4、図5を参照して、稼働支援システムSYSのハードウェア構成について説明する。
<ショベルのハードウェア構成>
図4は、ショベル100のハードウェア構成の一例を示すブロック図である。
図4は、ショベル100のハードウェア構成の一例を示すブロック図である。
尚、図4では、機械的動力が伝達される経路は二重線、油圧アクチュエータを駆動する高圧の作動油が流れる経路は実線、パイロット圧が伝達される経路は破線、電気信号が伝達される経路は点線でそれぞれ示される。
ショベル100は、被駆動要素の油圧駆動に関する油圧駆動系、被駆動要素の操作に関する操作系、ユーザとの情報のやり取りに関するユーザインタフェース系、外部との通信に関する通信系、及び各種制御に関する制御系等のそれぞれの構成要素を含む。
≪油圧駆動系≫
図4に示すように、ショベル100の油圧駆動系は、上述の如く、下部走行体1(左右のクローラ1C)、上部旋回体3、及びアタッチメントAT等の被駆動要素のそれぞれを油圧駆動する油圧アクチュエータHAを含む。また、本実施形態に係るショベル100の油圧駆動系は、エンジン11と、レギュレータ13と、メインポンプ14と、コントロールバルブ17とを含む。
図4に示すように、ショベル100の油圧駆動系は、上述の如く、下部走行体1(左右のクローラ1C)、上部旋回体3、及びアタッチメントAT等の被駆動要素のそれぞれを油圧駆動する油圧アクチュエータHAを含む。また、本実施形態に係るショベル100の油圧駆動系は、エンジン11と、レギュレータ13と、メインポンプ14と、コントロールバルブ17とを含む。
油圧アクチュエータHAには、走行油圧モータ1ML,1MR、旋回油圧モータ2M、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等が含まれる。
尚、ショベル100は、油圧アクチュエータHAの一部又は全部が電動アクチュエータに置換されてもよい。つまり、ショベル100は、ハイブリッドショベルや電動ショベルであってもよい。
エンジン11は、ショベル100の原動機であり、油圧駆動系におけるメイン動力源である。エンジン11は、例えば、軽油を燃料とするディーゼルエンジンである。エンジン11は、例えば、上部旋回体3の後部に搭載される。エンジン11は、後述するコントローラ30による直接或いは間接的な制御下で、予め設定される目標回転数で一定回転し、メインポンプ14及びパイロットポンプ15を駆動する。
尚、エンジン11に代えて、或いは、加えて、他の原動機(例えば、電動機)等がショベル100に搭載されてもよい。
レギュレータ13は、コントローラ30の制御下で、メインポンプ14の吐出量を制御(調節)する。例えば、レギュレータ13は、コントローラ30からの制御指令に応じて、メインポンプ14の斜板の角度(以下、「傾転角」)を調節する。
メインポンプ14は、高圧油圧ラインを通じてコントロールバルブ17に作動油を供給する。メインポンプ14は、例えば、エンジン11と同様、上部旋回体3の後部に搭載される。メインポンプ14は、上述の如く、エンジン11により駆動される。メインポンプ14は、例えば、可変容量式油圧ポンプであり、上述の如く、コントローラ30の制御下で、レギュレータ13により斜板の傾転角が調節されることによりピストンのストローク長が調整され、吐出流量や吐出圧が制御される。
コントロールバルブ17は、オペレータの操作装置26に対する操作や遠隔操作の内容に応じて、油圧アクチュエータHAを駆動する。コントロールバルブ17は、例えば、上部旋回体3の中央部に搭載される。コントロールバルブ17は、上述の如く、高圧油圧ラインを介してメインポンプ14と接続され、メインポンプ14から供給される作動油を、オペレータの操作、或いは、自動運転機能に対応する操作指令に応じて、それぞれの油圧アクチュエータに選択的に供給する。具体的には、コントロールバルブ17は、メインポンプ14から油圧アクチュエータHAのそれぞれに供給される作動油の流量と流れる方向を制御する複数の制御弁(「方向切換弁」とも称する)を含む。
≪操作系≫
図4に示すように、ショベル100の操作系は、パイロットポンプ15と、操作装置26と、油圧制御弁31と、シャトル弁32と、油圧制御弁33とを含む。
図4に示すように、ショベル100の操作系は、パイロットポンプ15と、操作装置26と、油圧制御弁31と、シャトル弁32と、油圧制御弁33とを含む。
パイロットポンプ15は、パイロットライン25を介して各種油圧機器にパイロット圧を供給する。パイロットポンプ15は、例えば、エンジン11と同様、上部旋回体3の後部に搭載される。パイロットポンプ15は、例えば、固定容量式油圧ポンプであり、上述の如く、エンジン11により駆動される。
尚、パイロットポンプ15は、省略されてもよい。この場合、メインポンプ14から吐出される相対的に高い圧力の作動油が所定の減圧弁により減圧された後の相対的に低い圧力の作動油がパイロット圧として各種油圧機器に供給されてよい。
操作装置26は、キャビン10の操縦席付近に設けられ、オペレータが各種被駆動要素の操作を行うために用いられる。具体的には、操作装置26は、オペレータがそれぞれの被駆動要素を駆動する油圧アクチュエータHAの操作を行うために用いられ、その結果として、油圧アクチュエータHAの駆動対象の被駆動要素のオペレータによる操作を実現することができる。操作装置26は、それぞれの被駆動要素(油圧アクチュエータHA)を操作するためのペダル装置やレバー装置を含む。
例えば、図4に示すように、操作装置26は、油圧パイロット式である。具体的には、操作装置26は、パイロットライン25及びそこから分岐するパイロットライン25Aを通じてパイロットポンプ15から供給される作動油を利用し、操作内容に応じたパイロット圧を二次側のパイロットライン27Aに出力する。パイロットライン27Aは、シャトル弁32の一方の入口ポートに接続され、シャトル弁32の出口ポートに接続されるパイロットライン27を介して、コントロールバルブ17に接続される。これにより、コントロールバルブ17には、シャトル弁32を介して、操作装置26における各種被駆動要素(油圧アクチュエータHA)に関する操作内容に応じたパイロット圧が入力されうる。そのため、コントロールバルブ17は、オペレータ等による操作装置26に対する操作内容に応じて、それぞれの油圧アクチュエータHAを駆動することができる。
また、操作装置26は、電気式であってもよい。この場合、パイロットライン27A、シャトル弁32、及び油圧制御弁33は省略される。具体的には、操作装置26は、操作内容に応じた電気信号(以下、「操作信号」)を出力し、操作信号は、コントローラ30に取り込まれる。そして、コントローラ30は、操作信号の内容に応じた制御指令、つまり、操作装置26に対する操作内容に応じた制御信号を油圧制御弁31に出力する。これにより、油圧制御弁31からコントロールバルブ17に操作装置26の操作内容に応じたパイロット圧が入力され、コントロールバルブ17は、操作装置26の操作内容に応じて、それぞれの油圧アクチュエータHAを駆動することができる。
また、コントロールバルブ17に内蔵される、それぞれの油圧アクチュエータHAを駆動する制御弁(方向切換弁)は、電磁ソレノイド式であってもよい。この場合、操作装置26から出力される操作信号がコントロールバルブ17に、即ち、電磁ソレノイド式の制御弁に直接入力されてもよい。
また、上述の如く、油圧アクチュエータHAの一部又は全部は電動アクチュエータに置換されてもよい。この場合、コントローラ30は、操作装置26の操作内容や遠隔操作信号で規定される遠隔操作の内容に応じた制御指令を電動アクチュエータ或いは電動アクチュエータを駆動するドライバ等に出力してよい。また、ショベル100が遠隔操作される場合、操作装置26は省略されてもよい。
油圧制御弁31は、操作装置26の操作対象の被駆動要素(油圧アクチュエータHA)ごと且つ被駆動要素(油圧アクチュエータHA)の駆動方向(例えば、ブーム4の上げ方向及び下げ方向)ごとに設けられる。つまり、複動式である油圧アクチュエータHAごとに、2つの油圧制御弁31が設けられる。油圧制御弁31は、例えば、パイロットポンプ15とコントロールバルブ17との間のパイロットライン25Bに設けられ、その流路面積(即ち、作動油が通流可能な断面積)を変更可能に構成されてよい。これにより、油圧制御弁31は、パイロットライン25Bを通じて供給されるパイロットポンプ15の作動油を利用して、所定のパイロット圧を二次側のパイロットライン27Bに出力することができる。そのため、図4に示すように、油圧制御弁31は、パイロットライン27Bとパイロットライン27の間のシャトル弁32を通じて、間接的に、コントローラ30からの制御信号に応じた所定のパイロット圧をコントロールバルブ17に作用させることができる。そのため、コントローラ30は、油圧制御弁31から操作装置26の操作内容に応じたパイロット圧をコントロールバルブ17に供給させ、オペレータの操作に基づくショベル100の動作を実現することができる。
また、コントローラ30は、例えば、油圧制御弁31を制御し、ショベル100の遠隔操作を実現してもよい。具体的には、コントローラ30は、通信装置60によって、遠隔操作支援装置300から受信される遠隔操作信号で指定される遠隔操作の内容に対応する制御信号を油圧制御弁31に出力する。これにより、コントローラ30は、油圧制御弁31から遠隔操作の内容に対応するパイロット圧をコントロールバルブ17に供給させ、オペレータの遠隔操作に基づくショベル100の動作を実現することができる。
シャトル弁32は、2つの入口ポートと1つの出口ポートを有し、2つの入口ポートに入力されたパイロット圧のうちの高い方のパイロット圧を有する作動油を出口ポートに出力させる。シャトル弁32は、操作装置26の操作対象の被駆動要素(油圧アクチュエータHA)ごと且つ被駆動要素(油圧アクチュエータHA)の駆動方向ごとに設けられる。シャトル弁32の2つの入口ポートのうちの一方が操作装置26(具体的には、操作装置26に含まれる上述のレバー装置やペダル装置)の二次側のパイロットライン27Aに接続され、他方が油圧制御弁31の二次側のパイロットライン27Bに接続される。シャトル弁32の出口ポートは、パイロットライン27を通じて、コントロールバルブ17の対応する制御弁のパイロットポートに接続される。対応する制御弁とは、シャトル弁32の一方の入口ポートに接続される上述のレバー装置或いはペダル装置の操作対象である油圧アクチュエータを駆動する制御弁である。そのため、これらのシャトル弁32は、それぞれ、操作装置26の二次側のパイロットライン27Aのパイロット圧と油圧制御弁31の二次側のパイロットライン27Bのパイロット圧のうちの高い方を、対応する制御弁のパイロットポートに作用させることができる。つまり、コントローラ30は、操作装置26の二次側のパイロット圧よりも高いパイロット圧を油圧制御弁31から出力させることで、オペレータの操作装置26に対する操作に依らず、対応する制御弁を制御することができる。よって、コントローラ30は、オペレータの操作装置26に対する操作状態に依らず、被駆動要素(下部走行体1、上部旋回体3、アタッチメントAT)の動作を制御し、遠隔操作機能を実現することができる。
油圧制御弁33は、操作装置26とシャトル弁32とを接続するパイロットライン27Aに設けられる。油圧制御弁33は、例えば、その流路面積を変更可能なように構成される。油圧制御弁33は、コントローラ30から入力される制御信号に応じて動作する。これにより、コントローラ30は、オペレータにより操作装置26が操作されている場合に、操作装置26から出力されるパイロット圧を強制的に減圧させることができる。そのため、コントローラ30は、操作装置26が操作されている場合であっても、操作装置26の操作に対応する油圧アクチュエータの動作を強制的に抑制させたり停止させたりすることができる。また、コントローラ30は、例えば、操作装置26が操作されている場合であっても、操作装置26から出力されるパイロット圧を減圧させ、油圧制御弁31から出力されるパイロット圧よりも低くすることができる。そのため、コントローラ30は、油圧制御弁31及び油圧制御弁33を制御することで、例えば、操作装置26の操作内容とは無関係に、所望のパイロット圧をコントロールバルブ17内の制御弁のパイロットポートに確実に作用させることができる。よって、コントローラ30は、例えば、油圧制御弁31に加えて、油圧制御弁33を制御することで、ショベル100の遠隔操作機能をより適切に実現することができる。
≪ユーザインタフェース系≫
図4に示すように、ショベル100のユーザインタフェース系は、操作装置26と、出力装置50と、入力装置52とを含む。
図4に示すように、ショベル100のユーザインタフェース系は、操作装置26と、出力装置50と、入力装置52とを含む。
出力装置50は、ショベル100のユーザ(例えば、キャビン10のオペレータや外部の遠隔操作のオペレータ)やショベル100の周辺の人(例えば、作業者や作業車両の運転者)等に向けて各種情報を出力する。
例えば、出力装置50は、視覚的な方法で各種情報を出力する照明機器や表示装置50A(図6参照)等を含む。照明機器は、例えば、警告灯(インジケータランプ)等である。表示装置50Aは、例えば、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイ等である。例えば、図2に示すように、照明機器や表示装置50Aは、キャビン10の内部に設けられ、キャビン10の内部のオペレータ等に視覚的な方法で各種情報を出力してよい。また、照明機器や表示装置50Aは、例えば、上部旋回体3の側面等に設けられ、ショベル100の周囲の作業者等に視覚的な方法で各種情報を出力してもよい。
また、例えば、出力装置50は、聴覚的な方法で各種情報を出力する音出力装置50B(図6参照)を含む。音出力装置50Bには、例えば、ブザーやスピーカ等が含まれる。音出力装置50Bは、例えば、キャビン10の内部及び外部の少なくとも一方に設けられ、キャビン10の内部のオペレータやショベル100の周囲の人(作業者等)に聴覚的な方法で各種情報を出力してよい。
また、例えば、出力装置50は、操縦席の振動等の触覚的な方法で各種情報を出力する装置を含んでもよい。
入力装置52は、ショベル100のユーザからの各種入力を受け付け、受け付けられる入力に対応する信号は、コントローラ30に取り込まれる。入力装置52は、例えば、キャビン10の内部に設けられ、キャビン10の内部のオペレータ等からの入力を受け付ける。また、入力装置52は、例えば、上部旋回体3の側面等に設けられ、ショベル100の周辺の作業者等からの入力を受け付けてもよい。
例えば、入力装置52は、操作入力を受け付ける操作入力装置を含む。操作入力装置には、表示装置に実装されるタッチパネル、表示装置の周囲に設置されるタッチパッド、ボタンスイッチ、レバー、トグル、操作装置26(レバー装置)に設けられるノブスイッチ等が含まれてよい。
また、例えば、入力装置52は、ユーザの音声入力を受け付ける音声入力装置を含んでもよい。音声入力装置には、例えば、マイクロフォンが含まれる。
また、例えば、入力装置52は、ユーザのジェスチャ入力を受け付けるジェスチャ入力装置を含んでもよい。ジェスチャ入力装置には、例えば、ユーザが行うジェスチャの様子を撮像する撮像装置が含まれる。
また、例えば、入力装置52は、ユーザの生体入力を受け付ける生体入力装置を含んでもよい。生体入力には、例えば、ユーザの指紋、虹彩等の生体情報の入力が含まれる。
≪通信系≫
図4に示すように、本実施形態に係るショベル100の通信系は、通信装置60を含む。
図4に示すように、本実施形態に係るショベル100の通信系は、通信装置60を含む。
通信装置60は、外部の通信回線に接続し、ショベル100と別に設けられる装置と通信を行う。ショベル100と別に設けられる装置には、ショベル100の外部にある装置の他、ショベル100のユーザによってキャビン10に持ち込まれる可搬型の端末装置(携帯端末)が含まれてもよい。通信装置60は、例えば、4G(4th Generation)や5G(5th Generation)等の規格に準拠する移動体通信モジュールを含んでよい。また、通信装置60は、例えば、衛星通信モジュールを含んでもよい。また、通信装置60は、例えば、WiFi通信モジュールやブルートゥース(登録商標)通信モジュール等を含んでもよい。また、通信装置60は、接続対象の通信回線に合わせて、複数の通信装置を含んでもよい。
例えば、通信装置60は、作業現場に構築される局所的な通信回線を通じて、作業現場内の情報処理装置200や遠隔操作支援装置300等の外部装置と通信を行う。局所的な通信回線は、例えば、作業現場に構築される局所的な5G(いわゆるローカル5G)による移動体通信回線やWiFi6によるローカルネットワーク(LAN:Local Area Network)である。
また、例えば、通信装置60は、作業現場を含む広域の通信回線、即ち、広域ネットワーク(WAN:Wide Area Network)を通じて、作業現場の外部にある情報処理装置200や遠隔操作支援装置300等と通信を行う。広域ネットワークは、例えば、広域の移動体通信網や衛星通信網やインターネット網等を含む。
≪制御系≫
図4に示すように、ショベル100の制御系は、コントローラ30を含む。また、本実施形態に係るショベル100の制御系は、操作圧センサ29と、撮像装置40と、センサS1~S5とを含む。
図4に示すように、ショベル100の制御系は、コントローラ30を含む。また、本実施形態に係るショベル100の制御系は、操作圧センサ29と、撮像装置40と、センサS1~S5とを含む。
コントローラ30は、ショベル100に関する各種制御を行う。
コントローラ30の機能は、任意のハードウェア、或いは、任意のハードウェア及びソフトウェアの組み合わせ等により実現されてよい。例えば、図4に示すように、コントローラ30は、バスB1で接続される、補助記憶装置30A、メモリ装置30B、CPU(Central Processing Unit)30C、及びインタフェース装置30Dを含む。
補助記憶装置30Aは、不揮発性の記憶手段であり、インストールされるプログラムを格納すると共に、必要なファイルやデータ等を格納する。補助記憶装置30Aは、例えば、EEPROM(Electrically Erasable Programmable Read-Only Memory)やフラッシュメモリ等である。
メモリ装置30Bは、例えば、プログラムの起動指示があった場合に、補助記憶装置30AのプログラムをCPU30Cが読み込み可能なようにロードする。メモリ装置30Bは、例えば、SRAM(Static Random Access Memory)である。
CPU30Cは、例えば、メモリ装置30Bにロードされるプログラムを実行し、プログラムの命令に従って、コントローラ30の各種機能を実現する。
インタフェース装置30Dは、例えば、ショベル100の内部の通信回線に接続するための通信インタフェースとして機能する。インタフェース装置30Dは、接続する通信回線の種類に合わせて、複数の異なる種類の通信インタフェースを含んでよい。
また、インタフェース装置30Dは、記録媒体からのデータの読み取りや記録媒体へのデータの書き込みのための外部インタフェースとして機能する。記録媒体は、例えば、キャビン10の内部に設置されるコネクタに着脱可能なケーブルで接続される専用ツールである。また、記録媒体は、例えば、SDメモリカードやUSB(Universal Serial Bus)メモリ等の汎用の記録媒体であってもよい。これにより、コントローラ30の各種機能を実現するプログラムは、例えば、可搬型の記録媒体によって提供され、コントローラ30の補助記憶装置30Aにインストールされうる。また、プログラムは、通信装置60を通じて、ショベル100の外部の他のコンピュータからダウンロードされ、補助記憶装置30Aにインストールされてもよい。
尚、コントローラ30の機能の一部は、他のコントローラ(制御装置)により実現されてもよい。即ち、コントローラ30の機能は、複数のコントローラにより分散して実現される態様であってもよい。
操作圧センサ29は、油圧パイロット式の操作装置26の二次側(パイロットライン27A)のパイロット圧、即ち、操作装置26におけるそれぞれの被駆動要素(油圧アクチュエータ)の操作状態に対応するパイロット圧を検出する。操作圧センサ29による操作装置26におけるそれぞれの被駆動要素(油圧アクチュエータHA)に関する操作状態に対応するパイロット圧の検出信号は、コントローラ30に取り込まれる。
尚、操作装置26が電気式である場合、操作圧センサ29は省略される。コントローラ30は、操作装置26から取り込まれる操作信号に基づき、操作装置26を通じたそれぞれの被駆動要素の操作状態を把握することができるからである。
撮像装置40は、ショベル100の周辺の画像を取得する。また、撮像装置40は、取得した画像及び後述の距離に関するデータに基づき、撮像範囲(画角)内におけるショベル100の周辺の物体の位置及び外形を表す三次元データ(以下、単に「物体の三次元データ」)を取得(生成)してもよい。ショベル100の周辺の物体の三次元データは、例えば、物体の表面を表す点群の座標情報のデータや距離画像データ等である。
例えば、図2に示すように、撮像装置40は、上部旋回体3の前方を撮像するカメラ40F、上部旋回体3の後方を撮像するカメラ40B、上部旋回体3の左方を撮像するカメラ40L、及び上部旋回体3の右方を撮像するカメラ40Rを含む。これにより、撮像装置40は、ショベル100の上面視において、ショベル100を中心とする全周、即ち360度の角度方向に亘る範囲を撮像することができる。また、オペレータは、出力装置50(表示装置)や遠隔操作用表示装置を通じて、カメラ40B,40L,40Rの撮像画像や当該撮像画像に基づき生成される加工画像等の周辺画像を視認し、上部旋回体3の左方、右方、及び後方の様子を確認することができる。また、オペレータは、遠隔操作用表示装置を通じて、カメラ40Fの撮像画像や当該撮像画像に基づき生成される加工画像等の周辺画像を視認することで、バケット6を含むアタッチメントATの動作を確認しながら、ショベル100を遠隔操作することができる。以下、カメラ40F,40B,40L,40Rを包括的に、或いは、個別に、「カメラ40X」と称する場合がある。
カメラ40Xは、例えば、単眼カメラである。また、カメラ40Xは、例えば、ステレオカメラ、TOF(Time Of Flight)カメラ等(以下、包括的に「3Dカメラ」)のように、二次元の画像に加えて、距離(深度)に関するデータを取得可能であってもよい。
撮像装置40(カメラ40X)の出力データ(例えば、画像データやショベル100の周辺の物体の三次元データ等)は、一対一の通信線や車載ネットワークを通じて、コントローラ30に取り込まれる。これにより、例えば、コントローラ30は、カメラ40Xの出力データに基づき、ショベル100の周辺の物体に関する監視を行うことができる。また、例えば、コントローラ30は、カメラ40Xの出力データに基づき、ショベル100の周辺環境を判断することができる。また、例えば、コントローラ30は、カメラ40X(カメラ40F)の出力データに基づき、撮像画像に映るアタッチメントATの姿勢状態を判断することができる。また、例えば、コントローラ30は、カメラ40Xの出力データに基づき、ショベル100の周辺の物体を基準として、ショベル100の機体(上部旋回体3)の姿勢状態を判断することができる。
尚、カメラ40F,40B,40L,40Rのうちの一部が省略されてもよい。例えば、ショベル100の遠隔操作が行われない場合、カメラ40Fやカメラ40Lは、省略されてもよい。ショベル100の前方や左側方の様子は、キャビン10のオペレータから見て、比較的確認しやすいからである。また、撮像装置40(カメラ40X)に代えて、或いは、加えて、距離センサが上部旋回体3に設けられてもよい。距離センサは、例えば、上部旋回体3の上部に取り付けられ、ショベル100を基準とする周辺の物体の距離及び方向に関するデータを取得する。また、距離センサは、取得したデータに基づき、センシング範囲内におけるショベル100の周辺の物体の三次元データ(例えば、点群の座標情報のデータ)を取得(生成)してもよい。距離センサは、例えば、LIDAR(Light Detection and Ranging)である。また、例えば、距離センサは、例えば、ミリ波レーダや超音波センサや赤外線センサ等であってもよい。
センサS1は、ブーム4に取り付けられ、ブーム4の上部旋回体3との連結部に相当する基端の回転軸回りの姿勢角度(以下、「ブーム角度」)を検出する。センサS1は、例えば、ロータリポテンショメータ、ロータリエンコーダ、加速度センサ、角加速度センサ、6軸センサ、IMU(Inertial Measurement Unit:慣性計測装置)等を含む。以下、センサS2、センサS4についても同様であってよい。また、センサS1は、ブームシリンダ7の伸縮位置を検出するシリンダセンサを含んでもよい。以下、センサS2についても同様であってもよい。センサS1によるブーム角度の検出信号は、コントローラ30に取り込まれる。これにより、コントローラ30は、ブーム4の姿勢状態を把握することができる。
センサS2は、アーム5に取り付けられ、アーム5のブーム4との連結部に相当する基端の回転軸回りの姿勢角度(以下、「アーム角度」)を検出する。センサS2によるアーム角度の検出信号は、コントローラ30に取り込まれる。これにより、コントローラ30は、アーム5の姿勢状態を把握することができる。
センサS3は、バケット6に取り付けられ、バケット6のアーム5との連結部に相当する基端の回転軸回りの姿勢角度(以下、「アーム角度」)を検出する。センサS3によるアーム角度の検出信号は、コントローラ30に取り込まれる。これにより、コントローラ30は、バケット6の姿勢状態を把握することができる。
センサS4は、所定の基準面(例えば、水平面)に対する機体(例えば、上部旋回体3)の傾斜状態を検出する。センサS4は、例えば、上部旋回体3に取り付けられ、ショベル100(即ち、上部旋回体3)の前後方向及び左右方向の2軸回りの傾斜角度(以下、「前後傾斜角」及び「左右傾斜角」)を検出する。センサS4により検出される傾斜角度(前後傾斜角及び左右傾斜角)に対応する検出信号は、コントローラ30に取り込まれる。これにより、コントローラ30は、機体(上部旋回体3)の傾斜状態を把握することができる。
センサS5は、上部旋回体3に取り付けられ、上部旋回体3の旋回状態に関する検出情報を出力する。センサS5は、例えば、上部旋回体3の旋回角速度や旋回角度を検出する。センサS5は、例えば、ジャイロセンサ、レゾルバ、ロータリエンコーダ等を含む。センサS5により検出される旋回状態に関する検出情報は、コントローラ30に取り込まれる。これにより、コントローラ30は、上部旋回体3の旋回角度等の旋回状態を把握することができる。
尚、センサS4に3軸回りの角速度を検出可能なジャイロセンサ、6軸センサ、IMU等が含まれる場合、センサS4の検出信号に基づき上部旋回体3の旋回状態(例えば、旋回角速度)が検出されてもよい。この場合、センサS5は、省略されてもよい。また、撮像装置40や距離センサの出力に基づき、上部旋回体3やアタッチメントAT等の姿勢状態を把握することが可能な場合、センサS1~S5の少なくとも一部は省略されてもよい。
<情報処理装置のハードウェア構成>
図5は、情報処理装置200のハードウェア構成の一例を示すブロック図である。
図5は、情報処理装置200のハードウェア構成の一例を示すブロック図である。
情報処理装置200の機能は、任意のハードウェア或いは任意のハードウェア及びソフトウェアの組み合わせ等により実現される。例えば、図5に示すように、情報処理装置200は、バスB2で接続される、外部インタフェース201、補助記憶装置202、メモリ装置203、CPU204、高速演算装置205、通信インタフェース206、入力装置207、及び表示装置208を含む。
外部インタフェース201は、記録媒体201Aからデータの読み取りや記録媒体201Aへのデータの書き込みのためのインタフェースとして機能する。記録媒体201Aには、例えば、フレキシブルディスク、CD(Compact Disc)、DVD(Digital Versatile Disc)、BD(Blu-ray(登録商標) Disc)、SDメモリカード、USBメモリ等が含まれる。これにより、情報処理装置200は、記録媒体201Aを通じて、処理で利用する各種データを読み込み、補助記憶装置202に格納したり、各種機能を実現するプログラムをインストールしたりすることができる。
尚、情報処理装置200は、通信インタフェース206を通じて、外部装置から処理で利用する各種データやプログラムを取得してもよい。
補助記憶装置202は、インストールされた各種プログラムを格納すると共に、各種処理に必要なファイルやデータ等を格納する。補助記憶装置202は、例えば、HDD(Hard Disc Drive)やSSD(Solid State Disc)やフラッシュメモリ等を含む。
メモリ装置203は、プログラムの起動指示があった場合に、補助記憶装置202からプログラムを読み出して格納する。メモリ装置203は、例えば、DRAM(Dynamic Random Access Memory)やSRAMを含む。
CPU204は、補助記憶装置202からメモリ装置203にロードされた各種プログラムを実行し、プログラムに従って情報処理装置200に関する各種機能を実現する。
高速演算装置205は、CPU204と連動し、相対的に高い速度で演算処理を行う。高速演算装置205は、例えば、GPU(Graphics Processing Unit)やASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)等を含む。
尚、高速演算装置205は、必要な演算処理の速度に応じて、省略されてもよい。
通信インタフェース206は、外部機器と通信可能に接続するためのインタフェースとして用いられる。これにより、情報処理装置200は、通信インタフェース206を通じて、例えば、ショベル100等の外部機器と通信することができる。また、通信インタフェース206は、接続される機器との間の通信方式等によって、複数の種類の通信インタフェースを有してもよい。
入力装置207は、ユーザから各種入力を受け付ける。
入力装置207は、例えば、ユーザからの機械的な操作入力を受け付ける操作入力装置を含む。操作入力装置は、例えば、ボタン、トグル、レバー等を含む。また、操作入力装置は、例えば、表示装置208に実装されるタッチパネル、表示装置208とは別に設けられるタッチパッド等を含む。
また、入力装置207は、例えば、ユーザからの音声入力を受付可能な音声入力装置を含む。音声入力装置は、例えば、ユーザの音声を集音可能なマイクロフォンを含む。
また、入力装置207は、例えば、ユーザからのジェスチャ入力を受付可能なジェスチャ入力装置を含む。ジェスチャ入力装置は、例えば、ユーザのジェスチャの様子を撮像可能なカメラを含む。
また、入力装置207は、例えば、ユーザからの生体入力を受付可能な生体入力装置を含む。生体入力装置は、例えば、ユーザの指紋や虹彩に関する情報を内包する画像データを取得可能なカメラを含む。
表示装置208は、ユーザに向けて、情報画面や操作画面を表示する。例えば、表示装置208には、上述の遠隔操作用表示装置が含まれる。表示装置208は、例えば、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイ等である。
尚、遠隔操作支援装置300についても、情報処理装置200と同様、任意のハードウェア或いは任意のハードウェア及びソフトウェアの組み合わせ等により実現され、同様のハードウェア構成が採用されてよい。例えば、遠隔操作支援装置300は、情報処理装置200(図5)と同様、CPU、メモリ装置、補助記憶装置、インタフェース装置、入力装置、及び表示装置を含むコンピュータを中心に構成される。メモリ装置は、例えば、SRAMやDRAM等である。補助記憶装置は、例えば、HDDやSSDやEEPROMやフラッシュメモリ等である。インタフェース装置は、外部の記録媒体と接続するための外部インタフェースやショベル100等の外部と通信を行う通信インタフェースを含む。入力装置は、例えば、レバー式の操作入力装置を含む。これにより、オペレータは、操作入力装置を用いて、ショベル100のアクチュエータに関する操作入力を行い、遠隔操作支援装置300は、通信インタフェースを用いて、操作入力に対応する信号をショベル100に送信することができる。そのため、オペレータは、遠隔操作支援装置を利用したショベル100の遠隔操作を行うことができる。
[ショベルの動作提案機能の第1例]
次に、図1~図5に加えて、図6、図7を参照して、ユーザ(オペレータ)に対するショベル100の動作に関する提案機能(動作提案機能)の第1例について説明する。
次に、図1~図5に加えて、図6、図7を参照して、ユーザ(オペレータ)に対するショベル100の動作に関する提案機能(動作提案機能)の第1例について説明する。
<機能構成>
図6は、稼働支援システムSYSの動作提案機能に関する機能構成の第1例を示す機能ブロック図である。
図6は、稼働支援システムSYSの動作提案機能に関する機能構成の第1例を示す機能ブロック図である。
ショベル100は、支援装置150を含む。支援装置150は、オペレータによるショベル100の操作を支援する。
図6に示すように、支援装置150は、コントローラ30と、撮像装置40と、出力装置50と、通信装置60とを含む。
コントローラ30は、機能部として、動作ログ提供部301と、作業支援部302とを含む。
尚、稼働支援システムSYSに含まれるショベル100が複数台である場合、コントローラ30が動作ログ提供部301及び作業支援部302のうちの前者のみを含むショベル100と、後者のみを含むショベル100とが存在してもよい。この場合、前者のショベル100は、後者のショベル100におけるオペレータの操作支援機能(動作提案機能)のために用いられる、ショベル100の動作ログを取得し情報処理装置200に提供する機能のみを有する。以下、後述の第2例(図8)の場合についても同様であってよい。
情報処理装置200は、機能部として、動作ログ取得部2001と、動作ログ記憶部2002と、教師データ生成部2003と、機械学習部2004と、学習済みモデル記憶部2005と、配信部2006とを含む。
動作ログ提供部301は、動作提案機能を実現するための元データである、ショベル100の動作ログを取得し、情報処理装置200に提供するための機能部である。具体的には、ショベル100の運転歴が長く、相対的に経験のあるオペレータ(以下、便宜的に「熟練者」)がショベル100を操作したときの動作ログを取得し、情報処理装置200に提供する。
ショベル100の動作ログは、ショベル100の周辺の作業対象の形状に関するデータと、その作業対象の形状に対して実行された、ショベル100の動作に関するデータとを含む。ショベル100の周辺の作業対象の形状に関するデータは、例えば、ショベル100の作業対象としての作業現場の地面の地形形状に関するデータである。ショベル100の作業対象の形状に関するデータは、例えば、撮像装置40の画像データやその画像データから得られる、作業対象の三次元データである。ショベル100の動作に関するデータは、例えば、オペレータの操作内容を表すデータである。オペレータの操作内容を表すデータは、例えば、油圧パイロット式の操作装置26の場合における操作圧センサ29の出力データや電気式の操作装置26の場合における操作装置26の出力データ(操作信号のデータ)である。また、ショベル100の動作に関するデータは、オペレータの操作に応じて実際に実行された、ショベル100の動作状態を表すデータであってもよい。ショベル100の動作状態を表すデータは、例えば、センサS1~S5の出力データ、或いは、センサS1~S5の出力データから取得される、ショベル100の姿勢状態に関するデータである。
動作ログ提供部301は、動作ログ記録部301Aと、動作ログ記憶部301Bと、動作ログ送信部301Cとを含む。
動作ログ記録部301Aは、ショベル100の動作ログを取得し、動作ログ記憶部301Bに記録する。例えば、動作ログ記録部301Aは、ショベル100の動作が実行されるごとに、その動作の実行開始時或いは実行直前のショベル100の周辺の作業対象の形状に関するデータ、及びショベル100のその動作に関するデータを動作ログ記憶部301Bに記録する。
動作ログ記憶部301Bには、ショベル100の動作ログが蓄積される形で記憶される。例えば、動作ログ記憶部301Bには、ショベル100の動作ごとのショベル100の周辺の作業対象の形状に関するデータと、ショベル100の動作に関するデータとが紐づけられる形で記憶される。具体的には、動作ログ記憶部301Bには、ショベル100の動作ごとのショベル100の周辺の作業対象の形状に関するデータ、及びショベル100の動作に関するデータの対応関係を表すレコードデータが蓄積され、動作ログのデータベースが構築されてよい。
尚、後述の動作ログ送信部301Cにより情報処理装置200に送信済みの動作ログ記憶部301Bの動作ログは、事後的に消去されてもよい。
動作ログ送信部301Cは、動作ログ記憶部301Bに記憶される、ショベル100の動作ログを、通信装置60を通じて情報処理装置200に送信する。また、動作ログ送信部301Cは、ショベル100の動作ごとのショベル100の周辺の作業対象の形状に関するデータ、及びショベル100の動作に関するデータの対応関係を表すレコードデータを併せて情報処理装置200に送信してもよい。
例えば、動作ログ送信部301Cは、情報処理装置200から受信される、ショベル100の動作ログの送信を要求する信号(以下、「送信要求信号」)に応じて、動作ログ記憶部301Bに記憶される、未送信のショベル100の動作ログを情報処理装置200に送信する。また、動作ログ送信部301Cは、所定のタイミングで、動作ログ記憶部301Bに記憶される、未送信のショベル100の動作ログを自動的に情報処理装置200に送信してもよい。所定のタイミングは、例えば、ショベル100の稼働停止(キースイッチのオフ)時や稼働開始(キースイッチのオン)時である。
動作ログ取得部2001は、ショベル100から受信される、ショベル100の動作ログを取得する。
動作ログ取得部2001は、情報処理装置200のユーザの操作に応じて、或いは、所定のタイミングで自動的に、ショベル100に送信要求信号を送信することにより、ショベル100の動作ログを取得する。また、動作ログ取得部2001は、ショベル100から所定のタイミングで送信される、ショベル100の動作ログを取得してもよい。
動作ログ記憶部2002には、動作ログ取得部2001により取得された、ショベル100の動作ログが蓄積される形で記憶される。例えば、動作ログ記憶部2002には、動作ログ記憶部301Bの場合と同様、ショベル100の動作ごとのショベル100の周辺の作業対象の形状に関するデータと、ショベル100の動作に関するデータとが紐づけられる形で記憶される。
教師データ生成部2003は、動作ログ記憶部2002のショベル100の動作ログに基づき、機械学習用の教師データを生成する。教師データ生成部2003は、バッチ処理によって、自動的に教師データを生成してもよいし、情報処理装置200のユーザからの入力に応じて、教師データを生成してもよい。教師データは、入力データとしてのショベル100の周辺の作業対象の形状に関するデータと、正解の出力データとしての入力データに相当する作業対象の形状に対応するショベル100の動作を表すデータ(以下、「正解データ」)との組み合わせのデータである。
正解データは、例えば、所定の作業で実行されうる複数の候補の動作の中から選択される、動作の種類を表すデータを含む。複数の候補の動作は、例えば、作業現場の地面の整地作業の場合、掃出し動作、水平引き動作、転圧動作、及びほうき動作等を含む。掃出し動作は、例えば、アタッチメントATを動作させ、バケット6を地面に沿って前方に押し出すことで、バケット6の背面で土砂を前方に掃出す動作である。掃出し動作では、例えば、アタッチメントATは、ブーム4を下げ動作、及びアーム5の開き動作を行う。水平引き動作は、例えば、アタッチメントATを動作させ、バケット6の爪先を地面に沿って略水平に手前に向かって引きつけるように移動させることで、地面の表面の凹凸を均す動作である。水平引き動作では、例えば、アタッチメントATは、ブーム4の上げ動作、アーム5の閉じ動作を行う。転圧動作は、例えば、アタッチメントATを動作させ、バケット6の背面で地面を押し付ける動作である。また、転圧動作は、バケット6を地面に沿って前方に押し出すことで、バケット6の背面で土砂を前方の所定の位置まで掃出した後に、所定の位置の地面をバケット6の背面で地面を押し付ける動作であってもよい。転圧動作では、例えば、アタッチメントATは、地面を押し付ける際にブーム4の下げ動作を行う。ほうき動作は、例えば、上部旋回体3を動作させ、バケット6を地面に沿わせた状態で左右に旋回させる動作である。また、ほうき動作は、例えば、アタッチメントAT及び上部旋回体3を動作させ、バケット6を地面に沿わせた状態で左右交互に旋回させながら、バケット6を前方の押し出す動作であってもよい。ほうき動作では、例えば、上部旋回体3が左右の旋回動作を交互に繰り返す。また、ほうき動作では、例えば、上部旋回体3の左右交互の旋回動作に加えて、掃出し動作の場合と同様、アタッチメントATがブーム4の下げ動作及びアーム5の開き動作を行ってもよい。また、正解データは、例えば、ショベル100の動作時のバケット6の軌跡を表すデータを含んでもよい。
機械学習部2004は、教師データ生成部2003により生成される教師データのセットに基づき、ベースの学習モデルに機械学習を行わせ、学習済みモデルLMを生成する。学習済みモデルLM(ベースの学習モデル)は、例えば、DNN(Deep Neural Network)等のニューラルネットワークを含む。
学習済みモデルLMは、例えば、ショベル100の周辺の作業対象の形状に関するデータを入力条件として、所定の作業で実行される複数の候補の動作ごとの予測確率を出力する。この予測確率は、候補の動作の信頼度を表す。学習済みモデルLMには、上述の如く、熟練者によるショベル100の操作時の動作ログが反映され、予測確率が高いほど、その候補の動作を選択する信頼度が高いと考えられるからである。また、この予測確率は、入力条件としてのショベル100の周辺の作業対象の形状に対する適合度を表す。予測確率が高いほど、熟練者が作業対象の形状に対してその候補の動作が適していると判断する可能性が高いと考えられるからである。また、学習済みモデルLMは、ショベル100の周辺の作業対象の形状に関するデータを入力条件として、複数の候補の動作ごとのバケット6の軌道(以下、「目標軌道」)を表すデータを出力してもよい。また、学習済みモデルは、ショベル100の周辺の作業対象の形状に関するデータを入力条件として、複数の候補の動作ごとに、バケット6の目標軌道を表すデータを複数出力すると共に、その複数のバケット6の目標軌道ごとの予測確率を出力してもよい。この予測確率は、候補の動作の予測確率の場合と同様、対象の目標軌道の信頼度や入力条件としてのショベル100の周辺の作業対象の形状に対する適合度を表す。また、学習済みモデルLMは、複数の異なる作業ごとに生成されてもよい。例えば、学習済みモデルLMは、整地作業、法面施工作業、及び盛土作業等の作業ごとに生成される。
学習済みモデル記憶部2005には、機械学習部2004により出力される学習済みモデルLMが記憶される。
配信部2006は、学習済みモデルLMをショベル100に配信する。
例えば、配信部2006は、機械学習部2004により学習済みモデルLMが生成されると、直近で生成された学習済みモデルLMをショベル100に配信する。また、配信部2006は、ショベル100から受信される、学習済みモデルLMの配信を要求する信号に応じて、学習済みモデル記憶部2005の最新の学習済みモデルLMをショベル100に配信してもよい。
作業支援部302は、オペレータの操作によるショベル100の作業を支援するための機能部である。
作業支援部302は、学習済みモデル記憶部302Aと、作業対象形状取得部302Bと、推定部302Cと、提案部302Dとを含む。
学習済みモデル記憶部302Aには、情報処理装置200から配信され、通信装置60を通じて受信される学習済みモデルLMが記憶される。
作業対象形状取得部302Bは、撮像装置40や距離センサの出力に基づき、ショベル100の周辺の作業対象の形状(地形形状)に関するデータを取得する。
推定部302Cは、ショベル100の周辺の作業対象の形状に関するデータに基づき、所定の作業で実施されうる複数の候補の動作の中で、ショベル100の周辺の作業対象の形状に対して、信頼度や適合度が相対的に高い動作を推定する。また、推定部302Cは、ショベル100の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作ごとに、信頼度や適合度が相対的に高い、一又は複数のバケット6の目標軌道を推定してもよい。
具体的には、推定部302Cは、学習済みモデルLMを用いて、ショベル100の周辺の作業対象の形状に関するデータを入力条件として、ショベル100の周辺の作業対象の形状に対して、信頼度や適合度が相対的に高い動作を推定してよい。また、推定部302Cは、学習済みモデルLMを用いて、ショベル100の周辺の作業対象の形状に関するデータを入力条件として、信頼度や適合度が相対的に高い、一又は複数のバケット6の目標軌道を推定してもよい。
提案部302Dは、推定部302Cの推定結果に基づき、表示装置50A等の出力装置50を通じて、ショベル100の周辺の作業対象の形状に対する信頼度や適合度が相対的に高い、ショベル100の動作をキャビン10のオペレータに提案する。これにより、経験の浅いオペレータであっても、現在のショベル100の周辺の作業対象の形状に合わせて、より適切な動作を選択することができる。そのため、オペレータの利便性を向上させることができると共に、ショベル100の作業効率を向上させることができる。オペレータに提案される動作は、1つであってもよいし、複数であってもよい。例えば、提案部302Dは、複数の候補の動作の全部又は一部について、ショベル100の周辺の作業対象の形状に対する適合度(信頼度)の数値を通知することにより、相対的に適合度の高い動作を提案する(後述の図10参照)。
また、提案部302Dは、推定部302Cの推定結果に基づき、出力装置50を通じて、ショベル100の周辺の作業対象の形状に対する信頼度や適合度が相対的に高い、提案対象の動作におけるバケット6の1つの目標軌道を提案してもよい。これにより、経験の浅いオペレータであっても、現在のショベル100の周辺の作業対象の形状に合わせて、より適切なバケット6の目標軌道を把握し、その目標軌道を実現するように、ショベル100を操作することができる。そのため、オペレータの利便性をより向上させることができると共に、ショベル100の作業効率をより向上させることができる。
また、提案部302Dは、動作対象の出力装置50を通じて、ショベル100の周辺の作業対象の形状に対する信頼度や適合度が相対的に高い、提案対象の動作におけるバケット6の複数の目標軌道を提案してもよい。これにより、オペレータは、現在のショベル100の周辺の作業対象の形状に合わせて、より適切なバケット6の複数の目標軌道を把握し、自らが選択する1つの目標軌道を実現するように、ショベル100を操作することができる。そのため、オペレータの意思を反映させる形で、ショベル100の作業効率を向上させることができる。例えば、提案部302Dは、提案対象の動作の複数の目標軌道ごとに、ショベル100の周辺の作業対象の形状に対する適合度(信頼度)の数値を通知することにより、相対的に適合度の高いバケット6の目標軌道を提案する(後述の図11、図13参照)。
また、ショベル100が遠隔操作される場合、提案部302Dは、通信装置60を通じて、信頼度や適合度が相対的に高い動作やバケット6の目標軌道を、遠隔操作支援装置300を利用するオペレータに提案してもよい。この場合、提案部302Dは、通信装置60を通じて、提案内容を表すデータを遠隔操作支援装置300に送信する。これにより、遠隔操作支援装置300は、表示装置や音出力装置等を用いて、信頼度や適合度が相対的に高い動作やバケット6の目標軌道を、遠隔操作支援装置300を利用するオペレータに提案することができる。
<処理>
図7は、ショベル100の動作提案機能に関する処理の第1例を概略的に示すフローチャートである。
図7は、ショベル100の動作提案機能に関する処理の第1例を概略的に示すフローチャートである。
図7のフローチャートは、例えば、入力装置52或いは遠隔操作支援装置300の入力装置を通じて、動作提案機能を開始させる所定の入力が受け付けられると開始される。以下、後述の図9のフローチャートについても同様であってよい。
図7に示すように、ステップS102(取得ステップの一例)にて、作業対象形状取得部302Bは、撮像装置40の出力に基づき、ショベル100の周辺の作業対象の形状に関するデータを取得する。
コントローラ30は、ステップS102の処理が完了すると、ステップS104に進む。
ステップS104にて、推定部302Cは、ステップS102で取得されるデータに基づき、現在のショベル100の周辺の作業対象の形状に対する適合度(信頼度)が相対的に高い動作を推定する。
コントローラ30は、ステップS104の処理が完了すると、ステップS106に進む。
ステップS106(提案ステップの一例)にて、提案部302Dは、ステップS104の推定結果に基づき、複数の候補の動作のうちの提案対象の動作やその動作の目標軌道を表示装置50Aに表示させる。
コントローラ30は、ステップS106の処理が完了すると、ステップS108に進む。
ステップS108にて、コントローラ30は、被駆動要素(アクチュエータ)の操作がされたか否かを判定する。コントローラ30は、被駆動要素の操作がされていない場合、ステップS110に進み、操作がされている場合、ステップS112に進む。
ステップS110にて、コントローラ30は、終了条件が成立したか否かを判定する。終了条件は、例えば、入力装置52や遠隔操作支援装置300の入力装置を通じて、オペレータからの動作提案機能の終了を表す所定の入力が受け付けられることである。また、終了条件は、入力装置52や遠隔操作支援装置300の入力装置を通じて、オペレータからの作業終了を表す所定の入力が受け付けられることであってもよい。また、終了条件は、コントローラ30が撮像装置40の撮像画像に基づき作業の終了を判断することであってもよい。コントローラ30は、終了条件が成立している場合、今回のフローチャートの処理を終了し、終了条件が成立していない場合、ステップS108に戻る。
一方、ステップS112にて、コントローラ30は、操作装置26の操作状態やショベル100の動作状態等に基づき、ショベル100の1つの動作に対応する被駆動要素の操作が完了したか否かを判定する。コントローラ30は、操作圧センサ29の出力、操作装置26から出力される操作信号、センサS1~S5の出力等に基づき、操作装置26の操作状態やショベル100の動作状態等を把握することができる。コントローラ30は、ショベル100の1つの動作に対応する被駆動要素の操作が完了している場合、ステップS114に進み、完了していない場合、完了するまで待機する(ステップS112の処理を繰り返す)。
ステップS114にて、コントローラ30は、終了条件が成立したか否かを判定する。コントローラ30は、終了条件が成立している場合、今回のフローチャートの処理を終了し、終了条件が成立していない場合、ステップS102に戻る。
このように、本例では、支援装置150は、ショベル100の周辺の作業対象の形状に対して、適合度(信頼度)の高いショベル100の動作やバケット6の目標軌道を、表示装置50Aや遠隔操作支援装置300を通じてオペレータに提案することができる。
[ショベルの動作提案機能の第2例]
次に、図1~図5に加えて、図8、図9を参照して、ユーザ(オペレータ)に対するショベル100の動作提案機能の第2例について説明する。
次に、図1~図5に加えて、図8、図9を参照して、ユーザ(オペレータ)に対するショベル100の動作提案機能の第2例について説明する。
以下、上述の第1例と異なる部分を中心に説明し、上述の第1例と同じ或いは対応する内容の説明を簡略化或いは省略する場合がある。
<機能構成>
図8は、稼働支援システムSYSの動作提案機能に関する機能構成の第1例を示す機能ブロック図である。
図8は、稼働支援システムSYSの動作提案機能に関する機能構成の第1例を示す機能ブロック図である。
図8に示すように、ショベル100の支援装置150は、コントローラ30と、油圧制御弁31と、撮像装置40と、出力装置50(表示装置50A)と、入力装置52と、通信装置60とを含む。
コントローラ30は、機能部として、上述の第1例と同様、動作ログ提供部301と、作業支援部302とを含む。
作業支援部302は、学習済みモデル記憶部302Aと、作業対象形状取得部302Bと、推定部302Cと、提案部302Dと、動作制御部302Eとを含む。
動作制御部302Eは、入力装置52や通信装置60を通じて受け付けられる、オペレータからの指示の入力に応じて、油圧制御弁31を制御し、提案部302Dによりオペレータに提案されたショベル100の動作を自動で実行させる。これにより、支援装置150は、オペレータからの指示の入力を前提として、現在のショベル100の周辺の作業対象の形状に合わせて、提案対象の動作をショベル100に自動で実施させることができる。そのため、経験の浅いオペレータであっても、指示の入力行うだけで、現在のショベル100の周辺の作業対象の形状に合わせたショベル100の動作をより適切に実施させることができる。そのため、オペレータの利便性をより向上させることができると共に、ショベル100の作業効率をより向上させることができる。
例えば、提案対象の動作が1つである場合、動作制御部302Eは、オペレータからの指示の入力に応じて、油圧制御弁31を制御し、提案部302Dによる提案対象のショベル100の動作を自動で実行させる。また、例えば、提案対象の動作が複数である場合、動作制御部302Eは、提案対象の複数の動作のうちのオペレータの指示の入力で選択される一の動作を自動で実行させる。また、例えば、提案部302Dによりバケット6の1つの目標軌道が提案される場合、動作制御部302Eは、提案対象のショベル100の動作をバケット6が提案対象の目標軌道に沿って移動するように自動で実行させる。また、例えば、提案部302Dによりバケット6の複数の目標軌道が提案される場合、動作制御部302Eは、複数の目標軌道のうちのオペレータの指示の入力で選択される一の目標軌道でバケット6が移動するように提案対象の動作を自動で実行させる。
動作ログ記録部301Aは、作業対象形状取得部302Bにより取得される作業対象の形状に関するデータ、及び動作制御部302Eにより実施された動作や目標軌道を表すデータを含む動作ログを動作ログ記憶部301Bに記録する。これにより、動作ログ送信部301Cは、作業対象の形状に関するデータと、その作業対象の形状を前提として、実際にオペレータが実行させたショベル100の動作や目標軌道を表すデータを含む動作ログを動作ログ記憶部301Bに蓄積させることができる。そして、動作ログ送信部301Cは、その蓄積される動作ログを情報処理装置200にアップロードすることができる。そのため、機械学習部2004は、その動作ログを用いて、学習済みモデルLMを再学習させたり追加学習させたりして、学習済みモデルLMを更新することができる。
また、機械学習部2004は、再学習或いは追加学習させた学習済みモデルLMと現在の学習済みモデルLMとを所定の評価用のデータを用いて比較し、前者の評価結果が高い場合に、学習済みモデル記憶部2005の学習済みモデルLMを更新してもよい。
<処理>
図9は、ショベル100の動作提案機能に関する処理の第2例を概略的に示すフローチャートである。
図9は、ショベル100の動作提案機能に関する処理の第2例を概略的に示すフローチャートである。
図9に示すように、ステップS202~S206の処理は、図7のステップS102~S106と同じであるため、説明を省略する。
コントローラ30は、ステップS206の処理が完了すると、ステップS208に進む。
ステップS208にて、コントローラ30は、入力装置52や通信装置60を通じて、オペレータから提案対象の動作の実行を指示する入力(以下、「実行指示の入力」)が受け付けられたか否かを判定する。コントローラ30は、実行指示の入力が受け付けられていない場合、ステップS210に進み、受け付けられた場合、ステップS212に進む。
ステップS210にて、コントローラ30は、終了条件が成立したか否かを判定する。コントローラ30は、終了条件が成立している場合、今回のフローチャートの処理を終了し、終了条件が成立していない場合、ステップS208に戻る。
一方、ステップS212にて、動作制御部302Eは、油圧制御弁31を制御し、実行指示の入力で指定される動作を自動で実行させる。また、動作制御部302Eは、実行指示の入力で目標軌道が指示される場合、実行指示の入力で指定される目標軌道でバケット6が移動するように、実行指示の入力で指定されるショベル100の動作を実行させる。
コントローラ30は、ステップS212の処理が完了すると、ステップS214に進む。
ステップS214にて、動作ログ記録部301Aは、作業対象形状取得部302Bにより取得される作業対象の形状に関するデータ、及び動作制御部302Eにより実施された動作や目標軌道を表すデータを含む動作ログを動作ログ記憶部301Bに記録する。
コントローラ30は、ステップS214の処理が完了すると、ステップS216に進む。
ステップS216コントローラ30は、終了条件が成立したか否かを判定する。コントローラ30は、終了条件が成立している場合、今回のフローチャートの処理を終了し、終了条件が成立していない場合、ステップS202に戻る。
尚、本例では、作業対象形状取得部302Bは、前回のステップS212の処理のショベル100の動作による作業対象の形状の変化を予測することにより、作業対象の形状に関するデータを取得してもよい。
このように、本例では、支援装置150は、オペレータの指示に応じて、ショベル100の周辺の作業対象の形状に対して、適合度(信頼度)の高いショベル100の動作やバケット6の目標軌道を自動で実行させることができる。
また、本例では、支援装置150は、ショベル100の周辺の作業対象の形状に関するデータ、及び自動で実施されたショベル100の動作や目標軌道に関するデータを含む動作ログを蓄積させることができる。そのため、支援装置150は、蓄積される動作ログを用いて、学習済みモデルLMを更新させることができる。
[ショベルの動作提案機能に関する表示内容の具体例]
次に、図10~図15を参照して、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の具体例について説明する。
次に、図10~図15を参照して、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の具体例について説明する。
尚、図10~図15の表示内容は、遠隔操作支援装置300の表示装置に表示されてもよい。
<第1例>
図10は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第1例(画面1000)を示す図である。
図10は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第1例(画面1000)を示す図である。
画面1000には、画像1001~1006が含まれる。
画像1001は、ショベル100の周辺の作業対象を表す画像である。本例では、画像1001は、既知の画像処理技術を用いて、撮像装置40の出力(画像データ)に基づき生成される、ショベル100の周辺の所定の視点から見たときのショベル100の周辺の作業対象(作業現場の地面)を表す画像である。
画像1002は、ショベル100を模式的に表す画像である。本例では、画像1002は、画像1001と同じ視点から見たときのショベル100を模式的に表す画像であり、画像1001に重畳して表示される。
画像1003は、複数の候補の動作の中の提案部302Dによる提案対象の動作をリスト形式で表す画像である。本例では、画像1003には、提案対象の動作として、複数の候補の動作の中から掃出し動作、水平引き動作、転圧動作、及びほうき動作のそれぞれの行を表す画像1003A~1003Dが含まれる。また、本例では、画像1003A~1003Dには、ほうき動作、掃出し動作、水平引き動作、及び転圧動作ごとの信頼度(適合度)が表現されている。これにより、オペレータは、提案対象の動作の中から信頼度(適合度)を考慮して、自身の操作により或いは自動でショベル100に実行させる動作を選択することができる。
尚、画像1003には、信頼度(適合度)が最も高い動作(本例では、掃出し動作)のみが表現されてもよい。つまり、提案部302Dは、画像1003を通じて、所定の作業における複数の候補の動作のうちの信頼度(適合度)が最も高い動作のみをオペレータに提案してもよい。また、画像1003には、複数の候補の動作の中で、信頼度(適合度)が所定基準(例えば、30%)以上の動作(例えば、掃出し動作、及び水平引き動作)のみが表現されてもよい。つまり、提案部302Dは、複数の候補の動作の中で、信頼度(適合度)が所定基準以上の動作のみをオペレータに提案してもよい。
画像1004は、画像1003に表現される、提案対象の動作ごとの目標軌道を表す画像である。画像1004は、画像1002の周辺において、画像1001に重畳して表示される。これにより、オペレータは、ショベル100の周辺の作業現場の地面の状態を表す画像1001及びショベル100を表す画像1002と比較しながら、提案対象の動作ごとの目標軌道を容易に把握することができる。画像1004は、画像1004A~1004Dを含む。
画像1004Aは、掃出し動作の目標軌道を表す画像である。
画像1004Bは、水平引き動作の目標軌道を表す画像である。
画像1004Cは、転圧動作の目標軌道を表す画像である。
画像1004Dは、ほうき動作の目標軌道を表す画像である。
尚、画像1004A~1004Dは、目標軌道の作業対象(地面)に接触する部分とそれ以外の部分とが区別可能な態様で表現されてもよい。例えば、画像1004A~1004Dは、目標軌道の作業対象に接触する部分とそれ以外の部分とで色を異ならせてもよい。これにより、目標軌道に対応する画像1004A~1004Dの画像1001上での遠近感を補助することができる。
本例では、掃出し動作に対応する画像1003Aに梨地のカーソルが表現されている。また、本例では、画像1004の掃出し動作に対応する画像1004Aが他の動作に対応する画像1004B~1004Dより太い線で表現されている。これにより、本例では、掃出し動作が選択された状態が表現されている。例えば、オペレータは、入力装置52を用いて、画像1003A~1003Dの何れか一つを指定することにより、掃出し動作、水平引き動作、転圧動作、及びほうき動作の何れか一つの動作を選択することができる。同様に、例えば、オペレータは、入力装置52を用いて、画像1004A~1004Dの何れか一つを指定することにより、掃出し動作、水平引き動作、転圧動作、及びほうき動作の何れか一つの動作を選択することができる。
画像1005は、提案対象の動作の中からユーザ(オペレータ)により選択された動作の実行を確定させるためのアイコンである。
例えば、オペレータは、入力装置52を用いて、画像1005を操作することにより、選択済みの動作を自動でショベル100に実行させることができる。
画像1006は、ショベル100の動作提案機能を終了させるためのアイコンである。以下、後述の画像1106,1206,1306,1406,1506についても同様である。
このように、本例では、コントローラ30は、整地作業における複数の候補の動作の中から複数の動作を、それぞれの現在のショベル100の周辺の作業対象の形状(地形形状)に対する信頼度(適合度)と共に表示装置50Aに表示させる。これにより、コントローラ30は、現在のショベル100の周辺の作業対象の形状(地形形状)に対する信頼度(適合度)が相対的に高い動作をオペレータに提案することができる。
<第2例>
図11は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第2例(画面1100)を示す図である。
図11は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第2例(画面1100)を示す図である。
以下、上述の第1例と異なる部分を中心に説明し、上述の第1例と同じ或いは対応する内容の説明を簡略化或いは省略する場合がある。
画面1100には、画像1101~1106が含まれる。
画像1101は、図10の画像1001と同様、ショベル100の周辺の作業対象を表す画像である。
画像1102は、図10の画像1002と同様、ショベル100を模式的に表す画像である。
画像1103は、複数の候補の動作の中の提案部302Dによる提案対象の一の動作について、バケット6の複数の目標軌道をリスト形式で表す画像である。本例では、画像1103には、提案対象の一の動作としての掃出し動作について、バケット6の4つの目標軌道("掃出しI"~"掃出しIV")のそれぞれの行を表す画像1103A~1103Dが含まれる。また、本例では、画像1103A~1103Dには、バケット6の4つの目標軌道ごとの信頼度(適合度)が表現されている。これにより、オペレータは、提案対象の一の動作(掃出し動作)について、バケット6の4つの目標軌道の中から信頼度を考慮して、自身の動作により或いは自動でショベル100に実行させるバケット6の目標軌道を選択することができる。
尚、画像1103には、信頼度(適合度)が最も高い、バケット6の目標軌道(本例では、"掃出しI")のみが表現されてもよい。つまり、提案部302Dは、画像1103を通じて、所定の作業における提案対象の一の動作についての複数の目標軌道のうちの信頼度(適合度)が最も高い動作のみをオペレータに提案してもよい。また、画像1103には、バケット6の複数の目標軌道の中で、信頼度(適合度)が所定基準(例えば、30%)以上の目標軌道(例えば、"掃出しI"及び"掃出しII")のみが表現されてもよい。つまり、提案部302Dは、提案対象の一の動作についてのバケット6の複数の目標軌道の中で、信頼度(適合度)が所定基準以上の目標軌道のみをオペレータに提案してもよい。以下、後述の画像1203Aについても同様であってよい。
画像1104は、画像1103に表現される、提案対象の一の動作についての4つの目標軌道を表す画像である。画像1104は、画像1004と同様、画像1002の周辺において、画像1001に重畳して表示される。これにより、オペレータは、ショベル100の周辺の作業現場の地面の状態を表す画像1101及びショベル100を表す画像1102と比較しながら、提案対象の一の動作(掃出し動作)について複数の目標軌道を容易に把握することができる。画像1104は、画像1104A~1104Dを含む。
画像1104Aは、画像1103A("掃出しI")に対応する、掃出し動作の目標軌道を表す画像である。
画像1104Bは、画像1103B("掃出しII")に対応する、掃出し動作の目標軌道を表す画像である。
画像1104Cは、画像1103C("掃出しIII")に対応する、掃出し動作の目標軌道を表す画像である。
画像1104Dは、画像1103C("掃出しIV")に対応する、掃出し動作の目標軌道を表す画像である。
本例では、"掃出し動作I"に対応する画像1103Aに梨地のカーソルが表現されている。また、本例では、画像1104の中の"掃出し動作I"の目標軌道に対応する画像1104Aが他の目標軌道に対応する画像1104B~1104Dより太い線で表現されている。これにより、本例では、4つの目標軌道のうちの"掃出しI"の目標軌道が選択された状態が表現されている。例えば、オペレータは、入力装置52を用いて、画像1103A~1103Dの何れか一つを指定することにより、4つの目標軌道の何れか1つの目標軌道を選択することができる。同様に、例えば、オペレータは、入力装置52を用いて、画像1104A~1104Dの何れか一つを指定することにより、バケット6の4つの目標軌道の何れか1つの目標軌道を選択することができる。
画像1105は、複数の目標軌道の中からユーザ(オペレータ)により選択された目標軌道でバケット6が移動するように、提案対象の一の動作(掃出し動作)を実行させるためのアイコンである。
例えば、オペレータは、入力装置52を用いて、画像1105を操作することにより、選択済みの目標軌道でバケット6が移動するように提案対象の一の動作を自動でショベル100に実行させることができる。
このように、本例では、コントローラ30は、整地作業に関する一の動作についてのバケット6の複数の目標軌道を、それぞれの現在のショベル100の周辺の作業対象の形状(地形形状)に対する信頼度(適合度)と共に表示装置50Aに表示させる。これにより、コントローラ30は、現在のショベル100の周辺の作業対象の形状(地形形状)に対する信頼度(適合度)が相対的に高い、バケット6の複数の目標軌道をオペレータに提案することができる。
<第3例>
図12、図13は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第3例(画面1200,1300)を示す図である。
図12、図13は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第3例(画面1200,1300)を示す図である。
以下、上述の第1例、第2例と異なる部分を中心に説明し、上述の第1例、第2例と同じ或いは対応する内容の説明を簡略化或いは省略する場合がある。
画面1200には、画像1201~1206が含まれる。
画像1201は、図10の画像1001と同様、ショベル100の周辺の作業対象を表す画像である。
画像1202は、図10の画像1002と同様、ショベル100を模式的に表す画像である。
画像1203は、図10の画像1003と同様、複数の候補の動作の中の提案部302Dによる提案対象の動作をリスト形式で表す画像である。本例では、画像1203には、提案対象の動作として、複数の候補の動作の中から掃出し動作、水平引き動作、転圧動作、及びほうき動作のそれぞれの行を表す画像1203A~1203Dが含まれる。また、本例では、画像1203A~1203Dには、ほうき動作、掃出し動作、水平引き動作、及び転圧動作ごとの信頼度(適合度)が表現されている。
また、画像1203Aには、図11の画像1103と同様、提案対象の一の動作(掃出し動作)について、バケット6の複数の目標軌道をリスト形式で表す画像である。本例では、画像1203Aには、複数の候補の動作の中で信頼度(適合度)が最も高い掃出し動作について、バケット6の4つの目標軌道("掃出しI"~"掃出しIV")のそれぞれの行を表す画像1203A1~1203A4が含まれる。また、本例では、画像1203A1~1203A4には、バケット6の4つの目標軌道ごとの信頼度(適合度)が表現されている。
画像1204は、図10の画像1004と同様、画像1203に表現される、提案対象の動作ごとの目標軌道を表す画像である。画像1204は、画像1204A~1204Dを含む。
画像1204Aは、掃出し動作の目標軌道を表す画像である。具体的には、掃出し動作に対応するバケット6の目標軌道("掃出しI"~"掃出しIV")のうちの信頼度が最も高い一の目標軌道("掃出しI")を表す画像である。
画像1204B~1204Dは、図10の画像1004B~1004Dと同じであるため説明を省略する。
本例では、掃出し動作に対応する画像1003Aに梨地のカーソルが表現されている。また、本例では、画像1004の掃出し動作に対応する画像1004Aが他の動作に対応する画像1004B~1004Dより太い線で表現されている。これにより、本例では、掃出し動作が選択された状態が表現されている。
画像1205は、提案対象の動作の中からユーザ(オペレータ)により選択された動作の実行を確定させるためのアイコンである。
また、画像1205は、提案対象の動作のうちの最も信頼度が高い掃出し動作が選択された状態において、掃出し動作に対応するバケット6の4つの目標軌道を選択するための画面1300に移行させるためのアイコンである。つまり、画面1200の状態で、入力装置52を通じて、画像1205が操作されると、画面1300に移行する。
画面1300は、画像1301~1306を含む。
画像1303は、図12の画像1203と同様、複数の候補の動作の中の提案部302Dによる提案対象の動作をリスト形式で表す画像である。具体的には、画像1303には、提案対象の動作として、複数の候補の動作の中から掃出し動作、水平引き動作、転圧動作、及びほうき動作のそれぞれの行を表す画像1203A~1203Dが含まれる。
また、画像1303Aには、図12の画像1203Aと同様、提案対象の一の動作(掃出し動作)について、バケット6の複数の目標軌道をリスト形式で表す画像である。具体的には、画像1203Aには、複数の候補の動作の中で信頼度(適合度)が最も高い掃出し動作について、バケット6の4つの目標軌道("掃出しI"~"掃出しIV")のそれぞれの行を表す画像1303A1~1303A4が含まれる。
画像1304は、図11の画像1104と同様、画像1104は、画像1103に表現される、提案対象の一の動作についての4つの目標軌道を表す画像である。具体的には、画像1304は、画像1304A~1304Dを含む。
画像1304A~1304Dは、それぞれ、図11の画像1104A~1104Dと同じであるため、説明を省略する。
本例では、"掃出し動作I"に対応する画像1303A1に梨地のカーソルが表現されている。また、本例では、画像1304の中の"掃出し動作I"の目標軌道に対応する画像1304Aが他の目標軌道に対応する画像1304B~1304Dより太い線で表現されている。これにより、本例では、4つの目標軌道のうちの"掃出しI"の目標軌道が選択された状態が表現されている。
画像1305は、複数の目標軌道の中からユーザ(オペレータ)により選択された目標軌道でバケット6が移動するように、提案対象の一の動作(掃出し動作)を実行させるためのアイコンである。
このように、本例では、コントローラ30は、整地作業に関する複数の候補の動作の中の複数の動作を、信頼度と共に表示装置50Aに表示させると共に、最も信頼度の高い動作についての複数の目標軌道を表示装置50Aに表示させる。これにより、コントローラ30は、現在のショベル100の周辺の作業対象の形状(地形形状)に対する信頼度が相対的に高い複数の動作、及び最も信頼度が高い動作についてのバケット6の複数の目標軌道をオペレータに提案することができる。
<第4例>
図14は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第4例(画面1400)を示す図である。
図14は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第4例(画面1400)を示す図である。
以下、上述の第1例~第3例と異なる部分を中心に説明し、上述の第1例~第3例と同じ或いは対応する内容の説明を簡略化或いは省略する場合がある。
画面1400には、画像1401~1406が含まれる。
画像1401は、図10の画像1001と同様、ショベル100の周辺の作業対象を表す画像である。
画像1402は、図10の画像1002と同様、ショベル100を模式的に表す画像である。
画像1403は、図10の画像1003と同様、複数の候補の動作の中の提案部302Dによる提案対象の動作をリスト形式で表す画像である。具体的には、画像1403には、提案対象の動作として、複数の候補の動作の中から掃出し動作、水平引き動作、転圧動作、及びほうき動作のそれぞれの行を表す画像1403A~1403Dが含まれる。
画像1404は、図10の画像1004と同様、画像1403に表現される、提案対象の動作ごとの目標軌道を表す画像である。具体的には、画像1404は、画像1404A~1404Dを含む。
画像1404A~1404Dは、それぞれ、図10の画像1004A~1004Dと同じであるため、説明を省略する。
本例では、画像1401の画像1403Aが重畳して表示される画像領域に作業者Wが映っている。そのため、最も信頼度が高い動作(掃出し動作)が選択されると、アタッチメントATが作業者Wに接近しすぎたり、アタッチメントATが作業者Wに当接したりする可能性がある。
これに対して、本例では、水平引き動作に対応する画像1403Bに梨地のカーソルが表現され、且つ、水平引き動作に対応する画像1404Bが他の動作に対応する画像1404A,1404C,1404Dより太い線で表現されている。つまり、本例では、オペレータは、入力装置52を通じて、掃出し動作とは別の動作(水平引き動作)を選択し、ショベル100に実行させようとしている。これにより、アタッチメントATが作業者Wに接近しすぎたり、作業者Wに当接したりする事態の発生を抑制することができる。
画像1405は、図10の画像1005と同じであるため、説明を省略する。
このように、本例では、ショベル100の周辺の様子を表す画像1401に重畳して、提案対象の動作の目標軌道を表示させることで、オペレータは、目標軌道と作業現場の作業者W等の障害物との関係を把握することができる。そのため、オペレータの利便性やショベル100の作業効率を向上させつつ、ショベル100の安全性を向上させることができる。
[第5例]
図15は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第5例(画面1500)を示す図である。
図15は、ショベル100の動作提案機能に関する、表示装置50Aの表示内容の第5例(画面1500)を示す図である。
以下、上述の第1例~第4例と異なる部分を中心に説明し、上述の第1例~第4例と同じ或いは対応する内容の説明を簡略化或いは省略する場合がある。
画面1500には、画像1501~1506が含まれる。
画像1501は、図10の画像1001と同様、ショベル100の周辺の作業対象を表す画像である。
画像1502は、図10の画像1002と同様、ショベル100を模式的に表す画像である。
画像1503は、図10の画像1003と同様、複数の候補の動作の中の提案部302Dによる提案対象の動作をリスト形式で表す画像である。具体的には、画像1503には、提案対象の動作として、複数の候補の動作の中から水平引き動作、掃出し動作、転圧動作、及びほうき動作のそれぞれの行を表す画像1503A~1503Dが含まれる。
画像1504は、図10の画像1004と同様、画像1503に表現される、提案対象の動作ごとの目標軌道を表す画像である。具体的には、画像1504は、画像1504A~1404Dを含む。
画像1404A~1404Dは、それぞれ、図10の画像1004A~1004Dと同じであるため、説明を省略する。
画像1004Aは、掃出し動作の目標軌道を表す画像である。
画像1004Bは、水平引き動作の目標軌道を表す画像である。
画像1004Cは、転圧動作の目標軌道を表す画像である。
画像1004Dは、ほうき動作の目標軌道を表す画像である。
本例では、画像1501の画像1504A,1504C,1504Dが重畳して表示される画像領域は、既に整地作業が完了した領域1501Aに含まれている。そのため、最も信頼度が高い動作(画像1504Aに対応する水平引き動作)が選択されると、既に整地作業が完了した領域に対して無駄な作業が行われてしまうばかりか、無駄な作業の影響で元に戻す作業が必要となる。その結果、ショベル100の作業効率の低下や作業現場の作業の進捗の遅れを招来する可能性がある。
これに対して、本例では、掃出し動作に対応する画像1503Bに梨地のカーソルが表現され、且つ、掃出し動作に対応する画像1504Bが他の動作に対応する画像1504A,1504C,1504Dより太い線で表現されている。つまり、本例では、オペレータは、掃出し動作とは別の動作(水平引き動作)を選択し、ショベル100に実行させようとしている。これにより、既に作業が完了済の領域に対して、ショベル100が作業を実施してしまうような事態を抑制することができる。そのため、ショベル100の作業効率の低下や作業現場の作業の進捗の遅れ等を抑制することができる。
また、本例では、領域1501Aには、既に整地作業が完了した領域であることを示す画像(領域1501Aを斜線で覆う画像等)が重畳して表示される。これにより、オペレータは、領域1501Aが整地作業の完了した領域であることをより確実に把握することができる。この場合、作業現場における作業が完了した領域に関する情報は、例えば、情報処理装置200からショベル100に配信される。
画像1505は、図10の画像1005と同じであるため、説明を省略する。
このように、本例では、ショベル100の周辺の様子を表す画像1401に重畳して、提案対象の動作の目標軌道を表示させることで、オペレータは、目標軌道と作業現場の作業の完了状況等との関係を把握することができる。そのため、オペレータは、作業現場の作業の完了状況に合わせて、より適切な動作や目標軌道を選択することができる。
[他の実施形態]
次に、他の実施形態について説明する。
次に、他の実施形態について説明する。
上述の実施形態は、適宜、その内容が組み合わせられてもよいし、変形や変更が加えられてもよい。
例えば、上述の実施形態では、提案部302Dは、所定の作業で実施されうる、複数の候補の動作のうちの提案対象の動作のみを提案し、提案対象の動作の提案を省略してもよい。
また、上述の実施形態やその変形例では、提案部302Dは、ショベル100の周辺の作業対象の形状に対する信頼度(適合度)が相対的に高い目標軌道だけでなく、相対的に信頼度(適合度)の低い動作や目標軌道を意図的に提案してもよい。例えば、相対的に信頼度(適合度)の低い動作は、学習済みモデルLMに基づき推定される、信頼度(適合度)が所定基準より低い、ショベル100の動作やバケット6の目標軌道である。また、相対的に信頼度(適合度)の低い動作は、学習済みモデルLMとは別の学習済みモデル、即ち、不適切な動作や目標軌道を含む教師データセットにより機械学習がされた学習済みモデルに基づき推定されるショベル100の動作やバケット6の目標軌道であってもよい。これにより、オペレータの動作提案機能への依存を抑制し、オペレータ自身での適切な判断に基づく動作提案機能の使用を促すことができる。この場合、相対的に信頼度適合度の低い動作が選択されると、コントローラ30の補助記憶装置30A等にその旨がログとして記録されてもよい。また、そのログには、オペレータの識別情報が含まれてもよい。これにより、例えば、支援装置150(コントローラ30)は、相対的に信頼度(適合度)が低い、ショベル100の動作やバケット6の目標軌道を選択する確率が高いオペレータに対してラベルを付けることができる。そのため、作業現場の管理者等は、事後的に、ログやラベル等を確認することで、オペレータごとの動作提案機能の使用状況を管理することができる。
また、上述の実施形態やその変形例では、支援装置150の機能の一部又は全部は、遠隔操作支援装置300に移管されてもよい。例えば、提案部302Dの機能は、遠隔操作支援装置300に移管される。また、提案部302Dに加えて、推定部302Cの機能が遠隔操作支援装置300に移管されてもよい。また、提案部302D、推定部302Cに加えて、作業対象形状取得部302Bの機能が遠隔操作支援装置300に移管されてもよい。この場合、撮像装置40の画像データがショベル100から遠隔操作支援装置300に送信される。
また、上述の実施形態では、支援装置150の機能の一部又は全部は、情報処理装置200に移管されてもよい。例えば、作業対象形状取得部302Bは、情報処理装置200に移管される。この場合、撮像装置40の画像データがショベル100から情報処理装置200に送信される。また、作業対象形状取得部302Bに加えて、推定部302Cの機能が情報処理装置200に移管されてよい。また、作業対象形状取得部302B及び推定部302Cに加えて、提案部302Dの機能が情報処理装置200に移管されてもよい。これにより、例えば、キャビン10に持ち込まれる、可搬型の情報処理装置200は、オペレータに対して、所定の作業で実施されうるショベル100の複数の候補の動作の中から一又は複数の動作を提案したり、その動作の軌道を提案したりすることができる。
また、上述の実施形態やその変形例の支援装置150は、ショベル100とは異なる他の作業機械の所定の作業における複数の候補の動作の中の一又は複数の動作をオペレータに提案してもよい。例えば、他の作業機械は、ハーベスタ装置を有する林業機械である。この場合、支援装置150は、現場に存在する複数の候補の木に対する動作の中からハーベスタ装置による動作の対象の一又は複数の木に対する動作を提案してよい。
[作用]
次に、本実施形態に係る支援装置の作用について説明する。
次に、本実施形態に係る支援装置の作用について説明する。
本実施形態では、支援装置は、取得部と、提案部と、を備える。支援装置は、例えば、支援装置150である。作業機械は、例えば、ショベル100である。取得部は、例えば、作業対象形状取得部302Bである。提案部は、例えば、提案部302Dである。具体的には、取得部は、作業機械の周辺の作業対象の形状(例えば、地形形状)に関するデータを取得する。そして、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における作業機械の複数の候補の動作の中の動作をユーザに提案する。
また、本実施形態では、作業機械は、上述の支援装置を備えてもよい。
これにより、支援装置は、例えば、所定の作業で実施されうる複数の候補の動作の中から、作業機械の周辺の作業対象の形状により適合する動作を作業機械のオペレータに提案することができる。そのため、作業機械をより適切に動作させることができる。よって、作業機械の作業効率を向上させることができる。
また、本実施形態では、支援装置は、推定部を備える。推定部は、例えば、推定部302Cである。具体的には、推定部は、作業対象の形状と対応付けられた、相対的に熟練度の高いオペレータの操作による作業機械の動作に関する教師データによって機械学習がされた学習済みモデルを用いて、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中から作業機械の周辺の作業対象の形状に適合する動作を推定する。学習済みモデルは、例えば、学習済みモデルLMである。そして、提案部は、推定部の推定結果に基づき、複数の候補の動作の中の動作を提案してもよい。
これにより、支援装置は、学習済みモデルを用いて、所定の作業で実施されうる複数の候補の動作の中から、作業機械の周辺の作業対象の形状により適合する動作を提案することができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の複数の動作をユーザに提案してもよい。
これにより、支援装置は、オペレータに対して選択肢を与え、オペレータによる自らの意思による判断を促すことができる。そのため、オペレータの判断を反映させることによって、作業機械により適切に動作させることができる。
また、本実施形態では、提案対象の複数の動作の中には、複数の候補の動作の中で、作業機械の周辺の作業対象の形状に対する適合度合いが相対的に低い動作が含まれてもよい。
これにより、支援装置は、オペレータによる自らの意思による判断を促すことができる。そのため、オペレータの判断を反映させることによって、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の動作を、その動作の作業機械の周辺の作業対象の形状に対する適合度合いと共に提案してもよい。
これにより、支援装置は、オペレータにその動作を実行するか否かの判断材料を与えることができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の複数の動作を、複数の動作ごとの作業機械の周辺の作業対象の形状に対する適合度合いと共に提案してもよい。
これにより、支援装置は、オペレータに対して、作業機械の動作に関する複数の選択肢を与えることができると共に、その選択の判断材料を与えることができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の動作を、その動作による作業機械の作業部位の軌道と共に提案してもよい。作業部位は、例えば、バケット6である。
これにより、支援装置は、オペレータにその動作を実行するか否かの判断材料を与えることができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の動作を、その動作による作業部位の複数の軌道と共に提案してもよい。
これにより、支援装置は、提案対象の動作に対応する作業部位の軌道に関する複数の選択肢をオペレータに対して与えることができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、複数の候補の動作の中の動作を、その動作による作業部位の複数の軌道、及び複数の軌道ごとの作業機械の周辺の作業対象の形状に対する適合度合いと共に提案してもよい。
これにより、支援装置は、オペレータに対して、作業部位の複数の選択肢を与えることができると共に、その選択の判断材料を与えることができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、支援装置は、表示部を備えてもよい。表示部は、例えば、表示装置50Aである。そして、提案部は、複数の候補の動作の中の提案対象の動作による作業部位の軌道を、作業機械の周辺の様子を表す画像に重畳して表示部に表示させてもよい。
これにより、オペレータは、作業部位の軌道と作業機械の周辺の作業対象の形状との関係をより容易に理解することができる。そのため、支援装置は、オペレータのより適切な判断を促し、作業機械により適切に動作させることができる。
また、本実施形態では、提案部は、複数の候補の動作の中の提案対象の動作による軌道の中の作業対象に接触する軌道部分とそれ以外の軌道部分とを異なる態様で表示部に表示させてもよい。
これにより、支援装置は、作業機械の周辺の様子を表す画像上での遠近感を補助し、より適切に軌道をオペレータ把握させることができる。
また、本実施形態では、支援装置は、制御部を備える。制御部は、例えば、動作制御部302Eである。具体的には、制御部は、ユーザからの指示の入力に応じて、提案部により提案される動作を作業機械に自動で実行させてもよい。
これにより、ユーザ(オペレータ)の利便性をより向上させることができると共に、作業機械をより適切に動作させることができる。
また、本実施形態では、取得部は、制御部により自動で実行される動作の実施後の作業機械の周辺の作業対象の形状を予測することにより、作業機械の周辺の作業対象の形状に関するデータを取得してもよい。
これにより、支援装置は、作業機械の動作を繰り返し提案しながら、作業機械の作業を支援する際に、よりスムーズに作業機械の動作の提案を行うことができる。そのため、作業機械の作業効率をより向上させることができる。
以上、実施形態について詳述したが、本開示はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された要旨の範囲内において、種々の変形・変更が可能である。
1 下部走行体
1C,1CL,1CR クローラ
1ML,1MR 走行油圧モータ
2 旋回機構
2M 旋回油圧モータ
3 上部旋回体
4 ブーム
5 アーム
6 バケット
7 ブームシリンダ
8 アームシリンダ
9 バケットシリンダ
10 キャビン
11 エンジン
13 レギュレータ
14 メインポンプ
15 パイロットポンプ
17 コントロールバルブ
26 操作装置
29 操作圧センサ
30 コントローラ
31 油圧制御弁
32 シャトル弁
33 油圧制御弁
40 撮像装置
50 出力装置
50A 表示装置
50B 音出力装置
52 入力装置
60 通信装置
100 ショベル
150 支援装置
200 情報処理装置
300 遠隔操作支援装置
301 動作ログ提供部
301A 動作ログ記録部
301B 動作ログ記憶部
301C 動作ログ送信部
302 作業支援部
302A 学習済みモデル記憶部
302B 作業対象形状取得部
302C 推定部
302D 提案部
302E 動作制御部
2001 動作ログ取得部
2002 動作ログ記憶部
2003 教師データ生成部
2004 機械学習部
2005 学習済みモデル記憶部
2006 配信部
AT アタッチメント
HA 油圧アクチュエータ
LM 学習済みモデル
S1~S5 センサ
SYS 稼働支援システム
1C,1CL,1CR クローラ
1ML,1MR 走行油圧モータ
2 旋回機構
2M 旋回油圧モータ
3 上部旋回体
4 ブーム
5 アーム
6 バケット
7 ブームシリンダ
8 アームシリンダ
9 バケットシリンダ
10 キャビン
11 エンジン
13 レギュレータ
14 メインポンプ
15 パイロットポンプ
17 コントロールバルブ
26 操作装置
29 操作圧センサ
30 コントローラ
31 油圧制御弁
32 シャトル弁
33 油圧制御弁
40 撮像装置
50 出力装置
50A 表示装置
50B 音出力装置
52 入力装置
60 通信装置
100 ショベル
150 支援装置
200 情報処理装置
300 遠隔操作支援装置
301 動作ログ提供部
301A 動作ログ記録部
301B 動作ログ記憶部
301C 動作ログ送信部
302 作業支援部
302A 学習済みモデル記憶部
302B 作業対象形状取得部
302C 推定部
302D 提案部
302E 動作制御部
2001 動作ログ取得部
2002 動作ログ記憶部
2003 教師データ生成部
2004 機械学習部
2005 学習済みモデル記憶部
2006 配信部
AT アタッチメント
HA 油圧アクチュエータ
LM 学習済みモデル
S1~S5 センサ
SYS 稼働支援システム
Claims (15)
- 作業機械の周辺の作業対象の形状に関するデータを取得する取得部と、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案部と、を備える、
支援装置。 - 作業対象の形状と対応付けられた、相対的に熟練度の高いオペレータの操作による作業機械の動作に関する教師データによって機械学習がされた学習済みモデルを用いて、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中から作業機械の周辺の作業対象の形状に適合する動作を推定する推定部を備え、
前記提案部は、前記推定部の推定結果に基づき、前記複数の候補の動作の中の動作を提案する、
請求項1に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の複数の動作をユーザに提案する、
請求項1又は2に記載の支援装置。 - 提案対象の前記複数の動作の中には、前記複数の候補の動作の中で、作業機械の周辺の作業対象の形状に対する適合度合いが相対的に低い動作が含まれる、
請求項3に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の動作を、その動作の作業機械の周辺の作業対象の形状に対する適合度合いと共に提案する、
請求項1乃至4の何れか一項に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の複数の動作を、前記複数の動作ごとの作業機械の周辺の作業対象の形状に対する適合度合いと共に提案する、
請求項5に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の動作を、その動作による前記作業機械の作業部位の軌道と共に提案する、
請求項1乃至6の何れか一項に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の動作を、その動作による前記作業部位の複数の軌道と共に提案する、
請求項7に記載の支援装置。 - 前記提案部は、作業機械の周辺の作業対象の形状に関するデータに基づき、前記複数の候補の動作の中の動作を、その動作による前記作業部位の複数の軌道、及び前記複数の軌道ごとの作業機械の周辺の作業対象の形状に対する適合度合いと共に提案する、
請求項8に記載の支援装置。 - 表示部を備え、
前記提案部は、前記複数の候補の動作の中の提案対象の動作による前記作業部位の軌道を、前記作業機械の周辺の様子を表す画像に重畳して前記表示部に表示させる、
請求項7乃至9の何れか一項に記載の支援装置。 - 前記提案部は、前記複数の候補の動作の中の提案対象の動作による軌道の中の作業対象に接触する軌道部分とそれ以外の軌道部分とを異なる態様で前記表示部に表示させる、
請求項10に記載の支援装置。 - ユーザからの指示の入力に応じて、前記提案部により提案される動作を作業機械に自動で実行させる制御部と、を備える、
請求項1乃至11の何れか一項に記載の支援装置。 - 前記取得部は、前記制御部により自動で実行される動作の実施後の作業機械の周辺の作業対象の形状を予測することにより、作業機械の周辺の作業対象の形状に関するデータを取得する、
請求項12に記載の支援装置。 - 請求項1乃至13の何れか一項に記載の支援装置を備える、
作業機械。 - 支援装置に、
作業機械の周辺の作業対象の形状に関するデータを取得する取得ステップと、
前記作業機械の周辺の作業対象の形状に関するデータに基づき、所定の作業における前記作業機械の複数の候補の動作の中の動作をユーザに提案する提案ステップと、を実行させる、
プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022058984A JP2023150082A (ja) | 2022-03-31 | 2022-03-31 | 支援装置、作業機械、プログラム |
PCT/JP2023/013195 WO2023190877A1 (ja) | 2022-03-31 | 2023-03-30 | 支援装置、作業機械、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022058984A JP2023150082A (ja) | 2022-03-31 | 2022-03-31 | 支援装置、作業機械、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023150082A true JP2023150082A (ja) | 2023-10-16 |
Family
ID=88326317
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022058984A Pending JP2023150082A (ja) | 2022-03-31 | 2022-03-31 | 支援装置、作業機械、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023150082A (ja) |
-
2022
- 2022-03-31 JP JP2022058984A patent/JP2023150082A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7358349B2 (ja) | 掘削機、情報処理装置 | |
US10508417B2 (en) | Construction information display device and method for displaying construction information | |
EP3489422B1 (en) | Controlling earthmoving machine | |
CN113631779B (zh) | 挖土机及施工系统 | |
CN112955610A (zh) | 挖土机、信息处理装置、信息处理方法、信息处理程序、终端装置、显示方法、显示程序 | |
WO2021020464A1 (ja) | ショベル | |
JP7439053B2 (ja) | ショベル及びショベルの管理装置 | |
US10968601B2 (en) | Controlling earthmoving machine | |
KR102659076B1 (ko) | 쇼벨 | |
US20240011252A1 (en) | Shovel and shovel control device | |
JP2023174887A (ja) | 作業機械、情報処理装置 | |
WO2023190877A1 (ja) | 支援装置、作業機械、プログラム | |
JP2023150082A (ja) | 支援装置、作業機械、プログラム | |
US12098516B2 (en) | Shovel and system | |
FI20180082A1 (en) | Control of earthmoving machine | |
WO2023190843A1 (ja) | 支援装置、作業機械、プログラム | |
WO2024034624A1 (ja) | 支援装置、作業機械、支援システム、プログラム | |
JP2023150920A (ja) | 支援装置、作業機械、プログラム | |
JP2022154722A (ja) | ショベル | |
WO2024111596A1 (ja) | 作業機械、情報処理装置、プログラム | |
JP2024076741A (ja) | 作業機械、情報処理装置、プログラム | |
JP2024072055A (ja) | 作業機械、情報処理装置、作業支援システム、プログラム | |
US20230417023A1 (en) | Support system, information processing device, and storage medium | |
JP2023183992A (ja) | 支援システム、遠隔操作支援装置、作業機械、プログラム | |
US20240209589A1 (en) | Shovel |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240809 |