JP7451240B2 - 作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 - Google Patents
作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 Download PDFInfo
- Publication number
- JP7451240B2 JP7451240B2 JP2020044103A JP2020044103A JP7451240B2 JP 7451240 B2 JP7451240 B2 JP 7451240B2 JP 2020044103 A JP2020044103 A JP 2020044103A JP 2020044103 A JP2020044103 A JP 2020044103A JP 7451240 B2 JP7451240 B2 JP 7451240B2
- Authority
- JP
- Japan
- Prior art keywords
- work
- target
- machine
- estimation model
- boom
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 75
- 238000004519 manufacturing process Methods 0.000 title claims description 15
- 238000009412 basement excavation Methods 0.000 claims description 88
- 238000012545 processing Methods 0.000 claims description 10
- 238000001514 detection method Methods 0.000 description 65
- 239000002689 soil Substances 0.000 description 60
- 230000008569 process Effects 0.000 description 51
- 238000004364 calculation method Methods 0.000 description 35
- 238000003860 storage Methods 0.000 description 27
- 239000003921 oil Substances 0.000 description 22
- 238000010586 diagram Methods 0.000 description 17
- 239000000446 fuel Substances 0.000 description 11
- 239000010720 hydraulic oil Substances 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 9
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000012986 modification Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 238000005520 cutting process Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 238000004821 distillation Methods 0.000 description 4
- 239000004576 sand Substances 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000007935 neutral effect Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 239000010727 cylinder oil Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000011282 treatment Methods 0.000 description 2
- 239000000498 cooling water Substances 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/2029—Controlling the position of implements in function of its load, e.g. modifying the attitude of implements in accordance to vehicle speed
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/283—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a single arm pivoted directly on the chassis
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/431—Control of dipper or bucket position; Control of sequence of drive operations for bucket-arms, front-end loaders, dumpers or the like
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/431—Control of dipper or bucket position; Control of sequence of drive operations for bucket-arms, front-end loaders, dumpers or the like
- E02F3/434—Control of dipper or bucket position; Control of sequence of drive operations for bucket-arms, front-end loaders, dumpers or the like providing automatic sequences of movements, e.g. automatic dumping or loading, automatic return-to-dig
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2221—Control of flow rate; Load sensing arrangements
- E02F9/2225—Control of flow rate; Load sensing arrangements using pressure-compensating valves
- E02F9/2228—Control of flow rate; Load sensing arrangements using pressure-compensating valves including an electronic controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/22—Hydraulic or pneumatic drives
- E02F9/2278—Hydraulic circuits
- E02F9/2292—Systems with two or more pumps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- Structural Engineering (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Operation Control Of Excavators (AREA)
- Feedback Control In General (AREA)
- Numerical Control (AREA)
- Manipulator (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Description
実施の形態においては、作業機械の一例としてホイールローダ1について説明する。図1は、実施形態に基づく作業機械の一例としてのホイールローダ1の側面図である。
図2は、実施形態に基づくホイールローダ1の構成を示す概略ブロック図である。図2に示されるように、ホイールローダ1は、駆動源としてのエンジン21、走行装置4、作業機ポンプ13、ステアリングポンプ12、操作装置8、制御装置10、表示部50などを備えている。
本実施形態のホイールローダ1は、土砂などの掘削対象物を掬い取る掘削作業を実行する。図3は、実施形態に基づくホイールローダ1による掘削作業を説明する図である。
図4は、作業システムに含まれる、コンピュータ102Aの構成を示す模式図である。実施形態に係るシステムは、作業機械の作業中、典型的にはホイールローダ1による掘削作業中の、作業機械本体(図1を参照して説明した車体)に対するブーム14の角度(ブーム角度θ1、図1)と、ブーム14に対するベルクランク18の角度(ベルクランク角度θ2、図1)との目標値を求めるためのシステムである。図4に示されるコンピュータ102Aは、図2に示される制御装置10の一部構成を成すものである。コンピュータ102Aは、実施形態に係るシステム用に専用に設計されたものであってもよく、または汎用のPC(Personal Computer)であってもよい。
図8は、学習済みの目標姿勢推定モデル180の製造方法を示すフローチャートである。図9は、目標姿勢推定モデル180を学習させるための処理を示す概略図である。図5について説明した内容と一部重複もあるが、図8および図9を参照して、掘削作業中の作業機3の目標姿勢を推定する目標姿勢推定モデル180を学習させるための処理について、以下に説明する。
図10は、工場出荷されるホイールローダ1のシステム構成を示すブロック図である。工場出荷されるホイールローダ1は、図5に示されるコンピュータ102Aに替えて、コンピュータ102Bを備えている。コンピュータ102Bは、プロセッサ103と記憶装置104とを有している。
図13は、目標姿勢推定モデル180の学習に関する第1の変形例を示す概略図である。図5,8~9の説明においては、掘削土量と経過時間および機械データと作業機姿勢データとを含む複数の学習用データ188A,188B,188C,…,から1つの目標姿勢推定モデル180を生成する例について説明した。
図15は、目標姿勢推定モデル180の学習に関する第2の変形例を示す概略図である。これまでの説明においては、ホイールローダ1の工場出荷前に目標姿勢推定モデル180を学習させる例について説明した。目標姿勢推定モデル180を学習させるための学習用データは、複数のホイールローダ1から収集されてもよい。
上述した目標姿勢推定モデル180は、学習用データ188A,188B,188C,…,を用いて機械学習により学習したモデルに限られず、当該学習したモデルを利用して生成されたモデルであってもよい。たとえば目標姿勢推定モデル180は、学習済みモデルにデータの入出力を繰り返すことで得られる結果を基に学習させた別の学習済みモデル(蒸留モデル)であってもよい。図16は、蒸留モデルを生成するための処理を示すフローチャートである。
Claims (9)
- 本体と、
前記本体に取り付けられた作業機と、
コンピュータとを備え、
前記コンピュータは、作業中の前記作業機の目標姿勢を求めるための学習済み姿勢推定モデルを有し、
前記コンピュータは、前記作業機による作業量の目標値と、前記作業機による作業開始からの経過時間と、前記本体および前記作業機の動作に関する機械データとを取得し、前記学習済み姿勢推定モデルを用いて前記目標値、前記経過時間および前記機械データから前記目標姿勢を推定した推定目標姿勢を出力する、作業システム。 - 前記コンピュータは、前記学習済み姿勢推定モデルを複数有し、
前記コンピュータは、前記目標値に基づいて複数の前記学習済み姿勢推定モデルのうちの一つを選択し、選択された前記学習済み姿勢推定モデルを用いて前記経過時間および前記機械データから前記推定目標姿勢を出力する、請求項1に記載の作業システム。 - 前記作業機は、前記本体に連結されたブームと、前記ブームに連結されたバケットとを含み、
前記作業機による作業は、前記バケットに掘削対象物を掬い取る掘削作業である、請求項1または2に記載の作業システム。 - 前記コンピュータは、前記バケットに掬い取られた前記掘削対象物の量の履歴に基づいて前記目標値を取得する、請求項3に記載の作業システム。
- コンピュータによって実行される方法であって、
本体に取り付けられた作業機による作業量の目標値と、前記作業機による作業開始からの経過時間と、前記本体および前記作業機の動作に関する機械データと、を取得する工程と、
作業中の前記作業機の目標姿勢を求めるための学習済み姿勢推定モデルを用いて、前記目標値、前記経過時間および前記機械データから前記目標姿勢を推定した推定目標姿勢を求める工程と、
を備える方法。 - コンピュータによって実行される方法であって、
本体に取り付けられた作業機による作業量の目標値と、前記作業機による作業開始からの経過時間と、前記本体および前記作業機の動作に関する機械データと、を取得する工程と、
前記目標値に基づいて、作業中の前記作業機の目標姿勢を求めるための複数の学習済み姿勢推定モデルから、一つの前記学習済み姿勢推定モデルを選択する工程と、
選択された前記学習済み姿勢推定モデルを用いて、前記経過時間および前記機械データから前記目標姿勢を推定した推定目標姿勢を求める工程と、
を備える方法。 - 学習済みの姿勢推定モデルの製造方法であって、
本体に取り付けられた作業機による作業量と、前記作業機による作業開始からの経過時間と、前記本体および前記作業機の動作に関する機械データと、作業中の前記作業機の姿勢データと、を含む学習用データを取得することと、
前記学習用データにより前記姿勢推定モデルを学習させることと、を備える、製造方法。 - 前記学習用データを用いて複数の姿勢推定モデルの学習処理をする、請求項7に記載の製造方法。
- 本体に取り付けられた作業機による作業量の目標値と、前記作業機による作業開始からの経過時間と、前記本体および前記作業機の動作に関する機械データとを取得することと、
学習済みの第1の姿勢推定モデルを用いて、作業中の前記作業機の目標姿勢を前記目標値、前記経過時間および前記機械データから推定した推定目標姿勢を求めることと、
前記経過時間、前記機械データおよび前記目標値と、前記推定目標姿勢と、を含む学習用データにより、第2の姿勢推定モデルを学習させることと、を備える、学習済みの姿勢推定モデルの製造方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020044103A JP7451240B2 (ja) | 2020-03-13 | 2020-03-13 | 作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 |
CN202180013321.3A CN115053038B (zh) | 2020-03-13 | 2021-03-04 | 作业系统、由计算机执行的方法以及学习用数据 |
PCT/JP2021/008391 WO2021182284A1 (ja) | 2020-03-13 | 2021-03-04 | 作業システム、コンピュータによって実行される方法、学習済みの姿勢推定モデルの製造方法、および学習用データ |
EP21768722.7A EP4079971A1 (en) | 2020-03-13 | 2021-03-04 | Work system, computer-executed method, method for producing trained orientation estimation models, and learning data |
US17/799,050 US20230106835A1 (en) | 2020-03-13 | 2021-03-04 | Working system, computer implemented method, method for producing trained posture estimation model, and training data |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020044103A JP7451240B2 (ja) | 2020-03-13 | 2020-03-13 | 作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021143555A JP2021143555A (ja) | 2021-09-24 |
JP7451240B2 true JP7451240B2 (ja) | 2024-03-18 |
Family
ID=77672335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020044103A Active JP7451240B2 (ja) | 2020-03-13 | 2020-03-13 | 作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230106835A1 (ja) |
EP (1) | EP4079971A1 (ja) |
JP (1) | JP7451240B2 (ja) |
CN (1) | CN115053038B (ja) |
WO (1) | WO2021182284A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023150704A (ja) * | 2022-03-31 | 2023-10-16 | 株式会社小松製作所 | 作業機械および作業機械の制御方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001142506A (ja) | 1999-11-16 | 2001-05-25 | Hitachi Ltd | 操作支援機能付き車両 |
JP2016156193A (ja) | 2015-02-25 | 2016-09-01 | 株式会社日立製作所 | 操作支援システムおよび操作支援システムを備えた作業機械 |
WO2020203596A1 (ja) | 2019-04-04 | 2020-10-08 | 株式会社小松製作所 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの姿勢推定モデルの製造方法、および学習用データ |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6208925B1 (en) * | 1999-04-26 | 2001-03-27 | Caterpillar Inc. | Simplified powertrain load prediction method and system using computer based models |
JP2001123478A (ja) * | 1999-10-28 | 2001-05-08 | Hitachi Constr Mach Co Ltd | 自動運転ショベル |
US20170073935A1 (en) * | 2015-09-11 | 2017-03-16 | Caterpillar Inc. | Control System for a Rotating Machine |
JP7001350B2 (ja) | 2017-02-20 | 2022-01-19 | 株式会社小松製作所 | 作業車両および作業車両の制御方法 |
US11149404B2 (en) * | 2018-03-28 | 2021-10-19 | Hitachi Construction Machinery Co., Ltd. | Work machine |
-
2020
- 2020-03-13 JP JP2020044103A patent/JP7451240B2/ja active Active
-
2021
- 2021-03-04 WO PCT/JP2021/008391 patent/WO2021182284A1/ja unknown
- 2021-03-04 EP EP21768722.7A patent/EP4079971A1/en active Pending
- 2021-03-04 CN CN202180013321.3A patent/CN115053038B/zh active Active
- 2021-03-04 US US17/799,050 patent/US20230106835A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001142506A (ja) | 1999-11-16 | 2001-05-25 | Hitachi Ltd | 操作支援機能付き車両 |
JP2016156193A (ja) | 2015-02-25 | 2016-09-01 | 株式会社日立製作所 | 操作支援システムおよび操作支援システムを備えた作業機械 |
WO2020203596A1 (ja) | 2019-04-04 | 2020-10-08 | 株式会社小松製作所 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの姿勢推定モデルの製造方法、および学習用データ |
Also Published As
Publication number | Publication date |
---|---|
JP2021143555A (ja) | 2021-09-24 |
WO2021182284A1 (ja) | 2021-09-16 |
CN115053038B (zh) | 2023-07-14 |
US20230106835A1 (en) | 2023-04-06 |
CN115053038A (zh) | 2022-09-13 |
EP4079971A1 (en) | 2022-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7419348B2 (ja) | 作業機械を含むシステム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 | |
JP7376264B2 (ja) | 作業機械を含むシステム、および作業機械 | |
WO2021002249A1 (ja) | 学習済みの作業分類推定モデルの製造方法、学習用データ、コンピュータによって実行される方法、および作業機械を含むシステム | |
KR102590855B1 (ko) | 작업 기계를 포함하는 시스템, 작업 기계를 포함하는 시스템이 컴퓨터에 의해 실행되는 방법, 작업 기계를 포함하는 시스템에 사용되는 학습된 위치 추정 모델의 생성 방법 | |
US11920321B2 (en) | System and method for automatically performing an earthmoving operation | |
JP7451240B2 (ja) | 作業システム、コンピュータによって実行される方法、および学習済みの姿勢推定モデルの製造方法 | |
JP7310408B2 (ja) | 建設機械の作業情報生成システム | |
CN111094663B (zh) | 作业机械及包含作业机械的系统 | |
US20230243130A1 (en) | Excavation plan creation device, working machine, and excavation plan creation method | |
WO2020003636A1 (ja) | 作業機械、および作業機械を含むシステム | |
JP7388954B2 (ja) | 操作ガイド装置 | |
JP2020002695A (ja) | 作業機械、および作業機械を含むシステム | |
US20230080719A1 (en) | Manipulation system | |
JP2020002696A (ja) | 作業機械、および作業機械を含むシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240306 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7451240 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |