JP7177608B2 - 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ - Google Patents
作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ Download PDFInfo
- Publication number
- JP7177608B2 JP7177608B2 JP2018111231A JP2018111231A JP7177608B2 JP 7177608 B2 JP7177608 B2 JP 7177608B2 JP 2018111231 A JP2018111231 A JP 2018111231A JP 2018111231 A JP2018111231 A JP 2018111231A JP 7177608 B2 JP7177608 B2 JP 7177608B2
- Authority
- JP
- Japan
- Prior art keywords
- estimation model
- position estimation
- captured image
- work machine
- angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/36—Component parts
- E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
- E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
- E02F3/435—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
- E02F9/265—Sensors and their calibration for indicating the position of the work tool with follow-up actions (e.g. control signals sent to actuate the work tool)
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/30—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
- E02F3/32—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/2041—Automatic repositioning of implements, i.e. memorising determined positions of the implement
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
- E02F9/262—Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
Landscapes
- Engineering & Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Mechanical Engineering (AREA)
- Operation Control Of Excavators (AREA)
- Manipulator (AREA)
- Numerical Control (AREA)
Description
Claims (14)
- 作業機械本体と、
前記作業機械本体に取り付けられた作業機と、
前記作業機を撮像する撮像装置と、
コンピュータとを備え、
前記コンピュータは、前記作業機の位置を求めるための学習済み位置推定モデルを有し、
前記学習済み位置推定モデルは、人工知能モデルであり、入力層と、中間層と、出力層とを有するニューラルネットワークを含み、かつ前記入力層、前記中間層、および前記出力層がそれぞれ、1または複数のニューロンを有しており、
前記コンピュータは、前記撮像装置によって撮像される前記作業機の撮像画像を取得し、前記学習済み位置推定モデルを用いて前記撮像画像を前記入力層に含まれる各前記ニューロンに入力し、前記出力層から前記作業機の位置を推定した推定位置を出力するようにプログラムされている、作業機械を含むシステム。 - 前記作業機の位置は、前記作業機械本体に対する前記作業機の相対位置である、請求項1に記載のシステム。
- 前記作業機は、前記作業機械本体に連結されたブームと、前記ブームに連結されたアームと、前記アームに連結されたバケットとを有し、
前記推定位置は、前記作業機械本体に対する前記ブームの角度と、前記ブームに対する前記アームの角度と、前記アームに対する前記バケットの角度とを含む、請求項2に記載のシステム。 - 前記撮像画像は、前記作業機の動画像から得られたフレーム画像である、請求項1~3のいずれか1項に記載のシステム。
- 前記撮像装置は、前記作業機械本体に取り付けられ、
前記作業機は、所定の動作平面上で動作し、
前記撮像装置の光軸が前記動作平面に交差する、請求項1~4のいずれか1項に記載のシステム。 - 前記コンピュータは、前記推定位置と、前記撮像画像を撮像した時点に前記相対位置を計測した計測位置との誤差に基づいて、前記学習済み位置推定モデルが更新されるようにプログラムされている、請求項2、請求項3、または請求項2を直接もしくは間接的に引用する請求項4もしくは請求項5のいずれか1項に記載のシステム。
- 前記作業機は、アタッチメントを有し、
前記作業機の位置は、前記アタッチメントの位置である、請求項1に記載のシステム。 - コンピュータによって実行される方法であって、
前記コンピュータは、作業機械本体に設けられた作業機の位置を求めるための学習済み位置推定モデルを有し、
前記学習済み位置推定モデルは、人工知能モデルであり、入力層と、中間層と、出力層とを有するニューラルネットワークを含み、かつ前記入力層、前記中間層、および前記出力層がそれぞれ、1または複数のニューロンを有しており、
前記作業機を含んだ画像を取得する工程と、
前記学習済み位置推定モデルを用いて前記画像を前記入力層に含まれる各前記ニューロンに入力し、前記出力層から前記作業機の位置を推定した推定位置を出力する工程と、
を備える方法。 - 学習済みの位置推定モデルの製造方法であって、
前記位置推定モデルは、人工知能モデルであり、入力層と、中間層と、出力層とを有するニューラルネットワークを含み、かつ前記入力層、前記中間層、および前記出力層がそれぞれ、1または複数のニューロンを有しており、
作業機械本体に取り付けられた作業機の撮像画像と、前記撮像画像を撮像した時点の前記作業機の位置を計測した計測位置とを含む学習用データを取得することと、
前記学習用データにより前記位置推定モデルを学習させることと、を備え、
前記学習させることは、前記位置推定モデルを用いて前記撮像画像を前記入力層に含まれる各前記ニューロンに入力し、前記出力層から前記作業機の位置を推定した推定位置を出力することを含む、製造方法。 - 前記学習させることは、
前記計測位置に対する前記推定位置の誤差を算出することと、
前記誤差に基づいて前記位置推定モデルを更新することとを含む、請求項9に記載の製造方法。 - 作業機の位置を求める位置推定モデルを学習させるための学習用データであって、
前記位置推定モデルは、人工知能モデルであり、入力層と、中間層と、出力層とを有するニューラルネットワークを含み、かつ前記入力層、前記中間層、および前記出力層がそれぞれ、1または複数のニューロンを有しており、
撮像装置によって撮像された前記作業機の撮像画像と、
前記撮像画像を撮像した時点の作業機の位置を計測した計測位置とを備え、
前記学習させることは、前記位置推定モデルを用いて前記撮像画像を前記入力層に含まれる各前記ニューロンに入力し、前記出力層から前記作業機の位置を推定した推定位置を出力することを含む、学習用データ。 - 前記作業機の位置は、作業機械本体に対する前記作業機の相対位置である、請求項11に記載の学習用データ。
- 前記作業機は、前記作業機械本体に連結されたブームと、前記ブームに連結されたアームと、前記アームに連結されたバケットとを有し、
前記計測位置は、前記作業機械本体に対する前記ブームの角度と、前記ブームに対する前記アームの角度と、前記アームに対する前記バケットの角度とを含む、請求項12に記載の学習用データ。 - 学習済みの位置推定モデルの製造方法であって、
前記位置推定モデルは、人工知能モデルであり、入力層と、中間層と、出力層とを有するニューラルネットワークを含み、かつ前記入力層、前記中間層、および前記出力層がそれぞれ、1または複数のニューロンを有しており、
作業機械本体に取り付けられた作業機の撮像画像を取得することと、
学習済みの第1の位置推定モデルを用いて前記撮像画像を前記入力層に含まれる各前記ニューロンに入力し、前記出力層から前記作業機の位置を推定した推定位置を出力することと、
前記撮像画像と前記推定位置とを含む学習用データにより、第2の位置推定モデルを学習させることと、を備える、製造方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111231A JP7177608B2 (ja) | 2018-06-11 | 2018-06-11 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ |
CN201980015368.6A CN111788361B (zh) | 2018-06-11 | 2019-03-19 | 包括作业机械的系统、由计算机执行的方法及学习用数据 |
PCT/JP2019/011560 WO2019239668A1 (ja) | 2018-06-11 | 2019-03-19 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ |
US16/978,839 US11814817B2 (en) | 2018-06-11 | 2019-03-19 | System including work machine, computer implemented method, method for producing trained position estimation model, and training data |
DE112019000551.0T DE112019000551T5 (de) | 2018-06-11 | 2019-03-19 | System mit einer Arbeitsmaschine, computerimplementiertes Verfahren, Verfahren zur Erzeugung eines gelernten Positionsschätzmodells, und Lerndaten |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111231A JP7177608B2 (ja) | 2018-06-11 | 2018-06-11 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019214835A JP2019214835A (ja) | 2019-12-19 |
JP7177608B2 true JP7177608B2 (ja) | 2022-11-24 |
Family
ID=68842837
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018111231A Active JP7177608B2 (ja) | 2018-06-11 | 2018-06-11 | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ |
Country Status (5)
Country | Link |
---|---|
US (1) | US11814817B2 (ja) |
JP (1) | JP7177608B2 (ja) |
CN (1) | CN111788361B (ja) |
DE (1) | DE112019000551T5 (ja) |
WO (1) | WO2019239668A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6942671B2 (ja) * | 2018-04-26 | 2021-09-29 | 株式会社小松製作所 | 寸法特定装置および寸法特定方法 |
JP7206985B2 (ja) * | 2019-02-08 | 2023-01-18 | コベルコ建機株式会社 | 損害推定装置及び機械学習装置 |
US20220195704A1 (en) * | 2019-04-04 | 2022-06-23 | Komatsu Ltd. | System including work machine, computer implemented method, method for producing trained posture estimation model, and training data |
JP7376264B2 (ja) * | 2019-07-01 | 2023-11-08 | 株式会社小松製作所 | 作業機械を含むシステム、および作業機械 |
JP7458262B2 (ja) | 2020-07-29 | 2024-03-29 | 株式会社Ihiエアロスペース | 建設機械のアーム位置検出システム |
KR102582871B1 (ko) * | 2020-10-26 | 2023-09-26 | 금오공과대학교 산학협력단 | 신경망 학습을 이용한 굴착기 버킷 위치 추정 시스템 및 방법 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015063864A (ja) | 2013-09-26 | 2015-04-09 | 住友建機株式会社 | ショベル、及びショベル用管理装置 |
WO2016148309A1 (ja) | 2016-03-29 | 2016-09-22 | 株式会社小松製作所 | 校正システム、作業機械及び校正方法 |
WO2017010212A1 (ja) | 2015-07-15 | 2017-01-19 | 株式会社日立製作所 | 作業機械の操作システムおよび作業機械の操作システムを備えた作業機械 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5974352A (en) * | 1997-01-06 | 1999-10-26 | Caterpillar Inc. | System and method for automatic bucket loading using force vectors |
SE526913C2 (sv) * | 2003-01-02 | 2005-11-15 | Arnex Navigation Systems Ab | Förfarande i form av intelligenta funktioner för fordon och automatiska lastmaskiner gällande kartläggning av terräng och materialvolymer, hinderdetektering och styrning av fordon och arbetsredskap |
JP2005194825A (ja) | 2004-01-09 | 2005-07-21 | Shin Caterpillar Mitsubishi Ltd | 建設機械における作業機制御装置 |
JP2008063775A (ja) | 2006-09-06 | 2008-03-21 | Shin Caterpillar Mitsubishi Ltd | 建設機械の作業機姿勢特定装置および作業機姿勢特定方法 |
JP5227139B2 (ja) | 2008-11-12 | 2013-07-03 | 株式会社トプコン | 建設機械 |
US9206589B2 (en) * | 2009-03-31 | 2015-12-08 | Caterpillar Inc. | System and method for controlling machines remotely |
AU2014274647B2 (en) * | 2014-12-12 | 2021-05-20 | Caterpillar Of Australia Pty Ltd | Determining terrain model error |
AU2014274650B2 (en) * | 2014-12-12 | 2021-02-25 | Caterpillar Of Australia Pty Ltd | Processing of terrain data |
JP6532797B2 (ja) | 2015-10-08 | 2019-06-19 | 日立建機株式会社 | 建設機械 |
-
2018
- 2018-06-11 JP JP2018111231A patent/JP7177608B2/ja active Active
-
2019
- 2019-03-19 US US16/978,839 patent/US11814817B2/en active Active
- 2019-03-19 WO PCT/JP2019/011560 patent/WO2019239668A1/ja active Application Filing
- 2019-03-19 CN CN201980015368.6A patent/CN111788361B/zh active Active
- 2019-03-19 DE DE112019000551.0T patent/DE112019000551T5/de active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015063864A (ja) | 2013-09-26 | 2015-04-09 | 住友建機株式会社 | ショベル、及びショベル用管理装置 |
WO2017010212A1 (ja) | 2015-07-15 | 2017-01-19 | 株式会社日立製作所 | 作業機械の操作システムおよび作業機械の操作システムを備えた作業機械 |
WO2016148309A1 (ja) | 2016-03-29 | 2016-09-22 | 株式会社小松製作所 | 校正システム、作業機械及び校正方法 |
Also Published As
Publication number | Publication date |
---|---|
DE112019000551T5 (de) | 2020-10-08 |
US11814817B2 (en) | 2023-11-14 |
CN111788361A (zh) | 2020-10-16 |
US20210002871A1 (en) | 2021-01-07 |
JP2019214835A (ja) | 2019-12-19 |
WO2019239668A1 (ja) | 2019-12-19 |
CN111788361B (zh) | 2022-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7177608B2 (ja) | 作業機械を含むシステム、コンピュータによって実行される方法、学習済みの位置推定モデルの製造方法、および学習用データ | |
JP7316052B2 (ja) | 作業機械を含むシステム、およびコンピュータによって実行される方法 | |
US11414837B2 (en) | Image processing system, display device, image processing method, method for generating trained model, and dataset for learning | |
US11530920B2 (en) | Controlling movement of a machine using sensor fusion | |
JP5083543B2 (ja) | 移動ロボットの走行領域判別装置及び走行領域判別方法 | |
CN113605483B (zh) | 一种挖掘机自动作业控制方法和装置 | |
JP2015224875A (ja) | 作業機の作動状態検出システム及び作業機 | |
JP7376264B2 (ja) | 作業機械を含むシステム、および作業機械 | |
JP2020004096A (ja) | 作業車両による作業を判定するためのシステム、方法、及び学習済みモデルの製造方法 | |
JP7310408B2 (ja) | 建設機械の作業情報生成システム | |
US20220307226A1 (en) | Method for producing trained work type estimation model, training data, computer-implemented method, and system comprising work machine | |
CN114174608A (zh) | 工程机械的位置确定系统 | |
CN111819333B (zh) | 液压挖掘机及系统 | |
CN114327076B (zh) | 作业机械与作业环境的虚拟交互方法、装置及系统 | |
KR102417984B1 (ko) | 굴삭기의 운전자 보조시스템 및 이를 이용한 굴삭기 제어 방법 | |
US20230339402A1 (en) | Selectively utilizing multiple imaging devices to maintain a view of an area of interest proximate a work vehicle | |
WO2024135603A1 (ja) | ショベルの施工支援システム | |
WO2023276285A1 (ja) | 侵入検出システム | |
US11680387B1 (en) | Work vehicle having multi-purpose camera for selective monitoring of an area of interest | |
CN118521636A (zh) | 用于机具跟踪系统的视觉定位和特征检测 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220614 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220802 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221101 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7177608 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |