JP2023548451A - センサデータに基づく材料の体積及び密度の決定 - Google Patents
センサデータに基づく材料の体積及び密度の決定 Download PDFInfo
- Publication number
- JP2023548451A JP2023548451A JP2023524292A JP2023524292A JP2023548451A JP 2023548451 A JP2023548451 A JP 2023548451A JP 2023524292 A JP2023524292 A JP 2023524292A JP 2023524292 A JP2023524292 A JP 2023524292A JP 2023548451 A JP2023548451 A JP 2023548451A
- Authority
- JP
- Japan
- Prior art keywords
- machine
- volume
- interest
- region
- controller
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 239000000463 material Substances 0.000 title claims abstract description 205
- 238000005094 computer simulation Methods 0.000 claims abstract description 10
- 238000000034 method Methods 0.000 claims description 42
- 230000015654 memory Effects 0.000 claims description 18
- 230000009471 action Effects 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 abstract description 4
- 230000008569 process Effects 0.000 description 28
- 238000004891 communication Methods 0.000 description 21
- 238000005259 measurement Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 5
- 239000002689 soil Substances 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000001419 dependent effect Effects 0.000 description 3
- 239000012530 fluid Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005065 mining Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000010426 asphalt Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 229910052500 inorganic mineral Inorganic materials 0.000 description 1
- 239000011499 joint compound Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000011707 mineral Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/2029—Controlling the position of implements in function of its load, e.g. modifying the attitude of implements in accordance to vehicle speed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01F—MEASURING VOLUME, VOLUME FLOW, MASS FLOW OR LIQUID LEVEL; METERING BY VOLUME
- G01F22/00—Methods or apparatus for measuring volume of fluids or fluent solid material, not otherwise provided for
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01G—WEIGHING
- G01G19/00—Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups
- G01G19/08—Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups for incorporation in vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N9/00—Investigating density or specific gravity of materials; Analysing materials by determining density or specific gravity
- G01N9/02—Investigating density or specific gravity of materials; Analysing materials by determining density or specific gravity by measuring weight of a known volume
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/30—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
- E02F3/32—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Networks & Wireless Communication (AREA)
- Pathology (AREA)
- Geometry (AREA)
- Radar, Positioning & Navigation (AREA)
- Electromagnetism (AREA)
- Fluid Mechanics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Component Parts Of Construction Machinery (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Operation Control Of Excavators (AREA)
Abstract
コントローラ(145)は、機械(105)上及び機械(105)の外部の位置を含む複数の候補関心領域(140、175)から関心領域を識別する情報を受信し得る。コントローラ(145)は、1つ又は複数の第1のセンサデバイス(160)を使用して、関心領域に位置する材料を識別するデータを取得し得、データに基づいてグラフ表示を生成し得る。コントローラ(145)は、1つ又は複数の第2のセンサデバイス(150)を使用して、機械(105)の1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つを決定し得、1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つに基づいて、グラフ表示の部分を識別し得る。部分は、関心領域に位置する材料に対応し得る。コントローラ(145)は、1つ又は複数の計算モデルを使用して、グラフ表示の部分に基づいて材料の体積を決定し得る。
【選択図】図1
Description
本開示は、一般にコントローラに関し、例えば、機械によって移動される材料の体積及び密度を決定するコントローラに関する。
掘削機は、そのバケットがダンプトラックの荷台に材料を下ろした場所にダンプトラックが配置されている間に、材料をダンプトラックに積み込むことができる。掘削機は、材料を荷台に積み込むために、1つ又は複数のパスを実行することができる。個人(例えば、掘削機のオペレータ及び/又は掘削機の所有者)は、(例えば、作業シフト中)、掘削機の生産性の測定を決定することを望む場合がある。
例えば、個人は、荷台に積み込まれた材料の体積及び/又は材料の密度、バケットによって(例えば、地面から)取り除かれた材料の体積及び/又は材料の密度、及び/又は掘削機に近いパイル中の材料の体積及び/又は材料の密度に関する情報を取得することを望む場合がある。掘削機及びダンプトラックは、そのような情報を個人に提供することはできない。したがって、個人は、そのような体積及び/又は密度の手動測定によって行う。このような手動測定は、時間のかかるプロセスである。さらに、手動測定は不正確な場合がある。手動測定の不正確さは、掘削機の不正確な変更及び/又は調整(例えば、掘削機の構成に対する不正確な変更及び/又は調整、掘削機のコンポーネントに対する不正確な変更及び/又は調整など)につながる可能性がある。
米国特許出願第20200087893号(‘893出願)は、移動作業機械が、フレームによって移動可能に支持されたコンテナを含むことを開示している。‘893出願はまた、コンテナがコンテンツを受け取るように構成され、アクチュエータがフレームに対するコンテナの動きを制御可能に駆動するように構成されていることも開示している。‘893出願は、掘削機のバケットなどの作業機械のコンテナ内の土の密度、体積、又は重量を決定することをさらに開示している。
‘893出願は、掘削機のバケット内の土の密度、体積、又は重量を決定することを開示しているが、ダンプトラックの荷台の土の密度又は体積を決定することと、掘削機に近いパイル内の土の密度又は体積を決定することとを開示していない。
本開示のコントローラは、上記問題及び/又は当技術分野における他の問題のうちの1つ又は複数を解決する。
いくつかの実装形態では、機械のコントローラによって実行される方法は、機械上及び機械の外部の位置を含む複数の候補関心領域から関心領域を識別する情報を受信することと、機械に関連付けられた1つ又は複数の第1のセンサデバイスを使用して、関心領域に位置する材料を識別する画像を取得することと、画像に基づいて三次元グラフ表示を生成することと、機械の1つ又は複数の第2のセンサデバイスを使用して、機械の1つ又は複数の部分の位置又は向きのうちの少なくとも1つを決定することと、1つ又は複数の部分の位置又は向きのうちの少なくとも1つに基づいて、機械に対する関心領域における材料の座標を決定することと、座標に基づいて、三次元グラフ表示の、関心領域に位置する材料に対応する部分を識別することと、1つ又は複数の計算モデルを使用して、部分の体積を決定することと、部分の体積に基づいて、材料の体積を決定することと、材料の体積に基づいてアクションを実行することとを含む。
いくつかの実装形態では、機械は、1つ又は複数のメモリと、機械上及び機械の外部の位置を含む複数の候補関心領域から関心領域を識別する情報を受信し、機械に関連付けられた1つ又は複数の第1のセンサデバイスを使用して、関心領域に位置する材料を識別するデータを取得し、データに基づいて材料の3次元グラフ表示を生成し、機械の1つ又は複数の第2のセンサデバイスを使用して、機械の1つ又は複数の部分の位置又は向きのうちの少なくとも1つを決定し、1つ又は複数の部分の位置又は向きのうちの少なくとも1つに基づいて、3次元グラフ表示の、関心領域に位置する材料に対応する部分を識別し、1つ又は複数の計算モデルを使用して、部分の体積を決定し、部分の体積に基づいて、材料の体積を決定するように構成された1つ又は複数のプロセッサとを含む。
いくつかの実装形態では、システムは、機械に関連付けられた1つ又は複数の第1のセンサデバイスと、機械に関連付けられた1つ又は複数の第2のセンサデバイスと、コントローラとを含み、前記機械のコントローラは、機械上及び機械の外部の位置を含む複数の候補関心領域から関心領域を識別する情報を受信し、1つ又は複数の第1のセンサデバイスを使用して、関心領域に位置する材料を識別するデータを取得し、データに基づいてグラフ表示を生成し、1つ又は複数の第2のセンサデバイスを使用して、機械の1つ又は複数の部分の位置又は向きのうちの少なくとも1つを決定し、1つ又は複数の部分の位置又は向きのうちの少なくとも1つに基づいて、グラフ表示の、関心領域に位置する材料に対応する部分を識別し、1つ又は複数の計算モデルを使用して、グラフ表示の部分に基づいて材料の体積を決定するように構成される。
本開示は、複数の関心領域(例えば、機械上及び機械の外部の位置)に位置する材料の体積及び/又は密度を決定する(機械の)コントローラに関する。「機械」という用語は、例えば、鉱業、建設、農業、輸送、又は別の産業などの産業に関連する操作を実行する任意の機械を指す場合がある。さらに、1つ又は複数の器具を機械に接続することができる。
図1は、本明細書に記載の実装例100の図である。図1の実装例100は、機械105及び機械110を含む。図1に示されるように、機械105は、掘削機などの積載機械として具現化される。又は、機械105は、例えばドーザー、ホイールローダ、及び/又は同様の機械などの別のタイプの積載機械であってもよい。図1に示されるように、機械110は、採掘トラック、運搬トラック、ダンプトラック、及び/又は同様の機械などの運搬機械として具体化される。いくつかの例では、機械105は、材料を機械110に(例えば、機械110の荷台に)積み込む(又は移動する)ことができる。
図1に示されるように、機械105は、地面係合部材115、オペレータキャビン120、及び機械本体125を含む。地面係合部材115は、機械105を推進するように構成され得る。地面係合部材115は、(図1に示すように)トラックを含み得る。又は、地面係合部材115は、ホイール、ローラ、及び/又は同様のものを含み得る。地面係合部材115は、機械本体125に取り付けることができ、1つ又は複数のエンジン及びドライブトレイン(図示せず)によって駆動される。
オペレータキャビン120は、機械本体125及び回転フレーム(図示せず)によって支持される。オペレータキャビン120は、一体型ディスプレイ122と、例えば一体型ジョイスティックなどのオペレータコントロール124とを含む。オペレータコントロール124は、機械105の動きを制御する信号を生成する1つ又は複数の入力コンポーネントを含み得る。
自律機械の場合、オペレータコントロール124は、オペレータが使用するように設計されていなくてもよいが、オペレータとは独立して動作するように設計されていてもよい。この場合、例えば、オペレータコントロール124は、オペレータ入力なしで別のコンポーネントによって使用される入力信号を提供する1つ又は複数の入力コンポーネントを含み得る。機械本体125は、回転フレーム(図示せず)に取り付けられる。
図1に示されるように、機械105は、ブーム130、スティック135、及びツール140を含む。ブーム130は、機械本体125の近位端に旋回可能に取り付けられ、1つ又は複数の流体作動シリンダ(例えば、油圧又は空気圧シリンダ)、電気モータ、及び/又は他の電気機械コンポーネントによって、機械本体125に対して関節運動する。スティック135は、ブーム130の遠位端に旋回可能に取り付けられ、1つ又は複数の流体作動シリンダ、電気モータ、及び/又は他の電気機械コンポーネントによってブーム130に対して関節運動する。ツール140は、スティック135の遠位端に取り付けられ、1つ又は複数の流体作動シリンダ、電気モータ、及び/又は他の電気機械コンポーネントによって、スティック135に対して関節運動することができる。ツール140は、(図1に示されるように)バケット又はスティック135に取り付けられ得る任意の他のツールであり得る。
図1に示されるように、機械105は、コントローラ145(例えば、電子制御モジュール(ECM))、1つ又は複数の慣性計測装置(IMU)150(本明細書では、個別に「IMU150」と呼び、集合的に「IMU150」と呼ぶ)、荷重センサデバイス155、1つ又は複数のステレオカメラデバイス160(本明細書では、個別に「ステレオカメラデバイス160」と呼び、集合的に「ステレオカメラデバイス160」と呼ぶ)、及び無線通信コンポーネント165を含む。
コントローラ145は、機械105の動作を制御及び/又は監視することができる。例えば、コントローラ145は、オペレータコントロール124から、IMU150から、ペイロードセンサデバイス155から、及び/又はステレオカメラデバイス160からの信号に基づいて、機械105の動作を制御及び/又は監視することができる。
IMU150は、IMU150が設置される機械105のコンポーネントの位置及び向きを示す信号を受信、生成、記憶、処理、及び/又は提供できる1つ又は複数のデバイスを含む。例えば、IMU150は、1つ又は複数の加速度計及び/又は1つ又は複数のジャイロスコープを含み得る。1つ又は複数の加速度計及び/又は1つ又は複数のジャイロスコープは、基準フレームに対するIMU150の位置及び/又は向き、したがってコンポーネントの位置及び/又は向きを決定するために使用できる信号を生成及び提供する。図1に示されるように、IMU150は、例えば、オペレータキャビン120、ブーム130、スティック135、及びツール140など、機械105のコンポーネント又は部分上の異なる位置に設置される。
荷重センサデバイス155は、材料(例えば、ツール140に装着された材料)の質量(又は重量)を感知し、質量を示す信号を生成することができる1つ又は複数のセンサデバイスを含み得る。荷重センサデバイス155は、ひずみゲージ、圧電センサ、圧力センサ、圧力トランスデューサ、及び/又は同様のセンサデバイスを含み得る。図1に示されるように、荷重センサデバイス155は、ツール140に設置されてもよい。
ステレオカメラデバイス160は、機械105に関連付けられた領域の3次元グラフ表示を生成するために(例えば、コントローラ145によって)使用され得るデータを取得することができる1つ又は複数のセンサデバイスを含み得る。一例として、ステレオカメラデバイス160は、機械105に関連する領域の画像を取得し得る。図1に示されるように、ステレオカメラデバイス160は、例えば、オペレータキャビン120、ブーム130、及びスティック135など、機械105のコンポーネント又は部分上の異なる位置に設置される。代替として、又はステレオカメラデバイス160に加えて、機械105は、光検出及び測距(LIDAR)デバイス、感知センサ、及び/又は同様のデバイスを含み得る。
無線通信コンポーネント165は、本明細書で説明するように、1つ又は複数の他の機械(例えば、機械110)及び/又は1つ又は複数のデバイスと通信できる1つ又は複数のデバイスを含み得る。無線通信コンポーネント165は、トランシーバ、別個の送信機及び受信機、アンテナ、及び/又は同様のものを含み得る。無線通信コンポーネント165は、例えば、BLUETOOTH(登録商標)Low-Energy、BLUETOOTH(登録商標)、Wi-Fi、近距離無線通信(NFC)、Z-Wave、ZigBee、電気電子技術者協会(IEEE)802.154、及び/又は同様のものなどの短距離無線通信プロトコルを使用して、1つ又は複数の機械と通信し得る。
追加的又は代替的に、無線通信コンポーネント165は、例えば、無線ローカルエリアネットワーク(LAN)、セルラーネットワーク(例えば、ロングタームエボリューション(LTE)ネットワーク、符号分割多元接続(CDMA)ネットワーク、3Gネットワーク、4Gネットワーク、5Gネットワーク、又は別のタイプのセルラーネットワーク)、公衆陸上移動網(PLMN)、ワイドエリアネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、電話ネットワーク(例えば、公衆電話交換網(PSTN))、プライベートネットワーク、アドホックネットワーク、イントラネット、インターネット、光ファイバーベースのネットワーク、クラウドコンピューティングネットワークなど、及び/又はこれら又は他のタイプのネットワークの組み合わせなどの1つ又は複数の有線及び/又は無線ネットワークを含むネットワークを介して、1つ又は複数の機械と通信し得る。
図1に示されるように、機械110は、無線通信コンポーネント170及び荷台175を含む。無線通信コンポーネント170は、上述の無線通信コンポーネント165と同様であり得る。荷台175を使用して材料180を受け取ることができる(例えば、機械105のツール140を使用して荷台175に積み込む)。材料180は、地面材料(例えば、土から得られる材料)を含み得る。
上述のように、図1は一例として提供されている。他の例は、図1に関連して説明したものとは異なる場合がある。
図2は、図1の機械(例えば、機械105)に関連して実装され得る、本明細書で説明される例示的なシステム200の図である。図2に示されるように、システム200は、コントローラ145、1つ又は複数のIMU150(例えば、IMU150-1から150-M(M≧1))、荷重センサデバイス155、ステレオカメラデバイス160(例えば、ステレオカメラデバイス160-1から160-N(N≧1))、及びデバイス230を含む。代替として、又はステレオカメラデバイス160に加えて、システム200は、LIDARデバイス、感知センサ、及び/又は同様のデバイスを含み得る。
コントローラ145は、1つ又は複数のプロセッサ210(本明細書では個別に「プロセッサ210」と呼び、集合的に「プロセッサ210」と呼ぶ)と、1つ又は複数のメモリ220と(本明細書では個別に「メモリ220」と呼び、集合的に「メモリ220」と呼ぶ)を含み得る。プロセッサ210は、ハードウェア、ファームウェア、及び/又はハードウェアとソフトウェアの組み合わせで実装される。プロセッサ210は、中央処理装置(CPU)、グラフィック処理装置(GPU)、加速処理装置(APU)、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、又は別のタイプの処理コンポーネントを含む。プロセッサ210は、機能を実行するようにプログラムされる。
メモリ220は、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、及び/又は機能を実行するためにプロセッサ210によって使用される情報及び/又は命令を記憶している別のタイプの動的又は静的記憶装置(例えば、フラッシュメモリ、磁気メモリ及び/又は光メモリ)を含む。例えば、機能を実行するとき、コントローラ145は(例えば、プロセッサ210及びメモリ220を使用して)1つ又は複数のIMU150、荷重センサデバイス155、及び/又はステレオカメラデバイス160からデータを取得し、リアルタイム又はほぼリアルタイムで、機械105によって移動された、又は移動されるべき材料180の体積及び/又は密度を決定し得る。
IMU150は、ポーズ情報をコントローラ145に送信して、コントローラ145が材料180の体積を決定できるように構成され得る。ポーズ情報は、機械105の1つ又は複数の部分の位置及び/又は向きに関する情報を含み得る。例えば、ポーズ情報は、オペレータキャビン120のスイング角度、ブーム130の角度、及び/又はスティック135の角度を識別する情報を含み得る。
IMU150は、定期的に(例えば、毎秒、毎分、トリガーの発生時などに)ポーズ情報をコントローラ145に送信するように構成され得る。いくつかの例では、IMU150は、ポーズ情報を送信する期間が事前に構成され得る。又は、ポーズ情報を送信する期間は、機械105に関連するオペレータによって決定され得る。又は、ポーズ情報を送信する期間は、(例えば、機械105に関する履歴ポーズ送信データに基づいて)コントローラ145によって決定されてもよい。
履歴ポーズ送信データは、ポーズ情報を送信する期間、機械105の移動頻度、及び/又は同様の情報に関する履歴データを含み得る。場合によっては、IMU150は、コントローラ145からの要求に基づいてポーズ情報をコントローラ145に送信するように構成され得る。例えば、コントローラ145は、機械105の動きの検出に基づいて、機械105のオペレータからのポーズ情報の要求に基づいて、及び/又は材料180の体積及び/又は材料180の密度を決定する要求に基づいて、ポーズ情報の要求を送信し得る。
荷重センサデバイス155は、荷重情報をコントローラ145に送信して、コントローラ145が材料180の密度を決定できるように構成され得る。荷重情報は、(例えば、機械105のツール140に積み込まれた、及び/又は機械110の荷台175に積み込まれた)材料180の重量及び/又は質量を識別する情報を含み得る。
荷重センサデバイス155は、定期的に(例えば、毎秒、毎分、トリガーの発生時などに)荷重情報をコントローラ145に送信するように構成され得る。いくつかの例では、荷重センサデバイス155は、荷重情報を送信する期間が事前に構成され得る。又は、荷重情報を送信する期間は、機械105に関連するオペレータによって決定され得る。又は、荷重情報を送信する期間は、(例えば、機械105に関する履歴荷重送信データに基づいて)コントローラ145によって決定され得る。
履歴荷重送信データは、荷重情報及び/又は機械105の移動頻度を送信する期間に関する履歴データを含み得る。荷重センサデバイス155は、コントローラ145からの要求に基づいて荷重情報をコントローラ145に送信するように構成され得る。例えば、コントローラ145は、密度を決定する要求の受信に基づいて、機械105の動きの検出に基づいて(例えば、IMU150からの情報に基づいて)、及び/又は荷重情報の要求に基づいて、荷重情報の要求を送信し得る。
ステレオカメラデバイス160は、画像データを取得し、画像データをコントローラ145に送信して、コントローラ145が材料180の体積及び/又は密度を決定できるようにするように構成され得る。画像データは、機械105に関連する領域(例えば、機械105を取り囲む領域)の画像を含み得る。画像データは、機械105に関連する関心領域を識別し得る。関心領域は、機械105のツール140の位置、機械110の荷台175の位置、及び/又は材料180のパイルの位置を含み得る。
ステレオカメラデバイス160は、定期的に(例えば、毎秒、毎分、トリガーの発生時などに)画像データをコントローラ145に送信するように構成され得る。いくつかの例では、ステレオカメラデバイス160は、画像データを送信する期間が事前に構成され得る。又は、画像データを送信する期間は、機械105に関連するオペレータによって決定され得る。又は、画像データを送信する期間は、(例えば、機械105に関する履歴画像データに基づいて)コントローラ145によって決定され得る。
履歴画像送信データは、画像データを送信する期間、機械105の移動の頻度、体積及び/又は密度を決定するための要求の頻度に関する履歴データを含み得る。いくつかの例では、ステレオカメラデバイス160は、コントローラ145からの要求に基づいて画像データをコントローラ145に送信するように構成され得る。例えば、コントローラ145は、機械105の動き(例えば、機械110の荷台175への材料の移動に関連する動き)の検出に基づいて、画像データの要求に基づいて、及び/又は材料180の体積及び/又は材料180の密度を決定する要求に基づいて、画像データの要求を送信し得る。
いくつかの例では、ステレオカメラデバイス160は、画像データ内の関心領域を識別するために、1つ又は複数のオブジェクト検出(又はオブジェクト認識)操作を実行し得る。例えば、コントローラ145は、関心領域を識別する情報をステレオカメラデバイス160に提供することができ、ステレオカメラデバイス160は、画像データ内の関心領域を識別するために1つ又は複数のオブジェクト検出動作を実行することができる。
デバイス230は、異なる機械(例えば、機械105、機械110、及び/又は他の機械)によって移動される材料の体積及び/又は密度を監視し得る1つ又は複数のデバイスを含み得る。デバイス230は、サーバーデバイス(例えば、ホストサーバー、ウェブサーバー、アプリケーションサーバーなど)、コンピュータ(例えば、ラップトップ、デスクトップなど)、ユーザデバイス(例えば、モバイルデバイス、ラップトップなど)、クラウドデバイス、及び/又は同様のものを含み得る。いくつかの例では、デバイス230は機械110に含まれ得る。
コントローラ145は、以下により詳細に説明するように、1つ又は複数のIMU150、荷重センサデバイス155、及び/又はステレオカメラデバイス160からデータを取得して、材料180の体積及び/又は機械105によって移動された材料180の体積を決定する。いくつかの例では、コントローラ145は、機械105によって移動された及び/又は移動されるべき材料の体積(及び/又は密度)(例えば、荷台175に積み込まれる材料180の体積及び/又は密度、ツール140内の材料180の体積及び/又は密度、及び/又は機械105及び/又は機械110の閾値距離内のパイル内の材料180の体積及び/又は密度)を決定する要求を受信し得る。
コントローラ145は、機械105のオペレータ、機械110のオペレータ、及び/又はデバイス230のユーザから要求を受信し得る。例えば、機械105のオペレータは一体型ディスプレイ122を使用して要求を提出することができ、コントローラ145は一体型ディスプレイ122から要求を受信することができる。又は、機械110のオペレータが(機械110の)無線通信コンポーネント170を介して要求を送信し得、コントローラ145が(機械105の)無線通信コンポーネント165を介して要求を受信し得る。又は、コントローラ145は、デバイス230から(機械105の)無線通信コンポーネント165を介して要求を受信し得る。いくつかの例では、コントローラ145は、ユーザインタフェース(例えば、表示用のグラフィカルユーザインタフェース)を提供し得、要求は、ユーザインタフェースを使用して提出され得る。
いくつかの例では、コントローラ145は、複数の候補関心領域から関心領域を識別する情報を(要求の一部として)受信し得る。関心領域は、位置、エリア、領域、及び/又は同様の地理情報に対応する場合がある。複数の候補関心領域は、機械上及び機械105の外部の位置を含み得る。例えば、複数の候補関心領域は、機械110の荷台175、機械105の工具140、及び/又は機械105及び/又は機械110の閾値距離内の材料180のパイルを含み得る。したがって、関心領域を識別する情報(以下、「関心領域情報」)は、荷台175、ツール140、及び/又は材料180のパイルを識別し得る。
関心領域情報は、機械110を識別する情報(例えば、機械110のタイプ及び/又は機械110の寸法)、荷台175を識別する情報(例えば、荷台175のタイプ、荷台175の寸法、及び/又は機械110に対する荷台175の位置)、ツール140を識別する情報(例えば、ツール140のタイプ及び/又はツール140の寸法)、及び/又は材料180のパイルを識別する情報(例えば、(例えば、機械105及び/又は機械110に対する)材料180のパイルの位置、材料180のパイルの寸法、及び材料180のパイルの形状)を含み得る。
いくつかの例では、コントローラ145は、機械110を識別する情報に基づいて、荷台175を識別する情報を、機械105に関連付けられた1つ又は複数のメモリ(例えば、メモリ220)から取得し得る。コントローラ145は、1つ又は複数のメモリから、ツール140を識別する要求に基づいてツール140を識別する情報を関心領域として取得し得る。
いくつかの例では、要求の受信に基づいて、コントローラ145は、要求で識別された関心領域に関連するデータを取得し得る。例えば、要求の受信に基づいて、コントローラ145は、1つ以上のステレオカメラデバイス160を関心領域に向けさせ、関心領域を含むデータ(例えば、画像)を取得することができる。画像は、関心領域に位置する材料180を識別し得る。いくつかの例では、コントローラ145は、画像を1つ又は複数のメモリに記憶することができる。
場合によっては、コントローラ145は、機械105の動き(例えば、材料180を動かす機械105に関連する動き)が検出されるたびに、1つ又は複数のステレオカメラデバイス160に画像を取得させることができる。コントローラ145は、1つ又は複数のIMU150から得られた情報に基づいて機械105の動きを検出し得る。
いくつかの実装形態では、機械110は、無線通信コンポーネント170を介して、機械110が(機械105から)材料180を取得するために到着することを示し、到着予定時刻を示し、及び/又は到着時に(例えば、機械105に対する)機械110の予想される位置を示す。到着情報を送信し得る。又は、到着情報は、機械110が到着したこと(及び機械105から材料180を取得する準備ができていること)を示し、(例えば、機械105に対する)機械110の実際の位置を示すことができる。
コントローラ145は、無線通信コンポーネント165を介して到着情報を受信し、1つ又は複数のステレオカメラデバイス160に、到着情報に基づいて画像を取得させることができる。例えば、コントローラ145は、1つ又は複数のステレオカメラデバイス160に、予定時間に、予想される位置を含む画像を取得させるか、又は到着情報の受信に基づいて、実際の位置を含む画像を取得させることができる。
コントローラ145(及び/又は1つ又は複数のステレオカメラデバイス160)は、データ(例えば、画像)を分析して関心領域を識別し得る。例えば、コントローラ145(及び/又は1つ又は複数のステレオカメラデバイス160)は、1つ又は複数のオブジェクト検出技術(例えば、シングルショット検出器(SSD)技術、You Only Look Once(YOLO)技術など)を使用して画像を分析して、関心領域を識別する。いくつかの例では、コントローラ145は、画像を分析する前に、1つ又は複数の画像処理技術を使用して画像を処理し得る。例えば、コントローラ145は、画像を分析する前に、1つ又は複数の画像処理技術を使用して画像を組み合わせることができる。
いくつかの例では、到着情報は、1つ又は複数の識別要素(例えば、1つ又は複数の機械可読光学マーカー)が荷台175に設けられる(例えば、荷台175の1つ又は複数の隅に配置される)ことを示すことができる。識別要素は、コントローラ145(及び/又は1つ又は複数のステレオカメラデバイス160)が、画像に対してコントローラ145(及び/又は1つ又は複数のステレオカメラデバイス160)によって実行されるオブジェクト検出動作中に荷台175を識別できるようにすることができる。代替として、コントローラ145(及び/又は1つ又は複数のステレオカメラデバイス160)は、識別要素を使用せずに、荷台175を識別するために、(例えば、以上で説明した)1つ又は複数のオブジェクト検出技術を使用して画像を分析し得る。
コントローラ145は、画像に基づいて三次元(3D)グラフ表示を生成し得る。例えば、データ(例えば、画像)内の関心領域を識別した結果として、コントローラ145は、3Dグラフ表示を生成し得る。3Dグラフ表示は、関心領域を含む、機械105を取り囲む領域(又は機械105を取り囲む領域の一部)を表すことができる。この点に関して、3Dグラフ表示は、コントローラ145が、関心領域の3D特性(例えば、関心領域の体積)を含む、機械105を取り囲む領域の3D特性を決定することを可能にすることができる。
コントローラ145は、画像に基づいて視差マップを生成し得る。コントローラ145は、1つ又は複数のデータ処理技術(例えば、視差マップを生成する1つ又は複数のデータ処理技術)を使用して視差マップを生成し得る。コントローラ145は、1つ又は複数の画像処理技術を使用して、視差マップに基づいて3Dグラフ表示を生成し得る(例えば、視差マップに基づいて3Dグラフ表示を生成する)。一例として、3Dグラフ表示は、3D点群を含み得る。
コントローラ145は、機械105の1つ又は複数の部分の位置及び/又は向きを決定し得る。例えば、コントローラ145は、上述の方法と同様の方法で、1つ又は複数のIMU150からポーズ情報を取得し得る。コントローラ145は、ポーズ情報に基づいて機械105の1つ又は複数の部分の位置及び/又は向きを決定し得る。例えば、コントローラ145は、ポーズ情報に基づいて、オペレータキャビン120のスイング角度、ブーム130の角度、及び/又はスティック135の角度を決定し得る。
コントローラ145は、1つ又は複数の部分の位置及び/又は向きに基づいて、機械105に対する関心領域の座標(例えば、関心領域における材料180の座標)を決定し得る。例えば、コントローラ145は、機械105の特定の部分に関して関心領域の座標を決定し得る。例えば、コントローラ145は、機械105の特定の部分を3Dグラフ表示の中心点(例えば、3Dグラフ表示の座標「0,0,0」)とみなすことができ、関心領域の座標は、中心点に対する3Dグラフ表示の3D座標に対応し得る。
コントローラ145は、座標に基づいて、関心領域に対応する3Dグラフ表示の部分(以下、「3D部分」と呼ぶ)を識別し得る。いくつかの例では、3D部分は、材料180を含む荷台175に対応し得る。追加的又は代替的に、3D部分は、材料180を含むツール140に対応し得る。追加的又は代替的に、3D部分は材料180のパイルに対応し得る。コントローラ145は、3Dグラフ表示全体を処理して関心領域における材料180の体積を決定するために使用されるはずのコンピューティングリソースを保存するために、3D部分を識別し得る。
コントローラ145は、1つ又は複数の計算モデル、1つ又は複数の計算アルゴリズム、及び/又は3Dグラフ表示の体積を決定するために使用され得る他の機械アルゴリズムを使用して、3D部分の体積を決定し得る。場合によっては、3D部分は材料180のパイルに対応し得る。したがって、3D部分の体積は、材料180の体積に対応し得る。
コントローラ145は、3D部分の体積をリアルタイム又はほぼリアルタイムに決定し得る。この点に関して、コントローラ145は、定期的に(例えば、毎秒、毎分、及び/又は同様の期間に)3D部分の体積を決定し得る。追加的又は代替的に、コントローラ145は、機械105の動き(例えば、材料180を動かす機械105に関連する動き)が検出されるたびに、3D部分の体積を決定し得る。コントローラ145は、上述のように機械105の動きを検出し得る。
コントローラ145が、3D部分の体積をリアルタイムに決定し得るため、3D部分の体積はある期間にわたって変化し得る。例えば、関心領域が荷台175であると仮定する。最初に、機械105が材料180を荷台175に積み込む前に、3D部分の体積は、荷台175が空のときの荷台175の体積に対応し得る。
機械105が、第1の時間の後に、材料180の第1の部分を荷台175に積み込むと仮定する。(第1の時間に続く)第2の時間では、3D部分の体積は、材料180の第1の部分を含む荷台175の体積(例えば、荷台175の場合、荷台175の体積に加えて材料180の第1の部分の体積)などに対応し得る。コントローラ145は、該期間(例えば、作業シフト中)にわたって3D部分の異なる体積を識別する情報を(例えば、1つ又は複数のメモリに)記憶し得る。
コントローラ145は、3D部分の体積に基づいて材料180の体積を決定し得る。場合によっては、3D部分の体積は、上で説明したように、材料180の体積に対応し得る。場合によっては、3D部分は、(関心領域が荷台175である場合に)材料180を含む荷台175に対応するか、又は(関心領域がツール140である場合に)材料180を含むツール140に対応し得る。
3D部分が、材料180を含む荷台175に対応すると仮定すると、コントローラ145は、荷台175の以前の体積に基づいて、荷台175内の材料180の体積を決定し得る。一例として、コントローラ145は、荷台175が空のときの荷台175の体積に基づいて、荷台175内の材料180の体積を決定し得る。例えば、コントローラ145は、1つ又は複数のメモリから、荷台175が空のときの荷台175の体積を識別する情報を取得し得る。コントローラ145は、3D部分の体積から荷台175の体積を差し引くことによって、材料180の体積を決定し得る。コントローラ145は、荷台175内の材料180の体積に関して上記で説明した方法と同様の方法で、ツール140内の材料180の体積を決定し得る。
コントローラ145は、材料180の体積をリアルタイム又はほぼリアルタイムに決定し得る。この点に関して、コントローラ145は、定期的に(例えば、毎秒、毎分、及び/又は同様の期間に)材料180の体積を決定し得る。追加的又は代替的に、コントローラ145は、機械105の動き(例えば、材料180を動かす機械105に関連する動き)が検出されるたびに、材料180の体積を決定し得る。コントローラ145は、上述のように機械105の動きを検出し得る。
コントローラ145は、材料180の体積に基づいてアクションを実行し得る。例えば、アクションは、コントローラ145が材料180の体積に関する情報を機械110、デバイス230、及び/又は別の同様の受信者に送信することを含み得る。例えば、コントローラ145は、無線通信コンポーネント165を使用して体積に関する情報を送信し得る。
追加的又は代替的に、アクションは、コントローラ145が材料180の密度を決定することを含み得る。例えば、コントローラ145は、材料180の体積及び材料180の質量に基づいて、材料180の密度を決定し得る。例えば、コントローラ145は、材料180の質量及び材料180の体積を含む1つ又は複数の数学的演算に基づいて、材料180の密度を決定し得る。場合によっては、コントローラ145は、次の式に基づいて材料180の密度を決定し得る。
p=m/V
ここで、pは、材料180の密度に対応し、mは、材料180の質量に対応し、Vは、材料180の体積に対応する。
p=m/V
ここで、pは、材料180の密度に対応し、mは、材料180の質量に対応し、Vは、材料180の体積に対応する。
いくつかの例では、コントローラ145は、荷台175内の材料180の密度を決定し得る。コントローラ145は、無線通信コンポーネント165を介して機械110から荷台175内の材料180の質量を識別する情報を取得し得る。例えば、コントローラ145は、無線通信コンポーネント165を介して、荷台175内の材料180の質量を識別する情報の要求を機械110に送信し得、コントローラ145は、無線通信コンポーネント165を介して、機械110から荷台175内の材料180の質量を識別する情報を受信し得る。場合によっては、機械110は、荷台175に関連付けられた1つ又は複数のセンサデバイスからのデータに基づいて材料180の質量を決定し得る。1つ又は複数のセンサデバイスは、荷重センサデバイス155と同様であってもよく、荷台175の1つ又は複数の部分に配置されてもよい。1つ又は複数のセンサデバイスのデータは、荷台175内の材料180の質量を識別し得る。
追加的又は代替的に、コントローラ145は、無線通信コンポーネント165を介して、(例えば、機械110が材料180の体積を識別する情報を受信することに基づいて)荷台175内の材料180の密度を決定する要求を受信し得る。要求は、(例えば、荷台175に関連付けられた1つ又は複数のセンサデバイスから取得される)荷台175内の材料180の質量を識別する情報を含み得る。コントローラ145は、(例えば、荷重情報で識別される)材料180の質量及び材料180の体積に基づいて、材料180の密度を決定し得る。
追加的又は代替的に、コントローラ145は、ツール140内の材料180の密度を決定し得る。コントローラ145は、(荷重センサデバイス155の説明に関して)上述した方法と同様の方法で、荷重センサデバイス155から荷重情報を取得し得る。荷重情報は、ツール140内の材料180の質量を識別し得る。コントローラ145は、以上で決定された(ツール140内の)材料180の質量及び(ツール140内の)材料180の体積に基づいて、(ツール140内の)材料180の密度を決定し得る。
追加的又は代替的に、コントローラ145は、材料180のパイル内の材料180の質量を決定し得る。いくつかの例では、コントローラ145は、得られたパイルを堆積させた機械から、パイルを取得させたオペレータのユーザデバイスから、デバイス230から、及び/又は他の同様の情報源から、材料180の質量を識別する情報を取得し得る。機械は、機械110に関して上述した方法と同様の方法で、材料180の質量を識別する情報を提供し得る。場合によっては、材料180の質量は、(例えば、ユーザデバイスによって、デバイス230などによって)予め決定され得る。コントローラ145は、以上で決定された(パイル内の)材料180の質量及び(パイル内の)材料180の体積に基づいて、(パイル内の)材料180の密度を決定し得る。
いくつかの例では、コントローラ145は、(例えば、荷台175内及び/又はパイル内の)材料180のタイプを決定し得、材料180のタイプ及び材料180の体積に基づいて材料180の質量を決定し得る。例えば、コントローラ145は、材料180の体積及び材料180のタイプを含む1つ又は複数の数学的演算に基づいて、材料180の質量を決定し得る。追加的又は代替的に、コントローラ145は、1つ又は複数の計算モデル、1つ又は複数の計算アルゴリズム、及び/又は材料の体積及び材料のタイプに基づいて材料の質量を決定するために使用できる他の機械アルゴリズムを使用して、材料180の質量を決定し得る。
コントローラ145は、機械105のオペレータから、1つ又は複数のメモリから、機械110のオペレータから、機械110のコントローラから、デバイス230のユーザから、及び/又はデバイス230から、材料180のタイプを識別する情報を取得し得る。材料180のタイプは、泥、岩、鉱物、アスファルト、及び/又は他の種類の材料を含み得る。材料180の質量は、あるタイプの材料180と別のタイプの材料180とで異なり得る。
コントローラ145は、(例えば、荷台175内、ツール140内、及び/又はパイル内の)材料180の密度に関する情報をデバイス230に送信し得る。例えば、コントローラ145は、無線通信コンポーネント165を使用して、材料180の密度(及び/又は材料180の体積)に関する情報を送信し得る。
追加的又は代替的に、アクションは、コントローラ145が、機械105の生産性を向上させるために、機械105の動作を自動的に更新することを含み得る。例えば、コントローラ145は、機械105の構成の更新(例えば、機械105のソフトウェアの更新)、機械105の1つ以上のコンポーネントの更新(例えば、1つ又は複数のコンポーネントの較正の更新、1つ又は複数のコンポーネントの交換、及び/又は1つ又は複数のコンポーネントに対する同様の更新)、及び/又は別の同様の更新を自動的に行い得る。
いくつかの例では、関心領域情報は、複数の関心領域を識別し得る。例えば、複数の関心領域情報は、荷台175、別の機械の荷台(又はコンテナ)、ツール140、材料180のパイル、及び/又は材料の別のパイル(の2つ以上)の組み合わせを識別する。コントローラ145は、材料180の体積(及び/又は密度)をリアルタイム又はほぼリアルタイムに決定することに関して上記で説明した方法と同様の方法で、複数の関心領域における材料の体積(及び/又は密度)をリアルタイム又はほぼリアルタイムに決定し得る。
図2に示すデバイスとネットワークの数と配置は、一例として提供される。実際には、追加のデバイス、より少ないデバイス、異なるデバイス、又は図2に示されているものとは異なる配置のデバイスがある場合がある。さらに、図2に示す2つ以上のデバイスを単一のデバイス内に実装することができ、又は図2に示す単一のデバイスを複数の分散デバイスとして実装することができる。追加的又は代替的に、システム200のデバイスのセット(例えば、1つ又は複数のデバイス)は、システム200のデバイスの別のセットによって実行されるとして説明された1つ又は複数の機能を実行し得る。
図3は、センサデータに基づいて材料の体積及び密度を決定することに関連する例示的なプロセス300のフローチャートである。いくつかの実装形態では、図3の1つ又は複数のプロセスブロックは、コントローラ(例えば、コントローラ145)によって実行され得る。いくつかの実装形態では、図3の1つ又は複数のプロセスブロックは、センサデバイス(例えば、ステレオカメラ160-1から160-M、1つ以上のLIDARデバイス、及び/又は1つ以上の感知センサ)、IMU(例えば、IMU150-1~150-N)、無線通信コンポーネント165、及び/又はデバイス(例えば、デバイス230)など、別のデバイス又はコントローラとは別の、又はコントローラを含むデバイスのグループによって実行され得る。
図3に示されるように、プロセス300は、複数の候補関心領域から関心領域を識別する情報を受信することを含み得、複数の候補関心領域は、機械上及び機械の外部の位置を含む(ブロック310)。例えば、コントローラは、複数の候補関心領域から関心領域を識別する情報を受信し得、複数の候補関心領域は、上述のように、機械上及び機械の外部の位置を含む。複数の候補関心領域は、機械上及び機械の外部の位置を含む。
図3にさらに示すように、プロセス300は、機械に関連付けられた1つ又は複数の第1のセンサデバイスを使用して、関心領域に位置する材料を識別する画像を取得することを含み得る(ブロック320)。例えば、コントローラは、機械に関連付けられた1つ又は複数のステレオカメラデバイスを使用して、上述のように、関心領域に位置する材料を識別する画像を取得し得る。
図3にさらに示すように、プロセス300は、画像に基づいて三次元グラフ表示を生成することを含み得る(ブロック330)。例えば、コントローラは、上述のように、画像に基づいて三次元グラフ表示を生成し得る。コントローラは、複数の画像の第1の画像及び第2の画像に基づいて視差マップを生成し得、視差マップに基づいて3次元(3D)点群を生成し得る。
図3にさらに示されるように、プロセス300は、機械の1つ又は複数の第2のセンサデバイスを使用して、機械の1つ又は複数の部分の位置又は向きのうちの少なくとも1つを決定することを含み得る(ブロック340)。例えば、コントローラは、上述のように、機械の1つ又は複数の部分の位置又は向きのうちの少なくとも1つを、機械の1つ又は複数のセンサデバイスを使用して決定し得る。機械の1つ又は複数の部分の位置又は向きの少なくとも1つを決定することは、機械のオペレータキャビン、機械のスティック、又は機械のブームの位置又は向きのうちの少なくとも1つを決定することを含む。
図3にさらに示されるように、プロセス300は、1つ又は複数の部分の位置又は向きのうちの少なくとも1つに基づいて、機械に対する関心領域における材料の座標を決定することを含み得る(ブロック350)。例えば、コントローラは、上述のように、1つ又は複数の部分の位置又は向きのうちの少なくとも1つに基づいて、機械に対する関心領域における材料の座標を決定し得る。
図3にさらに示されるように、プロセス300は、座標に基づいて、3次元グラフ表示の、関心領域に位置する材料に対応する部分を識別することを含み得る(ブロック360)。例えば、コントローラは、座標に基づいて、三次元グラフ表示の一部分を識別し得、この部分は、上述のように、関心領域に位置する材料に対応する。この部分は、関心領域にある材料に対応する。
図3にさらに示すように、プロセス300は、1つ又は複数の計算モデルを使用して、部分の体積を決定することを含み得る(ブロック370)。例えば、コントローラは、上述のように、1つ又は複数の計算モデルを使用して、部分の体積を決定し得る。
図3にさらに示されるように、プロセス300は、部分の体積に基づいて材料の体積を決定することを含み得る(ブロック380)。例えば、コントローラは、上記のように、部分の体積に基づいて材料の体積を決定し得る。
機械は第1の機械であってもよく、プロセスは、画像に基づいて、第2の機械の荷台を関心領域として識別することをさらに含んでもよい。いくつかの実装形態では、材料の体積を決定することは、第1の機械によって荷台に移動された材料の体積を決定することを含む。
図3にさらに示すように、プロセス300は、材料の体積に基づいてアクションを実行することを含み得る(ブロック390)。例えば、コントローラは、上述のように、材料の体積に基づいてアクションを実行し得る。
1つ又は複数の第1のセンサデバイスは、1つ又は複数のステレオカメラデバイス、1つ又は複数のLIDARデバイス、又は1つ又は複数の感知センサのうちの少なくとも1つを含み得、プロセスは、機械の1つ又は複数の第3のセンサデバイスを使用して、材料の質量を識別する情報を取得することと、材料の質量及び材料の体積に基づいて材料の密度を決定することとをさらに含んでもよい。材料の体積を決定することは、データに基づいて、荷台が空のときの荷台の第1の体積を決定することと、データに基づいて、材料が荷台に移動された後の荷台の第2の体積を決定することと、第1の体積と第2の体積との間の差に基づいて、関心領域における材料の体積を決定することとを含み得る。
いくつかの例では、アクションを実行することは、体積又は密度の少なくとも1つに関する情報を、機械によって移動された材料の体積又は材料の密度の少なくとも1つを監視する1つ又は複数のデバイスに送信することを含む。
図3はプロセス300の例示的なブロックを示しているが、いくつかの実装形態では、プロセス300は、追加のブロック、より少ないブロック、異なるブロック、又は図3に示されているものとは異なる配置のブロックを含み得る。追加的又は代替的に、プロセス300のブロックのうちの2つ以上を並行して実行し得る。
産業上の利用可能性
産業上の利用可能性
本開示は、複数の関心領域(例えば、機械上及び機械の外部の位置)に位置する材料の体積及び/又は密度を決定するコントローラに関する。複数の関心領域に位置する材料の体積及び/又は密度を決定するための開示されたプロセスは、材料の体積及び/又は密度の手動測定に関連する問題を防止し得る。このような手動測定は、不正確な手動測定に関連する問題を修正する(例えば、掘削機の構成に対する不正確な変更及び/又は調整、掘削機のコンポーネントの不正確な変更及び/又は調整など、掘削機の不正確な変更及び/又は調整に関連する問題を修正する)ために使用されるコンピューティングリソースを浪費する可能性がある。
開示されたプロセスは、手動測定に関して上記の問題を解決し得る。複数の関心領域に位置する材料の体積及び/又は密度を決定するための開示されたプロセスには、いくつかの利点が関連付けられ得る。例えば、プロセスは、機械上及び機械の外部の位置(例えば、機械のバケット、別の機械の荷台、及び/又は機械から閾値距離内にある材料のパイル)で材料の体積及び/又は密度を決定し得る。さらに、センサデータを使用して材料の体積及び/又は密度を決定することにより、プロセスは、材料の体積及び/又は密度の手動測定を防止し得る。
このような手動測定を防止することにより、このプロセスは、手動測定が不正確であることに関連する問題を修正し、例えば、掘削機の不正確な変更及び/又は調整に関連する問題(例えば、掘削機の構成に対する不正確な変更及び/又は調整、掘削機のコンポーネントに対する不正確な変更及び/又は調整に関連する問題など)を修正するために使用されるはずのコンピューティング又は機械のリソースを保存し得る。
上記の開示は、例示及び説明を提供するが、網羅的であること、又は実施形態を開示された正確な形態に制限することを意図するものではない。上記の開示に基づいて修正や変更を行ってもよいし、実施形態の実践から修正や変更を得てもよい。さらに、1つ以上の実施形態を組み合わせることができない理由が上記の開示に明確に提供されていない限り、本明細書に記載されているいずれの実施形態を組み合わせることができる。特徴の特定の組み合わせは、請求項に記載され及び/又は明細書に開示されていても、これらの組み合わせは、種々の実施形態の開示を制限することを意図するものではない。以下に列挙される各従属請求項は、1つの請求項のみに直接従属することができるが、様々な実施形態の開示には、請求項セット内の全ての他の請求項と組み合わせる各従属請求項が含まれる。
本明細書に使用されるように、「一」、「1つ」及び「1セット」は、1つ以上のものを含むことを意図しており、「1つ以上」と交換可能に使用され得る。さらに、本明細書で使用されるように、冠詞「当該」は、冠詞「当該」と組み合わせて引用される1つ以上のものを含むことを意図しており、「1つ以上」と交換可能に使用され得る。さらに、「に基づいて」という語句は、特に明記しない限り、「少なくとも部分的に基づく」ということを意味することを意図している。さらに、本明細書で使用される場合、「又は(or)」という用語は、一連で使用される場合、包括的であることを意図し、特に明記しない限り(例えば、「いずれの」又は「1つのみ」と組み合わせて使用される場合)、「及び/又は」と交換可能に使用され得る。さらに、本明細書の説明を容易にするために、例えば「の下」、「下」、「の上」、「上」等の空間的に相対的な用語を使用して、図示のような、1つの要素又は特徴と他の要素又は特徴との関係を説明してもよい。空間的に相対的な用語は、図に示されている方向に加えて、使用又は動作中の機器、装置及び/又は要素の異なる方向を含むことを意図している。機器は、他の向き(90度回転又は他の向き)にすることができ、本明細書に使用される空間的に相対的な記述子も、それに応じて解釈することができる。
Claims (10)
- 機械(105)のコントローラ(145)によって実行される方法であって、
前記機械(105)上及び前記機械(105)の外部の位置を含む複数の候補関心領域(140、175)から関心領域を識別する情報を受信することと、
前記機械(105)に関連付けられた1つ又は複数の第1のセンサデバイス(160)を使用して、前記関心領域に位置する材料を識別する画像を取得することと、
前記画像に基づいて三次元グラフ表示を生成することと、
前記機械(105)の1つ又は複数の第2のセンサデバイス(150)を使用して、前記機械(105)の1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つを決定することと、
前記1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つに基づいて、前記機械(105)に対する前記関心領域における前記材料の座標を決定することと、
前記座標に基づいて、前記三次元グラフ表示の、前記関心領域に位置する前記材料に対応する部分を識別することと、
1つ又は複数の計算モデルを使用して、前記部分の体積を決定することと、
前記部分の体積に基づいて、前記材料の体積を決定することと、
前記材料の体積に基づいてアクションを実行することとを含む、方法。 - 前記1つ又は複数の第1のセンサデバイス(160)が、1つ又は複数のステレオカメラデバイス、1つ又は複数の光検出及び測距(LIDAR)デバイス、又は1つ又は複数の感知センサのうちの少なくとも1つを含み、
前記方法は、さらに、
前記機械(105)の1つ又は複数の第3のセンサデバイス(155)を使用して、前記材料の質量を識別する情報を取得することと、
前記材料の質量と前記材料の体積に基づいて前記材料の密度を決定することとを含む、請求項1に記載の方法。 - 前記アクションを実行することは、
前記体積又は前記密度の少なくとも1つに関する情報を、前記機械(105)によって移動された材料の体積又は材料の密度の少なくとも1つを監視する1つ又は複数のデバイス(110、230)に送信することを含む、請求項2に記載の方法。 - 前記機械(105)が第1の機械(105)であり、
前記方法は、前記画像に基づいて、第2の機械(110)の荷台(175)を前記関心領域として識別することをさらに含み、
前記材料の体積を決定することは、前記第1の機械(105)によって前記荷台(175)に移動された前記材料の体積を決定することとを含む、請求項1に記載の方法。 - 前記機械(105)の前記1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つを決定することは、
前記機械(105)のオペレータキャビン(120)、前記機械(105)のスティック(135)、又は前記機械(105)のブーム(130)の位置又は向きのうちの少なくとも1つを決定することを含む、請求項1に記載の方法。 - 機械(105)であって、
1つ又は複数のメモリ(220)と、
前記機械(105)上及び前記機械(105)の外部の位置を含む複数の候補関心領域(140、175)から関心領域を識別する情報を受信し、
前記機械(105)に関連付けられた1つ又は複数の第1のセンサデバイス(160)を使用して、前記関心領域に位置する材料を識別するデータを取得し、
前記データに基づいて前記材料の3次元グラフ表示を生成し、
前記機械(105)の1つ又は複数の第2のセンサデバイス(150)を使用して、前記機械(105)の1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つを決定し、
前記1つ又は複数の部分(120、130、135)の位置又は向きのうちの少なくとも1つに基づいて、前記3次元グラフ表示の、前記関心領域に位置する前記材料に対応する部分を識別し、
1つ又は複数の計算モデルを使用して、前記部分の体積を決定し、
前記部分の体積に基づいて、前記材料の体積を決定するように構成された1つ又は複数のプロセッサ(210)とを含む、機械(105)。 - 前記1つ又は複数の第1のセンサデバイス(160)が、前記機械(105)の前記1つ又は複数の部分(120、130、135)に配置された1つ又は複数のステレオカメラ(160)を含み、
前記1つ又は複数の部分(120、130、135)は、前記機械(105)のオペレータキャビン(120)、前記機械(105)のスティック(135)、又は前記機械(105)のブーム(130)のうちの少なくとも1つを含み、
前記データは、複数の画像を含み、
前記三次元グラフ表示を生成するとき、前記1つ又は複数のプロセッサ(210)は、
前記複数の画像の第1の画像及び第2の画像に基づいて視差マップを生成し、
前記視差マップに基づいて3次元(3D)点群を生成するように構成される、請求項6に記載の機械(105)。 - 前記1つ又は複数の第1のセンサデバイス(160)が、1つ又は複数の光検出及び測距(LIDAR)デバイスを含み、
前記三次元グラフ表示を生成するとき、前記1つ又は複数のプロセッサ(210)は、
前記データに基づいて3次元(3D)点群を生成するように構成される、請求項6に記載の機械(105)。 - 前記データが第1のデータであり、
前記関心領域は第1の関心領域であり、
前記1つ又は複数のプロセッサ(210)は、さらに、
前記機械(105)の1つ又は複数の第1のセンサデバイスを使用して、前記複数の候補関心領域(140、175)のうちの第2の関心領域を識別する第2のデータを取得し、
前記第2のデータに基づいて、前記第2の関心領域を識別し、
前記第2のデータに基づいて、前記第2の関心領域における前記材料の体積を決定するように構成される、請求項6に記載の機械(105)。 - 前記1つ又は複数のプロセッサ(210)は、さらに、
1つ又は複数のオブジェクト検出技術を使用して、データ内で別の機械(110)の荷台(175)を関心領域として識別するように構成され、
前記材料の体積を決定するとき、前記1つ又は複数のプロセッサ(210)は、さらに、
前記データに基づいて、前記荷台(175)が空のときの前記荷台(175)の第1の体積を決定し、
前記データに基づいて、前記材料が前記荷台(175)に移動された前記荷台(175)の第2の体積を決定し、
前記第1の体積と前記第2の体積の差に基づいて、前記関心領域における前記材料の体積を決定するように構成される、請求項6に記載の機械(105)。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/949,346 US11961253B2 (en) | 2020-10-26 | 2020-10-26 | Determining material volume and density based on sensor data |
US16/949,346 | 2020-10-26 | ||
PCT/EP2021/025410 WO2022089778A1 (en) | 2020-10-26 | 2021-10-18 | Determining material volume and density based on sensor data |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023548451A true JP2023548451A (ja) | 2023-11-17 |
Family
ID=78332749
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023524292A Pending JP2023548451A (ja) | 2020-10-26 | 2021-10-18 | センサデータに基づく材料の体積及び密度の決定 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11961253B2 (ja) |
EP (1) | EP4232640A1 (ja) |
JP (1) | JP2023548451A (ja) |
CN (1) | CN116348646A (ja) |
WO (1) | WO2022089778A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230243129A1 (en) * | 2022-02-01 | 2023-08-03 | Caterpillar Inc. | System and method for measuring material swell |
US20230394650A1 (en) * | 2022-06-02 | 2023-12-07 | Caterpillar Sarl | Identify carryback in unknown truck bed |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10234368B2 (en) * | 2016-10-13 | 2019-03-19 | Deere & Company | System and method for load evaluation |
US20180179732A1 (en) | 2016-12-22 | 2018-06-28 | Caterpillar Inc. | Realtime payload mapping for loader/hauler system optimization |
CA3050718C (en) | 2017-01-23 | 2021-04-27 | Built Robotics Inc. | Excavating earth from a dig site using an excavation vehicle |
US10733752B2 (en) | 2017-07-24 | 2020-08-04 | Deere & Company | Estimating a volume of contents in a container of a work vehicle |
US10982409B2 (en) | 2018-04-02 | 2021-04-20 | Deere & Company | Excavator measurement and control logic |
JP7236826B2 (ja) | 2018-07-31 | 2023-03-10 | 株式会社小松製作所 | 作業機械 |
US10689830B2 (en) | 2018-08-06 | 2020-06-23 | Deere & Company | Container angle sensing using vision sensor for feedback loop control |
US11041291B2 (en) | 2018-09-14 | 2021-06-22 | Deere & Company | Controlling a work machine based on sensed variables |
US11131082B2 (en) * | 2019-06-13 | 2021-09-28 | Deere & Company | Work vehicle with a payload tracking system |
EP4033034A4 (en) * | 2019-09-18 | 2022-11-23 | Sumitomo Heavy Industries, LTD. | EXCAVATOR |
-
2020
- 2020-10-26 US US16/949,346 patent/US11961253B2/en active Active
-
2021
- 2021-10-18 CN CN202180071386.3A patent/CN116348646A/zh active Pending
- 2021-10-18 JP JP2023524292A patent/JP2023548451A/ja active Pending
- 2021-10-18 WO PCT/EP2021/025410 patent/WO2022089778A1/en active Application Filing
- 2021-10-18 EP EP21797939.2A patent/EP4232640A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4232640A1 (en) | 2023-08-30 |
WO2022089778A1 (en) | 2022-05-05 |
CN116348646A (zh) | 2023-06-27 |
US11961253B2 (en) | 2024-04-16 |
US20220130063A1 (en) | 2022-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8838331B2 (en) | Payload material density calculation and machine using same | |
CN114190095B (zh) | 用于执行工地计划以修改工地处的工作表面的方法和系统 | |
JP2023548451A (ja) | センサデータに基づく材料の体積及び密度の決定 | |
US9322148B2 (en) | System and method for terrain mapping | |
US7669354B2 (en) | Method and apparatus for determining the loading of a bucket | |
JP7160606B2 (ja) | 作業機械の制御システム及び方法 | |
US20180088591A1 (en) | Systems, methods, and apparatus for dynamically planning machine dumping operations | |
AU2011337114A1 (en) | Loading analysis system and method | |
CN107867327A (zh) | 用于运动机器的稳定性控制系统 | |
US20220245856A1 (en) | Position identification system for construction machinery | |
EP3985183A1 (en) | Construction machine work information generation system and work information generation method | |
US20180003856A1 (en) | Work Surface Failure Prediction and Notification System | |
CA3149167A1 (en) | Monitoring ground-engaging tool, system, and methods for earth working equipment | |
CN114521228A (zh) | 容器测量系统 | |
JP2024521731A (ja) | 自律的掘削作業のためのデータの選択的なリモート処理 | |
JP7236826B2 (ja) | 作業機械 | |
JP2020033850A (ja) | 表示制御装置、表示制御システム、および表示制御方法 | |
EP3985178A1 (en) | System for determining content of work performed by construction machine and method for determining work | |
AU2014271294B2 (en) | Machine positioning system utilizing relative pose information | |
US10815644B2 (en) | Tire size calibration and control system | |
EP3985584A1 (en) | Data processing system for construction machine | |
US20230392345A1 (en) | Control device, control system, and control method | |
CN116300859A (zh) | 用于指示远程控制机器的停止距离的视觉覆盖图 | |
CN116868223A (zh) | 施工管理系统、数据处理装置、以及施工管理方法 | |
EA042868B1 (ru) | Мониторинг автономных транспортных средств |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230424 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20230828 |