JP2021526086A - 自律的に動作する作業機械を動作させるための方法及び装置 - Google Patents

自律的に動作する作業機械を動作させるための方法及び装置 Download PDF

Info

Publication number
JP2021526086A
JP2021526086A JP2020569079A JP2020569079A JP2021526086A JP 2021526086 A JP2021526086 A JP 2021526086A JP 2020569079 A JP2020569079 A JP 2020569079A JP 2020569079 A JP2020569079 A JP 2020569079A JP 2021526086 A JP2021526086 A JP 2021526086A
Authority
JP
Japan
Prior art keywords
machine
kinematic mechanism
semantic map
collision
work
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020569079A
Other languages
English (en)
Other versions
JP7143451B2 (ja
Inventor
ウド シュルツ
シュルツ ウド
ティール トーマス
ティール トーマス
クリーグル トーマス
クリーグル トーマス
ヴァイベルレ ラインハルト
ヴァイベルレ ラインハルト
ニーブリンク ウルフ
ニーブリンク ウルフ
クリアン ヨーゼ スタンレー
クリアン ヨーゼ スタンレー
クアレ ヘンドリク
クアレ ヘンドリク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2021526086A publication Critical patent/JP2021526086A/ja
Application granted granted Critical
Publication of JP7143451B2 publication Critical patent/JP7143451B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • B25J9/1676Avoiding collision or forbidden zones
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/06Safety devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39082Collision, real time collision avoidance
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/45Nc applications
    • G05B2219/45012Excavator

Landscapes

  • Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Operation Control Of Excavators (AREA)
  • Manipulator (AREA)

Abstract

本発明は、運動学的機構(110,115,120)を有する機械(100,105)を動作させるための方法及び装置であって、機械(100,105)及び/又は運動学的機構(110,115,120)の姿勢を、特に信号技術的な測定方法によって特定可能であり、とりわけ、特に信号技術的な測定方法によって特定された、機械(100,105)及び/又は運動学的機構(110,115,120)の姿勢を、セマンティックマップ(200)と比較(215)し、機械(100,105)の周囲にあるオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を認識する、方法及び装置に関する。

Description

本発明は、それぞれの独立請求項の上位概念に記載された、特に自律的に行動する作業機械、特に、少なくとも1つの運動学的機構又は工具を有する可動式の作業機械の、条件付きで衝突が許容される動作のための方法及び装置に関する。本発明の対象は、本方法を実施し得るコンピュータプログラムと、コンピュータプログラムを格納するための機械可読データ担体と、電子制御装置とにも関する。
従来技術
本明細書に関連する機械、例えば、ショベル系掘削機のような移動式の建設機械、又は、トラクタ若しくはコンバインのような移動式の林業用機械若しくは農業用機械は、益々、自律的に動作し、又は、運転者支援システムによって支援若しくは補助されて動作するようになっている。このために不可欠な前提条件は、機械又は対応する車両の周辺における周囲状況又は交通状況の高信頼性の予測認識である。その場合に、公知のように使用される周囲モデルには、状況分析を導出して、操縦計画を実施可能にするために必要な情報が含まれる。即ち、周囲モデルは、車両の周囲を表現している。例えば、周囲モデルは、車両の周囲におけるインフラストラクチャ要素及び/又はその他の道路利用者、特に他の車両を含む。車両に取り付けられたセンサシステムは、このために、移動するオブジェクト又は位置可変のオブジェクトと、位置固定されたオブジェクトとを認識し、制動を行うべきかどうか、及び/又は、軌道計画及び適当なシステム介入に基づいて回避を行うべきかどうか、又は、介入操縦が不要であるかどうかを判断しなければならない。周囲モデルを作成するために、車両独自のセンサ及び/又は他の車両のセンサ及び/又は周囲に位置固定されて設置されたセンサによって提供されたデータ又は情報が、手元の地形データ又はインフラストラクチャデータと比較される。
作業機械の空間的な状態は、ロボティクスにおいて知られている「姿勢(ポーズ)」によって記述可能である。この姿勢は、装置の総ての空間自由度を定量化することにより、装置の完全な幾何学的記述を表す。空間的に剛性を有する装置の場合、例えば自動車の場合には、この姿勢は、空間内の車両の基準点の位置と、車両の空間的な向きとである。多関節式の作業機械の場合には、この姿勢は、追加的に、機械のそれぞれ個々の関節の位置も記述する。
姿勢という用語に基づいて、以下においては、「軌道」という用語を、それぞれの作業機械の姿勢の時間経過として理解すべきである。
道路交通における車両の場合には、基本的に、車両とその周囲とのあらゆる衝突を回避すべきであり、衝突の可能性のあるオブジェクトへの接近によって概して警告がもたらされるべきであるが、作業機械及びその工具の場合には、必要に応じて、作業対象又は被加工物又は被加工材とのプロセスに起因した接触が発生する(「故意の衝突」)。
発明の開示
本発明は、作業機械の周囲における、手元の作業プロセスに起因した衝突が許容される空間(3D)領域と、例えば、人身保護の理由から衝突が許容されない領域とを認識又は特定するという着想に基づく。許容される衝突とは、例えば、材料を拾い上げるために若しくは放出するために、又は、運動学的機構を用いて機械の周囲を処理するために、機械又は運動学的機構の操作員によって所望されている衝突であると理解することが可能である。許容されない衝突とは、操作員によって所望されていない衝突、又は、物的損傷若しくは人身損傷を伴う事故をもたらす衝突であると理解することが可能である。
そのような空間領域を認識することによって、好ましくはセマンティック(意味論(的)、独:semantisch,英:semantic)に表現される周囲における、機械及び/又は運動学的機構若しくは工具及び/又は作業対象及び/又は人間の、予測可能であって、ひいては検証可能である相互作用が可能となる。この場合には、セマンティック3Dマップが使用され、このセマンティック3Dマップは、モバイルロボティクスにおいて既に使用されているメトリックマップであり、3D測定点に対する幾何学的又は地形的な情報に加えて、それぞれの測定点のセマンティックな指定もさらに含む。即ち、換言すれば、セマンティックマップとは、マップにおける各点の指定又は記述の形式における追加的な情報を有するメトリックマップ又は幾何学的マップ及び/又は地形マップとして理解可能である。このようなマップを用いて、相互作用が許容される領域と、相互作用が許容されない領域とを区別し、これに基づいて、衝突警告と、作業領域及び作業プロセスへのシステム介入とを実現することができる。
センサを適当に配置し、対応して検出されたセンサ信号を適当に組み合わせることによって、本明細書に関連する作業機械及び/又は作業機械の工具の、周囲に対する空間的な位置及び向き、いわゆる「姿勢」を、例えば、工具の姿勢を定義するいわゆる「工具中心点」(Tool Center Point:TCP)に基づいて正確に特定することができる。これによって、特に、自律的に行動又は動作する作業機械における対応する自動化機能が可能になる。
TCPを特定することは、公知のように、マニピュレータ運動学的機構(マニピュレータキネマティック)を有する機械、例えば、掘削機、伸縮式ハンドラ、林業用機械、建設用クレーン又はトラック積載用クレーンのためのほぼ総ての支援システムの基礎であることに留意すべきである。さらに、TCPを正確に把握することにより、特に、機械の自動的又は半自動的な動作において、機械の作業領域の正確な境界設定と、建設進捗の正確な記録とが可能になる。
本発明は、本明細書に関連する作業機械の、条件付きで衝突が許容される動作のための方法であって、機械及び/又は運動学的機構若しくは工具の姿勢を、姿勢特定を実施する特に信号技術的な測定方法に基づいて特定し、このようにして特定された、機械又は運動学的機構の姿勢を、セマンティック3Dマップと比較し、機械の周囲にあるオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を認識又は特定する、方法を提案する。上記測定方法は、センサシステムによって生成された測定データに基づいて機械及び/又は工具の姿勢を検出することを含み得る。本方法においては、作業機械に配置された周囲センサによって、及び/又は、他の機械のセンサによって、及び/又は、機械の周囲に位置固定されて設置されたセンサによって、手元のセマンティックマップに基づいて、機械のための周囲モデルを作成することができる。
本方法においては、さらに、セマンティックマップのうちの、オブジェクトとの衝突が発生し得る場合であっても機械の動作を許容し得る領域と、セマンティックマップのうちの、オブジェクトとの間において発生し得る衝突に関して、オブジェクトと衝突することなく機械が移動し得る領域とを識別することができる。セマンティックマップの、このようにして識別された領域を、運動学的機構のTCP位置データを用いて調整することができる。
本方法においては、セマンティックマップ内のオブジェクトを、機械及び/又は運動学的機構との間において発生し得る衝突に関して、条件付きで許容されるものとして又は許容されないものとして分類することもできる。さらに、機械の動作中に、機械及び/又は運動学的機構の計画又は予測された移動軌道に基づいて、計画又は予測された移動軌道の領域内における分類されたオブジェクトに関して許容し得ない相互作用を認識し、少なくとも1つの相互作用が認識された場合に、機械の操作員に警告メッセージを出力し、及び/又は、機械の動作への衝突防止介入を実施することができる。
同様にして提案される装置は、前述したセンサシステム及び/又は信号技術によって検出された、機械又は運動学的機構の姿勢データを利用し、これにより、機械又は運動学的機構のセンサデータ又は姿勢データに基づいて、セマンティック3Dマップによって、機械の周囲にあるオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を確実に認識又は特定し、オブジェクトとの条件付きで許容される衝突のみが許容されるように、機械又は機械の運動学的機構に配置されたアクチュエータを制御する。
本装置は、セマンティックマップによって機械を位置特定するための位置特定要素と、機械の側で実施されるべき作業タスク及び作業ステップを計画するための計画要素と、機械及び/又は運動学的機構の移動、及び/又は、機械の周囲に配置されたオブジェクトの移動を計画、予測及び監視するための軌道計画要素と、セマンティックマップに基づく周囲モデルと、少なくとも1つのオブジェクトとの潜在的な衝突を予測するためのシーン解釈要素と、少なくとも1つのオブジェクトとの許容されない衝突を回避するための適当な措置を実施するためのアクチュエータ管理要素とを有することができる。
さらに、本装置は、機械の運動力学と、機械の開ループ制御及び閉ループ制御の挙動とに関連する車両モデルを有する又は提供することができる。
本装置においては、さらに、シーン解釈要素によって、機械の周囲に位置するさらなる機械、工具、被加工物又は作業対象の相互作用と、機械の周囲におけるこれに関連する変化とを予測、認識及び/又は妥当性検査することができる。
従って、本発明は、有利には、本明細書に関連する作業機械の自律的又は自動化可能な動作を可能にする。
本発明は、特に可動式の作業機械、例えば、ショベル系掘削機又は刈取機において使用可能である。
コンピュータプログラムは、特に計算装置上又は制御装置上において実行された場合に、本方法のそれぞれのステップを実施するために構成されている。これにより、電子制御装置の構造的な変更を加える必要なく、電子制御装置上に本方法を実装することができる。このために、コンピュータプログラムが格納されている機械可読データ担体が設けられている。コンピュータプログラムを電子制御装置上にインストールすることにより、本明細書に関連する機械を、提案する方法によって動作又は制御するように構成された電子制御装置が得られる。
本発明のさらなる利点及び構成は、本明細書及び添付図面から明らかになる。
言うまでもなく、上述した特徴及び以下においてさらに説明すべき特徴は、本発明の範囲から逸脱することなく、それぞれの記載された組合せにおいてのみならず、他の組合せにおいても又は単独でも使用可能である。
「工具中心点」(TCP)の特定を説明するための従来技術による運動学的機構を有するショベル系掘削機の概略図である。 本発明に係る方法の実施例を、フローチャートに基づいて示す図である。 本発明に係る装置の実施例を、ブロック図に基づいて示す図である。
実施例の説明
図1は、ショベル系掘削機の横断面を概略的に示し、掘削機アームの各部に配置された変位センサによって前述したTCP(Tool Center Point:工具中心点)を特定する様子を説明する。
ショベル系掘削機は、下部構造体100と、回転接続部103を介して下部構造体100に回転可能に支持された上部構造体105とを含む。上部構造体105には、掘削機アームの形態の運動学的機構が配置されており、即ち、第1の関節アーム110と、第1の関節アーム110に配置された第2の関節アーム115と、さらに第2の関節アーム115に配置された第3の関節アーム120とを有する運動学的機構が配置されている。第3の関節アーム120にはショベル125が設けられており、ショベル125の上側の領域にはTCP127が配置されている。第1の関節アーム110は、第1の接続部品130を介して上部構造体105に旋回可能に配置されていて、かつ、第2の接続部品135を介して第2の関節アーム115に旋回可能に接続されている。相応に、第3の関節アーム120及びショベル125も、対応する接続部品137,138を介して旋回可能に接続されている。
ショベル系掘削機の動作時には、関節アーム110,115,120は、完全にはねじれ不能にはなっておらず、接続部品130,135,137,138は、関節の遊びを有しているので、ショベル125の位置、特にTCP127の位置において予測し得ない不正確性又は誤差が生じる。さらに、関節アーム110,115,120及びショベル125は、液圧シリンダ140,155,170,185によって液圧的に動作させられ、これらの液圧シリンダの接続部品145,150,160,165,175,180,190,195においても関節の遊びが生じ、ひいては、TCP127の位置を特定する際におけるさらなる不正確性又は誤差が生じる。
図1に示されているショベル系掘削機の上部構造体105に対するTCP127の相対的な位置は、種々異なる方法により測定可能である。このために、慣性センサ及びロータリーエンコーダを使用することができる。しかしながら、慣性センサによる運動学的機構要素の体位に基づいた姿勢の特定は、特に上部構造体が回転する場合には、比較的不正確であることが多い。従って、上部構造体上のそれぞれのセンサとTCP127との間に視覚的接触が存在する場合には、例えば、方向探知機を介して検出されたTCP127の実際の空間的な位置と、前述した慣性センサを介して及び/又は液圧シリンダに配置された圧力センサを介してモデル化された位置との間の調整を、モデル計算に基づいて実施することができる。代替的又は追加的に、直接的な測定方法が考慮され、この直接的な測定方法においては、少なくとも1つの高周波信号送信機又は高周波信号受信機によって、及び/又は、少なくとも1つの光学カメラによって、及び/又は、少なくとも1つのレーザ距離計によって、及び/又は、少なくとも1つの超音波センサによって、正確なTCP位置が検出される。
本明細書に関連する作業機械の周囲にあるオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を認識又は特定するための、図2に示されたフローチャートに基づいて以下に説明する方法においては、先ず始めに、作業機械に配置された周囲センサ204により及び/又は他の機械のセンサにより、地形又はインフラストラクチャに基づいて、3D周囲モデル又は3D周囲マップ200が作成される。さらに、機械視認又はパターン認識の公知の方法を使用して、位置固定されたオブジェクト、例えば、建物、道路/小道、建設ピット、電柱、樹木、又は、建築資材と、位置固定されていないオブジェクト、例えば、静止している機械、静止している車両、又は、静止している人間と、動いているオブジェクト、例えば、移動中の人間、走行中の車両、又は、作業中の機械とを認識して、分類することもできる。好ましくは、これらの認識されたオブジェクトをセマンティックマップにおいて検出して、このセマンティックマップを、任意選択的に、例えば、さらにグローバルナビゲーションシステム(GNSS)を使用して、かつ、追加的にいわゆる「リアルタイム運動学的機構(リアルタイムキネマティック)」(RTK)を使用して、地理参照することもできる。従って、このようにして提供された作業機械を、独立して及び/又は支援を受けて、セマンティックマップにおいて位置特定し、かつ、セマンティックマップにおいてナビゲーションすることができる。
さらに、以下に説明する機能によって、セマンティックマップのうちの、機械を用いて作業を行い得る(衝突が許容される)それぞれの領域又は部分と、セマンティックマップのうちの、オブジェクトと衝突することなく機械が移動し得るそれぞれの領域又は部分とが識別210される。作業機械の運動学的機構又は工具と、周囲のオブジェクトとの間において発生し得る、実際に生じる衝突についての、場合によっては繰り返されるチェック215において、セマンティックマップのうちの前述した領域又は部分を、前述した方法により検出又は特定されたTCP位置データ225と比較220することができる。
機械(又は車両)と、機械(又は車両)の工具との運動力学に基づいて、発生し得る予測可能な移動軌跡に加えて、処理されるべき被加工物若しくは作業材料及び/又は周囲との必要若しくは有用な接触も生じる。従って、例えば、ホイールローダは、ばら積み材を拾い上げるために、自身のショベルを堆土の中に移動させる必要があり、圧縮空気ハンマは、材料を削り取るために、石材の被加工物若しくは作業材料に鈍角でたがねを入れる場合があり、又は、ドリルは、それぞれの土壌の中に垂直に前進する場合がある。これによって、関連するオブジェクト(被加工物又は作業材料)との必要な接触と、これらのオブジェクトにおける工具又はそれぞれの作業プロセスに基づいた変化とが生じ、これらを、本明細書において説明する方法及び装置によって、安全かつ確実に認識することが可能である。
セマンティックマップにおいて、工具、被加工物及び作業プロセスに論理的に関係がある領域/部分が識別される。従って、認識又は分類された被加工物への予測された軌道に沿った工具の接近、及び/又は、被加工物における、作業プロセスの観点から妥当である相互作用及び変化が、許容される衝突領域としてセマンティックマップにおいてマーキングされる。
作業機械の、破線230によって区切られた動作プロセスにおいて、計画又は予測235された移動軌道と、分類されたオブジェクトとに基づいて、軌道の領域内に許容し得ない相互作用が認識240された場合には、機械及び/又は運動学的機構若しくは工具を停止させるために、及び/又は、それぞれのオブジェクトを回避するために、警告及び/又は介入245が行われる。従って、予測された軌道は、人間又は他の作業機械を通過してはならないが、手元の作業プロセスの枠内において所望されている、機械又は工具とそれぞれのオブジェクトとの間の以下に説明する接触は、許容される。
軌道計画時においては、機械又は工具の運動力学と、操作員の制御命令とに基づいて、工具又は機械の軌道を予測することができる。予測された軌道が人間の身体と重なった場合には、機械又は工具が、即刻又は即座に停止させられる。人間が動いていて、その移動軌道を推定することができる場合には、この軌道を衝突管理に共に含め入れることができる。
さらに、追加的ないわゆる「運転者監視」システムにより、機械の操作員の視線方向に基づいて、この操作員が、自身の機械の相互作用領域内に存在している人間を知覚したかどうかと、機械の移動時にも視界に入れているどうかとを認識することができる。その場合、分類された人間は、対応する「運転者監視」カメラによって認識された、操作員の視線の遮られていない又は覆われていない延長線上に位置している。これが当てはまらない場合には、機械を即座に停止させることができる。
前述したカメラシステムがさらにジェスチャ認識を有する場合には、このジェスチャ認識も、衝突管理に含め入れることができる。従って、機械の操作員に指示を出す人間は、機械の相互作用領域内において、例えば、手の合図によって、工具若しくは移動させるべき積荷の目標位置に到達したこと、工具の方向を変更しなければならないこと、又は、積荷を例えば上方に移動させるべき若しくは降ろすべきであることを、指示することができる。
さらに、セマンティック3Dマップにおいて、人間の上方の領域を、概して、機械又は工具の許容されない移動領域としてマーキングすることも有用である。
作業機械において工具が交換された場合には、この交換が装置によって認識され、衝突管理において考慮される。従って、掘削機においてショベルからたがねに交換すると、他の必要な、許容し得る又は有用な作業タスク、周囲、シーン、軌道、操作、衝突管理及びシステム介入をもたらすことがあり得る。
前述した作業プロセスに関する又は技術的な関係性を、事前に、例えば、開発段階及び適用段階に特定して、機械の既存の制御ユニットに保存することができる。
以下においては、農業用作業機械即ちコンバインを例にして、このコンバインを、その周囲において、前述したセマンティックマップに基づいて開ループ制御及び閉ループ制御するために、前述した衝突監視がどのように実施されるかを説明する。
この農業用機械においては、衝突管理のための基礎として、センサ又は他のソースによって提供される以下の情報、即ち、
・周辺情報、例えば、地形、植生、生物、天気、動いているオブジェクト又は動かないオブジェクト;
・機械及び周囲のオブジェクトの現在の位置特定又は現在地、セマンティック及び/又はグローバルなマップ情報、フィールドマップ;
・機械の周辺及び内部における収穫物及び作物の流れの情報;
・機械成分及び動作成分の情報、例えば、機械部品の動作点、状態情報、物理量;
・操作員の情報、例えば、機械における操作要素の位置、運転者/操作員の視線/注意/疲労及び作業プロセスの意図;
・現在の時間及び日付
を考慮することができる。
これらの情報に基づいて、衝突を回避するための、それぞれの機械技術的又は作業プロセス的な状況に関する結論が導き出される。このように特定された状況は、装置によって自身の挙動を調整するために使用される。というのも、コンバインの収穫走行中には、機械が刈取部によって潜在的に危険なオブジェクトを拾い上げることなく、かつ、コンバインの処理コンポーネントへと搬送することなく、収穫物を拾い上げて処理することが重要だからである。
この用途例においては、コンバインが、収穫物と非収穫物とをそのセンサシステムによって能動的に区別し、衝突が認識された場合には、さらなる収穫走行を停止させることによって、又は、それぞれの障害物を回避することによって、セマンティックマップを用いた衝突回避を実現することができる。周囲データに基づいた現在の分析結果をセマンティックマップに保存することができ、これにより、畑を改めて収穫走行又は処理する際に、この分析結果を再利用することができる。
コンバインと周囲のオブジェクトとの間の最初の許容される衝突は、未収穫の作物を有する収穫されるべき畑に到着したときに特定される。コンバインは、取り付けられた工具、例えば刈取工具と共にその畑の植物に接近し、許容される衝突と共にそれらを刈り取り、続いて、刈り取った植物部分を機械内部の処理コンポーネントに供給する。コンバインが畑の作物の並びに追従するとき、コンバインは、ある時点に畑の走行軌跡の端に到着する。畑の作物の存在は、そこで終端し、機械は、その場所において、刈取工具と周囲のオブジェクト、例えば茂み又は樹木との間の衝突を阻止して、例えば、刈取工具の損傷を回避しなければならないことになる。
収穫走行の過程において、収穫物はまた、コンバインの穀物タンクから搬送車両へと定期的に積み替えられる。この積み替えは、停止状態において又は収穫走行中においても実施可能である。このために、排出用又は充填用チューブが、折り畳まれた状態から搬送トレーラに向かって旋回され、続いて、材料が積み替えられる。この旋回プロセス中、充填用チューブの移動軌跡に起因して、少なくとも短時間、トレーラと充填用チューブとの間に許容されない接近が生じる可能性がある。この衝突状態も、上述した方法によって認識することができ、コンバインは、状況に応じて、衝突が発生する可能性がないように制御される。
農業分野からの他の用途例は、耕運機又は播種機が装備されたトラクタと、処理されるべき畑との間の必要な衝突である。従って、例えば、土壌の反転又は混合を達成するために、耕墾器又は中耕機の歯先又は犂刃が意図的に地中に沈め降ろされる。この場合、均一な処理及び均一な混合が特に重要である。この用途例においては、衝突管理のため使用される状況システムの課題は、装置を、処理プロセスにおける一定の作業深度及び一定の速度で維持することである。例えば、前方の地面において比較的多数の残留植物、又は、石だらけ若しくは固まった地面が認識された場合には、状況に応じて、土壌処理装置が持ち上げられ、又は、土壌処理装置の移動速度が変更される。
さらなる対応する又は類似の用途例は、例えば、飼料収穫機、ヤードローダ、伸縮式ローダ等の分野において考えられる。
建設の分野においても、既に説明したように、建設機械の使用時に、機械の運転者自身が(意図的に)移動又は接近を開始したにもかかわらず、機械的なアルゴリズムによって自機械への衝突又は危険として潜在的に認識されるような故意の衝突又は移動パターンが発生することがしばしばある。従って、一方では、作業プロセスにおいて土壌材料若しくはばら積み材との意図的な衝突を必要とし、材料運搬用ショベルと搬送容器との衝突、又は、搬送容器内への材料運搬用ショベルの想定された降下を必要とするような掘削機及びホイールローダにおいても、本明細書に記載されている方法及び装置を使用することができる。
他の用途例は、フォークリフト又は伸縮式ローダによってトラックへの積載を行う際における2つの車両コンパートメントの旋回である。この場合、積載されるべき物品は、トラックトレーラの車両包絡線においてフォークリフトの歯先に移動される。この接近は、衝突警告システムにとっては許容し得ない衝突を意味し得るが、この接近は、状況に応じて運転者によって意識的に引き起こされるものである。
図3は、本明細書に関連する作業機械の、条件付きで衝突が許容される動作のための装置の機能要素を示している。位置特定要素300によって、セマンティックマップ、特にセマンティック3Dマップに基づいた位置特定と、それぞれの機械若しくは機械の工具及び/又は人間及び/又は相互作用領域及び/又はオブジェクトの、グローバルな即ちGNSSベースの位置特定とが実施される。
ここでは、本明細書に関連する作業機械を動作させるために最大限に装備された装置について説明する。従って、装置の分離及び/又は掛合せ及び/又はさらなる組合せが考えられる。
第2の機能要素302は、作業タスク及び作業ステップ若しくは作業プロセス又はそれらの一部の計画を実施する(いわゆる「タスク計画」)。計画は、操作員305及び/又は「ビルディング・インフォメーション・モデリング」(BIM)によって実施され、及び/又は、事前に学習された操作シーケンス及び/又は作業シーケンスに基づいて実施される。第3の機能要素310は、機械及び/又は工具の移動だけでなく人間の移動の計画、予測及び観察を実施する(いわゆる「軌道計画」)。第4の機能要素320に基づいて、軌道計画310と、セマンティック3Dマップ312に基づいた周囲モデル315と、シーン解釈335とにおいて予測された潜在的な衝突及び不確かさが認識され、第5の機能要素330に基づいて、システム介入(いわゆる「アクチュエータ管理」)による措置、又は、タスク計画302及び軌道計画310の更新を回避するための措置が実施される(いわゆる「衝突管理」320)。
操作員と操作要素及び表示要素との間の相互作用、並びに、運転者監視は、マンマシンインタフェース322によって実施される。車両モデル325(「車両モデル」)は、それぞれの走行可能な機械の運動学(キネマティクス)及び動力学(ダイナミクス)と、機械の開ループ制御及び閉ループ制御の挙動とを含む。前述したアクチュエータ管理330(「アクチュエータ管理」)は、手元の動作戦略に応じて、対応するアクチュエータへの車両及び工具の縦方向移動及び横方向移動の割り当てを考慮する。前述したシーン評価335(「シーン解釈」)により、機械、工具、被加工物又は作業対象の相互作用と、周囲又はオブジェクトにおけるこれに関連する変化とが、予測、認識及び妥当性検査され、衝突管理及びシステム介入340のための対応する示唆及び指示が、前述した「アクチュエータ管理」330によって出力される。
上述した方法又は装置は、このために独自に開発された制御装置においても使用可能である。
上述した方法は、本明細書に関連する機械を制御するための電子制御装置のための制御プログラムの形態において、又は、1つ若しくは複数の対応する電子制御ユニット(ECU)の形態において、実現することが可能である。

Claims (13)

  1. 運動学的機構(110,115,120)を有する機械(100,105)を動作させるための方法であって、
    前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の姿勢を、特に信号技術的な測定方法によって特定する、
    方法において、
    特に信号技術的な前記測定方法によって特定された、前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の姿勢を、セマンティックマップ(200,312)と比較(215)し、
    前記機械(100,105)の周囲にあるオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を認識する、
    ことを特徴とする方法。
  2. 前記作業機械に配置された周囲センサ(205)によって、及び/又は、他の機械のセンサによって、及び/又は、前記機械の周囲に位置固定されて設置されたセンサによって、手元の前記セマンティックマップ(312)に基づいて、前記機械(100,105)のための周囲モデル(315)を作成(200)する、
    請求項1に記載の方法。
  3. 前記セマンティックマップ(312)のうちの、前記オブジェクトとの衝突が発生し得る場合であっても前記機械(100,105)の動作を許容し得る領域と、
    前記セマンティックマップ(312)のうちの、前記オブジェクトとの間において発生し得る衝突に関して、前記オブジェクトと衝突することなく前記機械(100,105)が移動し得る領域とを識別(210)する、
    請求項2に記載の方法。
  4. 前記セマンティックマップ(312)の識別された前記領域を、前記運動学的機構(110,115,120)のTCP位置データ(225)と比較(220)する、
    請求項3に記載の方法。
  5. 前記セマンティックマップ(312)内の前記オブジェクトを、前記機械(100,105)及び/又は前記運動学的機構(110,115,120)との間において発生し得る衝突に関して、条件付きで許容されるものとして又は許容されないものとして分類する、
    請求項1乃至4のいずれか一項に記載の方法。
  6. 前記機械(100,105)の動作中に、前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の計画(235)又は予測された移動軌道に基づいて、計画(235)又は予測された前記移動軌道の領域内における分類された前記オブジェクトに関して許容し得ない相互作用を認識(240)し、
    少なくとも1つの許容し得ない相互作用が認識された場合に、前記機械(100,105)の操作員に警告メッセージを出力し、及び/又は、前記機械(100,105)の動作への衝突防止介入を実施(245)する、
    請求項5に記載の方法。
  7. 運動学的機構(110,115,120)を有する機械(100,105)を動作させるための装置であって、
    前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の姿勢を、特に信号技術的な測定方法によって特定可能である、
    装置において、
    特に信号技術的な前記測定方法によって特定された、前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の姿勢を、セマンティックマップ(312)と比較(215)し、
    前記機械(100,105)の周囲に配置された少なくとも1つのオブジェクトとの間において発生し得る、条件付きで許容される衝突又は許容されない衝突を認識する、
    ための計算手段が設けられている
    ことを特徴とする装置。
  8. セマンティックマップ(312)によって前記機械(100,105)を位置特定するための位置特定要素(300)と、
    前記機械(100,105)の側で実施されるべき作業タスク及び作業ステップを計画するための計画要素(302)と、
    前記機械(100,105)及び/又は前記運動学的機構(110,115,120)の移動、及び/又は、前記機械(100,105)の周囲に配置されたオブジェクトの移動を計画、予測及び監視するための軌道計画要素(310)と、
    前記セマンティックマップ(312)に基づく周囲モデル(315)と、
    前記少なくとも1つのオブジェクトとの潜在的な衝突を予測(320)するためのシーン解釈要素(335)と、
    前記少なくとも1つのオブジェクトとの許容されない衝突を回避するための適当な措置を実施するためのアクチュエータ管理要素(330)と、
    が設けられている、
    請求項7に記載の装置。
  9. 前記機械(100,105)の運動力学と、前記機械(100,105)の開ループ制御及び閉ループ制御の挙動とに関連する車両モデル(325)が設けられている、
    請求項8に記載の装置。
  10. 前記シーン解釈要素(335)によって、前記機械(100,105)の周囲に位置するさらなる機械、工具、被加工物又は作業対象の相互作用と、前記機械(100,105)の周囲におけるこれに関連する変化とが予測、認識及び/又は妥当性検査される、
    請求項8又は9に記載の装置。
  11. 請求項1乃至6のいずれか一項に記載の方法のそれぞれのステップを実施するために構成されたコンピュータプログラム。
  12. 請求項11に記載のコンピュータプログラムが格納されている機械可読データ担体。
  13. 請求項1乃至6のいずれか一項に記載の方法によって前記機械を制御するように構成された電子制御装置。
JP2020569079A 2018-06-12 2019-05-13 自律的に動作する作業機械を動作させるための方法及び装置 Active JP7143451B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102018209336.9A DE102018209336A1 (de) 2018-06-12 2018-06-12 Verfahren und Einrichtung zum Betrieb von autonom betriebenen Arbeitsmaschinen
DE102018209336.9 2018-06-12
PCT/EP2019/062198 WO2019238330A1 (de) 2018-06-12 2019-05-13 Verfahren und einrichtung zum betrieb von autonom betriebenen arbeitsmaschinen

Publications (2)

Publication Number Publication Date
JP2021526086A true JP2021526086A (ja) 2021-09-30
JP7143451B2 JP7143451B2 (ja) 2022-09-28

Family

ID=66597546

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020569079A Active JP7143451B2 (ja) 2018-06-12 2019-05-13 自律的に動作する作業機械を動作させるための方法及び装置

Country Status (4)

Country Link
JP (1) JP7143451B2 (ja)
KR (1) KR20210020896A (ja)
DE (1) DE102018209336A1 (ja)
WO (1) WO2019238330A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019204752A1 (de) * 2019-04-03 2020-03-26 Thyssenkrupp Ag Verfahren und Einrichtung zum Betrieb von insbesondere im Tagebau einsetzbaren Abraum- und Fördermaschinen
US11970839B2 (en) 2019-09-05 2024-04-30 Deere & Company Excavator with improved movement sensing
US11821167B2 (en) 2019-09-05 2023-11-21 Deere & Company Excavator with improved movement sensing
US11693411B2 (en) 2020-02-27 2023-07-04 Deere & Company Machine dump body control using object detection
CN111968262B (zh) * 2020-07-30 2022-05-20 国网智能科技股份有限公司 一种语义智能变电站巡视作业机器人导航系统及方法
US12008905B2 (en) 2020-09-18 2024-06-11 Stoneridge Electronics Ab Curb detection system for commercial vehicles
DE102020213294A1 (de) 2020-10-21 2022-04-21 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Überwachung eines Baustellenbereichs, Überwachungssystem, Computerprogramm und Speichermedium
CN113565324A (zh) * 2021-07-26 2021-10-29 中建四局第三建设有限公司 一种狭小空间内贝雷架整体水平滑移定点拆除方法
DE102021209150A1 (de) 2021-08-20 2023-02-23 Zf Friedrichshafen Ag Verfahren zum Überwachen eines Arbeitsumfelds einer Arbeitsmaschine
DE102021210113A1 (de) 2021-09-14 2023-03-16 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Steuerung einer Ausrüstungsdrehung einer Arbeitsausrüstung einer Arbeitsmaschine und Arbeitsmaschine
DE102021131571A1 (de) 2021-12-01 2023-06-01 Martin Lindenbauer Assistenzsystem
US20230339734A1 (en) * 2022-04-26 2023-10-26 Deere & Company Object detection system and method on a work machine
US20240185719A1 (en) * 2022-12-01 2024-06-06 Caterpillar Inc. Systems and methods for detecting false positives in collision notifications
DE102023200971A1 (de) 2023-02-07 2024-08-08 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Erstellen einer topographischen Karte, Vorrichtung und Arbeitsmaschine

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5826130A (ja) * 1981-08-10 1983-02-16 Meidensha Electric Mfg Co Ltd 土建作業方法
JPH1088625A (ja) * 1996-09-13 1998-04-07 Komatsu Ltd 自動掘削機、自動掘削方法および自動積み込み方法
JP2000136549A (ja) * 1998-10-09 2000-05-16 Carnegie Mellon Univ 自律掘削及びトラック載荷システム
JP2018038291A (ja) * 2016-09-05 2018-03-15 株式会社クボタ 作業車自動走行システム及び走行経路管理装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6044632A (en) * 1998-02-05 2000-04-04 Eaton Corporation, Cutler-Hammer Products Backup proximity sensor for a vehicle
US7516563B2 (en) * 2006-11-30 2009-04-14 Caterpillar Inc. Excavation control system providing machine placement recommendation
US8315789B2 (en) * 2007-03-21 2012-11-20 Commonwealth Scientific And Industrial Research Organisation Method for planning and executing obstacle-free paths for rotating excavation machinery
US20090043462A1 (en) * 2007-06-29 2009-02-12 Kenneth Lee Stratton Worksite zone mapping and collision avoidance system
KR100955655B1 (ko) * 2007-10-17 2010-05-06 한국생산기술연구원 로봇의 자율 주행 방법
DE102013212154A1 (de) * 2013-06-26 2014-12-31 Robert Bosch Gmbh Vorrichtung zum Einpflegen von Arbeitsraumdaten in ein Arbeitsraumbegrenzungssystem einer Arbeitsmaschine
NL1041331B1 (nl) * 2015-06-02 2017-01-02 Sander Johannes Bernaerts Ing Onkruidverwijderinrichting.
DE102015010514B4 (de) * 2015-08-13 2019-06-13 Audi Ag Verfahren zur Ermittlung von Karteninformationen für einen Kartendatensatz einer Navigationsumgebung und Recheneinrichtung
JP6599835B2 (ja) * 2016-09-23 2019-10-30 日立建機株式会社 鉱山用作業機械、障害物判別装置、及び障害物判別方法
DE102016224076A1 (de) * 2016-12-02 2018-06-07 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bestimmen einer Position eines Baggerarms mittels eines an einem Bagger angeordneten LIDAR-Systems
CN106802954B (zh) * 2017-01-18 2021-03-26 中国科学院合肥物质科学研究院 无人车语义地图模型构建方法及其在无人车上的应用方法
US10458810B2 (en) * 2017-12-21 2019-10-29 GM Global Technology Operations LLC Traffic light state assessment

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5826130A (ja) * 1981-08-10 1983-02-16 Meidensha Electric Mfg Co Ltd 土建作業方法
JPH1088625A (ja) * 1996-09-13 1998-04-07 Komatsu Ltd 自動掘削機、自動掘削方法および自動積み込み方法
JP2000136549A (ja) * 1998-10-09 2000-05-16 Carnegie Mellon Univ 自律掘削及びトラック載荷システム
JP2018038291A (ja) * 2016-09-05 2018-03-15 株式会社クボタ 作業車自動走行システム及び走行経路管理装置

Also Published As

Publication number Publication date
JP7143451B2 (ja) 2022-09-28
WO2019238330A1 (de) 2019-12-19
KR20210020896A (ko) 2021-02-24
DE102018209336A1 (de) 2019-12-12

Similar Documents

Publication Publication Date Title
JP7143451B2 (ja) 自律的に動作する作業機械を動作させるための方法及び装置
US10231374B2 (en) Travel support system, travel support method, and work vehicle
US10480157B2 (en) Control system for a machine
US9322148B2 (en) System and method for terrain mapping
KR101927297B1 (ko) 다중-작업 토공 기계의 자율적 동작 시스템 및 방법
US20170073935A1 (en) Control System for a Rotating Machine
JP7356829B2 (ja) 自動走行システム
US20150045992A1 (en) Work vehicle robotic platform
US20080262669A1 (en) Autonomous vehicle controller
JP7174484B2 (ja) 農作業車
CN111886518A (zh) 障碍物检测系统以及作业车辆
JP2021185366A (ja) 障害物検知システム
US20220170242A1 (en) System and method for detecting objects within a working area
US20170073925A1 (en) Control System for a Rotating Machine
US20200356096A1 (en) Autonomous agricultural working machine and method of operation
AU2011337113A1 (en) Control system having tool tracking
US9454147B1 (en) Control system for a rotating machine
WO2019187883A1 (ja) 作業車両用の障害物検知システム
US9651381B2 (en) Terrain mapping system using virtual tracking features
Stentz Robotic technologies for outdoor industrial vehicles
JP2019170271A (ja) 作業車両
US20170314381A1 (en) Control system for determining sensor blockage for a machine
JP2020101964A (ja) 走行状態表示装置、及び、自動走行システム
US20220282460A1 (en) System and method for terrain based control of self-propelled work vehicles
KR20150074340A (ko) 건설기계의 테일 제어 시스템 및 그 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220914

R150 Certificate of patent or registration of utility model

Ref document number: 7143451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150