JP2020196117A - エラー検出および動的パッキング機構を有するロボットシステム - Google Patents

エラー検出および動的パッキング機構を有するロボットシステム Download PDF

Info

Publication number
JP2020196117A
JP2020196117A JP2019169752A JP2019169752A JP2020196117A JP 2020196117 A JP2020196117 A JP 2020196117A JP 2019169752 A JP2019169752 A JP 2019169752A JP 2019169752 A JP2019169752 A JP 2019169752A JP 2020196117 A JP2020196117 A JP 2020196117A
Authority
JP
Japan
Prior art keywords
robot system
placement
discretized
model
errors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019169752A
Other languages
English (en)
Other versions
JP6729953B1 (ja
Inventor
ニコラエフ デアンコウ,ロセン
Nikolaev Diankov Rosen
ニコラエフ デアンコウ,ロセン
カヌニコフ,デニス
Kanunikov Denys
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mujin Inc
Original Assignee
Mujin Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mujin Inc filed Critical Mujin Inc
Application granted granted Critical
Publication of JP6729953B1 publication Critical patent/JP6729953B1/ja
Publication of JP2020196117A publication Critical patent/JP2020196117A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1687Assembly, peg and hole, palletising, straight line, weaving pattern movement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65BMACHINES, APPARATUS OR DEVICES FOR, OR METHODS OF, PACKAGING ARTICLES OR MATERIALS; UNPACKING
    • B65B57/00Automatic control, checking, warning, or safety devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • B25J9/161Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1661Programme controls characterised by programming, planning systems for manipulators characterised by task planning, object-oriented languages
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1671Programme controls characterised by programming, planning systems for manipulators characterised by simulation, either to verify existing program or to create and verify new program, CAD/CAM oriented, graphic oriented programming systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • B25J9/1676Avoiding collision or forbidden zones
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65BMACHINES, APPARATUS OR DEVICES FOR, OR METHODS OF, PACKAGING ARTICLES OR MATERIALS; UNPACKING
    • B65B65/00Details peculiar to packaging machines and not otherwise provided for; Arrangements of such details
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G57/00Stacking of articles
    • B65G57/02Stacking of articles by adding to the top of the stack
    • B65G57/03Stacking of articles by adding to the top of the stack from above
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G57/00Stacking of articles
    • B65G57/02Stacking of articles by adding to the top of the stack
    • B65G57/16Stacking of articles of particular shape
    • B65G57/20Stacking of articles of particular shape three-dimensional, e.g. cubiform, cylindrical
    • B65G57/22Stacking of articles of particular shape three-dimensional, e.g. cubiform, cylindrical in layers each of predetermined arrangement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G61/00Use of pick-up or transfer devices or of manipulators for stacking or de-stacking articles not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2814/00Indexing codes relating to loading or unloading articles or bulk materials
    • B65G2814/03Loading or unloading means
    • B65G2814/0301General arrangements
    • B65G2814/0304Stacking devices
    • B65G2814/0305Adding to the top
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39391Visual servoing, track end effector with camera image feedback
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39393Camera detects projected image, compare with reference image, position end effector
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40014Gripping workpiece to place it in another place
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/45Nc applications
    • G05B2219/45056Handling cases, boxes

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Manipulator (AREA)
  • Stacking Of Articles And Auxiliary Devices (AREA)

Abstract

【課題】ロボットは、様々な実世界の要因から生じ得るばらつき、エラー、または不確実性を考慮するための、実行されるアクションにおける制御の粒度および柔軟性を欠いている。【解決手段】ロボットシステムを動作させるための方法は、ソースセンサデータに基づいて離散化オブジェクトモデルを決定して、パッキングプランまたはマスターデータと比較し、目的地センサデータに基づいて離散化台モデル及び高さ寸法を決定し、離散化台モデルおよび/または高さ寸法を想定台モデルおよび/または想定高さ寸法と比較する。そして、(i)離散化オブジェクトモデルと、パッキングプランまたはマスターデータと、の1つまたは複数の相違を特定して、少なくとも1つのソース照合エラーを判定すること、あるいは(ii)離散化台モデルまたは高さ寸法と、想定台モデルまたは想定高さ寸法と、のそれぞれの1つまたは複数の相違を特定して、少なくとも1つの目的地照合エラーを判定することによって1つまたは複数のエラーを判定する。【選択図】図7

Description

関連出願の相互参照
本出願は、Rosen N.DiankovおよびDenys Kanunikovによる、「A ROBOTIC SYSTEM WITH PACKING MECHANISM」と題された、同時出願された米国特許出願に関する主題を含み、これはMujin,Incに譲渡され、代理人整理番号131837−8005.US01によって識別され、その全体が引用により本明細書に組み込まれている。
本出願は、ROSEN N.DIANKOVおよびDENYS KANUNIKOVによる、「A ROBOTIC SYSTEM WITH DYNAMIC PACKING MECHANISM」と題された、同時出願された米国特許出願に関する主題を含み、これはMUJIN,INCに譲渡され、代理人整理番号131837−8006.US01によって識別され、その全体が引用により本明細書に組み込まれている。
本出願は、ROSEN N.DIANKOVおよびDENYS KANUNIKOVによる、「ROBOTIC SYSTEM FOR PROCESSING PACKAGES ARRIVING OUT OF SEQUENCE」と題された、同時出願された米国特許出願に関する主題を含み、これはMUJIN,INCに譲渡され、代理人整理番号131837−8008.US01によって識別され、その全体が引用により本明細書に組み込まれている。
本出願は、ROSEN N.DIANKOVおよびDENYS KANUNIKOVによる、「ROBOTIC SYSTEM FOR PALLETIZING PACKAGES USING REAL−TIME PLACEMENT SIMULATION」と題された、同時出願された米国特許出願に関する主題を含み、これはMUJIN,INCに譲渡され、代理人整理番号131837−8009.US01によって識別され、その全体が引用により本明細書に組み込まれている。
本技術は、一般にはロボットシステムを対象とし、より詳細には、特定されたエラーに基づいてオブジェクトを動的にパッキングするためのシステム、処理、および技術を対象とする。
向上し続ける性能および低下するコストによって、多くのロボット(たとえば、物理的なアクションを自動的/自律的に実行するように構成される機械)が、現在多くの分野において広く使用されている。ロボットは、たとえば、製造および/または組み立て、パッキングおよび/またはパッケージング、輸送および/または出荷などにおける様々なタスク(たとえば、オブジェクトを操作するまたは空間を通して転置する)を実行するために使用することができる。タスクを実行する際に、ロボットは人間のアクションを再現することによって、危険または反復的なタスクを実行するのに本来必要とされる人間の関与を置き換えるまたは減らすことができる。
しかしながら、技術的進歩にもかかわらず、ロボットはより複雑なタスクを実行するのに必要とされる人間の敏感性および/または順応性を複製するのに必要な精巧さを欠いていることが多い。たとえば、ロボットは、様々な実世界の要因から生じ得るばらつき、エラー、または不確実性を考慮するための、実行されるアクションにおける制御の粒度および柔軟性を欠いていることが多い。したがって、様々な実世界の要因によらずタスクを完了するようにロボットの様々な側面を制御し管理するための改良された技術およびシステムへの必要性が残っている。
動的パッキング機構を有するロボットシステムが動作し得る例示的な環境の図である。 本技術の1つまたは複数の実施形態によるロボットシステムを示すブロック図である。 本技術の1つまたは複数の実施形態による離散化オブジェクトの図である。 本技術の1つまたは複数の実施形態による離散化パッキング台の図である。 本技術の1つまたは複数の実施形態による支持の計算の図である。 本技術の1つまたは複数の実施形態による支持メトリックの図である。 本開示の1つまたは複数の実施形態によるロボットシステムによって実行される例示的な載置を示す上面視である。 本開示の1つまたは複数の実施形態による第1の例示的な進入を示す側面視である。 本開示の1つまたは複数の実施形態による第2の例示的な進入を示す側面視である。 本技術の1つまたは複数の実施形態による図1のロボットシステムを動作させるための流れ図である。 本技術の1つまたは複数の実施形態による図1のロボットシステムを動作させるための流れ図である。
本明細書では、様々なパッケージングエラーを特定し、オブジェクト(たとえば、パッケージおよび/またはボックス)を動的にパッキングするためのシステムおよび方法を説明する。いくつかの実施形態に従って構成されるロボットシステム(たとえば、1つまたは複数の指定タスクを実行するデバイスの統合システム)は、オブジェクトについての保管位置を動的に導出し、それに従ってスタックすることによって、パッキングおよび保管効率を向上させる。
従来のシステムは、オフラインパッキングシミュレータを使用して、パッキングシーケンス/配置を事前に決定する。従来のパッキングシミュレータは、所定のまたは推定されるケースのセットに関するオブジェクト情報(たとえば、ケースの形状/サイズ)を処理してパッキングプランを生成する。決定されると、パッキングプランは、目的地(たとえば、パレット、ビン、ケージ、ボックスなど)におけるオブジェクトの具体的な載置位置/姿勢、事前定義された載置のシーケンス、および/または所定のモーションプランを規定および/または要求する。従来のパッキングシミュレータは、所定のパッキングプランから、そのパッキングプランに合致するまたは可能にするソース要件(たとえば、オブジェクトについてのシーケンスおよび/または載置)を導出し得る。
パッキングプランは従来のシステムではオフラインで開発されるので、プランは実際のパッキング動作/状況、オブジェクトの到着、および/または他のシステムの実装とは独立している。したがって、全体的な動作/実装では、(たとえば、開始/拾得位置において)受け取ったパッケージが、所定のパッキングプランに合致する固定のシーケンスに従うことが必要になる。したがって、従来のシステムは、リアルタイムの状況および/または受け取ったパッケージのばらつき(たとえば、異なるシーケンス、位置、および/または向き)、予期しないエラー(たとえば、衝突、紛失、および/または異なるパッケージング状況)、リアルタイムのパッキング要求(たとえば、受注)、および/または他のリアルタイム要因に適応することができない。さらに、従来のシステムは、厳格な所定のプラン/シーケンスに従ってオブジェクトをグループ化し、パッキングするので、ソース位置にある全てのオブジェクトが(1)同一の予期される寸法/タイプを有すること、および/または(2)既知のシーケンスに従って到着することを必要とする。たとえば、従来のシステムでは、オブジェクトが固定のシーケンスに従って(コンベヤなどを介して)拾得位置に到着することが必要となる。また、たとえば、従来のシステムでは、拾得位置にあるオブジェクトが所定の姿勢に従って指定位置に載置されることが必要となる。したがって、従来のシステムでは、所定のシーケンス/配置に従ってオブジェクトをソースに(すなわち、パッキング動作の前に)並べるおよび/または載置するための1つまたは複数の動作が必要である。多くの場合、従来のシステムは、所定のシーケンス/姿勢に従ってオブジェクトをソースに並べるおよび/または載置するためのシーケンスバッファを必要とし、これは100万USドル以上かかる。
従来のシステムとは対象的に、本明細書に記載のロボットシステムは、(i)リアルタイムの状況、および/または受け取ったパッケージのばらつき、および/または他の予期しないエラーを特定し、(ii)システム動作中にオブジェクトの載置位置を動的に(たとえば、1つまたは複数のオブジェクトが到着したまたは識別されたときに、および/またはパッキング動作などの1つまたは複数の動作を最初に開始した後に)導出することができる。いくつかの実施形態では、ロボットシステムはトリガイベント、たとえば、1つまたは複数のパッケージング/操作エラー(たとえば、衝突イベントもしくは紛失イベント)の識別、(たとえば、ソースおよび/または目的地において)認識されないオブジェクト、載置済みパッケージの位置/向きの変化、および/または他の動的な条件の発生に基づいて載置の動的な導出を開始/実施することができる。載置位置を動的に導出する際に、ロボットシステムは、様々なリアルタイムの状況(たとえば、現在存在しているまたは進行中の状況)を利用することができ、これには、たとえば、利用可能な/到着するオブジェクト、オブジェクト特性および/または要件、載置要件、および/または他のリアルタイム要因が含まれる。
ロボットシステムは、離散化メカニズム(たとえば、処理、回路、関数、および/またはルーチン)に基づいて載置位置を導出することができる。たとえば、ロボットシステムは離散化メカニズムを使用して、離散化単位(すなわち、1つの離散エリア/スペース)に従って、オブジェクトおよび/または目標場所の物理的なサイズ/形状を記述することができる。ロボットシステムは、離散化単位を使用して想定オブジェクトを記述する離散化オブジェクトのプロフィール、および/または目標場所(たとえば、パレットの上面および/またはビン/ケース/ボックス内の空間/底面)を記述する離散化された目的地のプロフィールを生成することができる。したがって、ロボットシステムは、連続的な実世界の空間/エリアをコンピュータ読み取り可能なデジタル情報に変換することができる。さらに、離散化データによって、パッケージフットプリントを記述し、様々なパッケージ載置を比較するための計算複雑性を削減することが可能になり得る。たとえば、パッケージ寸法は、実世界の10進数ではなく、離散化単位の整数に対応することができ、これにより数学的計算が容易になる。
いくつかの実施形態では、ロボットシステムは、載置台の離散化セルをチェックして、オブジェクト載置確率を決定することができる。たとえば、ロボットシステムは、載置台に載置されたオブジェクトの深度測定値または高さを使用することができる。ロボットシステムは深度寸法を決定して、離散化セルにおける/応じた高さを決定することができる。ロボットシステムは、載置対象のオブジェクトに対応する離散化セルのグループに従って深度寸法を評価することができる。ロボットシステムは、載置確率を評価するためにグループ内の最大の高さを決定することができる。換言すれば、ロボットシステムは、テストされる載置位置が、載置されるオブジェクトを(たとえば、所定の閾値および/または条件に従って)比較的平坦に載置できるような、十分な支持を提供するか否かを判定することができる。動的な載置の導出に関する詳細については後述する。
したがって、ロボットシステムは、リアルタイムの状況に基づいて、オブジェクトの載置を動的に導出する効率、速度、および精度を向上させることができる。たとえば、本明細書に記載のシステムは、実世界の状況によって、予期される状況に関連する不確実性、および/または予期される状況からの逸脱が与えられる場合に、載置位置を導出することができる。さらに、ロボットシステムは、従来のシステムにおいてオブジェクトをソースに並べるまたは載置するために、および/またはパッキング動作のために(たとえば、エラー処理のために)必要なはずの1つまたは複数の動作、機械(たとえば、シーケンスバッファ)、および/または人間の支援を無くすことによって、全体のコストを削減することができる。オブジェクトが利用可能になったときに(たとえば、オブジェクトの到着および/またはトリガイベントに基づいて)載置位置を動的に導出することによって、ロボットシステムは、パッケージを再編成または配列する必要性を、関連する機械/人間の動作と共に排除する。
オブジェクト載置を導出した後、ロボットシステムは、導出された進入プランに従ってオブジェクトを導出された載置位置に載置することができる。いくつかの実施形態では、ロボットシステムは、導出された載置位置へのオブジェクトの載置が正確であることを検証することができ、および/または(たとえば、対応する載置位置へのオブジェクトの前の載置に基づいて)1つまたは複数の他のオブジェクトの載置位置を動的に導出することができる。
以下の説明では、本開示技術の完全な理解を提供するために、多数の具体的な詳細を記載している。他の実施形態では、本明細書で紹介する技術は、これらの具体的な詳細がなくとも実践することができる。他の例では、よく知られている特徴、たとえば、特定の関数またはルーチンについては、本開示を不必要に不明瞭にしないように、詳細には説明していない。本明細書における「実施形態」、「一実施形態」などへの言及は、説明している特定の特徴、構造、材料、または特性が本開示の少なくとも1つの実施形態に含まれることを意味する。したがって、本明細書におけるそのような文言の出現は、必ずしも全てが同一の実施形態を指すものではない。一方、そのような言及は、必ずしも相互に排他的ではない。さらに、特定の特徴、構造、材料、または特性は、1つまたは複数の実施形態において任意の好適な方法で組み合わせることができる。図面に示す様々な実施形態は説明のための表現にすぎず、必ずしも縮尺通りに描いていないことを理解されたい。
よく知られており、ロボットシステムおよびサブシステムに関連付けられることが多いが、開示した技術のいくつかの重要な側面を不必要に不明瞭にし得る、構造または処理を説明する一部の詳細については、明瞭にするために以下の説明には記載していない。また、以下の開示では本技術の異なる態様のいくつかの実施形態を記載しているが、いくつかの他の実施形態は、このセクションに記載したものとは異なる構成または異なるコンポーネントを有し得る。したがって、開示した技術は、追加の要素を有し、後述の要素の一部を有さない他の実施形態を有し得る。
以下で説明する本開示の多くの実施形態または態様は、プログラム可能コンピュータまたはプロセッサによって実行されるルーチンを含むコンピュータ実行可能命令またはプロセッサ実行可能命令の形態をとり得る。当業者であれば、開示した技術が以下に図示および説明した以外のコンピュータまたはプロセッサシステム上で実践され得ることを理解するであろう。本明細書に記載の技術は、後述のコンピュータ実行可能命令のうちの1つまたは複数を実行するように特別にプログラムされ、構成され、または構築された専用コンピュータまたはデータプロセッサにおいて実施することができる。したがって、本明細書で一般的に使用される「コンピュータ」および「プロセッサ」という用語は、任意のデータプロセッサを指し、インターネット機器およびハンドヘルドデバイス(たとえば、パームトップコンピュータ、ウェアラブルコンピュータ、セルラーまたはモバイル電話、マルチプロセッサシステム、プロセッサベースまたはプログラム可能コンシューマ電子機器、ネットワークコンピュータ、ミニコンピュータなど)を含むことができる。これらのコンピュータおよびプロセッサによって扱われる情報は、任意の好適な表示媒体、たとえば、液晶ディスプレイ(LCD)に提示することができる。コンピュータ実行可能タスクまたはプロセッサ実行可能タスクを実行するための命令は、ハードウェア、ファームウェア、またはハードウェアおよびファームウェアの組合せを含む、任意の好適なコンピュータ可読媒体内に、またはその媒体上に記憶することができる。命令は、たとえば、フラッシュドライブおよび/または他の好適な媒体を含む任意の好適なメモリデバイスに含めることができる。
「結合される」および「接続される」という用語、ならびにこれらの派生形は、本明細書においてコンポーネント間の構造関係を記述するために使用され得る。これらの用語が互いに同義語であることが意図されていないことを理解されたい。むしろ、特定の実施形態では、「接続される」は、2つ以上の要素が互いに直接接していることを示すために使用され得る。文脈において別途明記していない限り、「結合される」という用語は、2つ以上の要素が互いに直接的にもしくは間接的に(間に他の介在要素を介して)接していること、または2つ以上の要素が(たとえば、信号の送受信もしくは関数呼び出しなどのための因果関係のように)互いに協力または相互作用すること、あるいはその両方を示すために使用され得る。
好適な環境
図1は、動的パッキング機構を有するロボットシステム100が動作し得る例示的な環境の図である。ロボットシステム100は、1つまたは複数のタスクを実行するように構成される1つまたは複数のユニット(たとえば、ロボット)を含むおよび/または通信することができる。動的パッキング機構の態様は、様々なユニットによって実践または実装することができる。
図1に示す例では、ロボットシステム100は、倉庫または流通/出荷拠点における、荷下ろしユニット102、転置ユニット104(たとえば、パレタイズロボットおよび/またはピースピッカーロボット)、輸送ユニット106、積載ユニット108、またはこれらの組合せを含むことができる。ロボットシステム100内の各ユニットは、1つまたは複数のタスクを実行するように構成することができる。タスクを順番に組み合わせて目標を達成する動作を行うことができ、たとえば、トラックもしくはバンからオブジェクトを荷下ろしし、倉庫に保管する、または保管位置からオブジェクトを荷下ろしし、出荷準備することができる。いくつかの実施形態では、タスクは、オブジェクトを目標場所に(たとえば、パレットの上、および/またはビン/ケージ/ボックス/ケースの中に)載置することを含むことができる。以下に詳述するように、ロボットシステム100は、オブジェクトを載置および/またはスタックするために、個々の載置位置/向きを導出すること、対応するモーションプランを計算すること、またはこれらの組み合わせを行うことができる。各ユニットは、アクションのシーケンスを実行して(たとえば、その中の1つまたは複数のコンポーネントを動作させて)タスクを実行するように構成することができる。
いくつかの実施形態では、タスクは、(たとえば、1つまたは複数の3次元(3D)ビジョンカメラ122などの1つまたは複数のセンサによって収集される情報に基づいて)開始/ソース位置114からタスク/目的地位置116までの対象オブジェクト112(たとえば、実行しているタスクに対応するパッケージ、ボックス、ケース、ケージ、パレットなどのうちの1つ)の操作(たとえば、移動および/または向き変更)を含むことができる。たとえば、荷下ろしユニット102(たとえば、デバンニングロボット)は、対象オブジェクト112をキャリア(たとえば、トラック)内の位置からコンベヤベルト上の位置に転置するように構成することができる。また、転置ユニット104は、対象オブジェクト112をある位置(たとえば、コンベヤベルト、パレット、またはビン)から他の位置(たとえば、パレット、ビンなど)に転置するように構成することができる。他の例では、転置ユニット104(たとえば、パレタイズロボット)は、対象オブジェクト112をソース位置(たとえば、パレット、拾得エリア、および/またはコンベヤ)から目的地パレットに転置するように構成することができる。動作を完了する際に、輸送ユニット106は、対象オブジェクト112を転置ユニット104に関連付けられたエリアから積載ユニット108に関連付けられたエリアに転置することができ、積載ユニット108は、対象オブジェクト112を(たとえば、対象オブジェクト112を運ぶパレットを移動させることによって)転置ユニット104から保管位置(たとえば、棚上の位置)に転置することができる。タスクおよび関連するアクションに関する詳細については後述する。
例示の目的で、ロボットシステム100は出荷センターの状況で説明しているが、ロボットシステム100は、他の環境/他の目的での、たとえば、製造、組み立て、パッケージング、ヘルスケア、および/または他のタイプの自動化のためのタスクを実行するように構成できることを理解されたい。また、ロボットシステム100は、図1に示していない他のユニット、たとえば、マニピュレータ、サービスロボット、モジュール式ロボットなどを含むことができることも理解されたい。たとえば、いくつかの実施形態では、ロボットシステム100は、オブジェクトをケージカートまたはパレットからコンベヤまたは他のパレット上に転置するためのデパレタイズユニット、あるコンテナから他のコンテナにオブジェクトを転置するためのコンテナ切替ユニット、オブジェクトを包装するためのパッケージングユニット、オブジェクトをそれらの1つまたは複数の特性に応じてグループ化するためのソーティングユニット、オブジェクトをそれらの1つまたは複数の特性に応じて異なって操作するための(たとえば、ソートする、グループ化する、および/または転置するための)ピースピッキングユニット、あるいはこれらの組合せを含むことができる。
好適なシステム
図2は、本技術の1つまたは複数の実施形態によるロボットシステム100を示すブロック図である。いくつかの実施形態では、たとえば、ロボットシステム100は(たとえば、上述のユニットおよび/またはロボットのうちの1つまたは複数において)、電子/電気デバイス、たとえば、1つまたは複数のプロセッサ202、1つまたは複数の記憶デバイス204、1つまたは複数の通信デバイス206、1つまたは複数の入出力デバイス208、1つまたは複数のアクチュエーションデバイス212、1つまたは複数の輸送モータ214、1つまたは複数のセンサ216、あるいはこれらの組合せを含むことができる。様々なデバイスは、有線接続および/または無線接続を介して互いに結合することができる。たとえば、ロボットシステム100は、たとえば、システムバス、ペリフェラルコンポーネントインターコネクト(PCI)バスもしくはPCI−Expressバス、ハイパートランスポートもしくは業界標準アーキテクチャ(ISA)バス、スモールコンピュータシステムインターフェース(SCSI)バス、ユニバーサルシリアルバス(USB)、IIC(I2C)バス、または電気電子技術者協会(IEEE)標準1394バス(「Firewire」とも呼ばれる)などのバスを含むことができる。また、たとえば、ロボットシステム100は、ブリッジ、アダプタ、プロセッサ、またはデバイス間に有線接続を提供するための他の信号関連デバイスを含むことができる。無線接続は、たとえば、セルラー通信プロトコル(たとえば、3G、4G、LTE、5Gなど)、無線ローカルエリアネットワーク(LAN)プロトコル(たとえば、ワイヤレスフィディリティ(Wi−Fi))、ピアツーピアもしくはデバイスツーデバイス通信プロトコル(たとえば、Bluetooth(登録商標)、近距離無線通信(NFC)など)、モノのインターネット(IoT)プロトコル(たとえば、NB−IoT、LTE−Mなど)、および/または他の無線通信プロトコルに基づくことができる。
プロセッサ202は、記憶デバイス204(たとえば、コンピュータメモリ)に記憶された命令(たとえばソフトウェア命令)を実行するように構成されるデータプロセッサ(たとえば、中央処理装置(CPU)、専用コンピュータ、および/またはオンボードサーバ)を含むことができる。いくつかの実施形態では、プロセッサ202は、図2に示す他の電子/電気デバイスおよび/または図1に示すロボットユニットに動作可能に結合される独立した/スタンドアローンのコントローラに含めることができる。プロセッサ202は、他のデバイスを制御して/インターフェースをとって、ロボットシステム100にアクション、タスク、および/または動作を実行させるプログラム命令を実施することができる。
記憶デバイス204は、プログラム命令(たとえば、ソフトウェア)が記憶された非一時的コンピュータ可読媒体を含むことができる。記憶デバイス204のいくつかの例は、揮発性メモリ(たとえば、キャッシュおよび/またはランダムアクセスメモリ(RAM))、および/または不揮発性メモリ(たとえば、フラッシュメモリおよび/または磁気ディスクドライブ)を含むことができる。記憶デバイス204の他の例は、ポータブルメモリおよび/またはクラウド記憶デバイスを含むことができる。
いくつかの実施形態では、記憶デバイス204を使用して、さらに処理結果および/または所定のデータ/閾値を記憶し、これらへのアクセスを提供することができる。たとえば、記憶デバイス204は、ロボットシステム100によって操作され得るオブジェクト(たとえば、ボックス、ケース、および/または製品)の説明を含むマスターデータ252を記憶することができる。1つまたは複数の実施形態では、マスターデータ252は、ロボットシステム100によって操作されると想定されるオブジェクトについての寸法、形状(たとえば、可能な姿勢についてのテンプレートおよび/または異なる姿勢のオブジェクトを認識するためのコンピュータ生成モデル)、色彩設計、画像、識別情報(たとえば、バーコード、クイックレスポンス(QR)コード(登録商標)、ロゴなど、および/またはその想定位置)、想定重量、他の物理的/視覚的特性、あるいはこれらの組合せを含むことができる。いくつかの実施形態では、マスターデータ252は、オブジェクトに関する操作関連情報、たとえば、各オブジェクトの重心(CoM)位置、1つまたは複数のアクション/手順に対応する想定されるセンサ測定値(たとえば、力、トルク、圧力、および/または接触測定値に関するもの)、あるいはこれらの組合せを含むことができる。また、たとえば、記憶デバイス204はオブジェクト追跡データ254を記憶することができる。いくつかの実施形態では、オブジェクト追跡データ254は、スキャンまたは操作されるオブジェクトのログを含むことができる。いくつかの実施形態では、オブジェクト追跡データ254は、1つまたは複数の位置(たとえば、指定された拾得位置または降下位置および/またはコンベヤベルト)におけるオブジェクトの撮像データ(たとえば、写真、点群、ライブビデオフィードなど)を含むことができる。いくつかの実施形態では、オブジェクト追跡データ254は、1つまたは複数の位置におけるオブジェクトの位置および/または向きを含むことができる。
通信デバイス206は、ネットワークを介して外部または遠隔のデバイスと通信するように構成される回路を含むことができる。たとえば、通信デバイス206は、受信器、送信器、変調器/復調器(モデム)、信号検出器、信号符号化器/復号器、コネクタポート、ネットワークカードなどを含むことができる。通信デバイス206は、1つまたは複数の通信プロトコル(たとえば、インターネットプロトコロル(IP)、無線通信プロトコルなど)に従って電気信号を送信、受信、および/または処理するように構成することができる。いくつかの実施形態では、ロボットシステム100は通信デバイス206を使用して、ロボットシステム100のユニット間で情報を交換する、および/または(たとえば、報告、データ収集、分析、および/またはトラブルシューティングの目的で)ロボットシステム100の外部のシステムまたはデバイスと情報を交換することができる。
入出力デバイス208は、人間のオペレータとの間で情報を伝達および/または受信するように構成されるユーザインターフェースデバイスを含むことができる。たとえば、入出力デバイス208は、情報を人間のオペレータに伝達するためのディスプレイ210および/または他の出力デバイス(たとえば、スピーカー、ハプティックス回路、または触覚フィードバックデバイスなど)を含むことができる。また、入出力デバイス208は、制御デバイスまたは受信デバイス、たとえば、キーボード、マウス、タッチスクリーン、マイクロフォン、ユーザインターフェース(UI)センサ(たとえば、モーションコマンドを受信するためのカメラ)、ウェアラブル入力デバイスなどを含むことができる。いくつかの実施形態では、ロボットシステム100は、入出力デバイス208を使用して、アクション、タスク、動作、またはこれらの組合せを実行する際に人間のオペレータと対話することができる。
ロボットシステム100は、動き(たとえば、回転変位および/または並進変位)のために関節において接続された物理的な部材または構造部材(たとえば、ロボット式マニピュレータアーム)を含むことができる。構造部材および関節は、ロボットシステム100の用途/動作に応じて1つまたは複数のタスク(たとえば、把持、回転、接合など)を実行するように構成されるエンドエフェクタ(たとえば、グリッパ)を操作するように構成される運動連鎖を形成することができる。ロボットシステム100は、対応する関節周りでまたはその位置で構造部材を駆動または操作する(たとえば、変位させるおよび/または向き変更する)ように構成されるアクチュエーションデバイス212(たとえば、モータ、アクチュエータ、ワイヤ、人工筋肉、電気活性ポリマーなど)を含むことができる。いくつかの実施形態では、ロボットシステム100は、対応するユニット/シャーシをある場所から他の場所へ輸送するように構成される輸送モータ214を含むことができる。
ロボットシステム100は、たとえば、構造部材を操作するおよび/またはロボットユニットを輸送するためのタスクを実施するために使用される情報を取得するように構成されるセンサ216を含むことができる。センサ216は、ロボットシステム100の1つまたは複数の物理的な特性(たとえば、1つまたは複数の構造部材/その関節の状態、条件、および/または位置)、および/または周辺環境を検出または測定するように構成されるデバイスを含むことができる。センサ216のいくつかの例は、加速度計、ジャイロスコープ、力センサ、ひずみゲージ、触覚センサ、トルクセンサ、位置エンコーダなどを含むことができる。
いくつかの実施形態では、たとえば、センサ216は、周辺環境を検出するように構成される1つまたは複数の撮像デバイス222(たとえば、視覚および/または赤外線カメラ、2次元(2D)および/または3D撮像カメラ、距離測定デバイス、たとえば、ライダーまたはレーダーなど)を含むことができる。撮像デバイス222は、マシン/コンピュータビジョン(たとえば、自動検査、ロボット案内、または他のロボットアプリケーションのためのもの)を介して処理され得るデジタル画像および/または点群などの、検出された環境の表現を生成することができる。以下でより詳細に説明するように、ロボットシステム100は(たとえば、プロセッサ202を介して)デジタル画像および/または点群を処理して、図1の対象オブジェクト112、図1の開始位置114、図1のタスク位置116、対象オブジェクト112の姿勢、開始位置114および/または姿勢に関する信頼基準、あるいはこれらの組合せを識別することができる。
対象オブジェクト112を操作するために、ロボットシステム100は(たとえば、上述の様々な回路/デバイスを介して)、指定領域(たとえば、トラック内またはコンベヤベルト上などの拾得位置)の画像データを撮影し分析して、対象オブジェクト112およびその開始位置114を識別することができる。同様に、ロボットシステム100は、他の指定領域(たとえば、オブジェクトをコンベヤ上に載置するための降下位置、オブジェクトをコンテナ内に載置するための位置、またはスタッキング目的のパレット上の位置)の画像データを撮影し分析して、タスク位置116を識別することができる。たとえば、撮像デバイス222は、拾得エリアの画像データを生成するように構成される1つまたは複数のカメラ、および/またはタスクエリア(たとえば、降下エリア)の画像データを生成するように構成される1つまたは複数のカメラを含むことができる。画像データに基づいて、後述のように、ロボットシステム100は、開始位置114、タスク位置116、関連する姿勢、パッキング/載置位置、および/または他の処理結果を決定することができる。動的パッキングアルゴリズムに関する詳細については後述する。
いくつかの実施形態では、たとえば、センサ216は、構造部材(たとえば、ロボットアームおよび/またはエンドエフェクタ)および/またはロボットシステム100の対応する関節の位置を検出するように構成される位置センサ224(たとえば、位置エンコーダ、電位差計など)を含むことができる。ロボットシステム100は、位置センサ224を使用して、タスクの実行中に構造部材および/または関節の位置および/または向きを追跡することができる。
離散化モデル
図3Aおよび図3Bは、本技術の1つまたは複数の実施形態による、オブジェクトについて計画し、パッキングするのに使用される離散化データの図である。図3Aは離散化オブジェクトを示し、図3Bはオブジェクトのパッキングのための離散化パッキング台を示す。
いくつかの実施形態では、図1のロボットシステム100は、図2のマスターデータ252に記憶された想定オブジェクトの所定の離散化モデル/表現を含むことができる。いくつかの実施形態では、ロボットシステム100は(たとえば、図2のプロセッサ202を介して)、実世界のオブジェクト(たとえば、パッケージ、パレット、および/またはタスクに関連する他のオブジェクト)の連続面/エッジを離散的な対応物(たとえば、単位長さおよび/または単位面積)にマッピングすることによって、離散化モデルを動的に生成することができる。たとえば、ロボットシステム100は、図2の1つまたは複数の撮像デバイス222によって撮影された対象オブジェクト112および/またはパレット上面の画像データ(たとえば、上面視画像および/または点群データ)を離散化することができる。換言すれば、ロボットシステム100は、図1の開始位置114、コンベヤ上の開始位置114の前の位置、および/または図1のタスク位置116の画像データを離散化することができる。ロボットシステム100は、画像データ内のオブジェクト/パレットの外周を識別し、次いで外周内のエリアを単位寸法/面積に従って分割することに基づいて、離散化することができる。いくつかの実施形態では、単位寸法/面積は、座標配列および/または所定の調整係数/式に従って、撮像デバイス222に対するオブジェクト/パレットのサイズおよび/または位置に基づいてスケーリングまたは画像データにマッピングすることができる。
図3Aに示すように、ロボットシステム100のいくつかの実施形態は、離散化オブジェクトモデル302を使用して、オブジェクト(たとえば、対象オブジェクト112)の載置位置を計画する/導出することができる。離散化オブジェクトモデル302(点線で図示)は、離散化単位(たとえば、単位長さ)に従って、到着または到来するオブジェクト(たとえば、パッケージ、ボックス、ケースなど)についての外観の物理的な寸法、形状、エッジ、面、またはこれらの組合せ(破線で図示)を表現することができる。離散化オブジェクトモデル302は、上述のように撮像および離散化された想定される/既知のオブジェクトおよび/または想定外/未知のオブジェクトを表現することができる。
図3Bに示すように、ロボットシステム100のいくつかの実施形態は、1つまたは複数の離散化台モデル304(たとえば、図1のタスク位置116の離散化表現)を使用して、オブジェクトのスタッキング載置を計画する/導出することができる。離散化台モデル304は、離散化単位に従って載置エリア340(たとえば、タスク位置116の上面、その上に載置されたパッケージの上面、またはこれらの組み合わせなどの、タスク位置116の物理的な寸法、形状、またはこれらの組み合わせ)を表現することができる。1つまたは複数の実施形態では、離散化台モデル304は、リアルタイムの更新などを介して、載置エリア340のリアルタイムの状況を表現することができる。たとえば、上面視に関して、離散化台モデル304は、オブジェクトを受け取り、これに直接接触するパレットの上面、ビンまたはボックスの内部底面などを最初に表現することができる。ロボットシステム100がオブジェクトを載置すると、載置エリア340は(たとえば、パッケージをスタックするために)載置されたパッケージの上面を含むように変化することができ、変化を反映するように離散化台モデル304を更新することができる。
いくつかの実施形態では、離散化台モデル304は、1つまたは複数の標準サイズのパレット(たとえば、1.1m×1.1mのパレット)の上面視に基づくことができる。したがって、離散化台モデル304は、ロボットシステム100よって利用されるグリッドシステムに従う、水平面(たとえば、x−y平面)に沿った載置エリアのピクセル化された2D表現に対応することができる。いくつかの実施形態では、離散化オブジェクトモデル302は、想定されるまたは到着するオブジェクトについての上面視(たとえば、x−y平面)を含むことができる。したがって、離散化オブジェクトモデル302は、オブジェクトのピクセル化された2D表現に対応することができる。
離散化モデルを生成するために使用される離散化単位は、システムオペレータ、システム設計者、所定の入力/設定、注文、またはこれらの組合せによって設定される長さを含むことができる。いくつかの実施形態では、ロボットシステム100は、単位ピクセル310(たとえば、離散化単位に従う1つまたは複数の次元を有するポリゴン、たとえば、四角形)を使用して、対象オブジェクトのエリア/面を(たとえば、離散化オブジェクトモデル302を介して)記述し、荷台/面を(たとえば、離散化台モデル304を介して)記述することができる。したがって、ロボットシステム100は、x−y軸に沿って2Dでオブジェクトおよび荷台をピクセル化することができる。いくつかの実施形態では、単位ピクセル310(たとえば、離散化単位)のサイズは、オブジェクトの寸法および/または荷台の寸法に応じて変化することができる。また、単位ピクセル310のサイズを(たとえば、事前設定されたルール/式、および/またはオペレータ選択を介して)調整して、必要とされるリソース(たとえば、計算時間、必要メモリなど)をパッキング精度とバランスさせることができる。たとえば、単位ピクセル310のサイズが減少すると、計算時間およびパッキング精度が増加することができる。したがって、調整可能である単位ピクセル310を使用してパッキングタスク(たとえば、対象パッケージおよびパッキング台)を離散化することによって、パッケージをパレタイズするための柔軟性が向上する。ロボットシステム100は、リアルタイムの要求、パターン、および/または環境に応じて、計算資源/時間とパッキング精度とのバランスを制御することができる。
いくつかの実施形態では、ロボットシステム100は、離散化オブジェクトモデル302について、オブジェクトと部分的にしか重ならない単位ピクセル310のインスタンスを含めることによって、単位ピクセル310がオブジェクトの実際の周縁を超えて広がるようにすることができる。他の実施形態では、ロボットシステム100は、台表面の実際の寸法を超える、単位ピクセル310の部分的に重なるインスタンスを離散化台モデル304から除外することによって、離散化オブジェクトモデル302内の単位ピクセル310が台表面の実際の周縁に覆われるおよび/または内側に含まれるようにすることができる。
説明用の例として、図3Aに、対象オブジェクト112を表す離散化オブジェクトモデルの第1のモデルの向き332および第2のモデルの向き334を示す。いくつかの実施形態では、ロボットシステム100は、離散化モデルのうちの1つ(すなわち、第1のモデルの向き332として撮影/記憶されたもの)を撮像された平面に沿って所定量回転させることができる。図3Aに示すように、ロボットシステム100は、垂直軸(図の平面に対して内外または垂直に伸びる軸)の周りを、水平面(たとえば、x軸およびy軸に沿って表される面)に沿って、離散化オブジェクトモデル302を90度回転させて、第2のモデルの向き334を得ることができる。ロボットシステム100は異なる向きを使用して、オブジェクトの対応する載置をテスト/評価することができる。
離散化データ/表現に基づいて、ロボットシステム100は、対象オブジェクト112についての載置位置350を動的に導出することができる。図3Bに示すように、ロボットシステム100は、1つまたは複数のオブジェクト(たとえば、図3Bにて斜線で塗りつぶされたオブジェクトとして図示)が載置エリア340に載置された後であっても、載置位置350を動的に導出することができる。また、載置位置350の動的な導出は、対象オブジェクト112が荷下ろし/棚下ろし、登録、スキャン、撮像、またはこれらの組み合わせがなされた後/なされている間に、行うことができる。たとえば、ロボットシステム100は、対象オブジェクト112が(たとえば、コンベヤを介して)輸送されているとき、図2の撮像デバイス222が対象オブジェクト112の画像データを生成した後、またはこれらの組み合わせにおいて、載置位置350を動的に導出することができる。
オブジェクトの載置位置350を動的に導出することによって柔軟性が向上し、出荷/パッケージング環境に関する人間の労働が減少する。ロボットシステム100は、オブジェクトおよびパレット(すなわち、載置済みオブジェクトを含む)の離散化されたリアルタイムの画像/深度マップを使用して、様々な載置位置および/または向きをテストおよび評価することができる。したがって、ロボットシステム100は、オブジェクトが認識可能でない場合(たとえば、新たな/想定外のオブジェクトおよび/またはコンピュータビジョンのエラーの場合)、オブジェクトの到着シーケンス/順序が未知である場合、および/または想定外のイベント(たとえば、紛失イベントおよび/または衝突イベント)が発生した場合であっても、人間のオペレータの介入なしに依然としてオブジェクトをパッキングすることができる。
例示の目的で、載置位置350は図3Bにおいて、載置済みオブジェクトに隣接する(すなわち、同一の水平レイヤ上に/同一の高さで載置される)、たとえば、パレットのすぐ上に/パレットに接触するものとして示している。しかしながら、載置位置350は載置済みオブジェクトの上でもよいことは理解されたい。換言すれば、ロボットシステム100は、既にパレット上にある1つまたは複数のオブジェクトの上方および/または上に対象オブジェクト112をスタックするための載置位置350を導出することができる。以下で詳述するように、ロボットシステム100は、オブジェクトが載置済みオブジェクトの上にスタックされる場合に十分に支持されるように、載置位置350を導出する際に載置済みオブジェクトの高さを評価することができる。
いくつかの実施形態では、ロボットシステム100は、載置位置350を導出する際にオブジェクトエッジ362を識別することができる。オブジェクトエッジ362は、パレットに載置済みのオブジェクトのエッジおよび/または辺を表す画像データ内の線を含むことができる。いくつかの実施形態では、オブジェクトエッジ362は、露出している(たとえば、他のオブジェクト/エッジに直接接触/隣接していない)エッジに対応することによって、タスク位置116に載置されたオブジェクト(たとえば、オブジェクトのレイヤ)のうちの1つまたはグループの外周を画定することができる。
以下でさらに詳述するように、ロボットシステム100は、載置ルール、条件、パラメータ、要件などのセットに従って載置位置350を導出することができる。いくつかの実施形態では、ロボットシステム100は、1つまたは複数の候補位置360を評価/テストすることに基づいて、載置位置350を導出することができる。候補位置360は、離散化台モデル304上に様々な位置および/向きで重ねられる離散化オブジェクトモデル302に対応することができる。したがって、候補位置360は、オブジェクトエッジ362のうちの1つまたは複数に隣接して対象オブジェクト112を載置し得ること、および/または載置済みオブジェクトのうちの1つまたは複数の上に対象オブジェクト112をスタックし得ることを含むことができる。ロボットシステム100は様々なパラメータ/条件、たとえば、支持度合い/条件、支持しているオブジェクトの脆性レーティングと対比した支持重量(たとえば、上にスタックされるパッケージなどについての最大支持重量)、スペース/パッキング関連事項、またはこれらの組合せに従って各候補位置360を評価することができる。ロボットシステム100は1つまたは複数の載置ルール、たとえば、無衝突要件、スタック安定性、顧客指定のルール/優先度、パッケージ離間要件もしくはその欠如、総積載パッケージの最大化、またはこれらの組合せを使用して候補位置360をさらに評価することができる。
リアルタイムの載置面の更新
図4Aおよび図4Bに、本技術の1つまたは複数の実施形態による、支持の計算および支持メトリックの様々な態様を示す。いくつかの実施形態では、図4Aに示すように、図1のロボットシステム100は、図1の対象オブジェクト112の図3Aの離散化オブジェクトモデル302を図1のタスク位置116の離散化台モデル304に重ねることに基づいて、図3Bの候補位置360を生成することができる。さらに、ロボットシステム100は、候補位置360を生成する際に、離散化台モデル304の至るところに離散化オブジェクトモデル302を反復的に移動させることができる。たとえば、ロボットシステム100は、1つまたは複数の向き(たとえば、図3Aの第1のモデルの向き332および/または図3Aの第2のモデルの向き334)に従って離散化台モデル304の所定の初期位置(たとえば、コーナー)に対応する離散化オブジェクトモデル302を載置することによって、候補位置360の最初のインスタンスを生成することができる。候補位置360の次のインスタンスについて、ロボットシステム100は、他の/次のオブジェクトに対応する離散化オブジェクトモデル302を、所定の方向/パターンに従って所定の距離(たとえば、図3Bの1つまたは複数の単位ピクセル310)だけ移動させることができる。
候補位置360がタスク位置116に載置済みの1つまたは複数のオブジェクトに重なる場合、ロボットシステム100は、載置済みオブジェクトによって提供される支持の度合いを計算し評価することができる。支持の度合いを計算し評価するために、ロボットシステム100は、図2の撮像デバイス222のうちの1つまたは複数を使用してリアルタイムに図3Bの載置エリア340についての高さ/輪郭を決定することができる。いくつかの実施形態では、ロボットシステム100は、タスク位置116の上方に配置された撮像デバイス222のうちの1つまたは複数のからの深度寸法(たとえば、点群値)を使用することができる。地面および/または台(たとえば、パレット)表面の垂直位置(たとえば、施設地面上方の台表面の高さ)は既知であるので、ロボットシステム100は、深度寸法を使用して、台、載置されたオブジェクト、またはこれらの組み合わせの露出した上面(複数可)の高さ/輪郭を計算することができる。いくつかの実施形態では、ロボットシステム100は、タスク位置116を撮像し、露出した上面(複数可)の高さをリアリタイムに、たとえば、オブジェクトを台まで転置し、および/またはオブジェクトを台に載置した後に、更新することができる。
いくつかの実施形態では、図4Aに示すように、ロボットシステム100は、高さ寸法402を含むように離散化台モデル304を更新することができる。ロボットシステム100は、離散化台モデル304内の各離散化ピクセル(たとえば、単位ピクセル310)に従って高さ寸法402を決定することができる。たとえば、ロボットシステム100は、対応する単位ピクセル310によって表される載置エリア340の表面部分についての最大の高さとして、高さ寸法402を決定することができる。
載置済みオブジェクトのうちの1つまたは複数に重なる各候補位置360について、ロボットシステム100は、高さ寸法402に基づいて載置確率を評価することができる。いくつかの実施形態では、ロボットシステム100は、各候補位置360において重なる高さ寸法402の最大値を特定することに基づいて、載置確率を評価することができる。ロボットシステム100は、高さ寸法402のうちの最大寸法に対して差分閾値の限度内の高さ寸法402を有する各候補位置360に位置する他の高さ寸法402をさらに特定することができる。適格なセル/ピクセルは、スタックされたオブジェクトが基本的に平坦/水平になるように、スタックされたオブジェクトに対して支持を提供することができる位置を表すことができる。
図4Aに示すように、候補位置360の1つ目(離散化台モデル304の左上角)について、最大の高さ寸法は0.3(すなわち、300ミリメートル(mm)の高さ)とすることができる。0.02(たとえば、20mmを表す)として事前決定された差分閾値では、ロボットシステム100は、上の4つの離散化セル/ピクセルを差分閾値を満たすものとして識別することができる。ロボットシステム100は、識別された/適格なセル/ピクセルを使用して、支持の度合いを評価/表現することができる。
図4Bに、支持の計算のさらなる例を示す。図4Bに、離散化オブジェクトモデル302(実線の太い輪郭で図示)が離散化台モデル304の左上角に重ねられた、図3の候補位置360のうちの1つを示す。ロボットシステム100は、候補位置360を評価するのに使用されるパラメータである様々な支持パラメータ410を計算/利用することができる。たとえば、支持パラメータ410は、離散化寸法412、重なり面積414、高さ差分閾値416、支持閾値418、最大高さ420、高さ下限422、適格数424、支持エリア輪郭426のセット、支持エリアサイズ428、支持比430、重心(CoM)位置432、またはこれらの組み合わせを含むことができる。
離散化寸法412は、図3Aの単位ピクセル310に応じた図1の対象オブジェクト112の物理的な寸法(たとえば、長さ、幅、高さ、外周など)を記述することができる。たとえば、離散化寸法412は、離散化オブジェクトモデル302の周縁を形成する単位ピクセル310の数量を含むことができる。重なり面積414は、対象オブジェクト112によって占有される面積(たとえば、水平面に沿ったフットプリントサイズ)を記述することができ、これは単位ピクセル310に従って同様に表現することができる。換言すれば、重なり面積414は、離散化オブジェクトモデル302内の単位ピクセル310の数量に対応することができる。図4Bに示す例では、対象オブジェクト112は6ピクセル×7ピクセルの離散化寸法412を有することができ、これは42ピクセルの重なり面積414に対応する。
高さ差分閾値416および支持閾値418は、候補位置360を処理および/または検証するために使用される限度に対応することができる。高さ差分閾値416は、オペレータおよび/または注文によって事前決定および/または調整できるものであるが、上に載置されたパッケージに接触するおよび/またはパッケージを支持するために、他の基準の高さ(たとえば、離散化オブジェクトモデル302が重なるエリア内の高さ寸法402のうちの最大のインスタンスに対応する最大高さ420)から許容できる偏差を表すことができる。換言すれば、高さ差分閾値416は、上に載置されたパッケージに接触するおよび/または支持することができる面の高さの範囲を定義するために使用することができる。したがって、最大高さ420に対して、高さ下限422は、スタックされたパッケージに対して支持を提供することができる重なり面積414内の高さの下限に対応することができる。図4Bに示す例では、高さ差分閾値416は0.02とすることができる。最大高さ420が0.2である場合、高さ下限422は0.18とすることができる。したがって、対象オブジェクト112を候補位置360に載置する際、ロボットシステム100は、0.18より大きい高さを有する面/ピクセルが対象オブジェクト112に接触するおよび/または支持を提供すると推定することができる。
したがって、1つまたは複数の実施形態では、ロボットシステム100は、高さ差分閾値416に応じて重なり面積414内の単位ピクセル310をカテゴリ化することができる。たとえば、ロボットシステム100は、高さ差分閾値416を満たす高さ(すなわち、高さ下限422以上の値)を有する単位ピクセル310を、支持位置422(たとえば、図4Bにおいて影付きのピクセルで表された、オブジェクトを上にスタックすることが可能な面を表す単位ピクセル310のグループ)としてカテゴリ化することができる。ロボットシステム100は、他の単位ピクセル310を、不適格位置444(たとえば、高さ下限422未満の高さを有するピクセル)としてカテゴリ化することができる。
支持閾値418は、支持位置442の十分性に基づいて候補位置360を評価するための限度を表すことができる。たとえば、支持閾値418は、支持位置442に関連する量、比、面積、位置、またはこれらの組み合わせを評価するためのものとすることができる。いくつかの実施形態では、支持閾値418は、候補位置360についての適格数424(たとえば、支持位置442の合計)が対象オブジェクト112を支持するのに十分であるか否かを判定するために使用することができる。
1つまたは複数の実施形態では、支持閾値418は、支持位置442に関連する支持エリア(たとえば、高さ閾値によって決定することができる、上にスタックされたオブジェクトに支持を提供することができる単位ピクセル310)を評価するために使用することができる。たとえば、ロボットシステム100は、不適格位置444をまたぐまたはその周囲に伸びるエッジを伸ばすおよび/または線を決定することによって、支持位置442の最も外側の/外周のインスタンスのコーナーをつなぐことに基づいて、支持エリア輪郭426を決定することができる。このようにして、支持エリア輪郭426は、不適格位置444を除外することができる。したがって、支持エリア輪郭426は、支持位置442の外周インスタンスに基づいて支持エリアの外周を画定することができる。支持エリア輪郭426は不適格位置444をまたぐおよび/または含むことができるので、支持エリアサイズ428(たとえば、支持エリア内の単位ピクセル310の数量)は、適格数424より大きくすることができる。したがって、支持エリアサイズ428は実質的に、支持が提供される最も外側のエッジ/コーナー間の間隔を表す。より広い支持が好ましいので(たとえば、突出を減らすおよび/または安定性を向上させるために、支持エリア輪郭426の部分がオブジェクトの重なり面積414より大きい場合)、支持閾値418は、(たとえば、支持エリア輪郭426を評価するための)支持エリア内の単位ピクセル310の最小数に対応することができ、それによって、支持が提供される最も外側のエッジ/コーナー間の間隔を効果的に評価することができる。
いくつかの実施形態では、支持閾値418は支持比430を評価するためのものとすることができ、支持比430は、適格数424および/または支持エリアサイズ428を重なり面積414と比較することに基づいて計算することができる。たとえば、支持比430は、水平安定性、支持重量濃度、またはこれらの組み合わせを表現するために、適格数424と重なり面積414との比を含むことができる。また、支持比430は、対象オブジェクト112の下の支持エッジ/コーナー間の相対幅を表すために、支持エリアサイズ428と重なり面積414との比を含むことができる。
さらに、ロボットシステム100は、対象オブジェクト112のCoM位置432に基づいて候補位置360をさらに評価することができる。いくつかの実施形態では、ロボットシステム100は、図2のマスターデータ252から対象オブジェクト112のCoM位置432にアクセスする、および/または対象オブジェクト112を把持するおよび/または持ち上げることに基づいてCoM位置432を動的に推定することができる。アクセス/推定されると、ロボットシステム100は、CoM位置432を支持エリア輪郭426と比較することができる。ロボットシステム100は、候補位置360がCoM位置432を支持エリア輪郭426内に含むように要求し、そのような要件を満たさない候補位置360を排除する/不適格とみなすことができる。1つまたは複数の実施形態では、ロボットシステム100は、CoM位置432と支持エリア輪郭426との間の(たとえば、x軸および/またはy軸に沿った)離間距離に基づいて、載置スコアを計算し評価することができる。
ロボットシステム100は、支持パラメータ410を使用して制約/要件を評価することができる。たとえば、ロボットシステム100は、支持閾値418、CoM位置閾値(たとえば、CoM位置432を支持エリア輪郭426内に含む要求)、および/または他のスタッキングルールを満たさない候補位置を排除する/不適格とみなすことができる。また、ロボットシステム100は、支持パラメータ410を使用して、所定の重みおよび/または式に従って、候補位置360(たとえば、制約を満たす位置)についての載置スコアを計算することができる。以下で詳述するように、ロボットシステム100は、計算された載置スコアを使用して、所定の設定(たとえば、重み/式によって反映されるもの)に従って候補位置360をランク付けすることができる。
オブジェクト載置動作
図5は、本開示の1つまたは複数の実施形態によるロボットシステム100によって実行される例示的な載置を示す上面視である。いくつかの実施形態では、ロボットシステム100は、開始位置114から対象オブジェクト112を転置し、タスク位置116における導出された載置位置350に載置するように構成されるロボットアーム502(たとえば、パレタイズロボットなどの、図1の転置ユニット104の一部)を含むおよび/またはこれと通信することができる。たとえば、ロボットシステム100は、コンベヤ上の指定位置/部分から対象オブジェクト112を把持および拾得し、対象オブジェクト112をパレットに載置するようにロボットアーム502を動作させることができる。
ロボットシステム100は、(たとえば、対象オブジェクト112が設備および/または開始位置114に到着したときに、および/またはパッキング動作などの1つまたは複数の動作を最初に開始した後に)、載置位置350を動的に導出することができる。ロボットシステム100は1つまたは複数のエラーまたは不確実性要因、たとえば、パッキングプラン(たとえば、タスク位置116における、対象オブジェクト112を含むオブジェクトのセットについて導出された載置位置350を表すためのプラン)の欠如、到着オブジェクトのエラー(たとえば、オブジェクトが想定される/既知のオブジェクトまたはシーケンスと一致しない場合)、またはこれらの組み合わせに基づいて、またはこれらを考慮して、載置位置350を動的に導出することができる。ロボットシステム100は、たとえば、想定外のおよび/または変化した載置エリア340(たとえば、タスク位置116へのアクセスが部分的に遮られている場合、たとえば、ケージまたはカートラックが完全に開いていない場合)、載置済みオブジェクト508(たとえば、パレット上の認識できないおよび/または想定外のパッケージ、および/または載置済みオブジェクト508のうちの1つまたは複数のずれ)および/または(たとえば、ロボットアーム502と載置済みオブジェクト508との)衝突イベントによる、目的地における1つまたは複数の不確実性またはエラーに基づいて、またはこれらを考慮して、載置位置350を動的に導出することもできる。
いくつかの実施形態では、ロボットシステム100は、図2のセンサ216(たとえば、図2の撮像デバイス222)のうちの1つまたは複数を介して動的に収集されるデータ(たとえば、画像データおよび/または測定データ)に基づいて、載置位置350を動的に導出することができる。たとえば、ロボットシステム100は、開始位置114および/または到来経路(たとえば、コンベヤ)の上方に配置されたソースセンサ504(たとえば、図1の3Dカメラ122のうちの1つ)を含むおよび/またはこれと通信することができる。ロボットシステム100は、ソースセンサ504からのデータを使用して、図3Aの離散化オブジェクトモデル302を生成するおよび/またはこれにアクセスすることができる。1つまたは複数の実施形態では、ロボットシステム100は、ソースセンサ504を使用して、オブジェクトを撮像する、および/またはオブジェクトの1つまたは複数の寸法を測定することができる。ロボットシステム100は、画像および/または測定値を図2のマスターデータ252と比較して、到来オブジェクトを識別することができる。識別に基づいて、ロボットシステム100は、オブジェクトに関連する離散化オブジェクトモデル302にアクセスすることができる。1つまたは複数の実施形態では、ロボットシステム100は、上述のように単位ピクセル310に従って画像/寸法を分割することに基づいて、離散化オブジェクトモデル302を動的に生成することができる。
また、ロボットシステム100は、タスク位置116の上方に配置された目的地センサ506(たとえば、図1の3Dカメラ122のうちの1つ)を含むおよび/またはこれと通信することができる。ロボットシステム100は、目的地センサ506からのデータを使用して、図3Bの離散化台モデル304を決定し、動的に更新することができる。1つまたは複数の実施形態では、ロボットシステム100は、載置エリア340(たとえば、パレット、ケージ、および/またはカートラックなどのタスク位置116)を撮像する、および/またはその1つまたは複数の寸法を測定することができる。ロボットシステム100は、画像および/または測定値を使用して、離散化オブジェクトモデル302について上述したのと同様に、離散化台モデル304を識別し、アクセスし、および/または生成することができる。さらに、ロボットシステム100は、目的地センサ506からのデータ(たとえば、深度マップ)を使用して図4Aの高さ寸法402を決定することができる。したがって、ロボットシステム100は、高さ寸法402を使用して、載置エリア340および離散化台モデル304をリアルタイムに更新することができる。たとえば、ロボットシステム100は、載置済みオブジェクト508に応じて、たとえば、対象オブジェクト112を載置位置350に載置した後に、高さ寸法402を更新することができる。
ロボットシステム100は、対象オブジェクト112を図3Bの載置位置350および/または各候補位置360に転置するための進入経路510を導出することができる。進入経路510は、開始位置114から対応する候補位置360まで空間を横切って対象オブジェクト112を操作する/転置するためのモーションプランに対応することができる。進入経路510は、水平および/または垂直方向に伸びる3Dのものとすることができる。
対象オブジェクト112を載置する場合、ロボットシステム100は、(たとえば、タスク位置116における状況の状態が変化した場合に)上記の図3〜図6で説明したメトリックに従って、対象オブジェクト112を載置するために、導出された載置位置における対象オブジェクト112の載置が安定していることを検証することができる。オブジェクトを載置した後、ロボットシステム100は、導出された載置位置へのオブジェクトの載置が正確であったか否か、および/またはタスク位置116における状況の状態が変化したか否かを確認および検証することができる。検証に関する情報に少なくとも部分的に基づいて、ロボットシステム100は、1つまたは複数の他のオブジェクト(たとえば、対象オブジェクト112のさらなる/後続のインスタンス)をタスク位置116に(たとえば、1つまたは複数の他のオブジェクトの載置位置を動的に導出することによって)パッケージングし続けることができる。
進入経路の評価
図6Aおよび図6Bは、本開示の1つまたは複数の実施形態による図1の対象オブジェクト112を載置するための例示的な進入を示す側面視である。図6Aおよび図6Bに、対象オブジェクト112をタスク位置116(たとえば、パレット)上の載置済みオブジェクト508のうちの1つまたは複数の上の図3Bの対応する候補位置360に載置するための図5の進入経路510を示す。
図1のロボットシステム100は、F−1からF−5までの破線のボックスで図示した進入単位602に基づいて、進入経路510を導出することができる。進入単位602は、対応する進入経路510に沿った3D空間内の対象オブジェクト112の順次位置を含むことができる。換言すれば、進入単位602は、対応する進入経路510をたどるための対象オブジェクト112のサンプル位置に対応することができる。進入単位602は、対応する進入経路510の経路セグメント604に従って位置調整することができる。経路セグメント604は、進入経路510における直線セグメント/方向に対応することができる。経路セグメント604は、対象オブジェクト112を対応する候補位置360に載置するための最終セグメント606を含むことができる。最終セグメント606は、垂直(たとえば、下向き)方向を含むことができる。
進入経路510を導出するために、ロボットシステム100は、障害物610(たとえば、対象オブジェクト112を候補位置360に載置する場合の潜在的な障害物など)になり得る載置済みオブジェクト508のいずれかを識別することができる。1つまたは複数の実施形態では、ロボットシステム100は、潜在的な障害物(複数可)610を、開始位置114と対応する候補位置360とをつなぐ水平ライン611(たとえば、x−y平面に沿った直線)と重なる載置済みオブジェクト508のインスタンス(複数可)として識別することができる。ロボットシステム100は、たとえば、水平ラインと並行かつ重なるレーンであって、対象オブジェクト112の1つまたは複数の寸法(たとえば、幅、長さ、および/または高さ)に基づく幅を有するレーンを導出することに基づいて、潜在的な障害物(複数可)610を、水平ライン611付近に導出されたレーン613と重なる載置済みオブジェクト508のインスタンス(複数可)として、さらに識別することができる。図6Aおよび図6Bに示すように、開始位置114は、候補位置360の右側とすることができる。したがって、ロボットシステム100は、右側の載置済みオブジェクトを潜在的な障害物610として識別することができる。
いくつかの実施形態では、ロボットシステム100は、図4Aの高さ寸法402に基づいて潜在的な障害物610を検証することができる。たとえば、ロボットシステム100は、潜在的な障害物610として、候補位置360以上の高さ寸法402のうちの1つまたは複数を有する潜在的な障害物610を検証/識別することができる。ロボットシステム100は、候補位置360未満の高さ寸法402を有する載置済みオブジェクト508を排除することができる。1つまたは複数の実施形態では、ロボットシステム100は、候補位置360の高さおよび/または潜在的な障害物610の高さに関連する曖昧さに基づいて、潜在的な障害物610を識別/排除することができる。
いくつかの実施形態では、ロボットシステム100は、進入経路510を逆順で導出することができ、たとえば、候補位置360から開始して図5の開始位置114で終了することができる。したがって、ロボットシステム100は、潜在的な障害物610を回避するように、最終セグメント606を最初に(たとえば、他のセグメントより前に)導出することができる。たとえば、ロボットシステム100は、進入単位602の高さを所定の距離だけ反復的に増加させることに基づいて、進入単位602を決定することができる(たとえば、最初に「F−1」、次に「F−2」、など)。反復ごとに、ロボットシステム100は、決定済みの進入単位602(たとえば、底面/そのエッジ)と、潜在的な障害物610(たとえば、上面/そのエッジ)との間のベクトル612を計算し分析することができる。ロボットシステム100は、決定済みの進入単位602が潜在的な障害物610の上方にあり、および/または間隙閾値614(たとえば、対象オブジェクト112と潜在的な障害物610との接触または衝突を回避するための、潜在的な障害物610の最高点の上方の対象オブジェクト112に対する最小垂直間隔に関する要件)だけ離れて潜在的な障害物610を飛び越えることをベクトル612が示すまで、進入単位602の高さを増加させ続けることができる。決定済みの進入単位が間隙閾値614を満たす場合、または次の反復について、ロボットシステム100は、対応する進入単位602を水平方向に沿って(たとえば、開始位置114へ向けて)所定の距離だけ調整することができる。したがって、ロボットシステム100は、候補位置360と、間隙閾値614を満たした進入単位602とに基づいて、最終セグメント606および/または後続の経路セグメント604を導出して、進入経路510を導出することができる。
導出されると、ロボットシステム100は、進入経路510を使用して、対応する候補位置360を評価することができる。いくつかの実施形態では、ロボットシステム100は、進入経路510に応じて載置スコアを計算することができる。たとえば、ロボットシステム100は、最終/垂直セグメント606についてのより短い長さ/距離のための設定(たとえば、所定の載置設定に対応する1つまたは複数の重みに応じたもの)に応じて、載置スコアを計算することができる。したがって、図6Aおよび図6Bの進入経路510を比較する際に、ロボットシステム100は、最終/垂直セグメント606の長さがより短い、図6Bに示す経路を優先することができる。1つまたは複数の実施形態では、ロボットシステム100は、候補位置360を排除するまたは不適格とみなすために使用される進入経路510(たとえば、最終/垂直セグメント606についてのもの)に関連する上限などの制約を含むことができる。
いくつかの実施形態では、ロボットシステム100は、他の衝突/障害関連パラメータに従って対応する候補位置360をさらに評価することができる。たとえば、ロボットシステム100は、候補位置360と、載置済みオブジェクト508のうちの1つまたは複数との間の水平間隔616に応じて候補位置360を評価することができる。各水平間隔616は、対応する候補位置360と、載置済みオブジェクト508の隣接するインスタンスとの間の、水平方向(たとえば、x−y平面)に沿った距離(たとえば、最短距離)とすることができる。ロボットシステム100は、進入経路510について上述したのと同様に、水平間隔616に基づいて候補位置360についての載置スコアを計算することができる。また、ロボットシステム100は、水平間隔616が最小要件を満たさない場合などに、水平間隔616に基づいて候補位置360を排除するまたは不適格とみなすことができる。載置スコアの計算および/または候補位置360を排除するための制約に関する詳細については後述する。
動作フロー
図7は、本技術の1つまたは複数の実施形態による、図1のロボットシステム100を動作させる方法700についての流れ図である。方法700は、パッケージ(たとえば、ケースおよび/またはボックス)を台(たとえば、パレット)に載置するための、および/またはそれに従ってパッケージを載置するための2D/3Dパッキングプランを生成するためのものとすることができる。方法700は、図2の記憶デバイス204のうちの1つまたは複数に記憶された命令を、図2のプロセッサ202のうちの1つまたは複数によって実行することに基づいて、実施することができる。
ブロック702において、ロボットシステム100は、パッケージセット(たとえば、利用可能パッケージ)と、目的地(たとえば、パッケージを受け取るためのパレットおよび/またはコンテナなどの、図1のタスク位置116)とを識別することができる。たとえば、ロボットシステム100は、パッキングに利用可能な、ソースに位置する、載置するために指定された、および/または注文/要求/目録内にリスト化されたパッケージを含む利用可能パッケージを表すパッケージセットを識別することができる。また、ロボットシステム100は、パッケージを載置可能なタスク位置116のエリア(たとえば、図3の載置パレット340などのパレットの一番上の積載面)のサイズまたは寸法を特定する。いくつかの実施形態では、ロボットシステム100は、パレットのサイズ、寸法、タイプ、またはこれらの組合せを特定することができる。
ブロック704において、ロボットシステム100は、利用可能パッケージを表すパッケージセットおよび/またはタスク位置116に対応する離散化モデル(たとえば、図3Aの離散化オブジェクトモデル302および/または図3Bの離散化台モデル304)を生成および/またはアクセスすることができる。いくつかの実施形態では、ロボットシステム100は、オブジェクトおよび/または台エリア(たとえば、図3Bの単位ピクセル310に従うパレット上面)の物理的な寸法を分割することに基づいて、(たとえば、リアルタイムに、すなわち、たとえば、注文を受けた後および/またはパッキング動作を開始する前に、あるいはオフラインで)離散化モデルを生成することができる。単位ピクセル310は、(たとえば、製造業者、注文した顧客、および/またはオペレータによって)、たとえば、1ミリメートル(mm)もしくは1/16インチ(in)またはそれ以上(たとえば、5mmもしくは20mm)など、事前に決定することができる。
いくつかの実施形態では、ロボットシステム100は、記憶デバイス204および/または他のデバイス(たとえば、図2の通信デバイス206を介してアクセスされるパッケージ供給元の記憶デバイス、データベース、および/またはサーバ)に記憶された離散化モデルにアクセスすることができる。ロボットシステム100は、利用可能パッケージおよび/またはタスク位置116を表す所定の離散化モデルにアクセスすることができる。たとえば、ロボットシステム100は、図2のマスターデータ252(たとえば、所定のテーブルまたはルックアップテーブル)において利用可能パッケージおよびそれらに対応するモデルを検索することによって、利用可能パッケージに対応する離散化オブジェクトモデル302にアクセスすることができる。同様に、ロボットシステム100は、利用可能パッケージが載置されることになる識別されたパレットなどの台を表す離散化台モデル304にアクセスすることができる。
ブロック706において、ロボットシステム100は、パッケージグループ(たとえば、利用可能パッケージのサブグループ)を決定することができる。ロボットシステム100は、識別された台(たとえば、載置パレット340)に載置するために、利用可能パッケージに基づいてパッケージグループを決定することができる。ロボットシステム100は、利用可能パッケージの1つまたは複数の特性における類似性および/またはパターンに応じて、パッケージグループを決定することができる。いくつかの実施形態では、ブロック721に示すように、ロボットシステム100は、グループ化条件/要件に従って利用可能パッケージをグループ化することによって、パッケージグループを決定することができる。グループ化条件/要件のいくつかの例は、パッケージ優先度(たとえば、1つまたは複数の顧客によって指定されるもの)、脆性レーティング(たとえば、パッケージによって支持可能な最大重量)、重量、パッケージ寸法(たとえば、パッケージ高)、パッケージタイプ、またはこれらの組合せを含むことができる。利用可能パッケージをグループ化する際に、ロボットシステム100は、グループ化条件/要件に合致する利用可能パッケージの様々な特性をマスターデータ252において検索することができる。
ブロック708において、ロボットシステム100は、利用可能パッケージおよび/またはそのグループ(すなわち、パッケージグループ)に対する処理順序(たとえば、載置位置を検討/導出するシーケンス)を計算することができる。いくつかの実施形態では、ブロック722に示すように、ロボットシステム100は、1つまたは複数の配列条件/要件に従って処理順序を計算することができる。たとえば、ロボットシステム100は、たとえば、パッケージ数が多いパッケージグループを載置計画において早く処理するために、各グループ内のパッケージ数に応じて、パッケージグループの載置計画を優先することができる。他の例として、ロボットシステム100は、より多くのより小さいパッケージを有するパッケージグループよりも、より少ないより大きいパッケージを有するパッケージグループを載置計画においてより早く処理するために、各グループの充填率に応じてパケットグループの載置計画を優先することができる。いくつかの実施形態では、配列条件は、たとえば、重量範囲、脆性レーティングなどについて、グループ化条件と重複することができる。たとえば、ロボットシステム100は、より重いおよび/またはより脆弱でないパッケージの処理を優先して、より早く処理し、および/またはより下位レイヤに載置するようにすることができる。
いくつかの実施形態では、ロボットシステム100は、合計水平面積に応じて載置計画を優先することができる。ロボットシステム100は、マスターデータ252において指定された情報を使用して、グループ内のパッケージの上面の表面積を(たとえば、対応する幅と長さとを乗算することによって)計算するまたはアクセスすることができる。合計水平面積を計算する際に、ロボットシステム100は、同一のタイプであるおよび/または閾値範囲内の高さを有するパッケージの表面積を加算することができる。いくつかの実施形態では、ロボットシステム100は、より大きい合計水平面積を有するグループの載置計画を優先して、より早く処理し、および/またはより下位レイヤに載置するようにすることができる。
1つまたは複数の実施形態について、ロボットシステム100は、利用可能パッケージの識別子および/または数量をバッファにロードすることができる。ロボットシステム100は、グループに従ってバッファ内の識別子を配列することができる。さらに、ロボットシステム100は、処理順序に応じてバッファ内の識別子を配列することができる。したがって、バッファ内の配列された値は、利用可能パッケージおよび/または残余パッケージに対応することができる。
ブロック724に示すように、たとえば、ロボットシステム100は、対応するスタッキングプランを実施する前に、たとえば、パッケージセット内のパッケージのいずれかが台に載置される前に、利用可能パッケージの初期セット(たとえば、パッケージセット)に対する処理順序を計算することができる。いくつかの実施形態では、ブロック726に示すように、ロボットシステム100は、対応するスタッキングプランの開始後または実施中に、利用可能パッケージの残余セットに対する処理順序を計算することができる。たとえば、ブロック716からのフィードバックループによって示すように、ロボットシステム100は、1つまたは複数のトリガ条件に従って、残余セット(たとえば、台に転置されていないおよび/またはソース位置に残っている利用可能パッケージの一部)に対する処理順序を計算することができる。例示的なトリガ条件は、スタッキングエラー(たとえば、パッケージの紛失または落下)、衝突イベント、所定の再トリガタイミング、またはこれらの組合せを含むことができる。
ブロック710において、ロボットシステム100は、利用可能パッケージを水平面に沿って載置するための2Dプランを生成することができる。たとえば、ロボットシステム100は、載置プランを生成して、水平面に沿った利用可能パッケージの2Dマッピングを表現することができる。ロボットシステム100は、離散化モデルに基づいて2つ以上の載置プランを生成することができる。たとえば、ロボットシステム100は、離散化オブジェクトモデル302を離散化台モデル304と比較することに基づいて、載置プランを生成することができる。ロボットシステム100は、離散化オブジェクトモデル302の異なる載置/配置を決定し、離散化台モデル304に重ね/比較し、重なった場合、離散化台モデル304の境界線内にある配置を検証/保持することができる。ロボットシステム100は、離散化台モデル304の境界線内に載置することができないパッケージに、他のレイヤ(たとえば、載置プランの他のインスタンス)を指定することができる。したがって、ロボットシステム100は、パッケージセット内の各パッケージに載置プラン内の位置が割り当てられるまで、スタッキングプランの2Dレイヤを表す載置プランについての載置位置を反復的に導出することができる。
いくつかの実施形態では、ロボットシステム100は、パッケージグループに基づいて載置プランを生成することができる。たとえば、ロボットシステム100は、あるパッケージグループ内のパッケージの配置を、他のグループ内のパッケージの載置を検討する前に、決定することができる。パッケージグループ内のパッケージがレイヤから溢れる場合(すなわち、パッケージが離散化台モデル304の1つのレイヤまたは1つのインスタンスに収まらない場合)、および/または1つのグループの全てのパッケージを載置した後、ロボットシステム100は、次のグループ内のパッケージについての位置を、離散化台モデル304内の任意の残っている/占有されていないエリアに割り当てることができる。ロボットシステム100は、離散化台モデル304の残余スペースに収まらない未割り当てパッケージがなくなるまで、割り当てを反復的に繰り返すことができる。
同様に、ロボットシステム100は、処理順序に基づいて(たとえば、処理順序に応じたパッケージグループに基づいて)載置プランを生成することができる。たとえば、ロボットシステム100は、処理順序に応じてパッケージおよび/またはグループを割り当てることに基づいて、テスト配置を決定することができる。ロボットシステム100は、最も早く配列されたパッケージ/グループにテスト配置の最初の載置を割り当て、次いで、処理順序に応じて後続のパッケージ/グループをテストする/割り当てることができる。いくつかの実施形態では、ロボットシステム100は、レイヤにわたって(たとえば、載置プランのインスタンスにわたって)パッケージ/グループに対する処理順序を保持することができる。いくつかの実施形態では、ロボットシステム100は、各レイヤが充填された後、処理順序を再計算し更新することができる(図7に破線のフィードバック線で図示)。
いくつかの実施形態では、上述の処理の説明用の例として、ロボットシステム100は、パッケージセット内の異なるパッケージタイプを識別することによって、2Dプランを生成することができる。換言すれば、ブロック732において、ロボットシステム100は、各パッケージグループおよび/またはパッケージセット内の(たとえば、パッケージタイプによって表される)独特のパッケージを識別することができる。
ブロック734において、ロボットシステム100は、各利用可能パッケージについて載置位置を(たとえば、反復的に)導出することができる。ブロック736において、ロボットシステム100は、処理順序に応じてシーケンスの最初の独特のパッケージについての初期載置位置を決定することができる。ロボットシステム100は、上述のように所定のパターンに従って初期載置位置を決定することができる。いくつかの実施形態では、ロボットシステム100は、独特のパッケージごとに初期載置を計算することができる。得られた初期載置はそれぞれ、たとえば、反復にわたって載置プラン350を追跡することによって、一意の載置組み合わせ(たとえば、探索木のインスタンス)に発展させることができる。ブロック738において、ロボットシステム100は、処理順序および/または上述の残余パッケージに応じて、後続のパッケージについての載置位置候補を導出し追跡することができる。したがって、ロボットシステム100は、載置組み合わせを反復的に導出することができる。
載置組み合わせ(たとえば、載置位置候補)を導出する際に、ロボットシステム100は、スタッキングシナリオ候補(たとえば、利用可能パッケージについての一意の載置位置の可能な組み合わせ)を反復的に導出し評価することに基づいて、対応するパッケージの離散化オブジェクトモデル302の位置をテスト/評価することができる。各スタッキングシナリオ候補は、上述のシーケンスに従ってパッケージについての一意の可能な位置を(たとえば、載置位置についての所定のシーケンス/ルールに従って)識別することに基づいて、導出することができる。スタッキングシナリオ候補および/または一意の載置位置は、1つまたは複数の載置基準(たとえば、要件、制約、載置コスト、および/またはヒューリスティックスコア)に従って評価することができる。たとえば、載置基準は、選択された位置に載置される場合、離散化オブジェクトモデル302が離散化台モデル304の水平境界線内に完全に収まることを要求することができる。また、載置基準は、離散化オブジェクトモデル302の載置が、隣接載置または離間要件などのために、(たとえば、水平方向などに沿った)初期載置位置および/または前の載置位置に対して閾値距離内または閾値距離を超えることを要求することができる。載置基準の他の例は、1つまたは複数のパッケージ寸法(たとえば、高さ)、脆性レーティング、パッケージ重量範囲、またはこれらの組合せの差(複数可)が最小であるパッケージを隣接して載置するための設定を含むことができる。いくつかの実施形態では、載置基準は、基準位置(たとえば、パレタイズロボットの位置)に対するレイヤ内の割り当て済みのパッケージの位置および/または特性(たとえば、高さ)に対応し得る衝突確率を含むことができる。したがって、ロボットシステム100は、パッケージ載置位置の複数の一意の載置組み合わせ(すなわち、各レイヤについての載置プラン候補、および/またはそれぞれが複数のレイヤを含むスタッキングシナリオ候補)を生成することができる。いくつかの実施形態では、ロボットシステム100は、載置反復にわたって探索木を生成し更新することに基づいて、組み合わせの載置を追跡することができる。
ブロック740において、ロボットシステム100は、各組み合わせ/パッケージ載置についての載置スコアを計算/更新することができる。ロボットシステム100は、載置条件/設定(たとえば、パッケージ寸法、衝突確率、脆性レーティング、パッケージ重量範囲、離間要件、パッケージ数量条件)のうちの1つまたは複数に従って載置スコアを計算することができる。たとえば、ロボットシステム100は、選好係数(たとえば、乗数の重み)および/または式を使用して、パッケージ間の離間距離、隣接パッケージについてのパッケージ寸法/脆性レーティング/パッケージ重量の差、衝突確率、同じ高さの連続面/隣接面、その統計結果(たとえば、平均、最大、最小、標準偏差など)、またはこれらの組合せについての選好を記述することができる。各組み合わせは、システム製造業者、注文、および/またはシステムオペレータによって事前定義され得る選好係数および/または式に従ってスコア付けすることができる。いくつかの実施形態では、ロボットシステム100は、載置反復全体の最後に載置スコアを計算することができる。
いくつかの実施形態では、ロボットシステム100は、各載置反復後に、優先度キュー内の載置組み合わせのシーケンスを更新することができる。ロボットシステム100は、載置スコアに基づいてシーケンスを更新することができる。
ロボットシステム100は、たとえば、1つの載置プラン候補が終了した場合に、空きソースステータス、満杯レイヤステータス、または不変スコアステータスを判定することに基づいて、載置反復を停止することができる。空きソースステータスは、全ての利用可能パッケージが載置されたことを表すことができる。満杯レイヤステータスは、他のパッケージを検討中の離散化台モデル304の残余エリア内に載置できないことを表すことができる。不変スコアステータスは、組み合わせについての載置スコアが、1つまたは複数の連続した載置反復にわたって一定のままであることを表すことができる。いくつかの実施形態では、ロボットシステム100は、(たとえば、配列条件に関連する配列値/スコアが同一であるグループを並べ直すために)異なる初期載置位置および/または異なる処理順序を使用して載置反復を繰り返すことによって、スタッキングシナリオ候補の他のインスタンスを導出することができる。換言すれば、ロボットシステム100は複数の2D載置プランを生成することができ、ここで、各2D載置プランは、(たとえば、スタッキングシナリオ候補のインスタンスなどの)3Dスタック内のレイヤを表すことができる。他の実施形態では、ロボットシステム100は、2D載置プランが導出された場合に3D効果を反復的に検討し、2D載置プランが満杯になった場合に、次のレイヤを次の反復として導出することを開始することができる。
ブロック712において、ロボットシステム100は、スタッキングプランを生成することができる。いくつかの実施形態では、ロボットシステム100は、処理されるパッケージの載置位置が1つまたは複数の載置/処理済みのパッケージと重なる場合に、スタッキングプランの生成を開始することができる。
スタッキングプランを生成し、および/または2Dプランを査定する際に、ロボットシステム100は、ブロック752に示すように、載置組み合わせおよび/または載置プランのそれぞれを3D状態に変換することができる。たとえば、ロボットシステム100は、パッケージについての高さ値を載置組み合わせに割り当てることができる。換言すれば、ロボットシステム100は、パッケージ高を載置組み合わせに追加することに基づいて、等高線図(深度マップの推定)を生成することができる。
3D状態によって、ロボットシステム100は、1つまたは複数のスタッキングルール(たとえば、水平オフセットルール、支持物離間ルール、および/または垂直オフセットルール)に従って、載置組み合わせを評価することができる。説明用の例として、載置されるパッケージが1つまたは複数の処理済みのパッケージの上に/上を覆ってスタックされる場合、ロボットシステム100は、重なり要件、突出要件、垂直オフセットルール、図CoMオフセット要件、またはこれらの組合せに違反する載置組み合わせのいずれかを排除することができる。1つまたは複数の実施形態では、ロボットシステム100は、たとえば、重なったパッケージにおける支持重量を推定し、対応する脆性レーティングと比較することによって、処理済みのパッケージの下の1つまたは複数のパッケージの脆性レーティングに違反する載置組み合わせのいずれかを排除することができる。
残余の載置組み合わせについて、ロボットシステム100は、たとえば、ブロック754に示すように、3D載置スコアを計算するまたは載置スコアを更新することができる。ロボットシステム100は、3D載置についての載置コストおよび/またはヒューリスティック値に関連する所定の設定(たとえば、重みおよび/または式)を使用することができる。所定の3D設定は、2D設定、グループ設定、配列条件、またはこれらの組合せに類似することができる。たとえば、3D設定は、3D状態に基づいて衝突確率を計算し、衝突確率がより低い載置組み合わせを優先するスコアを計算するように構成することができる。また、ロボットシステム100は、残余パッケージ、共通の高さを有する支持エリアのサイズ、3D状態のパッキングされたアイテムの数、処理済みパッケージの高さの差、またはこれらの組合せに基づいて、スコアを計算することができる。いくつかの実施形態では、ロボットシステム100は、スコアに応じて優先度キュー内の載置組み合わせのシーケンスを更新することができる。
3D状態が処理された後、ロボットシステム100は、ブロック710などにおいて、残余パッケージ内の次のパッケージについての載置を導出することによって、2Dプランを更新することができる。ロボットシステム100は、たとえば、利用可能パッケージが全て処理された(すなわち、残余パッケージについての空の値/セット)場合、および/または載置組み合わせを改善できない(改善されない組み合わせとも呼ばれる)場合など、停止条件まで上述の処理を反復することができる。改善されない組み合わせのいくつかの例は、現在処理されている載置が、違反のうちの1つまたは複数によって優先度キュー内の載置組み合わせの最後のものを排除する場合、および/または載置スコアが優先される組み合わせについて閾値数の反復にわたって一定のままである場合を含むことができる。
停止条件が検出された場合、たとえば、ブロック756において、ロボットシステム100は、載置スコア(たとえば、2Dおよび/または3D関連スコア)に応じて、導出された載置組み合わせのうちの1つを選択することができる。したがって、ロボットシステム100は、選択された載置組み合わせをスタッキングプラン(たとえば、載置プランのセット)として指定することができる。
いくつかの実施形態では、説明用の例として、ロボットシステム100は、ブロック710および712の機能を異なって実施することができる。たとえば、ブロック710において、ロボットシステム100は、上述のように最下位レイヤについての2Dプラン(たとえば、載置プラン350のインスタンス)を生成することができる。その際、ロボットシステム100は、載置および/または処理順序を検討する際に、一致するパッケージ高、より重いパッケージ重量、および/またはパッケージについてのより大きい支持可能重量に対してより重い設定(たとえば、より大きいパラメータの重み)を与えるように構成することができる。ロボットシステム100は、ブロック710について上述したように、ベースレイヤについて第1の2Dプランを導出することができる。
第1の2Dレイヤが上述のように完全/満杯となってベースレイヤが形成されると、ロボットシステム100は、ブロック712/752について説明したように載置プランを3D状態に変換することができる。3D情報を使用して、ロボットシステム100は、上述のようにベースレイヤの1つまたは複数の平面セクション/エリア(たとえば、図3Bの載置面352−356)を特定することができる。平面セクションを使用して、ロボットシステム100は、ベースレイヤの上の次のレイヤについてのパッケージ載置を反復的に/再帰的に導出することができる。ロボットシステム100は、各平面セクションを離散化台モデル304の新たなインスタンスとみなし、ブロック710について上述したように異なる載置をテスト/評価することができる。いくつかの実施形態では、ロボットシステム100は、載置面を使用して2D載置を導出することができるが、載置パレット340全体にわたってスコアを計算することができる。したがって、ロボットシステム100は、先行する載置エリアに制限されることなく、後続のレイヤに対してより大きい載置エリアを優先するように構成することができる。
反復的載置処理が第2のレイヤについて停止すると、ロボットシステム100は、導出されたレイヤについての平面セクション(たとえば、閾値範囲内の高さを有する上面)を計算して、次の上のレイヤについての残余パッケージ/グループの2D載置を生成することができる。反復的レイヤ化処理は、上述のように停止条件が満たされるまで継続することができる。
いくつかの実施形態では、ロボットシステム100は、ブロック712において2Dプラン(たとえば、載置プランのうちの2つ以上)を独立して生成することができる。ロボットシステム100は、2Dプランを垂直に組み合わせる(たとえば、垂直方向に沿って2D載置プランを配置する/重ねる)ことに基づいてスタッキングプランを生成することができる。
ブロック714において、ロボットシステム100は、スタッキングプランに基づいてパッキングシーケンス(たとえば、図5Bのスタッキングシーケンス530)を計算することができる。一例として、パッキングシーケンスは、利用可能パッケージの載置順序を特定するためのものとすることができる。いくつかの実施形態では、ブロック762に示すように、ロボットシステム100は、パッキングシーケンスをレイヤごとに計算することができる。換言すれば、ロボットシステム100は、各レイヤについてパッキングシーケンスを計算し、次いで、レイヤの順序/位置に従ってシーケンスを下から上へ接続することができる。パッキングシーケンスを計算する際に、いくつかの実施形態では、ロボットシステム100は、ブロック772に示すように載置プランを調整することができる。たとえば、ロボットシステム100は、下位レイヤの載置プランから上位レイヤの載置プランまでパッケージ(たとえば、後続の操作/転置について衝突確率を増加させる高さを有するパッケージ)のうちの1つまたは複数を再割り当てすることによって、載置プランを調整することができる。再割り当てされたパッケージによって支持される任意のパッケージは、さらなる上位レイヤに再割り当てすることもできる。換言すれば、再割り当てされたパッケージは、同じ水平載置のままとし、上位レイヤに関連付けて、パッケージを図5Bに示すように後で載置できるようにすることができる。ブロック774において、ロボットシステム100は、たとえば、下位レイヤに割り当てられたオブジェクトの後に、上位レイヤに割り当てられたオブジェクトをパッキング/操作することによって、調整された載置プランに基づいてパッキングシーケンス(たとえば、スタッキングシーケンス530)を計算することができる。
他の実施形態では、ブロック764に示すように、ロボットシステム100は、レイヤ割り当てとは無関係に/独立してパッキングシーケンスを計算することができる。換言すれば、ロボットシステム100は、下位レイヤに割り当てられたパッケージが上位レイヤに割り当てられたパッケージの後に載置されるように、パッキングシーケンスを計算することができる。
パッキングシーケンスを計算する際に、レイヤ内またはレイヤ間の両方で、ロボットシステム100は、1つまたは複数のパッケージ寸法(たとえば、高さ)、相対的な載置位置、またはこれらの組合せに応じて、スタッキングプラン内のパッケージの位置を分析することができる。たとえば、ロボットシステム100は、ユニット/基準位置(たとえば、パレタイズロボットの位置)から遠いボックスの載置を、近くに割り当てられたパッケージよりも前に配列することができる。また、ロボットシステム100は、割り当てられた位置が載置プランの外周に沿っており、ユニット位置から離れている場合、より高い/より重いパッケージをより早く載置することができる。
ブロック716において、ロボットシステム100は、利用可能パッケージを台に載置するためにスタッキングプランを実施することができる。ロボットシステム100は、スタッキングプランに従って、1つまたは複数のモーションプラン、アクチュエータコマンド/設定、またはこれらの組合せを、対応するデバイス/ユニット(たとえば、図1の転置ユニット104、図2のアクチュエーションデバイス212、図2のセンサ216など)に伝達することに基づいて、スタッキングプランを実施することができる。ロボットシステム100はさらに、デバイス/ユニットにおいて伝達された情報を実行して、利用可能パッケージをソース位置から目的地の台に転置することに基づいて、スタッキングプランを実施することができる。したがって、ロボットシステム100は、3Dマッピングに従って利用可能パッケージを載置することができ、ここで、利用可能パッケージのうちの1つまたは複数は他のパッケージの上に載置/スタックされ、たとえば、利用可能パッケージがレイヤごとに載置される。さらに、ロボットシステム100は、パッキングシーケンスに従ってパッケージを操作/転置することができる。したがって、ロボットシステム100は、上述のように、パッケージをレイヤごとに、またはそのような制約なしで載置することができる。
図8は、本技術の1つまたは複数の実施形態による、図1のロボットシステム100を動作させる方法800の流れ図である。方法800を使用して、エラーおよび潜在的な衝突を検出し、適切な応答を決定することができる。たとえば、方法800を使用して、図1のタスク位置116における図3の対象オブジェクト112についての図3Bの載置位置350を動的に導出し、および/または検出されたエラーに起因して、既存のパッキングプラン(たとえば、目的地におけるオブジェクトのセットの具体的な載置位置/姿勢、関連するシーケンスおよび/またはモーションプラン、あるいはこれらの組み合わせに関する詳細)を調整することができる。以下でより詳細に説明するように、起こり得るエラーは、想定パッケージング状況とリアルタイムパッケージング状況との差異または相違を含む。換言すれば、エラーは、パッキングプランに従ってオブジェクトをタスク位置116に載置している間に生じ得る想定外のイベント(たとえば、衝突、オブジェクトの落下/紛失、載置済みオブジェクトのずれ、および/またはタスク位置116における閉塞)に対応することができる。これらおよび他の実施形態では、想定パッケージング状況は、対象オブジェクトおよび/または載置済みオブジェクト508を載置する前、間、または後の、(パッキングプランなどに応じた)パッケージング状況の変化に少なくとも部分的に基づくことができる。これらおよびさらに他の実施形態では、方法800は、図2の1つまたは複数の記憶デバイス204に記憶された命令を、図2の1つまたは複数のプロセッサ202により実行することによって、実施することができる。
上述のように、図7の方法700は、パッキングプランを導出および/または実施するために、Rosen N.KiankovおよびDenys Kanunikovによる、「A ROBOTIC SYSTEM WITH PACKING MECHANISM」と題された、同時出願された米国特許出願により詳細に記載されているように、実施することができ、これはMujin,Incに譲渡され、代理人整理番号131837−8005.US01によって識別され、その全体が引用により本明細書に組み込まれている。
3Dスタッキングプランおよび/またはパッキングシーケンスが生成された後、ロボットシステム100は、ブロック801に示すようにパッキングプランの実行を開始することができる。パッキングプランを実行するために、ロボットシステム100は、図1に示すロボットユニット、たとえば、荷下ろしユニット102、転置ユニット104、輸送ユニット106、積載ユニット108などのうちの1つまたは複数を(たとえば、対応するコマンド、設定、モーションプランなどを生成、送信、実施することによって)動作させることができる。ロボットシステム100は、ロボットユニットを動作させて、オブジェクトを図1の開始位置114まで輸送し、(転置ユニット104などを介して)オブジェクトを開始位置114から操作して、3Dスタッキングプランに従って図1のタスク位置116(たとえば、パレット、ケージ、カートラックなど)に/タスク位置116上に載置することができる。たとえば、ロボットシステム100は、パッキングシーケンスに従って(たとえば、コンベヤなどの輸送ユニット106を介して)オブジェクトを開始位置114まで輸送し、3Dパッキングプランに従ってオブジェクトを図3Bの載置エリア340上の位置に載置することができる。ロボットシステム100はさらに、パッキングプランを実行しながら進捗状況を追跡して、割り当て位置に載置済みの、パッキングシーケンスおよび/または3Dパッキングプランにおけるオブジェクトを識別することができる。
ブロック802において、ロボットシステム100は、リアルタイムパッケージング状況を特定することができる。パッキングプランを実施している間に、ロボットシステム100は、開始位置114および/またはタスク位置116の、またはその付近の(たとえば、所定の距離内の)リアルタイムパッケージング状況を特定することができる。たとえば、ロボットシステム100は、到来オブジェクトおよび/またはタスク位置116のオブジェクトのそれぞれに関する情報(たとえば、図2のセンサ216からのセンサデータ)をリアルタイムに受信し分析することができる。いくつかの実施形態では、ロボットシステム100は、開始位置114にあるまたは近づいている、対象オブジェクト112を含む1つまたは複数のオブジェクトを表すソースセンサデータを(たとえば、図5のソースセンサ504から)受信し、分析することができる。これらおよび他の実施形態では、ロボットシステム100は、タスク位置116および/またはその上の図5の載置済みオブジェクト508に関連する載置エリア(たとえば、載置エリア340)を表す目的地センサデータを(たとえば、図5の目的地センサ506から)受信し、分析することができる。
いくつかの実施形態では、ロボットシステム100は、センサデータを分析することができる。センサデータを分析する際に、ロボットシステム100は、センサデータ(たとえば、センサ216からの画像および/または深度マップ)を処理して、エッジを識別/推定することができる。たとえば、ロボットシステム100は、Sobelフィルタなどを使用して、センサデータを処理することによって、対象オブジェクト112、タスク位置116、載置済みオブジェクト508、またはこれらの組み合わせのエッジを認識することができる。ロボットシステム100は、エッジを使用して、別々のオブジェクトを表すエリアおよび/またはそれらの寸法を特定することができる。これらおよび他の実施形態では、ロボットシステム100は、センサデータ(たとえば、ソースセンサデータ)に基づいて、検知されたオブジェクトの(たとえば、到来オブジェクト、対象オブジェクト112、パレット、ケージなどの)1つまたは複数の寸法または長さを推定することができる。ロボットシステム100はさらに、識別されたエリアを使用して、オブジェクトの姿勢および/または位置を特定することができる。たとえば、ロボットシステム100は、エッジを既存のグリッドシステムにマッピングして、オブジェクトの向きおよび/または位置を決定することができる。
ブロック804において、ロボットシステム100は、到来パッケージ(対象オブジェクト112などを含む)、および/またはタスク位置116、たとえばパレットおよび/またはケージを表す、離散化モデル(たとえば、図3Aの離散化オブジェクトモデル302および/または図3Bの離散化台モデル304)にアクセスするおよび/または生成することができる。ロボットシステム100は、リアルタイムのセンサデータ(たとえば、ソースセンサデータおよび/または目的地センサデータ)に基づいて、離散化モデル(たとえば、離散化オブジェクトモデル302および/または離散化台モデル304)を決定する(たとえば、生成するおよび/またはアクセスする)ことができる。いくつかの実施形態では、ロボットシステム100は、ソースセンサデータに基づいて対象オブジェクト112のオブジェクトタイプ(たとえば、到来オブジェクトの識別情報またはカテゴリ)を特定することができる。ロボットシステム100は、識別情報(たとえば、表面画像および/または推定寸法)を使用して、図2の記憶デバイス、および/または他のデバイス(たとえば、図2の通信デバイス206を介してアクセスされるパッケージ供給元の記憶デバイス、データベース、および/またはサーバ)に記憶されたマスターデータ252を検索することによって、一致する離散化モデルを発見し、アクセスすることができる。
いくつかの実施形態では、ロボットシステム100は、リアルタイムに、たとえば、ソースセンサデータの受信に直ちに応答して、対象オブジェクトの離散化モデルを動的に生成することができる。離散化モデルを動的に生成するために、ロボットシステム100は、センサデータおよび/または対応する物理的な寸法(たとえば、到来オブジェクト、パレット上面などのもの)を図3Bの単位ピクセル310に応じて分割することができる。換言すれば、ロボットシステム100は、対応するセンサデータに応じて、対象オブジェクト112および/またはタスク位置116を表すエリアに単位ピクセル310を重ねることに基づいて、離散化モデルを生成することができる。単位ピクセル310は、(たとえば、製造業者、注文した顧客、および/またはオペレータによって)、たとえば、1mmもしくは1/16インチ(in)またはそれ以上(たとえば、5mmもしくは20mm)など、事前に決定することができる。いくつかの実施形態では、単位ピクセル310は、パッケージのうちの1つまたは複数および/または台の寸法またはサイズに基づくことができる(たとえば、割合または分数)。
ブロック806において、ロボットシステム100は、1つまたは複数のエラーが発生したか否かを検出または判定することができる。たとえば、ロボットシステム100は、想定パッケージング状況とリアルタイムパッケージング状況との差異または相違を特定することによって、エラーが発生したか否かを判定することができる。換言すれば、ロボットシステム100は、センサデータを開始位置114の想定される状態、および/またはタスク位置116の想定される状態と比較することによって、エラーが発生したか否かを判定することができる。ロボットシステム100によって特定される起こり得るエラーの例には、ソース照合エラー(たとえば、マスターデータエラー、想定外オブジェクトエラー、到着シーケンスエラーなど)、目的地照合エラー(たとえば、載置アクセス性エラー、想定外載置エラー、載置エリアエラーなど)、および/または動作ステータスエラー(たとえば、衝突エラー、輸送エラー、オブジェクトずれエラーなど)がある。
ブロック832において、ロボットシステム100は、ソース照合エラーを特定することができる。ソース照合エラーを特定するために、ロボットシステム100は、ソースセンサデータを開始位置114における想定パッケージング状況に対応するデータと比較することができる。一実施形態では、ロボットシステム100は、ソースセンサデータを、ロボットシステム100に事前登録された、可能性のあるオブジェクトの特性情報などの記述を含むマスターデータ(たとえば、図2のマスターデータ252)と比較することによって、マスターデータエラーを検出することができる。これらの実施形態では、ロボットシステム100は、ソースセンサデータ内にキャプチャされた対象オブジェクト112の特性(たとえば、高さ、幅、長さ、重量、および/または他の特性などの物理特性)が、マスターデータ252内に記憶されたオブジェクトの特性情報と一致するか否かを判定することができる。ソースセンサデータ内にキャプチャされた対象オブジェクト112の特性が、マスターデータ252内に記憶されたオブジェクトの特性情報と一致しない場合、ロボットシステム100は、マスターデータエラーが発生したと判定することができる。したがって、ロボットシステム100は、未登録のおよび/または認識されないオブジェクトの到着に関連するソース照合エラーを特定することができる。
これらおよび他の実施形態では、ロボットシステム100は、ソースセンサデータをパッキングプランおよび/またはパッキングシーケンスに対応するデータと比較することによって、想定外オブジェクトエラーおよび/または到着シーケンスエラーを検出することができる。この例を続けると、ロボットシステム100は、対象オブジェクト112の導出された特性(たとえば、物理特性)を、パッキングシーケンスおよび追跡された進捗状況に従って開始位置114に到着する予定のオブジェクトの想定される特性と比較することができる。対象オブジェクト112の特性がマスターデータ252に登録されたオブジェクトのうちの1つと一致した場合、ロボットシステム100は、一致したオブジェクトの識別子/タイプを、パッキングシーケンスの追跡された進捗状況に応じた想定オブジェクトのそれらと比較することができる。対象オブジェクト112が想定オブジェクトと一致しない場合、ロボットシステムは、想定外オブジェクトエラーが発生した(たとえば、対象オブジェクト112が想定オブジェクトでない、および/または順序通りでなく到着した)と判定することができる。いくつかの実施形態では、ロボットシステム100は続いて、対象オブジェクト112(たとえば、その特性および/または一致する識別子)を、パッキングシーケンスに従って(たとえば、対象オブジェクト112の後および/または前に)開始位置114に到着する予定の1つまたは複数の他のオブジェクトと比較することができる。たとえば、ロボットシステム100は、対象オブジェクト112を、パッキングシーケンス内で想定オブジェクトに先行するまたは後続の所定数のオブジェクトと比較することができる。対象オブジェクト112の特性が開始位置114に到着する予定の他のオブジェクトの想定される特性と一致する場合、ロボットシステム100は、到着シーケンスエラーが発生した(たとえば、対象オブジェクト112が順序通りでなく開始位置114に到着した)と判定することができ、および/または対象オブジェクト112の次の発生に備えて対象オブジェクト112を保管して、1つまたは複数のリアルタイム調整を実行することができる(たとえば、対象オブジェクト112を一時保持エリアに保管し、その後、次の想定される順序/タイミングに従ってアクセスする)。
追加的に、または代替的に、ブロック834においてロボットシステム100は、目的地照合エラーを特定することができる。目的地照合エラーを特定するために、ロボットシステム100は、目的地センサデータを、タスク位置116における想定パッケージング状況に対応するデータと比較することができる。たとえば、ロボットシステム100は、載置済みのオブジェクトを識別することに基づいて、3Dパッキングプランの現在の進捗状況を追跡することができる。ロボットシステム100は、1つまたは複数のコンピュータモデルを使用して、追跡された進捗状況に対応する想定される形状および/または想定される表面輪郭(たとえば、想定される載置面に対応する高さ推定値のセット)を決定することができる。ロボットシステム100は、センサ216を使用してキャプチャされた画像、深度マップ、および/またはタスク位置116の現在の状態を表す他のデータ(たとえば、離散化台モデルおよび/またはタスク位置116の現在の高さ寸法)を、想定される形状および/または想定される表面輪郭と比較することができる。ロボットシステム100は、タスク位置116の現在の状態と、タスク位置116の想定される状態との相違に少なくとも部分的に基づいて、目的地照合エラーを判定することができる。
説明用の例として、ロボットシステム100は、タスク位置116の(たとえば、載置エリア340および/またはタスク位置116における載置済みオブジェクト508の)撮影画像および/または他のデータを分析して、タスク位置116および/または載置済みオブジェクト508の現在の特性、たとえば、場所/位置、姿勢/向き、物理的な寸法、形状、高さ測定値、および/または他の特性を決定することができる。目的地照合エラーを判定するために、ロボットシステム100は、タスク位置116の現在の特性のうちの1つまたは複数を、タスク位置116、載置済みオブジェクト508、および/または載置エリア340の1つまたは複数の想定される特性と比較して、任意の不一致または相違を特定することができる。現在の特性と想定される特性との比較を使用して、ロボットシステム100は、1つまたは複数のエラー(たとえば、載置アクセス性エラー、想定外載置エラー、および/または載置エリアエラー)が発生したか否かを判定することができる。載置アクセス性エラー(たとえば、載置エリア340の特性が想定と異なる)のいくつかの例は、たとえば、誤ったサイズのパレットをタスク位置116に載置した、またはタスク位置116のコンテナ(たとえば、ケージまたはカートラック)の壁が完全に開いていないことによって、載置エリア308が予期していたものと異なるサイズまたは形状を有することに基づくことができる。想定外載置エラーのいくつかの例は、たとえば、1つまたは複数の載置済みオブジェクト508が動いた、ずれた、および/または落下した、および/または誤った位置および/または向きで載置されたことによって、載置済みオブジェクト508のうちの1つまたは複数が想定外の位置/姿勢を有することに基づくことができる。載置エリアエラーのいくつかの例は、載置エリア340の高さ測定値が想定と異なることに対応することができる。これらおよび他の実施形態では、ロボットシステム100は、目的地センサデータを使用して、載置済みオブジェクト508のうちの1つまたは複数が以前に誤って載置されたまたは見当たらない、および/または想定外のオブジェクトがタスク位置116にあると判定することができる。
ブロック836において、ロボットシステム100は、他のタイプのエラーを判定することができる。たとえば、ロボットシステム100は、リアルタイムパッケージング状況(たとえば、ロボットユニットからのフィードバックデータ、および/またはオブジェクトソース/目的地における現在の状況)を分析して、動作エラー、たとえば、衝突エラー(たとえば、ロボットユニットおよび/またはオブジェクトが衝突した)、および/またはオブジェクト移動エラー(たとえば、オブジェクトが載置中または後にずれた)を特定することができる。他の例として、ロボットシステム100は、輸送または操作エラー、たとえば、転置ユニット104のグリッパがオブジェクトの十分なグリップを有さない場合、および/またはオブジェクトが輸送/操作中に落下/紛失した場合を特定することができる。ロボットシステム100は、パッキング動作(ブロック801に図示)を実施しながら、様々なフィードバックデータ、たとえば、位置、速度、ステータス(たとえば、外部接触ステータスおよび/または把持ステータス)、力測定値(たとえば、外部から加えられる力、把持力、および/またはグリッパにて測定される重量/トルク)、またはこれらの組み合わせをロボットユニットから取得することができる。ロボットシステム100は、取得されたデータを、動作エラーを特徴付ける1つまたは複数の所定の閾値/テンプレートと比較して、その発生を特定することができる。
ブロック838において、ロボットシステム100は、衝突の危険性をもたらすパッケージング状況を特定することができる。いくつかの実施形態では、ロボットシステム100は、(ブロック832〜836において)1つまたは複数のエラーが発生したと判定したこととは独立して、またはこれに応答して、パッケージング状況が衝突の危険性をもたらすか否かを特定することができる。ロボットシステム100は、センサデータを分析して、ロボットシステム100が対象オブジェクト112をパッケージング/パレタイズし続けた場合の、ロボットユニットおよび/またはオブジェクトの衝突の危険性を特定することができる。対象オブジェクト112がパッキングシーケンスに応じた想定オブジェクトである場合、ロボットシステム100は、3Dパッキングプランに従って対象オブジェクト112を載置するために、図5の進入経路510を再計算および/またはアクセスすることができる。判定されたエラーのために現在の状況が想定される状況から逸脱しているので、ロボットシステム100は、進入経路510およびリアルタイム状況を比較して衝突の危険性を判定することができる。いくつかの実施形態では、ロボットシステム100はリアルタイムセンサデータを分析して、ロボットシステム100は指定された優先度に従って(たとえば、衝突の危険性および/またはエラーが減少する順に)リアルタイムパッケージング状況を特定することができる。タスク位置116を参照すると、たとえば、ロボットシステム100は目的地センサデータを分析して、ロボットシステム100は、進入経路510を妨げ得るリアルタイムパッケージング状況を以下の順序で、すなわち、(a)載置アクセス性エラーの状況において、タスク位置116にあるコンテナが(たとえば、コンテナが完全に開いていないことによって)衝突の危険性をもたらすか否か、(b)想定外載置エラーの状況において、動いた、ずれた、および/または落下した1つまたは複数の載置済みオブジェクト508が衝突の危険性をもたらすか否か、(c)載置エリアエラーの状況において、誤った位置および/または向きで載置された1つまたは複数の載置済みオブジェクト508が衝突の危険性をもたらすか否か、および/または(d)載置エリアエラーの状況において、(たとえば、上述のように、載置エリア340の想定および実際の高さ測定値の相違によって)パレタイズされたケースの高さが衝突の危険性をもたらすか否か、によって、特定することができる。
ブロック832〜838において、ロボットシステム100が、エラーが発生しなかったと判定した、または衝突の危険性をもたらすエラーまたはパッケージング状況を特定しなかった場合、ロボットシステム100は、ブロック801に戻ってパッキングプランの実行を継続することができる。そうでなければ、上記で概説したエラーおよび潜在的な衝突のシナリオのうちのいずれかにおいて、パッキングプランを継続して実行すると、さらなるエラーがもたらされる可能性がある。たとえば、スタックされたパレットは誤ったアイテムを含む場合があり、および/またはパレットもしくはそのオブジェクトが、パッキングプランにより意図したものとは特性が異なる(たとえば、スタック内の1つまたは複数の支持オブジェクトの高さが異なる)ために、不安定になり得る。追加的に、ロボットユニットおよび/またはオブジェクトの衝突の危険性は、オブジェクト位置の食い違いおよび/または想定外の障害物のために高まり得る。
したがって、1つまたは複数のエラーを判定したこと、および/または衝突の危険性をもたらす1つまたは複数のパッケージング状況を特定したことに応答して、ロボットシステム100は(ブロック840において)、ブロック832〜838において特定されたエラーおよび/または潜在的な衝突への応答を決定することができる。適切な応答の例は、(a)エラーおよび/または衝突の危険性をもたらすリアルタイム状況をオペレータおよび/または他のシステムに警告すること、(b)ブロック804に戻って、対象オブジェクト112の離散化モデルを動的に生成すること、(c)マスターデータ252を更新すること、(d)タスク位置116における想定外のオブジェクトを含むように、および/またはタスク位置116において見当たらないオブジェクトを除外するようにタスク位置116のマスターリストを更新すること、(e)対象オブジェクト112をタスク位置116以外の位置に載置すること(たとえば、後でタスク位置116まで輸送/操作するために、対象オブジェクト112を取りのけておくこと、および/または対象オブジェクト112を貯蔵すること)、(f)1つまたは複数の載置済みオブジェクト508を位置調整すること、(g)進入経路510を動的に調整してパッキングプランを実施すること、(h)更新された載置位置を動的に導出してパッキングプランを修正もしくは調整すること、(i)新たなパッキングプランを作成すること、および/または、(j)パッキングプランを破棄し、オブジェクト到着時に載置位置を動的に導出すること、のうちのいずれか1つまたは複数を含むことができる。
いくつかの実施形態では、ロボットシステム100は、特定されたエラーまたは潜在的な衝突のタイプに基づいて、適切な応答を決定することができる。たとえば、マスターデータエラーの状況では、ロボットシステム100は、パッキングプランの実施を継続できる場合がある。したがって、マスターデータエラーへの適切な応答は、対象オブジェクト112(すなわち、マスターデータ252と一致しないオブジェクト)を一時的な場所に載置すること、後続のオブジェクトをそれらの指定位置または一時的な場所に載置すること(たとえば、載置によって、対象オブジェクト112の当初の意図した進入経路510が遮られる場合など)を含むことができる。想定オブジェクト(すなわち、対象オブジェクト112と対照的なもの)が開始位置114に到着した場合、ロボットシステム100は、想定オブジェクトを当初意図した位置に載置することができる。対象オブジェクト112を一時的な場所に貯蔵するまたは載置することは、Rosen N.KiankovおよびDenys Kanunikovによる、「ROBOTIC SYSTEM FOR PROCESSING PACKAGES ARRIVING OUT OF SEQUENCE」と題された、同時出願された米国特許出願により詳細に記載されており、これはMujin,Incに譲渡され、代理人整理番号131837−8008.US01によって識別され、その全体が引用により本明細書に組み込まれている。想定オブジェクト(すなわち、対象オブジェクト112と同一のタイプ/識別子)の1つまたは複数の後続のインスタンスもマスターデータエラーを引き起こす場合、いくつかの実施形態では、ロボットシステム100は、対象オブジェクト112の寸法および/または離散化モデルを想定オブジェクトのそれらと比較することができる。比較されたデータが一致するまたは所定の閾値範囲内である場合、ロボットシステム100は、オペレータに通知する、および/またはマスターデータを更新した後にパッキングプランの実施を継続することができる。たとえば、フローはブロック804に戻って、対象オブジェクト112の離散化モデルをリアルタイムに動的に生成し、生成された離散化モデルを含むようにマスターデータ252を更新することができる。
寸法および/または離散化データが一致しない、または閾値範囲を超える寸法だけ異なる場合、ロボットシステム100は、既存のパッキングプランを破棄し、更新されたマスターデータおよび現在の状況(たとえば、残余パッケージおよび/または載置面の最初の高さ)に応じてパッキングプランを再導出することができる。したがって、ロボットシステム100は、上述の方法700あるいはその1つまたは複数の部分を実施することができる。いくつかの実施形態では、たとえば、ロボットシステム100は、残余オブジェクトに応じてパッケージセットを再識別し(ブロック706)、(たとえば、ブロック704その他に示すように)以下の動作のうちの1つまたは複数を実施することができる。いくつかの実施形態では、ロボットシステム100は、(たとえば、載置済みオブジェクトを持ち去ることによって)現在の状況に応じて決定済みのパッケージグループにアクセスおよび調整し、決定済みの処理順序を維持し、それに従って2Dおよび3D載置プランを再導出することができる。たとえば、ロボットシステム100は、タスク位置116における現在の状況を更新された載置面として(たとえば、離散化台モデル304の代わりに)使用する、または現在の状況をプランの既存の部分、たとえば、上述の以前の計画の反復の結果とみなすことができる。代替的に、パッケージの残数が限界値未満である場合、ロボットシステム100は、以下に詳述するように載置位置を動的に導出することができる。
他の例として、タスク位置116にあるコンテナが完全に開いていない載置アクセス性エラーの場合、ロボットシステム100は、オペレータおよび/または他のシステムに、ケージまたはカートラックが完全に開いていないと警告することができる。追加的に、または代替的に、ロボットシステム100は、コンテナが完全に開いていないことによってパッキングプランが影響を受ける範囲を決定することができる。たとえば、ロボットシステム100は、3Dパッキングプランを目的地データ(たとえば、画像および/または深度マップ)に重ね、ケージ/カートラックの部分的に閉じた壁またはカバーと重なる3Dパッキングプラン内のオブジェクトを識別する、および/または数えることに基づいて、範囲(たとえば、3Dパッキングプラン内の影響を受けるオブジェクトの数および/または相対位置)を決定することができる。また、ロボットシステム100は、3Dパッキング内のオブジェクトのうちの1つまたは複数についての進入経路510をケージ、カートラックの壁/エッジと比較することによって範囲を決定し、壁/エッジと交差する経路を特定することができる。ロボットシステム100は、影響を受けるオブジェクトによって支持される他の依存するオブジェクトを(たとえば、所定の機能、ルール、モデルなどに従って)識別し、(たとえば、影響を受けるオブジェクトの数を増加させることによって)考慮することに基づいて、範囲を調整することができる。これらの実施形態では、影響を受けるオブジェクトの位置/パターンが1つまたは複数の所定のテンプレートと一致し、および/または影響を受けるオブジェクトの数量が閾値数量を下回る場合、ロボットシステム100は適切な応答が、ロボットシステム100がコンテナおよび/または載置済みオブジェクト508との衝突を回避しながら、パッキングプランによって指定されたタスク位置116における位置に対象オブジェクト112を載置するように進入経路510を動的に修正または調整することによってパッキングプランを実施することであると決定することができる。
代替的に、ロボットシステム100は、たとえば、影響を受けるオブジェクトの数が閾値数量を超える場合、これはタスク位置116の大部分がロボットシステム100にとってアクセスしにくい状況に対応するが、コンテナが完全にまたはほとんど閉じていると判定することができる。いくつかの実施形態では、ロボットシステム100は、載置アクセス性エラーへの適切な応答が、(ブロック808〜816に関して以下でより詳細に説明するように)対象オブジェクト112および/または続いて到着するオブジェクトの載置位置350を、オブジェクトが開始位置114に到着したときに、動的に再導出/調整することであると決定することができる。いくつかの実施形態では、ロボットシステム100は、載置アクセス性エラーへの適切な応答が、ロボットシステム100にとってまだアクセス可能な分だけタスク位置116を利用する新たなパッキングプランを作成することであると決定することができる。たとえば、ロボットシステム100は、パッキング動作(ブロック801)を停止し、グループ化条件に従って利用可能パッケージ(たとえば、対象オブジェクト112、開始位置114にまだ到着していないが以前のパッキングプランによれば到着する予定のパッケージ、および/または載置済みオブジェクト508)をグループ化することによって、新たなパッキングプランについてのパッケージグループを決定することができる。ロボットシステム100は次いで、(i)一意のアイテムを識別し、載置位置を反復的に導出することによって、2Dプランを生成し、(ii)2Dプランを3D状態に変換し、3Dスコアを計算し、載置スコアに応じて載置組み合わせを選択することによって、新たなパッキングプランを生成することができる。これらおよび他の実施形態では、ロボットシステム100は、(i)対象オブジェクト112および/または開始位置114に到着する1つまたは複数の他のパッケージを貯蔵して、前のパッキングプランによって定義されるパッキングシーケンスを調整する、および/または(ii)1つまたは複数の載置済みオブジェクト508を位置調整することができる。
いくつかの実施形態では、ロボットシステム100は、特定されたエラーおよび/または潜在的な衝突への適切な応答が、対象オブジェクト112および後続のオブジェクトの載置位置350を動的に導出することであると決定することができる。たとえば、ロボットシステム100は、特定されたエラーおよび/または潜在的な衝突が事前定義された条件または閾値に合致するまたは超える場合に、載置位置350を動的に導出することができる。具体例として、ロボットシステム100は、上述の想定外載置エラー(たとえば、1つまたは複数の載置済みオブジェクト508が動いた、ずれたなどの場合)に応答して、載置位置を動的に導出することができる。
対象オブジェクト112の載置位置350を動的に導出するために、ブロック808において、ロボットシステム100は、対象オブジェクト112をタスク位置116に/上方に載置するための候補位置のセット(たとえば、図3Bの候補位置360)を導出することができる。ロボットシステム100は、対象オブジェクト112の離散化オブジェクトモデル302をタスク位置116の現在の状態の離散化台モデル304上に、タスク位置116内/上方の対応する位置に重ねることに基づいて、候補位置360を導出することができる。候補位置360は、水平面に沿った、離散化台モデル304上方/内の離散化オブジェクトモデル302の位置に対応することができる。ロボットシステム100は、載置済みオブジェクト508に重なるおよび/または隣接する候補位置360を導出することができる。
いくつかの実施形態では、ロボットシステム100は、初期載置位置を決定することに基づいて(たとえば、候補位置360のインスタンスの所定の位置、たとえば、載置エリアの指定されたコーナー)、離散化オブジェクトモデル302の位置を反復的に決定することができる。ロボットシステム100は、次の候補位置360を導出するための所定の方向、反復にわたる候補位置360間の離間要件、載置を規定するルール/条件、候補位置360の総数の制限、それらの1つまたは複数のパターン、またはこれらの組み合わせに従って、後続の候補位置360を決定することができる。さらに、ロボットシステム100は、載置済みオブジェクト508に対する候補位置360を決定するための設定および/またはルールのセットを含むことができる。たとえば、ロボットシステム100は、離散化オブジェクトモデル302が載置済みオブジェクト508の1つまたは複数のエッジ、および/または載置エリア340の周囲境界/周縁に隣接または当接する候補位置360を決定するための(たとえば、他のほとんどのタイプ/カテゴリの候補位置360よりも早く機能を実行するための)設定を使用して構成することができる。また、ロボットシステム100は、離散化オブジェクトモデル302が載置済みオブジェクト508の上にあり、オブジェクトのうちの1つに収まり、および/またはオブジェクトの1つまたは複数のエッジと重なる候補位置360を決定するための設定を使用して構成することができる。
ロボットシステム100は、離散化オブジェクトモデル302を載置するための所定のルール、パターン、制限、および/またはシーケンスに従って、候補位置360を導出することができる。たとえば、ロボットシステム100は、たとえば、載置済みオブジェクト508の最も外側のエッジに隣接する、および/または所定の距離制限内にあるオブジェクトエッジについての設定に基づいて、候補位置360を導出することができる。また、ロボットシステム100は、たとえば、離散化オブジェクトモデル302がパレット、ケージなどの境界/エッジに最も近いまたは当接する載置エリア340の外側のエッジ/境界に対する設定に基づいて、候補位置360を導出することができる。また、ロボットシステム100は、載置済みオブジェクト508に重なる候補位置360を導出することができる。
ブロック810において、ロボットシステム100は、3Dスタッキングの評価などのために、図3Bの載置エリア340のリアルタイムの状況を決定/更新することができる。たとえば、ロボットシステム100は、目的地センサデータを使用して、図4の高さ寸法402を決定することができる。ロボットシステム100は、目的地センサデータから導出された深度寸法、ならびにタスク位置116および/またはセンサの既知の高さを使用して、タスク位置116における上面(複数可)の高さを計算することができる。ロボットシステム100は、計算された高さを離散化台モデル304内の単位ピクセル310と照合し、単位ピクセル310内の計算された最大の高さを対応する高さ寸法402として割り当てることができる。いくつかの実施形態では、ロボットシステム100は、候補位置360内の離散化オブジェクトモデル302が重なる単位ピクセル310についての高さ寸法402を決定することができる。
ブロック812において、ロボットシステム100は、候補位置360を評価することができる。いくつかの実施形態では、ロボットシステム100は、リアルタイムの状況、処理結果、所定のルールおよび/またはパラメータ、またはこれらの組み合わせに従って、候補位置360を評価することができる。たとえば、ロボットシステム100は、対応する載置スコアを計算すること、候補位置360を検証する/適格とみなすこと、またはこれらの組み合わせに基づいて、候補位置360を評価することができる。
ブロック842において、ロボットシステム100は、各候補位置360についての載置スコアを計算することができる。ロボットシステム100は、載置条件のうちの1つまたは複数に従って載置スコアを計算することができる。たとえば、ロボットシステム100は、(たとえば、乗数の重みを介した)載置設定および/または式を使用して、パッケージ間の離間距離、水平に隣接するパッケージについてのパッケージ寸法/脆性レーティング/パッケージ重量の差、(たとえば、図5の進入経路510またはその特性、および/または図6の水平間隔616に基づく)衝突確率、同じ高さの連続面/隣接面、その統計結果(たとえば、平均、最大、最小、標準偏差など)、またはこれらの組み合わせについての設定を記述することができる。載置設定の他の例としては、結果の高さ、近接度、エッジ−載置ステータス、最大支持可能重量、オブジェクトタイプ、支持重量比、またはこれらの組み合わせを挙げることができる。したがって、いくつかの実施形態では、ロボットシステム100は、より低い最大高さのための、載置済みオブジェクトの境界または載置台のエッジ付近に対象オブジェクト112を載置するための、隣接するオブジェクトの高さおよび/または最大支持可能重量の差を最小化するための、対象オブジェクト112が重なるオブジェクトについての支持重量と最大支持可能重量との比を低下させるための、隣接するオブジェクトのオブジェクトタイプを一致させるための、またはこれらの組み合わせのための設定を表す処理の重み/乗数を含むことができる。各載置位置は、システム製造業者、注文、および/またはシステムオペレータによって事前定義される選好係数および/または式に従ってスコア付けすることができる。
いくつかの実施形態では、たとえば、ロボットシステム100は、候補位置360についての支持度合いに基づいて載置スコアを計算することができる。ロボットシステム100は、少なくとも部分的に高さ寸法402に基づいて、候補位置360のうちの1つまたは複数についての(たとえば、オブジェクトをスタックする際の)支持量を計算することができる。説明用の例として、ロボットシステム100は、各候補位置360についての図4Bの最大高さ420を特定することに基づいて、支持量を計算することができる。図4Bの最大高さ420および高さ差分閾値416に基づいて、ロボットシステム100は、各候補位置360についての図4Bの高さ下限422を計算することができる。ロボットシステム100は、候補位置360の高さ寸法402を対応する高さ下限422と比較して、各候補位置360についての図4Bの支持位置442を特定することができる。ロボットシステム100は、対応する支持位置442の図4Bの適格数424に基づいて、各候補位置360についての載置スコアを計算することができる。
1つまたは複数の実施形態では、ロボットシステム100は、候補位置360についての図4Bの支持エリア輪郭426を導出することに基づいて載置スコアを計算することができる。上述のように、ロボットシステム100は、対応する位置における支持位置442のうちの最も外側の/外周のインスタンスの外側のエッジを伸ばす、および/またはコーナーをつなぐことに基づいて、各候補位置360についての支持エリア輪郭426のセットを導出することができる。支持位置442に基づいて、ロボットシステム100は、載置スコアを計算するために、図4Bの支持エリアサイズ428および/または図4Bの支持比430を決定することができる。また、ロボットシステム100は、CoM位置432と支持エリア輪郭426との間の最小離間距離を計算することができる。ロボットシステム100は、支持エリアサイズ428、支持比430、最小離間距離、対応する選好重み、またはこれらの組み合わせを使用して、対応する候補位置についての載置スコアを計算することができる。
1つまたは複数の実施形態では、ロボットシステム100は、上述のように候補位置360についての進入経路510を導出することに基づいて、載置スコアを計算することができる。ロボットシステム100は、図6の最終セグメント606(たとえば、その長さ)、図6の1つまたは複数の経路セグメント604の数量/長さ、またはこれらの組み合わせに応じて、各候補位置360についての載置スコアを計算することができる。いくつかの実施形態では、ロボットシステム100は、候補位置360についての図6の水平間隔616に基づいて、載置スコアを計算することができる。
いくつかの実施形態では、ブロック844に示すように、ロボットシステム100は、候補位置360を適格とみなすことができる。ロボットシステム100は、1つまたは複数の載置制約に従って候補位置360の検証済みセットを動的に導出することに基づいて、候補位置360を適格とみなすことができる。検証済みセットを導出する際に、ロボットシステム100は、少なくとも部分的に高さ寸法402に関連する載置制約のうちの1つまたは複数に違反するまたは満たさない候補位置360のインスタンスを排除するまたは不適格とみなすことができる。1つまたは複数の実施形態では、ロボットシステム100は、まず検証済みセットを導出し、次いで検証済みセットについての載置スコアを計算することができる。1つまたは複数の実施形態では、ロボットシステム100は、載置スコアの計算と同時に検証済みセットを導出することができる。
1つまたは複数の実施形態では、載置制約は、適格数424、支持エリア輪郭426のセット、支持エリアサイズ428、支持比430、CoM位置432、進入経路510、水平間隔616、またはこれらの組み合わせを、閾値(たとえば、図4Bの支持閾値418)または要件と比較することに関連するものとすることができる。たとえば、ロボットシステム100は、適格数424、支持エリアサイズ428、および/または支持比430が対応する閾値を満たす/超える位置を含むように、検証済みセットを導出することができる。また、ロボットシステム100は、CoM位置432が支持エリア輪郭426内にある/囲まれる、および/または支持エリア輪郭426から最小離間距離を満たす位置を含むように、検証済みセットを導出することができる。また、ロボットシステム100は、進入経路510(たとえば、その中の最終セグメント606)が最大長さ閾値を満たす、および/または水平間隔616が最小閾値を満たす位置を含むように、検証済みセットを導出することができる。
ブロック814において、ロボットシステム100は、対象オブジェクト112をタスク位置116の上方/タスク位置116に載置するための載置位置350を動的に導出することができる。ロボットシステム100は、検証済みセット内の位置または候補位置360のうちの1つを載置スコアに応じて選択することに基づいて、載置位置350を動的に導出することができる。いくつかの実施形態では、ロボットシステム100は、ヒープ構造を使用して候補位置360を追跡することができる。したがって、ロボットシステム100は、位置が上述の制約に違反する場合に、ヒープ構造からその位置を除去することができる。さらに、ロボットシステム100は、追跡位置を対応する載置スコアに応じて配列するまたはランク付けすることができる。いくつかの実施形態では、ロボットシステム100は、載置スコアまたはそのスコアの反復的な更新が計算されているときに、追跡位置を継続的に配列することができる。結果として、ロボットシステム100は、スコア計算が終了した場合に、ヒープ構造内の指定位置(たとえば、最初のスロット)における位置を載置位置350として選択することができる。
ブロック816において、ロボットシステム100は、対象オブジェクト112を導出された載置位置350に載置するための情報を伝達することができる。対象オブジェクト112を載置位置350に載置するための情報を伝達する際に、ロボットシステム100の1つまたは複数のコンポーネント/デバイスは、他のコンポーネント/デバイスと通信するおよび/または動作させることができる。たとえば、プロセッサ202および/またはスタンドアローンコントローラ(たとえば、倉庫/出荷センターの制御デバイスなど)のうちの1つまたは複数は、たとえば、載置位置350、対応するモーションプラン、図2のアクチュエーションデバイス212および/または図2の輸送モータ214を動作させるためのコマンドのセットおよび/または設定、またはこれらの組み合わせなどの情報を他のコンポーネント/デバイスに送信することができる。他のコンポーネント/デバイス、たとえば、プロセッサ202の他のインスタンス、および/または図5のロボットアーム502、アクチュエーションデバイス212、輸送モータ214、および/または他の外部デバイス/システムは、その情報を受信し、対応する機能を実行して、対象オブジェクト112を操作し(たとえば、把持および拾得し、空間を介して転置および/または向き変更し、目的地に載置し、および/または解放し)、載置位置に載置することができる。
ブロック818において、ロボットシステム100は、導出された載置位置への対象オブジェクト112の載置を検証することができる。たとえば、ロボットシステム100は、ブロック816において伝達された情報に応答して、ロボットシステム100が対象オブジェクト112を導出された載置位置に載置したか否かを判定することができ、載置した場合、ロボットシステム100は、目的地センサデータを分析することによって、導出された載置位置と比較した対象オブジェクト112の載置の精度を決定することができる。いくつかの実施形態では、ロボットシステム100は、対象オブジェクト112を載置した後に、リアルタイムパッケージング状況を更新するまたは再識別することができる。換言すれば、ブロック818に続いて、制御フローはブロック801および/または802に移動することができる。したがって、ロボットシステム100は、次の到来オブジェクトを対象オブジェクト112として更新/識別することができる。ロボットシステム100は、最近載置されたオブジェクトを含むように、載置エリア340および/またはその上の載置済みオブジェクト508に関する情報を更新することもできる。他の実施形態では、ロボットシステム100は、対象オブジェクト112を載置した後に、パッキングプランを再計算または調整し、および/またはパッキングプランに従って再開することができる(ブロック801)。
上述のタスクの離散化および2D/3Dレイヤ化によって、オブジェクトをパッキングする効率、速度、および精度が向上する。したがって、オペレータ入力の削減および精度の向上によって、自動化パッキング処理に関する人間の労力をさらに減少させることができる。一部の環境では、上述のロボットシステム100は、約100万USドルまたはそれ以上のコストがかかり得る配列バッファの必要性を排除することができる。
さらに、(たとえば、センサデータおよび他のステータス/データによって表現される)リアルタイムの状況に応じて載置位置350を動的に計算することによって、動作エラーが削減される。上述のように、ロボットシステムは、人間の介入を必要とせずに、想定外の状況/イベントによって導入されるエラーおよび/または潜在的な衝突を考慮し、解決することができる。また、上述の実施形態は、オブジェクトが開始位置114に到着したときに載置位置350を動的に導出することなどによって、事前に存在するパッキングプランなしで、または想定外の条件/イベントが事前に存在するパッキングプランの全部または一部に影響する場合に、オブジェクトを3Dでスタックすることができる。2Dの動的パッキング(すなわち、オブジェクトを単一のレイヤとして台に直接載置するもの)に限定される従来のシステムと比較して、高さを考慮することによって、上述の実施形態は、オブジェクトを互いの上にスタックし、パッキング密度を向上させることが可能になる。このように、ロボットシステム100は、エラーおよび/または潜在的な衝突を識別することができ、それに応答して適切な行動を決定することができ、これは、以前のパッキングプランを実施し続けているか、以前のパッキングプランの一部を復旧させているか、新たなパッキングプランを生成しているか、および/または対象オブジェクト112と、続いて開始位置114に到着する予定の1つまたは複数のパッケージとの載置位置を動的に導出しているかを問わない。
結論
開示した技術の実施例の上記の詳細な説明は、網羅的なものではなく、開示した技術を上記で開示した厳密な形に限定するものでもない。開示した技術の具体例を例示の目的で上述しているが、当業者であれば理解するように、開示した技術の範囲内で様々な等価な修正が可能である。たとえば、処理またはブロックを所与の順序で提示しているが、代替的な実施態様は異なる順序のステップを有するルーチンを実行してもよく、または異なる順序のブロックを有するシステムを採用してもよく、一部の処理またはブロックを削除、移動、追加、細分化、結合、および/または修正して、代替的な組み合わせまたは部分的な組み合わせを提供してもよい。これらの処理またはブロックのそれぞれは、種々の異なる方法で実施されてもよい。また、処理またはブロックは順番に実行されるように示している場合があるが、これらの処理またはブロックは代わりに並列に実行または実施されてもよく、または異なる時刻に実行されてもよい。さらに、本明細書に記載の任意の特定の数字は例にすぎず、代替的な実施態様は異なる値または範囲を採用してもよい。
これらのおよび他の変更は、上記の詳細な説明に照らして、開示した技術に対して行うことができる。詳細な説明では、開示した技術の特定の例だけでなく、企図される最良の形態を説明しているが、上記の説明が文中でどれほど詳細に見えても、開示した技術は多くの方法で実践することができる。システムの詳細はその特定の実施態様において大幅に異なってもよく、本明細書で開示した技術によってなおも包含される。上述のように、開示した技術の特定の特徴または態様を説明する際に使用される特定の用語は、その用語が関連する開示した技術の任意の特定の特性、特徴、または態様に限定されるようにその用語が本明細書で再定義されることを意味するよう解釈されるべきではない。したがって、本発明は、添付の特許請求の範囲を除いて、限定されない。一般に、以下の特許請求の範囲で使用される用語は、上記の詳細な説明のセクションがそのような用語を明確に定義していない限り、開示した技術を本明細書で開示した具体例に限定するように解釈されるべきではない。本明細書で使用する場合、「Aおよび/またはB」などにおける「および/または」という語句は、Aのみ、Bのみ、ならびにAおよびBの両方を指す。
本発明の特定の態様を特定の請求項の形式で以下に提示するが、出願人は本発明の様々な態様を任意数の請求項の形式で企図している。したがって、出願人は、本出願または継続出願において、そのような追加の請求項の形式を追求するために本出願を提出した後に追加の請求を追求する権利を留保している。

Claims (20)

  1. ロボットシステムを動作させる方法であって、
    開始位置にあるまたは前記開始位置に近づいている対象オブジェクトを表すソースセンサデータを受信することと、
    前記ソースセンサデータを分析することであって、
    前記ソースセンサデータに少なくとも部分的に基づいて離散化オブジェクトモデルを決定することであって、前記離散化オブジェクトモデルは、単位ピクセルに従って2次元(2D)で前記対象オブジェクトの物理的な寸法または形状の少なくとも一方を表現する、前記決定することと、
    前記離散化オブジェクトモデルをパッキングプランまたはマスターデータの少なくとも一方と比較することであって、前記パッキングプランは前記ソースセンサデータを受信する前に導出され、前記パッキングプランはタスク位置上のオブジェクトの載置位置および姿勢を含み、さらに、前記マスターデータは、前記ロボットシステムに事前登録された、可能性のあるオブジェクトの記述を含む、前記比較することと
    を含む、前記分析することと、
    前記タスク位置あるいは前記タスク位置に載置済みの1つまたは複数のオブジェクトの少なくとも一方に関連付けられた載置エリアを表す目的地センサデータを受信することと、
    前記目的地センサデータを分析することであって、
    前記目的地センサデータに少なくとも部分的に基づいて離散化台モデルを決定することであって、前記離散化台モデルは、さらなる単位ピクセルに従って2Dで前記タスク位置の物理的な寸法または形状の少なくとも一方を表現する、前記決定することと、
    前記目的地センサデータに少なくとも部分的に基づいて高さ寸法を決定することであって、前記高さ寸法は、前記さらなる単位ピクセルの1つまたは複数のセットに対応する前記載置エリアの1つまたは複数の部分における最大の高さを表す、前記決定することと、
    前記離散化台モデルまたは前記高さ寸法の少なくとも一方を、前記載置エリアの想定台モデルまたは想定高さ寸法の少なくとも一方と比較することと
    を含む、前記分析することと、
    1つまたは複数のエラーを判定することであって、
    (i)(a)前記離散化オブジェクトモデルと、(b)前記パッキングプランまたは前記マスターデータの少なくとも一方と、の間の1つまたは複数の相違を特定することによって、少なくとも1つのソース照合エラーを判定すること、あるいは、
    (ii)(a)前記離散化台モデルまたは前記高さ寸法の少なくとも一方と、(b)前記想定台モデルまたは前記想定高さ寸法の少なくとも一方と、の間の1つまたは複数の相違を特定することによって、少なくとも1つの目的地照合エラーを判定すること
    の少なくとも一方を含む、前記判定することと、
    前記1つまたは複数のエラーを判定したことに応答して、前記判定された1つまたは複数のエラーに少なくとも部分的に基づいて、前記対象オブジェクトおよび/または1つまたは複数の他のオブジェクトの載置位置を調整することと
    を含む、方法。
  2. 前記ソースセンサデータを分析することは、前記離散化オブジェクトモデルを前記マスターデータと比較することを含み、前記1つまたは複数のエラーを判定することは、前記離散化オブジェクトモデルと前記マスターデータとの間の少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーは、前記マスターデータが誤っていることを表すマスターデータエラーを含む、
    請求項1に記載の方法。
  3. 前記パッキングプランは、前記対象オブジェクトを含むオブジェクトが前記開始位置に到着するシーケンスを指定し、
    前記ソースセンサデータを分析することは、前記離散化オブジェクトモデルを前記シーケンスによって指定される離散化オブジェクトモデルと比較することによって、前記離散化オブジェクトモデルを前記パッキングプランと比較することを含み、
    前記1つまたは複数のエラーを判定することは、前記離散化オブジェクトモデルと、前記シーケンスによって指定される前記離散化オブジェクトモデルとの間の少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーは、前記対象オブジェクトが、前記パッキングプランによって指定される前記シーケンスから外れて前記開始位置に到着したことを表す到着シーケンスエラーを含む、
    請求項1に記載の方法。
  4. 前記目的地センサデータを分析することは、前記離散化台モデルを前記想定台モデルと比較することを含み、
    前記1つまたは複数のエラーを判定することは、前記離散化台モデルと前記想定台モデルとの間の少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーは、載置アクセス性エラー、想定外載置エラー、および/または、前記タスク位置に関連付けられた前記載置エリアが、前記タスク位置に関連付けられた想定載置エリアと異なることを表す載置エリアエラーを含む、
    請求項1に記載の方法。
  5. 前記1つまたは複数のエラーを判定することは、衝突の危険性をもたらすリアルタイムパッケージング状況を特定することをさらに含み、
    前記リアルタイムパッケージング状況を特定することは、前記タスク位置にあるコンテナ、ケージ、またはカートラックの壁が完全に開いておらず、前記タスク位置に関連付けられた前記載置エリアの一部しか前記ロボットシステムにとってアクセス可能でないことを表す載置アクセス性エラーを判定することを含み、
    前記衝突の危険性は、前記ロボットシステムと、前記コンテナ、ケージ、またはカートラックとの間の衝突の危険性である、
    請求項4に記載の方法。
  6. 前記1つまたは複数のエラーを判定することは、(a)前記離散化台モデルおよび/または前記高さ寸法と、(b)前記想定台モデルおよび/または前記想定高さ寸法と、のそれぞれの少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーを判定することは、衝突の危険性をもたらすリアルタイムパッケージング状況を特定することをさらに含み、
    前記リアルタイムパッケージング状況を特定することは、前記タスク位置上の前記載置済みオブジェクトのうちのオブジェクトがずれた、落下した、変位した、またはこれらの組み合わせが発生したことを表す想定外載置エラーを判定することを含み、
    前記衝突の危険性は、前記ロボットシステムと、前記タスク位置上の前記載置済みオブジェクトのうちの前記オブジェクトとの間の衝突の危険性である、
    請求項1に記載の方法。
  7. 前記1つまたは複数のエラーを判定することは、(a)前記離散化台モデルおよび/または前記高さ寸法と、(b)前記想定台モデルおよび/または前記想定高さ寸法と、のそれぞれの少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーを判定することは、衝突の危険性をもたらすリアルタイムパッケージング状況を特定することをさらに含み、
    前記リアルタイムパッケージング状況を特定することは、前記タスク位置上の前記載置済みオブジェクトのうちのオブジェクトが誤って載置されたことを表す載置エリアエラーを判定することを含み、
    前記衝突の危険性は、前記ロボットシステムと、前記タスク位置上の前記載置済みオブジェクトのうちの前記オブジェクトとの間の衝突の危険性である、
    請求項1に記載の方法。
  8. 前記載置エリアの前記想定台モデルおよび/または前記想定高さ寸法は、前記パッキングプランによって指定され、
    前記1つまたは複数のエラーを判定することは、(a)前記離散化台モデルおよび/または前記高さ寸法と、(b)前記想定台モデルおよび/または前記想定高さ寸法と、のそれぞれの少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーを判定することは、衝突の危険性をもたらすリアルタイムパッケージング状況を特定することをさらに含み、
    前記リアルタイムパッケージング状況を特定することは、前記パッキングプランに含まれないオブジェクトが前記タスク位置上に配置されていることを表す載置エリアエラーを判定することを含み、
    前記衝突の危険性は、前記ロボットシステムと、前記パッキングプランに含まれない前記オブジェクトとの間の衝突の危険性である、
    請求項1に記載の方法。
  9. 前記1つまたは複数のエラーを判定することは、衝突の危険性をもたらすリアルタイムパッケージング状況を特定することをさらに含み、
    前記リアルタイムパッケージング状況を特定することは、以下の順序、
    前記タスク位置にあるコンテナ、ケージ、またはカートラックの壁が完全に開いておらず、前記タスク位置に関連付けられた前記載置エリアの一部しか前記ロボットシステムにとってアクセス可能でないことを表す載置アクセス性エラーを判定することであって、前記衝突の危険性は、前記ロボットシステムと、前記タスク位置にある前記コンテナ、ケージ、またはカートラックとの間の衝突の危険性である、前記判定することと、
    前記タスク位置上の前記載置済みオブジェクトのうちの第1のオブジェクトがずれた、落下した、変位した、またはこれらの組み合わせが発生したことを表す想定外載置エラーを判定することであって、前記衝突の危険性は、前記ロボットシステムと、前記タスク位置上の前記載置済みオブジェクトのうちの前記第1のオブジェクトとの間の衝突の危険性である、前記判定することと、
    前記タスク位置上の前記載置済みオブジェクトのうちの第2のオブジェクトが誤って載置されたことを表す載置エリアエラーを判定することであって、前記衝突の危険性は、前記ロボットシステムと、前記タスク位置上の前記載置済みオブジェクトのうちの前記第2のオブジェクトとの衝突の危険性である、前記判定することと、
    前記高さ寸法と前記想定高さ寸法との間の相違を表す載置エリアエラーを判定することであって、前記衝突の危険性は、前記ロボットシステムと、前記高さ寸法および前記想定高さ寸法との間の前記相違の一因となるオブジェクトとの間の衝突の危険性であり、前記相違の一因となる前記オブジェクトは、(a)前記載置済みオブジェクトのうちの第3のオブジェクト、(b)前記コンテナ、ケージ、またはカートラック、および/または(c)前記パッキングプランに含まれないが前記タスク位置に存在するオブジェクトを含む、前記判定することと
    によってエラーを判定することを含む、
    請求項1に記載の方法。
  10. 前記1つまたは複数のエラーを判定することは、(a)前記離散化台モデルおよび/または前記高さ寸法と、(b)前記想定台モデルおよび/または前記想定高さ寸法と、のそれぞれの少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーは、前記タスク位置上の前記載置済みオブジェクトのうちのオブジェクトが前記タスク位置に見当たらないことを表す載置エリアエラーを含む、
    請求項1に記載の方法。
  11. 前記1つまたは複数のエラーは、前記載置済みオブジェクトのうちの前記オブジェクトが、前記オブジェクトをソース位置から前記タスク位置まで輸送している間に落下したことを表す輸送または操作エラーをさらに含む、請求項10に記載の方法。
  12. 前記1つまたは複数のエラーを判定することは、(a)前記離散化台モデルおよび/または前記高さ寸法と、(b)前記想定台モデルおよび/または前記想定高さ寸法と、のそれぞれの少なくとも1つの相違を特定することを含み、
    前記1つまたは複数のエラーは、前記ロボットシステムのロボットユニット、前記対象オブジェクト、前記載置済みオブジェクト、前記タスク位置にあるコンテナ、または前記パッキングプランに含まれないが前記タスク位置に存在するオブジェクトのうちの少なくとも2つの間で衝突が発生したことを表す衝突エラーを含む、
    請求項1に記載の方法。
  13. 請求項1に記載の方法が、前記パッキングプランにおいて指定された前記対象オブジェクトについての前記載置位置に前記対象オブジェクトを載置する前に実行される、請求項1に記載の方法。
  14. 前記1つまたは複数のエラーを判定したことに応答して、
    前記離散化オブジェクトモデルを前記離散化台モデル上の対応する位置に重ねることに基づいて、1つまたは複数の候補位置を導出することと、
    前記高さ寸法に関連する1つまたは複数の載置制約に従って、前記候補位置の検証済みセットを動的に導出することと、
    前記検証済みセット内の位置についての載置スコアを計算することであって、前記載置スコアは1つまたは複数の載置設定に応じて計算される、前記計算することと、
    前記載置スコアに従って前記検証済みセット内の前記位置のうちの1つを選択することに基づいて載置位置を動的に導出することであって、前記載置位置は前記対象オブジェクトを前記タスク位置に載置するためのものである、前記導出することと
    をさらに含む、請求項1に記載の方法。
  15. 前記検証済みセットを導出することは、
    前記対象オブジェクトを前記候補位置に載置するための進入経路を導出することと、
    前記進入経路に基づいて前記検証済みセットを導出することと
    を含む、請求項14に記載の方法。
  16. 前記対象オブジェクトの前記載置位置を調整することは、前記対象オブジェクトを前記載置エリア上の前記載置位置に載置するための情報を生成することを含み、
    前記方法は、前記対象オブジェクトを前記載置エリア上の前記載置位置に載置するための前記生成された情報を伝達することをさらに含む、
    請求項14に記載の方法。
  17. 更新された目的地ソースデータを受信することと、
    前記更新された目的地ソースデータに少なくとも部分的に基づいて、前記載置位置における前記対象オブジェクトの載置精度を検証することと
    をさらに含む、請求項16に記載の方法。
  18. 前記判定された1つまたは複数のエラー、あるいは前記対象オブジェクトを載置するための前記載置位置のうちの少なくとも1つに少なくとも部分的に基づいて前記パッキングプランを更新または交換することをさらに含む、請求項14に記載の方法。
  19. 前記タスク位置および/または前記タスク位置上の載置済みオブジェクトに関連付けられた載置エリアを表す目的地センサデータをキャプチャするように構成される少なくとも1つのセンサと、
    少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサに接続され、前記プロセッサによって実行可能な命令が記憶される少なくとも1つのメモリデバイスと、備え、
    前記命令は、
    開始位置にあるまたは前記開始位置に近づいている対象オブジェクトを表すソースセンサデータを分析することであって、
    前記ソースセンサデータに少なくとも部分的に基づいて離散化オブジェクトモデルを決定することであって、前記離散化オブジェクトモデルは、単位ピクセルに従って2次元(2D)で前記対象オブジェクトの物理的な寸法または形状の少なくとも一方を表現する、前記決定することと、
    前記離散化オブジェクトモデルをパッキングプランまたはマスターデータの少なくとも一方と比較することであって、前記パッキングプランは前記ソースセンサデータを受信する前に導出され、前記パッキングプランはタスク位置上のオブジェクトの載置位置および姿勢を含み、さらに、前記マスターデータは、前記ロボットシステムに事前登録された、可能性のあるオブジェクトの記述を含む、前記比較することと
    を含む、前記分析することと、
    前記タスク位置あるいは前記タスク位置に載置済みの1つまたは複数のオブジェクトの少なくとも一方に関連付けられた載置エリアを表す目的地センサデータを分析することであって、
    前記目的地センサデータに少なくとも部分的に基づいて離散化台モデルを決定することであって、前記離散化台モデルは、さらなる単位ピクセルに従って2Dで前記タスク位置の物理的な寸法または形状の少なくとも一方を表現する、前記決定することと、
    前記目的地センサデータに少なくとも部分的に基づいて高さ寸法を決定することであって、前記高さ寸法は、前記さらなる単位ピクセルの1つまたは複数のセットに対応する前記載置エリアの1つまたは複数の部分における最大の高さを表す、前記決定することと、
    前記離散化台モデルまたは前記高さ寸法の少なくとも一方を、前記載置エリアの想定台モデルまたは想定高さ寸法の少なくとも一方と比較することと
    を含む、前記分析することと、
    1つまたは複数のエラーを判定することであって、
    (i)(a)前記離散化オブジェクトモデルと、(b)前記パッキングプランおよび/または前記マスターデータと、の1つまたは複数の相違を特定することによって、少なくとも1つのソース照合エラーを判定すること、あるいは、
    (ii)(a)前記離散化台モデルまたは前記高さ寸法の少なくとも一方と、(b)前記想定台モデルまたは前記想定高さ寸法の少なくとも一方と、の間の1つまたは複数の相違を特定することによって、少なくとも1つの目的地照合エラーを判定すること
    の少なくとも一方を含む、前記判定することと、
    前記判定された1つまたは複数のエラーに少なくとも部分的に基づいて、前記対象オブジェクトおよび/または1つまたは複数の他のオブジェクトの載置位置を調整することと
    を含む、ロボットシステム。
  20. ロボットシステムによりその1つまたは複数のプロセッサを介して実行された場合に、前記ロボットシステムに方法を実施させるプロセッサ命令が記憶される有形非一時的コンピュータ可読媒体であって、
    前記命令は、
    開始位置にあるまたは前記開始位置に近づいている対象オブジェクトを表すソースセンサデータを受信する命令と、
    前記ソースセンサデータを分析する命令であって、
    前記ソースセンサデータに少なくとも部分的に基づいて離散化オブジェクトモデルを決定する命令であって、前記離散化オブジェクトモデルは、単位ピクセルに従って2次元(2D)で前記対象オブジェクトの物理的な寸法または形状の少なくとも一方を表現する、前記決定する命令と、
    前記離散化オブジェクトモデルをパッキングプランまたはマスターデータの少なくとも一方と比較する命令であって、前記パッキングプランは前記ソースセンサデータを受信する前に導出され、前記パッキングプランはタスク位置上のオブジェクトの載置位置および姿勢を含み、さらに、前記マスターデータは、前記ロボットシステムに事前登録された、可能性のあるオブジェクトの記述を含む、前記比較する命令と
    を含む、前記分析する命令と、
    前記タスク位置あるいは前記タスク位置に載置済みの1つまたは複数のオブジェクトの少なくとも一方に関連付けられた載置エリアを表す目的地センサデータを受信する命令と、
    前記目的地センサデータを分析する命令であって、
    前記目的地センサデータに少なくとも部分的に基づいて離散化台モデルを決定する命令であって、前記離散化台モデルは、さらなる単位ピクセルに従って2Dで前記タスク位置の物理的な寸法または形状の少なくとも一方を表現する、前記決定する命令と、
    前記目的地センサデータに少なくとも部分的に基づいて高さ寸法を決定することであって、前記高さ寸法は、前記さらなる単位ピクセルの1つまたは複数のセットに対応する前記載置エリアの1つまたは複数の部分における最大の高さを表す、前記決定する命令と、
    前記離散化台モデルまたは前記高さ寸法の少なくとも一方を、前記載置エリアの想定台モデルまたは想定高さ寸法の少なくとも一方と比較する命令と
    を含む、前記分析する命令と、
    1つまたは複数のエラーを判定する命令であって、
    (i)(a)前記離散化オブジェクトモデルと、(b)前記パッキングプランまたは前記マスターデータの少なくとも一方と、の間の1つまたは複数の相違を特定することによって、少なくとも1つのソース照合エラーを判定する命令、あるいは、
    (ii)(a)前記離散化台モデルまたは前記高さ寸法の少なくとも一方と、(b)前記想定台モデルまたは前記想定高さ寸法の少なくとも一方と、の間の1つまたは複数の相違を特定することによって、少なくとも1つの目的地照合エラーを判定する命令
    の少なくとも一方を含む、前記判定する命令と、
    前記判定された1つまたは複数のエラーに少なくとも部分的に基づいて、前記対象オブジェクトおよび/または1つまたは複数の他のオブジェクトの載置位置を調整する命令と
    を含む、有形非一時的コンピュータ可読媒体。
JP2019169752A 2019-05-31 2019-09-18 エラー検出および動的パッキング機構を有するロボットシステム Active JP6729953B1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/428,809 2019-05-31
US16/428,809 US10618172B1 (en) 2019-05-31 2019-05-31 Robotic system with error detection and dynamic packing mechanism

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020111103A Division JP2020196127A (ja) 2019-05-31 2020-06-29 エラー検出および動的パッキング機構を有するロボットシステム

Publications (2)

Publication Number Publication Date
JP6729953B1 JP6729953B1 (ja) 2020-07-29
JP2020196117A true JP2020196117A (ja) 2020-12-10

Family

ID=70223719

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019169752A Active JP6729953B1 (ja) 2019-05-31 2019-09-18 エラー検出および動的パッキング機構を有するロボットシステム
JP2020111103A Pending JP2020196127A (ja) 2019-05-31 2020-06-29 エラー検出および動的パッキング機構を有するロボットシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020111103A Pending JP2020196127A (ja) 2019-05-31 2020-06-29 エラー検出および動的パッキング機構を有するロボットシステム

Country Status (5)

Country Link
US (4) US10618172B1 (ja)
JP (2) JP6729953B1 (ja)
KR (2) KR102408914B1 (ja)
CN (1) CN112009810A (ja)
DE (2) DE102019009189B4 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7126667B1 (ja) 2021-07-21 2022-08-29 株式会社Mujin 深さベースの処理メカニズムを伴うロボットシステム及びロボットシステムを操作するための方法

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9233470B1 (en) * 2013-03-15 2016-01-12 Industrial Perception, Inc. Determining a virtual representation of an environment by projecting texture patterns
EP3606312B1 (en) * 2017-03-30 2022-01-26 Fuji Corporation Mounting system and reporting control device
US11046519B2 (en) 2019-02-25 2021-06-29 Rehrig Pacific Company Delivery system
US10766141B1 (en) * 2019-05-09 2020-09-08 Mujin, Inc. Robotic system with a coordinated transfer mechanism
US10618172B1 (en) 2019-05-31 2020-04-14 Mujin, Inc. Robotic system with error detection and dynamic packing mechanism
US11077554B2 (en) 2019-05-31 2021-08-03 Mujin, Inc. Controller and control method for robotic system
US10696494B1 (en) 2019-05-31 2020-06-30 Mujin, Inc. Robotic system for processing packages arriving out of sequence
CN111559544B (zh) * 2019-05-31 2021-05-11 牧今科技 具有错误检测和动态打包机制的机器人系统
US10647528B1 (en) 2019-05-31 2020-05-12 Mujin, Inc. Robotic system for palletizing packages using real-time placement simulation
US10696493B1 (en) 2019-05-31 2020-06-30 Mujin, Inc. Robotic system with packing mechanism
US10679379B1 (en) 2019-05-31 2020-06-09 Mujin, Inc. Robotic system with dynamic packing mechanism
EP4007679A4 (en) 2019-08-02 2023-08-09 Dextrous Robotics, Inc. ROBOT MANIPULATOR
US11138459B2 (en) * 2019-08-19 2021-10-05 International Business Machines Corporation Cognitive container content determination
US10954081B1 (en) 2019-10-25 2021-03-23 Dexterity, Inc. Coordinating multiple robots to meet workflow and avoid conflict
US11701776B2 (en) * 2019-10-25 2023-07-18 Dexterity, Inc. Robotic kitting machine
US11305430B2 (en) * 2019-11-11 2022-04-19 Symbotic Llc Pallet building system with flexible sequencing
US11587302B2 (en) * 2019-12-17 2023-02-21 X Development Llc Shared dense network with robot task-specific heads
US11922253B2 (en) 2020-04-20 2024-03-05 Rehrig Pacific Company Camera enabled portal
EP3915738B1 (en) * 2020-05-26 2024-04-10 Tata Consultancy Services Limited Gripper apparatus for multi object grasping and stacking
US20220289501A1 (en) * 2021-03-15 2022-09-15 Dexterity, Inc. Singulation of arbitrary mixed items
US20220402710A1 (en) * 2021-06-16 2022-12-22 Dexterity, Inc. Simulated box placement for algorithm evaluation and refinement
US20220405439A1 (en) * 2021-06-16 2022-12-22 Dexterity, Inc. Physics engine based evaluation of pallet stability
US20230044858A1 (en) * 2021-08-05 2023-02-09 Zebra Technologies Corporation Container Fullness Tracking Method and Systems
US11823440B2 (en) 2021-08-19 2023-11-21 Rehrig Pacific Company Imaging system with unsupervised learning
CA3181434A1 (en) 2021-11-01 2023-05-01 Rehrig Pacific Company Delivery system
WO2023108112A1 (en) * 2021-12-10 2023-06-15 Symbotic Llc Material handling system and method therefor
US20230241777A1 (en) * 2022-01-31 2023-08-03 Dexterity, Inc. Packing and planning for tight incollapsible loads
US20240104487A1 (en) * 2022-03-18 2024-03-28 Xpo Logistics, Inc. Intelligent shipment analysis and routing
WO2023205176A1 (en) 2022-04-18 2023-10-26 Dextrous Robotics, Inc. System and/or method for grasping objects
WO2024102775A1 (en) * 2022-11-09 2024-05-16 Van Doren Sales, Inc Tray insertion system and method
CN115965628B (zh) * 2023-03-16 2023-06-02 湖南大学 一种工件涂装质量在线动态检测方法及检测系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6219963A (ja) * 1985-07-19 1987-01-28 Hitachi Ltd 貨物自動積付装置の異常予報方式
JPH08118274A (ja) * 1994-10-26 1996-05-14 Mitsubishi Electric Corp 産業用ロボット装置
JP2017094428A (ja) * 2015-11-20 2017-06-01 ファナック株式会社 物品を積む位置を設定する積み付けパターン計算装置
JP2018136896A (ja) * 2017-02-24 2018-08-30 キヤノン株式会社 情報処理装置、システム、情報処理方法、および物品の製造方法

Family Cites Families (106)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3586176A (en) 1969-04-09 1971-06-22 George C Devol Palletizing apparatus
US4641271A (en) 1983-11-09 1987-02-03 Hitachi, Ltd. Piling planning method and piling system of cargoes by palletizing robot
DE3406858A1 (de) 1984-02-25 1985-10-03 OSTMA Maschinenbau GmbH, 5352 Zülpich Verfahren u. vorrichtung zum transportieren von mit riesel- oder fliessfaehigem gut gefuellten flachbeuteln zu einer stapelstelle, insbes. einem verpackungsbehaelter
US4692876A (en) 1984-10-12 1987-09-08 Hitachi, Ltd. Automatic freight stacking system
US5079699A (en) 1987-11-27 1992-01-07 Picker International, Inc. Quick three-dimensional display
US5175692A (en) 1989-04-14 1992-12-29 University Of Cincinnati Method and apparatus for palletizing randomly arriving mixed size and content parcels
JPH03162320A (ja) 1989-11-21 1991-07-12 Mitsubishi Electric Corp パレタイズ装置
JP2508410B2 (ja) 1990-11-30 1996-06-19 三菱電機株式会社 パレタイズ装置
NL9100483A (nl) 1991-03-19 1992-10-16 Nederland Ptt Werkwijze voor het bepalen van vrije deelvlakken op een gedeeltelijk met rechthoekige voorwerpen bedekt vlak alsmede een werkwijze voor het bepalen van vrije ruimten in een gedeeltelijk met voorwerpen in de vorm van een rechthoekig parallelepipedum gevulde ruimte.
US5501571A (en) 1993-01-21 1996-03-26 International Business Machines Corporation Automated palletizing system
US5908283A (en) 1996-11-26 1999-06-01 United Parcel Service Of Americia, Inc. Method and apparatus for palletizing packages of random size and weight
JPH11116056A (ja) 1997-10-14 1999-04-27 Okura Yusoki Co Ltd 積付パターン生成装置および積付装置
JPH11130263A (ja) 1997-10-27 1999-05-18 Yaskawa Electric Corp 積載パターン作成方法
JP3589880B2 (ja) 1998-12-08 2004-11-17 日本政策投資銀行 全自動混載積付方法及びそのシステム
US7062093B2 (en) 2000-09-27 2006-06-13 Mvtech Software Gmbh System and method for object recognition
JP2002154616A (ja) 2000-11-20 2002-05-28 Murata Mach Ltd デパレタイズシステム
JP3586639B2 (ja) 2000-11-20 2004-11-10 村田機械株式会社 配送センター
US20030110102A1 (en) 2001-05-29 2003-06-12 Chen-Fu Chien Method for goods arrangement and its system
JP2003104563A (ja) 2001-09-28 2003-04-09 Maki Mfg Co Ltd 入荷設備
KR100484163B1 (ko) 2002-09-14 2005-04-19 삼성전자주식회사 디지털 화질 개선 방법 및 장치
JP3969334B2 (ja) 2003-04-04 2007-09-05 株式会社ダイフク 物品の積付方法
JP4359108B2 (ja) 2003-09-17 2009-11-04 村田機械株式会社 ピッキング物品積上げ指示システム
DE10352279A1 (de) 2003-11-08 2005-06-09 Kuka Roboter Gmbh Verfahren und Vorrichtung zum Handhaben von Objekten
US7266422B1 (en) 2004-04-09 2007-09-04 Fanuc Robotics America, Inc. Automated palletizing cases having mixed sizes and shapes
AU2004201709A1 (en) 2004-04-23 2005-11-10 Foodmach Pty Ltd Materials handling system
US20080030497A1 (en) 2005-12-08 2008-02-07 Yangqiu Hu Three dimensional modeling of objects
JP4784823B2 (ja) * 2005-12-28 2011-10-05 株式会社Ihi 物品の荷崩れ検出方法および装置
JP4838627B2 (ja) 2006-04-25 2011-12-14 株式会社神戸製鋼所 表面性状に優れた高Si含有鋼板およびその製造方法ならびにその製造用の素材の高Si含有鋼材
US20080131255A1 (en) 2006-11-30 2008-06-05 Transbotics Corporation Palletizing systems and methods
US7773811B2 (en) 2006-12-06 2010-08-10 D & S Consultants, Inc. Method and system for searching a database of graphical data
DE102007001263B4 (de) 2007-01-08 2015-07-23 Kuka Roboter Gmbh Robotersystem zur Beladung von Lademitteln mit Stückguteinheiten
DE102007016727B4 (de) 2007-04-07 2010-06-10 Dematic Gmbh & Co. Kg Verfahren zum mehrlagigen Bestapeln eines Trägers
JP4302160B2 (ja) 2007-09-12 2009-07-22 ファナック株式会社 ロボットによるパレタイジング作業のためのロボットプログラミング装置
CN101145051A (zh) 2007-09-20 2008-03-19 广东韶钢松山股份有限公司 板材生产线堆垛过程自动化控制技术
US8264697B2 (en) 2007-11-27 2012-09-11 Intelligrated Headquarters, Llc Object detection device
DE102009011300B4 (de) 2009-03-02 2022-08-11 Kuka Roboter Gmbh Beladung von Lademitteln mit Paketen mittels Manipulator
DE102009011296B4 (de) 2009-03-02 2021-11-25 Kuka Roboter Gmbh Beladung eines Lademittels mit Paketen
DE102009011294B4 (de) 2009-03-02 2020-12-24 Kuka Roboter Gmbh Palletieren von Paketen mittels eines Manipulators
JP2011022784A (ja) 2009-07-15 2011-02-03 Sony Corp 情報処理装置、ブロック検出方法およびプログラム
JP5402697B2 (ja) 2009-10-26 2014-01-29 株式会社安川電機 ロボット装置及びワーク取り出しシステム並びにワーク取り出し方法
JP5257335B2 (ja) 2009-11-24 2013-08-07 オムロン株式会社 3次元視覚センサにおける計測有効領域の表示方法および3次元視覚センサ
US8447423B2 (en) 2009-11-30 2013-05-21 Exxonmobil Research And Engineering Company Method and apparatus for optimizing a performance index of a bulk product blending and packaging plant
US20130163879A1 (en) * 2010-08-30 2013-06-27 Bk-Imaging Ltd. Method and system for extracting three-dimensional information
CN201804260U (zh) 2010-09-01 2011-04-20 江苏天奇物流系统工程股份有限公司 座椅托盘堆垛机构的自动控制系统
JP2012140139A (ja) 2010-12-28 2012-07-26 Asahi Glass Co Ltd ガラス板梱包容器及び該ガラス板梱包容器を用いた運搬方法
JP5430796B2 (ja) 2011-04-14 2014-03-05 三菱電機株式会社 ロボット制御装置
WO2013059366A2 (en) * 2011-10-17 2013-04-25 Symbotic Llc Pallet building system
US10216865B1 (en) * 2012-03-06 2019-02-26 Vecna Robotics, Inc. Monitoring one or more articles on a support surface
US8996174B2 (en) * 2012-06-21 2015-03-31 Rethink Robotics, Inc. User interfaces for robot training
US9315344B1 (en) 2012-07-20 2016-04-19 Amazon Technologies, Inc. Container stacking configurations
US20140180479A1 (en) 2012-12-20 2014-06-26 Wal-Mart Stores, Inc. Bagging With Robotic Arm
US9233470B1 (en) 2013-03-15 2016-01-12 Industrial Perception, Inc. Determining a virtual representation of an environment by projecting texture patterns
JP5616478B1 (ja) 2013-04-18 2014-10-29 ファナック株式会社 ワークを搬送するロボットを備えるロボットシステム
CN103350908A (zh) 2013-06-13 2013-10-16 周怡 自动包装码垛控制系统及码垛系统
US9682826B2 (en) 2013-06-23 2017-06-20 Top Tier, Llc Item infeed apparatus and method for a palletizer system
US9663309B2 (en) 2013-09-06 2017-05-30 Liquor Control Board Of Ontario (Lcbo) Automated palletization method, system and software
CN103640729B (zh) 2013-11-25 2015-08-26 天津中财型材有限责任公司 一种塑钢异型材自动包装系统
US9393693B1 (en) 2014-07-10 2016-07-19 Google Inc. Methods and systems for determining and modeling admissible gripper forces for robotic devices
US9205558B1 (en) * 2014-07-16 2015-12-08 Google Inc. Multiple suction cup control
US9272417B2 (en) * 2014-07-16 2016-03-01 Google Inc. Real-time determination of object metrics for trajectory planning
CN104154878B (zh) 2014-07-29 2016-09-28 暨南大学 一种使用单像素探测器的光学成像方法
US9424470B1 (en) * 2014-08-22 2016-08-23 Google Inc. Systems and methods for scale invariant 3D object detection leveraging processor architecture
US9457477B1 (en) * 2014-08-25 2016-10-04 Google Inc. Variable stiffness suction gripper
US9507995B2 (en) * 2014-08-29 2016-11-29 X Development Llc Combination of stereo and structured-light processing
US9205562B1 (en) * 2014-08-29 2015-12-08 Google Inc. Integration of depth points into a height map
US9866815B2 (en) * 2015-01-05 2018-01-09 Qualcomm Incorporated 3D object segmentation
US9688489B1 (en) * 2015-03-30 2017-06-27 X Development Llc Modular dock for facilities integration
US9457970B1 (en) * 2015-03-30 2016-10-04 Google Inc. Modular cross-docking system
US9694498B2 (en) * 2015-03-30 2017-07-04 X Development Llc Imager for detecting visual light and projected patterns
US9715639B2 (en) 2015-06-18 2017-07-25 The Boeing Company Method and apparatus for detecting targets
WO2017018113A1 (ja) 2015-07-29 2017-02-02 株式会社オートネットワーク技術研究所 対象物のハンドリングシミュレーション装置、対象物のハンドリングシミュレーションシステム、対象物のハンドリングをシミュレーションする方法、対象物の製造方法及び対象物のハンドリングシミュレーションプログラム
US9718188B2 (en) 2015-09-21 2017-08-01 Amazon Technologies, Inc. Networked robotic manipulators
US9926138B1 (en) 2015-09-29 2018-03-27 Amazon Technologies, Inc. Determination of removal strategies
DE102015220091A1 (de) 2015-10-15 2017-04-20 Jungheinrich Aktiengesellschaft Autonomes Kommissioniergerät
EP3405418B1 (en) 2015-11-30 2021-06-09 Sidel Canada Inc. Distribution conveying device and conveying process
US10124489B2 (en) * 2016-02-26 2018-11-13 Kinema Systems Inc. Locating, separating, and picking boxes with a sensor-guided robot
JP6378232B2 (ja) 2016-03-17 2018-08-22 ファナック株式会社 複数の種類の物品を積み付けるための積み付けパターン計算装置および積み付け装置
CN105691717A (zh) 2016-03-25 2016-06-22 云南昆船电子设备有限公司 一种机器人抓取散状辅料包装置及寻包方法
US9965730B2 (en) 2016-08-23 2018-05-08 X Development Llc Autonomous condensing of pallets of items in a warehouse
JP6614075B2 (ja) 2016-09-07 2019-12-04 株式会社ダイフク 物品積載設備
JP6469061B2 (ja) 2016-09-29 2019-02-13 ファナック株式会社 積み付けパターン計算装置及び積み付けシステム
CN108064197B (zh) 2016-12-30 2021-04-06 深圳配天智能技术研究院有限公司 确定码垛点位置信息的方法、装置及机器人
JP7001354B2 (ja) 2017-03-29 2022-01-19 トーヨーカネツ株式会社 自動物流システム
US10328578B2 (en) 2017-04-21 2019-06-25 X Development Llc Methods and systems for detecting, recognizing, and localizing pallets
JP7116901B2 (ja) 2017-08-01 2022-08-12 オムロン株式会社 ロボット制御装置、ロボット制御方法及びロボット制御プログラム
JP6549654B2 (ja) 2017-08-03 2019-07-24 ファナック株式会社 ロボットシステムのシミュレーション装置およびシミュレーション方法
JP6680732B2 (ja) 2017-08-23 2020-04-15 ファナック株式会社 物品積み付け装置及び機械学習装置
CN207374734U (zh) 2017-09-11 2018-05-18 宁波德克尔运输设备有限公司 一种打包码垛一体化装置
US10713547B2 (en) 2017-10-17 2020-07-14 Kyocera Document Solutions Inc. Systems, processes, interfaces, and computer program products for verification of image content in software development systems
JP6647266B2 (ja) 2017-11-06 2020-02-14 西部電機株式会社 出庫処理システム及び出庫処理方法
JP6613288B2 (ja) 2017-11-14 2019-11-27 ファナック株式会社 積み付けパターン計算装置及びロボット制御装置
WO2019125613A1 (en) 2017-12-21 2019-06-27 Walmart Apollo, Llc System for dynamic pallet-build
JP2019117547A (ja) 2017-12-27 2019-07-18 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
CN108748136A (zh) 2018-04-10 2018-11-06 上海新时达机器人有限公司 机器人码垛程序生成方法、存储介质及示教器
CN108776879B (zh) 2018-06-04 2022-06-14 江苏楚门机器人科技有限公司 一种基于权重学习的垛形规划方法
CN109359739A (zh) 2018-09-13 2019-02-19 深圳市递四方信息科技有限公司 基于遗传算法的堆叠组合方法、装置、设备和存储介质
CN109132313A (zh) 2018-10-26 2019-01-04 北京旷视科技有限公司 物品移动系统、取货机器人、搬运机器人及方法
CN109353833B (zh) 2018-11-27 2021-06-29 深圳市汇川技术股份有限公司 机器人码垛点位生成方法、设备及计算机可读存储器
US10335947B1 (en) * 2019-01-18 2019-07-02 Mujin, Inc. Robotic system with piece-loss management mechanism
US10549928B1 (en) 2019-02-22 2020-02-04 Dexterity, Inc. Robotic multi-item type palletizing and depalletizing
US10696493B1 (en) 2019-05-31 2020-06-30 Mujin, Inc. Robotic system with packing mechanism
US11077554B2 (en) 2019-05-31 2021-08-03 Mujin, Inc. Controller and control method for robotic system
US10696494B1 (en) * 2019-05-31 2020-06-30 Mujin, Inc. Robotic system for processing packages arriving out of sequence
US10679379B1 (en) 2019-05-31 2020-06-09 Mujin, Inc. Robotic system with dynamic packing mechanism
US10618172B1 (en) 2019-05-31 2020-04-14 Mujin, Inc. Robotic system with error detection and dynamic packing mechanism
US10647528B1 (en) 2019-05-31 2020-05-12 Mujin, Inc. Robotic system for palletizing packages using real-time placement simulation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6219963A (ja) * 1985-07-19 1987-01-28 Hitachi Ltd 貨物自動積付装置の異常予報方式
JPH08118274A (ja) * 1994-10-26 1996-05-14 Mitsubishi Electric Corp 産業用ロボット装置
JP2017094428A (ja) * 2015-11-20 2017-06-01 ファナック株式会社 物品を積む位置を設定する積み付けパターン計算装置
JP2018136896A (ja) * 2017-02-24 2018-08-30 キヤノン株式会社 情報処理装置、システム、情報処理方法、および物品の製造方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7126667B1 (ja) 2021-07-21 2022-08-29 株式会社Mujin 深さベースの処理メカニズムを伴うロボットシステム及びロボットシステムを操作するための方法
JP2023016699A (ja) * 2021-07-21 2023-02-02 株式会社Mujin 深さベースの処理メカニズムを伴うロボットシステム及びロボットシステムを操作するための方法

Also Published As

Publication number Publication date
KR20200138076A (ko) 2020-12-09
KR102408914B1 (ko) 2022-06-14
US20210237274A1 (en) 2021-08-05
DE102019130043B4 (de) 2020-12-17
US20240109199A1 (en) 2024-04-04
US11794346B2 (en) 2023-10-24
US10953549B2 (en) 2021-03-23
JP2020196127A (ja) 2020-12-10
KR20220080061A (ko) 2022-06-14
US20200376670A1 (en) 2020-12-03
CN112009810A (zh) 2020-12-01
DE102019130043A1 (de) 2020-12-03
DE102019009189A1 (de) 2020-12-03
DE102019009189B4 (de) 2022-07-28
JP6729953B1 (ja) 2020-07-29
US10618172B1 (en) 2020-04-14

Similar Documents

Publication Publication Date Title
JP6729953B1 (ja) エラー検出および動的パッキング機構を有するロボットシステム
JP6771799B1 (ja) 壁に基づくパッキング機構を有するロボットシステム及びその動作方法
JP6704157B1 (ja) 動的パッキング機構を有するロボットシステム
US11319166B2 (en) Robotic system with packing mechanism
JP2020196612A (ja) 順序通りでなく到着するパッケージを処理するためのロボットシステム
CN111498213B (zh) 具有动态打包机制的机器人系统
CN111498212B (zh) 用于处理失序到达的包裹的机器人系统
CN111559544B (zh) 具有错误检测和动态打包机制的机器人系统
CN111498214B (zh) 具有打包机制的机器人系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191112

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20191112

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200629

R150 Certificate of patent or registration of utility model

Ref document number: 6729953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350