JP2022131750A - ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法 - Google Patents

ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法 Download PDF

Info

Publication number
JP2022131750A
JP2022131750A JP2021030860A JP2021030860A JP2022131750A JP 2022131750 A JP2022131750 A JP 2022131750A JP 2021030860 A JP2021030860 A JP 2021030860A JP 2021030860 A JP2021030860 A JP 2021030860A JP 2022131750 A JP2022131750 A JP 2022131750A
Authority
JP
Japan
Prior art keywords
holding
score
movable arm
holding method
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021030860A
Other languages
English (en)
Inventor
和馬 古茂田
Kazuma Komoda
征司 十倉
Seiji Tokura
春菜 衛藤
Haruna Eto
昭人 小川
Akito Ogawa
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2021030860A priority Critical patent/JP2022131750A/ja
Priority to CN202210167479.2A priority patent/CN115042169A/zh
Priority to US17/652,122 priority patent/US20220274252A1/en
Priority to EP22158509.4A priority patent/EP4049809A1/en
Publication of JP2022131750A publication Critical patent/JP2022131750A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1612Programme controls characterised by the hand, wrist, grip control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/0052Gripping heads and other end effectors multiple gripper units or multiple end effectors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/06Gripping heads and other end effectors with vacuum or magnetic holding means
    • B25J15/0616Gripping heads and other end effectors with vacuum or magnetic holding means with vacuum
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/06Gripping heads and other end effectors with vacuum or magnetic holding means
    • B25J15/0616Gripping heads and other end effectors with vacuum or magnetic holding means with vacuum
    • B25J15/065Gripping heads and other end effectors with vacuum or magnetic holding means with vacuum provided with separating means for releasing the gripped object after suction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J18/00Arms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/1653Programme controls characterised by the control loop parameters identification, estimation, stiffness, accuracy, error analysis
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1661Programme controls characterised by programming, planning systems for manipulators characterised by task planning, object-oriented languages
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39465Two fingers each with 2-DOF
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39467Select hand as function of geometric form of hand
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39484Locate, reach and grasp, visual guided grasping
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39533Measure grasping posture and pressure distribution
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39543Recognize object and plan hand shapes in grasping movements
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39558Vacuum hand has selective gripper area
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40053Pick 3-D object from pile of objects
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40306Two or more independent robots

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Automation & Control Theory (AREA)
  • Manipulator (AREA)

Abstract

【課題】ハンドリング装置の動作時間を短縮できるハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法を提供する。【解決手段】実施形態のハンドリングシステムは、可動アームと、保持部と、センサと、制御部と、を持つ。前記保持部は、前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能である。前記センサは、複数の前記物体を検出可能である。前記制御部は、前記可動アームおよび前記保持部を制御する。前記制御部は、前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出する。前記制御部は、前記スコアに基づいて、次に保持する前記物体および保持方法を選択する。前記制御部は、選択された前記物体を保持する位置および前記可動アームの姿勢を算出する。【選択図】図1

Description

本発明の実施形態は、ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法に関する。
従来、エンドエフェクタが対象物を保持するハンドリング装置が知られている。物流現場における移載動作の自動化には、多種多様な形状や大きさ、重さを有した対象物を保持できることが求められる。ハンドリング装置を用いてこれらの対象物を保持する際には、保持位置、保持手法、ロボットアームの姿勢などの保持戦略の決定に多く演算が必要である。対象物の積載状態が複雑になると、保持戦略の決定に必要な演算の所要時間が長くなる。
また、複数の保持用ツールを選択的に使用して作業を行う場合において、保持方法の切替え回数が多すぎると、ツールの交換動作の分だけ作業全体に要する時間が長くなる可能性がある。
特許第5130509号公報 特開2019-188516号公報
本発明が解決しようとする課題は、ハンドリング装置の動作時間を短縮できるハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法を提供する。
実施形態のハンドリングシステムは、可動アームと、保持部と、センサと、制御部と、を持つ。前記保持部は、前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能である。前記センサは、複数の前記物体を検出可能である。前記制御部は、前記可動アームおよび前記保持部を制御する。前記制御部は、前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出する。前記制御部は、前記スコアに基づいて、次に保持する前記物体および保持方法を選択する。前記制御部は、選択された前記物体を保持する位置および前記可動アームの姿勢を算出する。
別の実施形態のハンドリングシステムは、可動アームと、保持部と、センサと、制御部と、を持つ。前記保持部は、前記可動アームに取り付けられ、複数の保持機構のうち一つ以上を選択して保持対象物を保持することが可能である。前記センサは、前記保持対象物を検出可能である。前記制御部は、前記可動アームおよび前記保持部を制御する。前記制御部は、前記センサから取得した情報に基づいて、保持対象物の何れかと、前記保持機構の何れかから、選択される保持機構を基準としたスコアを算出する。前記制御部は、前記スコアに基づいて、保持対象物、および前記選択される保持機構の後に前記保持対象物を保持する保持機構を選択する。前記制御部は、前記選択される保持機構の後に前記保持対象物を保持する保持機構が、前記保持対象物を保持する位置、および前記可動アームの姿勢を算出する。
第1の実施形態のハンドリングシステムを含む搬送システムを模式的に示す斜視図。 第1の実施形態のハンドリングシステムを含む搬送システムのシステム構成を示すブロック図。 第1の実施形態の制御装置による制御フローチャート。 「挟持」によって物体Oを保持する場合における、物体の画像データにおける仮マスク領域を示す図。 物体の画像データにおけるマスク領域を示す図。 物体のデプス画像を示す図。 物体の3次元位置および姿勢を説明する図。 3次元位置および姿勢に関する情報が付加されたマスク領域を示す図。 第1の実施形態に係る制御装置による保持戦略計画工程の制御フローチャート。 第2の実施形態に係る制御装置による保持戦略計画工程の制御フローチャート。
以下、実施形態のハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法を、図面を参照して説明する。
なお、以下の説明では、同一または類似の機能を有する構成に同一の符号を付す。そして、それら構成の重複する説明は省略する場合がある。また、本願でいう「XXに基づく」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含む。また、「XXに基づく」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含む。「XX」は、任意の要素(例えば、任意の情報)である。
(第1の実施形態)
図1~9を参照して、一実施形態について説明する。図1は、本実施形態のハンドリング装置10(「ハンドリングシステム」の一例)を含む搬送システム1を模式的に示す斜視図である。
搬送システム1は、例えば物流用のハンドリングシステム(ピッキングシステム)である。搬送システム1は、移動元V1に位置する物体(保持対象物、搬送対象物)Oを、移動先V2に移動させる。例えば、搬送システム1は、移動元V1などに収納された多種類の物体Oを、指定された数だけ取り出して移動先V2に積載する作業を行う。
移動元V1は、例えば、各種のコンベアや各種のパレット、またはトートやオリコンのようなコンテナなどである。「コンテナ」とは、物体Oを収容可能な部材(例えば箱状の部材)を広く意味する。ただし、移動元V1は、上記例に限定されない。以下の説明では、「移動元V1」を「取り出し元コンテナV1」と称する場合がある。
移動元V1には、大きさや重さが異なる多種類の物体Oがランダムに置かれる。例えば、保持対象の物体Oは、物体O表面の少なくとも一部に凹凸形状を有する。本実施形態では、物体Oの外形形状は、5cm角のような小さなものから、30cm角のような大きなものまで様々である。また、物体Oは、数十gのような軽いものから数kgのような重いものまで様々である。ただし、物体Oの大きさや重さは、上記例に限定されない。
移動先V2は、例えば、トートやオリコンのようなコンテナである。ただし、移動先V2は、上記例に限定されない。以下の説明では、「移動先V2」を「搬送先コンテナV2」と称し、「移動元V1」および「移動先V2」を単に「コンテナ」と総称する場合がある。なお、搬送システム1は、コンテナ以外の移動先V2に物体Oを移動させるものでもよい。
搬送システム1は、物流用のハンドリングシステムに限定されない。搬送システム1は、産業用ロボットシステムやその他のシステムなどにも広く適用可能である。本願でいう「搬送システム」、「ハンドリングシステム」、および「ハンドリング装置」とは、物体の搬送を主目的としたシステムや装置に限定されず、製品組立や別の目的の一部として物体の搬送(移動)を伴うシステムやシステムも含む。
搬送システム1は、図1に示すように、ハンドリング装置10と、センサ11と、制御装置12(「制御部」の一例)と、を有する。制御装置12は、ハンドリング装置10に組み込まれていてもよい。
ハンドリング装置10は、例えばロボット装置である。ハンドリング装置10は、取り出し元コンテナV1に位置する物体Oを保持し、保持した物体Oを搬送先コンテナV2(保管領域)に移動させる。ハンドリング装置10は、有線または無線で制御装置12と通信可能である。本実施形態においては、ハンドリング装置10は、第1ハンドリング装置10A、第2ハンドリング装置10Bと、を有する。
第1ハンドリング装置10Aは、例えば、可動アーム100と、可動アーム100の先端に設けられた第1保持部200Aと、を有する。
可動アーム100は、第1保持部200Aを所望の位置に移動させる移動機構である。例えば、可動アーム100は、6軸の垂直多関節ロボットアームである。可動アーム100は、様々な位置姿勢をとることが可能である。人間の腕や手と同様に、可動アーム100も、物体を保持するためのより様々な姿勢を取ることができる。可動アーム100は、例えば、複数のアーム部材101と、複数のアーム部材101を回動可能に連結した複数の回動部102とを含む。
可動アーム100は、3軸の直交ロボットアームでもよい。可動アーム100は、その他の構成により第1保持部200Aを所望の位置に移動させる機構でもよい。例えば、可動アーム100は、回転翼により第1保持部200Aを持ち上げて移動させる飛行体(例えばドローン)などでもよい。
第1保持部200Aは、取り出し元コンテナV1に位置する物体Oを保持する保持機構(エンドエフェクタ)である。第1保持部200Aは、挟持ハンド202を有する。
挟持ハンド202は、2本指で物体Oを挟んで把持するグリッパ型ハンドであり、可動アーム100の先端に設けられている。挟持ハンド202の構成はこれに限定されず、例えば3本指で物体Oを挟んで把持するグリッパ型ハンドであってもよい。
なお、第1保持部200Aは、吸引装置および吸引装置に連通した吸着部をさらに有し、挟持および/または吸着により物体Oを保持するハイブリッド型ハンドであってもよい。この場合、吸着部は、挟持ハンド202の指先端に設けられ得る。吸着部は、挟持ハンド202の指先端に複数設けられていてもよい。
第2ハンドリング装置10Bは、例えば、アーム(第2アーム)100と、可動アーム100の先端に設けられた第2保持部200Bと、を有する。第2ハンドリング装置10Bの可動アーム100は、第1ハンドリング装置10Aの可動アーム100と同様の構成を有する。
第2保持部200Bは、取り出し元コンテナV1に位置する物体Oを保持する保持機構(エンドエフェクタ)である。例えば、第2保持部200Bは、吸引装置203と、吸引装置203に連通した吸着部205と、を有する。第2保持部200Bは、吸着により物体Oを保持する吸着型ハンドである。
第2保持部200Bは、その他の保持方法により物体Oを保持する機構であってもよい。例えば、第2保持部200Bは、磁力を利用して物体Oを保持できる保持部でもよい。例えば、第2保持部200Bは、粉体を詰め込んだ柔軟膜と、柔軟膜内から空気を抜き出す真空ポンプとで構成され、ジャミング現象を利用して物体Oを保持できる保持部(例えばジャミンググリッパ)でもよい。
吸引装置203は、例えば真空ポンプである。吸引装置203は、ホースなどを介して複数の吸着部205の各々と連通している。吸引装置203が駆動されることで、各吸着部205内の圧力が大気圧よりも低くなり、吸着部205により物体Oが吸着保持される。
吸着部205は、第2保持部200Bの先端に設けられている。例えば、吸着部205は、第2保持部200Bの先端に複数設けられている。吸着部205は、取り出し元コンテナV1に位置する最小の物体Oよりも小さい外形を持つ。第2ハンドリング装置10Bは、複数の吸着部205から選択された1つ以上の吸着部205のみを用いて物体Oを吸着保持する。
以降の説明において、「第1保持部200A」および「第2保持部200B」を「保持部200」と総称する。すなわち、「保持部200」は「第1保持部200A」および「第2保持部200B」を含むものとする。なお、ここでは第1保持部200Aを挟持型ハンド、第2保持部200Bを吸着型ハンドとして説明したが、保持部200の構成は、上記のような挟持型ハンドの第1保持部200Aと吸着型ハンドの第2保持部200Bとを一つずつ備えるものに限定されない。本実施形態において、第1保持部200Aと第2保持部200Bとが両方ともに挟持型ハンド、あるいは吸着型ハンドである場合も含む。この場合保持部200は、例えば、構成、構造、形状、寸法、配置などの特性のうち、少なくとも何れかにおいて異なる複数の挟持型ハンドを有する構成であってもよい。具体的には、例えば、第1保持部200Aおよび第2保持部200Bが、爪の長さや開き幅が異なる二つ以上の挟持型ハンドであってもよい。また、保持部200は、例えば、構成、構造、形状、寸法、配置などの特性のうち、少なくとも何れかにおいて異なる複数の吸着型ハンドを有する構成であってもよい。具体的には、例えば、第1保持部200Aおよび第2保持部200Bが、吸着パッドの配置や吸着パッドの径やベローズの構造などが異なる二つ以上の吸着型ハンドであってもよい。これらのような場合でも、本実施形態においては同様に実施して同等の効果を得ることが可能である。
センサ11は、制御装置12に制御されることで、複数の物体Oおよび/または保持部200の状態を検出できる。センサ11は、第1センサ11Aと、第2センサ11Bと、第3センサ11Cと、第4センサ11Dと、第5センサ11Eと、を有する。第1センサ11A、第2センサ11B、第3センサ11C、第4センサ11D、および第5センサ11Eは、有線または無線で制御装置12に接続されている。
第1センサ11Aは、移動元V1の近く(例えば、移動元V1の直上や斜め上方)に配置されたカメラまたは各種センサである。第1センサ11Aは、例えば、移動元V1に位置する物体Oに関する情報と、移動元V1に関する情報とを取得する。第1センサ11Aにより取得される情報は、例えば、「画像データ」、「距離画像データ」、「形状データ」などである。「距離画像データ」とは、1つ以上の方向の距離情報(例えば、移動元V1の上方に設定された任意の基準面からの深さ情報)を持つ画像データである。「形状データ」とは、物体Oの外形形状などを示す情報である。第1センサ11Aにより検出された情報は、制御装置12に出力される。なお、第1センサ11Aは、ハンドリング装置10の一部として設けられてもよい。
第2センサ11Bは、移動先コンテナV2の近く(例えば、移動先コンテナV2の直上や斜め上方)に配置されたカメラまたは各種センサである。第2センサ11Bは、例えば、移動先コンテナV2の形状(内壁面や仕切りの形状を含む)に関する情報と、移動先コンテナV2内に先に置かれた物体Oに関する情報とを検出する。第2センサ11Bにより取得される情報は、例えば、「画像データ」、「距離画像データ」、「形状データ」などである。第2センサ11Bにより検出された情報は、制御装置12に出力される。なお、第2センサ11Bは、ハンドリング装置10の一部として設けられてもよい。
第3センサ11Cは、第1保持部200Aまたは第1保持部200Aの近くに設けられた各種センサである。第3センサ11Cは、例えば、第1保持部200Aの歪み、第1保持部200Aに加わる圧力、第1保持部200Aの表面状態など、第1保持部200Aの物理的な状態に関する情報を取得する。第3センサ11Cは、例えば、歪みセンサ、圧力センサ、近接触センサなど一つ以上の物理的なセンサを含む。第3センサ11Cはさらに、物体Oの物理的な情報を取得してもよい。第3センサ11Cにより検出された情報は、制御装置12に出力される。なお、第3センサ11Cは、ハンドリング装置10の一部として設けられてもよい。
第4センサ11Dは、第2保持部200Bまたは第2保持部200Bの近くに設けられた各種センサである。第4センサ11Dは、例えば、第2保持部200Bの歪み、第2保持部200Bに加わる圧力、第2保持部200Bの表面状態など、第2保持部200Bの物理的な状態に関する情報を取得する。第4センサ11Dは、例えば、歪みセンサ、圧力センサ、近接触センサなど一つ以上の物理的なセンサを含む。第4センサ11Dはさらに、物体Oの物理的な情報を取得してもよい。第4センサ11Dにより検出された情報は、制御装置12に出力される。なお、第4センサ11Dは、ハンドリング装置10の一部として設けられてもよい。
第5センサ11Eは、保持部200の使用状況に関する情報を取得する。例えば、第5センサ11Eは、例えば、第1保持部200Aおよび第2保持部200Bのうち現在使用されているかまたは使用するために選択されている保持部200を検出する(以下、現在使用されているかまたは使用するために選択されている保持部を「現在選択されている保持部」または単に「選択されている保持部」と総称する場合がある。)。第5センサ11Eにより検出された情報は、制御装置12に出力される。なお、第5センサ11Eは、ハンドリング装置10の一部として設けられてもよい。また、現在選択されている保持部200は、第5センサ11Eではなくハンドリング装置10の制御履歴や第3センサ11Cまたは第4センサ11Dにより取得された情報など、他の情報に基づき判定されてもよい。この場合、第5センサ11Eは省略可能である。また、保持部200が挟持、吸着、および挟持と吸着との両方を実行することが可能なハイブリッドハンドである場合には、制御装置12は、第5センサ11Eからの情報または他の情報に基づいて、保持部200が物体Oを挟持するのに適した状態であるのか、吸着するのに適した状態であるのか、両方を行うのに適した状態であるのか、を判定する。
制御装置12は、搬送システム1の全体の管理および制御を行う。例えば、制御装置12は、第1センサ11A~第5センサ11Eにより検出された情報を取得し、取得した情報に基づいてハンドリング装置10を制御する。制御装置12は、例えば、プロセッサ、メモリなどを備えたプログラム実行可能な装置(コンピュータ)である。
図2は、搬送システム1のシステム構成を示すブロック図である。
制御装置12は、入力部300、認識処理部301、記憶部302、動作制御部303、スコア生成部304、閾値生成部305、判定部306、および保持戦略決定部307を含む。
入力部300は、操作者やシステムからの保持対象の物体Oに関するオーダーリスト、第1センサ11A~第5センサ11Eにより取得された情報などを受け付ける。
認識処理部301は、第1センサ11A~第5センサ11Eにより取得された情報を処理する。例えば、認識処理部301は、第1センサ11Aにより取得された画像データに基づき、移動元V1における物体Oの位置、姿勢、形状、特性などを判定する。
記憶部302は、ピッキング対象の物体Oに関する形状データ、操作者またはシステムから受領したオーダーリスト、スコア生成部304により生成された各種スコア、閾値生成部305により生成された閾値、判定部306による判定結果、保持戦略決定部307により決定された保持戦略、ハンドリング装置10の制御履歴や動作履歴などを記録する。なお、記憶部302に記憶された形状データは、物体Oのローカル座標系で定義される。
動作制御部303は、ハンドリング装置10の可動アーム100、第1保持部200A、第2保持部200Bなどの動作を制御する。例えば、動作制御部303は、特定の保持方法により特定の物体Oを保持するために適切な、物体Оを保持する位置および保持する際の可動アーム100の姿勢を具体的に算出する。また、動作制御部303は、ハンドリング装置10に指示して、算出した物体Оを保持する位置および保持する際の可動アーム100の姿勢に基づき、第1保持部200Aまたは第2保持部200Bに特定の物体Oの保持動作を行わせる。
スコア生成部304は、保持対象の物体Oおよび保持方法の優先度を決定するためのスコアを生成する。例えば、スコア生成部304は、後述の第1スコアおよび第2スコアを算出する。
閾値生成部305は、保持方法の切替えが必要か否かを判定するための閾値を生成する。例えば、閾値生成部305は、後述の第2スコアのための閾値を生成する。
判定部306は、スコア生成部304により生成されたスコアや閾値生成部305により生成された閾値などに基づいて、保持方法の切替えが必要か否かなどを判定する。
保持戦略決定部307は、スコア生成部304により生成されたスコアや閾値生成部305により生成された閾値、判定部306による判定の結果などに基づいて、優先度の高い保持対象および保持方法、保持対象を保持する順番、保持動作および保持方法の切替え動作の順番などを含む保持戦略を決定する。
制御装置12の各機能の全部または一部は、例えばCPU(Central Processing Unit;中央処理装置)またはGPU(Graphics Processing Unit;グラフィックスプロセッサ)のような1つ以上のプロセッサがプログラムメモリに記憶されたプログラムを実行することにより実現される。ただし、これら機能の全部または一部は、LSI(Large ScaleIntegration;大規模集積回路)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、PLD(Programmable Logic Device)などのハードウェア(例えば回路部;circuity)により実現されてもよい。また、上記機能の全部または一部は、ソフトウェアとハードウェアとの組み合わせで実現されてもよい。記憶部302は、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read-Only Memory)、ROM(Read-Only Memory;読み出し専用メモリ)、またはRAM(Random Access Memory;読み書き可能なメモリ)などにより実現される。
次に、搬送システム1の動作を説明する。図3に示す制御装置12の制御フローチャートに沿って説明を行う。
制御装置12が起動されると、制御装置12はハンドリング装置10やセンサ11の初期化を実施した後にハンドリング装置10の制御を開始する(ステップS0)。次に、制御装置12はステップS1を実行する。
ステップS1において、制御装置12の入力部300は、ピッキング対象の物体Oのオーダーリストを操作者またはシステムから受け付ける(オーダーリスト受領工程)。
次に、制御装置12はステップS2を実行する。ステップS2において、制御装置12の入力部300は、取り出し元コンテナV1の物体Oに関する画像データ、距離画像データ、形状データなどを第1センサ11Aから受け取る。制御装置12の認識処理部301は、入力部300が受け取ったデータに基づいて、取り出し元コンテナV1にオーダーリストにある物体Oがあるかを判定する。また、認識処理部301は、入力部300が受け取ったデータに基づいて、ピッキング対象の物体Oの形状、位置、姿勢などに関する情報を取得する(情報取得工程)。
図4は、「挟持」によって物体Oを保持する場合における、物体Oの画像データにおける仮マスク領域R1を示す図である。
制御装置12の認識処理部301は、公知の画像セグメンテーションの手法を用いて、画像データからピッキング対象の物体Oが外接する矩形領域(外接矩形領域)を「仮マスク領域R1」として設定する。画像セグメンテーションは、機械学習を使用した手法であってもよい。
図5は、物体Oの画像データにおけるマスク領域R2を示す図である。
認識処理部301は、仮マスク領域R1の縦横方向に拡張した領域を「マスク領域R2」として設定する。マスク領域R2は、外接矩形領域の縦横方向にマージンMだけ拡張されている。例えば、マージンMは100mmである。認識処理部301は、拡張されたマスク領域R2を用いることで、保持部200による保持方法が挟持である場合において、挟持ハンド202が物体Oの周辺に侵入できる空間があるかどうかを判定できる。
図6は、物体Oのデプス画像Dを示す図である。
認識処理部301は、距離画像データを用いて、マスク領域R2における物体Oの深さ情報を可視化したデプス画像Dを生成する。デプス画像Dは、ワールド座標系(X軸、Y軸、Z軸)の原点を基準とした高さを値として有する。デプス画像Dのスケールは、保持部200による保持方法に応じて変更できる。デプス画像Dのスケールは、例えば、1ピクセルあたり1mmに設定できる。
図7は、物体Oの3次元位置および姿勢を説明する図である。図7において、形状の異なる物体Oを「О1」および「О2」と記載している。
認識処理部301は、取得された物体O1の画像データから、物体O1の3次元位置および姿勢を算出する。認識処理部301は、記憶部302に記録された物体O1のローカル座標系における形状データを、変換行列を用いてワールド座標系(X軸、Y軸、Z軸)に変換する。ワールド座標系のZ軸方向は、図7に示すように、取り出し元コンテナV1の上方に設定された任意の基準面からの深さ方向である。認識処理部301は、取得された物体O1の画像データと、ワールド座標系に変換された形状データと、を比較することで、物体O1の3次元位置および姿勢を算出する。
図8は、3次元位置および姿勢に関する情報が付加されたマスク領域R2を示す図である。認識処理部301は、物体O1の基準となる3次元位置poseをマスク画像R2における外接矩形領域(仮マスク領域R1)の中心COとする。また、認識処理部301は、挟持ハンド202の挟持しやすさを考慮して、外接矩形領域の中心COとは別に、物体O1の図心FOを算出して利用してもよい。
一方、「吸着」により物体Oを保持する場合においては、仮マスク領域R1は、物体Oの表面上の吸着対象となり得るマスク平面ごとに分割される。認識処理部301は、マスク平面ごとにマスク画像R2およびデプス画像Dを生成し、マスク平面に垂直な方向を法線方向として規定する。認識処理部301は、例えば、3次元センサの点群から平面用領域を抽出し、例えば主成分分析により、短軸方向をx、長軸方向をy、平面の法線方向をzとすることにより位置および姿勢を決定することができる。「挟持」の場合には一つの物体Oに対して一つの保持領域しか定義されない場合もあるが、「吸着」の場合には一つの物体Oに対して複数の保持領域が存在し得る。したがって、「吸着」における保持対象は物体Oの一領域であってよい。なお、例えば「挟持」の保持領域が複数存在するような場合、「挟持」における保持対象も物体Oの一領域であってよい。
「吸着」により物体Oを保持する場合、認識処理部301は、複数の吸着部205のうち何個を使用するか、吸着部205をどの角度で物体Oに接触させるのか、などを算出するための畳み込み処理を行うことができる。
認識処理部301は、以前に物体Oのピッキングに成功した場合における物体Oの3次元位置および姿勢などが記録されたデータベースを利用してもよい。認識処理部301は、データベースを利用して、物体Oに関するお勧めの保持方法や保持する位置を出力することもできる。
入力部300は、必要に応じて、第1保持部200Aの物理的な状態に関する情報を第3センサ11Cから受け取るとともに、第2保持部200Bの物理的な状態に関する情報を第4センサ11Dから受け取る。また、入力部300は、必要に応じて、現在選択されている保持部など保持部200の使用状況に関する情報を第5センサ11Eから受け取る。認識処理部301は、第5センサ11Eからの情報および/または他の情報に基づいて、第1保持部200Aおよび第2保持部200Bのいずれが現在選択されている保持部200であるかを判定する。なお、第1保持部200Aおよび第2保持部200Bの物理的な状態に関する情報や現在選択されている保持部200に関する情報は、ステップS2以外の別のタイミングで適宜取得されてもよい。
また、入力部300は、保持対象の物体Oの物理情報をデータベースから受け取る。例えば、入力部300は、物体Oの外形情報、重量、表面の材質、摩擦特性などに関する情報をデータベースから受け取ることができる。データベースは、個別の物体Oごとに定義されてもよく、基本情報プリミティブ(例えば、直方体、円柱、球、四角錐など)などを規定し、その形状に近い情報を当てはめて利用してもよい。
次に、制御装置12は、ステップS3を実行する。ステップS3において、制御装置12は、物体Oまたは物体Oの領域ごと、および保持方法ごとにスコアを計算し、次に保持すべき物体Oおよび保持方法を決定する(保持戦略計画工程)。図9は、制御装置12による保持戦略計画工程の制御フローチャートであり、ステップS3の詳細な内容を示す。
ステップS301において、制御装置12のスコア生成部304は、ステップS2で取得した情報に基づいて、保持部200が物体Oを保持する保持しやすさを「第1スコア」として算出する。スコア生成部304は、(1)物体Oまたは物体Oの領域ごと(以下、単に「物体Oごと」ともいう。)、および(2)保持方法ごとに第1スコアを算出する。例えば、保持方法は、第1ハンドリング装置10Aの「挟持」または第2ハンドリング装置10Bによる「吸着」である。保持方法が「挟持」の場合、例えば物体Oごとに第1スコアを算出し、保持方法が「吸着」の場合、例えば物体Oの領域ごとに第1スコアを算出する。
ステップS301において算出する第1スコアS(I)は、例えば、数式1に示す評価関数により算出される。
Figure 2022131750000002
数式1において、Hは、第1スコアの評価対象である保持方法(第1ハンドリング装置10Aによる挟持、第2ハンドリング装置10Bによる吸着など)である。Iは、第1スコアの評価対象である物体Oまたは物体Oの領域を示すマスク領域R2である。fは評価関数の評価項目であり、wは評価関数の重みである。すなわち、上記の評価関数は、各評価項目の線形結合で表される。ただし、評価関数は上記例に限定されず、評価項目で平均値を用いてもよいし、非線形関数を用いてもよく、任意の評価関数が使用可能である。また、評価項目は、数式1に記載された項目に限定されず、例えば、物体Oや挟持ハンド202の物理特定に依存した量であってもよい。
保持方法が「挟持」の場合(H=pとする)、第1スコアS(I)は、例えば、数式2に示す評価関数により算出される。
Figure 2022131750000003
数式2において、wp1+wp2+wp3+wp4+wp5+wp6=1であり、wpi≧0(i=1,2,3,4,5,6)である。fp1は、物体Oの位置(例えば、物体Oの中心位置および物体Oの高さ)である。fp2は、物体Oの凹凸率である。fp3は、物体Oの扁平度である。fp4は、物体Oと物体Oの周辺とのデプスの差である。fp5は、薄い物体Oか否かの判定結果である。fp6は、機械学習を利用する場合において使用する評価項目であり、上記fp1~fp5などの各評価項目をすべて入れ込んだものである。このため、例えばfp6を使用する場合にはwp1~wp5はすべてゼロとしてよい。各物体Oを示す様々なマスク領域Iに対して「挟持」の第1スコアS(I)が計算される。
保持方法が「吸着」の場合(H=sとする)、第1スコアS(I)は、例えば、数式3に示す評価関数により算出される。
Figure 2022131750000004
数式3において、ws1+ws2+ws3+ws4+ws5+ws6=1であり、wsi≧0(i=1,2,3,4,5,6)である。fs1は、物体Oの領域の位置(例えば、物体Oの領域の中心位置および物体Oの高さ)である。fs2は、物体Oの領域の凹凸率である。fs3は、物体Oの領域の面積である。fs4は、物体Oの領域に対するアプローチ角度(例えば、物体Oの領域の法線方向と鉛直方向とのなす角)である。fs5は、薄い物体Oか否かの判定結果である。fs6は、機械学習を利用する場合において使用する評価項目であり、上記fs1~fs5などの各評価項目をすべて入れ込んだものである。このため、例えばfs6を使用する場合にはws1~ws5はすべてゼロとしてよい。物体Oの領域を示す様々なマスク領域Iに対して「吸着」の第1スコアS(I)が計算される。
このようにして、スコア生成部304は、各保持方法(ここでは、第1ハンドリング装置10Aによる挟持および第2ハンドリング装置10Bによる吸着)に対して、物体Oまたは物体Oの領域ごとに第1スコアS(I)を算出する。
次に、制御装置12は、ステップS302を実行する。ステップS302において、制御装置12のスコア生成部304は、ステップS2で取得した情報およびステップS301で算出した第1スコアに基づいて、現在選択されている保持方法を基準とした「第2スコア」として算出する。スコア生成部304は、(1)物体Oまたは物体Oの領域ごと、および(2)保持方法ごとに第2スコアを算出する。
ステップS302において算出する第2スコアTH,H0(I)は、例えば、数式4に示す評価関数により算出される。
Figure 2022131750000005
数式4において、Hは、第2スコアの評価対象である保持方法である。Hは、現在選択されている保持方法である。Iは、第2スコアの評価対象である物体Oまたは物体Oの領域を示すマスク領域R2である。すなわち、数式4の評価関数は、現在選択されている保持方法の第1スコアSH0(I)と、第2スコアの評価対象である保持方法の第1スコアS(I)と、の比である。ただし、第2スコアの評価関数は上記例に限定されず、任意の関数が使用可能であり、例えば現在選択されている保持方法Hの第1スコアSH0(I)および第2スコアの評価対象である保持方法Hの第1スコアS(I)に依存する任意の関数であってよい。
第1スコアS(I)は対象の保持方法Hによる対象のマスク領域Iの「保持しやすさ」の指標であるので、上記の数式4の評価関数を使用する場合、第2スコアTH,H0(I)は、現在選択されている保持方法Hによる保持しやすさと対象の保持方法Hによる保持しやすさとの比である。すなわち、数式4の第2スコアが1より大きい場合には、対象の保持方法Hよりも現在選択されている保持方法Hの方が保持が容易である。数式4の第2スコアが1より小さい場合には、対象の保持方法Hの方が現在選択されている保持方法Hよりも保持が容易である。例えば、数式4の第2スコアが0.5である場合には、現在選択されている保持方法Hによる保持しやすさが対象の保持方法Hによる保持しやすさの0.5倍であるといえる。すなわち、対象の保持方法Hによる保持しやすさが現在選択されている保持方法Hによる保持しやすさの2倍であるといえる。
次に、制御装置12は、ステップS303を実行する。ステップS303において、制御装置12の判定部306は、第2スコアTH,H0(I)に基づいて保持方法の切替えの必要性を判定する。上記の数式4の第2スコアTH,H0(I)を使用する場合、例えば、判定部306は、下記の数式5の条件式を満たす場合には保持方法を現在選択されている保持方法Hから対象の保持方法Hに切り替える必要があると判定し、数式5の条件式を満たさない場合には保持方法を現在選択されている保持方法Hから対象の保持方法Hに切り替える必要がないと判定する。
Figure 2022131750000006
数式5において、Thは、閾値生成部305により生成された所定の閾値である。すなわち、判定部306は、第2スコアTH,H0(I)が閾値を下回る場合には、現在選択されている保持方法Hから対象の保持方法Hに切り替える必要があると判定し、第2スコアTH,H0(I)が閾値以上である場合には、現在選択されている保持方法Hから対象の保持方法Hに切り替える必要がないと判定する。
第1スコアS(I)のみで保持方法を選択する場合、現在選択されている保持方法Hの情報が第1スコアS(I)に反映されないので、単純に保持の成功率が高い保持方法が選択されることになる。このため、場合によっては物体Oの保持を行うたびに保持方法の切替えが必要と判定される可能性があり、そのような場合には保持方法の切替えに時間を要する可能性がある。一方、第2スコアTH,H0(I)は、現在選択されている保持方法Hの情報を含み、現在選択されている保持方法Hを基準として算出されるスコアである。例えば、上記の数式4の第2スコアTH,H0(I)を使用する場合において、第2スコアTH,H0(I)が1より小さい場合(すなわち、対象の保持方法Hによる保持しやすさが現在選択されている保持方法Hによる保持しやすさよりも大きい場合)であっても、判定部306は、第2スコアTH,H0(I)がそれほど小さくない場合(すなわち、所定の閾値Th以上である場合)には保持方法を切り替える必要がないと判定する。これにより、制御装置12は、現在選択されている保持方法Hでもそれなりに保持しやすい場合には、できるだけ現在選択されている保持方法Hにより保持を行うようにハンドリング装置10を制御することができる。
判定部306は、保持対象の物体Oまたは物体Oの領域を示す各マスク領域Iについて計算した第2スコアTH,H0(I)の平均値と閾値Thとの大小関係に基づいて保持方法の切替えの必要性を判定してもよく、各マスク領域Iについての第2スコアTH,H0(I)の各々と閾値Thとの大小関係に基づいて保持方法の切替えの必要性を判定してもよい。例えば、上記例において、判定部306は、各マスク領域Iについての第2スコアTH,H0(I)のうち少なくとも一つが閾値Thよりも小さい場合に、保持方法の切替えが必要であると判定することができる。
次に、保持方法の切替えが必要でないと判定された場合(ステップS304:No)、制御装置12は、ステップS305を実行する。ステップS305において、制御装置12の保持戦略決定部307は、保持対象の複数の物体Oに対して保持を行う順番を含む保持戦略を決定する。現在選択されている保持方法Hが「挟持」である場合、保持戦略決定部307は、例えば、物体Oの保持の順番を「挟持」についての第1スコアS(I)が大きい順番とすることができる。また、現在選択されている保持方法Hが「吸着」である場合、保持戦略決定部307は、例えば、物体Oの保持の順番を「吸着」についての第1スコアS(I)が大きい順番とすることができる。すなわち、保持戦略決定部307は、現在選択されている保持方法Hを切り替えることなく、例えば第1スコアSH0(I)が大きい順番で、現在選択されている保持方法Hにより物体Oのピックアップを行うという保持戦略を決定することができる。
次に、制御装置12は、ステップS307を実行する。ステップS307において、制御装置12は、ステップS305で保持戦略決定部307が決定した保持の順番を含む保持戦略を記憶部302に格納する。
次に、制御装置12は、ステップS308を実行する。ステップS308において、制御装置12の保持戦略決定部307は、次の保持動作を決定する。例えば、保持戦略決定部307は、ステップS305で決定した保持戦略における最先の保持動作(上記例では、第1スコアSH0(I)が最大である物体Oを現在選択されている保持方法Hによって保持すること)を次の保持動作として設定する。その後、制御装置12は、ステップS4に進む。
一方、保持方法の切替えが必要であると判定された場合(ステップS304:Yes)、制御装置12は、ステップS307を実行する。ステップS307において、保持戦略決定部307は、保持および保持方法の切替えの順番を含む保持戦略を決定する。すなわち、保持戦略決定部307は、保持対象の複数の物体Oに対する保持動作および保持方法の切替え動作をどのような順番で行うかを含む保持戦略を決定する。一例として、保持戦略決定部307は、保持および保持方法の切替えの順番を以下のように決定することができる。
(1)現在選択されている保持方法Hによる第1スコアSH0(I)が切替え後の保持方法Hによる第1スコアSH1(I)よりも大きい物体Oまたは物体Oの領域に対して、第1スコアSH0(I)が大きい順番で保持動作を行う。
(2)保持方法を現在選択されている保持方法Hから切替え先の保持方法Hに切り替える。
(3)現在選択されている保持方法Hによる第1スコアSH0(I)が切替え後の保持方法Hによる第1スコアSH1(I)よりも小さい物体Oまたは物体Oの領域に対して、第1スコアSH1(I)が大きい順番で保持動作を行うことができる。
これにより、1回の保持方法の切替えで、保持対象の物体Oをすべてピックアップすることができる保持戦略を作成することができ、保持方法の切替え回数を最小限に抑えることができる。
なお、保持戦略の決定方法は、上記例に限定されない。例えば、保持戦略決定部307は、第2スコアTH1,H0(I)が閾値Th以上である保持対象に対して現在選択されている保持方法Hによる保持を行った後、保持方法を切り替えて、第2スコアTH,H0(I)が閾値Thを下回る保持対象に対して切替え後の保持方法Hによる保持を行うように保持戦略を決定してもよい。保持戦略決定部307は、その他の任意の方法で保持戦略を決定してもよい。
次に、制御装置12は、ステップS307を実行する。ステップS307において、制御装置12は、ステップS306で保持戦略決定部307が決定した保持および保持方法の切替えの順番を含む保持戦略を記憶部302に格納する。
次に、制御装置12は、ステップS308を実行する。ステップS308において、制御装置12の保持戦略決定部307は、次の保持動作を決定する。例えば、保持戦略決定部307は、ステップS306で決定した保持戦略における最先の保持動作を次の保持動作として設定する。例えば、上記(1)~(3)で示した例では、保持戦略決定部307は、現在選択されている保持方法Hによる第1スコアSH0(I)が切替え後の保持方法Hによる第1スコアSH1(I)よりも大きい物体Oまたは物体Oの領域のうち第1スコアSH0(I)が最大であるものを、現在選択されている保持方法Hによって保持することを、次の保持動作として設定することができる。なお、現在選択されている保持方法Hによる第1スコアSH0(I)が切替え後の保持方法Hによる第1スコアSH1(I)よりも大きい物体Oまたは物体Oの領域が存在しない場合には、保持戦略決定部307は、切替え後の保持方法Hによる第1スコアSH1(I)が最大である物体Oまたは物体Oの領域を切替え後の保持方法Hで保持することを、次の保持動作として設定することができる。その後、制御装置12は、ステップS4に進む。
ここまでのステップにおいて、制御装置12は、好ましくは、物体Оを保持する位置や可動アーム100の姿勢などを具体的に算出せずに、次の保持動作を決定する。
なお、上記例では、制御装置12は、保持の順番全体を決定してからその中の最先の保持動作を次の動作として選択するものと説明したが、保持の順番の決定を省略して、次の動作のみを決定してもよい。例えば、保持戦略決定部307は、ステップS305において、保持の順番を決定することなく、第1スコアS(I)が最大のものを次の動作として選択してもよい。
制御装置12は、ステップS305またはステップS306で保持戦略を決定するにあたり、第1スコアS(I)または第2スコアTH,H0(I)に対して物体Oの重量などで補正を行った補正スコアを使用してもよい。
なお、上述のとおり「挟持」と「吸着」とで第1スコアS(I)を算出するための評価項目や想定される保持対象(物体Oか物体Oの領域か、など)が異なっているように、保持方法によって第1スコアS(I)の算出基準は異なり得る。このため、制御装置12は、異なる保持方法のスコアであっても比較可能なように、適宜スコアの正規化を行ってもよい。制御装置12は、スコアの正規化処理を、第1スコアを算出するステップS301、第2スコアを算出するステップS302、保持戦略を決定するステップS305、S306など、任意のステップで行ってよい。
以上、ステップS3の詳細について説明してきたが、ここで一例として、選択可能な保持方法が「挟持」および「吸着」のいずれか一方であり、現在選択されている保持方法Hが「挟持」であり、閾値Thを0.5と設定した場合における、上記の数式4の第2スコアTH,H0(I)による計算例を以下の表1~3に示す。表1~3は、スコア計算の一例を示す表である。表1~3は、物体Oまたは物体Oの領域を表す保持対象1~5に対して、保持方法「挟持」による保持しやすさを示す第1スコア、保持方法「吸着」による保持しやすさを示す第1スコア、これらの第1スコアから算出した第2スコア、および閾値Thによる判定結果を示す。判定結果において、「True」は、第2スコアTH,H0(I)が閾値Thよりも小さいこと(すなわち、保持方法の切替えが必要であること)を意味し、「False」は、第2スコアTH,H0(I)が閾値Thよりも大きいこと(すなわち、保持方法の切替えが必要でないこと)を意味する。
Figure 2022131750000007
Figure 2022131750000008
Figure 2022131750000009
表1に示す例の場合、第2スコアTH,H0(I)の対象1~5の平均値は1.03で1を上回っているので、平均としては現在選択されている保持方法H(挟持)による保持しやすさが評価対象の保持方法(吸着)による保持しやすさを上回っているといえる。また、対象1~5の第2スコアTH,H0(I)およびその平均値はいずれも閾値Th=0.5を上回っているので、制御装置12の判定部306は、保持方法の切替えは必要でないと判定する。
次に、保持戦略決定部307が、保持の順番を第1スコアSH0(I)が大きい順番に設定し、現在選択されている保持方法である「挟持」によって「対象3→対象2および対象4→対象1および対象5」の順番に保持を行うように保持戦略を決定する。次に、制御装置12は、決定した保持戦略を記憶部302に格納する。次に、保持戦略決定部307は、保持戦略において最先の保持動作である「挟持によって対象3を保持すること」を次の保持動作と決定する。なお、表1の例では、2以上の対象で「挟持」の第1スコアSH0(I)が同じ値であるところ、保持戦略においてどちらを優先するかは、物体Oの位置や重量など任意の要素を考慮して適宜決定され得る。
表2に示す例の場合、第2スコアTH,H0(I)の対象1~5の平均値は0.79で1を下回っているので、平均としては現在選択されている保持方法H(挟持)による保持しやすさが評価対象の保持方法(吸着)による保持しやすさを下回っているといえる。しかしながら、対象1~5の第2スコアTH,H0(I)およびその平均値はいずれも閾値Th=0.5を上回っているので、制御装置12の判定部306は、保持方法の切替えは必要でないと判定する。
次に、表1の場合と同様に、保持戦略決定部307が、保持の順番を第1スコアSH0(I)が大きい順番に設定し、現在選択されている保持方法である「挟持」によって「対象5→対象1→対象2→対象3および対象4」の順番に保持を行うように保持戦略を決定する。次に、制御装置12は、決定した保持戦略を記憶部302に格納する。次に、保持戦略決定部307は、保持戦略において最先の保持動作である「挟持によって対象5を保持すること」を次の保持動作と決定する。
表3に示す例の場合、第2スコアTH,H0(I)の対象1~5の平均値は0.38で1を下回っているので、平均としては現在選択されている保持方法H(挟持)による保持しやすさが評価対象の保持方法(吸着)による保持しやすさを下回っているといえる。また、対象1~4の第2スコアTH,H0(I)およびその平均値はいずれも閾値Th=0.5を下回っているので、制御装置12の判定部306は、保持方法の切替えが必要であると判定する。
次に、保持戦略決定部307が、各対象1~5について「挟持」と「吸着」とで第1スコアS(I)の大小を比較する。この例では、すべての対象1~5で「吸着」の第1スコアS(I)が現在選択されている保持方法である「挟持」の第1スコアSH0(I)を上回っているので、保持戦略決定部307は、まず保持方法の切替えを行うように保持戦略を決定する。さらに、保持戦略決定部307は、保持方法の切替え後の保持の順番を、切替え後の保持方法である「吸着」の第1スコアS(I)が大きい順番に設定し、「対象1および対象5→対象2→対象3→対象4」の順番に保持を行うように保持戦略を決定する。次に、制御装置12は、決定した保持戦略を記憶部302に格納する。次に、保持戦略決定部307は、保持戦略において最先の保持動作である「吸着によって対象1を保持すること」または「吸着によって対象5を保持すること」を次の保持動作と決定する。ここで、対象1および対象5は吸着の第1スコアS(I)が等しいので、どちらを優先するかは、対象1および対象5の位置や重量など任意の要素を考慮して適宜決定され得る。
再び図3を参照すると、次に、制御装置12は、ステップS4を実行する。ステップS4において、制御装置12は、ステップS3において決定された対象物体Оを保持する位置および保持する際の可動アーム100の姿勢を具体的に算出する(保持位置姿勢計画工程)。
ステップS3において選択された物体Оの保持方法が「挟持」である場合、ステップS4において、制御装置12の動作制御部303は、公知の手法から適宜選択した手法により、物体Оを挟持する位置および挟持する際の可動アーム100の姿勢を具体的に算出する。
ステップS3において選択された物体Оの保持方法が「吸着」である場合、ステップS4において、制御装置12の動作制御部303は、公知の手法から適宜選択した手法により、物体Оを吸着する位置および吸着する際の可動アーム100の姿勢を具体的に算出する。
なお、本実施形態では、選択可能な保持方法は「挟持」および「吸着」のいずれか一方であるが、例えば「挟持および吸着(ハイブリッド)」が利用可能な場合には、ステップS4において、制御装置12の動作制御部303は、公知の手法から適宜選択した手法により、物体Оを挟持および吸着する位置および挟持および吸着する際の可動アーム100の姿勢を具体的に算出することができる。
動作制御部303は、物体Oを保持する位置および保持する際の100の姿勢を算出した後、計算された保持動作が実際のロボットの動作として可能か否かを計算し、実際の動作が不可能と判定された場合には、再度物体Oを保持する位置および保持する際の100の姿勢の算出を行う。なお、実際の動作が不可能と判定された場合には、ステップS3まで戻って保持戦略の計画から再度やり直してもよい。
物体Оを保持する位置や可動アーム100の姿勢の算出は演算量が非常に多い。制御装置12は、選択された物体Оについてのみ、物体Оを保持する位置や可動アーム100の姿勢を算出すればよい。そのため、搬送システム1は、保持する物体Оを選択するために物体Оを保持する位置や可動アーム100の姿勢を算出する他の搬送システムと比較して、必要な演算量を著しく削減できる。
次に、制御装置12は、ステップS5を実行する。ステップS5において、制御装置12の判定部306は、保持方法の切替えが必要か否かを判定する。判定部306が保持方法の切替えが必要であると判定した場合(ステップS5:Yes)、すなわち、現在選択されている保持方法と次の保持動作における保持方法とが異なる場合、制御装置12は、ステップS6を実行する。ステップS6では、動作制御部303が保持方法の切替えを行う(保持方法切替え工程)。例えば、「挟持」を「吸着」に切り替える場合には、動作制御部303は、取り出し元コンテナV1に向いている第1保持部200Aに代えて第2保持部200Bを取り出し元コンテナV1に向けるようにハンドリング装置10の可動アーム100を制御する。一方、判定部306が保持方法の切替えが必要でないと判定した場合(ステップS5:No)、すなわち、現在選択されている保持方法と次の保持動作における保持方法とが同一である場合、制御装置12は、ステップS6を実行せずにステップS7に進む。
次に、制御装置12は、ステップS7を実行する。ステップS7において、制御装置12は、ステップS4において算出された物体Оを保持する位置および可動アーム100の姿勢に基づいて保持部200および可動アーム100を制御する(動作制御工程)。選択された物体Оは、ハンドリング装置10によって取り出し元コンテナV1から搬送先コンテナV2に搬送される。
次に、制御装置12は、ステップS8を実行する。ステップS8において、制御装置12の判定部306は、オーダーリストに記載されたオーダーが完了したか否かを判定する。例えば、判定部306は、取り出し元コンテナV1に物体Оが残っているか否かを判定する。判定部306が取り出し元コンテナV1に物体Оが残っていると判定した場合(ステップS8:No)、制御装置12は、ステップS2を再度実行する。すなわち、制御装置12は、物体Oをピックアップした後の取り出し元コンテナV1の状態、各保持部200A、200Bの状態などに関する情報を再度取得し、これに基づいて次の保持戦略を作成する。なお、制御装置12は、保持戦略計画工程を行わずに、既に作成した保持の順番を含む保持戦略に基づいて次の保持動作を決定してもよい。また、制御装置12は、同じ保持戦略計画工程を行う代わりに、取得した情報に基づき既に作成した保持戦略を修正・更新してもよい。また、制御装置12は、1回以上の保持動作の実行後、スコア生成部304にスコア生成時のパラメータの値を変更させたり、閾値生成部305に閾値Thを変更させたりしてもよい。
一方、判定部306がオーダーリストに記載されたオーダーが完了したと判定した場合(ステップS8:Yes)、制御装置12は、ステップS9を実行して制御を終了する。例えば、判定部306が取り出し元コンテナV1に物体Оが残っていないと判定した場合、制御装置12は、ステップS9を実行して制御を終了する。
以上のような第1の実施形態の構成によれば、保持方法の切替え回数を抑えながら物体Оを保持する保持戦略を効率的に決定できる。搬送システム1の制御装置12は、物体Оを保持する位置や可動アーム100の姿勢などを具体的に算出せずに、保持戦略を選択する。保持戦略とは、例えば、使用するハンドリング装置10の種類、保持する物体О、保持方法を選択することである。搬送システム1の制御装置12は、選択された物体Оについてのみ、物体Оを保持する位置や可動アーム100の姿勢を算出すればよく、必要な演算量を著しく削減できる。また、現在選択されている保持方法でも保持がそれなりに容易である場合には、保持方法を切り替えずに現在選択されている保持方法を優先的に使用するように保持戦略を作成することにより、保持方法の切替えに要する時間を節約することができるので、全体の作業時間を短縮することができる。
また、本実施形態では、複数の保持方法は、挟持および吸着を含む。これにより、ハンドリング装置10は、挟持では保持しにくい薄い物体Oや、吸着では保持しにくい凹凸形状を有する物体Oなど、様々な物体Oを保持することができる。
また、本実施形態では、制御装置12は、保持方法の切替え回数が小さくなるように、スコアに基づいて、保持する物体Oと保持方法とを選択する。また、制御装置12は、スコアに基づいて、保持方法の切替えの要否(有無)を判定する。これにより、ハンドリング装置10は、保持方法の切替え回数ができるだけ小さくなるように一連の保持動作を実行することができ、全体の作業に要する時間を低減することができる。
また、本実施形態では、制御装置12は、スコアと所定の閾値Thとの大小関係に基づいて保持方法の切替えの要否(有無)を判定する。これにより、制御装置12は、保持方法の切替えの必要性を容易に判定することができる。また、制御装置12は、閾値Thを調整することにより、状況に応じた保持戦略を作成することができる。
また、本実施形態では、制御装置12は、スコアに基づいて、物体Oを保持する順番を決定する。これにより、制御装置12は、オーダーリストで指定されたピックアップ作業全体を考慮して、次の保持動作を選択することができる。
また、本実施形態では、制御装置12は、前記物体の保持方法の切替えの順番を決定する。これにより、制御装置12は、オーダーリストで指定されたピックアップ作業全体を考慮して、保持方法の切替えを行う最適なタイミングを選択することができる。
また、本実施形態では、制御装置12は、保持方法が吸着である場合についてスコアを算出するとき、物体Oの領域ごとにスコアを算出する。これにより、制御装置12は、同じ物体Oのうち最も保持しやすい領域を保持対象領域として選択することができるので、保持効率が向上し得る。
また、本実施形態では、制御装置12は、物体Oごとおよび保持方法ごとに、保持しやすさを第1スコアとして算出し、選択されている保持方法を基準としたスコアは、物体Oごとおよび保持方法ごとに第1スコアに基づき算出される第2スコアである。これにより、制御装置12は、第1スコアによって表される物体Oの保持しやすさと、第2スコアによって表される現在選択されている保持方法を基準とした優先度と、の二つの観点に基づいて、保持動作を決定することができる。
また、本実施形態では、物体Oおよび保持方法についての第2スコアは、当該物体Oまたは当該物体Oの領域および選択されている保持方法についての第1スコアを、当該物体Oまたは当該物体Oの領域および当該保持方法についての第1スコアで割った値である。これにより、制御装置12は、保持方法の切替えの必要性を判定するための第2スコアを容易に算出することができる。
(第2の実施形態)
次に、図10を参照して、第2の実施形態について説明する。第2の実施形態では、保持戦略が複数作成される点で、第1の実施形態とは異なる。なお、以下に説明する以外の構成は、第1の実施形態と同様である。
図10は、第2の実施形態に係る制御装置12による保持戦略計画工程の制御フローチャートである。
第2の実施形態では、制御装置12は、第1の実施形態のステップS306に代えてステップS316~S318を実行する。制御装置12は、保持戦略計画工程(ステップS3)において、第1の実施形態と同様に、第1スコアS(I)を算出し(ステップS311)、第2スコアTH,H0(I)を算出し(ステップS312)、保持方法の切替えの必要性を判定する(ステップS313)。判定部306が保持方法の切替えが不要であると判定した場合(S314:No)、制御装置12の保持戦略決定部307は、第1の実施形態と同様に保持の順番を含む保持戦略を決定し(ステップS315)、保持戦略を記憶部302に格納し(ステップS319)、保持戦略に基づき次の保持動作を決定する(ステップS320)。すなわち、判定部306が保持方法の切替えが不要であると判定した場合の制御装置12の制御内容は、第1の実施形態と同様である。
一方、判定部306が保持方法の切替えが必要であると判定した場合(S314:Yes)、制御装置12は、ステップS316を実行する。ステップS316において、制御装置12の保持戦略決定部307は、保持および切替の順番を含む保持戦略案を複数作成する。例えば、保持戦略決定部307は、第1スコアS(I)に基づいて、全体的な成功率が相対的に低い、切替えを1回行う保持戦略案と、全体的な成功率が相対的に高い、切替えを2回行う保持戦略案と、を作成する。
次に、制御装置12は、ステップS317を実行する。ステップS317において、制御装置12のスコア生成部304は、保持戦略決定部307が作成した各保持戦略案のスコアを算出する。例えば、スコア生成部304は、保持戦略案における保持方法の切替え回数、各保持動作についての第1スコアS(I)の平均値、最大値、最小値などの値、保持戦略を完了するのに要すると予想される時間などを評価項目として、各保持戦略案のスコアを算出する。スコア生成部304は、操作者の入力に応じて、評価項目の重みを適宜変更することもできる。
次に、制御装置12は、ステップS317を実行する。ステップS317において、制御装置12の保持戦略決定部307は、スコア生成部304が生成した各保持戦略案のスコアに基づき、最適な保持戦略を決定する。例えば、保持戦略決定部307は、スコアが最大である保持戦略案を保持戦略として選択する。
その後、制御装置12は、保持戦略決定部307により決定された保持戦略を記憶部302に格納し(ステップS319)、保持戦略に基づき次の保持動作を決定する(ステップS320)。
なお、制御装置12は、第2スコアの算出および/または切替えの必要性の判定(ステップS312~S314)を省略して、第1スコアに基づき保持戦略案を複数作成してもよい。例えば、保持戦略決定部307は、全体的な成功率が最も低い、切替えを行わない保持戦略案と、全体的な成功率が次に低い、切替えを1回行う保持戦略案と、全体的な成功率が最も高い、切替えを2回行う保持戦略案と、を作成することができる。スコア生成部304が、各保持戦略案のスコアを算出し、このスコアに基づき保持戦略決定部307が保持戦略を決定する。これにより、制御装置12は、保持方法の切替えの判定を行わなくても保持方法の切替え回数を抑えるための保持戦略を決定することができる。
本実施形態の構成によれば、制御装置12は、物体Oを保持する順番および保持方法の切替えの順番の少なくとも一方を含む保持戦略を複数作成し、複数の保持戦略のうち一つの保持戦略を選択する。これにより、制御装置12は、幅広い保持戦略を比較検討して、成功率や保持方法の切替え回数などの点で最も優れた保持戦略を選択することができる。
また、本実施形態では、制御装置12は、保持方法の切替え回数が小さくなるように、複数の保持戦略のうち一つの保持戦略を選択する。これにより、ハンドリング装置10は、保持方法の切替え回数ができるだけ小さくなるように一連の保持動作を実行することができ、全体の作業に要する時間を低減することができる。
(第3の実施形態)
次に、第3の実施形態について説明する。第3の実施形態では、各保持方法の使用頻度に基づいて保持方法が選択される点で、第1の実施形態とは異なる。なお、以下に説明する以外の構成は、第1の実施形態と同様である。
制御装置12は、各保持方法の使用頻度を記憶部302に記録する。例えば、制御装置12は、保持動作を行うたびに、使用した保持方法を記憶部302に記録し、保持方法の使用履歴に基づいて各保持方法の使用頻度を算出することができる。あるいは、制御装置12は、保持方法の切替えが行われたことを記憶部302に記録し、保持方法の切替えの履歴に基づいて各保持方法の使用頻度を算出してもよい。これにより、制御装置12は、それぞれの保持方法が過去にどの程度の頻度で使用されたかを確認できる。
制御装置12は、算出した各保持方法の使用頻度に偏りがある場合や、保持方法の使用限度に近づいていると判定された場合に、頻繁に使用されている保持方法の使用頻度を下げることができる。例えば、制御装置12は、図9のステップS302において第2スコアTH,H0(I)を算出する際に、頻繁に使用されている保持方法が選択される優先度を下げるように第2スコアTH,H0(I)中のパラメータを調整することができる。あるいは、制御装置12は、例えば、図9のステップS303において第2スコアTH,H0(I)と閾値Thとを比較する場合に、頻繁に使用されている保持方法が選択される優先度を下げるように、閾値生成部305に閾値Thを調整させることができる。あるいは、制御装置12は、例えば、図9のステップS306において保持および切替えの順番を含む保持戦略を決定する場合に、頻繁に使用されている保持方法をできるだけ使用しないように、別の保持方法による第1スコアS(I)がそれなりに高い物体Oについては当該別の保持方法により保持するようにすることができる。あるいは、制御装置12は、例えば、図10のステップS317において各保持戦略案のスコアを算出する場合に、頻繁に使用されている保持方法が選択される優先度を下げるように当該スコア中のパラメータを調整することができる。
例えば、制御装置12は、下記の数式6により挟持および吸着のスコアを算出することができる。
Figure 2022131750000010
数式6において、w+w+w=1であり、w≧0(i=1,2,3)、h≧0(j=1,2)である。S(I)は、物体Oまたは物体Oの領域を示すマスク領域Iを「挟持」により保持を行う場合の第1スコアである。S(I)は、物体Oまたは物体Oの領域を示すマスク領域Iを「吸着」により保持を行う場合の第1スコアである。g(S(I),SH0(I))は、第2スコアを算出するための関数である。fitemは、物体Oの重量に係数を乗じて正規化した値である。hおよびhは、現在の保持方法の利用度合いを調整する重みである。hおよびhは、例えば、その重みを以下のようなテーブル情報としてデータベースなどに保持することができる。また、制御装置12は、第1スコアS(I)またはS(I)の計算結果から重みを調整してもよい。
Figure 2022131750000011
以上のような第3の実施形態の構成によれば、制御装置12は、各保持方法の使用頻度に基づいて、保持する物体Oと保持方法とを選択する。これにより、制御装置12は、頻繁に使用されている保持方法の優先度を下げるといった調整により、特定の保持方法に偏ることを抑制することができるので、保持部200の寿命を延ばすことができる。
また、本実施形態では、制御装置12は、各保持方法の使用頻度に基づいて、スコアを算出する。あるいは、制御装置12は、各保持方法の使用頻度に基づいて閾値Thを決定し、スコアと閾値Thとの大小関係に基づいて保持方法の切替えの要否(有無)を判定する。これにより、制御装置12は、各保持方法の使用頻度に基づいてスコアまたは閾値を修正することにより、頻繁に使用されている保持方法の優先度を下げるといった調整を容易に行うことができる。
(第4の実施形態)
次に、第4の実施形態について説明する。第4の実施形態では、各保持部200A、200Bの物理状態の検出結果に基づいて保持方法が選択される点で、第1の実施形態とは異なる。なお、以下に説明する以外の構成は、第1の実施形態と同様である。
制御装置12は、第3センサ11Cおよび第4センサ11Dから第1保持部200Aおよび第2保持部200Bの物理的な状態に関する情報を受け取る。特定の保持部200を繰り返し使用すると、保持部200の歪み、形状変化、表面状態の変化などにより、第3センサ11Cおよび第4センサ11Dの物理センサの測定値が変化し得る。制御装置12は、このような物理状態に関する情報に基づいて、保持部200A、200Bの摩耗状態などの使用状態を推定する。制御装置12は、劣化や損傷が生じていると推定された保持部200A、200Bを用いた保持方法について、第3の実施形態と同様に、当該保持方法が選択される優先度または頻度を下げるように、スコア、閾値、保持戦略における保持および切替えの順番などを調整する。
以上のような第4の実施形態の構成によれば、制御装置12は、保持部200の物理的な情報に基づいて、保持する物体Oと保持方法とを選択する。これにより、保持部200の物理的な劣化などを実際に測定しながら保持方法の優先度を調整することができるので、保持部200の寿命を延ばすことができる。
(第5の実施形態)
次に、第5の実施形態について説明する。第5の実施形態では、ルールベースのアルゴリズムに代えて機械学習を用いたアルゴリズムを利用する点で、第1の実施形態とは異なる。なお、以下に説明する以外の構成は、第1の実施形態と同様である。
本実施形態では、第1の実施形態における第1スコアや第2スコアの算出が機械学習により実行される。例えば教師あり学習を想定した場合、上記にて規定した評価関数を学習時の評価値として利用することも可能である。学習アルゴリズムに関しては、教師あり学習に限らず、教師なし学習、強化学習など学習の種類によって変更することが可能である。
制御装置12は、センサ11から取得した情報、第1スコアにより得られた情報、第2スコアにより得られた情報、保持方法の切替え回数に必要な情報などをもとに、学習ネットワークを構成することによって、保持動作の成功率、保持方法の切替え回数、および保持方法の使用頻度の評価を両立するための学習を行い、これらの間のバランスを調整することができる。例えば、機械学習により訓練された制御装置12は、センサ11による情報取得工程(ステップS1)において取得した情報を入力として受け取り、保持動作の成功率を大きくし、保持方法の切替えを抑え、保持方法の使用頻度の偏りを抑えるのに適した、保持対象ごとおよび保持方法ごとのスコアや、保持および切替えの順番を含む一つ以上の保持戦略などを出力することができる。
機械学習を利用する場合、数式2および数式3の第1スコアの評価関数においてwp1=wp2=wp3=wp4=wp5=0とし、ws1=ws2=ws3=ws4=ws5=0とする。
以上のような第5の実施形態の構成によれば、制御装置12は、繰り返し機械学習を行うことにより、より適切なスコアや保持戦略を効率的に出力することができるようになる。
上記各実施形態では、制御装置12は、第2スコアTH,H0(I)と閾値Thとを比較することにより切替えの必要性を判定した後で保持動作および切替え動作の順番を決定しているが、切替えの必要性の判定を行わずに、切替え回数が小さくなるように保持動作および切替え動作の順番を決定してもよい。例えば、制御装置12のスコア生成部304は、現在選択されている保持方法を考慮しない単純な保持しやすさを示す第1スコアS(I)に対して、現在選択されている保持方法Hによる第1スコアSH0(I)のみ値を補正し(例えば、n倍(n>1)とし)、それ以外の保持方法による第1スコアS(I)はそのままの値とした第2スコアTH,H0(I)を生成し、この第2スコアTH,H0(I)に基づいて、切替え回数ができるだけ小さくなるように保持動作および切替え動作の順番を含む保持戦略を決定してもよい。この場合、制御装置12が保持方法の切替えの必要性を判定する必要はない。なお、第1スコアS(I)の補正方法を含む第2スコアTH,H0(I)の生成方法は上記例に限定されず、現在選択されている保持方法を優先的に使用するように何らかのバイアスが掛かるものであれば任意の方法を利用可能である。
上記各実施形態では、ハンドリング装置10は、「挟持」を実行する第1ハンドリング装置10Aと「吸着」を実行する第2ハンドリング装置10Bとを有するが、ハンドリング装置10の構成はこれに限定されず、複数の保持方法のうち一つ以上を選択して物体を保持できるものである限り、任意の保持方法を実行する一つ以上の保持部を有するものであってよい。例えば、ハンドリング装置10は、第1ハンドリング装置10Aおよび第2ハンドリング装置10Bに加えて別のハンドリング装置をさらに有してもよい。ハンドリング装置10は、第1ハンドリング装置10Aおよび第2ハンドリング装置10Bに代えて、「挟持」および「吸着」の両方を実行することができる一つのハイブリッドハンドを有してもよい。また、第1ハンドリング装置10Aおよび第2ハンドリング装置10Bの少なくとも一方が、「挟持」および「吸着」の両方を実行することができるハイブリッドハンドであってもよい。このようなハイブリッドハンドは、例えば、挟持部と吸着部とを180°回転する回転部によって切り替える構成であってもよく、光学顕微鏡のようなリボルバー式の構成であってもよく、その他の構成であってもよい。ハンドリング装置10は、大きさ、形状、特性などが異なる2種類の吸着用ハンドリング装置を有してもよい。あるいは、ハンドリング装置10は、挟持および吸着以外の保持方法で物体Oの保持を行うハンドリング装置を有してもよい。
以上説明した少なくともひとつの実施形態によれば、現在選択されている保持方法を基準とするスコアに基づいて現在選択されている保持方法を優先的に使用するように保持戦略を作成することにより、ハンドリング装置の動作時間を短縮することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1…搬送システム、10…ハンドリング装置(ハンドリングシステム)、10A…第1ハンドリング装置、10B…第2ハンドリング装置、11…センサ、11A…第1センサ、11B…第2センサ、11C…第3センサ、11D…第4センサ、11E…第5センサ、12…制御装置(制御部)、100…アーム、101…アーム部材、102…回動部、200…保持部、200A…第1保持部、200B…第2保持部、202…挟持ハンド、203…吸引装置、205…吸着部、300…入力部、301…認識処理部、302…記憶部、303…動作制御部、304…スコア生成部、305…閾値生成部、306…判定部、307…保持戦略決定部。

Claims (21)

  1. 可動アームと、
    前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能な保持部と、
    複数の前記物体を検出可能なセンサと、
    前記可動アームおよび前記保持部を制御する制御部と、
    を備え、
    前記制御部は、
    前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出し、
    前記スコアに基づいて、次に保持する前記物体および保持方法を選択し、
    選択された前記物体を保持する位置および前記可動アームの姿勢を算出する、
    ハンドリングシステム。
  2. 前記複数の保持方法は、挟持および吸着を含む、
    請求項1に記載のハンドリングシステム。
  3. 前記制御部は、保持方法の切替え回数が小さくなるように、次に保持する前記物体および保持方法を選択する、
    請求項1または2に記載のハンドリングシステム。
  4. 前記制御部は、前記スコアに基づいて、保持方法の切替えの要否を判定する、
    請求項1~3のいずれか一項に記載のハンドリングシステム。
  5. 前記制御部は、前記スコアと所定の閾値との大小関係に基づいて保持方法の切替えの要否を判定する、
    請求項4に記載のハンドリングシステム。
  6. 前記制御部は、前記スコアに基づいて、前記物体を保持する順番を決定する、
    請求項1~5のいずれか一項に記載のハンドリングシステム。
  7. 前記制御部は、さらに前記物体の保持方法の切替えの順番を決定する、
    請求項6に記載のハンドリングシステム。
  8. 前記制御部は、前記物体を保持する順番、および前記保持方法の切替えの順番の少なくとも一方を含む保持戦略を複数作成し、複数の保持戦略のうち一つの保持戦略を選択する、
    請求項6または7に記載のハンドリングシステム。
  9. 前記制御部は、保持方法の切替え回数が小さくなるように、前記複数の保持戦略のうちの一つの保持戦略を選択する、
    請求項8に記載のハンドリングシステム。
  10. 前記制御部は、各保持方法の使用頻度に基づいて、次に保持する前記物体および保持方法を選択する、
    請求項1~9のいずれか一項に記載のハンドリングシステム。
  11. 前記制御部は、各保持方法の使用頻度に基づいて、前記スコアを算出する、
    請求項10に記載のハンドリングシステム。
  12. 前記制御部は、各保持方法の使用頻度に基づいて閾値を決定し、前記スコアと前記閾値との大小関係に基づいて保持方法の切替えの要否を判定する、
    請求項10に記載のハンドリングシステム。
  13. 前記制御部は、前記保持部の物理的な情報に基づいて、次に保持する前記物体および保持方法を選択する、
    請求項1~12のいずれか一項に記載のハンドリングシステム。
  14. 前記制御部は、保持方法が吸着である場合について前記スコアを算出するとき、前記物体の領域ごとに前記スコアを算出する、
    請求項1~13のいずれか一項に記載のハンドリングシステム。
  15. 前記制御部は、前記物体ごとおよび保持方法ごとに、保持しやすさを第1スコアとして算出し、
    前記選択されている保持方法を基準とした前記スコアは、前記物体ごとおよび保持方法ごとに前記第1スコアに基づき算出される第2スコアである、
    請求項1~14のいずれか一項に記載のハンドリングシステム。
  16. 前記物体および保持方法についての前記第2スコアは、当該物体および前記選択されている保持方法についての前記第1スコアを、当該物体および当該保持方法についての前記第1スコアで割った値である、
    請求項15に記載のハンドリングシステム。
  17. 可動アームと、
    前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能な保持部と、
    複数の前記物体を検出可能なセンサと、
    前記可動アームおよび前記保持部を制御する制御部と、
    を備え、
    前記制御部は、
    前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出し、
    前記スコアに基づいて、次に保持する前記物体および保持方法を選択し、
    選択された前記物体を保持する位置および前記可動アームの姿勢を算出して、前記物体を第1の位置から第2の位置に移動させる、
    搬送システム。
  18. 可動アームと、
    前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能な保持部と、
    複数の前記物体を検出可能なセンサと、
    を備える搬送システムを制御する制御装置であって、
    前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出し、
    前記スコアに基づいて、次に保持する前記物体および保持方法を選択し、
    選択された前記物体を保持する位置および前記可動アームの姿勢を算出する、
    制御装置。
  19. 可動アームと、
    前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能な保持部と、
    複数の前記物体を検出可能なセンサと、
    前記可動アームおよび前記保持部を制御する制御部と、
    を備える搬送システムを制御する制御プログラムであって、
    前記制御部に、
    前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出させ、
    前記スコアに基づいて、次に保持する前記物体および保持方法を選択させ、
    選択された前記物体を保持する位置および前記可動アームの姿勢を算出させる、
    制御プログラム。
  20. 可動アームと、
    前記可動アームに取り付けられ、複数の保持方法のうち一つ以上を選択して物体を保持することが可能な保持部と、
    複数の前記物体を検出可能なセンサと、
    前記可動アームおよび前記保持部を制御する制御部と、
    を備える搬送システムにより物品をハンドリングするハンドリング方法であって、
    前記制御部は、
    前記センサから取得した情報に基づいて、前記物体ごとおよび保持方法ごとに、選択されている保持方法を基準としたスコアを算出し、
    前記スコアに基づいて、次に保持する前記物体および保持方法を選択し、
    選択された前記物体を保持する位置および前記可動アームの姿勢を算出する、
    ハンドリング方法。
  21. 可動アームと、
    前記可動アームに取り付けられ、複数の保持機構のうち一つ以上を選択して保持対象物を保持することが可能な保持部と、
    前記保持対象物を検出可能なセンサと、
    前記可動アームおよび前記保持部を制御する制御部と、を備え、
    前記制御部は、
    前記センサから取得した情報に基づいて、保持対象物の何れかと、前記保持機構の何れかから、選択される保持機構を基準としたスコアを算出し、
    前記スコアに基づいて、保持対象物、および前記選択される保持機構の後に前記保持対象物を保持する保持機構を選択し、
    前記選択される保持機構の後に前記保持対象物を保持する保持機構が、前記保持対象物を保持する位置、および前記可動アームの姿勢を算出する、
    ハンドリングシステム。
JP2021030860A 2021-02-26 2021-02-26 ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法 Pending JP2022131750A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021030860A JP2022131750A (ja) 2021-02-26 2021-02-26 ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法
CN202210167479.2A CN115042169A (zh) 2021-02-26 2022-02-23 装卸系统、输送系统、控制装置、存储介质及装卸方法
US17/652,122 US20220274252A1 (en) 2021-02-26 2022-02-23 Handling system, transport system, control device, storage medium, and handling method
EP22158509.4A EP4049809A1 (en) 2021-02-26 2022-02-24 Handling system, transport system, control device, control program, and handling method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021030860A JP2022131750A (ja) 2021-02-26 2021-02-26 ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法

Publications (1)

Publication Number Publication Date
JP2022131750A true JP2022131750A (ja) 2022-09-07

Family

ID=80930552

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021030860A Pending JP2022131750A (ja) 2021-02-26 2021-02-26 ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法

Country Status (4)

Country Link
US (1) US20220274252A1 (ja)
EP (1) EP4049809A1 (ja)
JP (1) JP2022131750A (ja)
CN (1) CN115042169A (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0331478A3 (en) * 1988-03-04 1990-05-02 Hewlett-Packard Company A manufacturing interface system
JP6707485B2 (ja) * 2017-03-22 2020-06-10 株式会社東芝 物体ハンドリング装置およびその較正方法
JP7286272B2 (ja) * 2018-06-21 2023-06-05 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
US10500735B1 (en) * 2018-07-13 2019-12-10 Dexterity, Inc. Robotic toolset and gripper
US11813758B2 (en) * 2019-04-05 2023-11-14 Dexterity, Inc. Autonomous unknown object pick and place
US10906188B1 (en) * 2019-10-25 2021-02-02 Dexterity, Inc. Singulation of arbitrary mixed items

Also Published As

Publication number Publication date
CN115042169A (zh) 2022-09-13
EP4049809A1 (en) 2022-08-31
US20220274252A1 (en) 2022-09-01

Similar Documents

Publication Publication Date Title
US11383380B2 (en) Object pickup strategies for a robotic device
JP7290280B2 (ja) オブジェクト識別メカニズムおよびオブジェクトハンドリングメカニズムを有するロボットシステムおよびその動作方法
CN113795864A (zh) 自主未知对象拾取和放置
JP6057862B2 (ja) 部品供給装置および部品供給装置のプログラム生成方法
WO2018092860A1 (ja) 干渉回避装置
CN111655433B (zh) 用于操作机器人的方法
JP7021160B2 (ja) ハンドリング装置、ハンドリング方法及びプログラム
US11701777B2 (en) Adaptive grasp planning for bin picking
EP3670106B1 (en) Task-specific robot grasping system and method
KR20170013925A (ko) 다수의 흡입 컵 제어
JP2024052998A (ja) ハンドリング装置
US20230321821A1 (en) Method and system for object grasping
US20230158676A1 (en) Controlling multiple robots to cooperatively pick and place items
Jørgensen et al. Designing a flexible grasp tool and associated grasping strategies for handling multiple meat products in an industrial setting
Washio et al. Design and control of a multi-modal soft gripper inspired by elephant fingers
CN109641706B (zh) 拣货方法、系统及其应用的获持与放置系统、机器人
JP2022131750A (ja) ハンドリングシステム、搬送システム、制御装置、制御プログラム、およびハンドリング方法
WO2023187006A1 (en) Controlling a robotic manipulator for packing an object
US20220388787A1 (en) Handling system, transport system, control device, storage medium, and handling method
JP2020075340A (ja) 作動システム、制御装置、およびプログラム
US20230071488A1 (en) Robotic system with overlap processing mechanism and methods for operating the same
CN115837985B (zh) 一种基于机器视觉的无序抓取方法
US20230286165A1 (en) Systems and methods for robotic system with object handling
WO2023153441A1 (ja) ハンドリングシステム、ハンドリング方法、プログラム、情報処理装置、及びデータ構造
JP7437288B2 (ja) 移動機械の制御装置および制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231213