JP2014237188A - ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法 - Google Patents

ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法 Download PDF

Info

Publication number
JP2014237188A
JP2014237188A JP2013120741A JP2013120741A JP2014237188A JP 2014237188 A JP2014237188 A JP 2014237188A JP 2013120741 A JP2013120741 A JP 2013120741A JP 2013120741 A JP2013120741 A JP 2013120741A JP 2014237188 A JP2014237188 A JP 2014237188A
Authority
JP
Japan
Prior art keywords
dimensional
workpiece
detection area
detection
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013120741A
Other languages
English (en)
Other versions
JP5786896B2 (ja
Inventor
裕也 安田
Yuya Yasuda
裕也 安田
青山 一成
Kazunari Aoyama
一成 青山
入江 俊充
Toshimitsu Irie
俊充 入江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
Original Assignee
Yaskawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp filed Critical Yaskawa Electric Corp
Priority to JP2013120741A priority Critical patent/JP5786896B2/ja
Priority to EP14170877.6A priority patent/EP2810747A3/en
Priority to US14/295,261 priority patent/US9283680B2/en
Priority to CN201410251350.5A priority patent/CN104227723B/zh
Publication of JP2014237188A publication Critical patent/JP2014237188A/ja
Application granted granted Critical
Publication of JP5786896B2 publication Critical patent/JP5786896B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40053Pick 3-D object from pile of objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Manipulator (AREA)

Abstract

【課題】ワークの検出時間を短縮できるワーク検出装置を提供する。【解決手段】ワーク検出装置3は、2次元画像を取得するカメラ30と、3次元センサ31と、3次元センサ31を移送するセンサ移送機構33と、2次元画像を処理して複数の候補ワークを抽出するワーク抽出部U2と、複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定するエリア設定部U3と、3次元検出エリアに含まれる候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、複数の3次元検出エリアの優先順位を設定する優先順位設定部U4と、優先順位に基づいて、3次元検出エリアの3次元形状の検出を順次行うように3次元センサ31及びセンサ移送機構33を制御するセンサ制御部U5と、3次元形状が検出される度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能なワークを検出するワーク検出部U6とを備える。【選択図】図2

Description

本発明は、ワーク検出装置、ロボットシステム、被加工物の製造方法及びワークの検出方法に関する。
ランダムに積載されたワークを順次搬送可能なロボットシステムが実用化されている。例えば特許文献1には、カメラにより取得された2次元画像を処理して複数の候補ワークを抽出し、複数の候補ワークに優先順位を設定し、優先順位に従ってワークごとに3次元位置及び姿勢の精密測定を行うことで、ピックアップ可能なワークを検出するロボットシステムが開示されている。
特開2008−87074号公報
ランダムに積載されたワークの搬送を短時間で完了させるためには、ピックアップ可能なワークの検出を短時間で行うことが望ましい。しかしながら、上述したロボットシステムでは、ピックアップ可能なワークを検出できるまで、候補ワークごとに3次元位置及び姿勢の精密測定を繰り返すこととなる。このため、ワークの検出時間が長くなる場合がある。
そこで本発明は、ワークの検出時間を短縮できるワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法を提供することを目的とする。
本発明に係るワーク検出装置は、ワークを含む探索範囲の2次元画像を取得するカメラと、3次元検出エリアの3次元形状を検出する3次元センサと、3次元センサを移送するセンサ移送機構と、2次元画像を処理して複数の候補ワークを抽出するワーク抽出部と、複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定するエリア設定部と、3次元検出エリアに含まれる候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、複数の3次元検出エリアの優先順位を設定する優先順位設定部と、優先順位に基づいて、3次元検出エリアの3次元形状の検出を順次行うように3次元センサ及びセンサ移送機構を制御するセンサ制御部と、3次元形状が検出される度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能なワークを検出するワーク検出部とを備える。
本発明に係るロボットシステムは、上記ワーク検出装置と、ワークを保持する保持機構を有するロボットと、ワーク検出装置により検出されたワークを保持機構により保持して搬送するようにロボットを制御するロボットコントローラとを備える。
本発明に係る被加工物の製造方法は、ワークを含む探索範囲の2次元画像をカメラにより取得すること、2次元画像を処理して複数の候補ワークを抽出すること、複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定すること、3次元検出エリアに含まれる候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、複数の3次元検出エリアの優先順位を設定すること、優先順位に基づいて、3次元検出エリアの3次元形状の検出を3次元センサにより順次行うこと、3次元形状を検出する度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能なワークを検出すること、検出したワークを、ロボットの保持機構により保持させること、保持機構に保持させたワークを、ロボットにより後工程に搬送することを含む。
本発明に係るワーク検出方法は、ワークを含む探索範囲の2次元画像をカメラにより取得すること、2次元画像を処理して複数の候補ワークを抽出すること、複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定すること、3次元検出エリアに含まれる候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、複数の3次元検出エリアの優先順位を設定すること、優先順位に基づいて、3次元検出エリアの3次元形状の検出を3次元センサにより順次行うこと、3次元形状を検出する度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能な前記ワークを検出することを含む。
本発明によれば、ワークの検出時間を短縮できる。
本実施形態に係るロボットシステムの概略図である。 ワーク検出装置の機能的構成を示すブロック図である。 ワーク搬出手順を示すフローチャートである。 候補ワーク及び3次元検出エリアを例示する模式図である。 図4中の3次元検出エリアの一部を検出対象から除外した状態を示す模式図である。
以下、本発明の好適な実施形態について、図面を参照しつつ詳細に説明する。説明において、同一要素又は同一機能を有する要素には同一の記号を付し、重複する説明を省略する。
図1に示すように、ロボットシステム1は、ロボット装置2とワーク検出装置3とを備える。ロボットシステム1は、ワークを収容したストッカ10からワークをピックアップして搬送する。
ストッカ10は、上部が開口した容器であり、ランダムに積載(ばら積み)された複数のワークを収容する。ストッカ10の底部は、ワークを載置可能な載置領域A0を構成する(図4参照)。
ロボット装置2は、ロボット20とロボットコントローラ21とを備え、ストッカ10内のワークを外部へ搬送する。ロボット20は、例えばシリアルリンク型のアーム22と、アーム22の手首部22aに装着された保持機構23とを有する。保持機構23は、複数の指部23aを有し、複数の指部23aを開閉させることによりワークを保持する。保持機構23は、ワークを吸着保持するものであってもよい。
ワーク検出装置3は、カメラ30と、3次元センサ31と、ワーク検出コントローラ32とを備える。カメラ30は、ストッカ10の上方に配置され、ストッカ10内のワークを含む探索範囲の2次元画像を取得する。探索範囲は、例えばストッカ10全体を含む範囲である。カメラ30は、例えばCCDカメラ、CMOSカメラである。
3次元センサ31は、レーザスキャナ31a及び受光部31bを有する。レーザスキャナ31aは、ミラーを回動させてレーザ光の出射角度を変えながら、下方の測定対象にレーザ光を照射する。受光部31bは、測定対象からの反射光を受光する。3次元センサ31は、レーザ光の出射角度及び受光部31bにおける受光位置等を用い、三角測量の原理で測定対象の3次元形状を検出する。以下、3次元センサ31の測定対象となる範囲を「3次元検出エリア」という。
3次元センサ31は、アーム22の手首部22aに取り付けられており、ワーク検出装置3はロボット20及びロボットコントローラ21を3次元センサ31の移送機構として用いる。すなわち、ワーク検出装置3は、ロボット20及びロボットコントローラ21により構成されるセンサ移送機構33を更に備える。ロボット20及びロボットコントローラ21をワークの搬送と3次元センサ31の移送とに兼用することにより、ロボットシステム1の構成を簡略化できる。
ワーク検出コントローラ32は、カメラ30、3次元センサ31及びセンサ移送機構33を制御することで、本実施形態に係るワーク検出方法を実行するコンピュータである。図2に示すように、ワーク検出コントローラ32は、カメラ制御部U1と、ワーク抽出部U2と、エリア設定部U3と、優先順位設定部U4と、センサ制御部U5と、ワーク検出部U6とを備える。
カメラ制御部U1は、上記探索範囲の2次元画像を取得するようにカメラ30を制御する。ワーク抽出部U2は、カメラ30により取得された2次元画像を処理し、複数の候補ワークを抽出する。エリア設定部U3は、ワーク抽出部U2により抽出された複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定する。優先順位設定部U4は、複数の3次元検出エリアの優先順位を設定する。
センサ制御部U5は、優先順位に基づいて、3次元検出エリアの3次元形状の検出を順次行うように3次元センサ31及びセンサ移送機構33を制御する。具体的には、センサ移送機構33により3次元検出エリアの上に3次元センサ31を移送し、その3次元検出エリアの3次元形状を3次元センサ31により取得する制御を、優先順位の高い3次元検出エリアから順に実行する。ワーク検出部U6は、3次元センサ31により3次元形状が検出される度に、その3次元形状に基づいてワークの探索を実行し、ピックアップ可能なワークを検出する。
続いて、ロボットシステム1により実行されるワークの搬送手順を説明する。この手順は、ワーク検出コントローラ32により実行されるワーク検出方法を含む。図3に示すように、まず、カメラ制御部U1によりカメラ30を制御して、上記探索範囲の2次元画像を取得する(S01)。
次に、2次元画像を処理して探索範囲から複数の候補ワークを抽出する(S02)。具体的には、画像処理により認識される複数のワークのなかで、抽出条件を満たすワークを候補ワークとして抽出する。抽出条件としては、例えば、他のワークが上に重なっていないことが挙げられる。また、ワークの特定の面が上向きとなっていることが挙げられる。
他のワークが上に重なっているかどうかは、ワークの輪郭が途切れなく認識されているかどうかに基づいて判断できる。ワークの特定の面が上向きとなっているかどうかは、ワークの輪郭形状に基づいて判断できる。
なお、候補ワークの抽出条件は、ここに例示するものに限られない。例えば、保持機構23を挿入可能なスペースがあることを抽出条件としてもよい。この条件を満たすかどうかは、ワークの保持部位の周囲に他のワークが存在するかどうかに基づいて判断できる。
次に、複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定する(S03)。例えば、候補ワークごとに、その候補ワークを中心とする3次元検出エリアを設定する。
候補ワークの抽出及び3次元検出エリアの設定の具体例について、図4を参照して説明する。図4におけるワークは、環状部分Waと、環状部分Waから外周側に突出した棒状部分Wbとを有する。抽出条件は、他のワークが上に重なっていないこと、及び環状部分Waの中心軸に直交する面が上向きとなっていることである。これらの条件を満たすように、輪郭線に途切れがなく、且つ環状部分Waの輪郭形状が環状となっているワークW1〜W10が候補ワークとして抽出されている。そして、ワークW1〜W10をそれぞれ中心とする複数のエリアA1〜A10が3次元検出エリアとして設定される。
次に、図3に示すように、優先順位設定部U4により複数の3次元検出エリアの優先順位を設定する(S04)。優先順位設定部U4は、3次元検出エリアに含まれる候補ワークの数(以下、「内包する候補ワークの数」という。)が多くなるのに応じて当該3次元検出エリアを上位にする。また、上記載置領域A0と3次元検出エリアとの重複領域の面積が小さくなるのに応じて当該3次元検出エリアを上位にする。更に、3次元検出エリアに含まれる候補ワークの2次元画像における撮影倍率が大きくなるのに応じて当該3次元検出エリアを上位にする。このような設定は、例えば次式により算出されるスコアPが大きくなるのに応じて3次元検出エリアを上位にすることで実現される。
P=Z/S
Z:3次元検出エリアに含まれる全ての候補ワークの撮影倍率の総和。
S:重複領域の面積。
すなわち、撮影倍率の総和Zは、内包する候補ワークの数が多くなると大きくなり、各候補ワークの撮影倍率が大きくなると大きくなる。この総和ZがスコアPの分子となっているので、スコアPは内包する候補ワークの数が多くなるのに応じて大きくなり、各候補ワークの撮影倍率が大きくなるのに応じて大きくなる。重複領域の面積SがスコアPの分母となっているので、スコアPは面積Sが小さくなるのに応じて大きくなる。
また、優先順位設定部U4は、3次元検出エリアと当該3次元検出エリアの上位の3次元検出エリアとの重複が大きくなるのに応じて当該3次元検出エリアを下位にする。更に、互いに同位の3次元検出エリア同士の重複が大きくなるのに応じて、いずれか一方の3次元検出エリアを下位にしてもよい。このように3次元検出エリア同士の重複が大きくなるのに応じた順位調整の一例として、3次元検出エリア同士の重複面積についての閾値を設定し、上記重複面積が閾値より大きくなるのに応じて順位調整を行ってもよい。あるいは、3次元検出エリア同士の中心間距離についての閾値を設定し、上記中心間距離が閾値より小さくなるのに応じて順位調整を行ってもよい。なお、3次元検出エリアの優先順位を下げることは、当該3次元検出エリアを検出対象から除外することも含む。
優先順位の設定の具体例について、図4を参照して説明する。内包する候補ワークの数が多くなるのに応じて優先順位を上位にするという条件のみに従う場合、候補ワークを4個内包するエリアA2が第1位となり、候補ワークを約3.5個内包するエリアA3が第2位となり、候補ワークを3個内包するエリアA4が第3位となり、候補ワークを2個内包するエリアA1,A5,A6,A7,A8,A9,A10が第4位となる。
ここに、重複領域の面積が小さくなるのに応じて優先順位を上位にするという条件が加味される。エリアA7,A8は載置領域A0の周縁を含むので、エリアA7,A8の重複領域は他のエリアに比べ小さい。このため、エリアA7が第3位となり、エリアA4が第4位に繰り下がり、エリアA8が第5位となり、エリアA1,A5,A6,A9,A10が第6位に繰り下がる。
また、各候補ワークの撮影倍率が大きくなるのに応じて優先順位を上位にするという条件が加味される。ワークW5,W6の撮影倍率は、他のワークの撮影倍率に比べ大きい。このため、ワークW5,W6を含むエリアA5,A6が第4位となり、エリアA4が第6位に繰り下がり、エリアA8が第7位に繰り下がり、エリアA1,A9,A10が第8位に繰り下がる。
更に、上位の3次元検出エリアとの重複が大きくなるのに応じて優先順位を下位にするという条件が加味される。これにより、例えば第1位のエリアA2との重複が大きいエリアA1,A3,A4が、第8位のエリアA9,A10より下位とされる。第3位のエリアA7との重複が大きいエリアA8も、エリアA9,A10より下位とされる。互いに重複が多きい第4位のエリアA5,A6のいずれか一方も、エリアA9,A10より下位とされる。互いに重複が大きい第8位のエリアA9,A10のいずれか一方も更に下位とされる。図5に示すように、エリアA3,A4,A1,A8と、エリアA5,A6のいずれか一方と、エリアA9,A10のいずれか一方を検出対象から除外してもよい。
優先順位の設定を完了すると、図3に示すように3次元センサ31を第1位の3次元検出エリア上に移送する(S05)。具体的には、センサ移送機構33としてのロボットコントローラ21及びロボット20をセンサ制御部U5により制御して3次元センサ31を移送する。
次に、センサ制御部U5により3次元センサ31を制御して、3次元検出エリアの3次元形状を検出する(S06)。次に、検出された3次元形状に基づくワークの探索をワーク検出部U6により実行し、ピックアップ可能なワークの検出を試みる(S07)。ピックアップ可能なワークであるかどうかは、例えば他のワーク等に妨げられることなくピックアップ可能かどうかにより判断される。
次に、ピックアップ可能なワークを検出できたかどうかを判定する(S08)。ピックアップ可能なワークを検出できた判定される場合には、ロボットコントローラ21によりロボット20を制御して当該ワークのピックアップを行い(S09)、ピックアップに成功したかどうかを判定する(S10)。ピックアップに成功したかどうかは、指部23aの状態に基づいて判定できる。例えば、指部23a同士でワークを挟んでピックアップを試みたにも関わらず、指部23a同士が互いに接触している場合、ピックアップは失敗したものと判定される。
S08においてワークを検出できなかったと判定されるか、S10においてピックアップに失敗したと判定されると、3次元センサ31を次の順位の3次元検出エリア上に移送する(S11)。具体的には、センサ移送機構33としてのロボットコントローラ21及びロボット20をセンサ制御部U5により制御して3次元センサ31を移送する。
次に、センサ制御部U5により3次元センサ31を制御して、3次元検出エリアの3次元形状を検出する(S12)。次に、検出された3次元形状に基づくワークの探索をワーク検出部U6により実行し、ピックアップ可能なワークの検出を試みる(S13)。次に、ピックアップ可能なワークを検出できたかどうかを判定する(S14)。ピックアップ可能なワークを検出できたと判定される場合には、ロボットコントローラ21によりロボット20を制御して当該ワークのピックアップを行い(S15)、ピックアップに成功したかどうかを判定する(S16)。S14においてワークを検出できなかったと判定されるか、S16においてピックアップに失敗したと判定されると、S11に戻る。
このようにして、いずれかの3次元検出エリアにおいてピックアップ可能なワークを検出し、ピックアップに成功すると、ロボットコントローラ21によりロボット20を制御してワークを搬送する(S17)。以上の処理をストッカ10が空になるまで繰り返す。
以上に説明したワーク検出装置3によれば、探索範囲全体の2次元画像の取得と、2次元画像に基づく候補ワークの抽出及び3次元検出エリアの設定と、3次元検出エリアの優先順位の設定とが、3次元センサによる3次元形状の検出に先立って行われる。そして、設定された優先順位に基づいて、3次元センサによる3次元形状の検出及び3次元形状に基づくワークの探索が実行される。3次元検出エリアが候補ワークごとに設定されるので、全ての3次元検出エリアに確実に候補ワークが含まれる。また、候補ワークを多く含む3次元検出エリアの優先順位が上位に設定されるので、候補ワークを多く含む3次元エリアに対するワーク探索を優先的に行うことが可能となる。従って、少ない3次元検出回数(3次元形状の検出回数)でワークを検出できる可能性が高まるので、ワークの検出時間を短縮できる。
優先順位設定部U4は、上記載置領域A0と3次元検出エリアとの重複領域の面積が小さくなるのに応じて当該3次元検出エリアが上位となるように、優先順位を設定する。
ここで、積載されたワークを順次搬出する工程においてワークの積載の高低差が拡大すると、積載高さが低い部分のワークをピックアップしようとするときに、積載高さが高い部分のワークが障害となる可能性がある。このため、上記高低差が拡大しないようにワークを搬出することが好ましい。
載置領域A0外にはワークが存在しないので、候補エリアの数のみに基づいて優先順位を設定すると、載置領域A0の周縁を含む3次元検出エリアの優先順位は低くなり易い。このため、載置領域A0の周縁近傍のワークは検出されずに残留し易くなり、載置領域A0の中心部と周縁部とで上記高低差が拡大する可能性がある。これに対し、重複領域の面積が小さくなるのに応じて3次元検出エリアの優先順位を高めることにより、載置領域A0の周縁を含むことに起因する優先順位の低下が抑制される。従って、上記高低差の拡大を抑制できる。
優先順位設定部U4は、3次元検出エリアに含まれる候補ワークの2次元画像における撮影倍率が大きくなるのに応じて当該3次元検出エリアが上位となるように、優先順位を設定する。これにより、高い位置にある候補ワークが優先的に搬送され易くなるので、上記高低差の拡大を抑制できる。
優先順位設定部U4は、3次元検出エリアと当該3次元検出エリアの上位の3次元検出エリアとの重複が大きくなるのに応じて当該3次元検出エリアが下位となるように、優先順位を設定する。これにより、同一の領域に対して3次元検出を繰り返す可能性が低減されるので、ワークの検出時間を更に短縮できる。
なお、ロボットシステム1を用いたワークの搬送方法は、被加工物の製造方法において、例えばボルト等のパーツをワークとして後工程に搬送するのに利用可能である。被加工物としては、民生機器及び産業機器を含む様々な工業製品が挙げられる。
以上、本発明の好適な実施形態について説明してきたが、本発明は必ずしも上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で様々な変更が可能である。例えば、3次元センサ31をセンサ移送機構33により移送することは必須ではなく、定位置において探索範囲全体の3次元検出(3次元形状の検出)を実行可能な3次元センサ31を用いてもよい。この場合も、部分的な3次元検出エリア及びその優先順位を設定し、3次元検出を順次行うことによりワークの検出時間を短縮できる。優先順位設定部U4は、少なくとも、内包する候補ワークの数が多くなるのに応じて優先順位を上位にするという条件に従って3次元検出エリアの優先順位を設定すればよく、その他の条件は必須ではない。3次元センサ31は、ステレオカメラであってもよい。ワーク検出コントローラ32とロボットコントローラ21とは、一体化されていてもよい。
1…ロボットシステム、3…ワーク検出装置、20…ロボット、21…ロボットコントローラ、23…保持機構、30…カメラ、31…3次元センサ、33…センサ移送機構、A0…載置領域、A1,A2,A3,A4,A5,A6,A7,A8,A9,A10…3次元検出エリア、U2…ワーク抽出部、U3…エリア設定部、U4…優先順位設定部、U5…センサ制御部、U6…ワーク検出部、W1,W2,W3,W4,W5,W6,W7,W8,W9,W10…候補ワーク。

Claims (9)

  1. ワークを含む探索範囲の2次元画像を取得するカメラと、
    3次元検出エリアの3次元形状を検出する3次元センサと、
    前記2次元画像を処理して複数の候補ワークを抽出するワーク抽出部と、
    前記複数の候補ワークにそれぞれ対応する複数の前記3次元検出エリアを設定するエリア設定部と、
    前記3次元検出エリアに含まれる前記候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、前記複数の3次元検出エリアの優先順位を設定する優先順位設定部と、
    前記優先順位に基づいて、前記3次元検出エリアの前記3次元形状の検出を順次行うように前記3次元センサを制御するセンサ制御部と、
    前記3次元形状が検出される度に、当該3次元形状に基づく前記ワークの探索を実行して、ピックアップ可能な前記ワークを検出するワーク検出部と、を備えるワーク検出装置。
  2. 前記3次元センサを移送する移送機構を有する請求項1記載のワーク検出装置。
  3. 前記優先順位設定部は、前記ワークを載置可能な載置領域と前記3次元検出エリアとの重複領域の面積が小さくなるのに応じて当該3次元検出エリアが上位となるように、前記優先順位を設定する、請求項1又は2記載のワーク検出装置。
  4. 前記優先順位設定部は、前記3次元検出エリアに含まれる前記候補ワークの前記2次元画像における撮影倍率が大きくなるのに応じて当該3次元検出エリアが上位となるように、前記優先順位を設定する、請求項1〜3のいずれか一項記載のワーク検出装置。
  5. 前記優先順位設定部は、前記3次元検出エリアと当該3次元検出エリアの上位の前記3次元検出エリアとの重複が大きくなるのに応じて当該3次元検出エリアが下位となるように、前記優先順位を設定する、請求項1〜4のいずれか一項記載のワーク検出装置。
  6. 請求項1〜5のいずれか一項記載のワーク検出装置と、
    前記ワークを保持する保持機構を有するロボットと、
    前記ワーク検出装置により検出された前記ワークを前記保持機構により保持して搬送するように前記ロボットを制御するロボットコントローラと、を備えるロボットシステム。
  7. 請求項2記載のワーク検出装置と、
    前記ワークを保持する保持機構を有するロボットと、
    前記ワーク検出装置により検出された前記ワークを前記保持機構により保持して搬送するように前記ロボットを制御するロボットコントローラと、を備え、
    前記3次元センサが前記ロボットに取り付けられ、
    前記ワーク検出装置は前記ロボット及び前記ロボットコントローラを前記移送機構として用いるロボットシステム。
  8. ワークを含む探索範囲の2次元画像をカメラにより取得すること、
    前記2次元画像を処理して複数の候補ワークを抽出すること、
    前記複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定すること、
    前記3次元検出エリアに含まれる前記候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、前記複数の3次元検出エリアの優先順位を設定すること、
    前記優先順位に基づいて、前記3次元検出エリアの3次元形状の検出を3次元センサにより順次行うこと、
    前記3次元形状を検出する度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能な前記ワークを検出すること、
    検出した前記ワークを、ロボットの保持機構により保持させること、
    前記保持機構に保持させた前記ワークを、前記ロボットにより後工程に搬送することを含む被加工物の製造方法。
  9. ワークを含む探索範囲の2次元画像をカメラにより取得すること、
    前記2次元画像を処理して複数の候補ワークを抽出すること、
    前記複数の候補ワークにそれぞれ対応する複数の3次元検出エリアを設定すること、
    前記3次元検出エリアに含まれる前記候補ワークの数が多くなるのに応じて当該3次元検出エリアが上位となるように、前記複数の3次元検出エリアの優先順位を設定すること、
    前記優先順位に基づいて、前記3次元検出エリアの3次元形状の検出を3次元センサにより順次行うこと、
    前記3次元形状を検出する度に、当該3次元形状に基づくワークの探索を実行して、ピックアップ可能な前記ワークを検出することを含むワーク検出方法。
JP2013120741A 2013-06-07 2013-06-07 ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法 Expired - Fee Related JP5786896B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013120741A JP5786896B2 (ja) 2013-06-07 2013-06-07 ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法
EP14170877.6A EP2810747A3 (en) 2013-06-07 2014-06-03 Workpiece detector, robot system, method for producing to-be-processed material, method for detecting workpiece
US14/295,261 US9283680B2 (en) 2013-06-07 2014-06-03 Workpiece detector, robot system, method for producing to-be-processed material, method for detecting workpiece
CN201410251350.5A CN104227723B (zh) 2013-06-07 2014-06-06 工件检测装置、机器人系统、被加工物的制造方法及工件检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013120741A JP5786896B2 (ja) 2013-06-07 2013-06-07 ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法

Publications (2)

Publication Number Publication Date
JP2014237188A true JP2014237188A (ja) 2014-12-18
JP5786896B2 JP5786896B2 (ja) 2015-09-30

Family

ID=51022730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013120741A Expired - Fee Related JP5786896B2 (ja) 2013-06-07 2013-06-07 ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法

Country Status (4)

Country Link
US (1) US9283680B2 (ja)
EP (1) EP2810747A3 (ja)
JP (1) JP5786896B2 (ja)
CN (1) CN104227723B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018122370A (ja) * 2017-01-30 2018-08-09 ファナック株式会社 少なくとも1つのセンサを用いた物品搬送装置
KR20180123725A (ko) * 2016-06-09 2018-11-19 엑스 디벨롭먼트 엘엘씨 차량용 센서 궤적 플래닝
JP2018187687A (ja) * 2017-04-28 2018-11-29 ファナック株式会社 物品取出システム
JP2018192592A (ja) * 2017-05-19 2018-12-06 ファナック株式会社 ワーク取出しシステム
CN109313417A (zh) * 2015-11-16 2019-02-05 Abb瑞士股份有限公司 帮助机器人定位
JP2019111640A (ja) * 2017-12-26 2019-07-11 ファナック株式会社 物品搬送装置、ロボットシステムおよび物品搬送方法
WO2019176829A1 (ja) * 2018-03-13 2019-09-19 オムロン株式会社 ワークピッキング装置及びワークピッキング方法
US11209790B2 (en) 2016-04-15 2021-12-28 Omron Corporation Actuator control system, actuator control method, information processing program, and storage medium

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015147256A (ja) * 2014-02-04 2015-08-20 セイコーエプソン株式会社 ロボット、ロボットシステム、制御装置、及び制御方法
WO2016120724A1 (en) * 2015-01-29 2016-08-04 Abb Technology Ag 3d segmentation for robotic applications
US9486921B1 (en) * 2015-03-26 2016-11-08 Google Inc. Methods and systems for distributing remote assistance to facilitate robotic object manipulation
CN104786226A (zh) * 2015-03-26 2015-07-22 华南理工大学 抓取在线工件的机器人位姿及运动轨迹定位系统与方法
US9802317B1 (en) * 2015-04-24 2017-10-31 X Development Llc Methods and systems for remote perception assistance to facilitate robotic object manipulation
US20170014945A1 (en) * 2015-07-17 2017-01-19 Laserax Inc. Methods and systems for laser marking an identifier on an industrial product
US10343284B2 (en) 2015-08-26 2019-07-09 Berkshire Grey, Inc. Systems and methods for providing contact detection in an articulated arm
US11370128B2 (en) 2015-09-01 2022-06-28 Berkshire Grey Operating Company, Inc. Systems and methods for providing dynamic robotic control systems
EP3344422B1 (en) 2015-09-01 2020-11-04 Berkshire Grey, Inc. Systems and methods for providing dynamic robotic control systems
ES2952517T3 (es) * 2015-09-11 2023-10-31 Berkshire Grey Operating Company Inc Sistemas robóticos y métodos para identificar y procesar diversos objetos
WO2017083574A1 (en) * 2015-11-13 2017-05-18 Berkshire Grey Inc. Sortation systems and methods for providing sortation of a variety of obejcts
US9937532B2 (en) 2015-12-18 2018-04-10 Berkshire Grey Inc. Perception systems and methods for identifying and processing a variety of objects
CN113478512A (zh) 2016-01-08 2021-10-08 伯克希尔格雷股份有限公司 用于获取并移动物体的系统和方法
CN105773591A (zh) * 2016-01-26 2016-07-20 深圳市鼎泰智能装备股份有限公司 一种新型抓取机器人装置
CA3117170C (en) 2016-02-08 2023-08-29 Berkshire Grey, Inc. Systems and methods for providing processing of a variety of objects employing motion planning
US10607879B2 (en) * 2016-09-08 2020-03-31 Brooks Automation, Inc. Substrate processing apparatus
CA3139261A1 (en) 2016-12-09 2018-06-14 Berkshire Grey, Inc. Systems and methods for processing objects provided in vehicles
CN110392623B (zh) 2017-03-06 2022-09-23 伯克希尔格雷运营股份有限公司 用于有效地移动各种物体的系统和方法
US10761542B1 (en) 2017-07-11 2020-09-01 Waymo Llc Methods and systems for keeping remote assistance operators alert
ES2973662T3 (es) 2017-08-02 2024-06-21 Berkshire Grey Operating Company Inc Sistemas y procedimientos de adquisición y desplazamiento de objetos con superficies exteriores complejas
JP2019084601A (ja) * 2017-11-02 2019-06-06 キヤノン株式会社 情報処理装置、把持システムおよび情報処理方法
JP7169130B2 (ja) * 2018-09-03 2022-11-10 川崎重工業株式会社 ロボットシステム
JP7031540B2 (ja) * 2018-09-07 2022-03-08 オムロン株式会社 対象物認識装置、マニピュレータ、および移動ロボット
US11433555B2 (en) * 2019-03-29 2022-09-06 Rios Intelligent Machines, Inc. Robotic gripper with integrated tactile sensor arrays
IT201900006836A1 (it) * 2019-05-14 2020-11-14 Gilli Walter Metodo, sistema e prodotto informatico per prelevare in maniera automatica un oggetto da un gruppo di oggetti accatastati
JP7335096B2 (ja) * 2019-06-07 2023-08-29 ファナック株式会社 ロボットシステムの障害物探索装置
EP4032663A4 (en) * 2019-09-18 2022-08-31 Fuji Corporation WORK ROBOT AND WORK SYSTEM
CN115552476A (zh) 2020-02-06 2022-12-30 伯克希尔格雷营业股份有限公司 用于利用可编程运动装置的铰接臂上的位置未知的基准物的照相机校准的系统和方法
US11945103B2 (en) 2020-07-22 2024-04-02 Berkshire Grey Operating Company, Inc. Systems and methods for object processing using a passively collapsing vacuum gripper
CN116133805A (zh) 2020-07-22 2023-05-16 伯克希尔格雷营业股份有限公司 用于使用通过护罩反转提供对象保持的真空夹持器进行对象处理的系统和方法
CN113084809A (zh) * 2021-04-06 2021-07-09 泰州左岸信息科技有限公司 双目3d感知的工业ai关键技术
CN113762157B (zh) * 2021-09-08 2024-08-13 中建钢构工程有限公司 一种基于视觉识别的机器人分拣方法及存储介质
JP2023041200A (ja) * 2021-09-13 2023-03-24 トヨタ自動車株式会社 ワーク保持装置、ワーク保持方法、プログラム、及び制御装置
CA3234674A1 (en) 2021-10-06 2023-04-13 Berkshire Grey Operating Company, Inc. Dynamic processing of objects provided in elevated vehicles with evacuation systems and methods for receiving objects
CN114029947B (zh) * 2021-10-27 2022-11-18 因格(苏州)智能技术有限公司 机器人拾物序列确定方法与装置
EP4406709A1 (en) * 2023-01-30 2024-07-31 Siemens Aktiengesellschaft Adaptive region of interest (roi) for vision guided robotic bin picking

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004050390A (ja) * 2002-07-24 2004-02-19 Fanuc Ltd ワーク取出し装置
JP2007203406A (ja) * 2006-02-01 2007-08-16 Fanuc Ltd ワーク取り出し装置
JP2007313624A (ja) * 2006-05-29 2007-12-06 Fanuc Ltd ワーク取り出し装置及び方法
JP2011083882A (ja) * 2009-10-19 2011-04-28 Yaskawa Electric Corp ロボットシステム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3525896B2 (ja) * 1999-03-19 2004-05-10 松下電工株式会社 3次元物体認識方法および同方法を使用したビンピッキングシステム
JP3300682B2 (ja) * 1999-04-08 2002-07-08 ファナック株式会社 画像処理機能を持つロボット装置
JP3865703B2 (ja) * 2002-10-25 2007-01-10 ファナック株式会社 物品搬送システム及び搬送方法
US7313464B1 (en) * 2006-09-05 2007-12-25 Adept Technology Inc. Bin-picking system for randomly positioned objects
JP4226623B2 (ja) 2006-09-29 2009-02-18 ファナック株式会社 ワーク取り出し装置
DE102007060653A1 (de) * 2007-12-15 2009-06-18 Abb Ag Positionsermittlung eines Objektes
JP4565023B2 (ja) * 2008-07-04 2010-10-20 ファナック株式会社 物品取り出し装置
JP5265296B2 (ja) * 2008-10-10 2013-08-14 本田技研工業株式会社 ワーク取り出し方法
US8559699B2 (en) * 2008-10-10 2013-10-15 Roboticvisiontech Llc Methods and apparatus to facilitate operations in image based systems
JP4938115B2 (ja) * 2010-07-27 2012-05-23 ファナック株式会社 ワーク取出し装置およびワーク取出し方法
JP5316580B2 (ja) * 2011-05-17 2013-10-16 株式会社安川電機 ロボットシステム
JP5787642B2 (ja) * 2011-06-28 2015-09-30 キヤノン株式会社 対象物保持装置、対象物保持装置の制御方法、およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004050390A (ja) * 2002-07-24 2004-02-19 Fanuc Ltd ワーク取出し装置
JP2007203406A (ja) * 2006-02-01 2007-08-16 Fanuc Ltd ワーク取り出し装置
JP2007313624A (ja) * 2006-05-29 2007-12-06 Fanuc Ltd ワーク取り出し装置及び方法
JP2011083882A (ja) * 2009-10-19 2011-04-28 Yaskawa Electric Corp ロボットシステム

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109313417A (zh) * 2015-11-16 2019-02-05 Abb瑞士股份有限公司 帮助机器人定位
CN109313417B (zh) * 2015-11-16 2021-09-24 Abb瑞士股份有限公司 帮助机器人定位
US11209790B2 (en) 2016-04-15 2021-12-28 Omron Corporation Actuator control system, actuator control method, information processing program, and storage medium
US10754350B2 (en) 2016-06-09 2020-08-25 X Development Llc Sensor trajectory planning for a vehicle
KR20180123725A (ko) * 2016-06-09 2018-11-19 엑스 디벨롭먼트 엘엘씨 차량용 센서 궤적 플래닝
KR102107555B1 (ko) * 2016-06-09 2020-05-07 엑스 디벨롭먼트 엘엘씨 차량용 센서 궤적 플래닝
JP2018122370A (ja) * 2017-01-30 2018-08-09 ファナック株式会社 少なくとも1つのセンサを用いた物品搬送装置
US10377581B2 (en) 2017-01-30 2019-08-13 Fanuc Corporation Article conveying device using at least one sensor
JP2018187687A (ja) * 2017-04-28 2018-11-29 ファナック株式会社 物品取出システム
US10518417B2 (en) 2017-04-28 2019-12-31 Fanuc Corporation Article retrieval system
JP2018192592A (ja) * 2017-05-19 2018-12-06 ファナック株式会社 ワーク取出しシステム
US10434652B2 (en) 2017-05-19 2019-10-08 Fanuc Corporation Workpiece picking system
US11046530B2 (en) 2017-12-26 2021-06-29 Fanuc Corporation Article transfer apparatus, robot system, and article transfer method
JP2019111640A (ja) * 2017-12-26 2019-07-11 ファナック株式会社 物品搬送装置、ロボットシステムおよび物品搬送方法
DE102018132213B4 (de) 2017-12-26 2023-06-01 Fanuc Corporation Artikelübertragungsvorrichtung, Robotersystem und Artikelübertragungsverfahren
JP2019155535A (ja) * 2018-03-13 2019-09-19 オムロン株式会社 ワークピッキング装置及びワークピッキング方法
WO2019176829A1 (ja) * 2018-03-13 2019-09-19 オムロン株式会社 ワークピッキング装置及びワークピッキング方法
US11667036B2 (en) 2018-03-13 2023-06-06 Omron Corporation Workpiece picking device and workpiece picking method

Also Published As

Publication number Publication date
US20140365010A1 (en) 2014-12-11
EP2810747A2 (en) 2014-12-10
CN104227723B (zh) 2016-04-06
CN104227723A (zh) 2014-12-24
JP5786896B2 (ja) 2015-09-30
US9283680B2 (en) 2016-03-15
EP2810747A3 (en) 2015-04-01

Similar Documents

Publication Publication Date Title
JP5786896B2 (ja) ワーク検出装置、ロボットシステム、被加工物の製造方法及びワーク検出方法
JP4938115B2 (ja) ワーク取出し装置およびワーク取出し方法
JP4226623B2 (ja) ワーク取り出し装置
JP6923383B2 (ja) ピッキングロボットおよびピッキングシステム
US20160083199A1 (en) Robot system and method for picking workpiece
US9205563B2 (en) Workpiece takeout system, robot apparatus, and method for producing a to-be-processed material
JP2017042859A (ja) ピッキングシステム、並びに、そのための処理装置、方法及びプログラム
CN110576449B (zh) 机器人系统以及机器人系统的控制方法
JP2007313624A (ja) ワーク取り出し装置及び方法
JP2011183537A (ja) ロボットシステム及びロボット装置並びにワーク取り出し方法
JP2016147327A (ja) 位置及び姿勢の変換演算機能を備えたワーク取出しロボットシステム、及びワーク取出し方法
JP2011251384A (ja) 移載装置
JP2004160567A (ja) 物品取出し装置
JP2007203406A (ja) ワーク取り出し装置
JP2012240133A (ja) ロボットシステム
JP4655309B2 (ja) ピッキング順序決定方法、装置及びそのプログラム、並びにピッキングシステム
JP2018193201A (ja) 供給制御装置及び供給制御方法
JP2019181620A (ja) 収納システムおよび収納方法
WO2020100522A1 (ja) マーク検出システム、信号処理回路、コンピュータプログラムおよび方法
JP6958517B2 (ja) マニピュレータおよび移動ロボット
JP2013004927A (ja) ウェーハマッピング装置およびウェーハマッピング方法
JP7021620B2 (ja) マニピュレータおよび移動ロボット
CN109551458B (zh) 机器人系统
CN112577422A (zh) 检测工件的检测系统
JP6915085B2 (ja) 作業機および把持位置探索方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150713

R150 Certificate of patent or registration of utility model

Ref document number: 5786896

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees