JP6666764B2 - ワーク認識方法及びランダムピッキング方法 - Google Patents

ワーク認識方法及びランダムピッキング方法 Download PDF

Info

Publication number
JP6666764B2
JP6666764B2 JP2016059314A JP2016059314A JP6666764B2 JP 6666764 B2 JP6666764 B2 JP 6666764B2 JP 2016059314 A JP2016059314 A JP 2016059314A JP 2016059314 A JP2016059314 A JP 2016059314A JP 6666764 B2 JP6666764 B2 JP 6666764B2
Authority
JP
Japan
Prior art keywords
work
image
reference image
height
workpiece
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016059314A
Other languages
English (en)
Other versions
JP2017170567A (ja
Inventor
隆弘 熊元
隆弘 熊元
北村 好道
好道 北村
尊寅 五殿
尊寅 五殿
Original Assignee
シグマ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シグマ株式会社 filed Critical シグマ株式会社
Priority to JP2016059314A priority Critical patent/JP6666764B2/ja
Publication of JP2017170567A publication Critical patent/JP2017170567A/ja
Application granted granted Critical
Publication of JP6666764B2 publication Critical patent/JP6666764B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)
  • Manipulator (AREA)
  • Image Processing (AREA)

Description

本発明は、ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキングのためのワーク認識方法及びランダムピッキング方法に関する。
今日、多くの製造現場では、ワーク(部品)の搬入搬出作業等をロボットを用い自動化することで生産性向上、安全性向上、コスト削減を図っている。これまでにも種々のワーク認識方法、ロボットシステムが開発されているが、今後も、より迅速なワーク認識方法、安価で迅速に、またより簡単に操作可能なロボットシステムの開発が期待される。
ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキングにおいても、事前に保持するデータ量が少なく、かつ短い計算時間でワークの取出しが行えるワーク取出し装置、ロボットシステム、また少ない計算量で精度よくワークの位置、姿勢を検出する方法等が提案されている(例えば特許文献1、特許文献2、特許文献3参照)。
特許第5558585号公報 特開2010−71743号公報 特開2010−117754号公報
バラ積みされたワークのピッキングにおいては、ワークが重なり合って積載されている場合が多く、予め算出した把持姿勢とのマッチングが難しい、また長さのあるワークや複雑な形状のワークにおいてはワークの取出し時に他のワークに引っ掛かるという課題が指摘されている。さらにバラ積みされたワークのピッキングにおいては、次のような課題もある。
バラ積みされたワークのピッキングでは、ピッキングに伴い山積み高さが変化する。このためワーク認識のための画像処理が複雑で処理時間が長くなり、またワーク認識精度が低下するという問題がある。しかしながらこれまでこのような問題は特に提起されておらず、当然、これを解決するための手段も提案されていない。
またバラ積みされたワークのピッキングにおいては、ワークの迅速な認識の他に、ワークの確実な把持も課題である。バラ積みされたワークは、ワーク毎に位置、姿勢が異なり、さらにピッキングに伴い山積み高さが変化するためワークを確実に把持するための工夫も必要となる。
本発明の目的は、高い精度で迅速にワークの認識を行うことができるワーク認識方法、及びワークを確実に把持し取出すことができるランダムピッキング方法を提供することである。
本発明は、ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキングのためのワーク認識方法であって、バラ積みされたワークの平面画像及び距離画像を取得する画像取得ステップと、前記距離画像から最も高い位置にあるワークの高さを検出する高さ検出ステップと、記憶手段に格納された基準画像の中から、前記高さ検出ステップで検出された高さに最も近い高さで撮像された基準画像を選出する基準画像選出ステップと、前記基準画像選出ステップで選出した基準画像を用い前記画像取得ステップで取得した平面画像のパターンマッチングを行い、予め定める閾値以上の相関値を有するワークを検出するワーク検出ステップと、前記ワーク検出ステップで検出されたワークの中から相関値の最も大きいワークを選出するワーク選出ステップと、前記ワーク選出ステップで選出されたワークの中心座標及び傾きを算出するワーク位置・姿勢算出ステップと、を含み、前記記憶手段は、1個のワークに対して異なる高さで撮像された複数の平面画像からなる基準画像を格納することを特徴とするワーク認識方法である。
本発明のワーク認識方法によれば、最も高い位置にあるワークの高さを検出し、この高さに最も近い基準画像を用いてパターンマッチングを行うので、高い精度で迅速にワークの認識を行うことができる。また高い位置のワークほど相関値が高く選出され易く、さらに基準画像には、ワークの平面画像が使用されるので、姿勢が水平又は鉛直状態なものほど選出され易くなる。ロボットハンドによるバラ積みされたワークの把持及び取出しは、山の頂部付近に位置し、水平又は鉛直状態のワークほど容易であるため、本発明のワーク認識方法を使用することで、把持し取出し易いワークを優先的に選出し、ワークを確実に把持し取出すことができる。
本発明のワーク認識方法は、前記基準画像選出ステップに代えて、1個のワークに対して既知の高さで撮像された1枚の平面画像からなる基準画像を元データとし、計算により前記高さ検出ステップで検出された高さの基準画像を算出する基準画像算出ステップを含み、前記ワーク検出ステップでは、前記基準画像算出ステップで算出した基準画像を用い前記画像取得ステップで取得した平面画像のパターンマッチングを行い、前記記憶手段は、1個のワークに対して既知の高さで撮像された1枚の平面画像からなる基準画像を格納することを特徴とする。
本発明によれば、高さ検出ステップで検出された高さの基準画像を用いてパターンマッチングを行うことができるので、高い精度で迅速にワークの認識を行うことができる。また記憶手段には、1枚の平面画像からなる基準画像を格納すればよいので記憶容量を少なくすることができる。本発明のワーク認識方法を使用することで、把持し取出し易いワークを優先的に選出し、ワークを確実に把持し取出すことができる。
本発明のワーク認識方法において、前記ワークは、箱内にバラ積みされており、さらに前記画像取得ステップで取得した平面画像に対してマッチングを行う領域を設定するマッチング領域設定ステップを含み、前記ワーク検出ステップは、前記画像取得ステップで取得した平面画像のうち前記マッチング領域設定ステップで設定された領域内でパターンマッチングを行い、マッチング領域は、箱の底面から、ロボットのアームが前記箱の側壁に接触しワークを把持できない領域を除外した領域に設定されていることを特徴とする。
箱内にバラ積みされたワークのピッキングにおいては、ワークの位置・姿勢を認識してもロボットアームが箱の側壁に接触するため把持できない場合もある。本発明のワーク認識方法では、ワークが把持できない領域を除外してパターンマッチングを行うので、把持可能なワークのみを選出することができ、無駄なピッキング操作を防止することができる。さらに本発明のワーク認識方法は、ワークが把持できない領域を除外してパターンマッチングを行うのでマッチング領域が狭く、結果、迅速にワークを選出することができる。
また本発明のワーク認識方法において、前記閾値は、形態の異なるワークに対して異なる値が設定され、前記閾値と前記ワークの形態との間に相関関係が成立することを特徴とする。
ロボットハンドによるワークの把持は、ワークが球であれば、バラ積みの状態に係わらず姿勢が同一であるので把持し易い。円柱状のワークであれば、立った状態よりも、水平に倒れている状態の方が把持し易い。一方、特定の凸部を把持するような特異な形態のワークであれば、ワークが特定の位置・姿勢でなければ把持することはできない。以上のようにロボットハンドによるバラ積みされたワークの把持及び取出しの容易性は、ワークの形態により大きく異なる。把持し易いワークは、ワークの位置、姿勢に対する制約が緩やかであるためパターンマッチングの閾値を低く設定してもよい。一方、把持し難いワークは、ワークの位置、姿勢に対する制約が厳しいのでパターンマッチングの閾値を高く設定する必要がある。本発明によれば、ワーク検出のための閾値を形態の異なるワーク毎に設定することができるので、確実に把持し取出すことができるワークを高い精度で迅速に選出することができる。
本発明は、ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキング方法であって、前記ワーク認識方法を含み、前記ワーク選出ステップで選出されたワークをロボットアームの先端に設けられたハンドで把持するワーク把持ステップと、前記ロボットアームを動かし、ワークを把持した状態で把持したワークの周囲のワークの配置状態を掻き乱す撹乱ステップと、を含み、前記撹乱ステップが、前記ワーク把持ステップ後に毎回実施されることを特徴とするランダムピッキング方法である。
バラ積みされたワークのランダムピッキングにおいては、基本的に把持し易いワークから順次、把持し取り出される。このため後半になるほど取り出し難いワークが残り、ワークを把持しに行っても把持できない場合もある。これに対して本発明のランダムピッキング方法では、ワークを把持した状態で把持したワークの周囲のワークの配置状態を掻き乱す撹乱操作をワークの把持操作毎に行うので、バラ積みされたワークが平滑化され易く、ピッキングの後半においてもワークを確実に把持し取出すことができる。
本発明によれば、高い精度で迅速にワークの認識を行うことができるワーク認識方法及びワークを確実に把持し取出すことができるランダムピッキング方法を提供することができる。
本発明のワーク認識方法及びランダムピッキング方法を使用するランダムピッキングシステム1のシステム構成図である。 図1のランダムピッキングシステム1のワーク認識方法及びランダムピッキング方法の処理手順を示すフローチャートである。 図1のランダムピッキングシステム1で得られる平面画像である。 図1のランダムピッキングシステム1のワーク認識方法で使用するワークW及び基準画像である。
図1は、本発明のワーク認識方法及びランダムピッキング方法を使用するランダムピッキングシステム1の構成図、図2は、ランダムピッキングシステム1のワーク認識方法及びランダムピッキング方法の処理手順を示すフローチャートである。以下、上面が全面開口した長方体形状の箱101にバラ積みされた長さの短い円筒状のワークW(図4(a)参照)をピッキングする場合を例として説明する。
ランダムピッキングシステム1は、ロボットアーム35の先端に設けられたハンド36によりバラ積みされたワークWを把持し取出す装置であり、バラ積みされたワークWを撮像する撮像装置11と、撮像装置11を介して取得されるバラ積みされたワークWの画像データを基に把持するワークWを選出するワーク認識装置21と、ワークWを把持し取り出すロボット31とを含む。
撮像装置11は、箱101にバラ積みされたワークWの平面画像を取得するカラー画像センサー12と距離画像を取得する距離画像センサー13とを含む。カラー画像センサー12及び距離画像センサー13とも特定のセンサーに限定されるものではなく、カラー画像センサー12にはRGBカメラ、距離画像センサー13にはレーザースキャン、ステレオカメラ等の公知のセンサーを使用することができる。なお、カラー画像センサー12に代え、モノクロカメラでワークWの平面画像を取得してもよい。
カラー画像センサー12及び距離画像センサー13は、箱101の上方に固定され、ワーク認識装置21からの指令に基づき、箱101にバラ積みされたワークWの平面画像及び距離画像を取得し、これら画像データをワーク認識装置21に送信する。図3(a)にカラー画像センサー12で得られた箱101にバラ積みされたワークWの平面画像を示す。
ワーク認識装置21は、撮像装置11を介して取得されるバラ積みされたワークWの画像データを基に把持するワークWを選出し、当該ワークWの位置・姿勢を算出する。さらにこれらデータをロボット座標に変換し、ロボット制御装置33に送信する。
ワーク認識装置21は、データの入出力を行う入出力手段22、データの入出力等を制御する制御手段23、基準画像等を格納する記憶手段24及びワークWの選出等を実行する演算手段25を含む。記憶手段24には、1個のワークWに対して異なる高さで撮像された複数枚の平面画像が基準画像として格納されている。図4(b)に異なる高さHiで撮影された複数枚の基準画像を示す。基準画像は、添え字iの数の小さいものほどワークWの置かれた位置が高く、ワークWとカラー画像センサー13との距離が短い。
演算手段25は、画像入力部26、画像処理部27、ワーク位置・姿勢処理部28、ロボットデータ処理部29を有し、ロボットが把持し取り出すためのワークWを選定し、そのワークWの位置・姿勢を算出し、ロボットに把持させるためのロボット座標への変換処理を行う。
画像入力部26は、撮像装置11が撮像したバラ積みされたワークWの平面画像データ及び距離画像データの読み込みを行う。
画像処理部27は、バラ積みされたワークWの中から把持し易いワークWを1個選出する。具体的には、距離画像データからワークWの最大高さH(図3(a)参照)を求め、この高さに最も近い高さHで撮像された基準画像を読み出し、当該基準画像を用い平面画像のパターンマッチングを行い、予め定める閾値以上の相関値を有するワークWを検出し、最終的に相関値の最も大きいワークWを選出する。
ところで本実施形態に示すように深さのある箱101にバラ積みされたワークWのうち、深い位置にあり箱101の側壁103に接触するようなワークWは、ロボットアーム35が箱101の側壁103に接触するため把持することができない。このような把持することのできないワークWまでもパターンマッチングすることは時間の無駄である。そこで画像処理部27は、パターンマッチングに先立ち、平面画像に対してマッチングする領域を設定する。
平面画像に対してマッチングする領域は、箱101の底面105から、ロボットアーム35が箱101の側壁103に接触しワークWを把持できない領域を除外した領域に設定される。図3(b)に示す枠(設定枠)107内がマッチングする領域である。ロボットアーム35が箱101の側壁103に接触しワークWを把持できない領域は、箱101の大きさ、形状、ロボット31の位置、さらにはワークWの形態により異なるので、予め実験等を行い取得される。ワークWが把持できない領域を除外してパターンマッチングを行うことでマッチング領域が狭くなり、結果、迅速にワークWを選出することができる。
ワーク位置・姿勢算出部28は、ロボットハンド36でワークWを把持し取り出すために必要なワークWの位置・姿勢を算出する。具体的には、ワークWの孔Nに外接するX軸,Y軸に平行な四角形Sの各頂点の座標から中心点Oの座標(X,Y,Z)を求める。ワークWの傾きは、四角形SとワークWの外形との間に4つの基準点P〜Pを設け、当該基準点P〜Pを用い、三角法によりX−Z平面に対する傾き、Y−Z平面に対する傾きを求める。基準点P及びPはX軸に平行に、基準点P及びPはY軸に平行に、それぞれ中心点Oから等距離に設けられる。なお、ワークWの中心座標及びワークWの傾きの算出方法は、本方法に限定されるものではない。
本実施形態のように物理的挟持によりワークWを把持するハンド36の場合、ワークWに対してどのような角度でアプローチし、ワークWのどの部分をどのように把持するかは、把持成功率を高める上で非常に重要である。ここではワークWの位置・姿勢が算出されるので、ワークWに対して、ロボットアーム35の先端に設けられたハンド36を把持し易い方向からアプローチさせることで、ワークWを確実に把持することができる。
ロボットデータ処理部29は、選出されたワークWの位置・姿勢に対応し、ロボットアーム35の角度補正処理及びワークWの位置・姿勢座標からロボット座標への変換処理を行う。
以上からなるワーク認識装置21は、制御手順、さらには演算手段25を画像入力部26、画像処理部27、ワーク位置・姿勢算出部28、ロボットデータ処理部29として機能させるためのプログラムを搭載したコンピュータを用いて実現することができる。
ロボット31は、ワーク認識装置21が選出したワークWを把持し取り出すロボット本体32と、ロボット本体32の動作を制御するロボット制御装置33とを含む。
ロボット本体32は、アーム35の先端部にワークWを把持するハンド36を備える、公知の多関節型ロボットである。ハンド36には、フィンガでワークWを物理的に挟む挟持タイプのハンド、ワークWを吸引し吸着するタイプのハンド等があるが、ワークWの形態に応じて適したハンド36を使用すればよい。ここではハンド36には、ワークWの穴Nにフィンガを差し込み拡張することでワークWを把持する、フィンガを拡げるタイプのハンド36を使用する。
ロボット制御装置33は、ワーク認識装置21とデータを送受信可能に接続し、ワーク認識装置21の指令を受け、ロボット本体32にワークWを把持させるための命令を発する。またロボット制御装置33は、ワークWを把持した状態でロボットアーム35を動かし、把持したワークWの周囲のワークWの配置状態を掻き乱すように制御する。
次にバラ積みされたワークWの中からピッキングするためのワークWの認定方法及びピッキング方法の手順について説明する。
ワーク認識装置21は、カラー画像センサー12及び距離画像センサー13を介して箱101にバラ積みされたワークWの平面画像及び距離画像を取得する(ステップS1)。
続いて、ワーク認識装置21は、ステップS1で取得した平面画像に対して、基準点(0,0),X軸の基準点及びY軸の基準点、さらに予め設定された寸法の設定枠107を設ける(ステップS2)。
一方、距離画像からは、バラ積みされたワークWのうち一番高いワークWの高さH(図3(a)参照)を算出する(ステップS3)。一番高いワークWは、距離画像センサー13に最も近いワークWである。
ステップS3で一番高いワークWの高さHを算出すると、記憶手段24に格納された基準画像の中からワークWの高さHに最も近い高さHで撮像された基準画像(図4(b)参照)を読み出す(ステップS4)。なお、ステップS2〜S4の順番は、入れ替わってもよい。
続いて、ステップS4で得られた基準画像Hを用い、ステップS2で得られる設定枠107が設けられた平面画像のパターンマッチングを行い、予め定める閾値以上の相関値のワークWを検出する(ステップS5)。相関値は、正規化相互相関など一般的な画像処理方法を用いて算出することができる。基準画像は、水平に置かれた1個のワークの平面画像ゆえ、水平状態に近く、基準画像の高さに近いワークWの相関値が高くなり、これらが優先的に選定される。
ステップS5で検出されたワークWの中から相関値の最大のものを選出し(ステップS6)、選出されたワークWの座標から中心座標O及びワークWの傾斜を算出する(ステップS7)。ステップS7が、ワークWの位置・姿勢を算出する工程である。
続いて、ステップS7で算出したワークWの中心座標O及びワークWの傾斜に基づき、ロボットハンド36の傾きを演算し(ステップS8)、ロボットアーム35及びハンド36を動作させワークWを把持する(ステップS9)。続いて、ワークWを把持した状態で、ロボットアーム35を動かし、把持したワークWの周囲のワークWを掻き乱し(ステップS10)、その後、箱101の外にワークWを取出す(ステップS11)。
ワークWの取出しが終了すると、再度ステップS1に戻り、ステップS1からステップS11の操作を繰り返しながらワークWのピッキングを行う。
以上、実施形態を用いて説明したように本発明のワークの認識方法は、バラ積みされたワークWのうち最も高い位置にあるワークWの高さHを検出し、この高さHに最も近い高さHで撮像された平面画像からなる基準画像を用いてパターンマッチングを行いワークWを選定するので、高い精度で迅速にワークWの認識(選出)を行うことができる。また把持し易く取出し易いワークWが優先的に選出されるので、ワークWを確実に把持し取出すことができる。
また本発明のワークの認識方法は、設定枠107を設けることで把持可能なワークWのみを対象としてワークWを選出することができるのでマッチング領域が狭く、結果、迅速にワークWを選出することができる。また無駄なピッキング操作を防止することができる。
また本発明のランダムピッキング方法は、ワークWを把持した状態で把持したワークWの周囲のワークWの配置状態を掻き乱す撹乱操作をワークWの把持操作毎に行うので、バラ積みされたワークWが平滑化され易く、ピッキングの後半においてもワークWを確実に把持し取出すことができる。
本発明のワークの認識方法及びランダムピッキング方法は、上記実施形態に限定されるものではなく要旨を変更しない範囲で変形して使用することができる。以下に本発明のワークの認識方法及びランダムピッキング方法の変形例を示す。
上記実施形態では、予め記憶手段24に基準画像として、1個のワークWに対して異なる高さで撮像された複数枚の平面画像を格納し、図2に示すように距離画像データからバラ積みされたワークWのうち一番高いワークWの高さHを算出し(ステップS3)、格納された基準画像の中からワークWの高さHに最も近い高さHで撮像された基準画像を読み出し(ステップS4)、これを用いてパターンマッチングを行う(ステップS5)が、これを以下のように変形することもできる。
1個のワークWに対して所定(既知)の高さで撮像された1枚の平面画像を取得し、これを記憶手段24に基準画像の元データとして格納する。パターンマッチングを行う際には、バラ積みされたワークWのうち一番高いワークWの高さHに対応した基準画像を、先の基準画像の元データを基に計算により求める(ステップS4)。基準画像の大きさは、ワークWの高さに対して一次的(直線的)に比例し、バラ積み高さが高くワークWとカラー画像センサー13との距離が短いほど大きくなる。高さが既知の1つの基準画像があれば、それを元に異なる高さの基準画像を容易に算出することができる。
元データとなる基準画像を撮像する高さは、特に限定されるものではないが、ワークWのバラ積み高さのほぼ中央が好ましい。元データとなる基準画像の高さが求める高さと近い程、誤差が小さくなる。本方法は、基準画像となる元データが1つあればよいので、記憶手段24の容量を小さくすることができる。
ロボットハンド36によるワークWの把持の容易性、把持成功率は、ワークWの形態により大きく異なる。例えばワークWが球であれば、バラ積みの状態に係わらず姿勢が同一であるので把持し易い。円柱状のワークであれば、立った状態よりも、水平に倒れている状態の方が把持し易い。一方、特定の凸部を把持するような特異な形態のワークWであれば、特定の位置・姿勢でなければ把持することはできない。
以上のことから把持し易いワークWは、ワークWの位置、姿勢に対する制約が緩やかであるためパターンマッチングの閾値を低く設定してもよい。一方、把持し難いワークWは、ワークWの位置、姿勢に対する制約が厳しいので閾値を高く設定する必要がある。ワークの認識方法において、形態の異なるワークWに対して異なる閾値を設定可能とし、把持し易いワークWは閾値を低く、把持し難いワークWは閾値を高く設定することで、把持可能なワークWを迅速に選出し、かつワークWを確実に把持し取出すことが可能となる。
上記実施形態では、平面画像に設定された設定枠107内全体をパターンマッチングするが、設定枠107内全体をパターンマッチングすることなく所定の数のワークWが検出された時点で、パターンマッチングを終了し、その中から閾値の最も高いワークWを選出するようにしてもよい。
ロボットハンド36でワークWを把持する場合、ロボットハンド36を傾斜させることなく鉛直状態でアプローチし把持することができれば、ワークWのピックアップを迅速に行うことができる。ロボットハンド36を傾斜させることなく鉛直状態でアプローチしワークWを把持できる領域を予め把握し、これを平面画像に重ね合せこの領域内でワークWを選出するようにすれば、ワークWを迅速に選出し、ワークWのピックアップを迅速に行なえる。
図3(c)にロボットハンド36を傾斜させることなく鉛直状態でアプローチしワークWを把持できる領域109を示した。ロボットハンド36を傾斜させることなく鉛直状態でアプローチしワークWを把持できる領域109は、箱101とロボット本体32との位置関係、さらには箱101の大きさ等により異なるので、予め実験等によりその領域109を確認しておく必要がある。
上記実施形態に示すランダムピッキング方法では、ワークWを把持した状態で把持したワークWの周囲のワークWの配置状態を掻き乱す撹乱操作をワークWの把持操作毎に行うが、ワークWを把持できなかった場合にのみ、ワークWを把持しに行った場所の周囲のワークWの配置状態を掻き乱す撹乱操作を行うようにしてもよい。
予め定める閾値以上の相関値を有するワークWが1個も検出されない場合には、箱101の中にロボットハンド36を突っ込みワークWを掻き乱し、又は箱101を振動させる装置を設け、箱101を振動させることで箱101内のワークWを掻き乱すようにするのがよい。それでもワークWを検出できないとは、警告を発するのがよい。
ワーク認識方法で選出されるワークWは、相関値が最大のワークWゆえ、当該ワークWが把持できなかった場合、次回も当該ワークWが選出される可能性が高い。そこで把持できなかったワークWが次回も選出されないように当該ワークWのデータを欠損させてもよい。
以上のとおり、図面を参照しながら好適な実施形態を説明したが、当業者であれば、本明細書を見て、自明な範囲内で種々の変更及び修正を容易に想定するであろう。従って、そのような変更及び修正は、請求の範囲から定まる発明の範囲内のものと解釈される。
1 ランダムピッキングシステム
11 撮像装置
12 カラー画像センサー
13 距離画像センサー
21 ワーク認識装置
22 入出力手段
23 制御手段
24 記憶手段
25 演算手段
26 画像入力部
27 画像処理部
28 ワーク位置・姿勢算出部
29 ロボットデータ処理部
31 ロボット
32 ロボット本体
33 ロボット制御装置
35 ロボットアーム
36 ロボットハンド
101 箱
103 箱の側面(側壁)
105 箱の底面
107 枠(設定枠)
109 領域
H ワークの高さ
基準画像の高さ
N ワークWの孔
W ワーク

Claims (5)

  1. ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキングのためのワーク認識方法であって、
    バラ積みされたワークの平面画像及び距離画像を取得する画像取得ステップと、
    前記距離画像から最も高い位置にあるワークの高さを検出する高さ検出ステップと、
    記憶手段に格納された基準画像の中から、前記高さ検出ステップで検出された高さに最も近い高さで撮像された基準画像を選出する基準画像選出ステップと、
    前記基準画像選出ステップで選出した基準画像を用い前記画像取得ステップで取得した平面画像のパターンマッチングを行い、予め定める閾値以上の相関値を有するワークを検出するワーク検出ステップと、
    前記ワーク検出ステップで検出されたワークの中から相関値の最も大きいワークを選出するワーク選出ステップと、
    前記ワーク選出ステップで選出されたワークの中心座標及び傾きを算出するワーク位置・姿勢算出ステップと、
    を含み、
    前記記憶手段は、1個のワークに対して異なる高さで撮像された複数の平面画像からなる基準画像を格納することを特徴とするワーク認識方法。
  2. 前記基準画像選出ステップに代えて、1個のワークに対して既知の高さで撮像された1枚の平面画像からなる基準画像を元データとし、計算により前記高さ検出ステップで検出された高さの基準画像を算出する基準画像算出ステップを含み、
    前記ワーク検出ステップでは、前記基準画像算出ステップで算出した基準画像を用い前記画像取得ステップで取得した平面画像のパターンマッチングを行い、
    前記記憶手段は、1個のワークに対して既知の高さで撮像された1枚の平面画像からなる基準画像を格納することを特徴とする請求項1に記載のワーク認識方法。
  3. 前記ワークは、箱内にバラ積みされており、
    さらに前記画像取得ステップで取得した平面画像に対してマッチングを行う領域を設定するマッチング領域設定ステップを含み、
    前記ワーク検出ステップは、前記画像取得ステップで取得した平面画像のうち前記マッチング領域設定ステップで設定された領域内でパターンマッチングを行い、
    マッチング領域は、箱の底面から、ロボットのアームが前記箱の側壁に接触しワークを把持できない領域を除外した領域に設定されていることを特徴とする請求項1又は請求項2に記載のワーク認識方法。
  4. 前記閾値は、形態の異なるワークに対して異なる値が設定され、
    前記閾値と前記ワークの形態との間に相関関係が成立することを特徴とする請求項1から請求項3のいずれか1項に記載のワーク認識方法。
  5. ロボットアームの先端に設けられたハンドによりバラ積みされたワークを把持し取出すランダムピッキング方法であって、
    請求項1から請求項4のいずれか1項に記載のワーク認識方法を含み、
    前記ワーク選出ステップで選出されたワークをロボットアームの先端に設けられたハンドで把持するワーク把持ステップと、
    前記ロボットアームを動かし、ワークを把持した状態で把持したワークの周囲のワークの配置状態を掻き乱す撹乱ステップと、
    を含み、
    前記撹乱ステップが、前記ワーク把持ステップ後に毎回実施されることを特徴とするランダムピッキング方法。
JP2016059314A 2016-03-24 2016-03-24 ワーク認識方法及びランダムピッキング方法 Expired - Fee Related JP6666764B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016059314A JP6666764B2 (ja) 2016-03-24 2016-03-24 ワーク認識方法及びランダムピッキング方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016059314A JP6666764B2 (ja) 2016-03-24 2016-03-24 ワーク認識方法及びランダムピッキング方法

Publications (2)

Publication Number Publication Date
JP2017170567A JP2017170567A (ja) 2017-09-28
JP6666764B2 true JP6666764B2 (ja) 2020-03-18

Family

ID=59969950

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016059314A Expired - Fee Related JP6666764B2 (ja) 2016-03-24 2016-03-24 ワーク認識方法及びランダムピッキング方法

Country Status (1)

Country Link
JP (1) JP6666764B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6693981B2 (ja) 2018-02-19 2020-05-13 ファナック株式会社 ロボットの動作をシミュレーションするシミュレーション装置
JP7021620B2 (ja) * 2018-09-07 2022-02-17 オムロン株式会社 マニピュレータおよび移動ロボット
WO2020050405A1 (ja) * 2018-09-07 2020-03-12 Ntn株式会社 作業装置
WO2024090328A1 (ja) * 2022-10-24 2024-05-02 ソフトバンクグループ株式会社 情報処理装置、情報処理方法、及び情報処理プログラム

Also Published As

Publication number Publication date
JP2017170567A (ja) 2017-09-28

Similar Documents

Publication Publication Date Title
KR102650492B1 (ko) 자동화된 패키지 등록 메커니즘과 이를 작동시키는 방법을 구비한 로봇 시스템
JP6140204B2 (ja) 3次元センサを備えた搬送ロボットシステム
JP4938115B2 (ja) ワーク取出し装置およびワーク取出し方法
US10894324B2 (en) Information processing apparatus, measuring apparatus, system, interference determination method, and article manufacturing method
JP4226623B2 (ja) ワーク取り出し装置
US9415511B2 (en) Apparatus and method for picking up article randomly piled using robot
JP4565023B2 (ja) 物品取り出し装置
JP4199264B2 (ja) ワーク取り出し装置及び方法
JP6666764B2 (ja) ワーク認識方法及びランダムピッキング方法
JP6529302B2 (ja) 情報処理装置、情報処理方法、プログラム
JP5201411B2 (ja) バラ積みピッキング装置とその制御方法
US10434652B2 (en) Workpiece picking system
JP5582126B2 (ja) ワーク取出システム、ロボット装置および被加工物の製造方法
JP2019063984A (ja) 情報処理装置、方法及びロボットシステム
JP2019509559A (ja) センサ誘導式ロボットを用いたボックスの位置特定、分離、およびピッキング
JP2018176334A5 (ja)
US11213954B2 (en) Workpiece identification method
JP7191569B2 (ja) 把持装置
JP7377627B2 (ja) 物体検出装置、物体把持システム、物体検出方法及び物体検出プログラム
JP6885856B2 (ja) ロボットシステムおよびキャリブレーション方法
JP2016196077A (ja) 情報処理装置、情報処理方法、およびプログラム
JP2022066611A (ja) 情報処理装置、情報処理方法、プログラム、及び荷降しシステム
JP5458807B2 (ja) 対象物把持領域抽出装置および対象物把持領域抽出装置を用いたロボットシステム
CN113269112A (zh) 一种抓取区域的识别方法、装置、电子设备及存储介质
JP2020075340A (ja) 作動システム、制御装置、およびプログラム

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20160328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200221

R150 Certificate of patent or registration of utility model

Ref document number: 6666764

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees