JP2023170315A - ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム - Google Patents
ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム Download PDFInfo
- Publication number
- JP2023170315A JP2023170315A JP2022081979A JP2022081979A JP2023170315A JP 2023170315 A JP2023170315 A JP 2023170315A JP 2022081979 A JP2022081979 A JP 2022081979A JP 2022081979 A JP2022081979 A JP 2022081979A JP 2023170315 A JP2023170315 A JP 2023170315A
- Authority
- JP
- Japan
- Prior art keywords
- workpiece
- orientation
- posture
- orientations
- same
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 108
- 238000004590 computer program Methods 0.000 title claims description 11
- 230000008569 process Effects 0.000 claims abstract description 35
- 238000000605 extraction Methods 0.000 claims abstract description 32
- 230000004044 response Effects 0.000 claims description 2
- 230000036544 posture Effects 0.000 description 109
- 238000010586 diagram Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 9
- 239000013598 vector Substances 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 230000010365 information processing Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 2
- 238000005452 bending Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000012636 effector Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Manipulator (AREA)
- Image Analysis (AREA)
Abstract
【課題】ワーク位置姿勢についての認識の正誤を区別できる技術を提供する。【解決手段】本開示の方法は、(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する工程と、(b)M個の入力情報から認識された複数のワーク位置姿勢を用いて、同一ワーク位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する工程と、(c)同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する工程と、を含む。【選択図】図4
Description
本開示は、ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラムに関する。
特許文献1には、カメラにより入力された画像からワークの状態を推定する際に、誤推定の低減を実現する技術が開示されている。この従来技術では、ポーズ毎の出現確率をあらかじめ記憶しておき、推定されたワークの状態と、当該ワークの状態に対応する前記出現確率とに基づいて、当該ワークの状態に対する信頼度を算出する。
しかしながら、上記従来技術では、ポーズ毎の出現確率に応じた信頼度が高い場合は認識が正常な可能性は高いが、低コストのビジョンセンサーを使う場合や、ワークのCADデータと実物との差異が大きい場合などは、入力データ品質が悪くなる。このため、ポーズ毎の出現確率に応じた信頼度によって、認識の正誤を区別することが困難であるという問題があった。
本開示の第1の形態によれば、ワークの位置姿勢を認識する方法が提供される。この方法は、(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する工程と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する工程と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する工程と、を含む。
本開示の第2の形態によれば、ワークの位置姿勢を認識するシステムが提供される。このシステムは、Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報を取得する入力情報取得部と、前記M個の入力情報を用いて前記位置姿勢の認識処理を実行する認識部と、を備える。前記認識部は、(a)前記M個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、を実行する。
本開示の第3の形態によれば、ワークの位置姿勢を認識する処理をプロセッサーに実行させるコンピュータープログラムが提供される。このコンピュータープログラムは、(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、を前記プロセッサーに実行させる。
図1は、一実施形態におけるロボットシステムの一例を示す説明図である。このロボットシステムは、ロボット100と、ロボット100を制御する制御装置200と、情報処理装置300と、ビジョンセンサー400と、架台500とを備える。情報処理装置300は、例えばパーソナルコンピューターである。
ロボット100は、基台110と、ロボットアーム120と、を備えている。ロボットアーム120の先端部であるアームエンド122には、エンドエフェクターとしてのロボットハンド150が装着されている。ロボットハンド150は、ワークWKを把持することが可能なグリッパーや吸着パッドとして実現可能である。ロボットハンド150の先端部には、ロボット100の制御点としてのTCP(Tool Center Point)が設定されている。なお、制御点TCPは、任意の位置に設定可能である。
ロボットアーム120は、6つの関節J1~J6で順次接続されている。これらの関節J1~J6のうち、3つの関節J2,J3,J5は曲げ関節であり、他の3つの関節J1,J4,J6はねじり関節である。本実施形態では6軸ロボットを例示しているが、1個以上の関節を有する任意のロボットアーム機構を有するロボットを用いることが可能である。また、本実施形態のロボット100は、垂直多関節ロボットであるが、水平多関節ロボットを使用してもよい。
架台500には、第1トレイ510と第2トレイ520が設置されている。第1トレイ510には、複数のワークWKが収容される。第2トレイ520は、第1トレイ510から取り出されたワークWKを載置する場所として使用される。ロボット100は、第1トレイ510からワークWKを取り出して、第2トレイ520に載置する作業を実行する。この際、ワークWKは、第2トレイ520内の予め定められた位置に、予め定められた姿勢で載置される。この作業を正確に行うため、ワークWKの位置姿勢の認識が実行される。ワークWKを「物体」とも呼ぶ。本実施形態では、同一仕様の複数のワークWKの位置姿勢を認識するが、仕様が異なる複数のワークの位置姿勢を認識する場合も本開示の内容を適用可能である。
第1トレイ510の上方には、第1トレイ510内のワークWKの画像を撮影するビジョンセンサー400が設置されている。ビジョンセンサー400で撮影された画像は、ワークWKの3次元的な位置及び姿勢を求めるために使用される。ワークWKの3次元的な位置及び姿勢を、以下では「位置姿勢」又は「ワーク位置姿勢」と呼ぶ。ビジョンセンサー400としては、例えば、RGBDカメラやステレオカメラなどのカメラや、LiDAR(Light Detection And Ranging)やミリ波レーダーなどの測距センサーを用いることができる。RGBDカメラは、RGB画像を撮影するRGBカメラと、深度画像(Depth image)を撮影するDカメラと、を有するカメラである。RGBカメラの代わりにグレー画像を撮影するモノクロカメラを用いてもよい。また、ビジョンセンサー400として、単眼ビジョンセンサーを用いることも可能である。また、ワークWKを含む同一のシーンを撮影して複数の入力情報を取得するために、複数のビジョンセンサーを用いてもよい。本開示における「ビジョンセンサー」という語句は、複数のビジョンセンサーを含む場合を含む広い意味で使用される。
図1には、ワールド座標系Σwと、ロボット座標系Σrと、ビジョンセンサー座標系Σvとが示されている。ワールド座標系ΣwのX軸とY軸は水平方向の軸であり、Z軸は鉛直方向の軸である。他の座標系についは、3つの座標軸を区別する符号は省略されている。ロボット座標系Σrは、ロボット100の予め定められた位置を座標原点とする直交座標系である。ビジョンセンサー座標系Σvは、ビジョンセンサー400の予め定められた位置を座標原点とする直交座標系である。ビジョンセンサー400は予め校正されており、座標系Σw,Σr,Σvのそれぞれにおける位置及び姿勢は、座標変換によって互いに変換可能である。
図2は、情報処理装置300の機能を示すブロック図である。情報処理装置300は、プロセッサー310と、メモリー320と、インターフェイス回路330と、インターフェイス回路330に接続された入力デバイス340及び表示デバイス350と、を有している。インターフェイス回路330には、制御装置200とビジョンセンサー400も接続されている。
本実施形態において、ビジョンセンサー400は、RGB画像やグレー画像などの2次元画像を撮影する2次元カメラ410と、深度画像を撮影する深度カメラ420と、深度カメラ420用の照明光を照射する照明部430とを有する。照明部430は、深度画像を撮影するための赤外線パターンを照射するプロジェクターである。
プロセッサー310は、入力情報取得部610及び認識部620としての機能を有する。入力情報取得部610は、ビジョンセンサー400を用いて、1つ以上のワークWKを含む同一シーンについて複数の入力情報を取得する。認識部620は、複数の入力情報を用いて、ワークWKの位置及び姿勢を認識する。認識部620は、位置姿勢算出部622と同一ワーク姿勢抽出部624と外れ姿勢抽出部626と正誤判定処理部628の機能を含む。位置姿勢算出部622は、ビジョンセンサー400で撮影した同一シーンの複数の画像を入力情報として用いて、それぞれの入力情報からワーク位置姿勢を算出する処理を実行する。同一ワーク姿勢抽出部624は、算出されたワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される同一ワーク位置姿勢群を抽出する。外れ姿勢抽出部626は、同一ワーク位置姿勢群から、外れ位置姿勢を抽出する。「外れ位置姿勢」とは、同一ワーク位置姿勢群の中で信頼度が低いと考えられる位置姿勢を意味する。正誤判定処理部628は、同一ワーク位置姿勢と外れ位置姿勢の抽出結果を使用して、ワーク位置姿勢の認識結果に対して正誤判定を実行する。入力情報取得部610と認識部620の機能は、メモリー320に格納されたコンピュータープログラムをプロセッサー310が実行することによってそれぞれ実現される。但し、入力情報取得部610と認識部620の機能の一部又は全部をハードウェア回路で実現してもよい。
メモリー320には、ワークWKの外形を表すCADデータCDと、ワーク位置姿勢の算出に使用する認識パラメーター情報IPと、ロボット制御プログラムRPが格納される。ロボット制御プログラムRPは、ロボット100を動作させる複数の命令で構成される。
図3は、ロボット100のピッキング作業において実行されるワーク位置姿勢の認識処理の手順を示すフローチャートである。ステップS110では、入力情報取得部610が、ビジョンセンサー400を用いて、N個のワークを含む同一シーンを表すM個の入力情報を生成する。ここで、Nは1以上の整数であり、Mは2以上の整数である。但し、Nを2以上の整数とすること、即ち、複数のワークをそれぞれ含む複数の入力情報を取得することが好ましい。入力情報としては、ビジョンセンサー400の撮像結果から得られた画像情報及び点群情報を使用できる。また、入力情報に、ワーク位置姿勢の算出に使用する認識パラメーター情報IPを含めるようにしてもよい。
同一シーンについて複数の入力情報を取得する理由は、後述するように、統計的な処理を利用して、ワーク位置姿勢の認識の正誤を判別するからである。統計的に正誤を正しく判別するには、同一シーンに関する入力情報の数Mが多いほど好ましい。複数の入力情報を取得する方法としては、以下のようないくつかの方法のいずれかを採用可能である。
<入力情報の取得方法1>
方法1では、同一シーンに対して繰り返し撮影を行うことによって複数の入力情報を生成する。実際のシーンでは同一条件下で撮影を実施しても撮影結果が多少バラつくため、異なる複数の入力情報が取得可能となる。撮影結果がバラつく理由は、撮影時の光源のちらつきやセンサー感度の影響で、画素レベルの輝度値が全く同じにならないことが一因である。なお、異なる時間帯などのように、環境光が異なる複数の条件で撮影を行うようにしてもよい。この方法1の利点は実装が簡単な点である。
方法1では、同一シーンに対して繰り返し撮影を行うことによって複数の入力情報を生成する。実際のシーンでは同一条件下で撮影を実施しても撮影結果が多少バラつくため、異なる複数の入力情報が取得可能となる。撮影結果がバラつく理由は、撮影時の光源のちらつきやセンサー感度の影響で、画素レベルの輝度値が全く同じにならないことが一因である。なお、異なる時間帯などのように、環境光が異なる複数の条件で撮影を行うようにしてもよい。この方法1の利点は実装が簡単な点である。
<入力情報の取得方法2>
方法2では、一つの画像に対して、ノイズ付加やコントラスト調整などの画像処理を行うことによって、複数の入力情報を生成する。この画像処理では、繰り返し撮影によるバラツキなどを想定した比較的小さい変化を付加することが好ましい。この方法2は、撮影が1回で済むため、方法1に比べて時間短縮が期待できる。
方法2では、一つの画像に対して、ノイズ付加やコントラスト調整などの画像処理を行うことによって、複数の入力情報を生成する。この画像処理では、繰り返し撮影によるバラツキなどを想定した比較的小さい変化を付加することが好ましい。この方法2は、撮影が1回で済むため、方法1に比べて時間短縮が期待できる。
<入力情報の取得方法3>
方法3は、一つの画像に対して異なる複数の認識パラメーター情報IPを付加することによって、複数の入力情報を生成する。この方法3も、方法2と同様に撮影回数が1回で済み、さらには画像処理機能の実装が不要となる。この場合には、認識パラメーター情報IPの違いによる認識結果の影響度合を予め把握して、異なる複数の認識パラメーター情報IPを予め準備することが好ましい。認識パラメーター情報IPは、ビジョンセンサー400による撮影で得られた2次元画像や深度画像からワーク位置姿勢を算出する際に使用するパラメーターである。例えば、ワーク位置姿勢の算出の際に、画像から抽出されるエッジ強度や点群データから抽出される法線情報などの中間データを利用してテンプレートマッチングを行う場合には、中間データの作成に用いる探索範囲や閾値などのパラメーターを、認識パラメーター情報IPとして使用することができる。異なる複数の認識パラメーター情報IPを用いることによって、一組の2次元画像及び深度画像から、異なる複数の入力情報を作成することが可能である。
方法3は、一つの画像に対して異なる複数の認識パラメーター情報IPを付加することによって、複数の入力情報を生成する。この方法3も、方法2と同様に撮影回数が1回で済み、さらには画像処理機能の実装が不要となる。この場合には、認識パラメーター情報IPの違いによる認識結果の影響度合を予め把握して、異なる複数の認識パラメーター情報IPを予め準備することが好ましい。認識パラメーター情報IPは、ビジョンセンサー400による撮影で得られた2次元画像や深度画像からワーク位置姿勢を算出する際に使用するパラメーターである。例えば、ワーク位置姿勢の算出の際に、画像から抽出されるエッジ強度や点群データから抽出される法線情報などの中間データを利用してテンプレートマッチングを行う場合には、中間データの作成に用いる探索範囲や閾値などのパラメーターを、認識パラメーター情報IPとして使用することができる。異なる複数の認識パラメーター情報IPを用いることによって、一組の2次元画像及び深度画像から、異なる複数の入力情報を作成することが可能である。
図4は、同一シーンについての複数の入力情報とワーク位置姿勢の算出機能を示す説明図である。入力情報取得部610は、ビジョンセンサー400を用いて1つ以上のワークWKを含むシーンを撮影することによって2次元画像M1と深度画像M2を作成する。深度画像M2は、位相シフト法や空間コード法、ステレオブロックマッチング法などを用いて作成される。入力情報IMは、これらの画像M1,M2を含んでいる。この例では、同一シーンについて、3つの入力情報IM1~IM3が取得されている。このシーンには、4つのワークWK1~WK4が含まれている。前述したように、同一シーンに含まれるワークWKの数Nは1以上の任意の整数に設定可能であり、取得される入力情報IMの数Mは2以上の任意の整数に設定可能である。
図4の例における3つの入力情報IM1~IM3は、互いに異なる情報となっている。入力情報IM1,IM2では、第2のワークWK2の形状が不明瞭である。第3の入力情報IM3では、第2のワークWK2の形状は明瞭であるが、第3のワークWK3の形状が不明瞭である。第3の入力情報IM3では、更に、第1のワークWK1の頭部が不明瞭である。入力情報IM1~IM3のこのような違いは、位置姿勢算出部622で算出されるワーク位置姿勢Pijに影響がある。この点については後述する。
図3のステップS120では、位置姿勢算出部622が、個々の入力情報IM1~IM3から、1つ以上のワーク位置姿勢Pijをそれぞれ認識する。ワーク位置姿勢の符号Pijは、i番目の入力情報から算出されたj番目のワーク位置姿勢であることを意味する。ワーク位置姿勢Pij(x, y, z, u, v, w)は、例えば、ロボット座標系Σrにおける位置(x, y, z)と姿勢(u, v, w)で表現される。姿勢(u, v, w)は、3軸廻りの回転角度で表される。なお、ロボット座標系Σrの代わりに、ワールド座標系Σwなどの他の座標系でワーク位置姿勢Pijを表現するようにしてもよい。
図4の右側には、3つの入力情報IM1~IM3のそれぞれから算出されたワーク位置姿勢Pijを示す直交座標系が描かれている。また、個々のワーク位置姿勢Pijの位置には、そのワーク位置姿勢Pijから推定されるワーク形状が点線で描かれている。
位置姿勢算出部622で算出されたワーク位置姿勢Pijには誤りがある可能性があるので、ワーク位置姿勢Pijから推定されるワーク形状の位置や姿勢は、入力情報IM1~IM3に実際に含まれているワークWK1~WK4の位置や姿勢と異なる場合がある。例えば、第1の入力情報IM1から得られたワーク位置姿勢P11~P13は、実際のワークWK1,WK3,WK4に対応しており、第2のワークWK2に対応するワーク位置姿勢は第1の入力情報IM1から得られていない。この理由は、第1の入力情報IM1では、第2のワークWK2の形状が不明瞭であるからである。第2の入力情報IM2から得られたワーク位置姿勢P21~P23も、実際のワークWK1,WK3,WK4に対応しており、第2のワークWK2に対応するワーク位置姿勢は第2の入力情報IM2から得られていない。第3の入力情報IM3から得られたワーク位置姿勢P31~P33は、実際のワークWK1,WK2,WK4に対応しており、第3のワークWK3に対応するワーク位置姿勢は第3の入力情報IM3から得られていない。また、ワーク位置姿勢P31から推定されるワーク形状の向きは、実際のワークWK1とは逆向きである。
N個のワークを含むM個の入力情報からは、最大でN×M個の位置姿勢Pijが算出される。但し、ワーク同士が重なりあったりしている場合などには、ステップS120で得られる位置姿勢Pijの個数はN×Mよりも少なくなる。
ワーク位置姿勢Pijの算出処理は、例えばテンプレートマッチングを利用して行われる。すなわち、ワークWKのCADデータを用いて、入力情報IMに含まれるワーク位置姿勢をシミュレーションすることによって、複数のワーク位置姿勢毎にテンプレートを予め作成しておく。そして、ビジョンセンサー400で実際に撮影された入力情報IMを用いてテンプレートマッチングを行うことによって、入力情報IM内のワークWKを検出し、そのワーク位置姿勢Pijを認識又は推定する。なお、テンプレートマッチングの代わりに、他の方法を用いてワーク位置姿勢Pijを認識してもよい。例えば、畳み込みニューラルネットワークなどの機械学習モデルを用いてワーク位置姿勢Pijを認識してもよい。
ステップS130では、同一ワーク姿勢抽出部624が、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢Pijを抽出する。この抽出処理は、複数の入力情報から得られた複数のワーク位置姿勢Pijが、どのワークを対象とした認識結果であるかに応じてグルーピングする処理である。
同一ワーク位置姿勢の抽出処理では、ワーク位置姿勢Pijの差が予め定められた許容差以下である2個以上のワーク位置姿勢Pijを、同一ワーク位置姿勢として抽出することができる。例えば、以下のいずれかの方法を使用して同一ワーク位置姿勢を抽出できる。
<同一ワーク位置姿勢の抽出方法1>
抽出方法1では、ワーク位置姿勢Pijから推定されるワーク形状に関する座標中心位置条件と角度条件の両方を満足するワーク位置姿勢を、同一ワーク位置姿勢のグループとして抽出する。抽出方法1の詳細は後述する。
<同一ワーク位置姿勢の抽出方法2>
抽出方法2では、ワーク位置姿勢Pijを6次元ベクトルと見なして、異なる入力情報から得られたワーク位置姿勢Pijのうち、互いの距離が許容値以下のものを、同一ワーク位置姿勢のグループとして抽出する。
<同一ワーク位置姿勢の抽出方法1>
抽出方法1では、ワーク位置姿勢Pijから推定されるワーク形状に関する座標中心位置条件と角度条件の両方を満足するワーク位置姿勢を、同一ワーク位置姿勢のグループとして抽出する。抽出方法1の詳細は後述する。
<同一ワーク位置姿勢の抽出方法2>
抽出方法2では、ワーク位置姿勢Pijを6次元ベクトルと見なして、異なる入力情報から得られたワーク位置姿勢Pijのうち、互いの距離が許容値以下のものを、同一ワーク位置姿勢のグループとして抽出する。
これらの抽出方法1,2のいずれにおいても、1つの同一ワーク位置姿勢グループに属するワーク位置姿勢は、異なる入力情報から取得されたものである。従って、N個のワークを含むM個の入力情報を用いる場合に、個々の同一ワーク位置姿勢グループは最大でM個のワーク位置姿勢を含んでおり、グループ数は最大でN個である。本実施形態では、上記抽出方法1を使用する。座標中心位置条件の判定では、隣接したワークはそれぞれの外形同士が干渉して位置が離れることを利用した判定を行う。
図5は、座標中心条件の判定に使用されるバウンディングボックスBBijと座標中心位置Cijを示している。バウンディングボックスBBijは、ワーク位置姿勢Pijから推定されるワーク形状WSijに応じた3次元形状を有する。バウンディングボックスBBijは、例えば、ワーク形状WSijに外接する形状を有するものとしてもよい。或いは、αを1未満の係数としたとき、ワーク形状WSijに外接する形状をα倍した形状をバウンディングボックスBBijとしてもよい。座標中心位置Cijは、ワーク位置姿勢Pijから推定されるワーク形状WSijの中心位置に相当する。ワーク形状WSijは、ワークWKのCADデータで表される形状を有するとともに、ワーク位置姿勢Pijで示される位置及び姿勢を有している。前述したように、iは入力情報IMiの序数、jは認識されたワーク位置姿勢の序数であり、この例ではi=1~3,j=1~3である。バウンディングボックスBBijは、例えば直方体などの予め定められた3次元形状を有する。バウンディングボックスBBijとして、CADデータで表されるワーク形状そのものを用いてもよいが、ワーク形状に外接する直方体を使用すれば、座標中心位置条件の判定が容易である。また、ワーク形状に外接する直方体をα倍することによって得られるやや小さな直方体を使用すれば、座標中心位置条件を厳しくすることができ、ワーク位置姿勢の認識精度を高めることができる。
座標中心位置条件は、以下の手順で判断される。
(i)個々のワーク位置姿勢Pijを基準ワーク位置姿勢Pijとして用いて、基準ワーク位置姿勢Pijから推定されるワーク形状WSijに応じた3次元形状を有するバウンディングボックスBBijを設定する。
(ii)基準ワーク位置姿勢Pij以外の他のワーク位置姿勢Pmnを対象ワーク位置姿勢Pmnとして用いて、対象ワーク位置姿勢Pmnから推定されるワーク形状WSmnの中心位置を決定する。なお、対象ワーク位置姿勢Pmnは、基準ワーク位置姿勢Pijと異なる入力情報から得られたものである。即ち、序数i,mは、互いに異なる値である。
(iii)対象ワーク位置姿勢Pmnの中心位置が、基準ワーク位置姿勢PijのバウンディングボックスBBij内に存在する場合には、基準ワーク位置姿勢Pijと対象ワーク位置姿勢Pmnとが座標中心位置条件を満足するものと判定する。
(i)個々のワーク位置姿勢Pijを基準ワーク位置姿勢Pijとして用いて、基準ワーク位置姿勢Pijから推定されるワーク形状WSijに応じた3次元形状を有するバウンディングボックスBBijを設定する。
(ii)基準ワーク位置姿勢Pij以外の他のワーク位置姿勢Pmnを対象ワーク位置姿勢Pmnとして用いて、対象ワーク位置姿勢Pmnから推定されるワーク形状WSmnの中心位置を決定する。なお、対象ワーク位置姿勢Pmnは、基準ワーク位置姿勢Pijと異なる入力情報から得られたものである。即ち、序数i,mは、互いに異なる値である。
(iii)対象ワーク位置姿勢Pmnの中心位置が、基準ワーク位置姿勢PijのバウンディングボックスBBij内に存在する場合には、基準ワーク位置姿勢Pijと対象ワーク位置姿勢Pmnとが座標中心位置条件を満足するものと判定する。
図6は、バウンディングボックスBBijを用いた座標中心位置条件の判定処理を示す説明図である。上側の図は、第2の入力情報IM2から得られたワーク位置姿勢P22を基準ワーク位置姿勢とした場合の例であり、基準ワーク位置姿勢P22から推定されるバウンディングボックスBB22が描かれている。また、第3の入力情報から得られたワーク位置姿勢P32を対象ワーク位置姿勢としており、対象ワーク位置姿勢P32から推定されるワーク形状WS32及びその座標中心位置C32が描かれている。対象ワーク位置姿勢P32から推定される座標中心位置C32は、基準ワーク位置姿勢P22から推定されるバウンディングボックスBB22内に存在するので、これらの2つのワーク位置姿勢P22,P32は座標中心位置条件を満足するものと判定される。
図6の下側の図は、第3の入力情報IM3から得られたワーク位置姿勢P32を基準ワーク位置姿勢とした場合の例であり、基準ワーク位置姿勢P32から推定されるバウンディングボックスBB32が描かれている。また、第2の入力情報から得られたワーク位置姿勢P22を対象ワーク位置姿勢としており、対象ワーク位置姿勢P22から推定されるワーク形状WS22及びその座標中心位置C22が描かれている。対象ワーク位置姿勢P22から推定される座標中心位置C22は、基準ワーク位置姿勢P32から推定されるバウンディングボックスBB32内に存在するので、これらの2つのワーク位置姿勢P32,P22は座標中心位置条件を満足するものと判定される。
なお、図6の上側の図と下側の図のそれぞれの場合において、2つのワーク位置姿勢P22,P32が座標中心位置条件を満足するものと判定されている。但し、これらの2つのうちの少なくとも一方が成立する場合に、2つのワーク位置姿勢P22,P32が座標中心位置条件を満足するものと判定してもよい。図4で説明したように、第2の入力情報IM2から得られたワーク位置姿勢P22は第3のワークWK3の位置姿勢であり、第3の入力情報IM3から得られたワーク位置姿勢P32は第2のワークWK2の位置姿勢であって、実際は同一ワークの位置姿勢ではない。しかし、図3のステップS130では、比較的緩い判定条件で同一ワーク位置姿勢を抽出しており、後述するステップS140においてより厳しい判定条件を用いることによって、同一ワークのものではないワーク位置姿勢を外れ位置姿勢として除外している。同一ワーク位置姿勢の抽出処理において比較的緩い判定条件を用いる理由は、同一ワークのものと推定されるワーク位置姿勢Pijを確実にグループ化するためである。
図4に示したワーク位置姿勢Pijについて、上述した座標中心位置条件の判定結果は以下の通りとなる。
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
図7は、同一ワーク位置姿勢の抽出処理における角度条件の判定処理を示している。角度条件の判定処理では、座標中心位置条件によってグループ化されたワーク位置姿勢Pij(x, y, z, u, v, w)に関して、その角度(u, v, w)で表される3つのベクトルのそれぞれについて、2つのワーク位置姿勢Pijの対応するベクトルの角度差が許容値以下であるか否かに応じて、角度条件を満足するか否かを判定する。このとき、3つのベクトルに関する角度差のうち、1つ以上が許容値を超えている場合に、角度条件を満足しないものと判定することができる。なお、ネジの様な回転対称性があるワークについては、軸対称ベクトル以外では真の姿勢が決定されないため、軸対称ベクトルのみについて判定を実行するようにしてもよい。
図7の例では、ワーク位置姿勢Pijで表されるx軸方向が、軸対称ベクトルとなっている。複数のワーク位置姿勢Pijについて、x軸方向の角度差が許容値以下であれば角度条件を満足すると判定できる。同一ワーク位置姿勢の抽出処理における角度条件の許容値は、比較的緩い値に設定される。本実施形態では、角度差の許容値は180度に設定される。
図7において、座標中心位置条件によってグループ化されたワーク位置姿勢Pijについては、いずれも角度条件を満足するので、判定結果は以下の通りとなる。
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
なお、角度差の許容値を180度に設定した場合には、角度条件は常に成立するので、任意の2つのワーク位置姿勢について上述した座標中心位置条件が成立すれば、それらは同一ワーク位置姿勢であると判定される。換言すれば、同一ワーク位置姿勢の抽出処理において、座標中心位置条件のみを用いて同一ワーク位置姿勢であるか否かを判定してもよい。
図3のステップS140では、外れ姿勢抽出部626が、予め定められた判定条件を用いて、同一ワーク位置姿勢グループから外れ位置姿勢を抽出する。この抽出処理は、統計的に実行される。具体的には、外れ姿勢抽出部626は、ステップS130で抽出された同一ワーク位置姿勢同士を比較して、予め定められた類似条件を満足する類似位置姿勢をカウントし、類似位置姿勢の数が閾値未満の同一ワーク位置姿勢を、「外れ位置姿勢」と判定する。この判定の閾値は、1以上の整数に設定することができ、入力情報の数Mが大きいほど大きな値に設定される。
類似位置姿勢か否かを決定する類似条件としては、例えば以下のものを使用することができる。
<類似条件1>
類似条件1では、2つの同一ワーク位置姿勢Pij(x, y, z, u, v, w)の位置(x, y, z)の距離同士が許容距離以下であり、且つ、角度(u, v, w)の差が許容角度以下である場合には、2つの同一ワーク位置姿勢Pijが類似するものと判定する。
<類似条件2>
類似条件2では、同一ワーク位置姿勢Pijを6次元ベクトルと見なして、2つの同一ワーク位置姿勢Pij同士の距離が許容値以下の場合には、2つの同一ワーク位置姿勢Pijが類似するものと判定する。
<類似条件1>
類似条件1では、2つの同一ワーク位置姿勢Pij(x, y, z, u, v, w)の位置(x, y, z)の距離同士が許容距離以下であり、且つ、角度(u, v, w)の差が許容角度以下である場合には、2つの同一ワーク位置姿勢Pijが類似するものと判定する。
<類似条件2>
類似条件2では、同一ワーク位置姿勢Pijを6次元ベクトルと見なして、2つの同一ワーク位置姿勢Pij同士の距離が許容値以下の場合には、2つの同一ワーク位置姿勢Pijが類似するものと判定する。
なお、類似位置姿勢の判定条件は、同一ワーク位置姿勢の抽出処理における判定条件よりも厳しいものとすることが好ましい。本実施形態では、上記類似条件1を使用する。
図8は、類似位置姿勢の判定結果を示す説明図である。この例では、第2の入力情報IM2から得られたワーク位置姿勢P21と、第3の入力情報IM3から得られたワーク位置姿勢P31は、上述した類似条件1のうちの角度(u, v, w)に関する条件を満足しないので、非類似であるものと判定されている。また、第2の入力情報IM2から得られたワーク位置姿勢P22と、第3の入力情報IM3から得られたワーク位置姿勢P32も、角度(u, v, w)に関する条件を満足しないので、非類似であるものと判定されている。
この結果、同一ワーク位置姿勢の各グループにおける類似/非類似の関係は以下の通りとなる。
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
・類似:P11,P21
・非類似:P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
・類似:P12,P22
・非類似:P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
・類似:P13,P23,P33
・非類似:なし
(1)同一ワーク位置姿勢の第1グループ:P11,P21,P31
・類似:P11,P21
・非類似:P31
(2)同一ワーク位置姿勢の第2グループ:P12,P22,P32
・類似:P12,P22
・非類似:P32
(3)同一ワーク位置姿勢の第3グループ:P13,P23,P33
・類似:P13,P23,P33
・非類似:なし
本実施形態において、類似位置姿勢の閾値は1に設定されており、類似位置姿勢の数が1未満の同一ワーク位置姿勢は「外れ位置姿勢」と判定される。即ち、個々の同一ワーク位置姿勢について、自己に類似する他の同一ワーク位置姿勢が存在しない場合に、その同一ワーク位置姿勢が「外れ位置姿勢」と判定される。図8の例では、非類似と判定された2つのワーク位置姿勢P31,P32は、他に類似位置姿勢を有していないので、「外れ位置姿勢」と判定される。
なお、同一グループに属する同一ワーク位置姿勢の数が非常に少ない場合には、統計的信頼性が確保できないため、その同一位置姿勢グループは全て外れ位置姿勢と判定してもよい。このような判定は、入力情報の数Mが十分に大きな場合に有効である。
なお、上述したステップS140を実行せずに、ステップS130の処理のみで同一ワーク位置姿勢を決定するようにしてもよい。この場合には、ステップS130において、ステップS140と同様な厳しい判定基準を用いるようにすることが好ましい。但し、上述のように、やや緩い判定基準で同一ワーク位置姿勢を抽出すれば、同一のワークから得られたワーク位置姿勢を同じグループに分類し易いという利点がある。特に、上述したステップS130では、ワーク位置姿勢から推定されるワーク形状に応じた3次元形状を有するバウンディングボックスを用いて同一ワーク位置姿勢を抽出しているので、細長いワークや、薄板状のワークなどのように、隣接するワーク同士を区別しにくい場合にも、同一のワークから得られたワーク位置姿勢をより正しくグループ化できるという利点がある。
図3のステップS150では、正誤判定処理部628が、ワーク位置姿勢に対する認識の正誤を判定する。この正誤判定の判定方法としては、以下のいずれかを使用することができる。
<判定方法1>
判定方法1では、外れ位置姿勢の抽出結果を用いて、「外れ位置姿勢」をそのまま「誤認識された位置姿勢」と判定する。この判定方法1は、処理が単純で、ユーザーの負担が無いという利点がある。但し、入力情報の数が少ない場合や、認識部620内の各部の設定値が適切でない場合には、間違った判断となる可能性がある。
判定方法1では、外れ位置姿勢の抽出結果を用いて、「外れ位置姿勢」をそのまま「誤認識された位置姿勢」と判定する。この判定方法1は、処理が単純で、ユーザーの負担が無いという利点がある。但し、入力情報の数が少ない場合や、認識部620内の各部の設定値が適切でない場合には、間違った判断となる可能性がある。
<判定方法2>
判定方法2においては、「外れ位置姿勢」を「誤認識されたワーク位置姿勢候補」と判定し、「誤認識されたワーク位置姿勢候補」をユーザーが確認して、最終的な正誤判定を決定する。この判定方法2では、ユーザーによる確認が加わるため、判定方法1に比べて正誤の判定精度が高くなるという利点がある。また、ユーザーの確認作業も、抽出された外れ位置姿勢のみを対処とすれば良いので、ステップS120で算出されたすべてのワーク位置姿勢についてユーザーの確認を行う場合に比べて、ユーザーの負担が小さいという利点がある。
判定方法2においては、「外れ位置姿勢」を「誤認識されたワーク位置姿勢候補」と判定し、「誤認識されたワーク位置姿勢候補」をユーザーが確認して、最終的な正誤判定を決定する。この判定方法2では、ユーザーによる確認が加わるため、判定方法1に比べて正誤の判定精度が高くなるという利点がある。また、ユーザーの確認作業も、抽出された外れ位置姿勢のみを対処とすれば良いので、ステップS120で算出されたすべてのワーク位置姿勢についてユーザーの確認を行う場合に比べて、ユーザーの負担が小さいという利点がある。
上記判定方法1は、ロボット100を用いた実際のピッキング作業を実行する際に適用することが好ましい。また、上記判定方法2は、ワーク位置姿勢の認識処理のパラメーターを調整する際に適用することが好ましい。例えば、認識部620が、ロボット100を用いた実作業において認識を行うための実作業モードと、認識処理のパラメーターを調整するための調整モードのいずれかで選択的に動作可能であり、実作業モードでは上記判定方法1を使用し、調整モードでは上記判定方法2を使用するように構成されていることが好ましい。以下では、上記判定方法2を適用した例を説明する。
図9は、ワーク位置姿勢の正誤判定結果を表示するウィンドウW1の一例を示す説明図である。このウィンドウW1には、3つの入力情報IM1~IM3のうちの代表的入力情報IM1の画像が表示されており、また、代表的入力情報IM1内に設定された同一ワーク認識領域ID1~ID3が描かれている。本実施形態では、3グループの同一ワーク位置姿勢が抽出されており、3つの同一ワーク認識領域ID1~ID3はこれらの3つのグループに対応している。
代表的入力情報IM1の画像の下には、3つの同一ワーク認識領域ID1~ID3のそれぞれについて、3つの入力情報IM1~IM3から抽出されたワーク位置姿勢Pijが表示されている。また、ステップS140において外れ位置姿勢と判定されたワーク位置姿勢P31,P32に対しては、誤認識されたワーク位置姿勢であることを示すラベルLB2として「no good」が表示されている。その他のワーク位置姿勢Pijに対しては、正しく認識されたワーク位置姿勢であることを示すラベルLB1として「good」が表示されている。
代表的入力情報IM1の右側には、正誤の判定基準に用いる閾値をユーザーが設定するための2つのスライダーSL1,SL2が表示されている。第1のスライダーSL1は、ワーク位置姿勢Pij(x, y, z, u, v, w)の位置(x, y, z)の許容差としての位置閾値を設定するために使用される。第2のスライダーSL2は、ワーク位置姿勢Pij(x, y, z, u, v, w)の角度(u, v, w)の許容差としての角度閾値を設定するために使用される。これらの閾値は、ステップS140の外れ位置姿勢の抽出処理で使用した類似条件の閾値に相当する。ユーザーは、これらのスライダーSL1,SL2を用いて閾値を変更することによって、ワーク位置姿勢Pijの正誤判定結果を調整することができる。
ユーザーは、更に、ポインターPTを用いて任意のワーク位置姿勢Pijを選択することによって、正誤の判定結果を変更することが可能である。図9の例では、ワーク位置姿勢P32のラベルLB2が選択されている。
図10は、ワーク位置姿勢P32のラベルが、図9で示したラベルLB2から、ラベルLB1に変更された例を示している。また、この変更の結果として、角度閾値を設定するためのスライダーSL2が標準値よりも大きな値に自動的に変更されている。このようなユーザーによる確認を行うようにすれば、正誤の判定精度を高めることが可能である。
なお、個々のワーク位置姿勢Pijについて、認識信頼度を算出するようにしてもよい。例えば、例えば、任意のワーク位置姿勢Pijについて、同一グループに属する同一ワーク位置姿勢の数が多いほど、そのワーク位置姿勢Pijの認識信頼度が高くなるようにしてもよい。また、同一グループに属する他の同一ワーク位置姿勢との位置姿勢の差の合計が小さいほど認識信頼度が高くなるようにしてもよい。認識信頼度を使用する場合には、認識信頼度が信頼度閾値未満のワーク位置姿勢を外れ位置姿勢として表示してもよい。また、認識信頼度の高い順にワーク位置姿勢を提示するようにしてもよい。更に、ユーザーが認識の正誤を変更した場合には、その変更に応じて、信頼度閾値を自動的に変更するようにしてもよい。
以上のように、上記実施形態では、同一シーンの複数の入力情報を用いて、同一ワーク位置姿勢を認識するとともに、その認識の正誤を判定するので、ワーク位置姿勢に関する認識の信頼度を高めることができる。
・他の形態:
本開示は、上述した実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の形態で実現することができる。例えば、本開示は、以下の形態(aspect)によっても実現可能である。以下に記載した各形態中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、あるいは、本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
本開示は、上述した実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の形態で実現することができる。例えば、本開示は、以下の形態(aspect)によっても実現可能である。以下に記載した各形態中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、あるいは、本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
(1)本開示の第1の形態によれば、ワーク位置姿勢を認識する方法が提供される。この方法は、(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する工程と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワーク位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する工程と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する工程と、を含む。
この方法によれば、同一シーンの複数の入力情報を用いて同一ワーク位置姿勢を認識するとともに、その認識の正誤を判定するので、ワーク位置姿勢に関する認識の信頼度を高めることができる。
この方法によれば、同一シーンの複数の入力情報を用いて同一ワーク位置姿勢を認識するとともに、その認識の正誤を判定するので、ワーク位置姿勢に関する認識の信頼度を高めることができる。
(2)上記方法において、前記工程(b)は、(b1)前記M個の入力情報から得られた複数の前記ワーク位置姿勢を用いて、前記ワーク位置姿勢の差が予め定められた許容差以下である2個以上のワーク位置姿勢を前記同一ワーク位置姿勢として抽出する工程を含むものとしてもよい。
この方法によれば、M個の入力情報から得られた複数のワーク位置姿勢の中から、その差が許容差以下であるものを同一ワーク位置姿勢として抽出できる。
この方法によれば、M個の入力情報から得られた複数のワーク位置姿勢の中から、その差が許容差以下であるものを同一ワーク位置姿勢として抽出できる。
(3)上記方法において、前記工程(b1)は、各ワーク位置姿勢を基準ワーク位置姿勢として用いて、前記基準ワーク位置姿勢から推定されるワーク形状に応じた3次元形状を有するバウンディングボックスを設定する工程と、前記基準ワーク位置姿勢以外の他の前記ワーク位置姿勢を対象ワーク位置姿勢として用いて、前記対象ワーク位置姿勢から推定されるワーク形状の中心位置を決定する工程と、前記中心位置が前記バウンディングボックス内に存在する場合に、前記基準ワーク位置姿勢と前記対象ワーク位置姿勢とが前記同一ワーク位置姿勢であると判定する工程と、を含むものとしてもよい。
この方法によれば、ワーク形状に応じたバウンディングボックスを用いて同一ワーク位置姿勢を決定できる。
この方法によれば、ワーク形状に応じたバウンディングボックスを用いて同一ワーク位置姿勢を決定できる。
(4)上記方法において、前記工程(b)は、
(b2)前記2以上の同一ワーク位置姿勢のそれぞれについて、予め定められた判定条件を用いて、当該同一ワーク位置姿勢が外れ位置姿勢であるか否かを決定する工程を含むものとしてもよい。
この方法によれば、同一ワーク位置姿勢の中で、誤認識の可能性が高い外れ位置姿勢を決定できる。
(b2)前記2以上の同一ワーク位置姿勢のそれぞれについて、予め定められた判定条件を用いて、当該同一ワーク位置姿勢が外れ位置姿勢であるか否かを決定する工程を含むものとしてもよい。
この方法によれば、同一ワーク位置姿勢の中で、誤認識の可能性が高い外れ位置姿勢を決定できる。
(5)上記方法において、前記工程(b2)は、前記2以上の同一ワーク位置姿勢のそれぞれについて、予め定められた類似条件を満足する類似位置姿勢の数を求める工程と、前記類似位置姿勢の数が予め決められた閾値よりも少ない場合に、前記同一ワーク位置姿勢を前記外れ位置姿勢と決定する工程と、を含むものとしてもよい。
この方法によれば、個々の同一ワーク位置姿勢について、外れ位置姿勢であるか否かを精度良く決定できる。
この方法によれば、個々の同一ワーク位置姿勢について、外れ位置姿勢であるか否かを精度良く決定できる。
(6)上記方法において、前記工程(c)は、前記外れ位置姿勢と認識された前記同一ワーク位置姿勢については、前記同一ワーク位置姿勢が誤まっているものと決定する工程を含むものとしてもよい。
この方法によれば、ユーザーの指示を必要とせずに、誤っている同一ワーク位置姿勢を簡易な処理で決定できる。
この方法によれば、ユーザーの指示を必要とせずに、誤っている同一ワーク位置姿勢を簡易な処理で決定できる。
(7)上記方法において、前記工程(c)は、(c1)前記外れ位置姿勢と認識された前記同一ワーク位置姿勢をユーザーに提示する工程と、(c2)前記ユーザーからの指示に応じて、前記同一ワーク位置姿勢が誤まっているか否かを決定する工程と、を含むものとしてもよい。
この方法によれば、ユーザーの指示に応じて同一ワーク位置姿勢が誤まっているか否かを決定するので、同一ワーク位置姿勢の正誤をより確実に決定できる。
この方法によれば、ユーザーの指示に応じて同一ワーク位置姿勢が誤まっているか否かを決定するので、同一ワーク位置姿勢の正誤をより確実に決定できる。
(8)本開示の第2の形態によれば、ワーク位置姿勢を認識するシステムが提供される。このシステムは、Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報を取得する入力情報取得部と、前記M個の入力情報を用いて前記位置姿勢の認識処理を実行する認識部と、を備える。前記認識部は、(a)前記M個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワーク位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、を実行する。
(9)本開示の第3の形態によれば、ワーク位置姿勢を認識する処理をプロセッサーに実行させるコンピュータープログラムが提供される。このコンピュータープログラムは、(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワーク位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、を前記プロセッサーに実行させる。
本開示は、上記以外の種々の形態で実現することも可能である。例えば、ロボットとロボット制御装置とを備えたロボットシステム、ロボット制御装置の機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した一時的でない記録媒体(non-transitory storage medium)等の形態で実現することができる。
100…ロボット、110…基台、120…ロボットアーム、122…アームエンド、150…ロボットハンド、200…制御装置、300…情報処理装置、310…プロセッサー、320…メモリー、330…インターフェイス回路、340…入力デバイス、350…表示デバイス、400…ビジョンセンサー、410…2次元カメラ、420…深度カメラ、430…照明部、500…架台、510…第1トレイ、520…第2トレイ、610…入力情報取得部、620…認識部、622…位置姿勢算出部、624…同一ワーク姿勢抽出部、626…外れ姿勢抽出部、628…正誤判定処理部
Claims (9)
- ワークの位置姿勢を認識する方法であって、
(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する工程と、
(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する工程と、
(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する工程と、
を含む、方法。 - 請求項1に記載の方法であって、
前記工程(b)は、
(b1)前記M個の入力情報から得られた複数の前記ワーク位置姿勢を用いて、前記ワーク位置姿勢の差が予め定められた許容差以下である2個以上のワーク位置姿勢を前記同一ワーク位置姿勢として抽出する工程を含む、方法。 - 請求項2に記載の方法であって、
前記工程(b1)は、
各ワーク位置姿勢を基準ワーク位置姿勢として用いて、前記基準ワーク位置姿勢から推定されるワーク形状に応じた3次元形状を有するバウンディングボックスを設定する工程と、
前記基準ワーク位置姿勢以外の他の前記ワーク位置姿勢を対象ワーク位置姿勢として用いて、前記対象ワーク位置姿勢から推定されるワーク形状の中心位置を決定する工程と、
前記中心位置が前記バウンディングボックス内に存在する場合に、前記基準ワーク位置姿勢と前記対象ワーク位置姿勢とが前記同一ワーク位置姿勢であると判定する工程と、
を含む、方法。 - 請求項1に記載の方法であって、
前記工程(b)は、
(b2)前記2以上の同一ワーク位置姿勢のそれぞれについて、予め定められた判定条件を用いて、当該同一ワーク位置姿勢が外れ位置姿勢であるか否かを決定する工程、
を含む、方法。 - 請求項4に記載の方法であって、
前記工程(b2)は、
前記2以上の同一ワーク位置姿勢のそれぞれについて、予め定められた類似条件を満足する類似位置姿勢の数を求める工程と、
前記類似位置姿勢の数が予め決められた閾値よりも少ない場合に、前記同一ワーク位置姿勢を前記外れ位置姿勢と決定する工程と、
を含む、方法。 - 請求項4又は5に記載の方法であって、
前記工程(c)は、前記外れ位置姿勢と認識された前記同一ワーク位置姿勢については、前記同一ワーク位置姿勢が誤まっているものと決定する工程を含む、方法。 - 請求項4又は5に記載の方法であって、
前記工程(c)は、
(c1)前記外れ位置姿勢と認識された前記同一ワーク位置姿勢をユーザーに提示する工程と、
(c2)前記ユーザーからの指示に応じて、前記同一ワーク位置姿勢が誤まっているか否かを決定する工程と、
を含む、方法。 - ワークの位置姿勢を認識するシステムであって、
Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報を取得する入力情報取得部と、
前記M個の入力情報を用いて前記位置姿勢の認識処理を実行する認識部と、
を備え、
前記認識部は、
(a)前記M個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、
(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、
(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、
を実行する、システム。 - ワークの位置姿勢を認識する処理をプロセッサーに実行させるコンピュータープログラムであって、
(a)Nを1以上の整数とし、Mを2以上の整数としたとき、N個のワークを含む同一シーンを表すM個の入力情報のそれぞれを用いて、1つ以上のワーク位置姿勢をそれぞれ認識する処理と、
(b)前記M個の入力情報から認識された複数の前記ワーク位置姿勢を用いて、同一ワークの位置姿勢と推定される2個以上の同一ワーク位置姿勢を抽出する処理と、
(c)前記同一ワーク位置姿勢の抽出結果を用いて、各同一ワーク位置姿勢の正誤を判定する処理と、
を前記プロセッサーに実行させる、コンピュータープログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022081979A JP2023170315A (ja) | 2022-05-19 | 2022-05-19 | ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022081979A JP2023170315A (ja) | 2022-05-19 | 2022-05-19 | ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023170315A true JP2023170315A (ja) | 2023-12-01 |
Family
ID=88927904
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022081979A Pending JP2023170315A (ja) | 2022-05-19 | 2022-05-19 | ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023170315A (ja) |
-
2022
- 2022-05-19 JP JP2022081979A patent/JP2023170315A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109255813B (zh) | 一种面向人机协作的手持物体位姿实时检测方法 | |
CN107813310B (zh) | 一种基于双目视觉多手势机器人控制方法 | |
Kragic et al. | Robust visual servoing | |
US7280687B2 (en) | Device for detecting position/orientation of object | |
JP3768174B2 (ja) | ワーク取出し装置 | |
US20150003678A1 (en) | Information processing apparatus, information processing method, and storage medium | |
EP1477934A2 (en) | Image processing apparatus | |
JP2011198349A (ja) | 情報処理方法及びその装置 | |
WO2012023593A1 (en) | Position and orientation measurement apparatus, position and orientation measurement method, and storage medium | |
JP7387117B2 (ja) | 計算システム、方法及び非一時的コンピュータ可読媒体 | |
JP2020179441A (ja) | 制御システム、情報処理装置および制御方法 | |
CN113496526A (zh) | 通过多个2d相机的3d姿态检测 | |
CN113496524A (zh) | 通过深度学习和矢量场估计的特征检测 | |
JP2023170315A (ja) | ワークの位置姿勢を認識する方法、システム、及び、コンピュータープログラム | |
Frank et al. | Stereo-vision for autonomous industrial inspection robots | |
CN108694348B (zh) | 一种基于自然特征的跟踪注册方法及装置 | |
CN113994382A (zh) | 深度图生成方法、电子设备、计算处理设备及存储介质 | |
Funakubo et al. | Verification of illumination tolerance for clothes recognition | |
JP7391342B2 (ja) | 計算システム、方法及び非一時的コンピュータ可読媒体 | |
US20230386075A1 (en) | Method, System, And Computer Program For Recognizing Position And Posture Of Object | |
Sileo | Collaborative and Cooperative Robotics Applications using Visual Perception | |
US11436754B2 (en) | Position posture identification device, position posture identification method and position posture identification program | |
JP2021003782A (ja) | 物体認識処理装置、物体認識処理方法およびピッキング装置 | |
US20230154162A1 (en) | Method For Generating Training Data Used To Learn Machine Learning Model, System, And Non-Transitory Computer-Readable Storage Medium Storing Computer Program | |
JP2023158273A (ja) | ロボットハンドに保持された対象物体の位置姿勢を認識する方法、システム、及び、コンピュータープログラム |