JP5480667B2 - 位置姿勢計測装置、位置姿勢計測方法、プログラム - Google Patents
位置姿勢計測装置、位置姿勢計測方法、プログラム Download PDFInfo
- Publication number
- JP5480667B2 JP5480667B2 JP2010043061A JP2010043061A JP5480667B2 JP 5480667 B2 JP5480667 B2 JP 5480667B2 JP 2010043061 A JP2010043061 A JP 2010043061A JP 2010043061 A JP2010043061 A JP 2010043061A JP 5480667 B2 JP5480667 B2 JP 5480667B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- distance
- orientation
- area
- information indicating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Numerical Control (AREA)
Description
取得された前記距離画像において、物体領域を設定する設定手段と、
設定された前記物体領域の3次元点群に、前記対象物体をモデル化した物体モデルの表面を当て嵌めることによって、前記対象物体の位置及び姿勢を推定する推定手段と、
前記推定手段によって推定された前記位置及び姿勢に基づいて、前記物体モデルと前記3次元点群との距離を示す情報を導出し、該導出された距離を示す情報を用いて、前記物体領域の設定を更新する更新手段と、
前記更新手段による前記物体領域の設定の更新に従い、前記推定手段に、当該更新後の物体領域の3次元点群を用いて、前記対象物体の位置及び姿勢を推定させる制御手段と
を備えることを特徴とする。
本実施形態では、山積み状態になっている同一形状の物体群から、ロボットハンドで1個ずつ物体を把持して取り上げるロボットの動作における物体の位置姿勢計測を想定する。そのために、物体群の上方から距離画像を撮影する。撮影した距離画像には複数の物体までの距離値が記録されているが、その中から一番上方にある物体が占める領域を検出しつつ、その物体の位置姿勢を計測する。
距離画像の領域分割工程(ステップS203)の詳細を図3の参照により説明する。本工程は、非特許文献7で開示された方法に基づいて、距離画像を後述するエッジによって囲まれた閉領域ごとに分割する。ここで検出された領域を部分領域とする。
次に、モデル当て嵌め工程(ステップS205)の詳細を図4の参照により説明する。本工程では、計測対象物体の位置及び姿勢の概略値を反復演算により繰り返し補正することにより位置及び姿勢を算出する。ステップS401では、データ入出力部109に接続された不図示の距離画像計測装置に対する対象物体の位置及び姿勢の概略値を推定する。この処理は物体領域の距離画像データを入力として、特開平01−009307号公報に開示される物体認識的方法により実現することが可能である。ただし、対象物体の位置姿勢の概略値を求める方法は、これに限るものではない。例えば、モデル当て嵌め工程を一度以上経過していれば、その工程で算出した対象物体の位置姿勢を表す値をメモリ102に記憶しておき、その値を次回のモデル当て嵌め工程において対象物体の概略位置姿勢の値として使うことが可能である。あるいは、過去の計測値から対象物体の運動の速度や角速度を線形フィルタやカルマンフィルタなど時系列フィルタリング処理により推定し、推定された速度や角速度によって現在の時刻における対象物体の位置及び姿勢を予測したものを用いてもよい。また、他のセンサによる物体の位置及び姿勢の計測が可能である場合には、センサによる出力値を位置及び姿勢の概略値として用いてもよい。センサとしては、例えば、トランスミッタが発する磁界を物体に装着するレシーバで検出することにより位置及び姿勢を計測する磁気式センサであってもよい。また、対象物体上に配置されたマーカをシーンに固定されたカメラによって撮影することにより位置及び姿勢を計測する光学式センサであってもよい。その他、6自由度の位置及び姿勢を計測するセンサであればいかなるセンサであって使用することが可能である。また、対象物体の置かれている、おおよその位置や姿勢が予めわかっている場合には、その値を概略値として用いてもよい。
物体領域更新工程(ステップS206)の詳細を図5の参照により説明する。まず、ステップS501では、物体領域の3次元点群について(数10)で定義される物体の陰多項式モデルとの平均距離を算出する。ただし、ここではNは物体領域の3次元点の数であり、Φは物体領域の3次元点群である。
本発明の実施形態は上記に限らず様々な変形例が存在する。第1実施形態ではステップS206において、物体領域内の3次元点群の重心近傍に重心を持つ部分領域を、物体領域に追加する領域の候補として選択している。しかし、追加する部分領域候補の選択方法はこれに限るものではない。例えば、ステップS204で設定する初期物体領域内の3次元点群の重心近傍に重心を持つ部分領域を選択してもよい。あるいは、3次元座標の重心ではなく、距離画像上における2次元座標の重心が近い部分領域を選択してもよい。
第1実施形態では、物体領域に近接する度合いが高い部分領域を物体領域に追加する候補として選定している。しかし、追加候補の部分領域の選定方法はこれに限らない。例えば、面積、すなわち領域に属する画素数が大きい部分領域を候補として選択してもよい。これは、面積の大きい領域ほど距離画像の計測ノイズなどのランダムな誤差の影響を受けにくいため、形状モデルとの距離の算出や物体領域更新後のモデル当て嵌めを高精度に行うことができるからである。
他の部分領域の候補選定方法としては、例えば、距離画像上で対象物体が占める領域の情報を利用するものが挙げられる。具体的には、モデル当て嵌め工程にて算出された対象物体の位置及び姿勢に基づいて、形状モデルを距離画像上に投影して、投影像が存在する領域を対象物体が占める領域とする。そして、各部分領域と対象物体が占める領域との重複率(すなわち両領域が重複する画素の数を各部分領域に属する画素の数で割った値)が高い順に,物体領域に追加する部分領域の候補として選定することも可能である。
さらには、追加候補の部分領域を選定する基準は1つである必然性はなく、複数の基準を組み合わせてもよい。例えば、変形例1−1から変形例1−3で説明した物体領域への近接度、面積、距離画像上の対象物体領域との重複率の3種類の評価値に重みをかけて加算した値に基づいて候補部分領域を選定することも可能である。
物体領域の更新工程(図5)では、物体領域と部分領域に関する形状モデルとの平均距離の大小を比較することによって部分領域を物体領域に追加する可否を判定している。しかし、追加の可否の判定方法はこれに限らず、例えば、平均距離が小さい部分領域が優先的に追加されれば、他の方法を適用することができる。例えば、追加候補の部分領域群のうち、平均距離が最小の部分領域を物体領域に追加してもよい。
部分領域の追加可否を判定する基準は1つである必然性はなく、複数の基準を組み合わせてもよい。例えば、変形例1−1から変形例1−3で説明した物体領域への近接度、面積、距離画像上の対象物体領域との重複率、及び形状モデルとの平均距離の4種類の評価値に重みをかけて加算した値に基づいて追加可否を判定することも可能である。
また、部分領域は1つずつ追加する必然性はなく、複数の部分領域を同時に物体領域に追加してもよい。その場合、追加する部分領域の候補群から、評価値(例えば部分領域の3次元点群とモデルとの平均距離)が上位複数個の部分領域を物体領域に追加すべく選択することも可能である。
第1実施形態では、距離画像を部分領域に分割するため、非特許文献7の方法を用いた。しかし、部分領域の生成方法はこれに限るものでなく,例えば,非特許文献8に基づく方法でもよい。この方法は、所定の評価基準に基づいて距離画像の部分領域を近似するパラメトリックな面の種類(種類ごとに面の数式表現が異なる)を選択し、選択された種類の面で距離画像の表す3次元形状を近似するものである。本手法によれば、近似誤差の少ない領域を一続きの面として抽出することができる。
距離データに応じて距離画像を分割するのではなく、所定の分割方法で分割してもよい。例えば、1画素ごとに分割してもよいし、あるいは距離画像の縦横をそれぞれ10画素ごとに格子状に区切るなどしてもよい。このように所定の分割方法を用いる場合、距離画像の領域分割工程(ステップS203)を省略することが可能になる。
第1実施形態では、初期の物体領域に含まれる部分領域として、最も距離値が小さい画素を含む部分領域を選択している。しかし、初期物体領域を設定する方法はこれに限るものではなく、撮像装置に最も近いと見なされる、最も上方に配置されている物体上の領域である可能性のある部分領域を選択すればよい。例えば、距離値の平均が最小の部分領域を選択してもよいし、距離値が小さい順に上位m個(mは2以上の正の整数)の画素の平均距離値が最小の部分領域を選択することも可能である。
初期の物体領域として距離値が小さい部分領域を優先するのは、物体を上方から撮像し、上方からロボットハンドで把持することを想定しているためである。撮像条件が異なれば、その撮像条件に適合した初期物体領域の設定方法を採用することが可能である。例えば、特定色の物体の位置姿勢を推定するのであれば、距離画像のほかに、異なる第2の撮像装置を用いてカラー画像を撮像する。そして、当該の特定色に最も色が合致するカラー画像上の領域に対応する距離画像上の領域を探索し、その距離画像上の領域を含む部分領域を初期物体領域とすればよい。
対象物体の概略の位置及び姿勢が予め分かっていれば、各部分領域について3次元点群の座標と(数10)で表される平均距離を算出し、平均距離が最小の部分領域を初期物体領域としてもよい。
変形1−4―3と同様に対象物体の概略の位置及び姿勢が予め分かっていれば、距離画像上で対象物体が占める領域の情報を利用して初期物体領域を決定することができる。具体的には、対象物体の位置及び姿勢の概略値に基づいて、形状モデルを距離画像上に投影して、投影像が存在する領域を対象物体が占める領域とする。そして,各部分領域と対象物体が占める領域との重複率(両領域が重複する画素の数を各部分領域に属する画素の数で割った値)が最も高い部分領域を初期の物体領域として選択することも可能である。
また、初期の物体領域に含まれる部分領域の数は1つに限るものではなく、複数でもよい。
第1実施形態では(数10)で定義される陰多項式モデルと3次元点群との平均距離を、部分領域を追加するか否か判定するなどの用途で評価値として用いている。しかしながら、判定基準とする評価値はこれに限るものではなく、物体のモデルと計測点群との乖離の度合いを示す値であればよい。例えば、平均距離に替えて、(数12),(数13)で表される評価値を用いてもよい.
第1実施形態では、ある部分領域を物体領域に追加する前に、その部分領域が対象物体に相当する領域か否かを判定し、判定結果が真ならばその部分領域を以後一貫して物体領域の一部として処理する構成を説明した。本実施形態では、物体領域に追加済みのある部分領域が非対象物体に相当する部分領域であるか否か判定し、判定結果が真ならば、その部分領域を物体領域から削除する構成を説明する。
本発明の実施形態は上記に限らず様々な変形例が存在する。第2実施形態では、部分領域を物体領域から除外するか否か判定する基準を平均距離の増減としている。しかし、判定基準はこれに限らず、部分領域を追加する前後でのモデル当て嵌めの精度の変化が評価できればよい。例えば、直近に物体領域に追加した部分領域に関する平均距離(A)と、物体領域に関する平均距離(B)とを比較し、前者(A)が後者(B)以上であれば直近に追加した部分領域を削除すると判定することも可能である。逆に、前者(A)が後者(B)未満であれば部分領域を削除しないようにする。
あるいは、物体領域に関する平均距離に替えて、物体領域から直近に追加した部分領域を除外した領域に関する平均距離を用いてもよい。
さらに、平均距離に替えて、第1実施形態の変形例1−4−1〜1−4−5で説明した評価値を用いて部分領域を除外するか否か判定してもよい。
前述の第1及び第2実施形態では、陰多項式で表現した物体の形状モデルを物体領域の3次元点群に当て嵌めることによって、物体の位置姿勢を推定している。しかしながら、位置姿勢の推定方法はこれに限るものではなく、物体の形状モデルおよび物体領域の3次元点群の情報に基づくものであれば、任意の方法を用いることが出来る.
本実施形態では、形状モデルを、三角形の平面パッチ群から構成されるパッチモデルとし、このモデルと物体領域の3次元点群との間で対応点の対を求め、対応点対間の距離の和が最小になるように物体の位置姿勢を最適化する。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (12)
- 撮像手段により撮像された対象物体の距離画像を取得する取得手段と、
取得された前記距離画像において、物体領域を設定する設定手段と、
設定された前記物体領域の3次元点群に、前記対象物体をモデル化した物体モデルの表面を当て嵌めることによって、前記対象物体の位置及び姿勢を推定する推定手段と、
前記推定手段によって推定された前記位置及び姿勢に基づいて、前記物体モデルと前記3次元点群との距離を示す情報を導出し、該導出された距離を示す情報を用いて、前記物体領域の設定を更新する更新手段と、
前記更新手段による前記物体領域の設定の更新に従い、前記推定手段に、当該更新後の物体領域の3次元点群を用いて、前記対象物体の位置及び姿勢を推定させる制御手段と
を備えることを特徴とする位置姿勢計測装置。 - 前記更新手段は、前記推定手段によって推定された前記位置及び姿勢に基づいて、前記物体モデルと前記3次元点群との距離を示す情報を導出し、該導出された距離を示す情報を用いて、前記距離画像の中で前記物体領域として設定されていない領域のうち一部の領域を前記物体領域に追加することにより、前記物体領域を更新することを特徴とする請求項1に記載の位置姿勢計測装置。
- 前記更新手段は、前記設定手段により前記物体領域として設定されていない領域と前記物体モデルとの距離を示す情報が、前記物体モデルと前記物体領域との距離を示す情報より小さい場合、前記物体領域に、距離値の小さい順に新たな領域を追加することにより、前記物体領域を更新することを特徴とする請求項1または2に記載の位置姿勢計測装置。
- 前記更新手段は、前記領域を追加する前の物体領域と前記物体モデルとの距離を示す情報に対して、前記領域を追加した後の物体領域と前記物体モデルとの距離を示す情報が増加するか否かを判定する増加判定手段と、
前記増加判定手段により増加しないと判定される場合に、前記物体領域に対して距離値の小さい順に新たな領域を追加する追加手段と、
を有することを特徴とする請求項2または3に記載の位置姿勢計測装置。 - 前記更新手段は、前記物体領域に追加する領域を決定する決定手段を更に有することを特徴とする請求項4に記載の位置姿勢計測装置。
- 前記決定手段は、前記物体領域として設定されていない領域と前記物体モデルとの距離の近接度を示す距離値の小さい順に、前記領域を決定することを特徴とする請求項5に記載の位置姿勢計測装置。
- 前記決定手段は、前記推定手段によって推定された位置姿勢に基づいて、前記物体モデルを距離画像上に投影した場合に、前記投影された物体モデルと領域とが重複する度合いの高い順に、前記領域を決定することを特徴とする請求項5に記載の位置姿勢計測装置。
- 前記更新手段は、前記推定手段の推定の結果を用いて、前記領域が追加された前記物体領域から、前記追加された領域を削除することにより前記物体領域を更新することを特徴とする請求項1乃至5のいずれか1項に記載の位置姿勢計測装置。
- 前記更新手段は、前記領域を追加する前の物体領域と前記物体モデルとの距離を示す情報に対して、前記領域を追加した後の物体領域と前記物体モデルとの距離を示す情報が増加すると前記増加判定手段により判定される場合、前記追加された前記領域を前記物体領域から削除することを特徴とする請求項4に記載の位置姿勢計測装置。
- 前記推定手段は、前記物体領域の3次元点群と前記物体モデルの表面との距離の総和を最小にするように、前記物体モデルを前記物体領域の前記3次元点群に当て嵌めることによって、前記対象物体の位置及び姿勢を推定することを特徴とする請求項1乃至9のいずれか1項に記載の位置姿勢計測装置。
- 位置姿勢計測装置の位置姿勢計測方法であって、
取得手段が、撮像手段により撮像された対象物体の距離画像を取得する取得工程と、
設定手段が、取得された前記距離画像において、物体領域を設定する設定工程と、
推定手段が、設定された前記物体領域の3次元点群に、前記対象物体をモデル化した物体モデルの表面を当て嵌めることによって、前記対象物体の位置及び姿勢を推定する推定工程と、
更新手段が、前記推定工程によって推定された前記位置及び姿勢に基づいて、前記物体モデルと前記3次元点群との距離を示す情報を導出し、該導出された距離を示す情報を用いて、前記物体領域の設定を更新する更新工程と、を有し、
前記推定手段が、前記更新工程による前記物体領域の設定の更新に従い、当該更新後の物体領域の3次元点群を用いて、前記対象物体の位置及び姿勢を推定する第2の推定工程と、
を有することを特徴とする位置姿勢計測方法。 - コンピュータを請求項1乃至10のいずれか1項に記載の位置姿勢計測装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010043061A JP5480667B2 (ja) | 2010-02-26 | 2010-02-26 | 位置姿勢計測装置、位置姿勢計測方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010043061A JP5480667B2 (ja) | 2010-02-26 | 2010-02-26 | 位置姿勢計測装置、位置姿勢計測方法、プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2011179909A JP2011179909A (ja) | 2011-09-15 |
JP2011179909A5 JP2011179909A5 (ja) | 2013-04-11 |
JP5480667B2 true JP5480667B2 (ja) | 2014-04-23 |
Family
ID=44691574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010043061A Active JP5480667B2 (ja) | 2010-02-26 | 2010-02-26 | 位置姿勢計測装置、位置姿勢計測方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5480667B2 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5670397B2 (ja) | 2012-08-29 | 2015-02-18 | ファナック株式会社 | バラ積みされた物品をロボットで取出す装置及び方法 |
US9208609B2 (en) * | 2013-07-01 | 2015-12-08 | Mitsubishi Electric Research Laboratories, Inc. | Method for fitting primitive shapes to 3D point clouds using distance fields |
JP5897532B2 (ja) | 2013-11-05 | 2016-03-30 | ファナック株式会社 | 三次元空間に置かれた物品をロボットで取出す装置及び方法 |
JP5788461B2 (ja) | 2013-11-05 | 2015-09-30 | ファナック株式会社 | バラ積みされた物品をロボットで取出す装置及び方法 |
JP5788460B2 (ja) | 2013-11-05 | 2015-09-30 | ファナック株式会社 | バラ積みされた物品をロボットで取出す装置及び方法 |
JP2015089590A (ja) | 2013-11-05 | 2015-05-11 | ファナック株式会社 | バラ積みされた物品をロボットで取出す装置及び方法 |
JP5905549B1 (ja) | 2014-09-16 | 2016-04-20 | ファナック株式会社 | バラ積みされた物品を取出す物品取出装置 |
WO2016153546A1 (en) * | 2015-03-24 | 2016-09-29 | Kla-Tencor Corporation | Method for shape classification of an object |
JP6632208B2 (ja) * | 2015-03-24 | 2020-01-22 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
JP6472363B2 (ja) * | 2015-10-16 | 2019-02-20 | キヤノン株式会社 | 計測装置、計測方法および物品の製造方法 |
JP6713700B1 (ja) | 2020-03-09 | 2020-06-24 | リンクウィズ株式会社 | 情報処理方法、情報処理システム、プログラム |
JP6849262B1 (ja) * | 2020-05-28 | 2021-03-24 | リンクウィズ株式会社 | 情報処理方法、情報処理システム、プログラム |
JP7424535B1 (ja) | 2023-05-31 | 2024-01-30 | トヨタ自動車株式会社 | 遠隔制御装置 |
CN117316262B (zh) * | 2023-11-30 | 2024-04-09 | 深圳市领德创科技有限公司 | 一种自动flash芯片检测机台 |
-
2010
- 2010-02-26 JP JP2010043061A patent/JP5480667B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2011179909A (ja) | 2011-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5480667B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、プログラム | |
US20200096317A1 (en) | Three-dimensional measurement apparatus, processing method, and non-transitory computer-readable storage medium | |
JP5671281B2 (ja) | 位置姿勢計測装置、位置姿勢計測装置の制御方法及びプログラム | |
JP5297403B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、プログラムおよび記憶媒体 | |
JP6271953B2 (ja) | 画像処理装置、画像処理方法 | |
JP5567908B2 (ja) | 3次元計測装置、その計測方法及びプログラム | |
JP5746477B2 (ja) | モデル生成装置、3次元計測装置、それらの制御方法及びプログラム | |
JP5839971B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5627325B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
JP6736257B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP6415066B2 (ja) | 情報処理装置、情報処理方法、位置姿勢推定装置、ロボットシステム | |
CN108332752B (zh) | 机器人室内定位的方法及装置 | |
JP2015219868A (ja) | 情報処理装置、情報処理方法、プログラム | |
CN113052907A (zh) | 一种动态环境移动机器人的定位方法 | |
JP5976089B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
JP5698815B2 (ja) | 情報処理装置、情報処理装置の制御方法及びプログラム | |
JP6040264B2 (ja) | 情報処理装置、情報処理装置の制御方法、およびプログラム | |
JP6066562B2 (ja) | 計測装置、計測方法及びプログラム | |
JP5462662B2 (ja) | 位置姿勢計測装置、物体識別装置、位置姿勢計測方法及びプログラム | |
Siddiqui et al. | Visual tracking using particle swarm optimization | |
Arbeiter et al. | Efficient segmentation and surface classification of range images | |
JP2022138037A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2011174878A (ja) | 位置姿勢計測装置 | |
JP6719925B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP5991730B2 (ja) | 計測装置、計測方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130226 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130226 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131016 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131018 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140214 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5480667 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |