JP6323993B2 - 情報処理装置、情報処理方法、及びコンピュータプログラム - Google Patents
情報処理装置、情報処理方法、及びコンピュータプログラム Download PDFInfo
- Publication number
- JP6323993B2 JP6323993B2 JP2013118301A JP2013118301A JP6323993B2 JP 6323993 B2 JP6323993 B2 JP 6323993B2 JP 2013118301 A JP2013118301 A JP 2013118301A JP 2013118301 A JP2013118301 A JP 2013118301A JP 6323993 B2 JP6323993 B2 JP 6323993B2
- Authority
- JP
- Japan
- Prior art keywords
- model
- target object
- orientation
- geometric feature
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/46—Sensing device
- Y10S901/47—Optical
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Description
対象物体を含む画像を取得する画像取得手段と、
前記対象物体の概略の位置姿勢を示す概略位置姿勢を取得する手段と、
前記対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報を保持する保持手段と、
繰り返し行われる推定の過程で計算される指標値と閾値との大小関係に応じて、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する選択手段と、
前記選択モデル情報が示すモデルを、前記概略位置姿勢が示す位置姿勢で配置し、前記対象物体の表面上のそれぞれの幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求める対応付け手段と、
前記対象物体の表面上のそれぞれの幾何特徴について求めた距離に基づいて、前記対象物体の位置姿勢を推定する推定手段と
を備えることを特徴とする。
本実施形態では、位置姿勢を求める対象となる対象物体の距離画像から得られる3次元点群(対象物体の表面上の点群)と、該対象物体の形状を近似したモデルと、を用いて対象物体の位置姿勢を求める処理に関するものである。その際、本実施形態では、対象物体の形状をポリゴン群を用いて近似したポリゴンモデルと、対象物体の形状をパラメトリック曲面を用いて近似した区分パラメトリック曲面モデルと、を3次元点ごとに切り替えて使用する。
物体表面位置取得部12は、位置姿勢の計測対象となる対象物体の表面上のそれぞれの点(3次元点群)の位置(3次元座標値を有する)を、上記の如く、距離画像から取得する。以下の説明では、N(Nは2以上の整数)個の3次元点kc_i(i=1,2,…,N)の基準座標系における位置を取得したとする。また、距離画像中の画素と、該画素に対応する3次元点との対応関係は既知であるものとする。
以下に説明するように、本実施形態では、はじめに対象物体の概略の位置姿勢を示す位置姿勢情報を与え、これを繰り返し補正することで、対象物体の位置姿勢を求める。然るに、ステップS303において概略位置姿勢入力部13は、この繰り返し処理の初期値として、対象物体の、基準座標系における概略の位置姿勢を示す位置姿勢情報を取得する。
適合度算出部17は、対象物体の表面上のそれぞれの3次元点に対する適合度としての残差er_i(i=1,2,…,N)を初期化する。各残差の初期値には十分大きな値(例えば1000)を設定する。
モデル選択部14は、N個の3次元点のうちまだ選択されていない3次元点を1つ選択する。
モデル選択部14は、ステップS305で選択した3次元点kc_iの残差er_iと、閾値θとの大小比較を行う。閾値θには、ポリゴンモデルと区分パラメトリック曲面モデルとの形状の誤差の値を設定しておく。たとえば、区分パラメトリック曲面モデルとしてCADデータを利用し、CADデータにテッセレーション処理を施してポリゴンモデルを作成する場合、生成されるポリゴンと曲面との距離の許容値を、ポリゴン近似誤差として設定する。このポリゴン近似誤差を閾値θに用いてもよい。
対応間距離算出部15は、現在の位置姿勢情報が示す位置姿勢に、3次元点kc_iについて選択したモデルを配置し、3次元点kc_iと、該配置したモデルにおいて該3次元点に対応する対応点pm_iと、の間の距離(対応間距離)d_iを求める。ここで、3次元点kc_iについて選択されたモデルがポリゴンモデルと区分パラメトリック曲面モデルとで、対応間距離を求める方法が異なる。以下では、ポリゴンモデル、区分パラメトリック曲面モデルのそれぞれが選択された場合における対応間距離算出方法について説明する。
まず、ポリゴンモデルから、3次元点kc_iに対応するポリゴンを探索する。ここでは、以下の文献に開示されている方法と同様に、ポリゴンモデルを距離画像上に投影することによって対応探索を高速に行う。
まず現在の位置姿勢情報が示す位置姿勢にポリゴンモデルを配置し、該配置したポリゴンモデルを、校正済みである距離センサの内部パラメータ(透視投影パラメータ)に基づいて、距離画像と同サイズの画像バッファ(情報処理装置1内のメモリ)に描画する。このとき、ポリゴンごとに固有の色を割り当てて描画を行う。これにより、距離画像の各画素(と同位置)に投影されたポリゴンを、色によって同定することができる。なお、ポリゴンの描画処理をGPU(Graphics Processing Unit)上で高速に行い、描画された結果の画像を読み出してもよい。次に、距離画像上の画素に対応する3次元点kc_iと、該画素に投影されたポリゴンと、を対応付ける。
区分パラメトリック曲面モデルから、3次元点kc_iと対応するトリム曲面を探索し、3次元点kc_iから曲面までの距離を算出する。ここで、区分パラメトリック曲面モデルを構成するトリム曲面の総数をMとする。まず、M個のトリム曲面に対し、各曲面のパラメータを用いて、モデル座標系に変換した位置km_iと、その曲面との最短距離および、最短距離に位置する曲面上の点をそれぞれ算出する。ここでは、このとき、算出された点は物体形状の有効領域内に存在するように算出する。なお、これらの算出には、3次元点kc_iと曲面との対応点および対応間距離を曲面パラメータから算出する一般的な方法を用いればよい。ここで、j番目のトリム曲面と3次元点kc_iとの最短距離をdt_j、その距離に位置する点をpt_jとする。次に、M個のトリム曲面の中から、dt_jの値が最小のトリム曲面を選択する。そして、選択されたトリム曲面と3次元点kc_iとの距離をd_i、その距離に位置する点の位置を対応点pm_iの位置としてそれぞれ求める。
ステップS308では、モデル選択部14は、N個全ての3次元点を選択したか否かを判断する。この判断の結果、N個全ての3次元点を選択したのであれば、処理はステップS309に進み、まだ選択していない3次元点が残っている場合には、処理はステップS305に戻る。
位置姿勢算出部16は、距離画像から得られた3次元点群に対し、3次元点ごとに選択されたモデルが3次元空間中で当てはまるように、位置姿勢情報を補正する。本実施形態では、非線形最適化手法を用いて、位置姿勢情報を反復演算により補正することで対象物体の位置姿勢を示す位置姿勢情報を求める。
距離画像点群をKとする。
3次元幾何モデルの表面点群Pを変換して距離点群Kに位置合わせする。点群Pの各点piに距離が最も近い点群Kの点をbi∈Kとしたとき、(3)の誤差関数を定義できる。Rとtはそれぞれ姿勢パラメータと移動ベクトルである。
P←RP+t (4)
K.S.Arun,T.S.Huang,and S.D.Blostein,“Least−Squares Fitting of Two 3−D Point Sets,” PAMI,vol.9,no.5,1987
適合度算出部17は、各3次元点kc_iの残差er_iを求める。適合度算出部17は、3次元点kc_iについて選択した選択モデル情報が示すモデルを、ステップS309で補正した位置姿勢情報が示す位置姿勢で配置し、該3次元点kc_iと、該配置したモデルにおいて該3次元点kc_iに対応する対応点と、の間の距離を求める。この求めた距離が、3次元点kc_iに対する残差er_iとなる。
位置姿勢算出部16は、上記の反復演算が収束しているか否かを判断する。この判断の結果、収束していると判断した場合には、この反復演算を終了し、この時点で求まっている位置姿勢情報を、対象物体の位置姿勢を示す位置姿勢情報として出力する。出力先については特定の出力先に限るものではなく、情報処理装置1内/外の適当なメモリに対して出力しても良いし、外部の適当な装置に対して出力しても良い。一方、まだ収束していないと判断した場合には、処理はステップS305に戻る。
第1の実施形態では、3次元点ごとにモデル選択を行っていた。これに対し変形例1では、3次元点ごとの残差の総和と閾値の大小比較に基づいてモデル選択を行う。すなわち、変形例1では、1つの対象物体に対して、ポリゴンモデル、区分パラメトリック曲面モデルの何れか1つが選択されることになる。
適合度算出部17は、対象物体に対する適合度Errを初期化する。該適合度の初期値には、想定される位置姿勢残差よりも極端に大きい値(例えば1000)を設定する。本実施形態では、対象物体に対する適合度は、該対象物体の表面上のそれぞれの3次元点の残差の総和であるとする。
モデル選択部14は、適合度Errと、閾値Ψとの大小比較を行う。閾値Ψには、ポリゴンモデルと、区分パラメトリック曲面モデルと、の形状の誤差に基づいて値を設定しておくのがよい。たとえば、区分パラメトリック曲面モデルとしてCADデータを利用し、CADデータにテッセレーション処理を施してポリゴンモデルを作成する場合、第1の実施形態で用いたθの値を利用してΨ=N×θとして設定する。
対応間距離算出部15は、現在の位置姿勢情報が示す位置姿勢に、ステップS405で選択したモデルを配置し、各3次元点について、該3次元点と、該配置したモデルにおいて該3次元点に対応する対応点と、の間の距離(対応間距離)d_iを求める。対応点間距離を求める為の処理については、第1の実施形態で説明したとおりである。
適合度算出部17は、第1の実施形態で説明したように各3次元点kc_iの残差er_iを求め、その合計値を適合度Errとして求める。
第1の実施形態の変形例1では、残差の総和を適合度として用いた。しかし、適合度に適用できる指標には、他にも様々なものが考え得る。本変形例では、位置姿勢情報の補正回数を適合度に用いた場合(ケース1)、位置姿勢情報の変化量(補正量)を適合度に用いた場合(ケース2)、について説明する。
第1の実施形態では、算出される位置姿勢における、それぞれの3次元点の残差に基づいて、ポリゴンモデルと区分パラメトリック曲面モデルとを切り替えて位置姿勢算出を行う方法について説明した。しかし、モデル選択の際の判定にはこのほかの方法を用いてもかまわない。以下では、その例として、対象物体上で、物体表面上の各部位における位置姿勢推定の要求精度に基づき切り替える方法、対象物体の設計形状からの形状誤差を表す公差情報を用いた方法、について説明する。ここでいう「部位」とは、1つの対象物体全体であっても良いし、1つの対象物体の各部分であっても良い。
第1の実施形態及び変形例1,2では、3次元形状モデルとしてポリゴンモデルと区分パラメトリック曲面を用いているが、用いるモデルの種類はこれに限らず形状再現精度が異なる2種のモデルであれば良い。例えば、物体表面をより細かく区分したポリゴンモデルとより粗く区分したポリゴンモデルの組み合わせであっても良いし、曲面の次数が異なる複数の区分パラメトリック曲面の組み合わせであっても良い。さらに、全ての実施形態及びその変形例は、形状再現精度が2段階に異なる2種のモデルにのみ適用可能なのではなく、3段階以上の精度の異なるモデルの組み合わせに対しても適用できる。
第1の実施形態1及びその変形例1〜4では、距離画像から得られる三次元点群とモデルとを位置合わせする際に、規定の条件に従ってモデルを切り替えながら、三次元点群とモデルとの距離(対応間距離)が計算された。そして、この距離に基づいて位置合わせが行われた。これに対して、対象物体を撮影した撮影画像上の幾何特徴(以下、単に特徴と呼ぶ)と、モデルの幾何特徴(以下、単に特徴と呼ぶ)との対応関係に基づいて位置合わせを行う方法がある。このような方法は、例えばT. Drummond and R. Cipolla, “Real-time visual tracking of complex structures,” IEEE Transactions on Pattern Analysis and Machine Intelligence, vol.24, no.7, pp.932-946, 2002.に記載されている。このような位置合わせ方法において、撮影画像上で検出した特徴とモデルの特徴との対応間距離を算出する際に、第1の実施形態及びその変形例1〜4で述べた方法を用いてもよい。
第1の実施形態で説明した位置姿勢算出方法では、区分パラメトリック曲面モデルを選択した場合に、3次元点と対応する区分パラメトリック曲面との探索において、複数のトリム曲面との対応間距離を算出する必要がある。また、各トリム曲面との対応間距離を算出する際に、算出された点が物体形状を表す有効領域上に存在するか否かを判定する必要がある。これらの理由から、区分パラメトリック曲面モデルを選択した場合には、対応間距離の算出処理に時間がかかる。
対応探索部54は、モデル保持部51が保持しているポリゴンモデルから、ステップS604で選択した3次元点に対応するポリゴンを探索する。本ステップでは、上記のステップS307において、ポリゴンモデルが選択された場合における処理と同様の処理により高速に探索を行う。
距離算出部55は、ステップS604で選択した3次元点に対応するモデル表面上の対応点を特定すると共に、該3次元点と該対応点との間の距離(対応間距離)を算出する。
a・bはベクトルaとベクトルbとの内積である。また、km_i’はkm_i’=km_i−O’で表されるベクトルである。図7(a)では、各3次元点について、トリム曲面までの距離を示す線分が示してある。さらに、3次元点からトリム曲面までの最短距離を持つ3次元点pm_iの座標を算出する。ここで算出した距離d_iとモデル点pm_iとを、3次元点とともに記録しておく。なお、ここでは、トリム曲面が円柱の場合について詳しく説明したが、その他のトリム曲面の場合においても、三次元点と曲面との対応点および対応間距離を曲面パラメータから算出する公知の方法を用いて実施すればよい。
本変形例では、3次元点と該3次元点に対応するポリゴンとの距離を求め、該求めた距離が閾値未満であれば、区分パラメトリック曲面モデルを利用して高精度な距離を算出し直す。これにより、位置姿勢の補正を実施する前に、3次元点とモデル表面とのずれを評価して、高速化と高精度化とを効率よく切り替えて位置姿勢の算出が可能となる。
対応探索部54は、モデル保持部51が保持しているポリゴンモデルから、ステップS804で選択した3次元点kc_iに対応するポリゴンを探索する。本ステップでは、上記のステップS307において、ポリゴンモデルが選択された場合における処理と同様の処理により高速に探索を行う。
距離算出部55は、ステップS804で選択した3次元点kc_iに対応するポリゴン上の対応点を特定すると共に、該3次元点kc_iと該対応点との間の距離(対応間距離)d_iを算出する。そして距離算出部55は、距離d_iと閾値φとの大小比較を行う。この閾値φには、たとえば、第1の実施形態で用いた閾値θと同様に、ポリゴンモデルと区分パラメトリック曲面モデルとの形状の誤差の値を設定しておく。
距離算出部55は、ステップS804で選択した3次元点に対応するポリゴンに付与されているIDのトリム曲面を参照し、その曲面パラメータを用いて、該3次元点と対応するモデル表面上の対応点と、該3次元点との間の対応点間距離を算出する。即ち、上記のステップS606における処理と同様の処理を行う。そしてこの対応点間距離が位置姿勢算出部16に対して送出される。
第2の実施形態では、ポリゴンモデルと区分パラメトリック曲面モデルとを組にした三次元形状モデルを利用した。ただし、モデルの組み合わせ方法はこの限りではない。たとえば、対応探索の速度と、表現する物体形状の精度とのトレードオフを段階的に切り替え可能なモデルを複数組み合わせて、三次元形状モデルとして保持しておき、これらからモデルを選択して利用してもよい。すなわち、まず、より再現精度が低いモデル情報を用いて、対象物体上の点に対応する部分(例えばポリゴン面のような表面の一部)が特定される。そして、より再現精度が高いモデル情報が示すモデルから、特定された部分に対応する部分(例えばパラメトリック曲面のトリム曲面のような表面の一部)が特定される。最後に、対象物体上の点と、より再現精度が高いモデル情報が示すモデルから特定された部分上の対応点と、の距離の評価値が算出される。
第2の実施形態では、距離画像から得られる三次元点群とモデルとの位置合わせにおいて、ポリゴンモデルの各ポリゴンと、同一形状を表す区分パラメトリック曲面と、の関連付けを用いて、高速に対応間距離を算出する方法について述べた。この方法を、第1の実施形態の変形例5で述べた、対象物体を撮影した撮影画像上の幾何特徴と、モデル面上から抽出した幾何特徴との対応関係に基づく位置合わせに適用してもよい。例えば、幾何特徴はエッジであってもよく、具体的には、対象物体を撮影した撮影画像上のエッジを表す線分(幾何特徴)と、モデル面上から抽出した線分(幾何特徴)との対応関係に基づく位置合わせに、この方法を適用してもよい。すなわち、まず、撮影画像上の特徴について、対応するポリゴンモデルの特徴が判定される。そして、ポリゴンモデルの特徴に対応する区分パラメトリック曲面の特徴を示す関連付け情報を参照して、撮影画像上の特徴に対応する区分パラメトリック曲面の特徴が選択される。こうして、ポリゴンモデルのような、より再現精度が低い第1のモデル情報が示す第1のモデルの幾何特徴と、区分パラメトリック曲面モデルのような、より再現精度が高い第2のモデル情報が示す第2のモデルの幾何情報と、の対応付けが行われる。そして、撮影画像上の特徴と、区分パラメトリック曲面の特徴との対応間距離が算出される。上述のように、ポリゴンモデルの特徴はポリゴンのエッジであってもよく、これに対応する区分パラメトリック曲面の特徴は区分パラメトリック曲面の輪郭線であってもよい。こうして算出できる輪郭線を表現する曲線パラメータに従う曲線と撮影画像上の特徴との距離は、高精度な対応間距離として使用できる。なお、この他の位置合わせ方法として、エッジを表現する線分を細かく分割した、座標と方向とにより表現されるエッジレットを用いた位置合わせに対しても、同様の方法を適用可能である。
本実施形態では、第1,2の実施形態及び変形例等で説明した方法で算出した位置姿勢情報の使用目的の一例として、ロボットに、該位置姿勢情報が示す位置姿勢を有する対象物体を操作させるシステムについて説明する。
図1に示した情報処理装置1内の各部、図5に示した情報処理装置2内の各部、図9に示した情報処理装置3内の各部、はハードウェアで構成しても良い。しかし、モデル保持部(11,51,902)をメモリで構成し、その他の各部をコンピュータプログラムで構成しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (17)
- 対象物体を含む画像を取得する画像取得手段と、
前記対象物体の概略の位置姿勢を示す概略位置姿勢を取得する手段と、
前記対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報を保持する保持手段と、
繰り返し行われる推定の過程で計算される指標値と閾値との大小関係に応じて、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する選択手段と、
前記選択モデル情報が示すモデルを、前記概略位置姿勢が示す位置姿勢で配置し、前記対象物体の表面上のそれぞれの幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求める対応付け手段と、
前記対象物体の表面上のそれぞれの幾何特徴について求めた距離に基づいて、前記対象物体の位置姿勢を推定する推定手段と
を備えることを特徴とする情報処理装置。 - 前記選択手段は、前記対象物体に対する適合度に基づき、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択し、
前記推定手段は更に、
前記対象物体の表面上のそれぞれの幾何特徴に対し、該幾何特徴と、前記推定手段が推定した概略位置姿勢が示す位置姿勢で配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求め、該求めた距離を前記適合度として求める手段を備える
ことを特徴とする請求項1に記載の情報処理装置。 - 前記選択手段は、前記推定の実行回数に基づき、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記選択手段は、前記推定手段による推定の前の概略位置姿勢が示す位置と、前記推定手段による推定の後の概略位置姿勢が示す位置と、の差分に基づき、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記選択手段は、前記推定手段による推定の前の概略位置姿勢が示す姿勢と、前記推定手段による推定の後の概略位置姿勢が示す姿勢と、の差分に基づき、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する
ことを特徴とする請求項1に記載の情報処理装置。 - 対象物体を含む画像を取得する画像取得手段と、
前記対象物体の概略の位置姿勢を示す概略位置姿勢を取得する手段と、
前記対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報を保持する保持手段と、
前記対象物体の複数の部分における各部分である部位ごとに、前記複数のモデル情報のうち規定の条件に応じて決まる1つを選択モデル情報として選択し、該選択されたモデルの幾何特徴と前記画像中の対象物体の幾何特徴とを対応づける対応付け手段と、
前記対応付けの結果に基づいて、前記対象物体の位置姿勢を推定する推定手段と
を備えることを特徴とする情報処理装置。 - 前記対応付け手段は、前記対象物体の部位ごとに、該部位の形状をパラメトリック曲面で近似したパラメトリック曲面モデル情報、該部位の形状をポリゴン群で近似したポリゴンモデル情報、の何れか1つを、前記パラメトリック曲面モデルに対する前記ポリゴンモデルの近似誤差に応じて選択し、選択したモデル情報が示すモデルを、前記概略位置姿勢で配置し、前記対象物体の表面上のそれぞれの幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求め、
前記推定手段は、前記対象物体の表面上のそれぞれの幾何特徴について求めた距離に基づいて前記概略位置姿勢を推定することを特徴とする請求項6に記載の情報処理装置。 - 前記対応付け手段は、前記対象物体の部位ごとに、該部位の形状をパラメトリック曲面で近似したパラメトリック曲面モデル情報、該部位の形状をポリゴン群で近似したポリゴンモデル情報、の何れか1つを、前記対象物体の形状の公差に基づいて選択し、選択したモデル情報が示すモデルを、前記概略位置姿勢で配置し、前記対象物体の表面上のそれぞれの幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求め、
前記推定手段は、前記対象物体の表面上のそれぞれの幾何特徴について求めた距離に基づいて前記概略位置姿勢を推定することを特徴とする請求項6に記載の情報処理装置。 - 前記対応付け手段は、
前記対象物体の表面上の各幾何特徴に対し、該幾何特徴に対する残差が閾値以上であれば前記対象物体の形状をポリゴン群で近似したポリゴンモデル情報を選択モデル情報として選択し、前記残差が該閾値未満であれば前記対象物体の形状をパラメトリック曲面で近似したパラメトリック曲面モデル情報を選択モデル情報として選択する選択手段と、
前記幾何特徴について選択された選択モデル情報に従うモデルを、前記概略位置姿勢で配置し、該幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求める演算手段と、
前記対象物体の表面上の各幾何特徴について求めた距離に基づいて前記概略位置姿勢を補正する補正手段と、
前記対象物体の表面上の各幾何特徴に対し、該幾何特徴について選択した選択モデル情報に従うモデルを前記補正手段が補正した概略位置姿勢で配置し、該幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を、該幾何特徴に対する残差として求める手段と
を備える
ことを特徴とする請求項6に記載の情報処理装置。 - 前記保持手段は、
第1のモデル情報と該第1のモデル情報よりも再現精度の高い第2のモデル情報とを前記対象物体の部位ごとに関連づけて保持し、
前記対応付け手段は、
前記概略位置姿勢で配置した前記第1のモデルの幾何特徴と前記画像中の対象物体の幾何特徴とを対応づけることにより、前記第1のモデルの幾何特徴を特定する特定手段を更に備え、
前記特定された第1のモデルの幾何特徴と関連付けられる第2のモデルの幾何特徴と、前記対象物体の幾何特徴とを対応付けることを特徴とする、請求項6に記載の情報処理装置。 - 前記第1のモデル情報は、ポリゴンモデル情報であり、
前記第2のモデル情報は、区分パラメトリック曲面モデル情報であることを特徴とする、請求項10に記載の情報処理装置。 - 前記特定手段は、前記対象物体上の前記幾何特徴と、前記第1のモデルにおいて該幾何特徴に対応する対応幾何特徴と、の距離を算出し、
前記特定手段が算出した前記距離が閾値以上である幾何特徴については前記特定手段が算出した前記距離の評価値を用い、前記特定手段が算出した前記距離が閾値未満である幾何特徴については前記第2のモデルを用いて対応づけられた結果を用いて、前記対象物体の位置姿勢を推定する
ことを特徴とする、請求項10又は11に記載の情報処理装置。 - 所定位置の視点から対象物体を撮影した撮影画像を取得する手段と、
前記撮影画像上の幾何特徴を抽出する手段と、
をさらに備え、
前記推定手段は、前記対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報から選択された選択モデル情報が示すモデルを前記概略位置姿勢が示す位置姿勢に基づいて前記画像上に投影し、前記抽出された幾何特徴と、該投影したモデルにおいて該幾何特徴に対応する対応幾何特徴とに基づいて、前記対象物体の位置姿勢を推定する
ことを特徴とする、請求項6に記載の情報処理装置。 - 情報処理装置が行う情報処理方法であって、
前記情報処理装置の保持手段は、対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報を保持し、
前記情報処理方法は、
前記情報処理装置の画像取得手段が、前記対象物体を含む画像を取得する画像取得工程と、
前記情報処理装置の位置姿勢取得手段が、前記対象物体の概略の位置姿勢を示す概略位置姿勢を取得する工程と、
前記情報処理装置の選択手段が、繰り返し行われる推定の過程で計算される指標値と閾値との大小関係に応じて、前記複数のモデル情報のうちの何れか1つを選択モデル情報として選択する工程と、
前記情報処理装置の対応付け手段が、前記選択モデル情報が示すモデルを、前記概略位置姿勢が示す位置姿勢で配置し、前記対象物体の表面上のそれぞれの幾何特徴と、該配置したモデルにおいて該幾何特徴に対応する対応幾何特徴と、の間の距離を求める工程と、
前記情報処理装置の推定手段が、前記対象物体の表面上のそれぞれの幾何特徴について求めた距離に基づいて、前記対象物体の位置姿勢を推定する推定工程と
を有することを特徴とする情報処理方法。 - 情報処理装置が行う情報処理方法であって、
前記情報処理装置の保持手段は、対象物体の形状の再現精度がそれぞれ異なる複数のモデル情報を保持し、
前記情報処理方法は、
前記情報処理装置の画像取得手段が、前記対象物体を含む画像を取得する画像取得工程と、
前記情報処理装置の位置姿勢取得手段が、前記対象物体の概略の位置姿勢を示す概略位置姿勢を取得する工程と、
前記情報処理装置の対応付け手段が、前記対象物体の複数の部分における各部分である部位ごとに、前記複数のモデル情報のうち規定の条件に応じて決まる1つを選択モデル情報として選択し、該選択されたモデルの幾何特徴と前記画像中の対象物体の幾何特徴とを対応づける工程と、
前記情報処理装置の推定手段が、前記対応付けの結果に基づいて、前記対象物体の位置姿勢を推定する工程と
を有することを特徴とする情報処理方法。 - 更に、
ロボットを制御する制御部に対し、前記推定手段が推定した位置姿勢に従って該ロボットを移動させるための指示を送出する手段を備えることを特徴とする請求項1乃至13の何れか1項に記載の情報処理装置。 - コンピュータを、請求項1乃至13の何れか1項に記載の情報処理装置の各手段として機能させるためのコンピュータプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013118301A JP6323993B2 (ja) | 2012-08-28 | 2013-06-04 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
US13/972,212 US9275461B2 (en) | 2012-08-28 | 2013-08-21 | Information processing apparatus, information processing method and storage medium |
DE102013216902.7A DE102013216902A1 (de) | 2012-08-28 | 2013-08-26 | Informationsverarbeitungsvorrichtung, Informationsverarbeitungsverfahren und Programm |
CN201310379479.XA CN103678754B (zh) | 2012-08-28 | 2013-08-27 | 信息处理装置及信息处理方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012188074 | 2012-08-28 | ||
JP2012188074 | 2012-08-28 | ||
JP2013118301A JP6323993B2 (ja) | 2012-08-28 | 2013-06-04 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014063475A JP2014063475A (ja) | 2014-04-10 |
JP2014063475A5 JP2014063475A5 (ja) | 2016-06-30 |
JP6323993B2 true JP6323993B2 (ja) | 2018-05-16 |
Family
ID=50098676
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013118301A Active JP6323993B2 (ja) | 2012-08-28 | 2013-06-04 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US9275461B2 (ja) |
JP (1) | JP6323993B2 (ja) |
CN (1) | CN103678754B (ja) |
DE (1) | DE102013216902A1 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5787642B2 (ja) * | 2011-06-28 | 2015-09-30 | キヤノン株式会社 | 対象物保持装置、対象物保持装置の制御方法、およびプログラム |
JP6323993B2 (ja) * | 2012-08-28 | 2018-05-16 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
JP6429450B2 (ja) | 2013-10-31 | 2018-11-28 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP5905549B1 (ja) * | 2014-09-16 | 2016-04-20 | ファナック株式会社 | バラ積みされた物品を取出す物品取出装置 |
JP6256702B2 (ja) * | 2014-12-25 | 2018-01-10 | 株式会社ダイフク | 物品搬送用容器昇降搬送装置 |
EP3040941B1 (en) * | 2014-12-29 | 2017-08-02 | Dassault Systèmes | Method for calibrating a depth camera |
JP6635690B2 (ja) * | 2015-06-23 | 2020-01-29 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US10335951B2 (en) * | 2015-07-29 | 2019-07-02 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, robot control apparatus, and robot system |
JP6711591B2 (ja) | 2015-11-06 | 2020-06-17 | キヤノン株式会社 | ロボット制御装置およびロボット制御方法 |
JP6677522B2 (ja) * | 2016-02-15 | 2020-04-08 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法およびプログラム |
JP6846661B2 (ja) * | 2016-04-13 | 2021-03-24 | パナソニックIpマネジメント株式会社 | 3次元的な投影対象のための投影方法及び装置 |
US10380767B2 (en) * | 2016-08-01 | 2019-08-13 | Cognex Corporation | System and method for automatic selection of 3D alignment algorithms in a vision system |
JP6514156B2 (ja) * | 2016-08-17 | 2019-05-15 | ファナック株式会社 | ロボット制御装置 |
JP2018034242A (ja) * | 2016-08-31 | 2018-03-08 | セイコーエプソン株式会社 | ロボット制御装置、ロボット、及びロボットシステム |
JP6845929B2 (ja) * | 2017-06-12 | 2021-03-24 | 株式会社日立製作所 | 三次元計測装置、および方法 |
CN111164958A (zh) * | 2017-09-29 | 2020-05-15 | 深圳市大疆创新科技有限公司 | 用于基于姿态信息处理和显示图像数据的系统及方法 |
JP6886906B2 (ja) * | 2017-10-10 | 2021-06-16 | 東芝テック株式会社 | 読取装置およびプログラム |
US11453123B2 (en) * | 2017-12-27 | 2022-09-27 | Stmicroelectronics, Inc. | Robotic device with time-of-flight proximity sensing system |
JP6879238B2 (ja) * | 2018-03-13 | 2021-06-02 | オムロン株式会社 | ワークピッキング装置及びワークピッキング方法 |
JP7237496B2 (ja) * | 2018-09-10 | 2023-03-13 | 株式会社東芝 | ピッキングシステム、情報処理装置及び情報処理プログラム |
WO2020121406A1 (ja) * | 2018-12-11 | 2020-06-18 | 三菱電機株式会社 | 3次元計測装置、移動ロボット、手押し車型移動装置および3次元計測処理方法 |
CN110160528B (zh) * | 2019-05-30 | 2021-06-11 | 华中科技大学 | 一种基于角度特征识别的移动装置位姿定位方法 |
WO2022120348A1 (en) * | 2020-12-01 | 2022-06-09 | Clearedge3D, Inc. | Construction verification system, method and computer program product |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3512992B2 (ja) * | 1997-01-07 | 2004-03-31 | 株式会社東芝 | 画像処理装置および画像処理方法 |
EP1754201A1 (en) * | 2004-05-27 | 2007-02-21 | Canon Kabushiki Kaisha | Information processing method, information processing apparatus, and image sensing apparatus |
JP4081553B2 (ja) * | 2005-09-13 | 2008-04-30 | 防衛省技術研究本部長 | 距離推定装置 |
US8050473B2 (en) * | 2007-02-13 | 2011-11-01 | The Trustees Of The University Of Pennsylvania | Segmentation method using an oriented active shape model |
JP4949953B2 (ja) | 2007-07-11 | 2012-06-13 | 国立大学法人埼玉大学 | 曲面形状と基準面との距離算出方法 |
JP5253066B2 (ja) * | 2008-09-24 | 2013-07-31 | キヤノン株式会社 | 位置姿勢計測装置及び方法 |
JP2011175477A (ja) * | 2010-02-24 | 2011-09-08 | Canon Inc | 3次元計測装置、処理方法及びプログラム |
JP5618569B2 (ja) * | 2010-02-25 | 2014-11-05 | キヤノン株式会社 | 位置姿勢推定装置及びその方法 |
JP5746477B2 (ja) | 2010-02-26 | 2015-07-08 | キヤノン株式会社 | モデル生成装置、3次元計測装置、それらの制御方法及びプログラム |
JP5430456B2 (ja) | 2010-03-16 | 2014-02-26 | キヤノン株式会社 | 幾何特徴抽出装置、幾何特徴抽出方法、及びプログラム、三次元計測装置、物体認識装置 |
JP5170154B2 (ja) * | 2010-04-26 | 2013-03-27 | オムロン株式会社 | 形状計測装置およびキャリブレーション方法 |
JP5496008B2 (ja) * | 2010-08-06 | 2014-05-21 | キヤノン株式会社 | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム |
US8467596B2 (en) * | 2011-08-30 | 2013-06-18 | Seiko Epson Corporation | Method and apparatus for object pose estimation |
JP5991730B2 (ja) * | 2012-01-30 | 2016-09-14 | キヤノン株式会社 | 計測装置、計測方法及びプログラム |
JP6323993B2 (ja) * | 2012-08-28 | 2018-05-16 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びコンピュータプログラム |
-
2013
- 2013-06-04 JP JP2013118301A patent/JP6323993B2/ja active Active
- 2013-08-21 US US13/972,212 patent/US9275461B2/en active Active
- 2013-08-26 DE DE102013216902.7A patent/DE102013216902A1/de not_active Ceased
- 2013-08-27 CN CN201310379479.XA patent/CN103678754B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
US9275461B2 (en) | 2016-03-01 |
CN103678754B (zh) | 2017-06-06 |
JP2014063475A (ja) | 2014-04-10 |
CN103678754A (zh) | 2014-03-26 |
DE102013216902A1 (de) | 2014-03-06 |
US20140067126A1 (en) | 2014-03-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6323993B2 (ja) | 情報処理装置、情報処理方法、及びコンピュータプログラム | |
Kriegel et al. | Efficient next-best-scan planning for autonomous 3D surface reconstruction of unknown objects | |
JP6426968B2 (ja) | 情報処理装置およびその方法 | |
Li et al. | Free-form surface inspection techniques state of the art review | |
US10684116B2 (en) | Position and orientation measuring apparatus, information processing apparatus and information processing method | |
JP5430456B2 (ja) | 幾何特徴抽出装置、幾何特徴抽出方法、及びプログラム、三次元計測装置、物体認識装置 | |
US9182221B2 (en) | Information processing apparatus and information processing method | |
JP6004809B2 (ja) | 位置姿勢推定装置、情報処理装置、情報処理方法 | |
US9025857B2 (en) | Three-dimensional measurement apparatus, measurement method therefor, and computer-readable storage medium | |
KR101925862B1 (ko) | 3차원 라이다를 이용한 실시간 3차원 지도 생성 방법 및 장치 | |
JP6092530B2 (ja) | 画像処理装置、画像処理方法 | |
JP5627325B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
CN112161619B (zh) | 位姿检测方法、三维扫描路径规划方法和检测系统 | |
JP6632208B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP6594129B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2011007632A (ja) | 情報処理装置、情報処理方法およびプログラム | |
Karaszewski et al. | Assessment of next-best-view algorithms performance with various 3D scanners and manipulator | |
JP2016170050A (ja) | 位置姿勢計測装置、位置姿勢計測方法及びコンピュータプログラム | |
Kroemer et al. | Point cloud completion using extrusions | |
JP2015007639A (ja) | 情報処理装置、情報処理方法およびプログラム | |
Kriegel | Autonomous 3D modeling of unknown objects for active scene exploration | |
JP7365567B2 (ja) | 計測システム、計測装置、計測方法及び計測プログラム | |
Kwon et al. | Rescan strategy for time efficient view and path planning in automated inspection system | |
JP6719925B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP6548789B2 (ja) | 位置姿勢計測装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160516 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160516 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170623 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20171113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180213 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20180221 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180410 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6323993 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |