JP5798318B2 - 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム - Google Patents

距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム Download PDF

Info

Publication number
JP5798318B2
JP5798318B2 JP2010279867A JP2010279867A JP5798318B2 JP 5798318 B2 JP5798318 B2 JP 5798318B2 JP 2010279867 A JP2010279867 A JP 2010279867A JP 2010279867 A JP2010279867 A JP 2010279867A JP 5798318 B2 JP5798318 B2 JP 5798318B2
Authority
JP
Japan
Prior art keywords
distance
distance data
resolution
image
generating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010279867A
Other languages
English (en)
Other versions
JP2012127819A (ja
Inventor
智也 本條
智也 本條
優和 真継
優和 真継
渡辺 郁夫
郁夫 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010279867A priority Critical patent/JP5798318B2/ja
Priority to US13/310,995 priority patent/US8761440B2/en
Publication of JP2012127819A publication Critical patent/JP2012127819A/ja
Application granted granted Critical
Publication of JP5798318B2 publication Critical patent/JP5798318B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、距離画像生成装置、位置姿勢計測装置、距離画像処理装置、距離画像生成装置の制御方法、およびプログラムに関する。特に、被計測物体の距離データを生成し、その距離データに基づいて画像処理を行う距離画像生成装置、位置姿勢計測装置、距離画像処理装置、距離画像生成装置の制御方法、およびプログラムに関する。
三角測量を応用した三次元距離計測手法において、計測点の密度が常に一定であると、被計測物体までの距離が大きくなるほど距離データの面内方向の解像度が低くなる。被計測物体までの距離によらず常に一定の面内方向の解像度で計測を行うためには、計測点の密度は被計測物体までの距離に応じて変化させる必要がある。
被計測物体までの距離に応じて計測点の密度を変更する手法として、特許文献1のような手法が検討されている。
特許文献1では、光伝播時間測定法(TOF法)に従って概略的に被計測物体までの距離を計測し、光切断法によって、当該距離に基づいて決定した走査ピッチに従ってスリット光を走査して、距離データを生成している。この場合、走査ピッチが計測点の密度に相当する。
特開2002−22425号公報
特許文献1の手法では、距離データは、概略的な被計測物体までの距離に基づいて生成される。しかしながら、生成された距離データを用いる処理において距離データに要求される面内方向の解像度、もしくは奥行き方向の距離分解能が変化した際の対応については考慮されていない。
要求される面内方向の解像度もしくは奥行き方向の距離分解能よりも解像度もしくは距離分解能が高い距離データの生成は、不必要なデータの生成による処理時間の増大を招く。逆に、要求される面内方向の解像度もしくは奥行き方向の距離分解能よりも解像度もしくは距離分解能が低い距離データの生成は、その距離データを用いる処理の正確性の維持が困難となる。
上記の課題に鑑み、本発明は、距離データを用いる処理が要求する面内方向の解像度もしくは奥行き方向の距離分解能なども考慮した上で、画像処理に必要な精度の距離データを生成することを目的とする。
上記の目的を達成する本発明に係る距離データ生成装置は、
所定の面内方向の解像度または奥行き方向の距離分解能で被計測物体の第1の距離画像を生成する生成手段と、
前記第1の距離画像が生成された後に前記生成手段により生成される第2の距離画像を使って前記被計測物体を計測する計測手段の要求に基づいて、前記第2の距離画像面内方向の解像度または奥行き方向の距離分解能であるパラメータを決定する決定手段と、を備え、
前記生成手段は、前記第1の距離画像と前記決定手段により決定されたパラメータとに基づいて、前記第2の距離画像を生成することを特徴とする。
本発明によれば、距離データを用いる処理が要求する面内方向の解像度もしくは奥行き方向の距離分解能なども考慮した上で、画像処理に必要な精度の距離データを生成することが可能となる。
第1実施形態に係る物体位置姿勢計測装置の機能ブロック図。 第1実施形態に係る物体位置姿勢計測装置における処理の流れを示すフローチャート。 第1実施形態に係る第1の距離データおよび第2の距離データを示す図。 第2実施形態に係る第2の距離データのコード画像生成の流れを示す図。 第3実施形態に係る物体位置姿勢計測装置の機能ブロック図。 第3実施形態に係る物体位置姿勢計測装置における処理の流れを示すフローチャート。
(第1実施形態)
本実施形態では、例えば工場の生産ラインなどで、部品群から部品のピッキング等のタスクを実行するためのロボットシステムにおいて使用される、部品の位置姿勢を計測する距離画像処理モジュールを備えた物体位置姿勢計測装置の例を説明する。なお、本実施形態では、三次元距離計測は空間コード化法によって行う。また、撮像装置から被計測物体までの距離を距離情報と定義し、その距離情報を輝度値とする2次元画像を距離データ(距離画像)として定義する。さらに、距離データの面内方向の解像度を距離データのパラメータとして定義する。
まず図1を参照して、本実施形態における距離画像生成装置の機能を有する物体位置姿勢計測装置の構成を説明する。撮像モジュール15は、0と1のビットが埋め込まれた空間コード化パターンを部品群の上方から投影するプロジェクタなどの投影装置16と、部品群を撮像するカメラなどの撮像装置17と、距離画像処理モジュール18とに接続され、撮像装置17で撮像された画像を取り込む機能を有する。距離画像処理モジュール18は、距離データ生成モジュール11と、距離情報抽出モジュール12と、距離データパラメータ決定モジュール13と、位置姿勢認識モジュール14とを備える。距離データ生成モジュール11は、撮像モジュール15から取り込んだ画像に基づいて、撮像装置17から部品群までの距離を表した距離データを生成する機能を有する。距離情報抽出モジュール12は、距離データ生成モジュール11により生成された距離データから任意の距離情報を抽出する機能を有する。距離データパラメータ決定モジュール13は、距離データ生成モジュール11により生成された距離データに基づいて、距離データ生成モジュール11が次に生成する距離データのパラメータを決定する機能を有する。また、位置姿勢認識モジュール14が要求する値に基づいてパラメータを決定してもよい。
位置姿勢認識モジュール14は、いわゆる画像処理手段として機能し、距離データ生成モジュール11により生成された距離データと、撮像装置17から得られる2次元画像とに基づいて、部品の位置姿勢認識処理を行う機能を有する。
なお本実施形態においては、それぞれの機能を実現するモジュールを前述したように定義したが、これらの定義は本発明の趣旨を限定するものでは無い。例えば、撮像モジュール15を定義したが、撮像モジュール15を距離データ生成モジュール11に含まれるものとして定義しても構わない。すなわち、上述の定義は、本実施形態で説明される物体位置姿勢計測装置が、後述する処理を実現する際に必要とする手段を説明するために設定したものであり、その他の定義を排除するものでは無い。また、撮像モジュール15、距離画像処理モジュール18は、不図示の制御部によりその動作を制御され、一般的にコンピュータから構成されるが、本発明はその構成を限定するものではない。
次に図2のフローチャートを参照して、本実施形態に係る物体位置姿勢計測装置の動作の流れを説明する。
ステップS101において、撮像モジュール15は、前処理を行う。撮像モジュール15は、全点灯条件および全消灯条件下で、撮像装置17で部品群を撮像したそれぞれの画像を取得する。ここで、全点灯条件とは、空間コードが全て1のパターンを投影する条件のことであり、この条件で撮像した画像を全点灯画像と定義する。全消灯条件とは、空間コードが全て0すなわち空間コード化パターンを投影しない条件のことであり、この条件で撮像した画像を全消灯画像と定義する。
ステップS102において、距離データ生成モジュール11は距離データを生成する。撮像装置17により部品の距離計測のための撮像が行われ、撮像された画像は撮像モジュール15に転送される。距離データ生成モジュール11は撮像モジュール15から画像を取り込み、距離データを生成する。
ステップS102の処理は、ステップS101の処理の後に実行される場合と、後述のステップS105の処理の後に実行される場合とがある。ステップS101の後にステップS102が実行される場合は、第1の距離データ(第1の距離画像)を生成するための空間コード化パターンの投影回数N1に基づいて第1の距離データが生成される。被計測物体の第1の距離データは、所定の面内方向の解像度で取得されてもよい。一方、後述のステップS105の後にステップS102が実行される場合は、距離データパラメータ決定モジュール13によって決定されたパラメータと、距離情報抽出モジュール12によって抽出された距離情報とに基づいて、第2の距離データ(第2の距離画像)を生成するための空間コード化パターンの投影回数N2が決定される。そして、当該N2に基づいて第2の距離データが生成される。第1の距離データは、第2の距離データのパラメータを決定するために用いられ、第2の距離データは、画像処理や、位置姿勢認識モジュール14が位置姿勢認識処理を行うときの処理領域設定に用いられる。
ステップS103において、距離画像処理モジュール18は、距離データ生成モジュール11により生成された距離データが、第1の距離データであるか、または第2の距離データであるかを判定する。第1の距離データであると判定された場合(ステップS103;NO)、ステップS104へ進む。一方、第2の距離データであると判定された場合(ステップS103;YES)、ステップS106へ進む。
ステップS104において、距離情報抽出モジュール12は、撮像された部品群の中で撮像装置からの距離が最も近い位置での距離情報を第1の距離データから抽出する。ステップS105において、距離データパラメータ決定モジュール13は、距離情報と、位置姿勢認識モジュール14が距離データのパラメータとして要求する値とに基づいて、距離データ生成モジュール11が次に生成する第2の距離データのパラメータを決定する。その後ステップS102に戻り、決定されたパラメータを有する第2の距離データを生成するために必要な処理が行われる。
ステップS106において、位置姿勢認識モジュール14は、部品群のうち高さが最も高い位置にある部品の位置を第2の距離データに基づいて検出する。そして、位置姿勢認識モジュール14は、その部品を含むような領域の中で、位置姿勢認識処理を行う。以上が、本実施形態における物体位置姿勢計測装置の動作の流れである。
続いて、本実施形態に係る物体位置姿勢計測装置の動作のうち、さらに説明が必要なステップについて、詳細に説明する。
ステップS102では、空間コード化法による三次元距離計測を行うため、投影装置16が部品に対して空間コード化パターンを複数回投影する。そして、カメラ等の撮像装置17が、空間コード化パターンを投影された部品を撮像する。撮像装置17により撮像された複数の画像は撮像モジュール15に転送される。本実施形態における空間コード化パターンは、投影回数が増えるに従って低いビットから高いビットへと順番に投影される。
第1の距離データを生成する際は、あらかじめ設定された投影回数N1に従って空間コード化パターンの投影が行われる。処理時間と効率性の観点からN1は、第2の距離データを生成するための空間コード化パターンの投影回数N2で予想される最小値以下の値であってもよい。本実施形態では、撮像装置17から部品群の底辺までの距離hの中央に位置する距離h/2において、距離計測密度(空間コード化パターンのパターン幅)が部品の最短辺以下になるときの空間コード化パターンのビット数をN1とする。
第2の距離データを生成する際は、距離データパラメータ決定モジュール13により決定されたパラメータと、距離情報抽出モジュール12によって抽出された距離情報とに応じて投影回数N2が決定される。そして、その投影回数N2に従って空間コード化パターンの投影が行われる。
具体的には、距離情報抽出モジュール12により抽出された距離だけ撮像装置17から離れた位置において、第2の距離データのパラメータとして面内方向の解像度RN(距離計測点数/mm)が指定された場合、それと同じかそれよりも高い解像度の距離データを出力するために必要な投影回数を計算する。例えば、距離情報抽出モジュール12により抽出された距離だけ撮像装置17から離れた位置において、1ビット空間コード化パターンで得られる距離データの面内方向の解像度がR1(距離計測点数/mm)である場合、投影回数N2は以下のように与えられる。ただし、R1は既知とする。
N2=log2(RN/R1)+1
N2が小数となった場合は、値を切り上げる。ここで、投影回数N1≧投影回数N2であれば、投影並びに撮像は行われず、第1の距離データを第2の距離データとして再出力する。
続いて、距離データ生成モジュール11は、空間コード化法により、撮像モジュール15から取り込まれる複数の画像から距離データを生成する。より具体的には、複数の画像をデコードして観測された空間コードを画素値とする空間コード画像を生成し、そのコード画像に基づいて、三角測量により距離データを生成する。
ここで、コード画像の生成の流れの例を示す。コード画像と撮像された画像の縦横の画素数は一致しているとする。簡単のため、ここでは画像中の1点(x0,y0)に注目する。まず、全点灯画像の輝度値と全消灯画像の輝度値との平均画像を生成し、この平均画像を閾値として、1ビットの空間コード化パターンを投影した時の画像を2値化する。具体的には、閾値よりも小さければ0、大きければ1とする。これがコード情報となる。そして、2値化画像の(x0,y0)におけるコードを読み取る。このコード値をコード座標の(x0,y0)に代入する。2値化処理とコード値代入処理を合わせてコード生成処理と定義する。続いて、2ビットの空間コード化パターンを投影した時の画像を、先ほどと同様の手順で2値化し、2値化画像の(x0,y0)におけるコードを読み取る。次にコード画像上の(x0,y0)における値を左シフトし、読み取ったコードを下位ビットに埋め込む。これを、空間コード化パターンを投影した回数だけ繰り返す。以上の処理をコード画像上の全ての点に適用することで、コード画像が生成される。
ステップS104では、距離情報抽出モジュール12が、距離データから距離情報を抽出する。以下、図3(a)を用いて、距離情報の抽出処理の説明を行う。図3(a)は、第1の距離データ例を示す。ここでは便宜上、画像の左上を原点とし、画素と座標とを対応づけている。さらに、図3(c)の凡例に示すように、部品群の高さ方向に対し、色が薄いところほど部品が高い位置にあることを表す。また、第1の距離データは少ない空間コード化パターンで生成するため、距離計測が行われない場所も出てくる。計測できた場所の間に補完処理を適用して第1の距離データの全ての画素において距離情報を持つようにしても良いが、ここでは簡単のため、補完処理は行っていない。また図3(a)は、部品のみが撮影され、他の冶具は写りこんでいないものとするが、仮に冶具が写りこんでいたとしても、部品群が置かれていない時の距離データと背景差分を取ることで、部品群のみの距離データを得ることも可能である。本実施形態では、部品群の頂上から部品をピッキングしていくことを想定し、距離データにおいて最も長い部分の距離情報を抽出する。図3(a)の第1の距離データ例で有効に計測された中で最も高い部品位置を示す画素は、(x,y)=(7,5)、(7,6)、および(7,7)である。このときこれらの画素が保持する距離情報を抽出する。
ステップS105では、距離データパラメータ決定モジュール13は、位置姿勢認識モジュール14が第2の距離データのパラメータとして要求する値に基づいて、距離データ生成モジュール11が次に生成する第2の距離データのパラメータを決定する。本実施形態では、ステップS106において、部品群のうち最も高い位置にある部品について位置姿勢認識処理を行う。例えば、部品の最短辺が10(mm)であるとき、部品表面の少なくとも1点が必ず距離計測されるためには、部品群の最も高い位置における面内方向の距離計測間隔が10(mm)以下となる必要がある。この条件で計測することにより、例えば部品群の中で最も高い位置にある部品が距離計測間隔の間に存在してしまい、その部品の距離計測が行われない、すなわち部品群の最も高い位置にある部品を検出できないといった事態を避けることができる。ここでは、第2の距離データのパラメータに対する位置姿勢認識モジュール14の要求として距離計測間隔が10(mm)という値が設定される。よって、第2の距離データのパラメータすなわち面内方向の解像度として、1/10(距離計測点数/mm)すなわち0.1(距離計測点数/mm)が設定される。その後、ステップS102に戻り、決定されたパラメータの第2の距離データを生成するために必要な処理が行われる。
最後に、ステップS106では、位置姿勢認識モジュール14は、距離データに基づいて部品の位置姿勢認識処理を行う。本実施形態では、第2の距離データの中で最も高い位置にある部品に対応する距離情報を持つ点の座標を中心として、部品の最長辺の2倍の長さを1辺とする正方形領域を位置姿勢認識処理の処理領域として設定する。第2の距離データ例である図3(b)を用いて具体的に説明すると、図3(b)の第2の距離データ例で最も高い画素は、(x,y)=(6,6)である。部品の最長辺の2倍の長さが図3(b)の第2の距離データ画像上で3画素分であるとき、処理領域として(5,5),(5,7),(7,5),(7,7)の4点を頂点とする正方形領域(矩形領域)を設定する。その領域の中で全点灯画像に対し例えばテンプレートマッチングなどの位置姿勢認識処理により部品の位置姿勢を求める。ここで、全点灯画像ではなく、全消灯画像など任意の照度で撮像した画像を用いても良い。位置姿勢認識処理に関しては、本発明の主眼とするところではないため詳細な説明は省略する。
さて、本実施形態では、空間コード化パターンは、低いビットから高いビットへ順番に投影されるとしたが、指定された投影回数で必要な空間コード化パターンが全てそろえば、どのような順番で投影しても良い。全点灯画像と全消灯画像の撮像に関しても、空間コード化パターン投影前に行う必要はなく、空間コード化パターン投影の途中で行われても良い。
また、本実施形態では、第2の距離データのパラメータとして面内方向の解像度RNが指定された場合、それと同じかそれよりも高い解像度の距離データを出力するために必要な投影回数を計算した。一方で、あらかじめルックアップテーブルに各計算結果を保持させておき、それを読み出すようにしても良い。
また、本実施形態では、空間コード化パターンは各ビットにつき1枚ずつ投影したが、各ビットでビット反転させた空間コード化パターンの投影を追加で行っても良い。このようにすることで、コード画像を生成する際の2値化の精度を向上させ、コード画像をより高精度に生成することができる。
また、パターンの投影および撮像は、上述の何れのステップが実行されているかに関係なく、常に実行されていても良い。この場合、空間コード化パターンは、低いビットから高いビットへ順番に投影され、物体位置姿勢計測装置が有する最高ビットの空間コード化パターンが投影されるまで続けられる。もしくは第2の距離データの生成に必要なビットの空間コード化パターンが投影されるまで続けられる。撮像されたデータは順次撮像モジュール15に保持され、距離データ生成モジュール11は必要な画像を撮像モジュール15より取り出すことができる。撮像が終わっている画像については撮像モジュール15からすぐに取り出すことができるので、ステップS102の処理の待機時間を低減させることができる。
また、ステップS102において、投影回数N1を撮像装置17から部品群の底辺までの距離hの中央に位置する距離h/2を基準にして決定したが、これはあくまで例示であって、例えば部品群の考えうる最大高さを基準にしてN1を決定しても良い。例えば、部品群の考えうる最大高さがh/4であれば、その高さにおいて距離計測密度が部品の最短辺以下になるときの空間コード化パターンのビット数をN1とすれば良い。
また、ステップS104において、距離情報抽出モジュール12は、距離データの中で最も高い位置にある部品の距離情報を抽出するが、これは任意の値であっても良い。例えば、ロボットシステムが部品のピッキングを行いやすい高さに最も近い距離情報を抽出しても良い。また、ステップS105において、本実施形態では、位置姿勢認識モジュール14が位置姿勢認識処理を行うときの処理領域設定のために第2の距離データを用いた。そして、位置姿勢認識モジュール14が要求する距離計測間隔(空間コード化パターンのビット数に対応づけられる)として部品の最短辺の長さと設定したが、これに限るものではない。位置姿勢認識モジュール14で行われる処理で必要なビット数に基づいて距離計測間隔を決定してもよい。
また、ステップS105において決定された第2の距離データのパラメータに基づいて、ステップS102において距離データ生成モジュール11で投影回数N2を決定したが、投影回数N2の決定はステップS105で行っても良い。すなわち、距離データパラメータ決定モジュール13が、第1の距離データに基づいて、第2の距離データを生成するために必要な投影回数N2を決定しても良い。また、位置姿勢認識モジュール14が距離データのパラメータに要求する値と第1の距離データに基づいて、投影回数N2を決定しても良い。
また、距離情報ごとに面内方向の解像度または奥行き方向の距離分解能を予め関連付けて格納しておき、当該関連付けに基づいて、抽出された距離情報に対応する面内方向の解像度または奥行き方向の距離分解能をパラメータとして決定してもよい。
また、ステップS106において、領域の設定に関しては何ら限定されるものではない。例えば、距離データの中で、ロボットシステムが部品のピッキングを行いやすい距離情報を持つ点の座標を中心として矩形領域を設定しても良いし、その領域についても、例えば部品の最長辺の長さを半径とする円領域を設定しても良い。
(第2実施形態)
本実施形態では、第1実施形態のステップS102において、距離データ生成モジュール11にコード画像を保持するメモリなどの記憶装置を設けておき、第1の距離データのコード画像を記憶装置に保持させる場合について説明を行う。なお、本実施形態においては第1実施形態における物体位置姿勢計測装置との相違点についてのみ説明を行い、その他の部分に関しては第1実施形態と同様として説明を省略する。
本実施形態では、第1の距離データは2ビットまでの空間コード化パターンで生成され、第2の距離データは3ビットまでの空間コード化パターンで生成されるとする。
図4(a)は、本実施形態における第1の距離データのコード画像生成の流れを示す。第1の距離データのコード画像は2回の撮像すなわち空間コード化パターン401と403とを用いて生成される。被計測物体に空間コード化パターン401または403が投影され、撮像された画像を2値化すると、2値化画像402または404が得られる。これら2枚の画像から、第1の距離データのコード画像405が生成される。コード画像405において、同一の濃淡は同一のコード値であることを示す。また、コード値の境界には視認性を考慮して黒線を入れているが、本来のコード画像には存在しない。コード画像405は、記憶装置に記録される。
図4(b)は、本実施形態における第2の距離データのコード画像生成の流れを示す。第2の距離データのコード画像は、通常の方法であれば、3回の撮像すなわち空間コード化パターン401と403と406とを用いて生成される。一方、本実施形態では、空間コード化パターン401および403の投影・撮像・コード生成処理を省略し、空間コード化パターン406のみ投影する。それを撮像して得られた画像を2値化すると、2値化画像407が得られる。次にコード生成処理において、記憶装置に保持されたコード画像405と2値化画像407とを用いると、第2の距離データのコード画像408が生成される。このように、第1の距離データのコード画像を第2の距離データの生成時に再使用することで、第1の距離データを生成する際に投影した空間コード化パターン光の投影と撮像とコード生成処理とを省略できる。そのため、第2の距離データ生成の処理時間を短縮することができる。例えば、本実施形態において、1回の投影と撮像とコード生成処理につき合計で100(ms)かかる場合、第2の距離データの生成において全ての空間コード化パターンを投影した場合と比較して、100(ms)短縮できる。
(第3実施形態)
第1実施形態では、距離データ生成モジュール11が第1の距離データおよび第2の距離データの2種類の距離データを生成し、第2の距離データを位置姿勢認識モジュール14が用いた。本実施形態では、距離データ生成モジュール11がさらに第3の距離データを生成し、第3の距離データを用いてさらに画像処理を行う場合について説明を行う。なお、本実施形態においては第1実施形態における物体位置姿勢計測装置との相違点についてのみ説明を行い、その他の部分に関しては第1実施形態と同様として説明を省略する。
まず図5を参照して、本実施形態に係る物体位置姿勢計測装置の構成を説明する。図5において、距離画像処理モジュール22は、距離データ生成モジュール11と、距離情報抽出モジュール12と、距離データパラメータ決定モジュール13と、位置姿勢認識モジュール14と、位置姿勢補正モジュール21とを備える。位置姿勢補正モジュール21は、部品の3次元形状データと、位置姿勢認識モジュール14により生成される部品の位置姿勢と、距離データ生成モジュール11により生成される第3の距離データ(第3の距離画像)とを用いて部品の位置姿勢を補正する。
次に図6のフローチャートを参照して、本実施形態に係る物体位置姿勢計測装置の動作の流れを説明する。
ステップS201では、距離データ生成モジュール11は、第1実施形態のステップS101および102と同様、前処理が行われた後に第1の距離データを生成する。
ステップS202では、距離データ生成モジュール11は、第1実施形態のステップS102乃至105と同様、第2の距離データを生成する。
ステップS203では、部品の距離計測のための撮像が行われ、撮像装置17で撮像した画像が撮像モジュール15に転送され、距離データ生成モジュール11は第3の距離データを生成する。ここで、第3の距離データは、第2の距離データの面内方向の解像度以上の解像度を有する、もしくは奥行き方向の距離分解能以上の距離分解能を有するものとする。
ステップS204では、第1実施形態のステップS106と同様、位置姿勢認識モジュール14が、第2の距離データに基づいて部品の位置姿勢認識処理を行う。
ここで、ステップS203とステップS204との各処理は並列で動作する。そして、S203とステップS204との処理が両方終わった後に、ステップS205の処理が実行される。
ステップS205では、位置姿勢補正モジュール21は、位置姿勢認識モジュール14により生成される部品の位置姿勢を初期位置姿勢とし、部品の3次元データに対し、第3の距離データをあてはめることで部品の位置姿勢情報を算出・補正する。例えば、距離データを構成する各点について、部品の3次元データの中で最も近接する面上の点を求め、それらの3次元距離の二乗和が最小化されるように部品の位置姿勢を繰り返し修正することで、最終的に高精度な位置姿勢を求める。
以上が、本実施形態における物体位置姿勢計測装置の動作の流れである。
(第4実施形態)
なお、三次元距離計測の方法として、前述した手法を用いるものに限るわけではなく、その他の手法を用いることも可能である。例えば、光切断法を用いても良い。その場合、スリット光の走査ピッチが空間コード化パターンの線幅に対応する。
また、本実施形態では、距離データのパラメータとして、距離データの面内方向の解像度を定義したが、これは奥行き方向の距離分解能またはデジタル化した時の距離データ階調数として定義されても良い。すなわち、距離データパラメータ決定モジュール13が第2の距離データのパラメータを決定する際、距離データのパラメータに対する位置姿勢認識モジュール14の要求が奥行き方向の距離分解能であっても良い。また、距離データのパラメータとして距離データ生成時間を定義しても良い。その場合は、要求生成時間から、第1の距離データの生成と距離データパラメータの決定に要した時間とを差し引き、その中で撮像可能な最大枚数を求めて、第2の距離データを生成しても良い。例えば、1回の投影と撮像とコード生成処理につき合計で時間tだけかかる場合を考える。要求生成時間がT、第1の距離データの生成に要する撮像回数がN1、距離データパラメータの決定に要する時間がt’であるとき、第2の距離データの生成に用いることができる時間T’は、以下のように与えられる。
T’=T−(t×N1+t’)
よって、T’以内に撮像可能な回数(第2の距離データの生成に要する撮像回数)N2’は、以下のように与えられる。
N2’=T’÷t
すなわち、第2の距離データは、以下のように与えられる空間コード化パターンの枚数N2で生成される。
N2=N2’+N1
さらに、距離データのパラメータに対する位置姿勢認識モジュール14の要求が複数あっても良く、その場合は、全ての条件を満たすようにするか、もしくはいずれかの条件を優先してパラメータを決定しても良い。
また、本実施形態では、位置姿勢認識モジュール14は、第2の距離データから距離情報を抽出して処理領域を設定した上でテンプレートマッチングを行っている。しかしながら、位置姿勢認識モジュール14は、距離データを領域設定以外に用いても良く、例えば部品の位置姿勢がある程度想定されている状況ならばそれを初期姿勢とし、部品の3次元データと、第2の距離データとを用いて位置姿勢補正処理を行っても良い。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (11)

  1. 所定の面内方向の解像度または奥行き方向の距離分解能で被計測物体の第1の距離画像を生成する生成手段と、
    前記第1の距離画像が生成された後に前記生成手段により生成される第2の距離画像を使って前記被計測物体を計測する計測手段の要求に基づいて、前記第2の距離画像面内方向の解像度または奥行き方向の距離分解能であるパラメータを決定する決定手段と、を備え、
    前記生成手段は、前記第1の距離画像と前記決定手段により決定されたパラメータとに基づいて、前記第2の距離画像を生成することを特徴とする距離データ生成装置。
  2. 前記計測手段の要求は、該計測手段が要求する面内方向の解像度または奥行き方向の分解能であることを特徴とする請求項1に記載の距離データ生成装置。
  3. 前記生成手段は、前記第2の距離画像を生成した後に、前記第2の距離画像の面内方向の解像度よりも高い解像度を有する、もしくは奥行き方向の距離分解能よりも高い距離分解能を有する、第3の距離画像を生成することを特徴とする請求項1または2に記載の距離データ生成装置。
  4. 前記生成手段は、
    投影手段に、空間コードを生成するためのパターンを前記被計測物体に投影させ、撮像手段に、前記パターンが投影された前記被計測物体を撮像させ、
    記第1の距離画像と、前記決定されたパラメータとに基づいて、前記投影手段に、前記パターンを投影させる回数を決定し、該決定された回数分パターンを投影させることにより、前記第2の距離画像を生成することを特徴とする請求項2または3に記載の距離データ生成装置。
  5. 前記生成手段は、前記第1の距離画像を生成する際に生成される前記空間コード画像を再使用して、前記第2の距離画像を生成することを特徴とする請求項4に記載の距離データ生成装置。
  6. 前記生成手段は、前記第1の距離画像を生成する際に生成される前記空間コード画像と、前記第2の距離画像を生成する際に生成される空間コード画像とを再使用して、前記第3の距離画像を生成することを特徴とする請求項4または5に記載の距離データ生成装置。
  7. 請求項1乃至6の何れか1項に記載の距離データ生成装置と、
    前記生成手段により生成された前記第2の距離画像を用いて前記被計測物体の位置姿勢を計測する前記計測手段と、を備えることを特徴とする位置姿勢計測装置。
  8. 前記第2の距離画像から所定の距離データを含む領域を設定する設定手段をさらに備え、
    前記計測手段は、前記領域に基づいて前記被計測物体の位置姿勢を計測することを特徴とする請求項7に記載の位置姿勢計測装置。
  9. 前記被計測物体の3次元形状データと、前記第2の距離画像の面内方向の解像度よりも高い解像度を有する、もしくは奥行き方向の距離分解能よりも高い距離分解能を有する第3の距離画像とに基づいて、前記計測手段により計測された前記被計測物体の位置姿勢を補正する補正手段をさらに備えることを特徴とする請求項7または8に記載の位置姿勢計測装置。
  10. 生成手段と決定手段とを備える距離データ生成装置の制御方法であって、
    前記生成手段が、所定の面内方向の解像度または奥行き方向の距離分解能を有する、被計測物体の第1の距離画像を生成する生成工程と、
    前記決定手段が、前記第1の距離画像が生成された後に前記生成工程により生成される第2の距離画像を使って前記被計測物体を計測する計測手段の要求に基づいて、前記第2の距離画像面内方向の解像度または奥行き方向の距離分解能であるパラメータを決定する決定工程と、を備え、
    前記生成工程では、前記第1の距離画像と前記決定工程により決定されたパラメータとに基づいて、前記第2の距離画像を生成することを特徴とする距離データ生成装置の制御方法。
  11. コンピュータを、請求項1乃至6のいずれか1項に記載の距離データ生成装置の各手段として機能させるためのプログラム。
JP2010279867A 2010-12-15 2010-12-15 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム Active JP5798318B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010279867A JP5798318B2 (ja) 2010-12-15 2010-12-15 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム
US13/310,995 US8761440B2 (en) 2010-12-15 2011-12-05 Range image generation apparatus, position and orientation measurement apparatus, range image processing apparatus, method of controlling range image generation apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010279867A JP5798318B2 (ja) 2010-12-15 2010-12-15 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2012127819A JP2012127819A (ja) 2012-07-05
JP5798318B2 true JP5798318B2 (ja) 2015-10-21

Family

ID=46234477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010279867A Active JP5798318B2 (ja) 2010-12-15 2010-12-15 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム

Country Status (2)

Country Link
US (1) US8761440B2 (ja)
JP (1) JP5798318B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5812599B2 (ja) * 2010-02-25 2015-11-17 キヤノン株式会社 情報処理方法及びその装置
JP5743499B2 (ja) 2010-11-10 2015-07-01 キヤノン株式会社 画像生成装置、画像生成方法、およびプログラム
TWI546518B (zh) * 2012-04-20 2016-08-21 德律科技股份有限公司 三維量測系統與三維量測方法
EP2869263A1 (en) * 2013-10-29 2015-05-06 Thomson Licensing Method and apparatus for generating depth map of a scene
JP2015114292A (ja) * 2013-12-16 2015-06-22 川崎重工業株式会社 ワークの位置情報特定装置および方法
JP6649796B2 (ja) * 2016-02-23 2020-02-19 村田機械株式会社 物体状態特定方法、物体状態特定装置、および、搬送車
JP6721998B2 (ja) * 2016-02-23 2020-07-15 村田機械株式会社 物体状態特定方法、物体状態特定装置、および、搬送車
JP6161775B2 (ja) * 2016-09-06 2017-07-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
CN106803050B (zh) * 2016-12-09 2019-10-18 北京农业信息技术研究中心 一种条形码读取装置及其使用方法
JP6897787B2 (ja) * 2017-10-03 2021-07-07 富士通株式会社 姿勢認識システム、画像補正プログラムおよび画像補正方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4402608A (en) * 1980-10-02 1983-09-06 Solid Photography Inc. Room scanning system using multiple camera and projector sensors
JPS6091760A (ja) 1983-10-26 1985-05-23 Canon Inc 画像記録装置
US4866536A (en) 1983-10-26 1989-09-12 Canon Kabushiki Kaisha Image recording apparatus
US4653104A (en) * 1984-09-24 1987-03-24 Westinghouse Electric Corp. Optical three-dimensional digital data acquisition system
JP2984311B2 (ja) 1990-04-04 1999-11-29 キヤノン株式会社 静止画像再生装置
JP3028016B2 (ja) * 1993-02-26 2000-04-04 村田機械株式会社 積荷の三次元画像計測方法
JP3869876B2 (ja) 1995-12-19 2007-01-17 キヤノン株式会社 画像計測方法及び画像計測装置
JP2000148718A (ja) 1998-11-16 2000-05-30 Canon Inc 情報処理方法、情報処理装置、情報処理システム、マルチメディア・プレゼンテーション・システム、ファイル更新方法、マルチメディア・プレゼンテーション方法、及び記憶媒体
JP2002022425A (ja) * 2000-07-12 2002-01-23 Asahi Optical Co Ltd 3次元画像入力装置
US7007002B2 (en) 2001-05-31 2006-02-28 Canon Kabushiki Kaisha Signal processing circuit involving local synchronous behavior
JP3892838B2 (ja) * 2003-10-16 2007-03-14 ファナック株式会社 3次元測定装置
JP4383840B2 (ja) * 2003-12-11 2009-12-16 浜松ホトニクス株式会社 3次元形状計測装置
JP4809134B2 (ja) * 2006-06-05 2011-11-09 株式会社トプコン 画像処理装置及びその処理方法
JP5029618B2 (ja) * 2006-12-25 2012-09-19 日本電気株式会社 パターン投影法による3次元形状計測装置、方法およびプログラム
DE102008015499C5 (de) * 2008-03-25 2013-01-10 Steinbichler Optotechnik Gmbh Verfahren und Vorrichtung zur Bestimmung der 3D-Koordinaten eines Objekts
JP5743499B2 (ja) 2010-11-10 2015-07-01 キヤノン株式会社 画像生成装置、画像生成方法、およびプログラム

Also Published As

Publication number Publication date
US8761440B2 (en) 2014-06-24
US20120155706A1 (en) 2012-06-21
JP2012127819A (ja) 2012-07-05

Similar Documents

Publication Publication Date Title
JP5798318B2 (ja) 距離データ生成装置、位置姿勢計測装置、距離データ生成装置の制御方法およびプログラム
JP6548422B2 (ja) 情報処理装置、情報処理方法、プログラム
JP5041458B2 (ja) 三次元物体を検出する装置
JP5854715B2 (ja) 画像情報処理装置及びその制御方法
KR101461068B1 (ko) 삼차원 계측장치, 삼차원 계측방법 및 기억매체
WO2013008804A1 (ja) 計測装置および情報処理装置
US20150134303A1 (en) Three-dimensional scanning system and method with hole-filling function for point cloud using contact probe
JP2012103239A (ja) 三次元計測装置、三次元計測方法及びプログラム
KR20110116325A (ko) 영상 처리 장치 및 그 방법
CN108830907B (zh) 基于单目系统的投影标定方法及系统
JP2016091053A (ja) 情報処理装置および容器形状の推定方法、ワークピッキングシステム、プログラム
CN111480342B (zh) 编码装置、编码方法、解码装置、解码方法和存储介质
JP5822463B2 (ja) 三次元計測装置、三次元計測方法、およびプログラム
JP2011237296A (ja) 3次元形状計測方法、3次元形状計測装置、及びプログラム
US20180315205A1 (en) Data processing apparatus and method of controlling same
JP2010152521A (ja) 画像立体化処理装置及び方法
US10818030B2 (en) Three-dimensional measurement apparatus and three-dimensional measurement method
US9752870B2 (en) Information processing apparatus, control method thereof and storage medium
JP2006301962A (ja) 画像処理方法及び画像処理装置
KR20150003573A (ko) 영상 패턴 검출 방법 및 그 장치
CN106780474B (zh) 一种基于Kinect的实时深度图与彩图的配准及优化方法
JP2011133258A (ja) 3次元形状計測方法及び3次元形状計測装置
KR101272573B1 (ko) 구조광 패턴 기반의 깊이 정보 추정 장치 및 방법
JP5968370B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP2006058092A (ja) 3次元形状測定装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131211

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150821

R151 Written notification of patent or utility model registration

Ref document number: 5798318

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151