JP2012194061A - 三次元距離計測装置、三次元距離計測方法、およびプログラム - Google Patents

三次元距離計測装置、三次元距離計測方法、およびプログラム Download PDF

Info

Publication number
JP2012194061A
JP2012194061A JP2011058298A JP2011058298A JP2012194061A JP 2012194061 A JP2012194061 A JP 2012194061A JP 2011058298 A JP2011058298 A JP 2011058298A JP 2011058298 A JP2011058298 A JP 2011058298A JP 2012194061 A JP2012194061 A JP 2012194061A
Authority
JP
Japan
Prior art keywords
pattern
local
measurement
distance information
dimensional distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011058298A
Other languages
English (en)
Other versions
JP5746529B2 (ja
Inventor
Osamu Nomura
修 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011058298A priority Critical patent/JP5746529B2/ja
Priority to US13/412,738 priority patent/US9098909B2/en
Publication of JP2012194061A publication Critical patent/JP2012194061A/ja
Application granted granted Critical
Publication of JP5746529B2 publication Critical patent/JP5746529B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/026Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】距離計測対象領域を複数の局所領域に分割して並列処理を行う場合には、距離計測点の空間分解能に対応した各局所領域の演算処理量の均一化も考慮されていないため、並列処理化による処理時間の短縮効果が損なわれる。
【解決手段】パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出部と、パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定部と、を有し、局所パターン設定部は、距離情報算出部の演算量に関する情報に基づき、パターン光の計測点の空間分解能を設定する。
【選択図】 図1

Description

本発明は、三次元距離計測装置、三次元距離計測方法、およびプログラムに関する。
パターン投影による三次元距離計測において、距離計測点に対応する投影パターンの空間分解能を領域ごとに異なるものとする三次元距離計測方法としては、特許文献1がある。
特許文献1に記載の三次元距離計測方法は、識別情報を埋め込んだ計測線(距離計測点)を有する投影パターンにおいて、計測線間の距離パターンとして2種類の距離を取り得るものとしている。
また、非特許文献1では、異なる基準線の特徴パターン用いた三次元距離計測手法が開示されている。非特許文献2では、二次元画像上で検出される特徴点やエッジなどの画像特徴を用いた位置姿勢計測手法が開示されている。非特許文献3では、事前に保持しているモデル情報を用いて、二次元画像へのモデルフィッティングを行うことにより、計測対象物の位置姿勢を認識する手法が開示されている。非特許文献4では、コード情報が埋め込まれた複数枚の投影パターンを計測対象物に投影し、複数枚の撮像画像よりコード情報をデコードして、計測対象物の三次元距離情報を算出する手法が開示されている。
特開2008‐276743号公報
Thomas P. Koninckx, Andreas Griesser and Luc Van Gool, "Real-time Range Scanning of Deformable Surfaces by Adaptively Coded Structured Light", 3DIM 2003. Proceedings. Fourth International Conference, 293 - 300. V. Lepetit and P. Fua, "Keypoint recognition using randomized trees," IEEE Transactions on Pattern Analysis and Machine Intelligence, vol.28, no.9, 2006. D. G. Lowe, "Fitting parameterized three-dimensional models to images," IEEE Transactions on Pattern Analysis and Machine Intelligence, vol.13, no.5, pp.441-450, 1991. 井口 征士, 佐藤 宏介, "三次元画像計測", 昭晃堂, 1990.
従来の三次元距離計測方法においては、計測線の空間分解能パターンは、2種類かつ計測線に直交する方向のみに限定されるため、任意領域ごとに距離計測点の空間分解能を設定することができないという課題がある。また、距離計測対象領域を複数の局所領域に分割して並列処理を行う場合には、距離計測点の空間分解能に対応した各局所領域の演算処理量の均一化も考慮されていないため、並列処理化による処理時間の短縮効果が損なわれるという課題がある。
上記の課題に鑑み、本発明は、三次元距離情報の空間分解能を局所領域ごとに設定し、効率的な並列処理を実行することを目的とする。
上記の目的を達成する本発明に係る三次元距離計測装置は、
パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
前記局所パターン設定手段は、前記距離情報算出手段の演算量に関する情報に基づき、前記パターン光の計測点の空間分解能を設定することを特徴とする。
本発明によれば、三次元距離情報の空間分解能を局所領域ごとに設定し、効率的な並列処理を実行することが可能となる。
(a)第1実施形態に係る三次元距離計測装置の構成図、(b)第1実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成を説明する図。 第1実施形態に係る処理の手順を示すフローチャート。 第1実施形態に係る投影パターン例を示す図。 第1実施形態に係る撮像画像例を示す図。 第1実施形態に係る撮像画像例を示す図。 第1実施形態に係る投影パターン例を示す図。 第1実施形態に係る撮像パターン例を示す図。 第2実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成を説明する図。 第2実施形態に係る処理の手順を示すフローチャート。 第2実施形態に係る撮像画像例を示す図。 第3実施形態に係る処理の手順を示すフローチャート。 第3実施形態に係る撮像画像例を示す図。 第4実施形態に係る処理の手順を示すフローチャート。 第4実施形態に係る撮像画像例を示す図。 第5実施形態に係る撮像パターン例を示す図。
(第1実施形態)
以下、図面を参照して本発明の第1実施形態を説明する。本実施形態は、計測対象物にパターン光を投影(投光)して撮像した画像に基づいて、計測対象物の三次元距離情報を計測する三次元距離計測装置の例を説明する。
図1(a)に示されるように、本実施形態に係る三次元距離計測装置は、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。ここで、プロジェクタ1は、コンピュータ3により設定されたパターンデータに基づくパターン光(以下、「投影パターン」とも称する)を計測対象物4に投影する。投影パターンは、パターンデータに基づく投影光であり、本実施形態においては基準線パターンと、複数の計測点から構成される計測線パターンとが含まれる。計測線パターンは、計測対象物4の三次元距離情報を計測するためのマルチスリット光として機能する。
カメラ2は、投影パターンが投影された状態の計測対象物4を撮像し、撮像した画像をコンピュータ3へ送信する機能を有する。コンピュータ3は、後述の各処理部を有し、それぞれの処理部に対応する処理を実行する。本実施形態における計測対象物4は、例えば図1に示すように立方体形状であり、表面に窪み5を有しているものとする。
なお、本実施形態におけるコンピュータ3は、複数の演算処理を並列に実行することが可能な、複数のプロセッサユニットから構成される並列プロセッサを有し、上述した各機能は一般にソフトウェアまたは専用の演算処理回路により実現される。
図1(b)を参照して、第1実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成を説明する。コンピュータ3は、投影パターン設定処理部101と、投影パターン生成/投影処理部102と、撮像処理部103と、距離情報算出部104と、を備える。コンピュータ3のプロセッサユニットが、これらの構成要素を制御する。
投影パターン設定処理部101は、プロジェクタ1により計測対象物4へ投影される投影パターンを設定可能である(局所パターン設定処理)。投影パターン生成/投影処理部102は、投影パターン設定処理部101により設定された投影パターンを生成し(パターン光生成処理)、プロジェクタ1を制御して当該投影パターンを計測対象物4へ投影する。撮像処理部103は、投影パターン生成/投影処理部102により生成された投影パターンが投影された計測対象物4を、カメラ2を制御して撮像する。また、撮像された画像を距離情報算出部104へ送信する。距離情報算出部104は、撮像処理部103から受信した撮像画像に対して画像処理を実行して、撮像画像中のパターン光を抽出する。また、撮像画像中のパターン光(以下、「撮像パターン」とも称する)と、投影パターンとの対応を取ることにより、カメラ2から計測対象物4までの距離情報、すなわち計測対象物4の三次元距離情報を算出する。
続いて、図2のフローチャートを参照して、本実施形態における三次元距離計測装置の処理の手順を説明する。
本実施形態における三次元距離計測装置の処理は、図2において点線枠で囲まれた初期三次元距離計測処理(S201乃至S204)と、同じく点線枠で囲まれた詳細三次元距離計測処理(S205乃至S208)とを備える。初期三次元距離計測処理では、計測対象物4の初期状態における三次元距離情報が取得される。初期状態とは、計測対象物4の三次元距離情報が不明の状態であるが、実際の計測処理においては、初期状態はこれに限定されず、ユーザの必要に応じて適宜初期三次元距離計測処理を実行してもよい。一方、詳細三次元距離計測処理では、初期三次元距離計測処理により算出された初期状態における三次元距離情報に基づいて、計測対象物4の詳細な三次元距離情報が取得される。
S201において、投影パターン設定処理部101は、プロジェクタ1により計測対象物4へ投影される投影パターンを設定する。ここで設定される投影パターンは、後述する距離情報算出処理により計測対象物4の三次元距離情報を算出するために使用される。
ここで、図3(a)を参照して、投影パターン設定処理部101により設定される投影パターンの例を説明する。図3(a)に示される投影パターンは、縦方向に構成される基準線パターン301と、横方向に構成される計測線パターン302とから構成される。図3(a)では、一本の基準線パターンのみが符号301により指し示されている。同様に、一本の計測線パターンのみが符号302により指し示されている。ここで基準線パターン301には、一例として縦方向に構成された線分上に、投影パターンと撮像パターンとの対応を取るための特徴パターンとして、バーコードパターンが付加されている。図3(b)は、バーコードパターン303の拡大図である。なお、この特徴パターンは、バーコードパターン303に限定されず、投影パターンと撮像パターンとの対応を取ることが可能なパターンであれば、その他のパターンであってもよい。例えば、図3(c)は、その他のパターンとして円形の形状パターン304を示す。基準線パターン301上に図3(c)に示される形状パターン304を付加し、これらの形状パターン列をコード化して対応を取る構成にすることも可能である。また、基準線パターン301が部分ごとに複数の色を有することにより、特徴パターンとしてもよい。なお、以降では、特に明示されない限り、煩雑化を防ぐために基準線パターン上の特徴パターンの描写を省略する。
一方、計測線パターン302は、計測対象物4の三次元距離情報を計測するためのマルチスリット光として機能する。三次元距離情報は撮像パターン中の計測線パターン302上の点において算出される。計測線パターン302上の点は、撮像画像中の計測線パターン302上の画素に相当する。従って、後述するように、三次元距離情報を算出するために必要とされる演算量は、撮像パターン中における計測線パターン302上の画素数に比例する。本実施形態においては、計測対象物4の初期状態の三次元距離情報が不明である状態を想定しているため、初期三次元距離計測処理においては、投影パターンを構成する計測線パターン302を構成する計測点の空間分解能はパターン全面で均一に設定されている。
S202において、投影パターン生成/投影処理部102は、S201において投影パターン設定処理部101により設定された投影パターンを生成し、プロジェクタ1を制御して当該投影パターンを計測対象物4へ投影する。
S203において、撮像処理部103は、カメラ2を制御して、投影パターン生成/投影処理部102により生成された投影パターンが投影された計測対象物4を撮像する。また、撮像された画像を距離情報算出部104へ送信する。図4(a)は、カメラ2により撮像された画像の例である。S204において、距離情報算出部104は、撮像処理部103から受信した撮像画像に対して画像処理を実行して、撮像画像中のパターン光を抽出する。また、撮像パターンと、投影パターンとの対応を取ることにより、カメラ2から計測対象物4までの距離情報、すなわち計測対象物4の三次元距離情報を算出する。ここで、本実施形態における距離情報算出部104を備えるコンピュータ3は、複数の演算処理を並列に実行することが可能な、複数のプロセッサユニットから構成される並列プロセッサを有する。そこで、距離情報算出部104は、図4(b)において点線で区切られた領域により示されるように、撮像画像を複数の局所領域に分割し、複数のプロセッサユニットが局所領域ごとの距離情報算出演算を並列に実行する。図4(c)は、局所領域ごとの距離情報算出演算と、プロセッサユニットとの対応付けの概念図である。図4(c)は、並列プロセッサが4個のプロセッサユニット401乃至プロセッサユニット404を有しており、撮像画像が16個の局所領域に分割されている場合を示す。なお、撮像画像中の局所領域のサイズは、同一サイズとしている。この場合、1個のプロセッサユニットは計4個の局所領域に対する距離情報算出演算を連続的に実行することになる。なお、図4(c)に示されるケースは、本実施形態における並列処理の概念を例示的に説明するものであり、プロセッサユニットの個数、局所領域の分割数、およびサイズの組み合わせは、図4(c)に示されるケースに限定されない。撮像画像中の各局所領域における距離情報算出演算は、それぞれを独立な演算処理であるとみなすことができる。そのため、複数のプロセッサユニットは、以下で説明する距離情報算出演算を独立して実行することが可能である。
続いて、各プロセッサユニットにより実行される局所領域ごとの距離情報算出演算について説明する。本実施形態における距離情報算出演算は、撮像された画像から撮像パターンを検出し、撮像パターン中の基準線パターン301の特徴パターンに基づいて、撮像パターンが投影パターンのどの位置に対応するかを判別することにより行われる。距離情報算出部104は、撮像パターンと投影パターンとの対応付けを行った後、撮像パターン中の計測線パターン302に基づいて、計測対象物4の三次元距離情報を算出することが可能となる。本実施形態では、撮像画像中の各局所領域に対して実行する三次元距離計測手法として、特許文献1や非特許文献1等で説明される手法や、その他の既存のパターン光投影を用いる三次元距離計測手法が使用可能である。従って、手法の種類を問わないため、詳細な説明は省略する。結果として、S204において、距離情報算出部104は、撮像画像中の計測線パターン302上の画素位置における、カメラ2から計測対象物4への奥行き方向の三次元距離情報を取得することができる。
続いて、詳細三次元距離計測処理について説明する。S205において、投影パターン設定処理部101は、初期三次元距離計測処理で算出された三次元距離情報に基づいて、プロジェクタ1により計測対象物4へ投影される投影パターンを設定する。また、および撮像画像中の局所領域の分割を設定する。まず、投影パターンの設定について説明する。例えば、初期三次元距離計測処理における撮像画像が図4(a)に示されるような画像である場合を考える。撮像パターン中の計測線パターン302は、測定対象物4の表面上で奥行き方向の距離変動が大きい部分(例えば計測対象物4の側面部)で空間分解能が相対的に粗くなり、距離変動が小さい部分(例えば計測対象物4の正面部)で空間分解能が相対的に密になる。奥行き方向の距離変動が大きい部分とは、距離値のばらつき範囲が所定値よりも大きい領域である。一方、奥行き方向の距離変動が小さい部分とは、距離値のばらつき範囲が所定値以下となる領域である。
前述したように三次元距離情報は撮像画像中の計測線パターン302上の画素位置において得られるため、結果として奥行き方向の距離変動が大きい部分に関しては、疎な三次元距離情報しか得られないことになってしまう。さらに、例えば図4(a)に示されるように、疎な三次元距離情報しか得られない計測対象物4の側面部の領域に、より密な三次元距離情報を必要とする部位(本実施形態では窪み5)が含まれる場合は、得られる三次元距離情報は正確性に欠ける結果となる。
そこで本実施形態では、投影パターン設定処理部101は、例えば初期三次元距離計測処理により算出された三次元距離情報に基づいて、疎な三次元距離情報が得られた領域へ投影される投影パターン中の計測線パターン302の空間分解能を密に設定する。すなわち、疎な三次元距離情報が得られた領域に対する空間分解能を、密な三次元距離情報が得られた領域に対する空間分解能よりも、相対的に密に設定する。図5(a)は、計測線パターン302の一部の空間分解能を密に設定した投影パターン、即ち計測線パターン302のピッチを局所的に小さく設定した投影パターンを計測対象物4へ投影した時の撮像画像の例を示す。なお、以上の説明では、疎な三次元距離情報が得られた領域へ投影される投影パターン中の計測線パターン302の空間分解能を密に設定する場合について説明を行った。しかしながら、他の方法として密な三次元距離情報が得られた領域へ投影される投影パターン中の計測線パターン302の空間分解能を粗く設定してもよい。もしくは両者を組み合わせたものであってもよい。
次に、投影パターン設定処理部101による撮像画像中の局所領域の分割設定について説明する。前述したように、投影パターン中の計測線パターン302の一部の空間分解能を密に設定した場合に、後述する距離情報算出処理において初期三次元距離計測処理と同様に並列プロセッサを用いて撮像画像の局所領域ごとに並列処理を実行する場合を考える。その場合、計測線パターン302上の画素数で決定される局所領域ごとの演算量は、撮像画像の局所領域サイズが同一である場合には不均一になってしまう。例えば、図5(b)に示されるように、撮像画像中の局所領域501に対応する計測線パターン302の空間分解能をその他の局所領域の3倍とした場合、局所領域501における距離情報算出処理に必要な演算量は、その他の局所領域の約3倍となる。なお図5(b)に示される例では、撮像画像の周辺領域に位置する局所領域内に含まれる計測線パターン302が若干少ないため、局所領域501を除くその他の局所領域の距離情報算出処理に必要な演算量は完全には一致しない。しかし、後述する演算量の概均一化の説明例としては本質を損なわないため、以降ではほぼ演算量が等しいものとして説明を行う。
ここで、後述する距離情報算出処理を並列処理プロセッサにより実行する場合、局所領域501に対する演算時間がその他の局所領域に対する演算時間の約3倍となる。本実施形態における並列処理プロセッサは、4個のプロセッサユニットにより構成されるが、局所領域に対する距離情報算出処理を並列に実行する場合、並列プロセッサの演算時間は、より長い演算時間に律速されてしまう。前述した例の場合、局所領域501に対する演算時間を3tとし、その他の演算領域に対する演算時間をtとすると、4個のプロセッサユニットによる並列処理演算に要する時間Tは以下の式(1)により表される。
Figure 2012194061
式(1)では、局所領域501に対する距離情報算出処理を含む4個のプロセッサユニットによる4並列処理の演算時間は局所領域501に対する演算時間により決定されるため3tとなり、それ以外の局所領域に対する4並列処理の演算時間はtとなっている。
一方、局所領域ごとに演算量が概均一化するように、局所領域501を図5(c)に示されるように局所領域502乃至504の3つの領域に分割し、ほぼ同一の演算量を要する計18個の局所領域として並列処理を実行する。その場合、4個のプロセッサユニットによる並列処理時間は以下の式(2)により表される。
Figure 2012194061
局所領域ごとの演算量を概均一化するために局所領域数が16個から18個へ増加するものの、プロセッサユニットごとの演算量が概均一化されたため、4並列の演算を5回繰り返しても、効率的に並列処理を実行することが可能となる。なお、5回のうち最後の1回は2並列となる。従って、結果としてトータルの並列処理時間を低減することが可能となる。
以上本実施形態では、投影パターン設定処理部101は初期三次元距離計測処理で算出された三次元距離情報に基づいて、撮像パターン中の局所領域501の計測線パターン302の空間分解能がその他の領域の空間分解能の3倍となる投影パターンを設定する。また同時に、局所領域501に対して、後述する距離情報算出処理において各プロセッサユニットが演算対象とする局所領域サイズが、その他の局所領域の1/3となるように局所領域501を3個の局所領域502乃至504に分割する。
なお、図5(c)に示される撮像画像の例では、投影パターンは、例えば図6に示されるように、投影に伴う変形を考慮した形状に設定される。初期三次元距離計測処理結果から、撮像パターンと投影パターンとの対応が明らかになっているため、投影に伴う変更を考慮して投影パターンの形状を設定することは容易である。なお、領域は必ずしも矩形に分割する必要は無く、その他の任意の形状に分割することも可能である。
続いて、S206において、投影パターン生成/投影処理部102は、S205において投影パターン設定処理部101により設定された投影パターンを生成し、プロジェクタ1を制御して当該投影パターンを計測対象物4へ投影する。
S207において、撮像処理部103は、カメラ2を制御して、投影パターン生成/投影処理部102により生成された投影パターンが投影された計測対象物4を撮像する。また、撮像された画像を距離情報算出部104へ送信する。
S208において、距離情報算出部104は、撮像処理部103から受信した撮像画像に対して画像処理を実行して、撮像画像中のパターン光を抽出する。また、撮像パターンと、投影パターンとの対応を取ることにより、カメラ2から計測対象物4までの距離情報、すなわち計測対象物4の三次元距離情報を算出する。その際、投影パターン設定処理部101により設定された分割領域ごとに、並列処理プロセッサにより距離情報算出演算が実行される。局所領域サイズおよび撮像パターン中の計測線パターンの分解能は、局所領域ごとに演算量が概均一化するように設定されているため、並列処理プロセッサにおいて実行される並列処理が効率的に実行される。以上で図2のフローチャートの処理が終了する。
なお本発明における概均一化とは、並列処理の目標処理時間を満たす程度に演算量のばらつきを抑えることを意味する。例えば式(1)および式(2)を用いて説明した例は、目標処理時間を5tとし、これを満たすために局所領域ごとの処理時間がtとなるように演算量のばらつきを抑えた場合の例である。結果として、局所領域ごとの演算量が概均一化されることにより、概均一化を考慮しない場合に比べて演算処理時間が短縮されるという効果がある。
S208の処理が完了した後は、必要に応じて図2で説明した詳細三次元距離計測処理を繰り返すことが可能である。この場合は、前回実行した詳細三次元距離計測処理結果に基づいて、次回の詳細三次元距離計測処理で用いる投影パターンを設定すればよい。
なお、本実施形態で示した並列プロセッサを構成するプロセッサユニット数、計測線パターンの空間分解能および局所領域サイズは、説明を簡略化するための一例に過ぎず、その他の構成であってもよい。例えば、初期三次元距離計測処理で算出された三次元距離情報の変動が大きい領域の近傍に、計測線パターンの空間分解能が密な領域を設定してもよい。そして、さらに空間分解能値と局所領域内に含まれる計測線パターンの画素数との比が、全ての局所領域で概均一化するように局所領域サイズを設定して、投影パターンを設定してもよい。
また、並列プロセッサにおける演算量が概均一化するような計測線パターンの空間分解能および局所領域サイズの組み合わせを事前に算出しておき、これをコンピュータ3が有する記憶装置に参照テーブルとして保持してもよい。これは、演算量参照手段として機能する。その場合投影パターン設定処理部101が参照テーブルを参照することにより、投影パターンの設定をより容易に実行することができる。その他、並列プロセッサにおける演算量が概均一化するように、投影パターンにおける計測線パターンの空間分解能および局所領域サイズを設定するものであれば、いかなる手法を用いてもよい。参照テーブルは、パターン光のそれぞれの局所領域に含まれる計測点の数、および局所領域のサイズ及び位置と、演算量との対応情報を保持してもよい。
なお、本実施形態で説明した並列プロセッサとしては、専用に開発した並列プロセッサを用いてもよいし、または市販の並列プロセッサを使用してもよい。または、両者を組み合わせたものでもよい。市販のプロセッサの例としては、例えば市販のPCに搭載されているマルチコアプロセッサ、GPU、及びDSP等が挙げられる。並列プロセッサは、並列に演算を実行することが可能なものであれば、その種類を問わない。
本実施形態では、基準線パターンがバーコードで対応付けられる場合について説明した。しかし、基準線パターン上の複数の特徴パターンの組み合わせによって基準線パターンを対応付ける場合は、局所領域の一部分を隣接する局所領域と重ねて設定してもよい。例えば、これまで説明したバーコードによる対応付けでは、バーコード1個ごとに投影パターンと撮像パターンとの対応付けを行うことを想定している。しかし、これ以外にも複数バーコードの配置の組み合わせ(例えば、横方向に隣接する3個のバーコード)によって投影パターンと撮像パターンとの対応付けを行う手法が考えられる。この場合、特徴パターンのバリエーションが、1個のバーコードが有する情報量と複数バーコードの配置による情報量との組み合わせとなるため、1個のバーコードが有する情報量を減らすことができる。この際には、バーコードの配置の組み合わせが、隣接する局所領域のいずれかに漏れなく含まれるように、局所領域の一部分を重ねて設定する。横方向に隣接する3個のバーコードの配置により特徴パターンを定義する場合は、隣接する局所領域の重なり部分を、横方向に隣接する2個以上のバーコードが含まれる様に設定する。例えば、図7に拡大して示されるように、隣接する、局所領域701と局所領域702乃至704に対して、両方の局所領域に重なる部分705の幅を横方向に隣接する2個のバーコードが含まれるように設定する。なお、局所領域701は、図7中の点線で囲まれた領域である。局所領域702乃至704は、図7中の一点鎖線で囲まれた3個の領域である。部分705は、図7において、角が面取りされた実線の四角形で囲んだ部分である。
ここで、局所領域701および局所領域702乃至704において、計測線パターン(図7中の実線(横線)で描写された線分)に関して、それぞれ異なる空間分解能が設定されていることが考えられる。この場合は、両方の局所領域に重なる部分705に関しては、計測線パターンの空間分解能が密のパターンを設定する。そして、局所領域701の演算を実行する場合には、三次元距離情報の算出対象とする重なり部分705の計測線パターンを間引いて、重なり部分以外の空間分解能に合わせて演算を実行する。例えば、図7では、局所領域701に関しては、重なり部分705の計測線パターンを3本中1本のみ選択してサンプリングすることにより、重なり部分705以外の計測線パターンに繋がる計測線のみを三次元距離情報の算出対象とすることが可能となる。
また、それ以外の手法として、局所領域701において重なり部分705のみで空間分解能が密な計測線パターンに対して距離情報を算出してもよい。この場合は、一部密な計測線パターンを有する領域として、局所領域701の演算量を見積もることができる。なお、この場合は、局所領域701において、一部密な計測線パターンを演算対象とすることを加味して、全ての局所領域における三次元距離情報の算出演算量を概均一化すればよい。
また、投影パターン設定処理部101の機能や、距離情報算出部104の機能は、カメラ2に内蔵されるように構成されてもよい。
以上説明したように、本実施形態によれば、算出する三次元距離情報の空間分解能を局所領域ごとに適応的に設定することにより、効率的な並列処理を実行することが可能となる。
(第2実施形態)
以下、図面を参照して本発明の第2実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
図8を参照して、第2実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成を説明する。コンピュータ3は、投影パターン設定処理部801と、投影パターン生成/投影処理部802と、撮像処理部803と、距離情報算出部804と、認識処理部805と、モデルフィッティング処理部806と、モデル記憶部807と、を備える。投影パターン設定処理部801乃至距離情報算出部804の各処理部は、図1(b)を参照して説明した投影パターン設定処理部101乃至距離情報算出部104の各処理部と同様である。
ただし、本実施形態に係る三次元距離計測装置では、投影パターン設定処理部801が、事前に認識した測定対象物4の概略位置姿勢情報と測定対象物4のモデル情報とに基づいて、投影パターンを設定する点が第1実施形態と異なっている。
認識処理部805は、撮像画像中より計測対象物4を検出し、同時に計測対象物4の概略位置姿勢を算出する。モデルフィッティング処理部806は、認識処理部805により算出された概略位置姿勢を初期値として、事前に保持しているモデル情報を用いて、二次元画像へのモデルフィッティングを行うことにより、計測対象物4の位置姿勢を認識する。このように、第2実施形態は、撮像画像に対して認識処理を実行し、計測対象物4のモデル情報に基づいて計測対象物4の位置姿勢認識機能を実現する点が第1実施形態とは異なっている。モデル記憶部807は、計測対象物4の形状データと、計測対象物4の表面上で、後述する詳細三次元距離計測処理で算出すべき、局所領域ごとの三次元距離情報の空間分解能に関する情報とを含むモデル情報を記憶する。
続いて、図9のフローチャートを参照して、本実施形態における三次元距離計測装置の処理の手順を説明する。
本実施形態における三次元距離計測装置の処理は、図9において点線枠で囲まれた位置姿勢認識処理(S901乃至S903)と、同じく点線枠で囲まれた詳細三次元距離計測処理(S904乃至S907)とを備える。
位置姿勢認識処理では、計測対象物4の初期状態における概略位置姿勢を取得し、事前に保持している計測対象物4のモデル情報との対応を取る。モデル情報は、計測対象物4の形状データと、後述する詳細三次元距離計測処理により算出すべき計測対象物4の表面上における三次元距離情報の空間分解能に関する情報とを含む。モデル情報は、計測対象物4の形状データと、表面光学特性(反射率、透過率、内部散乱率など)とから構成されてもよい。あるいは、形状データのみから構成されてもよい。一方、詳細三次元距離計測処理では、位置姿勢認識処理により算出された計測対象物4の位置姿勢認識情報と、事前に保持している計測対象物4のモデル情報とに基づいて、計測対象物4の詳細な三次元距離情報が取得される。
まず、S901において、撮像処理部803は、カメラ2を制御して計測対象物4を撮像する。また、撮像された画像を認識処理部805へ送信する。ここで、撮像時の照明としては均一照明を想定しており、これを投影する照明装置は本実施形態における三次元計測装置に含まれていないが、図1に示したプロジェクタ1から均一照明を投影してもよい。
続いて、S902において、認識処理部805は、撮像画像中から計測対象物4を検出し、同時に計測対象物4の概略位置姿勢(概位置姿勢)を算出する。ここで、撮像画像から物体の概略位置姿勢を計測する手法としては、認識処理を用いた位置姿勢計測手法が多数提案されている。本実施形態では、例えば非特許文献2に開示された手法を用いることを想定しているが、これに限定されない。
続いて、S903において、モデルフィッティング処理部806は、認識処理部805により算出された概略位置姿勢を初期値として、事前に保持しているモデル情報を用いて、二次元画像へのモデルフィッティングを行う。これにより、計測対象物4の位置姿勢を認識することができる。本実施形態では、例えば非特許文献3に開示された手法を用いることを想定しているが、これに限定されない。
以上説明した位置姿勢認識処理により、計測対象物4の位置姿勢を認識し、事前に保持している計測対象物4のモデル情報との対応を取ることが可能となる。なお、位置姿勢認識処理としては、撮像画像に基づいて、計測対象物4と事前に保持している計測対象物4のモデル情報との対応を取ることが可能な手法で有れば、他の手法を用いてもよい。また二次元画像を用いて計測対象物4の位置姿勢を認識する構成を説明したが、それ以外にも事前に算出した計測対象物4の三次元距離情報を用いる構成であってもよい。これらの手法に関しては、本発明の主眼ではないため、詳細な説明は割愛する。
続いて、詳細三次元距離計測処理について説明する。S904において、投影パターン設定処理部801は、位置姿勢認識処理で算出された計測対象物4の位置姿勢認識情報と、事前に保持している計測対象物4のモデル情報とに基づいて、プロジェクタ1により計測対象物4へ投影される投影パターンを設定する。そして、撮像画像中の局所領域の分割を設定する。モデル情報は、コンピュータ3が備えるモデル記憶部807に保持されている。投影パターン設定処理部801は、投影パターン及び撮像画像の局所領域の分割を設定するが、第1実施形態と同様に、それぞれの局所領域のサイズを局所領域ごとの距離情報算出演算量が概均一化するように設定する。
S905において、投影パターン生成/投影処理部802は、モデル情報に含まれる局所領域ごとの三次元距離情報から、必要とされる空間分解能に対応するように投影パターン中の局所領域ごとの計測線パターンの空間分解能を設定する。図10(a)は、一部の計測線パターンの空間分解能を密に設定した投影パターンを計測対象物4に投影した時の撮像画像の例を示す。図10(a)では、モデル情報に基づいて、より密な三次元距離情報が必要とされる計測対象物正面の窪み5を含む領域の計測線パターンの空間分解能が密に設定されている。なお、投影パターンにおける局所領域の計測線パターンの空間分解能は、事前に設定したモデル情報に対応して任意に設定することができる。
図10(b)は、距離情報算出処理に必要とされる演算量を概均一化するように、窪み5を含む局所領域を局所領域1001乃至1003の3個に分割した撮像画像の例を示す。なお、局所領域のサイズは、モデル情報に事前に設定されてもよい。 続いて、S905において、投影パターン生成/投影処理部802は、S904において投影パターン設定処理部801により設定された投影パターンを生成し、プロジェクタ1を制御して当該投影パターンを計測対象物4へ投影する。
S906において、撮像処理部803は、カメラ2を制御して、投影パターン生成/投影処理部802により生成された投影パターンが投影された計測対象物4を撮像する。また、撮像された画像を距離情報算出部804へ送信する。
S907において、距離情報算出部804は、撮像処理部803から受信した撮像画像に対して画像処理を実行して、撮像画像中のパターン光を抽出する。また、撮像パターンと、投影パターンとの対応を取ることにより、カメラ2から計測対象物4までの距離情報、すなわち計測対象物4の三次元距離情報を算出する。その際、投影パターン設定処理部801により設定された分割領域ごとに、並列処理プロセッサにより距離情報算出演算が実行される。局所領域サイズおよび撮像パターン中の計測線パターンの分解能は、局所領域ごとに演算量が概均一化するように設定されているため、並列処理プロセッサにおいて実行される並列処理が効率的に実行される。以上で図9のフローチャートの処理が終了する。結果として、局所領域ごとの演算量が概均一化されることにより、概均一化を考慮しない場合に比べて演算処理時間が短縮されるという効果がある。
また、S907における距離情報算出処理が完了した後は、必要に応じて図9に示される詳細三次元距離計測処理を繰り返すことが可能であることも第1実施形態と同様である。この場合は、前回実行された詳細三次元距離計測処理結果に基づいて、次回の詳細三次元距離計測処理で用いる投影パターンを設定することもできる。
以上説明したように、本実施形態によれば、算出する三次元距離情報の空間分解能を局所領域ごとに適応的に設定することにより、効率的な並列処理を実行することが可能となる。
(第3実施形態)
以下、図面を参照して本発明の第3実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
第3実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成は、第1実施形態に係る三次元距離計測装置を構成するコンピュータ3の機能構成と同様である。ただし、本実施形態に係る三次元距離計測装置では、投影パターン設定処理部101が、初期三次元距離計測処理で算出された三次元距離情報に基づいて、後述する詳細三次元距離計測処理における距離情報算出処理で距離情報算出対象点とする計測線パターンのサンプリング密度を、局所領域ごとに設定する点が第1実施形態と異なっている。本実施形態においては、第1実施形態に係る三次元計測装置との相違点についてのみ説明を行い、その他の部分に関しては第1実施形態と同様として説明を省略する。
続いて、図11のフローチャートを参照して、本実施形態における三次元距離計測装置の処理の手順を説明する。
本実施形態における三次元距離計測装置の処理は、図11において点線枠で囲まれた初期三次元距離計測処理(S1101乃至S1104)と、同じく点線枠で囲まれた詳細三次元距離計測処理(S1105乃至S1108)とを備える。
初期三次元距離計測処理(S1101乃至S1104)の各処理は、初期三次元距離計測処理(S201乃至S204)の各処理と同様である。
次に、詳細三次元距離計測処理(S1105乃至S1108)の各処理について説明する。
S1105において、投影パターン設定処理部101は、初期三次元距離計測処理で算出された距離情報に基づいて、プロジェクタ1により計測対象物4へ投影される投影パターンにおける計測線パターンの分解能を設定する。
例えば、まず初期三次元距離計測処理において疎な三次元距離情報しか得られなかった領域において、より密な三次元距離情報が得られるように、投影パターン全体の計測線の空間分解能をより密に均一に設定する。なお、本実施形態における投影パターンは第1実施形態と異なり、投影パターン全面で計測線パターンの空間分解能が均一である。図12(a)は、投影パターンを計測対象物4へ投影した時の撮像画像の例を示す。
また、本実施形態では、詳細三次元計測処理における投影パターンは、初期三次元計測処理における投影パターンよりも、密な空間分解能を有する計測線パターンから構成されるものとした。しかし、計測線パターンの空間分解能はこれに限定されず、必要に応じて初期三次元計測処理と同一、もしくはより疎な空間分解能を有する計測線パターンから構成されてもよい。
投影パターン設定処理部101は、さらに、詳細三次元距離計測処理の距離情報算出処理(S1108)において距離情報算出対象とする計測線パターンのサンプリング密度を局所領域ごとに設定する。
例えば、図12(b)において、初期三次元距離計測処理で算出された三次元距離情報から、奥行き方向の距離変動幅が大きい局所領域1201においては、算出された三次元距離情報が疎であると判断される。そのため、詳細三次元距離計測処理では全ての計測線パターンを距離情報算出対象とする。一方、局所領域1202以外の局所領域においては、局所領域内の一部の計測線パターンのみを距離情報算出対象とする。例えば図12(b)において、局所領域1201以外の局所領域において、距離情報算出対象とする計測線パターンを3本ごとに1本のみサンプリングする。また、撮像画像の局所領域の分割サイズを設定する。
すなわち、距離情報算出対象とする計測線パターンのサンプリング密度を局所領域ごとに異なるものとした場合に、後述する距離情報算出処理において初期三次元距離計測処理と同様に並列プロセッサを用いて撮像画像の局所領域ごとに並列処理を実行する。その場合、計測線パターン上の画素数で決定される局所領域ごとの演算量は、撮像画像の局所領域サイズが同一の場合、不均一になってしまう。上述した例では、撮像画像中の局所領域1201において距離情報算出対象とする計測線パターンの空間分解能は、その他の局所領域において距離情報算出対象とする計測線パターンの空間分解能の3倍である。そのため、局所領域1201における距離情報算出演算量は、その他の局所領域の約3倍となる。そこで本実施形態では、第1実施形態と同様に局所領域ごとの演算量が概均一化するように、図12(c)に示されるように局所領域1201を局所領域1202乃至1204に3分割し、ほぼ同一の演算量を有する計18個の局所領域として並列処理を実行する。
これにより、第1実施形態と同様に、局所領域数は16個から18個に増えるものの、プロセッサユニットごとの演算量が概均一化されたため、効率的に並列処理を実行することが可能となり、結果としてトータルの並列処理時間が低減される。
このように、投影パターン設定処理部101は、初期三次元距離計測処理で算出された三次元距離情報に基づいて、撮像パターン中の局所領域1201以外の局所領域において、距離情報算出対象とする計測線パターンのサンプリング密度を局所領域1201におけるサンプリング密度の1/3に設定する。また同時に、局所領域1201に関して、局所領域サイズがその他の局所領域の1/3となるように、局所領域1201を局所領域1202乃至1204の3個の局所領域に分割する。なお、分割領域は必ずしも矩形に分割する必要は無く、その他の任意の形状に設定することも可能である。
S1106において、投影パターン生成/投影処理部102は、S1105において投影パターン設定処理部101により設定された投影パターンを生成し、プロジェクタ1を制御して当該投影パターンを計測対象物4へ投影する。初期三次元距離計測処理と同様に、均一な空間分解能を有する計測線パターンから構成される投影パターンが生成/投影される点が第1実施形態とは異なっている。
S1107において、撮像処理部103は、カメラ2を制御して、投影パターン生成/投影処理部102により生成された投影パターンが投影された計測対象物4を撮像する。また、撮像された画像を距離情報算出部104へ送信する。
S1108において、距離情報算出部104は、撮像処理部103から受信した撮像画像に対して画像処理を実行して、撮像画像中のパターン光を抽出する。また、撮像パターンと、投影パターンとの対応を取ることにより、カメラ2から計測対象物4までの距離情報、すなわち計測対象物4の三次元距離情報を算出する。この際、投影パターン設定処理部101により設定された分割領域ごとに、並列処理プロセッサにより距離情報算出演算が実行される。
局所領域サイズおよび撮像パターン中の計測線パターンのサンプリング密度は、局所領域ごとの演算量が概均一化するように設定されているため、並列処理プロセッサにおいて実行される並列処理が効率的に実行される。結果として、局所領域ごとの演算量が概均一化されることにより、これを考慮しない場合に比べて演算処理時間が短縮される。
距離情報算出処理(S1108)が完了した後は、必要に応じて詳細三次元距離計測処理を繰り返すことが可能である。その場合は、前回実行した詳細三次元距離計測処理結果に基づいて、次回の詳細三次元距離計測処理を実行することができる。
なお、本実施形態で示した並列プロセッサを構成するプロセッサユニット数、演算対象とする計測線パターンのサンプリング密度、および局所領域サイズは、説明を簡略化するための一例に過ぎない。その他の構成を有するものであってもよい点は第1実施形態と同様である。また、並列プロセッサにおける演算量が概均一化するように、演算対象とする計測線パターンのサンプリング密度および局所領域サイズを設定するものであれば、いかなる手法を用いてもよい点も第1実施形態と同様である。
以上説明したように、本実施形態によれば、算出する三次元距離情報の空間分解能を局所領域ごとに適応的に設定することにより、効率的な並列処理を実行することが可能となる。
(第4実施形態)
以下、図面を参照して本発明の第4実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
本実施形態における三次元距離計測装置は、事前に認識した計測対象物4の概略位置姿勢情報と計測対象物4のモデル情報とに基づいて、詳細三次元距離計測処理の距離情報算出処理において距離情報算出対象とする計測線パターンを設定する点が第3実施形態と異なっている。従って本実施形態においては、第3実施形態に係る三次元計測装置との相違点についてのみ説明を行い、その他の部分に関しては第3実施形態と同様として説明を省略する。
続いて、図13のフローチャートを参照して、本実施形態における三次元距離計測装置の処理の手順を説明する。
本実施形態における三次元距離計測装置の処理は、図13において点線枠で囲まれた位置姿勢認識処理(S1301乃至S1303)と、同じく点線枠で囲まれた詳細三次元距離計測処理(S1304乃至S1307)とを備える。
まず、位置姿勢認識処理(S1301乃至S1303)の各処理が実行されるが、これらは第2実施形態で説明した位置姿勢認識処理(S901乃至S903)の各処理と同様であるため、説明を省略する。
次に、詳細三次元距離計測処理(S1304乃至S1307)について説明する。詳細三次元距離計測処理については第2実施形態でも説明したが、相違点について以下説明する。
S1304において、投影パターン設定処理部101は、位置姿勢認識処理で算出された計測対象物4の位置姿勢認識情報と、事前に保持している計測対象物4のモデル情報とに基づいて、プロジェクタ1により計測対象物4へ投影される投影パターンの空間分解能を設定する。さらに、モデル情報に含まれる三次元距離情報の局所領域ごとの空間分解能に対応させて、詳細三次元距離計測処理の距離情報算出処理(S1307)において距離情報算出対象とする計測線パターンのサンプリング密度を局所領域ごとに設定する。
なお、本実施形態における投影パターンは、第1実施形態と異なり投影パターン全面で均一の計測線の空間分解能を有する点は第3実施形態と同様である。投影パターンを計測対象物4へ投影した時の撮像画像の例は、第3実施形態で説明した図12(a)と同様である。さらに、投影パターン設定処理部101は、撮像画像の局所領域の分割を設定するが、この際第3実施形態と同様に、局所領域の分割サイズおよび計測線パターンのサンプリング密度に対応させて局所領域ごとの演算量を概均一化するように分割設定を行う。例えば図14(a)に示されるように、モデル情報を参照して計測対象物4の正面部に存在する窪み5を含む局所領域1401以外の局所領域での計測線パターンのサンプリング密度を、局所領域1401でのサンプリング密度の1/3とする場合(計測線パターンを3本中1本のみサンプリングする場合)、局所領域1401を図14(b)に示されるように局所領域1402乃至1404の3個に分割することにより、局所領域ごとの演算量を概均一化する。
S1305乃至S1307の各処理は、全て第3実施形態における対応する各処理と同様であるため説明を省略する。
以上説明したように、本実施形態によれば、算出する三次元距離情報の空間分解能を局所領域ごとに適応的に設定することにより、効率的な並列処理を実行することが可能となる。
(第5実施形態)
以下、図面を参照して本発明の第5実施形態を説明する。本実施形態における三次元距離計測装置は、三次元距離計測手法として空間コード化法を用いている点が第1乃至第4実施形態と異なっている。従って本実施形態においては、第1乃至第4実施形態における三次元計測装置との相違点についてのみ説明を行い、その他の部分に関しては第1乃至第4実施形態と同様として説明を省略する。空間コード化法は、非特許文献4に開示されるように、コード情報が埋め込まれた複数枚の投影パターンを計測対象物に投影し、複数枚の撮像画像よりコード情報をデコードして、計測対象物の三次元距離情報を算出する手法である。
なお、第1実施形態および第3実施形態に係る初期三次元距離計測処理に関しては、空間コード化法以外の手法を用いることも可能であるが、一般的に初期三次元距離計測処理に関しても同一の手法を用いた方が効率的である。
続いて、本実施形態における詳細三次元距離計測処理における空間コード化法の適用例に関して説明する。第1乃至第4実施形態と同様に、詳細距離計測処理において、初期三次元距離計測処理結果もしくは概略位置姿勢認識結果(概位置姿勢認識結果)に基づいて、撮像画像の局所領域ごとに、算出する三次元距離データの空間分解能を異なる値に設定する。すなわち、空間コード化法においては、最小分解能におけるコードパターンの白線と黒線との境界上で三次元距離データが算出されるため、この白線と黒線の境界線の分解能が、第1乃至第4実施形態における計測線パターンの空間分解能に相当する。
そこで、必要に応じて局所領域ごとに白線と黒線との境界線の分解能が異なるように設定する場合、局所領域ごとの距離情報算出演算量が概均一化するように局所領域サイズを設定することにより、第1乃至第4実施形態と同様に並列処理プロセッサにおいて実行される並列処理が効率的に実行される。例えば、図15に示されるように、撮像画像中の局所領域1501乃至1503における白線と黒線との境界線の分解能をその他の局所領域の3倍とする場合、局所領域1501乃至1503のサイズをその他の局所領域の1/3のサイズとすることにより、局所領域ごとの距離情報算出演算量を概均一化することができる。なお図15では、局所領域の境界を点線で示し、またコードパターンの黒線部を斜線で示している。
以上説明したように、本実施形態によれば、三次元距離計測手法として空間コード化法を用いる場合においても、算出する三次元距離情報の空間分解能を局所領域ごとに適応的に設定することにより、効率的な並列処理を実行することが可能となる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (14)

  1. パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
    前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
    前記局所パターン設定手段は、前記距離情報算出手段の演算量に関する情報に基づき、前記パターン光の計測点の空間分解能を設定することを特徴とする三次元距離計測装置。
  2. 更に、前記パターン光を生成するパターン光生成手段を有し、
    前記局所パターン設定手段は、前記距離情報算出手段において実行される局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能を設定することを特徴とする請求項1に記載の三次元距離計測装置。
  3. 前記距離情報算出手段は、撮像画像中のパターン光に関して、前記局所パターン設定手段が設定した、局所領域ごとに異なる空間分解能を有し、局所領域ごとの演算量が概均一化するように設定された計測点を距離情報算出対象点とすることを特徴とする請求項2に記載の三次元距離計測装置。
  4. 前記パターン光生成手段は、前記局所パターン設定手段が設定した、局所領域ごとに異なる計測点の空間分解能を有し、局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能が設定されたパターン光を生成することを特徴とする請求項2もしくは3に記載の三次元距離計測装置。
  5. 前記距離情報算出手段は、複数の前記局所領域ごとの演算処理を並列に実行する並列処理プロセッサを有することを特徴とする請求項2乃至4のいずれか1項に記載の三次元距離計測装置。
  6. 計測対象物の概位置姿勢を認識する位置姿勢認識手段と、前記計測対象物において計測されるべき局所領域ごとの距離情報の空間分解能を計測対象物のモデル情報として保持するモデル記憶手段をさらに有し、前記局所パターン設定手段は、事前に認識した計測対象物の概位置姿勢認識結果と、モデル記憶手段に保持されたモデル情報を元にして、局所領域および計測点の空間分解能を設定することを特徴とする請求項2乃至5のいずれか1項に記載の三次元距離計測装置。
  7. 前記局所パターン設定手段は、事前に計測した計測対象物の距離情報に基づいて、局所領域および計測点の空間分解能を設定することを特徴とする請求項2乃至6のいずれか1項に記載の三次元距離計測装置。
  8. 前記局所パターン設定手段は、事前に計測した計測対象物の距離情報に基づき、所定値よりも距離変動幅の大きい局所領域に対するパターン光の計測点の空間分解能を高くし、または、所定値よりも距離変動幅の小さい局所領域に対するパターン光の計測点の空間分解能を低くすることを特徴とする請求項2乃至7のいずれか1項に記載の三次元距離計測装置。
  9. 前記局所パターン設定手段は、パターン光の計測点の空間分解能に対応して、局所領域のサイズおよび位置を設定することを特徴とする請求項2乃至8のいずれか1項に記載の三次元距離計測装置。
  10. パターン光のそれぞれの局所領域に含まれる計測点の数、および局所領域のサイズ及び位置と、演算量との対応情報を保持した演算量参照手段を有することを特徴とする請求項2乃至9のいずれか1項に記載の三次元距離計測装置。
  11. 前記並列処理プロセッサは、GPUまたはDSPを有することを特徴とする請求項5に記載の三次元距離計測装置。
  12. 三次元距離計測装置における三次元距離計測方法であって、
    距離情報算出手段が、パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出工程と、
    局所パターン設定手段が、前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定工程と、を有し、
    前記局所パターン設定工程において、前記局所パターン設定手段は、前記距離情報算出手段の演算量に関する情報に基づき、前記パターン光の計測点の空間分解能を設定することを特徴とする三次元距離計測方法。
  13. コンピュータを、
    パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
    前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
    前記局所パターン設定手段は、前記距離情報算出手段の演算量に関する情報に基づき、前記パターン光の計測点の空間分解能を設定することを特徴とする三次元距離計測装置として機能させるためのプログラム。
  14. 投影パターンが投影された計測対象物を撮像し、当該撮像された画像に基づいて前記計測対象物の三次元距離情報を算出する三次元距離計測装置であって、
    前記画像を領域ごとに分割し、前記投影パターンを構成する計測点の空間分解能を前記領域ごとに設定する分割設定手段と、
    前記空間分解能を有する前記投影パターンが投影され且つ撮像された前記計測対象物の画像から検出される前記計測点と、前記投影パターンを構成する計測点との対応に基づいて、前記計測対象物の三次元距離情報を前記領域ごとに並列に算出する算出手段と、を備え、
    前記分割設定手段は、前記算出手段による前記領域ごとの演算量が均一化するように、前記画像を領域ごとに分割し、当該領域ごとに前記計測点の空間分解能を設定することを特徴とする三次元距離計測装置。
JP2011058298A 2011-03-16 2011-03-16 三次元距離計測装置、三次元距離計測方法、およびプログラム Active JP5746529B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011058298A JP5746529B2 (ja) 2011-03-16 2011-03-16 三次元距離計測装置、三次元距離計測方法、およびプログラム
US13/412,738 US9098909B2 (en) 2011-03-16 2012-03-06 Three-dimensional distance measurement apparatus, three-dimensional distance measurement method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011058298A JP5746529B2 (ja) 2011-03-16 2011-03-16 三次元距離計測装置、三次元距離計測方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2012194061A true JP2012194061A (ja) 2012-10-11
JP5746529B2 JP5746529B2 (ja) 2015-07-08

Family

ID=46828200

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011058298A Active JP5746529B2 (ja) 2011-03-16 2011-03-16 三次元距離計測装置、三次元距離計測方法、およびプログラム

Country Status (2)

Country Link
US (1) US9098909B2 (ja)
JP (1) JP5746529B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087393A (ja) * 2013-10-29 2015-05-07 トムソン ライセンシングThomson Licensing 深度マップを生成する方法及び装置
CN104930986A (zh) * 2015-06-17 2015-09-23 泉州师范学院 一种用于三维形貌测量的投影和摄像系统
JP2016109671A (ja) * 2014-12-01 2016-06-20 キヤノン株式会社 三次元計測装置およびその制御方法
JP2016125953A (ja) * 2015-01-07 2016-07-11 株式会社Nttドコモ 形状認識装置及び形状認識方法
JP2017129525A (ja) * 2016-01-22 2017-07-27 キヤノン株式会社 計測装置及びその制御方法、並びにプログラム
EP3587999A1 (en) 2018-06-29 2020-01-01 Ricoh Company, Ltd. Measuring device and fabricating apparatus
WO2024180708A1 (ja) * 2023-03-01 2024-09-06 日立Astemo株式会社 物標認識装置及び物標認識方法

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140267701A1 (en) * 2013-03-12 2014-09-18 Ziv Aviv Apparatus and techniques for determining object depth in images
US10147198B2 (en) * 2014-04-30 2018-12-04 Shinano Kenshi Co., Ltd. Measurement device
JP6337614B2 (ja) * 2014-05-23 2018-06-06 セイコーエプソン株式会社 制御装置、ロボット、及び制御方法
DE102014110536A1 (de) * 2014-07-25 2016-01-28 E. Zoller GmbH & Co. KG Einstell- und Messgeräte Lichtprojektor
US10281264B2 (en) * 2014-12-01 2019-05-07 Canon Kabushiki Kaisha Three-dimensional measurement apparatus and control method for the same
US10488192B2 (en) 2015-05-10 2019-11-26 Magik Eye Inc. Distance sensor projecting parallel patterns
KR20170014617A (ko) * 2015-07-30 2017-02-08 삼성에스디에스 주식회사 3차원 모델의 비트맵 생성 방법과 이를 수행하기 위한 장치 및 시스템
JP6350772B2 (ja) * 2016-02-25 2018-07-04 日本電気株式会社 情報処理システム、情報処理装置、制御方法、及びプログラム
DE102016115252A1 (de) * 2016-08-17 2018-02-22 Carl Zeiss Industrielle Messtechnik Gmbh Messvorrichtung und Verfahren zur Einrichtung der Messvorrichtung
JP2020501156A (ja) 2016-12-07 2020-01-16 マジック アイ インコーポレイテッド 平行パターンを投射する距離センサ
JP2018189443A (ja) * 2017-04-28 2018-11-29 キヤノン株式会社 距離測定装置、距離測定方法及び撮像装置
KR20200054324A (ko) 2017-10-08 2020-05-19 매직 아이 인코포레이티드 다중 이동형 센서들을 포함한 센서 시스템의 캘리브레이션
KR20200054326A (ko) 2017-10-08 2020-05-19 매직 아이 인코포레이티드 경도 그리드 패턴을 사용한 거리 측정
US10679076B2 (en) 2017-10-22 2020-06-09 Magik Eye Inc. Adjusting the projection system of a distance sensor to optimize a beam layout
US10931883B2 (en) 2018-03-20 2021-02-23 Magik Eye Inc. Adjusting camera exposure for three-dimensional depth sensing and two-dimensional imaging
JP2021518535A (ja) 2018-03-20 2021-08-02 マジック アイ インコーポレイテッド 様々な密度の投影パターンを使用する距離測定
JP7292315B2 (ja) 2018-06-06 2023-06-16 マジック アイ インコーポレイテッド 高密度投影パターンを使用した距離測定
WO2020033169A1 (en) 2018-08-07 2020-02-13 Magik Eye Inc. Baffles for three-dimensional sensors having spherical fields of view
EP3911920B1 (en) 2019-01-20 2024-05-29 Magik Eye Inc. Three-dimensional sensor including bandpass filter having multiple passbands
JP2020153718A (ja) 2019-03-18 2020-09-24 株式会社リコー 測定装置及び造形装置
WO2020197813A1 (en) * 2019-03-25 2020-10-01 Magik Eye Inc. Distance measurement using high density projection patterns
JP7534330B2 (ja) 2019-05-12 2024-08-14 マジック アイ インコーポレイテッド 3次元深度マップデータの2次元画像上へのマッピング
WO2021113135A1 (en) 2019-12-01 2021-06-10 Magik Eye Inc. Enhancing triangulation-based three-dimensional distance measurements with time of flight information
US11580662B2 (en) 2019-12-29 2023-02-14 Magik Eye Inc. Associating three-dimensional coordinates with two-dimensional feature points
JP2023510738A (ja) 2020-01-05 2023-03-15 マジック アイ インコーポレイテッド 3次元カメラの座標系を2次元カメラの入射位置に移動させる方法
US11187525B2 (en) * 2020-01-06 2021-11-30 International Business Machines Corporation Laser grid inspection of three-dimensional objects
CN114022484B (zh) * 2022-01-10 2022-04-29 深圳金三立视频科技股份有限公司 一种点光源场景的图像清晰度值计算方法及终端

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0921620A (ja) * 1995-07-05 1997-01-21 Fuji Facom Corp 物体の三次元形状計測方法
JP2003141508A (ja) * 2001-10-31 2003-05-16 Olympus Optical Co Ltd 基板外観検査方法及びその装置、基板外観検査用プログラム、コンピュータにより読み取り可能な記憶媒体
JP2004198263A (ja) * 2002-12-18 2004-07-15 Ckd Corp 外観検査装置及び三次元計測装置
US20040151365A1 (en) * 2003-02-03 2004-08-05 An Chang Nelson Liang Multiframe correspondence estimation
JP2006058091A (ja) * 2004-08-18 2006-03-02 Fuji Xerox Co Ltd 3次元画像測定装置および方法
JP2006292385A (ja) * 2005-04-05 2006-10-26 Hiroshima Univ 視覚情報処理システム及びその視覚情報処理方法
JP2008224552A (ja) * 2007-03-14 2008-09-25 Omron Corp 計測処理用の画像生成方法およびこの方法を用いた基板外観検査装置
US7463259B1 (en) * 2003-12-18 2008-12-09 Nvidia Corporation Subshader mechanism for programming language

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6744914B1 (en) 2000-04-28 2004-06-01 Orametrix, Inc. Method and system for generating a three-dimensional object
US6700669B1 (en) * 2000-01-28 2004-03-02 Zheng J. Geng Method and system for three-dimensional imaging using light pattern having multiple sub-patterns
JP2008276743A (ja) 2000-04-28 2008-11-13 Orametrix Inc 表面を走査し三次元物体を作製するための方法及びシステム
US6677942B1 (en) * 2000-08-01 2004-01-13 International Business Machines Corporation Method and apparatus for acquiring normals maps consistent with low spatial resolution meshes
US7145565B2 (en) * 2003-02-27 2006-12-05 Nvidia Corporation Depth bounds testing
US8044996B2 (en) * 2005-05-11 2011-10-25 Xenogen Corporation Surface construction using combined photographic and structured light information
US8089635B2 (en) * 2007-01-22 2012-01-03 California Institute Of Technology Method and system for fast three-dimensional imaging using defocusing and feature recognition
US8218903B2 (en) * 2007-04-24 2012-07-10 Sony Computer Entertainment Inc. 3D object scanning using video camera and TV monitor
US8649024B2 (en) * 2010-12-03 2014-02-11 Zygo Corporation Non-contact surface characterization using modulated illumination
US8845107B1 (en) * 2010-12-23 2014-09-30 Rawles Llc Characterization of a scene with structured light

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0921620A (ja) * 1995-07-05 1997-01-21 Fuji Facom Corp 物体の三次元形状計測方法
JP2003141508A (ja) * 2001-10-31 2003-05-16 Olympus Optical Co Ltd 基板外観検査方法及びその装置、基板外観検査用プログラム、コンピュータにより読み取り可能な記憶媒体
JP2004198263A (ja) * 2002-12-18 2004-07-15 Ckd Corp 外観検査装置及び三次元計測装置
US20040151365A1 (en) * 2003-02-03 2004-08-05 An Chang Nelson Liang Multiframe correspondence estimation
US7463259B1 (en) * 2003-12-18 2008-12-09 Nvidia Corporation Subshader mechanism for programming language
JP2006058091A (ja) * 2004-08-18 2006-03-02 Fuji Xerox Co Ltd 3次元画像測定装置および方法
JP2006292385A (ja) * 2005-04-05 2006-10-26 Hiroshima Univ 視覚情報処理システム及びその視覚情報処理方法
JP2008224552A (ja) * 2007-03-14 2008-09-25 Omron Corp 計測処理用の画像生成方法およびこの方法を用いた基板外観検査装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087393A (ja) * 2013-10-29 2015-05-07 トムソン ライセンシングThomson Licensing 深度マップを生成する方法及び装置
JP2016109671A (ja) * 2014-12-01 2016-06-20 キヤノン株式会社 三次元計測装置およびその制御方法
JP2016125953A (ja) * 2015-01-07 2016-07-11 株式会社Nttドコモ 形状認識装置及び形状認識方法
CN104930986A (zh) * 2015-06-17 2015-09-23 泉州师范学院 一种用于三维形貌测量的投影和摄像系统
CN104930986B (zh) * 2015-06-17 2019-09-24 泉州师范学院 一种用于三维形貌测量的投影和摄像系统
JP2017129525A (ja) * 2016-01-22 2017-07-27 キヤノン株式会社 計測装置及びその制御方法、並びにプログラム
EP3587999A1 (en) 2018-06-29 2020-01-01 Ricoh Company, Ltd. Measuring device and fabricating apparatus
US11015923B2 (en) 2018-06-29 2021-05-25 Ricoh Company, Ltd. Measuring device and fabricating apparatus
WO2024180708A1 (ja) * 2023-03-01 2024-09-06 日立Astemo株式会社 物標認識装置及び物標認識方法

Also Published As

Publication number Publication date
US20120236317A1 (en) 2012-09-20
US9098909B2 (en) 2015-08-04
JP5746529B2 (ja) 2015-07-08

Similar Documents

Publication Publication Date Title
JP5746529B2 (ja) 三次元距離計測装置、三次元距離計測方法、およびプログラム
US20120176380A1 (en) Forming 3d models using periodic illumination patterns
CN106796661B (zh) 投影光图案的系统、方法和计算机程序产品
JP5132832B1 (ja) 計測装置および情報処理装置
EP2909575B1 (en) Systems and methods for marking images for three-dimensional image generation
JP6344050B2 (ja) 画像処理システム、画像処理装置、プログラム
CN107636488B (zh) 用于提高飞行时间像素阵列的分辨率的方法和设备
CN107592449B (zh) 三维模型建立方法、装置和移动终端
EP3382645B1 (en) Method for generation of a 3d model based on structure from motion and photometric stereo of 2d sparse images
KR100681320B1 (ko) 헬름홀츠 교환조건으로부터 유도되는 편미분 방정식의레벨셋 풀이 방법을 이용한 물체의 3차원 형상 모델링 방법
JP2001194114A (ja) 画像処理装置および画像処理方法、並びにプログラム提供媒体
US10380796B2 (en) Methods and systems for 3D contour recognition and 3D mesh generation
CN109540023B (zh) 基于二值网格编码模板结构光的物体表面深度值测量方法
US10169891B2 (en) Producing three-dimensional representation based on images of a person
CN110390645B (zh) 用于立体瞬时图像序列的改善3d数据重构的系统和方法
JP2015184056A (ja) 計測装置、方法及びプログラム
CN111742352B (zh) 对三维对象进行建模的方法和电子设备
JP2021081791A5 (ja)
CN118451468A (zh) 一种注册脸部标记的方法
KR20190103833A (ko) 실시간 3차원 데이터 측정 방법
JP6590489B2 (ja) 情報処理装置および方法
JP6061631B2 (ja) 計測装置、情報処理装置、計測方法、情報処理方法、および、プログラム
CN100388905C (zh) 面向稀疏网格的基于曲面细分的三维脚型数据测量方法
KR20220017830A (ko) 3차원 데이터 획득 방법, 장치 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체
JP2018077168A (ja) シミュレーション装置、シミュレーション方法およびシミュレーションプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140317

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150410

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150508

R151 Written notification of patent or utility model registration

Ref document number: 5746529

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151