JP6319395B2 - 3次元測定装置および3次元測定方法 - Google Patents

3次元測定装置および3次元測定方法 Download PDF

Info

Publication number
JP6319395B2
JP6319395B2 JP2016202682A JP2016202682A JP6319395B2 JP 6319395 B2 JP6319395 B2 JP 6319395B2 JP 2016202682 A JP2016202682 A JP 2016202682A JP 2016202682 A JP2016202682 A JP 2016202682A JP 6319395 B2 JP6319395 B2 JP 6319395B2
Authority
JP
Japan
Prior art keywords
dimensional
pattern
word
column
measurement object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016202682A
Other languages
English (en)
Other versions
JP2018063220A (ja
Inventor
星斗 付
星斗 付
正樹 諏訪
正樹 諏訪
友紀 長谷川
友紀 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2016202682A priority Critical patent/JP6319395B2/ja
Priority to CN201780054883.6A priority patent/CN109690241B/zh
Priority to EP17860595.2A priority patent/EP3527936B1/en
Priority to PCT/JP2017/034218 priority patent/WO2018070210A1/ja
Publication of JP2018063220A publication Critical patent/JP2018063220A/ja
Application granted granted Critical
Publication of JP6319395B2 publication Critical patent/JP6319395B2/ja
Priority to US16/357,401 priority patent/US10818030B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/1408Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/14172D bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix

Description

本発明は、パターン光を投影して測定対象物の3次元位置を測定する3次元測定技術に関する。
測定対象物の3次元形状を測定する手法として、能動型計測(アクティブ計測)が知られている。能動型計測では、測定対象物にパターン光を投影した状態で撮影を行い、撮影された画像上でのパターンの位置から、三角測量の原理を用いて測定対象物の3次元形状(各画素の3次元位置)を求める。
能動型計測の中でも、1枚の画像のみから3次元形状を測定可能なワンショットアクティブ測量は、特に有益な技術である。その理由は、第1に1枚の画像のみを利用するのでリアルタイム測量が可能になること、第2に移動物体も測量可能であること、第3にカメラが移動する場合(たとえば、カメラがロボットの手に取り付けられている場合)にも測量可能であること、が挙げられる。
ワンショットアクティブ測量は、ToF(Time−of−Flight)法と、構造化光(パターン光)を用いる方法の2つに大別できる。ToF法はセンサ発光部から発した光が受光部に達するまでの光路長から距離を測定する方式である。一方で構造化光を用いる方法では、測定対象物にパターン光を投影した状態で撮影を行い、撮影された画像上でのパターンの位置から測定対象物の3次元形状を求める。本明細書では、構造化光を用いる方法について取り扱う。構造化光を用いる方法は、高精度(特に近距離において)、広い視野、安価なコストという利点がある。
構造化光の一例として、特許文献1は、ランダムドットパターンを用いる方法を開示する。非特許文献2はランダムな構造を持つパターンを用いたシステムを提示する。しかしながら、ランダムドットを用いると、基礎となるアルゴリズムであるテンプレートマッチに要する計算量が多くなるという問題がある。
また、非特許文献1や特許文献2は、空間的な符号化がなされたパターン光を用いる方法を開示する。非特許文献1および特許文献2における2次元パターンは、プリミティブと称されるパターン構成要素が2次元的に敷き詰められた構造を有する。複数のプリミテ
ィブを含むウィンドウ(たとえば、2×3のプリミティブからなる)は、当該ウィンドウに含まれる複数のプリミティブによって特定できる。したがって、撮影画像からプリミティブの並びを検出することで、3次元位置を算出可能である。
特開2004−212385号公報 米国特許第8090194号明細書
P. Vuylsteke and A. Oosterlinck, Range image acquisition with a single binary-encoded light pattern, IEEE Trans. Pattern Analysis and Machine Intelligence, Vol. 12, No. 2, pp. 148-164, 1990. Hiroshi Kawasaki, Hitoshi Masuyama, Ryusuke Sagawa and Ryo Furukawa, "Single Color One-shot Scan using Topology Information", Computer Vision ECCV 2012. Workshops and Demonstrations, DOI 10.1007/978-3-642-33885-4_49
本発明は上記実情に鑑みなされたものであって、本発明は、構造化光を用いてワンショットで3次元測定が可能な3次元測定手法であって、従来よりもさらに効果的な3次元測定手法を提供することを目的とする。
本発明の第一の態様は、測定対象物の3次元形状を測定する3次元測定装置であって、所定のパターンを有するパターン光を前記測定対象物に投影する投影手段と、前記パターン光が投影された前記測定対象物を撮像する撮像手段と、前記撮像手段によって撮像された画像から、当該画像の対象画素の3次元位置を算出する算出手段と、を備え、前記所定のパターンは、2回回転対称である、ことを特徴とする。言い換えると、所定のパターンは、その中心について180°回転させたときに、元のパターンと等しい。
パターン光のパターンを上記のような構成とすることによって、既存のアクティブ3次元測量が達成可能な効果に加えて、回折光学素子(DOE)を用いて投影部を構成可能であるという利点が生じる。投影部は必ずしもDOEを用いて構成する必要はなく、たとえばマスクを用いて構成してもよいが、投影部の設計の柔軟性が向上するのは有利な効果である。
本態様において、上記の所定のパターンは、列ごとに列方向に所定の要素パターンが繰り返されたパターンであり、一端からk列目の要素パターンは、他端からk列目の要素パターンを180°回転させたものと等しいパターンとすることができる。換言すると、全体がN列(Nは整数)としたときに、一端からk列目の要素パターンと、N−k+1列目の要素パターンは、互いに180°回転させたものであるという関係を有する。あるいは、k列目全体のパターンと、N−k+1列目全体のパターンが、互いに180°回転させた関係であると捉えることもできる。このようにパターンを構成すれば、当該パターンが全体として2回回転対称なパターンとなる。
この際、各列の要素パターンは互いに異なることが好ましい。列ごとに要素パターンが異なれば、パターンから列を一意に特定することができる。ただし、一部の列が他の列と同一のパターンであっても、隣接する列のパターンも考慮することで列を特定することは可能である。
本態様における所定のパターンの別の例は、その上半分が、列方向に所定の要素パターンが繰り返され、下半分は前記上半分のパターン全体を180°回転させたものと等しいようなパターンである。このようにしても、所定のパターンが全体として2回回転対称なパターンとなる。
本態様において、前記算出手段は、3次元位置の算出対象画素における前記パターン光のパターンから求められる平面と、前記算出対象画素の画素位置から求められる直線との交点として、前記算出対象画素の3次元位置を算出する、ことができる。
なお、本発明は、上記手段の少なくとも一部を含む3次元測定装置として捉えることができる。また、本発明は、上記手段が行う処理の少なくとも一部を含む3次元測定方法として捉えることもできる。また、これらの方法の各ステップをコンピュータに実行させるためのコンピュータプログラムや、当該プログラムを非一時的に記憶したコンピュータ読取可能な記憶媒体として捉えることもできる。上記構成および処理の各々は技術的な矛盾
が生じない限り互いに組み合わせて本発明を構成することができる。
本発明によれば、従来よりもさらに効果的な3次元測定が可能となる。
図1(A)は本実施形態におけるパターン光全体の一例を示す図。 図1(B),1(C)は本実施形態におけるパターン光の一例を示す図。 図2は3次元位置の算出原理を説明する図。 図3(A)〜3(D)は、本実施形態におけるパターン光の符号化方式を説明する図。 図4(A),4(B)は、本実施形態におけるパターン光の符号化方式を説明する図。 図5(A),5(B)は、本実施形態のパターン光の構造および設計方法の一例を説明する図。 図6(A),6(B)は、本実施形態のパターン光の構造および設計方法の別の例を説明する図。 図7は本実施形態に係る3次元測定システムのシステム構成を示す図。 図8は本実施形態に係る3次元測定システムにおける処理の流れを示すフローチャート。
以下、図面を参照して本発明の好適な実施形態について説明する。本実施形態に係る3次元測定システムは、測定対象物にパターン光を投影して撮影を行い、3角測量の原理を用いて測定対象物の3次元形状を測定する。
[概要]
図1(A)は、本実施形態において投影されるパターン光全体の一例を示す図である。縦方向に周期性を持つこと、2回対称の図形となっていることが示されている。
図1(B)は、本実施形態において投影されるパターン光の繰り返し単位の一例を示す図である。パターン光10は、所定の符号化(詳細は後述する)が施されており、図1(C)に示すような符号の2次元配列とみなすことができる。パターン光10は、列ごとに特有の符号列を有するので、パターン光が投影された測定対象物の撮影画像を解析することで、撮影画像の各画素がパターン光のどの列に対応するかを求めることができる。より具体的には、各画素はプリミティブの単位で処理される。
図2は、本実施形態における3次元計測の原理を説明する図である。図2は、測定対象物20に対して投影部21からパターン光23が投影されており、パターン光が投影された測定対象物20をカメラ22によって撮影することを示す。ここで、撮影画像26の測距対象画素27付近の投影パターン(符号)を調べることで、画素27に写っているパターン光が、どの列のパターン光であるか分かる。ここでは、画素27には列24が写っているものとする。すると、画素27に写っている測定対象物20の点25の3次元位置は、投影部21と列24とを含む平面28と、カメラ22と画素27を結ぶ直線29との交点として求めることができる。
[符号化方式]
次に、本実施形態におけるパターン光の符号化方式について説明する。本実施形態におけるパターン光は、2次元符号化パターンを有する。具体的には、明暗2値からなる有限
種類の「プリミティブ」(基本パターン)を2次元的に所定数個並べた「ワード」によって1つの符号語を構成する。2次元符号化パターンは複数種類の「ワード」を有し、各種類の「ワード」はそれぞれが異なる2次元構造を有し互いに区別可能である。
図3(A)は、「プリミティブ」と称される要素を説明する図である。プリミティブ30は、中央の1つの小さな矩形である「ビット」31とその周囲の4つの大きな矩形である「グリッド」32−35から構成される。1つのプリミティブは、ビットおよびグリッドの光照射の有無の組み合わせにより、図3(D)に示すような4つの値をとる。
なお、図3(A)においてビットは中央部だけでなくその周囲にも存在するが、プリミティブの値を決定するビットは中央のビットのみであるので、周囲のビットは記載を省略している。
まず、図3(B)に示すように、ビット31の光照射の有無により、プリミティブ30の値(絶対値)が「0」または「1」に決まる。なお、ここでは黒色の矩形は光が照射されていることを示し、白色の矩形が光が照射されていないことを示すが、これは逆であってもよい。
次に、図3(C)に示すように、グリッド32−35の組み合わせにより、プリミティブ30の符号が「プラス」または「マイナス」に決まる。プラスとマイナスのパターンは、それぞれ逆であっても構わない。
そして、図3(D)に示すようにビット31とグリッド32−35の組み合わせにより、プリミティブ30は「+1」「−1」「+0」「−0」の4つの値を取り得る。
図4(A)は、複数のプリミティブから構成される「ワード」の例を示す図である。ここでは4行4列のプリミティブから1つのワードが構成される例を示しているが、1ワードを構成するワードの数は適宜決めて構わない。たとえば、3×3や2×4のプリミティブを1ワードとしてもよい。
図4(B)は、ワード40に含まれるプリミティブの一部を示す。ワード40は、5×5のグリッドを含む。ここで、ワード40内のプリミティブは、2×2グリッド(1プリミティブ)の範囲を1グリッドずつずらすことによって得られる。したがって、ワード40の左端の列には、図4(B)に示すように4つのプリミティブ41−44が含まれる。各行も同様に4つのプリミティブから構成されるので、ワード40は16個のプリミティブから構成される。すなわち、1ワードは16プリミティブからなる符号と対応付けられる。
図1(B)に示すパターン10においてはワード11が列方向に繰り返されるように配置されている。ここでワード11は4×4のプリミティブにより構成されている。
一見すると、パターン10の左端の列はワード11だけで構成されるように見えるが、実はワード11を1プリミティブ下にずらすことによってもう一つ別のワードが得られる。同様にずらすことにより、図1(B)の左端の列には、図1(C)に示すように、「A1」「A2」「A3」「A4」の4つのワードが得られる。最初の位置から4プリミティブずらすと最初のワード11と同じワードが得られるので、以降「A1」「A2」「A3」「A4」は繰り返し含まれる。行方向についても同様に、1プリミティブごとにワードが得られる。このように、隣接するワード同士は、互いに重複している。
[パターンの設計方法・その1]
本実施形態では、パターン光として2回対称なパターンを採用する。ここで、パターンの設計方法について図5(A),5(B)を参照して説明する。
以下では、パターンの一部である「要素パターン」を配列することによってパターンを設計する。この際、要素パターンとして1ワードと同じ大きさのパターンを用いるものとして説明するが、要素パターンは必ずしもワード単位である必要はなく、1ワードよりも大きいパターンであってもよい。
図5(A)において、パターン50の左端の列(1列目)は、同一の要素パターンが繰り返し配置される。したがって、1列目の最上部の要素パターン52と最下部の要素パターン53とは同一のパターンである。次に、右端の列は、1列目の要素パターン52を180°回転させた要素パターンが繰り返し配置される。したがって、右端の最上部の要素パターン54と最下部の要素パターン55はいずれも、要素パターン52を180°回転させたものである。
本例では、一般に、左からk列目の要素パターンは、右からk列目(左からN−k+1列目)の要素パターンを180°回転させたものと等しいように設計する。また、各列は同一の要素パターンを繰り返すことで得られる。したがって、図5(B)に示すように、1列目からN/2列目までの要素パターン52,56,・・・,57を決定することで、全体のパターン50を決定することができる。
このようにして設計されるパターン50は、中心51に対して180°回転させたときに同一のパターンとなる。すなわち、パターン50は、中心51に対して2回対称なパターンである。なお、ここでの説明および図5(A)(B)における「列」は要素パターンの列を意味する。したがって、全体のパターン50がN列の要素パターンから構成され、各要素パターンがM列のプリミティブから構成される場合は、全体のパターン50は約N×M列(正確にはN×(M−1)+1列)のプリミティブあるいはワードを有することになる。
「0000」
ワード単位の列で考えて、左からk列(ワード列)目のワードが、右からk列(ワード列)目のワードを180°回転させたものと等しいという条件が満たされることは、上記の設計方法から明らかであろう。
なお、パターン50に含まれる各列の要素パターンは互いに異なることが好ましい。この条件を満たすためには、要素パターン52,56,・・・,57が互いに異なるだけでなく、それらの180°回転パターンも含めた要素パターンが互いに異なることが好ましい。要素パターンが互いに異なれば、各ワード列に含まれるワードも互いに異なるので、1列のワードからどの列であるかを判別可能であるためである。ただし、一部の列が他の列と同一のワードから構成されても隣接列のワードを含めたワードの組合せを調べることで列を特定可能であるため、上記の条件は必ずしも満たさなくても構わない。したがって、隣接する複数列(たとえば、3列、5列など)のワードの並び方のパターンが、その他の複数列のパターンと互いに異なればよい。
[パターンの設計方法・その2]
上記とは異なる別のパターンの設計方法について図6(A),6(B)を参照して説明する。本例では、図6(A)に示すように、まずパターン60の内の上半分の領域(上部領域)62のパターンを決定する。上部領域62において各列は同一の要素パターンを配置して構成される。上部領域62の全ての列について要素パターン(64,65等)を決定し、それを列方向に繰り返すことで上部領域62のパターンが決定できる。
次に、図6(B)に示すように、上部領域62を180°回転させることによって、下半分の領域(下部領域)63のパターンを決定する。
このようにして設計されるパターン60は、中心61に対して180°回転させたときに同一のパターンとなる。すなわち、パターン60は、中心61に対して2回対称なパターンである。
本例では、1列に含まれるワードが上部領域62と下部領域63とで異なり、撮影画像における1列のワードだけからは列を特定することができない場合が生じる。具体的には、i列にワードXがありj列にワードYがあり、ワードYを反転させるとワードXと同じワードになる場合、画像中からワードXを検出してもそれがi列目かj列目かを特定できない。また、反転させて同じワードになるXがk列目にある場合、画像中からワードXを検出してもそれがk列目かN−k列目かを特定できない(Nは全体パターンでのワードの列数)。しかしながら、隣接列のワードも調べることで列を特定可能である。
本例においても、上部領域の各列の要素パターンは互いに異なることが好ましい。ただし、一部の列が他の列と同一のワードから構成されても隣接列のワードを調べることで列を特定可能であるため、上記の条件は必ずしも満たさなくても構わない。
[パターン設計における留意事項]
上記では詳しく述べなかったが、要素パターンの境界を含むワードが有効なワードとなるように、それぞれの要素パターンを設計することが望ましい。すなわち、要素パターンを列方向に並べる際の境界部分が有効なワードとなるように各列の要素パターンを決定することが望ましい。また、隣接する2列の要素パターンの境界部分も有効なワードとなるように各列の要素パターンを決定することが望ましい。さらに、上記の第2の方法においては、上部領域62と下部領域63の境界部分も有効なワードとなるように各列の要素パターンを決定することが望ましい。なお、有効であるとは、例えば、パターン中で互いに異なる、隣接列のワードを含めたワードの組合せが互いに異なる、ことを意味する。
上記のパターンの設計方法の説明は一例であり、パターンが2回対称であればどのようなパターンであってよく、またその設計方法も特に限定されない。たとえば第1の方法は、左半分の領域について設計を行って、右半分の領域は左半分の領域を180°回転させたものとして設計してもよい。
上記の説明では、複数の「要素パターン」を行方向に並べる全体のパターンを設計するものとして説明したが、本発明に係る設計方法はこれに限定されない。次のように、1プリミティブずつ行方向のパターンを増やす方法が考えられる。
1.最初に一番左に来るワードを1つ配置する。
2.その右隣に「プリミティブ」を1列追加する
3.行全体で同じワードがないか確認する。もし同じものがあれば別のプリミティブで2をやり直す。
4.2および3を繰り返す。右端にたどり着いたら終了。
ここでは行の左端から処理する場合を例示したが、右端から左に向かって処理をしてもよいし、中央から両端に向かって処理をしてもよい。また、プリミティブを1列追加する度にワードの重複を確認しているが、複数列のプリミティブを追加する度にワードの重複を確認するようにしてもよい。
[システム構成]
図7は、本実施形態に係る3次元測定システム1の構成を示す図である。3次元測定シ
ステムは、投影部(プロジェクタ)100、撮影部(カメラ)200、およびコンピュータ300から構成される。
投影部100は、2回対称なパターンを有するパターン光を投影する装置である。本実施形態では、投影部100は、レーザー光源101と回折光学素子(DOE)102、およびレンズ103から構成される。DOE102の表面には微細な加工が施されており、これによりDOE102にレーザー光が入射されると2次元符号化パターンが出射される。
レーザー光源101が生成するレーザー光の波長は特に限定されない。たとえば、赤外光、可視光、紫外光などを用いることができる。
DOE102は、一般に、2回対称なパターンは容易に生成できるが、それ以外のパターンの生成は困難であるという性質を持つ。したがって、本実施形態のように2回対称なパターンを用いることで、DOEを用いた投影部100の実装が容易になる。
なおパターン光の生成は必ずしもDOEによって行う必要は無い。たとえば、マスクを用いてパターン光を生成しても構わない。
撮影部(カメラ)200は、投影部100によるパターン光が投影された物体を撮影する。したがって、撮影部200の撮像素子は、投影部100が投影するパターン光の波長を検出できる必要がある。投影したパターン光の一部または全部が撮影部200の視野に映るように投影部100と撮影部200の位置は調整されている。撮影部200によって撮影された画像は、コンピュータ300に入力される。
コンピュータ300は、投影部100および撮影部200の制御と、パターン光が投影された計測対象物の撮影画像から3次元位置の算出とを行う。コンピュータ300は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)などのプロセッサ(演算処理装置)、RAM(Random Access Memory)などの主記憶装置、半導体メモリ・磁気ディスク・光ディスク・光磁気ディスクなどの補助記憶装置、キーボードや種々のポインティングデバイス(マウス、タッチパッド、タッチパネル、ペンタブレット等)やマイクなどの入力装置、ディスプレイ装置(液晶ディスプレイ・CRTディスプレイ・プロジェクタ等)や音声出力装置などの出力装置、有線通信や無線通信を行うための通信装置などを含んで構成される汎用コンピュータ(情報処理装置)として構成される。コンピュータ300は、補助記憶装置に記憶されているコンピュータプログラムが主記憶装置上に展開されたプロセッサが実行することにより、以下の各機能を提供する。ただし、以下の機能の一部または全部を、ASIC(Application Specific Integrated Circuit)やF
PGA(Field Programmable Gate Array)やDSP(Digital Signal Processor)など
を用いて実現しても構わない。また、コンピュータ300は、必ずしも1台の装置として構成される必要はなく、複数のコンピュータが協働することによって、その機能を提供してもよい。
コンピュータ300は、その機能部として、制御部301、画像入力部302、3次元位置算出部303、パターン記憶部304を備える。
制御部301は、3次元測定システム1の処理全体の制御を司り、特に投影部100によるパターン光の投影、撮影部200による撮影、および撮影画像に基づく3次元測定の制御を実施する。
画像入力部302は、撮影部200から撮影画像の入力を受け、画像データとしてメモ
リに記憶する。
3次元位置算出部303は、撮影画像の3次元位置の算出対象画素の選別を行い、選別された対象画素ごとに、当該画素に写っているパターン光の符号(ワード)すなわちパターンにおける列(ワード列)の特定、列と画素位置に基づく3次元位置の算出を行う。パターン記憶部304に投影部100が投影するパターン光のパターンが記憶されているので、3次元位置算出部303は、画像中のパターン光の符号(ワード)から、パターンにおける列を特定できる。また、3次元位置算出部303は、投影部100と撮影部200の設置位置の関係を保持している。したがって、投影部100と特定された列を含む平面と、撮影部200と対象画素を結ぶ直線の交点を、対象画素の3次元位置として求めることができる。
[処理]
図8を参照して、本実施形態に係る3次元測定システム1が行う処理内容を説明する。ステップS10において、制御部301は投影部100を制御して、パターン光を測定対象物へ投影する。ステップS12において、制御部301は撮影部200を制御して、パターン光が投影された測定対象物の画像を撮影し、画像入力部302から撮影画像を取り込む。
ステップS13において、3次元位置算出部303は、撮影画像中から画像処理により3次元位置の算出対象となる画素を抽出する。具体的には、撮影画像中からプリミティブを抽出し、プリミティブの中心座標、プリミティブの符号、プリミティブ間の隣接関係の情報を得る。画像処理の対象とする領域は撮影画像中の全画素であってもよいが、一部の領域に含まれる画素を対象としてもよい。
ステップS14〜S16のループL1は、得られた算出対象画素に対してそれぞれ実行される。ステップS14では、3次元位置算出部303は、算出対象画素に対応するプリミティブにより構成されるワードのパターンから、パターン中の列を特定する。
ステップS16では、3次元位置算出部303は、パターンの列と投影部100から特定される平面と、対象画素の位置(画像内位置)と撮影部200から特定される直線の交点として、対象画素の写っている被写体の3次元位置(実空間内の位置)を算出する。
全ての測距対象画素について3次元位置の算出が完了したら、ステップS18において3次元マップのメモリへの記憶あるいは外部装置への出力を行う。
[本実施形態の有利な効果]
本実施形態によれば、ワンショットでのアクティブ3次元測量が可能である。したがって、TOF方式と比べて、高精度(特に近距離において)、広い視野、安価なコストという利点がある。さらにパターン光が2回対称なパターンであるため、マスクを用いて投影装置を実現する以外に、回折光学素子(DOE)を用いて投影装置を実現することができ、投影装置の構成の柔軟性が増す。2回対称のパターンを投影するためには、回折光学素子として、特にバイナリ回折光学素子を用いることが可能である。バイナリ回折光学素子は設計が容易であるとともに安価に製造することが可能であるので、本発明の実施において適している。
[変形例]
上記の実施形態および変形例の説明は、本発明の実施形態を説明するための例示に過ぎず、本発明をその開示の範囲に限定する趣旨のものではない。また、上記の実施形態および各変形例において説明した要素技術は、それぞれ技術的に矛盾しない範囲で組み合わせ
て本発明を実施することができる。
たとえば、本発明において適用可能な2次元符号化パターン光は上記に限られない。特に図3(A)〜3(D)、図4(A)〜4(B)に示す符号化方式はあくまでも一例であり、その他の既知の2次元符号化方式の空間符号化方式を採用しても構わない。例として、2次元グリッドインデクシング、擬似ランダムバイナリアレイを用いたグリッドインデクシング、多値の擬似ランダムアレイを用いたグリッドインデクシングが挙げられる。
また、3次元位置の算出において、パターンの列から求まる平面と画素位置から求まる直線との交点として3次元位置を算出しているが、エピポーラ制約を用いて3次元位置を求めても構わない。つまり、対応するパターンの列において、さらにエピポーラ制約により行の特定も行い、パターン中ただ一つに求まったプリミティブから求まる直線と画素位置から求まる直線の交点として3次元位置を算出しても構わない。
上記の実施形態ではパターン光から求まる3次元マップを最終的な出力としているが、その後にさらに平滑化や補間などの補正処理を施して最終的な出力とすることもできる。また、1枚の撮影画像のみを対象として3次元位置を求めているが、動画像の各フレームを対象として同様の処理を行うことで、移動物体の3次元測定が可能である。
1:3次元測定システム
100:投影部(プロジェクタ) 101:レーザー光源 102:回折光学素子(DOE) 103:レンズ
200:撮影部(カメラ)
300:コンピュータ 301:制御部 302:画像入力部 303:3次元位置算出部 304:パターン記憶部

Claims (14)

  1. 測定対象物の3次元形状を測定する3次元測定装置であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影手段と、
    前記パターン光が投影された前記測定対象物を撮像する撮像手段と、
    前記撮像手段によって撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出手段と、
    を備え、
    前記2次元符号化パターンは2回対称であって、前記2次元符号化パターンにおいて、1種類のワードは1つの行の中で1回だけ現れ、抽出されたワードによって列が特定可能である、
    3次元測定装置。
  2. 測定対象物の3次元形状を測定する3次元測定装置であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影手段と、
    前記パターン光が投影された前記測定対象物を撮像する撮像手段と、
    前記撮像手段によって撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出手段と、
    を備え、
    前記2次元符号化パターンは2回対称であって、前記2次元符号化パターンにおいて、1種類のワードが1つの行の中で複数の位置に現れる場合、当該ワードに隣接するワードの組合せはそれぞれ位置で異なり、抽出されたワードとそれに隣接するワードの組み合わせから列が特定可能である、
    3次元測定装置。
  3. 前記2次元符号化パターンは、列ごとに列方向に所定のワードが繰り返されたパターン
    であり、
    一端からk列目のワードは、他端からk列目のワードを180°回転させたものと等しい、
    請求項1または2に記載の3次元測定装置。
  4. 前記2次元符号化パターンの上半分は、列方向に所定のワードが繰り返され、
    前記2次元符号化パターンの下半分は前記上半分のパターンを180°回転させたものと等しい、
    請求項1または2に記載の3次元測定装置。
  5. 測定対象物の3次元形状を測定する3次元測定装置であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影手段と、
    前記パターン光が投影された前記測定対象物を撮像する撮像手段と、
    前記撮像手段によって撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出手段と、
    を備え、
    前記2次元符号化パターンは、2回対称であって前記2次元符号化パターンの上半分は列方向に所定のワードが繰り返され、前記2次元符号化パターンの下半分は前記上半分のパターンを180°回転させたものと等しい、
    3次元測定装置。
  6. 前記複数の種類のワードはいずれも、180゜回転させたときに前記複数の種類のワードのいずれかと等しい、
    請求項1から5のいずれか1項に記載の3次元測定装置。
  7. 前記算出手段は、撮影画像中から抽出されたワードについて、撮影画像中での位置から定まる空間中の直線と、当該ワードにより特定される前記2次元符号化パターンでの列から定まる空間中の平面と、の交点として、前記3次元位置を算出する、
    請求項1から6のいずれか1項に記載の3次元測定装置。
  8. 前記算出手段は、前記画像中において前記対象画素および前記対象画素の周辺画素を用いて前記対象画素が含まれるワードを特定し、当該ワードに基づき前記対象画素の3次元位置を算出する、
    請求項7に記載の3次元測定装置。
  9. 前記算出手段は、撮影画像中から抽出されたワードについて、撮影画像中での位置から定まる空間中の直線と、当該ワードにより特定される前記2次元符号化パターンでの列とエピポーラ線との交点から定まる空間中の直線と、の交点として、前記3次元位置を算出する、
    請求項1から6のいずれか1項に記載の3次元測定装置。
  10. 前記投影手段は、回折光学素子(DOE)によって前記パターン光を生成する、
    請求項1から9のいずれか1項に記載の3次元測定装置。
  11. 前記回折光学素子はバイナリ回折光学素子である、
    請求項10に記載の3次元測定装置。
  12. 測定対象物の3次元形状を測定する3次元測定方法であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影ステップと、
    前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
    前記撮像ステップにおいて撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出ステップと、
    を含み、
    前記2次元符号化パターンは、2回対称であって、前記2次元符号化パターンにおいて、1種類のワードは1つの行の中で1回だけ現れ、抽出されたワードによって列が特定可能である、
    3次元測定方法。
  13. 測定対象物の3次元形状を測定する3次元測定方法であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影ステップと、
    前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
    前記撮像ステップにおいて撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出ステップと、
    を含み、
    前記2次元符号化パターンは、2回対称であって、前記2次元符号化パターンにおいて、1種類のワードが1つの行の中で複数の位置に現れる場合、当該ワードに隣接するワードの組合せはそれぞれ位置で異なり、抽出されたワードとそれに隣接するワードの組み合わせから列が特定可能である、
    3次元測定方法。
  14. 測定対象物の3次元形状を測定する3次元測定方法であって、
    それぞれが異なる2次元構造を有し互いに区別可能な複数の種類のワードが2次元に配置された2次元符号化パターンを有するパターン光を前記測定対象物に投影する投影ステップと、
    前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
    前記撮像ステップおいて撮像された画像からワードを抽出し、抽出されたワードに基づいて当該画像の対象画素の3次元位置を算出する算出ステップと、
    を含み、
    前記2次元符号化パターンは、2回対称であって前記2次元符号化パターンの上半分は列方向に所定のワードが繰り返され、前記2次元符号化パターンの下半分は前記上半分のパターンを180°回転させたものと等しい、
    3次元測定方法。
JP2016202682A 2016-10-14 2016-10-14 3次元測定装置および3次元測定方法 Active JP6319395B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016202682A JP6319395B2 (ja) 2016-10-14 2016-10-14 3次元測定装置および3次元測定方法
CN201780054883.6A CN109690241B (zh) 2016-10-14 2017-09-22 三维测定装置和三维测定方法
EP17860595.2A EP3527936B1 (en) 2016-10-14 2017-09-22 Three-dimensional measurement device and three-dimensional measurement method
PCT/JP2017/034218 WO2018070210A1 (ja) 2016-10-14 2017-09-22 3次元測定装置および3次元測定方法
US16/357,401 US10818030B2 (en) 2016-10-14 2019-03-19 Three-dimensional measurement apparatus and three-dimensional measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016202682A JP6319395B2 (ja) 2016-10-14 2016-10-14 3次元測定装置および3次元測定方法

Publications (2)

Publication Number Publication Date
JP2018063220A JP2018063220A (ja) 2018-04-19
JP6319395B2 true JP6319395B2 (ja) 2018-05-09

Family

ID=61905363

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016202682A Active JP6319395B2 (ja) 2016-10-14 2016-10-14 3次元測定装置および3次元測定方法

Country Status (5)

Country Link
US (1) US10818030B2 (ja)
EP (1) EP3527936B1 (ja)
JP (1) JP6319395B2 (ja)
CN (1) CN109690241B (ja)
WO (1) WO2018070210A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6880512B2 (ja) * 2018-02-14 2021-06-02 オムロン株式会社 3次元測定装置、3次元測定方法及び3次元測定プログラム
JP7243513B2 (ja) * 2018-08-02 2023-03-22 オムロン株式会社 計測システムおよび計測方法
DE102020133627A1 (de) * 2020-12-15 2022-06-15 Infinisense Technologies GmbH Verfahren und Intraoralscanner zum Erfassen der Topographie der Oberfläche eines transluzenten, insbesondere dentalen, Objektes

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3028016B2 (ja) * 1993-02-26 2000-04-04 村田機械株式会社 積荷の三次元画像計測方法
US6512385B1 (en) * 1999-07-26 2003-01-28 Paul Pfaff Method for testing a device under test including the interference of two beams
US20030067312A1 (en) * 2001-06-12 2003-04-10 Paul Pfaff Voltage testing and measurement
JP2004212385A (ja) 2002-12-19 2004-07-29 Olympus Corp 撮影装置とその撮影装置の撮影方法及び制御方法
US20050068544A1 (en) 2003-09-25 2005-03-31 Gunter Doemens Panoramic scanner
DE10344922B4 (de) * 2003-09-25 2008-06-26 Siemens Audiologische Technik Gmbh Rundum-Scanner
TW200538704A (en) * 2004-05-21 2005-12-01 Zetetic Inst Apparatus and methods for overlay, alignment mark, and critical dimension metrologies based on optical interferometry
CN100449258C (zh) * 2006-04-27 2009-01-07 浙江工业大学 基于二维彩色光编码的实时三维视觉系统
JP2008032609A (ja) * 2006-07-31 2008-02-14 Aisin Seiki Co Ltd 三次元形状測定装置及び三次元形状測定方法
US8090194B2 (en) 2006-11-21 2012-01-03 Mantis Vision Ltd. 3D geometric modeling and motion capture using both single and dual imaging
CN100554873C (zh) * 2007-07-11 2009-10-28 华中科技大学 一种基于二维编码的三维形貌测量方法
JP2009031150A (ja) * 2007-07-27 2009-02-12 Omron Corp 三次元形状計測装置、三次元形状計測方法、三次元形状計測プログラム、および記録媒体
EP2362963A2 (en) 2008-10-06 2011-09-07 Mantisvision Ltd. Method and system for providing three-dimensional and range inter-planar estimation
US9994228B2 (en) * 2010-05-14 2018-06-12 Iarmourholdings, Inc. Systems and methods for controlling a vehicle or device in response to a measured human response to a provocative environment
US9927718B2 (en) 2010-08-03 2018-03-27 Kla-Tencor Corporation Multi-layer overlay metrology target and complimentary overlay metrology measurement systems
JP5808502B2 (ja) * 2012-11-21 2015-11-10 三菱電機株式会社 画像生成装置
CN105917358B (zh) * 2014-01-10 2020-03-24 株式会社高永科技 三维形状测定装置及方法
US9562760B2 (en) * 2014-03-10 2017-02-07 Cognex Corporation Spatially self-similar patterned illumination for depth imaging
US9558436B2 (en) 2014-06-20 2017-01-31 Qualcomm Incorporated Coded light pattern having hermitian symmetry
US10595941B2 (en) * 2015-10-30 2020-03-24 Orthosensor Inc. Spine measurement system and method therefor
US20170119316A1 (en) * 2015-10-30 2017-05-04 Orthosensor Inc Orthopedic measurement and tracking system
US10376182B2 (en) * 2015-10-30 2019-08-13 Orthosensor Inc. Spine measurement system including rod measurement
EP3296723A1 (en) * 2016-09-14 2018-03-21 ASML Netherlands B.V. Illumination source for an inspection apparatus, inspection apparatus and inspection method
US10867225B2 (en) * 2018-08-02 2020-12-15 Omron Corporation Measurement system and measurement method

Also Published As

Publication number Publication date
WO2018070210A1 (ja) 2018-04-19
EP3527936A4 (en) 2019-12-11
CN109690241B (zh) 2020-12-15
US20190213753A1 (en) 2019-07-11
EP3527936B1 (en) 2021-12-15
CN109690241A (zh) 2019-04-26
JP2018063220A (ja) 2018-04-19
EP3527936A1 (en) 2019-08-21
US10818030B2 (en) 2020-10-27

Similar Documents

Publication Publication Date Title
US10768435B2 (en) System, method and computer program product to project light pattern
CA3040002C (en) A device and method for obtaining distance information from views
JP6879168B2 (ja) 3次元測定装置、3次元測定方法及びプログラム
US9546863B2 (en) Three-dimensional measuring apparatus and control method therefor
JP6270157B2 (ja) 画像処理システムおよび画像処理方法
JP2016502704A (ja) 奥行きアーチファクトを除去するための画像処理方法および装置
JP2021507440A (ja) 対象物の3次元画像を生成するための方法およびシステム
TW201946032A (zh) 使用不同密度的投影圖案進行距離測量
JP6319395B2 (ja) 3次元測定装置および3次元測定方法
JP2007192608A (ja) 三次元形状の測定方法およびその装置
KR20160031967A (ko) 멀티 프로젝션 시스템 및 이의 프로젝터 캘리브레이션 방법
CN111336949B (zh) 一种空间编码结构光三维扫描方法与系统
Farsangi et al. Rectification based single-shot structured light for accurate and dense 3D reconstruction
KR101832960B1 (ko) 구조광 생성 방법, 그 장치 및 그 장치를 이용한 모션 인식 장치
JP2006202152A (ja) 画像処理装置および画像処理方法並びにこれらに用いるプログラム
US10867225B2 (en) Measurement system and measurement method
JP2022537423A (ja) 3d画像収集プロセスにおいて使用するための露出設定の1つまたは複数のグループを決定するための方法
JP2020024200A (ja) 計測システムおよび計測方法
CN111336950B (zh) 一种空间编码与线结构光相结合的单帧测量方法与系统
JP2016121916A (ja) 形状測定装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180319

R150 Certificate of patent or registration of utility model

Ref document number: 6319395

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250