JP2019086294A - 3次元測定装置、3次元測定方法及びプログラム - Google Patents

3次元測定装置、3次元測定方法及びプログラム Download PDF

Info

Publication number
JP2019086294A
JP2019086294A JP2017211840A JP2017211840A JP2019086294A JP 2019086294 A JP2019086294 A JP 2019086294A JP 2017211840 A JP2017211840 A JP 2017211840A JP 2017211840 A JP2017211840 A JP 2017211840A JP 2019086294 A JP2019086294 A JP 2019086294A
Authority
JP
Japan
Prior art keywords
dimensional
pattern
camera
captured
random
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017211840A
Other languages
English (en)
Other versions
JP6879168B2 (ja
Inventor
星斗 付
Xingdou Fu
星斗 付
正樹 諏訪
Masaki Suwa
正樹 諏訪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2017211840A priority Critical patent/JP6879168B2/ja
Priority to CN201811178513.6A priority patent/CN109751973B/zh
Priority to EP18200388.9A priority patent/EP3480556B1/en
Priority to US16/166,213 priority patent/US10600193B2/en
Publication of JP2019086294A publication Critical patent/JP2019086294A/ja
Application granted granted Critical
Publication of JP6879168B2 publication Critical patent/JP6879168B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】従来に比して、測定対象物の3次元点群データの再現性及び画像の明瞭性が高い3次元計測技術を提供する。【解決手段】測定対象物に対して、ハイブリッドパターンPhを有するパターン光を投影して3次元測定を行う。ハイブリッドパターンPhは、構造化光パターンPsにランダムパターンPrを重畳したものであり、ランダムパターンPrと構造化光パターンPsが相互干渉しないように、パターン配置されている。これにより、画像の明瞭性という点で優れた構造化光パターンと、3次元点群データの再現性という点で優れたランダムパターンの両方の利点を享受することが可能となる。【選択図】図5

Description

本発明は、パターン光を投影して測定対象物の3次元位置を測定する3次元測定技術に関する。
測定対象物の3次元形状を測定する手法として能動型計測(アクティブ計測)が知られている。能動型計測では、測定対象物にパターン光を投影した状態で撮影を行い、撮影された画像上でのパターンの位置から、三角測量の原理を用いて測定対象物の3次元形状(各画素の3次元位置)を求める。
能動型計測の中でも、1枚の画像のみから3次元形状を測定可能なワンショットアクティブ形状計測は、1枚の画像のみを利用するのでリアルタイム計測が可能になる等の理由から、有益な技術として注目されている。
ワンショットアクティブ形状計測を行う方法として、構造化光パターンを用いる方法が知られている。構造化光パターンを用いる方法では、測定対象物にパターン光を投影した状態で撮像を行い、撮像された画像上でのパターンの位置から測定対象物の3次元形状を求める。構造化光パターンを用いる方法は、高精度(特に近距離において)、広い視野、安価なコストという利点がある。
構造化光パターンを用いる方法の一例として、非特許文献1には、空間的な符号化(コード化)がなされたパターン光を用いる方法が開示されている。非特許文献1における2次元パターンは、プリミティブと称されるパターン構成要素が2次元的に敷き詰められた構造を有する。複数のプリミティブを含むウィンドウ(例えば2×3のプリミティブからなる)は、当該ウィンドウに含まれる複数のプリミティブによって特定できる。したがって、撮像画像からプリミティブの並びを検出することで、3次元位置を算出することができる。
一方、受動型計測(パッシブ計測)として、2台のカメラ(いわゆるステレオカメラ)を用いて測定対象物の3次元形状を求める方法が知られている。ステレオカメラを用いる方法では、カメラを左右に配置して測定対象物を同時に撮像し、得られた画像から対応する画素の対、すなわち対応点を探索し、左右画像の対応点同士が左右方向にどれだけ離れているか(すなわち、視差)を求め、この視差に三角測量の原理を用いて、得られた画像の各画素の3次元位置を算出する方法(ステレオ方式による3次元計測法)が利用される。
しかしながら、ステレオ方式による3次元計測法では、測定精度が測定対象物の表面のテクスチャに直接的な影響を受けるため、テクスチャが少ない平坦な面や反射面では、対応点の検出や3次元位置の計算が非常に困難となる。
このような問題を解消するために、ステレオカメラと1台のプロジェクタを用いて、プロジェクタからパターン光を投射し、計測対象物の表面にテクスチャを与え、テンプレートマッチングを行うことで、対応点の検出や3次元位置の計算の精度を向上させる方法が提案されている。
P. Vuylsteke and A. Oosterlinck, Range Image Acquisition with a Single Binary-Encoded Light Pattern, IEEE PAMI 12(2), pp. 148-164, 1990.
しかしながら、非特許文献1に開示されている構造化光パターンを用いた方法では、測定対象物に符号化パターンを有するパターン光が投射されるため、測定対象物が小さいと、測定対象物の撮像画像に写っているパターン光の符号を、精度よく復号化(デコード)するのが難しく、測定対象物の3次元形状を復元した点群(以下、「3次元点群データ」ともいう)の再現性が低いという問題がある。
この点、ステレオカメラを用いた方法では、パターン光の投影によって得られるテクスチャは、対応点の探索のために用いられ、パターン光の符号をデコードするといった処理は必要ない。このため、測定対象物が小さくても、ステレオカメラを用いた場合の3次元点群データの再現性は、構造化光パターンを用いた場合の3次元点群データの再現性と比較して高い。
しかしながら、ステレオカメラを用いた方法では、3次元点群データの精度が低いために、得られる画像は不明瞭なものとなる。図14は、ステレオカメラを用いた場合の画像の明瞭性と、構造化光パターンを用いた場合の画像の明瞭性を比較した図である。
図14に示すように、ステレオカメラを用いた方法では、構造化光パターンを用いた場合よりも3次元点群データの精度が低いために、構造化光パターンを用いた場合の画像に比べて画像の明瞭性は低い。
本発明は以上説明した事情を鑑みてなされたものであり、従来に比して、測定対象物の3次元点群データの再現性及び画像の明瞭性が高い3次元計測技術を提供することを目的とする。
本発明の一態様に係る3次元測定装置は、測定対象物の3次元形状を測定する3次元測定装置であって、互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を測定対象物に投影する投影部と、パターン光が投影された測定対象物を撮像する、第1カメラ及び第2カメラを備えた撮像部と、2次元符号化パターンを記憶するパターン記憶部と、第1カメラまたは第2カメラによって撮像された撮像画像から対象画素を選別し、選別された対象画素ごとに、画素に写っているパターン光のワードを抽出し、抽出されたワード及びパターン記憶部に記憶された2次元符号化パターンに基づき、各対象画素の3次元位置を求める第1算出部と、第1カメラ及び第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、基準画像から各ランダム片に対応した各特徴点を抽出し、抽出された各特徴点を用いて比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、各特徴点の3次元位置を求める第2算出部とを備える。
上記構成によれば、測定対象物に対して、ハイブリッドパターンを有するパターン光を投影して3次元測定を行う。ここで、ハイブリッドパターンは、互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターン(すなわち、構造化光パターン)にランダムパターンを重畳したものであり、ランダムパターンと構造化光パターンが相互干渉しないように、パターン配置されている。これにより、構造化光パターンとランダムパターンの両方の利点を享受し得る。すなわち、画像の明瞭性という点で優れた構造化光パターンと、3次元点群データの再現性という点で優れたランダムパターンの両方の利点を享受することが可能となる。
本発明の他の態様に係る3次元測定方法は、測定対象物の3次元形状を測定する3次元測定方法であって、互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を測定対象物に投影する投影ステップと、第1カメラ及び第2カメラを備えた撮像部により、パターン光が投影された測定対象物を撮像する撮像ステップと、第1カメラまたは第2カメラによって撮像された撮像画像から対象画素を選別し、選別された対象画素ごとに、画素に写っているパターン光のワードを抽出し、抽出されたワード及び記憶部に記憶された2次元符号化パターンに基づき、各対象画素の3次元位置を求める第1算出ステップと、第1カメラ及び第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、基準画像から各ランダム片に対応した各特徴点を抽出し、抽出された各特徴点を用いて比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、各特徴点の3次元位置を求める第2算出ステップとを含む。
本発明の他の態様に係るプログラムは、2次元符号化パターンを記憶した記憶部と、第1カメラ及び第2カメラを備えた撮像部を備えたコンピュータに、測定対象物の3次元形状を測定させるためのプログラムであって、コンピュータに、互いに区別可能な複数の種類のワードを2次元に配置した前記2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を測定対象物に投影する投影ステップと、撮像部によりパターン光が投影された測定対象物を撮像する撮像ステップと、第1カメラまたは第2カメラによって撮像された撮像画像から対象画素を選別し、選別された対象画素ごとに、画素に写っているパターン光のワードを抽出し、抽出されたワード及び記憶部に記憶された2次元符号化パターンに基づき、各対象画素の3次元位置を求める第1算出ステップと、第1カメラ及び第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された各特徴点を用いて比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、各特徴点の3次元位置を求める第2算出ステップとを実行させる。
本発明によれば、従来に比して、測定対象物の3次元点群データの再現性及び画像の明瞭性が高い3次元計測技術を提供することが可能となる。
3次元測定システムの全体構成を示す図である。 ハイブリッドパターンを例示した図である。 投影部と撮像部の位置関係を例示した図である。 3次元点群データを精緻化する方法を説明するための図である。 ハイブリッドパターンの生成方法を説明するための図である。 構造化光パターンに対するランダムパターンの重畳の影響を説明するための図である。 構造化光パターンを例示した図である。 構造化光パターンを用いた3次元計測の原理を説明するための図である。 (A)〜(E)は、プリミティブを説明するための図である。 (A)及び(B)は、複数のプリミティブから構成されるワードを説明するための図である。 ハイブリッドパターンの設計方法の流れを示すフローチャートである。 他のハイブリッドパターンの設計方法を説明するための図である。 3次元測定システムによって実行されるハイブリッドパターンを用いた3次元測定の処理を示すフローチャートである。 精緻化処理を示すフローチャートである。 画像の明瞭性の比較例を示す図である。
以下、図面を参照して本発明の実施形態について詳細に説明する。本実施形態に係る3次元測定システムは、測定対象物にパターン光を投影して撮影を行い、三角測量の原理を用いて測定対象物の3次元形状を測定する。なお、同一の要素には同一の符号を付し、重複する説明を省略する。また、以下の実施の形態は、本発明を説明するための例示であり、本発明をその実施の形態のみに限定する趣旨ではない。さらに、本発明は、その要旨を逸脱しない限り、さまざまな変形が可能である。
A.本実施形態
[構成]
図1は、本実施形態に係る3次元測定システム1000の構成を示す図である。
3次元測定システム1000は、投影部100、撮像部200、コンピュータ300を備えて構成される。本実施形態に係る3次元測定システム1000は、構造化光パターンを用いて測定対象物の3次元位置を求めるシステム(以下、「構造化光システム」ともいう。)と、ステレオカメラを用いて測定対象物の3次元位置を求めるシステム(以下、「ステレオカメラシステム」ともいう。)を融合したハイブリッド3次元測定システムである。
投影部100は、本実施形態に特徴的なハイブリッドパターンを有するパターン光を投影する装置である。投影部100は、レーザ光源110と、パターンマスク120と、レンズ130とを備えている。レーザ光源110から出射された光は、パターンマスク120によってハイブリッドパターンを有するパターン光に変換され、レンズ130を介して外部に投影される。
レーザ光源110は、例えば複数のLED素子からなるLEDモジュールを備えて構成される。レーザ光源110が生成するレーザ光の波長は特に限定されず、例えば赤外光、可視光、紫外光などを用いることができる。
パターンマスク120は、構造化光パターンとランダムパターンとを組み合わせてハイブリッドパターンを形成したパターンマスクである。図2にハイブリッドパターンPh(hybrid pattern)の例を示す。もっとも、パターンマスク120によってハイブリッドパターンPhを形成する代わりに、構造化光パターンとランダムパターンとの2つに分けて、それぞれのパターン光を個別に測定対象物に投影することでハイブリッドパターンを形成する方法でも構わない。なお、構造化光パターンPs(structured light pattern)とランダムパターンPr(random pattern)の役割等については後に詳述することとし、説明を続ける。
ここで、投影部100は、上記構成に限定する趣旨ではなく、一般的なプロジェクタを利用してもよい。この場合、ハイブリッドパターンを形成するパターンマスク120をプロジェクタ本体に保存等して対応すればよい。
撮像部200は、投影部100によるパターン光が投影された物体(測定対象物)を撮像するものであり、第1カメラ210及び第2カメラ220を備えて構成される。第1カメラ210及び第2カメラ220は、例えば、撮像素子、レンズ、レンズ駆動素子などから構成されるカメラモジュールである。撮像素子としては、例えばCMOSセンサやCCDセンサなどが用いられ、投影部100が投影するパターン光の波長を検出できるものが選択される。
第1カメラ210及び第2カメラ220の画素サイズや設置位置は、計測対象物のサイズや要求される計測精度に基づき、適宜選択・設定される。図3は、投影部100と第1カメラ210と第2カメラ220の位置関係を例示した図である。
図3に示すように、投影部(P)100は、第1カメラ(C1)210と第2カメラ(C2)220との間に設置されている。かかる構成により、測定対象物をそれぞれ異なる視覚方向から見た2つの構造化光システムと、1つのステレオカメラシステムが形成される。すなわち、投影部100と第1カメラ210によって第1の構造化光システム(C1+P)が形成され、投影部100と第2カメラ220によって第2の構造化光システム(C2+P)が形成される一方、第1カメラ210と第2カメラ220によってステレオカメラシステム(C1+C2)が形成される。図3に示す例では、第1カメラ210と投影部100との間の距離(第1ベースライン)L1は、第2カメラ220と投影部100との間の距離(第2ベースライン)L2よりも長く設定されているが、第1ベースラインL1と第2ベースラインL2は同一長さであってもよい。また、第1カメラ210、第2カメラ220、投影部100の配置をそれぞれ入れ替えてもよい。さらには、2Dカメラを1つ追加し、2Dカメラによって可視光のみを撮影する一方、第1カメラ(C1)210と第2カメラ(C2)220によって、投影部100から出射される不可視光のみを撮影するようにしてもよい。
コンピュータ300は、CPU(中央演算処理装置)などのプロセッサ、ワークメモリとして用いられるRAMやROMなどの主記憶装置、ハードディスクなどの補助記憶装置、キーボードや種々のポインティングデバイス(マウス、タッチパッド、タッチパネルなど)やマイクなどの入力装置、ディスプレイ装置(液晶ディスプレイなど)やスピーカなどの出力装置、有線通信や無線通信を行うための通信装置などを含んで構成される汎用コンピュータ(情報処理装置)として構成される。コンピュータ300は、プロセッサが補助記憶装置等に格納されたコンピュータプログラムを読み込むことで、各種処理を実行する。このようなプログラムは、メモリカードや光ディスクなどのコンピュータ読取可能な記録媒体に格納された状態か、インターネットなどを通じて提供される。なお、本実施形態に係るプログラムは単体のアプリケーションプログラムとして提供されてもよいし、他のプログラムの一部に組み込まれるモジュールとして提供されてもよい。また、そのプログラムによって実行される処理の一部又は全部をASICなどの専用回路で実行してもよい。
コンピュータ300は、プロセッサが補助記憶装置等に格納されたプログラムを読み込み、実行することで、制御部310、画像入力部320、3次元処理部330、精緻化部340として動作する。
制御部310は、3次元測定システム1000全体を中枢的に制御し、特に、投影部100によるハイブリッドパターンのパターン光の投影、撮像部200による撮像、及び撮像画像に基づく3次元位置の測定などを制御する。
画像入力部320は、第1カメラ210及び第2カメラ220によって撮像される画像を入力し、撮像画像としてメモリに記憶する。なお、制御部310は、第1カメラ210及び第2カメラ220による撮像タイミングが一致する(すなわち同期する)ように、タイミング制御回路(図示略)から第1カメラ210及び第2カメラ220に同期信号を送信する。説明の便宜上、以下では第1カメラ210で撮像した画像を第1キャプチャ画像Img1と呼び、第2カメラ220で撮像した画像を第2キャプチャ画像Img2と呼ぶ。
3次元処理部330は、第1の3次元点群データ生成部331、第2の3次元点群データ生成部332、第3の3次元点群データ生成部333、パターン記憶部334を備えている。3次元処理部330は、画像入力部320から供給される第1キャプチャ画像Img1及び第2キャプチャ画像Img2に基づき、以下(1)〜(3)に示す3種類の3次元点群データを生成する。なお、(1)及び(2)は、構造化光パターンPsを利用して3次元点群データを生成するモードであり、(3)は、ランダムパターンPrを利用して3次元点群データを生成するモードである。本実施形態では、以下(1)〜(3)をすべて同時に利用して3次元点群データを生成する融合モードを想定するが、構造化光パターンPsのみを利用して3次元点群データを生成してもよく、またランダムパターンPrのみを利用して3次元点群データを生成してもよい。
(1)第1の3次元点群データ生成部331は、投影部100と第1カメラ210から構成された第1の構造化光システム(C1+P)を利用して、第1キャプチャ画像Img1に基づき3次元点群データR1を生成する。
(2)第2の3次元点群データ生成部332は、投影部100と第2カメラ220から構成された第2の構造化光システム(C2+P)を利用して、第2キャプチャ画像Img2に基づき3次元点群データR2を生成する。
(3)第3の3次元点群データ生成部333は、第1カメラ210と第2カメラ220から構成されたステレオカメラシステム(C1+C2)を利用して、第1キャプチャ画像Img1及び第2キャプチャ画像Img2に基づき3次元点群データR3を生成する。
なお、第1の3次元点群データ生成部331〜第3の3次元点群データ生成部333によって生成される3次元点群データR1〜R3の詳細は後述する。
精緻化部340は、3次元処理部330から供給される3種類の3次元点群データR1〜R3を精緻化することで、最終点群データRfを生成する。3次元点群データを精緻化する方法としては、例えば図4に示すような方法が挙げられる。
図4のαは、第1の構造化光システム(C1+P)及び第2の構造化光システム(C2+P)によって生成された精緻化前の測定対象物(図4では中空円板)Wの3次元点群データR1及びR2を示し、図4のβは、ステレオカメラシステム(C1+C2)によって生成された精緻化前の測定対象物Wの3次元点群データR3を示し、図4のγは、精緻化後の測定対象物Wの最終点群データRfを示す。前述したように、測定対象物Wが小さい場合には、構造化光システムを用いて得られる3次元点群データの再現性は低くなり、図4に示す例では、構造化光システムによって生成された3次元点群データR1及びR2のうち、測定対象物Wの内周の境界部分B1の3次元点群データR1及びR2(図4のαに示す破線枠参照)の再現性が低くなる。そこで、測定対象物Wの内周の境界部分B1については、構造化光システムによって生成された3次元点群データR1及びR2に、ステレオカメラシステムを用いて得られた3次元点群データR3(図4のβに示す実線枠参照)を重畳することで、3次元点群データを精緻化し、最終点群データRfを生成する。精緻化部340は、生成した最終点群データRfを3次元マップのメモリへの記憶、または外部装置への出力を行う。なお、図4に示す方法は、3次元点群データを精緻化する一例にすぎず、測定対象物の形状、大きさなどに応じて適宜設定・変更可能である。
[ハイブリッドパターンの概要]
本実施形態に係るハイブリッドパターンPhは、構造化光パターンPsにランダムパターンPrを重畳したものであり(図2参照)、構造化光パターンPsとランダムパターンPrの両方の利点を享受し得る。詳述すると、3次元点群データの精度(accuracy)、すなわち画像の明瞭性という点では、測定対象物Wに構造化光パターンPsを投影した場合の方が、測定対象物WにランダムパターンPrを投影した場合よりも高く、構造化光パターンPsに利点があるのに対し、測定対象物Wが小さい場合の3次元点群データの再現性(reconstruction ability to small areas)という点では、測定対象物WにランダムパターンPrを投影した場合の方が、測定対象物に構造化光パターンPsを投影した場合よりも高く、ランダムパターンPrに利点がある。これら両方の利点を享受することを目的としたのがハイブリッドパターンPhである。
図5は、ハイブリッドパターンPhの生成方法を説明するための図であり、図5のAは、ハイブリッドパターンPhを構成する構造化光パターンPsの一部を拡大したパターン図、図5のBは、ハイブリッドパターンPhを構成するランダムパターンPrの一部であるランダム片Prpを表した図、図5のCは、構造化光パターンPsにランダムパターンPrを重畳することで生成したハイブリッドパターンPhの一部を拡大したパターン図を示す。なお、図5において、パターンの黒色部分は光が照射されていることを示し、パターンの白色部分は光が照射されていないことを示すが、これは逆であってもよい。
本実施形態では、構造化光パターンPsを構成するバウンディングボックス(後述する「ビット」に対応)Bbに重ならないように位置する矩形領域Ana(図5のA参照)に、ランダムパターンPrを構成するランダム片Prp(図5のB参照)を重畳することで、ハイブリッドパターンPhを生成する(図5のC参照)。
ここで、ランダム片Prpのサイズ(大きさ)は、常に、構造化光パターンにおける矩形領域Anaのサイズ(大きさ)よりも小さくなるように設定されている。このようなサイズのランダム片Prpを、バウンディングボックスBbに重ならないように位置する矩形領域Ana内に重畳することで、ランダム片Prpによって構成されるランダムパターンPrと、構造化光パターンPsの干渉(すなわちパターンの相互干渉)を防いでいる。なお、このような干渉を防ぐため、ランダム片Prpは矩形領域Ana内に重畳することが望ましいが、構造化光パターンの特徴点の検出に及ぼす影響が小さい範囲内で、ランダム片Prpが矩形領域Ana以外の領域に重畳しても構わない。
なお、図5のBに示すように、各ランダム片Prpは、ドットや、線、曲線などを適宜組み合わせたものを利用することができる。また、各矩形領域Anaには、それぞれ異なるユニークなランダム片Prpが重畳されている。これにより、各ランダム片Prpを一意に特定することが可能となる。また、各ランダム片Prpと、各ランダム片Prpが重畳される各矩形領域Anaは、白黒反転するように設定される。例えば、黒色の矩形領域Anaにランダム片Prpが重畳される場合、重畳されるランダム片Prpは白色に設定される一方、白色の矩形領域Anaにランダム片Prpが重畳される場合には、重畳されるランダム片Prpは黒色に設定される(図5のC参照)。
図6は、構造化光パターンPsに対するランダムパターンPrの重畳の影響を説明する
ための図である。図6のAは、構造化光パターンPsを示し、図6のBは、構造化パターンPsにランダムパターンPrが重畳されたハイブリッドパターンPhを示している。なお、図6のAでは、フィルタ処理の対象領域を実線で示し、所定量(例えば20画素分)だけシフトした後の対象領域を破線で示す。図6のBでは、フィルタ処理の対象領域を実線で示す。
また、図6のCは、コンボリューション行列(二次元畳み込み行列)を用いたフィルタの一例を示している。ここで、図6のDは、図6のCに示すフィルタを1画素ずつ右方向にシフトさせたときの、構造化光パターンPsのフィルタ後の対象領域の畳み込み演算結果(畳み込み値)の変化を示す一方、図6のEは、図6のCに示すフィルタを同様に1画素ずつ右方向にシフトさせたときの、ハイブリッドパターンPhのフィルタ後の対象領域の畳み込み演算結果(畳み込み値)の変化を示している。なお、図6のD及び図6のEでは、畳み込み演算結果のピーク値(最大値)とバレー値(最小値)をそれぞれ四角で囲っている。
ここで、図6のAにおけるフィルタ処理の対象領域が実線で示した領域のときの畳み込み演算結果は、図6のDに示すピーク値となる。この状態で図6のCに示すフィルタを1画素ずつ右方向にシフトすると、畳み込み演算結果は、図6のDにあるように減少していく。最終的にフィルタを20画素分だけ右側にシフトすると、図6のAにおけるフィルタ処理の対象領域は破線で示した領域となり、このときの畳み込み演算結果は、図6のDに示すバレー値となる。このように、フィルタの対象領域がシフトすると、フィルタ後の対象領域の畳み込み演算結果のピーク値が減少するか、またはバレー値が増大し、ピーク値とバレー値の関係が大きく崩れてしまい、測定対象物の撮像画像から抽出される特徴点の検出に大きな影響を及ぼす。
これに対し、フィルタ処理の対象領域はそのままで、構造化パターンPsにランダムパターンPrを重畳した場合には、図6のDと図6のEを比較して明らかなように、対象領域の畳み込み演算結果に多少の変化はみられるものの、畳み込み演算結果のピーク値とバレー値の関係が大きく崩れることはない。このため、構造化パターンPsにランダムパターンPrを重畳しても、構造化光パターンPsだけを用いた場合に対して、特徴点の検出に及ぼす影響はほとんどないと言える。
なお、本願発明者らは、構造化光パターンPsに対するランダムパターンPrの重畳の影響が小さいことを確かめるために、本実施形態に係るハイブリッドパターンPh(すなわち、構造化光パターンPsにランダムパターンPrを重畳したもの)のほか、比較用のパターンとして、ランダムパターンPrが重畳されていない構造化光パターンPsを用意し、ハイブリッドパターンPhのパターン光を投影したときに撮像画像に写る各算出対象画素と、比較用のパターンのパターン光を投影したときに撮像画像に写る各算出対象画素との間の平均位置ずれ量を求めた。その結果、平均位置ずれ量は、略0.033ピクセルと非常に小さく、構造化光パターンPsを用いた3次元計測において、ランダムパターンPrの重畳の影響は非常に小さいことが確認できた。
<構造化光パターンPsの説明>
構造化光パターンPsは、所定の符号化が施されており、図7Aに示すような符号の2次元配列とみなすことができる。構造化光パターンPsは、列ごとに特有の符号列を有するため、コンピュータ300の3次元処理部330は、パターン光が投影された測定対象物の撮像画像を解析し、撮像画像における対象画素が構造化光パターンPsのどの列に対応するかを求めことで、各画素の3次元位置を求めることができる。より具体的には、画素はプリミティブ(後述する)の単位で処理される。
図7Bは、本実施形態における構造化光パターンPsを用いた3次元計測の原理を説明する図である。図7Bは、測定対象物Wに対して投影部100から構造化光パターンを有するパターン光23が投影されており、パターン光が投影された測定対象物Wを第1カメラ210(または第2カメラ220)によって撮像することを示す。ここで、第1カメラ210(または第2カメラ220)の位置Oと測定対象物Wの点Xを結ぶ直線OX上の点は、投影部100の画像平面上では直線を形成する。この直線は、撮像画像26における対象画素xのエピポーラ線l’と呼ばれるものであり、対象画素xに対するパターン光の対応点(別言すると、対象画素xに写っているパターン光が、どの列のパターン光であるか)は、エピポーラ線l’上を探索することで求めることができる。エピポーラ線l’上を探索して対象画素xの対応点を把握し、把握した対象画素xの対応点に三角測量の原理を適用することで測定対象物Wの点Xの3次元位置を求めることができる。
本実施形態における構造化光パターンのパターン光は、2次元符号化パターンを有する。具体的には、明暗2値からなる有限種類の「プリミティブ」(基本パターン)を2次元的に所定数個並べた「ワード」を有し、各種類の「ワード」はそれぞれが異なる2次元構造を有し、互いに区別可能である。
図8(A)は、「プリミティブ」を説明する図である。プリミティブ30は、中央の1つの小さな矩形である「ビット」31とその周囲の4つの大きな矩形である「グリッド」32−35から構成される。1つのプリミティブは、ビットおよびグリッドの光照射の有無の組み合わせにより、図8(D)に示すような4つの値をとる。なお、図8(A)では、中央部に配置された1つのビット31を実線で示しているが、破線で示すように、ビット31は中央部だけでなくその周囲にも存在する。
まず、図8(B)に示すように、ビット31に対する光照射の有無により、プリミティブの値(絶対値)が「0」または「1」に決まる。
次に、図8(C)に示すように、グリッド32−35の組み合わせにより、プリミティブ30の符号が「プラス」または「マイナス」に決まる。プラスとマイナスのパターンは、それぞれ逆であっても構わない。
そして、図8(D)に示すように、ビット31とグリッド32−35の組み合わせにより、プリミティブ30は「+1」、「−1」、「+0」、「−0」の4つの値を取り得る。
図8(E)は、プリミティブ30に設定される矩形領域Ana(図5のA参照)を例示した図である。図8(E)に示すように、プリミティブ30の中央だけでなく、プリミティブ30の周囲(グリッド32−35の各頂点)にもビット31が存在する。そして、各グリッド32−35の内側には、各ビット31に重ならないように、矩形領域Anaが設定される(図8(E)の破線で囲まれた領域参照)。
図9(A)は、複数のプリミティブから構成される「ワード」の例を示す図である。ここでは、4行4列のプリミティブから1つのワードが構成される例を示しているが、1ワードを構成するプリミティブ数は適宜決めて構わない。例えば、3×3や2×4のプリミティブを1ワードとしてもよい。
図9(B)は、ワード40に含まれるプリミティブの一部を示す。ワード40は、5×5のグリッドを含む。ここで、ワード40内のプリミティブは、2×2グリッド(1プリミティブ)の範囲を1グリッドずつずらすことによって得られる。したがって、ワード40の左端の列には、図9(B)に示すように、4つのプリミティブ41−44が含まれる。各行も同様に4つのプリミティブから構成されるので、ワード40は16個のプリミティブから構成される。すなわち、1ワードは16プリミティブからなる符号と対応付けられる。
<ランダムパターンPrの説明>
ランダムパターンPrは、非周期的な明暗パターンであり、それぞれが一意に特定可能(すなわちユニーク)な複数のランダム片Prp(図5のB参照)を不規則に配置することにより二値のランダムパターンPrが作成される。「不規則に配置」とは、全く規則性も再現性もないランダムな配置でもよいし、疑似乱数のようなものを利用した配置であってもよい。本実施形態では、ランダムパターンPrが測定対象物に投影され、第1カメラ210及び第2カメラ220を含むステレオカメラシステムによって撮像される。コンピュータ300の3次元処理部330は、投影部100によって測定対象物に投影されたランダムパターンPrを構成するユニークなランダム片Prpを特徴点として、第1カメラ210及び第2カメラ220で撮像された第1キャプチャ画像Img1及び第2キャプチャ画像Img2から同じ特徴点(対応する画素の対、すなわち対応点)を探索する処理(以下、「対応点探索処理」ともいう。)を行う。
対応点探索処理には、例えばSSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference)、NCC(Normalized Cross-Correlation)、ZNCC(Zero-mean Normalized Cross-Correlation)といった様々なテンプレートマッチング手法を用いることができる。コンピュータ300は、対応点探索処理を実行することによって、特徴点ごとに、第1キャプチャ画像Img1上の座標及び第2キャプチャ画像Img2上の座標を特定すると、カメラの光学的仕様からステレオ計測の原理により、各カメラから特徴点までの位置(3次元位置)を計算し、各特徴点の3次元位置を求める。
[ハイブリッドパターンの設計方法]
図10は、ハイブリッドパターンPhの設計方法の流れを示すフローチャートである。
まず、明暗2値からなる有限種類のプリミティブ(基本パターン)30を2次元的に所定数個並べたワードを有する構造化光パターンPsを生成する(ステップS1;図8のA参照)。
次に、プリミティブ30の中央及びプリミティブ30の周囲(グリッド32−35の各頂点)に存在するビット31に重ならないように、矩形領域Anaを設定する(ステップS2;図8のE参照)。
そして、様々な形状のランダム片Prpを生成する(ステップS3;図5のB参照)。ただし、全てのランダム片Prpのサイズは、いずれも矩形領域Ana内に収まるように設計される。
最後に、各矩形領域Anaに、それぞれ異なるユニークなランダム片Prpを重畳する(ステップS4;図5のC参照)。ただし、各ランダム片Prpと、各ランダム片Prpが重畳される各矩形領域Anaとは、白黒反転するように設定される。
なお、上記ハイブリッドパターンPhの設計方法は、あくまで一例にすぎず、様々な方法を採用することができる。図11は、他のハイブリッドパターンPhの設計方法を説明するための図である。他のハイブリッドパターンPhの設計方法では、まず、ランダム曲線(白色)のみからなるランダム片Prpを生成する(図11のA参照)。そして、生成したランダム片Prpを、構造化光パターンPsを構成するバウンディングボックス(すなわち「ビット」)Bbに重ならないように位置する矩形領域Ana(図11のB参照)に重畳する。この結果、図11のCに示すようなハイブリッドパターンPhが形成される。
ただし、各ランダム片Prpと、各ランダム片Prpが重畳される各矩形領域Anaとは、白黒反転するように設定される。ここでは、全てのランダム片Prpが白色であることから、黒色の矩形領域Anaにランダム片Prpが重畳される場合には、ランダム片Prpの色は変更されないが(すなわち白色のまま)、白色の矩形領域Anaにランダム片Prpが重畳される場合には、ランダム片Prpの色は白色から黒色に変更される。
[ハイブリッドパターンを用いた3次元測定方法]
図12は、3次元測定システム1000によって実行されるハイブリッドパターンを用いた3次元測定の処理を示すフローチャートである。
制御部310は、投影部100を制御してハイブリッドパターンのパターン光を測定対象物へ投影する(ステップS100)。制御部310は、撮像部200を制御して、ハイブリッドパターンのパターン光が投影された測定対象物の画像を第1カメラ210及び第2カメラ220を用いて撮像し、第1カメラ210が撮像した第1キャプチャ画像Img1及び第2カメラ220が撮像した第2キャプチャ画像Img2を、画像入力部320から取り込む(ステップS200)。ここで、第1カメラ210が撮像した第1キャプチャ画像Img1に示される、測定対象物に投影されたパターン光と、第2カメラ220が撮像した第2キャプチャ画像Img2に示される、測定対象物に投影されたパターン光とは、同一である。
3次元処理部330は、画像入力部320から供給される第1キャプチャ画像Img1及び第2キャプチャ画像Img2に基づき、以下に示す3種類の3次元点群データを生成する。
<3次元点群データR1の生成>
第1の3次元点群データ生成部331は、投影部100と第1カメラ210から構成された第1の構造化光システム(C1+P)を利用して、第1キャプチャ画像Img1に基づき3次元点群データR1を生成する(ステップS300)。詳述すると、第1の3次元点群データ生成部(第1算出部、第1補助算出部)331は、第1キャプチャ画像Img1の3次元位置の算出対象画素の選別を行い、選別された対象画素ごとに、当該画素に写っているパターン光の符号(ワード)すなわち、パターンにおける列(ワード列)の特定、列と画素位置に基づく3次元位置の算出を行う。
パターン記憶部334には、投影部100から投影されるハイブリッドパターンPhに含まれる構造化光パターンPsが登録されている。第1の3次元点群データ生成部331は、選別した算出対象画素と、パターン記憶部334に記憶されている構造化光パターンPsを比較することで、当該算出対象画素に対応するワードのパターンから、構造化光パターンPsにおける列を特定する。また、第1の3次元点群データ生成部331は、投影部100と第1カメラ210の設置位置の関係を保持している。第1の3次元点群データ生成部331は、構造化光パターンPsにおける列(すなわち、算出対象画素に対応するパターン光の対応点)を特定し、特定した対象画素xの対応点に三角測量の原理を適用することで、算出対象画素の3次元位置(実空間内の位置)を求める。第1の3次元点群データ生成部331は、すべての算出対象画素の3次元位置を求めた後、3次元点群データR1を生成し、生成した3次元点群データR1を精緻化部340に送る。
<3次元点群データR2の生成>
第2の3次元点群データ生成部332は、投影部100と第2カメラ220から構成された第2の構造化光システム(C2+P)を利用して、第2キャプチャ画像Img2に基づき3次元点群データR2を生成する(ステップS400)。詳述すると、第2の3次元点群データ生成部(第1算出部、第2補助算出部)332は、第2キャプチャ画像Img2の3次元位置の算出対象画素の選別を行い、選別された対象画素ごとに、当該画素に写っているパターン光の符号(ワード)すなわち、パターンにおける列(ワード列)の特定、列と画素位置に基づく3次元位置の算出を行う。
パターン記憶部334には、投影部100から投影されるハイブリッドパターンPhに含まれる構造化光パターンPsが登録されている。第2の3次元点群データ生成部332は、選別した算出対象画素と、パターン記憶部334に記憶されている構造化光パターンPsを比較することで、当該算出対象画素に対応するワードのパターンから、構造化光パターンPsにおける列を特定する。また、第2の3次元点群データ生成部332は、投影部100と第2カメラ220の設置位置の関係を保持している。したがって、第2の3次元点群データ生成部332は、構造化光パターンPsにおける列(すなわち、算出対象画素に対応するパターン光の対応点)を特定し、特定した対象画素xの対応点に三角測量の原理を適用することで、算出対象画素の3次元位置(実空間内の位置)を求める。第2の3次元点群データ生成部332は、すべての算出対象画素の3次元位置を求めた後、3次元点群データR2を生成し、生成した3次元点群データR2を精緻化部340に送る。
<3次元点群データR3の生成>
第3の3次元点群データ生成部333は、第1カメラ210と第2カメラ220から構成されたステレオカメラシステム(C1+C2)を利用して、第1キャプチャ画像Img1及び第2キャプチャ画像Img2に基づき3次元点群データR3を生成する(ステップS500)。詳述すると、第3の3次元点群データ生成部(第2算出部)333は、投影部100によって測定対象物に投影されたランダムパターンPrを構成するユニークなランダム片Prpを特徴点として、第1カメラ210及び第2カメラ220で撮像された第1キャプチャ画像Img1及び第2キャプチャ画像Img2から同じ特徴点(対応する画素の対、すなわち対応点)を探索する対応点探索処理を行う。
対応点探索処理(ステレオマッチング)について詳述すると、第3の3次元点群データ生成部333は、例えば第1キャプチャ画像Img1を基準画像とし、第2キャプチャ画像Img2を比較画像とした場合、第1キャプチャ画像Img1の特徴点に対し、対応する特徴点を第2キャプチャ画像Img2の中から見つけ出す。第3の3次元点群データ生成部333は、すべての特徴点について同様な処理を行うことで、第1キャプチャ画像Img1及び第2キャプチャ画像Img2上のすべての同じ特徴点の座標を特定する。第3の3次元点群データ生成部333は、対応点探索処理によって、特徴点ごとに第1キャプチャ画像Img1及び第2キャプチャ画像Img2上の座標を特定すると、ステレオ計測の原理により、各カメラから特徴点までの位置を計算することで、各特徴点の3次元位置(実空間内の位置)を求める。第3の3次元点群データ生成部333は、全ての特徴点の3次元位置を求めた後、3次元点群データR3を生成し、生成した3次元点群データR3を精緻化部340に送る。
精緻化部340は、3次元処理部330から供給される3種類の3次元点群データR1〜R3を精緻化することで、最終点群データRfを生成する(ステップS600)。
図13は、精緻化部340によって実行される精緻化処理を示すフローチャートである。なお、図13に示す精緻化処理はあくまで一例にすぎず、いかなる方法で3次元点群データR1〜R3を精緻化するかは、測定対象物の形状、大きさなどに応じて適宜設定・変更可能である。
精緻化部340は、3次元点群データR1及びR2を3次元マップのメモリ等に格納した後(ステップS100a)、3次元点群データR3を構成する点Ppが、3次元点群データR1またはR2のいずれかの点Paの近傍に位置するか(例えば、点Ppと点Paの間の距離L1が、閾値距離Lthよりも小さいか)を判断する(ステップS200a;以下、「位置判断」ともいう。)。
精緻化部340は、点Ppと点Paの間の距離L1が、閾値距離Lth以上であることから、3次元点群データR3を構成する点Ppが、3次元点群データR1またはR2のいずれかの点Paの近傍に位置しないと判断すると(ステップS200a;NO)、3次元点群データR3を構成する点Ppを、そのまま3次元マップのメモリ等に格納し(ステップS300a)、ステップS500aに進む。
精緻化部340は、3次元点群データR3を構成するすべての点Ppについて、位置判断を行ったか否かを確認する。精緻化部340は、3次元点群データR3を構成するすべての点Ppについて位置判断を行っている場合には(ステップS500a;YES)、精緻化後の3次元点群データR1〜R3を用いて、最終点群データRfを生成し、処理を終了する。
一方、精緻化部340は、位置判断を行っていない点Ppが存在する場合には(ステップS500a;NO)、ステップS200aに戻り、残りの点Ppについて位置判断を行う。精緻化部340は、点Ppと点Paの間の距離L1が、閾値距離Lth未満であることから、3次元点群データR3を構成する点Ppが、3次元点群データR1またはR2のいずれかの点Paの近傍に位置すると判断すると(ステップS200a;YES)、次のようなフィルタ処理を行う(ステップS400a)。
すなわち、精緻化部340は、点Ppについては重み付けを低くする一方、点Ppの近傍に位置する3次元点群データR1またはR2のいずれかの点Paについては重み付けを高くして、フィルタリングを行う。例えば、点Ppについては第1の重みで重み付けを行う一方、点Ppの近傍に位置する3次元点群データR1またはR2のいずれかの点Paについては前記第1の重みよりも大きい第2の重みで重み付けを行ってフィルタリングを行う。精緻化部340は、フィルタリングを行うと、ステップS500aに進み、3次元点群データR3を構成するすべての点Ppについて、位置判断を行ったか否かを確認する。
精緻化部340は、3次元点群データR3を構成するすべての点Ppについて位置判断を行っている場合には(ステップS500a;YES)、精緻化後の3次元点群データR1〜R3を用いて、最終点群データRfを生成し、処理を終了する。一方、精緻化部340は、位置判断を行っていない点Ppが存在する場合には(ステップS500a;NO)、ステップS200aに戻り、残りの点Ppについて位置判断を行う。なお、この後の動作については、すでに説明したため割愛する。
以上説明したように、本実施形態によれば、測定対象物に対して、ハイブリッドパターンPhを有するパターン光を投影して3次元測定を行う。ここで、ハイブリッドパターンPhは、構造化光パターンPsにランダムパターンPrを重畳したものであり、ランダムパターンPrと構造化光パターンPsが相互干渉しないように、パターン配置されている(例えば図5参照)。これにより、構造化光パターンとランダムパターンの両方の利点を享受し得る。すなわち、画像の明瞭性という点で優れた構造化光パターンと、3次元点群データの再現性という点で優れたランダムパターンの両方の利点を享受することが可能となる。
B.その他
上記実施形態では、1枚の撮像画像のみを対象として3次元位置を求めているが、動画像の各フレームを対象として同様の処理を行うことで、移動物体の3次元測定を行ってもよい。
本明細書において、「部」とは、単に物理的構成を意味するものではなく、その「部」が実行する処理をソフトウェアによって実現する場合も含む。また、1つの「部」や装置が実行する処理を2つ以上の物理的構成や装置により実現されても、2つ以上の「部」や装置が実行する処理を1つの物理的手段や装置により実現されてもよい。
本明細書において上述した各処理におけるステップは、処理内容に矛盾を生じない範囲で任意に順番を変更し、または並列に実行することができる。
本明細書において説明した各処理を実施するプログラムは、記録媒体に記憶させてもよい。この記録媒体を用いれば、コンピュータ300に、上記プログラムをインストールすることができる。ここで、上記プログラムを記憶した記録媒体は、非一過性の記録媒体であっても良い。非一過性の記録媒体は特に限定されないが、例えば、CD−ROM等の記録媒体であっても良い。
(付記1)
少なくとも1つのメモリと前記メモリに接続された少なくとも1つのハードウェアプロセッサを備え、測定対象物の3次元形状を測定する3次元測定装置であって、
前記メモリには、所定のプログラムと2次元符号化パターンが記憶され
前記ハードウェアプロセッサは、前記メモリに格納された前記所定のプログラムを実行することにより、
互いに区別可能な複数の種類のワードを2次元に配置した前記2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を前記測定対象物に投影する投影部と、
前記パターン光が投影された前記測定対象物を撮像する、第1カメラ及び第2カメラを備えた撮像部と、
前記第1カメラまたは前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び前記メモリに記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1算出部と、
前記第1カメラ及び前記第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、前記基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された前記各特徴点を用いて前記比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、前記各特徴点の3次元位置を求める第2算出部として処理を実行する、3次元測定装置。
(付記2)
少なくとも1つのハードウェアプロセッサによって、測定対象物の3次元形状を測定する3次元測定方法であって、
前記ハードウェアプロセッサは、
互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を前記測定対象物に投影する投影ステップと、
第1カメラ及び第2カメラを備えた撮像部により、前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
前記第1カメラまたは前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1算出ステップと、
前記第1カメラ及び前記第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、前記基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された前記各特徴点を用いて前記比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、前記各特徴点の3次元位置を求める第2算出ステップとを実行する、3次元測定方法。
1000…3次元測定システム、100…投影部、110…レーザ光源、120…パターンマスク、130…レンズ、200…撮像部、210…第1カメラ、220…第2カメラ、300…コンピュータ、310…制御部、320…画像入力部、330…3次元処理部、331…第1の3次元点群データ生成部、332…第2の3次元点群データ生成部、333…第3の3次元点群データ生成部、334…パターン記憶部、340…精緻化部、Ph…ハイブリッドパターン、Ps…構造化光パターン、Pr…ランダムパターン。

Claims (9)

  1. 測定対象物の3次元形状を測定する3次元測定装置であって、
    互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したパターン光を前記測定対象物に投影する投影部と、
    前記パターン光が投影された前記測定対象物を撮像する、第1カメラ及び第2カメラを備えた撮像部と、
    前記2次元符号化パターンを記憶するパターン記憶部と、
    前記第1カメラまたは前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び前記パターン記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1算出部と、
    前記第1カメラ及び前記第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、前記基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された前記各特徴点を用いて前記比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、前記各特徴点の3次りも”元位置を求める第2算出部と
    を備える、3次元測定装置。
  2. 前記第1カメラによって撮像された撮像画像と、前記第2カメラによって撮像された撮像画像について、前記投影部から前記測定対象物に投影される前記パターン光は同じパターン光である、請求項1に記載の3次元測定装置。
  3. 前記各2次元符号化パターンには、前記複数のランダム片をそれぞれ重畳するための複数の矩形領域が設けられ、全ての前記ランダム片の大きさは、それぞれ前記矩形領域の大きさよりも小さく設定されている、請求項1または2に記載の3次元測定装置。
  4. 前記第1カメラから前記投影部までの距離と、前記第2カメラから前記投影部までの距離は異なっている、請求項1から3のいずれか一項に記載の3次元測定装置。
  5. 前記第1算出部は、前記各対象画素の3次元位置をあらわす3次元点群データを生成し、
    前記第2算出部は、前記各特徴点の3次元位置をあらわす3次元点群データを生成し、
    前記第1算出部によって生成された3次元点群データ及び前記第2算出部によって生成された3次元点群データを精緻化することで、最終点群データを生成する精緻化部をさらに備える、請求項1に記載の3次元測定装置。
  6. 前記精緻化部は、前記第2算出部によって算出された前記3次元点群データを構成する点が、前記第1算出部によって算出された前記3次元点群データを構成するいずれかの点の近傍に位置すると判断した場合、前記第2算出部によって算出された前記3次元点群データを構成する点については第1の重みで重み付けを行う一方、前記第1算出部によって算出された前記3次元点群データを構成するいずれかの点については前記第1の重みよりも大きい第2の重みで重み付けを行ってフィルタリングを行うことで、前記精緻化を行う請求項5に記載の3次元測定装置。
  7. 前記第1算出部は、
    前記第1カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び前記パターン記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1補助算出部と、
    前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び前記パターン記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第2補助算出部と、を備える請求項1から6のいずれか一項に記載の3次元測定装置。
  8. 測定対象物の3次元形状を測定する3次元測定方法であって、
    互いに区別可能な複数の種類のワードを2次元に配置した2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を前記測定対象物に投影する投影ステップと、
    第1カメラ及び第2カメラを備えた撮像部により、前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
    前記第1カメラまたは前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1算出ステップと、
    前記第1カメラ及び前記第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、前記基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された前記各特徴点を用いて前記比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、前記各特徴点の3次元位置を求める第2算出ステップと
    を含む、3次元測定方法。
  9. 2次元符号化パターンを記憶した記憶部と、第1カメラ及び第2カメラを備えた撮像部を備えたコンピュータに、測定対象物の3次元形状を測定させるためのプログラムであって、
    前記コンピュータに、
    互いに区別可能な複数の種類のワードを2次元に配置した前記2次元符号化パターンと、それぞれが一意に特定可能な複数のランダム片を不規則に配置したランダムパターンとを、パターンの相互干渉が起こらないように配置したハイブリッドパターンのパターン光を前記測定対象物に投影する投影ステップと、
    前記撮像部により前記パターン光が投影された前記測定対象物を撮像する撮像ステップと、
    前記第1カメラまたは前記第2カメラによって撮像された撮像画像から対象画素を選別し、選別された前記対象画素ごとに、当該画素に写っているパターン光のワードを抽出し、抽出された前記ワード及び記憶部に記憶された前記2次元符号化パターンに基づき、前記各対象画素の3次元位置を求める第1算出ステップと、
    前記第1カメラ及び前記第2カメラによって撮像された撮像画像のうちの一方の撮像画像を基準画像とし、他方の撮像画像を比較画像とした場合、前記基準画像から前記各ランダム片に対応した各特徴点を抽出し、抽出された前記各特徴点を用いて前記比較画像に対するステレオマッチングを行い、ステレオマッチング結果に基づき、前記各特徴点の3次元位置を求める第2算出ステップと
    を実行させるためのプログラム。
JP2017211840A 2017-11-01 2017-11-01 3次元測定装置、3次元測定方法及びプログラム Active JP6879168B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017211840A JP6879168B2 (ja) 2017-11-01 2017-11-01 3次元測定装置、3次元測定方法及びプログラム
CN201811178513.6A CN109751973B (zh) 2017-11-01 2018-10-10 三维测量装置、三维测量方法以及存储介质
EP18200388.9A EP3480556B1 (en) 2017-11-01 2018-10-15 Three-dimensional measurement apparatus, three-dimensional measurement method and program
US16/166,213 US10600193B2 (en) 2017-11-01 2018-10-22 Three-dimensional measurement apparatus, three-dimensional measurement method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017211840A JP6879168B2 (ja) 2017-11-01 2017-11-01 3次元測定装置、3次元測定方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019086294A true JP2019086294A (ja) 2019-06-06
JP6879168B2 JP6879168B2 (ja) 2021-06-02

Family

ID=63857811

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017211840A Active JP6879168B2 (ja) 2017-11-01 2017-11-01 3次元測定装置、3次元測定方法及びプログラム

Country Status (4)

Country Link
US (1) US10600193B2 (ja)
EP (1) EP3480556B1 (ja)
JP (1) JP6879168B2 (ja)
CN (1) CN109751973B (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112819953A (zh) * 2021-02-24 2021-05-18 北京创想智控科技有限公司 三维重建方法、网络模型训练方法、装置及电子设备
CN113269212A (zh) * 2020-02-14 2021-08-17 林项武 一种用于三维重建特征点匹配的图形
US20220222843A1 (en) * 2019-05-22 2022-07-14 Omron Corporation Three-dimensional measurement system and three-dimensional measurement method
WO2023068252A1 (ja) 2021-10-21 2023-04-27 アセントロボティクス株式会社 対象デジタルツインモデル生成システム、ロボットの制御システム、仮想店舗生成システム、対象デジタルツインモデル生成方法、ロボットの制御方法、および仮想店舗生成方法
JP7534583B2 (ja) 2021-06-08 2024-08-15 稔 新村 材料表面の空隙率計測方法及び装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6879168B2 (ja) * 2017-11-01 2021-06-02 オムロン株式会社 3次元測定装置、3次元測定方法及びプログラム
JP6880512B2 (ja) 2018-02-14 2021-06-02 オムロン株式会社 3次元測定装置、3次元測定方法及び3次元測定プログラム
JP7252018B2 (ja) * 2019-03-18 2023-04-04 株式会社キーエンス 画像測定装置
US11847784B2 (en) * 2019-09-12 2023-12-19 Sony Interactive Entertainment Inc. Image processing apparatus, head-mounted display, and method for acquiring space information
US11156748B2 (en) * 2019-09-18 2021-10-26 Lenovo (Singapore) Pte. Ltd. Omnidirectional structured light projection
JP6708917B1 (ja) * 2020-02-05 2020-06-10 リンクウィズ株式会社 形状検出方法、形状検出システム、プログラム
WO2022172227A1 (en) * 2021-02-13 2022-08-18 Gupta Arbind Measurement of position and orientation of an object
CN113188453B (zh) * 2021-04-30 2022-11-01 东北电力大学 一种用于膜结构非接触位移、应变测量的散斑产生装置
CN114022484B (zh) * 2022-01-10 2022-04-29 深圳金三立视频科技股份有限公司 一种点光源场景的图像清晰度值计算方法及终端
EP4332499A1 (en) * 2022-08-30 2024-03-06 Canon Kabushiki Kaisha Three-dimensional measuring apparatus, three-dimensional measuring method, storage medium, system, and method for manufacturing an article

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001091232A (ja) * 1999-09-24 2001-04-06 Sony Corp 3次元形状計測装置および方法、並びに記録媒体
JP2006528770A (ja) * 2003-07-24 2006-12-21 コグニテンス リミテッド 対象物の3次元表面再構築の方法およびシステム
US20110080471A1 (en) * 2009-10-06 2011-04-07 Iowa State University Research Foundation, Inc. Hybrid method for 3D shape measurement
US20160063309A1 (en) * 2014-08-29 2016-03-03 Google Inc. Combination of Stereo and Structured-Light Processing
WO2016127173A1 (en) * 2015-02-06 2016-08-11 The University Of Akron Optical imaging system and methods thereof

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3417377B2 (ja) * 1999-04-30 2003-06-16 日本電気株式会社 三次元形状計測方法及び装置並びに記録媒体
FR2950157A1 (fr) * 2009-09-15 2011-03-18 Noomeo Procede de numerisation tridimensionnelle d'une surface comprenant laprojection d'un motif combine
JP5918984B2 (ja) * 2011-12-06 2016-05-18 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、およびプログラム
JP2013174547A (ja) * 2012-02-27 2013-09-05 Sharp Corp ステレオ3次元計測装置
US20140078264A1 (en) * 2013-12-06 2014-03-20 Iowa State University Research Foundation, Inc. Absolute three-dimensional shape measurement using coded fringe patterns without phase unwrapping or projector calibration
JP6254849B2 (ja) * 2014-01-17 2017-12-27 キヤノン株式会社 画像処理装置、画像処理方法
DE102014104903A1 (de) * 2014-04-07 2015-10-08 Isra Vision Ag Verfahren und Sensor zum Erzeugen und Erfassen von Mustern auf einer Oberfläche
US9881375B2 (en) * 2014-12-05 2018-01-30 Mantis Vision Ltd. Markers in 3D data capture
JP6756524B2 (ja) * 2015-06-16 2020-09-16 株式会社シーボン 美容施術効果の解析方法
CN106840036B (zh) * 2016-12-30 2019-10-01 浙江四点灵机器人股份有限公司 一种适用于快速三维形貌测量的二元结构光优化方法
CN106996748A (zh) * 2017-03-16 2017-08-01 南京工业大学 一种基于双目视觉的轮径测量方法
CN107167073A (zh) * 2017-05-18 2017-09-15 浙江四点灵机器人股份有限公司 一种线阵结构光三维快速测量装置及其测量方法
CN107133989B (zh) * 2017-06-12 2020-11-06 中国科学院长春光学精密机械与物理研究所 一种三维扫描系统参数标定方法
JP6879168B2 (ja) * 2017-11-01 2021-06-02 オムロン株式会社 3次元測定装置、3次元測定方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001091232A (ja) * 1999-09-24 2001-04-06 Sony Corp 3次元形状計測装置および方法、並びに記録媒体
JP2006528770A (ja) * 2003-07-24 2006-12-21 コグニテンス リミテッド 対象物の3次元表面再構築の方法およびシステム
US20110080471A1 (en) * 2009-10-06 2011-04-07 Iowa State University Research Foundation, Inc. Hybrid method for 3D shape measurement
US20160063309A1 (en) * 2014-08-29 2016-03-03 Google Inc. Combination of Stereo and Structured-Light Processing
WO2016127173A1 (en) * 2015-02-06 2016-08-11 The University Of Akron Optical imaging system and methods thereof

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220222843A1 (en) * 2019-05-22 2022-07-14 Omron Corporation Three-dimensional measurement system and three-dimensional measurement method
CN113269212A (zh) * 2020-02-14 2021-08-17 林项武 一种用于三维重建特征点匹配的图形
CN112819953A (zh) * 2021-02-24 2021-05-18 北京创想智控科技有限公司 三维重建方法、网络模型训练方法、装置及电子设备
CN112819953B (zh) * 2021-02-24 2024-01-19 北京创想智控科技有限公司 三维重建方法、网络模型训练方法、装置及电子设备
JP7534583B2 (ja) 2021-06-08 2024-08-15 稔 新村 材料表面の空隙率計測方法及び装置
WO2023068252A1 (ja) 2021-10-21 2023-04-27 アセントロボティクス株式会社 対象デジタルツインモデル生成システム、ロボットの制御システム、仮想店舗生成システム、対象デジタルツインモデル生成方法、ロボットの制御方法、および仮想店舗生成方法

Also Published As

Publication number Publication date
EP3480556B1 (en) 2021-09-15
EP3480556A1 (en) 2019-05-08
US20190130589A1 (en) 2019-05-02
US10600193B2 (en) 2020-03-24
CN109751973A (zh) 2019-05-14
JP6879168B2 (ja) 2021-06-02
CN109751973B (zh) 2020-12-11

Similar Documents

Publication Publication Date Title
JP6879168B2 (ja) 3次元測定装置、3次元測定方法及びプログラム
US10768435B2 (en) System, method and computer program product to project light pattern
EP2909575B1 (en) Systems and methods for marking images for three-dimensional image generation
CN102203551B (zh) 用于提供三维和距离面间判定的方法和系统
US20100328308A1 (en) Three Dimensional Mesh Modeling
JP5633058B1 (ja) 3次元計測装置及び3次元計測方法
Song et al. DOE-based structured-light method for accurate 3D sensing
JP2013185832A (ja) 情報処理装置、情報処理方法
KR20230065978A (ko) 구조화된 광을 사용하여 장면에서 평면 표면들을 직접 복구하기 위한 시스템, 방법 및 매체
JP7168077B2 (ja) 3次元計測システム及び3次元計測方法
CN110136048B (zh) 一种图像配准方法及系统、存储介质及终端
US10818030B2 (en) Three-dimensional measurement apparatus and three-dimensional measurement method
KR101538014B1 (ko) 3d 모델링을 통해 사진 이미지로부터 입체영상을 생성하는 방법
KR20170047780A (ko) 적응적 윈도우 마스크를 이용하는 로우 코스트 계산장치 및 그 방법
CN107515844B (zh) 字体设置方法、装置及移动设备
JP6867766B2 (ja) 情報処理装置およびその制御方法、プログラム
JP6060612B2 (ja) 移動面状況認識装置、移動体、及びプログラム
JP2013200840A (ja) 映像処理装置、映像処理方法、映像処理プログラム、及び映像表示装置
KR20130091090A (ko) 3차원 스캐너 및 스캐닝 방법
CN113379817B (zh) 基于散斑的深度信息获取方法、装置及系统
Su et al. DOE-based Structured Light For Robust 3D Reconstruction
Schmalenberg Camera Calibration from Out-of-Focus Images
JP2016121916A (ja) 形状測定装置
JP2019158776A (ja) 撮像装置、車両、及び撮像方法
JPH03134778A (ja) ステレオ画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210412

R150 Certificate of patent or registration of utility model

Ref document number: 6879168

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250