JP2020024200A - 計測システムおよび計測方法 - Google Patents

計測システムおよび計測方法 Download PDF

Info

Publication number
JP2020024200A
JP2020024200A JP2019141535A JP2019141535A JP2020024200A JP 2020024200 A JP2020024200 A JP 2020024200A JP 2019141535 A JP2019141535 A JP 2019141535A JP 2019141535 A JP2019141535 A JP 2019141535A JP 2020024200 A JP2020024200 A JP 2020024200A
Authority
JP
Japan
Prior art keywords
search
pattern
model code
codes
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019141535A
Other languages
English (en)
Other versions
JP7243513B2 (ja
Inventor
加藤 豊
Yutaka Kato
豊 加藤
豊男 飯田
Toyoo Iida
豊男 飯田
中塚 均
Hitoshi Nakatsuka
均 中塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to US16/529,791 priority Critical patent/US10867225B2/en
Publication of JP2020024200A publication Critical patent/JP2020024200A/ja
Application granted granted Critical
Publication of JP7243513B2 publication Critical patent/JP7243513B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】予め定められた投影パターンを対象物に照射した状態で対象物を撮像した画像に基づいて対象物の位置を計測する構成において、計測のロバスト性を高める。【解決手段】計測システムは、投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索する第1の探索部と、投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードをコードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する第2の探索部と含む。【選択図】図1

Description

本技術は、予め定められた投影パターンを対象物に照射した状態で対象物を撮像した画像に基づいて対象物の位置を計測する計測システムおよび計測方法に関する。
従来から、光学的な手法を用いて対象物の三次元形状を計測する技術が知られている。例えば、特開2012−079294号公報(特許文献1)は、複数種類の符号が二次元に並ぶ投影符号列の各符号に、符号の種類ごとに異なる色または輝度を有する点をシンボルとして割り当てることで得られた二次元の点列を含む投影パターンを被写体に投影し、投影パターンが投影された被写体を撮像することにより得られた撮像画像を用いて被写体の三次元計測を行う画像情報処理装置を開示する。
特開2012−079294号公報
上述の特許文献1に開示される方法では、所定数の情報符号列を用いて符号誤り検出を行うことで情報符号列を復元する。しかしながら、所定数の情報符号列を取得できない場合には、目的の情報符号列を復元できない可能性がある。すなわち、周辺探索だけでは、情報符号列を復元できず、計測できない欠損部分が生じ得る。
本技術は、予め定められた投影パターンを対象物に照射した状態で対象物を撮像した画像に基づいて対象物の位置を計測する構成において、計測のロバスト性を高める解決手段を提供することを一つの目的とする。
本技術の一つの実施形態に従う計測システムは、予め定められた投影パターンを対象物に照射した状態で、対象物を撮像した画像である入力画像を取得する取得部を含む。投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものである。計測システムは、照射された投影パターンに含まれる各基準パターンを入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得する検出部と、投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索する第1の探索部と、投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードをコードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する第2の探索部と、第1の探索部および第2の探索部により探索された、モデルコード列と対応領域との対応関係に基づいて、投影パターンの照射基準面から対象物の各部までの距離を算出する距離算出部とを含む。
本開示によれば、モデルコードと対応領域との対応関係を厳密に決定した上で、予め定められた数のコードが不一致であることを許容する緩和された条件下で、対応関係が決定できなかったモデルコードについて対応領域を探索するので、何らかの原因で入力画像にノイズが含まれている場合であっても、対象物までの距離を適切に算出できる。
第1の探索部および第2の探索部は、入力画像のエピポーララインに沿って探索するようにしてもよい。エピポーララインに沿って探索することで、効率的な探索を実現できる。
第2の探索部は、対応領域の探索に失敗したモデルコード列のすべてについて、探索処理を繰返すようにしてもよい。探索処理の繰返しによって、投影パターンの照射基準面から対象物の各部までの距離の算出をより確実に行うことができる。
第2の探索部は、予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返すようにしてもよい。予め定められた数を異ならせることで、誤った探索を防止しつつ、対象物の各部までの距離の算出をより確実に行うことができる。
本技術の別の実施形態に従う計測方法は、予め定められた投影パターンを対象物に照射した状態で、対象物を撮像した画像である入力画像を取得するステップを含む。投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものである。計測方法は、照射された投影パターンに含まれる各基準パターンを入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得するステップと、投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索するステップと、投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードをコードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定するステップとを含む。
本開示によれば、モデルコードと対応領域との対応関係を厳密に決定した上で、予め定められた数のコードが不一致であることを許容する緩和された条件下で、対応関係が決定できなかったモデルコードについて対応領域を探索するので、何らかの原因で入力画像にノイズが含まれている場合であっても、対象物までの距離を適切に算出できる。
基準パターンは、入力画像のエピポーララインに沿って探索されてもよい。エピポーララインに沿って探索することで、効率的な探索を実現できる。
対応領域の探索に失敗したモデルコード列のすべてについて、探索処理が繰返されるようにしてもよい。探索処理の繰返しによって、投影パターンの照射基準面から対象物の各部までの距離の算出をより確実に行うことができる。
計測方法は、予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返すステップをさらに含むようにしてもよい。予め定められた数を異ならせることで、誤った探索を防止しつつ、対象物の各部までの距離の算出をより確実に行うことができる。
本技術によれば、予め定められた投影パターンを対象物に照射した状態で対象物を撮像した画像に基づいて対象物の位置を計測する構成において、計測のロバスト性を高めることができる。
本実施の形態に従う計測システムの適用例を示す模式図である。 本実施の形態に従う計測システムを構成する計測ヘッドの構成例を示す模式図である。 本実施の形態に従う計測システムに含まれる画像計測装置の構成例を示す模式図である。 本実施の形態に従う計測システムの計測ヘッドから照射される投影パターンの一例を示す図である。 本実施の形態に従う計測システムが実行する三次元計測の原理を説明するための図である。 本実施の形態に従う計測システムによる計測形態の一例を示す模式図である。 図6に示すワークを撮像することで得られる入力画像に対するプリミティブの検出結果の一例を示す図である。 図7(B)に示すプリミティブ検出結果に対応する三次元情報の復元結果の一例を示す図である。 図8に示す三次元情報の復元結果に対して三次元情報を推定する処理を説明するための図である。 本実施の形態に従う計測システムにおける周辺探索の処理を説明する模式図である。 本実施の形態に従う計測システムにおいて用いられる投影パターンの一例を示す図である。 本実施の形態に従う計測システムにおいて入力画像から検出されたプリミティブから得られるデコード結果の一例を示す図である。 本実施の形態に従う計測システムにおけるエピポーララインを説明するための図である。 本実施の形態に従う計測システムにおいて入力画像から検出されたプリミティブから得られる最終のデコード結果の一例を示す図である。 本実施の形態に従う計測システムが提供する三次元情報を推定する処理を実現するための機能構成の一例を示す模式図である。 本実施の形態に従う計測システムが提供する三次元情報を推定する処理手順を示すフローチャートである。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
<A.適用例>
まず、本発明が適用される場面の一例について説明する。
図1は、本実施の形態に従う計測システム1の適用例を示す模式図である。図1を参照して、本実施の形態に従う計測システム1は、計測ヘッド10を含む。
計測ヘッド10から予め定められた投影パターンPを対象物に照射した状態で、当該対象物を計測ヘッド10で撮像した画像である入力画像2が取得される。典型的には、構造化照明に従う投影パターンPが採用される。すなわち、投影パターンPは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものが採用される。投影パターンPに含まれる各基準パターンは、「プリミティブ」とも称される。
数値を用いて投影パターンPに含まれる各基準パターンの種類を表現することができる。このような表現の変更をコード化とも称す。図1に示す例においては、投影パターンPをコード化することにより等価な行列Kを生成できる。
計測システム1を構成する画像計測装置は、投影パターンPの情報および入力画像2に現れる投影パターンPに対応する濃淡パターンを用いて三次元計測処理を実行する。
画像計測装置は、照射された投影パターンPに含まれる各プリミティブを入力画像2内で探索することで、各プリミティブが照射された位置および当該照射されたプリミティブが示すコードの集合である計測コード列200を取得する。
画像計測装置は、投影パターンPに設定される単位領域(以下、「ワード」とも称す。)に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域(以下、「格子状コードパターン」とも称す。)を計測コード列200から探索する(ステップS1)。図1に示す例では、計測コード列200に対して、格子状コードパターン211,212,213,214の認識を確定できる。
但し、計測コード列200には、ワードを構成するプリミティブの一部が探索できず、ワードを再構成できない欠損部分が存在し得る。
そこで、画像計測装置は、投影パターンPに含まれるモデルコード列のうちワード(対応領域)の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを計測コード列200から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する(ステップS2)。
図1に示す例では、計測コード列200に対して、格子状コードパターン221,222,223,224の各々が囲む領域について、欠損している3つのプリミティブを除く、すべてのプリミティブをモデルワードと対応付けることができる。
最終的に、画像計測装置は、ステップS1およびステップS2において探索された、モデルコード列とワードとの対応関係に基づいて、投影パターンPの照射基準面から対象物の各部までの距離を算出する。この算出された距離の集合を三次元計測結果画像として表現できる。
本実施の形態に従う画像計測システムは、モデルコードと対応領域との対応関係を厳密に決定した上で、予め定められた数のコードが不一致であることを許容する緩和された条件下で、対応関係が決定できなかったモデルコードについて対応領域を探索するので、何らかの原因で入力画像にノイズが含まれている場合であっても、対象物までの距離を適切に算出できる。
<B.装置構成>
次に、本実施の形態に従う計測システム1を構成する装置構成例について説明する。
(b1:計測ヘッド10)
図2は、本実施の形態に従う計測システム1を構成する計測ヘッド10の構成例を示す模式図である。図2を参照して、計測ヘッド10は、処理部11と、投光部12と、撮像部13と、表示部14と、記憶部15とを含む。
処理部11は、計測ヘッド10における全体処理を司る。処理部11は、典型的には、プロセッサと、プロセッサで実行される命令コードを格納するストレージと、命令コードを展開するメモリとを含む。この場合、処理部11において、プロセッサが命令コードをメモリ上に展開して実行することで各種処理を実現する。処理部11の全部または一部を専用のハードウェア回路(例えば、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)など)を用いて実装してもよい。
表示部14は、計測ヘッド10において取得あるいは算出された各種情報を外部へ通知する。
記憶部15は、撮像部13により撮像された画像や予め設定されるキャリブレーションパラメータなどを格納する。
通信インターフェイス(I/F)部16は、計測ヘッド10と画像計測装置100との間のデータの遣り取りを担当する。
(b2:画像計測装置100)
図3は、本実施の形態に従う計測システム1に含まれる画像計測装置100の構成例を示す模式図である。典型的には、画像計測装置100は、汎用コンピュータを用いて実現される。図3を参照して、画像計測装置100は、プロセッサ102と、メインメモリ104と、ストレージ106と、入力部108と、表示部110と、光学ドライブ112と、下位インターフェイス部114と、上位インターフェイス部116とを含む。これらのコンポーネントは、プロセッサバス118を介して接続されている。
プロセッサ102は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などで構成され、ストレージ106に格納されたプログラム(一例として、OS1060および三次元計測プログラム1062)を読出して、メインメモリ104に展開して実行することで、後述するような各種処理を実現する。
メインメモリ104は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)などの揮発性記憶装置などで構成される。ストレージ106は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)などの不揮発性記憶装置などで構成される。
ストレージ106には、基本的な機能を実現するためのOS1060に加えて、画像計測装置100としての機能を提供するための三次元計測プログラム1062が格納される。
入力部108は、キーボードやマウスなどで構成され、ユーザ操作を受付ける。表示部110は、ディスプレイ、各種インジケータ、プリンタなどで構成され、プロセッサ102からの処理結果などを出力する。
下位インターフェイス部114は、計測ヘッド10との間のデータの遣り取りを担当する。上位インターフェイス部116は、図示しない上位装置(例えば、PLC(プログラマブルコンピュータ))との間のデータの遣り取りを担当する。
画像計測装置100は、光学ドライブ112を有しており、コンピュータ読取可能なプログラムを非一過的に格納する記録媒体115(例えば、DVD(Digital Versatile Disc)などの光学記録媒体)から、その中に格納されたプログラムが読取られてストレージ106などにインストールされる。
画像計測装置100で実行される三次元計測プログラム1062などは、コンピュータ読取可能な記録媒体115を介してインストールされてもよいが、ネットワーク上のサーバ装置などからダウンロードする形でインストールするようにしてもよい。また、本実施の形態に従う三次元計測プログラム1062が提供する機能は、OSが提供するモジュールの一部を利用する形で実現される場合もある。
図3には、プロセッサ102がプログラムを実行することで、画像計測装置100として必要な機能が提供される構成例を示したが、これらの提供される機能の一部または全部を、専用のハードウェア回路(例えば、ASICまたはFPGAなど)を用いて実装してもよい。
<C.三次元計測>
次に、本実施の形態に従う計測システム1による三次元計測について説明する。本実施の形態においては、構造化照明と称される手法を用いて三次元計測を実現する。構造化照明の手法では、予め定められた投影パターンを対象物に照射するともに、投影パターンが照射された状態で対象物を撮像することで得られる画像(以下、「入力画像」とも称す)に基づいて対象物の位置(投光部または受光部からの距離)を計測する計測システムに関する。すなわち、対象物の形状が計測される。
本実施の形態においては、構造化照明の一例として、予め定められた投影パターン(典型的には、濃淡パターン)をもつ計測光が照射する方法を採用する。
本実施の形態に従う計測システム1は、予め定められた投影パターンを投光部12から対象物に照射した状態で、当該対象物を撮像した画像である入力画像を取得する取得部に相当する撮像部13を有している。以下の説明においては、投光部12の照射面を投影パターンPの「照射基準面」とみなす。
計測システム1において、計測ヘッド10に含まれる投光部12と撮像部13との間でキャリブレーションが実行されており、投光部12および撮像部13の光学パラメータおよび両者を関連付ける行列は予め決定されている。投光部12および撮像部13の光学パラメータは、いずれも同じ基準点に基づいて決定されており、投光部12の投影面の高さを指定すれば、投光部12から照射される投影パターンが撮像部13の受光面上のどの画素に対応するのかを算出できる。
投光部12から照射される投影パターンは、投光部12の光軸に対する対象物の位置や傾きに応じて大きさや位置(隣接する要素間の間隔の伸縮)が変化することになり、このような情報に基づいて、三角測量の原理によって、対象物の形状を計測できる。
図4は、本実施の形態に従う計測システム1の計測ヘッド10から照射される投影パターンの一例を示す図である。図5は、本実施の形態に従う計測システム1が実行する三次元計測の原理を説明するための図である。
計測ヘッド10の投光部12からは、例えば、図4に示すような投影パターンPを含む計測光を対象物に照射する。計測ヘッド10の撮像部13は、投影パターンPが投影された状態で対象物を撮像する。
図5に示す投影パターンPは、空間コードを格子状に配置したもの(以下、「格子状コード」とも称す。)であって、所定方向において所定長のパターンについて自己相関が生じないような固有のコードが割当てられている。より具体的には、投影パターンPは、複数種類のプリミティブ(基準パターンに相当)の組合せによって規定される。図5(A)には、4種類のプリミティブが示される。各プリミティブは、それぞれに割当てられたコード(図5(A)に示す例では、1〜4の4つの数値)を示す。
各プリミティブは、4つの大きな正方形Qa〜Qdと、中心部に位置する1つの小さな正方形Qe)とで構成される。正方形Qa〜Qdの各々は、プリミティブ位置Rがコーナとなるように配置されている。プリミティブ位置Rは、小さな正方形Qeの中心位置でもある。
図5(A)に示すように、大きな正方形Qa〜Qdの交点(格子のコーナ一点)がプリミティブ位置Rと定義される。なお、プリミティブ位置Rについての大きさおよび形状については限定されない。プリミティブの各々が三次元点の1つとして復元される。
図5(A)に示すように、プリミティブ位置Rが「白」のときp=1とし、「黒」のときp=0とし、プリミティブ位置Rの左上の大きい正方形Qbが「白」のときp=1とし、「黒」のときp=0と表現する。プリミティブの種類は、2p+pと数値表現できる。
図5(B)には、投影パターンP(図4参照)の部分に含まれるプリミティブの種類を数値で表現したものである。すなわち、投影パターンPに含まれる各プリミティブの種類を特定し、各特定したプリミティブの種類を数値で表現することにより、投影パターンPと等価な行列Kを生成できる。
以下の説明においては、投影パターンPの面内方向をX方向およびY方向と規定するとともに、光軸方向(高さ)方向をZ方向と規定する。
図5(C)には、図5(B)に示す行列Kの部分行列を示す。行列Kに設定される所定の大きさ(ワード高さHword×ワード幅Wword)の部分行列を想定する。このような部分行列を「ワード」とも称する。すなわち、各ワードは、所定数のプリミティブの種類の組合せ(図5(C)に示す例では、3×3)によって規定される。投影パターンPは、すべてのワードの各々がユニークとなるように、プリミティブが配置されることで生成される。
投影パターンPが対象物に照射した状態で撮像することで取得される入力画像から、行列Kに含まれるすべてのワードが抽出される。なお、プリミティブを抽出して、ワードを特定あるいは再構成する処理を(ワードの)「デコード」とも称す。
図5(C)には、抽出された3つのワード(ワードW1,W2,W3)を示している。入力画像に写るパターンからすべてのワードを抽出したときに、各抽出したワード中に部分行列の数値の並びがユニークであれば、そのワードのパターン中での位置が特定される。すなわち、投影パターンPにおける位置(ワードの位置)を特定できる。
計測ヘッド10(投光部12)から投影パターンPを照射する場合において、対象物の表面形状に応じて、照射された像から特定されるワードの位置は変化することになる。
このような投影パターンPを対象物に照射した状態で対象物を撮像して得られる画像に含まれるプリミティブから規定されるワードの大きさおよび隣接するワード間の位置ずれに基づいて、計測ヘッド10から対象物の各部までの距離および対象物の三次元形状を計測できる。
例えば、図5(C)に示す例においては、隣り合うワードW1〜W3は一部のプリミティブを共有している。
画像計測装置100(図2参照)は、それぞれの計測ヘッド10から出力される画像に対して、プリミティブの抽出処理、ならびに、抽出されたプリミティブにより特定されたワードの位置および大きさの評価処理を実行することで、対象物の三次元形状の計測結果を出力する。
なお、図5(A)には、4種類のプリミティブを使用する例を示すが、プリミティブの種類数は4種類に限定されない。また、図5(A)に示すようなプリミティブの形状および色に限定されることなく、任意の形状および色を採用できる。
また、プリミティブの検出手法としては、各プリミティブをモデルとしたパターンマッチングや、黒画素方向/白画素方向および中央値の色を条件とするフィルタ処理などを採用できる。
例えば、5M画素のカメラ(≒2500×2000画素)を採用し、その視野を視野500mm×400mmとする。ここで、1つのプリミティブが5画素で形成され、1ワードが5×5(計25個)のプリミティブにより構成される場合を想定する。
この場合には、プリミティブのピッチは、約1mm(=500mm/(2500画素/5画素))となり、最小検出幅は5mm(=1mm×5画素)となる。1つのワードを検出するためには、5×5画素が必要であるので、投光部12と撮像部13との間の対応付けには、5mm×5mmの面積が必要となる。なお、三次元情報の空間分解能(X−Y方向)」は、プリミティブの単位(この例では、1mm×1mm)となる。
なお、以下の説明においては、復元された(あるいは、復元されるべき)三次元空間上の点の集合を「点群」とも称す。すなわち、「点群」は、各プリミティブに対応して計算される(あるいは、計算されるべき)三次元空間上の点の集合を意味する。
<D.解決すべき課題および解決手段>
次に、本実施の形態に従う計測システム1が解決すべき課題および解決手段について説明する。
図6は、本実施の形態に従う計測システム1による計測形態の一例を示す模式図である。図6を参照して、平坦状のワーク4の三次元形状の測定を想定する。平坦状のワーク4の上面には、所定幅を有する突起部5が形成されている。図6に示す例においては、突起部5の幅は、図5(C)において説明したワードを再構成するために必要な距離(ワード幅Wword)より狭いとする。すなわち、突起部5の露出面に照射されて現れるパターンと、突起部5以外のワーク4の露出面に照射されて現れるパターンとの間にはギャップが生じるとともに、現れるプリミティブの大きさなども異なったものとなる。
その結果、検出されたプリミティブの種類から再構成されるワードは、いずれのプリミティブ種類の組合せにも合致しなくなり、パターン中の各ワードの位置を特定できない。その結果、突起部5の形状情報を取得できない(高さ情報が欠損する)状態になる。
図7は、図6に示すワークを撮像することで得られる入力画像に対するプリミティブの検出結果の一例を示す図である。図7(A)には、平坦部を視野とする入力画像に対するプリミティブの検出結果の一例を示し、図7(B)には、凸部を視野とする入力画像に対するプリミティブの検出結果の一例を示す。
図7(A)を参照して、計測面が平坦であれば、ワードの再構成に必要な数のプリミティブを検出できる。これによって、投光部12と撮像部13との間を対応付けることができるので、各点について三次元情報を復元できる。
これに対して、図7(B)に示すように、計測面にワード幅以下の凹凸がある場合であって、段差が相対的に大きい場合には、段差により生じるプリミティブの歪み、コントラストの低下、相対的に大きな視差の発生などにより、プリミティブの検出に失敗する(図7(B)の「プリミティブ検出不可」の領域)。この結果、ワードの再構成に必要な数のプリミティブが揃わないので、投光部12と撮像部13との間を対応付けることができず、プリミティブの検出に失敗した領域だけではなく、その周辺も含めて、点群の三次元情報を復元できないことになる(図7(B)の「点群欠損」の領域)。このように、点群欠損の領域について検出されるコードは不完全なコードとなっている。
図8は、図7(B)に示すプリミティブ検出結果に対応する三次元情報の復元結果の一例を示す図である。平坦状のワーク4に形成された突起部5の幅がワードを再構成するために必要な幅に満たない場合には、図8に示すように、突起部5の周辺については、点群の三次元情報が存在しない(点群欠損の領域)となる。
図9は、図8に示す三次元情報の復元結果に対して三次元情報を推定する処理を説明するための図である。図9に示す例において、点群欠損となった領域については、ワードを再構成できるだけのプリミティブを検出できていないが、実際には、4つのプリミティブの検出には成功している。本実施の形態に従う計測システム1は、このような点群欠損となった領域内で検出されたプリミティブを、近傍のプリミティブの情報を用いて救済することで、点群の三次元情報を推定する。
すなわち、本実施の形態に従う計測システム1は、このような、投影パターンPに含まれる単一のワードの大きさより変化幅の小さい部分(点群欠損領域)などについて、三次元情報を推定する処理を提供する。
なお、図9において、X1は、入力画像上の点群欠損領域のうちプリミティブが検出できている右側の境界を示し、X2は、入力画像上の点群の三次元情報を復元できている領域(ワードを再構成できている領域)の左側の境界を示す。
図10は、本実施の形態に従う計測システム1における周辺探索の処理を説明する模式図である。図10には、照射されたパターンから検出された各プリミティブをコード化した結果の一例を示す。すなわち、検出された各プリミティブの種類を対応する符号で表現した例を示す。
単なる周辺探索では、任意の注目プリミティブを基準にして、上下左右で隣接しているプリミティブを検出することでワードを復元する。周辺探索の範囲を広くすれば、デコード処理に時間を要する。また、隣接するプリミティブが欠損している場合、周辺探索ではワードを復元することができない。そこで、本実施の形態に従う計測システム1が提供する三次元情報を推定する処理を適用することで、隣接するプリミティブが欠損している場合であっても、デコード処理が適切に実行されるようにする。
<E.推定処理>
次に、本実施の形態に従う計測システム1による三次元情報を推定する処理(以下、単に「推定処理」と称することもある。)の処理手順について説明する。
図11は、本実施の形態に従う計測システム1において用いられる投影パターンの一例を示す図である。以下の説明においては、一例として、図11(A)に示すような投影パターンPを照射する場合を想定する。図11(B)に示すように、図11(A)の投影パターンPに対応するプリミティブが示すコード(一例として、0〜3のいずれかの値)のコード列を示す。図11(B)に示すコード列に設定される任意のワードを「モデルワード」とも称す。
ここで、投光部12および撮像部13は、各々の光軸が平行であるとともに、それぞれの光軸はX軸と平行であるとする。また、複数のプリミティブで構成されるワードのサイズは3×3であるとする。
ワードを再構成する処理(格子状コードパターンの認識アルゴリズム)においては、入力画像全体に対してプリミティブの検出処理が先に実行され、続いて、近傍のプリミティブ同士を対応付けることでワードを再構成する。
図12は、本実施の形態に従う計測システム1において入力画像から検出されたプリミティブから得られるデコード結果の一例を示す図である。
対象物の露出面が投光部12および撮像部13の光軸に垂直な平面であれば、撮像部13により撮像される入力画像に現れるパターンは、図11(A)に示されるような歪みのないパターンとなる。一方、対象物の露出面に凹凸が存在する場合には、図12に示すように、検出されたプリミティブの位置はエピポーララインの方向にずれることになる。さらに、遮へいや潰れなどの光学的な要因により、検出できないプリミティブ(プリミティブの欠損;図12に示すハッチングされた数字の部分)が生じ得る。
図13は、本実施の形態に従う計測システム1におけるエピポーララインを説明するための図である。図13を参照して、投光部12の視野と撮像部13の視野との重複領域内において、対象物が奥行き方向に変化した場合に、両光軸の交点が変化する線がエピポーラライン32に相当する。エピポーラライン32に沿ってパターンをずらすことは、投光部12の投影面からの距離を変更することを意味する。
以下の説明においては、図11(B)に示されるモデルコード列を図12に示される検出されたコード列(以下、「計測コード列」とも称す。)と対応付ける具体的な手順について説明する。
(1:コード列の探索)
先に、画像計測装置100は、照射された投影パターンPに含まれる各プリミティブ(基準パターンに相当)を入力画像内で探索することで、各プリミティブが照射された位置および当該照射されたプリミティブが示すコードの集合である計測コード列を取得する。
そして、画像計測装置100は、投影パターンPに設定されるワード(単位領域に相当)に含まれる所定数のコードからなるモデルコード列と同一の配列を示す格子状コードパターン(対応領域に相当)を計測コード列(コードの集合)から探索する。
このとき、照射された投影パターンPに含まれる各プリミティブ(基準パターン)は、エピポーララインに沿ってずれることになるので、入力画像のエピポーララインに沿って格子状コードパターンを探索することが好ましい。
より具体的には、図11(B)に示すモデルコード列に含まれるモデルワード201の第一行のコード「302」を、図12に示す計測コード列の第一行のコード列から探索する。同様に、モデルワード201の第二行のコード「121」を、図12に示す計測コード列の第二行のコード列から探索し、モデルワード201の第三行のコード「202」を、図12に示す計測コード列の第三行のコード列から探索する。モデルワード201については、各行のコードの探索に成功するので、格子状コードパターン211の認識を確定できる。
次に、図11(B)に示すモデルコード列において右隣のワードに移り、モデルワード201と同様に、各行のコードの探索を試みる。しかしながら、この例においては、「3」が欠損しているため検出できない。
そのため、さらに右隣のモデルワードに移り、モデルワード202を設定し、ワードの再構成を試みると、「213」,「130」,「213」の各行のコード列を探索できるので、格子状コードパターン212の認識を確定できる。
図11(B)に示すコード列に対してモデルコード列を左端から右端に向けて、順次設定するとともに、上述したようなワードの再構成に係る一連の操作を繰返す。モデルコード列が右端に到達するとその行に対するモデルコード列の設定は終了し、ワード高さ分(図12に示す例では3行分)だけ下に移動して、再度左端から右端に向けてモデルコード列を順次設定するとともに、ワードの再構成に係る一連の操作を繰返す。すると、格子状コードパターン213および格子状コードパターン214の認識を確定できる。
以上の操作によって、キーとなる格子状コードパターンを確定できたので、次に、同一行内において確定された格子状コードパターン間に存在する未確定の格子状コードパターンを確定させる。ここで、画像計測装置100は、投影パターンPに含まれるモデルコード列のうち格子状コードパターン(対応領域)の探索に失敗したモデルコード列について、予め定められた数のコードが不一致であることを許容する条件下において、計測コード列から再度探索する。
この再度の探索においては、モデルコード列に含まれる各コードと一致するコードを計測コード列(コードの集合)から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する。
図14は、本実施の形態に従う計測システム1において入力画像から検出されたプリミティブから得られる最終のデコード結果の一例を示す図である。図14に示すように、以上の操作により、格子状コードパターン221〜格子状コードパターン224で囲まれる領域だけでなく、欠損しているプリミティブを除く、すべてのプリミティブがモデルワードと対応付けられたことになる。
図14に示す例においては、モデルワード201の右隣りに存在するモデルワード205(「020」,「213」,「021」)を、計測コード列から不一致数「1」を許して探索すると、それぞれ「020」,「21X」,「021」を検出できる。但し、Xは、コードが一致してないこと(すなわち、検出に失敗したこと)を示す。図14に示す例では、本来は「3」が存在しなければならないところ、その「3」が欠損している。
同様に、モデルワード203とモデルワード204との間にあるモデルワード206(「021」,「202」,「131」)を、計測コード列から不一致数「1」を許して探索すると、それぞれ「021」,「20X」,「131」を検出できる。また、モデルワード203とモデルワード204との間にあるモデルワード207(「313」,「131」,「302」)を、計測コード列から不一致の許容数「1」として探索すると、それぞれ「313」,「X31」,「302」を検出できる。
(2:格子状コードパターン法に基づく距離推定)
上述のような操作により、モデルワードと対応付けられたプリミティブの位置情報に基づいて距離を推定する。すなわち、画像計測装置100は、先の探索処理により探索された、モデルコード列から構成するモデルワードの位置と基準面に投影されるワードの位置関係に基づいて、投影パターンPの照射基準面から対象物の各部までの距離を算出する。
例えば、格子状コードパターンのサイズに相当する3×3の単位で、入力画像上で左右上下に1ワードずつずらしながら、それぞれの重心位置を算出し、それぞれ算出された重心位置に基づいて、計測ヘッド10からの距離を算出してもよい。
一方、上述したようなワード単位での距離算出ではなく、プリミティブ単位で距離を算出してもよい。この場合には、空間的に密(XY方向)な距離データの波形を得ることができる。
(3:応用例・変形例)
上述の探索方法は、モデルコード列の全領域に対して適用してもよいが、例えば、特許文献1に開示される周辺探索によって格子状コードパターンの対応付けを行った後に、対応付けに失敗した部分領域に対して適用するようにしてもよい。このように段階的な対応付けを行うことにより、対応付けを誤ってしまうというリスクを軽減しつつ、対応付け可能数を増加させることができる。
上述の探索方法において、対象物の奥行き方向の存在範囲、すなわち発生する視差の大きさに制約条件を設けていなかったが、所定の制約条件を設けるようにしてもよい。このような奥行き方向の制約条件を設けることで、プリミティブコードの探索範囲が制限されるので、計算時間を削減できるとともに、対応付けを誤ってしまうというリスクを軽減できる。
上述の探索方法においては、モデルコード列の左上からモデルワードを順次設定する例を示した。この設定方法によれば、モデルコード列の下端あるいは右端に対応付けできないプリミティブが発生し得る。このような場合には、左上からモデルワードを順次設定する方法に代えて、あるいは、左上からモデルワードを順次設定するに加えて、モデルコード列の右上からモデルワードを順次設定するようにしてもよい。すなわち、モデルワードを順次設定する走査方向を複数に設定し、これらを併用することで、プリミティブの対応付け数を増加させることができる。
また、上述の探索方法においては、未確定の格子状コードパターンを確定させるにあたって、計測コード列内で既に確定された格子状コードパターンをキーポイントとして間を埋めるように他の格子状コードパターンを決定(内挿)したが、これに限られない。例えば、特許文献1に開示されるような周辺探索によって確定された格子状コードパターンが計測コード列の外側に存在するのであれば、そのような外側に存在する格子状コードパターンとの間で内挿処理を実行してもよい。このような内挿処理の範囲を拡大することで、例えば、図14において、格子状コードパターン223の左側に位置し、対応付けできていない3点「312」を対応付けることができる。
上述の説明においては、一例として3×3の格子状コードパターンを採用したが、この格子状コードパターンのサイズは任意に設計でき、例えば5×5の格子状コードパターンを採用してもよい。
<F.機能構成>
次に、本実施の形態に従う計測システム1が提供する三次元情報を推定する処理を実現するための機能構成について説明する。
図15は、本実施の形態に従う計測システム1が提供する三次元情報を推定する処理を実現するための機能構成の一例を示す模式図である。図15に示す各機能は、典型的には、画像計測装置100のプロセッサ102が三次元計測プログラム1062を実行することで実現される。
図15を参照して、画像計測装置100は、計測ヘッド10と接続されており、投影パターンPを対象物に照射した状態で、対象物を撮像することで得られる入力画像に基づいて、三次元情報および二次元画像(入力画像と実質的に同一)を出力する。より具体的には、画像計測装置100は、パターン検出部150と、1次探索部152と、欠損部分抽出部154と、パターン生成部156と、2次探索部160と、三次元情報復元部162とを含む。
パターン生成部156は、予め定められた投影パターンPを生成し、投光部12およびパターン検出部150へ出力する。投光部12は、パターン生成部156から指示された投影パターンPを対象物に照射する。
パターン検出部150は、照射された投影パターンPに含まれる各プリミティブ(基準パターン)を入力画像内で探索することで、各プリミティブが照射された位置および当該照射されたプリミティブが示すコードの集合を生成する。より具体的には、パターン検出部150は、撮像部13が対象物を撮像することで生成される入力画像を受けて、当該入力画像中に現れる濃淡パターンからプリミティブを検出する。
1次探索部152は、投影パターンPに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索する。すなわち、1次探索部152は、パターン検出部150により生成されたコードの集合を取得し、投影パターンPに設定されるワード(単位領域に相当)に含まれる所定数のプリミティブが示すコードの配列と同一の配列を示す格子状コードパターン(対応領域に相当)を当該コードの集合から探索する。1次探索部152は、検出したプリミティブおよびワードの位置を欠損部分抽出部154へ出力する。
欠損部分抽出部154は、1次探索部152が検出したプリミティブおよびワードの位置の情報に基づいて、ワードを再構成できなかった領域(高さ情報が欠損している部分)を特定する。欠損部分の情報は、2次探索部160へ出力される。
2次探索部160は、入力画像の欠損部分に対応する部分または当該対応する部分の周辺に対して、対応するプリミティブの探索およびワードの再構成を試みる。特定的には、2次探索部160は、投影パターンPに含まれるモデルコード列のうち格子状コードパターン(対応領域に相当)の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードをコードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する。2次探索部160による探索結果は、三次元情報復元部162へ出力される。
三次元情報復元部162は、距離算出部に相当し、1次探索部152および2次探索部160により探索された、モデルコード列と対応領域との対応関係に基づいて、投影パターンPの照射基準面(投光部12の照射面)から対象物の各部までの距離を算出する。より具体的には、三次元情報復元部162は、検出されたプリミティブおよびワードの位置に基づいて、入力画像に対応する視野内の三次元情報を復元する。
なお、図15には示していないが、三次元情報復元部162から出力される三次元情報に基づいて、ロボットを制御するなどの各種アプリケーション処理が実行されてもよい。
<G.処理手順>
次に、本実施の形態に従う計測システム1が提供する三次元情報を推定する処理を実現するための処理手順について説明する。
図16は、本実施の形態に従う計測システム1が提供する三次元情報を推定する処理手順を示すフローチャートである。図16に示す各ステップは、典型的には、画像計測装置100のプロセッサ102が三次元計測プログラム1062を実行することで実現される。
図16を参照して、画像計測装置100は、投影パターンPを対象物に照射する(ステップS100)とともに、投影パターンPを対象物に照射した状態で対象物を撮像する(ステップS102)。
続いて、画像計測装置100は、照射された投影パターンPに含まれる各プリミティブ(基準パターンに相当)を、ステップS102において取得した入力画像内で探索することで、各プリミティブが照射された位置および当該照射されたプリミティブが示す計測コード列(コードの集合に相当)を取得する(ステップS104)。すなわち、画像計測装置100は、入力画像に含まれるプリミティブを探索して、計測コード列を生成する。
続いて、画像計測装置100は、投影パターンPに設定されるワード(単位領域に相当)に含まれる所定数のコードからなるモデルコード列と同一の配列を示す格子状コードパターン(対応領域に相当)を計測コード列(コードの集合)から探索する(ステップS106)。すなわち、画像計測装置100は、投影パターンPに含まれるであろうワード(複数のプリミティブの組み合わせ)と同一のワードを入力画像内から探索する。
そして、画像計測装置100は、入力画像内から探索されたワードの数および位置などに基づいて、欠損部分が存在するか否かを判断する(ステップS108)。欠損部分が存在しなければ(ステップS108においてNO)、処理はステップS122へ進む。
欠損部分が存在していれば(ステップS108においてYES)、画像計測装置100は、投影パターンPに含まれるモデルコード列のうち格子状コードパターンの探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを計測コード列から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する。
具体的には、画像計測装置100は、格子状コードパターンの探索に失敗したモデルコード列のいずれかを選択する(ステップS110)。そして、画像計測装置100は、選択したモデルコード列に含まれる各コードと一致するコードを計測コード列から探索する(ステップS112)。画像計測装置100は、ステップS112における探索において探索に失敗したコードの数が予め定められた数以下であるか否かを判断する(ステップS114)。
探索に失敗したコードの数が予め定められた数以下であれば(ステップS114においてYES)、画像計測装置100は、選択したモデルコード列の認識を確定する(ステップS116)。そして、処理はステップS120へ進む。
これに対して、探索に失敗したコードの数が予め定められた数を超えていれば(ステップS114においてNO)、画像計測装置100は、選択したモデルコード列の認識を失敗と決定する(ステップS118)。そして、処理はステップS120へ進む。
ステップS120において、画像計測装置100は、格子状コードパターンの探索に失敗したモデルコード列のうち未処理のものが残っているか否かを判断する(ステップS120)。格子状コードパターンの探索に失敗したモデルコード列のうち未処理のものが残っていれば(ステップS120においてYES)、画像計測装置100は、格子状コードパターンの探索に失敗した別のモデルコード列を選択し(ステップS122)、ステップS112以下の処理を繰返す。すなわち、格子状コードパターン(対応領域)の探索に失敗したモデルコード列のすべてについて、探索処理が繰返される。
格子状コードパターンの探索に失敗したモデルコード列のうち未処理のものが残っていなければ(ステップS120においてNO)、画像計測装置100は、探索されたモデルコード列と対応領域との対応関係に基づいて、投影パターンPの照射基準面から対象物の各部までの距離を算出する(ステップS124)。すなわち、画像計測装置100は、探索された格子状コードパターンの位置に基づいて、対象物の三次元情報を構成する。そして、処理は終了する。
<H.変形例>
上述の実施の形態においては、予め定められた数のコードが不一致であることを許容する単一の条件を用いる処理例について説明したが、不一致であることを許容する条件を動的に変更するようにしてもよい。この場合、計測コード列に対する不一致の許容数を順次緩和して、探索処理を繰返すようにしてもよい。
例えば、計測コード列に対する不一致の許容数をワードに含まれるプリミティブの数に対して「10%」を設定して、三次元情報の復元を試みる。この設定される不一致の許容数では、認識できないコードが多いため、三次元情報の復元が難しい場合には、その部位に対して不一致の許容数を「20%」に引き上げて、三次元情報の復元を再度試みる。
このように、不一致の許容数あるいは許容率を徐々に引き上げて、三次元情報の復元がうまくいくまで繰返すようにしてもよい。すなわち、画像計測装置100は、計測コード列に対する不一致の許容数である、予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返すようにしてもよい。
最初から不一致の許容数あるいは許容率を緩和する方法に比較して、誤った対応付けが生じ得る可能性を低減しつつ、三次元情報の復元の成功率を高めることができる。
<I.付記>
上述したような本実施の形態は、以下のような技術思想を含む。
[構成1]
予め定められた投影パターン(P)を対象物に照射した状態で、前記対象物を撮像した画像である入力画像を取得する取得部(10)を備え、前記投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものであり、
前記照射された投影パターンに含まれる各基準パターンを前記入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得する検出部(150)と、
前記投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索する第1の探索部(152)と、
前記投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを前記コードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する第2の探索部(160)と、
前記第1の探索部および前記第2の探索部により探索された、前記モデルコード列と対応領域との対応関係に基づいて、前記投影パターンの照射基準面から前記対象物の各部までの距離を算出する距離算出部(162)とを備える、計測システム。
[構成2]
前記第1の探索部および前記第2の探索部は、前記入力画像のエピポーラライン(32)に沿って探索する、構成1に記載の計測システム。
[構成3]
前記第2の探索部は、対応領域の探索に失敗したモデルコード列のすべてについて、探索処理を繰返す、構成1または2に記載の計測システム。
[構成4]
前記第2の探索部は、前記予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返す、構成1〜3のいずれか1項に記載の計測システム。
[構成5]
予め定められた投影パターン(P)を対象物に照射した状態で、前記対象物を撮像した画像である入力画像を取得するステップ(S100,S102)を備え、前記投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものであり、
前記照射された投影パターンに含まれる各基準パターンを前記入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得するステップ(S104)と、
前記投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索するステップ(ステップS106)と、
前記投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを前記コードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定するステップ(S110,S112,114,S116,S122)と、
探索された前記モデルコード列と対応領域との対応関係に基づいて、前記投影パターンの照射基準面から前記対象物の各部までの距離を算出するステップ(S124)とを備える、計測方法。
[構成6]
前記基準パターンは、前記入力画像のエピポーラライン(32)に沿って探索される、構成5に記載の計測方法。
[構成7]
対応領域の探索に失敗したモデルコード列のすべてについて、探索処理が繰返される(S120,S122)、構成5または6に記載の計測方法。
[構成8]
前記予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返すステップをさらに備える、構成5〜7のいずれか1項に記載の計測方法。
<J.利点>
本実施の形態に従う画像計測システムは、モデルコードと対応領域との対応関係を厳密に決定した上で、予め定められた数のコードが不一致であることを許容する緩和された条件下で、対応関係が決定できなかったモデルコードについて対応領域を探索するので、何らかの原因で入力画像にノイズが含まれている場合であっても、対象物までの距離を適切に算出できる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 計測システム、2 入力画像、4 ワーク、5 突起部、10 計測ヘッド、11 処理部、12 投光部、13 撮像部、14,110 表示部、15 記憶部、16 通信インターフェイス(I/F)部、32 エピポーラライン、100 画像計測装置、102 プロセッサ、104 メインメモリ、106 ストレージ、108 入力部、112 光学ドライブ、114 下位インターフェイス部、115 記録媒体、116 上位インターフェイス部、118 プロセッサバス、150 パターン検出部、152 1次探索部、154 欠損部分抽出部、156 パターン生成部、160 2次探索部、162 三次元情報復元部、200 計測コード列、201,202,203,204,205,206,207 モデルワード、211,212,213,214,221,222,223,224 格子状コードパターン、1060 OS、1062 三次元計測プログラム、K 行列、P 投影パターン、R プリミティブ位置、W1,W2,W3 ワード。

Claims (8)

  1. 予め定められた投影パターンを対象物に照射した状態で、前記対象物を撮像した画像である入力画像を取得する取得部を備え、前記投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものであり、
    前記照射された投影パターンに含まれる各基準パターンを前記入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得する検出部と、
    前記投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索する第1の探索部と、
    前記投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを前記コードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定する第2の探索部と、
    前記第1の探索部および前記第2の探索部により探索された、前記モデルコード列と対応領域との対応関係に基づいて、前記投影パターンの照射基準面から前記対象物の各部までの距離を算出する距離算出部とを備える、計測システム。
  2. 前記第1の探索部および前記第2の探索部は、前記入力画像のエピポーララインに沿って探索する、請求項1に記載の計測システム。
  3. 前記第2の探索部は、対応領域の探索に失敗したモデルコード列のすべてについて、探索処理を繰返す、請求項1または2に記載の計測システム。
  4. 前記第2の探索部は、前記予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返す、請求項1〜3のいずれか1項に記載の計測システム。
  5. 予め定められた投影パターンを対象物に照射した状態で、前記対象物を撮像した画像である入力画像を取得するステップを備え、前記投影パターンは、それぞれ固有のコードが割当てられた複数種類の基準パターンを所定規則に従って配置したものであり、
    前記照射された投影パターンに含まれる各基準パターンを前記入力画像内で探索することで、各基準パターンが照射された位置および当該照射された基準パターンが示すコードの集合を取得するステップと、
    前記投影パターンに設定される単位領域に含まれる所定数のコードからなるモデルコード列と同一の配列を示す対応領域を当該コードの集合から探索するステップと、
    前記投影パターンに含まれるモデルコード列のうち対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードを前記コードの集合から探索した上で、当該探索において探索に失敗したコードの数が予め定められた数以下である場合に、当該モデルコード列の認識を確定するステップと、
    探索された前記モデルコード列と対応領域との対応関係に基づいて、前記投影パターンの照射基準面から前記対象物の各部までの距離を算出するステップとを備える、計測方法。
  6. 前記基準パターンは、前記入力画像のエピポーララインに沿って探索される、請求項5に記載の計測方法。
  7. 対応領域の探索に失敗したモデルコード列のすべてについて、探索処理が繰返される、請求項5または6に記載の計測方法。
  8. 前記予め定められた数を異ならせて、対応領域の探索に失敗したモデルコード列について、当該モデルコード列に含まれる各コードと一致するコードの探索を繰返すステップをさらに備える、請求項5〜7のいずれか1項に記載の計測方法。
JP2019141535A 2018-08-02 2019-07-31 計測システムおよび計測方法 Active JP7243513B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/529,791 US10867225B2 (en) 2018-08-02 2019-08-02 Measurement system and measurement method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018145790 2018-08-02
JP2018145790 2018-08-02

Publications (2)

Publication Number Publication Date
JP2020024200A true JP2020024200A (ja) 2020-02-13
JP7243513B2 JP7243513B2 (ja) 2023-03-22

Family

ID=69618568

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019141535A Active JP7243513B2 (ja) 2018-08-02 2019-07-31 計測システムおよび計測方法

Country Status (1)

Country Link
JP (1) JP7243513B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012079294A (ja) * 2010-09-08 2012-04-19 Canon Inc 画像情報処理装置及びその制御方法
US20140164352A1 (en) * 2012-11-20 2014-06-12 Karl L. Denninghoff Search and navigation to specific document content
US20140164885A1 (en) * 2012-12-10 2014-06-12 Casio Computer Co., Ltd. Time information obtaining device and radio-controlled timepiece
JP2015155886A (ja) * 2014-01-20 2015-08-27 キヤノン株式会社 三次元計測装置、三次元計測方法及びプログラム
JP2016217833A (ja) * 2015-05-19 2016-12-22 株式会社リコー 画像処理システム及び画像処理方法
JP2018063220A (ja) * 2016-10-14 2018-04-19 オムロン株式会社 3次元測定装置および3次元測定方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012079294A (ja) * 2010-09-08 2012-04-19 Canon Inc 画像情報処理装置及びその制御方法
US20140164352A1 (en) * 2012-11-20 2014-06-12 Karl L. Denninghoff Search and navigation to specific document content
US20140164885A1 (en) * 2012-12-10 2014-06-12 Casio Computer Co., Ltd. Time information obtaining device and radio-controlled timepiece
JP2015155886A (ja) * 2014-01-20 2015-08-27 キヤノン株式会社 三次元計測装置、三次元計測方法及びプログラム
JP2016217833A (ja) * 2015-05-19 2016-12-22 株式会社リコー 画像処理システム及び画像処理方法
JP2018063220A (ja) * 2016-10-14 2018-04-19 オムロン株式会社 3次元測定装置および3次元測定方法

Also Published As

Publication number Publication date
JP7243513B2 (ja) 2023-03-22

Similar Documents

Publication Publication Date Title
US9418291B2 (en) Information processing apparatus, information processing method, and computer-readable storage medium
KR101733228B1 (ko) 구조광을 이용한 3차원 스캐닝 장치
US9546863B2 (en) Three-dimensional measuring apparatus and control method therefor
US20100328308A1 (en) Three Dimensional Mesh Modeling
US10973581B2 (en) Systems and methods for obtaining a structured light reconstruction of a 3D surface
TW201413653A (zh) 結構化光圖案的產生方法
JP6097903B2 (ja) 3次元形状の取得装置、処理方法およびプログラム
KR20130003135A (ko) 다시점 카메라를 이용한 라이트 필드 형상 캡처링 방법 및 장치
KR20160031967A (ko) 멀티 프로젝션 시스템 및 이의 프로젝터 캘리브레이션 방법
JP2015184056A (ja) 計測装置、方法及びプログラム
KR102158390B1 (ko) 영상 처리 방법 및 장치
US8970674B2 (en) Three-dimensional measurement apparatus, three-dimensional measurement method and storage medium
US10818030B2 (en) Three-dimensional measurement apparatus and three-dimensional measurement method
JP2009048516A (ja) 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
US10867225B2 (en) Measurement system and measurement method
JP2004077290A (ja) 3次元形状計測装置および方法
JP7243513B2 (ja) 計測システムおよび計測方法
Chen et al. Realtime structured light vision with the principle of unique color codes
JP6583674B2 (ja) 3次元測定装置、パターン生成装置、および方法
KR20190103833A (ko) 실시간 3차원 데이터 측정 방법
US11023706B2 (en) Measurement system and measurement method
WO2023008509A1 (ja) 情報処理プログラム及び情報処理装置
CN111336950B (zh) 一种空间编码与线结构光相结合的单帧测量方法与系统
EP4379661A1 (en) A method for dynamic 3d scanning of a spatial object and a dynamic 3d scanner
JP2011013066A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230220

R150 Certificate of patent or registration of utility model

Ref document number: 7243513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150