JP4379626B2 - 3次元形状計測方法及びその装置 - Google Patents
3次元形状計測方法及びその装置 Download PDFInfo
- Publication number
- JP4379626B2 JP4379626B2 JP2006512207A JP2006512207A JP4379626B2 JP 4379626 B2 JP4379626 B2 JP 4379626B2 JP 2006512207 A JP2006512207 A JP 2006512207A JP 2006512207 A JP2006512207 A JP 2006512207A JP 4379626 B2 JP4379626 B2 JP 4379626B2
- Authority
- JP
- Japan
- Prior art keywords
- laser
- measurement
- led
- rotary table
- plane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title description 44
- 238000005259 measurement Methods 0.000 claims description 62
- 238000001514 detection method Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000001678 irradiating effect Effects 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 claims 3
- 239000003550 marker Substances 0.000 claims 2
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 8
- 238000000611 regression analysis Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 5
- 238000005457 optimization Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000000691 measurement method Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 229920000298 Cellophane Polymers 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
また、前記装置を用いて、対象物体の3次元形状を計測する方法に関するものである。
(1)の処理において、形状の奥行き情報の獲得が「単一方向から」であるのは、通常、センサから見える部分の奥行き情報しか取得できないためである。このようなセンサとして、レーザを用いたレーザ・レンジファインダ(精度は高いが、大型で高価)、複数枚の画像を用いた写真測量による方法(安価だが、細かい形状取得が難しい)、パターン投光機を用いた三角測量による方法(装置の配置が複雑)、LEDとレーザを組み合わせた単眼カメラによる方法(例えば、特開2003−130621号公報)などがある。
また、(2)の位置合わせに関しては、ICP法(非特許文献1)や、その拡張(非特許文献2)などが研究されているが、これらは、ある程度位置合わせが終了した後に、さらに精細な位置合わせを実現する手法であり、大きく離れた複数の方向からの形状を自動的に位置合わせする手法は、未だ実現されていない。
さらに、複数回計測したにも関わらず、計測できなかったためにできる穴の確認は、前述した処理を全て終了した後、初めて可能となるため、全周を確実に計測するためには、一連の処理を何度も繰り返す必要があり、計測の効率は非常に悪いものであった。
最近、この効率の悪さの解決を目指した新しいシステムが(非特許文献3)において提案されている。このシステムでは、(1)と(2)を同時に行う機構とすることで、計測できなかった穴をリアルタイムに確認でき、効率的な計測が可能となっている。
ところが、このシステムは、「パターン投光機を用いた三角測量による」3次元計測手法に限定・拡張されたシステムであるため、設備が大掛かりなほか、投光機とカメラとの同期が必須であったり、計測対象の大きさが限定されるなどの欠点があった。
そこで、本発明は、「特開2003−130621」で説明した「LEDとレーザを組み合わせた単眼カメラによる方法」を3次元計測手法に用いることで、前記手法の欠点を解消した全周形状の計測システムの開発を目的とする。
ところが、3Dスキャナは通常、特殊なレンズや、機械制御機構等を必要とするため、値段が高く、大きくて重い。これに対して、複数枚の画像セットから3次元モデルを復元する簡便な方法も提案されているが、これは未だ研究途上であり、精度や効率の面でも劣っている。
また、既存の3Dスキャナは、見えている方向の形状だけしか通常計測できないため、対象の全周形状を獲得するには、計測後、位置合わせや、形状の統合等、幾つかの複雑な処理が必要である。しかも、形状が完全には計測されておらず、まだ穴が残っている場合、これが処理の後半に初めて明らかとなるため、そのときには、また最初から計測し直さねばならず、かなり面倒な作業になることが多かった。
計測と同時に穴(計測データの欠けている部分)などを確認しながら処理を進めることができ、しかも同時に全周形状を取得できるシステムがあれば、前述した課題を克服できる。
また、機構の簡単さ、持ち運び易さ、計測効率の高さ、精度の良さ、低価格などを実現することも、強く望まれる。
「特開2003−13021」で説明した計測装置は、レーザにLEDを取り付けたものであり、このレーザで対象物体を照射しつつ、単眼のビデオカメラで計測装置及びレーザの反射位置それぞれを同時に撮影するものである。
LEDにより、計測装置の3次元の位置・姿勢が同定されるので、これにより、三角測量の原理から、レーザ反射位置の3次元座標が求まる。
当該計測装置は、発明が解決しようとする課題で述べた、機構の簡単さ、持ち運び易さ、計測効率の高さ、精度の良さ、低価格などの特徴を備えている。
このうち、特に計測効率と精度をさらに向上させるため、独自のオフライン処理を提案する。この処理は、基本的に、検出されたレーザ位置を利用して、レーザ平面を再推定する処理であり、以下の3種類の効果を持つ。
第一に、通常のオンライン処理時には各フレームにおけるLEDの観測位置のみにより推定されるレーザ平面の位置を、全てのフレームにおける距離推定の値を利用して再推定することにより、レーザ平面の推定精度が向上し、計測精度の向上が見込まれる。
第二に、あるフレームで計測されたLEDの数が少な過ぎて、初期位置が求められない場合でも、検出されたレーザにより、レーザ平面が推定され、レーザ反射位置の奥行き情報の獲得が可能となる。「特開2003−130621」で開示した実施例にも記述している通り、通常効率的な初期位置推定に4つのLEDが必要であるのに対して、本発明では、それより少ないLED、さらには、1つも映っていなくても計測が可能であり、大幅に計測効率と利便性を高める効果を持つ。これにより計測サンプリング数も増え、精度向上も期待できる。さらに、計測装置がカメラ内に収まらなくても良いため、計測のし易さが大幅に向上する。
第三に、レーザとLEDとの位置関係を測定することができる。これにより、LEDとレーザとを取り付けるときの取り付け位置の誤差の、最終的な形状推定結果への影響を軽減し、精度を向上させることができる。
また、「特開2003−130621」で説明した計測装置は、1視点方向からの奥行き情報しか取得することができなかった。そこで、当該計測装置に回転テーブルを加えたシステムによる全周形状獲得方法を提案する。
これは、計測対象を回転テーブルの上に設置し、回転角がセンサやLEDなどにより分かるようにしておき、回転テーブルを回転させながら計測を行うことで実現する。回転角度の取得方法としては、LEDを回転テーブルに固定しておくことで、画像処理によりこれを推定することが可能である。こうすることで、「特開2003−130621」の利点である、複眼でなく単眼カメラを利用することを維持できるほか、リアルタイム性も継承できる。もちろん、回転角の取得には、その他のセンサを利用しても構わない。
各フレームで独立に回転角度が分かっているため、あるフレームで得られた3次元値をこの回転角を用いて座標変換することで、対象物の物体座標系における3次元位置の獲得が可能となる。これにより、自由にテーブルを回転させながら、計測装置から射出されるレーザで対象物体を自由に照らすことで、効率良く対象物体の全周3次元形状を得ることができる。
このとき、回転テーブルに鏡を付ければ、通常ではカメラに映らない部分も計測することができるようになる。さらに、鏡の上に、レーザと同じ波長の光のみを通すフィルタを取り付けておけば、レーザ領域のみが反射されるため、効率の良い計測が可能となる。すなわち、計測装置のLEDが鏡に映り込んだり、天井に付いている照明等の反射がなくなるため、誤認識が減る。また、逆に鏡にレーザが反射し、物体を照射することによる計測の効率化も期待できる。
第2図は、オフライン処理によってレーザ平面を再推定するアルゴリズムを示したフローチャートである。
第3図は、計測機器の実際のレーザ平面と理想的なレーザ平面(LEDの配置から計算されるレーザ平面)との、LEDとレーザの取り付け誤差によるずれ(偏差)を得ることを示した図である。
第4図は、LEDを設置した回転テーブルを用いて全周形状の推定を行う方法を示した図である。
第5図は、回転テーブルにキャリブパターンを貼って、回転させながらそれを計測し、そのパターンから最適化計算によって、回転テーブルのキャリブレーションを行う手法を示した図である。
第6図は、カメラ中心と画像平面上のLEDとを結ぶ直線を、回転テーブルの方向へ伸ばして、実際のLEDとぶつかる点の3次元座標を求め、この座標とキャリブレーションパラメータから、回転テーブルの回転角度とLEDの回転中心からの距離(回転半径)を計算することを示した図である。
第7図は、複数設置するLEDの回転半径をそれぞれ異なる値とすることで、各LEDを識別可能にしておくことを示した図である。
第8図は、全周形状を作成するために、推定した回転角を用いて、各フレームで計測した3次元座標を、対象物体座標系に変換することを示した図である。
第9図は、形状を保存するためのデータ形式として、ボクセルを利用することを示した図である。
第10図は、ある点が計測されたとき、その計測された点が含まれるボクセルに投票する機構にしておき、計測が終了した時点で一定以上の投票のあるボクセルにのみ、点があるとすれば、統計的に正しい3次元点及び面が得られることを示した図である。
第11図は、多くのLEDを計測機器に設置しておき、その中から幾つか選択して初期位置を決定し、残りのLEDを誤差の極小化による最適化処理に利用することを示した図である。
第12図は、検出したレーザ領域は、通常は連続しており、奥行き値が階段状に急激に変化した場合でも、その不連続点までは、それぞれ連続していることを示した図である。
第13図は、ラインレーザの数を増やすと、直接スキャンする領域が増えることを示した図である。
第14図は、鏡を利用すれば、鏡に映った対象に関しても、3D計測が可能になるほか、鏡に反射したレーザが物体を照射すれば、これによっても形状推定が可能となることを示した図である。
(1)は、パラメータ推定に画像処理の手法を用いているためであり、(2)は、実際のレーザ平面が、計測機器の製造上の精度限界により、正しい位置にないために、レーザ平面の推定パラメータに誤差が生じる。
古川ら(非特許文献4)は、奥行き情報の推定誤差のうち、平均値からの偏差が、(1)のみを仮定しても説明できることを示した。このことは、レーザ平面の推定誤差を抑制することの重要さを示唆している。
(1)のように、量子化誤差やLEDの画素の一部が観測されないなどの理由でLED位置に誤差が生じた場合、誤ったレーザ平面が推定され、誤った3次元推定を行ってしまう。
(2)の場合には、全ての推定の際に影響を与える。誤差による位置推定の偏移が計測機器の方向によって決まるため、計測機器の方向を動かしながら計測したときに、表面形状に不連続な誤差が生じる原因となる。
また、これらレーザ平面の推定誤差は,特に、計測機器のレーザ平面がカメラの視線方向に対して急な角度のときに、著しく誤った3次元推定を行う結果となる。
これらの誤差を軽減する方法として、ベイズ推定などの統計的な処理を適用することができるが、測定回数の少ない画素においては、最終的な形状に大きな影響を与えることが多い。
本発明では、レーザ平面推定の精度向上を実現するために、計測装置から得られたデータに対して、以下に説明するオフラインアルゴリズムを適用することを提案する。
まず、計測機器の座標系を「計測機器座標系」と呼び、計測機器のLEDの中心位置を原点とし、計測機器に対して固定されたx、y、z軸をもつ直交座標系として定義する(第1図)。レーザ平面がxy平面となり、レーザ射出方向がx方向である。レーザプロジェクタが、物理的に正しく計測機器に取り付けられていれば、レーザ平面は計測機器座標系において平面z=0に等しくなる。実際にはレーザプロジェクタの位置には誤差があるので、キャリブレーションによってこの誤差が求まっている場合には、誤差を考慮した平面によってレーザ平面を表す。
また、カメラに対して固定されたx、y、z軸をもつ直交座標系をカメラ座標系と呼ぶ。計測機器座標系のカメラ座標系に対する位置と方向は、LEDから推定される。計測機器座標系のカメラ座標系に対する位置と方向を、計測機器座標系のポーズと呼ぶ。
このとき、オフラインアルゴリズムは以下のようになる(第2図)。このアルゴリズムが適用される時点で、計測時のデータは全て保存されているものとする。ただし、全ての映像データを保存しておく代わりに、検出したレーザ位置データやLED座標のみを保存しても良い。こうすれば、保存するデータ量を大幅に減らすことができるだけでなく、画像処理を一度実施するだけで良い。
(平面を再推定するアルゴリズム)(1)n個のフレームがあるとする。k番目のフレームを、F(k)と記述する。F(k)に対して推定された計測機器座標系のポーズをP(k)、F(k)に対して検出されたレーザ反射位置をR(k)と記述する。
(2)F(0)、F(1)、・・・、F(n)の全フレームについて、P(k)、R(k)から距離画像を計算し、これをC(m)とする。
(3)F(0)、F(1)、・・・、F(n)の各フレームに対して以下の処理を行う。
(3.1)フレームF(k)において、レーザ反射位置R(k)における距離画像上の点の集合D(k)を、距離画像C(m)から、値を読み出すことで生成する。
(3.2)集合Dの座標はカメラ座標系で記述されているため、推定された計測機器座標系のポーズのパラメータを用いて計測機器座標系に変換し,これをD’(k)とする。
(3.3)計測機器座標系で表したレーザ平面をL’とする(L’はフレーム番号に依存しない)。L’上に、その推定の信頼性に応じた数の点を生成し、それらを計測機器座標系で表したものを集合D’(k)に加える。
(3.4)D’(k)の要素を重回帰分析にかける。重回帰のモデル式は、D’(k)の座標値を(X,Y,Z)とした時、Z=AX+BY+Cである。この平面をM’(k)とおく。
(3.5)3次元点D’(k)と平面M’(k)との残差e(k)を算出する。
(4)全てのフレーム、つまりF(0)、F(1)、・・・、F(n)に対して、それぞれのフレームの処理で推定された平面M’(k)及び検出されたレーザ反射位置R(k)を用いて、距離画像の再推定を行い、新たな距離画像C(m+1)を生成する。
(5)mを1つ増やし、(3)及び(4)の処理を、残差e(k)のkに関する総和が収束するまで繰り返す。
(6)収束したときのC(m)が、最終的な形状である。
ステップ(3.4)の重回帰分析は、計測機器座標系で処理を行う。計測機器座標系では、計測機器の姿勢の推定が正しく、レーザ平面がずれていなければ、全ての推定点のz座標が0となり、重回帰係数は全て0となる。求められた平面パラメータに対して、この平面からの変位を調べることで重回帰分析の結果を評価する事ができる。推定した平面から多くの点が外れている場合、距離画像の値、もしくは姿勢の推定、或いはその両方が間違っていると考えられる。よってこの場合は、このフレーム自体を距離画像の推定データから外し、最終的な距離画像推定に影響を及ぼさないようにする。
また、(4)のように全フレームの平面パラメータを修正した後に、距離画像の再推定処理を行わなくても、随時、修正された平面パラメータを用いて、距離画像を更新しても良い。
前述したオフラインアルゴリズムの根拠となる仮定が2つある。1つは、画像上で計測されたレーザ反射位置の誤差は比較的外さい、というものである。同じ仮定で誤差解析を行い、実際の誤差傾向を説明した古川らの非特許文献4は、この仮定の傍証になっている。
もう1つは、複数回計測された画素における距離情報は、統計的な根拠により、高い精度を持つというものである。これらの仮定から、レーザ反射位置R(k)と距離画像C(m)から求められた距離画像上の点の集合D(k)の精度が比較的高いことが期待され、レーザ平面の再推定結果の精度が上がると考えられる。
ステップ1の距離画像の推定において、距離の推定の精度が悪い場合には、結果が収束しにくくなることがある。そのような場合、メディアンフィルタなどにより距離画像を平滑化し、距離画像の誤差を抑制することで、結果が収束し易くなることが期待できる。
このオフライン処理では、初期形状を推定する際に利用したLEDの情報を用いなくても良いが、LEDにより最初に推定された計測機器座標系のポーズP(k)も測定値として重要な意味があると考えられる。そこで、計測機器座標系において固定された平面L’上に、P(k)の信頼度に比例した数の点が乗っていると仮定して、これらのデータを加えて重回帰分析を行う事で、P(k)の情報を重み付きでM’(k)に反映させることができる。これにより、より高精度な推定が可能となる。ここでは、この重みを次のように決定する。
LEDで計測機器座標系のポーズを推定するには、最低4つのLEDが検出される必要がある。仮に計測機器に付けられたLEDが8個であった場合、LEDが8つ検出された時に重みを1、LEDが4つ検出された時に重みを0として、線形補間を行う(例えば、LEDが6個検出された時は0.5)。その結果が1以下であり、かつ、推定したポーズP(k)が前後のフレームのポーズP(k−1)、P(k+1)に近いとき(閾値処理)、P(k−1)、P(k+1)の重みも足し合わせる。ただし、重みが1を超えたときは、その値を1とする。加える点の数は、最大4点とし、(重み×4)を切り捨てた値の数だけ、点を平面に加える。
この一連の処理を繰り返し行うことで、LEDから推定したレーザ平面の位置・姿勢と、最終的な形状の精度が、それぞれ改善する。
LEDの重みについては、非線形関数にしても良い。また、LEDの重みを大きくして、初期位置の影響をより大きくしても良い。その場合、例えば、加える点の数の最大数を増やせば良い。
また、レーザ平面とカメラの光軸とのなす角により、3次元推定精度が大きく異なるため、この角度から計算される3次元推定の信頼度を、重みとして使用しても良い。さらに、非特許文献4から計算される、誤差の鋭敏度を重みとしても良い。
これまでに、平面推定の精度を改善するためのオフライン処理について述べた。同じアルゴリズムを利用して、LEDが撮影・検出されていなくても、レーザ平面を推定し、レーザ位置の3次元奥行き情報の推定を行うことができる。
オンライン処理においては、検出されたLEDの数が不足している場合、そのフレームにおいて、レーザ平面は推定されない。しかし、その場合でも、レーザ反射位置が検出されており、さらにその反射位置において深さ推定値が得られている場合、前述したオフラインアルゴリズムをそのまま適用することで、そのフレームにおけるレーザ平面を推定することができる。この場合には、前述したレーザ平面の精度向上の場合と違って、LEDによる情報は全く利用しない。
以上の処理により、LEDが全く計測されていなくても、検出されたレーザにより、レーザ平面を推定でき、効率的なレーザ位置の奥行き情報の獲得が可能となる。
また、LEDから推定されるレーザ平面と、前述した処理により得られたレーザ平面とのずれを調べることで、計測機器の実際のレーザ平面と理想的なレーザ平面(LEDの配置から計算されるレーザ平面)との、LEDとレーザの取り付け誤差によるずれ(偏差)を得ることができる(レーザ平面のキャリブレーションと呼ぶ)(第3図)。この偏差は全ての3次元推定に影響を及ぼすため、予め求めておき、次回の計測からはこのパラメータを最初から使うことで、精度の良い初期形状を得ることができる。
レーザ平面のキャリブレーションを、前述したオフラインアルゴリズムによって実現する手法を述べる。これにはまず、レーザ平面の再推定に利用したアルゴリズムにおいて、平面の推定値が収束するまで処理を実行する。そして、重回帰分析における繰り返し処理が終了したときに、推定平面のパラメータの、理想的なレーザ平面であるz=0とのずれを取れば良い。ただし、平面のずれる要因は、LEDの位置検出誤差によるものと、LEDとレーザの取り付け誤差によるものと主に2つあるため、フレーム毎にこのずれは異なる。このため、重回帰分析が収束したときの全てのフレームにおける偏差の中央値を、最終的な偏差とする。
レーザ平面キャリブレーションのパラメータとしては、中央値以外にも、平均値や、量子化誤差が少ないときの偏差を選択しても良い。
次に、LEDを設置した回転テーブルを用いて全周形状の推定を行う方法を説明する(第4図)。これには、カメラ以外のセンサを利用せず、画像処理で回転角を求めることができるという利点と、特徴点の抽出が容易であるという利点がある。
この回転テーブルを用いて回転角度を計算する方法について述べる。まず、回転テーブルの回転軸や回転平面について、事前にキャリブレーションを行う。
回転テーブルに設置してあるLEDは、テーブルを回転させると、2次元画像上では楕円を描く。そこで、その楕円を解析すれば、回転軸を推定することができる。回転テーブルのキャリブレーションには、回転テーブルにキャリブパターンを貼って、回転させながらそれを計測し、そのパターンから最適化計算で求める手法を利用しても良い(第5図)。
次に、カメラ中心と画像平面上のLEDとを結ぶ直線を、回転テーブルの方向へ伸ばして、実際のLEDとぶつかる点の3次元座標を求める。この座標と、前記キャリブレーションパラメータから、回転テーブルの回転角度とLEDの回転中心からの距離(回転半径)を計算することができる(第6図)。
また、回転テーブルに計測対象を置くと、その物体の陰になったLEDは見えなくなるため、複数のLEDを設置し、常にLEDが観測されるようにしておく。
その場合、複数あるLEDの回転半径をそれぞれ異なる値とすることで、各LEDを識別可能にしておく(第7図)。
複数あるLEDを識別するためには、異なる回転半径を用いるほかに、異なる色を用いたり、LEDの大きさを変える、などの手法も有効である。
全周形状を作成するために、推定した回転角を用いて、各フレームで計測した3次元座標を、対象物体座標系に変換する(第8図)。このとき、形状を保存するためのデータ形式として、ボクセルを利用する。ボクセルとは、3次元空間をある一定の間隔で区切った立方体のことである(第9図)。
推定した点は、そのままでは誤差を含んでいるため、ある点が計測されたとき、その計測された点が含まれるボクセルに投票する機構にしておき、計測が終了した時点で一定以上の投票のあるボクセルにのみ、点があるとすれば、統計的に正しい3次元点が得られる(第10図)。
その際、単純な投票ではなく、ガウス分布に従った存在確率を与えると、なお精度良く正しい3次元点を推定できる。さらに、カメラ中心とレーザ検出位置をつないだ直線上に実際の点があることを考慮し、その直線上にある確率が高いことをモデル化した確率分布を利用すれば、なお精度良い推定ができる。
また、ボクセルの代わりに3次元座標をそのまま保存しても良いし、回転角と奥行き情報をそれぞれ保存しても良い。
また、点やボクセルの情報として3次元情報だけでなく、色情報も保存しておけば、推定した3次元点の色情報を使って、周辺の点やボクセルの色情報と比較することで、さらに精度向上を図ることができる。
面を生成する場合には、マーチンキューブアルゴリズム(非特許文献5)を用いれば、ボクセルから効率良く面を生成することができる。また精度良く面を生成するには、マーチンキューブアルゴリズム以外でも、レベルセット(非特許文献6)による方法や、マーチンキューブアルゴリズムの陰関数による拡張(非特許文献7)などによる方法でも良い。
続いて、本発明で提案する計測手法の精度を向上するための、様々な工夫について述べる。
まず、レーザ反射位置を検出し、デプス値を得る時、はずれ値を除外するアルゴリズムを導入すれば、間違ったデプス値が減少するため、推定精度を向上することができる。
また、レーザ平面の精度を上げるために、多くのLEDを用いる手法が挙げられる。LEDは最低3つあれば、平面推定は可能である。また、4つあれば、初期位置を効率的に計算できる。さらに、それ以上あれば、効果的に誤差を減らすことができる。しかし、単純にLEDの数を増やすと計測機器が大きくなってしまうが、提案するシステムでは、計測機器が対象と同じ画面内に撮影されている必要があるため、これは好ましくない。そこで、なるべくたくさんのLEDを計測機器に設置しておき、その中から幾つか選択して初期位置を決定し、残りのLEDを誤差の極小化による最適化処理に利用すれば、効果的に精度向上が実現できる(第11図)。
また、上記の初期位置合わせには、LEDを用いなくても、その前後或いは近傍のフレームで推定された計測機器の位置・姿勢を用いても良い。
提案する手法では、画像処理を用いて3次元推定するため、LED及びレーザ領域の検出精度を向上させれば、3次元推定精度を直接的に向上させることができる。
そこで、LEDの発光面の輝度を均一、または同心円状に輝度が変化するようにし、ピクセルの明るさを重みとした加重平均を計算し、LEDの中心位置を求めれば、サブピクセル精度でのLEDの位置推定が可能となり、精度向上を実現できる。さらに、単なる加重平均ではなく、楕円当てはめによる最適化を適用すれば、より高い精度が実現できる。
また、レーザ領域の検出の際に、放射状にスキャンすれば、検出精度を上げることができる。具体的には、画像上でのレーザ射出口が、LEDによる姿勢推定から分かっているため、そこから放射状にスキャンラインを設定し、そのライン上でのピークを探索すれば良い。これにより、単なる閾値処理より精度良く、サブピクセル精度でのレーザ検出が可能になる。
このとき、単に最大値を選ぶのではなく、ピークを持つ前後のピクセル値も利用して、重み付け平均を取れば、より高精度な検出が可能である。
また、前述した処理時に、ピクセルの絶対値をそのまま利用すると、明るい場所で計測した場合、シャッタースピードや絞りの調節次第では、レーザ以外のところにピークが出てしまい、うまくいかないことがある。このため、フレーム間の差分を取り、その差分画像を利用すればなお良い。
その際、単純なフレーム間差分では、前のフレームの計測機器の撮影されていた場所も差分として残ってしまうため、この部分は、推定された計測機器の位置・姿勢を用いてマスクすれば良い。
さらに、対象物体の材質、色により、レーザの反射率は異なるため、放射状スキャンだけでは、色合いの大きく異なる物体に関しては、うまくレーザ検出することができないことがある。そこで、予め物体の色が良く分かるように露出やシャッタースピード等を調整して画像を取得しておき、物体色でレーザ反射値を割れば、この問題を回避することができる。
また、レーザ反射値を物体色で割るだけではなく、カメラ位置とレーザ照射方向等も考慮した、より正確なモデルを仮定すれば、より精密な推定が可能である。
レーザの反射モデルを仮定しない方法として、ピクセルの色を計測中、ずっと保存しておく方法もある。この場合、ピクセル上では通常2つのピークが出る。1つは、レーザが当たったとき、もう1つは、当たっていないときである。この特徴を用いれば、レーザが当たったときすぐ判別できるため、高精度なレーザ検出が可能である。
検出したレーザ領域は、通常は連続している(直線または曲線)。奥行き値が階段状に急激に変化した場合でも、その不連続点までは、それぞれ連続している(第12図)。そこで、周辺に全くレーザ領域が無い孤立点は、高い確率でノイズと考えられるため、これを除去する。
連続性を調べるときは、3次元奥行き情報を用いても良いし、2次元画像上で2次元的な連続を調べても良い。前者の場合、正確性が増し、後者の場合、計算量を減少させる効果がある。
提案する計測機器は、手で振る機構のため、手ぶれしないように、シャッタースピードを早くして撮影・計測する。そのため60Hzなどの低い周期で明滅する蛍光灯下で計測を行うと、画像の色合いが、各フレームで大きく異なることがある。その場合、フレーム間差分処理等がうまくいかなくなる。
そこで、フレーム間の明るさの違いを調整すると良い。具体的には、各フレームでフレームを代表する明るさを求めて、その比で補正する。基準となるフレームの明るさを1としたとき、あるフレームの明るさがrであったとすると、そのフレームのピクセル座標(u、v)の輝度値p(u、v)は、補正後p(u、v)÷rとなる。
フレームを代表する明るさとしては、全ピクセルの平均値を用いても良いし、計算効率を上げるために全画面から一定或いはランダムにサンプリングしたピクセルの平均や中央値等を利用しても良い。
また、暗いピクセルよりも明るいピクセルの方が信頼できるため、明るいピクセルのみを閾値などで選び、平均や中央値を推定すると、なお良い。
LEDによりレーザ平面が求まったとしても、「特開2003−130621」で提案している手法では、レーザの射出方向が一意に決まらず、自由度が残る。そこで、LEDの配置を非対称な形状にすれば、これを一意に決定することができる。また、形状を非対称にする代わりに、LEDの色を非対称にすれば、同様の効果を得ることができる。
レーザの射出方向が一意に決まれば、前記放射状スキャンをする方向を限定でき(エリアは1/4)、効率的な計測が可能となる。
同じ部分を何度も計測すれば、統計的に精度を向上させることができる。そこで、本発明では、以下に述べる2つの手法でこれを実現する。
ラインレーザの数を増やすと、直接スキャンする領域が増えるため、より効率的な計測が可能となる(第13図)。この際に、ラインレーザの識別が必要となるが、輝度値、波長、線幅、線の長さ等の異なるレーザを用いれば、比較的簡単な処理で識別可能である。
また、誤った識別により3次元座標を推定した場合、推定した奥行き値が収束せずに、全く異なる値となるため、統計的な処理により識別することも可能である。
さらに、ラインレーザの連続性を利用して、連続しているレーザ反射は、同じレーザ光源から射出されていることを利用して、精度の良い識別が可能である。
また、鏡を利用すれば、鏡に映った対象に関しても、3D計測が可能になるほか、鏡に反射したレーザが物体を照射すれば、これによっても形状推定が可能となる(第14図)。これにより、計測効率が向上する。
このとき、鏡の上に、レーザと同じ波長の光のみを通すフィルタを取り付けておけば、レーザのみが反射され、計測装置のLEDが鏡に映り込んだり、天井に付いている照明等の反射の影響がなくなるため、誤認識が減り、効率の良い計測が可能となる。このようなフィルタとして、例えば、赤色セロファンのような単純なものを使用することができる。さらに、工業用の帯域干渉フィルターやバンドパスフィルター等を用いると、なお良い。
また、ここでも複数レーザを使用した場合と同様、レーザの識別が必要となるが、反射したレーザは光路長が長く、直接照射するレーザよりも暗くなるため、この特性により識別ができる。
この場合も、複数レーザの識別方法と同様、誤った識別により推定した3次元座標は、収束せずに全く異なる値となるため、統計的な処理を用いても識別可能である。
回転テーブルは、計測者が任意に回転させるため、回転角の推定は、各フレーム毎に独立に行われる。しかし、連続するフレーム間では、回転角度が大きく変化しないため、この制約を用いることで精度を向上させることができる。
具体的には、推定した回転角が、直前までの所定のフレームの推定角度の平均から大きく外れている場合には、推定値が誤っていると考え、形状推定からそのフレームを外せば良い。
回転角の推定値が誤っているかを比較する対象としては、直前までの所定のフレームの推定角度の平均値を使用する以外にも、1次や2次の関数近似や、カルマンフィルタなどのより複雑な手法を使うこともできる。
また、オフライン処理により、さらに高精度化を実現することもできる。これは、近似平面と観測点群との誤差を最小化するように回転角の再推定を行うことで実現できる。
基本的な考え方としては、「回転角度の推定値が正しくないと、レーザ検出位置から計算される3次元座標値が同じ平面上に乗らない」ということを利用する。
具体的には、回転角を微小に変動させながら、前述したオフライン処理による重回帰分析を実行し、そのときに計算される重回帰分析の自乗誤差を最小化するような、回転角を求めれば良い。回転テーブルに設置したLEDにより精度の良い初期位置が既に求まっているため、2分探索等の単純な手法でも安定して収束する。
以上の処理を全フレームに対して行い、各フレームでの誤差eを全て足し合わせたものをEとし、このEが収束するまで、何度か繰り返し行う。
本発明では、オフライン処理と回転テーブルにより、高精度に全周を計測する手法を提案した。オフライン処理は主に次の3点を改善する。1つ目は、使わなかったフレームを復活させ、2つ目は、レーザ平面の推定精度を向上させ、3つ目は、回転角の精度を向上させる。これらの効果により、最終的な形状を劇的に改善することができる。
また、鏡や複数レーザを用いることで、計測効率を向上させ、統計的に精度の向上を実現することができる。
加えて、本システムは、計測結果をリアルタイムにディスプレイ上に表示することができるため、ユーザは3次元計測の状況をその場で画面上で確認しながら計測することができる。これにより、穴(計測データの欠けている部分)がある場合、ユーザは即座に計測し直すことができ、効率の良い全周計測が可能となる。
以上、説明した通り、オフライン処理によって、レーザ平面の推定精度が向上し、精度の向上が見込まれる。また、LEDがなくても、レーザ反射位置の奥行き情報の獲得が可能となる。さらに、レーザとLEDとの位置関係(製造誤差)を測定することができ、これにより、この誤差の影響を補正し、最終的な精度を向上することができる。
加えて、全周形状を作成することができることが、本発明の大きな効果として挙げられる。
以上の効果によって、シンプルな機構で、容易に持ち運ぶことができ、効率良く全周の3次元形状を計測する装置及びその方法を実現することができる。
3次元推定及び位置合わせが、リアルタイムにかつ同時に行われるので、穴(計測データの欠けている部分)が開いているかどうか、即座に確認できる。しかも、提案する手法は、構造が簡単なため、類似点のあるシステム(非特許文献3)が抱えていた問題点を全てクリアすることができる。
さらに、鏡や複数のレーザを利用することで、計測の効率を上げることができる。
Claims (5)
- 回転角を推定するための発光ダイオードをマーカーとして取り付けた回転テーブルと、ラインレーザ光源にその位置と方向を識別するための発光ダイオードをマーカーとして取り付けた装置と、該装置及び回転テーブル上に設置した対象物体を撮影するためのビデオカメラ等の撮像装置と、照射したラインレーザ光及び前記回転テーブルおよび前記ラインレーザ光源に取り付けられた発光ダイオードを、該撮像装置で撮影した画像から検出し、解析するための計算用コンピュータからなる3次元形状計測装置であり、回転テーブルを用いることで全周形状を作成できることと、形状取得と回転テーブルの位置検出のセンサを単眼カメラ一台で兼ねられることを特徴とする3次元形状計測装置。
- 請求の範囲第1項に記載の装置において、回転テーブルに鏡を付けて、通常では撮像装置に映らない部分も計測できるようにし、鏡に反射したラインレーザ光が対象物体を照射することで計測を効率化することを特徴とする3次元形状計測装置。
- 請求の範囲第2項に記載の装置において、鏡の上にレーザと同じ波長の光のみを通すフィルタを取り付けることで、レーザ領域の波長の光のみが鏡で反射されるようにし、誤認識を減らして計測を効率化することを特徴とする3次元形状計測装置。
- 請求の範囲第1項乃至第3項のいずれかに記載の装置において、ラインレーザ光源を複数設けることで、対象物体をスキャンする領域を増やして計測を効率化することを特徴とする3次元形状計測装置。
- 請求の範囲第1項乃至第4項のいずれかに記載の装置に、ディスプレイモニタを加えることで、計測状況をリアルタイムにディスプレイ上に表示して計測を効率化することを特徴とする3次元形状計測装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2004/005143 WO2005100910A1 (ja) | 2004-04-09 | 2004-04-09 | 3次元形状計測方法及びその装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2005100910A1 JPWO2005100910A1 (ja) | 2008-03-06 |
JP4379626B2 true JP4379626B2 (ja) | 2009-12-09 |
Family
ID=35150099
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006512207A Expired - Lifetime JP4379626B2 (ja) | 2004-04-09 | 2004-04-09 | 3次元形状計測方法及びその装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4379626B2 (ja) |
WO (1) | WO2005100910A1 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007322351A (ja) * | 2006-06-05 | 2007-12-13 | Mitsubishi Electric Corp | 3次元物体照合装置 |
WO2008056427A1 (fr) * | 2006-11-08 | 2008-05-15 | Techno Dream 21 Co., Ltd. | Procédé de mesure de forme tridimensionnelle et dispositif correspondant |
ES2380531B1 (es) * | 2009-07-17 | 2013-04-04 | Elio Berhanyer, S.L. | Escaner tridimensional sin contacto para la medicion de objetos |
CN103267491B (zh) * | 2012-07-17 | 2016-01-20 | 深圳大学 | 自动获取物体表面完整三维数据的方法及系统 |
CN109099838B (zh) * | 2018-08-16 | 2020-01-17 | 华南农业大学 | 一种基于折反射的单目立体视觉系统三维信息测量方法 |
CN109856642B (zh) * | 2018-12-20 | 2023-05-16 | 上海海事大学 | 一种基于旋转三维激光测量系统的平面标定方法 |
JP7285121B2 (ja) * | 2019-04-09 | 2023-06-01 | 株式会社Ihi | 荷揚げ装置 |
JP7285122B2 (ja) * | 2019-04-09 | 2023-06-01 | 株式会社Ihi | 形状導出装置 |
CN113613994B (zh) * | 2019-04-09 | 2024-06-18 | 株式会社Ihi | 形状导出装置及卸货装置 |
JP2021004769A (ja) * | 2019-06-25 | 2021-01-14 | 住友金属鉱山株式会社 | 基板の検査装置、基板の検査方法 |
CN111220100B (zh) * | 2020-04-10 | 2020-08-18 | 广东博智林机器人有限公司 | 基于激光束的测量方法、装置、系统、控制设备及介质 |
CN112884880B (zh) * | 2021-01-20 | 2022-07-15 | 浙江大学 | 一种基于线激光的蜜柚三维建模装置和方法 |
CN114322837A (zh) * | 2021-11-30 | 2022-04-12 | 国珑智能科技(威海)有限公司 | 一种双八字三维视觉在线测量物体断面形状的装置及方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05280941A (ja) * | 1992-03-31 | 1993-10-29 | Matsushita Electric Ind Co Ltd | 3次元形状入力装置 |
JPH095031A (ja) * | 1995-06-22 | 1997-01-10 | Sharp Corp | 3次元視覚認識装置 |
GB0023681D0 (en) * | 2000-09-27 | 2000-11-08 | Canon Kk | Image processing apparatus |
JP3398657B2 (ja) * | 2000-10-12 | 2003-04-21 | 川崎重工業株式会社 | 溶接用センサ |
JP3624353B2 (ja) * | 2002-11-14 | 2005-03-02 | 有限会社テクノドリーム二十一 | 3次元形状計測方法およびその装置 |
-
2004
- 2004-04-09 JP JP2006512207A patent/JP4379626B2/ja not_active Expired - Lifetime
- 2004-04-09 WO PCT/JP2004/005143 patent/WO2005100910A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JPWO2005100910A1 (ja) | 2008-03-06 |
WO2005100910A1 (ja) | 2005-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10282855B2 (en) | Determining object properties with respect to particular optical measurement | |
US10237532B2 (en) | Scan colorization with an uncalibrated camera | |
JP5891280B2 (ja) | 環境を光学的に走査および測定する方法ならびにデバイス | |
EP3531066B1 (en) | Three-dimensional scanning method including a plurality of lasers with different wavelengths, and scanner | |
US7724379B2 (en) | 3-Dimensional shape measuring method and device thereof | |
JP5943547B2 (ja) | 非接触測定を行う装置および方法 | |
JP5132832B1 (ja) | 計測装置および情報処理装置 | |
JP5346033B2 (ja) | 物体の三次元形状を光学的に測定する方法 | |
JP4885584B2 (ja) | レンジファインダ校正方法及び装置 | |
JP6596433B2 (ja) | 2つのカメラからの曲線の集合の構造化光整合 | |
JP2003130621A (ja) | 3次元形状計測方法およびその装置 | |
JP4379626B2 (ja) | 3次元形状計測方法及びその装置 | |
US11640673B2 (en) | Method and system for measuring an object by means of stereoscopy | |
Ferstl et al. | Learning Depth Calibration of Time-of-Flight Cameras. | |
US11803982B2 (en) | Image processing device and three-dimensional measuring system | |
WO2016135856A1 (ja) | 3次元形状計測システムおよびその計測方法 | |
Horbach et al. | 3D reconstruction of specular surfaces using a calibrated projector–camera setup | |
JP6237032B2 (ja) | 色と三次元形状の計測方法及び装置 | |
Langmann | Wide area 2D/3D imaging: development, analysis and applications | |
Botterill et al. | Design and calibration of a hybrid computer vision and structured light 3D imaging system | |
JP2016102755A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6061631B2 (ja) | 計測装置、情報処理装置、計測方法、情報処理方法、および、プログラム | |
Schiller | Dynamic 3D scene analysis and modeling with a time-of-flight camera | |
US20210278271A1 (en) | Method for determining the path of a measurement beam of an interferometric measuring device, and measuring device for interferometric measurement of an object under measurement | |
KR20140068444A (ko) | 다층 평면 물체 영상을 이용하여 카메라를 보정하기 위한 장치 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081111 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081229 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090825 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090908 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121002 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |