JP3637416B2 - 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム - Google Patents
3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム Download PDFInfo
- Publication number
- JP3637416B2 JP3637416B2 JP2002337223A JP2002337223A JP3637416B2 JP 3637416 B2 JP3637416 B2 JP 3637416B2 JP 2002337223 A JP2002337223 A JP 2002337223A JP 2002337223 A JP2002337223 A JP 2002337223A JP 3637416 B2 JP3637416 B2 JP 3637416B2
- Authority
- JP
- Japan
- Prior art keywords
- distance
- points
- image
- measurement
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、複数の2次元画像から計測対象物の3次元形状を計測する3次元計測方法、3次元計測システム、該3次元計測システムに利用する画像処理装置、及び該画像処理装置を実現させるためのコンピュータプログラムに関する。
【0002】
【従来の技術】
従来の3次元計測装置として、レンジファインダ、レンジスキャナ等の光学式計測装置が知られている(例えば、非特許文献1参照)。レンジファインダを用いた3次元計測では、まず、計測対象物にレーザ光源からの光ビームを照射し、計測対象物の表面にスポット光の照射点が形成されるようにする。そして、その照射点を含めた計測対象物の画像を2台のカメラにより取得し、三角測量法の原理に従って照射点の3次元位置を計測する。
一方、レンジスキャナを利用した3次元計測では、計測対象物にレーザ光を照射し、計測対象物からの反射光を受光することで計測対象物までの距離情報を取得し、その距離情報に基づきレーザ光の照射点の3次元位置を計測する。レーザ光を計測対象物に対して走査させることにより広範囲の3次元計測を一度に行うことができ、例えば、建築物の計測、地形の計測等に利用されている。
【0003】
【非特許文献1】
井口征士,佐藤宏介共著,「三次元画像計測」,初版,株式会社昭晃堂,1990年11月20日,p20−p64
【0004】
【発明が解決しようとする課題】
しかしながら、従来のレンジファインダを利用して3次元計測を行う場合、計測対象物が工業製品等の比較的小さな対象に限られており、建築物又はプラント等の比較的大きな対象について3次元計測を行う場合、様々な問題点が指摘されている。例えば、現場における作業においては、電源を確保できないという問題点を有する。また、複雑な機器を持ち込むこと自体困難であり、機器を持ち込めた場合であっても、それらの設置時間に多大な時間を要するという問題点がある。このような理由から、建築物又はプラント等の比較的大きな対象について3次元計測を行う場合には前述したようなレンジファインダが適用できるケースは少ない。
また、レンジスキャナを利用する場合も同様の問題点を含んでおり、計測現場への持ち込み、及び設置が困難な場合が生じている。
【0005】
そこで、カメラ等の撮像装置を用いて計測対象物を撮像し、得られた撮像画像を解析して3次元形状を求めることが行われている。この手法を用いる場合、異なる視点から撮像された複数の画像を画像処理装置に取込み、それらの画像間の幾何関係をまず求める。
図7は、撮像装置により得られた2つの画像間の幾何関係を示す模式図である。図中Tは計測対象物であり、計測対象物T上の任意の注視点Mを異なる2つの視点A,Bから撮像した場合、各撮像装置の画像面1A,1Bには、注視点Mによる投影点a1 及びb1 が存在する。注視点Mと2つの投影点a1 及びb1 とは、エピポーラ平面と呼ばれる同一平面上に存在する。そして、2つの画像上での任意の対応点(例えば、点a2 及び点b2 による対応点、点a3 及び点b3 による対応点、並びに点a4 及び点b4 による対応点)には、エピポーラ方程式と呼ばれる幾何関係が成り立つことが知られている。
エピポーラ方程式は、注視点Mの3次元座標には無関係であり、対応点の座標、並びに撮像装置の位置及び姿勢を変数とした関係式である。複数の対応点を利用してエピポーラ方程式を解くことにより、撮像装置の位置及び姿勢に関する情報が得られ、画像面の2次元座標を逆射影して3次元空間上の位置座標を求めることができる。
【0006】
しかしながら、撮像装置により得られた撮像画像は、当該撮像装置の焦点距離、画素のサイズ、画素の縦軸及び横軸のなす角度、中心画素の位置座標等のパラメータが反映された画像である。そのため、撮像された計測対象物Tの形状に歪みが生じるという問題点を有している。従って、撮像装置により得られた撮像画像を用いて3次元形状を再構成した場合には、撮像画像中の形状の歪みの影響を受けて計測する3次元形状にも歪みが生じることとなり、精密な3次元形状の情報が必要とされる建築分野、計測分野等においては精度の向上が求められていた。
【0007】
本発明は斯かる事情に鑑みてなされたものであり、異なる2点から撮像された計測対象物の画像を読込み、読込んだ2つの画像上での対応点に基づき、計測対象物を撮像した際の撮像装置の位置及び姿勢を算出し、計測すべき3次元形状に対する複数の候補点を求め、求めた候補点間の距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、設定した評価関数が可及的に良好となるように候補点の座標値を調整する構成とすることにより、計測対象物が建築物、プラントのように大きなものであっても適用することができ、しかも、歪みが少なく、精密な3次元形状が得られる3次元計測方法、3次元計測システム、該3次元計測システムに利用される画像処理装置、及び該画像処理装置を実現させるためのコンピュータプログラムを提供することを目的とする。
【0008】
本発明の他の目的は、レーザ距離計を用いて候補点間の距離を計測する構成とすることにより、歪みが少ない3次元形状が容易に得られる3次元計測システムを提供することにある。
【0009】
本発明の更に他の目的は、計測対象物を撮像する際、レーザ距離計を含めて撮像する構成とする構成とすることにより、歪みが少ない3次元形状が容易に得られる3次元計測システムを提供することにある。
【0010】
【課題を解決するための手段】
第1発明に係る3次元計測方法は、撮像装置を用いて異なる2点から撮像された計測対象物の画像を画像処理装置に読込み、読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する3次元計測方法において、読込んだ2つの画像上での対応点を求め、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出し、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求め、求めた候補点間の距離を算出し、前記候補点間についての既知距離を外部から取得し、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定し、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整することを特徴とする。
【0011】
第2発明に係る3次元計測システムは、計測対象物を撮像する撮像装置と、該撮像装置により異なる2つの視点から撮像された計測対象物の画像を読込む手段、及び該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段を有する画像処理装置とを備える3次元計測システムにおいて、3次元空間上の2点間の距離を計測する1又は複数の距離計測器を備え、前記画像処理装置は、読込んだ2つの画像上での対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記距離計測器により計測された前記候補点間の計測距離を外部から取得する手段と、算出した候補点間の距離と取得した計測距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする。
【0012】
第3発明に係る3次元計測システムは、第2発明に係る3次元計測システムにおいて、前記距離計測器はレーザ距離計であることを特徴とする。
【0013】
第4発明に係る3次元計測システムは、第3発明に係る3次元計測システムにおいて、前記撮像装置は、前記計測対象物を撮像する際、前記レーザ距離計を含めて撮像すべくなしてあることを特徴とする。
【0014】
第5発明に係る画像処理装置は、撮像装置を用いて異なる2点から撮像された計測対象物の画像を読込む手段と、該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段とを備える画像処理装置において、読込んだ2つの画像上で互いに対応する対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記候補点間についての既知距離を外部から取得する手段と、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする。
【0015】
第6発明に係るコンピュータプログラムは、コンピュータに、外部から入力された異なる2点から撮像された計測対象物の画像に基づき、前記計測対象物の3次元形状を計測させるステップを有するコンピュータプログラムにおいて、コンピュータに、前記画像上での対応点を求めさせるステップと、コンピュータに、求めた対応点に基づき、前記計測対象物を撮像した際の撮像装置の位置及び姿勢を算出させるステップと、コンピュータに、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求めさせるステップと、コンピュータに、求めた候補点間の距離を算出させるステップと、コンピュータに、算出した候補点間の距離と、外部から入力された前記候補点間の既知距離とに基づく評価関数の値が可及的に良好となるように前記候補点の座標値を調整させるステップとを有することを特徴とする。
【0016】
第1発明、第2発明、第5発明、及び第6発明にあっては、異なる2点から撮像された計測対象物の画像に基づき、撮像した際の撮像装置の位置及び姿勢を求め、計測すべき3次元形状に対する複数の候補点を算出し、候補点間について算出された距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、評価関数が可及的に良好となるように候補点の座標値を調整するようにしている。したがって、取得した撮像画像に映された計測対象物の形状が、撮像装置の内部パラメータの影響等を受けて歪んだものとなる場合であっても、複数の候補点間の距離を取込むことによって、歪みが少なく、精密な3次元形状を計測することが可能となる。
【0017】
第3発明にあっては、距離計測器としてレーザ距離計を用いているため、候補点間の精密な距離を計測することが容易であり、しかも、計測対象物が建築物、プラント等の比較的大きいものであっても距離の計測が可能であり、計測した精密な距離を取込むことによって、歪みの少ない3次元形状を計測することができる。
【0018】
第4発明にあっては、計測対象物を計測する際にレーザ距離計を含めて撮像するようにしているため、レーザ距離計の基準点及び照射点も2つの画像における対応点として採用することが可能であり、しかもその対応点間の距離を精密に測定できるため、3次元形状の計測のために利用できる。
【0019】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
図1は本発明の3次元計測システムの概略構成を示す模式図である。図中10A,10Bは計測対象物Tを撮像するための撮像装置であり、具体的には、デジタルカメラ、銀塩カメラ、ビデオカメラ等である。計測対象物Tは、例えば、建築物、プラント、工業製品等であり、本実施の形態に係る3次元計測システムでは、計測対象物Tについて3次元形状を計測し、計測対象物T上の任意の2点間の精密な距離、任意の2本の線分がなす角度等の情報を取得する。
本実施の形態では、撮像装置10A,10Bにより計測対象物Tを撮像する際、複数のレーザ距離計20A,20B,20Cを利用して、各レーザ距離計20A,20B,20Cと計測対象物Tとの距離を計測するとともに、計測中のレーザ距離計20A,20B,20Cが撮像範囲内に含まれるように撮像する。すなわち、計測対象物Tとの距離を測定するために各レーザ距離計20A,20B,20Cからレーザ光が照射され、その照射点が計測対象物Tの表面上に現れているときに、これらのレーザ距離計20A,20B,20Cを撮像装置10A,10Bの撮像範囲に含めて撮像する。
【0020】
撮像装置10A,10Bにより得られた撮像画像、及びレーザ距離計20A,20B,20Cにより計測された計測距離のデータは、画像処理装置30に読込まれる。画像処理装置30は、例えば、パーソナルコンピュータであり、読込んだ複数の撮像画像に基づいて画像処理を行い、計測対象物Tの3次元形状を計測する。そのとき、レーザ距離計20A,20B,20Cが計測した2点間の計測距離を取込むことにより計測すべき3次元形状の位置座標を調整し、計測精度の向上を図る。
【0021】
なお、本実施の形態では、2台の撮像装置10A,10Bを用いて計測対象物Tを撮像するようにしているが、撮像装置の数は2台に限定する必要はなく、3台以上の撮像装置を利用して計測対象物Tを撮像し、3つ以上の撮像画像を用いて画像処理を行い、3次元形状を計測するようにしてもよい。また、1台の撮像装置を用いて計測対象物Tを撮像した後、別の視点から撮像し、2つ以上の異なる視点から撮像された撮像画像を得るようにしてもよい。
また、本実施の形態では、3台のレーザ距離計20A,20B,20Cを用いて計測対象物Tとの距離を計測するようにしているが、レーザ距離計の数は3台に限定する必要はなく、2台又は4台以上のレーザ距離計を用いて計測対象物Tとの距離を計測するようにしてもよい。また、1台のレーザ距離計により計測対象物Tとの距離を計測した後、別の地点から計測して複数の計測距離を得るようにしても良い。
【0022】
図2は、撮像装置10A,10Bにより得られた撮像画像の一例を示す模式図である。撮像装置10A,10Bを用いて異なる2つの視点から計測対象物Tを撮像しており、撮像装置10A,10Bにより得られた撮像画像100A,100Bは、それぞれ図2(a),図2(b)に示したような画像となる。
本実施の形態では、計測対象物Tとともに距離計測中の3つのレーザ距離計20A,20B,20Cを含めて撮像する。各レーザ距離計20A,20B,20Cには、距離を計測する際の基準となる基準点が各筐体の一面(例えば、底面)に設けられており、後の画像処理を容易化するために、各レーザ距離計20A,20B,20Cの基準点及び照射点が両撮像画像に含まれるように撮像する。
【0023】
図3は、画像処理装置30の内部構成を示すブロック図である。画像処理装置30はCPU31を備えており、該CPU31にバス32を介してROM33、RAM34、操作部35、表示部36、画像入力部37、補助記憶部38、記憶部39等の各種ハードウェアが接続されている。CPU31は、ROM33に格納された各種制御プログラムに従って前記ハードウェアを制御するとともに、外部から入力された複数の画像データに画像処理を施し、計測対象物Tの3次元形状を計測する。なお、当該画像処理は必ずしもCPU31が行う必要はなく、画像処理専用のASIC(Application Specifide Integrated Circiut)を設けて、CPU31から指示を与えることにより、画像処理専用のASICに画像処理を行わせる形態であってもよい。
RAM34はSRAM又はフラッシュメモリ等で構成され、ROM33に格納された制御プログラムの実行時に発生するデータを記憶する。
【0024】
操作部35は、キーボード、マウス、タブレット等の入力装置からなり、画像処理をする際の指示を入力し、選択操作等を行う。表示部36は、CRTディスプレイ又は液晶ディスプレイ等の表示装置からなり、操作部35を通じて入力された各種の情報が表示されるとともに、外部から入力された撮像画像、及び画像処理中の画像データ等が表示される。
【0025】
画像入力部37には、撮像装置10A,10Bにより撮像された撮像画像がデジタルの画像データとして入力される。撮像装置10A,10Bが銀塩カメラである場合には、画像入力部37として、イメージスキャナ装置、フィルムスキャナ装置等を用いることができ、撮像装置10A,10Bにより得られた銀塩写真、写真フィルムをデジタルの画像データに変換した後、画像処理装置30の内部に取込む。また、撮像装置10A,10Bがデジタルカメラである場合には、撮像装置10A,10Bにて得られたデジタルの画像データを可搬型メモリに記憶させておき、当該可搬型メモリに記憶された画像データを読込むことも可能である。また、撮像装置10A,10Bがデジタルカメラであり、画像処理装置30との間でUSB(Universal Serial Bus)等の規格を利用した通信が可能である場合には、当該通信を利用して画像データを画像処理装置30に取込むことも可能である。
何れの場合も、撮像装置10A,10Bにより得られた撮像画像(銀塩写真、デジタル画像データ)は、デジタルの画像データとして画像処理装置30に入力される。入力された画像データはハードディスク等の記憶部39に記憶される。
【0026】
補助記憶部38は、本発明のコンピュータプログラム及びデータを記録したFD、CD−ROM等の記録媒体380からコンピュータプログラム及びデータを読取るFDドライブ、CD−ROMドライブ等からなり、読取られたコンピュータプログラム及びデータは、記憶装部39に記憶される。記憶部39に記憶されているコンピュータプログラム及びデータはRAM34に読込まれ、CPU31が実行することで本発明の画像処理装置30として動作する。
【0027】
図4は、撮像画像100A,100Bの間の対応付けを説明する模式図である。異なる2つの視点から撮像された撮像画像100A,100Bに基づき、計測対象物Tの3次元形状を計測するには、各撮像画像100A,100Bを撮像した際の撮像装置10A,10Bの位置及び姿勢を算出する必要がある。そこで、画像処理装置30は、読込んだ撮像画像100A,100Bの夫々から画像の特徴点を抽出し、特徴点間の対応付けを行うことによって、撮像画像100A,100B間の幾何関係を求める処理を行う。
【0028】
画像の特徴点を抽出する場合、画像処理装置30は、入力された撮像画像100A,100Bからエッジ画像又は明暗画像を作成して計測対象物Tの輪郭線を抽出し、抽出した輪郭線が交わる点を特徴点として採用する。例えば、図4(a)に示した如く計測対象物Tが直方体である場合には、直方体の頂点を特徴点(A1 〜A7 )として求めることができる。また、同様にして、図4(b)に示した撮像画像100Bからは、計測対象物Tが有する各頂点のうち、撮像画像100Bに写っている頂点を特徴点(B1 〜B7 )として求めることができる。
本実施の形態では、更に、各レーザ距離計20A,20B,20Cの基準点及び照射点を画像の特徴点として採用している。撮像画像100Aからは、レーザ距離計20Aの基準点に対応させて特徴点A9 を採用し、レーザ距離計20Aの照射点に対応させて特徴点A8 を採用することができる。そして、レーザ距離計20B,20Cの各基準点及び照射点に対応させて、特徴点A10〜A13を採用することができる。同様にして、撮像画像100Bからは、レーザ距離計20A,20B,20Cの各基準点及び照射点に対応させて、特徴点B8 〜B13を採用することができる。
レーザ距離計20A,20B,20Cの各基準点及び照射点による特徴点の抽出は、前述の明暗画像から明度が最大又は極大となる画素を特定して抽出する。
【0029】
本実施の形態では、2つの撮像画像100A,100Bを用いて計測対象物Tの3次元計測を行う際に、各レーザ距離計20A,20B,20Cによって計測された特徴点間(A8 −A9 間、A10−A11間、A12−A13間)の距離L1 ,L2 ,L3 を取込み、3次元計測の精度を向上させることを特徴としている。
画像処理装置30により抽出された各撮像画像100A,100Bの特徴点の情報(座標値)、及び外部から入力された特徴点間の距離L1 ,L2 ,L3 についての情報は、画像処理装置30内部の記憶部39に夫々関連付けられて記憶される。
【0030】
図5は、画像処理装置30内部の記憶部39が有する各種テーブルの一例を示す概念図である。記憶部39は、特徴点の座標値を記憶する特徴点情報テーブル39Aと特徴点間の距離に関する情報を記憶する距離情報テーブル39Bとを有している。特徴点情報テーブル39Aは、特徴点毎に連番を付した特徴点ID欄、各撮像画像100A,100Bにおける特徴点の座標値を記憶する2つの座標欄、算出された3次元座標を記憶する3次元座標欄、距離情報が入力されたときに付与する参照IDを記憶するための参照ID欄を有している。
また、距離情報テーブル39Bには、参照ID欄、前記3次元座標に基づいて算出した特徴点間の距離(算出距離)を記憶する算出距離欄、レーザ距離計20A,20B,20Cにより計測された計測距離を記憶する計測距離欄を有している。
【0031】
撮像画像100Aから抽出された特徴点の座標値には固有の特徴点IDが付与され、一方の座標欄に記憶される。また、撮像画像100Bから抽出された特徴点の座標値は、撮像画像100Aから抽出された特徴点と対応付けられて他方の座標欄に記憶される。例えば、撮像画像100Aから抽出された特徴点A1 の座標値(x11,y11)には、特徴点ID「P001」を付与して座標欄に記憶するとともに、特徴点A1 に対応した撮像画像100B上の特徴点B1 の座標値(x12,y12)を前記特徴点IDに関連付けて特徴点情報テーブル39Aに記憶させる。なお、特徴点間の対応付けは、画像処理装置30の演算により自動的に行う形態であってもよく、また、人の手により対応付けを行う形態であってもよい。画像処理装置30の演算により自動的に対応付けを行う手法については、後に詳述することにする。
各撮像画像100A,100Bについて2つの異なる特徴点が指定され、当該特徴点間の計測距離が入力された場合、画像処理装置30は、参照IDを付与して距離情報テーブル39Bの計測距離欄に計測距離の値を記憶させる。
【0032】
以下、画像処理装置30が行う処理について説明する。
図6は、本実施の形態に係る画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30のCPU31は、撮像装置10A,10Bにより撮像された撮像画像100A,100Bを読込む(ステップS1)。画像入力部37を通じて撮像画像100A,100Bを入力されたものを読込む形態であってもよく、予め記憶部39に記憶させた2つの撮像画像100A,100Bを読込む形態であってもよい。
そして、画像処理装置30のCPU31は、撮像画像の読込みが終了したか否かを判断し(ステップS2)、読込みが終了していないと判断した場合(S2:NO)、処理をステップS1へ戻す。
【0033】
画像処理装置30のCPU31が、撮像画像の読込みを終了したと判断した場合(S2:YES)、CPU31は、読込まれた2つの撮像画像100A,100Bから特徴点の抽出を行う(ステップS3)。特徴点の抽出は、前述したように、撮像画像100A,100Bから明暗画像又はエッジ画像を作成して、撮像画像100A,100Bに写っている計測対象物Tの輪郭線を抽出し、輪郭線同士の交点を求めることによって行う。また、明暗画像等から明度が最大又は極大となる画素を特定することによって、レーザ距離計20A,20B,20Cの基準点及び照射点による特徴点を抽出することが可能である。
【0034】
次いで、CPU31は、各撮像画像100A,100Bの間で特徴点の対応付けを実行する(ステップS4)。特徴点の対応付けは以下のようにして行う。
世界座標系により表した3次元空間(ユークリッド空間)上のある点の位置座標Mと、カメラ座標系により表した撮像面での位置座標mとの間には、
【0035】
【数1】
【0036】
なる関係式が成り立つ。ここで、Pは射影行列であり、カメラパラメータを要素とした内部行列A、並進ベクトルt及び回転行列Rを用いて、
【0037】
【数2】
【0038】
と表すことができる。内部行列Aの要素であるカメラパラメータには、焦点距離、画素の中心座標、画素のサイズ、画素の横軸及び縦軸がなす角度等のパラメータを含んでおり、ユークリッド空間上の3次元形状を射影空間上に投影した場合に歪みが生じる原因となり得る。本実施の形態では、ユークリッド空間で3次元形状を再構成する際に実測された距離の情報を取込むことによって、精度よく計測対象物Tの3次元形状を計測することをできる。また、世界座標系を一方の撮像装置10A(又は撮像装置10B)のカメラ座標系に一致させた場合、2つの撮像画像100A,100Bの関係は前述の並進ベクトルtと回転行列Rとによって表すことができ、夫々の撮像画像100A,100Bにおける対応点の位置座標m,m’には、次式で表される関係式が成り立つ。
【0039】
【数3】
【0040】
ここで、Fは基礎行列であり、数式(3)は2つの撮像画像100A,100B間のエピポーラ拘束条件を示している。基礎行列Fは3×3の行列であり、特異値の1つがゼロであり、基礎行列Fのスケールが任意であるため、数式(3)は7つの拘束条件を与える。すなわち、2つの撮像画像100A,100B間で7組以上の対応点が存在する場合に基礎行列Fを求めることができる。
【0041】
逆に、各撮像装置100A,100Bから正しい対応点の組合せを選択して数式(3)に代入した場合にのみ1つの基礎行列Fを共有することができることを利用して、ステップS3にて抽出した特徴点間の対応付けを行うことができる。すなわち、各撮像画像100A,100Bには有限個の特徴点が存在し、考えられる特徴点間の対応関係は有限の組合せに限定される。それらの組合せの中から一つの組合せを選択し、選択した組合せに含まれる複数組の特徴点に基づき、数式(3)を利用して基礎行列Fを求める。仮に適切な組合せを選択した場合には、互いに対応関係にある他の特徴点の位置座標を数式(3)に代入したときに1つの基礎行列Fを共有することができ、適切でない組合せを選択した場合には、基礎行列Fを共有できないことになる。このように、各組合せに含まれる複数の特徴点を利用して求めた基礎行列Fが、他の特徴点間でも共有できるか否かを調べることによって、特徴点間の対応付けが適切であるか否かを検討することができ、画像100A,100B間における特徴点の対応付けを行うことが可能となる。
【0042】
各撮像画像100A,100Bの対応点が求まった場合、数式(3)に7組上の対応点の座標値を代入して連立方程式を立て、最小2乗法により基礎行列Fの各要素を求めることができる。また、基本行列Fは、前述した内部行列A、並進ベクトルt及び回転行列R、並びに基本行列Eを用いて、以下のように表すことができる。
【0043】
【数4】
【0044】
数式(3)により基礎行列Fが求まった場合、数式(4)を用いて基本行列Eを求めることができ、更に、求めた基本行列Eから並進ベクトルt及び回転行列Rを求めることができる。求めた並進ベクトルt及び回転行列Rは撮像装置10A,10B間の運動を表しており、それぞれの位置及び姿勢の初期値を並進ベクトルt及び回転行列Rとして算出することができる(ステップS5)。
【0045】
次いで、画像処理装置30のCPU31は、3次元空間における前記特徴点の位置座標の初期値を算出する(ステップS6)。ステップS5で撮像装置10A,10Bの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、3次元空間における特徴点の位置座標を算出することができる。
【0046】
次いで、画像処理装置30は特徴点間の計測距離の入力を受付ける(ステップS7)。具体的には、レーザ距離計20A,20B,20Cにより計測された計測距離の入力を促す表示を表示部36にするとともに、操作部35からの計測距離の入力を受付ける。
次いで、画像処理装置30のCPU31は計測距離の入力が終了したか否かを判断する(ステップS8)。計測距離の入力が終了していないと判断した場合(S8:NO)、処理をステップS7へ戻し、新たな計測距離の入力を受付ける。
【0047】
計測距離の入力が終了した場合(S8:YES)、画像処理装置30のCPU31は評価関数の設定を行う(ステップS9)。設定すべき評価関数は、レーザ距離計20A,20B,20Cによって計測された計測距離と、演算によって求めた算出距離とを考慮した評価関数であり、数式(5)で表される関数が、数式(6)で表される拘束条件の下に最小となるように3次元空間の位置座標(Xi ,Yi ,Zi )、及び撮像装置10A,10Bの位置・姿勢を算出する(ステップS10)。
【0048】
【数5】
【0049】
【数6】
【0050】
ここで、Rj 及びtj は、世界座標系からj番目(本実施の形態では、j=1,2)のカメラ座標系への運動を表す回転行列及び並進ベクトルである。P(Xi ,Yi ,Zi ,Rj ,tj ,Aj )及びQ(Xi ,Yi ,Zi ,Rj ,tj ,Aj )は、3次元空間の位置座標(Xi ,Yi ,Zi )を回転行列Rj 及び並進ベクトルtj によりj番目の画像の射影したときのx座標及びy座標を表す。また、数式(6)において、Likはi番目の特徴点とk番目の特徴点との間の計測距離を表している。
したがって、数式(6)で表される拘束条件の元で数式(5)を最小化した場合、特徴点間について算出した距離と実際に測定した距離との差が可及的に小さくなるとともに、撮像画像上に射影された点の位置座標が特徴点の位置座標に近くなる3次元空間の位置座標、及び撮像装置10A,10Bの位置・姿勢が求まる。
【0051】
このように、本実施の形態では、レーザ距離計20A,20B,20Cにより計測された特徴点間の距離を取込み、計測すべき3次元形状を構成する点の3次元座標を求める際に利用することで、3次元形状のスケールだけでなく、形状自体を精密に計測することが可能となる。
【0052】
なお、本実施の形態では、2つの撮像装置10A,10Bの撮像範囲にレーザ距離計20A,20B,20Cを含めて撮像し、各基準点及び照射点を特徴点として採用するとともに、基準点及び照射点に対応させた特徴点間の距離の情報を3次元計測の際に利用する構成としたが、必ずしもレーザ距離計20A,20B,20Cを含めて撮像する必要はなく、また、特徴点間の距離もレーザ距離計20A,20B,20Cによって計測されたものである必要はない。すなわち、本発明では、特徴点間の距離の情報を複数利用することによって、3次元形状の計測精度を向上させる点に特徴があり、例えば、事前に人の手により計測された特徴点間の距離の情報を取入れて3次元計測を行うようにしても良い。
【0053】
【発明の効果】
以上、詳述したように、第1発明、第2発明、第5発明、及び第6発明による場合は、異なる2点から撮像された計測対象物の画像に基づき、撮像した際の撮像装置の位置及び姿勢を求め、計測すべき3次元形状に対する複数の候補点を算出し、候補点間について算出された距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、評価関数が可及的に良好となるように候補点の座標値を調整するようにしている。したがって、取得した画像に映された計測対象物の形状が、撮像装置の内部パラメータの影響等を受けて歪んだものとなる場合であっても、複数の候補点間の距離を取込むことによって、歪みが少なく、精密な3次元形状を計測することが可能となる。
【0054】
第3発明による場合は、距離計測器としてレーザ距離計を用いているため、候補点間の精密な距離を計測することが容易であり、しかも、計測対象物が建築物、プラント等の比較的大きいものであっても距離の計測が可能であり、計測した精密な距離を取込むことによって、歪みの少ない3次元形状を計測することができる。
【0055】
第4発明による場合は、計測対象物を計測する際にレーザ距離計を含めて撮像するようにしているため、レーザ距離計の基準点及び照射点も2つの画像における対応点として採用することが可能であり、しかもその対応点間の距離を精密に測定できるため、3次元形状の計測に利用することができる等、本発明は優れた効果を奏する。
【図面の簡単な説明】
【図1】本発明の3次元計測システムの概略構成を示す模式図である。
【図2】撮像装置により得られた撮像画像の一例を示す模式図である。
【図3】画像処理装置の内部構成を示すブロック図である。
【図4】撮像画像の間の対応付けを説明する模式図である。
【図5】画像処理装置内部の記憶部が有する各種テーブルの一例を示す概念図である。
【図6】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図7】撮像装置により得られた2つの画像間の幾何関係を示す模式図である。
【符号の説明】
T 計測対象物
10A,10B 撮像装置
20A,20B,20C レーザ距離計
30 画像処理装置
31 CPU
32 バス
33 ROM
34 RAM
35 操作部
36 表示部
37 画像入力部
38 補助記憶部
38A 記録媒体
39 記憶部
【発明の属する技術分野】
本発明は、複数の2次元画像から計測対象物の3次元形状を計測する3次元計測方法、3次元計測システム、該3次元計測システムに利用する画像処理装置、及び該画像処理装置を実現させるためのコンピュータプログラムに関する。
【0002】
【従来の技術】
従来の3次元計測装置として、レンジファインダ、レンジスキャナ等の光学式計測装置が知られている(例えば、非特許文献1参照)。レンジファインダを用いた3次元計測では、まず、計測対象物にレーザ光源からの光ビームを照射し、計測対象物の表面にスポット光の照射点が形成されるようにする。そして、その照射点を含めた計測対象物の画像を2台のカメラにより取得し、三角測量法の原理に従って照射点の3次元位置を計測する。
一方、レンジスキャナを利用した3次元計測では、計測対象物にレーザ光を照射し、計測対象物からの反射光を受光することで計測対象物までの距離情報を取得し、その距離情報に基づきレーザ光の照射点の3次元位置を計測する。レーザ光を計測対象物に対して走査させることにより広範囲の3次元計測を一度に行うことができ、例えば、建築物の計測、地形の計測等に利用されている。
【0003】
【非特許文献1】
井口征士,佐藤宏介共著,「三次元画像計測」,初版,株式会社昭晃堂,1990年11月20日,p20−p64
【0004】
【発明が解決しようとする課題】
しかしながら、従来のレンジファインダを利用して3次元計測を行う場合、計測対象物が工業製品等の比較的小さな対象に限られており、建築物又はプラント等の比較的大きな対象について3次元計測を行う場合、様々な問題点が指摘されている。例えば、現場における作業においては、電源を確保できないという問題点を有する。また、複雑な機器を持ち込むこと自体困難であり、機器を持ち込めた場合であっても、それらの設置時間に多大な時間を要するという問題点がある。このような理由から、建築物又はプラント等の比較的大きな対象について3次元計測を行う場合には前述したようなレンジファインダが適用できるケースは少ない。
また、レンジスキャナを利用する場合も同様の問題点を含んでおり、計測現場への持ち込み、及び設置が困難な場合が生じている。
【0005】
そこで、カメラ等の撮像装置を用いて計測対象物を撮像し、得られた撮像画像を解析して3次元形状を求めることが行われている。この手法を用いる場合、異なる視点から撮像された複数の画像を画像処理装置に取込み、それらの画像間の幾何関係をまず求める。
図7は、撮像装置により得られた2つの画像間の幾何関係を示す模式図である。図中Tは計測対象物であり、計測対象物T上の任意の注視点Mを異なる2つの視点A,Bから撮像した場合、各撮像装置の画像面1A,1Bには、注視点Mによる投影点a1 及びb1 が存在する。注視点Mと2つの投影点a1 及びb1 とは、エピポーラ平面と呼ばれる同一平面上に存在する。そして、2つの画像上での任意の対応点(例えば、点a2 及び点b2 による対応点、点a3 及び点b3 による対応点、並びに点a4 及び点b4 による対応点)には、エピポーラ方程式と呼ばれる幾何関係が成り立つことが知られている。
エピポーラ方程式は、注視点Mの3次元座標には無関係であり、対応点の座標、並びに撮像装置の位置及び姿勢を変数とした関係式である。複数の対応点を利用してエピポーラ方程式を解くことにより、撮像装置の位置及び姿勢に関する情報が得られ、画像面の2次元座標を逆射影して3次元空間上の位置座標を求めることができる。
【0006】
しかしながら、撮像装置により得られた撮像画像は、当該撮像装置の焦点距離、画素のサイズ、画素の縦軸及び横軸のなす角度、中心画素の位置座標等のパラメータが反映された画像である。そのため、撮像された計測対象物Tの形状に歪みが生じるという問題点を有している。従って、撮像装置により得られた撮像画像を用いて3次元形状を再構成した場合には、撮像画像中の形状の歪みの影響を受けて計測する3次元形状にも歪みが生じることとなり、精密な3次元形状の情報が必要とされる建築分野、計測分野等においては精度の向上が求められていた。
【0007】
本発明は斯かる事情に鑑みてなされたものであり、異なる2点から撮像された計測対象物の画像を読込み、読込んだ2つの画像上での対応点に基づき、計測対象物を撮像した際の撮像装置の位置及び姿勢を算出し、計測すべき3次元形状に対する複数の候補点を求め、求めた候補点間の距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、設定した評価関数が可及的に良好となるように候補点の座標値を調整する構成とすることにより、計測対象物が建築物、プラントのように大きなものであっても適用することができ、しかも、歪みが少なく、精密な3次元形状が得られる3次元計測方法、3次元計測システム、該3次元計測システムに利用される画像処理装置、及び該画像処理装置を実現させるためのコンピュータプログラムを提供することを目的とする。
【0008】
本発明の他の目的は、レーザ距離計を用いて候補点間の距離を計測する構成とすることにより、歪みが少ない3次元形状が容易に得られる3次元計測システムを提供することにある。
【0009】
本発明の更に他の目的は、計測対象物を撮像する際、レーザ距離計を含めて撮像する構成とする構成とすることにより、歪みが少ない3次元形状が容易に得られる3次元計測システムを提供することにある。
【0010】
【課題を解決するための手段】
第1発明に係る3次元計測方法は、撮像装置を用いて異なる2点から撮像された計測対象物の画像を画像処理装置に読込み、読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する3次元計測方法において、読込んだ2つの画像上での対応点を求め、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出し、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求め、求めた候補点間の距離を算出し、前記候補点間についての既知距離を外部から取得し、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定し、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整することを特徴とする。
【0011】
第2発明に係る3次元計測システムは、計測対象物を撮像する撮像装置と、該撮像装置により異なる2つの視点から撮像された計測対象物の画像を読込む手段、及び該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段を有する画像処理装置とを備える3次元計測システムにおいて、3次元空間上の2点間の距離を計測する1又は複数の距離計測器を備え、前記画像処理装置は、読込んだ2つの画像上での対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記距離計測器により計測された前記候補点間の計測距離を外部から取得する手段と、算出した候補点間の距離と取得した計測距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする。
【0012】
第3発明に係る3次元計測システムは、第2発明に係る3次元計測システムにおいて、前記距離計測器はレーザ距離計であることを特徴とする。
【0013】
第4発明に係る3次元計測システムは、第3発明に係る3次元計測システムにおいて、前記撮像装置は、前記計測対象物を撮像する際、前記レーザ距離計を含めて撮像すべくなしてあることを特徴とする。
【0014】
第5発明に係る画像処理装置は、撮像装置を用いて異なる2点から撮像された計測対象物の画像を読込む手段と、該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段とを備える画像処理装置において、読込んだ2つの画像上で互いに対応する対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記候補点間についての既知距離を外部から取得する手段と、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする。
【0015】
第6発明に係るコンピュータプログラムは、コンピュータに、外部から入力された異なる2点から撮像された計測対象物の画像に基づき、前記計測対象物の3次元形状を計測させるステップを有するコンピュータプログラムにおいて、コンピュータに、前記画像上での対応点を求めさせるステップと、コンピュータに、求めた対応点に基づき、前記計測対象物を撮像した際の撮像装置の位置及び姿勢を算出させるステップと、コンピュータに、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求めさせるステップと、コンピュータに、求めた候補点間の距離を算出させるステップと、コンピュータに、算出した候補点間の距離と、外部から入力された前記候補点間の既知距離とに基づく評価関数の値が可及的に良好となるように前記候補点の座標値を調整させるステップとを有することを特徴とする。
【0016】
第1発明、第2発明、第5発明、及び第6発明にあっては、異なる2点から撮像された計測対象物の画像に基づき、撮像した際の撮像装置の位置及び姿勢を求め、計測すべき3次元形状に対する複数の候補点を算出し、候補点間について算出された距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、評価関数が可及的に良好となるように候補点の座標値を調整するようにしている。したがって、取得した撮像画像に映された計測対象物の形状が、撮像装置の内部パラメータの影響等を受けて歪んだものとなる場合であっても、複数の候補点間の距離を取込むことによって、歪みが少なく、精密な3次元形状を計測することが可能となる。
【0017】
第3発明にあっては、距離計測器としてレーザ距離計を用いているため、候補点間の精密な距離を計測することが容易であり、しかも、計測対象物が建築物、プラント等の比較的大きいものであっても距離の計測が可能であり、計測した精密な距離を取込むことによって、歪みの少ない3次元形状を計測することができる。
【0018】
第4発明にあっては、計測対象物を計測する際にレーザ距離計を含めて撮像するようにしているため、レーザ距離計の基準点及び照射点も2つの画像における対応点として採用することが可能であり、しかもその対応点間の距離を精密に測定できるため、3次元形状の計測のために利用できる。
【0019】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
図1は本発明の3次元計測システムの概略構成を示す模式図である。図中10A,10Bは計測対象物Tを撮像するための撮像装置であり、具体的には、デジタルカメラ、銀塩カメラ、ビデオカメラ等である。計測対象物Tは、例えば、建築物、プラント、工業製品等であり、本実施の形態に係る3次元計測システムでは、計測対象物Tについて3次元形状を計測し、計測対象物T上の任意の2点間の精密な距離、任意の2本の線分がなす角度等の情報を取得する。
本実施の形態では、撮像装置10A,10Bにより計測対象物Tを撮像する際、複数のレーザ距離計20A,20B,20Cを利用して、各レーザ距離計20A,20B,20Cと計測対象物Tとの距離を計測するとともに、計測中のレーザ距離計20A,20B,20Cが撮像範囲内に含まれるように撮像する。すなわち、計測対象物Tとの距離を測定するために各レーザ距離計20A,20B,20Cからレーザ光が照射され、その照射点が計測対象物Tの表面上に現れているときに、これらのレーザ距離計20A,20B,20Cを撮像装置10A,10Bの撮像範囲に含めて撮像する。
【0020】
撮像装置10A,10Bにより得られた撮像画像、及びレーザ距離計20A,20B,20Cにより計測された計測距離のデータは、画像処理装置30に読込まれる。画像処理装置30は、例えば、パーソナルコンピュータであり、読込んだ複数の撮像画像に基づいて画像処理を行い、計測対象物Tの3次元形状を計測する。そのとき、レーザ距離計20A,20B,20Cが計測した2点間の計測距離を取込むことにより計測すべき3次元形状の位置座標を調整し、計測精度の向上を図る。
【0021】
なお、本実施の形態では、2台の撮像装置10A,10Bを用いて計測対象物Tを撮像するようにしているが、撮像装置の数は2台に限定する必要はなく、3台以上の撮像装置を利用して計測対象物Tを撮像し、3つ以上の撮像画像を用いて画像処理を行い、3次元形状を計測するようにしてもよい。また、1台の撮像装置を用いて計測対象物Tを撮像した後、別の視点から撮像し、2つ以上の異なる視点から撮像された撮像画像を得るようにしてもよい。
また、本実施の形態では、3台のレーザ距離計20A,20B,20Cを用いて計測対象物Tとの距離を計測するようにしているが、レーザ距離計の数は3台に限定する必要はなく、2台又は4台以上のレーザ距離計を用いて計測対象物Tとの距離を計測するようにしてもよい。また、1台のレーザ距離計により計測対象物Tとの距離を計測した後、別の地点から計測して複数の計測距離を得るようにしても良い。
【0022】
図2は、撮像装置10A,10Bにより得られた撮像画像の一例を示す模式図である。撮像装置10A,10Bを用いて異なる2つの視点から計測対象物Tを撮像しており、撮像装置10A,10Bにより得られた撮像画像100A,100Bは、それぞれ図2(a),図2(b)に示したような画像となる。
本実施の形態では、計測対象物Tとともに距離計測中の3つのレーザ距離計20A,20B,20Cを含めて撮像する。各レーザ距離計20A,20B,20Cには、距離を計測する際の基準となる基準点が各筐体の一面(例えば、底面)に設けられており、後の画像処理を容易化するために、各レーザ距離計20A,20B,20Cの基準点及び照射点が両撮像画像に含まれるように撮像する。
【0023】
図3は、画像処理装置30の内部構成を示すブロック図である。画像処理装置30はCPU31を備えており、該CPU31にバス32を介してROM33、RAM34、操作部35、表示部36、画像入力部37、補助記憶部38、記憶部39等の各種ハードウェアが接続されている。CPU31は、ROM33に格納された各種制御プログラムに従って前記ハードウェアを制御するとともに、外部から入力された複数の画像データに画像処理を施し、計測対象物Tの3次元形状を計測する。なお、当該画像処理は必ずしもCPU31が行う必要はなく、画像処理専用のASIC(Application Specifide Integrated Circiut)を設けて、CPU31から指示を与えることにより、画像処理専用のASICに画像処理を行わせる形態であってもよい。
RAM34はSRAM又はフラッシュメモリ等で構成され、ROM33に格納された制御プログラムの実行時に発生するデータを記憶する。
【0024】
操作部35は、キーボード、マウス、タブレット等の入力装置からなり、画像処理をする際の指示を入力し、選択操作等を行う。表示部36は、CRTディスプレイ又は液晶ディスプレイ等の表示装置からなり、操作部35を通じて入力された各種の情報が表示されるとともに、外部から入力された撮像画像、及び画像処理中の画像データ等が表示される。
【0025】
画像入力部37には、撮像装置10A,10Bにより撮像された撮像画像がデジタルの画像データとして入力される。撮像装置10A,10Bが銀塩カメラである場合には、画像入力部37として、イメージスキャナ装置、フィルムスキャナ装置等を用いることができ、撮像装置10A,10Bにより得られた銀塩写真、写真フィルムをデジタルの画像データに変換した後、画像処理装置30の内部に取込む。また、撮像装置10A,10Bがデジタルカメラである場合には、撮像装置10A,10Bにて得られたデジタルの画像データを可搬型メモリに記憶させておき、当該可搬型メモリに記憶された画像データを読込むことも可能である。また、撮像装置10A,10Bがデジタルカメラであり、画像処理装置30との間でUSB(Universal Serial Bus)等の規格を利用した通信が可能である場合には、当該通信を利用して画像データを画像処理装置30に取込むことも可能である。
何れの場合も、撮像装置10A,10Bにより得られた撮像画像(銀塩写真、デジタル画像データ)は、デジタルの画像データとして画像処理装置30に入力される。入力された画像データはハードディスク等の記憶部39に記憶される。
【0026】
補助記憶部38は、本発明のコンピュータプログラム及びデータを記録したFD、CD−ROM等の記録媒体380からコンピュータプログラム及びデータを読取るFDドライブ、CD−ROMドライブ等からなり、読取られたコンピュータプログラム及びデータは、記憶装部39に記憶される。記憶部39に記憶されているコンピュータプログラム及びデータはRAM34に読込まれ、CPU31が実行することで本発明の画像処理装置30として動作する。
【0027】
図4は、撮像画像100A,100Bの間の対応付けを説明する模式図である。異なる2つの視点から撮像された撮像画像100A,100Bに基づき、計測対象物Tの3次元形状を計測するには、各撮像画像100A,100Bを撮像した際の撮像装置10A,10Bの位置及び姿勢を算出する必要がある。そこで、画像処理装置30は、読込んだ撮像画像100A,100Bの夫々から画像の特徴点を抽出し、特徴点間の対応付けを行うことによって、撮像画像100A,100B間の幾何関係を求める処理を行う。
【0028】
画像の特徴点を抽出する場合、画像処理装置30は、入力された撮像画像100A,100Bからエッジ画像又は明暗画像を作成して計測対象物Tの輪郭線を抽出し、抽出した輪郭線が交わる点を特徴点として採用する。例えば、図4(a)に示した如く計測対象物Tが直方体である場合には、直方体の頂点を特徴点(A1 〜A7 )として求めることができる。また、同様にして、図4(b)に示した撮像画像100Bからは、計測対象物Tが有する各頂点のうち、撮像画像100Bに写っている頂点を特徴点(B1 〜B7 )として求めることができる。
本実施の形態では、更に、各レーザ距離計20A,20B,20Cの基準点及び照射点を画像の特徴点として採用している。撮像画像100Aからは、レーザ距離計20Aの基準点に対応させて特徴点A9 を採用し、レーザ距離計20Aの照射点に対応させて特徴点A8 を採用することができる。そして、レーザ距離計20B,20Cの各基準点及び照射点に対応させて、特徴点A10〜A13を採用することができる。同様にして、撮像画像100Bからは、レーザ距離計20A,20B,20Cの各基準点及び照射点に対応させて、特徴点B8 〜B13を採用することができる。
レーザ距離計20A,20B,20Cの各基準点及び照射点による特徴点の抽出は、前述の明暗画像から明度が最大又は極大となる画素を特定して抽出する。
【0029】
本実施の形態では、2つの撮像画像100A,100Bを用いて計測対象物Tの3次元計測を行う際に、各レーザ距離計20A,20B,20Cによって計測された特徴点間(A8 −A9 間、A10−A11間、A12−A13間)の距離L1 ,L2 ,L3 を取込み、3次元計測の精度を向上させることを特徴としている。
画像処理装置30により抽出された各撮像画像100A,100Bの特徴点の情報(座標値)、及び外部から入力された特徴点間の距離L1 ,L2 ,L3 についての情報は、画像処理装置30内部の記憶部39に夫々関連付けられて記憶される。
【0030】
図5は、画像処理装置30内部の記憶部39が有する各種テーブルの一例を示す概念図である。記憶部39は、特徴点の座標値を記憶する特徴点情報テーブル39Aと特徴点間の距離に関する情報を記憶する距離情報テーブル39Bとを有している。特徴点情報テーブル39Aは、特徴点毎に連番を付した特徴点ID欄、各撮像画像100A,100Bにおける特徴点の座標値を記憶する2つの座標欄、算出された3次元座標を記憶する3次元座標欄、距離情報が入力されたときに付与する参照IDを記憶するための参照ID欄を有している。
また、距離情報テーブル39Bには、参照ID欄、前記3次元座標に基づいて算出した特徴点間の距離(算出距離)を記憶する算出距離欄、レーザ距離計20A,20B,20Cにより計測された計測距離を記憶する計測距離欄を有している。
【0031】
撮像画像100Aから抽出された特徴点の座標値には固有の特徴点IDが付与され、一方の座標欄に記憶される。また、撮像画像100Bから抽出された特徴点の座標値は、撮像画像100Aから抽出された特徴点と対応付けられて他方の座標欄に記憶される。例えば、撮像画像100Aから抽出された特徴点A1 の座標値(x11,y11)には、特徴点ID「P001」を付与して座標欄に記憶するとともに、特徴点A1 に対応した撮像画像100B上の特徴点B1 の座標値(x12,y12)を前記特徴点IDに関連付けて特徴点情報テーブル39Aに記憶させる。なお、特徴点間の対応付けは、画像処理装置30の演算により自動的に行う形態であってもよく、また、人の手により対応付けを行う形態であってもよい。画像処理装置30の演算により自動的に対応付けを行う手法については、後に詳述することにする。
各撮像画像100A,100Bについて2つの異なる特徴点が指定され、当該特徴点間の計測距離が入力された場合、画像処理装置30は、参照IDを付与して距離情報テーブル39Bの計測距離欄に計測距離の値を記憶させる。
【0032】
以下、画像処理装置30が行う処理について説明する。
図6は、本実施の形態に係る画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30のCPU31は、撮像装置10A,10Bにより撮像された撮像画像100A,100Bを読込む(ステップS1)。画像入力部37を通じて撮像画像100A,100Bを入力されたものを読込む形態であってもよく、予め記憶部39に記憶させた2つの撮像画像100A,100Bを読込む形態であってもよい。
そして、画像処理装置30のCPU31は、撮像画像の読込みが終了したか否かを判断し(ステップS2)、読込みが終了していないと判断した場合(S2:NO)、処理をステップS1へ戻す。
【0033】
画像処理装置30のCPU31が、撮像画像の読込みを終了したと判断した場合(S2:YES)、CPU31は、読込まれた2つの撮像画像100A,100Bから特徴点の抽出を行う(ステップS3)。特徴点の抽出は、前述したように、撮像画像100A,100Bから明暗画像又はエッジ画像を作成して、撮像画像100A,100Bに写っている計測対象物Tの輪郭線を抽出し、輪郭線同士の交点を求めることによって行う。また、明暗画像等から明度が最大又は極大となる画素を特定することによって、レーザ距離計20A,20B,20Cの基準点及び照射点による特徴点を抽出することが可能である。
【0034】
次いで、CPU31は、各撮像画像100A,100Bの間で特徴点の対応付けを実行する(ステップS4)。特徴点の対応付けは以下のようにして行う。
世界座標系により表した3次元空間(ユークリッド空間)上のある点の位置座標Mと、カメラ座標系により表した撮像面での位置座標mとの間には、
【0035】
【数1】
【0036】
なる関係式が成り立つ。ここで、Pは射影行列であり、カメラパラメータを要素とした内部行列A、並進ベクトルt及び回転行列Rを用いて、
【0037】
【数2】
【0038】
と表すことができる。内部行列Aの要素であるカメラパラメータには、焦点距離、画素の中心座標、画素のサイズ、画素の横軸及び縦軸がなす角度等のパラメータを含んでおり、ユークリッド空間上の3次元形状を射影空間上に投影した場合に歪みが生じる原因となり得る。本実施の形態では、ユークリッド空間で3次元形状を再構成する際に実測された距離の情報を取込むことによって、精度よく計測対象物Tの3次元形状を計測することをできる。また、世界座標系を一方の撮像装置10A(又は撮像装置10B)のカメラ座標系に一致させた場合、2つの撮像画像100A,100Bの関係は前述の並進ベクトルtと回転行列Rとによって表すことができ、夫々の撮像画像100A,100Bにおける対応点の位置座標m,m’には、次式で表される関係式が成り立つ。
【0039】
【数3】
【0040】
ここで、Fは基礎行列であり、数式(3)は2つの撮像画像100A,100B間のエピポーラ拘束条件を示している。基礎行列Fは3×3の行列であり、特異値の1つがゼロであり、基礎行列Fのスケールが任意であるため、数式(3)は7つの拘束条件を与える。すなわち、2つの撮像画像100A,100B間で7組以上の対応点が存在する場合に基礎行列Fを求めることができる。
【0041】
逆に、各撮像装置100A,100Bから正しい対応点の組合せを選択して数式(3)に代入した場合にのみ1つの基礎行列Fを共有することができることを利用して、ステップS3にて抽出した特徴点間の対応付けを行うことができる。すなわち、各撮像画像100A,100Bには有限個の特徴点が存在し、考えられる特徴点間の対応関係は有限の組合せに限定される。それらの組合せの中から一つの組合せを選択し、選択した組合せに含まれる複数組の特徴点に基づき、数式(3)を利用して基礎行列Fを求める。仮に適切な組合せを選択した場合には、互いに対応関係にある他の特徴点の位置座標を数式(3)に代入したときに1つの基礎行列Fを共有することができ、適切でない組合せを選択した場合には、基礎行列Fを共有できないことになる。このように、各組合せに含まれる複数の特徴点を利用して求めた基礎行列Fが、他の特徴点間でも共有できるか否かを調べることによって、特徴点間の対応付けが適切であるか否かを検討することができ、画像100A,100B間における特徴点の対応付けを行うことが可能となる。
【0042】
各撮像画像100A,100Bの対応点が求まった場合、数式(3)に7組上の対応点の座標値を代入して連立方程式を立て、最小2乗法により基礎行列Fの各要素を求めることができる。また、基本行列Fは、前述した内部行列A、並進ベクトルt及び回転行列R、並びに基本行列Eを用いて、以下のように表すことができる。
【0043】
【数4】
【0044】
数式(3)により基礎行列Fが求まった場合、数式(4)を用いて基本行列Eを求めることができ、更に、求めた基本行列Eから並進ベクトルt及び回転行列Rを求めることができる。求めた並進ベクトルt及び回転行列Rは撮像装置10A,10B間の運動を表しており、それぞれの位置及び姿勢の初期値を並進ベクトルt及び回転行列Rとして算出することができる(ステップS5)。
【0045】
次いで、画像処理装置30のCPU31は、3次元空間における前記特徴点の位置座標の初期値を算出する(ステップS6)。ステップS5で撮像装置10A,10Bの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、3次元空間における特徴点の位置座標を算出することができる。
【0046】
次いで、画像処理装置30は特徴点間の計測距離の入力を受付ける(ステップS7)。具体的には、レーザ距離計20A,20B,20Cにより計測された計測距離の入力を促す表示を表示部36にするとともに、操作部35からの計測距離の入力を受付ける。
次いで、画像処理装置30のCPU31は計測距離の入力が終了したか否かを判断する(ステップS8)。計測距離の入力が終了していないと判断した場合(S8:NO)、処理をステップS7へ戻し、新たな計測距離の入力を受付ける。
【0047】
計測距離の入力が終了した場合(S8:YES)、画像処理装置30のCPU31は評価関数の設定を行う(ステップS9)。設定すべき評価関数は、レーザ距離計20A,20B,20Cによって計測された計測距離と、演算によって求めた算出距離とを考慮した評価関数であり、数式(5)で表される関数が、数式(6)で表される拘束条件の下に最小となるように3次元空間の位置座標(Xi ,Yi ,Zi )、及び撮像装置10A,10Bの位置・姿勢を算出する(ステップS10)。
【0048】
【数5】
【0049】
【数6】
【0050】
ここで、Rj 及びtj は、世界座標系からj番目(本実施の形態では、j=1,2)のカメラ座標系への運動を表す回転行列及び並進ベクトルである。P(Xi ,Yi ,Zi ,Rj ,tj ,Aj )及びQ(Xi ,Yi ,Zi ,Rj ,tj ,Aj )は、3次元空間の位置座標(Xi ,Yi ,Zi )を回転行列Rj 及び並進ベクトルtj によりj番目の画像の射影したときのx座標及びy座標を表す。また、数式(6)において、Likはi番目の特徴点とk番目の特徴点との間の計測距離を表している。
したがって、数式(6)で表される拘束条件の元で数式(5)を最小化した場合、特徴点間について算出した距離と実際に測定した距離との差が可及的に小さくなるとともに、撮像画像上に射影された点の位置座標が特徴点の位置座標に近くなる3次元空間の位置座標、及び撮像装置10A,10Bの位置・姿勢が求まる。
【0051】
このように、本実施の形態では、レーザ距離計20A,20B,20Cにより計測された特徴点間の距離を取込み、計測すべき3次元形状を構成する点の3次元座標を求める際に利用することで、3次元形状のスケールだけでなく、形状自体を精密に計測することが可能となる。
【0052】
なお、本実施の形態では、2つの撮像装置10A,10Bの撮像範囲にレーザ距離計20A,20B,20Cを含めて撮像し、各基準点及び照射点を特徴点として採用するとともに、基準点及び照射点に対応させた特徴点間の距離の情報を3次元計測の際に利用する構成としたが、必ずしもレーザ距離計20A,20B,20Cを含めて撮像する必要はなく、また、特徴点間の距離もレーザ距離計20A,20B,20Cによって計測されたものである必要はない。すなわち、本発明では、特徴点間の距離の情報を複数利用することによって、3次元形状の計測精度を向上させる点に特徴があり、例えば、事前に人の手により計測された特徴点間の距離の情報を取入れて3次元計測を行うようにしても良い。
【0053】
【発明の効果】
以上、詳述したように、第1発明、第2発明、第5発明、及び第6発明による場合は、異なる2点から撮像された計測対象物の画像に基づき、撮像した際の撮像装置の位置及び姿勢を求め、計測すべき3次元形状に対する複数の候補点を算出し、候補点間について算出された距離と外部から取得した候補点間の既知距離とに基づく評価関数を設定し、評価関数が可及的に良好となるように候補点の座標値を調整するようにしている。したがって、取得した画像に映された計測対象物の形状が、撮像装置の内部パラメータの影響等を受けて歪んだものとなる場合であっても、複数の候補点間の距離を取込むことによって、歪みが少なく、精密な3次元形状を計測することが可能となる。
【0054】
第3発明による場合は、距離計測器としてレーザ距離計を用いているため、候補点間の精密な距離を計測することが容易であり、しかも、計測対象物が建築物、プラント等の比較的大きいものであっても距離の計測が可能であり、計測した精密な距離を取込むことによって、歪みの少ない3次元形状を計測することができる。
【0055】
第4発明による場合は、計測対象物を計測する際にレーザ距離計を含めて撮像するようにしているため、レーザ距離計の基準点及び照射点も2つの画像における対応点として採用することが可能であり、しかもその対応点間の距離を精密に測定できるため、3次元形状の計測に利用することができる等、本発明は優れた効果を奏する。
【図面の簡単な説明】
【図1】本発明の3次元計測システムの概略構成を示す模式図である。
【図2】撮像装置により得られた撮像画像の一例を示す模式図である。
【図3】画像処理装置の内部構成を示すブロック図である。
【図4】撮像画像の間の対応付けを説明する模式図である。
【図5】画像処理装置内部の記憶部が有する各種テーブルの一例を示す概念図である。
【図6】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図7】撮像装置により得られた2つの画像間の幾何関係を示す模式図である。
【符号の説明】
T 計測対象物
10A,10B 撮像装置
20A,20B,20C レーザ距離計
30 画像処理装置
31 CPU
32 バス
33 ROM
34 RAM
35 操作部
36 表示部
37 画像入力部
38 補助記憶部
38A 記録媒体
39 記憶部
Claims (6)
- 撮像装置を用いて異なる2点から撮像された計測対象物の画像を画像処理装置に読込み、読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する3次元計測方法において、
読込んだ2つの画像上での対応点を求め、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出し、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求め、求めた候補点間の距離を算出し、前記候補点間についての既知距離を外部から取得し、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定し、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整することを特徴とする3次元計測方法。 - 計測対象物を撮像する撮像装置と、該撮像装置により異なる2つの視点から撮像された計測対象物の画像を読込む手段、及び該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段を有する画像処理装置とを備える3次元計測システムにおいて、
3次元空間上の2点間の距離を計測する1又は複数の距離計測器を備え、前記画像処理装置は、読込んだ2つの画像上での対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記距離計測器により計測された前記候補点間の計測距離を外部から取得する手段と、算出した候補点間の距離と取得した計測距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする3次元計測システム。 - 前記距離計測器はレーザ距離計であることを特徴とする請求項2に記載の3次元計測システム。
- 前記撮像装置は、前記計測対象物を撮像する際、前記レーザ距離計を含めて撮像すべくなしてあることを特徴とする請求項3に記載の3次元計測システム。
- 撮像装置を用いて異なる2点から撮像された計測対象物の画像を読込む手段と、該手段が読込んだ画像に基づいて、前記計測対象物の3次元形状を計測する手段とを備える画像処理装置において、
読込んだ2つの画像上で互いに対応する対応点を求める手段と、求めた対応点に基づき、前記計測対象物を撮像した際の前記撮像装置の位置及び姿勢を算出する手段と、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求める手段と、求めた候補点間の距離を算出する手段と、前記候補点間についての既知距離を外部から取得する手段と、算出した候補点間の距離と取得した既知距離とに基づく評価関数を設定する手段と、設定した評価関数の値が可及的に良好となるように前記候補点の座標値を調整する手段とを備えることを特徴とする画像処理装置。 - コンピュータに、外部から入力された異なる2点から撮像された計測対象物の画像に基づき、前記計測対象物の3次元形状を計測させるステップを有するコンピュータプログラムにおいて、
コンピュータに、前記画像上での対応点を求めさせるステップと、コンピュータに、求めた対応点に基づき、前記計測対象物を撮像した際の撮像装置の位置及び姿勢を算出させるステップと、コンピュータに、算出した前記撮像装置の位置及び姿勢に基づき、計測すべき3次元形状に対する複数の候補点を求めさせるステップと、コンピュータに、求めた候補点間の距離を算出させるステップと、コンピュータに、算出した候補点間の距離と、外部から入力された前記候補点間の既知距離とに基づく評価関数の値が可及的に良好となるように前記候補点の座標値を調整させるステップとを有することを特徴とするコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002337223A JP3637416B2 (ja) | 2002-11-20 | 2002-11-20 | 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002337223A JP3637416B2 (ja) | 2002-11-20 | 2002-11-20 | 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004170277A JP2004170277A (ja) | 2004-06-17 |
JP3637416B2 true JP3637416B2 (ja) | 2005-04-13 |
Family
ID=32700829
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002337223A Expired - Fee Related JP3637416B2 (ja) | 2002-11-20 | 2002-11-20 | 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3637416B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014169068A (ja) * | 2013-02-08 | 2014-09-18 | Shin Meiwa Ind Co Ltd | 貨物自動車寸法測定装置 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006317418A (ja) * | 2005-05-16 | 2006-11-24 | Nikon Corp | 画像計測装置、画像計測方法、計測処理プログラム及び記録媒体 |
JP5338228B2 (ja) * | 2008-09-29 | 2013-11-13 | カシオ計算機株式会社 | 画像生成装置、及びプログラム |
US8334985B2 (en) * | 2010-10-08 | 2012-12-18 | Omron Corporation | Shape measuring apparatus and shape measuring method |
JP6009753B2 (ja) * | 2011-10-26 | 2016-10-19 | 株式会社トプコン | 画像測定装置 |
CN107289869A (zh) * | 2017-06-08 | 2017-10-24 | 杭州联络互动信息科技股份有限公司 | 一种利用矩阵镜头进行3d测量的方法、装置及系统 |
-
2002
- 2002-11-20 JP JP2002337223A patent/JP3637416B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014169068A (ja) * | 2013-02-08 | 2014-09-18 | Shin Meiwa Ind Co Ltd | 貨物自動車寸法測定装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2004170277A (ja) | 2004-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9965870B2 (en) | Camera calibration method using a calibration target | |
TWI555379B (zh) | 一種全景魚眼相機影像校正、合成與景深重建方法與其系統 | |
JP5580164B2 (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
JP5620200B2 (ja) | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム | |
CN111060023B (zh) | 一种高精度3d信息采集的设备及方法 | |
CN109377551B (zh) | 一种三维人脸重建方法、装置及其存储介质 | |
JP5465128B2 (ja) | 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法、および点群位置データ処理プログラム | |
JP3624353B2 (ja) | 3次元形状計測方法およびその装置 | |
JP2009017480A (ja) | カメラキャリブレーション装置およびそのプログラム | |
US10839481B1 (en) | Automatic marker-less alignment of digital 3D face and jaw models | |
KR20130138247A (ko) | 신속 3d 모델링 | |
CN111028341B (zh) | 一种三维模型生成方法 | |
JP2004127239A (ja) | 較正物体を用いて複数のカメラを較正するための方法およびシステム | |
JP2012063866A (ja) | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム | |
JP6580761B1 (ja) | 偏光ステレオカメラによる深度取得装置及びその方法 | |
WO2022078442A1 (zh) | 一种基于光扫描和智能视觉融合的3d信息采集方法 | |
WO2022078439A1 (zh) | 一种空间与物体三维信息采集匹配设备及方法 | |
CN112257537B (zh) | 一种智能多点三维信息采集设备 | |
Wilm et al. | Accurate and simple calibration of DLP projector systems | |
CN111340959B (zh) | 一种基于直方图匹配的三维模型无缝纹理贴图方法 | |
Wan et al. | A study in 3d-reconstruction using kinect sensor | |
Chernov et al. | 3D dynamic thermography system for biomedical applications | |
JP3637416B2 (ja) | 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム | |
Palka et al. | 3D object digitization devices in manufacturing engineering applications and services | |
CN111028299A (zh) | 基于图像中点属性数据集计算标定点空间距的系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041101 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041207 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041220 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |