JP2014098625A - 計測装置、方法及びプログラム - Google Patents

計測装置、方法及びプログラム Download PDF

Info

Publication number
JP2014098625A
JP2014098625A JP2012250460A JP2012250460A JP2014098625A JP 2014098625 A JP2014098625 A JP 2014098625A JP 2012250460 A JP2012250460 A JP 2012250460A JP 2012250460 A JP2012250460 A JP 2012250460A JP 2014098625 A JP2014098625 A JP 2014098625A
Authority
JP
Japan
Prior art keywords
point
unit
reflection intensity
irradiated
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012250460A
Other languages
English (en)
Other versions
JP6214867B2 (ja
Inventor
Yuta Ito
勇太 伊藤
Akihito Seki
晃仁 関
Kenichi Shimoyama
賢一 下山
Satoshi Ito
聡 伊藤
Masaki Yamazaki
雅起 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2012250460A priority Critical patent/JP6214867B2/ja
Priority to US14/070,872 priority patent/US9383221B2/en
Publication of JP2014098625A publication Critical patent/JP2014098625A/ja
Application granted granted Critical
Publication of JP6214867B2 publication Critical patent/JP6214867B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Abstract

【課題】簡易な構成で校正ずれを検知することができる計測装置、方法及びプログラムを提供する。
【解決手段】実施形態の計測装置は、計測部と、撮像部と、推定部と、算出部と、検知部と、を備える。計測部は、複数の光線を物体に照射し、光線毎に、物体の被照射点の方向、被照射点までの距離、及び被照射点の反射強度を計測する。撮像部は、物体を撮像し、画像を得る。推定部は、被照射点毎に、被照射点の方向及び距離、並びに校正情報を用いて、被照射点が画像上で投影される推定投影位置を推定する。算出部は、被照射点毎に、反射強度変化量を算出し、算出した反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求め、推定投影位置毎に、輝度変化量を算出し、算出した輝度変化量が第2閾値以上となる推定投影位置である輝度変化点を求める。検知部は、反射強度変化点と輝度変化点とを比較して、校正ずれを検知する。
【選択図】図1

Description

本発明の実施形態は、計測装置、方法及びプログラムに関する。
距離センサなどの計測部及びカメラなどの撮像部を有する計測装置では、計測部により計測された計測対象物までの距離、撮像部により撮像された画像から得られる計測対象物の位置、及び計測部と撮像部との校正情報を利用することで、計測対象物の3次元モデルを構築する。
上述したような計測装置では、予め校正作業が行われており、校正情報が求められているが、長時間にわたる運用などにより計測部と撮像部との相対的な位置や姿勢が変動し、校正ずれが生じてしまうことがある。校正ずれが生じてしまうと計測精度に著しく影響するため、校正作業をやり直し、校正情報を求め直す必要がある。
ここで、計測部から計測対象物に不可視光を照射し、可視光を遮断して不可視光を通過させる不可視用フィルタを撮像部のレンズに装着させて計測対象物の撮像を行い、不可視光を撮像した撮像画像と基準画像とを比較することにより、校正ずれを検知する技術が知られている。
特開2007−64723号公報
しかしながら、上述したような従来技術では、校正ずれを検知するための装置構成が複雑になってしまう。本発明が解決しようとする課題は、簡易な構成で校正ずれを検知することができる計測装置、方法及びプログラムを提供することである。
実施形態の計測装置は、計測部と、撮像部と、推定部と、算出部と、検知部と、を備える。計測部は、複数の光線を物体に照射し、当該光線毎に、前記物体の被照射点の方向、当該被照射点までの距離、及び当該被照射点の反射強度を計測する。撮像部は、前記複数の光線が照射された前記物体を撮像し、画像を得る。推定部は、前記被照射点毎に、当該被照射点の前記方向及び前記距離、並びに予め行われた前記計測部と前記撮像部との校正に基づく校正情報を用いて、当該被照射点が前記画像上で投影される推定投影位置を推定する。算出部は、前記被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した前記反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求めるとともに、前記推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した前記輝度変化量が第2閾値以上となる推定投影位置である輝度変化点を求める。検知部は、前記反射強度変化点と前記輝度変化点とを比較して、前記計測部と前記撮像部との校正ずれを検知する。
図1は、第1実施形態の計測装置の例を示す構成図。 図2は、第1実施形態の観測部による観測例の説明図。 図3は、第1実施形態の推定投影位置の例を示す図。 図4は、第1実施形態の反射強度変化点及び輝度変化点の求め方の例を示す説明図。 図5は、第1実施形態の処理例を示すフローチャート。 図6は、第2実施形態の計測装置の例を示す構成図。 図7は、第2実施形態の校正手法の例を示す説明図。 図8は、第2実施形態の処理例を示すフローチャート。
以下、添付図面を参照しながら、実施形態を詳細に説明する。
(第1実施形態)
図1は、第1実施形態の計測装置10の一例を示す構成図である。図1に示すように、計測装置10は、計測部21及び撮像部22を含む観測部20と、記憶部23と、推定部25と、判定部27と、算出部29と、検知部31と、報知制御部33と、報知部35とを、備える。
計測部21は、例えば、LRF(Laser Range Finder)などの計測装置により実現できる。撮像部22は、例えば、光学カメラなどの撮像装置により実現できる。記憶部23は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、メモリカード、光ディスク、及びRAM(Random Access Memory)などの磁気的、光学的、又は電気的に記憶可能な記憶装置により実現できる。推定部25、判定部27、算出部29、検知部31、及び報知制御部33は、例えば、CPU(Central Processing Unit)などの処理装置にプログラムを実行させること、即ち、ソフトウェアにより実現できる。報知部35は、例えば、ディスプレイなどの表示装置、スピーカなどの音声出力装置、及びランプやLEDなどの発光装置の少なくともいずれか等により実現できる。
観測部20は、計測部21及び撮像部22により3次元計測の対象物である物体を個別に観測する。
計測部21は、複数の光線を物体に照射し、光線毎に、物体の被照射点の方向、被照射点までの距離、及び被照射点の反射強度を計測する。被照射点は、照射した光線が当たる物体上の位置である。反射強度は、被照射点からの反射光のエネルギーによって定まる値である。
例えば、計測部21は、観測部20にとって不可視光の複数の光線を3次元計測の対象物である物体に照射し、光線毎に、被照射点からの反射光を計測する。これにより、計測部21は、計測部21から当該被照射点への方向、計測部21から当該被照射点までの距離、及び被照射点の反射強度を計測する。
第1実施形態では、計測部21が照射する光線が不可視光である場合を例に取り説明するが、これに限定されず、例えば、可視光であってもよい。
撮像部22は、計測部21により複数の光線が照射された物体を撮像し、画像を得る。例えば、撮像部22は、物体を含む空間の可視光を撮像し、撮像対象の輝度を記録した画像を得る。
但し、計測部21及び撮像部22は、計測部21による光線の照射空間と撮像部22による撮像空間とが重複するように固定配置されているものとする。また撮像部22は、計測部21から物体に対して光線が照射されている状態で、物体を撮像するものとする。
図2は、第1実施形態の観測部20による観測の一例の説明図である。図2に示すように、計測部21は、物体103上に光線の照射面106が重なるように光線104を照射し、光線104の被照射点105からの反射光を計測することで、被照射点105の方向、被照射点105までの距離、及び被照射点105の反射強度を計測する。また、撮像部22は、撮像した画像107上に物体103を捉えており、物体103等の撮像対象の輝度を画像107に記録している。
記憶部23は、予め行われた計測部21と撮像部22との校正に基づく校正情報を記憶する。校正情報は、計測部21と撮像部22との相対的な位置及び姿勢の少なくとも一方を示す。例えば、校正情報は、計測部21の光学中心及び光軸方向によって定義される計測座標系Orから、撮像部22の光学中心及び光軸方向によって定義される撮像座標系Ocへの、回転及び並進による幾何変換パラメータ(Rrc,Trc)が挙げられる。
推定部25は、被照射点毎に、計測部21により計測された当該被照射点の方向及び距離、並びに記憶部23に記憶されている校正情報を用いて、撮像部22により撮像された画像上で当該被照射点が投影される推定投影位置を推定する。
推定投影位置は、画像上で被照射点が投影されると予測される位置であり、画像上で被照射点が実際に投影される位置と一致するとは限らない。以下では、画像上で被照射点が投影されると予測(推定)される位置を推定投影位置、画像上で被照射点が実際に投影される位置を実投影位置、と称して説明を行う。
例えば、推定部25は、計測座標系Orにおける被照射点の3次元位置Xr、校正情報(Rrc,Trc)、撮像部22の歪みモデルの係数、及び投影関数を用いて、撮像部22により撮像された画像上の推定投影位置xを推定する。
3次元位置Xrは、計測部21により計測された被照射点の方向及び距離により定まる。歪みモデルの係数は、撮像部22において既知であり、例えば、焦点距離と画像中心を表す内部パラメータ行列K及びレンズ歪み関数などが該当する。第1実施形態では、レンズ歪み関数として、放射歪曲3パラメータ及び接線歪み2パラメータの計5パラメータで表現される歪みモデルを用いるものとするが、これに限定されず、撮像部22のレンズモデルに応じてより複雑な歪みモデルを用いることもできる。投影関数は、例えば、Weng, J. and Cohen, P. and Herniou, M., “Camera calibration with distortion models and accuracy evaluation,” IEEE Transactions on pattern analysis and machine intelligence, volume 14, number 10, 1992, pp. 965−980.の式(16)を用いて定義できる。
図3は、第1実施形態の推定部25により推定された推定投影位置の一例を示す図である。図3に示すように、撮像部22により撮像された画像107内の物体画像203上に、4つの被照射点の実投影位置302−1〜302−4とともに推定部25により推定された推定投影位置303−1〜303−4が表示されている。物体画像203は、物体103の画像である。軌跡313は、実投影位置302−1〜302−4の軌跡を表し、軌跡314は、推定投影位置303−1〜303−4の軌跡を表す。
なお、図3に示す例では、被照射点が4つである場合を例に取り説明しているが、被照射点の数はこれに限定されるものではない。また、実投影位置302−1〜302−4については、説明の便宜上表示しているが、第1実施形態では、光線が不可視光であるため、実際には画像107内に映らない。
判定部27は、計測部21の計測結果及び撮像部22により撮像された画像の少なくとも一方の信頼度を算出し、算出した信頼度が所定条件を満たすか否かを判定する。計測部21の計測結果は、被照射点の方向、距離、及び反射強度の少なくともいずれかが該当する。
例えば、判定部27は、計測部21が物体を正しく捉えているかを確認するため、計測部21の計測結果が不定である被照射点の割合から第1信頼度を算出する。
また例えば、判定部27は、撮像部22により撮像された画像にボケが発生していないかを確認するため、当該画像の各画素の輝度と当該各画素の近傍画素の輝度との相関値を格納した相関画像から滑らかさの総和を算出し、第2信頼度を算出する。相関値は、例えば、Normalized Cross−Correlationが該当する。滑らかさは、例えば、ラプラシアンフィルタを相関画像に適用したフィルタ画像が該当する。滑らかさの総和は、例えば、フィルタ画像の画素値の総和が該当する。
そして判定部27は、第1信頼度が第1所定値以下であり、計測部21が物体を正しく捉えていない場合、第2信頼度が第2所定値以下であり、画像にボケが発生している場合、又は双方の条件が成立する場合、校正ずれの検知条件を満たしていないと判定する。
判定部27が校正ずれの検知条件を満たしていないと判定した場合、後述の算出部29、検知部31、及び報知制御部33の処理は中止される。なお、判定部27による判定を推定部25による推定の前に実行する場合には、推定部25の処理も中止される。一方、判定部27が校正ずれの検知条件を満たしていると判定した場合、後述の算出部29、検知部31、及び報知制御部33の処理は継続される。
算出部29は、被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求める。反射強度変化量は、例えば、隣接する被照射点の反射強度の変化量を示す。同様に算出部29は、推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した輝度変化量が第2閾値以上となる被照射点である輝度変化点を求める。輝度変化量は、例えば、隣接する推定投影位置の輝度の変化量を示す。
ここで、計測部21から物体に対してn(n≧2)本の光線が照射され、光線の照射方向が1番目から順に、X,X,・・・,X,・・・,X,・・・,Xと定義される場合を例に取り、反射強度変化点及び輝度変化点の具体的な求め方について説明する。なお、i及びjは、1〜nを値にとる変数である。
この場合、i番目の方向Xでの被照射点の反射強度R(i)とj番目の方向Xでの被照射点の反射強度R(j)との反射強度変化量dR(i,j)は、数式(1)で定義でき、i番目の方向Xでの推定投影位置の輝度I(i)とj番目の方向Xでの推定投影位置の輝度I(j)との輝度変化量dI(i,j)は、数式(2)で定義できる。
dR(i,j)=R(j)−R(i) …(1)
dI(i,j)=I(j)−I(i) …(2)
なお、反射強度R(i)及び輝度I(i)は、観測誤差を低減するため、例えば、バイラテラルフィルタなどの公知のフィルタリング手法を適用して予めノイズ除去を行っておいてもよい。
また、方向のID(Xの添え字)の集合をD:={1,・・・,n}とし、Dの直積D×DをD2とする。D2は、{3,2}や{1,n}や{1,1}などDの要素の任意の2要素から成るペアが含まれる集合を意味する。
そして、D2の部分集合であるDsub⊂D2において、第1閾値aを用いると、反射強度変化点CRは、数式(3)で定義でき、第2閾値aを用いると、輝度変化点CIは、数式(4)で定義できる。
CR={di| |dR(di)|>a1,∀di∈Dsub} …(3)
CI={di| |dI(di)|>a2,∀di∈Dsub} …(4)
ここで、Dsubの選び方としては、隣接する方向2点の全ての集合{(1,2),(2,3),・・・,(n−1,n)}を用いることが好ましい。
図4は、第1実施形態の反射強度変化点及び輝度変化点の求め方の一例を示す説明図であり、Dsub={(1,2),(2,3),・・・,(n−1,n)}である。
図4に示す例において、反射強度305は、各方向における反射強度R(i)を示し、反射強度変化量307は、各方向における反射強度変化量dR2(i)を示す。なお図4に示す例では、反射強度変化量dR2(i)は、起点となるID(i)と隣接するインクリメントされたID(i+1)により、数式(5)で定義される。
dR2(i)=dR(i,i+1) …(5)
また図4に示す例において、輝度306は、各方向における輝度I(i)を示し、輝度変化量308は、各方向における輝度変化量dI2(i)を示す。なお図4に示す例では、輝度変化量dI2(i)は、起点となるID(i)と隣接するインクリメントされたID(i+1)により、数式(6)で定義される。
dI2(i)=dI(i,i+1) …(6)
そして、数式(3)から求められる反射強度変化点CRの要素、数式(4)から求められる輝度変化点CIの要素は、それぞれ、第1閾値a、第2閾値aによって、基点となるIDの方向と一対一に対応付けられる。例えば、要素(i,i+1)に対して、方向Xが対応付けられる。
図4に示す例では、反射強度変化点CRの要素は、方向Xに対応付けられた(5,6)及び方向Xに対応付けられた(7,8)となり、輝度変化点CIの要素は、方向Xに対応付けられた(6,7)及び方向Xに対応付けられた(8,9)となる。
なお、反射強度変化量307及び輝度変化量308は、方向に対する微分値として解釈することができる。従って、Dsubを選ぶ場合、反射強度変化量307及び輝度変化量308を、公知の離散微分演算で置き換えてもよい。
検知部31は、算出部29により求められた反射強度変化点と輝度変化点とを比較して、計測部21と撮像部22との校正ずれを検知する。具体的には、検知部31は、算出部29により求められた複数の反射強度変化点の画像上への投影位置(複数の反射強度変化点の実投影位置)と算出部29により求められた複数の輝度変化点とが一致する割合に基づいて、校正ずれを検知する。
例えば、検知部31は、数式(7)を用いて、Dsubにおいて反射強度変化点と輝度変化点とが一致する割合r0を求め、数式(8)を用いて、反射強度変化点及び輝度変化点の集合において反射強度変化点と輝度変化点とが一致する割合r1を求め、数式(9)を用いて、反射強度変化点及び輝度変化点の変化量の有意度r2を求める。
r0=|CR∩CI|/|Dsub| …(7)
r1=|CR∩CI|/|CR∪CI| …(8)
Figure 2014098625
ここで、∩は積集合を表し、Uは和集合を表す。関数wは変化点の重みを表し、好ましくは、数式(10)又は(11)で定義される。
w(dR(di),dI(di))=dR(di)*dI(di) …(10)
w(dR(di),dI(di))=Log(dR(di)*dI(di)) …(11)
そして検知部31は、数式(12)〜(14)の少なくともいずれかが成立する場合、計測部21と撮像部22とに校正ずれが生じていることを検知する。
r0>a3 …(12)
r1>a4 …(13)
r2>a5 …(14)
ここで、a3、a4、a5は、正の所定値であることが好ましい。
報知制御部33は、検知部31により校正ずれが検知された場合、その旨を報知部35に報知させる。報知部35は、例えば、「校正ずれ発生」という文章を表示出力したり音声出力したりする。
なお報知制御部33は、r0、r1、及びr2の少なくともいずれかの値が所定値より大きければ、校正ずれの度合いが大きいことを強調して報知部35に報知させてもよい。この場合、報知部35は、例えば、「校正ずれ(大)発生」という文章を表示出力したり音声出力したりする。
また報知制御部33は、現在の校正の状態を提示するため、例えば、前述した投影関数により推定投影位置を画像上に重畳して報知部35に表示出力させてもよい。この場合、報知制御部33は、重畳する画素の色を反射強度に応じた色や距離に応じた色にすることが好ましい。
例えば、報知制御部33は、所定値Dmin、Dmax(Dmin<Dmax)、Imax,Imin(Imin<Imax)とし、距離D、反射強度Iに対して、Dを数式(15)で定義し、Iを数式(16)で定義し、色相を360°*Dで、彩度をIで指定した色を用い、好ましくは正値の所定値Dを用いて直径D*Dピクセルかつ中心が推定投影位置の円を画像上に描写したものを報知部35に表示出力させる。
Figure 2014098625
Figure 2014098625
また報知制御部33は、判定部27が校正ずれの検知条件を満たしていないと判定した場合、その旨を報知部35に報知させてもよい。
図5は、第1実施形態の計測装置10で行われる処理の手順の流れの一例を示すフローチャートである。
まず、観測部20は、計測部21及び撮像部22により物体を個別に観測する(ステップS101)。計測部21は、複数の光線を物体に照射し、光線毎に、物体の被照射点の方向、被照射点までの距離、及び被照射点の反射強度を計測し、撮像部22は、計測部21により複数の光線が照射された物体を撮像し、画像を得る。
続いて、推定部25は、被照射点毎に、計測部21により計測された当該被照射点の方向及び距離、並びに記憶部23に記憶されている校正情報を用いて、撮像部22により撮像された画像上で当該被照射点が投影される推定投影位置を推定する(ステップS103)。
続いて、判定部27は、計測部21の計測結果及び撮像部22により撮像された画像の少なくとも一方の信頼度を算出し、算出した信頼度が所定条件を満たすか否かを判定することにより、校正ずれの検知処理の実行条件を満たすか否かを判定する(ステップS105)。なお、信頼度が所定条件を満たさず、校正ずれの検知処理の実条件を満たさない場合(ステップS105でNo)、処理は終了となる。
信頼度が所定条件を満たし、校正ずれの検知処理の実条件を満たす場合(ステップS105でYes)、算出部29は、被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求め、推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した輝度変化量が第2閾値以上となる被照射点である輝度変化点を求める(ステップS107)。
続いて、検知部31は、算出部29により求められた反射強度変化点と輝度変化点とを比較し、計測部21と撮像部22との位置関係の閾値以上の変化を検知し、校正ずれを検知すると(ステップS109でYes)、報知制御部33は、計測部21と撮像部22との位置関係が閾値以上変化し、校正ずれが生じている旨を報知部35に報知させる(ステップS111)。
なお、検知部31が校正ずれを検知しなかった場合(ステップS109でNo)、ステップS111の処理は行われない。
以上のように第1実施形態によれば、反射強度変化点と輝度変化点とを比較することで、校正ずれを検知するため、簡易な構成で校正ずれを検知することができる。特に第1実施形態によれば、校正ずれが生じている旨を報知するため、ユーザは、校正ずれを早期に修正することができる。
(第2実施形態)
第2実施形態では、校正ずれを自動で校正し直す例について説明する。以下では、第1実施形態との相違点の説明を主に行い、第1実施形態と同様の機能を有する構成要素については、第1実施形態と同様の名称・符号を付し、その説明を省略する。
図6は、第2実施形態の計測装置510の一例を示す構成図である。図6に示すように、計測装置510は、報知制御部33及び報知部35に代えて校正部537を備える点で、第1実施形態と相違する。
校正部537は、検知部31により校正ずれが検知された場合、計測部21による計測により求められた物体の第1形状と撮像部22による撮像により求められた物体の第2形状とが、一致するような回転及び並進パラメータを求める。そして校正部537は、当該回転及び並進パラメータを用いて計測部21と撮像部22とを再校正し、記憶部23に記憶されている校正情報を更新する。
図7は、第2実施形態の校正手法の一例を示す説明図である。
撮像部22は、物体を複数回撮像して複数の画像を得、例えば、たとえばSfM(Structure from Motion)手法により、物体を、3次元位置を持つ点群で表現した第1の3次元形状601を算出する。これにより、校正部537は、画像の各画素での第1の奥行値603、即ち、撮像部22の光学中心600から物体までの距離を算出できる。
また計測部21は、計測した距離及び方向、並びに校正情報を用いることで、撮像部22が撮像した画像毎に、第2の3次元形状602を算出する。これにより、校正部537は、撮像部22が撮像した画像毎に、被照射点の画像における第2の奥行値604を算出できる。
なお、SfMにより算出される第1の3次元形状601の縮尺は、計測部21により計測された第2の3次元形状602と一般に縮尺が異なる。但し、校正のずれが小さいという仮定の下で、画像の第2の奥行値604が保存されている全画素{p_i}において、第1の奥行値603と第2の奥行値604との比がほぼ一定になる。
ここで、画素p_iにおける第2の奥行値604をd2_iとし、第1の奥行値603をd1_iとすれば、縮尺Sは、数式(17)を解くことで求まる。
Figure 2014098625
なお、(s−d2/d1)を差と呼べば、数式(17)は当該差の2乗をコストとした目的関数になっている。なお、コストはこれに限らず、差に応じて重み付けをした差の二乗和など、大きな差に対してロバストなコストを定義してもよい。
そして校正部537は、縮尺Sを求め、現在の校正情報を初期値に、位置合わせを行い、校正情報を修正する。ここで、位置合わせは、好ましくは、ICP(Iterative Closest Point)アルゴリズムやGeneralized ICPを用いるが、これに限らない3次元点レジストレーション手法を用いてもよい。このような非線形最適化は初期値が重要であり、非線形最適化の初期値に校正情報を使ってもよい。
図8は、第2実施形態の計測装置510で行われる処理の手順の流れの一例を示すフローチャートである。
まず、ステップS201〜S209までの処理は、図5に示すフローチャートのステップS101〜S109までの処理と同様である。
続いて、検知部31により校正ずれが検知されると(ステップS209でYes)、校正部537は、計測部21による計測により求められた物体の第1形状と撮像部22による撮像により求められた物体の第2形状とが、一致するような回転及び並進パラメータを求め、当該回転及び並進パラメータを用いて計測部21と撮像部22とを再校正し、記憶部23に記憶されている校正情報を更新する(ステップS211)。
以上のように第2実施形態においても、反射強度変化点と輝度変化点とを比較することで、校正ずれを検知するため、簡易な構成で校正ずれを検知することができる。特に第2実施形態によれば、校正ずれを自動で再校正するため、校正ずれを早期に修正することができる。
(ハードウェア構成)
上記各実施形態の計測装置のハードウェア構成の一例について説明する。上記各実施形態の計測装置は、CPUなどの制御装置と、ROMやRAMなどの記憶装置と、HDDなどの外部記憶装置と、ディスプレイなどの表示装置と、キーボードやマウスなどの入力装置と、通信インタフェースなどの通信装置と、を備えており、通常のコンピュータを利用したハードウェア構成となっている。
上記各実施形態の計測装置で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、CD−R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されて提供される。
また、上記各実施形態の計測装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしてもよい。また、上記各実施形態の計測装置で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するようにしてもよい。また、上記各実施形態の計測装置で実行されるプログラムを、ROM等に予め組み込んで提供するようにしてもよい。
上記各実施形態の計測装置で実行されるプログラムは、上述した各部をコンピュータ上で実現させるためのモジュール構成となっている。実際のハードウェアとしては、CPUがHDDからプログラムをRAM上に読み出して実行することにより、上記各部がコンピュータ上で実現されるようになっている。
なお、本発明は、上記実施の形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施の形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態にわたる構成要素を適宜組み合わせても良い。
例えば、上記実施形態のフローチャートにおける各ステップを、その性質に反しない限り、実行順序を変更し、複数同時に実施し、あるいは実施毎に異なった順序で実施してもよい。
以上のように、上記各実施形態によれば、簡易な構成で校正ずれを検知することができる。
10、510 計測装置
20 観測部
21 計測部
22 撮像部
23 記憶部
25 推定部
27 判定部
29 算出部
31 検知部
33 報知制御部
35 報知部
537 校正部

Claims (9)

  1. 複数の光線を物体に照射し、当該光線毎に、前記物体の被照射点の方向、当該被照射点までの距離、及び当該被照射点の反射強度を計測する計測部と、
    前記複数の光線が照射された前記物体を撮像し、画像を得る撮像部と、
    前記被照射点毎に、当該被照射点の前記方向及び前記距離、並びに予め行われた前記計測部と前記撮像部との校正に基づく校正情報を用いて、当該被照射点が前記画像上で投影される推定投影位置を推定する推定部と、
    前記被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した前記反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求めるとともに、前記推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した前記輝度変化量が第2閾値以上となる推定投影位置である輝度変化点を求める算出部と、
    前記反射強度変化点と前記輝度変化点とを比較して、前記計測部と前記撮像部との校正ずれを検知する検知部と、
    を備える計測装置。
  2. 前記校正情報は、前記計測部と前記撮像部との相対的な位置及び姿勢の少なくとも一方を示す請求項1に記載の計測装置。
  3. 前記反射強度変化量は、隣接する被照射点の反射強度の変化量を示し、
    前記輝度変化量は、隣接する推定投影位置の輝度の変化量を示す請求項1又は2に記載の計測装置。
  4. 前記検知部は、前記算出部により求められた複数の前記反射強度変化点の前記画像上への投影位置と前記算出部により求められた複数の前記輝度変化点とが一致する割合に基づいて、前記校正ずれを検知する請求項1〜3のいずれか1つに記載の計測装置。
  5. 前記校正ずれが検知されたことを報知する報知部を更に備える請求項1〜4のいずれか1つに記載の計測装置。
  6. 前記校正ずれが検知された場合、前記計測部による計測により求められた前記物体の第1形状と前記撮像部による撮像により求められた前記物体の第2形状とが、一致するような回転及び並進パラメータを求め、当該回転及び並進パラメータを用いて前記計測部と前記撮像部とを校正し、前記校正情報を更新する校正部を更に備える請求項1〜4のいずれか1つに記載の計測装置。
  7. 前記計測部の計測結果及び前記画像の少なくとも一方の信頼度を算出し、算出した前記信頼度が所定条件を満たすか否かを判定する判定部を更に備え、
    前記検知部は、前記信頼度が前記所定条件を満たさない場合、前記校正ずれの検知を中止する請求項1〜6のいずれか1つに記載の計測装置。
  8. 計測部が、複数の光線を物体に照射し、当該光線毎に、前記物体の被照射点の方向、当該被照射点までの距離、及び当該被照射点の反射強度を計測する計測ステップと、
    撮像部が、前記複数の光線が照射された前記物体を撮像し、画像を得る撮像ステップと、
    推定部が、前記被照射点毎に、当該被照射点の前記方向及び前記距離、並びに予め行われた前記計測部と前記撮像部との校正に基づく校正情報を用いて、当該被照射点が前記画像上で投影される推定投影位置を推定する推定ステップと、
    算出部が、前記被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した前記反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求めるとともに、前記推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した前記輝度変化量が第2閾値以上となる推定投影位置である輝度変化点を求める算出ステップと、
    検知部が、前記反射強度変化点と前記輝度変化点とを比較して、前記計測部と前記撮像部との校正ずれを検知する検知ステップと、
    を含む計測方法。
  9. 複数の光線を物体に照射し、当該光線毎に、前記物体の被照射点の方向、当該被照射点までの距離、及び当該被照射点の反射強度を計測する計測ステップと、
    前記複数の光線が照射された前記物体を撮像し、画像を得る撮像ステップと、
    前記被照射点毎に、当該被照射点の前記方向及び前記距離、並びに予め行われた前記計測部と前記撮像部との校正に基づく校正情報を用いて、当該被照射点が前記画像上で投影される推定投影位置を推定する推定ステップと、
    前記被照射点毎に、当該被照射点の反射強度と当該被照射点と異なる被照射点の反射強度との変化量を示す反射強度変化量を算出し、算出した前記反射強度変化量が第1閾値以上となる被照射点である反射強度変化点を求めるとともに、前記推定投影位置毎に、当該推定投影位置の輝度と当該推定投影位置と異なる推定投影位置の輝度との変化量を示す輝度変化量を算出し、算出した前記輝度変化量が第2閾値以上となる推定投影位置である輝度変化点を求める算出ステップと、
    前記反射強度変化点と前記輝度変化点とを比較して、前記計測部と前記撮像部との校正ずれを検知する検知ステップと、
    をコンピュータに実行させるためのプログラム。
JP2012250460A 2012-11-14 2012-11-14 計測装置、方法及びプログラム Active JP6214867B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012250460A JP6214867B2 (ja) 2012-11-14 2012-11-14 計測装置、方法及びプログラム
US14/070,872 US9383221B2 (en) 2012-11-14 2013-11-04 Measuring device, method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012250460A JP6214867B2 (ja) 2012-11-14 2012-11-14 計測装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014098625A true JP2014098625A (ja) 2014-05-29
JP6214867B2 JP6214867B2 (ja) 2017-10-18

Family

ID=50681337

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012250460A Active JP6214867B2 (ja) 2012-11-14 2012-11-14 計測装置、方法及びプログラム

Country Status (2)

Country Link
US (1) US9383221B2 (ja)
JP (1) JP6214867B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2602729C2 (ru) * 2014-09-22 2016-11-20 Общество С Ограниченной Ответственностью "Дисикон" Способ определения расстояния до объекта при помощи камеры (варианты)
JP6486069B2 (ja) * 2014-10-31 2019-03-20 株式会社東芝 画像処理装置、検査装置、検査方法及び画像処理プログラム
JP2016100698A (ja) * 2014-11-19 2016-05-30 株式会社リコー 校正装置、校正方法、プログラム
CN108715233B (zh) * 2018-05-29 2020-10-30 珠海全志科技股份有限公司 一种无人机飞行精度测定方法
CN116539068B (zh) * 2023-07-03 2023-09-08 国网山西省电力公司电力科学研究院 一种视觉测量系统柔性自检调节装置及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070047940A1 (en) * 2005-08-30 2007-03-01 Kosei Matsumoto Image input device and calibration method
JP2007171092A (ja) * 2005-12-26 2007-07-05 Ishikawajima Harima Heavy Ind Co Ltd 三次元計測用マーカとこれを用いた三次元計測方法
WO2009119229A1 (ja) * 2008-03-26 2009-10-01 コニカミノルタホールディングス株式会社 3次元撮像装置及び3次元撮像装置の校正方法
JP2012088114A (ja) * 2010-10-18 2012-05-10 Topcon Corp 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4458141B2 (ja) * 2007-09-27 2010-04-28 株式会社デンソー ライト制御装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070047940A1 (en) * 2005-08-30 2007-03-01 Kosei Matsumoto Image input device and calibration method
JP2007064723A (ja) * 2005-08-30 2007-03-15 Hitachi Ltd 画像入力装置及び校正方法
JP2007171092A (ja) * 2005-12-26 2007-07-05 Ishikawajima Harima Heavy Ind Co Ltd 三次元計測用マーカとこれを用いた三次元計測方法
WO2009119229A1 (ja) * 2008-03-26 2009-10-01 コニカミノルタホールディングス株式会社 3次元撮像装置及び3次元撮像装置の校正方法
JP2012088114A (ja) * 2010-10-18 2012-05-10 Topcon Corp 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム

Also Published As

Publication number Publication date
US9383221B2 (en) 2016-07-05
JP6214867B2 (ja) 2017-10-18
US20140132759A1 (en) 2014-05-15

Similar Documents

Publication Publication Date Title
US20100315490A1 (en) Apparatus and method for generating depth information
JP5961945B2 (ja) 画像処理装置、その画像処理装置を有するプロジェクタ及びプロジェクタシステム、並びに、画像処理方法、そのプログラム、及び、そのプログラムを記録した記録媒体
CN103649674B (zh) 测量设备以及信息处理设备
TWI463244B (zh) 深度影像擷取裝置、系統及其方法
JP6214867B2 (ja) 計測装置、方法及びプログラム
JP2018025565A5 (ja)
JP2015128242A (ja) 画像投影装置及びそのキャリブレーション方法
JP2015171077A (ja) 投影画像補正装置、投影する原画像を補正する方法およびプログラム
WO2018163529A1 (ja) 3次元形状計測装置、3次元形状計測方法、およびプログラム
JP2014174357A (ja) 撮像装置、撮像システム、信号処理装置、プログラム、および、記憶媒体
JPWO2018042481A1 (ja) 撮影装置及び撮影方法
CN105306922A (zh) 一种深度相机参考图的获取方法和装置
JP2015184056A (ja) 計測装置、方法及びプログラム
JP2016100698A (ja) 校正装置、校正方法、プログラム
JP2016186421A (ja) 画像処理方法
JP6104662B2 (ja) 計測装置、方法及びプログラム
JP2016096516A (ja) 画像処理装置、画像投影システム、画像処理方法およびプログラム
WO2021016051A1 (en) Joint environmental reconstruction and camera calibration
JP6088864B2 (ja) キャリブレーションシステム、およびキャリブレーション方法
TW201326776A (zh) 鏡頭檢測裝置及方法
JP6065670B2 (ja) 3次元計測システム、プログラム及び方法。
JP2015206654A (ja) 情報処理装置、情報処理方法、プログラム
WO2020012707A1 (ja) 3次元測定装置及び方法
JP2011180066A (ja) 画像比較方法および画像比較プログラム
JP6096626B2 (ja) 計測支援装置、方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150915

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20151102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160923

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170920

R151 Written notification of patent or utility model registration

Ref document number: 6214867

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151