JP2018084512A - 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム - Google Patents
三次元形状熱計測装置、三次元形状熱計測方法及びプログラム Download PDFInfo
- Publication number
- JP2018084512A JP2018084512A JP2016228117A JP2016228117A JP2018084512A JP 2018084512 A JP2018084512 A JP 2018084512A JP 2016228117 A JP2016228117 A JP 2016228117A JP 2016228117 A JP2016228117 A JP 2016228117A JP 2018084512 A JP2018084512 A JP 2018084512A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional shape
- shape model
- thermal
- dimensional
- temperature information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Radiation Pyrometers (AREA)
Abstract
【課題】三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションを必要とせず、かつ三次元形状計測装置と遠赤外線カメラとを一体化させた構成とする必要もなく、三次元形状計測装置で計測した対象物の三次元形状に対して、対象物の温度情報を付与する三次元形状熱計測装置を提供する。【解決手段】本発明の三次元形状熱計測装置は、対象物の表面の三次元形状を示す表面三次元形状モデルと、対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換部と、表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、熱三次元形状モデルの撮像方向における熱画像を投影させる温度情報付与部とを備える。【選択図】図1
Description
本発明は、温度情報が付加された三次元形状熱の計測を行う三次元形状熱計測装置、三次元形状熱計測方法及びプログラムに関する。
近年、温度変化の激しい物体や微小な物体を対象物とし、この対象物における温度を測定により変化させることなく、その各部の温度(温度情報)を測定する目的で、遠赤外線カメラなどを用いたサーモグラフィの技術が用いられている。
遠赤外線カメラを用いて対象の温度情報を取得することは、産業分野における製品検査や防災・防犯分野における監視を目的として幅広く利用されている。
このサーモグラフィの技術を用いて、対象物の三次元形状に温度情報を付与するシステムが建物のエネルギー効率の解析や製品の熱解析などを目的として各種提案されている。
遠赤外線カメラを用いて対象の温度情報を取得することは、産業分野における製品検査や防災・防犯分野における監視を目的として幅広く利用されている。
このサーモグラフィの技術を用いて、対象物の三次元形状に温度情報を付与するシステムが建物のエネルギー効率の解析や製品の熱解析などを目的として各種提案されている。
ここで、温度の測定対象である対象物の三次元形状は、三次元形状計測システムにより計測して生成される。この三次元形状計測システムは、距離情報を二次元格子状に格納する距離画像を生成する装置として、以下の手法による製品が提案されている。
・光の応答を利用した方式:TOF(Time of Flight)
・カメラ間の差を用いた三角測量:ステレオカメラ、SFM(Structure from Motion)
・プロジェクタからの投光を撮影:Projector-Camera System
・レンズの焦点距離を変化させた際のピントを利用したもの:Shape from Focus/Defocus
・光の応答を利用した方式:TOF(Time of Flight)
・カメラ間の差を用いた三角測量:ステレオカメラ、SFM(Structure from Motion)
・プロジェクタからの投光を撮影:Projector-Camera System
・レンズの焦点距離を変化させた際のピントを利用したもの:Shape from Focus/Defocus
上述した製品の各々は、三次元形状計測装置の光学中心を原点として二次元格子状に距離情報を格納した距離画像を生成する。ここで、三次元形状計測においては、対象物の部分の各々を距離画像それぞれとして取得し、部分毎の距離画像の位置合わせを行うことにより全体の三次元形状を取得する。
また、これらの三次元形状計測装置に可視光カメラを取り付け、距離だけでなく色情報を付与する機器も多数存在する。具体的な三次元形状計測システムの製品としてはMicrosoft Kinect(登録商標、TOF、Projector-Camera System)、Intel RealSense(登録商標、Projector-Camera System)、AutoDesk ReMake(登録商標、SfM)、Agisoft PhotoScan(登録商標、SfM)などが販売されており、簡便な三次元形状計測が可能となっている。
また、これらの三次元形状計測装置に可視光カメラを取り付け、距離だけでなく色情報を付与する機器も多数存在する。具体的な三次元形状計測システムの製品としてはMicrosoft Kinect(登録商標、TOF、Projector-Camera System)、Intel RealSense(登録商標、Projector-Camera System)、AutoDesk ReMake(登録商標、SfM)、Agisoft PhotoScan(登録商標、SfM)などが販売されており、簡便な三次元形状計測が可能となっている。
また、計測した対象物の表面における温度情報を、三次元形状の表面に付与した画像の生成を行う構成も、サーモフュージョン(登録商標、東杜シーテック社)として製品化されている。
さらに、物体の三次元形状の取得と温度情報の付与を自動で行う手法が提案されている(例えば、特許文献1及び非特許文献1参照)。これらの手法は、三次元形状計測装置と遠赤外線カメラとの相対的な姿勢情報を、計測作業の前に予め算出しておき、計測して得られた三次元形状に、遠赤外線カメラで得られた温度情報を投影することで実現している。
さらに、物体の三次元形状の取得と温度情報の付与を自動で行う手法が提案されている(例えば、特許文献1及び非特許文献1参照)。これらの手法は、三次元形状計測装置と遠赤外線カメラとの相対的な姿勢情報を、計測作業の前に予め算出しておき、計測して得られた三次元形状に、遠赤外線カメラで得られた温度情報を投影することで実現している。
対象物の三次元形状に対して温度情報を投影するためには、遠赤外線カメラの三次元姿勢情報と、三次元形状計測装置から得られた三次元形状とが同一座標系に存在することが必要となる。
このため、遠赤外線カメラ及び三次元形状計測装置の各々のキャリブレーションを行い、遠赤外線カメラ、三次元形状計測装置それぞれの対象物の三次元形状の撮像の際に対する相対的な三次元の姿勢情報を得ている。
このため、遠赤外線カメラ及び三次元形状計測装置の各々のキャリブレーションを行い、遠赤外線カメラ、三次元形状計測装置それぞれの対象物の三次元形状の撮像の際に対する相対的な三次元の姿勢情報を得ている。
一般的な可視光カメラにおけるキャリブレーションにおいては、チェッカーボードパターンやドットパターンなその基準となる対象物を利用してキャリブレーションを行うことが可能である。
しかし、可視光カメラと遠赤外線カメラとにおいては、撮像できる波長帯(感知できる対象物からの放射光の波長帯)が異なるため、温度と輝度の一致させたキャリブレーション装置を構築することが提案されている(例えば、特許文献2及び特許文献3参照)。また、すでに述べた非特許文献1においても、三次元形状計測装置に付属している可視光カメラと遠赤外線カメラとから、非特許文献2と同様の手法により予めキャリブレーションを行う。
しかし、可視光カメラと遠赤外線カメラとにおいては、撮像できる波長帯(感知できる対象物からの放射光の波長帯)が異なるため、温度と輝度の一致させたキャリブレーション装置を構築することが提案されている(例えば、特許文献2及び特許文献3参照)。また、すでに述べた非特許文献1においても、三次元形状計測装置に付属している可視光カメラと遠赤外線カメラとから、非特許文献2と同様の手法により予めキャリブレーションを行う。
Peyman Moghadam and Stephen Vidas. "Heatwave: the next generation of thermography devices." SPIE Sensing Technology+ Applications. International Society for Optics and Photonics, 2014.
Vidas, Stephen, et al. "A mask-based approach for the geometric calibration of thermal-infrared cameras." IEEE Transactions on Instrumentation and Measurement 61.6 (2012): 1625-1635.
しかしながら、すでに述べたように、三次元形状計測にて得られた対象物の三次元形状に対して温度情報を付与する際、予め、三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションを行っておく必要がある。
この三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションに対しては、基準位置に配置された熱源を備えるキャリブレーション装置の構築が必要となる。また、三次元形状計測装置が同一の撮像方向に配置された遠赤外線カメラを備えている必要がある。
したがって、温度情報を三次元形状に付与するためには、遠赤外線カメラが付属している三次元形状計測装置を構成し、かつ事前にキャリブレーションを行う必要性から、物体の三次元形状に対して、計測された対象物の表面の温度情報を付与する作業が煩雑となる。
この三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションに対しては、基準位置に配置された熱源を備えるキャリブレーション装置の構築が必要となる。また、三次元形状計測装置が同一の撮像方向に配置された遠赤外線カメラを備えている必要がある。
したがって、温度情報を三次元形状に付与するためには、遠赤外線カメラが付属している三次元形状計測装置を構成し、かつ事前にキャリブレーションを行う必要性から、物体の三次元形状に対して、計測された対象物の表面の温度情報を付与する作業が煩雑となる。
本発明は、このような状況に鑑みてなされたもので、三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションを必要とせず、かつ三次元形状計測装置と遠赤外線カメラとを一体化させた構成とする必要もなく、三次元形状計測装置で計測した対象物の三次元形状に対して、対象物の温度情報を付与する三次元形状熱計測装置、三次元形状熱計測方法及びプログラムを提供する。
上述した課題を解決するために、本発明の三次元形状熱計測装置は、対象物の表面の三次元形状を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換部と、表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与部とを備えることを特徴とする。
本発明の三次元形状熱計測装置は、前記表面三次元形状モデルと前記熱三次元形状モデルとにおける点群の位置合わせ処理を行い、前記表面三次元形状モデルと前記熱三次元形状モデルとの各々に対するSRT(S:拡大縮小、R:回転、T:並進)行列を求める形状位置合わせ部をさらに備え、前記座標変換部が、前記SRT行列を用いて、前記表面三次元形状モデルと前記熱三次元形状モデルとの三次元座標系を一致させることを特徴とする。
本発明の三次元形状熱計測装置は、前記熱画像を用いたSFM処理を用いて、前記熱三次元形状モデルと前記熱画像を撮像した遠赤外線カメラのカメラ情報とを取得するSFM処理部をさらに備えていることを特徴とする。
本発明の三次元形状熱計測方法は、座標変換部が、対象物の三次元形状の表面を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換過程と、温度情報付与部が、表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与過程とを含むことを特徴とする。
本発明のプログラムは、コンピュータを、対象物の三次元形状の表面を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換手段、表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与手段として動作させるためのプログラムである。
以上説明したように、本発明によれば、三次元形状計測装置と遠赤外線カメラとの各々のキャリブレーションを必要とせず、かつ三次元形状計測装置と遠赤外線カメラとを一体化させた構成とする必要もなく、三次元形状計測装置で計測した対象物の三次元形状に対して、対象物の温度情報を付与する三次元形状熱計測装置、三次元形状熱計測方法及びプログラムを提供することができる。
以下、本発明の一実施形態について、図面を参照して説明する。図1は、本発明の一実施形態による三次元形状計測装置を用いた熱付与三次元形状生成システムの構成例を示すブロック図である。図1において、熱付与三次元形状生成システム100は、三次元形状熱計測装置1と、三次元形状計測装置10と、遠赤外線カメラ20との各々を備えている。三次元形状計測装置10は、温度情報を取得する対象である対象物500の表面形状を示す表面三次元形状モデル(表面三次元形状を示す点群)を生成する。
遠赤外線カメラ20は、対象物500の表面温度を測定し、対象物500の表面の温度情報を示す熱画像を生成する。
遠赤外線カメラ20は、対象物500の表面温度を測定し、対象物500の表面の温度情報を示す熱画像を生成する。
三次元形状熱計測装置1は、制御部11、SFM処理部13、形状位置合わせ部14、座標変換部15、温度情報付与部16、画像表示部17及び記憶部18の各々を備えている。
制御部11は、三次元形状計測装置10から対象物500の三次元形状モデルを読み込み、表面三次元形状識別情報を付与する。そして、制御部11は、三次元形状モデルのデータを記憶部18の所定の領域に書き込んで記憶させる。
また、制御部11は、遠赤外線カメラ20から、対象物500の表面の温度情報を示す熱画像を読み込み、熱三次元モデル識別情報を付与して、記憶部18の所定の領域に書き込んで記憶させる。
制御部11は、三次元形状計測装置10から対象物500の三次元形状モデルを読み込み、表面三次元形状識別情報を付与する。そして、制御部11は、三次元形状モデルのデータを記憶部18の所定の領域に書き込んで記憶させる。
また、制御部11は、遠赤外線カメラ20から、対象物500の表面の温度情報を示す熱画像を読み込み、熱三次元モデル識別情報を付与して、記憶部18の所定の領域に書き込んで記憶させる。
図2は、記憶部18に書き込まれて記憶されている表面三次元形状テーブルの構成例を示す図である。表面三次元形状テーブルは、各レコードにおいて、表面三次元形状モデル識別情報と、表面三次元形状モデルデータインデックスと、温度情報付与表面三次元形状モデルデータインデックスとが対応して書き込まれて記憶されている。表面三次元形状モデル識別情報は、異なる対象物500の各々を識別する識別情報である。表面三次元形状モデルデータインデックスは、記憶部18において制御部11が表面三次元形状モデルのデータを書き込んだ領域のアドレスを示す。温度情報付与表面三次元形状モデルデータインデックスは、記憶部18において制御部11が温度情報付与表面三次元形状モデルのデータを書き込んだ領域のアドレスを示す。
図3は、記憶部18に書き込まれて記憶されている熱三次元形状テーブルの構成例を示す図である。熱三次元形状テーブルは、各レコードにおいて、熱三次元形状モデル識別情報と、熱三次元形状モデルSRT行列、熱三次元形状モデルデータインデックスと、熱画像情報(#1)、熱画像情報(#2)、…が対応して書き込まれて記憶されている。熱三次元形状モデル識別情報は、異なる対象物500の各々を、あるいは同一の対象物500の異なる時間における熱三次元形状モデルを識別する識別情報である。熱三次元形状モデルSRT行列は、SFM処理部13(後述)が求めた熱三次元形状モデルの表面三次元形状モデルに対するSRT(S:拡大縮小、R:回転、T:並進の各々)行列である。熱三次元形状モデルデータインデックスは、記憶部18においてSFM処理部13が熱三次元形状モデルのデータを書き込んだ領域のアドレスを示す。
また、熱画像情報(#1)、熱画像情報(#2)、…は、熱画像及び温度情報が書き込まれている記憶部18におけるアドレス、遠赤外線カメラ20のカメラ情報(カメラパラメータ)などの熱画像に関する情報が記憶されている。本実施形態において、熱画像は、複数の位置において対象物500の表面の温度を計測した点群の2次元画像である。ここで、カメラ情報は、熱画像を撮像した際の画角及びレンズ歪み情報などの内部パラメータと、熱画像を撮像した際の遠赤外線カメラ20の移動及び回転などからなる姿勢(三次元座標系におけるカメラ位置及び撮像方向)情報とを含んでいる。本実施形態において、表面三次元形状モデル及び熱三次元形状モデルの各々は、CGにおけるソリッドモデリングの多面体オブジェクトであり、対象物500の仮想三次元形状をメッシュ構造で実現しているモデルを示す。
図1に戻り、SFM処理部13は、記憶部18の熱三次元形状テーブルから、処理対象の対象物500の熱画像の各々を読み出し、この対象物500の熱三次元形状モデルと、遠赤外線カメラ20の各熱画像に対応するカメラ情報を求める。このとき、SFM処理部13は、一般的なSFM処理を行なうことにより、熱三次元形状モデルを生成し、生成した熱三次元画像を記憶部18における熱三次元形状テーブルに対して書き込んで記憶させる。また、SFM処理部13は、SFM処理において上記熱三次元形状モデルを生成する際に求められた各熱画像の姿勢情報を、記憶部18における熱三次元形状テーブルに対して書き込んで記憶させる。
形状位置合わせ部14は、記憶部18から読み出した表面三次元形状モデルの三次元座標系に、熱三次元形状モデルの三次元座標系から、熱三次元形状モデルの座標変換を行なう。そして、形状位置合わせ部14は、表面三次元形状モデルの三次元座標系において、表面三次元形状モデルと熱三次元形状モデルとの各々の点群とを用いて位置合わせを行なう。このとき、形状位置合わせ部14は、表面三次元形状モデルに対して熱三次元形状モデル位置合わせを行なうことで、表面三次元形状モデルに対する熱三次元形状モデルのSRT行列を求める。
このとき、形状位置合わせ部14は、表面三次元形状モデルに対する熱三次元形状モデルの位置合わせにおいて、従来から行なわれているICP(Iterative Closest Point)処理を用いる。すなわち、形状位置合わせ部14は、表面三次元形状モデルと熱三次元形状モデルとにおける基準となる尺度が異なるため、熱三次元形状モデルの拡大縮小を考慮したICP処理を行ない、SRT行列を取得する。このとき、形状位置合わせ部14は、このICP処理において、表面三次元形状モデルと熱三次元モデルの各々を構成する点群における各点同士の距離が最小になるまで、スケールの調整、及び各モデルの三次元座標系の空間における移動と回転を変えながら繰り返す。
座標変換部15は、形状位置合わせ部14が求めたSRT行列を用いて、各熱画像の姿勢情報を、表面三次元形状モデルの三次元座標系に変換する。すなわち、座標変換部15は、各熱画像の撮像点及び撮像方向の各々を、上記SRT行列により表面三次元形状モデルの三次元座標系に座標変換し、変換後の姿勢情報を記憶部18の熱三次元形状テーブルに書き込んで記憶させる。
温度情報付与部16は、表面三次元形状モデルの三次元座標系において、この表面三次元形状モデルの表面、すなわちメッシュ(ポリゴンメッシュ)の各々に対して、熱画像における各画素の温度情報を、SRT行列にて変換した姿勢情報に基づいて、投影(マッピング)する処理を行ない、表面三次元形状モデルの上面に対して、熱画像の各々の温度情報が投影された温度情報付与表面三次元形状モデルを生成する。ここで、各メッシュに対しては、メッシュの各々を識別するためのメッシュ識別情報(ID: identification )が付与されており、後述する投影処理において、温度情報付与部16は、熱画像の温度情報の投影(付与)処理が終了したメッシュ識別情報に対し、フラグを立てて、表面三次元形状モデルの表面を形成するメッシュの各々において、どのメッシュに対する温度情報の投影処理が終了しているか、どのメッシュに対する温度情報の投影処理が終了していないかの判定に用いる。
また、温度情報付与部16は、表面三次元形状モデルに対する温度情報の投影処理において、温度情報の可視性を考慮するため、熱画像を可視性が高くなる表示方法に変換する構成としても良い。一般的には、ヒートマップ画像への変換が行なわれるが、利用目的によってはヒートマップ画像以外の表示方法に変換しても良い。
また、温度情報付与部16は、表面三次元形状モデルに対する温度情報の投影処理において、温度情報の可視性を考慮するため、熱画像を可視性が高くなる表示方法に変換する構成としても良い。一般的には、ヒートマップ画像への変換が行なわれるが、利用目的によってはヒートマップ画像以外の表示方法に変換しても良い。
また、温度情報付与部16は、上述したように、表面三次元形状モデルに対する温度情報の投影を、コンピュータグラフィックスにおけるテクスチャマッピングの処理として実現する。ここで、遠赤外線カメラ20の内部パラメータをA、表面三次元形状モデルの三次元座標系に座標変換した遠赤外線カメラ20の外部パラメータをR(回転行列)|t(並進ベクトル)とした場合、表面三次元形状モデルの各座標点Mに対応するテクスチャマッピング座標(熱画像における座標点)mは以下の(1)式によって求められる。
また、温度情報付与部16は、生成した温度情報付与表面三次元形状モデルのデータを、記憶部18の所定の領域に書き込んで記憶させ、この所定の領域のアドレスを温度情報付与表面三次元形状モデルデータインデックスとして、記憶部18の表面三次元形状テーブルに書き込んで記憶させる。
画像表示部17は、表面三次元形状モデルに対して温度情報が付与された(熱画像の温度情報が投影された)温度情報付与表面三次元形状モデルのデータが記憶されている記憶部18の領域を示す温度情報付与表面三次元形状モデルデータインデックスを、記憶部18の表面三次元形状テーブルから読み出す。そして、画像表示部17は、温度情報付与表面三次元形状モデルデータインデックスの示す記憶部18の領域から、温度情報付与表面三次元形状モデルのデータを読み出す。画像表示部17は、読み出した温度情報付与表面三次元形状モデルを、ユーザの指定する観察方向から観察される表示画像に変換して(表示画面の2次元座標系に座標変換(投影)して)、表示画面に表示する。このとき、画像表示部17は、温度情報の示す温度に対応して、例えば、予め設定された温度毎に対応した色により付与された温度情報を表示するようにしても良い。
次に、図4は、本発明の一実施形態による三次元形状熱計測装置における温度情報が付与された表面三次元形状モデルの生成処理の動作例を示すフローチャートである。
ステップS1:
SFM処理部13は、記憶部18の表面三次元形状テーブルから、処理対象の対象物500の表面三次元形状モデル識別情報に対応する表面三次元形状モデルデータインデックスを読み出す。そして、SFM処理部13は、記憶部18において、表面三次元形状モデルデータインデックスの領域に記憶されている表面三次元形状モデルのデータを読み出す。
また、SFM処理部13は、上記表面三次元形状モデルの対象物500に対応し、記憶部18の熱三次元形状テーブルの熱画像情報の各々から、熱画像が書き込まれているアドレス及び温度情報を読み出す。そして、SFM処理部13は、読み出したアドレスの各々により、記憶部18に記憶されている熱画像それぞれのデータを読み出す。
ステップS1:
SFM処理部13は、記憶部18の表面三次元形状テーブルから、処理対象の対象物500の表面三次元形状モデル識別情報に対応する表面三次元形状モデルデータインデックスを読み出す。そして、SFM処理部13は、記憶部18において、表面三次元形状モデルデータインデックスの領域に記憶されている表面三次元形状モデルのデータを読み出す。
また、SFM処理部13は、上記表面三次元形状モデルの対象物500に対応し、記憶部18の熱三次元形状テーブルの熱画像情報の各々から、熱画像が書き込まれているアドレス及び温度情報を読み出す。そして、SFM処理部13は、読み出したアドレスの各々により、記憶部18に記憶されている熱画像それぞれのデータを読み出す。
ステップS2:
SFM処理部13は、記憶部18から読み出した熱画像の各々を用いて、SFM処理により、対象物500の熱三次元形状モデルを作成する。
また、SFM処理部13は、SFM処理を行なって、対象物500を撮像した複数の熱画像から、熱三次元形状モデルを作成する際、それぞれの熱画像に対応した遠赤外線カメラ20のカメラ情報を取得する。
そして、SFM処理部13は、生成した熱三次元形状モデルのデータを記憶部18の所定の領域に書き込んで記憶させ、この領域のアドレスを熱三次元形状モデルデータインデックスとして、記憶部18の熱三次元形状テーブルに書き込んで記憶させる。SFM処理部13は、求めたカメラ情報を、記憶部18の熱三次元形状テーブルにおけるそれぞれ対応する熱画像情報に書き込んで記憶させる。
SFM処理部13は、記憶部18から読み出した熱画像の各々を用いて、SFM処理により、対象物500の熱三次元形状モデルを作成する。
また、SFM処理部13は、SFM処理を行なって、対象物500を撮像した複数の熱画像から、熱三次元形状モデルを作成する際、それぞれの熱画像に対応した遠赤外線カメラ20のカメラ情報を取得する。
そして、SFM処理部13は、生成した熱三次元形状モデルのデータを記憶部18の所定の領域に書き込んで記憶させ、この領域のアドレスを熱三次元形状モデルデータインデックスとして、記憶部18の熱三次元形状テーブルに書き込んで記憶させる。SFM処理部13は、求めたカメラ情報を、記憶部18の熱三次元形状テーブルにおけるそれぞれ対応する熱画像情報に書き込んで記憶させる。
ステップS3:
形状位置合わせ部14は、記憶部18の表面三次元形状テーブルから、処理対象の対象物500の表面三次元形状モデル識別情報に対応する表面三次元形状モデルデータインデックスを読み出す。そして、形状位置合わせ部14は、記憶部18において、表面三次元形状モデルデータインデックスの領域に記憶されている表面三次元形状モデルのデータを読み出す。形状位置合わせ部14は、記憶部18の熱三次元形状テーブルから、処理対象の対象物500の熱三次元形状モデル識別情報に対応する熱三次元形状モデルデータインデックスを読み出す。そして、形状位置合わせ部14は、記憶部18において、熱三次元形状モデルデータインデックスの領域に記憶されている熱三次元形状モデルのデータを読み出す。
形状位置合わせ部14は、記憶部18の表面三次元形状テーブルから、処理対象の対象物500の表面三次元形状モデル識別情報に対応する表面三次元形状モデルデータインデックスを読み出す。そして、形状位置合わせ部14は、記憶部18において、表面三次元形状モデルデータインデックスの領域に記憶されている表面三次元形状モデルのデータを読み出す。形状位置合わせ部14は、記憶部18の熱三次元形状テーブルから、処理対象の対象物500の熱三次元形状モデル識別情報に対応する熱三次元形状モデルデータインデックスを読み出す。そして、形状位置合わせ部14は、記憶部18において、熱三次元形状モデルデータインデックスの領域に記憶されている熱三次元形状モデルのデータを読み出す。
形状位置合わせ部14は、表面三次元形状モデルの三次元座標系において、この表面三次元形状モデルに対して、熱三次元形状モデルの位置合わせ処理を行なう。そして、形状位置合わせ部14は、表面三次元形状モデルの三次元座標系において、熱三次元形状モデルを一致させる位置を合わせる処理を行なった際に、スケール、回転、並進操作を行なうための熱三次元形状モデルSRT行列を求める。
そして、形状位置合わせ部14は、対応する熱三次元形状モデル識別情報に対応させて、求めた熱三次元形状モデルSRT行列を、記憶部18の熱三次元形状テーブルに対して書き込んで記憶させる。
そして、形状位置合わせ部14は、対応する熱三次元形状モデル識別情報に対応させて、求めた熱三次元形状モデルSRT行列を、記憶部18の熱三次元形状テーブルに対して書き込んで記憶させる。
ステップS4:
座標変換部15は、記憶部18の熱三次元形状テーブルから、処理対象の熱三次元形状モデルSRT行列を読み出す。また、座標変換部15は、記憶部18の熱三次元形状テーブルにおける熱画像情報を順番に読み出す。そして、座標変換部15は、読み出した熱画像情報における遠赤外線カメラ20の外部パラメータを、読み出した熱三次元形状モデルSRT行列により、表面三次元形状モデルの三次元座標系に対応させて変換する(カメラ情報を同一座標系に配置する)。
座標変換部15は、記憶部18の熱三次元形状テーブルから、処理対象の熱三次元形状モデルSRT行列を読み出す。また、座標変換部15は、記憶部18の熱三次元形状テーブルにおける熱画像情報を順番に読み出す。そして、座標変換部15は、読み出した熱画像情報における遠赤外線カメラ20の外部パラメータを、読み出した熱三次元形状モデルSRT行列により、表面三次元形状モデルの三次元座標系に対応させて変換する(カメラ情報を同一座標系に配置する)。
ステップS5:
温度情報付与部16は、熱画像情報に含まれる熱画像のデータが記憶されているアドレスにより、記憶部18から熱画像のデータを読み出す。
そして、温度情報付与部16は、すでに説明した(1)式により、熱画像における温度情報を、表面三次元形状モデルの表面(対応するメッシュ)に対して投影する。
温度情報付与部16は、熱画像情報に含まれる熱画像のデータが記憶されているアドレスにより、記憶部18から熱画像のデータを読み出す。
そして、温度情報付与部16は、すでに説明した(1)式により、熱画像における温度情報を、表面三次元形状モデルの表面(対応するメッシュ)に対して投影する。
ステップS6:
温度情報付与部16は、表面三次元形状モデルの表面におけるメッシュの全てに対する温度情報の投影が終了したか否か、及び未処理の熱画像が存在するか否かの判定を行なう。
このとき、温度情報付与部16は、メッシュの全てに対する温度情報の投影が終了した場合、または未処理の熱画像が存在しない場合のいずれかの場合、処理をステップS7へ進める。また、温度情報付与部16は、メッシュの全てに対する温度情報の投影が終了しておらず、かつ未処理の熱画像が存在する場合、処理をステップS4に戻し、記憶部18の熱三次元形状テーブルにおける次の熱画像に対する処理を行なう。
温度情報付与部16は、表面三次元形状モデルの表面におけるメッシュの全てに対する温度情報の投影が終了したか否か、及び未処理の熱画像が存在するか否かの判定を行なう。
このとき、温度情報付与部16は、メッシュの全てに対する温度情報の投影が終了した場合、または未処理の熱画像が存在しない場合のいずれかの場合、処理をステップS7へ進める。また、温度情報付与部16は、メッシュの全てに対する温度情報の投影が終了しておらず、かつ未処理の熱画像が存在する場合、処理をステップS4に戻し、記憶部18の熱三次元形状テーブルにおける次の熱画像に対する処理を行なう。
ステップS7:
温度情報付与部16は、温度情報の付与の処理が終了した表面三次元形状モデルを、温度情報付与表面三次元形状モデルとし、記憶部18に書き込んで記憶させる。
そして、温度情報付与部16は、温度情報付与表面三次元形状モデルのデータを書き込んだ記憶部18における領域のアドレスを、温度情報付与表面三次元形状モデルデータインデックスとして、記憶部18の表面三次元形状テーブルに対して書き込んで記憶させる。
温度情報付与部16は、温度情報の付与の処理が終了した表面三次元形状モデルを、温度情報付与表面三次元形状モデルとし、記憶部18に書き込んで記憶させる。
そして、温度情報付与部16は、温度情報付与表面三次元形状モデルのデータを書き込んだ記憶部18における領域のアドレスを、温度情報付与表面三次元形状モデルデータインデックスとして、記憶部18の表面三次元形状テーブルに対して書き込んで記憶させる。
上述したように、本実施形態は、対象物500の表面三次元形状モデルの三次元座標系において、対象物500の表面三次元形状モデルと、遠赤外線カメラ20で撮像した対象物500の表面の各領域の温度情報を示す熱画像の各々からSFM処理で生成した熱三次元形状モデルとの位置合わせを行ない、SRT行列を求めて、このSRT行列を用いて熱画像の温度情報を表面三次元形状モデルの表面に投影して、温度情報付与表面三次元形状モデルを生成している。
このため、本実施形態によれば、三次元形状計測装置10と遠赤外線カメラ20との各々のキャリブレーションを行なう必要がなく、かつ三次元形状計測装置10と遠赤外線カメラ20とを一体化させた構成とする必要もなく、三次元形状計測装置10で計測した対象物500の表面三次元形状モデルに対して、遠赤外線カメラ20で取得した対象物500の温度情報を付与し、容易に温度情報付与表面三次元形状モデルを生成することができる。
このため、本実施形態によれば、三次元形状計測装置10と遠赤外線カメラ20との各々のキャリブレーションを行なう必要がなく、かつ三次元形状計測装置10と遠赤外線カメラ20とを一体化させた構成とする必要もなく、三次元形状計測装置10で計測した対象物500の表面三次元形状モデルに対して、遠赤外線カメラ20で取得した対象物500の温度情報を付与し、容易に温度情報付与表面三次元形状モデルを生成することができる。
図5は、表面三次元形状モデル表面において温度情報の投影処理を行なう必要のないメッシュの例を示す図である。
遠赤外線カメラ20のカメラ位置310から、対象物500の表面三次元形状モデル320の表面に対して、熱画像における温度情報を投影する際、温度情報の投影範囲330は遠赤外線カメラ20の画角から決まる。
この図5の場合、表面三次元形状モデル320の表面において、三次元形状表面340が投影範囲外であり、対応する領域の温度情報を有する熱画像が取得されていない。このため、温度情報付与部16は、三次元形状表面340に対しては温度情報の投影処理を行なわない。
遠赤外線カメラ20のカメラ位置310から、対象物500の表面三次元形状モデル320の表面に対して、熱画像における温度情報を投影する際、温度情報の投影範囲330は遠赤外線カメラ20の画角から決まる。
この図5の場合、表面三次元形状モデル320の表面において、三次元形状表面340が投影範囲外であり、対応する領域の温度情報を有する熱画像が取得されていない。このため、温度情報付与部16は、三次元形状表面340に対しては温度情報の投影処理を行なわない。
また、表面三次元形状モデル320における三次元形状表面350及び三次元形状表面360の各々は、遠赤外線カメラ20のカメラ位置310及び計測方向(撮像方向)から不可視範囲であり、対応する領域の温度情報を有する熱画像が取得されていない。このため、温度情報付与部16は、三次元形状表面340と同様に、三次元形状表面350及び三次元形状表面360の各々に対しては温度情報の投影処理を行なわない。
ここで、温度情報付与部16は、上述した投影範囲外の領域および不可視範囲の判定を、コンピュータグラフィックスで一般的に用いられているビュークリッピング、陰面判定処理によって行う。
ここで、温度情報付与部16は、上述した投影範囲外の領域および不可視範囲の判定を、コンピュータグラフィックスで一般的に用いられているビュークリッピング、陰面判定処理によって行う。
なお、本発明における図1の三次元形状熱計測装置1の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより三次元形状モデルの表面に対して遠赤外線カメラで計測された熱画像における温度情報を付与する温度情報の投影処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWW(World Wide Web)システムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD−ROM(Compact Disc - Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM(Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWW(World Wide Web)システムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD−ROM(Compact Disc - Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM(Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
1…三次元形状熱計測装置
10…三次元形状計測装置
11…制御部
13…SFM処理部
14…形状位置合わせ部
15…座標変換部
16…温度情報付与部
17…画像表示部
18…記憶部
20…遠赤外線カメラ
10…三次元形状計測装置
11…制御部
13…SFM処理部
14…形状位置合わせ部
15…座標変換部
16…温度情報付与部
17…画像表示部
18…記憶部
20…遠赤外線カメラ
Claims (5)
- 対象物の表面の三次元形状を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換部と、
表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与部と
を備えることを特徴とする三次元形状熱計測装置。 - 前記表面三次元形状モデルと前記熱三次元形状モデルとにおける点群の位置合わせ処理を行い、前記表面三次元形状モデルと前記熱三次元形状モデルとの各々に対するSRT行列を求める形状位置合わせ部をさらに備え、
前記座標変換部が、前記SRT行列を用いて、前記表面三次元形状モデルと前記熱三次元形状モデルとの三次元座標系を一致させる
ことを特徴とする請求項1に記載の三次元形状熱計測装置。 - 前記熱画像を用いたSFM処理を用いて、前記熱三次元形状モデルと前記熱画像を撮像した遠赤外線カメラのカメラ情報とを取得するSFM処理部をさらに備えていることを特徴とする請求項1または請求項2に記載の三次元形状熱計測装置。
- 座標変換部が、対象物の三次元形状の表面を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換過程と、
温度情報付与部が、表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与過程と
を含むることを特徴とする三次元形状熱計測方法。 - コンピュータを、
対象物の三次元形状の表面を示す表面三次元形状モデルと、前記対象物の表面の温度を計測した熱画像から求めた熱三次元形状モデルとの三次元座標系を一致させる座標変換手段、
表面三次元形状モデルの表面に対して、当該表面の観察方向に一致する、前記熱三次元形状モデルの撮像方向における前記熱画像を投影させる温度情報付与手段
として動作させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016228117A JP2018084512A (ja) | 2016-11-24 | 2016-11-24 | 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016228117A JP2018084512A (ja) | 2016-11-24 | 2016-11-24 | 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018084512A true JP2018084512A (ja) | 2018-05-31 |
Family
ID=62237143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016228117A Pending JP2018084512A (ja) | 2016-11-24 | 2016-11-24 | 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018084512A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111970490A (zh) * | 2020-08-06 | 2020-11-20 | 万翼科技有限公司 | 用户流量监控方法及相关设备 |
CN111189545B (zh) * | 2020-02-21 | 2021-05-18 | 中国科学院半导体研究所 | 高精度广域智能红外体温筛查方法及其系统 |
CN114674263A (zh) * | 2022-05-27 | 2022-06-28 | 深圳市海清视讯科技有限公司 | 体积测量方法、装置、设备及可读存储介质 |
-
2016
- 2016-11-24 JP JP2016228117A patent/JP2018084512A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111189545B (zh) * | 2020-02-21 | 2021-05-18 | 中国科学院半导体研究所 | 高精度广域智能红外体温筛查方法及其系统 |
CN111970490A (zh) * | 2020-08-06 | 2020-11-20 | 万翼科技有限公司 | 用户流量监控方法及相关设备 |
CN111970490B (zh) * | 2020-08-06 | 2023-04-18 | 万翼科技有限公司 | 用户流量监控方法及相关设备 |
CN114674263A (zh) * | 2022-05-27 | 2022-06-28 | 深圳市海清视讯科技有限公司 | 体积测量方法、装置、设备及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110383343B (zh) | 不一致检测系统、混合现实系统、程序和不一致检测方法 | |
JP7011711B2 (ja) | カメラおよび回折光学要素の外因性較正のためのシステムおよび方法 | |
JP6465789B2 (ja) | デプスカメラの内部パラメータを算出するプログラム、装置及び方法 | |
JP6573419B1 (ja) | 位置決め方法、ロボット及びコンピューター記憶媒体 | |
JP2017528727A (ja) | 2dカメラ画像からの3d画像の生成に当たり3d計量器と併用される拡張現実カメラ | |
JP2015171077A (ja) | 投影画像補正装置、投影する原画像を補正する方法およびプログラム | |
EP3049756B1 (en) | Modeling arrangement and method and system for modeling the topography of a three-dimensional surface | |
JP6541920B1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
JP2020504984A (ja) | 仮想光線追跡方法および光照射野の動的リフォーカス表示システム | |
EP3430596B1 (en) | Determining the relative position between a thermal camera and a 3d camera using a hybrid phantom | |
CN105306922A (zh) | 一种深度相机参考图的获取方法和装置 | |
JP2018084512A (ja) | 三次元形状熱計測装置、三次元形状熱計測方法及びプログラム | |
Chernov et al. | 3D dynamic thermography system for biomedical applications | |
Wilm et al. | Accurate and simple calibration of DLP projector systems | |
JP6963295B2 (ja) | 3次元情報取得装置 | |
JP6388435B2 (ja) | 画像生成装置、画像生成方法、及びプログラム | |
KR20200049337A (ko) | 영상 정합 장치 및 방법 | |
TW202037151A (zh) | 影像處理系統及影像處理方法 | |
CN112669392B (zh) | 一种应用于室内视频监控系统的地图定位方法及系统 | |
JP3637416B2 (ja) | 3次元計測方法、3次元計測システム、画像処理装置、及びコンピュータプログラム | |
JP6167135B2 (ja) | 三次元位置計測方法、測量方法、三次元位置計測装置及び三次元位置計測プログラム | |
WO2017057426A1 (ja) | 投影装置、コンテンツ決定装置、投影方法、および、プログラム | |
JP2017215706A (ja) | 映像合成方法、映像取得装置、映像合成装置、映像合成システム及びコンピュータプログラム。 | |
JP2022128087A (ja) | 計測システム及び計測プログラム | |
Chikurtev et al. | 3D modelling for object recognition with depth sensors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20161125 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181102 |