JP2015111101A - 情報処理装置および方法 - Google Patents

情報処理装置および方法 Download PDF

Info

Publication number
JP2015111101A
JP2015111101A JP2014178560A JP2014178560A JP2015111101A JP 2015111101 A JP2015111101 A JP 2015111101A JP 2014178560 A JP2014178560 A JP 2014178560A JP 2014178560 A JP2014178560 A JP 2014178560A JP 2015111101 A JP2015111101 A JP 2015111101A
Authority
JP
Japan
Prior art keywords
temperature
image
parameter
dependent parameter
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014178560A
Other languages
English (en)
Other versions
JP6537237B2 (ja
Inventor
博志 吉川
Hiroshi Yoshikawa
博志 吉川
小竹 大輔
Daisuke Kotake
大輔 小竹
正和 東原
Masakazu Higashihara
正和 東原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014178560A priority Critical patent/JP6537237B2/ja
Priority to US14/531,829 priority patent/US10070117B2/en
Publication of JP2015111101A publication Critical patent/JP2015111101A/ja
Priority to US16/050,979 priority patent/US10979694B2/en
Application granted granted Critical
Publication of JP6537237B2 publication Critical patent/JP6537237B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B5/00Measuring arrangements characterised by the use of mechanical techniques
    • G01B5/0011Arrangements for eliminating or compensation of measuring errors due to temperature or weight
    • G01B5/0014Arrangements for eliminating or compensation of measuring errors due to temperature or weight due to temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

【課題】 本発明は、多様な温度変化に応じて適切なキャリブレーションを行うことにより、高精度な三次元計測を可能とすることを目的とする。
【解決手段】 三次元計測を行うために計測対象物に対してパターンを投影する投影装置の補正対象情報を補正する情報処理装置であって、前記投影装置の補正対象情報を温度の関数とした関係を保持する保持手段と、前記投影装置の温度を入力する温度入力手段と、
前記温度入力手段によって入力された投影装置の温度と、前記関係とに基づき、前記投影装置の補正対象情報を取得する補正対象情報取得手段と、を有する。
【選択図】 図1

Description

本発明は、三次元計測を行うための情報処理装置に関する。
計測対象を撮像することにより得られた画像を利用する三次元計測技術は、実物からの三次元モデル生成や物体の位置姿勢計測などの様々な目的に利用することができる。画像を利用する三次元計測技術の代表的な方法の一つであるステレオ法では、相対的な位置及び姿勢が既知な二台のカメラ(ステレオカメラ)により撮影された画像をもとに三角測量の原理に基づいて三次元計測を行う。また、三次元計測の信頼性を高めるために、ステレオカメラの一方のカメラをプロジェクタなどの照明装置に置き換えて、計測対象物に三次元計測用のパターンを投影することも広く行われている。
しかしながら、カメラやプロジェクタのレンズは温度に応じて膨張・収縮するため、カメラと計測対象物との間の物理的な位置変化がなくても、温度変化により撮像素子上での計測対象物上の点の位置にずれが生じることがある。同様に、プロジェクタによって投影されるパターンの三次元空間中での位置も温度変化によりずれが生じることがある。
レンズの温度は、外気温やカメラやプロジェクタの機器内部の温度によって変化し、レンズは膨張・収縮をする。レンズの温度変化があっても高精度に三次元計測を行うためには、温度変化に起因するレンズの膨張・収縮によるずれを補正する必要がある。
特許文献1には、予め複数の温度下でカメラパラメータのキャリブレーションを行っておき、カメラ付近に取り付けられた温度センサの計測値に応じてカメラパラメータを切り替える方法が開示されている。
特許第3286306号公報
特許文献1には、離散的な複数の温度下でキャリブレーションを行う方法が開示されている。しかしながら、特許文献1に開示されている技術では、離散的な限られた温度下におけるキャリブレーションを行っているだけなので、多様な温度変化に応じて適切なキャリブレーションを行うことが困難である。
本発明は、上記課題を鑑みてなされたものであり、多様な温度変化に応じてずれの補正を適切に行うことにより、高精度な三次元計測を可能とすることを目的とする。
上記課題を鑑み、本発明の情報処理装置は、例えば、三次元計測を行うために計測対象物に対してパターンを投影する投影装置の温度依存パラメータを決定する情報処理装置であって、前記投影装置の温度依存パラメータを温度の関数とした関係を保持する保持手段と、前記投影装置の温度を入力する温度入力手段と、前記温度入力手段によって入力された投影装置の温度と、前記関係とに基づき、前記投影装置の温度依存パラメータを決定する温度依存パラメータ決定手段と、を有する。
本発明によれば、多様な温度変化に応じてずれの補正を適切に行うことにより、高精度な三次元計測を可能とすることが出来る。
第一の実施形態における情報処理装置1の構成を示す図である。 第一の実施形態におけるキャリブレーションの処理手順を示すフローチャートである。 校正パラメータのキャリブレーションに利用する校正用物体を示す図である。 校正パラメータのキャリブレーションの処理手順を示すフローチャートである。 空間コード化パターンの一例を示す図である。 校正パラメータと温度の関係のキャリブレーションの処理手順を説明するフローチャートである。 校正パラメータと温度の関係の算出手順を示すフローチャートである。 第一の実施形態における三次元計測の処理手順を示すフローチャートである。 プロジェクタの校正パラメータと温度の関係の算出手順を説明するフローチャートである。 第三の実施形態における情報処理装置2の構成を示す図である。 画像座標値の変化量についての説明図である。 第三の実施形態における温度補正パラメータの算出手順を示すフローチャートである。 第三の実施形態における三次元計測の処理手順を示すフローチャートである。
以下に、図面を参照しながら、本発明を実施するための実施形態について説明する。
(第一の実施形態)
(カメラのパラメータ補正)
本実施形態では、カメラとプロジェクタから構成される三次元計測装置について説明する。
本実施形態では、外気温や機器の内部の温度変化によって撮影画像上に撮影される点の位置のずれが生じる場合の三次元計測の精度を向上させる。具体的には、予めカメラのレンズの温度と温度変化に応じたパラメータ(温度依存パラメータ)との関係を求めておき、温度センサによって計測されるカメラのレンズの温度をもとに校正パラメータを用いた補正を行う。すなわち本実施形態は、校正パラメータのうち、温度依存性をもつ校正パラメータの値を計測された温度に応じて決定するである。図1は、本実施形態における三次元計測装置と接続された情報処理装置1の構成を示す図である。情報処装置1は、画像入力部115、温度入力部135、温度補正パラメータ保存部150、校正パラメータ保存部160、温度依存パラメータ決定部170、画像処理部180、三次元座標算出部190から構成されている。
また、情報処理装置1には、撮像部110、パターン投影部120、温度計測部130、制御部140が接続されている。以下、情報処理装置1を構成する各部及び情報処理装置1に接続される各部について説明する。
撮像部110は、計測対象物を撮像し、濃淡またはカラー画像を取得するカメラである。パターン投影部120は計測対象物に対して照明光パターンを投影する投影型のプロジェクタである。
本実施形態では、プロジェクタは、三次元計測手法として一般的に用いられる空間コード化法の空間コード化パターンを投影するものとする。カメラとプロジェクタは互いの相対的な位置及び姿勢が変化しないように固定されている。カメラ及びプロジェクタの内部パラメータ(焦点距離、画像中心位置、レンズ歪みパラメータ等)、カメラとプロジェクタの間の相対的な位置及び姿勢は事前にキャリブレーションし、校正パラメータとして校正パラメータ保存部160に保存する。
ここで、焦点距離とは、カメラ(プロジェクタ)のレンズ中心と画像面との物理的な距離を画素ピッチで割ったものである。また、画像中心位置とは、カメラ(もしくはプロジェクタ)の光軸と画像面との交点の画像座標である。レンズ歪みパラメータは、放射方向の歪みを表す係数と接線方向の歪みを表す係数である。キャリブレーション方法については後述する。
温度計測部130は、カメラのレンズの温度を計測する温度センサである。温度センサは例えばサーミスタなどから構成される。本実施形態では、温度センサは例えばカメラレンズのフォーカスリング上に配置される。
制御部140は、撮像部110およびパターン投影部120の動作制御を行う。制御部140は、一般的なコンピュータと同様の構成によって実現される。プロジェクタは、制御部140からの指示信号に基づき投影するパターンの切り替え及び投影を行う。カメラは、制御部140からの指示信号に基づき、プロジェクタによってパターンが投影された計測対象物の画像を撮影する。
画像入力部115は撮像部110に接続されており、プロジェクタによってパターンが投影された計測対象物のカメラによって撮影された画像を入力する。画像の入力は、例えばカメラリンクのインタフェースを介して行う。しかしながら、画像の入力方法はこれに限るものではなく、USBやIEEE1394、GbEなど他のインタフェースを介して入力してもよい。なお、計測対象物を撮影する際に画像入力部115と撮像部110とが接続されている必要は必ずしもない。予め撮影を行って不図示の記憶媒体上に保存しておき、撮影後、画像入力部115は記憶媒体に保存されている撮影画像を読み出して入力してもよい。
温度入力部135は温度計測部130に接続されており、温度センサによって計測されたカメラのレンズの温度を入力する。温度入力部135は、補正用の温度として、温度情報を直接入力してもよいし、A/D変換されたサーミスタの電圧情報を入力し、電圧情報を温度情報に変換してもよい。
温度補正パラメータ保存部150は、カメラのレンズの温度と補正対象となる校正パラメータ(以下、補正対象校正パラメータ)の関係を保存する。補正対象校正パラメータは、校正パラメータ保存部160に保存されている校正パラメータに含まれている。温度と補正対象校正パラメータの関係は事前にキャリブレーションしておくものとする。温度と補正対象校正パラメータの関係は、例えば、温度を独立変数、補正対象校正パラメータを従属変数とした関数として表現される。本実施形態では温度と補正対象校正パラメータとの関係を一次関数で表されるようにする。当該関係を一次関数などの陽関数で表すことによって、多様な温度に対して補正対象校正パラメータの適切な決定を行うことが可能となる。キャリブレーション方法については後述する。
温度依存パラメータ決定部170は、校正パラメータのうち、温度依存性をもつパラメータである補正対象校正パラメータの値を決定する。補正対象校正パラメータの決定は、温度計測部130によって計測された撮像時におけるカメラのレンズの温度と、温度補正パラメータ保存部150が保持するカメラのレンズの温度と補正対象校正パラメータとの関係に基づいて行われる。
画像処理部180は、画像入力部115によって入力された撮影画像から空間コードの境界座標を検出し、投影パターン上の境界座標と対応付ける。
三次元座標算出部190は、画像処理部180で得られた撮影画像上の空間コードの境界座標と投影パターン上の境界座標の対応のそれぞれについて三次元座標を算出する。
次に、三次元計測を行う前に実施する校正パラメータのキャリブレーション及び温度と校正パラメータの関係のキャリブレーションについて説明する。図2は、本実施形態におけるキャリブレーションの処理手順を示すフローチャートである。
(ステップS1010)
ステップS1010では校正パラメータのキャリブレーションを行う。校正パラメータのキャリブレーションは、三次元計測装置を内部十分に暖機運転した状態で行う。また、校正パラメータのキャリブレーション用の画像の撮影と同時に、カメラのレンズの温度も計測しておく。計測された温度は、補正対象校正パラメータの補正における基準温度とする。校正パラメータのキャリブレーション方法については後述する。
(ステップS1020)
ステップS1020では、カメラのレンズの温度と補正対象校正パラメータとの関係のキャリブレーションを行う。カメラのレンズの温度と補正対象校正パラメータの関係のキャリブレーションは、物理的に同じ位置にある点の画像座標の温度変化をもとに行う。カメラのレンズの温度と補正対象校正パラメータの関係のキャリブレーション方法については後述する。
ステップS1010における校正パラメータのキャリブレーションについて説明する。図3は校正パラメータのキャリブレーションに利用する校正用物体を示す図である。図3に示すように、校正用物体を構成する平面上には円形の指標(以下、円マーカと呼ぶ)を等間隔に配置する。また、校正用物体上の座標系を定義するために、円マーカの一部を同心円にする(以下、同心円の円マーカを同心円マーカと呼ぶ)。同心円マーカをL字状に配置し、L字の角の部分にあたる同心円マーカの中心位置を校正用物体の原点とする。また、平面の法線方向を校正用物体のZ軸とし、L字の長手方向をX軸、短手方向をY軸とする。この校正用物体は温度と校正パラメータの関係のキャリブレーションでも利用する。図4は、校正パラメータのキャリブレーションの処理手順を示すフローチャートである。
(ステップS1110)
ステップS1110では、カメラやプロジェクタの電源をオンにして三次元計測装置を起動する。電源をオンにした後は、空間コード化パターンの投影・撮像を一定間隔で行い、装置を暖機運転する。
(ステップS1120)
ステップS1120では、装置が十分に暖機運転されたかどうかの判定を行う。判定は、例えば一定時間間隔におけるカメラのレンズの温度の変動がある閾値を下回るかに基づいて行う。装置が十分に暖機運転されている場合にはステップS1130に進む。
(ステップS1130)
ステップS1130では、キャリブレーション用の画像の撮影及びカメラのレンズの温度の計測を行う。キャリブレーション用の画像の撮影は撮像部110により行う。カメラのレンズの温度の計測は温度計測部130により行う。キャリブレーション用の画像の撮影を行う際には、三次元計測装置に対する校正用物体の位置・姿勢を変えて、空間コード化パターンを投影した画像及び均一なパターンを投影した均一照明画像を撮影することを繰り返す。パターンの投影はパターン投影部120により行う。また、空間コード化パターンとしてはグレイコードパターンを投影し、水平・垂直方向の両方のパターンを投影する。
図5は、グレイコードパターンの例を示した図である。図に示すように、グレイコードパターンは、縞状の縞状パターンとなる。
さらに三次元計測装置に対する所定の位置に校正用物体を配置し、均一なパターンを投影して校正用物体を撮影する。撮影により得られた画像はステップS1020におけるカメラのレンズの温度と補正対象校正パラメータとの関係のキャリブレーションに用いられる。校正用物体を撮影した時のカメラレンズの温度は、補正基準温度Trefcとして温度補正パラメータ保存部150に保存しておく。
(ステップS1140)
ステップS1140では、ステップS1130の撮影で得られた画像をもとに校正パラメータを算出する。
まず、均一なパターンが投影された校正用物体の各画像について、校正用物体上の円マーカの検出及び対応付けを行う。ここで対応付けとは、画像上で検出された円マーカが校正用物体上のどの円マーカに対応しているかを決定することを指す。図3に示すように校正用物体は白色であり、円マーカは黒色である。よって、画像の二値化及び黒色の領域のラベリング処理を行って円領域の候補を抽出し、各円領域の候補の面積を閾値処理することで円マーカに相当する領域を検出する。また、座標系を規定する同心円マーカについては、同様に二値化及びラベリング処理の結果をもとに、黒色の領域の中に白色の領域がありかつ既定の面積以上の領域として検出を行う。円マーカの検出が終了したら、検出された円マーカと校正用物体上の円マーカとの対応付けを行う。まず、画像上で同心円マーカがのる2本の直線を推定し、2本の直線の交点付近にある同心円マーカを原点の同心円マーカと対応付ける。原点に対応付けられた同心円マーカ及び前述の2本の直線の方向をもとに他の円マーカの対応付けを行う。
次に、空間コード化パターンが投影された校正用物体の画像群から水平・垂直方向の空間コードの境界の交点を算出し、投影パターン上の交点との対応付けを繰り返す。まず、グレイコードパターンを構成する各パターンを照射して撮影した画像を二値化し、画素毎に二値化結果(0または1)を並べることにより符号(空間コード)を算出する。空間コードは、該当する画素に投影されたパターン上でのラインのIDを表すものであり、水平方向と垂直方向のそれぞれについて算出する。この結果をもとに、水平方向と垂直方向のそれぞれについて、撮像画像上における空間コードの境界を算出する。次に、水平方向と垂直方向の空間コードの境界を用いて、垂直・水平方向のパターンの交点の座標を算出する。空間コードにより各交点のカメラ画像上での座標と投影パターン上での座標を対応付けることができる。
円マーカの対応付け及び空間コードの境界の交点の対応付けが終わったら、対応付け結果をもとに校正パラメータを算出する。校正パラメータの算出は、例えば、Morenoらの方法(D.Moreno and G.Taubin,“Simple,Accurate,and Robust Projector−Camera Calibration”,Proc.2nd International Conference on 3D Imaging,Modeling,Processing,Visualization and Transmission(3DIMPVT 2012),pp.464−pp.471,2012)により行う。校正パラメータは校正パラメータ保存部160に保存しておく。
次にステップS1020における補正対象校正パラメータとカメラのレンズの温度の関係のキャリブレーションについて説明する。図6は、補正対象校正パラメータとカメラのレンズの温度の関係のキャリブレーションの処理手順を説明するフローチャートである。
(ステップS1210)
ステップS1210では、カメラやプロジェクタの電源をオンにして三次元計測装置を起動する。
(ステップS1220)
ステップS1220では、キャリブレーション用の画像の撮影及びカメラのレンズの温度の計測を行う。ここでは、ステップS1130で配置した位置のうちいずれかの位置を所定の位置として、所定位置に校正用物体を配置し、均一なパターンを投影して画像の撮影及び温度の計測を行う。なお、校正用物体の配置された所定の位置は画像撮影の間は変えないものとする。画像の撮影が終了したら一定時間(例えば5分)待ってから再度撮影を行う。待ち時間の間も空間コード化パターンの投影・撮像を一定の時間間隔で行うことで、三次元計測装置の内部の温度を上昇させる。
(ステップS1230)
ステップS1230では、カメラのレンズの温度が補正基準温度Trefcに達したかどうかを判定し、達していればステップS1240に進む。
(ステップS1240)
ステップS1240では、補正対象校正パラメータとカメラのレンズの温度の変化の対応関係を算出する。図7は、補正対象校正パラメータとカメラのレンズの温度の関係の算出手順を示すフローチャートである。
(ステップS1310)
ステップS1310では、ステップS1220で得られた撮影画像ごとに、校正用物体上の円マーカの画像座標の変動パラメータを推定する。ここで、変動パラメータとは、カメラのレンズの温度変化によって起こる円マーカの画像座標の変動を表現するパラメータである。本実施形態では、温度変化によって各円マーカの画像座標(ui(T),vi(T))は補正基準温度Trefcにおける円マーカの画像座標(ui(Trefc),vi(Trefc))と画像中心(cx,cy)を結ぶ方向に伸縮するとする。よって、伸縮率を変動パラメータであるとする。伸縮率は各マーカに共通であるとしてk(T)と表す。温度Tにおける画像座標(ui(T),vi(T))を(数1)のように表す。
Figure 2015111101
まず、予め円マーカの検出・対応付けをステップS1140と同じ方法で各画像について行う。ある温度Tの撮影で得られた画像上で検出された円マーカ全てについての(数1)を連立方程式として解くことで共通パラメータのk(T)を算出することができる。この場合、未知数の数より方程式の数の方が多いため、最小二乗法によりk(T)を算出する。この処理を、ステップS1220で撮影された画像ごとに行い、複数の温度Tごとに伸縮率k(T)を求める。
(ステップS1320)
ステップS1320では、温度Tと補正対象校正パラメータとの関係を求めるために、まずステップS1310で求めた伸縮率k(T)と温度Tに回帰直線の推定を行う。推定された回帰直線をk(T)=aT+bと表す。回帰直線の推定を行う際には、温度がTrefcの場合にk(T)が0になるようにする。次に補正対象校正パラメータと温度Tの関係を求める。本実施形態では、補正対象校正パラメータを水平方向の焦点距離fx、垂直方向の焦点距離fyであるとする。ここで、焦点距離を1、画像平面と光軸との交点を原点とした場合の画像座標(以下、正規化画像座標と呼ぶ)を(xi,yi)と表すとする。よって、正規化画像座標(xi,yi)と画像座標(ui,vi)の関係は、画像中心位置を(cx,cy)とすると(数2)のように表される。
Figure 2015111101
補正基準温度Trefcにおける円マーカの画像座標(ui(Trefc),vi(Trefc))が(数2)を満たすとすると、(数1)は(数3)のように書ける。
Figure 2015111101
なお、補正基準温度Trefcのときのカメラの焦点距離をfxref(水平方向)、fyref(垂直方向)とする。伸縮率k(T)と温度Tの関係がk(T)=aT+bであることから、温度Tの場合の焦点距離fx(T)(水平方向)、fy(T)(垂直方向)は(数4)のように表される。
Figure 2015111101
よって、回帰直線を表すパラメータa、b及び補正基準温度Trefcにおける焦点距離fxref、fyrefから、温度Tの場合の焦点距離fx(T)、fy(T)を算出することができる。回帰直線を表すパラメータa、bは温度補正パラメータ保存部150に保存しておく。
次に、温度に応じて校正パラメータを補正(決定)しながら三次元計測を行う方法について説明する。図8は、本実施形態における三次元計測の処理手順を示すフローチャートである。
(ステップS1410)
ステップS1410では、パターン投影部120によって空間コード化パターン(グレイコードパターン)が投影された計測対象物の画像を撮像部110により撮影する。パターン投影部120はグレイコードパターンを構成する複数のパターンを切り替えて表示する。制御部140はパターン投影部120に投影するパターンを示す指示信号を送る。計測対象物にパターンが投影されたら制御部140は撮像部110に指示して計測対象物の画像を撮影する。本実施形態では、三次元計測を行う際にはパターン投影部120は垂直方向のグレイコードパターンのみを投影する。また、画像の撮影と同時に温度計測部130によりカメラのレンズの温度の計測も行う。画像入力部115は、撮像部110によって撮影により得られた画像群を入力する。温度入力部135は、温度計測部130によって計測されたカメラのレンズの温度を入力する。
(ステップS1420)
ステップS1420では、ステップS1410において撮影により得られた画像をもとに、撮像画像上の画像座標と投影パターン上の水平座標との対応の集合を求める。具体的な方法は前述したステップS1140における空間コードの境界の算出方法と同じであるので説明を省略する。
(ステップS1430)
ステップS1430では、ステップS1410で計測されたカメラのレンズの温度をもとに補正対象校正パラメータを補正する。本実施形態における補正対象校正パラメータはカメラの焦点距離である。カメラの焦点距離の補正は、温度補正パラメータ保存部150に保存されている回帰直線のパラメータa、b及びステップS1410で計測されたカメラのレンズの温度Tobsを(数4)に代入することで行う。
(ステップS1440)
ステップS1440では、ステップS1420で得られた対応の夫々について計測対象物体の表面の三次元座標を算出する。三次元座標の算出は、ステップS1430で補正されたカメラの焦点距離及びカメラの焦点距離以外の校正パラメータ保存部に保存された校正パラメータを用いて行われる。三次元座標の算出方法としては、撮影画像上の点とカメラのレンズ中心を通る直線(以下、視線ベクトル)とプロジェクタのレンズ中心と投影パターン上の垂直ラインを通る平面との交点として求める方法がある。但し、三次元座標の算出方法はこれに限るものではなく、注目点の撮影画像座標及び投影パターン上の座標が得られる場合には連立方程式をもとに三次元座標を最小二乗法によって求めてもよい。
以上述べたように、本実施形態では、予めカメラのレンズの温度と補正対象校正パラメータとの関係を求めておき、三次元計測を行う際に温度センサによって計測されるカメラのレンズの温度をもとに補正対象校正パラメータの補正を行う方法について説明した。これにより、外気温や機器の内部の温度変化によって撮影される点の撮影画像上の位置にずれが生じても、高精度に三次元計測を行うことができる。
本実施形態では、プロジェクタから投影するパターンとして空間コード化パターンを用いた。しかしながら、プロジェクタが投影するパターンはこれに限るものではなく、三次元計測を行うための他のパターンであってもよい。例えば、複数のパターンを投影・撮影するものとしては、位相シフト法のためのパターンを投影してもよい。また、大田らの三次元計測手法(大田ら、Belief−Propagationによる高密度なグリッドパターン検出及びデブルーイン系列を用いた高速動物体のロバストな三次元計測手法、信学論D,vol.J93−D,no.8,pp.1544−1554,2010.)で用いられているような単一のパターンであってもよい。
本実施形態では、温度と補正対象校正パラメータの関係を求める際に平面状の校正用物体を用いた。しかしながら、校正用物体はこれに限るものではなく、校正用物体上に指標が配置されており、温度を変えて撮影した画像間で物理的に同じ指標の対応がわかるものであればいかなる形状であってもよい。例えば、立方体や直方体上に指標を配置した立体状の校正用物体であってもよい。
本実施形態では、温度と補正対象校正パラメータの関係を回帰直線として求めた。しかしながら、温度と補正対象校正パラメータの関係の表現方法はこれに限るものではなく、両者の関係を適切に表現しており、温度をもとに補正対象校正パラメータを一意に決定できる表現方法であればいかなる方法であってもよい。例えば、2次関数によって表現してもよい。
本実施形態では、温度センサ(サーミスタ)をレンズのフォーカスリング上に配置していた。しかしながら、温度センサを配置する位置はこれに限るものではなく、配置場所の温度変化によって補正対象校正パラメータが変化するのであれば、いかなる場所に配置してもよい。例えば、レンズのマウント部分に温度センサを配置してもよいし、基板の上に配置してもよい。
本実施形態では、温度と補正対象校正パラメータの関係を求めるための画像の撮影を、装置の電源を投入してから補正基準温度に達する間に行った。しかしながら、画像の撮影方法はこれに限るものではない。例えば、装置の電源を投入して十分に暖機を行ってから撮影を開始し、撮影以外の時間はパターンの投影や撮影を行わず、温度を低下させながら撮影を行ってもよい。このような撮影を行うことで、装置が比較的安定している状態での温度変化の影響を考慮した補正対象校正パラメータの補正ができる。他にも、装置のキャリブレーションを行う室内の温度を変化させて撮影を行ってもよい。このような撮影を行うことで、三次元計測装置が利用される環境の温度に変化があっても高精度に計測を行うことができる。
(第二の実施形態)
(プロジェクタのパラメータ補正)
第一の実施形態では、三次元計測装置のカメラのレンズの温度を計測してカメラの補正対象校正パラメータの補正を行った。本実施形態では、さらにプロジェクタのレンズの温度を計測してプロジェクタの補正対象校正パラメータの補正を行う。
なお、本実施形態における三次元計測装置の構成は、第一の実施形態の三次元計測装置1の構成と同じである。実施形態2では、温度計測部130は、カメラのレンズの温度に加えてプロジェクタのレンズの温度も計測する。本実施形態では、温度センサはプロジェクタレンズのフォーカスリング上に配置する。
また、温度補正パラメータ保存部150は、カメラのレンズの温度と補正対象校正パラメータの関係に加えて、プロジェクタのレンズの温度と補正対象校正パラメータの関係も保存する。さらに温度依存パラメータ決定部170は、カメラの補正対象校正パラメータに加えて、プロジェクタの補正対象校正パラメータも補正する。
次に、本実施形態における校正パラメータのキャリブレーション及び温度と補正対象校正パラメータの関係のキャリブレーションについて説明する。本実施形態におけるキャリブレーションの大まかな処理手順は第一の実施形態とほぼ同一である。ここでは、図2のステップS1010をステップS2010、ステップS1020をステップS2020として説明する。
ステップS2010における校正パラメータのキャリブレーションは基本的に第一の実施形態のステップS1010と同一である。ただし、ステップS1130において、三次元計測装置に対する所定の位置に校正用物体を配置したときに、水平・垂直方向の空間コード化パターンが投影された校正用物体の画像も撮影しておく。またそのときのプロジェクタのレンズの温度を補正基準温度Trefpとして温度補正パラメータ保存部150に保存しておく。
次に、S2020における補正対象校正パラメータと温度の関係のキャリブレーションについて説明する。本実施形態における補正対象校正パラメータと温度の関係のキャリブレーションの大まかな処理手順は第一の実施形態とほぼ同一である。ここでは、図2のステップS1210、S1220、S1230、S1240をそれぞれステップS2210、S2220、S2230、S2240と呼ぶ。
(ステップS2210)
ステップS2210では、カメラやプロジェクタの電源をオンにして三次元計測装置を起動する。
(ステップS2220)
ステップS2220では、キャリブレーション用の画像の撮影及びカメラとプロジェクタのレンズの温度の計測を行う。ここでは、ステップS1130で配置した位置と同じ位置に校正用物体を配置し、均一なパターン及び空間コード化パターンを投影して画像の撮影及び温度の計測を行う。画像の撮影が終了したら一定時間(例えば5分)待ってから再度撮影を行う。待ち時間の間も空間コード化パターンの投影・撮像を一定間隔で行うことで、三次元計測装置の内部の温度を上昇させる。
(ステップS2230)
ステップS2230では、カメラのレンズの温度及びプロジェクタのレンズの温度の双方が補正基準温度Trefc、Trefpに達したかどうかを判定し、達していればステップS2240に進む。
(ステップS2240)
ステップS2240では、補正対象校正パラメータと温度の関係を算出する。まずカメラの補正対象校正パラメータと温度の関係を算出する。カメラの補正対象校正パラメータと温度の関係の算出方法は第一の実施形態と同じであるため説明を省略する。次に、プロジェクタの補正対象校正パラメータと温度の関係を算出する方法について説明する。図9は、プロジェクタの補正対象校正パラメータと温度の関係の算出手順を説明するフローチャートである。
(ステップS2310)
まずステップS2310において、第一の実施形態のステップS1140で述べた処理により垂直・水平方向のパターンの交点の座標を算出し投影パターン上での座標と対応付ける。交点の座標の算出には、ステップS2010において撮影された空間コード化パターンが投影された校正用物体の画像が用いられる。
得られた交点の座標の対応から、撮影画像上の座標を投影パターン上の座標に変換するホモグラフィー変換Hを算出する。ホモグラフィー変換の算出は、例えばDLT法(R.Hartley,A.Zisserman,“Multiple View Geometry in Computer Vision”,Cambridge University Press)により行う。このホモグラフィー変換は、カメラやプロジェクタのレンズの温度が補正基準温度の場合に正しく撮影画像上の座標を投影パターン上の座標に変換する。
ステップS2320からステップS2340では、ステップS2220において異なる温度の撮影で得られた画像群について温度毎の処理を行う。まずステップS2320では、ある温度において空間コード化パターンが投影された校正用物体の画像から、ステップS2310と同じ方法により垂直・水平方向のパターンの交点の座標を算出し投影パターン上での座標と対応付ける。そして、交点の撮影画像上での座標を補正基準温度のときの座標に補正する。(数1)より、
Figure 2015111101
と表せるため、既に算出済みのカメラの伸縮率k(T)を用いて補正を行う。座標の補正は、対応付けられたすべての交点について行う。
次にステップS2330において、(数5)により補正された撮影画像上の座標をホモグラフィー変換Hにより投影パターンの座標に変換する。変換された座標は、温度Tにおける投影パターンの座標であり、プロジェクタのレンズの温度変化により、元々の投影パターン上の座標に対してずれがある。座標の変換は、対応付けられたすべての交点について行う。
続いてステップS2340において、プロジェクタ側の伸縮率kp(T)を求める。kp(T)の算出方法はステップS1310におけるカメラ側の変動パラメータの算出方法と同じであるため説明を省略する。
ステップS2350では、全ての温度の画像群について処理を行ったか判定を行い、終了している場合にはステップS2360に進む。終了していない場合にはステップS2320に戻る。
ステップS2360では、ステップS1320と同様に、ステップS2340で得られた変動パラメータkp(T)とTのデータに対して回帰直線の推定を行う。推定された回帰直線をkp(T)=apT+bpと表す。補正基準温度Trefpのときのカメラの焦点距離をfpxref(水平方向)、fpyref(垂直方向)とする。kp(T)と温度Tの関係がkp(T)=apT+bpであることから、温度Tの場合の焦点距離fpx(T)(水平方向)、fpy(T)(垂直方向)は(数6)のように表される。
Figure 2015111101
よって、回帰直線を表すパラメータap、bp及び補正基準温度Trefpにおける焦点距離fpxref、fpyrefから、温度Tの場合の焦点距離fpx(T)、fpy(T)を算出することができる。回帰直線を表すパラメータap、bpは温度補正パラメータ保存部150に保存しておく。
次に、本実施形態における三次元計測について説明する。本実施形態における三次元計測の大まかな処理手順は第一の実施形態とほぼ同一である。ここでは、図8のステップS1410、S1420、S1430、S1440をステップS2410、S2420、S2430、S2440と呼ぶ。ステップS2420、S2440の処理はステップS1420、S1440と同一であるので説明を省略する。ステップS2410では、カメラのレンズの温度に加えてプロジェクタのレンズの温度を計測する。ステップS2430では、ステップS2410で計測されたカメラ及びプロジェクタのレンズの温度をもとにカメラ及びプロジェクタの焦点距離を補正する。
以上述べたように、本実施形態では、予めプロジェクタのレンズの温度と補正対象校正パラメータとの関係を求めておき、三次元計測を行う際のプロジェクタのレンズの温度をもとに補正対象校正パラメータの補正を行う方法について説明した。これにより、外気温や機器の内部の温度変化によってプロジェクタが投影する点の位置にずれが生じても、高精度に三次元計測を行うことができる。
尚、上記実施形態において説明した情報処理装置は、一般的なパーソナルコンピュータと同様の構成を有する情報処理装置で実現することも可能である。この場合、各工程の処理を行う機能を実行するようにプログラムされたコンピュータプログラムを実行することによって上記処理が実現される。
(変形例)
(補正方向をパターンに垂直な方向もしくは水平な方向だけにする。)
以上述べた実施形態では、レンズの温度に応じて画像の水平方向の焦点距離fx(fpx)、垂直方向の焦点距離fy(fpy)の双方を補正していた。しかしながら、補正する対象はどちらか一方の焦点距離であってもよい。一般的に、カメラとプロジェクタが水平方向に配置されておりかつ一方向の空間コードパターンのみ投影する場合には、高精度に三次元計測を行うためにプロジェクタは垂直方向の空間コードパターンを投影する。このような場合、撮影画像やプロジェクタが投影する縞状のパターンにおけるパターンの垂直方向(直交方向)のずれは、水平方向のずれに比べて、三次元計測の精度に対する影響が軽微である。そのため、レンズの温度に応じて補正するのは画像の水平方向の焦点距離fx(fpx)だけでよい。同じ理由から、カメラとプロジェクタが垂直方向に配置されている場合には、画像の垂直方向の焦点距離fy(fpy)だけを補正すればよい。また、補正のための温度と補正対象校正パラメータの関係を求める際にも、水平または垂直方向のずれのみを用いて補正すればよい。このようにすることで、精度に影響のない方向のずれにヒステリシスがある場合でも、温度と補正対象校正パラメータとの関係のキャリブレーション精度が低下してしまう問題を回避することができる。
(画像中心の位置を補正対象校正パラメータに含める。平行移動もモデルに含める)
以上述べた実施形態では、レンズの温度に応じて補正対象校正パラメータとして焦点距離を補正していた。しかしながら、補正対象校正パラメータは焦点距離以外のパラメータであってもよい。例えば、レンズの温度変化により伸縮だけでなく平行移動も起こる場合には、画像中心の位置も補正してもよい。温度Tにおける基準位置からの平行移動を(Δu(T)、Δv(T))であるとすると、(数1)は(数7)のようになる。
Figure 2015111101
第一の実施形態のステップS1310と同様にして、最小二乗法によりk(T)、Δu(T)、Δv(T)を算出する。さらに各温度で計算されたk(T)、Δu(T)、Δv(T)についてそれぞれ回帰直線を求めることで、温度とk(T)、Δu(T)、Δv(T)の関係を求める。(数1)と(数2)から(数3)を導いたのと同様にして(数8)が導かれる。
Figure 2015111101
補正基準温度Trefcのときのカメラの画像中心をcxref(水平方向)、cyref(垂直方向)とする。Δu(T)、Δv(T)の回帰直線をΔu(T)=auT+bu、Δv(T)=avT+bvとすると、温度Tの場合の画像中心cx(T)(水平方向)、cy(T)(垂直方向)は(数9)のように表される。
Figure 2015111101
三次元計測を行う際には、(数4)、(数9)を用いて補正対象校正パラメータとして焦点距離と画像中心を温度に応じて補正する。なお、本例では補正対象校正パラメータとして焦点距離と画像中心を補正したが、これに限るものではない。例えば、レンズの温度変化によって生じる変動の主たる要因が平行移動である場合には、画像中心位置のみを補正してもよい。
また、焦点距離や画像中心位置以外の校正パラメータであっても、(数4)や(数9)のように温度の関数として表現することができれば、温度に応じた補正を行ってもよい。例えば、伸縮率k(T)をもとにレンズ歪みのパラメータを温度の関数として求めて三次元計測を行う際に補正してもよい。
(光軸周りの回転パラメータを補正対象校正パラメータに含める。回転移動もモデルに含める。)
以上の実施形態では、焦点距離や画像中心位置、レンズ歪みパラメータといったカメラまたはプロジェクタの内部パラメータを補正対象校正パラメータとして温度に応じて補正すると述べた。しかしながら、補正対象校正パラメータは内部パラメータ以外のパラメータであってもよい。例えば、レンズの温度変化により画像面内での回転が起こる場合には、カメラ−プロジェクタ間の外部パラメータのうち、光軸周りの回転成分を補正してもよい。画像中心位置を回転中心とした場合、温度Tにおいて画像上における基準位置からの回転量をφ(T)であるとすると、温度Tにおける画像座標(ui(T),vi(T))は数10のように表すことができる。ここではレンズの温度変化による伸縮と平行移動はないものとし、さらに回転量φ(T)は微小であるとしてcosφ≒1、sinφ≒φと近似する。
Figure 2015111101
第一の実施形態のステップS1310と同様にして、最小二乗法により温度毎にφ(T)を算出する。さらに各温度で計算されたφ(T)について回帰直線を求めることで、温度とφ(T)の関係を求める。画像中心位置を回転中心とした場合、カメラまたはプロジェクタの画像面上でφだけ回転することは、カメラまたはプロジェクタが光軸周りにφだけ回転することに相当する。そのため、画像面上での回転量φがわかるとカメラ−プロジェクタ間の外部パラメータを補正することができる。三次元計測を行う際には、補正された外部パラメータを用いて三次元座標の算出を行う。カメラ−プロジェクタ間の外部パラメータの回転行列R及び並進ベクトルtは数11のように補正される。
Figure 2015111101
なおφ(T)、φ(T)は回帰直線から求められた温度Tにおけるカメラとプロジェクタの回転量である。また、R(φ(T))、R(φ(T))は光軸周りにφ(T)またはφ(T)だけ回転する場合の回転行列を表す。さらに、R(Trefc)、t(Trefc)は、あらかじめ補正基準温度でキャリブレーションされたカメラ−プロジェクタ間の外部パラメータの回転行列R及び並進ベクトルtである。補正された外部パラメータを用いて三次元座標の算出を行う場合、三次元座標の基準となる座標系が変わるため、座標変換によって補正前の座標系を基準とした場合の三次元座標に変換することで、温度変化があっても統一された座標系における三次元座標を出力する。ここでは説明を簡略化するためにレンズの温度変化による伸縮と平行移動はないものとしたが、伸縮、平行移動が起こる場合には外部パラメータだけでなく焦点距離、画像中心の補正を行ってもよい。
(複数台のカメラおよびプロジェクタを用意して三次元計測装置を構成する。もしくは単体のカメラで三次元計測装置を構成する。)
以上述べた実施形態では、1台のカメラと1台のプロジェクタから構成される三次元計測装置を説明した。しかしながら、上記実施形態を適用する三次元計測装置はこの構成に限るものではない。例えば、三次元計測装置は複数台のカメラ(複数の個体)から構成されていてもよいし、複数台のカメラと1台のプロジェクタから構成されていてもよい。さらには、三次元計測装置ではなく、単体のカメラを用いた位置及び姿勢推定方法に対して本発明を適用してもよい。例えば、画像に対して3Dモデルをフィッティングすることで位置及び姿勢推定(T.Drummond,R.Cipolla,“Real−time visual tracking of complex structures”,IEEE Trans.on Pattern Analysis and Machine Intelligence,vol.24,no.7,pp.932−946,2002.)する際に、上記実施形態による補正対象校正パラメータの補正を行うことでより高精度に位置及び姿勢を推定することが可能になる。
また、上記実施形態を、複数のプロジェクタからなる投影装置に適用してもよい。この場合、投影装置にカメラを固定し、第二の実施形態で述べた方法によりプロジェクタの焦点距離の補正を行う。さらに補正された焦点距離を用いて各プロジェクタが投影する画像を変形することで、温度変化によってプロジェクタの投影位置に変動があったとしても、常に同一の画像を提示することができる。
(キャリブレーションを行う三次元計測装置と三次元計測を行う三次元計測装置とが異なる。)
以上述べた実施形態では、温度と補正対象校正パラメータの関係をキャリブレーションする三次元計測装置の個体と、実際に三次元計測を行う三次元計測装置の個体は同一であるとしていた。しかしながら、キャリブレーションに用いる三次元計測装置の個体は三次元計測を行う三次元計測装置の個体と必ずしも同一でなくてもよい。例えば、同一構成の三次元計測装置が複数存在する場合には、複数の個体から得られる温度と変動パラメータとの関係に対して回帰直線を求めてもよい。また、予め1つの個体もしくは複数の個体を用いて温度と補正対象校正パラメータの関係をキャリブレーションしておき、キャリブレーションに用いていない他の個体の補正対象校正パラメータの補正を行ってもよい。
(三次元計測を行う際には、キャリブレーションで使用した温度センサを用いずに温度を測定する。)
以上述べた実施形態では、温度と補正対象校正パラメータの関係をキャリブレーションするときに用いた温度センサを利用して三次元計測のときにも温度を計測していた。しかしながら、三次元計測を行う時の温度の計測方法はこれに限るものではない。例えば、キャリブレーション時に装置を起動した時刻(時点)からの経過時間と温度変化の関係を記録しておき、三次元計測を行う時には経過時間から温度を推定してもよい。このようにすることで、三次元計測装置に温度センサを配置する必要がなくなるため、三次元計測装置の製作コストや故障率を削減することができる。三次元計測を行う際に現れる温度領域が含まれれば、経過時間の基準とする時刻は任意に設定することができる。例えば、前述のように装置を起動した時刻であってもよいし、起動した時刻から所定時間経過した時刻であってもよいし、暖機が完了した時刻であってもよい。また、キャリブレーション時にはレンズのフォーカスリングとレンズの基板に温度センサを配置して両者の関係を記録しておき、三次元計測を行う時にはフォーカスリング側の温度センサを除去して基板側の温度センサからレンズの温度を推定してもよい。このようにすることで、キャリブレーション時の温度センサの配置の自由度を上げることができる。
(補正対象校正パラメータを位置姿勢計測の内部パラメータに用いる。)
以上述べた実施形態では、カメラとプロジェクタから構成される三次元計測装置について説明した。しかしながら、補正された校正パラメータは三次元計測以外の目的に利用してもよい。例えば、距離画像と濃淡画像に対して3Dモデルをフィッティングすることで位置及び姿勢を推定する方法(立野、小竹、内山、“ビンピッキングのための距離・濃淡画像を最ゆうに統合する高精度高安定なモデルフィッティング手法”、電子情報通信学会論文誌D、vol.J94−D、no.8、pp.1410−1422、2011.)において利用される内部パラメータとして用いてもよい。このようにすることで、三次元計測の結果である距離画像の精度だけでなく、位置姿勢算出手段が位置及び姿勢を算出する際の精度も向上させることができる。あるいは、距離画像もしくは濃淡画像のいずれか一方のみを用いて位置及び姿勢を推定する方法において、補正された校正パラメータを利用してもよい。
(定義)
上記実施形態における校正パラメータ保持手段は、三次元計測に必要なパラメータであるカメラ及びプロジェクタの内部パラメータ(焦点距離、画像中心、レンズ歪みパラメータ)及びカメラとプロジェクタの間の相対的な位置及び姿勢を保持する。また、カメラが複数存在する場合には、カメラ間の相対的な位置及び姿勢を保持してもよい。さらに、プロジェクタが複数存在する場合には、プロジェクタ間の相対的な位置及び姿勢を保持してもよい。
上記実施形態における温度補正パラメータ保持手段は、カメラまたはプロジェクタのレンズの温度と補正対象校正パラメータの関係を保持する。補正対象校正パラメータは、カメラまたはプロジェクタの焦点距離であっても、画像中心であっても、レンズ歪みパラメータであってもよい。また、レンズの温度と補正対象校正パラメータの関係は、一次関数として保持してもよいし、温度をもとに補正対象校正パラメータを決定することができれば任意の関数として保持してもよい。また、レンズは、一枚のレンズでもよいし、複数のレンズと外装部品を含んだものであってもよい。
上記実施形態におけるパターン投影手段は、三次元計測用の照明パターンを投影する。パターン投影手段は、空間コード化パターンや位相シフト法用のパターンのように複数の照明パターンを切り替えて投影してもよいし、単一の照明パターンを投影してもよい。
上記実施形態における温度計測手段は、該当部位の温度と補正対象パラメータに依存関係がある部位の温度を計測する。温度センサであり、例えばサーミスタによって実現される。温度センサを配置する場所は、レンズのフォーカスリングやマウントに配置する。三次元計測を行う際にはレンズの温度を直接計測してもよいし、キャリブレーションの際にレンズの基板などのレンズ以外の部分の温度とレンズの温度を計測しておき、三次元計測を行う際には基板の温度を計測しレンズの温度に換算してもよい。また、三次元計測を行う際に温度を計測せずに、起動時間と温度変化の関係から温度を推定してもよい。
上記実施形態における校正パラメータ補正手段によって補正される校正パラメータは、三次元座標の算出に利用するだけでなく、三次元座標と画像情報を併用する位置及び姿勢推定に利用してもよい。また、複数のプロジェクタから構成される投影装置における投影画像の調整に利用してもよい。
上記実施形態における温度補正パラメータ算出手段は、三次元計測装置に対して所定の位置に配置した校正用物体の異なる温度での画像をもとに補正パラメータの算出を行う。補正パラメータの算出は、キャリブレーション対象の個体のみを用いて行ってもよいし、複数の個体の情報を用いて行ってもよい。
上記実施形態において補正される校正パラメータは、カメラまたはプロジェクタの焦点距離であっても、画像中心であっても、レンズ歪みパラメータであってもよい。また、投影されるパターンの方向に応じて補正する校正パラメータを限定してもよい。本発明において、プロジェクタから投影するパターンは、空間コード化パターン、位相シフト法のためのパターンのように複数の照明パターンから構成されていてもよいし、単一の照明パターンであってもよい。
上記実施形態における三次元座標算出手段は、撮影画像上の点とカメラのレンズ中心を通る直線(以下、視線ベクトル)とプロジェクタのレンズ中心と投影パターン上の垂直ラインを通る平面との交点として求める。他にも、注目点の撮影画像上の座標、投影パターン上の座標をもとに三次元座標を最小二乗法によって求めてもよい。
(第三の実施形態)
第一の実施形態、および、第二の実施形態においては校正パラメータを温度に応じて決定する例について説明した。第三の実施形態では、温度に応じて変化するプロジェクタおよびカメラの画像座標自体を補正して決定する例について説明する。
図10は、本実施形態における三次元計測装置と接続された情報処理装置2の構成を示す図である。情報処装置2は、画像入力部115、温度入力部135、温度補正パラメータ保存部150、校正パラメータ保存部160、画像座標決定部270、画像処理部180、三次元座標算出部190から構成されている。
また、情報処理装置2には、撮像部110、パターン投影部120、温度計測部130、制御部140が接続されている。
画像入力部115、温度入力部135、校正パラメータ保存部160、画像処理部180、三次元座標算出部190については、第一の実施形態において説明した内容と同一であるため、説明を割愛する。また、撮像部110、パターン投影部120、温度計測部130、制御部140についても、第一の実施形態において説明した内容と同一であるため、説明を割愛する。
温度補正パラメータ保存部150はカメラレンズの温度と、カメラ・プロジェクタそれぞれの画像座標の補正量の関係をパラメータ化したものを保存する。本実施形態においては画像座標の変化量を並進成分、倍率成分、回転成分の3つの成分に分解し、それぞれの成分ごとに温度補正パラメータを求める。この温度補正パラメータを算出する手順の詳細は後述する。
画像座標決定部270は、画像処理部180で算出された撮影画像中の空間コードの境界座標値であるカメラ画像座標値(uc,vc)と、空間コードの値であるプロジェクタ画像座標値(up,vp)を補正する。水平方向と垂直方向の空間コード化パターンを投影することでプロジェクタ画像座標値として(up,up)の両方を得ることができる。あるいは、水平方向または垂直方向のいずれか一方の空間コード化パターンのみの投影であっても、エピポーラ幾何を利用することで、もう一方の画像座標値を得ることができる。補正は、温度計測部130によって計測された撮像時におけるカメラのレンズの温度と、温度補正パラメータ保存部150が保持する温度補正パラメータに基づき実施される。詳細は後述する。
次に、三次元計測を行う前に実施する温度変化に伴う画像座標の変化量を温度補正パラメータ化する手順について述べる。温度補正パラメータを求める前に、図4に示した手順で校正パラメータのキャリブレーションが終了しているものとする。温度補正パラメータを求めるためには、温度を変化させながら図3の校正用物体の画像撮影をする必要がある。例えば第一の実施形態で用いた図6のS1220〜S1230と同様の方法で画像撮影を行うことができる。
温度変化に伴う画像座標の変化量をもとに補正量をパラメータ化する際、並進成分、倍率成分、回転成分の3つの成分に分解してパラメータ化する。図11を用いて模式的に説明する。図11(a)は基準温度と、ある特定の温度の間の画像座標値の変化量を場所ごとにベクトルで表現したものである。図11(a)〜(e)において共通することだが、ベクトルの長さが画像座標の変化量を、ベクトルの方向が画像座標の変化方向を表わしている。図の見やすさを重視し、実際の画像座標上での変化量よりも長く図示している。
図11(b)は図11(a)から並進成分を抽出した図である。並進成分はx方向並進成分と、y方向並進成分の2つの成分から構成される。並進成分は、校正パラメータである画像中心における変化量を求めることで抽出される。
図11(c)は図11(a)で示した画像座標値の変化量から図11(b)で示した並進成分の移動量を減算したものである。
図11(d)は、図11(c)から倍率成分を抽出した図である。倍率成分は画像中心からの距離に比例して変化量が大きくなるようにパラメータ化する。また、変化方向は放射方向となるようにする。放射方向とは、画像中心と各画像座標とを結ぶベクトルと平行な方向である。
図11(e)は、図11(c)から回転成分を抽出した図である。回転成分は画像中心からの距離に比例して変化量が大きくなるようにパラメータ化する。倍率成分とは違い、変化方向は接線方向である。接線方向とは、画像中心と各画像座標とを結ぶベクトルと垂直な方向である。
図12に温度補正パラメータを算出する手順をフローチャートにしたものを示す。図6のS1220における画像群の取得回数はN回であるとする。
(ステップS3010)
ステップS3010では、補正基準温度Trefcにおける撮影画像をもとに、校正用物体の平面マーカーのカメラ画像座標値を算出する。さらに空間コード化パターンが投影された画像群をもとに平面マーカーのプロジェクタ画像座標値を算出する。この補正基準温度Trefcにおける画像座標値を(ui(Trefc),vi(Trefc))とする。
(ステップS3020)
ステップS3020では、カウント数jを1に設定する。
(ステップS3030)
ステップS3030では、温度Tjにおける撮影画像群をもとに、校正用物体の平面マーカーのカメラ画像座標値とプロジェクタ画像座標値を算出する。温度Tjにおける画像座標値を(ui(Tj),vi(Tj))とする。
(ステップS3040)
ステップS3040では、基準温度Trefcにおける校正用物体の平面マーカーの画像座標値(ui(Trefc),vi(Trefc))と温度Tjにおける校正用物体の平面マーカーの画像座標値(ui(Tj),vi(Tj))の差を算出する。差は同一世界座標に位置する平面マーカー画像座標値の差を以下の(数12)で算出する。
Figure 2015111101
この差の値は基準温度Trefcと温度Tjとの間の画像座標値の変化量である。図11(a)で示した変化量に相当する。
(ステップS3050)
ステップS3050では、温度Tjにおけるマーカー画像座標の変化量の並進成分を算出する。前述したように画像座標の並進成分の変化量は画像中心(cx,cy)における変化量(Δucxcy(Tj)、Δvcxcy(Tj))に相当する。画像中心位置と同じ位置にマーカーが存在しない場合には、周囲のマーカーの変化量から線形補間などを用いて画像中心位置(cx,cy)の変化量を算出するとよい。u方向並進成分をΔut(Tj)、v方向並進成分をΔvt(Tj)とすると以下の(数13)で表現される。
Figure 2015111101
(ステップS3060)
ステップS3060では、温度Tjにおけるマーカー画像座標の変化量の倍率成分と回転成分を算出する。図11で述べたように画像座標の倍率成分と回転成分の変化量は、S3040で算出した画像座標の変化量から並進成分を引いた変化量(Δucti(Tj)、Δvcti(Tj))をもとに求める(数14)。
Figure 2015111101
画像中心(cx,cy)から画像座標(ui(Tj)、vi(Tj))までの距離ruvi(Tj)は以下の(数15)で算出される。
Figure 2015111101
画像座標の変化量から並進成分を引いた変化量(Δucti(Tj)、Δvcti(Tj))の長さは以下の(数16)で算出される。
Figure 2015111101
放射方向と並進成分を引いた変化量ベクトルとのなす角φiは以下の(数17)で算出される。
Figure 2015111101
画像座標位置(ui,vi)における倍率移動量rpowiは以下の(数18)で算出される。
Figure 2015111101
画像中心からの距離であるruvと倍率移動量rpowは比例関係にあることを想定しているので、全てのマーカーのruviとrpowiをもとに以下の(数19)の近似直線の傾きから温度Tjにおける回転成分ΔPow(Tj)を算出することができる。
Figure 2015111101
画像座標位置(ui,vi)における回転移動量rrotiは以下の式(数20)で算出される。
Figure 2015111101
画像中心からの距離であるruvと回転移動量rrotは比例関係にあることを想定しているので、全てのマーカーのruviとrrotiをもとに以下の(数21)の近似直線の傾きから温度Tjにおける回転成分ΔRot(Tj)を算出することができる。
Figure 2015111101
(ステップS3070)
ステップS3070では、全ての温度の計算が終了しているか否かの判定を行う。具体的にはカウント数jがN以上か否かで判定する。Noの場合、S3080に進む。Yesの場合、S3090に進む。
(ステップS3080)
ステップS3080では、カウント数jに1を加算する。加算が終わるとS3030に進む。
(ステップS3090)
ステップS3090では、並進成分Δut(T)、Δvt(T)を温度Tの関数としたときの補正パラメータを算出する。ステップ3050で求めた並進成分Δut(T)、Δvt(T)と温度Tの回帰直線の推定を行う。推定された回帰直線をΔut(T)=βtx’+αtx’・T、Δv(T)=βty’+αty’・Tと表わす。回帰直線の推定を行う際には、温度がTrefの場合に、Δut(T)、Δvt(T)が0になるようにする。
このようにして求めたβtx’、αtx’、βty’、αty’は温度に応じた画像座標値の変化量を求めるためのパラメータであるため、補正を行うためのパラメータとするには符号を反転させる必要がある。
すなわち、βtx=−βtx’、αtx=−αtx’、βty=−βty’、αty=−αty’と符号を反転させることで、補正パラメータとなる。
(ステップS3100)
ステップS3100では、倍率成分ΔPow(T)、回転成分ΔRot(T)を温度Tの関数としたときの補正パラメータを算出する。ステップ3060で求めた倍率成分ΔPow(T)、回転成分ΔRot(T)と温度Tの回帰直線の推定を行う。推定された回帰直線をΔPow(T)=βp’+αp’・T、ΔRot(T)=βr’+αr’・Tと表わす。回帰直線の推定を行う際には、温度がTrefの場合に、ΔPow(T)、ΔRot(T)が0になるようにする。
このようにして求めたβp’、αp’、βr’、αr’は温度に応じた画像座標値の変化量を求めるためのパラメータであるため、補正を行うためのパラメータとするには符号を反転させる必要がある。
すなわち、βp=−βp’、αp=−αp’、βr=−βr’、αr=−αr’と符号を反転させることで、補正パラメータとなる。
以上が温度補正パラメータを算出する手順についての説明である。
次に、温度に応じて画像座標を補正しながら三次元計測する方法について説明する。図13は本実施形態における三次元計測の処理手順を示すフローチャートである。
(ステップS3410)
ステップS3410では、パターン投影部120によって空間コード化パターン(グレイコードパターン)が投影された計測対象物の画像を撮像部110により撮影する。詳細については第一の実施形態におけるステップS1410で前述したので割愛する。また、画像の撮影と同時に温度計測部130によりカメラのレンズの温度の計測を行う。
(ステップS3420)
ステップS3420では、ステップS3410において撮影により得られた画像をもとに、撮像画像上の画像座標と投影パターン上の水平座標との対応の集合を求める。具体的な方法は第一の実施形態におけるステップS1140で前述した空間コードの境界の算出方法と同じであるので説明を省略する。
(ステップS3430)
ステップS3430では、ステップS3410で計測されたカメラのレンズの温度T
と温度補正パラメータ保存部150に格納された温度補正パラメータを元にカメラおよびプロジェクタの画像座標値を補正する。補正処理はカメラとプロジェクタで同一である。カメラまたはプロジェクタの画像座標値の入力値を(uin,vin)とすると補正後の画像座標値(uout,vout)は以下の(数22)で表現される。
Figure 2015111101
Δut(T)とΔvt(T)がそれぞれx方向、y方向の並進成分補正量である。また、Δup(T)とΔvp(T)がそれぞれx方向、y方向の倍率成分補正量である。また、Δur(T)とΔvr(T)がそれぞれx方向、y方向の回転成分補正量である。
並進成分の補正量は以下の(数23)に基づいて実施される。並進成分の補正量は、温度補正パラメータαtx、αty、βtx、βtyと温度Tのみに依存するので、画像全体で一定量である。
Figure 2015111101
倍率成分の補正は以下の(数24)に基づいて実施される。倍率成分の補正量は、温度Tと入力画像座標値(uin,vin)に依存する。具体的には画像中心からの距離と入力画像座標値(uin,vin)に応じて放射方向に画像座標を補正する。
Figure 2015111101
ここでruvは入力画像座標(uin,vin)と画像中心(cx、cy)の距離であり、cosφとsinφは以下の(数25)で計算される。
Figure 2015111101
回転成分の補正は以下の(数26)に基づいて実施される。回転成分の補正量は、温度Tと入力画像座標値(uin,vin)に依存する。具体的には画像中心からの距離と入力画像座標値(uin,vin)に応じて接線方向に画像座標を補正する。
Figure 2015111101
rとcosφ、sinφは(数25)で計算される。
(ステップS3440)
ステップS3440では、ステップS3420で得られた対応の夫々について計測対象物体の表面の三次元座標を算出する。三次元座標の算出は、ステップS3430で補正された画像座標値(uout,vout)と、校正パラメータ保存部160に保存された校正パラメータを用いて行われる。三次元座標の算出方法については前述したので省略する。
以上述べたように、本実施形態では、予めカメラのレンズの温度と画像座標の変化量との関係を求めておき、三次元計測を行う際に温度センサによって計測されるカメラのレンズの温度をもとに画像座標値の補正を行う方法について説明した。これにより、外気温や機器の内部の温度変化によって撮影される点の撮影画像上の位置にずれが生じても、高精度に三次元計測を行うことができる。
本実施形態ではカメラとプロジェクタの画像座標の両方を補正する例を説明したが、片方のみの補正を行っても良いあ。また、補正の成分としてu方向並進成分、v方向並進成分、倍率成分、回転成分の4つの成分全てを補正する例を説明したが、少なくとも1つの成分の補正であってもよい。
本実施形態では画像座標値を補正する例を紹介したが、画像そのものを補正する方法もある。カメラの補正の場合には、カメラで撮影した画像を補正パラメータに基づき変形させる。プロジェクタの場合には、投影する画像を補正パラメータに基づき変形させる。
(効果)
以上述べたように、予めカメラやプロジェクタのレンズの温度と補正対象情報との関係をキャリブレーションしておき、補正対象情報を補正することにより、温度変化があっても高精度に三次元計測を行うことができる。
すなわち、外気温や機器の内部の温度変化によって撮影される点の撮影画像上の位置にずれが生じても、高精度に三次元計測を行うことができる。
また、外気温や機器の内部の温度変化によってプロジェクタが投影する点の位置にずれが生じても、高精度に三次元計測を行うことができる。
1 情報処理装置
110 撮像部
115 画像入力部
120 パターン投影部
130 温度計測部
135 温度入力部
140 制御部
150 温度補正パラメータ保存部
160 校正パラメータ保存部
170 校正パラメータ決定部
180 画像処理部
190 三次元座標算出部
270 画像座標決定部

Claims (26)

  1. 三次元計測を行うために計測対象物に対してパターンを投影する投影装置の温度依存パラメータを決定する情報処理装置であって、
    前記投影装置の温度依存パラメータを温度の関数とした関係を保持する保持手段と、
    前記投影装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力された投影装置の温度と、前記関係とに基づき、前記投影装置の温度依存パラメータを決定する温度依存パラメータ決定手段と、を有することを特徴とする情報処理装置。
  2. 前記温度依存パラメータは、前記投影装置の焦点距離、画像中心位置、光軸周りの回転を表わすパラメータのうち少なくともいずれか1つであることを特徴とする請求項1に記載の情報処理装置。
  3. 前記温度依存パラメータは、前記投影装置の画像面における座標の変化量であることを特徴とする請求項1に記載の情報処理装置。
  4. 校正用物体を複数の異なる温度ごとに撮像することにより得られた複数のキャリブレーション用の撮像画像からそれぞれの撮像画像における画像座標の変動を示す複数の変動パラメータを算出し、当該複数の変動パラメータと前記複数のキャリブレーション用の撮像画像それぞれの撮像時の温度との組から、前記関係を算出することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記変動パラメータは画像座標の伸縮を表すパラメータであり、前記温度依存パラメータは、前記投影装置の焦点距離であることを特徴とする請求項4に記載の情報処理装置。
  6. 前記変動パラメータは画像座標の平行移動を表すパラメータであり、前記温度依存パラメータは、前記投影装置の画像中心位置であることを特徴とする請求項4に記載の情報処理装置。
  7. 前記変動パラメータは画像座標の回転を表すパラメータであり、前記温度依存パラメータは、前記投影装置の光軸周りの回転を表す情報であることを特徴とする請求項4に記載の情報処理装置。
  8. 前記投影装置が投影するパターンは縞状のパターンであり、前記温度依存パラメータは、前記パターンを投影装置が投影する画像面における縞状のパターンの縞の方向に直交する方向に近い方向の焦点距離または画像中心の位置であることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記投影装置により前記パターンが投影された前記計測対象物を撮像装置で撮像することにより得られた撮像画像を入力する画像入力手段と、
    前記画像入力手段によって入力された前記撮像画像からパターンを検出するパターン検出手段と、
    前記検出手段によって検出されたパターンと、前記温度依存パラメータ決定手段によって取得された前記補正対象情報とに基づき、前記計測対象物の表面の三次元座標を算出する座標算出手段と、を更に有することを特徴とする請求項1乃至8のいずれか1項に記載の情報処理装置。
  10. 三次元計測を行うために計測対象物を撮像する撮像装置の温度依存パラメータを決定する情報処理装置であって、
    前記撮像装置の温度依存パラメータを温度の関数とした関係を保持する保持手段と、
    前記撮像装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力されたパターン投影装置の温度と、前記関係とに基づき、前記撮像装置の温度依存パラメータを決定する温度依存パラメータ決定手段と、を有することを特徴とする情報処理装置。
  11. 前記温度依存パラメータは、前記撮像装置の焦点距離、画像中心位置、光軸周りの回転を表わすパラメータのうち少なくともいずれか1つであることを特徴とする請求項1に記載の情報処理装置。
  12. 前記温度依存パラメータは、前記撮像装置の画像面における座標の変化量であることを特徴とする請求項1に記載の情報処理装置。
  13. 校正用物体を複数の異なる温度ごとに撮像することにより得られた複数のキャリブレーション用の撮像画像からそれぞれの撮像画像における画像座標の変動を示す複数の変動パラメータを算出し、当該複数の変動パラメータと前記複数のキャリブレーション用の撮像画像それぞれの撮像時の温度との組から、前記対応関係を算出することを特徴とする請求項10乃至12のいずれか1項に記載の情報処理装置。
  14. 前記変動パラメータは前記画像座標の伸縮を表すパラメータであり、前記温度依存パラメータは、前記撮像装置の焦点距離であることを特徴とする請求項13に記載の情報処理装置。
  15. 前記変動パラメータは前記画像座標の平行移動を表すパラメータであり、前記温度依存パラメータは、前記撮像装置の画像中心位置であることを特徴とする請求項13に記載の情報処理装置。
  16. 前記変動パラメータは画像座標の回転を表すパラメータであり、前記温度依存パラメータは、前記撮像装置の光軸周りの回転を表す情報であることを特徴とする請求項13に記載の情報処理装置。
  17. 更に縞状のパターンを投影する投影装置を備え、
    前記温度依存パラメータは、前記パターンを前記撮像装置で撮像した撮像画像上における縞状のパターンの縞の方向に直交する方向に近い方向の焦点距離または画像中心の位置であることを特徴とする請求項10乃至16のいずれか1項に記載の情報処理装置。
  18. 前記投影装置によりパターンが投影された前記計測対象物を前記撮像装置で撮像することにより得られた撮像画像を入力する画像入力手段と、
    前記画像入力手段によって入力された前記撮像画像からパターンを検出するパターン検出手段と、
    前記検出手段によって検出されたパターンと、前記温度依存パラメータ決定手段によって決定された温度依存パラメータとに基づき、前記計測対象物の表面の三次元座標を算出する座標算出手段と、を更に有することを特徴とする請求項17に記載の情報処理装置。
  19. 前記温度入力手段は、第一の場所の温度と当該第一の場所と異なる第二の場所の温度とから、前記第一の場所の温度と前記第二の場所の温度の関係を求めて保持しておき、前記第二の場所の温度に基づき前記第一の場所の温度を求め、当該求められた前記第一の場所の温度を前記補正用の温度として入力することを特徴とする請求項1乃至18のいずれか1項に記載の情報処理装置。
  20. 三次元計測を行うために計測対象物に対してパターンを投影する投影装置と前記パターンが投影された計測対象物を撮像する撮像装置の温度依存パラメータを決定する情報処理装置であって、
    前記投影装置の温度依存パラメータを温度の関数とした第1の関係と前記投影装置の温度依存パラメータを温度の関数とした第2の関係とを保持する保持手段と、
    前記投影装置の温度と前記撮像装置の温度とを入力する温度入力手段と、
    前記温度入力手段によって入力された投影装置の温度と、前記第1の関係とに基づき、前記投影装置の温度依存パラメータを決定し、前記温度入力手段によって入力された撮像装置の温度と、前記第2の関係とに基づき、前記撮像装置の温度依存パラメータを決定する温度依存パラメータ決定手段と、を有することを特徴とする情報処理装置。
  21. 三次元計測を行うために計測対象物に対してパターンを投影する投影装置の温度依存パラメータを決定する情報処理方法であって、
    前記投影装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力された投影装置の温度と、保持手段が保持する前記投影装置の温度依存パラメータを温度の関数とした関係を保持する関係とに基づき、前記投影装置の温度依存パラメータを取得する温度依存パラメータ決定工程と、を有することを特徴とする情報処理方法。
  22. コンピュータを、
    三次元計測を行うために計測対象物に対してパターンを投影する投影装置の温度依存パラメータを決定する情報処理装置であって、
    前記投影装置の温度依存パラメータを温度の関数とした関係を保持する保持手段と、
    前記投影装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力された投影装置の温度と、前記関係とに基づき、前記投影装置の温度依存パラメータを取得する温度依存パラメータ決定手段と、を有する情報処理装置の各手段として機能させるためのコンピュータプログラム。
  23. 三次元計測を行うために計測対象物に対してパターンを投影する撮像装置の温度依存パラメータを決定する情報処理方法であって、
    前記撮像装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力された撮像装置の温度と、保持手段が保持する前記撮像装置の温度依存パラメータを温度の関数とした関係を保持する関係とに基づき、前記撮像装置の温度依存パラメータを取得する温度依存パラメータ決定工程とを有することを特徴とする情報処理方法。
  24. コンピュータを、
    三次元計測を行うために計測対象物を撮像する撮像装置の温度依存パラメータを決定する情報処理装置であって、
    前記撮像装置の温度依存パラメータを温度の関数とした関係を保持する保持手段と、
    前記撮像装置の温度を入力する温度入力手段と、
    前記温度入力手段によって入力されたパターン投影装置の温度と、前記関係とに基づき、前記撮像装置の温度依存パラメータを取得する温度依存パラメータ決定手段と、を有する情報処理装置の各手段として機能させるためのコンピュータプログラム。
  25. 三次元計測を行うために計測対象物に対してパターンを投影する投影装置と前記パターンが投影された計測対象物を撮像する撮像装置の温度依存パラメータを決定する情報処理方法であって、
    前記投影装置の温度と前記撮像装置の温度とを入力する温度入力工程と、
    前記温度入力手段によって入力された投影装置の温度と、保持手段が保持する前記投影装置の温度依存パラメータを温度の関数とした第1の関係とに基づき、前記投影装置の温度依存パラメータを決定し、前記温度入力手段によって入力された撮像装置の温度と、前記保持手段が保持する前記投影装置の温度依存パラメータを温度の関数とした第2の関係とに基づき、前記撮像装置の温度依存パラメータを決定する温度依存パラメータ決定工程と、を有することを特徴とする情報処理方法。
  26. コンピュータを、
    三次元計測を行うために計測対象物に対してパターンを投影する投影装置と前記パターンが投影された計測対象物を撮像する撮像装置の温度依存パラメータを決定する情報処理装置であって、
    前記投影装置の温度依存パラメータを温度の関数とした第1の関係と前記投影装置の温度依存パラメータを温度の関数とした第2の関係とを保持する保持手段と、
    前記投影装置の温度と前記撮像装置の温度とを入力する温度入力手段と、
    前記温度入力手段によって入力された投影装置の温度と、前記第1の関係とに基づき、前記投影装置の温度依存パラメータを決定し、前記温度入力手段によって入力された撮像装置の温度と、前記第2の関係とに基づき、前記撮像装置の温度依存パラメータを決定する温度依存パラメータ決定手段と、を有する情報処理装置の各手段として機能させるためのコンピュータプログラム。
JP2014178560A 2013-11-05 2014-09-02 情報処理装置および方法 Active JP6537237B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014178560A JP6537237B2 (ja) 2013-11-05 2014-09-02 情報処理装置および方法
US14/531,829 US10070117B2 (en) 2013-11-05 2014-11-03 Three-dimensional measuring apparatus
US16/050,979 US10979694B2 (en) 2013-11-05 2018-07-31 Information processing apparatus, method, and storage medium

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013229804 2013-11-05
JP2013229804 2013-11-05
JP2014178560A JP6537237B2 (ja) 2013-11-05 2014-09-02 情報処理装置および方法

Publications (2)

Publication Number Publication Date
JP2015111101A true JP2015111101A (ja) 2015-06-18
JP6537237B2 JP6537237B2 (ja) 2019-07-03

Family

ID=53006744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014178560A Active JP6537237B2 (ja) 2013-11-05 2014-09-02 情報処理装置および方法

Country Status (2)

Country Link
US (2) US10070117B2 (ja)
JP (1) JP6537237B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104447A1 (ja) * 2015-12-18 2017-06-22 ソニー株式会社 画像処理装置および方法、データ、並びに記録媒体
JP2017192040A (ja) * 2016-04-13 2017-10-19 パナソニックIpマネジメント株式会社 3次元的な投影対象のための投影方法及び装置
JP2017203673A (ja) * 2016-05-11 2017-11-16 キヤノン株式会社 計測装置、ロボット装置、ロボットシステム、制御方法及び物品の製造方法
JP2018101968A (ja) * 2016-12-22 2018-06-28 カシオ計算機株式会社 投影制御装置、投影制御方法及びプログラム
WO2020022056A1 (ja) * 2018-07-24 2020-01-30 ソニー株式会社 情報処理装置および情報処理方法、並びにプログラム
JP2020134252A (ja) * 2019-02-15 2020-08-31 株式会社キーエンス 画像処理装置
WO2021044960A1 (ja) * 2019-09-05 2021-03-11 オムロン株式会社 三次元計測装置用光学アセンブリおよびこれを備えた三次元計測装置
JP2022187973A (ja) * 2021-06-08 2022-12-20 奇景光電股▲分▼有限公司 熱補償を備えた構造化光走査システム
US11754389B2 (en) 2020-01-29 2023-09-12 Seiko Epson Corporation Estimation method, measurement method, and estimation apparatus

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6253368B2 (ja) * 2013-11-25 2017-12-27 キヤノン株式会社 三次元形状計測装置およびその制御方法
KR101947935B1 (ko) * 2014-12-22 2019-02-13 사이버옵틱스 코포레이션 3차원 측정 시스템의 갱신 보정 방법
JP6377295B2 (ja) * 2016-03-22 2018-08-22 三菱電機株式会社 距離計測装置及び距離計測方法
JP6764533B2 (ja) * 2017-06-20 2020-09-30 株式会社ソニー・インタラクティブエンタテインメント キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
CN108917639A (zh) * 2018-05-15 2018-11-30 深圳奥比中光科技有限公司 深度成像系统及其温度误差校正方法
US10951809B2 (en) * 2018-10-09 2021-03-16 The Boeing Company Adaptive camera control and calibration for dynamic focus
JP2022521093A (ja) * 2019-02-22 2022-04-05 プロフェシー 動体視覚センサおよびパターン投影を用いる3次元撮像および感知
US11856180B1 (en) * 2022-06-30 2023-12-26 Apple Inc. Systems and methods for performing temperature-dependent reference image correction for light projectors
US11792374B1 (en) 2022-11-15 2023-10-17 Himax Technologies Limited System and method for handling a thermal compensation
EP4379312A1 (en) * 2022-12-02 2024-06-05 Himax Technologies Limited System and method for handling a thermal compensation

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11241910A (ja) * 1998-02-25 1999-09-07 Minolta Co Ltd 温度補正機能付き座標測定装置
JP2007017394A (ja) * 2005-07-11 2007-01-25 Fujinon Corp 光測定装置および方法
JP2007298571A (ja) * 2006-04-27 2007-11-15 Canon Inc 画像投射装置
WO2012026180A1 (ja) * 2010-08-25 2012-03-01 三洋電機株式会社 情報取得装置および物体検出装置
JP2012147281A (ja) * 2011-01-13 2012-08-02 Ricoh Co Ltd 画像処理装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135765A (ja) 1998-07-31 2002-05-10 Matsushita Electric Ind Co Ltd カメラキャリブレーション指示装置及びカメラキャリブレーション装置
WO2012009359A2 (en) * 2010-07-12 2012-01-19 The Johns Hopkins University Three-dimensional thermal imaging for the detection of skin lesions and other natural and abnormal conditions
JP2013076983A (ja) * 2011-09-14 2013-04-25 Ricoh Co Ltd 画像形成装置及び画像形成方法
US9413988B2 (en) * 2012-07-24 2016-08-09 Fluke Corporation Thermal imaging camera with graphical temperature plot
US9307912B2 (en) * 2012-08-08 2016-04-12 Welch Allyn, Inc. Temperature measurement system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11241910A (ja) * 1998-02-25 1999-09-07 Minolta Co Ltd 温度補正機能付き座標測定装置
JP2007017394A (ja) * 2005-07-11 2007-01-25 Fujinon Corp 光測定装置および方法
JP2007298571A (ja) * 2006-04-27 2007-11-15 Canon Inc 画像投射装置
WO2012026180A1 (ja) * 2010-08-25 2012-03-01 三洋電機株式会社 情報取得装置および物体検出装置
US20120327310A1 (en) * 2010-08-25 2012-12-27 Sanyo Electric Co., Ltd. Object detecting device and information acquiring device
JP2012147281A (ja) * 2011-01-13 2012-08-02 Ricoh Co Ltd 画像処理装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10852127B2 (en) 2015-12-18 2020-12-01 Sony Corporation Image processing apparatus and method, data, and recording medium
CN108369091A (zh) * 2015-12-18 2018-08-03 索尼公司 图像处理装置和方法、数据及纪录介质
JPWO2017104447A1 (ja) * 2015-12-18 2018-10-04 ソニー株式会社 画像処理装置および方法、データ、並びに記録媒体
WO2017104447A1 (ja) * 2015-12-18 2017-06-22 ソニー株式会社 画像処理装置および方法、データ、並びに記録媒体
JP2017192040A (ja) * 2016-04-13 2017-10-19 パナソニックIpマネジメント株式会社 3次元的な投影対象のための投影方法及び装置
JP2017203673A (ja) * 2016-05-11 2017-11-16 キヤノン株式会社 計測装置、ロボット装置、ロボットシステム、制御方法及び物品の製造方法
JP2018101968A (ja) * 2016-12-22 2018-06-28 カシオ計算機株式会社 投影制御装置、投影制御方法及びプログラム
WO2020022056A1 (ja) * 2018-07-24 2020-01-30 ソニー株式会社 情報処理装置および情報処理方法、並びにプログラム
JP2020134252A (ja) * 2019-02-15 2020-08-31 株式会社キーエンス 画像処理装置
JP7164461B2 (ja) 2019-02-15 2022-11-01 株式会社キーエンス 画像処理装置
WO2021044960A1 (ja) * 2019-09-05 2021-03-11 オムロン株式会社 三次元計測装置用光学アセンブリおよびこれを備えた三次元計測装置
JP2021039075A (ja) * 2019-09-05 2021-03-11 オムロン株式会社 三次元計測装置用光学アセンブリおよびこれを備えた三次元計測装置
JP7434761B2 (ja) 2019-09-05 2024-02-21 オムロン株式会社 三次元計測装置用光学アセンブリおよびこれを備えた三次元計測装置
US11754389B2 (en) 2020-01-29 2023-09-12 Seiko Epson Corporation Estimation method, measurement method, and estimation apparatus
JP2022187973A (ja) * 2021-06-08 2022-12-20 奇景光電股▲分▼有限公司 熱補償を備えた構造化光走査システム

Also Published As

Publication number Publication date
US10979694B2 (en) 2021-04-13
JP6537237B2 (ja) 2019-07-03
US20150124055A1 (en) 2015-05-07
US20180338135A1 (en) 2018-11-22
US10070117B2 (en) 2018-09-04

Similar Documents

Publication Publication Date Title
JP6537237B2 (ja) 情報処理装置および方法
TWI607412B (zh) 多維度尺寸量測系統及其方法
JP6394005B2 (ja) 投影画像補正装置、投影する原画像を補正する方法およびプログラム
JP6465789B2 (ja) デプスカメラの内部パラメータを算出するプログラム、装置及び方法
JP6282098B2 (ja) キャリブレーション装置及び方法
US10157474B2 (en) 3D recording device, method for producing a 3D image, and method for setting up a 3D recording device
JP5999615B2 (ja) カメラ較正情報生成装置、カメラ較正情報生成方法およびカメラ較正情報生成プログラム
TWI672937B (zh) 三維影像處理之裝置及方法
Ahmadabadian et al. An automatic 3D reconstruction system for texture-less objects
US11237057B2 (en) Temperature processing apparatus and temperature processing method
KR102079258B1 (ko) 단일 장착면의 장착 오차를 산출하여 보정하는 장치 및 그 방법
JP6180158B2 (ja) 位置姿勢計測装置、位置姿勢計測装置の制御方法、およびプログラム
JP5487946B2 (ja) カメラ画像の補正方法およびカメラ装置および座標変換パラメータ決定装置
JP6486083B2 (ja) 情報処理装置、情報処理方法及びプログラム
Chen et al. Field-of-view-enlarged single-camera 3-D shape reconstruction
JP2017037053A (ja) 多数カメラによる高速度計測方法および装置
Sebar et al. A trustable 3D photogrammetry approach for cultural heritage
Huiyang et al. Calibration of camera with small FOV and DOF telecentric lens
US10967517B2 (en) Information processing apparatus, method, and storage medium for presenting information for calibration
JP2003006618A (ja) 3次元モデルの生成方法および装置並びにコンピュータプログラム
Wang et al. Easy and flexible calibration approach for deflectometry-based vr eye-tracking systems
JP7251631B2 (ja) テンプレート作成装置、物体認識処理装置、テンプレート作成方法、物体認識処理方法及びプログラム
KR20200032664A (ko) 사각형 그리드 투영을 이용한 3차원 영상 재구성 장치
KR101770866B1 (ko) 뎁스 센서와 촬영 카메라 간의 관계에 기초한 뎁스 영상 보정 장치 및 방법
JP7327484B2 (ja) テンプレート作成装置、物体認識処理装置、テンプレート作成方法、物体認識処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190604

R151 Written notification of patent or utility model registration

Ref document number: 6537237

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151