WO2010013289A1 - カメラ校正画像作成装置およびカメラ校正画像作成プログラム - Google Patents
カメラ校正画像作成装置およびカメラ校正画像作成プログラム Download PDFInfo
- Publication number
- WO2010013289A1 WO2010013289A1 PCT/JP2008/002062 JP2008002062W WO2010013289A1 WO 2010013289 A1 WO2010013289 A1 WO 2010013289A1 JP 2008002062 W JP2008002062 W JP 2008002062W WO 2010013289 A1 WO2010013289 A1 WO 2010013289A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- dimensional
- image
- camera
- geometric pattern
- data
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
Abstract
複数の位置を表す幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データを格納する3次元データ格納手段、3次元データから、指定された姿勢の仮想基準ボード上の各位置の3次元座標を算出する3次元座標生成手段、予め測定されたカメラと所定のディスプレイの相対距離に基づいて、上記3次元座標をディスプレイの表示画面上に射影変換して2次元座標を算出する射影変換手段、2次元座標に基づいてディスプレイで表示する基準ボード画像を生成する画像生成手段を備える。
Description
この発明は、カメラ校正時に使用するチェッカーボードとして代替できる画像をディスプレイに表示するカメラ校正画像作成装置およびカメラ校正画像作成プログラムに関するものである。
カメラで撮像された画像は、レンズの影響を受けて歪みを含んだ画像となる。このような画像を、例えば3次元位置計測にそのまま使用すると計算結果に大きな誤差が生じる。そのため、3次元位置計測において、正確な3次元位置を特定するためには上記の歪みを取り除いた画像を作成することが必要となる。この歪みを取り除いた画像を作成するに際しては、レンズの特性を表す各パラメータを求め、歪みのある画像の各画素をどの位置に移動させるかを表わすパラメータを計算する必要がある。このパラメータは、具体的には内部パラメータおよびレンズの歪み補正係数と呼ばれるものからなる。
上記内部パラメータは、カメラ画像を正規化するために使用するパラメータであり、焦点距離f、画像内におけるレンズ中心(u0 ,v0 )や、せん断係数ks 、スケールファクタ(ku ,kv )等のレンズ特性について表現したもので、次式で表される。
一方、歪み補正係数は、光学的性質による樽型歪みと円周方向の歪みについて数式にモデル化したときの係数である。ここで(xd ,yd )を得られた歪みがあるカメラ画像中の座標とし、(xu ,yu )を、歪みを除去した画像における対応点とすると、(2)式で表すことができる。
また、Ki は樽型歪みの性質を表すパラメータであり、Pi は円周方向の歪みの性質を表すパラメータであり、これらを歪み補正係数と呼ぶ。
そして、(2)式において高次の項について影響は少ないとして無視すると、(3)式のように近似できる。
そして、(2)式において高次の項について影響は少ないとして無視すると、(3)式のように近似できる。
これらのパラメータを実際に求める手法としては、一般的に非特許文献1に記載される手法が用いられている。この手法では、例えば図1に示すような、白と黒の正方形が交互に描かれたチェッカーボードが用いられる。パラメータを求めるためのカメラを所定の位置に設置し、このカメラに対してチェッカーボードを据え、いろいろな方向を向くように姿勢を変えてチェッカー面をカメラで撮像する。次に、得られた各カメラ画像上のチェッカー面を構成している白と黒の正方形の頂点が重なる交点の位置座標を検出する。そして、カメラ画像上の各位置座標と3次元的な位置情報の対応関係を求める。これらのデータを用いて最適化計算をすることにより、カメラの内部パラメータ、歪み補正係数が求まる。このように各パラメータを求めることをカメラキャリブレーションと呼んでいる。
Zhenyou Zhang, "A Flexible New Technique for Camera Calibration", Microsoft Research Technical Report,MSR-TR-98-71,December 2, 1998.
上述したように、非特許文献1に記載されたカメラ校正手法の場合、1台のカメラに対してチェッカーボードの姿勢を複数方向に変えて撮像するという作業が要求される。また、同タイプの複数のカメラでも歪みが異なる場合があるため、カメラごとに校正を行なう必要があり、カメラ校正に掛かる作業負荷はさらに大となる。また、カメラ校正結果に対する安定性について、各撮像画像に写っているチェッカーボードが均等な姿勢をとっていなければ適切な校正結果を得ることができないといった問題がある。さらに、複数のカメラに対してそれぞれカメラ校正を行う場合には、全く同じ位置にあるチェッカーボードを撮像することが困難であるので、安定した精度を保つことができないといった問題がある。
この発明は、上記のような課題を解決するためになされたもので、カメラ校正時の作業負荷を軽減し、均質で安定したカメラ校正を可能にするチェッカーボードのような基準ボード画像を提供するカメラ校正画像作成装置を得ることを目的とする。
この発明に係るカメラ校正画像作成装置は、平面上の予め定義された複数の位置を表す幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データを格納する3次元データ格納手段と、3次元データ格納手段の3次元データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出する3次元座標生成手段と、予め測定された校正対象のカメラと所定のディスプレイの相対距離に基づいて、3次元座標生成手段で算出された3次元座標を前記ディスプレイの表示画面上に射影変換して各位置の2次元座標を算出する射影変換手段と、射影変換手段で算出された2次元座標情報に基づいて前記ディスプレイで表示する基準ボード画像を生成する画像生成手段を備えたものである。
このことによって、カメラで表示画面を撮像したときのカメラ画像が実際のチェッカーボードのような基準ボードを撮像したときと同様の画像となるように、各姿勢の基準ボード画像を生成できるようにしたので、ディスプレイに表示した基準ボード画像をカメラ校正手法に適用できる。また、実際の基準ボードの場合、ボードの姿勢をいろいろ変えて撮像しなければならないが、その姿勢を変える作業を自動化できるため、作業負荷を軽減することができる。さらに、表示される基準ボード画像は、複数の同タイプのカメラに対して、映っている基準ボードの各姿勢を常時均等に決めることができるので、均質で安定したカメラ校正を行うことを可能にする。
以下、この発明をより詳細に説明するために、この発明を実施するための最良の形態について、添付の図面に従って説明する。
実施の形態1.
カメラ校正には図1に示すようなチェッカーパターンが施されたチェッカーボードが多く使用されている。したがって、この発明の実施の形態の説明においても、同様なチェッカーボードを使用した例について説明することとする。このチェッカーボード上に施されたパターンは、平面上の予め定義された複数の位置を表すための幾何学パターンである。このような目的の幾何学パターンとしては、他に格子縞や位置そのものを表すドット(点)などがある。したがって、この発明としては、チェッカーボードのみに限らず、平面上の予め定義された複数の位置を表す幾何学パターンを施した基準ボードあるいは基準面でも適用可能である。
実施の形態1.
カメラ校正には図1に示すようなチェッカーパターンが施されたチェッカーボードが多く使用されている。したがって、この発明の実施の形態の説明においても、同様なチェッカーボードを使用した例について説明することとする。このチェッカーボード上に施されたパターンは、平面上の予め定義された複数の位置を表すための幾何学パターンである。このような目的の幾何学パターンとしては、他に格子縞や位置そのものを表すドット(点)などがある。したがって、この発明としては、チェッカーボードのみに限らず、平面上の予め定義された複数の位置を表す幾何学パターンを施した基準ボードあるいは基準面でも適用可能である。
図2は、この発明の実施の形態1によるカメラ校正画像作成装置を含む機能構成を示すブロック回路図である。
ディスプレイ2は、例えばCRT、液晶、プラズマなどのフラットな表示画面や投射型スクリーンを持つもので、後述するカメラ校正画像作成装置200で生成される各種姿勢のチェッカーボード画像を表示する手段である。カメラ1は、カメラ校正の対象となるカメラで、ディスプレイ2の表示画面に表示されるチェッカーボード画像を撮像してその画像信号を出力する手段である。3次元データ格納部3は、1つのチェッカー面からなる実際のチェッカーボードを模した3次元モデル(以下、仮想チェッカーボードとする)の複数の姿勢における画像データを予め作成して格納しておく手段である。
ディスプレイ2は、例えばCRT、液晶、プラズマなどのフラットな表示画面や投射型スクリーンを持つもので、後述するカメラ校正画像作成装置200で生成される各種姿勢のチェッカーボード画像を表示する手段である。カメラ1は、カメラ校正の対象となるカメラで、ディスプレイ2の表示画面に表示されるチェッカーボード画像を撮像してその画像信号を出力する手段である。3次元データ格納部3は、1つのチェッカー面からなる実際のチェッカーボードを模した3次元モデル(以下、仮想チェッカーボードとする)の複数の姿勢における画像データを予め作成して格納しておく手段である。
校正処理装置100は、画像取得部101、特徴点抽出部102、カメラキャリブレーション部103を備えており、周知の構成である。
画像取得部101は、カメラ1により撮像されたカメラ画像を取得して保持する手段である。特徴点抽出部102は、画像取得部101で保持されたチェッカーボードのカメラ画像からチェッカーパターンの各交点座標を特徴点として検出する手段である。カメラキャリブレーション部103は、特徴点抽出部102で抽出されたチェッカーパターンの各交点座標に基づいて内部パラメータ、歪み補正係数を算出する手段である。
画像取得部101は、カメラ1により撮像されたカメラ画像を取得して保持する手段である。特徴点抽出部102は、画像取得部101で保持されたチェッカーボードのカメラ画像からチェッカーパターンの各交点座標を特徴点として検出する手段である。カメラキャリブレーション部103は、特徴点抽出部102で抽出されたチェッカーパターンの各交点座標に基づいて内部パラメータ、歪み補正係数を算出する手段である。
カメラ校正画像作成装置200は、3次元座標生成部104、射影変換部105、画像生成部106を備えており、この実施の形態1の発明の構成を表わしている。なお、上記3次元データ格納部3もカメラ校正画像作成装置200に含める構成としてもよい。
3次元座標生成部201は、3次元データ格納部3から、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各交点の3次元座標を算出する手段である。射影変換部202は、予め測定されたカメラ1とディスプレイ2の相対距離に基づいて、3次元座標生成部201で算出された交点の3次元座標をディスプレイ2の表示画面上に射影変換して2次元座標を算出する手段である。画像生成部203は、射影変換部202で算出された2次元座標情報に基づいてディスプレイ2で表示するチェッカーボード画像を生成する手段である。
なお、上記図2において破線で囲まれた部分10は、コンピュータと処理プログラムで構成することが可能な機能部分を示している。
3次元座標生成部201は、3次元データ格納部3から、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各交点の3次元座標を算出する手段である。射影変換部202は、予め測定されたカメラ1とディスプレイ2の相対距離に基づいて、3次元座標生成部201で算出された交点の3次元座標をディスプレイ2の表示画面上に射影変換して2次元座標を算出する手段である。画像生成部203は、射影変換部202で算出された2次元座標情報に基づいてディスプレイ2で表示するチェッカーボード画像を生成する手段である。
なお、上記図2において破線で囲まれた部分10は、コンピュータと処理プログラムで構成することが可能な機能部分を示している。
次に、図3のフローチャートに従って動作を説明する。
図4に示すように、カメラ1を、治具を用いてディスプレイ2の表示画面に対してレンズの中心軸が垂直となるようにして固定し、このときのディスプレイ2とレンズ中心との距離Cを計測する(ステップST201)。なお、カメラ1の固定位置とディスプレイ2の設置位置の距離を予め計測して決めておき、既知の情報として用いてもよい。次に、3次元座標生成部201では、3次元データ格納部3から、カメラ1の撮像対象となる指定された姿勢の仮想チェッカーボードの3次元画像データを読み出し、その画像上のチェッカーパターンの各交点の3次元座標を算出する(ステップST202)。
図4に示すように、カメラ1を、治具を用いてディスプレイ2の表示画面に対してレンズの中心軸が垂直となるようにして固定し、このときのディスプレイ2とレンズ中心との距離Cを計測する(ステップST201)。なお、カメラ1の固定位置とディスプレイ2の設置位置の距離を予め計測して決めておき、既知の情報として用いてもよい。次に、3次元座標生成部201では、3次元データ格納部3から、カメラ1の撮像対象となる指定された姿勢の仮想チェッカーボードの3次元画像データを読み出し、その画像上のチェッカーパターンの各交点の3次元座標を算出する(ステップST202)。
射影変換部202では、3次元座標生成部201で算出された仮想チェッカーボードの交点座標をディスプレイ2の表示画面上へ射影変換して2次元座標を求める(ステップST203)。このとき、ステップST201で求めたディスプレイ2の表示画面とカメラレンズ中心との距離Cを用いて変換を行う。ここで、3次元座標を2次元座標に変換する射影変換について具体的に説明する。図5に示すように、カメラ1から見て、生成された3次元の仮想チェッカーボードV1をディスプレイ2の表示画面へ射影すると、V2のようなチェッカーボード画像となる。この場合、仮想チェッカーボードV1上の3次元座標A(X,Y,Z)が、表示画面上の2次元座標A’(x,y)に対応したとすると、この2次元座標は、射影変換により(4)式のように表される。
画像生成部203では、射影変換部202で求めた仮想チェッカーボードの各交点の2次元座標データに基づいてチェッカーボード画像データを生成してディスプレイ2に与え、チェッカーボード画像を表示させる(ステップST204)。
次に、ディスプレイ2の表示画面に表示されたチェッカーボード画像を所定の距離Cに固定されたカメラ1で撮像し、そのカメラ画像を画像取得部101で取得して保持する(ステップST205)。このときの取得されたカメラ画像は、図6(a)に例示するように、レンズによる歪みを含んだチェッカーパターンの画像である。次に、特徴点抽出部102では、画像取得部101に保持されたカメラ画像上の特徴点であるチェッカーパターンの交点座標を抽出する(ステップST206)。ここでは、図6(b)に例示するチェッカーパターンの交点位置を抽出する。この特徴点抽出方法は、一般的に知られているパターンマッチングが用いられる。
次に、ディスプレイ2の表示画面に表示されたチェッカーボード画像を所定の距離Cに固定されたカメラ1で撮像し、そのカメラ画像を画像取得部101で取得して保持する(ステップST205)。このときの取得されたカメラ画像は、図6(a)に例示するように、レンズによる歪みを含んだチェッカーパターンの画像である。次に、特徴点抽出部102では、画像取得部101に保持されたカメラ画像上の特徴点であるチェッカーパターンの交点座標を抽出する(ステップST206)。ここでは、図6(b)に例示するチェッカーパターンの交点位置を抽出する。この特徴点抽出方法は、一般的に知られているパターンマッチングが用いられる。
ステップST202からST206までの処理を、カメラ校正に必要とする複数の姿勢の仮想チェッカーボードについて全て行った場合(ステップST207)、カメラキャリブレーション部103では、これまで特徴点抽出部102で抽出された各カメラ画像上の交点座標のデータを用いてカメラ校正を行い、内部パラメータ、レンズの歪み補正係数を求め(ステップST208)、処理を終了する。なお、このカメラ校正は非特許文献1に記載されているような周知手法を用いて行うものとする。カメラ校正で得られた内部パラメータ、レンズの歪み補正係数を用いて補正されたカメラ画像は図6(c)に例示されるようになる。
なお、上記処理例では、3次元データ格納部3に予め格納されるデータは、各姿勢における実際のチェッカーボードを模した仮想チェッカーボードの3次元画像データであったが、この画像データの代わりに、仮想チェッカーボードの各姿勢におけるチェッカーパターンの各交点の3次元座標データとしてもよい。この場合、3次元座標生成部201は、3次元データ格納部3から、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各交点の3次元座標データそのものを検索することになる。また、3次元データ格納部3に予め格納されるデータを、仮想チェッカーボードの各姿勢におけるチェッカーパターンの1点の交点座標データとしてもよい。この場合は、3次元座標生成部201は、指定された姿勢の仮想チェッカーボードの1点の交点の3次元座標データ、対応する姿勢およびチェッカーパターンのサイズに基づいて、仮想チェッカーボードの各交点の3次元座標を算出することになる。
以上のように、この実施の形態1によれば、チェッカーパターンを施した1つの基準面からなる仮想チェッカーボードの複数の姿勢に関する3次元データから、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各交点の3次元座標を算出し、予め測定された校正対象のカメラと所定のディスプレイの相対距離に基づいて、上記算出された各交点の3次元座標をディスプレイの表示画面上に射影変換して各交点の2次元座標を算出し、算出された2次元座標情報に基づいてディスプレイで表示するチェッカーボード画像を生成するようにしている。すなわち、カメラで表示画面を撮像したときのカメラ画像が実際のチェッカーボードを撮像したときと同様の画像となるように、各姿勢のチェッカーボード画像を生成できるので、チェッカーボード画像をカメラ校正に適用できる。また、実際のチェッカーボードの場合、ボードの姿勢をいろいろ変えて撮像しなければならないが、その姿勢を変える作業を自動化できるため、作業負荷を軽減することができる。さらに、表示されるチェッカーボード画像は、複数の同タイプのカメラに対して、映っているチェッカーボードの各姿勢を常時均等に決めることができるので、均質で安定したカメラ校正を行うことを可能にする。
実施の形態2.
上記実施の形態1では、実際に計測したカメラとディスプレイの表示画面の相対距離を用いて、あたかも実際のチェッカーボードが3次元空間に存在しているようなチェッカーボード画像の表示を行う処理を行った。この実施の形態2では、カメラとディスプレイの相対距離を実測する代わりに、直交する2つのチェッカー面を持つチェッカーボード(以下、変形ボードと呼ぶことにする)を事前に1度撮像し、そのカメラ画像から求めた交点座標を用いて、実施の形態1と同様なチェッカーボード画像を生成する処理について述べる。
上記実施の形態1では、実際に計測したカメラとディスプレイの表示画面の相対距離を用いて、あたかも実際のチェッカーボードが3次元空間に存在しているようなチェッカーボード画像の表示を行う処理を行った。この実施の形態2では、カメラとディスプレイの相対距離を実測する代わりに、直交する2つのチェッカー面を持つチェッカーボード(以下、変形ボードと呼ぶことにする)を事前に1度撮像し、そのカメラ画像から求めた交点座標を用いて、実施の形態1と同様なチェッカーボード画像を生成する処理について述べる。
図7は、この発明の実施の形態2によるカメラ校正画像作成装置を含む機能構成を示すブロック回路図である。図において、図2の構成に相当する部分には同一符号を付し、原則としてその説明は省略する。
この実施の形態2では、カメラ校正画像作成装置200が、画像取得部101と特徴点抽出部102を、カメラ校正を行う校正処理装置100と共用する構成となっている。ここで使用する変形ボード2は、図9に示すようなチェッカーパターンがそれぞれ施された2つの面を互いに直交させた構造を持つ。しかし、3次元データ格納部3には、実施の形態1と同じ1つのチェッカー面からなる仮想チェッカーボードの座標作成用のデータが格納されているものとする。
この実施の形態2では、カメラ校正画像作成装置200が、画像取得部101と特徴点抽出部102を、カメラ校正を行う校正処理装置100と共用する構成となっている。ここで使用する変形ボード2は、図9に示すようなチェッカーパターンがそれぞれ施された2つの面を互いに直交させた構造を持つ。しかし、3次元データ格納部3には、実施の形態1と同じ1つのチェッカー面からなる仮想チェッカーボードの座標作成用のデータが格納されているものとする。
投影座標探索部204は、1度撮像した変形ボード4のカメラ画像から抽出した各交点座標に基づいて疑似カメラ画像を生成し、この疑似カメラ画像を撮像時における変形ボード4の各位置の座標データに基づいて修正し、その修正画像からディスプレイ2の表示画面上の2次元座標を算出する手段である。射影行列生成部205は、変形ボード4によって定義されるチェッカーパターンの各交点の3次元座標を、投影座標探索部204で算出されたディスプレイ2の表示画面上の2次元座標に対応付ける射影変換行列を生成する手段である。射影変換部212は、求めた射影変換行列を用いて、3次元座標生成部201で生成された仮想チェッカーボードの3次元座標をディスプレイ2の表示画面上に射影変換して各交点の2次元座標を算出する手段である。
次に、図8のフローチャートに従って動作を説明する。
図9に示すように、前もってカメラ1の前に直交する2つのチェッカー面を持つ変形ボード4をある姿勢にして設置し、そのチェッカー面をカメラ1で1度撮像したカメラ画像を画像取得部101で取得し保存する(ステップST401)。次に、特徴点抽出部102では、画像取得部101で取得したカメラ画像に写っているチェッカーパターンの各交点座標を特徴点として求める(ステップST402)。この特徴点の抽出方法としては、一般的に知られているパターンマッチングが用いられる。
図9に示すように、前もってカメラ1の前に直交する2つのチェッカー面を持つ変形ボード4をある姿勢にして設置し、そのチェッカー面をカメラ1で1度撮像したカメラ画像を画像取得部101で取得し保存する(ステップST401)。次に、特徴点抽出部102では、画像取得部101で取得したカメラ画像に写っているチェッカーパターンの各交点座標を特徴点として求める(ステップST402)。この特徴点の抽出方法としては、一般的に知られているパターンマッチングが用いられる。
ここで、次の処理ステップの説明に移る前に、直交する2つチェッカー面を持つ変形ボードを用いた場合における射影変換行列の求め方について説明する。
図10に示すように、変形ボード4の直交する2つのチェッカー面を、それぞれY=0、Z=0の平面となるように座標系を設定すると、射影変換行列は(5)式のようにそれぞれ3行3列の平面射影行列となる。
これらの行列は、3次元座標と2次元座標の2つの座標系の対応データを複数用意することにより求めることができる。この2つの座標系をそれぞれ斉次座標で(X,Y,Z,1)と(x,y,1)として表すと、求めた(5)式の行列を組み合わせることで、(6)式のように、3行4列の行列で定義できる、3次元座標から2次元座標への射影変換行列が求まる。
図10に示すように、変形ボード4の直交する2つのチェッカー面を、それぞれY=0、Z=0の平面となるように座標系を設定すると、射影変換行列は(5)式のようにそれぞれ3行3列の平面射影行列となる。
そこで、図10に示すように、カメラ1と変形ボード4の間にカメラ1から見て変形ボード4の像が映る仮想面3’を設置した場合、変形ボード4上の既知の交点座標で定義される3次元座標から、それに対応する仮想面3’上の射影位置(2次元座標)を求めることが可能となる。この実施の形態2では、上記仮想面3’をディスプレイ2の表示画面に置き替えて、変形ボード4の交点の3次元座標を表示画面上の2次元座標に変換する処理を行うようにする。
図8のフローチャートに戻り、上記考えの基に、まず投影座標探索部204により、特徴点抽出部102で求めた変形ボード4のカメラ画像上の各交点座標に対して、変形ボード4の交点座標を用いてカメラ1から見たディスプレイ2の表示画面上の歪みの無い対応点の座標を探索する(ステップST403)。ここでは、特徴点抽出部102で求めた変形ボード4のカメラ画像上の各交点座標に基づいて上記カメラ画像に近似する疑似カメラ画像を生成し、図11(a)に示すようにディスプレイ2に表示させる。この疑似カメラ画像は、レンズの歪みを受けているから、交点座標がずれているところがある筈である。そこで、疑似カメラ画像の交点座標と、既知である変形ボード4の撮像時の交点座標データの対応する交点座標を比較し、その結果に基づいて、図11(b)に示すように、疑似カメラ画像の交点座標を修正して再表示し、ディスプレイ2の表示画面上の修正画像の各交点座標を求める。なお、他の手法を用いて表示画面上の交点座標を求めてもよい。
次に、射影行列生成部205では、ステップST401で撮像に用いた実際のチェッカーボード4によって定義される交点の3次元座標を、投影座標探索部204により求めたディスプレイ2の表示画面上の交点の2次元座標に対応付ける射影変換行列を求める(ステップST404)。ここでは、上記(6)式の射影変換行列を求めることになる。
次に、3次元座標生成部201では、3次元データ格納部3から、カメラ1の撮像対象とする指定された姿勢の仮想チェッカーボードの3次元画像データを読み出し、そのチェッカーパターンの各交点の3次元座標を算出する(ステップST405)。射影変換部212では、射影行列生成部205で生成された射影変換行列を用い、3次元座標生成部201で算出された仮想チェッカーボードの各交点の3次元座標をディスプレイ2の表示画面上に射影して各交点の2次元座標を算出する(ステップST406)。画像生成部203では、射影変換部202で求めた2次元座標データに基づいてチェッカーボード画像データを生成してディスプレイ2に与え、チェッカーボード画像を表示させる(ステップST407)。
次に、ディスプレイ2の表示画面に表示されたチェッカーボード画像をカメラ1で撮像し、そのカメラ画像を画像取得部101で取得して保持する(ステップST408)。このときの取得されたカメラ画像は、図6(a)に例示するように、レンズによる歪みを含んだチェッカーパターンの画像である。次に、特徴点抽出部102では、画像取得部101が保持されたカメラ画像上の特徴点であるチェッカーボードの交点座標の検出を行う(ステップST409)。ここでは、図6(b)に例示するように、チェッカーパターンの交点位置を検出する。この特徴点抽出方法は、一般的に知られているパターンマッチングが用いられる。
ステップST405からステップST409までの処理を、カメラ校正に必要とする複数の姿勢のチェッカーボード画像について全て行った場合(ステップST410)、カメラキャリブレーション部103では、これまで特徴点抽出部102で抽出された各カメラ画像上の交点座標のデータを用いてカメラ校正を行い、内部パラメータ、レンズの歪み補正係数を求め(ステップST411)、処理を終了する。なお、このカメラ校正は非特許文献1に記載されているような周知手法を用いて行うものとする。カメラ校正で得られた内部パラメータ、レンズの歪み補正係数を用いて補正されたカメラ画像は図6(c)に例示されるようになる。
なお、実施の形態1と同様に、3次元データ格納部3に予め格納されるデータを、仮想チェッカーボードの画像データの代わりに、仮想チェッカーボードの各姿勢におけるチェッカーパターンの各交点の3次元座標データとしてもよい。この場合、3次元座標生成部201は、3次元データ格納部3から、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各交点の3次元座標データそのものを検索することになる。また、3次元データ格納部3に予め格納されるデータを、仮想チェッカーボードの各姿勢におけるチェッカーパターンの1点の交点座標データとしてもよい。この場合は、3次元座標生成部201は、指定された姿勢の仮想チェッカーボードの1点の交点の3次元座標データ、対応する姿勢およびチェッカーパターンのサイズに基づいて、仮想チェッカーボードの各交点の3次元座標を算出することになる。
以上のように、この実施の形態2によれば、校正対象のカメラにより撮像した、チェッカーパターンを施した直交する2つの基準面を持つ変形ボードのカメラ画像を取得し、この変形ボードのカメラ画像に写っているチェッカーパターンの各交点の座標を抽出し、抽出されたチェッカーパターンの各交点の座標に基づいて所定のディスプレイに表示する疑似カメラ画像を生成し、撮像時の変形ボードの各交点の座標データに基づいて疑似カメラ画像上の各交点を修正して修正画像を生成し、修正画像上のチェッカーパターンの各交点に対応する所定のディスプレイの表示画面上の2次元座標を算出し、変形ボードによって定義されるチェッカーの交点の3次元座標を、上記算出された所定ディスプレイの表示画面上の2次元座標に対応付ける射影変換行列を生成し、予め準備した、変形ボードと同じチェッカーパターンを施した1つの面からなる仮想チェッカーボードの複数の姿勢に関する3次元データから、指定された姿勢の仮想チェッカーボードのチェッカーパターンの各位置の3次元座標を算出し、上記生成された射影変換行列に基づいて、算出された3次元座標を所定のディスプレイの表示画面上に射影変換して各交点の2次元座標を算出し、算出された2次元座標情報に基づいて所定のディスプレイで表示するチェッカーボード画像を生成するようにしている。すなわち、直交する2つのチェッカー面を持つ変形ボードを事前に1度撮像したデータを用いて、ディスプレイの表示画面に対する射影変換行列を作成し、この射影変換行列を使用して各姿勢のチェッカーボード画像をディスプレイに表示できるようにしたので、このチェッカーボード画像をカメラで撮像することは、所望の正確な位置、姿勢の分かった実際のチェッカーボードを撮像することと同等である。したがって、実施の形態1で行っているカメラとディスプレイの正確な相対距離を計測する必要がなくなり、カメラ校正の際にチェッカーボードの姿勢をいろいろ変えて撮像する作業を自動化することができ、作業効率を向上させることができる。また、表示されるチェッカーボード画像は、複数の同タイプのカメラに対して、映っているチェッカーボードの各姿勢を常時均等に決めることができるので、均質で安定したカメラ校正を行うことが可能となる。
さらに、直交する2つのチェッカー面を持つ変形ボードを撮像したデータを使用して射影変換行列を作成しているので、1つの面のチェッカーボードを用いた場合に比べ射影変換行列を簡略化できるため、射影変換の処理時間を短縮することができる。
さらに、直交する2つのチェッカー面を持つ変形ボードを撮像したデータを使用して射影変換行列を作成しているので、1つの面のチェッカーボードを用いた場合に比べ射影変換行列を簡略化できるため、射影変換の処理時間を短縮することができる。
実施の形態3.
図12は、カメラとプロジェクタを用いたポインティングシステムの概略構成も示す説明図である。
このポインティングシステムは、机の上板に相当する部分を半透過型のスクリーン30とし、その下部に、スクリーン30に画像を投影するプロジェクタ20とスクリーン30の投影面を撮像するためのカメラ10を設置している。また、プロジェクタ20に与える画像データの生成、カメラ10で得られるカメラ画像の処理、および各種制御を行う画像処理装置40を備えている。
ポインティングシステムの動作は、プロジェクタ20によりスクリーン30に画像を投影し、スクリーン30の上部側に映し出された画像の適当な位置でユーザがLEDを当てて点灯させると、その状態をカメラ10が撮像し、得られるカメラ画像からスクリーン30上のポインティング位置を算出する仕組みとなっている。
図12は、カメラとプロジェクタを用いたポインティングシステムの概略構成も示す説明図である。
このポインティングシステムは、机の上板に相当する部分を半透過型のスクリーン30とし、その下部に、スクリーン30に画像を投影するプロジェクタ20とスクリーン30の投影面を撮像するためのカメラ10を設置している。また、プロジェクタ20に与える画像データの生成、カメラ10で得られるカメラ画像の処理、および各種制御を行う画像処理装置40を備えている。
ポインティングシステムの動作は、プロジェクタ20によりスクリーン30に画像を投影し、スクリーン30の上部側に映し出された画像の適当な位置でユーザがLEDを当てて点灯させると、その状態をカメラ10が撮像し、得られるカメラ画像からスクリーン30上のポインティング位置を算出する仕組みとなっている。
このシステムの構成の場合、スクリーン30を、実施の形態1または実施の形態2におけるディスプレイの表示画面としてそのまま利用することにより、カメラ校正用の画像を作成して表示し、カメラ10に対するカメラ校正を行うことが可能となる。また、このシステムでは、カメラ10の設置位置やレンズの設定を変更してもカメラを設置した状態のまま再キャリブレーションを行うことができるので、作業性がよい。なお、カメラ校正時にカメラ校正用画像が投影面で十分反射せずカメラ画像の品質が満たされないような場合には、スクリーン30の上側に反射体を設置して撮像すればよい。
以上のように、この発明に係るカメラ校正画像作成装置は、カメラで表示画面を撮像したときに得られる画像が、実際のチェッカーボードを撮像したときと同様の画像となるように各姿勢のチェッカーボード画像を生成できるので、各種カメラに対するカメラキャリブレーション作業の改善に適している。
Claims (10)
- 平面上の予め定義された複数の位置を表す幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データを格納する3次元データ格納手段と、
前記3次元データ格納手段の3次元データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出する3次元座標生成手段と、
予め測定された校正対象のカメラと所定のディスプレイの相対距離に基づいて、前記3次元座標生成手段で算出された3次元座標を前記ディスプレイの表示画面上に射影変換して各位置の2次元座標を算出する射影変換手段と、
前記射影変換手段で算出された2次元座標情報に基づいて前記ディスプレイで表示する基準ボード画像を生成する画像生成手段を備えたことを特徴とするカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの3次元画像データを格納しており、
3次元座標生成手段は、前記3次元データ格納手段から読み出した3次元画像データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出することを特徴とする請求項1記載のカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの幾何学パターンの位置の3次元座標データを格納しており、
3次元座標生成手段は、前記3次元データ格納手段から、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標データそのものを検索することを特徴とする請求項1記載のカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの中心にある幾何学パターンの1点の位置の3次元座標データを格納しおり、
3次元座標生成手段は、前記3次元データ格納手段から読み出した指定された姿勢の仮想基準ボードの1点の位置の3次元座標データ、対応する姿勢および幾何学パターンのサイズに基づいて、当該仮想基準ボードの幾何学パターンの各位置の3次元座標を算出することを特徴とする請求項1記載のカメラ校正画像作成装置。 - 平面上の予め定義された複数の位置を表す幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データを格納する3次元データ格納手段と、
校正対象のカメラにより撮像した、前記仮想基準ボードと同じ幾何学パターンを施した直交する2つの基準面を持つ変形ボードのカメラ画像を取得する画像取得手段と、
前記画像取得手段が取得した変形ボードのカメラ画像に写っている幾何学パターンの各位置の座標を抽出する特徴点抽出手段と、
前記特徴点抽出手段で抽出された幾何学パターンの各位置の座標に基づいて所定のディスプレイに表示する疑似カメラ画像を生成し、撮像時における前記変形ボードの各位置の座標データに基づいて疑似カメラ画像の各位置を修正して修正画像を生成し、当該修正画像上の幾何学パターンの各位置に対応する前記ディスプレイの表示画面上の2次元座標を算出する投影座標探索手段と、
前記変形ボードによって定義される幾何学パターンの位置の3次元座標を、前記投影座標探索手段で算出された前記ディスプレイの表示画面上の2次元座標に対応付ける射影変換行列を生成する射影行列生成手段と、
前記3次元データ格納手段の3次元データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出する3次元座標生成手段と、
前記射影行列変換手段で生成された射影変換行列に基づいて、前記3次元座標生成手段で算出された3次元座標を前記ディスプレイの表示画面上に射影変換して各位置の2次元座標を算出する射影変換手段と、
前記射影変換手段で算出された2次元座標情報に基づいて前記ディスプレイで表示する基準ボード画像を生成する画像生成手段を備えたことを特徴とするカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの3次元画像データを格納しており、
3次元座標生成手段は、前記3次元データ格納手段から読み出した3次元画像データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出することを特徴とする請求項5記載のカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの幾何学パターンの位置の3次元座標データを格納しており、
3次元座標生成手段は、前記3次元データ格納手段から、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標データそのものを検索することを特徴とする請求項5記載のカメラ校正画像作成装置。 - 3次元データ格納手段は、3次元データとして、仮想基準ボードの中心にある幾何学パターンの1点の位置の3次元座標データを格納しおり、
3次元座標生成手段は、前記3次元データ格納手段から読み出した指定された姿勢の仮想基準ボードの1点の位置の3次元座標データ、対応する姿勢および幾何学パターンのサイズに基づいて、当該仮想基準ボードの幾何学パターンの各位置の3次元座標を算出することを特徴とする請求項5記載のカメラ校正画像作成装置。 - 予め準備された、平面上の予め定義された複数の位置を表す幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出し、
予め測定された校正対象のカメラと所定のディスプレイの相対距離に基づいて、前記算出された各位置の3次元座標を前記ディスプレイの表示画面上に射影変換して各位置の2次元座標を算出し、
前記算出された2次元座標情報に基づいて前記ディスプレイで表示する基準ボード画像を生成する処理をコンピュータ上で行うことを特徴とするカメラ校正画像作成プログラム。 - 校正対象のカメラにより撮像した、平面上の予め定義された複数の位置を表す幾何学パターンを施した直交する2つの基準面を持つ変形ボードのカメラ画像を取得し、
前記取得した変形ボードのカメラ画像に写っている幾何学パターンの各位置の座標を抽出し、
前記抽出された幾何学パターンの各位置の座標に基づいて所定のディスプレイに表示する疑似カメラ画像を生成し、
撮像時の前記変形ボードの各位置の座標データに基づいて前記疑似カメラ画像上の各位置を修正して修正画像を生成し、
前記修正画像上の幾何学パターンの各位置に対応する前記ディスプレイの表示画面上の2次元座標を算出し、
前記変形ボードによって定義される幾何学パターンの位置の3次元座標を、前記算出された前記ディスプレイの表示画面上の2次元座標に対応付ける射影変換行列を生成し、
予め準備した、前記変形ボードと同じ幾何学パターンを施した1つの基準面からなる仮想基準ボードの複数の姿勢に関する3次元データから、指定された姿勢の仮想基準ボードの幾何学パターンの各位置の3次元座標を算出し、
前記生成された射影変換行列に基づいて、前記算出された3次元座標を前記ディスプレイの表示画面上に射影変換して各位置の2次元座標を算出し、
前記算出された2次元座標情報に基づいて前記ディスプレイで表示する基準ボード画像を生成する処理をコンピュータ上で行うことを特徴とするカメラ校正画像作成プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010522532A JPWO2010013289A1 (ja) | 2008-07-31 | 2008-07-31 | カメラ校正画像作成装置およびカメラ校正画像作成プログラム |
PCT/JP2008/002062 WO2010013289A1 (ja) | 2008-07-31 | 2008-07-31 | カメラ校正画像作成装置およびカメラ校正画像作成プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2008/002062 WO2010013289A1 (ja) | 2008-07-31 | 2008-07-31 | カメラ校正画像作成装置およびカメラ校正画像作成プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2010013289A1 true WO2010013289A1 (ja) | 2010-02-04 |
Family
ID=41610019
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2008/002062 WO2010013289A1 (ja) | 2008-07-31 | 2008-07-31 | カメラ校正画像作成装置およびカメラ校正画像作成プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2010013289A1 (ja) |
WO (1) | WO2010013289A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2523537A1 (fr) | 2011-05-12 | 2012-11-14 | IP Energy | Unité modulaire pour la construction de centres de données informatiques |
US8500288B2 (en) | 2009-08-18 | 2013-08-06 | Mitsubishi Electric Corporation | Rear-projection type display device for performing distortion detection and distortion correction |
JP2013243621A (ja) * | 2012-05-22 | 2013-12-05 | Toshiba Corp | 電子機器、電子機器の制御方法、制御プログラム、映像表示装置 |
CN112465913A (zh) * | 2020-11-18 | 2021-03-09 | 广东博智林机器人有限公司 | 一种基于双目相机的校正方法及装置 |
CN113155053A (zh) * | 2020-01-22 | 2021-07-23 | 株式会社三丰 | 三维几何形状测量装置和三维几何形状测量方法 |
JP2021532642A (ja) * | 2018-07-27 | 2021-11-25 | アパリオ グローバル ソリューションズ (アーゲーエス) アーゲー | 映像ストリームにおける動的画像コンテンツ置換のための方法およびシステム |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6775958B2 (ja) * | 2016-02-09 | 2020-10-28 | ローランドディー.ジー.株式会社 | 切削加工機と位置補正の要否の判別方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11234706A (ja) * | 1998-02-16 | 1999-08-27 | Sharp Corp | テレビカメラ映像調整装置 |
JP2007034985A (ja) * | 2005-07-29 | 2007-02-08 | Canon Inc | 情報処理方法および装置 |
-
2008
- 2008-07-31 JP JP2010522532A patent/JPWO2010013289A1/ja active Pending
- 2008-07-31 WO PCT/JP2008/002062 patent/WO2010013289A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11234706A (ja) * | 1998-02-16 | 1999-08-27 | Sharp Corp | テレビカメラ映像調整装置 |
JP2007034985A (ja) * | 2005-07-29 | 2007-02-08 | Canon Inc | 情報処理方法および装置 |
Non-Patent Citations (1)
Title |
---|
ZHENGYOU ZHANG: "A Flexible New Technique for Camera Calibration", MICROSOFT RESEARCH TECHICAL REPORT MSR-TR-98-71, 2 December 1998 (1998-12-02) * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8500288B2 (en) | 2009-08-18 | 2013-08-06 | Mitsubishi Electric Corporation | Rear-projection type display device for performing distortion detection and distortion correction |
EP2523537A1 (fr) | 2011-05-12 | 2012-11-14 | IP Energy | Unité modulaire pour la construction de centres de données informatiques |
JP2013243621A (ja) * | 2012-05-22 | 2013-12-05 | Toshiba Corp | 電子機器、電子機器の制御方法、制御プログラム、映像表示装置 |
JP2021532642A (ja) * | 2018-07-27 | 2021-11-25 | アパリオ グローバル ソリューションズ (アーゲーエス) アーゲー | 映像ストリームにおける動的画像コンテンツ置換のための方法およびシステム |
JP7447077B2 (ja) | 2018-07-27 | 2024-03-11 | アパリオ グローバル ソリューションズ (アーゲーエス) アーゲー | 映像ストリームにおける動的画像コンテンツ置換のための方法およびシステム |
CN113155053A (zh) * | 2020-01-22 | 2021-07-23 | 株式会社三丰 | 三维几何形状测量装置和三维几何形状测量方法 |
CN112465913A (zh) * | 2020-11-18 | 2021-03-09 | 广东博智林机器人有限公司 | 一种基于双目相机的校正方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2010013289A1 (ja) | 2012-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110447220B (zh) | 校准装置、校准方法、光学装置、摄影装置以及投影装置 | |
Sun et al. | An empirical evaluation of factors influencing camera calibration accuracy using three publicly available techniques | |
WO2010013289A1 (ja) | カメラ校正画像作成装置およびカメラ校正画像作成プログラム | |
JP6079333B2 (ja) | 校正装置、方法及びプログラム | |
JP2011118553A (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
JP4250620B2 (ja) | 情報処理方法および装置 | |
JP2000350239A (ja) | カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ | |
JPWO2018235163A1 (ja) | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 | |
JP2015219679A (ja) | 画像処理システム、情報処理装置、プログラム | |
JPWO2013038656A1 (ja) | 投影像自動補正システム、投影像自動補正方法およびプログラム | |
JP2007309660A (ja) | 3次元形状測定装置におけるキャリブレーション方法 | |
Gao et al. | Accuracy evaluation of optical distortion calibration by digital image correlation | |
JP2009042162A (ja) | キャリブレーション装置及びその方法 | |
JPH11118425A (ja) | キャリブレーション方法及び装置、並びにキャリブレーション用データ生成方法 | |
JPWO2015132981A1 (ja) | 位置測定装置及び位置測定方法 | |
Suresh et al. | Structured light system calibration with unidirectional fringe patterns | |
JP2015233266A (ja) | 画像処理システム、情報処理装置、プログラム | |
Van Crombrugge et al. | Extrinsic camera calibration for non-overlapping cameras with Gray code projection | |
WO2018168757A1 (ja) | 画像処理装置、システム、画像処理方法、物品の製造方法、プログラム | |
JP2011155412A (ja) | 投影システムおよび投影システムにおける歪み修正方法 | |
Amiri Parian et al. | Integrated laser scanner and intensity image calibration and accuracy assessment | |
Chen et al. | Calibrating large-FOV stereo digital image correlation system using phase targets and epipolar geometry | |
JP2006098065A (ja) | キャリブレーション装置および方法、ならびにそれらを利用可能な3次元モデリング装置および3次元モデリングシステム | |
Dunne et al. | Efficient generic calibration method for general cameras with single centre of projection | |
JP6099281B2 (ja) | 書籍読み取りシステム及び書籍読み取り方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 08790326 Country of ref document: EP Kind code of ref document: A1 |
|
WWE | Wipo information: entry into national phase |
Ref document number: 2010522532 Country of ref document: JP |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 08790326 Country of ref document: EP Kind code of ref document: A1 |