JP2007034964A - カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム - Google Patents
カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム Download PDFInfo
- Publication number
- JP2007034964A JP2007034964A JP2005221262A JP2005221262A JP2007034964A JP 2007034964 A JP2007034964 A JP 2007034964A JP 2005221262 A JP2005221262 A JP 2005221262A JP 2005221262 A JP2005221262 A JP 2005221262A JP 2007034964 A JP2007034964 A JP 2007034964A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- camera
- lens distortion
- matrix
- dimensional information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 カメラキャリブレーションのための特殊な装置や撮影ターゲットに関する既知な情報を不要とし、カメラ運動、3次元形状、並びにレンズ歪パラメータを容易に復元することができるようにする。
【解決手段】 時系列画像中の特徴点を追跡して観測した画像座標値に対して、暫定的なレンズ歪係数を用いて座標値(uij,vij)を要素とする漸近行列[B]を生成し、該[B]から、運動情報、3次元情報の各行列データ[U’]、[V’]と、カメラ運動を規定する設定条件を満たす変換行列[Q]を求め、これらに基づいて各情報を復元し、それに基づいて、レンズ歪係数を推定し、それに基づく平面運動投影値の再投影誤差を許容値以下とするレンズ歪パラメータの安定化処理と、カメラ運動に基づく平面運動投影値の再投影誤差を許容値以下とするカメラ運動の安定化処理とを交互に切り替えて繰り返し実行する。
【選択図】 図5
【解決手段】 時系列画像中の特徴点を追跡して観測した画像座標値に対して、暫定的なレンズ歪係数を用いて座標値(uij,vij)を要素とする漸近行列[B]を生成し、該[B]から、運動情報、3次元情報の各行列データ[U’]、[V’]と、カメラ運動を規定する設定条件を満たす変換行列[Q]を求め、これらに基づいて各情報を復元し、それに基づいて、レンズ歪係数を推定し、それに基づく平面運動投影値の再投影誤差を許容値以下とするレンズ歪パラメータの安定化処理と、カメラ運動に基づく平面運動投影値の再投影誤差を許容値以下とするカメラ運動の安定化処理とを交互に切り替えて繰り返し実行する。
【選択図】 図5
Description
本発明は、画像入力装置(カメラ)を使って取得した車載画像、室内画像、歩行撮影画像、船上からの海上画像、空撮画像などの時系列画像全般に利用可能であり、カメラで取得した時系列画像から、カメラ視点の並進運動とカメラ座標軸周りの回転、並びに、時系列画像に写っている外界の3次元形状、すなわち、被写体(物体)の外観形状を構成する3次元情報を復元し、同時に、カメラ内部のレンズ歪パラメータを推定することに関係する。
コンピュータビジョン分野において、時系列画像から対象物の形状を計測または復元する手法には、ステレオ計測やエピポーラ面解析を用いた3次元解析手法がある。この手法によれば、物体が撮影されている複数の時系列画像から、外界の3次元空間を構成する3次元形状情報、並びに、カメラ視点に関する運動を復元することができる。しかし、カメラを動かしながら撮影した時系列画像にはランダム性の雑音が混入し、カメラ運動や物体形状を高精度に復元することが困難である。
これに対して、因子分解法はランダム性の雑音が混入するようなビデオ画像などの時系列画像において、ユークリッド空間でのカメラ運動と物体形状を、ロバスト且つ高精度に復元することができる。しかし、この手法では、カメラの内部パラメータ(レンズ歪、焦点距離など)を既知としており、事前にカメラキャリブレーションによりカメラ内部パラメータを校正しておく必要がある。
尚カメラキャリブレーションの手法としては、例えば下記非特許文献1に記載の手法がある。
またカメラ視点に関する運動を復元、並びに外界物体の空間情報を獲得、復元する方法および装置としては、例えば下記特許文献1に記載のものが提案されている。
Z.Zhang;"A Flexible New Technique for Camera Calibration",IEEE Trans.Pattern Anal.& Mach.Intell,Vol.22,No.11,pp.1330−1334,2000. 特開2003−271925号公報
Z.Zhang;"A Flexible New Technique for Camera Calibration",IEEE Trans.Pattern Anal.& Mach.Intell,Vol.22,No.11,pp.1330−1334,2000.
ディジタル・スチルカメラやハンディタイプのビデオカメラなどの市販カメラの光学系は複数のレンズで構成されており、理想的なピンホールカメラモデルとは異なる光学系となっている。例えば、図8に示すように、矩形形状をカメラで撮影すると、得られる映像においてその矩形形状は樽型に歪む、この歪は主点を中心とし、主点から離れるほどその歪度合いは大きくなる。
このようなレンズ歪があると、画像計測では正確な計測が困難であり、コンピュータビジョンにおいても3次元形状復元に影響を及ぼす。
このレンズ歪を求めるには、例えば図9に示すように、三脚上にカメラを固定し、市松模様などの3次元形状のターゲットを奥行き方向に正確に移動させて、各奥行きでの3次元パターンを複数枚撮影し、得られた画像と既知の3次元座標値との対応関係からレンズ歪を数値解析的に求める手法が主流である。
これに対して、図10では、プリンタで印刷した程度の簡易な2次元のパターンを複数枚撮影した画像から、画像と既知の2次元座標値との対応関係からレンズ歪を算出する手法も存在する(非特許文献1)。
これらは精度よくレンズ歪を求めることができるが、いずれも既知の空間中の3次元座標値を与える必要があり、特に、図9の場合はキャリブレーションするには特殊な装置と治具を必要とする。
前記のように、カメラの光学系においては、事前にレンズ歪パラメータを求めておき、処理の対象とする画像に対してレンズ歪の補正を行い、レンズ歪がない画像にしておく必要がある。あるいは、画像から直接観測した画像座標値に対してレンズ歪を補正するような幾何的変換を行うことでも同じことができる。
しかし、このようなカメラキャリブレーション作業は特殊な装置や撮影ターゲットに関する既知な情報を必要としており、ユーザが簡易に操作してレンズ歪のない画像を取得することは困難であった。
本発明は上記の点に鑑みてなされたものでその目的は、カメラキャリブレーションのための特殊な装置や撮影ターゲットに関する既知な情報を不要とし、カメラ運動、3次元形状、並びにレンズ歪パラメータを容易に復元することができる、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、プログラムを提供することにある。
上記課題を解決するため、本発明は、画像入力手段で取得した時系列画像中において、時系列に関するカメラ視点の運動と外界の3次元空間または物体形状を構成する3次元情報を復元し、同時に、カメラのレンズ歪パラメータを推定する方法であって、前記取得した時系列画像上に設定した画像座標系において、各時系列画像中の特徴点を追跡して画像座標値を観測する画像座標値観測ステップと、前記画像座標値観測ステップで観測された特徴点の画像座標値を、暫定的なレンズ歪係数とカメラ視点の運動に関するパラメータと前記特徴点の3次元座標値を使って平面運動投影へ座標変換し、得られた座標値を要素とする行列(漸近行列)を生成する漸近行列生成ステップと、前記漸近行列生成ステップで生成された漸近行列を特異値分解し、雑音除去を行って運動情報を表す行列データと3次元情報を表す行列データを得て、その運動情報を表す行列データの行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列を求め、前記運動情報を表す行列データに前記変換行列を作用させてカメラ視点に関する光軸周りの回転運動と光軸と垂直な平面上の並進運動を復元し、並びに、前記3次元情報を表す行列データに前記変換行列の逆行列を作用させて物体形状を構成する3次元情報を復元する平面運動・3次元情報復元ステップと、平面運動投影への変換係数(安定化係数)と、前記平面運動・3次元情報復元ステップで復元された平面上の並進運動と3次元情報から算出される平面運動投影座標値を与えて、該座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求めるレンズ歪パラメータ推定ステップと、前記画像座標値観測ステップで観測された画像座標値を、前記レンズ歪パラメータ推定ステップで得られたレンズ歪係数によって変換した座標値と、前記平面運動・3次元情報復元ステップで復元された平面上の並進運動および3次元情報から算出される平面運動投影座標値の間の座標誤差からカメラ運動を求めるカメラ運動復元ステップとを備え、前記レンズ歪パラメータ推定ステップを実行して得られたレンズ歪係数に基づく平面運動投影値と、該ステップ実行直前のレンズ歪係数に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記漸近行列生成ステップの漸近行列を更新し、前記平面運動・3次元情報復元ステップおよびレンズ歪パラメータ推定ステップを実行してレンズ歪を補正する第1の安定化処理と、前記カメラ運動復元ステップを実行して得られたカメラ運動に基づく平面運動投影値と、該ステップ実行直前のカメラ運動に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記漸近行列生成ステップの漸近行列を更新し、前記平面運動・3次元情報復元ステップおよびカメラ運動復元ステップを実行してカメラ運動を補正する第2の安定化処理とを、交互に切り替えて繰り返し実行することを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法を手段とする。
すなわち、画像入力装置(カメラ)で取得した時系列画像中において、各画像で観測される特徴点の画像座標値から、時系列におけるカメラ視点の運動と外界の3次元空間または物体形状を構成する3次元情報を復元し、同時に、カメラの内部パラメータを推定する方法であって、時系列画像に設定した画像座標系において、各フレーム画像で観測される特徴点の画像座標値(xij,yij)に、暫定的なレンズ歪係数klとカメラの外部パラメータ(回転運動,並進運動)と特徴点の3次元座標値(Xj,Yj,Zj)を使って座標変換した座標値(uij,vij)を要素とする行列[B](漸近行列)を生成し(漸近行列生成ステップ)、
漸近行列[B]を特異値分解し、雑音除去を行って運動情報を表す行列データ[U’]と3次元情報を表す行列データ[V’]を得て、その運動情報を表す行列データ[U’]の行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列[Q]を求め、運動情報を表す行列データ[U’]にこの変換行列[Q]を作用([U’][Q])させてカメラ視点に関する光軸周りの回転運動θiと光軸と垂直な平面上の並進運動(Txi,Tyi)を復元し、並びに、3次元情報を表す行列データ[V’]にこの変換行列の逆行列[Q]-1を作用([Q]-1[V’])させて物体形状を構成する3次元情報(Xj,Yj,Zj)を復元し(平面運動・3次元情報復元ステップ)、
現時点での平面運動投影への再投影誤差(平面運動投影への漸近値を表す評価値)ΔEを算出し、その誤差の収束性により処理モードを切り替えてレンズ歪パラメータを推定、またはカメラ運動を復元し(以降のレンズ歪パラメータ推定ステップまたはカメラ運動復元ステップにおける処理)、選択した処理モードにおいて、現時点での求めたカメラ運動と3次元情報とレンズ歪パラメータを使って平面運動投影への安定化処理を行い、その結果において得られる平面運動投影への再投影誤差が所定の許容値以下になるまで、漸近行列生成ステップ、平面運動・3次元情報復元ステップ、切り替えて選択するレンズ歪パラメータ推定ステップまたはカメラ運動復元ステップにおける処理を繰り返し(切り替え処理ステップ)、
切り替え処理ステップで処理モードがレンズ歪パラメータ推定と判定された場合は、平面運動投影への変換係数εij,δij,ζi,ηiと、平面運動・3次元情報復元ステップで得た平面運動と3次元情報から算出される平面運動投影座標値(mT iSj,nT iSj)を与えて、その両座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求め、そのレンズ歪係数を使ってレンズ歪を補正するような変換処理を行い、画像座標値を平面運動投影へ近づけ(レンズ歪パラメータ推定ステップ)、
切り替え処理ステップで処理モードがカメラ運動復元と判定された場合は、画像から観測された座標値(xij,yij)にレンズ歪パラメータ推定ステップで更新されたレンズ歪係数を使って変換した座標値(x’ij,y’ij)と、平面運動・3次元情報復元ステップで得た平面運動と3次元情報から算出される平面運動投影座標値(mT iSj,nT iSj)の間の座標誤差(Δuij,Δvij)から、カメラ光軸以外の回転軸周りの回転運動と光軸並進運動を求め、求めた回転運動と並進運動を補正するような変換処理を行い、画像座標値を平面運動投影へ近づけ(カメラ運動復元ステップ)切り替え処理ステップにて、評価値ΔEが許容値以下となった時点でのカメラ運動、3次元情報、レンズ歪パラメータの復元処理を出力することを特徴としている。
漸近行列[B]を特異値分解し、雑音除去を行って運動情報を表す行列データ[U’]と3次元情報を表す行列データ[V’]を得て、その運動情報を表す行列データ[U’]の行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列[Q]を求め、運動情報を表す行列データ[U’]にこの変換行列[Q]を作用([U’][Q])させてカメラ視点に関する光軸周りの回転運動θiと光軸と垂直な平面上の並進運動(Txi,Tyi)を復元し、並びに、3次元情報を表す行列データ[V’]にこの変換行列の逆行列[Q]-1を作用([Q]-1[V’])させて物体形状を構成する3次元情報(Xj,Yj,Zj)を復元し(平面運動・3次元情報復元ステップ)、
現時点での平面運動投影への再投影誤差(平面運動投影への漸近値を表す評価値)ΔEを算出し、その誤差の収束性により処理モードを切り替えてレンズ歪パラメータを推定、またはカメラ運動を復元し(以降のレンズ歪パラメータ推定ステップまたはカメラ運動復元ステップにおける処理)、選択した処理モードにおいて、現時点での求めたカメラ運動と3次元情報とレンズ歪パラメータを使って平面運動投影への安定化処理を行い、その結果において得られる平面運動投影への再投影誤差が所定の許容値以下になるまで、漸近行列生成ステップ、平面運動・3次元情報復元ステップ、切り替えて選択するレンズ歪パラメータ推定ステップまたはカメラ運動復元ステップにおける処理を繰り返し(切り替え処理ステップ)、
切り替え処理ステップで処理モードがレンズ歪パラメータ推定と判定された場合は、平面運動投影への変換係数εij,δij,ζi,ηiと、平面運動・3次元情報復元ステップで得た平面運動と3次元情報から算出される平面運動投影座標値(mT iSj,nT iSj)を与えて、その両座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求め、そのレンズ歪係数を使ってレンズ歪を補正するような変換処理を行い、画像座標値を平面運動投影へ近づけ(レンズ歪パラメータ推定ステップ)、
切り替え処理ステップで処理モードがカメラ運動復元と判定された場合は、画像から観測された座標値(xij,yij)にレンズ歪パラメータ推定ステップで更新されたレンズ歪係数を使って変換した座標値(x’ij,y’ij)と、平面運動・3次元情報復元ステップで得た平面運動と3次元情報から算出される平面運動投影座標値(mT iSj,nT iSj)の間の座標誤差(Δuij,Δvij)から、カメラ光軸以外の回転軸周りの回転運動と光軸並進運動を求め、求めた回転運動と並進運動を補正するような変換処理を行い、画像座標値を平面運動投影へ近づけ(カメラ運動復元ステップ)切り替え処理ステップにて、評価値ΔEが許容値以下となった時点でのカメラ運動、3次元情報、レンズ歪パラメータの復元処理を出力することを特徴としている。
あるいは、上記のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法であって、前記カメラ運動復元ステップは、前記座標誤差から、カメラ光軸以外の回転軸周りの回転運動を求めることを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法を手段とする。
すなわち、切り替え処理ステップで処理モードがカメラ運動復元と判定された場合は、画像から観測された座標値(xij,yij)にレンズ歪パラメータ推定ステップで更新されたレンズ歪係数を使って変換した座標値と、平面運動・3次元情報復元ステップで得た平面運動と3次元情報から算出される再投影座標値(mT iSj,nT iSj)の間の座標誤差(△uij,△vij)から、カメラ光軸以外の回転軸周りの回転運動を求め、求めた回転運動を補正するような変換処理を行い、画像座標値を平面運動投影へ近づける、ことを特徴としている。
あるいは、画像入力手段で取得した時系列画像中において、時系列に関するカメラ視点の運動と外界の3次元空間または物体形状を構成する3次元情報を復元し、同時に、カメラのレンズ歪パラメータを推定する装置であって、
前記取得した時系列画像上に設定した画像座標系において、各時系列画像中の特徴点を追跡して画像座標値を観測する特徴点観測部と、
前記特徴点観測部で観測された特徴点の画像座標値に対して、暫定的なレンズ歪係数とカメラ視点の運動に関するパラメータと前記特徴点の3次元座標値を使って座標変換を行って得られた座標値を要素とする漸近行列を生成し、前記漸近行列を特異値分解し、雑音除去を行って運動情報を表す行列データと3次元情報を表す行列データを得て、その運動情報を表す行列データの行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列を求め、該変換行列および前記運動情報を表す行列データに基づいて、カメラ視点に関する光軸周りの回転運動と光軸と垂直な平面上の並進運動を復元し、前記変換行列の逆行列と前記3次元情報を表す行列データに基づいて、物体形状を構成する3次元情報を復元する因子分解処理部と、
平面運動投影への変換係数(安定化係数)と前記因子分解処理部で復元された平面上の並進運動と3次元情報から算出される平面運動投影座標値を与えて、該座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求めるパラメータ推定部と、
前記特徴点観測部で観測された画像座標値を、前記パラメータ推定部で得られたレンズ歪係数によって変換した座標値と、前記因子分解処理部で復元された平面上の並進運動および3次元情報から算出される平面運動投影座標値の間の座標誤差からカメラ運動を求めるカメラ運動復元部と、
前記パラメータ推定部により得られたレンズ歪係数に基づく平面運動投影値と、得られる直前のレンズ歪係数に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびパラメータ推定部の動作を行わせてレンズ歪を補正する第1の安定化処理と、
前記カメラ運動復元部により得られたカメラ運動に基づく平面運動投影値と、得られる直前のカメラ運動に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびカメラ運動復元部の動作を行わせてカメラ運動を補正する第2の安定化処理とを、
交互に切り替えて繰り返し実行する反復処理部とを備えたことを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置を手段とする。
前記取得した時系列画像上に設定した画像座標系において、各時系列画像中の特徴点を追跡して画像座標値を観測する特徴点観測部と、
前記特徴点観測部で観測された特徴点の画像座標値に対して、暫定的なレンズ歪係数とカメラ視点の運動に関するパラメータと前記特徴点の3次元座標値を使って座標変換を行って得られた座標値を要素とする漸近行列を生成し、前記漸近行列を特異値分解し、雑音除去を行って運動情報を表す行列データと3次元情報を表す行列データを得て、その運動情報を表す行列データの行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列を求め、該変換行列および前記運動情報を表す行列データに基づいて、カメラ視点に関する光軸周りの回転運動と光軸と垂直な平面上の並進運動を復元し、前記変換行列の逆行列と前記3次元情報を表す行列データに基づいて、物体形状を構成する3次元情報を復元する因子分解処理部と、
平面運動投影への変換係数(安定化係数)と前記因子分解処理部で復元された平面上の並進運動と3次元情報から算出される平面運動投影座標値を与えて、該座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求めるパラメータ推定部と、
前記特徴点観測部で観測された画像座標値を、前記パラメータ推定部で得られたレンズ歪係数によって変換した座標値と、前記因子分解処理部で復元された平面上の並進運動および3次元情報から算出される平面運動投影座標値の間の座標誤差からカメラ運動を求めるカメラ運動復元部と、
前記パラメータ推定部により得られたレンズ歪係数に基づく平面運動投影値と、得られる直前のレンズ歪係数に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびパラメータ推定部の動作を行わせてレンズ歪を補正する第1の安定化処理と、
前記カメラ運動復元部により得られたカメラ運動に基づく平面運動投影値と、得られる直前のカメラ運動に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびカメラ運動復元部の動作を行わせてカメラ運動を補正する第2の安定化処理とを、
交互に切り替えて繰り返し実行する反復処理部とを備えたことを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置を手段とする。
あるいは、上記のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置であって、前記カメラ運動復元部は、前記座標誤差から、カメラ光軸以外の回転軸周りの回転運動を求めることを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置を手段とする。
あるいは、上記のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法をコンピュータに実行させるためのプログラムとしたことを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラムを手段とする。
(1)本発明によれば、市販のカメラを使って取得した時系列画像全般(移動手段を利用して撮影した車載画像、海上画像、空撮画像、屋内画像など)から、カメラ運動、3次元形状、並びに、レンズ歪パラメータを復元することができる。レンズ歪パラメータを推定することができるため、従来のように、予めカメラキャリブレーション作業によりレンズ歪を求めておく必要がない。なお、本発明で使用する計算は、大半が線形演算で構成されるため、コンピュータ言語での実装が容易である。また、レンズ歪パラメータを推定できることで、取得した画像に幾何的補正をおこなうことで、レンズ歪を低減した透視投影像が取得できる。
(2)また請求項2、4に記載の発明によれば、光軸並進運動を考慮せずにカメラ運動を求めているので、演算が簡略化される。
(2)また請求項2、4に記載の発明によれば、光軸並進運動を考慮せずにカメラ運動を求めているので、演算が簡略化される。
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。本発明では、第iフレームの画像において観測される第j番目の特徴点の画像座標値を(xij,yij)、そのときのXYZ並進運動を(Txi,Tyi,Tzi)、XYZ軸周りの回転をそれぞれψi,ωi,θiとする。また、画像座標値(xij,yij)は主点(principle point)を中心とした画像面において観測された座標値であり、画像面の横縦のアスペクト比は1:1とする。
このとき、レンズ歪パラメータ(レンズ歪係数)、カメラ運動、並びに3次元形状を復元するための未校正投影モデルを、
と仮定し、この投影モデルに基づいてカメラ運動(Txi,Tyi,Tzi,ψi,ωi,θi)、3次元形状(Xj,Yj,Zj)、レンズ歪係数klを復元する。
式(1)を全フレーム(i=1,2,・・・,F)、全特徴点(j=1,2,・・・,P)に対して行列表記すると、
となる。式(8)は左辺の行列が右辺に示す行列に分解することを示しており、因子分解法を適用して右辺に示す行列に分解することが考えられる。しかしながら、式(8)左辺の行列要素(uij,vij)は、画像から得られる観測座標値(xij,yij)を式(2)〜式(6)に従って変換した座標値であり、カメラが理想的な平面運動を行ったときに観測するレンズ歪の無い画像座標値(本文では平面運動投影と称する)と等価になっている。
すなわち、式(8)を満たすには、カメラ運動を平面運動にし、レンズ歪を補正した(レンズ歪の無い)平面運動投影を求めることが必要になる。言い換えれば、式(2)に示す変換係数(安定化係数)δij,εij,ζi,ηi,κijを得て、式(8)左辺の行列要素(uij,vij)を準備しなければならない。
そこで、本発明では、式(8)左辺の行列要素を段階的に得ながら、式(8)右辺に示す行列に分解できるように、反復的に平面運動投影型の因子分解法を使う。この反復において、カメラ運動と平面運動へ近づけるとともに、レンズ歪を補正するよう必要であるが、これらを同時に処理することは容易ではない。このため、カメラ運動とレンズ歪パラメータを復元する処理に分けて、この問題に対処する。
仮に、カメラ運動と3次元形状が与えられたとすると、式(8)は以下のように考えることができる。
式(9)と観測座標値(xij,yij)との誤差(Δxij,Δyij)は、
となる。式(10)を、計算上、以下に示すように変形する。
したがって、レンズ歪パラメータを求める問題は、観測座標値(xij,yij)と式(10)で計算される誤差(Δxij,Δyij)が与えられたときに、式(11)を満たすように、レンズ歪パラメータklを求める問題に帰着させることができる。
この場合、全フレーム(i=1,2,・・・,F)、全特徴点(j=1,2,・・・,P)に対して、最小二乗法などを使ってパラメータを当てはめる。求めたレンズ歪パラメータ値を式(3)に代入することで、式(2)に示す平面運動投影(uij,vij)が得られる。これにより、式(8)左辺の行列要素をもつ行列(漸近行列)を得て、平面運動投影に基づく因子分解法を使って、式(8)右辺の行列分解を行う。カメラ運動を固定した状態で反復的に繰り返すことで、レンズ歪パラメータを安定化(補正)することができる。
一方、レンズ歪パラメータと平面運動と3次元形状が与えられると、画像座標値(xij,yij)はレンズ歪を補正することができる。この座標値を(x’ij,y’ij)とし、(x’ij,y’ij)と平面運動投影(mT iSj,nT iSj)との誤差(Δuij,Δvij)は、
となる。式(12)をψi,ωi,Tziを未知数として、上記を全特徴点(j=1,2,・・・,P)に対して行列表記すると、
となる。式(13)は未知数ψi,ωi,Tziを含む非線形連立方程式になっている。この解法は式(13)左辺左側の2p×5サイズの行列の一般化逆行列を式(13)の両辺の左側から作用させることでψi,ωi,Tziを求めることができる。仮に、式(13)からψi,ωi,Tziが得られたとすると、すべてのカメラ運動(カメラ軸周りの回転:姿勢、カメラ座標系での並進運動:位置)が得られることになり、それらの値を式(4)、式(5)、並びに式(6)に代入することで、式(2)に示す平面運動投影(uij,vij)が得られる。
式(8)左辺に示すように、この(uij,vij)を行列要素とする漸近行列を得て、平面運動投影に基づく因子分解法を使って、式(8)右辺の行列分解を行う。レンズ歪パラメータを固定した状態で反復的に繰り返すことで、カメラ運動を平面運動へ安定化することができる。
以上、レンズ歪パラメータの安定化とカメラ運動の安定化処理を交互に実行し、徐々に、レンズ歪の無い平面運動投影へ近づける。この反復的安定化において、平面運動投影への漸近を示す評価値として、漸近行列の要素と平面運動での再投影座標値の間の誤差を使う。
この漸近値の度合いによりカメラ運動を復元するか、レンズ歪パラメータを推定するかを決定し、安定化処理を切り替えながら漸近値を段階的に最小値へ近づける。この漸近が完了することで、カメラ運動を復元し、レンズ歪パラメータを推定し、同時に、カメラ運動と3次元形状を復元することができる。
上記は、請求項1、3に係る実施形態であり、カメラ運動、3次元形状、並びに、レンズ歪パラメータの双方を求める方法である。これに対して、請求項2、4に係る実施形態は、光軸並進運動が無いカメラ運動の場合であり、前記式(4)、式(5)において、
とすることで、前記請求項1、3に係る実施形態で述べた方法と同様に扱うことができる。ここではカメラ運動の安定化を行うときの計算が簡略化できる。つまり、前記式(13)においてTzi=0とおくと、
となる。これは未知数ψi,ωiの線形連立一次方程式となり、一般化逆行列を使ってψi,ωiを求めることができる。
図1はカメラと対象物の位置関係を表している。運動の中心は視点としており、視点を原点としたカメラ座標系XYZ,Oを原点とした世界座標系XwYwZwを設定する。この座標系において、カメラ運動として、Ti(Txi,Tyi,Tzi)の並進運動、カメラ軸周りの回転ψi,ωi,θiとする。対象物の点Pj(Xj,Yj,Zj)はカメラにより画像面において投影中心(主点)を原点とした画像面へ投影され、画像座標値(xij,yij)として観測されるとする。
なお、説明の都合上、初期フレームでの視点とOは一致しているとし、光軸はZw軸と平行関係にあり、θiはXとXw軸との成す角とするが、一般性を損なわない。
図2は請求項3の発明に関する基本構成図であり、本実施例を図2にそって説明する。本発明は、時系列画像を蓄積した時系列画像データベース11、各画像における特徴点の座標値を観測する特徴点観測部12、画像座標値からなる行列データからカメラ運動と3次元形状を復元する因子分解処理部13、レンズ歪パラメータを推定するパラメータ推定部14、カメラ運動を復元するカメラ運動復元部15、カメラ運動と3次元形状、並びに、レンズ歪パラメータが得られるまで処理を繰り返すための反復処理部16から構成される。
この構成において、時系列画像データベース11には、ハードディスク、RAID装置、CD−ROMなどの記録媒体を利用する、または、ネットワークを介してリモートなデータ資源を利用する形態でもどちらでも構わない。
さらに、図3は画像入力部21からの画像をリアルタイムで処理する場合の処理構成図であり、本発明は必ずしも各データベース部などの記憶装置を必要としない。
まず、図2の特徴点観測部12において、対象物を撮影した時系列画像として時系列画像データベース11からフレーム数Fの画像系列を取り出す。この取り出した画像系列において特徴点追跡を行う。特徴点は従来から用いられているような以下の手順により抽出する。
図4に示すように画像1の領域1において(1)各画素に対する2×2のヘッセ行列を求める。次に、(2)各点の3×3近傍領域において極大点かどうか判定し、極大点以外の点を削除する(non−maxima suppression)。さらに、(3)得られた各点のヘッセ行列の固有値σl,σs(σs≦σl)を求め、σsが所定のσp以上となる点を抽出する。最後に、(4)抽出した点のσsの大きさの順にソートし、上位の点から順番にその点(pl)より上位の点(ph)が所定のσd画素以内の距離に存在するかどうかを判定し、もし、存在する場合は下位の点plを削除する。さらに、抽出した特徴点(j=1,2,・・・,P)をKLT法(Kanade−Lucas−Tomasi)により画像i(i=1,2,・・・,F)にわたって追跡し、画像座標値(xij,yij)を観測する。
このようにして得られた特徴の画像座標値を式(17)に示す配列に並べた2F×Pの行列データ(行列データ[A])を用意する。
次に、特徴点観測部12、因子分解処理部13、パラメータ推定部14、カメラ運動復元部15、並びに、反復処理部16の処理内容について、図5の処理フロー図にそって説明する。ステップS1では、前述した観測座標値を入力する。そして、レンズ歪の安定化係数κijとカメラ運動の安定化係数εij(ζi,ηi),δijを式(18)に示すように初期化する。
ステップS2の漸近行列の生成では、保持しておいた式(17)の2F×Pの行列データ[A]の行列要素(xij,yij)から、式(2)にしたがって(uij,vij)を得る。これらの値を式(19)に示す配列に並べた2F×Pの行列を漸近行列[B]として保持しておく。
ここで、初期状態として、処理モードを“パラメータ推定”にしておく。次に漸近行列[B]を入力データとして、ステップS3の特異値分解により式(20)に示す3つの行列[U],[W],[V]に行列分解する。
ここで、[U]は2F×Pサイズの行列、[W]はP×Pサイズの対角行列、[V]はP×Pサイズの行列である。
次にステップS4の雑音除去では、式(21)の第二項に示すランク4以降の各行列の成分を削除する。
この削除のときは、行列[U]を取り出し、この行列の要素において第4から第P列目までを削除し、残りの成分からなる行列を保持し、行列[W]を取り出し、この行列の要素において第4から第P行目並びに第4から第P列目までを削除し、残りの成分からなる行列を保持し、行列[V]を取り出し、この行列の要素において第4から第P行目までを削除し、残りの成分からなる行列をそれぞれ保持し、式(22)とする。
次に、第4から第P行目並びに第4から第P列目までを削除した行列[W]の対角要素の平方をとった行列から、式(23),(24)に示す行列[U’]と行列[V’]を得る。
次にステップS5の変換行列算出では、保持してある行列[U’]を取り出し、式(25)〜(27)に示す連立する条件式における、式(28)に示す対称行列[C]の各要素にかかる係数を計算する。
これらの係数計算は、行列演算により容易に得られるものであり、この条件式を全フレームに対して計算する。次に、全フレームの式(25)〜(27)に示す連立する条件式に対して、最小二乗法などの数値計算を利用して3×3サイズの行列[C](式(28))の各要素を決定する。
さらに、求めた行列[C]を式(29)に示すように固有値分解する。
ここで、固有値行列の平方と固有値行列から、式(30)の行列[C’]を生成し、この行列要素を成分にもつ行列[Q]を式(31)に従って算出する。
次にステップS6の平面運動復元では、前記式(31)で求めた行列[Q]と、保持しておいた前記式(23)の行列[U’]から、式(32)の行列演算により行列[M’]を計算する。
そしてこの行列[M’]から各フレーム(第iフレーム)の行列要素(mix,nix)または(miy,niy)を取り出し、式(33)を使って、ヨー回転θiを復元する。
次に、式(32)の行列[M’]から各フレーム(第iフレーム)の行列要素(Tiu,Tiv)を取り出し、この(Tiu,Tiv)から、式(34)を使って第iフレームにおけるユークリッド空間でのXY並進運動(Txi,Tyi)を計算する。
次にステップS7の3次元情報復元では、先に保持しておいた式(24)の行列[V’]と、ステップS5の変換行列算出で得られた式(31)の行列[Q]から、式(35)に示す行列演算を行い、行列[S’]を求める。
次に、行列[S’]の要素に対して、式(36)に示す変換を行い、これを要素とする行列を[P]とする。
行列[P]の列ベクトルは、それぞれ第j番目の特徴点のユークリッド空間での3次元座標値(Xj,Yj,Zj)になっている。
次にステップS8において、処理モードがパラメータ推定モードであるか否かが判定される。初期状態では処理モードが“パラメータ推定”に選択されているため、ステップS9においてレンズ歪パラメータ推定の処理を実行する。
パラメータ推定部14は、画像での観測座標値(xij,yij)と式(10)で計算される誤差(Δxij,Δyij)を求め、式(11)を満たすように、レンズ歪パラメータklを、全フレーム(i=1,2,・・・,F)、全特徴点(j=1,2,・・・,P)に対して、最小二乗法などを使ってパラメータを当てはめる。求めたレンズ歪パラメータ値を式(3)に代入し、式(2)に示す平面運動投影(uij,vij)を得る。
次に反復処理部16はステップS10〜S13の処理を行う。すなわちステップS9でレンズ歪パラメータを求めたことにより得られた平面運動投影値と、レンズ歪を推定する1つ前の段階での平面運動投影値との二乗平均誤差を算出し(ステップS10)、この差ΔEと許容値を比較し(ステップS11)、ΔEが、許容値以下に収束していない場合は、現時点で保有しているレンズ歪の安定化係数κijとカメラ運動の安定化係数εij,(ζi,ηi),δijを使って式(2)に示す座標値(uij,vij)を更新する。
この係数更新に伴い、前記ステップS2の漸近行列の生成における式(19)により漸近行列[B]を更新する。この更新された漸近行列[B]を新たな入力データとして、ステップS3の特異値分解からの一連の処理(ステップS2〜ステップS7)を繰り返す。
図6はパラメータ推定処理(本発明の第1の安定化処理)モード時のフローチャートを示している。図6の各繰り返しにおいて、差ΔEが許容値以下に収束した場合は、パラメータ推定の処理を終了し、図5のステップS12の処理モード切り替え回数がN回以上ではないことを条件に、ステップS13において処理モードを“カメラ運動復元”に切り替える。
なお、本実施例では放射型のレンズ歪を対象としているが、その他のレンズ歪モデルにも応用ができ、上記と同様に他のレンズ歪モデルにおいても本実施例を利用することができる。
次に、処理モードを“カメラ運動復元”に切り替えた場合、図5のステップS8の処理モード選択以降では、“カメラ運動復元”の処理(ステップS14)を実行する。この処理ではレンズ歪パラメータ、平面運動、3次元形状が与えられたとして図2のカメラ運動復元部15においてカメラ運動(X軸回りの回転ψiとY軸回りの回転ωi、光軸並進運動Tzi)を復元する。
まず、現時点で保有しているレンズ歪安定化係数κijにより、画像から観測した座標値(xij,yij)を式(37)によりレンズ歪を補正した座標値(x’ij,y’ij)を得て、平面運動投影値(mT iSj,nT iSj)を使って式(12)の誤差(Δuij,Δvij)を求める。
これらを式(13)に代入し、一般化逆行列を利用して、ψi,ωi,Tziを求める。
あるいは、Newton法、Powell法、Levenberg−Marquardt法に代表される最適化アルゴリズムを使って、式(13)においてψi,ωi,Tziを同時に求めることも可能である。さらに、ニューラルネットワークや遺伝的アルゴリズムなどの応用も可能である。
次に反復処理部16はステップS10〜S13の処理を行う。すなわちステップS14でカメラ運動を求めたことにより得られた平面運動投影値と、1つ前の段階での平面運動投影値との二乗平均誤差ΔEを算出し(ステップS10)、誤差ΔEと許容値を比較し(ステップS11)、ΔEが許容値以下に収束していない場合は、先の計算で求めたカメラ運動を使って式(4)〜式(6)に従ってカメラ運動の安定化係数εij,(ζi,ηi),δijを更新する。
この係数更新に伴い、前記ステップS2の漸近行列の生成における式(19)により漸近行列[B]を更新する。この更新された[B]を新たな入力データとしてステップS3の特異値分解以降の一連の処理(ステップS2〜S7)を繰り返す。
図7はカメラ運動復元処理(本発明の第2の安定化処理)モード時のフローチャートを示している。図7の各繰り返しにおいて、誤差ΔEが許容値以下に収束した場合は、カメラ運動復元の処理を終了し、図5のステップS12の処理モード切り替え回数がN回以上ではないことを条件に、ステップS13において処理モードを“パラメータ推定”に切り替える。
本実施例において、パラメータ推定とカメラ運動復元間の処理モード切り替えの際、切り替え回数がN回を超えた時点で全ての処理を停止し、その時点でのレンズ歪パラメータとカメラ運動を出力する。以上の本発明の実施例により、時系列画像の特徴点の画像座標値から、カメラ視点の運動:XYZ軸周りの回転とXYZ軸方向の並進運動、並びに、物体形状を構成する3次元情報を復元し、同時に、レンズ歪パラメータを推定することができる。
尚、上記実施例において、特徴点観測部12、因子分解処理部13、パラメータ推定部14、カメラ運動復元部15、反復処理部16は、例えばコンピュータ装置が有するCPUによって実現され、各処理をプログラムとして搭載することができる。
また前記各部(12〜16)で演算された行列、誤差等の演算結果、処理結果は、内部メモリや外部記憶装置等に書き込み・読み出しができるようにしても良い。
本実施例は請求項1の発明に関する基本構成である図2、図3、図5〜図7と同じ形態をとるが、カメラ運動復元部15での処理が異なるだけであるため、以下では、この部分と関連する処理についてのみ説明する。本実施例2では光軸並進運動を考慮しないため、実施例1においてδij=1とした処理によって、カメラ運動、3次元形状、レンズ歪パラメータを求める。
処理モードを“カメラ運動復元”に切り替えた場合、図5の処理モードの選択(ステップS8)以降ではステップS14の“カメラ運動復元”の処理を開始する。この処理ではレンズ歪パラメータ、平面運動、3次元形状が与えられたとしてカメラ運動(X軸回りの回転ψiとY軸回りの回転ωi)の復元を行う。まず、現時点で保有しているレンズ歪安定化係数κijにより、画像から観測した座標値(xij,yij)を前記式(37)によりレンズ歪を補正した座標値(x’ij,y’ij)を得て、平面運動投影値(mT iSj,nT iSj)を使って式(12)の誤差(Δuij,Δvij)を求める。
光軸並進運動Tzi=0,δij=1とおき、ψiとωiを未知数として全特徴点(j=1,2,・・・,P)について行列標記すると、前記式(16)に示す線形連立一次方程式となる。そして式(16)左辺左側の行列の一般化逆行列を使って、X軸回りの回転ψiとY軸回りの回転ωiを求めることができる。
図2の反復処理部16では、カメラ運動を求めたことにより得られた平面運動投影値と、1つ前の段階での平面運動投影値との二乗平均誤差を算出し、この誤差ΔEが許容値以下に収束していない場合は、先の計算で求めたカメラ運動を使ってカメラ運動の安定化係数εij,(ζi,ηi)を更新する。
この係数更新に伴い、図5のステップS2の漸近行列の生成では式(19)の漸近行列[B]を更新する。この更新された[B]を新たな入力データとしてステップS3の特異値分解以降の一連の処理(ステップS2〜S7)を繰り返す。
各繰り返しにおいて、誤差ΔEが許容値以下に収束した場合は、カメラ運動復元の処理を終了し、処理モードを“パラメータ推定”に切り替える。それ以降の処理の流れは実施例1と同様となる。以上、実施例2により、時系列画像の特徴点の画像座標値から、カメラ視点の運動:XYZ軸周りの回転とXY軸方向の並進運動、並びに、物体形状を構成する3次元情報を復元し、同時に、レンズ歪パラメータを推定することができる。
尚、上記実施例において、特徴点観測部12、因子分解処理部13、パラメータ推定部14、カメラ運動復元部15、反復処理部16は、例えばコンピュータ装置が有するCPUによって実現され、各処理をプログラムとして搭載することができる。
また前記各部(12〜16)で演算された行列、誤差等の演算結果、処理結果は、内部メモリや外部記憶装置等に書き込み・読み出しができるようにしても良い。
以上のように実施例1、2によれば、市販のカメラを使って取得した時系列画像全般(移動手段を利用して撮影した車載画像、海上画像、空撮画像、屋内画像など)から、カメラ運動、3次元形状、並びに、レンズ歪パラメータを復元することができる。レンズ歪パラメータを推定することができるため、従来のように、予めカメラキャリブレーション作業によりレンズ歪を求めておく必要がない。
なお、本実施例で使用する計算は、大半が線形演算で構成されるため、コンピュータ言語での実装が容易である。また、レンズ歪パラメータを推定できることで、取得した画像に幾何的補正をおこなうことで、レンズ歪を低減した透視投影像が取得できる。
すなわち、レンズ歪パラメータを使って各画素の座標値(xij,yij)を式(2)に示す座標値(κijxij,κijyij)に変換し、その座標値に画素を埋め込む(画像を幾何的に補正する)ことにより、レンズ歪を補正した透視投影での画像を取得することができるようになる。
11…時系列画像データベース
12…特徴点観測部
13…因子分解処理部
14…パラメータ推定部
15…カメラ運動復元部
16…反復処理部
21…画像入力部
12…特徴点観測部
13…因子分解処理部
14…パラメータ推定部
15…カメラ運動復元部
16…反復処理部
21…画像入力部
Claims (5)
- 画像入力手段で取得した時系列画像中において、時系列に関するカメラ視点の運動と外界の3次元空間または物体形状を構成する3次元情報を復元し、同時に、カメラのレンズ歪パラメータを推定する方法であって、
前記取得した時系列画像上に設定した画像座標系において、各時系列画像中の特徴点を追跡して画像座標値を観測する画像座標値観測ステップと、
前記画像座標値観測ステップで観測された特徴点の画像座標値を、暫定的なレンズ歪係数とカメラ視点の運動に関するパラメータと前記特徴点の3次元座標値を使って平面運動投影へ座標変換し、得られた座標値を要素とする行列(漸近行列)を生成する漸近行列生成ステップと、
前記漸近行列生成ステップで生成された漸近行列を特異値分解し、雑音除去を行って運動情報を表す行列データと3次元情報を表す行列データを得て、その運動情報を表す行列データの行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列を求め、前記運動情報を表す行列データに前記変換行列を作用させてカメラ視点に関する光軸周りの回転運動と光軸と垂直な平面上の並進運動を復元し、並びに、前記3次元情報を表す行列データに前記変換行列の逆行列を作用させて物体形状を構成する3次元情報を復元する平面運動・3次元情報復元ステップと、
平面運動投影への変換係数(安定化係数)と、前記平面運動・3次元情報復元ステップで復元された平面上の並進運動と3次元情報から算出される平面運動投影座標値を与えて、該座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求めるレンズ歪パラメータ推定ステップと、
前記画像座標値観測ステップで観測された画像座標値を、前記レンズ歪パラメータ推定ステップで得られたレンズ歪係数によって変換した座標値と、前記平面運動・3次元情報復元ステップで復元された平面上の並進運動および3次元情報から算出される平面運動投影座標値の間の座標誤差からカメラ運動を求めるカメラ運動復元ステップとを備え、
前記レンズ歪パラメータ推定ステップを実行して得られたレンズ歪係数に基づく平面運動投影値と、該ステップ実行直前のレンズ歪係数に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記漸近行列生成ステップの漸近行列を更新し、前記平面運動・3次元情報復元ステップおよびレンズ歪パラメータ推定ステップを実行してレンズ歪を補正する第1の安定化処理と、
前記カメラ運動復元ステップを実行して得られたカメラ運動に基づく平面運動投影値と、該ステップ実行直前のカメラ運動に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記漸近行列生成ステップの漸近行列を更新し、前記平面運動・3次元情報復元ステップおよびカメラ運動復元ステップを実行してカメラ運動を補正する第2の安定化処理とを、交互に切り替えて繰り返し実行することを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法。 - 請求項1に記載のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法であって、前記カメラ運動復元ステップは、前記座標誤差から、カメラ光軸以外の回転軸周りの回転運動を求めることを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法。
- 画像入力手段で取得した時系列画像中において、時系列に関するカメラ視点の運動と外界の3次元空間または物体形状を構成する3次元情報を復元し、同時に、カメラのレンズ歪パラメータを推定する装置であって、
前記取得した時系列画像上に設定した画像座標系において、各時系列画像中の特徴点を追跡して画像座標値を観測する特徴点観測部と、
前記特徴点観測部で観測された特徴点の画像座標値を、暫定的なレンズ歪係数とカメラ視点の運動に関するパラメータと前記特徴点の3次元座標値を使って平面運動投影へ座標変換し、得られた座標値を要素とする行列(漸近行列)を生成し、前記漸近行列を特異値分解し、雑音除去を行って運動情報を表す行列データと3次元情報を表す行列データを得て、その運動情報を表す行列データの行列要素において、カメラ運動を規定するために設定した条件を満足する変換行列を求め、該変換行列および前記運動情報を表す行列データに基づいて、カメラ視点に関する光軸周りの回転運動と光軸と垂直な平面上の並進運動を復元し、前記変換行列の逆行列と前記3次元情報を表す行列データに基づいて、物体形状を構成する3次元情報を復元する因子分解処理部と、
平面運動投影への変換係数(安定化係数)と前記因子分解処理部で復元された平面上の並進運動と3次元情報から算出される平面運動投影座標値を与えて、該座標値を関係付ける未校正投影モデルにおいてレンズ歪係数を未知数とした評価関数を設定し、その評価関数を最適にするレンズ歪係数を求めるパラメータ推定部と、
前記特徴点観測部で観測された画像座標値を、前記パラメータ推定部で得られたレンズ歪係数によって変換した座標値と、前記因子分解処理部で復元された平面上の並進運動および3次元情報から算出される平面運動投影座標値の間の座標誤差からカメラ運動を求めるカメラ運動復元部と、
前記パラメータ推定部により得られたレンズ歪係数に基づく平面運動投影値と、得られる直前のレンズ歪係数に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびパラメータ推定部の動作を行わせてレンズ歪を補正する第1の安定化処理と、
前記カメラ運動復元部により得られたカメラ運動に基づく平面運動投影値と、得られる直前のカメラ運動に基づく平面運動投影値との誤差が設定評価値以下に収束しないときに、現時点でのレンズ歪の安定化係数およびカメラ運動の安定化係数によって前記因子分解処理部の漸近行列を更新し、前記因子分解処理部およびカメラ運動復元部の動作を行わせてカメラ運動を補正する第2の安定化処理とを、
交互に切り替えて繰り返し実行する反復処理部とを備えたことを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置。 - 請求項3に記載のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置であって、前記カメラ運動復元部は、前記座標誤差から、カメラ光軸以外の回転軸周りの回転運動を求めることを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定装置。
- 請求項1又は請求項2のいずれか1項記載のカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法をコンピュータに実行させるためのプログラムとしたことを特徴とするカメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005221262A JP2007034964A (ja) | 2005-07-29 | 2005-07-29 | カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005221262A JP2007034964A (ja) | 2005-07-29 | 2005-07-29 | カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007034964A true JP2007034964A (ja) | 2007-02-08 |
Family
ID=37794105
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005221262A Pending JP2007034964A (ja) | 2005-07-29 | 2005-07-29 | カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007034964A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010038791A (ja) * | 2008-08-06 | 2010-02-18 | Osaka Univ | 光路長の自律校正を用いた法線ベクトル追跡型超精密形状測定方法 |
JP2015201714A (ja) * | 2014-04-07 | 2015-11-12 | オリンパス株式会社 | 撮像装置、画像処理方法及び制御プログラム |
CN109191528A (zh) * | 2018-07-13 | 2019-01-11 | 云南大学 | 利用球像与圆环点极线的性质标定针孔摄像机的方法 |
CN113516719A (zh) * | 2021-04-21 | 2021-10-19 | 深圳臻像科技有限公司 | 一种基于多单应性矩阵的相机标定方法、系统及存储介质 |
-
2005
- 2005-07-29 JP JP2005221262A patent/JP2007034964A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010038791A (ja) * | 2008-08-06 | 2010-02-18 | Osaka Univ | 光路長の自律校正を用いた法線ベクトル追跡型超精密形状測定方法 |
JP2015201714A (ja) * | 2014-04-07 | 2015-11-12 | オリンパス株式会社 | 撮像装置、画像処理方法及び制御プログラム |
CN109191528A (zh) * | 2018-07-13 | 2019-01-11 | 云南大学 | 利用球像与圆环点极线的性质标定针孔摄像机的方法 |
CN109191528B (zh) * | 2018-07-13 | 2021-10-08 | 云南大学 | 利用球像与圆环点极线的性质标定针孔摄像机的方法 |
CN113516719A (zh) * | 2021-04-21 | 2021-10-19 | 深圳臻像科技有限公司 | 一种基于多单应性矩阵的相机标定方法、系统及存储介质 |
CN113516719B (zh) * | 2021-04-21 | 2023-08-15 | 深圳臻像科技有限公司 | 一种基于多单应性矩阵的相机标定方法、系统及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200096317A1 (en) | Three-dimensional measurement apparatus, processing method, and non-transitory computer-readable storage medium | |
CN108346165B (zh) | 机器人与三维传感组件联合标定方法与装置 | |
US10109104B2 (en) | Generation of 3D models of an environment | |
JP5393318B2 (ja) | 位置姿勢計測方法及び装置 | |
JP6324025B2 (ja) | 情報処理装置、情報処理方法 | |
JP6079333B2 (ja) | 校正装置、方法及びプログラム | |
JP3020898B2 (ja) | アフィンカメラ補正による三次元位置の線形推定方法 | |
JP7300550B2 (ja) | 視覚標識に基づき標識マップを構築する方法、装置 | |
KR101857472B1 (ko) | 카메라 보정 방법 및 이에 대한 시스템 | |
CN111127422A (zh) | 图像标注方法、装置、系统及主机 | |
US20090141043A1 (en) | Image mosaicing apparatus for mitigating curling effect | |
CN112184824A (zh) | 一种相机外参标定方法、装置 | |
JP2012123781A (ja) | 情報処理装置、情報処理システム及び情報処理方法 | |
JP2019032218A (ja) | 位置情報記録方法および装置 | |
JP4283816B2 (ja) | 三次元環境情報取得装置,三次元環境情報取得方法及びその方法を実現したプログラムを格納した記録媒体 | |
JP2016148649A (ja) | 情報処理装置、情報処理装置の制御方法、およびプログラム | |
JP2006195790A (ja) | レンズ歪推定装置、レンズ歪推定方法、及びレンズ歪推定プログラム | |
JP2007034964A (ja) | カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム | |
Tahri et al. | Efficient iterative pose estimation using an invariant to rotations | |
JP2000353244A (ja) | 基礎行列を求めるための方法、ユークリッド的な3次元情報の復元方法、および3次元情報復元装置。 | |
WO2019058487A1 (ja) | 3次元復元画像処理装置、3次元復元画像処理方法及び3次元復元画像処理プログラムを記憶したコンピュータ読み取り可能な記憶媒体 | |
JP2005063012A (ja) | 全方位カメラ運動と3次元情報の復元方法とその装置及びプログラム並びにこれを記録した記録媒体 | |
JP2004362128A (ja) | モデル画像照合における3次元姿勢の補正手法 | |
JP5991730B2 (ja) | 計測装置、計測方法及びプログラム | |
JP2006195789A (ja) | レンズ歪推定装置、レンズ歪推定方法、及びレンズ歪推定プログラム |