JP2004514228A - カイラル性のローバストな使用によるシーン復元およびカメラ較正 - Google Patents
カイラル性のローバストな使用によるシーン復元およびカメラ較正 Download PDFInfo
- Publication number
- JP2004514228A JP2004514228A JP2002543384A JP2002543384A JP2004514228A JP 2004514228 A JP2004514228 A JP 2004514228A JP 2002543384 A JP2002543384 A JP 2002543384A JP 2002543384 A JP2002543384 A JP 2002543384A JP 2004514228 A JP2004514228 A JP 2004514228A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- projection
- center
- constraints
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
本発明は非較正画像から3次元シーンを復元することに関し、シーンの復元とカメラの較正に対するカイラル性の使用にローバストで系統的な戦略を提供する。特に、本発明は、一般的な射影復元を準アフィン復元にアップグレードするものである。本発明の考え方は、カメラに関するカイラル的な制約の数を、シーン内の点を選択方式で統計的に使用することにより推論することである。推論されたカイラル的な制約は、無限平面の位置に関する制約として働き、線形プログラミングを使用して仮の無限平面を決定することができる。この仮の無限平面に基づき、最初の射影復元をカメラに関する準アフィン復元(いわゆるQUARC復元)に変換することができる。QUARC復元を元に自動較正の最適化を開始することが必要であり、またその結果大部分の自動較正アルゴリズムが収束するのに十分な条件が必要である。
Description
【0001】
本発明の属する分野
本発明は、概して、コンピュータビジョンおよび画像処理に関し、さらに詳細には、複数の非較正画像から3次元シーンを復元することに関する。
【0002】
本発明の背景
一連の非較正画像から3次元の物体またはシーンを復元することは、画像処理およびコンピュータビジョンの分野において現在最新のテーマである。シーンの復元技術が最近多大な興味を引いている理由として、1つにはシーン復元アプリケーションの急増が挙げられ、それに加えてデジタルカメラ、フィルムスキャナ、写真スキャナおよびその他デジタル化装置の広範な使用が上げられる。シーン復元アプリケーションの例には、3Dシーンおよび物体の復元、ロボットナビゲーションのためのシーン決定および物体の位置確認、3D CADモデルの自動構築ならびに仮想現実環境の生成、さらには動的シーンのリアルタイム3Dビューが含まれる。例えば、家の周りをカメラを持って一周し、異なる視点から取得した画像をコンピュータ化した3Dシーンビルダーに送り込むことにより、家をヴァーチャルな3Dに視覚化できる。
【0003】
基本的な復元の問題を次のように定義することができる。1または複数のカメラにより複数の視点から取得した3次元のシーンまたは物体の一連の非較正画像に基づいて、シーンの一般的な3次元構造、ならびに各カメラの視点ごとのカメラの位置および方向を再生することが望ましい。単純化のために、たとえすべての画像を1台のカメラで取得する場合も、またコンピュータで画像を人工的に生成する場合も、科学的文献ではカメラの1つの位置および方向の組み合わせを多くの場合「カメラ」と称する。人工的に生成されたコンピュータ画像の場合、各画像のビユーは独自の位置および方向を有する1台の「想像上の」カメラに関連づけられる。
【0004】
復元の問題を解決する典型的な方法では、まず非較正画像間の一致点に基づいていわゆる射影復元を行い、続いて射影復元を「通常の」ユークリッド復元に精緻化する。一連の非較正画像から始めるとき、画像の一致点、つまり画像内で特徴が一致する点に基づいて得られる最初の復元で通常最善なのが、射影復元である。射影復元とは、シーン点とカメラの構成であり、画像化される真のユークリッド構成とは離れた射影変換である。ユークリッドおよびいわゆるアフィン変換と同様に、未知の射影変換はシーン点とカメラの構成の移動、回転および歪曲が可能である。しかしながら、射影変換は無限平面を動かすこともできる。つまり平行性は通常維持されない。ユークリッド空間におけるシーンの復元を考えるために、未知の射影変換を決定しなければならない。実際には、未知の射影変換の決定は非常に難しく複雑な作業である。
【0005】
先行技術では、カメラの視点に対し、すべてのカメラが同じ内在性較正を有する必要があるという制約を設けることにより、射影変換の決定を行おうと試みてきた。通常の射影変換により再射影された画像が変化することはないとはいえ、歪められて期待に沿わないものになる可能性がある。較正に課した制約により、ありそうな復元可能性のファミリの構成員の検索が容易になる。較正に制約を課すことによりそのような復元可能性を探す工程は、通常自動較正または自己較正と呼ばれ、例えば参考文献1に記載されている。自動較正の基本的理論を拡大し、例えば参考文献2および3に記載されているように、もっとゆるい条件の下、すなわち、カメラに歪みがない、またはピクセルが固定の、または周知のアスペクト比を有する、という最低限の条件下で、自動較正が可能であることが分かっている。これにより、ズームカメラを有するビデオシーケンスの自動較正の幅が広がる。
【0006】
上記自動較正処理により非常に満足のゆく結果が得られる場合があるが、結果が思わしくないことも多く、完全な失敗につながることさえある。
【0007】
自動較正の主要な障害の1つは、射影復元において真の無限平面を見つけることであることが分かっており、よって参考文献4ないし6には、いわゆるカイラル性を考慮することにより制約を追加することが提案されている。カイラル性の概念および理論の基本的な説明である参考文献5の定義によると、所定のカメラより前方にあるか後方にあるかを示す点の特性を、通常、カメラに対する点のカイラル性と称する。射影復元にカイラル性に関する制約を追加するためは、復元されるシーン点のすべてがそれらを画像化するカメラの前方に位置することが必要である。これは任意射影復元には当てはまらない。カイラル不均衡と表現されるカイラル性に関する制約を使用することにより、射影復元内のすべての点について、真の無限平面の検索範囲をかなり狭めることができる。これは、最初の射影復元を、所定のカイラル不均衡に基づくカメラとシーン点のいわゆる準アフィン復元に予備変換することにより、大部分が達成される。シーンの準アフィン復元とは、復元されたシーンが無限平面により分割されない射影復元である。
【0008】
カイラル性に基づくシーン復元法の導入は、自動較正の分野に大きな進歩をもたらすが、収束および安定性の問題が残る。
【0009】
本発明の概要
本発明は、従来技術による構成が持つ前述およびその他の欠点を克服するものである。
【0010】
本発明の目的は、概して、デジタルまたはデジタル化された一連の非較正画像から3次元のユークリッドシーンの復元を速く正確に行うことである。
【0011】
本発明の目的はまた、通常の射影復元を、その後ユークリッド復元に精緻化することが可能な準アフィン復元にアップグレードするための方法およびシステムを提供することを目的とする。特に、この通常の射影復元のアップグレードを行うのに、ローバストで信頼性があると同時に比較的速い方法を見つけることが重要である。
【0012】
また、本発明の別の目的は、通常の射影復元をローバストで系統的に準アフィン復元にアップグレードするプログラム要素で構成されるコンピュータプログラムを提供することである。
【0013】
前述および他の目的は、本明細書の請求項により定義される本発明により達成される。
【0014】
本発明は、通常の射影復元を準アフィン復元にアップグレードするためのカイラル性に基づく従来の方法は不良な点の影響を受け易いという認識に基づいている。注意深く幾何学的配置を考慮することにより異常値を除去したとしても、数万のシーン点には不確定要素または意図せず配置された異常値により、不良な点が1または2残ってしまう。このような不良または不正確な点は、総じて、解決不可能であるか、無限平面に0ベクトルを返すか、または単に不正確な解決法を返すカイラル不均衡を導く場合がある。
【0015】
要約すると、本発明は、従来の方法より信頼性の高い、シーンの復元とカメラの較正に対するカイラル性の使用にローバストで系統的な戦略を提供する。本発明の概念は、最初の射影シーン復元を変換して、カメラの射影中心および場合によっては最初の射影復元のシーン点の部分的サブセットのみに対して準アフィン変換となることが明確なシーン復元にすることである。
【0016】
これに関し、総じて解決可能な1セットのカイラル不均衡を常に獲得することができるとは想定せず、むしろ、シーン点を合理的に使用することにより、カメラの射影中心(本明細書では単純にカメラと呼ぶ)に関する正確な不均衡を発見することができると想定する。これを行うのに鍵となる特徴は、カメラに対する複数のシーン点のカイラル性を考慮する選択方式でシーン点を統計的に使用することにより、カメラについて正確なカイラル不均衡を推論することである。推論されたカイラル不均衡は、無限平面の位置に関する制約として働き、カメラのカイラル不均衡を解消することにより、カメラの射影中心について準アフィン変換可能な、QUARC復元とも呼ばれる復元が通常可能になる。これは、カメラの射影中心の直交接線が無限平面により分割されないことを意味し、よって自動較正をうまく行うのに非常に強力な条件となる。
【0017】
次に、得られたQUARC復元を元に、ユークリッド復元へのアップグレードが対話式最適化手順により行われる。QUARC復元を元に対話式最適化を始めることは、大部分の自動較正アルゴリズムを収束させるために必要であることが分かっている。実際には、最適化された目的関数が物理的に有意味な量を表す場合、これは殆どの場合十分な条件となる。
【0018】
本発明による方法は、大規模および小規模両方の復元において特に信頼性が高いことが分かった。ビュー間に回転が殆どないか、または全くないという一般的な縮退があっても、本発明による方法は、非常に論理的に解決法となる可能性のあるファミリの構成員を導き出すことができる。さらに、本発明による方法は速く、よって復元を観るという目的に適している。
【0019】
カメラのカイラル不均衡を推論するための系統的な方法では、まずカメラの射影中心を個々のサブセットに分割する。次いで、各サブセットについて、サブセット内のカメラの射影中心のうち少なくとも2つに対する複数のシーン点のカイラル性に基づいた統計的多数決を行うことにより、無限平面の位置に対する制約を設ける。好適には、カメラの射影中心は2つを1セットとするセットに分割され、該カメラの中心のセット、c(n)、c(n+1)(n=1からN−1、Nはカメラの射影中心の総数に等しい)それぞれに対して制約を推論する。
【0020】
カメラだけのカイラル不均衡を推論するうえでの補足として、真の無限平面の検索範囲をさらに狭めることが可能である。これは、無限平面に複数の異なる仮説を考え、シーン点のカイラル性に基づく仮説を受け入れることによりなされる。このときすべてのシーン点について正確なカイラル性は必要でない。実際には、これは、満足されたカイラル不均衡の数が所定のしきい値を超える仮説を受け入れることを意味する。
【0021】
本発明は次の利点を提供する:
− 迅速で正確なシーンの復元
− カイラル性のローバストな使用(これにより自動較正中に安定した収束が与えられる)
− 計算の複雑性が比較的小さいこと
【0022】
本発明により提供されるほかの利点は、後述する本発明の実施形態により明らかにする。
【0023】
本発明の実施形態の詳細な説明
すべての図面について、対応する要素または同様の要素には同一の参照番号を付した。
【0024】
本発明のよりよい理解のために、本発明を実行するのに適切なコンピュータシステムの概略的な説明から始めるのが有益である。
【0025】
システムの概要
図1は本発明の実行に適したコンピュータシステムの例示的および概略的なブロック図である。コンピュータの形態は、パーソナルコンピュータ、メインフレームコンピュータ、マルチプロセッサシステム、マイクロプロセッサに基づくコンスーマエレクトロニクス、ネットワークPC,携帯用デバイスなどを含め、任意の従来型コンピュータシステムでよい。いずれにせよ、基本的にコンピュータシステム100は中央演算処理装置(CPU)10と、システムメモリ20と、様々なシステム構成要素を相互接続するシステムバス30とを備える。一般的にシステムメモリ20は、基本的な入力/出力システム(BIOS)および同様のルーチンを有する読み取り専用メモリ(ROM)21と、ランダムアクセスメモリ(RAM)22を含む。さらに、通常コンピュータシステムは、ハードディスク、磁気ディスク、光ディスク、フロッピー(登録商標)ディスクまたはデジタルビデオディスクなどの1つ以上の周辺記憶装置40を備え、持久記憶装置およびプログラム情報を提供する。各周辺記憶装置40は、通常記憶装置45ならびにドライブインターフェース46に繋がり、記憶装置40をシステムバス30に接続している。複数のプログラムモジュール(一般的にオペレーティングシステムを含む)、1つ以上のアプリケーションプログラムおよびその他プログラムモジュールを周辺記憶装置40に保存し、システムメモリ20のRAM22にロードしてCPU10で実行することができる。一般的にコンピュータシステムは、キーボード、ポインティングデバイスまたは音声認識装置などのユーザインターフェース(図示しない)を有する。コンピュータシステムはまた、ビデオアダプタ55などの適切なインターフェースを介してシステムバス30に接続されたモニタ50を備える。本発明に特に重要なものとして、一連の画像を提供できる画像装置60がコンピュータシステムに接続されている。適切な画像装置の例としては、デジタルビデオカメラ、フィルムまたは写真スキャナまたはその他デジタル化装置、並びにフレームグラバなどが挙げられる。画像装置60は、適切なインターフェース65を介してシステムバス30に接続されており、そのため画像データの伝送や、画像データを周辺記憶装置40および/またはシステムメモリ20に保存して、1つ以上のアクティブなプログラムモジュールの制御下でCPU10により処理することが可能である。しかしながら、システムに直接接続されたカメラまたはディジタイザを必要とせずに、前述したいずれの周辺記憶装置からも画像データをコンピュータシステムに提供することができる。さらには、従来のネットワークインターフェース75を介したローカルエリアネットワーク、インターネットまたはその他いかなる種類のネットワーク70を通じて画像データをリモートコンピュータからダウウンロードすることができる。画像はカメラによる実写画像である必要はなく、人工的に創られたコンピュータ画像でもよいことに注意されたい。
【0026】
上述で指摘したように、本発明は好適にはプログラムモジュール、ファンクションまたはそれらの相当物の形態のソフトウェアとして実行される。ソフトウェアは、C、C++、ジャバまたは特定の独自に開発された言語など、任意のコンピュータ言語で書かれていてよい。実際には、後述する工程、機能および動作はコンピュータプログラムにマッピングされており、コンピュータで該プログラムを実行すると適切な画像データに応じてシーン復元が達成される。
【0027】
当業者には自明であるように、本発明は図1のシステム構成に限定されない。実際には、適切である限りハードウェアとソフトウェアとのどのような組み合わせでも実行でき、カスタマイズした演算構造を使用するハードウェアだけで実行することもできる。
【0028】
前述のように、シーン復元の基本的な問題は、シーンの異なるビューの一連の非較正画像に基づいてシーンまたは物体の全体的な3次元構造を復元することである。これは、一般的に、平行運動並びに回転運動を行うカメラの場合に対応する。また、各ビューについて、カメラの位置および方向を見つけることも必要である。
【0029】
基本的な復元問題と本発明が提供する解決法の完全な理解に有益であるので、根本的なカメラのモデルについて簡単に説明する。
【0030】
カメラのモデル
図2は、1画像面のカメラの射影中心c、および3次元点xとカメラから見たそれに対応する画像点uを概略的に示している。複数のカメラに共通に使用されるモデルは、3次元射影空間から2次元射影空間への射影マッピングを使用する。射影マッピングは、カメラ行列と呼ばれる3×4の行列Pで表すことができ、3次元の点xを画像平面上の画像点u(=Px)に移す。カメラ行列PはP=K(R|−Rt)に分解することができ、P=KR(I|−t)とも表せる。ここで、Kはカメラの較正行列であり、Rは絶対座標フレームに対するカメラの方向を表す回転行列であり、tはカメラの位置を表す。較正行列Kは通常、以下の数式で定義される上方三角行列である。
【数42】
ここで、k1ないしk5は、次のように定義される内的なカメラのパラメータである:
k1は焦点距離に関する。
k2は歪みを示す。
k3およびk5は主点の座標である。
k4はアスペクト比に関する。
【0031】
射影復元
対応するカメラ行列P(n)を有する(nは1からNまでの整数)、N個のカメラの視点(以降は単にカメラと称す)から見た1セットのシーン点xjを想定する。異なるビュー間の、1セットの画像の一致点
【数43】
(ここで、
【数44】
は、i番目のカメラから見たj番目の点である)
に基づき、カメラ行列P(n)および点xjを、ゼロでない縮尺率までP(n)xjが
【数45】
と等しくなるように決定することにより、一般に最初の復元が行われる。任意の3次元射影変換Hにより点xjは真の復元
【数46】
と異なってもよいので、P(n)またはxjがそれ以上制約されることがなく、そのような復元を射影復元と呼ぶ。ユークリッド空間にシーンの復元を観ることを可能にするために、未知の射影変換Hが決定されなければならない。
【0032】
無限平面の発見
上述のように、未知の射影変換を決定するための従来の方法は、殆どがカメラの較正(いわゆる自動較正)に制約を課すことに基づいている。しかしながら、射影変換は無限平面を移動する場合があり、よって射影変換において任意の位置を有するため、未知の射影変換を決定する工程の主要な問題は射影変換に真の無限平面を見つけることである。射影復元における真の無限平面の検索を容易にするために、参考文献4、5および6では、射影復元のすべての点についてカイラル不均衡を使用することにより復元に付加的な制約を課することが提案されている。理想的には、この結果、射影空間に復元されたシーンがマッピングされる平面により分割されることのない、シーン点およびカメラの準アフィン射影復元が得られる。
【0033】
カイラル性に基づく従来の方法による分析
しかしながら、本発明者が注意深く分析したところ、通常の射影復元を準アフィン復元にアップグレードするためのカイラル性に基づく従来の方法には、収束および安定性に関して多くの問題があることが分かった。特に、参考文献4、5および6に提示されている方法は不良な点の影響を受けやすい。注意深く幾何学的配置を考慮することにより異常値を除去したとしても、数万のシーン点には不確定要素または意図せず配置された異常値により、不良な点が1または2残ってしまう。このような不良または不正確な点は、総じて、解決不可能であるか、または単に無限平面の解決法を不正確なものにする。
【0034】
図3Aは、1つの点のわずかな移動により、そうでなければ完全な射影復元であったものが変化して、その結果無限平面の妥当な位置がなくなり、よってカイラル不均衡のすべてのセットに対する妥当な解がなくなる様子を示している。この状態において、無限p∞における真の無限平面(未知)の「無限点」に注目すると興味深い。ここで、そのような点は概ね反対の方向に観察されている。理論的には、唯一可能な解決として、三角測量により無限平面上の位置をほぼ正確に求めることができるので、無限平面に強力な制約を有する。しかしながら、図3Aに示すように、不確定要素によるわずかな移動により、総じてカイラル不均衡は妥当な解決法を持たず、参考文献4に記載されているような解決法を試すと、無限平面にゼロベクトルを返す。
【0035】
図3Bは、1つの異常値がカイラル不均衡の全セットについて不正確な解決法をもたらす様子を示している。図3Bは、ユークリッド空間における無限平面に対する不正確な解決法を表す。意図せず配置された異常値がわずか1または2あるだけで、カイラル不均衡により決定される無限平面の多角解決領域が変化してしまい、その結果不正確な解決が得られる。
【0036】
QUARC復元およびカイラル性のローバストな使用
本発明はシーンの復元とカメラの較正に対するカイラル性の使用にローバストで系統的な戦略を提供する。本発明の概念は、簡潔には、カメラの射影中心だけに、および場合によっては最初の射影復元のシーン点の部分的サブセットに準アフィンであるよう実行された復元に、最初の射影復元を変換することである。これに関し、総じて解決可能な1セットのカイラル不均衡を獲得することができるとは想定せず、むしろ、カメラに対する複数のシーン点のカイラル性を考慮する選択方式でシーン点を統計的に使用することにより、カメラに関する正確な不均衡を発見することができると想定する。要するに、統計的選択方式によりカメラのカイラル不均衡を推論する。カメラのカイラル不均衡は無限平面の位置に対する制約として働き、不均衡を解消することにより、QUARC復元とも呼ばれるカメラの射影中心に対して準アフィンな復元が得られる。QUARC復元を元に自動較正を始めるには、収束を目的とする複数の相関的自動較正アルゴリズムが絶対的に必要である。実際には、特に物理的に有意味な目的関数を使用する場合、これはまた十分条件となる。
【0037】
以降、本発明の好適な実施形態により射影復元をQUARC復元へアップデートするための特別なアルゴリズムを参照しながら、本発明をより詳細に説明する。次のアルゴリズムは、一対のカメラの射影中心のためにカスタマイズされており、よってアルゴリズムの理論的背景も、一対のカメラの射影中心に関係している。
【0038】
カメラの射影中心の凸面形状が保護される、つまりカメラの中心の凸面形状のいかなる点も無限平面に変換されないとすると、射影変換hは、カメラの射影中心について準アフィンである。次に、復元をユークリッド対応物にする復元がカメラの射影中心のセットについて準アフィンである場合、射影復元は同時にQUARC復元である。
【0039】
凸面形状を考慮すると、カメラの中心c(1)、...、c(N)による射影復元は、それがカメラの中心のすべての組c(n)、c(n+1)(nは1からN−1)について準アフィンであれば、またその場合のみ、すべてのカメラの中心について準アフィンであることが示される。これは、カメラの中心の組c(n)、c(n+1)のいずれにも、その間に無限大にマッピングされない
【数47】
における連続的な経路があるということを意味し、カメラの中心間の直線分が真の無限平面により分割されないということを含む。結果的に、すべてのカメラの中心点は、hにより無限大にマッピングされた平面の一方の側にあるということになり、カメラの中心の凸面が無限平面により分割されないということを意味する。
【0040】
この時点で、QUARC復元とそうでないものについての説明をすることが有益である。図4は、復元されたカメラに囲まれた一鉢の花のユークリッド復元を表す。当然これはQUARC復元でもあり、またカメラのほぼ円形の軌道が楕円形である他のすべての射影相当物も、カメラの凸面形状を保護しており、QUARC復元である。しかしながら、反対に図5に示す射影相当物は、ユークリッド復元におけるカメラの縁が双曲線の形に変わっているためQUARC復元ではない。無限大にマッピングされなければならない平面が復元の中央を通過し、カメラの凸面形状を分断している。
【0041】
図5に示すようなシーン点とカメラの任意の射影復元がある場合、無限平面がカメラの中心の凸面形状を分割しないQUARC復元を見つける必要がある。本発明では、点の不適合または不適切な配置による問題がなく、これを極端にローバストに行うことができる。QUARC復元を得るために、復元が、確実に、カメラの中心の組c(n)、c(n+1)のすべてに対して準アフィンであることが十分条件であると既に指摘したので、残る問題は、カメラの中心について準アフィンであることを確実にするにはどうしたらよいかということである。
【0042】
参考文献5では、アフィン変換は、それが肯定の決定因子を有する場合、およびその場合のみ、カメラに対するカイラル性を保護することと、点がカメラの中心と無限平面の同じ側に位置する場合、およびその場合のみ、点のカイラル性が肯定の決定因子による射影変換により保護されることが示されている。この知識に基づき、ある点の所定のカメラに対するカイラル性は該点がカメラの前に位置するか後ろに位置するかを示すということに留意すると、一対のカメラにより画像化された点が、双方のカメラに対して同じカイラル性を有する場合、およびその場合のみ、射影復元は該1対のカメラに対して準アフィンであると推論できる。
【0043】
無限平面がカメラの中心を分割しない場合、およびその場合のみ、射影復元は一対のカメラに対して準アフィンである。上に示したように、一対のカメラが画像化した1点が両方のカメラに対して同一のカイラル性を有する場合、およびその場合のみ、これは真である。任意の射影復元が一対のカメラを含む場合、復元が準アフィンかどうかの決定は、必然的に二項的な決定となる。現在の射影復元が既にQUARCであるか、または真の無限平面がカメラの中心を分割しないかである。この二項的不明瞭は、一対のカメラに対する点のカイラル性を考慮することにより、両方のカメラが画像化した単一の点により解消できる。しかしながら、該点が不正確であるか、または意図せず配置された異常値の形態である場合、二項的決定は自動的に機能しない。
【0044】
統計的選択方式によるカメラのカイラル不均衡の獲得
本発明による解決法は、一対のカメラが、特に一連の連続的なビューを提供する場合、一般に複数の共通点を有するという事実を利用することにより、二項的不明瞭を解消することである。統計のこの存在度をローバストな選択アルゴリズムに使用し、後述するように各共通点にそれぞれ独自の点数を与える。
【0045】
カメラのカイラル不均衡を記録するために、対応する一対のカメラに対する複数の点のカイラル性に応じて各カメラに+1または−1を乗じる。射影復元にカメラ行列P(1)からP(N)で表すN個のカメラがあると仮定すると、該カメラ行列には次のように+1または−1を乗じる。
【数48】
(n=2からN)
ここで、式sign[(P(n)X(b))3(P(n−1)X(b))3]は、P(n)およびP(n−1)で表したカメラに対する点X(b)のカイラル性を表し、合計
【数49】
は、P(n)およびP(n−1)で表したカメラから見たシーン点X(b)L個についての合計である。演算(arg)3によりその独立変数argの第3の要素が選択される。関数sign(x)は以下のように定義される。
【数50】
【0046】
上記数式の本質は、一対のカメラの両方から見た複数の点(好適にはすべての点)をカイラル性に基づく選択方式に使用してカメラ行列に乗じる符号を決定し、よって該一対のカメラの準アフィン性に関する二項的不明瞭を解消する。カメラの対すべてに対して選択方式を繰り返し、該カメラのすべての対、すなわちN個のカメラからなるセット全体の二項的不明瞭を解消する。本発明に従ってローバストな「多数」選択方式を使用することにより、非常に高い確率で正しい符号をカメラに乗じることになる。
【0047】
当然であるが、異なる点には異なる荷重で選択方式が実行される。
【0048】
次いで、対応するカメラ行列P(n)(ここでは単純にPと表す)に基づき、以下の式に従って各カメラの投影中心c(n)を計算する:
【数51】
(1=1,...4)
ここで、
【数52】
はPからl番目の列を除去したものである。前出の数式51で計算したものにローバストな数式48の符号乗算を加味したものであり、またベクトル空間
【数53】
における4次元ベクトルとみなされるカメラの中心はこのとき、すべて
【数54】
の半分に位置している。これは、該すべてのカメラの中心の、無限平面を現すベクトルp∞を有するスカラー積の符号がみな同じであるということを一般に意味する。p∞の符号は重要でないので、以下の式を求めることができる:
【数55】
(n=1,...N)
【0049】
この論理的処理は無限平面に効果的な制約を産む。この処理が機能しないのは、対になるカメラの複数組から見た点の半分以上がカメラの不正な側に位置する異常値であるか、あるいはカメラの位置が大幅にずれている場合である。幾何学的制約により異常値の多くは既に除去されており、完全なトラッキング不良によりカメラ間の関係がどこかで失われているという意味でシーケンスが「壊れて」いるのでない限り、一般に問題は起こらない。
【0050】
線形プログラミングによる仮の無限平面の決定
妥当な射影復元のために、最大スカラーδが以下の式で表される不均衡を満たすような仮の無限平面をみつけ、ベクトルp∞とする。:
【数56】
(n=1,...,N、−1≦(p∞)i≦1、i=1,...,4)
このベクトルを発見することは線形プログラミングの問題であり、参考文献7に概要が記載されている方法を使用することにより迅速に解決できる。ベクトルp∞が発見されたら、射影復元を以下の式に示す変換行列で変換する。:
【数57】
ここでAは3×4の行列であって、該行列は最大値を有する
【数58】
の要素として同じ列にゼロを有し、その他の3列は単位行列に等しい。この変換によりQUARC復元が生まれる。
【0051】
上記をユークリッドに近づけるために、シーケンスの中央からビューPを取り、復元全体を以下のように変換することができる。:
【数59】
次いで、カメラの運動(nからn+1)のメジアンが(N−1)−1となるよう復元の縮尺を標準化することができる。最後に、過半数の点がカメラの前方ではなく後方にある場合、以下の式に示す復元を適用することができる。
【数60】
【0052】
カメラの中心に対する無限平面の位置
無限平面の位置に対する制約を確立するためにカイラル性をいかにして使用するかを、より直感的に、且つ深く理解できるように、ここで図6ないし9を参照する。
【0053】
図6は、複数のカメラおよびシーン点の射影復元の概略図である。該射影復元は複数のシーン点および複数のカメラを含み、図はうち4台のカメラを示す。それらカメラはカメラの中心c(1)、c(2)、c(3)およびc(4)を有する。真の無限平面p∞(すなわち、ユークリッド空間内の無限領域にマッピングされる平面)は、射影復元内に明確に定義されるが当初は未知である位置にある。
【0054】
カメラの中心のいずれのセットについても、真の無限平面p∞はカメラの中心を2セット(空のセットと、全数個のセットに分割する場合も含む)に分割する。通常、点が正確であると仮定すると、各点が、いずれのカメラから捕らえられる点であるか、およびそれらカメラに対して該点はカメラの前方にあるか、または後方にあるかにより、無限平面の分割構成例が複数除去される。カメラの中心すべてについて真である分割構成を決定することができれば、無限平面の位置を効果的に絞り込むことができ、QUARC復元が得られる。
【0055】
本発明の好適な実施例では、カメラの中心を2個1組と考え、各カメラの中心の組について複数の分割構成例を除去することにより、無限平面の位置に対する制約を得ることができる。
【0056】
図7は、図6の射影復元に可能な、カメラの中心c(1)およびc(2)に対する無限平面の複数の分割構成を示す概略図である。図7により、全てのシーン点がカメラの中心c(1)およびc(2)双方の前方にあることが分かる。全ての点は、両方のカメラに対して同一のカイラル性を有し、よって復元は2つのカメラの中心に対して準アフィンである。これは、真の無限平面がカメラの中心c(1)とc(2)との間の線分と交差しないということと、該2つのカメラの中心を分割するような無限平面の分割構成はすべて排除できるということを意味する。カメラの中心c(1)のカメラ行列P(1)を元に、数式48および51を使用する、制約を確立するための論理的処理では、カメラ行列P(2)およびそれに関連するカメラの中心c(2)に+1を乗じる。
【0057】
無限平面の位置をさらに絞り込むために、続いてカメラの中心c(2)およびc(3)を考慮する。図8を参照すると、全てのシーン点がカメラの中心c(2)およびc(3)双方の前方にあることが分かる。これは、該復元もまたこれら2つのカメラの中心に対して準アフィンであることを意味し、よって真の無限平面がカメラの中心c(2)とc(3)との間の線分と交差しないということが導かれる。その結果、該2つのカメラの中心c(2)およびc(3)を分割するような無限平面の分割構成はすべて排除できる。数式48および51を使用する論理的処理では、これはカメラ行列P(3)およびそれに関連するカメラの中心c(3)に+1を乗じることに相当する。
【0058】
図9を参照すると、シーン点はカメラの中心c(3)の前方にあるが、カメラの中心c(4)の後方に位置することが分かる。シーン点はカメラの中心c(3)およびc(4)に対して同一のカイラル性を有さず、よって、復元はこれら2つのカメラに対して準アフィンでない。これは、真の無限平面が実際にカメラの中心c(3)とc(4)との間の線分と交差しなければならないということを意味し、無限平面の位置に対する非常に強力な制約となる。論理的処理では、これはカメラ行列P(4)とそれに関連するカメラの中心c(4)に−1を乗じることに相当する。
【0059】
この手順をカメラの中心の全ての組に順次繰り返すことにより、無限平面を効果的に絞り込む。
【0060】
自動較正の最適化
上述のように、続いてQUARC復元を元に行われる自動較正最適化は、大部分の自動較正アルゴリズムを収束させるための必要条件であることが分かっている。実際には、最適化された目的関数が物理的に有意味な量を表すとき、QUARC初期化は殆どの場合十分条件である。
【0061】
焦点距離(k1)、歪み(k2)、主点(k3,k5)およびアスペクト比(k4)に関する内在的カメラのパラメータを含む数式2で規定される較正行列Kによりカメラの内因子を獲得する。通常、カメラの歪みは0に近いと推定することができる。さらに、最も現実的な場合、アスペクト比と主点に関しては少なくとも概数が分かる。内因子の近似値を使用し、アスペクトが約1に、主点が原点の近くに、および画像の大きさが焦点距離と同位となるように、画像の座標システムを選択する。射影復元に重大な変形を実際にもたらす可能性のある未知のパラメータは、無限平面の3つのパラメータ、および1つのカメラの未知の焦点距離である。焦点距離以外の内因子の値が正確に推定されれば、基準とするカメラによる前段階からQUARC復元を行うことは、距離復元から以下の変換を行うことである。
【数61】
ここで、fは基準とするカメラの未知の焦点距離であり、3つのパラメータvT=[v1 v2 v3]は無限平面に関する。本発明が提案する方法は、まずこれら4つのパラメータのみに集中して最適化を行うことにより、全体的な空間束調整へと進む前に射影変形の大部分を除去する。これは、QUARC復元から最適化を開始した場合で、有意味な目的関数を最小化した場合に、顕著に有効に働く。最小化はQUARC復元から、
【数62】
および
【数63】
として始める。目的関数は、後述するように較正行列から直接構築される。仮の変換
【数64】
を用いて復元を変換する。次いでカメラ行列をP(n)≒K(n)R(n)[I|−t(n)]に因数分解する。ここで、R(n)は回転行列であり、
【数65】
(k1≧0,k4≧0)である。
【0062】
次いで、本発明の好適な実施例による新規目的関数を、すべてのカメラの残差r(n)の合計と定義する。:
【数66】
ここで、
【数67】
定数α1、α2、α3は、歪み、主点およびアスペクトそれぞれの事前推定値の信頼度から決定される。単純化のために、それらすべてを1に設定してもよい。例えば参考文献8に記載されている周知のレーベンベルグ−マルカート法を使用して、実際の最小化を行うことができる。推定された焦点距離に概ね比例する因数(k1+k4)−2による標準化は、縮重状態で焦点距離が激減することを防ぐことが分かっている。明らかに、数式67の第3項が1からアスペクトの偏差比となることが必要である。焦点距離が大きいとき、主点の原点からの偏差はさらに許容可能であるため、該偏差を表す項についても必要とされる。同様のことが歪みについても言える。質を最適化するために、シーン復元を全体的な空間束調整の段階に進める。該調整とは、局地的に適正な最適化を行うことにより、すべての点とすべてのカメラを同時に合わせて復元する従来の方法である。空間束調整の現代的且つ完全なガイドとして参考文献9を参照することができる。
【0063】
フローチャート
本発明の基本的な特徴をまとめるため、本発明の好適な実施例によるシーン復元方法のフローチャートである図10を参照する。ステップS1では、異なる視点から見た一連の非較正画像を取得し、シーン復元の入力として使用する。ステップS2では、例えば参考文献4および10に開示されているような、画像間の一致点に基づく従来型の方法により、最初の射影復元を生成する。ステップS3では、本発明によるカイラル性に基づく統計的選択を行い、異なるビューに対する複数のカイラル的な制約を設ける。次いでステップS4では、カイラル不均衡と表現したカイラル的制約を線形プログラミングに使用して無限平面を発見する。ステップS5では、仮に推定した無限平面を使用して最初の射影復元をQUARC復元に変換する。次に、ステップS6において、QUARC復元を入力として使用して対話式自動較正処理を開始することにより、良質のユークリッドシーン復元が得られる。質を最適化するために、全体的な空間束調整をステップS7で行う。
【0064】
実験
実世界シーケンスから得た射影復元の延長的実験により、カイラル性に基づく選択によるQUARC復元の発見と、線形プログラミングおよびそれに続く最適化は、良好な結果を産むことが判明した。第一に、カイラル性に基づく選択を行うことにより、高い確率でQUARC復元を獲得するための正確で適切な制約が得られる。第二に、QUARC復元を元に自動較正の最適化を行うことにより、全体的な空間束調整による質の最適化に使用できる結果が常に得られる。
【0065】
別の実施形態
カメラだけのカイラル不均衡を推論するうえでの補足として、無限平面に複数の異なる仮説を考え、シーン点のカイラル性に基づいて仮説を受け入れることにより(すべてのシーン点について正確なカイラル性は必要でない)、真の無限平面の検索範囲をさらに狭めることが可能である。実際には、これは、満足されたカイラル不均衡の数が所定のしきい値を超える仮説を受け入れることを意味する。一般的に、無限平面の検索は3より大きい自由度で行われ、従来の検索グリッドを用いて無限平面に可能なすべての位置を検証する。各仮の無限表面について、以下のステップを実行する:
1.カメラのカイラル不均衡について仮説を検証する。カメラのカイラル不均衡が満たされた場合、ステップ2に進む。そうでない場合は該仮説を捨てる。
2.点のカイラル不均衡について仮説を検証する。点のカイラル不均衡のうち所定の割合(例えば90%)以上が満たされた場合、該仮説を容認する。そうでない場合は該仮説を捨てる。
【0066】
容認した仮の無限平面のうちどれを選択するかを決定するためには、例えば参考文献6に概説されているような従来の方法を適応する。
【0067】
点のカイラル不均衡の部分的サブセットが正確であることを必要とするだけの戦略は、提案された統計的選択方式とは独立して使用することができ、すべてのカメラについて正確なカイラル性を必要とすることもなく、よって不良な点が存在する場合の失敗を避けることができる。しかしながら、膨大な数の仮説についてすべての不均衡を検証することは計算的に負担が大きく、リアルタイムな応用に常に適しているわけではない。
【0068】
本発明の好適な実施例は統計的選択を実行すること、および一対のカメラに関するカイラル不均衡を獲得することを必要とするが、代わりに他のカメラのサブセットを使用することを妨げるものではない。
【0069】
要約すると、それぞれ少なくとも2つのカメラの中心を有する複数のサブセットにカメラ(または詳細にはカメラの射影中心)を分割する。その後、関連するサブセット内の少なくとも2つのカメラの中心に対する複数のシーン点のカイラル性に基づく選択方式により、各サブセットについて無限平面の位置に制約を確立する。例えば、カメラの中心は3つのカメラの中心を有するサブセットに分割することができる。選択を行う1つの方法は、各サブセットについて3つのカメラすべてから画像化される点を考慮することである。別の実施例では、カメラの中心を以下の表1に示すような大きさが増大するサブセットに分割する。
【表1】
【0070】
統計的選択を行うために、関連するサブセット内の2つ以上のカメラから画像化できる複数の点を発見し、該カメラに対する該点のカイラル性を考慮することが必要である。それらは例えば、サブセットDのカメラの中心1および5により画像化されるシーン点、および/またはサブセットDのカメラの中心2、3および5により画像化されるシーン点である。
【0071】
上述の実施形態は単に例として示したもので、本発明はそれに限定されると理解されるべきではない。本明細書に開示され、請求の範囲に記載された、基本的理念を保持する修正、変更および改良は、本発明の範囲および精神に含まれる。
【0072】
参考文献
1.S.MaybankおよびO.Faugerasによる「移動するカメラの自動較正の理論(A theory of self−calibration of a moving camera)」(International Journal of Computer Vision, 8(2):123−151, 1992年)
2.M.Pollefeys,R.KochおよびL.Van Goolによる「カメラの内因性パラメータが不定または未知である場合の自動較正および距離復元(Self−calibration and metric reconstruction in spite of varying and unknown internal camera parameters)」(International Journal of Computer Vision, 32(1):7−26, 1999年)
3.A.HeydenおよびK.Astromによる、「柔軟な較正:自動較正の最小事例(Flexible calibration: Minimal cases for auto−calibration)」(第7回International Conference on Computer Vision議事録, 第1巻, 350−355頁, 1999年)
4.R.Hartleyによる「非較正ビューからのユークリッド復元(Euclidean reconstruction from uncalibrated views)」(コンピュータサイエンス講義録, 第825巻, 237−256頁, Springer Verlag, 1994年)
5.R.Hartleyによる「カイラル性(Cheirality)」(International Journal of Computer Vision, 26(1):41−61, 1998年)
6.R.Hartley,E.Hayman,L.de AgapitoおよびI.Reidによる「カメラ較正および無限領域の検索(Camera calibration and the search for infinity)(第7回International conference on Computer Vision議事録, 第1巻, 510−517ページ, 1999年)
7.W.Press,S.Teukolsky,W.VetterlingおよびB.Flanneryによる「Cにおける数値的方法(Numerical recipes in C)」(ISBN 0−521−43108−5, 430−443頁, ケンブリッジ大学出版, 1988年)
8.W.Press,S.Teukolsky,W.VetterlingおよびB.Flanneryによる「Cにおける数値的方法(Numerical recipes in C)」(ISBN 0−521−43108−5, 681−688頁, ケンブリッジ大学出版, 1988年)
9.B.Triggs,P.McLauchlan,R.HartleyおよびA.Fitzgibbonによる「束調整−現代的合成(Bundle adjustment − a modern synthesis)」(コンピュータサイエンス講義録, 第1883巻, 298−372頁, Springer Verlag, 2000年)
10.D.Nisterによる「三焦点テンソルの階層性による非較正シーケンスからの復元(Reconstruction from uncalibrated sequence with a hierarchy of trifocal tensors)」(European Conference on Conputer Vision議事録, 第1巻, 649−663頁, 2000年)
【図面の簡単な説明】
【図1】図1は本発明の実行に適した例示的コンピュータシステムを示す概略図である。
【図2】図2は本発明で使用するカメラのモデルの概略図である。
【図3】図3Aは、単一の点がわずかに移動することにより、カイラル不均衡の全セットに妥当な解がなくなる様子を示す概略図である。図3Bは、単一の異常値によりカイラル不均衡の全セットに不正確な解がもたらされる様子を示す概略図である。
【図4】図4は復元されたカメラに囲まれた一鉢の花のユークリッド復元を表す。
【図5】図5は、図4の復元に相当する射影を示す。
【図6】図6は、複数のカメラおよびシーン点の射影復元の概略図である。
【図7】図7は、カメラの中心の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図8】図8は、カメラの中心の別の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図9】図9は、カメラの中心のまた別の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図10】図10は、本発明の好適な実施例によるシーン復元の方法の概略的フローチャートである。
本発明の属する分野
本発明は、概して、コンピュータビジョンおよび画像処理に関し、さらに詳細には、複数の非較正画像から3次元シーンを復元することに関する。
【0002】
本発明の背景
一連の非較正画像から3次元の物体またはシーンを復元することは、画像処理およびコンピュータビジョンの分野において現在最新のテーマである。シーンの復元技術が最近多大な興味を引いている理由として、1つにはシーン復元アプリケーションの急増が挙げられ、それに加えてデジタルカメラ、フィルムスキャナ、写真スキャナおよびその他デジタル化装置の広範な使用が上げられる。シーン復元アプリケーションの例には、3Dシーンおよび物体の復元、ロボットナビゲーションのためのシーン決定および物体の位置確認、3D CADモデルの自動構築ならびに仮想現実環境の生成、さらには動的シーンのリアルタイム3Dビューが含まれる。例えば、家の周りをカメラを持って一周し、異なる視点から取得した画像をコンピュータ化した3Dシーンビルダーに送り込むことにより、家をヴァーチャルな3Dに視覚化できる。
【0003】
基本的な復元の問題を次のように定義することができる。1または複数のカメラにより複数の視点から取得した3次元のシーンまたは物体の一連の非較正画像に基づいて、シーンの一般的な3次元構造、ならびに各カメラの視点ごとのカメラの位置および方向を再生することが望ましい。単純化のために、たとえすべての画像を1台のカメラで取得する場合も、またコンピュータで画像を人工的に生成する場合も、科学的文献ではカメラの1つの位置および方向の組み合わせを多くの場合「カメラ」と称する。人工的に生成されたコンピュータ画像の場合、各画像のビユーは独自の位置および方向を有する1台の「想像上の」カメラに関連づけられる。
【0004】
復元の問題を解決する典型的な方法では、まず非較正画像間の一致点に基づいていわゆる射影復元を行い、続いて射影復元を「通常の」ユークリッド復元に精緻化する。一連の非較正画像から始めるとき、画像の一致点、つまり画像内で特徴が一致する点に基づいて得られる最初の復元で通常最善なのが、射影復元である。射影復元とは、シーン点とカメラの構成であり、画像化される真のユークリッド構成とは離れた射影変換である。ユークリッドおよびいわゆるアフィン変換と同様に、未知の射影変換はシーン点とカメラの構成の移動、回転および歪曲が可能である。しかしながら、射影変換は無限平面を動かすこともできる。つまり平行性は通常維持されない。ユークリッド空間におけるシーンの復元を考えるために、未知の射影変換を決定しなければならない。実際には、未知の射影変換の決定は非常に難しく複雑な作業である。
【0005】
先行技術では、カメラの視点に対し、すべてのカメラが同じ内在性較正を有する必要があるという制約を設けることにより、射影変換の決定を行おうと試みてきた。通常の射影変換により再射影された画像が変化することはないとはいえ、歪められて期待に沿わないものになる可能性がある。較正に課した制約により、ありそうな復元可能性のファミリの構成員の検索が容易になる。較正に制約を課すことによりそのような復元可能性を探す工程は、通常自動較正または自己較正と呼ばれ、例えば参考文献1に記載されている。自動較正の基本的理論を拡大し、例えば参考文献2および3に記載されているように、もっとゆるい条件の下、すなわち、カメラに歪みがない、またはピクセルが固定の、または周知のアスペクト比を有する、という最低限の条件下で、自動較正が可能であることが分かっている。これにより、ズームカメラを有するビデオシーケンスの自動較正の幅が広がる。
【0006】
上記自動較正処理により非常に満足のゆく結果が得られる場合があるが、結果が思わしくないことも多く、完全な失敗につながることさえある。
【0007】
自動較正の主要な障害の1つは、射影復元において真の無限平面を見つけることであることが分かっており、よって参考文献4ないし6には、いわゆるカイラル性を考慮することにより制約を追加することが提案されている。カイラル性の概念および理論の基本的な説明である参考文献5の定義によると、所定のカメラより前方にあるか後方にあるかを示す点の特性を、通常、カメラに対する点のカイラル性と称する。射影復元にカイラル性に関する制約を追加するためは、復元されるシーン点のすべてがそれらを画像化するカメラの前方に位置することが必要である。これは任意射影復元には当てはまらない。カイラル不均衡と表現されるカイラル性に関する制約を使用することにより、射影復元内のすべての点について、真の無限平面の検索範囲をかなり狭めることができる。これは、最初の射影復元を、所定のカイラル不均衡に基づくカメラとシーン点のいわゆる準アフィン復元に予備変換することにより、大部分が達成される。シーンの準アフィン復元とは、復元されたシーンが無限平面により分割されない射影復元である。
【0008】
カイラル性に基づくシーン復元法の導入は、自動較正の分野に大きな進歩をもたらすが、収束および安定性の問題が残る。
【0009】
本発明の概要
本発明は、従来技術による構成が持つ前述およびその他の欠点を克服するものである。
【0010】
本発明の目的は、概して、デジタルまたはデジタル化された一連の非較正画像から3次元のユークリッドシーンの復元を速く正確に行うことである。
【0011】
本発明の目的はまた、通常の射影復元を、その後ユークリッド復元に精緻化することが可能な準アフィン復元にアップグレードするための方法およびシステムを提供することを目的とする。特に、この通常の射影復元のアップグレードを行うのに、ローバストで信頼性があると同時に比較的速い方法を見つけることが重要である。
【0012】
また、本発明の別の目的は、通常の射影復元をローバストで系統的に準アフィン復元にアップグレードするプログラム要素で構成されるコンピュータプログラムを提供することである。
【0013】
前述および他の目的は、本明細書の請求項により定義される本発明により達成される。
【0014】
本発明は、通常の射影復元を準アフィン復元にアップグレードするためのカイラル性に基づく従来の方法は不良な点の影響を受け易いという認識に基づいている。注意深く幾何学的配置を考慮することにより異常値を除去したとしても、数万のシーン点には不確定要素または意図せず配置された異常値により、不良な点が1または2残ってしまう。このような不良または不正確な点は、総じて、解決不可能であるか、無限平面に0ベクトルを返すか、または単に不正確な解決法を返すカイラル不均衡を導く場合がある。
【0015】
要約すると、本発明は、従来の方法より信頼性の高い、シーンの復元とカメラの較正に対するカイラル性の使用にローバストで系統的な戦略を提供する。本発明の概念は、最初の射影シーン復元を変換して、カメラの射影中心および場合によっては最初の射影復元のシーン点の部分的サブセットのみに対して準アフィン変換となることが明確なシーン復元にすることである。
【0016】
これに関し、総じて解決可能な1セットのカイラル不均衡を常に獲得することができるとは想定せず、むしろ、シーン点を合理的に使用することにより、カメラの射影中心(本明細書では単純にカメラと呼ぶ)に関する正確な不均衡を発見することができると想定する。これを行うのに鍵となる特徴は、カメラに対する複数のシーン点のカイラル性を考慮する選択方式でシーン点を統計的に使用することにより、カメラについて正確なカイラル不均衡を推論することである。推論されたカイラル不均衡は、無限平面の位置に関する制約として働き、カメラのカイラル不均衡を解消することにより、カメラの射影中心について準アフィン変換可能な、QUARC復元とも呼ばれる復元が通常可能になる。これは、カメラの射影中心の直交接線が無限平面により分割されないことを意味し、よって自動較正をうまく行うのに非常に強力な条件となる。
【0017】
次に、得られたQUARC復元を元に、ユークリッド復元へのアップグレードが対話式最適化手順により行われる。QUARC復元を元に対話式最適化を始めることは、大部分の自動較正アルゴリズムを収束させるために必要であることが分かっている。実際には、最適化された目的関数が物理的に有意味な量を表す場合、これは殆どの場合十分な条件となる。
【0018】
本発明による方法は、大規模および小規模両方の復元において特に信頼性が高いことが分かった。ビュー間に回転が殆どないか、または全くないという一般的な縮退があっても、本発明による方法は、非常に論理的に解決法となる可能性のあるファミリの構成員を導き出すことができる。さらに、本発明による方法は速く、よって復元を観るという目的に適している。
【0019】
カメラのカイラル不均衡を推論するための系統的な方法では、まずカメラの射影中心を個々のサブセットに分割する。次いで、各サブセットについて、サブセット内のカメラの射影中心のうち少なくとも2つに対する複数のシーン点のカイラル性に基づいた統計的多数決を行うことにより、無限平面の位置に対する制約を設ける。好適には、カメラの射影中心は2つを1セットとするセットに分割され、該カメラの中心のセット、c(n)、c(n+1)(n=1からN−1、Nはカメラの射影中心の総数に等しい)それぞれに対して制約を推論する。
【0020】
カメラだけのカイラル不均衡を推論するうえでの補足として、真の無限平面の検索範囲をさらに狭めることが可能である。これは、無限平面に複数の異なる仮説を考え、シーン点のカイラル性に基づく仮説を受け入れることによりなされる。このときすべてのシーン点について正確なカイラル性は必要でない。実際には、これは、満足されたカイラル不均衡の数が所定のしきい値を超える仮説を受け入れることを意味する。
【0021】
本発明は次の利点を提供する:
− 迅速で正確なシーンの復元
− カイラル性のローバストな使用(これにより自動較正中に安定した収束が与えられる)
− 計算の複雑性が比較的小さいこと
【0022】
本発明により提供されるほかの利点は、後述する本発明の実施形態により明らかにする。
【0023】
本発明の実施形態の詳細な説明
すべての図面について、対応する要素または同様の要素には同一の参照番号を付した。
【0024】
本発明のよりよい理解のために、本発明を実行するのに適切なコンピュータシステムの概略的な説明から始めるのが有益である。
【0025】
システムの概要
図1は本発明の実行に適したコンピュータシステムの例示的および概略的なブロック図である。コンピュータの形態は、パーソナルコンピュータ、メインフレームコンピュータ、マルチプロセッサシステム、マイクロプロセッサに基づくコンスーマエレクトロニクス、ネットワークPC,携帯用デバイスなどを含め、任意の従来型コンピュータシステムでよい。いずれにせよ、基本的にコンピュータシステム100は中央演算処理装置(CPU)10と、システムメモリ20と、様々なシステム構成要素を相互接続するシステムバス30とを備える。一般的にシステムメモリ20は、基本的な入力/出力システム(BIOS)および同様のルーチンを有する読み取り専用メモリ(ROM)21と、ランダムアクセスメモリ(RAM)22を含む。さらに、通常コンピュータシステムは、ハードディスク、磁気ディスク、光ディスク、フロッピー(登録商標)ディスクまたはデジタルビデオディスクなどの1つ以上の周辺記憶装置40を備え、持久記憶装置およびプログラム情報を提供する。各周辺記憶装置40は、通常記憶装置45ならびにドライブインターフェース46に繋がり、記憶装置40をシステムバス30に接続している。複数のプログラムモジュール(一般的にオペレーティングシステムを含む)、1つ以上のアプリケーションプログラムおよびその他プログラムモジュールを周辺記憶装置40に保存し、システムメモリ20のRAM22にロードしてCPU10で実行することができる。一般的にコンピュータシステムは、キーボード、ポインティングデバイスまたは音声認識装置などのユーザインターフェース(図示しない)を有する。コンピュータシステムはまた、ビデオアダプタ55などの適切なインターフェースを介してシステムバス30に接続されたモニタ50を備える。本発明に特に重要なものとして、一連の画像を提供できる画像装置60がコンピュータシステムに接続されている。適切な画像装置の例としては、デジタルビデオカメラ、フィルムまたは写真スキャナまたはその他デジタル化装置、並びにフレームグラバなどが挙げられる。画像装置60は、適切なインターフェース65を介してシステムバス30に接続されており、そのため画像データの伝送や、画像データを周辺記憶装置40および/またはシステムメモリ20に保存して、1つ以上のアクティブなプログラムモジュールの制御下でCPU10により処理することが可能である。しかしながら、システムに直接接続されたカメラまたはディジタイザを必要とせずに、前述したいずれの周辺記憶装置からも画像データをコンピュータシステムに提供することができる。さらには、従来のネットワークインターフェース75を介したローカルエリアネットワーク、インターネットまたはその他いかなる種類のネットワーク70を通じて画像データをリモートコンピュータからダウウンロードすることができる。画像はカメラによる実写画像である必要はなく、人工的に創られたコンピュータ画像でもよいことに注意されたい。
【0026】
上述で指摘したように、本発明は好適にはプログラムモジュール、ファンクションまたはそれらの相当物の形態のソフトウェアとして実行される。ソフトウェアは、C、C++、ジャバまたは特定の独自に開発された言語など、任意のコンピュータ言語で書かれていてよい。実際には、後述する工程、機能および動作はコンピュータプログラムにマッピングされており、コンピュータで該プログラムを実行すると適切な画像データに応じてシーン復元が達成される。
【0027】
当業者には自明であるように、本発明は図1のシステム構成に限定されない。実際には、適切である限りハードウェアとソフトウェアとのどのような組み合わせでも実行でき、カスタマイズした演算構造を使用するハードウェアだけで実行することもできる。
【0028】
前述のように、シーン復元の基本的な問題は、シーンの異なるビューの一連の非較正画像に基づいてシーンまたは物体の全体的な3次元構造を復元することである。これは、一般的に、平行運動並びに回転運動を行うカメラの場合に対応する。また、各ビューについて、カメラの位置および方向を見つけることも必要である。
【0029】
基本的な復元問題と本発明が提供する解決法の完全な理解に有益であるので、根本的なカメラのモデルについて簡単に説明する。
【0030】
カメラのモデル
図2は、1画像面のカメラの射影中心c、および3次元点xとカメラから見たそれに対応する画像点uを概略的に示している。複数のカメラに共通に使用されるモデルは、3次元射影空間から2次元射影空間への射影マッピングを使用する。射影マッピングは、カメラ行列と呼ばれる3×4の行列Pで表すことができ、3次元の点xを画像平面上の画像点u(=Px)に移す。カメラ行列PはP=K(R|−Rt)に分解することができ、P=KR(I|−t)とも表せる。ここで、Kはカメラの較正行列であり、Rは絶対座標フレームに対するカメラの方向を表す回転行列であり、tはカメラの位置を表す。較正行列Kは通常、以下の数式で定義される上方三角行列である。
【数42】
ここで、k1ないしk5は、次のように定義される内的なカメラのパラメータである:
k1は焦点距離に関する。
k2は歪みを示す。
k3およびk5は主点の座標である。
k4はアスペクト比に関する。
【0031】
射影復元
対応するカメラ行列P(n)を有する(nは1からNまでの整数)、N個のカメラの視点(以降は単にカメラと称す)から見た1セットのシーン点xjを想定する。異なるビュー間の、1セットの画像の一致点
【数43】
(ここで、
【数44】
は、i番目のカメラから見たj番目の点である)
に基づき、カメラ行列P(n)および点xjを、ゼロでない縮尺率までP(n)xjが
【数45】
と等しくなるように決定することにより、一般に最初の復元が行われる。任意の3次元射影変換Hにより点xjは真の復元
【数46】
と異なってもよいので、P(n)またはxjがそれ以上制約されることがなく、そのような復元を射影復元と呼ぶ。ユークリッド空間にシーンの復元を観ることを可能にするために、未知の射影変換Hが決定されなければならない。
【0032】
無限平面の発見
上述のように、未知の射影変換を決定するための従来の方法は、殆どがカメラの較正(いわゆる自動較正)に制約を課すことに基づいている。しかしながら、射影変換は無限平面を移動する場合があり、よって射影変換において任意の位置を有するため、未知の射影変換を決定する工程の主要な問題は射影変換に真の無限平面を見つけることである。射影復元における真の無限平面の検索を容易にするために、参考文献4、5および6では、射影復元のすべての点についてカイラル不均衡を使用することにより復元に付加的な制約を課することが提案されている。理想的には、この結果、射影空間に復元されたシーンがマッピングされる平面により分割されることのない、シーン点およびカメラの準アフィン射影復元が得られる。
【0033】
カイラル性に基づく従来の方法による分析
しかしながら、本発明者が注意深く分析したところ、通常の射影復元を準アフィン復元にアップグレードするためのカイラル性に基づく従来の方法には、収束および安定性に関して多くの問題があることが分かった。特に、参考文献4、5および6に提示されている方法は不良な点の影響を受けやすい。注意深く幾何学的配置を考慮することにより異常値を除去したとしても、数万のシーン点には不確定要素または意図せず配置された異常値により、不良な点が1または2残ってしまう。このような不良または不正確な点は、総じて、解決不可能であるか、または単に無限平面の解決法を不正確なものにする。
【0034】
図3Aは、1つの点のわずかな移動により、そうでなければ完全な射影復元であったものが変化して、その結果無限平面の妥当な位置がなくなり、よってカイラル不均衡のすべてのセットに対する妥当な解がなくなる様子を示している。この状態において、無限p∞における真の無限平面(未知)の「無限点」に注目すると興味深い。ここで、そのような点は概ね反対の方向に観察されている。理論的には、唯一可能な解決として、三角測量により無限平面上の位置をほぼ正確に求めることができるので、無限平面に強力な制約を有する。しかしながら、図3Aに示すように、不確定要素によるわずかな移動により、総じてカイラル不均衡は妥当な解決法を持たず、参考文献4に記載されているような解決法を試すと、無限平面にゼロベクトルを返す。
【0035】
図3Bは、1つの異常値がカイラル不均衡の全セットについて不正確な解決法をもたらす様子を示している。図3Bは、ユークリッド空間における無限平面に対する不正確な解決法を表す。意図せず配置された異常値がわずか1または2あるだけで、カイラル不均衡により決定される無限平面の多角解決領域が変化してしまい、その結果不正確な解決が得られる。
【0036】
QUARC復元およびカイラル性のローバストな使用
本発明はシーンの復元とカメラの較正に対するカイラル性の使用にローバストで系統的な戦略を提供する。本発明の概念は、簡潔には、カメラの射影中心だけに、および場合によっては最初の射影復元のシーン点の部分的サブセットに準アフィンであるよう実行された復元に、最初の射影復元を変換することである。これに関し、総じて解決可能な1セットのカイラル不均衡を獲得することができるとは想定せず、むしろ、カメラに対する複数のシーン点のカイラル性を考慮する選択方式でシーン点を統計的に使用することにより、カメラに関する正確な不均衡を発見することができると想定する。要するに、統計的選択方式によりカメラのカイラル不均衡を推論する。カメラのカイラル不均衡は無限平面の位置に対する制約として働き、不均衡を解消することにより、QUARC復元とも呼ばれるカメラの射影中心に対して準アフィンな復元が得られる。QUARC復元を元に自動較正を始めるには、収束を目的とする複数の相関的自動較正アルゴリズムが絶対的に必要である。実際には、特に物理的に有意味な目的関数を使用する場合、これはまた十分条件となる。
【0037】
以降、本発明の好適な実施形態により射影復元をQUARC復元へアップデートするための特別なアルゴリズムを参照しながら、本発明をより詳細に説明する。次のアルゴリズムは、一対のカメラの射影中心のためにカスタマイズされており、よってアルゴリズムの理論的背景も、一対のカメラの射影中心に関係している。
【0038】
カメラの射影中心の凸面形状が保護される、つまりカメラの中心の凸面形状のいかなる点も無限平面に変換されないとすると、射影変換hは、カメラの射影中心について準アフィンである。次に、復元をユークリッド対応物にする復元がカメラの射影中心のセットについて準アフィンである場合、射影復元は同時にQUARC復元である。
【0039】
凸面形状を考慮すると、カメラの中心c(1)、...、c(N)による射影復元は、それがカメラの中心のすべての組c(n)、c(n+1)(nは1からN−1)について準アフィンであれば、またその場合のみ、すべてのカメラの中心について準アフィンであることが示される。これは、カメラの中心の組c(n)、c(n+1)のいずれにも、その間に無限大にマッピングされない
【数47】
における連続的な経路があるということを意味し、カメラの中心間の直線分が真の無限平面により分割されないということを含む。結果的に、すべてのカメラの中心点は、hにより無限大にマッピングされた平面の一方の側にあるということになり、カメラの中心の凸面が無限平面により分割されないということを意味する。
【0040】
この時点で、QUARC復元とそうでないものについての説明をすることが有益である。図4は、復元されたカメラに囲まれた一鉢の花のユークリッド復元を表す。当然これはQUARC復元でもあり、またカメラのほぼ円形の軌道が楕円形である他のすべての射影相当物も、カメラの凸面形状を保護しており、QUARC復元である。しかしながら、反対に図5に示す射影相当物は、ユークリッド復元におけるカメラの縁が双曲線の形に変わっているためQUARC復元ではない。無限大にマッピングされなければならない平面が復元の中央を通過し、カメラの凸面形状を分断している。
【0041】
図5に示すようなシーン点とカメラの任意の射影復元がある場合、無限平面がカメラの中心の凸面形状を分割しないQUARC復元を見つける必要がある。本発明では、点の不適合または不適切な配置による問題がなく、これを極端にローバストに行うことができる。QUARC復元を得るために、復元が、確実に、カメラの中心の組c(n)、c(n+1)のすべてに対して準アフィンであることが十分条件であると既に指摘したので、残る問題は、カメラの中心について準アフィンであることを確実にするにはどうしたらよいかということである。
【0042】
参考文献5では、アフィン変換は、それが肯定の決定因子を有する場合、およびその場合のみ、カメラに対するカイラル性を保護することと、点がカメラの中心と無限平面の同じ側に位置する場合、およびその場合のみ、点のカイラル性が肯定の決定因子による射影変換により保護されることが示されている。この知識に基づき、ある点の所定のカメラに対するカイラル性は該点がカメラの前に位置するか後ろに位置するかを示すということに留意すると、一対のカメラにより画像化された点が、双方のカメラに対して同じカイラル性を有する場合、およびその場合のみ、射影復元は該1対のカメラに対して準アフィンであると推論できる。
【0043】
無限平面がカメラの中心を分割しない場合、およびその場合のみ、射影復元は一対のカメラに対して準アフィンである。上に示したように、一対のカメラが画像化した1点が両方のカメラに対して同一のカイラル性を有する場合、およびその場合のみ、これは真である。任意の射影復元が一対のカメラを含む場合、復元が準アフィンかどうかの決定は、必然的に二項的な決定となる。現在の射影復元が既にQUARCであるか、または真の無限平面がカメラの中心を分割しないかである。この二項的不明瞭は、一対のカメラに対する点のカイラル性を考慮することにより、両方のカメラが画像化した単一の点により解消できる。しかしながら、該点が不正確であるか、または意図せず配置された異常値の形態である場合、二項的決定は自動的に機能しない。
【0044】
統計的選択方式によるカメラのカイラル不均衡の獲得
本発明による解決法は、一対のカメラが、特に一連の連続的なビューを提供する場合、一般に複数の共通点を有するという事実を利用することにより、二項的不明瞭を解消することである。統計のこの存在度をローバストな選択アルゴリズムに使用し、後述するように各共通点にそれぞれ独自の点数を与える。
【0045】
カメラのカイラル不均衡を記録するために、対応する一対のカメラに対する複数の点のカイラル性に応じて各カメラに+1または−1を乗じる。射影復元にカメラ行列P(1)からP(N)で表すN個のカメラがあると仮定すると、該カメラ行列には次のように+1または−1を乗じる。
【数48】
(n=2からN)
ここで、式sign[(P(n)X(b))3(P(n−1)X(b))3]は、P(n)およびP(n−1)で表したカメラに対する点X(b)のカイラル性を表し、合計
【数49】
は、P(n)およびP(n−1)で表したカメラから見たシーン点X(b)L個についての合計である。演算(arg)3によりその独立変数argの第3の要素が選択される。関数sign(x)は以下のように定義される。
【数50】
【0046】
上記数式の本質は、一対のカメラの両方から見た複数の点(好適にはすべての点)をカイラル性に基づく選択方式に使用してカメラ行列に乗じる符号を決定し、よって該一対のカメラの準アフィン性に関する二項的不明瞭を解消する。カメラの対すべてに対して選択方式を繰り返し、該カメラのすべての対、すなわちN個のカメラからなるセット全体の二項的不明瞭を解消する。本発明に従ってローバストな「多数」選択方式を使用することにより、非常に高い確率で正しい符号をカメラに乗じることになる。
【0047】
当然であるが、異なる点には異なる荷重で選択方式が実行される。
【0048】
次いで、対応するカメラ行列P(n)(ここでは単純にPと表す)に基づき、以下の式に従って各カメラの投影中心c(n)を計算する:
【数51】
(1=1,...4)
ここで、
【数52】
はPからl番目の列を除去したものである。前出の数式51で計算したものにローバストな数式48の符号乗算を加味したものであり、またベクトル空間
【数53】
における4次元ベクトルとみなされるカメラの中心はこのとき、すべて
【数54】
の半分に位置している。これは、該すべてのカメラの中心の、無限平面を現すベクトルp∞を有するスカラー積の符号がみな同じであるということを一般に意味する。p∞の符号は重要でないので、以下の式を求めることができる:
【数55】
(n=1,...N)
【0049】
この論理的処理は無限平面に効果的な制約を産む。この処理が機能しないのは、対になるカメラの複数組から見た点の半分以上がカメラの不正な側に位置する異常値であるか、あるいはカメラの位置が大幅にずれている場合である。幾何学的制約により異常値の多くは既に除去されており、完全なトラッキング不良によりカメラ間の関係がどこかで失われているという意味でシーケンスが「壊れて」いるのでない限り、一般に問題は起こらない。
【0050】
線形プログラミングによる仮の無限平面の決定
妥当な射影復元のために、最大スカラーδが以下の式で表される不均衡を満たすような仮の無限平面をみつけ、ベクトルp∞とする。:
【数56】
(n=1,...,N、−1≦(p∞)i≦1、i=1,...,4)
このベクトルを発見することは線形プログラミングの問題であり、参考文献7に概要が記載されている方法を使用することにより迅速に解決できる。ベクトルp∞が発見されたら、射影復元を以下の式に示す変換行列で変換する。:
【数57】
ここでAは3×4の行列であって、該行列は最大値を有する
【数58】
の要素として同じ列にゼロを有し、その他の3列は単位行列に等しい。この変換によりQUARC復元が生まれる。
【0051】
上記をユークリッドに近づけるために、シーケンスの中央からビューPを取り、復元全体を以下のように変換することができる。:
【数59】
次いで、カメラの運動(nからn+1)のメジアンが(N−1)−1となるよう復元の縮尺を標準化することができる。最後に、過半数の点がカメラの前方ではなく後方にある場合、以下の式に示す復元を適用することができる。
【数60】
【0052】
カメラの中心に対する無限平面の位置
無限平面の位置に対する制約を確立するためにカイラル性をいかにして使用するかを、より直感的に、且つ深く理解できるように、ここで図6ないし9を参照する。
【0053】
図6は、複数のカメラおよびシーン点の射影復元の概略図である。該射影復元は複数のシーン点および複数のカメラを含み、図はうち4台のカメラを示す。それらカメラはカメラの中心c(1)、c(2)、c(3)およびc(4)を有する。真の無限平面p∞(すなわち、ユークリッド空間内の無限領域にマッピングされる平面)は、射影復元内に明確に定義されるが当初は未知である位置にある。
【0054】
カメラの中心のいずれのセットについても、真の無限平面p∞はカメラの中心を2セット(空のセットと、全数個のセットに分割する場合も含む)に分割する。通常、点が正確であると仮定すると、各点が、いずれのカメラから捕らえられる点であるか、およびそれらカメラに対して該点はカメラの前方にあるか、または後方にあるかにより、無限平面の分割構成例が複数除去される。カメラの中心すべてについて真である分割構成を決定することができれば、無限平面の位置を効果的に絞り込むことができ、QUARC復元が得られる。
【0055】
本発明の好適な実施例では、カメラの中心を2個1組と考え、各カメラの中心の組について複数の分割構成例を除去することにより、無限平面の位置に対する制約を得ることができる。
【0056】
図7は、図6の射影復元に可能な、カメラの中心c(1)およびc(2)に対する無限平面の複数の分割構成を示す概略図である。図7により、全てのシーン点がカメラの中心c(1)およびc(2)双方の前方にあることが分かる。全ての点は、両方のカメラに対して同一のカイラル性を有し、よって復元は2つのカメラの中心に対して準アフィンである。これは、真の無限平面がカメラの中心c(1)とc(2)との間の線分と交差しないということと、該2つのカメラの中心を分割するような無限平面の分割構成はすべて排除できるということを意味する。カメラの中心c(1)のカメラ行列P(1)を元に、数式48および51を使用する、制約を確立するための論理的処理では、カメラ行列P(2)およびそれに関連するカメラの中心c(2)に+1を乗じる。
【0057】
無限平面の位置をさらに絞り込むために、続いてカメラの中心c(2)およびc(3)を考慮する。図8を参照すると、全てのシーン点がカメラの中心c(2)およびc(3)双方の前方にあることが分かる。これは、該復元もまたこれら2つのカメラの中心に対して準アフィンであることを意味し、よって真の無限平面がカメラの中心c(2)とc(3)との間の線分と交差しないということが導かれる。その結果、該2つのカメラの中心c(2)およびc(3)を分割するような無限平面の分割構成はすべて排除できる。数式48および51を使用する論理的処理では、これはカメラ行列P(3)およびそれに関連するカメラの中心c(3)に+1を乗じることに相当する。
【0058】
図9を参照すると、シーン点はカメラの中心c(3)の前方にあるが、カメラの中心c(4)の後方に位置することが分かる。シーン点はカメラの中心c(3)およびc(4)に対して同一のカイラル性を有さず、よって、復元はこれら2つのカメラに対して準アフィンでない。これは、真の無限平面が実際にカメラの中心c(3)とc(4)との間の線分と交差しなければならないということを意味し、無限平面の位置に対する非常に強力な制約となる。論理的処理では、これはカメラ行列P(4)とそれに関連するカメラの中心c(4)に−1を乗じることに相当する。
【0059】
この手順をカメラの中心の全ての組に順次繰り返すことにより、無限平面を効果的に絞り込む。
【0060】
自動較正の最適化
上述のように、続いてQUARC復元を元に行われる自動較正最適化は、大部分の自動較正アルゴリズムを収束させるための必要条件であることが分かっている。実際には、最適化された目的関数が物理的に有意味な量を表すとき、QUARC初期化は殆どの場合十分条件である。
【0061】
焦点距離(k1)、歪み(k2)、主点(k3,k5)およびアスペクト比(k4)に関する内在的カメラのパラメータを含む数式2で規定される較正行列Kによりカメラの内因子を獲得する。通常、カメラの歪みは0に近いと推定することができる。さらに、最も現実的な場合、アスペクト比と主点に関しては少なくとも概数が分かる。内因子の近似値を使用し、アスペクトが約1に、主点が原点の近くに、および画像の大きさが焦点距離と同位となるように、画像の座標システムを選択する。射影復元に重大な変形を実際にもたらす可能性のある未知のパラメータは、無限平面の3つのパラメータ、および1つのカメラの未知の焦点距離である。焦点距離以外の内因子の値が正確に推定されれば、基準とするカメラによる前段階からQUARC復元を行うことは、距離復元から以下の変換を行うことである。
【数61】
ここで、fは基準とするカメラの未知の焦点距離であり、3つのパラメータvT=[v1 v2 v3]は無限平面に関する。本発明が提案する方法は、まずこれら4つのパラメータのみに集中して最適化を行うことにより、全体的な空間束調整へと進む前に射影変形の大部分を除去する。これは、QUARC復元から最適化を開始した場合で、有意味な目的関数を最小化した場合に、顕著に有効に働く。最小化はQUARC復元から、
【数62】
および
【数63】
として始める。目的関数は、後述するように較正行列から直接構築される。仮の変換
【数64】
を用いて復元を変換する。次いでカメラ行列をP(n)≒K(n)R(n)[I|−t(n)]に因数分解する。ここで、R(n)は回転行列であり、
【数65】
(k1≧0,k4≧0)である。
【0062】
次いで、本発明の好適な実施例による新規目的関数を、すべてのカメラの残差r(n)の合計と定義する。:
【数66】
ここで、
【数67】
定数α1、α2、α3は、歪み、主点およびアスペクトそれぞれの事前推定値の信頼度から決定される。単純化のために、それらすべてを1に設定してもよい。例えば参考文献8に記載されている周知のレーベンベルグ−マルカート法を使用して、実際の最小化を行うことができる。推定された焦点距離に概ね比例する因数(k1+k4)−2による標準化は、縮重状態で焦点距離が激減することを防ぐことが分かっている。明らかに、数式67の第3項が1からアスペクトの偏差比となることが必要である。焦点距離が大きいとき、主点の原点からの偏差はさらに許容可能であるため、該偏差を表す項についても必要とされる。同様のことが歪みについても言える。質を最適化するために、シーン復元を全体的な空間束調整の段階に進める。該調整とは、局地的に適正な最適化を行うことにより、すべての点とすべてのカメラを同時に合わせて復元する従来の方法である。空間束調整の現代的且つ完全なガイドとして参考文献9を参照することができる。
【0063】
フローチャート
本発明の基本的な特徴をまとめるため、本発明の好適な実施例によるシーン復元方法のフローチャートである図10を参照する。ステップS1では、異なる視点から見た一連の非較正画像を取得し、シーン復元の入力として使用する。ステップS2では、例えば参考文献4および10に開示されているような、画像間の一致点に基づく従来型の方法により、最初の射影復元を生成する。ステップS3では、本発明によるカイラル性に基づく統計的選択を行い、異なるビューに対する複数のカイラル的な制約を設ける。次いでステップS4では、カイラル不均衡と表現したカイラル的制約を線形プログラミングに使用して無限平面を発見する。ステップS5では、仮に推定した無限平面を使用して最初の射影復元をQUARC復元に変換する。次に、ステップS6において、QUARC復元を入力として使用して対話式自動較正処理を開始することにより、良質のユークリッドシーン復元が得られる。質を最適化するために、全体的な空間束調整をステップS7で行う。
【0064】
実験
実世界シーケンスから得た射影復元の延長的実験により、カイラル性に基づく選択によるQUARC復元の発見と、線形プログラミングおよびそれに続く最適化は、良好な結果を産むことが判明した。第一に、カイラル性に基づく選択を行うことにより、高い確率でQUARC復元を獲得するための正確で適切な制約が得られる。第二に、QUARC復元を元に自動較正の最適化を行うことにより、全体的な空間束調整による質の最適化に使用できる結果が常に得られる。
【0065】
別の実施形態
カメラだけのカイラル不均衡を推論するうえでの補足として、無限平面に複数の異なる仮説を考え、シーン点のカイラル性に基づいて仮説を受け入れることにより(すべてのシーン点について正確なカイラル性は必要でない)、真の無限平面の検索範囲をさらに狭めることが可能である。実際には、これは、満足されたカイラル不均衡の数が所定のしきい値を超える仮説を受け入れることを意味する。一般的に、無限平面の検索は3より大きい自由度で行われ、従来の検索グリッドを用いて無限平面に可能なすべての位置を検証する。各仮の無限表面について、以下のステップを実行する:
1.カメラのカイラル不均衡について仮説を検証する。カメラのカイラル不均衡が満たされた場合、ステップ2に進む。そうでない場合は該仮説を捨てる。
2.点のカイラル不均衡について仮説を検証する。点のカイラル不均衡のうち所定の割合(例えば90%)以上が満たされた場合、該仮説を容認する。そうでない場合は該仮説を捨てる。
【0066】
容認した仮の無限平面のうちどれを選択するかを決定するためには、例えば参考文献6に概説されているような従来の方法を適応する。
【0067】
点のカイラル不均衡の部分的サブセットが正確であることを必要とするだけの戦略は、提案された統計的選択方式とは独立して使用することができ、すべてのカメラについて正確なカイラル性を必要とすることもなく、よって不良な点が存在する場合の失敗を避けることができる。しかしながら、膨大な数の仮説についてすべての不均衡を検証することは計算的に負担が大きく、リアルタイムな応用に常に適しているわけではない。
【0068】
本発明の好適な実施例は統計的選択を実行すること、および一対のカメラに関するカイラル不均衡を獲得することを必要とするが、代わりに他のカメラのサブセットを使用することを妨げるものではない。
【0069】
要約すると、それぞれ少なくとも2つのカメラの中心を有する複数のサブセットにカメラ(または詳細にはカメラの射影中心)を分割する。その後、関連するサブセット内の少なくとも2つのカメラの中心に対する複数のシーン点のカイラル性に基づく選択方式により、各サブセットについて無限平面の位置に制約を確立する。例えば、カメラの中心は3つのカメラの中心を有するサブセットに分割することができる。選択を行う1つの方法は、各サブセットについて3つのカメラすべてから画像化される点を考慮することである。別の実施例では、カメラの中心を以下の表1に示すような大きさが増大するサブセットに分割する。
【表1】
【0070】
統計的選択を行うために、関連するサブセット内の2つ以上のカメラから画像化できる複数の点を発見し、該カメラに対する該点のカイラル性を考慮することが必要である。それらは例えば、サブセットDのカメラの中心1および5により画像化されるシーン点、および/またはサブセットDのカメラの中心2、3および5により画像化されるシーン点である。
【0071】
上述の実施形態は単に例として示したもので、本発明はそれに限定されると理解されるべきではない。本明細書に開示され、請求の範囲に記載された、基本的理念を保持する修正、変更および改良は、本発明の範囲および精神に含まれる。
【0072】
参考文献
1.S.MaybankおよびO.Faugerasによる「移動するカメラの自動較正の理論(A theory of self−calibration of a moving camera)」(International Journal of Computer Vision, 8(2):123−151, 1992年)
2.M.Pollefeys,R.KochおよびL.Van Goolによる「カメラの内因性パラメータが不定または未知である場合の自動較正および距離復元(Self−calibration and metric reconstruction in spite of varying and unknown internal camera parameters)」(International Journal of Computer Vision, 32(1):7−26, 1999年)
3.A.HeydenおよびK.Astromによる、「柔軟な較正:自動較正の最小事例(Flexible calibration: Minimal cases for auto−calibration)」(第7回International Conference on Computer Vision議事録, 第1巻, 350−355頁, 1999年)
4.R.Hartleyによる「非較正ビューからのユークリッド復元(Euclidean reconstruction from uncalibrated views)」(コンピュータサイエンス講義録, 第825巻, 237−256頁, Springer Verlag, 1994年)
5.R.Hartleyによる「カイラル性(Cheirality)」(International Journal of Computer Vision, 26(1):41−61, 1998年)
6.R.Hartley,E.Hayman,L.de AgapitoおよびI.Reidによる「カメラ較正および無限領域の検索(Camera calibration and the search for infinity)(第7回International conference on Computer Vision議事録, 第1巻, 510−517ページ, 1999年)
7.W.Press,S.Teukolsky,W.VetterlingおよびB.Flanneryによる「Cにおける数値的方法(Numerical recipes in C)」(ISBN 0−521−43108−5, 430−443頁, ケンブリッジ大学出版, 1988年)
8.W.Press,S.Teukolsky,W.VetterlingおよびB.Flanneryによる「Cにおける数値的方法(Numerical recipes in C)」(ISBN 0−521−43108−5, 681−688頁, ケンブリッジ大学出版, 1988年)
9.B.Triggs,P.McLauchlan,R.HartleyおよびA.Fitzgibbonによる「束調整−現代的合成(Bundle adjustment − a modern synthesis)」(コンピュータサイエンス講義録, 第1883巻, 298−372頁, Springer Verlag, 2000年)
10.D.Nisterによる「三焦点テンソルの階層性による非較正シーケンスからの復元(Reconstruction from uncalibrated sequence with a hierarchy of trifocal tensors)」(European Conference on Conputer Vision議事録, 第1巻, 649−663頁, 2000年)
【図面の簡単な説明】
【図1】図1は本発明の実行に適した例示的コンピュータシステムを示す概略図である。
【図2】図2は本発明で使用するカメラのモデルの概略図である。
【図3】図3Aは、単一の点がわずかに移動することにより、カイラル不均衡の全セットに妥当な解がなくなる様子を示す概略図である。図3Bは、単一の異常値によりカイラル不均衡の全セットに不正確な解がもたらされる様子を示す概略図である。
【図4】図4は復元されたカメラに囲まれた一鉢の花のユークリッド復元を表す。
【図5】図5は、図4の復元に相当する射影を示す。
【図6】図6は、複数のカメラおよびシーン点の射影復元の概略図である。
【図7】図7は、カメラの中心の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図8】図8は、カメラの中心の別の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図9】図9は、カメラの中心のまた別の1対に関する無限平面の分割構成例を示す、図6の射影復元の概略図である。
【図10】図10は、本発明の好適な実施例によるシーン復元の方法の概略的フローチャートである。
Claims (41)
- 複数の非較正2次元画像から3次元のユークリッドシーンを復元する方法であって:
− 非較正画像の一致点に基づき最初の射影シーン復元を確立するステップと、
− 最初の射影シーン復元を、カメラの射影中心および最初の射影シーン復元のシーン点の部分的サブセットのみに対して準アフィンとなることが明確な第二の射影シーン復元に変換するステップと、
− 第二の射影シーン復元をユークリッドシーン復元に変換するステップと
を含む方法。 - 前記シーン点の部分的サブセットが空のセットである、請求項1に記載の方法。
- 前記最初の射影シーン復元を第二の射影シーン復元に変換するステップが:
− カメラの射影中心に対する複数のシーン点のカイラル性を考慮する選択方式に基づいて無限平面の位置に複数の制約を課すステップと、
− 課された制約に基づいて前記最初の射影シーン復元を前記第二の射影シーン復元に変換する変換を決定するステップと
を含む、請求項1または2に記載の方法。 - 前記複数の制約を課すステップが:
− 前記カメラの射影中心を、それぞれが少なくとも2つのカメラの射影中心を有する個々のサブセットに分割するステップと、
− 各カメラの中心のサブセットについて、該カメラの中心のサブセットの少なくとも2つのカメラの射影中心に対する複数のシーン点のカイラル性に基づいて無限平面の位置に制約を課すステップと
を含む、請求項3に記載の方法。 - 各カメラの中心のサブセットについて制約を課すステップは:
− 各カメラの中心のサブセットごとに、該カメラの中心のサブセットのカメラの射影中心に関する無限平面について、複数の分割構成を前記カイラル性に基づいて排除し、それによりカメラの中心のサブセットが順に検証されるにしたがって無限平面の位置が効果的に絞り込まれるステップ
を含む、請求項4に記載の方法。 - 前記カメラの射影中心を2個1セットのセットに分割し、前記複数の制約を課すステップをカメラの射影中心の各セットc(n)、c(n+1)(ここで、n=1からN−1、Nはカメラの射影中心の総数に等しい)について実行する、請求項4に記載の方法。
- 前記第二の射影シーン復元をユークリッドシーン復元に変換するステップは:
− 少なくとも部分的にカメラの焦点距離の表出に基づく、目的関数に関して対応する射影からユークリッドへの変換を最適化するステップを含む、請求項3に記載の方法。 - 前記目的関数が、カメラの焦点距離の推定値とほぼ比例する標準化因子を伴う、請求項9に記載の方法。
- 非較正の2次元画像に基づいて射影シーン復元を準アフィン射影シーン復元にアップグレードする方法であって:
− カメラの射影中心に対する複数のシーン点のカイラル性を考慮する選択方式に基づいて無限平面の位置に複数の制約を課すステップと、
− 課された制約に基づいて前記最初の射影シーン復元を前記第二の射影シーン復元に変換する変換を決定するステップと
を含む方法。 - 前記複数の制約を課すステップが:
− 前記カメラの射影中心を、それぞれが少なくとも2つのカメラの射影中心を有する個々のサブセットに分割するステップと、
− 各カメラの中心のサブセットについて、該カメラの中心のサブセットの少なくとも2つのカメラの射影中心に対する複数のシーン点のカイラル性に基づいて無限平面の位置に制約を課すステップと
を含む、請求項12に記載の方法。 - 各カメラの中心のサブセットについて制約を課すステップは:
− 各カメラの中心のサブセットごとに、該カメラの中心のサブセットのカメラの射影中心に関する無限平面について、複数の分割構成を前記カイラル性に基づいて排除し、それによりカメラの中心のサブセットが順に検証されるにしたがって無限平面の位置が効果的に絞り込まれるステップ
を含む、請求項13に記載の方法。 - 前記カメラの射影中心を2個1セットのセットに分割し、前記複数の制約を課すステップをカメラの射影中心の各セットc(n)、c(n+1)(ここで、n=1からN−1、Nはカメラの射影中心の総数に等しい)について実行する、請求項13に記載の方法。
- シーンの複数の非較正2次元画像からユークリッド3次元シーンを復元するシステムであって:
− 非較正画像の一致点に基づき最初の射影シーン復元を確立する手段と、
− 最初の射影シーン復元を、カメラの射影中心および最初の射影シーン復元のシーン点の部分的サブセットのみに対して準アフィンとなることが明確な第二の射影シーン復元に変換する手段と、
− 第二の射影シーン復元をユークリッドシーン復元に変換する手段と
を備えるシステム。 - 前記シーン点の部分的サブセットが空のセットである、請求項18に記載のシステム。
- 前記最初の射影シーン復元を第二の射影シーン復元に変換する手段が:
− カメラの射影中心に対する複数のシーン点のカイラル性を考慮する選択方式に基づいて無限平面の位置に複数の制約を課す手段と、
− 課された制約に基づいて前記最初の射影シーン復元を前記第二の射影シーン復元に変換する変換を決定する手段と
を備える、請求項18または19に記載のシステム。 - 前記複数の制約を課す手段が:
− 前記カメラの射影中心を、それぞれが少なくとも2つのカメラの射影中心を有する個々のサブセットに分割する手段と、
− 各カメラの中心のサブセットについて、該カメラの中心のサブセットの少なくとも2つのカメラの射影中心に対する複数のシーン点のカイラル性に基づいて無限平面の位置に制約を課す手段と
を含む、請求項20に記載のシステム。 - 各カメラの中心のサブセットについて制約を課す手段は:
− 各カメラの中心のサブセットごとに、該カメラの中心のサブセットのカメラの射影中心に関する無限平面について、複数の分割構成を前記カイラル性に基づいて排除し、それによりカメラの中心のサブセットが順に検証されるにしたがって無限平面の位置が効果的に絞り込まれる手段
を含む、請求項21に記載のシステム。 - 前記カメラの射影中心が2個1セットのセットに分割され、前記複数の制約を課す手段がカメラの射影中心の各セットc(n)、c(n+1)(ここで、n=1からN−1、Nはカメラの射影中心の総数に等しい)に関する制約確立に実行される、請求項21に記載のシステム。
- 前記第二の射影シーン復元をユークリッドシーン復元に変換する手段は:
− 少なくとも部分的にカメラの焦点距離の表出に基づく、目的関数に関して対応する射影からユークリッドへの変換を最適化するステップを含む、請求項20に記載のシステム。 - 前記目的関数が、カメラの焦点距離の推定値とほぼ比例する標準化因子を伴う、請求項26に記載のシステム。
- 非較正の2次元画像に基づいて射影シーン復元を準アフィン射影シーン復元にアップグレードするシステムであって:
− カメラの射影中心に対する複数のシーン点のカイラル性を考慮する選択方式に基づいて無限平面の位置に複数の制約を課す手段と、
− 課された制約に基づいて前記最初の射影シーン復元を前記第二の射影シーン復元に変換する変換を決定する手段と
を含むシステム。 - 前記複数の制約を課す手段が:
− 前記カメラの射影中心を、それぞれが少なくとも2つのカメラの射影中心を有する個々のサブセットに分割する手段と、
− 各カメラの中心のサブセットについて、該カメラの中心のサブセットの少なくとも2つのカメラの射影中心に対する複数のシーン点のカイラル性に基づいて無限平面の位置に制約を課す手段と
を含む、請求項29に記載のシステム。 - 各カメラの中心のサブセットについて制約を課す手段は:
− 各カメラの中心のサブセットごとに、該カメラの中心のサブセットのカメラの射影中心に関する無限平面について、複数の分割構成を前記カイラル性に基づいて排除し、それによりカメラの中心のサブセットが順に検証されるにしたがって無限平面の位置が効果的に絞り込まれる手段
を含む、請求項29に記載のシステム。 - 前記カメラの射影中心が2個1セットのセットに分割され、前記複数の制約を課す手段が、カメラの射影中心の各セットc(n)、c(n+1)(ここで、n=1からN−1、Nはカメラの射影中心の総数に等しい)に関する前記制約確立に実行される、請求項30に記載のシステム。
- コンピュータ上で動作させたとき、非較正の2次元画像に基づいて射影シーン復元を準アフィン射影シーン復元にアップグレードするコンピュータプログラムであって:
− カイラル性に基づく統計的選択により無限平面の位置に複数の制約を課すプログラム手段と、
− 課された制約に基づいて前記最初の射影シーン復元を前記第二の射影シーン復元に変換する変換を決定するプログラム手段と
を備えるコンピュータプログラム。 - 前記複数の制約を課すプログラム手段は、カメラの射影中心に対する複数のシーン点のカイラル性を考慮することにより、前記統計的選択を実行するように構築されている、請求項35に記載のコンピュータプログラム。
- 前記複数の制約を課すプログラム手段が:
− 前記カメラの射影中心を、それぞれが少なくとも2つのカメラの射影中心を有する個々のサブセットに分割するプログラム手段と、
− 各カメラの中心のサブセットについて、該カメラの中心のサブセットの少なくとも2つのカメラの射影中心に対する複数のシーン点のカイラル性に基づいて無限平面の位置に制約を課すプログラム手段と
を含む、請求項35に記載のコンピュータプログラム。 - 各カメラの中心のサブセットについて制約を課すプログラム手段は:
− 各カメラの中心のサブセットごとに、該カメラの中心のサブセットのカメラの射影中心に関する無限平面について、複数の分割構成を前記カイラル性に基づいて排除し、それによりカメラの中心のサブセットが順に検証されるにしたがって無限平面の位置が効果的に絞り込まれるプログラム手段
を含む、請求項37に記載のコンピュータプログラム。 - 前記カメラの射影中心が2個1セットのセットに分割され、前記複数の制約を課すプログラム手段がカメラの射影中心の各セットc(n)、c(n+1)(ここで、n=1からN−1、Nはカメラの射影中心の総数に等しい)に関する制約確立に実行される、請求項37に記載のコンピュータプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
SE0004210A SE518620C2 (sv) | 2000-11-16 | 2000-11-16 | Scenkonstruktion och kamerakalibrering med robust användning av "cheiralitet" |
PCT/SE2001/002063 WO2002041252A1 (en) | 2000-11-16 | 2001-09-26 | Scene reconstruction and camera calibration with robust use of cheirality |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004514228A true JP2004514228A (ja) | 2004-05-13 |
Family
ID=20281856
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002543384A Pending JP2004514228A (ja) | 2000-11-16 | 2001-09-26 | カイラル性のローバストな使用によるシーン復元およびカメラ較正 |
Country Status (7)
Country | Link |
---|---|
US (1) | US7324686B2 (ja) |
JP (1) | JP2004514228A (ja) |
AU (1) | AU2001290459A1 (ja) |
DE (1) | DE10196664T5 (ja) |
GB (1) | GB2386530B (ja) |
SE (1) | SE518620C2 (ja) |
WO (1) | WO2002041252A1 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100491903C (zh) * | 2007-09-05 | 2009-05-27 | 北京航空航天大学 | 一种结构光视觉传感器结构参数标定方法 |
KR101166719B1 (ko) * | 2008-12-22 | 2012-07-19 | 한국전자통신연구원 | 평행사변형 기반의 무한 호모그래피 산출 방법과 이를 이용한 건물 구조 복원 방법 |
US20110205355A1 (en) * | 2010-02-19 | 2011-08-25 | Panasonic Corporation | Data Mining Method and System For Estimating Relative 3D Velocity and Acceleration Projection Functions Based on 2D Motions |
US8971641B2 (en) * | 2010-12-16 | 2015-03-03 | Microsoft Technology Licensing, Llc | Spatial image index and associated updating functionality |
CN102682468A (zh) * | 2011-03-15 | 2012-09-19 | 云南大学 | 一种基于平行平面和无穷远点的仿射重构的方法 |
US9462263B2 (en) * | 2011-11-07 | 2016-10-04 | Intel Corporation | Calibrating a one-dimensional coded light 3D acquisition system |
CN103914874B (zh) * | 2014-04-08 | 2017-02-01 | 中山大学 | 一种无特征提取的紧致sfm三维重建方法 |
CN104867185A (zh) * | 2015-06-16 | 2015-08-26 | 桂林电子科技大学 | 基于蛙跳算法的点射影深度估计方法 |
US9898822B2 (en) * | 2016-02-03 | 2018-02-20 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for reconstructing scenes as 3D models from sequences of images using constraint satisfaction |
CN111429523B (zh) * | 2020-03-16 | 2021-06-15 | 天目爱视(北京)科技有限公司 | 一种在3d建模中远距离标定方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5598515A (en) * | 1994-01-10 | 1997-01-28 | Gen Tech Corp. | System and method for reconstructing surface elements of solid objects in a three-dimensional scene from a plurality of two dimensional images of the scene |
IL113496A (en) * | 1995-04-25 | 1999-09-22 | Cognitens Ltd | Apparatus and method for recreating and manipulating a 3d object based on a 2d projection thereof |
US6061468A (en) * | 1997-07-28 | 2000-05-09 | Compaq Computer Corporation | Method for reconstructing a three-dimensional object from a closed-loop sequence of images taken by an uncalibrated camera |
US6278890B1 (en) * | 1998-11-09 | 2001-08-21 | Medacoustics, Inc. | Non-invasive turbulent blood flow imaging system |
US6289235B1 (en) * | 1998-03-05 | 2001-09-11 | Wake Forest University | Method and system for creating three-dimensional images using tomosynthetic computed tomography |
-
2000
- 2000-11-16 SE SE0004210A patent/SE518620C2/sv not_active IP Right Cessation
-
2001
- 2001-09-26 GB GB0312090A patent/GB2386530B/en not_active Expired - Fee Related
- 2001-09-26 DE DE10196664T patent/DE10196664T5/de not_active Withdrawn
- 2001-09-26 AU AU2001290459A patent/AU2001290459A1/en not_active Abandoned
- 2001-09-26 WO PCT/SE2001/002063 patent/WO2002041252A1/en active Application Filing
- 2001-09-26 JP JP2002543384A patent/JP2004514228A/ja active Pending
- 2001-09-26 US US10/380,838 patent/US7324686B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
AU2001290459A1 (en) | 2002-05-27 |
GB2386530B (en) | 2004-12-15 |
SE0004210D0 (sv) | 2000-11-16 |
GB0312090D0 (en) | 2003-07-02 |
DE10196664T5 (de) | 2004-07-08 |
SE518620C2 (sv) | 2002-10-29 |
SE0004210L (sv) | 2002-05-17 |
US7324686B2 (en) | 2008-01-29 |
US20040096097A1 (en) | 2004-05-20 |
WO2002041252A1 (en) | 2002-05-23 |
GB2386530A (en) | 2003-09-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110264509B (zh) | 确定图像捕捉设备的位姿的方法、装置及其存储介质 | |
US6587601B1 (en) | Method and apparatus for performing geo-spatial registration using a Euclidean representation | |
CN101563709B (zh) | 校准照相机系统 | |
Teller et al. | Calibrated, registered images of an extended urban area | |
US5706416A (en) | Method and apparatus for relating and combining multiple images of the same scene or object(s) | |
US8452081B2 (en) | Forming 3D models using multiple images | |
US8447099B2 (en) | Forming 3D models using two images | |
Schöning et al. | Evaluation of multi-view 3D reconstruction software | |
Melo et al. | Unsupervised intrinsic calibration from a single frame using a" plumb-line" approach | |
KR20180026400A (ko) | 3-차원 공간 모델링 | |
US20200242835A1 (en) | System and method for generating augmented reality 3d model | |
Repko et al. | 3D models from extended uncalibrated video sequences: Addressing key-frame selection and projective drift | |
CN111868786B (zh) | 跨设备监控计算机视觉系统 | |
GB2567245A (en) | Methods and apparatuses for depth rectification processing | |
JP2004514228A (ja) | カイラル性のローバストな使用によるシーン復元およびカメラ較正 | |
CN112270748B (zh) | 基于图像的三维重建方法及装置 | |
KR100944293B1 (ko) | 단일 축 회전 영상들로부터의 효율적인 전 방향 3차원모델의 재구성 방법 | |
KR100922273B1 (ko) | 영상 시퀀스로부터 선택된 중요 영상을 이용한 3차원모델의 재구성 방법 | |
CN111489439B (zh) | 一种三维线图重建方法、装置和电子设备 | |
US11790606B2 (en) | Determining camera rotations based on known translations | |
Manda et al. | Image stitching using ransac and bayesian refinement | |
JP3452188B2 (ja) | 2次元動画像中の特徴点の追跡方法 | |
CN112288817A (zh) | 基于图像的三维重建处理方法及装置 | |
Laganiere et al. | Orientation and pose estimation of panoramic imagery | |
WO2022264519A1 (ja) | 情報処理装置、情報処理方法及びコンピュータプログラム |