JP5311465B2 - ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム - Google Patents

ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム Download PDF

Info

Publication number
JP5311465B2
JP5311465B2 JP2008300103A JP2008300103A JP5311465B2 JP 5311465 B2 JP5311465 B2 JP 5311465B2 JP 2008300103 A JP2008300103 A JP 2008300103A JP 2008300103 A JP2008300103 A JP 2008300103A JP 5311465 B2 JP5311465 B2 JP 5311465B2
Authority
JP
Japan
Prior art keywords
line
same
associating
line segment
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008300103A
Other languages
English (en)
Other versions
JP2010128608A (ja
Inventor
博一 小泉
俊之 神谷
弘之 柳生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC System Technologies Ltd
Original Assignee
NEC System Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC System Technologies Ltd filed Critical NEC System Technologies Ltd
Priority to JP2008300103A priority Critical patent/JP5311465B2/ja
Priority to KR1020117011938A priority patent/KR101453143B1/ko
Priority to PCT/JP2009/069887 priority patent/WO2010061860A1/ja
Priority to CN200980146982.2A priority patent/CN102224523B/zh
Publication of JP2010128608A publication Critical patent/JP2010128608A/ja
Application granted granted Critical
Publication of JP5311465B2 publication Critical patent/JP5311465B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本発明は、ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラムに関し、同一の位置を複数の画像間において正確に対応付けることができるステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラムに関する。
従来、この種の3次元データ自動生成方法においては、人工衛星や航空機等から得られる画像を基に、地形を示す3次元データ[DSM(Digital Surface Model)データ]をステレオマッチングによって生成する方法が広く行われており、またオペレータを介在させて対応の取れない点を修正させる方法も提案されている。
ここで、ステレオマッチング処理とは異なる視点から撮影した2枚の画像、いわゆるステレオ画像について、同一の点を撮像している各画像中の対応点を求め、その視差を用いて三角測量の原理によって対象までの奥行きや形状を求めることである。
このステレオマッチング処理については既に様々な手法が提案されている。例えば一般的に広く用いられている面積相関法として、左画像中に相関窓を設定してこれをテンプレートとし、右画像中の探索窓を動かしてテンプレートとの相互相関係数を算出し、これを一致度とみなして高いものを探索することによって対応点を得る方法が開示されている(例えば特許文献1参照)。
上記の方法においては処理量を軽減するために、探索窓の移動範囲を画像中のエピポーラ線方向に限定することによって、左画像中の各点について、対応する右画像中の点のx方向の位置ずれ量、すなわち視差を得ることができる。ここで、エピポーラ線とはステレオ画像において片方の画像中のある点について、他方の画像中で当該点に対応する点の存在範囲として引くことができる直線である(例えば非特許文献1参照)。
通常、エピポーラ線方向は画像の走査線方向とは異なるが、座標変換を行うことで、エピポーラ線方向を画像の走査線方向に一致させ、再配列を行うことができる。この座標変換の方法については上記の非特許文献1に記載されている。
上記のような再配列を行ったステレオ画像においては、対応点の探索窓の移動範囲を走査線上に限定することができるため、視差は左右画像中の対応点同士のx座標の差として得られる。
特公平8−16930号公報 「画像解析ハンドブック」(高木幹夫・下田陽久監修、東京大学出版会刊、1991年1月、頁597−599)
しかしながら、従来のステレオマッチングによる3次元データ生成手法では、テクスチャのない領域や相関係数による対応が得られない領域も含まれるため、上記の3次元データの画像中には周囲と大きく異なる誤った高さを示す点が多く含まれる。特に、建造物の周囲等では隠蔽が発生するため、対応の取れない点が多くなり、著しく高い値を示したり、あるいは建造物が大きく欠損したりする場合がある。
そのため、従来のステレオマッチングによる3次元データ生成手法では、対応点のミスマッチングによる誤差が生じ、精度の高い3次元情報が得られないので、都市部等の建造物の多い複雑な画像に対しては適用することが難しいという課題があった。
本発明は、上記課題を解決するためになされたものであり、複数の画像間において同一の位置を示す領域同士を正確に対応付けることができるステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラムを提供することを目的とする。
上記目的を達成するため、本発明の第1の観点に係るステレオマッチング処理システムは、同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手段と、前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手段と、を備え、前記対応付け手段は、前記線分判別手段によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付け手段は、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
また、上記目的を達成するため、本発明の第2の観点に係るステレオマッチング処理システムは、同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御手段と、前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手段と、前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手段と、を備え、前記対応付け手段は、前記線分判別手段によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付け手段は、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
また、本発明の第3の観点に係るステレオマッチング処理方法は、同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付けステップと、前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別ステップと、を備え、前記対応付けステップは、前記線分判別ステップによって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付けステップは、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
また、本発明の第4の観点に係るステレオマッチング処理方法は、同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御ステップと、前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付けステップと、前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別ステップと、を備え、前記対応付けステップは、前記線分判別ステップによって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付けステップは、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
さらに、本発明の第5の観点に係るプログラムは、コンピュータに、同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手順と、前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手順と、を実行させるためのプログラムであって、前記対応付け手順は、前記線分判別手順によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付け手順は、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
さらに、本発明の第6の観点に係るプログラムは、コンピュータに、同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御手順と、前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手順と、前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手順と、を実行させるためのプログラムであって、前記対応付け手順は、前記線分判別手順によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、前記対応付け手順は、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、ことを特徴とする。
本発明によれば、同一の位置を複数の画像間において正確に対応付けることができるステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラムを提供することができる。
次に、本発明を実施するための最良の形態について図面を参照して説明する。図1は、本発明の実施形態に係るステレオ処理システムの構成例を示すブロック図である。ステレオ処理システム1は、例えば汎用コンピュータなどから構成され、図1に示すように、表示部10と、補助線入力部11と、相互標定部12と、ステレオマッチング部13と、オルソ処理・対地標定部14と、を備えている。
表示部10は、例えばLCD(Liquid Crystal Display)などから構成され、同一の対象物を異なる方向から撮影して得られた2つの航空写真の画像(以下、左画像及び右画像という)が含まれる図2に示す補助線入力画面や、図3に示す左画像と右画像とのステレオマッチング結果等を表示する。
補助線入力部11は、例えばキーボードやマウスなどから構成され、表示部10に表示された補助線入力画面において、オペレータが左画像及び右画像上に補助線を引く際などに用いられる。ここで、補助線とは、左画像と右画像との間で同一の位置となる箇所をオペレータの操作により対応付けるための線分である。
相互標定部12は、例えばCPU(Central Processing Unit)や、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスクドライブなどによって実現され、撮影時のカメラパラメータを標定する標定処理や、左画像と右画像とを必要に応じて共通平行面に再投影する平行化処理などを実行する。ここで、標定とは、評価の対象について所定の値を求めることをいう。
具体的に、相互標定部12は、標定処理において、左画像と右画像とに共通に映し出されている対象物の座標値を読み取り、読み取った2つの座標値を用いて、左画像と右画像との間でのカメラ回転角等の撮影時のカメラパラメータを標定する。これにより、相互標定部12は、通常、鉛直に近い方向から航空写真を撮影した場合でも航空機の姿勢変化等の影響により把握することが難しい撮影時のカメラパラメータを標定することができる。
その後、相互標定部12は、平行化処理を実行することにより、左画像及び右画像上のエピポールを結ぶエピポーラ線が複数の走査線の一つに一致するように左画像と右画像とを共通平行面に再投影する。
ステレオマッチング部13は、例えばCPUや、ROM、RAM、ハードディスクドライブなどによって実現され、左画像及び右画像のそれぞれに補助線が入力されたことを示す補助線入力フラグや、補助線と走査線との交点の座標を格納する交点座標バッファなどがRAMに備えている。
ステレオマッチング部13は、相互評価部12にて平行化処理が施された左画像及び右画像(平行化済画像対)に対してステレオマッチング処理、具体的にはDP(Dynamic Programming)マッチング処理を施すことにより、左画像と右画像との間での位置ずれ(視差)を計測し、視差データを生成する。
具体的に、ステレオマッチング部13は、DPマッチング処理において、オペレータによる補助線入力部11の操作によって左画像及び右画像上に補助線が入力されていない場合、図4に示すように、同一走査線上における左画像と右画像との相関を取っていき、相関係数が最大となる格子領域を検索する。
また、ステレオマッチング部13は、相関係数が最大となる格子領域の中心座標同士を図5に示す検索平面上で対応付けていく。この検索平面において、横軸x1は、右画像におけるx座標を示し、縦軸x2は、左画像におけるx座標を示している。
そして、ステレオマッチング部13は、このような対応付けを走査線毎に実行していくことにより、視差データを生成して、図3(a)に示すような画像をステレオマッチング結果として表示部10に表示する。
これに対して、オペレータによる補助線入力部11の操作によって左画像及び右画像のそれぞれに補助線が入力された場合、補助線が入力された箇所では、走査線と補助線との交点の座標を検索平面上に対応付けていく。一方、補助線が入力されていない箇所では、相関係数が最大となる格子領域の中心位置の座標同士を検索平面上に対応付けていく。
そして、ステレオマッチング部13は、図6に示すように、このような対応付けを走査線毎に実行していくことにより、補助線による補正が施された視差データを生成し、図3(b)に示すような画像をステレオマッチング結果として表示部10に表示する。
その後、ステレオマッチング部13は、生成した視差データと、相互標定部11にて標定されたカメラパラメータと、を組み合わせて、三角測量の原理によって各画素に対応する3次元座標系での位置を計算し、対象物の表層の高さを示す標高データを含むDSM(Digital Surface Model)データを抽出することにより、対象物までの奥行きや形状を求める。
オルソ処理・対地標定部14は、例えばCPUや、ROM、RAM、ハードディスクドライブなどによって実現され、DSMデータを用いて航空写真の画像とDSMデータとを正射変換するオルソ処理や、オルソ処理を施した航空写真の画像とDSMデータを用いて、地表に対する対象物の正確な座標、具体的には対象物の経度および緯度を求める対地標定処理を行うことにより、オルソ画像とオルソDSMデータとを生成する。
ここで、オルソ画像には、色データと、対地標定によって求められた緯度及び経度を示す緯度データ及び経度データと、が含まれている。また、オルソDSMデータには、対象物の表層の高さを示す標高データと、緯度データ及び経度データと、が含まれている。このような緯度データ及び経度データを求めることにより、同一対象物の位置を、異なるタイミングで撮影された航空写真の画像間で相互に対応付けることができるようになる。
次に、上記構成を備えるステレオマッチング処理システムが実行する処理について図面を参照して説明する。
ステレオマッチング処理システムでは、補助線入力処理と、ステレオマッチング処理と、が定期的に実行される。
図7は、補助線入力処理の詳細を示すフローチャートである。補助線入力処理において、ステレオマッチング部13は、表示部10に表示される補助線入力画面において、オペレータによる補助線入力部11の操作により左画像及び右画像のそれぞれに補助線が入力されたか否かを判別する(ステップS11)。このとき、補助線が入力されていなければ(ステップS11;No)、ステレオマッチング部13は、そのまま補助線入力処理を終了する。
これに対して、ステップS11の処理にて補助線が入力されたと判別した場合(ステップS11;Yes)、ステレオマッチング部13は、左画像及び右画像のそれぞれにつき、走査線と補助線との交点の座標を求めてRAMに設けられた交点座標バッファに格納する(ステップS12)。
そして、ステレオマッチング部13は、RAMに設けられた補助線入力フラグをオンにセットしてから(ステップS13)、補助線入力処理を終了する。
図8は、ステレオマッチング処理の詳細を示すフローチャートである。ステレオマッチング処理において、相互標定部12は、標定処理を実行することにより、撮影時のカメラパラメータを標定するとともに(ステップS21)、平行化処理を実行して、エピポーラ線が複数の走査線の一つに一致するように左画像と右画像とを共通平行面に再投影する(ステップS22)。
次に、ステレオマッチング部13は、RAMに設けられた補助線入力フラグがオンとなっているか否かをチェックすることにより、左画像及び右画像のそれぞれに補助線が入力されたか否かを判別する(ステップS23)。
ここで、ステップS23の処理にて補助線が入力されていないと判別した場合(ステップS23;No)、ステレオマッチング部13は、補助線による補正のない視差データを生成する(ステップS24)。
ステップS24の処理において、ステレオマッチング部13は、同一走査線上における左画像と右画像との相関を取って相関係数が最大となる格子領域を検索していく。そして、ステレオマッチング部13は、相関係数が最大となる格子領域の中心座標同士を検索平面上で対応付けていく。ステレオマッチング部13は、このような対応付けを走査線毎に実行していくことにより、補助線による補正のない視差データを生成する。
これに対して、ステップS23の処理にて補助線が入力されたと判別した場合(ステップS23;Yes)、ステレオマッチング部13は、補助線による補正のある視差データを生成する(ステップS25)。
ステップS25の処理において、ステレオマッチング部13は、補助線が入力された箇所では、RAMに設けられた交点座標バッファに格納されている走査線と補助線との交点の座標を検索平面上に対応付けていく一方で、補助線が入力されていない箇所では、相関係数が最大となる格子領域の中心位置の座標同士を検索平面上に対応付けていく。ステレオマッチング部13は、このような対応付けを走査線毎に実行していくことにより、補助線による補正のある視差データを生成する。
そして、ステレオマッチング部13は、ステップS24又はS25の処理にて生成した視差データに基づく画像をステレオマッチング結果として表示部10に表示するとともに(ステップS26)、視差データとステップS21の処理にて標定したカメラパラメータとを用いて、対象物の表層の高さを示す標高データを含むDSMデータを抽出する(ステップS27)。
続いて、オルソ処理・対地標定部14は、ステップS27の処理にて抽出したDSMデータを用いてオルソ処理を実行することにより、航空写真の画像とDSMデータとを正射変換する(ステップS28)。
そして、オルソ処理・対地標定部14は、ステップS28にてオルソ処理を施したDSMデータを用いて、対地標定処理を実行することにより、オルソ画像と、対象物の表層の高さを示す標高データを含むオルソDSMデータと、を生成する(ステップS29)。
続いて、上記処理を実行するステレオマッチング処理システムの動作について具体例を挙げて説明する。
まず、補助線が入力されていないときには、図8に示すステップS23の処理にて補助線入力フラグがオフであると判別されることから、ステップS24の処理にて相関係数が最大となる格子領域の中心座標同士が検索平面上で対応付けられていく。
そして、ステップS24の処理にて、図9(a)に示すように、検索平面上で誤った対応付けがなされた場合、オペレータによる補助線入力部11の操作により、図10に示すように、左画像上の補助線A2と右画像上の補助線A1とが対応付けて入力されるとともに、左画像上の補助線B2と右画像上の補助線B1とが対応付けて入力される。
その後、図7に示すステップS12の処理では、走査線と、補助線A1、A2、B1、及びB2と、の交点のx座標a1、a2、b1、及びb2がそれぞれ求められるとともに、ステップS13の処理にて補助線入力フラグがオンにセットされる。
そして、図8に示すステップS23の処理にて今度は補助線入力フラグがオンであると判別されることから、ステップS25の処理では、図9(b)に示すように、左画像上における走査線及び補助線A2の交点の座標a2と右画像上における走査線及び補助線A1の交点の座標a1とが、また、左画像上における走査線及び補助線B2の交点の座標b2と右画像上における走査線及び補助線B1の交点の座標b1とが、それぞれ検索平面上で対応付けられる。
これにより、ステレオマッチング処理システム1は、検索平面上における誤った対応付けを改善して、同一の位置を左画像と右画像との間で正確に対応付けることができる。
以上説明したように、本実施形態に係るステレオマッチング処理システム1によれば、補助線による補正を施すことにより、検索平面上における誤った対応付けを改善することができるため、ステレオマッチング結果としての視差データを修正することができる。そして、ステレオマッチング処理システム1は、修正された視差データを用いて、DSMデータを抽出することにより、対象物の表層の高さを正確に示す標高データを取得することができる。
なお、本発明は、上記実施形態に限定されず、種々の変形、応用が可能である。以下、本発明に適用可能な上記実施形態の変形態様について、説明する。
上記実施形態では、図8に示すステップS25の処理にて、左画像上における走査線及び補助線A2の交点の座標a2と右画像上における走査線及び補助線A1の交点の座標a1とが、また、左画像上における走査線及び補助線B2の交点の座標b2と右画像上における走査線及び補助線B1の交点の座標b1とが、それぞれ検索平面上で対応付けられ、その間では、相関係数が最大となる格子領域の中心座標同士が検索平面上で対応付けられるものとして説明した。しかしながら、本発明はこれに限定されるものではなく、図11に示すように、検索平面上の座標(a1、a2)と座標(b1、b2)とを結ぶ線分上の点が全て対応付けられるようにしてもよい。
そして、このような対応付けを行う補助線(強制補助線)を入力するか否かは、オペレータによる補助線入力部11による操作により決定されればよい。
上記実施形態では、補助線が走査線に垂直に引かれるものを例に説明したが、本発明はこれに限定されるものではなく、補助線は、図12に示すように、走査線に水平に引かれるものであってもよい。補助線が走査線に水平に引かれた場合には、左画像及び右画像それぞれにおける補助線(線分)をn(nは自然数)等分する点(等分点)同士を、図13に示すように、線分の始点から順に線分の終点まで検査平面上で対応付けるようにすればよい。
上記実施形態では、相互標定部11が、標定処理において、左画像と右画像とに共通に映っている対象物の座標値を読み取り、読み取った2つの座標値を用いて、左画像と右画像との間でのカメラ回転角等の撮影時のカメラパラメータを標定するものとして説明した。しかしながら、本発明はこれに限定されるものではなく、撮影時のカメラパラメータを標定する手法は、任意であり、例えば図化プログラムによって算出される値を用いて、撮影時のカメラパラメータを標定してもよい。
上記実施形態では、オルソ処理・対地標定部14が、オルソ処理を施した航空写真の画像とDSMデータを用いて、対象物の経度および緯度を求める対地標定を行うものとして説明した。しかしながら、本発明はこれに限定されるものではなく、対地標定を行うための手法は、任意であり、例えば、予め経度、緯度、及び標高値(画像座標)が検出されている航空写真の画像上の複数の点の画像座標から、地上表面の地上座標(経度、緯度、及び標高値)への変換式を求めるようにしてもよい。
また、対空標識を写し込で航空写真を撮影することで経度、緯度、及び標高が測量された空中三角測量データを用いてもよく、このようにすれば、画像上の任意の座標における地上座標を求めることが可能となる。ここで、対空標識とは、航空機から各種センサにより航空写真を撮影したときに、航空写真の画像上で明瞭にその形が認識でき、且つその画像座標を測定できるものをいう。したがって、対空標識を置いた点では、正確な3次元座標が示されている。
上記実施形態において、オルソ画像には、色データと緯度データと経度データとが含まれ、オルソDSMデータには、標高データと緯度データと経度データとが含まれているものとして説明した。しかしながら、本発明はこれに限定されるものではなく、オルソ画像及びオルソDSMデータには、緯度データ及び経度データに代えて、他の座標系で表現される座標値データが含まれてもよく、また、標高値データに代えて、他の基準からの相対的な高さを示す高さデータが含まれてもよい。
ステレオマッチング処理システムの構成例を示すブロック図である。 補助線入力画面の表示例を示す図である。 ステレオマッチング結果の表示例を示す図である。 DPマッチング処理を説明するための図である。 検索平面を例示する図である。 ステレオマッチング処理を説明するための図である。 補助線入力処理の一例を示すフローチャートである。 ステレオマッチング処理の一例を示すフローチャートである。 検索平面を例示する図である。 補助線を使用した対応付けの改善を説明するための図である。 変形例における検索平面を示す図である。 変形例における補助線を使用した対応付けの改善を説明するための図である。 変形例における検索平面を示す図である。
符号の説明
1 ステレオマッチング処理システム
10 表示部
11 補助線入力部
12 相互標定部
13 ステレオマッチング部
14 オルソ処理・対地標定部

Claims (9)

  1. 同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手段と、
    前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手段と、を備え、
    前記対応付け手段は、前記線分判別手段によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付け手段は、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするステレオマッチング処理システム。
  2. 同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御手段と、
    前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手段と、
    前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手段と、を備え、
    前記対応付け手段は、前記線分判別手段によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付け手段は、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするステレオマッチング処理システム。
  3. 前記対応付け手段は、前記複数の交点を結ぶ線分上の点のうち、実空間内の位置が同一の点同士を対応付ける、
    ことを特徴とする請求項1又はに記載のステレオマッチング処理システム。
  4. 前記対応付け手段は、対応付けの対象である前記複数の画像のそれぞれに前記同一走査線と水平な前記線分が引かれた場合、前記線分の始点同士と終点同士とをそれぞれ同一の位置を示すものとして対応付ける、
    ことを特徴とする請求項1乃至のいずれか1項に記載のステレオマッチング処理システム。
  5. 前記対応付け手段は、対応付けの対象である前記複数の画像のそれぞれに前記同一走査線と水平な前記線分が引かれた場合、該線分を所定等分する等分点同士を前記始点から順にそれぞれ同一の位置を示すものとして対応付けていく、
    ことを特徴とする請求項に記載のステレオマッチング処理システム。
  6. 同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付けステップと、
    前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別ステップと、を備え、
    前記対応付けステップは、前記線分判別ステップによって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付けステップは、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするステレオマッチング処理方法。
  7. 同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御ステップと、
    前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付けステップと、
    前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別ステップと、を備え、
    前記対応付けステップは、前記線分判別ステップによって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付けステップは、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするステレオマッチング処理方法。
  8. コンピュータに、同一の対象物を異なる方向から撮影して得られる複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手順と、
    前記複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手順と、を実行させるためのプログラムであって、
    前記対応付け手順は、前記線分判別手順によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付け手順は、前記複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするプログラム。
  9. コンピュータに、同一の対象物を異なる方向から撮影して得られる複数の画像のそれぞれでエピポーラ線の方向が走査線の方向に一致し、さらに、エピポーラ線に重なる走査線が同一走査線となるように、前記複数の画像を変換し、変換した画像を表示部に表示する制御手順と、
    前記表示部が表示する複数の画像において、同一走査線上で相関係数が最大となる領域同士を同一の位置を示すものとして対応付ける対応付け手順と、
    前記表示部が表示する複数の画像のそれぞれに同一の位置を示すものとして対応付けられた線分が引かれたかを判別する線分判別手順と、を実行させるためのプログラムであって、
    前記対応付け手順は、前記線分判別手順によって前記線分が引かれたと判別した場合、前記同一走査線上で相関係数が最大となる領域同士ではなく、該走査線と該線分との交点同士を同一の位置を示すものとして対応付け、さらに、
    前記対応付け手順は、前記表示部が表示する複数の画像のそれぞれに複数の線分が引かれた場合、前記同一走査線と同一画像上の前記複数の線分との複数の交点を結ぶ線分同士を同一の位置を示すものとして対応付ける、
    ことを特徴とするプログラム。
JP2008300103A 2008-11-25 2008-11-25 ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム Active JP5311465B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008300103A JP5311465B2 (ja) 2008-11-25 2008-11-25 ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム
KR1020117011938A KR101453143B1 (ko) 2008-11-25 2009-11-25 스테레오 매칭 처리 시스템, 스테레오 매칭 처리 방법, 및 기록 매체
PCT/JP2009/069887 WO2010061860A1 (ja) 2008-11-25 2009-11-25 ステレオマッチング処理システム、ステレオマッチング処理方法、及び記録媒体
CN200980146982.2A CN102224523B (zh) 2008-11-25 2009-11-25 立体匹配处理系统、立体匹配处理方法和记录媒介

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008300103A JP5311465B2 (ja) 2008-11-25 2008-11-25 ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2010128608A JP2010128608A (ja) 2010-06-10
JP5311465B2 true JP5311465B2 (ja) 2013-10-09

Family

ID=42225733

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008300103A Active JP5311465B2 (ja) 2008-11-25 2008-11-25 ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム

Country Status (4)

Country Link
JP (1) JP5311465B2 (ja)
KR (1) KR101453143B1 (ja)
CN (1) CN102224523B (ja)
WO (1) WO2010061860A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101922930B (zh) * 2010-07-08 2013-11-06 西北工业大学 一种航空偏振多光谱图像配准方法
US8587518B2 (en) * 2010-12-23 2013-11-19 Tektronix, Inc. Disparity cursors for measurement of 3D images
JP5839671B2 (ja) * 2011-09-20 2016-01-06 株式会社Screenホールディングス 三次元位置・姿勢認識装置、産業用ロボット、三次元位置・姿勢認識方法、プログラム、記録媒体
WO2013054499A1 (ja) 2011-10-11 2013-04-18 パナソニック株式会社 画像処理装置、撮像装置および画像処理方法
CN108629731A (zh) * 2017-03-15 2018-10-09 长沙博为软件技术股份有限公司 一种适用于滚动截屏的图像拼接方法
KR102610989B1 (ko) * 2019-12-26 2023-12-08 한국전자통신연구원 위성영상을 이용한 수치표면모델 생성 방법 및 장치
CN112417208A (zh) * 2020-11-20 2021-02-26 百度在线网络技术(北京)有限公司 目标搜索方法、装置、电子设备和计算机可读存储介质
CN113436057B (zh) * 2021-08-27 2021-11-19 绍兴埃瓦科技有限公司 数据处理方法及双目立体匹配方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3842988B2 (ja) * 2000-07-19 2006-11-08 ペンタックス株式会社 両眼立体視によって物体の3次元情報を計測する画像処理装置およびその方法又は計測のプログラムを記録した記録媒体
JP2002230527A (ja) * 2001-01-31 2002-08-16 Olympus Optical Co Ltd 立体情報取得装置および立体情報取得方法ならびに立体情報取得プログラムを記録したコンピュータリーダブル記録媒体
US7164784B2 (en) * 2002-07-30 2007-01-16 Mitsubishi Electric Research Laboratories, Inc. Edge chaining using smoothly-varying stereo disparity
CN100550054C (zh) * 2007-12-17 2009-10-14 电子科技大学 一种图像立体匹配方法及其装置
CN101226636B (zh) * 2008-02-02 2010-06-02 中国科学院遥感应用研究所 一种刚体变换关系的图像的匹配方法
CN100586199C (zh) * 2008-03-30 2010-01-27 深圳华为通信技术有限公司 视差获取方法和装置

Also Published As

Publication number Publication date
CN102224523B (zh) 2014-04-23
CN102224523A (zh) 2011-10-19
WO2010061860A1 (ja) 2010-06-03
KR20110089299A (ko) 2011-08-05
KR101453143B1 (ko) 2014-10-27
JP2010128608A (ja) 2010-06-10

Similar Documents

Publication Publication Date Title
JP5311465B2 (ja) ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム
EP2993490B1 (en) Operating device, operating method, and program therefor
JP5832341B2 (ja) 動画処理装置、動画処理方法および動画処理用のプログラム
CN105026997B (zh) 投影系统、半导体集成电路及图像修正方法
US8571265B2 (en) Measurement apparatus, measurement method, and feature identification apparatus
EP3096290B1 (en) Method and system for determining camera pose
EP1242966B1 (en) Spherical rectification of image pairs
JP6192938B2 (ja) 三次元合成処理システムおよび三次元合成処理方法
JP5715735B2 (ja) 3次元測定方法、装置、及びシステム、並びに画像処理装置
US8571303B2 (en) Stereo matching processing system, stereo matching processing method and recording medium
KR102200299B1 (ko) 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법
JP2004348575A (ja) 3次元モデル構築システム及び3次元モデル構築プログラム
JP2012058076A (ja) 3次元計測装置及び3次元計測方法
KR101011813B1 (ko) 인접된 항공사진들 간의 중첩지역 표시장치
KR101574636B1 (ko) 면형방식 디지털 항공카메라로 촬영한 시계열 항공사진을 입체시하여 좌표를 연동하고 변화지역을 판독하는 시스템
JP2018173882A (ja) 情報処理装置、方法、及びプログラム
JP4099776B2 (ja) 3次元モデル作成装置、3次元モデル作成方法および3次元モデル作成プログラム
JP2018106643A (ja) 空間モデル処理装置
JP2008224323A (ja) ステレオ写真計測装置、ステレオ写真計測方法及びステレオ写真計測用プログラム
JP4896762B2 (ja) 画像処理装置および画像処理プログラム
JP2011185777A (ja) 地物検出システム
JP3910844B2 (ja) 新旧写真画像を用いた標定方法及び修正図化方法
Zhou et al. Occlusion detection for urban aerial true orthoimage generation
JP2008040913A (ja) 情報処理方法、情報処理装置
CN108731644B (zh) 基于铅直辅助线的倾斜摄影测图方法及其系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121002

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130627

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5311465

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350