JP2005308553A - 三次元画像計測装置及び方法 - Google Patents

三次元画像計測装置及び方法 Download PDF

Info

Publication number
JP2005308553A
JP2005308553A JP2004126090A JP2004126090A JP2005308553A JP 2005308553 A JP2005308553 A JP 2005308553A JP 2004126090 A JP2004126090 A JP 2004126090A JP 2004126090 A JP2004126090 A JP 2004126090A JP 2005308553 A JP2005308553 A JP 2005308553A
Authority
JP
Japan
Prior art keywords
image
area
search
unit
reference area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004126090A
Other languages
English (en)
Inventor
Tadayuki Ito
忠之 伊藤
Hitoshi Otani
仁志 大谷
Nobuo Takachi
伸夫 高地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Topcon Corp filed Critical Topcon Corp
Priority to JP2004126090A priority Critical patent/JP2005308553A/ja
Priority to US11/109,876 priority patent/US7711180B2/en
Priority to EP05008620A priority patent/EP1589482B1/en
Priority to DE602005002176T priority patent/DE602005002176T2/de
Priority to AT05008620T priority patent/ATE371916T1/de
Publication of JP2005308553A publication Critical patent/JP2005308553A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • G06T5/80
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/32Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Abstract


【課題】 射影歪みの大きなステレオ画像に対しても、対象物表面の凸凹が木目細かく測定できると共に、安定した収束性の得られる三次元画像計測及び方法を提供すること。
【解決手段】 一対のステレオ画像46の一方画像53に基準エリア57を設定し、他方画像54の基準エリア57に対応した位置に探索エリア58を設定するエリア設定部56と、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、一方画像53又は他方画像54の何れか一方に画像修正を加える探索画像歪修正部62と、探索画像歪修正部62で修正された、一方画像53の基準エリア57と他方画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物41の形状を測定するエリア形状測定部66とを備えている。
【選択図】 図1

Description

この発明は、航空写真のように遠距離の対象物ではなく、中近距離の対象物を計測の対象とする画像計測のように、ステレオ写真撮影した画像の射影歪みが大きくなる測定対象物について、撮影した画像データを用いて、測定対象物の三次元形状データを取得する三次元画像計測装置及び方法に関する。
施工対象物や製作対象物の3Dデータを取得する方法には、特許文献1に記載されているような三次元位置測定装置(トータルステーション)により取得する方式と、特許文献2に記載されているような対象物と比較校正体を用いてステレオ画像を撮影して、ステレオ計測することにより3Dデータを取得するステレオ画像計測方式がある。三次元位置測定装置を用いた方式では、得られる3D座標の精度が良いので、画像貼り付けの際の基準点位置測定に利用される。特に、近年のトータルステーションでは、モータ駆動によって比較的多数(例えば測定対象物について数十点程度)の三次元座標が得られるようになってきている。ステレオ画像計測方式では、3Dデータと画像貼り付けを行う際に標定という作業を行なうことで、測定対象物について数千点−数万点程度の三次元座標を比較的簡便に得られる。
特開2002−352224号公報 図2 特開2003−65737号公報 図1、図2
しかしながら、三次元位置測定装置により取得した3Dデータは、基本的には距離データを含む三次元座標データにて構成されている。特に、中近距離の対象物を撮影した画像においては、射影歪の影響が少なくなく、そのためこの画像を用いて精密な三次元位置測定を行うことは、困難であるという課題があることが判明した。
本発明は上述した課題を解決したもので、射影歪みの大きなステレオ画像に対しても、対象物表面の凸凹が木目細かく測定できると共に、安定した収束性の得られる三次元画像計測装置及び方法を提供することを目的とする。
上記目的を達成する本発明の三次元画像計測装置は、例えば図1に示すように、一対のステレオ画像46の一方画像53に基準エリア57を設定し、他方画像54の基準エリア57に対応した位置に探索エリア58を設定する画像探索エリア設定部56と、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、一方画像53又は他方画像54の何れか一方に画像修正を加える探索画像歪修正部62と、探索画像歪修正部62で修正された、一方画像53の基準エリア57と他方画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物41の形状を測定するエリア形状測定部66とを備えている。
このような構成によると、画像探索エリア設定部56によって、一対のステレオ画像46の一方画像53に基準エリア57を設定し、他方画像54の基準エリア57に対応した位置に探索エリア58を設定して、基準エリア57に対応する探索エリア58との位置関係を求める為の前処理を行っている。探索画像歪修正部62は、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、一方画像53又は他方画像54の何れか一方に画像修正を加えて、一対のステレオ画像46に含まれる光学系の歪に起因する画像歪みや、像のボケや被測定物41の影等を考慮して、位置対応が求めやすいようにする。エリア形状測定部66は、探索画像歪修正部62で修正された、一方画像53の基準エリア57と他方画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物41の形状を測定する。
好ましくは、本発明の三次元画像計測装置において、例えば図1に示すように、さらに、単位幾何学形状を平面的に繰返して、ステレオ画像46の一方画像53と他方画像54を覆う単位幾何学形状網を形成する単位幾何学形状網形成部60を備え、画像探索エリア設定部56で設定する基準エリア57及び探索エリア58は、前記単位幾何学形状であり、探索画像歪修正部62は、基準エリア57に対する探索エリア58の歪を修正する構成とするとよい。単位幾何学形状網にて、ステレオ画像46の一方画像53と他方画像54を覆うと、一方画像53と他方画像54の単位幾何学形状網で覆われた領域全体に、ほぼ均質な密度の単位幾何学形状の格子点が分散配置される。探索画像歪修正部62は、単位幾何学形状網で覆われた領域全体で基準エリア57に対する探索エリア58の歪を修正することで、画像歪みが各単位幾何学形状の格子点に振り分けられる。そこで、エリア形状測定部66では、ステレオ画像46で撮影された被測定物41の形状測定の結果が合理的なものとなる。
好ましくは、本発明の三次元画像計測装置において、例えば図1に示すように、さらに、画像探索エリア設定部56で設定された基準エリア57と対応関係にある対応基準エリア59を、相関処理によって定める対応エリア決定部64を備え、画像探索エリア設定部56は、対応エリア決定部64で求められた対応基準エリア59を、基準エリア57に対応する他方画像54上の探索エリア58として設定する構成とするとよい。
好ましくは、本発明の三次元画像計測装置において、探索画像歪修正部62は、探索エリア58の近傍に位置する隣接探索エリアについて、対応基準エリア59に対応する隣接探索エリアの情報に基づき、探索エリア58に加える画像歪修正量を決定するように構成とするとよい。
好ましくは、本発明の三次元画像計測装置において、例えば図4に示すように、単位幾何学形状網形成部60は、粗密の幾何学形状を形成するもので、粗い幾何学形状から密な幾何学形状を順に形成していき、画像歪修正を行うように構成されているとよい。このように構成されると、粗い幾何学形状にて画像歪修正が概括的になされ、次に密な幾何学形状では、概括的になされた画像歪修正を用いて、さらに詳細な画像歪修正を行なうことで、少ない演算量で確実な画像歪修正が行なえる。
好ましくは、本発明の三次元画像計測装置において、探索画像歪修正部62は、一対のステレオ画像46の一方画像53と他方画像54との画像歪みが均等になるように、他方画像54に設けられる各探索エリアに加える画像歪修正量を決定する構成とするとよい。
上記目的を達成する本発明の三次元画像計測方法は、例えば図6に示すように、単位幾何学形状を平面的に繰返して、ステレオ画像46の一方画像53と他方画像54を覆う単位幾何学形状網を形成するステップ(S106)と、前記単位幾何学形状網のステレオ画像46の一方画像53と他方画像54との間の位置関係から求めた画像歪修正量を用いて、他方画像54を修正するステップ(S110、S112)と、一対のステレオ画像46の一方画像53に基準エリア57を設定し、ステレオ画像46の他方画像54の基準エリア57に対応した位置に探索エリア58を設定するステップ(S116)と、基準エリア57と基準エリア57に対応する探索エリア58との位置関係を、一方画像53と前記画像歪修正量で修正された他方画像54とを用いて求めるステップ(S118)と、単位幾何学形状網の形成された一方画像53の基準エリアと、修正された他方画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物の形状を測定するステップ(S126)とを、コンピュータに実行させるものである。
上記目的を達成する本発明の三次元画像計測装置は、例えば図15に示すように、一対のステレオ画像46の一方画像53に基準エリア57を設定し、他方画像54の基準エリア57に対応した位置に探索エリア58を設定する画像探索エリア設定部56と、基準エリア57の大きさ又は形状の少なくとも一方を変形させる基準エリア変形部72と、画像探索エリア設定部56で設定された基準エリア57又は基準エリア変形部72で変形された基準エリア57と対応関係にある探索エリア58を、相関処理によって定める対応エリア決定部74と、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、他方画像54に所定の画像修正を加える探索画像歪修正部62と、一方画像53の基準エリア57と探索画像歪修正部62で修正された他方画像54上の探索エリア58とに基づきステレオ画像46で撮影された被測定物41の形状を測定するエリア形状測定部80とを備えている。
好ましくは、本発明の三次元画像計測装置において、例えば図15に示すように、さらに、単位幾何学形状を平面的に繰返して、ステレオ画像46の一方画像53と他方画像54を覆う単位幾何学形状網を形成する単位幾何学形状網形成部60を備え、画像探索エリア設定部56で設定する基準エリア57及び探索エリア58は、前記単位幾何学形状であり、探索画像歪修正部62は、基準エリア57に対する探索エリア58の歪を修正する構成とするとよい。
好ましくは、本発明の三次元画像計測装置において、例えば図15に示すように、基準エリア変形部72は、エリア形状測定部80で得られた測定結果に基づき、基準エリア57の設定位置または形状の少なくとも一方を修正するように構成とするとよい。
好ましくは、本発明の三次元画像計測装置において、例えば図4に示すように、単位幾何学形状網形成部60は、粗密の幾何学形状を形成するもので、粗い幾何学形状から密な幾何学形状を順に形成していき、画像歪修正を行うように構成されているとよい。
上記目的を達成する本発明の三次元画像計測方法は、例えば図16に示すように、単位幾何学形状を平面的に繰返して、ステレオ画像46の一方画像53と他方画像54を覆う単位幾何学形状網を形成するステップ(S206)と、一対のステレオ画像46の一方画像53に基準エリア57を設定し、ステレオ画像46の他方画像の基準エリア57に対応した位置に探索エリア58を設定するステップ(S208)と、単位幾何学形状網を構成する任意の格子点位置を変更して、少なくとも一個の基準エリア57における大きさ又は形状の少なくとも一方を変形させるステップ(S210)と、設定された基準エリア57、若しくは前記大きさ又は形状が変形された基準エリア57を有する一方画像53と、他方画像54との間の位置関係から求めた画像歪修正量を用いて、他方画像54を修正するステップ(S214、S216)と、基準エリア57と基準エリア57に対応する探索エリア58との位置関係を、一方画像53と前記画像歪修正量で修正された他方画像とを用いて求めるステップ(S220)と、単位幾何学形状網の形成された一方画像53の基準エリアと、修正された他方画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物の形状を測定するステップ(S226)とをコンピュータに実行させるものである。
本発明の三次元画像計測装置及び方法によれば、射影歪みの大きなステレオ画像に対しても、対象物表面の凸凹が木目細かく測定できると共に、安定した収束性が得られる。射影歪の大きな画像としては、比較的中近距離測定の場合に生じる中心投影画像や、平行投影でも起伏が大きい場合が相当する。後者の典型例は、例えば半導体の試料撮影や、撮影距離が大きく変化するような凹凸のある対象物を撮影するような場合がある。
以下図面を用いて本発明を説明する。本発明の三次元画像表示装置は、最低2枚以上の複数撮影された画像から、ステレオ画像を構成する左右2枚の画像を1単位として、測定対象物41の立体的な形状を算出すると共に、測定対象物41の全体を3D計測もしくは取得された3Dデータを用いて、測定対象物41の二次元画像に立体感を表現するテクスチャ(texture)を貼り付ける。ここで、テクスチャとはグラフィックスなどにおいて、図形の表面に付けられた模様や、質感を表わすための描き込みをいう。
図1は本発明の三次元画像計測装置を説明する全体構成ブロック図である。図において、半導体や生体組織・細胞のような対象物41がテーブル(図示せず)等に載置されており、同一の光学的特性を有するカメラ42a、42bによって撮影される。像形成光学系としてのカメラ42a、42bは焦点距離が既知で、レンズ収差が補償されるものであり、対象物41が左右のステレオカメラ42a、42bで同一解像度で撮影されるように配置されている。左右のステレオカメラ42a、42bは、対象物41に対して、例えば80%程度以上の高い重複率で撮影した、一対のステレオ撮影画像データ43を生成する。カメラは、汎用の印画紙を用いた光学式カメラでもよく、またCCD(Charged Coupled Device)のような電子式でもよい。画像処理を円滑に行なう為には、ステレオ撮影画像データ43は電磁気記録情報としてフレキシブル・ディスク、CDROM、DVD等に記憶させておくと良い。
標定処理部44は、左右のステレオカメラ42a、42bで撮影されたステレオ撮影画像データ43に対して、内部標定と外部標定を行ない、ステレオマッチング処理を可能とする。内部標定とは、撮影したカメラや結像面(フィルム)に関連した内部幾何構造の補正・キャリブレーションを行なうもので、例えばレンズの歪み、レンズとフィルムの偏心のような位置関係、フィルムの平面性の補正を行なう。外部標定とは、撮影した時のカメラの位置・姿勢を決定するもので、例えば共線条件式を用いて定式化されている。共線条件式は投影中心・フィルム上の位置、対象物は一直線上にあるという関係式である。標定処理部44で標定された左右一対のステレオ画像46は、ステレオ画像記録部45に記憶される。ステレオ画像記録部45は、例えばフレキシブル・ディスク、CDROM、DVD等のように画像情報を電磁気情報として記憶する媒体である。標定処理は、予め装置のパラメータとして事前に求めておいても良いし、画像を計測して求めても良い。なお、ここでいうレンズには、電子顕微鏡の電子レンズも含まれる。
画像測定装置50は、概略位置測定部51、解像度別グリッド画像形成部52、画像処理部55、画像探索エリア設定部56、単位幾何学形状網形成部としての非整形三角形網形成部60、探索画像歪修正部62、対応エリア決定部64、エリア形状測定部66、画像再構築部67、左右画像対応関係データベース68を備えている。また、画像測定装置50で取扱われるデータとしては、基準画像53、探索画像54、基準エリア57、探索エリア58、対応基準エリア59、非整形三角形網データ61がある。画像測定装置50には、演算処理機能の高いパソコンやワークステーションのようなコンピュータが使用される。画像測定装置50の各構成要素は、アプリケーション・ソフトウェアやASICのような高度に集積した電子回路にて構成されている。なお、単位幾何学形状網形成部が形成する幾何学形状は、三角形に限るものではなく、正方形や、線分で区切られたものでも良く、要するに単位面が形成され、高さが内挿できるものであれば構わない。
概略位置測定部51は、一対のステレオ画像46中のマーク又は特徴点を抽出し、抽出されたマーク又は特徴点を用いて射影変換処理によりステレオ画像中のマーク又は特徴点の概略位置を求める機能を有する。
解像度別グリッド画像形成部52は、一対のステレオ画像46に対する基準画像53と探索画像54を生成するもので、高い解像度のものから低い解像度のものに順次基準画像53a、53b、…と探索画像54a、54b、…を生成する。典型的には、一対のステレオ画像46のうち、左画像に基準画像53が生成されると、探索画像54は基準画像が生成された他方の画像、即ち右画像に生成される。画像の解像度は、画像の木目細やかな表現力を定めるパラメータとなっており、低い解像度では粗い解像度、高い解像度では密な解像度が得られる。画像に含まれるデータ量は莫大であり、ステレオマッチングでの演算量を削減するために、低い解像度の画像で大まかな対応点の位置を抽出し、順次高い解像度の画像で詳細な対応点の位置を抽出してゆく。典型的には、第1解像度としての低解像度と、第2解像度としての高解像度の2階層で画像を生成すればよい。画像解像度に関する階層構造は、粗密探索法(Coarse To Fine法)に関連するもので、詳細は後で説明する。なお、解像度別グリッド画像形成部52で生成する基準画像53と探索画像54は、3階層以上であってもよい。
画像処理部55は、解像度別グリッド画像形成部52で取扱う、一対のステレオ画像46、即ち基準画像53、探索画像54を鮮鋭化させたり、コントラスト強調、エッジ強調を行ったり、解像度の異なる画像を作成する際に必要な画像データの補間や圧縮を行なったり、画像データから特徴抽出を行ったりする。
画像探索エリア設定部56は、基準画像53に対する基準エリア57と、探索画像54に対する探索エリア58を設定する。基準エリア57は、例えば正方領域のテンプレートと呼ばれるものである。探索エリア58は基準エリア57の捜索する範囲を限定するもので、探索画像54全体より小さく、基準エリア57より大きくするのが良い。解像度別グリッド画像形成部52で生成される基準画像53と探索画像54が、低解像度と高解像度の2階層で生成される場合には、画像探索エリア設定部56は、基準エリア57と探索エリア58も低解像度と高解像度の2階層として生成する。解像度別グリッド画像形成部52で生成される基準画像53と探索画像54が3階層の解像度で生成される場合には、画像探索エリア設定部56は、基準エリア57と探索エリア58も3階層の解像度で生成する。
図2は基準画像53に設定される基準エリア57と、探索画像54に設定される探索エリア58の説明図である。画像探索エリア設定部56は、基準画像53に設定される基準エリア57に比較して、探索画像54に設定される探索エリア58の領域を広く取っている。これにより、探索エリア58内の領域に、基準エリア57との相関係数の高い領域が存在する可能性が高くなる。なお、基準エリア57と探索エリア58は、画像を構成する全ての画素に対して定義することができる。全ての画素に対して定義すると、パターン配線前の半導体ウェハのように画像情報に顕著なパターンが表れない場合でも、全体的な色調や明度のパターンから、位置の判別が可能な場所が出現してくる。しかし、一定間隔や対応点・特徴点のように位置対応が判別できる程度の濃淡や形状・輪郭を含む画像情報に限って、基準エリア57と探索エリア58を設定してもよい。
図1に戻り、非整形三角形網形成部60は、基準画像53と探索画像54を非整形三角形で覆う非整形三角形網(TIN: Triangulated Irregular Network)を形成する。単位幾何学形状としての非整形三角形には、基準画像53と探索画像54で同一の地点を頂点とする三角形とするとよい。三角形が非整形であるのは、一対のステレオ画像46に撮影されている対象物41表面の凸凹やカメラ42a、42bの視軸の相違に起因する。即ち、単位幾何学形状には、典型的には正三角形や二等辺三角形のように対称性の良い図形を用いるのであるが、一対のステレオ画像46の性格上歪んで非整形となるのである。非整形三角形網で覆われる領域は、基準画像53と探索画像54の全領域である必要はなく、三次元画像計測の対象領域だけでもよい。非整形三角形網の詳細は、後で説明する。
探索画像歪修正部62は、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、他方画像54に画像修正を加えるものである。探索画像歪修正部62で行われる、基準エリア57と探索エリア58との対応点検出処理は、次のように行われる。対応点検出処理では、例えば写真測量で用いられるパスポイントや基準点を、基準画像53と探索画像54に設けている。一対のステレオ画像46の左右画像に対してマッチングを行う場合、画像探索エリア設定部56によって設定された探索画像54に対して、基準エリア57のテンプレートと同じ大きさのウィンドウを動かして、探索画像歪修正部62の対応点検出処理機能によって、基準エリア57と探索エリア58の濃度値が最も類似している位置を検出する。
対応点検出処理では、パスポイントや基準点の画像座標の計測に対しては、ステレオマッチングを併用する事により作業の効率化を実現している。例えば、正規化相関係数によるマッチング法や最小二乗マッチング(LSM:Least-Squares Matching)による対応点検出処理を行うと、パスポイントや基準点等の標定点を高精度に自動計測できる。
次に、探索画像歪修正部62では、一例として、正規化相関係数によるマッチング法が行なわれ、この処理を図2を参照して説明する。図2において、右画像を基準画像53、左画像を探索画像54とする。基準エリア57は、N個のデータから構成されるとし、探索エリア58は画像座標(U、V)を起点とする。正規化相関係数によるマッチング法では、基準エリア57を探索エリア58の中を左から右に動かし、探索エリア58の右端まで行くと下がって左端に戻り、また基準エリア57を左から右に動かすラスタ走査を行いながら、各位置で式5による演算処理を行なう。
M=M(Xi,Yi) (1≦i≦N) ・・・(1)
I=I(U+Xi,V+Yi)
とする。ここで、Mは基準エリア57の正規化数値、Iは探索エリア58の正規化数値とする。
すると、基準エリア57と探索エリア58の類似度は、次の正規化相関係数R(U、V)で与えられる。
Figure 2005308553
ここで、正規化相関係数Rの値は常に−1から1までの範囲の値をとる。正規化相関係数値Rが1の場合には、テンプレートとしての基準エリア57と探索エリア58中の対応画像が完全に一致した事になる。そこで対応エリア決定部64により、相関係数値の最大の位置を探せば、探索エリア58中において、基準エリア57に最も類似した画像の場所を示す対応基準エリア59を探す事ができる。
探索エリア58中に、基準エリア57と類似している点が無かった場合は、正規化相関係数値Rの最大値が小さく(例えば0.1)なるので、対応基準エリア59の探索は失敗とする。しかし探索を行う際に、対応エリア決定部64は、正規化相関係数値Rが最大となった座標値を対応基準エリア59の座標値としている。そこで、R=0.1とノイズに近い場合でも、低い正規化相関係数値の座標値が対応基準エリア59の座標値となってしまうことがある。従って正規化相関係数値Rの最大値があまりに小さく、設定したしきい値(例えば0.2〜0.3)以下の場合は、対応基準エリア59の探索は失敗とする。
続いて、最小二乗マッチングによる対応点検出処理を説明する。図3は、最小二乗マッチングによる対応点検出処理の説明図で、(A)は基準画像53の基準エリア57に相当するウィンドウ、(B)は探索画像54の探索エリア58に相当するウィンドウで、アフィン変形後を示している。図において、探索画像歪修正部62は、探索画像54のウィンドウの形状をアフィン変形させながら、基準画像53の基準エリア57に相当するウィンドウとのマッチング演算を行い、対応点をサブピクセル単位で計測する。
まず、探索画像54内でアフィン変形前の基準エリア57に相当するテンプレートをf1(i,j)、アフィン変形された探索エリア58に相当するマッチングウィンドウをf2(x,y)として、マッチングウィンドウの変形を式(3)のアフィン変換によって近似する。
Figure 2005308553
そして、アフィン変形前のテンプレートの画素f1(i,j)と、アフィン変形後のマッチングウィンドウの画素f2(x,y)とにおいて、比較する画素(i,j)における濃度差d(i,j)は以下の式(4)で与えられる。
Figure 2005308553
次に、濃度差の二乗和を最小とする条件、すなわち
Figure 2005308553
を満たすような係数a1〜a6を決定する。ここで、係数a1、a2、a4、a5はマッチングウィンドウの変形を表し、係数a3、a6が求めるべき検出位置の座標に相当する。
なお、探索画像歪修正部62は、エピポーラ拘束による最小二乗マッチングを用いることも出来る。即ち、基準画像53と探索画像54が偏位修正画像であって、探索画像歪修正部62が偏位修正画像を用いてステレオマッチングを行う場合、マッチングはエピポーラライン上の1次元探索で行うため、マッチングの高速化と信頼性を向上させることができる。そこで、最小二乗マッチングはマッチングウィンドウの変形を表すアフィン変換式(3)を用いるが、ここではエピポーラ拘束条件により式(6)のように簡略化できる。
Figure 2005308553
対応エリア決定部64は、基準画像53に設けられた基準エリア57に対応する探索エリア58を探索画像54上で捜索するもので、例えば上述のアフィン変換を用いる。画像データを取扱うので、同じ解像度での基準画像53と探索画像54との間で、基準エリア57と同一又は同一性のある探索エリア58を探す。従って、対応エリア決定部64は、異なる解像度の基準画像53と探索画像54との間での捜索対応検出は行なわない。
エリア形状測定部66では、求められた位置関係を利用して一対のステレオ画像に撮影された対象物の測定を行なう。本実施例のエリア形状測定部66では、粗密探索法と非整形三角形網法を組合せると共に、最小二乗法や正規化相関法を有機的に組合せて、少ない演算量でステレオ画像46の画素単位よりも詳細なサブピクセル単位で対象物の測定を行える。
画像再構築部67は、画像測定装置50で得られた、一対のステレオ画像46に撮影された対象物の測定結果から、対象物の二次元又は三次元の画像を再構築する。再構築画像47には、三次元鳥瞰図や正射写真図等の各種の画像がある。左右画像対応関係データベース68は、一対のステレオ画像46に撮影されている左右画像の対応点に関する情報が格納されるもので、概略位置測定部51、解像度別グリッド画像形成部52、画像処理部55、画像探索エリア設定部56、対応エリア決定部64、エリア形状測定部66、画像再構築部67に対して共通のデータベースとして用いられる。なお、対象物の3Dモデリングは、面の概念が必要であるため、ステレオマッチングで計測されたDSMデータは、点群ではなく、TIN(非整形三角形網)モデルとして面的に処理する。また、マニュアルで計測された輪郭などのポリラインデータもTINモデルとして利用できる。
次に、各構成要素の作用について図面を参照して、さらに詳細に説明する。なお、ここで説明するのは一例であり、この方法に限定されない。例えば、粗密の度合いや階層数は任意に設定できる。また、TIN(非整形三角形網)モデルの密度も任意に変更・設定できる。
図4は粗密探索法の階層構造を説明する構成図である。対応エリア決定部64での画像相関演算時間を最適化するために、解像度別グリッド画像形成部52を用いて、一対のステレオ画像46を異なる解像度の多層階層とする。この場合、画像相関演算による対応点を確実に検出するために、ピラミッド構造型の多層階層による捜索を利用する。ピラミッド構造では、粗い解像度の最上層で概略重ね合わせを行ってから、密の解像度で詳細重ね合わせを行う。そこで、画像相関演算を短縮すると同時に、各解像度の画像におけるマッチング結果の統合判断が可能となる為、誤対応が低減できる。ピラミッド構造型の多層階層では、図4に示すように、予め画像解像度の異なる画像を低解像度層(第一基準画像)、第2層(第二基準画像)、…、高解像度層(第L基準画像)、低解像度層(第一探索画像)、第2層(第二探索画像)、…、高解像度層(第L探索画像)というふうに作成する。高解像度層は、例えば基準画像53や探索画像54の画素密度と等倍とし、以下一層毎に画素解像度を1/2(縮小解像度を2倍)にするとよい。
即ち、上述の基準画像や探索画像のピラミッド構造は、画像処理部55や解像度別グリッド画像形成部52により式(7)を適用することで、第1層から第L層(最下層を第L’層とする)まで構築される。ここでは、第L層が次式で表される。
Figure 2005308553
ここでx,y = 0,1,・・・,2K-(L'-L)-1である。L=3とすると、総階層数は3階層となる。もし、2階層に対して第3階層を付加するという立場で説明する場合、第3解像度としての第2解像度よりも高い高解像度を設けてもよく、また第4解像度としての第1解像度と第2解像度の中間解像度でもよい。
続いて、このように構成された装置の動作について説明する。図5は一対のステレオ画像に対する三次元画像計測処理全体を説明するフローチャートである。まず、左右のステレオカメラ42a、42bを用いて、対象物41の左右のカメラ画像を取得する(S10)。左右のカメラ画像は、ステレオ撮影画像データ43として、標定処理部44により画像を補正するし、好ましくは同時に縦視差を除去する(S12)。作成されたステレオ画像は、一対のステレオ画像46としてステレオ画像記録部45に記憶される。次に、一対のステレオ画像46に対して、ステレオ・マッチング処理が行なわれる(S14)。そして、ステレオ・マッチング処理が行なわれた一対のステレオ画像46を用いて、ステレオ画像46に撮影された対象物41の三次元座標計測が行なわれる(S16)。また、必要に応じて態様で、対象物41の三次元画像を再構築する(S18)。
続いて、図6を用いて図1の画像測定装置の動作を説明する。図6は本発明の一実施の形態を説明するフローチャートで、粗密探索法、非整形三角形網並びに最小二乗法を組合せた動作について説明する。まず、画像測定装置50によってステレオ画像記録部45から一対のステレオ画像46を取込み、解像度別グリッド画像形成部52によって、一対のステレオ画像46の左右画像に対して、基準画像53と探索画像54を設定する(S100)。次に、例えばオペレータによって、左右画像のマッチング対象領域を、輪郭となる境界点を入力して指定する(S102)。図7は、一対のステレオ画像46に設定された輪郭線の説明図で、(A)は左画像(探索画像54)、(B)は右画像(基準画像53)を示している。オペレータによって、一対のステレオ画像46の一方画像に輪郭となる境界点を入力して指定すると、画像探索エリア設定部56に設けられた入力援助機能によって、他方画像の対応位置に輪郭となる境界点が自動設定される。
次に、オペレータや画像測定装置50の初期値設定機能により、非整形三角形網の初期値が設定される(S104)。すると、非整形三角形網形成部60によって、非整形三角形を平面的に繰返して、ステレオ画像46の基準画像53と他方画像54を覆う非整形三角形網が形成される。そして、解像度別グリッド画像形成部52によって、粗密探索法(Coarse to Fine Method)における低解像度層のグリッドが生成される(S106)。図8は、解像度別グリッド画像形成部52によって生成されるグリッドの説明図で、(A)は低解像度層、(B)は中解像度層、(C)は高解像度層を示している。前述したように、低解像度層で求めた位置情報が有効により高い解像度層で使用できるように、低解像度層の単一グリッドが、より高い解像度層の複数のグリッドに分割される。
次に、基準画像53と探索画像54の対応位置の初期値を、非整形三角形網内挿によって求める(S108)。ここで、非整形三角形網内挿とは、ランダム状に配置された地形点から三角形群を発生させてデジタルエレベーションモデル(DEM)を形成し、任意の点の位置を既知点の値から内挿により求めることをいう。図9は、探索画像54の非整形三角形網内挿後における各点の探索幅補正の説明図で、(A)は当初の探索画像54のグリッド、(B)は非整形三角形網内挿によって求められた探索画像54の対応位置の初期値に応じて変形されたグリッドの説明図である。当初の探索画像54のグリッドは、非整形三角形網内挿によって求められた探索画像54の対応位置の初期値に応じて変形され、探索画像上に形成されたグリッドは、図9(B)に示すように変形される。
次に、対応エリア決定部64によって、探索画像の探索画像歪修正量の初期値が非整形三角形網より最小二乗法で定められる(S110)。図10は、探索画像54の探索画像歪修正の説明図で、(A)は探索画像歪の修正前、(B)は探索画像歪の修正後の説明図である。探索画像の探索画像歪修正量の初期値は、最小二乗マッチングによる対応点検出処理におけるアフィン変形式の係数a1〜a6により得られる。なお、今回の解像度層での探索画像54に対して求められた、最小二乗マッチングによる対応点検出処理の変換係数は、より高解像度層でのマッチングの初期値として用いることができ、最終的に等倍画像において最適な対応点の位置を決定するのに役立つ。
そして、探索画像歪修正部62は、探索画像54をS110で求めた探索画像歪修正量で補正する(S112)。そして、探索画像歪修正部62は、探索画像54の探索画像歪修正後における各点の探索幅を、各非整形三角形の傾斜により決定する(S114)。図11は、探索画像54の傾斜歪修正後における各点の探索幅補正の説明図で、(A)は探索画像54のグリッド、(B)は非整形三角形の傾斜により変形された探索画像54のグリッドの説明図である。探索画像54のグリッドは、各画素を含む非整形三角形の傾斜に応じて、探索幅が補正される。即ち、探索画像歪修正部62によって、ステレオ画像46の基準画像53と探索画像54との間の位置関係を、非整形三角形網から求めた変形量によって、画像の全体的配慮からみた探索画像54の修正がなされ、各画素を含む非整形三角形の傾斜によって個別画素での局所的な探索画像54の修正がなされる。
そして、画像探索エリア設定部56によって、一対のステレオ画像46の基準画像53に基準エリア57が設定され、ステレオ画像46の探索画像54の基準エリア57に対応した位置に探索エリア58が設定される(S116)。次に、探索画像歪修正部62によって、探索画像の各点の探索範囲について、探索画像歪修正量で補正した探索画像を用いて、探索エリア58の探索が行なわれる(S118)。このようにして、基準エリア57と基準エリア57に対応する探索エリア58との位置関係を、基準画像53と画像歪修正量で修正された探索画像54とを用いて求めることができる。そして、画像測定装置50は、粗密探索法の一段高い解像度層は存在するか判断し(S120)、存在すれば解像度別グリッド画像形成部52によって、より高解像度層のグリッドを発生させ(S124)、S108に戻る。そして、探索画像54における画像歪がきれいに補正されるまで、上記の処理(S108〜S124)が繰り返される。「きれいに補正」とは、例えば解像度の範囲を適宜に設定して行う。
そして、粗密探索法の一段高い解像度層まで非整形三角形網が形成されている場合には、S120からS126に分枝する。そして、エリア形状測定部66では、一番高い解像度層まで非整形三角網が形成され、画像歪の補正がなされている探索画像54と、基準画像53とを用いて、各点の三次元画像計測が行われる(S126)ので、より精度の高い測定結果が期待できる。そして、処理の終了かどうかが判断され(S128)、Noであれば、S100に戻り、Yesであれば終了する。
図12は、ステレオマッチングの粗密探索過程と非整形三角形網の一例を示す図で、土器を例に示している。粗密探索法(Coarse To Fine法)における画像解像度に関する階層構造は、ここでは4階層の場合を示している。低解像度層では画素数が圧縮されている関係で小さく図示され、高解像度層では画素数が多い為大きく図示されている。対象物としての土器に対して、非整形三角形網は、最初は低解像度層に対応した粗い非整形三角形網モデルであり、高解像度層に移行するに従って、次第に詳細な非整形三角形網モデルへと計測されていく。
図13は、通常の正規化相関で得られた1画素精度のマッチング結果の一例を示す図である。図14は最小二乗マッチングで得られたサブピクセル精度のマッチング結果の一例を示す図である。マネキンの顔面表面のように、数mm程度の僅かな凸凹が存在している場合には、一画素の分解能が数mm程度に相当する場合に、一画素以下のビット落ちの影響が大きく現れ、再構築された表面形状に段差が表れる。これに対して、最小二乗マッチングで得られたサブピクセル精度の場合には、一画素分解能の1/10〜1/100程度の精度まで再現可能である為、再構築された表面形状は滑らかである。
なお、第1の実施の形態においては、探索画像歪修正部62は、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、他方画像54に画像修正を加える場合を示しているが、変形実施例として、他方画像54に代えて基準画像53に画像修正を加えてもよい。
図15は本発明の三次元画像計測装置の第2の実施の形態を説明する全体構成ブロック図である。実施例1においては、探索画像歪修正部62によって探索画像54を探索画像歪修正量で補正し、基準画像53に関しては画像歪みをそのまま存置する場合を示した。しかし、基準画像53の画像歪みが大きい場合には、基準画像53の画像歪みも探索画像54の画像歪みを考慮して補正するのが良い場合もある。そこで、実施例2では基準画像53の画像歪みも補正する場合を示している。
図において、図1と同一作用をするものには同一符号を付して、説明を省略する。画像測定装置50は、基準エリア変形部72、対応エリア決定部74、エリア形状測定部80、画像再構築部82、左右画像対応関係データベース84を備えている。基準エリア変形部72は、基準エリア57の大きさ又は形状の少なくとも一方を変形させるもので、例えばオペレータが基準エリア57と対応関係にある探索エリア58の像を見て適宜に判断したり、標定結果を利用したりする。また、基準エリア変形部72は、エリア形状測定部80で得られた測定結果に基づき、基準画像53の画像歪みが小さくなるように、基準エリア57の設定位置または形状の少なくとも一方を修正するとよい。
対応エリア決定部74は、エリア設定部56で設定された基準エリア57又は基準エリア変形部72で変形された基準エリア57と対応関係にある探索エリア58を、相関処理によって定めるもので、相関処理に関しては既述してある。探索画像歪修正部62は、基準エリア57と基準エリア57に対応する探索エリア58との位置関係に応じて、探索画像54に所定の画像修正を加える。エリア形状測定部80は、基準画像53の基準エリア57と探索画像歪修正部62で修正された探索画像54上の探索エリア58とに基づき、ステレオ画像46で撮影された被測定物41の形状を測定する。
続いて、図16を用いて図15の画像測定装置の動作を説明する。図16は本発明の第2の実施の形態を説明するフローチャートで、粗密探索法、非整形三角形網並びに最小二乗法を組合せた動作について説明する。まず、画像測定装置50によってステレオ画像記録部45から一対のステレオ画像46を取込み、解像度別グリッド画像形成部52によって、一対のステレオ画像46の左右画像に対して、基準画像53と探索画像54を設定する(S200)。次に、例えばオペレータによって、左右画像のマッチング対象領域を、輪郭となる境界点を入力して指定する(S202)。
次に、オペレータや画像測定装置50の初期値設定機能により、非整形三角形網の初期値が設定される(S204)。すると、非整形三角形網形成部60によって、非整形三角形を平面的に繰返して、ステレオ画像46の基準画像53と他方画像54を覆う非整形三角形網が形成される。そして、解像度別グリッド画像形成部52によって、粗密探索法(Coarse to Fine Method)における低解像度層のグリッドが生成される(S206)。
そして、画像探索エリア設定部56によって、一対のステレオ画像46の基準画像53に基準エリア57が設定され、ステレオ画像46の探索画像54の基準エリア57に対応した位置に探索エリア58が設定される(S208)。基準エリア変形部72は、非整形三角形網を構成する任意の格子点位置を変更して、少なくとも一個の基準エリア57における大きさ又は形状の少なくとも一方を変形させる(S210)。次に、基準画像53と探索画像54の対応位置の初期値を、非整形三角形網内挿によって求める(S212)。次に、対応エリア決定部74によって、探索画像54の探索画像歪修正量の初期値が非整形三角形網より最小二乗法で定められる(S214)。
そして、探索画像歪修正部62は、探索画像54をS212で求めた探索画像歪修正量で補正する(S216)。そして、探索画像歪修正部62は、探索画像54の探索画像歪修正後における各点の探索幅を、各非整形三角形の傾斜により決定する(S218)。
次に、探索画像歪修正部62によって、探索画像の各点の探索範囲について、探索画像歪修正量で補正した探索画像を用いて、探索が行なわれる(S220)。例えば画像探索エリア設定部56によって、一対のステレオ画像46の基準画像53に基準エリア57が設定され、ステレオ画像46の探索画像54の基準エリア57に対応した位置に探索エリア58が設定される。
そして、画像測定装置50は、粗密探索法の一段高い解像度層は存在するか判断し(S222)、存在すれば解像度別グリッド画像形成部52によって、より高解像度層のグリッドを発生させ(S224)、S212に戻る。なお、必要な場合には、S212に代えて、S208に戻って、非整形三角形網形成部60で得られた測定結果に基づき、基準エリア57の設定位置または形状の少なくとも一方を修正するようにしてもよい。
そして、粗密探索法の一段高い解像度層まで非整形三角形網が形成されている場合には、S222からS226に分枝する。そして、エリア形状測定部80では、一番高い解像度層まで非整形三角網が形成され、画像歪の補正がなされている探索画像54と、基準画像53とを用いて、各点の三次元画像計測が行われる(S226)ので、より精度の高い測定結果が期待できる。そして、処理の終了かどうかが判断され(S228)、Noであれば、S200に戻り、Yesであれば終了する。
また実施の形態のように、三次元画像計測装置としてPC(パソコン)のような情報処理プロセッサを搭載したコンピュータ、LCD(Liquid Crystal Display)モニタのような表示装置、並びにPCにインストールする三次元画像計測装置用のソフトウェア、並びに測定対象物のステレオ画像を撮影するデジタルカメラのような被校正撮影装置が存在すれば、ステレオ画像から取得した3D計測データを測定対象物の立体感テクスチャ付き画像と一体化して視覚化できる。そこで、従来ステレオ計測した3Dデータで必要とされていた、高価で精密な立体視用の装置を用いなくても、汎用で低価格のコンピュータとモニタ装置を用いて安価にシステム構築ができる。
写真測量の計測分解能は、カメラ間の距離:Bと撮影距離:Hとの比である基線比:B/H(Base and Height Ratio)で決定されるが、地上写真測量の場合、複雑な凹凸形状を持った対象物を計測するには、基線比を大きくして撮影すると、オクルージョンや比高差に伴う投影歪の影響によりステレオマッチングが破綻する場合がある。このような場合でも、本実施の形態における最小二乗マッチングを適用すると、複雑な対象物であっても、基線比を小さくして撮影された画像を用いて、ステレオマッチングを行うことで、サブピクセル単位で画像計測が行える。さらに、TINによる内挿と粗密探索を組み合わせたアルゴリズムにより、斜め画像や対象物の投影歪みなどによる画像の変形(倍率、回転)に対しても信頼性の高い結果が得られている。
なお、最小二乗マッチングの良否は、左右画像の濃度レベルやウィンドウ内のテクスチャに依存する。そこで、本発明の最小二乗マッチングの前処理として、左右画像の濃度値でテクスチャの解析を行うとよい。また、ウィンドウ変形の際には、バイリニア法などを用いて画像のサンプリングを正確に行うとよい。
また、デジタル写真測量においては、標定によって各ステレオモデルから計測されるTINデータの3次元位置と撮影された画像との関係が確立しているため、TINモデルの合成及びテクスチャの位置合わせ作業を必要としない。また、テクスチャは撮影時のカメラのレンズディストーションや射影歪の補正も同時に行われるため、計測に用いた画像であれば、その計測精度に一致した解像度のテクスチャマッピングが行える。TINモデルとテクスチャとの対応関係は、各解像度層で管理する。
テクスチャ付き3Dモデルは、パソコン画面上で、自由に回転、拡大してリアルに表面形状を確認できる。これにより、立体視用画面(3Dモニタ)を用いなくても計測データのチェックや編集が行える。また、建築、構造物などの複雑な全周モデルを計測する場合には、周囲から撮影されたたくさんの画像を用いて、ステレオモデル毎にTINモデルを計測していくが、TINモデルは、同一座標系の正しい配置に自動合成されるので、計測データを確認しながら作業を進める事ができる。
Windows(登録商標)環境で高速な3Dグラフィックを実現するためのAPI(Application Programming Interface)としては、Silicon Graphics社が中心となって開発したOpenGLと、Microsoft社が開発したDirect3Dとが広く普及しており、現在、多くのCGソフト、CADソフト、ゲームソフト等で利用されている。両者とも、3Dアクセラレーション機能を持つビデオカードがパソコンに搭載していれば、非常に高速な描画が可能になる。
本発明の第1の実施の形態を説明する全体構成ブロック図である。 基準画像53に設定される基準エリア57と、探索画像54に設定される探索エリア58の説明図である。 最小二乗マッチングによる対応点検出処理の説明図である。 粗密探索法の階層構造を説明する構成図である。 一対のステレオ画像に対する三次元画像計測処理全体を説明するフローチャートである。 本発明の一実施の形態を説明するフローチャートである。 一対のステレオ画像に設定された輪郭線の説明図である。 解像度別グリッド画像形成部によって生成されるグリッドの説明図である。 探索画像の非整形三角形網内挿後における各点の探索幅補正の説明図である。 探索画像の探索画像歪修正の説明図である。 探索画像54の傾斜歪修正後における各点の探索幅補正の説明図である。 ステレオマッチングの粗密探索過程と非整形三角形網の一例を示す図で、土器を例に示している。 通常の正規化相関で得られた1画素精度のマッチング結果の一例を示す図である。 最小二乗マッチングで得られたサブピクセル精度のマッチング結果の一例を示す図である。 本発明の三次元画像計測装置の第2の実施の形態を説明する全体構成ブロック図である。 本発明の第2の実施の形態を説明するフローチャートである。
符号の説明
41 測定対象物
46 ステレオ画像
50 画像測定装置
51 概略位置測定部
52 解像度別グリッド画像形成部
53 基準画像(一方画像)
54 探索画像(他方画像)
55 画像処理部
56 画像探索エリア設定部
57 基準エリア
58 探索エリア
59 対応基準エリア
60 非整形三角形網(単位幾何学形状網形成部)
61 非整形三角形網データ
62 探索画像歪修正部
64、74 対応エリア決定部
66、80 エリア形状測定部
67、82 画像再構築部
68、84 左右画像対応関係データベース
72 基準エリア変形部

Claims (12)

  1. 一対のステレオ画像の一方画像に基準エリアを設定し、前記ステレオ画像の他方画像の前記基準エリアに対応した位置に探索エリアを設定するエリア設定部と;
    前記基準エリアと、前記基準エリアに対応する前記探索エリアとの位置関係に応じて、前記いずれか一つの画像に画像修正を加える探索画像歪修正部と;
    前記画像修正された、一方画像の基準エリアと、他方画像上の探索エリアとに基づき、前記ステレオ画像で撮影された被測定物の形状を測定するエリア形状測定部と;
    を備える三次元画像計測装置。
  2. さらに、単位幾何学形状を平面的に繰返して、前記ステレオ画像の一方画像と他方画像を覆う単位幾何学形状網を形成する単位幾何学形状網形成部を備え;
    前記エリア設定部で設定する基準エリア及び探索エリアは、前記単位幾何学形状であり;
    前記探索画像歪修正部は、基準エリアに対する探索エリアの歪を修正する;
    請求項1記載の三次元画像計測装置。
  3. さらに、前記エリア設定部で設定された基準エリアと対応関係にある対応基準エリアを、相関処理によって定める対応エリア決定部を備え;
    前記エリア設定部は、前記対応エリア決定部で求められた対応基準エリアを、前記基準エリアに対応する他方画像上の探索エリアとして設定する請求項1又は請求項2に記載の三次元画像計測装置。
  4. 前記探索画像歪修正部は、探索エリアの近傍に位置する隣接探索エリアについて、隣接基準エリアに対応する前記隣接探索エリアの情報に基づき、前記探索エリアに加える画像歪修正量を決定するように構成されている請求項1乃至請求項3の何れか1項に記載の三次元画像計測装置。
  5. 前記単位幾何学形状網形成部は、粗密の幾何学形状を形成するもので、粗い幾何学形状から密な幾何学形状を順に形成していき、画像歪修正を行うように構成されていることを特徴とする請求項1乃至請求項4の何れか1項に記載の三次元画像計測装置。
  6. 前記探索画像歪修正部は、前記一対のステレオ画像の一方画像と他方画像との画像歪みが均等になるように、前記他方画像に設けられる各探索エリアに加える画像歪修正量を決定する請求項1乃至請求項5の何れか1項に記載の三次元画像計測装置。
  7. 単位幾何学形状を平面的に繰返して、前記ステレオ画像の一方画像と他方画像を覆う単位幾何学形状網を形成するステップと;
    前記単位幾何学形状網の前記ステレオ画像の一方画像と他方画像との間の位置関係から求めた画像歪修正量を用いて、前記他方画像を修正するステップと;
    一対のステレオ画像の一方画像に基準エリアを設定し、前記ステレオ画像の他方画像の前記基準エリアに対応した位置に探索エリアを設定するステップと;
    前記基準エリアと前記基準エリアに対応する前記探索エリアとの位置関係を、前記一方画像と前記画像歪修正量で修正された他方画像とを用いて求めるステップと;
    前記幾何学形状網の形成された一方画像の基準エリアと、修正された他方画像上の探索エリアとに基づき、前記ステレオ画像で撮影された被測定物の形状を測定するステップと;
    をコンピュータに実行させる三次元画像計測方法。
  8. 一対のステレオ画像の一方画像に基準エリアを設定し、前記ステレオ画像の他方画像の前記基準エリアに対応した位置に探索エリアを設定するエリア設定部と;
    前記基準エリアの大きさ又は形状の少なくとも一方を変形させる基準エリア変形部と;
    前記エリア設定部で設定された基準エリア、又は前記基準エリア変形部で変形された基準エリアと対応関係にある探索エリアを、相関処理によって定める対応エリア決定部と;
    前記基準エリアと、前記基準エリアに対応する前記探索エリアの位置関係に応じて、前記他方画像に所定の画像修正を加える探索画像歪修正部と;
    前記一方画像の基準エリアと、修正された他方画像上の探索エリアに基づき前記ステレオ画像で撮影された被測定物の形状を測定するエリア形状測定部と;
    を有する三次元画像計測装置。
  9. さらに、単位幾何学形状を平面的に繰返して、前記ステレオ画像の一方画像と他方画像を覆う単位幾何学形状網を形成する単位幾何学形状網形成部を備え;
    前記エリア設定部で設定する基準エリア及び探索エリアは、前記単位幾何学形状であり;
    前記探索画像歪修正部は、基準エリアに対する探索エリアの歪を修正する;
    請求項8記載の三次元画像計測装置。
  10. 前記基準エリア変形部は、前記エリア形状測定部で得られた測定結果に基づき、基準エリアの設定位置または形状の少なくとも一方を修正するように構成されている請求項8又は請求項9に記載の三次元画像計測装置。
  11. 前記単位幾何学形状網形成部は、粗密の幾何学形状を形成するもので、粗い幾何学形状から密な幾何学形状を順に形成していき、画像歪修正を行うように構成されていることを特徴とする請求項8乃至請求項10の何れか1項に記載の三次元画像計測装置。
  12. 単位幾何学形状を平面的に繰返して、前記ステレオ画像の一方画像と他方画像を覆う単位幾何学形状網を形成するステップと;
    一対のステレオ画像の一方画像に基準エリアを設定し、前記ステレオ画像の他方画像の前記基準エリアに対応した位置に探索エリアを設定するステップと;
    前記単位幾何学形状網を構成する任意の格子点位置を変更して、少なくとも一個の前記基準エリアにおける大きさ又は形状の少なくとも一方を変形させるステップと;
    設定された前記基準エリア、若しくは前記大きさ又は形状が変形された前記基準エリアを有する前記一方画像と、前記他方画像との間の位置関係から求めた画像歪修正量を用いて、前記他方画像を修正するステップと;
    前記基準エリアと前記基準エリアに対応する前記探索エリアとの位置関係を、前記一方画像と前記画像歪修正量で修正された他方画像とを用いて求めるステップと;
    前記幾何学形状網の形成された一方画像の基準エリアと、修正された他方画像上の探索エリアとに基づき、前記ステレオ画像で撮影された被測定物の形状を測定するステップと;
    をコンピュータに実行させる三次元画像計測方法。
JP2004126090A 2004-04-21 2004-04-21 三次元画像計測装置及び方法 Pending JP2005308553A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2004126090A JP2005308553A (ja) 2004-04-21 2004-04-21 三次元画像計測装置及び方法
US11/109,876 US7711180B2 (en) 2004-04-21 2005-04-20 Three-dimensional image measuring apparatus and method
EP05008620A EP1589482B1 (en) 2004-04-21 2005-04-20 Three-dimensional image measuring apparatus and method
DE602005002176T DE602005002176T2 (de) 2004-04-21 2005-04-20 Vorrichtung und Verfahren zur dreidimensionalen Bildvermessung
AT05008620T ATE371916T1 (de) 2004-04-21 2005-04-20 Vorrichtung und verfahren zur dreidimensionalen bildvermessung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004126090A JP2005308553A (ja) 2004-04-21 2004-04-21 三次元画像計測装置及び方法

Publications (1)

Publication Number Publication Date
JP2005308553A true JP2005308553A (ja) 2005-11-04

Family

ID=34935446

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004126090A Pending JP2005308553A (ja) 2004-04-21 2004-04-21 三次元画像計測装置及び方法

Country Status (5)

Country Link
US (1) US7711180B2 (ja)
EP (1) EP1589482B1 (ja)
JP (1) JP2005308553A (ja)
AT (1) ATE371916T1 (ja)
DE (1) DE602005002176T2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008071127A (ja) * 2006-09-14 2008-03-27 Mitsubishi Space Software Kk 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
WO2008152740A1 (ja) * 2007-06-13 2008-12-18 Information & Science Techno-System Co., Ltd. デジタル空撮3次元計測システム
JP2009014445A (ja) * 2007-07-03 2009-01-22 Konica Minolta Holdings Inc 測距装置
JP2009162747A (ja) * 2007-12-10 2009-07-23 Fujifilm Corp 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム
JP2011191131A (ja) * 2010-03-12 2011-09-29 Chubu Electric Power Co Inc 写真測量装置及び写真測量方法
JP2012230594A (ja) * 2011-04-27 2012-11-22 Topcon Corp 三次元点群位置データ処理装置、三次元点群位置データ処理方法、三次元点群位置データ処理システムおよびプログラム
JP2013182626A (ja) * 2012-03-02 2013-09-12 Sony Corp 自動画像アラインメント
JP2022069531A (ja) * 2018-09-18 2022-05-11 カール・ツアイス・メディテック・アーゲー 対象物の特性を判断するための方法及び装置

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8219940B2 (en) * 2005-07-06 2012-07-10 Semiconductor Insights Inc. Method and apparatus for removing dummy features from a data structure
US7437062B2 (en) * 2005-11-10 2008-10-14 Eradas, Inc. Remote sensing system capable of coregistering data from sensors potentially having unique perspectives
US7310606B2 (en) * 2006-05-12 2007-12-18 Harris Corporation Method and system for generating an image-textured digital surface model (DSM) for a geographical area of interest
ES2567556T3 (es) * 2006-09-19 2016-04-25 Sicpa Holding Sa Aparato y método para una detección segura de un artículo y un método de seguridad de acceso a información asociada con el artículo
US7978892B2 (en) * 2006-10-25 2011-07-12 D4D Technologies, Llc 3D photogrammetry using projected patterns
WO2009024758A1 (en) 2007-08-17 2009-02-26 Renishaw Plc Non-contact probe
JP5400138B2 (ja) * 2008-05-05 2014-01-29 イオムニサイエント ピーティーワイ リミテッド 電子的監視のためのシステム、方法、コンピュータプログラム及びコンピュータ読み取り可能な媒体
ES2366717B1 (es) * 2008-09-03 2012-08-30 Universidad De Sevilla Equipo de obtención de información en obras e infraestructuras basado en un vehículo aéreo no tripulado.
US8427505B2 (en) * 2008-11-11 2013-04-23 Harris Corporation Geospatial modeling system for images and related methods
US20110050857A1 (en) * 2009-09-03 2011-03-03 Electronics And Telecommunications Research Institute Apparatus and method for displaying 3d image in 3d image system
GB0915904D0 (en) 2009-09-11 2009-10-14 Renishaw Plc Non-contact object inspection
EP2362180B1 (en) * 2010-02-05 2016-01-27 Poly-clip System GmbH & Co. KG Method for measuring a storage frame
US20120019528A1 (en) * 2010-07-26 2012-01-26 Olympus Imaging Corp. Display apparatus, display method, and computer-readable recording medium
CN102650998A (zh) * 2011-02-28 2012-08-29 鸿富锦精密工业(深圳)有限公司 外观设计专利展示系统及方法
US8610712B2 (en) * 2011-03-01 2013-12-17 Adobe Systems Incorporated Object selection in stereo image pairs
US9970180B2 (en) 2011-03-14 2018-05-15 Caterpillar Trimble Control Technologies Llc System for machine control
US9625258B2 (en) 2011-06-06 2017-04-18 3Shape A/S Dual-resolution 3D scanner
US9087408B2 (en) * 2011-08-16 2015-07-21 Google Inc. Systems and methods for generating depthmaps
JP5978573B2 (ja) * 2011-09-06 2016-08-24 ソニー株式会社 映像信号処理装置および映像信号処理方法
WO2013151883A1 (en) * 2012-04-02 2013-10-10 Intel Corporation Systems, methods, and computer program products for runtime adjustment of image warping parameters in a multi-camera system
US9429417B2 (en) * 2012-05-17 2016-08-30 Hong Kong Applied Science and Technology Research Institute Company Limited Touch and motion detection using surface map, object shadow and a single camera
JP6041535B2 (ja) * 2012-05-29 2016-12-07 株式会社トプコン 画像取得方法及び撮影装置
US8792710B2 (en) * 2012-07-24 2014-07-29 Intel Corporation Stereoscopic depth reconstruction with probabilistic pixel correspondence search
US9355649B2 (en) 2012-11-13 2016-05-31 Adobe Systems Incorporated Sound alignment using timing information
US10638221B2 (en) 2012-11-13 2020-04-28 Adobe Inc. Time interval sound alignment
US10249321B2 (en) 2012-11-20 2019-04-02 Adobe Inc. Sound rate modification
CN103083089B (zh) * 2012-12-27 2014-11-12 广东圣洋信息科技实业有限公司 数字立体显微系统的虚拟标尺方法和系统
CN103077516B (zh) * 2012-12-31 2016-03-02 温佩芝 一种石刻文字的数字化拓片方法
US9058683B2 (en) 2013-02-21 2015-06-16 Qualcomm Incorporated Automatic image rectification for visual search
US9165373B2 (en) 2013-03-11 2015-10-20 Adobe Systems Incorporated Statistics of nearest neighbor fields
US9025822B2 (en) * 2013-03-11 2015-05-05 Adobe Systems Incorporated Spatially coherent nearest neighbor fields
US9031345B2 (en) 2013-03-11 2015-05-12 Adobe Systems Incorporated Optical flow accounting for image haze
US9129399B2 (en) 2013-03-11 2015-09-08 Adobe Systems Incorporated Optical flow with nearest neighbor field fusion
US9185289B2 (en) 2013-06-10 2015-11-10 International Business Machines Corporation Generating a composite field of view using a plurality of oblique panoramic images of a geographic area
JP5955292B2 (ja) * 2013-09-30 2016-07-20 富士重工業株式会社 フィルタリング装置
JP6504382B2 (ja) * 2014-10-24 2019-04-24 パナソニックIpマネジメント株式会社 表示制御装置、表示システム、表示制御方法、表示制御プログラム、および投影装置
US9965861B2 (en) * 2014-12-29 2018-05-08 Intel Corporation Method and system of feature matching for multiple images
JP6605318B2 (ja) * 2015-12-14 2019-11-13 東レエンジニアリング株式会社 立体形状物の検査装置
US10699119B2 (en) * 2016-12-02 2020-06-30 GEOSAT Aerospace & Technology Methods and systems for automatic object detection from aerial imagery
US10546195B2 (en) * 2016-12-02 2020-01-28 Geostat Aerospace & Technology Inc. Methods and systems for automatic object detection from aerial imagery
CN109872379B (zh) * 2017-12-05 2022-12-02 富士通株式会社 数据处理装置和方法
US10477180B1 (en) * 2018-05-22 2019-11-12 Faro Technologies, Inc. Photogrammetry system and method of operation
KR102275572B1 (ko) * 2018-12-21 2021-07-09 한국전자통신연구원 이종 고도 항공영상을 이용한 3차원 지형정보 정합 방법 및 장치
CN111311667B (zh) * 2020-02-14 2022-05-17 苏州浪潮智能科技有限公司 一种内容自适应双目匹配方法和装置
CN111626996B (zh) * 2020-05-21 2021-10-19 金陵科技学院 基于dem三维特征分布的滑动窗口检测方法
CN112233228B (zh) * 2020-10-28 2024-02-20 五邑大学 基于无人机的城市三维重建方法、装置及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003185434A (ja) * 2001-12-21 2003-07-03 Pentax Corp 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06307853A (ja) 1993-04-21 1994-11-04 Topcon Corp 自動追尾式測量機
DE69419291T2 (de) * 1993-09-03 1999-12-30 Canon Kk Formmessapparat
US6171018B1 (en) 1997-11-10 2001-01-09 Kabushiki Kaisha Topcon Automatic control system for construction machinery
AUPQ896000A0 (en) * 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
JP4727068B2 (ja) 2001-05-29 2011-07-20 株式会社トプコン 施工監視システム、施工管理方法
JP2003065737A (ja) 2001-08-28 2003-03-05 Topcon Corp 表面形状測定装置及びその方法、並びに表面状態図化装置
WO2003012368A1 (fr) * 2001-07-30 2003-02-13 Topcon Corporation Appareil de mesure d'une forme superficielle, procede de mesure d'une forme superficielle et appareil graphique destine a l'etat superficiel
JP2004234423A (ja) * 2003-01-31 2004-08-19 Seiko Epson Corp ステレオ画像処理方法およびステレオ画像処理装置、並びにステレオ画像処理プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003185434A (ja) * 2001-12-21 2003-07-03 Pentax Corp 写真測量システムと写真測量方法と写真測量プログラムが格納された記録媒体

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008071127A (ja) * 2006-09-14 2008-03-27 Mitsubishi Space Software Kk 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
JP4560023B2 (ja) * 2006-09-14 2010-10-13 三菱スペース・ソフトウエア株式会社 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
WO2008152740A1 (ja) * 2007-06-13 2008-12-18 Information & Science Techno-System Co., Ltd. デジタル空撮3次元計測システム
JPWO2008152740A1 (ja) * 2007-06-13 2010-08-26 株式会社情報科学テクノシステム デジタル空撮3次元計測システム
JP2009014445A (ja) * 2007-07-03 2009-01-22 Konica Minolta Holdings Inc 測距装置
JP2009162747A (ja) * 2007-12-10 2009-07-23 Fujifilm Corp 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム
JP2011191131A (ja) * 2010-03-12 2011-09-29 Chubu Electric Power Co Inc 写真測量装置及び写真測量方法
JP2012230594A (ja) * 2011-04-27 2012-11-22 Topcon Corp 三次元点群位置データ処理装置、三次元点群位置データ処理方法、三次元点群位置データ処理システムおよびプログラム
JP2013182626A (ja) * 2012-03-02 2013-09-12 Sony Corp 自動画像アラインメント
JP2022069531A (ja) * 2018-09-18 2022-05-11 カール・ツアイス・メディテック・アーゲー 対象物の特性を判断するための方法及び装置
JP7312873B2 (ja) 2018-09-18 2023-07-21 カール・ツアイス・メディテック・アーゲー 対象物の特性を判断するための方法及び装置

Also Published As

Publication number Publication date
DE602005002176D1 (de) 2007-10-11
EP1589482A2 (en) 2005-10-26
DE602005002176T2 (de) 2008-05-21
ATE371916T1 (de) 2007-09-15
EP1589482A3 (en) 2006-02-01
US7711180B2 (en) 2010-05-04
EP1589482B1 (en) 2007-08-29
US20050271264A1 (en) 2005-12-08

Similar Documents

Publication Publication Date Title
JP2005308553A (ja) 三次元画像計測装置及び方法
JP5963353B2 (ja) 光学データ処理装置、光学データ処理システム、光学データ処理方法、および光学データ処理用プログラム
US8208029B2 (en) Method and system for calibrating camera with rectification homography of imaged parallelogram
JP6057298B2 (ja) 迅速な3dモデリング
CN110288657B (zh) 一种基于Kinect的增强现实三维注册方法
US6668082B1 (en) Image processing apparatus
JP3347508B2 (ja) 撮像画像処理装置および撮像画像処理方法
US6516099B1 (en) Image processing apparatus
EP1596330B1 (en) Estimating position and orientation of markers in digital images
US8355565B1 (en) Producing high quality depth maps
US6647146B1 (en) Image processing apparatus
JP5955028B2 (ja) 画像処理装置、画像処理方法および画像処理用のプログラム
JP5668857B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US20040027347A1 (en) Discrete linear space sampling method and apparatus for generating digital 3D models
JPWO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
US20110235898A1 (en) Matching process in three-dimensional registration and computer-readable storage medium storing a program thereof
US20110292208A1 (en) High-resolution urban true orthoimage creation
JP2001067463A (ja) 異なる視点からの複数のフェイシャル画像に基づき新たな視点からのフェイシャル画像を生成するフェイシャル画像生成装置及び方法並びにその応用装置及び記録媒体
JP2016217941A (ja) 3次元データ評価装置、3次元データ測定システム、および3次元計測方法
JP2003323640A (ja) レーザスキャナデータと空中写真画像を用いた高精度都市モデルの生成方法及び高精度都市モデルの生成システム並びに高精度都市モデルの生成のプログラム
WO2020075252A1 (ja) 情報処理装置、プログラム及び情報処理方法
CN114998448A (zh) 一种多约束双目鱼眼相机标定与空间点定位的方法
CN111753644A (zh) 在三维人脸扫描上检测关键点的方法及装置
Deng et al. Automatic true orthophoto generation based on three-dimensional building model using multiview urban aerial images
JP4548228B2 (ja) 画像データ作成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110111

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111122

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20111130

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20120224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130507