JP4560023B2 - 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法 - Google Patents

画像マッチング装置、画像マッチングプログラム及び画像マッチング方法 Download PDF

Info

Publication number
JP4560023B2
JP4560023B2 JP2006249330A JP2006249330A JP4560023B2 JP 4560023 B2 JP4560023 B2 JP 4560023B2 JP 2006249330 A JP2006249330 A JP 2006249330A JP 2006249330 A JP2006249330 A JP 2006249330A JP 4560023 B2 JP4560023 B2 JP 4560023B2
Authority
JP
Japan
Prior art keywords
image
coordinate value
input
pixel
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006249330A
Other languages
English (en)
Other versions
JP2008071127A (ja
Inventor
若路 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Space Software Co Ltd
Original Assignee
Mitsubishi Space Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Space Software Co Ltd filed Critical Mitsubishi Space Software Co Ltd
Priority to JP2006249330A priority Critical patent/JP4560023B2/ja
Publication of JP2008071127A publication Critical patent/JP2008071127A/ja
Application granted granted Critical
Publication of JP4560023B2 publication Critical patent/JP4560023B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、例えば、複数の画像間の画素位置の対応関係を求める画像マッチング処理に関するものである。
従来、デジタル画像のテンプレートマッチング手法には、ピラミッド構造化を用いたローカルエリアマッチングがある。ピラミッド構造化とは、初めは粗い解像度でマッチングを行い、順次解像度を高くしてマッチングを繰り返す手法であり、coarse−to−fine法、粗密探索法ともいう。また、ローカルエリアマッチングとは、画像を分割して生成した小領域画像毎にマッチングを行う手法である。ピラミッド構造化を用いたローカルエリアマッチングでは、低解像度から高解像度に解像度を徐々に上げながら、分割された小領域毎にマッチングを行う。また、ピラミッド構造化を用いたローカルエリアマッチングでは、各解像度におけるマッチング探索初期位置に、前段階の最適マッチング位置を使用し、前段階のマッチング結果に基づき探索範囲を限定する。ピラミッド構造化を用いたローカルエリアマッチングは、低解像度画像によるマッチング結果に基づき探索範囲を限定することで、短時間にマッチング結果を得ることができ、最終的に得られるマッチング結果は高解像度画像でマッチングした結果であるためマッチング精度が高い。
特開2005−308553号公報 特開平10−21389号公報 特開2003−109003号公報 特開2001−148014号公報 特開平6−274594号公報
従来のデジタル画像のマッチング手法では、B/H(Base−Height)比の大きいリモートセンシング画像、顔識別システムや異なる時期に撮影された胸部X線画像等での入力された画像間の幾何学的歪みが大きい場合、マッチング精度が低くなるという課題がある。
本発明は、例えば、入力された画像間の幾何学的歪みが大きい場合であっても、高い精度のマッチングを行うことを目的とする。
本発明に係る画像マッチング装置は、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
上記画像入力部が入力した第1画像を処理装置により複数の画像に分割して複数の小領域画像を生成する画像分割部と、
上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索部と、
上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像を幾何変換して新たな第1画像を生成して記憶装置に記憶する画像変換部とを備え、
上記画像入力部は、上記画像変換部が生成した新たな第1画像を第1画像として新たに入力し、
上記画像分割部は、上記画像入力部が新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索部は、上記画像分割部が新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像変換部は、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、小領域分割法により上記第1画像を任意変形して新たな第1画像を生成する
ことを特徴とする。
上記画像変換部は、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、最小2乗法により上記第1画像と上記第2画像の画像座標値の関係を近似して、上記第1画像を任意変形して新たな第1画像を生成する
ことを特徴とする。
上記画像マッチング装置は、さらに、
上記画像入力部が入力した第1画像と第2画像とを相似縮小して縮小画像を生成して記憶装置に記憶する縮小画像生成部を備え、
上記画像分割部は、上記縮小画像生成部が生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を生成し、
上記対応画像検索部は、上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記縮小画像生成部が生成した第2画像の縮小画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を取得し、
上記縮小画像生成部は、上記画像入力部が新たに入力した第1画像と第2画像とを上記縮小画像よりも高解像度の画像に相似縮小して縮小画像を新たに生成し、
上記画像分割部は、上記縮小画像生成部が新たに生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索部は、上記画像分割部が新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記縮小画像生成部が新たに生成した第2画像の縮小画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像マッチング装置は、さらに、
上記画像入力部と上記画像分割部と上記対応画像検索部と上記画像変換部とに処理を所定の回数実行させるマッチング処理制御部を備え、
上記画像入力部は、所定の回数目に上記画像変換部により生成された新たな第1画像を第1画像として新たに入力し、
上記画像分割部は、上記画像入力部が新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索部は、上記画像分割部が新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得し、
上記画像マッチング装置は、さらに、
所定の回数目に生成された新たな第1画像に基づき取得された上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、初めに上記画像入力部が入力した第1画像の各画素の画像座標値と上記第2画像の画像座標値との対応関係情報をマッチング結果として出力するマッチング結果出力部と
を備えることを特徴とする。
上記画像入力部は、第1画像と複数の第2画像とを入力し、
上記対応画像検索部は、上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記複数の第2画像の各第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記各第2画像の画像座標値を取得し、
上記画像変換部は、上記複数の第2画像の各第2画像について、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する当該第2画像の画像座標値を用いて、上記第1画像を幾何変換して上記第2画像に対応する新たな第1画像を生成し、
上記画像入力部は、上記画像変換部が生成した複数の新たな第1画像を入力し、
上記画像分割部は、上記画像入力部が入力した複数の新たな第1画像の各新たな第1画像を複数の画像に分割して複数の新たな小領域画像を生成し、
上記対応画像検索部は、上記複数の新たな第1画像の各第1画像について、上記画像分割部が生成した複数の新たな小領域画像の各新たな小領域画像に対応する新たな対応画像を当該新たな第1画像に対応する第2画像から検索して、上記各新たな小領域画像の各画素の上記新たな第1画像における画像座標値に対応する上記第2画像の画像座標値を取得する
ことを特徴とする。
また、本発明に係る画像マッチング装置は、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
上記画像入力部が入力した第1画像を処理装置により複数の画像に分割して複数の小領域画像を生成する画像分割部と、
上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索部と、
上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換部とを備え、
上記画像入力部は、上記画像変換部が生成した新たな第2画像を第2画像として新たに入力し、
上記対応画像検索部は、上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記画像入力部が新たに入力した第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像変換部は、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像の各画素の画像座標に対応する第2画像の画素値を内挿によって求めて、上記第2画像を任意変形して新たな第2画像を生成する
ことを特徴とする。
さらに、本発明に係る画像マッチング装置は、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
上記画像入力部が入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索部と、
上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像を幾何変換して新たな第1画像を生成して記憶装置に記憶する画像変換部とを備え、
上記画像入力部は、上記画像変換部が生成した新たな第1画像を第1画像として新たに入力し、
上記対応画像検索部は、上記画像入力部が新たに入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を新たに検索して取得する
ことを特徴とする。
また、さらに、本発明に係る画像マッチング装置は、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
上記画像入力部が入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索部と、
上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換部とを備え、
上記画像入力部は、上記画像変換部が生成した新たな第2画像を第2画像として新たに入力し、
上記対応画像検索部は、上記第1画像の各画素の画像座標値に対応する上記画像入力部が新たに入力した第2画像の画像座標値を新たに検索して取得する
ことを特徴とする。
本発明に係る画像マッチングプログラムは、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
上記画像入力処理で入力した第1画像を処理装置により複数の画像に分割して複数の小領域画像を生成する画像分割処理と、
上記画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索処理と、
上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像を幾何変換して新たな第1画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
上記画像入力処理は、上記画像変換処理で生成した新たな第1画像を第1画像として新たに入力し、
上記画像分割処理は、上記画像入力処理で新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索処理は、上記画像分割処理で新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像変換処理は、上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、小領域分割法により上記第1画像を任意変形して新たな第1画像を生成する
ことを特徴とする。
上記画像変換処理は、上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、最小2乗法により上記第1画像と上記第2画像の画像座標値の関係を近似して、上記第1画像を任意変形して新たな第1画像を生成する
ことを特徴とする。
上記画像マッチングプログラムは、さらに、
上記画像入力処理で入力した第1画像と第2画像とを相似縮小して縮小画像を生成して記憶装置に記憶する縮小画像生成処理をコンピュータに実行させ、
上記画像分割処理は、上記縮小画像生成処理で生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を生成し、
上記対応画像検索処理は、上記画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記縮小画像生成処理で生成した第2画像の縮小画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を取得し、
上記縮小画像生成処理は、上記画像入力処理で新たに入力した第1画像と第2画像とを上記縮小画像よりも高解像度の画像に相似縮小して縮小画像を新たに生成し、
上記画像分割処理は、上記縮小画像生成処理で新たに生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索処理は、上記画像分割処理で新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記縮小画像生成処理で新たに生成した第2画像の縮小画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像マッチングプログラムは、さらに、
上記画像入力処理と上記画像分割処理と上記対応画像検索処理と上記画像変換処理とに処理を所定の回数実行させるマッチング処理制御処理をコンピュータに実行させ、
上記画像入力処理は、所定の回数目に上記画像変換処理により生成された新たな第1画像を第1画像として新たに入力し、
上記画像分割処理は、上記画像入力処理で新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索処理は、上記画像分割処理で新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得し、
上記画像マッチングプログラムは、さらに、
所定の回数目に生成された新たな第1画像に基づき取得された上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、初めに上記画像入力処理で入力した第1画像の各画素の画像座標値と上記第2画像の画像座標値との対応関係情報をマッチング結果として出力するマッチング結果出力処理と
をコンピュータに実行させることを特徴とする。
上記画像入力処理は、第1画像と複数の第2画像とを入力し、
上記対応画像検索処理は、上記画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記複数の第2画像の各第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記複数の第2画像の各第2画像の画像座標値を取得し、
上記画像変換処理は、上記複数の第2画像の各第2画像について、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する当該第2画像の画像座標値を用いて、上記第1画像を幾何変換して上記第2画像に対応する新たな第1画像を生成し、
上記画像入力処理は、上記画像変換処理で生成した複数の新たな第1画像を入力し、
上記画像分割処理は、上記画像入力処理で入力した複数の新たな第1画像の各新たな第1画像を複数の画像に分割して複数の新たな小領域画像を生成し、
上記対応画像検索処理は、上記複数の新たな第1画像の各第1画像について、上記画像分割処理で生成した複数の新たな小領域画像の各新たな小領域画像に対応する新たな対応画像を当該新たな第1画像に対応する第2画像から検索して、上記各新たな小領域画像の各画素の上記新たな第1画像における画像座標値に対応する上記第2画像の画像座標値を取得する
ことを特徴とする。
また、本発明に係る画像マッチングプログラムは、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
上記画像入力処理で入力した第1画像を処理装置により複数の画像に分割して複数の小領域画像を生成する画像分割処理と、
上記画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索処理と、
上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
上記画像入力処理は、上記画像変換処理で生成した新たな第2画像を第2画像として新たに入力し、
上記対応画像検索処理は、画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記画像入力処理で新たに入力した第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
上記画像変換処理は、上記対応画像検索処理が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像の各画素の画像座標に対応する第2画像の画素値を内挿によって求めて、上記第2画像を任意変形して新たな第2画像を生成する
ことを特徴とする。
さらに、本発明に係る画像マッチングプログラムは、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
上記画像入力処理で入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索処理と、
上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像を幾何変換して新たな第1画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
上記画像入力処理は、上記画像変換処理で生成した新たな第1画像を第1画像として新たに入力し、
上記対応画像検索処理は、上記画像入力処理で新たに入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を新たに検索して取得する
ことを特徴とする。
また、さらに、本発明に係る画像マッチングプログラムは、例えば、第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
上記画像入力処理で入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索処理と、
上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
上記画像入力処理は、上記画像変換処理で生成した新たな第2画像を第2画像として新たに入力し、
上記対応画像検索処理は、上記第1画像の各画素の画像座標値に対応する上記画像入力処理で新たに入力した第2画像の画像座標値を新たに検索して取得する
ことを特徴とする。
本発明に係る画像マッチング方法は、例えば、入力装置が第1画像と第2画像とを入力する画像入力ステップと、
処理装置が、上記画像入力ステップで入力した第1画像を複数の画像に分割して複数の小領域画像を生成する画像分割ステップと、
処理装置が、上記画像分割ステップで生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を取得する対応画像検索ステップと、
処理装置が、上記対応画像検索ステップで取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像を幾何変換して新たな第1画像を生成する画像変換ステップとを備え、
上記画像入力ステップでは、入力装置が、上記画像変換ステップで生成した新たな第1画像を第1画像として新たに入力し、
上記画像分割ステップでは、処理装置が、上記画像入力ステップで新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成し、
上記対応画像検索ステップでは、処理装置が、上記画像分割ステップで新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
また、本発明に係る画像マッチング方法は、例えば、入力装置が第1画像と第2画像とを入力する画像入力ステップと、
処理装置が、上記画像入力ステップで入力した第1画像を複数の画像に分割して複数の小領域画像を生成する画像分割ステップと、
処理装置が、上記画像分割ステップで生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を取得する対応画像検索ステップと、
処理装置が、上記対応画像検索ステップで取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成する画像変換ステップとを備え、
上記画像入力ステップでは、入力装置が、上記画像変換ステップで生成した新たな第2画像を第2画像として新たに入力し、
上記対応画像検索ステップでは、処理装置が、画像分割ステップで生成した複数の小領域画像の各小領域画像に対応する対応画像を上記画像入力ステップで新たに入力した第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
ことを特徴とする。
本発明に係る画像マッチング装置、画像マッチングプログラム及び画像マッチング方法は、第1画像と第2画像とをマッチングして得た対応画像に基づき、第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて第1画像あるいは第2画像を幾何変換し、幾何変換した画像をもう一方の画像と改めてマッチングしている。上記変換により、マッチングする画像間の幾何学的歪みが小さくなる。したがって、入力された画像間の幾何学的歪みが大きい場合であっても、高い精度のマッチングを行うことができる。
図1は、実施の形態における画像マッチング装置100の外観の一例を示す図である。
図1において、画像マッチング装置100は、サーバ910、LCD(液晶)901、キーボード902(Key・Board:K/B)、マウス903、FDD904(Flexible・Disk・Drive)などのハードウェア資源を備え、これらはケーブルや信号線で接続されている。
サーバ910は、コンピュータであり、ローカルエリアネットワーク942(LAN)、ゲートウェイ941を介してインターネット940に接続されている。
図2は、実施の形態における画像マッチング装置100のハードウェア資源の一例を示す図である。
図2において、画像マッチング装置100は、プログラムを実行するCPU911(Central・Processing・Unit、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサともいう)を備えている。CPU911は、バス912を介してROM913、RAM914、通信ボード915、LCD901、キーボード902、マウス903、FDD904、磁気ディスク装置920と接続され、これらのハードウェアデバイスを制御する。磁気ディスク装置920の代わりに、光ディスク装置、メモリカード読み書き装置などの記憶装置でもよい。
LCD901は、表示装置986の一例である。
RAM914は、揮発性メモリの一例である。ROM913、FDD904、CDD905、磁気ディスク装置920の記憶媒体は、不揮発性メモリの一例である。これらは、記憶装置984の一例である。
通信ボード915、キーボード902、FDD904などは、入力装置982の一例である。また、通信ボード915は、通信装置988の一例である。
通信ボード915は、LAN942等に接続されている。通信ボード915は、LAN942に限らず、インターネット940、ISDN等のWAN(ワイドエリアネットワーク)などに接続されていても構わない。インターネット940或いはISDN等のWANに接続されている場合、ゲートウェイ941は不用となる。
磁気ディスク装置920又はROM913などには、オペレーティングシステム921(OS)、ウィンドウシステム922、プログラム群923、ファイル群924が記憶されている。プログラム群923のプログラムは、CPU911、オペレーティングシステム921、ウィンドウシステム922により実行される。
上記プログラム群923には、以下に述べる実施の形態の説明において「画像マッチング部110」、「標高計算部150」として説明する機能を実行するプログラムが記憶されている。プログラムは、CPU911により読み出され実行される。
ファイル群924には、以下に述べる実施の形態の説明において、「小領域画像」、「対応画像」、「新たな第1画像」、「縮小画像」、「所定の回数」、「マッチング結果」等として説明する情報やデータや信号値や変数値やパラメータが、「ファイル」や「データベース」の各項目として記憶されている。「ファイル」や「データベース」は、ディスクやメモリなどの記録媒体に記憶される。ディスクやメモリになどの記憶媒体に記憶された情報やデータや信号値や変数値やパラメータは、読み書き回路を介してCPU911によりメインメモリやキャッシュメモリに読み出され、抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示などのCPU911の動作に用いられる。抽出・検索・参照・比較・演算・計算・処理・出力・印刷・表示のCPU911の動作の間、情報やデータや信号値や変数値やパラメータは、メインメモリやキャッシュメモリやバッファメモリに一時的に記憶される。
また、以下に述べる実施の形態の説明において説明するフローチャートの矢印の部分は主としてデータや信号の入出力を示し、データや信号値は、RAM914のメモリ、FDD904のフレキシブルディスク、コンパクトディスク、磁気ディスク装置920の磁気ディスク、その他光ディスク、ミニディスク、DVD(Digital・Versatile・Disk)等の記録媒体に記録される。また、データや信号は、バス912や信号線やケーブルその他の伝送媒体によりオンライン伝送される。
また、以下に述べる実施の形態の説明において「〜部」として説明するものは、「〜回路」、「〜装置」、「〜機器」、「〜手段」であってもよく、また、「〜ステップ」、「〜手順」、「〜処理」であってもよい。すなわち、「〜部」として説明するものは、ROM913に記憶されたファームウェアで実現されていても構わない。或いは、ソフトウェアのみ、或いは、素子・デバイス・基板・配線などのハードウェアのみ、或いは、ソフトウェアとハードウェアとの組み合わせ、さらには、ファームウェアとの組み合わせで実施されても構わない。ファームウェアとソフトウェアは、プログラムとして、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD等の記録媒体に記憶される。プログラムはCPU911により読み出され、CPU911により実行される。すなわち、プログラムは、以下に述べる「〜部」としてコンピュータを機能させるものである。あるいは、以下に述べる「〜部」の手順や方法をコンピュータに実行させるものである。
また、以下「〜処理」として説明するものは「〜ステップ」と読み替えできるものとする。
実施の形態1.
実施の形態1では、マッチング処理について説明する。
まず、図3に基づき画像マッチング装置100の処理の概要について説明する。
画像マッチング装置100は、第1画像の各画素に対応する第2画像の画像座標値を探すことを目的とする。通常、第1画像と第2画像とは、同じ対象を異なる角度から撮影した画像等、対応する画素を有するものである。しかし、これに限られるわけではない。また、画像マッチング装置100によれば幾何学的歪みが大きい画像のマッチングを行う場合に精度を高めることができるが、幾何学的歪みは、例えば、同じ対象を撮影した角度に開きがあるものほど一般に大きくなる。
マッチングステップ1では、画像マッチング装置100は、第1画像と第2画像とを相似縮小しそれぞれの低解像度の縮小画像を生成してマッチング処理を行う。画像マッチング装置100は、相似縮小した第1画像を複数に分割して小領域画像を生成し、各小領域画像について相似縮小した第2画像とテンプレートマッチングを行う。分割された複数の小領域画像は、互いに隣接していても、あるいは互いに重複していても構わない。そして、各小領域画像に対応する対応画像を第2画像から取得する。テンプレートマッチングとは、テンプレート画像(ここでは第1画像の各小領域画像)と最もよく合う部分をマッチング対象画像(ここでは第2画像)から探す手法である。小領域画像に対応する対応画像を第2画像から取得することにより、小領域画像の各画素の上記第1画像における画像座標値に対応する第2画像の画像座標値を取得することができる。つまり、すべての小領域画像に対して第2画像から対象画像を取得することで、第1画像の各画素に対応する第2画像の画像座標値を得ることができる。ここで、相似縮小した第1画像と元の第1画像の画像座標の対応関係、及び相似縮小した第2画像と元の第2画像の画像座標の対応関係を用いて、相似縮小してマッチングに供した画像同士のマッチング結果から、元の第1画像の画像座標と元の第2画像の画像座標の関係を得る。但し、ここで得られた第1画像の各画素に対応する第2画像の画像座標値には誤差が含まれている可能性がある。一般に、第1画像と第2画像との幾何学的歪みが大きいほど、この誤差は大きくなる。
次に、マッチングステップ2では、画像マッチング装置100は、マッチングステップ1で得た第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、第1画像の形状を第2画像の形状に近づくように幾何変換(任意変形、ラバーシーティング)する。幾何変換された第1画像は、幾何変換前の第1画像と比べ、第2画像との幾何学的歪みが小さくなる。そして、画像マッチング装置100は、幾何変換した第1画像と第2画像とについてマッチングステップ1で生成した縮小画像よりも高解像度の縮小画像を生成してマッチング処理を行う。マッチング処理はマッチングステップ1と同様に、第1画像の小領域画像を生成してテンプレートマッチングを行う。第1画像と第2画像との幾何学的歪みが小さくなっているため、マッチングステップ2で得られた第1画像の各画素に対応する第2画像の画像座標値に含まれる誤差は、マッチングステップ1での誤差よりも小さくなる。ここで、マッチングステップ1と同様に、幾何変換及び相似縮小した第1画像と元の第1画像の画像座標の対応関係、及び相似縮小した第2画像と元の第2画像の画像座標の対応関係を用いて、幾何変換及び、あるいは相似縮小してマッチングに供した画像同士のマッチング結果から、元の第1画像の画像座標と元の第2画像の画像座標の関係を得る。
そして、マッチングステップ3では、画像マッチング装置100は、マッチングステップ2と同様に、第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、第1画像の形状を第2画像の形状に近づくように幾何変換する。そして、マッチングステップ3では第1画像と第2画像とを縮小することなく、幾何変換した第1画像の小領域画像を生成してテンプレートマッチングを行う。マッチングステップ3で得られた第1画像の各画素に対応する第2画像の画像座標値に含まれる誤差は、マッチングステップ2での誤差よりも小さくなる。ここでも、マッチングステップ2と同様にして、元の第1画像の画像座標と元の第2画像の画像座標の関係を得る。
各マッチングステップで得た第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、第1画像の形状を第2画像の形状に近づくように幾何変換することにより、第1画像と第2画像との間の幾何学的歪みが大きくマッチング精度が悪い場合であっても、徐々にマッチング精度が改善される。つまり、画像マッチング装置100は、第1画像と第2画像とのマッチングを繰り返しながら、徐々に第1画像の画像座標値を第2画像の画像座標値に近づけることを特徴とする。これにより、徐々に第1画像と第2画像との間の幾何学的歪みが小さくなり、マッチング精度が改善される。
図3の例では、マッチングステップ1〜3までであったが、マッチングステップは2回でも、または3回より多くても構わない。また、図3の例では、テンプレート画像として使用した第1画像を第2画像に近づくように幾何変換したが、マッチング対象である第2画像を第1画像に近づくように幾何変換しても構わない。
次に、図4に基づき実施の形態1に係る画像マッチング装置100の機能について説明する。図4は、実施の形態1に係る画像マッチング装置100の機能を示す機能ブロック図である。
画像マッチング装置100は、画像マッチング部110、処理装置980、入力装置982、記憶装置984、表示装置986、通信装置988を備える。画像マッチング部110は、例えば、ソフトウェアやプログラム等であり、この場合記憶装置984に記憶され処理装置980により実行される。画像マッチング部110は、マッチング処理部120、マッチング処理制御部140、マッチング結果出力部142を備える。マッチング処理部120は、図3に基づき説明した画像のマッチング処理を行う。マッチング処理部120は、画像入力部122、縮小画像生成部124、画像分割部126、対応画像検索部128、画像変換部130を備え、図3に基づき説明したマッチングステップを複数回実行する。画像入力部122、縮小画像生成部124、画像分割部126、対応画像検索部128、画像変換部130の機能については後述する。マッチング処理制御部140は、マッチング処理部120がマッチングステップを繰り返す動作を制御する。マッチング結果出力部142は、マッチング処理の結果を出力する。マッチング処理の結果とは、例えば、テンプレート画像の各画素に対応するマッチング対象画像の画像座標値である。
次に、図5に基づき実施の形態1に係る画像マッチング装置100の動作について説明する。図5は、実施の形態1に係る画像マッチング装置100の動作を示すフローチャートである。
まず、画像入力処理1(S110)では、画像入力部122は、第1画像と第2画像とを入力して記憶装置984に記憶する。ここで、第1画像はテンプレート画像、第2画像はマッチング対象画像であるとする。
次に、縮小画像生成処理1(S120)では、縮小画像生成部124は、画像入力部122が入力した第1画像と第2画像とを相似縮小してそれぞれの縮小画像を生成して記憶装置984に記憶する。第1画像と第2画像とを相似縮小して生成した縮小画像とは、第1画像と第2画像とのそれぞれよりも低解像度の画像である。
次に、画像分割処理1(S130)では、画像分割部126は、縮小画像生成部124が生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を処理装置980により生成する。
次に、対応画像検索処理1(S140)では、対応画像検索部128は、画像分割部126が生成した複数の小領域画像の各小領域画像に対応する対応画像を縮小画像生成処理1(S120)で縮小画像生成部124が相似縮小した第2画像から処理装置980により検索する。そして、対応画像検索部128は、各小領域画像の各画素の第1画像における画像座標値に対応する第2画像の画像座標値を処理装置980により取得する。ここで、対応画像検索部128が全ての小領域画像に対応する対応画像を得ることで、第1画像の各画素に対応する第2画像の画像座標値を得ることができる。しかし、この結果は対応画像検索部128が実行したマッチング(検索)の結果得られたものであり、このマッチングには誤差がある。したがって、この結果にも誤差が含まれている。
ここで、対応画像検索部128は、小領域画像と相互相関係数が最大になる部分を第2画像から検索する方法により、対象画像を検索することができる。これに限られるわけではなく、対応画像検索部128は、その他の相関係数やSSDA(Sequential Similarity Detection Algorithm)法、あるいは最小2乗マッチング等を用いたテンプレートマッチングを用いるとしても構わない。また、マッチングは整数画像座標のマッチングに限らず、サブピクセルのマッチングを行ってもよい。
次に、画像変換処理(S150)では、画像変換部130は、対応画像検索部128が取得した第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、第1画像を幾何変換して新たな第1画像を生成して記憶装置984に記憶する。ここで、画像変換部130は、例えば、対応画像検索部128が取得した第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、例えば小領域分割法により第1画像を任意変形して新たな第1画像を生成する。これには、まず、第2画像の各画素が存在する整数画像座標から第1画像の画像座標への座標変換式を求める。この際、座標変換式を低次の近似式で表現しても十分な精度を確保できるように第1画像を分割する。分割された領域は、画像分割部126による分割とは関係なく分割された領域であり、第1画像の全領域を埋め尽くすように設定する。分割された領域に含まれる画素の数は、座標変換式の係数を求めるために最低限必要となる数以上である必要がある。座標変換式の算出については、例えば、分割した各画像から座標変換式を算出するための代表点を分割された領域の中から選択し、代表点に対応する画像座標を第2画像から対応画像に基づき検索する。ここで代表点とは、分割された領域の一部の点であっても、全ての点であっても構わない。そして、この代表点とその対応点の位置関係に基づいて、例えば、最小2乗法等により座標変換式を算出する。そして、算出した座標変換式に基づき、第2画像の整数画像座標に対応する第1画像の(実数)画像座標の画素値を、周囲の第1画像の画素値から内挿して求め、これを全ての分割された領域で行うことにより、第1画像を幾何変換する。すなわち、画像変換部130は、対応画像検索部128が取得した第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、最小2乗法により第1画像と第2画像の画像座標値の関係を求めて、第1画像を任意変形して新たな第1画像を生成する。これに限らず、第1画像の各画素の画像座標値を第2画像の画像座標値へ近づくように変換する手法であればどのような手法であっても構わない。また第2画像を第1画像に近づくように幾何変換しても構わない。ここで、第2画像を第1画像に近づくように幾何変換する場合には、上述した小領域分割法や最小2乗法等による座標変換式の算出処理は必要ない。つまり、この場合、第1画像の整数画像座標に対応する第2画像の(実数)画像座標の画素値を、周囲の第2画像の画素値から内挿して求めることで、第2画像を幾何変換することができる。したがって、第2画像を幾何変換する場合、上述した小領域分割法や最小2乗法等による座標変換式の算出処理が必要ないため、第1画像を幾何変換する場合と比べ処理速度が速く、近似を用いないため幾何変換の精度も高い。
次に、画像入力処理2(S111)では、画像入力部122は、画像変換部130が対応画像に基づいて生成した新たな第1画像を第1画像として新たに入力する。
次に、縮小画像生成処理2(S121)では、縮小画像生成部124は、画像入力処理2(S111)で画像入力部122が新たに入力した第1画像と画像入力処理1(S110)で画像入力部122が入力した第2画像とをそれぞれ縮小画像生成処理1(S120)で縮小画像生成部124が生成した縮小画像よりも高解像度の画像に相似縮小して縮小画像を新たに生成する。
次に、画像分割処理2(S131)では、画像分割部126は、縮小画像生成部124が新たに生成した第1画像の縮小画像を複数の画像に分割して複数の小領域画像を新たに生成する。
次に、対応画像検索処理2(S141)では、対応画像検索部128は、画像分割部126が新たに生成した複数の小領域画像の各小領域画像に対応する対応画像を縮小画像生成処理2(S121)で縮小画像生成部124が相似縮小した第2画像から新たに検索する。そして、対応画像検索部128は、各小領域画像の各画素の第1画像における画像座標値に対応する第2画像の画像座標値を処理装置980により新たに取得する。
ここで、画像変換処理(S150)から対応画像検索処理2(S141)までをループ処理と呼ぶ。
マッチング制御処理(S160)では、マッチング処理制御部160は、画像入力部122と縮小画像生成部124と画像分割部126と対応画像検索部128と画像変換部130とにループ処理を所定の回数実行させる。つまり、マッチング処理制御部160は、ループ処理を所定の回数実行していないと判定した場合(S160でNO)、改めて画像変換処理(S150)から処理を実行させる。ここで、所定の回数とは、1以上の任意の回数であり、予め何回マッチング処理を実行すれば目的のマッチング精度になるか測定するなどして決定する。所定の回数マッチング処理を実行したとマッチング処理制御部160が判定した場合(S160でYES)、マッチング結果出力処理(S170)へ進む。
マッチング結果出力処理(S170)では、マッチング結果出力部142は、所定の回数目に生成された新たな第1画像に基づき生成された複数の小領域画像の各小領域画像に対応する対応画像から得られる画像入力処理1(S110)で画像入力部122が入力した第1画像の各画素の画像座標値と第2画像の画像座標値との対応関係情報をマッチング結果として出力する。つまり、画像入力処理1(S110)で画像入力部122が入力した第1画像の各画素の画像座標値と第2画像の画像座標値との対応関係情報をマッチング結果として出力する。
ここで、縮小画像生成処理1(S120)と縮小画像生成処理2(S121)とは、いわゆるオプションであり、実行しないとしても構わない。この場合、画像分割処理1(S130)では、画像分割部126は、画像入力部122が入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成する。また、画像分割処理2(S131)では、画像分割部126は、画像入力部122が新たに入力した第1画像を複数の画像に分割して複数の小領域画像を新たに生成する。
また、画像分割処理1(S130)と画像分割処理2(S131)とも、いわゆるオプションであり、実行しないとしても構わない。この場合、対応画像検索処理1(S140)では、対応画像検索部128は、画像入力部122が入力した第1画像の各画素の画像座標に対応する第2画像の画像座標を処理装置980により検索する。ここで、対応する画像座標は、整数値に限られず、小数値であっても構わない。そして、対応画像検索部128は、第1画像の各画素の画像座標値に対応する第2画像の画像座標値を処理装置980により取得する。また、画像変換処理(S150)では、画像変換部130は、対応画像検索部128が取得した第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、第1画像を幾何変換して新たな第1画像を生成して記憶装置984に記憶する。ただし、この場合、画像分割は行われていないので、第1画像の幾何変換は、第2画像の画像座標上での、平行移動のみとなる。さらに、画像入力処理2(S111)画像入力部122は、画像変換部130が生成した新たな第1画像を第1画像として新たに入力し、対応画像検索処理2(S141)では、対応画像検索部128は、画像入力部122が新たに入力した第1画像の各画素に対応する対応画素を第2画像から新たに検索して、第1画像の各画素の画像座標値に対応する第2画像の画像座標値を新たに取得する。
さらに、画像入力処理1(S110)で画像入力部122は、第1画像と複数の第2画像とを入力しても構わない。この場合のマッチング処理の概要を図6に基づき説明する。図6では、第2画像を画像A、画像B、画像Cの3つ入力している。
マッチングステップ1では、画像マッチング装置100は、第1画像と3つの第2画像それぞれを相似縮小し低解像度の縮小画像を生成する。そして、第1画像と3つの第2画像それぞれとをマッチングする。マッチングの方法については上述した通りである。そして、第1画像の各小領域画像に対応する対応画像を3つの第2画像それぞれから取得する。つまり、小領域画像毎に画像Aに対応する対応画像A、画像Bに対応する対応画像B、画像Cに対応する対応画像Cを取得する。対応画像A、対応画像B、対応画像Cを取得することにより、各小領域画像の各画素の元の第1画像における画像座標値に対応する元の画像A、画像B、画像Cそれぞれの画像座標値を取得する。
マッチングステップ2では、画像マッチング装置100は、3つの第2画像それぞれについて、マッチングステップ1で得た第1画像の各画素の画像座標値に対応する各第2画像の画像座標値を用いて、第1画像の形状を各第2画像の形状に近づくように幾何変換する。つまり、対応画像Aを取得することで得た第1画像の各画素の画像座標値に対応する画像Aの画像座標値を用いて、第1画像を幾何変換して第1画像Aを生成し、対応画像Bを取得することで得た第1画像の各画素の画像座標値に対応する画像Bの画像座標値を用いて、第1画像を幾何変換して第1画像Bを生成し、対応画像Cを取得することで得た第1画像の各画素の画像座標値に対応する画像Cの画像座標値を用いて、第1画像を幾何変換して第1画像Cを生成する。そして、画像マッチング装置100は、幾何変換した3つの第1画像と対応する3つの第2画像とについてマッチングステップ1で生成した縮小画像よりも高解像度の縮小画像を生成してマッチング処理を行う。つまり、対応画像Aに基づき幾何変換した第1画像Aと画像Aとをマッチングし、対応画像Bに基づき幾何変換した第1画像Bと画像Bとをマッチングし、対応画像Cに基づき幾何変換した第1画像Cと画像Cとをマッチングする。
そして、マッチングステップ3では、画像マッチング装置100は、マッチングステップ2で取得した第1画像の各画素の画像座標値に対応する画像Aの画像座標値を用いて、第1画像を幾何変換する。同様に、さらにマッチングステップ2で取得した第1画像の各画素の画像座標値に対応する画像Bの画像座標値を用いて、第1画像を幾何変換し、さらにマッチングステップ2で取得した第1画像の各画素の画像座標値に対応する画像Cの画像座標値を用いて、第1画像を幾何変換する。そして、マッチングステップ3では第1画像と第2画像とを縮小することなくマッチング処理を行う。
つまり、縮小画像生成処理1(S120)では、縮小画像生成部124は、第1画像と複数の第2画像それぞれとを相似縮小してそれぞれの縮小画像を生成する。画像分割処理1(S130)では、画像分割部126は、第2画像が1つの場合と同様に第1画像について処理を行う。そして、対応画像検索処理1(S140)では、画像分割部126が生成した複数の小領域画像の各小領域画像に対応する対応画像を複数の第2画像の各第2画像から検索する。そして、対応画像検索部128は、各小領域画像の各画素の第1画像における画像座標値に対応する各第2画像の画像座標値を取得する。画像変換処理(S150)では、画像変換部130は、複数の第2画像の各第2画像について、対応画像検索部128が取得した上記第1画像の各画素の画像座標値に対応する当該第2画像の画像座標値を用いて、第1画像を幾何変換して当該第2画像に対応する新たな第1画像を生成する。つまり、画像入力部122が入力した複数の第2画像の各第2画像に対して、新たな第1画像を生成する。そして、画像入力処理2(S111)では、画像入力部122は、画像変換部130が対応画像に基づいて生成した複数の新たな第1画像を入力する。また、縮小画像生成処理2(S121)では、縮小画像生成部124は、画像入力部122が入力した複数の新たな第1画像と複数の第2画像とを相似縮小してそれぞれの縮小画像を生成する。また、画像分割処理2(S131)では、画像分割部126は、画像入力部122が入力した複数の新たな第1画像の各新たな第1画像を複数の画像に分割して複数の新たな小領域画像を生成する。そして、対応画像検索処理2(S141)では、対応画像検索部128は、複数の新たな第1画像の各第1画像について、画像分割部126が生成した複数の新たな小領域画像の各新たな小領域画像に対応する新たな対応画像を各新たな第1画像に対応する第2画像から検索する。そして、元の第1画像と複数の新たな第1画像の画像座標の関係、及び元の第2画像と各新たな第1画像に対応する当該第2画像との画像座標の関係を用いて、元の第1画像の各画素の画像座標値に対応する、元の複数の各第2画像の画像座標値を取得する。
また、さらに、画像分割処理1(S130)と画像分割処理2(S131)とで、画像分割部126が縮小画像をいくつの画像に分割するかがマッチング精度に影響する。そこで、分割サイズを変更しながら画像入力処理1(S110)からマッチング結果出力処理(S170)までをループさせ、複数回繰り返しても構わない。この場合、最終的な出力は、マッチング結果出力処理(S170)でマッチング結果出力部142が出力した結果の中間値としても構わない。
次に、実施の形態1に係るマッチング処理の一例について説明する。
図7は、マッチング処理の各段階の画像の一例である。
第1段階は、縮小画像生成処理1(S120)で縮小画像生成部124が、画像入力部122が入力した第1画像と第2画像とを相似縮小して生成したそれぞれの縮小画像を示す。また第1段階は、解像度を入力画像の1/8まで縮小した画像である。
第2段階は、1回目の縮小画像生成処理2(S121)で、縮小画像生成部124が、画像変換部130が第1画像の画素の画像座標値を第2画像の画像座標値へ近づくように変換した画像座標値を用いて生成した新たな第1画像と第2画像とを相似縮小して生成したそれぞれの縮小画像を示す。また第2段階は、解像度を入力画像の1/4まで縮小した画像である。
第3段階は、2回目の縮小画像生成処理2(S121)で、縮小画像生成部124が、画像変換部130が第1画像の画素の画像座標値を第2画像の画像座標値へ近づくようにさらに変換した画像座標値を用いて生成した新たな第1画像と第2画像とを相似縮小して生成したそれぞれの縮小画像を示す。また第3段階は、解像度を入力画像の1/2まで縮小した画像である。
第4段階は、画像変換部130が第1画像の画素の画像座標値を第2画像の画像座標値へ近づくようにさらに変換した画像座標値を用いて生成した新たな第1画像と第2画像とである。また第4段階は、縮小せず、解像度を入力画像のままとした画像である。
第5段階は、同様に、画像変換部130が第1画像の画素の画像座標値を第2画像の画像座標値へ近づくようにさらに変換した画像座標値を用いて生成した新たな第1画像と第2画像とである。また第5段階も第4段階と同様、縮小せず、解像度を入力画像のままとした画像である。
図7に示すように、画像変換部130が出力した新たな第1画像の形状は第2画像の形状に近づいている。つまり、2つの画像の間にある幾何学的歪みが減少している。
したがって、実施の形態1に係る画像マッチング装置100によれば、2つの画像の間にある幾何学的歪みに起因する画像のマッチングの精度低下を防止することができる。
つまり、実施の形態1に係る画像マッチング装置100は、従来の手法同様の高解像度化と低解像度マッチング結果による探索範囲の限定に加えて、画像形状の適正化によってもマッチング精度の向上効果が得られる。このため、各ステップで高解像度化を行わず、同じ解像度でマッチングを繰り返しても、マッチング精度が有意に向上する。すなわち、実施の形態1に係る画像マッチング装置100は、画像間の幾何学的歪みをラバーシーティングにより修正するため、画像間の幾何学的歪みはマッチング精度の限界を規定する要因とはならない。
実施の形態2.
実施の形態2では、マッチング処理の結果の使用例として観測地点の標高を計算する例について説明する。
図8は、観測地点の標高を計算する場合の画像取得の一例を示す図である。図8に示すように、複数の位置から同じ地点の画像を取得する。つまり、衛星200Aと衛星200Bと衛星200Cとはそれぞれ、山210の頂上の画像を取得する。取得された複数の画像は、それぞれ映り方は違うが同じ山210の頂上を示した画像である。
そこで、実施の形態1で説明した方法により、各画像のマッチングを行う。例えば、衛星200Aが取得した画像を第1画像、衛星200Bが取得した画像を第2画像とする。そして、衛星200Aが取得した画像の各画素の画像座標と衛星200Bが取得した画像の画像座標との対応関係情報を得る。
ここで、衛星200Aが取得した画像の山210の頂上を示す画素の画像座標(対応点)を選択する。また、選択した画素に対応する衛星200Bが取得した画像の画像座標(対応点)を選択する。2つの対応点に基づき、共線条件に従って2つの視線ベクトル(投影中心と対応点を通るベクトル)を計算する。これらの画像座標が整数とならない場合は、周囲の画素(整数画像座標)の視線ベクトルから、内挿して当該する視線ベクトルを計算する。そして、計算した2つの視線ベクトルの交点の座標を求める。ここで、衛星200Aと衛星200Bとから山210の存在する星の中心までの距離と、衛星200Aと衛星200Bの位置は知ることができる。したがって、これらの情報から山210の頂上の標高を求めることができる。あるいはマッチングの結果から逆に衛星位置を決定することもできる。ここで、画像のマッチング処理には誤差が存在する可能性があるため、2つの視線ベクトルの交点は得られない可能性がある。そこで、例えば二乗平均を計算することにより、それぞれのベクトルにおける最も近い点間の中点を交点として扱う。
しかし、画像のマッチング処理には誤差が存在する可能性がある。そのため、計算した2つの視線ベクトルの交点の座標にも誤差がある可能性がある。そこで、衛星200Aが取得した画像と衛星200Bが取得した画像だけでなく、衛星200Cが取得した画像を使用して精度を高めることができる。つまり、例えば、衛星200Aが取得した画像を第1画像、衛星200Bが取得した画像と衛星200Cが取得した画像とを第2画像とする。そして、衛星200Aが取得した画像の各画素の画像座標と衛星200Bが取得した画像の画像座標との対応関係情報と、衛星200Aが取得した画像の各画素の画像座標と衛星200Cが取得した画像の画像座標との対応関係情報を得る。衛星200Aが取得した画像の山210の頂上を示す画像座標を選択し、選択した画像座標に対応する衛星200Bが取得した画像の画像座標と衛星200Cが取得した画像の画像座標とを選択する。次に、これらから3つの視線ベクトルを計算する。そして、計算した3つの視線ベクトルの交点の座標を得る。ここで、上述したように、画像のマッチング処理には誤差が存在する可能性があるため、3つの視線ベクトルの交点は得られない可能性がある。そこで、上記と同様に例えば二乗平均を計算することにより、それぞれのベクトルにおける最も近い点間の中点を計算し、その中点の座標を求める。この座標の標高を計算することで、2つの画像を用いた場合よりも標高の計算精度を高めることができる。
図9は、実施の形態2に係る画像マッチング装置100の機能を示す機能ブロック図である。実施の形態2に係る画像マッチング装置100は、図4に示す実施の形態1に係る画像マッチング装置100の機能に加え、標高計算部150を備える。標高計算部150は、上述したように、マッチング結果出力部142が出力したマッチング結果に基づき、画像入力部122が入力した画像の点の標高を計算する。
図10は、実施の形態2に係る画像マッチング装置100の動作を示すフローチャートである。実施の形態2に係る画像マッチング装置100は、図5に示す実施の形態1に係る画像マッチング装置100の処理に加え、マッチング結果出力処理(S170)の次に標高計算処理(S180)を実行する。標高計算処理(S180)では、標高計算部150は、マッチング結果出力部142が出力したマッチング結果に基づき、画像入力部122が入力した画像の点の標高を計算する。
実施の形態2に係る画像マッチング装置100によれば、観測地点の標高を計算することができる。
実施の形態における画像マッチング装置100の外観の一例を示す図。 実施の形態における画像マッチング装置100のハードウェア資源の一例を示す図。 画像マッチング装置100の処理の概要を示す図。 実施の形態1に係る画像マッチング装置100の機能を示す機能ブロック図。 実施の形態1に係る画像マッチング装置100の動作を示すフローチャート。 第2画像を複数入力した場合の画像マッチング装置100の処理の概要を示す図。 マッチング処理の各段階の画像の一例。 観測地点の標高を計算する場合の画像取得の一例を示す図。 実施の形態2に係る画像マッチング装置100の機能を示す機能ブロック図。 実施の形態2に係る画像マッチング装置100の動作を示すフローチャート。
符号の説明
100 画像マッチング装置、110 画像マッチング部、120 マッチング処理部、122 画像入力部、124 縮小画像生成部、126 画像分割部、128 対応画像検索部、130 画像変換部、140 マッチング処理制御部、142 マッチング結果出力部、901 LCD、902 K/B、903 マウス、904 FDD、910 サーバ、911 CPU、912 バス、913 ROM、914 RAM、915 通信ボード、920 磁気ディスク装置、921 OS、922 ウィンドウシステム、923 プログラム群、924 ファイル群、940 インターネット、941 ゲートウェイ、942 LAN、980 処理装置、982 入力装置、984 記憶装置、986 表示装置、988 通信装置。

Claims (7)

  1. 第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
    上記画像入力部が入力した第1画像の一部の領域の画像である複数の小領域画像を処理装置により生成する画像分割部と、
    上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索部と、
    上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換部とを備え、
    上記画像入力部は、上記画像変換部が生成した新たな第2画像を第2画像として新たに入力し、
    上記対応画像検索部は、上記画像分割部が生成した複数の小領域画像の各小領域画像に対応する対応画像を上記画像入力部が新たに入力した第2画像から新たに検索して、上記
    各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
    ことを特徴とする画像マッチング装置。
  2. 上記画像変換部は、上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像の各画素の画像座標に対応する第2画像の画素値を内挿によって求めて、上記第2画像を任意変形して新たな第2画像を生成する
    ことを特徴とする請求項記載の画像マッチング装置。
  3. 第1画像と第2画像とを入力して記憶装置に記憶する画像入力部と、
    上記画像入力部が入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索部と、
    上記対応画像検索部が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換部とを備え、
    上記画像入力部は、上記画像変換部が生成した新たな第2画像を第2画像として新たに入力し、
    上記対応画像検索部は、上記第1画像の各画素の画像座標値に対応する上記画像入力部が新たに入力した第2画像の画像座標値を新たに検索して取得する
    ことを特徴とする画像マッチング装置。
  4. 第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
    上記画像入力処理で入力した第1画像の一部の領域の画像である複数の小領域画像を処理装置により生成する画像分割処理と、
    上記画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を処理装置により取得する対応画像検索処理と、
    上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
    上記画像入力処理は、上記画像変換処理で生成した新たな第2画像を第2画像として新たに入力し、
    上記対応画像検索処理は、画像分割処理で生成した複数の小領域画像の各小領域画像に対応する対応画像を上記画像入力処理で新たに入力した第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
    ことを特徴とする画像マッチングプログラム。
  5. 上記画像変換処理は、上記対応画像検索処理が取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第1画像の各画素の画像座標に対応する第2画像の画素値を内挿によって求めて、上記第2画像を任意変形して新たな第2画像を生成する
    ことを特徴とする請求項記載の画像マッチングプログラム。
  6. 第1画像と第2画像とを入力して記憶装置に記憶する画像入力処理と、
    上記画像入力処理で入力した第1画像の各画素の画像座標値に対応する上記第2画像の画像座標値を処理装置により検索して取得する対応画像検索処理と、
    上記対応画像検索処理で取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成して記憶装置に記憶する画像変換処理とをコンピュータに実行させ、
    上記画像入力処理は、上記画像変換処理で生成した新たな第2画像を第2画像として新たに入力し、
    上記対応画像検索処理は、上記第1画像の各画素の画像座標値に対応する上記画像入力処理で新たに入力した第2画像の画像座標値を新たに検索して取得する
    ことを特徴とする画像マッチングプログラム。
  7. 入力装置が第1画像と第2画像とを入力する画像入力ステップと、
    処理装置が、上記画像入力ステップで入力した第1画像の一部の領域の画像である複数の小領域画像を生成する画像分割ステップと、
    処理装置が、上記画像分割ステップで生成した複数の小領域画像の各小領域画像に対応する対応画像を上記第2画像から検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を取得する対応画像検索ステップと、
    処理装置が、上記対応画像検索ステップで取得した上記第1画像の各画素の画像座標値に対応する第2画像の画像座標値を用いて、上記第2画像を幾何変換して新たな第2画像を生成する画像変換ステップとを備え、
    上記画像入力ステップでは、入力装置が、上記画像変換ステップで生成した新たな第2画像を第2画像として新たに入力し、
    上記対応画像検索ステップでは、処理装置が、画像分割ステップで生成した複数の小領
    域画像の各小領域画像に対応する対応画像を上記画像入力ステップで新たに入力した第2画像から新たに検索して、上記各小領域画像の各画素の上記第1画像における画像座標値に対応する上記第2画像の画像座標値を新たに取得する
    ことを特徴とする画像マッチング方法。
JP2006249330A 2006-09-14 2006-09-14 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法 Active JP4560023B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006249330A JP4560023B2 (ja) 2006-09-14 2006-09-14 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006249330A JP4560023B2 (ja) 2006-09-14 2006-09-14 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法

Publications (2)

Publication Number Publication Date
JP2008071127A JP2008071127A (ja) 2008-03-27
JP4560023B2 true JP4560023B2 (ja) 2010-10-13

Family

ID=39292654

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006249330A Active JP4560023B2 (ja) 2006-09-14 2006-09-14 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法

Country Status (1)

Country Link
JP (1) JP4560023B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6547366B2 (ja) * 2015-03-27 2019-07-24 セイコーエプソン株式会社 インタラクティブプロジェクター
WO2020129384A1 (ja) * 2018-12-21 2020-06-25 株式会社島津製作所 放射線画像処理装置、放射線画像処理方法及び放射線画像処理プログラム
US20240104890A1 (en) * 2020-12-28 2024-03-28 Mitsubishi Electric Corporation Image processing device, recording medium, and image processing method
CN112861714A (zh) * 2021-02-05 2021-05-28 中国科学院微小卫星创新研究院 一种基于深度学习和多子图匹配的遥感图像匹配方法
CN113283525B (zh) * 2021-06-07 2022-07-26 郑健青 一种基于深度学习的图像匹配方法
CN115830124A (zh) * 2022-12-27 2023-03-21 北京爱特拉斯信息科技有限公司 基于匹配的摄像头像素坐标和大地坐标转换方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001328600A (ja) * 2000-05-19 2001-11-27 Fuji Heavy Ind Ltd 着陸地点探索装置、それを用いた飛行体、および着陸地点評価装置
JP2002352245A (ja) * 2001-03-23 2002-12-06 Glory Ltd 画像の対応点探索装置、対応点探索方法およびその方法をコンピュータに実行させるプログラム
JP2005063464A (ja) * 2004-11-16 2005-03-10 Toshiba Corp 映像領域追跡方法および装置
JP2005308553A (ja) * 2004-04-21 2005-11-04 Topcon Corp 三次元画像計測装置及び方法
JP2005535016A (ja) * 2002-07-30 2005-11-17 三菱電機株式会社 シーン中のオブジェクトを分類する方法及びシステム
JP2006010392A (ja) * 2004-06-23 2006-01-12 Suzuki Motor Corp 貫通穴計測システム及び方法並びに貫通穴計測用プログラム
JP2006145419A (ja) * 2004-11-22 2006-06-08 Univ Nihon 画像処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001328600A (ja) * 2000-05-19 2001-11-27 Fuji Heavy Ind Ltd 着陸地点探索装置、それを用いた飛行体、および着陸地点評価装置
JP2002352245A (ja) * 2001-03-23 2002-12-06 Glory Ltd 画像の対応点探索装置、対応点探索方法およびその方法をコンピュータに実行させるプログラム
JP2005535016A (ja) * 2002-07-30 2005-11-17 三菱電機株式会社 シーン中のオブジェクトを分類する方法及びシステム
JP2005308553A (ja) * 2004-04-21 2005-11-04 Topcon Corp 三次元画像計測装置及び方法
JP2006010392A (ja) * 2004-06-23 2006-01-12 Suzuki Motor Corp 貫通穴計測システム及び方法並びに貫通穴計測用プログラム
JP2005063464A (ja) * 2004-11-16 2005-03-10 Toshiba Corp 映像領域追跡方法および装置
JP2006145419A (ja) * 2004-11-22 2006-06-08 Univ Nihon 画像処理方法

Also Published As

Publication number Publication date
JP2008071127A (ja) 2008-03-27

Similar Documents

Publication Publication Date Title
JP6904544B2 (ja) 信号間の変換を推定するための方法及びコンピュータ可読媒体
JP4560023B2 (ja) 画像マッチング装置、画像マッチングプログラム及び画像マッチング方法
JP5238220B2 (ja) 解像度変換装置、方法およびプログラム
JP2008185375A (ja) Sar画像の3d形状算出装置及びsar画像の歪補正装置
US11138759B2 (en) Image processing apparatus and image processing method
JP6075294B2 (ja) 画像処理システム及び画像処理方法
JP2008217526A (ja) 画像処理装置、画像処理プログラム及び画像処理方法
JP4385077B1 (ja) 動きベクトル検出装置および画像処理装置
JP5679406B2 (ja) 目標物速度特定装置、目標物速度特定プログラム及び目標物速度特定方法
JP2017191572A (ja) 画像処理装置及びその方法、プログラム
US11176702B2 (en) 3D image reconstruction processing apparatus, 3D image reconstruction processing method and computer-readable storage medium storing 3D image reconstruction processing program
US20120038785A1 (en) Method for producing high resolution image
JP2020098575A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP5728106B1 (ja) 電子透かし埋め込み装置及び電子透かし埋め込みプログラム及び電子透かし検出装置及び電子透かし検出プログラム
JP5945823B2 (ja) 画像処理方法および画像処理装置
JP5388779B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP2021129190A (ja) 画像処理装置、画像処理方法およびプログラム
WO2016142965A1 (ja) 映像処理装置、映像処理方法及び映像処理プログラムを記憶する記録媒体
JP2009064193A (ja) 解像度変換装置及び方法
JP2007156954A (ja) 信頼度テーブル作成方法、オプティカルフロー推定方法、信頼度テーブル作成装置、オプティカルフロー推定装置、及びプログラム
JP7448034B2 (ja) 平面射影変換行列生成装置、制御方法、及びプログラム
JP3020299B2 (ja) 動きベクトル検出装置
JP2006512799A (ja) 高エラーレート条件下における適応画素推定方法及び装置
JP2008209971A (ja) 画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100720

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100723

R150 Certificate of patent or registration of utility model

Ref document number: 4560023

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250