JP4398919B2 - 画像マッチング装置、画像マッチング方法および画像マッチングプログラム - Google Patents

画像マッチング装置、画像マッチング方法および画像マッチングプログラム Download PDF

Info

Publication number
JP4398919B2
JP4398919B2 JP2005240323A JP2005240323A JP4398919B2 JP 4398919 B2 JP4398919 B2 JP 4398919B2 JP 2005240323 A JP2005240323 A JP 2005240323A JP 2005240323 A JP2005240323 A JP 2005240323A JP 4398919 B2 JP4398919 B2 JP 4398919B2
Authority
JP
Japan
Prior art keywords
image
force
lattice point
point
grid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005240323A
Other languages
English (en)
Other versions
JP2007058342A (ja
Inventor
直 三島
伊藤  剛
雅裕 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2005240323A priority Critical patent/JP4398919B2/ja
Priority to US11/373,988 priority patent/US20070041658A1/en
Publication of JP2007058342A publication Critical patent/JP2007058342A/ja
Application granted granted Critical
Publication of JP4398919B2 publication Critical patent/JP4398919B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Description

本発明は、対象画像と参照画像の2つの画像からそれぞれの対応点を検出して対応付ける画像マッチング装置、画像マッチング方法および画像マッチングプログラムに関する。
一つの対象画像から他方の参照画像の各画素それぞれの対応点を検出して対応関係を求める画像マッチング技術は、例えば、動画像における動き検出、ステレオマッチング、画像モーフィング、画像認識、動画像符号化等の画像処理技術の分野において利用されている。
このような画像マッチング技術としては、オプティカルフロー手法、ブロックベース手法、勾配法、ベイジアンメソッドという主として4種類に分類することができる(例えば、非特許文献1参照)。
オプティカルフロー手法は、「輝度の変化は一定である」というオプティカルフロー式を導出しそのオプティカルフロー式を拘束条件としてフローを求めるものである。ブロックベース手法は、画像を所定のブロックに分割し、ブロック毎のテンプレートマッチングによって動きを求める手法である。勾配法は、画像の輝度勾配が減少する方向にマッチングをおこなう手法である。ベイジアンメソッドは、確率的に尤もらしいマッチングを求める手法である。
また、従来の画像マッチング技術として、複数の多重解像度フィルタを用い、複数の多重解像度画像ピラミッドを生成し、生成された画像ピラミッドを上位の階層から下位の階層に順にマッチング処理を行うことによって、大きな動きから小さな動きまで画像の対応付けを行えるロバスト性の高い画像マッチング技術がある(例えば、特許文献1参照)。
A. Murat Tekalp, "Digital Video Processing", Prentice Hall, 1995 特許第2927350号公報
しかしながら、このような従来の画像マッチング技術には次のような問題がある。オプティカルフロー手法では、ノイズに敏感で速い動きに対応することが本質的に困難であるという問題があり、ブロックベースの手法では、画像の中のブロック毎に画像マッチングを行っているので、画像中のオブジェクトの平行移動などの動きには高い信頼性を有するが、画像中のオブジェクトが変形したり、回転する等の動きに対して本質的に対応することが難しいという問題がある。勾配法では、画像の輝度勾配が減少する方向にマッチングを行うため、安定してオブジェクトの動きを探索することが困難であるという問題がある。ベイジアンメソッドでは、大域的最適点の求め方が困難であるという問題がある。
一方、特許文献1に開示された技術では、原理的に複数の多重解像度フィルタを必要とし、多重解像度画像ピラミッドの最上位階層から最下位階層までのマッチング処理を行っているため、計算量の削減が困難であるとともに、構造的な拡張が困難であるという問題がある。
このように従来の画像マッチング技術では、ノイズやオブジェクトの動きによっては信頼性が低くなり、画像マッチング処理の信頼性を向上させようとすると構造や処理が複雑化してしまい拡張性に乏しいという問題があった。
さらには、このような画像マッチング処理の計算量を減少させて画像マッチング処理を効率的に行う必要がある。
本発明は、上記に鑑みてなされたものであって、構造および処理が簡易かつ拡張性を有するとともに、画像中のノイズやオブジェクトの動きにかかわらず高精度な処理を実現することができ、さらに画像マッチング処理のモデル化による誤差を最小限にしてロバスト性を向上させるとともに、計算量を削減して効率的な画像マッチング処理を実現することができる画像マッチング装置、画像マッチング方法および画像マッチングプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、対象画像と参照画像との間の対応関係を求める画像マッチング装置であって、前記対象画像上に設定され、前記対象画像を格子状に分割した複数の第1の格子点の各々と前記参照画像上で当該第1の格子点と1:1に対応して設定され、前記参照画像を格子状に分割した複数の第2の格子点の各々との間で画像の相関が高い程小さいエネルギーとなる画像相関ポテンシャルエネルギーを算出するとともに、前記各第2の格子点の位置と当該第2の格子点に対応する前記各第1の格子点の位置とによる最急降下方向へのベクトルに前記画像相関ポテンシャルエネルギーの勾配を乗じて、前記第2の格子点が受ける画像相関ポテンシャル力を算出する画像相関ポテンシャル力算出部と、前記各第2の格子点と当該第2の格子点に隣接する他の第2の格子点との間の距離が遠い程大きいエネルギーとなる、前記第2の格子点が受ける弾性エネルギー力を算出する弾性エネルギー力算出部と、前記各第2の格子点に対して、前記各第2の格子点の変位方向と反対方向に作用する摩擦力を算出する摩擦力算出部と、前記画像相関ポテンシャル力と前記弾性エネルギー力と前記摩擦力とによる前記各第2の格子点に関する運動方程式に対して離散変数法による解法処理を行い、前記第2の格子点の平衡状態を求める解法処理部と、前記各第2の格子点に関して、前記運動方程式の時間で現在の時刻における位置である現在位置と前記運動方程式の時間で過去の時刻における位置である基準位置とが所定の基準よりも近い場合には、前記画像相関ポテンシャル力の算出処理を実行しないと判定する判定部と、を備え、前記画像相関ポテンシャル力算出部は、前記判定部によって前記画像相関ポテンシャル力の算出処理を実行しないと判定された前記第2の格子点に関しては、前回算出した前記画像相関ポテンシャル力を今回の前記画像相関ポテンシャル力とすることを特徴とする。
また、本発明は、上記装置に対応する方法およびプログラムである。
本発明によれば、各第2の格子点に関して、運動方程式の時間で現在の時刻における位置である現在位置と前記運動方程式の時間で過去の時刻における位置である基準位置との位置関係に基づいて、画像相関ポテンシャルエネルギー力の算出処理を実行するか否かを判定し、判定ステップによって画像相関ポテンシャルエネルギー力の算出処理を実行しないと判定された第2の格子点に関しては、前回算出した前記画像相関ポテンシャルエネルギー力を今回の前記画像相関ポテンシャルエネルギー力とすることで、構造および処理が簡易かつ拡張性を有するとともに、画像中のノイズやオブジェクトの動きにかかわらず高精度な処理を実現することができるという効果を奏する。また、本発明によれば、画像マッチング処理のモデル化による誤差を最小限にしてロバスト性を向上させるとともに、計算量を削減して効率的な画像マッチング処理を実現することができるという効果を奏する。
以下に添付図面を参照して、この発明にかかる画像マッチング装置、画像マッチング方法および画像マッチングプログラムの最良な実施の形態を詳細に説明する。
なお、以下の実施の形態にかかる画像マッチング装置は、動画像の動き補償を行って補償画像を生成する動き補償装置に適用する他、ステレオマッチング、画像モーフィング、画像認識、動画像符号化等の画像処理技術に適用することもできる。
(実施の形態1)
図1は、実施の形態1にかかる画像マッチング装置の構成を示すブロック図である。本実施の形態にかかる画像マッチング装置100は、対象画像と参照画像とを入力し、対象画像と参照画像との間の対応関係を求めるものであり、図1に示すように、解法処理部101と、判定部102と、画像相関ポテンシャル力算出部103と、弾性エネルギー力算出部104と、摩擦力算出部105と、フレームメモリ106とを主に備えている。
本実施の形態にかかる画像マッチング装置100では、対象画像および参照画像のそれぞれを所定の格子状に分割した各格子点を力学上の質点とみなし、対象画像の第1の格子点と第1の格子点に1対1に対応する参照画像の第2の格子点が画像の相関関係に基づいた画像相関ポテンシャルエネルギーを有するとみなして、第1の格子点と第2の格子点の位置に基づいた画像相関ポテンシャルエネルギーの勾配によって第2の格子点が受ける画像相関ポテンシャル力と、第2の格子点に隣接する格子点との間の弾性エネルギーから受ける弾性エネルギー力と、第2の格子点に生じる摩擦力とによる第2の格子点に関する運動方程式を画像マッチング状態遷移モデルとして、この運動方程式に対して数値解析処理によって解法処理を行い、第2の格子点の平衡状態を求めることにより第1の格子点と第2の格子点との写像関係を求めて画像マッチングを行っている。
解法処理部101は、画像相関ポテンシャルエネルギーの勾配によって受ける画像相関ポテンシャル力と、第2の格子点に隣接する格子点との間の弾性エネルギーから受ける弾性エネルギー力と、第2の格子点に生じる摩擦力とによる第2の格子点に関する運動方程式を、オイラー法を利用した離散変数法によって数値解析処理によって解法し、第2の格子点の平衡状態を求めることにより第1の格子点と第2の格子点との写像関係を求める処理部である。
画像相関ポテンシャル力算出部103は、第1の格子点と第2の格子点の位置に基づいた画像相関ポテンシャルエネルギーの勾配によって第2の格子点が受ける画像相関ポテンシャル力を計算する処理部である。
弾性エネルギー力算出部104は、第2の格子点に隣接する格子点との間の弾性エネルギーから受ける弾性エネルギー力を計算する処理部である。
摩擦力算出部105は、第2の格子点に生じる摩擦力を算出する処理部である。
判定部102は、第2の格子点の各々に関して、上記運動方程式の時間で現在の時刻における位置である現在位置と上記運動方程式の時間で過去の時刻における位置である基準位置とを比較して、前記現在位置が前記基準位置の近傍にある第2の格子点については前記画像相関ポテンシャルエネルギー力の算出処理を行わないと判定する処理部である。上記「運動方程式の時間」とは後述する時間τである。また、「運動方程式の時間」における時刻は、解法処理部101が第2の格子点の各々に対して反復的に行う数値解析処理における反復回数またはステップ数に対応する。
判定部102は、例えば、前記現在位置が前記基準位置を含む一定の範囲内である場合に、前記第2の格子点が前記基準位置の近傍にあると判断する。また、前記基準位置として、例えば、最も近い過去の時刻における位置や、最後に画像相関ポテンシャルエネルギー力の計算がなされた時刻における位置を用いることができる。
フレームメモリ106は、入力された対象画像と参照画像と保存するメモリである。なお、各部の詳細な処理については後述する。
次に、本実施の形態にかかる画像マッチング装置100で導入する画像マッチング状態遷移モデルについて説明する。本実施の形態で対象とする画像は、(1)式のようなモデルを考えるが、(1)式は実数空間における連続画像モデルであり、本実施の形態ではデジタル画像を扱うため、(2)式に示すサンプリングモデルを考える。
Figure 0004398919
Figure 0004398919
Vはサンプリング行列である、NとXとを結びつける行列である。画像マッチングは、対象画像上の点が参照画像上のどの点に対応するのかを求める問題である。このとき画像マッチング問題は以下の(3)式の条件式を満たす動きベクトルd:X×T→Xを探索する問題として定式化することができる。
Figure 0004398919
また、動きベクトルdが実数なので、(3)式の右辺は連続画像モデルの(1)式の表記を用いていている。ここでは、対象画像と参照画像、2枚の画像間の画像マッチングを考えているので等価な以下の(4−1)式の問題を考える。
Figure 0004398919
この(4−1)式のモデルでは、動きベクトルが簡単化され、d:X→Xとなる。点xに対して動きベクトルdは単一のみ決定することができればよいので、動きベクトルdを一意写像とする。このとき、x+d(x)は、xに対する写像とみなせるので。(5)式のように定義する。
Figure 0004398919
ここで、g:X→Xの一意写像である。そして、この画像マッチング問題を(6)式を満たす写像gを探索する問題に帰着する。
Figure 0004398919
ここで、写像gによって定まる点を(7)式のように定義する。
Figure 0004398919
ここで、x=Vnであるので、xは格子空間上の点nに一意に対応する。写像gは、一意写像であるため、yもxに一意に対応する。従って、yはnに一意に対応する。図2は、格子空間上の点nによって1対1に対応する変形格子空間を示す説明図である。
このように、y=g(x)=g(Vn)であるため、nに1対1に対応することを示すために、(8)式のように定義する。
Figure 0004398919
(8)式より、画像マッチング問題は(9)式を満たす点ynを探索する問題に帰着する。
Figure 0004398919
このような画像マッチング問題を解法するために、点ynに関する動的システムを解法する問題に帰着させる。図3は、点ynに関する動的システムの状態を説明する説明図である。図3に示すように、点ynは周囲の点との関係も考慮しつつ(9)式を満たす状態に移動していき平衡状態に収束する。本実施の形態では、この平衡状態に到達したときに画像マッチングが完了したものとしている。
点yに対して新たな時間軸τを導入し、関数yn(τ)を定義する。ここで、初期値は、(10)式に示すように、正方格子xと同一であるとする。
Figure 0004398919
また、τが無限大においてyn(τ)が収束するとし、(11)式のように定義する。
Figure 0004398919
ここで、時間τに関する微分は(12)式で定義する。
Figure 0004398919
一般的に動的システムは、(13)式に示される常微分方程式によって記述され、この(13)式は運動方程式である。
Figure 0004398919
n(τ)に作用する力について考えると、まず、動的システムを駆動させる力となる画像相関ポテンシャルエネルギーによる力(画像相関ポテンシャル力)を考える。この画像相関ポテンシャル力は、yn(τ)が(9)式を満たす状態に移動するための力である。(9)式を変形して、(14)式が得られる。
Figure 0004398919
しかし、(14)式を厳密に満たす点を探索することは、画像に含まれるノイズ成分などにより困難であるため、次の(15)式に示すエネルギー関数を考え、このエネルギー関数Euが最小となる点を探索する。
Figure 0004398919
エネルギー関数Euが最小となる点を探索する場合には、最急降下法の原理を用いる。この最急降下法の原理を用いることで、yn(τ)の周りでエネルギー関数Euの最急降下の方向に下っていくことにより局所的最小値を求めることができる。このため、この最急降下の方向への勾配をyn(τ)に対する力として定義する。エネルギー関数Euは画像の相関と考えることができるので、本実施の形態では、この力を画像相関ポテンシャルエネルギーによる力Fuとしてる。
本実施の形態では、最急降下の方向への勾配を、局所最適化の手法によって直接求めている。図4および図5は、画像相関ポテンシャル力の概念を示す説明図である。ここで、画像モデルScは連続画像モデルであり、実際にはサンプリングされた画像モデルSpを利用しているため、局所最適化においてもサンプリングされた画像モデルに基づいておこなっている。
n(τ)にもっとも近いサンプリング点を局所空間中心ycとして、ycを(16)式で求める。
Figure 0004398919
そして、隣接空間Lを(17−1)式で定義する。このとき、局所探索集合Ωは、(17−2)式のように定義することができる。
Figure 0004398919
そして、局所最適化の後、最急降下の方向へのベクトルを求め、求めたベクトルを正規化し勾配の大きさを乗算すると、画像相関ポテンシャル力として(18−1)〜(18−3)式が得られる。本実施の形態では、画像相関ポテンシャル力として(18−1)〜(18−3)式を使用している。
Figure 0004398919
なお、実装上の扱いやすさ等を考慮してエネルギー関数を(19)式のように定義すると、画像相関ポテンシャル力として、(20−1)〜(20−3)式が得られる。このため、画像相関ポテンシャル力として、(20−1)〜(20−3)式を用いることもできる。
Figure 0004398919
Figure 0004398919
次に、格子点と周辺の点との関係を記述する力について説明する。本実施の形態では、画像マッチングの対象の画像は3次元空間を2次元に投影したものと考える。例えば、3次元空間上のオブジェクトが剛体であるとすると、2次元画像では剛体の表面がオブジェクトとして観測される。3次元空間上のオブジェクトが対象画像と参照画像で観測されるとすると、それぞれの画像上で観測されるオブジェクトの位相は維持される確率が高い。図6は、対象画像オブジェクト上の点xの位置関係と参照画像オブジェクト上の点yn(τ)の位置関係を示す説明図である。図6に示すように、対象画像オブジェクト上の点xの位置関係は参照画像オブジェクト上の点yn(τ)で維持されることがわかる。このような性質は、格子点yn(τ)の間をバネで接続してバネの弾性力が作用するとみなすことによって格子点と周辺の点との関係を記述することができる。本実施の形態では、格子点と周辺との関係はバネによる弾性力、すなわち弾性エネルギー力Fkによって記述している。
まず、対象となる格子点周辺の格子点集合Lnを定義する。周囲4点の場合には格子点集合Lnは(21)式で示される。
Figure 0004398919
このとき、バネ定数をkとして、格子点yn(τ)に作用するバネの弾性力(弾性エネルギー力)は、(22)式で示される。
Figure 0004398919
また、格子点yn(τ)の周囲4点を接続したとみなすと、弾性エネルギー力Fkは(23)式で示される。
Figure 0004398919
次に、格子点に保存されたエネルギーを散逸させる力について説明する。格子点yn(τ)にかかる力が、画像相関ポテンシャル力と弾性エネルギー力のみの場合には、エネルギーが保存されてしまうために格子点yn(τ)の動的システムが振動する定常状態となってしまう。このため、本実施の形態では、格子点yn(τ)に保存されているエネルギーを散逸させる力を導入し、このような力として摩擦力を作用させている。格子点yn(τ)の速度が十分に小さい場合には摩擦力は(24)式で示される。
Figure 0004398919
以上説明した画像相関ポテンシャル力Fu、弾性エネルギー力Fk、摩擦力Fμを使用して、格子点yn(τ)に対する運動方程式を画像マッチング状態遷移モデルとして生成すると、(25−1)、(25−2)式で示される。
Figure 0004398919
本実施の形態では、画像相関ポテンシャル力算出部103によって、(18−1)、(18−2)、(18−3)式で示される画像相関ポテンシャル力Fuを計算し、弾性エネルギー力算出部104によって(23)式で示される弾性エネルギー力Fkを計算し、摩擦力算出部105によって(24)式で示される摩擦力Fμを計算する。そして、解法処理部101によって(25−1)、(25−2)式で示される運動方程式を数値解析処理によって解法して対象画像と参照画像の格子点間の写像を求めている。
次に、この解法処理部101による運動方程式の解法について説明する。(25−1)、(25−2)式で示される運動方程式、すなわち常微分方程式は、一般的に解析的に解法することができないため、この運動方程式の系が収束するのに十分大きな時間Tを考え、数値解析によってt=(0,T)区間を計算することによって運動方程式の収束状態を推定する。
本実施の形態では、常微分方程式は初期値が定まれば離散変数法によって一意に解が求まることを利用して、オイラー法による数値解析処理を行っている。
尚、本実施の形態ではオイラー法による数値解析処理を行っているが、これに限定されるものではない。離散変数法には、オイラー法以外にも、ルンゲクッタ法、ブリルシュ・ストア法、予測子・修正子法、隠的ルンゲクッタ法など種々の手法があり、このため、数値解析処理として、これらのいずれの手法を用いてもよい。以下はオイラー法を用いた数値解析処理を例にあげて説明する。
オイラー法は、一階の常微分方程式に対する数値解法であるため、(26)式の変数変換を(25−1)、(25−2)式を運動方程式に施すことにより、(25−1)、(25−2)式を一階の常微分方程式に変換する。これにより、(27−1)、(27−2)式が得られる。
Figure 0004398919
Figure 0004398919
一方、常微分方程式(28)式をオイラー法で数値解析処理を行って解法する場合には、(29)式のようにt(n)からt(n+1)=t(n)+hへ解を進展させる。
Figure 0004398919
Figure 0004398919
ここで、x(n)はnステップであることを示し、hはステップ幅である。オイラー法のスキームを(27−1)、(27−2)式に適用すると(30−1)、(30−2)式の更新式が得られる。
Figure 0004398919
本実施の形態では、解法処理部101によって、(27−1)、(27−2)式の更新式を繰り返して解法することによって運動方程式(25−1)、(25−2)式の系の収束状態を求めている。
次に、判定部102による画像相関ポテンシャル力算出処理を実行するか否かの判定処理について説明する。画像相関ポテンシャル力Fuの計算量は、(18−1)、(18−2)、(18−3)式からわかるように膨大となり、画像マッチング処理全体の計算時間を増加させる要因となっている。このため、本実施の形態では、画像相関ポテンシャル力Fuの算出を行うか否かを判定して、行わない場合には前回の画像相関ポテンシャル力Fuを利用して運動方程式(25−1)、(25−2)式の解法処理を行って計算量の削減を図っている。
画像相関ポテンシャル力Fuは、(31−1)〜(31−6)式で示される。
Figure 0004398919
ここで(31−3)式は、局所的な最適化を行う部分であり、画像相関ポテンシャル力Fuの計算量の大部分を支配している。この局所的最適化は、(32−1)〜(32−3)式で示される探索集合Ω内で最適な格子点を探索する処理(計算)である。
Figure 0004398919
図7は、局所的最適化の概念を示す模式図である。図7に示すように、探索点Ψ(=Ψ1,n (n))は、対応点自身を示し、探索点ycは対応点の周囲の画素位置を示す。
このとき、参照画像の第2の格子点であるΨ(=Ψ1,n (n))とは微細な範囲で位置が異なるが、画素位置を四捨五入すると同一の位置となる第2の格子点Ψ'(=Ψ'1,n (n))を考える。ここで、第2の格子点Ψ(=Ψ1,n (n))は上記運動方程式の時間で第1の時刻における第2の格子点であり、第2の格子点Ψ'(=Ψ'1,n (n))は上記運動方程式の時間で第2の時刻における第2の格子点(すなわち、解法処理部101による第2の格子点Ψ(=Ψ1,n (n))に対する数値解析処理のステップと異なるステップにおける第2の格子点)である。図8は、Ψと画素位置を四捨五入すると同一の位置となる点Ψ'の位置関係を示す説明図である。このようなΨと画素位置を四捨五入すると同一の位置となる点Ψ'は、Ψに最も近い画素の近傍を意味している。このとき、点Ψ'(=Ψ'1,n (n))を中心とする新しい探索集合は、(33−1)〜(33−3)式で示される。
Figure 0004398919
上述した通り、Ψ'(=Ψ'1,n (n))はΨ(=Ψ1,n (n))の画素位置を四捨五入した位置にある点である。よって(34)式の関係を有する。したがって(35)が成立する。
Figure 0004398919
Figure 0004398919
従って、探索集合Ω’は、(36)式で示される集合と等価となる。(36)式は、探索集合Ω、Ω’は10個の要素から構成されるが両者のうちの9個が同じ要素であることを意味している。
Figure 0004398919
また、点Ψ'1,n (n)とΨ1,n (n)の画素値が近似していると仮定すると、探索集合Ω、Ω’内の探索結果は同一となる確率が高い、すなわち、Ψ1,n (n)に最も近い画素位置の近傍の点Ψ'1,n (n)では局所最適化の結果が同一になる確率が高い。従って、このように点Ψ'1,n (n)にもっとも近い点Ψ1,n (n)の特性を利用することによって高精度を維持したまま計算量の削減を可能とすることができる。
このため、本実施の形態では、上記運動方程式の時間で第1の時刻における第2の格子点である第2の格子点Ψ1,n (n)と上記運動方程式の時間で第2の時刻における第2の格子点Ψ1,n (n+1)(すなわち、解法処理部101による第2の格子点Ψ1,n (n)に対する数値解析処理のステップと異なるステップにおける第2の格子点Ψ1,n (n+1))をとり、判定部102によって、Ψ1,n (n+1)がΨ1,n (n)と四捨五入すると同一となるか否か(すなわち、Ψ1,n (n+1)が最近画素Ψ1,n (n)の近傍か否か)を判定し、同一となる場合には最近画素の近傍であると判断して、画像相関ポテンシャル力算出部103によって局所最適化の計算をおこなわずに前回のΨ1,n (n-1)の画像相関ポテンシャル力の算出結果を利用している。判定部102による最近画素の近傍か否かの判定は、(37)式で行っている。
Figure 0004398919
なお、本実施の形態では、判定部102によって、Ψ1,n (n+1)がΨ1,n (n)と四捨五入すると同一となるか否かを(37)式で判定しているが、この他、Ψ1,n (n+1)がΨ1,n (n)と一定の範囲内の近傍に存在するか否かを判定し、一定の範囲内の近傍に存在すると判定された場合には、画像相関ポテンシャル力算出部103によって局所最適化の計算をおこなわずに前回のΨ1,n (n1)の画像相関ポテンシャル力の算出結果を利用するように構成してもよい。この場合の判定部102による判定は、(38)式で行われる。
Figure 0004398919
このような判定結果を反映した画像相関ポテンシャル力の更新式は(39−1)〜(39−6)式で示される。本実施の形態の画像相関ポテンシャル力算出部103では、(39−1)〜(39−6)式を用いて画像相関ポテンシャル力を算出している。
Figure 0004398919
ここで、画像相関ポテンシャル力の算出を行わない、すなわち局所最適化の計算をおこなわない場合(φ(n)=1の場合)には、局所最適化の結果yminにymin (n-1)が設定される。
次に、以上のように構成された本実施の形態にかかる画像マッチング装置100による画像マッチング処理について説明する。図9は、画像マッチング装置100による画像マッチング処理の手順を示すフローチャートである。具体的には、先に示した(30−1)、(30−2)式を数値解析により解法することにより画像マッチング処理を実現している。
まず、解法処理部101は、時間t(0)=0に設定し(ステップS901)、初期値Ψ1,n (0)=Vn、Ψ2,n (0)=0を設定する(ステップS902)。これにより、(30−2)式が実行される。
次に、画像相関ポテンシャル力算出処理部103によって、すべてのnに対して画像相関ポテンシャル力Fu(n,Ψ1,n (n))を(39−1)〜(39−6)式によって算出する(ステップS903)。かかる画像相関ポテンシャル力Fu(n,Ψ1,n (n))の算出処理については後述する。
次いで、弾性エネルギー力算出処理部104によって、すべてのnに対して弾性エネルギー力Fk(n,Ψ1,n (n))を(40)式により算出する(ステップS904)。そして、摩擦力算出処理部105によって、すべてのnに対して摩擦力Fμ(n,Ψ1,n (n))を(41)式により算出する(ステップS905)。
Figure 0004398919
Figure 0004398919
次に、解法処理部101によって、(30−1)式の更新式を、ステップS903で算出した画像相関ポテンシャル力Fu(n,Ψ1,n (n))、ステップS904で求めた弾性エネルギー力Fk(n,Ψ1,n (n))、ステップS905で求めた摩擦力Fμ(n,Ψ1,n (n))で更新する(ステップS906)。
次に、解法処理部101によって、Ψ1,n (n)の値をフレームメモリ106に保存する(ステップS907)。そして、解法処理部101によって、t(n+1)=t(n)+hと更新し(ステップS908)、nを1だけ増加する(ステップS909)。そして、t(n+1)があらかじめ定められた時間Tを越えたか否かを判断し(ステップS910)、越えていない場合には、上記ステップS903からS909を繰り返し実行する。一方、t(n+1)がTを越えた場合には、解法処理部101によって、すべてのnに対して、ynoptにΨ1,n (n)を設定する(ステップS911)。
次に、ステップS903における画像相関ポテンシャル力の算出処理について説明する。図10は、実施の形態1にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。画像相関ポテンシャル力は(39−1)〜(39−6)式によって算出される。
まず、判定部102によってフレームメモリ106からΨ1,n (n)を取得し(ステップS1001)、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入すると同一領域か否か、すなわちΨ1,n (n+1)が最近画素Ψ1,n (n)の近傍位置に存在するか否かを、前述した(37)式によって判定する(ステップS1002)。そして、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入すると同一領域である場合(φ(n)=1の場合)、フレームメモリ106からymin (n-1)を取得し(ステップS1008)、局所最適化の結果yminにymin (n-1)を設定する(ステップS1009)。
そして、画像相関ポテンシャル力算出部103によって、(39−2)式でudを算出し(ステップS1006)、画像相関ポテンシャル力Fu(n,Ψ1,n (n))を(39−1)式で算出する(ステップS1007)。
一方、ステップS1002において、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入しても同一領域でない場合(φ(n)=0の場合)、画像相関ポテンシャル力算出部103によって、格子点yn(τ)をΨ1,n (n)として(39−5)式により局所空間中心ycを計算する(ステップS1003)。そして、画像相関ポテンシャル力算出部103によって、(39−4)式に示す探索集合Ωに対して、局所最適化の結果yminを計算する(ステップS1004)。次いで、画像相関ポテンシャル力算出部103によって、局所最適化の結果yminをymin (n)としてフレームメモリ106に保存する(ステップS1005)。
そして、画像相関ポテンシャル力算出部103によって、(39−2)式でudを算出し(ステップS1006)、画像相関ポテンシャル力Fu(n,Ψ1,n (n))を(39−1)式で算出する(ステップS1007)。
このように本実施の形態にかかる画像マッチング装置では、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入すると同一領域か否か、すなわちΨ1,n (n+1)が最近画素Ψ1,n (n)の近傍位置に存在するか否かを判定し、同一領域である場合には、前回の画像相関ポテンシャル力を利用して画像相関ポテンシャル力の算出を行わないので、画像マッチング処理の計算量を削減して効率的な画像マッチング処理を実現することができる。
また、本実施の形態では、画像の格子点に対する画像相関ポテンシャル力、弾性エネルギー力および摩擦力を有する運動方程式を解法処理しているので、構造および処理が簡易かつ拡張性を有するとともに、画像中のノイズやオブジェクトの動きにかかわらず高精度な処理を実現することができ、さらに画像マッチング処理のモデル化による誤差を最小限にしてロバスト性を向上させるとともに、計算量を削減して効率的な画像マッチング処理を実現することができる。
図11は、実施の形態1の画像マッチング処理の結果を示すグラフである。図11において、横軸は時間であり、縦軸は、複数の画像データに対して画面全体に対する画像相関ポテンシャル力の算出処理を実行した点の割合、すなわち画像相関ポテンシャル力の算出処理をスキップできなかった点の割合(%)を示している。図11からわかるように、計算量の削減効果を示しており、グラフが下方に向かうほど良好な計算削減効果が現れている。実際の計算量は、図11のグラフのカーブを時間で積分したものであり、ほぼ1%程度となっている。これは画像相関ポテンシャル力の計算が元々の1%程度になっているということであり大きな計算量削減効果が得られることがわかる。一方、本実施の形態のような画像相関ポテンシャル力の算出処理の実行判定を行わない場合には、図11のような計算量削減の効果は現れず、縦軸の値が1%の状態のまま変化しない。
(実施の形態2)
実施の形態2にかかる画像マッチング装置は、格子点の画素値との差に基づいて画像相関ポテンシャル力の算出を行うか否かを判定するものである。
図12は、実施の形態2にかかる画像マッチング装置1200の構成を示すブロック図である。本実施の形態の画像マッチング装置1200では、エッジ検出部1201がもうけられている点、および判定部1202がエッジ検出部1201のエッジ検出結果によって、画像相関ポテンシャル力の算出を行うか否かを判定している点が実施の形態1と異なっている。
エッジ検出部1201は、対象画像の格子点の画素値と格子点の運動方程式における時間と異なる時間における格子点の画素値との差を検出して画素値の差があらかじめ定められた閾値以上であるエッジ領域を検出する処理部である。
本実施の形態における判定部1202は、実施の形態1と同様の判定処理を行う他、エッジ検出部1201によってエッジ領域が検出された場合に、画像相関ポテンシャル力の算出処理をスキップしないと判定している。
図13は、エッジ領域と非エッジ領域における点Ψ(=Ψ1,n (n))の相違を示す模式図である。実施の形態1では、点Ψ1,n (n)の近傍の点Ψ'1,n (n)では画素値が近いものと仮定して判定処理を行っているが、図13に示すようにエッジ領域では、点Ψ1,n (n)の近傍の点Ψ'1,n (n)であっても、画素値が近似するとは限らない。従って、点Ψ1,n (n)の近傍の点Ψ'1,n (n)では局所最適化の結果が同一になる確率が低くなってくる。このため、本実施の形態では、まず、点Ψ1,n (n)とΨ'1,n (n)がエッジ領域に存在するか否かを判定し、エッジ領域に存在する場合には、画像相関ポテンシャル力の算出処理をスキップせずに実行することとしている。
図14は、実施の形態2にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。
まず、エッジ検出部1201によってフレームメモリ106からΨ1,n (n)を取得し(ステップS1401)、Ψ1,n (n)の近傍におけるエッジ領域の検出処理を行う(ステップS1402)。かかるエッジ検出処理は、Ψ1,n (n)の画素値と近傍の点における画素値とを比較して、画素値の差があらかじめ定められた閾値以上である場合にはエッジ領域と判定する。例えば、たたみ込み演算による微分オペレータなどを利用してエッジ検出を行うことができる。
そして、エッジ検出処理の結果、Ψ1,n (n)の近傍がエッジ領域であるか否かを調べ(ステップS1403)、エッジ領域でないと判定された場合には(ステップS1403:No)、後述するステップS1404からS1407までの画像相関ポテンシャル力算出処理をスキップし、画像相関ポテンシャル力算出部103によってフレームメモリ106からymin (n-1)を取得し(ステップS1410)、局所最適化の結果yminにymin (n-1) を設定する(ステップS1411)。
そして、画像相関ポテンシャル力算出部103によって、(39−2)式でudを算出し(ステップS1408)、画像相関ポテンシャル力Fu(n,Ψ1,n (n))を(39−1)式で算出する(ステップS1409)。
一方、ステップS1403において、Ψ1,n (n)の近傍がエッジ領域であると判断された場合には(ステップS1403:Yes)、画像相関ポテンシャル力算出処理をスキップせずに以下の処理を行う。すなわち、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入すると同一領域か否か、すなわちΨ1,n (n+1)が最近画素Ψ1,n (n)の近傍位置に存在するか否かを、前述した(37)式によって判定する(ステップS1404)。これ以降の処理は実施の形態1と同様に行われる(ステップS1405〜S1409)。
このように本実施の形態にかかる画像マッチング装置1200では、格子点の画素値との差に基づいて画像相関ポテンシャル力の算出を行うか否かを判定し、エッジ領域でない場合に画像相関ポテンシャル力算出処理をスキップしているので、画像マッチング処理の計算量を削減するとともに、より高精度な画像マッチング処理を実現することができる。
(実施の形態3)
実施の形態3にかかる画像マッチング装置は、時間の経過に従って画像相関ポテンシャル力の算出処理を行うか否かを判定するものである。
時刻τが小さいときには格子点全体は比較的大きな動きを行うため、かかる時間帯ではあまり画像相関ポテンシャルエネルギーの力の計算をスキップしない方が好ましい。
しかしながら、時刻τが大きくなると格子点全体はあまり動かなくなるので、画像相関ポテンシャルエネルギーの力の算出処理をスキップしても精度に対する影響が小さくなる。
このため、本実施の形態では、時刻τの大きさによって画像相関ポテンシャル力の算出処理を実行するか否かを判定している。
本実施の形態の画像マッチング装置の構成は、実施の形態1と同様である。本実施の形態では、判定部102は、実施の形態1または実施の形態2と同様の判定処理を行う他、さらに時刻τの大きさによって画像相関ポテンシャル力の算出処理を実行するか否かを判定している。
図15は、実施の形態3にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。
まず、判定部102によってフレームメモリ106からΨ1,n (n)を取得し(ステップS1501)、画像マッチング処理開始からの時間τがあらかじめ定められた一定時間より大きいか否かを調べる(ステップS1502)。そして、時間τがあらかじめ定められた一定時間より大きい場合には、画像相関ポテンシャル力算出部103によってフレームメモリ106からymin (n-1)を取得し(ステップS1509)、局所最適化の結果yminにymin (n-1)ヲ設定する(ステップS1510)。
そして、画像相関ポテンシャル力算出部103によって、(39−2)式でudを算出し(ステップS1507)、画像相関ポテンシャル力Fu(n,Ψ1,n (n))を(39−1)式で算出する(ステップS1508)。
一方、ステップS1502において、時間τがあらかじめ定められた一定時間以下であると判断された場合には、Ψ1,n (n)とΨ1,n (n+1)は、四捨五入すると同一領域か否か、すなわちΨ1,n (n+1)が最近画素Ψ1,n (n)の近傍位置に存在するか否かを、前述した(37)式によって判定する(ステップS1503)。これ以降の処理は実施の形態1と同様に行われる(ステップS1504〜S1508)。
このように本実施の形態にかかる画像マッチング装置では、時間の経過に従って画像相関ポテンシャル力の算出処理を行うか否かを判定しているので、画像マッチング処理の計算量を削減するとともに、より高精度な画像マッチング処理を実現することができる。
なお、時間τの経過によって、画像相関ポテンシャル力を算出する格子点の数を変更するように構成することができる。例えば、時刻τが小さいときには画像相関ポテンシャル力の算出を行わない格子点の総数を小さくし、時刻τが大きくなってくると画像相関ポテンシャル力の算出を行わない格子点の総数を大きくするようにスケジュールをあらかじめ定めておき、画像マッチング処理の際に、かかるスケジュールを参照して、画像相関ポテンシャル力を算出する格子点を決定するように構成することができる。また、この場合には、画像相関ポテンシャル力の算出を行わない格子点ランダムに定める構成を採用することができる。
また、画面の領域毎に、格子点の動きを統計した統計情報をあらかじめ定めておき、かかる統計情報を参照して、画像相関ポテンシャル力の算出を行うか否かを判定してもよい。例えば、統計的に大きく動く点がたくさん含まれる領域とそうではない領域を判定し、大きく動く領域に対しては画像相関ポテンシャル力の算出を行わないランダム確率を小さくし、統計的に大きく動く点が少量である領域ではランダム確率を大きくするような手法を採用することもできる。
実施の形態1〜3の画像マッチング装置は、CPUなどの制御装置と、ROM(Read Only Memory)やRAMなどの記憶装置と、HDD、CDドライブ装置などの外部記憶装置と、ディスプレイ装置などの表示装置と、キーボードやマウスなどの入力装置を備えており、通常のコンピュータを利用したハードウェア構成となっている。
実施の形態1〜3の画像マッチング装置で実行される画像マッチングプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、実施の形態1〜3の画像マッチング装置で実行される画像マッチングプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の〜装置で実行される〜プログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
また、本実施の形態の画像マッチングプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
実施の形態1〜3の画像マッチング装置で実行される画像マッチングプログラムは、上述した各部(解法処理部、判定部、画像相関ポテンシャル力算出部、弾性エネルギー力算出部、摩擦力算出部、エッジ検出部)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体から画像マッチングプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、(解法処理部、判定部、画像相関ポテンシャル力算出部、弾性エネルギー力算出部、摩擦力算出部、エッジ検出部)が主記憶装置上に生成されるようになっている。
実施の形態1にかかる画像マッチング装置の構成を示すブロック図である。 格子空間上の点nによって1対1に対応する変形格子空間を示す説明図である。 点ynに関する動的システムの状態を説明する説明図である。 画像相関ポテンシャル力の概念を示す説明図である。 画像相関ポテンシャル力の概念を示す説明図である。 対象画像オブジェクト上の点xの位置関係と参照画像オブジェクト上の点yn(τ)の位置関係を示す説明図である。 局所的最適化の概念を示す模式図である。 点Ψと画素位置を四捨五入すると同一の位置となる点Ψ'の位置関係を示す説明図である。 画像マッチング装置100による画像マッチング処理の手順を示すフローチャートである。 実施の形態1にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。 実施の形態1の画像マッチング処理の結果を示すグラフである。 実施の形態2にかかる画像マッチング装置1200の構成を示すブロック図である。 エッジ領域と非エッジ領域における点Ψ(=Ψ1,n (n))の相違を示す模式図である。 実施の形態2にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。 実施の形態3にかかる画像相関ポテンシャル力の算出処理の手順を示すフローチャートである。
符号の説明
100,1200 画像マッチング装置
101 解法処理部
102,1202 判定部
103 画像相関ポテンシャル力算出部
104 弾性エネルギー力算出部
105 摩擦力算出部
106 フレームメモリ
1201 エッジ検出部

Claims (7)

  1. 対象画像と参照画像との間の対応関係を求める画像マッチング装置であって、
    前記対象画像上に設定され、前記対象画像を格子状に分割した複数の第1の格子点の各々と前記参照画像上で当該第1の格子点と1:1に対応して設定され、前記参照画像を格子状に分割した複数の第2の格子点の各々との間で画像の相関が高い程小さいエネルギーとなる画像相関ポテンシャルエネルギーを算出するとともに、前記各第2の格子点の位置と当該第2の格子点に対応する前記各第1の格子点の位置とによる最急降下方向へのベクトルに前記画像相関ポテンシャルエネルギーの勾配を乗じて、前記第2の格子点が受ける画像相関ポテンシャル力を算出する画像相関ポテンシャル力算出部と、
    前記各第2の格子点と当該第2の格子点に隣接する他の第2の格子点との間の距離が遠い程大きいエネルギーとなる、前記第2の格子点が受ける弾性エネルギー力を算出する弾性エネルギー力算出部と、
    前記各第2の格子点に対して、前記各第2の格子点の変位方向と反対方向に作用する摩擦力を算出する摩擦力算出部と、
    前記画像相関ポテンシャル力と前記弾性エネルギー力と前記摩擦力とによる前記各第2の格子点に関する運動方程式に対して離散変数法による解法処理を行い、前記第2の格子点の平衡状態を求める解法処理部と、
    前記各第2の格子点に関して、前記運動方程式の時間で現在の時刻における位置である現在位置と前記運動方程式の時間で過去の時刻における位置である基準位置とが所定の基準よりも近い場合には、前記画像相関ポテンシャル力の算出処理を実行しないと判定する判定部と、を備え、
    前記画像相関ポテンシャル力算出部は、前記判定部によって前記画像相関ポテンシャル力の算出処理を実行しないと判定された前記第2の格子点に関しては、前回算出した前記画像相関ポテンシャル力を今回の前記画像相関ポテンシャル力とすることを特徴とする画像マッチング装置。
  2. 前記判定部は、前記現在位置が前記基準位置から所定の範囲内である前記第2の格子点に関して、前記画像相関ポテンシャル力の算出処理を実行しないと判定する請求項1に記載の画像マッチング装置。
  3. 前記基準位置は、前記運動方程式の時間で最も近い過去の時刻における位置であることを特徴とする請求項2に記載の画像マッチング装置。
  4. 前記判定部は、前記現在位置と前記基準位置との間の距離があらかじめ定められた範囲内である前記第2の格子点に関して、前記画像相関ポテンシャル力の算出処理を実行しないと判定する請求項2に記載の画像マッチング装置。
  5. 前記各第2の格子点に関して、前記現在位置における画素値と前記基準位置における画素値との差を検出するエッジ検出部をさらに備え、
    前記判定部は、前記画素値の差が閾値より小さい前記第2の格子点に関しては、前記画像相関ポテンシャル力の算出処理を実行しないと判定する請求項1〜4のいずれか一つに記載の画像マッチング装置。
  6. 対象画像と参照画像との間の対応関係を求める画像マッチング方法であって、
    前記対象画像上に設定され、前記対象画像を格子状に分割した複数の第1の格子点の各々と前記参照画像上で当該第1の格子点と1:1に対応して設定され、前記参照画像を格子状に分割した複数の第2の格子点の各々との間で画像の相関が高い程小さいエネルギーとなる画像相関ポテンシャルエネルギーを算出するとともに、前記各第2の格子点の位置と当該第2の格子点に対応する前記各第1の格子点の位置とによる最急降下方向へのベクトルに前記画像相関ポテンシャルエネルギーの勾配を乗じて、前記第2の格子点が受ける画像相関ポテンシャル力を算出する画像相関ポテンシャル力算出ステップと、
    前記各第2の格子点と当該第2の格子点に隣接する他の第2の格子点との間の距離が遠い程大きいエネルギーとなる、前記第2の格子点が受ける弾性エネルギー力を算出する弾性エネルギー力算出ステップと、
    前記各第2の格子点に対して、前記各第2の格子点の変位方向と反対方向に作用する摩擦力を算出する摩擦力算出ステップと、
    前記画像相関ポテンシャル力と前記弾性エネルギー力と前記摩擦力とによる前記各第2の格子点に関する運動方程式に対して離散変数法による解法処理を行い、前記第2の格子点の平衡状態を求める解法処理ステップと、
    前記各第2の格子点に関して、前記運動方程式の時間で現在の時刻における位置である現在位置と前記運動方程式の時間で過去の時刻における位置である基準位置とが所定の基準よりも近い場合には、前記画像相関ポテンシャル力の算出処理を実行しないと判定する判定ステップと、を含み、
    前記画像相関ポテンシャル力算出ステップは、前記判定ステップによって前記画像相関ポテンシャル力の算出処理を実行しないと判定された前記第2の格子点に関しては、前回算出した前記画像相関ポテンシャル力を今回の前記画像相関ポテンシャル力とすることを特徴とする画像マッチング方法。
  7. 対象画像と参照画像との間の対応関係を求める画像マッチングプログラムであって、
    前記対象画像上に設定され、前記対象画像を格子状に分割した複数の第1の格子点の各々と前記参照画像上で当該第1の格子点と1:1に対応して設定され、前記参照画像を格子状に分割した複数の第2の格子点の各々との間で画像の相関が高い程小さいエネルギーとなる画像相関ポテンシャルエネルギーを算出するとともに、前記各第2の格子点の位置と当該第2の格子点に対応する前記各第1の格子点の位置とによる最急降下方向へのベクトルに前記画像相関ポテンシャルエネルギーの勾配を乗じて、前記第2の格子点が受ける画像相関ポテンシャル力を算出する画像相関ポテンシャル力算出ステップと、
    前記各第2の格子点と当該第2の格子点に隣接する他の第2の格子点との間の距離が遠い程大きいエネルギーとなる、前記第2の格子点が受ける弾性エネルギー力を算出する弾性エネルギー力算出ステップと、
    前記各第2の格子点に対して、前記各第2の格子点の変位方向と反対方向に作用する摩擦力を算出する摩擦力算出ステップと、
    前記画像相関ポテンシャル力と前記弾性エネルギー力と前記摩擦力とによる前記各第2の格子点に関する運動方程式に対して離散変数法による解法処理を行い、前記第2の格子点の平衡状態を求める解法処理ステップと、
    前記各第2の格子点に関して、前記運動方程式の時間で現在の時刻における位置である現在位置と前記運動方程式の時間で過去の時刻における位置である基準位置とが所定の基準よりも近い場合には、前記画像相関ポテンシャル力の算出処理を実行しないと判定する判定ステップと、をコンピュータに実行させ、
    前記画像相関ポテンシャル力算出ステップは、前記判定ステップによって前記画像相関ポテンシャル力の算出処理を実行しないと判定された前記第2の格子点に関しては、前回算出した前記画像相関ポテンシャル力を今回の前記画像相関ポテンシャル力とすることをコンピュータに実行させるための画像マッチングプログラム。
JP2005240323A 2005-08-22 2005-08-22 画像マッチング装置、画像マッチング方法および画像マッチングプログラム Expired - Fee Related JP4398919B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005240323A JP4398919B2 (ja) 2005-08-22 2005-08-22 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
US11/373,988 US20070041658A1 (en) 2005-08-22 2006-03-14 Image matching apparatus, method of matching images, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005240323A JP4398919B2 (ja) 2005-08-22 2005-08-22 画像マッチング装置、画像マッチング方法および画像マッチングプログラム

Publications (2)

Publication Number Publication Date
JP2007058342A JP2007058342A (ja) 2007-03-08
JP4398919B2 true JP4398919B2 (ja) 2010-01-13

Family

ID=37767398

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005240323A Expired - Fee Related JP4398919B2 (ja) 2005-08-22 2005-08-22 画像マッチング装置、画像マッチング方法および画像マッチングプログラム

Country Status (2)

Country Link
US (1) US20070041658A1 (ja)
JP (1) JP4398919B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4709794B2 (ja) * 2007-03-15 2011-06-22 株式会社東芝 動き推定装置及びその方法
US8270770B1 (en) * 2008-08-15 2012-09-18 Adobe Systems Incorporated Region-based dense feature correspondence
US8311300B1 (en) 2009-04-14 2012-11-13 Ziosoft, Inc. Medical image processing apparatus and method
US8559690B2 (en) * 2010-01-28 2013-10-15 Scivis Wissenschaftliche Bildverarbeitung Gmbh Tomographic imaging using poissonian detector data
JP5716170B2 (ja) * 2010-07-26 2015-05-13 石川 博 情報処理方法および情報処理装置
WO2012177063A2 (ko) * 2011-06-24 2012-12-27 엘지전자 주식회사 스킵 모드 부호화 복호화 방법 및 장치

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69332042T2 (de) * 1992-12-18 2003-01-02 Koninklijke Philips Electronics N.V., Eindhoven Ortungszurückstellung von relativ elastisch verformten räumlichen Bildern durch übereinstimmende Flächen
US5901245A (en) * 1997-01-23 1999-05-04 Eastman Kodak Company Method and system for detection and characterization of open space in digital images
US6633686B1 (en) * 1998-11-05 2003-10-14 Washington University Method and apparatus for image registration using large deformation diffeomorphisms on a sphere
DE19900114B4 (de) * 1999-01-05 2005-07-28 Witec Wissenschaftliche Instrumente Und Technologie Gmbh Verfahren und Vorrichtung zur gleichzeitigen Bestimmung zumindest zweier Materialeigenschaften einer Probenoberfläche, umfassend die Adhäsion, die Reibung, die Oberflächentopographie sowie die Elastizität und Steifigkeit
JP3840129B2 (ja) * 2002-03-15 2006-11-01 株式会社東芝 動きベクトル検出方法と装置、補間画像作成方法と装置及び画像表示システム
JP4198550B2 (ja) * 2002-09-10 2008-12-17 株式会社東芝 フレーム補間方法およびこのフレーム補間方法を用いた装置
JP3898606B2 (ja) * 2002-09-12 2007-03-28 株式会社東芝 動きベクトル検出方法及び装置並びにフレーム補間画像作成方法及び装置
DE10253784A1 (de) * 2002-11-19 2005-06-02 Universität Zu Lübeck Verfahren zur Bildregistrierung
JP4053490B2 (ja) * 2003-03-25 2008-02-27 株式会社東芝 フレーム補間のための補間画像作成方法及びこれを用いた画像表示システム、補間画像作成装置
JP4220284B2 (ja) * 2003-03-28 2009-02-04 株式会社東芝 フレーム補間方法、装置及びこれを用いた画像表示システム
JP4080951B2 (ja) * 2003-05-30 2008-04-23 株式会社東芝 フレーム補間方法及び装置並びに画像表示システム
JP4198608B2 (ja) * 2004-01-15 2008-12-17 株式会社東芝 補間画像生成方法および装置
US7124041B1 (en) * 2004-09-27 2006-10-17 Siemens Energy & Automotive, Inc. Systems, methods, and devices for detecting circuit faults
JP4271115B2 (ja) * 2004-09-29 2009-06-03 株式会社東芝 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
JP2006260527A (ja) * 2005-02-16 2006-09-28 Toshiba Corp 画像マッチング方法およびこれを用いた画像補間方法

Also Published As

Publication number Publication date
JP2007058342A (ja) 2007-03-08
US20070041658A1 (en) 2007-02-22

Similar Documents

Publication Publication Date Title
US20230367809A1 (en) Systems and Methods for Geolocation Prediction
US7440619B2 (en) Image matching method and image interpolation method using the same
US10013628B2 (en) Information processing apparatus and information processing method
CN100383813C (zh) 图像匹配装置、匹配图像方法及计算机程序产品
JP4398919B2 (ja) 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
US11687773B2 (en) Learning method and recording medium
US20230134967A1 (en) Method for recognizing activities using separate spatial and temporal attention weights
CN106952338B (zh) 基于深度学习的三维重建的方法、系统及可读存储介质
CN102789632A (zh) 学习装置和方法、图像处理装置和方法、程序和记录介质
US11328473B2 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
US12086212B2 (en) Burst image-based image restoration method and apparatus
JP2010079375A (ja) 画像処理装置、方法及びプログラム
JP2008015824A (ja) フィルタ列生成装置、フィルタ列生成方法、コンピュータをフィルタ列生成装置として機能させるためのプログラム、および記録媒体
Li et al. Occlusion aware unsupervised learning of optical flow from video
JP2010250611A (ja) 画像処理装置、画像処理方法及び記録媒体
WO2022181253A1 (ja) 関節点検出装置、学習モデル生成装置、関節点検出方法、学習モデル生成方法、及びコンピュータ読み取り可能な記録媒体
JP4271117B2 (ja) 補間フレーム作成装置、補間フレーム作成方法および補間フレーム作成プログラム
JPWO2016142965A1 (ja) 映像処理装置、映像処理方法及び映像処理プログラムを記憶する記録媒体
JP2007156954A (ja) 信頼度テーブル作成方法、オプティカルフロー推定方法、信頼度テーブル作成装置、オプティカルフロー推定装置、及びプログラム
JP6216192B2 (ja) 動き推定装置及びプログラム
JP2009100017A (ja) 画像処理装置及び方法、並びにプログラム
JP2007257518A (ja) 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
JP2006227827A (ja) 画像マッチング方法および装置
JP2007188329A (ja) 画像マッチング装置、画像マッチング方法および画像マッチングプログラム
US20140303946A1 (en) Analysis device and simulation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090929

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091023

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121030

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131030

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees