JPH1186003A - 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体 - Google Patents

位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体

Info

Publication number
JPH1186003A
JPH1186003A JP9244972A JP24497297A JPH1186003A JP H1186003 A JPH1186003 A JP H1186003A JP 9244972 A JP9244972 A JP 9244972A JP 24497297 A JP24497297 A JP 24497297A JP H1186003 A JPH1186003 A JP H1186003A
Authority
JP
Japan
Prior art keywords
block
position correction
image
correction parameter
target image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9244972A
Other languages
English (en)
Other versions
JP3006560B2 (ja
Inventor
Toshiyasu Nakao
敏康 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP9244972A priority Critical patent/JP3006560B2/ja
Publication of JPH1186003A publication Critical patent/JPH1186003A/ja
Application granted granted Critical
Publication of JP3006560B2 publication Critical patent/JP3006560B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Editing Of Facsimile Originals (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 回転を含む画像間の位置関係を高速かつ高精
度に求める位置合わせ装置を提供する。 【解決手段】 ブロック選択手段により誤ったブロック
マッチング処理結果を与える可能性が高いブロックを排
除する。さらにマッチング結果分類手段によりブロック
マッチング処理結果を、同じ位置補正パラメータを生じ
ると考えられるグループに分類し、各グループ毎に位置
補正パラメータ計算手段によりパラメータを求める。ま
た、得られた複数の位置補正パラメータの中から原画像
を参照して最適パラメータ決定手段により最適パラメー
タを決定するため、計算量が少なくかつ精度の高い位置
合わせが可能となる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、特に広範囲な画像
をコンピュータに入力するために、部分画像の特性から
部分画像間の位置関係を自動で求める位置合わせ装置及
び位置合わせプログラムを記録したコンピュータが読み
取り可能な記録媒体に関するものである。
【0002】
【従来の技術】従来、画像をコンピュータに入力するた
めに、一般的には電子カメラやスキャナが利用されこと
が多い。
【0003】しかしながら、電子カメラやスキャナのい
ずれにおいても画角や読み取り範囲が限られているた
め、広い領域に渡る対象を一度に読み取ることが不可能
な場合がある。このような場合には、複数に分割して取
得した対象の画像を一枚に再構成する処理が必要とな
る。このような目的を果たすものとして、コンピュータ
により画像の特徴から自動で位置合わせを適用する処理
を行う位置合わせ装置が従来技術として知られている。
【0004】この従来の位置合わせ装置は、残差や相互
相関係数の指標を利用して、すべてのパラメータ候補か
ら形成されるパラメータ空間内の逐次探索によりパラメ
ータを求める場合が多く見られた。これらの手法は「共
立出版、bit別冊『コンピュータ・サイエンス』,エ
ーシーエム・コンピューティング・サーベイズ’92、
77〜119頁」に記述されているので詳細は割愛する
が、含まれる変動の種類が多くなると指数的に計算量が
増大するという問題があった。この計算量の問題を回避
するものとして、例えば「特開平7−264483、
『放射線画像の位置合せ方法』」が提案されている。こ
の提案では、まず、基準となる特徴点を画像から抽出し
特徴点周辺の画像をブロックとみなす。そして、各ブロ
ックに対して平行移動量を求める処理(ブロックマッチ
ング処理)のみを適用し、その結果を最小二乗法で統合
し、平行移動量、回転量、拡大/縮小量を含むパラメー
タを一括して求める手法が説明されている。この手法で
は、パラメータ空間は平行移動量のみで構成されるため
計算量の指数的な増大を防ぐことが可能となる。また、
「特開平8−145628、『対象物位置特定方法』」
においては、複数のテンプレートにブロックマッチング
処理を適用した結果から、すべての組合せについて平行
移動量、回転量を含むパラメータを求め、その中で最小
の二乗誤差を与えるパラメータを位置合せ結果とする方
法が説明されている。
【0005】
【発明が解決しようとする課題】しかしながら、「特開
平7−264483、『放射線画像の位置合せ方法』」
をはじめとする従来のブロック分割による位置合わせ手
法では、パラメータ空間は平行移動量のみで構成される
ため計算量の指数的な増大を防ぐことが可能となるもの
の、得られるパラメータが誤った平行移動量を与えるブ
ロックの影響を受ける可能性があり、得られるパラメー
タの精度が低くなるという問題があった。
【0006】また、「特開平8−145628、『対象
物位置特定方法』」による位置合せ手法では、すべての
ブロックの組み合わせ毎に得られたパラメータの中か
ら、二乗誤差を最小にするパラメータを求めることで、
誤った平行移動量を与えるブロックの影響を回避するこ
とを試みているが、ブロックマッチング処理結果のみに
基づいて最適パラメータを決定しているため、複数のブ
ロックが同じような誤った平行移動量を与える場合には
必ずしも正しい結果を与えるとは言えなかった。
【0007】本発明は上記課題を解決するべくなされた
ものであり、回転を含む画像間の位置関係を高速かつ高
精度に求める位置合わせ装置を提供することを目的とす
る。
【0008】
【課題を解決するための手段】上記の課題を解決するた
めに、本発明における位置合わせ装置においては、回転
を含む画像間の位置関係をブロックマッチング処理結果
を統合して求める際に、誤ったブロックマッチング処理
結果をもたらす可能性が高いブロックを排除するブロッ
ク選択手段と、得られたブロックマッチング処理結果を
分類するマッチング結果分類手段と、分類されたグルー
プ毎に対象画像の位置補正量をあらわすパラメータを求
める位置補正パラメータ計算手段と、得られた複数の位
置補正パラメータの中から、原画像を参照して最良の結
果を与える位置補正パラメータを決定する最適位置補正
パラメータ決定手段を備えるように構成する。
【0009】よって、本発明における位置合わせ装置で
は、ブロック選択手段により誤ったブロックマッチング
処理結果を与える可能性が高いブロックを排除するた
め、ブロックマッチング処理によって得られる各ブロッ
クの位置合わせ結果の精度が向上する。さらにマッチン
グ結果分類手段によりブロックマッチング処理結果を、
同じ位置補正パラメータを生じると考えられるグループ
に分類し、各グループ毎に位置補正パラメータ計算手段
によりパラメータを求めることで得られる位置補正パラ
メータの精度を向上させる。また、得られた複数の位置
補正パラメータの中から原画像を参照して最適パラメー
タ決定手段により最適パラメータを決定するため、計算
量が少なくかつ精度の高い位置合わせが可能となる。
【0010】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0011】図1は本発明における位置合わせ装置40
0の構成の例を示すブロック図である。
【0012】図1において、位置合わせ装置400は、
位置合わせの基準となる基準画像をブロックに分割し、
分割した各ブロックの属性情報および位置合わせ適用時
の位置パラメータ候補を求めてブロック属性メモリ40
7に格納するブロック分割手段401と、ブロック属性
メモリ407内の属性情報と画像メモリ108内の画像
情報からブロックの特性値を求め、位置合わせを適用し
た場合に誤った結果を生じる可能性が少ないと判断され
るブロックのみを選択するブロック選択手段402と、
ブロック選択手段402により選択された各ブロックに
おいて画像メモリ108内の基準画像と位置合わせを適
用する対象画像の情報を参照して位置合わせを適用する
ブロックマッチング手段403と、ブロックマッチング
手段403により得られた各ブロックの位置合わせ結果
から、同じ位置補正パラメータから生じたとみなされる
ブロックを同じグループに分類するマッチング結果分類
手段404と、マッチング結果分類手段404により分
類されたグループ毎に位置補正パラメータを求め位置パ
ラメータメモリ408に格納する位置補正パラメータ計
算手段405と、位置パラメータ計算手段405により
計算され位置パラメータメモリ408に格納されている
グループ毎の位置補正パラメータから、基準画像と対象
画像が最もよい重なり状態になる位置補正パラメータを
選択する最適位置補正パラメータ決定手段406と、各
ブロックの属性情報およびマッチングに使用する位置パ
ラメータ候補を格納するブロック属性メモリ407と、
対象画像の位置パラメータの候補および各グループ毎に
求めた位置補正パラメータを格納する位置パラメータメ
モリ408と、位置合わせの基準となる基準画像、位置
合わせを適用する対象画像などの部分画像をはじめとす
る各画像を格納する画像メモリ108と、から構成され
る。
【0013】次に、本発明の動作の概略を説明する。
【0014】本発明における位置合わせ装置400にお
いては、まず、画像メモリ108内の位置合わせの基準
となる基準画像が、ブロック分割手段401によりブロ
ックに分割される。分割された各ブロックの位置などの
属性情報は、位置合わせの適用範囲を示す位置パラメー
タ候補群と共にブロック属性メモリ407に格納され
る。ブロック属性メモリ407内の属性情報に基づい
て、ブロック選択手段402により、ブロックマッチン
グ処理を適用した場合に誤った結果を生成する可能性を
評価する特性値が各ブロック毎に計算され、誤った結果
を生成する可能性の低いブロックのみが選択される。ブ
ロック選択手段402により選択されたブロックには、
ブロックマッチング手段403により平行移動に基づく
位置合わせ処理が適用されブロック毎に基準画像と対象
画像が対応する点が決定されてブロック属性メモリ40
7に格納される。マッチング結果分類手段404は各ブ
ロック毎の位置合わせ処理結果を、同じ位置補正パラメ
ータに基づくものか否かを基準にグループに分類する。
位置補正パラメータ計算手段405は、マッチング結果
分類手段404により分類されたグループ毎に回転量を
含む位置補正パラメータを計算する。得られたグループ
毎の回転量を含む位置補正パラメータの中から、基準画
像と対象画像が最も良好に重なる位置補正パラメータ
を、基準画像と部分画像を参照して最適位置補正パラメ
ータ決定手段406により求める。
【0015】
【実施例】次に、本発明の具体的な実施例について図面
を参照しながら詳細に説明する。
【0016】本発明の位置合わせ装置400の処理の流
れの一例を記した図2を用いて説明を行い、同時に図1
に示した本発明の各構成についても説明を行う。
【0017】以下の説明では位置合わせの基準となる画
像を基準画像451、位置合わせ処理の対象となる画像
を対象画像452と呼ぶ。対象画像452の基準画像座
標系450における初期位置、取り得る位置補正パラメ
ータ候補の集合、および画像属性は予め位置パラメータ
メモリ408に格納されているものとする。これらは通
信手段により外部から読み込むように構成することも可
能である。この構成については、本出願人が以前に出願
した特開平9−218941号公報「画像入力装置」に
詳細が記載されているので、説明を省略する。対象画像
452の初期位置は図3のように基準画像の中心を原点
とする基準画像座標系450において、 (X,Y,θ) (式1) とする。この時、対象画像座標系460における位置
(m,n)に対応する基準画像座標系450における位
置(M,N)は、同次表現を用いて
【0018】
【数1】
【0019】と表現できる。
【0020】なお、画像間には回転、平行移動による変
動のみが含まれており、拡大・縮小やスキューなどは含
まれていないものとする。また、画像の大きさは基準画
像451、対象画像452とも(Sx,Sy)とする
が、これらは説明を簡単にするために設定するものであ
り、本発明における位置合わせ装置の適用範囲をこれに
限定するものではない。対象画像452の位置が本実施
例とは異なる方式で表現される場合や拡大・縮小等のよ
り複雑な変動を含む場合、基準画像451、対象画像4
52の大きさが異なる場合などにも適用可能である。
【0021】位置合わせ装置400は、まず、ブロック
分割手段401により、基準画像451を一定の大きさ
(Bx,By)のブロックに分割し、各ブロックの情報
をブロック属性メモリ407に記憶する。ブロックの大
きさは画像の内容や大きさにより決定されるものである
が、通常320×240画素程度の画像であれば16×
16または8×8程度の大きさで十分である。各ブロッ
クには1から順に重複なく番号がつけられており、i番
目(1≦i≦N)のブロックをブロックiと呼ぶことに
する。これは説明の都合上設定するものであり、各ブロ
ックを指定できるものであればどのようなものでもよ
い。ブロックiの情報はブロックの中心位置454(x
i,yi)、ブロックマッチング処理を適用するか否か
を示すフラグFi、マッチング結果分類手段404によ
る分類結果を示すグループ番号Giから構成される。F
iが0の時はブロックiにブロックマッチング処理は適
用されない。グループ番号Giは、グループを識別でき
るものであればどのようなものでもよく、マッチング適
用フラグFiと兼用することも可能である。この場合
は、ブロックマッチング処理を適用しない場合は0を、
ブロックマッチング処理を適用し、グループに分類され
た場合はそのグループ番号を与えるように構成すればよ
い。また、これら以外にブロックの特性を示す情報を追
加することも可能である。同時に、ブロック分割手段4
01は位置パラメータメモリ408に格納されている位
置パラメータ候補群から、ブロックiが取り得る位置パ
ラメータ候補を設定し、ブロック属性メモリ407に格
納する。すべてのブロックが同じ位置パラメータ候補を
持つように構成することも可能である。
【0022】次に位置合わせ装置400は、ブロックマ
ッチング処理を適用するブロックをブロック選択手段4
02により選択する。これはブロックiが、基準画像4
51と対象画像452の初期位置における重複部に含ま
れ、かつ、ブロックマッチング処理を適用した際に誤っ
た結果を導く可能性が低い場合に、ブロックマッチング
適用フラグFiの値を1にすることで実施する。前者
は、基準画像451と対象画像452の初期の位置関係
から、後者は基準画像451からブロックマッチング処
理の結果と関連の深い特性値から、それぞれ判断可能で
ある。
【0023】まず、ブロックが基準画像451と対象画
像452の初期位置における重複部に含まれるか否かを
判断するための方法を説明する。
【0024】基準画像座標系450における位置(a,
b)を対象画像座標系460において表現した位置
(a’,b’)は、 a’=(a−X)×cos(−θ)−(b−y)×sin(−θ) (式3−1 ) b’=(a−X)×sin(−θ)+(b−y)×cos(−θ) (式3−2 ) により求められる。ブロックiの4隅の基準画像座標系
450における位置は、 左上(xi−Bx÷2,yi−By÷2) (式4−1) 左下(xi−Bx÷2,yi+By÷2) (式4−2) 右下(xi+Bx÷2,yi+By÷2) (式4−3) 右上(xi+Bx÷2,yi−By÷2) (式4−4) として求められる。この4隅の位置を式3により対象画
像座標系460において表現した結果が、いずれも対象
画像452上にある場合はブロックiは重複部に完全に
含まれていると考えることができる。ここでは、基準画
像451、対象画像452とも矩形であるものとして説
明したが、マスク画像を利用したより複雑な形状の画像
に対しても適用可能であり、この場合はブロックiの4
隅の座標の対象画像座標系460における位置が対象画
像452上にあるか否かをマスク画像を参照して判断す
るように構成すればよい。
【0025】次に、ブロックマッチング処理を適用した
際に誤った結果を導く可能性の判断手法について説明す
る。
【0026】本実施例においてはブロックiの分散を基
準画像451を参照して求め、分散があらかじめ設定し
た閾値以下の場合はブロックiにブロックマッチング処
理を適用しても誤った結果を導くものと判断する。図4
はブロックとその濃度分布の例を示したものであり、ブ
ロックB462では画素値が一定の値に集中し、マッチ
ングに有効な画素が少ないことがわかる。このようなブ
ロックにマッチングを適用しても良い結果は得られない
ため、ブロック選択手段402はこのような画素を濃度
分布の分散から判断し、選択対象から外す。なお、分散
以外にも様々な特性値を利用することが可能である。2
値画像ではブロック内に含まれる黒画素の割合を利用可
能である。また「吉田他『動画像の動きベクトルに対す
る信頼度関数とその応用』,電子情報通信学会論文誌D-
II,Vol.J80-D-II,No.5,pp.1192-1201,1997」で提案
されているような、より複雑な特性値を利用することも
可能である。図5はブロック選択の例を示した図であ
り、斜線の引かれていないブロックが選択されたブロッ
クであることを示している。
【0027】なお、上記の説明では、基準画像451と
対象画像452の初期位置における重複部に含まれ、ブ
ロックマッチング処理を適用した際に誤った結果を導く
可能性が低いブロックすべてを選択するものとしたが、
必ずしも条件を満たすブロック全てを選択する必要はな
い。分散などブロックの特性値が高い順に、あらかじめ
決められた数のブロックのみを選択するように構成する
ことも可能である。この時は、ブロックマッチング処理
を実施するブロック数を限定できるため、位置合わせ処
理に要する処理量をさらに削減可能となる。
【0028】ブロック選択手段402により選択された
ブロックの数が2個以上の場合、ステップF04〜07
により選択されたブロックにブロックマッチング処理が
適用され、対象画像452の位置補正パラメータが決定
される(ステップF03)。選択されたブロックの数が
2未満の場合は、回転を含めたパラメータをブロックマ
ッチング処理から決定することはできないため、処理を
終了する。この時、単純に終了するのではなく、すべて
の位置パラメータ候補から形成されるパラメータ空間内
の逐次探索により求める手法など、従来技術を用いて位
置補正パラメータを求めるように構成することも可能で
ある。このような構成では、本発明による位置合わせ装
置を適用できない場合にのみパラメータ空間内の逐次探
索を行うため、複数の画像間に位置合わせを適用する場
合など位置合わせ処理を複数回行う時には、従来のパラ
メータ空間内の全探索を単純に適用する場合よりも処理
効率を向上できるという効果がある。
【0029】選択されたブロックにはブロックマッチン
グ手段403によりブロックマッチング処理が適用され
る(ステップF04)。
【0030】図6はブロックマッチング処理を説明する
ための図である。
【0031】ブロックマッチング処理はブロックi45
3に対応する対象画像452上の位置を求めるために、
ブロック分割手段401が求めた位置パラメータ候補群
を格納したブロック属性メモリ407を参照することに
より、マッチングに利用する対象画像452の平行移動
量成分を求め、ブロックi453の移動範囲である探索
範囲456を設定する。ブロックi453の中心位置4
54を探索範囲456内で移動させて、各位置における
ブロックi453と対象画像452の重なり具合を類似
測度により評価し、最も高い類似測度を与える位置を求
める。この位置がブロックi453と対象画像452と
が最も類似性が高い位置とみなされる。これはテンプレ
ートマッチングとして利用される基本的な画像処理であ
り、「共立出版、bit別冊 『コンピュータ・サイエ
ンス』,エーシーエム・コンピューティング・サーベイ
ズ’92、77〜119頁」、「昭晃堂、『画像処理ハ
ンドブック』、303〜305頁」、「東京大学出版
会、『画像解析ハンドブック』、707〜746頁」に
詳しく紹介されているため詳細は割愛する。なお、マス
ク画像を利用した複雑な形状を持つ画像や回転した画像
との位置合わせでは、辺縁部においてブロックi453
に対応する対象画像452の形状が矩形とならない場合
があるが、このような場合においても発明者が先に提案
した「特願平9−56060、『画像の位置合わせ方
法』」による位置合わせ方法を適用することで、高速に
ブロックマッチング処理を実施可能となる。
【0032】以下、ステップF04におけるブロックマ
ッチング処理の結果、位置454(xi,yi)にある
ブロックi453と、対象画像452上の点455(x
i,yi)が対応するものとする。
【0033】本発明における位置合わせ装置では、ブロ
ック選択手段402によりブロックマッチング処理を適
用した際に、誤った結果を導く可能性が高いブロックを
排除しているが、選択されたブロックにブロックマッチ
ング処理に適用した場合において、画像の特性から実際
の画像変動とは異なるマッチング結果や、誤差の影響に
より誤ったマッチング結果を与える場合がある。このよ
うな影響を排除するために、ブロックマッチング処理に
より得られた結果を分類し、同じ位置補正パラメータを
生成する可能性が高いもの同士を同じグループにまとめ
(ステップF05)、各グループ毎に位置補正パラメー
タを求める(ステップF06)ように構成されている。
【0034】図7(a)は、ブロックを分類する手法を
説明するための図であり、ブロックiとブロックjの関
係を示している。
【0035】ブロックi,jの位置をそれぞれ(xi,
yi)、(xj,yj)、ブロックi、jに対応する対
象画像452上の点の位置をそれぞれ(Xi,Yi)、
(Xj,Yj)、ブロックiからブロックjへのベクト
ルを(dx,dy)、ブロックiに対応する対象画像4
52上の点からブロックjに対応する対象画像452上
の点へのベクトルを(dX,dY)とする。対象画像4
52を、基準画像451と最も良く重なる位置に移動す
る位置補正パラメータは、回転量θ’、平行移動量
(X’,Y’)により、同次表現を用いて、
【0036】
【数2】
【0037】と書ける。
【0038】ブロックiおよびブロックjとそのマッチ
ング結果が式5に従う場合、ブロックiに対応する対象
画像452上の点の位置をブロックiへ移動する変換
は、
【0039】
【数3】
【0040】ブロックjに対応する対象画像452上の
点の位置をブロックjへ移動する変換は、
【0041】
【数4】
【0042】となり、両者の差(dx,dy)は
【0043】
【数5】
【0044】となる。上記式8より、ブロックi、jに
同じ変換を適用した場合にはx方向、y方向それぞれの
差を軸とする平面上において(dx,dy)、(dX,
dY)は、図7(b)のように、同一円周上の回転量
θ’だけ離れた位置に存在することがわかる。回転量
θ’の取り得る範囲および許容する距離の誤差を限定可
能な場合は、(dx,dy)に対する(dX,dY)の
存在範囲も限定可能となる。そこで、ブロックマッチン
グ処理結果より得られる(dX,dY)がこの存在範囲
内に含まれるかどうかで、ブロックi、jにブロックマ
ッチング処理を適用した結果が同じ変換に基づくものか
どうかを判断する。
【0045】回転量θ’の存在範囲は、位置パラメータ
メモリ408内の位置補正パラメータ候補において与え
られる。ここではθ’は0を中心とする、 −Δθ≦θ’≦Δθ (Δθ≧0) (式9) の範囲にあるものとする。また、(dx,dy)、(d
X,dY)と原点との距離の差dの許容範囲を、 −Δr≦d≦Δr (Δr≧0) (式10) とする。これらは説明のために設定するものであり、本
発明における位置合わせ装置を適用する対象によって決
定されるものである。
【0046】この時、(dx,dy)と(dX,dY)
のなす角度dθおよび距離の差drは、それぞれ、
【0047】
【数6】
【0048】となる。dθ、drが、それぞれ、 −Δθ≦dθ≦Δθ (Δθ≧0) (式12) −Δr≦dr≦Δr (Δr≧0) (式13) を満たせば、ブロックi、jにブロックマッチング処理
を適用して得られた結果が同一の位置補正パラメータに
よるものと考え、両者を同一のグループに存在するもの
とみなす。
【0049】この操作を2つのブロックを選択するすべ
ての組合せについて適用することで全体はグループ化さ
れ、同じグループに属するブロックにはブロック属性メ
モリ407内のブロック属性情報のグループ番号Giに
同じ値が与えられる。これにより、ブロックマッチング
処理結果は同一の位置補正パラメータを与えるグループ
に分類される。この過程において、どのグループにも所
属しないブロックは他のブロックとは明らかに異なった
ブロックマッチング処理結果であり、画像の特性から実
際の画像変動とは異なるマッチング結果や、誤差の影響
により誤ったマッチング結果を生じていると考えられ
る。このようなブロックを排除し、全体を同一の位置補
正パラメータを与えるグループに分類することで得られ
る位置補正パラメータの精度を高めているのである。図
8は、マッチング結果分類手段404による分類の例を
示したものであり、各ブロックのブロックマッチング処
理結果(図8(a))が、二つのグループと排除された
ブロックに分類されている(図8(b))。
【0050】なお、上記の説明では、ブロックiとjの
類似性をdθ、drが一定の範囲内に存在するか否かの
2段階で判断しているが、
【0051】
【数7】
【0052】のような評価関数を用いて判断することも
可能である。評価関数が設定された閾値を上回る場合
に、ブロックiとjのブロックマッチング処理結果が同
一の位置補正パラメータより生成されたと考えるのであ
る。評価関数および閾値をどのように設定するかは画像
の特性を考慮して決定される必要があるが、上記の2段
階の評価と比較して、存在範囲の境界付近に存在するブ
ロックに対する判断を柔軟に行えるという特徴がある。
【0053】このようにして得られた各グループから、
位置補正パラメータ計算手段405は、最小二乗法を用
いて対象画像452の位置を補正する位置補正パラメー
タを求める(ステップF06)。
【0054】すなわち、対象画像452の位置補正パラ
メータが上記式5により表現されている場合、θ’、
x’、y’は、ブロックi453に対応する対象画像4
52上の位置455(Xi,Yi)に対して位置補正パ
ラメータを適用した値とブロックi453の位置454
(xi,yi)との差、
【0055】
【数8】
【0056】の大きさの二乗を、同じグループに属する
ブロックについて加算した値を最小にする、すなわち、
【0057】
【数9】
【0058】を満たすθ’、x’、y’として求められ
る。これは、
【0059】
【数10】
【0060】の連立方程式を解くことで求められ、
【0061】
【数11】
【0062】となる。ただし、Σは同じグループに含ま
れるすべてのブロックについての和を示しており、同じ
グループに含まれるブロックの数をKとしている。
【0063】このようにして得られた位置補正パラメー
タは、位置パラメータメモリ408に格納される。この
位置補正パラメータは、対象画像452の基準画像座標
系450における初期位置からの変換を示しており、式
5による初期位置の同次表現に対して、
【0064】
【数12】
【0065】と掛け合わせることで、基準画像座標系4
50における対象画像452のあらたな位置を求められ
る。
【0066】上記ステップF05〜F06により、位置
パラメータメモリ408に格納された複数の位置補正パ
ラメータから、最適位置補正パラメータ決定手段406
により、対象画像452を基準画像451と最も良好に
重ねあわせる位置補正パラメータが決定される(ステッ
プF07)。すなわち、位置補正パラメータを対象画像
452の初期位置に順に適用して対象画像452を移動
した場合の基準画像451と対象画像452の重複部の
類似性を評価し、最も良い類似性を与えた位置補正パラ
メータを最適な位置補正パラメータとするのである。こ
れは、位置パラメータメモリ408内の複数の位置補正
パラメータをパラメータ候補群とする逐次探索による位
置合わせ処理であり、従来の位置合わせ方法を利用可能
である。当然のことながら、本出願人が本発明の出願前
に出願した「特願平9−56060、『画像の位置合わ
せ方法』」による位置合わせ方法を適用することも可能
である。
【0067】このようにして、最適位置補正パラメータ
決定手段406により決定された位置補正パラメータ
が、対象画像452を、基準画像451と最も良く重ね
合せる位置への変換を示しており、基準画像451に対
する対象画像452の位置合わせ処理結果として与えら
れる。
【0068】以上説明したように、本発明における位置
合わせ装置では、平行移動を対象としたブロックマッチ
ング処理結果から、対象画像452の基準画像451に
対する最良の重ね合わせ位置を求める位置合わせ装置
を、ブロック選択手段402によりブロックマッチング
処理を適用した場合に正しい結果を生成する可能性が高
いブロックのみを選択し、選択されたブロックへのブロ
ックマッチング処理適用結果を分類してグループ化する
ことで、誤った結果を得る可能性が高いブロックを排除
し、位置補正パラメータ計算手段405によりグループ
毎に得られる回転を含む位置補正パラメータの精度を向
上させ、かつ、グループ毎に得られる位置補正パラメー
タの中から、最適位置補正パラメータ決定手段406に
より基準画像451と対象画像452が最も良好に重な
る位置補正パラメータを決定する。このような構成によ
り、対象画像452の基準画像451に対する最良の重
ね合わせ位置を、高速かつ高精度に求めることが可能に
なる。
【0069】なお、上記の説明においては、ブロックの
形状はすべて同じ大きさであり、基準画像451を機械
的に分割することで生成していたが、位置合わせの手が
かりを与える特徴として利用可能なエッジ等をまず抽出
し、その特徴点近傍にブロックを設定するように構成す
ることも可能である。このような構成は、ブロック分割
手段401におけるブロック分割処理と、ブロック選択
手段402における正しいブロックマッチング処理を適
用した場合に正しい結果を生成する可能性が高いブロッ
クのみを選択する処理を同時に行っているとみなせる。
このような構成においても、ブロックマッチング処理適
用結果を分類してグループ化することで誤った結果を得
た可能性が高いブロックを排除し、位置補正パラメータ
計算手段405によりグループ毎に得られる回転を含む
位置補正パラメータの精度を向上させ、かつ、グループ
毎に得られる位置補正パラメータの中から、最適位置補
正パラメータ決定手段406により基最適位置補正パラ
メータ決定手段406により基準画像451と対象画像
452が最も良好に重なる位置補正パラメータが決定さ
れるため、本発明の、対象画像452の基準画像451
に対する最良の重ね合わせ位置を、高速かつ高精度に求
めることが可能になるという効果は失われない。
【0070】本発明における画像位置調整方法および位
置合わせ装置は、コンピュータ上にて画像を取り扱う装
置を構成する際に必要となる基本的な処理装置の一つで
あるため、各種の画像処理分野に適用できる。
【0071】以下、その例を示す。
【0072】図9は、本発明の位置合わせ装置を利用し
た合成画像生成装置100の構成例を示す図である。
【0073】図9において、合成画像生成装置100
は、画像の位置調整を行う画像位置調整装置300と、
本発明における位置合わせ装置400を用いて構成され
る位置補正手段200と、部分画像を格納する画像メモ
リ108と、画像メモリ108に格納されている部分画
像の、合成画像座標系における位置および大きさなどの
属性情報を保持する画像属性メモリ109と、ユーザか
らの画像選択指示を画像位置調整装置300に伝える画
像選択ボタン312と、位置調整の対象となる画像の指
定、選択された画像の移動量および方向を決定するため
に画像位置調整装置300にて利用されるポインティン
グ手段313と、ユーザが表示画像の内容を切り替える
ように画像位置調整装置300に伝えるための表示切替
ボタン314と、画像位置調整装置300の出力結果を
表示する表示手段601と、画像メモリ108内の部分
画像を、画像属性メモリ109内の情報に従って合成す
る画像合成手段107と、外部から部分画像を画像メモ
リ108に、部分画像の属性情報を画像属性メモリ10
9にそれぞれ読み込むと共に、画像合成手段107によ
り得られた合成画像を外部装置に伝える通信手段600
と、から構成される。
【0074】図10は、本画像合成装置100における
位置補正手段200の構成の例を示す図である。
【0075】図10において、位置補正手段200は、
本発明における位置合わせ装置400と、基準画像と対
象画像とを選択して位置合わせ装置400に伝える位置
合わせ画像選択手段201と、対象画像の基準画像から
見た位置を求め位置合わせ装置400に伝えるととも
に、位置合わせ装置400の出力結果から対象画像の位
置合わせ後の位置を求める位置パラメータ変換手段20
2と、から構成される。
【0076】合成画像生成装置100では、まず、ユー
ザは通信手段600により外部から部分画像およびその
属性情報を画像メモリ108および画像属性メモリ10
9に読み込む。部分画像には、読み込まれた順番に撮像
番号が付加されているものとする。これは各部分画像を
識別するために利用されるものであればどのような手段
でもかまわない。読み込んだ部分画像は画像位置調整装
置300により表示手段601に表示される。ユーザは
表示手段601に表示された部分画像の位置関係が正し
くなるように、画像位置調整装置300により画像位置
を調整する。手動による画像位置調整が終了した後、位
置合わせ画像選択手段201により対象画像iが、また
対象画像に応じた基準画像jが選択され、位置パラメー
タ変換手段202により対象画像iの位置が基準画像座
標系に変換され、位置合わせ装置400に伝えられる。
位置合わせ装置400は、与えられた情報に基づいて位
置合わせを実行し、基準画像jと対象画像iを最も良く
重ねあわせる位置への、対象画像iの位置を補正する位
置補正パラメータが戻され、位置パラメータ変換手段2
02は、この位置補正パラメータを利用して対象画像i
の新たな基準画像画像座標系における位置を求め、得ら
れた位置を合成画像座標系に改めて変換して画像属性メ
モリ109内の対象画像iの位置を更新する。
【0077】位置合わせ画像選択手段201における基
準画像jの選択方法としては、対象画像の直前の撮像番
号i−1を持つ部分画像を基準画像とする方法、対象画
像との重複部の面積が最も大きい部分画像を基準画像と
する方法などがある。位置補正手段200によるすべて
の部分画像の位置補正処理が終了した後、画像合成手段
107により、画像メモリ108内の画像が、画像属性
メモリ109内の属性情報に従って合成され、画像メモ
リ108に格納される。生成された合成画像は通信手段
600により外部装置に送られる。
【0078】以上のように、本発明における位置合わせ
装置400を利用した合成画像生成装置100において
は、位置合わせ装置400により精密な位置合わせが実
行されるため、ユーザは厳密に画像間の位置調整を行う
必要はなく、画像の特徴量を参照しながら大まかに位置
を合わせるだけで良い。そのため、容易かつ高速に高精
度の位置合わせを実行可能となる。
【0079】また、本出願人は先の特許出願(特願平8
−26350号;特開平9−218941号公報)にお
いて、撮像手段により撮像した対象の部分画像を撮像手
段の移動によって複数取得し、得られた部分画像群から
画像合成処理により合成画像を生成する画像入力装置を
提案したが、本発明の位置合わせ装置は、このような装
置における、ユーザによる画像位置調整や画像の位置合
わせ装置としても勿論利用可能である。
【0080】また、本発明の位置合わせ装置を、一般に
市販されているパーソナルコンピュータ等のコンピュー
タによって実現するためには、例えば、図1の位置合わ
せ装置400の機能をコンピュータが解釈可能なプログ
ラムによって作成し、この作成したプログラムを記録媒
体に記録し、本発明の機能を実現したいコンピュータに
このプログラムを記録した記録媒体を読み込ませばよ
い。
【0081】
【発明の効果】本発明による第1の効果は、本発明にお
ける位置合わせ装置では、平行移動および回転量を含む
画像間の変動を、高精度に求められることである。これ
は、誤ったブロックマッチング処理結果を与える可能性
が高いブロックを排除し、かつ、ブロックマッチング処
理結果を同じ位置パラメータから生じたと考えられる組
に分類して、各組毎に求めたパラメータから最適パラメ
ータを決定するように構成したことによる効果である。
【0082】本発明による第2の効果は、本発明におけ
る位置合わせ装置では、平行移動および回転量を含む画
像間の変動を、高速に求められることである。これは、
正しいブロックマッチング処理結果を与える可能性が高
いブロックのみにブロックマッチング処理を適用するよ
うに構成したことによる効果である。
【図面の簡単な説明】
【図1】本発明による位置合わせ装置の構成例を説明す
るための図である。
【図2】本発明における位置合わせ装置の実施例におけ
る、処理の流れを説明するための図である。
【図3】本発明における位置合わせ装置の実施例におけ
る、用語を説明するための図である。
【図4】本発明における位置合わせ装置の実施例におけ
る、ブロック選択手段における処理を説明するための図
である。
【図5】本発明における位置合わせ装置の実施例におけ
る、ブロック選択手段における処理を説明するための図
である。
【図6】本発明における位置合わせ装置の実施例におけ
る、ブロックマッチング手段における処理を説明するた
めの図である。
【図7】本発明における位置合わせ装置の実施例におけ
る、ブロック分類手段における処理を説明するための図
である。
【図8】本発明における位置合わせ装置の実施例におけ
る、ブロック分類手段における処理を説明するための図
である。
【図9】本発明における画像位置調整装置および位置合
わせ装置を用いた合成画像生成装置の、構成の例を説明
するための図である。
【図10】本発明における画像位置調整装置および位置
合わせ装置を用いた合成画像生成装置の構成要素である
位置補正装置の、構成の例を説明するための図である。
【符号の説明】 400 位置合わせ装置 401 ブロック分割手段 402 ブロック選択手段 403 ブロックマッチング手段 404 マッチング結果分類手段 405 位置補正パラメータ計算手段 406 最適位置補正パラメータ決定手段 407 ブロック属性メモリ 408 位置パラメータメモリ 450 基準画像座標系 451 基準画像 452 対象画像 453 ブロックi 454 ブロックiの中心 455 ブロックiの対応点 456 探索範囲 460 対象画像座標系 461 ブロックA 462 ブロックB

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】基準画像と対象画像との位置関係を、ブロ
    ックマッチング処理を行うことによって求め、前記基準
    画像と前記対象画像との位置合わせを行う位置合わせ装
    置であって、 各ブロック毎のブロックマッチング処理の結果から、同
    様の位置補正パラメータを生じると考えられるブロック
    を同じグループに分類するマッチング結果分類手段と、 前記マッチング結果分類手段によって分類されたグルー
    プ毎に前記対象画像の位置補正パラメータを求める位置
    補正パラメータ計算手段と、 得られた複数の位置補正パラメータの中から、前記基準
    画像と前記対象画像を参照して最良の結果を与える位置
    補正パラメータを決定する最適位置補正パラメータ決定
    手段と、 を少なくとも備えたことを特徴とする位置合わせ装置。
  2. 【請求項2】請求項1に記載の位置合わせ装置であっ
    て、 位置合わせを行った時に誤った結果を生じる可能性が少
    ないブロックを選択するブロック選択手段と、をさらに
    備え、 前記ブロック選択手段で選択されたブロックのみを用い
    てブロックマッチング処理を行うことを特徴とする位置
    合わせ装置。
  3. 【請求項3】画像メモリに蓄積されている基準画像と対
    象画像との位置関係を求め、前記基準画像と前記対象画
    像との位置合わせを行う位置合わせ装置であって、 前記基準画像を複数のブロックに分割し、各ブロックの
    属性情報を第1のメモリに格納させるブロック分割手段
    と、 前記第1のメモリに格納された前記各ブロックの属性情
    報と前記画像メモリとを参照することにより、前記各ブ
    ロックの特性値を求め、位置合わせを行った時に誤った
    結果を生じる可能性が少ないブロックを選択するブロッ
    ク選択手段と、 前記ブロック選択手段で選択されたブロックに対して、
    平行移動に基づく位置合わせ処理を行い、前記選択され
    たブロック毎に前記基準画像と前記対象画像とに対応す
    る点を決定し、この結果を前記第1のメモリに記憶させ
    るブロックマッチング手段と、 前記ブロックマッチング手段により得られた各ブロック
    の位置合わせ結果から、同様の位置補正パラメータを生
    じると思われるブロックを同じグループに分類するマッ
    チング結果分類手段と、 前記マッチング結果分類手段により分類されたグループ
    毎に前記対象画像の位置補正パラメータを求め、第2の
    メモリに格納する位置補正パラメータ計算手段と、 前記第2のメモリに格納されているグループ毎の位置補
    正パラメータから、前記基準画像と前記対象画像が最も
    よい重なり状態になる位置補正パラメータを選択する最
    適位置補正パラメータ決定手段と、 を有することを特徴とする位置合わせ装置。
  4. 【請求項4】前記最適位置補正パラメータ決定手段が、
    前記基準画像と前記対象画像とを参照することにより、
    位置補正パラメータを選択することを特徴とする請求項
    3に記載の位置合わせ装置。
  5. 【請求項5】基準画像と対象画像との位置関係を、ブロ
    ックマッチング処理を行うことよによって求め、前記基
    準画像と前記対象画像との位置合わせを行う位置合わせ
    プログラムを記録したコンピュータが読み取り可能な記
    録媒体であって、 各ブロック毎のブロックマッチング処理の結果から、同
    様の位置補正パラメータを生じると思われるブロックを
    同じグループに分類するマッチング結果分類機能と、 前記マッチング結果分類手段によって分類されたグルー
    プ毎に前記対象画像の位置補正パラメータを求める位置
    補正パラメータ計算機能と、 得られた複数の位置補正パラメータの中から、前記基準
    画像と前記対象画像を参照して最良の結果を与える位置
    補正パラメータを決定する最適位置補正パラメータ決定
    機能と、 を少なくとも備えたことを特徴とする位置合わせプログ
    ラムを記録したコンピュータが読み取り可能な記録媒
    体。
  6. 【請求項6】コンピュータが備える画像メモリに蓄積さ
    れている基準画像と対象画像との位置関係を求め、前記
    基準画像と前記対象画像との位置合わせを行う位置合わ
    せプログラムを記録したコンピュータが読み取り可能な
    記録媒体であって、 前記基準画像を複数のブロックに分割し、各ブロックの
    属性情報をコンピュータに備える第1のメモリに格納さ
    せるブロック分割機能と、 前記第1のメモリに格納された前記各ブロックの属性情
    報と前記画像メモリとを参照することにより、前記各ブ
    ロックの特性値を求め、位置合わせを行った時に誤った
    結果を生じる可能性が少ないブロックを選択するブロッ
    ク選択機能と、 前記ブロック選択手段で選択されたブロックに対して、
    平行移動に基づく位置合わせ処理を行い、前記選択され
    たブロック毎に前記基準画像と前記対象画像とに対応す
    る点を決定し、この結果を前記第1のメモリに記憶させ
    るブロックマッチング機能と、 前記ブロックマッチング手段により得られた各ブロック
    の位置合わせ結果から、同様の位置補正パラメータを生
    じると思われるブロックを同じグループに分類するマッ
    チング結果分類機能と、 前記マッチング結果分類手段により分類されたグループ
    毎に前記対象画像の位置補正パラメータを求め、コンピ
    ュータに備える第2のメモリに格納する位置補正パラメ
    ータ計算機能と、 前記第2のメモリに格納されているグループ毎の位置補
    正パラメータから、前記基準画像と前記対象画像が最も
    よい重なり状態になる位置補正パラメータを選択する最
    適位置補正パラメータ決定機能と、 を有することを特徴とする位置合わせプログラムを記録
    したコンピュータが読み取り可能な記録媒体。
JP9244972A 1997-09-10 1997-09-10 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体 Expired - Fee Related JP3006560B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP9244972A JP3006560B2 (ja) 1997-09-10 1997-09-10 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP9244972A JP3006560B2 (ja) 1997-09-10 1997-09-10 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JPH1186003A true JPH1186003A (ja) 1999-03-30
JP3006560B2 JP3006560B2 (ja) 2000-02-07

Family

ID=17126698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP9244972A Expired - Fee Related JP3006560B2 (ja) 1997-09-10 1997-09-10 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP3006560B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009522892A (ja) * 2006-01-06 2009-06-11 インターナショナル・ビジネス・マシーンズ・コーポレーション 視覚信号の補外または補間のためのシステムおよび方法
JP2010019558A (ja) * 2008-07-08 2010-01-28 J-Net:Kk 測定位置設定装置
US7773828B2 (en) 2005-01-13 2010-08-10 Olympus Imaging Corp. Method and device for stabilizing an image by applying an affine transform based on a weighted average of motion vectors
US7817185B2 (en) 2006-06-14 2010-10-19 Sony Corporation Image processing device, image processing method, image pickup device, and image pickup method for superimposing a plurality of pictures on each other
JP2012208025A (ja) * 2011-03-30 2012-10-25 Dainippon Screen Mfg Co Ltd 検査装置、プログラム及び画像の位置合わせ方法
JP2013508849A (ja) * 2009-10-22 2013-03-07 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 標本からの画像の順位付けされたスタックの整列
US8731327B2 (en) 2010-09-03 2014-05-20 Pentax Ricoh Imaging Company, Ltd. Image processing system and image processing method
JP2015041802A (ja) * 2013-08-20 2015-03-02 キヤノン株式会社 画像処理装置、画像処理方法、及びコンピュータプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7773828B2 (en) 2005-01-13 2010-08-10 Olympus Imaging Corp. Method and device for stabilizing an image by applying an affine transform based on a weighted average of motion vectors
JP2009522892A (ja) * 2006-01-06 2009-06-11 インターナショナル・ビジネス・マシーンズ・コーポレーション 視覚信号の補外または補間のためのシステムおよび方法
US7817185B2 (en) 2006-06-14 2010-10-19 Sony Corporation Image processing device, image processing method, image pickup device, and image pickup method for superimposing a plurality of pictures on each other
JP2010019558A (ja) * 2008-07-08 2010-01-28 J-Net:Kk 測定位置設定装置
JP2013508849A (ja) * 2009-10-22 2013-03-07 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 標本からの画像の順位付けされたスタックの整列
US8731327B2 (en) 2010-09-03 2014-05-20 Pentax Ricoh Imaging Company, Ltd. Image processing system and image processing method
JP2012208025A (ja) * 2011-03-30 2012-10-25 Dainippon Screen Mfg Co Ltd 検査装置、プログラム及び画像の位置合わせ方法
JP2015041802A (ja) * 2013-08-20 2015-03-02 キヤノン株式会社 画像処理装置、画像処理方法、及びコンピュータプログラム

Also Published As

Publication number Publication date
JP3006560B2 (ja) 2000-02-07

Similar Documents

Publication Publication Date Title
US10334168B2 (en) Threshold determination in a RANSAC algorithm
US6834250B2 (en) Position and orientation determining method and apparatus and storage medium
US5680150A (en) Image processing method and apparatus
JP5830546B2 (ja) 対象物のモデル変換に基づくモデルパラメータの決定
JP3841321B2 (ja) 画像レジストレーション方法
US11568601B2 (en) Real-time hand modeling and tracking using convolution models
CN109919971B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
US20220392201A1 (en) Image feature matching method and related apparatus, device and storage medium
EP3093822B1 (en) Displaying a target object imaged in a moving picture
US20230394766A1 (en) Server, method and computer program for generating spatial model from panoramic image
CN113674146A (zh) 图像超分辨率
JP3006560B2 (ja) 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体
WO2022198969A1 (zh) 印章文本识别方法、装置、设备及计算机可读存储介质
CN112102404B (zh) 物体检测追踪方法、装置及头戴显示设备
KR100362171B1 (ko) 영상 특징점 매칭을 이용한 변환 행렬 추정 장치, 방법 및 그 기록매체와 그를 이용한 모자이크 영상 생성 장치, 방법 및 그 기록매체
US6625332B1 (en) Computer-implemented image registration
CN116485902A (zh) 标志点匹配方法、装置、计算机设备和存储介质
CN113643328B (zh) 标定物的重建方法、装置、电子设备及计算机可读介质
CN115375884A (zh) 自由视点合成的模型生成方法、图像绘制方法及电子设备
JP3452188B2 (ja) 2次元動画像中の特徴点の追跡方法
JP6315542B2 (ja) 画像生成装置及び画像生成方法
CN112615993A (zh) 深度信息获取方法、双目摄像模组、存储介质及电子设备
JP6384961B2 (ja) カメラキャリブレーション装置、カメラキャリブレーション方法、カメラキャリブレーションプログラム及び記録媒体
CN117372604B (zh) 一种3d人脸模型生成方法、装置、设备及可读存储介质
WO2023189195A1 (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19991026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071126

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081126

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081126

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091126

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091126

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101126

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111126

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111126

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121126

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121126

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131126

Year of fee payment: 14

LAPS Cancellation because of no payment of annual fees