JPH0934875A - 準最適割当決定方法 - Google Patents

準最適割当決定方法

Info

Publication number
JPH0934875A
JPH0934875A JP13506496A JP13506496A JPH0934875A JP H0934875 A JPH0934875 A JP H0934875A JP 13506496 A JP13506496 A JP 13506496A JP 13506496 A JP13506496 A JP 13506496A JP H0934875 A JPH0934875 A JP H0934875A
Authority
JP
Japan
Prior art keywords
cost
solution
allocation
optimal
elements
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP13506496A
Other languages
English (en)
Other versions
JP3152279B2 (ja
Inventor
Kotsukusu Ingemaa
コックス インゲマー
Miraa Mashiyuu
ミラー マシュー
Sutoon Harorudo
ストーン ハロルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPH0934875A publication Critical patent/JPH0934875A/ja
Application granted granted Critical
Publication of JP3152279B2 publication Critical patent/JP3152279B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/196Recognition using electronic means using sequential comparisons of the image signals with a plurality of references
    • G06V30/1983Syntactic or structural pattern recognition, e.g. symbolic string recognition
    • G06V30/1988Graph matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Operations Research (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Algebra (AREA)
  • Computational Mathematics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Multimedia (AREA)
  • Pure & Applied Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Complex Calculations (AREA)

Abstract

(57)【要約】 (修正有) 【課題】 多重目標追跡、最大流整合、要素の第1の集
合と第2の集合の結合が最小の費用になるような要素の
整合におけるデータ結合などを含む、2部グラフ整合問
題に対する整合度順の解の集合をコンピュータを用いて
決定する方法。 【解決手段】 本発明による方法の特徴は、ほとんどの
可能解がより小さな部分問題に含まれるように部分問題
に分割し、最適解を探すために、最も小さい部分問題を
解く計算から始めることである。

Description

【発明の詳細な説明】
【0001】発明の属する技術分野本発明は第1の集合
の要素と第2の集合の要素とを費用が最小になるよう
に、最適に連結する場合において、多重目標の追跡、最
大流整合、或いはデータ結合に含まれる2部グラフ整合
問題の解の集合の順位づけをコンピュータを用いて決定
する方法に関する。
【0002】実際に用いる最終的に選択される解に最小
の費用または最大の効率以外の因子が存在する場合、割
当問題の第k最適解を順序づけることが重要である。例
えば、2部グラフでは表現できないようなより好ましい
制約が他にあるために、より費用が高い、あるいはより
効率が悪い解を採用しようとする者もいるかもしれな
い。そうした場合に準最適解の知識が有用である。本発
明はまた、上記の方法をプログラムとして格納したコン
ピュータを作動させる製品にも関する。
【0003】従来の技術2部グラフにおけるデータ結合
問題は、動作一致問題、最大流問題とも呼ばれ、広く研
究されている。
【0004】こうした問題の1つの例としては、一連の
映像の中の異なる時刻の2場面における特定の動作の特
徴を最適に整合させるような問題である。別の例として
は、従業員と機械の最適な割当を求める問題があり、こ
の問題では、従業員それぞれの技術に差があるので、丁
度よい割当を与えることが重要になる。
【0005】動作一致では、2つのアルゴリズムがよく
用いられている。ひとつは多重仮説フィルタを用いたも
のであり、他方は確率連結データ結合フィルタを用いた
ものである。2つのアルゴリズムは概念が全く異なる
が、どちらもあいまい性行列の合理的な割当をすべて列
挙する必要がある。あいまい性行列は現在の状況のあい
まい性を簡明に表現する。あいまい性行列の列はトラッ
クが存在することを意味し、行は特定の反復のメジャー
メントを意味する。i行j列が0ではないということ
は、メジャーメントzi がトラックyj を有効にするこ
とを示している。目標に対するメジャーメントの合理的
な割当は、 (1)メジャーメントは単一の目標源からしか生じない
(しばしば単一性の制約と呼ばれる)。 (2)ひとつの目標は1サイクル当たり1つのメジャー
メントしか生じない。という制約を満たさなければなら
ない。これらの制約は合理的な割当を要求し、あいまい
性行列として表現されるが、どの行及び列のいずれか一
方または両方にも1つしか0以外は入らない。
【0006】それぞれの割当は仮説とも呼ばれ、費用と
関係があり、後の計算に用いられる。合理的な仮説の集
合の列挙は直進的であり、NP困難でもある。それゆえ
にすべての合理的な仮説の完全な列挙は計算不可能であ
ることがはっきりしている。しかし、そうした仮説の多
くは可能性が非常に小さい。こうしたことが経験的に分
かっているので、何人かの研究者は可能性が高く、比較
的少ない仮説が検証されるアルゴリズムである、多重目
標の追跡のアルゴリズムに近いものを研究している。
【0007】航空宇宙電子システムに関するIEEEの
報告書32(1)486−489(1995年)で発表
された早期の論文で、コックスとミラーは、オペレーシ
ョンズリサーチ 16:682−687(1968年)
にケー・ジー・マーティが発表した「増加する費用の順
に全ての割当を順序づけるためのアルゴリズム」という
題の本文中で参照している論文で述べられたアルゴリズ
ムを用い、多重仮説追跡アルゴリズムの第k最適仮説は
最悪の場合の時間でO(N4 )以内に効率的に生成でき
ることを示した。図1は線形割当問題P0 の第k最適解
をマーティの方法で求めるための疑似コードを示してい
る。問題は2部グラフで表され、3つの数の組<y,
z,l>で表現される。多重目標の追跡を適用すると、
yはそれぞれ仮定された目標を表し、zはそれぞれメジ
ャーメントを表し、lはzがyのメジャーメントとなる
負のログ状である。こうした割当問題の解Sはそれぞれ
のyとそれぞれのzが正確に一度現れる3つの数の並び
である。解の費用は3つの数の組の中のlの合計値であ
る。第k最適解は第k最小費用である解である。
【0008】後述のように、P0 に対するひとつの最適
解は割当問題の古典的な解法を使って求めることができ
る。P0 に対して続く解は、分割というプロセスを経て
0から作られる一連の割当問題を解くことで求めるこ
とができる。このプロセスは上記のケー・ジー・マーテ
ィの論文で初めて述べられており、要約すると以下のよ
うになる。
【0009】最適解S、大きさnの問題Pが部分問題P
0 ´,P1 ´,P2 ´,・・・Pn´に分割され、次の
ようになる。 1. P0 ´からPn ´の可能解の集合の和は正確にP
の可能解の集合から最適解Sを除いたものである。 2. P0 ´からPn ´の可能解の集合は互いに素であ
る。
【0010】部分問題Pi ´を作るには、Pをコピーし
てSのm番目の3つの数の組<yi,zm ,l>をPか
ら除く。するとPt ´の解は<yi ,zm ,l>を含ま
なくなり、SはPi ´の解ではなくなる。次に、部分問
題Pi+1 からPn ´を作る前に、<yi ,zm ,l>が
それらの部分問題の解になるようにする。そうするため
に、<yj ,zh ,l>,h≠mと<yh ,zm ,l
>,h≠jであるすべての3つの数の組をPから除く。
この変形したすべての可能解は<yj ,zm ,l>を含
んでいなければならないので、h>lであるすべての部
分問題Ph ´の可能解の集合はPi ´の可能解の集合と
互いに素である。
【0011】P0 を最適解S0 に従って分割し、部分問
題とその最適解を問題と解の対である優先待ち行列に置
換する。そうして最適解を有する待ち行列の中に問題P
を見つける。この問題Pの解はP0 の2番目に最適な解
である。そうして待ち行列からPを除き、分割で置換す
る。2番目に最適な解の待ち行列を求める行為の中で求
められた最適解はP0 の3番目に最適な解であり、以下
同様に続く。
【0012】マーティのアルゴリズムで鍵となる計算は
最小費用割当の決定である。本発明の方法が提供する最
適化のほとんどは最小費用割当アルゴリズムの中で用い
られる数値に依存する。そのため、そうした割当に有利
なアルゴリズムの重要な様相について検討することが必
要である。このアルゴリズム(JV)はアール・ジョン
カーとエー・ボルゲノートがコンピューティングvol
38,325−340ページ(1987年)に「稠密な
線形割当問題と分散的な線形割当問題の最短絡経路アル
ゴリズム」と題して発表した論文に完全に述べられてお
り、この論文は本文でも引用されている。
【0013】ほとんどの割当問題アルゴリズムと同様に
JVアルゴリズムは線形計画法を基礎としている。この
特徴が最もよく表われるのは、問題が費用の配列cで表
現されるような場合であり、c[i,j]はyj に対す
るzi を割り当てたときの費用である。この表現による
解はzi とyj が割り当てられているときx[i,j]
は1であり、互いが割り当てられていないときx[i,
j]は0であるようなx[i,j]による行列xであ
る。線形計画問題は、
【0014】
【数1】 双対問題は
【0015】
【数2】 ここでuとvはzとyそれぞれの2変数である。差c
[i,j]−u[i]−v[j]はzi とyj のスラッ
クと呼ばれる。
【0016】JVアルゴリズムの基本的な概要は次の通
りである。 1. 問題の部分的な解をつくり、2変数を初期化する
ための計算が簡単な処理を用いる。 2. 現在の部分的な解が不完全であるとき(全てのz
がyに割り当てられていないとき) 2.1 「追加」と呼ばれる処理で解に新しい割当を1
つ加える。 2.2 2変数を調節する。
【0017】様々なアルゴリズムがこれと同じか非常に
近い基本的な概要をもつアルゴリズムとして分類され、
「最短増加経路」アルゴリズムと呼ばれる。これらのア
ルゴリズムは1,2.1,2.2のステップをどのよう
に用いているかによって相互に区別されるが、幸いに
も、マーティの方法の最適化ではこれらのステップは重
要ではない。目的のために重要なJVアルゴリズムと他
の最短増加経路アルゴリズムの特性は2つしかない。
【0018】第1の特性は、初期化ステップ(ステップ
1)が下記の2つの基準、即ち、 1. x[i,j]=1であるようなすべてのi,jに
対して、c[i,j]=u[i]+v[j]が成立す
る。 2. x[i,j]=0であるようなすべてのi,jに
対して、c[i,j]≧u[i]+v[j]が成立す
る。を満たすような部分割当x、2変数u,vの初期値
に与える限り、ステップ2のループは最適解を見つけら
れることが保証されていることである。ここで部分解と
これらの基準を満たす2変数の値の集合を増加ループ
(ステップ2)の「有効初期設定」と呼ぶ。
【0019】第2の重要な特性は、zとyを互いに割り
当てたときの最適解の費用を予測する際に、どのzとy
の間のスラックも有用であるということである。割り当
てられていないzi とyj の部分解の費用の現在の下限
値をCとすると、yj にziを割り当てた最適解の費用
は少なくともC+c[i,j]−u[i]−v[j]に
なるだろう。c[i,j]−u[i]−v[j]の大き
さはzi とyj の間のスラックなので、新しい下限値は
部分解の最小のスラックを見つける事で計算できる。
【0020】JVアルゴリズムはyとzの数が等しい問
題にのみ働き、常に完全な割当を与える。しかし、典型
的な多重仮説追跡アルゴリズムの全体的な適用を考慮す
ると、一般にyとzの数が異なる割当問題があり、yま
たはzを割り当てずに残す場合に関係した費用がある。
それぞれの目標yには、与えられた走査で見失われる有
限の可能性があり、それぞれのメジャーメントzには、
誤った警告である有限の可能性がある。yとzの数が異
なる問題は簡単な方法で完全な割当問題に変換できる。
j を割り当てずに残した場合の費用を表現するために
用いられるダミーノードz-jが各yj に対して導入され
る。問題が3つの数の組<yj ,z-j,l>を含むと
き、割り当てられていないyj を除いた費用はlであ
る。同様に、各zi に対してダミーノードy-iを導入す
る。こうすると、yとzの数が等しい場合の問題を得る
ことができる。
【0021】しかし、この新しい問題の唯一の解は、す
べてのyとzを割り当てないままにしている。正確にい
えば、各yj をz-jに、各zi をy-iに割り当ててい
る。他のすべての解は完全ではないので、もしyj がz
i に割り当てられたのならば、y-jとz-iは割り当てら
れることはできない。このためJVアルゴリズムはダミ
ーノードであるか否かを問わず全てのノードに対する割
当を探索する。これを避けるため、問題中に表われるそ
れぞれの3つの数の組<yj ,zi ,l>に対して、費
用がゼロの3つの数の組<y-j,z-i,l>を導入す
る。こうすればyjをzi に割り当てるとき、解の費用
に影響を与えないでy-jをz-iに割り当てることができ
る。
【0022】すべての解のダミーノードとマーティのア
ルゴリズムで分割する前に、問題に対する全ての解から
ダミーノード間のゼロ費用の割当を除くことは重要なこ
とであり、注意しなければならない。そうしないと、多
くの「次善の」解は、費用がゼロの割当とダミーノード
の間の順序が単に異なるだけということになってしま
う。
【0023】図1に示したように、マーティの方法は割
当問題を解くために選ばれるアルゴリズムと独立してい
る。実際にマーティのアルゴリズムは、最適な割当を見
つけるルーチンを、別の問題を解くルーチンと単に置き
換えることによって、全体的に異なるグラフ問題の大き
なクラスの第k最適解を見つけるために用いることがで
きる。マーティの方法を用いたとき、本文で述べた最適
化によれば平均的な場合と最悪の場合のどちらの実行時
間も劇的に改善される。
【0024】発明の簡単な説明 本発明は、一般的には前述したJVアルゴリズムのよう
な最短経路アルゴリズムによって問題に対する最適解S
0 が最初に求められた後、第k最適解を見つけるマーテ
ィの方法を改善する。
【0025】さらに、マーティの方法に従って問題を分
割したとき、部分問題に対する最適解の費用の下限値を
簡単に定めることができる。これらの下限値を用いれ
ば、望ましい次善の結果が得られる見込みのない部分問
題を解かずに済ませることができる。与えられた問題P
を分割した部分問題がP自身の解より適した解を持たな
いことは明解である。それゆえに、Pの解の費用Cはそ
れぞれの部分問題に対する最適解の費用の初期の下限値
であり、問題のより正確な下限値は、適当な3つの数の
組の移動の後のすべての2者択一の割当の最小スラック
によって導かれる。
【0026】問題の継続的な解を計算するとき、解を求
めて分割する部分問題の平均の規模は小さくなる。問題
の規模が小さくなると、継続的な解を求めるために必要
な時間は短くなる。分割を実行する命令を上手く選ぶ
と、計算時間は劇的に短くなる。
【0027】特に、<y,z,l>の3つの数の組が分
割するときに使う命令を変えると、通常ならば大きな問
題の方が最適解を含みやすい、という確率分布をとると
ころを、小さな問題の方が最適解を含みやすい、という
確率分布に劇的に変化させ得ることが分かる。本発明は
この発見に基づく。それぞれの反復の初期においては、
Sの3つの数の組でまだ使われていないものの集合を試
験する。3つの数の組それぞれにおいて、問題を分割し
て部分問題とし、その最適解の費用の下限値を計算す
る。この下限値は従来の最適化と同じ方法で計算でき
る。そのため、下限値が最大の3つの数の組を次の部分
問題をつくるために用いるものとして選ぶ。この方法を
用いると、最大の問題が最悪の解をことが確実になる結
果になる。最大の問題は最大の数の割り当てられていな
いアークを持つが、最大の問題は最大の下限値を持つの
で、完全に解かなくても放棄することができる。
【0028】次に大きい部分問題が作られ、この部分問
題は次に悪い解を持つ結果となる、といったことを最小
の問題まで行うが、最小の問題は妥当な可能性で最適解
を持つ。それゆえに、最適解を求める最小の問題を元に
計算を始める。
【0029】このアルゴリズムは例えば、磁気ディス
ク、読みだし専用の半導体チップなどの記憶装置に磁気
的あるいは電気的な印加のパターンとして格納され、求
めようとするデータ結合や、与えられた入力集合の割当
の順位づけを計算する適当なコンピュータに命令すると
きに用いる。
【0030】特に、本発明はコンピュータ画像で映像の
場面間で特徴となる動作をする2つの画像を整合させる
ときに用いる。この例では、あいまい性行列は第1の場
面からのメジャーメントの集合を表す列と第2の場面か
らのメジャーメントの集合を表す列を含み、行列への入
力は入力の行と列によって表される2つの点集合の間の
距離を表す。
【0031】代わりになるものとして、行列の行と列は
作業者と作業を表し、入力は該当する作業者と該当する
作業の結合の費用を表す。
【0032】発明の詳細な説明 図1は発明の属する技術分野に関連して既に説明されて
いるのでこれ以上の説明は要しない。さらに付随的に、
最適解の最小費用割当を見い出だすためのJVアルゴリ
ズムについても述べている。
【0033】前述したように、問題がマーティの方法に
より分割されたとき、最適解を求めるために既に相当の
作業が行われている。この計算は、分割による部分問題
の最適解を見つけるとき活用される。
【0034】費用行列c、解行列x、2変数uとvによ
り表現された分割問題を考えてみる。図1のステップ
4.3のループを繰り返し行っている間、新しい部分問
題P´が費用行列c´によって関連づけられている。コ
ピーした問題からアーク<yj,zi ,l>を除くこと
(ステップ4.3.2)はc´[i,j]を無限大にす
ることに等しいので、行列の無限大の費用の項目は決し
て最適解の一部にはならない。いまx´=x,u´=
u,v´=vとし、x´[i,j]=0とすれば、x
´,u´,v´はP´を解くための有効初期設定を形成
する。そのため、JVアルゴリズムの初期化ステップを
省略することができ、問題において割り当てるために残
された只ひとつのアークをもつ増加ループに直接進むこ
とができる。
【0035】この最適化の真価は、元となる割当問題の
第1の解を発見した後、各新しい部分問題に対して、一
回以上増加ステップを実行しなくてもよいことである。
最悪の場合、JVアルゴリズムの増加ステップはO(N
2 )の時間を要し、マーティのアルゴリズムによる最悪
ケース時間はO(kN3 )に減らすことができる。
【0036】さらに、問題を分割したとき、部分問題の
最適解の費用の下限値を簡単に定めることができる。こ
れらの下限値を用いると、次善の結果を導かないような
部分問題は解かずに済ませることができる。与えられた
問題Pを分割した部分問題はP自身の解よりもよい最適
解を持たない。それゆえに、Pの解の費用Cは部分問題
に対する費用の最適解の初期下限値である。
【0037】より役に立つのは、Pのコピーから3つの
数の組<yj ,zi ,l>を除いて独立した問題P´を
つくるとき、zi に対する全ての2者択一の割当の最小
スラックを求め、Cにスラックを加えることでより正確
な下限値を計算できることである。疑似コードにする
と、次のようになる。
【0038】
【数3】 P´に対する最適解の費用はC´より小さくならない。
【0039】これらの費用限界を用いるマーティの方法
の性能を改善するために、優先待ち行列を問題と解の組
の待ち行列から<問題、部分解、費用下限値>の3つの
数の組の待ち行列に変える。問題が分割によって生成さ
れたとき、最適解を見つける前に待ち行列の中に定めら
れる。待ち行列は下限値でソートされて、待ち行列の先
頭の問題は最適解を持つ可能性が最も高い。
【0040】待ち行列に関して完全な最適解を持つ問題
を見つけるために、待ち行列の先頭の問題Pの除去から
開始される。もし、Pがまだ解かれていないならば、最
適解Sに加えて最適解の費用Cを求め、待ち行列上の<
P,S,C>を代入する。そうすると、もし費用の下限
値がPに対する最適解の実際の費用よりもよいならば、
他の問題が待ち行列の前に移動する機会を得るような点
で待ち行列は再びソートされる。時間内のどの点におい
ても、待ち行列は完全な第k最適解と、まだ解かれてお
らず、第k最適解よりよい下限値のすべての部分問題を
含む。先頭からk個の問題が解けるまで、部分問題に展
開する過程を繰り返す。これらは第k最適解である。一
般に、このアルゴリズムは下限値を調べて問題を除去す
るので、待ち行列に定められた全ての問題に対して完全
な解を与えられるわけではない。
【0041】この最適化は、最悪の場合におけるアルゴ
リズムのパフォーマンスに影響しないので、最適解を見
つける前に待ち行列の全ての問題を解いてしまうかもし
れない。しかし、平均的な場合においては、解かなけれ
ばならない多くの問題が実質的に減少することが分か
る。
【0042】問題に対して継続的に解を計算しているの
で、解かれ、かつ、分解される部分問題の平均的な大き
さは小さくなる。問題の大きさが小さくなると、継続的
な解を見つけるために要する時間が短くなる。分割を実
行する順序を注意深く選べば、計算時間を劇的に短くす
ることができる。
【0043】問題の大きさが小さくなる理由を理解する
ためには、図1のステップ4のループの最初の2回の繰
り返しをよく考えるとよい。P0 が分割されると、つく
られたそれぞれの部分問題は継続的なより数の少ないノ
ードを含む。第1の問題は元の問題P0 と同じ数の割り
当てられていないアークをもち、第2の問題はyが1つ
少なくなり、zが1つ少なくなる。そのため、ループの
1回目の繰り返しの後、優先待ち行列は大きさが2×2
からP0 の元の大きさまで変化する問題を含む。
【0044】そうして、ループの2回目の繰り返しの始
めに、待ち行列の先頭の問題はどのような大きさにもな
り得る。与えられた部分問題が最適解を含む確率がどの
部分問題も同じとすると、ループの2回目の繰り返しの
とき、先頭の問題はP0 のノードの半分のたくさんのノ
ードをもつことになる。しかし、確率は均等に分布しな
い。大きな問題は小さな問題よりも多くの可能解を持
ち、大きな問題は最適解を含む可能性が高い。
【0045】大きさの異なる部分問題が最適解を持つ可
能性を解析的に決定することは困難なので、経験的に問
題を研究した。図2は部分問題の大きさで分けた最適解
を持つ頻度のヒストグラムである。100×100の大
きさの稠密な割当問題10,000個を分割し、得たす
べての部分問題の最小費用解を求めた実験の結果を表し
ている。そうして100×100の大きさの部分問題が
最適解を持つ回数、99×99の大きさの部分問題が最
適解を持つ回数、という具合に数え上げた。得たヒスト
グラムによると、大きな問題の方が最適解を持つ可能性
が高く、ループの2回目の繰り返しで先頭にある問題の
大きさは、主題となる問題P0 の大きさではないことが
明示されている。
【0046】しかし、3つの数の組<y,z,l>を用
いた分割の順序を変更すると、この確率分布は劇的に変
化するので、小さい問題の方が最適解を含みやすくな
る。ループ4.3の繰り返しの始めにおいて、まだ用い
られていないSの3つの数の組<y,z,l>の集合を
考察する。それぞれの3つの数の組に対して、分割して
得た部分問題の最適解の費用の下限値を計算する。この
下限値は前述した最適化と同様の方法で計算できる。そ
うして、次の部分問題を導くため、最も高い下限値を得
る3つ組の数を選ぶ。この変更を加えたヒストグラムを
図3に示す。図4から図7は本発明により第k最適解を
求める方法のフローチャートである。これらのフローチ
ャートはマーティのアルゴリズムに前述の様々な最適化
を加えたものを表している。特に、ステップ10からス
テップ120はマーティのアルゴリズムに先行技術によ
る2つの最適化のうち第1の最適化を加えたものとそれ
に続くステップを表しており、最適化した順序による分
割を含み、本発明の新規な特徴を表す。最初に、このア
ルゴリズムは初期割当問題P0を生成し、解S0、費用
C0、2変数U0とV0を得る。2変数によって続く問
題を効率よく求めることができる。また、2変数は実際
の解について下限値を与えている。このため、第k最適
解の解を求める部分問題の計算を集中的に行うために使
用できる。結果として、2変数を用いることにより、新
たに生成された部分問題の解を見つける労力を大きく低
減することができる。
【0047】ステップ10において、このアルゴリズム
によって<P0,S0,U0,V0>で表される最初の
問題を解き、ステップ20において優先待ち行列の単一
の要素としてその解が蓄積される。次の項目が待ち行列
内に配置されると、部分問題の予測された費用に基づく
優先度に従って配列される。解を待つ部分問題に対し
て、予測された費用C´は費用の下限値であり、その費
用は後述するようにして得られる。完全に解かれた部分
問題では、予測された費用Cは部分問題の実際の費用で
ある。
【0048】吟味のために、項目が待ち行列から除かれ
ると、最低予測費用から始まる優先順位に従って、即
ち、予測費用の順位で、項目が除去される。第k最適解
を見つけるため、待ち行列から1回につき1つの項目を
除く。もし最初に除いたときに問題が完全に解けなけれ
ば、問題を解いて実際の費用から決められる待ち行列上
の位置に戻される。
【0049】待ち行列から除いた項目が完全に解かれた
問題のとき、アルゴリズムは次善の解になるものを示
し、特定の値のkに対する第k最適解が見い出された時
に停止する。
【0050】次善の解として待ち行列より除かれた完全
に解かれた問題から、アルゴリズムは第k最適解の間に
含まれる解かれていない部分問題を新しく数個生成す
る。これら解がれていない部分問題は、予測された費用
の順序の待ち行列上に配置される。本発明の特徴はこれ
らの部分問題をどうやって生成するかとこれらの部分問
題は何かということにある。
【0051】得られる次の完全な解の数はフローチャー
トの変数iで示される。ステップ30において、このル
ープの最初の繰り返しの間、変数iはアルゴリズムが最
初の完全な解を探していることを示す値1に初期化され
る。
【0052】ステップ40の状態はまだ作業が残ってい
るときトルーであり、作業が残っていないときフォール
スである。判断ボックスからフォールスが出力されると
アルゴリズムは終了する。
【0053】より多くの作業が残っている場合、次に行
う動作は待ち行列の最小費用の項目が完全に解決してい
るか否かで決まる。待ち行列の先頭の構造が完全な解を
含んでおらず、先頭の構造(残ったなかで最も小さい、
予測された費用をもつ部分問題)が下限値のみを含むよ
うな部分問題を示しているのであれば、ステップ50の
テストはトルーである。もし、トルーならば、ステップ
60において、アルゴリズムは待ち行列からこの部分問
題を除く。ステップ70において、実際の費用を得るた
めに問題を解き、ステップ80において、優先順位によ
り待ち行列で求めた解を定める。ステップ80以降にお
いて、アルゴリズムはステップ50に戻り、現在待ち行
列の先頭にある項目を検証する。このループは待ち行列
から、完全に解かれた部分問題が除かれるまで続く。完
全に解いた問題が見つかると、フローチャートの点Aに
処理を移行する。
【0054】点Aにおいて、待ち行列の先頭におかれた
解は第i最適解である。ステップ100において、この
解を待ち行列から除き、ステップ110において解答の
リストに付け加える。この解から、アルゴリズムは多数
の未解決の候補問題を生成し、その問題の解には第k最
適解を含んでいてもよい。一般的に、各解はその解中に
存在するアークを含む場合と、あえてアークが存在しな
い場合とがある。後者のアークは「分割できる」アーク
である。部分問題中の分割できるアークを分けることに
よって、それぞれの部分問題に分割され、アルゴリズム
は第i最適解中の分割できるアークに対する新しい部分
問題を生成する。
【0055】ステップ120の処理において、分割でき
るアークに接続されたノードzを数えて分割できるアー
クの数を数える。この値を変数Nに保存する。以下のル
ープにおいて、アルゴリズムはN個の部分問題を生成す
る。各部分問題において、N個の分割できるアークのひ
とつが問題文から除かれ、問題の解の中のアークではな
くなる。各部分問題の費用は部分問題に分けられるアー
クを使用できる問題の費用よりも低くなる。最適化のた
めに、この点で作られたN個の部分問題は小さくそして
複雑になる。もしアーク(y,z)が部分問題rに分割
されたとすると、アークは部分問題r+1,r+
2,...,Nの解に含まれることになる。アークが特
定の部分問題の解に含まれると、部分問題が定めるアー
クは少なくなり、特定の部分問題の解に含まれるアーク
をもたない部分問題よりも少ない時間で解けるようにな
る。
【0056】部分問題を生成する準備をするために、ス
テップ130において、minY[n]の値を−1とす
る。ベクトルminY[n]は、zn で終わるすべての
アークのなかで最も小さいスラックであるノードyから
ノードzn のスラックのアーク(y,zn )のノードy
の因子を含む。初期値−1はスラックの計算をまだして
いない事を示す。ステップ150において、部分問題は
一時的に現在の問題と同じにされる。そしてアルゴリズ
ムはN個の部分問題を生成するループに入る準備をす
る。その目的は各連続した部分問題中において、付加的
なアークを分割する事である。本発明の趣旨は、どのア
ークを分けるかを選択することである。本発明は先行技
術によって作られた手順よりも、劇的に容易に問題を解
く部分問題の手順を作る方法により、アークを選択す
る。
【0057】ステップ160において、ループのはじめ
に現在の部分問題に対し、分割できるアークが残ってい
るか否かを見るためのテストを行う。もし残っていなけ
れば、部分問題の生成を終了し、点3に向かう。
【0058】ステップ200の処理において、本発明で
求める条件を満たす、分割できるアークを見つけること
から始まる。解決すべき次の部分問題を生成するために
このアークを分割する(部分問題から除く)。ステップ
200において、highSlackの値が初期値とし
て−∞に設定され、より高い値が見つかる度に変更され
る。
【0059】ステップ210において、nの値を1に設
定する。以下に続くループにおいて、ノードzn に接続
されたアークを選ぶため、nの値は1からNまで変化す
る。ステップ220において、全てのノードzn を調べ
てから、nがNを越えると、アルゴリズムを終了する。
ステップ230において、アルゴリズムは求める最小の
スラックをもつノードyが不要なノードYになるかどう
かを調べる。ステップ130及び140で初期化される
ので、第1回目のループの通過では、このテストを通過
する。次回以降のループでは、ノードyが分割されて部
分問題から除かれるアーク(y,z)の最初のノードで
あるときに、このテストを通過する。テストを通過する
と、ステップ240を実行する。このステップは、ノー
ドyから始まり、ノードzで終わる全てのアークのスラ
ックを計算する。最小のスラックを持つノードyの因子
はminY[n]に定められ、スラックの値はminS
lack[n]に定められる。
【0060】ステップ250において、ノードzn の最
小のスラックがhighSlackの値を越えたかどう
かを調べる。もし越えていれば、ステップ260におい
て、minSlack[n]の値はhighSlack
に置き換えられ、highZのnの値は、どのzn が最
も大きい最小スラックを生成したかを記憶するために保
存される。ここが本発明の本質的な部分である。
【0061】ステップ260の処理において、次のzノ
ードzn 上で終端するアークを試験するためにnを1増
やす。
【0062】点Cにはループがある。この点において、
n で終わる全てのアークの中で最小のスラックを持つ
分割できるアーク(y,zn )と、アークの全最小値の
中で最も大きい最小のスラックを持つ分割できるアーク
(y,zn )を認識する処理が行われる。
【0063】ステップ300において、mをhighZ
に設定する処理が行われる。これは、部分問題から除か
れるであろうノードzn の因子である。ステップ310
の処理では、zm に接続された、分割可能なアークが位
置付けられる。このアークは次の部分問題で分割するア
ークである。
【0064】ステップ320の処理では、次の部分問題
が生成される。最初に、問題文から分割できるアーク
(yi ,zm )を除き、問題の解からアークを除く。ノ
ードyiからのスラックの値はステップ240で再計算
しなければならないので、計算を再起動するために、不
要になったYをjの値に設定する処理が行われる。
【0065】次に、部分問題に対する新しい下限値を生
成する処理が行われる。アークを分割する前の費用をC
とすると、この下限値はc´=C+highSlack
である。そうして待ち行列上に部分問題を新しく生成
し、定める。付加的な部分問題を生成するために、アー
ク(yi ,zm )が次の全ての部分問題に含まれるよう
に処理する。この処理はh≠mに対するアーク(yj
h )とh≠jに対するアーク(yh ,zm )を除くこ
とにより、ステップ320で行われる。これによりアー
ク(yi ,zm )はノードyiとzmに接続する唯一の
アークとなり、このアークは解の中に必ず含まれる。
【0066】ステップ330において、新しい部分問題
を生成するため、ステップ160に戻る。
【0067】部分問題の生成が完了すると、処理はステ
ップ340に移行し、ステップ340では、最後のiの
値に対する第i最適解を見出だし、第i+1最適解を見
出だそうとしていることを示すiを1増加させる。iを
増加した後、処理はステップ40に戻り、待ち行列から
部分問題を除くループを再開する。
【0068】この帰納的な過程は最大の問題が最悪の解
を含むであろうことを立証する傾向を持っている。最も
大きい問題は割り当てられない多数のアークを持つが、
最も高い下限値を持つので、完全に解く前に待ち行列か
ら除きやすい。次に大きい部分問題は次に悪い解を持ち
やすく、以下同様に、最適解を持つ十分な可能性のあ
る、最小の問題まで続く。帰納が完全でない間は、分割
される問題の大きさは一般に大きく異なる。
【0069】図3は、この帰納を用いた後、図2と同じ
実験をした結果である。実験はCに記した全てのアルゴ
リズムを150MHz R4400マイクロプロセッサ
で実行して行った。
【0070】解くことと分割することの両方の手順はO
(N2 )なので、確率分布の大きさがより小さい値のN
に傾いたとき、計算時間が大きく減少する。しかも、分
割後、N×Nの問題はN個の部分問題を作るので、この
傾きにより解かなければならない問題全体の数が減る。
【0071】ここで述べた本発明による最適化の技術に
よれば、アルゴリズムの性質において顕著で量的な違い
があることが分かる。実際に、完全に最適化された手順
の能力はNに関してほとんど線形である。この最適化を
施したコードの能力は最悪のケースでもO(N3)であ
り、これは全く驚くべき効果である。
【0072】ここで述べたアルゴリズムは様々に応用で
きる。もともとこのアルゴリズムは空港での多重目標の
追跡に用いるために考案されたものであり、レーダー画
面の輝点は行列の行に一致し、追跡中の飛行機は知られ
ている項に行を形成し、そして、IEEEの自動制御に
関する報告書AC−24(6)843−854、197
9年12月にディー・ビー・レイドが発表した「多重目
標を追跡するアルゴリズム」という題の論文に記されて
いるように、特定の輝点は特定の飛行機に対応するよう
にしようとしている。
【0073】他には、衛星通信システムの衛星に対する
周波数割当の最適化に応用可能であり、最大の干渉が小
さくなるだろう。
【図面の簡単な説明】
図1は先行技術であるマーティのアルゴリズムの疑似コ
ードである。図2と図3は本発明による修正の前後にお
ける、10,000の無作為な100×100の問題の
最適な部分問題の大きさの分布を示す。図4、5、6、
7は本発明による方法のフローチャートである。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ハロルド ストーン アメリカ合衆国,ニュージャージー 08540,プリンストン,マウント ルーカ ス ロード 516

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 整合を取られるべき2つの集合の特定要
    素を行及び列によって表したN×Nの費用行列が与えら
    れており、当該行列中の項目は行及び列に示された2つ
    の要素の整合費用を表しているような割当問題に対し
    て、最適解を順位づけるコンピュータを用いた処理方法
    において、 費用行列を一つだけ順次小さくなるような次元の費用行
    列を含む一連のN最小費用割当問題に分割し、当該分割
    は、一連の部分問題が単一割当を除くことによって、先
    行する割当問題とは異なる全部分問題のうちの最も高い
    下限値を有する最大部分問題となるような形式で行わ
    れ、 問題の下限値は全ての二者択一的な割当の最小スラック
    を見出だすことによって導かれることを特徴とする、コ
    ンピュータを用いて割当問題に対する最適解を順位づけ
    る方法。
  2. 【請求項2】 整合を取られるべき2つの集合の特定要
    素を行及び列によって表したN×Nの費用行列が与えら
    れており、当該行列中の項目は行及び列に示された2つ
    の要素の整合費用を表しているような割当問題に対し
    て、最適解を順位づけるコンピュータを用いた処理方法
    において、 最短増加経路法を用いて行列から最小費用割当を導き、
    最小費用割当の増加した変数を決定する段階と、 1ずつ順次小さくなる次元を有し、且つ、一連の各部分
    問題が最大の部分問題になるような形式の費用行列を含
    む一連の最小費用割当部分問題に費用行列を分割し、 前記最大の部分問題は全ての部分問題で最も高い下限値
    を持ち、 前記全ての部分問題は先行する割当問題から割当を一つ
    除いたものである点で異なり各下限値はすべての2者択
    一的な割当の最小のスラックを見つけることによって生
    成される段階と、 各部分問題を、元になる解から2変数を用いて、終端状
    態に近い状態にする段階と、 求める望ましい第k最適解中の解を生成できない部分問
    題を決定し、除去する段階と、 優先順位で解決及び未解決問題を並べ、これによって、
    順位の最初に最小の下限値若しくは費用または実際の費
    用が分かっているときには最小の実際の費用を有する問
    題が含まれる最初の要求のような、優先要求の中で解い
    た部分問題と、解いていない部分問題を要求する段階
    と、 待ち行列から先頭部分を除く段階と、 各解が次善の解と認識されるように、各第k最適解を保
    存する段階とからなることを特徴とする、コンピュータ
    を用いて割当問題に対する最適解を順位づける方法。
  3. 【請求項3】 画面中の異なる特徴をあらわす各点から
    なる第1の点の集合と、請求項1の処理に従って得られ
    た画面中の特徴のひとつをあらわす各点からなる第2の
    点の集合を順位づける方法において、第1および第2の
    点の集合は、整合の順位を付けるべき第1および第2の
    集合の前記要素として役立つことを特徴とする、最適な
    整合を順位づける方法。
  4. 【請求項4】 請求項1において、整合させる第1の集
    合の構成要素を従業員とし、第2の集合の要素を作業と
    する、それぞれの従業員と特定の作業の整合によって費
    用が異なる可能性がある場合における、従業員の集合と
    作業の集合の間の最適費用効率整合を順位づける方法。
  5. 【請求項5】 請求項1において、整合させる第1の集
    合の構成要素を従業員とし、第2の集合の要素を機械と
    する、それぞれの従業員と特定の機械の整合によって費
    用が異なる可能性がある場合における、従業員の集合と
    機械の集合の間の最適費用効率整合を順位づける方法。
  6. 【請求項6】 請求項1において、順位づける第1の集
    合を輝点とし、第2の集合を追跡する飛行機とする、レ
    ーダー画面の輝点と追跡する既知の飛行機の間における
    空港での多重目標追跡の方法。
  7. 【請求項7】 請求項1記載の方法が記憶された格納媒
    体を含むコンピュータを用いるための製品。
  8. 【請求項8】 請求項2において、各点が画面中の異な
    る特徴をあらわす第1の点の集合と、各点が画面中の特
    徴のひとつをあらわす第2の点の集合について最適な整
    合を順位づける方法。
  9. 【請求項9】 請求項2において、整合させる第1の集
    合の構成要素を従業員とし、第2の集合の要素を作業と
    する、それぞれの従業員と特定の作業の整合によって費
    用が異なる可能性がある場合における、従業員の集合と
    作業の集合の間の最適費用効率整合を順位づける方法。
  10. 【請求項10】 請求項1において、整合させる第1の
    集合の構成要素を従業員とし、第2の集合の要素を機械
    とする、それぞれの従業員と特定の機械の整合によって
    費用が異なる可能性がある場合における、従業員の集合
    と機械の集合の間の最適費用効率整合を順位づける方
    法。
  11. 【請求項11】 請求項2において、順位づける第1の
    集合を輝点とし、第2の集合を追跡する飛行機とする、
    レーダー画面の輝点と追跡する既知の飛行機の間におけ
    る空港での多重目標追跡の方法。
  12. 【請求項12】 請求項2記載の方法が記憶された格納
    媒体を含むコンピュータを用いるための製品。
JP13506496A 1995-07-13 1996-05-29 準最適割当決定方法 Expired - Fee Related JP3152279B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US08/502224 1995-07-13
US08/502,224 US5734592A (en) 1995-07-13 1995-07-13 Method for determining a ranked set of associations

Publications (2)

Publication Number Publication Date
JPH0934875A true JPH0934875A (ja) 1997-02-07
JP3152279B2 JP3152279B2 (ja) 2001-04-03

Family

ID=23996891

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13506496A Expired - Fee Related JP3152279B2 (ja) 1995-07-13 1996-05-29 準最適割当決定方法

Country Status (2)

Country Link
US (1) US5734592A (ja)
JP (1) JP3152279B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6105025A (en) * 1996-03-08 2000-08-15 Oracle Corporation Method for using an index as a workspace for deferred enforcement of uniqueness constraints
US6199192B1 (en) * 1998-03-06 2001-03-06 Xilinix, Inc. Method and apparatus for assigning signal routes via an interconnect-multiplexer in a PLD
US6044361A (en) * 1998-03-24 2000-03-28 International Business Machines Corporation Fast inventory matching algorithm for the process industry
US6810422B1 (en) 2000-01-14 2004-10-26 Lockheed Martin Tactical Defense Systems System and method for probabilistic quality of communication service determination
US7546255B2 (en) * 2000-03-31 2009-06-09 International Business Machines Corporation Inventory system
US7376647B1 (en) 2000-07-18 2008-05-20 Accenture Llp Method for evaluating activity-based costs of a company
US20050149268A1 (en) * 2001-11-28 2005-07-07 Sharp Frank R. Methods of data analysis using ranks
US20040172311A1 (en) * 2003-02-28 2004-09-02 Kauderer Steven I. Method of and system for evaluating underwriting activities
CA2523345A1 (en) * 2003-05-09 2004-11-25 Avid Technology, Inc. Watermarking
US8185348B2 (en) * 2003-10-31 2012-05-22 Hewlett-Packard Development Company, L.P. Techniques for monitoring a data stream
US7081849B2 (en) * 2004-10-28 2006-07-25 Northrop Grumman Corporation Process for sensor resources management
GB2443440A (en) * 2006-10-31 2008-05-07 Hewlett Packard Development Co Graph based solutions to certain determination problems in auctions
US8320606B1 (en) 2008-08-29 2012-11-27 Adobe Systems Incorporated Video watermarking with fast detection
US8385590B1 (en) 2008-11-05 2013-02-26 Adobe Systems Incorporated Video watermarking with temporal patterns
CN102317962B (zh) * 2008-12-12 2016-03-16 纽约市哥伦比亚大学理事会 机器优化装置、方法和系统
US8213673B2 (en) * 2009-06-09 2012-07-03 Avio Technology, Inc. Watermarking of motion pictures
CN111862156B (zh) * 2020-07-17 2021-02-26 中南民族大学 一种基于图匹配的多目标跟踪方法和系统

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4931952A (en) * 1988-04-04 1990-06-05 Hughes Aircraft Company Target association method
US5077661A (en) * 1989-05-03 1991-12-31 Hewlett-Packard Company Assignment-dependent resource allocation method
US5351202A (en) * 1992-02-27 1994-09-27 International Business Machines Corporation Evaluation and ranking of manufacturing line non-numeric information
US5379044A (en) * 1993-12-23 1995-01-03 Hughes Aircraft Company Efficient multi-target tracking method

Also Published As

Publication number Publication date
JP3152279B2 (ja) 2001-04-03
US5734592A (en) 1998-03-31

Similar Documents

Publication Publication Date Title
JP3152279B2 (ja) 準最適割当決定方法
US5392430A (en) Hierarchical scheduling method for processing tasks having precedence constraints on a parallel processing system
Wah et al. Multiprocessing of combinatorial search problems
US5179699A (en) Partitioning of sorted lists for multiprocessors sort and merge
Campos et al. Context-independent scatter and tabu search for permutation problems
Le Bouthillier et al. A guided cooperative search for the vehicle routing problem with time windows
KR102551277B1 (ko) 병합 조인 시스템 및 병합 조인 방법
Saab An effective multilevel algorithm for bisecting graphs and hypergraphs
Diekmann et al. Combining helpful sets and parallel simulated annealing for the graph-partitioning problem
CN112035234B (zh) 分布式批量作业分配方法及装置
Chevalier et al. A multilevel mesh partitioning algorithm driven by memory constraints
Wakayama et al. Distributed forests for MapReduce-based machine learning
Sanders Fast priority queues for parallel branch-and-bound
US20210081488A1 (en) Information processing apparatus, storage medium and information processing method
CN111198766B (zh) 数据库访问操作部署方法、数据库访问方法及装置
Yasuhara et al. Multi-objective embarrassingly parallel search for constraint programming
Strasser PACE solver description: Tree depth with flowcutter
Drugan Stochastic pareto local search for many objective quadratic assignment problem instances
Wang et al. A tailored NSGA-III instantiation for flexible job shop scheduling
JP2021047549A (ja) 情報処理装置、情報処理プログラムおよび情報処理方法
Hamidzadeb et al. Dynamic scheduling of real-time tasks, by assignment
Barkalov et al. ON USING THE DECISION TREES TO IDENTIFY THE LOCAL EXTREMA IN PARALLEL GLOBAL OPTIMIZATION ALGORITHM
Correa et al. On the effectiveness of synchronous parallel branch-and-bound algorithms
KR102372252B1 (ko) 실루엣 평가 함수를 적용한 빠른 시뮬레이티드어닐링 데이터 클러스터링 방법 및 그 장치
CN111400314B (zh) 利用向量图索引从数据库中检索节点向量的方法及装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20001227

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080126

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090126

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100126

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110126

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110126

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120126

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130126

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130126

Year of fee payment: 12

LAPS Cancellation because of no payment of annual fees