JP3950718B2 - 画像空間表示方法 - Google Patents

画像空間表示方法 Download PDF

Info

Publication number
JP3950718B2
JP3950718B2 JP2002065213A JP2002065213A JP3950718B2 JP 3950718 B2 JP3950718 B2 JP 3950718B2 JP 2002065213 A JP2002065213 A JP 2002065213A JP 2002065213 A JP2002065213 A JP 2002065213A JP 3950718 B2 JP3950718 B2 JP 3950718B2
Authority
JP
Japan
Prior art keywords
image
space
display
feature
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002065213A
Other languages
English (en)
Other versions
JP2003051011A (ja
Inventor
雅二郎 岩崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2002065213A priority Critical patent/JP3950718B2/ja
Priority to US10/097,244 priority patent/US6853374B2/en
Priority to EP02251934A priority patent/EP1246124B1/en
Priority to DE60217748T priority patent/DE60217748T2/de
Publication of JP2003051011A publication Critical patent/JP2003051011A/ja
Application granted granted Critical
Publication of JP3950718B2 publication Critical patent/JP3950718B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/40Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)
  • Digital Computer Display Output (AREA)

Description

【0001】
【発明の属する技術分野】
本発明はユーザが所望する画像を大量の画像から探し出すための画像の表示技術に係り、特に、画像の特徴量を空間的に表示する画像空間表示方法に関する。
【0002】
【従来の技術】
この種の技術として、例えば
(1)「類似画像検索における特徴量空間の可視化インターフェイス」(電子情報通信学会技術研究報告 98巻204号)
(2)「インタラクティブ視覚化による文献集合からの情報獲得支援」(日本ソフトウェア科学会 第13大会)
が知られている。
【0003】
前記(1)の公知技術は、主成分分析により特徴の多次元空間の次元数を落し2次元空間の表示空間にマップする方法である。また、前記(2)の公知技術は、多数の文献とキーワードをその関連性に基づいて配置する視覚的分類技術に、ユーザの操作による視覚化結果の動的な更新を導入したものである。
【0004】
【発明が解決しようとする課題】
しかし、前記(1)の公知技術では、画像特徴がベクトルデータで表現できない場合、または、画像の類似性が線形結合で表せない場合には主成分分析ができず、この方法を利用することはできない。また、前記(2)の公知技術では、計算量が膨大で処理時間を要すためにインタラクティブな表示には向かない。
【0005】
一方、画像から複数の特徴量が抽出され、その特徴量空間を2次元や3次元の表示空間に表示する場合には、各特徴量を表示の次元軸に割り振ることにより、当該次元軸を意味付けして表示した方がユーザは特徴量空間を把握しやすい。
【0006】
本発明ではこのような点に鑑みてなされたもので、その目的は、表示空間上での次元軸に個々の特徴量を割り振り、ユーザの特徴量空間の把握を容易にした画像空間表示方法を提供することにある。
【0007】
また、他の目的は、表示空間上で均一に画像を配置させる方法を提供することにある。
【0008】
【課題を解決するための手段】
前記目的を達成するため、第1の手段は、複数の画像から画像の特徴を示す特徴量を抽出し、その特徴量に基づいて特徴量空間を階層的に分割し、複数の画像を仮想的に木構造とし、その木構造に基づいて表示空間を分割し、対応する各空間に画像を表示することよって画像空間を表示する画像空間表示方法において、複数の特徴量を用いる場合に特徴量ごとに木構造を生成する工程と、各木構造を1次元にマップすることによって特徴量数分の次元データを生成する工程と、この生成する工程で生成された次元データを表示座標軸データとして対応する各空間に表示する工程とを備え、前記木構造に基づいて表示空間を分割する時に、前記特徴量の各ポイントごとに求めた2つのクラスタの中心ポイントからの距離の差分により前記ポイントをソートし、そのソート順において適当な位置をクラスタの境界として2つのクラスタに分割することを特徴とする。
【0010】
の手段は、第の手段において、前記ソートのソート順における距離の差分の値の差が前後のポイントで最も大きいポイント間をクラスタの分離境界とし2つのクラスタに分割することを特徴とする。
【0011】
の手段は、第の手段において、表示空間の1つの次元に木構造をマップする時に、1次元の領域をクラスタの2つの中心ポイントからの距離及びその分離境界での距離の差分の値の差の比率に従って、前記表示空間の1つの次元の領域を分割することを特徴とする。
【0012】
の手段は、第の手段において、前記ソートのソート順における順位の中間点をクラスタの分離境界として2つのクラスタに分割することを特徴とする。
【0014】
の手段は、第1の手段と同様の前提の画像空間表示方法において、前記抽出された各特徴量を表示空間上の各次元軸に割り当てる工程と、割り当てた各次元軸に従い、かつ、2次元の表示空間に配置された画像間の関係を特徴量空間上での画像間の関係に反映させ、前記特徴量空間を4つの部分空間に再帰的に分割する工程と、分割して生成した各部分空間の木構造を2次元の表示空間を4つに分割した部分空間に順次配置する工程とを備え、4つの部分空間に分割するための各部分空間の中心画像の選択に際し、位置関係を考慮した他のすでに決定した中心画像との各特徴量における距離に基づいてあらかじめ設定された評価式の演算結果から順次中心画像を決定することを特徴とする。
【0015】
第8の手段は、第7の手段において、4つの部分空間に分割するための各部分空間の中心画像の選択に際し、位置関係を考慮した他のすでに決定した中心画像との各特徴量における距離に基づいてあらかじめ設定された評価式の演算結果から順次中心画像を決定することを特徴とする。
【0016】
の手段は、第の手段において、前記決定された中心画像を他の3つの中心画像から算出した評価式により再度演算し、その演算結果に基づいて再度中心画像を決定することを特徴とする。
【0017】
の手段は、第の手段において、他の3つの中心画像から算出した評価式に基づいて前記中心画像の位置の変化が生じなくなるまで、前記中心画像の位置を繰り返し演算し、前記中心画像の位置の変化がなくなった位置を選択することを特徴とする。
【0018】
の手段は、第ないし第の手段において、中心画像が決定された後に各部分空間を示す中心画像に同じ画像数で割り振るために画像から最も距離の近い中心画像に割り振った結果、その部分空間に属することができる最大画像数(全画像数を中心画像数で割った値)を超える場合には、その部分空間中で最も中心画像から遠い画像を外してその他の最も近い中心画像に入れる処理を繰り返し、前記画像数を均一数に部分空間に分割することを特徴とする。
【0022】
なお、後述の実施形態において、複数の特徴量を用いる場合に特徴量ごとに木構造を生成する手段には、特徴抽出部81、クラスタリング部82および木構造生成部83が、各木構造を1次元にマップすることによって特徴量数分の次元データを生成する手段には、表示空間生成部84が、この生成する手段で生成された次元データを表示座標軸データとして対応する各空間に表示する手段には、表示画面生成部85がそれぞれ対応する。
【0023】
また、前記抽出された各特徴量を表示空間上の各次元軸に割り当てる手段には、特徴抽出部81が、割り当てた各次元軸に従い、かつ、2次元の表示空間に配置された画像間の関係を特徴量空間上での画像間の関係に反映させ、前記特徴量空間を4つの部分空間に再帰的に分割する手段には、クラスタリング部82、木構造生成部83および表示空間生成部84が、分割して生成した各部分空間の木構造を2次元の表示空間を4つに分割した部分空間に順次配置する手段には、表示画面生成部B85がそれぞれ対応する。
【0024】
【発明の実施の形態】
以下、本発明の実施形態について図面を参照して説明する。
【0025】
1.第1の実施形態
図1は本発明の画像空間表示方法を実施するための第1の実施形態に係る画像表示装置の構成を示すブロック図、図2は図1の画像表示装置において実行される処理を示すブロック図である。
【0026】
図1において、画像表示装置は、画像表示装置の制御を司るCPU1と、CPU1が実行するプログラムが格納されたROM2と、CPU1がROM2に格納されたプログラムを実行する際にワークエリアとして機能するとともに、プログラムを実行するための動的なデータが記憶されるRAM3と、入力装置としてのキーボード4およびマウス5と、表示装置としてのモニタ6と、画像アプリケーション7を実行する画像表示部8と、デジタルカメラやスキャナなどの周辺機器11とのインターフェースとして機能するペリフェラルI/F9と、ネットワーク12とのインターフェイスとして機能するネットワークI/F10とからなり、これらはバス13を介してCPU1から制御可能に接続されている。画像表示部8は、図2に示すように特徴抽出処理部81、クラスタリング処理部82、木構造生成処理部83、表示空間生成処理部84および表示画面生成処理部85からなり、前記各部81〜85において特徴抽出処理、クラスタリング処理、木構造生成処理、表示空間生成処理および表示画面生成処理を画像アプリケーション7にしたがって実行する。
【0027】
以下、前述した構成を有する画像表示部8によって実行される処理について、
1)特徴量抽出処理
2)特徴量空間木構造抽出処理
3)画像表示画面生成処理
の順で説明する。
【0028】
1)特徴抽出処理
画像の特徴量として、ヒストグラム特徴、エッジ特徴、テクスチャ特徴など様々あり、本発明はいずれの特徴に対しても応用できる。もちろん画像以外のデータから抽出した特徴量でもかまわない。例えばテキストから抽出した特徴量にも応用可能である。ここでは一般的なヒストグラム特徴の抽出処理について説明する。画像としてはデジタルカメラやスキャナなどの周辺機器11から入力した画像、Webからダウンロードした画像など様々考えられるが、本装置では入力方法を制限しない。
【0029】
まず、適当な色空間(例えばLab,Luv,HSVなど)を選択してこの空間を複数の領域に分割し、画像の各ピクセルが色空間のどの領域に対応するかを調べ、領域毎のピクセル数をカウントした後、全体のピクセル数により正規化する。正規化された領域毎のピクセル数のデータがヒストグラム特徴である。このヒストグラムの特徴量がヒストグラムの特徴量空間のポイントとなる。ヒストグラムの特徴量空間での2つの特徴量の距離として、一般に2つの特徴量の対応する各領域毎のピクセル数の差分の合計やユークリッド距離が利用される。こうして特徴量間の距離を求めることができる。
【0030】
2)特徴量空間木構造抽出処理
特徴量の空間は高次元空間であり、これを単純に画面の2次元に表示することはできない。そこで、まず特徴量の空間の構造を木構造で表現し、その後、木構造を画面の空間にマップすることで仮想的に特徴量の空間を画面上に表現することができる。
【0031】
特徴量の空間を木構造で表現するには、特徴量空間をクラスタリングし、複数の部分空間に分割を行い、木構造のノードとする。さらに、各部分空間(ノード)をクラスタリングし、部分空間に分割しノードとする。これを再帰的に行うことで特徴量の空間の木構造を生成することができる。つまりすべての特徴量が最下位の個々のノード(リーフノード)に1つずつ配置される。このようにして生成された木構造の例を図3に示す。空間を分割するノード数は2以上の幾つであっても構わないが、簡便のためここではノード数を2とする。この木構造では類似する特徴量は近くに配置されており、画像空間上での画像の位置関係を木構造が表している。
【0032】
クラスタリング手法としては、一般的なNearest Neighor法やK−平均アルゴリズム法などが利用できる。この木構造では類似する画像は近くに配置されるが、その精度はクラスタリングの精度による。そこで、よりクラスタリングの精度を高くする方法として以下のような手順によるクラスタリングが可能である。なお、この方法では分割数を2と限定する。
【0033】
▲1▼クラスタの中心ポイントの獲得
a)空間内で任意のポイントAを選択する。
b)選択したポイントAから最遠のポイントをクラスタの中心ポイントC1とする。
c)C1から最遠のポイントを2番目のクラスタの中心ポイントC2とする。
【0034】
▲2▼ポイントのソート
a)空間の任意のポイントPを選択する。
b)2つのクラスタの中心ポイントC1,C2とポイントP間の距離を算出し、その距離の差分を差分距離として求める。
差分距離=|C1−P|−|C2−P|
c)a)−b)を繰返し、すべてのポイントの差分距離を求める。
d)差分距離の昇順ですべてのポイントをソートする。
【0035】
▲3▼ポイントの分割
差分距離でソートされたポイントの前後の差分距離の差を求め、最もその差が大きいポイント間をクラスタの境界とする。そのクラスタの境界より差分距離の値が小さい側がC1に属し、大きい側がC2に属すことになる。また、木構造のバランスを取れたものにする、つまりは、最終的な表示画面上で等間隔に画像を分布させたい場合には個数上での中間で分離することも可能である。このようにして得られた2つのクラスタを木のノードとして、各ノードについて同様の処理▲1▼▲2▼▲3▼を再帰的に行なうことで木が生成され、最終的にリーフノードに各画像が1つずつ属すこととなる。
【0036】
従来技術では、このように生成された1つの木構造から画面を生成していたが、本発明では、意味のある特徴量単位にこの木構造を生成し、それぞれ二分木の木構造を生成する。その意味のある特徴量とは、例えば色や形状やテクスチャであり、次の画面生成により生成された画面の軸がそれぞれの特徴量に対応することとなる。
【0037】
3)画像表示画面生成処理
木構造を生成した後に、個々の木構造を1次元上にマップする。画面上の表示領域が1次元でマップするデータ領域となる。
【0038】
木構造をルートから辿り、
a)1次元上のデータ領域を2分割し、2つの子ノードをそれぞれの領域に配置する。領域を分割する時には等分にしても良いし、表示精度を高めるには、子ノードに属すノード数に比例して分割点を決めたり、また、クラスタリング時の分割点から各中心点への距離に比例して分割点を決めたりすることも可能である。さらに、クラスタ間の隙間の距離をも考慮して、その隙間の空間に該当する領域を設定し、その空間には子ノードを指定しない。こうすることで、さらに類似性を正確に表した表示画面となる。
【0039】
b)各子ノードについて前述の1)特徴量抽出処理と2)特徴量空間木構造抽出処理を行う。
【0040】
このように再帰的に処理することで木構造のすべてが1次元にマップされる。前出の図の木構造をマップした例を図4に示す。これは木構造を辿りながら領域を等分に分割した例である。
【0041】
これをすべての木構造について行うことで、その木構造数分の次元データが得られる。画面表示としては3次元以上を表現しにくいので、3次元までのデータとすることが望ましい。例えば色、形状、テクスチャの特徴量で木構造を生成したなら、各軸がそれぞれ、色、形状、テクスチャに対応する3次元の表示空間が生成できる。
【0042】
最終的な空間的な画面表示例を図5に示す。図の点は画像から抽出した形状、テクスチャおよび色をパラメータに取った特徴量の位置であり、そこに画像をそのまま表示してもよい。なお、この実施形態では、画像から抽出した形状、テクスチャおよび色を特徴量としているが、これらの特徴量だけでなくあらゆる特徴量(文書から抽出した特徴量など)に応用が可能である。
【0043】
ここで、具体的な空間表示のための手順について図17ないし図21を参照して説明する。この処理は、CPU1がRAM3をワークエリアとして使用しながらROM2に格納されたプログラムを実行することにより行われる。
【0044】
この第1の実施形態は、各表示次元軸に特徴量を割り当てるように構成したもので、図17は特徴量軸表示空間を生成する処理の処理手順を示すフローチャートである。この処理では、まず、特徴量Aを選択し、1次元の表示空間として表示空間生成のルーチンIを呼び出す(ステップS101)。そして、図18に示す後述の表示空間生成のルーチンIを実行し、このルーチンIで特徴量Aの特徴量が抽出され、木構造が生成され、表示空間での全画像の座標が生成される。その場合、1次元のデータが返されて特徴量Aの1次元表示空間の座標が受け渡され(ステップS102)、得られた座標を表示軸Xの座標とする(ステップS103)。特徴量Bを選択し、1次元の表示空間として表示空間生成のルーチンIを呼び出す(ステップS104)。そして、特徴量Bの1次元空間の座標データが受け渡され(ステップS105)、得られた座標データを表示軸Yの座標とする(ステップS106)。次いで、同様に特徴量Cを選択し、1次元の表示空間として表示空間生成のルーチンIを呼び出す(ステップS107)。そして、特徴量Cの1次元空間の座標データが受け渡され(ステップS108)、得られた座標データを表示軸Zの座標とする(ステップS109)。最後に、ステップS103、S106、S109で得られた各表示軸の座標値から3次元の表示画面を生成する。なお、この処理では、ステップS101〜ステップS103が特徴量Aを座標軸Xに対応させる1つの処理、ステップS104〜ステップS106が特徴量Bを座標軸Yに対応させる1つの処理、ステップS107〜ステップS109が特徴量Cを座標軸Zに対応させる1つの処理となっている。
【0045】
なお、この場合の特徴量A、B、Cは特徴量の種別(カラーヒストグラフやエッジ)を表している。具体的には、図5の形状、色、テクスチャー(座標軸S,Y,Z)のいずれかにそれぞれ対応する。
【0046】
図18は第1の表示空間生成処理(以下、表示空間生成Iとも称す)の処理手順を示すフローチャートである。この処理では、全画像データが入力されると、その全画像データの特徴量を最後の画像まで抽出し(ステップS201、S202)、特徴量の集合(特徴量空間)を得る(ステップS203)。次いで、図19に示した二分木生成処理ルーチンを呼び出し(ステップS204)、特徴量集合に対して二分木生成処理を実行する(ステップS205)。そして、二分木のルート集合(ノード)と表示空間を入力として図20の第2の表示空間生成処理(以下、表示空間生成IIとも称す)ルーチンを呼び出し(ステップS206)、表示空間生成IIルーチンに基づいて表示空間を生成する(ステップS207)。なお、この処理は前記3)の画像表示画面生成処理で述べた通りである。
【0047】
この図18に示した第1の表示空間生成処理時に実行されるルーチンを図19ないし図21に示す。図19はステップS204で呼び出され、ステップS205で実行される二分木生成処理の処理手順を示すフローチャートである。この処理では、図21のクラスタリングルーチンを呼び出し、特徴量集合を二分割し、2つの部分集合(クラスタ)A及びBを生成する(ステップS301)。クラスタリングについては前記2)特徴量空間木構造抽出処理で述べた通りである。部分集合A及びBが生成されると、各部分集合A、Bを特徴量集合の子集合(子ノード)とし(ステップS302)、部分集合Aの特徴量要素が1かどうかを判定し(ステップS303)、1であればステップS304でさらに部分集合Bの特徴量要素が1かどうか判定する。また、ステップS303で部分集合Aの特徴量要素が1でなければ、ステップS305で部分集合Aを集合として二分木生成処理ルーチンを呼び出し、部分集合Aを集合としてステップS301以降の処理を実行し、ステップS304の処理を実行する。ステップS304で部分集合Bの特徴量要素が1であれば、この処理を終了し、1でなければ部分集合Bを集合としてステップS305と同様に二分木生成処理ルーチンを呼び出し(ステップS306)、ステップS301以降の処理を実行して処理を終える。
【0048】
ここで特徴量要素が1とは、集合を格子する特徴量(要素)の個数が1であるという意味であり、このことは特徴量の要素数が1、言い換えれると集合に含まれる特徴量数が1つであるということを意味する。前述のように特徴量の部分集合を順次分割していくと最終的にその部分集合に特徴量の要素数が1つしかない状態になる。この処理は、特徴量の要素数を二分木生成処理によって1つしかないものに分割する処理である。
【0049】
図20はステップS206で呼び出され、ステップS207で実行される第2の表示空間生成処理(以下、表示空間生成IIとも称す)の処理手順を示すフローチャートである。この処理では、すべての特徴量が最下位の個々のノードに属した集合(リーフ集合)であるかどうかをチェックし(ステップS401)、リーフ集合であれば、表示空間に画像を配置して(ステップS402)処理を終える。一方、ステップS401のチェックでリーフ集合でなければ、表示空間を部分集合A及びBに分割し(ステップS403)、二分木の子に当たる各部分集合A、Bを表示空間の各部分空間A、Bに割り当てる(ステップS404)。そして、部分集合Aを集合、表示空間Aを表示空間として第2の表示空間生成ルーチンを再帰呼び出しする(ステップS405)。次いで、部分集合Bも集合、表示空間Bを表示空間として第2及び第1の表示空間生成ルーチンを再帰呼び出しする(ステップS406)。これらステップS403、S404、S405及びS406の処理をリーフ集合になるまで繰り返し、リーフ集合になった時点で表示空間に画像を配置する(ステップS402)。
【0050】
なお、特徴量Aは特徴量の種別の集合、部分集合Aは特徴量の集合、表示空間Aは特徴量を表示する空間を示し、この表示空間生成処理は前記表示空間(部分表示空間)に特徴量の表示空間をマップする処理である。ここでは、ある部分集合を1対1に対応するある部分表示空間にマップするので、対応付けの意味で同じAという符号を使用している。
【0051】
図20はステップS301で実行されるクラスタリング処理の処理手順を示すフローチャートである。この処理は、前記2)の特徴量空間木構造抽出処理において説明しているように、まず、任意のポイントAを選択し(ステップS501−2)▲1▼a))、ポイントAから最遠のポイントをポイントC1に設定する(ステップS502−2)▲1▼b))。次いで、ポイントC1から最遠のポイントをポイントC2に設定し(ステップS503−2)▲1▼c))、さらに処理済みでない任意のポイントPを選択し(ステップS504−2)▲2▼a))、ポイントPとポイントC1,C2との差分距離を算出する(ステップS505−2)▲2▼b))。そして、前記選択されたポイントPを処理済みとし(ステップS506)、ステップS504からステップS506までの処理を未処理のポイントがなくなるまで繰り返す(ステップS507−2)▲2▼c))全て処理済みとなると、差分距離の昇順で全てのポイントをソートし(ステップS508−2)▲2▼d))、ソートされたポイント順の前後の差分距離の差分を算出し(ステップS509)、差分距離の差分の最大をクラスタの境界としてポイント集合を2分する(ステップS510−2)▲3▼)。
【0052】
なお、この実施形態では、図17に示すように各表示空間次元軸に特徴量を割り当てるように構成しているが、表示次元軸に特徴量を割り当てない場合には、前述の第1の表示空間生成処理ルーチンを直接呼び出すように構成することもできる。
【0053】
2.第2の実施形態
この第2の実施形態においても、前述の第1の実施形態において図1に示した画像表示装置の構成、および図2に示した画像表示装置において実行される処理については同一なので、説明は省略する。
【0054】
以下、この第2の実施形態における前述の画像表示部8によって実行される処理について
1)特徴量抽出処理
2)特徴量空間分割処理
3)画像表示画面生成処理
の順で説明する。
【0055】
1)特徴量抽出処理
この処理は、前述の第1の実施形態における1.1)で説明した特徴量抽出処理と同一である。そのため、重複を防ぐ意味でここでの説明は省略する。
【0056】
2)特徴量空間分割処理
特徴量を表示空間に割り当てるために、特徴量空間の分割を行なう。2次元の表示空間を生成する場合で特徴量空間の分割方法を説明する。各画像からは特徴量Aと特徴量Bが抽出されているとし、特徴量Aを表示空間のX軸、特徴量Bを表示空間のY軸に割り当てるとする。2次元の表示空間の場合には特徴量空間を4分割(図6)し、3次元の表示空間の場合には特徴量空間を8分割(図7)する。
【0057】
4分割の場合には以下の手順で行なうことによって、分割された各部分空間の位置関係を正しく反映した分割を行なうことができる。
なお、画像aの特徴量AをFAa、画像bの特徴量AをFAbというように表すと、
特徴量A空間内での画像aと画像bの距離(0〜1)は、
DA(FAa, FAb)
で表される。
また、特徴量B空間内での画像aと画像bの距離(0〜1)は同様に、
DB(FBa, FBb)
で表される。距離は0〜1の範囲の値とする。
【0058】
▲1▼各部分空間の中心特徴量の獲得
各部分空間の中心特徴量の獲得手順について図8ないし図11を参照して説明する。まず、
a)空間内で任意の画像aを選択する(図8)。
【0059】
そして、
b)選択した画像aから2つの特徴量に対して最遠の画像を部分空間(図8では左下の部分空間)の中心画像c1とする。つまり、評価式
DA(FAa,FAc)+DB(FBa,FBc)・・・(1)
が最大となる画像cを中心画像c1とする。
【0060】
次いで、
c)c1から2つの特徴量に対して最遠の画像を対角線上に位置する部分空間(図9では右上の部分空間)の中心画像c2とする。
つまり、評価式
DA(FAc1,FAc)+DB(FBc1,FBc)・・・(2)
が最大となる画像cを画像c2とする。
【0061】
さらに、
d)c1については特徴量Aの距離は近く特徴量Bの距離は遠く、かつ、c2については特徴量Aの距離は遠く特徴量Bの距離は近い画像を3番目の部分空間(図10では左上の部分空間)の中心画像c3とする。
つまり、評価式
(1− DA(FAc1,FAc))+DB(FBc1,FBc)
+DA(FAc2,FAc)+(1−DB(FBc2,FBc))・・・(3)
が最大となる画像cを画像c3とする。
【0062】
最後に、
e)c1については特徴量Bの距離は近く特徴量Aの距離は遠く、かつ、c2については特徴量Bの距離は遠く特徴量Aの距離は近く、かつ、c3から特徴量A,Bいずれからも遠い画像を4番目の部分空間(図11では右下の部分空間)の中心画像c4とする。
つまり、評価式
Figure 0003950718
が最大となる画像cを画像c3とする。
【0063】
このようにして4つの中心画像が決定されるが、c1,c2,c3に関しては、他のすべての中心画像との関係に基づいて決定されているわけではない。さらに精度よく、かつ、処理時間に余裕がある場合には、e)での評価式に基づいて、すべての中心画像を決定し直すことでより精度の良い中心画像を得ることができる。
【0064】
この処理を中心画像の変化がなくなるまで繰り返し行なうことによって、さらに精度が高くなる。ただし、処理時間がかかるのでアプリケーションの要求する速度によっていずれの処理を行なうかを選択する。
【0065】
▲2▼画像の分配
残りの画像を一画像ずつ選択しc1〜c4との距離を算出して最も近い部分空間に入れる。
つまり、図12に示す画像pに対して
DA(FAp,FAcn)+DB(FBp,FBcn)・・・(5)
の距離が最小となる中心画像cn(n=1〜4)を求めその中心画像の部分空間nに入れる。
こうして画像を4つの部分空間に分割することができる。3次元の表示空間の場合にも3つの特徴量を各次元軸に割り当てて同様にして拡張することができる(図13)。
【0066】
このようにして得られた4つの部分空間についてさらに上記2.2)の▲1▼、▲2▼の処理を行なう。こうして生成された部分空間を再帰的に繰り返し処理することによって部分空間が細分化される。そして、この処理を各部分空間に画像が1つしかない状態まで繰り返す。結果として部分空間は、図14に示すような木構造で表現され、特徴量空間の木構造抽出処理が完了する。
【0067】
3)画像表示画面生成処理
画像表示画面生成処理では、図14にのように表現された木構造をルートから辿り、
a)表示空間を図15に示すようにc1〜c4に4分割する。分割の方法としは単純に等分にする。
なお、ここでは、等分にする方法について説明しているが、その他に、
・各部分空間に含まれる画像数に表示空間の面積を比例させて分割する方法
・各部分空間が中の任意の2点間の距離を求めその最大値を部分空間の大きさとし、その大きさに比例させて分割する方法
がある。
【0068】
b)分割された各表示空間に木構造の各部分空間を割り振る。この時に部分空間の位置関係は部分空間生成時に考慮した位置関係に一致するようにしなければならない。木構造のリーフノードの部分空間であれば、ノードに画像が割り振られているので、その画像を表示空間上に配置する。
【0069】
c)各部分空間の下位の部分空間に対して上記2.3)のa),b)の処理を再帰的に処理する。
【0070】
こうすることによって図16に示すように木構造の画像が表示空間に配置される。しかし、このように生成された表示空間における画像の分布は均一ではない。アプリケーションによっては均一にしたい場合もある。分布の不均一は部分空間生成時に各部分空間に割り振られた画像数が不均一であることから生じる。そこで、均一に画像を部分空間に割り振る方法について説明する。
【0071】
d)均一に画像を部分空間に割り振る場合、前記2.2)の特徴量空間の分割処理の各部分空間の中心特徴量の獲得については前述の2.2)▲1▼と同様である。
【0072】
しかし、2.2)の▲2▼の画像の分配については次のように処理する。
【0073】
1)空間の全画像数Nから各部分画像の最大画像数Mを決定し、
M=N/4+1
とする。
【0074】
2)残りの画像から1つずつ選択し、c1〜c4との距離
DA(FAp,FAcn)+DB(FBp,FBcn)
を算出し、最も近い部分空間(仮にAとする)に入れる。
【0075】
3)前記部分空間Aに前記c1〜c4との距離を入れることによって部分空間Aに属する画像数がMを超える場合は、その部分空間Aの中で中心画像から最も距離の遠い画像をその部分空間から外す。外した画像に対して他の部分空間との距離を算出して最も近い部分空間(仮にBとする)に入れる。ただし、その部分空間Bに入れることによって部分空間Bに属する画像数がMを超える場合は、前記部分空間Bから同様にして一画像をはずし、A,Bを除く他の部分空間に対して同様の処理をする。画像数が超える場合には同様の処理を順次繰り返す。
【0076】
4)前記1)2)3)を繰り返し、すべての画像を割り振る。
これによって画像が表示空間に均一に割り振られる。
【0077】
この第2の実施形態は、表示次元軸に特徴量を割り当てることを前提とし、第1の実施形態よりも精度を高めた処理を行う例である。したがって、前記図17の特徴量軸表示空間生成処理は行われず、図18ないし図21に示した処理が実行される。ただし、図19に示した二分木生成処理については、図22のフローチャートに示した処理に変わる。したがって、ステップS301のクラスタリング処理はこの実施形態では図22に示したルーチンとなる。
【0078】
以下、図22のフローチャートについて説明する。
【0079】
この処理では、まず、任意のポイントAを選択し(ステップS601−2)▲1▼a))、ポイントAから前記評価式(1)が最大のポイントをポイントc1に設定する(ステップS602−2)▲1▼b))。次いで、評価式(2)が最大のポイントをポイントc2に設定し(ステップS602−2)▲1▼c))、評価式(3)が最大のポイントをポイントc3に設定し(ステップS603−2)▲1▼d))、さらに評価式(4)が最大のポイントをポイントc4に設定する(ステップS603−2)▲1▼e))。そして、処理済みでない任意のポイントPを選択し(ステップS606)、(5)式で示されるポイントPとポイントc1,c2,c3,c4との距離を算出する(ステップS607)。次いで、距離が最も小さいcnのクラスタにポイントPを加え(ステップS608)、前記選択されたポイントPを処理済みとし(ステップS609)、差分距離の昇順で全てのポイントをソートし(ステップS610)、ステップS606からステップS610までの処理を未処理のポイントがなくなるまで繰り返す(ステップS611)。
【0080】
その他、特に説明しない処理は、前述の第1の実施形態と同等に処理される。
【0082】
【発明の効果】
請求項記載の発明によれば、木構造を生成するために特徴量空間を分割する時に、特徴量の各ポイントごとに求めた2つのクラスタの中心ポイントからの距離の差分により前記ポイントをソートし、そのソート順において適当な位置をクラスタの境界として2つのクラスタに分割するので、クラスタリングの精度を高めることが可能となり、精度の高い画像特徴量の表示空間を生成することができる。
【0083】
また、請求項記載の発明によれば、ソート順における距離の差分の値の差が前後のポイントで最も大きいポイント間をクラスタの分離境界とし2つのクラスタに分割するので、クラスタリングの精度を高めることが可能となり、精度の高い画像特徴量の表示空間を生成することができる。
【0084】
また、請求項記載の発明によれば、表示空間の1つの次元に木構造をマップする時に1次元の領域をクラスタの2つ中心ポイントからの距離及びその分離境界での距離の差分の値の差の比率に従い表示空間の1つの次元の領域を分割するので、木構造がバランスのとれたものとなり、結果としてポイントを均一に言い換えれば等間隔に配置することが可能となる。
【0085】
また、請求項記載の発明によれば、ソート順における順位の中間点をクラスタの分離境界として2つのクラスタに分割するので、クラスタリングの精度を高めることが可能となり、精度の高い画像特徴量の表示空間を生成することができる。
【0088】
また、請求項記載の発明によれば、4つの部分空間に分割するための各部分空間の中心画像の選択に際し、位置関係を考慮した他のすでに決定した中心画像との各特徴量における距離に基づいてあらかじめ設定された評価式の演算結果から順次中心画像を決定するので、さらに見やすい表示空間とすることができる。
【0089】
また、請求項記載の発明によれば、決定された中心画像を他の3つの中心画像から算出した評価式により再度演算し、その演算結果に基づいて再度中心画像を決定するので、請求項記載の発明の効果に加え、さらに見やすい表示空間とすることができる。
【0090】
また、請求項記載の発明によれば、他の3つの中心画像から算出した評価式に基づいて前記中心画像の位置の変化が生じなくなるま、前記中心画像の位置を繰り返し演算し、前記中心画像の位置の変化がなくなった位置を選択するので、請求項記載の発明の効果に加え、さらに見やすい表示空間とすることができる。
【0091】
また、請求項記載の発明によれば、中心画像が決定された後に各部分空間を示す中心画像に同じ画像数で割り振るために、画像から最も距離の近い中心画像に割り振った結果、その部分空間に属することができる最大画像(全画像数を中心画像数で割った値)を超える場合には、その部分空間中で最も中心画像から遠い画像をはずして、その他の最も近い中心画像に入れ、この処理を繰り返すことで均一数に部分空間に分割するので、表示画像中で均一に画像が配置されユーザにとって見やすい表示空間とすることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る画像表示装置の構成を示すブロック図である。
【図2】本発明の第1の実施形態の画像表示装置において実行される処理を示すブロック図である。
【図3】本発明の第1の実施形態において生成された木構造の例を示す図である。
【図4】図3の木構造のすべてを1次元にマップした例を示す図である。
【図5】本発明の第1の実施形態において、画像から抽出した形状、テクスチャおよび色を特徴量として3次元の表示空間と特徴量の位置との関係を示す図である。
【図6】本発明の第2の実施形態における4分割された2次元の特徴量空間を示す図である。
【図7】本発明の第2の実施形態における8分割された3次元の特徴量空間を示す図である。
【図8】本発明の第2の実施形態における各部分空間の獲得手順を説明するための図である。
【図9】本発明の第2の実施形態における各部分空間の獲得手順を説明するための図である。
【図10】本発明の第2の実施形態における各部分空間の獲得手順を説明するための図である。
【図11】本発明の第2の実施形態における各部分空間の獲得手順を説明するための図である。
【図12】本発明の第2の実施形態における各部分空間の画像の分配の手順を説明するための図である。
【図13】本発明の第2の実施形態における各部分空間の画像の分配の手順を説明するための図である。
【図14】本発明の第2の実施形態において表現される構造の例を示す図である。
【図15】本発明の第2の実施形態における画像表示画面生成の手順を説明するための図である。
【図16】本発明の第2の実施形態における画像表示画面生成の手順を説明するための図である。
【図17】本発明の第1の実施形態における特徴量軸表示空間生成処理の処理手順を示すフローチャートである。
【図18】本発明の第1の実施形態における表示空間生成処理Iの処理手順を示すフローチャートである。
【図19】本発明の第1の実施形態における二分木生成処理の処理手順を示すフローチャートである。
【図20】本発明の第1の実施形態における表示空間生成処理IIの処理手順を示すフローチャートである。
【図21】本発明の第1の実施形態におけるクラスタリング処理の処理手順を示すフローチャートである。
【図22】本発明の第2の実施形態におけるクラスタリング処理の処理手順を示すフローチャートである。
【符号の説明】
1 CPU
2 ROM
3 RAM
6 モニタ
7 画像アプリケーション
8 画像表示部
81 特徴抽出処理部
82 クラスタリング処理部
83 木構造生成部
84 表示空間生成部
85 表示画面生成部
11 スキャナ、デジタルカメラ(周辺機器)

Claims (8)

  1. 複数の画像から画像の特徴を示す特徴量を抽出し、その特徴量に基づいて特徴量空間を階層的に分割し、複数の画像を仮想的に木構造とし、その木構造に基づいて表示空間を分割し、対応する各空間に画像を表示することよって画像空間を表示する画像空間表示方法において、
    複数の特徴量ごとに木構造を生成する工程と、
    生成された前記各木構造を1次元にマップすることによって特徴量数分の次元データを生成する工程と、
    前記生成する工程で生成された次元データを表示座標軸データとして対応する各空間に表示する工程とを備え、
    前記木構造に基づいて表示空間を分割する時に、前記特徴量の各ポイントごとに求めた2つのクラスタの中心ポイントからの距離の差分により前記ポイントをソートし、そのソート順において適当な位置をクラスタの境界として2つのクラスタに分割することを特徴とする画像空間表示方法。
  2. 前記ソートのソート順における距離の差分の値の差が前後のポイントで最も大きいポイント間をクラスタの分離境界とし2つのクラスタに分割することを特徴とする請求項記載の画像空間表示方法。
  3. 前記分割が、表示空間の1つの次元に木構造をマップする時に、1次元の領域をクラスタの2つの中心ポイントからの距離及びその分離境界での距離の差分の値の差の比率に従って、前記表示空間の1つの次元の領域を分割することにより行われることを特徴とする請求項記載の画像空間表示方法。
  4. 前記ソートのソート順における順位の中間点をクラスタの分離境界として2つのクラスタに分割することにより行われることを特徴とする請求項記載の画像空間表示方法。
  5. 複数の画像から画像の特徴を示す特徴量を抽出し、その特徴量に基づいて特徴量空間を階層的に分割し、複数の画像を仮想的に木構造とし、その木構造に基づいて表示空間を分割し、対応する各空間に画像を表示することよって画像空間を表示する画像空間表示方法において、
    前記抽出された各特徴量を表示空間上の各次元軸に割り当てる工程と、
    割り当てた各次元軸に従い、かつ、2次元の表示空間に配置された画像間の関係を特徴量空間上での画像間の関係に反映させ、前記特徴量空間を4つの部分空間に再帰的に分割する工程と、
    分割して生成した各部分空間の木構造を2次元の表示空間を4つに分割した部分空間に順次配置する工程と、を備え
    4つの部分空間に分割するための各部分空間の中心画像の選択に際し、位置関係を考慮した他のすでに決定した中心画像との各特徴量における距離に基づいてあらかじめ設定された評価式の演算結果から順次中心画像を決定することを特徴とする画像空間表示方法。
  6. 前記決定された中心画像を他の3つの中心画像から算出した評価式により再度演算し、その演算結果に基づいて再度中心画像を決定することを特徴とする請求項記載の画像空間表示方法。
  7. 他の3つの中心画像から算出した評価式に基づいて前記中心画像の位置の変化が生じなくなるまで、前記中心画像の位置を繰り返し演算し、前記中心画像の位置の変化がなくなった位置を選択することを特徴とする請求項記載の画像空間表示方法。
  8. 中心画像が決定された後に各部分空間を示す中心画像に同じ画像数で割り振るために画像から最も距離の近い中心画像に割り振った結果、その部分空間に属することができる最大画像数を超える場合には、その部分空間中で最も中心画像から遠い画像を外してその他の最も近い中心画像に入れる処理を繰り返し、前記画像数を均一数に部分空間に分割することを特徴とする請求項ないしのいずれか1項に記載の画像空間表示方法。
JP2002065213A 2001-03-19 2002-03-11 画像空間表示方法 Expired - Fee Related JP3950718B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2002065213A JP3950718B2 (ja) 2001-03-19 2002-03-11 画像空間表示方法
US10/097,244 US6853374B2 (en) 2001-03-19 2002-03-15 Image space display method and apparatus
EP02251934A EP1246124B1 (en) 2001-03-19 2002-03-18 Image space display method and apparatus
DE60217748T DE60217748T2 (de) 2001-03-19 2002-03-18 Verfahren und Gerät zur Anzeige eines Bildraumes

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2001-79007 2001-03-19
JP2001079007 2001-03-19
JP2001-162701 2001-05-30
JP2001162701 2001-05-30
JP2002065213A JP3950718B2 (ja) 2001-03-19 2002-03-11 画像空間表示方法

Publications (2)

Publication Number Publication Date
JP2003051011A JP2003051011A (ja) 2003-02-21
JP3950718B2 true JP3950718B2 (ja) 2007-08-01

Family

ID=27346289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002065213A Expired - Fee Related JP3950718B2 (ja) 2001-03-19 2002-03-11 画像空間表示方法

Country Status (4)

Country Link
US (1) US6853374B2 (ja)
EP (1) EP1246124B1 (ja)
JP (1) JP3950718B2 (ja)
DE (1) DE60217748T2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4079680B2 (ja) * 2002-04-26 2008-04-23 独立行政法人産業技術総合研究所 画像合成装置及び方法
DE10331129B4 (de) * 2003-07-09 2005-07-14 Harald Oppermann Auswuchtmaschine mit einer Spanneinrichtung
US8065627B2 (en) * 2003-09-30 2011-11-22 Hewlett-Packard Development Company, L.P. Single pass automatic photo album page layout
DE102005014761A1 (de) * 2005-03-31 2006-10-05 Siemens Ag Verfahren zum Anordnen von Objektdaten in elektronischen Karten
US7644356B2 (en) * 2005-06-10 2010-01-05 Hewlett-Packard Development Company, L.P. Constraint-based albuming of graphic elements
JP4650293B2 (ja) * 2006-02-15 2011-03-16 富士フイルム株式会社 画像分類表示装置及び画像分類表示プログラム
TW200809764A (en) 2006-04-24 2008-02-16 Sony Corp Image processing device, image processing method and program recording medium
JP4934843B2 (ja) 2006-11-29 2012-05-23 株式会社リコー 情報処理装置、画像登録方法、およびプログラム
WO2008102410A1 (ja) * 2007-02-19 2008-08-28 Sony Computer Entertainment Inc. クラスタリング装置、その方法、コンピュータ、プログラムおよび記録媒体
JP5121367B2 (ja) * 2007-09-25 2013-01-16 株式会社東芝 映像を出力する装置、方法およびシステム
JP4694581B2 (ja) * 2008-01-25 2011-06-08 富士フイルム株式会社 ファイル生成装置および方法、3次元形状再生装置および方法並びにプログラム
JP4675995B2 (ja) * 2008-08-28 2011-04-27 株式会社東芝 表示処理装置、プログラムおよび表示処理方法
JP5388631B2 (ja) * 2009-03-03 2014-01-15 株式会社東芝 コンテンツ提示装置、及び方法
JP4852119B2 (ja) * 2009-03-25 2012-01-11 株式会社東芝 データ表示装置、データ表示方法、データ表示プログラム
US9911194B2 (en) * 2016-05-26 2018-03-06 Disney Enterprises, Inc. Systems and methods for higher order dimensional space video segmentation
JP6971112B2 (ja) * 2017-09-29 2021-11-24 株式会社Screenホールディングス 教師データ作成支援装置、分類装置および教師データ作成支援方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6121969A (en) * 1997-07-29 2000-09-19 The Regents Of The University Of California Visual navigation in perceptual databases
KR100284778B1 (ko) * 1998-10-28 2001-03-15 정선종 내용기반 이미지 검색을 위한 고차원 색인구조의 삽입 방법
JP4173246B2 (ja) * 1999-04-28 2008-10-29 株式会社リコー 類似画像表示方法及び類似画像表示処理プログラムを格納した記録媒体
US6675174B1 (en) * 2000-02-02 2004-01-06 International Business Machines Corp. System and method for measuring similarity between a set of known temporal media segments and a one or more temporal media streams
JP3457617B2 (ja) * 2000-03-23 2003-10-20 株式会社東芝 画像検索システムおよび画像検索方法
KR100429792B1 (ko) * 2000-11-15 2004-05-03 삼성전자주식회사 특징 벡터 공간의 인덱싱 방법 및 검색 방법

Also Published As

Publication number Publication date
DE60217748T2 (de) 2007-10-31
EP1246124A3 (en) 2004-11-17
EP1246124B1 (en) 2007-01-24
DE60217748D1 (de) 2007-03-15
US20020145603A1 (en) 2002-10-10
EP1246124A2 (en) 2002-10-02
JP2003051011A (ja) 2003-02-21
US6853374B2 (en) 2005-02-08

Similar Documents

Publication Publication Date Title
JP3950718B2 (ja) 画像空間表示方法
Panigrahy et al. Differential box counting methods for estimating fractal dimension of gray-scale images: A survey
Heinrich et al. State of the Art of Parallel Coordinates.
DE102017208952A1 (de) Zahntyp-Bestimmungsprogramm, Zahntyppositions-Bestimmungsvorrichtung und Verfahren dazu
KR101721114B1 (ko) 위치정보가 포함된 포인트 데이터를 다축척의 웹 지도상에 클러스터링하기 위하여 격자의 크기를 결정하는 방법
EP0981098A1 (en) Method and apparatus for generating and displaying views of hierarchically clustered data
JP4173246B2 (ja) 類似画像表示方法及び類似画像表示処理プログラムを格納した記録媒体
JPWO2012111236A1 (ja) 画像識別装置およびプログラム
Li et al. A new box-counting method for estimation of image fractal dimension
Schreck et al. Regular treemap layouts for visual analysis of hierarchical data
CN109408674B (zh) 基于仙人掌树的数据可视化方法、装置、设备及存储介质
CN109271997B (zh) 一种基于跳跃细分局部模式的图像纹理分类方法
JP2003203090A (ja) 画像空間表示方法
CN104809721B (zh) 一种漫画分割方法及装置
Bertacchini et al. Shaping the aesthetical landscape by using image statistics measures
CN116310060B (zh) 一种渲染数据的方法、装置、设备及存储介质
JP6634769B2 (ja) ボクセル処理方法、ボクセル処理プログラム及び情報処理装置
US11024032B1 (en) System and method for generating synthetic overhead imagery based on cluster sampling and spatial aggregation factors
JP2020095498A (ja) 画像分類装置および方法
JP2021047826A (ja) データ処理装置、データ処理方法
CN111476253A (zh) 服装图像分类、图像分类方法、装置及设备
WO2023007693A1 (ja) 画像分類装置及び方法
CN113537413B (zh) 特征选择与组合优化算法的零部件缺陷检测区间聚类方法
KR102138312B1 (ko) 인공신경망을 이용한 볼륨 렌더링 방법 및 서버
US20240193884A1 (en) Empty Space Matrix Condensation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041022

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070417

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070423

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100427

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110427

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120427

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130427

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140427

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees