JP2004185626A - 知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置 - Google Patents

知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置 Download PDF

Info

Publication number
JP2004185626A
JP2004185626A JP2003406743A JP2003406743A JP2004185626A JP 2004185626 A JP2004185626 A JP 2004185626A JP 2003406743 A JP2003406743 A JP 2003406743A JP 2003406743 A JP2003406743 A JP 2003406743A JP 2004185626 A JP2004185626 A JP 2004185626A
Authority
JP
Japan
Prior art keywords
model
node
distance
dimensional
perceptual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003406743A
Other languages
English (en)
Other versions
JP4166678B2 (ja
Inventor
In-Kyu Park
朴 仁 圭
Do-Kyoon Kim
金 道 均
Shoiku Ri
商 郁 李
Il-Dong Yun
▲逸▼ 東 尹
Duch-Hoon Kim
徳 ▲勲▼ 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Seoul National University Industry Foundation
Original Assignee
Samsung Electronics Co Ltd
Seoul National University Industry Foundation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR10-2003-0084215A external-priority patent/KR100513735B1/ko
Application filed by Samsung Electronics Co Ltd, Seoul National University Industry Foundation filed Critical Samsung Electronics Co Ltd
Publication of JP2004185626A publication Critical patent/JP2004185626A/ja
Application granted granted Critical
Publication of JP4166678B2 publication Critical patent/JP4166678B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/56Information retrieval; Database structures therefor; File system structures therefor of still image data having vectorial format
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/30Polynomial surface description
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/422Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
    • G06V10/426Graphical representations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects

Abstract

【課題】 知覚的に認識可能な3次元形状の記述方法とそれを利用した3次元グラフィックモデルのデータベース検索方法及び装置を提供する。
【解決手段】‘cow’モデルに対して部分基盤表現を生成する過程を一例として示したものであって、前記分割技法を‘cow’モデルに適用して中間過程を段階的に例示している。(a)及び(b)は‘cow’モデルのメッシュ表現及びボクセル化された表現を意味する。また、(c)は初期分割段階IDS、(d)は再帰的分割段階RDS、そして、(e)は反復的併合段階IMSが行われた結果を示す。最終的に生成された属性関係グラフ(ARG)は(f)に示した通りであり、楕円体に表現されたノードとノードとを連結するエッジとは分割された形状の部分をそれぞれ近似するようになる。
【選択図】図3

Description

本発明は、3次元グラフィックに係り、特に3次元グラフィックモデルの形状を知覚的に認識可能な3次元形状の記述方法とそれを利用したグラフィックモデルのデータベースから形状が類似したグラフィックモデルを検索する方法及び装置に関する。
最近、3次元グラフィックス技術の発展及び関連産業領域の拡大によって管理すべき3次元グラフィックオブジェクト(客体)の数が急増している。したがって、数多くの3次元グラフィックオブジェクトを効率的に格納、管理して再使用できる技法が必要とされている。
データ表記方法に関する国際標準規格であるMPEG−7(MPEGは、Moving Picture Experts Groupの略称)によれば、3次元形状を記述してデータベースを検索するための国際標準としてShape3Dが提案され、採択されている。一般に3次元グラフィックモデルは頂点と面(多角形)とで構成される多角形メッシュとして表現される。Shape3Dはこのような多角形モデル(多角形メッシュ)から形状スペクトルを定義するが、形状スペクトルはメッシュ構造全体について計算されて形状索引として定義される数値のヒストグラムで表現される。
しかし、Shape3Dは幾つか短所を有する。まず、形状スペクトルは3次元物体表面の局所的な形状特性を表すものであって、全体的で空間的な特性情報を提供することはできないので形状を識別する能力が低い。図1は、Shape3Dの形状識別能力の限界を示す一例である。(a)及び(b)は相異なる3次元オブジェクトを示し、(c)及び(d)は(a)及び(b)の形状スペクトルを示す。前記図1(a)及び(c)に示すように‘android’モデルと‘crocodile’モデルは相異なる形状を有している。それらは明白に異なるモデルである。しかし、2つの物体のShape3Dを求めてその形状スペクトルを比較してみると、図1の(b)と(d)に示すように非常に類似していることが分かる。前記‘android’モデルと‘crocodile’モデルの定量的に計算された形状スペクトルの差は単に、0.025981に過ぎない。したがって、もし‘android’を質疑(クエリ:query)オブジェクトとして検索を遂行すれば、‘crocodile’オブジェクトが非常に類似したオブジェクトとして検索される、すなわち検索結果のうち上位にランクされる結果となり望ましくない。検索された形状が現実の形状と何ら類似性を見出せないことになってしまうのである。形状スペクトルと現実の形状との間に整合性がない以上、Shape3Dはスケッチによる質疑や編集による質疑のような検索には向かないといわざるを得ない。
本発明が解決しようとする技術的課題は、3次元グラフィックモデルで構成されたデータベースを管理するために3次元オブジェクトを効率的に記述できる知覚的認識可能な3次元形状の記述方法とそれを利用して構築したデータベースから類似しているモデルが検索できる3次元グラフィックモデルのデータベース検索方法及び装置を提供することである。
前記技術的課題を解決するための本発明による知覚的に認識可能な3次元形状の記述方法は、3次元形状モデルに対する部分基盤表現(part-based representation)の部分にそれぞれ対応し、前記各部分の属性を示す単一属性(unary attributes)を具備するノードを生成する段階と、前記ノード間の関連性を表す相関属性(relational attributes)を有するエッジを生成する段階と、前記ノードとエッジとよりなる属性関係グラフの形態を生成する段階とを含むことを特徴とする。前記ノードは、体積、凸度及び離心率によって定義される楕円体として表現されるのが望ましい。前記ノードの単一属性は少なくとも前記部分の体積、離心率及び凸度を含むのが望ましい。前記ノードの単一属性は前記楕円体を構成するボクセルの3次元軸上の分布程度を表す分散、前記楕円体の中心及び前記ノードの変形(オブジェクト座標系からの変換)をさらに具備するのが望ましい。前記相関属性は少なくともノード間の距離及び楕円体の長軸及び短軸間の角度を含むのが望ましい。前記ノードの単一属性は所定のビット数に量子化されることが望ましい。
前述した本発明によって述べられた知覚的に認識可能な3次元形状データが書き込まれたコンピュータで読み出せる記録媒体を提供する。
前述した技術的課題を達成するための本発明による3次元グラフィックモデルのデータベース検索方法は、前述した3次元グラフィックモデルの知覚的3次元形状記述子を格納するデータベースの3次元グラフィックモデル検索方法において、所定の3次元グラフィックモデルを受け入れる入力段階と、前記入力した3次元グラフィックモデルを知覚的3次元形状記述子に変換する変換段階と、前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探し出す検索段階とを含むことを特徴とする。前記入力段階はユーザーがインタラクティブなツールによって3次元グラフィックモデルをデザインして入力することが望ましい。前記変換段階はユーザーが前記変換された形状記述子の編集を願う場合、前記形状記述子を編集する段階をさらに具備することが望ましい。
前記検索段階はノードの体積を重量に定義する段階と、二重地球移動子距離(EMD:Earth Mover's Distance)方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探し出すことが望ましい。前記EMD方法は質疑グラフを構成する質疑ノードとモデルグラフを構成するモデルノード間の距離を行列に示した距離行列を生成する内部EMD段階と、前記距離行列からノード自体の属性を考慮して類似度を測定する外部EMD段階とよりなる。前記内部EMD段階は前記変換された3次元形状記述子の質疑グラフを構成する質疑ノードと前記データベースに格納されている3次元グラフィックモデルのモデルグラフを構成するモデルノードを抽出して比較対象となる質疑ノードとモデルノードとのノード組合せを設定する段階と、前記各組合せについてノード間距離を測定して距離行列を生成する距離行列生成段階とを含むことが望ましい。前記距離行列生成段階は前記各組合せについて質疑グラフ及びモデルグラフの任意のノード間距離を求めるためにノード間の属性ベクトル差の絶対値と定義された距離行列を構成する段階と、相関属性を軸にするベクトル空間を構成する段階と、前記ベクトル空間で質疑ノードとモデルノードとを点の集合として表現する段階と、全ての点から距離が一定の仮想の点を設定する段階と、前記ベクトル空間で定義されたユークリッド距離を求めて距離行列を生成する段階と、前記2つの距離行列を加算した最終の距離行列を生成する段階とを含むことが望ましい。
前記外部EMD段階は、前記距離行列及び質疑ノードとモデルノードとの重量からEMDを適用して必要仕事量を計算する段階と、前記必要仕事量を加算して類似度を測定する段階とを含むことが望ましい。
前述した技術的課題を達成するための本発明による、3次元グラフィックモデルのデータベース検索装置は、前述された3次元グラフィックモデルの知覚的3次元形状記述子によって記述された3次元グラフィックモデルを格納しているデータベースの3次元グラフィックモデル検索装置において、検索しようとする3次元グラフィックモデルを質疑に受け入れる質疑入力部と、前記質疑として入力された3次元グラフィックモデルを知覚的3次元形状記述子に変換する形状記述子変換部と、前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探す整合(マッチング)部と、前記見つけられた類似モデルを出力するモデル出力部とを含むことを特徴とする。前記質疑入力部は、ユーザーが対話式道具によって3次元グラフィックモデルをデザインして入力することが望ましい。前記変換部はユーザーが前記変換された形状記述子の編集を要する場合、前記形状記述子を編集する形状編集部をさらに具備することが望ましい。前記整合部はノードの体積を重量と定義する重量変換部と、EMD方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似モデルを探すモデル検索部とを具備することが望ましい。
そして、前記記載された発明をコンピュータで実行させるためのプログラムを書き込んだコンピュータで読み出せる記録媒体を提供する。
知覚的に認識可能な3次元形状の記述方法によれば、従来の技術では不可能であったスケッチによる質疑か編集による質疑のような機能が可能である。これは内容基盤データベース検索において非常に重要な特質である。
そして、本発明ではEMD技法を開発してグラフ表現間の整合(マッチング)に利用することによって、質疑モデルと類似したモデルとをデータベースからさらに正確に検索できる。
また本発明によれば、幾何情報と位相情報とを同時に利用でき、グラフノードとさらに他のグラフノード間の多対多連結を構成して、さらに正確な検索が可能であり、検索システムの性能を向上させる。
以下で、添付された図面を参照して本発明による知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置について詳細に説明する。
本発明による3次元グラフィックモデルで構成されたデータベースを管理するために3次元オブジェクトを効率的に記述できる知覚的認識可能な3次元形状の記述方法は3次元オブジェクトを部分基盤表現に変換し、これをノードとエッジとよりなる属性関係グラフ構造として表す。このような記述方法は元来の3次元形状と人間の視覚に非常に類似して認識されるので、この技法を知覚的3次元形状記述子という。
前記知覚的3次元形状記述子生成を説明する。まず、3次元形状の部分基盤表現は次の通りである。部分基盤表現は形状の知覚的な認識可能な表現ができる。前記部分基盤表現は回転移動、平行移動、非等方サイズ変化、形状変形、形状一部削除などに強く物体を表現する。3次元オブジェクト形状の高いレベルの表現において、オブジェクトの部分は中間表現段階で利用される。現在まで、色々な従来のアルゴリズムが開発され、これらはモルフォロジー基盤の部分分離と骨組み基盤の形状分離技法に大きく分けられる。
本発明では新しいアルゴリズムを利用して3次元形状の分割を行う。前記アルゴリズムによる技法は数学的モルフォロジーと加重分凸度を計算して利用する拘束的モルフォロジー分割(Constrained Morphological Decomposition:CMD)を繰り返して適用して形状を分割する。次に初期分割された形状を加重分凸度差(Weighted Convexity Difference:WCD)を基準として併合するかを決定する。この分割アルゴリズムによって、適応的で単純ながらも形状をよく表現する分割を行うことができる。この技法による分割アルゴリズムは、図2に示すように3段階よりなる。図2は、形状分割技法をブロック図に示したものであって、矢印は2進画像の処理フローを意味する。再帰的分割段階(Recursive Decomposition Stage:RDS)210は初期分割段階(Initial Decomposition Stage:IDS)200の後に実行されてキューIがなくなるまで行われる。次に、反復的併合段階(Iterative Merging Stage:IMS)220がキューIIに残っている分割破片に
適用されてより単純ながらも形状をよく表現する分割を生成する。図3は、‘cow’モデルに対して部分基盤表現を生成する過程を一例として示したものであって、前記分割技法を‘cow’モデルに適用して中間過程を段階的に例示している。図3の(a)及び(b)は‘cow’モデルのメッシュ表現及びボクセル化された表現を意味する。図3の(c)は初期分割段階IDS、(d)は再帰的分割段階RDS、そして、(e)は反復的併合段階IMSが行われた結果を示す。最終的に生成された属性関係グラフ(ARG)は図3の(f)に示した通りであり、楕円体に表現されたノードとノードとを連結するエッジとは分割された形状の部分をそれぞれ近似するようになる。
次に、知覚的3次元形状記述子は次の通りである。図4は、知覚的に認識可能な3次元形状記述方法をフローチャートとして示したものであって、大きくノードを生成する段階(400段階)とエッジを生成する段階(410段階)及び属性関係グラフを生成する段階(420段階)よりなる。前記ノード生成段階(400段階)では3次元形状モデルに対する部分基盤表現の部分にそれぞれ対応し、前記各部分の属性を表す単一属性を具備するノードを生成する。前記エッジ生成段階(410段階)では前記ノード間の関連性を表す相関属性を有するエッジを生成する。前記属性関係グラフ生成段階(420段階)は前記ノードとエッジとよりなる属性関係グラフの形態を生成する。さらに詳しく説明すれば、与えられた3次元モデルに対する知覚的3次元形状記述子は前述した部分基盤表現によって生成される。知覚的3次元形状記述子はノードとエッジとに定義される属性関係グラフ(Attributed Relational Graph:ARG)の形態を有する。ここでノードは3次元モデルの部分基盤表現での部分及びその単一属性を表現し、エッジはノード間の相関属性を意味する。本実施例での知覚的3次元形状記述子は4つの単一属性と、連結されたノードの主要軸間の幾何学的な関係から誘導された3つの相関属性を活用している。
具体的にノードは体積(volume)v、凸度(convexity)c、2つの離心率(eccentricity)値であるe1及びe2と定義される楕円体によって表現される。ここで、凸度はノードの体積をノードの凸体の体積で割った値であり、離心率はノードの第1、第2、第3の主要軸方向への分散をそれぞれa、b、c(a≧b≧c)という時、数式1と数式2によってe1及びe2に表現される。
そして、図5は知覚的形状記述子の2つのノード間の関係であるエッジ属性を示すものであって、前記エッジ属性は図5のように2つの楕円体間の幾何学的な関係から抽出される。具体的に連結された2つの楕円体の中心間距離、第1の主要軸間の角度、第2の主要軸間の角度がエッジの属性として活用される。特に、全てのノードの単一属性とエッジの相関属性は[0、1]の範囲を有するように正規化過程を行う。
図6は、知覚的3次元形状記述子の2進表現形式の構造を示している。ここで、ノードの属性はノードの体積、中心、オブジェクト中心座標系からの部分の変換、各主要軸方向への分散及び凸度よりなる。前記分散は楕円体を構成するボクセルの楕円体を3次元主要軸上の分布程度を示す。ここでは知覚的3次元形状記述子の有することができる最大ノード数を32個であると仮定した。また知覚的3次元形状記述子を格納するための記憶容量を減らすために全ての単一属性を所定ビット数、望ましくは8ビットに量子化した。もし図6のように8ビットで全ての属性を量子化するならば、知覚的3次元形状記述子が5個のノードを有している時、全体記述子のサイズは72バイトに過ぎない。また各属性毎に相異なる量子化ビット数を割り当てられる。そして、前記知覚的に認識可能な3次元形状記述方法によって記述された3次元形状データはコンピュータで読み出せる記録媒体に記録することができる。
次に、3次元モデルデータベース検索方法及び装置を説明する。まず、前記モデルデータベースは前述した3次元グラフィックモデルの知覚的3次元形状記述子によって記述された3次元グラフィックモデルを格納している。図7は、本発明による知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置の構成をブロック図に示したものである。図7によれば、このデータベース検索装置は、質疑入力部700、形状記述子変換部710、整合部720及びモデル出力部730を含む。
前記質疑入力部700は、検索しようとする3次元グラフィックモデルを質疑に受け入れ、ユーザーが対話式道具によって3次元グラフィックモデルをデザインして入力として受け入れる。前記形状記述子変換部710は、前記質疑として入力された3次元グラフィックモデルを前記知覚的3次元形状記述子に変換し、ユーザーが前記変換された形状記述子の編集を要する場合、前記形状記述子を編集する形状編集部705をさらに具備する。
前記整合部720は、前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルを比較して前記変換された知覚的3次元形状記述子と類似したモデルとを探す。前記整合部720は、重量変換部722及びモデル検索部724を含む。前記重量変換部722は、ノードの体積を重量として定義する。前記モデル検索部724は、EMD方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探す。前記モデル出力部730は前記見つけられた類似したモデルを出力する。
一方、前記3次元モデルデータベース検索装置の動作を説明する。
図8は、本発明による3次元モデルデータベース検索装置の動作を示すフローチャートである。
まず所定の3次元グラフィックモデルを受け入れても(800段階)、ユーザーがインタラクティブなツールを利用して3次元グラフィックモデルを描いてデータベースに質疑してもいい(810段階)。前記3次元グラフィックモデルを前記知覚的3次元形状記述子に変換する(820段階)。形状記述子に変換した後、ユーザーが編集を要すれば(830段階)、ユーザーは前記形状記述子を編集する場合もある(840段階)。
それから、前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探し(850段階)、前記類似したモデルを出力する(860段階)。
図9は、質疑グラフ及びモデルグラフ間の類似度を測定する方法をフローチャートであって、図9を参照してデータベース検索過程を詳細に説明する。
前記850段階は、1対のグラフモデルを受け入れ(900段階)、ノードの体積を重量に定義した後(910段階)、EMD方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較し(920段階)、前記変換された知覚的3次元形状記述子と類似したモデルを探し出す(930段階)。
前記EMD方法(920段階)は、質疑グラフを構成する質疑ノードとモデルグラフを構成するモデルノード間の距離を行列に示した距離行列を生成する内部EMD段階(922段階)及び前記距離行列からノード自体の属性を考慮して類似度を測定する外部EMD段階(924段階)よりなる。
前記内部EMD段階(922段階)では質疑グラフを構成する質疑ノードと前記データベースに格納されている3次元グラフィックモデルのモデルグラフを構成するモデルノードを抽出して比較対象となる質疑ノードとモデルノードとのノード組合せを設定する(926段階)。それから、前記各組合せについてノード間距離を測定して距離行列を生成する(928段階)。
前記距離行列生成段階(928段階)では前記各組合せについて質疑グラフ及びモデルグラフの任意のノード間距離を求めるためにノード間の属性ベクトル差の絶対値として定義された距離行列を構成し(933段階)、エッジ属性として定義された相関属性を軸とするベクトル空間を構成し(934段階)、前記ベクトル空間で質疑ノードとモデルノードとを点の集合として表現する(936段階)。それから、全ての点から距離が一定である仮想のノードを設定し(938段階)、前記ベクトル空間で定義されたユークリッド距離を求め、また異なる距離行列を生成し(940段階)、前記2つの距離行列を加算した第1の距離行列を生成する(942段階)。
前記外部EMD段階(924段階)は前記距離行列とノードの重量から質疑グラフからモデルグラフへの必要仕事量を計算し(930段階)、前記必要仕事量を加算して類似度を測定する(932段階)。
これをさらに詳細に説明する。まず前記データベースの整合(マッチング)技法として二重地球移動子距離を説明する。一般的にグラフ整合技法は3つの段階で構成される。第1の段階は質疑とモデルグラフの全てのノード間距離とで構成される距離行列を単一属性あるいは相関属性間の差を利用して構成する。第2の段階は前記第1の段階の距離行列を利用してノード間対応関係を設定する過程である。前記第2の段階は一対一写像を仮定する場合、一般的に二部整合技法(bipartite matching technique)を採用する。最後の段階では対応関係が設定されたノードの差から2つのグラフ間非類似度を抽出する。
これまで各段階に対する多様なアルゴリズムが独立的にあるいは同時に開発されてきた。ところが、知覚的3次元形状記述子の整合性能を高めて究極的に実際検索システムで知覚的3次元形状記述子を活用しようとすれば、前記第2の段階で多対多写像を考慮してノード間対応関係を設定する必要がある。すなわち、多対多写像を考慮すれば、質疑とモデルグラフの異なる数のノードとエッジとを有している場合にさらに正確な整合及び検索が可能である。このような多対多写像を活用するためのアルゴリズムとしてEMDが知られている。
まず質疑とモデルグラフ間非類似度をEMDとして定義するためにノードの単一属性である体積を重量と定義する。そして、ノード間対応関係を設定するための距離行列を求めるために別途のEMDを活用する。ここで前者のEMDを外部EMD、後者のEMDを内部EMDと命名し、このような2つの段階の構造を有する整合技法を二重EMDと定義する。前記内部EMDと外部EMDとを利用して質疑とモデルグラフ間の類似度を評価する過程は次の通りである。
前記内部EMDは次のように定義される。質疑及びモデルグラフの任意のノード(図10のNq及びNm)間距離は2つの相異なる距離の和に計算される。まずノード自体の属性による類似度を求めるためにノードの属性ベクトル差の絶対値で距離行列を求める。次にエッジによって連結された履修ノードによる類似度を求めるためにエッジ属性に定義された相関属性を軸とするベクトル空間を構成する。すなわち、図10の座標系で3つの軸はそれぞれ相関属性の一つである距離と2つの角度を意味する。それによって、Nq及びその隣接したノード、Nm及びその隣接したノードはそれぞれのベクトル空間で点の集合で表現される。特に、Nq及びNmは各ベクトル空間の原点に該当する。最後に全ての点からの距離(図10のd)が一定な仮想の点(図10の中ウィーン円)を設定するが、これは各ベクトル空間の重量の和が1になるようにしながらNq及びNmに隣接していないノード(図7に存在していないノード)への重量転移を防止するためである。すなわち、比較対象間の連結構造は似ているが、全体的な体積差の大きい場合、類似度を強制的に小さくする役割をする。それによって、図8のようにベクトル空間で定義されたユークリッド距離を利用して距離行列が構成でき、図10の各点の重量と図11の距離行列とを利用した内部EMDからNqとNm間距離が求められる。
あらゆる内部EMDを求めた後には質疑とモデルグラフのノード間必要仕事量とを外部EMDを利用して求められる。すなわち、2つのグラフの非類似度は必要仕事量を加算した値として定義される。
一方、3次元モデル検索の機能性について説明する。3次元モデルデータベースの形状検索で既存の方法では不可能である新しい機能性を本発明による知覚的3次元形状記述子から考慮できる。本発明による3次元形状記述子の最も大きい特徴は、本発明による3次元形状記述子が人間が形状を認知する方式と一致するという点である。したがって、本発明による3次元形状記述子から3次元モデルの位相的な形状が理解でき、またこれに符合する検索結果が得られる。例えば、知覚的3次元形状記述子が1つの部分に頭、4つの足、尻尾を意味する6つの部分が連結されている情報を表現していれば、その記述子が動物形状を意味するという事実が認知でき、動物を検索結果として予想できる。
このような3次元形状記述子に対する人間の可読性はスケッチを通じた質疑及び編集を通じた質疑という新しい種類の形状検索を可能にする。部分基盤表現は生成及び編集が容易であるので、球、楕円体、箱、円筒で部分を表現し、その連結関係を設定することによって、ユーザーが容易に質疑を構成できる。このように構成された質疑を直ちに知覚的3次元形状記述子に変換して検索エンジンに伝達できる。同じく、ユーザーは対話式に3次元形状記述子を修正して別の結果を得るための新しい検索を試みることができる。
図12は、スケッチを通じた質疑を利用した検索システムの例であって、スケッチによる質疑の一例とその検索結果を示している。図12の(a)、(b)、(c)はそれぞれスケッチとして表現された質疑、最も高い類似度を示す検索結果、検索されたモデルのARGを意味する。また、高い類似度を示す別の検索結果も図12の(b)と類似した構造を有することが確認できる。ユーザーは幾つかのマウス操作でノードを位置させて連結することによって、簡単な位相的な構造がスケッチできる。このような例を通じて、スケッチを通じた質疑という知覚的3次元形状記述子のみの機能性の有用性及び可能性が確認できる。
本発明の一実施例に対する模擬実験結果は次の通りである。まず、知覚的3次元形状記述子の生成を説明する。図13は、メッシュで表現された元来の3次元オブジェクトモデルとそれから生成されて属性関係グラフで表現された知覚的3次元形状記述子を示す。例示されたようにメッシュモデルと形状記述子間に認知的な一致関係が成立する。すなわち、形状記述子のみを見ても人を人と、ヘリコプターをヘリコプターと認識できることである。図14(a)及び(b)は、図13(f)に例示された元来の3次元オブジェクトを拡大または縮小したオブジェクトであり、常に一定な形状記述子が生成されることが分かる。図15は、雑音が添加されるか、形状に変形が起きる場合の形状記述子の生成例を示した例示である。図15(a)、(b)、(c)に例示されたオブジェクトはそれぞれ図13(f)に例示された元来の3次元オブジェクトにノイズを添加し、角を増やし、2つの足を増やしたオブジェクトを意味する。予想した通り、生成される知覚的形状記述子は図15の(d)、(e)、(f)に例示したように一致する形状の変化が表現されており、全て元の形状を類推可能に表われる。実験の結果、本発明による知覚的3次元形状記述子は。サイズの変化、雑音、形状変形に強く生成され、人間の知覚的認識において元のオブジェクトと一致することを示す。知覚的形状記述子の属性関係グラフは3次元モデルデータベースの検索に利用されて人間の認知と符合する検索結果を示す。
次に、データベース検索を説明する。知覚的3次元形状記述子のデータベースでの検索性能を分析するために現在、MPEG−7に利用されるデータベースを利用して検索実験を行った。データベースには3,903個の3次元グラフィックモデルが存在し、このモデルは4階層を有し、8個の大分類カテゴリーと102個の小分類カテゴリーとを有する階層的ツリー構造に分類される。性能測定基準としては、やはりMPEG−7に利用されるBEP(Bull's Eye Performance)とANMRR(Average Normalized Matching Retrieval Rate)を利用し、質疑モデルの属した小分類カテゴリーを真値として利用した。BEPは、大きい値が良い性能を意味し、ANMRRは小さい値が良い性能を意味する。
図16に336個のモデルで構成された質疑モデル集合に対する全体検索性能を示した。質疑モデル集合は選択された10個の小分類カテゴリーに属するモデルであり、従来の技術であるShape3Dと性能比較を行った。図12に示したように本発明による知覚的3次元形状記述子の性能は、BEPとANMRRで共に従来の技術を大幅に上回り、絶対的な性能値も非常に優秀であることが分かる。
本発明はコンピュータで読み出せる記録媒体にコンピュータ(情報処理機能を有する装置を全て含む)が読み出せるコードとして具現することが可能である。コンピュータが読み出せる記録媒体はコンピュータシステムによって読み出せるデータが格納されるすべての種類の記録装置を含む。コンピュータが読み出せる記録装置の例としては、ROM、RAM、CD−ROM、磁気テープ、フロッピーディスク、光データ記憶装置などがある。
本発明は図面に図示した実施例を参考に説明されたが、これは例示的なものに過ぎず、本技術分野の当業者であれば、これより多様な変形及び均等な他の実施例が可能である点が理解できるであろう。したがって、本発明の真の技術的保護範囲は特許請求の範囲の技術的思想によって定められねばならない。
本発明は、コンピュータグラフィックス関連分野で利用可能であり、特に、コンピュータグラフィックス関連データベース検索システムで有用に活用することができる。
Shape3Dの形状区別能力の限界を示す一例である。 形状分割技法を示したブロック図である。 ‘cow’モデルに対して部分基盤表現を生成する過程を一例として示した図である。 知覚的に認識可能な3次元形状記述方法を示したフローチャートである。 知覚的形状記述子の2つのノード間の関係であるエッジ属性を示す図である。 知覚的3次元形状記述子の2進表現形式の構造を示す図である。 本発明による知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置の構成を示したブロック図である。 本発明による3次元モデルデータベース検索装置の動作を示したフローチャートである。 グラフィックモデル間類似度を測定する方法を示したフローチャートである。 内部EMDを計算するためのベクトル空間とこのベクトル空間に位置したノードの2進関係を示す一例である。 図10の一例から生成された距離行列である。 スケッチによる質疑の一例とその検索結果を示す図である。 属性関係グラフに表現された知覚的形状記述子の例を示す図である。 相異なる拡大/縮小比率を有する‘triceratops’モデルに対する知覚的形状記述子の生成例である。 雑音が添加されるか形状が変形された‘triceratops’モデルに対する知覚的形状記述子の生成例である。 検索データベースに対してBEPとANMRRに測定された知覚的形状記述子とShape3Dの検索性能とを示す図である。

Claims (20)

  1. 3次元形状モデルに対する部分基盤表現の部分にそれぞれ対応し、前記各部分の属性を示す単一属性を具備するノードを生成する段階と、
    前記ノード間の関連性を示す相関属性を有するエッジを生成する段階と、
    前記ノードとエッジとよりなる属性関係グラフの形態を生成する段階と、を含むことを特徴とする知覚的に認識可能な3次元形状記述方法。
  2. 前記ノードは、
    体積、凸度及び離心率によって定義される楕円体として表現されることを特徴とする請求項1に記載の知覚的に認識可能な3次元形状記述方法。
  3. 前記ノードの単一属性は、
    少なくとも前記部分の体積、離心率及び凸度を含むことを特徴とする請求項1に記載の知覚的に認識可能な3次元形状記述方法。
  4. 前記ノードの単一属性は、
    前記楕円体を構成するボクセルの3次元主要軸上の分布程度を示す分散、前記楕円体の中心及び前記ノードのオブジェクト座標系からの変換をさらに具備することを特徴とする請求項2に記載の知覚的に認識可能な3次元形状記述方法。
  5. 前記相関属性は、
    少なくともノード間の距離及び楕円体の長軸及び短軸間の角度を含むことを特徴とする請求項2に記載の知覚的に認識可能な3次元形状記述方法。
  6. 前記ノードの単一属性は、
    所定のビット数に量子化されることを特徴とする請求項1に記載の知覚的に認識可能な3次元形状記述方法。
  7. 請求項1ないし6のうち何れか1項に記載の発明によって記述された知覚的に認識可能な3次元形状データが書き込まれたコンピュータで読み出せる記録媒体。
  8. 請求項1ないし6によって記述された3次元グラフィックモデルの知覚的3次元形状記述子を格納しているデータベースの3次元グラフィックモデル検索方法において、
    所定の3次元グラフィックモデルを受け入れる入力段階と、
    前記受け入れた3次元グラフィックモデルを知覚的3次元形状記述子に変換する変換段階と、
    前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探し出す検索段階と、を含むことを特徴とする知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  9. 前記入力段階は、
    ユーザーがインタラクティブなツールによって3次元グラフィックモデルをデザインして入力することを特徴とする請求項8に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  10. 前記変換段階は、
    ユーザーが前記変換された形状記述子の編集を望む場合、前記生成された形状記述子を編集する段階をさらに具備することを特徴とする請求項8に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  11. 前記検索段階は、
    ノードの体積を重量として定義する段階と、
    二重地球移動子距離方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似のモデルを探し出すことを特徴とし、
    前記二重地球移動子距離方法は、
    質疑グラフを構成する質疑ノードとモデルグラフを構成するモデルノード間の距離を行列に示した距離行列を生成する内部地球移動子距離段階と、
    前記距離行列からノード自体の属性を考慮して類似度を測定する外部地球移動子距離段階とよりなる、請求項8に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  12. 前記内部地球移動子距離段階は、
    前記変換された3次元形状記述子の質疑グラフを構成する質疑ノードと前記データベースに格納されている3次元グラフィックモデルのモデルグラフを構成するモデルノードとを抽出して比較対象となる質疑ノードとモデルノードとのノード組合せを設定する段階と、
    前記各組合せに対してノード間距離を測定して距離行列を生成する距離行列生成段階と、を含むことを特徴とする請求項11に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  13. 前記距離行列生成段階は、
    ノード間の属性ベクトルの差の絶対値として定義された距離行列を構成する段階と、
    相関属性を軸とするベクトル空間を構成する段階と、
    前記ベクトル空間で質疑ノードとモデルノードとを点の集合として表現する段階と、
    全ての点から距離が一定である仮想の点を設定する段階と、
    前記ベクトル空間で定義されたユークリッド距離を求めてさらに他の距離行列を生成する段階と、
    前記2つの距離行列を加算した最初の距離行列を生成する段階と、を含むことを特徴とする請求項12に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  14. 前記外部二重地球移動子距離段階は、
    前記距離行列及び質疑グラフとモデルグラフのノードの重量から二重地球移動子距離を適用して必要仕事量を計算する段階と、
    必要仕事量を加算して類似度を測定する段階と、を特徴とする請求項11に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索方法。
  15. 請求項8ないし請求項14のうち何れか1項に記載の発明をコンピュータで実行させるためのプログラムを記録したコンピュータで読み出せる記録媒体。
  16. 請求項1ないし請求項6に記述された3次元グラフィックモデルの知覚的3次元形状記述子によって記述された3次元グラフィックモデルを格納しているデータベースの3次元グラフィックモデル検索装置において、
    検索しようとする3次元グラフィックモデルを質疑として受け入れる質疑入力部と、
    前記質疑で入力された3次元グラフィックモデルを知覚的3次元形状記述子に変換する形状記述子変換部と、
    前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探す整合部と、
    前記見つけられた類似したモデルを出力するモデル出力部と、を含むことを特徴とする知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置。
  17. 前記質疑入力部は、
    ユーザーが対話式道具によって3次元グラフィックモデルをデザインして入力することを特徴とする請求項16に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置。
  18. 前記変換部は、
    ユーザーが前記変換された形状記述子の編集を望む場合、前記生成された形状記述子を編集する形状編集部をさらに具備することを特徴とする請求項16に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置。
  19. 前記整合部は、
    ノードの体積を重量に定義する重量変換部と、
    二重地球移動子距離方法によって前記変換された知覚的3次元形状記述子と前記データベースに格納されている知覚的3次元グラフィックモデルとを比較して前記変換された知覚的3次元形状記述子と類似したモデルを探すモデル検索部と、を具備することを特徴とし、
    前記二重地球移動子距離方法は、
    質疑グラフを構成する質疑ノードとモデルグラフを構成するモデルノード間の距離を行列に示した距離行列を生成する内部地球移動子距離段階と、
    前記距離行列から必要仕事量を計算して類似度を測定する外部二重地球移動子距離段階とよりなる、請求項16に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置。
  20. 前記内部地球移動子距離段階は、
    前記変換された3次元形状記述子の質疑グラフを構成する質疑ノードと前記データベースに格納されている3次元グラフィックモデルのモデルグラフを構成するモデルノードとを抽出して比較対象となる質疑ノードとモデルノードとのノード組合せを設定する段階と、
    前記各組合せに対して質疑グラフ及びモデルグラフの任意のノード間距離を求めるためにノード間の属性ベクトルの差の絶対値として定義された距離行列を構成する段階と、
    エッジ属性で定義された相関属性を軸とするベクトル空間を構成する段階と、
    前記ベクトル空間で質疑ノードとモデルノードとを点の集合で表現する段階と、
    全ての点から距離が一定な仮想の点を設定する段階と、
    前記ベクトル空間で定義されたユークリッド距離を求めてさらに他の距離行列を生成する段階と、
    前記2つの距離行列を加算した最終の距離行列を生成する段階と、を具備し、
    前記外部二重地球移動子距離段階は、
    前記距離行列、質疑グラフ及びモデルグラフのノードの重量から二重地球移動子距離を適用して必要仕事量を計算する段階と、
    前記必要仕事量を加算して類似度を測定する段階と、を含むことを特徴とする請求項19に記載の知覚的に認識可能な3次元グラフィックモデルのデータベース検索装置。
JP2003406743A 2002-12-05 2003-12-05 知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置 Expired - Lifetime JP4166678B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US43097402P 2002-12-05 2002-12-05
US51014703P 2003-10-14 2003-10-14
KR10-2003-0084215A KR100513735B1 (ko) 2002-12-05 2003-11-25 지각적 인식이 가능한 3차원 형상의 기술방법과 이를이용한 3차원 그래픽 모델의 데이터베이스 검색 방법 및장치

Publications (2)

Publication Number Publication Date
JP2004185626A true JP2004185626A (ja) 2004-07-02
JP4166678B2 JP4166678B2 (ja) 2008-10-15

Family

ID=32329666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003406743A Expired - Lifetime JP4166678B2 (ja) 2002-12-05 2003-12-05 知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置

Country Status (3)

Country Link
EP (1) EP1429264B1 (ja)
JP (1) JP4166678B2 (ja)
CN (1) CN1527251A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101814727B1 (ko) 2016-08-01 2018-01-05 상명대학교산학협력단 3d 메쉬 모델의 기술자 생성 방법 및 포즈 변형된 3d 메쉬 모델 인식 방법

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2415520A (en) * 2004-06-25 2005-12-28 Myriad Vision Ltd Hierarchical 3D data system
KR20060066340A (ko) * 2004-12-13 2006-06-16 삼성전자주식회사 3차원 구조 스케치 제작장치와 방법 및 컴퓨터 프로그램을저장하는 컴퓨터로 읽을 수 있는 기록매체
CN101084498A (zh) * 2004-12-31 2007-12-05 富士通株式会社 三维模型的检索方法和装置
CN100456300C (zh) * 2006-10-27 2009-01-28 北京航空航天大学 基于二维草图的三维模型检索方法
CN101201845B (zh) * 2007-09-24 2012-01-11 覃征 基于中轴点集分层螺旋信息的三维模型检索方法
WO2013044484A1 (en) * 2011-09-29 2013-04-04 Thomson Licensing Method and apparatus for robust similarity comparison of 3d models
JP2015191617A (ja) * 2014-03-28 2015-11-02 富士通株式会社 算出プログラム、算出装置および算出方法
JP6311404B2 (ja) * 2014-03-31 2018-04-18 富士通株式会社 管理プログラム、管理装置および管理方法
CN108717424B (zh) * 2018-04-25 2021-06-11 鹰霆(天津)科技有限公司 一种基于分解式图匹配的三维模型检索方法
CN114463396B (zh) * 2022-01-07 2024-02-06 武汉大学 一种利用平面形状和拓扑图投票的点云配准方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101814727B1 (ko) 2016-08-01 2018-01-05 상명대학교산학협력단 3d 메쉬 모델의 기술자 생성 방법 및 포즈 변형된 3d 메쉬 모델 인식 방법

Also Published As

Publication number Publication date
EP1429264A3 (en) 2006-04-05
EP1429264A2 (en) 2004-06-16
CN1527251A (zh) 2004-09-08
EP1429264B1 (en) 2016-06-29
JP4166678B2 (ja) 2008-10-15

Similar Documents

Publication Publication Date Title
KR100513735B1 (ko) 지각적 인식이 가능한 3차원 형상의 기술방법과 이를이용한 3차원 그래픽 모델의 데이터베이스 검색 방법 및장치
JP4516957B2 (ja) 3次元オブジェクトについて検索を行なうための方法、システムおよびデータ構造
Iyer et al. Three-dimensional shape searching: state-of-the-art review and future trends
JP5131072B2 (ja) 三次元モデル検索装置、三次元モデル検索方法及びプログラム
Iyer et al. A reconfigurable 3D engineering shape search system: Part I—Shape representation
KR100413679B1 (ko) 형상 기술자 추출방법
US8849030B2 (en) Image retrieval using spatial bag-of-features
JP2009080796A5 (ja)
EP2927827B1 (en) Program, apparatus, and method for managing structure data
JP4166678B2 (ja) 知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置
Ahmad et al. Describing colors, textures and shapes for content based image retrieval-a survey
Hu et al. Curve skeleton extraction from 3D point clouds through hybrid feature point shifting and clustering
JP2005234994A (ja) 類似度判定プログラム、マルチメディアデータ検索プログラム、類似度判定方法、および類似度判定装置
Akgül et al. Density-based 3D shape descriptors
Kolonias et al. Fast content-based search of VRML models based on shape descriptors
Theologou et al. A review on 3D object retrieval methodologies using a part-based representation
CN111597367B (zh) 基于视图和哈希算法的三维模型检索方法
Hou et al. Dynamic query interface for 3D shape search
Takashima et al. Shape descriptor-based similar feature extraction for finite element meshing
Chi et al. Object-Oriented 3D Semantic Mapping Based on Instance Segmentation
Yang et al. Unsupervised co-segmentation of 3d shapes based on components
Kim et al. Interactive 3-D shape retrieval system using the attributed relational graph
Wang et al. Content-based information retrieval for VRML 3D objects
Hachani Reeb Graph Modeling of 3-D Animated Meshes and its Applications to Shape Recognition and Dynamic Compression
CN116524301A (zh) 一种基于对比学习的3d点云场景实例形状搜索定位方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20061026

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20061027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070319

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070717

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080730

R150 Certificate of patent or registration of utility model

Ref document number: 4166678

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120808

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130808

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term