JP5131072B2 - 三次元モデル検索装置、三次元モデル検索方法及びプログラム - Google Patents

三次元モデル検索装置、三次元モデル検索方法及びプログラム Download PDF

Info

Publication number
JP5131072B2
JP5131072B2 JP2008189097A JP2008189097A JP5131072B2 JP 5131072 B2 JP5131072 B2 JP 5131072B2 JP 2008189097 A JP2008189097 A JP 2008189097A JP 2008189097 A JP2008189097 A JP 2008189097A JP 5131072 B2 JP5131072 B2 JP 5131072B2
Authority
JP
Japan
Prior art keywords
model
dimensional
image
search
dimensional model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008189097A
Other languages
English (en)
Other versions
JP2009080796A5 (ja
JP2009080796A (ja
Inventor
月紅 王
ルジエ リュウ
孝之 馬場
進 遠藤
秀一 椎谷
祐介 上原
大器 増本
茂美 長田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JP2009080796A publication Critical patent/JP2009080796A/ja
Publication of JP2009080796A5 publication Critical patent/JP2009080796A5/ja
Application granted granted Critical
Publication of JP5131072B2 publication Critical patent/JP5131072B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/56Information retrieval; Database structures therefor; File system structures therefor of still image data having vectorial format
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Architecture (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、三次元モデル検索に関し、特に二次元画像に基づいて三次元モデルの記述と検索を行う技術に関するものである。
近年の三次元データ取得技術、コンピュータ支援設計(CAD)技術、およびグラフィックス・ハードウェアの進歩に伴い、インターネットや特定のデータベースなどの様々なアーカイブにおいて三次元モデルの利用がますます広がっている。その一方で、高精度の三次元モデルの設計には多大なコストと時間がかかってしまう。そのため、現存するモデルを効率良く利用することが重要となるが、膨大な量の集合の中から有用なモデルを検索することは容易ではなく、効率的な三次元モデル検索方法を発見する努力が研究者によってなされてきている。
これまでに三次元モデル検索の様々な方法が提案されてきたが、これらは大まかに言ってキーワードベースの検索方法とコンテンツベースの検索方法の2種類に分類できる。前者の方法では、三次元モデルを意味レベルで記述し、モデルの特徴を大きさ、素材、色、カテゴリなどの一連の記述的ワードによって表現する。これらの記述的ワードは、三次元モデルの集合が小規模な初期段階において適用可能なものである。後者の方法では、モデルのコンテンツそのものがモデル検索処理において考慮される。モデルの数が急激に増えた場合には、コンテンツベースの検索技術がますます注目される。現在利用可能なコンテンツベースの検索方法は、特徴ベクトルベースの方法、トポロジーベースの方法、二次元画像ベースの方法の3種類に分類できる。
特徴ベクトルベースの方法では、三次元物体を記述するのに特徴ベクトルを用いる。この種の方法で最もよく知られているのは形状分布である(形状分布法の詳細は非特許文献1を参照)。この種の方法では、特徴の抽出とモデルの比較とを非常に効率良く行うことができる。しかし、特徴ベクトルは比較的単純でモデルの情報が正確に記述されないので、十分な検索精度が得られない。それでもなお、この方法は単純かつ効率的であるため、プレ分類器として他の方法に組み入れることができる。
トポロジーベースの検索方法では、ツリーまたはグラフを用いて三次元モデルの構造を記述し、2つのツリーあるいはグラフのマッチングを行うことで2つのモデルの比較を行う(詳細は非特許文献2を参照)。トポロジー構造を用いれば三次元モデルの形状の重要な情報が直観的な形で得られ、このような特徴はアフィン変換の不変量となる。しかしながら、トポロジーはモデルの微細な変化に影響を受け易く、ツリーやグラフのトポロジーマッチングには時間がかかりすぎてしまうという欠点があるため、この種の方法の応用は制限される。
二次元画像ベースの検索方法では、三次元モデルに基づいて一連の二次元画像を生成し、対応する二次元画像を比較することにより三次元モデルの比較を行う。このような方法の中では、非特許文献3に記載された光線空間記述子や、非特許文献4に記載された特徴ビューが、二次元画像に基づいたモデル検索方法で最も広範に応用されているものである。
非特許文献3に記載された方法では、三次元モデルの特徴を表現するのに10個の光空間記述子を用い、それぞれの光空間記述子は10個の画像の特徴から構成される。モデルの比較は、これらの光空間記述子間での比較をすることにより行われる。三次元モデルに基づいた二次元画像の生成では、モデルの中心に正12面体を置き、正12面体の20個の頂点を視点として用いて、クアドラチュア投影により20個のバイナリ画像を生成する。このとき、対向位置にある2個の頂点を視点とする2枚の画像は同一のものなので10個の画像が保持され、これらの10個の画像に基づいて1個の光空間記述子が生成される。別の光空間記述子を求めるためには、正12面体を回転して別の画像を求めればよい。非特許文献3に記載された方法では、10個の光空間記述子を生成して、マッチした画像間の距離を累積することにより2個の光空間記述子の比較を行う。10個の光空間記述子を求める処理には、全部で100個の画像が用いられることになる。
非特許文献4に記載された特徴ビューに基づく方法では、三次元モデルの中心に正20面体を置き、正20面体のポリゴンを分割して80個の均等に分布したポリゴンを求める。そして、これらの80個のポリゴンの中心を視点として用いてクアドラチュア投影により80個の初期ビューを求め、各三次元モデルについて80個の初期ビューから代表ビューを選択する。続いて、ベイズ確率理論に基づき、モデルの全ての代表ビューの中からクエリ画像に対応する代表ビューを探索し、クエリとデータベースモデル間の類似度を算出する。
いくつかの総合的な文書には、二次元画像に基づく検索方法では、特徴ベクトルに基づく検索方法やトポロジーに基づく検索方法と比較して、より優れた検索結果が得られることが記載されている(詳細は非特許文献5及び非特許文献6を参照)。
しかしながら、前述の二次元画像に基づく方法では、膨大な数の画像とその特徴抽出およびモデル比較の処理に要する時間のため、実際の応用は制限される。
R. Osada, R. Funkhouser, T. Chazelle: Shape distributions. ACM Transactions on Graphics, 21(5), 807--832(2002). M. Hilaga, Y. Shinagawa, T. Kohmura, T.L. Kunii: Topology matching for fully automatic similarity estimation of 3D shapes. Proceedings SIGGRAPH, 203--212(2001). C. Ding-Yun, T. Xiaopei, S. Yute, O. Ming: On visual similarity based 3D model retrieval. Proceedings of European association for Computer Graphics, 22(3), 223--232(2003). T.F. Ansqry, J.Vandeborre, M. Daoudi: A framework for 3D CAD models retrieval from 2D images. Annual of telecommunications technologies and tools for 3D imaging. Vol.60 (11-12), 2005. P. Shilane, P. Min, M. Kazhdan, T. Funkhouser: The Priceton shape benchmark. Proceedings of the international conference on Shape modeling, 167--178(2004). N. Iyer, S. Jayanti, K. Ramani: An engineering shape benchmark for 3D models. Proceedings of ASME IDETC/CIE, 24--28(2005).
本発明は、先行技術である三次元モデル検索方法に特有の前述した欠点に鑑みてなされたものであり、非常に効率良く三次元モデルを検索することができる三次元モデル検索技術を提供することを目的とする。
この目的を達成するため、本発明は新しい三次元検索技術を提供する。本発明では、まず三次元モデルを回転、平行移動してモデルを正規化し、この正規化モデルを投影することにより比較的少数の二次元画像を生成する。そして、これらの二次元画像から三次元モデルの記述子を生成し、この記述子に基づいて三次元モデルの検索を行う。
以下の技術上の解決案は、本発明の原理に沿って提案されるものである。
発明1:三次元モデル検索装置は、三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向を三次元空間の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるモデル正規化手段と、前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成する二次元画像生成手段と、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定するモデル記述手段と、前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する検索手段と、を備えたことを特徴とする。
発明2:発明1に係る三次元モデル検索装置において、前記モデル正規化手段は、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする。
発明3:発明1に係る三次元モデル検索装置において、前記二次元画像生成手段は、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする。
発明4:発明1に係る三次元モデル検索装置において、前記二次元画像生成手段は、1つの三次元モデルにつき、6以下の二次元画像を生成することを特徴とする。
発明5:発明1に係る三次元モデル検索装置において、前記モデル記述手段は、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする。
発明6:発明5に係る三次元モデル検索装置において、前記検索手段は、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする。
発明7:発明5に係る三次元モデル検索装置において、前記三次元モデル検索装置は、二次元画像をクエリとして取得し、前記検索手段は、モデルデータベース内の三次元モデルのモデル記述子に基づき、クエリとなる二次元画像とモデルデータベース内の三次元モデルとの間の距離を算出し、当該距離に基づき検索を行うことを特徴とする。
発明8:三次元モデル検索方法は、コンピュータが、三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させ、前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成し、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定し、前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索することを特徴とする。
発明9:発明8に係る三次元モデル検索方法において、前記モデル正規化ステップでは、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づき三次元モデルの主軸方向を判定し、主軸方向に基づき三次元モデルを回転することを特徴とする。
発明10:発明8に係る三次元モデル検索方法は、前記二次元画像生成ステップでは、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする。
発明11:発明8に係る三次元モデル検索方法において、前記二次元画像生成ステップでは、1つの三次元モデルにつき、6以下の二次元画像を生成することを特徴とする。
発明12:発明8に係る三次元モデル検索方法において、前記モデル記述ステップでは、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする。
発明13:発明12に係る三次元モデル検索方法において、前記検索ステップでは、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする。
発明14:発明12に係る三次元モデル検索方法において、前記三次元モデル検索ステップは、二次元画像をクエリとして取得し、前記検索手段は、モデルデータベース内の三次元モデルのモデル記述子に基づき、クエリとなる二次元画像とモデルデータベース内の三次元モデルとの間の距離を算出し、当該距離に基づき検索を行うことを特徴とする。
発明16:プログラムは、三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させ、前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成させ、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定し、前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する処理をコンピュータに実行させる
発明17:発明16に係る記録媒体において、前記モデル正規化ステップでは、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする。
発明18:発明16に係る記録媒体において、前記二次元画像生成ステップでは、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする。
発明19:発明16に係る記録媒体において、前記モデル記述ステップでは、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする。
発明20:発明19に係る記録媒体において、前記検索ステップでは、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする。
本発明によれば、三次元モデル検索の処理量が著しく減少し、検索効率が向上する。
以下、添付図面を参照して、本発明の具体的な実施例を詳細に説明する。
図1は、本発明の実施例1に係る三次元モデル検索システムを示すブロック図である。
実施例1では、三次元モデル検索装置1100は、入力部1200、モデルデータベース1300、出力部1400に接続される。ユーザーから入力部1200を経由して三次元モデルクエリが入力されると、三次元モデル検索装置1100は、入力された三次元モデルクエリに最もマッチする三次元モデルをモデルデータベース1300から検索し、その三次元モデルを出力部1400を経由して出力する。
三次元モデルクエリを入力する入力部1200はモデルクエリを入力できる入力手段であれば如何なるものでもよく、例えば、キーボード、マウス、タッチパネル、記憶媒体インターフェイス(磁気ディスクドライバ、光学ディスクドライバなどを含む)、ネットワークインターフェイスなどでもよい。検索結果を出力する出力部1400は、検索した三次元モデルを出力できる出力手段であれば如何なるものでもよく、例えば、ディスプレイ、ネットワークインターフェイス、記録媒体インターフェイスなどでもよい。モデルデータベース1300は、三次元モデルを大量に記憶できるメモリ(ローカルメモリ、ネットワークメモリを含む)上に構築すればよい。
三次元モデル検索装置1100は、モデル正規化部1101、二次元画像生成部1102、モデル記述部1103、検索部1104から構成される。モデル正規化部1101は三次元モデルを回転および/または平行移動することで、三次元モデルの主軸方向をシステム座標系の3つの座標軸と一致させ、三次元モデルの重心をシステム座標系の原点と一致させる。二次元画像生成部1102は、システム座標系の各座標軸の正方向および負方向のそれぞれに三次元モデルを投影して、6個以下の二次元画像を生成する。モデル記述部1103は、これらの二次元画像の特徴を抽出し、三次元モデルのモデル記述子を生成する。検索部1104は、その記述子に基づいてモデルクエリとモデルデータベース1300に記憶された三次元モデルとを比較し、最もマッチしたモデルを決定する。最終的な検索結果は出力部1400を経由して出力される。
三次元モデル検索装置1100は、パーソナルコンピュータ、ワークステーション、PDA(Personal Digital Assistant)などの情報処理装置を用いて実現することができる。具体的には、モデル正規化部1101、二次元画像生成部1102、モデル記述部1103、検索部1104は、情報処理装置のCPU(Central Processing Unit)およびそれに対応したプログラムを用いて実現することができる。
以下の段落では、実施例1に係る三次元モデル検索装置1100の構成部をより詳細に説明する。
ユーザーから入力部1200を経由して三次元モデルクエリが入力された場合、モデルクエリは三次元モデル検索装置1100のモデル正規化部1101にまず送られる。ここでモデルクエリは正規化されて、三次元モデルの主軸方向が三次元空間の3つの座標軸と一致し、三次元モデルの重心がシステム座標系の原点と一致するようになるため、後の処理が容易になる。一般的には、三次元モデルは三次元空間上の任意の場所に任意の方向に沿って配置してよい。正規化を行うためには、三次元モデルを回転し、平行移動することが必要になる。
平行移動に関しては、まず三次元モデルの重心座標を算出し、その後三次元モデルに平行移動変換を施すことにより、三次元モデルの重心がシステム座標系の原点となるようにする。三次元モデルの平行移動変換は当該技術分野の既知の方法を利用して行われるが、本明細書ではこれについての詳細な説明は省略し、回転変換の説明に専念する。
三次元モデルを回転正規化する方法はいくつも提案されており、例えば主成分分析(PCA)がある。しかし、PCAでは類似モデルに対して安定して主方向を得ることができないことが実験によって示されている。
この点に鑑みて、本発明の発明者は、Normal−PCA(N−PCA)と呼ばれるモデル正規化方法を提案する。この方法では、まずモデルの主軸方向を抽出し、その後に抽出した主軸方向を用いて三次元モデルを正規化する。
通常、三次元モデルは三角格子から構成され、三角形の法線方向の分布からはモデルの方向情報が得られる。したがって、本発明に係るN−PCA法では、モデルの三角形すべての法線方向の分布情報を考慮してモデルの主軸方向を検出する。以下、N−PCA法により三次元モデルを回転正規化する処理を詳細に説明する。
まず、各三角形tiの面積aiと法線方向
を算出する。ここで、i=1,2,・・・fCntであり、fCntは三次元モデルに含まれる三角形の数を表す。
図2に示すように、三角形tiの頂点をA、B、Cとし、三辺の長さをla、lb、lcとすると、三角形の面積aiは次の式(1)によって算出することができる。ここで、s=(la+lb+lc)/2であり、これは三角形の周の半分を示し、*は積算を示す。
三角形の法線方向
は式(2)によって得られる。ここで、
であり、これらは図2に示されるように三角形tの方向性エッジを示し、×はベクトルのたすきがけ操作を示す。
三角形すべての法線方向を算出した後、モデルの3つの主軸方向を三角形の法線方向の分布情報から求める。以下にこの処理を詳細に説明する。
まず、式(3)を用いて、法線方向の重み分布行列Mを算出する。ここで、
は法線方向の平均値を示し、*はベクトルの積算を示す。
行列Mを固有分解して、3つの固有ベクトルおよび固有値を求める。3つの固有ベクトルは主軸方向となり、
と表される。
式(4)を用いて、モデルの各頂点を正規化する。ここで、
および
、(i=1,2,・・・,vCnt)は初期のi番目の頂点および正規化したi番目の頂点をそれぞれ示し、
は正規化される前の三次元モデルの重心を示し、・は2つのベクトルのドット積算操作を示し、
はそれぞれ正規化したi番目の頂点
のx,y,z座標を示す。
図3は、三次元モデルの正規化結果の複数の例を示す。上述のN−PCA法を適用することで正確にかつ安定して三次元モデルの主軸方向を検出することができ、これに基づいて正規化を行う。正規化の後、モデルの主軸方向はシステム座標系の座標軸となり、モデルの重心は座標系の原点へと平行移動される。
三次元モデルを上述のように正規化したあと、モデル正規化部1101は正規化した三次元モデルを二次元画像生成部1102へ転送し、その三次元モデルに基づいて複数の二次元画像を生成する。
三次元モデルは、まず二次元画像生成部1102にて一様に標本化される。
理論的には、標本点が多いほどモデルの記述はより正確になる。それに対して、標本点が多すぎると、後続の処理の効率に影響を与えてしまう。したがって、標本点の数は、正確さと効率性のバランスを保つように、実験によって決定する。
三次元モデルを正確に記述するには、標本点は三次元モデルの表面に一様に分布する必要がある。本発明では、一様に分布した標本点を得るために、改良した標本化メカニズムを提案する。この標本化では、各三角形における標本点の数は、三角形の面積に比例する。各三角形について三角形の面積に基づいて標本点の数をまず算出し、非特許文献1の方法によって三角形を標本化することで、三角形すべてを順次標本化する。以下に、本発明に係る標本化方法を詳細に説明する。
まず、三次元モデルの表面積
を算出する。ここでfCntは三角形の数を示し、aはi番目の三角形の面積を示す。
続いて、各三角形t(i=1、2、・・・、fCnt)について、一連の標本点を三角形の面積と頂点によって求める。
1)三角形t内に入る標本点の数
を算出する。ここで、sCntは標本点の総数を示し、
は丸め処理を示す。
2)式(5)を用いてランダムに各標本点
を生成する。ここで、
は三角形tの頂点を示し(図4に図示)、
は0と1の間の2つの乱数であり、*は積算操作を示す。
図5は、上述の方法で求めた標本点の分布の典型例を示す図である。この標本化方法によって求めた標本点は、三角形内に一様に分布する。
標本化を行った後、二次元画像生成部1102は標本点を異なる6方向に投影し、6個の二次元画像を生成する。
二次元画像生成部1102では、三次元モデルをシステム座標系の各座標軸の正方向、負方向それぞれに投影し、6個の二次元画像を生成する。各二次元画像においては、標本点の約半分だけが利用される。具体的には、たとえばz軸の正方向にある標本点のみを用いて「上面画像」のみ生成し、他方でz軸の負方向にある標本点のみを用いて「底面画像」のみ生成する。同様に、x軸の正方向にある標本点のみを用いて「右側面画像」のみ生成し、他方で軸の負方向にある標本点のみを用いて「左側面画像」を生成する。また、y軸の正方向にある標本点のみを用いて「正面画像」のみ生成し、他方でy軸の負方向にある標本点のみを用いて「背面画像」のみ生成する。ユーザーの要望に応じて、生成した二次元画像はバイナリ画像にしてもよいし、濃淡画像にしてもよい。
以下に、「上面画像」の生成を例にして、二次元画像生成部1102が二次元画像を生成する処理について説明する。
がz軸より上にある標本点であり、画像のサイズをN*Nに設定したとする。
標本点のx、y座標の範囲が
であるとして、次式を用いてステップ幅xstep,ystepを算出する。
3)各標本点
を、「上面画像」の対応位置(j,k)に投影し、ピクセル(j,k)の輝度を1に設定することによりバイナリ画像を得る。もちろん輝度を(j,k)におけるz座標によって重み付けすることも可能であり、その場合は濃淡画像を得ることになる。
他の5個の画像も同様にして得ることができる。図6に、図3に示すモデルHから得られた6個のバイナリ画像を示す。
上述のように、二次元画像生成部1102は正規化した三次元モデルから6個の二次元画像を生成し、生成した二次元画像をモデル記述部1103に転送する。
モデル記述部1103は6個の二次元画像から有効な特徴を抽出し、三次元モデルの記述子を求める。
現在、画像特徴の抽出には、フーリエ変換、曲率尺度空間(CSS)画像に基づく記述子、セルニケモーメントなど、多くの方法がある。本発明ではセルニケモーメントを例として用い、6個の二次元画像を記述する。この方法は、形状特徴記述を効率的に行うことでよく知られている(この方法の詳細は、K. Whoi-Yul, K. Yong-Sung: A region-based shape descriptor using Zernike moments, Signal Processing: Image Communication, vol.16, page.95-1102, 12005を参照)。以下の段落では、モデル記述部1103がセルニケモーメントを用いて三次元モデルの記述子を得る処理について簡潔に説明する。
デジタル画像f(x,y)におけるオーダー(n,m)のセルニケモーメントAnmは、式(7)を用いて算出できる。ここで、mは0でない実数であり、n−|m|が偶数であって、|m|≦nであるという2つの条件を満たす。この状況において、mは前述の2つの条件を満たす負でない実数である。f(x,y)はピクセル(x,y)のグレースケール値を表す。(x,y)は画像の中心を示す。Vn,m(x,y)は単位円によって定義されたプライマリ関数であり、完全直交基底からなる。V n,m(x,y)はVn,m(x,y)の共役複素数である。セルニケモーメントを算出する前に画像を正規化しておく必要があり、そうすることで画像上の各点と画像の中心との最大距離が1になる。
式(7)中のプライマリ関数Vn,m(x,y)は式(8)を用いて算出する。ここで、(x,y)は画像の中心を示し、
は(x,y)に対応する極座標を表し、Rn,m(ρ)はセルニケラジアル多項式を表す。
式(8)中のセルニケラジアル多項式Rn,m(ρ)は、式(9)を用いて算出する。ここで、!は階乗を表し、
である。
式(7)を用いて、画像M={A00,A10,A20,A22,A31,A33,・・・}の各次数のセルニケモーメントを算出することができる。各次数のセルニケモーメントの係数は固有ベクトルとなる。ここで、Orderをセルニケ次数とすると、固有ベクトルの長さは
となる。ここで、
はi/2の整数部分を表す。各画像の特徴は、D次元の実ベクトルを用いて表わされる。
前述の内容から分かるように、各画像の特徴はD次元の実ベクトルを用いて表されるので、2個の画像を比較したとき、その比較にはユークリッド距離や絶対距離など、2つの固有ベクトル間の距離を用いることができる。
が2個の画像の特徴を表すとき、ユークリッド距離は
であり、他方、絶対距離は
である。
当該技術分野において、ユークリッド距離や絶対距離の算出は広く知られたものである。さらに、距離測定にユークリッド距離や絶対距離を用いることに加えて、相関のような他の計測を用いることもできる。
このようにして、生成した各二次元画像の特徴としてセルニケモーメントの係数を用いることができる。この特徴は次の性質を持つ。1)回転不変性。セルニケモーメントの係数は回転に対して不変である。2)表現の効率性。直交基底を用いることによって特徴に重複する情報を一切含まなくなる。3)ロバスト性。特徴は、形状におけるノイズや微細な変化を感知しない。4)効率性とマルチレベル表現。低次のセルニケモーメントは全体的な形状情報を表し、高次のモーメントは詳細を表す。他のモーメントと比較して、低次元のセルニケモーメントの方が画像をよく記述することができる。
したがって、三次元モデルから生成されたすべての二次元画像のセルニケモーメントのセットを、三次元モデルの記述子として利用することができる。
モデル正規化部1101、二次元画像生成部1102、モデル記述部1103の処理によって、クエリモデルの記述子とモデルデータベース内のモデルの記述子とをこれまでにそれぞれ求めた。これらの記述子は検索部1104に転送され、そこでは入力されたクエリモデルに最もマッチする三次元モデルがモデルデータベースから検索される。
検索部1104では、入力されたクエリモデルとデータベース内のすべてのモデルとの間の距離を三次元モデルの記述子に基づき算出し、その距離に基づいてデータベース内のモデルをランク付けして、最終的なマッチングのリストを求める。以下、この処理を詳細に説明する。
通常、2つの三次元モデル間の距離は、マッチした画像間の距離を累積することで得られる。本発明では、図7に示すように、各モデルの6個の画像をまず3つのグループに分け、マッチした画像グループ間での距離を累積することによりモデル間の距離を求める。このようなマッチング方法は主に、「上面画像」と「底面画像」、「左側面画像」と「右側面画像」、「正面画像」と「背面画像」が常にペアとして現れるという単純な事実に基づいているので、モデル比較の処理機能を実行するために各グループの2個の画像は別個に扱われるより統合するべきものである。
本発明によれば、三次元モデル間の比較は2つのステップで実現することができる。すなわち、2つのモデルの各画像グループ間の距離を算出するステップと、2つのモデルの各画像グループ間の対応関係を判定するステップとにより、2つの三次元モデル間の距離を算出する。第1のモデルの3つの画像グループをそれぞれA={上面図,底面図}、A={左側面図,右側面図}、A={正面図,背面図}とし、第2のモデルの3つのグループをそれぞれB={上面図,底面図}、B={左側面図,右側面図}、B={正面図,背面図}とすると、2つのモデルの比較処理は以下のように行われる。
1.2つのモデルの画像グループにおけるすべての2つのペア間の距離
を算出する。Ai1,Ai2が画像グループA内の2個の画像を表し、Bj1,Bj2が画像グループBの2個の画像を表すとすると、AとBの間の距離d(A,B)は式(10)により算出される。ここで、l(・,・)は2個の画像の特徴間の絶対距離を示すもので、min()は最小値を求める関数である。
2.式(11)により、全数探索法を用いて最適対応関数c*を発見し、2つの三次元モデルにおいて画像グループそれぞれの間の対応関係を判定し、2つのモデル間の距離disを算出する。
ここで、cは2つのモデルにおける画像グループそれぞれの間の対応関係を表す。たとえば、c(1)=3は、第1のモデルの第1の画像グループが、第2のモデルの第3の画像グループに対応することを示す。全部で以下の6通りの可能性がある。
c(1)=1,c(2)=2,c(3)=3
c(1)=1,c(2)=3,c(3)=2
c(1)=2,c(2)=1,c(3)=3
c(1)=2,c(2)=3,c(3)=1
c(1)=3,c(2)=1,c(3)=2
c(1)=3,c(2)=2,c(3)=1
6通りの対応関数を用いて、6通りの累積距離が算出される可能性が考えられる。この6通りの累積距離のうちの最小値を2つのモデル間の距離として用い、それに関連する対応関数が最適対応関数、すなわちc*となる。
このように、クエリモデルとモデルデータベース1300内の全ての三次元モデルとの間の距離の値を算出する。検索結果として、検索部1104は距離算出の結果をランク付けし、モデルクエリとの距離が最短である三次元モデルを出力するか、ユーザーが判断して選択できるように複数の候補を出力する。
以下に特定の例を用いて、セルニケモーメントに基づく検索について説明する。
図10は、比較する2つの三次元モデルを示したもので、以下では左側のモデルをaと呼び、右側のモデルをbと呼ぶ。
図11、図12はそれぞれ、モデルa、モデルbの6個の二次元画像を示す。この例では、すべての生成された画像はバイナリ画像であって、サイズは100*100である。
この実施例では、各二次元画像はセルニケモーメントを特徴として用い、各固有ベクトルの長さは36である。固有ベクトル間の絶対距離を用いて、2個の画像の類似度を計測する。表1は、モデルの画像間のペアの距離を示す。ここで、a−左側面図、a−右側面図、a−正面図、a−背面図、a−上面図、a−底面図はモデルaから生成された6個の二次元画像を表し、b−左側面図、b−右側面図、b−正面図、b−背面図、b−上面図、b−底面図はモデルbから生成された6個の二次元画像を表す。
本発明で提案するモデル比較方法によれば、各三次元モデルの6個の画像は、表2に示すようにまず3つのグループに分けられる。ここで、A、A、Aはモデルaの3つの画像グループを表し、B、B、Bはモデルbの3つの画像グループを表す。
表3は、2つのモデルの画像グループ間のペアの距離を表にしたもので、画像グループAと画像グループBとを例として用いて、画像グループ間の距離の算出方法を説明している。
画像グループAと画像グループBには、全部で{(a−右側面図,−正面図),(a−左側面図,−背面図)}と{(a−側面図,−背面図),(a−左側面図,−正面図)}の2通りのマッチの可能性がある。ここで、1つの括弧内にある2個の画像は、相互にマッチしたものとする。前者のマッチでは、2つの画像グループ間の距離は3.59621(1.41698+2.17923)であり、後者のマッチでは、2つの画像グループ間の距離は3.58958(2.17500+1.41458)である。これより、AとBとの間の距離はmin(3.58958,3.59621)=3.58958となる。他の画像グループ間の距離も同様の計算により得ることができる。
残る問題は、グループ間の対応関係を判定し、2つのモデル間の距離を算出することである。各モデルには3つの画像グループがあり、2つのモデルの画像グループ間の対応関係には全部で6通りの可能性がある。以下に、考えられるすべての対応関係と、それと対応する累積距離とを示す。ここで、1つの括弧内の2つの画像グループは相互にマッチしたものとする。
{(A1,B1),(A2,B2),(A3,B3)}:dis1= 2.46147 + 2.52431 + 0.402421 = 5.388201
{(A1,B1),(A2,B3),(A3,B2)}:dis2= 2.46147 + 3.58958 + 3.11826 = 9.16931
{(A1,B2),(A2,B3),(A3,B1)}:dis3= 6.35661 + 3.58958 + 8.08377 = 18.02996
{(A1,B2),(A2,B1),(A3,B3)}:dis4= 6.35661 + 6.93108 + 0.402421 = 13.690111
{(A1,B3),(A2,B2),(A3,B1)}:dis5= 7.82683 + 2.52431 + 8.08377 = 18.43491
{(A1,B3),(A2,B1),(A3,B2)}:dis6= 7.82638 + 6.93108 + 3.11826 = 17.87572
上述のように算出した結果によれば、モデルaとモデルbとの間の距離は、min(dis1,dis2,dis3,dis4,dis5,dis6)=5.388201である。画像グループ間の最適対応は、{(A,B),(A,B),(A,B)}であり、人間の視覚的認識とも一致する。
上述のように、三次元モデル検索装置はまず三次元モデルを正規化することで、三次元モデルの主軸方向を座標系の座標軸と一致させ、三次元モデルの重心をシステム座標系の原点にする。そして、三次元モデルをシステム座標系の各座標軸の正方向および負方向のそれぞれに投影することにより複数の二次元画像を生成し、これらに基づき三次元モデルのモデル記述子を生成する。続いて、モデル記述子に基づき、入力されたクエリモデルに最もマッチする三次元モデルをモデルデータベースから検索する。従来技術である三次元モデル検索装置と比較して、本発明に係る装置は検索にかかる計算量を大幅に減らし、検索効率を大きく向上することができる。
以下、図8を参照して、本発明の実施例2について説明する。
前述の実施例1に係る三次元モデル検索装置1100では、ユーザーから検索要求が入力された場合、すなわちクエリモデルが入力された場合に、そのクエリモデルとモデルデータベース内のモデルとを処理してそれぞれの記述子を生成し、これらの記述子に基づいて検索を行う。しかし、これにはモデルデータベース内の三次元モデルを毎回処理することが必要となるため、処理量が膨大なものとなり、低効率になってしまう。したがって、本発明に係る実施例2では、モデルデータベース内の三次元モデルを予め処理してモデルそれぞれの記述子を生成し、生成された記述子を対応するモデルと関連付けてモデルデータベース内に記憶する。ユーザーから検索要求が入力された場合、入力されたクエリモデルを処理してその記述子を生成し、このクエリモデルの記述子とモデルデータベースに記憶された記述子とを比較するだけで十分であり、これにより検索を行うことができる。これらを除けば、実施例2の構造は実施例1の構造と同じである。以下では、上述した差異に関してのみ説明し、反復を避けるため同一の部分に関しては説明を省略する。
図8は、本発明の実施例2に係る三次元モデル検索システムのブロック図である。実施例2では、三次元モデル検索装置2100は、入力部2200、モデルデータベース2300、出力部2400と接続される。入力部2200を経由してユーザーから三次元クエリモデルが入力されると、三次元モデル検索装置2100は、クエリモデルの記述子を生成することによって入力された三次元クエリモデルを処理し、三次元クエリモデルの記述子に最もマッチするモデル記述子をモデルデータベース2300から検索することによりクエリモデルに最もマッチする三次元モデルを検索し、出力部2400を介してその三次元モデルを出力する。
モデルデータベース2300は、モデルデータベース構築部2500に接続される。モデルデータベース構築部2500は、予め、あるいは新しく三次元モデルがモデルデータベース2300に追加される度に、モデルデータベース2300内の三次元モデルを処理して対応するモデル記述子を生成し、モデルデータベース2300に再度記憶するため、生成されたモデル記述子と三次元モデルとを関連付ける。
モデルデータベース構築部2500は、モデル正規化部2501、二次元画像生成部2502、モデル記述部2503から構成される。モデル正規化部2501、二次元画像生成部2502、モデル記述部2503はそれぞれ、前述の実施例1におけるモデル正規化部1101、二次元画像生成部1102、モデル記述部1103と同一である。具体的には、モデル正規化部2501は、モデルデータベース2300内の三次元モデルを正規化することにより、三次元モデルの主軸をシステム座標系の3つの座標軸と一致させ、三次元モデルの重心をシステム座標系の原点と一致させ、正規化された三次元モデルを二次元画像生成部2502に転送する。続いて、二次元画像生成部2502は、三次元モデルを座標系の各座標軸の正方向および負方向にそれぞれに投影して6個の二次元画像を生成し、生成された二次元画像をモデル記述部2503に転送する。モデル記述部2503は、二次元画像のセルニケモーメントを算出し、三次元モデルの記述子を求める。生成された記述子は対応する三次元モデルと関連付けられ、モデルデータベース2300に記憶される。
三次元モデル検索装置2100は、モデル正規化部2101、二次元画像生成部2102、モデル記述部2103、検索部2104から構成される。ユーザーから入力部2200を経由してクエリモデルが入力されると、モデル正規化部2101はクエリモデルを回転および/または平行移動することで、モデルの主軸方向をシステム座標系の3つの座標軸と一致させ、三次元モデルの重心をシステム座標系の原点と一致させる。二次元画像生成部2102は、正規化されたクエリモデルをシステム座標系の各座標軸の正方向および負方向のそれぞれに投影し、6個の二次元画像を生成する。モデル記述部2103は、二次元画像の特徴を抽出し、クエリモデルの記述子を生成する。検索部2104は、この記述部に基づいて、三次元クエリモデルに最もマッチするモデル記述子をモデルデータベース2300から検索することにより、クエリモデルに最もマッチする三次元モデルを検索し、それを出力部2400を介して出力する。
実施例2によれば、モデルデータベース2300内の三次元モデルについてそれぞれの記述子を予め生成することにより、クエリモデルを処理するだけで十分となり、検索中に毎回モデルデータベース内の三次元モデルを処理する必要がなくなる。これにより検索中の処理量がさらに減り、検索効率が向上する。
さらに、実施例2では、三次元モデルと記述子とが互いに関連付けられて同じモデルデータベース2300に記憶される状況を例として取り上げて上述のように説明したが、本発明はこれに限定されない。例えば、三次元モデルとモデル記述子とを異なるデータベースに記憶することも可能であり、この場合、モデル記述子が記憶されているデータベースにモデル検索装置2100がアクセスし、クエリモデルに最もマッチする記述子を検索し、検索した記述子をクエリとして用いて三次元モデルが記憶されているデータベースから対応する三次元モデルを抽出し、検索結果を出力すればよい。
前述の実施例1および実施例2では三次元モデルをクエリとして用いたが、後述する実施例3では1個の二次元画像をクエリとして用い、マッチした画像間の距離を利用して、入力された二次元画像クエリとデータベース内のモデルとの間の類似度を計測する。これらを除けば、実施例3の構造は実施例2の構造と同じである。以下では、上述した差異に関してのみ説明し、反復を避けるため同一の部分に関しては説明を省略する。
図9は、本発明の実施例3に係る三次元モデル検索システムを示すブロック図である。
実施例3では、三次元モデル検索装置3100は、入力部3200、モデルデータベース3300、出力部3400に接続される。入力部3200を介して二次元画像の入力がユーザによりなされた場合、三次元モデル検索装置3100は、二次元画像クエリから記述子を生成し、この記述子に基づいて二次元画像クエリの記述子に最もマッチするモデル記述子をモデルデータベース3300から検索することにより、二次元画像クエリに最もマッチする三次元モデルを検索し、それを出力部3400を介して出力する。
前述の実施例2のように、モデルデータベース3300はモデルデータベース構築部3500に接続される。モデルデータベース構築部3500は、予め、あるいは新しく三次元モデルがモデルデータベース3300に追加される度に、モデルデータベース3300内の三次元モデルを処理して対応するモデル記述子を生成し、モデルデータベース3300に再度記憶するため、生成されたモデル記述子と三次元モデルとを関連付ける。
モデルデータベース構築部3500は、モデル正規化部3501、二次元画像生成部3502、モデル記述部3503から構成される。モデル正規化部3501、二次元画像生成部3502、モデル記述部3503はそれぞれ前述の実施例2におけるモデル正規化部2501、二次元画像生成部2502、モデル記述部2503と同一である。具体的には、モデル正規化部3501は、モデルデータベース3300内の三次元モデルを正規化することにより、三次元モデルの主軸をシステム座標系の3つの軸に一致させ、三次元モデルの重心をシステム座標系の原点と一致させ、正規化された三次元モデルを二次元画像生成部3502に転送する。続いて、二次元画像生成部3502は、三次元モデルを座標系の各座標軸の正方向および負方向のそれぞれに投影して6個の二次元画像を生成し、生成した二次元画像をモデル記述部3503に転送する。モデル記述部3503は、二次元画像のセルニケモーメントを算出し、三次元モデルの記述子を求める。生成された記述子は対応する三次元モデルと関連付けられ、モデルデータベース3300に記憶される。
三次元モデル検索装置3100は、記述部3103、検索部3104から構成される。入力部3200を介して二次元画像クエリがユーザーにより入力されると、記述部3103は二次元画像クエリの特徴を抽出し、その記述子を生成する。検索部3104は、この記述子に基づいて二次元画像クエリの記述子に最もマッチするモデル記述子をモデルデータベース3300から検索することにより、二次元画像クエリに最もマッチする三次元モデルを検索し、それを出力部3400を介して出力する。
例えば、Iが入力された二次元画像クエリを表し、m,i=1,2,...,6が三次元モデルの6個の二次元画像を表すとすると、画像クエリIと三次元モデルとの間の距離は
として算出できる。ここで、lは2個の画像の特徴間の絶対距離を表し、min()は最小値を求める関数である。
二次元画像のペアをクエリとして入力することも可能である。この場合、マッチした画像グループ間の距離を用いて、画像クエリとモデルデータベース内の三次元モデルとの類似度を計測する。P={p,p}が2個のクエリ画像を表し、A、A、Aがモデルデータベースの画像の3つの画像グループを表すとすると、クエリ画像グループPと三次元モデルとの間の距離は
となる。ここで、disは2つの画像グループ間の距離を示し、min()は最小値を求める関数である。上記の算出処理は、実施例1で説明した方法と同一である。
このように、クエリ画像とモデルデータベース3300内のすべてのモデルとの間の距離を算出し、検索結果を判定する。
実施例3によれば、二次元画像をクエリとして用いて三次元モデルを検索することが可能であり、三次元モデル検索の柔軟性が大幅に向上する。
他の実施例
本発明の特定の実施例を参照して本発明は説明されるが、本発明は前述の実施例に制限されるものではないと解すべきである。本発明の範囲は添付の特許請求の範囲によって定義されるが、請求項の範囲内において、様々な変形及び改良を行うことができる。
例えば、前述の実施例1から実施例3では、三次元モデルが三角格子から構成される状況を例として説明した。しかし、状況によってはモデル検索システムの三次元モデルの入力が三つ以上の頂点を有する多角形から構成されていてもよい。入力された三次元モデルが多角形格子から構成される状況では、本発明のモデル正規化部はまず、多角形格子が三角格子に変換される。多角形を三角形にする方法には多くのものがあり、例えば、Joseph O’ Rourke: Computational geometry in C (second edition), Cambridge University Press, page. 1-40を参照できる。
さらに、前述の実施例では、二次元画像生成部が三次元モデルに基づいて6個の画像を生成する状況を例として本発明を説明した。しかし、本発明は6個の画像を生成する場合に限定されず、生成する画像は6個未満であってもよい。例えば、対称性を有する三次元モデルを検索する場合は6個の画像を生成する必要はないので処理量が減り、処理速度が向上する。
また、本発明は、前述の実施例で説明した三次元モデル検索装置として実施されることに限定されず、本発明に係る三次元モデル検索装置によって三次元モデル検索方法としても実施され得る。
また、本発明は、三次元モデルをアーカイブする方法として実施してもよい。この方法は、もとの三次元モデルを回転および/または平行移動することにより、三次元モデルの主軸方向をシステム座標系の3つの座標軸と一致させ、三次元モデルの重心をシステム座標系の原点と一致させるステップと、システム座標系の各座標軸の正方向および負方向のそれぞれに三次元モデルを投影して、複数の二次元画像を生成するステップと、二次元画像から三次元モデルのモデル記述子を生成するステップと、データベースに記憶するためにモデル記述子ともとの三次元モデルとを関連付けるステップとを含むものとする。
さらに、本発明は、コンピュータまたは他の情報処理装置に本発明に係る三次元モデル検索方法を実行させるプログラムとして実施してもよい。具体的には、本発明のプログラムは、三次元モデルを回転および/または平行移動することにより、三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、三次元モデルの重心をシステム座標系の原点と一致させることと、システム座標系の各座標軸の正方向および負方向のそれぞれに三次元モデルを投影して複数の二次元画像を生成することと、二次元画像から三次元モデルのモデル記述子を生成することと、モデル記述子に基づいて入力されたクエリモデルに最もマッチする三次元モデルをモデルデータベースから検索することと、を情報処理装置に実行させる。
さらに、本発明は、前述のプログラムを記録するコンピュータ読み取り可能な記録媒体として実施してもよい。
さらに、特許請求の範囲によって定義した範囲内において、前述の本発明の各構成要素を適切に組み合わせて用いてもよい。
(付記1)三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向を三次元空間の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるモデル正規化手段と、
前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成する二次元画像生成手段と、
前記二次元画像から三次元モデルのモデル記述子を生成するモデル記述手段と、
前記モデル記述子に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する検索手段と、
を備えたことを特徴とする三次元モデル検索装置。
(付記2)前記モデル正規化手段は、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする付記1に記載の三次元モデル検索装置。
(付記3)前記二次元画像生成手段は、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする付記1に記載の三次元モデル検索装置。
(付記4)前記二次元画像生成手段は、1つの三次元モデルにつき、6以下の二次元画像を生成することを特徴とする付記1に記載の三次元モデル検索装置。
(付記5)前記モデル記述手段は、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする付記1に記載の三次元モデル検索装置。
(付記6)前記検索手段は、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする付記5に記載の三次元モデル検索装置。
(付記7)前記三次元モデル検索装置は、二次元画像をクエリとして取得し、前記検索手段は、モデルデータベース内の三次元モデルのモデル記述子に基づき、クエリとなる二次元画像とモデルデータベース内の三次元モデルとの間の距離を算出し、当該距離に基づき検索を行うことを特徴とする付記5に記載の三次元モデル検索装置。
(付記8)三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるモデル正規化ステップと、
前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成する二次元画像生成ステップと、
前記二次元画像から三次元モデルのモデル記述子を生成するモデル記述ステップと、
前記モデル記述子に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する検索ステップと、
を含んだことを特徴とする三次元モデル検索方法。
(付記9)前記モデル正規化ステップでは、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする付記8に記載の三次元モデル検索方法。
(付記10)前記二次元画像生成ステップでは、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする付記8に記載の三次元モデル検索方法。
(付記11)前記二次元画像生成ステップでは、1つの三次元モデルにつき、6以下の二次元画像を生成することを特徴とする付記8に記載の三次元モデル検索方法。
(付記12)前記モデル記述ステップでは、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする付記8に記載の三次元モデル検索方法。
(付記13)前記検索ステップでは、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする付記12に記載の三次元モデル検索方法。
(付記14)前記三次元モデル検索方法は、二次元画像をクエリとして取得し、
前記検索ステップでは、モデルデータベース内の三次元モデルのモデル記述子に基づき、クエリとなる二次元画像とモデルデータベース内の三次元モデルとの間の距離を算出し、当該距離に基づき検索を行うこと、
を特徴とする付記12に記載の三次元モデル検索方法。
(付記15)三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるステップと、
前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成するステップと、
前記二次元画像から三次元モデルのモデル記述子を生成するステップと、
データベースに記憶するために前記モデル記述子と三次元モデルとを関連付けるステップと、
を含んだことを特徴とする三次元モデルのアーカイブ方法。
(付記16)三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるモデル正規化ステップと、
前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成する二次元画像生成ステップと、
前記二次元画像から三次元モデルのモデル記述子を生成するモデル記述ステップと、
前記モデル記述子に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する検索ステップと、
を情報処理装置に実行させるプログラム。
(付記17)前記モデル正規化ステップでは、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする付記16に記載のプログラム。
(付記18)前記二次元画像生成ステップでは、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする付記16に記載のプログラム。
(付記19)前記モデル記述ステップでは、前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定することを特徴とする付記16に記載のプログラム。
(付記20)前記検索ステップでは、三次元画像の同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて検索を行うことを特徴とする付記19に記載のプログラム。
本発明の実施例1に係る三次元モデル検索システムを示すブロック図である。 本発明のNormal−PCA法を用いた三角形の面積および法線方向算出の概念図である。 主軸方向の探索結果の例を示す図である。 本発明に係る三角標本化メカニズムを示す図である。 三角標本化の結果を典型的に示す図である。 図5のモデルHに基づいて生成された6個の二次元画像を示す図である。 2個のモデル間の比較を示す図である。 本発明の実施例2に係る三次元モデル検索システムを示すブロック図である。 本発明の実施例3に係る三次元モデル検索システムを示すブロック図である。 比較対象の2つの三次元モデルを例示する図である。 図10のモデルaに基づいて生成された6個の二次元画像を示す図である。 図10のモデルbに基づいて生成された6個の二次元画像を示す図である。

Claims (7)

  1. 三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向を三次元空間の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させるモデル正規化手段と、
    前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成する二次元画像生成手段と、
    前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定するモデル記述手段と、
    前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する検索手段と、
    を備えたことを特徴とする三次元モデル検索装置。
  2. 前記モデル正規化手段は、前記三次元モデルを構成する各三角形の法線方向を算出し、すべての三角形の法線方向の分布情報に基づいて三次元モデルの主軸方向を判定し、当該主軸方向に基づいて三次元モデルを回転することを特徴とする請求項1に記載の三次元モデル検索装置。
  3. 前記二次元画像生成手段は、前記投影において、各座標軸の正方向には対応する座標位置が正である標本点だけを投影し、各座標軸の負方向には対応する座標位置が負である標本点だけを投影することを特徴とする請求項1に記載の三次元モデル検索装置。
  4. 前記二次元画像生成手段は、1つの三次元モデルにつき、6以下の二次元画像を生成することを特徴とする請求項1に記載の三次元モデル検索装置。
  5. 前記三次元モデル検索装置は、二次元画像をクエリとして取得し、前記検索手段は、モデルデータベース内の三次元モデルのモデル記述子に基づき、クエリとなる二次元画像とモデルデータベース内の三次元モデルとの間の距離を算出し、当該距離に基づき検索を行うことを特徴とする請求項1に記載の三次元モデル検索装置。
  6. コンピュータが、
    三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させ、
    前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成し、
    前記二次元画像のそれぞれについて画像記述子を生成し、二次元画像の画像記述子の集合を三次元モデルのモデル記述子として設定し、
    前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する
    ことを特徴とする三次元モデル検索方法。
  7. 三次元モデルを回転および/または平行移動することにより当該三次元モデルの主軸方向をシステム座標系の座標軸と一致させ、当該三次元モデルの重心をシステム座標系の原点と一致させ、
    前記システム座標系の各座標軸の正方向および負方向のそれぞれに前記三次元モデルを投影して、複数の二次元画像を生成し、
    前記二次元画像から三次元モデルのモデル記述子を生成し、
    前記三次元モデルの同じ座標軸上にある二次元画像をペアとして設定し、クエリモデルの二次元画像のペアをモデルデータベースにあるモデルの二次元画像のペアとマッチングし、二次元画像のマッチしたペア間の距離を算出および累積し、累積した距離に基づいて入力クエリに最もマッチする三次元モデルをモデルデータベースから検索する
    処理をコンピュータに実行させるプログラム。
JP2008189097A 2007-07-20 2008-07-22 三次元モデル検索装置、三次元モデル検索方法及びプログラム Active JP5131072B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2007101361971A CN101350016B (zh) 2007-07-20 2007-07-20 三维模型检索装置及方法
CN200710136197.1 2007-07-20

Publications (3)

Publication Number Publication Date
JP2009080796A JP2009080796A (ja) 2009-04-16
JP2009080796A5 JP2009080796A5 (ja) 2009-07-30
JP5131072B2 true JP5131072B2 (ja) 2013-01-30

Family

ID=40268811

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008189097A Active JP5131072B2 (ja) 2007-07-20 2008-07-22 三次元モデル検索装置、三次元モデル検索方法及びプログラム

Country Status (3)

Country Link
US (1) US8169433B2 (ja)
JP (1) JP5131072B2 (ja)
CN (1) CN101350016B (ja)

Families Citing this family (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009129337A (ja) * 2007-11-27 2009-06-11 Hitachi Ltd 三次元類似形状検索装置
US8686992B1 (en) * 2009-03-30 2014-04-01 Google Inc. Methods and systems for 3D shape matching and retrieval
US8442977B2 (en) * 2010-02-16 2013-05-14 Honeywell International Inc. Distance-space embedding for multi-descriptor matching and retrieval
CN102375831B (zh) * 2010-08-13 2014-09-10 富士通株式会社 三维模型检索装置及其方法和模型库生成装置及其方法
CN102024036B (zh) * 2010-11-29 2012-09-05 清华大学 基于超图的三维对象检索方法和装置
CN102063478A (zh) * 2010-12-22 2011-05-18 张丛喆 适用于互联网搜索的三维文件格式转换方法及搜索引擎
CN102609550B (zh) * 2011-01-19 2015-11-25 鸿富锦精密工业(深圳)有限公司 产品三维模型自动摆正系统及方法
US20150009211A1 (en) * 2012-02-03 2015-01-08 Thomson Licensing Method for setting and determining directions of principal axes of 3d object
US9372871B2 (en) * 2012-08-24 2016-06-21 Google Inc. Combining unstructured image and 3D search results for interactive search and exploration
CN103116904A (zh) * 2012-10-23 2013-05-22 北京航空航天大学深圳研究院 一种三维模型的二维特征提取系统与提取方法
MY181673A (en) * 2012-12-13 2020-12-31 Mimos Berhad An image processing system and a method for extracting spatial relationship between objects in an image
GB2514320B (en) 2013-03-15 2020-01-29 3D Industries Ltd A method and system for 3D model database retrieval
CN103530411A (zh) * 2013-10-25 2014-01-22 北京农业信息技术研究中心 植物三维模型数据库的构建方法
US11886493B2 (en) 2013-12-15 2024-01-30 7893159 Canada Inc. Method and system for displaying 3D models
EP3080783A4 (fr) * 2013-12-15 2018-01-10 7893159 Canada Inc. Methode et systeme de comparaison de modeles 3d
US20150169070A1 (en) * 2013-12-17 2015-06-18 Google Inc. Visual Display of Interactive, Gesture-Controlled, Three-Dimensional (3D) Models for Head-Mountable Displays (HMDs)
JP6342180B2 (ja) * 2014-02-21 2018-06-13 公立大学法人首都大学東京 3次元cadモデル類似検索方法
CN103985153B (zh) * 2014-04-16 2018-10-19 北京农业信息技术研究中心 模拟植株生长的方法和系统
US9827714B1 (en) 2014-05-16 2017-11-28 Google Llc Method and system for 3-D printing of 3-D object models in interactive content items
CN105205135B (zh) * 2015-09-15 2018-10-19 天津大学 一种基于主题模型的3d模型检索方法及其检索装置
CN105930382A (zh) * 2016-04-14 2016-09-07 严进龙 一种用2d图片搜索3d模型的方法
CN107045730B (zh) * 2017-03-06 2023-10-24 青岛鹏海软件有限公司 一种数字文化场景或图像的多维展现系统和方法
JP6969157B2 (ja) * 2017-05-24 2021-11-24 富士フイルムビジネスイノベーション株式会社 三次元形状データの編集装置、及び三次元形状データの編集プログラム
CN110019901A (zh) * 2017-09-13 2019-07-16 深圳三维盘酷网络科技有限公司 三维模型检索装置、检索系统、检索方法及计算机可读存储介质
CN108021928B (zh) * 2017-11-10 2023-08-25 佛山科学技术学院 一种基于热核特征的三维模型相似度度量方法
CN108345750A (zh) * 2018-02-11 2018-07-31 浙江科澜信息技术有限公司 一种对地下管线建模的方法及系统
CN108717424B (zh) * 2018-04-25 2021-06-11 鹰霆(天津)科技有限公司 一种基于分解式图匹配的三维模型检索方法
CN110555219B (zh) * 2018-05-31 2022-12-27 首都航天机械公司 一种基于图像识别的三维cad模型相似性检索系统及方法
CN108960288B (zh) * 2018-06-07 2021-05-04 山东师范大学 基于卷积神经网络的三维模型分类方法及系统
CN110662087B (zh) 2018-06-30 2021-05-11 华为技术有限公司 点云编解码方法和编解码器
CN110019914B (zh) * 2018-07-18 2023-06-30 王斌 一种支持三维场景交互的三维模型数据库检索方法
KR102477556B1 (ko) * 2018-08-29 2022-12-13 삼성중공업 주식회사 3차원 이미지 뷰어 및 모델 회전 방법
CN110929058B (zh) * 2018-08-30 2023-01-31 北京蓝灯鱼智能科技有限公司 商标图片的检索方法、装置、存储介质及电子装置
CN110968715B (zh) * 2018-09-28 2022-08-05 哈尔滨理工大学 基于非均匀投影的三维模型检索
EP3671557A1 (en) * 2018-12-20 2020-06-24 RaySearch Laboratories AB Data augmentation
CN109871761A (zh) * 2019-01-16 2019-06-11 中德(珠海)人工智能研究院有限公司 一种三维模型的识别系统
CN110069656B (zh) * 2019-03-28 2023-03-31 天津大学 一种基于生成对抗网络的二维图片检索三维模型的方法
CN110737788B (zh) * 2019-10-16 2022-05-31 哈尔滨理工大学 快速的三维模型索引建立及检索方法
CN111492409B (zh) * 2020-03-16 2023-05-02 香港应用科技研究院有限公司 用于增强现实远程协助的三维交互的装置和方法
CN111651621B (zh) * 2020-05-27 2022-07-29 深圳先进技术研究院 一种枪弹信息管理系统和终端
CN112434177B (zh) * 2020-11-27 2023-06-20 北京邮电大学 一种三维模型检索方法、装置、电子设备及存储介质
CN112818451A (zh) * 2021-02-02 2021-05-18 盈嘉互联(北京)科技有限公司 一种基于vgg的bim模型最佳视觉角度构建方法
CN113032613B (zh) * 2021-03-12 2022-11-08 哈尔滨理工大学 一种基于交互注意力卷积神经网络的三维模型检索方法
CN112905828B (zh) * 2021-03-18 2023-06-16 西北大学 一种结合显著特征的图像检索器、数据库及检索方法
CN113033699A (zh) * 2021-04-18 2021-06-25 西北工业大学 一种装配体模型信息的离散量化与相似性分析方法
CN113744404B (zh) * 2021-07-21 2023-09-08 合肥泰瑞数创科技有限公司 三维模型的对比处理方法及系统
CN115423947B (zh) * 2022-11-03 2023-03-24 成都飞机工业(集团)有限责任公司 三维模型检索方法、装置、设备及介质
CN115934983B (zh) * 2023-01-09 2023-05-30 南京维拓科技股份有限公司 一种基于布尔运算展示三维模型区别的方法
CN117540043B (zh) * 2023-12-11 2024-04-12 济南大学 基于跨实例和类别对比的三维模型检索方法及系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002027667A1 (en) * 2000-09-14 2002-04-04 Orasee Corp. Method for automated two-dimensional and three-dimensional conversion
US6914618B2 (en) * 2000-11-02 2005-07-05 Sun Microsystems, Inc. Methods and systems for producing A 3-D rotational image from A 2-D image
JP2004164503A (ja) * 2002-11-15 2004-06-10 Olympus Corp 三次元モデル検索方法、三次元モデル検索装置、三次元モデル検索プログラム、及び三次元モデル検索システム
US7212664B2 (en) * 2003-08-07 2007-05-01 Mitsubishi Electric Research Laboratories, Inc. Constructing heads from 3D models and 2D silhouettes
US7715619B2 (en) * 2003-10-21 2010-05-11 Nec Corporation Image collation system and image collation method
US7436988B2 (en) * 2004-06-03 2008-10-14 Arizona Board Of Regents 3D face authentication and recognition based on bilateral symmetry analysis
US7583272B2 (en) * 2004-11-29 2009-09-01 Purdue Research Foundation Methods for retrieving shapes and drawings
WO2006069496A1 (fr) * 2004-12-31 2006-07-06 Fujitsu Limited Procede de recherche de modele 3d et dispositif associe
BRPI0606106B1 (pt) * 2006-11-28 2018-02-14 Fundação Oswaldo Cruz Método para criar uma imagem em perspectiva, e, uso do método
KR101433803B1 (ko) * 2007-06-18 2014-08-27 삼성전자주식회사 집적영상기술에서 기초 영상을 생성하는 방법 및 장치

Also Published As

Publication number Publication date
US8169433B2 (en) 2012-05-01
CN101350016A (zh) 2009-01-21
JP2009080796A (ja) 2009-04-16
CN101350016B (zh) 2010-11-24
US20090040225A1 (en) 2009-02-12

Similar Documents

Publication Publication Date Title
JP5131072B2 (ja) 三次元モデル検索装置、三次元モデル検索方法及びプログラム
JP2009080796A5 (ja)
Papadakis et al. PANORAMA: A 3D shape descriptor based on panoramic views for unsupervised 3D object retrieval
Bu et al. Learning high-level feature by deep belief networks for 3-D model retrieval and recognition
Kazmi et al. A survey of 2D and 3D shape descriptors
Philbin et al. Descriptor learning for efficient retrieval
Daras et al. A 3D shape retrieval framework supporting multimodal queries
JP2012043419A (ja) 三次元モデル検索装置、三次元モデル検索方法、モデルライブラリ生成装置及びモデルライブラリ生成方法
CN110019914B (zh) 一种支持三维场景交互的三维模型数据库检索方法
Ohbuchi et al. Shape similarity comparison of 3D models using alpha shapes
Lu et al. Learning view-model joint relevance for 3D object retrieval
US20210117648A1 (en) 3-dimensional model identification
Li et al. Combining topological and view-based features for 3D model retrieval
Li et al. A non-rigid 3D model retrieval method based on scale-invariant heat kernel signature features
Wang et al. Statistical inference of gaussian-laplace distribution for person verification
Yang et al. Weakly supervised class-agnostic image similarity search based on convolutional neural network
Gorisse et al. 3d content-based retrieval in artwork databases
JP2004185626A (ja) 知覚的に認識可能な3次元形状の記述方法と、それを利用した3次元グラフィックモデルのデータベース検索方法及び装置
Lei et al. A novel sketch-based 3D model retrieval method by integrating skeleton graph and contour feature
Pu et al. Invariant feature extraction for 3D model retrieval: An adaptive approach using Euclidean and topological metrics
KR102129060B1 (ko) 단일 깊이 영상을 이용한 내용기반 3차원 모델 검색 방법, 이를 수행하는 3차원 모델 검색 서버 및 컴퓨터로 판독 가능한 기록매체
Wang et al. A study of 3D model similarity based on surface bipartite graph matching
Laga et al. Geometry image matching for similarity estimation of 3D shapes
Mhamdi et al. A local approach for 3D object recognition through a set of size functions
CN109272013B (zh) 基于学习的相似性度量方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120731

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121009

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121022

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151116

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5131072

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150