JP4808771B2 - 3次元メッシュ情報の符号化及び復号化装置ならびにその方法 - Google Patents

3次元メッシュ情報の符号化及び復号化装置ならびにその方法 Download PDF

Info

Publication number
JP4808771B2
JP4808771B2 JP2008506378A JP2008506378A JP4808771B2 JP 4808771 B2 JP4808771 B2 JP 4808771B2 JP 2008506378 A JP2008506378 A JP 2008506378A JP 2008506378 A JP2008506378 A JP 2008506378A JP 4808771 B2 JP4808771 B2 JP 4808771B2
Authority
JP
Japan
Prior art keywords
order information
element order
change element
information
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008506378A
Other languages
English (en)
Other versions
JP2008538435A (ja
Inventor
チャン、ユン、ヨン
フル、ナム、ホ
リ、ソ、イン
ジャン、ユエ、ソン
キム、ダイ、ヨン
ミン、ビョン、ウク
リ、スン、ヨン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Electronics and Telecommunications Research Institute ETRI
Original Assignee
Electronics and Telecommunications Research Institute ETRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Electronics and Telecommunications Research Institute ETRI filed Critical Electronics and Telecommunications Research Institute ETRI
Priority claimed from PCT/KR2006/001363 external-priority patent/WO2006110002A1/en
Publication of JP2008538435A publication Critical patent/JP2008538435A/ja
Application granted granted Critical
Publication of JP4808771B2 publication Critical patent/JP4808771B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Processing Or Creating Images (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、3次元メッシュ情報の符号化及び復号化に関し、具体的には、3次元メッシュモデル(オリジナルモデル:original model)に対する3次元メッシュ情報の符号化過程で頂点(vertex)及び面(face)のようなオリジナルモデルの要素順序が変更される点を考慮してこれらの要素順序情報を別途に符号化及び復号化する装置及び方法に関する。
3次元グラフィックス分野は、最近になって多く使われているが、情報量が膨大であるため、その使用範囲が制限されている。3次元モデルを表現する3次元メッシュ(mesh)情報は、幾何情報、頂点間の連結(connectivity)情報、そして、色相、法線及び質感座標のような属性(property)情報からなる。幾何情報は、浮動小数点で表現される3つの座標情報からなり、連結情報は、3つ以上の頂点情報が1つの多角形をなすインデックスリストで表現される。例えば、幾何情報が32ビット浮動小数点で表現されると仮定すれば、1つの幾何情報を表現するために96ビット(12B)を必要とする。すなわち、3次元メッシュモデルが幾何情報だけを有する略1万個の頂点により表現されると仮定すれば、120KBのメモリを必要とするようになり、10万個の頂点により表現されるとすれば、1.2MBのメモリを必要とするようになる。また、連結情報は、2回以上の重複を許容するので、多角形メッシュにより3次元モデルを格納するためには、非常に多いメモリを必要とする。
したがって、このような情報量の膨大さを解決するために、符号化の必要性が台頭された。このために、MPEG−4(Moving Picture Expert Group)−SNHC(Synthetic and Natural Hybrid Coding)分野においてISO/IEC(International Organization for Standardization/International Electrotechnical Commission)の標準案として採択された3次元メッシュコーディング(3DMC:3D Mesh Coding)方式は、VRML(Virtual Reality Modeling Language:VRML)ファイル内にIndexedFaceSet(IFS)で表現される3次元メッシュ情報を符号化/復号化することによって転送効率を向上させる。
図1a及び図1b各々は、従来の3DMCによる符号化装置及び復号化装置の構成を概念的に示す。3DMC符号化装置110は、3次元メッシュモデル(オリジナルモデル)を2次元メッシュ構造に分解する位相切開(topological surgery)モジュール111と、幾何情報符号化モジュール112、連結情報符号化モジュール113及び属性情報符号化モジュール114と、前記符号化モジュール112乃至114の符号化された結果を統合的に圧縮して3DMCビットストリームを生成するエントロピー符号化(entropy encoder)モジュール115とを含む。
これに対応して、3DMC復号化装置120は、エントロピー復号化モジュール121、幾何情報復号化モジュール122、連結情報復号化モジュール123及び属性情報復号化モジュール124及び位相合成(topological synthesis)モジュール125を含んでおり、符号化された3DMCビットストリームから3次元モデルデータを復元する。
前述した3DMC符号化装置110により行われる3DMC符号化の主要特徴は、圧縮率の最大化のために位相切開モジュール111により行われる位相切開動作(topological surgery operation)である。位相切開動作は、IBMで提案した技術であって、与えられたメッシュを球と位相幾何学的に同一であると仮定した後に、与えられた切断エッジ(cutting edge)によって切断することによって、3次元モデルを2次元メッシュ構造に分解する(decompose)動作である。このような動作結果、単純多角形グラフィック(例えば、三角形ストリップからなる二進ツリー構造の三角形スパニンググラフ(Triangle Tree:TT))と、メッシュを切断する経路を頂点間の連結構造で示す頂点グラフ(Vertex Graph:VG)が算出される。
しかし、前述した位相切開動作過程は、元来モデルを構成する要素(例えば、頂点及び面)の順序を変更させることができる。これにより、頂点または面のような要素単位からなる編集を行うことができず、要素順序に基盤して作成されたアニメーション効果も適用することができないという問題点がある。
従って、本発明の目的は、前述した問題点を解決するために、3次元メッシュ情報の符号化/復号化時にオリジナルモデル内の要素順序情報を別個に符号化/復号化する方法及び装置を提供することにある。
本発明の他の目的は要素順序情報を符号化するにあたって要素順序情報の識別可能な単位で前記要素順序情報に割り当てられるコードワード(codeword)のビット数を順次的に減少させながら符号化することによって、符号化ビット率を低減することができる要素順序符号化方法及び装置を提供することにある。
上記目的を達成するために、本発明の第1側面によれば、3次元メッシュ情報の符号化方法が提供される。前記方法は、3次元メッシュ情報を符号化し、符号化されたビットストリーム(encoded bit stream)を出力する段階と、前記3次元メッシュ情報に含まれる少なくとも1つ以上の要素各々に対するオリジナルモデル内の順序情報を求める段階と、前記要素順序情報を符号化する段階と、前記ビットストリームに対するパケットを生成し、且つ前記符号化された要素順序情報を前記パケット内に挿入する段階と、を含む。
前記オリジナルモデル内の要素順序情報は、頂点及び面順序情報のうち少なくともいずれか1つであることができる。前記要素順序情報は、IFS単位又はCC単位で計算されることができる。
また、前記要素順序情報の符号化段階は、(i)前記要素順序情報の符号化に用いられるコードワードビット数の初期値を
Figure 0004808771
(ここで、Nは、要素順序情報の総個数)に設定する段階と、(ii)前記設定されたビット数のコードワードを用いて所定個数の要素順序情報を符号化する段階と、(iii)前記コードワードビット数を1減少させる段階と、(iv)符号化されない残余要素順序情報の一部要素順序情報を前記減少されたビット数のコードワードを用いて符号化する段階と、(v)全ての要素順序情報が符号化されるまで前記(iii)及び(v)段階を繰り返して行う段階と、を含む。
本発明の第2側面によれば、3次元モデルでの要素順序情報を符号化するための方法が提供される。前記方法は、3次元メッシュ情報に含まれた少なくとも1つの要素各々に対するオリジナルモデル内の順序情報をIFS単位で求める段階と、前記要素順序情報を符号化する段階と、を含む。
本発明の第3側面によれば、3次元メッシュ情報を復号化するための方法が提供される。前記方法は、3次元メッシュ情報パケットを復号化し、オリジナルモデルデータを復元する段階と、前記パケットの選定された領域に前記オリジナルモデル内の要素順序情報が存在するか否かを判断する段階と、前記要素順序情報が存在すると判断されれば、前記パケットから前記要素順序情報を抽出する段階と、前記抽出された要素順序情報を復号化する段階と、前記復号化された要素順序情報に基づいて前記復元されたオリジナルモデルデータを再整列する段階と、を含む。
本発明の第4側面によれば、3次元メッシュパケット内の要素順序情報を復号化するための方法が提供される。前記方法は、3次元メッシュ情報パケット内の選定された領域から要素順序情報を抽出する段階と、前記抽出された要素順序情報を復号化する段階と、を含む。
本発明の第5側面によれば、3次元メッシュ情報を符号化するための装置が提供される。前記装置は、3次元メッシュ情報を符号化し、符号化されたビットストリーム(encoded bit stream)を出力するための手段と、前記3次元メッシュ情報に含まれた少なくとも1つ以上の要素各々に対するオリジナルモデル内の順序情報を計算するための手段と、前記要素順序情報を符号化するための順序情報の符号化手段と、前記ビットストリームに対するパケットを生成し、且つ前記要素順序情報を前記パケット内に挿入させるための手段と、を含む。
本発明の第6側面によれば、3次元メッシュ情報を復号化するための装置が提供される。前記装置は、3次元メッシュ情報パケットを復号化し、オリジナルモデルデータを復元するための手段と、前記パケット内の要素順序情報を復号化するための順序情報の復号化手段と、前記復元されたオリジナルモデルデータを前記復号化された要素順序情報に基づいて再整列するための手段と、を含む。
本発明で提案する頂点及び面のような要素の順序情報の符号化及び復号化方式では、各要素に対するオリジナルモデルでの順序情報に割り当てられるコードワードビット数を順次的に減少させながら符号化することによって、符号化ビット率を低減しつつ無損失で頂点/面の順序情報の転送を可能にし、窮極的には復元モデルに対してアニメーションまたは編集機能などを支援することができるようにする。
以下、本発明を添付の図面に示された実施例と関連して例示的に詳細に説明する。しかし、以下の詳細な説明は、ただ例示的な目的で提供されるものであり、本発明の概念を任意の特定された物理的構成に限定するものと解すべきではない。
図2a及び図2b各々は、本発明の好ましい実施例に係る3次元メッシュ情報の符号化装置210及び復号化装置220を概略的に示すブロック図である。図示のように、本発明に係る3次元メッシュ情報の符号化装置210は、位相切開(topological surgery)モジュール211、幾何情報符号化モジュール212、連結情報(connectivity information)符号化モジュール213、属性情報符号化モジュール214及び要素順序(element order)符号化モジュール215及びエントロピー符号化モジュール216を含む。すなわち、符号化装置210は、図1aに示された従来の3DMC符号化装置110と比較してみる時、3次元モデルでの要素順序情報を別個に符号化するための要素順序符号化モジュール216をさらに含むことを特徴とする。
これと同様に、本発明に係る3次元メッシュ情報の復号化装置220は、図1bに示された従来の3DMC復号化装置120と比較してみる時、符号化された要素順序情報を復号化するための要素順序復号化モジュール225と、復号化された元来モデルの要素順序情報によって復元された3次元モデルデータを再整列するための再整列モジュール227とをさらに含む。
一実施例で、要素順序符号化モジュール(図2aの216)及び要素順序復号化モジュール(図2bの225)により符号化/復号化される情報は、頂点順序情報である。しかし、本発明がこれに限定されるものではなく、他の実施例では、頂点順序情報の代わりに面順序情報が符号化/復号化されることができる。さらに他の実施例では、頂点順序情報及び面順序情報が共に符号化/復号化されることができる。
また、前記図2bでは、要素順序再整列モジュール227が3次元モデルの復元以前に行われるものと示されているが、必ずこれに限定されるものではない。他の実施例では、3次元モデルの復元以後に後処理として再整列モジュール227が行われることもできる。
図3は、本発明の一実施例に係る3次元メッシュ情報の符号化過程を示す流れ図である。図示のように、段階S310で、3次元メッシュ情報を符号化し、符号化されたビットストリームを出力する。一実施例で、既存のSNHCの3DMC符号化方式によれば、3次元メッシュ情報は、3次元メッシュモデルを(位相切開動作(topological surgery operation)により)2次元メッシュ構造に分解することによって生成されるデータであり、頂点グラフ(VG)及び二進ツリー構造の三角形スパニンググラフ(Triangle Tree:TT)を含む。しかし、本発明は、3次元メッシュ情報の符号化に特徴があるものではなく、符号化過程で変更され得る要素順序情報の符号化に特徴があるものであり、前述したSNHCの3DMC符号化方式だけでなく、要素の順序を変更させる全ての従来の符号化方式に適用されることができることが本技術分野の当業者に自明であろう。
段階S320で、前記3次元メッシュ情報に含まれた要素各々に対してオリジナルモデル内の順序情報(IFS単位及びCC単位)を計算する。前述したように、一実施例で、3DMC符号化過程で位相切開動作によりオリジナルモデルの頂点及び/または面のような要素の順序が変更されることができるので、3次元メッシュ情報に含まれた各要素に対してオリジナルモデルに基盤する順序情報(IFS単位及びCC単位)を計算する必要がある。一実施例では、3次元モデルをなす要素のうち頂点の順序情報が計算されることができ、他の実施例では、面順序情報が計算されることができる。また、さらに他の実施例では、頂点及び面順序情報が共に計算されることができる。
段階S330で、前記計算された要素順序情報を符号化する。一実施例によれば、符号化ビット率を低減するために、要素順序情報を識別可能な単位で前記要素順序情報に割り当てられるコードワード(codeword)のビット数を順次的に減少させながら符号化を行う。これについては、図5を参照して後述する。
段階S340で、段階S310で符号化された3次元メッシュ情報ビットストリームに対するパケットを生成し、且つ要素順序情報を前記パケット内に挿入する。
前記段階S310乃至S340の実行が必ず前述した順序によって行われるものではなく、実際具現時には1つの段階の実行結果が他の段階の実行結果に影響を及ぼさない範囲内で順序の変更及び/または並列実行が可能であることが本技術分野の当業者に自明であろう。
図4は、本発明の一実施例に係る3次元メッシュ情報パケットの復号化過程を示す流れ図である。段階S410で、3次元メッシュ情報パケットを復号化する。このような復号化は、本技術分野に公知された技術であって、本明細書では、これに関する詳細な説明を省略する。
段階S420で、3次元メッシュ情報パケットの選定された領域(例えば、ヘッダー領域)内にオリジナルモデルの要素順序情報が含まれているか否かを判断する。要素順序情報が含まれていない場合には、前記復号化過程は終了する。
これに対し、段階S420で受信されたパケット内に要素順序情報が含まれているものと判断されれば、段階S430で要素順序情報を抽出し、段階S440で抽出された要素の順序情報を復号化する。段階S450で前記復号化された要素順序情報を用いて復元モデルをオリジナルモデルの順序と同一に再整列する。前記段階S410乃至S450の実行が必ず前述した順序になされるものではなく、具現によって任意的に変更可能であることが本技術分野の当業者に自明であろう。例えば、他の実施例では、要素順序情報の包含可否判断S430、要素順序情報の抽出S440及び復号化段階S450が3DMC復号化段階S410以前に行われることもできる。
前述したように、本発明のさらに他の特徴は、頂点順序及び面順序のような要素順序情報を符号化するにあたって要素順序情報に割り当てられるコードワードのビット数を要素順序情報の識別可能な単位で順次的に減少させることによって、符号化ビット率を低減することにある。本発明に係る要素順序情報の符号化に対する理解のために、以下の表1に頂点順序情報をIFS単位で本発明によって符号化する場合のコードワード結果を表示した。
Figure 0004808771
表1に表示されたように、オリジナルモデルでの全体頂点の個数が6個である場合を仮定すれば、各頂点の順序情報を示すために3ビットが必要である。したがって、順序情報である“0”及び“2”は、コードワード“000”及び“010”に各々符号化される。
次に、“0”及び“2”の符号化後に残った順序情報は、4個(すなわち“1”、“5”、“4”、“3”)である。4個の順序情報の識別は、2個のビットを用いて可能である。この時、残余順序情報のうち最初2個である“1”及び“5”に割り当てられる2ビットコードワード値は、任意の選定されたアルゴリズムによって定められることができ、前記例では、上がり順によって“00”及び“11”が各々割り当てられる。しかし、必ず上がり順によってコードワード値が割り当てられるものではなく、下がり順を含んで多様な方式によってなされることができる。
次に、“1”及び“5”の符号化後に残った順序情報は、“4”及び“3”になり、これは、1個のビットを用いて識別可能である。したがって、上がり順方式によって“4”にはコードワード“1”が割り当てられる。一方、最後の順序情報である“3”の場合には、実質的に転送されなくても、受信側で予測可能な情報であるから、転送されなかったり、代案的に、ネットワークでのエラー発生可否を確認するために“0”に符号化されて転送されることができる。
一方、前記表1に示された例では6個の頂点に対して2個は3ビットに、2個は2ビットに、1個(または2個)は1ビットに符号化したが、他の実施例では、4個を3ビットに、2個を2ビットに符号化することもでき、その他の多様な組合がありえる。
図5は、本発明の一実施例に係るIFSIndexedFaceSet単位で要素順序情報を符号化する過程を示す流れ図である。図5には、頂点順序情報の符号化過程(段階510a乃至560a)及び面順序情報の符号化過程(段階510b乃至560b)が共に実行されるものと示されているが、前述したように、本発明がこのような実施例に限定されるものではなく、選択的に、頂点順序情報、または面順序情報または頂点及び面順序情報の符号化が全て可能である。
まず、頂点順序情報の割り当てられるコードワードビット数(bit per vertices information:bpvi)の初期値を
Figure 0004808771
(ここで、nVは、オリジナルモデルを構成する頂点の総個数)に設定する(段階510a)。例えば、頂点の総個数nVが6とすれば、bpvi値は3になる。
一実施例で、bpviビット数に符号化される頂点個数Coding_Verticesを次の数式1によって計算する(段階520a)。
Figure 0004808771
頂点の総個数が6である前記例で、計算されたCoding_Vertices値は、2となる。次に、前記計算されたCoding_Vertices個の頂点順序情報をbpviビットコードワードを用いて符号化する(段階530a)。したがって、前記例で2個の頂点順序情報が3個ビットコードワードを用いて符号化される。
前記Coding_Verticesを計算する方式は、一例に過ぎず、本発明がこれに限定されるものではない。代案的に、Coding_Verices値は、2(bpvi−2)値に定められることができる。
その後に、頂点の総個数nVから符号化された頂点個数Coding_Verticesだけ減少させ(段階540a)、残余頂点の総個数nV値が1であるか否かを判断する(段階550a)。そうでなければ、コードワードのビット数bpviを1減少させた後に(段階S560a)、前述した段階520a乃至550aを繰り返して行い、全ての頂点の順序情報の符号化を達成する。
一方、段階510b乃至560bは、前述した頂点順序情報の符号化実行段階510a乃至560aと同じ方式でnF個の面順序情報の符号化を行う段階であって、これに関する詳細な説明は省略する。
したがって、本発明によれば、コードワードビット数を順次的に1ずつ減少させながら頂点/面順序情報を符号化させることによって、符号化ビット率を低減することができるようになる。
図6は、本発明の一実施例に係るIFS単位で要素順序情報を復号化する過程を示す流れ図である。
まず、符号化された頂点順序情報に割り当てられたコードワードビット数である“bpvi(bit per vertices information)”の初期値を下記式2によって計算する(段階610a)。
Figure 0004808771
その後に、bpvi個ビットのコードワードで復号化する頂点個数Decoding_Verticesを次の数学式3によって計算する(段階620a)。
Figure 0004808771
前記式は、一例に過ぎず、他の実施例では、bpvi個ビットのコードワードで復号化する頂点個数Decoding_Verticesに対する情報が符号化された頂点順序情報内に含まれていることができる。
次に、符号化された頂点順序情報からDecoding_Vertices個のbpviビットコードワードを順次的に読み取り、これから頂点順序情報を復号化する(段階630a)。その後に、頂点の総個数nVから復号化された頂点個数Decoding_Verticesだけ減少させて、残余頂点総個数nVが1であるか否かを判断する(段階S650a)。そうでなければ、読み取られるコードワードのビット数bpviを1減少させた後に(段階S660a)、前述した段階620a乃至650aを繰り返して行い、全ての頂点の順序情報の復号化を達成する。
一方、段階610b乃至660bは、前述した頂点順序情報の復号化実行段階610a出すが660aと同じ方式でnF個の面順序情報の復号化を行う段階であって、これに関する詳細な説明は省略する。
今までは、要素順序情報をIFS単位で計算した場合の要素順序情報の符号化/復号化過程を説明した。図7aは、要素順序情報がIFS単位毎に挿入された例を示す。
一方、本発明の他の実施例によれば、要素順序情報は、CC(Connected Component)単位で計算されることができ、図7bは、要素順序情報がCC(Connected Component)単位毎に挿入された例を示す。CC単位毎に要素順序情報が挿入される場合、“VO”及び“FO”は、各CCを構成する頂点及び面に対する頂点順序情報及び面順序情報を含み、頂点順序情報及び面順序情報の包含可否を示すフラグがCC単位毎に使われるものではない。
また、前記例では頂点順序情報及び面順序情報の包含可否を示すフラグに各々1ビットを割り当てて表現したが、他の例では、2ビットの“vertex_face_order_flag”フラグで次のように表現することができる。
Figure 0004808771
前述したように、前記要素順序情報は、IFS単位毎に挿入されることもでき、CC(Connected Component)単位毎に挿入されることもできる。CC単位毎に要素順序情報を挿入する場合に、IFS単位で計算された要素順序情報値を単純にCC単位毎に挿入することもできるが、IFS単位で計算された要素順序情報値をCC単位で計算された要素順序情報値に変換し、この変換された値をCC単位毎に挿入することもできる。
例えば、900個の頂点からなるモデルが各300個の頂点からなる3個のCCで構成されている場合、IFS単位では、0から899までの順序情報値を有する要素順序情報を符号化するが、この値をCC単位で計算すれば、0から299までの順序情報値に変換して表現することができる。このように要素順序情報値をCC単位で表現すれば、IFS単位で表現した時と比較して、さらに少ないビット数で要素順序情報値を符号化することができるようになる。一例として、900個の頂点からなるモデルの場合、第1番目のCCは、0から299までの順序情報値を有する300個の頂点で構成され、第2番目のCCは、300から599までの順序情報値を有する300個の頂点で構成され、第3番目のCCは、600から899までの順序情報値を有する300個の頂点で構成されていると仮定する。第1番目のCCの場合、0から299まで表現された要素順序情報値は、CC単位で変換しても同じ値を有するので、図5に示された過程を用いて符号化される。第2番目のCCの場合は、300から599まで表現されたIFS単位での順序情報値を0から299まで表現されたCC単位での順序情報値に変換する。変換する方法は、第1番目のCCで300個の頂点が符号化されたので、各要素順序情報値から単純に300を差し引けばよい。第3番目のCCの場合も、600から899までの値を有する順序情報を第1番目のCCと第2番目のCCで300個ずつ符号化されたので、600を差し引くことによって、0から299までの値を有するCC単位での順序情報値に変換することができる。
このような場合以外にも、IFS上でのCCの構成は多様な構造を有することができる。すなわち、各CCが順次的に連結されて構成されていない場合のモデルもあり得る。そのような一例であるhorseモデルのCC構成図を図8に示した。horseモデルは、11,135個の頂点で構成されているモデルであるから、IFS上では、0から11,134までの要素順序情報を有する。このIFSは、3個のCCで構成されており、第1番目のCCは、0から11,134までの値を有する10,811個の頂点で、第2番目のCCは、3,200から3,523までの値を有する162個の頂点で、第3番目のCCは、3,299から3,460までの値を有する162個の頂点で構成されている。この値をCC単位で表現して第1番目のCCは、0から10,810までの値を有するように、第2番目のCCと第3番目のCCは、0から161までの値を有するように変換することができる。しかし、このようなモデルの場合には、CC単位の順序情報値に変換する時、互いにが互いを含んでいる構造を示すので、単純に或る値を足したり差し引くことによって解決されない。したがって、この場合には、オフセット値を導入することによってこのような問題を解決することができる。このために、オフセット値を各要素順序情報単位で提供することもでき、オフセット値をCC単位で提供することもでき、IFS内でのCC構造情報をヘッダー部に提供することもでき、その他多様な方式によって解決することができる。
一例として、horseモデルの場合、CC構成情報であるCC#1={0,1,2,…,3199,3524,3525,…,11134}、CC#2={3200,3201,…,3298,3461,3462,…,3523}、CC#3={3299,3300,…,3460}をヘッダー部に提供することによって、オフセット値をCC単位で提供することができるので、CC単位で符号化する時に得ることができる長所を活用することができるようになる。
CC単位で表現された要素順序情報を符号化するためには、頂点順序情報の割り当てられるコードワードビット数(bit per vertices information:bpvi)の初期値を
Figure 0004808771
(ここで、nCVは、i番目CCを構成する頂点の総個数)に設定することを除いて、IFS単位で表現された頂点順序情報を符号化する過程と同一である。nCF個の面順序情報の符号化を行うことも面順序情報の割り当てられるコードワードビット数(bit per faces information:bpfi)の初期値を
Figure 0004808771
ここで、nCFは、i番目CCを構成する面の総個数)に設定することを除いて、IFS単位で表現された面順序情報を符号化する過程と同一である。
したがって、本発明によればIFS単位で表現された頂点/面順序情報をCC単位で表現された頂点/面順序情報に変換し、これをコードワードビット数を順次的に1ずつ減少させながら符号化させるによって、符号化ビット率を低減することができるようになる。
また、CC単位で表現された要素順序情報を復号化するためには、頂点順序情報の割り当てられるコードワードビット数(bit per vertices information:bpvi)の初期値を
Figure 0004808771
(ここで、nCVは、i番目CCを構成する頂点の総個数)に設定するを除いて、IFS単位で表現された頂点順序情報を復号化する過程と同一である。nCF個の面順序情報の復号化を行うことも面順序情報の割り当てられるコードワードビット数(bit per faces information:bpfi)の初期値を (ここで、nCFは、i番目CCを構成する面の総個数)に設定するを除いて、IFS単位で表現された面順序情報を復号化する過程と同一である。但し、復号された頂点/面順序情報をIFS単位で表現された頂点/面順序情報に復元するためには、ヘッダー情報にある該当オフセット値を復号された頂点/面順序情報値に加えるようになる。
図9a、図9b及び図9cは、本発明によってIFS上でのCC構成情報を示すヘッダー部の構造の一例を示す。
図示のように、ヘッダー情報には、大きくオフセット情報の有無を示すフラグ、オフセット情報がある場合、各CCに適用されるオフセットの個数、実際オフセット値、各オフセットが適用される第1番目の要素順序情報(CC単位で表現される)が含まれることができる。図示のヘッダー構造は、例示的なものであり、ヘッダーでのCC構成情報の表現方法及び位置は変更可能である。一例として、ヘッダー部に提供される実際オフセット値に関する情報において第1番目のオフセット値を除いて第2番目から最後のオフセット値は、以前オフセット値との差異値として設定することができる。
要素順序情報をIFS単位毎に挿入すべきか、CC単位毎に挿入すべきかは、モデルの特性及び符号化ビット率によって選択可能である。
前述した本発明は、1つ以上の製造物上に具現された1つ以上のコンピュータ読み取り可能な媒体として提供されることができる。製造物は、フロッピーディスク、ハードディスク、CDROM、フラッシュメモリカード、PROM、RAM、ROM、または磁気テープを挙げることができる。一般的に、コンピュータ読み取り可能なプログラムは、任意のプログラミング言語で具現されることができる。
以上、特定の実施例と関連して本発明を説明したが、本発明は、前述した実施例及び添付の図面に限定されるものでなく、本発明の技術的思想を逸脱しない範囲内で、様々に置換、変形及び変更が可能であることが本発明の属する技術分野における通常の知識を有する者にとって自明である。
従来の3DMCによる符号化装置の構成を概念的に示す。 従来の3DMCによる復号化装置の構成を概念的に示す。 本発明の好ましい実施例に係る3DMC符号化装置210を概略的に示すブロック図である。 本発明の好ましい実施例に係る3DMC復号化装置220を概略的に示すブロック図である。 本発明の一実施例に係る3次元メッシュ情報の符号化過程を示す流れ図である。 本発明の一実施例に係る3次元メッシュ情報の復号化過程を示す流れ図である。 本発明の一実施例によってIFS(IndexedFaceSet)単位で要素順序情報を符号化する過程を示す流れ図である。 本発明の一実施例によってIFS単位で要素順序情報を復号化する過程を示す流れ図である。 本発明によって頂点/面順序情報が追加された3DMCパケット構造の一例を示す。 本発明によって頂点/面順序情報が追加された3DMCパケット構造の一例を示す。 horseモデルの場合、IFS上でのCC構造を示す構成図である。 本発明に係る頂点/面順序情報のヘッダー部の一例を示す。 本発明に係る頂点/面順序情報のヘッダー部の一例を示す。 本発明に係る頂点/面順序情報のヘッダー部の一例を示す。

Claims (20)

  1. 3次元メッシュ情報を符号化し、符号化されたビットストリーム(encoded bit stream)を出力する段階と、
    前記符号化された3次元メッシュ情報ビットストリームに含まれる少なくとも1つ以上の要素各々に対するオリジナルモデル内の変更前要素順序情報を求める段階と、
    前記変更前要素順序情報を符号化する段階と、
    前記ビットストリームに対するパケットを生成し、且つ前記符号化された変更前要素順序情報を前記パケット内に挿入する段階と、を含む3次元メッシュ情報の符号化方法。
  2. 前記変更前要素順序情報は、頂点及び面順序情報のうち少なくともいずれか1つであることを特徴とする請求項1に記載の3次元メッシュ情報の符号化方法。
  3. 前記変更前要素順序情報の符号化段階は、
    (i)前記変更前要素順序情報の符号化に用いられるコードワードビット数の初期値を
    Figure 0004808771
    (ここで、Nは、変更前要素順序情報の総個数)に設定する段階と、
    (ii)前記設定されたビット数のコードワードを用いて所定個数の変更前要素順序情報を符号化する段階と、
    (iii)前記コードワードビット数を1減少させる段階と、
    (iv)符号化されない残余変更前要素順序情報の一部変更前要素順序情報を前記減少されたビット数のコードワードを用いて符号化する段階と、
    (v)全ての変更前要素順序情報が符号化されるまで前記(iii)及び(v)段階を繰り返して行う段階と、を含むことを特徴とする請求項1に記載の3次元メッシュ情報の符号化方法。
  4. 前記変更前要素順序情報は、IFS(IndexedFaceSet)単位で求められ、前記変更前要素順序情報の符号化段階は、
    (i)前記IFS単位で求められた前記変更前要素順序情報をCC(Connected Component)単位の変更前要素順序情報及びこれに関連したオフセット値に変換する段階と、
    (ii)前記変更前要素順序情報の符号化に用いられるコードワードビット数の初期値を
    Figure 0004808771
    (ここで、CNは、i番目CCで変更前要素順序情報の総個数)に設定する段階と、
    (iii)前記設定されたビット数のコードワードを用いて所定個数の変更前要素順序情報を符号化する段階と、
    (iv)前記コードワードビット数を1減少させる段階と、
    (v)符号化されない残余変更前要素順序情報の一部変更前要素順序情報を前記減少されたビット数のコードワードを用いて符号化する段階と、
    (vi)全ての変更前要素順序情報が符号化されるまで前記(iii)及び(iv)段階を繰り返して行う段階と、を含むことを特徴とする請求項1に記載の3次元メッシュ情報の符号化方法。
  5. 前記IFS単位で求められた前記変更前要素順序情報をCC単位の変更前要素順序情報に変換したことを示すフラグを前記パケットのヘッダーに格納する段階をさらに含むことを特徴とする請求項4に記載の3次元メッシュ情報の符号化方法。
  6. 前記オフセット値を前記パケットのヘッダー内に格納する段階をさらに含むことを特徴とする請求項5に記載の3次元メッシュ情報の符号化方法。
  7. 符号化された3次元メッシュビットストリーム情報に含まれた少なくとも1つの要素各々に対するオリジナルモデル内の変更前要素順序情報をIFS単位で求める段階と、
    前記変更前要素順序情報を符号化する段階と、を含む変更前要素順序情報の符号化方法。
  8. 前記IFS単位で求められた変更前要素順序情報値をCC単位の変更前要素順序情報値及びこれに関連したオフセット値に変換する段階をさらに含むことを特徴とする請求項7に記載の変更前要素順序情報の符号化方法。
  9. 3次元メッシュ情報パケットを復号化し、オリジナルモデルデータを復元する段階と、
    前記パケットの選定された領域に前記オリジナルモデル内の変更前要素順序情報が存在するか否かを判断する段階と、
    前記変更前要素順序情報が存在すると判断されれば、前記パケットから前記変更前要素順序情報を抽出する段階と、
    前記抽出された変更前要素順序情報を復号化する段階と、
    前記復号化された変更前要素順序情報に基づいて前記復元されたオリジナルモデルデータを再整列する段階と、を含む3次元メッシュ情報の復号化方法。
  10. 前記変更前要素順序情報が存在するか否かを判断する段階は、前記パケットのヘッダー内の選定された領域に存在する変更前要素順序情報存在可否を示すフラグ値を用いて判断することを特徴とする請求項9に記載の3次元メッシュ情報の復号化方法。
  11. 前記変更前要素順序情報が存在するか否かを判断する段階は、頂点及び面順序情報のうち少なくともいずれか1つが存在するか否かを判断することを特徴とする請求項9に記載の3次元メッシュ情報の復号化方法。
  12. 前記変更前要素順序情報を復号化する段階は、
    (i)前記変更前要素順序情報に対応するコードワードのビット数初期値を
    Figure 0004808771
    (ここで、Nは、変更前要素順序情報の総個数)に設定する段階と、
    (ii)前記設定されたビット数のコードワードを所定個数読み取り、前記読み取られたコードワード各々からこれに対応する変更前要素順序情報を復元する段階と、
    (iii)前記コードワードビット数を1減少させる段階と、
    (iv)前記減少されたビット数のコードワードを所定個数だけ読み取り、前記読み取られたコードワード各々からこれに対応する変更前要素順序情報を復元する段階と、
    (v)全ての変更前要素順序情報が復元されるまで前記(iii)及び(iv)段階を繰り返して行う段階と、を含むことを特徴とする請求項9に記載の3次元メッシュ情報の復号化方法。
  13. 前記変更前要素順序情報がCC単位で表現された場合に前記変更前要素順序情報を復号化する段階は、
    (i)前記変更前要素順序情報に対応するコードワードのビット数初期値を
    Figure 0004808771
    (ここで、CNは、変更前要素順序情報の総個数)に設定する段階と、
    (ii)前記設定されたビット数のコードワードを所定個数読み取り、前記読み取られたコードワード各々からこれに対応する変更前要素順序情報を復元する段階と、
    (iii)前記コードワードビット数を1減少させる段階と、
    (iv)前記減少されたビット数のコードワードを所定個数だけ読み取り、
    前記読み取られたコードワード各々からこれに対応する変更前要素順序情報を復元する段階と、
    (v)全ての変更前要素順序情報が復元されるまで前記(iii)及び(iv)段階を繰り返して行う段階と、
    (vi)前記復元された変更前要素順序情報に前記パケットに格納された該当オフセット値を加算することによって、IFS単位で表現された変更前要素順序情報を復元する段階と、を含むことを特徴とする請求項9に記載の3次元メッシュ情報の復号化方法。
  14. 3次元メッシュ情報パケット内の選定された領域から変更前要素順序情報を抽出する段階と、
    前記抽出された変更前要素順序情報を復号化する段階と、
    前記復号された変更前要素順序情報値に前記パケットに格納されたオフセット値を加算することによって、IFS単位で表現された変更前要素順序情報を復元する段階と、を含む変更前要素順序情報の復号化方法。
  15. 3次元メッシュ情報を符号化し、符号化されたビットストリーム(encoded bit stream)を出力するための手段と、
    前記符号化された3次元メッシュ情報ビットストリームに含まれた少なくとも1つ以上の要素各々に対するオリジナルモデル内の変更前要素順序情報を計算するための手段と、
    前記変更前要素順序情報を符号化するための順序情報の符号化手段と、
    前記ビットストリームに対するパケットを生成し、且つ前記変更前要素順序情報を前記パケット内に挿入させるための手段と、を含む3次元メッシュ情報の符号化装置。
  16. オリジナルモデルを2次元構造に分解し、3次元メッシュ情報を算出するための手段をさらに含むことを特徴とする請求項15に記載の3次元メッシュ情報の符号化装置。
  17. 前記順序情報の符号化手段は、前記3次元メッシュモデルの頂点及び面順序情報のうち少なくともいずれか1つを符号化することを特徴とする請求項15に記載の3次元メッシュ情報の符号化装置。
  18. 3次元メッシュ情報パケットを復号化し、オリジナルモデルデータを復元するための手段と、
    前記パケット内の変更前要素順序情報を復号化するための順序情報の復号化手段と、
    前記復元されたオリジナルモデルデータを前記復号化された変更前要素順序情報に基づいて再整列するための手段と、を含む3次元メッシュ情報の復号化装置。
  19. 請求項1乃至6のいずれかに記載の3次元メッシュ情報の符号化方法をコンピュータに実行させるためのコンピュータプログラムが記録されたコンピュータ読み取り可能な記録媒体。
  20. 請求項9乃至13のいずれかに記載の3次元メッシュ情報の復号化方法をコンピュータに実行させるためのコンピュータプログラムが記録されたコンピュータ読み取り可能な記録媒体。
JP2008506378A 2005-04-13 2006-04-13 3次元メッシュ情報の符号化及び復号化装置ならびにその方法 Expired - Fee Related JP4808771B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
KR10-2005-0030853 2005-04-13
KR20050030853 2005-04-13
KR10-2005-0096261 2005-10-12
KR20050096261 2005-10-12
KR20060031078A KR100747489B1 (ko) 2005-04-13 2006-04-05 3차원 메쉬 정보의 부호화/복호화 방법 및 장치
KR10-2006-0031078 2006-04-05
PCT/KR2006/001363 WO2006110002A1 (en) 2005-04-13 2006-04-13 Method and apparatus for encoding/decoding 3d mesh information

Publications (2)

Publication Number Publication Date
JP2008538435A JP2008538435A (ja) 2008-10-23
JP4808771B2 true JP4808771B2 (ja) 2011-11-02

Family

ID=37628289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008506378A Expired - Fee Related JP4808771B2 (ja) 2005-04-13 2006-04-13 3次元メッシュ情報の符号化及び復号化装置ならびにその方法

Country Status (3)

Country Link
US (1) US8131094B2 (ja)
JP (1) JP4808771B2 (ja)
KR (1) KR100747489B1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100910031B1 (ko) * 2007-09-06 2009-07-30 한양대학교 산학협력단 3차원 메쉬 모델의 부호화 장치, 그 방법 및 이를 기록한기록매체
US8462149B2 (en) * 2008-04-18 2013-06-11 Electronics And Telecommunications Research Institute Method and apparatus for real time 3D mesh compression, based on quanitzation
EP2216750A1 (en) * 2009-02-06 2010-08-11 Thomson Licensing Method and apparatus for encoding 3D mesh models, and method and apparatus for decoding encoded 3D mesh models
JP4957831B2 (ja) * 2009-08-18 2012-06-20 ソニー株式会社 再生装置および再生方法、並びに記録装置および記録方法
JP5585047B2 (ja) * 2009-10-28 2014-09-10 ソニー株式会社 ストリーム受信装置、ストリーム受信方法、ストリーム送信装置、ストリーム送信方法及びコンピュータプログラム
WO2012124901A2 (ko) * 2011-03-17 2012-09-20 삼성전자주식회사 3차원 메쉬 부호화 방법 및 장치
KR101844297B1 (ko) 2011-03-17 2018-04-02 삼성전자주식회사 3차원 메쉬 부호화 방법 및 장치
JP2015512072A (ja) * 2012-01-21 2015-04-23 トムソン ライセンシングThomson Licensing 3次元(3d)モデルのテクスチャ情報を圧縮する方法及び装置
US9633473B2 (en) 2012-02-09 2017-04-25 Thomson Licensing Efficient compression of 3D models based on octree decomposition
US9747513B2 (en) 2015-09-17 2017-08-29 International Business Machines Corporation Path compression of a network graph
US20230403443A1 (en) * 2022-06-08 2023-12-14 Rovi Guides, Inc. Systems and methods for light-weight networked volumetric asset control

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1079049A (ja) * 1996-07-30 1998-03-24 Internatl Business Mach Corp <Ibm> 幾何モデルを圧縮し圧縮解除する方法、システム及びデータ構造
JP2002112149A (ja) * 2000-09-29 2002-04-12 Sony Corp データ処理方法及び装置、データ伝送システム、伝送媒体

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5825369A (en) * 1996-01-16 1998-10-20 International Business Machines Corporation Compression of simple geometric models using spanning trees
US6002803A (en) 1997-03-11 1999-12-14 Sharp Laboratories Of America, Inc. Methods of coding the order information for multiple-layer vertices
US6438266B1 (en) * 1998-08-27 2002-08-20 Lucent Technologies Inc. Encoding images of 3-D objects with improved rendering time and transmission processes
KR100294926B1 (ko) 1998-08-29 2001-07-12 윤종용 점진적인 삼차원 메쉬 정보의 부호화/복호화 방법 및 장치
KR100294928B1 (ko) 1998-11-28 2001-07-12 윤종용 2차원 또는 3차원 메쉬정보 중의 특성정보 부호화장치 및 그방법
US6718290B1 (en) * 1998-12-10 2004-04-06 Georgia Tech Research Corporation Systems and methods for encoding tetrahedral meshes
US6850638B1 (en) * 2000-02-29 2005-02-01 Alias Systems Corp. System for naming faces and vertices in an adaptive hierarchical subdivision surface
US6898320B2 (en) * 2000-03-14 2005-05-24 Samsung Electronics Co., Ltd. Method for processing nodes in 3D scene and apparatus thereof
GB2377604B (en) 2001-07-09 2005-09-28 Superscape Plc Mesh compression
US7630563B2 (en) * 2001-07-19 2009-12-08 Qualcomm Incorporated System and method for decoding digital image and audio data in a lossless manner
JP2003050830A (ja) 2001-08-06 2003-02-21 Digital Process Ltd 6面体メッシュ生成方法及び6面体メッシュ生成装置
JP3778913B2 (ja) * 2001-11-16 2006-05-24 株式会社エヌ・ティ・ティ・ドコモ 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、及びプログラム
KR100439087B1 (ko) 2002-05-09 2004-07-05 한국과학기술원 3차원 물체 상세화 모델링 방법
JP3840173B2 (ja) 2002-11-15 2006-11-01 キヤノン株式会社 三次元解析用メッシュ生成方法、三次元解析用メッシュ生成装置、プログラムおよび記憶媒体
KR100513732B1 (ko) 2002-12-05 2005-09-08 삼성전자주식회사 3차원 객체 데이터 부호화 및 복호화 방법 및 장치
US6919826B1 (en) * 2003-12-19 2005-07-19 Sun Microsystems, Inc. Systems and methods for efficient and compact encoding
KR101334173B1 (ko) * 2006-01-11 2013-11-28 삼성전자주식회사 그래픽 데이터 부호화 및 복호화 방법과 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1079049A (ja) * 1996-07-30 1998-03-24 Internatl Business Mach Corp <Ibm> 幾何モデルを圧縮し圧縮解除する方法、システム及びデータ構造
JP2002112149A (ja) * 2000-09-29 2002-04-12 Sony Corp データ処理方法及び装置、データ伝送システム、伝送媒体

Also Published As

Publication number Publication date
KR100747489B1 (ko) 2007-08-08
JP2008538435A (ja) 2008-10-23
US20090263029A1 (en) 2009-10-22
US8131094B2 (en) 2012-03-06
KR20060108499A (ko) 2006-10-18

Similar Documents

Publication Publication Date Title
JP4808771B2 (ja) 3次元メッシュ情報の符号化及び復号化装置ならびにその方法
KR101334173B1 (ko) 그래픽 데이터 부호화 및 복호화 방법과 장치
US10861195B2 (en) Valence-based encoding and decoding of connectivity data in a 3D model
JP5232799B2 (ja) スティチング情報を含む3dメッシュ情報を符号化/復号する方法及び装置
EP2697985B1 (en) Method for encoding a mesh model, encoded mesh model and method for decoding a mesh model
JP5033261B2 (ja) 共有頂点情報を用いた低複雑度3次元メッシュ圧縮装置及び方法
Taubin et al. Geometric compression through topological surgery
JP4672735B2 (ja) 効果的なテクスチャマッピングのための3次元メッシュ情報のテクスチャ座標符号化及び復号化方法
KR101268508B1 (ko) 스티칭 정보를 포함하는 3차원 메쉬 정보부호화/복호화 방법 및 장치
JP5068849B2 (ja) レイトレーシング方法、システム、およびプログラム
KR20220029595A (ko) 포인트 클라우드 인코딩과 디코딩 방법, 인코더, 디코더 및 컴퓨터 저장 매체
KR100910031B1 (ko) 3차원 메쉬 모델의 부호화 장치, 그 방법 및 이를 기록한기록매체
KR20080094542A (ko) 3차원 메쉬 정보의 부호화/복호화 방법 및 장치
WO2006110002A1 (en) Method and apparatus for encoding/decoding 3d mesh information
WO2006075895A1 (en) Method of encoding and decoding texture coordinates in three-dimensional mesh information for effective texture mapping
WO2023047119A1 (en) Point cloud data frames compression
KR20090110776A (ko) 저복잡도 3차원 메쉬 압축 장치 및 방법
KR20000028583A (ko) 손실탄력성을갖는점진적삼차원메쉬정보의부호화/복호화방법
KR101086772B1 (ko) 양자화 기법에 기반한 3차원 메쉬 압축 장치 및 방법
Isenburg et al. Graph coding and connectivity compression
Hao et al. Mesh Connectivity Compression for Progressive-to-Lossless Transmission
CN116800970A (zh) 编码、解码方法、装置及设备
Antonijevic Compression of Sequential Voxel Data for Sequence-based Animation
KR20240073054A (ko) 포인트 클라우드 데이터 프레임 압축
KR20230137234A (ko) 옥트리 기반 삼각형 코딩을 이용하는 메시 압축 방법 및 장치

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100601

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100901

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100908

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110629

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110722

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110817

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140826

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees