JP2005332028A - 3次元グラフィックスデータ作成方法、テクスチャ画像作成方法、多次元データ符号化方法、多次元データ復号方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム - Google Patents

3次元グラフィックスデータ作成方法、テクスチャ画像作成方法、多次元データ符号化方法、多次元データ復号方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム Download PDF

Info

Publication number
JP2005332028A
JP2005332028A JP2004147513A JP2004147513A JP2005332028A JP 2005332028 A JP2005332028 A JP 2005332028A JP 2004147513 A JP2004147513 A JP 2004147513A JP 2004147513 A JP2004147513 A JP 2004147513A JP 2005332028 A JP2005332028 A JP 2005332028A
Authority
JP
Japan
Prior art keywords
data
model
dimensional
base
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004147513A
Other languages
English (en)
Other versions
JP4398785B2 (ja
Inventor
Masaki Kitahara
正樹 北原
Hideaki Kimata
英明 木全
Yoshiyuki Yashima
由幸 八島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004147513A priority Critical patent/JP4398785B2/ja
Publication of JP2005332028A publication Critical patent/JP2005332028A/ja
Application granted granted Critical
Publication of JP4398785B2 publication Critical patent/JP4398785B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】3次元モデルのレンダリングの演算量の削減を目的とする。
【解決手段】従来ではデータ用モデルを用いてレンダリングを行うようにしている。しかし、これではレンダリングに用いる3角形パッチの数が多くなり過ぎてしまい、レンダリングの演算量が膨大なものとなってしまう。そこで、データ用モデルよりも頂点数の少ないレンダリング用モデルを用い、テクスチャマッピングによってレンダリングを行うという構成を採る。これによりレンダリングに用いる3角形パッチの数を減らせる。しかし、それでは3次元モデルにマッピングするテクスチャが粗くなってしまう。そこで、データ用モデルから求まる属性値をレンダリング用モデルに対応付けられるテクスチャ画像のテクセル値として設定するという構成を採る。この構成に従って、従来技術と同レベルのレンダリング画像を得ながら、レンダリング量の演算量を大幅に削減できるようになる。
【選択図】図14

Description

本発明は、3次元コンピュータグラフィックスに用いられる3次元グラフィックスデータ作成方法及びその装置と、その3次元グラフィックスデータ作成方法の実現に用いられる3次元グラフィックスデータ作成プログラムと、3次元コンピュータグラフィックスに用いられるテクスチャ画像作成方法及びその装置と、そのテクスチャ画像作成方法の実現に用いられるテクスチャ画像作成プログラムと、3次元コンピュータグラフィックスに用いられる多次元データ符号化方法及びその装置と、その多次元データ符号化方法の実現に用いられる多次元データ符号化プログラムと、3次元コンピュータグラフィックスに用いられる多次元データ復号方法及びその装置と、その多次元データ復号方法の実現に用いられる多次元データ復号プログラムとに関する。
まず、以下の説明で頻繁に利用する“3次元モデル”という言葉に関して厳密な定義を与えておく。なお、以下、ベクトルxについては“<x>”と記述している。
以下では3次元モデルは3角形パッチで構成されるものであるとし、3次元モデルを構成する頂点の数をvertices、3角形の数をfaces としたとき、3次元モデルは3次元空間における頂点の座標値<vi >=(vi,x , vi,y , vi,z )(i=1,2,..,vertices)とその連結情報とで構成されるものであるとする。
ここで、連結情報とは、各3角パッチを構成する3つの頂点のインデックスの情報、<fj >=(fj,1 , fj,2 , fj,3 )(f=1,2,..,faces)である。なお、fj,k はi=1,2,..,vertices のいずれかの値をとる。また、各3角形パッチは、2つの頂点のペアを直線で結んだ辺で構成されるが、3次元モデル中で辺を構成する頂点のペアを“エッジ”と呼ぶこととする。
データ圧縮の際に従来から用いられている信号処理手法として、ウェーブレット変換がある。ウェーブレット変換には大きく分けて、“First Generation Wavelets ”と呼ばれる手法と、“Second Generation Wavelets”と呼ばれる手法の2種類の方法があり、いずれの手法も、3次元モデル上に対応付けられた数値データである属性情報(色データなど)の処理に用いることができる。
いずれの手法においても、3次元モデルの面上に、3次元座標<vi >=(vi,x , vi,y , vi,z )(i=1,2,..,V)を定義し、これらの3次元座標でサンプリングされた色データなどの属性情報<c>=(c1,c2,...,cV )を、ウェーブレット変換係数と呼ぶV個の係数列に変換する。なお、ウェーブレット変換のアルゴリズムに関しては、非特許文献1に詳細に記載されているが、サブバンド分割を再帰的に繰り返し行うことで実現される。
ウェーブレット変換係数の数は3次元モデル上で定義された3次元座標の数Vと同じであるが、隣接する3次元座標に対応した属性情報ci の相関が大きければ、数少ないウェーブレット係数にエネルギーが集中する。従って、数多くの、絶対値が小さいようなウェーブレット変換係数を0とおいて、逆変換を行って復元された属性情報<c' >は元の数値データ<c>に対する良い近似となる。
このようなウェーブレット変換係数の性質を利用して、高効率な圧縮や、ノイズ除去などのフィルタリング処理を行える。“First Generation Wavelets"のアルゴリズムに関しては非特許文献1に、また、“Second Generation Wavelets”のアルゴリズムに関しては非特許文献2に、それぞれ詳細に記載されている。
なお、3次元モデルが“細分割接続性”という制約を満たしており、3次元モデルの各頂点の3次元座標において属性情報がサンプリングされている場合、“Second Generation Wavelets”のウェーブレット変換を適用することが可能である。
細分割接続性とは、3次元モデルの形状や各頂点の座標値などの幾何的な性質とは無関係であり、3次元モデルが有す各頂点の連結性に関するものである。具体的には、細分割接続性とは次のように定義されている。
まず、説明のための例として図16で与えられるような3次元モデルを考え、これをベースメッシュと呼ぶこととする。図17のように、3次元モデルの中で連結しているエッジ(頂点と別の頂点を結ぶ線)が6つである頂点を“正則な頂点(regular vertex)”と呼び、つながっているエッジの数が6でない頂点を“非正則な頂点(extraordinary vertex)”と呼ぶ。図16のベースメッシュでは、いずれの頂点においても連結しているエッジの数が4であり、非正則である。
ここで、このベースメッシュの各エッジを2つのエッジに分割して一つ頂点を挿入し、図18に示してあるように、3角形を4つのより小さな3角形に分割するようにエッジで他の頂点と連結する。ここで、挿入された頂点の座標値は任意であるが、図18ではエッジの両端の頂点の中点としている。
すると、図19(a)に示すような3次元モデルを得る。ここで新しく挿入された頂点からは必ず6つのエッジが出ており、これらの頂点は正則である。この処理を3回繰り返すと図19(b)のような3次元モデルを得る。この3次元モデルでは、ベースメッシュの頂点以外はすべて正則である。
前述の、各エッジに新しい頂点を挿入して連結するという処理はサブディビジョンと呼ばれ(新しい頂点の座標値は任意である)、サブディビジョンを再帰的に繰り返すことで、正則な頂点を生成していくことができる。このように、任意のベースメッシュに対してサブディビジョンを1回以上繰り返し行うことによって得られた、より密な3次元モデルの頂点の連結関係を細分割接続性と呼ぶ。
ここで、以下で頻繁に利用する、細分割接続性に関連した用語の定義を行っておく。
まず、細分割接続性を満たす3次元モデルの“階層数”とは、ベースメッシュに対してサブディビジョンを行った回数と関係する。具体的には、ベースメッシュにS回サブディビジョンを行って得られた3次元モデルの階層数はS+1であるとし、ベースメッシュは“1番目の階層の3次元モデル”と呼び、“S# 番目の階層(ただし、S≧S# )に対応した3次元モデル”とは、ベースメッシュにS# −1回サブディビジョンを行った3次元モデルであるとする。頂点に対応付けられた属性情報の性質によっては、3次元モデルの階層数を多くしておくことによって、ウェーブレット変換を適用した際に数少ないウェーブレット変換係数にエネルギーが集中し、データ圧縮に有効になる。
また、“S# 番目の階層に対応した頂点”とは、S# −1回サブディビジョンで追加された頂点である。なお、S# 番目の階層に対応したある頂点vは、S# −1番目の階層の3次元モデルのいずれかのエッジを分割することで追加されているが、このエッジを“頂点vに対応するS# −1番目の階層のエッジ”と呼ぶこととする。
また、図18に示されているように、S# 番目の階層の3角形は4つの3角形に分割されるが、サブディビジョンを繰り返し行ったことにより、3角形tが分割されて得られた3角形を“3角形tの子孫の3角形”と呼ぶこととする。
なお、一般的な3Dスキャナやモデリングツール等で作成された3次元モデルは、細分割接続性を満たすとは限らないので、任意の3次元モデルを入力として、入力を良く近似するような、細分割接続性を満たす3次元モデルを作成する“再メッシュ化”と呼ばれる手法が従来から利用されてきた。再メッシュ化と呼ばれる手法の一例としては、非特許文献3に記載されているMAPSなどがある。
次に、ウェーブレット変換係数の符号化に関して説明する。
一般的に、符号化されたビットストリームの一部分を復号するだけで符号化対象のデータが復元可能であり(ただし、復元されたデータは誤差を含む)、尚且つ符号化ビットを追加していくことによって段階的に復元されたデータの誤差を小さくしていくことが可能な符号化方法を“プログレッシブ符号化”と呼ぶ。なお、プログレッシブ符号化においては、ビットストリームで先に復号するビット列ほど、復元されたデータの誤差を小さくできる傾向があることが望ましい。
このような符号化によれば、ビットストリームを受信して復号する端末における伝送速度が遅い場合や、処理能力不足によってビットストリーム全体からデータを復元することに膨大な時間を要す場合に、高速にビットストリームの一部のみからデータを復元することが可能となる。なお、前述のウェーブレット変換を利用した場合の、ウェーブレット変換係数のプログレッシブ符号化を可能とする方法としては、非特許文献4や非特許文献5に記載されているSPIHT符号化などがある。
一方、3次元コンピュータグラフィックスの技術分野において、3次元モデルを利用して任意視点画像を作成する技術がある。
この技術では、予め何らかの実物体を様々な視点から撮影した画像から、その実物体の形状を近似した3次元モデルに“光線情報”を対応付けておき、レンダリング時には、3次元モデルと光線情報とを利用して任意視点画像を作成する。
ここで、光線情報とは、3次元モデル上のある位置において、ある方向に放たれる光線の色情報(例えばRGB強度)を表す。光線情報の概念を図20に示す。光線情報を対応付ける点(3次元座標)を3次元モデル上に一様に多数定義しておき、それらの各点において多方向の光線情報を取得しておけば、任意視点画像を作成することが可能である。このように、3次元モデルに対応付けられた光線情報の集合体をSurface Light Fields(以下、SLF)と呼ぶ。
SLFは3次元モデル上の多数の点において、多方向に関する光線情報を含むので、データ量が大きい。従って、データ圧縮が必要である。SLFのプログレッシブ符号化を実現する方法としては、非特許文献6に記載されているMagnor らの手法がある。この手法では、SLFに4次元ウェーブレット変換を行い、ウェーブレット変換係数にSPIHT符号化を行うことでプログレッシブな符号化を実現している。
なお、前述のように3次元モデルの頂点に色が対応付けられている場合のレンダリング方法として一般的なのは、3角形内の色を、その3角形の3つの頂点の補間値とする手法である。この手法は、一般的な消費者に利用されているパーソナルコンピュータに採用されているグラフィックスアクセラレータにも実装されており、実時間レンダリングによく用いられる。
Stephane Mallat, "A theory for multiresolution signal decomposition: The wavelet representation" IEEE Transactions on Pattern Analysis and Machine Intelligence, 11(7), pp.674-693, July 1989 P. Schroeder and W. Sweldens, Spherical Wavelets: Efficiently Representing Functions on the Sphere, Computer Graphics Proceedings, SIGGRAPH 1995, pp.161-172. Lee, A. W. F., Sweldens, W., Schroder, P., Cowsar, L., and Dobkin, D. "Maps: Multiresolution adaptive parameterization of surfaces", Proceedings of SIGGRAPH98 (1998), 95-104. SAID, A., AND PEARLMAN, W. A New, Fast, and Efficient Image Codec Based on Set Partitioning in Hierarchical Trees. IEEE Transaction on Circuits and Systems for Video Technology 6, 3 (1996), 243-250. Khodakovsky, A. "Progressive Geometry Compression" ACM Transactions on Graphics, 1 (2000), 271-278. M. Magnor and B. Girod. Model-based coding of multiviewpoint imagery. SPIE Conference on Visual Communications and Image Processing, pages 14-22, 2000.
本発明では、以下の2つの技術を提供することを目的とする。
(i)細分割接続性を満たす3次元モデルの頂点に色などの属性情報が対応付けられている場合の、レンダリング時の演算量に関する従来の技術の課題を解決する方法
(ii)従来のSLFのプログレッシブ符号化の課題を解決する方法
まず、前者の課題に関して説明する。
前述のように、細分割接続性を満たす3次元モデルの頂点に対応付けられた属性情報(色や前述の多方向の光線情報)にプログレッシブ符号化を行う場合には、ウェーブレット変換(ここでのウェーブレット変換は“Second Generation Wavelets”である)を利用することが考えられるが、例えば、自然画像に見られるような細かい模様などを3次元モデル上に与えるような場合には、数多くの頂点で光線情報をサンプリングしなければならなく、3次元モデルの頂点の数を膨大に要する。つまり、3次元モデルの3角形の数を膨大に要する。
3次元モデルのレンダリングの演算量の大部分は隠面・隠線消去処理(隠れてレンダリング画像に表れない面とエッジの検出処理)に関するものである。3次元モデルの3角形の数が多いと、隠面・隠線消去処理の演算量が大きくなり、高速なレンダリングが実現できない。
次に、後者の従来のSLFのプログレッシブ符号化の課題について説明する。
従来のSLFのプログレッシブ符号化を実現する方法としては、前述した非特許文献6に記載されているMagnor らの手法がある。この手法で圧縮されたSLFを復元して任意視点画像をレンダリングする場合、SPIHTで符号化されたビット列を復号してウェーブレット変換係数を求め、逆ウェーブレット変換によってSLFを復元し、任意視点画像をレンダリングすることになる。
しかし、この方法ではSLFに含まれる光線情報を全て復元するため、SLFがレンダリングを行う端末のメモリ容量を超えるような場合は、任意視点画像を作成する際の処理時間が膨大となってしまう問題がある。
一般的に、任意視点画像の作成に際しては、SLFに含まれる全ての光線情報を復元する必要はない。実際には、その時点での仮想カメラの視点位置、視線方向に対応した光線情報のみ復元すればよい。
従来の手法で必要な光線情報のみ復元し、メモリの使用量を削減する場合、(イ)SPIHTビットストリームからその時点で必要な光線情報を復元するために必要なウェーブレット変換係数を復号して、(ロ)その復号したウェーブレット変換係数から光線情報を復元する、といった方法が容易に類推できる。
ここで、(ロ)の処理を行うために必要な演算量に着目する。この(ロ)の処理量は、4次元ウェーブレット変換において、4次元空間上でサブバンド分割を行う回数に依存する。4次元ウェーブレット変換は4次元空間上でサブバンド分割を繰り返し行うことで実現される。詳しくは前述の非特許文献1に記載されている。
各次元におけるサブバンド分割は一回のみであり(4次元ウェーブレット変換アルゴリズムの最も低演算量である実現方法である)、尚且つサブバンド分割に使用するフィルタのタップ数をFと表すと、SLFに含まれる光線情報一つあたり、
ΣFi (2F−1)
ただし、Σはi=0〜3の総和
という積和演算量が必要となる。
この式で表される演算量で、インタラクティブな任意視点画像のレンダリングを実現することは困難である。ここで、“インタラクティブな任意視点画像のレンダリング”とは、仮想カメラの視点位置、視線方向を変更した際に、デジタル動画像と同程度のフレームレートで任意視点画像をレンダリングするということである。
従って、従来のSLFのプログレッシブ符号化に基づいて少ないメモリ量で任意視点画像のレンダリングを行う場合は、演算量の面で問題がある。
本発明は、以上に説明した従来技術の課題を解決する方法を提供するものである。
ここで、本発明の説明の前に、本発明が前提としている要素技術であるテクスチャマッピングについて簡単に説明しておく。なお、このテクスチャマッピングについては、次の参考文献1に詳しく記載されている。
〔参考文献1〕Foley, J. D., Feiner, S. K., Hughes, J. F., "Computer Graphics, Principles and Practice, Second Edition", Addison-Wesley, 1990
テクスチャマッピングでは、所望の柄を表現した画像を3次元モデルに貼り付けることによってレンダリングを行う。一般的なテクスチャマッピングでは、テクスチャ画像(3次元モデルに貼り付けたい画像)を2次元矩形平面ととらえ、3次元モデルの各3角形の頂点に対応した2次元矩形平面上の座標を定義する。
つまり、3角形<fj >=(fj,1 , fj,2 , fj,3 )に対して、3つの2次元座標値列<tj >=(<tj,1 ,<tj,2 ,<tj,3 >)を与える。すると、図21に示すように、その2次元矩形平面上に3次元モデルの各3角形に対応した3角形の領域ができる。レンダリング時には、これらの3角形領域を3次元モデルの各3角形に貼り付けることによってレンダリングを行う。
また、以下では頻繁に“3次元グラフィックスデータ”という言葉を利用するが、これは、3次元モデルとその頂点等に対応付けられた3次元モデルの属性情報(色、法線データ、など)とを表すものとする。
〔1〕本発明の位置づけ
本発明の位置づけについて整理しておく。
本発明は、3次元グラフィックスデータ作成装置と、テクスチャ画像作成装置と、多次元データ符号化装置と、多次元データ復号装置とで実現される。
本発明の3次元グラフィックスデータ作成装置が動作することで実現される本発明の3次元グラフィックスデータ作成方法は、以下に説明する第1の発明、第2の発明、第3の発明、第4の発明に該当する。
また、本発明のテクスチャ画像作成装置が動作することで実現される本発明のテクスチャ画像作成方法は、以下に説明する第5の発明、第6の発明、第7の発明に該当する。
また、本発明の多次元データ符号化装置が動作することで実現される本発明の多次元データ符号化方法は、以下に説明する第8の発明、第9の発明、第10の発明、第11の発明、第12の発明、第13の発明、第14の発明、第15の発明に該当する。
また、本発明の多次元データ復号装置が動作することで実現される本発明の多次元データ復号方法は、以下に説明する第16の発明に該当する。
これら第1の発明〜第7の発明は、細分割接続性を満たす3次元モデルの頂点に色などの属性情報が対応付けられている場合の、レンダリング時の演算量に関する従来の技術の課題を解決する発明である。
一方、これら第8の発明〜第16の発明は、従来のSLFのプログレッシブ符号化の課題を解決する発明である。
〔2〕本発明を実現する各装置の構成
〔2−1〕本発明の3次元グラフィックスデータ作成装置の構成
〔2−1−1〕レンダリング用モデルが入力として与えられる場合の構成
本発明の3次元グラフィックスデータ作成装置は、レンダリングに利用する3次元モデルであるレンダリング用モデルが入力として与えられているとし、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める処理を行うものであって、(イ)3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加部と、(ロ)3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加部と、(ハ)頂点追加部による処理と連結情報追加部による処理とを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付け部とを有する。
以上の各処理手段が動作することで実現される本発明の3次元グラフィックスデータ作成方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−1−2〕レンダリング用モデルが入力として与えられない場合の構成
本発明の3次元グラフィックスデータ作成装置は、細分割接続性を満たし、レンダリングに利用する3次元モデルであるレンダリング用モデルを作成し、それに基づいて、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める処理を行うものであって、(イ)3次元モデルの頂点の座標値とその連結情報とを設定することで、細分割接続性を満たすレンダリング用モデルを作成するレンダリング用モデル作成部と、(ロ)3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加部と、(ハ)3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加部と、(ニ)頂点追加部による処理と連結情報追加部による処理とを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付け部とを有する。
以上の各処理手段が動作することで実現される本発明の3次元グラフィックスデータ作成方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−2〕本発明のテクスチャ画像作成装置の構成
本発明のテクスチャ画像作成装置は、細分割接続性を満たす3次元モデルにテクスチャマッピングを適用するためのテクスチャ画像を、3次元モデルの頂点に対応付けられている属性情報をテクセル値(テクセル:一般のデジタル画像のピクセルに相当するテクスチャ画像上の画素)に設定することによって作成する処理を行うものであって、(イ)3次元モデルにおけるある階層の各3角形パッチに対し、テクスチャ画像上でそれに対応する大きさを持つ直角3角形を構成するようにとテクスチャ座標を設定する3角形領域対応付け部と、(ロ)3次元モデルにおける上記ある階層の各3角形パッチに対し、3つの頂点に対応付けされた属性情報を、3角形領域対応付け部で設定されたテクスチャ座標に対応したテクセルの画素値に設定し、さらに、その階層よりも大きなQ番目の階層の頂点に対応付けされた属性情報を、その頂点に対応したQ−1番目の階層のエッジを構成する頂点が対応する2つのテクセルの中点にあたるテクセルの画素値に設定するテクセル値設定部と、(ハ)テクセル値設定部で値が設定されたテクセルの近隣に位置する値が設定されていないテクセルに対して、その値が設定されているテクセルに対応付けられる階層の3角形パッチとエッジを共有する3角形パッチにより設定されるテクセル値を利用した補間値を設定するパディング部とを有する。
以上の各処理手段が動作することで実現される本発明のテクスチャ画像作成方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−3〕本発明の多次元データ符号化装置の構成
〔2−3−1〕基本的な構成
本発明の多次元データ符号化装置は、3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する処理を行うものであって、(イ)各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた多次元データについて設定する基底導出部と、(ロ)基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付け部と、(ハ)各々の基底データを圧縮符号化する基底符号化部と、(ニ)各々の基底データに対応した重み係数列にウェーブレット変換を行う重み係数ウェーブレット変換部と、(ホ)重み係数ウェーブレット変換部で求められたウェーブレット変換係数に対して、プログレッシブ符号化を行うプログレッシブ符号化部と、(ヘ)順序付け部で順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有する。
以上の各処理手段が動作することで実現される本発明の多次元データ符号化方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−3−2〕平均的なテクスチャ情報を先に復号する構成
本発明の多次元データ符号化装置は、3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する処理を行うものであって、(イ)多次元データに含まれる数値の平均値あるいはメディアン値を、3次元モデル上の各3次元座標に関して求めて、3次元モデル上の各3次元座標に対応した多次元データから、該3次元座標に対応した平均値あるいはメディアン値を引いた残差多次元データを求める残差多次元データ導出部と、(ロ)各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた残差多次元データについて設定する基底導出部と、(ハ)基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付け部と、(ニ)各々の基底データを圧縮符号化する基底符号化部と、(ホ)各々の基底データに対応した重み係数列と、残差多次元データ導出部で求められた平均値列あるいはメディアン値列とに対してウェーブレット変換を行う重み係数ウェーブレット変換部と、(ヘ)重み係数ウェーブレット変換部で求められたウェーブレット変換係数に対してプログレッシブ符号化を行うプログレッシブ符号化部と、(ト)平均値列あるいはメディアン値列の符号化データの後に、順序付け部で順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有する。
以上の各処理手段が動作することで実現される本発明の多次元データ符号化方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−3−3〕基本的な構成で、色データを処理する場合の構成
本発明の多次元データ符号化装置は、3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する処理を行うものであって、(イ)〔2−3−1〕に記載する本発明の多次元データ符号化装置の備える“基底導出部”/“順序付け部”/“基底符号化部”/“重み係数ウェーブレット変換部”/“プログレッシブ符号化部”による処理を、色データを構成する各成分に関して独立に実行する実行部と、(ロ)各基底データに対応した重み係数列の符号化データを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブ部と、(ハ)順序付け部で順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有する。
以上の各処理手段が動作することで実現される本発明の多次元データ符号化方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−3−4〕平均的なテクスチャ情報を先に復号する構成で、色データを処理する場合の構成
本発明の多次元データ符号化装置は、3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する処理を行うものであって、(イ)〔2−3−2〕に記載する本発明の多次元データ符号化装置の備える“残差多次元データ導出部”/“基底導出部”/“順序付け部”/“基底符号化部”/“重み係数ウェーブレット変換部”/“プログレッシブ符号化部”による処理を、色データを構成する各成分に関して独立に実行する実行部と、(ロ)各基底データに対応した重み係数列の符号化データと平均値列あるいはメディアン値列の符号化データとを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブ部と、(ハ)平均値列あるいはメディアン値列のインターリーブされた符号化データの後に、順序付け部で順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有する。
以上の各処理手段が動作することで実現される本発明の多次元データ符号化方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔2−4〕本発明の多次元データ復号装置の構成
本発明の多次元データ復号装置は、本発明の多次元データ符号化装置によって得られるビットストリームを復号する処理を行うものであって、(イ)基底データを復号する基底データ復号部と、(ロ)重み係数列のウェーブレット変換係数を復号するウェーブレット変換係数復号部と、(ハ)ウェーブレット変換係数復号部で復号されたウェーブレット変換係数に逆ウェーブレット変換を行って重み係数列を復元する逆ウェーブレット変換部とを有する。
以上の各処理手段が動作することで実現される本発明の多次元データ復号方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
〔3〕第1の発明〜第16の発明について
〔3−1〕第1の発明
第1の発明は、レンダリングに利用する3次元モデルであるレンダリング用モデルが入力として与えられているとし、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成方法であって、(イ)3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加ステップと、(ロ)3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加ステップと、(ハ)頂点追加ステップと連結情報追加ステップとを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付けステップとを有することを特徴とする。
このように構成される第1の発明に基づいて3次元グラフィックスデータを作成しておけば、“データ用モデル”と呼ばれる細分割接続性を満たす3次元モデルの各頂点に対応付けられた属性情報を利用したレンダリングを、より3角形パッチが少ない3次元モデルに対するテクスチャマッピングによって実現できるので、隠面・隠線消去処理等の演算量が削減され、レンダリングの演算量を低減できる。
その処理と効果の詳細は以下の通りである。
第1の発明では、入力として、3次元モデルが与えられることが前提になっている。なお、この3次元モデルは、第1の発明では細分割接続性を満たす必要はない。第1の発明に関しては、入力の3次元モデルをレンダリング用モデルと呼ぶこととする。また、3次元モデル上の任意の座標値に対して、その座標値に依存する3次元モデルの属性情報(例えば色や法線データなど)を所定の処理を介して得ることが可能であるとする。この処理は本発明においては任意であるため、ここでは詳細な説明は省くが、その一例は実施形態例に示してある。
まず、頂点追加ステップと連結情報追加ステップとを行うことによって、サブディビジョンを行うため、レンダリング用モデルをベースメッシュとした細分割接続性を満たす3次元モデルが作成される。
以下では、この3次元モデルをデータ用モデルと呼ぶ。ただし、ここで追加される頂点の座標値はエッジの両端の頂点の中点としているため、新しく頂点が追加されてもデータ用モデルの形状とレンダリング用モデルの形状は変わらない。
ここで、頂点追加ステップと連結情報追加ステップとを交互に繰り返し行うことで、データ用モデルの階層数を増やしていくことが可能となる。
最後に、属性情報対応付けステップにおいて、データ用モデルの各頂点に対し、その頂点の座標値に対応した3次元モデルの属性情報を求める。
なお、第1の発明によって、データ用モデルとその頂点に対応に付けられた属性情報とが得られるが、後述する第5、第6、第7の発明のいずれかの発明によって、この属性情報をテクセル値としたテクスチャ画像を作成することで、レンダリング用モデルをレンダリングに用い、テクスチャマッピングによってレンダリングを行うことができる。
従来の方法ではデータ用モデルを利用してレンダリングすることとなるが、本発明によれば、レンダリング用モデルをレンダリングに用い、テクスチャマッピングを利用することでレンダリングの演算量が削減される。これは、3次元モデルのレンダリングの演算量は3角形パッチの数に依存するが、レンダリング用モデルの3角形の数はデータ用モデルの3角形の数と比較して大幅に少ないことによる。
具体的には、データ用モデルの階層数をHdata、レンダリング用モデルの階層数をHrender(レンダリング用モデルが細分割接続性を満たさない場合はHrender=0である)、レンダリング用モデルの3角形の数を trianglesrenderとすると、データ用モデルの3角形の数 trianglesdataは次の(1)式で与えられる。
Figure 2005332028
従って、レンダリングの演算量に関しては、色の補間の演算量はほぼ同等であるが、隠面・隠線消去の演算量が大きく減り、全体の演算量を比較しても大幅な削減を得ることができる。また、これらの数値データは細分割接続性を満たす頂点に対応付けられているので、ウェーブレット変換を適用することが可能である。
なお、従来の方法(頂点数が多いデータ用モデルをレンダリングに利用して、各頂点に対応する色で3角形内の色を補間した場合)と比較して、色の補間処理は本発明に基づくテクスチャマッピングを利用してもほぼ同じ処理が行われることとなる。つまり、結果的に得られるレンダリング画像についてはほぼ同じものである。
〔3−2〕第2の発明
第2の発明は、細分割接続性を満たし、レンダリングに利用する3次元モデルであるレンダリング用モデルを作成し、それに基づいて、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成方法であって、(イ)3次元モデルの頂点の座標値とその連結情報とを設定することで、細分割接続性を満たすレンダリング用モデルを作成するレンダリング用モデル作成ステップと、(ロ)3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加ステップと、(ハ)3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加ステップと、(ニ)頂点追加ステップと連結情報追加ステップとを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付けステップとを有することを特徴とする。
このように構成される第2の発明では、第1の発明と同様の効果が得られると共に、細分割接続性を満たすようにレンダリング用モデルを作成して、その階層数を所望の数に設定できるので、属性情報にウェーブレット変換を適用すると、属性情報の性質によっては効率的なデータ圧縮が可能になる。
具体的には、以下のような処理を行っている。
第1の発明では、入力としてレンダリング用モデルが与えられたが、第2の発明ではレンダリング用モデル作成ステップで細分割接続性を満たす3次元モデルを作成して、この3次元モデルをレンダリング用モデルとする。つまり、レンダリングにはレンダリング用モデル作成ステップで作成されたレンダリング用モデルが利用されるのである。なお、レンダリング用モデル作成ステップについては、前述の非特許文献3に記載されている従来技術などで実現できる。
そして、このレンダリング用モデルに対して頂点追加ステップと連結情報追加ステップとが実行されて、データ用モデルが作成される。
〔3−3〕第3の発明
第3の発明は、第2の発明の構成を採るときに、レンダリング用モデル作成ステップにおいて、所定の3次元モデルを近似する3次元モデルを作成する場合に、レンダリング用モデルと該所定の3次元モデルとの間の誤差評価値が所定の閾値以下となる最小の階層数でもってレンダリング用モデルを作成することを特徴とする。
このように構成される第3の発明では、入力として何らかの3次元モデルが与えられ、レンダリング用モデル作成ステップにおいて、その3次元モデルを近似するような細分割接続性を満たす3次元モデルを作成することになるが、このとき、レンダリング用モデルとその入力モデルとの間の誤差を所定の範囲内に抑えるとともに、レンダリング用モデルの3角形パッチの数を最小限に抑えることができる。
具体的には、レンダリング用モデル作成ステップにおいて、所定の誤差評価関数の下でのレンダリング用モデルと入力モデルとの間の誤差が、ある閾値より小さくなる階層数(一般に、再メッシュ化では階層数が大きくなるほどレンダリング用モデルと入力モデルとの間の誤差が小さくなる)のうち、最小の階層数をレンダリング用モデルに適用する。
〔3−4〕第4の発明
第4の発明は、第1〜第3の発明の構成を採るときに、頂点追加ステップと連結情報追加ステップとを交互に所定の回数繰り返し行うことを特徴とする。
このように構成される第4の発明では、頂点追加ステップと連結情報追加ステップとを交互に所定の回数繰り返し行うことにより(この繰り返し処理によって階層数が増加する)、データ用モデルの頂点の数が増えることによって、所望の数の頂点で属性情報を得ることができる。
この繰り返しの回数をSとすると、レンダリング用モデルの階層数をHrenderで表すならば、データ用モデルの階層数HdataはHrender+Sとなる。
〔3−5〕第5の発明
第5の発明は、細分割接続性を満たす3次元モデルにテクスチャマッピングを適用するためのテクスチャ画像を、3次元モデルの頂点に対応付けられている属性情報をテクセル値に設定することによって作成するテクスチャ画像作成方法であって、(イ)3次元モデルにおけるある階層の各3角形パッチに対し、テクスチャ画像上でそれに対応する大きさを持つ直角3角形を構成するようにとテクスチャ座標を設定する3角形領域対応付けステップと、(ロ)3次元モデルにおける上記ある階層の各3角形パッチに対し、3つの頂点に対応付けされた属性情報を、3角形領域対応付けステップで設定されたテクスチャ座標に対応したテクセルの画素値に設定し、さらに、その階層よりも大きなQ番目の階層の頂点に対応付けされた属性情報を、その頂点に対応したQ−1番目の階層のエッジを構成する頂点が対応する2つのテクセルの中点にあたるテクセルの画素値に設定するテクセル値設定ステップとを有することを特徴とする。
さらに具体的に説明するならば、第5の発明は、階層数がαである細分割接続性を満たす3次元モデルにテクスチャマッピングを適用するためのテクスチャ画像を、3次元モデルの頂点に対応付けられている属性情報をテクセル値に設定することによって作成するテクスチャ画像作成方法であって、(イ)3次元モデルにおけるα−β+1番目の階層の各3角形パッチに対し、テクスチャ画像上で底辺と高さがPテクセルであるような直角3角形を構成するようにとテクスチャ座標を設定する3角形領域対応付けステップと、(ロ)3次元モデルにおけるα−β+1番目の階層の各3角形パッチに対し、3つの頂点に対応付けされた属性情報を、3角形領域対応付けステップで設定されたテクスチャ座標に対応したテクセルの画素値に設定し、さらに、その階層よりも大きなQ番目の階層の頂点に対応付けされた属性情報を、その頂点に対応したQ−1番目の階層のエッジを構成する頂点が対応する2つのテクセルの中点にあたるテクセルの画素値に設定するテクセル値設定ステップとを有することを特徴とする。
ここで、“α”はデータ用モデルの階層数であり、“β”はテクスチャ画像を構成する3角形パッチのレベルを規定するパラメータであり、テクスチャ画像を構成する3角形パッチとしてベースメッシュの3角形パッチを用いるということは、『α−β+1=1』であることを意味し、この“α−β+1”の値が2以上になる場合には、テクスチャ画像を構成する3角形パッチとして、ベースメッシュに対してサブディビジョンを繰り返すことで生成された3角形パッチを用いることを指定することになる。
また、Pの値は、β=1の場合には“2”であり、β>1の場合には次の(2)式で与えられる。
Figure 2005332028
このように構成される第5の発明では、第1〜第4の発明に基づいて作成された3次元グラフィックスデータからテクスチャ画像を作成するが、このテクスチャ画像を利用してレンダリング用モデルにテクスチャマッピングが適用できることとなり、少ない演算量でのレンダリングが実現できる。
なお、原理的には、細分割接続性を満たす任意の3次元モデルに対するテクスチャ画像を作成できるが、この場合はレンダリング時のメリットはない。
第5の発明では、先ず、3角形領域対応付けステップにおいて、α−β+1番目の階層の各3角形に対応したテクスチャ画像内での3角形領域を指定する。そして、テクセル値設定ステップにおいて、データ用モデルの頂点にマッピングされた属性情報をテクセル値に設定する。
ここで、第1〜第4の発明と本発明との対応関係について説明するならば、本発明で前提としている3次元モデルの階層数αはデータ用モデルの階層数Hdataに対応する。そして、レンダリング時には、レンダリング用モデルの3角形パッチに、テクスチャ画像上で対応する部分のテクスチャをマッピングすればよい。
〔3−6〕第6の発明
第6の発明は、第5の発明の構成を採るときに、テクスチャ画像が複数枚数となる場合には、3角形領域対応付けステップにおいて、処理対象の3角形パッチに対応したテクスチャ画像に対してテクスチャ座標を設定することを特徴とする。
テクスチャ画像の大きさに制限がある場合には、テクスチャ画像を複数作成することになるので、この場合には、3角形領域対応付けステップにおいて、処理対象の3角形パッチに対応したテクスチャ画像に対してテクスチャ座標を設定するのである。
〔3−7〕第7の発明
第7の発明は、第5〜第6の発明の構成を採るときに、テクセル値設定ステップで値が設定されたテクセルの近隣に位置する値が設定されていないテクセルに対して、その値が設定されているテクセルに対応付けられる階層の3角形パッチとエッジを共有する3角形パッチにより設定されるテクセル値を利用した補間値を設定するパディングステップを有することを特徴とする。
このように構成される第7の発明では、第5〜第6の発明の最後に、“パディングステップ”という処理を加えることで、レンダリング画像に発生しうるレンダリング用モデルのエッジにおける色などの属性値の不連続性をなくすことができる。
具体的には、パディングステップは、テクセル値設定ステップで画素値が設定されなかったテクセルの画素値の設定方法に関するものである。
テクスチャマッピングでは、テクセル値を補間することでレンダリング画像を作成するが、テクセル値設定ステップで値が設定されなかったテクセルの画素が補間に利用される場合がある。このような場合、そのテクセルの画素値が無作為に決められていると、レンダリング画像でエッジ周辺で不連続性が生じる。第7の発明によれば、このような不連続性を防ぐことが可能である。
〔3−8〕第8の発明
第8の発明は、3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化方法であって、(イ)各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた多次元データについて設定する基底導出ステップと、(ロ)基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付けステップと、(ハ)各々の基底データを圧縮符号化する基底符号化ステップと、(ニ)各々の基底データに対応した重み係数列にウェーブレット変換を行う重み係数ウェーブレット変換ステップと、(ホ)重み係数ウェーブレット変換ステップで求められた各々の基底データに対応したウェーブレット変換係数に対して、プログレッシブ符号化を行うプログレッシブ符号化ステップと、(ヘ)順序付けステップで順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを特徴とする。
このように構成される第8の発明によれば、SLF等の多次元データ列にプログレッシブ符号化を行うと共に、レンダリング時には、データ量の小さなデータから少ない演算量でその時点で必要な視線方向に対応したSLF等の多次元データを復元できるので、レンダリング時のメモリの利用量を小さくできる。
ここで、3次元モデル上の3次元座標に対応付けられた多次元データをベクトル<Sm >=(Sm,1,Sm,2,...,Sm,N T と表す。ただし、m=1, 2, .., Mであり、3次元モデル上のM個の3次元座標に対するインデックスである。この多次元データがSLFであった場合は、nがN個の光線の方向を表すこととなる。
第8の発明では、次の(3)式に示すように、多次元データ<Sm >を、K個の基底<bk >(k=1, 2, .., K)の線形和で近似することを前提としている。すなわち、多次元データと同じデータ数で構成される多次元データで構成される基底<bk >の線形和で近似することを前提としている。
Figure 2005332028
なお、次の参考文献2に記載される手法でも、この(3)式の近似を利用してSLFの圧縮表現を得ている。
〔参考文献2〕Daniel N. Wood, Daniel I. Azuma, Ken Aldinger, Brian Curless, Tom Duchamp, David Salesin and Werner Stuetzle. "Surface Light Fields for 3D Photography." In SIGGRAPH 2000 Conference Proceedings, pp.287-296. July, 2000.
この第8の発明では、基底<bk >と重み係数列cm,k とを求める。そして、kに対応した基底<bk >と重み係数列cm,k とのペアの順序付けを行う。第14の発明では、この順序付けステップの一つの実現方法を示しているが、この順序付けによれば、kに対応した基底<bk >と重み係数列cm,k とのペアを、(3)式の近似に追加した際の<Sm >に対する誤差の減少量が大きい順にすることによって、良好なプログレッシブ符号化が可能となる。
そして、基底<bk >に対してはkに関して独立にそれぞれ何らかの圧縮符号化を行う。
一方、kを固定した重み係数列cm,k (m=1, 2, .., M)に対してはウェーブレット変換を行う。ここで、各重み係数列cm,k は3次元モデル上の各3次元座標mに対応付けされている。また、ウェーブレット変換は“First Generation Wavelets"でも“Second Generation Wavelets”でもよい。そして、このようにして得られたウェーブレット変換係数に対して、前述の非特許文献5に記載されているようなプログレッシブ符号化を行う。ただし、kに対応したウェーブレット変換係数列について、独立にプログレッシブ符号化を行う。
そして、順序付けステップで設定された順序に基づいて、基底の符号化データ、重み係数列の符号化データの順でビットストリームを構成する。
このようにビットストリームを構成することによって、ビットストリームの復号を途中で中断しても多次元データ(SLFなど)の復元が可能であり、プログレッシブ符号化となっている。また、誤差の減少量が大きい基底データと重み係数列とのペアの符号化データほどビットストリームの先頭に近いので、先に良好な近似が可能な多次元データ(SLFなど)を復元可能である。
一方、基底データと重み係数列とをオフラインで復元しておけば(これらのデータのデータ量は元の多次元データよりも小さい)、データ量が元の多次元データより小さいデータから、少ない演算量でその時点で必要な視線方向に対応した多次元データ(SLFなど)を低演算量で復元でき、任意視点画像をインタラクティブにレンダリングできる。これを実現するアルゴリズムの例としては、前述の参考文献2に記載される手法を利用すれば良い。
具体的には、(3)式から明らかなように、一つの光線情報あたり2K−1回の積和演算で復元が可能である。前述の参考文献2にも記載されているが、主成分分析のような最適化手法で基底データと重み係数列とを求めることでKを小さくして、(5〜10)近似誤差を小さくすることができる。
一方、前述の非特許文献6に記載の技術を利用してレンダリング時のメモリ使用量を小さくしようとすると、前述したように、『ΣFi (2F−1):ただし、Σはi=0〜3の総和』、という積和演算量が必要となる(フィルタのタップ数Fは2〜8が頻繁に利用される)。
〔3−9〕第9の発明
第9の発明は、3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化方法であって、(イ)多次元データに含まれる数値の平均値あるいはメディアン値を、3次元モデル上の各3次元座標に関して求めて、3次元モデル上の各3次元座標に対応した多次元データから、該3次元座標に対応した平均値あるいはメディアン値を引いた残差多次元データを求める残差多次元データ導出ステップと、(ロ)各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた残差多次元データについて設定する基底導出ステップと、(ハ)基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付けステップと、(ニ)各々の基底データを圧縮符号化する基底符号化ステップと、(ホ)各々の基底データに対応した重み係数列と、残差多次元データ導出ステップで求められた平均値列あるいはメディアン値列とに対してウェーブレット変換を行う重み係数ウェーブレット変換ステップと、(ヘ)重み係数ウェーブレット変換ステップで求められた重み係数列のウェーブレット変換係数と、重み係数ウェーブレット変換ステップで求められた平均値列あるいはメディアン値列のウェーブレット変換係数とに対して独立にプログレッシブ符号化を行うプログレッシブ符号化ステップと、(ト)平均値列あるいはメディアン値列の符号化データの後に、順序付けステップで順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを特徴とする。
このように構成される第9の発明では、ビットストリームの先頭に平均値列あるいはメディアン値列の符号化データを配置することにより、復号時には、多次元データ(SLFなど)が有す平均的なテクスチャ情報を先に復号できる。
ここで、平均値あるいはメディアン値については3次元モデル上の各3次元座標値で計算され、3次元モデル上のある3次元座標mに関する光線情報列Sm,n (n=1, 2, .., N)の平均値あるいはメディアン値である。例えば、3次元モデル上のある3次元座標mにおける平均値〔Sm 〕は次の(4)式で表される。この平均値〔Sm 〕は3次元モデル上のおおまかなテクスチャを表すデータである。
Figure 2005332028
残差多次元データ導出ステップでは、光線情報列Sm,n の平均値やメディアン値を求めて、その残差多次元データS’m,n =Sm,n −〔Sm 〕に対して、基底導出ステップ等の以降の処理を実行する。
ただし、平均値列あるいはメディアン値列に対しては、重み係数列と同様にウェーブレット変換とプログレッシブ符号化とが行われる。なお、平均値列あるいはメディアン値列の符号化データがビットストリームの先頭に配置される。
〔3−10〕第10の発明
第10の発明は、第8〜第9の発明の構成を採るときに、基底導出ステップにおいて、基底データとその基底データに対応する重み係数列とを求めるとともに、多次元データの平均である平均多次元データを求め、基底符号化ステップにおいて、基底を符号化するとともに、平均多次元データを符号化し、ビットストリーム作成ステップにおいて、平均多次元データの符号化データを、ビットストリーム中で全ての基底データ及び重み係数列の符号化データの前に設定することを特徴とする。
このように構成される第10の発明では、次の(5)式で表される平均多次元データ{Sn }の符号化データがビットストリーム中で基底データと重み係数列の符号化データの前に配置される。
Figure 2005332028
〔3−11〕第11の発明
第11の発明は、3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化方法であって、(イ)第8の発明のビットストリーム作成ステップ以外のステップを、色データを構成する各成分に関して独立に実行するステップと、(ロ)各基底データに対応した重み係数列の符号化データを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブステップと、(ハ)順序付けステップで順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを特徴とする。
このように構成される第11の発明では、3次元モデル上の3次元座標に対応付けられた多次元データ<Sm >=(Sm,1,Sm,2,...,Sm,N T の各要素が色データである場合の第8の発明の実現方法を示しており、その効果は第8の発明と同様である。
例えば、色データがRGB成分で構成されるとき、Sm,n は3次元ベクトル<Sm,n >=(Sm,n,1 , Sm,n,2 , Sm,n,3 T として表せる。ここで、1,2,3はRGB成分を表す。
そして、色データを構成する成分oを固定したデータSm,n,o ( m=1, 2, .., M、n=1, 2, .., N)に対して、独立にビットストリーム作成ステップ以外の処理を実行する。ここで、色データを構成する成分oを固定したデータに対して得られる重み係数列をcm,k,o ( m=1, 2, .., M、k=1, 2, .., K)とする。
インターリーブステップにおいて、kを固定した重み係列cm,k,o ( m=1, 2, .., M)の各色成分o=1,2,3の符号化データを、1ビットごとにインターリーブして符号化データを統合する。そして、ビットストリーム作成ステップにおいて、第8の発明と同様にビットストリームを作成する。
〔3−12〕第12の発明
第12の発明は、3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化方法であって、(イ)第9の発明のビットストリーム作成ステップ以外のステップを、色データを構成する各成分に関して独立に実行するステップと、(ロ)各基底データに対応した重み係数列の符号化データと平均値列あるいはメディアン値列の符号化データとを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブステップと、(ハ)平均値列あるいはメディアン値列のインターリーブされた符号化データの後に、順序付けステップで順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを特徴とする。
このように構成される第12の発明では、3次元モデル上の3次元座標に対応付けられた多次元データ<Sm >=(Sm,1,Sm,2,...,Sm,N T の各要素が色データである場合の第9の発明の実現方法を示しており、その効果は第9の発明と同様である。
第11の発明と同様に、平均値列あるいはメディアン値列の各色成分に対応した符号化データをインターリーブしてビットストリームを作成する。
〔3−13〕第13の発明
第13の発明は、第11〜第12の発明の構成を採るときに、基底導出ステップにおいて、色データの各成分について、基底データとその基底データに対応する重み係数列とを求めるとともに、多次元データの平均である平均多次元データを求め、基底符号化ステップにおいて、基底を符号化するとともに、平均多次元データを符号化し、ビットストリーム作成ステップにおいて、色データの各成分に対応した平均多次元データの符号化データを、ビットストリーム中で全ての基底データ及び重み係数列の符号化データの前に設定することを特徴とする。
このように構成される第13の発明では、3次元モデル上の3次元座標に対応付けられた多次元データ<Sm >=(Sm,1,Sm,2,...,Sm,N T の各要素が色データである場合の第10の発明の実現方法を示しており、その効果は第10の発明と同様である。
〔3−14〕第14の発明
第14の発明は、第8〜第13の発明の構成を採るときに、順序付けステップにおいて、k=1から始めて、k番目の基底データと重み係数列とのペアを、1からk番目の基底データと重み係数列とを用いて符号化対象の多次元データを近似した際の二乗誤差の総和が最小になるように決定することを特徴とする。
このように構成される第14の発明では、基底データとその基底データに対応する重み係数列とのペアの順序付けについて、k=1から始めて、k番目の基底データと重み係数列とのペアを、1からk番目の基底データと重み係数列とを用いて符号化対象の多次元データを近似した際の二乗誤差の総和が最小になるように決定する。
このようにして、多次元データ<Sm >に対する誤差の減少量が大きい順にすることによって、良好なプログレッシブ符号化が可能となる。
〔3−15〕第15の発明
第15の発明は、第8〜第14の発明の構成を採るときに、基底導出ステップにおいて、主成分分析によって、基底データとその基底データに対応する重み係数列とを求めることを特徴とする。
〔3−16〕第16の発明
第16の発明は、第8〜第15の発明の多次元データ符号化方法によって得られるビットストリームを復号する多次元データ復号方法であって、(イ)基底データを復号する基底データ復号ステップと、(ロ)重み係数列のウェーブレット変換係数を復号するウェーブレット変換係数復号ステップと、(ハ)ウェーブレット変換係数復号ステップで復号されたウェーブレット変換係数に逆ウェーブレット変換を行って重み係数列を復元する逆ウェーブレット変換ステップとを有することを特徴とする。
このように構成される第16の発明によれば、第8〜第15の発明の多次元データ符号化方法によって得られるビットストリームを復号できるようになる。
以上に説明したことから分かるように、従来技術では、データ用モデルを用いてレンダリングを行うようにするという構成を採るのに対して、本発明では、データ用モデルよりも頂点数の少ないレンダリング用モデルを用い、テクスチャマッピングによってレンダリングを行うようにするという構成を採る。
すなわち、従来では、データ用モデルを用いてレンダリングを行うようにしている。しかし、これでは、レンダリングに用いる3角形パッチの数が多くなり過ぎてしまい、レンダリングの演算量が膨大なものとなってしまう。
そこで、本発明では、データ用モデルよりも頂点数の少ないレンダリング用モデルを用い、テクスチャマッピングによってレンダリングを行うようにするという構成を採る。これにより、レンダリングに用いる3角形パッチの数を減らせる。
しかし、それでは、3次元モデルにマッピングするテクスチャが粗くなってしまう。そこで、本発明では、データ用モデルから求まる属性値をレンダリング用モデルに対応付けられるテクスチャ画像のテクセル値として設定するという構成を採る。
この構成に従って、本発明によれば、従来技術と同レベルのレンダリング画像を得ながら、レンダリング量の演算量を大幅に削減できるようになるのである。
本発明によれば、SLF等の多次元データ列にプログレッシブ符号化を行うと共に、レンダリング時には、圧縮されたデータから少ない演算量で、その時点で必要な視線方向に対応したSLFを低演算量で復元できるので、レンダリング時のメモリの利用量が従来の方法より小さい。
また、本発明によれば、細分割接続性を満たす3次元モデルの頂点に色が対応付けられていて、これによる補間色で3次元モデルに色を与えてレンダリングする場合に、従来の方法と比較して、ほぼ同様のレンダリング画像を得ながらも、レンダリングの演算量を大幅に削減できるようになる。
以下、実施の形態に従って本発明について詳細に説明する。
図1ないし図4に、本発明を実現する装置の一実施形態例を図示する。
図1は3次元グラフィックスデータ作成装置1を示しており、レンダリング用モデル作成部101、誤差評価部102、データ用モデル作成部103、データ用モデル制御部104、属性情報対応付け部105、データ入力部106、データ出力部107で構成される。
図2は多次元データ符号化装置2を示しており、多次元データ入力部201、主成分分析部202、重み係数ウェーブレット変換部203、プログレッシブ符号化部204、基底符号化部205、ビットストリーム作成部206、ビットストリーム出力部207で構成される。
図3は多次元データ復号装置3を示しており、データ入力部301、ウェーブレット変換係数復号部302、基底復号部303、逆ウェーブレット変換部304、復号データ出力部305で構成される。
図4はテクスチャ画像作成装置4を示しており、テクスチャ構成設定部401、3角形領域設定部402、テクセル値設定部403、パディング部404、データ入力部405、テクスチャ画像出力部406で構成される。
本実施形態例では、3次元グラフィックスデータ作成装置1によって3次元グラフィックスデータ(レンダリング用モデルの情報、データ用モデルの情報、及びSLF)を作成し、3次元グラフィックスデータ作成装置1で作成されたSLFを多次元データ符号化装置2によって圧縮符号化する。そして、多次元データ符号化装置2で作成された符号化データを多次元データ復号装置3によって復号する。そして、多次元データ復号装置3で復号されたデータと、3次元グラフィックスデータ作成装置1で作成されたレンダリング用モデル及びデータ用モデルの情報とに基づいて、テクスチャ画像作成装置4でテクスチャ画像を作成する。
〔1〕3次元グラフィックスデータ作成装置1の動作
まず、3次元グラフィックスデータ作成装置1の動作について説明する。
図5に、3次元グラフィックスデータ作成装置1の動作を示したフローチャートを示す。
まず、3次元グラフィックスデータ作成装置1に何らかの物体(以下、対象物体)を多視点から撮影した画像群(複数の画像)とその対象物体の形状を近似した3次元モデルとが、データ入力部106によって入力される(ステップA1)。
そして、データ入力部106からレンダリング用モデル作成部101に対象物体の形状を近似した3次元モデルが入力され、これを受けて、レンダリング用モデル作成部101にて、非特許文献3のような再メッシュ化手法を利用して、細分割接続性を満たすレンダリング用モデルが作成される(ステップA2)。
厳密には、レンダリング用モデルは、各頂点の座標値と、ベースメッシュの3角形の連結情報と、階層数の情報とによって構成される(ベースメッシュの3角形の連結情報と階層数の情報とが既知であれば、レンダリング用モデルの連結情報が分かる)。
なお、再メッシュ化手法によれば、任意の階層数を持ったレンダリング用モデルを作成できるが、本実施形態例では、入力の3次元モデルとレンダリング用モデルとの誤差がある閾値ε以下であり、尚且つ階層数が最小なレンダリング用モデルを作成する。その際の誤差評価関数としては、様々なものが考えられるが、一例としては下記の参考文献3に記載されるハウスドルフ距離などが考えられる。階層数の制御は誤差評価部102で行われる。
〔参考文献3〕Aspert, N., Santa-Cruz, D., Touradj, E.,"MESH:Measuring Errors Between Surfaces Using the Hausdorff Distance", Proceedings of the IEEE International Conference on Multimedia and Expo(ICME) 2002, Vol.1, 705-708
レンダリング用モデルが作成されると、レンダリング用モデルの情報はレンダリング用モデル作成部101から出力される。
次に、レンダリング用モデル作成部101から出力されたレンダリング用モデルの情報はデータ用モデル作成部103に入力される。データ用モデル作成部103では、レンダリング用モデルに頂点を追加することによって、データ用モデルが作成される(ステップA3〜ステップA7)。
追加する頂点の数の制御がデータ用モデル制御部104によって行われる。ここで、データ用モデル制御部104では、データ用モデルの頂点数の上限値maxPoints が予め設定されているとする。データ用モデル作成部103では、現時点でデータ用モデル作成部103にある3次元モデル(最初は入力のレンダリング用モデルである)の各エッジを二つのエッジに分割して新しい頂点を挿入する(ステップA6)。なお、この頂点はエッジ両端の頂点の中点とする。
そして、細分割接続性が満たされるように他の頂点と連結する(ステップA7)。この様子を図6に示す。
ここで、現在の3次元モデルの頂点の数をpoints、エッジの数をedges 、3角形の数をtriangles と表記すると、前述の頂点追加と連結情報の更新とを行うと、points,edges,trianglesには次の更新が行われることとなる(ステップA4)。
points←points+edges
edges ←2edges +3triangles
triangles ←4triangles
なお、points,edges,trianglesについては、初期値として、それぞれレンダリング用モデルの3角形の数、エッジの数、頂点数が設定される(ステップA3)。
データ用モデル作成部103では、上記のpointsをデータ用モデル制御部104に出力し、データ用モデル制御部104では、pointsとmaxPoints との比較を行い、“points>maxPoints ”であればデータ用モデル作成部103に3次元モデルの更新を停止させ、そうでない場合には続行させる(ステップA5)。
データ用モデルの作成が終了すると、データ用モデル作成部103からデータ用モデルの情報が出力される。
次に、データ用モデル作成部103から出力されたデータ用モデルの各頂点の座標値情報と連結情報とは、属性情報対応付け部105に入力される。さらに、属性情報対応付け部105には、前述のデータ用モデルの情報と対象物体を撮影した画像群とが入力されて、データ用モデルの各頂点にSLFが対応付けされる(ステップA8)。
なお、3次元モデルの各頂点にSLFを対応付けする処理については、従来の技術を用いて実現できる。具体的には、例えば前述の参考文献2に記載されている。
上記の一連の処理が実行されると、3次元グラフィックスデータ作成装置1の最終的な出力として、レンダリング用モデルの情報(頂点、階層数、ベースメッシュの連結情報)、データ用モデルの階層数、データ用モデルの頂点に対応付けされたSLFが得られる(ステップA9)。
次に、ここで得られたSLFに対して、多次元データ符号化装置2にて圧縮符号化が行われる。
〔2〕多次元データ符号化装置2の動作
次に、多次元データ符号化装置2の動作について説明する。図7に、多次元データ符号化装置2の動作を示したフローチャートを示す。
まず、多次元データ入力部201において、SLFとレンダリング用モデルの情報とデータ用モデルの情報とが入力される(ステップB1)。
ここでも、SLFをベクトル列<Sm >=(S1,S2,...,Sn ,..,SN T として表現することとする。ただし、m=1, 2, .., Mであり、データ用モデル上のM個の頂点に対するインデックスである。また、n=1, 2, .., Nは光線の方向に関するインデックスである。
入力されたSLFは主成分分析部202に出力され、入力されたレンダリング用モデルの情報とデータ用モデルの情報とは重み係数ウェーブレット変換部203に出力される(ステップB1)。
次に、主成分分析部203にSLFが入力されているので、主成分分析部203による主成分分析によって、K個の基底データ<bk >(k=1, 2,..,K)と、各基底データに対応した重み係数列ck,m と、平均値列c0,m (m=1, 2, .., M)とが求められる。
なお、以下では、各基底データを“主成分基底”と呼び、重み係数を“主成分係数”と呼ぶこととする。また、kの値が小さいほど、主成分係数ck,m (m=1, 2, .., M)の分散が大きいとする。
各主成分基底<bk >(k=1, 2, .., K)は基底符号化部205に出力され、主成分係数列ck,m 及び平均値列c0,m (k=1, 2, .., K、m=1, 2, .., M)は重み係数ウェーブレット変換部203に出力される(ステップB2)。
重み係数ウェーブレット変換部203には、主成分分析部202から主成分係数列ck,m 及び平均値列c0,m が入力されることに加えて、多次元データ入力部201からウェーブレット変換に必要となるレンダリング用モデルの情報とデータ用モデルの情報とが入力されている。これを受けて、重み係数ウェーブレット変換部203では、主成分係数列ck,m 及び平均値列c0,m に対してウェーブレット変換を行う(ステップB3)。
具体的には、平均値列c0,m に対してウェーブレット変換を行うとともに、kを固定した主成分係数列ck,m (ck,m はデータ用モデルの頂点mに対応付けされている)に対してウェーブレット変換を行うという処理を、各kに関して行う。このウェーブレット変換の処理は前述の非特許文献2などに記載されている方法によって実現できる。以下では、kを固定した主成分係数列ck,m に対応したウェーブレット変換係数列をc* k,m と表すこととする。
主成分係数列ck,m 及び平均値列c0,m に対応したウェーブレット変換係数列c* k,m (k=0, 1, 2, .., K、m=1, 2, .., M)がプログレッシブ符号化部204に出力される(ステップB3)。
プログレッシブ符号化部204には、重み係数ウェーブレット変換部203からウェーブレット変換係数列c* k,m (k=0, 1, 2, .., K、m=1, 2, .., M)が入力されることに加えて、多次元データ入力部201からプログレッシブ符号化に必要となるレンダリング用モデルの情報とデータ用モデルの情報とが入力されている。これを受けて、プログレッシブ符号化部204は、ウェーブレット変換係数列c* k,m (c* 0,m を含む)のプログレッシブ符号化を行う(ステップB4)。
具体的には、kを固定したウェーブレット変換係数列c* k,m (m=1, 2, .., M)に対して、例えば前述の非特許文献5に記載されているようなプログレッシブ符号化方法を、各kについて独立に実行する。ここで、kを固定したウェーブレット変換係数列c* k,m (m=1, 2, .., M)に対応した符号化データをcbitsk (k=0, 1, 2, .., K)と記述することとする。
符号化データcbitsk (k=0,1, 2, .., K)はビットストリーム作成部206に出力される(ステップB4)。
一方、基底符号化部205には、主成分基底<bk >(k=1, 2, .., K)が入力されている。ここでは、各主成分基底<bk >に対して何らかの圧縮符号化が、各々に独立に行われる(ステップB5)。
この圧縮符号化については従来の技術を利用する。ここで、主成分基底<bk >に対応した符号化データをbbitsk と記述することとする。
符号化データbbitsk (k=1, 2, .., K)はビットストリーム作成部206に出力される(ステップB5)。
ビットストリーム作成部206には、主成分係数及び平均値列に関する符号化データcbitsk (k=0, 1, 2, .., K)と、主成分基底に関する符号化データbbitsk (k=1, 2, .., K)とが入力されている。ビットストリーム作成部206では、各々の符号化データを以下で説明する順序で並べることにより、全体のビットストリームを作成する(ステップB6)。
ここでは、平均値列に対応した符号化データ(cbits0 )を先頭におき、さらに、図8に示すように、主成分係数の分散が大きい順に、主成分基底と重み係数の符号化データとを並べてビットストリームを作成することとする。具体的には、ビットストリームの先頭から、cbits0,bbits1,cbits1,bbits2,cbits2,.....,bbitsk,cbitsk といった順序でビットストリームを作成する。
ここで作成されたビットストリームはビットストリーム出力部207に出力される(ステップB6)。
そして、ビットストリーム出力部207に入力されたビットストリームが多次元データ符号化装置2から出力される(ステップB7)。
なお、本実施形態例では、3次元モデルの各頂点に対応付けられたSLFのベクトル列<Sm >=(S1,S2,...,Sn ,..,SN T について、全ての方向n=1, 2, .., Nに関して光線情報の値が与えられていると仮定した。しかし、実際は全ての方向に関して値が定義できるとは限らない。例えば、3次元モデルの内部へ向かう方向の光線情報は定義することができない。このように、欠測値がある場合の基底と重み係数の導出方法については様々な手法が従来からあり(例えば、前述の参考文献2に記載の手法もその一例である)、このような手法を本発明に適用すればよい。
図8に示すビットストリームから分かるように、このようにビットストリームを構成することによって、ビットストリームの復号を途中で中断してもSLFの復元が可能であり、プログレッシブ符号化となっている。また、誤差の減少量が大きい基底と重み係数列とのペアの符号化データほどビットストリームの先頭に近いので、先に良好な近似が可能なSLFを復元可能である。
一方、基底データと重み係数列とをオフラインで復元しておけば(これらのデータのデータ量はSLFよりも小さい)、データ量が元のSLFより小さいデータから少ない演算量でその時点でもって、必要な視線方向に対応したSLFを低演算量で復元でき、任意視点画像をインタラクティブにレンダリングできるようになる。
〔3〕多次元データ復号装置3の動作
次に、多次元データ復号装置3の動作について説明する。
図9に、多次元データ復号装置3の動作を示したフローチャートを示す。
まず、データ入力部301に多次元データ符号化装置3から出力されたビットストリームとレンダリング用モデルの情報とデータ用モデルの情報とが入力され、これらのデータはウェーブレット変換係数復号部302に出力される(ステップC1)。
次に、ウェーブレット変換係数復号部302に、多次元データ符号化装置3から出力されたビットストリームとレンダリング用モデルの情報とデータ用モデルの情報とが入力されるので、以下の処理によって、ビットストリーム内の符号化データの順番に応じて、復号処理が行われる(ステップC2〜ステップC10)。
この復号処理にあたって、先ず最初に、変数kに初期値0がセットされる(ステップC2)。そして、変数kの値が0であるのか否かを判断することで、先頭の符号化データであるのか否かを判断し(ステップC3)、その判断結果に応じた復号処理を実行すると、変数kが上限値Kに到達したのかを判断して(ステップC8)、上限値Kに到達していない場合には変数kの値を1つずつインクリメントしていくことで(ステップC9)、変数kが上限値Kに到達するまで復号処理を進めていくことになる。
すなわち、まず、ビットストリームの先頭には、平均値列のウェーブレット変換係数に対応した符号化データがあるので、ウェーブレット変換係数復号部302で、この符号化データが復号され、復号されたウェーブレット変換係数が逆ウェーブレット変換部304に出力される(ステップC4)。
そして、ビットストリーム中でまだ復号されていないビット列が基底復号部303に出力される。先ず最初には、基底復号部303に入力されたビットストリームの先頭には主成分係数の分散が一番大きい主成分基底の符号化ストリームがあるので、この符号化データが復号され、復号された主成分基底が復号データ出力部305に出力される(ステップC5)。
そして、ビットストリーム中でまだ復号されていないビット列がウェーブレット変換係数復号部302に出力される。先ず最初には、ウェーブレット変換係数復号部302に入力されたビットストリームの先頭には主成分係数の分散が一番大きい主成分係数のウェーブレット変換係数の符号化ストリームがあるので、この符号化データが復号され、復号されたウェーブレット係数が逆ウェーブレット変換部304に出力される(ステップC6)。
そして、逆ウェーブレット変換部304では、復号されたウェーブレット係数が入力される度に、逆ウェーブレット変換によって、主成分係数(ステップC4を経由する場合には平均値列となる)が復号されて復号データ出力部305に出力される(ステップC7)。
そして、変数kの値が上限値Kに達するまで、基底復号部303と逆ウェーブレット変換部304の処理はビットストリーム中でまだ復号されていないビット列がある限り交互に繰り返される。
最後に、復号データ出力部305より、復号、逆変換された平均値列、主成分基底、主成分係数が出力される(ステップC10)。
〔4〕テクスチャ画像作成装置4の動作
次に、テクスチャ画像作成装置4の動作について説明する。
図10及び図11に、テクスチャ画像作成装置4の動作を示したフローチャートを示す。
本実施形態例では、ベースメッシュの3角形を構成単位とするテクスチャ画像の概念図を示す図12と、ベースメッシュの3角形に対応したテクスチャ画像内の領域の概念図を示す図13とに示すように、ベースメッシュの各3角形に対する3角形領域をテクスチャ画像内に与え、その3角形領域の中に、子孫であるレンダリング用モデルの3角形のテクスチャを入れるという構成を採る。
以下の説明では、図12に示すように、テクスチャ画像を構成する3角形パッチとして、ベースメッシュの3角形パッチを用いることを想定しているが、ベースメッシュに対してサブディビジョンを繰り返すことで生成された3角形パッチを用いることも可能である。
データ用モデルの階層数(=サブディビジョン回数+1)を“α”で表し、テクスチャ画像を構成する3角形パッチのレベルを規定するパラメータを“β”で表すならば、テクスチャ画像を構成する3角形パッチとしてベースメッシュの3角形パッチを用いるということは、『α−β+1=1』であることを意味し、この“α−β+1”の値が2以上になる場合には、テクスチャ画像を構成する3角形パッチとして、ベースメッシュに対してサブディビジョンを繰り返すことで生成された3角形パッチを用いることを指定することになる。
なお、以下に説明するテクスチャ画像作成装置4の動作は、データ用モデルの各頂点に対応付けられた様々な属性情報について利用可能である。
また、本発明の符号化・復号方法で得られた平均値列、主成分基底、主成分係数を用いてレンダリングを行う場合(SLFでレンダリングを行う場合)も、以下に説明するテクスチャ画像作成装置4の動作を利用することが可能である。
この場合は、以下で説明するテクスチャ画像作成装置2の動作を、平均値列c* 0,m 及び主成分係数列c* k,m をデータ用モデルの各頂点に対応付けられた属性情報として実行すれば良い。このようにテクスチャ画像を作成した場合における任意視点画像のレンダリングアルゴリズムについては下記の参考文献4に記載の技術から容易に類推可能なため、ここでは記載しない。
〔参考文献4〕Wei-Chao Chen, Jean-Yves Bouguet, Michael H. Chu, Radek Grzeszczuk, Light Field Mapping: Efficient Representation and Hardware Rendering of Surface Light Fields. ACM Transactions on Graphics. 21 (3), pp.447-456, 2002.
テクスチャ画像作成装置4では、まず、レンダリング用モデルの情報とデータ用モデルの情報とデータ用モデルの各頂点に対応した属性情報とがデータ入力部405に入力され、レンダリング用モデルの情報とデータ用モデルの情報とはテクスチャ構成設定部401及び3角形領域設定部402に出力される。一方、データ用モデルの各頂点に対応した属性情報はテクセル値設定部403に出力される(ステップD1)。
次に、テクスチャ構成設定部401にレンダリング用モデルの情報とデータ用モデルの情報とが入力され、これを受けて、テクスチャ構成設定部401では、作成するテクスチャ画像の枚数と、レンダリング用モデルの3角形と各テクスチャ画像との対応関係とが決定される(ステップD2)。
これらの決定は、テクスチャ画像の最大許容サイズN2 (単位はピクセルで、縦と横のピクセル数は等しいとする)、データ用モデルの階層数Hdata、ベースメッシュの3角形の数BTNumとに基づいて行われる。
具体的には、次の通りである。テクスチャ画像内の直角3角形の領域は、“α−β+1=1”であることにより“β=Hdata”となることで、前述の(1)式に従って、底辺と高さが共に、
P=2Hdata +Σ2i
ただし、Σはi=0〜Hdata−2の総和
で表されるPピクセルであることとなる。
従って、一つのテクスチャ画像内に収まるベースメッシュの3角形の数BTPerTerは、
BTPerTer=floor(N/P)2
ただし、floor(A)は実数Aの整数部分を表す
で与えられ、これから、テクスチャ画像の枚数numTexは、
numTex=floor(BTNum/BTPerTex+1)
で与えられる。
また、本実施形態例では、図12に示されているように、ベースメッシュの各3角形を3角形インデックスが小さい順に左上から並べるとする。
すると、ベースメッシュの3角形とテクスチャ画像との対応関係としては、ベースメッシュの3角形iは、
i =floor(i/BTPerTex+1)
という式から求められるSi 番目のテクスチャ画像(テクスチャ画像にもインデックスが付けられている)に対応することになる。
次に、テクスチャ構成設定部401で決定されたテクスチャ画像の枚数、及びベースメッシュの3角形と各テクスチャとの対応関係の情報が3角形領域設定部402に入力されるとともに、テクスチャ画像作成装置4の入力であったレンダリング用モデルの情報とデータ用モデルの階層数の情報とが3角形領域設定部402に入力される。
これを受けて、3角形領域設定部402では、ベースメッシュの各3角形の頂点が対応するテクスチャ画像内の位置情報を求める(ステップD3)。
本実施形態例の場合は、図13に示すように、ベースメッシュの各3角形の頂点を配置することを考える。従って、ベースメッシュのi番目の3角形の各頂点が対応するテクセル(画素)の位置は次のようになる。ここで、対応するテクスチャ画像のインデックスは前述の通りSi である。
*i番目の3角形における1番目の頂点:
<Ti,1 >=( P ×mod (i'/floor(N/P)), P×floor(i'/floor(N/P)))
ただし、i’=i−(Si −1)×BTPerTex
*i番目の3角形における2番目の頂点:
<Ti,2 >=( P ×mod(i'/floor(N/P)), P ×floor(i'/floor(N/P))+P)
ただし、i’=i−(Si −1)×BTPerTex
*i番目の3角形における3番目の頂点:
<Ti,3 >=( P ×mod(i'/floor(N/P))+P, P ×floor(i'/floor(N/P))+P)
ただし、i’=i−(Si −1)×BTPerTex
次に、3角形領域設定部402から、ベースメッシュの3角形とテクスチャ画像との対応関係Si と、テクスチャ画像内での位置情報<Ti,j >とが出力され、テクセル値設定部403に入力される。また、ここでもテクスチャ画像作成装置4の入力であったレンダリング用モデルの情報とデータ用モデルの階層数の情報とがテクセル値設定部403に入力される。
これを受けて、テクセル値設定部403では、データ用モデルの各頂点に対応した色などの属性値がテクセル値に設定される(ステップD4)。
具体的には、ベースメッシュの各3角形に関して、図11のフローチャートに従って次の処理が実行される。
すなわち、まず、ベースメッシュの3角形のインデックスtに初期値1をセットし(ステップD41)、続いて、そのインデックスtの指すベースメッシュの3角形の各頂点にマッピングされている色などの属性値を、Si 番目のテクスチャ画像における<Ti,1 >、<Ti,2 >、<Ti,3 >の位置のテクセルの値に設定する(ステップD42)。
続いて、このSi 番目のテクスチャ画像の領域の内部のテクセル値の設定に入って、階層インデックスhに初期値1をセットし(ステップD43)、続いて、階層hのエッジに対応した頂点(この頂点は階層h+1に属す)にマッピングされている色などの属性値を、そのエッジの両端の頂点(これらの頂点は階層hに属す)が対応するテクセルの中点にあたるテクセルの値に設定する(ステップD44)。
このような再帰的な処理を、h=1, 2, .., Hdata−1に関して実行することでデータ用モデルの全ての頂点にマッピングされたデータをテクセル値に設定し(ステップD45/ステップD46)、この設定処理を全てのベースメッシュの3角形に対して実行することで(ステップD47/ステップD48)、図14に示すように、データ用モデルの各頂点に対応した色などの属性値をテクセル値に設定することで行う。
ここで、図14の例では、データ用モデルの階層数αとしてα=3を想定し、“α−β+1=1”となるβ=3を想定することで、テクスチャ画像を構成する3角形としてベースメッシュの3角形を用いることを想定している。このとき、レンダリング用モデルの階層数を2(ベースメッシュに対して1回サブディビジョンを行った状態のモデル)であるとすると、テクスチャマッピングによってレンダリングする際には、レンダリング用モデルの3角形パッチに対応した3角形(1,5,6)、(5,2,4)、(6,4,3)、(5,4,6)に対してテクスチャ座標を定義してテクスチャマッピングを行うことになる。
次に、テクセル値設定部403から、テクスチャ画像と、ベースメッシュの3角形とテクスチャ画像との対応関係Si と、テクスチャ画像内での位置情報<Ti,j >とが出力され、パディング部204に出力される。
これを受けて、パディング部404では、テクセル値設定部403でテクセル値が設定されなかったテクセルの値を設定する(ステップD5)。
なお、レンダリング時にテクスチャマッピングが行われる際、テクセル値が補間され、一部のエッジ部分は、3角形の領域外のテクセルも補間に利用されて不連続性が生じる。これから、テクセル値設定部403でテクセル値が設定されなかったテクセルの値を設定する場合は、レンダリング時の補間を考慮しなければならない。
本実施形態例では、テクスチャマッピングでbilinear interpolationと呼ばれる補間方法が利用されることを仮定した場合の例を示す。
bilinear interpolationが利用される場合は、図15に示すように、テクスチャ画像内の各3角形の領域に関して、これらの領域に対応したベースメッシュの3角形とエッジを共有する3角形に関する色データをテクセル値に設定すれば良い。エッジを共有する3角形に関するテクセル値の設定は、テクセル値設定部403と同様の方法で実現できる。
最後に、テクスチャ画像出力部406から、作成されたテクスチャ画像が出力される(ステップD6)。
次に、このように構成される本発明の効果についてまとめる。
まず、多次元データの符号化方法の効果としては、SLF等の多次元データ列にプログレッシブ符号化を行うと共に、レンダリング時には、圧縮されたデータから少ない演算量で、その時点で必要な視線方向に対応したSLFを低演算量で復元できるので、レンダリング時のメモリの利用量が従来の方法より小さい。
また、3次元グラフィックスデータ作成方法及びテクスチャ画像作成装置の効果は以下の通りである。
すなわち、細分割接続性を満たす3次元モデルの頂点に色が対応付けられており、これによる補間色で3次元モデルに色を与えてレンダリングする場合、従来の方法と比較して、ほぼ同様のレンダリング画像を得ながらも、レンダリングの演算量を大幅に削減できる。
具体的には、データ用モデルの頂点に属性情報として色データが対応付けされた場合を考えると、頂点数が多いデータ用モデルをレンダリングに利用して、各頂点に対応する色で3角形内の色を補間した場合(従来の方法である)と比較して、色の補間処理は本発明に基づくテクスチャマッピングを利用してもほぼ同じ処理を行われることとなる。つまり、結果的に得られるレンダリング画像もほぼ同じである。
それなのに、レンダリング用モデルの3角形の数はデータ用モデルの3角形の数と比較して大幅に少ない。具体的には、データ用モデルの階層数をHdata、レンダリング用モデルの階層数をHrender、3角形の数を trianglesrenderとすると、データ用モデルの3角形の数 trianglesdataは前述の(1)式で与えられる。
従って、レンダリングの演算量に関しては、色の補間の演算量はほぼ同等であるが、隠面・隠線消去の演算量が大きく減り、全体の演算量を比較しても大幅な削減を得ることができる。また、これらの数値データは細分割接続性を満たす頂点に対応付けられているので、ウェーブレット変換を適用することが可能である。
3次元グラフィックスデータ作成装置の構成図である。 多次元データ符号化装置の構成図である。 多次元データ復号装置の構成図である。 テクスチャ画像作成装置の構成図である。 3次元グラフィックスデータ作成装置の動作フローである。 頂点の追加を説明する概念図である。 多次元データ符号化装置の動作フローである。 ビットストリームを説明する概念図である。 多次元データ復号装置の動作フローである。 テクスチャ画像作成装置の動作フローである。 テクスチャ画像作成装置の動作フローである。 テクスチャ画像の概念図である。 ベースメッシュの3角形に対応したテクスチャ画像内の領域の概念図である。 テクスチャ画像作成処理の概念図である。 パディングの概念図である。 ベースメッシュの一例を示す概念図である。 正則な頂点を説明する概念図である。 サブディビジョンの際の3角形の分割を説明する概念図である。 細分割接続性を満たす3次元モデルの一例を示す概念図である。 SLFの概念図である。 テクスチャマッピングを説明する概念図である。
符号の説明
1 3次元グラフィックスデータ作成装置
2 多次元データ符号化装置
3 多次元データ復号装置
4 テクスチャ画像作成装置
101 レンダリング用モデル作成部
102 誤差評価部
103 データ用モデル作成部
104 データ用モデル制御部
105 属性情報対応付け部
106 データ入力部
107 データ出力部
201 多次元データ入力部
202 主成分分析部
203 重み係数ウェーブレット変換部
204 プログレッシブ符号化部
205 基底符号化部
206 ビットストリーム作成部
207 ビットストリーム出力部
301 データ入力部
302 ウェーブレット変換係数復号部
303 基底復号部
304 逆ウェーブレット変換部
305 復号データ出力部
401 テクスチャ構成設定部
402 3角形領域設定部
403 テクセル値設定部
404 パディング部
405 データ入力部
406 テクスチャ画像出力部

Claims (29)

  1. レンダリングに利用する3次元モデルであるレンダリング用モデルが入力として与えられているとし、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成方法であって、
    3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加ステップと、
    3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加ステップと、
    頂点追加ステップと連結情報追加ステップとを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付けステップとを有することを、
    特徴とする3次元グラフィックスデータ作成方法。
  2. 細分割接続性を満たし、レンダリングに利用する3次元モデルであるレンダリング用モデルを作成し、それに基づいて、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成方法であって、
    3次元モデルの頂点の座標値とその連結情報とを設定することで、細分割接続性を満たすレンダリング用モデルを作成するレンダリング用モデル作成ステップと、
    3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加ステップと、
    3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加ステップと、
    頂点追加ステップと連結情報追加ステップとを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付けステップとを有することを、
    特徴とする3次元グラフィックスデータ作成方法。
  3. 請求項2に記載の3次元グラフィックスデータ作成方法において、
    レンダリング用モデル作成ステップでは、所定の3次元モデルを近似する3次元モデルを作成する場合、レンダリング用モデルと該所定の3次元モデルとの間の誤差評価値が所定の閾値以下となる最小の階層数でもってレンダリング用モデルを作成することを、
    特徴とする3次元グラフィックスデータ作成方法。
  4. 請求項1ないし3のいずれか1項に記載の3次元グラフィックスデータ作成方法において、
    頂点追加ステップと連結情報追加ステップとを交互に所定の回数繰り返し行うことを、
    特徴とする3次元グラフィックスデータ作成方法。
  5. 細分割接続性を満たす3次元モデルにテクスチャマッピングを適用するためのテクスチャ画像を、3次元モデルの頂点に対応付けられている属性情報をテクセル値に設定することによって作成するテクスチャ画像作成方法であって、
    3次元モデルにおけるある階層の各3角形パッチに対し、テクスチャ画像上でそれに対応する大きさを持つ直角3角形を構成するようにとテクスチャ座標を設定する3角形領域対応付けステップと、
    3次元モデルにおける上記ある階層の各3角形パッチに対し、3つの頂点に対応付けされた属性情報を、3角形領域対応付けステップで設定されたテクスチャ座標に対応したテクセルの画素値に設定し、さらに、その階層よりも大きなQ番目の階層の頂点に対応付けされた属性情報を、その頂点に対応したQ−1番目の階層のエッジを構成する頂点が対応する2つのテクセルの中点にあたるテクセルの画素値に設定するテクセル値設定ステップとを有することを、
    特徴とするテクスチャ画像作成方法。
  6. 請求項5に記載のテクスチャ画像作成方法において、
    3角形領域対応付けステップでは、テクスチャ画像が複数枚数となる場合には、処理対象の3角形パッチに対応したテクスチャ画像に対してテクスチャ座標を設定することを、
    特徴とするテクスチャ画像作成方法。
  7. 請求項5又は6に記載のテクスチャ画像作成方法において、
    テクセル値設定ステップで値が設定されたテクセルの近隣に位置する値が設定されていないテクセルに対して、その値が設定されているテクセルに対応付けられる階層の3角形パッチとエッジを共有する3角形パッチにより設定されるテクセル値を利用した補間値を設定するパディングステップを有することを、
    特徴とするテクスチャ画像作成方法。
  8. 3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化方法であって、
    各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた多次元データについて設定する基底導出ステップと、
    基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付けステップと、
    各々の基底データを圧縮符号化する基底符号化ステップと、
    各々の基底データに対応した重み係数列にウェーブレット変換を行う重み係数ウェーブレット変換ステップと、
    重み係数ウェーブレット変換ステップで求められたウェーブレット変換係数に対して、プログレッシブ符号化を行うプログレッシブ符号化ステップと、
    順序付けステップで順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを、
    特徴とする多次元データ符号化方法。
  9. 3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化方法であって、
    多次元データに含まれる数値の平均値あるいはメディアン値を、3次元モデル上の各3次元座標に関して求めて、3次元モデル上の各3次元座標に対応した多次元データから、該3次元座標に対応した平均値あるいはメディアン値を引いた残差多次元データを求める残差多次元データ導出ステップと、
    各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた残差多次元データについて設定する基底導出ステップと、
    基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付けステップと、
    各々の基底データを圧縮符号化する基底符号化ステップと、
    各々の基底データに対応した重み係数列と、残差多次元データ導出ステップで求められた平均値列あるいはメディアン値列とに対してウェーブレット変換を行う重み係数ウェーブレット変換ステップと、
    重み係数ウェーブレット変換ステップで求められたウェーブレット変換係数に対してプログレッシブ符号化を行うプログレッシブ符号化ステップと、
    平均値列あるいはメディアン値列の符号化データの後に、順序付けステップで順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを、
    特徴とする多次元データ符号化方法。
  10. 請求項8又は9に記載の多次元データ符号化方法において、
    基底導出ステップでは、基底データとその基底データに対応する重み係数列とを求めるとともに、多次元データの平均である平均多次元データを求め、
    基底符号化ステップでは、基底を符号化するとともに、平均多次元データを符号化し、
    ビットストリーム作成ステップでは、平均多次元データの符号化データを、ビットストリーム中で全ての基底データ及び重み係数列の符号化データの前に設定することを、
    特徴とする多次元データ符号化方法。
  11. 3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化方法であって、
    請求項8に記載の発明のビットストリーム作成ステップ以外のステップを、色データを構成する各成分に関して独立に実行するステップと、
    各基底データに対応した重み係数列の符号化データを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブステップと、
    順序付けステップで順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを、
    特徴とする多次元データ符号化方法。
  12. 3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化方法であって、
    請求項9の発明のビットストリーム作成ステップ以外のステップを、色データを構成する各成分に関して独立に実行するステップと、
    各基底データに対応した重み係数列の符号化データと平均値列あるいはメディアン値列の符号化データとを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブステップと、
    平均値列あるいはメディアン値列のインターリーブされた符号化データの後に、順序付けステップで順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成ステップとを有することを、
    特徴とする多次元データ符号化方法。
  13. 請求項11又は12に記載の多次元データ符号化方法において、
    基底導出ステップでは、色データの各成分について、基底データとその基底データに対応する重み係数列とを求めるとともに、多次元データの平均である平均多次元データを求め、
    基底符号化ステップでは、基底を符号化するとともに、平均多次元データを符号化し、
    ビットストリーム作成ステップでは、色データの各成分に対応した平均多次元データの符号化データを、ビットストリーム中で全ての基底データ及び重み係数列の符号化データの前に設定することを、
    特徴とする多次元データ符号化方法。
  14. 請求項8ないし13のいずれか1項に記載の多次元データ符号化方法において、
    順序付けステップでは、k=1から始めて、k番目の基底データと重み係数列とのペアを、1からk番目の基底データと重み係数列とを用いて符号化対象の多次元データを近似した際の二乗誤差の総和が最小になるように決定することを、
    特徴とする多次元データ符号化方法。
  15. 請求項8ないし14のいずれか1項に記載の多次元データ符号化方法において、
    基底導出ステップでは、主成分分析によって、基底データとその基底データに対応する重み係数列とを求めることを、
    特徴とする多次元データ符号化方法。
  16. 請求項8ないし15のいずれか1項に記載の多次元データ符号化方法によって得られるビットストリームを復号する多次元データ復号方法であって、
    基底データを復号する基底データ復号ステップと、
    重み係数列のウェーブレット変換係数を復号するウェーブレット変換係数復号ステップと、
    ウェーブレット変換係数復号ステップで復号されたウェーブレット変換係数に逆ウェーブレット変換を行って重み係数列を復元する逆ウェーブレット変換ステップとを有することを、
    特徴とする多次元データ復号方法。
  17. レンダリングに利用する3次元モデルであるレンダリング用モデルが入力として与えられているとし、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成装置であって、
    3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加部と、
    3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加部と、
    頂点追加部による処理と連結情報追加部による処理とを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付け部とを有することを、
    特徴とする3次元グラフィックスデータ作成装置。
  18. 細分割接続性を満たし、レンダリングに利用する3次元モデルであるレンダリング用モデルを作成し、それに基づいて、細分割接続性を満たし、レンダリング用モデルと同形状で頂点数がより多い3次元モデルであるデータ用モデルを作成して、データ用モデルの各頂点に対応する属性情報をデータ用モデルの頂点座標値及び連結情報に基づいて求めることにより、レンダリング用モデルの属性情報を求める3次元グラフィックスデータ作成装置であって、
    3次元モデルの頂点の座標値とその連結情報とを設定することで、細分割接続性を満たすレンダリング用モデルを作成するレンダリング用モデル作成部と、
    3次元モデルの各エッジの中点を座標値とした新しい頂点を設定する頂点追加部と、
    3次元モデルの各エッジの両端の頂点の各々と、その中点に設定された頂点とのペアによるエッジを設定し、さらに、同じ3角形パッチのエッジの中点として設定された3つの頂点を互いにペアとしてエッジを設定して、3次元モデルの連結情報を更新する連結情報追加部と、
    頂点追加部による処理と連結情報追加部による処理とを経て作成される3次元モデルであるデータ用モデルの各頂点に対応した属性情報を求める属性情報対応付け部とを有することを、
    特徴とする3次元グラフィックスデータ作成装置。
  19. 細分割接続性を満たす3次元モデルにテクスチャマッピングを適用するためのテクスチャ画像を、3次元モデルの頂点に対応付けられている属性情報をテクセル値に設定することによって作成するテクスチャ画像作成装置であって、
    3次元モデルにおけるある階層の各3角形パッチに対し、テクスチャ画像上でそれに対応する大きさを持つ直角3角形を構成するようにとテクスチャ座標を設定する3角形領域対応付け部と、
    3次元モデルにおける上記ある階層の各3角形パッチに対し、3つの頂点に対応付けされた属性情報を、3角形領域対応付け部で設定されたテクスチャ座標に対応したテクセルの画素値に設定し、さらに、その階層よりも大きなQ番目の階層の頂点に対応付けされた属性情報を、その頂点に対応したQ−1番目の階層のエッジを構成する頂点が対応する2つのテクセルの中点にあたるテクセルの画素値に設定するテクセル値設定部とを有することを、
    特徴とするテクスチャ画像作成装置。
  20. 請求項19に記載のテクスチャ画像作成装置において、
    テクセル値設定部で値が設定されたテクセルの近隣に位置する値が設定されていないテクセルに対して、その値が設定されているテクセルに対応付けられる階層の3角形パッチとエッジを共有する3角形パッチにより設定されるテクセル値を利用した補間値を設定するパディング部を有することを、
    特徴とするテクスチャ画像作成装置。
  21. 3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化装置であって、
    各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた多次元データについて設定する基底導出部と、
    基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付け部と、
    各々の基底データを圧縮符号化する基底符号化部と、
    各々の基底データに対応した重み係数列にウェーブレット変換を行う重み係数ウェーブレット変換部と、
    重み係数ウェーブレット変換部で求められたウェーブレット変換係数に対して、プログレッシブ符号化を行うプログレッシブ符号化部と、
    順序付け部で順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有することを、
    特徴とする多次元データ符号化装置。
  22. 3次元モデルの面上の3次元座標に対応付けされた、複数の数値データで構成される多次元データを符号化する多次元データ符号化装置であって、
    多次元データに含まれる数値の平均値あるいはメディアン値を、3次元モデル上の各3次元座標に関して求めて、3次元モデル上の各3次元座標に対応した多次元データから、該3次元座標に対応した平均値あるいはメディアン値を引いた残差多次元データを求める残差多次元データ導出部と、
    各々の3次元座標に対応付けされた多次元データと同じデータ数で構成される多次元データで構成される基底データと、その基底データに対応する重み係数列とを、3次元モデル上の各3次元座標に対応付けられた残差多次元データについて設定する基底導出部と、
    基底データとその基底データに対応する重み係数列とのペアの順序付けを行う順序付け部と、
    各々の基底データを圧縮符号化する基底符号化部と、
    各々の基底データに対応した重み係数列と、残差多次元データ導出部で求められた平均値列あるいはメディアン値列とに対してウェーブレット変換を行う重み係数ウェーブレット変換部と、
    重み係数ウェーブレット変換部で求められたウェーブレット変換係数に対してプログレッシブ符号化を行うプログレッシブ符号化部と、
    平均値列あるいはメディアン値列の符号化データの後に、順序付け部で順序付けされた順に、基底データの符号化データ、その基底データに対応した重み係数列の符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有することを、
    特徴とする多次元データ符号化装置。
  23. 3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化装置であって、
    請求項21に記載の発明のビットストリーム作成部以外の各処理部による処理を、色データを構成する各成分に関して独立に実行する実行部と、
    各基底データに対応した重み係数列の符号化データを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブ部と、
    順序付け部で順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有することを、
    特徴とする多次元データ符号化装置。
  24. 3次元モデルの面上の3次元座標に対応付けされた多次元データが複数の色データで構成されており、これらの多次元データを符号化する多次元データ符号化装置であって、
    請求項22に記載の発明のビットストリーム作成部以外の各処理部による処理を、色データを構成する各成分に関して独立に実行する実行部と、
    各基底データに対応した重み係数列の符号化データと平均値列あるいはメディアン値列の符号化データとを、色データを構成する各成分について、1ビットごとにインターリーブしたビット列を作成して符号化データを統合するインターリーブ部と、
    平均値列あるいはメディアン値列のインターリーブされた符号化データの後に、順序付け部で順序付けされた順に、色データを構成する各成分に対応した基底データの符号化データ、その基底データに対応した重み係数列のインターリーブされた符号化データの順で、符号化データが続くようにビットストリームを作成するビットストリーム作成部とを有することを、
    特徴とする多次元データ符号化装置。
  25. 請求項21ないし24のいずれか1項に記載の多次元データ符号化装置によって得られるビットストリームを復号する多次元データ復号装置であって、
    基底データを復号する基底データ復号部と、
    重み係数列のウェーブレット変換係数を復号するウェーブレット変換係数復号部と、
    ウェーブレット変換係数復号部で復号されたウェーブレット変換係数に逆ウェーブレット変換を行って重み係数列を復元する逆ウェーブレット変換部とを有することを、
    特徴とする多次元データ復号装置。
  26. 請求項1ないし4のいずれか1項に記載の3次元グラフィックスデータ作成方法の実現に用いられる処理をコンピュータに実行させるための3次元グラフィックスデータ作成プログラム。
  27. 請求項5ないし7のいずれか1項に記載のテクスチャ画像作成方法の実現に用いられる処理をコンピュータに実行させるためのテクスチャ画像作成プログラム。
  28. 請求項8ないし15のいずれか1項に記載の多次元データ符号化方法の実現に用いられる処理をコンピュータに実行させるための多次元データ符号化プログラム。
  29. 請求項16に記載の多次元データ復号方法の実現に用いられる処理をコンピュータに実行させるための多次元データ復号プログラム。
JP2004147513A 2004-05-18 2004-05-18 多次元データ符号化方法、多次元データ復号方法、テクスチャ画像作成方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム Expired - Fee Related JP4398785B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004147513A JP4398785B2 (ja) 2004-05-18 2004-05-18 多次元データ符号化方法、多次元データ復号方法、テクスチャ画像作成方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004147513A JP4398785B2 (ja) 2004-05-18 2004-05-18 多次元データ符号化方法、多次元データ復号方法、テクスチャ画像作成方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム

Publications (2)

Publication Number Publication Date
JP2005332028A true JP2005332028A (ja) 2005-12-02
JP4398785B2 JP4398785B2 (ja) 2010-01-13

Family

ID=35486674

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004147513A Expired - Fee Related JP4398785B2 (ja) 2004-05-18 2004-05-18 多次元データ符号化方法、多次元データ復号方法、テクスチャ画像作成方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム

Country Status (1)

Country Link
JP (1) JP4398785B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100965636B1 (ko) * 2007-05-30 2010-06-23 엔비디아 코포레이션 프로그래밍 가능한 오프셋 위치들을 이용하여 텍스쳐샘플들을 처리하기 위한 방법 및 시스템
WO2010134675A1 (ko) * 2009-05-18 2010-11-25 연세대학교 산학협력단 비사실적 렌더링을 이용하여 비실사 영상을 생성하는 장치와 그 방법, 및 상기 방법을 구현하는 프로그램이 기록된 기록매체
WO2019031386A1 (ja) * 2017-08-09 2019-02-14 シャープ株式会社 画像処理装置、表示装置、画像送信装置、画像処理方法、制御プログラム及び記録媒体
CN109636917A (zh) * 2018-11-02 2019-04-16 北京微播视界科技有限公司 三维模型的生成方法、装置、硬件装置
CN110136235A (zh) * 2019-05-16 2019-08-16 洛阳众智软件科技股份有限公司 三维bim模型外壳提取方法、装置及计算机设备
CN111354062A (zh) * 2020-01-17 2020-06-30 中国人民解放军战略支援部队信息工程大学 一种多维空间数据渲染方法及装置
CN111402420A (zh) * 2020-03-11 2020-07-10 杭州数孪科技有限公司 一种模型标注试验测点的方法
JP7442993B2 (ja) 2019-07-26 2024-03-05 キヤノン株式会社 情報処理装置、情報処理方法、データ構造、及びプログラム
WO2024084952A1 (ja) * 2022-10-19 2024-04-25 ソニーグループ株式会社 情報処理装置および方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103699364B (zh) * 2013-12-24 2016-09-21 四川川大智胜软件股份有限公司 一种基于并行绘制技术的三维图形渲染方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100965636B1 (ko) * 2007-05-30 2010-06-23 엔비디아 코포레이션 프로그래밍 가능한 오프셋 위치들을 이용하여 텍스쳐샘플들을 처리하기 위한 방법 및 시스템
WO2010134675A1 (ko) * 2009-05-18 2010-11-25 연세대학교 산학협력단 비사실적 렌더링을 이용하여 비실사 영상을 생성하는 장치와 그 방법, 및 상기 방법을 구현하는 프로그램이 기록된 기록매체
WO2019031386A1 (ja) * 2017-08-09 2019-02-14 シャープ株式会社 画像処理装置、表示装置、画像送信装置、画像処理方法、制御プログラム及び記録媒体
CN111033575A (zh) * 2017-08-09 2020-04-17 夏普株式会社 图像处理装置、显示装置、图像发送装置、图像处理方法、控制程序以及记录介质
CN109636917A (zh) * 2018-11-02 2019-04-16 北京微播视界科技有限公司 三维模型的生成方法、装置、硬件装置
CN110136235A (zh) * 2019-05-16 2019-08-16 洛阳众智软件科技股份有限公司 三维bim模型外壳提取方法、装置及计算机设备
CN110136235B (zh) * 2019-05-16 2023-03-31 洛阳众智软件科技股份有限公司 三维bim模型外壳提取方法、装置及计算机设备
JP7442993B2 (ja) 2019-07-26 2024-03-05 キヤノン株式会社 情報処理装置、情報処理方法、データ構造、及びプログラム
CN111354062A (zh) * 2020-01-17 2020-06-30 中国人民解放军战略支援部队信息工程大学 一种多维空间数据渲染方法及装置
CN111402420A (zh) * 2020-03-11 2020-07-10 杭州数孪科技有限公司 一种模型标注试验测点的方法
CN111402420B (zh) * 2020-03-11 2023-06-06 苏州数设科技有限公司 一种模型标注试验测点的方法
WO2024084952A1 (ja) * 2022-10-19 2024-04-25 ソニーグループ株式会社 情報処理装置および方法

Also Published As

Publication number Publication date
JP4398785B2 (ja) 2010-01-13

Similar Documents

Publication Publication Date Title
Ochotta et al. Compression of point-based 3D models by shape-adaptive wavelet coding of multi-height fields
CN107819469B (zh) 对表示物理属性的信号进行压缩
Peng et al. Technologies for 3D mesh compression: A survey
Khodakovsky et al. Progressive geometry compression
US6587104B1 (en) Progressive hulls
Gu et al. Geometry images
Ochotta et al. Image‐based surface compression
WO1999039308A1 (en) 3d mesh compression and coding
WO2012096790A2 (en) Planetary scale object rendering
Pavez et al. Dynamic polygon clouds: representation and compression for VR/AR
Pavez et al. Dynamic polygon cloud compression
Xu et al. Cluster-based point cloud coding with normal weighted graph fourier transform
JP4398785B2 (ja) 多次元データ符号化方法、多次元データ復号方法、テクスチャ画像作成方法及びそれらの方法を実現するための装置、並びにそれらの方法を実現するためのプログラム
JP5102310B2 (ja) 多次元テクスチャを表現するデータを符号化するための方法およびデバイス、ならびに対応する復号するための方法およびデバイス、およびコンピュータプログラム
CN113284250A (zh) 一种点云的几何编码方法和解码方法及设备
Portaneri et al. Cost-driven framework for progressive compression of textured meshes
JP4638037B2 (ja) 3次元メッシュネットワークの圧縮およびコーディング
Berjón et al. Objective and subjective evaluation of static 3D mesh compression
Zhang et al. Point cloud attribute compression via clustering and intra prediction
JP7383171B2 (ja) 点群コーディングのための方法および装置
Wang et al. A framework for rendering large time-varying data using wavelet-based time-space partitioning (wtsp) tree
Roudet A region-based progressive coding of semi-regular 3-d meshes for view-dependent transmission
Marvie et al. Coding of dynamic 3D meshes
Roudet et al. Semi-regular 3D mesh progressive compression and transmission based on an adaptive wavelet decomposition
Lee et al. MixNeRF: Memory Efficient NeRF with Feature Mixed-up Hash Table

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060719

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090721

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20090924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091020

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091023

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121030

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4398785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121030

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131030

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees