JP2004234476A - 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 - Google Patents
画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 Download PDFInfo
- Publication number
- JP2004234476A JP2004234476A JP2003024155A JP2003024155A JP2004234476A JP 2004234476 A JP2004234476 A JP 2004234476A JP 2003024155 A JP2003024155 A JP 2003024155A JP 2003024155 A JP2003024155 A JP 2003024155A JP 2004234476 A JP2004234476 A JP 2004234476A
- Authority
- JP
- Japan
- Prior art keywords
- data
- image data
- image
- encoded
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Generation (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
【課題】視点の移動および光源の移動の双方に対応して画像データを物体モデルにマッピングできるようにし、これにより高品位な立体映像を得ることのできる画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置を提供する。
【解決手段】視点位置の変化による画像情報の特性と光源位置の変化による画像情報の特性とを表現する情報を当該画像情報に対応付けた、高次元の物体特性情報を導入する。物体特性情報をブロック化し、直交変換および量子化したのち符号化した符号化情報をストレージ63に記録する。この情報を1次メモリ60および2次メモリ61を介して復号化処理部22により復号化し、視点位置および光源位置のパラメータに基づき復号情報を選択する。更に、計算資源を効率的に用いたアーキテクチャを採用してリアルタイム処理を実現する。
【選択図】 図4
【解決手段】視点位置の変化による画像情報の特性と光源位置の変化による画像情報の特性とを表現する情報を当該画像情報に対応付けた、高次元の物体特性情報を導入する。物体特性情報をブロック化し、直交変換および量子化したのち符号化した符号化情報をストレージ63に記録する。この情報を1次メモリ60および2次メモリ61を介して復号化処理部22により復号化し、視点位置および光源位置のパラメータに基づき復号情報を選択する。更に、計算資源を効率的に用いたアーキテクチャを採用してリアルタイム処理を実現する。
【選択図】 図4
Description
【0001】
【発明の属する技術分野】
本発明は、3次元コンピュータグラフィクス(以下CGと表記する)分野において、物体モデルにテクスチャデータや画像データなどをマッピングするための画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置に関する。特に本発明は、イメージベースレンダリング技術を用いた画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置に関する。
【0002】
【従来の技術】
3次元CG分野には、あるパターンを繰り返すテクスチャデータ、あるいは実世界から取得した撮影画像データ(以下、画像データと総称する)を、三角形パッチで構成されるポリゴンモデルなどの3次元を構成するモデルの表面に貼り付けるマッピングと呼ばれる手法が有る。一方、光源や視点位置に応じた物体表面の陰影をポリゴン表面の塗りつぶしで表現する手法はシェーディングと称される。シェーディング技法には、ポリゴン内を一様に塗りつぶすフラットシェーディングや、ポリゴン内を頂点輝度値の線形補間で塗るグーローシェーディングなどが有る。マッピングとシェーディングとを組み合わせると、視点や照明位置に応じて陰影の組み合わさったイメージデータを物体モデルに貼り付けることができ、高品位なCG画像を得ることができる。
【0003】
ところが、マッピングで用いられる画像データは特定の照明条件、およびカメラ位置での撮影画像であり、貼り付ける対象である3次元モデルの形状や、描画時の視点、照明位置といった条件が考慮されたものではない。これをそのまま物体モデルに貼り付けると陰影に変化のない単調な描画像となり、現実との違いが目立つことがある。また、シェーディングにおいても基本的には頂点単位の光源計算で輝度が計算され、ポリゴン内部は線形に補間されるために、3次元物体が本来備える細かな表面形状に対応する描画は行われない。
【0004】
実写画像の特性を考慮すると、カメラで撮像された画像を、レンズを通して各ピクセルに入射する光の情報を取得したものとして考えることができる。つまり画像データは、撮像時のカメラ位置、向き、時刻といったパラメータで規定できる光の集合として見做せる。そこで、このような光線情報を再利用することで高品位な画像を生成する技術が登場しており、これはイメージベースレンダリング技術と呼ばれている。
【0005】
イメージベースレンダリングの1手法として、撮像対象を異なる視点や照明条件で撮像した画像データを予め複数用意し、3次元物体のレンダリング時に、これらの画像データを物体表面の法線や視点、および照明位置などの情報に基づき切り替えてマッピングする手法が考えられている。しかしながら、考えられる複数の撮像環境に応じて多数の画像データを用意しておくことは膨大なメモリ容量が必要ということを意味し、何らかの手法により画像データを圧縮/伸張する必要がある。
【0006】
この種の画像データ圧縮/伸張処理に関し、視点移動の観点からアプローチする技術として特許文献1〜3に開示される技術がある。特許文献1には、カメラの配置などからブロックの並び順を決定する多視点画像のブロック化に関する手法が開示される。特許文献2には、時間的相関と空間的相関を利用して動画像データを効率よく符号化する手法が開示される。特許文献3には、参照画像に対して予測、誤差DCT、固定長符号化を用いる手法が開示される。
【0007】
一方、光源移動の観点からアプローチする技術として特許文献4に開示される技術がある。特許文献4には、光源位置の変化による特性を多項式関数により表現することで画像を圧縮する手法が開示される。
【0008】
【特許文献1】
特開平6−113333公報(第8頁、図6)
【0009】
【特許文献2】
特開平8−140090公報(第9頁、図6)
【0010】
【特許文献3】
特開2001−186516公報(第12頁、図6)
【0011】
【特許文献4】
米国特許第US006297834B1号明細書(第2頁、図6)
【0012】
【発明が解決しようとする課題】
上記の公知技術には、画像データの圧縮/伸張処理に関して、視点の移動、または光源の移動のいずれか一方を考慮した技術が開示されているのに留まる。しかも、画像データをリアルタイム処理しつつマッピングデータとして再生することはもとより考慮されていない。近年ではより実画像に近いリアルなCGグラフィックへの要求が高まってきており、何らかの新規な技術の提供が待たれている。
【0013】
本発明は上記事情によりなされたもので、その目的は、視点の移動および光源の移動の双方に対応して画像データを物体モデルにマッピングできるようにし、これにより高品位な立体映像を得ることのできる画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置を提供することにある。
【0014】
【課題を解決するための手段】
上記目的を達成するために本発明に係わる画像データ符号化方式は、コンピュータグラフィクスイメージに表示される物体モデルにマッピングするための画像データを符号化する画像データ符号化方式において、複数の画像データにそれぞれ各画像データの撮影条件(例えば被写体を撮影する際の視点位置座標および光源の位置座標)を対応付けた複数の多次元データを符号化することを特徴とする。
【0015】
このような手段により、複数の画像データに、その視点位置と光源位置とを対応付けた複数のデータが予め用意される。従って予め用意された画像データの中から、CGイメージ中の物体モデルの視点位置および光源位置に対応する画像データを選択することができる。これにより画像データの視点位置と光源位置とを、CGイメージ中の物体モデルの視点位置と光源位置とに合わせてマッピングすることが可能となり、より実画像に近いマッピングを実現することが可能になる。
【0016】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1は、本発明の実施の形態における物体特性情報に係わるパラメータを示す模式図である。本実施形態においては、予め用意されるマッピング用の画像データ(以下物体特性情報と表記する)のそれぞれに、その視点方向および光源方向を対応付ける。視点方向、および光源方向のいずれも球座標系における2つのパラメータで表現することができる。これらの4つのパラメータと、画像データ内の位置を特定するための2次元データとを合わせて、6次元のパラメータで一つの物体特性情報を特定することができる。
【0017】
図1に示されるように撮像対象を原点とする球座標系を用いて視点位置、および光源位置を指定する。視点を無限遠とし、光源を平行光源と仮定すると、視点位置を(θe,φe),光源位置を(θi,φi)と表現することができる。このとき物体特性情報Iを次式(1)のように6次元で定義することができる。
【0018】
【数1】
【0019】
図2は、本実施形態に係わる物体特性情報を取得するための手段を示す模式図である。図2において、符号30は被写体、32は被写体を撮影するカメラ(すなわち視点)、31は被写体を照らす光源を示す。光源31およびカメラ32は、被写体30を中心とするドーム構造33の表面に配置され、被写体30から等距離の範囲内で自由に動くことができる。ドーム構造33の表面を予めメッシュ状に区切り、各メッシュの頂点にカメラ32および光源31を配置すれば、メッシュ頂点の座標を予め調べておくことができることから、効率よく撮像環境データと画像とを取得することができる。このようにして取得された物体特性情報は、ある対象に対して、視点位置の変化による特性と、光源位置の変化による特性とを表現する情報を含むものとなる。
【0020】
図2において撮像位置、光源位置をそれぞれ変えて被写体30を撮影するには、具体的には次のようにする。(A)光源31の位置を固定して、撮像位置をθ、φ方向にサンプリング間隔ずらして撮像を繰り返す。(B)光源31の位置をθ方向、あるいはφ方向にサンプリング間隔ずらす。この(A)、(B)のような処理を繰り返し実施することにより、物体特性情報10を得ることができる。その際、同一の撮像装置の位置および姿勢を変えて撮像を繰り返すか、または、複数の撮像装置を3次元空間内でレイアウトして各撮像装置を同時に撮影しても良い。あるいは各撮像装置の同期をとり、被写体30を連続的に撮影しても良い。
【0021】
カメラ32としては、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)カメラ、あるいはビデオカメラなどを用いることができる。
【0022】
撮像位置を取得するには、GPS(Global Positioning System)などの位置センサ、撮像姿勢の取得には磁気センサ、ジャイロセンサ、あるいは加速度センサなどを利用できる。撮像位置、および姿勢が予め決められている場合には、対応するデータを与えれば良い。
【0023】
図3は、本発明の実施の形態における物体特性情報のデータ構成の一例を示す模式図である。図3に示されるように物体特性情報は、ある照明位置(θi,φi)において、複数の撮影画像が撮像位置(θe,φe)ごとに二次元に配列されるデータ構造を持つ。このような構造が任意の照明位置(θi,φi)に対応付けられ、従って物体特性情報は6次元のデータ構造を持つ。
【0024】
図4は、本発明に係わる復号化装置の一構成例を示す機能ブロック図である。図4において、高次テクスチャを含む物体特性情報を符号化した符号語列は、外部のストレージメディア(以下記録媒体と称する)63に格納される。ここに格納された符号語列の全体、または一部のまとまった単位がデータ読込処理部64により記録媒体63から1次メモリ60に読み込まれる。さらに、ある瞬間の画像マッピングに必要なデータがデータ読込処理部65により2次メモリ61に読み込まれる。
【0025】
その際、CGグラフィクスにおける画面内位置、視点位置および光源位置の各情報から対応する要素を含むブロック符号化情報がブロック選択処理部21により選択され、選択されたブロック符号化情報が1次メモリ60から2次メモリ61に読み込まれる。2次メモリ61に読み込まれたブロック符号化情報は、演算器62の制御のもとで復号化処理部22により復号化され、情報選択処理部55に与えられる。情報選択処理部55は、マッピングに必要となる画面内位置、視点位置および光源位置に対応する位置データ56に基づいて、対応するテクスチャを復号化データから選択する。
【0026】
なお記録媒体63とは、読み出しが可能な半導体記憶装置、磁気記録装置の記録媒体、光磁気記録装置の記録媒体など、ディジタル形式の情報を記録できるものならどのようなものでも良い。具体的には、フロッピーディスク、光ディスク、光磁気ディスク、相変化型ディスク、磁気テープなどを含む。また符号語列をネットワーク上のデータ記録媒体に記録するようにしても良い。
【0027】
上記構成において、或る3次元CG画像を復号するとする。例えば4つのオブジェクトが存在し、それぞれのオブジェクトを同一のテクスチャを用いてマッピングすると仮定する。この場合、記録媒体63にはマッピングに必要となる4つのテクスチャに対する高次テクスチャが圧縮されて記録される。
【0028】
高次テクスチャの生成に関しては、図3において、視点位置の変化に対するサンプリング間隔をΘ,φ共に例えば10度刻みとし、光源位置の変化に対するサンプリング間隔をΘ,φ共に例えば10度刻みとする。1つのテクスチャのサイズを256×256画素とし、色情報としてのRGBをそれぞれR:1Byte、G:1Byte、B:1Byteの3Byteで表現するとする。
【0029】
1テクスチャの高次テクスチャサイズを計算すると、
256×256×(視点方向サンプリング数)×(光源方向サンプリング数)
= 256×256×3×(36×18)×(36×18) Byte
と表現できる。よって4テクスチャでは、
256×256×3×(36×18)×(36×18)×4 Byte
の高次テクスチャ情報が必要となる。
【0030】
符号化時の圧縮率を50%とすると、1次メモリ60には、
256×256×3×(36×18)×(36×18)×4×0.5 Byte
のデータが記憶される。
【0031】
2次メモリ61には描画に必要なブロックが蓄積される。或る3次元CG画像をテクスチャ・マッピングする際には、マッピングすべき画素に対する視点位置、光源位置、および画素位置が一意に定まる。すなわち、マッピングする際の視点、光源、画素位置(θe,φe,θi,φi,u,v)が一意に決まるため、これに該当するテクスチャを含むブロックを1次メモリ60から2次メモリ61に転送する。テクスチャデータが4×4×4×4×4×4の6次元ブロックで符号化されているとすると、
3×0.5×4×4×4×4×4×4 Byte
の圧縮テクスチャブロック成分が2次メモリ61に記憶される。位置(θe,φe,θi,φi,u,v)の後に復号されるテクスチャを含む、例えば、(θe,φe+5,θi,φi,u,v)、(θe,φe,θi+5,φi,u+5,v)、(θe,φe,θi,φi,u+5,v)などを含むブロックをも2次メモリ61に転送することにより、1次メモリ60と2次メモリ61間のデータ転送回数を削減することができる。
【0032】
2次メモリ61に転送されたブロックは、算術論理演算器などを備える復号化処理部22により復号化され、復号化されたテクスチャを用いて3次元CG画像が描画される。復号化処理は符号化処理の逆変換であるので、ここでは逆量子化、逆直交変換などの処理が実施される。
【0033】
マッピングする視点位置、光源位置、および画素位置(θe,φe,θi,φi,u,v)のテクスチャを含む圧縮ブロックは、例えば逆線形量子化(すなわち圧縮データを一様に16倍する処理)、6次元IDCTなどの、符号化の逆変換処理により復号化される。復号化された
3×4×4×4×4×4×4 Byte
のテクスチャデータは、位置(θe,φe,θi,φi,u,v)の近傍位置データを含むため、情報選択処理部55により表示に必要となる画面内位置および視点位置および光源位置に対応する要素を抽出する。これにより最終的な復号化処理が完了する。
【0034】
復号化したブロックを2次メモリ61に保持し、保持されたブロックを位置(θe,φe,θi,φi,u,v)の近傍位置へのマッピングの際に再利用することでヒット率が高められ、これにより復号処理回数を削減して復号処理を効率的に実施することができる。
【0035】
図5は、図4の復号化装置の処理手順の一例を示すフローチャートである。図5においてデータ読込処理部64は、高次テクスチャを符号化した符号語列の全体または一部のまとまった単位を記録媒体63から1次メモリ60に読み込む(ステップ121)。次に、ブロック選択処理部21は、描画位置(すなわち画面内位置、視点位置、および光源位置)122を参照し、これに対応する要素を含むブロックを選択する(ステップ123)。
【0036】
次に、データ読込処理部65は、ステップ123で選択されたブロックを1次メモリ60から2次メモリ61に読み込む(ステップ124)。次に、復号化処理部22は読み込まれたデータを復号化(ステップ125)する。次に、情報選択処理部55は描画位置122を参照し、復号された情報からこの位置に対応する情報を選択的に抽出する(ステップ126)。このような一連の処理を経て、CG画像にマッピングすべき描画要素が複合される(ステップ127)。
【0037】
このように本実施形態では、複数の画像情報に、その視点位置座標と光源位置座標とを対応付けた6次元の物体特性情報を導入し、この物体特性情報をブロック化し、直交変換および量子化したのち符号化した符号化情報をストレージ63に記録する。この情報を1次メモリ60および2次メモリ61を介して復号化処理部22により復号化し、視点位置および光源位置のパラメータに基づき復号情報を選択する。そして、この選択された復号情報を物体モデルにマッピングするようにしている。
【0038】
このように、視点位置と光源位置とにより特定される複数の画像情報を符号化して予め用意するようにしたので、CG画面中における視点位置と光源位置とに対応する画像情報を選択でき、従ってより実画像に近いテクスチャマッピング画像を得ることが可能になる。
【0039】
さらに、1次メモリ60と2次メモリ61とを介して復号化処理を実施し、かつ復号化したブロックを2次メモリ61に保持して保持されたブロックを位置(θe,φe,θi,φi,u,v)の近傍位置へのマッピングの際に再利用するようにしているので、データアクセスに際してのヒット率を高めることができ、これによりリアルタイム処理を実現することが可能になる。
【0040】
<第1の符号化方式>
図6は、本発明に係わる画像データ符号化方式の第1の例を示す模式図である。図6において、視点位置の変化による特性、および光源位置の変化による特性を表現する情報を撮影される対象ごとに対応付けた物体特性情報10は、入力情報に対して符号化処理部17により符号化される。本実施形態においては、視点位置の変化による特性を表現する情報は撮像位置(θe,φe)としての球座標データであり、光源位置の変化による特性を表現する情報は照明位置(θi,φi)としての球座標データである。
【0041】
<第1の復号化方式>
図7は、本発明に係わる画像データ復号化方式の第1の例を示す模式図である。図7において、物体特性情報を符号化したデータとしての符号化情報20から、CG画像中における復号すべき視点位置、光源位置、および対象内位置を含む位置データ43に対応する要素を含む符号化情報が、情報選択処理部55により選択される。復号化処理部22は、この選択された符号化情報を復号化し、画像生成に必要なデータを作成する。
【0042】
<第2の符号化方式>
図8は、本発明に係わる画像データ符号化方式の第2の例を示す模式図である。図8において、物体特性情報10は分離処理部25により輝度成分23と色差成分24とに分離される。分離された輝度成分と色差成分とは、それぞれ符号化処理部173,174により各成分に適した方式のもとで符号化される。
【0043】
<第2の復号化方式>
図9は、本発明に係わる画像データ復号化方式の第2の例を示す模式図である。図9において、符号化情報20は輝度成分と色差成分とに分離された状態で記録媒体に記憶される。情報選択処理部55は、複合すべき位置データ56に対応する要素を含む符号化情報を、符号化情報20から輝度成分23、色差成分24ごとに選択する。選択された輝度成分23と色差成分24とは、それぞれ復号化処理部223,224により復号化される。
【0044】
<第3の符号化方式>
図10は本発明に係わる画像データ符号化方式の第3の例を示す模式図である。この例では、ブロック化による符号化方式につき説明する。図10において、物体特性情報10はブロック生成処理部11によりブロック化され、次いで直交変換処理部12によりDCT(Discrete Cosine Transform)などの直行変換処理が施される。画像データの性質から直交変換後のデータ分布は低周波数領域側に集中し、これにより量子化処理部13における量子化を効果的に実施できる。
【0045】
次に、本実施形態における直交変換処理および量子化処理につき説明する。
図10の直交変換処理部12は、ブロック生成処理部11から与えられる各ブロックに対して直交変換処理を行なう。直交変換の手法にはDCTのほか、WAVELET、アダマールなど様々な手法が有るが、どの直交変換手法においても、画像データを直交変換したデータの分布は低周波数領域側に集中することが知られている。
【0046】
このような性質を利用して本方式では、下記の手法により高能率符号化を行う。すなわちこの符号化方式では、物体特性情報のデータ形式を全て画像データとして取り扱い、6次元の全てをまとめて直交変換するようにする。
【0047】
量子化の手法としては線形量子化、非線形量子化などが有る。線形量子化は、例えば、データを一様に16で割るといった量子化である。非線形量子化としては、Max量子化などが有る。
【0048】
このような手法をハードウェアで実現する際には、復号処理に際して或る視点位置、光源位置の符号化されたデータを復号する必要がある。符号化されたデータにメモリ上でランダムにアクセスするためには、符号化されたデータは可変長よりも固定長の方が好ましい。そこでMax量子化器などを用いて固定長に量子化することにより、復号時のメモリのランダムアクセスにも比較的容易に対応することができる。
【0049】
次に、ブロック化処理の詳細につき説明する。
6次元の物体特性情報
I(θe,φe,θi,φi,u,v)
が与えられた場合、このデータに対して各次元の4近傍を1つのブロックとして取り扱うとすると、次式(2)に示される4096要素から構成される4×4×4×4×4×4の6次元ブロックが生成される。
【0050】
【数2】
【0051】
例えば視点位置を(θe,φe)、そのサンプリング数を36(e:0〜35)、光源位置を(θi,φi)、そのサンプリング数を36(i:0〜35)、画像位置を(u,v)、そのサンプリング数64(u,v:0〜63)とすると、4×4×4×4×4×4の6次元ブロックが9×9×9×9×16×16=26,873,856個、生成される。
【0052】
これらの6次元ブロックは、ブロック単位に符号化される。ブロック構造には、近傍または相関度の強いの対象内位置、視点、光源における情報の集合を1つのブロックとする構造がある。または、対象内位置、視点、光源における情報の対称性を利用して1つのブロックとする構造などが考えられる。
【0053】
例えば、物体特性情報のデータ形式を全て画像として4つの近傍を1つのブロックとして扱う場合には、4×4×4×4×4×4の6次元ブロックが生成される。物体特性情報の相関強度により、4×4×2×2×4×8のように均一でないブロックを生成する場合や、2×2×4×8のように低次元のブロックを生成する場合も考えられる。
【0054】
均一でないブロック生成の具体例としては、光源位置φi方向に対する相関が強いと仮定すると、以下の構成要素により、
I(θe−x,φe−x,θi−x,φy,u−x,v−x)
x : 1〜3,θ方向視点サンプリング数36
y : 0〜35,φ方向視点サンプリング数36
このように、4×4×4×36×4×4のブロックを構成する方法が考えられる。
【0055】
図11は、図10のブロック生成処理部11の処理手順の一例を示すフローチャートである。このフローチャートは、相関の強度を利用するブロック化処理を示す。
【0056】
図11において、位置(θe,φf,θi,φj,u,v)近傍の相関係数が計算される(ステップ93)。このステップで得られた結果と閾値とを比較し(ステップ94)、例えばその絶対値が0.7以上の場合は、該当する範囲を含めるようにブロック化するようにする(ステップ95)。
【0057】
例えばYを0〜3まで変化させた場合に、(θe,φf−y,θi,φj,u,v)と(θe−6,φf−y,θi,φy,u,v)とにおける相関係数が0.7、(θe,φf,θi−y,φj,u,v)と(θe,φf,θi−y,φj−6,u,v)との相関係数が−0.8である場合、視点θi方向、および光源φi方向に対して相関が強いことになる。よって以下の構成要素により、
I(θe−y,φf−x,θi−x,φj−y,u−x,v−x)
x : 1〜3,θ方向視点サンプリング数36
y : 1〜7,φ方向視点サンプリング数36
として8×4×4×8×4×4のブロックを構成するようにすると良い。
【0058】
なお、相関係数を求めるにはPearsonの相関係数などの様々な相関係数算出手法を用いることができ、評価値も様々に適用することができる。また、ブロック構成の選択手法としては、4×4×4×4×4×4、4×4×2×2×4×8、8×8×8×8×8×8のといった様々なブロック構成を仮定して符号化、復号化を実施し、得られた結果に基づいて最適なブロック構成を選択するようにしても良い。
【0059】
図12は、図10のブロック生成処理部11の処理手順の他の例を示すフローチャートである。ここでは対称性を利用するブロック化手法につき説明する。
被写体の特性に線対称、点対称などの対称性がある場合には、これを利用し、この符号化方式では対称性のある範囲を1つのブロックとする。図12において、まず対称性を仮定し(ステップ90)、次にこの仮定が正しいかどうかを判定したのち(ステップ91)その判定結果に基づいてブロック化を行なう(ステップ92)。
【0060】
ステップ91においては、まず物体特性情報内の対称性を探索する。被写体の特徴として、物体特性情報が面対称の特性を持つ可能性の高いことが経験的に知られているとする。この場合、あるサンプリング間隔毎の面に対して、例えば10度刻みの視点位置θに対して面対称だと仮定し、各視点位置θごとに面対称であるか否かを調査する。その結果、視点位置θeに対して面対称な画像であるとすると、
【数3】
【0061】
上記(3)に示される構成要素を同一のブロックに多く含ませてブロック化することによりブロック内の相関を強くでき、効率的なブロック化を実施することができる。なお、対称性が見つからなかった場合には、対称性を用いないブロック生成を行なう。
【0062】
図13は、図10の量子化処理部13の処理手順の一例を示すフローチャートである。ここでは、統計情報に基づいたビット割当方式を説明する。すなわち、統計情報を利用した量子化方法を説明する。画像データ信号を直交変換すると低周波数領域側に分布が集中することが知られており、この符号化方式ではこのような性質を利用して高能率符号化を行なう。
【0063】
図13の手順においては、大きく分けて1次符号化(ステップ100)と2次符号化(ステップ105)の2段階の処理を実施する。1次符号化では、各符号語のエネルギーを計算する。すなわち、直交変換後の全ブロックを符号化し、各符号語に対してそれぞれエネルギーの割合を計算する。
【0064】
2次符号化では、1次符号化で計算された各符号語のエネルギーと、符号化の圧縮率とに基づいて各符号語に割り当てるビット数を算出し、その値に基づきMax量子化を行う。すなわち、符号化の圧縮率を指定し(ステップ102)、各符号語のエネルギーの割合から各符号語に割り当てるべきビット数を決定する(ステップ103)。そして、このステップで割り当てられたビット数に応じて各符号語のMax量子化を行なう(ステップ104)。
【0065】
本方式ではMax量子化を有効に実施するため、通常の符号化処理に相当する2次符号化ステップに加え、1次符号化ステップにより符号語のエネルギーを予め算出するようにしている。このようにすることで、ビット数を符号語のエネルギーに応じて効率良く割り当てることが可能となる。なお1次符号化ステップを経ずに、2次符号化ステップにおいて、その時点までに符号化された符号語のエネルギーから各符号語のエネルギーを予測するようにしても良い。
【0066】
1次符号化ステップ100につき具体的に説明する。
物体特性情報のデータ形式を全て画像として4近傍を1つのブロックとし、4×4×4×4×4×4の6次元ブロックを生成する場合を考える。6次元ブロックの符号化時に直交変換処理を施すと、ブロック内の符号語C(I,j,k,l,m,n)が得られる(但し、I,j,k,l,m,n:0〜3)。そこで各符号語の全符号語Cに対するエネルギーの割合P(I,j,k,l,m,n)を次式(4)により計算することができる。
【0067】
【数4】
【0068】
上記P(I,j,k,l,m,n)を全ての6次元ブロックに対して計算し、P(I,j,k,l,m,n)の平均値Pa(I,j,k,l,m,n)を符号語C(I,j,k,l,m,n)のエネルギーとする。
【0069】
2次符号化ステップ105では、目標圧縮率D、Pa(I,j,k,l,m,n)、初期割当ビット数E、各符号語に割り当てるビット数A(I,j,k,l,m,n)を次のようにして算出する。
(処理1)ビット数を割り当てられていない符号語のうち、最大のエネルギーP(I,j,k,l,m,n)を持つ符号語を探索する。
(処理2) 次式(5)により符号語(I,j,k,l,m,n)の割当ビット数を算出する。
【数5】
(処理3) 符号語(I,j,k,l,m,n)に対し、(処理2)で算出されたビット数でMax量子化を行なう。
(処理4) 全ての符号語につきビット割り当て場完了するまで処理1〜処理3を繰り返す。
【0070】
上記の例では、P(I,j,k,l,m,n)の平均値Pa(I,j,k,l,m,n)を符号語C(I,j,k,l,m,n)のエネルギーと考え、異なるブロックにおいても同一のビット数を割り当てるようにする。なおこれに代えて、ブロック毎に符号語のエネルギーCb(I,j,k,l,m,n)(b:全ブロック)を算出し、その結果をもとにブロック毎に異なるビット数を割り当てることも可能である。
【0071】
図14は図10の量子化処理部13の処理方式の一例を示す模式図である。図14においては、物体特性情報10をベクトル量子化により符号化する例が示される。物体特性情報10はブロック単位にまとめられる。各ブロックは例えば同じ視点位置および光源位置の画像を4×4のブロックに区切ったもの(すなわち16次元ベクトル)や、同じ視点位置および光源位置の画像を2×2のブロックに区切ったものをRGBごとにまとめたもの(すなわち12次元ベクトル)などが考えられる。画像情報はRGBの間にも互いに相関を持つため、同位置の画素のRGBをまとめてベクトル化することにより圧縮率をさらに高めることができる。
【0072】
図14において、ベクトル量子化で使用されるコードブックは符号化ブロックと同じ次元のベクトルの集合として作成され、予めコードブックメモリ70に記憶される。マッチング処理部71は、ブロック化された符号化対象とコードブックに含まれる各コードベクトルとを比較し、比較誤差の最も小さいコードベクトルのインデックスを出力する。このインデックスが符号化対象ブロックの符号化結果となる。またこの方式では、符号化処理に際して使用したコードブックを符号化対象全体に対する符号化情報として蓄積し、次段の処理に伝達する。
【0073】
図15は、図14の方式により符号化されたデータを複合化するための処理方式の一例を示す模式図である。14の符号化方式でベクトル量子化を用いているため、復号化方式においてもこれに対応する。図15において、符号化情報20はコードブックとインデックスとに分けられる。コードブックはコードブックメモリ70に格納される。
【0074】
図15において、同じ視点位置、光源位置の画像内の位置パラメータu,v、視点位置θe、φe、光源位置θi、φiにより規定される、復号化すべき情報位置のインデックスが符号化情報20から取得される。このインデックスに基づきテーブル引き処理部80によりコードブックがテーブル引きされ、対応するテクスチャのコードベクトルが読み出される。読み出されたコードベクトルはテクスチャメモリ(図示せず)などに記憶され、必要なテクスチャの全てがメモリに書き込まれるまでこの処理が繰り返される。
【0075】
<第4の符号化方式>
図16は、本発明に係わる画像データ符号化方式の第4の例を示す模式図である。図16において図10と共通する部分には同じ符号を付し、ここでは異なる部分につき説明する。量子化処理部13により量子化された物体特性情報10は、1次元並び替え処理部14により高次元の状態から一次元データへと変換される。さらにVLC(Variable Length Cording)処理部15により可変長符号化を施すことにより更なる高密度圧縮を図ることができる。
【0076】
図17は、図16の1次元並び替え処理部14の処理手順の一例を示すフローチャートである。図17において、量子化された状態の高次元データが1次元並び替え処理部14に入力され(ステップ113)、一次元データに変換されて(ステップ114)1次元データが生成される(ステップ115)。
【0077】
高次元情報の1次元データへの並び替え方式には、ジグザグスキャン、縦スキャン、横スキャンなどのスキャン手法が有る。ジグザグスキャンは量子化データの低周波側から高周波側へと、次元間で原点からの距離が一様になるようにスキャンする手法である。縦スキャンは低周波側から高周波側へと同じ次元内で縦方向にスキャンする手法であり、該当する次元内で縦方向に相関が強い場合に有効である。横スキャンは、低周波側から高周波側へと同じ次元内で横方向にスキャンする手段であり、該当する次元内で横方向に相関が強い場合に有効である。各次元の相関強度により、スキャン方式を次元により切り替えるようにしても良い。
【0078】
N次元情報(I1,I2,…,IN)の1次元への並び替え手法の具体例としては、次の(処理1)〜(処理4)の手順が考えられる。
(処理1) 各N次元情報の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) J=J+1として(処理2)の手順をJ<N+1となるまで繰り返す。
(処理4) M=M+1、J=1として、全ての情報に番号が割り当てられるまで(処理2)の手順を繰り返す。
データ間の距離にはユークリッド距離、ユークリッドの二乗距離、重み付きユークリッド距離などが有る。また、距離の代わりに、直流に近い成分の順に番号を割り当てる手法を適用することもできる。
【0079】
図18は、図16の1次元並び替え処理部14のスキャン手順の一例を示す模式図である。図18には、量子化後のデータがI1、I2、I3、I4の4次元で構成されると仮定し、ユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0080】
図18に関連する1次元への並び替え手法の具体例としては、次の(処理1)〜(処理4)の手順が考えられる。
(処理1) N次元情報(I1,I2,…,IN)の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) M=M+1、J=1として、(処理2)の手順を全てのIJ情報に番号が割り当てられるまで繰り返す。
(処理4) J=J+1として、(処理2)の作業をJ<N+1となるまで繰り返す。
【0081】
図19は、図16の1次元並び替え処理部14のスキャン手順の第2の例を示す模式図である。図19には量子化後のデータがI1、I2、I3、I4の4次元で構成され、各次元の要素数を10と仮定してユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0082】
図18および図19のアルゴリズムを組み合わせたN次元情報(I1,I2,…,IN)の1次元並び替え方式を次の(処理1)〜(処理5)により説明する。
(処理1) N次元情報(I1,I2,…,IN)の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) J=J+1として(処理2)の手順をJ<P+1となるまで繰り返す。
(処理4) M=M+1、J=1として、全ての情報IJ情報に番号が割り当てられるまで(処理2)の手順を繰り返す。
(処理5) J=J+Pとして、(処理2)の作業をJ<N+1となるまで繰り返す。
【0083】
図20は、図16の1次元並び替え処理部14のスキャン手順の第3の例を示す模式図である。図20には、量子化後のデータがI1、I2、I3、I4の4次元で構成され、各次元の要素数を10、P=2と仮定してユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0084】
<第5の符号化方式>
図21は 本発明に係わる画像データ符号化方式の第5の例を示す模式図である。図16と比較すると、図21においては直交変換後のデータに対し1次元並び替え処理を施したのちに量子化を行うようにしている。すなわち図21において、物体特性情報10はブロック生成処理部11によりブロック化されたのち直交変換処理部12により直交変換される。これにより分布が低周波数領域側に集中した状態の高次元データに対して1次元並び替え処理部14により1次元並び替えを行なう。そして、1次元データを量子化処理部13により量子化し、量子化後のデータをVLC処理部15により更に高密度符号化する。
【0085】
図16および図21においてはMaxの量子化ではなく、可変長符号により圧縮率を向上させる例が示される。データへのランダムアクセスが頻繁に行われるシステムでは、Max量子化のような固定長符号を使用すると良い。これに対しランダムアクセスの頻度が比較的少ないシステムでは可変長符号化が有利である。直交変換により可変長符号を用いて低周波数領域側に分布を集中させることが可能であれば、Max量子化を用いる場合と比較して圧縮率を大幅に向上させることができる。
【0086】
可変長符号化処理には、ランレングス符号化、ハフマン符号化、算術符号化など様々な手法が有る。ランレングス符号化は、0ラン長と0でない係数の大きさとの組み合わせからなる符号を作成する手法である。
【0087】
なお、可変長符号化を用いてランダムアクセスを行なうには、各ブロックのサイズを予め記録しておき、各データを可変長で記録媒体に保存すると云った方式も可能である。このような方式では、可変長でDVD(Digital Versatile Disk)などの記録メディアに記録し、1次メモリへの読み出しの際にはブロック転送しつつ可変長を復号し、メモリ上では固定長のデータとして保持すると云った手法も考えられる。
【0088】
<第6の符号化方式>
図22は、本発明に係わる画像データ符号化方式の第6の例を示す模式図である。図22においては、参照画像を利用して符号化する場合の例が示される。図22において、加算器27により物体特性情報10から参照情報取得処理部16から与えられる参照情報が減算され、差分情報が生成される。この差分情報を新たな入力としてブロック生成処理部11に与えてブロック化し、直交変換処理部12により低周波数領域側にデータ分布を集中させることにで量子化処理部13における処理をさらに効率化するようにしている。
【0089】
参照情報としては、或る特定位置の視点および光源における情報を用いる場合や、或る特定の対象内位置、光源位置における情報を用いる場合や、或る特定の視点位置、対象内位置における情報を用いる場合がある。あるいは、或る特定位置の視点における情報を用いる場合、或る特定位置の光源における情報を用いる場合、ある特定の対象内位置における情報を用いる場合など、様々に考えることができる。
【0090】
参照情報として、例えば或る特定の視点位置(θe,φe)、光源位置(θi,φi)における情報を用いる場合、ブロック化前段階において全ての視点位置および光源位置の対象内情報に対して参照情報が減算される。これに対しφ毎に視点位置(θe,φ)、光源位置(θi,φi)における情報を用いる場合、ブロック化前段階で全ての視点位置および光源位置の対象内情報に対して、該当するφ値での参照情報が減算される。参照情報の次元や情報量は様々に考えられる。
【0091】
視点位置(θ0,φ0)、光源位置(θ0,φ0)の画像を参照画像I(θ0,φ0,θ0,φ0)とし、視点(θe,φe)のサンプリング数を36(e:0〜35),光源(θi,φi)のサンプリング数を36(i:0〜35)とすると、参照画像を用いて差分画像Id(θe,φf,θg,φh)を次式(6)のように表現することができる。
【0092】
【数6】
【0093】
この差分画像に対して符号化を施す。符号化時には、差分画像のみを用いてブロック化、直交変換、量子化などの各処理を行なう。参照画像の符号化方式にはブロック化、直交変換、量子化などの各処理により符号化する手法や、参照画像に関しては符号化しない手法などが考えられる。
【0094】
一方、復号処理においては差分画像Id(θe,φf,θg,φh)を復号化する。参照画像I(θ0,φ0,θ0,φ0)が符号化されている場合には参照画像の復号化も併せて行なう。復号化された画像は、差分画像データおよび参照画像データを用いて、次式(7)により表現される。
【0095】
【数7】
【0096】
さらに別の例を挙げる。φ毎に視点位置(θ0,φf)、光源位置(θ0,φ0)における参照画像I(θ0,φf,θ0,φ0)を用いる場合には、視点(θe,φe)のサンプリング数を36(e:0〜35)、光源(θi,φi)のサンプリング数を36(i:0〜35)とすると、参照画像を用いて残りの画像Id(θe,φf,θg,φh)を次式(8)のように表せる。
【0097】
【数8】
この差分画像に対して符号化を施す。
【0098】
<第3の復号化方式>
図23は、本発明に係わる画像データ復号化方式の第3の例を示す模式図である。図23は、図22の方式のもとで符号化された情報を、参照画像を用いて複合するための方式を示す。この場合、図4における1次メモリ60に参照画像を格納し、表示位置に対応する画像を2次メモリ61に読み込んで復号する手法、または、参照画像の全てまたは一部を2次メモリ61から1次メモリ60に予め読み込んだのちに復号化する方法などが考えられる。
【0099】
図23において、復号化すべき視点位置、光源位置、対象内位置を含む位置データ43に基づいて、ブロック選択処理部21により符号化情報20から復号化ブロックが選択される。この選択されたブロックは復号化処理部22により復号化される。また位置データ43は情報選択処理部44および参照情報取得処理部16に与えられる。
【0100】
情報選択処理部44は、位置データ43に対応する復号化情報を復号化ブロックから選択し、加算器27に与える。参照情報取得処理部16は位置データ43に対応する参照情報を参照情報取得処理部から16加算器27に与える。加算器27は選択された復号化ブロックに参照情報を加算し、最終的な復号化データを生成する。
【0101】
図23における復号化処理部22は、差分画像Id(θe,φf,θg,φh)を復号化する。なお参照画像I(θ0,φf,θ0,φ0)が符号化されている場合には、復号化処理部22は参照画像も復号化する。最終的な復号化データは、復号化された差分画像および参照画像を用いて次式(9)のように示される。
【0102】
【数9】
【0103】
図24は、図23に示される画像データ復号化方式の他の例を示す模式図である。図24においては、復号化処理部22により復号化された差分画像に参照情報を加算し、その上で位置データ43に対応する復号化情報を選択することにより復号化データを得るようにしている。
【0104】
<第7の符号化方式>
図25は本発明に係わる画像データ符号化方式の第7の例を示す模式図である。図25には、源情報を関数化により近似したうえで符号化する手法が示される。図25において物体特性情報10は、分離処理部25により光源方向の情報34と視点方向の情報35とに分離される。このうち光源情報34は関数化処理部36により関数化され、その情報を画像信号として取り扱うことにより符号化処理部17で符号化される。
【0105】
このような構成においては、光源位置の変化による特性が画像以外のデータで表現され、全ての特性を画像で表現する場合よりも物体特性情報10のデータサイズおよびデータの次元数を削減することができる。なお視点位置に変化に対しても光源位置と同様に特性を画像以外で現すことも可能である。
【0106】
図26は、図25の関数化処理部36の処理手順の一例を示すフローチャートである。図26において、視点位置の変化による特性、および光源位置の変化による特性を表現する物体特性情報が関数化処理部36に与えられる(ステップ110)。そうすると、関数化処理部36はPTMなどの処理により特性情報を関数化する(ステップ111)。そして、この関数表現されたデータを画像信号として扱い、符号化する(ステップ112)。
【0107】
物体特性情報には、全て非圧縮の画像として扱った場合、光源位置の変化による特性を画像以外で表現した場合、視点位置の変化による特性を画像以外で表現した場合などに応じて種々のデータ形式が考えられる。また、データ形式により物体特性情報のデータサイズやデータの次元数が異なる。全て非圧縮の画像として扱う場合には、物体特性情報は6次元のデータとなる。
【0108】
光源位置の変化による特性を画像以外で表現するためには、特性を多項式などの関数により表現する手法や、光源方向のサンプリング数を減少させて、該当する光源の情報がない場合は近傍光源情報の補間画像により表現する手法などが考えられる。
【0109】
光源位置の変化による特性を多項式などの関数により表現する手法を次に説明する。例えば、下記の6つの光源位置
【数10】
による画素値が既知である場合に、この6個の画素値をHI(I:0〜5)とすると、
【数11】
【0110】
式(11)の連立方程式が生成できる。この連立方程式からA,B,C,D,E,Fを求めることにより、光源位置の変化による特性を2次の多項式の関数で表現することができる。
【0111】
対象とする画像のサイズを256×256画素とし、R:1Byte、G:1Byte、B:1Byteの3ByteでRGBを表現すると、物体特性情報のサイズは、
256×256×(視点方向サンプリング数)×(光源:2次多項式の係数A,B,C,D,E,F)=256×256×3×(36×18)×(6) Byte と表現できる。
【0112】
なお、本発明は上記実施の形態に限定されるものではない。例えば本実施形態では符号化方式として直交変換方式ベクトルや量子化を用いる例を示したが、他の符号化方式を適用することも可能である。また上記実施形態において示した値は一例であり、他の数値を適用することももちろん可能である。このほか、本発明の要旨を逸脱しない範囲で種々に変形して実施することができる。
【0113】
【発明の効果】
以上詳しく述べたように本発明によれば、視点の移動および光源の移動の双方に対応して画像データを物体モデルにマッピングすることが可能となり、従ってより高品位な立体映像を得ることのできる画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の実施形態における物体特性情報に係わるパラメータを示す模式図。
【図2】本発明の実施の形態に係わる物体特性情報を取得するための手段を示す模式図。
【図3】本発明の実施の形態における物体特性情報のデータ構成の一例を示す模式図。
【図4】本発明に係わる復号化装置の一構成例を示す機能ブロック図。
【図5】図4の復号化装置の処理手順の一例を示すフローチャート。
【図6】本発明に係わる画像データ符号化方式の第1の例を示す模式図。
【図7】本発明に係わる画像データ復号化方式の第1の例を示す模式図。
【図8】本発明に係わる画像データ符号化方式の第2の例を示す模式図。
【図9】本発明に係わる画像データ復号化方式の第2の例を示す模式図。
【図10】本発明に係わる画像データ符号化方式の第3の例を示す模式図。
【図11】図10のブロック生成処理部11の処理手順の一例を示すフローチャート。
【図12】図10のブロック生成処理部11の処理手順の他の例を示すフローチャート。
【図13】図10の量子化処理部13の処理手順の一例を示すフローチャート。
【図14】図10の量子化処理部13の処理方式の一例を示す模式図。
【図15】図14の方式により符号化されたデータを複合化するための処理方式の一例を示す模式図。
【図16】本発明に係わる画像データ符号化方式の第4の例を示す模式図。
【図17】図16の1次元並び替え処理部14の処理手順の一例を示すフローチャート。
【図18】図16の1次元並び替え処理部14のスキャン手順の一例を示す模式図。
【図19】図16の1次元並び替え処理部14のスキャン手順の第2の例を示す模式図。
【図20】図16の1次元並び替え処理部14のスキャン手順の第3の例を示す模式図。
【図21】本発明に係わる画像データ符号化方式の第5の例を示す模式図。
【図22】本発明に係わる画像データ符号化方式の第6の例を示す模式図。
【図23】本発明に係わる画像データ復号化方式の第3の例を示す模式図。
【図24】図23に示される画像データ復号化方式の他の例を示す模式図。
【図25】本発明に係わる画像データ符号化方式の第7の例を示す模式図。
【図26】図25の関数化処理部36の処理手順の一例を示すフローチャート。
【符号の説明】
10…物体特性情報、11…ブロック生成処理部、12…直交変換処理部、13…量子化処理部、14…処理部、15…VLC処理部、16…参照情報取得処理部、17…符号化処理部、20…符号化情報、21…ブロック選択処理部、22…復号化処理部、23…輝度成分、24…色差成分、25…分離処理部、27…加算器、30…被写体、31…光源、32…カメラ、33…ドーム構造、34…光源方向情報、35…視点方向情報、36…関数化処理部、43…位置データ、44…情報選択処理部、55…情報選択処理部、56…位置データ、60…1次メモリ、61…2次メモリ、62…演算器、63…記録媒体、64…データ読込処理部、65…データ読込処理部、70…コードブックメモリ、71…マッチング処理部、80…テーブル引き処理部、122…描画位置、173,174…符号化処理部、223,224…復号化処理部
【発明の属する技術分野】
本発明は、3次元コンピュータグラフィクス(以下CGと表記する)分野において、物体モデルにテクスチャデータや画像データなどをマッピングするための画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置に関する。特に本発明は、イメージベースレンダリング技術を用いた画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置に関する。
【0002】
【従来の技術】
3次元CG分野には、あるパターンを繰り返すテクスチャデータ、あるいは実世界から取得した撮影画像データ(以下、画像データと総称する)を、三角形パッチで構成されるポリゴンモデルなどの3次元を構成するモデルの表面に貼り付けるマッピングと呼ばれる手法が有る。一方、光源や視点位置に応じた物体表面の陰影をポリゴン表面の塗りつぶしで表現する手法はシェーディングと称される。シェーディング技法には、ポリゴン内を一様に塗りつぶすフラットシェーディングや、ポリゴン内を頂点輝度値の線形補間で塗るグーローシェーディングなどが有る。マッピングとシェーディングとを組み合わせると、視点や照明位置に応じて陰影の組み合わさったイメージデータを物体モデルに貼り付けることができ、高品位なCG画像を得ることができる。
【0003】
ところが、マッピングで用いられる画像データは特定の照明条件、およびカメラ位置での撮影画像であり、貼り付ける対象である3次元モデルの形状や、描画時の視点、照明位置といった条件が考慮されたものではない。これをそのまま物体モデルに貼り付けると陰影に変化のない単調な描画像となり、現実との違いが目立つことがある。また、シェーディングにおいても基本的には頂点単位の光源計算で輝度が計算され、ポリゴン内部は線形に補間されるために、3次元物体が本来備える細かな表面形状に対応する描画は行われない。
【0004】
実写画像の特性を考慮すると、カメラで撮像された画像を、レンズを通して各ピクセルに入射する光の情報を取得したものとして考えることができる。つまり画像データは、撮像時のカメラ位置、向き、時刻といったパラメータで規定できる光の集合として見做せる。そこで、このような光線情報を再利用することで高品位な画像を生成する技術が登場しており、これはイメージベースレンダリング技術と呼ばれている。
【0005】
イメージベースレンダリングの1手法として、撮像対象を異なる視点や照明条件で撮像した画像データを予め複数用意し、3次元物体のレンダリング時に、これらの画像データを物体表面の法線や視点、および照明位置などの情報に基づき切り替えてマッピングする手法が考えられている。しかしながら、考えられる複数の撮像環境に応じて多数の画像データを用意しておくことは膨大なメモリ容量が必要ということを意味し、何らかの手法により画像データを圧縮/伸張する必要がある。
【0006】
この種の画像データ圧縮/伸張処理に関し、視点移動の観点からアプローチする技術として特許文献1〜3に開示される技術がある。特許文献1には、カメラの配置などからブロックの並び順を決定する多視点画像のブロック化に関する手法が開示される。特許文献2には、時間的相関と空間的相関を利用して動画像データを効率よく符号化する手法が開示される。特許文献3には、参照画像に対して予測、誤差DCT、固定長符号化を用いる手法が開示される。
【0007】
一方、光源移動の観点からアプローチする技術として特許文献4に開示される技術がある。特許文献4には、光源位置の変化による特性を多項式関数により表現することで画像を圧縮する手法が開示される。
【0008】
【特許文献1】
特開平6−113333公報(第8頁、図6)
【0009】
【特許文献2】
特開平8−140090公報(第9頁、図6)
【0010】
【特許文献3】
特開2001−186516公報(第12頁、図6)
【0011】
【特許文献4】
米国特許第US006297834B1号明細書(第2頁、図6)
【0012】
【発明が解決しようとする課題】
上記の公知技術には、画像データの圧縮/伸張処理に関して、視点の移動、または光源の移動のいずれか一方を考慮した技術が開示されているのに留まる。しかも、画像データをリアルタイム処理しつつマッピングデータとして再生することはもとより考慮されていない。近年ではより実画像に近いリアルなCGグラフィックへの要求が高まってきており、何らかの新規な技術の提供が待たれている。
【0013】
本発明は上記事情によりなされたもので、その目的は、視点の移動および光源の移動の双方に対応して画像データを物体モデルにマッピングできるようにし、これにより高品位な立体映像を得ることのできる画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置を提供することにある。
【0014】
【課題を解決するための手段】
上記目的を達成するために本発明に係わる画像データ符号化方式は、コンピュータグラフィクスイメージに表示される物体モデルにマッピングするための画像データを符号化する画像データ符号化方式において、複数の画像データにそれぞれ各画像データの撮影条件(例えば被写体を撮影する際の視点位置座標および光源の位置座標)を対応付けた複数の多次元データを符号化することを特徴とする。
【0015】
このような手段により、複数の画像データに、その視点位置と光源位置とを対応付けた複数のデータが予め用意される。従って予め用意された画像データの中から、CGイメージ中の物体モデルの視点位置および光源位置に対応する画像データを選択することができる。これにより画像データの視点位置と光源位置とを、CGイメージ中の物体モデルの視点位置と光源位置とに合わせてマッピングすることが可能となり、より実画像に近いマッピングを実現することが可能になる。
【0016】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1は、本発明の実施の形態における物体特性情報に係わるパラメータを示す模式図である。本実施形態においては、予め用意されるマッピング用の画像データ(以下物体特性情報と表記する)のそれぞれに、その視点方向および光源方向を対応付ける。視点方向、および光源方向のいずれも球座標系における2つのパラメータで表現することができる。これらの4つのパラメータと、画像データ内の位置を特定するための2次元データとを合わせて、6次元のパラメータで一つの物体特性情報を特定することができる。
【0017】
図1に示されるように撮像対象を原点とする球座標系を用いて視点位置、および光源位置を指定する。視点を無限遠とし、光源を平行光源と仮定すると、視点位置を(θe,φe),光源位置を(θi,φi)と表現することができる。このとき物体特性情報Iを次式(1)のように6次元で定義することができる。
【0018】
【数1】
【0019】
図2は、本実施形態に係わる物体特性情報を取得するための手段を示す模式図である。図2において、符号30は被写体、32は被写体を撮影するカメラ(すなわち視点)、31は被写体を照らす光源を示す。光源31およびカメラ32は、被写体30を中心とするドーム構造33の表面に配置され、被写体30から等距離の範囲内で自由に動くことができる。ドーム構造33の表面を予めメッシュ状に区切り、各メッシュの頂点にカメラ32および光源31を配置すれば、メッシュ頂点の座標を予め調べておくことができることから、効率よく撮像環境データと画像とを取得することができる。このようにして取得された物体特性情報は、ある対象に対して、視点位置の変化による特性と、光源位置の変化による特性とを表現する情報を含むものとなる。
【0020】
図2において撮像位置、光源位置をそれぞれ変えて被写体30を撮影するには、具体的には次のようにする。(A)光源31の位置を固定して、撮像位置をθ、φ方向にサンプリング間隔ずらして撮像を繰り返す。(B)光源31の位置をθ方向、あるいはφ方向にサンプリング間隔ずらす。この(A)、(B)のような処理を繰り返し実施することにより、物体特性情報10を得ることができる。その際、同一の撮像装置の位置および姿勢を変えて撮像を繰り返すか、または、複数の撮像装置を3次元空間内でレイアウトして各撮像装置を同時に撮影しても良い。あるいは各撮像装置の同期をとり、被写体30を連続的に撮影しても良い。
【0021】
カメラ32としては、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)カメラ、あるいはビデオカメラなどを用いることができる。
【0022】
撮像位置を取得するには、GPS(Global Positioning System)などの位置センサ、撮像姿勢の取得には磁気センサ、ジャイロセンサ、あるいは加速度センサなどを利用できる。撮像位置、および姿勢が予め決められている場合には、対応するデータを与えれば良い。
【0023】
図3は、本発明の実施の形態における物体特性情報のデータ構成の一例を示す模式図である。図3に示されるように物体特性情報は、ある照明位置(θi,φi)において、複数の撮影画像が撮像位置(θe,φe)ごとに二次元に配列されるデータ構造を持つ。このような構造が任意の照明位置(θi,φi)に対応付けられ、従って物体特性情報は6次元のデータ構造を持つ。
【0024】
図4は、本発明に係わる復号化装置の一構成例を示す機能ブロック図である。図4において、高次テクスチャを含む物体特性情報を符号化した符号語列は、外部のストレージメディア(以下記録媒体と称する)63に格納される。ここに格納された符号語列の全体、または一部のまとまった単位がデータ読込処理部64により記録媒体63から1次メモリ60に読み込まれる。さらに、ある瞬間の画像マッピングに必要なデータがデータ読込処理部65により2次メモリ61に読み込まれる。
【0025】
その際、CGグラフィクスにおける画面内位置、視点位置および光源位置の各情報から対応する要素を含むブロック符号化情報がブロック選択処理部21により選択され、選択されたブロック符号化情報が1次メモリ60から2次メモリ61に読み込まれる。2次メモリ61に読み込まれたブロック符号化情報は、演算器62の制御のもとで復号化処理部22により復号化され、情報選択処理部55に与えられる。情報選択処理部55は、マッピングに必要となる画面内位置、視点位置および光源位置に対応する位置データ56に基づいて、対応するテクスチャを復号化データから選択する。
【0026】
なお記録媒体63とは、読み出しが可能な半導体記憶装置、磁気記録装置の記録媒体、光磁気記録装置の記録媒体など、ディジタル形式の情報を記録できるものならどのようなものでも良い。具体的には、フロッピーディスク、光ディスク、光磁気ディスク、相変化型ディスク、磁気テープなどを含む。また符号語列をネットワーク上のデータ記録媒体に記録するようにしても良い。
【0027】
上記構成において、或る3次元CG画像を復号するとする。例えば4つのオブジェクトが存在し、それぞれのオブジェクトを同一のテクスチャを用いてマッピングすると仮定する。この場合、記録媒体63にはマッピングに必要となる4つのテクスチャに対する高次テクスチャが圧縮されて記録される。
【0028】
高次テクスチャの生成に関しては、図3において、視点位置の変化に対するサンプリング間隔をΘ,φ共に例えば10度刻みとし、光源位置の変化に対するサンプリング間隔をΘ,φ共に例えば10度刻みとする。1つのテクスチャのサイズを256×256画素とし、色情報としてのRGBをそれぞれR:1Byte、G:1Byte、B:1Byteの3Byteで表現するとする。
【0029】
1テクスチャの高次テクスチャサイズを計算すると、
256×256×(視点方向サンプリング数)×(光源方向サンプリング数)
= 256×256×3×(36×18)×(36×18) Byte
と表現できる。よって4テクスチャでは、
256×256×3×(36×18)×(36×18)×4 Byte
の高次テクスチャ情報が必要となる。
【0030】
符号化時の圧縮率を50%とすると、1次メモリ60には、
256×256×3×(36×18)×(36×18)×4×0.5 Byte
のデータが記憶される。
【0031】
2次メモリ61には描画に必要なブロックが蓄積される。或る3次元CG画像をテクスチャ・マッピングする際には、マッピングすべき画素に対する視点位置、光源位置、および画素位置が一意に定まる。すなわち、マッピングする際の視点、光源、画素位置(θe,φe,θi,φi,u,v)が一意に決まるため、これに該当するテクスチャを含むブロックを1次メモリ60から2次メモリ61に転送する。テクスチャデータが4×4×4×4×4×4の6次元ブロックで符号化されているとすると、
3×0.5×4×4×4×4×4×4 Byte
の圧縮テクスチャブロック成分が2次メモリ61に記憶される。位置(θe,φe,θi,φi,u,v)の後に復号されるテクスチャを含む、例えば、(θe,φe+5,θi,φi,u,v)、(θe,φe,θi+5,φi,u+5,v)、(θe,φe,θi,φi,u+5,v)などを含むブロックをも2次メモリ61に転送することにより、1次メモリ60と2次メモリ61間のデータ転送回数を削減することができる。
【0032】
2次メモリ61に転送されたブロックは、算術論理演算器などを備える復号化処理部22により復号化され、復号化されたテクスチャを用いて3次元CG画像が描画される。復号化処理は符号化処理の逆変換であるので、ここでは逆量子化、逆直交変換などの処理が実施される。
【0033】
マッピングする視点位置、光源位置、および画素位置(θe,φe,θi,φi,u,v)のテクスチャを含む圧縮ブロックは、例えば逆線形量子化(すなわち圧縮データを一様に16倍する処理)、6次元IDCTなどの、符号化の逆変換処理により復号化される。復号化された
3×4×4×4×4×4×4 Byte
のテクスチャデータは、位置(θe,φe,θi,φi,u,v)の近傍位置データを含むため、情報選択処理部55により表示に必要となる画面内位置および視点位置および光源位置に対応する要素を抽出する。これにより最終的な復号化処理が完了する。
【0034】
復号化したブロックを2次メモリ61に保持し、保持されたブロックを位置(θe,φe,θi,φi,u,v)の近傍位置へのマッピングの際に再利用することでヒット率が高められ、これにより復号処理回数を削減して復号処理を効率的に実施することができる。
【0035】
図5は、図4の復号化装置の処理手順の一例を示すフローチャートである。図5においてデータ読込処理部64は、高次テクスチャを符号化した符号語列の全体または一部のまとまった単位を記録媒体63から1次メモリ60に読み込む(ステップ121)。次に、ブロック選択処理部21は、描画位置(すなわち画面内位置、視点位置、および光源位置)122を参照し、これに対応する要素を含むブロックを選択する(ステップ123)。
【0036】
次に、データ読込処理部65は、ステップ123で選択されたブロックを1次メモリ60から2次メモリ61に読み込む(ステップ124)。次に、復号化処理部22は読み込まれたデータを復号化(ステップ125)する。次に、情報選択処理部55は描画位置122を参照し、復号された情報からこの位置に対応する情報を選択的に抽出する(ステップ126)。このような一連の処理を経て、CG画像にマッピングすべき描画要素が複合される(ステップ127)。
【0037】
このように本実施形態では、複数の画像情報に、その視点位置座標と光源位置座標とを対応付けた6次元の物体特性情報を導入し、この物体特性情報をブロック化し、直交変換および量子化したのち符号化した符号化情報をストレージ63に記録する。この情報を1次メモリ60および2次メモリ61を介して復号化処理部22により復号化し、視点位置および光源位置のパラメータに基づき復号情報を選択する。そして、この選択された復号情報を物体モデルにマッピングするようにしている。
【0038】
このように、視点位置と光源位置とにより特定される複数の画像情報を符号化して予め用意するようにしたので、CG画面中における視点位置と光源位置とに対応する画像情報を選択でき、従ってより実画像に近いテクスチャマッピング画像を得ることが可能になる。
【0039】
さらに、1次メモリ60と2次メモリ61とを介して復号化処理を実施し、かつ復号化したブロックを2次メモリ61に保持して保持されたブロックを位置(θe,φe,θi,φi,u,v)の近傍位置へのマッピングの際に再利用するようにしているので、データアクセスに際してのヒット率を高めることができ、これによりリアルタイム処理を実現することが可能になる。
【0040】
<第1の符号化方式>
図6は、本発明に係わる画像データ符号化方式の第1の例を示す模式図である。図6において、視点位置の変化による特性、および光源位置の変化による特性を表現する情報を撮影される対象ごとに対応付けた物体特性情報10は、入力情報に対して符号化処理部17により符号化される。本実施形態においては、視点位置の変化による特性を表現する情報は撮像位置(θe,φe)としての球座標データであり、光源位置の変化による特性を表現する情報は照明位置(θi,φi)としての球座標データである。
【0041】
<第1の復号化方式>
図7は、本発明に係わる画像データ復号化方式の第1の例を示す模式図である。図7において、物体特性情報を符号化したデータとしての符号化情報20から、CG画像中における復号すべき視点位置、光源位置、および対象内位置を含む位置データ43に対応する要素を含む符号化情報が、情報選択処理部55により選択される。復号化処理部22は、この選択された符号化情報を復号化し、画像生成に必要なデータを作成する。
【0042】
<第2の符号化方式>
図8は、本発明に係わる画像データ符号化方式の第2の例を示す模式図である。図8において、物体特性情報10は分離処理部25により輝度成分23と色差成分24とに分離される。分離された輝度成分と色差成分とは、それぞれ符号化処理部173,174により各成分に適した方式のもとで符号化される。
【0043】
<第2の復号化方式>
図9は、本発明に係わる画像データ復号化方式の第2の例を示す模式図である。図9において、符号化情報20は輝度成分と色差成分とに分離された状態で記録媒体に記憶される。情報選択処理部55は、複合すべき位置データ56に対応する要素を含む符号化情報を、符号化情報20から輝度成分23、色差成分24ごとに選択する。選択された輝度成分23と色差成分24とは、それぞれ復号化処理部223,224により復号化される。
【0044】
<第3の符号化方式>
図10は本発明に係わる画像データ符号化方式の第3の例を示す模式図である。この例では、ブロック化による符号化方式につき説明する。図10において、物体特性情報10はブロック生成処理部11によりブロック化され、次いで直交変換処理部12によりDCT(Discrete Cosine Transform)などの直行変換処理が施される。画像データの性質から直交変換後のデータ分布は低周波数領域側に集中し、これにより量子化処理部13における量子化を効果的に実施できる。
【0045】
次に、本実施形態における直交変換処理および量子化処理につき説明する。
図10の直交変換処理部12は、ブロック生成処理部11から与えられる各ブロックに対して直交変換処理を行なう。直交変換の手法にはDCTのほか、WAVELET、アダマールなど様々な手法が有るが、どの直交変換手法においても、画像データを直交変換したデータの分布は低周波数領域側に集中することが知られている。
【0046】
このような性質を利用して本方式では、下記の手法により高能率符号化を行う。すなわちこの符号化方式では、物体特性情報のデータ形式を全て画像データとして取り扱い、6次元の全てをまとめて直交変換するようにする。
【0047】
量子化の手法としては線形量子化、非線形量子化などが有る。線形量子化は、例えば、データを一様に16で割るといった量子化である。非線形量子化としては、Max量子化などが有る。
【0048】
このような手法をハードウェアで実現する際には、復号処理に際して或る視点位置、光源位置の符号化されたデータを復号する必要がある。符号化されたデータにメモリ上でランダムにアクセスするためには、符号化されたデータは可変長よりも固定長の方が好ましい。そこでMax量子化器などを用いて固定長に量子化することにより、復号時のメモリのランダムアクセスにも比較的容易に対応することができる。
【0049】
次に、ブロック化処理の詳細につき説明する。
6次元の物体特性情報
I(θe,φe,θi,φi,u,v)
が与えられた場合、このデータに対して各次元の4近傍を1つのブロックとして取り扱うとすると、次式(2)に示される4096要素から構成される4×4×4×4×4×4の6次元ブロックが生成される。
【0050】
【数2】
【0051】
例えば視点位置を(θe,φe)、そのサンプリング数を36(e:0〜35)、光源位置を(θi,φi)、そのサンプリング数を36(i:0〜35)、画像位置を(u,v)、そのサンプリング数64(u,v:0〜63)とすると、4×4×4×4×4×4の6次元ブロックが9×9×9×9×16×16=26,873,856個、生成される。
【0052】
これらの6次元ブロックは、ブロック単位に符号化される。ブロック構造には、近傍または相関度の強いの対象内位置、視点、光源における情報の集合を1つのブロックとする構造がある。または、対象内位置、視点、光源における情報の対称性を利用して1つのブロックとする構造などが考えられる。
【0053】
例えば、物体特性情報のデータ形式を全て画像として4つの近傍を1つのブロックとして扱う場合には、4×4×4×4×4×4の6次元ブロックが生成される。物体特性情報の相関強度により、4×4×2×2×4×8のように均一でないブロックを生成する場合や、2×2×4×8のように低次元のブロックを生成する場合も考えられる。
【0054】
均一でないブロック生成の具体例としては、光源位置φi方向に対する相関が強いと仮定すると、以下の構成要素により、
I(θe−x,φe−x,θi−x,φy,u−x,v−x)
x : 1〜3,θ方向視点サンプリング数36
y : 0〜35,φ方向視点サンプリング数36
このように、4×4×4×36×4×4のブロックを構成する方法が考えられる。
【0055】
図11は、図10のブロック生成処理部11の処理手順の一例を示すフローチャートである。このフローチャートは、相関の強度を利用するブロック化処理を示す。
【0056】
図11において、位置(θe,φf,θi,φj,u,v)近傍の相関係数が計算される(ステップ93)。このステップで得られた結果と閾値とを比較し(ステップ94)、例えばその絶対値が0.7以上の場合は、該当する範囲を含めるようにブロック化するようにする(ステップ95)。
【0057】
例えばYを0〜3まで変化させた場合に、(θe,φf−y,θi,φj,u,v)と(θe−6,φf−y,θi,φy,u,v)とにおける相関係数が0.7、(θe,φf,θi−y,φj,u,v)と(θe,φf,θi−y,φj−6,u,v)との相関係数が−0.8である場合、視点θi方向、および光源φi方向に対して相関が強いことになる。よって以下の構成要素により、
I(θe−y,φf−x,θi−x,φj−y,u−x,v−x)
x : 1〜3,θ方向視点サンプリング数36
y : 1〜7,φ方向視点サンプリング数36
として8×4×4×8×4×4のブロックを構成するようにすると良い。
【0058】
なお、相関係数を求めるにはPearsonの相関係数などの様々な相関係数算出手法を用いることができ、評価値も様々に適用することができる。また、ブロック構成の選択手法としては、4×4×4×4×4×4、4×4×2×2×4×8、8×8×8×8×8×8のといった様々なブロック構成を仮定して符号化、復号化を実施し、得られた結果に基づいて最適なブロック構成を選択するようにしても良い。
【0059】
図12は、図10のブロック生成処理部11の処理手順の他の例を示すフローチャートである。ここでは対称性を利用するブロック化手法につき説明する。
被写体の特性に線対称、点対称などの対称性がある場合には、これを利用し、この符号化方式では対称性のある範囲を1つのブロックとする。図12において、まず対称性を仮定し(ステップ90)、次にこの仮定が正しいかどうかを判定したのち(ステップ91)その判定結果に基づいてブロック化を行なう(ステップ92)。
【0060】
ステップ91においては、まず物体特性情報内の対称性を探索する。被写体の特徴として、物体特性情報が面対称の特性を持つ可能性の高いことが経験的に知られているとする。この場合、あるサンプリング間隔毎の面に対して、例えば10度刻みの視点位置θに対して面対称だと仮定し、各視点位置θごとに面対称であるか否かを調査する。その結果、視点位置θeに対して面対称な画像であるとすると、
【数3】
【0061】
上記(3)に示される構成要素を同一のブロックに多く含ませてブロック化することによりブロック内の相関を強くでき、効率的なブロック化を実施することができる。なお、対称性が見つからなかった場合には、対称性を用いないブロック生成を行なう。
【0062】
図13は、図10の量子化処理部13の処理手順の一例を示すフローチャートである。ここでは、統計情報に基づいたビット割当方式を説明する。すなわち、統計情報を利用した量子化方法を説明する。画像データ信号を直交変換すると低周波数領域側に分布が集中することが知られており、この符号化方式ではこのような性質を利用して高能率符号化を行なう。
【0063】
図13の手順においては、大きく分けて1次符号化(ステップ100)と2次符号化(ステップ105)の2段階の処理を実施する。1次符号化では、各符号語のエネルギーを計算する。すなわち、直交変換後の全ブロックを符号化し、各符号語に対してそれぞれエネルギーの割合を計算する。
【0064】
2次符号化では、1次符号化で計算された各符号語のエネルギーと、符号化の圧縮率とに基づいて各符号語に割り当てるビット数を算出し、その値に基づきMax量子化を行う。すなわち、符号化の圧縮率を指定し(ステップ102)、各符号語のエネルギーの割合から各符号語に割り当てるべきビット数を決定する(ステップ103)。そして、このステップで割り当てられたビット数に応じて各符号語のMax量子化を行なう(ステップ104)。
【0065】
本方式ではMax量子化を有効に実施するため、通常の符号化処理に相当する2次符号化ステップに加え、1次符号化ステップにより符号語のエネルギーを予め算出するようにしている。このようにすることで、ビット数を符号語のエネルギーに応じて効率良く割り当てることが可能となる。なお1次符号化ステップを経ずに、2次符号化ステップにおいて、その時点までに符号化された符号語のエネルギーから各符号語のエネルギーを予測するようにしても良い。
【0066】
1次符号化ステップ100につき具体的に説明する。
物体特性情報のデータ形式を全て画像として4近傍を1つのブロックとし、4×4×4×4×4×4の6次元ブロックを生成する場合を考える。6次元ブロックの符号化時に直交変換処理を施すと、ブロック内の符号語C(I,j,k,l,m,n)が得られる(但し、I,j,k,l,m,n:0〜3)。そこで各符号語の全符号語Cに対するエネルギーの割合P(I,j,k,l,m,n)を次式(4)により計算することができる。
【0067】
【数4】
【0068】
上記P(I,j,k,l,m,n)を全ての6次元ブロックに対して計算し、P(I,j,k,l,m,n)の平均値Pa(I,j,k,l,m,n)を符号語C(I,j,k,l,m,n)のエネルギーとする。
【0069】
2次符号化ステップ105では、目標圧縮率D、Pa(I,j,k,l,m,n)、初期割当ビット数E、各符号語に割り当てるビット数A(I,j,k,l,m,n)を次のようにして算出する。
(処理1)ビット数を割り当てられていない符号語のうち、最大のエネルギーP(I,j,k,l,m,n)を持つ符号語を探索する。
(処理2) 次式(5)により符号語(I,j,k,l,m,n)の割当ビット数を算出する。
【数5】
(処理3) 符号語(I,j,k,l,m,n)に対し、(処理2)で算出されたビット数でMax量子化を行なう。
(処理4) 全ての符号語につきビット割り当て場完了するまで処理1〜処理3を繰り返す。
【0070】
上記の例では、P(I,j,k,l,m,n)の平均値Pa(I,j,k,l,m,n)を符号語C(I,j,k,l,m,n)のエネルギーと考え、異なるブロックにおいても同一のビット数を割り当てるようにする。なおこれに代えて、ブロック毎に符号語のエネルギーCb(I,j,k,l,m,n)(b:全ブロック)を算出し、その結果をもとにブロック毎に異なるビット数を割り当てることも可能である。
【0071】
図14は図10の量子化処理部13の処理方式の一例を示す模式図である。図14においては、物体特性情報10をベクトル量子化により符号化する例が示される。物体特性情報10はブロック単位にまとめられる。各ブロックは例えば同じ視点位置および光源位置の画像を4×4のブロックに区切ったもの(すなわち16次元ベクトル)や、同じ視点位置および光源位置の画像を2×2のブロックに区切ったものをRGBごとにまとめたもの(すなわち12次元ベクトル)などが考えられる。画像情報はRGBの間にも互いに相関を持つため、同位置の画素のRGBをまとめてベクトル化することにより圧縮率をさらに高めることができる。
【0072】
図14において、ベクトル量子化で使用されるコードブックは符号化ブロックと同じ次元のベクトルの集合として作成され、予めコードブックメモリ70に記憶される。マッチング処理部71は、ブロック化された符号化対象とコードブックに含まれる各コードベクトルとを比較し、比較誤差の最も小さいコードベクトルのインデックスを出力する。このインデックスが符号化対象ブロックの符号化結果となる。またこの方式では、符号化処理に際して使用したコードブックを符号化対象全体に対する符号化情報として蓄積し、次段の処理に伝達する。
【0073】
図15は、図14の方式により符号化されたデータを複合化するための処理方式の一例を示す模式図である。14の符号化方式でベクトル量子化を用いているため、復号化方式においてもこれに対応する。図15において、符号化情報20はコードブックとインデックスとに分けられる。コードブックはコードブックメモリ70に格納される。
【0074】
図15において、同じ視点位置、光源位置の画像内の位置パラメータu,v、視点位置θe、φe、光源位置θi、φiにより規定される、復号化すべき情報位置のインデックスが符号化情報20から取得される。このインデックスに基づきテーブル引き処理部80によりコードブックがテーブル引きされ、対応するテクスチャのコードベクトルが読み出される。読み出されたコードベクトルはテクスチャメモリ(図示せず)などに記憶され、必要なテクスチャの全てがメモリに書き込まれるまでこの処理が繰り返される。
【0075】
<第4の符号化方式>
図16は、本発明に係わる画像データ符号化方式の第4の例を示す模式図である。図16において図10と共通する部分には同じ符号を付し、ここでは異なる部分につき説明する。量子化処理部13により量子化された物体特性情報10は、1次元並び替え処理部14により高次元の状態から一次元データへと変換される。さらにVLC(Variable Length Cording)処理部15により可変長符号化を施すことにより更なる高密度圧縮を図ることができる。
【0076】
図17は、図16の1次元並び替え処理部14の処理手順の一例を示すフローチャートである。図17において、量子化された状態の高次元データが1次元並び替え処理部14に入力され(ステップ113)、一次元データに変換されて(ステップ114)1次元データが生成される(ステップ115)。
【0077】
高次元情報の1次元データへの並び替え方式には、ジグザグスキャン、縦スキャン、横スキャンなどのスキャン手法が有る。ジグザグスキャンは量子化データの低周波側から高周波側へと、次元間で原点からの距離が一様になるようにスキャンする手法である。縦スキャンは低周波側から高周波側へと同じ次元内で縦方向にスキャンする手法であり、該当する次元内で縦方向に相関が強い場合に有効である。横スキャンは、低周波側から高周波側へと同じ次元内で横方向にスキャンする手段であり、該当する次元内で横方向に相関が強い場合に有効である。各次元の相関強度により、スキャン方式を次元により切り替えるようにしても良い。
【0078】
N次元情報(I1,I2,…,IN)の1次元への並び替え手法の具体例としては、次の(処理1)〜(処理4)の手順が考えられる。
(処理1) 各N次元情報の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) J=J+1として(処理2)の手順をJ<N+1となるまで繰り返す。
(処理4) M=M+1、J=1として、全ての情報に番号が割り当てられるまで(処理2)の手順を繰り返す。
データ間の距離にはユークリッド距離、ユークリッドの二乗距離、重み付きユークリッド距離などが有る。また、距離の代わりに、直流に近い成分の順に番号を割り当てる手法を適用することもできる。
【0079】
図18は、図16の1次元並び替え処理部14のスキャン手順の一例を示す模式図である。図18には、量子化後のデータがI1、I2、I3、I4の4次元で構成されると仮定し、ユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0080】
図18に関連する1次元への並び替え手法の具体例としては、次の(処理1)〜(処理4)の手順が考えられる。
(処理1) N次元情報(I1,I2,…,IN)の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) M=M+1、J=1として、(処理2)の手順を全てのIJ情報に番号が割り当てられるまで繰り返す。
(処理4) J=J+1として、(処理2)の作業をJ<N+1となるまで繰り返す。
【0081】
図19は、図16の1次元並び替え処理部14のスキャン手順の第2の例を示す模式図である。図19には量子化後のデータがI1、I2、I3、I4の4次元で構成され、各次元の要素数を10と仮定してユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0082】
図18および図19のアルゴリズムを組み合わせたN次元情報(I1,I2,…,IN)の1次元並び替え方式を次の(処理1)〜(処理5)により説明する。
(処理1) N次元情報(I1,I2,…,IN)の始点を同じにして、この始点に番号0を割り当てる。ここでM=0、J=1とする。
(処理2) 1次元情報IJに対し、始点からの距離がM+1の点に対して番号NM+Jを割り当てる。
(処理3) J=J+1として(処理2)の手順をJ<P+1となるまで繰り返す。
(処理4) M=M+1、J=1として、全ての情報IJ情報に番号が割り当てられるまで(処理2)の手順を繰り返す。
(処理5) J=J+Pとして、(処理2)の作業をJ<N+1となるまで繰り返す。
【0083】
図20は、図16の1次元並び替え処理部14のスキャン手順の第3の例を示す模式図である。図20には、量子化後のデータがI1、I2、I3、I4の4次元で構成され、各次元の要素数を10、P=2と仮定してユークリッド距離を用いて1次元並び替えを実施する場合が示される。
【0084】
<第5の符号化方式>
図21は 本発明に係わる画像データ符号化方式の第5の例を示す模式図である。図16と比較すると、図21においては直交変換後のデータに対し1次元並び替え処理を施したのちに量子化を行うようにしている。すなわち図21において、物体特性情報10はブロック生成処理部11によりブロック化されたのち直交変換処理部12により直交変換される。これにより分布が低周波数領域側に集中した状態の高次元データに対して1次元並び替え処理部14により1次元並び替えを行なう。そして、1次元データを量子化処理部13により量子化し、量子化後のデータをVLC処理部15により更に高密度符号化する。
【0085】
図16および図21においてはMaxの量子化ではなく、可変長符号により圧縮率を向上させる例が示される。データへのランダムアクセスが頻繁に行われるシステムでは、Max量子化のような固定長符号を使用すると良い。これに対しランダムアクセスの頻度が比較的少ないシステムでは可変長符号化が有利である。直交変換により可変長符号を用いて低周波数領域側に分布を集中させることが可能であれば、Max量子化を用いる場合と比較して圧縮率を大幅に向上させることができる。
【0086】
可変長符号化処理には、ランレングス符号化、ハフマン符号化、算術符号化など様々な手法が有る。ランレングス符号化は、0ラン長と0でない係数の大きさとの組み合わせからなる符号を作成する手法である。
【0087】
なお、可変長符号化を用いてランダムアクセスを行なうには、各ブロックのサイズを予め記録しておき、各データを可変長で記録媒体に保存すると云った方式も可能である。このような方式では、可変長でDVD(Digital Versatile Disk)などの記録メディアに記録し、1次メモリへの読み出しの際にはブロック転送しつつ可変長を復号し、メモリ上では固定長のデータとして保持すると云った手法も考えられる。
【0088】
<第6の符号化方式>
図22は、本発明に係わる画像データ符号化方式の第6の例を示す模式図である。図22においては、参照画像を利用して符号化する場合の例が示される。図22において、加算器27により物体特性情報10から参照情報取得処理部16から与えられる参照情報が減算され、差分情報が生成される。この差分情報を新たな入力としてブロック生成処理部11に与えてブロック化し、直交変換処理部12により低周波数領域側にデータ分布を集中させることにで量子化処理部13における処理をさらに効率化するようにしている。
【0089】
参照情報としては、或る特定位置の視点および光源における情報を用いる場合や、或る特定の対象内位置、光源位置における情報を用いる場合や、或る特定の視点位置、対象内位置における情報を用いる場合がある。あるいは、或る特定位置の視点における情報を用いる場合、或る特定位置の光源における情報を用いる場合、ある特定の対象内位置における情報を用いる場合など、様々に考えることができる。
【0090】
参照情報として、例えば或る特定の視点位置(θe,φe)、光源位置(θi,φi)における情報を用いる場合、ブロック化前段階において全ての視点位置および光源位置の対象内情報に対して参照情報が減算される。これに対しφ毎に視点位置(θe,φ)、光源位置(θi,φi)における情報を用いる場合、ブロック化前段階で全ての視点位置および光源位置の対象内情報に対して、該当するφ値での参照情報が減算される。参照情報の次元や情報量は様々に考えられる。
【0091】
視点位置(θ0,φ0)、光源位置(θ0,φ0)の画像を参照画像I(θ0,φ0,θ0,φ0)とし、視点(θe,φe)のサンプリング数を36(e:0〜35),光源(θi,φi)のサンプリング数を36(i:0〜35)とすると、参照画像を用いて差分画像Id(θe,φf,θg,φh)を次式(6)のように表現することができる。
【0092】
【数6】
【0093】
この差分画像に対して符号化を施す。符号化時には、差分画像のみを用いてブロック化、直交変換、量子化などの各処理を行なう。参照画像の符号化方式にはブロック化、直交変換、量子化などの各処理により符号化する手法や、参照画像に関しては符号化しない手法などが考えられる。
【0094】
一方、復号処理においては差分画像Id(θe,φf,θg,φh)を復号化する。参照画像I(θ0,φ0,θ0,φ0)が符号化されている場合には参照画像の復号化も併せて行なう。復号化された画像は、差分画像データおよび参照画像データを用いて、次式(7)により表現される。
【0095】
【数7】
【0096】
さらに別の例を挙げる。φ毎に視点位置(θ0,φf)、光源位置(θ0,φ0)における参照画像I(θ0,φf,θ0,φ0)を用いる場合には、視点(θe,φe)のサンプリング数を36(e:0〜35)、光源(θi,φi)のサンプリング数を36(i:0〜35)とすると、参照画像を用いて残りの画像Id(θe,φf,θg,φh)を次式(8)のように表せる。
【0097】
【数8】
この差分画像に対して符号化を施す。
【0098】
<第3の復号化方式>
図23は、本発明に係わる画像データ復号化方式の第3の例を示す模式図である。図23は、図22の方式のもとで符号化された情報を、参照画像を用いて複合するための方式を示す。この場合、図4における1次メモリ60に参照画像を格納し、表示位置に対応する画像を2次メモリ61に読み込んで復号する手法、または、参照画像の全てまたは一部を2次メモリ61から1次メモリ60に予め読み込んだのちに復号化する方法などが考えられる。
【0099】
図23において、復号化すべき視点位置、光源位置、対象内位置を含む位置データ43に基づいて、ブロック選択処理部21により符号化情報20から復号化ブロックが選択される。この選択されたブロックは復号化処理部22により復号化される。また位置データ43は情報選択処理部44および参照情報取得処理部16に与えられる。
【0100】
情報選択処理部44は、位置データ43に対応する復号化情報を復号化ブロックから選択し、加算器27に与える。参照情報取得処理部16は位置データ43に対応する参照情報を参照情報取得処理部から16加算器27に与える。加算器27は選択された復号化ブロックに参照情報を加算し、最終的な復号化データを生成する。
【0101】
図23における復号化処理部22は、差分画像Id(θe,φf,θg,φh)を復号化する。なお参照画像I(θ0,φf,θ0,φ0)が符号化されている場合には、復号化処理部22は参照画像も復号化する。最終的な復号化データは、復号化された差分画像および参照画像を用いて次式(9)のように示される。
【0102】
【数9】
【0103】
図24は、図23に示される画像データ復号化方式の他の例を示す模式図である。図24においては、復号化処理部22により復号化された差分画像に参照情報を加算し、その上で位置データ43に対応する復号化情報を選択することにより復号化データを得るようにしている。
【0104】
<第7の符号化方式>
図25は本発明に係わる画像データ符号化方式の第7の例を示す模式図である。図25には、源情報を関数化により近似したうえで符号化する手法が示される。図25において物体特性情報10は、分離処理部25により光源方向の情報34と視点方向の情報35とに分離される。このうち光源情報34は関数化処理部36により関数化され、その情報を画像信号として取り扱うことにより符号化処理部17で符号化される。
【0105】
このような構成においては、光源位置の変化による特性が画像以外のデータで表現され、全ての特性を画像で表現する場合よりも物体特性情報10のデータサイズおよびデータの次元数を削減することができる。なお視点位置に変化に対しても光源位置と同様に特性を画像以外で現すことも可能である。
【0106】
図26は、図25の関数化処理部36の処理手順の一例を示すフローチャートである。図26において、視点位置の変化による特性、および光源位置の変化による特性を表現する物体特性情報が関数化処理部36に与えられる(ステップ110)。そうすると、関数化処理部36はPTMなどの処理により特性情報を関数化する(ステップ111)。そして、この関数表現されたデータを画像信号として扱い、符号化する(ステップ112)。
【0107】
物体特性情報には、全て非圧縮の画像として扱った場合、光源位置の変化による特性を画像以外で表現した場合、視点位置の変化による特性を画像以外で表現した場合などに応じて種々のデータ形式が考えられる。また、データ形式により物体特性情報のデータサイズやデータの次元数が異なる。全て非圧縮の画像として扱う場合には、物体特性情報は6次元のデータとなる。
【0108】
光源位置の変化による特性を画像以外で表現するためには、特性を多項式などの関数により表現する手法や、光源方向のサンプリング数を減少させて、該当する光源の情報がない場合は近傍光源情報の補間画像により表現する手法などが考えられる。
【0109】
光源位置の変化による特性を多項式などの関数により表現する手法を次に説明する。例えば、下記の6つの光源位置
【数10】
による画素値が既知である場合に、この6個の画素値をHI(I:0〜5)とすると、
【数11】
【0110】
式(11)の連立方程式が生成できる。この連立方程式からA,B,C,D,E,Fを求めることにより、光源位置の変化による特性を2次の多項式の関数で表現することができる。
【0111】
対象とする画像のサイズを256×256画素とし、R:1Byte、G:1Byte、B:1Byteの3ByteでRGBを表現すると、物体特性情報のサイズは、
256×256×(視点方向サンプリング数)×(光源:2次多項式の係数A,B,C,D,E,F)=256×256×3×(36×18)×(6) Byte と表現できる。
【0112】
なお、本発明は上記実施の形態に限定されるものではない。例えば本実施形態では符号化方式として直交変換方式ベクトルや量子化を用いる例を示したが、他の符号化方式を適用することも可能である。また上記実施形態において示した値は一例であり、他の数値を適用することももちろん可能である。このほか、本発明の要旨を逸脱しない範囲で種々に変形して実施することができる。
【0113】
【発明の効果】
以上詳しく述べたように本発明によれば、視点の移動および光源の移動の双方に対応して画像データを物体モデルにマッピングすることが可能となり、従ってより高品位な立体映像を得ることのできる画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の実施形態における物体特性情報に係わるパラメータを示す模式図。
【図2】本発明の実施の形態に係わる物体特性情報を取得するための手段を示す模式図。
【図3】本発明の実施の形態における物体特性情報のデータ構成の一例を示す模式図。
【図4】本発明に係わる復号化装置の一構成例を示す機能ブロック図。
【図5】図4の復号化装置の処理手順の一例を示すフローチャート。
【図6】本発明に係わる画像データ符号化方式の第1の例を示す模式図。
【図7】本発明に係わる画像データ復号化方式の第1の例を示す模式図。
【図8】本発明に係わる画像データ符号化方式の第2の例を示す模式図。
【図9】本発明に係わる画像データ復号化方式の第2の例を示す模式図。
【図10】本発明に係わる画像データ符号化方式の第3の例を示す模式図。
【図11】図10のブロック生成処理部11の処理手順の一例を示すフローチャート。
【図12】図10のブロック生成処理部11の処理手順の他の例を示すフローチャート。
【図13】図10の量子化処理部13の処理手順の一例を示すフローチャート。
【図14】図10の量子化処理部13の処理方式の一例を示す模式図。
【図15】図14の方式により符号化されたデータを複合化するための処理方式の一例を示す模式図。
【図16】本発明に係わる画像データ符号化方式の第4の例を示す模式図。
【図17】図16の1次元並び替え処理部14の処理手順の一例を示すフローチャート。
【図18】図16の1次元並び替え処理部14のスキャン手順の一例を示す模式図。
【図19】図16の1次元並び替え処理部14のスキャン手順の第2の例を示す模式図。
【図20】図16の1次元並び替え処理部14のスキャン手順の第3の例を示す模式図。
【図21】本発明に係わる画像データ符号化方式の第5の例を示す模式図。
【図22】本発明に係わる画像データ符号化方式の第6の例を示す模式図。
【図23】本発明に係わる画像データ復号化方式の第3の例を示す模式図。
【図24】図23に示される画像データ復号化方式の他の例を示す模式図。
【図25】本発明に係わる画像データ符号化方式の第7の例を示す模式図。
【図26】図25の関数化処理部36の処理手順の一例を示すフローチャート。
【符号の説明】
10…物体特性情報、11…ブロック生成処理部、12…直交変換処理部、13…量子化処理部、14…処理部、15…VLC処理部、16…参照情報取得処理部、17…符号化処理部、20…符号化情報、21…ブロック選択処理部、22…復号化処理部、23…輝度成分、24…色差成分、25…分離処理部、27…加算器、30…被写体、31…光源、32…カメラ、33…ドーム構造、34…光源方向情報、35…視点方向情報、36…関数化処理部、43…位置データ、44…情報選択処理部、55…情報選択処理部、56…位置データ、60…1次メモリ、61…2次メモリ、62…演算器、63…記録媒体、64…データ読込処理部、65…データ読込処理部、70…コードブックメモリ、71…マッチング処理部、80…テーブル引き処理部、122…描画位置、173,174…符号化処理部、223,224…復号化処理部
Claims (19)
- コンピュータグラフィクスイメージに表示される物体モデルにマッピングするための画像データを符号化する画像データ符号化方式において、
複数の画像データにそれぞれ各画像データの撮影条件を対応付けた複数の多次元データを符号化することを特徴とする画像データ符号化方式。 - 前記多次元データは、前記複数の画像データに各画像データが撮影された際の視点位置と光源位置とを対応付けたデータであることを特徴とする請求項1に記載の画像データ符号化方式。
- 互いに撮影条件の異なる複数の画像データごとに前記複数の多次元データをブロック化し、このブロック化された多次元データをブロック単位で符号化することを特徴とする請求項1に記載の画像データ符号化方式。
- 前記複数の画像データごとの撮影条件の互いの相関度に応じて前記複数の多次元データをブロック化することを特徴とする請求項3に記載の画像データ符号化方式。
- 前記複数の画像データに含まれる被写体が対称性を持つ場合に、この対称性に応じて前記複数の多次元データをブロック化することを特徴とする請求項3に記載の画像データ符号化方式。
- 前記複数の多次元データを、各多次元データに含まれる画像データの輝度成分と色差成分とごとに分離して個別に符号化することを特徴とする請求項1に記載の画像データ符号化方式。
- 前記複数の多次元データを直交変換して符号語列を生成し、この符号語列に生じるビット割合の統計的データから各符号語列に割り当てるビット数を決定し、その結果に基づき前記符号語列を量子化することを特徴とする請求項1に記載の画像データ符号化方式。
- 前記複数の多次元データを符号化することにより得られる高次元データを一次元データに変換することを特徴とする請求項1に記載の画像データ符号化方式。
- 予め用意される参照データと前記複数の多次元データごとの差分データを生成して、この差分データを符号化することを特徴とする請求項1に記載の画像データ符号化方式。
- 前記複数の多次元データに含まれる画像データの撮影条件に対して当該複数の多次元データを関数化し、この関数化された複数の多次元データを符号化することを特徴とする請求項1に記載の画像データ符号化方式。
- 前記複数の多次元データを、この多次元データと同じ次元を持つ複数のコードベクトルに基づきベクトル量子化して符号化することを特徴とする請求項1に記載の画像データ符号化方式。
- 複数の画像データにそれぞれ各画像データの撮影条件を対応付けた複数の多次元データを符号化して生成される符号化データを復号化して、コンピュータグラフィクスイメージに表示される物体モデルにマッピングするための画像データを生成する画像データ復号化方式であって、
前記符号化データから、前記物体モデルにマッピングすべき条件に応じた撮影条件に対応する画像データを復号化することを特徴とする画像データ復号化方式。 - 前記多次元データが、前記複数の画像データに各画像データが撮影された際の視点位置と光源位置とを対応付けたデータである場合に、前記コンピュータグラフィクスイメージ内における前記物体モデルに対する視点位置と光源位置とに対応する画像データを前記符号化データから復号化することを特徴とする請求項12に記載の画像データ復号化方式。
- 前記符号化データが、互いに撮影条件の異なる複数の画像データごとに前記複数の多次元データをブロック化し、このブロック化された多次元データをブロック単位で符号化したデータである場合に、
前記物体モデルにマッピングすべき条件に応じた撮影条件に対応するブロックを前記符号化データから選択し、この選択されたブロックを復号化することを特徴とする請求項12に記載の画像データ復号化方式。 - 前記符号化データが、前記複数の多次元データを各多次元データに含まれる画像データの輝度成分と色差成分とごとに分離して個別に符号化したデータである場合に、
前記符号化データから、前記物体モデルにマッピングすべき条件に応じた撮影条件に対応する画像データの輝度成分と色差成分とを選択し、この選択された輝度成分と色差成分とを復号化することを特徴とする請求項12に記載の画像データ復号化方式。 - 前記符号化データが、前記複数の多次元データをこの多次元データと同じ次元を持つ複数のコードベクトルに基づきベクトル量子化したデータである場合に、
前記物体モデルにマッピングすべき条件に応じた撮影条件に対応するコードベクトルを前記複数のコードベクトルをデータベース化したコードブックからテーブル引きして復号化することを特徴とする請求項12に記載の画像データ復号化方式。 - コンピュータグラフィクスイメージに表示される物体モデルにマッピングするための画像データを符号化データから復号化する画像データ復号化装置において、
複数の画像データにそれぞれ各画像データの撮影条件を対応付けた複数の多次元データを符号化した符号化データを記憶する記憶手段と、
この記憶手段から前記符号化データを読み出して復号化する復号化手段と、
この復号化手段により復号化された画像データから前記物体モデルにマッピングすべき画像データを与えられた条件に応じて選択する選択手段とを具備することを特徴とする画像データ復号化装置。 - 前記符号化データは、前記複数の画像データに各画像データが撮影された際の視点位置と光源位置とを対応付けたデータを符号化したデータであり、
前記選択手段は、前記コンピュータグラフィクスイメージ内における前記物体モデルに対する視点位置と光源位置とに対応する画像データを前記復号化手段により復号化された画像データから選択することを特徴とする請求項17に記載の画像データ復号化装置。 - 前記符号化データは予めブロック化されて記録媒体に記録され、
前記記憶手段は、
前記記録媒体に記録された符号化データの少なくとも一部を前記記録媒体から取得して記憶する1次記憶手段と、
前記コンピュータグラフィクスイメージ内における前記物体モデルに対する視点位置と光源位置とに対応する符号化データを前記1次記憶手段からブロック単位で取得して記憶する2次記憶手段とを備え、
前記復号化手段は、前記2次記憶手段から前記符号化データを読み出してブロック単位で復号化し、
前記選択手段は、前記復号化手段により復号化された画像データから前記コンピュータグラフィクスイメージ内における前記物体モデルに対する視点位置と光源位置とに対応するブロックの画像データを選択することを特徴とする請求項18に記載の画像データ復号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003024155A JP2004234476A (ja) | 2003-01-31 | 2003-01-31 | 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003024155A JP2004234476A (ja) | 2003-01-31 | 2003-01-31 | 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004234476A true JP2004234476A (ja) | 2004-08-19 |
Family
ID=32952766
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003024155A Abandoned JP2004234476A (ja) | 2003-01-31 | 2003-01-31 | 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004234476A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007219715A (ja) * | 2006-02-15 | 2007-08-30 | Dainippon Printing Co Ltd | 物体の反射特性データの作成方法および作成装置 |
WO2012035691A1 (ja) * | 2010-09-13 | 2012-03-22 | 株式会社ソニー・コンピュータエンタテインメント | 画像処理装置、画像処理方法、動画像ファイルのデータ構造、データ圧縮装置、データ復号装置、データ圧縮方法、データ復号方法、および圧縮動画像ファイルのデータ構造 |
JP2012060611A (ja) * | 2010-09-13 | 2012-03-22 | Sony Computer Entertainment Inc | 画像処理装置、画像処理方法、および動画像ファイルのデータ構造 |
JP2014164500A (ja) * | 2013-02-25 | 2014-09-08 | Nippon Telegr & Teleph Corp <Ntt> | 画像合成装置、画像合成方法及び画像合成プログラム |
CN113342526A (zh) * | 2021-06-09 | 2021-09-03 | 河南工业职业技术学院 | 云计算移动网络资源动态管控方法、系统、终端及介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03187576A (ja) * | 1989-12-18 | 1991-08-15 | Nippon Telegr & Teleph Corp <Ntt> | 複数画像復号化装置 |
JPH0713497A (ja) * | 1993-06-14 | 1995-01-17 | Atr Tsushin Syst Kenkyusho:Kk | 画像表示装置 |
JPH10271511A (ja) * | 1997-01-22 | 1998-10-09 | Matsushita Electric Ind Co Ltd | 画像符号化装置と画像復号化装置 |
JPH11234638A (ja) * | 1998-02-16 | 1999-08-27 | Canon Inc | 画像符号化装置及び方法並びに記憶媒体 |
JP2000348213A (ja) * | 1999-06-07 | 2000-12-15 | Sanyo Electric Co Ltd | 三次元画像生成装置、三次元画像生成表示装置、及びその方法並びに記録媒体 |
JP2001186516A (ja) * | 1999-12-22 | 2001-07-06 | Mixed Reality Systems Laboratory Inc | 画像データの符号化復号化方法及び装置 |
-
2003
- 2003-01-31 JP JP2003024155A patent/JP2004234476A/ja not_active Abandoned
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03187576A (ja) * | 1989-12-18 | 1991-08-15 | Nippon Telegr & Teleph Corp <Ntt> | 複数画像復号化装置 |
JPH0713497A (ja) * | 1993-06-14 | 1995-01-17 | Atr Tsushin Syst Kenkyusho:Kk | 画像表示装置 |
JPH10271511A (ja) * | 1997-01-22 | 1998-10-09 | Matsushita Electric Ind Co Ltd | 画像符号化装置と画像復号化装置 |
JPH11234638A (ja) * | 1998-02-16 | 1999-08-27 | Canon Inc | 画像符号化装置及び方法並びに記憶媒体 |
JP2000348213A (ja) * | 1999-06-07 | 2000-12-15 | Sanyo Electric Co Ltd | 三次元画像生成装置、三次元画像生成表示装置、及びその方法並びに記録媒体 |
JP2001186516A (ja) * | 1999-12-22 | 2001-07-06 | Mixed Reality Systems Laboratory Inc | 画像データの符号化復号化方法及び装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007219715A (ja) * | 2006-02-15 | 2007-08-30 | Dainippon Printing Co Ltd | 物体の反射特性データの作成方法および作成装置 |
WO2012035691A1 (ja) * | 2010-09-13 | 2012-03-22 | 株式会社ソニー・コンピュータエンタテインメント | 画像処理装置、画像処理方法、動画像ファイルのデータ構造、データ圧縮装置、データ復号装置、データ圧縮方法、データ復号方法、および圧縮動画像ファイルのデータ構造 |
JP2012060611A (ja) * | 2010-09-13 | 2012-03-22 | Sony Computer Entertainment Inc | 画像処理装置、画像処理方法、および動画像ファイルのデータ構造 |
US9218640B2 (en) | 2010-09-13 | 2015-12-22 | Sony Corporation | Image processing device for displaying moving image and image processing method thereof |
US9607357B2 (en) | 2010-09-13 | 2017-03-28 | Sony Corporation | Image processing device for displaying moving image and image processing method thereof |
JP2014164500A (ja) * | 2013-02-25 | 2014-09-08 | Nippon Telegr & Teleph Corp <Ntt> | 画像合成装置、画像合成方法及び画像合成プログラム |
CN113342526A (zh) * | 2021-06-09 | 2021-09-03 | 河南工业职业技术学院 | 云计算移动网络资源动态管控方法、系统、终端及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10528004B2 (en) | Methods and apparatus for full parallax light field display systems | |
CN113873261B (zh) | 图像数据编码/解码方法和装置 | |
JP4572010B2 (ja) | マスクおよび丸め平均値を使用したオブジェクトベースの符号化システムのためのスプライト生成に関する方法 | |
US9635345B2 (en) | Method and system for acquisition, representation, compression, and transmission of three-dimensional data | |
US11425363B2 (en) | System and method for generating light field images | |
He et al. | Best-effort projection based attribute compression for 3D point cloud | |
Jeong et al. | Towards 3dof+ 360 video streaming system for immersive media | |
US11601488B2 (en) | Device and method for transmitting point cloud data, device and method for processing point cloud data | |
JP2022522729A (ja) | ポイントクラウド圧縮のための量子化ステップパラメータ | |
JP3592168B2 (ja) | 画像データの符号化復号化方法及び装置 | |
JP4220182B2 (ja) | 高次元テクスチャ描画装置、高次元テクスチャ圧縮装置、高次元テクスチャ描画システム、高次元テクスチャ描画方法並びにプログラム | |
US20230262208A1 (en) | System and method for generating light field images | |
JP5473903B2 (ja) | 画像を処理する方法およびシステム | |
JP2004234476A (ja) | 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置 | |
JP4964827B2 (ja) | 多視点距離情報符号化方法,復号方法,符号化装置,復号装置,符号化プログラム,復号プログラムおよびコンピュータ読み取り可能な記録媒体 | |
Borman et al. | Image sequence processing | |
JPH11353453A (ja) | 画像情報圧縮方法及びその画像情報圧縮システム | |
JP3863023B2 (ja) | テクスチャ生成装置、テクスチャマッピング装置、テクスチャ生成方法、テクスチャマッピング方法、テクスチャ生成プログラム、及び、テクスチャマッピングプログラム | |
JP4364729B2 (ja) | 画像データ圧縮/伸張方法および画像処理装置 | |
KR20230119694A (ko) | 온라인 시청을 위한 실시간 압축해제를 위해 볼류메트릭3차원 장면을 나타내는 데이터를 압축하기 위한 방법 및 디바이스 | |
CN114245130A (zh) | 用历史点预测信息表复用点矢量的数据编解码方法及装置 | |
WO2000058911A9 (en) | Advance memory reduction system for image processing systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040609 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070130 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20070221 |