JP2011087278A - 画像処理方法および画像処理装置 - Google Patents

画像処理方法および画像処理装置 Download PDF

Info

Publication number
JP2011087278A
JP2011087278A JP2010090153A JP2010090153A JP2011087278A JP 2011087278 A JP2011087278 A JP 2011087278A JP 2010090153 A JP2010090153 A JP 2010090153A JP 2010090153 A JP2010090153 A JP 2010090153A JP 2011087278 A JP2011087278 A JP 2011087278A
Authority
JP
Japan
Prior art keywords
texture
image
value
rendered
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010090153A
Other languages
English (en)
Other versions
JP5573316B2 (ja
Inventor
Yasuhiro Furuta
泰大 古田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2010090153A priority Critical patent/JP5573316B2/ja
Priority to US12/778,988 priority patent/US8542932B2/en
Priority to CN2010101785951A priority patent/CN101887594B/zh
Publication of JP2011087278A publication Critical patent/JP2011087278A/ja
Application granted granted Critical
Publication of JP5573316B2 publication Critical patent/JP5573316B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Image Generation (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

【課題】3次元モデルのレンダリングに関するデータを効率良く管理する。
【解決手段】 コンピューター20は、予め作成した所定パターンのテクスチャーを3次元モデルに貼り付けてレンダリングし、ビットマップ画像として得られたレンダリング済み画像を解析することによりレンダリング済み画像の座標(x,y)とテクスチャーの座標(Xt(x,y),Yt(x,y))との対応関係やゲインGc,t(x,y),バイアスBc,t(x,y)を設定する。そして、バイアスBc,t(x,y)のうちテクスチャー領域を抜き出し、テクスチャー領域用バイアスEc,t(x,y)については可逆圧縮により圧縮し、非テクスチャー領域用バイアスFc,t(x, y)についてはテクスチャー領域内の空白画素を境界付近で階調値が徐々に変化するよう補完した上でJPEG圧縮により圧縮する。
【選択図】図4

Description

本発明は、テクスチャーを貼り付けてレンダリングする際に用いられる画像データを処理する画像処理方法および画像処理装置に関する。
従来、この種の画像処理方法としては、リアルタイムで3次元モデルをレンダリングしてディスプレイに表示するものや(例えば、特許文献1参照)、3次元モデルを予めレンダリングしてビットマップ画像を作成して保存しておきディスプレイの表示はビットマップ画像を読み込んで行なうものなどが提案されている。
特開平07−152925号公報
前者の手法では、画面の表示周期よりも短い周期でレンダリング処理を行なう必要があるため、高い演算能力が要求される。したがって、用いるコンピューターによっては、演算能力に不足が生じ、レイトレーシングなどの高品質のレンダリングは行なうことができない。一方、後者の手法では、ビットマップ画像を表示するだけであるから、予め高品質のレンダリングを行なってビットマップ画像を作成しておくことにより、高品質の画像を表示することができるものの、現状では後から異なるテクスチャーに差し替えて使用することはできない。また、こうした画像データはサイズも大きく、搭載するメモリの容量によっては効率的に管理することも求められる。
本発明の画像処理方法および画像処理装置は、3次元モデルのレンダリング画像を効率良く管理することを主目的とする。
本発明の画像処理方法および画像処理装置は、上述の主目的を達成するために以下の手段を採った。
本発明の画像処理方法は、
テクスチャーを貼り付けてレンダリングする際に用いられる画像描画情報を処理する画像処理方法であって、前記画像描画情報が示すレンダリング済み画像の座標系において前記テクスチャーが貼り付けられるテクスチャー領域と該テクスチャーが貼り付けられない非テクスチャー領域とを分離し、前記非テクスチャー領域の前記画像描画情報を第1の圧縮方式により圧縮し、前記テクスチャー領域の前記画像描画情報を前記第1の圧縮方式とは異なる第2の圧縮方式により圧縮することを特徴とする。この構成により、3次元モデルのレンダリング画像を効率良く管理することができる。
また、非テクスチャー領域の境界から徐々に画素値が変化するよう所定の補完処理により非テクスチャー領域以外の部分の画素を補完すると共に該補完した後の画像描画情報を第1の圧縮方式であるJPEG圧縮方式により圧縮し、テクスチャー領域の画像描画情報を第2の圧縮方式である可逆圧縮方式により圧縮することもできる。これにより、画像データ全体として圧縮率を高めながら画質の向上を図ることができる。
こうした本発明の画像処理方法において、前記所定の補完処理は、前記非テクスチャー領域以外の領域を隣接画素の平均画素値で埋めることにより補完する処理であるものとすることもできる。
また、本発明の画像処理方法において、前記所定の補完処理は、前記画像描画情報を所定サイズの複数の単位ブロックにより構成して、該複数の単位ブロックのうち前記非テクスチャー領域の一部が含まれるブロックに対しては前記非テクスチャー領域以外の領域を隣接画素の平均画素値で埋めることにより補完し、前記非テクスチャー領域が含まれないブロックに対しては前記単位ブロックの全画素を隣接ブロック内の各画素の平均画素値で埋めることにより補完する処理であるものとすることもできる。こうすれば、簡易な処理により圧縮率を高めることができる。
さらに、本発明の画像処理方法において、座標毎に異なる階調値が設定された所定パターンをテクスチャーとして3次元モデルに貼り付けてレンダリングし、該レンダリングによりビットマップ画像として得られたレンダリング済み画像を解析することによりレンダリング済み画像の座標とテクスチャーの座標との対応関係を設定して画像描画情報として保存し、所望のテクスチャーを画像として表示する際には、前記保存した画像描画情報に基づいて前記レンダリング済み画像中に前記所望のテクスチャーを配置して表示するものとすることもできる。こうすれば、3次元モデルをレンダリングした画像を所望のテクスチャーを差し替えて表示することができると共にリアルタイムで3次元モデルをレンダリングして表示するものに比して処理負担を少なくすることができる。ここで、画像の表示には、画像をフレーム単位で描画して動画像として表示するものが含まれる。この態様の本発明の画像処理方法において、前記レンダリング済み画像の各座標の階調値から対応する前記所定パターンの座標を特定することにより前記対応関係を導出するものとすることもできる。この態様の本発明の画像処理方法において、前記所定パターンは、テクスチャーの座標を2進数で表現したときのビット数と同数のパターンであって、各パターンには座標を2進数で表現したときの各ビットが対応づけられるとともに、各パターンの各座標の階調値は当該対応づけられたビットの値に応じた値に設定されているものとすることもできる。こうすれば、対応関係をより正確に設定することができる。この場合、前記2進数は、グレイコード(交番2進数)であるものとすることもできる。こうすれば、隣接する座標に移行する際に常に1ビットの変化しか生じないから、画像の階調値の誤差に起因して誤ったデータが取得されてしまうのを抑制することができる。これらの態様の本発明の画像処理方法において、前記所定パターンとして前記対応関係を設定するための対応関係設定用パターンに加えてさらに最小階調値でベタ塗りしてなる第1ベタ塗りパターンを前記3次元モデルに貼り付けてレンダリングし、前記レンダリング済み画像における前記第1ベタ塗りパターンの階調値であるバイアス値をレンダリング済み画像の画素ごとの色とテクスチャーの画素ごとの色との対応関係を示す前記画像描画情報として保存し、前記保存したバイアス値に基づいて前記所望のテクスチャーの階調値をオフセットすることにより前記レンダリング済み画像の階調値に変換して表示するものとすることもできる。こうすれば、3次元モデルのレンダリングによる効果のうち元のテクスチャーに依存しないものを反映させることができる。この場合、前記非テクスチャー領域の境界から徐々に画素値が変化するよう所定の補完処理により前記非テクスチャー領域以外の部分の画素を補完すると共に該補完した後の前記バイアス値を前記第1の圧縮方式である前記JPEG圧縮方式により圧縮し、前記テクスチャー領域のバイアス値を前記第2の圧縮方式である前記可逆圧縮方式により圧縮するものとすることもできる。さらに、これらの態様の本発明の画像処理方法において、前記所定パターンとして前記対応関係を設定するための対応関係設定用パターンに加えてさらに最小階調値でベタ塗りしてなる第1ベタ塗りパターンと最大階調値でベタ塗りしてなる第2ベタ塗りパターンとを前記3次元モデルに貼り付けてそれぞれレンダリングし、前記レンダリング済み画像における前記第2ベタ塗りパターンの階調値と前記第1ベタ塗りパターンの階調値との偏差であるゲインを算出してレンダリング済み画像の画素ごとの色とテクスチャーの画素ごとの色との対応関係を示す前記画像描画情報として保存し、前記保存したゲインに基づいて前記所望のテクスチャーの階調値を前記レンダリング済み画像の階調値に変換して表示するものとすることもできる。こうすれば、3次元モデルのレンダリングによる効果のうち元のテクスチャーの階調値に影響を受けるものを反映させることができる。この場合、前記レンダリング済み画像にn枚(nは自然数)のテクスチャーを配置して表示する場合には、(n−1)枚の前記第1ベタ塗りパターンと1枚の前記第2ベタ塗りパターンとからなるセットをn個設定するとともに各セット毎に前記3次元モデルに前記第2ベタ塗りパターンを貼り付ける箇所が異なる第1のセット群と、n枚の前記第1ベタ塗りパターンからなる第2のセットとをそれぞれセット毎に前記3次元モデルに貼り付けてレンダリングし、前記第1のセット群を各セット毎にレンダリングすることにより得られる各レンダリング済み画像の階調値と前記第2のセットをレンダリングすることにより得られるレンダリング済み画像の階調値とを前記第1のセット群の各セット毎に比較することにより、前記3次元モデルにテクスチャーが貼り付けられた領域であるテクスチャー領域を特定し、該特定したテクスチャー領域に対して前記ゲインを算出するものとすることもできる。こうすれば、テクスチャー領域をより容易に特定することができる。なお、テクスチャーおよびレンダリング済み画像が複数の色成分(例えば3色)によって構成される場合、各色成分について第1のセット群を3次元モデルに貼り付けてレンダリングし、各色成分についてゲインを算出すればよい。
本発明の画像処理装置は、
テクスチャーを貼り付けてレンダリングする際に用いられる画像描画情報を処理する画像処理装置であって、前記画像描画情報が示すレンダリング済み画像の座標系において前記テクスチャーが貼り付けられるテクスチャー領域と該テクスチャーが貼り付けられない非テクスチャー領域とを分離する分離手段と、前記非テクスチャー領域の前記画像描画情報を第1の圧縮方式により圧縮する第1の圧縮手段と、前記テクスチャー領域の前記画像描画情報を前記第1の圧縮方式とは異なる第2の圧縮方式により圧縮する第2の圧縮手段とを備えることを要旨とする。
この本発明の画像処理装置では、テクスチャーとレンダリング済み画像との対応関係を示す画像描画情報の領域ごとに圧縮方式を選択することができ、3次元モデルのレンダリング画像を効率良く管理することができる。
特殊テクスチャーを説明する説明図。 特殊テクスチャーを説明する説明図。 非テクスチャー領域およびテクスチャー領域の説明図。 画像処理方法に用いるコンピューター20の構成の概略を示す構成図。 特殊テクスチャー生成処理の一例を示すフローチャート。 特殊テクスチャーの一例を示す説明図。 セット毎に特殊テクスチャーをレンダリングする様子を示す説明図。 レンダリング済み画像解析処理の一例を示すフローチャート。 バイアスBc,t(x,y)とゲインGc,t(x,y)を説明する説明図。 圧縮処理の一例を示すフローチャート。 補完処理の一例を示すフローチャート。 空白画素の補完の様子を示す説明図。 3つの差し替え用テクスチャーを示す説明図。 差し替え用テクスチャーのスライドショー表示の一例を示す説明図。 変形例の特殊テクスチャーを示す説明図。 変形例の特殊テクスチャーを用いてレンダリングする様子を示す説明図。 変形例の特殊テクスチャーを示す説明図。
次に、本発明の一実施形態の概略を説明する。
本発明の一実施形態は、仮想的な3次元の構造体に対して2次元のテクスチャーを貼り付け、貼り付け後の3次元の構造体を所定方向から眺めた状態を示す2次元の画像(以下、レンダリング済み画像と呼ぶ)を生成するレンダリング処理に関連した技術である。すなわち、本発明の一実施形態は、該レンダリング処理を行う際に扱う画像データを効率よく管理する圧縮方式を提供するための形態であり、当該圧縮方式は、レンダリング処理によって、テクスチャーが貼り付けられるテクスチャー領域と該テクスチャーが貼り付けられない領域とが併存するレンダリング済み画像が生成される場合に適用される。
本実施形態においては、少ないリソースで上述のレンダリング処理を実施可能にするため、3次元モデルにテクスチャーが貼り付けられた後のレンダリング済み画像を比較して、テクスチャーからレンダリング済み画像を生成するための係数を画像描画情報として予め定義しておく構成としてある。
この係数は、任意のテクスチャーの画素の位置とレンダリング済み画像の画素の位置との対応関係および、各画素間での色の変化を規定した数式であり、以下の工程を経て算出される。
(A)貼り付けられるテクスチャーの特定
(B)レンダリング処理が輝度に与える影響の特定
(C)画素の位置の対応関係の特定
これらの工程は、任意のテクスチャーではなく、上述の係数を特定するために生成された所定パターンのテクスチャー(以下、特殊テクスチャーと呼ぶ)を利用して実施される。なお、特殊テクスチャーの大きさ(縦横の画素数)は、上述の2次元のテクスチャーと同数に設定される。以下、該(A)〜(C)の概略を説明する。
(A)貼り付けられるテクスチャーの特定
図1Aは、レンダリング処理の概要を説明するための図である。本実施形態におけるレンダリング処理では、n枚(nは自然数)の2次元のテクスチャーを仮想的な3次元の構造体の各面に貼り付けたことを想定し、テクスチャーが貼り付けられた状態で当該3次元の構造体を所定方向から眺めた2次元の画像をレンダリング済み画像とする。従って、レンダリング済み画像においては、3次元の構造体の向きに応じて最大n枚のテクスチャーが視認される状態になる。同図1Aにおいては、仮想的な直方体Rに対して2次元のテクスチャーT1〜T6を貼り付けた場合のレンダリング済み画像をI0として示しており、6枚のテクスチャーT1〜T6のうち、3枚のテクスチャーT1〜T3が視認される例を示している。なお、同図1Aの例においては、仮想的な直方体Rが台上に置かれたことを想定しており、台上には直方体Rの影Sが形成されている。
このようなレンダリング処理は、3次元の構造体の特定の面に特定のテクスチャーを貼り付けることによって実現されるため、レンダリング済み画像のある座標には必ず一つのテクスチャーが対応し、複数のテクスチャーが対応することはない。すなわち、レンダリング済み画像の座標とテクスチャーの座標とは一対一の関係にある。そこで、本実施形態においては、特定の一枚のみを白、該特定の一枚以外を黒としたn枚の特殊テクスチャーを生成し、さらに、n枚の全てを黒とした特殊テクスチャーを生成し、レンダリング済み画像を比較することによって上述の特定の一枚である白い特殊テクスチャーが対応するレンダリング済み画像の位置を特定する。なお、ここでは、白の特殊テクスチャーが第2ベタ塗りパターンに相当し、黒の特殊テクスチャーが第1ベタ塗りパターンに相当する。
図1B〜図1Dは、右側に示す6個の矩形にて、図1Aに示すテクスチャーT1〜T6の替わりに貼り付けられる特殊テクスチャーの例を示しており、図1Bにおいては、テクスチャーT1に相当する特殊テクスチャーのみが白、テクスチャーT2〜T6に相当する特殊テクスチャーが黒である例を示している。また、図1Cは、テクスチャーT1〜T6に相当する特殊テクスチャーが黒である例を示している。そして、以上の図1Bおよび図1Cに示す特殊テクスチャーに基づくレンダリング処理によって生成されたレンダリング済み画像をそれぞれI1,I2として示している。
本実施形態においては、以上のようにして生成されたレンダリング済み画像I1,I2を比較することによって第2ベタ塗りパターンの特殊テクスチャーに対応するレンダリング済み画像の位置を特定する。すなわち、レンダリング済み画像の画素ごとにレンダリング済み画像I1,I2の輝度を比較すると、第2ベタ塗りパターンの特殊テクスチャーが貼り付けられた画素においては輝度に差異が生じるが、第1ベタ塗りパターンの特殊テクスチャーが貼り付けられた画素に差異は生じない。そこで、例えば、レンダリング済み画像I1の輝度がレンダリング済み画像I2の輝度よりも大きいか否かを判定する処理を各画素について行えば、レンダリング済み画像I1の輝度がレンダリング済み画像I2の輝度よりも大きいと判定された画素については、第2ベタ塗りパターンの特殊テクスチャーが貼り付けられたと判定することができる。
すなわち、図1Bに示すように、テクスチャーT1を第2ベタ塗りパターンの特殊テクスチャーとしてレンダリング処理を行った場合のレンダリング済み画像I1と、図1Cに示すように、全てのテクスチャーを第1ベタ塗りパターンの特殊テクスチャーとしてレンダリング処理を行った場合のレンダリング済み画像I2とを比較することによって、テクスチャーT1が対応するレンダリング済み画像の位置が特定される。同様に、図1Dに示すように、テクスチャーT2を第2ベタ塗りパターンの特殊テクスチャーとしてレンダリング処理を行った場合のレンダリング済み画像I3とレンダリング済み画像I2とを比較することによって、テクスチャーT2が対応するレンダリング済み画像の位置が特定される。従って、n枚のテクスチャーのいずれか一枚を白、他を黒とした特殊テクスチャーをレンダリングしたレンダリング済み画像のそれぞれについて以上の処理を行えば、レンダリング済み画像においてn枚のテクスチャーが貼り付けられる位置が特定される。
(B)レンダリング処理が輝度に与える影響の特定
次に、レンダリング済み画像の各画素について、レンダリング処理が輝度に与える影響を特定する。図1Aに示すような、レンダリング処理は、各テクスチャーT1〜T6を仮想的な3次元の構造体に貼り付けた後に、仮想的な位置に設定された光源からの光や当該3次元の構造体の形状に起因する陰影等に所定の影響を受けるとみなしてレンダリング済み画像の輝度値を特定する。従って、当該所定の影響は、レンダリング済み画像の画素ごとに規定することができる。さらに、本実施形態においては、レンダリング済み画像の画素ごとの輝度値が、テクスチャーT1〜T6に依存しない定数成分(以下、バイアスBと呼ぶ)とテクスチャーT1〜T6の輝度に比例する比例成分(以下、ゲインGと呼ぶ)との和によって規定されるとみなす。
そこで、レンダリング済み画像の画素ごとにバイアスBとゲインGとを特定すれば、レンダリング処理が輝度に与える影響を特定することができる。この影響は、図1Cに示すような、n枚のテクスチャーを全て第1ベタ塗りパターンの特殊テクスチャーに取り替えてレンダリング処理を行ったレンダリング済み画像I2と図1B,図1Dに示すようなn枚のテクスチャーの特定の一枚を第2ベタ塗りパターンの特殊テクスチャー、他を第1ベタ塗りパターンの特殊テクスチャーに取り替えてレンダリング処理を行ったレンダリング済み画像I1,I3等を利用して特定することができる。
すなわち、図1Cに示すレンダリング済み画像I2は、n枚の全てが第1ベタ塗りパターンの特殊テクスチャーであり、当該第1ベタ塗りパターンの特殊テクスチャーを仮想的な3次元の構造体に貼り付けて生成したレンダリング済み画像の各画素において有意な輝度値(0より大きい輝度値)となるのであれば、当該輝度値は元のテクスチャーの影響を受けることなく有意な値となっていることが分かる。そこで、第1ベタ塗りパターンの特殊テクスチャーを仮想的な3次元の構造体に貼り付けて生成したレンダリング済み画像の各画素における輝度値をバイアスBとして定義することができる。
一方、第2ベタ塗りパターンの特殊テクスチャーが貼り付けられた部分に相当するレンダリング済み画像の各画素における輝度値からバイアスBを減じれば、ゲインGを特定することができる。そこで、第2ベタ塗りパターンの特殊テクスチャーが貼り付けられた位置に対応したレンダリング済み画像の各画素からバイアスBを減じることによって各画素のゲインGを特定する。
(C)画素の位置の対応関係の特定
次に、レンダリング前後の画素の位置の対応関係を特定する。すなわち、テクスチャーの各画素の位置と、レンダリング済み画像の各画素の位置との対応関係が特定される。当該対応関係の特定は、特殊テクスチャーをレンダリングしたレンダリング済み画像に基づいて、当該レンダリング済み画像の座標(x,y)とテクスチャーの座標(X,Y)とを対応づけることによって実施される。但し、本実施形態において当該対応関係の特定は、x座標とX座標との対応関係を特定し、y座標とY座標との対応関係を特定する処理を行うことによって実施され、前者および後者のそれぞれを行うための特殊テクスチャー(対応関係設定用パターン)が生成される。
図2A〜図2Cは、x座標とX座標との対応関係を特定するために生成される特殊テクスチャーの例を示す図である。これらの図においては、横方向の画素の位置をX座標、x座標が規定し、縦方向の画素の位置をY座標、y座標が規定する座標系を採用している。また、ここでは、X座標、Y座標ともに値域が1〜8のテクスチャーを想定しているため、特殊テクスチャーもX座標、Y座標ともに値域が1〜8である。図2Aには、特殊テクスチャーの一つにおいてX座標の値を矢印で示している。また、x座標とX座標との対応関係を特定するために生成される特殊テクスチャーは、n枚のテクスチャーの全てについて同じパターンである。例えば、図2Aに示す例は図1Aに示すように6枚のテクスチャーT1〜T6を仮想的な3次元の構造体に貼り付ける場合に生成される特殊テクスチャーの例を示している。当該図2Aに示す例において、6枚のテクスチャーT1〜T6の替わりとされる特殊テクスチャーのパターンは全て同一である。
但し、x座標とX座標との対応関係を特定するために生成される特殊テクスチャーにおいては、X座標のビット数と同数のパターンが生成される。例えば、図2A〜図2Cに示す例においては、X座標の値域が1〜8であって3ビットであるため、3種類の特殊テクスチャーが生成される。すなわち、図2A,2B,2Cのそれぞれにおいて特殊テクスチャーのパターンは異なるパターンであるが、図2Aに示す特殊テクスチャー同士で比較するとn枚の特殊テクスチャーのパターンは同一である。
さらに、本実施形態においては、3種類の特殊テクスチャーから同じX座標値の輝度を順に抽出して得られる輝度の順列が全てのX座標値において異なるように、当該3種類の特殊テクスチャーのパターンが設定されている。例えば、X座標値1の輝度を図2A,2B,2Cの順に抽出して得られる順列は(黒、黒、黒)であり、X座標値2の輝度を図2A,2B,2Cの順に抽出して得られる順列は(白、黒、黒)である。このように、全てのX座標値についての順列が全て異なるように特殊テクスチャーのパターンが設定されていると、これら3種類の特殊テクスチャーをレンダリング処理した後の3種類のレンダリング済み画像の各座標における輝度値に基づいて、元の特殊テクスチャーのX座標値を特定することができる。例えば、3種類のレンダリング済み画像の各座標における輝度値を順に参照することによって元の特殊テクスチャーの輝度の順列を特定すれば、レンダリング済み画像の各座標に対応する特殊テクスチャーのX座標値を特定することができる。
より具体的には、図2A〜図2Cに示す例において、レンダリング済み画像I4,I5,I6の位置P1の輝度値を順に抽出して特定される元の特殊テクスチャーの輝度の順列は(黒、黒、黒)である。この順列は元の特殊テクスチャーのX座標値1の輝度に対応しており、他のX座標値の輝度がこの順列に対応することはない。従って、この順列が抽出されたレンダリング済み画像の位置P1には、特殊テクスチャーのX座標値1の画像が貼り付けられていると特定することができる。
そこで、本実施形態においては、特殊テクスチャーのX座標のビット数と同数のパターンの特殊テクスチャーを各n枚生成してレンダリング処理を行い、上述の(A)によってn枚のテクスチャーのいずれかが貼り付けられることが特定されたレンダリング済み画像の各位置の輝度値を順に抽出する。そして、抽出された順列に基づいて元の特殊テクスチャーのX座標値を特定することにより、x座標とX座標との対応関係を特定する構成としている。
このようなx座標とX座標との対応関係は、例えば、X座標値をグレイコードで表現することによって特定する構成が好ましい。図2A〜図2Cに示す特殊テクスチャーのパターンは、グレイコードを用いてx座標とX座標との対応関係を特定する際に利用されるパターンである。すなわち、これらの例においては、グレイコードを用いてx座標とX座標との対応関係を特定するために、X座標値をグレイコードで表現した場合の最下位のビットの値が0の場合を黒、1の場合を白として図2Aに示すパターンを生成している。同様に、X座標値をグレイコードで表現した場合の最下位よりも一つ上位のビット(中位ビットと呼ぶ)の値が0の場合を黒、1の場合を白として図2Bに示すパターンを生成し、最上位のビットの値が0の場合を黒、1の場合を白として図2Cに示すパターンを生成している。すなわち、図2Aに示す特殊テクスチャーのパターンはX座標値をグレイコードで表現した場合の最下位のビット値に基づいて決定され、図2B,図2Cに示す特殊テクスチャーのパターンはX座標値をグレイコードで表現した場合の中位ビット、最上位のビット値に基づいて決定される。すなわち、図2A〜図2Cに示す例においては、ビット数3と同数のパターンが形成され、かつ、図2A,2B,2Cのそれぞれには最下位ビット、中位ビット、最上位ビットが対応づけられている。
図2Dは、当該パターンの生成を説明する図である。同図2Dに示すように、X座標値1を示すグレイコードは(000)であり、最下位ビットが0、中位ビットが0、最上位ビットが0である。従って、図2Aに示す特殊テクスチャーのX座標値1の輝度は黒、図2Bに示す特殊テクスチャーのX座標値1の輝度は黒、図2Cに示す特殊テクスチャーのX座標値1の輝度は黒となる。同様に、X座標値2を示すグレイコードは(001)であり、最下位ビットが1、中位ビットが0、最上位ビットが0である。従って、図2Aに示す特殊テクスチャーのX座標値2の輝度は白、図2Bに示す特殊テクスチャーのX座標値2の輝度は黒、図2Cに示す特殊テクスチャーのX座標値2の輝度は黒となる。同様の処理をX座標値3〜8まで続けることにより、図2A〜図2Cのパターンが生成される。
このようにグレイコードによって複数の種類の特殊テクスチャーのパターンを決定しておけば、当該複数の種類の特殊テクスチャーから生成したレンダリング済み画像の各座標の輝度値から特定される元の特殊テクスチャーの輝度によって、元の特殊テクスチャーのX座標値をグレイコードで表現した値を決定することができる。ここで、レンダリング済み画像の各座標の輝度値から特定される元の特殊テクスチャーの輝度は、例えば、レンダリング済み画像の輝度値から上述のバイアスBを減じた値がゲインGの1/2より大きいか否かを判定することによって特定することができる。すなわち、元の特殊テクスチャーが黒の場合、レンダリング済み画像の輝度値から上述のバイアスBを減じた値はほぼ0になり、元の特殊テクスチャーが白の場合、レンダリング済み画像の輝度値から上述のバイアスBを減じた値はほぼゲインGと同値になる。従って、レンダリング済み画像の各位置の輝度値から各位置のバイアスBを減じた値が各位置のゲインGの1/2より大きければ元の特殊テクスチャーが白、レンダリング済み画像の各位置の輝度値から各位置のバイアスBを減じた値が各位置のゲインGの1/2以下であれば元の特殊テクスチャーが黒であるとみなすことができる。
そこで、X座標値をグレイコードで表現した場合の最下位ビット値に基づいて生成された特殊テクスチャーをレンダリングしてレンダリング済み画像を生成し、当該レンダリング済み画像の各座標の輝度値から元の特殊テクスチャーが白であると判定される場合には、その位置におけるグレイコード表現のX座標値の最下位ビット値を1とする。また、レンダリング済み画像の各座標の輝度値から元の特殊テクスチャーが黒であると判定される場合、その位置におけるグレイコード表現のX座標値の最下位ビット値を0とする。以上の処理を、複数の種類の特殊テクスチャーのそれぞれについて実施することにより、レンダリング済み画像の各位置に対応するグレイコード表現のX座標値の全ビットを決定することができ、この結果、x座標とX座標との対応関係を定義することができる。
例えば、図2Aに示す例において、レンダリング済み画像I4の位置P1(x,y)の輝度値からバイアスB(x,y)を減じた値はゲインG(x,y)の1/2以下であるため、元の特殊テクスチャーが黒であると判定される。従って、位置P1(x,y)に対応するテクスチャーのX座標値の最下位ビットは0となる。同様に、図2Bに示す例において、レンダリング済み画像I5の位置P1(x,y)の輝度値からバイアスB(x,y)を減じた値はゲインG(x,y)の1/2以下であるため、元の特殊テクスチャーが黒であると判定される。従って、位置P1(x,y)に対応するテクスチャーのX座標値の中位ビッドは0となる。図2Cに示す例において、レンダリング済み画像I6の位置P1(x,y)の輝度値からバイアスB(x,y)を減じた値はゲインG(x,y)の1/2以下であるため、元の特殊テクスチャーが黒であると判定される。従って、位置P1(x,y)に対応するテクスチャーのX座標値の最上位ビットは0となる。従って、位置P1(x,y)に対応するX座標値のグレイコード表現は(000)であり、X座標値1であることが特定される。
以上のような処理は、複数の種類のレンダリング済み画像の各座標における輝度値に基づいて元の特殊テクスチャーの輝度の順列を特定し、当該順列からX座標値を特定することによって、レンダリング済み画像の各座標に対応するX座標値を決定することと実質的に等価な処理となる。なお、Y座標値についても同様の処理を行うことによって、レンダリング済み画像の各座標に対応するY座標値を特定することが可能になる。すなわち、図2A〜図2Cに示すパターンを90度回転させたような特殊テクスチャーによってX座標値における判定と同様の判定を行えば、Y座標値をグレイコードで表現した値とy座標との対応関係を特定することが可能になる。
以上のように(A)〜(C)の各工程を実行すれば、レンダリング済み画像の任意の座標(x,y)に対応するテクスチャーの座標(X,Y)を特定することができる。また、レンダリング済み画像の任意の座標(x,y)においてレンダリング処理が輝度に与える影響を特定することができる。従って、各工程によって特定された座標の対応関係およびレンダリング処理が輝度に与える影響を示す情報を保存しておけば、当該保存された情報に基づいて任意のテクスチャーからレンダリング済み画像を生成する処理を極めて少ないリソースで高速に実行することが可能である。また、レンダリング処理において想定した仮想的な3次元の構造体や照明の位置等が明らかでない場合、すなわち、レンダリング処理後の画像と処理前のテクスチャーのみが明らかである場合であっても、レンダリング処理を再現することが可能になる。
本実施形態においては、以上の構成に適した圧縮方式で圧縮を行うことによって、極めて高い圧縮率で画像データの容量を圧縮できるように構成し、これによりレンダリング画像を効率よく管理する構成としている。すなわち、レンダリング済み画像において、テクスチャーが貼り付けられるテクスチャー領域とテクスチャーが貼り付けられない非テクスチャー領域とのそれぞれについて異なる圧縮方式を適用する。そして、非テクスチャー領域はJPEG圧縮方式とし、かつ、非テクスチャー領域の画素に影響しない部分の輝度値を調整することによって極めて高い圧縮率となるように構成している。
図3は、図1Aと同様のレンダリング済み画像における非テクスチャー領域とテクスチャー領域とを示している。同図3に示す例において、非テクスチャー領域は、レンダリング済み画像からテクスチャーT1〜T6が貼り付けられ得る直方体Rの像を除いた部分によって構成される。一方、テクスチャー領域は、レンダリング済み画像においてテクスチャーT1〜T6が貼り付けられ得る直方体Rの像を構成する部分によって構成される。図3に示す非テクスチャー領域においては、テクスチャー領域を黒ベタで示しており、当該黒ベタ以外の部分が非テクスチャー領域となる。一方、図3に示すテクスチャー領域においては、非テクスチャー領域を黒ベタで示しており、当該黒ベタ以外の部分がテクスチャー領域となる。
本実施形態においては、非テクスチャー領域とテクスチャー領域とを別個に扱って圧縮処理を行うため、レンダリング済み画像から非テクスチャー領域によって構成される画像とテクスチャー領域によって構成される画像とが構成される。例えば、図3に示す例においては非テクスチャー領域によって構成される画像I7とテクスチャー領域によって構成される画像I8との2枚の画像が構成され、それぞれが圧縮対象となる。圧縮された画像を展開して利用する場合には、非テクスチャー領域によって構成される画像I7の黒ベタ以外の部分とテクスチャー領域によって構成される画像I8の黒ベタ以外の部分とが結合されることによってレンダリング済み画像が構成される。
従って、非テクスチャー領域によって構成される画像I7においては、黒ベタ以外の部分のみに意味があり、黒ベタの部分は意味がない(なお、当該黒ベタの部分は意味がない画素であるため、以後、空白画素と呼ぶ)。このため、空白画素における階調値を任意の値に設定して画像I7を扱ったとしても何ら不都合はない。そこで、本実施形態においては、高い圧縮率でJPEG圧縮がなされるように、空白画素における階調値を調整する。すなわち、本実施形態においては、JPEG圧縮の過程で実施される離散コサイン変換の結果得られる直流成分および交流成分をハフマン符号化した結果ができるだけ短い符号になるように空白画素の階調値を調整する。
具体的には、JPEG圧縮方式においては、圧縮対象の画像をMCU(Minimum Coded Unit)に分割し、各MCUの階調値に対して離散コサイン変換を行い、周波数に依存する係数と基底関数との積の和によって表現された変換画像を生成する。当該変換画像において、周波数が0の直流成分の係数については、比較対象のMCU(典型的には左隣のMCU)における直流成分の係数との差分がハフマン符号化される。従って、比較対象のMCUとの差分が小さいほど直流成分を高い効率で圧縮することが可能になる。
一方、上述の離散コサイン変換による変換画像において、周波数が0以外の交流成分の係数については、量子化された後、周波数平面でジグザグスキャンを行い、さらにハフマン符号化を行う。このとき、MCU内の画素の階調値が徐々に変化するように構成しておけば、量子化された後の係数において、高周波成分の多くが0になり、効率的にハフマン符号化を行うことが可能である。従って、MCU内での階調値の急激な差(エッジなど)が生じていなければ交流成分を高い効率で圧縮することが可能になる。
そこで、本実施形態においては、非テクスチャー領域によって構成される画像に設定されるMCU内の空白画素の分布に応じて空白画素の階調値を設定する。すなわち、MCU内の全画素が空白画素である場合、MCU内の全空白画素の階調値を比較対象のMCU内の画素の階調値の平均値とする。この構成によれば、交流成分の係数が全て0になるとともに、直流成分の係数については、比較対象のMCUにおける直流成分の係数との差分が0になり、ハフマン符号化によって極めて短い符号が得られることになる。
一方、MCU内の一部の画素が空白画素である場合、当該MCU内の空白画素の階調値を、当該空白画素の周囲の画素の階調値の平均値とする処理を空白画素のそれぞれに対して逐次行う。この構成によれば、MCU内で画素の階調値が徐々に変化することになり、上述の量子化がなされた後の係数において、高周波成分の多くが0になる。従って、効率的にハフマン符号化を行うことが可能である。
なお、以上の説明は本発明の一実施形態の概略の説明であり、発明の実施に際して詳細な設計変更を行うことは可能である。例えば、上述の特殊テクスチャーのパターンは上述の例に限定されない。例えば、白黒が逆でも良いし、他のパターンであっても良い。さらに、複数の色成分の組み合わせによって画素の色を表現する構成においては、色成分毎に特殊テクスチャーを生成してレンダリング処理を行えばよい。また、上述の(A)(C)工程は各色成分の和に基づいて判定を行えば良く、(B)工程においては色成分毎にバイアスBおよびゲインGを定義すればよい。
次に、本発明の実施の形態を具体的な例とともに図面を用いて説明する。図4は、本発明の一実施形態である画像処理方法に用いるコンピューター20とビューワー40の構成の概略を示す構成図である。本実施形態のコンピューター20は、中央演算処理装置としてのCPUや処理プログラムを記憶するROM、データを一時的に記憶するRAM、グラフィックプロセッサー(GPU)、ハードディスク(HDD)、ディスプレイ22などからなる汎用のコンピューターとして構成されており、その機能ブロックとしては、仮想的な3次元の構造体を示す3次元モデリングデータ(以下、3次元モデルという)やこれに貼り付けるテクスチャーデータ(以下、テクスチャーという)などを記憶する記憶部31と、3次元モデルに貼り付ける前処理用の特殊なテクスチャーを生成する特殊テクスチャー生成処理部32と、3次元モデルをレンダリングしてビットマップ画像を生成するレンダリング処理部34と、レンダリングにより得られたビットマップ画像としてのレンダリング済み画像を解析するレンダリング済み画像解析処理部36と、生成したレンダリング済み画像やレンダリング済み画像解析処理部36の解析により得られる各種データを圧縮する圧縮処理部38とを備える。
特殊テクスチャー生成処理部32は、レンダリング処理部34でレンダリングされる3次元モデルに貼り付ける特殊テクスチャーを生成する処理部であり、具体的には、値0.0〜1.0の階調値範囲内で階調値が値1.0の白ベタのパターン(第2ベタ塗りパターン)や、階調値が値0.0の黒ベタのパターン(第1ベタ塗りパターン),値0.0と値1.0の階調値が横方向に交互に現われる縦縞模様のパターン(対応関係設定用パターン),値0.0と値1.0の階調値が縦方向に交互に現われる横縞模様のパターン(対応関係設定用パターン)を生成する。なお、これらの各パターンがもつ役割については後述する。
レンダリング処理部34は、3Dレンダリング用のソフトウエアがコンピューター20にインストールされることにより機能する処理部であり、3次元モデルに特殊テクスチャー生成処理部32で生成されたテクスチャーを貼り付けてレンダリングすることにより所定のフレームレート(例えば、1秒間に30回や60回など)でフレーム単位にビットマップ画像を再生して動画を表示する。本実施形態では、光源からの光をたどりながらオブジェクト面の反射や光の屈折などを計算してレンダリングするレイトレーシング法を用いてレンダリング処理を行なうものとした。
レンダリング済み画像解析処理部36は、レンダリング処理部34により生成されたビットマップ画像(レンダリング済み画像)を解析することにより、特殊テクスチャーに代えて写真などの所望の画像データを自由に差し替えてレンダリング済み画像をビューワー40側で表示できるようにするための画像描画情報を生成する。
圧縮処理部38は、レンダリング済み画像解析処理部36により解析に伴って生成された画像描画情報を圧縮するための処理部であり、本実施形態では、画質の劣化を抑制しながら全体の圧縮率を高めるために、複数種の圧縮方式を使い分けてデータを圧縮するものとした。圧縮方式の詳細については後述する。
本実施形態のビューワー40は、コンピューター20のレンダリング処理部34で得られたレンダリング済み画像やレンダリング済み画像解析処理部36により解析されると共に圧縮処理部38により圧縮された画像描画情報などを記憶する記憶部41と、メモリーカードMCに記憶されている写真などの画像データの入力を司る入力処理部42と、入力処理部42により入力された画像データや記憶部41に記憶されているレンダリング済み画像,画像描画情報をデコード(展開)する展開処理部44と、レンダリング済み画像に入力した画像データをテクスチャーとして合成して描画する描画処理部46と、を備える。このビューワー40は、ユーザーからの指示によりメモリーカードMCに記憶されている複数の画像データを順次読み込むと共に読み込んだ画像データを画像描画情報を用いて3次元モデルのレンダリング済み画像に貼り付けて順次再生を行なうスライドショー表示を行なうことができるようになっている。
次に、こうして構成された本実施形態のコンピューター20の特殊テクスチャー生成処理部32やレンダリング処理部34,レンダリング済み画像解析処理部36,圧縮処理部38の動作と、ビューワー40の展開処理部44や描画処理部46の動作について説明する。まず、特殊テクスチャー生成処理部32の処理について説明する。図5は、特殊テクスチャー生成処理の一例を示すフローチャートである。
特殊テクスチャー生成処理では、まず、複数のセットのうちのいずれのセットであるのかを特定するための対象セット番号iを値1に初期化し(ステップS100)、対象セット番号iに対してRGBの色成分毎にn個の特殊テクスチャーを生成して(ステップS110)、対象セット番号iを値1だけインクリメントし(ステップS120)、対象セット番号iと値nとを比較して(ステップS130)、対象セット番号iが値n以下のときにはステップS110に戻って次の対象セット番号iに対してn個の特殊テクスチャーを生成する処理を繰り返し、対象セット番号iが値nを超えたときには次の処理に進む。ここで、対象セット番号iが値1から値nまでの特殊テクスチャーの生成は、次式(1)に示すように、1番からn番までの対象テクスチャー番号jを1番から値1ずつシフトしながら対象テクスチャー番号jと対象セット番号iと比較し、両者が一致する対象テクスチャー番号jに対しては最小値0.0(黒)〜最大値1.0(白)の階調値範囲で全座標(X,Y)に値1.0の階調値を設定することにより白ベタの特殊テクスチャー(第2ベタ塗りパターン)を生成し、両者が一致しない対象テクスチャー番号jに対しては全座標(X,Y)に値0.0の階調値を設定することにより黒ベタの特殊テクスチャー(第1ベタ塗りパターン)を生成することにより行なわれる。ここで、式(1)中の「c」は、画像データのRGB値の各色に対応する値を示し、「n」は1画面に配置するテクスチャーの数を示し、「b」はテクスチャーの座標を2進数で表わしたときのビット数を示し、「Tc,i,j(X,Y)」は色成分c,対象セット番号i,対象テクスチャー番号jにおける特殊テクスチャーの座標(X,Y)の階調値を示す(以下、同じ)。なお、ここでは、全ての色成分について、全座標に階調値の最大値が設定されたパターンを白ベタと呼び、全座標に階調値の最小値が設定されたパターンを黒ベタと呼んでいる(以下、同じ)。
対象セット番号iが値1〜値nの特殊テクスチャー(n個のセットから成る第1のセット群)を生成すると、次に、対象セット番号iが値(n+1)の色成分毎のn個の特殊テクスチャーを生成し(ステップS140)(第2のセット)、対象セット番号iを値1だけインクリメントする(ステップS150)。ここで、対象セット番号iが値(n+1)の特殊テクスチャーの生成は、次式(2)に示すように、1番からn番までのすべての対象テクスチャー番号jに対して全座標(X,Y)に値0.0の階調値を設定することにより黒ベタの特殊テクスチャーを生成することにより行なわれる。
対象セット番号iが値(n+1)の特殊テクスチャーを生成すると、次に、対象セット番号iに対してテクスチャーの座標を交番2進数(グレイコード)表現としたときの第[i−(n+2)]ビットに対応する縦縞模様の色成分毎のn個の特殊テクスチャーを次式(3)により生成して(ステップS160)、対象セット番号iを値1だけインクリメントし(ステップS170)、対象セット番号iと値(n+b+1)とを比較し(ステップS180)、対象セット番号iが値(n+b+1)以下のときにはステップS160に戻って次の対象セット番号iに対してn個の特殊テクスチャーを生成する処理を繰り返し、対象セット番号iが値(n+b+1)を超えたときには次の処理に進む。以上の処理により、レンダリング済み画像のx座標と特殊テクスチャーのX座標との対応関係を設定するための対応関係設定用パターンが生成される。ここで、式(3)中の「gray(a)」は数値aのグレイコード(交番2進数符号)表現であり、「and(a,b)」はaとbのビット毎の論理積を示す(以下、同じ)。(n+2)番から(n+b+1)番までの対象セット番号iは、それぞれテクスチャーの座標を2進数で表現したときに第(b−1)ビット(最下位ビット)から第0ビット(最上位ビット)までの各ビットに対応しており、対象セット番号iに対応するビットの値が値1のときには値1.0(白)の階調値を設定し、対応するビットの値が値0のときには値0.0(黒)の階調値を設定することにより縦縞模様の特殊テクスチャーが生成される。本実施形態では、テクスチャーの座標を交番2進数で表現しており、例えば、テクスチャー数nが値3で座標が値1〜8の3ビット(b=3)とすると、対象セット番号iが第2ビット(最下位ビット)を示す値5の特殊テクスチャーとしてはX座標値1については黒の階調値が設定されX座標値2,3については白の階調値が設定されX座標値4,5については黒の階調値が設定されX座標値6,7については白の階調値が設定されX座標値8については黒の階調値が設定される。また、対象セット番号iが第1ビットを示す値6の特殊テクスチャーとしてはX座標値1,2については黒の階調値が設定されX座標値3〜6については白の階調値が設定されX座標値7,8については黒の階調値が設定され、対象セット番号iが第0ビット(最上位ビット)を示す値7の特殊テクスチャーとしてはX座標値1〜4については黒の階調値が設定されX座標値5〜8については白の階調値が設定されることになる。
対象セット番号iが値(n+2)〜値(n+b+1)の特殊テクスチャーを生成すると、次に、対象セット番号iに対してテクスチャーのy座標を交番2進数表現としたときの第[i−(n+b+2)]ビットに対応する横縞模様の色成分毎のn個の特殊テクスチャーを次式(4)により生成して(ステップS185)、対象セット番号iを値1だけインクリメントし(ステップS190)、対象セット番号iと値(n+2b+1)とを比較し(ステップS195)、対象セット番号iが値(n+2b+1)以下のときにはステップS185に戻って次の対象セット番号iに対してn個の特殊テクスチャーを生成する処理を繰り返し、対象セット番号iが値(n+2b+1)を超えたときには、全ての特殊テクスチャーの生成が完了したとして、本ルーチンを終了する。以上の処理により、レンダリング済み画像のy座標と特殊テクスチャーのY座標との対応関係を設定するための対応関係設定用パターンが生成される。(n+b+2)番から(n+2b+1)番までの対象セット番号iは、それぞれテクスチャーの座標を2進数で表現したときに第(b−1)ビット(最下位ビット)から第0ビット(最上位ビット)からまでの各ビットに対応しており、対象セット番号iに対応するビットの値が値1のときには値1.0(白)の階調値を設定し、対応するビットの値が値0のときには値0.0(黒)の階調値を設定することにより横縞模様の特殊テクスチャーが生成される。本実施形態では、テクスチャーの座標を交番2進数で表現しており、例えば、テクスチャー数nが値3でy座標が値1〜8の3ビット(b=3)とすると、対象セット番号iが第2ビット(最下位ビット)を示す値8の特殊テクスチャーとしてはY座標値1については黒の階調値が設定されY座標値2,3については白の階調値が設定されY座標値4,5については黒の階調値が設定されY座標値6,7については白の階調値が設定されY座標値8については黒の階調値が設定される。また、対象セット番号iが第1ビットを示す値9の特殊テクスチャーとしてはY座標値1,2については黒の階調値が設定されY座標値3〜6については白の階調値が設定されY座標値7,8については黒の階調値が設定され、対象セット番号iが第0ビット(最上位ビット)を示す値10の特殊テクスチャーとしてはY座標値1〜4については黒の階調値が設定されY座標値値5〜8については白の階調値が設定されることになる。図6に、テクスチャー数nが値3で座標のビット数bが値3のときに生成される特殊テクスチャーの一覧を示す。
レンダリング処理部34は、セット毎に、対応するn個の特殊テクスチャーを3次元モデルに貼り付けてレンダリング処理を行なう。図7にレンダリング処理の様子を示す。本実施形態では、3次元モデルを動画としてレンダリングし、テクスチャー数nが値3でビット数bが値3としたから、合計10セット分のレンダリング処理が行なわれて10セット分の動画が生成されることになる。この動画は、フレーム1〜Tまでの各フレーム毎に生成されたビットマップ画像(レンダリング済み画像)により構成される。なお、図7においては、10セット分のレンダリング済み画像のそれぞれから、共通のフレーム番号のビットマップ画像を抜き出して示している。
次に、レンダリング処理部34により生成されたレンダリング済み画像を解析する処理について説明する。図8は、レンダリング済み画像解析処理部36により実行されるレンダリング済み画像解析処理の一例を示すフローチャートである。
レンダリング済み画像解析処理では、まず、次式(5)に示すように各フレーム番号t(=1〜T)におけるレンダリング済み画像の座標(x,y)に貼り付けられるテクスチャー番号を示す変数It(x,y)を値0に初期化し(ステップS200)、対象フレームtにおけるセット番号1〜nのレンダリング済み画像中の白ベタ領域(座標)を特定して、この白ベタ領域の変数It(x,y)に対応するテクスチャー番号を設定する(ステップS210)。この処理は、次式(6)に示すように、対象セット番号iを1番からn番まで順次シフトしながら対象セット番号iのレンダリング済み画像の階調値(各色成分毎の階調値の総和)とセット番号(n+1)のレンダリング済み画像の階調値(各色成分毎の階調値の総和)とを比較することにより行なうことができる。すなわち、対象セット番号iにおいては番号iと等しいテクスチャー番号の特殊テクスチャーが白ベタに設定されており、セット番号(n+1)においては全テクスチャー番号の特殊テクスチャーが黒ベタに設定されている。従って、対象セット番号iのレンダリング済み画像の階調値がセット番号(n+1)のレンダリング済み画像の階調値より大きい場合には、座標(x,y)にテクスチャー番号iの特殊テクスチャーが貼り付けられていたことが分かる。ここで、式(5)中の「w」はレンダリング済み画像の幅方向のサイズを示し、「h」はレンダリング済み画像の高さ方向のサイズを示す。また、式(6)中の「Ac,i,t(x,y)」は色成分c,セット番号i(1〜n),フレーム番号tにおけるレンダリング済み画像の座標(x,y)の階調値を示す(以下、同じ)。
続いて、次式(7)によりセット番号(n+1)のレンダリング済み画像の階調値をバイアスBc,t(x,y)として設定すると共に(ステップS220)、変数It(x,y)が値0でないレンダリング済み画像の座標(x,y)、即ちテクスチャーが貼り付けられる領域について次式(8)によりゲインGc, t(x,y)を計算する(ステップS230)。ここで、式(8)中の「Ac,It(x,y),t(x,y)」は色成分c,変数It(x,y)に格納されたセット番号i,フレーム番号tにおけるレンダリング済み画像の座標(x,y)の階調値を示す。図9に、バイアスBc,t(x,y)とゲインGc,t(x,y)との関係を示す。3次元モデルにテクスチャーを貼り付けてレンダリングする場合、図示するように、元のテクスチャーの階調値に依存しないオフセット分がバイアスBc,t(x,y)に相当し、元のテクスチャーの階調値の変化に対するレンダリング済み画像の階調値の変化の傾きがゲインGc,t(x,y)に相当する。
そして、次式(9)によりテクスチャーのグレイコード表現の座標(X't(x,y),Y't(x, y))を値0に初期化し(ステップS240)、セット番号(n+2)〜(n+2b+1)のレンダリング済み画像の座標(x,y)とテクスチャーの座標(X't(x,y),Y't(x,y))との対応関係を設定する(ステップS250)。ここで、座標の対応関係は、次式(10)により設定され、具体的には、番号iを1番からb番まで順次シフトしながらセット番号(i+n+1)のレンダリング済み画像の階調値Ac,i+n+1,t(x,y)からバイアスBc,t(x,y)を減じたもの(各色成分毎の総和)がセット番号iのレンダリング済み画像のゲインGc,t(x,y)を値2で割ったもの(各色成分毎の総和)よりも大きいか否か即ちセット番号(i+n+1)における白と黒の縦縞模様のパターンのうち座標(x,y)が白か否かを判定し白のときには交番2進数表現の座標X't(x,y)の対応する第(i−1)ビットの値に値1を設定し、番号iを1番からb番まで順次シフトしながらセット番号(i+b+n+1)のレンダリング済み画像の階調値Ac,i+b+n+1,i(x,y)からバイアスBc,t(x,y)を減じたもの(各色成分毎の総和)がセット番号iのレンダリング済み画像のゲインGc,t(x,y)を値2で割ったもの(各色成分毎の総和)よりも大きいか否か即ちセット番号(i+b+n+1)における白と黒の横縞模様のパターンのうち座標(x,y)が白か否かを判定し白のときには座標Y't(x,y)の対応する第(i−1)ビットの値を値1に設定することにより行なわれる。ここで、式(10)中の「or(a,b)」はaとbのビット毎の論理和を示す。
座標の対応関係を設定すると、グレイコード表現のテクスチャーの座標(X't(x,y),Y't(x,y))を次式(11)を用いて復号化して復号化後座標(Xt(x,y),Yt(x,y))を算出し(ステップS260)、値1〜Tまでの全フレームについて処理が完了したか否かを判定し(ステップS270)、全フレームについて処理が完了していないときには次のフレームを対象フレームtに設定してステップS210に戻って処理を繰り返し、全フレームについて処理が完了したときに本処理を終了する。ここで、式(11)中の「gray-1(a)」
はグレイコードaを復号化した値を示し、「Xt(x,y)」はフレーム番号tのレンダリング済み画像の座標(x,y)に対応するテクスチャーのx座標を示し、「Yt(x,y)」はフレーム番号tのレンダリング済み画像の座標(x,y)に対応するテクスチャーのy座標を示す。なお、本実施形態では、座標(X't(x,y),Y't(x,y))の原点を(1,1)としているから、グレイコードを復号化した値に値1を加算している。画像描画情報としては、変数It(x,y)とバイアスBc,t(x,y)とゲインGc,t(x,y)と座標(Xt(x,y),Yt(x,y))とが含まれる。
次に、レンダリング済み画像解析処理部36により解析されて得られた画像描画情報を圧縮する処理、特にバイアスBc,t(x,y)を圧縮する処理について説明する。図10は、圧縮処理部38により実行される圧縮処理の一例を示すフローチャートである。
圧縮処理では、テクスチャー領域と非テクスチャー領域とを分離し、各領域の画像描画情報をx,y座標系で表現し、別個に圧縮処理を実施する。このため、まず、全領域のバイアスBc,t(x,y)のうちテクスチャー領域を抜き出してテクスチャー領域用バイアスEc,t(x,y)を設定する(ステップS300)。この処理は、変数It(x,y)が値0でない座標(x,y)についてはテクスチャー領域用バイアスEc,t(x,y)にバイアスBc,t(x,y)を設定し、変数It(x,y)が値0の座標(x,y)についてはテクスチャー領域用バイアスEc,t(x,y)に値0を設定することにより行なわれる。続いて、非テクスチャー領域のバイアスBc,t(x,y)を抜き出して非テクスチャー領域用バイアスFc,t(x,y)を設定すると共に(ステップS310)、設定した非テクスチャー領域用バイアスFc,t(x,y)のうちテクスチャー領域内の空白画素を補完する(ステップS320)。すなわち、非テクスチャー領域についてのバイアスFc,t(x,y)は非テクスチャー領域以外の領域(テクスチャー領域に相当する領域)については定義されていないため、当該非テクスチャー領域以外の領域を空白画素とみなし、当該空白画素を補完する。そして、テクスチャー領域用バイアスEc,t(x,y)については可逆圧縮方式の一つであるデフレート圧縮を行ない(ステップS330)、非テクスチャー領域についてはJPEG圧縮を行ない(ステップS340)、圧縮データを保存して(ステップS350)、本処理を終了する。本実施形態では、画像描画情報としてのIt(x,y),Gc,t(x,y),Xt(x,y),Yt(x,y)についてもデフレート圧縮などの可逆圧縮により圧縮するものとした。
図11は、図10のステップS320により空白画素を補完する補完処理の一例を示すフローチャートである。この補完処理では、まず、JPEG処理の基本単位であるMCU(Minimum Coded Unit)のうち処理対象となる対象MCUを設定する(ステップS400)。ここでは、例えば、x座標値が左から右に増加し、y座標値が上から下に増加する座標系において、最も左上のMCUを最初に対象MCUとし、以後、右隣のMCUを対象MCUとしつつ、最も右側まで到達すると、一段下の最も左のMCUを対象MCUとし、以後同様とする。次に、設定した対象MCU内に空白画素があるか否かを判定する(ステップS410)。対象MCU内に空白画素がないときには空白画素の補完の必要がないから次のMCUがあるか否かを判定し(ステップS450)、次のMCUがあるときにはステップS400に戻ってこれを対象MCUに設定して処理を繰り返す。一方、対象MCU内に空白画素があるときには、対象MCU内の一部が空白画素であるか否かを判定し(ステップS420)、対象MCU内の一部が空白画素のときには空白画素を隣接画素の平均階調値で埋める処理を行ない(ステップS430)、対象MCU内の全部が空白画素のときには左側に隣接するMCUの平均階調値で埋める処理を行なって(ステップS440)、次の処理に進む。なお、左側に隣接するMCUが存在しない場合、対象MCUが最も左上に位置するなら空白画素を階調値0で埋める処理を行い、対象MCUが2段目あるいは当該2段目より下に位置するなら一段上の最も右のMCUの平均階調値で埋める処理を行う。ステップS450で次のMCUがあると判定されると、ステップS400に戻って次のMCUを対象MCUに設定して処理を繰り返し、次のMCUがないと判定されると、これで本処理を終了する。図12に、空白画素の補完の様子を示す。この処理は、テクスチャー領域と非テクスチャー領域の境界付近では、階調値が徐々に変化するようにし、境界から離れた部分では境界付近のMCUの平均階調値で埋めるものとなる。こうして空白画素を補完した非テクスチャー領域用バイアスFc,t(x,y)をJPEG圧縮することにより、JPEG圧縮の際の圧縮効率を高めることができる。
コンピュータ20の圧縮処理部38により圧縮された画像描画情報(変数It(x,y)やバイアスEc,(x,y),Fc,t(x,y),ゲインGc,t(x,y),座標(Xt(x,y),Yt(x,y))はビューワー40の記憶部41に記憶され、ビューワー40の展開処理部44によりデフレート圧縮した変数It(x,y)やバイアスEc,t(x,y),ゲインGc,t(x,y),座標(Xt(x,y),Yt(x,y))についてはデフレート解凍処理により、JPEG圧縮したバイアスFc,t(x,y)についてはJPEG解凍処理によりそれぞれ展開した上で描画処理部46による描画処理に用いられる。描画処理部46では、メモリーカードMCに記憶されている写真などの複数の画像データを差し替え用テクスチャーとして読み込むと共に次式(12)を用いてレンダリング済み画像に合成して順次描画することにより、テクスチャーを差し替えながら3次元モデルのレンダリング済み画像を表示するスライドショー再生を行なうことができる。ここで、式(12)中の「Uc, It(x,y)(Xt(x,y),Yt(x,y))」は色成分c,テクスチャー番号iにおける差し替え用テクスチャーの座標(X,Y)の階調値(0.0〜1.0)を示し、「Pc,t(x,y)」は色成分c,フレーム番号tにおける表示画像(レンダリング済み画像)の座標(x,y)の階調値(0.0〜1.0)を示す。式(12)に示すように、表示画像の階調値Pc,t(x,y)の設定は、変数It(x,y)が値0でないテクスチャー配置領域に対しては表示画像の座標(x,y)に対応する差し替え用テクスチャーの座標(Xt(x,y),Yt(x,y))の階調値にゲインGc,t(x,y)を乗じてバイアスEc,t(x,y)を加えたものを設定し、変数It(x,y)が値0であるテクスチャー配置領域以外の領域に対してはバイアスFc,t(x,y)を設定することにより行なわれる。図13にテクスチャー番号が1〜3の3つの差し替え用テクスチャーを示し、図14にレンダリング済み画像に図13の差し替え用テクスチャーを配置して描画する様子を示す。
以上説明した実施例の画像処理方法によれば、3次元モデルに特殊テクスチャーを貼り付けてレンダリングすると共にレンダリング済み画像を解析することにより得られる画像描画情報の一つとしてのバイアスBc,t(x,y)に対してテクスチャー領域を抜き出してテクスチャー領域用バイアスEc,t(x,y)を設定すると共に空白画素を領域境界付近で階調値が徐々に変化するよう補完した上で非テクスチャー領域用バイアスFc,t(x,y)を設定し、テクスチャー領域用バイアスEc,t(x,y)についてはデフレート圧縮処理により圧縮し、非テクスチャー領域用バイアスFc,t(x,y)についてはJPEG圧縮により圧縮するから、全体の画質の劣化を抑制しながら高い圧縮率によりデータを圧縮することができる。また、コンピューター20側では、座標(X,Y)を2進数表現したときの各ビットの値に対応するx座標用の縦縞模様のパターンとy座標用の横縞模様のパターンとを特殊テクスチャーとして3次元モデルに貼り付けてレンダリングし、レンダリングによりビットマップ画像として得られたレンダリング済み画像を解析することによりレンダリング済み画像の座標(x,y)とテクスチャーの座標(Xt(x,y),Yt(x,y))との対応関係を設定して画像描画情報として保存し、ビューワー40側でレンダリング済み画像を用いて画像を表示するときには、予め記憶した画像描画情報によりテクスチャーの座標(Xt(x,y),Yt(x,y))の階調値に基づいて表示画像の座標(x,y)に描画するから、3次元モデルのレンダリング済み画像をテクスチャーを自由に差し替えて再生することができると共にリアルタイムで3次元モデルをレンダリングして表示するものに比して処理負担を少なくすることができる。しかも、ゲインGc,t(x,y)やバイアスBc,t(x,y)を用いてテクスチャーの階調値を変換して表示画像の階調値を設定するから、3次元モデルをレンダリングしたときの屈折光や鏡面反射,影などの影響も反映させることができる。さらに、座標の対応関係を特定するための特殊テクスチャーとして交番2進数に対応する縦縞模様のパターンと横縞模様のパターンとを形成するから、隣接する座標に移行する際には常に1ビットの変化となり、画像の階調値の誤差に起因して誤ったデータが取得されてしまうのを抑制することができる。
本実施形態では、補完処理として、対象MCU内の一部が空白画素のときには空白画素を隣接画素の平均階調値で埋め、対象MCU内の全部が空白画素のときには左側に隣接するMCUの平均階調値で埋めるものとしたが、これに限られず、領域境界付近で階調値が徐々に変化するよう補完すればよいから、例えば、単に隣接画素の平均階調値で順次埋めていくものとしてもよい。
本実施形態では、テクスチャー領域用バイアスEc,t(x,y)についてデフレート圧縮により圧縮するものとしたが、デフレート圧縮以外の他の如何なる可逆圧縮処理により圧縮するものとしてもよいし、無圧縮とするものとしてもよい。
本実施形態では、バイアスBc,t(x,y)からテクスチャー領域用バイアスEc,t(x,y)と非テクスチャー領域用バイアスFc,t(x,y)とを設定してそれぞれ異なる圧縮方式により圧縮するものとしたが、3次元モデルにテクスチャーを貼り付けてレンダリングする際に用いるデータであれば、バイアスBc,t(x,y)以外の他のデータに適用するものとしてもよい。
本実施形態では、座標(X,Y)を2進数表現したときの各ビットの値に対応するx座標用の縦縞模様のパターンとy座標用の横縞模様のパターンとをテクスチャーとして用いて3次元モデルに貼り付けてレンダリングすると共にレンダリング結果を解析することにより画像描画情報を生成するものとしたが、用いるパターンはこれに限られず、x座標方向(横方向)に濃淡(階調値)が徐々に変化するパターンとy座標方向(縦方向)に濃淡が徐々に変換するパターンとを用いるものとしてもよい。この場合、前述した式(3)により得られるセット番号(n+2)〜(n+b+1)の縦縞模様のパターンに代えて次式(13)により得られるセット番号(n+2)の1つのパターンを用いると共に式(4)により得られるセット番号(n+b+2)〜(n+2b+1)の横縞模様のパターンに代えて次式(14)により得られるセット番号(n+3)の1つのパターンを用いるものとすればよい。
式(13)のパターンと式(14)のパターンとを用いる場合、座標の対応関係の設定は、次式(15)により求めることができる。図15に特殊テクスチャーの一例を示し、図16に図15の特殊テクスチャーを3次元モデルに貼り付けてレンダリングする様子を示す。これにより、生成すべき特殊テクスチャーの数を減らすことができる。
本実施形態では、対象セット番号iが値(n+2)〜値(n+b+1)の縦縞模様パターンの特殊テクスチャーを座標を交番2進数表現したときに各ビットの値に対応するものとすると共に対象セット番号iが値(n+b+2)〜値(n+2b+1)の横縞模様パターンの特殊テクスチャーを座標を交番2進数表現したときの各ビットの値に対応するものとしたが、これらのパターンを、座標を一般の2進数表現したときに各ビットの値に対応するものとして生成するものとしてもよい。この場合の特殊テクスチャーの一例を図17に示す。
本実施形態では、ビューワー40により画像を再生するものとしたが、画像を再生できる機器であれば、液晶画面付きの携帯電話やプリンターなど如何なる機器を用いるものとしても構わない。
なお、本発明は上述した実施形態に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
20 コンピューター、22 ディスプレイ、31 記憶部、32 特殊テクスチャー生成処理部、34 レンダリング処理部、36 レンダリング済み画像解析処理部、38 圧縮処理部、40 ビューワー、41 記憶部、42 入力処理部、44 展開処理部、46 描画処理部、MC メモリーカード。

Claims (14)

  1. テクスチャーを貼り付けてレンダリングする際に用いられる画像描画情報を処理する画像処理方法であって、
    前記画像描画情報が示すレンダリング済み画像の座標系において前記テクスチャーが貼り付けられるテクスチャー領域と該テクスチャーが貼り付けられない非テクスチャー領域とを分離し、
    前記非テクスチャー領域の前記画像描画情報を第1の圧縮方式により圧縮し、
    前記テクスチャー領域の前記画像描画情報を前記第1の圧縮方式とは異なる第2の圧縮方式により圧縮する
    ことを特徴とする画像処理方法。
  2. 請求項1記載の画像処理方法であって、
    前記非テクスチャー領域の境界から徐々に画素値が変化するよう所定の補完処理により前記非テクスチャー領域以外の部分の画素を補完すると共に該補完した後の前記画像描画情報を前記第1の圧縮方式であるJPEG圧縮方式により圧縮し、
    前記テクスチャー領域の前記画像描画情報を前記第2の圧縮方式である可逆圧縮方式により圧縮する、
    画像処理方法。
  3. 請求項2記載の画像処理方法であって、
    前記所定の補完処理は、前記非テクスチャー領域以外の領域を隣接画素の平均画素値で埋めることにより補完する処理である
    画像処理方法。
  4. 請求項3記載の画像処理方法であって、
    前記所定の補完処理は、前記画像描画情報を所定サイズの複数の単位ブロックにより構成して、該複数の単位ブロックのうち前記非テクスチャー領域の一部が含まれるブロックに対しては前記非テクスチャー領域以外の領域を隣接画素の平均画素値で埋めることにより補完し、前記非テクスチャー領域が含まれないブロックに対しては前記単位ブロックの全画素を隣接ブロック内の各画素の平均画素値で埋めることにより補完する処理である
    画像処理方法。
  5. 請求項2〜4のいずれかに記載の画像処理方法であって、
    座標毎に異なる階調値が設定された所定パターンをテクスチャーとして3次元モデルに貼り付けてレンダリングし、
    該レンダリングによりビットマップ画像として得られたレンダリング済み画像を解析することにより前記レンダリング済み画像の座標と前記テクスチャーの座標との対応関係を設定して前記画像描画情報として保存し、
    所望のテクスチャーを画像として表示する際には、前記保存した画像描画情報に基づいて前記レンダリング済み画像中に前記所望のテクスチャーを配置して表示する
    画像処理方法。
  6. 前記レンダリング済み画像の各座標の階調値から対応する前記所定パターンの座標を特定することにより前記対応関係を導出する請求項5記載の画像処理方法。
  7. 前記所定パターンは、前記テクスチャーの座標を2進数で表現したときのビット数と同数のパターンであって、各パターンには座標を2進数で表現したときの各ビットが対応づけられるとともに、各パターンの各座標の階調値は当該対応づけられたビットの値に応じた値に設定されている請求項5または6記載の画像処理方法。
  8. 前記2進数は、グレイコード(交番2進数)である請求項7記載の画像処理方法。
  9. 請求項5ないし8いずれか1項に記載の画像処理方法であって、
    前記所定パターンとして前記レンダリング済み画像の座標と前記テクスチャーの座標との対応関係を設定するための対応関係設定用パターンに加えてさらに最小階調値でベタ塗りしてなる第1ベタ塗りパターンを前記3次元モデルに貼り付けてレンダリングし、
    前記レンダリング済み画像における前記第1ベタ塗りパターンの階調値であるバイアス値前記レンダリング済み画像の画素ごとの色と前記テクスチャーの画素ごとの色との対応関係を示す前記画像描画情報として保存し、
    前記保存したバイアス値に基づいて前記所望のテクスチャーの階調値をオフセットすることにより前記レンダリング済み画像の階調値に変換して表示する
    画像処理方法。
  10. 前記非テクスチャー領域の境界から徐々に画素値が変化するよう所定の補完処理により前記非テクスチャー領域以外の部分の画素を補完すると共に該補完した後の前記バイアス値を前記第1の圧縮方式である前記JPEG圧縮方式により圧縮し、
    前記テクスチャー領域のバイアス値を前記第2の圧縮方式である前記可逆圧縮方式により圧縮する
    請求項9記載の画像処理方法。
  11. 請求項5ないし10いずれか1項に記載の画像処理方法であって、
    前記所定パターンとして前記レンダリング済み画像の座標と前記テクスチャーの座標との対応関係を設定するための対応関係設定用パターンに加えてさらに最小階調値でベタ塗りしてなる第1ベタ塗りパターンと最大階調値でベタ塗りしてなる第2ベタ塗りパターンとを前記3次元モデルに貼り付けてそれぞれレンダリングし、
    前記レンダリング済み画像における前記第2ベタ塗りパターンの階調値と前記第1ベタ塗りパターンの階調値との偏差であるゲインを算出して前記レンダリング済み画像の画素ごとの色と前記テクスチャーの画素ごとの色との対応関係を示す前記画像描画情報として保存し、
    前記保存したゲインに基づいて前記所望のテクスチャーの階調値を前記レンダリング済み画像の階調値に変換して表示する
    画像処理方法。
  12. 請求項11記載の画像処理方法であって、
    前記レンダリング済み画像にn枚(nは自然数)のテクスチャーを配置して表示する場合には、(n−1)枚の前記第1ベタ塗りパターンと1枚の前記第2ベタ塗りパターンとからなるセットをn個設定するとともに各セット毎に前記3次元モデルに前記第2ベタ塗りパターンを貼り付ける箇所が異なる第1のセット群と、n枚の前記第1ベタ塗りパターンからなる第2のセットとをそれぞれセット毎に前記3次元モデルに貼り付けてレンダリングし、
    前記第1のセット群を各セット毎にレンダリングすることにより得られる各レンダリング済み画像の階調値と前記第2のセットをレンダリングすることにより得られるレンダリング済み画像の階調値とを前記第1のセット群の各セット毎に比較することにより、前記3次元モデルにテクスチャーが貼り付けられた領域であるテクスチャー領域を特定し、該特定したテクスチャー領域に対して前記ゲインを算出する
    画像処理方法。
  13. 画像をフレーム単位で描画して動画像として表示する請求項1ないし12いずれか1項に記載の画像処理方法。
  14. テクスチャーを貼り付けてレンダリングする際に用いられる画像描画情報を処理する画像処理装置であって、
    前記画像描画情報が示すレンダリング済み画像の座標系において前記テクスチャーが貼り付けられるテクスチャー領域と該テクスチャーが貼り付けられない非テクスチャー領域とを分離する分離手段と、
    前記非テクスチャー領域の前記画像描画情報を第1の圧縮方式により圧縮する第1の圧縮手段と、
    前記テクスチャー領域の前記画像描画情報を前記第1の圧縮方式とは異なる第2の圧縮方式により圧縮する第2の圧縮手段と
    を備える画像処理装置。
JP2010090153A 2009-05-13 2010-04-09 画像処理方法および画像処理装置 Expired - Fee Related JP5573316B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010090153A JP5573316B2 (ja) 2009-05-13 2010-04-09 画像処理方法および画像処理装置
US12/778,988 US8542932B2 (en) 2009-05-13 2010-05-12 Image processing method and image processing apparatus using different compression methods
CN2010101785951A CN101887594B (zh) 2009-05-13 2010-05-13 图像处理方法和图像处理装置

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2009116956 2009-05-13
JP2009116956 2009-05-13
JP2009213430 2009-09-15
JP2009213430 2009-09-15
JP2010090153A JP5573316B2 (ja) 2009-05-13 2010-04-09 画像処理方法および画像処理装置

Publications (2)

Publication Number Publication Date
JP2011087278A true JP2011087278A (ja) 2011-04-28
JP5573316B2 JP5573316B2 (ja) 2014-08-20

Family

ID=43068555

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010090153A Expired - Fee Related JP5573316B2 (ja) 2009-05-13 2010-04-09 画像処理方法および画像処理装置

Country Status (3)

Country Link
US (1) US8542932B2 (ja)
JP (1) JP5573316B2 (ja)
CN (1) CN101887594B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019082958A1 (ja) * 2017-10-27 2019-05-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元モデル符号化装置、三次元モデル復号装置、三次元モデル符号化方法、および、三次元モデル復号方法

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5430357B2 (ja) * 2009-11-04 2014-02-26 キヤノン株式会社 画像形成装置、その制御方法及びプログラム
CN104094317A (zh) * 2012-01-21 2014-10-08 汤姆逊许可公司 用于压缩三维模型的纹理信息的方法及装置
US9214138B2 (en) 2012-12-28 2015-12-15 Microsoft Technology Licensing, Llc Redundant pixel mitigation
US9135742B2 (en) * 2012-12-28 2015-09-15 Microsoft Technology Licensing, Llc View direction determination
CN104240277B (zh) * 2013-06-24 2019-07-19 腾讯科技(深圳)有限公司 基于人脸检测的增强现实交互方法和系统
CN104252702B (zh) * 2013-06-28 2018-12-21 广州华多网络科技有限公司 数字图片的文件头信息保存、提取和存取方法及其系统
US9159114B2 (en) * 2013-11-08 2015-10-13 Qualcomm Incorporated Texture decompression for graphics processors
KR20150100113A (ko) * 2014-02-24 2015-09-02 삼성전자주식회사 영상 처리 장치 및 이의 영상 처리 방법
EP2996086A1 (en) * 2014-09-12 2016-03-16 Kubity System, method and computer program product for automatic optimization of 3d textured models for network transfer and real-time rendering
CN105389090B (zh) * 2015-11-06 2019-03-15 网易(杭州)网络有限公司 游戏交互界面显示的方法及装置、移动终端和电脑终端
US20180048914A1 (en) * 2016-08-11 2018-02-15 Novatek Microelectronics Corp. Image processing method and related apparatus
CN107154063B (zh) * 2017-04-19 2023-03-14 腾讯科技(深圳)有限公司 图像展示区域的形状设置方法及装置
CN111105485B (zh) * 2018-10-09 2024-02-27 杭州海康威视数字技术股份有限公司 一种线条渲染方法、装置
KR20210030147A (ko) * 2019-09-09 2021-03-17 삼성전자주식회사 3d 렌더링 방법 및 장치
CN111640182B (zh) * 2020-04-20 2023-04-07 南京征帆信息科技有限公司 一种墙面纹理绘制系统和方法
CN112308955A (zh) * 2020-10-30 2021-02-02 北京字跳网络技术有限公司 基于图像的纹理填充方法、装置、设备及存储介质
CN113610907B (zh) * 2021-08-04 2024-04-12 上海仙仙兔网络科技有限公司 一种基于pbr物理渲染的游戏贴图纹理解析系统
CN117095134B (zh) * 2023-10-18 2023-12-22 中科星图深海科技有限公司 一种三维海洋环境数据插值处理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11305958A (ja) * 1998-04-24 1999-11-05 Ricoh Co Ltd 画像処理システム
JP2003219187A (ja) * 2002-01-23 2003-07-31 Canon Inc 画像処理方法及び画像処理装置
JP2007182060A (ja) * 2005-12-07 2007-07-19 Canon Inc 画像処理装置及びその制御方法
JP2008042681A (ja) * 2006-08-08 2008-02-21 Canon Inc 画像処理方法及び装置、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH082107B2 (ja) * 1990-03-02 1996-01-10 国際電信電話株式会社 動画像のハイブリッド符号化方法及びその装置
FR2684829A1 (fr) * 1991-12-04 1993-06-11 Philips Electronique Lab Methodes de synthese de signaux de texture et de transmission et/ou stockage de tels signaux, ainsi que dispositifs et systemes pour leur mise en óoeuvre.
DE69228983T2 (de) * 1991-12-18 1999-10-28 Koninkl Philips Electronics Nv System zum Übertragen und/oder Speichern von Signalen von texturierten Bildern
JP3261832B2 (ja) 1993-11-26 2002-03-04 凸版印刷株式会社 画像生成装置
WO1997023097A2 (en) * 1995-12-19 1997-06-26 Philips Electronics N.V. Parallactic depth-dependent pixel shifts
US6055330A (en) * 1996-10-09 2000-04-25 The Trustees Of Columbia University In The City Of New York Methods and apparatus for performing digital image and video segmentation and compression using 3-D depth information
US6057850A (en) * 1997-07-15 2000-05-02 Silicon Graphics, Inc. Blended texture illumination mapping
US6879266B1 (en) * 1997-08-08 2005-04-12 Quickshift, Inc. Memory module including scalable embedded parallel data compression and decompression engines
AU761202B2 (en) * 1997-09-22 2003-05-29 Sony Corporation Generation of a bit stream containing binary image/audio data that is multiplexed with a code defining an object in ascii format
US6134346A (en) * 1998-01-16 2000-10-17 Ultimatte Corp Method for removing from an image the background surrounding a selected object
US6614428B1 (en) * 1998-06-08 2003-09-02 Microsoft Corporation Compression of animated geometry using a hierarchical level of detail coder
US6480538B1 (en) * 1998-07-08 2002-11-12 Koninklijke Philips Electronics N.V. Low bandwidth encoding scheme for video transmission
US6999073B1 (en) * 1998-07-20 2006-02-14 Geometrix, Inc. Method and system for generating fully-textured 3D
US6281903B1 (en) * 1998-12-04 2001-08-28 International Business Machines Corporation Methods and apparatus for embedding 2D image content into 3D models
US6331852B1 (en) * 1999-01-08 2001-12-18 Ati International Srl Method and apparatus for providing a three dimensional object on live video
US6330281B1 (en) * 1999-08-06 2001-12-11 Richfx Ltd. Model-based view extrapolation for interactive virtual reality systems
US6738424B1 (en) * 1999-12-27 2004-05-18 Objectvideo, Inc. Scene model generation from video for use in video processing
JP4758013B2 (ja) * 2000-03-14 2011-08-24 三星電子株式会社 三次元シーンのノード処理方法及びその装置
RU2216781C2 (ru) * 2001-06-29 2003-11-20 Самсунг Электроникс Ко., Лтд Основанные на изображениях способ представления и визуализации трехмерного объекта и способ представления и визуализации анимированного объекта
US20050063596A1 (en) * 2001-11-23 2005-03-24 Yosef Yomdin Encoding of geometric modeled images
KR100450823B1 (ko) * 2001-11-27 2004-10-01 삼성전자주식회사 깊이 이미지 기반 3차원 물체의 표현을 위한 노드 구조
US7027647B2 (en) * 2001-12-31 2006-04-11 Hewlett-Packard Development Company, L.P. Coder matched layer separation for compression of compound documents
US20040217956A1 (en) * 2002-02-28 2004-11-04 Paul Besl Method and system for processing, compressing, streaming, and interactive rendering of 3D color image data
US7916147B2 (en) * 2002-03-01 2011-03-29 T5 Labs Ltd. Centralised interactive graphical application server
US6999093B1 (en) * 2003-01-08 2006-02-14 Microsoft Corporation Dynamic time-of-day sky box lighting
TW594594B (en) * 2003-05-16 2004-06-21 Ind Tech Res Inst A multilevel texture processing method for mapping multiple images onto 3D models
JP3985232B2 (ja) 2004-03-18 2007-10-03 ソニー株式会社 画像符号化方法及び画像符号化装置
GB2415344B (en) * 2004-06-14 2010-10-06 Canon Europa Nv Texture data compression and rendering in 3D computer graphics
KR101183000B1 (ko) * 2004-07-30 2012-09-18 익스트림 리얼리티 엘티디. 이미지 프로세싱을 기반으로 한 3d 공간 차원용 시스템 및방법
JP4726040B2 (ja) 2005-01-31 2011-07-20 株式会社リコー 符号化処理装置、復号処理装置、符号化処理方法、復号処理方法、プログラム及び情報記録媒体
US20080246759A1 (en) * 2005-02-23 2008-10-09 Craig Summers Automatic Scene Modeling for the 3D Camera and 3D Video
CN101189643A (zh) * 2005-04-25 2008-05-28 株式会社亚派 3d图像生成和显示系统
JP4643485B2 (ja) * 2006-03-30 2011-03-02 株式会社東芝 描画装置、方法およびプログラム
US20100060640A1 (en) * 2008-06-25 2010-03-11 Memco, Inc. Interactive atmosphere - active environmental rendering
US20090021513A1 (en) * 2007-07-18 2009-01-22 Pixblitz Studios Inc. Method of Customizing 3D Computer-Generated Scenes
US8204338B2 (en) * 2008-02-14 2012-06-19 Microsoft Corporation Factoring repeated content within and among images
US8570441B2 (en) * 2008-06-11 2013-10-29 Microsoft Corporation One pass video processing and composition for high-definition video
US20100039556A1 (en) * 2008-08-12 2010-02-18 The Hong Kong University Of Science And Technology Multi-resolution temporal deinterlacing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11305958A (ja) * 1998-04-24 1999-11-05 Ricoh Co Ltd 画像処理システム
JP2003219187A (ja) * 2002-01-23 2003-07-31 Canon Inc 画像処理方法及び画像処理装置
JP2007182060A (ja) * 2005-12-07 2007-07-19 Canon Inc 画像処理装置及びその制御方法
JP2008042681A (ja) * 2006-08-08 2008-02-21 Canon Inc 画像処理方法及び装置、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019082958A1 (ja) * 2017-10-27 2019-05-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元モデル符号化装置、三次元モデル復号装置、三次元モデル符号化方法、および、三次元モデル復号方法
JPWO2019082958A1 (ja) * 2017-10-27 2020-11-12 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元モデル符号化装置、三次元モデル復号装置、三次元モデル符号化方法、および、三次元モデル復号方法
JP7277372B2 (ja) 2017-10-27 2023-05-18 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元モデル符号化装置、三次元モデル復号装置、三次元モデル符号化方法、および、三次元モデル復号方法

Also Published As

Publication number Publication date
US8542932B2 (en) 2013-09-24
CN101887594A (zh) 2010-11-17
US20100290712A1 (en) 2010-11-18
JP5573316B2 (ja) 2014-08-20
CN101887594B (zh) 2013-08-21

Similar Documents

Publication Publication Date Title
JP5573316B2 (ja) 画像処理方法および画像処理装置
JP5482394B2 (ja) 画像処理方法および画像処理装置
US7787691B2 (en) High quality image processing
JP5722761B2 (ja) 動画圧縮装置、画像処理装置、動画圧縮方法、画像処理方法、および動画圧縮ファイルのデータ構造
JP5085642B2 (ja) 画像ブロックを圧縮する方法、画像ブロックの圧縮表現を処理する方法、ブロック圧縮器、及びブロック伸張器
GB2558314A (en) Improved attribute mapping to encode and decode 3D models
US9621901B1 (en) Encoding of computer-generated video content
AU2018233015B2 (en) System and method for image processing
US8837842B2 (en) Multi-mode processing of texture blocks
EP2556492A1 (en) Texture compression and decompression
US20210241496A1 (en) Method and apparatus for encoding and decoding volumetric video data
EP3520408A1 (en) 32-bit hdr pixel format
JP5413081B2 (ja) 画像表示方法および画像表示装置
JP2009077183A (ja) データ圧縮装置、データ圧縮・伸張システム、およびデータ圧縮方法
KR102531605B1 (ko) 하이브리드 블록 기반 압축
Schuster et al. RTI compression for mobile devices
JP2010288267A (ja) 画像処理方法および画像処理装置
JP2010257224A (ja) 動画像表示装置
JP2010288268A (ja) 画像処理方法および画像処理装置
Banterle et al. BoostHDR: A novel backward-compatible method for HDR images
JP2011076145A (ja) 画像表示方法
JPS6060691A (ja) 色情報量子化方式
JP2011070569A (ja) 画像表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140603

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140616

R150 Certificate of patent or registration of utility model

Ref document number: 5573316

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees