JP5039921B2 - 圧縮システム、プログラムおよび方法 - Google Patents

圧縮システム、プログラムおよび方法 Download PDF

Info

Publication number
JP5039921B2
JP5039921B2 JP2008019281A JP2008019281A JP5039921B2 JP 5039921 B2 JP5039921 B2 JP 5039921B2 JP 2008019281 A JP2008019281 A JP 2008019281A JP 2008019281 A JP2008019281 A JP 2008019281A JP 5039921 B2 JP5039921 B2 JP 5039921B2
Authority
JP
Japan
Prior art keywords
screen
motion
frame
motion vector
compression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008019281A
Other languages
English (en)
Other versions
JP2009182605A (ja
Inventor
拓 井上
孝男 森山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2008019281A priority Critical patent/JP5039921B2/ja
Priority to US12/361,648 priority patent/US8331435B2/en
Publication of JP2009182605A publication Critical patent/JP2009182605A/ja
Application granted granted Critical
Publication of JP5039921B2 publication Critical patent/JP5039921B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/537Motion estimation other than block-based
    • H04N19/543Motion estimation other than block-based using regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画像を圧縮する圧縮システム、プログラムおよび方法に関する。本発明は、特に、3次元空間内のオブジェクトを画面に投影した動画像を圧縮する圧縮システム、プログラムおよび方法に関する。
3Dインターネットおよびオンラインゲーム等の仮想世界の様子を表示するアプリケーションにおいては、3次元空間内のオブジェクトを2次元画面上にレンダリングする処理をクライアントで行う。しかし、クライアントが十分な処理能力を有さない場合、サーバが、クライアントに代わって3次元空間内のオブジェクトを2次元画面上にレンダリングして、レンダリングした結果をMPEG(Moving Picture Experts Group)等の動画像圧縮方式で圧縮してクライアントに送信する。
ここで、MPEG等の動画像圧縮方式においては、動画像中の圧縮対象となっている圧縮対象フレームについて、未圧縮画像と、参照画像から動き補償により予測された予測画像との差分画像を算出して、この差分画像をDCT(離散コサイン変換)等により画像圧縮する。このように、MPEG等の動画像圧縮方式によれば、動きベクトルに基づく動き補償を用いて、効率良い圧縮をすることができる。
富永英義 外3名、「階層画像情報を用いた動画像における動き量検出方式」、電子情報通信学会論文誌、電子情報通信学会、1989年3月、Vol.J72−D−II No.3、p.395−403
ところで、精度良く動き補償がされた場合、差分画像は小さくなる。差分画像が小さい場合、圧縮後のデータのサイズも小さくなる。従って、動きベクトルに基づく動き補償により動画像を圧縮する場合、精度の良い動きベクトルを検出することが、圧縮効率を高くする上で重要となる。しかし、動きベクトルを検出するための演算量は動画像圧縮処理における大半を占めるので、圧縮効率を高くするために動きベクトルの検出処理に要する演算量を大きくすると、圧縮処理の全体の処理速度が遅くなり、また、処理コストも高くなってしまう。
そこで本発明は、上記の課題を解決することのできるシステム、方法およびプログラムを提供することを目的とする。
上記課題を解決するために、本発明の第1の形態においては、3次元空間内で画面に対して相対的に移動するオブジェクトを複数の画面のそれぞれに投影した複数の動画像のそれぞれを圧縮するシステムであって、圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間におけるオブジェクトの3次元空間内での動きを画面に投影して、オブジェクトの画面内での動きベクトルを算出し、オブジェクトが第1の画面および第2の画面から予め指定された距離以上離れていることを条件として、当該オブジェクトの動きを第1の画面に投影した動きベクトルを、第2の画面における当該オブジェクトの動きベクトルとして共用する動き算出部と、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮する圧縮部とを備えるシステム、及び当該システムとしてコンピュータを機能させる方法ならびにプログラムを提供する。
また、本発明の第2の形態においては、3次元空間内で画面に対して相対的に移動するオブジェクトを画面に投影した動画像を圧縮するシステムであって、オブジェクトの向きが圧縮対象フレームにおけるオブジェクトの向きにより近い他のフレームを複数の他のフレームの中から選択する選択部と、圧縮対象フレームに応じた時刻および選択された他のフレームに応じた時刻の間におけるオブジェクトの3次元空間内での動きを画面に投影して、オブジェクトの画面内での動きベクトルを算出する動き算出部と、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮する圧縮部とを備えるシステム、及び当該システムとしてコンピュータを機能させる方法ならびにプログラムを提供する。
また、本発明の第3の形態においては、3次元空間内で画面に対して相対的に移動するオブジェクトを画面に投影した動画像を圧縮するシステムであって、圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間におけるオブジェクトの3次元空間内での動きを画面に投影して、オブジェクトの画面内での動きベクトルを算出する動き算出部と、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮する圧縮部とを備え、圧縮対象フレーム中に投影される複数のオブジェクトのうち、予め定められた数未満のオブジェクトのみが他のフレーム中にも投影されていることを条件として、圧縮部は、動き補償を用いずに圧縮対象フレームを圧縮するシステム、及び当該システムとしてコンピュータを機能させる方法ならびにプログラムを提供する。
お、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る情報提供システム10の構成を示す。情報提供システム10は、3次元空間内における1又は複数の3次元のオブジェクトを、ユーザが用いるクライアント装置20のディスプレイ上に表示する。情報提供システム10は、一例として、3次元空間内におけるユーザの視点と、3次元空間内に存在するオブジェクトとの間の相対的な移動に伴う動きを動画像として表示する。
例えば、情報提供システム10は、1または複数のユーザが仮想空間で移動等をする仮想世界をシュミュレーションするものであってよい。そして、3次元空間内のオブジェクトは、仮想世界内におけるユーザの分身として機能するアバター、および、仮想世界に存在するその他のキャラクターまたは物体等であってよい。
情報提供システム10は、クライアント装置20と、サーバ装置30とを備える。クライアント装置20は、入力部22と、展開部24と、表示部26とを有する。
クライアント装置20は、ユーザにより入力された入力データを受け付けて、受け付けた入力データをサーバ装置30に送信する。展開部24は、サーバ装置30が出力した圧縮画像データを受信する。そして、展開部24は、受信した圧縮画像データを、非圧縮の動画像データに展開する。表示部26は、展開部24により展開された非圧縮の動画像データを表示する。
サーバ装置30は、仮想的な3次元空間内で移動する1又は複数の3次元のオブジェクトに対するデータ処理を実行する。サーバ装置30は、一例として、クライアント装置20からの指示等に応じて、3次元空間内におけるオブジェクトの位置を移動させる処理を実行してよい。
さらに、サーバ装置30は、当該3次元空間内に設けられた画面(以下、スクリーン)に対して相対的に移動するオブジェクトを、スクリーンに投影した動画像を生成する。サーバ装置30は、一例として、ユーザを表わすオブジェクト(例えば、アバター)の視野に応じて、3次元空間内にスクリーンを設定してよい。さらに、サーバ装置30は、一例として、ユーザを表わすオブジェクトの視点の移動または視野の変更等に応じて、3次元空間内におけるスクリーンの位置および大きさを設定してよい。そして、サーバ装置30は、生成した動画像を圧縮した圧縮画像データを生成する。
動画像を生成する処理において、サーバ装置30は、生成すべき動画像の各画面(フレーム)に応じた各時刻において、各オブジェクトをスクリーンに投影し、オブジェクトの2次元画像を生成する。そして、サーバ装置30は、各フレームに応じた各時刻においてスクリーンに投影されたオブジェクトの2次元画像に基づき動画像を生成し、動画像を圧縮した圧縮動画像データをクライアント装置20に送信する。なお、3次元空間内のオブジェクトをスクリーンに投影する方法としては、レイトレーシング法、Zバッファ法等の技術が広く知られているので、本願と関連性が高い点を除いて説明を省略する。
サーバ装置30は、3次元データ処理部32と、フレーム画像生成部34と、動き算出部36と、圧縮部38とを有する。3次元データ処理部32は、3次元空間内でのオブジェクトの移動等のデータ処理を行う。3次元データ処理部32は、一例として、3次元空間内におけるオブジェクトの位置、大きさ、形状、速度ベクトル(移動速度、移動方向を表わす情報)、テクスチャ等を表わす数値データの処理をしてよい。3次元データ処理部32は、一例として、複数のクライアント装置20からの指示に応じて、3次元空間内の複数のオブジェクトの位置、大きさ、形状、速度ベクトル(移動速度、移動方向を表わす情報)、テクスチャ等を表わす数値データを、同時に変更してよい。
フレーム画像生成部34は、動画像の各フレームに応じた各時刻において3次元データ処理部32により処理されている3次元空間内の各オブジェクトを、順次にスクリーンに投影して動画像を生成する。フレーム画像生成部34は、一例として、クライアント装置20等により設定された3次元空間内の視点および視野角に応じて、スクリーンの位置および大きさを設定してよい。また、フレーム画像生成部34は、3次元データ処理部32から、3次元空間内の各オブジェクトの位置、大きさ、形状、テクスチャ等を表わす数値データを受け、これらに応じてスクリーンに投影された画像を生成してよい。
動き算出部36は、フレーム画像生成部34により生成された動画像の各フレームの動きベクトルを算出する。動き算出部36は、動画像の一画面(フレーム)を複数の領域に分割し、分割した複数の領域のそれぞれに対応付けて動きベクトルを算出する。動き算出部36は、一例として、フレームを複数の矩形ブロックに分割し、分割した複数の矩形ブロックに対応付けて動きベクトルを算出してよい。
動きベクトルは、動画像中の圧縮対象となっている一のフレーム(圧縮対象フレーム)内の当該動きベクトルに対応付けられた領域の画像に近似する、現時点において圧縮対象ではない他のフレーム内の画像の位置を指定するベクトルである。なお、動きベクトルにより領域が指定される他のフレームは、圧縮対象フレームよりも時間的に前のフレームであっても、時間的に後のフレームであってもよい。また、1つの圧縮対象フレームに対して、時間的に前の他のフレームおよび時間的に後の他のフレームの双方向の動きベクトルが算出されてもよい。
さらに、動き算出部36は、圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間におけるオブジェクトの3次元空間内での動きをスクリーンに投影して、オブジェクトのスクリーン内での動きベクトルを算出する。動き算出部36は、一例として、スクリーンと各オブジェクトとの3次元空間内での相対的な動きを表わす3次元の動き情報を3次元データ処理部32から取得して、取得した動き情報をスクリーン上での2次元の動きに変換することにより、動きベクトルを算出してよい。これにより、動き算出部36は、例えば圧縮対象フレームと他のフレームとの画像相関を演算して動きベクトルを算出する場合と比較して、非常に少ない演算量で動きベクトルを算出することができる。
圧縮部38は、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮する。すなわち、圧縮部38は、フレーム画像生成部34が生成した未圧縮の動画像を、動きベクトルに基づく動き補償を用いた動画像圧縮方式によりフレーム毎に圧縮する。圧縮部38は、一例として、MPEG−1、MPEG−2、MPEG−4、H.264等の動画像圧縮方式を用いて、圧縮部38が出力した動画像データを圧縮して圧縮画像データを生成してよい。そして、圧縮部38は、生成した圧縮画像データをクライアント装置20に送信する。
以上のように、情報提供システム10は、オブジェクトの3次元空間内での動きをスクリーンに投影して、オブジェクトのスクリーン内での動きベクトルを算出する。これにより、情報提供システム10によれば、精度良い動きベクトルを少ない演算量で算出することができる。
図2は、本実施形態に係るサーバ装置30の構成の一例を示す。なお、図2において、3次元データ処理部32の図示は省略する。
フレーム画像生成部34は、一例として、頂点処理部42と、ピクセル処理部44とを含んでよい。頂点処理部42は、3次元データ処理部32において処理されている3次元空間内の各オブジェクトの頂点の位置(例えば、オブジェクトの表面位置)を表わす情報を受け取る。そして、頂点処理部42は、受け取った頂点を表わす情報をスクリーンに投影して、スクリーン上におけるオブジェクトの頂点を表わす情報に変換する。これにより、頂点処理部42は、3次元空間内のオブジェクトをスクリーンに投影した場合のオブジェクトの形状を算出することができる。なお、頂点処理部42は、一例として、3次元空間内の複数のオブジェクトが視点から見て前後に重複している場合には、スクリーンに対して最も前面に位置するオブジェクトの頂点を選択して、スクリーンに投影された各オブジェクトの形状を算出してよい。
ピクセル処理部44は、3次元データ処理部32において処理されている3次元空間内の各オブジェクトのテクスチャを表わす情報を受け取る。ピクセル処理部44は、頂点処理部42により生成されたオブジェクトの形状に対して対応するテクスチャを割り当てて、各ピクセルのカラー情報を生成する。そして、頂点処理部42およびピクセル処理部44は、以上の処理をフレーム毎に実行する。このようにして、フレーム画像生成部34は、各オブジェクトをスクリーンに投影した未圧縮の動画像を生成することができる。
動き算出部36は、3次元データ処理部32、頂点処理部42およびピクセル処理部44から情報を受けて、動きベクトルを算出する。動き算出部36の詳細の動作フローについては、図3において説明する。
圧縮部38は、一例として、残差算出部46と、画像圧縮部48と、動き補償部50と、符号化部52とを含んでよい。残差算出部46は、圧縮対象フレームの、未圧縮画像が動き算出部36から与えられる。また、残差算出部46は、圧縮対象フレームの予測画像が動き補償部50から与えられる。残差算出部46は、圧縮対象フレームについて、未圧縮画像から予測画像を減じた差分画像(予測残差画像)を算出する。
画像圧縮部48は、残差算出部46により算出された差分画像を圧縮する。画像圧縮部48は、一例として、DCT変換および量子化処理により、差分画像を圧縮してよい。
動き補償部50は、画像圧縮部48により圧縮された差分画像を圧縮されていない差分画像(参照画像)に展開する。動き補償部50は、一例として、逆量子化処理および逆DCT変換により、圧縮された差分画像を非圧縮の差分画像に展開してよい。
動き補償部50は、動きベクトルに基づく動き補償を行って、圧縮対象フレームの予測画像を生成する。すなわち、動き補償部50は、圧縮対象フレームを複数に分割したそれぞれの領域(例えば矩形ブロック)の画像を、当該領域に対応付けられた動きベクトルにより指定された他のフレーム(参照画像)上の画像に基づき生成する。そして、動き補償部50は、生成した予測画像を残差算出部46に与える。
符号化部52は、画像圧縮部48により圧縮された差分画像、動き算出部36により算出された動きベクトルおよびその他の制御データのそれぞれを可変長符号化する。そして、符号化部52は、可変長符号化した差分画像、動きベクトルおよび制御データを多重化した圧縮画像データを生成する。
このような圧縮部38は、動きベクトルに基づく動き補償を用いた動画像圧縮方式により、フレーム画像生成部34により生成された未圧縮の動画像データを圧縮画像データに変換することができる。すなわち、圧縮部38は、圧縮対象フレームに投影されたオブジェクトを含む領域の画像から、当該領域に対応付けられた動きベクトルにより指定される他のフレームにおける領域の画像を、減じた差分画像を圧縮することができる。
図3は、本実施形態に係る動き算出部36の処理フローの一例を示す。動き算出部36は、フレーム毎に、ステップS11〜ステップS15の処理を繰返し実行する。
まず、動き算出部36は、圧縮対象フレームを複数の領域に分割する(S11)。動き算出部36は、一例として、4×4、4×8、8×8、16×16ピクセル等の矩形ブロックに分割してよい。
続いて、動き算出部36は、分割した複数の領域のうち1つの領域を選択する(S12)。続いて、動き算出部36は、選択された領域に投影されたオブジェクトを特定して、特定したオブジェクトについての3次元空間内の動きを表わす動き情報(3次元空間内での速度ベクトル等)を取得する(S13)。
続いて、動き算出部36は、3次元の動き情報をスクリーン上の2次元座標系に投影して、スクリーン上での2次元の動きを表わす動きベクトルを算出する(S14)。そして、動き算出部36は、算出した動きベクトルを、選択された領域に対応付ける。なお、ここで、3次元空間内に複数のオブジェクトが存在する場合、動き算出部36は、一例として、選択された領域に、当該領域に対して最も前面に位置するオブジェクトについて算出した動きベクトルを対応付けてよい。これにより、動き算出部36は、視点から見て前後に複数のオブジェクトが重複している場合にも、スクリーン上に投影されるオブジェクトの動きを、動きベクトルに反映させることができる。
続いて、動き算出部36は、全領域について、ステップS12〜14の処理を終えたか否かを判断する(S15)。動き算出部36は、全領域について処理を終えてない場合には(S15のNO)、処理をステップS12に戻して次の領域について処理を実行する。そして、動き算出部36は、全領域について処理を終えた場合には(S15のYES)、当該フレームについて処理を終了する。以上の処理により、動き算出部36は、フレーム内の全ての領域についての動きベクトルを算出することができる。
図4は、3次元空間内での一のオブジェクト300の動き、および、スクリーン200上での当該一のオブジェクト300の動きの一例を示す。図4に示される3次元空間内において、視点は、当該3次元空間の原点((x,y,z)=(0,0,0))に設けられる。また、図4に示される3次元空間内において、スクリーン200は、Z軸に対して垂直であって、視点(原点)から所定距離(スクリーン距離S)離れた位置に設けられる。
また、オブジェクト300は、圧縮対象フレームに応じた時刻において、3次元空間内における任意の座標(x,y,z)に位置する。また、オブジェクト300は、圧縮対象フレームに応じた時刻において、任意の速度ベクトル(Vx1,Vy1,Vz1)で移動する。なお、Vx1は3次元空間内におけるX軸方向の速度を表わす。また、Vy1は3次元空間内におけるY軸方向の速度を表わす。また、Vz1は3次元空間内におけるZ方向の速度を表わす。
このような場合において、フレーム画像生成部34は、圧縮対象フレームに応じた時刻における、オブジェクト300の3次元空間内における座標(x,y,z)を、3次元データ処理部32から取得する。そして、フレーム画像生成部34は、スクリーン200上に投影されたスクリーン200の座標(x,y)を、下記式(1)のように算出する。
(x,y)=((S/z)×x,(S/z)×y)) …(1)
このように、フレーム画像生成部34は、スクリーン距離Sを視点からオブジェクト300までのz軸上の距離zで割った値(S/z)を、オブジェクト300のx座標(x)およびy座標(y)に乗じることにより、スクリーン200上に投影されたオブジェクト300の座標(x,y)を算出する。これにより、フレーム画像生成部34は、オブジェクト300をスクリーン200に投影した画像を生成することができる。
また、このような場合において、動き算出部36は、圧縮対象フレームに応じた時刻における、オブジェクト300の3次元空間内における座標(x,y,z)および速度ベクトル(Vx1,Vy1,Vz1)を、3次元データ処理部32から取得する。そして、動き算出部36は、一例として、スクリーン200上に投影されたオブジェクト300の動きベクトルを、下記式(2)のように算出してよい。なお、式(2)において、dtは、圧縮対象フレームと他のフレームとの間の時間差を表わす。
Figure 0005039921
このように、動き算出部36は、他のフレームに応じた時刻においてスクリーン200に投影されたオブジェクト300の当該スクリーン200上の座標から、圧縮対象フレームに応じた時刻においてスクリーン200に投影されたオブジェクト300の当該スクリーン200上の座標へ向かう動きベクトルを算出する。これにより、動き算出部36は、オブジェクト300の3次元空間内での動きをスクリーン200に投影して、当該オブジェクト300のスクリーン200内での動きベクトルを算出することができる。
図5は、オブジェクトの識別情報を圧縮対象フレームのそれぞれの領域に対応付ける処理の一例を示す。3次元空間内に複数のオブジェクトが存在する場合において、フレーム画像生成部34は、一例として、3次元空間内の複数のオブジェクトをスクリーン200に投影して圧縮対象フレームを生成してよい。そして、フレーム画像生成部34は、一例として、圧縮対象フレームの各ピクセルまたは各領域毎に、当該ピクセルまたは当該領域に対して最も前面に位置するオブジェクトの識別情報を対応付けてよい。
フレーム画像生成部34は、一例として、図5に示されるような複数のオブジェクト300−1、300−2、300−3のそれぞれの識別情報(A,B,C)および頂点位置を表わす情報を、3次元データ処理部32から取得する。続いて、フレーム画像生成部34は、圧縮対象フレームの各ピクセルまたは各領域毎に、これら複数のオブジェクト300−1、300−2、300−3のそれぞれの頂点位置を表わす情報に基づき、当該ピクセルまたは当該領域に対して最も前面に位置するオブジェクトを特定する。そして、フレーム画像生成部34は、圧縮対象フレームの各ピクセルまたは各領域のそれぞれに対して、特定したオブジェクトの識別情報(A,B,C)を対応付ける。
動き算出部36は、圧縮対象フレームの各領域の動きベクトルを算出する場合に、当該領域または当該領域内の各ピクセルに対応付けられた識別情報から当該領域に投影されたオブジェクトを特定する。そして、動き算出部36は、特定されたオブジェクトの3次元空間内での動きをスクリーン200に投影して動きベクトルを算出する。これにより、動き算出部36は、視点から見て前後に複数のオブジェクトが重複している場合に、スクリーン上に投影されるオブジェクトの動きを、動きベクトルに反映させることができる。
図6は、オブジェクトの動きを圧縮対象フレームのそれぞれの領域に対応付ける処理の一例を示す。3次元空間内の複数のオブジェクトをスクリーン200に投影して圧縮対象フレームを生成する場合、フレーム画像生成部34は、一例として、圧縮対象フレームの各ピクセルまたは各領域毎に、当該ピクセルまたは当該領域に対して最も前面に位置するオブジェクトの3次元空間内での動きを対応付けてもよい。フレーム画像生成部34は、一例として、オブジェクトの速度ベクトル等を、オブジェクトの3次元空間内での動きとして、ピクセルまたは領域に対応付けてよい。
フレーム画像生成部34は、一例として、図6に示されるような複数のオブジェクト300−1、300−2、300−3のそれぞれの動き情報(M、M、M)および頂点位置を表わす情報を、3次元データ処理部32から取得する。続いて、フレーム画像生成部34は、複数のオブジェクト300−1、300−2、300−3のそれぞれの頂点位置を表わす情報から、圧縮対象フレームの各ピクセルまたは各領域毎に、当該ピクセルまたは当該領域に対して最も前面に位置するオブジェクトを特定する。そして、フレーム画像生成部34は、圧縮対象フレームの各ピクセルまたは各領域のそれぞれに対して、特定したオブジェクトの動き情報(M、M、M)を対応付ける。
動き算出部36は、圧縮対象フレームの各領域の動きベクトルを算出する場合に、当該領域または当該領域内の各ピクセルに対応付けられた3次元空間内での動きをスクリーン200に投影して動きベクトルを算出する。これにより、動き算出部36は、視点から見て前後に複数のオブジェクトが重複している場合に、スクリーン上に投影されるオブジェクトの動きを、動きベクトルに反映させることができる。
図7は、本実施形態の第1変形例に係るサーバ装置30の構成を示す。図8は、動きベクトルの調整の一例を示す。なお、図7において、3次元データ処理部32の図示は省略する。また、本変形例に係る情報提供システム10は、図1〜図4を参照して説明した本実施形態に係る情報提供システム10と略同一の構成および機能を採るので、図1〜図4を参照して説明した部材と略同一の構成および機能の部材に同一の符号を付け、以下相違点を除き説明を省略する。なお、図8において、動きベクトルは、他のフレームから圧縮対象フレームに向かう方向に表わされるが、圧縮方式に応じて逆方向に表わされるものであってもよい。
本変形例に係るサーバ装置30は、調整部60を更に有する。調整部60は、動き算出部36により算出された動きベクトルを受け取る。調整部60は、圧縮対象フレームに投影されたオブジェクトを含む領域の画像と、他のフレームにおける動きベクトルにより指定される領域の画像とをより一致させるように動きベクトルを調整する。そして、調整部60は、調整後の動きベクトルを圧縮部38に与える。
調整部60は、一例として、圧縮対象フレームに投影されたオブジェクトを含む領域(例えば矩形ブロック)の画像と、他のフレームにおける動きベクトルにより指定される領域(例えば矩形ブロック)を予め定められたピクセル数の範囲でずらした各領域の画像とを比較する。調整部60は、一例として、圧縮対象フレームの各領域に対応付けられた各動きベクトルについて、圧縮対象フレームにおける対応する領域の画像と、当該動きベクトルにより指定される他のフレームの領域を左右および上下に数ピクセルの範囲でずらした複数の領域の画像のそれぞれとの一致度を算出する。なお、調整部60は、当該動きベクトルにより指定される他のフレームの領域を、1ピクセル単位でずらしてもよいし、0.5ピクセル等の1ピクセル未満の単位でずらしてもよい。そして、調整部60は、画像が最も一致する他のフレーム上の領域を指定するように動きベクトルを変更する。
これにより、本変形例に係る調整部60によれば、より精度の良い動きベクトルを圧縮部38に与えることができる。さらに、調整部60は、動き算出部36によって精度の良い動きベクトルが既に算出されているので、他のフレーム上において領域をずらす範囲を少なくすることができる。従って、本変形例に係るサーバ装置30によれば、少ない演算量で、より精度の良い動きベクトルを算出することができる。
図9は、本実施形態の第2変形例に係るサーバ装置30の構成を示す。なお、図9において、3次元データ処理部32の図示は省略する。また、本変形例に係る情報提供システム10は、図1〜図4を参照して説明した本実施形態に係る情報提供システム10と略同一の構成および機能を採るので、図1〜図4を参照して説明した部材と略同一の構成および機能の部材に同一の符号を付け、以下相違点を除き説明を省略する。
本変形例に係る圧縮部38は、形状符号化部62を更に含む。また、本変形例に係るサーバ装置30は、形状算出部64と、選択部66とを更に有する。
形状符号化部62は、圧縮対象フレームの形状を示す形状情報を生成する。例えばMPEG−4等の動画像圧縮方式では、矩形画像に代えて、任意形状の画像を圧縮符号化することができる。形状符号化部62は、当該圧縮部38が任意形状の画像を圧縮符号化する方式の場合において、画像の形状を表わす形状情報を生成することができる。
本変形例に係る符号化部52は、画像圧縮部48により圧縮された差分画像、動きベクトルおよび制御データに加えて、形状符号化部62により生成された形状情報を可変長符号化する。そして、符号化部52は、可変長符号化された差分画像、動きベクトル、制御データおよび形状情報を多重化した圧縮画像データを出力する。これにより、圧縮部38は、動きベクトルおよび形状に基づく動き補償により圧縮対象フレームを圧縮することができる。なお、圧縮部38は、動きベクトルを利用した動き補償を行わずに、画像圧縮部48による画像圧縮および形状符号化部62による形状符号化を用いて画像圧縮を行ってもよい。
形状算出部64は、圧縮対象フレームに応じた時刻におけるオブジェクトの3次元空間内での形状をスクリーンに投影して、スクリーン200内に投影されたオブジェクトの形状を算出する。形状算出部64は、一例として、3次元データ処理部32において処理されている3次元空間内の各オブジェクトの頂点位置を表わす情報を受け取る。そして、形状算出部64は、一例として、スクリーンに対して最も前面に位置するオブジェクトの頂点を選択することにより、スクリーンに投影された各オブジェクトの形状を算出してよい。
形状算出部64は、算出した形状を形状符号化部62に与える。そして、形状符号化部62は、形状算出部64から与えられた形状に基づき、圧縮対象フレームにより表わされる画像の形状を示す形状情報を生成する。これにより、形状符号化部62によれば、少ない演算量で、任意形状の画像の形状を表わす形状情報を生成することができる。
図10は、連続する複数のフレームに応じた各時刻における、回転するオブジェクト300−4の姿勢を示す。第2変形例において、動き算出部36は、圧縮対象フレームに応じた時刻、および複数の他のフレームのそれぞれに応じた時刻の間におけるオブジェクトの3次元空間内での動きをスクリーン200に投影して、複数の他のフレームのそれぞれの領域を指定する複数の動きベクトルを算出する。
選択部66は、動き算出部36が算出した複数の動きベクトルにより指定される複数の他のフレームのうち、対応する動きベクトルにより指定される領域の画像が、圧縮対象フレームに投影されたオブジェクトを含む領域の画像と最も一致する他のフレームを選択する。選択部66は、一例として、複数の他のフレームのそれぞれについて、対応する動きベクトルにより指定される領域の画像と、圧縮対象フレームの当該動きベクトルが対応付けられた領域の画像との一致度を算出する。そして、選択部66は、最も一致度の高い他のフレームを選択する。
そして、本変形例において、圧縮部38は、選択部66が選択した他のフレームおよび当該他のフレームに対応する動きベクトルに基づく動き補償により圧縮対象フレームを圧縮する。このような、圧縮部38は、圧縮対象フレームと最も相関の高いフレームを用いて、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮することができる。例えば図10に示されるようにオブジェクト300−4が回転している場合であっても、圧縮部38は、最も相関の高いフレームを用いて、動きベクトルに基づく動き補償により圧縮対象フレームを圧縮することができる。これにより、圧縮部38によれば、3次元空間内のオブジェクトをスクリーンに投影した動画像を、効率良く圧縮することができる。
また、以上に代えて、選択部66は、一例として、動き算出部36が算出した複数の動きベクトルにより指定される複数の他のフレームのうち、オブジェクトの向きが圧縮対象フレームにおけるオブジェクトの向きにより近い他のフレームを選択してもよい。すなわち、選択部66は、動き算出部36が算出した複数の動きベクトルにより指定される複数の他のフレームのうち、対応する時刻の3次元空間内におけるオブジェクトの姿勢が、圧縮対象フレームに応じた時刻におけるオブジェクトの3次元空間内における姿勢に、より近い他のフレームを選択してもよい。この場合も、圧縮部38によれば、3次元空間内のオブジェクトをスクリーンに投影した動画像を、効率良く圧縮することができる。
図11は、3次元空間内に設けられた複数のスクリーン200(例えば、第1のスクリーン200−1および第2のスクリーン200−2)と、複数のスクリーン200に投影される一のオブジェクト300−5とを示す。当該情報提供システム10は、3次元空間内の一のオブジェクト300−5を複数のスクリーン200(例えば第1のスクリーン200−1および第1のスクリーン200−2)のそれぞれに投影した複数の動画像のそれぞれを圧縮するものであってよい。情報提供システム10は、一例として、異なる複数のクライアント装置20により個別にスクリーン200が設定され、これら複数のスクリーン200のそれぞれに投影した複数の動画像を圧縮するものであってよい。
この場合において、動き算出部36は、オブジェクト300−5が第1のスクリーン200−1および第2のスクリーン200−2から予め指定された距離以上離れていることを条件として、当該オブジェクト300−5の動きを第1のスクリーン200−1に投影した動きベクトルを、第2のスクリーン200−2における当該オブジェクト300−5の動きベクトルとして共用してよい。動き算出部36は、一例として、オブジェクト300−5の3次元空間内における位置、第1のスクリーン200−1および第2のスクリーン200−2の位置を、3次元データ処理部32から取得して、オブジェクト300−5が第1のスクリーン200−1および第2のスクリーン200−2から予め指定された距離以上離れているか否かを判断してよい。このような動き算出部36によれば、複数の動画像を圧縮する場合において、動きベクトルを算出するための演算量を少なくすることができる。
図12は、他のフレームに応じた時刻においてスクリーン200に投影された複数のオブジェクト300(300−6、300−7)、および、圧縮対象フレームに応じた時刻においてスクリーン200に投影された複数のオブジェクト300(300−6、300−8〜300−10)を示す。スクリーンに投影されるオブジェクトの数は、時刻の経過に応じて変化する。従って、圧縮対象フレームに応じた時刻においてスクリーン200に投影されているオブジェクトであっても、他のフレームに応じた時刻においてスクリーン200に投影されていない場合がある。このような場合、圧縮部38は、動きベクトルを用いずに圧縮する方が(すなわち、動きベクトルを用いた動き補償をせずに動画像を圧縮する方が)、圧縮後のデータ量をより小さくできうる。さらに、全く異なるシーンに遷移する場合に、フレーム間圧縮を行わない画像(例えば、MPEGのIピクチャ)を生成して、シーンの区切りを適切に示すことができる。
そこで、圧縮部38は、一例として、圧縮対象フレーム中に投影される複数のオブジェクトのうち、予め定められた数未満のオブジェクトのみが他のフレーム中にも投影されていることを条件として、動き補償を用いずに圧縮対象フレームを圧縮してよい。ここで、予め定められた数は、一例として、圧縮対象フレーム中に投影される複数のオブジェクトの数と比較して小さい数であってよい。これにより、圧縮部38は、3次元空間内のオブジェクトをスクリーンに投影した動画像を、効率良く圧縮することができる。
図13は、本実施形態の第3変形例に係る情報提供システム10の構成を示す。本変形例に係る情報提供システム10は、図1〜図4を参照して説明した本実施形態に係る情報提供システム10と略同一の構成および機能を採るので、図1〜図4を参照して説明した部材と略同一の構成および機能の部材に同一の符号を付け、以下相違点を除き説明を省略する。
本変形例に係る情報提供システム10は、プロキシサーバ装置70を更に備えてよい。プロキシサーバ装置70は、プロキシサーバ内3次元データ処理部72と、フレーム画像生成部34と、動き算出部36と、圧縮部38とを有する。プロキシサーバ内3次元データ処理部72は、3次元空間内におけるオブジェクトの位置、大きさ、形状、速度ベクトル、テクスチャ等を表わす数値データをサーバ装置30の3次元データ処理部32から受け、フレーム画像生成部34および動き算出部36に受け渡す。
このような、プロキシサーバ装置70は、サーバ装置30に代わって、スクリーンに対して相対的に移動するオブジェクトを、スクリーンに投影した動画像を生成し、生成した動画像を圧縮した圧縮画像データを生成する処理を実行する。そして、プロキシサーバ装置70は、生成した圧縮画像データを、サーバ装置30に代わってクライアント装置20に対して送信する。
このような情報提供システム10によれば、サーバ装置30の処理負担を軽減することができる。また、このような情報提供システム10によれば、例えば携帯電話会社がプロキシサーバ装置70を提供することにより、圧縮画像データを携帯電話回線を介してクライアント装置20に提供することができる。
図14は、本実施形態に係るコンピュータ1900のハードウェア構成の一例を示す。本実施形態に係るコンピュータ1900は、ホスト・コントローラ2082により相互に接続されるCPU2000、RAM2020、グラフィック・コントローラ2075、及び表示装置2080を有するCPU周辺部と、入出力コントローラ2084によりホスト・コントローラ2082に接続される通信インターフェイス2030、ハードディスクドライブ2040、及びCD−ROMドライブ2060を有する入出力部と、入出力コントローラ2084に接続されるROM2010、フレキシブルディスク・ドライブ2050、及び入出力チップ2070を有するレガシー入出力部とを備える。
ホスト・コントローラ2082は、RAM2020と、高い転送レートでRAM2020をアクセスするCPU2000及びグラフィック・コントローラ2075とを接続する。CPU2000は、ROM2010及びRAM2020に格納されたプログラムに基づいて動作し、各部の制御を行う。グラフィック・コントローラ2075は、CPU2000等がRAM2020内に設けたフレーム・バッファ上に生成する画像データを取得し、表示装置2080上に表示させる。これに代えて、グラフィック・コントローラ2075は、CPU2000等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。
入出力コントローラ2084は、ホスト・コントローラ2082と、比較的高速な入出力装置である通信インターフェイス2030、ハードディスクドライブ2040、CD−ROMドライブ2060を接続する。通信インターフェイス2030は、ネットワークを介して他の装置と通信する。ハードディスクドライブ2040は、コンピュータ1900内のCPU2000が使用するプログラム及びデータを格納する。CD−ROMドライブ2060は、CD−ROM2095からプログラム又はデータを読み取り、RAM2020を介してハードディスクドライブ2040に提供する。
また、入出力コントローラ2084には、ROM2010と、フレキシブルディスク・ドライブ2050、及び入出力チップ2070の比較的低速な入出力装置とが接続される。ROM2010は、コンピュータ1900が起動時に実行するブート・プログラムや、コンピュータ1900のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ2050は、フレキシブルディスク2090からプログラム又はデータを読み取り、RAM2020を介してハードディスクドライブ2040に提供する。入出力チップ2070は、フレキシブルディスク・ドライブ2050や、例えばパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。
RAM2020を介してハードディスクドライブ2040に提供されるプログラムは、フレキシブルディスク2090、CD−ROM2095、又はICカード等の記録媒体に格納されて利用者によって提供される。プログラムは、記録媒体から読み出され、RAM2020を介してコンピュータ1900内のハードディスクドライブ2040にインストールされ、CPU2000において実行される。
コンピュータ1900にインストールされ、コンピュータ1900をサーバ装置30として機能させるプログラムは、3次元データ処理モジュールと、フレーム画像生成モジュールと、動き算出モジュールと、圧縮モジュールとを備える。これらのプログラム又はモジュールは、CPU2000等に働きかけて、コンピュータ1900を、3次元データ処理部32、フレーム画像生成部34、動き算出部36および圧縮部38としてそれぞれ機能させる。
以上に示したプログラム又はモジュールは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク2090、CD−ROM2095の他に、DVDやCD等の光学記録媒体、MO等の光磁気記録媒体、テープ媒体、ICカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークやインターネットに接続されたサーバシステムに設けたハードディスク又はRAM等の記憶装置を記録媒体として使用し、ネットワークを介してプログラムをコンピュータ1900に提供してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
図1は、本実施形態に係る情報提供システム10の構成を示す。 図2は、本実施形態に係るサーバ装置30の構成の一例を示す。 図3は、本実施形態に係る動き算出部36の処理フローの一例を示す。 図4は、3次元空間内での一のオブジェクト300の動き、および、スクリーン200上での当該一のオブジェクト300の動きの一例を示す。 図5は、オブジェクトの識別情報を圧縮対象フレームのそれぞれの領域に対応付ける処理の一例を示す。 図6は、オブジェクトの動きを圧縮対象フレームのそれぞれの領域に対応付ける処理の一例を示す。 図7は、本実施形態の第1変形例に係るサーバ装置30の構成を示す。 図8は、動きベクトルの調整の一例を示す。 図9は、本実施形態の第2変形例に係るサーバ装置30の構成を示す。 図10は、連続する複数のフレームに応じた各時刻における、回転するオブジェクト300−4の姿勢を示す。 図11は、3次元空間内に設けられた複数のスクリーン200(例えば、第1のスクリーン200−1および第2のスクリーン200−2)と、複数のスクリーン200に投影される一のオブジェクト300−5とを示す。 図12は、他のフレームに応じた時刻においてスクリーン200に投影された複数のオブジェクト300(300−6、300−7)、および、圧縮対象フレームに応じた時刻においてスクリーン200に投影された複数のオブジェクト300(300−6、300−8〜300−10)を示す。 図13は、本実施形態の第3変形例に係る情報提供システム10の構成を示す。 図14は、本実施形態に係るコンピュータ1900のハードウェア構成の一例を示す。
符号の説明
10 情報提供システム
20 クライアント装置
22 入力部
24 展開部
26 表示部
30 サーバ装置
32 3次元データ処理部
34 フレーム画像生成部
36 動き算出部
38 圧縮部
42 頂点処理部
44 ピクセル処理部
46 残差算出部
48 画像圧縮部
50 動き補償部
52 符号化部
60 調整部
62 形状符号化部
64 形状算出部
66 選択部
70 プロキシサーバ装置
72 プロキシサーバ内3次元データ処理部
200 スクリーン
300 オブジェクト
1900 コンピュータ
2000 CPU
2010 ROM
2020 RAM
2030 通信インターフェイス
2040 ハードディスクドライブ
2050 フレキシブルディスク・ドライブ
2060 CD−ROMドライブ
2070 入出力チップ
2075 グラフィック・コントローラ
2080 表示装置
2082 ホスト・コントローラ
2084 入出力コントローラ
2090 フレキシブルディスク
2095 CD−ROM

Claims (15)

  1. 3次元空間内で画面に対して相対的に移動するオブジェクトを複数の前記画面のそれぞれに投影した複数の動画像のそれぞれを圧縮するシステムであって、
    圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出部と、
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮部と
    を備え
    前記動き算出部は、前記オブジェクトが第1の前記画面および第2の前記画面から予め指定された距離以上離れていることを条件として、当該オブジェクトの動きを前記第1の画面に投影した前記動きベクトルを、前記第2の画面における当該オブジェクトの前記動きベクトルとして共用するシステム。
  2. 3次元空間内で画面に対して相対的に移動するオブジェクトを前記画面に投影した動画像を圧縮するシステムであって、
    前記オブジェクトの向きが圧縮対象フレームにおける前記オブジェクトの向きにより近い他のフレームを複数の前記他のフレームの中から選択する選択部と、
    前記圧縮対象フレームに応じた時刻および選択された前記他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出部と、
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮部と
    を備えるシステム。
  3. 3次元空間内で画面に対して相対的に移動するオブジェクトを前記画面に投影した動画像を圧縮するシステムであって、
    圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出部と、
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮部と
    を備え
    前記圧縮対象フレーム中に投影される複数の前記オブジェクトのうち、予め定められた数未満のオブジェクトのみが前記他のフレーム中にも投影されていることを条件として、前記圧縮部は、動き補償を用いずに前記圧縮対象フレームを圧縮するシステム。
  4. 前記圧縮部は、前記圧縮対象フレームに投影された前記オブジェクトを含む領域の画像から、当該領域に対応付けられた前記動きベクトルにより指定される前記他のフレームにおける領域の画像を、減じた差分画像を圧縮する請求項1から3のいずれか1項に記載のシステム。
  5. 前記圧縮対象フレームに投影された前記オブジェクトを含む領域の画像と、前記他のフレームにおける前記動きベクトルにより指定される領域の画像とをより一致させるように前記動きベクトルを調整する調整部を更に備える請求項1から4のいずれか1項に記載のシステム。
  6. 前記調整部は、前記圧縮対象フレームに投影された前記オブジェクトを含む領域の画像と、前記他のフレームにおける前記動きベクトルにより指定される領域を予め定められたピクセル数の範囲でずらした各領域の画像とを比較し、画像が最も一致する前記他のフレーム上の領域を指定するように前記動きベクトルを変更する請求項5に記載のシステム。
  7. 3次元空間内の複数の前記オブジェクトを画面に投影して前記圧縮対象フレームを生成するフレーム画像生成部を更に備え、
    前記フレーム画像生成部は、前記圧縮対象フレームの各ピクセルまたは各領域毎に、当該ピクセルまたは当該領域に対して最も前面に位置する前記オブジェクトの識別情報を対応付け、
    前記動き算出部は、前記圧縮対象フレームの各領域の前記動きベクトルを算出する場合に、当該領域または当該領域内の各ピクセルに対応付けられた識別情報から当該領域に投影されたオブジェクトを特定し、特定された前記オブジェクトの3次元空間内での動きを画面に投影して前記動きベクトルを算出する
    請求項1から6のいずれか1項に記載のシステム。
  8. 3次元空間内の複数の前記オブジェクトを画面に投影して前記圧縮対象フレームを生成するフレーム画像生成部を更に備え、
    前記フレーム画像生成部は、前記圧縮対象フレームの各ピクセルまたは各領域毎に、当該ピクセルまたは当該領域に対して最も前面に位置する前記オブジェクトの3次元空間内での動きを対応付け、
    前記動き算出部は、前記圧縮対象フレームの各領域の動きベクトルを算出する場合に、当該領域または当該領域内の各ピクセルに対応付けられた3次元空間内での動きを画面に投影して前記動きベクトルを算出する
    請求項1から6のいずれか1項に記載のシステム。
  9. 3次元空間内の複数の前記オブジェクトを画面に投影して前記圧縮対象フレームを生成するフレーム画像生成部を更に備え、
    前記動き算出部は、前記圧縮対象フレームの領域毎に、当該領域に対して最も前面に位置する前記オブジェクトについて算出した前記動きベクトルを対応付け、
    前記圧縮部は、前記圧縮対象フレームの各領域の画像を圧縮する場合に、当該領域に対応付けられた前記動きベクトルに基づく動き補償を行う
    請求項1から6のいずれか1項に記載のシステム。
  10. 圧縮対象フレームに応じた時刻における前記オブジェクトの3次元空間内での形状を画面に投影して、画面内に投影された前記オブジェクトの形状を算出する形状算出部を更に備え、
    前記圧縮部は、前記動きベクトルおよび前記形状に基づく動き補償により前記圧縮対象フレームを圧縮する
    請求項1から9のいずれか1項に記載のシステム。
  11. 前記動き算出部は、前記圧縮対象フレームに応じた時刻、および複数の前記他のフレームのそれぞれに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記複数の他のフレームのそれぞれの領域を指定する複数の前記動きベクトルを算出し、
    前記複数の他のフレームのうち、対応する前記動きベクトルにより指定される領域の画像が、前記圧縮対象フレームに投影された前記オブジェクトを含む領域の画像と最も一致する前記他のフレームを選択する選択部を更に備え、
    前記圧縮部は、選択部が選択した前記他のフレームおよび当該他のフレームに対応する前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する
    請求項1、3から10のいずれか1項に記載のシステム。
  12. コンピュータを請求項1から11のいずれか1項に記載のシステムとして機能させるプログラム。
  13. 3次元空間内で画面に対して相対的に移動するオブジェクトを複数の前記画面のそれぞれに投影した複数の動画像のそれぞれコンピュータにより圧縮する方法であって、
    圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出段階と
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮段階と
    を備え、
    前記圧縮段階において、前記オブジェクトが第1の前記画面および第2の前記画面から予め指定された距離以上離れていることを条件として、当該オブジェクトの動きを前記第1の画面に投影した前記動きベクトルを、前記第2の画面における当該オブジェクトの前記動きベクトルとして共用する方法。
  14. 3次元空間内で画面に対して相対的に移動するオブジェクトを前記画面に投影した動画像をコンピュータにより圧縮する方法であって、
    前記オブジェクトの向きが圧縮対象フレームにおける前記オブジェクトの向きにより近い他のフレームを複数の他のフレームの中から選択する選択段階と、
    前記圧縮対象フレームに応じた時刻および選択された前記他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出段階と
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮段階とを備える方法
  15. 3次元空間内で画面に対して相対的に移動するオブジェクトを前記画面に投影した動画像をコンピュータにより圧縮する方法であって、
    圧縮対象フレームに応じた時刻および他のフレームに応じた時刻の間における前記オブジェクトの3次元空間内での動きを画面に投影して、前記オブジェクトの画面内での動きベクトルを算出する動き算出段階と
    前記動きベクトルに基づく動き補償により前記圧縮対象フレームを圧縮する圧縮段階と
    を備え、
    前記圧縮段階において、前記圧縮対象フレーム中に投影される複数の前記オブジェクトのうち、予め定められた数未満のオブジェクトのみが前記他のフレーム中にも投影されていることを条件として、動き補償を用いずに前記圧縮対象フレームを圧縮する方法
JP2008019281A 2008-01-30 2008-01-30 圧縮システム、プログラムおよび方法 Active JP5039921B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008019281A JP5039921B2 (ja) 2008-01-30 2008-01-30 圧縮システム、プログラムおよび方法
US12/361,648 US8331435B2 (en) 2008-01-30 2009-01-29 Compression system, program and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008019281A JP5039921B2 (ja) 2008-01-30 2008-01-30 圧縮システム、プログラムおよび方法

Publications (2)

Publication Number Publication Date
JP2009182605A JP2009182605A (ja) 2009-08-13
JP5039921B2 true JP5039921B2 (ja) 2012-10-03

Family

ID=40954704

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008019281A Active JP5039921B2 (ja) 2008-01-30 2008-01-30 圧縮システム、プログラムおよび方法

Country Status (2)

Country Link
US (1) US8331435B2 (ja)
JP (1) JP5039921B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011019202A (ja) * 2009-07-10 2011-01-27 Sony Corp 映像信号処理装置および映像表示装置
JP5400604B2 (ja) * 2009-12-28 2014-01-29 株式会社メガチップス 画像圧縮装置および画像圧縮方法
EP2384001A1 (en) * 2010-04-29 2011-11-02 Alcatel Lucent Providing of encoded video applications in a network environment
US20130307847A1 (en) * 2010-12-06 2013-11-21 The Regents Of The University Of California Rendering and encoding adaptation to address computation and network
WO2013026048A2 (en) 2011-08-18 2013-02-21 Utherverse Digital, Inc. Systems and methods of virtual world interaction
US8913664B2 (en) * 2011-09-16 2014-12-16 Sony Computer Entertainment Inc. Three-dimensional motion mapping for cloud gaming
US9930082B2 (en) 2012-11-20 2018-03-27 Nvidia Corporation Method and system for network driven automatic adaptive rendering impedance
US10616086B2 (en) 2012-12-27 2020-04-07 Navidia Corporation Network adaptive latency reduction through frame rate control
US9819604B2 (en) 2013-07-31 2017-11-14 Nvidia Corporation Real time network adaptive low latency transport stream muxing of audio/video streams for miracast
US20160271495A1 (en) * 2014-01-09 2016-09-22 Square Enix Holdings Co., Ltd. Method and system of creating and encoding video game screen images for transmission over a network
WO2015132271A1 (en) * 2014-03-03 2015-09-11 Vsk Electronics Nv Intrusion detection with directional sensing
US9716875B2 (en) * 2015-09-18 2017-07-25 Intel Corporation Facilitating quantization and compression of three-dimensional graphics data using screen space metrics at computing devices
US11501507B2 (en) * 2018-06-26 2022-11-15 Sony Group Corporation Motion compensation of geometry information

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0877356A (ja) * 1994-09-09 1996-03-22 Fujitsu Ltd 三次元多眼画像の処理方法及び処理装置
JPH08161505A (ja) * 1994-11-30 1996-06-21 Sony Corp 動画像処理装置、動画像符号化装置および動画像復号装置
JPH09212652A (ja) * 1996-01-30 1997-08-15 Tsushin Hoso Kiko 動画像の3次元構造情報及び3次元運動情報の抽出方法
US6157396A (en) * 1999-02-16 2000-12-05 Pixonics Llc System and method for using bitstream information to process images for use in digital display systems
FI109633B (fi) * 2001-01-24 2002-09-13 Gamecluster Ltd Oy Menetelmä videokuvan pakkauksen nopeuttamiseksi ja/tai sen laadun parantamiseksi
FR2833797B1 (fr) * 2001-12-19 2004-02-13 Thomson Licensing Sa Procede d'estimation du mouvement dominant dans une sequence d'images
JP2004320804A (ja) * 2004-06-16 2004-11-11 Hitachi Ltd 可変長復号化回路及び方法

Also Published As

Publication number Publication date
US8331435B2 (en) 2012-12-11
US20090207172A1 (en) 2009-08-20
JP2009182605A (ja) 2009-08-13

Similar Documents

Publication Publication Date Title
JP5039921B2 (ja) 圧縮システム、プログラムおよび方法
US10861215B2 (en) Asynchronous time and space warp with determination of region of interest
US11978175B2 (en) Mixed reality system with color virtual content warping and method of generating virtual content using same
CN110322542B (zh) 重建真实世界3d场景的视图
EP3274966B1 (en) Facilitating true three-dimensional virtual representation of real objects using dynamic three-dimensional shapes
KR100938964B1 (ko) 3차원 컴퓨터 그래픽스의 압축을 위한 시스템 및 방법
US11270492B2 (en) Graphics processing systems
US20180192026A1 (en) Method and System for Real-Time Rendering Displaying High Resolution Virtual Reality (VR) Video
JP4004408B2 (ja) ビデオ情報圧縮方法
CA2803956C (en) Moving image distribution server, moving image reproduction apparatus, control method, program, and recording medium
CN108604391A (zh) 基于虚拟/增强现实系统中的深度信息的时间扭曲调整
EP3643059B1 (en) Processing of 3d image information based on texture maps and meshes
WO2017074961A1 (en) Foveated geometry tessellation
CN115088254A (zh) 分布式系统中的运动平滑
KR20160108158A (ko) 3차원 배경 콘텐트를 합성하는 방법 및 디바이스
TW202025088A (zh) 用於遠端呈現虛擬實境之異步空間翹曲
CN111612878B (zh) 将静态照片制作成三维效果视频的方法及装置
JP2018067106A (ja) 画像処理装置、画像処理プログラム、及び画像処理方法
WO2020006291A1 (en) Priority-based video encoding and transmission
US20070076978A1 (en) Moving image generating apparatus, moving image generating method and program therefor
CN112313954A (zh) 视频编码系统
WO2023058545A1 (ja) 情報処理装置および方法、プログラム
CN112351213B (zh) 用于有效信号处理的芯片资源上的系统动态分配
US20230401784A1 (en) Information processing apparatus, information processing method, and storage medium
US20230177763A1 (en) Method for Adapting the Rendering of a Scene

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100924

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120508

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20120509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120522

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5039921

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150720

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350