JP6019520B2 - 立体画像を生成、送信、および、受信するための方法、および関連するデバイス - Google Patents

立体画像を生成、送信、および、受信するための方法、および関連するデバイス Download PDF

Info

Publication number
JP6019520B2
JP6019520B2 JP2013553063A JP2013553063A JP6019520B2 JP 6019520 B2 JP6019520 B2 JP 6019520B2 JP 2013553063 A JP2013553063 A JP 2013553063A JP 2013553063 A JP2013553063 A JP 2013553063A JP 6019520 B2 JP6019520 B2 JP 6019520B2
Authority
JP
Japan
Prior art keywords
image
pixels
images
region
composite image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013553063A
Other languages
English (en)
Other versions
JP2014511594A (ja
Inventor
ダマト、パオロ
バロッカ、ジョヴァンニ
Original Assignee
エッセ.イ.エスヴィー.エアレ ソシアテ イタリアーナ ピエレ エレオ ヴィルプ デレレトロニカ エッセ.ピー.アー.
エッセ.イ.エスヴィー.エアレ ソシアテ イタリアーナ ピエレ エレオ ヴィルプ デレレトロニカ エッセ.ピー.アー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エッセ.イ.エスヴィー.エアレ ソシアテ イタリアーナ ピエレ エレオ ヴィルプ デレレトロニカ エッセ.ピー.アー., エッセ.イ.エスヴィー.エアレ ソシアテ イタリアーナ ピエレ エレオ ヴィルプ デレレトロニカ エッセ.ピー.アー. filed Critical エッセ.イ.エスヴィー.エアレ ソシアテ イタリアーナ ピエレ エレオ ヴィルプ デレレトロニカ エッセ.ピー.アー.
Publication of JP2014511594A publication Critical patent/JP2014511594A/ja
Application granted granted Critical
Publication of JP6019520B2 publication Critical patent/JP6019520B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/88Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving rearrangement of data among different coding units, e.g. shuffling, interleaving, scrambling or permutation of pixel data or permutation of transform coefficient data among different blocks

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、マルチメディア分野に係り、特に、立体動画ストリームを生成、送信、および受信する方法、および、関連するデバイスに係り、立体動画ストリームとは、表示デバイスで適切な処理をされることで、観察者に3次元に見える連続した画像が生成されるような動画ストリームのことをいう。
特に、本発明は、請求項1のプリアンブル部分における立体動画ストリームの生成方法に係る。
公知であるが、1つが観察者の右目、他方が観察者の左目に対する、2つの画像を再生することで、三次元の視野を達成することができる。
したがって立体動画ストリームは、1つのオブジェクトまたはシーンの右目視野および左目視野(ここではそれぞれ右目画像よび左目画像と称される)に対応する2つの画像シーケンスに関する情報をトランスポートする。
立体動画ストリームが占有する帯域を制限するために、右画像および左画像を、1つの立体動画フレームを構成する合成画像に多重化する方法が知られている。
右画像および左画像をより小さな領域に分割して、その後、合成画像に入力する、という多重化法が知られている。
たとえば、国際特許2008/153863号パンフレットは、右画像および左画像に70%のスケーリングを行う方法を開示しており、スケーリングされた画像は、次に、8x8画素のブロックに分割される。
各スケーリングされた画像のブロックは、合成画像の約半分に等しい領域にまで縮小される。
たとえば、国際特許2008/153863号パンフレットで記載されている別の方法では、各右画像および左画像に対角スケーリングを行い、原画像を平行四辺形に変形している。そして2つの平行四辺形を三角形の領域に分割して、2つの平行四辺形を分割することで得られた三角形の領域を再構成、再配置した、矩形の合成画像を合成する。左画像および右画像の三角形の領域は、これらが合成画像の対角線で分割されるように構成される。
多重化段階の後に、当業者には公知な圧縮アルゴリズム(MPEG−2およびJPEG規格)に従って立体動画ストリームを圧縮する。
これら圧縮アルゴリズムによって、合成画像が、所定の寸法を有する画素ブロックに分割される(これらは、今後マクロブロックと称する)。
マクロブロックには、空間相関性(spatial correlation)を利用するための離散コサイン変換(DCT)、隣接するフレーム間の差の符号化、時間相関性を利用するための動き補償、統計的冗長性を低減させるための可変長符号化(VLC)、および、最も重要性の低い情報を除去するためのDCT係数量子化などの、動画ストリームのビットレートを低減することを目的とする一連の処理段階(たとえば、)が行われる。
H.264規格の場合には、ブロックを二乗(square)して、16x16画素のサイズを有するようにして、別の規格では、別のサイズのマクロブロックを利用する(たとえば、MPEG−2およびJPEG規格では8x8画素を利用する)。
本願の出願人が実行したいくつかの実験的な分析では、マクロブロックへの分割が利用される圧縮アルゴリズムを、国際特許2008/153863号パフレットの方法で生成された合成画像に利用すると、眼に見えるアーチファクトをもつ圧縮画像が生成される場合がある(特に、合成画像が途切れている点において)。
この問題は、右画像および左画像の分割領域が小さくなるほど切実に感じられるようになり、実際にこの問題は、領域の端部に沿って顕著な途切れを生成することを示している。
したがって、国際出願WO2008/153863号パンフレットの多重化方法は、明らかな圧縮アーチファクトを生成してしまう。
したがって、本発明の目的は、先行技術が抱えている問題の一部を解決することができる、立体動画ストリームを生成する方法の提供である。
特に、本発明の1つの目的は、後の圧縮に特に適した(つまり、圧縮アーチファクトを低減させるように)立体動画ストリームを生成する方法の提供である。
さらなる本発明の目的は、多大な計算リソースを必要としない立体動画ストリームを生成する方法の提供である。
これらおよびそのたの本発明の目的は、本記載の一部を形成している添付請求項に示される特徴を組み込んだ立体動画ストリームの生成方法およびシステムによって達成される。
本発明が元としている一般的な構想は、立体動画ストリームの右画像および左画像の対を含む合成画像を生成する方法からなる。
方法によると、合成画像のマクロブロック格子が定義され、格子の各マクロブロックが、複数の隣接する画素を含んでいる。右画像および左画像の対からなる1つの画像は、複数の領域に分割されて、これらがコンポーネント領域と称され、複数の隣接している画素を含んでいる。これらのコンポーネント領域は、次に、導出領域と称される他の対応する領域を生成するよう処理されるが、この導出領域には、対応するコンポーネント領域の画素全てが少なくとも含まれ、整数個のマクロブロックに分割することができる。この後に、分割されていない画像と、導出領域とを、そのすべての端部が、前に定義された格子のマクロブロックの端部に合致するように、合成画像に入力する。
方法によって、計算コストをあまり必要とせず、圧縮アーチファクトもあまりない動画ストリームが生成される。
本発明の一態様では、右画像および左画像を、スケーリング処理を行わずにコンテナフレームに入力することができる(つまり、表示する画像の画素全てをコンテナフレームに配置することによって)。
好適には、右画像および左画像のいずれかを、合成画像で利用可能なスペース、および、変更されない他の画像が占有するスペースを考慮に入れて、可能な限り最低数の領域に分割するとよい。
この方法は、多く計算リソースを必要としないので、本発明の方法を実装するデバイスは、コストの点で利点がある。
好適には、マクロブロックが16x16画素のサイズであるとよい。この方法は、特に、高精細テレビ(H.264規格)に現在利用されている圧縮アルゴリズムでの利用に適している。
本発明はさらに、合成画像を生成する方法を実装することができるシステムに係る。
特に、本発明のシステムは、一対の右画像および左画像による1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割するための分割モジュールと、複数の連続画素を含む複数のコンポーネント領域と、対応する導出領域を生成するように、複数のコンポーネント領域を処理するための処理モジュールと、合成画像のマクロブロックの格子を定義して、一対の右画像および左画像、並びに、複数の導出画像を、分割されていない画像の、および、導出画像の端部全てが、格子内のマクロブロックの端部に合致するように、配置する合成画像生成モジュールとを備える。
さらなる態様によると、本発明はさらに、合成画像(特に、マクロブロックの格子の定義に基づいた、上述した種類の方法およびシステムの両方または片方により生成される合成画像)から始まり、一対の画像を再構築するための方法およびシステムに係る。
一実施形態では、一対の画像を再構築する方法は、合成画像の連続したマクロブロックからなる1つの群をコピーすることで、一対の画像のうちの第1の画像を生成する。逆に、他の画像は、合成画像の複数の導出領域を抽出するプロセスによって生成され、各導出領域は、格子のマクロブロックの端部に対応する端部を有している。導出領域は処理(たとえば回転による、コピーおよび変換の両方または片方という処理)を行われて、対応するコンポーネント領域が生成されるが、1つのコンポーネント領域のすべての画素は、1つの導出領域の画素に対応している。次に、画像が、コンポーネント領域を組み合わせることで生成される。
別の態様によると、本発明は、1つのマクロブロックの格子の定義に基づいて、圧縮および伸張を行われた合成画像から始まり、一対の右画像および左画像が再構成する。システムには、合成画像の1つの領域から1つの連続した画素群をコピーすることにより、一対の右画像および左画像の第1の画像を生成する第1の抽出モジュールと、圧縮されていない合成画像から複数の導出領域を抽出する第2の抽出モジュールとが備わり、複数の導出領域のそれぞれは、格子のマクロブロックの端部に対応しており、1つの連続した画素群に含まれていない複数の画素を含み、システムにはさらに、抽出モジュールに動作可能に接続されており、複数の導出領域を処理して、対応するコンポーネント領域を生成する処理モジュールと、処理モジュールに動作可能に接続されており、一対の右画像および左画像による1つの画像を生成するように複数のコンポーネント領域を結合する第2のリアセンブラモジュールとが備わる。
本発明のさらなる目的および利点は、以下の詳細な説明を読むことで明らかになるだろう。本発明の一部の好適な、有利な実施形態を、添付図面を参照して非限定的な例により記載する。
立体動画システムを生成するためのシステムのブロック図を示す。 第1の種類の合成画像を示す。 第2の種類の合成画像を示す。 図1のデバイスが実行する方法のフローチャートを示す。 合成画像に入力される画像の第1の分割形態を示す。 本発明の第1の実施形態による、図2に示す種類の合成画像を構築するための第1のステップを示す。 図6の完全な合成画像を示す。 1つの合成画像に入力される1つの画像の第2の分割形態を示す。 本発明の第2の実施形態による、図3に示す種類の合成画像を構築するための第1のステップを示す。 図9の完全な合成画像を示す。 1つの合成画像に入力される1つの画像の第3の分割形態を示す。 図11に存在する領域が入力された合成画像を示す。 1つの合成画像を生成するためのそれぞれ異なるエレメントおよびステップのさらなる実施形態を示す。 1つの合成画像を生成するためのそれぞれ異なるエレメントおよびステップのさらなる実施形態を示す。 1つの合成画像を生成するためのそれぞれ異なるエレメントおよびステップのさらなる実施形態を示す。 合成画像のさらなる実施形態を示す。 合成画像のさらなる実施形態を示す。 合成画像のまた別の実施形態を示す。 合成画像のまた別の実施形態を示す。 本発明の方法により生成された合成画像を受信するためのレシーバのブロック図を示す。 図4の図に示す方法により、1つの合成画像に多重化される右画像および左画像を再構築する方法のフローチャートを示す。
マクロブロックを含むフレームを示している図においては、明瞭且つ読みやすくする目的から、実際に必要となる数より少ない数のマクロブロックが描かれていることを了解されたい。
上述した図面は、本発明の異なる態様および実施形態を示しており、必要に応じて、図面間で同様の構造、コンポーネント、材料、および、エレメントの少なくとも1つが、同じまたは同様の参照番号で示される場合があることを理解されたい。
図1は、圧縮された立体動画ストリーム107を生成するためのシステム1のブロック図であり、このシステム1は、圧縮モジュール106に接続されているパッカーデバイス100を含む。別の実施形態では、合成モジュール106およびパッカーデバイス100が、同じ装置に含まれていてもよい。
パッカーデバイス100は、それぞれが左目(L)および右目(R)用である、一連の画像102および一連の画像103(たとえば2つの動画ストリーム)を受信する。
パッカーデバイス100は、一連の画像102および一連の画像103を多重化することを含む、立体動画ストリームを生成する方法を実装することができる。
右画像および左画像を多重化する方法を実行するために、パッカーデバイス100は、入力画像(図1の例における右画像R)を、それぞれが入力画像の1つの領域に対応している複数の副画像に分割するための分割モジュール104を含む。図1の実施形態では、右画像Rを、3つの副画像(R1、R2、R3)(つまり、最少数の矩形の副画像)に分割している。アセンブラーモジュール105は、分割モジュール104が出力し、おそらくはモジュール108が処理している、副画像R1、R2、およびR3と分割されていない画像とを受信するが、これに関しては後述する。
アセンブラーモジュール105は、次に、画像L、受信した副画像R1、R2、およびR3を入力して、パッカーデバイス100が出力すべき1つの合成画像Cに入力して、コンテナフレームを構築する。
パッカーデバイス100が出力する一連の合成画像Cは、圧縮されていない立体動画ストリーム101を構成する。
圧縮モジュール106は、立体動画ストリーム101を受信して、これを圧縮する。圧縮モジュール106は、次に、圧縮された立体動画ストリーム107を、圧縮されていない立体動画ストリーム101より低いビットレートで生成する。
圧縮モジュールは、動画ストリーム101を受信して、本質的に公知の圧縮アルゴリズム(たとえば、MPEG規格(MPEG2、MPEG4AVCまたはH.264)が利用する圧縮アルゴリズム)に従ってこれを処理する。
圧縮モジュール106が利用するアルゴリズムは、マクロブロックの通常の格子(つまり、所定のサイズ(たとえば16x16、または、8x8)を持つ連続した画素ブロック)に圧縮すべき画像を分割する動作をする。この後で、個々のマクロブロックを公知の技術により処理するが、これに関しては本文献では説明しない。
図2は、動画ストリーム101の合成画像200の第1の例を示しており、ここで合成画像は、サイズが1920x1088画素であり、整数個の16x16画素の正方形のマクロブロックに分割することができる。明瞭に記載する目的から、図2の例には、実際の数より少ない数のマクロブロック201しか示していない。同じことが、マクロブロックを含んだすべての他の図面にもあてはまる。
マクロブロック201同士は重なることがなく、合成画像200のすべての画素をカバーしているので、1つの定型格子を形成する。
圧縮モジュール106が受け取る合成画像Cのサイズが、整数個の均等なサイズのマクロブロックに分割するのに適さない場合には、圧縮モジュール106は、いくつかの画素を、受けた合成画像に追加して、全てが同じサイズの整数個のマクロブロックに分割することができるようにする。追加される画素は、クロミナンスおよび輝度が自由な値であってよい。
たとえば図3は、1080pタイプの(1920x1080画素のプログレッシブフォーマット)の動画ストリームの1フレームである、1920x1080画素のサイズの合成画像300を示しており、最後の行のマクロブロックの垂直方向の長さは、全ての他のマクロブロックの半分となっている。合成画像300を受信すると、圧縮モジュール106は、特に垂直方向においては、整数個の重なっていないマクロブロックに完全には分割できないことに気付く。
この結果、圧縮モジュール106は、合成画像300の下端部に、1920画素を8行(303)追加して、1920x1088画素を持つ新たな合成画像302を得るが(修正された合成画像と称する)、これは、ちょうど16x16のサイズの8160個のマクロブロック301に分割することが可能である。実際の実装例では、8つの追加された行303のすべての画素が、緑(green)と認識されるクロミナンスおよび輝度を有している。最後に、圧縮モジュール106は、圧縮アルゴリズムを、修正された合成画像302に利用する。
上述した動作モードの結果、画像302の一番下には、不連続が多いマクロブロックが存在することになる(原画像300の最後の8行と8つの追加された行303との間の遷移部)。これにより、次の圧縮ステップで、レシーバで伸張された合成画像にアーチファクトが現れることもあり、また、レシーバ自身が構築した画像LおよびRに(今後、LoutおよびRoutと称される)アーチファクトが現れることもある。もしこれらアーチファクトが、画像LoutまたはRoutの端部にあるのであれば、あまり見えず気にならないが、領域Rに分割される画像の再構成プロセスによって、リアセンブルされた画像Rout内にも見えるようになる場合もあり、これらは、非常に目に見えて気になる。
パッカーデバイス100が実装する多重化法の一例を、図4および図5を参照して説明する。
方法はステップ400から始まり、後で(ステップ401)、コンテナフレームCおよび、それぞれのマクロブロック格子を定義する。
一実施形態では、図6の例を参照して示すように、左画像LがコンテナフレームCに入力されて、左上の隅に配置されている。これは、画像Lの1280x720画素を、コンテナフレームCの初めの720行の初めの1280画素からなる領域C1にコピーすることで行われる。
以下の記載において、画像をフレームに入力する、または、画素を1つのフレームから別のフレームに転送またはコピーする、といった言い回しが利用されている場合、これは、原画像と同じ画素を含む新たなフレームを生成する処理を実行する(ハードウェアおよびソフトウェア手段の両方または片方を利用することで)、という意味に捉えていただきたい。
原画像(または原画像の一群の画素)を対象画像に再生する技術(ソフトウェアおよびハードウェアの少なくとも一方の技術)は、本発明の趣旨にとってあまり重要ではないと思われ、当業者には本質的に公知であるので、ここでは深入りしないことにする。
2つの入力画像(右画像および左画像)の他の画像501は、図5に示すように複数の領域に分割される(ステップ402)。図5の例では、分割された画像501は、720pの動画ストリームのフレームRである(つまり、1280x720画素の解像度のプログレッシブフォーマット)。
画像501は、右目用の画像をトランスポートする動画ストリーム103からのものであり、3つの矩形領域R1'、R2'、およびR3'に分割され、これら領域それぞれが、整数倍の個数のマクロブロックを含むようにする(たとえば、一定のサイズの互いに重ならない16x16画素を持つようにする)。R1'、R2'、R3'、およびC'は、それぞれ、後述する具体的な実施形態で得られる領域R1、R2、R3、およびフレームCを示している。
画像501の分割は、2つの均等な部分への分割、および、この後で、これら2つの部分それぞれをさらに2つの他の部分に分割することを含む。
領域R1'は、640x720画素のサイズを有し、各行の初めの640画素全てを取り入れることで得られる。
領域R2'は、640x360画素のサイズを有し、最初の368行の641から1280番目の画素を取り入れることで得られる。
領域R3'は、640x352画素のサイズを有し、画像Rの残りの画素(最後の352行の641から1280番目の画素)を取り入れることで得られる。
モジュール104が分割ステップを実行して、副画像R1'、R2'、R3'を出力する。
この後で、アセンブラーモジュール105は、合成画像Cを構築するが、この合成画像Cには、右入力画像および左入力画像の両方に関する情報が含まれ、後述する例において、合成画像Cが、出力立体動画ストリームの1フレームなので、これもコンテナフレームC'と称される。
本実施形態では、コンテナフレームC'は、図2を参照して上述したタイプのものである(つまり、整数個の16x16のマクロブロックに、定型格子を使って完全に分割した1920x1088画素の画像)。
もっと一般的には、コンポーネント領域と称される領域R1、R2、およびR3を、対応するコンポーネント領域のすべての画素を少なくとも含む対応する導出領域を生成するよう、処理することができる(ステップ403)。このステップは、モジュール108により実行され、これは図1の破線で描かれている。図5および図7に前に記載された実施形態では、領域R1'、R2'、R3'の処理は行われない。この結果、コンポーネント領域(R1、R2、R3)および導出領域(R1der、R2der、R3der)が同一であるという意味で、ステップ403が行われない。加えて、本実施形態では、図1の処理モジュール108は、分割モジュール104が生成したコンポーネント領域を、アセンブラーモジュール105に転送するタスクのみを実行する。
本発明の様々な実施形態が示す図面および本文があまりに煩雑になりすぎるのを防止するために、コンポーネント領域と合致する場合には、導出領域は、Ri、Ri'、Ri''、Ri'' '、Ri' ' ' '等と示すこととし(Rider Ri'der、Ri' 'der、Ri' ' 'der、Ri' ' ' '等とするのではなく)、このインデックス「i」は、1から4の間の値をとることができる。本発明のいずれの実施形態においても、コンポーネント領域およびフレームまたは合成画像の総称として、カンマのない参照番号(R1、R2、R3、R4、C)が利用される場合もある。
別の実施形態では、1以上の導出領域の形成を行うための動作は、回転、反転、画素追加等であってよく、分割モジュール104およびアセンブラーモジュール105の間に設けられる処理モジュール108によって実行される。
図7の例に戻ると、まず、変更されておらず、分割されていない左画像をコンテナフレームC'に入力することで、コンテナフレームがアセンブルされる(ステップ404)。特に、左画像Lは、端部全てがコンテナフレームC'のマクロブロックの端部に合致するように、コンテナフレームに入力される。
前にコピーした画像Lの次の、最初の720行(領域C2')の最後の640個の画素に、領域R1'をコピーする。
領域R2'およびR3'は、それぞれが、領域C1'の下に(つまり、最後の368個の行の最初の640画素と、721から1072行の次の640個の画素とを含む、領域C3'およびC4'にそれぞれ)コピーされる。
領域R2'およびR3'が同じサイズである場合(両方とも640x360)、マクロブロックの一番下の最後の行は、内部が不連続なマクロブロックを含むことになり、これらは、領域R2'およびR3'と、これに加えて、一番下の、通常は全て等しい画素を含む8つの追加行に属す8つの行とからなる。図5および図7をみれば、均等なサイズの領域R2およびR3を持つ場合には、画素がアーチファクトを受ける場合があり、これはRの右下の端部(R3'の部分)のみならず、Rの中央部(R2'の下端に属する)にも存在することがあることがわかる。
パッカーデバイスが生成するコンテナフレームCは、次に、圧縮モジュール106に送られ、ステップ405においてここで圧縮が行われ、圧縮された立体動画ストリーム107が生成される。方法はステップ406の、圧縮された立体動画ストリームを送信または格納することで終了する。
図5に示す解決法とは別の解決法では、領域R2'およびR3'を、一群の画素が分離する不連続の領域(重なっても隣接してもいない)にコピーすることもでき、この場合であっても、本発明の効果は制限されない。
上述した多重化方法は、H.264符号器に、1088行フォーマットではなく1080行のフォーマットで動画ストリームを提供することができる入力HD−SDI(高精細、シリアルデジタルインターフェース)が提供されている場合には利用できない。したがって、同じ発明構想を利用する、このインターフェースでも利用可能な、別の可能性のある多重化方法を以下で説明する。
図5の実施形態とは別の1つの実施形態では、右画像を、最低数ではない複数の矩形の領域に分割することができる。この種類の解決法の1つを図8に示しており、この解決法では、4つの矩形の領域R1' '、R2' '、R3' '、および、R4' 'に画像801を分割して、これら領域のそれぞれが、16x16個の整数個のマクロブロックを含むようにする。
一実施形態では、画像801を、2つの均等のサイズの部分に分割して、次いで、これら2つの部分それぞれを3つの均等の部分に分割することで、分割を行っている。
領域R1' 'は、640x720画素を有しており、各行の最初の640個の画素を取り込むことで得られる。
領域R2' 'は、640x240画素を有しており、最初の240個の行の641個目から1280個目までの画素を取り込むことで得られる。
領域R3' 'は、640x240画素を有しており、241行目から480行目までの641個から1280個目までの画素を取り込むことで得られる。
最後に、領域R4' 'は、640x240画素のサイズを有しており、画像801の残りの画素(つまり、481番目の行から720番目の行の641から1280番目の画素)を取り込むことで得られる。
図9および図10を参照して後述する例では、画像801(つまり、整数個の重なりのない16x16マクロブロックに完全に分割可能ではない画像)を、図3の画像300を参照して前述したタイプのコンテナフレームC' 'に入力する。特に、コンテナフレームC' 'は、1920x1080画素のサイズを有している。
図4の例では、多重化方法が、16x16のマクロブロックの格子を定義し、これに、コンテナフレームC' 'が圧縮ステップ中に分割される。
格子は、左上の隅の一番目の画素から始まり定義される。コンテナフレームC' 'は、整数ではないマクロブロックを、一番下の端部に含んでいる。実際、マクロブロックのこの群の垂直方向のサイズは、残りのマクロブロックのものの半分である。
図9の例では、無変更の左画像Lが、その端部すべてが、コンテナフレームC' 'のマクロブロックの端部に合致するよう、左上の隅のコンテナフレームC' 'に入力される。これは、画像Lの1280x720画素を、コンテナフレームC' 'の最初の720行の最初の1280画素からなる領域C1' 'にコピーすることで行われる。
次いで、モジュール104が分割する画像801を、コンテナフレームC' 'に入力する。これは、モジュール105が、分割された画像を、画像Lの占有していないコンテナフレームC' 'の領域(つまり、領域C1' 'の外部)にコピーすることで行うことができる。
右画像801が分割されているR1' '、R2' '、R3' '、および、R4' 'に対応する4つの副画像が、コンテナフレームC' 'に、互いに重ならないよう、且つ、これらの端部がコンテナフレームC' 'のマクロブロックの端部に合致するように入力される。
この例でも、領域R1' '、R2' '、R3' '、および、R4' 'が、フレームC' 'のそれぞれの領域に、変更なくコピーされるので、コピーされた領域が、コンポーネント領域に合致する。
モジュール105が出力するコンテナフレームC' 'の一例の概略を図10に示す。
領域R1' 'が最初の720行の最後の640個の画素(領域C2' ')にコピーされる(つまり、前にコピーした画像Lの次に)。
領域R2' '、R3' 'は、C1' 'の下の、それぞれ領域C3' 'およびC4' '(それぞれ、721から960行の最初の640個の画素、および、721から960行の次の640個の画素)にコピーされる。領域R4' 'は、721から960行の最後の640個の画素に対応する、領域C2' 'の下の領域C5' 'にコピーされる。したがって最後の120行が空である。
図4に示すように、パッカーデバイス100が生成するコンテナフレームC' 'は、圧縮モジュール106によって処理されて、圧縮された立体動画ストリームになる。
圧縮アルゴリズムを適用する前に、圧縮モジュール106は、コンテナフレームC' 'の底部に1920個の画素の8つの行を追加することで、マクロブロックの定型格子に分割可能な修正されたコンテナフレームが得られる。
画像801が4つの領域に分割され、その後、後者をフレームC' 'に配置することで、修正されたコンテナフレームの一番下のマクロブロックの最後の行に、有用な情報がなくなる。したがって、圧縮モジュール106が追加した8つの行が生成する可能性のある不連続性によって、再度組み立てられた(recomposed)画像に、アーチファクトは生成されない。
図10に示す解決法とは別の方法として、領域R2' '、R3' '、R4' 'が、コンテナフレームC' 'の、領域LとR1' 'から切り離されている領域にコピーされる(つまり、これら領域と重なったり、境界を隔てたりしない(bordering))。
特に、領域R2' '、R3' '、R4' 'は、領域LおよびR1' '両方、並びに、コンテナフレームC' 'の下端部と位置合わせされつつ、かつ、分かれている。別の方法として、領域R2' '、R3' '、R4' 'は、互いに位置合わせされない位置に、それぞれ異なる高さとなるよう配置することもできる。
状況によっては効果があったり有用であったりするかもしれないが、上述した多重化法は、画像Rを4つの矩形領域に分割してしまう(つまり、コンテナフレームおよび画像RおよびLのサイズを考慮に入れると、最低数より1多い数が必要となる)。
本発明の多重化法の別の実施形態を、図11および図12を参照して説明する。
720p動画ストリームのシーケンス103からとった画像901を、3つの矩形領域R1' '、R2' '、R3' 'に分割する。特に、画像901は、2つの均等サイズの部分に分割して、その後、これら2つの部分のうち1つを2つの均等な部分に分割することで、分割される。
領域R1' 'は、640x720の画素サイズを有し、各行の最初の640個の画素すべてを取り入れることで得られる。
領域R2' 'は、640x360の画素サイズを有し、最初の360行の、641から1280番目の画素を取り入れることで得られる。
領域R3' 'は、640x360の画素サイズを有し、361から720行の641から1280番目の画素を取り入れることで得られる。
上述した例からわかるように、右画像を分割するステップは、モジュール104により行われ、この具体的な例においては、3つの領域R1' '、R2' '、R3' 'に対応する3つの副画像が出力される。
合成画像C' ' '、またはコンテナフレームC' ' 'を次に構築する(これは、受信した2つの右画像および左画像の情報を含んでいる)。
この例では、コンテナフレームC' ' 'が、特に1920x1080画素を有する、図3の画像300を参照して前述した種類の合成画像である。
左画像Lは、左上の隅のコンテナフレームC' ' 'には何ら変更なく入力される(図7および図10の例を参照して前述したとおりである)。
この後で、モジュール104が分割した画像901が、コンテナフレームC' ' 'の、画像Lが占有していない領域に入力される。
モジュール105が出力するコンテナフレームC' ' 'の一例を図12に示す。
領域R1' ' 'は、最初の720行の最後の640個の画素にコピーされる(前にコピーした画像Lの次に)。
領域R2' ' 'およびR3' ' 'を、左フレームLが占有する領域の下に、つまり、721から1080行の最初の640個の画素および721から1080行の次の640個の画素を含む領域に、コピーする。
次に、コンテナフレームC' ' 'を、圧縮モジュール106に移し、ここで、コンテナフレーム自身の一番下に1920個の画素をもつ8つの行1200を追加して、1920x1088画素のサイズを持つ修正されたフレーム1201を得る(これは、互いに重ならない整数個の16x16のマクロブロックに完全に分割可能である)。
伸張ステップで歪みを生じさせないために、バッファー領域Rc2を領域R2' ' 'の下に入力する(つまり、修正されたフレーム1201のうちの追加分である最後の8つの行の最初の640個の画素に入力する)。
特に、図13a、図13b、および、図13cに示す具体的な実施形態においては、バッファー領域Rc2が、領域R3' ' 'の最初の8つの行のコピーである。したがい、モジュール108が実行するこの処理によって、領域R2' ' 'が、640x368画素のサイズをもつ、導出領域R2' ' 'derに変換される。領域R2' ' 'derは、領域R2' ' 'derおよびバッファー領域Rc2を含み、整数個のマクロブロックによって完全に割り切れ、かつ、端部が、フレーム1201の格子のマクロブロックの端部と合致するよう配置されている。
領域R3' ' 'derに、さらに、8つの行のバッファ領域Rc3を追加すると、整数個のマクロブロックによって割り切れる導出領域R3' ' 'derが得られる。
一実施形態では、バッファー領域Rc3に、任意の画素値を持たせる(たとえば、すべてが同じ緑色に対応するようなもの)が、これは、生じる不連続性が生成する圧縮アーチファクトが、再構築される画像の端部に位置しているために、ユーザからはあまり認識されないからである。
最後に、修正されたコンテナフレーム1201を含む立体動画ストリームを、圧縮モジュール106によって圧縮する。
上述した実施形態はあくまで例であり、本発明は、上述した実施形態に限定はされず、当業者であれば、上述した方法に対する変形例を数多く想到するだろう(たとえば、図14aおよび図14bの示す様々なバッファー領域Rc2を参照)。
図13aおよび図13bの例同様、コンポーネント領域は、図11を参照して前述したものと同じである。このケースでも、導出領域R2' ' 'derは、コンポーネント領域R2' ' 'およびバッファー領域Rc2を含み、640x368画素を有している。バッファー領域Rc2は、領域R2' ' 'の下端部に追加され、逆の順序に配置されている領域R2' ' 'の352から359行に対応する画素を含む(つまり、行359は、バッファー領域Rc2の最初の行に対応しており、行358は、バッファー領域Rc2の二番目の行に対応しており、といった具合である)。
次に、図15aおよび図15bを参照して、導出領域R2' ' 'を得るための別の方法を説明する。このケースでも、コンポーネント領域は、図11を参照して前述したものと同じである。領域R2' ' 'をまず、下端部に対して反転させて、領域R2' ' 'invを得て、この下端部には、640画素をもつ8つの行を持つバッファー領域Rc2が追加される。バッファー領域Rc2の画素の値は任意である(たとえば、すべてが同じ緑色に対応していてもよい)。このようにして、640x368画素のサイズの領域R2' ' 'derが取得され、これが、修正されたコンテナフレーム1201の最後の368行の最初の640画素に入力される。R2' ' 'の最後の下のほうのマクロブロックに存在している不連続性によって圧縮アーチファクトが生成され、これは、反転を行うことにより、再構築された画像Rの右上の端部に現れるために、観察者にはほとんど認識されない。
図15aおよび図15bに示すこの例では、コンポーネント領域R2' ' 'から導出領域R2' ' 'der を得るために実行される処理は、バッファー領域の追加だけではなく、前処理として(preliminary)R2' ' 'の上下の反転 も含む。
コンポーネント画像について上述した教授をまとめると、コンポーネント領域から導出領域に切り替えるための処理は、コンポーネント領域と、これに加えて、またはこれに変えて、任意の画素または別のコンポーネント領域からとられた画素を含むバッファー領域を、回転、上下または左右を反転させることを含む。この処理は、後で圧縮処理が導入するアーチファクトを低減させたり、これらを再構築された画像Routの端部に移動させることを目的としている。
さらなる実施形態では、合成画像で利用可能な残りのスペースを、右画像および左画像を再構築するためにデマルチプレクサレベル(demultiplexer level)の必要となりうる任意の形態の信号を入力するために利用することができる(たとえば、合成画像を形成した方法、または、どんな性質であってもよいメタデータ(たとえば深さマップ)を入力して、後者(例えばサブタイトル)が生成するグラフィックアイテムの正しい位置についての命令を復号器に供給するため)。
本実施形態では、コンテナフレームの、右画像または左画像、もしくは、これらの部分が占有していない領域を利用して信号を受信する。バイナリ信号の場合には、この信号領域の画素が、例えば、互いに非常に離れている値で特徴づけられる2つの色を付されており(たとえば白と黒)、これにより、任意の種類のバーコードを作成することができる(たとえば、信号情報を搬送することができる、線形または二次元のもの)。
好適には、フレームに入力する画像は、画像を、最小数の矩形領域に分割する必要性も考慮に入れて分割される(たとえば上述した例でいえばR)。
図16は、受信した立体動画ストリームを伸張して、2つの右Routおよび左Lout画像を再構築することで、これらを、3Dコンテンツ表示を実現することができる表示デバイス(たとえば、テレビセット、モニタ、またはプロジェクタ)で利用可能にする。レシーバ1100は、テレビセットに内蔵されているレシーバまたはセットトップボックスであってよい。
レシーバ1100について後述するものと同様の点が、圧縮された立体動画ストリームを読みだして、コンテナフレームに多重化されている右画像および左画像を抽出するためのリーダ(たとえばDVDリーダ)にも適用される。
再度図16を参照すると、レシーバが、(ケーブルまたはアンテナを介して)圧縮された立体動画ストリーム1101を受信して、伸張モジュール1102によってこれを伸張して、フレームCに対応する一連のコンテナフレームCoutを含む動画ストリームを取得することができる。理想的なチャネルがある場合、または、コンテナフレームが、大容量メモリまたはデータ媒体(ブルーレイ(登録商標)CD、DVD)からエラーなく読みだされる場合、フレームCoutは、2つの右画像および左画像に関する情報を搬送するコンテナフレームCに対応している(圧縮プロセスにより生じるアーチファクトを除く)。
これらフレームCoutは、次に、再構築モジュール1103に供給され、ここで、図16および図17に関して後述する画像再構築方法が実行される。
再構築モジュール1103は、分割されている画像についての抽出モジュール1106、分割されていない画像についての処理モジュール1107、リアセンブラモジュール1108、および、抽出モジュール1109を含む。
再構築プロセスは、ステップ1300から始まり、ここで、伸張されているコンテナフレームCoutが受信される。この例のコンテナフレームは、図7を参照して前述したものと同様である。
抽出モジュール1109は(ステップ1301で)、伸張されているフレームの最初の1280x720画素(領域C1')を、コンテナフレームより小さい新たなフレーム(たとえば720pストリームのフレーム)にコピーする。左画像Lのこのようにして再構築されたLoutが、レシーバ1100に出力される(ステップ1302)。
次に、抽出モジュール1106は、コンテナフレームCoutから、右画像Rを抽出する。
右画像を抽出するステップは、(ステップ1303)でフレームCout(コンテナR1'を含んでいる)に存在している領域C2'を抽出することから始められる。より詳しく説明すると、抽出モジュール1106は、コンテナフレームの1281から1920の列、および、最初の720行の画素を抽出して、これらをリアセンブラモジュール1108に送る。リアセンブラモジュール1108は、抽出した画素を、再構築した画像Routを表す新たなフレームの、対応している最初の640x720の画素に入力する。
領域C3'を次に抽出して(ステップ1304)、領域C3'の画素(元の領域R2'に対応している)を、伸張されているフレームCoutから選択する。より詳しく説明すると、1から640の列およびコンテナフレームCoutの最後の368行の画素を、画像Routの最初の368行の641から1280の行にコピーする。
R3'に関しては(ステップ1305)、領域C4'の画素を選択する。より詳しく説明すると、コンテナフレームCoutの最後の352行のうち641から1280までの列の画素を、画像Routの641から1280の列にコピーする。
この時点で、右画像Routが完全に再構築されており、(ステップ1307で)リアセンブラモジュールによって出力される。
このようにしてコンテナフレームCoutに含まれている右画像および左画像の再構築処理が完了する(ステップ1308)。
前述したプロセスは、レシーバ1100が受信する動画ストリームの各フレームについて繰り返され、出力が、右画像および左画像それぞれについての2つの動画ストリーム1104および1105から構成される。
本実施形態では、領域R1、R2、R3をコンテナフレームから抽出して、単純な画素コピー処理によってフレームRoutに入力する。
より一般的には、コンテナフレームから抽出される領域は、導出領域なので、さらなる処理を行って、対応するコンポーネント領域を生成して、次にフレームRoutに入力する必要がある。
これら処理ステップは、もちろん、コンポーネント領域から導出領域を得るための生成サイドで行った処理の逆であり、画素(バッファー画素等)の回転、反転、および除去が含まれてよい。
処理ステップは、抽出モジュール1106およびリアセンブラモジュール1108との間に設けられた処理モジュール1107によって実行される。
図7および図16を参照して今説明した例では、抽出された領域は、コンポーネント領域と合致しているので、処理モジュール1107は、単純に、モジュール1108に対して、モジュール1106から抽出した画素を送る。図17のブロック図もこのケースを示している。
逆に、ステップ1302、1303、1304で抽出される領域が、コンポーネント領域と合致しない導出領域である場合には、ステップ1306が、導出領域からコンポーネント領域を得るために必要な処理を含んでよい。しかしこの場合にも、再構築された画像Rouをステップ1307で出力してよい。
上述した右画像および左画像を再構築する処理は、デマルチプレクサ1100が、コンテナフレームCを構築した方法を知っているので、右画像および左画像を抽出することができる、という前提に基づいている。
もちろん、これは、多重化方法が標準的なものである場合に可能である。
コンテナフレームを上述した方法のいずれによっても生成できるという事実、または、添付請求項の主題である解決法を利用する方法のいずれかで生成できるという事実を考慮するためには、デマルチプレクサが、合成画像の所定の領域(例えば前述したバーコード)に含まれている信号情報を利用して、合成画像のコンテンツがどのようにして解凍して(unpacked)、右画像および左画像を再構築すればいいかを知る必要がある。
信号を復号した後で、デマルチプレクサは、変更されていない画像の位置(上述した例では左画像)並びに、他の画像(上述した例では右画像)を分割した領域の位置、およびもし行っていれば変換(回転、反転等)を知ることができる。
この情報を利用すると、デマルチプレクサは、変更していない画像(たとえが左画像)を抽出して、分割されていない画像(例えば右画像)を再構築することができる。
変更していない画像を抽出するため、および分割されている画像を抽出して再構築するために必要な情報も、合成フレームに含まれていないが、合成動画ストリームの他の部分に含まれているようなメタデータの形態で送信されてよい。この情報も、圧縮(packing)フォーマットが既知である場合には、自動的にデコーダにおいて推定されてよく、こうすることで、圧縮フォーマットの識別子を送信するだけの処理でよくなる。
本発明は、これまで一部の好適かつ有利な実施形態を参照して示されてきたが、これらの実施形態に限定はされず、合成画像に、オブジェクトまたはシーンの2つの異なる視野(右および左)を組み込もうとする当業者であれば多くの変形例を想到するであろうことは明らかである。
たとえば、上述したデバイス(特にデバイス100およびレシーバ1100)を実装する電子モジュールは、様々に分割され分配されてもよく、さらに、これらをハードウェアモジュールまたはプロセッサが実装するソフトウェアアルゴリズムの形態で提供してもよい(特に、受信した入力フレームを一時的に格納するのに適したメモリ領域を備える動画プロセッサ)。したがってこれらモジュールは、本発明による画像多重化および逆多重化方法の動画処理ステップの1以上を並列にまたは直列に実行することができる。
さらに、好適な実施形態は、2つの720p動画ストリームを1つの1080p動画ストリームに多重化することを説明したとしても、他のフォーマットも利用可能である点を理解されたい。
最後に、本発明は、本発明の保護範囲に含まれる上述した多重化のいずれかを逆に行うことで、右画像および左画像を抽出することができる任意の復号化解除方法に関するものであることは自明である。

Claims (29)

  1. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成する方法であって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記方法は、
    前記一対の右画像および左画像の画素すべてを含む合成画像を生成する段階と、
    前記合成画像のマクロブロックの格子を定義する段階であって、前記格子の各マクロブロックが、複数の隣接する画素を含む段階と、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する段階であって、前記分割する段階は、まず前記1つの画像を垂直に均等サイズの2つの部分に分割し、その次にこれら2つの部分の1つを水平に均等サイズの2つの部分に分割する段階を含む、段階と、
    前記複数のコンポーネント領域から、対応する複数の導出領域を生成するように処理する段階であって、前記複数の導出領域は、対応するコンポーネント領域の画素すべてを少なくとも含み、整数個のマクロブロックに分割できるようになっている段階と、
    前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する段階と
    を備え
    前記マクロブロックは、16x16画素のサイズである、方法。
  2. 前記コンポーネント領域および前記分割されていない画像は、前記格子の整数個のマクロブロックに分割可能である、請求項1に記載の方法。
  3. 前記複数の導出領域の少なくとも1つは、前記コンポーネント領域の1つと同一である、請求項1または2に記載の方法。
  4. 前記複数の導出領域の少なくとも1つは、対応するコンポーネント領域に、回転および反転の両方または片方を行うことで得られる、請求項1から3のいずれか一項に記載の方法。
  5. 前記合成画像の端部と合致する前記複数の導出領域のうちの少なくとも1つの導出領域の端部は、前記分割された画像の端部に合致する、請求項1から4のいずれか一項に記載の方法。
  6. 前記複数の導出領域のうちの少なくとも1つの導出領域は、対応するコンポーネント領域に複数の画素を追加することで得られ、前記複数の画素は、前記対応するコンポーネント領域に対して境界を隔てる別のコンポーネント領域の一部である、請求項1から5のいずれか一項に記載の方法。
  7. 1つのコンポーネント領域の一部を選択し、前記選択した部分は反転され、前記反転された部分が、前記コンポーネント領域の1つの端部に追加される、請求項1から6のいずれか一項に記載の方法。
  8. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成する方法であって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記方法は、
    前記一対の右画像および左画像の画素すべてを含む合成画像を生成する段階と、
    前記合成画像のマクロブロックの格子を定義する段階であって、前記格子の各マクロブロックが、複数の隣接する画素を含む段階と、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する段階と、
    前記複数のコンポーネント領域から、対応する複数の導出領域を生成するように処理する段階であって、前記複数の導出領域は、対応するコンポーネント領域の画素すべてを少なくとも含み、整数個のマクロブロックに分割できるようになっている段階と、
    前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する段階と
    を備え、
    前記複数の導出領域のうちの少なくとも1つの導出領域は、対応するコンポーネント領域に複数の画素を追加することで得られ、前記複数の画素は、前記対応するコンポーネント領域に対して境界を隔てる別のコンポーネント領域の一部である、方法。
  9. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成する方法であって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記方法は、
    前記一対の右画像および左画像の画素すべてを含む合成画像を生成する段階と、
    前記合成画像のマクロブロックの格子を定義する段階であって、前記格子の各マクロブロックが、複数の隣接する画素を含む段階と、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する段階と、
    前記複数のコンポーネント領域から、対応する複数の導出領域を生成するように処理する段階であって、前記複数の導出領域は、対応するコンポーネント領域の画素すべてを少なくとも含み、整数個のマクロブロックに分割できるようになっている段階と、
    前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する段階と
    を備え、
    1つのコンポーネント領域の一部を選択し、前記選択した部分は反転され、前記反転された部分が、前記コンポーネント領域の1つの端部に追加される、方法。
  10. 前記分割した画像は、前記合成画像で利用可能なスペースおよび前記分割されていない画像が占有するスペースを考慮して、最小数の矩形コンポーネント領域に分割される、請求項1からのいずれか一項に記載の方法。
  11. 前記合成画像に残された利用可能なスペースの少なくとも一部を、デマルチプレクサレベルで前記右画像および左画像を再構築するために必要な信号を入力するために用いる、請求項1から10のいずれか一項に記載の方法。
  12. 前記合成画像を、前記マクロブロックの格子で定義されている複数のマクロブロックに分割する圧縮処理によって、前記合成画像を圧縮する段階を備える、請求項1から11のいずれか一項に記載の方法。
  13. 前記複数の導出領域は矩形である、請求項1から12のいずれか一項に記載の方法。
  14. マクロブロックの格子の定義に基づいて圧縮および伸張プロセスが行われた合成画像から一対の画像を再構築する方法であって、
    前記伸張された合成画像の1つの連続画素群をコピーすることで、前記一対の画像のうちの第1の画像を生成する段階と、
    前記伸張された合成画像の複数の導出領域を抽出する段階であって、前記複数の導出領域のうちの各導出領域は、前記格子のマクロブロックの端部に対応する端部を有し、前記マクロブロックは、16x16画素のサイズであり、前記1つの連続画素群に含まれない複数の画素を含み、
    前記複数の導出領域を、対応するコンポーネント領域を生成するように処理する段階であって、1つのコンポーネント領域のすべての画素は、1つの導出領域の画素に対応し、前記コンポーネント領域は、前記一対の画像の1つの画像から、前記1つの画像をまず垂直に均等サイズの2つの部分に分割し、その次にこれら2つの部分の1つを水平に均等サイズの2つの部分に分割することにより得られた領域を含む、段階と、
    前記コンポーネント領域を結合することで、前記一対の画像のうちの第2の画像を生成する段階と
    を備える方法。
  15. 前記コンポーネント領域の少なくとも1つを、対応する導出領域に、回転および反転の両方または片方を行うことで得る、請求項14に記載の方法。
  16. 前記合成画像の端部に合致する前記複数の導出領域のうちの少なくとも1つの導出領域の端部が前記第2の画像の端部に対応するように、前記導出領域を処理することで、前記第2の画像が生成される、請求項14または15に記載の方法。
  17. 少なくとも1つのコンポーネント領域は、対応する導出領域の端部に隣接している部分を取り除くことで、対応する導出領域から得られる、請求項14から16のいずれか一項に記載の方法。
  18. 前記複数の導出領域および前記1つの連続画素群は、前記伸張された合成画像の一領域に配置されている1つの情報に基づいて抽出される、請求項14から17のいずれか一項に記載の方法。
  19. 圧縮された前記合成画像は、請求項1から12のいずれか一項に記載されている方法により生成された合成画像を圧縮することで生成される、請求項14から18のいずれか一項に記載の方法。
  20. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成するシステムであって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記システムは、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する分割モジュールと、
    前記複数のコンポーネント領域を、対応する複数の導出領域を生成するように処理する処理モジュールと、
    前記合成画像のマクロブロックの格子を定義して、前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する合成画像生成モジュールと、
    を備え
    前記分割モジュールは、前記1つの画像をまず垂直に均等サイズの2つの部分に分割し、その次にこれら2つ部分の1つを水平に均等サイズの2つの部分に分割し、
    前記マクロブロックは、16x16画素のサイズである、システム。
  21. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成するシステムであって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記システムは、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する分割モジュールと、
    前記複数のコンポーネント領域を、対応する複数の導出領域を生成するように処理する処理モジュールと、
    前記合成画像のマクロブロックの格子を定義して、前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する合成画像生成モジュールと、
    を備え、
    前記複数の導出領域のうちの少なくとも1つの導出領域は、対応するコンポーネント領域に複数の画素を追加することで得られ、前記複数の画素は、前記対応するコンポーネント領域に対して境界を隔てる別のコンポーネント領域の一部である、システム。
  22. 1つのシーンの一対の右画像および左画像を含む立体動画ストリームの合成画像を生成するシステムであって、
    前記右画像および左画像は、観察者の右目および左目によってそれぞれ見られた場合に、前記観察者が前記シーンを三次元で見ることができるものであり、
    前記システムは、
    前記一対の右画像および左画像からなる1つの画像を、複数の連続した画素を含む複数のコンポーネント領域に分割する分割モジュールと、
    前記複数のコンポーネント領域を、対応する複数の導出領域を生成するように処理する処理モジュールと、
    前記合成画像のマクロブロックの格子を定義して、前記合成画像の前記複数の導出領域および前記対の分割されていない前記画像を、前記分割されていない画像および前記複数の導出領域のすべての端部が、前記格子のマクロブロックの端部と合致するように配置する合成画像生成モジュールと、
    を備え、
    1つのコンポーネント領域の一部を選択し、前記選択した部分は反転され、前記反転された部分が、前記コンポーネント領域の1つの端部に追加される、システム。
  23. 前記生成モジュールに動作可能に接続されて、前記合成画像を圧縮する圧縮ユニットを備える、請求項20から22のいずれか1つに記載のシステム。
  24. 請求項1から12のいずれか一項に記載の方法を実装するための手段を備える請求項20から22のいずれか1つに記載のシステム。
  25. マクロブロックの格子の定義に基づいて圧縮および伸張プロセスが行われた合成画像から一対の右画像および左画像を再構築するシステムであって、
    前記伸張された合成画像の1つの領域から、1つの連続画素群をコピーすることで、前記一対の右画像および左画像のうちの第1の画像を生成する第1の抽出モジュールと、
    伸張モジュールの出力に動作可能に接続され、前記伸張された合成画像の複数の導出領域を抽出する第2の抽出モジュールであって、前記複数の導出領域のうちの各導出領域は、前記格子のマクロブロックの端部に対応する端部を有し、前記マクロブロックは、16x16画素のサイズであり、前記1つの連続画素群に含まれない複数の画素を含む、第2の抽出モジュールと、
    前記第2の抽出モジュールに動作可能に接続され、前記複数の導出領域を、対応するコンポーネント領域を生成するように処理する処理モジュールであって、1つのコンポーネント領域のすべての画素は、1つの導出領域の画素に対応している、処理モジュールと、
    前記処理モジュールに動作可能に接続され、前記コンポーネント領域を結合することで、前記一対の右画像および左画像のうちの第2の画像を生成するリアセンブラモジュールと
    を備え
    前記コンポーネント領域は、前記一対の右画像および左画像の1つの画像から、前記1つの画像をまず垂直に均等サイズの2つの部分に分割し、その次にこれら2つの部分の1つを水平に均等サイズの2つの部分に分割することにより得られた領域を含む、システム。
  26. 請求項14から19のいずれか一項に記載の方法を実装するための手段を備える、請求項25に記載のシステム。
  27. 圧縮された合成画像を伸張して、前記合成画像を出力する伸張モジュールを備える、請求項26に記載のシステム。
  28. 請求項25、26、および27のいずれか一項に記載のシステムを備えるセットトップボックス。
  29. 請求項25、26、および27のいずれか一項に記載のシステムを備えるテレビセット。
JP2013553063A 2011-02-14 2012-02-13 立体画像を生成、送信、および、受信するための方法、および関連するデバイス Active JP6019520B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
ITTO2011A000124 2011-02-14
ITTO2011A000124A IT1404059B1 (it) 2011-02-14 2011-02-14 Metodo per la generazione, trasmissione e ricezione di immagini stereoscopiche e relativi dispositivi.
PCT/IB2012/050634 WO2012110935A1 (en) 2011-02-14 2012-02-13 Method for generating, transmitting and receiving stereoscopic images, and related devices

Publications (2)

Publication Number Publication Date
JP2014511594A JP2014511594A (ja) 2014-05-15
JP6019520B2 true JP6019520B2 (ja) 2016-11-02

Family

ID=43976454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013553063A Active JP6019520B2 (ja) 2011-02-14 2012-02-13 立体画像を生成、送信、および、受信するための方法、および関連するデバイス

Country Status (10)

Country Link
US (1) US9158961B2 (ja)
EP (1) EP2676448B1 (ja)
JP (1) JP6019520B2 (ja)
KR (1) KR20140021563A (ja)
CN (1) CN103416068B (ja)
BR (1) BR112013020585A2 (ja)
ES (1) ES2690492T3 (ja)
IT (1) IT1404059B1 (ja)
TW (1) TWI540879B (ja)
WO (1) WO2012110935A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102151213B1 (ko) 2018-12-20 2020-09-02 김원규 교반용 날개 및 이를 포함하는 디스펜서

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120263390A1 (en) * 2011-04-12 2012-10-18 Jorg-Ulrich Mohnen Decoding a quilted graphic 2d image representation into a digital asset
RU2012138174A (ru) * 2012-09-06 2014-03-27 Сисвел Текнолоджи С.Р.Л. Способ компоновки формата цифрового стереоскопического видеопотока 3dz tile format
TWI502545B (zh) * 2013-06-25 2015-10-01 儲存3d影像內容的方法
CN103595995B (zh) * 2013-11-13 2015-09-09 京东方科技集团股份有限公司 一种快门式三维图像显示的处理方法、装置及系统
GB201706857D0 (en) * 2017-04-28 2017-06-14 Select Res Ltd Health risk prediction tools
US11074453B2 (en) * 2018-01-31 2021-07-27 Hewlett Packard Enterprise Development Lp Video active region batching

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6188518B1 (en) * 1993-01-22 2001-02-13 Donald Lewis Maunsell Martin Method and apparatus for use in producing three-dimensional imagery
US6252707B1 (en) * 1996-01-22 2001-06-26 3Ality, Inc. Systems for three-dimensional viewing and projection
US7190518B1 (en) * 1996-01-22 2007-03-13 3Ality, Inc. Systems for and methods of three dimensional viewing
JP4560869B2 (ja) * 2000-02-07 2010-10-13 ソニー株式会社 メガネなし表示システムおよびバックライトシステム
KR100389249B1 (ko) * 2000-04-29 2003-06-25 한국과학기술연구원 다시점 영상 표시 시스템
JP4729812B2 (ja) * 2001-06-27 2011-07-20 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
WO2003092305A1 (en) * 2002-04-25 2003-11-06 Sharp Kabushiki Kaisha Image encodder, image decoder, record medium, and image recorder
JP2004207862A (ja) * 2002-12-24 2004-07-22 Nippon Telegr & Teleph Corp <Ntt> 映像符号化装置及び映像復号化装置及びその方法並びにそのプログラム
US6819489B2 (en) * 2003-02-25 2004-11-16 International Business Machines Corporation Method and system for displaying three-dimensional images
US20050041736A1 (en) * 2003-05-07 2005-02-24 Bernie Butler-Smith Stereoscopic television signal processing method, transmission system and viewer enhancements
US20060015919A1 (en) * 2004-07-13 2006-01-19 Nokia Corporation System and method for transferring video information
JP4687279B2 (ja) * 2005-06-29 2011-05-25 ソニー株式会社 画像再生装置、画像再生方法、および画像再生用プログラム
US8373744B2 (en) * 2007-06-07 2013-02-12 Reald Inc. Stereoplexing for video and film applications
JP2011120233A (ja) * 2009-11-09 2011-06-16 Panasonic Corp 3d映像特殊効果装置、3d映像特殊効果方法、および、3d映像特殊効果プログラム
US9445072B2 (en) * 2009-11-11 2016-09-13 Disney Enterprises, Inc. Synthesizing views based on image domain warping
CN102156353B (zh) * 2010-10-15 2012-06-27 深圳超多维光电子有限公司 二维/三维可转换显示装置、显示方法、个人数字助理及电脑

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102151213B1 (ko) 2018-12-20 2020-09-02 김원규 교반용 날개 및 이를 포함하는 디스펜서

Also Published As

Publication number Publication date
IT1404059B1 (it) 2013-11-08
KR20140021563A (ko) 2014-02-20
EP2676448B1 (en) 2018-09-05
US20130315474A1 (en) 2013-11-28
ITTO20110124A1 (it) 2012-08-15
JP2014511594A (ja) 2014-05-15
US9158961B2 (en) 2015-10-13
CN103416068B (zh) 2016-08-10
WO2012110935A1 (en) 2012-08-23
EP2676448A1 (en) 2013-12-25
TWI540879B (zh) 2016-07-01
TW201246911A (en) 2012-11-16
CN103416068A (zh) 2013-11-27
BR112013020585A2 (pt) 2017-02-21
ES2690492T3 (es) 2018-11-21

Similar Documents

Publication Publication Date Title
JP6019520B2 (ja) 立体画像を生成、送信、および、受信するための方法、および関連するデバイス
KR101840308B1 (ko) 3차원 콘텐츠에 관한 영상들을 조합하기 위한 방법
JP5777033B2 (ja) 立体画像を生成、送信、および受信する方法、並びに関連装置
US8451320B1 (en) Methods and apparatus for stereoscopic video compression, encoding, transmission, decoding and/or decompression
KR20150017350A (ko) 폐색 맵의 이용에 기초한 3차원 비디오 스트림의 생성 및 복원 방법, 및 그 대응 생성 및 복원 디바이스
US9571811B2 (en) Method and device for multiplexing and demultiplexing composite images relating to a three-dimensional content
KR20140044332A (ko) 스테레오스코픽 이미지들을 생성하고, 송신하고 수신하기 위한 방법, 및 관련 디바이스들
JP4355914B2 (ja) 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム
JP2011193486A (ja) 立体3dビデオイメージディジタルデコーディングのシステムおよび方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151215

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160308

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160415

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160915

R150 Certificate of patent or registration of utility model

Ref document number: 6019520

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250