JP5020947B2 - 画像及び関連する深さデータの結合されたやり取り - Google Patents

画像及び関連する深さデータの結合されたやり取り Download PDF

Info

Publication number
JP5020947B2
JP5020947B2 JP2008517669A JP2008517669A JP5020947B2 JP 5020947 B2 JP5020947 B2 JP 5020947B2 JP 2008517669 A JP2008517669 A JP 2008517669A JP 2008517669 A JP2008517669 A JP 2008517669A JP 5020947 B2 JP5020947 B2 JP 5020947B2
Authority
JP
Japan
Prior art keywords
component
depth
channels
color components
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008517669A
Other languages
English (en)
Other versions
JP2008544681A (ja
Inventor
ペー フンケ,エリック
エー ウェー ベーケルス,ヘンリキュス
ブラスペニング,ラルフ
フェルブルッフ,ライナウト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2008544681A publication Critical patent/JP2008544681A/ja
Application granted granted Critical
Publication of JP5020947B2 publication Critical patent/JP5020947B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/15Processing image signals for colour aspects of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/003Aspects relating to the "2D+depth" image format

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Color Television Systems (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は、画像データ及び関連する深さデータの結合されたやり取りの方法に関する。 また、本発明は、画像データ及び関連する深さデータの結合されたやり取りの送信ユニットに関する。
さらに、本発明は、係る送信ユニットを含む画像処理装置に関する。
さらに、本発明は、画像データ及び関連する深さデータの結合されたやり取りの受信ユニットに関する。
さらに、本発明は、係る受信ユニットを含むマルチビュー表示装置に関する。
ディスプレイデバイスの導入以降、現実的な3次元表示装置は、多くの人にとっての夢である。係る表示装置につながる多くの原理が調査されている。幾つかの原理は、所定のボリュームで現実的な3次元のオブジェクトを形成するのを試みる。たとえば、A.Sullivanによる文献“Solid state Multi-planar Volumetric Display”proceedings of SID’03, 1531-1533, 2003に開示された表示装置では、ビジュアルデータは、高速プロジェクタによりプレーンのアレイで配置される。それぞれのプレーンは、スイッチャブルディヒューザである。プレーン数が十分に多い場合、人間の脳は、ピクチャを統合し、現実的な3次元のオブジェクトを観察する。この原理によって、視聴者は、ある範囲内でオブジェクトの周囲を見ることができる。この表示装置では、全てのオブジェクトは、(半)透明である。
多数の他の原理は、両眼視差(binocular disparity)に基づいて3次元の表示装置を作成するのを試みる。これらのシステムでは、見る人の左及び右の目は、別の画像を知覚し、結果的に、見る人は3次元画像を知覚する。これらのコンセプトの概要は、D.F.McAllister, Princeton University Press, 1993による書籍“Stereo Computer Graphics and Other True 3-D Technologies”で発見することができる。最初の原理は、たとえばCRTと共にシャッターグラスを使用する。奇数フレームが表示された場合、左目について光はブロックされ、偶数フレームが表示された場合、右目について光はブロックされる。
更なる機器の必要なしに3次元を表示する表示装置は、オートステレオスコピック表示装置と呼ばれる。
最初のグラスフリーな表示装置は、見る人の左目と右目に向けられる光のコーンを形成するためにバリアを有する。このコーンは、たとえば奇数及び偶数のサブピクセルの列に応答する。これらの列を適切な情報でアドレス指定することで、見る人は、彼が正しいスポットに位置し、3次元画像を知覚することができる場合、彼の左及び右目に異なる画像を得る。
第二のグラスフリーな表示装置は、見る人の左及び右の目に対する奇数及び偶数のサブピクセルの列の光を画像形成するレンズのアレイを有する。
上述されたグラスフリーな表示装置の問題点は、見る人が固定された位置のままである必要があることである。見る人をガイドするため、見る人が正しい位置にあることを示すためのインジケータが示される。たとえば、米国特許第US5986804号を参照されたい。ここでは、バリアプレートは、赤及び緑のledと結合される。見る人が良好に位置されるケースでは、彼は緑の光を見て、さもなければ赤の光を見る。
固定された位置で座る見る人を軽減するため、マルチビューのオートステレオスコピック表示装置が提案されている。たとえば、米国特許US60064424及びUS20000912を参照されたい。US60064424及びUS20000912で開示される表示装置は、傾斜したレンチキュラーが使用され、レンチキュラーの幅は、2つのサブピクセルよりも大きい。このように、互いに隣り合う幾つかの画像が存在し、見る人は、左及び右に移動する自由度を有する。
マルチビュー表示装置で3次元のインプレッションを発生するため、異なる仮想的な視点からの画像はレンダリングされる必要がある。これは、多数の入力ビュー又は幾つかの3次元又は深度情報が存在することを必要とする。この深度情報は、マルチビューカメラシステムから記録、発生されるか、従来の2次元ビデオマテリアルから発生される。2次元ビデオから深度情報を発生するため、動きからの構造、フォーカス情報、幾何学的な形状及び動的な閉塞のような、幾つかのタイプの深度の手掛かりを適用することができる。狙いは、密な深さのマップ、すなわち画素当たりの深さの値を発生することである。この深度マップは、深度情報を見る人に与えるためにマルチビュー画像をレンダリングすることにおいて使用される。P.A.Redert, E.A.Hendriks及びJ.Biemondによる文献“Synthesis of multi viewpoint images at non-intermediate positions”Proceedings of International Conference on Acoustics, Speech, and Signal Processing, Vol. IV, ISBN0-8186-7919-0, page2749-2752, IEEE Computer Society, Los Alamitos, California, 1997では、入力画像及び深度マップに基づいて深度情報を抽出し、マルチビュー画像をレンダリングする方法が開示されている。マルチビュー画像は、3次元のインプレッションを形成するため、マルチビュー表示装置により表示される、あるセットの画像である。典型的に、画像のセットは、入力画像に基づいて形成される。これらの画像のうちの1つを作成することは、それぞれの量のシフトで入力画像の画素をシフトすることで行われる。これらの量のシフトは、視差と呼ばれる。したがって、典型的に、それぞれの画素について、対応する視差の値が存在し、視差のマップを互いに形成する。視差の値及び深度の値は、典型的に逆に関連され、すなわちS=α/Dであり、ここでSは視差、αは定数及びDは深度である。深度マップを形成することは、視差マップを形成することと等価であると考えられる。この明細書では、視差の値及び深度の値は、用語「深さに関連するデータエレメント」により共にカバーされる。
ビデオデータ、すなわち画像信号及び対応する深度データは、様々な画像処理ユニット間でやり取りされる必要があり、最終的に表示装置、特にマルチビュー表示装置に送出される。典型的に、ビデオデータは、RGBリンクによりやり取りされる。これは、3つの相関されるデータストリームであって、分離されるデータストリームは、3つのチャネルにより転送されることを意味する。係るRGBリンクに基づいた標準の例は、DVI(デジタルビジュアルインタフェース)及びLVDS(低電圧ディファレンシャルシグナリング)である。しかし、3次元のケースでは、ビデオデータと共に、深度に関連するデータもやり取りされる必要がある。
本発明の目的は、既存のビデオインタフェースに適合される、開始節に開示された類の方法を提供することにある。
本発明の上記目的は、以下のステップを含む方法により達成される。赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分と色成分を含む出力画像信号に変換するステップ。出力画像信号を関連する深さ(depth)データと結合して、輝度成分、色成分、及び深さデータに基づいた深度成分を含む結合された信号を出力するステップ。予め決定された数の入力色成分に等しい多数のチャネルを通して結合された信号を送信するステップ。
予め決定された数の入力色成分を含む入力画像信号を、入力画像信号よりも少ない少なくとも1つの成分を有する出力画像信号に変換することで、深さデータのやり取りのための余地が形成される。
力の色成分は、赤成分(R)、緑成分(G)及び青成分(B)を有する。 好ましくは、輝度成分は、チャネルのうちの第一のチャネルを通して送信され、色成分は、チャネルのうちの第二のチャネルを通して送信され、深さの成分は、チャネルのうちの第三のチャネルを通して送信される。
チャネルのそれぞれは、帯域幅、すなわち単位時間当たりやり取りすることができる最大の情報量を有する。好ましくは、結合された画像及び関連する深さデータのやり取りは、チャネルの数について適用される帯域幅が実質的に相互に等しいように行われる。それは、単位時間当たり、同じ情報量がそれぞれのチャネルを通してやり取りされることを意味する。これを達成するため、色成分が、入力画像信号を空間的にサブサンプリングすることに基づいて計算される更なる数の出力色成分を含むことが好ましく、更なる数の出力成分は、多重化によりチャネルのうちの第二のチャネルを通して送信されることが好ましい。
情報のやり取りは、送出及び受信を含む。上述された方法は、データのやり取りに関する送出部分に関する。本発明の別の目的は、データのやり取りの受信部分に関連し、既存のビデオインタフェースに適合される対応する方法を提供することにある。
本発明の上記目的は、対応する方法が以下のステップを含む点で達成される。画像データを表す輝度成分と色成分と、深さデータに基づく深度成分とを含む結合された信号を受信するステップ。結合された信号は、多数のチャネルを通して送信される。結合された信号から輝度成分と色成分を抽出するステップ。輝度成分と色成分を、画像データを表す画像信号に変換するステップ。画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、予め決定された数の入力色成分は、チャネル数に等しい。
本発明の更なる目的は、既存のビデオインタフェースに適合される開始節で開示された類の送信ユニットを提供することにある。
本発明の上記目的は、送信ユニットが以下を有することで達成される。赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分と色成分を含む出力画像信号に変換する変換手段。出力画像信号を関連する深さデータと結合し、輝度成分、色成分、及び深さデータに基づいた深度成分を含む結合された信号を出力する結合手段。結合された信号を予め決定された数の入力色成分に等しい多数のチャネルを通して出力する出力手段。
本発明の更なる目的は、既存のビデオインタフェースに適合される、開始節で記載された類の受信ユニットを提供することにある。
本発明の上記目的は、受信ユニットが以下を有することで達成される。画像データを表す輝度成分と色成分と、深さデータに基づいた深度成分を有する結合された信号を受信する受信手段。結合された信号は、多数のチャネルを通して送信される。結合された信号から輝度成分と色成分を抽出する抽出手段。輝度成分と色成分を、画像データを表す画像信号に変換する変換手段。画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、予め決定された数の入力色成分は、チャネル数に等しい。
本発明の更なる目的は、既存のビデオインタフェースに適合される、開始節で記載された類の画像処理装置を提供することにある。
本発明の上記目的は、画像処理装置が上述されたような送信ユニットを有することで達成される。
本発明の更なる目的は、既存のビデオインタフェースに適合される、開始節で記載された類のマルチビュー表示装置を提供することにある。
本発明の上記目的は、マルチビュー表示装置が上述された受信ユニットを有することで達成される。
送信ユニット、受信ユニットの変更、及びそのバリエーションは、記載される画像処理装置、マルチビュー表示装置及び方法の変更及びバリエーションに対応する。
本発明に係る送信ユニット、受信ユニット、画像処理装置、マルチビュー表示装置及び方法のこれらの態様及び他の態様は、以下に記載される実現及び実施の形態に関して、添付図面を参照して明らかとなるであろう。同じ参照符号は、図面を通して同じ部材を示すために使用される。
図1は、第二の処理装置102に接続される第一の処理装置100を概念的に示す。第一の処理装置100及び第二の処理装置は、それぞれイメージプロセッサ及びディスプレイドライバのような集積回路(IC)である。代替的に、第一の処理装置100は、PCのような複雑な装置であり、第二の処理装置102は、たとえばモニタといったマルチビュー表示装置である。第一の処理装置100及び第二の処理装置102は、物理的なコネクションにより接続される。物理的なコネクションは、たとえばデータのシリアルトランスポートについてツイストペア又はツイストペアプラスグランドに基づいている。データのパラレルトランスポートも可能である。
物理コネクションのトップで、3つの論理的なコネクションが実現される。それぞれの論理的なコネクションは、第一の処理装置100と第二の処理装置102の間のデータの転送のためのチャネル108〜112に対応する。コネクションの例は、DVI又はLVDSのような規格に基づいている。
第一の処理装置100の環境で適用されるデータフォーマットは、4つのコンポーネントに基づいている。3つの入力の色成分R,G,Bが存在し、これらは、画像データを互いに表し、第四の成分Dが存在し、これは深さに関連するデータに対応する。典型的に、データは、それぞれの画素PiについてRiサンプル、Giサンプル、Biサンプル及びDiサンプルを有する2次元マトリクスで記憶される。
第二の処理装置102の環境で適用されるデータフォーマットは、第一の処理装置100の環境で適用されるデータフォーマットに等しく、4つの成分に基づいている。
上述のように、第一の処理装置100と第二の処理装置102の間での3つの論理的なコネクションのみが存在する。対応する深さデータと組み合わせて画像データをやり取りするため、第一の処理装置100は、本発明に係る送信ユニット104を有し、第二の処理装置102は、本発明に係る受信ユニット106を有する。送信ユニット104、第一の処理装置100と第二の処理装置102の間の物理的なコネクション、並びに受信ユニット106の結合により、第一の処理装置100と第二の処理装置102の間のデータのやり取りを可能にする。基本的に、やり取りは、画像データの中間データへの第一の変換、中間データを深さデータと結合し、送信し、中間データから深さデータを分離し、中間データの画像データへの第二の変換に基づく。
図2は、本発明に係る送信ユニット104の実施の形態を概念的に示す。送信ユニット104は、結合されたデータをやり取りするため、画像データ及び関連する深さデータを結合するために構成される。送信ユニット104は、以下を有する。変換ユニット202は、予め決定された数の入力の色成分R,G,Bを含む、画像データを表す入力の画像信号を、輝度成分Yと色成分Cを含む出力画像信号に変換する。結合ユニット204は、出力信号を関連する深さデータDと結合し、輝度成分Y、色成分C、及び深さデータに基づく深度成分Dを含む結合された信号を出力する。出力ユニット206は、予め決定された数の入力の色成分に等しい多数のチャネルを通して結合された信号を出力する。
変換ユニット202、結合ユニット204及び出力ユニット206は、1つのプロセッサを使用して実現される。通常は、これら機能は、ソフトウェアプログラムプロダクトの制御下で実行される。実行の間、通常、ソフトウェアプログラムプロダクトは、RAMのようなメモリにロードされ、そこから実行される。プログラムは、ROM、ハードディスク、若しくは磁気的及び/又は光学的ストレージのようなバックグランドメモリからロードされるか、インターネットのようなネットワークを介してロードされる場合がある。任意に、特定用途向け集積回路は、開示される機能を提供する。
好ましくは、色成分Cは、2つの出力色成分U及びVを有する。変換ユニット202は、式(2)〜(4)で規定されるように、3つの入力色成分R,G,Bに基づいて、輝度成分及び2つの出力色成分のサンプルを計算するために構成される。
Figure 0005020947
好ましくは、2つのファクタをもつU及びVの数を低減するため、空間サブサンプリングが行われる。結果は、Yiサンプルの数がUiサンプルの数の2倍、Viサンプルの数の2倍となる。サブサンプリングが行われる前に、低域通過フィルタリングが行われることが好ましい。
結合ユニット204は、輝度成分Y、第一の出力色成分U、第二の出力色成分V、及び深度成分Dからなる対応するサンプルを、たとえば、サンプルのトリプレットの系列に結合するために構成される。
(Y1,U1,D1),(Y2,U1,D2),(Y3,U3,D3),(Y4,V3,D4),(Y5,U5,D5),(Y6,V5,D6
なお、トリプレットは、第一の出力色成分Uと第二の出力色成分Vからなるサンプルを交互に含む。
出力ユニット206は、サンプルのトリプレットを論理的なコネクション、すなわちチャネルに出力するために構成される。以下の表では、どのチャネルのサンプルがマッピングされるかが示される。
Figure 0005020947
好ましくは、出力ユニット206は、シリアライザを有する。典型的に、サンプルは、8〜12の範囲に及ぶ多数のビットで表現される。物理的なコネクションのデータは、シリアルトランスポートによりやり取りされるのが好ましい。その理由のため、連続するサンプルを表すビットは、タイムシーケンシャルな系列で配置される。
図3は、本発明に係る受信ユニット106の実施の形態を概念的に示す。受信ユニット106は、画像データと関連する深さデータを含む結合されたデータを受信し、結合されたデータを分解するために構成される。送信ユニット106は、以下を有する。受信ユニット306は、画像データを表す輝度成分と色成分を含み、深さデータに基づいて深さ成分を含む結合された信号を受信する。結合された信号は、多数のチャネルにわたり送信される。抽出ユニット304は、結合された信号から輝度成分と色成分を抽出する。変換ユニット302は、輝度成分と色成分を、画像データを表す画像信号に変換し、画像信号は、予め決定された数の入力の色成分を有する。予め決定された数の入力の色成分は、チャネル数に等しい。
受信手段306、抽出手段304及び変換手段302は、1つのプロセッサを使用して実現される。通常、これらの機能は、ソフトウェアプログラムプロダクトの制御下で実行される。実行の間、通常、ソフトウェアプログラムプロダクトは、RAMのようなメモリにロードされ、そこから実行される。プログラムは、ROM、ハードディスク、若しくは、磁気的及び/又は光学的なストレージのようなバックグランドメモリからロードされるか、インターネットのようなネットワークを介してロードされる。任意に、特定用途向け集積回路は、開示された機能性を提供する。
好ましくは、受信ユニット306は、デシリアライザを有する。結合された信号が受信ユニット106に提供される、物理的なコネクションでのデータは、シリアルトランスポートによりやり取りされるのが好ましい。しかし、典型的には、受信ユニット106の環境でのデータフォーマットは、全てのサンプルのビットへのダイレクトアクセスが更に便利に、すなわちパラレルデータアクセスとなるフォーマットである。
抽出ユニット304は、受信ユニット106の受信ユニット306により受信されるように、結合された信号から輝度成分Yと色成分Cを抽出するために構成される。色成分Cは、2つの出力色成分U及びVを有する。抽出ユニット306は、結合された信号から深さのサンプルを抽出するために構成される。
変換ユニット202は、式(5)〜(7)で規定されるように、輝度成分Y及び2つの出力色成分U及びVのサンプルに基づいて、3つの入力色成分R,G,Bのサンプルを計算するために構成される。
Figure 0005020947
なお、たとえばYIQ、YCbCr、PhotoYCCといった、YUVカラーモデルの代わりに、色成分の代替的なモデルが適用される。
図4は、本発明に係る、マルチビュー表示装置406を含む画像処理装置400を概念的に示す。画像処理装置400は、以下を有する。受信機402は、入力画像を表すビデオ信号を受信する。画像分析ユニット404は、入力画像から深さに関連するデータを抽出する。マルチビュー表示装置406は、提供される画像データ及び関連する深さデータに基づいて、マルチビュー表示装置によりレンダリングされるマルチビュー画像を表示する。
画像データ及び関連される深さデータは、図2及び図3と共に記載されるように結合された信号により、画像分析ユニット404とマルチビュー表示装置406との間でやり取りされる。画像分析ユニット404は、図2と共に記載される送信ユニット104を有する。マルチビュー表示装置406は、図3と共に記載される受信ユニット106を有する。
ビデオ信号は、アンテナ又はケーブルを介して受信されるブロードキャスト信号であるが、VCR(Video Cassette Recorder)又はDVD(Digital Versatile Disk)のようなストレージデバイスからの信号である場合もある。信号は、入力コネクタ410で提供される。画像処理装置400は、たとえばTVである場合がある。代替的に、画像処理装置400は、任意の表示装置を含まないが、表示装置406を有する装置に出力画像を提供する。次いで、画像処理装置400は、たとえばセットトップボックス、サテライトチューナ、VCRプレーヤ、DVDプレーヤ又はレコーダである場合がある。任意に、画像処理装置400は、ハードディスクのような記憶手段、又はたとえば光ディスクといった取り外し可能なメディアに記憶するための手段を有する。画像処理装置500は、フィルムスタジオ又はブロードキャスタにより適用されているシステムである場合がある。
マルチビュー表示装置406は、受信された結合された信号に基づいてマルチビュー画像の系列を発生するために構成される、レンダリングユニット408を有する。レンダリングユニット408は、(少なくとも)2つの相関されたビデオ画像のストリームをマルチビュー表示装置に提供するように構成され、このマルチビュー表示装置は、ビデオ画像の相関されたストリームのうちの第一のストリームに基づいて第一のビューの系列を可視化し、ビデオ画像の相関されたストリームの第二のストリームに基づいて第二のビューの系列を可視化するために構成される。ユーザ、すなわち見る人が彼の左の目により第一のビューの系列を観察し、右目により第二のビューの系列を観察する場合、彼は3次元のインプレッションに気付く。ビデオ画像の相関されたストリームのうちの第一のストリームが結合された信号により受信されたときビデオ画像の系列に対応し、ビデオ画像の相関されたストリームのうちの第二のストリームが提供された深さデータに基づいて適切なシフトによりレンダリングされる。好ましくは、ビデオ画像の両方のストリームは、受信されたときにビデオ画像の系列に基づいてレンダリングされる。
P.A.Redert, E.A.Hendriks及びJ.Biemondによる論文“Synthesis of multi viewpoint images at non-intermediate positions”proceeding of International Conference on Acoustics, Speech and Signal Processing, Vol. IV, ISBN0-8186-7919-0 pages 2749-2752, IEEE Computer Society, Los Alamitos, California, 1997では、入力画像及び深さマップに基づいて深さの情報を抽出し、マルチビュー画像をレンダリングする方法が開示される。画像分析ユニット404は、深さ情報を抽出する開示された方法の実現である。レンダリングユニット408は、論文に開示されるレンダリングの方法の実現である。
なお、上述された実施の形態は、本発明を限定するよりはむしろ例示するものであり、当業者であれば、請求項の範囲から逸脱することなしに代替となる実施の形態を設計することができる。請求項では、括弧間に配置される参照符号は、請求項を限定するものとして解釈されるべきではない。単語「有する“comprising”」は、請求項に列挙した以外のエレメント又はステップの存在を排除するものではない。本発明は、幾つかの個別のエレメントを有するハードウェア、及び適切にプログラムされたコンピュータにより実現される。幾つかの手段を列挙している装置の請求項では、これらの手段の幾つかは、同一アイテムのハードウェア又はソフトウェアにより実施することができる。
第二の処理装置に接続される第一の処理装置を概念的に示す図である。 本発明に係る送信ユニットの実施の形態を概念的に示す図である。 本発明に係る受信ユニットの実施の形態を概念的に示す図である。 本発明に係る、マルチビュー表示装置を有する画像処理装置を概念的に示す図である。

Claims (14)

  1. 画像データ及び関連する深さデータの結合されたやり取りを行う方法であって、
    赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分及び色成分を含む出力画像信号に変換するステップと、
    前記出力画像信号を関連する深さデータと結合して、前記輝度成分、前記色成分、及び前記深さデータに基づく深度成分を含む結合された信号を出力するステップと、
    入力色成分の前記予め決定された数に等しい数のチャネルを通して前記結合された信号を送信するステップと、
    を含む方法。
  2. 前記輝度成分は、前記チャネルのうちの第一のチャネルを通して送信され、前記色成分は、前記チャネルのうちの第二のチャネルを通して送信され、前記深度成分は、前記チャネルのうちの第三のチャネルを通して送信される、
    請求項1記載の方法。
  3. 前記チャネル数について利用可能な帯域幅は、実質的に相互に等しい、
    請求項1又は2記載の方法。
  4. 前記色成分は、入力画像信号の空間的なサブサンプリングに基づいて計算される更なる数の出力色成分を有する、
    請求項1記載の方法。
  5. 前記更なる数の出力成分は、多重化により前記チャネルのうちの第二のチャネルを通して送信される、
    請求項4記載の方法。
  6. 画像データと関連する深さデータの結合されたやり取りを行う送信ユニットであって、
    赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分及び色成分を含む出力画像信号に変換する変換手段と、
    前記出力画像信号を前記関連する深さデータと結合し、前記輝度成分、前記色成分、及び前記深さデータに基づく深度成分を含む結合された信号を出力する結合手段と、
    入力色成分の前記予め決定された数に等しい数のチャネルを通して結合された信号を出力する出力手段と、
    を有する送信ユニット。
  7. 請求項6記載の送信ユニットを有する画像処理装置。
  8. 画像データと関連する深さデータの結合されたやり取りを行う方法であって、
    画像データを表す輝度成分と色成分を含み、前記深さデータに基づいた深度成分を含む結合された信号を受信するステップと、前記結合された信号は、数のチャネルを通して送信され、
    前記結合された信号から前記輝度成分及び前記色度成分を抽出するステップと、
    前記輝度成分と前記色成分を、画像データを表す画像信号に変換するステップとを含み、
    前記画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、入力色成分の前記予め決定された数は前記チャネル数に等しい、
    ことを特徴とする方法。
  9. 画像データと関連する深さデータの結合されたやり取りを行う受信ユニットであって、
    画像データを表す輝度成分と色成分を含み、深さデータに基づいた深度成分を含む結合された信号を受信する受信手段と、前記結合された信号は数のチャネルを通して送信され、
    前記結合された信号から前記輝度成分と前記色成分を抽出する抽出手段と、
    前記輝度成分と前記色成分を、画像データを表す画像信号に変換する変換手段とを有し、前記画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、入力色成分の前記予め決定された数は前記チャネル数に等しい、
    ことを特徴とする受信ユニット。
  10. 請求項9記載の受信ユニットを有するマルチビュー表示装置。
  11. 画像データ及び関連する深さデータの結合されたやり取りを行う方法であって、
    赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分及び色成分を含む出力画像信号に変換するステップと、
    前記出力画像信号を関連する深さデータと結合して、前記輝度成分、前記色成分、及び前記深さデータに基づく深度成分を含む結合された信号を出力するステップと、
    前記輝度成分、前記色成分及び前記深さ成分を表すビットがタイムシーケンシャルな系列で配置されるシリアルトランスポートを用いた物理的なコネクションを通して前記結合された信号を送信するステップであって、前記物理的なコネクションは入力色成分の前記予め決定された数に等しい数のチャネルを有するステップと、
    を含み、
    前記輝度成分は前記チャネルのうちの第1チャネルで送信され、前記色成分は前記チャネルのうちの第2チャネルで送信され、前記深さ成分は前記チャネルのうちの第3チャネルで送信される、方法。
  12. 画像データと関連する深さデータの結合されたやり取りを行う送信ユニットであって、
    赤、緑及び青の色成分を有する予め決定された数の入力色成分を含む、画像データを表す入力画像信号を、輝度成分及び色成分を含む出力画像信号に変換する変換手段と、
    前記出力画像信号を前記関連する深さデータと結合し、前記輝度成分、前記色成分、及び前記深さデータに基づく深度成分を含む結合された信号を出力する結合手段と、
    前記輝度成分、前記色成分及び前記深さ成分を表すビットがタイムシーケンシャルな系列で配置されるシリアルトランスポートを用いた物理的なコネクションを通して前記結合された信号を出力する出力手段であって、前記物理的なコネクションは入力色成分の前記予め決定された数に等しい数のチャネルを有する出力手段と、
    を有し、
    前記輝度成分は前記チャネルのうちの第1チャネルで送信され、前記色成分は前記チャネルのうちの第2チャネルで送信され、前記深さ成分は前記チャネルのうちの第3チャネルで送信される、送信ユニット。
  13. 画像データと関連する深さデータの結合されたやり取りを行う方法であって、
    画像データを表す輝度成分と色成分を含み、前記深さデータに基づいた深度成分を含む結合された信号を受信するステップであって、前記結合された信号は、前記輝度成分、前記色成分及び前記深さ成分を表すビットがタイムシーケンシャルな系列で配置されるシリアルトランスポートを用いた物理的なコネクションを通して送信され、前記物理的なコネクションは複数のチャネルを有し、前記輝度成分は前記チャネルのうちの第1チャネルで送信され、前記色成分は前記チャネルのうちの第2チャネルで送信され、前記深さ成分は前記チャネルのうちの第3チャネルで送信されるステップと、
    前記結合された信号から前記輝度成分及び前記色度成分を抽出するステップと、
    前記輝度成分と前記色成分を、画像データを表す画像信号に変換するステップとを含み、
    前記画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、入力色成分の前記予め決定された数は、前記チャネルの数に等しい、
    ことを特徴とする方法。
  14. 画像データと関連する深さデータの結合されたやり取りを行う受信ユニットであって、
    画像データを表す輝度成分と色成分を含み、深さデータに基づいた深度成分を含む結合された信号を受信する受信手段であって、前記結合された信号は、前記輝度成分、前記色成分及び前記深さ成分を表すビットがタイムシーケンシャルな系列で配置されるシリアルトランスポートを用いた物理的なコネクションを通して送信され、前記物理的なコネクションは複数のチャネルを有し、前記輝度成分は前記チャネルのうちの第1チャネルで送信され、前記色成分は前記チャネルのうちの第2チャネルで送信され、前記深さ成分は前記チャネルのうちの第3チャネルで送信される受信手段と、
    前記結合された信号から前記輝度成分と前記色成分を抽出する抽出手段と、
    前記輝度成分と前記色成分を、画像データを表す画像信号に変換する変換手段とを有し、前記画像信号は、赤、緑及び青の色成分を有する予め決定された数の入力色成分を含み、入力色成分の前記予め決定された数は、前記チャネルの数に等しい、
    ことを特徴とする受信ユニット。
JP2008517669A 2005-06-23 2006-06-20 画像及び関連する深さデータの結合されたやり取り Expired - Fee Related JP5020947B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP05105621 2005-06-23
EP05105621.6 2005-06-23
PCT/IB2006/051972 WO2006137006A2 (en) 2005-06-23 2006-06-20 Transmission of 3d image using 2d image and depth data

Publications (2)

Publication Number Publication Date
JP2008544681A JP2008544681A (ja) 2008-12-04
JP5020947B2 true JP5020947B2 (ja) 2012-09-05

Family

ID=37570820

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008517669A Expired - Fee Related JP5020947B2 (ja) 2005-06-23 2006-06-20 画像及び関連する深さデータの結合されたやり取り

Country Status (8)

Country Link
US (1) US8189034B2 (ja)
EP (1) EP1897380B1 (ja)
JP (1) JP5020947B2 (ja)
CN (1) CN101204097B (ja)
ES (1) ES2557476T3 (ja)
PL (1) PL1897380T3 (ja)
RU (1) RU2409008C2 (ja)
WO (1) WO2006137006A2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PT3758381T (pt) 2007-04-12 2021-04-13 Dolby Int Ab Disposição em mosaico na codificação e descodificação de vídeo
TWI375290B (en) * 2007-04-26 2012-10-21 Visera Technologies Co Ltd Test system and method
KR20100095464A (ko) * 2007-12-18 2010-08-30 코닌클리케 필립스 일렉트로닉스 엔.브이. 디스플레이 인터페이스를 통한 입체 이미지 데이터의 전송
US20120069154A1 (en) * 2009-01-20 2012-03-22 Koninklijke Philips Electronics N.V. Transferring of 3d image data
WO2010085361A2 (en) 2009-01-26 2010-07-29 Thomson Licensing Frame packing for video coding
KR20110064722A (ko) * 2009-12-08 2011-06-15 한국전자통신연구원 영상 처리 정보와 컬러 정보의 동시 전송을 위한 코딩 장치 및 방법
JP5722349B2 (ja) 2010-01-29 2015-05-20 トムソン ライセンシングThomson Licensing ブロックに基づくインターリーブ
JP5660361B2 (ja) * 2010-03-26 2015-01-28 ソニー株式会社 画像処理装置および方法、並びにプログラム
US20120206568A1 (en) * 2011-02-10 2012-08-16 Google Inc. Computing device having multiple image capture devices and image modes
CN102737370B (zh) * 2011-04-02 2015-07-01 株式会社理光 检测图像前景的方法及设备
US20130050415A1 (en) * 2011-08-30 2013-02-28 Himax Technologies Limited System and Method of Handling Data Frames for Stereoscopic Display
US9667940B2 (en) 2011-09-26 2017-05-30 Sony Corporation Adaptive colorspace conversion for 3D stereoscopic disparity estimation
TWI486053B (zh) * 2011-09-27 2015-05-21 Realtek Semiconductor Corp 立體影像傳輸方法及立體影像傳輸電路
GB201119206D0 (en) * 2011-11-07 2011-12-21 Canon Kk Method and device for providing compensation offsets for a set of reconstructed samples of an image
GB2500712A (en) 2012-03-30 2013-10-02 Sony Corp An Apparatus and Method for transmitting a disparity map
KR101917224B1 (ko) * 2012-09-18 2018-11-13 엘지이노텍 주식회사 영상데이터 전송장치
CN105468545B (zh) * 2014-09-05 2019-04-26 联想(北京)有限公司 一种图像数据处理方法及电子设备
EP3051818A1 (en) 2015-01-30 2016-08-03 Thomson Licensing Method and device for decoding a color picture
CN105898274B (zh) * 2016-04-13 2018-01-12 万云数码媒体有限公司 一种基于rgb压缩的2d加深度3d图像纵向存储方法
CN109803135A (zh) * 2017-11-16 2019-05-24 科通环宇(北京)科技有限公司 一种基于sdi系统的视频图像传输方法及数据帧结构
CN108345247A (zh) * 2018-02-26 2018-07-31 杭州智仁建筑工程有限公司 一种自动控制方法
CN108495112B (zh) * 2018-05-10 2020-12-22 Oppo广东移动通信有限公司 数据传输方法及终端、计算机存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8501096A (nl) 1985-04-15 1986-11-03 Philips Nv Televisiesysteem en daartoe geschikte informatiegever en -ontvanger.
US4707629A (en) * 1986-03-24 1987-11-17 Wasko George J Rotary converter having dual-winding rotor
US5193000A (en) * 1991-08-28 1993-03-09 Stereographics Corporation Multiplexing technique for stereoscopic video system
US5280337A (en) * 1992-10-13 1994-01-18 The Grass Valley Group, Inc. Depth-based video combining
US5999189A (en) * 1995-08-04 1999-12-07 Microsoft Corporation Image compression to reduce pixel and texture memory requirements in a real-time image generator
US5886701A (en) * 1995-08-04 1999-03-23 Microsoft Corporation Graphics rendering device and method for operating same
JP3443272B2 (ja) 1996-05-10 2003-09-02 三洋電機株式会社 立体映像表示装置
DE19619598A1 (de) 1996-05-15 1997-11-20 Deutsche Telekom Ag Verfahren zur Speicherung oder Übertragung von stereoskopischen Videosignalen
US6369855B1 (en) * 1996-11-01 2002-04-09 Texas Instruments Incorporated Audio and video decoder circuit and system
US20030146883A1 (en) * 1997-08-28 2003-08-07 Visualabs Inc. 3-D imaging system
JP3573724B2 (ja) * 2000-07-21 2004-10-06 松下電器産業株式会社 伝送システム、送信装置、受信装置、および伝送方法、送信方法、受信方法
US6650773B1 (en) * 2000-09-29 2003-11-18 Hewlett-Packard Development Company, L.P. Method including lossless compression of luminance channel and lossy compression of chrominance channels
JP2002171535A (ja) * 2000-12-04 2002-06-14 Sony Corp 画像処理装置および方法、並びに記録媒体
JP2002352271A (ja) * 2001-05-28 2002-12-06 Olympus Optical Co Ltd 3次元画像取得装置
WO2003034743A1 (en) * 2001-10-16 2003-04-24 Koninklijke Philips Electronics N.V. Video coding method and corresponding transmittable video signal
JP4178788B2 (ja) * 2001-12-11 2008-11-12 セイコーエプソン株式会社 カラーチャート、画像データ生成装置、カラーチャートを利用したプロファイル作成方法、プロファイル作成プログラムを記録した記録媒体
JP2004274642A (ja) * 2003-03-12 2004-09-30 Nippon Telegr & Teleph Corp <Ntt> 3次元映像情報の伝送方法

Also Published As

Publication number Publication date
CN101204097A (zh) 2008-06-18
EP1897380B1 (en) 2015-11-18
PL1897380T3 (pl) 2016-04-29
US8189034B2 (en) 2012-05-29
ES2557476T3 (es) 2016-01-26
JP2008544681A (ja) 2008-12-04
WO2006137006A3 (en) 2007-04-12
RU2409008C2 (ru) 2011-01-10
WO2006137006A2 (en) 2006-12-28
CN101204097B (zh) 2012-01-11
US20100214393A1 (en) 2010-08-26
EP1897380A2 (en) 2008-03-12
RU2008102383A (ru) 2009-07-27

Similar Documents

Publication Publication Date Title
JP5020947B2 (ja) 画像及び関連する深さデータの結合されたやり取り
JP5431726B2 (ja) 画像および関連データの組み合わされた交換
JP5406269B2 (ja) 奥行き検知装置及び方法
US9036015B2 (en) Rendering views for a multi-view display device
CN101390131B (zh) 呈现输出图像
EP1839267B1 (en) Depth perception
KR101166248B1 (ko) 수신된 이미지 데이터를 분석하는 방법, 컴퓨터 판독 가능한 저장 매체, 뷰 모드 분석 유닛, 및 디스플레이 디바이스
US20110298795A1 (en) Transferring of 3d viewer metadata
US8902284B2 (en) Detection of view mode
WO2006033046A1 (en) 2d / 3d switchable display device and method for driving
Doyen et al. Towards a free viewpoint and 3D intensity adjustment on multi-view display

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090617

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110915

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20111215

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20111222

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120517

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120613

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150622

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees