JP6258923B2 - 3d映像を処理するための品質メトリク - Google Patents

3d映像を処理するための品質メトリク Download PDF

Info

Publication number
JP6258923B2
JP6258923B2 JP2015509552A JP2015509552A JP6258923B2 JP 6258923 B2 JP6258923 B2 JP 6258923B2 JP 2015509552 A JP2015509552 A JP 2015509552A JP 2015509552 A JP2015509552 A JP 2015509552A JP 6258923 B2 JP6258923 B2 JP 6258923B2
Authority
JP
Japan
Prior art keywords
view
image
display
views
processed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015509552A
Other languages
English (en)
Other versions
JP2015521407A5 (ja
JP2015521407A (ja
Inventor
ウィルヘルムス ヘンドリクス アルフォンサス ブリュル
ウィルヘルムス ヘンドリクス アルフォンサス ブリュル
バルトロメウス ウィルヘルムス ダミアヌス ソネヴェルド
バルトロメウス ウィルヘルムス ダミアヌス ソネヴェルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2015521407A publication Critical patent/JP2015521407A/ja
Publication of JP2015521407A5 publication Critical patent/JP2015521407A5/ja
Application granted granted Critical
Publication of JP6258923B2 publication Critical patent/JP6258923B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction

Description

本発明は、三次元[3D]映像信号を処理するための3D映像装置に関する。3D映像信号は、3Dディスプレイ上に表示される少なくとも第1の画像を含む。3Dディスプレイは、視聴者(観察者)向けに3D効果を作り出すために複数のビューを必要とする。3D映像装置は、3D映像信号を受信するための受信機を含む。
本発明は更に、3D映像信号を処理する方法に関する。
本発明は、それぞれの3Dディスプレイ用の3D映像信号に基づきビューを生成し且つ/又は適合させる分野に関する。コンテンツが特定のオートステレオスコピック(裸眼立体)装置上での再生を対象としていない場合、画像内の視差/奥行きがターゲット表示装置の視差範囲上にマップされる必要があり得る。
文献「A Perceptual Model for disparity, by p. Didyk et al, ACM Transactions on Graphics, Proc. of SIGGRAPH, year 2011, volume 30, number 4」は視差に関する知覚モデルを示し、3D画像素材を特定の視聴条件に適合させるためにかかる知覚モデルが使用され得ることを示す。この論文は、視差コントラストが、より知覚的に顕著であり、再ターゲティングするための視差メトリクを提供すると記載している。視差メトリクは、知覚される遠近感の量を求めるために、視差に基づき画像を解析することに基づく。3D信号を様々な視聴条件に適合させるプロセスは再ターゲティングと呼ばれ、再ターゲティングのグローバルオペレータが論じられており、再ターゲティングの効果はメトリクに基づいて決定される(例えばセクション6の最初の2段落、及びセクション6.2)。
知られている差メトリクはどちらかと言えば複雑であり、解析に利用可能な視差データを必要とする。
本発明の目的は、それぞれの3Dディスプレイの知覚される3D画像品質を最適化しながら、より単純な品質メトリクに基づき、3D映像信号をそれぞれの3Dディスプレイにターゲティングするためのパラメータを与えるシステムを提供することである。
このために、本発明の第1の態様によれば、導入部に記載の装置がプロセッサを含み、そのプロセッサは、複数のビューを3Dディスプレイにターゲティングするためのパラメータによって適合される3D画像データに基づいて少なくとも1つの処理済みビューを決定し、処理済みビュー及び更なるビューの画像値の組合せに基づく、知覚される3D画像品質を示す品質メトリクを計算し、パラメータの複数の値について前述の決定及び計算を行うことに基づいてパラメータの好ましい値を決定する。
この方法は、3D映像信号を受信するステップと、複数のビューを3Dディスプレイにターゲティングするためのパラメータによって適合される3D画像データに基づいて少なくとも1つの処理済みビューを決定するステップと、処理済みビュー及び更なるビューの画像値の組合せに基づく、知覚される3D画像品質を示す品質メトリクを計算するステップと、パラメータの複数の値について前述の決定及び計算を行うことに基づいてパラメータの好ましい値を決定するステップとを含む。
これらの手段には、装置が3D映像信号を受信し、視聴者向けにそれぞれの3Dディスプレイによって表示される3D画像の品質を高めるために、それぞれのディスプレイのビューを適合させるためのパラメータを決定する効果がある。特定のディスプレイのビューを適合させるプロセスは、3Dディスプレイのためにビューをターゲティングする、と言われる。例えば、その特定のディスプレイは、高品質3D画像用の限られた奥行き範囲を有し得る。例えば、かかるディスプレイのためのビューを生成し又は適合させるために使用される奥行き値に適用するために、利得パラメータが決定されても良い。更なる例では、それぞれのディスプレイが、通常、高い鮮明度を有する表示画面付近の好ましい奥行き範囲を有し得る一方、視聴者の方に飛び出る3D物体はより不鮮明になる傾向がある。視差の量を制御するために、ビューにオフセットパラメータが適用されても良く、その後、3D物体が高鮮明度の好ましい奥行き範囲の方にシフトされ得る。事実上、本装置は前述のパラメータを調節して、それぞれの3Dディスプレイの3D効果及び知覚される画像品質を最適化するための自動システムを備える。具体的には、品質メトリクは、知覚される3D画像品質を決定する画像値の組合せに基づいて計算され、3D画像品質に対する複数の異なるパラメータ値の効果を測定するために使用される。
本発明は以下の認識にも基づく。従来では、それぞれの3Dディスプレイのビューの調節は、3D画像品質についての自身の判断に基づき視聴者によって手動で行われ得る。例えば利得やオフセットにより、奥行きをそれぞれの3Dディスプレイの好ましい奥行き範囲内にマップするために奥行きマップ又は視差マップを処理することに基づく自動調節は、画像の特定の部分のぼやけ及び/又は比較的小さな奥行き効果をもたらし得る。本発明者らは、比較的大きい視差を有するが知覚される画像品質に対する比較的低い寄与度を有する、遠く離れた雲等の比較的大きな物体によってかかるマッピングがバイアスされる傾向にあることに気付いた。提案される品質メトリクは、視差によってワープされる画像データを含む処理済みビューの画像値の組合せの画像値と、更なるビュー、例えば3D映像信号と共に提供される画像の画像値とを比較することに基づく。両方のビュー内で視差は異なるので、組合せの画像値は、画像コンテンツ及びビュー内の視差の両方を表す。事実上、高コントラスト又は高次構造を有する物体は品質メトリクに大いに寄与するのに対し、知覚可能な僅かな特徴しか有しない物体は、大きい視差にもかかわらず殆ど寄与しない。
描画される画像の画面上の(オンスクリーン)視差に影響を及ぼすパラメータを最適化するのに画像メトリクが使用される場合、異なるビューからの画像情報を関連させることが重要である。更に、これらのビューを最も上手く関連させるために、比較される画像情報が好ましくは画像内の対応するx、y位置に由来する。より好ましくは、これは画像の寸法が一致するように入力及び描画される画像を再スケーリングすることを含み、画像の寸法が一致する場合、同じx、y位置がマッチされ得る。
有利には、メトリクを計算するために更なるビュー及び処理済みビューの画像値の組合せを使用することにより、知覚される画像品質に対応する測度(指標)が見つかっている。更に、提案されるメトリクは、メトリクを求めるために、視差データ又は奥行きマップがそれ自体で提供され若しくは計算されることを必要としない。その代わりに、メトリクは、パラメータによって修正される処理済み画像の画像値、及び更なるビューの画像値に基づく。
任意選択的に、更なるビューは、パラメータによって適合される3D画像データに基づき更に処理されるビューである。更なるビューは異なる視角を表し、同じパラメータ値、例えばオフセット値によって処理される。その効果は、少なくとも2つの処理済みビューが比較され、処理済みビュー間の差による知覚される品質を品質メトリクが表すことである。
任意選択的に、更なるビューは、3D画像データ内で入手可能な2Dビューである。その効果は、処理済みビューが、高い品質を有し、ビューのワーピングによるアーティファクトを有しない元の2Dビューと比較されることである。
任意選択的に、更なるビューは、パラメータによって適合される3D画像データに基づき更に処理されるビューであり、処理済みビュー及び更に処理されるビューは、画像値の組合せを構成するためにインタリーブされる。処理済みビューは、複数のビューをインタリーブすることによりオートステレオスコピック3Dディスプレイの画素配列上に表示される、インタリーブ済み3D画像に対応し得る。インタリーブ済み3D画像は、表示画面に転送される複合画素行列を集めることによって構築され、異なるビューが視聴者の左眼及び右眼のそれぞれによって知覚されるよう、表示画面はかかる異なる方向の異なる隣接ビューを構成するようにオプティクスを備える。例えば、オプティクスは、欧州特許出願公開第0791847A1号の中で開示されているように、オートステレオスコピックディスプレイ(ASD:autostereoscopic display)を構成するためレンチキュラアレイとすることができる。
同出願人による欧州特許出願公開第0791847A1号は、異なるビューに関連する画像情報がレンチキュラASDのためにどのようにインタリーブされ得るのかを示す。欧州特許出願公開第0791847A1号の図面から見て取れるように、レンチキュラ(又は他の導光手段)の下の表示パネルのそれぞれの部分画素にビュー番号が割り当てられており、即ちそれらの部分画素は、その特定のビューに関連する情報を扱う。表示パネル上に横たわるレンチキュラ(又は他の導光手段)はその後、それぞれの部分画素によって発せられる光を観ている人の眼に導き、それにより第1のビューに関連する画素を観ている人の左眼に、第2のビューに関連する画素を右眼に与える。その結果、第1のビュー及び第2のビューの画像内に適切な情報が与えられることを条件に、観ている人は立体画像を知覚する。
欧州特許出願公開第0791847A1号の中で開示されているように、表示パネルのそれぞれのR、G、及びBの値を見るとき、様々なビューの画素が好ましくは部分画素のレベルでインタリーブされる。有利には、処理済み画像がここでは、最終的な3D表示のために生成されなければならないインタリーブ済み画像と同様である。例えばインタリーブ済み画像の鮮明度を求めることにより、品質メトリクがインタリーブ済み画像に基づき計算される。
任意選択的に、プロセッサは、パラメータによって適合される3D画像データに基づき少なくとも第1のビュー及び第2のビューを求め、その少なくとも第1のビュー及び第2のビューをインタリーブして処理済みビューを求めるように構成される。インタリーブ済みのビューは、更なるビュー、例えば3D映像信号内で提供される2D画像と比較される。
任意選択的に、プロセッサは、最も左のビュー及び/又は最も右のビューに基づき処理済みビューを求めるように構成され、複数のビューが最も左のビューから最も右のビューにわたる一連のビューを形成している。有利には、最も左のビュー及び/又は最も右のビューが、更なるビューに比べて高い視差を含む。
任意選択的に、プロセッサは、画像値の組合せに対するピーク信号対雑音比の計算に基づき、又は画像値の組合せに対する鮮明度の計算に基づき品質メトリクを計算するように構成される。ピーク信号対雑音比(PSNR:Peak Signal-to-Noise Ratio)とは、信号の最大可能出力と、その信号の表現の忠実度に影響を及ぼす破損雑音の出力との比である。ここで、PSNRが、知覚される3D画像品質の測度を与える。
任意選択的に、3D装置において、3D映像をターゲティングするためのパラメータは、オフセット、利得、又はスケーリングの種類のうちの少なくとも1つを含む。かかるパラメータの好ましい値が、ビューのワーピングを適合させるための処理条件として、3Dディスプレイのビューをターゲティングするために適用される。オフセットは、ビューに適用されるとき、ディスプレイ面に対して物体を後ろに又は前に効果的に動かす。有利には、オフセットの好ましい値は、重要な物体を3Dディスプレイ面に近い位置に移動させる。利得は、ビューに適用されるとき、3Dディスプレイ面から離して又は3Dディスプレイ面の方に物体を効果的に動かす。有利には、利得の好ましい値は、3Dディスプレイ面を基準にして重要な物体を移動させる。スケーリングの種類は、ビュー内の値がビューをワーピングするときに実際の値にどのように修正されるのか、例えば双一次スケーリング、双三次スケーリング、又はビューコーンをどのように適合させるのかを示す。
任意選択的に、プロセッサは、ボーダー領域を無視することにより、画像値の組合せの中央領域に基づき品質メトリクを計算するように構成される。ボーダー領域は、パラメータによる適合により乱れている又は不完全なことがあり、関連する高い視差値又は飛び出る物体を通常含まない。有利には、メトリクは中央領域にのみ基づく場合、より信頼できる。
任意選択的に、プロセッサは、対応する奥行き値に依存して画像値の組合せに重み付けを施すことにより品質メトリクを計算するように構成される。局所的な奥行きごとに画像値間の差が更に重み付けされ、例えば知覚される品質に対してより大きな影響力を有する飛び出る物体は、品質メトリクに対してより大きな寄与度を有するように強調され得る。
任意選択的に、プロセッサは、処理済みビュー内の関心領域を決定し、関心領域内の画像値の組合せに重み付けを施すことにより品質メトリクを計算するように構成される。関心領域内では、品質メトリクを計算するために画像値間の差が重み付けされる。プロセッサは、関心領域を決定するための顔検出器を有しても良い。
任意選択的に、プロセッサは、3D映像信号内のショットに依存して或る期間にわたる品質メトリクを計算するように構成される。事実上、パラメータの好ましい値は、同じ3D構成、例えば特定のカメラ及びズーム構成を有する3D映像信号の期間に当てはまる。通常、この構成は映像番組のショットの間ほぼ一定である。ショットの境界は出力元側において知られていても良く、又は出力元側で容易に検出されても良く、パラメータの好ましい値はショットに対応する期間について有利に決定される。
任意選択的に、プロセッサは、顔の奥行き位置の大幅な変化等、所定の閾値を上回る関心領域の変化に依存してパラメータの好ましい値を更新するように更に構成され得る。
本発明による装置及び方法の更なる好ましい実施形態は、その開示が参照により本明細書に援用される添付の特許請求の範囲の中で示されている。
本発明のこれらの態様及び他の態様が、以下の説明の中で例として記載される実施形態を参照し、添付図面を参照することで明らかになり更に説明される。
3D映像データを処理し、その3D映像データを表示するためのシステムを示す。 3D映像信号を処理する方法を示す。 視差値の分布を示す。 3D信号を示す。 様々なオフセット値のインタリーブビューを示す。 オフセットパラメータの様々な値について計算された品質メトリクを示す。 鮮明度メトリクに基づいてオフセットを決定するためのシステムを示す。 奥行きマップヒストグラムの例を示す。 ビューコーンを適合させるためのスケーリングを示す。
上記図面は単に概略的なものであり、縮尺通りに描かれていない。図中、既に記載されている要素に対応する要素は同じ参照番号を有し得る。
所謂3D映像フォーマットに従い、3D映像信号がフォーマットされ、伝送され得る多くの異なる方法がある。一部のフォーマットは、更にステレオ情報を運ぶために2Dチャネルを使用することに基づく。3D映像信号では、画像が画素の二次元配列内の画像値によって表される。例えば、フレーム内で左右のビューがインタレースされても良く、又は並べて若しくは上下(互いの上及び下に)に配置されても良い。更に、奥行きマップが伝送されても良く、場合によりオクルージョンや透明性データ等の更なる3Dデータも伝送されても良い。本文では、視差マップも一種の奥行きマップと見なされる。奥行きマップも、画像に対応する二次元配列内に奥行き値を有するが、奥行きマップは3D信号内に含まれる「テクスチャ」入力画像のものと異なる解像度を有し得る。3D映像データは、それ自体は知られている圧縮方法、例えばMPEGに従って圧縮されても良い。インターネットやブルーレイディスク(BD:Blu-ray(登録商標) Disc)等、如何なる3D映像システムも、提案される機能強化の恩恵を受けることができる。
3Dディスプレイは、比較的小さなユニット(例えば携帯電話)、シャッタグラスを必要とする大きいステレオディスプレイ(STD:Stereo Display)、任意の立体視ディスプレイ(STD:stereoscopic display)、可変ベースラインを考慮に入れる高度なSTD、ヘッドトラッキング(視点追従)に基づきLビュー及びRビューを視聴者の眼にターゲティングするアクティブSTD、又はオートステレオスコピックマルチビューディスプレイ(ASD)等とすることができる。前述の様々な種類のディスプレイ向けに、例えばASDや高度なSTD向けに、3D信号内の奥行き/視差データに基づき、可変ベースラインについてビューがワープされる必要がある。オートステレオスコピック装置上での再生を対象としないコンテンツが使用される場合、画像内の視差/奥行きがターゲット表示装置の視差範囲上にマップされる必要があり、これはターゲティングと呼ばれる。しかしながら、ターゲティングにより画像が特定の部分についてぼやける場合があり、且つ/又は比較的小さい奥行き効果しかない。
図1は、3D映像データを処理し、その3D映像データを表示するためのシステムを示す。3D映像信号41が3D映像装置50に与えられ、3D映像装置50は、3D表示信号56を転送するために3D表示装置60に結合される。3D映像信号は、例えば1/2HDフレーム準拠、マルチビュー符号化(MVC)又はフレーム準拠フル解像度(例えばDolbyによって提唱されるFCFR)を使用する標準ステレオ伝送等の3D TV放送信号とすることができる。フレームに準拠したベースレイヤに基づき、Dolbyはフル解像度の3D画像を再現するための強化レイヤを開発した。
図1は、3D映像信号の担体として記録担体54を更に示す。記録担体はディスク状であり、トラックと中央の穴を有する。物理的に検出可能なマークのパターンによって構成されるトラックは、1つ又は複数の情報レイヤ上にほぼ平行なトラックを構成する螺旋状又は同心円状の曲線パターンに従って配列される。記録担体は光学的に読み取ることができても良く、光学ディスク、例えばDVDやBD(ブルーレイディスク)と呼ばれる。情報は、トラックに沿った光学的に検出可能なマーク、例えばピットやランドにより、情報レイヤ上に具体化される。このトラック構造は、情報ブロックと通常呼ばれる情報単位の位置を示すための位置情報、例えばヘッダやアドレスも含む。記録担体54は、例えばMPEG2やMPEG4符号化システムに従い、DVDやBDフォーマット等の既定の記録フォーマットに符号化される映像等、デジタル符号化された3D画像データを表す情報を運ぶ。
3D映像装置50は、3D映像信号41を受信するための受信機を有し、その受信機は1つ又は複数の信号インターフェイスユニットと、入力映像信号をパーズするための入力ユニット51とを有する。例えば、受信機は、DVDやブルーレイディスク等の光学的記録担体54から3D映像情報を取得するために入力ユニットに結合される光学ディスクユニット58を含み得る。或いは(又は加えて)、受信機は、ネットワーク45、例えばインターネットやブロードキャストネットワークに結合するためのネットワークインターフェイスユニット59を含んでも良く、かかる装置はセットトップボックスや、携帯電話やタブレットコンピュータ等のモバイルコンピューティング装置である。3D映像信号は、離れたウェブサイト又はメディアサーバから取得され得る。3D映像装置は、画像入力信号を、ビューターゲティング情報、例えば以下に記載するようにターゲティングするためのパラメータの好ましい値を有する画像出力信号に変換する変換器とすることができる。かかる変換器は、特定の種類の3Dディスプレイ向けの入力3D映像信号、例えば標準的な3Dコンテンツを、特定の種類又は供給元のオートステレオスコピックディスプレイに適した映像信号に変換するために使用され得る。3Dディスプレイは、視聴者向けに3D効果を作り出すために複数のビューを必要とする。実際には、この3D映像装置は、3D対応の増幅器若しくは受信機、3D光学ディスクプレーヤ、衛星放送受信機やセットトップボックス、又は任意の種類のメディアプレーヤとすることができる。或いはこの3D映像装置は、バリア又はレンチキュラベースのASD等のマルチビューASD内に統合されても良い。
3D映像装置は、3D情報を処理し、出力インターフェイスユニット55を介して3D表示装置に転送される3D表示信号56、例えばHDMI(登録商標)規格による表示信号(その3Dの部分が公開ダウンロード用にhttp://hdmi.org/manufacturer/specification.aspxで入手可能な「High Definition Multimedia Interface; Specification Version 1.4a of March 4, 2010」参照)を生成するために入力ユニット51に結合されるプロセッサ52を有する。
3D表示装置60は、3D画像データを表示するためのものである。この装置は、3D映像装置50から転送される、3D映像データ及びビューターゲティング情報を含む3D表示信号56を受信するための入力インターフェイスユニット61を有する。この装置は、3D映像情報に基づき3D映像データの複数のビューをもたらすためのビュープロセッサ62を有する。ビューは、知られている位置における2Dビュー及び奥行きマップを用いて3D画像データから生成され得る。知られている位置におけるビュー及び奥行きマップを使用することに基づき、異なる3D表示眼球位置用のビューを生成するプロセスは、ビューのワーピングと呼ばれる。ビューは、以下で論じられるようにビューターゲティングパラメータに基づき更に適合される。或いは、3D映像装置内のプロセッサ52が、前述のビューの処理を行うように構成されても良い。指定の3Dディスプレイ用に生成される複数のビューは、前述の3Dディスプレイに向けて3D画像信号と共に転送され得る。
3D映像装置とディスプレイとが単一の装置へと組み合わせられても良い。プロセッサ52及び映像プロセッサ62の機能、並びに出力ユニット55及び入力ユニット61の残りの機能が、単一の処理装置によって実行され得る。プロセッサの機能について以下で説明する。
動作中、プロセッサは、複数のビューを3Dディスプレイにターゲティングするためのパラメータによって適合される複数のビューの少なくとも1つに基づき、処理済みビューを決定する。パラメータは、例えば3Dディスプレイにビューをターゲティングするためにビューに適用されるオフセット及び/又は利得とすることができる。次いでプロセッサは、視差によってワープされる画像データを含む処理済みビューの画像値と、更なるビュー、例えば3D映像信号と共に提供される画像の画像値との組合せを決定する。
その後、知覚される3D画像品質を示す品質メトリクが計算される。品質メトリクは、画像値の組合せに基づく。処理済みビューを決定し、品質メトリクを計算するプロセスはパラメータの複数の値について繰り返され、それぞれのメトリクに基づいてパラメータの好ましい値が決定される。
品質メトリクが非インタリーブ画像に基づいて計算されている場合、画像内の対応する(x,y)位置からの画像情報を関連させることが好ましい。描画される画像が同じ空間解像度にない場合、同じ空間(x,y)位置が使用され得るという点で品質メトリクの計算を単純化するために、好ましくは片方又は両方の画像がスケーリングされる。或いは、例えば非インタリーブ画像を比較できるようにする1つ又は複数の中間値を計算することにより、スケーリングされていない元の画像を処理するが、適切な画像情報を関連させるように品質メトリクの計算が適合されても良い。
パラメータはスケーリングの種類とすることもでき、スケーリングの種類は、奥行きマップ内の値がビューをワーピングするときに使用される実際の値にどのように変換されるのか、例えば双一次スケーリング、双三次スケーリング、又は所定の種類の非線形スケーリングを示す。様々なスケーリングの種類について品質メトリクが計算され、優先度が決定される。更なる種類のスケーリングはビューコーンの形状をスケーリングすることを指し、これは図8を参照して以下で説明される。
画像値の組合せ内の更なるビューは、パラメータによって適合される3D画像データに基づき更に処理されるビューとすることができる。更なるビューは異なる視角を表し、同じパラメータ値、例えばオフセット値によって処理される。品質メトリクがここでは、処理済みビュー間の差による知覚される品質を表す。更なるビューは、3D画像データ内で入手可能な2Dビューとすることができる。ここで、処理済みビューが、高い品質を有し、ビューのワーピングによるアーティファクトを有しない元の2Dビューと比較される。
或いは、更なるビューは、パラメータによって適合される3D画像データに基づき更に処理されるビューとすることができ、処理済みビュー及び更に処理されるビューは、画像値の組合せを構成するためにインタリーブされる。ここで、単一のインタリーブ済み画像が、組合せの画像値を含む。例えば、処理済みビューは、複数のビューをインタリーブすることによりオートステレオスコピック3Dディスプレイの画素配列上に表示される、インタリーブ済み3D画像に対応し得る。品質メトリクは、例えばインタリーブ済み画像の鮮明度を求めることにより、インタリーブ済み画像それ自体に基づいて計算される。
プロセッサは、パラメータによって適合される3D画像データに基づき少なくとも第1のビュー及び第2のビューを求め、その少なくとも第1のビュー及び第2のビューをインタリーブして処理済みビューを求めるように構成され得る。例えばPSNRの計算に基づき品質メトリクを計算するために、インタリーブ済みのビューが、更なるビュー、例えば3D映像信号内で提供される2D画像と比較される。
プロセッサは、最も左のビューから最も右のビューにわたる一連のビューからの、最も左のビュー及び/又は最も右のビューに基づき処理済みビューを求めるように構成され得る。そのような極端なビューは最も高い視差を有し、従って品質メトリクが大いに影響を受ける。
図2は、3D映像信号を処理する方法を示す。3D映像信号は、3Dディスプレイ上に表示される3D画像データを含み、3Dディスプレイは、視聴者向けに3D効果を作り出すために複数のビューを必要とする。最初に、段階21RCVで、この方法は3D映像信号を受信することから始まる。次に段階SETPAR22で、3Dディスプレイに複数のビューをターゲティングするためのパラメータ値、例えばオフセットパラメータ値が設定される。後段でのプロセスの反復のために、パラメータの様々な値が続いて設定される。次に段階PVIEW23で、上記のようにパラメータの実際の値によって適合される複数のビューの少なくとも1つに基づき処理済みビューが決定される。次に段階METR24で、知覚される3D画像品質を示す品質メトリクが計算される。品質メトリクは、処理済みビュー及び更なるビューの画像値の組合せに基づく。次に段階LOOP25で、パラメータの更なる値が評価されなければならないかどうかが判定される。評価されなければならない場合、このプロセスは段階SETPAR22に続く。パラメータの十分な値が評価されている場合、段階PREF26で、前述のパラメータの複数の値に関する決定及び計算のループによって取得される対応する複数の品質メトリクに基づき、パラメータの好ましい値が決定される。例えば、品質メトリクについて最善の値を有するパラメータ値が選択されても良く、又は最適条件、例えば最大値を推定するために、見出された品質メトリクの値に対して補間が行われても良い。
事実上、繰り返される計算は、画像を描画するためにマッピングが使用され、その後、改善されたマッピングを確立するために、描画される画像(又はその一部)に基づき誤差の測度/メトリクが確立される解決策を提供する。求められる誤差の測度は、ビューをインタリーブすることによって生じる処理済みビューに基づき得る。代替的に、処理済みビューは、上記のようにインタリーブ前の1つ又は複数のビューに基づいても良い。
3D映像の処理は、コンテンツを例えば記録中に「オフライン」で、又は短い映像遅延を用いて変換するために使われ得る。例えば、ショットの期間についてパラメータが決定され得る。ショットの開始時及び終了時の視差が全く異なる場合がある。そのような違いにかかわらず、ショット内のマッピングは連続的でなければならない。複数の期間にわたって処理することは、ショットカットの検出、オフライン処理、及び/又はバッファリングを必要とし得る。ショットの境界の自動検出それ自体は知られている。また、境界は映像編集過程中に既に印付けされ、又は決定されていても良い。例えば、顔のクローズアップショットについて決定されるオフセット値の後に、離れた風景の次のショットのための次のオフセット値が続いても良い。
図3は、視差値の分布を示す。この図面は、3D画像の視差値のグラフを示す。視差は、低い視差値Disp_lowから高い視差値Disp_highまで様々であり、図中に示すように統計的分布を有し得る。画像コンテンツ内の視差についてのこの分布例は、−10画素の視差において中央値又は重心を有する。オートステレオスコピックディスプレイに対応するために、このような視差範囲が奥行きマップにマップされなければならない。従来、Disp_lowからDisp_highの間の視差が、奥行き0..255に線形にマップされ得る。低値及び高値は、分布の5%又は95%のポイントとすることもできる。ショット検出器を使用し、ショットごとに視差が求められ得る。しかしながら、線形マッピングは非対称分布の問題を引き起こす場合がある。代替的なマッピングは、分布の重心(即ちこの例では−10画素)を、ASDの画面上レベル(通常128)に対応する奥行き値に、及び視差範囲をこの画面上の奥行きレベルのあたりに線形にマップすることであり得る。しかしながら、ASDに目を向けたとき、かかるマッピングは多くの場合、視知覚に合わない。しばしば、(画面から飛び出る)視聴者に近い一部の物体、又は視聴者から離れた物体に関して気になるぼやけが認められることがある。このぼやけはコンテンツに依存する。このぼやけを回避するための魅力的でない対応策は、全体的な奥行き範囲を減らすこと(低利得)だが、かかる対応策はASD上で知覚される奥行きを減らしてしまう。手動による制御も魅力的ではない。
一実施形態では、以下の処理が実施される。まず、例えばステレオを2D及び奥行きに変換することにより奥行きマップが与えられる。次いで、第1の妥当な視差−奥行きマッピングを用いて、分布の中心をASDの画面レベルに対応する奥行き値にマッピングすること等の初期マッピングが行われる。その後、幾つかのビューがこの奥行き及び2D信号から生成され、処理済みビューを作成するためにインタリーブされる。インタリーブされたビューは、ASD表示パネルに結合されても良い。概念は、2D信号として処理済みビューを使用し、それを元の2D信号と比較することである。このプロセスは、一連の奥行き(又は視差)のオフセット値について繰り返される。比較自体はスペクトル解析、FFT等の既知の方法によって行われ得るが、SADやPSNR計算等のより簡単な方法とすることもできる。ボーダーデータ、例えば水平及び垂直のボーダーについて30画素幅のボーダーを無効にすることにより、処理領域が画像の中心領域に制限され得る。
図4は、3D信号を示す。3D映像信号は、2D画像及び対応する奥行きマップを含む。図4aは2D画像を示し、図4bは対応する奥行きマップを示す。この2D画像及び奥行きマップに基づき、3Dディスプレイ上に描画するためのビューが生成される。その後、ビューがインタリーブされて、インタリーブ済みのビューが作成される。インタリーブ済みのビューは、オートステレオスコピックディスプレイのLCDパネルに転送され得る。図5及び図6によって示されるように、それぞれのオフセットのPSNRに基づき品質メトリクを計算するために、様々なオフセット値についてのインタリーブ済みのビューがここでは処理済みビューとして使用される。
図5は、1920x1080の画面解像度を有する表示パネルのために生成されたものであり、各画素は3つのRGB部分画素(サブピクセル)から成る。描画される画像は、様々な奥行きオフセットパラメータ、即ちディスプレイ上のゼロ視差に対応する0〜255の範囲内の奥行きレベルを用いて描画された画像を表す。
入力画像の縦横比と出力先装置の縦横(アスペクト)比との違いの結果として、画像がその水平軸に沿って伸びている。それぞれの画像間の違いをより良く観察するために、インタリーブされた画像の一部分が拡大されている。PSNR品質メトリクを計算するために、元の入力画像(図4a)が1920x1080にスケーリングされた。その後、図5a〜図5dについてPSNR品質メトリクが計算された。インタリーブ済み画像は、傾斜したレンチキュラが施されたASD向けに描画された。このインタリーブプロセスの結果、それぞれのインタリーブ済み画像の全1920x1080画像画素の部分画素が、3つの異なるビューに関連するビュー情報を含む。
図5a〜図5dは、4つの異なる奥行きオフセット値、110、120、130、及び140それぞれのオフセットに対応する。視覚的に、異なるオフセットは、インタリーブプロセス及び描画されるビュー内の画像情報の様々な変位(視差)の結果として、画像内の様々な奥行きにある物体がより鮮明に又はより不鮮明に画像化されることをもたらす。その結果、図5a内に見られるマグ上の「くっきりした」ジグザグパターンが図5b〜図5d内ではぼやけている。
図5aは、オフセット=110のインタリーブされたピクチャを示す。品質メトリクが、2Dピクチャを用いてPSNRに基づき計算され、25.76dBである。
図5bは、オフセット=120のインタリーブされたピクチャを示す。品質メトリクが、2Dピクチャを用いてPSNRに基づき計算され、26.00dBである。
図5cは、オフセット=130のインタリーブされたピクチャを示す。品質メトリクが、2Dピクチャを用いてPSNRに基づき計算され、25.91dBである。
図5dは、オフセット=140のインタリーブされたピクチャを示す。品質メトリクが、2Dピクチャを用いてPSNRに基づき計算され、25.82dBである。
図5によって示される例では、最適なオフセットパラメータは120である。
図6は、オフセットパラメータの様々な値について計算された品質メトリクを示す。この図面は、オフセットパラメータ値に応じたPSNRに基づく品質メトリクの値を示す。この図面の曲線から、120のオフセット値が品質メトリクの最大値をもたらすことが見て取れる。人間の視聴者による検証により、実際に120がこの画像の最適なオフセット値であることが確認された。
この方法は、視差だけを又は2D信号からの情報だけを考慮するのではなく、複合解析を確立することを指摘しておく。複合解析により、詳細が殆ど無いが大きな視差値を有する例えば空や雲はPSNRの差に殆ど寄与しない。ある程度ぼやけた表示位置にあるかかる物体はやはり視聴体験を殆ど妨げないので、これは知覚される3D画像品質に対応する。より少ないビュー又は1つの極端なビューだけを用いるインタリーブ方式を使用することにより、処理済みビューは、仮想的なインタリーブ済みのビューとすることができ、即ち実際のASDのインタリーブ済みビューと異なっても良い。
図1に示されている装置では、プロセッサが以下のように構成されても良い。プロセッサは、処理済みビュー内の関心領域を決定し、その関心領域を3Dディスプレイの好ましい奥行き範囲内で表示するために、関心領域内の画像値の違い(差)に重み付けを施すことにより、品質メトリクを計算するためのユニットを有しても良い。パラメータは、関心領域を3Dディスプレイの好ましい奥行き範囲内で表示できるようにするように決定される。事実上、関心領域は視聴者の注意を引くと見なされる3D映像素材内の要素又は物体によって構成される。例えば関心領域データは、視聴者の注意を恐らく引く多くの詳細を有する画像領域を示し得る。関心領域は既知でも検出可能でも良く、又は3D映像信号内の指標が利用できても良い。
関心領域内で画像値の差が重み付けされ、例えば知覚される品質により大きい影響を有することが意図される物体は、品質メトリクにより多く寄与するように強調され得る。例えば、プロセッサは顔検出器53を有することができる。検出される顔は、関心領域を決定するために使用され得る。任意選択的に奥行きマップと組み合わせて顔検出器を利用し、顔を含む領域に関して、対応する画像値の差に重み付けが施されても良い(例えば、PSNR計算の平方差に対する通常の重みの5倍)。更に、重み付けが奥行き値又は奥行きから得られる値と乗算されても良い(例えば(画面からはるかに出た)大きい奥行きにある顔では例えば10xの更なる重み付け、小さい奥行きにある顔(画面の後方にある顔)では例えば4xの重み付け)。
更にプロセッサは、対応する奥行き値に依存して画像値の違いに重み付けを施すことにより、品質メトリクを計算するよう構成されても良い。選択的に、メトリクの計算において、奥行きに応じた重み、例えば大きい奥行きでの2xの重み付け及び小さい奥行きでの1xの重み付けを画像差に施しても良い。前景のぼやけは背景のぼやけよりも気になるので、この重み付けは知覚される品質に関係する。
任意選択的に、奥行きと画面レベルでの奥行き値との絶対差に応じて重みが加えられても良い。例えば、大きい奥行き差での2xの重み付け及び小さい奥行き差での1xの重み付けである。最適な(最も低いPSNRの)オフセットレベルを決定する感度が高められるので、この重み付けは知覚される品質に関係する。
一実施形態では、プロセッサが、画像値の組合せの行に沿って処理することに基づいて品質メトリクを計算するよう構成される。視差は、視聴者の眼の向きに対応する水平方向で常に生じることを指摘しておく。従って品質メトリクは、画像の水平方向に効果的に計算され得る。そのような一次元の計算はより単純である。更に、プロセッサは、画像値の組合せの解像度を、例えばその組合せの画像値行列を間引きすることによって低減するよう構成されても良い。更に、プロセッサは、画像値の組合せにサブサンプリングパターン又はランダムサブサンプリングを適用するよう構成されても良い。画像コンテンツ内での正規構造欠損を避けるために、サブサンプリングパターンは隣接するライン上の異なる画素を取るように設計されても良い。有利には、ランダムサブサンプリングは、計算される品質メトリクに構造化パターンが依然として寄与することを実現する。
3Dディスプレイのオフセットを自動で求めるシステムが、鮮明度メトリクを使用することに基づいても良い。そのため鮮明度は、3Dディスプレイ、特にオートステレオスコピックディスプレイ(ASD)の画質に影響する重要なパラメータである。上記のように、鮮明度メトリクは画像値の組合せに適用され得る。文献「Local scale control for edge detection and blur estimation, by J. H. Elder and S. W. Zucker」IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 20, no. 7, pp. 699-716, July 1998では、画像内のエッジのぼかし半径を計算する方法について記載している。
或いは本システムは、付随する奥行きマップを有する画像に適用されても良い。前者は、例えばステレオペア(右画像+左画像)から推定されても、3D映像データと共に伝送されても良い。本システムの概念は、鮮明度メトリクを使って奥行きマップのヒストグラムに重み付けすることである。画像の鮮明な(焦点が合った)領域に対応する奥行き値は、不鮮明な領域よりも高い重みを有することになる。そのため、結果として生じるヒストグラムの平均値は、焦点が合った奥行き面の方にバイアスする。鮮明度メトリクとして、ぼかし半径の逆数が使用されても良い。
図7は、鮮明度メトリクに基づいてオフセットを決定するためのシステムを示す。画像及び奥行きデータを有する3D信号が入力部から与えられる。分割ユニット1で、例えばエッジ検出を用いてバイナリ分割マップSが計算される。ここではSが、ぼかし半径が計算され得る画像内の画素を示す。ぼかし半径計算機2では、分割された入力画像についてぼかし半径BR(S)が計算される。インバータ3(1/Xで示す)では、鮮明度メトリクW(S)を求めるために、ぼかし半径の逆数が使用される。ヒストグラム計算機4では、分割奥行きマップの重み付けされたヒストグラムが計算される。このプロセスでは、奥行き値である奥行き(S)が、鮮明度メトリクW(S)で乗算(重み付け)される。平均値計算機5では、ヒストグラムの平均値が計算され、この平均値はここでは入力画像の焦点面(=最適なオフセット)の方にバイアスされている。かかるシステムでは、プロセッサが、入力画像内の位置の鮮明度メトリクを計算し、それらの位置における奥行きを求め、対応する鮮明度メトリクを用いて奥行きに重み付けし、重み付けされた奥行きの平均値を求めるように構成される。平均値は、対応するオフセットを奥行きに適用することにより、3Dディスプレイの好ましい鮮明度の値にシフトされ得る。
図8は、奥行きマップヒストグラムの例を示す。これらのヒストグラムは、ピクチャの一例の奥行き値を示す。奥行きマップの値は0〜255の間である。この画像は奥行き=104あたりに焦点面を有し、この奥行きは鮮明な領域を画面上に出す(ゼロ視差)ASDにとって最適なオフセットになる。上のグラフ81は、奥行きマップの元のヒストグラムを示す。このヒストグラムの平均値は、奥行き=86であり、この奥行き値は最適な奥行き値=104から大幅にずれている。下のグラフ82は、鮮明度メトリクを用いて重み付けされたヒストグラムを示す。このヒストグラムの平均値は、奥行き=96であり、この奥行き値は最適な奥行き値=104により近い。
図9は、ビューコーンを適合させるためのスケーリングを示す。ビューコーンとは、マルチビュー3Dディスプレイ用の一連のワープされたビューを指す。スケーリングの種類は、連続した各ビューが直前のビューと同じ視差を有する通常のコーンに対してビューコーンが適合される方法を示す。コーンの形状を変えることは、隣接するビューの相対的視差を前述の同じ視差よりも少ない量変えることを意味する。
図9の左上は、通常のコーン形状を示す。通常のコーン形状91は、従来のマルチビューレンダラで一般に使用されている。この形状は、コーンの大部分について等しい量のステレオ、及びコーンの次の反復に向けた鋭い遷移を有する。この遷移領域内に置かれる利用者は、大量のクロストーク及び逆ステレオを認識する。この図面では、鋸歯状の曲線が、コーン内のその位置に直線的に相関した視差を有する通常のコーン形状91を示す。ビューイングコーン内のビューの位置は、コーンの中心でゼロに、完全に左では−1に、完全に右では+1であるように定められる。
コーンの形状を変えることは、ディスプレイ上のコンテンツの描画(即ちビュー合成、インタリービング)しか変えず、ディスプレイの物理的調節を必要としないことを理解すべきである。ビューイングコーンを適合させることによってアーティファクトを低減することができ、ステレオ視聴能力を有しない若しくは限られたステレオ視聴能力を有する、又は限られた3D映像若しくは2D映像を観ることを好む人間に対応するために、3D効果が低減された区域が作られ得る。奥行き又はワーピングを適合させるためのパラメータは、コーンの形状を変えるために出力元(ソース)側において3D映像素材に使用されるスケーリングの種類であり得る。例えば、ビューコーンを適合させるための1組の可能なスケーリングコーンの形状が予め定められても良く、各形状に指標が与えられ得る一方で、実際の指標値はその1組の形状について計算される品質メトリクに基づいて選択される。
この図面の更なる3つのグラフの中で、第2の曲線は適合されたコーン形状の3つの例を示す。それぞれの例の中の第2の曲線上のビューは、隣接するビューに対して低減された視差を有する。このビューイングコーンの形状は、最大描画位置を低減することにより、アーティファクトの視認性を減じるように適合される。中心部では、この代替的コーン形状は通常のコーンと同じ傾斜を有し得る。中心から更に離れると、画像のワーピングを制限するようにコーンの形状が(通常のコーンに比べ)変えられている。
図9の右上は、周期的なコーンの形状を示す。周期的なコーンの形状92は、より大きいがより弱い逆ステレオ領域を作ることにより、鋭い遷移を回避するように適合される。
図9の左下は、制限されたコーンを示す。制限されたコーンの形状93は、最大描画位置を通常のコーンの約40%に制限するコーン形状の一例である。利用者がコーンを進むとき、利用者はステレオ、低減されたステレオ、逆ステレオ、再び低減されたステレオのサイクルを経験する。
図9の右下は、2D−3Dコーンを示す。この2D−3Dコーンの形状94も最大描画位置を制限するが、コーンの外側の部分を再利用してモノラル(2D)ビューエクスペリエンスを与える。利用者がこのコーンを進むとき、利用者はステレオ、逆ステレオ、モノラル、再び逆ステレオのサイクルを経験する。このコーンの形状は、人々の集団であって、その集団の一部のメンバしかモノラルよりもステレオを選ばない、人々の集団が3D映画を観ることを可能にする。
要約すれば、本発明は、マッピングから生じる画像内のぼやけを減らそうとするターゲティング方法を提供することを目標とする。マルチビュー(レンチキュラ/バリア)ディスプレイ上に表示するための画像を作成する標準的な過程は、異なるビューが3D表示に適した方法でレンチキュラの下に配置されるように、複数のビューを生成し、それらのビューを典型的には画素又は部分画素レベルでインタリーブすることである。処理済みビュー、例えばインタリーブされた画像を通常の2D画像として使用し、それをオフセット等のマッピングパラメータの或る値域について、更なるビュー、例えば元の2D信号と比較し、品質メトリクを計算することが提案される。比較は、スペクトル解析やSAD及びPSNR測定等、任意の方法に基づくことができる。解析は視差だけを考慮するのではなく、画像コンテンツも考慮に入れる。つまり、画像の或る領域が画像コンテンツの性質のために立体効果に寄与しない場合、その特定の領域は品質メトリクに実質的に寄与しない。
本発明は、静止画像であろうと動画であろうと、任意の種類の3D画像データに使用され得ることを指摘しておく。3D画像データは、電子的なデジタル符号化データとして入手可能であると見なされる。本発明はかかる画像データに関連し、画像データをデジタル領域内で操作する。
本発明は、ハードウェア及び/若しくはソフトウェア、又はプログラム可能コンポーネントによって実装され得る。例えばコンピュータプログラム製品は、図2に関して説明された方法を実施することができる。
上記の説明では、明瞭にするために、本発明の実施形態が様々な機能ユニット及びプロセッサに関して説明されたことが理解される。しかしながら、様々な機能ユニット又はプロセッサ間での任意の適切な機能分散が、本発明から逸脱することなしに使用され得ることが明らかである。例えば、別々のユニット、プロセッサ、又はコントローラによって実行されるように示されている機能が、同じプロセッサ又はコントローラによって実行されても良い。従って、特定の機能ユニットへの言及は、厳密な論理的又は物理的構造若しくは構成を示すのではなく、記載された機能を提供するための適切な手段への言及に過ぎないと見なされるべきである。本発明は、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組合せを含む任意の適切な形式で実装され得る。
本明細書では「含む」という語は、挙げられているもの以外の要素又はステップの存在を排除せず、或る要素の前にくる語「a」又は「an」はその要素の複数形の存在を排除せず、如何なる参照記号も特許請求の範囲を限定せず、本発明はハードウェア及びソフトウェアの両方によって実施されても良く、幾つかの「手段」又は「ユニット」がハードウェア若しくはソフトウェアの同一アイテムによって表されても良く、プロセッサが場合によりハードウェア要素と共同して1つ又は複数のユニットの機能を果たし得ることを指摘しておく。更に、本発明は上記の実施形態に限定されず、上記の又は互いに異なる従属請求項の中で列挙される全ての新規の特徴若しくは特徴の組合せに存する。

Claims (14)

  1. 三次元[3D]映像信号を処理するための3D映像装置であって、前記3D映像信号は3Dディスプレイ上に表示される3D画像データを含み、前記3Dディスプレイは、視聴者向けに3D効果を作り出すために複数のビューを必要とする、3D映像装置であり、
    前記3D映像信号を受信するための受信機と、
    前記複数のビューを前記3Dディスプレイにターゲティングするためのパラメータによって適合される前記3D画像データに基づいて少なくとも1つの処理済みビューを決定し、
    前記処理済みビュー及び更なるビューの画像値の組合せに基づく、知覚される3D画像品質を示す品質メトリクを計算し、
    前記パラメータの複数の値について前記決定及び計算を行うことに基づいて前記パラメータの好ましい値を決定する
    ためのプロセッサと
    を含み、
    前記更なるビューは、前記パラメータによって適合される前記3D画像データに基づき更に処理されるビューであるか、前記3D画像データ内で入手可能な2Dビューであるか、又は、前記パラメータ及び前記処理済みビューによって適合される前記3D画像データに基づき更に処理されるビューである、3D映像装置。
  2. 前記プロセッサが、前記パラメータによって適合される前記3D画像データに基づき少なくとも第1のビュー及び第2のビューを求め、前記少なくとも第1のビュー及び第2のビューをインタリーブして前記処理済みビューを求める、又は前記プロセッサが最も左のビュー及び/又は最も右のビューに基づき前記処理済みビューを求め、前記複数のビューは前記最も左のビューから前記最も右のビューにわたる一連のビューを形成する、請求項1に記載の3D映像装置。
  3. 前記プロセッサが、前記画像値の組合せに対するピーク信号対雑音比の計算に基づき、又は前記画像値の組合せに対する鮮明度の計算に基づき前記品質メトリクを計算する、請求項1に記載の3D映像装置。
  4. 前記複数のビューをターゲティングするための前記パラメータが、
    オフセット、
    利得、
    スケーリングの種類
    のうちの少なくとも1つを含む、請求項1に記載の3D映像装置。
  5. 前記プロセッサが、ボーダー領域を無視することにより、前記画像値の組合せの中央領域に基づき前記品質メトリクを計算し、又は対応する奥行き値に依存して前記画像値の組合せに重み付けを施すことにより前記品質メトリクを計算する、請求項1に記載の3D映像装置。
  6. 前記プロセッサが、前記処理済みビュー内の関心領域を決定し、前記関心領域を前記3Dディスプレイの好ましい奥行き範囲内で表示するために、前記関心領域内の前記画像値の組合せに重み付けを施すことにより前記品質メトリクを計算する、請求項1に記載の3D映像装置。
  7. 前記プロセッサが、前記関心領域を決定するための顔検出器を含む、請求項6に記載の3D映像装置。
  8. 前記プロセッサが、前記3D映像信号内のショットに依存して或る期間にわたる前記品質メトリクを計算する、請求項1に記載の3D映像装置。
  9. 前記プロセッサが、
    前記画像値の組合せの行に沿って処理すること、
    前記画像値の組合せの解像度を低減すること、
    前記画像値の組合せにサブサンプリングパターン又はランダムサブサンプリングを適用すること
    の少なくとも1つにより、前記画像値の組合せの部分集合に基づいて前記品質メトリクを計算する、請求項1に記載の3D映像装置。
  10. 前記受信機が、前記3D映像信号を受信するために記録担体を読み取るための読取りユニットを含む、請求項1に記載の3D映像装置。
  11. 前記装置が、
    前記3D映像信号に基づき前記3D像データの前記複数のビューを生成し、前記パラメータの前記好ましい値に依存して前記複数のビューを前記3Dディスプレイにターゲティングするためのビュープロセッサと、
    前記ターゲティングされた複数のビューを表示するための前記3Dディスプレイと
    を含む、請求項1に記載の3D映像装置。
  12. 三次元[3D]映像信号を処理する方法であって、前記3D映像信号は3Dディスプレイ上に表示される少なくとも第1の画像を含み、前記3Dディスプレイは、視聴者向けに3D効果を作り出すために複数のビューを必要とする、方法であり、
    前記3D映像信号を受信するステップと、
    前記複数のビューを前記3Dディスプレイにターゲティングするためのパラメータによって適合される3D画像データに基づいて少なくとも1つの処理済みビューを決定するステップと、
    前記処理済みビュー及び更なるビューの画像値の組合せに基づく、知覚される3D画像品質を示す品質メトリクを計算するステップと、
    パラメータの複数の値について前記決定及び計算を行うことに基づいて前記パラメータの好ましい値を決定するステップと
    を含み、
    前記更なるビューは、前記パラメータによって適合される前記3D画像データに基づき更に処理されるビューであるか、前記3D画像データ内で入手可能な2Dビューであるか、又は、前記パラメータ及び前記処理済みビューによって適合される前記3D画像データに基づき更に処理されるビューである、方法。
  13. 前記更なるビューは、前記パラメータによって適合される前記3D画像データに基づき更に処理されるビュー、若しくは前記3D画像データ内で入手可能な2Dビューであり、又は、前記パラメータによって適合される前記3D画像データに基づき更に処理されるビューであって、前記処理済みビュー及び前記更に処理されるビューは、前記画像値の組合せを構成するためにインタリーブされる、請求項12に記載の方法。
  14. 三次元[3D]映像信号を処理するためのコンピュータプログラムであって、前記プログラムは請求項12に記載の方法のそれぞれのステップをプロセッサに実行させる、コンピュータプログラム。
JP2015509552A 2012-05-02 2013-05-02 3d映像を処理するための品質メトリク Expired - Fee Related JP6258923B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261641352P 2012-05-02 2012-05-02
US61/641,352 2012-05-02
PCT/IB2013/053461 WO2013164778A1 (en) 2012-05-02 2013-05-02 Quality metric for processing 3d video

Publications (3)

Publication Number Publication Date
JP2015521407A JP2015521407A (ja) 2015-07-27
JP2015521407A5 JP2015521407A5 (ja) 2016-06-23
JP6258923B2 true JP6258923B2 (ja) 2018-01-10

Family

ID=48626493

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015509552A Expired - Fee Related JP6258923B2 (ja) 2012-05-02 2013-05-02 3d映像を処理するための品質メトリク

Country Status (5)

Country Link
US (1) US20150085073A1 (ja)
EP (1) EP2845384A1 (ja)
JP (1) JP6258923B2 (ja)
CN (1) CN104272729A (ja)
WO (1) WO2013164778A1 (ja)

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US8902321B2 (en) * 2008-05-20 2014-12-02 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US8514491B2 (en) 2009-11-20 2013-08-20 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
WO2013043761A1 (en) 2011-09-19 2013-03-28 Pelican Imaging Corporation Determining depth from multiple views of a scene that include aliasing using hypothesized fusion
WO2013049699A1 (en) 2011-09-28 2013-04-04 Pelican Imaging Corporation Systems and methods for encoding and decoding light field image files
EP2817955B1 (en) 2012-02-21 2018-04-11 FotoNation Cayman Limited Systems and methods for the manipulation of captured light field image data
US9100635B2 (en) 2012-06-28 2015-08-04 Pelican Imaging Corporation Systems and methods for detecting defective camera arrays and optic arrays
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
CN107346061B (zh) 2012-08-21 2020-04-24 快图有限公司 用于使用阵列照相机捕捉的图像中的视差检测和校正的系统和方法
EP2888698A4 (en) 2012-08-23 2016-06-29 Pelican Imaging Corp PROPERTY-BASED HIGH-RESOLUTION MOTION ESTIMATION FROM LOW-RESOLUTION IMAGES RECORDED WITH AN ARRAY SOURCE
CN104685860A (zh) 2012-09-28 2015-06-03 派力肯影像公司 利用虚拟视点从光场生成图像
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
WO2014159779A1 (en) 2013-03-14 2014-10-02 Pelican Imaging Corporation Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
JP2016524125A (ja) 2013-03-15 2016-08-12 ペリカン イメージング コーポレイション カメラアレイを用いた立体撮像のためのシステムおよび方法
US9898856B2 (en) 2013-09-27 2018-02-20 Fotonation Cayman Limited Systems and methods for depth-assisted perspective distortion correction
US10119808B2 (en) 2013-11-18 2018-11-06 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
EP3075140B1 (en) 2013-11-26 2018-06-13 FotoNation Cayman Limited Array camera configurations incorporating multiple constituent array cameras
US10089740B2 (en) 2014-03-07 2018-10-02 Fotonation Limited System and methods for depth regularization and semiautomatic interactive matting using RGB-D images
KR102492971B1 (ko) * 2014-06-19 2023-01-30 코닌클리케 필립스 엔.브이. 3차원 이미지를 생성하기 위한 방법 및 장치
US10250871B2 (en) 2014-09-29 2019-04-02 Fotonation Limited Systems and methods for dynamic calibration of array cameras
CN106157285B (zh) * 2015-04-03 2018-12-21 株式会社理光 用于选择用于视差计算的参数组的优选值的方法和系统
US10237473B2 (en) * 2015-09-04 2019-03-19 Apple Inc. Depth map calculation in a stereo camera system
WO2017039876A1 (en) * 2015-09-05 2017-03-09 Leia Inc. Supersampled 3d display with improved angular resolution
US10620441B2 (en) * 2016-12-14 2020-04-14 Qualcomm Incorporated Viewport-aware quality metric for 360-degree video
US10776992B2 (en) * 2017-07-05 2020-09-15 Qualcomm Incorporated Asynchronous time warp with depth data
CN109147023A (zh) * 2018-07-27 2019-01-04 北京微播视界科技有限公司 基于人脸的三维特效生成方法、装置和电子设备
KR102646521B1 (ko) 2019-09-17 2024-03-21 인트린식 이노베이션 엘엘씨 편광 큐를 이용한 표면 모델링 시스템 및 방법
CA3157194C (en) 2019-10-07 2023-08-29 Boston Polarimetrics, Inc. Systems and methods for augmentation of sensor systems and imaging systems with polarization
WO2021108002A1 (en) 2019-11-30 2021-06-03 Boston Polarimetrics, Inc. Systems and methods for transparent object segmentation using polarization cues
KR20220132620A (ko) 2020-01-29 2022-09-30 인트린식 이노베이션 엘엘씨 물체 포즈 검출 및 측정 시스템들을 특성화하기 위한 시스템들 및 방법들
KR20220133973A (ko) 2020-01-30 2022-10-05 인트린식 이노베이션 엘엘씨 편광된 이미지들을 포함하는 상이한 이미징 양식들에 대해 통계적 모델들을 훈련하기 위해 데이터를 합성하기 위한 시스템들 및 방법들
US11953700B2 (en) 2020-05-27 2024-04-09 Intrinsic Innovation Llc Multi-aperture polarization optical systems using beam splitters
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3826236B2 (ja) * 1995-05-08 2006-09-27 松下電器産業株式会社 中間像生成方法、中間像生成装置、視差推定方法、及び画像伝送表示装置
US6064424A (en) 1996-02-23 2000-05-16 U.S. Philips Corporation Autostereoscopic display apparatus
JP3477023B2 (ja) * 1996-04-05 2003-12-10 松下電器産業株式会社 多視点画像伝送方法および多視点画像表示方法
JP2001175863A (ja) * 1999-12-21 2001-06-29 Nippon Hoso Kyokai <Nhk> 多視点画像内挿方法および装置
JP4065488B2 (ja) * 2001-12-14 2008-03-26 キヤノン株式会社 3次元画像生成装置、3次元画像生成方法及び記憶媒体
JP2005073049A (ja) * 2003-08-26 2005-03-17 Sharp Corp 立体映像再生装置および立体映像再生方法
JP2006211386A (ja) * 2005-01-28 2006-08-10 Konica Minolta Photo Imaging Inc 立体画像処理装置、立体画像表示装置、及び立体画像生成方法
US8224067B1 (en) * 2008-07-17 2012-07-17 Pixar Animation Studios Stereo image convergence characterization and adjustment
US9030530B2 (en) * 2009-12-15 2015-05-12 Thomson Licensing Stereo-image quality and disparity/depth indications
EP2434764A1 (en) * 2010-09-23 2012-03-28 Thomson Licensing Adaptation of 3D video content
WO2012109712A1 (en) * 2011-02-18 2012-08-23 National Ict Australia Limited Image quality assessment

Also Published As

Publication number Publication date
US20150085073A1 (en) 2015-03-26
JP2015521407A (ja) 2015-07-27
EP2845384A1 (en) 2015-03-11
WO2013164778A1 (en) 2013-11-07
CN104272729A (zh) 2015-01-07

Similar Documents

Publication Publication Date Title
JP6258923B2 (ja) 3d映像を処理するための品質メトリク
RU2554465C2 (ru) Комбинирование 3d видео и вспомогательных данных
TWI574544B (zh) 基於顯著性之像差映射
Zinger et al. Free-viewpoint depth image based rendering
JP5859441B2 (ja) 3dビデオにおける追加のビューを生成するための視点の選択
AU2011234163B2 (en) 3D disparity maps
US20140285623A1 (en) Depth map processing
US9654759B2 (en) Metadata for depth filtering
JP5889274B2 (ja) ディスパリティ値指標
WO2010095080A1 (en) Combining 3d image and graphical data
JP2009531927A (ja) 複数の視野の効率的な符号化
TWI624803B (zh) 深度信號資料
Lin et al. A stereoscopic video conversion scheme based on spatio-temporal analysis of MPEG videos

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160428

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171207

R150 Certificate of patent or registration of utility model

Ref document number: 6258923

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees