JP2012519431A - 3dビデオ処理 - Google Patents

3dビデオ処理 Download PDF

Info

Publication number
JP2012519431A
JP2012519431A JP2011552290A JP2011552290A JP2012519431A JP 2012519431 A JP2012519431 A JP 2012519431A JP 2011552290 A JP2011552290 A JP 2011552290A JP 2011552290 A JP2011552290 A JP 2011552290A JP 2012519431 A JP2012519431 A JP 2012519431A
Authority
JP
Japan
Prior art keywords
image
motion
images
input
input source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011552290A
Other languages
English (en)
Other versions
JP2012519431A5 (ja
Inventor
ホン サンクワン
エヌ.ハリアルカ サミル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATI Technologies ULC
Advanced Micro Devices Inc
Original Assignee
ATI Technologies ULC
Advanced Micro Devices Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATI Technologies ULC, Advanced Micro Devices Inc filed Critical ATI Technologies ULC
Publication of JP2012519431A publication Critical patent/JP2012519431A/ja
Publication of JP2012519431A5 publication Critical patent/JP2012519431A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0085Motion estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/002Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices

Abstract

【解決手段】
3D入力ソースにおけるモーションジャダーを低減するための方法及び装置が開示される。3D入力ソースは左画像と右画像に分離される。左画像と右画像に対するモーションベクトルが計算される。フレームレート変換が左画像と右画像に実行されて、モーション補償された左画像と右画像が生成される。左画像及び右画像並びにモーション補償された左画像及び右画像は表示のために並び替えられる。代替的には、3D入力ソースにモーション推定及びモーション補償を実行することができ、そして入力画像及びモーション補償された画像は次いでそれぞれの左画像と右画像に分離され得る。方法及び装置は、2D入力ソースから左3D画像と右3D画像を抽出すると共にモーション推定及びモーション補償を実行することによって、2Dから3Dへの変換を実行するように適合させられ得る。
【選択図】図2

Description

本発明は概してビデオ処理に関し、より特定的には3Dビデオを処理するための方法及び装置に関する。
現在の3Dコンテンツは映画ソースに基いており、映画ソースは毎秒24フレームのレートを有している。テレビジョン放送は50Hz又は60Hzのいずれかのリフレッシュレートである。映画ソースをテレビジョン放送向けに変換するためには、フレームレート変換が必要である。このことは、典型的にはフレームレート変換(FRC)プロセスによって達成される。
映画ソースについての60HzリフレッシュレートへのFRCを実行する1つの方法は2:3プルダウンを用いることであり、2:3プルダウンにおいては、第1のフレームは2回表示され、そして第2のフレームは3回表示される。このことは、映画ソースにおけるフレームの各ペアに対して繰り返される。テレビジョンのためのフレームレートは映画のためのフレームレートと同一ではないので、2:3プルダウンの間に導入されるモーションジャダー(motion judder)問題が存在する(即ち、見る人は画像内のモーションが滑らかでないことに気付くことがある)。
オクルージョン問題(Occlusion problem)
FRCプロセスの出力は、連続するソースフレームの間に配置される新たな(中間の)フレームである。新たなフレームに伴う問題は、背景内で目立たなくされた又は隠された被写体に関する欠落した情報がある場合に生じ得る。欠落した情報があると、FRCは中間フレームを正確に生成することができない。これはオクルージョン問題と称される。モーション推定(motion estimation)(モーションベクトルを決定すること)及びモーション補償(motion compensation)(モーションベクトルを適用してモーションの影響を低減すること)によって、即ちFRCプロセスによって中間フレームが生成される場合、何らかの実体的でない画像が生成されることがある。この問題は2D画像及び3D画像の両方において存在し、隠された実体は左画像、右画像、又は両画像内にあり得る。
オクルージョン領域の例が図1に示されており、図1は5つのフレーム、即ち現在のフレーム(N)と2つの先行するフレーム(N−1,N−2)と2つの後続のフレーム(N+1,N+2)とを示している。標準的なFRCにおいては、オクルージョン領域は良好でない整合モーションベクトルを見せる。均一な領域内にモーションベクトルフィールド不連続があると、その不連続性により正確なモーションベクトルを推定することができないので、潜在的なオクルージョン領域の原因になる可能性がある。オクルージョンに起因するモーションベクトル不連続は、フレームN−2とフレームN−1の間で及びフレームN−1とフレームN+1の間でモーションベクトルを比較することによって検出することができる。オクルージョン領域に正しく対処することを可能にするためには、4つより多い連続的なフレームのデータを必要とするであろうから、複雑な解法をもたらすことになる。
従って、特に3D映画ソースを伴う映画ソースを変換する場合にジャダーを低減する必要がある。また、3Dソースにおけるオクルージョン問題に対処する必要もある。
ジャダー問題は、3D画像をその左画像成分及び右画像成分に分離することと、個々の画像にFRCを実行することと、その後に画像を表示のために並び替えることとによって対処され得る。分離プロセスとFRCプロセスは逆であってよく、この場合、FRCは3D画像に実行され得るし、そして元の画像及びモーション補償された画像がそれらの左画像成分及び右画像成分に分離され得る。
3Dソースにおけるオクルージョン問題に対処する1つの方法は、視差情報(左画像と右画像の間での差)を利用して、隠された情報を生成するのを支援することである。
例として与えられそして添付の図面と共に理解されることになる以下の説明から、本発明のより詳細な理解がなされるであろう。
図1はオクルージョン領域の例を示す図である。
図2は3D入力ソースにFRCを実行するための方法のフローチャートである。
図3は図2の方法の適用例を示す図である。
図4は3D入力ソースにFRCを実行するための代替的な方法のフローチャートである。
図5は図4の方法の適用例を示す図である。
図6は2Dから3Dへの変換を実行するための方法のフローチャートである。
図7は図6の方法の適用例を示す図である。
図8は2Dから3Dへの変換を実行するための代替的な方法のフローチャートである。
図9は図8の方法の適用例を示す図である。
図10は図2、4、6、又は8の任意の方法を実行するように構成される装置のブロック図である。
図11は3D画像がどのようにしてオクルージョン問題に対処することを支援するのかを示す図である。
図12は見る人の左目及び右目が3D画像内で見ているものの間での視差の例を示す図である。
図13は視差を用いることによって3D画像における背景情報がどのようにして取得され得るのかを示す図である。
図14はオクルージョン問題に対処するための方法のフローチャートである。
ジャダー問題を低減する1つの方法は、FRCの適切な応用によるものである。これはFRCプロセスの間にモーション推定及びモーション補償を用いることによって達成され得る。3D入力ソースについて、モーション推定及びモーション補償は、3Dビデオフレームの左画像及び右画像の両方に実行される必要がある。左画像と右画像はプロセスの間のどこかの時点で分離される必要があり、分離はFRCに先立ち(図2及び3に示されるように)又はFRCの後に(図4及び5に示されるように)生じ得る。
尚、計算上の複雑さは両方の方法で概ね同じである。3D画像について、各左画像及び右画像はフルフレームのサイズの半分である。より小さなサイズの画像について処理すること(例えばFRCを実行すること)はより容易であり、従って図2に示される方法は図4に示される方法よりも早く完了するであろう。
分離の後にFRC
図2は3D入力ソースにFRCを実行するための方法200のフローチャートである。3Dフレームが左画像及び右画像に分離される(ステップ202)。モーションベクトルが左画像に対して(ステップ204)及び右画像に対して(ステップ206)計算される。尚、左画像及び右画像に対してモーションベクトルを計算すること(ステップ204及び206)は逆にされ得る。
また、左画像又は右画像のいずれかに対して1つのモーションベクトルのみが計算されてよく、そしてそのモーションベクトルは他方の画像に適用され得る。この可能性の背後にある論拠は、多くの場合(時間上で概ね95%)にモーションベクトルが左画像と右画像の間で極めて類似していることにある。それぞれのモーションベクトル(別々に計算される場合)の間での僅かな差は影響を有していないはずである。左画像と右画像の間でモーションベクトルが実質的に異なる場合には、視差が異なるであろうから、モーションベクトルは別々に計算されるべきである。1つのモーションベクトルのみを計算することによって、ハードウエアの複雑さを低減することができ、1つのモーションベクトルのみが計算されるかどうかの決定は、目下のハードウエアに基き得るし、また実装固有である。
注意すべき1つの例外は、画像内における被写体が一方の目にのみ近づいてきている場合である。見る人に近い距離では、画像間に大きな視差があるであろうから、モーションベクトルにおいても大きな差があるであろう。この理由は、被写体が異なる方向に且つ各目から異なる距離で動いていることから、左画像及び右画像がこれらに付随する異なるモーションを有しているところにある。
次いでFRCが左画像(ステップ208)及び右画像(ステップ210)に実行される。FRCが実行されるのに先立ちモーションベクトルが決定される場合には、FRCを実行すること(ステップ208及び210)は逆にされてもよい。左画像及び右画像の両方にFRCが実行された後に、変換された画像は表示のために並び替えられる(ステップ212)。
図3は図2の方法の適用例を示す図である。3Dフレーム300は左画像302と右画像304に分離される。モーションベクトル(MV)310が左画像302に対して計算され、そしてモーション補償された画像(L2)320を決定するために適用される。モーションベクトル(MV)312が右画像304に対して計算され、そしてモーション補償された画像(R2)322を決定するために適用される。元の画像302,304及びモーション補償された画像320,322は次いで表示のために並び替えられる。
FRCの後に分離
図4は3D入力ソースにFRCを実行するための代替的な方法400のフローチャートである。3D画像に対してモーションベクトルが計算され(ステップ402)、そしてFRCが3D画像に対して実行される(ステップ404)。元の3D画像及びモーション補償された画像の両方は、左画像及び右画像に分離される(ステップ406)。全ての画像は次いで表示のために並び替えられる(ステップ408)。
図5は方法400の適用例を示す図である。3Dフレーム500は左画像502及び右画像504を含む。3Dフレーム500にFRCが実行されてモーション補償されたフレーム510が生成され、モーション補償されたフレーム510は、モーション補償された左画像(L2)512とモーション補償された右画像(R1)514を含む。元の3D画像500及びモーション補償された3D画像510は次いで、それらのそれぞれの左画像及び右画像502,504,512,514に分離され、そして個々の画像は表示のために並び替えられる。
2Dから3Dへの抽出の後にFRC
図6は2Dから3Dへの変換を実行するための方法600のフローチャートである。2D画像から3D画像が抽出され(ステップ602)、3D画像は左画像と右画像を含む。左画像に対して(ステップ604)及び右画像に対して(ステップ606)モーションベクトルが計算される。尚、左画像及び右画像に対してモーションベクトルを計算すること(ステップ604及び606)は逆にされ得る。また、左画像又は右画像のいずれかに対して1つのモーションベクトルのみが計算されてよく、そしてそのモーションベクトルは他方の画像に適用され得る。
次いでFRCが左画像(ステップ608)及び右画像(ステップ610)に実行される。FRCが実行されるのに先立ちモーションベクトルが決定される場合には、FRCを実行すること(ステップ608及び610)は逆にされてもよい。左画像及び右画像の両方にFRCが実行された後に、変換された画像は表示のために並び替えられる(ステップ612)。
図7は図6の方法の適用例を示す図である。2つの2D画像702,704から左画像及び右画像710,712,720,722を伴う3D画像が抽出される。FRCが次いで左画像及び右画像に実行されて、モーション補償された画像L1714、R1716、L2724、及びR2726が生成される。元の画像710,712,720,722及びモーション補償された画像714,716,724,726は、表示のために並び替えられる。
FRCの後に2Dから3Dへの抽出
図8は2Dから3Dへの変換を実行するための代替的な方法800のフローチャートである。モーションベクトルが2D画像に対して計算され(ステップ802)、そしてFRCが2D画像に実行される(ステップ804)。元の2D画像及びモーション補償された2D画像から、左画像及び右画像を含むそれぞれの3D画像が抽出される(ステップ806)。
図9は図8の方法の適用例を示す図である。FRCが2つの2D画像902,904に実行されて、モーション補償された画像1910及び2912が生成される。元の2D画像902,904及びモーション補償された2D画像910,912はそれぞれの左画像及び右画像への3D抽出を受けて、左画像及び右画像920〜934が生成される。
方法を実行するように構成される装置
図10は任意の方法200、400、600、又は800を実行するように構成される装置1000のブロック図である。図示される装置1000は方法200、400、600、又は800のどれでも実行することができるが、装置1000は、不使用の要素を取り除くことによって、これらの方法の1つのみを実行するように具体的に構成され得る。
装置1000は、2Dから3Dへの画像抽出デバイス1002と、モーションベクトル計算デバイス1004と、3D画像分離デバイス1006と、フレームレート変換デバイス1008と、画像並び替えデバイス1010とを含む。
方法200を実行する場合には、装置1000は以下のように動作する。3D入力1020が3D画像分離デバイス1006に供給され、3D画像分離デバイス1006は3D入力1020を左画像及び右画像へと分離する。左画像及び右画像に対するモーションベクトルは、モーションベクトル計算デバイス1004によって計算される。フレームレート変換デバイス1008は、計算されたモーションベクトルを用いて左画像及び右画像にFRCを実行して、モーション補償された画像を生成する。左画像及び右画像並びにモーション補償された画像は画像並び替えデバイス1010へ渡され、画像並び替えデバイス1010では、これらの画像が表示のために並べ替えられ、そして出力1022される。
方法400を実行する場合には、装置1000は以下のように動作する。3D入力1030がモーションベクトル計算デバイス1004に供給され、モーションベクトル計算デバイス1004は3D入力1030に対するモーションベクトルを計算する。フレームレート変換デバイス1008は、計算されたモーションベクトルを用いて3D入力1030にFRCを実行して、モーション補償された3D画像を生成する。3D入力1030及びモーション補償された3D画像は、3D入力1030分離デバイス1006へ渡され、分離デバイス1006は、3D画像から左画像及び右画像を生成すると共にモーション補償された3D画像から左画像及び右画像を生成する。元の左画像及び右画像並びにモーション補償された左画像及び右画像は画像並び替えデバイス1010へ渡され、画像並び替えデバイス1010では、これらの画像が表示のために並べ替えられ、そして出力1022される。
方法600を実行する場合には、装置1000は以下のように動作する。2D入力1040が、2Dから3Dへの画像抽出デバイス1002に供給され、デバイス1002は2D入力1040から左3D画像及び右3D画像を抽出する。モーションベクトル計算デバイス1004は左画像及び右画像に対するモーションベクトルを計算する。フレームレート変換デバイス1008は、計算されたモーションベクトルを用いて左画像及び右画像にFRCを実行して、モーション補償された左画像及び右画像を生成する。左画像及び右画像並びにモーション補償された左画像及び右画像は画像並び替えデバイス1010へ渡され、画像並び替えデバイス1010では、これらの画像が表示のために並べ替えられ、そして出力1022される。
方法800を実行する場合にには、装置1000は以下のように動作する。2D入力1050がモーションベクトル計算デバイス1004に供給され、モーションベクトル計算デバイス1004は2D入力1050に対するモーションベクトルを計算する。フレームレート変換デバイス1008は、計算されたモーションベクトルを用いて2D入力1050にFRCを実行して、モーション補償された画像を生成する。2D入力1050及びモーション補償された画像は、2Dから3Dへの画像抽出デバイス1002へ渡され、デバイス1002は、2D入力1050及びモーション補償された画像から左3D画像及び右3D画像を抽出し、そして出力1052を生成する。
オクルージョン問題の対処
3D画像におけるオクルージョン問題は、FRCの間に左画像と右画像の両方を一緒に用いることによって対処され得る。2つの画像は、左画像及び右画像に含まれている異なる情報(視差情報とも称される)によって、2D画像から欠落している情報を含み得る。
図11は3D画像がどのようにしてオクルージョン問題に対処することを支援するのかを示す図である。見る人の左目はX軸に沿う第1の座標dにあり、また見る人の右目はX軸に沿う第2の座標dにある。平面zに対する左目と右目の間には視角θがある。角度θ又は左目若しくは右目の位置(d又はd)を変化させることによって、前景(平面z)における画像と比較して背景(平面z)における画像に対してより多くの情報を得ることができる。3D画像(平面z上)における付加的な情報は、オクルージョン問題に対処するために用いることができる。
一般的に、ブロック整合(block matching)におけるモーション推定は、例えば、見る人の左目と右目(d及びd)の間での平均絶対差(mean absolute difference)(MAD)の最小化の計算によって記述することができる。
Figure 2012519431

Figure 2012519431
ここで、Bは候補モーションベクトル(d,d)のセットに対するN×Nブロックを表し、そして信号sはフレームk(図11においてフレームZとして示されている)内の画素(n,n)におけるものである。Tはモーションベクトルd,dの転置(transpose)を表す。
図12は見る人の左目及び右目が3D画像内で見ているものの間での視差の例を示す図である。時間tでは、見る人は、ブロックA1202、ブロックB1204、及びブロックC1206のうちの少なくとも一部分を見ることができる。ブロックA1202とブロックB1204の間でのブロックC1206の相対的な位置決めに基いて、見る人は、その人の右目でよりもその人の左目での方がブロックC1206の多くを見ることができる。
時間t+1では、ブロックB1204は右へ移動しており、そして見る人はブロックC1206のより多くをその人の右目で見ることができる。理想的には、時間tから時間t+1へのモーションベクトルが視差と同等である場合には、角度θは以下のように定義され得る。
Figure 2012519431

Figure 2012519431

Figure 2012519431
ここで、vはモーションベクトル、dは視差ベクトル、そしてdは見る人の左目視界と見る人の右目視界の間の距離である。
図13は視差を用いることによって3D画像における背景情報がどのようにして取得され得るのかを示す図である。画像(ブロックC1206)の遮蔽された部分は、標準的なFRCプロセスにおいてオクルージョンが取り扱われるのと同様にして取り扱われる。フレームN−1内にはオクルージョン領域1302がある。図12からの例を続けると、オクルージョン領域1302は、時間tで隠されているブロックC1206の量である。現在のフレームN内にはオクルージョン領域1304(時間t+1で隠されているブロックC1206の量)がある。モーションベクトルは、標準的なFRCプロセスを用いることによってフレームN−1及びN+1に基づいて計算される。モーションベクトルは視差情報に基いて補正される(モーションベクトル変換への視差を介して)。次いでモーション補償が、補正されたモーションベクトルに基いて実行される。
図14はオクルージョン問題に対処するための方法1400のフローチャートである。ステレオストリーム(3Dビデオストリームの左画像及び右画像)が供給される(ステップ1402)。受信されたストリームについて視差解析が実行される(ステップ1404)。視差解析の結果に基いてモーションベクトルが推定され(ステップ1406)、そしてモーションベクトルを利用してモーション補償が実行される(ステップ1408)。
FRCが次いで2Dストリームに実行される(ステップ1410)。このステップは、左画像と右画像(各2Dストリーム)にFRCを別々に実行することを含む。3D入力があるが2D表示だけであり従ってFRC出力が2Dストリームである必要がある場合には、2DのFRCが用いられてもよい。
本発明は、プロセッサ又は汎用コンピュータによる実行のための一連の命令を含むコンピュータ可読記憶媒体内に有形的に組み込まれるコンピュータプログラム内に実装することができ、そして方法ステップは、入力データに動作し且つ出力データを生成することによって命令のプログラムを実行するプロセッサにより実行され得る。適切なプロセッサは、例としては汎用プロセッサ及び専用プロセッサの両方を含む。典型的には、プロセッサは、命令及びデータをリードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、及び/又は記憶デバイスから受け取るであろう。コンピュータプログラム命令及びデータを実施するために適した記憶デバイスとしては、例として半導体メモリデバイス、内部ハードディスク及びリムーバルディスクのような磁気媒体、磁気・光学媒体、並びにCD−ROMディスク及びデジタル多用途ディスク(DVD)のような光学媒体を含む不揮発性メモリの全ての形態を挙げることができる。また、例示的な実施形態はコンピュータソフトウエアにおいて実装されてよい一方で、例示的な実施形態における機能は、代替的には、その一部又は全部を、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、若しくは他のハードウエアを用いて、又はハードウエア要素及びソフトウエア要素の何らかの組み合わせにおいて実施され得る。
本発明の特定の実施形態が示されそして説明されてきたが、本発明の範囲から逸脱することなしに、多くの修正及び変更が当業者によってなされ得る。上述の説明は、特定の発明を例示するのに役立ち、そして特定の発明を限定するものでは決してない。

Claims (13)

  1. 3D入力ソースにおけるモーションジャダーを低減するための方法であって、
    前記3D入力ソースを左画像及び右画像に分離するステップと、
    前記左画像及び前記右画像の各々に対してモーションベクトルを計算するステップと、
    前記左画像及び前記右画像にフレームレート変換を実行してモーション補償された左画像及び右画像を生成するステップと、
    前記左画像及び右画像並びに前記モーション補償された左画像及び右画像を表示のために並べ替えるステップとを備えた方法。
  2. 3D入力ソースにおけるモーションジャダーを低減するための方法であって、
    前記3D入力ソースに対してモーションベクトルを計算するステップと、
    前記3D入力ソースにフレームレート変換を実行してモーション補償された3D画像を生成するステップと、
    前記3D入力ソースをそれぞれの左入力画像及び右入力画像に分離すると共に前記モーション補償された3D画像をそれぞれのモーション補償された左画像及び右画像に分離するステップと、
    前記左入力画像及び右入力画像並びに前記モーション補償された左画像及び右画像を表示のために並べ替えるステップとを備えた方法。
  3. 3D入力ソースにおけるモーションジャダーを低減するように構成される装置であって、
    3D画像を左画像及び右画像に分離するように構成される3D画像分離デバイスと、
    モーションベクトルを計算するように構成されるモーションベクトル計算デバイスと、
    入力画像及び前記計算されたモーションベクトルに基きモーション補償された画像を生成するように構成されるフレームレート変換デバイスと、
    分離された入力画像及び分離されモーション補償された画像を表示のために並べ替えるように構成される画像並べ替えデバイスとを備えた装置。
  4. 前記モーションベクトル計算デバイスは分離された左画像及び右画像に動作すると共に前記左画像及び右画像に対してモーションベクトルを計算するように更に構成される請求項3に従う装置。
  5. 前記フレームレート変換デバイスは前記分離された左画像及び右画像に動作するように更に構成される請求項4に従う装置。
  6. 前記モーションベクトル計算デバイスは3D画像に動作すると共に前記3D画像に対してモーションベクトルを計算するように更に構成される請求項3に従う装置。
  7. 前記フレームレート変換デバイスは前記3D画像に動作するように更に構成される請求項6に従う装置。
  8. 2Dから3Dへの変換を実行するための方法であって、
    2D入力ソースから左3D画像及び右3D画像を抽出するステップと、
    前記左3D画像及び右3D画像に対してモーションベクトルを計算するステップと、
    前記左3D画像及び右3D画像にフレームレート変換を実行してモーション補償された左3D画像及び右3D画像を生成するステップと、
    前記左3D画像及び右3D画像並びに前記モーション補償された左3D画像及び右3D画像を表示のために並べ替えるステップとを備えた方法。
  9. 2Dから3Dへの変換を実行するように構成される装置であって、
    2D入力ソースから左3D画像及び右3D画像を抽出するように構成される2Dから3Dへの画像抽出デバイスと、
    前記左3D画像及び右3D画像に対してモーションベクトルを計算するように構成されるモーションベクトル計算デバイスと、
    前記入力左3D画像及び入力右3D入力画像並びに前記計算されたモーションベクトルに基づきモーション補償された左3D画像及び右3D画像を生成するように構成されるフレームレート変換デバイスと、
    前記左3D入力画像及び右3D入力画像並びに前記モーション補償された左3D画像及び右3D画像を表示のために並べ替える画像並べ替えデバイスとを備えた装置。
  10. 2Dから3Dへの変換を実行するための方法であって、
    2D入力ソースに対するモーションベクトルを計算するステップと、
    前記2D入力ソースにフレームレート変換を実行してモーション補償された2D画像を生成するステップと、
    前記2D入力ソース及び前記モーション補償された2D画像から左3D画像及び右3D画像を抽出するステップとを備えた方法。
  11. 2Dから3Dへの変換を実行するように構成される装置であって、
    モーションベクトルを計算するように構成されるモーションベクトル計算デバイスと、
    入力画像及び前記計算されたモーションベクトルに基いてモーション補償された画像を生成するように構成されるフレームレート変換デバイスと、
    2D入力ソースから左3D画像及び右3D画像を抽出するように構成される2Dから3Dへの画像抽出デバイスとを備えた装置。
  12. 前記モーションベクトル計算デバイスは2D入力ソースに動作するように更に構成される請求項11に従う装置。
  13. 前記2Dから3Dへの画像抽出デバイスは前記2D入力ソース及び前記モーション補償された2D画像から左3D画像及び右3D画像を抽出するように更に構成される請求項12に従う装置。
JP2011552290A 2009-03-04 2010-03-04 3dビデオ処理 Pending JP2012519431A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/397,448 US8395709B2 (en) 2009-03-04 2009-03-04 3D video processing
US12/397,448 2009-03-04
PCT/CA2010/000307 WO2010099616A1 (en) 2009-03-04 2010-03-04 3d video processing

Publications (2)

Publication Number Publication Date
JP2012519431A true JP2012519431A (ja) 2012-08-23
JP2012519431A5 JP2012519431A5 (ja) 2013-04-18

Family

ID=42677898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011552290A Pending JP2012519431A (ja) 2009-03-04 2010-03-04 3dビデオ処理

Country Status (6)

Country Link
US (2) US8395709B2 (ja)
EP (2) EP3512196B1 (ja)
JP (1) JP2012519431A (ja)
KR (1) KR20120006498A (ja)
CN (1) CN102362503A (ja)
WO (1) WO2010099616A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222425A (ja) * 2011-04-05 2012-11-12 Sumitomo Electric Ind Ltd 映像再生装置

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102474641B (zh) * 2009-07-07 2015-05-13 Lg电子株式会社 用于显示三维用户界面的方法
JP2011223493A (ja) * 2010-04-14 2011-11-04 Canon Inc 画像処理装置および画像処理方法
CA2855190C (en) 2011-10-05 2017-02-07 Bitanimate, Inc. Resolution enhanced 3d video rendering systems and methods
WO2013151291A1 (ko) * 2012-04-02 2013-10-10 삼성전자 주식회사 화질 개선을 위한 다중시점 영상 디스플레이 장치 및 그 방법
CN104486611A (zh) * 2014-12-29 2015-04-01 北京极维客科技有限公司 一种图像转换方法及装置
US10200666B2 (en) * 2015-03-04 2019-02-05 Dolby Laboratories Licensing Corporation Coherent motion estimation for stereoscopic video
US10410358B2 (en) * 2017-06-26 2019-09-10 Samsung Electronics Co., Ltd. Image processing with occlusion and error handling in motion fields
US10523947B2 (en) 2017-09-29 2019-12-31 Ati Technologies Ulc Server-based encoding of adjustable frame rate content
US10594901B2 (en) 2017-11-17 2020-03-17 Ati Technologies Ulc Game engine application direct to video encoder rendering
US11290515B2 (en) 2017-12-07 2022-03-29 Advanced Micro Devices, Inc. Real-time and low latency packetization protocol for live compressed video data
US11100604B2 (en) 2019-01-31 2021-08-24 Advanced Micro Devices, Inc. Multiple application cooperative frame-based GPU scheduling
US11418797B2 (en) 2019-03-28 2022-08-16 Advanced Micro Devices, Inc. Multi-plane transmission
US11488328B2 (en) 2020-09-25 2022-11-01 Advanced Micro Devices, Inc. Automatic data format detection
CN117078666B (zh) * 2023-10-13 2024-04-09 东声(苏州)智能科技有限公司 二维和三维结合的缺陷检测方法、装置、介质和设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01171389A (ja) * 1987-12-25 1989-07-06 Sharp Corp 映像再生装置
JP2000209614A (ja) * 1999-01-14 2000-07-28 Sony Corp 立体映像システム
JP2003304507A (ja) * 2002-04-10 2003-10-24 Sony Corp 動きベクトル検出装置及び方法
JP2006157605A (ja) * 2004-11-30 2006-06-15 Furoobell:Kk 映像処理システムおよび方法、撮像装置および方法、映像処理装置、映像データ出力方法、記録媒体、並びにプログラム

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4925294A (en) * 1986-12-17 1990-05-15 Geshwind David M Method to convert two dimensional motion pictures for three-dimensional systems
AUPN732395A0 (en) * 1995-12-22 1996-01-25 Xenotech Research Pty Ltd Image conversion and encoding techniques
AUPO894497A0 (en) * 1997-09-02 1997-09-25 Xenotech Research Pty Ltd Image processing method and apparatus
CN1236628C (zh) * 2000-03-14 2006-01-11 株式会社索夫特4D 产生立体图像的方法和装置
US20030112873A1 (en) * 2001-07-11 2003-06-19 Demos Gary A. Motion estimation for video compression systems
CA2380105A1 (en) 2002-04-09 2003-10-09 Nicholas Routhier Process and system for encoding and playback of stereoscopic video sequences
US7068722B2 (en) * 2002-09-25 2006-06-27 Lsi Logic Corporation Content adaptive video processor using motion compensation
US20040252756A1 (en) * 2003-06-10 2004-12-16 David Smith Video signal frame rate modifier and method for 3D video applications
US20080246836A1 (en) * 2004-09-23 2008-10-09 Conversion Works, Inc. System and method for processing video images for camera recreation
KR100716992B1 (ko) * 2005-02-04 2007-05-10 삼성전자주식회사 스테레오 영상 부호화 및 복호화 방법과 그 장치
KR101227601B1 (ko) * 2005-09-22 2013-01-29 삼성전자주식회사 시차 벡터 예측 방법, 그 방법을 이용하여 다시점 동영상을부호화 및 복호화하는 방법 및 장치
US8644386B2 (en) * 2005-09-22 2014-02-04 Samsung Electronics Co., Ltd. Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method
KR100653200B1 (ko) * 2006-01-09 2006-12-05 삼성전자주식회사 기하 정보를 교정하여 파노라마 영상을 제공하는 방법 및장치
US8842730B2 (en) * 2006-01-27 2014-09-23 Imax Corporation Methods and systems for digitally re-mastering of 2D and 3D motion pictures for exhibition with enhanced visual quality
CA2653815C (en) * 2006-06-23 2016-10-04 Imax Corporation Methods and systems for converting 2d motion pictures for stereoscopic 3d exhibition
JP4181593B2 (ja) * 2006-09-20 2008-11-19 シャープ株式会社 画像表示装置及び方法
JP4513819B2 (ja) * 2007-03-19 2010-07-28 株式会社日立製作所 映像変換装置、映像表示装置、映像変換方法
JP4958610B2 (ja) * 2007-04-06 2012-06-20 キヤノン株式会社 画像防振装置、撮像装置及び画像防振方法
KR101427115B1 (ko) * 2007-11-28 2014-08-08 삼성전자 주식회사 영상처리장치 및 영상처리방법
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置
WO2009072273A1 (ja) * 2007-12-04 2009-06-11 Panasonic Corporation 映像信号処理装置
CN101933335B (zh) * 2008-01-29 2012-09-05 汤姆森特许公司 将二维图像数据转换为立体图像数据的方法和系统
US20090268097A1 (en) * 2008-04-28 2009-10-29 Siou-Shen Lin Scene change detection method and related apparatus according to summation results of block matching costs associated with at least two frames
KR101545510B1 (ko) * 2008-12-24 2015-08-20 삼성전자주식회사 프레임 속도 조절이 가능한 2차원 영상 또는 3차원 영상 디스플레이 방법 및 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01171389A (ja) * 1987-12-25 1989-07-06 Sharp Corp 映像再生装置
JP2000209614A (ja) * 1999-01-14 2000-07-28 Sony Corp 立体映像システム
JP2003304507A (ja) * 2002-04-10 2003-10-24 Sony Corp 動きベクトル検出装置及び方法
JP2006157605A (ja) * 2004-11-30 2006-06-15 Furoobell:Kk 映像処理システムおよび方法、撮像装置および方法、映像処理装置、映像データ出力方法、記録媒体、並びにプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012222425A (ja) * 2011-04-05 2012-11-12 Sumitomo Electric Ind Ltd 映像再生装置

Also Published As

Publication number Publication date
EP2404452B1 (en) 2018-12-05
US20130182069A1 (en) 2013-07-18
WO2010099616A1 (en) 2010-09-10
CN102362503A (zh) 2012-02-22
EP3512196A1 (en) 2019-07-17
EP2404452A1 (en) 2012-01-11
EP3512196B1 (en) 2021-09-01
KR20120006498A (ko) 2012-01-18
EP2404452A4 (en) 2013-10-09
US20100225741A1 (en) 2010-09-09
US9270969B2 (en) 2016-02-23
US8395709B2 (en) 2013-03-12

Similar Documents

Publication Publication Date Title
JP2012519431A (ja) 3dビデオ処理
TWI432017B (zh) 用於移動補償畫面速率轉換器之系統與方法
US8441521B2 (en) Method and apparatus for determining view of stereoscopic image for stereo synchronization
EP2728887B1 (en) Image processing apparatus and image processing method thereof
US8243194B2 (en) Method and apparatus for frame interpolation
US10412462B2 (en) Video frame rate conversion using streamed metadata
KR20090071624A (ko) 이미지 개선
KR101666019B1 (ko) 외삽 뷰 생성을 위한 장치 및 방법
JP2010062695A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5257248B2 (ja) 画像処理装置および方法、ならびに画像表示装置
US20170127039A1 (en) Ultrasonic proximity detection system
EP2161687B1 (en) Video signal processing device, video signal processing method, and video signal processing program
US20130069934A1 (en) System and Method of Rendering Stereoscopic Images
KR20060083978A (ko) 움직임 벡터 필드 리-타이밍
US9798919B2 (en) Method and apparatus for estimating image motion using disparity information of a multi-view image
EP1863283A1 (en) A method and apparatus for frame interpolation
JP2004356747A (ja) 画像のマッチング方法および装置
KR101050135B1 (ko) 광류 정보를 이용한 중간 영상 생성 방법
US8330799B2 (en) Image output apparatus and image output method
Yao et al. View synthesis based on background update with gaussian mixture model
TWI590663B (zh) 影像處理裝置及其影像處理方法
JP5977964B2 (ja) 多視点映像フレーム内挿装置、方法及びプログラム
JP6504708B2 (ja) 前景領域における被写体の重なりを識別する識別装置、識別方法及びコンピュータ可読記憶媒体
US20130076859A1 (en) Method and apparatus for detecting motion vector, and method and apparatus for processing image signal
Shin et al. Autostereoscopic 3D video generation from stereoscopic videos using FPGA and GPU

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140129

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140428

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140508

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140529

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140630

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141028