JPWO2011105337A1 - 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム - Google Patents
多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム Download PDFInfo
- Publication number
- JPWO2011105337A1 JPWO2011105337A1 JP2012501773A JP2012501773A JPWO2011105337A1 JP WO2011105337 A1 JPWO2011105337 A1 JP WO2011105337A1 JP 2012501773 A JP2012501773 A JP 2012501773A JP 2012501773 A JP2012501773 A JP 2012501773A JP WO2011105337 A1 JPWO2011105337 A1 JP WO2011105337A1
- Authority
- JP
- Japan
- Prior art keywords
- viewpoint
- frame
- image
- decoding
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
本願は、2010年2月24日に日本へ出願された日本特願2010−038680号に対して優先権を主張し、その内容をここに援用する。
なお、以下の説明では、映像(フレーム)に記号[]で挟まれた位置を特定可能な情報(座標値、もしくは座標値に対応付け可能なインデックス)を付加することで、その位置の画素に関してサンプリングされた映像信号を示すものとする。
まず、本発明の第1実施形態について説明する。
図1は、本発明の第1実施形態による多視点映像符号化装置の構成を示すブロック図である。図1において、多視点映像符号化装置100は、符号化対象フレーム入力部101、符号化対象画像メモリ102、参照視点フレーム入力部103、参照視点画像メモリ104、視点合成部105、視点合成画像メモリ106、信頼度設定部107、視点合成画像補正部108、予測残差符号化部109、予測残差復号部110、復号画像メモリ111、予測残差算出部112、及び復号画像算出部113を備えている。
つまり、補正処理を表す関数をFとし、2つの画像信号の乖離度を表すマッチングコスト関数をCとすると、補正パラメータを求める処理は、次の数式(18)で表すことができる。
マッチングコストにはどのようなものを用いても構わないが、例えば、2つの信号の差の二乗を用いることができる。また、マッチングコストにおいて、視点合成画像の信頼度や、参照領域の推定精度や、その両方を用いて画素ごとに重み付けを行っても構わない。次の数式(19),(20),(21),(22)は、2つの信号の差の二乗を乖離度とする際に、それぞれ、全く重み付けを行わない場合、視点合成画像の信頼度で重み付けを行う場合、参照領域の推定精度で重み付けを行う場合、視点合成画像の信頼度と参照領域の推定精度の両方で重み付けを行う場合のマッチングコスト関数の例を示す。
次に、本発明の第2実施形態について説明する。
図4は、本第2実施形態による多視点映像復号装置の構成を示すブロック図である。図4において、多視点映像復号装置200は、符号化データ入力部201、符号化データメモリ202、参照視点フレーム入力部203、参照視点画像メモリ204、視点合成部205、視点合成画像メモリ206、信頼度設定部207、視点合成画像補正部208、予測残差復号部210、復号画像メモリ211及び復号画像算出部212を備えている。
101 符号化対象フレーム入力部
102 符号化対象画像メモリ
103 参照視点フレーム入力部
104 参照視点画像メモリ
105 視点合成部
106 視点合成画像メモリ
107 信頼度設定部
108 視点合成画像補正部
109 予測残差符号化部
110 予測残差復号部
111 復号画像メモリ
112 予測残差算出部
113 復号画像算出部
1081 参照領域設定部
1082 推定精度設定部
1083 補正パラメータ推定部
1084 画像補正部
200 多視点映像復号装置
201 符号化データ入力部
202 符号化データメモリ
203 参照視点フレーム入力部
204 参照視点画像メモリ
205 視点合成部
206 視点合成画像メモリ
207 信頼度設定部
208 視点合成画像補正部
210 予測残差復号部
211 復号画像メモリ
212 復号画像算出部
と、前記補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化ステップとを含む多視点映像符号化方法である。
また、上述した課題を解決するために、本発明の第2の観点は、多視点映像の符号化対象視点に対する映像を符号化するに際し、前記符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームと、前記符号化対象視点における既に符号化済みの参照フレームとを用いて、予測符号化を行う多視点映像符号化方法であって、前記参照視点フレームから、前記符号化対象視点の前記符号化対象フレームと前記参照フレームとに対する視点合成画像を合成する視点合成画像生成ステップと、予め定められた大きさの処理単位領域毎に、前記符号化対象フレームに対する視点合成画像に対応する、前記参照フレームに対する視点合成画像上の参照領域を探索する参照領域推定ステップと、前記処理単位領域に対する前記視点合成画像と前記参照領域と同位置の前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定ステップと、前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正ステップと、前記補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化ステップとを含む多視点映像符号化方法である。
[0019]
本発明の第1または第2の観点において、前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定ステップを更に含み、前記参照領域推定ステップは、前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0020]
本発明の第1または第2の観点において、前記補正パラメータ推定ステップは、前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0021]
本発明の第1または第2の観点において、前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定ステップを更に含み、前記補正パラメータ推定ステップは、前記推定精度、および前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0022]
また、上述した課題を解決するために、本発明の第3の観点は、多視点映像を復号する多視点映像復号方法であって、前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の前記復号対象フレームに対応する視点合成画像を合成する視点合成画像生成ステップと、予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記復号対象視点における既に復号済みの参照フレーム上の参照領域を探索する参照領域推定ステップと、前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定ステップと、前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正ステップと、前記補正された視点合成画
像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号ステップとを含む多視点映像復号方法である。
[0023]
本発明の第3の観点において、前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定ステップを更に含み、前記参照領域推定ステップは、前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0024]
本発明の第3の観点において、前記補正パラメータ推定ステップは、前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0025]
本発明の第3の観点において、前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定ステップを更に含み、前記補正パラメータ推定ステップは、前記推定精度、および前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0026]
また、上述した課題を解決するために、本発明の第4の観点は、多視点映像を符号化する多視点映像符号化装置であって、前記多視点映像の符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームから、前記符号化対象視点の前記符号化対象フレームに対応する視点合成画像を合成する視点合成画像生成手段と、予め定められた大きさの処理単位領域毎に、前記視点合成画像生成手段により合成された前記視点合成画像に対応する、前記符号化対象視点における既に符号化済みの参照フレーム上の参照領域を探索する参照領域推定手段と、前記処理単位領域に対する前記視点合成画像と前記参照領域推定手段により探索された前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補
正パラメータ推定手段と、前記補正パラメータ推定手段により推定された前記補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正手段と、前記視点合成画像補正手段により補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化手段とを備える多視点映像符号化装置である。
[0027]
本発明の第4の観点において、前記視点合成画像生成手段により合成された前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定手段を更に備え、前記参照領域推定手段は、前記信頼度設定手段により設定された前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0028]
本発明の第4の観点において、前記補正パラメータ推定手段は、前記信頼度設定手段により設定された前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0029]
本発明の第4の観点において、前記視点合成画像生成手段により合成された前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定手段を更に備え、前記補正パラメータ推定手段は、前記推定精度設定手段により設定された前記推定精度、および前記信頼度設定手段により設定された前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつけるようにしてもよい。
[0030]
また、上述した課題を解決するために、本発明の第5の観点は、多視点映像を復号する多視点映像復号装置であって、前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の前記復号対象フレームに対応する視点合成画像を合成する視点合成画像生成手段と、予め定められた大きさの処理単位領域毎に、前記視点合成画像生成手段により合成された前記視点合成画像に対応する、前記復号対象視点における既に
復号済みの参照フレーム上の参照領域を探索する参照領域推定手段と、前記処理単位領域に対する前記視点合成画像と前記参照領域推定手段により探索された前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定手段と、前記補正パラメータ推定手段により推定された前記補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正手段と、前記視点合成画像補正手段により補正された視点合成画像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号手段とを有する多視点映像復号装置である。
[0031]
また、上述した課題を解決するために、本発明の第6の観点は、多視点映像を符号化する多視点映像符号化装置のコンピュータに、前記多視点映像の符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームから、前記符号化対象視点の前記符号化対象フレームに対応する視点合成画像を合成する視点合成画像生成機能、予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記符号化対象視点における既に符号化済みの参照フレーム上の参照領域を探索する参照領域推定機能、前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定機能、前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正機能、前記補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化機能を実行させるプログラムである。
[0032]
また、上述した課題を解決するために、本発明の第7の観点は、多視点映像を復号する多視点映像復号装置のコンピュータに、前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の
また、上述した課題を解決するために、本発明の第4の観点は、多視点映像の復号対象視点に対する映像を復号するに際し、前記復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における既に復号済みの参照視点フレームと、前記復号対象視点における既に復号済みの参照フレームとを用いて、多視点映像を復号する多視点映像復号方法であって、前記参照視点フレームから、前記復号対象視点の前記復号対象フレームと前記参照フレームとに対する視点合成画像を合成する視点合成画像生成ステップと、予め定められた大きさの処理単位領域毎に、前記復号対象フレームに対する視点合成画像に対応する、前記参照フレームに対する視点合成画像上の参照領域を探索する参照領域推定ステップと、前記処理単位領域に対する前記視点合成画像と前記参照領域と同位置の前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定ステップと、前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正ステップと、前記補正された視点合成画像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号ステップとを含む多視点映像復号方法である。
Claims (15)
- 多視点映像を符号化する多視点映像符号化方法であって、
前記多視点映像の符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームから、前記符号化対象視点の前記符号化対象フレームに対応する視点合成画像を合成する視点合成画像生成ステップと、
予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記符号化対象視点における既に符号化済みの参照フレーム上の参照領域を探索する参照領域推定ステップと、
前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定ステップと、
前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正ステップと、
前記補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化ステップと
を含む多視点映像符号化方法。 - 前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定ステップを更に含み、
前記参照領域推定ステップは、
前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつける
請求項1に記載の多視点映像符号化方法。 - 前記補正パラメータ推定ステップは、
前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項2に記載の多視点映像符号化方法。 - 前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定ステップを更に含み、
前記補正パラメータ推定ステップは、
前記推定精度、および前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項2に記載の多視点映像符号化方法。 - 多視点映像を復号する多視点映像復号方法であって、
前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の前記復号対象フレームに対応する視点合成画像を合成する視点合成画像生成ステップと、
予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記復号対象視点における既に復号済みの参照フレーム上の参照領域を探索する参照領域推定ステップと、
前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定ステップと、
前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正ステップと、
前記補正された視点合成画像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号ステップと
を含む多視点映像復号方法。 - 前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定ステップを更に含み、
前記参照領域推定ステップは、
前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつける
請求項5に記載の多視点映像復号方法。 - 前記補正パラメータ推定ステップは、
前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項6に記載の多視点映像復号方法。 - 前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定ステップを更に含み、
前記補正パラメータ推定ステップは、
前記推定精度、および前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項6に記載の多視点映像復号方法。 - 多視点映像を符号化する多視点映像符号化装置であって、
前記多視点映像の符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームから、前記符号化対象視点の前記符号化対象フレームに対応する視点合成画像を合成する視点合成画像生成手段と、
予め定められた大きさの処理単位領域毎に、前記視点合成画像生成手段により合成された前記視点合成画像に対応する、前記符号化対象視点における既に符号化済みの参照フレーム上の参照領域を探索する参照領域推定手段と、
前記処理単位領域に対する前記視点合成画像と前記参照領域推定手段により探索された前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定手段と、
前記補正パラメータ推定手段により推定された前記補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正手段と、
前記視点合成画像補正手段により補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化手段と
を備える多視点映像符号化装置。 - 前記視点合成画像生成手段により合成された前記視点合成画像の各画素について、前記視点合成画像の確からしさを示す信頼度を設定する信頼度設定手段を更に備え、
前記参照領域推定手段は、
前記信頼度設定手段により設定された前記信頼度に基づいて、前記視点合成画像に対応する、前記参照フレーム上の前記参照領域を探索する際の各画素のマッチングコストに重みをつける
請求項9に記載の多視点映像符号化装置。 - 前記補正パラメータ推定手段は、
前記信頼度設定手段により設定された前記信頼度に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項10に記載の多視点映像符号化装置。 - 前記視点合成画像生成手段により合成された前記視点合成画像の各画素について、前記参照領域が正しく推定できたかどうかを示す推定精度を設定する推定精度設定手段を更に備え、
前記補正パラメータ推定手段は、
前記推定精度設定手段により設定された前記推定精度、および前記信頼度設定手段により設定された前記信頼度のいずれか一方、または双方に基づいて、前記補正パラメータを推定する際の各画素のマッチングコストに重みをつける
請求項10に記載の多視点映像符号化装置。 - 多視点映像を復号する多視点映像復号装置であって、
前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の前記復号対象フレームに対応する視点合成画像を合成する視点合成画像生成手段と、
予め定められた大きさの処理単位領域毎に、前記視点合成画像生成手段により合成された前記視点合成画像に対応する、前記復号対象視点における既に復号済みの参照フレーム上の参照領域を探索する参照領域推定手段と、
前記処理単位領域に対する前記視点合成画像と前記参照領域推定手段により探索された前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定手段と、
前記補正パラメータ推定手段により推定された前記補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正手段と、
前記視点合成画像補正手段により補正された視点合成画像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号手段と
を有する多視点映像復号装置。 - 多視点映像を符号化する多視点映像符号化装置のコンピュータに、
前記多視点映像の符号化対象視点における符号化対象フレームと同時刻に撮影された、前記符号化対象視点とは異なる参照視点における既に符号化済みの参照視点フレームから、前記符号化対象視点の前記符号化対象フレームに対応する視点合成画像を合成する視点合成画像生成機能、
予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記符号化対象視点における既に符号化済みの参照フレーム上の参照領域を探索する参照領域推定機能、
前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定機能、
前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正機能、
前記補正された視点合成画像を用いて、前記符号化対象視点の映像を予測符号化する画像符号化機能
を実行させるプログラム。 - 多視点映像を復号する多視点映像復号装置のコンピュータに、
前記多視点映像の復号対象視点における復号対象フレームと同時刻に撮影された、前記復号対象視点とは異なる参照視点における参照視点フレームから、前記復号対象視点の前記復号対象フレームに対応する視点合成画像を合成する視点合成画像生成機能、
予め定められた大きさの処理単位領域毎に、前記視点合成画像に対応する、前記復号対象視点における既に復号済みの参照フレーム上の参照領域を探索する参照領域推定機能、
前記処理単位領域に対する前記視点合成画像と前記参照領域に対する前記参照フレームとから、カメラ間ミスマッチを補正する補正パラメータを推定する補正パラメータ推定機能、
前記推定された補正パラメータを用いて、前記処理単位領域に対する前記視点合成画像を補正する視点合成画像補正機能、
前記補正された視点合成画像を予測信号として用いて、前記復号対象視点における予測符号化されている復号対象フレームを、前記復号対象視点に対する映像の符号化データから復号する画像復号機能
を実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012501773A JP5303754B2 (ja) | 2010-02-24 | 2011-02-21 | 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010038680 | 2010-02-24 | ||
JP2010038680 | 2010-02-24 | ||
PCT/JP2011/053742 WO2011105337A1 (ja) | 2010-02-24 | 2011-02-21 | 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム |
JP2012501773A JP5303754B2 (ja) | 2010-02-24 | 2011-02-21 | 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2011105337A1 true JPWO2011105337A1 (ja) | 2013-06-20 |
JP5303754B2 JP5303754B2 (ja) | 2013-10-02 |
Family
ID=44506745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012501773A Active JP5303754B2 (ja) | 2010-02-24 | 2011-02-21 | 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム |
Country Status (10)
Country | Link |
---|---|
US (1) | US20120314776A1 (ja) |
EP (1) | EP2541943A1 (ja) |
JP (1) | JP5303754B2 (ja) |
KR (1) | KR101374812B1 (ja) |
CN (1) | CN102918846B (ja) |
BR (1) | BR112012020993A2 (ja) |
CA (1) | CA2790268A1 (ja) |
RU (1) | RU2527737C2 (ja) |
TW (1) | TWI436637B (ja) |
WO (1) | WO2011105337A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7983835B2 (en) | 2004-11-03 | 2011-07-19 | Lagassey Paul J | Modular intelligent transportation system |
WO2013087880A1 (en) | 2011-12-14 | 2013-06-20 | Thomson Licensing | Method and system for interpolating a virtual image from a first and a second input images |
CN103379349B (zh) * | 2012-04-25 | 2016-06-29 | 浙江大学 | 一种视点合成预测编码方法、解码方法、对应的装置及码流 |
US20130329800A1 (en) * | 2012-06-07 | 2013-12-12 | Samsung Electronics Co., Ltd. | Method of performing prediction for multiview video processing |
CN102761765B (zh) * | 2012-07-16 | 2014-08-20 | 清华大学 | 一种用于三维立体视频的深度快速插帧方法 |
US9854138B2 (en) * | 2012-09-20 | 2017-12-26 | Gyrus Acmi, Inc. | Fixed pattern noise reduction |
CN103079083B (zh) * | 2012-12-06 | 2015-05-06 | 上海大学 | 一种已标定平行摄像机阵列多视图像校正方法 |
US9615089B2 (en) | 2012-12-26 | 2017-04-04 | Samsung Electronics Co., Ltd. | Method of encoding and decoding multiview video sequence based on adaptive compensation of local illumination mismatch in inter-frame prediction |
WO2014103966A1 (ja) | 2012-12-27 | 2014-07-03 | 日本電信電話株式会社 | 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム、および画像復号プログラム |
WO2014166068A1 (en) * | 2013-04-09 | 2014-10-16 | Mediatek Inc. | Refinement of view synthesis prediction for 3-d video coding |
WO2014178051A2 (en) * | 2013-04-30 | 2014-11-06 | Mantisvision Ltd. | Selective 3d registration |
CN103402097B (zh) * | 2013-08-15 | 2016-08-10 | 清华大学深圳研究生院 | 一种自由视点视频深度图编码方法及其失真预测方法 |
CN103763567B (zh) * | 2013-12-31 | 2017-01-18 | 华中科技大学 | 一种应用于监控视频隐私保护的压缩域失真漂移补偿方法 |
CN105184780B (zh) * | 2015-08-26 | 2018-06-05 | 京东方科技集团股份有限公司 | 一种立体视觉深度的预测方法和系统 |
CN105430397B (zh) * | 2015-11-20 | 2018-04-17 | 清华大学深圳研究生院 | 一种3d图像体验质量预测方法及装置 |
US10304468B2 (en) * | 2017-03-20 | 2019-05-28 | Qualcomm Incorporated | Target sample generation |
US10891960B2 (en) * | 2017-09-11 | 2021-01-12 | Qualcomm Incorproated | Temporal offset estimation |
DE102021200225A1 (de) | 2021-01-12 | 2022-07-14 | Rheinisch-Westfälische Technische Hochschule (RWTH) Aachen, Körperschaft des öffentlichen Rechts | Verfahren zur Wiedergabe eines Videostreams durch einen Client |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008048487A2 (en) * | 2006-10-18 | 2008-04-24 | Thomson Licensing | Local illumination and color compensation without explicit signaling |
WO2009001791A1 (ja) * | 2007-06-25 | 2008-12-31 | Nippon Telegraph And Telephone Corporation | 映像符号化方法及び復号方法、それらの装置、それらのプログラム並びにプログラムを記録した記録媒体 |
JP2009523355A (ja) * | 2006-01-12 | 2009-06-18 | エルジー エレクトロニクス インコーポレイティド | 多視点ビデオの処理 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7085409B2 (en) * | 2000-10-18 | 2006-08-01 | Sarnoff Corporation | Method and apparatus for synthesizing new video and/or still imagery from a collection of real video and/or still imagery |
US20020131500A1 (en) * | 2001-02-01 | 2002-09-19 | Gandhi Bhavan R. | Method for determining a motion vector for a video signal |
US6961055B2 (en) * | 2001-05-09 | 2005-11-01 | Free Radical Design Limited | Methods and apparatus for constructing virtual environments |
US6859494B2 (en) * | 2001-07-27 | 2005-02-22 | General Instrument Corporation | Methods and apparatus for sub-pixel motion estimation |
JP2005505841A (ja) * | 2001-10-08 | 2005-02-24 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 動き推定のための装置及び方法 |
JP2005506626A (ja) * | 2001-10-25 | 2005-03-03 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 動き推定ユニット及び方法並びにかような動き推定ユニットを備えた画像処理装置 |
US7489342B2 (en) * | 2004-12-17 | 2009-02-10 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for managing reference pictures in multiview videos |
PL378138A1 (pl) * | 2003-05-20 | 2006-03-06 | Lego A/S | Sposób i układ do manipulowania cyfrową reprezentacją obiektu trójwymiarowego |
JP4052331B2 (ja) * | 2003-06-20 | 2008-02-27 | 日本電信電話株式会社 | 仮想視点画像生成方法及び3次元画像表示方法並びに装置 |
US7671894B2 (en) * | 2004-12-17 | 2010-03-02 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for processing multiview videos for view synthesis using skip and direct modes |
US7468745B2 (en) * | 2004-12-17 | 2008-12-23 | Mitsubishi Electric Research Laboratories, Inc. | Multiview video decomposition and encoding |
US7728877B2 (en) * | 2004-12-17 | 2010-06-01 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for synthesizing multiview videos |
RU2322771C2 (ru) * | 2005-04-25 | 2008-04-20 | Святослав Иванович АРСЕНИЧ | Стереопроекционная система |
JP2007180981A (ja) * | 2005-12-28 | 2007-07-12 | Victor Co Of Japan Ltd | 画像符号化装置、画像符号化方法、及び画像符号化プログラム |
CN101375593A (zh) * | 2006-01-12 | 2009-02-25 | Lg电子株式会社 | 处理多视图视频 |
EP2116062A2 (en) * | 2007-01-04 | 2009-11-11 | Thomson Licensing | Method and apparatus for video error concealment using high level syntax reference views in multi-view coded video |
TW200843510A (en) * | 2007-01-17 | 2008-11-01 | Lg Electronics Inc | Method and apparatus for processing a video signal |
KR100801968B1 (ko) * | 2007-02-06 | 2008-02-12 | 광주과학기술원 | 변위를 측정하는 방법, 중간화면 합성방법과 이를 이용한다시점 비디오 인코딩 방법, 디코딩 방법, 및 인코더와디코더 |
EP2061248A1 (en) * | 2007-11-13 | 2009-05-20 | IBBT vzw | Motion estimation and compensation process and device |
US8351685B2 (en) * | 2007-11-16 | 2013-01-08 | Gwangju Institute Of Science And Technology | Device and method for estimating depth map, and method for generating intermediate image and method for encoding multi-view video using the same |
JP5008203B2 (ja) | 2008-08-04 | 2012-08-22 | 株式会社ニレコ | 超音波式厚み検出装置、及び、超音波式エッジ位置検出装置 |
US8639046B2 (en) * | 2009-05-04 | 2014-01-28 | Mamigo Inc | Method and system for scalable multi-user interactive visualization |
US9124874B2 (en) * | 2009-06-05 | 2015-09-01 | Qualcomm Incorporated | Encoding of three-dimensional conversion information with two-dimensional video sequence |
KR101451286B1 (ko) * | 2010-02-23 | 2014-10-17 | 니폰덴신뎅와 가부시키가이샤 | 움직임 벡터 추정 방법, 다시점 영상 부호화 방법, 다시점 영상 복호 방법, 움직임 벡터 추정 장치, 다시점 영상 부호화 장치, 다시점 영상 복호 장치, 움직임 벡터 추정 프로그램, 다시점 영상 부호화 프로그램 및 다시점 영상 복호 프로그램 |
-
2011
- 2011-02-21 KR KR1020127021725A patent/KR101374812B1/ko active IP Right Grant
- 2011-02-21 US US13/579,675 patent/US20120314776A1/en not_active Abandoned
- 2011-02-21 BR BR112012020993A patent/BR112012020993A2/pt not_active IP Right Cessation
- 2011-02-21 WO PCT/JP2011/053742 patent/WO2011105337A1/ja active Application Filing
- 2011-02-21 EP EP11747298A patent/EP2541943A1/en not_active Withdrawn
- 2011-02-21 RU RU2012135682/08A patent/RU2527737C2/ru active
- 2011-02-21 JP JP2012501773A patent/JP5303754B2/ja active Active
- 2011-02-21 CA CA2790268A patent/CA2790268A1/en not_active Abandoned
- 2011-02-21 CN CN201180010368.0A patent/CN102918846B/zh active Active
- 2011-02-22 TW TW100105721A patent/TWI436637B/zh active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009523355A (ja) * | 2006-01-12 | 2009-06-18 | エルジー エレクトロニクス インコーポレイティド | 多視点ビデオの処理 |
WO2008048487A2 (en) * | 2006-10-18 | 2008-04-24 | Thomson Licensing | Local illumination and color compensation without explicit signaling |
WO2009001791A1 (ja) * | 2007-06-25 | 2008-12-31 | Nippon Telegraph And Telephone Corporation | 映像符号化方法及び復号方法、それらの装置、それらのプログラム並びにプログラムを記録した記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
BR112012020993A2 (pt) | 2016-05-03 |
CA2790268A1 (en) | 2011-09-01 |
EP2541943A1 (en) | 2013-01-02 |
TWI436637B (zh) | 2014-05-01 |
KR20120117888A (ko) | 2012-10-24 |
WO2011105337A1 (ja) | 2011-09-01 |
RU2527737C2 (ru) | 2014-09-10 |
JP5303754B2 (ja) | 2013-10-02 |
US20120314776A1 (en) | 2012-12-13 |
KR101374812B1 (ko) | 2014-03-18 |
TW201218745A (en) | 2012-05-01 |
CN102918846A (zh) | 2013-02-06 |
RU2012135682A (ru) | 2014-03-27 |
CN102918846B (zh) | 2015-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5303754B2 (ja) | 多視点映像符号化方法、多視点映像復号方法、多視点映像符号化装置、多視点映像復号装置、及びプログラム | |
JP5237500B2 (ja) | 動きベクトル推定方法、多視点映像符号化方法、多視点映像復号方法、動きベクトル推定装置、多視点映像符号化装置、多視点映像復号装置、動きベクトル推定プログラム、多視点映像符号化プログラム、及び多視点映像復号プログラム | |
JP5934375B2 (ja) | 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム、画像復号プログラム及び記録媒体 | |
JP6027143B2 (ja) | 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム、および画像復号プログラム | |
JP6053200B2 (ja) | 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム及び画像復号プログラム | |
JP2007036800A (ja) | 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP5883153B2 (ja) | 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム、画像復号プログラム及び記録媒体 | |
JP6307152B2 (ja) | 画像符号化装置及び方法、画像復号装置及び方法、及び、それらのプログラム | |
JP4944046B2 (ja) | 映像符号化方法,復号方法,符号化装置,復号装置,それらのプログラムおよびコンピュータ読み取り可能な記録媒体 | |
JP4851564B2 (ja) | 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP4851563B2 (ja) | 映像符号化方法、映像復号方法、映像符号化プログラム、映像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
US20160286212A1 (en) | Video encoding apparatus and method, and video decoding apparatus and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130528 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130604 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5303754 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |