CN101248671B - 视差矢量估计方法以及对多视点画面编码和解码的设备 - Google Patents
视差矢量估计方法以及对多视点画面编码和解码的设备 Download PDFInfo
- Publication number
- CN101248671B CN101248671B CN2006800308321A CN200680030832A CN101248671B CN 101248671 B CN101248671 B CN 101248671B CN 2006800308321 A CN2006800308321 A CN 2006800308321A CN 200680030832 A CN200680030832 A CN 200680030832A CN 101248671 B CN101248671 B CN 101248671B
- Authority
- CN
- China
- Prior art keywords
- view
- frame
- difference vector
- many
- current
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 239000013598 vector Substances 0.000 title claims abstract description 123
- 238000000034 method Methods 0.000 title claims abstract description 42
- 230000001419 dependent effect Effects 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 5
- 238000010200 validation analysis Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 12
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 238000013500 data storage Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000002203 pretreatment Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 238000004513 sizing Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
提供了一种视差矢量估计方法和设备,以使用所述视差矢量估计方法对多视点画面进行编码和解码。估计多视点画面的视差矢量的方法包括:确定两个具有与当前视点不同的视点的帧之间的视差矢量;使用确定的视差矢量和特定的平移参数来计算当前视点帧的视差矢量。
Description
技术领域
本发明涉及一种多视点画面(multi-view picture)编码和解码设备,更具体地讲,涉及一种对多视点画面快速编码并提高多视点运动画面的压缩率的视差矢量(disparity vector)估计方法以及一种使用所述视差矢量估计方法对多视点画面编码和解码的设备。
背景技术
最近,已经开发出与传统标准相比具有高编码效率的新的H.264画面编码视频编码标准。考虑到16×16与4×4之间的可变块大小、使用去块效应环路滤波器、多个参考帧、帧内预测和上下文自适应熵编码的用于运动补偿的四叉树结构,并且考虑到一般的双向(B)估计片(slice),新的H.264画面编码标准依赖于各种特性。与MPEG-2标准、MPEG-4 Part 2标准等不同,在使用从同一方向(前向或后向)获得的多预测时,B片可被称为不同的片(different slices)。然而,上述特性需要许多比特用于对包括估计模式、运动矢量和/或参考图像的运动信息进行编码。
为了克服该问题,可将跳跃模式(skip mode)和直接模式(direct mode)分别引入预测(P)片和B片。所述跳跃模式和直接模式允许使用先前编码的运动矢量信息对当前将被编码的画面的任意块进行运动估计。因此,块或宏块(MB)的附加的运动数据不被编码。使用相邻MB或画面的运动的空间(跳跃)或时间(直接)相关性来获得这些模式的运动。
图1是用于解释B画面的直接模式的示图。
在直接模式下,在估计当前将被编码的B画面的任意块的运动时,使用在时间上跟随P图像的共定位块(co-located block)的运动矢量获得前向运动矢量和后向运动矢量。
为了计算将在B画面110中估计其运动的直接模式块102的前向运动矢量MVL0和后向运动矢量MVL1,检测参考列表0图像130的运动矢量MV。运动矢量参考作为时间上跟随画面矢量的共定位块104的参考列表0图像130。共定位块104与当前B中直接模式块102的位置相同。因而,使用下面的等式1和等式2来计算B画面110的直接模式块102的前向运动矢量MVL0和后向运动矢量MVL1。
其中,MV表示参考列表1画面120的共定位块104的运动矢量,TRD表示参考列表0画面130与参考列表1画面120之间的距离,TRB表示B画面110与参考列表0画面130之间的距离。
图2是用于解释在空间区域中估计运动矢量的方法的示图。
根据用于对运动画面数据编码的H.264标准,一帧被划分为多个块,每个块具有预定大小,对与被编码的相邻帧最类似的块执行运动搜索。即,当前宏块c的左宏块4、上中宏块2和上右宏块3的运动矢量的中值被确定为相应运动矢量的估计值。可用下面的等式3来表示所述运动矢量估计。
这样,已经提出使用空间相关性和时间相关性对运动画面编码的方法。然而,仍然需要一种提高具有与一般运动画面相比更重要的信息的多视点画面的压缩率和处理速度的方法。
发明内容
技术方案
本发明提供这样一种方法和设备,该方法和设备通过使用相机参数估计视差来对多视点画面编码,以提高多视点画面的压缩率并快速执行多视点画面的编码。
有益效果
根据本发明,一种视差矢量估计方法能够使用相机参数(具体地讲,平移(translation)参数)来提高多视点画面的压缩率并能够快速执行多视点画面的编码。
本发明提供一种使用利用相机参数的视差矢量估计方法的多视点画面编码和解码设备。
最佳方式
根据本发明的一方面,提供了一种估计多视点画面的视差矢量的方法,该方法包括:确定两个具有与当前视点不同的视点的帧之间的视差矢量;使用确定的视差矢量和特定的平移参数来计算当前视点帧的视差矢量。
根据本发明的另一方面,提供了一种多视点画面编码设备,该设备包括:信息确认单元,接收编码的多视点画面比特流,并确认指示包括在接收的多视点画面比特流中的视差矢量估计方法的信息;解码单元,基于确认的信息对编码的多视点画面进行解码,其中,解码单元包括空间直接模式执行单元,当确认的信息是空间直接模式估计时,空间直接模式执行单元使用两个具有与当前视点不同的视点的帧之间的视差矢量以及特定的平移参数来计算当前视点帧的视差矢量并估计视差。
附图说明
通过下面结合附图对示例性实施例进行的详细描述,本发明的上述和其它方面和特点将会变得更加清楚,其中:
图1是用于解释B画面的直接模式的示图;
图2是用于解释在空间区域中估计运动矢量的方法的示图;
图3是根据本发明示例性实施例的多视点运动画面编码设备的框图;
图4示出根据本发明示例性实施例的在通过相机设置拍摄的三个多视点画面中的相应点;
图5示出根据本发明示例性实施例的在纯平移相机设置中拍摄的三个多视点画面中的一个相应点;
图6A示出三个多视点相机拍摄的三个相邻画面;
图6B示出通过重叠图6A所示的三个相邻画面获得的两个画面;
图7是示出根据本发明示例性实施例的根据多视点相机之间的距离的相应点之间的相互关系的图解;
图8是示出根据本发明示例性实施例的搜索相应点的方法的图解;
图9是示出根据本发明示例性实施例的使用空间直接模式的视差矢量估计方法的流程图;
图10是根据本发明示例性实施例的执行空间直接模式估计的多视点画面编码设备的框图;
图11是根据本发明示例性实施例的执行空间直接模式估计的多视点画面解码设备的框图。
具体实施方式
下面将参照附图来详细描述本发明的示例性实施例。
图3是根据本发明示例性实施例的多视点运动画面编码设备的框图。
参照图3,多视点运动画面编码设备包括多视点图像缓冲器310、估计单元320、视差/运动补偿器330、残差图像编码器340和熵编码器350。
多视点运动画面编码设备接收从多个相机系统或者使用不同方法获得的多视点画面源。接收的多视点画面源被存储在多视点图像缓冲器310中。多视点图像缓冲器310将存储的多视点画面源数据提供给估计单元320和残差图像编码器340。
估计单元320包括视差估计器322和运动估计器324,用于对存储的多视点图像源执行视差估计和运动估计。
视差/运动补偿器330使用视差估计器322和运动估计器324估计的视差矢量和运动矢量执行视差和运动补偿。视差/运动补偿器330重构使用估计的运动和视差矢量获得的图像,并将重构的图像提供给残差图像编码器340。
残差图像编码器340对通过从多视点图像缓冲器310提供的原始图像中减去由视差/运动补偿器330补偿和重构的图像而获得的残差图像进行编码,并将编码的残差图像提供给熵编码器350。
熵编码器350接收估计单元320产生的估计的视差矢量和运动矢量,从残差图像编码器340接收编码的残差图像,并产生多视点视频源数据的比特流。
在图3所示的视差估计器322中,与用于运动估计和运动补偿的运动信息被用于诸如H.264和MPEG 2/4标准的传统编解码器的方式相同,视差信息用于视差补偿。与H.264标准中尝试减少运动信息和提高编码效率类似,必须尝试在多视点视频编码(MVC)中减少视差信息和提高编码效率。
图4示出根据本发明示例性实施例的在通过相机设置拍摄的三个多视点画面中的相应点。参照图4,当相应点被三个多视点相机拍摄时,相应点在画面1中被表示为X,在画面2中被表示为X’,在画面3中被表示为X”。
将基于如下假设对图4进行描述,即,X=(x,y,1)T是画面1中X-Y-Z坐标系统的3D空间中特定像素的画面点X的位置,x和y分别表示使用相对于z轴的值的x-y平面的x坐标和y坐标的归一化的值。画面2和3的相应点X’和X”分别被表示为等式4和5。
X′=K′R12K-1+K′t12/Z (4)
X″=K″R13K-1X+K″t13/Z(5)
其中,K、K’和K”分别表示画面1、2和3的相机内部(intrinsic)参数,R12和R13分别表示画面2和3相对于画面1的相机旋转参数,t12和t13分别表示画面2和3相对于画面1的相机平移参数,Z表示相对于Z坐标的特定点的值。
图5示出根据本发明示例性实施例的在纯平移(pure-translation)相机设置中拍摄的多视点画面中的一个相应点。
如图5所示,在纯平移相机设置中三个多视点相机(即,具有相同的特有相机特性的三个多视点相机)拍摄的画面与特定对象平行地布置。在这种情况下,在等式4和5中,R=I(单位矩阵),K=K’=K”。
参照图5,X’和X”是对应于画面1中的X的点。在纯平移相机设置中,点X和X’的位置偏差对应于点X和X’之间的视差矢量dv1,点X’和X”的位置偏差对应于点X’和X”之间的视差矢量dv2,点X和X”的位置偏差对应于点X和X”之间的视差矢量dv3。在纯平移相机设置中,可用等式6、7和8来表示点X、X’和X”之间的相互关系。
X′=X+Kt12/Z(6)
X″=X+Kt13/Z
(7)
X″=X′+Kt23/Z(8)
可从等式6和7导出等式9。
当t12、t13和X”-X(即,dv3)的值已知时,可使用等式9而非传统视差矢量搜索方法来获得值X’-X(即,dv1)。
可从等式6和8导出等式10。
当t12、t23和X’-X(即,dv1)的值已知时,可使用等式10而非传统视差矢量搜索方法来获得值X”-X’(即,dv2)。
因此,当纯平移存在而且在多视点相机设置中已知相机平移参数的值时,可使用当前编码帧的点X’与第二参考帧的相应点X之间的视差矢量来估计当前编码帧的点X’与第一参考帧的相应点X”之间的视差矢量。
可以按照与纯平移多视点相机设置不同的方式来设置多视点相机。然而,尽管按照不同于纯平移多视点相机设置的方式的多视点相机设置拍摄多视点画面,但是就执行校正处理以作为前处理或后处理编码多视点画面而言,多视点相机与纯平移多视点相机设置具有相同的条件。因此,由于可以按照纯平移多视点相机设置来估计视差矢量,所以有必要使用对应于平移的相机参数来对多视点画面进行编码。
图6A示出三个多视点相机拍摄的三个相邻画面,图6B示出通过重叠图6A所示的三个相邻画面而获得的两个画面。
参照图6A,在三个多视点相机中,画面601由左多视点相机在第一视点处拍摄,画面602由中间多视点相机在第二视点处拍摄,画面603由右多视点相机在第三视点处拍摄。X1表示在第一视点处画面601的特定块MB1与左侧之间的距离。X2表示在第二视点处画面602的块MB2与左侧之间的距离,块MB2对应于画面601的特定块MB1。X3表示在第三视点处画面603的块MB3与左侧之间的距离,块MB3对应于画面601的特定块MB1。
参照图6B,通过重叠第一视点处的画面601和第二视点处的画面602获得画面611,通过重叠第二视点处的画面602与第三视点处的画面603获得画面612。画面611的X12表示第一视点处的画面601的块MB1与第二视点处的画面602的块MB2之间的视差,画面612的X23表示第二视点处的画面602的块MB2与第三视点处的画面603的块MB3之间的视差。即,X12=X1-X2,X23=X2-X3。当三个多视点相机被布置为平行地隔开相等距离时,视差X12和X23彼此相同。如图7所示,概括了这种情况。
图7是示出根据本发明示例性实施例的根据多视点相机之间的距离的相应点之间的相互关系的图解。参照图7,cd1表示两个视点n-1和n之间的多视点相机的距离,cd2表示两个视点n和n+1之间的多视点相机的距离。dv1表示两个视点n-1和n之间的特定的相应块或点的视差矢量,dv2表示两个视点n和n+1之间的特定的相应块或点的视差矢量。
当dv1和dv2在一条直线上时,获得等式11。
dv2=dv1×cd2/cd1(11)
因此,当预先已知或估计出dv1、cd1和cd2时,可使用dv1、cd1和cd2而非传统的估计方法来计算dv2。此外,图7和等式11示出:如果cd1=cd2,则dv2=dv1。cd2/cd1的值对应于平移参数。
图8是示出根据本发明示例性实施例的搜索相应点的方法的图解。
如参照图7所述,难以搜索可使用等式8计算其视差矢量的相应块或点。然而,与将被估计的当前块相邻的块的视差矢量与当前块的视差矢量类似,从而图7所示的图解可被修改为图8所示的图解。
参照图8,cd3表示两个视点n-1和n之间的多视点相机的距离,cd4表示两个视点n和n+1之间的多视点相机的距离,dv3表示两个视点n-1和n之间的特定的相应块或点的视差矢量,dv4表示两个视点n和n+1之间的当前块的视差矢量。
在本发明的当前示例性实施例中,可使用在视点n处当前块的共定位块与在视点n-1处的视点n处的共定位块的相应块之间的视差矢量dv3来估计dv4。因此,可通过使用类似于等式11的等式12来计算当前块的视差矢量。
dv4=dv3×cd4/cd3(12)
cd4/cd3的值对应于平移参数。已参照图7和图8描述了在视点n-1、n和n+1处的画面的视差矢量之间的相互关系。然而,等式11和12不仅可以使用在相邻画面中,而且可以使用在彼此隔开特定间距的画面中。在本发明的当前示例性实施例中,视差矢量估计方法被称为空间直接模式估计。
图9是示出根据本发明示例性实施例的使用空间直接模式估计的视差矢量估计方法的流程图。参照图9,确定两个具有与当前视点不同的视点的帧之间的视差矢量(操作910)。使用确定的视差矢量和特定平移参数来计算当前视点帧的视差矢量(操作920)。
更具体地讲,例如,当两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧而且当前视点帧的视差矢量为dv2时,使用等式11来计算dv2,即,dv2=dv1×cd2/cd1。dv1表示两个帧(即,第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块)之间的视差矢量。dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量。此外,如上所述,cd1表示分别拍摄第一视点帧和第二视点帧的两个相机之间的距离,cd2表示分别拍摄第二视点帧和当前视点帧的两个相机之间的距离,cd2/cd1是对应于平移参数的值。
基于与将被估计的当前块相邻的块的视差矢量类似于当前块的视差矢量的事实,当两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,而且当前视点帧的视差矢量是可使用等式12计算的dv4(即,dv4=dv3×cd4/cd3)时,可使用当前示例性实施例的视差矢量估计方法。
dv3表示两个帧(即,第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块)之间的视差矢量。dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块。第二块是当前视点帧中第一块的共定位块,并且是图8所描述的当前块。因而,dv4表示第二视点帧与当前视点帧之间的第一块的共定位的第二块的视差矢量。此外,如上所述,cd3表示分别拍摄第一视点帧和第二视点帧的两个相机之间的距离,cd4表示分别拍摄第二视点帧和当前视点帧的两个相机之间的距离,cd4/cd3是对应于平移参数的值。
在当前示例性实施例中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。平移参数是与多视点相机之间的距离有关的值(如cd2/cd1或cd4/cd3),并且可从多视点相机系统发送。
多视点画面编码设备和多视点画面解码设备分别执行当前示例性实施例的空间直接模式估计。当多视点画面编码设备使用空间直接模式估计时,不是所有视差矢量都需要在多视点画面编码设备中被编码。此外,多视点画面解码设备可根据空间直接模式估计使用视差矢量估计方法确定视差矢量,从而可有效地执行多视点画面编码和解码。
图10是根据本发明示例性实施例的执行空间直接模式估计的多视点画面编码设备的框图。
参照图10,接收至少三个多视点画面并对所述多视点画面编码的多视点画面编码设备包括多视点画面输入单元1010和编码单元1020。
多视点画面输入单元1010从包括多个相机的多视点相机系统接收三个多视点画面和特定的相机参数。编码单元1020产生包括多视点画面和特定相机参数的编码的多视点画面比特流。
编码单元1020包括在估计视差矢量时执行空间直接模式估计的空间直接模式执行单元1021。当特定的相机参数是平移参数时,空间直接模式执行单元1021使用空间直接模式估计来估计视差矢量,所述空间直接模式估计使用两个具有与当前视点不同的视点的帧的视差矢量和平移参数来计算当前视点帧的视差矢量。
参照图9描述了空间直接模式执行单元1021的操作。空间直接模式执行单元1021可使用等式11或12来计算视差矢量。
编码单元1020设置指示用于对三个多视点画面进行编码的视差矢量估计方法的信息,并发送多视点画面比特流。当编码单元1020使用与发送的平移参数相同的值对多视点画面编码时,编码单元1020还设置指示平移矩阵(translation matrix)没有改变的信息,并发送多视点画面比特流。因此,本发明的多视点画面编码设备不需要再次发送先前发送的平移参数,这增加了多视点画面的编码效率。指示视差矢量估计方法的信息或者指示平移矩阵没有改变的信息可以被设置为包括在多视点画面比特流中的标志信息。
本发明的多视点画面编码设备可执行传统的多视点画面编码方法和执行空间直接模式估计的多视点画面编码方法,选择二者中多视点画面编码效率高的一种,并对多视点画面编码。
图11是根据本发明示例性实施例的执行空间直接模式估计的多视点画面解码设备的框图。
参照图11,多视点画面解码设备包括信息确认单元1110和解码单元1120。信息确认单元1110接收编码的多视点画面比特流,并确认包括在接收的多视点画面比特流中的指示视差矢量估计方法的信息。解码单元1120基于确认的信息对编码的多视点画面进行解码。
解码单元1120包括执行空间直接模式估计并确定视差矢量的空间直接模式执行单元1121。当确认的关于视差矢量估计方法的信息是空间直接模式估计时,空间直接模式执行单元1121使用两个具有与当前视点不同的视点的帧之间的视差矢量以及特定的平移参数来计算当前视点帧的视差矢量,从而确定视差。
参照图9描述了空间直接模式执行单元1121的操作。空间直接模式执行单元1121可使用等式11或12来计算视差矢量。
平移参数是与多视点相机之间的距离有关的值,并从多视点画面编码设备被发送。当多视点画面编码设备不发送平移参数而是发送指示先前接收的平移参数没有改变的信息时,解码单元1120可使用先前接收的平移参数对多视点画面进行解码。
本发明还可被实施为计算机可读记录介质上的计算机可读代码。所述计算机可读记录介质是可存储其后能由计算机系统读取的数据的任何数据存储装置。计算机可读记录介质的示例包括只读存储器(ROM)、随机存取存储器(RAM)、CD-ROM、磁带、软盘、光学数据存储装置和载波(诸如通过互联网的数据传输)。计算机可读记录介质还可以分布在联网的计算机系统上,从而计算机可读代码以分布式方式被存储和执行。
根据本发明,视差矢量估计方法可使用相机参数(具体地讲,平移参数)来提高多视点画面的压缩率,并可快速执行多视点画面的编码。
本发明提供使用利用相机参数的视差矢量估计方法的多视点画面编码和解码设备。
尽管参照本发明的示例性实施例具体示出和描述了本发明,但是本领域普通技术人员应该理解,在不脱离权利要求所限定的本发明的精神和范围的情况下,可以对其进行形式和细节的各种改变。
Claims (14)
1.一种估计多视点画面的视差矢量的方法,该方法包括:
确定两个具有与当前视点不同的视点的帧之间的视差矢量;
使用所述两个帧之间的视差矢量和平移参数来计算当前视点帧的视差矢量,
其中,平移参数是与多个相机之间的距离有关的值,并从包括所述多个相机的多视点相机系统被发送。
2.如权利要求1所述的方法,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
3.如权利要求1所述的方法,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
4.如权利要求2或3所述的方法,其中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。
5.一种多视点画面编码设备,包括:
多视点画面输入单元,接收多视点画面和平移参数;
编码单元,产生包括多视点画面和平移参数的编码的多视点画面比特流,
其中,编码单元包括使用空间直接模式估计来估计视差的空间直接模式执行单元,所述空间直接模式估计使用两个具有与当前视点不同的视点的帧之间的视差矢量和平移参数来计算当前视点帧的视差矢量,
其中,平移参数是与多个相机之间的距离有关的值,并从包括所述多个相机的多视点相机系统被发送。
6.如权利要求5所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
7.如权利要求5所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
8.如权利要求6或7所述的设备,其中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。
9.如权利要求5所述的设备,其中,编码单元设置包括用于对多视点画面进行编码的视差矢量估计方法的信息,并发送多视点画面比特流。
10.如权利要求9所述的设备,其中,当编码单元使用与发送的平移参数相同的值对多视点画面进行编码时,编码单元还设置指示平移矩阵没有改变的信息,并发送多视点画面比特流。
11.一种多视点画面解码设备,包括:
信息确认单元,接收编码的多视点画面比特流,并确认包括在接收的多视点画面比特流中的指示视差矢量估计方法的信息;
解码单元,基于确认的信息对编码的多视点画面进行解码,
其中,解码单元包括空间直接模式执行单元,如果确认的信息是空间直接模式估计,则空间直接模式执行单元使用两个具有与当前视点不同的视点的帧之间的视差矢量以及平移参数来计算当前视点帧的视差矢量并估计视差,
其中,平移参数是与多视点相机之间的距离有关的值,并从多视点画面编码设备被发送。
12.如权利要求11所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
13.如权利要求11所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
14.如权利要求11所述的设备,其中,当没有从多视点画面编码设备接收到平移参数而是接收到指示先前接收的平移参数没有改变的信息时,解码单元使用先前接收的平移参数对多视点画面进行解码。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US72157805P | 2005-09-29 | 2005-09-29 | |
US60/721,578 | 2005-09-29 | ||
KR1020060033209 | 2006-04-12 | ||
KR1020060033209A KR101276720B1 (ko) | 2005-09-29 | 2006-04-12 | 카메라 파라미터를 이용하여 시차 벡터를 예측하는 방법,그 방법을 이용하여 다시점 영상을 부호화 및 복호화하는장치 및 이를 수행하기 위한 프로그램이 기록된 기록 매체 |
KR10-2006-0033209 | 2006-04-12 | ||
PCT/KR2006/003913 WO2007037645A1 (en) | 2005-09-29 | 2006-09-29 | Method of estimating disparity vector using camera parameters, apparatus for encoding and decoding multi-view picture using the disparity vectors estimation method, and computer-redadable recording medium storing a program for executing the method |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101248671A CN101248671A (zh) | 2008-08-20 |
CN101248671B true CN101248671B (zh) | 2010-09-22 |
Family
ID=38158745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2006800308321A Expired - Fee Related CN101248671B (zh) | 2005-09-29 | 2006-09-29 | 视差矢量估计方法以及对多视点画面编码和解码的设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8542739B2 (zh) |
JP (1) | JP5268645B2 (zh) |
KR (1) | KR101276720B1 (zh) |
CN (1) | CN101248671B (zh) |
MX (1) | MX2008003215A (zh) |
Families Citing this family (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI239474B (en) * | 2004-07-28 | 2005-09-11 | Novatek Microelectronics Corp | Circuit for counting sum of absolute difference |
TWI295540B (en) * | 2005-06-15 | 2008-04-01 | Novatek Microelectronics Corp | Motion estimation circuit and operating method thereof |
TWI296091B (en) * | 2005-11-15 | 2008-04-21 | Novatek Microelectronics Corp | Motion estimation circuit and motion estimation processing element |
US7903737B2 (en) * | 2005-11-30 | 2011-03-08 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for randomly accessing multiview videos with known prediction dependency |
US20070177671A1 (en) * | 2006-01-12 | 2007-08-02 | Lg Electronics Inc. | Processing multiview video |
KR100943914B1 (ko) | 2006-01-12 | 2010-03-03 | 엘지전자 주식회사 | 다시점 비디오의 처리 방법 및 장치 |
KR101276847B1 (ko) | 2006-01-12 | 2013-06-18 | 엘지전자 주식회사 | 다시점 비디오의 처리 |
US20070217515A1 (en) * | 2006-03-15 | 2007-09-20 | Yu-Jen Wang | Method for determining a search pattern for motion estimation |
CN101491096B (zh) * | 2006-07-12 | 2012-05-30 | Lg电子株式会社 | 信号处理方法及其装置 |
KR101023262B1 (ko) * | 2006-09-20 | 2011-03-21 | 니폰덴신뎅와 가부시키가이샤 | 화상 부호화 방법 및 복호 방법, 이들의 장치 및 이들의 프로그램과 프로그램을 기록한 기억매체 |
JP4999853B2 (ja) * | 2006-09-20 | 2012-08-15 | 日本電信電話株式会社 | 画像符号化方法及び復号方法、それらの装置、及びそれらのプログラム並びにプログラムを記録した記憶媒体 |
US8923399B2 (en) * | 2007-01-24 | 2014-12-30 | Lg Electronics Inc. | Method and an apparatus for processing a video signal |
CN101690231A (zh) * | 2007-06-28 | 2010-03-31 | 汤姆森特许公司 | 多视图编码视频的单环解码 |
US20090060043A1 (en) * | 2007-08-29 | 2009-03-05 | Geert Nuyttens | Multiviewer based on merging of output streams of spatio scalable codecs in a compressed domain |
JP5627860B2 (ja) * | 2009-04-27 | 2014-11-19 | 三菱電機株式会社 | 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置 |
KR101483750B1 (ko) * | 2009-07-24 | 2015-01-19 | 삼성전자주식회사 | 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치 |
CN102884793B (zh) * | 2010-02-09 | 2016-03-23 | 日本电信电话株式会社 | 运动向量预测编码方法、运动向量预测解码方法、活动图像编码装置及活动图像解码装置 |
CA2788946A1 (en) | 2010-02-09 | 2011-08-18 | Nippon Telegraph And Telephone Corporation | Motion vector predictive encoding method, motion vector predictive decoding method, moving picture encoding apparatus, moving picture decoding apparatus, and programs thereof |
JP5367098B2 (ja) | 2010-02-09 | 2013-12-11 | 日本電信電話株式会社 | 動きベクトル予測符号化方法,動きベクトル予測復号方法,動画像符号化装置,動画像復号装置およびそれらのプログラム |
JP5645450B2 (ja) * | 2010-04-16 | 2014-12-24 | キヤノン株式会社 | 画像処理装置および方法 |
KR101950419B1 (ko) | 2010-11-24 | 2019-02-21 | 벨로스 미디어 인터내셔널 리미티드 | 움직임 벡터 산출 방법, 화상 부호화 방법, 화상 복호 방법, 움직임 벡터 산출 장치 및 화상 부호화 복호 장치 |
HU1000640D0 (en) * | 2010-11-29 | 2011-02-28 | Holografika Hologrameloeallito Fejlesztoe Es Forgalmazo Kft | Image coding and decoding method and apparatus for efficient encoding and decoding of 3d field content |
KR101852811B1 (ko) * | 2011-01-05 | 2018-04-27 | 엘지전자 주식회사 | 영상표시 장치 및 그 제어방법 |
CN106851306B (zh) | 2011-01-12 | 2020-08-04 | 太阳专利托管公司 | 动态图像解码方法和动态图像解码装置 |
WO2012108315A1 (ja) * | 2011-02-07 | 2012-08-16 | シャープ株式会社 | 予測情報生成方法、画像符号化方法、画像復号方法、予測情報生成装置、予測情報生成プログラム、画像符号化装置、画像符号化プログラム、画像復号装置および画像復号プログラム |
KR20120095610A (ko) * | 2011-02-21 | 2012-08-29 | 삼성전자주식회사 | 다시점 비디오의 부호화 방법 및 장치, 그 복호화 방법 및 장치 |
JP6108309B2 (ja) | 2011-02-22 | 2017-04-05 | サン パテント トラスト | 動画像符号化方法、動画像符号化装置、動画像復号方法、および、動画像復号装置 |
MX2013009864A (es) | 2011-03-03 | 2013-10-25 | Panasonic Corp | Metodo de codificacion de imagenes en movimiento, metodo de decodificacion de imagenes en movimiento, aparato de codificacion de imagenes en movimiento, aparato de decodificacion de imagenes en movimiento y aparato de codificacion y decodificacion de imagenes en movimiento. |
US9247249B2 (en) | 2011-04-20 | 2016-01-26 | Qualcomm Incorporated | Motion vector prediction in video coding |
JP2013034171A (ja) * | 2011-06-30 | 2013-02-14 | Sony Corp | 画像処理装置および方法 |
WO2013002342A1 (ja) * | 2011-06-30 | 2013-01-03 | ソニー株式会社 | 画像処理装置および方法 |
JP2014524706A (ja) * | 2011-08-19 | 2014-09-22 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | 動きベクトル処理 |
WO2013108613A1 (ja) * | 2012-01-17 | 2013-07-25 | パナソニック株式会社 | 動画像符号化方法、動画像復号化方法、動画像符号化装置、動画像復号化装置および動画像符号化復号化装置 |
US9560353B2 (en) * | 2012-01-27 | 2017-01-31 | Sun Patent Trust | Video encoding method, video encoding device, video decoding method and video decoding device |
WO2013133587A1 (ko) * | 2012-03-07 | 2013-09-12 | 엘지전자 주식회사 | 비디오 신호 처리 방법 및 장치 |
US9525861B2 (en) * | 2012-03-14 | 2016-12-20 | Qualcomm Incorporated | Disparity vector prediction in video coding |
US9445076B2 (en) * | 2012-03-14 | 2016-09-13 | Qualcomm Incorporated | Disparity vector construction method for 3D-HEVC |
US10200709B2 (en) | 2012-03-16 | 2019-02-05 | Qualcomm Incorporated | High-level syntax extensions for high efficiency video coding |
US9503720B2 (en) | 2012-03-16 | 2016-11-22 | Qualcomm Incorporated | Motion vector coding and bi-prediction in HEVC and its extensions |
US9549180B2 (en) | 2012-04-20 | 2017-01-17 | Qualcomm Incorporated | Disparity vector generation for inter-view prediction for video coding |
US20130336405A1 (en) * | 2012-06-15 | 2013-12-19 | Qualcomm Incorporated | Disparity vector selection in video coding |
KR102186605B1 (ko) | 2012-09-28 | 2020-12-03 | 삼성전자주식회사 | 다시점 영상 부호화/복호화 장치 및 방법 |
CN104104933B (zh) * | 2013-04-12 | 2016-12-28 | 浙江大学 | 一种视差矢量生成方法及装置 |
WO2015006922A1 (en) * | 2013-07-16 | 2015-01-22 | Mediatek Singapore Pte. Ltd. | Methods for residual prediction |
CN106105190B (zh) * | 2014-03-13 | 2018-11-13 | 高通股份有限公司 | 用于3d-hevc的简化高级残余预测 |
CN106464899A (zh) * | 2014-03-20 | 2017-02-22 | 日本电信电话株式会社 | 活动图像编码装置及方法和活动图像解码装置及方法 |
KR102298652B1 (ko) | 2015-01-27 | 2021-09-06 | 삼성전자주식회사 | 시차 결정 방법 및 장치 |
US10638130B1 (en) * | 2019-04-09 | 2020-04-28 | Google Llc | Entropy-inspired directional filtering for image coding |
CN112308887B (zh) * | 2020-09-30 | 2024-03-22 | 西北工业大学 | 一种多源图像序列实时配准方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6144701A (en) * | 1996-10-11 | 2000-11-07 | Sarnoff Corporation | Stereoscopic video coding and decoding apparatus and method |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08201941A (ja) * | 1995-01-12 | 1996-08-09 | Texas Instr Inc <Ti> | 3次元画像形成方法 |
JP3579162B2 (ja) | 1995-06-29 | 2004-10-20 | 松下電器産業株式会社 | 立体cg画像生成装置 |
US6005607A (en) * | 1995-06-29 | 1999-12-21 | Matsushita Electric Industrial Co., Ltd. | Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus |
US6055012A (en) | 1995-12-29 | 2000-04-25 | Lucent Technologies Inc. | Digital multi-view video compression with complexity and compatibility constraints |
US6163337A (en) * | 1996-04-05 | 2000-12-19 | Matsushita Electric Industrial Co., Ltd. | Multi-view point image transmission method and multi-view point image display method |
JP3733358B2 (ja) * | 1996-04-05 | 2006-01-11 | 松下電器産業株式会社 | 画像伝送装置、送信装置、受信装置、送信方法および受信方法 |
JPH1013860A (ja) | 1996-04-26 | 1998-01-16 | Victor Co Of Japan Ltd | 立体画像補間装置及びその方法 |
US7050646B2 (en) * | 1999-12-10 | 2006-05-23 | British Telecommunications Public Limited Company | Image processing system and method for image segmentation using intensity contrast and depth contrast values |
US6911995B2 (en) * | 2001-08-17 | 2005-06-28 | Mitsubishi Electric Research Labs, Inc. | Computer vision depth segmentation using virtual surface |
GB0125774D0 (en) * | 2001-10-26 | 2001-12-19 | Cableform Ltd | Method and apparatus for image matching |
KR100481732B1 (ko) * | 2002-04-20 | 2005-04-11 | 전자부품연구원 | 다 시점 동영상 부호화 장치 |
JP2004200814A (ja) | 2002-12-16 | 2004-07-15 | Sanyo Electric Co Ltd | 立体映像生成方法及び立体映像生成装置 |
US7373004B2 (en) * | 2003-05-23 | 2008-05-13 | Silicon Integrated Systems Corp. | Apparatus for constant quality rate control in video compression and target bit allocator thereof |
KR100524077B1 (ko) * | 2003-11-13 | 2005-10-26 | 삼성전자주식회사 | 중간 영상 합성을 위한 시간적 평활화 장치 및 방법 |
KR100517517B1 (ko) | 2004-02-20 | 2005-09-28 | 삼성전자주식회사 | 중간 시점 영상 합성 방법 및 그를 적용한 3d 디스플레이장치 |
JP4663792B2 (ja) | 2005-09-21 | 2011-04-06 | サムスン エレクトロニクス カンパニー リミテッド | 多視点動映像を符号化及び復号化する装置及び方法 |
MX2008003375A (es) | 2005-09-22 | 2008-03-27 | Samsung Electronics Co Ltd | Metodo para calcular vector de disparidad y metodo y aparato para codificar y descodificar pelicula de vision multiple utilizando el metodo de calculo de vector de disparidad. |
-
2006
- 2006-04-12 KR KR1020060033209A patent/KR101276720B1/ko not_active IP Right Cessation
- 2006-09-29 US US11/529,404 patent/US8542739B2/en not_active Expired - Fee Related
- 2006-09-29 JP JP2008533250A patent/JP5268645B2/ja not_active Expired - Fee Related
- 2006-09-29 CN CN2006800308321A patent/CN101248671B/zh not_active Expired - Fee Related
- 2006-09-29 MX MX2008003215A patent/MX2008003215A/es active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6144701A (en) * | 1996-10-11 | 2000-11-07 | Sarnoff Corporation | Stereoscopic video coding and decoding apparatus and method |
Also Published As
Publication number | Publication date |
---|---|
US20070071107A1 (en) | 2007-03-29 |
JP5268645B2 (ja) | 2013-08-21 |
KR20070036611A (ko) | 2007-04-03 |
US8542739B2 (en) | 2013-09-24 |
CN101248671A (zh) | 2008-08-20 |
JP2009510892A (ja) | 2009-03-12 |
KR101276720B1 (ko) | 2013-06-19 |
MX2008003215A (es) | 2008-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101248671B (zh) | 视差矢量估计方法以及对多视点画面编码和解码的设备 | |
CN101248669B (zh) | 对多视点视频编码和解码的设备和方法 | |
US8559515B2 (en) | Apparatus and method for encoding and decoding multi-view video | |
US8644386B2 (en) | Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method | |
US10021367B2 (en) | Method and apparatus of inter-view candidate derivation for three-dimensional video coding | |
CN104412597B (zh) | 用于3d视频编码的统一视差矢量推导的方法及装置 | |
CN114827626A (zh) | 子块解码器侧运动矢量细化 | |
CN101248670B (zh) | 视差矢量估计方法及对运动图像编码和解码的方法和设备 | |
EP2923491B1 (en) | Method and apparatus for bi-prediction of illumination compensation | |
US9621920B2 (en) | Method of three-dimensional and multiview video coding using a disparity vector | |
US20120189060A1 (en) | Apparatus and method for encoding and decoding motion information and disparity information | |
KR20110133532A (ko) | 다시점 영상 부호화, 복호화 방법 및 그 장치. | |
EP2904800A1 (en) | Method and apparatus of motion vector derivation 3d video coding | |
WO2007035054A1 (en) | Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method | |
CN101222627A (zh) | 一种多视点视频编解码系统以及预测向量的方法和装置 | |
US20130329800A1 (en) | Method of performing prediction for multiview video processing | |
WO2007037645A1 (en) | Method of estimating disparity vector using camera parameters, apparatus for encoding and decoding multi-view picture using the disparity vectors estimation method, and computer-redadable recording medium storing a program for executing the method | |
CN101242530B (zh) | 运动估计方法、基于运动估计的多视编解码方法及装置 | |
KR20110136014A (ko) | 다시점 깊이영상을 부호화/복호화 하는 장치 및 방법 | |
US20160198139A1 (en) | Method of Motion Information Prediction and Inheritance in Multi-View and Three-Dimensional Video Coding | |
CN105432084B (zh) | 用于三维视频编码的参考视图选择的方法 | |
KR20070098437A (ko) | 비디오 신호의 디코딩/인코딩 방법 및 장치 | |
Liu et al. | Multi-View Video Coding Based on Vector Estimation and Weighted Disparity Interpolation | |
KR20150050463A (ko) | Combined bi-predictive 후보 재사용시 발생할 수 있는 오류의 방지 방법 및 장치 | |
KR20130056803A (ko) | 칼라영상을 이용해서 다시점 깊이영상을 부호화/복호화 하는 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20100922 Termination date: 20210929 |
|
CF01 | Termination of patent right due to non-payment of annual fee |