CN101248671B - 视差矢量估计方法以及对多视点画面编码和解码的设备 - Google Patents

视差矢量估计方法以及对多视点画面编码和解码的设备 Download PDF

Info

Publication number
CN101248671B
CN101248671B CN2006800308321A CN200680030832A CN101248671B CN 101248671 B CN101248671 B CN 101248671B CN 2006800308321 A CN2006800308321 A CN 2006800308321A CN 200680030832 A CN200680030832 A CN 200680030832A CN 101248671 B CN101248671 B CN 101248671B
Authority
CN
China
Prior art keywords
view
frame
difference vector
many
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2006800308321A
Other languages
English (en)
Other versions
CN101248671A (zh
Inventor
河泰铉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority claimed from PCT/KR2006/003913 external-priority patent/WO2007037645A1/en
Publication of CN101248671A publication Critical patent/CN101248671A/zh
Application granted granted Critical
Publication of CN101248671B publication Critical patent/CN101248671B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

提供了一种视差矢量估计方法和设备,以使用所述视差矢量估计方法对多视点画面进行编码和解码。估计多视点画面的视差矢量的方法包括:确定两个具有与当前视点不同的视点的帧之间的视差矢量;使用确定的视差矢量和特定的平移参数来计算当前视点帧的视差矢量。

Description

视差矢量估计方法以及对多视点画面编码和解码的设备
技术领域
本发明涉及一种多视点画面(multi-view picture)编码和解码设备,更具体地讲,涉及一种对多视点画面快速编码并提高多视点运动画面的压缩率的视差矢量(disparity vector)估计方法以及一种使用所述视差矢量估计方法对多视点画面编码和解码的设备。
背景技术
最近,已经开发出与传统标准相比具有高编码效率的新的H.264画面编码视频编码标准。考虑到16×16与4×4之间的可变块大小、使用去块效应环路滤波器、多个参考帧、帧内预测和上下文自适应熵编码的用于运动补偿的四叉树结构,并且考虑到一般的双向(B)估计片(slice),新的H.264画面编码标准依赖于各种特性。与MPEG-2标准、MPEG-4 Part 2标准等不同,在使用从同一方向(前向或后向)获得的多预测时,B片可被称为不同的片(different slices)。然而,上述特性需要许多比特用于对包括估计模式、运动矢量和/或参考图像的运动信息进行编码。
为了克服该问题,可将跳跃模式(skip mode)和直接模式(direct mode)分别引入预测(P)片和B片。所述跳跃模式和直接模式允许使用先前编码的运动矢量信息对当前将被编码的画面的任意块进行运动估计。因此,块或宏块(MB)的附加的运动数据不被编码。使用相邻MB或画面的运动的空间(跳跃)或时间(直接)相关性来获得这些模式的运动。
图1是用于解释B画面的直接模式的示图。
在直接模式下,在估计当前将被编码的B画面的任意块的运动时,使用在时间上跟随P图像的共定位块(co-located block)的运动矢量获得前向运动矢量和后向运动矢量。
为了计算将在B画面110中估计其运动的直接模式块102的前向运动矢量MVL0和后向运动矢量MVL1,检测参考列表0图像130的运动矢量MV。运动矢量参考作为时间上跟随画面矢量的共定位块104的参考列表0图像130。共定位块104与当前B中直接模式块102的位置相同。因而,使用下面的等式1和等式2来计算B画面110的直接模式块102的前向运动矢量MVL0和后向运动矢量MVL1
MV → L 0 = TR B TR D × MV → - - - ( 1 )
MV → L 1 = ( TR B - TR D ) TR D × MV → - - - ( 2 )
其中,MV表示参考列表1画面120的共定位块104的运动矢量,TRD表示参考列表0画面130与参考列表1画面120之间的距离,TRB表示B画面110与参考列表0画面130之间的距离。
图2是用于解释在空间区域中估计运动矢量的方法的示图。
根据用于对运动画面数据编码的H.264标准,一帧被划分为多个块,每个块具有预定大小,对与被编码的相邻帧最类似的块执行运动搜索。即,当前宏块c的左宏块4、上中宏块2和上右宏块3的运动矢量的中值被确定为相应运动矢量的估计值。可用下面的等式3来表示所述运动矢量估计。
pmvx = MEDIAN ( mvx 2 , mvx 3 , mvx 4 ) pmvy = MEDIAN ( mvy 2 , mvy 3 , mvy 4 ) - - - ( 3 )
这样,已经提出使用空间相关性和时间相关性对运动画面编码的方法。然而,仍然需要一种提高具有与一般运动画面相比更重要的信息的多视点画面的压缩率和处理速度的方法。
发明内容
技术方案
本发明提供这样一种方法和设备,该方法和设备通过使用相机参数估计视差来对多视点画面编码,以提高多视点画面的压缩率并快速执行多视点画面的编码。
有益效果
根据本发明,一种视差矢量估计方法能够使用相机参数(具体地讲,平移(translation)参数)来提高多视点画面的压缩率并能够快速执行多视点画面的编码。
本发明提供一种使用利用相机参数的视差矢量估计方法的多视点画面编码和解码设备。
最佳方式
根据本发明的一方面,提供了一种估计多视点画面的视差矢量的方法,该方法包括:确定两个具有与当前视点不同的视点的帧之间的视差矢量;使用确定的视差矢量和特定的平移参数来计算当前视点帧的视差矢量。
根据本发明的另一方面,提供了一种多视点画面编码设备,该设备包括:信息确认单元,接收编码的多视点画面比特流,并确认指示包括在接收的多视点画面比特流中的视差矢量估计方法的信息;解码单元,基于确认的信息对编码的多视点画面进行解码,其中,解码单元包括空间直接模式执行单元,当确认的信息是空间直接模式估计时,空间直接模式执行单元使用两个具有与当前视点不同的视点的帧之间的视差矢量以及特定的平移参数来计算当前视点帧的视差矢量并估计视差。
附图说明
通过下面结合附图对示例性实施例进行的详细描述,本发明的上述和其它方面和特点将会变得更加清楚,其中:
图1是用于解释B画面的直接模式的示图;
图2是用于解释在空间区域中估计运动矢量的方法的示图;
图3是根据本发明示例性实施例的多视点运动画面编码设备的框图;
图4示出根据本发明示例性实施例的在通过相机设置拍摄的三个多视点画面中的相应点;
图5示出根据本发明示例性实施例的在纯平移相机设置中拍摄的三个多视点画面中的一个相应点;
图6A示出三个多视点相机拍摄的三个相邻画面;
图6B示出通过重叠图6A所示的三个相邻画面获得的两个画面;
图7是示出根据本发明示例性实施例的根据多视点相机之间的距离的相应点之间的相互关系的图解;
图8是示出根据本发明示例性实施例的搜索相应点的方法的图解;
图9是示出根据本发明示例性实施例的使用空间直接模式的视差矢量估计方法的流程图;
图10是根据本发明示例性实施例的执行空间直接模式估计的多视点画面编码设备的框图;
图11是根据本发明示例性实施例的执行空间直接模式估计的多视点画面解码设备的框图。
具体实施方式
下面将参照附图来详细描述本发明的示例性实施例。
图3是根据本发明示例性实施例的多视点运动画面编码设备的框图。
参照图3,多视点运动画面编码设备包括多视点图像缓冲器310、估计单元320、视差/运动补偿器330、残差图像编码器340和熵编码器350。
多视点运动画面编码设备接收从多个相机系统或者使用不同方法获得的多视点画面源。接收的多视点画面源被存储在多视点图像缓冲器310中。多视点图像缓冲器310将存储的多视点画面源数据提供给估计单元320和残差图像编码器340。
估计单元320包括视差估计器322和运动估计器324,用于对存储的多视点图像源执行视差估计和运动估计。
视差/运动补偿器330使用视差估计器322和运动估计器324估计的视差矢量和运动矢量执行视差和运动补偿。视差/运动补偿器330重构使用估计的运动和视差矢量获得的图像,并将重构的图像提供给残差图像编码器340。
残差图像编码器340对通过从多视点图像缓冲器310提供的原始图像中减去由视差/运动补偿器330补偿和重构的图像而获得的残差图像进行编码,并将编码的残差图像提供给熵编码器350。
熵编码器350接收估计单元320产生的估计的视差矢量和运动矢量,从残差图像编码器340接收编码的残差图像,并产生多视点视频源数据的比特流。
在图3所示的视差估计器322中,与用于运动估计和运动补偿的运动信息被用于诸如H.264和MPEG 2/4标准的传统编解码器的方式相同,视差信息用于视差补偿。与H.264标准中尝试减少运动信息和提高编码效率类似,必须尝试在多视点视频编码(MVC)中减少视差信息和提高编码效率。
图4示出根据本发明示例性实施例的在通过相机设置拍摄的三个多视点画面中的相应点。参照图4,当相应点被三个多视点相机拍摄时,相应点在画面1中被表示为X,在画面2中被表示为X’,在画面3中被表示为X”。
将基于如下假设对图4进行描述,即,X=(x,y,1)T是画面1中X-Y-Z坐标系统的3D空间中特定像素的画面点X的位置,x和y分别表示使用相对于z轴的值的x-y平面的x坐标和y坐标的归一化的值。画面2和3的相应点X’和X”分别被表示为等式4和5。
X′=K′R12K-1+K′t12/Z  (4)
X″=K″R13K-1X+K″t13/Z(5)
其中,K、K’和K”分别表示画面1、2和3的相机内部(intrinsic)参数,R12和R13分别表示画面2和3相对于画面1的相机旋转参数,t12和t13分别表示画面2和3相对于画面1的相机平移参数,Z表示相对于Z坐标的特定点的值。
图5示出根据本发明示例性实施例的在纯平移(pure-translation)相机设置中拍摄的多视点画面中的一个相应点。
如图5所示,在纯平移相机设置中三个多视点相机(即,具有相同的特有相机特性的三个多视点相机)拍摄的画面与特定对象平行地布置。在这种情况下,在等式4和5中,R=I(单位矩阵),K=K’=K”。
参照图5,X’和X”是对应于画面1中的X的点。在纯平移相机设置中,点X和X’的位置偏差对应于点X和X’之间的视差矢量dv1,点X’和X”的位置偏差对应于点X’和X”之间的视差矢量dv2,点X和X”的位置偏差对应于点X和X”之间的视差矢量dv3。在纯平移相机设置中,可用等式6、7和8来表示点X、X’和X”之间的相互关系。
X′=X+Kt12/Z(6)
X″=X+Kt13/Z
              (7)
X″=X′+Kt23/Z(8)
可从等式6和7导出等式9。
X ′ - X = t 12 t 13 ( X ′ ′ - X ) - - - ( 9 )
当t12、t13和X”-X(即,dv3)的值已知时,可使用等式9而非传统视差矢量搜索方法来获得值X’-X(即,dv1)。
可从等式6和8导出等式10。
X ′ ′ - X ′ = t 23 t 12 ( X ′ - X ) - - - ( 10 )
当t12、t23和X’-X(即,dv1)的值已知时,可使用等式10而非传统视差矢量搜索方法来获得值X”-X’(即,dv2)。
因此,当纯平移存在而且在多视点相机设置中已知相机平移参数的值时,可使用当前编码帧的点X’与第二参考帧的相应点X之间的视差矢量来估计当前编码帧的点X’与第一参考帧的相应点X”之间的视差矢量。
可以按照与纯平移多视点相机设置不同的方式来设置多视点相机。然而,尽管按照不同于纯平移多视点相机设置的方式的多视点相机设置拍摄多视点画面,但是就执行校正处理以作为前处理或后处理编码多视点画面而言,多视点相机与纯平移多视点相机设置具有相同的条件。因此,由于可以按照纯平移多视点相机设置来估计视差矢量,所以有必要使用对应于平移的相机参数来对多视点画面进行编码。
图6A示出三个多视点相机拍摄的三个相邻画面,图6B示出通过重叠图6A所示的三个相邻画面而获得的两个画面。
参照图6A,在三个多视点相机中,画面601由左多视点相机在第一视点处拍摄,画面602由中间多视点相机在第二视点处拍摄,画面603由右多视点相机在第三视点处拍摄。X1表示在第一视点处画面601的特定块MB1与左侧之间的距离。X2表示在第二视点处画面602的块MB2与左侧之间的距离,块MB2对应于画面601的特定块MB1。X3表示在第三视点处画面603的块MB3与左侧之间的距离,块MB3对应于画面601的特定块MB1。
参照图6B,通过重叠第一视点处的画面601和第二视点处的画面602获得画面611,通过重叠第二视点处的画面602与第三视点处的画面603获得画面612。画面611的X12表示第一视点处的画面601的块MB1与第二视点处的画面602的块MB2之间的视差,画面612的X23表示第二视点处的画面602的块MB2与第三视点处的画面603的块MB3之间的视差。即,X12=X1-X2,X23=X2-X3。当三个多视点相机被布置为平行地隔开相等距离时,视差X12和X23彼此相同。如图7所示,概括了这种情况。
图7是示出根据本发明示例性实施例的根据多视点相机之间的距离的相应点之间的相互关系的图解。参照图7,cd1表示两个视点n-1和n之间的多视点相机的距离,cd2表示两个视点n和n+1之间的多视点相机的距离。dv1表示两个视点n-1和n之间的特定的相应块或点的视差矢量,dv2表示两个视点n和n+1之间的特定的相应块或点的视差矢量。
当dv1和dv2在一条直线上时,获得等式11。
dv2=dv1×cd2/cd1(11)
因此,当预先已知或估计出dv1、cd1和cd2时,可使用dv1、cd1和cd2而非传统的估计方法来计算dv2。此外,图7和等式11示出:如果cd1=cd2,则dv2=dv1。cd2/cd1的值对应于平移参数。
图8是示出根据本发明示例性实施例的搜索相应点的方法的图解。
如参照图7所述,难以搜索可使用等式8计算其视差矢量的相应块或点。然而,与将被估计的当前块相邻的块的视差矢量与当前块的视差矢量类似,从而图7所示的图解可被修改为图8所示的图解。
参照图8,cd3表示两个视点n-1和n之间的多视点相机的距离,cd4表示两个视点n和n+1之间的多视点相机的距离,dv3表示两个视点n-1和n之间的特定的相应块或点的视差矢量,dv4表示两个视点n和n+1之间的当前块的视差矢量。
在本发明的当前示例性实施例中,可使用在视点n处当前块的共定位块与在视点n-1处的视点n处的共定位块的相应块之间的视差矢量dv3来估计dv4。因此,可通过使用类似于等式11的等式12来计算当前块的视差矢量。
dv4=dv3×cd4/cd3(12)
cd4/cd3的值对应于平移参数。已参照图7和图8描述了在视点n-1、n和n+1处的画面的视差矢量之间的相互关系。然而,等式11和12不仅可以使用在相邻画面中,而且可以使用在彼此隔开特定间距的画面中。在本发明的当前示例性实施例中,视差矢量估计方法被称为空间直接模式估计。
图9是示出根据本发明示例性实施例的使用空间直接模式估计的视差矢量估计方法的流程图。参照图9,确定两个具有与当前视点不同的视点的帧之间的视差矢量(操作910)。使用确定的视差矢量和特定平移参数来计算当前视点帧的视差矢量(操作920)。
更具体地讲,例如,当两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧而且当前视点帧的视差矢量为dv2时,使用等式11来计算dv2,即,dv2=dv1×cd2/cd1。dv1表示两个帧(即,第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块)之间的视差矢量。dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量。此外,如上所述,cd1表示分别拍摄第一视点帧和第二视点帧的两个相机之间的距离,cd2表示分别拍摄第二视点帧和当前视点帧的两个相机之间的距离,cd2/cd1是对应于平移参数的值。
基于与将被估计的当前块相邻的块的视差矢量类似于当前块的视差矢量的事实,当两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,而且当前视点帧的视差矢量是可使用等式12计算的dv4(即,dv4=dv3×cd4/cd3)时,可使用当前示例性实施例的视差矢量估计方法。
dv3表示两个帧(即,第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块)之间的视差矢量。dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块。第二块是当前视点帧中第一块的共定位块,并且是图8所描述的当前块。因而,dv4表示第二视点帧与当前视点帧之间的第一块的共定位的第二块的视差矢量。此外,如上所述,cd3表示分别拍摄第一视点帧和第二视点帧的两个相机之间的距离,cd4表示分别拍摄第二视点帧和当前视点帧的两个相机之间的距离,cd4/cd3是对应于平移参数的值。
在当前示例性实施例中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。平移参数是与多视点相机之间的距离有关的值(如cd2/cd1或cd4/cd3),并且可从多视点相机系统发送。
多视点画面编码设备和多视点画面解码设备分别执行当前示例性实施例的空间直接模式估计。当多视点画面编码设备使用空间直接模式估计时,不是所有视差矢量都需要在多视点画面编码设备中被编码。此外,多视点画面解码设备可根据空间直接模式估计使用视差矢量估计方法确定视差矢量,从而可有效地执行多视点画面编码和解码。
图10是根据本发明示例性实施例的执行空间直接模式估计的多视点画面编码设备的框图。
参照图10,接收至少三个多视点画面并对所述多视点画面编码的多视点画面编码设备包括多视点画面输入单元1010和编码单元1020。
多视点画面输入单元1010从包括多个相机的多视点相机系统接收三个多视点画面和特定的相机参数。编码单元1020产生包括多视点画面和特定相机参数的编码的多视点画面比特流。
编码单元1020包括在估计视差矢量时执行空间直接模式估计的空间直接模式执行单元1021。当特定的相机参数是平移参数时,空间直接模式执行单元1021使用空间直接模式估计来估计视差矢量,所述空间直接模式估计使用两个具有与当前视点不同的视点的帧的视差矢量和平移参数来计算当前视点帧的视差矢量。
参照图9描述了空间直接模式执行单元1021的操作。空间直接模式执行单元1021可使用等式11或12来计算视差矢量。
编码单元1020设置指示用于对三个多视点画面进行编码的视差矢量估计方法的信息,并发送多视点画面比特流。当编码单元1020使用与发送的平移参数相同的值对多视点画面编码时,编码单元1020还设置指示平移矩阵(translation matrix)没有改变的信息,并发送多视点画面比特流。因此,本发明的多视点画面编码设备不需要再次发送先前发送的平移参数,这增加了多视点画面的编码效率。指示视差矢量估计方法的信息或者指示平移矩阵没有改变的信息可以被设置为包括在多视点画面比特流中的标志信息。
本发明的多视点画面编码设备可执行传统的多视点画面编码方法和执行空间直接模式估计的多视点画面编码方法,选择二者中多视点画面编码效率高的一种,并对多视点画面编码。
图11是根据本发明示例性实施例的执行空间直接模式估计的多视点画面解码设备的框图。
参照图11,多视点画面解码设备包括信息确认单元1110和解码单元1120。信息确认单元1110接收编码的多视点画面比特流,并确认包括在接收的多视点画面比特流中的指示视差矢量估计方法的信息。解码单元1120基于确认的信息对编码的多视点画面进行解码。
解码单元1120包括执行空间直接模式估计并确定视差矢量的空间直接模式执行单元1121。当确认的关于视差矢量估计方法的信息是空间直接模式估计时,空间直接模式执行单元1121使用两个具有与当前视点不同的视点的帧之间的视差矢量以及特定的平移参数来计算当前视点帧的视差矢量,从而确定视差。
参照图9描述了空间直接模式执行单元1121的操作。空间直接模式执行单元1121可使用等式11或12来计算视差矢量。
平移参数是与多视点相机之间的距离有关的值,并从多视点画面编码设备被发送。当多视点画面编码设备不发送平移参数而是发送指示先前接收的平移参数没有改变的信息时,解码单元1120可使用先前接收的平移参数对多视点画面进行解码。
本发明还可被实施为计算机可读记录介质上的计算机可读代码。所述计算机可读记录介质是可存储其后能由计算机系统读取的数据的任何数据存储装置。计算机可读记录介质的示例包括只读存储器(ROM)、随机存取存储器(RAM)、CD-ROM、磁带、软盘、光学数据存储装置和载波(诸如通过互联网的数据传输)。计算机可读记录介质还可以分布在联网的计算机系统上,从而计算机可读代码以分布式方式被存储和执行。
根据本发明,视差矢量估计方法可使用相机参数(具体地讲,平移参数)来提高多视点画面的压缩率,并可快速执行多视点画面的编码。
本发明提供使用利用相机参数的视差矢量估计方法的多视点画面编码和解码设备。
尽管参照本发明的示例性实施例具体示出和描述了本发明,但是本领域普通技术人员应该理解,在不脱离权利要求所限定的本发明的精神和范围的情况下,可以对其进行形式和细节的各种改变。

Claims (14)

1.一种估计多视点画面的视差矢量的方法,该方法包括:
确定两个具有与当前视点不同的视点的帧之间的视差矢量;
使用所述两个帧之间的视差矢量和平移参数来计算当前视点帧的视差矢量,
其中,平移参数是与多个相机之间的距离有关的值,并从包括所述多个相机的多视点相机系统被发送。
2.如权利要求1所述的方法,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
3.如权利要求1所述的方法,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
4.如权利要求2或3所述的方法,其中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。
5.一种多视点画面编码设备,包括:
多视点画面输入单元,接收多视点画面和平移参数;
编码单元,产生包括多视点画面和平移参数的编码的多视点画面比特流,
其中,编码单元包括使用空间直接模式估计来估计视差的空间直接模式执行单元,所述空间直接模式估计使用两个具有与当前视点不同的视点的帧之间的视差矢量和平移参数来计算当前视点帧的视差矢量,
其中,平移参数是与多个相机之间的距离有关的值,并从包括所述多个相机的多视点相机系统被发送。
6.如权利要求5所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
7.如权利要求5所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
8.如权利要求6或7所述的设备,其中,第一视点帧、第二视点帧和当前视点帧是分别由被顺序平行布置的第一相机、第二相机和第三相机拍摄的图像。
9.如权利要求5所述的设备,其中,编码单元设置包括用于对多视点画面进行编码的视差矢量估计方法的信息,并发送多视点画面比特流。
10.如权利要求9所述的设备,其中,当编码单元使用与发送的平移参数相同的值对多视点画面进行编码时,编码单元还设置指示平移矩阵没有改变的信息,并发送多视点画面比特流。
11.一种多视点画面解码设备,包括:
信息确认单元,接收编码的多视点画面比特流,并确认包括在接收的多视点画面比特流中的指示视差矢量估计方法的信息;
解码单元,基于确认的信息对编码的多视点画面进行解码,
其中,解码单元包括空间直接模式执行单元,如果确认的信息是空间直接模式估计,则空间直接模式执行单元使用两个具有与当前视点不同的视点的帧之间的视差矢量以及平移参数来计算当前视点帧的视差矢量并估计视差,
其中,平移参数是与多视点相机之间的距离有关的值,并从多视点画面编码设备被发送。
12.如权利要求11所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv2=dv1×cd2/cd1计算的dv2,其中,dv1表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv2表示第二视点帧的第一块与当前视点帧的对应于所述第一块的第二块之间的视差矢量,cd2/cd1是对应于平移参数的值。
13.如权利要求11所述的设备,其中,所述两个具有与当前视点不同的视点的帧是第一视点帧和第二视点帧,当前视点帧的视差矢量是空间直接模式执行单元使用dv4=dv3×cd4/cd3计算的dv4,其中,dv3表示使用第一视点帧的特定块与第二视点帧的对应于所述特定块的第一块计算的两个帧之间的视差矢量,dv4表示当前视点帧中的第二块的视差矢量,所述第二块是第二视点帧中的第一块的共定位块,cd4/cd3是对应于平移参数的值。
14.如权利要求11所述的设备,其中,当没有从多视点画面编码设备接收到平移参数而是接收到指示先前接收的平移参数没有改变的信息时,解码单元使用先前接收的平移参数对多视点画面进行解码。
CN2006800308321A 2005-09-29 2006-09-29 视差矢量估计方法以及对多视点画面编码和解码的设备 Expired - Fee Related CN101248671B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US72157805P 2005-09-29 2005-09-29
US60/721,578 2005-09-29
KR1020060033209 2006-04-12
KR1020060033209A KR101276720B1 (ko) 2005-09-29 2006-04-12 카메라 파라미터를 이용하여 시차 벡터를 예측하는 방법,그 방법을 이용하여 다시점 영상을 부호화 및 복호화하는장치 및 이를 수행하기 위한 프로그램이 기록된 기록 매체
KR10-2006-0033209 2006-04-12
PCT/KR2006/003913 WO2007037645A1 (en) 2005-09-29 2006-09-29 Method of estimating disparity vector using camera parameters, apparatus for encoding and decoding multi-view picture using the disparity vectors estimation method, and computer-redadable recording medium storing a program for executing the method

Publications (2)

Publication Number Publication Date
CN101248671A CN101248671A (zh) 2008-08-20
CN101248671B true CN101248671B (zh) 2010-09-22

Family

ID=38158745

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2006800308321A Expired - Fee Related CN101248671B (zh) 2005-09-29 2006-09-29 视差矢量估计方法以及对多视点画面编码和解码的设备

Country Status (5)

Country Link
US (1) US8542739B2 (zh)
JP (1) JP5268645B2 (zh)
KR (1) KR101276720B1 (zh)
CN (1) CN101248671B (zh)
MX (1) MX2008003215A (zh)

Families Citing this family (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI239474B (en) * 2004-07-28 2005-09-11 Novatek Microelectronics Corp Circuit for counting sum of absolute difference
TWI295540B (en) * 2005-06-15 2008-04-01 Novatek Microelectronics Corp Motion estimation circuit and operating method thereof
TWI296091B (en) * 2005-11-15 2008-04-21 Novatek Microelectronics Corp Motion estimation circuit and motion estimation processing element
US7903737B2 (en) * 2005-11-30 2011-03-08 Mitsubishi Electric Research Laboratories, Inc. Method and system for randomly accessing multiview videos with known prediction dependency
US20070177671A1 (en) * 2006-01-12 2007-08-02 Lg Electronics Inc. Processing multiview video
KR100943914B1 (ko) 2006-01-12 2010-03-03 엘지전자 주식회사 다시점 비디오의 처리 방법 및 장치
KR101276847B1 (ko) 2006-01-12 2013-06-18 엘지전자 주식회사 다시점 비디오의 처리
US20070217515A1 (en) * 2006-03-15 2007-09-20 Yu-Jen Wang Method for determining a search pattern for motion estimation
CN101491096B (zh) * 2006-07-12 2012-05-30 Lg电子株式会社 信号处理方法及其装置
KR101023262B1 (ko) * 2006-09-20 2011-03-21 니폰덴신뎅와 가부시키가이샤 화상 부호화 방법 및 복호 방법, 이들의 장치 및 이들의 프로그램과 프로그램을 기록한 기억매체
JP4999853B2 (ja) * 2006-09-20 2012-08-15 日本電信電話株式会社 画像符号化方法及び復号方法、それらの装置、及びそれらのプログラム並びにプログラムを記録した記憶媒体
US8923399B2 (en) * 2007-01-24 2014-12-30 Lg Electronics Inc. Method and an apparatus for processing a video signal
CN101690231A (zh) * 2007-06-28 2010-03-31 汤姆森特许公司 多视图编码视频的单环解码
US20090060043A1 (en) * 2007-08-29 2009-03-05 Geert Nuyttens Multiviewer based on merging of output streams of spatio scalable codecs in a compressed domain
JP5627860B2 (ja) * 2009-04-27 2014-11-19 三菱電機株式会社 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置
KR101483750B1 (ko) * 2009-07-24 2015-01-19 삼성전자주식회사 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치
CN102884793B (zh) * 2010-02-09 2016-03-23 日本电信电话株式会社 运动向量预测编码方法、运动向量预测解码方法、活动图像编码装置及活动图像解码装置
CA2788946A1 (en) 2010-02-09 2011-08-18 Nippon Telegraph And Telephone Corporation Motion vector predictive encoding method, motion vector predictive decoding method, moving picture encoding apparatus, moving picture decoding apparatus, and programs thereof
JP5367098B2 (ja) 2010-02-09 2013-12-11 日本電信電話株式会社 動きベクトル予測符号化方法,動きベクトル予測復号方法,動画像符号化装置,動画像復号装置およびそれらのプログラム
JP5645450B2 (ja) * 2010-04-16 2014-12-24 キヤノン株式会社 画像処理装置および方法
KR101950419B1 (ko) 2010-11-24 2019-02-21 벨로스 미디어 인터내셔널 리미티드 움직임 벡터 산출 방법, 화상 부호화 방법, 화상 복호 방법, 움직임 벡터 산출 장치 및 화상 부호화 복호 장치
HU1000640D0 (en) * 2010-11-29 2011-02-28 Holografika Hologrameloeallito Fejlesztoe Es Forgalmazo Kft Image coding and decoding method and apparatus for efficient encoding and decoding of 3d field content
KR101852811B1 (ko) * 2011-01-05 2018-04-27 엘지전자 주식회사 영상표시 장치 및 그 제어방법
CN106851306B (zh) 2011-01-12 2020-08-04 太阳专利托管公司 动态图像解码方法和动态图像解码装置
WO2012108315A1 (ja) * 2011-02-07 2012-08-16 シャープ株式会社 予測情報生成方法、画像符号化方法、画像復号方法、予測情報生成装置、予測情報生成プログラム、画像符号化装置、画像符号化プログラム、画像復号装置および画像復号プログラム
KR20120095610A (ko) * 2011-02-21 2012-08-29 삼성전자주식회사 다시점 비디오의 부호화 방법 및 장치, 그 복호화 방법 및 장치
JP6108309B2 (ja) 2011-02-22 2017-04-05 サン パテント トラスト 動画像符号化方法、動画像符号化装置、動画像復号方法、および、動画像復号装置
MX2013009864A (es) 2011-03-03 2013-10-25 Panasonic Corp Metodo de codificacion de imagenes en movimiento, metodo de decodificacion de imagenes en movimiento, aparato de codificacion de imagenes en movimiento, aparato de decodificacion de imagenes en movimiento y aparato de codificacion y decodificacion de imagenes en movimiento.
US9247249B2 (en) 2011-04-20 2016-01-26 Qualcomm Incorporated Motion vector prediction in video coding
JP2013034171A (ja) * 2011-06-30 2013-02-14 Sony Corp 画像処理装置および方法
WO2013002342A1 (ja) * 2011-06-30 2013-01-03 ソニー株式会社 画像処理装置および方法
JP2014524706A (ja) * 2011-08-19 2014-09-22 テレフオンアクチーボラゲット エル エム エリクソン(パブル) 動きベクトル処理
WO2013108613A1 (ja) * 2012-01-17 2013-07-25 パナソニック株式会社 動画像符号化方法、動画像復号化方法、動画像符号化装置、動画像復号化装置および動画像符号化復号化装置
US9560353B2 (en) * 2012-01-27 2017-01-31 Sun Patent Trust Video encoding method, video encoding device, video decoding method and video decoding device
WO2013133587A1 (ko) * 2012-03-07 2013-09-12 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
US9525861B2 (en) * 2012-03-14 2016-12-20 Qualcomm Incorporated Disparity vector prediction in video coding
US9445076B2 (en) * 2012-03-14 2016-09-13 Qualcomm Incorporated Disparity vector construction method for 3D-HEVC
US10200709B2 (en) 2012-03-16 2019-02-05 Qualcomm Incorporated High-level syntax extensions for high efficiency video coding
US9503720B2 (en) 2012-03-16 2016-11-22 Qualcomm Incorporated Motion vector coding and bi-prediction in HEVC and its extensions
US9549180B2 (en) 2012-04-20 2017-01-17 Qualcomm Incorporated Disparity vector generation for inter-view prediction for video coding
US20130336405A1 (en) * 2012-06-15 2013-12-19 Qualcomm Incorporated Disparity vector selection in video coding
KR102186605B1 (ko) 2012-09-28 2020-12-03 삼성전자주식회사 다시점 영상 부호화/복호화 장치 및 방법
CN104104933B (zh) * 2013-04-12 2016-12-28 浙江大学 一种视差矢量生成方法及装置
WO2015006922A1 (en) * 2013-07-16 2015-01-22 Mediatek Singapore Pte. Ltd. Methods for residual prediction
CN106105190B (zh) * 2014-03-13 2018-11-13 高通股份有限公司 用于3d-hevc的简化高级残余预测
CN106464899A (zh) * 2014-03-20 2017-02-22 日本电信电话株式会社 活动图像编码装置及方法和活动图像解码装置及方法
KR102298652B1 (ko) 2015-01-27 2021-09-06 삼성전자주식회사 시차 결정 방법 및 장치
US10638130B1 (en) * 2019-04-09 2020-04-28 Google Llc Entropy-inspired directional filtering for image coding
CN112308887B (zh) * 2020-09-30 2024-03-22 西北工业大学 一种多源图像序列实时配准方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6144701A (en) * 1996-10-11 2000-11-07 Sarnoff Corporation Stereoscopic video coding and decoding apparatus and method

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08201941A (ja) * 1995-01-12 1996-08-09 Texas Instr Inc <Ti> 3次元画像形成方法
JP3579162B2 (ja) 1995-06-29 2004-10-20 松下電器産業株式会社 立体cg画像生成装置
US6005607A (en) * 1995-06-29 1999-12-21 Matsushita Electric Industrial Co., Ltd. Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus
US6055012A (en) 1995-12-29 2000-04-25 Lucent Technologies Inc. Digital multi-view video compression with complexity and compatibility constraints
US6163337A (en) * 1996-04-05 2000-12-19 Matsushita Electric Industrial Co., Ltd. Multi-view point image transmission method and multi-view point image display method
JP3733358B2 (ja) * 1996-04-05 2006-01-11 松下電器産業株式会社 画像伝送装置、送信装置、受信装置、送信方法および受信方法
JPH1013860A (ja) 1996-04-26 1998-01-16 Victor Co Of Japan Ltd 立体画像補間装置及びその方法
US7050646B2 (en) * 1999-12-10 2006-05-23 British Telecommunications Public Limited Company Image processing system and method for image segmentation using intensity contrast and depth contrast values
US6911995B2 (en) * 2001-08-17 2005-06-28 Mitsubishi Electric Research Labs, Inc. Computer vision depth segmentation using virtual surface
GB0125774D0 (en) * 2001-10-26 2001-12-19 Cableform Ltd Method and apparatus for image matching
KR100481732B1 (ko) * 2002-04-20 2005-04-11 전자부품연구원 다 시점 동영상 부호화 장치
JP2004200814A (ja) 2002-12-16 2004-07-15 Sanyo Electric Co Ltd 立体映像生成方法及び立体映像生成装置
US7373004B2 (en) * 2003-05-23 2008-05-13 Silicon Integrated Systems Corp. Apparatus for constant quality rate control in video compression and target bit allocator thereof
KR100524077B1 (ko) * 2003-11-13 2005-10-26 삼성전자주식회사 중간 영상 합성을 위한 시간적 평활화 장치 및 방법
KR100517517B1 (ko) 2004-02-20 2005-09-28 삼성전자주식회사 중간 시점 영상 합성 방법 및 그를 적용한 3d 디스플레이장치
JP4663792B2 (ja) 2005-09-21 2011-04-06 サムスン エレクトロニクス カンパニー リミテッド 多視点動映像を符号化及び復号化する装置及び方法
MX2008003375A (es) 2005-09-22 2008-03-27 Samsung Electronics Co Ltd Metodo para calcular vector de disparidad y metodo y aparato para codificar y descodificar pelicula de vision multiple utilizando el metodo de calculo de vector de disparidad.

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6144701A (en) * 1996-10-11 2000-11-07 Sarnoff Corporation Stereoscopic video coding and decoding apparatus and method

Also Published As

Publication number Publication date
US20070071107A1 (en) 2007-03-29
JP5268645B2 (ja) 2013-08-21
KR20070036611A (ko) 2007-04-03
US8542739B2 (en) 2013-09-24
CN101248671A (zh) 2008-08-20
JP2009510892A (ja) 2009-03-12
KR101276720B1 (ko) 2013-06-19
MX2008003215A (es) 2008-03-25

Similar Documents

Publication Publication Date Title
CN101248671B (zh) 视差矢量估计方法以及对多视点画面编码和解码的设备
CN101248669B (zh) 对多视点视频编码和解码的设备和方法
US8559515B2 (en) Apparatus and method for encoding and decoding multi-view video
US8644386B2 (en) Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method
US10021367B2 (en) Method and apparatus of inter-view candidate derivation for three-dimensional video coding
CN104412597B (zh) 用于3d视频编码的统一视差矢量推导的方法及装置
CN114827626A (zh) 子块解码器侧运动矢量细化
CN101248670B (zh) 视差矢量估计方法及对运动图像编码和解码的方法和设备
EP2923491B1 (en) Method and apparatus for bi-prediction of illumination compensation
US9621920B2 (en) Method of three-dimensional and multiview video coding using a disparity vector
US20120189060A1 (en) Apparatus and method for encoding and decoding motion information and disparity information
KR20110133532A (ko) 다시점 영상 부호화, 복호화 방법 및 그 장치.
EP2904800A1 (en) Method and apparatus of motion vector derivation 3d video coding
WO2007035054A1 (en) Method of estimating disparity vector, and method and apparatus for encoding and decoding multi-view moving picture using the disparity vector estimation method
CN101222627A (zh) 一种多视点视频编解码系统以及预测向量的方法和装置
US20130329800A1 (en) Method of performing prediction for multiview video processing
WO2007037645A1 (en) Method of estimating disparity vector using camera parameters, apparatus for encoding and decoding multi-view picture using the disparity vectors estimation method, and computer-redadable recording medium storing a program for executing the method
CN101242530B (zh) 运动估计方法、基于运动估计的多视编解码方法及装置
KR20110136014A (ko) 다시점 깊이영상을 부호화/복호화 하는 장치 및 방법
US20160198139A1 (en) Method of Motion Information Prediction and Inheritance in Multi-View and Three-Dimensional Video Coding
CN105432084B (zh) 用于三维视频编码的参考视图选择的方法
KR20070098437A (ko) 비디오 신호의 디코딩/인코딩 방법 및 장치
Liu et al. Multi-View Video Coding Based on Vector Estimation and Weighted Disparity Interpolation
KR20150050463A (ko) Combined bi-predictive 후보 재사용시 발생할 수 있는 오류의 방지 방법 및 장치
KR20130056803A (ko) 칼라영상을 이용해서 다시점 깊이영상을 부호화/복호화 하는 장치 및 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100922

Termination date: 20210929

CF01 Termination of patent right due to non-payment of annual fee