CN1913640A - 多模式多视点视频信号编码压缩方法 - Google Patents

多模式多视点视频信号编码压缩方法 Download PDF

Info

Publication number
CN1913640A
CN1913640A CN 200610052895 CN200610052895A CN1913640A CN 1913640 A CN1913640 A CN 1913640A CN 200610052895 CN200610052895 CN 200610052895 CN 200610052895 A CN200610052895 A CN 200610052895A CN 1913640 A CN1913640 A CN 1913640A
Authority
CN
China
Prior art keywords
correlation
viewpoint
video signal
mode
predictive coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN 200610052895
Other languages
English (en)
Other versions
CN100415002C (zh
Inventor
蒋刚毅
郁梅
张云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai spparks Technology Co.,Ltd.
Original Assignee
Ningbo University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo University filed Critical Ningbo University
Priority to CNB2006100528959A priority Critical patent/CN100415002C/zh
Publication of CN1913640A publication Critical patent/CN1913640A/zh
Application granted granted Critical
Publication of CN100415002C publication Critical patent/CN100415002C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种多模式多视点视频编码方法,通过对多视点视频信号时间相关性及视点间相关性分析、以及系统对多视点视频编码的压缩效率、编码复杂度、随机访问性能、编码延时等综合性能的要求,自适应地从候选预测编码模式中动态选择适合当前编码的多视点视频信号特点以及多视点视频编码综合性能要求的预测编码模式对多视点视频信号进行编码,以取代单一模式的、计算复杂的联合时间与空间预测的多参考帧多视点视频预测编码方法,降低多视点视频信号编码压缩的计算复杂度,同时保证编码压缩效率,提高随机访问性能。

Description

多模式多视点视频信号编码压缩方法
技术领域
本发明涉及多视点视频信号的编码压缩方法,尤其是涉及基于多视点视频信号的时间相关性与视点间相关性分析的多模式多视点视频信号编码压缩方法。
背景技术
3DAV(三维音视频)是新一代音视频技术的发展方向。作为FTV(自由视点电视)、3DTV(三维电视)等3DAV应用中的核心技术,多视点视频编码技术旨在解决3D交互式视频的压缩、交互、存储和传输等问题。多视点视频信号是由相机阵列对实际场景进行拍摄得到的一组视频信号,它能提供拍摄场景不同角度的视频图像信息,利用其中的一个或多个视点信息可以合成任意视点的信息,达到自由切换视点的目的。多视点视频是一种具有立体感和交互操作功能的新型视频,将在面向宽带与高密度存储介质的交互式多媒体应用领域(如数字娱乐、远程监控、远程教育等)有广泛的应用前景。图1是目前常用的多视点视频系统的示意图,这种系统可以进行多视点视频信号的成像、编码压缩、传输、接收、解码、显示等,而其中多视点视频信号的编码压缩是整个系统的核心部分。
多视点视频信号存在着数据量巨大、不利于网络传输和存储,以及系统资源消耗(高计算复杂度、高存储容量要求、高功耗等)、用户端随机访问(包括快进、快退、视点切换和观看时刻冻结、视点滑动等观看访问方式)等问题。因此,如何提高多视点视频信号编码的压缩效率、降低系统的资源消耗,使系统具有灵活的随机访问、部分解码与绘制等性能,已成为目前国际上多视点视频编码方法与标准制定研究中所追求的目标,也成为研究热点。
利用多视点视频信号的时间相关性、视点间的相关性,采用运动补偿预测、视差补偿预测是进行多视点视频信号编码压缩的基本思路。多视点视频信号的时间相关性、视点间相关性随成像系统的相机密度、光照变化、相机及对象运动等因素变化而变化。当相机密集、各视点成像强度一致时,多视点视频信号的视点间相关性强;当相机较稀疏、各视点成像强度不一致时,多视点视频信号的时间相关性则相对较强、而视点间相关性较弱。此外,相机及对象运动对多视点视频信号的相关性也产生影响。因此,如果采用具有单一预测结构模式的多视点视频编码框架对具有不同相关性特点的多视点视频信号进行编码,将导致其要么采用非常复杂的多参考帧预测模式以保证高编码压缩效率,但造成编码器计算复杂度和空间复杂度的成倍上升、随机访问性能下降、编码延时增加;要么采用相对简单的预测结构,但编码器难以充分利用多视点视频信号的时间相关性和视点间相关性,从而制约编码压缩效率的提高。
由于不同相机密度、光照变化、相机及对象运动等因素的影响,导致多视点视频信号在其时间上、视点间表现出不同的内容关联统计特性。多视点视频信号的这种复杂的时间上及视点间的内容关联特性,使得现有单一结构的多视点视频编码方案不能很好适应于内容关联特性复杂多变的多视点视频信号的压缩,难以获得综合性能(编码压缩效率、随机访问、系统资源消耗、部分解码与绘制、编码延时等)有效的压缩效果,这也是现有多视点视频编码方法普遍存在的一个重要问题。
发明内容
本发明所要解决的技术问题是提供一种多视点视频信号编码压缩方法,在降低编码复杂度的同时,提高多视点视频编码压缩的综合性能。
本发明解决上述技术问题所采用的技术方案如下:一种多模式多视点视频信号编码压缩方法,将编码器设置成多视点视频预测编码模块、相关性统计分析模块、预测模式选择模块和模式更新触发模块四个功能模块,对输入的多视点视频信号,在编码初始时,可以先根据已知信息,如相机阵列参数、编码复杂度要求、随机访问性能要求等,确定初始预测编码模式,由所述的多视点视频预测编码模块进行编码,然后按以下步骤进行编码:①由所述的预测模式选择模块根据所述的相关性统计分析模块统计分析得到的多视点视频信号相关性特征以及对多视点视频编码的压缩效率、编码复杂度、随机访问性能、编码延时几项综合性能的要求,从候选预测编码模式中动态选择确定适合当前正在编码的多视点视频信号特点的预测编码模式;②由所述的多视点视频预测编码模块以该选定的预测编码模式对输入的多视点视频信号进行编码后输出编码压缩后的码流信号;③当所述的模式更新触发模块中的模式更新触发条件未满足时,保持当前的预测编码模式,当所述的模式更新触发模块中的模式更新触发条件满足时重新开启所述的相关性统计分析模块,以选择更新预测编码模式。
所述的候选预测编码模式可以分为三大类,第1类为适用于以时间相关性为主的多视点视频信号的预测编码模式,该类预测编码模式以运动补偿预测为主;第2类为适用于以视点间相关性为主的多视点视频信号的预测编码模式,该类预测编码模式以视差补偿预测为主;第3类为适用于时间相关性和视点间相关性均衡的多视点视频信号的预测编码模式,该类预测编码模式为兼顾时、空域的联合预测编码模式。上述三大类预测编码模式中的每一类又可由若干个预测编码模式组成,分别适用于具有不同相关性特点的多视点视频信号编码,以及对多视点视频编码综合性能的不同要求(如编码复杂度、编码压缩效率、随机访问性能、编码延时等)。
所述的相关性统计分析模块的统计分析是对已编码或正在编码的图像组GOP(Group of picture)的时间相关性与视点间相关性进行统计分析,并定义相关性系数α用于表征得到的视频信号的时间相关性与视点间相关性的强弱对比。
在所述的相关性统计分析模块中,可以对已编码或正在编码的图像组中仅采用视差补偿预测进行编码的图像帧中的帧内编码块的数量ni D和仅采用运动补偿预测进行编码的图像帧中帧内编码块的数量ni P进行统计,以ni D和ni P的比例关系来描述当前多视点视频信号的时间和视点间相关性的强弱关系。
在所述的相关性统计分析模块中,也可以对已编码或正在编码的图像组,以仅采用视差补偿预测进行编码的图像帧的预测误差和仅采用运动补偿预测进行编码的图像帧的预测误差的比例关系来分析当前多视点视频信号的时间和视点间相关性强弱关系。
所述的预测模式选择模块根据所述的相关性统计分析模块统计分析得到的多视点视频信号相关性特征以及对多视点视频编码的压缩效率、编码复杂度、随机访问性能、编码延时等综合性能的要求进行预测模式选择的方式如下:
(1)当时间相关性明显强于视点间相关性时,进一步判断相关性在时域内部的分布情况是否相对均衡,或是最邻近时刻的时间相关性明显强于次邻近时刻的时间相关性,选择以运动补偿预测为主的预测编码模式;
(2)当时间相关性明显弱于视点间相关性时,选择以视差补偿预测为主的预测编码模式;
(3)当时间相关性与视点间相关性大致相当时,选择兼顾时、空域的联合预测编码模式。
所述的模式更新触发模块可以采用基于视频内容的模式更新方案,根据所述的相关性统计分析模块中得到的相关性系数α的变化情况,确定是否重新启用所述的预测模式选择模块以更新预测编码模式。
所述的模式更新触发模块也可以采用定时更新触发的方式,定期开启所述的相关性统计分析模块对多视点视频信号的时间相关性和视点间相关性进行统计分析,并启用预测模式选择模块以确定预测编码模式。
在多模式多视点视频编码器中,可以使所有候选的多视点视频预测编码模式的预测结构具有一定的共性,即所述的候选预测编码模式中位于和帧内编码帧同一时刻的图像帧以及位于与帧内编码帧同一视点的图像帧均先于图像组中其它图像帧被编码,而且上述这些图像帧在所有候选预测模式中都具有相同的预测方式,可以在编码这些最先被编码的图像帧的同时,获得当前正在编码的多视点视频信号的相关性统计分析结果,并在这些最先被编码的图像帧编码完成后及时确定当前正在编码的图像组中其它帧采取何种预测编码结构,即从所有候选预测编码模式中最终选定一个适合当前多视点视频信号特点以及多视点视频编码综合性能要求的预测编码模式进行编码。
本发明针对多视点视频信号时间及视点间的内容相关性随多视点相机密度、光照、相机及对象运动等因素不同而变化的现象,提出基于多视点视频信号时间相关性及视点间相关性分析以及多视点视频编码综合性能要求的多模式多视点视频编码框架,根据多视点相机的密度、光照、相机及对象运动等的变化,设计相应的不同候选预测编码模式,通过对多视点视频信号的时间相关性和视点间相关性进行简单的统计特性分析,以及对多视点视频编码综合性能的不同要求(如编码复杂度、编码压缩效率、随机访问性能、编码延时等),从候选预测编码模式中动态选择适应于当前多视点视频信号特点的预测编码模式,从而提高多视点视频信号编码的综合性能。
与现有技术相比,本发明的优点在于通过对多视点视频信号时间相关性与视点间相关性分析,动态选择适合于当前被编码的多视点视频信号特点以及多视点视频编码综合性能要求的预测编码模式,以取代现有单一模式的计算复杂的联合时间与空间预测的多参考帧预测编码方法,从而有效降低多视点视频信号编码压缩的计算复杂度,提高了多视点视频系统的随机访问性能,同时保证了编码压缩性能。
附图说明
图1为多视点视频系统示意图;
图2为本发明多模式多视点视频编码器结构与编码过程示意图;
图3a为实施例中的第1类候选预测编码模式;
图3b为实施例中的第2类候选预测编码模式;
图3c为实施例中的第3类候选预测编码模式;
图4为采用P帧的顺序预测编码模式PSVP;
图5为采用B帧的顺序预测编码模式BSVP;
图6为Mpicture的多视点视频预测编码模式;
图7为Joint多视点视频测试序列;
图8为Joint多视点视频测试序列中Xmas序列部分的平均率失真曲线;
图9为Joint多视点视频测试序列中exit序列部分的平均率失真曲线;
图10为Joint多视点视频测试序列中ballroom序列部分的平均率失真曲线;
图11为Joint多视点视频测试序列的平均率失真曲线。
具体实施方式
以下结合附图实施例对本发明作进一步详细描述。
这里,以具有代表性的5×7图像组结构为例(如图3a、图3b和图3c所示,每个图像组共有5个视点、7个时刻,共35帧),就多模式多视点视频编码器的4个功能模块及其协同工作方式进行详细说明。
1)多视点视频预测编码模块
该模块负责多视点视频信号的编码压缩,即采用由预测模式选择模块动态选择的某个候选预测编码模式对当前多视点视频信号进行编码。
根据多视点视频信号时间相关性与视点间相关性情况,候选的多视点视频预测编码模式分为三大类,第1类为适用于以时间相关性为主的多视点视频信号的预测编码模式;第2类为适用于以视点间相关性为主的多视点视频信号的预测编码模式;第3类为适用于时间相关性和视点间相关性均衡的多视点视频信号的预测编码模式。上述三大类预测编码模式中的每一类又可由若干个预测编码模式组成,以适应具有不同相关性特点的多视点视频信号编码,以及对多视点视频编码综合性能的不同要求(如编码复杂度、编码压缩效率、随机访问性能、编码延时等)。
图3a、图3b和图3c分别表示所采用的3种不同类别的预测编码模式,图中I表示帧内编码帧,D表示视差补偿预测编码帧,P表示运动补偿预测编码帧,P′表示时、空双向预测编码帧,可参考D、P帧,B′为时、空联合预测帧,可参考D、P和P′帧。图3a的预测编码模式以运动补偿预测为主,适用于以时间相关性为主的多视点视频信号编码,属于第1类预测编码模式;图3b的预测编码模式以视差补偿预测为主,适用于以视点间相关性为主的多视点视频信号编码,属于第2类预测编码模式;图3c的预测编码模式则为兼顾时、空域的联合预测,适用于时间视点间相关性均衡的多视点视频信号编码,属于第3类预测编码模式。本实施例中,三大类中的每一类预测编码模式仅有一个候选模式,实际使用本发明时可根据需要设计多个不同的预测编码模式。
2)相关性统计分析模块
定义相关性系数α用于表征视频信号的时间相关性与视点间相关性的强弱对比,该系数可由对已编码或正在编码的图像组的时间相关性与视点间相关性进行统计分析得到。
在多模式多视点视频编码中,对于与I帧同一时刻但位于不同视点的图像,如图3a、图3b和图3c中位于I帧左右2侧的若干D帧,仅通过视差补偿预测对其进行编码,D帧中I块(即帧内编码块)的数量表示为ni D;对于与I帧为同一视点但不同时刻的图像,如图3a、图3b和图3c中位于I帧上下2侧(实际从时间上表现为I帧的前后帧)的若干P帧,仅通过运动补偿预测对其进行编码,P帧中I块的数量表示为ni P。相关性系数α可定义为
α = 1 n Σ i = 0 n n i D / 1 m Σ i = 0 m n i P
其中,n、m分别表示用于计算相关性系数的D帧和P帧的帧数。该相关性系数α可用于表征视频信号的时间相关性和视点间相关性的强弱对比。而且计算α所需的I块数量可在编码同时统计得到,额外计算开销极低,因而可以通过α来有效实现多模式多视点视频编码的视频信号相关性统计分析。本实施例即采用D帧和P帧中I块数量的比例关系来计算相关性系数α,并在预测模式选择模块中采用阈值法从图3a、图3b和图3c所示的3个候选预测编码模式中最终选择1个预测编码模式提交给多视点视频预测编码模块进行编码。
除上述方案外,也可以通过已编码或正在编码的图像组中那些仅采用视差补偿预测进行编码的图像帧(D帧)的预测误差(例如SAD值),以及那些仅采用运动补偿预测进行编码的图像帧(P帧)的预测误差的比例关系,统计分析当前多视点视频信号的时间和视点间相关性强弱关系。
3)预测模式选择模块
根据相关性统计分析模块的多视点视频信号相关性统计分析结果,以及对多模式多视点视频编码的压缩效率、编码复杂度、随机访问性能、编码延时等综合性能的要求,从候选预测编码模式中选择适合当前多视点视频信号特点和编码综合性能要求的某个预测编码模式。预测编码模式的选择方式如下:
(1)当时间相关性明显强于视点间相关性时,可进一步判断相关性在时域内部的分布情况是否相对均衡,或是最邻近时刻的时间相关性明显强于次邻近时刻的时间相关性,以选择确定某个合适的第1类预测编码模式。
(2)当时间相关性明显弱于视点间相关性时,选择某个以视差补偿预测为主的第2类预测编码模式,以便在多视点视频预测编码模块中采用该预测编码模式进行编码。
(3)当时间相关性与视点间相关性大致相当时,则选择某个第3类兼顾时、空域的联合预测编码模式。
在本实施例中,由于所采用的3个候选预测编码模式在图3a、图3b和图3c中位于中心十字上的图像帧先于图像组中其它图像帧被编码,而且这3个预测编码模式的这些位于中心十字上的图像帧具有相同的预测方式,因此可以在编码这些图像帧的同时,获得相关性统计分析模块所需的ni D和ni P,从而能够获得当前正在编码的多视点视频信号的相关性统计分析结果,以便在这些位于中心十字上的图像帧编码完成后及时确定图像组中其它帧采取何种预测模式,即从图3a、图3b和图3c所示的3个候选预测编码模式中最终选定一个适合当前多视点视频信号特点的预测编码模式,提交给多视点视频预测编码模块进行编码。
4)模式更新触发模块
可以采用基于视频内容的模式更新方案,即根据相关性统计分析模块中得到的相关性系数α的变化情况,由阈值法确定是否重新启用预测模式选择模块以更新相应的预测编码模式;或者也可以采用定时更新触发的方式,定期启用相关性统计分析模块对多视点视频信号的时间相关性和视点间相关性进行统计分析,并启用预测模式选择模块以确定将要采用的预测编码模式。本实施例采用基于视频内容的模式更新方案。
以下就本实施例进行多视点视频编码的性能进行说明:
1)多模式多视点视频编码方案的随机访问性能
对于多视点视频,其随机访问包括快进、快退、视点切换和观看时刻冻结、视点滑动等访问方式。假设用于编码的v个视点、每个视点t帧的多视点视频帧总数s=v×t是有限的。令xi表示在对第i帧进行解码前需要提前解码的帧数,pi为用户随机访问第i帧的概率,则随机访问代价的数学期望 E n = Σ i = 1 v × t x i p i 是评价一个预测编码模式n对随机访问支持程度的重要指标。这个代价越高,说明解码端对随机访问的支持能力越低,为支持随机访问而消耗的资源就越多。设kn为采用第n个预测编码模式编码多视点视频信号的概率,候选预测编码模式个数为N,则多模式多视点视频编码的随机访问代价可表示为 E ( X ) = Σ n = 1 N ( k n × E n ) .
多模式多视点视频编码中各模式编码的概率kn直接与实际多视点视频信号的特点相关。本实施例中N=3,且假定各模式编码概率相同,即kn=1/3(n=1,2,3),则不同方案的随机访问代价如表1所示。表中PSVP和BSVP分别代表采用P帧、B帧的顺序预测方法,其预测编码模式分别如图4和图5所示。Mpiture为日本Fujii等人的Mpicture多视点视频编码方法,其预测编码模式如图6所示。PSVP、BSVP和Mpiture均为单一模式的多参考帧预测编码方法。MMVC为本发明的采用如图3所示的3种候选预测编码模式的多模式多视点视频编码方法(以本实施例为本发明方案的代表)。由表1可见,就随机访问性能而言,PSVP最差,BSVP和Mpicture相对好些。而本发明的多模式多视点视频编码方法MMVC的随机访问代价最低,相对PSVP、BSVP以及Mpicture方法,其随机访问代价降低了49%~72%,随机访问性能有明显提高。
2)多模式多视点视频编码方案的计算复杂度
基于H.264/AVC编码框架的高精度视差补偿预测和运动补偿预测占整个多视点视频编码器75%以上的计算复杂度,因此可通过平均编码一个5×7图像组所需视差补偿预测和运动补偿预测的次数来表征整个编码器的计算复杂度。各方案计算复杂度比较如表1所示,由于采用了多参考帧方法,PSVP、BSVP和Mpicture方案的计算复杂度都很大,尤其是BSVP和Mpicuture方法。而与PSVP、BSVP和Mpicture方案相比,本发明方案的计算复杂度则相对降低了29%~57%。
表1本发明方案MMVC的随机访问代价和计算复杂度比较
  编码方案   E(X)   随机访问代价倍数   计算复杂度   计算复杂度倍数
  PSVP   11.0   364%   58   141%
  BSVP   7.5   248%   83   202%
  Mpicture   6.0   199%   97   237%
  MMVC   3.02   100%   41   100%
3)多模式多视点视频编码方案的率失真性能
为了评价本发明MMVC方案的编码效率,基于H.264/AVC(JM8.5mainprofile)视频编码框架,进行了多视点视频编码实验(量化参数QP分别为24、30、36、40)。多视点视频测试序列选用Tanimoto实验室和MERL的Xmas(相机间距9mm、视点间相关性大)、exit(运动缓慢,大视差,相机间距19.5cm)和ballroom(运动剧烈)的多视点测试序列集,3个序列均为平行相机系统所拍摄,分辨率为640×480。选取5个视点,5个场景,每个场景5个图像组,并将其拼接成如图7所示的Joint序列,即每个视点视频各5×5×7=175帧。实验中,通过序列拼接的方式模拟实际视频的场景切换,本实施例中,MMVC可以自适应根据视频内容从图3a、图3b和图3c所示的候选预测编码模式中选择合适的预测编码模式对Joint序列进行编码。
图8、9、10、11为采用本实施例的MMVC与顺序预测法PSVP、BSVP以及Mpicture等方法对Joint测试序列编码的率失真性能比较。其中图8、9、10分别为Joint序列中的Xmas、exit和ballroom三个序列各自的平均率失真曲线。图11所示的Joint序列的总体平均率失真曲线表明MMVC与BSVP、PSVP和Mpicture的率失真性能基本相当。
综上所述,与现有技术相比,本发明的优点在于通过对多视点视频信号时间相关性与视点间相关性分析,动态选择适合于当前被编码的多视点视频信号特点以及多视点视频编码综合性能要求的预测编码模式,以取代现有单一模式的计算复杂的联合时间与空间预测的多参考帧预测编码方法,从而有效降低多视点视频信号编码压缩的计算复杂度,提高多视点视频系统的随机访问性能,同时保证编码压缩性能。
显而易见,多视点视频预测编码模式不仅限于本实施例的形式,因此在不背离权利要求及同等范围所限定的一般概念的精神和范围的情况下,本发明并不限于特定的细节和这里示出与描述的示例。

Claims (9)

1、一种多模式多视点视频信号编码压缩方法,其特征在于将编码器设置成多视点视频预测编码模块、相关性统计分析模块、预测模式选择模块和模式更新触发模块四个功能模块,对输入的多视点视频信号,先根据已知信息确定初始预测编码模式由所述的多视点视频预测编码模块进行编码,然后按以下步骤进行编码:①由所述的预测模式选择模块根据所述的相关性统计分析模块统计分析得到的多视点视频信号相关性特征以及对多视点视频编码的综合性能的要求,从候选预测编码模式中动态选择确定适合当前正在编码的多视点视频信号特点的预测编码模式;②由所述的多视点视频预测编码模块以该选定的预测编码模式对输入的多视点视频信号进行编码后输出编码压缩后的码流信号;③当所述的模式更新触发模块中的模式更新触发条件满足时重新开启所述的相关性统计分析模块,以选择更新预测编码模式。
2、如权利要求1所述的多模式多视点视频信号编码压缩方法,其特征在于所述的候选预测编码模式分为三大类,第1类为适用于以时间相关性为主的多视点视频信号的预测编码模式,该类预测编码模式以运动补偿预测为主;第2类为适用于以视点间相关性为主的多视点视频信号的预测编码模式,该类预测编码模式以视差补偿预测为主;第3类为适用于时间相关性和视点间相关性均衡的多视点视频信号的预测编码模式,该类预测编码模式为兼顾时、空域的联合预测编码模式。
3、如权利要求1所述的多模式多视点视频信号编码压缩方法,其特征在于所述的相关性统计分析模块的统计分析是对已编码或正在编码的图像组的时间相关性与视点间相关性进行统计分析,并定义相关性系数α用于表征得到的视频信号的时间相关性与视点间相关性的强弱对比。
4、如权利要求3所述的多模式多视点视频信号编码压缩方法,其特征在于在所述的相关性统计分析模块中,对已编码或正在编码的图像组中仅采用视差补偿预测进行编码的图像帧中的帧内编码块的数量ni D和仅采用运动补偿预测进行编码的图像帧中帧内编码块的数量ni P进行统计,以ni D和ni P的比例关系来描述当前多视点视频信号的时间和视点间相关性的强弱关系。
5、如权利要求3所述的多模式多视点视频信号编码压缩方法,其特征在于在所述的相关性统计分析模块中,对已编码或正在编码的图像组,以仅采用视差补偿预测进行编码的图像帧的预测误差和仅采用运动补偿预测进行编码的图像帧的预测误差的比例关系来分析当前多视点视频信号的时间和视点间相关性强弱关系。
6、如权利要求2所述的多模式多视点视频信号编码压缩方法,其特征在于所述的预测模式选择模块根据所述的相关性统计分析模块统计分析得到的多视点视频信号相关性特征以及对多视点视频编码的综合性能的要求进行预测模式选择的方式如下:
(1)当时间相关性明显强于视点间相关性时,进一步判断相关性在时域内部的分布情况是否相对均衡,或是最邻近时刻的时间相关性明显强于次邻近时刻的时间相关性,选择以运动补偿预测为主的预测编码模式;
(2)当时间相关性明显弱于视点间相关性时,选择以视差补偿预测为主的预测编码模式;
(3)当时间相关性与视点间相关性大致相当时,选择兼顾时、空域的联合预测编码模式。
7、如权利要求1所述的多模式多视点视频信号编码压缩方法,其特征在于所述的模式更新触发模块采用基于视频内容的模式更新方案,根据所述的相关性统计分析模块中得到的相关性系数α的变化情况,确定是否重新启用所述的预测模式选择模块以更新预测编码模式。
8、如权利要求1所述的多模式多视点视频信号编码压缩方法,其特征在于所述的模式更新触发模块采用定时更新触发的方式,定期开启所述的相关性统计分析模块对多视点视频信号的时间相关性和视点间相关性进行统计分析,并启用预测模式选择模块以确定预测编码模式。
9、如权利要求1所述的多模式多视点视频信号编码压缩方法,其特征在于所述的候选预测编码模式的所有候选模式中位于和帧内编码帧同一时刻的图像帧以及位于与帧内编码帧同一视点的图像帧均先于图像组中其它图像帧被编码,且这些率先被编码的图像帧在所有候选模式中都具有相同的预测方式。
CNB2006100528959A 2006-08-11 2006-08-11 多模式多视点视频信号编码压缩方法 Expired - Fee Related CN100415002C (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CNB2006100528959A CN100415002C (zh) 2006-08-11 2006-08-11 多模式多视点视频信号编码压缩方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNB2006100528959A CN100415002C (zh) 2006-08-11 2006-08-11 多模式多视点视频信号编码压缩方法

Publications (2)

Publication Number Publication Date
CN1913640A true CN1913640A (zh) 2007-02-14
CN100415002C CN100415002C (zh) 2008-08-27

Family

ID=37722378

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2006100528959A Expired - Fee Related CN100415002C (zh) 2006-08-11 2006-08-11 多模式多视点视频信号编码压缩方法

Country Status (1)

Country Link
CN (1) CN100415002C (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008125066A1 (en) * 2007-04-17 2008-10-23 Huawei Technologies Co., Ltd. An encoding and decoding method and means of multiple viewpoint
CN101389034B (zh) * 2007-09-14 2010-06-09 华为技术有限公司 一种图像编/解码方法、装置及一种图像处理方法、系统
CN101170702B (zh) * 2007-11-23 2010-08-11 四川虹微技术有限公司 多视角视频编码方法
CN101937578A (zh) * 2010-09-08 2011-01-05 宁波大学 一种虚拟视点彩色图像绘制方法
CN102017628A (zh) * 2008-04-25 2011-04-13 汤姆逊许可证公司 深度信号的编码
CN101547010B (zh) * 2008-03-24 2011-07-06 华为技术有限公司 编码解码系统、方法及装置
CN102148952A (zh) * 2010-02-05 2011-08-10 鸿富锦精密工业(深圳)有限公司 视频影像压缩方法及其播放方法
CN101087400B (zh) * 2007-06-26 2011-09-21 中兴通讯股份有限公司 视频帧延时检测方法及系统
CN101658040B (zh) * 2007-04-17 2013-09-11 汤姆森许可贸易公司 用于多视点视频编码的假设参考解码器
CN103596012A (zh) * 2013-11-14 2014-02-19 山东电子职业技术学院 一种实时的基于avs的视频帧率转码中帧间宏块类型选择方法
CN103974070A (zh) * 2014-04-25 2014-08-06 广州市香港科大霍英东研究院 基于多用户输入输出的无线视频传输方法及系统
US8913105B2 (en) 2009-01-07 2014-12-16 Thomson Licensing Joint depth estimation
US9179153B2 (en) 2008-08-20 2015-11-03 Thomson Licensing Refined depth map
CN111669601A (zh) * 2020-05-21 2020-09-15 天津大学 一种3d视频智能多域联合预测编码方法及装置
WO2023185305A1 (zh) * 2022-03-31 2023-10-05 华为技术有限公司 编码方法、装置、存储介质及计算机程序产品

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100397511B1 (ko) * 2001-11-21 2003-09-13 한국전자통신연구원 양안식/다시점 3차원 동영상 처리 시스템 및 그 방법
KR100481732B1 (ko) * 2002-04-20 2005-04-11 전자부품연구원 다 시점 동영상 부호화 장치
KR100760258B1 (ko) * 2004-12-10 2007-09-19 한국전자통신연구원 범용적 다시점 동영상 부호화/복호화 장치 및 방법

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008125066A1 (en) * 2007-04-17 2008-10-23 Huawei Technologies Co., Ltd. An encoding and decoding method and means of multiple viewpoint
CN101658040B (zh) * 2007-04-17 2013-09-11 汤姆森许可贸易公司 用于多视点视频编码的假设参考解码器
CN101087400B (zh) * 2007-06-26 2011-09-21 中兴通讯股份有限公司 视频帧延时检测方法及系统
CN101389034B (zh) * 2007-09-14 2010-06-09 华为技术有限公司 一种图像编/解码方法、装置及一种图像处理方法、系统
CN101170702B (zh) * 2007-11-23 2010-08-11 四川虹微技术有限公司 多视角视频编码方法
CN101547010B (zh) * 2008-03-24 2011-07-06 华为技术有限公司 编码解码系统、方法及装置
CN102017628B (zh) * 2008-04-25 2013-10-09 汤姆逊许可证公司 深度信号的编码
CN102017628A (zh) * 2008-04-25 2011-04-13 汤姆逊许可证公司 深度信号的编码
US9179153B2 (en) 2008-08-20 2015-11-03 Thomson Licensing Refined depth map
US8913105B2 (en) 2009-01-07 2014-12-16 Thomson Licensing Joint depth estimation
CN102148952B (zh) * 2010-02-05 2013-12-11 鸿富锦精密工业(深圳)有限公司 视频影像压缩方法及其播放方法
CN102148952A (zh) * 2010-02-05 2011-08-10 鸿富锦精密工业(深圳)有限公司 视频影像压缩方法及其播放方法
CN101937578B (zh) * 2010-09-08 2012-07-04 宁波大学 一种虚拟视点彩色图像绘制方法
CN101937578A (zh) * 2010-09-08 2011-01-05 宁波大学 一种虚拟视点彩色图像绘制方法
CN103596012B (zh) * 2013-11-14 2017-05-10 山东电子职业技术学院 一种实时的基于avs的视频帧率转码中帧间宏块类型选择方法
CN103596012A (zh) * 2013-11-14 2014-02-19 山东电子职业技术学院 一种实时的基于avs的视频帧率转码中帧间宏块类型选择方法
CN103974070A (zh) * 2014-04-25 2014-08-06 广州市香港科大霍英东研究院 基于多用户输入输出的无线视频传输方法及系统
CN103974070B (zh) * 2014-04-25 2017-08-15 广州市香港科大霍英东研究院 基于多用户输入输出的无线视频传输方法及系统
CN111669601A (zh) * 2020-05-21 2020-09-15 天津大学 一种3d视频智能多域联合预测编码方法及装置
CN111669601B (zh) * 2020-05-21 2022-02-08 天津大学 一种3d视频智能多域联合预测编码方法及装置
WO2023185305A1 (zh) * 2022-03-31 2023-10-05 华为技术有限公司 编码方法、装置、存储介质及计算机程序产品

Also Published As

Publication number Publication date
CN100415002C (zh) 2008-08-27

Similar Documents

Publication Publication Date Title
CN1913640A (zh) 多模式多视点视频信号编码压缩方法
CN103220528B (zh) 通过使用大型变换单元编码和解码图像的方法和设备
KR102329126B1 (ko) 인터 레이어 비디오의 복호화 및 부호화를 위한 머지 후보 리스트 구성 방법 및 장치
KR102254118B1 (ko) 인트라 블록 복사 예측을 이용한 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
KR102284110B1 (ko) 디코더 설정을 위한 비디오 부호화 방법 및 그 장치, 디코더 설정에 기초한 비디오 복호화 방법 및 그 장치
KR102274322B1 (ko) 서브 블록 기반 예측을 수행하는 인터 레이어 비디오 복호화 방법 및 그 장치 및 서브 블록 기반 예측을 수행하는 인터 레이어 비디오 부호화 방법 및 그 장치
CN104602024B (zh) 三维视频或多视点视频编解码方法及其装置
KR102312335B1 (ko) 휘도 보상을 이용한 인터 레이어 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
CN105357541A (zh) 对视频进行解码的方法和设备
CN103338370B (zh) 一种多视点深度视频快速编码方法
TW201415904A (zh) 幀間預測的運動預測方法、運動補償方法、運動預測裝置、運動補償裝置以及電腦可讀記錄媒體
KR20130086004A (ko) 병렬 처리가 가능한 엔트로피 부호화 방법 및 장치, 병렬 처리가 가능한 엔트로피 복호화 방법 및 장치
CN101888566A (zh) 立体视频编码率失真性能估计方法
KR102230264B1 (ko) 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR102199461B1 (ko) 적응적 휘도 보상을 위한 인터 레이어 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
CN104837019A (zh) 基于支持向量机的avs到hevc优化视频转码方法
CN105122809A (zh) 帧内编码的预测值派生的方法和装置
KR102227660B1 (ko) 신호 변환 방법 및 디바이스
JP2017518706A (ja) デプスブロックを利用する、マルチレイヤビデオ符号化方法及びマルチレイヤビデオ復号方法
KR102264679B1 (ko) 휘도 보상 여부에 따른 뷰 합성 예측 적용 방법 및 장치
CN1194544C (zh) 基于时空域相关性运动矢量预测的视频编码方法
CN101568038B (zh) 基于视差/运动联合估计的多视点容错编码框架
CN1913632A (zh) 运动画面编码方法和设备
CN103533353B (zh) 一种近似视频编码系统
CN116708934B (zh) 一种视频编码处理方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: SHANGHAI SILICON INTELLECTUAL PROPERTY EXCHANGE CE

Free format text: FORMER OWNER: NINGBO UNIVERSITY

Effective date: 20120105

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 315211 NINGBO, ZHEJIANG PROVINCE TO: 200030 XUHUI, SHANGHAI

TR01 Transfer of patent right

Effective date of registration: 20120105

Address after: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1704

Patentee after: Shanghai Silicon Intellectual Property Exchange Co.,Ltd.

Address before: 315211 Zhejiang Province, Ningbo Jiangbei District Fenghua Road No. 818

Patentee before: Ningbo University

ASS Succession or assignment of patent right

Owner name: SHANGHAI SIPAI KESI TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: SHANGHAI SILICON INTELLECTUAL PROPERTY EXCHANGE CENTER CO., LTD.

Effective date: 20120217

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 200030 XUHUI, SHANGHAI TO: 201203 PUDONG NEW AREA, SHANGHAI

TR01 Transfer of patent right

Effective date of registration: 20120217

Address after: 201203 Shanghai Chunxiao Road No. 350 South Building Room 207

Patentee after: Shanghai spparks Technology Co.,Ltd.

Address before: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1704

Patentee before: Shanghai Silicon Intellectual Property Exchange Co.,Ltd.

ASS Succession or assignment of patent right

Owner name: SHANGHAI GUIZHI INTELLECTUAL PROPERTY SERVICE CO.,

Free format text: FORMER OWNER: SHANGHAI SIPAI KESI TECHNOLOGY CO., LTD.

Effective date: 20120606

C41 Transfer of patent application or patent right or utility model
C56 Change in the name or address of the patentee
CP02 Change in the address of a patent holder

Address after: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1706

Patentee after: Shanghai spparks Technology Co.,Ltd.

Address before: 201203 Shanghai Chunxiao Road No. 350 South Building Room 207

Patentee before: Shanghai spparks Technology Co.,Ltd.

TR01 Transfer of patent right

Effective date of registration: 20120606

Address after: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1704

Patentee after: Shanghai Guizhi Intellectual Property Service Co.,Ltd.

Address before: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1706

Patentee before: Shanghai spparks Technology Co.,Ltd.

DD01 Delivery of document by public notice

Addressee: Shi Lingling

Document name: Notification of Passing Examination on Formalities

TR01 Transfer of patent right

Effective date of registration: 20200121

Address after: 201203 block 22301-1450, building 14, No. 498, GuoShouJing Road, Pudong New Area (Shanghai) pilot Free Trade Zone, Shanghai

Patentee after: Shanghai spparks Technology Co.,Ltd.

Address before: 200030 Shanghai City No. 333 Yishan Road Huixin International Building 1 building 1704

Patentee before: Shanghai Guizhi Intellectual Property Service Co.,Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20080827

Termination date: 20200811

CF01 Termination of patent right due to non-payment of annual fee