CN1856112A - 基于h.264的压缩视频传输误码消除方法 - Google Patents

基于h.264的压缩视频传输误码消除方法 Download PDF

Info

Publication number
CN1856112A
CN1856112A CNA2005100343360A CN200510034336A CN1856112A CN 1856112 A CN1856112 A CN 1856112A CN A2005100343360 A CNA2005100343360 A CN A2005100343360A CN 200510034336 A CN200510034336 A CN 200510034336A CN 1856112 A CN1856112 A CN 1856112A
Authority
CN
China
Prior art keywords
error code
band
error
information
macro block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2005100343360A
Other languages
English (en)
Other versions
CN100459717C (zh
Inventor
罗忠
宋彬
常义林
周宁兆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SnapTrack Inc
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CNB2005100343360A priority Critical patent/CN100459717C/zh
Priority to PCT/CN2006/000722 priority patent/WO2006111087A1/zh
Publication of CN1856112A publication Critical patent/CN1856112A/zh
Priority to US11/874,680 priority patent/US20080095246A1/en
Application granted granted Critical
Publication of CN100459717C publication Critical patent/CN100459717C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Abstract

本发明涉及压缩视频传输误码消除方法,公开了一种基于H.264的压缩视频传输误码消除方法,使得可以简单高效地消除误码。本发明中,通过误码信息反馈机制结合误码掩盖和误码扩散抑制实现误码消除;通过NALU序号及承载Slice的信息检测误码发生,并统计丢失数据位置等误码信息;通过定义扩展SEI消息建立H.264体系内部的误码信息反馈通道;通过分段逐次帧内编码实现误码扩散抑制。

Description

基于H.264的压缩视频传输误码消除方法
技术领域
本发明涉及压缩视频传输误码消除方法,特别涉及基于H.264的压缩视频传输误码掩盖方法和误码扩散抑制方法。
背景技术
国际电信联盟电信标准部(International Telecommunication UnionTelecommunication Standardization Sector,简称“ITU-T”)联合国际标准组织(International Organization for Standardization,简称“ISO”)和国际电工委员会(International Electrotechnical Commission,简称“IEC”)的运动图像专家组(Moving Picture Expert Group,简称“MPEG”)制定的H.264压缩视频压缩编码标准,目前已经逐渐成为多媒体通信中的主流标准。大量采用H.264标准的多媒体实时通信产品,比如会议电视、可视电话、第三代(3rdGeneration,简称“3G”)移动通信终端,以及网络流媒体产品先后问世。是否支持H.264已经成为这个市场领域中决定产品竞争力的关键因素。尤其是随着3G移动通信系统的出现和网际协议(Internet Protocol,简称“IP”)网络的迅速发展,视频网络通信正逐步成为通信的主要业务之一。ITU-T继制定了H.261、H.263、H.263+等视频压缩标准后,于2003年正式发布了H.264标准,它同时也是MPEG-4第10部分的主要内容。H.264标准的制定更加有效地提高了视频编码效率和网络适配性,随着H.264的推广和使用,IP网络和移动无线网络的多媒体通信进入了一个飞跃发展的新阶段。
下面简单介绍H.264标准的消息构成及发送机制:H.264标准采用分层模式,定义了视频编码层(Video Coding Layer,简称“VCL”)和网络抽象层(Network Abstraction Layer,简称“NAL”),后者专为网络传输设计,能适应不同网络中的压缩视频传输,进一步提高网络的“亲和性”。H.264引入了面向IP包的编码机制,有利于网络中的分组传输,支持网络中压缩视频的流媒体传输;具有较强的抗误码特性,特别适应丢包率高、干扰严重的无线压缩视频传输的要求。H.264的所有待传送数据,包括图像数据及其他消息均封装为统一格式的包传送,即网络抽象层单元(NAL Unit,简称“NALU”)。每个NALU是一个一定语法元素的可变长字节字符串,包括包含一个字节的头信息,可用来表示数据类型,以及若干整数字节的负荷数据。一个NAL单元可以携带一个编码片、各自类型数据分割或一个序列或图像参数集。为了加强数据可靠性,每帧图像都被分为若干个条带(Slice),每个Slice由一个NALU承载,Slice又是由若干个更小的宏块组成,即为最小的处理单元。一般的说,前后帧对应位置的Slice相互关联,不同位置的Slice相互独立,这样可以避免Slice之间发生误码相互扩散。
H.264数据包含非参考帧的纹理数据、序列参数、图像参数、补充增强消息(Supplemental Enhancement Information,简称“SEI”)、参考帧纹理数据等。其中,SEI消息是在H.264压缩视频的解码、显示及其它方面起辅助作用的消息的统称。现有技术定义了各类SEI消息,同时保留了SEI预留消息,为未来的各种可能应用留下了扩展余地。根据H.264,SEI消息并非在解码过程重构亮度和色度图像所必需的。符合H.264标准的解码器,是不需要对于SEI作任何处理的。也就是说,不是所有符合H.264基本要求的终端都能够处理SEI消息的,但是对于不能处理SEI消息的终端,发送SEI对于它是没有影响的,它会简单地忽略掉它不能处理的SEI消息。按照SEI语法规则,用户可以利用预留消息传送自定义消息,实现功能扩展。
由于H.264使用多种高效编码算法,使得压缩视频码流对信道误码的敏感度增加,即使单个原发性错误也可能会造成恢复视频质量的急剧下降。比如在IP网络中,虽然采用了很多的承载层的服务质量(Quality of Service,简称“QoS”)管理策略,但是不可避免地存在网络带宽波动,导致丢包、包延迟等问题频繁发生。这类问题产生的传输错误,称为删除错误(ErasureError),与之不同的是传统电路交换网络上的随机位错误(Random Bit Error),相对于随机位错误,删除错误更难防止和纠正。在实际H.264压缩视频通信中,由于丢包等引起的删除错误导致图像质量退化是非常严重的,更甚于引起解码端系统的崩溃。这是由于H.264相对于其它压缩视频编码标准来说能力更强、效率更高、功能更丰富,反过来对于删除错误的承受能力也更低。因此,在基于H.264标准的压缩视频通信中,必须采用有效的抗丢包等删除错误的技术,并结合多种视频抗误码方法,来保证恢复图像的质量。
在典型的分组IP网络中,删除误码就是丢包错误。现有的抗丢包错误技术即误码消除技术有很多种,比如纠删编码(Erasure Codes),网络自动重传请求(Automatic Retransmission Request,简称“ARQ”),交织打包(Interleaving),误码掩盖(Error Concealment)等。这些方法按照出发点不同大体可以分为两类:(a)主动防错型:事先采取保护措施,比如引入冗余机制,尽量保证数据包不丢失或者确保接收端能够恢复少量丢失的数据;(b)错误补偿型:在发生误码情况下采取一定的补偿措施,比如在网络状况恶化严重情况下,丢包率非常高,主动防错方法失去效果,这时就需要对已经发生的误码进行补偿。
错误补偿的误码消除方法根据侧重点不同又分为误码掩盖和误码扩散抑制两种。其中,误码掩盖是侧重于补偿误码当前的影响,比如接收端当前视频帧或者Slice丢失,则图像无法正确显示,即采取一定措施进行补偿,使得对于用户产生的影响最小。而误码扩散抑制则是消除误码在空间和时间上扩散带来的后续影响,比如接收端收到的帧丢失或者部分丢失,由于该帧可能是后续帧的预测参考帧,其误码将会在时间域上扩散到后续帧中;或者由于H.264中可能存在的帧内预测,以及环路滤波,都可能使得该帧的误码通过空间预测扩散到该帧的其它位置。误码扩散抑制就是采用一定的措施,在空间上要限制误码影响在有限区域内,在时间上要限制在有限时间内,避免视频通信失败,更甚于解码器系统工作紊乱和崩溃。
可见在误码环境下,误码扩散不仅使出错帧的恢复图像质量下降,而且可能会给后续帧造成不可恢复的损失,即使解码端使用了误码掩盖技术,也不能避免恢复图像质量的下降。另外,由于视频通信的实时性要求强,通常不采用ARQ方式重传发生错误的数据。
通过误码掩盖,即通过用发生误码部分在空间上和时间上相邻部分的正确数据进行简单代替或者复杂的预测,插值等掩盖错误部分的方法,可以解决补偿误码问题。这在接收端即可实现,无需发送端参与。而误码扩散问题则更加复杂,需要发送端和接收端配合起来采取适当的策略才能抑制和消除。
需要注意的是,误码掩盖也会导致误码扩散的产生。事实上,由于误码掩盖会造成编码端和解码端重构图像缓存内容不匹配,从而导致误码在时间域上的扩散。例如,当解码第n-1帧有丢包时,解码端会使用第n-2帧对应位置图像数据进行误码掩盖,而在发送端编码时并不知第n-1帧有丢包,会使用正确的第n-1帧图像来编码第n帧图像,而在接收端解码第n帧时却会用第n-2帧代替第n-1帧解码,由此引起误码扩散。
现有的误码消除方法都是独立的误码掩盖方法或者误码扩散抑制方法,都有很多种实现技术细节不同的方法。误码掩盖方法有时间域掩盖、空间域掩盖、时空联合掩盖等方法。误码扩散抑制又有帧内编码、标识、自适应帧内块刷新等方法。
时间域掩盖方法就是采用时间轴上相邻的帧的信息来推算丢失数据。推算的方法可以是:简单采用相邻帧相同位置的数据代替丢失数据;考虑运动预测因素,根据相邻帧数据进行运动预测。除此还有更加复杂的掩盖策略,但是计算量非常大。
空间域掩盖方法就是利用丢失数据区域的空间相邻区域来进行错误掩盖。同样的有:简单用领域替代;基于数据融合的有多个空间相邻区域推算丢失数据,比如空间插值;代数反演法,把丢包过程用一个线性模型建模,其输入是丢包前数据,输出是正确接收到的数据,利用代数反演的方法,比如最小二乘法,从输出来反演输入,用反演结果来替代错误数据,这种方法计算量大。
时空联合掩盖方法则是联合使用空间域和时间域的误码掩盖。比如,根据丢失数据的特点和相邻时间数据和空间数据的情况,采用某种策略确定用空间域掩盖还是时间域掩盖更好,然后实施这种更好的掩盖策略。或者,融合空间数据和时间数据,共同进行掩盖。
基于帧内编码的误码扩散抑制方法是将受误码影响的宏块采用帧内编码,即利用运动矢量的前向依赖关系进行准确误码跟踪,并对受误码影响的宏块采用帧内编码,可以有效地防止误码扩散。首先给出由于运动补偿所引起的帧间依赖性;然后根据运动矢量前向依赖性和权重因子的相关性计算误码的“能量”,对“能量”最大的宏块使用帧内编码,从而防止误码扩散。
基于标识的误码扩散抑制方法是将受误码影响的宏块做标识,使得编码时避免采用标识过的宏块做参考帧,直接防止了扩散。该方法需要建立重发送端到接收端的反馈机制,接收端将丢失数据的信息反馈到发送端,编码端根据错误信息将同一块组中出错宏块以后的像素全部用一个特定的值来标识,在之后的若干帧的编码中不参考已标识的区域,避免了接收端的误码扩散。
基于自适应帧内块刷新策略的误码扩散抑制方法是基于编码端的“误码灵敏性尺度”来衡量每一个编码宏块对信道误码的易损性,然后进行自适应的帧内块刷新。该方法不需要反馈信道。编码端先初始化“误码灵敏性尺度”值:距离同步标志越远的宏块,对误码的敏感性越高;编码宏块的比特数越多,越容易受到误码破坏。在编码过程中,通过计算每个宏块“误码灵敏性尺度”值的积累来更新这个尺度,然后根据ESM尺度选择宏块进行帧内编码。
在实际应用中,上述方案存在以下问题:上述误码掩盖方法只能暂时掩盖误码导致的失真,而且简单的方法产生的效果不好,复杂的方法计算量大,另外掩盖替代还会加重误码扩散;
上述误码扩散抑制方法实现机制都比较复杂,加重网络负担外,算法过于复杂不利于实时处理应用,另外还不能完全去除误码扩散的影响,导致恢复图像质量仍会下降。
造成这种情况的主要原因在于,独立的误码掩盖方法采用的替代机制会引起误码扩散;误码扩散抑制方法都需要复杂的机制或者额外的反馈信道,耗费系统处理资源和网络带宽资源。
发明内容
有鉴于此,本发明的主要目的在于提供一种基于H.264的压缩视频传输误码消除方法,使得可以简单高效地消除误码。
为实现上述目的,本发明提供了一种基于H.264的压缩视频传输误码消除方法,包含以下步骤,
A 接收端统计误码信息,实行误码掩盖策略;
B 所述接收端将所述误码信息反馈给发送端;
C 所述发送端根据所述误码信息实行误码扩散抑制策略。
其中,在所述步骤B中,所述接收端通过定义扩展补偿增强消息来承载所述误码信息,将所述误码信息反馈给所述发送端。
此外,所述扩展补充增强消息的载荷类型定义为用于承载所述统计信息。
此外,在所述步骤C中,所述误码扩散抑制策略包含以下子步骤:
所述发送端根据所述误码信息获得丢失条带的位置信息,通过对该丢失条带进行分段逐次帧内编码消除误码扩散。
此外,所述分段逐次帧内编码包含以下子步骤,
C1从所述丢失条带中分割出一段连续宏块,组成新条带,剩余的所述宏块仍属于所述丢失条带,进入步骤C2;
C2对所述新条带进行帧内编码,在下一帧时发送,此后该新条带按照H.264的正常规则进行编码,进入步骤C3;
C3在下一帧编码时,判断所述丢失条带是否还包含剩余宏块,如果是,则返回步骤C1。
此外,在所述步骤C1中,每次分割出的所述一段连续宏块的大小满足以下条件:
该段宏块进行帧内编码后,本帧的数据率在H.264数据率控制范围内。
此外,所述步骤C1还包含以下子步骤:
从所述丢失条带所包含的第一个宏块开始分割出一段连续宏块,组成新条带;如果所述丢失条带中当前包含的宏块数目大于或者等于预先设定的参数P,则该连续宏块段包含的宏块数目是P,否则该连续宏块段包含所述丢失条带中的所有宏块;在划分出该连续宏块段后,如果原来的丢失条带中还有剩余的宏块,则这些剩余宏块仍属于所述丢失条带,此后进入所述步骤C2;
其中所述预先设定的参数P满足以下条件:
在进行P个宏块的帧内编码后,本帧的数据率保持在H.264数据率控制范围内。
此外,所述步骤A包含以下子步骤,
A1所述接收端检测误码,并统计误码信息;
A2所述接收端在检测到误码发生后,进行压缩视频信息重同步;
A3所述接收端根据所述误码信息实行所述误码掩盖策略。
此外,所述步骤A1中,所述接收端根据网络抽象层单元序号的不连续情况情况来检测并统计误码信息。
此外,在所述步骤A1中,所述接收端根据所述网络抽象层单元序号的不连续情况获得丢失条带的位置信息,该位置信息包含所述丢失条带所在的帧序列号和所述丢失条带在该帧内的位置。
此外,所述误码掩盖策略可以包含以下步骤:
所述接收端用所述丢失条带所在帧的前一帧的对应位置上的相应条带,来替代该丢失条带。
通过比较可以发现,本发明的技术方案与现有技术的主要区别在于,通过误码信息反馈机制结合误码掩盖和误码扩散抑制实现误码消除;
通过NALU序号及承载Slice的信息检测误码发生,并统计丢失数据位置等误码信息;
通过定义扩展SEI消息建立H.264体系内部的误码信息反馈通道;
通过分段逐次帧内编码实现误码扩散抑制。
这种技术方案上的区别,带来了较为明显的有益效果,即结合误码掩盖和误码扩散抑制,避免由误码掩盖引起的误码扩散,在简单复杂度前提下,达到理想的误码消除效果,提高压缩视频传输质量;
根据NALU序号来进行统计,不但能保证统计信息精确无误,而且节省系统资源;
用扩展SEI消息传递可以节省开销、简化机制,且保证系统兼容性;
分段逐次帧内编码方法实现起来简单,防止扩散效果明显,降低误码消除复杂度,保证压缩视频传输稳定性。
附图说明
图1是根据本发明的第一实施例的基于H.264的压缩视频传输误码消除方法流程图;
图2是根据本发明的第二实施例的基于分段逐次帧内编码的误码扩散抑制原理示意图;
图3是根据本发明的第三实施例的有无误码消除压缩视频图像效果对比示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述。
本发明从误码掩盖和误码扩散抑制两个方面出发,结合接收端误码掩盖策略和发送端的误码扩散抑制策略,以实现既能尽量减少误码带来的视频质量损失又能避免误码引起扩散的目的。对于误码掩盖,采用简单替代方案即可达到以尽量低的复杂度实现补偿误码损失的效果;对于误码扩散抑制,通过H.264已有通道建立误码信息反馈机制,根据反馈实行帧内编码,以达到扩散消除效果,且不增加额外网络负担,确保压缩视频码流对误码问题的鲁棒性,也因此避免因误码掩盖引起的误码扩散。
本发明的基本思路是,在接收端通过对NALU序号的统计,发现丢失数据信息,如Slice的位置等,一方面采用高效算法对丢失数据进行简单替代以掩盖误码损失,另一方面将误码信息反馈给发送端。通过H.264的扩展SEI消息,建立从接收端到发送端的误码信息反馈通道。发送端获知误码信息后,立即采取分段逐次进行帧内编码的策略,将误码Slice分段刷新,以防止误码扩散。
图1示出了本发明的第一实施例的H.264压缩视频传输误码消除方法的流程。H.264压缩视频通信过程中,发送端对待发送视频流数据进行编码,得到压缩视频码流,然后封装NALU并通过分组报文传送给接收端。接收端接收报文并进行解码,此时接收端需要判断压缩视频流数据是否有丢失,以进行后续的误码消除操作。误码消除流程大致分为掩盖、反馈、扩散消除三个大步骤。
在步骤101中,接收端根据NALU序号不连续情况来判断是否丢失数据,并统计丢失数据的信息,即误码信息。如前所述,NALU是H.264压缩视频流数据传输的基本单位,每个NALU都有唯一连续的序号。因此,接收端根据接收到NALU序号是否有不连续,获知哪些NALU丢失了。从而可以实行针对丢失数据的误码掩盖策略。采用NALU序号来进行统计,不但能保证统计信息精确无误,而且直接利用现有数据信息,不需要额外的承载开销。
首先接收端通过识别接收到的NALU头信息获知序号,由序号的不连续检测误码发生,通过前面NALU得知中间缺失的NALU应该承载的压缩视频数据,对误码引起的数据丢失进行定位,比如丢失NALU的前一个NALU承载的是第N帧的第1个Slice,则按传送顺序可以推断丢失NALU所承载的Slice的位置,应该是本帧的后一个Slice。
接着接收端需要进行压缩视频信息的重同步,由于H.264压缩视频码流连续传输过程中,接收端与数据流需要同步,然后才能正确接收,一旦数据流有不连续之后,接收端需要重新进行同步,通过找到不连续处之后的下一个NALU头信息来完成解码器的重同步。这一过程,接收端也需要通过下一个NALU的序号来判断中间丢失的NALU个数及其位置信息。
之后,接收端需要进行误码掩盖,丢失数据的NALU被整个丢弃,因此该NALU所承载整个Slice丢失,误码掩盖策略的一种方式就是简单替代,用时间域或者空间域相邻的数据代替丢失的数据,比如采用丢失数据所在帧的前一帧对应位置的Slice恢复图像数据进行掩盖。
本发明的第一实施例中采用简单实用、计算效率高的接收端误码掩盖方法,而不单独追求掩盖的效果最好,而是综合考虑效果代价比,即在简单复杂度的前提下,实现理想的误码掩盖效果。熟悉本领域的技术人员可以理解,接收端在获知误码信息后,也可以采用掩盖效果较好、计算较复杂的误码掩盖方法,以尽力减少用户视频效果损失,而不影响本发明的实质和范围。
在步骤102中,接收端在获得误码信息后,将其反馈给发送端。反馈误码信息需要一条反馈通道,为了减少网络负担、简化实现机制,本发明的第一实施例中采用现有的H.264通信机制,定义扩展SEI消息,用于承载误码信息建立反馈,以便发送端结合误码信息防止误码扩散。事实上,结合误码信息反馈机制和发送端的误码扩散抑制策略,才能避免因前面接收端实行的误码掩盖策略导致的误码扩散。
利用H.264的扩展SEI消息提供一种从接收端到发送端的信息反馈机制,使得发送端可以及时了解哪些NALU丢失了,这样可以及时进行有效的误码扩散抑制,防止因这些丢失的数据引起以后的误码扩散。事实上,如果误码扩散抑制方法缺乏来自接收端的及时反馈,只在发送端单方面的进行预测和防止扩散,不但其效果会受到影响,而且往往计算复杂度很高。
在H.264体系内部建立信息反馈机制的好处在于节约网络带宽开销、节省系统处理资源、且不影响互通性。下面介绍如何定义扩展SEI消息。如前所述SEI消息也由H.264码流的基本单位NALU所承载,每个SEI域包含一个或多个SEI消息,而SEI消息又由SEI头信息和SEI有效载荷组成。SEI头信息包括两个码字:载荷类型和载荷大小。其中载荷类型的长度不一定,比如类型在0到255之间时用一个字节表示,当类型在256到511之间时用两个字节0xFF00到0xFFFE表示,依次类推,这样用户可以自定义任意多种载荷类型。在现有H.264标准中,类型0到类型18标准中已定义为特定的信息,如缓存周期、图像定时等。由此可见H.264中定义的SEI域可根据需求存放足够多的用户自定义信息。在本发明的第一实施例中,在预留的SEI载荷类型中定义一种用于承载统计信息的扩展SEI消息。
由于SEI消息是附属消息,有无SEI消息不影响正常的视频通信,因此本发明给出的扩展SEI消息并不影响现有的视频流通信,具有通用性。即如果通信双方终端都支持本发明方案,则可以利用SEI消息传递丢包统计数据,从而实施不同能力等级的自适应保护;如果有一方不支持,也不会影响正常的通信。可见,自定义的扩展SEI消息不会影响基于H.264压缩视频通信系统的兼容性。另外,采用SEI消息来传递丢包统计数据的另外一个好处是节省开销,SEI是H.264码流的一部分,利用H.264码流本身来承载丢包统计数据,不需要开辟和维护额外的信道,传输高效、实现简单。
熟悉本领域的技术人员可以理解,接收端到发送端的误码信息反馈通道也可以通过定义通信协议创建专用的通道,或者通过基于H.264的其他预留通道建立,也能实现结合误码掩盖和误码扩散抑制的发明目的,而不影响本发明的实质和范围。
在步骤103中,发送端即开始根据反馈的误码信息进行误码扩散抑制。联合误码信息的误码扩散抑制方法,其效果要比现有的无反馈的误码扩散抑制好。利用误码信息,比如丢失Slice的位置,发送端可以有目的的针对所丢失Slice采取防止措施,比如在以后的编码中避免以丢失Slice作为参考帧,这样可以尽量缩短接收端解码时对该Slice的依赖。
由于H.264编码是基于Slice的,即前后帧的同一Slice的数据是具有参考关联的,后续帧的同一Slice数据是通过前面帧的Slice预测编码的,因此误码扩散也将限定在同一Slice内部。本发明的第二实施例中,采用分段逐次进行帧内编码的策略,即在发送误码之后,对以后帧的该Slice区域分段分割为新的Slice,比如划分处P个宏块作为一个新Slice,然后对其采用帧内编码,以消除该Slice对前面丢失的Slice的参考或依赖。由于H.264压缩视频实时传输系统为了保证传输质量,采用数据率控制方案来限制每帧数据的波动,使得每帧数据量均衡,提高压缩视频传输的稳定性。因此,在每帧中一次进行帧内编码的数据量即宏块数目不能太多,否则将会超过H.264数据率控制范围。
熟悉本领域的技术人员可以理解,发送端在收到反馈误码信息后,可以通过其他方法,比如对丢失Slice做标记,避免以后编码时对其参考等,也能实现结合误码掩盖和误码扩散抑制的发明目的,而不影响本发明的实质和范围。
图2示出了本发明的第二实施例中分段逐次帧内编码的误码扩散抑制的原理。当接收端出现无法恢复的丢包错误后,检测并反馈误码信息给发送端,即丢失数据的Slice所在帧及帧内位置信息通过扩展的SEI消息发回给发送端。发送端从SEI消息中提取丢失的slice位置信息,比如图2中的每帧划分为三个Slice,即Slice#0、Slice#1、Slice#2,而第n帧的Slice#1在传输中丢失,之后需要执行分段逐次帧内编码。
首先,在第n帧中,编码端对Slice#1按宏块扫描顺序,从起始位置开始分割P个宏块组成新的Slice#3,剩余宏块仍然为Slice#1,此时有四个Slice,其中对新的Slice#3进行帧内编码。
接着,在第n+1帧中,上一步中分割新组成的Slice#3在帧内编码之后,作为Slice#3发送出去,而其他Slice仍然按照常规编码。
此后,需要判断Slice#1中是否还剩余宏块,如果还有没有分割的,则返回第一步在下一帧中继续将Slice#1剩余宏块分段组成新的帧,实行帧内编码并发送,直到所有宏块处理完毕。这里存在一个Slice#1中原来宏块数量不是P的整数倍的问题,如果不是,那么最后一次剩余的宏块数目是小于P的。
上面每次划分的宏块个数P应该满足以下条件,尽量大以避免分割次数、减少处理时延、缩短影响范围,但是需要满足前述H.264数据率控制范围。每次划分的宏块个数可以不一样,但最后一次划分的宏块数将使得丢失Slice中的所有宏块都处理完毕。
比如说压缩视频流数据的一帧由396个宏块组成,初始划分每64个宏块为一个Slice,即0-63宏块为Slice#0,64-127宏块为Slice#1,128-191宏块为Slice#2,依此类推。而根据数据率计算确定合适分段数值P为8个宏块一段。则第n帧中丢失Slice#1后,Slice#1的64个宏块应该进行分段逐次帧内编码,首先在第n+1帧中选前8个宏块进行帧内编码组成为Slice#k,这样在第n+2帧中Slice#k即可采用常规预测编码,而接着的8个宏块再进行帧内编码组成Slice#k+1,依次直到第n+8帧时最后剩余为8个宏块进行帧内编码组成Slice#k+7,才完成分段逐次帧内编码的误码扩散方法流程。上述k是一个整数。
最后,从图像和数据上比较一下使用本发明的方法前后的实验结果。
图3给出了根据上述方式进行实验数据测试时产生的误码消除图像效果,可见采用本发明的误码掩盖和误码扩散抑制联合的方法后,得到的视频图像效果非常好。
下面的两个表中从数据上比较了使用误码掩盖和误码扩散抑制算法前后的恢复图像客观质量。这里使用了两个国际通用的测量图像处理压缩编码质量的测试视频序列——Foreman图像序列和Container图像序列。通过峰值信噪比(Peak Signal-to-Noise Ratio,简称“PSNR”)进行比较,PSNR是度量客观质量的最重要标准,数值越高越好。在下面两个表中,PSNR1是未使用本发明的防误码扩散和误码掩盖时的PSRN,PSNR2是使用本发明的防误码扩散和误码掩盖后的PSRN。
Foreman图像序列
丢包率: 0% 2% 4% 6% 8% 10% 12% 14% 16%
PSNR1 36.56 26.69 23.80 21.81 19.32 20.01 18.59 18.74 17.45
PSNR2 36.56 35.22 34.08 33.25 31.94 31.27 30.32 29.63 29.34
Container图像序列
丢包率: 0% 2% 4% 6% 8% 10% 12% 14% 16%
PSNR1 35.97 34.61 32.17 30.84 29.91 28.87 27.71 26.58 25.51
PSNR2 35.97 35.37 34.82 34.65 34.10 33.19 32.33 31.85 31.38
虽然通过参照本发明的某些优选实施例,已经对本发明进行了图示和描述,但本领域的普通技术人员应该明白,可以在形式上和细节上对其作各种改变,而不偏离本发明的精神和范围。

Claims (11)

1.一种基于H.264的压缩视频传输误码消除方法,其特征在于,包含以下步骤,
A接收端统计误码信息,实行误码掩盖策略;
B所述接收端将所述误码信息反馈给发送端;
C所述发送端根据所述误码信息实行误码扩散抑制策略。
2.根据权利要求1所述的基于H.264的压缩视频传输误码消除方法,其特征在于,在所述步骤B中,所述接收端通过定义扩展补偿增强消息来承载所述误码信息,将所述误码信息反馈给所述发送端。
3.根据权利要求2所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述扩展补充增强消息的载荷类型定义为用于承载所述统计信息。
4.根据权利要求1至3中任一项所述的基于H.264的压缩视频传输误码消除方法,其特征在于,在所述步骤C中,所述误码扩散抑制策略包含以下子步骤:
所述发送端根据所述误码信息获得丢失条带的位置信息,通过对该丢失条带进行分段逐次帧内编码消除误码扩散。
5.根据权利要求4所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述分段逐次帧内编码包含以下子步骤,
C1从所述丢失条带中分割出一段连续宏块,组成新条带,剩余的所述宏块仍属于所述丢失条带,进入步骤C2;
C2对所述新条带进行帧内编码,在下一帧时发送,此后该新条带按照H.264的正常规则进行编码,进入步骤C3;
C3在下一帧编码时,判断所述丢失条带是否还包含剩余宏块,如果是,则返回步骤C1。
6.根据权利要求5所述的基于H.264的压缩视频传输误码消除方法,其特征在于,在所述步骤C1中,每次分割出的所述一段连续宏块的大小满足以下条件:
该段宏块进行帧内编码后,本帧的数据率在H.264数据率控制范围内。
7.根据权利要求6所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述步骤C1还包含以下子步骤:
从所述丢失条带所包含的第一个宏块开始分割出一段连续宏块,组成新条带;如果所述丢失条带中当前包含的宏块数目大于或者等于预先设定的参数P,则该连续宏块段包含的宏块数目是P,否则该连续宏块段包含所述丢失条带中的所有宏块;在划分出该连续宏块段后,如果原来的丢失条带中还有剩余的宏块,则这些剩余宏块仍属于所述丢失条带,此后进入所述步骤C2;
其中所述预先设定的参数P满足以下条件:
在进行P个宏块的帧内编码后,本帧的数据率保持在H.264数据率控制范围内。
8.根据权利要求1至3中任一项所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述步骤A包含以下子步骤,
A1所述接收端检测误码,并统计误码信息;
A2所述接收端在检测到误码发生后,进行压缩视频信息重同步;
A3所述接收端根据所述误码信息实行所述误码掩盖策略。
9.根据权利要求8所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述步骤A1中,所述接收端根据网络抽象层单元序号的不连续情况情况来检测并统计误码信息。
10.根据权利要求9所述的基于H.264的压缩视频传输误码消除方法,其特征在于,在所述步骤A1中,所述接收端根据所述网络抽象层单元序号的不连续情况获得丢失条带的位置信息,该位置信息包含所述丢失条带所在的帧序列号和所述丢失条带在该帧内的位置。
11.根据权利要求10所述的基于H.264的压缩视频传输误码消除方法,其特征在于,所述误码掩盖策略可以包含以下步骤:
所述接收端用所述丢失条带所在帧的前一帧的对应位置上的相应条带,来替代该丢失条带。
CNB2005100343360A 2005-04-20 2005-04-20 基于h.264的压缩视频传输误码消除方法 Expired - Fee Related CN100459717C (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CNB2005100343360A CN100459717C (zh) 2005-04-20 2005-04-20 基于h.264的压缩视频传输误码消除方法
PCT/CN2006/000722 WO2006111087A1 (en) 2005-04-20 2006-04-19 H.264-based error eliminating method for compressed video transmission
US11/874,680 US20080095246A1 (en) 2005-04-20 2007-10-18 Method, receiver and transmitter for eliminating errors in h.264 compressed video transmission

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNB2005100343360A CN100459717C (zh) 2005-04-20 2005-04-20 基于h.264的压缩视频传输误码消除方法

Publications (2)

Publication Number Publication Date
CN1856112A true CN1856112A (zh) 2006-11-01
CN100459717C CN100459717C (zh) 2009-02-04

Family

ID=37114717

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2005100343360A Expired - Fee Related CN100459717C (zh) 2005-04-20 2005-04-20 基于h.264的压缩视频传输误码消除方法

Country Status (3)

Country Link
US (1) US20080095246A1 (zh)
CN (1) CN100459717C (zh)
WO (1) WO2006111087A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008071085A1 (en) * 2006-12-12 2008-06-19 Huawei Technologies Co., Ltd. Method and system of error concealment
CN101682786A (zh) * 2007-05-16 2010-03-24 汤姆森特许公司 解码多视图视频编码信息中使用码片组的方法和装置
CN101964913A (zh) * 2010-08-27 2011-02-02 南京邮电大学 基于模糊分类的帧间误码掩盖方法
WO2011012009A1 (zh) * 2009-07-29 2011-02-03 中兴通讯股份有限公司 无线视频通讯系统中差错控制的方法、装置及系统
CN101983509A (zh) * 2008-04-07 2011-03-02 高通股份有限公司 响应于错误反馈的视频刷新自适应算法
CN102025993A (zh) * 2010-12-17 2011-04-20 深圳中兴力维技术有限公司 一种基于h.264的视频传输方法及系统
CN101227619B (zh) * 2008-01-29 2011-06-15 华为技术有限公司 一种实现视频解码中图像错误掩盖的方法及视频解码器
CN101998141B (zh) * 2008-06-19 2013-06-05 华为技术有限公司 视频数据的打包、编解码方法及装置及系统
CN108235150A (zh) * 2018-01-03 2018-06-29 厦门亿联网络技术股份有限公司 一种网络传输特性友好的实时图像自适应恢复系统及方法
CN110139150A (zh) * 2019-04-12 2019-08-16 北京物资学院 一种视频处理方法及装置
CN110248221A (zh) * 2019-06-18 2019-09-17 北京物资学院 一种视频广告动态插入方法及装置
CN111385022A (zh) * 2018-12-29 2020-07-07 深圳市海思半导体有限公司 误码检测方法及相关设备
CN114338466A (zh) * 2021-12-21 2022-04-12 卡斯柯信号有限公司 一种自适应的丢包检测方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2147558A2 (en) 2007-04-17 2010-01-27 Nokia Corporation Feedback based scalable video coding
TW201032535A (en) * 2008-10-14 2010-09-01 Ibm A method of handling a message
CN102959976B (zh) * 2010-04-30 2016-01-20 汤姆森特许公司 评估视频流质量的方法及设备
WO2012008037A1 (ja) * 2010-07-15 2012-01-19 富士通株式会社 動画像復号装置、動画像復号方法及び動画像符号化装置ならびに動画像符号化方法
US8831108B2 (en) * 2011-05-04 2014-09-09 Cavium, Inc. Low latency rate control system and method
CN102438151B (zh) * 2011-12-14 2013-07-03 哈尔滨工业大学 一种嵌入数字水印的视频流媒体传输信道的差错控制方法
US9426462B2 (en) 2012-09-21 2016-08-23 Qualcomm Incorporated Indication and activation of parameter sets for video coding
CN104486633B (zh) * 2014-11-11 2019-01-18 三星电子(中国)研发中心 视频错误掩藏方法及装置
JP2016197360A (ja) * 2015-04-06 2016-11-24 富士通株式会社 情報処理装置、情報処理装置の制御プログラム及び情報処理装置の制御方法
US10595025B2 (en) 2015-09-08 2020-03-17 Microsoft Technology Licensing, Llc Video coding
US10313685B2 (en) * 2015-09-08 2019-06-04 Microsoft Technology Licensing, Llc Video coding
US20180083750A1 (en) * 2016-09-22 2018-03-22 Mediatek Inc. Design For Communication Systems Suffering Burst Error
US11039149B2 (en) * 2019-08-01 2021-06-15 Qualcomm Incorporated Dynamic video insertion based on feedback information

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5550847A (en) * 1994-10-11 1996-08-27 Motorola, Inc. Device and method of signal loss recovery for realtime and/or interactive communications
US6421387B1 (en) * 1998-05-15 2002-07-16 North Carolina State University Methods and systems for forward error correction based loss recovery for interactive video transmission
GB2347038A (en) * 1999-02-18 2000-08-23 Nokia Mobile Phones Ltd A video codec using re-transmission
KR100677083B1 (ko) * 2000-01-27 2007-02-01 삼성전자주식회사 디지털 영상 데이터 통신 시스템에서의 오류 전파 억제를위한 송수신 데이터의 처리 방법 및 이를 위한 기록 매체
US6910175B2 (en) * 2001-09-14 2005-06-21 Koninklijke Philips Electronics N.V. Encoder redundancy selection system and method
CN1210962C (zh) * 2002-06-19 2005-07-13 华为技术有限公司 视讯图像传输的主动防错方法
CN100568964C (zh) * 2003-02-18 2009-12-09 诺基亚有限公司 图像解码方法
US20050008240A1 (en) * 2003-05-02 2005-01-13 Ashish Banerji Stitching of video for continuous presence multipoint video conferencing
JP4244159B2 (ja) * 2003-05-16 2009-03-25 株式会社エヌ・ティ・ティ・ドコモ 受信装置、通信システムおよびプログラム
JP2007535875A (ja) * 2004-04-30 2007-12-06 ワールドゲイト・サービス・インコーポレイテッド 適応映像電話システム
EP1603339A1 (en) * 2004-06-01 2005-12-07 STMicroelectronics S.r.l. Method and system for communicating video data in a packet-switched network, related network and computer program product therefor
US20060133495A1 (en) * 2004-12-22 2006-06-22 Yan Ye Temporal error concealment for video communications
US8634413B2 (en) * 2004-12-30 2014-01-21 Microsoft Corporation Use of frame caching to improve packet loss recovery

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008071085A1 (en) * 2006-12-12 2008-06-19 Huawei Technologies Co., Ltd. Method and system of error concealment
CN101682786A (zh) * 2007-05-16 2010-03-24 汤姆森特许公司 解码多视图视频编码信息中使用码片组的方法和装置
CN101682786B (zh) * 2007-05-16 2016-05-18 汤姆森特许公司 解码多视图视频编码信息中使用码片组的方法和装置
US10158886B2 (en) 2007-05-16 2018-12-18 Interdigital Madison Patent Holdings Methods and apparatus for the use of slice groups in encoding multi-view video coding (MVC) information
US9883206B2 (en) 2007-05-16 2018-01-30 Thomson Licensing Methods and apparatus for the use of slice groups in encoding multi-view video coding (MVC) information
CN101227619B (zh) * 2008-01-29 2011-06-15 华为技术有限公司 一种实现视频解码中图像错误掩盖的方法及视频解码器
CN101983509B (zh) * 2008-04-07 2013-11-13 高通股份有限公司 响应于错误反馈的视频刷新自适应算法
US9479800B2 (en) 2008-04-07 2016-10-25 Qualcomm Incorporated Video refresh adaptation algorithms responsive to error feedback
CN101983509A (zh) * 2008-04-07 2011-03-02 高通股份有限公司 响应于错误反馈的视频刷新自适应算法
US8406296B2 (en) 2008-04-07 2013-03-26 Qualcomm Incorporated Video refresh adaptation algorithms responsive to error feedback
CN101998141B (zh) * 2008-06-19 2013-06-05 华为技术有限公司 视频数据的打包、编解码方法及装置及系统
CN101990092A (zh) * 2009-07-29 2011-03-23 中兴通讯股份有限公司 无线视频通讯系统中差错控制的方法、装置及系统
CN101990092B (zh) * 2009-07-29 2015-04-01 中兴通讯股份有限公司 无线视频通讯系统中差错控制的方法、装置及系统
WO2011012009A1 (zh) * 2009-07-29 2011-02-03 中兴通讯股份有限公司 无线视频通讯系统中差错控制的方法、装置及系统
CN101964913A (zh) * 2010-08-27 2011-02-02 南京邮电大学 基于模糊分类的帧间误码掩盖方法
CN102025993A (zh) * 2010-12-17 2011-04-20 深圳中兴力维技术有限公司 一种基于h.264的视频传输方法及系统
CN102025993B (zh) * 2010-12-17 2014-01-08 深圳中兴力维技术有限公司 一种基于h.264的视频传输方法及系统
CN108235150A (zh) * 2018-01-03 2018-06-29 厦门亿联网络技术股份有限公司 一种网络传输特性友好的实时图像自适应恢复系统及方法
WO2019134255A1 (zh) * 2018-01-03 2019-07-11 厦门亿联网络技术股份有限公司 一种网络传输特性友好的实时图像自适应恢复系统及方法
CN111385022A (zh) * 2018-12-29 2020-07-07 深圳市海思半导体有限公司 误码检测方法及相关设备
CN110139150A (zh) * 2019-04-12 2019-08-16 北京物资学院 一种视频处理方法及装置
CN110248221A (zh) * 2019-06-18 2019-09-17 北京物资学院 一种视频广告动态插入方法及装置
CN114338466A (zh) * 2021-12-21 2022-04-12 卡斯柯信号有限公司 一种自适应的丢包检测方法
CN114338466B (zh) * 2021-12-21 2023-10-31 卡斯柯信号有限公司 一种自适应的丢包检测方法

Also Published As

Publication number Publication date
WO2006111087A1 (en) 2006-10-26
CN100459717C (zh) 2009-02-04
US20080095246A1 (en) 2008-04-24

Similar Documents

Publication Publication Date Title
CN1856112A (zh) 基于h.264的压缩视频传输误码消除方法
CN102036061B (zh) 视频数据传输处理、发送处理方法、装置和网络系统
CN101578869B (zh) 用于自动视觉伪影分析和伪影减轻的方法和装置
FI115589B (fi) Redundanttien kuvien koodaaminen ja dekoodaaminen
CN101222296B (zh) 上行蜂窝视频通信中自适应的传输方法及系统
CN100558167C (zh) 多媒体视频通信方法及系统
CN101304537B (zh) 3g-ip无线视频传输系统
CN1856111B (zh) 视频信号编解码方法、编解码器及其相关的设备
JP5721699B2 (ja) 無線通信装置及び無線通信方法
CN1781314A (zh) 图像编码方法
CN1361991A (zh) 视频编码
CN1845611A (zh) 基于h.264的视频传输保护方法
KR20070044455A (ko) 비디오 압축에 대한 인코더 보조-프레임 레이트 업컨버젼(ea-fruc)을 위한 방법 및 장치
CN1893663A (zh) 多媒体通信的传输保护方法
Chen et al. Efficient mobile video streaming via context-aware raptorq-based unequal error protection
CN103918258A (zh) 减少视频编码中的数据量
CN1197256C (zh) 通信系统,发射机,保护传输差错的方法
CN1210962C (zh) 视讯图像传输的主动防错方法
Zhai et al. A rate-distortion optimized error control scheme for scalable video streaming over the internet
Ho et al. QoS-supporting video streaming system with minimum data service cost over heterogeneous wireless networks
WO2006054206A2 (en) Method of determining a corruption indication of a sequence of encoded data frames
WO2010014239A2 (en) Staggercasting with hierarchical coding information
US20140289369A1 (en) Cloud-based system for flash content streaming
EP4369709A1 (en) Methods and systems for quality of experience-centric adaptive bitrate encoding for live video streaming
Agueh et al. Optimal switching for smart and robust JPEG 2000 images and video transmission over wireless networks

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20160503

Address after: American California

Patentee after: Snaptrack, Inc.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Patentee before: Huawei Technologies Co., Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20090204

Termination date: 20190420