CN105812803A - 一种针对变换单元tu的残差舍弃方法及装置 - Google Patents

一种针对变换单元tu的残差舍弃方法及装置 Download PDF

Info

Publication number
CN105812803A
CN105812803A CN201410853574.3A CN201410853574A CN105812803A CN 105812803 A CN105812803 A CN 105812803A CN 201410853574 A CN201410853574 A CN 201410853574A CN 105812803 A CN105812803 A CN 105812803A
Authority
CN
China
Prior art keywords
residual error
error coefficient
zero residual
current
zero
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410853574.3A
Other languages
English (en)
Other versions
CN105812803B (zh
Inventor
陈秀丽
林聚财
张兴明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Dahua Technology Co Ltd
Original Assignee
Zhejiang Dahua Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Dahua Technology Co Ltd filed Critical Zhejiang Dahua Technology Co Ltd
Priority to CN201410853574.3A priority Critical patent/CN105812803B/zh
Publication of CN105812803A publication Critical patent/CN105812803A/zh
Application granted granted Critical
Publication of CN105812803B publication Critical patent/CN105812803B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种针对变换单元TU的残差舍弃方法及装置,主要内容包括:确定所述TU中的系数组CG;遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数;针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将所述最后一个非零残差系数对应的残差舍弃,由于在编码过程中,最后一个非零残差系数的位置非常关键,其影响了编码复杂度以及比特,因此,将其舍弃之后,可以很大程度上降低编码的复杂度,节约编码码率。而且,从每个非零残差系数的角度进行舍弃,可以提高残差处理的准确性。

Description

一种针对变换单元TU的残差舍弃方法及装置
技术领域
本发明涉及通信技术领域,尤其涉及一种针对变换单元TU的残差舍弃方法及装置。
背景技术
随着数字视频技术的快速发展,以及用户对视频质量的高标准要求,促使视频应用逐渐向高清晰度、高帧率以及高压缩率的方向发展。为此,JCT-VC工作组制定了高清视频编码(HighEfficiencyVideoCoding,HEVC)标准,用以解决高清视频及超高清视频中急剧增长的数据率给网络传输带来的冲击。
HEVC标准中,对编码技术进行了大量改进与创新,如高精度运动补偿技术、多角度帧内预测技术、运动估计融合技术和自适应偏移滤波技术等,相比H.264标准而言,HEVC标准在相同的视频质量下可以节省50%左右的码率(即比特率),但是却比H.264标准下进行编码的复杂度增加了3倍以上。HEVC标准之所以能实现高压缩性能,其原因之一就是采用了残量四叉树RQT(ResidualQuadtree)编码方法,该方法针对不同尺寸的TU(TransformUnit变换单元)递归遍历以得到最优TU划分结构。
由于当前编码单元中可能存在残差,因此,针对未包含残差的编码单元,其编码方式较为简单,只需编码相应块标识即可;但是,对于包含有残差(变换量化后的残差,这一量化过程是有损失的,有的位置处的残差系数可能会为零)的编码单元,需要确定当前TU中非零残差系数(残差块)的位置,然后,按照预设的扫描方式(一般采用对角扫描,也可以采用水平扫描和垂直扫描)对当前TU的非零残差系数进行扫描,具体地,如图1(a)所示,首先,定义该TU中的每个系数组CG:CG0-CG3;然后,按照预设扫描方式(一般采用对角扫描,其他也可以采用水平扫描或垂直扫描)对该TU中的所有CG进行扫描,从CG0开始,扫描整个TU,从而,最终确定出当前TU中所有非零残差系数的数目。假设当前确定出的非零残差系数所在的位置分布为如图1(b)所示,当前非零残差系数所在位置依次为x0-x10、x15、x20、x30、x45、x46、x57、x60(每一位置可以理解为一像素单元),则当前TU中x60位置处的非零残差系数为最后一个非零残差系数。接下来,按照逆扫描的顺序从最后一个非零残差系数开始对当前TU中的所有CG中的每个残差系数进行编码。
但是,上述针对当前TU中的所有残差系数对应的残差,需要利用较大比特数目进行编码,尤其是最后一个非零残差系数对应的位置处的残差需要的编码比特数更多,而且最后一个非零残差系数所在的位置对整个TU的编码的比特影响很大,影响编码速率,降低了编码效率。
发明内容
本发明实施例提供一种针对变换单元TU的残差舍弃方法及装置,用以解决现有技术中存在的针对TU进行编码需要较大比特数目以及编码速率较低的问题。
本发明实施例采用以下技术方案:
一种针对变换单元TU的残差处理方法,所述方法包括:
确定所述TU中的系数组CG;
遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数;
针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将所述最后一个非零残差系数对应的残差舍弃;
其中,所述预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且所述非零残差系数的幅值小于预设阈值,与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
一种针对变换单元TU的残差处理装置,所述装置包括:
确定单元,用于确定所述TU中的系数组CG;
遍历单元,用于遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数;
舍弃单元,用于针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将该CG中非零残差系数对应的残差舍弃;
其中,所述预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且所述非零残差系数的幅值小于预设阈值,与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
在本发明实施例中,针对最后一个非零残差系数对应的残差所在的像素单元,可以将该非零残差系数所在的CG满足预设约束条件时,将最后一个非零残差系数对应的残差舍弃,由于在编码过程中,最后一个非零残差系数的残差非常关键,其影响了编码复杂度以及比特,因此,将其舍弃之后,可以很大程度上降低编码的复杂度,节约编码码率。而且,从像素单元角度进行舍弃,可以提高残差处理的准确性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1(a)为现有技术中提供的包含4个CG的TU结构示意图;
图1(b)为现有技术中提供的包含4个CG的TU中统计的非零残差系数所在位置的结构示意图;
图2为本发明实施例提供的一种针对变换单元TU的残差处理方法流程图;
图3为本发明实例1提供的一种针对TU1的残差处理方法流程图;
图4为本发明实例2提供的一种针对TU2的残差处理方法流程图;
图5为本发明实施例提供的TU2的尺寸为16x16的结构示意图;
图6为本发明实施例提供的一种针对变换单元TU的残差处理装置的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
下面通过具体的实施例对本发明的技术方案进行详细描述,本发明包括但并不限于以下实施例。
如图2所示,为本发明实施例提供的一种针对变换单元TU的残差处理方法,该方法可针对任一尺寸的TU进行残差处理,主要包括以下步骤:
步骤101:确定所述TU中的系数组CG。
具体地,根据当前的TU的尺寸,确定当前TU中的CG的个数。
步骤102:遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数。
具体地,可以通过对角扫描方式从TU的最后一个CG开始遍历扫描每个CG,统计每个CG中包含的非零残差系数;也可以通过逆扫描方式从TU的最后一个CG开始遍历扫描每个CG,统计每个CG中包含的非零残差系数,本发明并不对统计非零残差系数时采用的遍历扫描方式进行限定。
步骤103:针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将最后一个非零残差系数对应的残差舍弃。
其中,预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且所述非零残差系数的幅值小于预设阈值,与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
由于在残差编码过程中,当前TU的最后一个非零残差系数对应的残差所在的位置非常重要,在最后对其进行编码的过程中,不仅需要较多的比特对其进行编码,而且,其成为影响当前TU残差编码的关键因素,严重影响到残差编码的复杂度。因此,在本发明实施例中,以对当前TU中最后一个非零残差系数对应的残差进行残差处理为主。
通过上述方案,以最后一个非零残差系数对应的残差所在的像素单元进行残差处理,在最后一个非零残差系数所在的CG满足预设约束条件时,即可将该非零残差系数对应的残差舍弃,从而,不必对该残差进行编码,节约了编码码率,降低了编码复杂度。
在舍弃当前TU中满足预设约束条件的CG中的非零残差系数对应的残差之后,还可以进一步对该TU中的其他CG中的非零残差系数进行处理。优选地,在将最后一个非零残差系数对应的残差舍弃之后,还包括:以逆扫描方式遍历其他的包含非零残差系数的CG,在确定任一CG满足预设约束条件时,将该CG中非零残差系数对应的残差舍弃。
优选地,在舍弃残差之后,还包括:判断舍弃残差后的当前TU中是否还包含非零残差系数,若是,则不对当前的编码标识进行修改,否则,将当前的编码标识设置为零残差编码标识。
优选地,针对最后一个包含非零残差系数的CG,该预设约束条件具体为:当前CG中包含有一个非零残差系数,且非零残差系数的幅值为1,位于当前CG之前的第二预设个数的CG中不包含非零残差系数。
优选地,针对当前TU中的所有包含非零残差系数的CG,该预设约束条件具体为:当前CG中包含有一个非零残差系数或两个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG的扫描序号之前的两个CG中不包含非零残差系数,且位于当前CG的扫描序号之后的一个CG中不包含非零残差系数。
需要说明的是,在本发明实施例中,非零残差系数的幅值可以理解为非零残差系数的绝对值,因此,本发明中涉及的非零残差系数的幅值为1可以理解为该非零残差系数为1或-1。
由上述整体方案可知,在对TU中的残差进行处理时,可以分别从两个级别进行残差处理:像素单元级别和CG级别;像素单元级别是仅对最后一个非零残差系数的残差所在的像素单元进行残差处理,CG级别是从最后一个包含非零残差系数的CG开始,以逆扫描顺序逐一对各个包含非零系数的CG进行残差处理。
下面通过两个实例对以上方案进行更为详尽的描述。
实例1:仅对最后一个非零残差系数的残差所在的像素单元进行残差处理。
如图3所示,为本发明实例1提供的一种针对TU1的残差处理方法流程图,该流程包括以下步骤:
步骤201:根据当前TU1的尺寸确定该TU1中包含的CG的数目。
由于CG为4x4的像素单元矩阵,因此,若当前待处理的TU1的尺寸为8x8,仍如图1(a)和1(b)所示,该TU1中一共包括CG0-CG3这4个CG,每个CG的标号代表对角扫描方式时的顺序。而且,该TU中包含x0-x63这64个像素单元,每个像素单元的标号也代表了对角扫描方式时的顺序。
步骤202:按照逆扫描顺序从最后一个CG开始遍历扫描,统计每个CG内的非零残差系数。
步骤203:根据扫描结果确定该TU中最后一个非零残差系数所在的CG。
步骤204:判断确定的该CG是否满足预设约束条件,若满足,则执行步骤205,否则,执行步骤208。
其中,预设约束条件为:当前的CG中仅包含一个非零残差系数,且该非零残差系数的幅值为1或-1;以及,当前的CG之前的第二预设个数的CG中均不包含非零残差系数,其中,第二预设个数与当前TU的尺寸正相关。
第二预设个数与当前TU的尺寸正相关,具体为:若当前TU尺寸为8x8,则第二预设个数可以为2,若当前TU尺寸为16x16,则第二预设个数可以为3,若当前TU尺寸为32x32,则第二预设个数可以为4。在本发明中,第二预设个数仅体现为当前CG中非零残差系数所在位置与相邻的包含有非零残差系数的CG中非零残差系数所在位置之间的距离。若TU尺寸较小,则当前CG与相邻(逆扫描顺序相邻)的包含有非零残差系数的CG的距离可以较近一些,例如相距2个CG的距离。
步骤205:将确定的最后一个非零残差系数对应的残差舍弃。
在本发明实施例中,由于最后一个非零残差系数所在的CG满足上述预设约束条件,因此,该CG中仅包含所述的最后一个非零残差系数,舍弃确定的最后一个非零残差系数之后,该CG中的残差系数全为零。
步骤206:判断舍弃残差后的当前TU中是否还包含非零残差系数,若是,则执行步骤207,否则,执行步骤208。
步骤207:将当前TU的CBF值设置为零。
在该实例1中,针对最后一个非零残差系数对应的残差所在的像素单元,可以将该非零残差系数所在的CG满足预设约束条件时,将最后一个非零残差系数对应的残差舍弃,由于在编码过程中,最后一个非零残差系数的残差非常关键,其影响了编码复杂度以及比特,因此,将其舍弃之后,可以很大程度上降低编码的复杂度,节约编码码率。而且,从像素单元角度进行舍弃,可以提高残差处理的准确性。
实例2:从最后一个包含非零残差系数的CG开始,以逆扫描顺序逐一对各个包含非零系数的CG进行残差处理。
如图4所示,为本发明实例2提供的一种针对TU2的残差处理方法流程图,该流程包括以下步骤:
步骤301:根据当前TU2的尺寸确定该TU2中包含的CG的数目。
由于CG为4x4的像素单元矩阵,因此,若当前待处理的TU2的尺寸为16x16,如图5所示,该TU2中一共包括CG0-CG15这16个CG,每个CG的标号代表对角扫描方式时的顺序。由于该实例2中是以CG为级别进行处理的,因此,该图6中并未示出每个CG中具体包含的像素单元。
步骤302:按照逆扫描顺序从最后一个CG开始遍历扫描,统计每个CG内的非零残差系数。
步骤303:将最后一个CG作为待处理的CG。
步骤304:判断当前待处理的CG是否满足预设约束条件,若满足,则执行步骤305,否则,执行步骤308。
其中,预设约束条件为:当前的CG中包含一个或两个非零残差系数,且该非零残差系数的幅值为1或-1;以及,位于当前CG的扫描序号之前的两个CG中不包含非零残差系数,且位于当前CG的扫描序号之后的一个CG中不包含非零残差系数。
步骤305:将当前CG中的非零残差系数对应的残差舍弃。
在本发明实施例中,由于当前CG满足上述预设约束条件,即该CG中的非零残差系数的个数较少,非零残差系数的幅值较小,且该CG与相邻的包含有非零残差系数的CG相距较远。因此,可以将非零残差系数对应的残差舍弃。即该CG中的各个像素单元的残差系数均为零。
步骤306:判断当前CG是否为扫描序号最小的CG,若是,则执行步骤308,否则,执行步骤307。
步骤307:按照逆扫描顺序将与当前CG相邻的下一个CG作为待处理的CG,并跳转至步骤304。
步骤308:判断舍弃残差后的当前TU2中是否还包含非零残差系数,若是,则执行步骤310,否则,执行步骤309。
步骤309:将当前TU的CBF值设置为零。
在该实例2中,按照逆扫描顺序对当前TU2中的每一个CG进行残差处理,可以在当前待处理的CG满足预设约束条件时,将当前CG中的非零残差系数对应的残差舍弃,从而,逐一对TU2中的各个CG进行了残差处理,将其影响满足预设约束条件的CG中的非零残差系数对应的残差舍弃,从而,可以很大程度上降低编码的复杂度,节约编码码率。
在本发明实施例中,通过上述方案可知,在针对编码单元的残差(即非零残差系数所在的像素单元)进行处理时,并不局限于目前在TU划分方式上进行的考虑,进行TU级别的残差舍弃,而是基于CG对当前TU中的残差进行分析,并细化到4x4大小的像素单元,其分析处理的准确性较高;而且,通过将能够反映残差的非零残差系数来进行分析,以CG为单位分析非零残差系数的数目和幅值,能够将残差较小、能量分散和不影响重构视频质量的残差舍弃;另外,从残差内部考虑,在每一种TU划分方式下均可进行残差舍弃(之所以在每一种划分方式下进行残差舍弃,是为了寻找在残差舍弃的情况下最佳的划分方式;残差舍弃后会影响率失真代价值,因此在TU划分时进行残差舍弃,才可以遍历每一种进行残差舍弃的TU划分方式,进而确定最佳的进行残差舍弃的划分方式。当然也可以在最后确定划分方式时进行残差舍弃,但是这样舍弃后代价值会改变,当前划分方式不一定是最佳的划分方式;获得最佳划分方式,可在残差舍弃的情况下尽可能保证性能),并最终确定最优的TU划分方式对编码单元进行编码,是由于本发明实施例中对残差进行了舍弃,因此,在编码过程中可节省较多的比特。最为关键的是,由于残差编码中最后一个非零残差系数(残差位置)十分重要,不仅需要较多的比特进行编码,也会影响整个TU块的残差编码复杂度,因此,重点考虑当前TU中的最后一个非零残差系数,利用高频、低频系数频域特性来确定最后一个非零残差系数是否舍弃,相对比较准确,可有效节省残差编码所需的比特。因此本发明在基本不影响视频质量的前提下,节约了编码码率,从而提高了编码性能。
同时,根据测试结果可以看到在BDBR变好的情况下,该方案也可有效降低码率,因此,在视频质量要求不是特别高,且不影响主观感受的情况下,可选择该残差舍弃方案,能有效节省带宽,使视频播放更流畅。由于分析时细化到4×4大小的块,舍弃的残差都是比较小且能量较分散的,对应的视频纹理特征不丰富,因此,即使将这部分残差舍弃,视觉上对重构图像几乎感觉不出差异,实验结果也证明,本发明能有效保证视频序列的主观质量。
此外,通过设定简单的条件来进行残差舍弃,只需要以CG为单位统计TU中的非零残差系数数目和幅值即可,不需要经过复杂的计算,计算量很小,易于用于实际应用。从而,引入额外的计算复杂度很小,方便用于实际应用。
基于与本发明实施例提供的一种针对变换单元TU的残差处理方法,本发明实施例还提供了一种针对变换单元TU的残差处理装置。
如图6所示,为本发明实施例提供的一种针对变换单元TU的残差处理装置的结构示意图,该装置主要包括:
确定单元401,用于确定所述TU中的系数组CG。具体地,该确定单元401可根据当前的TU的尺寸,确定当前TU中的CG的个数。
遍历单元402,用于遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数。具体地,该遍历单元402可以通过对角扫描方式从TU的最后一个CG开始遍历扫描每个CG,统计每个CG中包含的非零残差系数;也可以通过逆扫描方式从TU的最后一个CG开始遍历扫描每个CG,统计每个CG中包含的非零残差系数,本发明并不对统计非零残差系数时采用的遍历扫描方式进行限定。
舍弃单元403,用于针对所述TU中最后一个非零残差系数,在确定最后一个非零残差系数所在的CG满足预设约束条件时,将该CG中非零残差系数对应的残差舍弃;其中,预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且非零残差系数的幅值小于预设阈值,与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
优选地,舍弃单元403,还用于在将最后一个非零残差系数对应的残差舍弃之后,以逆扫描方式遍历其他的包含非零残差系数的CG,在确定任一CG满足预设约束条件时,将该CG中非零残差系数对应的残差舍弃。
优选地,该装置还包括:设置单元,用于在舍弃单元403将残差舍弃之后,判断舍弃残差后的当前TU中是否还包含非零残差系数,若是,则不对当前的编码标识进行修改,否则,将当前的编码标识设置为零残差编码标识。
优选地,针对最后一个非零残差系数所在的CG,预设约束条件具体为:当前CG中包含有一个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG之前的第二预设个数的CG中不包含非零残差系数,其中,所述第二预设个数与当前TU的尺寸正相关。
优选地,针对当前TU中所有包含非零残差系数的CG,预设约束条件具体为:当前CG中包含有一个非零残差系数或两个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG的扫描序号之前的两个CG中不包含非零残差系数,且位于当前CG的扫描序号之后的一个CG中不包含非零残差系数。
本发明通过分析残差数据结构特性,提出了非零残差系数、非零残差系数的幅值以及相邻CG块的残差系数满足一定条件时,舍弃TU中最后一个包含非零残差系数的像素单元或CG的残差。当然还可以基于其他特征条件选择舍弃残差,凡是利用非零残差系数的个数、幅值以及非零残差系数之间的距离、CG数目、相邻CG残差等特征条件衍生出的其他条件来确定是否进行舍弃残差的方法都应该属于本专利的保护范围之内。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和替换,这些改进和替换也应视为本发明的保护范围。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种针对变换单元TU的残差处理方法,其特征在于,所述方法包括:
确定所述TU中的系数组CG;
遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数;
针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将所述最后一个非零残差系数对应的残差舍弃;
其中,所述预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且所述非零残差系数的幅值小于预设阈值,且与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
2.如权利要求1所述的方法,其特征在于,在将所述最后一个非零残差系数对应的残差舍弃之后,还包括:
以逆扫描方式遍历其他的包含非零残差系数的CG,在确定任一CG满足所述预设约束条件时,将该CG中非零残差系数对应的残差舍弃。
3.如权利要求1或2所述的方法,其特征在于,在舍弃残差之后,还包括:
判断舍弃所述残差后的当前TU中是否还包含非零残差系数,若是,则不对当前的编码标识进行修改,否则,将当前的编码标识设置为零残差编码标识。
4.如权利要求1所述的方法,其特征在于,针对最后一个非零残差系数所在的CG,所述预设约束条件具体为:当前CG中包含有一个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG之前的第二预设个数的CG中不包含非零残差系数,其中,所述第二预设个数与当前TU的尺寸正相关。
5.如权利要求2所述的方法,其特征在于,针对当前TU中所有包含非零残差系数的CG,所述预设约束条件具体为:当前CG中包含有一个非零残差系数或两个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG的扫描序号之前的两个CG中不包含非零残差系数,且位于当前CG的扫描序号之后的一个CG中不包含非零残差系数。
6.一种针对变换单元TU的残差处理装置,其特征在于,所述装置包括:
确定单元,用于确定所述TU中的系数组CG;
遍历单元,用于遍历扫描所述TU的每个CG,统计每个CG中包含的非零残差系数;
舍弃单元,用于针对所述TU中最后一个非零残差系数,在确定所述最后一个非零残差系数所在的CG满足预设约束条件时,将该CG中非零残差系数对应的残差舍弃;
其中,所述预设约束条件为:当前CG中包含有第一预设个数的非零残差系数,且所述非零残差系数的幅值小于预设阈值,与当前CG的扫描序号相邻的第二预设个数的CG中不包含非零残差系数。
7.如权利要求6所述的装置,其特征在于,所述舍弃单元,还用于在将所述最后一个非零残差系数对应的残差舍弃之后,以逆扫描方式遍历其他的包含非零残差系数的CG,在确定任一CG满足所述预设约束条件时,将该CG中非零残差系数对应的残差舍弃。
8.如权利要求6或7所述的装置,其特征在于,还包括:
设置单元,用于在舍弃单元将残差舍弃之后,判断舍弃所述残差后的当前TU中是否还包含非零残差系数,若是,则不对当前的编码标识进行修改,否则,将当前的编码标识设置为零残差编码标识。
9.如权利要求6所述的装置,其特征在于,针对最后一个非零残差系数所在的CG,所述预设约束条件具体为:当前CG中包含有一个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG之前的第二预设个数的CG中不包含非零残差系数,其中,所述第二预设个数与当前TU的尺寸正相关。
10.如权利要求7所述的装置,其特征在于,针对当前TU中所有包含非零残差系数的CG,所述预设约束条件具体为:当前CG中包含有一个非零残差系数或两个非零残差系数,且所述非零残差系数的幅值为1,位于当前CG的扫描序号之前的两个CG中不包含非零残差系数,且位于当前CG的扫描序号之后的一个CG中不包含非零残差系数。
CN201410853574.3A 2014-12-31 2014-12-31 一种针对变换单元tu的残差舍弃方法及装置 Active CN105812803B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410853574.3A CN105812803B (zh) 2014-12-31 2014-12-31 一种针对变换单元tu的残差舍弃方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410853574.3A CN105812803B (zh) 2014-12-31 2014-12-31 一种针对变换单元tu的残差舍弃方法及装置

Publications (2)

Publication Number Publication Date
CN105812803A true CN105812803A (zh) 2016-07-27
CN105812803B CN105812803B (zh) 2018-09-28

Family

ID=56421653

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410853574.3A Active CN105812803B (zh) 2014-12-31 2014-12-31 一种针对变换单元tu的残差舍弃方法及装置

Country Status (1)

Country Link
CN (1) CN105812803B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108259896A (zh) * 2016-12-29 2018-07-06 四川大学 一种利用系数分布特性的哥伦布-莱斯初始参数自适应决策方法
WO2023083225A1 (zh) * 2021-11-11 2023-05-19 杭州海康威视数字技术股份有限公司 视频编解码方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101137047A (zh) * 2006-08-29 2008-03-05 上海杰得微电子有限公司 一种通过有效残差系数分析提高编码效率的方法
CN102377994A (zh) * 2010-08-05 2012-03-14 富士通株式会社 上下文自适应可变长度编码方法和系统
US20130188688A1 (en) * 2012-01-20 2013-07-25 General Instrument Corporation Devices and methods for context reduction in last significant coefficient position coding
US20130202052A1 (en) * 2012-02-06 2013-08-08 Nokia Corporation Method for coding and an apparatus
CN104081773A (zh) * 2012-01-28 2014-10-01 黑莓有限公司 实现模块化处理的上下文建模方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101137047A (zh) * 2006-08-29 2008-03-05 上海杰得微电子有限公司 一种通过有效残差系数分析提高编码效率的方法
CN102377994A (zh) * 2010-08-05 2012-03-14 富士通株式会社 上下文自适应可变长度编码方法和系统
US20130188688A1 (en) * 2012-01-20 2013-07-25 General Instrument Corporation Devices and methods for context reduction in last significant coefficient position coding
CN104081773A (zh) * 2012-01-28 2014-10-01 黑莓有限公司 实现模块化处理的上下文建模方法和装置
US20130202052A1 (en) * 2012-02-06 2013-08-08 Nokia Corporation Method for coding and an apparatus

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108259896A (zh) * 2016-12-29 2018-07-06 四川大学 一种利用系数分布特性的哥伦布-莱斯初始参数自适应决策方法
CN108259896B (zh) * 2016-12-29 2021-10-08 四川大学 一种利用系数分布特性的哥伦布-莱斯初始参数自适应决策方法
WO2023083225A1 (zh) * 2021-11-11 2023-05-19 杭州海康威视数字技术股份有限公司 视频编解码方法及装置

Also Published As

Publication number Publication date
CN105812803B (zh) 2018-09-28

Similar Documents

Publication Publication Date Title
US11750809B2 (en) Encoding and decoding methods and apparatuses with multiple image block division manners
JP5767388B2 (ja) ビデオ符号化方法及び装置、ビデオ復号化方法及び装置
CN103220528B (zh) 通过使用大型变换单元编码和解码图像的方法和设备
WO2020253828A1 (zh) 一种编解码方法、装置及存储介质
TWI656786B (zh) 取樣自適應偏移裝置
CN102598663A (zh) 通过使用旋转变换对图像编码和解码的方法和设备
KR20160104706A (ko) 재귀적 블록 파티셔닝
TW201345265A (zh) 藉由預測階層資料單元的量子化參數對視訊進行編碼/解碼的方法及其裝置
CN104837019B (zh) 基于支持向量机的avs到hevc优化视频转码方法
TW201507439A (zh) 視訊編碼方法與裝置以及非暫時性電腦可讀記錄媒體
JP2013500622A (ja) 映像の符号化方法及び装置、並びに映像の復号化方法及び装置
CN109510987B (zh) 编码树节点划分方式的确定方法、装置及编码设备
CN103596003B (zh) 高性能视频编码的帧间预测快速模式选择方法
CN110351552B (zh) 视频编码中一种快速编码方法
WO2020182102A1 (zh) 进行编码和解码的方法、解码端和编码端
KR20130116215A (ko) 병렬 처리를 위한 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
CN102118615A (zh) 采用可变块大小略过模式的视频编/解码方法和装置
CN110677644B (zh) 一种视频编码、解码方法及视频编码帧内预测器
CN105812803A (zh) 一种针对变换单元tu的残差舍弃方法及装置
CN107820084B (zh) 一种视频感知编码方法及装置
CN111107359A (zh) 一种适用于hevc标准的帧内预测编码单元划分方法
EP3742734A1 (en) Method and device for selecting prediction direction in image encoding, and storage medium
WO2022166370A1 (zh) 视频编解码方法、装置、计算机程序产品、计算机可读存储介质及电子设备
CN105812824A (zh) 一种视频图像编码方法及装置
CN104702954A (zh) 视频编码方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant