CN113573056A - 一种率失真优化量化的方法、装置、存储介质及终端 - Google Patents

一种率失真优化量化的方法、装置、存储介质及终端 Download PDF

Info

Publication number
CN113573056A
CN113573056A CN202110572398.6A CN202110572398A CN113573056A CN 113573056 A CN113573056 A CN 113573056A CN 202110572398 A CN202110572398 A CN 202110572398A CN 113573056 A CN113573056 A CN 113573056A
Authority
CN
China
Prior art keywords
coefficient
quantization
quantization coefficient
candidate
quantized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110572398.6A
Other languages
English (en)
Inventor
向国庆
徐锦畅
张鹏
张广耀
严韫瑶
宋磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Boya Hongtu Video Technology Co ltd
Original Assignee
Hangzhou Boya Hongtu Video Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Boya Hongtu Video Technology Co ltd filed Critical Hangzhou Boya Hongtu Video Technology Co ltd
Priority to CN202110572398.6A priority Critical patent/CN113573056A/zh
Publication of CN113573056A publication Critical patent/CN113573056A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种率失真优化量化的方法,包括:根据待量化变换块生成预量化系数集合;从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数;根据第n位预量化系数的第n‑1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率;根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;基于最优量化系数集合确定待量化变换块的量化结果;获取第n位预量化系数的公式:n=k,k为获取次数。因此本申请可以提升了视频图像的编码效率。

Description

一种率失真优化量化的方法、装置、存储介质及终端
技术领域
本发明涉及数字信号处理技术领域,特别涉及一种率失真优化量化的方法、装置、存储介质及终端。
背景技术
在目前的图像、视频编码技术中,主要通过去除空间冗余、时间冗余(视频领域)与编码冗余来实现压缩,编码器将多种算法有效的结合起来达到较高的压缩性能,主要相关技术包括预测编码、变换编码、量化和熵编码。其中量化通常采用率失真优化量化的方式进行。
率失真优化量化(RateDistortionOptimizationQuantization,RDOQ)是AVS3视频编码标准中一项非常重要的技术,它能够有效的提升编码器的性能,但RDOQ模块需要计算大量码率-失真代价(RD-Cost),该过程通过熵编码来获取率失真优化量化(RDO)过程所需要的码率,由于熵编码自身的特性,导致该过程具备强数据依赖性,难以进行硬件设计。针对这种情况,需要对RDOQ进行算法优化,缓解其数据依赖性。
现有RDOQ算法提前建立码率表格,在RDO过程中只需计算出每个系数对应的表格索引,即可根据索引值直接获取该系数的码率信息。这种方式不需要进行真实的熵编码,在一定程度上缓解了数据依赖性。但表格索引的计算同样存在着依赖性,例如计算图1所示,在计算当前系数对应的若干备选系数的表格索引时,是根据当前系数的前一个系数决策出的最优量化系数进行计算的,也就是说,在计算当前系数的索引时,必须等待前一个系数决策出的最优量化系数才能计算(即串行计算方式),从而导致提升了编码时间,并降低了视频图像数据的编码效率。
发明内容
本申请实施例提供了一种率失真优化量化的方法、装置、存储介质及终端。为了对披露的实施例的一些方面有一个基本的理解,下面给出了简单的概括。该概括部分不是泛泛评述,也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念,以此作为后面的详细说明的序言。
第一方面,本申请实施例提供了一种率失真优化量化的方法,方法包括:
根据待量化变换块生成预量化系数集合;
从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,第一备选系数等于第n位预量化系数,第二备选系数为预量化系数集合中第n位预量化系数的n-1位预量化系数,第三备选系数为0;
根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于各自的索引从预设码率表格中查找第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
根据第一码率、第二码率以及第三码率计算第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;
继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,从预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
基于最优量化系数集合确定待量化变换块的量化结果。
可选的,根据待量化变换块生成预量化系数集合,包括:
获取待量化变换块,并将待量化变换块中各像素的残差系数变换后生成变换系数集合;
预量化变换系数集合中每个变换系数,生成预量化系数集合。
可选的,获取待量化变换块,包括:
根据预设第一尺寸对待编码图像进行划分,生成多个编码单元;
从多个编码单元中确定目标编码单元;
根据预设第二尺寸将目标编码单元进行划分,生成多个变换块;
从多个变换块中获取待量化变换块;
其中,第二尺寸小于第一尺寸。
可选的,基于最优量化系数集合确定待量化变换块的量化结果,包括:
剔除最优量化系数集合中量化系数为0的量化系数,生成非零量化系数集合;
计算非零量化系数集合中各非零量化系数对应的率失真代价,并将率失真代价最小的非零量化系数确定为目标系数;
根据目标系数进行Z字形坐标扫描,生成多个非零系数坐标;
基于多个非零系数坐标确定待量化变换块的量化结果。
可选的,基于多个非零系数坐标确定待量化变换块的量化结果,包括:
获取多个非零系数坐标各自的系数;
从多个非零系数坐标各自的系数中获取大于目标系数的非零系数坐标对应的系数;
将获取的大于目标系数的非零系数坐标对应的系数置零;
生成待量化变换块的量化结果。
可选的,根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引的公式为:
idx=min((qi-1-1),5)<<1+(chtype==Yc)?0:12
其中,min为取最小值操作,qi-1为第n位预量化系数的第n-1位预量化系数,chtype为待量化变换块的通道类型,Yc表示亮度。
第二方面,本申请实施例提供了一种视频图像的编码方法,其特征在于,方法包括:
根据预设尺寸对待编码视频图像进行划分,生成多个编码单元;
针对多个编码单元中每个编码单元进行预测、变换和的率失真优化量化的方法进行量化,生成每个编码单元的值;
对每个编码单元的值进行熵编码以及图像重构,生成编码后的视频图像。
第三方面,本申请实施例提供了一种率失真优化量化的装置,装置包括:
预量化系数集合生成模块,用于根据待量化变换块生成预量化系数集合;
备选系数生成模块,用于从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,第一备选系数等于第n位预量化系数,第二备选系数为预量化系数集合中第n位预量化系数的n-1位预量化系数,第三备选系数为0;
码率生成模块,用于根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于各自的索引从预设码率表格中查找第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
最优量化系数确定模块,用于根据第一码率、第二码率以及第三码率计算第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;
最优量化系数集合生成模块,用于继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,从预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
量化结果生成模块,用于基于最优量化系数集合确定待量化变换块的量化结果。
第四方面,本申请实施例提供一种计算机存储介质,计算机存储介质存储有多条指令,指令适于由处理器加载并执行上述的方法步骤。
第五方面,本申请实施例提供一种终端,可包括:处理器和存储器;其中,存储器存储有计算机程序,计算机程序适于由处理器加载并执行上述的方法步骤。
本申请实施例提供的技术方案可以包括以下有益效果:
在本申请实施例中,率失真优化量化的装置首先根据待量化变换块生成预量化系数集合,再从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数,然后根据第n位预量化系数的第n-1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率,再根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数,其次继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合,最后基于最优量化系数集合确定待量化变换块的量化结果。由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是本申请实施例提供的一种决策最优系数过程图;
图2是本申请实施例提供的一种率失真优化量化的方法的流程示意图;
图3是本申请实施例提供的另一种决策最优系数过程图;
图4是本申请实施例提供的一种率失真优化量化的算法图;
图5是本申请实施例提供的一种视频图像编码流程示意图;
图6是本申请实施例提供的一种率失真优化量化的装置的装置示意图;
图7是本申请实施例提供的一种终端的结构示意图。
具体实施方式
以下描述和附图充分地示出本发明的具体实施方案,以使本领域的技术人员能够实践它们。
应当明确,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
在本发明的描述中,需要理解的是,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。此外,在本发明的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
本申请提供了一种率失真优化量化的方法、装置、存储介质及终端,以解决上述相关技术问题中存在的问题。本申请提供的技术方案中,由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率,下面采用示例性的实施例进行详细说明。
下面将结合附图1-附图4,对本申请实施例提供的率失真优化量化的方法进行详细介绍。该方法可依赖于计算机程序实现,可运行于基于冯诺依曼体系的率失真优化量化的装置上。该计算机程序可集成在应用中,也可作为独立的工具类应用运行。其中,本申请实施例中的率失真优化量化的装置可以为用户终端,包括但不限于:个人电脑、平板电脑、手持设备、车载设备、可穿戴设备、计算设备或连接到无线调制解调器的其它处理设备等。在不同的网络中用户终端可以叫做不同的名称,例如:用户设备、接入终端、用户单元、用户站、移动站、移动台、远方站、远程终端、移动设备、用户终端、终端、无线通信设备、用户代理或用户装置、蜂窝电话、无绳电话、个人数字处理(personal digital assistant,PDA)、5G网络或未来演进网络中的终端设备等。
请参见图2,为本申请实施例提供了一种率失真优化量化的方法的流程示意图。如图2所示,本申请实施例的方法可以包括以下步骤:
S101,根据待量化变换块生成预量化系数集合;
其中,待量化变换块是将图像数据中的编码单元划分后生成的编码块。预量化系数是将编码块的变换系数进行预量化处理后生成的。
通常,在获取待量化变换块时,首先确定待编码图像,根据预设第一尺寸对待编码图像进行划分,生成多个编码单元,再从多个编码单元中确定目标编码单元,然后根据预设第二尺寸将目标编码单元进行划分,生成多个变换块,最后从多个变换块中获取待量化变换块;其中第二尺寸小于第一尺寸。
进一步地,在获取到待量化变换块后,需要将待量化变换块中各像素的残差系数变换后生成变换系数集合。并预量化变换系数集合中每个变换系数,生成预量化系数集合。
具体的,在预量化变换系数集合中每个变换系数的公式为:
Figure BDA0003083047430000071
其中,PQCoeff为预量化系数集合,Round为取整操作,Qstep为量化步长,TranCoeff为变换系数集合。
在一种可能的实现方式中,在率失真优化量化时,首先确定出待量化图像,然后多次划分待量化图像后得到多个块,从多个块中获取某一个块作为待量化变换块,然后将待量化变换块中各像素的残差系数变换后生成变换系数集合,最后采用预量化公式将变换系数集合中每个变换系数进行预量化处理后生成预量化系数集合。
S102,从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,第一备选系数等于第n位预量化系数,第二备选系数为预量化系数集合中第n位预量化系数的n-1位预量化系数,第三备选系数为0;
通常,对于预量化系数集合PQCoeff中的每一个预量化系数qi,需要获取预量化系数qi的前一个预量化系数qi-1。将预量化系数qi作为第一备选系数,将预量化系数qi-1作为第二备选系数,默认0为第三备选系数,最后生成预量化系数qi的三个备选系数分别为:qi、qi-1、以及0。
在一种可能的实现方式中,对于预量化系数集合PQCoeff中的每一个预量化系数qi,需要生成预量化系数qi的三个备选系数,分别为:qi、qi-1、以及0。
例如,预量化系数集合PQCoeff例如表1所示,预量化系数1的三个备选系数分别为:预量化系数1、空(默认0)、0;预量化系数2的三个备选系数分别为:预量化系数2、预量化系数1、0;预量化系数3的三个备选系数分别为:预量化系数3、预量化系数2、0;预量化系数4的三个备选系数分别为:预量化系数4、预量化系数3、0;
表1
Figure BDA0003083047430000081
S103,根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于各自的索引从预设码率表格中查找第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
其中,索引是一种单独的、物理的对数据库表中一列或多列的值进行排序的一种存储结构,它是某个表中一列或若干列值的集合和相应的指向表中物理标识这些值的数据页的逻辑指针清单。预设码率表格可以理解为保存码率的数据字典,可根据索引在数据字典中查找到对应的码率。
通常,现有技术中索引的计算方式例如图1中所示,原始RDOQ的码率估计是依据前一个系数的决策结果(即根据前一个系数决策出的最优系数)计算索引idx,并根据该索引在预定义的码率表格中查找对应的码率,公式如下:
Figure BDA0003083047430000082
其中min为取最小值操作,
Figure BDA0003083047430000083
为根据前一个系数决策出的最优系数,chtype为当前变换块的通道类型,Yc表示亮度。这就意味着每一个系数的决策过程必须等待前一个系数决策结束,所有系数的决策过程只能串行进行。
在本申请实施例中,索引的计算方式例如图3中所示,本申请没有用当前预量化系数的前一个预量化系数的决策结果计算索引,而是直接使用前一个预量化系数计算索引,从而使得所有的系数决策过程能够同时进行,极大的缓解了优化量化过程中的数据依赖性,本申请的索引计算公式为:
idx=min((qi-1-1),5)<<1+(chtype==YC)?0:12;其中,min为取最小值操作,qi-1为第n位预量化系数的第n-1位预量化系数,chtype为待量化变换块的通道类型,Yc表示亮度。
S104,根据第一码率、第二码率以及第三码率计算第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;
在本申请实施例中,率失真代价的计算公式为:RD-Cost(qi)=D(qi)+λ·R(qi);其中,D为失真率函数,R为率失真函数。根据该公式可计算出第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,将生成的3个率失真代价进行降序排列后,取最小的率失真代价值对应的备选系数作为当前位置的最优量化系数。
S105,继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
在本申请实施例中,将预量化系数集合PQCoeff中全部的量化系数全部按照步骤S102-步骤S104处理结束后,可得到最优量化系数集合OptimalCoef。
其中,从预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数。
S106,基于最优量化系数集合确定待量化变换块的量化结果。
在本申请实施例中,在得到最优量化系数集合后,首先剔除最优量化系数集合中量化系数为0的量化系数,生成非零量化系数集合,然后计算非零量化系数集合中各非零量化系数对应的率失真代价,并将率失真代价最小的非零量化系数确定为目标系数,再根据目标系数进行Z字形坐标扫描,生成多个非零系数坐标,最后基于多个非零系数坐标确定待量化变换块的量化结果。
具体的,在基于多个非零系数坐标确定待量化变换块的量化结果时,首先获取多个非零系数坐标各自的系数,然后从多个非零系数坐标各自的系数中获取大于目标系数的非零系数坐标对应的系数,再将获取的大于目标系数的非零系数坐标对应的系数置零,最后生成待量化变换块的量化结果。
在一种可能的实现方式中,对于最优量化系数集合OptimalCoef中的所有非零系数li,计算li中每个非零系数的率失真代价值,将率失真代价值最小的非零系数对应的Z字形扫描坐标作为最后非零系数坐标,记为LastNzPos。
最后对所有Z字形扫描坐标的系数中大于率失真代价值最小的非零系数的系数将其直接置零,并输出最终的量化结果QuantCoeff。
例如图4所示,图4是本申请优化量化的流程框图,首先对于变换块内的所有变化系数集合TranCoeff进行预量化后生成量化系数集合PQCoeff,对于PQCoeff中每一个系数qi,将其变为qi,qi-1,以及0,并计算该三个值所需要的率失真代价RD-Cost,并将最小的率失真代价对应的系数确定为最优量化系数集合OptimalCoef,对于最优量化系数集合OptimalCoef中的所有非零系数li,计算li中每个非零系数的率失真代价值,将率失真代价值最小的非零系数对应的Z字形扫描坐标作为最后非零系数坐标,记为LastNzPos,最后对所有Z字形扫描坐标的系数中大于率失真代价值最小的非零系数的系数将其直接置零,并输出最终的量化结果QuantCoeff。
在本申请中,决策最优系数的过程可以进行并行优化,则决策完所有系数所需的时间由n*t缩减为t,极大的节省了算法所需的编码时间。本方案在AVS3参考软件HPM4.0.1平台,100帧low delay P(LDP)和random access(RA)配置下,对AVS3标准组推荐的15组序列,QP为27、32、38、45,进行测试,BD-rate性能损失分别为0.1%和0%。
在本申请实施例中,率失真优化量化的装置首先根据待量化变换块生成预量化系数集合,再从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数,然后根据第n位预量化系数的第n-1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率,再根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数,其次继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合,最后基于最优量化系数集合确定待量化变换块的量化结果。由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率。
请参见图5,为本申请实施例提供了一种率失真优化量化的方法的流程示意图。如图5所示,本申请实施例的方法可以包括以下步骤:
S201,根据预设尺寸对待编码视频图像进行划分,生成多个编码单元;
S202,针对多个编码单元中每个编码单元进行预测、变换和如图2的率失真优化量化的方法进行量化,生成每个编码单元的值;
S203,对每个编码单元的值进行熵编码以及图像重构,生成编码后的视频图像。
在本申请实施例中,率失真优化量化的装置首先根据待量化变换块生成预量化系数集合,再从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数,然后根据第n位预量化系数的第n-1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率,再根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数,其次继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合,最后基于最优量化系数集合确定待量化变换块的量化结果。由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率。
下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。
请参见图6,其示出了本发明一个示例性实施例提供的率失真优化量化的装置的结构示意图。该率失真优化量化的装置可以通过软件、硬件或者两者的结合实现成为终端的全部或一部分。该装置1包括预量化系数集合生成模块10、备选系数生成模块20、码率生成模块30、最优量化系数确定模块40、最优量化系数集合生成模块50、量化结果生成模块60。
预量化系数集合生成模块10,用于根据待量化变换块生成预量化系数集合;
备选系数生成模块20,用于从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,第一备选系数等于第n位预量化系数,第二备选系数为预量化系数集合中第n位预量化系数的n-1位预量化系数,第三备选系数为0;
码率生成模块30,用于根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于各自的索引从预设码率表格中查找第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
最优量化系数确定模块40,用于根据第一码率、第二码率以及第三码率计算第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;
最优量化系数集合生成模块50,用于继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,从预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
量化结果生成模块60,用于基于最优量化系数集合确定待量化变换块的量化结果。
需要说明的是,上述实施例提供的率失真优化量化的装置在执行率失真优化量化的方法时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的率失真优化量化的装置与率失真优化量化的方法实施例属于同一构思,其体现实现过程详见方法实施例,这里不再赘述。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
在本申请实施例中,率失真优化量化的装置首先根据待量化变换块生成预量化系数集合,再从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数,然后根据第n位预量化系数的第n-1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率,再根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数,其次继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合,最后基于最优量化系数集合确定待量化变换块的量化结果。由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率。
本发明还提供一种计算机可读介质,其上存储有程序指令,该程序指令被处理器执行时实现上述各个方法实施例提供的率失真优化量化的方法。
本发明还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述各个方法实施例的率失真优化量化的方法。
请参见图7,为本申请实施例提供了一种终端的结构示意图。如图7所示,终端1000可以包括:至少一个处理器1001,至少一个网络接口1004,用户接口1003,存储器1005,至少一个通信总线1002。
其中,通信总线1002用于实现这些组件之间的连接通信。
其中,用户接口1003可以包括显示屏(Display)、摄像头(Camera),可选用户接口1003还可以包括标准的有线接口、无线接口。
其中,网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
其中,处理器1001可以包括一个或者多个处理核心。处理器1001利用各种借口和线路连接整个电子设备1000内的各个部分,通过运行或执行存储在存储器1005内的指令、程序、代码集或指令集,以及调用存储在存储器1005内的数据,执行电子设备1000的各种功能和处理数据。可选的,处理器1001可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器1001可集成中央处理器(Central Processing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器1001中,单独通过一块芯片进行实现。
其中,存储器1005可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。可选的,该存储器1005包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器1005可用于存储指令、程序、代码、代码集或指令集。存储器1005可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器1005可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图7所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及率失真优化量化的应用程序。
在图7所示的终端1000中,用户接口1003主要用于为用户提供输入的接口,获取用户输入的数据;而处理器1001可以用于调用存储器1005中存储的率失真优化量化的应用程序,并具体执行以下操作:
根据待量化变换块生成预量化系数集合;
从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,第一备选系数等于第n位预量化系数,第二备选系数为预量化系数集合中第n位预量化系数的n-1位预量化系数,第三备选系数为0;
根据第n位预量化系数的第n-1位预量化系数计算第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于各自的索引从预设码率表格中查找第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
根据第一码率、第二码率以及第三码率计算第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数;
继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,从预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
基于最优量化系数集合确定待量化变换块的量化结果。
在一个实施例中,处理器1001在执行根据待量化变换块生成预量化系数集合时,具体执行以下操作:
获取待量化变换块,并将待量化变换块中各像素的残差系数变换后生成变换系数集合;
预量化变换系数集合中每个变换系数,生成预量化系数集合。
在一个实施例中,处理器1001在执行获取待量化变换块时,具体执行以下操作:
根据预设第一尺寸对待编码图像进行划分,生成多个编码单元;
从多个编码单元中确定目标编码单元;
根据预设第二尺寸将目标编码单元进行划分,生成多个变换块;
从多个变换块中获取待量化变换块;
其中,第二尺寸小于第一尺寸。
在一个实施例中,处理器1001在执行基于最优量化系数集合确定待量化变换块的量化结果时,具体执行以下操作:
剔除最优量化系数集合中量化系数为0的量化系数,生成非零量化系数集合;
计算非零量化系数集合中各非零量化系数对应的率失真代价,并将率失真代价最小的非零量化系数确定为目标系数;
根据目标系数进行Z字形坐标扫描,生成多个非零系数坐标;
基于多个非零系数坐标确定待量化变换块的量化结果。
在一个实施例中,处理器1001在执行基于多个非零系数坐标确定待量化变换块的量化结果时,具体执行以下操作:
获取多个非零系数坐标各自的系数;
从多个非零系数坐标各自的系数中获取大于目标系数的非零系数坐标对应的系数;
将获取的大于目标系数的非零系数坐标对应的系数置零;
生成待量化变换块的量化结果。
在本申请实施例中,率失真优化量化的装置首先根据待量化变换块生成预量化系数集合,再从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的三个备选系数,然后根据第n位预量化系数的第n-1位预量化系数计算备选系数各自的索引,并根据各自的索引查找备选系数各自的码率,再根据备选系数各自的码率计算备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为第n位的最优量化系数,其次继续执行从预量化系数集合中获取第n位预量化系数的步骤,直到预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合,最后基于最优量化系数集合确定待量化变换块的量化结果。由于本申请采用当前预量化系数的前一位预量化系数来计算当前预量化系数的备选系数各自的索引,而没有使用前一位预量化系数决策出的最优量化系数计算索引,从而使得不需要等待前一位预量化系数决策出的最优量化系数就可以完成索引计算,导致每个预量化系数的多个备用系数的索引计算的过程可以并行进行,从而极大的节省了编码时间,提升了视频图像数据的编码效率。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,的存储介质可为磁碟、光盘、只读存储记忆体或随机存储记忆体等。
以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。

Claims (10)

1.一种率失真优化量化的方法,其特征在于,所述方法包括:
根据待量化变换块生成预量化系数集合;
从预量化系数集合中获取第n位预量化系数,并生成第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,所述第一备选系数等于所述第n位预量化系数,所述第二备选系数为所述预量化系数集合中所述第n位预量化系数的n-1位预量化系数,所述第三备选系数为0;
根据所述第n位预量化系数的第n-1位预量化系数计算所述第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于所述各自的索引从预设码率表格中查找所述第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
根据所述第一码率、第二码率以及第三码率计算所述第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为所述第n位的最优量化系数;
继续执行所述从所述预量化系数集合中获取第n位预量化系数的步骤,直到所述预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,所述从所述预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
基于所述最优量化系数集合确定所述待量化变换块的量化结果。
2.根据权利要求1所述的方法,其特征在于,所述根据待量化变换块生成预量化系数集合,包括:
获取待量化变换块,并将所述待量化变换块中各像素的残差系数变换后生成变换系数集合;
预量化所述变换系数集合中每个变换系数,生成预量化系数集合。
3.根据权利要求2所述的方法,其特征在于,所述获取待量化变换块,包括:
根据预设第一尺寸对待编码图像进行划分,生成多个编码单元;
从所述多个编码单元中确定目标编码单元;
根据预设第二尺寸将所述目标编码单元进行划分,生成多个变换块;
从所述多个变换块中获取待量化变换块;
其中,所述第二尺寸小于所述第一尺寸。
4.根据权利要求1所述的方法,其特征在于,基于所述最优量化系数集合确定所述待量化变换块的量化结果,包括:
剔除所述最优量化系数集合中量化系数为0的量化系数,生成非零量化系数集合;
计算所述非零量化系数集合中各非零量化系数对应的率失真代价,并将率失真代价最小的非零量化系数确定为目标系数;
根据所述目标系数进行Z字形坐标扫描,生成多个非零系数坐标;
基于所述多个非零系数坐标确定所述待量化变换块的量化结果。
5.根据权利要求4所述的方法,其特征在于,所述基于所述多个非零系数坐标确定所述待量化变换块的量化结果,包括:
获取所述多个非零系数坐标各自的系数;
从所述多个非零系数坐标各自的系数中获取大于所述目标系数的非零系数坐标对应的系数;
将获取的所述大于所述目标系数的非零系数坐标对应的系数置零;
生成待量化变换块的量化结果。
6.根据权利要求1所述的方法,其特征在于,所述根据所述第n位预量化系数的第n-1位预量化系数计算所述第一备选系数、第二备选系数以及第三备选系数各自的索引的公式为:
idx=min((qi-1-1),5)<<1+(chtype==YC)?0:12
其中,min为取最小值操作,qi-1为所述第n位预量化系数的第n-1位预量化系数,chtype为待量化变换块的通道类型,Yc表示亮度。
7.一种视频图像的编码方法,其特征在于,所述方法包括:
根据预设尺寸对待编码视频图像进行划分,生成多个编码单元;
针对所述多个编码单元中每个编码单元进行预测、变换和如权利要求1-6中任一项所述的率失真优化量化的方法进行量化,生成每个编码单元的值;
对所述每个编码单元的值进行熵编码以及图像重构,生成编码后的视频图像。
8.一种率失真优化量化的装置,其特征在于,所述装置包括:
预量化系数集合生成模块,用于根据待量化变换块生成预量化系数集合;
备选系数生成模块,用于从预量化系数集合中获取第n位预量化系数,并生成所述第n位预量化系数的第一备选系数、第二备选系数以及第三备选系数;
其中,所述第一备选系数等于所述第n位预量化系数,所述第二备选系数为所述预量化系数集合中所述第n位预量化系数的n-1位预量化系数,所述第三备选系数为0;
码率生成模块,用于根据所述第n位预量化系数的第n-1位预量化系数计算所述第一备选系数、第二备选系数以及第三备选系数各自的索引,并基于所述各自的索引从预设码率表格中查找所述第一备选系数、第二备选系数以及第三备选系数各自的码率,生成第一码率、第二码率以及第三码率;
最优量化系数确定模块,用于根据所述第一码率、第二码率以及第三码率计算所述第一备选系数、第二备选系数以及第三备选系数各自的率失真代价,并将最小率失真代价的备选系数确定为所述第n位的最优量化系数;
最优量化系数集合生成模块,用于继续执行所述从所述预量化系数集合中获取第n位预量化系数的步骤,直到所述预量化系数集合中各预量化系数遍历结束时生成最优量化系数集合;
其中,所述从所述预量化系数集合中获取第n位预量化系数的公式为:n=k,k为获取次数;
量化结果生成模块,用于基于所述最优量化系数集合确定所述待量化变换块的量化结果。
9.一种计算机存储介质,其特征在于,所述计算机存储介质存储有多条指令,所述指令适于由处理器加载并执行如权利要求1-6或权利要求7中任意一项的方法步骤。
10.一种终端,其特征在于,包括:处理器和存储器;其中,所述存储器存储有计算机程序,所述计算机程序适于由所述处理器加载并执行如权利要求1-6或权利要求7中任意一项的方法步骤。
CN202110572398.6A 2021-05-25 2021-05-25 一种率失真优化量化的方法、装置、存储介质及终端 Pending CN113573056A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110572398.6A CN113573056A (zh) 2021-05-25 2021-05-25 一种率失真优化量化的方法、装置、存储介质及终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110572398.6A CN113573056A (zh) 2021-05-25 2021-05-25 一种率失真优化量化的方法、装置、存储介质及终端

Publications (1)

Publication Number Publication Date
CN113573056A true CN113573056A (zh) 2021-10-29

Family

ID=78161574

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110572398.6A Pending CN113573056A (zh) 2021-05-25 2021-05-25 一种率失真优化量化的方法、装置、存储介质及终端

Country Status (1)

Country Link
CN (1) CN113573056A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114786010A (zh) * 2022-03-07 2022-07-22 杭州未名信科科技有限公司 率失真优化量化方法、装置、存储介质及电子设备
CN116886913A (zh) * 2023-08-03 2023-10-13 镕铭微电子(济南)有限公司 率失真优化量化方法、装置、电子设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置
CN103945220A (zh) * 2014-02-24 2014-07-23 西南交通大学 一种用于高效视频编码hevc的量化优化方法
JP2015043524A (ja) * 2013-08-26 2015-03-05 学校法人早稲田大学 レート歪コスト推定装置及びプログラム
US20150172662A1 (en) * 2013-12-18 2015-06-18 Magnum Semiconductor, Inc. Apparatuses and methods for optimizing rate-distortion costs in video encoding
KR20160079525A (ko) * 2014-12-26 2016-07-06 한국전자통신연구원 영상 부호화 장치 및 방법
CN105812804A (zh) * 2014-12-30 2016-07-27 浙江大华技术股份有限公司 一种确定rdoq过程中最优量化值的方法及装置
US20160261862A1 (en) * 2015-03-06 2016-09-08 Qualcomm Incorporated Fast rate-distortion optimized quantization
CN108322749A (zh) * 2018-03-15 2018-07-24 北京数码视讯科技股份有限公司 Rdoq的系数优化方法、rdoq的加速方法及装置
US20190373262A1 (en) * 2017-01-20 2019-12-05 Nec Corporation Quantization device, quantization method, and recording medium
CN111787324A (zh) * 2020-06-29 2020-10-16 北京大学 率失真优化量化的方法、编码方法及装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101938654A (zh) * 2010-08-17 2011-01-05 浙江大学 一种变换系数的优化量化方法及装置
JP2015043524A (ja) * 2013-08-26 2015-03-05 学校法人早稲田大学 レート歪コスト推定装置及びプログラム
US20150172662A1 (en) * 2013-12-18 2015-06-18 Magnum Semiconductor, Inc. Apparatuses and methods for optimizing rate-distortion costs in video encoding
CN103945220A (zh) * 2014-02-24 2014-07-23 西南交通大学 一种用于高效视频编码hevc的量化优化方法
KR20160079525A (ko) * 2014-12-26 2016-07-06 한국전자통신연구원 영상 부호화 장치 및 방법
CN105812804A (zh) * 2014-12-30 2016-07-27 浙江大华技术股份有限公司 一种确定rdoq过程中最优量化值的方法及装置
US20160261862A1 (en) * 2015-03-06 2016-09-08 Qualcomm Incorporated Fast rate-distortion optimized quantization
US20190373262A1 (en) * 2017-01-20 2019-12-05 Nec Corporation Quantization device, quantization method, and recording medium
CN108322749A (zh) * 2018-03-15 2018-07-24 北京数码视讯科技股份有限公司 Rdoq的系数优化方法、rdoq的加速方法及装置
CN111787324A (zh) * 2020-06-29 2020-10-16 北京大学 率失真优化量化的方法、编码方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JAKUB STANKOWSKI ET AL.: "Rate-distortion optimized quantization in HEVC:Performance limitations", 《2015 PICTURE CODING SYMPOSIUM》 *
严韫瑶: "基于AVS2的高效能熵编码算法及硬件结构的设计与优化", 《中国优秀硕士学位论文全文数据库(电子期刊)》 *
徐杰: "AVS2视频编码RDOQ的快速算法及基于OpenMP的帧级并行解码的实现", 《硕士学位论文》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114786010A (zh) * 2022-03-07 2022-07-22 杭州未名信科科技有限公司 率失真优化量化方法、装置、存储介质及电子设备
CN114786010B (zh) * 2022-03-07 2024-08-02 杭州未名信科科技有限公司 率失真优化量化方法、装置、存储介质及电子设备
CN116886913A (zh) * 2023-08-03 2023-10-13 镕铭微电子(济南)有限公司 率失真优化量化方法、装置、电子设备及存储介质
CN116886913B (zh) * 2023-08-03 2024-03-08 镕铭微电子(济南)有限公司 率失真优化量化方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN113475083B (zh) 帧间点云属性编解码的方法和装置
KR101461209B1 (ko) 2d 매트릭스들에 인코딩 파라미터들을 저장하는 이미지 압축을 위한 방법 및 장치
CN111145090A (zh) 一种点云属性编码方法、解码方法、编码设备及解码设备
CN112188197B (zh) 通道间点云属性解码方法、装置以及可读存储介质
CN113795870B (zh) 一种对点云属性编解码的方法、装置及存储介质
CN113573056A (zh) 一种率失真优化量化的方法、装置、存储介质及终端
CN112218077B (zh) 通道间点云属性编码方法、装置以及可读存储介质
WO2023045420A1 (zh) 图像处理方法及装置、电子设备和存储介质
US20230336747A1 (en) Sample Adaptive Offset
JP2014027658A (ja) 圧縮エンコーディング及びデコーディング方法並びに装置
CN115086672A (zh) 点云属性编码方法、装置、解码方法、装置及相关设备
US20230336733A1 (en) Sample Adaptive Offset
CN103179389A (zh) 图像处理设备和图像处理方法
US20240121439A1 (en) Point cloud attribute information encoding method and apparatus, point cloud attribute information decoding method and apparatus, and related device
CN111654696A (zh) 一种帧内的多参考行预测方法、装置、存储介质及终端
CN115474050A (zh) 熵编码、解码方法及装置
US8787686B2 (en) Image processing device and image processing method
CN107861990B (zh) 一种视频搜索方法及系统、终端设备
CN106101731B (zh) 图像无损压缩方法及装置
US10340946B2 (en) Encoders, decoders, and methods
WO2023025024A1 (zh) 点云属性编码方法、点云属性解码方法及终端
US9848188B1 (en) Video coding transform systems and methods
CN112616058B (zh) 视频编码或解码方法、装置、计算机设备和存储介质
CN107431821B (zh) 高效低复杂度视频压缩
WO2024188138A1 (zh) 点云编码处理方法、点云解码处理方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
AD01 Patent right deemed abandoned
AD01 Patent right deemed abandoned

Effective date of abandoning: 20240816