CN112653891B - 一种基于处理芯片的编码比特长度确定方法及系统 - Google Patents

一种基于处理芯片的编码比特长度确定方法及系统 Download PDF

Info

Publication number
CN112653891B
CN112653891B CN202011082242.1A CN202011082242A CN112653891B CN 112653891 B CN112653891 B CN 112653891B CN 202011082242 A CN202011082242 A CN 202011082242A CN 112653891 B CN112653891 B CN 112653891B
Authority
CN
China
Prior art keywords
bit length
determining
coefficient
quantized residual
residual matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011082242.1A
Other languages
English (en)
Other versions
CN112653891A (zh
Inventor
张晓峰
程寿东
田一康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Tianze Communication Technology Co ltd
Original Assignee
Zhejiang Tianze Communication Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Tianze Communication Technology Co ltd filed Critical Zhejiang Tianze Communication Technology Co ltd
Priority to CN202011082242.1A priority Critical patent/CN112653891B/zh
Publication of CN112653891A publication Critical patent/CN112653891A/zh
Application granted granted Critical
Publication of CN112653891B publication Critical patent/CN112653891B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明提供一种基于处理芯片的编码比特长度确定方法及系统，方法包括：确定量化后的残差矩阵；采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；选择最小的率失真优化值RDO对应的模式作为最佳预测模式。本发明利用分段拟合法快速计算残差矩阵对应的编码比特长度，减少计算量，提高确定准确度和速度，另外，本发明基于量化后的残差矩阵对应的编码比特长度快速计算RDO值，快速模式选择。

Description

一种基于处理芯片的编码比特长度确定方法及系统
技术领域
本发明涉及编码比特长度估计技术领域，特别是涉及一种基于处理芯片的编码比特长度确定方法及系统。
背景技术
CAVLC的全称是Context-Adaptive Varialbe-Length Coding，即基于上下文的自适应变长编码。CAVLC的本质是变长编码，它的特性主要体现在自适应能力上，CAVLC可以根据已编码的数据情况动态的选择编码中使用的码表，并且随时更新拖尾系数后缀的长度，从而获得极高的压缩比。H.264标准中使用CAVLC对4×4模块的亮度和色度残差数据进行编码。
率失真优化RDO(Rate Distortion Optimation)是一种提高视频压缩视频质量的方法，是指针对视频编码所需的数据量(速率)优化失真量(视频质量损失)。虽然它主要由视频编码器使用，但速率失真优化可用于提高任何编码情况(图像，视频，音频或其他)的质量，在这种情况下必须同时做出影响文件大小和质量的决策。
在实际工程应用时，当图像尺寸和帧率提高时，处理芯片CPU、FPGA或DSP的计算速度也需要提高，但计算速度受限于器件本身的性能，不可能无限提高，只能采用快速算法才能满足更大尺寸、更高分辨率的图像压缩。在使用RDO算法时，需要完成CAVLC算法，得到当前编码模式下的比特长度，才能进行RDO算法，CAVLC算法是一个基于上下文的自适应算法，需要计算到最后才能得出最终的编码比特长度，无法快速得到编码比特长度，从而无法快速计算RDO，进而无法快速选择编码模式。
发明内容
基于此，本发明的目的是提供一种基于处理芯片的编码比特长度确定方法及系统，以提高编码比特长度确定的准确性和速度。
为实现上述目的，本发明提供了一种基于处理芯片的编码比特长度确定方法，所述方法包括：
步骤S1：确定量化后的残差矩阵；
步骤S2：采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；
步骤S3：根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；
步骤S4：选择最小的率失真优化值对应的模式作为最佳预测模式。
可选地，所述采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度，具体包括：
步骤S21：对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；
步骤S22：根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数；
步骤S23：确定非零系数个数对应的编码比特长度；
步骤S24：确定拖尾比特对应的编码比特长度；
步骤S25：确定除拖尾系数以外的非零系数的编码比特长度总和的估计值；
步骤S26：根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度；
步骤S27：根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度。
可选地，所述确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，abs为绝对值，C为补偿比特数。
可选地，确定补偿比特数的具体公式为：
若K＞2且则C＝round(K·1.5)；
若K≤4且则/>
若K＞4且且/>则C＝K；
若K＞4且且/>则C＝-round(K·1.5)；
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
可选地，所述根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，cavlc_length表示量化后的残差矩阵对应的编码比特长度，lamda为拉格朗日系数，ssd为量化后的残差矩阵和重构矩阵的均方误差。
本发明还提供一种基于处理芯片的编码比特长度确定系统，所述系统包括：
量化后残差矩阵确定模块，用于确定量化后的残差矩阵；
分段拟合模块，用于采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；
率失真优化值确定模块，用于根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；
选取模块，用于选择最小的率失真优化值RDO对应的模式作为最佳预测模式。
可选地，所述分段拟合模块，具体包括：
扫描单元，用于对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；
参数确定单元，用于根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数；
第一编码比特长度确定单元，用于确定非零系数个数对应的编码比特长度；
第二编码比特长度确定单元，用于确定拖尾比特对应的编码比特长度；
第三编码比特长度确定单元，用于确定除拖尾系数以外的非零系数的编码比特长度总和的估计值；
第四编码比特长度确定单元，用于根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度；
第五编码比特长度确定单元，用于根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度。
可选地，所述确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，abs为绝对值，C为补偿比特数。
可选地，确定补偿比特数的具体公式为：
若K＞2且则C＝round(K·1.5)；
若K≤4且则/>
若K＞4且且/>则C＝K；
若K＞4且且/>则C＝-round(K·1.5)；
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
可选地，所述根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，cavlc_length表示量化后的残差矩阵对应的编码比特长度，lamda为拉格朗日系数，ssd为量化后的残差矩阵和重构矩阵的均方误差。
根据本发明提供的具体实施例，本发明公开了以下技术效果：
本发明提供一种基于处理芯片的编码比特长度确定方法及系统，方法包括：确定量化后的残差矩阵；采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；选择最小的率失真优化值RDO对应的模式作为最佳预测模式。本发明利用分段拟合法快速计算残差矩阵对应的编码比特长度，减少计算量，提高确定准确度和速度，另外，本发明基于量化后的残差矩阵对应的编码比特长度快速计算RDO值，快速模式选择。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例基于处理芯片的编码比特长度确定方法流程图；
图2为本发明实施例补偿前后编码比特长度误差对比示意图；
图3为本发明实施例补偿前后编码比特长度误差编码比特长度对比示意图；
图4为本发明实施例基于处理芯片的编码比特长度确定系统结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本本发明的目的是提供一种基于处理芯片的编码比特长度确定方法及系统，以提高编码比特长度确定的准确性和速度。
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
如图1所示，本发明公开一种基于处理芯片的编码比特长度确定方法，所述方法包括：
步骤S1：确定量化后的残差矩阵。
步骤S2：采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度。
步骤S3：根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值。
步骤S4：选择最小的率失真优化值RDO对应的模式作为最佳预测模式。
下面对各个步骤进行详细论述：
步骤S1：确定量化后的残差矩阵，具体包括：
步骤S11：获取原始数据；所述原始数据为原始图像对应的YUV数据，其中，Y为亮度信息，U和V均为色度信息。
步骤S12：利用所述原始数据进行预测，获得预测值。
步骤S13：将所述原始数据与预测值相减，获得残差矩阵。
步骤S14：对所述残差进行离散余弦DCT变换和量化，得到量化后的残差矩阵；所述量化后的残差矩阵D为4x4残差矩阵。
步骤S2：采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度，具体包括：
步骤S21：对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；所述扫描矩阵W为4x4矩阵。
步骤S22：根据所述扫描矩阵确定非零系数个数totalcoeffs、拖尾个数trailingones、零系数个数totalcoeffs_zero和非零系数前零的个数run_before，同时重新排列除拖尾系数以外的非零系数level(k)，k＝1～K，K＝totalcoeffs-trailingones。
步骤S23：确定非零系数个数对应的编码比特长度，具体包括：
步骤S231：根据输入的NU和NL参数计算NC值；其中，NU表示量化后的残差矩阵上面一个4x4矩阵的非零系数个数，NL表示量化后的残差矩阵左边一个4x4矩阵的非零系数个数，NC为量化后的残差矩阵的非零系数个数的预测值。4x4矩阵是有空间分布的，每个4x4矩阵都有上下左右4个相邻的4x4矩阵。计算时有先后顺序，按z字形的顺序进行计算。
步骤S232：根据NC值和非零系数个数totalcoeffs查表得到非零系数个数对应的编码比特长度totalcoeffs_length。
步骤S24：确定拖尾比特对应的编码比特长度trailingones_length；即拖尾比特对应的编码比特长度trailingones_length等于拖尾个数trailingones。
步骤S25：确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，log2为以2为底的对数，abs为绝对值，C为补偿比特数，计算方式如下：
若K＞2且则C＝round(K·1.5)；
若K≤4且则/>
若K＞4且且/>则C＝K；
若K＞4且且/>则C＝-round(K·1.5)；
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
步骤S26：根据零系数个数totalcoeffs_zero和非零系数个数totalcoeffs进行查表，得到零系数个数对应的编码比特长度total_zeros_length。
步骤S27：根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度，具体公式为：
其中，cavlc_length表示量化后的残差矩阵对应的编码比特长度，total_zeros_length表示零系数个数对应的编码比特长度，level_length_sum_est表示level_length_sum的估计值，trailingones_length表示拖尾比特对应的编码比特长度，totalcoeffs_length表示非零系数个数对应的编码比特长度。
步骤S3：根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，lamda为拉格朗日系数，ssd为量化后的残差矩阵D和重构矩阵M的均方误差，cavlc_length表示量化后的残差矩阵对应的编码比特长度。
本发明定义了9种4x4帧内模式、4种16x16帧内模式和4种帧间模式。
如图4所示，本发明还提供一种基于处理芯片的编码比特长度确定系统，所述系统包括：
量化后残差矩阵确定模块1，用于确定量化后的残差矩阵。
分段拟合模块2，用于采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度。
率失真优化值确定模块3，用于根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，cavlc_length表示量化后的残差矩阵对应的编码比特长度，lamda为拉格朗日系数，ssd为量化后的残差矩阵和重构矩阵的均方误差。
选取模块4，用于选择最小的率失真优化值RDO对应的模式作为最佳预测模式。
作为一种实施方式，本发明所述量化后残差矩阵确定模块1，具体包括：
获取单元，用于获取原始数据；所述原始数据为原始图像对应的YUV数据，其中，Y为亮度信息，U和V均为色度信息。
预测单元，用于利用所述原始数据进行预测，获得预测值。
残差矩阵确定单元，用于将所述原始数据与预测值相减，获得残差矩阵。
变换和量化处理单元，用于对所述残差进行离散余弦DCT变换和量化，得到量化后的残差矩阵；所述量化后的残差矩阵D为4x4残差矩阵。
作为一种实施方式，本发明所述分段拟合模块2，具体包括：
扫描单元，用于对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵。
参数确定单元，用于根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数。
第一编码比特长度确定单元，用于确定非零系数个数对应的编码比特长度。
第二编码比特长度确定单元，用于确定拖尾比特对应的编码比特长度。
第三编码比特长度确定单元，用于确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，abs为绝对值，C为补偿比特数。
本发明确定补偿比特数的具体公式为：
若K＞2且则C＝round(K·1.5)。
若K≤4且则/>
若K＞4且且/>则C＝K。
若K＞4且且/>则C＝-round(K·1.5)。
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
第四编码比特长度确定单元，用于根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度。
第五编码比特长度确定单元，用于根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度。
如图2和图3所示，无星号的线为补偿比特数C＝0时的编码比特误差，带星号的线为计算补偿比特数C时的编码比特误差。可见，补偿情况下要比不补偿时误差下降50％，编码比特长度的平均误差在10％左右，最终RDO误差为10％左右，对编码模式选择的实际影响很小，近似算法和原算法选择不同模式的概率为5％左右，对整体编码效率影响不大。
本发明在不迭代的情况下，估计出最终的编码比特长度，然后计算出RDO，用于快速编码模式选择，再对编码效率影响不大的情况下大大提高编码速度。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

Claims (6)

1.一种基于处理芯片的编码比特长度确定方法，其特征在于，所述方法包括：
步骤S1：确定量化后的残差矩阵；
步骤S2：采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度，具体包括：
步骤S21：对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；
步骤S22：根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数；
步骤S23：确定非零系数个数对应的编码比特长度；
步骤S24：确定拖尾比特对应的编码比特长度；
步骤S25：确定除拖尾系数以外的非零系数的编码比特长度总和的估计值；
步骤S26：根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度；
步骤S27：根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度；
步骤S3：根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，cavlc_length表示量化后的残差矩阵对应的编码比特长度，lamda为拉格朗日系数，ssd为量化后的残差矩阵和重构矩阵的均方误差；
步骤S4：选择最小的率失真优化值对应的模式作为最佳预测模式。
2.根据权利要求1所述的基于处理芯片的编码比特长度确定方法，其特征在于，所述确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，abs为绝对值，C为补偿比特数。
3.根据权利要求2所述的基于处理芯片的编码比特长度确定方法，其特征在于，确定补偿比特数的具体公式为：
若K>2且则C＝round(K·1.5)；
若K≤4且则/>
若K>4且且/> 则C＝K；
若K>4且且/> 则C＝-round(K·1.5)；
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
4.一种基于处理芯片的编码比特长度确定系统，其特征在于，所述系统包括：
量化后残差矩阵确定模块，用于确定量化后的残差矩阵；
分段拟合模块，用于采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度，具体包括：
扫描单元，用于对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；
参数确定单元，用于根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数；
第一编码比特长度确定单元，用于确定非零系数个数对应的编码比特长度；
第二编码比特长度确定单元，用于确定拖尾比特对应的编码比特长度；
第三编码比特长度确定单元，用于确定除拖尾系数以外的非零系数的编码比特长度总和的估计值；
第四编码比特长度确定单元，用于根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度；
第五编码比特长度确定单元，用于根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度；
率失真优化值确定模块，用于根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值，具体公式为：
RDO＝ssd+cavlc_length·lamda；
其中，RDO表示率失真优化值，cavlc_length表示量化后的残差矩阵对应的编码比特长度，lamda为拉格朗日系数，ssd为量化后的残差矩阵和重构矩阵的均方误差；
选取模块，用于选择最小的率失真优化值RDO对应的模式作为最佳预测模式。
5.根据权利要求4所述的基于处理芯片的编码比特长度确定系统，其特征在于，所述确定除拖尾系数以外的非零系数的编码比特长度总和的估计值，具体公式为：
其中，level_length_sum_est为除拖尾系数以外的非零系数的编码比特长度总和的估计值，level(k)为排列除拖尾系数以外的第k个非零系数，trailingones为拖尾个数，totalcoeffs为非零系数个数，ceil为向上取整操作，abs为绝对值，C为补偿比特数。
6.根据权利要求5所述的基于处理芯片的编码比特长度确定系统，其特征在于，确定补偿比特数的具体公式为：
若K>2且则C＝round(K·1.5)；
若K≤4且则/>
若K>4且且/> 则C＝K；
若K>4且且/> 则C＝-round(K·1.5)；
其他情况，则C＝0；round()为四舍五入，floor()为向下取整操作。
CN202011082242.1A 2020-10-12 2020-10-12 一种基于处理芯片的编码比特长度确定方法及系统 Active CN112653891B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011082242.1A CN112653891B (zh) 2020-10-12 2020-10-12 一种基于处理芯片的编码比特长度确定方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011082242.1A CN112653891B (zh) 2020-10-12 2020-10-12 一种基于处理芯片的编码比特长度确定方法及系统

Publications (2)

Publication Number Publication Date
CN112653891A CN112653891A (zh) 2021-04-13
CN112653891B true CN112653891B (zh) 2024-02-02

Family

ID=75346771

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011082242.1A Active CN112653891B (zh) 2020-10-12 2020-10-12 一种基于处理芯片的编码比特长度确定方法及系统

Country Status (1)

Country Link
CN (1) CN112653891B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1727370A1 (en) * 2005-05-25 2006-11-29 Thomson Licensing Rate-distortion based video coding mode selection foreseeing the esitmation of bit rate and distortion using a simplified transform on low activity prediction residuals
CN103581670A (zh) * 2013-10-09 2014-02-12 合一网络技术(北京)有限公司 H264自适应帧内模式选择码率估计的率失真优化方法及其装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1727370A1 (en) * 2005-05-25 2006-11-29 Thomson Licensing Rate-distortion based video coding mode selection foreseeing the esitmation of bit rate and distortion using a simplified transform on low activity prediction residuals
CN103581670A (zh) * 2013-10-09 2014-02-12 合一网络技术(北京)有限公司 H264自适应帧内模式选择码率估计的率失真优化方法及其装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CAVLC编码算法及高速熵编码器的FPGA实现;刘晓明;张续莹;李芳;陈光洪;;计算机应用(05);全文 *
浅析H.264标准中的CAVLC编码;申剑;;科技与企业(14);全文 *

Also Published As

Publication number Publication date
CN112653891A (zh) 2021-04-13

Similar Documents

Publication Publication Date Title
KR100773761B1 (ko) 동영상 부호화 장치 및 방법
US8121190B2 (en) Method for video coding a sequence of digitized images
RU2479942C2 (ru) Устройство обработки изображения и способ обработки изображения
US8331449B2 (en) Fast encoding method and system using adaptive intra prediction
US20040240556A1 (en) Method for improving rate-distortion performance of a video compression system through parallel coefficient cancellation in the transform
US20090225829A2 (en) Method and apparatus for operational frame-layerrate control in video encoder
US20090175338A1 (en) Methods and Systems for Inter-Layer Image Prediction Parameter Determination
US8374451B2 (en) Image processing device and image processing method for reducing the circuit scale
US8295623B2 (en) Encoding and decoding with elimination of one or more predetermined predictors
CN107810632B (zh) 具有降低代价的块分割和细化的帧内模式选择的帧内预测处理器
US8189667B2 (en) Moving picture encoding apparatus
KR101621854B1 (ko) Tsm 율-왜곡 최적화 방법, 그를 이용한 인코딩 방법 및 장치, 그리고 영상 처리 장치
CN101141649A (zh) 用于视频编码的帧内预测编码最佳模式的选取方法及装置
JP2006157881A (ja) 可変長符号化装置及びその方法
CN101491106A (zh) 图像处理设备和方法及程序
KR20120084168A (ko) 비디오 인코딩 모드 선택 방법 및 이를 수행하는 비디오 인코딩 장치
CN110870312A (zh) 用于视频压缩中的帧内编码的方法和设备
CN112653891B (zh) 一种基于处理芯片的编码比特长度确定方法及系统
JP4130617B2 (ja) 動画像符号化方法および動画像符号化装置
KR102532484B1 (ko) 적어도 하나의 이미지를 나타내는 데이터 스트림을 인코딩 및 디코딩하는 방법 및 장치
Ascenso et al. Low complexity intra mode selection for efficient distributed video coding
CN115834886A (zh) 率失真估计方法及装置
KR100771641B1 (ko) Ｈ.２６４ 고속 모드 결정 방법
CN112243123B (zh) 一种基于无损编码的hevc码率优化方法
EP1940176A2 (en) Method and device for coding a sequence of digitized images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant