CN111263158A - 一种基于空间相关度的多变换核快速处理方法 - Google Patents

一种基于空间相关度的多变换核快速处理方法 Download PDF

Info

Publication number
CN111263158A
CN111263158A CN202010127282.7A CN202010127282A CN111263158A CN 111263158 A CN111263158 A CN 111263158A CN 202010127282 A CN202010127282 A CN 202010127282A CN 111263158 A CN111263158 A CN 111263158A
Authority
CN
China
Prior art keywords
mts
mode
value
transformation
blocks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010127282.7A
Other languages
English (en)
Other versions
CN111263158B (zh
Inventor
张昊
马学睿
冯冰雪
钟培雄
姜俊宏
苏昊天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central South University
Original Assignee
Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central South University filed Critical Central South University
Priority to CN202010127282.7A priority Critical patent/CN111263158B/zh
Publication of CN111263158A publication Critical patent/CN111263158A/zh
Application granted granted Critical
Publication of CN111263158B publication Critical patent/CN111263158B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154—Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明实施例提供了一种基于空间相关度的多变换核快速处理方法，该处理方法发明构思的核心是根据周围CU块的MTS信息跳过当前CU块的MTS执行过程。本发明实施例的方法通过获取周围CU块的MTS信息，判断当前CU块的MTS过程是否需要跳过，在质量损失不大的情况下，极大的减少了编码的时间，提高了编码效率，使编码器更具实用性。与未添加算法的编码器相比，增量比特率(Bjotegaard Delta Bit rate，简称BDBR)损失0.27％的情况下时间减少37.60％。

Description

一种基于空间相关度的多变换核快速处理方法
技术领域
本发明属于视频编码技术领域，具体涉及一种基于空间相关度的多变换核快速处理方法。
背景技术
由于高质量和高分辨率视频的普遍应用，需要制定出超越目前高效视频编码(High Efficiency Video Coding，简称HEVC)标准的下一代视频编码技术。运动图像专家组(Moving Picture Epert Group，简称MPEG)和视频编码专家组(Video Coding EpertGroup，简称VCEG)联合成立了联合视频探索小组(Joint Video Eploration Team，简称JVET)，并在第10次JVET会议上，定义了多功能视频编码(Versatile Video Coding，简称VVC)的初稿和VVC测试模型1(VTM1)的编码方法。在第11次会议上，JVET启动了VVC工作草案2，其中采用了几种新的编码工具，例如仿射运动补偿预测和多变换核选择(MultipleTransform Selection，简称MTS)。在第12次会议上，VVC工作草案3中包括了对MTS内核派生的简化，并在VTM3中进行了实施。除了已在HEVC中使用的DCT-II外，VVC还包括MTS以通过利用多个选定的变换方式提高转换效率。新引入的变换矩阵是DST-VII和DCT-VIII，它们都可以在水平和垂直方向上应用。如果在序列参数集(SPS)上启用了MTS，则在将DCT-II应用于两个方向之后，将在水平和垂直方向上依次对DST-VII和DCT-VIII的组合进行RD检查。
VVC帧内CU变换过程要经过两个阶段，并使用CU级的MTS标志(MTS flag)指示当前CU是否启用MTS。在第一阶段，MTS flag为0，对CU用DCT-II进行变换，在第二阶段，MTS flag为1，对CU用MTS候选变换依次进行变换。编码器将选取率失真代价最小的变换为最佳变换。
由于VVC中增加了大量的工具，导致其复杂度和时间成本大幅增加，实用性受到影响，因此，需要新的方法来降低VTM的复杂度。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明实施例提出一种基于空间相关度的多变换核快速处理方法，该处理方法与未添加算法的编码器相比，增量比特率(Bjotegaard Delta Bit rate，简称BDBR)损失0.27％的情况下时间减少37.60％。
根据本发明第一方面实施例的一种基于空间相关度的多变换核快速处理方法，所述处理方法为：根据周围CU块的MTS信息跳过当前CU块的MTS执行过程。
根据本发明实施例的多变换核快速处理方法，至少具有如下技术效果：
一帧图像的信息是有相关性的，距离越近的CU块相关性越大，本发明实施例的方法通过获取周围CU块的MTS信息，判断当前CU块的MTS过程是否需要跳过，在质量损失不大的情况下，极大的减少了编码的时间，提高了编码效率，使编码器更具实用性。
本发明实施例的处理方法与未添加算法的编码器相比，增量比特率(BjotegaardDelta Bit rate，简称BDBR)损失0.27％的情况下时间减少37.60％。
根据周围CU块的MTS信息跳过当前CU块的MTS执行过程是本发明的核心。
根据本发明的一些实施例，基于空间相关度的多变换核快速处理方法，包括以下步骤：
S1：对当前CU执行帧内编码流程；
S2：遍历67种预测模式，跳过VVC中的32种角度模式，只对HEVC中存在的35种模式进行SATD值的计算，将SATD值从小到大排序，从中选出SATD值较小的前N个模式存入模式列表，其中N的大小由查表得到；
S3：遍历步骤S2选出的模式，若模式编号属于2～66，则比较每种模式与其相邻的两个模式的SATD值，从中选出SATD值最小的一个模式，更新模式列表，得到第一次更新的模式列表；
S4：构建MPM列表并遍历MPM列表中的6种模式，计算6种模式的SATD值，并与步骤S3中的模式列表中的SATD值比较，选择SATD值较小的模式，更新模式列表，得到第二次更新的模式列表；
S5：执行MIP模块，用哈达玛变换导出MIP的候选模式，并将MIP的MPM模式添加到模式列表，得到第三次更新的模式列表；
S6：执行ISP模块，更新模式列表，得到第四次更新的模式列表，即用于执行后续流程的模式列表；
S7：获取第四次更新的模式列表中的第一个模式，计算得到在使用该预测模式情况下当前CU的预测值；
S8：将当前CU的原始像素值减去由步骤S7得到的预测值，得到原始像素值与预测值的残差值；
S9：对步骤S8得到的残差值执行变换模块，首先以MTS标志位为0进行变换，将变换之后的值执行量化、反量化和反变换操作，得到重构像素值；
S10：计算使用步骤S9的变换核时的R-Dcost值，公式为：
J＝D+λ*R，
其中，D是指失真值，λ为编码器设定数值，R为编码当前CU所使用的比特数值，J为最终计算得到的R-Dcost值；
S11：获取周围CU块的MTS标志位以及MTS候选索引，若周围块选择的最优模式存在以下两种情况之一，则执行步骤S12；第一种情况：周围块选择的最优模式都是MTS标志位为0的情况；第二种情况：周围块选择的最优模式既存在MTS标志位为0又存在MTS标志位为1且MTS候选索引为0的情况；
S12：选择MTS标志位为1并且MTS候选索引为0时的变换核执行变换模块，将变换之后的值执行量化、反量化和反变换操作得到重构像素值，重复执行步骤S10，将得到的R-Dcost值与步骤S10得到的R-Dcost值对比，选择R-Dcost最小时对应的MTS的标志位及其索引值作为最优的MTS选择，并跳过执行当MTS标志位为1时，选择其他所有的MTS候选索引作为变换核的变换模块以及后续的量化、反量化和反变换以及步骤S10的操作；
S13：将步骤S6中确定的模式列表中的所有模式循环执行步骤S7至步骤S12，比较每个模式的R-Dcost，选择R-Dcost最小的模式作为最优模式，完成帧内模式选择。
根据本发明的一些实施例，步骤S9中，以MTS标志位为0进行变换，该变换方式使用的是离散余弦变换Type 2。
根据本发明的一些实施例，步骤S9中，D的值由将步骤S9得到的当前CU的每个像素的重构像素值与原始像素值做差，将差值取绝对值，并将当前CU的所有像素取绝对值后的差值相加。
根据本发明的一些实施例，步骤S11中，周围CU块包括左方CU块、上方CU块、左上方CU块、左下方CU块以及右上方CU块。
根据本发明的一些实施例，步骤S11中，若周围块选择的最优模式不都是MTS标志位为0或者最优模式只存在MTS标志位为0以及MTS标志位为1且MTS候选索引为0两种情况，则执行以下步骤：
循环选择MTS标志位为1且MTS候选索引为0以及周围5个CU块选择的最优模式中存在的MTS标志位为1时所选择的MTS候选索引时的变换核执行变换模块，即如果周围5个CU块，只存在两种情况，有部分CU块的最优模式是选择MTS标志位为1且选择的MTS候选索引为2作为变换核，剩余CU块的最优模式选择MTS标志位为1且选择的MTS候选索引为3作为变换核，需要循环选择MTS标志位为1且MTS候选索引为0、MTS标志位为1且MTS候选索引为2以及MTS标志位为1且MTS候选索引为3作为变换核进行变化模块，并分别将变换之后的值执行量化、反量化、反变换操作，得到重构像素值，并执行步骤S10，由此分别得到R-Dcost值，循环所有情况后将得到的R-Dcost值进行对比，选择R-Dcost值最小时对应的MTS的标志位及其索引值作为最优的MTS选择，从而跳过了选择MTS标志位为1且选择的MTS候选索引为1作为变换核执行变换模块的情况。
根据本发明的一些实施例，步骤S12中，选择其他所有的MTS候选索引，包括MTS候选索引1、MTS候选索引2以及MTS候选索引3。
图1是使用MTS的编码单元(Coding Unit，简称CU)进行帧内编码过程的流程图，其中MTS候选索引用于指示应用了变换矩阵的哪种组合。表1列出了MTS候选索引和相应的变换矩阵。
表1 MTS候选索引与变换矩阵对应表
MTS候选索引 水平 垂直
0 DST-VII DST-VII
1 DST-VII DCT-VIII
2 DCT-VIII DST-VII
3 DCT-VIII DCT-VIII
VVC帧内CU变换过程要经过两个阶段，并使用CU级的MTS标志(MTS flag)指示当前CU是否启用MTS。在第一阶段，MTS flag为0，对CU用DCT-II进行变换，在第二阶段，MTS flag为1，对CU用MTS候选变换依次进行变换。编码器将选取率失真代价最小的变换为最佳变换。
由于VVC中增加了大量的工具，导致其复杂度急剧地增加，这也导致其时间成本增加，实用性大打折扣的原因。因此本发明实施例的方法根据空间相关性对多变换核进行相应的跳过，从而达到降低VTM复杂度的目的。
附图说明
图1是使用MTS的编码单元帧内编码过程流程图。
具体实施方式
以下是本发明的具体实施例，并结合实施例对本发明的技术方案作进一步的描述，但本发明并不限于这些实施例。
实施例
本例提供了一种基于空间相关度的多变换核快速处理方法，该处理方法根据周围CU块的MTS信息跳过当前CU块的MTS执行过程。具体包括以下步骤：
S1：对当前CU执行帧内编码流程；
S2：遍历67种预测模式，跳过VVC中的32种角度模式，只对HEVC中存在的35种模式进行绝对变换差之和(Sum of Absolute Transformed Difference，简称SATD)的计算，将SATD值从小到大排序，从中选出SATD值较小的前N个模式存入模式列表，其中N的大小由查表得到；；
S3：遍历步骤S2选出的模式，若模式编号属于2～66，则比较每种模式与其相邻的两个模式的SATD值，从中选出SATD值最小的一个模式，更新模式列表，得到第一次更新的模式列表；
S4：构建最优模式(Most Probably Mode，简称MPM)列表并遍历MPM列表中的6种模式，计算6种模式的SATD值，并与步骤S3中的模式列表中的SATD值比较，选择SATD值较小的模式，更新模式列表，得到第二次更新的模式列表；
S5：执行基于矩阵的帧内预测模块(Matrix-based Intra Prediction，简称MIP)，用哈达玛变换导出MIP的候选模式，并将MIP的MPM模式添加到模式列表，得到第三次更新的模式列表；
S6：执行ISP模块，更新模式列表，得到第四次更新的模式列表，即用于执行后续流程的模式列表；
S7：获取第四次更新的模式列表中的第一个模式，计算得到在使用该预测模式情况下当前CU的预测值；
S8：将当前CU的原始像素值减去由步骤S7得到的预测值，得到原始像素值与预测值的残差值；
S9：对步骤S8得到的残差值执行变换模块，首先以多变换核选择(MultipleTransform Selection，简称MTS)标志位为0进行变换，将变换之后的值执行量化、反量化和反变换操作，得到重构像素值；
S10：计算使用步骤S9的变换核时的率失真消耗(Rate-Distortion cost，简称R-Dcost)值，公式为：
J＝D+λ*R，
其中，D是指失真值，λ为编码器设定数值，R为编码当前CU所使用的比特数值，J为最终计算得到的R-Dcost值；
S11：获取周围CU块的MTS标志位以及MTS候选索引，若周围块选择的最优模式存在以下两种情况之一，则执行步骤S12；第一种情况：周围块选择的最优模式都是MTS标志位为0的情况；第二种情况：周围块选择的最优模式既存在MTS标志位为0又存在MTS标志位为1且MTS候选索引为0的情况；
S12：选择MTS标志位为1并且MTS候选索引为0时的变换核执行变换模块，将变换之后的值执行量化、反量化和反变换操作得到重构像素值，重复执行步骤S10，将得到的R-Dcost值与步骤S10得到的R-Dcost值对比，选择R-Dcost最小时对应的MTS的标志位及其索引值作为最优的MTS选择，并跳过执行当MTS标志位为1时，选择其他所有的MTS候选索引作为变换核的变换模块以及后续的量化、反量化和反变换以及步骤S10的操作；
S13：将步骤S6中确定的模式列表中的所有模式循环执行步骤S7至步骤S12，比较每个模式的R-Dcost，选择R-Dcost最小的模式作为最优模式，完成帧内模式选择。
步骤S9中，以MTS标志位为0进行变换，该变换方式使用的是离散余弦变换Type 2。D的值由将步骤S9得到的当前CU的每个像素的重构像素值与原始像素值做差，将差值取绝对值，并将当前CU的所有像素取绝对值后的差值相加。
步骤S11中，周围CU块包括左方CU块、上方CU块、左上方CU块、左下方CU块以及右上方CU块。若周围块选择的最优模式不都是MTS标志位为0或者最优模式只存在MTS标志位为0以及MTS标志位为1且MTS候选索引为0两种情况，则执行以下步骤：
循环选择MTS标志位为1且MTS候选索引为0以及周围5个CU块选择的最优模式中存在的MTS标志位为1时所选择的MTS候选索引时的变换核执行变换模块，即如果周围5个CU块，只存在两种情况，有部分CU块的最优模式是选择MTS标志位为1且选择的MTS候选索引为2作为变换核，剩余CU块的最优模式选择MTS标志位为1且选择的MTS候选索引为3作为变换核，需要循环选择MTS标志位为1且MTS候选索引为0、MTS标志位为1且MTS候选索引为2以及MTS标志位为1且MTS候选索引为3作为变换核进行变化模块，并分别将变换之后的值执行量化、反量化、反变换操作，得到重构像素值，并执行步骤S10，由此分别得到R-Dcost值，循环所有情况后将得到的R-Dcost值进行对比，选择R-Dcost值最小时对应的MTS的标志位及其索引值作为最优的MTS选择，从而跳过了选择MTS标志位为1且选择的MTS候选索引为1作为变换核执行变换模块的情况。
步骤S12中，选择其他所有的MTS候选索引，包括MTS候选索引1、MTS候选索引2以及MTS候选索引3。
与未添加算法的编码器相比,在BDBR损失0.27％的情况下时间减少37.60％。该结果在VVC官方参考软件VTM3.0上实现，并使用JVET的通用测试条件进行实验。
在编码器的设置上，使用默认的All-Intra(全帧内)配置中的设置，测试所用视频序列为官方推荐的采样格式为420的视频序列。编码性能主要由BDBR和TR(Timereduction，时间减少)两个指标进行评估，并以原始的VTM3.0编码器为基准评估算法的编码性能。其中，BDBR表示在同样的客观质量下两种编码方法的码率差值，由同一段视频在4个QP(Quantization Parameter量化参数)取值下(22，27，32，37)分别编码并计算码率和PSNR(Peak Signal to Noise Ratio峰值信噪比，一种评价图像的客观标准)所得到。BDBR能够综合反映视频的码率和质量，它表示在同样的客观质量下，较优的编码方法可以节省的码率百分比。当BDBR为负值，表示相同PSNR下，码率减少，性能提高。正值表示码率增加，性能下降。TR则用于衡量快速算法在原编码器的基础上对编码时间的缩减程度，计算方式如下：
Figure BDA0002394785050000081
其中，T1为将本发明实施例方法应用到VTM3.0后的总编码时间，T0为原始VTM3.0的总编码时间。当TR为负值时表示添加算法的编码器比未添加算法的编码器所使用的时间降低。具体结果如表2所示。
表2
序列名称 BDBR损失 时间减少
BlowingBubbles 0.29％ -39.83％
ChinaSpeed 0.14％ -37.50％
Johnny 0.31％ -35.05％
RaceHorsesC 0.46％ -39.75％
Vidyo1 0.13％ -35.86％
Average 0.27％ -37.60％

Claims (7)

1.一种基于空间相关度的多变换核快速处理方法，其特征在于，所述基于空间相关度的多变换核快速处理方法为：根据周围CU块的MTS信息跳过当前CU块的MTS执行过程。
2.根据权利要求1所述的基于空间相关度的多变换核快速处理方法，其特征在于，包括以下步骤：
S1：对当前CU执行帧内编码流程；
S2：遍历67种预测模式，跳过VVC中的32种角度模式，只对HEVC中存在的35种模式进行SATD值的计算，将SATD值从小到大排序，从中选出SATD值较小的前N个模式存入模式列表，其中N的大小由查表得到；
S3：遍历步骤S2选出的模式，若模式编号属于2～66，则比较每种模式与其相邻的两个模式的SATD值，从中选出SATD值最小的一个模式，更新模式列表，得到第一次更新的模式列表；
S4：构建MPM列表并遍历MPM列表中的6种模式，计算6种模式的SATD值，并与步骤S3中的模式列表中的SATD值比较，选择SATD值较小的模式，更新模式列表，得到第二次更新的模式列表；
S5：执行MIP模块，用哈达玛变换导出MIP的候选模式，并将MIP的MPM模式添加到模式列表，得到第三次更新的模式列表；
S6：执行ISP模块，更新模式列表，得到第四次更新的模式列表，即用于执行后续流程的模式列表；
S7：获取第四次更新的模式列表中的第一个模式，计算得到在使用该预测模式情况下当前CU的预测值；
S8：将当前CU的原始像素值减去由步骤S7得到的预测值，得到原始像素值与预测值的残差值；
S9：对步骤S8得到的残差值执行变换模块，首先以MTS标志位为0进行变换，将变换之后的值执行量化、反量化和反变换操作，得到重构像素值；
S10：计算使用步骤S9的变换核时的R-Dcost值，公式为：
J＝D+λ*R，
其中，D是指失真值，λ为编码器设定数值，R为编码当前CU所使用的比特数值，J为最终计算得到的R-Dcost值；
S11：获取周围CU块的MTS标志位以及MTS候选索引，若周围块选择的最优模式存在以下两种情况之一，则执行步骤S12；第一种情况：周围块选择的最优模式都是MTS标志位为0的情况；第二种情况：周围块选择的最优模式既存在MTS标志位为0又存在MTS标志位为1且MTS候选索引为0的情况；
S12：选择MTS标志位为1并且MTS候选索引为0时的变换核执行变换模块，将变换之后的值执行量化、反量化和反变换操作得到重构像素值，重复执行步骤S10，将得到的R-Dcost值与步骤S10得到的R-Dcost值对比，选择R-Dcost最小时对应的MTS的标志位及其索引值作为最优的MTS选择，并跳过执行当MTS标志位为1时，选择其他所有的MTS候选索引作为变换核的变换模块以及后续的量化、反量化和反变换以及步骤S10的操作；
S13：将步骤S6中确定的模式列表中的所有模式循环执行步骤S7至步骤S12，比较每个模式的R-Dcost，选择R-Dcost最小的模式作为最优模式，完成帧内模式选择。
3.根据权利要求2所述的基于空间相关度的多变换核快速处理方法，其特征在于，步骤S9中，以MTS标志位为0进行变换，变换方式使用的是离散余弦变换Type 2。
4.根据权利要求2所述的基于空间相关度的多变换核快速处理方法，其特征在于，步骤S10中，D的值由将步骤S9得到的当前CU的每个像素的重构像素值与原始像素值做差，将差值取绝对值，并将当前CU的所有像素取绝对值后的差值相加。
5.根据权利要求2所述的基于空间相关度的多变换核快速处理方法，其特征在于，步骤S11中，周围CU块包括左方CU块、上方CU块、左上方CU块、左下方CU块以及右上方CU块。
6.根据权利要求2所述的基于空间相关度的多变换核快速处理方法，其特征在于，步骤S11中，若周围块选择的最优模式不都是MTS标志位为0或者最优模式只存在MTS标志位为0以及MTS标志位为1且MTS候选索引为0两种情况，则执行以下步骤：
循环选择MTS标志位为1且MTS候选索引为0以及周围5个CU块选择的最优模式中存在的MTS标志位为1时所选择的MTS候选索引时的变换核执行变换模块，即如果周围5个CU块，只存在两种情况，有部分CU块的最优模式是选择MTS标志位为1且选择的MTS候选索引为2作为变换核，剩余CU块的最优模式选择MTS标志位为1且选择的MTS候选索引为3作为变换核，需要循环选择MTS标志位为1且MTS候选索引为0、MTS标志位为1且MTS候选索引为2以及MTS标志位为1且MTS候选索引为3作为变换核进行变化模块，并分别将变换之后的值执行量化、反量化、反变换操作，得到重构像素值，并执行步骤S10，由此分别得到R-Dcost值，循环所有情况后将得到的R-Dcost值进行对比，选择R-Dcost值最小时对应的MTS的标志位及其索引值作为最优的MTS选择，从而跳过了选择MTS标志位为1且选择的MTS候选索引为1作为变换核执行变换模块的情况。
7.根据权利要求2所述的基于空间相关度的多变换核快速处理方法，其特征在于，步骤S12中，其他所有的MTS候选索引，包括MTS候选索引1、MTS候选索引2以及MTS候选索引3。
CN202010127282.7A 2020-02-28 2020-02-28 一种基于空间相关度的多变换核快速处理方法 Active CN111263158B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010127282.7A CN111263158B (zh) 2020-02-28 2020-02-28 一种基于空间相关度的多变换核快速处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010127282.7A CN111263158B (zh) 2020-02-28 2020-02-28 一种基于空间相关度的多变换核快速处理方法

Publications (2)

Publication Number Publication Date
CN111263158A true CN111263158A (zh) 2020-06-09
CN111263158B CN111263158B (zh) 2021-11-16

Family

ID=70954871

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010127282.7A Active CN111263158B (zh) 2020-02-28 2020-02-28 一种基于空间相关度的多变换核快速处理方法

Country Status (1)

Country Link
CN (1) CN111263158B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230099505A1 (en) * 2021-09-29 2023-03-30 Qualcomm Incorporated Adaptive determination of multiple transform candidates for video coding
US12003731B2 (en) * 2022-09-19 2024-06-04 Qualcomm Incorporated Adaptive determination of multiple transform candidates for video coding

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107211144A (zh) * 2015-01-26 2017-09-26 高通股份有限公司 用于预测残差的增强型多重变换
US20180205949A1 (en) * 2017-01-13 2018-07-19 Mediatek Inc. Method and Apparatus of Transform Coding
CN109688414A (zh) * 2018-12-19 2019-04-26 同济大学 一种vvc帧内编码单元候选预测模式缩减及块划分提前终止方法
CN110291789A (zh) * 2017-01-11 2019-09-27 交互数字Vc控股公司 用于选择用于对残差块进行编码/解码的编码模式的方法和装置
WO2019194458A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 Obmc를 이용한 영상 코딩 방법 및 그 장치
CN110365982A (zh) * 2019-07-31 2019-10-22 中南大学 一种多用途编码中帧内编码的多变换选择加速方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107211144A (zh) * 2015-01-26 2017-09-26 高通股份有限公司 用于预测残差的增强型多重变换
CN110291789A (zh) * 2017-01-11 2019-09-27 交互数字Vc控股公司 用于选择用于对残差块进行编码/解码的编码模式的方法和装置
US20180205949A1 (en) * 2017-01-13 2018-07-19 Mediatek Inc. Method and Apparatus of Transform Coding
WO2019194458A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 Obmc를 이용한 영상 코딩 방법 및 그 장치
CN109688414A (zh) * 2018-12-19 2019-04-26 同济大学 一种vvc帧内编码单元候选预测模式缩减及块划分提前终止方法
CN110365982A (zh) * 2019-07-31 2019-10-22 中南大学 一种多用途编码中帧内编码的多变换选择加速方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
TING FU: "Two-Stage Fast Multiple Transform Selection Algorithm for VVC Intra Coding", 《2019 IEEE INTERNATIONAL CONFERENCE ON MULTIMEDIA AND EXPO(ICME)》 *
曹小强: "帧内视频编码的预测及滤波算法研究", 《中国优秀硕士学位论文全文数据库》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230099505A1 (en) * 2021-09-29 2023-03-30 Qualcomm Incorporated Adaptive determination of multiple transform candidates for video coding
US12003731B2 (en) * 2022-09-19 2024-06-04 Qualcomm Incorporated Adaptive determination of multiple transform candidates for video coding

Also Published As

Publication number Publication date
CN111263158B (zh) 2021-11-16

Similar Documents

Publication Publication Date Title
KR100739714B1 (ko) 인트라 예측 모드 결정 방법 및 장치
KR101403343B1 (ko) 부화소 움직임 추정을 이용한 인터 예측 부호화, 복호화방법 및 장치
US8144770B2 (en) Apparatus and method for encoding moving picture
WO2010131601A1 (ja) 画像処理装置および方法、並びにプログラム
US9332275B2 (en) Methods, apparatuses, and programs for encoding and decoding picture
KR100846512B1 (ko) 영상의 부호화, 복호화 방법 및 장치
WO2008004768A1 (en) Image encoding/decoding method and apparatus
US20050276331A1 (en) Method and apparatus for estimating motion
US20120320985A1 (en) Motion vector predictive encoding method, motion vector predictive decoding method, moving picture encoding apparatus, moving picture decoding apparatus, and programs thereof
WO2008035842A1 (en) Apparatus and method for encoding and decoding using alternative converter according to the correlation of residual signal
US20070133689A1 (en) Low-cost motion estimation apparatus and method thereof
US20090028241A1 (en) Device and method of coding moving image and device and method of decoding moving image
KR101700410B1 (ko) 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
CN113068025B (zh) 解码预测方法、装置及计算机存储介质
CN114830663A (zh) 变换方法、编码器、解码器以及存储介质
CN111263158B (zh) 一种基于空间相关度的多变换核快速处理方法
CN111355955B (zh) 基于预选层的多变换核快速跳过方法
KR20090041944A (ko) 인근 블록의 모드정보를 이용한 움직임 추정 방법 및 장치
JP2009049969A (ja) 動画像符号化装置及び方法並びに動画像復号化装置及び方法
CN113395520B (zh) 解码预测方法、装置及计算机存储介质
JP2007266861A (ja) 画像符号化装置
CN113132734B (zh) 一种编码、解码方法、装置及其设备
RU2810727C1 (ru) Способы, оборудование и устройства для декодирования, кодирования и кодирования/декодирования
US20230199196A1 (en) Methods and Apparatuses of Frequency Domain Mode Decision in Video Encoding Systems
US11616950B2 (en) Bitstream decoder

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant