CN102006481B - 基于块特征的快速帧内预测模式选择方法 - Google Patents

Abstract

本发明涉及视频编码技术领域，尤其涉及一种基于块特征的快速帧内预测模式选择方法。本发明的对象是亮度4x4块、亮度16x16块和色度8x8块，通过对当前块的上边和左边各自四个像素分别计算方差来判断该块的纹理变化，从而确定相应的模式或删减无关的模式以达到保证视频编码质量的前提下提高视频编码速度的目的。本算法解决了最新提案中算法只适用于变化平缓的图像块的缺陷，在经过优化的x264手机平台下，在同时修改亮度4x4块、亮度16x16块和色度8x8块时，速度可以提高0.5~2fps不等，较好地实现了编码速度和效率的统一。

Description

基于块特征的快速帧内预测模式选择方法

技术领域

本发明涉及视频编码技术领域，尤其涉及一种基于块特征的快速帧内预测模式选择方法。

背景技术

随着时间的不断发展，经历了1996年的H.263，1998年的H.263+，2000年的H.263++，到了2001年，MPEG认识到H.264的潜在优势及与VCEG联合工作的必要性，从而两者合作成立联合视频组(JVT)，从而形成了2003年第二季度发布的统一标准H.264/AVC。

新一代的视频编码标准H.264/AVC采用了多项新的编码技术，与以前视频编码标准相比，在保持良好解码质量的同时大大的提高了压缩效率，但是，在获得高压缩效率的同时，运算复杂度急剧上升，难以在很多资源受限的系统中实现实时编码，尤其是低档微机和一些嵌入式系统。因此，研究快速方法，降低H.264对计算资源的要求，便显得尤为重要。

在H.264/AVC中，帧间和帧内预测占据了方法复杂度的主要部分。帧内预测是为了消除视频序列的空间冗余，利用邻近块已解码重构的像素做外推来实现对当前块的预测，预测块和实际块的残差被编码。特别是在变化平坦的背景区域，由于存在大量的空间冗余，利用帧内预测可以取得很好的效果，大大提高编码比特的使用效率，减少帧内编码的比特使用。

减少帧内预测复杂度的方法分为两类：第一类是简化代价函数，第二类是缩小预测模式的选择范围。本发明属于第二类方法。第二类方法主要是利用当前块及其周围像素的某些特征，预先排除某些可能性很小的预测模式，或提前终止某些可能性小的模式的代价计算，从而降低帧内预测的复杂度。由于H.264帧内编码是基于帧内冗余性的，空间相关性较大。所以可以利用相邻块的信息来分析当前编码块的一些特征信息，比如方差，从而我们预先删减一些概率很小甚至不可能的预测模式，以达到在保证编码质量的前提下提升编码速度。

目前在这一领域的一种新技术就是Dae-Yeon Kim，Ki-Hun Han，Yung-Lyul Lee联合提出的一篇提案（参见文献1），提案中的方法是计算当前编码块的两边共8个像素值的方差，从而进行模式的选择。当8个数的方差小于阈值时，做出DC模式的选择，其他的情况不改变。但是这种方法的一个缺陷就是要求这一整块变换很缓慢，也就是说一整块的数字波动很小才能保证8个数的方差小于阈值，所以提案中的方法是适合图像变换很平缓时采取的编码方法。当有的图像在x方向变换不明显，而在y方向变换明显时，或者反过来在y方向变换不明显，而在x方向变换明显时，这时不能应用提案的方法了，但它仍然可以删减模式。

文献1：ITU-T STUDY GROUP 16 Question 6,Document:VCEG-AJ11

发明内容

针对上述存在的技术问题，本发明的目的是提供一种基于块特征的快速帧内预测模式选择方法，以解决文献1中存在的只能适用于图像变化比较慢的块。

为达到上述目的，本发明采用如下的技术方案：

步骤①：当编码器进入到4×4块的模式选择时，先对亮度部分进行模式选择；判断该4×4块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑥；

步骤②：当两边像素值都存在时，算出4×4块上边和左边的各自四个数的方差，分别记为var1，var2；

步骤③：比较两边各自的方差和阈值的关系，进行删减模式：若var1<Th并且var2<Th并且|sum1-sum2|<Th2，则用标准中4x4亮度预测模式中的模式2，即用4x4块周边8个像素值平均值推出所有像素值；所述模式2为DC模式；

步骤④：若仅有var1<Th则只用模式0代替模式0，2，3，7；

步骤⑤：若仅有var2<Th则只用模式1代替模式1，2，8；

步骤⑥：不满足内部方差与阈值判断的，以及不满足左边和上边块都存在的情况，交给原有H.264帧内编码程序默认处理；

其中，sum1，sum2分别是上边块和左边块的四个像素和，sum1，sum2在步骤②中计算方差的过程中获得；Th2是用来判别两边数目相差多少的的一个阈值，是从5到70中，每隔5步长测试所选择出的经验值20，两边4个数和相差20，Th由下公式计算得出：

公式中的

表示去整运算，Qstep是当前4x4块的量化步长。

所述步骤①中，是在当两边像素值都存在时，对一个编码块的上边和左边各自四个像素分别计算方差。

所述步骤②定义var1，var2为块上边和左边的方差，方差按照公式var=EX²-(EX)²计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{x}_i^2}{4}-{\left(\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{x}_i}{4}\right)}^2$

$=(4\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/16$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{y}_i^2}{4}-{\left(\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{y}_i}{4}\right)}^2$

$=(4\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/16$

其中x_i是指上面的每个数值，而y_i是指左边的4个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和。

一种基于块特征的快速帧内预测模式选择方法，包括以下步骤：

步骤①：对亮度分量先进行16×16块的模式选择：当编码器进入到16×16块的模式选择时，先对16×16块进行模式选择；判断该16×16块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边16个像素和上边16个像素的方差，分别记为var1，var2；

方差按照公式var=EX²-(EX)²计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{x}_i^2}{16}-{\left(\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{x}_i}{16}\right)}^2$

$=(16\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/256$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{y}_i^2}{16}-{\left(\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{y}_i}{16}\right)}^2$

$=(16\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/256$

其中x_i是指上面的每个数值，而y_i是指左边的16个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和；而阈值Th则由下公式计算得出。

公式中的

表示去整运算，Qstep是当前16×16块的量化步长；

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中16×16色度预测四种模式中的模式3；其中Th2是用来判别两边数目相差多少的一个阈值，是从16到160中，每隔16步长测试所选择出的经验值80，即两边16个数和相差80；所述模式3为平面模式；

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，从模式0和模式1中选择最佳模式；所述模式0为垂直模式，所述模式1为水平模式；

步骤⑤：对于16×16块中不是两边都存在的，交给原有H.264帧内编码程序默认处理。

一种基于块特征的快速帧内预测模式选择方法，包括以下步骤：

步骤①：对色度分量先进行8×8块的模式选择。当编码器进入到8×8块的模式选择时，先对8×8块进行模式选择；判断该8×8块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边8个像素和上边8个像素的方差，分别记为var1，var2；

方差仍然按照公式var=EX²-(EX)²计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{x}_i^2}{8}-{\left(\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{x}_i}{8}\right)}^2$

$=(8\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/64$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{y}_i^2}{8}-{\left(\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{y}_i}{8}\right)}^2$

$=(8\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/64$

其中x_i是指上面的每个数值，而y_i是指左边的8个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和；而阈值Th则由下公式计算得出；

公式中的表示去整运算，Qstep是当前8×8块的量化步长；

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中8×8色度预测四种模式中的模式3；其中Th2是用来判别两边数目相差多少的的一个阈值，是从16到80中，每隔8步长测试所选择出的经验值40，即两边8个数和相差40；所述模式3为平面模式；

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，从模式1和模式2中选择最佳模式；所述模式1为水平模式，所述模式2为垂直模式；

步骤⑤：对于8×8块中不是两边都存在的，交给原有H.264帧内编码程序默认处理。

本发明具有以下优点和积极效果：

1）本发明解决了文献1中所述的方法只比较适用于图像变换平缓的块，本发明中的方法对图像内容变换平缓和其内容细节、丰富、剧烈一样的有效；

2）本发明从亮度4×4块，亮度16×16块和色度8×8块都做改进，可以在保证视频主客观质量的前提下提高视频编码的速度。

附图说明

图1是本发明中亮度4×4块思想的原理图。

图2是本发明提供的基于块特征的快速帧内预测模式选择方法的流程图。

图3是本发明亮度16×16块帧内预测模式选择方法的流程图。

图4是本发明色度8×8块帧内预测模式选择方法的流程图。

图5是本发明基于hall_qcif.yuv的效果比较。

图6是本发明基于salesman.yuv的效果比较。

图7是本发明基于container.yuv的效果比较。

图8是本发明基于mobile_qcif.yuv的效果比较。

具体实施方式

本发明主要是以视频序列的编码速度和码率为衡量标准，提出的基于块特征的快速帧内预测模式选择方法。

本发明对图像变换平缓和剧烈的视频序列都有效，这与它的原理是密切相关的。结合图1，对于一帧图像亮度分量，本发明是先分别考虑当前块左边四个和上边四个的像素值是否相似，若其两边的共8个像素值(M和N)很接近，即为变换平缓的图像，此时用标准中4x4亮度预测九种模式预测的结果是差不多的，所以采取了最简单的模式2(DC模式，即用周边像素值的平均值来推出当前块的所有像素值)，对于此平缓图像的处理的思想与提案相近，处理的方法与提案不一样；另外，与提案根本不同的是，对于变化剧烈的图像，即若仅上边或左边四个像素相似，或完全不相似，此时用提案的方法处理就不奏效了。如果在水平或垂直方向相似，本发明则分别相应的对水平或垂直的方向进行处理。处理的方式是，在相似的那个方向上，减除候选模式，降低复杂度，提高效率；否则由系统默认处理。并且本发明将此种既能处理平缓图像又能处理剧烈图像的方法应用到图像8×8色度预测和16×16亮度预测上，在保证了PSNR基本不变的前提下，速度更得到提升。

本发明提出的基于块特征的快速帧内预测模式选择方法，具体包括以下步骤，如图2所示，包括：

步骤①：对亮度分量先进行4×4块的模式选择。当编码器进入到4×4块的模式选择时，先对亮度部分进行模式选择；判断该4×4块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑥；

步骤：当两边像素值都存在时，分别定义该块左边四个像素和上边四个像素的方差，分别记为var1，var2；

方差按照公式var=EX²-(EX)²计算。具体到图像中，按如下公式计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{x}_i^2}{4}-{\left(\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{x}_i}{4}\right)}^2$

$=(4\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/16$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{y}_i^2}{4}-{\left(\frac{\underset{i=1}{\overset{4}{\mathrm{\&Sigma;}}}{y}_i}{4}\right)}^2$

$=(4\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/16$

其中x_i是指上面的每个数值，而y_i是指左边的4个数的每个数值，X和Y分别代表上边左边像素值的变量。sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和。而阈值Th则由下公式计算得出。

公式中的

表示去整运算，Qstep是当前4x4块的量化步长。

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中4x4亮度预测九种模式中的模式2(DC模式)；此步表示若两边方差都小于阈值时，且两边的数目相差不大时就采用模式2。因为此时相差不大的像素值用哪种预测方式都一样。其中Th2是用来判别两边数目相差多少的的一个阈值，是从5到70中，每隔5步长测试所选择出的经验值20，两边4个数和相差20，即意味着两边的像素值相差5就认为他们很接近，这从直观上也是可以理解的。

步骤④：若仅有var1<Th则只用模式0代替模式0，2，3，7；即表示，若当只有上边的像素值的方差小于阈值时，说明该块在x方向上变化缓慢，而在y方向上变化大，此时由于y方向的变化大所以不采用模式2(DC模式)，而由于x方向的变化不大，用0、3、7模式预测一样，所以选择了简单的模式0；

步骤⑤：若仅有var2<Th则只用模式1代替模式1，2，8；即表示，若当只有左边的像素值的方差小于阈值时，说明该块在x方向上变化大，而在y方向上变化缓慢，此时由于x方向的变化大所以不采用模式2(DC模式)，而由于y方向的变化不大，用1、8模式预测一样，所以选择了简单的模式1；

步骤⑥：对于4×4块中不满足内部方差与阈值判断的，以及不满足左边和上边块都存在的交给原有程序默认处理。

步骤⑦：按步骤①～⑥进行4×4块的亮度16×16块和色度8×8进行修改。经过这一步的修改，速度会有0.5～2fps不等的提高。

实施例1

图3所示为亮度16×16块帧内预测模式选择方法的流程图。

步骤①：对亮度分量先进行16×16块的模式选择。当编码器进入到16×16块的模式选择时，先对16×16块进行模式选择；判断该16×16块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边16个像素和上边16个像素的方差，分别记为var1，var2；

方差仍然按照公式var=EX²-(EX)²计算。具体到图像中，按如下公式计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{x}_i^2}{16}-{\left(\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{x}_i}{16}\right)}^2$

$=(16\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/256$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{y}_i^2}{16}-{\left(\frac{\underset{i=1}{\overset{16}{\mathrm{\&Sigma;}}}{y}_i}{16}\right)}^2$

$=(16\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/256$

其中x_i是指上面的每个数值，而y_i是指左边的16个数的每个数值，X和Y分别代表上边左边像素值的变量。sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和。而阈值Th则由下公式计算得出。

公式中的

表示去整运算，Qstep是当前16×16块的量化步长。

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中16×16色度预测四种模式中的模式3(平面模式)；此步表示若两边方差都小于阈值时，且两边的数目相差不大时就采用模式3。因为此时相差不大的像素值用哪种预测方式都一样，而模式3更适用于亮度变化平缓的区域，所以选择了模式3。其中Th2是用来判别两边数目相差多少的的一个阈值，是从16到160中，每隔16步长测试所选择出的经验值80，两边16个数和相差80，即意味着两边的像素值相差5就认为他们很接近，这从直观上也是可以理解的。

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，说明其变化不平缓，同样也就不适合用模式2(DC模式)了，当然也不采用模式3了，因为他也是适合用于亮度变化平缓区域。于是本文直接让其从模式0(垂直模式)和模式1(水平模式)中选择最佳模式。

步骤⑤：对于16×16块中不是两边都存在的，交给原有程序默认处理。

实施例2

图4所示为色度8×8块帧内预测模式选择方法的流程图。

步骤①：对色度分量先进行8×8块的模式选择。当编码器进入到8×8块的模式选择时，先对8×8块进行模式选择；判断该8×8块是否左边和上边的相邻块都存在，若存在，转到

步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边四个像素和上边四个像素的方差，分别记为var1，var2；

方差仍然按照公式var=EX²-(EX)²计算。具体到图像中，按如下公式计算：

$\mathrm{var}1={\mathrm{EX}}^2-{\left(\mathrm{EX}\right)}^2$

$=\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{x}_i^2}{8}-{\left(\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{x}_i}{8}\right)}^2$

$=(8\&times;\mathrm{sqr}1-\mathrm{sum}1\&times;\mathrm{sum}1)/64$

$\mathrm{var}2={\mathrm{EY}}^2-{\left(\mathrm{EY}\right)}^2$

$=\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{y}_i^2}{8}-{\left(\frac{\underset{i=1}{\overset{8}{\mathrm{\&Sigma;}}}{y}_i}{8}\right)}^2$

$=(8\&times;\mathrm{sqr}2-\mathrm{sum}2\&times;\mathrm{sum}2)/64$

其中x_i是指上面的每个数值，而y_i是指左边的4个数的每个数值，X和Y分别代表上边左边像素值的变量。sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和。而阈值Th则由下公式计算得出。

公式中的

表示去整运算，Qstep是当前8×8块的量化步长。

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中8×8色度预测四种模式中的模式3(平面模式)；此步表示若两边方差都小于阈值时，且两边的数目相差不大时就采用模式3。因为此时相差不大的像素值用哪种预测方式都一样，而模式3更适用于亮度变化平缓的区域，所以选择了模式3。其中Th2是用来判别两边数目相差多少的的一个阈值，是从16到80中，每隔8步长测试所选择出的经验值40，两边8个数和相差40，即意味着两边的像素值相差5就认为他们很接近，这从直观上也是可以理解的。

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，说明其变化不平缓，同样也就不适合用模式0(DC模式)了，当然也不采用模式3了，因为他也是适合用于亮度变化平缓区域。于是本文直接让其从模式1(水平模式)和模式2(垂直模式)中选择最佳模式。

步骤⑤：对于8×8块中不是两边都存在的，交给原有程序默认处理。

图5-图8分别显示了本发明的效果比较，其中，“原始”代表原始版本算法，“提案”代表Dae-Yeon Kim等人提案中所提出的算法，“本文”代表本文中提出的算法。算法实现的平台多普达S700，代码是已经经过多次优化的x264代码。

以上实施例仅供说明本发明之用，而非对本发明的限制，有关技术领域的技术人员，在不脱离本发明的精神和范围的情况下，还可以作出各种变换或变型，因此所有等同的技术方案，都落入本发明的保护范围。

Claims (5)

1.一种基于块特征的快速帧内预测模式选择方法，其特征在于，包括以下步骤：

步骤①：当编码器进入到4×4块的模式选择时，先对亮度部分进行模式选择；判断该4×4块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑥；

步骤②：当两边像素值都存在时，算出4×4块上边和左边的各自四个数的方差，分别记为var1，var2；

步骤③：比较两边各自的方差和阈值Th的关系，进行删减模式：若var1<Th并且var2<Th并且|sum1-sum2|<Th2，则用标准中4x4亮度预测模式中的模式2，即用4x4块周边8个像素值平均值推出所有像素值；所述模式2为DC模式；

步骤④：若仅有var1<Th则只用模式0代替模式0，2，3，7；

步骤⑤：若仅有var2<Th则只用模式1代替模式1，2，8；

步骤⑥：不满足内部方差与阈值判断的，以及不满足左边和上边块都存在的情况，交给原有H.264帧内编码程序默认处理；

其中，sum1，sum2分别是上边块和左边块的四个像素和，sum1，sum2在步骤②中计算方差的过程中获得；Th2是用来判别两边数目相差多少的的一个阈值，是从5到70中，每隔5步长测试所选择出的经验值20，即两边4个数和相差20，Th由下公式计算得出：

公式中的 

表示去整运算，Qstep是当前4x4块的量化步长。

2.根据权利要求1所述的基于块特征的快速帧内预测模式选择方法，其特征在于：

所述步骤①中，是在当两边像素值都存在时，对一个编码块的上边和左边各自四个像素分别计算方差。

3.根据权利要求1或2所述的基于块特征的快速帧内预测模式选择方法，其特征在于：

所述步骤②定义var1，var2为块上边和左边的方差，方差按照公式var=EX²-(EX)²计算： 

其中x_i是指上面的每个数值，而y_i是指左边的4个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和。

4.一种基于块特征的快速帧内预测模式选择方法，其特征在于，包括以下步骤：

步骤①：对亮度分量先进行16×16块的模式选择：当编码器进入到16×16块的模式选择时，先对16×16块进行模式选择；判断该16×16块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边16个像素和上边16个像素的方差，分别记为var1，var2；

方差按照公式var=EX²-(EX)²计算：

其中x_i是指上面的每个数值，而y_i是指左边的16个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和；而阈值Th则由下公式计算得出：

公式中的 

表示去整运算，Qstep是当前16×16块的量化步长；

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中16×16色度预测四种模式中的模式3；其中Th2是用来判别两边数目相差多少的一个阈值，是从16到160中，每隔16步长测试所选择出的经验值80，即两边16个数和相差80；所述模式3为平面模式；

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，从模式0和模式1中选择最佳模式；所述模式0为垂直模式，所述模式1为水平模式；

步骤⑤：对于16×16块中不是两边都存在的，交给原有H.264帧内编码程序默认处理。

5.一种基于块特征的快速帧内预测模式选择方法，其特征在于，包括以下步骤：

步骤①：对色度分量先进行8×8块的模式选择； 当编码器进入到8×8块的模式选择时，先对8×8块进行模式选择；判断该8×8块是否左边和上边的相邻块都存在，若存在，转到步骤②；若不存在，转到步骤⑤；

步骤②：当两边像素值都存在时，分别定义该块左边8个像素和上边8个像素的方差，分别记为var1，var2；

方差仍然按照公式var=EX²-(EX)²计算：

其中x_i是指上面的每个数值，而y_i是指左边的8个数的每个数值，X和Y分别代表上边左边像素值的变量；sqr1、sqr2分别代表上边和左边像素值的平方和，sum1、sum2分别代表上边和左边像素值的和；而阈值Th则由下公式计算得出； 

公式中的 

表示去整运算，Qstep是当前8×8块的量化步长；

步骤③：比较两边各自的方差和阈值的关系，从而来删减模式；若var1<Th&&var2<Th&&|sum1-sum2|<Th2，则用标准中8×8色度预测四种模式中的模式3；其中Th2是用来判别两边数目相差多少的的一个阈值，是从16到80中，每隔8步长测试所选择出的经验值40，即两边8个数和相差40；所述模式3为平面模式；

步骤④：若不满足步骤③中var1<Th&&var2<Th&&|sum1-sum2|<Th2条件的，从模式1和模式2中选择最佳模式；所述模式1为水平模式，所述模式2为垂直模式；

步骤⑤：对于8×8块中不是两边都存在的，交给原有H.264帧内编码程序默认处理。 

Images