CN103297781B - 一种基于纹理方向的hevc帧内编码方法、装置和系统 - Google Patents

Abstract

本发明公开了一种基于纹理方向的HEVC帧内编码方法、装置和系统，该方法包括：对每一帧图像分割最大CU,其深度值设置为0；获取当前CU的深度值，当深度值小于深度阈值时，计算当前CU的纹理方向标志，判断当前CU的纹理类型是否是平坦的或者方向性的，如果不是，则对当前CU进行分割，其深度值加1；当深度值达到深度阈值时，计算PU的纹理方向标志；根据CU和/或PU的纹理方向标志选择预测模式的候选模式集，从候选模式集确定最佳预测模式进行编码。本发明通过编码块的纹理方向标志来进行CU层块分割优化和PU层预测模式优化，从而大幅降低编码的复杂度和编码的时间。

Description

一种基于纹理方向的HEVC帧内编码方法、装置和系统

技术领域

本发明涉及视频编解码技术领域，尤其涉及一种基于纹理方向的HEVC(HighEfficiencyVideoCoding，高效视频编码)帧内编码方法、装置和系统。

背景技术

HEVC是由国际标准组织ISO/IEC和ITU-T制订的新一代视频压缩标准，它的核心目标是在H.264/AVC的基础上，压缩效率提高1倍，即在保证相同视频图像质量的前提下，视频流的码率减少50%。

HEVC继承了自H.261以来经典的基于块的混合编码模型。为了对高分辨率的视频进行更有效的压缩，HEVC提出了三种更具有灵活性的视频内容表示单元，包括：CU（codingunit，编码单元）、PU（predictionunit，预测单元）和TU（transformunit，变换单元）。CU类似于H.264中宏块的概念。在HEVC中，每一帧图像都被分割成互不重叠的LCU（LargestCodingUnit，最大编码单元），其尺寸为64x64，其depth(深度）定义为0。每一个LCU按四叉树递归的方式划分成4个子CU，同时深度加1，直到子CU的尺寸达到8x8，即depth为3时不再继续划分。在每个深度的CU中，用相同尺寸的PU（8x8的CU有8x8和4x4这两种PU）进行帧内预测编码，从35种预测模式（包括33种方向预测模式，DC预测模式和Planar预测模式）中选取最佳预测模式。在遍历完所有不同深度的CU之后，根据RDO（RateDistortionOptimization，率失真优化）得到的率失真值来确定CU的最佳划分方式和帧内预测模式。这些改进虽然提高了编码的效率，但是却增加了编码的复杂度。

为了降低编码器进行RDO运算时的计算量，HM10.0（HEVCtestmodel10.0）在RDO计算之前引进了RMD（RegulatedMetalDeposition，粗模式决策）过程。通过RMD先从35种预测模式中初步筛选出候选模式集，之后只对候选集中的模式进行RDO运算。相比于对所有的模式进行RDO运算，这种方法显然要快很多，但是依然十分耗时。

目前，针对HEVC帧内预测编码的优化主要集中于两个方面：PU层角度预测模式的优化和CU层块分割的优化。PU层的优化主要通过确定编码块的主要边缘方向信息，进一步减少需要进行RMD操作的预测模式。比如利用梯度直方图和边缘滤波器来确定编码块的边缘方向，通过边缘方向来确定需要进入RMD和RDO的预测模式集合。CU层的优化主要通过CU分割早截止来实现，这些方法充分利用了待编码CU自身的特性和待编码CU与已编码空域或者时域相邻CU的关系。但这些方法分别在PU层和CU层对HEVC帧内预测编码进行优化，PU层和CU层的优化是独立的，并没有整合到一起，还是很复杂度。

发明内容

有鉴于此，本发明要解决的技术问题是提供一种基于纹理方向的HEVC帧内编码方法、装置和系统，以在保证性能不变的情况下，降低编码的复杂度，缩短HEVC帧内编码时间。

本发明解决上述技术问题所采用的技术方案如下：

根据本发明的一个方面，提供一种基于纹理方向的HEVC帧内编码方法，该方法包括：

对每一帧图像分割最大编码单元,其深度值设置为0；

获取当前编码单元的深度值，当深度值小于深度阈值时，计算当前编码单元的纹理方向标志，判断当前编码单元的纹理类型是否是平坦的或者方向性的，如果不是，则对当前编码单元进行分割，其深度值加1，并重复执行本步骤；当深度值达到深度阈值时，计算预测单元的纹理方向标志；

根据编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从候选模式集确定最佳预测模式；以及

根据最佳预测模式进行编码。

优选地，计算编码单元的纹理方向标志、以及计算预测单元的纹理方向标志包括：

计算编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合；

确定方向测度值集合中的最小值为编码单元/预测单元的主导方向；以及

如果主导方向与其他方向的方向测度值得差值小于平坦阈值，则设置编码单元/预测单元的纹理方向标志为平坦的，否则设置编码单元/预测单元的纹理方向标志与主导方向一致。

优选地，计算编码单元的纹理方向标志中还包括计算编码单元的纹理类型，具体为：

如果编码单元的纹理方向标志为平坦的，则判定编码单元的纹理类型是平坦的；

如果编码单元的纹理方向标志的方向与其他方向的方向测度值的差值大于方向阈值，则判定编码单元的纹理类型是方向性的；

如果不满足上述两个条件，则判定编码单元的纹理类型是复杂的。

优选地，计算编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合包括采用以下公式进行计算：

$\mathrm{EV}=\frac{1}{2N\×(2N-1)}\underset{x=0}{\overset{2N-1}{\mathrm{\Σ}}}\underset{y=0}{\overset{2N-1}{\mathrm{\Σ}}}|p(x,y+1)-p(x,y)|$

$\mathrm{EH}=\frac{1}{2N\×(2N-1)}\underset{y=0}{\overset{2N-1}{\mathrm{\Σ}}}\underset{x=0}{\overset{2N-1}{\mathrm{\Σ}}}|p(x+1,y)-p(x,y)|$

其中，EV、EH、E45°和E135°分别表示垂直的、水平的、45度角和135度角的相邻像素的变化均值，2N为一个CU中水平方向和垂直方向的像素数目，（x，y）是编码单元中像素的位置，p(x，y)是编码单元中像素的值。

进一步地，根据编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从候选模式集确定最佳预测模式包括：

根据编码单元和/或预测单元的纹理方向标志筛选出初选预测模式集合；

对初选预测模式集合进行粗模式决策操作，得到候选模式集合；以及

对候选模式集合进行率失真优化操作，确定最佳预测模式。

优选地，上述深度阈值为3。

根据本发明的另一个方面，提供一种基于纹理方向的HEVC帧内编码装置，该装置包括：

图像分割模块,用于对每一帧图像分割最大编码单元,其深度值设置为0；

纹理方向标志计算模块，用于获取当前编码单元的深度值,在当前编码单元的深度值小于深度阈值时，计算当前编码单元的纹理方向标志，在当前编码单元的深度值小于深度阈值时，计算预测单元的纹理方向标志；

编码单元分割模块，用于当深度值小于深度阈值,且当前编码单元的纹理类型既不是平坦的也不是方向性的时，对当前编码单元进行分割，其深度值加1；

最佳预测模式确定模块，用于根据编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从候选模式集确定最佳预测模式；以及

编码模块，用于根据最佳预测模式进行编码。

优选地，纹理方向标志计算模块包括方向测度值计算单元、主导方向计算单元和方向标志设置单元，其中：

方向测度值计算单元，用于计算编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合；

主导方向计算单元，用于确定方向测度值集合中的最小值为编码单元/预测单元的主导方向；以及

方向标志设置单元，用于当主导方向与其他方向的方向测度值得差值小于平坦阈值时，设置编码单元/预测单元的纹理方向标志为平坦的，否则设置编码单元/预测单元的纹理方向标志与主导方向一致。

进一步地，纹理方向标志计算模块还包括纹理类型计算单元，纹理类型计算单元模块具体用于：

当编码单元的纹理方向标志为平坦的时，则判定编码单元的纹理类型是平坦的；当编码单元的纹理方向标志的方向与其他方向的方向测度值的差值大于方向阈值，则判定编码单元的纹理类型是方向性的；当不满足上述两个条件时，则判定编码单元的纹理类型是复杂的。

优选地，最佳预测模式确定模块包括预测模式选择单元、粗模式决策操作单元和率失真优化操作单元，其中：

预测模式选择单元，用于根据编码单元和/或预测单元的纹理方向标志筛选出初选预测模式集合；

粗模式决策操作单元，用于对预测模式选择单元确定的初选预测模式集合进行粗模式决策操作，得到候选模式集合；

率失真优化操作单元，用于对粗模式决策操作单元确定的候选模式集合进行率失真优化操作，确定最佳预测模式。

根据本发明的再一个方面，提供一种基于纹理方向的HEVC帧内编码系统，该编码系统中包括上述技术方案中的基于纹理方向的HEVC帧内编码装置。

根据本发明实施例的方法和装置，通过设置方向标志对具有明显方向性的纹理和平坦的纹理在CU层编码时进行早截止预判，同时在PU层利用方向标志减少RDO过程中的帧内预测模式，将CU层块分割优化与PU层预测模式优化整合到了一起，在保持性能不变的情况下，降低了编码的复杂度，缩短了编码的时间，有利于高清视频的实时编码应用。

附图说明

图1为本发明实施例提供的一种基于纹理方向的HEVC帧内编码方法流程图；

图2为本发明优选实施例提供的一种计算CU/PU纹理方向标志的流程图；

图3为本发明优选实施例提供的一种判断CU纹理类型的流程图；

图4为本发明优选实施例提供的一种最佳预测模式确定方法流程图；

图5为本发明优选实施例提供的预测模式集和角度方向示意图；

图6为本发明实施例提供的一种基于纹理方向的HEVC帧内编码装置的模块结构示意图；

图7为本发明优选实施例提供的一种纹理方向标志计算模块的模块结构示意图；

图8为本发明优选实施例提供的一种最佳预测模式确定模块的模块结构示意图。

具体实施方式

为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚、明白，以下结合附图和实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

如图1所示为本发明实施例提供的一种基于纹理方向的HEVC帧内编码方法流程图，该方法包括：

S101、对每一帧图像分割为最大CU，其深度值设置为0；

优选地，每一帧图像都被分割成互不重叠的最大CU，其尺寸为64x64，其深度定义为0。

S102、判断当前CU的深度值是否小于深度阈值，如果是，则执行步骤S103，否则执行步骤S106；

优选地，深度阈值设置为3，每一个最大CU按四叉树递归的方式划分成4个子CU，同时深度加1，直到子CU的尺寸达到8x8，即深度值为3时不再继续划分。

S103、计算CU的纹理方向标志；

S104、判断CU的纹理类型是否是平坦的或者方向性的，如果是，则执行步骤S107；否则执行步骤S105；

S105、对当前CU进行分割，其深度值加1，返回步骤S102；

S106、计算PU的纹理方向标志；

具体地，在HEVC的帧内预测中，当CU的尺寸为8x8时，对应的PU尺寸为8x8和4x4两种；而对于其他尺寸的CU，PU的尺寸都与CU一致。另一方面，当CU的深度达到3（即其大小为8x8）时，CU停止分割。因此，在上述CU层的优化中，需要判断是否要继续分割的最小的CU的尺寸为16x16。在8x8尺寸大小的CU中，即8x8和4x4大小的PU中，并没有方向标志，故需要计算尺寸为4X4和8X8的PU的纹理方向标志。

S107、根据CU和/或PU的纹理方向标志选择候选模式集,在候选模式集中确定最佳预测模式；

S108、根据最佳预测模式进行编码。

具体来说，本发明实施例中将视频图像的纹理类型被分为三类：平坦的，方向性的和复杂的。基于这样一种判断，如果当前CU的纹理类型是平坦的或者方向性的，CU将提前结束分割。为了降低计算的复杂度，判断纹理类型的标准应该是简单合理的,可以使用方向测度的方法来判断纹理。若主导方向与其他方向的方向测度值相差甚小，则可判定当前CU的纹理类型是平坦的，当前CU结束分割，并且设置方向标志为平坦；若主导方向比其他方向的方向测度值小得多，则可判定当前CU的纹理类型是方向明显的，当前CU结束分割，并且设置方向标志为与主导方向一致；否则，判定当前CU的纹理类型是复杂的，CU需要继续分割，但是其方向标志依然与主导方向一致，即CU即使是纹理复杂的，在某一个方向上其纹理的波动性还是要比其他方向要小。若当前CU需要继续分割，则其深度加1。之后，对4个分割出来的子CU再次进行纹理判断。

如图2所示为本发明优选实施例提供的一种计算CU/PU纹理方向标志的流程图，图中：

S201、计算CU/PU在垂直的、水平的、45度角和135度角的方向测度值集合；

具体来说，一幅图像纹理的方向性就是其像素值在各个方向上的变化所呈现的一致性、均匀性。假设一幅图像的纹理在垂直方向上具有一定的方向性，那么在垂直方向上相邻像素间的变化从统计意义上来讲要比其他方向上小。

为了度量这种相邻像素的变化，本实施例中可以定义4个测度方向：垂直的、水平的、45度角和135度角。其具体表达式如下：

$\mathrm{EV}=\frac{1}{2N\×(2N-1)}\underset{x=0}{\overset{2N-1}{\mathrm{\Σ}}}\underset{y=0}{\overset{2N-1}{\mathrm{\Σ}}}|p(x,y+1)-p(x,y)|$

$\mathrm{EH}=\frac{1}{2N\×(2N-1)}\underset{y=0}{\overset{2N-1}{\mathrm{\Σ}}}\underset{x=0}{\overset{2N-1}{\mathrm{\Σ}}}|p(x+1,y)-p(x,y)|$

其中，EV、EH、E45°和E135°分别表示垂直的、水平的、45度角和135度角的相邻像素的变化均值，2N为一个CU中水平方向和垂直方向的像素数目，（x，y）是编码单元中像素的位置，p(x，y)是编码单元中像素的值。以上表达式中的EV、EH、E45°和E135°等4个结果值集合中的最小值反应了纹理的MD（MajorDirection，主导方向）。

S202、确定方向测度值集合中的最小值为CU/PU的主导方向；

即：MD＝min{EV，EH，E45°，E135°}

S203、判断主导方向与其他三个方向的方向测度值的差值是否小于平坦阈值，如果是，执行步骤S204，如果不是，执行步骤S205；

S204、设置编码单元/预测单元的纹理方向标志为平坦的；

S205、设置编码单元/预测单元的纹理方向标志与主导方向一致。

判断PU的主导方向的方法与判断CU的主导方向一致，鉴于PU中纹理细节必定是丰富的，也可直接判断8x8和4x4大小的PU是方向性的或者复杂的，而不必判断是否平坦。

如图3所示为本发明优选实施例提供的一种判断CU纹理类型的方法流程图，图中：

S301、判断CU的纹理方向标志是否为平坦的，如果是，执行步骤S302，否则执行步骤S303；

作为本步骤的替换方案，判断CU的纹理方向标志是否为平坦的还可以用判断CU的纹理方向标志的方向测度值比其他方向的方向测度值的差值小于平坦阈值来替换，其实质是一样的。

S302、判定CU的纹理类型是平坦的；

S303、判断CU的纹理方向标志的与其他方向的方向测度值的差值大于方向阈值，如果是，执行步骤S304，否则执行步骤S305；

S304、判定CU的纹理类型是方向性的；

S305、判定CU纹理类型是复杂的。

举例来说，沿用上述实施例的方向标志计算方法，归一化方向测度值集合中的数据：

令E_sum＝EH+EV+E45°+E135°

则，归一化之后的方向测度值集合为

{UH，UV，U45°，U135°}＝{EH/E_SUM，EV/E_sum，E45°/E_sum，E135°/E_sum}

其中，定义

U_max＝max{UH，UV，U45°，U135°}

U_min＝min{UH，UV，U45°，U135°}

U_sum＝UH+UV+U45°+U135°

（a）平坦纹理的判断：

令U_max-U_min＝Th_flat则有U_max＝U_min+Th_flat

根据UH+UV+U45°+U135°＝1

和U_max≥UH，U_max≥UV，U_max≥U45°，U_max≥U135°

有4U_max≥1，亦即4(U_min+Th_flat)≥1

据此，可判断，若

U_min＞0.25-Th_flat，其中当Th_flat较小时，四个方向没有明显差别，判定CU的纹理类型是平坦的。

(b)方向性纹理的判断

除了U_min，其他三个方向的和值为U_sum-U_min。

若，即最小方向远小于其他三个方向，可设，其中当Th_dir较小时，最小方向相较于其他3个方向比较明显，则判定CU的纹理类型是方向明显的。

（c）复杂纹理的判断

若以上条件均不满足，则判定CU的纹理类型是复杂的。

以上步骤中的平坦阈值Th_flat和方向阈值Th_dir可由视频训练后的经验值设定。

如图4所示为本发明优选实施例提供的一种最佳预测模式确定方法流程图，图中：

S401、根据CU和/或PU的纹理方向标志筛选出初选预测模式集合；

请参与图5的预测模式集和角度方向示意图，PU层的优化中充分利用了在CU层得到的方向标志，在35种预测模式中，除了DC模式和Planar模式，其余均是角度预测模式，其角度预测模式的分布参见图2。以上33种角度方向根据主导方向被分为5类，每一类中均包含9种模式。由于DC模式和Planar模式没有方向性，所以5类集合中均包含这两者。因此，每一类中一共有11种模式。具体的分类如表1所示。

表1根据方向标志确定的预测模式集合

S402、对初选预测模式集合进行RMD操作，得到候选模式集合；

由于减少了需要进行RMD操作的可用预测模式数目，跟HM10.0相比，从35种变成了11种，相应的需要进行RDO操作的候选模式数目也发生了改变。表2列出了不同尺寸PU需要进行RDO操作的候选模式的数目。

表2需要进行RDO操作的候选模式数目

S403、对候选模式集合进行RDO操作，确定最佳预测模式。

在HM10.0中，先进行RMD操作，即从35种预测模式中根据PU尺寸的大小选出候选模式集合（候选模式集合数目如表2第2列所示），再进行RDO操作，从候选模式集合中选出最佳的预测模式。

本实施例中，根据CU层或者PU层得到的方向标志，从35种预测模式中筛选出11种模式，对11种模式进行RMD操作，即从11种预测模式中根据PU尺寸的大小选出候选模式集合（候选模式集合数目如表2第3列所示），再进行RDO操作，从候选模式集合中选出最佳的预测模式，大幅减少了RMD操作和RDO操作的运算量。

如图6所示为本发明实施例提供的一种基于纹理方向的HEVC帧内编码装置的模块结构示意图，该装置包括图像分割模块10、纹理方向标志计算模块20、编码单元分割模块30、最佳预测模式确定模块40、编码模块50，其中：

图像分割模块10,用于对每一帧图像分割最大编码单元,其深度值设置为0；

纹理方向标志计算模块20，用于获取当前编码单元的深度值,在当前编码单元的深度值小于深度阈值时，计算当前编码单元的纹理方向标志，在当前编码单元的深度值小于深度阈值时，计算预测单元的纹理方向标志；

优选地，请参与图7，纹理方向标志计算模块20进一步包括方向测度值计算单元201、主导方向计算单元202和方向标志设置单元203，其中：

方向测度值计算单元201，用于计算编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合；

主导方向计算单元202，用于确定方向测度值集合中的最小值为编码单元/预测单元的主导方向；以及

方向标志设置单元203，用于当主导方向与其他方向的方向测度值得差值小于平坦阈值时，设置编码单元/预测单元的纹理方向标志为平坦的，否则设置编码单元/预测单元的纹理方向标志与主导方向一致。

编码单元分割模块30，用于当深度值小于深度阈值,且当前编码单元的纹理类型既不是平坦的也不是方向性的时，对当前编码单元进行分割，其深度值加1；

最佳预测模式确定模块40，用于根据编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从候选模式集确定最佳预测模式；

优选地，请参与图8，最佳预测模式确定模块40进一步包括预测模式选择单元401、粗模式决策操作单元402和率失真优化操作单元403，其中：

预测模式选择单元401，用于根据编码单元和/或预测单元的纹理方向标志筛选出初选预测模式集合；

粗模式决策操作单元402，用于对预测模式选择单元确定的初选预测模式集合进行粗模式决策操作，得到候选模式集合；

率失真优化操作单元403，用于对粗模式决策操作单元确定的候选模式集合进行率失真优化操作，确定最佳预测模式。

编码模块50，用于根据最佳预测模式进行编码。

需要说明的是，上述方法是实施例中的技术方案在本装置的技术方案中同样适用，这里不再重述。

本发明的另外一个实施例中，提供一种基于纹理方向的HEVC帧内编码系统，该编码系统中包括上述技术方案中的基于纹理方向的HEVC帧内编码装置。

根据本发明实施例的方法、装置和系统，通过设置方向标志对具有明显方向性的纹理和平坦的纹理在CU层编码时进行早截止预判，同时在PU层利用方向标志减少RDO过程中的帧内预测模式，将CU层块分割优化与PU层预测模式优化整合到了一起，在保证与原始算法（HM10.0中的算法）的性能相差不大的情况下，降低了实现的复杂度，缩短了编码的时间，有利于高清视频的实时编码应用。

以上参照附图说明了本发明的优选实施例，并非因此局限本发明的权利范围。本领域技术人员不脱离本发明的范围和实质，可以有多种变型方案实现本发明，比如作为一个实施例的特征可用于另一实施例而得到又一实施例。凡在运用本发明的技术构思之内所作的任何修改、等同替换和改进，均应在本发明的权利范围之内。

Claims (11)

1.一种基于纹理方向的HEVC帧内编码方法，其特征在于，所述方法包括：步骤一、对每一帧图像分割最大编码单元,其深度值设置为0；

步骤二、获取当前编码单元的深度值，当所述深度值小于深度阈值时，计算当前编码单元的纹理方向标志；当所述深度值达到深度阈值时，计算预测单元的纹理方向标志；

步骤三、当所述深度值小于深度阈值时，判断所述当前编码单元的纹理类型是否是平坦的或者方向性的，如果不是，则对所述当前编码单元进行分割，其深度值加1，并返回步骤二；

步骤四、根据所述编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从所述候选模式集确定最佳预测模式；以及

步骤五、根据所述最佳预测模式进行编码。

2.根据权利要求1所述的方法，其特征在于，所述计算编码单元的纹理方向标志、以及计算预测单元的纹理方向标志包括：

计算所述编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合；

确定所述方向测度值集合中的最小值为所述编码单元/预测单元的主导方向；以及

如果所述主导方向与其他方向的方向测度值得差值小于平坦阈值，则设置所述编码单元/预测单元的纹理方向标志为平坦的，否则设置所述编码单元/预测单元的纹理方向标志与所述主导方向一致。

3.根据权利要求2所述的编码方法，其特征在于，所述计算编码单元的纹理方向标志中还包括计算编码单元的纹理类型，具体为：

如果所述编码单元的纹理方向标志为平坦的，则判定编码单元的纹理类型是平坦的；

如果所述编码单元的纹理方向标志的方向与其他方向的方向测度值的差值大于方向阈值，则判定编码单元的纹理类型是方向性的；

如果不满足上述两个条件，则判定编码单元的纹理类型是复杂的。

4.根据权利要求2所述的方法，其特征在于，所述计算所述编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合包括采用以下公式进行计算：

$EV=\frac{1}{2N\×(2N-1)}\underset{x=0}{\overset{2N-1}{\Σ}}\underset{y=0}{\overset{2N-1}{\Σ}}|p(x,y+1)-p(x,y)|$

$EH=\frac{1}{2N\×(2N-1)}\underset{y=0}{\overset{2N-1}{\Σ}}\underset{x=0}{\overset{2N-1}{\Σ}}|p(x+1,y)-p(x,y)|$

其中，EV、EH、E45°和E135°分别表示垂直的、水平的、45度角和135度角的相邻像素的变化均值，2N为一个编码单元中水平方向和垂直方向的像素数目，(x，y)是编码单元中像素的位置，p(x，y)是编码单元中像素的值。

5.根据权利要求1所述的编码方法，其特征在于，所述根据所述编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从所述候选模式集确定最佳预测模式包括：

根据编码单元和/或预测单元的纹理方向标志筛选出初选预测模式集合；

对所述初选预测模式集合进行粗模式决策操作，得到候选模式集合；以及

对所述候选模式集合进行率失真优化操作，确定最佳预测模式。

6.根据权利要求1-5任意一项所述的编码方法，其特征在于，所述深度阈值为3。

7.一种基于纹理方向的HEVC帧内编码装置，其特征在于，所述装置包括：

图像分割模块,用于对每一帧图像分割最大编码单元,其深度值设置为0；

纹理方向标志计算模块，用于获取当前编码单元的深度值,在当前编码单元的深度值小于深度阈值时，计算当前编码单元的纹理方向标志，在当前编码单元的深度值达到深度阈值时，计算预测单元的纹理方向标志；

编码单元分割模块，用于当所述深度值小于深度阈值，且当前编码单元的纹理类型既不是平坦的也不是方向性的时，对所述当前编码单元进行分割，其深度值加1，并通知纹理方向标志计算模块重新计算纹理方向标志；

最佳预测模式确定模块，用于根据所述编码单元和/或预测单元的纹理方向标志选择预测模式的候选模式集，从所述候选模式集确定最佳预测模式；以及

编码模块，用于根据所述最佳预测模式进行编码。

8.根据权利要求7所述的编码装置，其特征在于，所述纹理方向标志计算模块包括：

方向测度值计算单元，用于计算所述编码单元/预测单元在垂直的、水平的、45度角和135度角的方向测度值集合；

主导方向计算单元，用于确定所述方向测度值集合中的最小值为所述编码单元/预测单元的主导方向；以及

方向标志设置单元，用于当所述主导方向与其他方向的方向测度值得差值小于平坦阈值时，设置所述编码单元/预测单元的纹理方向标志为平坦的，否则设置所述编码单元/预测单元的纹理方向标志与所述主导方向一致。

9.根据权利要求8所述的编码装置，其特征在于，所述纹理方向标志计算模块还包括纹理类型计算单元，所述纹理类型计算单元模块具体用于：

当所述编码单元的纹理方向标志为平坦的时，则判定编码单元的纹理类型是平坦的；

当所述编码单元的纹理方向标志的方向与其他方向的方向测度值的差值大于方向阈值，则判定编码单元的纹理类型是方向性的；

当不满足上述两个条件时，则判定编码单元的纹理类型是复杂的。

10.根据权利要求7所述的编码装置，其特征在于，所述最佳预测模式确定模块包括：

预测模式选择单元，用于根据编码单元和/或预测单元的纹理方向标志筛选出初选预测模式集合；

粗模式决策操作单元，用于对所述预测模式选择单元确定的初选预测模式集合进行粗模式决策操作，得到候选模式集合；

率失真优化操作单元，用于对所述粗模式决策操作单元确定的候选模式集合进行率失真优化操作，确定最佳预测模式。

11.一种基于纹理方向的HEVC帧内编码系统，其特征在于，所述系统包括如权利要求7-10任意一项权利要求所述的基于纹理方向的HEVC帧内编码装置。