CN107801024A - 一种用于帧内预测的边界滤波方法 - Google Patents

一种用于帧内预测的边界滤波方法 Download PDF

Info

Publication number
CN107801024A
CN107801024A CN201711095964.9A CN201711095964A CN107801024A CN 107801024 A CN107801024 A CN 107801024A CN 201711095964 A CN201711095964 A CN 201711095964A CN 107801024 A CN107801024 A CN 107801024A
Authority
CN
China
Prior art keywords
frame prediction
infra
prediction block
intra
filtering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201711095964.9A
Other languages
English (en)
Other versions
CN107801024B (zh
Inventor
王荣刚
范逵
李革
高文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University Shenzhen Graduate School
Original Assignee
Peking University Shenzhen Graduate School
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University Shenzhen Graduate School filed Critical Peking University Shenzhen Graduate School
Priority to CN201711095964.9A priority Critical patent/CN107801024B/zh
Publication of CN107801024A publication Critical patent/CN107801024A/zh
Priority to PCT/CN2018/107209 priority patent/WO2019091235A1/zh
Priority to US16/755,350 priority patent/US11381812B2/en
Application granted granted Critical
Publication of CN107801024B publication Critical patent/CN107801024B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公布了一种用于帧内预测的边界滤波方法，涉及视频编码技术领域。首先通过率失真优化决策自适应地选择是否对帧内预测块进行边界滤波；进行滤波时，对帧内预测块的前N行或前N列，通过帧内预测块滤波器，采用相对边界距离指数衰减的滤波器系数进行滤波；且针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并增加帧内预测精度，提升帧内预测块的编码效率；同时增加了边界滤波技术的实用性和鲁棒性。

Description

一种用于帧内预测的边界滤波方法
技术领域
本发明涉及视频编码技术领域，具体涉及一种用于帧内预测的边界滤波方法，可用于对帧内预测块进行滤波，增强帧内预测的准确度，从而提升帧内预测块的编码效率。
背景技术
帧内滤波技术是一个非常有效的编码工具，用于优化帧内预测块的边界，可有效缓解帧内预测块边界处的失真。
在High Efficiency Video Coding(HEVC)标准中，现有方法采用了两种帧内预测边界滤波器技术。一种是针对DC(Direct Current)预测模式(直流预测模式)，使用一个两抽头的滤波器(滤波系数为[1/4 3/4])对帧内预测块的第一行和第一列进行滤波；另外一种是针对水平和竖直预测模式，对水平预测模式的第一行和竖直预测模式的第一列进行滤波。
上述滤波技术主要存在的缺陷包括以下几方面：
(一)以上现有滤波技术只是针对少数几个帧内预测模式，因此在一定程度上局限了帧内滤波技术的性能；
(二)这些滤波技术并没有详细地考虑像素点之间的空间相关性；
(三)这些滤波技术的使用缺少决策的过程，降低了该技术的实用性。
发明内容
为了克服上述现有技术的不足，本发明提供一种用于帧内预测的边界滤波方法，用以有效地解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率。
本发明提供的技术方案是：
一种用于帧内预测的边界滤波方法，首先通过率失真优化(Rate distortionoptimization,RDO)决策自适应地选择是否对帧内预测块进行边界滤波；该边界滤波方法对帧内预测块的前N行或是前N列通过帧内预测块滤波器进行滤波；进行滤波时，采用相对边界距离指数衰减的滤波器系数进行滤波；针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率；包括如下步骤：
1)在编码端对每一个编码单元(Coding unit,CU)进行率失真优化，执行如下操作：
11)对每一个编码单元(Coding unit,CU)进行帧内预测块滤波；
12)通过RDO决策确定是否使用帧内预测块边界滤波；每一个编码单元中均传输1-bit的标记到码流中，用于标识帧内预测是否使用了帧内预测块边界滤波；
13)若使用了帧内预测块边界滤波，通过帧内预测块滤波器进行帧内边界滤波编码，包括如下过程：
首先，从已经重建的预测块中获取与当前块相邻的参考像素点；
随后，根据帧内预测块的预测方向进行常规帧内预测，得到帧内预测值；
最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行边界滤波，得到新的帧内预测值；
2)在解码端对每一个编码单元，读取码流中的1-bit标记，根据标记进行解码；执行如下步骤：
21)确定解码端是否使用帧内预测块边界滤波；
22)若使用了帧内预测块边界滤波，通过帧内预测块滤波器进行帧内边界滤波解码，包括如下过程：
首先，从已经重建的预测块中获取与当前块相邻的参考像素点；
随后，根据解码得到的帧内预测块的预测模式，进行常规的帧内预测，得到帧内预测值；
最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。
本发明的核心是对帧内预测之后得到的像素值进行滤波，包括对编码端和解码端进行处理。
具体地，在编码端，在每一个编码单元(Coding unit,CU)进行率失真优化(Ratedistortion optimization,RDO)时，都需要尝试进行帧内预测块滤波，并通过RDO决策最终是否使用本发明提出的帧内预测块滤波方法。每一个编码单元中都需要传输1-bit的标记到码流中，来标识帧内预测是否使用了帧内预测块滤波方法。在解码端，则读取码流中的1-bit标记，根据标记的意义，由解码端决定是否使用帧内预测块滤波。
本法明提出的帧内预测块滤波，对帧内预测块的前N行或是前N列进行滤波，N的取值与滤波系数相关联。由于本发明采用相对边界距离指数衰减的滤波器系数，N为滤波器系数衰减为0时的位置。例如滤波器在第n行衰减为0，则N的值为n。本发明提出的帧内预测块滤波最多对帧内预测块的前10行或是前10列进行滤波。
本发明提出的帧内预测块滤波器是一个三抽头的滤波器，该滤波器可使用公式表示为式1：
P′(x,y)＝wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(1-wleft(x)-wtop(y))·P(x,y) (式1)
0≤x,y<N
对于一个预测像素点，使用与它同一行P(-1,y)和同一列P(x,-1)的两个参考像素点
进行滤波，wleft(x)和wtop(y)分别为这两个参考像素点的边界滤波系数。P(x,y)为帧内
预测之后得到的预测像素点；P′(x,y)为进行帧内预测块滤波之后的像素点；x、y为预
测块内的坐标，x＝0表示预测块中的第一列，y＝0表示预测块中的第一行。wleft(x)和wtop(y)是随着与参考像素点距离的增加而衰减的。
特别地，当wtop(y)衰减为0时，式1退化为两抽头的滤波器，如式2所示。当wleft(x)衰减为0时，式(1)也会退化为两抽头的滤波器，如式3所示。
P′(x,y)＝wleft(x)·P(-1,y)+(1-wleft(x))·P(x,y),x<N (式2)
P′(x,y)＝wtop(y)·P(x,-1)+(1-wtop(y))·P(x,y),y<N (式3)
本发明提出的帧内预测块滤波器采用了相对边界距离指数衰减的滤波器系数，分别如式4和5所示：
其中，ntop和nleft分别是与预测块第一行和第一列滤波时使用的滤波系数。指数衰减的滤波器系数可以产生更好的滤波效果，最大化的降低预测失真。
进一步地，本发明针对不同的帧内预测块大小，设计了不同的滤波强度。其中代表滤波强度的参数ntop和nleft根据帧内预测块的预测失真训练得到。对于预测失真大的帧内预测值，选择更大的滤波系数进行滤波；而对于预测失真小的帧内预测值，使用较小的滤波系数进行滤波。具体滤波系数的设置在具体实施方式中进行说明。
与现有技术相比，本发明的有益效果是：
本发明提供一种用于帧内预测的边界滤波方法，用以有效地解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率。具体地，本发明的技术优势体现为以下几方面：
本发明通过RDO决策决定是否使用帧内预测块边界滤波，相当于自适应的选择是否对帧内预测块进行边界滤波。由于并不是每一个帧内预测块都适合进行边界滤波，所以通过RDO决策增加了边界滤波技术的实用性和鲁棒性。
并且，本发明提出的边界滤波器会修改更多的行或是列(最多10行或是10列，而现有技术最多只对边界的4行或是4列滤波)，这大大增强了边界滤波的影响范围，提升了帧内预测边界滤波的效用。
另外，本发明提出使用相对边界距离指数衰减的滤波器系数，更符合像素值之间的空间相关性。并且针对不同的帧内预测模式和预测块尺寸选择不同的滤波器系数，可以获得更好的滤波效果。
附图说明
图1为本发明中的编码单元(CU)的编码流程框图。
图2为本发明中的编码单元(CU)的解码流程框图。
图3为本发明具体实施时边界滤波参考像素点选取的示意图。
图4是对HEVC中16x16帧内预测块的每一个预测模式统计的边缘预测失真的分布图；
其中，横坐标表示不同的预测模式；纵坐标表示预测块边缘失真的幅度；方块连线表示预测块顶部第一行的失真；三角连线表示预测块左侧第一列的失真。
图5为HEVC中帧内预测边界滤波系数示意图。
具体实施方式
下面结合附图，通过实施例进一步描述本发明，但不以任何方式限制本发明的范围。
本发明提供一种有效的帧内预测滤波方法，通过RDO决策自适应的选择是否对帧内预测块进行边界滤波；提出的帧内预测块滤波，对帧内预测块的前N行或是前N列进行滤波，N的取值与滤波系数相关联。由于本发明采用相对边界距离指数衰减的滤波器系数，N为滤波器系数衰减为0时的位置。例如滤波器在第n行衰减为0，则N的值为n。本发明最多可对帧内预测块的前10行或是前10列进行滤波；采用相对边界距离指数衰减的滤波器系数；针对不同的帧内预测块大小，采用不同的滤波强度；本发明能够解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率。
图1为本发明编码端的编码流程图。对于一个帧内编码单元来说，首先进行常规帧内编码(即当前现有编码器已经使用的帧内编码算法)，之后使用本发明提出的帧内边界滤波编码(指包含了帧内预测块边界滤波技术的编码方法)，即在常规帧内预测之后，通过边界滤波器对帧内预测块的边界进行滤波。随后，使用率失真优化(RDO：Rate-distortionoptimization)选择是否使用帧内预测边界滤波，并输出1-bit的标记到码流中。
图2为本发明解码端的解码流程框图。对一个帧内编码单元，首先读取1-bit的标记，然后进行常规的帧内预测。随后根据读取的标记的值决定是否进行帧内预测边界滤波。如果无需进行边界滤波，则直接进行帧内预测块的重建即可；否则，需要根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。之后进行帧内预测块的重建。
为了避免进行浮点计算，本发明中所提出的边界滤波器可使用式6、式7和式8所示的滤波方法。即将浮点的滤波器系数转换为整数，并在滤波之后进行右移操作。
P′(x,y)＝(wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(64-wleft(x)-wtop(y))·P(x,y)+32)＞＞6 (式6)
P′(x,y)＝(wleft(x)·P(-1,y)+(64-wleft(x))·P(x,y)+32)＞＞6 (式7)
P′(x,y)＝(wtop(y)·P(x,-1)+(64-wtop(y))·P(x,y)+32)＞＞6 (式8)
本发明提出的帧内预测块滤波器使用距离预测像素点最近的一个或是两个参考像素点进行滤波。如图3所示，箭头所指向的位置为对预测像素点A、B、C进行滤波时所使用的参考像素点。像素点A的滤波使用它左侧对应的参考像素点进行滤波，像素B使用它上侧的参考像素点进行滤波，而像素点C位于预测块的左上角区域，所以同时使用它上侧和左侧的参考像素点进行滤波。
本发明提出的帧内预测块滤波器采用了相对边界距离指数衰减的滤波器系数。滤波强度参数ntop和nleft根据帧内预测块的预测失真统计结果得出。图4举例说明了对HEVC中16x16的帧内预测块统计的预测失真的分布图。我们定义参数ntop和nleft正比于预测失真的大小，如式9和式10所示：
其中，公式中dtop和dleft分别为预测块顶部第一行和左侧第一列的平均预测失真值，min为取两个值之间的最小值的操作。可以看出ntop和nleft最大取值为1。
对特定方向的预测模式，需要对滤波器系数进行改动。以图5中HEVC的帧内预测模式为例，在模式2～9中，对帧内预测块左面的列滤波时，滤波系数缩小为原来的一半，wleft变为wtop的二分之一；同样的，在模式27～34中，对帧内预测块上面的行滤波时，滤波系数wtop也缩小为原来的一半。
需要注意的是，公布实施例的目的在于帮助进一步理解本发明，但是本领域的技术人员可以理解：在不脱离本发明及所附权利要求的精神和范围内，各种替换和修改都是可能的。因此，本发明不应局限于实施例所公开的内容，本发明要求保护的范围以权利要求书界定的范围为准。

Claims (10)

1.一种用于帧内预测的边界滤波方法，首先通过率失真优化决策自适应地选择是否对帧内预测块进行边界滤波；进行滤波时，对帧内预测块的前N行或前N列，通过帧内预测块滤波器，采用相对边界距离指数衰减的滤波器系数进行滤波；且针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并增加帧内预测精度，提升帧内预测块的编码效率；包括如下步骤：
1)在编码端，对每一个编码单元进行率失真优化；执行如下操作：
11)对每一个编码单元进行帧内预测块滤波；
12)通过率失真优化决策确定是否使用帧内预测块边界滤波；传输一个标记到码流中，用于标识帧内预测是否使用了帧内预测块边界滤波；
13)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波编码；包括如下过程：
首先，从已经重建的预测块中获取与当前块相邻的参考像素点；
随后，根据帧内预测块的预测方向进行常规帧内预测，得到帧内预测值；
最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行边界滤波，得到新的帧内预测值；
2)在解码端，对每一个编码单元读取码流中的标记，根据标记进行解码；执行如下步骤：
21)确定解码端是否使用帧内预测块边界滤波；
22)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波解码，包括如下过程：
首先，从已经重建的预测块中获取与当前块相邻的参考像素点；
随后，根据解码得到的帧内预测块的预测模式，进行常规的帧内预测，得到帧内预测值；
最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。
2.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，码流中用于标识帧内预测是否使用了帧内预测块边界滤波的标记为1-bit。
3.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，行数或列数N的取值由不同帧内预测模式和不同尺寸的帧内预测块的特性决定。
4.如权利要求3所述用于帧内预测的边界滤波方法，其特征是，最多对帧内预测块的前10行或是前10列进行滤波。
5.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，所述帧内预测块滤波器是一个三抽头的滤波器，表示为式1：
P′(x,y)＝wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(1-wleft(x)-wtop(y))·P(x,y) (式1)
0≤x,y<N
对于一个预测像素点，使用与它同一行P(-1,y)和同一列P(x,-1)的两个参考像素点进行滤波；其中，wleft(x)和wtop(y)分别为两个参考像素点的边界滤波系数；P(x,y)为帧内预测之后得到的预测像素点；P′(x,y)为进行帧内预测块滤波之后的像素点；x、y为预测块内的坐标，x＝0表示预测块中的第一列，y＝0表示预测块中的第一行；N为行数或列数。
6.如权利要求5所述用于帧内预测的边界滤波方法，其特征是，对于所述帧内预测块滤波器，当wtop(y)衰减为0时，所述帧内预测块滤波器退化为两抽头的滤波器，表示如式2：
P′(x,y)＝wleft(x)·P(-1,y)+(1-wleft(x))·P(x,y),x<N (式2)
P′(x,y)＝wtop(y)·P(x,-1)+(1-wtop(y))·P(x,y),y<N (式3)
当wleft(x)衰减为0时，所述帧内预测块滤波器也退化为两抽头的滤波器，表示如式3。
7.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，采用相对边界距离指数衰减的滤波器系数进行滤波，滤波器系数分别表示为式4和式5：
其中，ntop和nleft分别是与预测块第一行和第一列滤波时使用的滤波系数。
8.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，具体通过使用式6、式7和式8所示的滤波方法：
P′(x,y)＝(wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(64-wleft(x)-wtop(y))·P(x,y)+32)＞＞6 (式6)
P′(x,y)＝(wleft(x)·P(-1,y)+(64-wleft(x))·P(x,y)+32)＞＞6 (式7)
P′(x,y)＝(wtop(y)·P(x,-1)+(64-wtop(y))·P(x,y)+32)＞＞6 (式8)
将浮点的滤波器系数转换为整数，并在滤波之后进行右移操作，用于避免进行浮点计算。
9.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，进行滤波时，针对不同的帧内预测块大小采用不同的滤波强度；滤波强度参数ntop和nleft具体根据帧内预测块的预测失真训练得到。
10.如权利要求9所述用于帧内预测的边界滤波方法，其特征是，具体根据HEVC中16x16的帧内预测块统计的预测失真分布，定义滤波强度参数ntop和nleft正比于预测失真的大小，表示为式9和式10：
其中，dtop和dleft分别为预测块顶部第一行和左侧第一列的平均预测失真值；min为取两个值之间的最小值。
CN201711095964.9A 2017-11-09 2017-11-09 一种用于帧内预测的边界滤波方法 Active CN107801024B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201711095964.9A CN107801024B (zh) 2017-11-09 2017-11-09 一种用于帧内预测的边界滤波方法
PCT/CN2018/107209 WO2019091235A1 (zh) 2017-11-09 2018-09-25 一种用于帧内预测的边界滤波方法
US16/755,350 US11381812B2 (en) 2017-11-09 2018-09-25 Boundary filtering method for intra prediction

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711095964.9A CN107801024B (zh) 2017-11-09 2017-11-09 一种用于帧内预测的边界滤波方法

Publications (2)

Publication Number Publication Date
CN107801024A true CN107801024A (zh) 2018-03-13
CN107801024B CN107801024B (zh) 2019-07-12

Family

ID=61549473

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711095964.9A Active CN107801024B (zh) 2017-11-09 2017-11-09 一种用于帧内预测的边界滤波方法

Country Status (3)

Country Link
US (1) US11381812B2 (zh)
CN (1) CN107801024B (zh)
WO (1) WO2019091235A1 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019091235A1 (zh) * 2017-11-09 2019-05-16 北京大学深圳研究生院 一种用于帧内预测的边界滤波方法
CN110290384A (zh) * 2018-03-19 2019-09-27 华为技术有限公司 图像滤波方法、装置及视频编解码器
CN111083474A (zh) * 2019-12-03 2020-04-28 咪咕文化科技有限公司 帧间预测的滤波方法、电子设备及计算机可读存储介质
CN111787334A (zh) * 2020-05-29 2020-10-16 浙江大华技术股份有限公司 一种用于帧内预测的滤波方法，滤波器及装置
CN112055224A (zh) * 2020-08-22 2020-12-08 浙江大华技术股份有限公司 一种用于预测的滤波方法、编解码系统以及存储介质
WO2021056216A1 (zh) * 2019-09-24 2021-04-01 Oppo广东移动通信有限公司 预测值的确定方法、编码器、解码器以及计算机存储介质
WO2022037300A1 (zh) * 2020-08-21 2022-02-24 Oppo广东移动通信有限公司 编码方法、解码方法及相关装置
RU2794647C2 (ru) * 2019-09-24 2023-04-24 Гуандун Оппо Мобайл Телекоммьюникейшнс Корп., Лтд. Способы определения значения предсказания, кодер, декодер и компьютерный носитель данных

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG10202008690XA (en) * 2011-01-12 2020-10-29 Mitsubishi Electric Corp Moving image encoding device, moving image decoding device, moving image encoding method, and moving image decoding method
CN109862371A (zh) * 2019-03-12 2019-06-07 北京大学深圳研究生院 一种基于帧内预测的编解码方法、装置及滤波器
KR20210145824A (ko) * 2019-04-19 2021-12-02 후아웨이 테크놀러지 컴퍼니 리미티드 제산 없는 인트라 예측을 위한 방법 및 장치
WO2020249124A1 (en) 2019-06-14 2020-12-17 Beijing Bytedance Network Technology Co., Ltd. Handling video unit boundaries and virtual boundaries based on color format
CN114270825A (zh) 2019-08-19 2022-04-01 北京字节跳动网络技术有限公司 基于计数器的帧内预测模式的初始化
WO2021047540A1 (en) 2019-09-09 2021-03-18 Beijing Bytedance Network Technology Co., Ltd. Coefficient scaling for high precision image and video coding
CN114424529A (zh) 2019-09-18 2022-04-29 北京字节跳动网络技术有限公司 视频编解码中自适应环路滤波器的两部分信令
BR112022005133A2 (pt) 2019-09-21 2022-10-11 Beijing Bytedance Network Tech Co Ltd Método e aparelho de processamento de dados de vídeo, e, meios de armazenamento e de gravação legíveis por computador não transitórios
EP4018652A4 (en) 2019-09-22 2022-11-02 Beijing Bytedance Network Technology Co., Ltd. FILLING METHOD IN AN ADAPTIVE LOOP FILTER
KR20220063177A (ko) 2019-09-27 2022-05-17 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 상이한 비디오 유닛들 간의 적응적 루프 필터링
JP7454042B2 (ja) 2019-10-10 2024-03-21 北京字節跳動網絡技術有限公司 適応ループ・フィルタリングにおける利用可能でないサンプル位置でのパディング・プロセス
JP7389252B2 (ja) 2019-10-29 2023-11-29 北京字節跳動網絡技術有限公司 クロスコンポーネント適応ループフィルタ
CN115104302A (zh) 2019-12-11 2022-09-23 抖音视界有限公司 跨分量适应性回路滤波的样点填充
JP2023531223A (ja) 2020-06-30 2023-07-21 北京字節跳動網絡技術有限公司 適応ループフィルタリングのための境界位置
CN114609988B (zh) * 2022-04-07 2023-09-26 吉林大学 一种基于改进推理控制器的大滞后系统控制方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010068538A (ja) * 2009-11-18 2010-03-25 Sharp Corp 画像復号方法及び復号装置
CN103220529A (zh) * 2013-04-15 2013-07-24 北京大学 一种视频编解码环路滤波的实现方法
CN104041045A (zh) * 2011-11-04 2014-09-10 高通股份有限公司 用于视频译码的二次边界滤波
CN104969552A (zh) * 2013-02-06 2015-10-07 高通股份有限公司 存储减少的帧内预测模式决策
US20160057430A1 (en) * 2014-08-25 2016-02-25 Canon Kabushiki Kaisha Method, apparatus and system for predicting a block of video samples
CN105379266A (zh) * 2013-07-19 2016-03-02 高通股份有限公司 停用帧内预测滤波
CN107113444A (zh) * 2014-11-04 2017-08-29 三星电子株式会社 使用帧内预测对视频进行编码/解码的方法和装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9258573B2 (en) * 2010-12-07 2016-02-09 Panasonic Intellectual Property Corporation Of America Pixel adaptive intra smoothing
KR20120140181A (ko) 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
WO2017065357A1 (ko) 2015-10-16 2017-04-20 엘지전자 주식회사 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치
KR20170058838A (ko) * 2015-11-19 2017-05-29 한국전자통신연구원 화면간 예측 향상을 위한 부호화/복호화 방법 및 장치
CN107801024B (zh) 2017-11-09 2019-07-12 北京大学深圳研究生院 一种用于帧内预测的边界滤波方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010068538A (ja) * 2009-11-18 2010-03-25 Sharp Corp 画像復号方法及び復号装置
CN104041045A (zh) * 2011-11-04 2014-09-10 高通股份有限公司 用于视频译码的二次边界滤波
CN104969552A (zh) * 2013-02-06 2015-10-07 高通股份有限公司 存储减少的帧内预测模式决策
CN103220529A (zh) * 2013-04-15 2013-07-24 北京大学 一种视频编解码环路滤波的实现方法
CN105379266A (zh) * 2013-07-19 2016-03-02 高通股份有限公司 停用帧内预测滤波
US20160057430A1 (en) * 2014-08-25 2016-02-25 Canon Kabushiki Kaisha Method, apparatus and system for predicting a block of video samples
CN107113444A (zh) * 2014-11-04 2017-08-29 三星电子株式会社 使用帧内预测对视频进行编码/解码的方法和装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
YANGANG CAI ET AL: "Intermediate view synthesis based on edge detecting", 《2013 IEEE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING》 *
侯金亭 等: "AVS标准综述", 《计算机工程》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11381812B2 (en) 2017-11-09 2022-07-05 Peking University Shenzhen Graduate School Boundary filtering method for intra prediction
WO2019091235A1 (zh) * 2017-11-09 2019-05-16 北京大学深圳研究生院 一种用于帧内预测的边界滤波方法
CN110290384A (zh) * 2018-03-19 2019-09-27 华为技术有限公司 图像滤波方法、装置及视频编解码器
RU2794647C2 (ru) * 2019-09-24 2023-04-24 Гуандун Оппо Мобайл Телекоммьюникейшнс Корп., Лтд. Способы определения значения предсказания, кодер, декодер и компьютерный носитель данных
WO2021056216A1 (zh) * 2019-09-24 2021-04-01 Oppo广东移动通信有限公司 预测值的确定方法、编码器、解码器以及计算机存储介质
US11202080B2 (en) 2019-09-24 2021-12-14 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Methods for determining prediction value, encoder, and decoder
US11638015B2 (en) 2019-09-24 2023-04-25 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Methods for determining prediction value, encoder, and decoder
US11638013B2 (en) 2019-09-24 2023-04-25 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Methods for determining prediction value, encoder, and decoder
US11638014B2 (en) 2019-09-24 2023-04-25 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Methods for determining prediction value, encoder, and decoder
US11949886B2 (en) 2019-09-24 2024-04-02 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Methods for determining prediction value, encoder, and decoder
CN111083474A (zh) * 2019-12-03 2020-04-28 咪咕文化科技有限公司 帧间预测的滤波方法、电子设备及计算机可读存储介质
CN111787334A (zh) * 2020-05-29 2020-10-16 浙江大华技术股份有限公司 一种用于帧内预测的滤波方法，滤波器及装置
WO2022037300A1 (zh) * 2020-08-21 2022-02-24 Oppo广东移动通信有限公司 编码方法、解码方法及相关装置
CN112055224A (zh) * 2020-08-22 2020-12-08 浙江大华技术股份有限公司 一种用于预测的滤波方法、编解码系统以及存储介质

Also Published As

Publication number Publication date
US20200314418A1 (en) 2020-10-01
WO2019091235A1 (zh) 2019-05-16
US11381812B2 (en) 2022-07-05
CN107801024B (zh) 2019-07-12

Similar Documents

Publication Publication Date Title
CN107801024A (zh) 一种用于帧内预测的边界滤波方法
CN107896330A (zh) 一种用于帧内和帧间预测的滤波方法
Tang et al. Adaptive CU split decision with pooling-variable CNN for VVC intra encoding
CN111147867B (zh) 一种多功能视频编码cu划分快速决策方法及存储介质
CN105007485B (zh) 产生量化块的方法
CN104023233B (zh) 一种hevc快速帧间预测方法
CN110062234B (zh) 一种基于区域恰可察觉失真的感知视频编码方法
CN100551075C (zh) 一种低复杂度的帧内预测模式选择方法
CN104796694B (zh) 基于视频纹理信息的优化帧内视频编码方法
CN107682697A (zh) 产生重构块的方法
CN101969561B (zh) 一种帧内模式选取方法、装置及一种编码器
CN108712648B (zh) 一种深度视频快速帧内编码方法
CN104320658B (zh) 一种hevc快速编码方法
CN100574447C (zh) 基于avs视频编码的快速帧间预测模式选择方法
CN101841713B (zh) 降低编码码率的视频编码方法及系统
CN103297781A (zh) 一种基于纹理方向的hevc帧内编码方法、装置和系统
CN107087200A (zh) 针对高效率视频编码标准的跳过编码模式提前判决方法
CN106937116A (zh) 基于随机训练集自适应学习的低复杂度视频编码方法
CN106170093A (zh) 一种帧内预测性能提升编码方法
CN109756736A (zh) Sao模式决策方法、装置、电子设备及可读存储介质
CN108259913A (zh) 一种用于帧间预测帧中的帧内预测方法
CN104469336A (zh) 多视点深度视频信号的编码方法
CN108881905B (zh) 基于概率的帧内编码器优化方法
CN105812824B (zh) 一种视频图像编码方法及装置
CN104618726B (zh) 一种基于pu纹理特性的hevc帧内快速模式决策算法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant