CN113424545A - 变换子块边界的去块 - Google Patents

变换子块边界的去块 Download PDF

Info

Publication number
CN113424545A
CN113424545A CN202080013945.0A CN202080013945A CN113424545A CN 113424545 A CN113424545 A CN 113424545A CN 202080013945 A CN202080013945 A CN 202080013945A CN 113424545 A CN113424545 A CN 113424545A
Authority
CN
China
Prior art keywords
boundary
transform
coding unit
block
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080013945.0A
Other languages
English (en)
Inventor
K·安德森
J·恩霍
张智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Telefonaktiebolaget LM Ericsson AB
Original Assignee
Telefonaktiebolaget LM Ericsson AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Telefonaktiebolaget LM Ericsson AB filed Critical Telefonaktiebolaget LM Ericsson AB
Publication of CN113424545A publication Critical patent/CN113424545A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一种用于对编码单元的至少一个边界去块的方法。该方法包括：确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块；作为确定编码单元使用子块变换的结果，基于编码单元内变换子块的尺寸，确定最大滤波器长度，其中，最大滤波器长度指示在对编码单元的边界去块时要修改的最大样本数量；以及基于所确定的最大滤波器长度，对编码单元的边界去块。(图6)。

Description

变换子块边界的去块
技术领域
本公开涉及高效视频编码(HEVC)和通用视频编码(VVC)。
背景技术
视频序列由一系列图像组成，其中每个图像由一个或多个分量组成。每个分量可以被描述为二维矩形样本值阵列。视频序列中的图像可以由三个分量组成；一个亮度分量Y(其中样本值是亮度值)以及两个色度分量Cb和Cr(其中样本值是色度值)。其他示例包括Y’Cb Cr、Yuv和ICTCP。在ICTCP中，I是“强度亮度”分量。在本公开的上下文中，任何亮度分量将被称为Y’、Y或作为Y的I或简称为亮度。色度分量的尺寸可以在每个尺寸上比亮度分量小一倍。例如，HD图像的亮度分量的尺寸会是1920×1080，色度分量每一个会是960×540的尺寸。分量有时被称为颜色分量。
块是一个二维样本阵列。在视频编码中，每个分量被分割成块，并且已编码的视频比特流是一系列块。在视频编码中，图像可以被分割成覆盖图像的特定区域的单元。每个单元由来自构成该特定区域的所有分量的所有块组成，并且每个块完全属于一个单元。H.264中的宏块和HEVC中的编码单元(CU)是单元的示例。
在HEVC中，每个图片被分区成编码树单元(CTU)。CTU由N×N亮度样本块和两个M×M对应色度块组成。HEVC中的CTU类似于H.264和更早标准中的宏块，但与宏块相比，CTU大小是可配置的。然而，在大多数情况下，HEVC中的CTU大小被设置为64×64亮度样本。每个CTU可以被递归地进行四叉树分割。然后，四叉树的根与CTU相关联。四叉树被分割，直到到达叶，叶被称为编码单元(CU)。HEVC中的CU始终由具有相等高度和宽度的亮度块组成。在比特流中传达如何分割每个CTU。CU还是另外两棵树的根节点，即以预测单元(PU)作为节点的预测树和以变换单元(TU)作为节点的变换树。HEVC中的一些解码过程在CU级别上进行，一些在PU级别上进行，一些在TU级别上进行。PU之间的边界和TU之间的边界由去块滤波器进行滤波以减少TU与PU之间的不连续性。在HEVC中，对于PU存在两种预测类型：帧内预测和帧间预测，其中，帧内预测仅使用来自当前图片的先前解码样本的预测来进行预测，而帧间预测使用来自至少一个先前解码图片的预测。
在HEVC中，去块首先被应用于垂直边界上，然后被应用于水平边界上。边界是TU边界或PU边界。为了实现并行的友好去块，去块在8×8样本网格上被执行。
针对每个边界设置去块滤波器强度参数(bs)。如果bs的值大于0，则去块可以被应用。边界强度越大，则应用越强的滤波。首先，检查如果在块之间的PU边界处的任何块是帧内预测块，则(bs被设置为＝2)，或者如果两个块都使用帧间预测但它们使用不同的参考帧或者具有显著不同的运动矢量，则(bs被设置为＝1)。还检查如果块之间的TU边界在至少一个块中具有非零变换系数(码块标志CBF等于1)，则(bs被设置为＝1)。这第一次检查设置大于0的边界强度(bs)以指示去块应当被应用。边界强度越大，则应用越强的滤波。为了在去块时减少/避免移除自然结构，则针对亮度应用在边界的各侧没有任何自然结构的检查。在HEVC中，使用以下不等式来对边界的各侧使用梯度计算：abs(p0-2*p1+p2)+abs(q0-2*q1+q2)<beta，其中beta是基于用于块的量化参数的参数，并且p0、p1、和p2是在块边界的一侧的样本，而q0、q1、和q2是在块边界的另一侧的样本。沿着边界在两个位置处对条件进行检查，并且如果两个条件都满足，那么针对边界的那4个样本部分，对亮度样本进行去块。如果任一相邻块被帧内编码，则色度边界可以总是被滤波。
在针对VVC的规范的当前草案(VVC草案2JVET-M1001)中，编码树单元(CTU)类似于HEVC中的CTU，不同之处在于H.266中的CTU的大小是128×128亮度样本。在VVC中，CTU可以更灵活地进行分割，以使得所产生的CU可以由矩形亮度块组成。在VVC中，没有如HEVC中的预测树或变换树。然而，VVC中的CU可以被划分为多个TU，如下所示：
(1)CU的大小大于最大变换尺寸(例如，如果最大变换尺寸是64×64并且CU的大小是128×128，则CU被划分为四个64×64的隐式分割变换块，如图1所示)；
(2)CU使用SBT(子块变换)，SBT可以垂直地或水平地启用具有非零系数的大小为CU大小的1/2或1/4的一个子块变换，其中方向(水平或垂直)、位置(1/2大小的第一或第二个子块，1/4大小的第一或最后一个子块)和大小(1/2或1/4)从比特流中导出，如图2所示；和
(3)CU使用ISP(帧内子块划分)，ISP可以垂直地或水平地启用4个子块，其中每个子块的大小是CU大小的1/4，或者对于更小的块，可以垂直地或水平地启用2个子块，其中每个子块的大小是CU大小的1/2，如图3所示。
在VVC中，在如下的情况下，CU被划分为多个预测子块：
(1)CU使用子块帧间预测工具AFFINE。该工具可以具有子块大小4×4的运动参数(运动矢量和参考帧的指示)；
(2)CU使用子块帧间预测工具ATMVP(该工具可以具有子块大小8×8的运动参数(运动矢量和参考帧的指示)，如图4所示)；和
(3)CU使用组合帧内帧间预测模式，该模式使用四个子块特定权重，每个权重在针对帧内预测和帧间预测的加权组合的预测的方向上用于CU的1/4大小，如图5所示。
在VVC中，对于CU边界与8×8网格对齐的CU，去块被应用在8×8网格上，首先在垂直边界(CU/隐式TU/预测子块边界)上，然后在水平边界(CU/隐式TU/预测子块)上。去块是基于HEVC去块并且还有更长的去块滤波器，如果与块边界正交的大小在针对亮度的至少一侧等于或大于32，则在该侧修改最多7个样本和读取最多8个样本，如果与块边界正交的大小对于针对亮度的一侧小于32，则它在该侧修改最多3个样本和读取最多4个样本，并且如果它在色度样本中针对色度的边界的两侧都等于或大于8，则在该边界的各侧修改最多3个色度样本和读取最多4个色度样本，否则，它在该边界的各侧修改最多一个样本和读取最多两个样本。
CU、隐式TU和预测子块边界都可以并行地被去块，因为要读取和修改的样本数量取决于以下而受限：
(1)如果CU使用预测子块，则针对CU或隐式TU边界要修改的最大样本数量被限制为5(读取最多6个样本)；
(2)针对与CU或隐式TU边界相邻的预测子块边界要修改的最大样本数量在这样的边界的两侧都是2(在每一侧读取最多3个样本)。
(3)否则，在边界的每一侧要修改的最大样本数量是3。
由于针对与CTU边界对齐的水平边界将要修改的最大样本数量限制为在边界上方的一侧对于亮度是3个样本(读取最多4个样本)和在边界的两侧对于色度是1个色度样本(读取最多2个样本)，因此，仅需要4个用于亮度和2个用于色度的CTU行缓冲区。
在VVC中，对于亮度分量和色度分量单独地设置边界强度(bS)，对于变换块边界，如果在任一侧使用帧内模式，或者如果在任一侧使用组合帧内帧间预测(CIIP)，则对亮度和色度都给予bS等于2。如果边界是变换块边界并且变换块在颜色分量上具有非零变换系数，则对该分量给予Bs等于1。对于其他情况，对于两个色度分量，边界强度都被设置为0，这对应于无去块。如果边界是预测块/子块边界并且在任一侧使用CIIP，则对于亮度，bS被设置为等于1。如果边界是预测块/子块边界并且在边界的各侧使用的参考图片数量存在差异或者使用不同的参考图片，或者如果在使用相同的(一个或多个)参考图片时在运动矢量中存在显著的差异，则对于亮度，bS被设置为等于1。否则，对于亮度，bS被设置为等于0，这对应于没有亮度的去块。
发明内容
在VTM-4.0和VVC中，存在两种可以在CU内部提供变换子块边界的工具，例如帧内子块划分(ISP)和子块变换(SBT)。这种变换子块边界在VVC中不被去块，除非它们与来自子块预测工具的边界重合。
传统方法的另一个问题是如何确定在变换子块边界的各侧的最大滤波器长度(要读取的样本数量和要修改的样本数量)，以取决于子块大小而实现长去块滤波器和短去块滤波器两者，从而实现并行去块，而不对去块样本做决定。
传统方法的另一个问题是大的附加变换子块边界4×N可出现在非8×8网格(例如4×4网格)上。例如，CU使用ISP并且宽度为16，将CU划分成4个宽度为4的区域，其中CU的高度可以大于16，或者CU的高度为16，将CU划分成4个高度为4的区域，其中CU的宽度大于16。类似地，CU使用SBT并且宽度为16，将CU划分成宽度为4的一个区域，其中高度可以大于16，或者CU的高度为16，将CU划分成高度为4的一个区域，其中CU的宽度可以大于16。
传统方法的另一个问题是SBT边界可能出现在8×8图片网格上但未被滤波，因为不在8×8网格上的CU不被滤波。这可能在CU是三叉分割的结果时发生，这导致宽度为8的CU，其中CU使用SBT并将CU分割成两个区域。
本文所公开的所提出的解决方案基于CU是否使用诸如ISP和SBT之类的变换子块工具来确定在CU的各侧的最大滤波器长度(要读取的样本数量和要修改的样本数量)和CU内部的变换子块边界。
因此，在一个方面，提供了用于对编码单元的至少一个边界去块的第一方法。该方法包括：确定编码单元使用子块变换，其中该子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块。该方法还包括：作为确定编码单元使用子块变换的结果，基于编码单元内变换子块的尺寸来确定最大滤波器长度，其中最大滤波器长度指示在对编码单元的边界去块时要修改的最大样本数量。该方法还包括基于所确定的最大滤波器长度来对编码单元的边界去块。
在一些实施例中，子块变换包括子块变换(SBT)和/或帧内子块划分(ISP)。
在一些实施例中，如果编码单元使用针对垂直边界的去块的宽度小于16或者针对水平边界的去块的高度小于16的预测子块，则减小所确定的最大滤波器长度。
在一些实施例中，编码单元的边界与编码单元边界、变换子块边界、或预测子块边界对齐。
在一些实施例中，基于编码单元内变换子块的尺寸来确定最大滤波器长度包括：将变换子块的尺寸与预定尺寸阈值进行比较。
一些实施例中，当变换子块边界与编码单元边界平行并且距变换子块边界至少等于或大于以样本为单位的预定尺寸阈值时，在使用子块变换的编码单元内部的边界的一侧的最大滤波器长度被设置为7。
在一些实施例中，当边界与变换子块边界对齐并且距在使用子块变换的编码单元内部的边界的一侧的另一个变换或编码单元边界至少等于或大于以样本为单位的预定尺寸阈值时，在边界的该侧的最大滤波器长度被设置为7。
在一些实施例中，当编码单元使用边界被8个样本或更少样本分隔的预测子块时，最大滤波器长度被减小到5。
在一些实施例中，当边界与预测子块边界对齐并且预测子块边界距编码单元边界或变换块或子块边界8个样本时，最大滤波器长度被设置为2。
在一些实施例中，预定尺寸阈值被设置为32。
在一些实施例中，边界与编码单元边界或变换子块边界对齐，去块被应用在4×4网格上，针对在编码单元内部的边界的一侧的最大滤波器长度被确定为大于3，边界的另一侧在大小为4的编码单元或子块变换单元内部，在该侧的最大滤波器长度被确定为小于3。
在一些实施例中，最大变换尺寸等于或大于32。
在一些实施例中，当边界是垂直边界时，编码单元内变换子块的尺寸是变换子块的宽度，或者当边界是水平边界时，编码单元内变换子块的尺寸是变换子块的高度。
在另一方面，提供了用于在4×4网格上对编码单元的至少一个边界去块的第二方法。在一些实施例中，第二方法包括：基于变换子块的尺寸或编码单元的尺寸，针对边界的每一侧确定最大滤波器长度。该方法还包括：基于针对边界的各侧的所确定的最大滤波器长度，对边界去块。
在一些实施例中，对于垂直边界的一侧，当编码单元在该侧的宽度等于或大于第一预定阈值时，或者对于水平边界的一侧，当编码单元在该侧的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
在一些实施例中，子块变换被用于编码单元，并且对于垂直边界的一侧，当变换子块的宽度等于或大于第一预定阈值时，或者对于水平边界的一侧，当变换子块的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
在一些实施例中，对于垂直边界的一侧，当编码单元在该侧的宽度等于或小于第二预定阈值时，或者对于水平边界的一侧，当编码单元在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
在一些实施例中，子块变换被用于编码单元，并且对于垂直边界的一侧，当变换子块在该侧的宽度等于或小于第二预定阈值时，或者对于水平边界的一侧，当变换子块在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
在一些实施例中，第一预定阈值等于32，并且第二预定阈值等于4。
在一些实施例中，对于一侧，最大滤波器长度被确定为等于7、5、或1。
在一些实施例中，最大变换尺寸等于或大于32。
在另一方面，提供了一种计算机程序。计算机程序包括当由处理电路执行时使处理电路执行上述方法中的任何一个的指令。在另一方面，提供了包含计算机程序的载体。载体是电信号、光信号、无线电信号、和计算机可读存储介质之一。
在另一方面，提供了一种用于对编码单元的至少一个边界去块的装置。该装置被配置为确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块。该装置还被配置为：作为确定编码单元使用子块变换的结果，基于编码单元内变换子块的尺寸，确定最大滤波器长度，其中，最大滤波器长度指示在对编码单元的边界去块时要修改的最大样本数量。该装置还被配置为基于所确定的最大滤波器长度，对编码单元的边界去块。
在另一方面，提供了一种用于在4×4网格上对编码单元的至少一个边界去块的装置。该装置被配置为基于变换子块的尺寸或编码单元的尺寸，针对边界的每一侧确定最大滤波器长度。该装置还被配置为基于针对边界的各侧的所确定的最大滤波器长度来对边界去块。
在另一方面，该装置包括计算机可读存储介质和耦合到计算机可读存储介质的处理电路(1002)，其中处理电路被配置为使该装置执行上述方法中的任何一个。
在一些实施例中，ISP和SBT两者都可以在CU内部创建与CU边界平行的子块边界，以使得如果变换子块边界与相邻的变换子块边界或CU边界之间的距离等于或大于32，则在该变换子块边界的一侧，最大滤波器长度被确定为比其他变换子块边界的更大。在一些实施例中，如果存在与变换子块边界平行的预测子块边界且预测子块边界与变换子块边界之间的距离小于16，则减小最大滤波器长度。
在一些实施例中，如果CU边界在8×8网格上，则所有边界在图片基础上在8×8网格上被去块而不是仅在CU内部进行去块。
在一些实施例中，在图片基础上在4×4网格上进行去块可以更好地处理来自SBT和ISP的块效应。
本文所公开的实施例提供了有效减小在子块变换边界的块效应的显著优点。
附图说明
被并入本文并形成说明书一部分的附图示出了各种实施例。
图1示出了根据实施例的编码单元。
图2示出了根据一些实施例的使用子块变换(SBT)的编码单元。
图3示出了根据一些实施例的使用帧内子块划分(ISP)的编码单元。
图4示出了根据一个实施例的编码单元。
图5示出了根据一些实施例的编码单元。
图6是说明根据实施例的过程的流程图。
图7是说明根据实施例的过程的流程图。
图8是示出根据一个实施例的编码器或解码器的功能单元的图。
图9是示出根据一个实施例的编码器或解码器的功能单元的图。
图10是根据一些实施例的装置的框图。
具体实施方式
根据一些实施例，所提出的解决方案可被用在视频或图像编码器或解码器中以对变换子块边界去块。例如，变换子块可以来自SBT或ISP，但是这些只是示例，在替代实施例中可以使用其他工具或那些工具的修改。在当前公开的上下文中，术语“最大滤波器长度”指示要修改的最大样本数量。在一些实施例中，要读取的最大样本数量比要修改的样本数量多一个样本。在一些实施例中，要读取的最大样本数量可以比要修改的样本数量多超过一个样本，例如，对于在4×4网格上的去块，差可以是三个样本。
根据一些实施例，下文所描述的公开实施例1至8涉及SBT和ISP或者使用子块变换来用不同滤波器长度处理去块的工具。
下文所描述的公开实施例9和10可以加上实施例1至8被应用或者被独立应用于在4×4网格上处理长去块与去块之间的交互。
在一些实施例中，32被用作长滤波器的应用的尺寸阈值。在替代实施例中，可以使用阈值16。
实施例1.SBT
现在考虑跨垂直边界的去块和使用在CU内部生成垂直边界的SBT的CU，并且该CU不使用预测子块。
在该实施例中，在CU内部的CU边界的一侧的最大滤波器长度被提供为maxFilterLength。maxFilterLength被如下确定：
Figure BDA0003208147880000101
其中，sub_block_pos可以是0或1以指示第一还是第二个变换子块具有非零变换系数，其中，sub_block_width指示具有非零系数的变换子块的宽度。
在该实施例中，在具有非零系数的子块内部的子块边界的一侧的最大滤波器长度被提供为maxFilterLengthQ，并且在具有非零系数的子块外部的子块边界的一侧的最大滤波器长度被提供为maxFilterLengthP。maxFilterLengthQ和maxFilterLengthP被如下确定：
Figure BDA0003208147880000102
在一些实施例中，通过将宽度与高度交换，上述的实施例1类似地应用于水平边界和使用在CU内部生成水平边界的SBT的CU。
实施例2.SBT和预测子块
现在考虑跨垂直边界的去块和使用在CU内部生成垂直边界的SBT的CU，并且CU还使用宽度小于16的预测子块。
在该实施例中，在CU内部的CU边界的一侧的最大滤波器长度被提供为maxFilterLength。maxFilterLength被如下确定：
Figure BDA0003208147880000103
其中，sub_block_pos可以是0或1以指示第一还是第二个变换子块具有非零变换系数，其中，sub_block_width指示具有非零系数的变换子块的宽度。
在该实施例中，在具有非零系数的子块内部的子块边界的一侧的最大滤波器长度被提供为maxFilterLengthQ，并且在具有非零系数的子块外部的子块边界的一侧的最大滤波器长度被提供为maxFilterLengthP。maxFilterLengthQ和maxFilterLengthP被如下确定：
Figure BDA0003208147880000111
在一些实施例中，通过将宽度与高度交换，上述的实施例2类似地应用于水平边界和使用在CU内部生成水平边界的SBT和预测子块的CU。
实施例3.ISP
现在考虑跨垂直边界的去块和使用在CU内部生成垂直边界的ISP的CU，并且CU不使用预测子块。
在该实施例中，在CU内部的CU边界的一侧的最大滤波器长度被提供为maxFilterLength，并且在变换子块边界的各侧的最大滤波器长度被提供为maxFilterLengthQ和maxFilterLengthP。maxFilterLength、maxFilterLengthQ和maxFilterLengthP被如下确定：
maxFilterLength＝maxFilterLengthQ＝maxFilterLengthP＝sub-block_width>＝32？7:3
其中，sub-block_width指示变换子块的宽度。
在一些实施例中，通过将宽度与高度交换，上述的实施例3类似地应用于水平边界和使用在CU内部生成水平边界的ISP的CU。
实施例4.具有预测子块的ISP
现在考虑跨垂直边界的去块和使用在CU内部生成垂直边界的ISP的CU，并且CU还使用宽度小于16的预测子块。
在该实施例中，在CU内部的CU边界的一侧的最大滤波器长度被提供为maxFilterLength，并且在变换子块边界的各侧的最大滤波器长度被提供为maxFilterLengthQ和maxFilterLengthP。maxFilterLength、maxFilterLengthQ和maxFilterLengthP被如下确定：
maxFilterLength＝maxFilterLengthQ＝maxFilterLengthP＝sub-block_width>＝32？5:3
其中，sub-block_width指示变换子块的宽度。
在一些实施例中，通过将宽度与高度交换，上述的实施例4类似地应用于水平边界和使用在CU内部生成水平边界的ISP和预测子块的CU。
实施例5
如上面在实施例1至4中任一项中所提供的，附加约束是对于在两侧与相应的相邻变换子块边界分隔少于4个样本的变换子块边界不应用去块。
在替代实施例中，如果至少一侧与下一个变换子块边界分隔少于4个样本，则不应用去块。
实施例6
如以上实施例1至4中任一项中所提供的，附加条件是所允许的最大变换尺寸等于或大于32。
实施例7
如以上实施例1至4中任一项所提供的，其中，用于去块的网格是在图片基础上的8×8。
在一些实施例中，这可以从CU边界开始处理变换子块边界中在4×4网格上的一些变换子块边界的去块。
实施例8
如以上实施例1至4中任一项所提供的，其中，用于去块的网格是在图片基础上的4×4。
实施例9
现在考虑跨垂直边界的去块，并且在4×4网格上应用去块。
在一些实施例中，如果在边界的一侧的宽度等于或大于32并且另一侧的宽度小于32，则对宽度小于32的一侧的宽度进行附加检查，如果宽度等于4，则将最大滤波器长度设置为1(修改最多一个样本)，如果宽度大于4，则将最大滤波器长度设置为3(这对应于等于8或更大，因为只使用2的倍数)。在一些实施例中，如果宽度小于4，则在边界的任一侧都不应用滤波。
在边界的一侧的宽度可以是指以下中的至少一个：变换子块的宽度；以及边界与最近的块边界之间的距离，其中这些边界彼此平行。
在一些实施例中，通过将宽度与高度交换，上述的实施例9类似地应用于水平边界。
实施例10
如上述实施例9所提供的，附加条件是在宽度小于4的一侧不应用去块。
在一些实施例中，通过将宽度与高度交换，上述的实施例10类似地应用于水平边界。
实施例11
以上提供的实施例(例如实施例1-10)的任何组合。
图6是示出根据实施例的过程600的流程图。过程600是用于对用于编码和/或解码视频图片的编码单元的至少一个垂直或水平边界去块的方法。600方法包括：确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块(610)；作为确定编码单元使用子块变换的结果，在编码单元内，对于垂直变换子块边界基于变换子块的宽度并对于水平变换子块边界基于变换子块的高度，确定最大滤波器长度(620)，其中，最大滤波器长度指示在对编码单元的垂直或水平边界去块时要修改的最大样本数量；以及基于针对垂直或水平边界的所确定的最大滤波器长度，对编码单元的垂直或水平边界去块(630)。
在一些实施例中，子块变换包括子块变换(SBT)和/或帧内子块划分(ISP)。
在一些实施例中，如果编码单元使用针对垂直边界的去块的宽度小于16或者针对水平边界的去块的高度小于16的预测子块，则减小所确定的最大滤波器长度。
在一些实施例中，边界包括与编码单元边界对齐的边界、与变换子块边界对齐的边界或与预测子块边界对齐的边界。
在一些实施例中，基于编码单元内变换子块的宽度或高度来确定最大滤波器长度包括：将变换子块的宽度或高度与预定尺寸阈值进行比较。
在一些实施例中，当边界与编码单元边界对齐并且变换子块边界与编码单元边界平行并且距变换子块边界至少等于或大于以样本为单位的预定尺寸阈值时，在编码单元内部的边界的一侧的最大滤波器长度被设置为7。
在一些实施例中，当边界与变换子块边界对齐并且距另一个变换或编码单元边界至少等于或大于以样本为单位的预定尺寸阈值时，在边界的那侧的最大滤波器长度被设置为7。
在一些实施例中，当编码单元使用边界被8个样本或更少样本分隔的预测子块时，最大滤波器长度被减小到5。
在一些实施例中，当边界与预测子块边界对齐并且预测子块边界距编码单元边界或变换块或子块边界8个样本时，对于预测子块边界的那侧，最大滤波器长度被设置为2。
在一些实施例中，预定阈值被设置为32。
在一些实施例中，边界与编码单元边界或变换子块边界对齐，去块被应用在4×4网格上，针对在编码单元内部的边界的一侧的最大滤波器长度被确定为大于3，并且边界的另一侧在大小为4的编码单元或子块变换单元内，在该侧的最大滤波器长度被确定为小于3。
在一些实施例中，最大变换尺寸等于或大于32。
图7是说明根据实施例的过程700的流程图。过程700是用于在4×4网格上对用于编码和/或解码视频图片的编码单元的至少一个垂直或水平边界去块的方法。700方法包括：针对垂直边界基于变换子块的宽度或编码单元的宽度或者针对水平边界基于变换子块的高度或编码单元的高度，针对边界的每一侧确定最大滤波器长度(710)；以及基于针对边界的各侧的所确定的最大滤波器长度，对垂直或水平边界去块(720)。
在一些实施例中，对于垂直边界的一侧，当编码单元在该侧的宽度等于或大于第一预定阈值时，或者对于水平边界的一侧，当编码单元在该侧的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
在一些实施例中，子块变换被用于编码单元，并且对于垂直边界的一侧，当变换子块的宽度等于或大于第一预定阈值时，或者对于水平边界的一侧，当变换子块的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
在一些实施例中，对于垂直边界的一侧，当编码单元在该侧的宽度等于或小于第二预定阈值时，或者对于水平边界的一侧，当编码单元在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
在一些实施例中，子块变换被用于编码单元，并且对于垂直边界的一侧，当变换子块在该侧的宽度等于或小于第二预定阈值时，或者对于水平边界的一侧，当变换子块在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
在一些实施例中，第一预定阈值等于32，并且第二预定阈值等于4。
在一些实施例中，对于一侧，最大滤波器长度被确定为等于7。
在一些实施例中，对于一侧，最大滤波器长度被确定为等于5。
在一些实施例中，对于一侧，最大滤波器长度被确定为等于1。
在一些实施例中，最大变换尺寸等于或大于32。
图800是示出根据一些实施例的编码器或解码器802的功能单元的图。如图8所示，编码器或解码器802包括：第一确定单元(804)，用于确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块；第二确定单元(806)，用于作为确定编码单元使用子块变换的结果，在编码单元内针对垂直变换子块边界基于变换子块的宽度和针对水平变换子块边界基于变换子块的高度，确定最大滤波器长度，其中，最大滤波器长度指示在对编码单元的垂直或水平边界去块时要修改的最大样本数量；以及去块单元(808)，用于基于针对垂直或水平边界的所确定的最大滤波器长度，对编码单元的垂直或水平边界去块。
图900是示出了据一些实施例的编码器或解码器902的功能单元的图。如图9所示，编码器或解码器902包括：确定单元(904)，用于针对垂直边界基于变换子块的宽度或编码单元的宽度或者针对水平边界基于变换子块的高度或编码单元的高度，针对边界的每一侧确定最大滤波器长度；以及去块单元(906)，用于基于针对边界的各侧的所确定的最大滤波器长度，对垂直或水平边界去块。
图10是根据一些实施例的用于实现编码器或解码器802、902的装置1000的框图。如图10所示，该装置可以包括：处理电路(PC)1002，其可以包括一个或多个处理器(P)1055(例如，通用微处理器和/或一个或多个其他处理器，诸如专用集成电路(ASIC))、现场可编程门阵列(FPGA)等)；网络接口1048，其包括发射机(Tx)1045和接收机(Rx)1047，用于使得该装置能够向/从被连接到网络接口1048被连接到的网络1110(例如，互联网协议(IP)网络)的其他节点发射/接收数据；以及本地存储单元(亦称为“数据存储系统”)1008，其可以包括一个或多个非易失性存储设备和/或一个或多个易失性存储设备。在PC 1002包括可编程处理器的实施例中，可以提供计算机程序产品(CPP)1041。CPP 1041包括存储计算机程序(CP)1043的计算机可读介质(CRM)1042，该计算机程序(CP)1043包括计算机可读指令(CRI)1044。CRM 1042可以是非暂时性计算机可读介质，诸如磁介质(例如，硬盘)、光介质、存储器设备(例如，随机存取存储器、闪存)等。在一些实施例中，计算机程序1043的CRI 1044被配置为使得CRI在由PC 1002执行时使该装置执行本文所描述的步骤(例如，在本文参考流程图所描述的步骤)。在其他实施例中，该装置可以被配置为执行在本文所描述的步骤而不需要代码。也就是说，例如，PC 1002可以仅由一个或多个ASIC组成。因此，本文所描述的实施例的特征可以以硬件和/或软件来实现。
各种实施例的概述
A1.一种用于对用于编码和/或解码视频图片的编码单元的至少一个垂直或水平边界去块的方法，该方法包括：确定编码单元使用子块变换，其中，子块变换在编码单元内生成变换子块边界，从而在编码单元内形成至少一个变换子块；作为确定编码单元使用子块变换的结果，在编码单元内，针对垂直变换子块边界基于变换子块的宽度和针对水平变换子块边界基于变换子块的高度，确定最大滤波器长度，其中，最大滤波器长度指示在对编码单元的垂直或水平边界去块时要修改的最大样本数量；以及基于针对垂直或水平边界的所确定的最大滤波器长度，对编码单元的垂直或水平边界去块。
A2.根据实施例A1所述的方法，其中，子块变换包括子块变换(SBT)和/或帧内子块划分(ISP)。
A3.根据实施例A1或A2所述的方法，其中，如果编码单元使用针对垂直边界的去块的宽度小于16或者针对水平边界的去块的高度小于16的预测子块，则减小所确定的最大滤波器长度。
A4.根据实施例A1至A3中任一项所述的方法，其中，边界包括与编码单元边界对齐的边界、与变换子块边界对齐的边界或与预测子块边界对齐的边界。
A5.根据实施例A1至A4中任一项所述的方法，其中，基于编码单元内变换子块的宽度或高度来确定最大滤波器长度包括：将变换子块的宽度或高度与预定尺寸阈值进行比较。
A6.根据实施例A1至A5中任一项所述的方法，其中，当边界与编码单元边界对齐、并且变换子块边界与编码单元边界平行并距变换子块边界至少等于或大于以样本为单位的预定尺寸阈值时，在编码单元内部的边界的一侧的最大滤波器长度被设置为7。
A7.根据实施例A1至A5中任一项所述的方法，其中，当边界与变换子块边界对齐并距另一个变换或编码单元边界至少等于或大于以样本为单位的预定尺寸阈值时，在边界的那一侧的最大滤波器长度被设置为7。
A8.根据实施例A6或A7所述的方法，其中，当编码单元使用边界被8个样本或更少样本分隔的预测子块时，最大滤波器长度被减小到5。
A9.根据实施例A1至A5中任一项所述的方法，其中，当边界与预测子块边界对齐并且预测子块边界距编码单元边界或者变换块或子块边界8个样本时，对于预测子块边界的那一侧，最大滤波器长度被设置为2。
A10.根据实施例A5至A7中任一项所述的方法，其中，预定阈值被设置为32。
A11.根据实施例A1至A10中任一项所述的方法，其中，边界与编码单元边界或变换子块边界对齐，去块被应用在4×4网格上，针对在编码单元内部的边界的一侧的最大滤波器长度被确定为大于3，边界的另一侧在大小为4的编码单元或子块变换单元内部，在该侧的最大滤波器长度被确定为小于3。
A12.根据实施例A1至A11中任一项所述的方法，其中，最大变换尺寸等于或大于32。
B1.一种用于在4×4网格上对用于编码和/或解码视频图片的编码单元的至少一个垂直或水平边界去块的方法，该方法包括：针对垂直边界基于变换子块的宽度或编码单元的宽度或者针对水平边界基于变换子块的高度或编码单元的高度，针对边界的每一侧确定最大滤波器长度；以及基于针对边界的各侧的所确定的最大滤波器长度，对垂直或水平边界去块。
B2.根据实施例B1所述的方法，其中，针对垂直边界的一侧，当编码单元在该侧的宽度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3，或者针对水平边界的一侧，当编码单元在该侧的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
B3.根据实施例B1所述的方法，其中，子块变换被用于编码单元，并且其中，针对垂直边界的一侧，当变换子块的宽度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3，或者针对水平边界的一侧，当变换子块的高度等于或大于第一预定阈值时，最大滤波器长度在该侧被确定为大于3。
B4.根据实施例B1至B3中任一项所述的方法，其中，针对垂直边界的一侧，当编码单元在该侧的宽度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3，或者针对水平边界的一侧，当编码单元在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
B5.根据实施例B1至B3中任一项所述的方法，其中，子块变换被用于编码单元，并且其中，针对垂直边界的一侧，当变换子块在该侧的宽度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3，或者针对水平边界的一侧，当变换子块在该侧的高度等于或小于第二预定阈值时，最大滤波器长度在该侧被确定为小于3。
B6.根据实施例B2至B5中任一项所述的方法，其中，第一预定阈值等于32，第二预定阈值等于4。
B7.根据实施例B2或B3所述的方法，其中，对于一侧，最大滤波器长度被确定为等于7。
B8.根据实施例B2或B3所述的方法，其中，对于一侧，最大滤波器长度被确定为等于5。
B9.根据实施例B4或B5所述的方法，其中，对于一侧，最大滤波器长度被确定为等于1。
B10.根据实施例B1至B9中任一项所述的方法，其中，最大变换尺寸等于或大于32。
虽然本文描述了各种实施例(包括附录，如果有的话)，但是应当理解，它们仅作为示例被呈现而并非限制。因此，本公开的广度和范围不应受到任何上述示例性实施例的限制。此外，除非本文另有说明或以其他方式与上下文明显矛盾，否则本公开包含在其所有可能变型中上述元素的任何组合。
另外，虽然上面描述并在附图中图示的过程被示为一系列步骤，但这仅仅是为了说明。因此，可以设想，可以增加一些步骤，可以省略一些步骤，可以重新布置步骤的顺序，并且可以并行执行一些步骤。

Claims (27)

1.一种用于对编码单元的至少一个边界去块的方法(600)，所述方法包括：
确定(602)所述编码单元使用子块变换，其中，所述子块变换在所述编码单元内生成变换子块边界，从而在所述编码单元内形成至少一个变换子块；
作为确定所述编码单元使用所述子块变换的结果，基于所述编码单元内所述变换子块的尺寸来确定(604)最大滤波器长度，其中，所述最大滤波器长度指示在对所述编码单元的边界去块时要修改的最大样本数量；以及
基于所确定的最大滤波器长度，对所述编码单元的所述边界去块(606)。
2.根据权利要求1所述的方法，其中，所述子块变换包括子块变换(SBT)和/或帧内子块划分(ISP)。
3.根据权利要求1或2所述的方法，其中，如果所述编码单元使用针对垂直边界的去块的宽度小于16或者针对水平边界的去块的高度小于16的预测子块，则减小所确定的最大滤波器长度。
4.根据权利要求1至3中任一项所述的方法，其中，所述编码单元的所述边界与编码单元边界、变换子块边界、或预测子块边界对齐。
5.根据权利要求1至4中任一项所述的方法，其中，基于所述编码单元内所述变换子块的所述尺寸来确定所述最大滤波器长度包括：
将所述变换子块的所述尺寸与预定尺寸阈值进行比较。
6.根据权利要求1至5中任一项所述的方法，其中，当所述变换子块边界与编码单元边界平行并且距所述变换子块边界至少等于或大于以样本为单位的预定尺寸阈值时，在使用子块变换的所述编码单元内部的所述边界的一侧的所述最大滤波器长度被设置为7。
7.根据权利要求1至5中任一项所述的方法，其中，当所述边界与变换子块边界对齐并且距在使用子块变换的所述编码单元内部的所述边界的一侧的另一个变换或编码单元边界至少等于或大于以样本为单位的预定尺寸阈值时，在该侧的所述最大滤波器长度被设置为7。
8.根据权利要求6或7所述的方法，其中，当所述编码单元使用边界被8个样本或更少样本分隔的预测子块时，所述最大滤波器长度被减小到5。
9.根据权利要求1至5中任一项所述的方法，其中，当所述边界与预测子块边界对齐并且所述预测子块边界距编码单元边界或者变换块或子块边界8个样本时，所述最大滤波器长度被设置为2。
10.根据权利要求5至7中任一项所述的方法，其中，所述预定尺寸阈值被设置为32。
11.根据权利要求1至10中任一项所述的方法，其中，所述边界与编码单元边界或变换子块边界对齐，去块被应用在4×4网格上，针对在所述编码单元内部的所述边界的一侧的所述最大滤波器长度被确定为大于3，并且所述边界的另一侧在大小为4的编码单元或子块变换单元内部，在该侧的所述最大滤波器长度被确定为小于3。
12.根据权利要求1至11中任一项所述的方法，其中，所述最大变换尺寸等于或大于32。
13.根据权利要求1至12中任一项所述的方法，其中，
当所述边界是垂直边界时，所述编码单元内所述变换子块的所述尺寸是所述变换子块的宽度，或者
当所述边界是水平边界时，所述编码单元内所述变换子块的所述尺寸是所述变换子块的高度。
14.一种用于在4×4网格上对编码单元的至少一个边界去块的方法(700)，所述方法包括：
基于变换子块的尺寸或编码单元的尺寸，针对所述边界的每一侧确定(702)最大滤波器长度；以及
基于针对所述边界的各侧的所确定的最大滤波器长度，对所述边界去块(704)。
15.根据权利要求14所述的方法，其中，对于垂直边界的一侧，当所述编码单元在该侧的宽度等于或大于第一预定阈值时，所述最大滤波器长度在该侧被确定为大于3，或者对于水平边界的一侧，当所述编码单元在该侧的高度等于或大于所述第一预定阈值时，所述最大滤波器长度在该侧被确定为大于3。
16.根据权利要求14所述的方法，其中，子块变换被用于所述编码单元，并且
其中，对于垂直边界的一侧，当变换子块的宽度等于或大于第一预定阈值时，所述最大滤波器长度在该侧被确定为大于3，或者对于水平边界的一侧，当所述变换子块的高度等于或大于所述第一预定阈值时，所述最大滤波器长度在该侧被确定为大于3。
17.根据权利要求14至16中任一项所述的方法，其中，对于垂直边界的一侧，当所述编码单元在该侧的宽度等于或小于第二预定阈值时，所述最大滤波器长度在该侧被确定为小于3，或者对于水平边界的一侧，当所述编码单元在该侧的高度等于或小于所述第二预定阈值时，所述最大滤波器长度在该侧被确定为小于3。
18.根据权利要求14至16中任一项所述的方法，其中，子块变换被用于所述编码单元，并且
其中，对于垂直边界的一侧，当变换子块在该侧的宽度等于或小于第二预定阈值时，所述最大滤波器长度在该侧被确定为小于3，或者对于水平边界的一侧，当所述变换子块在该侧的高度等于或小于所述第二预定阈值时，所述最大滤波器长度在该侧被确定为小于3。
19.根据权利要求15至18中任一项所述的方法，其中，所述第一预定阈值等于32，所述第二预定阈值等于4。
20.根据权利要求15或16所述的方法，其中，对于一侧，所述最大滤波器长度被确定为等于7、5、或1。
21.根据权利要求14至20中任一项所述的方法，其中，所述最大变换尺寸等于或大于32。
22.一种包括指令(1044)的计算机程序(1043)，所述指令在由处理电路(1002)执行时使所述处理电路(1002)执行权利要求1至21中任一项所述的方法。
23.一种包含权利要求22所述的计算机程序的载体，其中，所述载体是电信号、光信号、无线电信号、和计算机可读存储介质(1042)之一。
24.一种用于对编码单元的至少一个边界去块的装置(1000)，所述装置被配置为：
确定所述编码单元使用子块变换，其中，所述子块变换在所述编码单元内生成变换子块边界，从而在所述编码单元内形成至少一个变换子块；
作为确定所述编码单元使用所述子块变换的结果，基于所述编码单元内所述变换子块的尺寸来确定最大滤波器长度，其中，所述最大滤波器长度指示在对所述编码单元的边界去块时要修改的最大样本数量；以及
基于所确定的最大滤波器长度，对所述编码单元的所述边界去块。
25.一种用于在4×4网格上对编码单元的至少一个边界去块的装置(1000)，所述装置被配置为：
基于变换子块的尺寸或编码单元的尺寸，针对所述边界的每一侧确定最大滤波器长度；以及
基于针对所述边界的各侧的所确定的最大滤波器长度，对所述边界去块。
26.根据权利要求24或25所述的装置(1000)，其中，所述装置(1000)还被配置为执行权利要求2至13或15至21中任一项所述的方法。
27.一种用于对编码单元的至少一个边界去块的装置(1100)，所述装置(1000)包括：
计算机可读存储介质(1042)；以及
耦合到所述计算机可读存储介质的处理电路(1002)，其中，所述处理电路被配置为使所述装置(1000)执行权利要求1至21中任一项的方法。
CN202080013945.0A 2019-02-15 2020-02-12 变换子块边界的去块 Pending CN113424545A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962806291P 2019-02-15 2019-02-15
US62/806,291 2019-02-15
PCT/SE2020/050153 WO2020167228A1 (en) 2019-02-15 2020-02-12 Deblocking of transform sub-block boundaries

Publications (1)

Publication Number Publication Date
CN113424545A true CN113424545A (zh) 2021-09-21

Family

ID=72044947

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080013945.0A Pending CN113424545A (zh) 2019-02-15 2020-02-12 变换子块边界的去块

Country Status (5)

Country Link
US (2) US11831926B2 (zh)
EP (1) EP3925227A4 (zh)
KR (1) KR20210113371A (zh)
CN (1) CN113424545A (zh)
WO (1) WO2020167228A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102625986B1 (ko) * 2019-01-10 2024-01-16 후아웨이 테크놀러지 컴퍼니 리미티드 인트라 서브파티션 코딩 툴로 인한 서브파티션 경계를 위한 디블로킹 필터
WO2020171143A1 (en) * 2019-02-19 2020-08-27 Sharp Kabushiki Kaisha Systems and methods for applying deblocking filters to reconstructed video data
CN113519164A (zh) 2019-03-02 2021-10-19 北京字节跳动网络技术有限公司 对分割结构的限制
WO2020256491A1 (ko) * 2019-06-19 2020-12-24 한국전자통신연구원 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2021157536A1 (ja) * 2020-02-06 2021-08-12 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法、および復号方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102598669A (zh) * 2009-09-14 2012-07-18 Sk电信有限公司 用于高分辨率运动图像的编码/解码方法和装置
US20130294525A1 (en) * 2011-01-14 2013-11-07 Telefonaktiebolaget L M Ericsson (Publ) Method for Filter Control and a Filtering Control Device
CN103718552A (zh) * 2011-07-19 2014-04-09 高通股份有限公司 用于视频译码的对非正方形块的解块
CN104303501A (zh) * 2012-04-03 2015-01-21 高通股份有限公司 用于视频译码的量化矩阵和解块滤波器
CN106105201A (zh) * 2014-03-14 2016-11-09 高通股份有限公司 使用像素距离的解块滤波

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019137750A1 (en) * 2018-01-10 2019-07-18 Telefonaktiebolaget Lm Ericsson (Publ) Determining filter length for deblocking during encoding and/or decoding of video
WO2019243498A1 (en) * 2018-06-21 2019-12-26 Telefonaktiebolaget Lm Ericsson (Publ) Deblocking of video picture boundaries

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102598669A (zh) * 2009-09-14 2012-07-18 Sk电信有限公司 用于高分辨率运动图像的编码/解码方法和装置
US20130294525A1 (en) * 2011-01-14 2013-11-07 Telefonaktiebolaget L M Ericsson (Publ) Method for Filter Control and a Filtering Control Device
CN103718552A (zh) * 2011-07-19 2014-04-09 高通股份有限公司 用于视频译码的对非正方形块的解块
CN104303501A (zh) * 2012-04-03 2015-01-21 高通股份有限公司 用于视频译码的量化矩阵和解块滤波器
CN106105201A (zh) * 2014-03-14 2016-11-09 高通股份有限公司 使用像素距离的解块滤波

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
BENJAMIN BROSS ET AL: "《Versatile Video Coding (Draft 4)》", 《JVET》, 18 January 2019 (2019-01-18) *
KEI KAWAMURA ET AL: "《Extended deblocking-filter decision for large block boundary》", 《JVET》, 21 October 2016 (2016-10-21) *
WEIJIA ZHU ET AL: "《DeblockingImprovements for Large CUs》", 《JVET》, 20 April 2018 (2018-04-20) *

Also Published As

Publication number Publication date
US20240080494A1 (en) 2024-03-07
KR20210113371A (ko) 2021-09-15
US11831926B2 (en) 2023-11-28
EP3925227A1 (en) 2021-12-22
EP3925227A4 (en) 2022-11-16
WO2020167228A1 (en) 2020-08-20
US20220167020A1 (en) 2022-05-26

Similar Documents

Publication Publication Date Title
CN110719479B (zh) 跨分量编码信息导出
US11831926B2 (en) Deblocking of transform sub-block boundaries
US11758131B2 (en) Deblocking of video picture boundaries
US11653030B2 (en) Asymmetric deblocking in a video encoder and/or video decoder
US20220329875A1 (en) Deblocking between block boundaries and sub-block boundaries in a video encoder and/or video decoder
US20220141464A1 (en) Deblocking in a video encoder and/or video decoder
WO2020171760A1 (en) Deblocking on 4x4 grid using long filters
JP7386883B2 (ja) サブペル動きベクトルしきい値を使用するデブロッキング
US20240187583A1 (en) Deblocking using sub-pel motion vector threshold
WO2020007747A1 (en) Deblocking of intra-reference samples
US11490080B2 (en) Deblocking of implicit transform unit boundaries
US12003785B2 (en) Asymmetric deblocking in a video encoder and/or video decoder
EP4128761A1 (en) Video processing
OA20341A (en) Deblocking of implicit transform unit boundaries

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination