CN115152149A - 用于视频译码的方法和设备 - Google Patents

用于视频译码的方法和设备 Download PDF

Info

Publication number
CN115152149A
CN115152149A CN202180016126.6A CN202180016126A CN115152149A CN 115152149 A CN115152149 A CN 115152149A CN 202180016126 A CN202180016126 A CN 202180016126A CN 115152149 A CN115152149 A CN 115152149A
Authority
CN
China
Prior art keywords
string
current
block
samples
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180016126.6A
Other languages
English (en)
Inventor
许晓中
刘杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent America LLC
Original Assignee
Tencent America LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent America LLC filed Critical Tencent America LLC
Publication of CN115152149A publication Critical patent/CN115152149A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3084—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction using adaptive string matching, e.g. the Lempel-Ziv method
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/1883—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit relating to sub-band structure, e.g. hierarchical level, directional tree, e.g. low-high [LH], high-low [HL], high-high [HH]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/60—General implementation details not specific to a particular type of compression
    • H03M7/6005—Decoder aspects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Color Television Systems (AREA)

Abstract

本公开内容的各方面提供用于视频编码/解码的方法和设备。在一些示例中，用于视频解码的设备包括处理电路系统。处理电路系统确定当前编码树单元(CTU)中的当前串的串矢量。串矢量指向当前串的参考串。处理电路系统确定串矢量满足允许当前串与参考串部分交叠的要求，然后基于参考串来重构当前串。

Description

用于视频译码的方法和设备
援引并入
本申请要求于2021年7月6日提交的美国专利申请第17/368,616号“METHOD ANDAPPARATUS FOR VIDEO CODING”的优先权的权益，该美国专利申请要求于2020年12月7日提交的美国临时申请第63/122,342号“STRING MATCHING WITH REFERENCE LOCATIONCONSTRAINTS”的优先权的权益。在先申请的全部公开内容通过引用整体并入本文。
技术领域
本公开内容描述了总体上涉及视频译码的实施方式。
背景技术
本文中提供的背景技术描述的目的在于从总体上呈现本公开内容的背景。就在此背景技术部分中描述目前署名的发明人的工作的程度而言，目前署名的发明人的工作以及在提交时可不被另外视为现有技术的描述的方面既没有被明确地也没有被隐含地承认为针对本公开内容的现有技术。
可以使用具有运动补偿的图片间预测来执行视频编码和解码。未经压缩的数字视频可以包括一系列图片，每个图片的空间大小为例如1920×1080个亮度样本以及相关联的色度样本。所述一系列图片可以具有固定的或可变的图片速率(也被非正式地称为帧速率)，例如每秒60幅图片或60Hz。未经压缩的视频具有特定的比特率要求。例如，每个样本8比特的1080p60 4:2:0视频(60Hz帧速率下1920×1080亮度样本分辨率)需要接近1.5Gbit/s的带宽。一小时的这样的视频需要超过600千兆字节(GByte)的存储空间。
视频编码和解码的一个目的可以是通过压缩来降低输入视频信号的冗余度。压缩可以有助于降低上述带宽需求和/或存储空间需求，在一些情况下可以降低两个数量级或更多个数量级。可以采用无损压缩和有损压缩两者及其组合。无损压缩是指可以根据经压缩的原始信号重构原始信号的精确副本的技术。当使用有损压缩时，重构的信号可能与原始信号不同，但是原始信号与重构的信号之间的失真足够小，以使得重构的信号能够用于预期应用。在视频的情况下，广泛地采用有损压缩。容忍的失真量取决于应用；例如，某些消费者流媒体应用的用户可能比电视分发应用的用户容忍更高的失真。可实现的压缩比可以反映出：较高的可允许/可容忍的失真可以产生较高的压缩比。
视频编码器和解码器可以利用来自例如包括运动补偿、变换、量化和熵编码的若干大类的技术。
视频编解码器技术可以包括被称为帧内编码的技术。在帧内编码中，在不参考来自先前重构的参考图片的样本或其他数据的情况下表示样本值。在一些视频编解码器中，在空间上将图片细分为样本块。当所有的样本块都以帧内模式编码时，该图片可以是帧内图片。帧内图片及其派生(例如，独立解码器刷新图片)可以用于重置解码器状态，并且因此可以用作已编码视频比特流和视频会话中的第一图片或用作静止图像。可以使帧内块的样本经受变换，并且可以在熵编码之前对变换系数进行量化。帧内预测可以是在预变换域中使样本值最小化的技术。在一些情况下，变换之后的DC值越小，并且AC系数越小，在给定量化步长下表示熵编码之后的块所需的比特就越少。
传统的帧内编码——例如从MPEG-2代编码技术已知的帧内编码——不使用帧内预测。然而，一些较新的视频压缩技术包括根据例如在空间上邻近并且在解码顺序上在先的数据块的编码和/或解码期间获得的元数据以及/或者周围样本数据进行尝试的技术。这样的技术此后被称为“帧内预测”技术。注意，在至少一些情况下，帧内预测仅使用来自重构中的当前图片的参考数据，而不使用来自参考图片的参考数据。
可以存在许多不同形式的帧内预测。当多于一种的这样的技术可以在给定视频编码技术中使用时，可以在帧内预测模式下对使用的技术进行编码。在某些情况下，模式可以具有子模式和/或参数，并且这些子模式和/或参数可以被单独编码或被包括在模式码字中。针对给定模式、子模式和/或参数组合使用何码字可以通过帧内预测对编码效率增益产生影响，并且因此用于将码字转换成比特流的熵编码技术也可以对其产生影响。
帧内预测的某些模式随H.264引入、在H.265中被细化，并且在诸如联合开发模型(joint exploration model，JEM)、通用视频编码(versatile video coding，VVC)和基准集(benchmark set，BMS)的较新编码技术中被进一步细化。可以使用属于已经可用的样本的邻近样本值来形成预测块。根据方向将邻近样本的样本值复制到预测块中。对使用的方向的参考可以被编码在比特流中，或者其本身可以被预测。
参照图1A，右下方描绘了从H.265的33个可能预测方向(对应于35个帧内模式中的33个角度模式)已知的九个预测方向的子集。箭头会聚的点(101)表示正被预测的样本。箭头表示对样本进行预测的方向。例如，箭头(102)指示根据右上方的与水平成45度角的一个或更多个样本对样本(101)进行预测。类似地，箭头(103)指示根据样本(101)左下方的与水平成22.5度角的一个或更多个样本对样本(101)进行预测。
仍然参照图1A，在左上方描绘了4×4个样本的正方形块(104)(由黑体虚线指示)。正方形块(104)包括16个样本，每个样本均用“S”、其在Y维度上的位置(例如，行索引)以及其在X维度上的位置(例如，列索引)来标记。例如，样本S21是Y维度上(从顶部起)的第二个样本并且是X维度上(从左侧起)的第一个样本。类似地，样本S44是块(104)中在Y维度和X维度两者上的第四个样本。由于块的大小是4×4个样本，因此S44在右下方。另外示出的是遵循类似的编号方案的参考样本。参考样本用R、其相对于块(104)的Y位置(例如，行索引)和X位置(列索引)来标记。在H.264和H.265二者中，预测样本与重构中的块相邻；因此不需要使用负值。
帧内图片预测可以通过根据用信号指示的预测方向适当地从相邻样本复制参考样本值来工作。例如，假设已编码视频比特流包括信令，针对该块，信令指示与箭头(102)一致的预测方向——即，根据右上方的与水平成45度角的一个或更多个预测样本来对样本进行预测。在这种情况下，根据同一参考样本R05对样本S41、S32、S23和S14进行预测。然后根据参考样本R08对样本S44进行预测。
在某些情况下，可以例如通过插值将多个参考样本的值进行组合以便计算参考样本；尤其是在方向不能被45度整除的情况下。
随着视频编码技术的发展，可能的方向的数量也在增加。在H.264(2003年)中，可以表示九个不同的方向。这在H.265(2013年)中增加到33个，并且在公开时JEM/VVC/BMS可以支持多达65个方向。已经进行了实验来识别最可能的方向，并且熵编码中的某些技术被用于以少量的比特表示这些可能的方向，从而接受对较不可能的方向的某些惩罚。此外，有时可以根据在相邻的已解码的块中使用的相邻方向来预测方向本身。
图1B示出了示意图(180)，其描绘根据JEM的65个帧内预测方向以示出预测方向的数量随着时间的推移而增加。
已编码视频比特流中表示方向的帧内预测方向比特的映射可以随着视频编码技术的不同而不同；并且该映射的范围例如可以从预测方向的简单直接映射到帧内预测模式，到码字，再到涉及最可能模式的复杂自适应方案以及类似技术。然而，在所有情况下，可能存在于统计上比某些其他方向更不可能出现在视频内容中的某些方向。由于视频压缩的目标是减少冗余，因此在运转良好的视频编码技术中，那些较不可能的方向与更有可能的方向相比将由更大数量的比特来表示。
运动补偿可以是有损压缩技术，并且可以涉及下述技术：来自先前重构的图片或其部分(参考图片)的样本数据的块，在由运动矢量(此后称为MV(motion vector，MV))指示的方向上空间移位之后，被用于预测新重构的图片或图片部分。在一些情况下，参考图片可以与当前重构中的图片相同。MV可以具有两个维度X和Y或者具有三个维度，第三维度是使用的参考图片的指示(第三维度间接地可以是时间维度)。
在一些视频压缩技术中，可以根据其他MV来预测适用于样本数据的特定区域的MV，例如根据样本数据的在空间上与正在重构的区域相邻的另一区域有关并且在解码顺序上在该MV之前的MV，来预测该MV。这样做可以大幅减少编码MV所需的数据的量，从而消除冗余并且增加压缩。MV预测可以有效地工作，例如，这是因为在对从摄像装置得出的输入视频信号(称为自然视频)进行编码时，存在比单个MV所适用的区域大的区域在相似方向上移动的统计可能性，并且因此在一些情况下可以使用从相邻区域的MV得出的相似运动矢量来进行预测。这使得针对给定区域得到的MV与根据周围MV预测的MV相似或相同，并且又可以在熵编码之后用比直接对MV进行编码的情况下将使用的比特数少的比特数来表示。在一些情况下，MV预测可以是根据原始信号(即：样本流)得出的信号(即：MV)的无损压缩的示例。在其他情况下，MV预测本身可以是有损的，例如由于根据若干周围MV计算预测器时的舍入误差而是有损的。
在H.265/HEVC(ITU-T H.265建议书，“高效视频编解码(High Efficiency VideoCoding)”，2016年12月)中描述了各种MV预测机制。此处描述的是H.265提供的多种MV预测机制中的此后被称为“空间合并”的技术。
参照图2，当前块(201)包括在运动搜索过程期间由编码器得到的能够根据已经被空间移位的相同大小的先前块预测的样本。代替直接对该MV进行编码，可以使用与用A0、A1和B0、B1、B2(分别对应202至206)表示的五个周围样本中的任一样本相关联的MV，从与一个或更多个参考图片相关联的元数据得出MV，例如，从最近(按解码次序)的参考图片得出MV。在H.265中，MV预测可以使用来自相邻块也正在使用的同一参考图片的预测器。
发明内容
本公开内容的各方面提供用于视频编码/解码的方法和设备。在一些示例中，用于视频解码的设备包括处理电路系统。处理电路系统确定当前编码树单元(coding treeunit，CTU)中的当前串的串矢量。串矢量指向当前串的参考串。处理电路系统确定串矢量满足允许当前串与参考串部分交叠的要求，然后基于参考串来重构当前串。
在一些实施方式中，处理电路系统可以按部分重构当前串。例如，处理电路系统在重构当前串的第二部分之前重构当前串的第一部分，并基于当前串的第一部分来重构当前串的第二部分。
在一些示例中，处理电路系统可以响应于串矢量的垂直分量和水平分量中的至少一者为负而确定串矢量满足允许当前串与参考串部分交叠的要求。
在示例中，处理电路系统响应于满足允许当前串与参考串部分交叠的要求而跳过交叠约束，并且处理电路系统可以响应于不满足允许当前串与参考串部分交叠的要求而对串矢量应用交叠约束。
在示例中，使用针对串的水平扫描顺序。处理电路系统确定串矢量的垂直分量为负。然后，处理电路系统以逐行的方式重构当前串。例如，处理电路系统重构当前串的第一样本行，并基于当前串的第一样本行来重构当前串的第二样本行。
在另一示例中，使用针对串的垂直扫描顺序。处理电路系统确定串矢量的水平分量为负。然后，处理电路系统以逐列的方式重构当前串。例如，处理电路系统重构当前串的第一样本列，并基于当前串的第一样本列来重构当前串的第二样本列。
在一些实施方式中，参考串可以与当前CTU上方的样本行交叠。然后，处理电路系统可以响应于参考串与当前CTU上方的样本行交叠来访问存储该样本行中的样本的缓冲器以重构当前串。
本公开内容的各方面还提供非暂态计算机可读介质，其存储有指令，所述指令在由用于视频编码/解码的计算机执行时，使所述计算机执行用于视频编码/解码的方法中的任何方法。
附图说明
根据以下详细描述和附图，所公开的主题的其他特征、性质和各种优点将变得更加明显，并且在附图中：
图1A是帧内预测模式的示例性子集的示意图。
图1B是示例性帧内预测方向的图示。
图2是一个示例中的当前块及其周围的空间合并候选的示意图。
图3是根据实施方式的通信系统(300)的简化框图的示意图。
图4是根据实施方式的通信系统(400)的简化框图的示意图。
图5是根据实施方式的解码器的简化框图的示意图。
图6是根据实施方式的编码器的简化框图的示意图。
图7示出了根据另一实施方式的编码器的框图。
图8示出了根据另一实施方式的解码器的框图。
图9示出了根据本公开内容的实施方式的帧内块复制的示例。
图10示出了根据本公开内容的实施方式的帧内块复制的示例。
图11示出了根据本公开内容的实施方式的帧内块复制的示例。
图12A至图12D示出了根据本公开内容的实施方式的帧内块复制的示例。
图13示出了根据本公开内容的实施方式的当前块的帧内块复制块矢量预测的空间类的示例。
图14示出了根据本公开内容的实施方式的串复制模式的示例。
图15示出了根据本公开内容的一些实施方式的译码处理期间的图片的图。
图16示出了根据一些示例的串的重构过程的示例。
图17示出了跨越区域边界的参考串的示例。
图18示出了跨越区域边界的参考串的另一示例。
图19示出了具有当前CTU上方的样本的参考串的示例。
图20示出了概述根据本公开内容的实施方式的处理的流程图。
图21是根据实施方式的计算机系统的示意图。
具体实施方式
图3示出了根据本公开内容的实施方式的通信系统(300)的简化框图。通信系统(300)包括可以经由例如网络(350)彼此通信的多个终端装置。例如，通信系统(300)包括经由网络(350)互连的第一对终端装置(310)和(320)。在图3的示例中，第一对终端装置(310)和(320)执行数据的单向传输。例如，终端装置(310)可以对视频数据(例如，由终端装置(310)捕获的视频图片流)进行编码以经由网络(350)传输至另一终端装置(320)。已编码视频数据可以用一个或更多个已编码视频比特流的形式传输。终端装置(320)可以从网络(350)接收已编码视频数据，对该已编码视频数据进行解码以恢复视频图片，并且根据所恢复的视频数据显示视频图片。单向数据传输在媒体服务应用等中可以是常见的。
在另一示例中，通信系统(300)包括第二对终端装置(330)和(340)，第二对终端装置(330)和(340)执行可能例如在视频会议期间发生的已编码视频数据的双向传输。对于数据的双向传输，在示例中，终端装置(330)和(340)中的每个终端装置可以对视频数据(例如，由终端装置捕获的视频图片流)进行编码以经由网络(350)传输至终端装置(330)和(340)中的另一终端装置。终端装置(330)和(340)中的每个终端装置还可以接收由终端装置(330)和(340)中的另一终端装置传输的已编码视频数据，并且可以对该已编码视频数据进行解码以恢复视频图片，并且可以根据所恢复的视频数据在可访问的显示装置处显示视频图片。
在图3的示例中，终端装置(310)、(320)、(330)和(340)可以被示出为服务器、个人计算机和智能电话，但是本公开内容的原理可以不被这样限制。本公开内容的实施方式适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(350)表示在终端装置(310)、(320)、(330)和(340)之间传送已编码视频数据的任何数量的网络，包括例如有线(连线的)和/或无线通信网络。通信网络(350)可以在电路交换信道和/或分组交换信道中交换数据。代表性的网络包括电信网络、局域网、广域网和/或互联网。出于本论述的目的，除非在下文中有所说明，否则网络(350)的架构和拓扑对于本公开内容的操作而言可能是无关紧要的。
作为所公开的主题的应用的示例，图4示出了视频编码器和视频解码器在流式传输环境中的布置。所公开的主题可以同样地适用于其他支持视频的应用，包括例如：视频会议；数字TV；在包括CD、DVD、存储棒等的数字介质上存储压缩视频等。
流式传输系统可以包括捕获子系统(413)，捕获子系统(413)可以包括创建例如未经压缩的视频图片流(402)的视频源(401)，例如数字摄像装置。在示例中，视频图片流(402)包括由数字摄像装置拍摄的样本。视频图片流(402)被描绘为粗线以强调当与已编码视频数据(404)(或已编码视频比特流)比较时的高数据量，视频图片流(402)可以由耦接至视频源(401)的包括视频编码器(403)的电子装置(420)进行处理。视频编码器(403)可以包括硬件、软件或其组合，以实现或实施如下更详细地描述的所公开的主题的各方面。已编码视频数据(404)(或已编码视频比特流(404))被描绘为细线以强调当与视频图片流(402)比较时的较低数据量，已编码视频数据(404)可以被存储在流式传输服务器(405)上以供将来使用。一个或更多个流式传输客户端子系统(例如图4中的客户端子系统(406)和(408))可以访问流式传输服务器(405)以检索已编码视频数据(404)的副本(407)和(409)。客户端子系统(406)可以包括例如电子装置(430)中的视频解码器(410)。视频解码器(410)对传入的已编码视频数据的副本(407)进行解码，并且创建可以在显示器(412)(例如，显示屏)或另一呈现装置(未描绘)上呈现的传出视频图片流(411)。在一些流式传输系统中，可以根据某些视频编码/压缩标准对已编码视频数据(404)、(407)和(409)(例如，视频比特流)进行编码。这些标准的示例包括ITU-T H.265建议书。在示例中，开发中的视频编码标准被非正式地称为通用视频编码(Versatile Video Coding，VVC)。所公开的主题可以用于VVC的背景下。
注意，电子装置(420)和(430)可以包括其他部件(未示出)。例如，电子装置(420)可以包括视频解码器(未示出)，并且电子装置(430)也可以包括视频编码器(未示出)。
图5示出了根据本公开内容的实施方式的视频解码器(510)的框图。视频解码器(510)可以被包括在电子装置(530)中。电子装置(530)可以包括接收器(531)(例如，接收电路系统)。视频解码器(510)可以用来代替图4的示例中的视频解码器(410)。
接收器(531)可以接收要由视频解码器(510)解码的一个或更多个已编码视频序列；在同一实施方式或另一实施方式中，一次接收一个已编码视频序列，其中，每个已编码视频序列的解码独立于其他已编码视频序列。可以从信道(501)接收已编码视频序列，信道(501)可以是到存储已编码视频数据的存储装置的硬件/软件链路。接收器(531)可以接收已编码视频数据以及其他数据例如已编码音频数据和/或辅助数据流，它们可以被转发至其各自的使用实体(未描绘)。接收器(531)可以将已编码视频序列与其他数据分开。为了防止网络抖动，可以将缓冲存储器(515)耦接在接收器(531)与熵解码器/解析器(520)(此后称为“解析器(520)”)之间。在某些应用中，缓冲存储器(515)是视频解码器(510)的一部分。在其他应用中，缓冲存储器(515)可以在视频解码器(510)外部(未描绘)。在又一些其他应用中，在视频解码器(510)外部可以存在缓冲存储器(未描绘)以例如防止网络抖动，并且此外在视频解码器(510)内部可以存在另一缓冲存储器(515)以例如处理播出定时。当接收器(531)从具有足够带宽和可控性的存储/转发装置或从等时同步网络(isosynchronousnetwork)接收数据时，可以不需要缓冲存储器(515)，或者缓冲存储器(515)可以较小。为了在诸如因特网的尽力型(best effort)分组网络上使用，可能需要缓冲存储器(515)，缓冲存储器(515)可以相对较大并且可以有利地具有自适应大小，并且可以至少部分地在操作系统或视频解码器(510)外部的类似元件(未描绘)中实现。
视频解码器(510)可以包括解析器(520)以根据已编码视频序列来重构符号(521)。这些符号的类别包括：用于管理视频解码器(510)的操作的信息，以及可能包括用于控制呈现装置例如呈现装置(512)(例如，显示屏)的信息，该呈现装置不是电子装置(530)的组成部分而是可以耦接至电子装置(530)，如图5所示。用于(一个或多个)呈现装置的控制信息可以呈补充增强信息(Supplemental Enhancement Information，SEI消息)或视频可用性信息(Video Usability Information，VUI)参数集片段(未描绘)的形式。解析器(520)可以对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可以符合视频编码技术或标准，并且可以遵循各种原理，包括可变长度编码、霍夫曼编码(Huffmancoding)、具有或不具有上下文敏感性的算术编码等。解析器(520)可以基于与群组对应的至少一个参数，从已编码视频序列中提取针对视频解码器中的像素子群组中的至少一个子群组的子群组参数集。子群组可以包括：图片群组(Group of Pictures，GOP)、图片、图块、切片、宏块、编码单元(Coding Unit，CU)、块、变换单元(Transform Unit，TU)、预测单元(Prediction Unit，PU)等。解析器(520)还可以从已编码视频序列中提取诸如变换系数、量化器参数值、运动矢量等的信息。
解析器(520)可以对从缓冲存储器(515)接收的视频序列执行熵解码/解析操作，从而创建符号(521)。
符号(521)的重构可以根据已编码视频图片或其一部分的类型(例如：帧间图片和帧内图片、帧间块和帧内块)以及其他因素而涉及多个不同的单元。涉及哪些单元以及涉及方式可以通过由解析器(520)从已编码视频序列解析的子群组控制信息来控制。为了简洁起见，未描绘解析器(520)与下文的多个单元之间的这样的子群组控制信息的流动。
除已经提及的功能块以外，可以在概念上将视频解码器(510)细分成如下文所描述的多个功能单元。在商业约束下操作的实际实现中，这些单元中的许多单元彼此紧密交互并且可以至少部分地彼此集成。然而，出于描述所公开主题的目的，在概念上细分成下文的功能单元是适当的。
第一单元是缩放器/逆变换单元(551)。缩放器/逆变换单元(551)从解析器(520)接收作为(一个或多个)符号(521)的经量化的变换系数以及控制信息，包括要使用哪种变换、块大小、量化因子、量化缩放矩阵等。缩放器/逆变换单元(551)可以输出包括样本值的块，所述块可以被输入到聚合器(555)中。
在一些情况下，缩放器/逆变换(551)的输出样本可以属于经帧内编码的块；即：不使用来自先前重构的图片的预测性信息但可以使用来自当前图片的先前重构部分的预测性信息的块。这样的预测性信息可以由帧内图片预测单元(552)提供。在一些情况下，帧内图片预测单元(552)使用从当前图片缓冲器(558)获取的周围已重构的信息生成大小和形状与重构中的块相同的块。例如，当前图片缓冲器(558)缓冲部分重构的当前图片和/或完全重构的当前图片。在一些情况下，聚合器(555)基于每个样本将帧内预测单元(552)已经生成的预测信息添加至如由缩放器/逆变换单元(551)提供的输出样本信息。
在其他情况下，缩放器/逆变换单元(551)的输出样本可以属于经帧间编码并且可能经运动补偿的块。在这样的情况下，运动补偿预测单元(553)可以访问参考图片存储器(557)以获取用于预测的样本。在根据属于块的符号(521)对所获取的样本进行运动补偿之后，这些样本可以由聚合器(555)添加至缩放器/逆变换单元(551)的输出(在这种情况下被称作残差样本或残差信号)以生成输出样本信息。参考图片存储器(557)内的运动补偿预测单元(553)从其获取预测样本的地址可以由运动矢量控制，所述运动矢量可以以符号(521)的形式被运动补偿预测单元(553)获得，所述符号(521)可以具有例如X分量、Y分量和参考图片分量。运动补偿还可以包括当使用子样本精确运动矢量时对从参考图片存储器(557)中获取的样本值进行插值、运动矢量预测机制等。
聚合器(555)的输出样本可以在环路滤波器单元(556)中经受各种环路滤波技术。视频压缩技术可以包括环路内滤波器技术，所述环路内滤波器技术由包括在已编码视频序列(也被称为已编码视频比特流)中且可以作为来自解析器(520)的符号(521)被环路滤波器单元(556)获得的参数控制，但是环路内滤波器技术也可以对在对已编码图片或已编码视频序列的(按解码顺序的)先前部分进行解码期间获得的元信息进行响应，以及对先前重构并且经环路滤波的样本值进行响应。
环路滤波器单元(556)的输出可以是样本流，该样本流可以被输出至呈现装置(512)以及存储在参考图片存储器(557)中以用于将来的帧间图片预测。
一旦被完全重构，某些已编码图片就可以被用作参考图片以用于将来预测。例如，一旦与当前图片对应的已编码图片被完全重构，并且该已编码图片(通过例如解析器(520))被识别为参考图片，则当前图片缓冲器(558)可以变为参考图片存储器(557)的一部分，并且可以在开始重构随后的已编码图片之前重新分配新的当前图片缓冲器。
视频解码器(510)可以根据诸如ITU-T H.265建议书的标准中的预定视频压缩技术执行解码操作。在已编码视频序列遵循视频压缩技术或标准的语法以及视频压缩技术或标准中记录的配置文件两者的意义上，已编码视频序列可以符合由所使用的视频压缩技术或标准指定的语法。具体地，配置文件可以从视频压缩技术或标准中可用的所有工具中选择某些工具作为仅在该配置文件下可供使用的工具。对于合规性，还需要已编码视频序列的复杂度处于由视频压缩技术或标准的级别限定的界限内。在一些情况下，级别限制最大图片大小、最大帧速率、最大重构采样率(以例如每秒百万样本为单位进行测量)、最大参考图片大小等。在一些情况下，由级别设置的限制可以通过假设参考解码器(HypotheticalReference Decoder，HRD)规范以及在已编码视频序列中用信号指示的HRD缓冲器管理的元数据来进一步限定。
在实施方式中，接收器(531)可以连同已编码视频一起接收附加(冗余)数据。附加数据可以被包括为(一个或多个)已编码视频序列的一部分。附加数据可以被视频解码器(510)用于对数据进行适当解码以及/或者更准确地重构原始视频数据。附加数据可以呈例如时间、空间或信噪比(signal noise ratio，SNR)增强层、冗余切片、冗余图片、前向纠错码等形式。
图6示出了根据本公开内容的实施方式的视频编码器(603)的框图。视频编码器(603)被包括在电子装置(620)中。电子装置(620)包括传输器(640)(例如，传输电路系统)。视频编码器(603)可以用来代替图4的示例中的视频编码器(403)。
视频编码器(603)可以从视频源(601)(其并非图6的示例中的电子装置(620)的一部分)接收视频样本，视频源(601)可以捕获要由视频编码器(603)进行编码的(一个或多个)视频图像。在另一示例中，视频源(601)是电子装置(620)的一部分。
视频源(601)可以提供要由视频编码器(603)进行编码的呈数字视频样本流形式的源视频序列，该数字视频样本流可以具有任何合适的比特深度(例如：8比特、10比特、12比特……)、任何颜色空间(例如，BT.601Y CrCB、RGB……)和任何合适的采样结构(例如YCrCb 4:2:0、Y CrCb 4:4:4)。在媒体服务系统中，视频源(601)可以是存储先前准备的视频的存储装置。在视频会议系统中，视频源(601)可以是捕获本地图像信息作为视频序列的摄像装置。可以将视频数据提供为当按顺序观看时被赋予运动的多个单独的图片。图片本身可以被组织为空间像素阵列，其中，取决于所用的采样结构、颜色空间等，每个像素可以包括一个或更多个样本。本领域技术人员可以容易理解像素与样本之间的关系。以下描述集中于样本。
根据实施方式，视频编码器(603)可以实时地或者在应用所需的任何其他时间约束下将源视频序列的图片编码并压缩成已编码视频序列(643)。施行适当的编码速度是控制器(650)的一个功能。在一些实施方式中，控制器(650)控制如下所述的其他功能单元并且在功能上耦接至所述其他功能单元。为简洁起见未描绘所述耦接。通过控制器(650)设置的参数可以包括速率控制相关参数(图片跳过、量化器、率失真优化技术的λ值……)、图片大小、图片组(GOP)布局、最大运动矢量搜索范围等。控制器(650)可以被配置成具有其他合适的与针对特定系统设计而优化的视频编码器(603)有关的功能。
在一些实施方式中，视频编码器(603)被配置成在编码环路中进行操作。作为极度简化的描述，在示例中，编码环路可以包括源编码器(630)(例如，负责基于要编码的输入图片和(一个或多个)参考图片来创建符号，例如符号流)和嵌入在视频编码器(603)中的(本地)解码器(633)。解码器(633)以与(远程)解码器创建样本数据的方式类似的方式重构符号以创建样本数据(因为在所公开的主题中所考虑的视频压缩技术中，符号与已编码视频比特流之间的任何压缩是无损的)。重构的样本流(样本数据)被输入至参考图片存储器(634)。由于符号流的解码产生与解码器位置(本地或远程)无关的比特精确结果，因此参考图片存储器(634)中的内容在本地编码器与远程编码器之间也是比特精确的。换句话说，编码器的预测部分将与解码器在解码期间使用预测时所“看到”的样本值完全相同的样本值“视为”参考图片样本。参考图片同步性的这种基本原理(以及在例如由于信道误差而无法维持同步性的情况下产生的漂移)也用于一些相关技术。
“本地”解码器(633)的操作可以与“远程”解码器例如已经在上面结合图5详细描述的视频解码器(510)的操作相同。然而，另外简要地参照图5，由于符号可用并且由熵编码器(645)将符号编码成已编码视频序列以及由解析器(520)对符号进行解码可以是无损的，因此可以不在本地解码器(633)中完全实现视频解码器(510)的包括缓冲存储器(515)和解析器(520)的熵解码部分。
此时可以观察到，除了存在于解码器中的解析/熵解码之外的任何解码器技术也必定需要以基本上相同的功能形式存在于对应的编码器中。出于此原因，所公开的主题集中于解码器操作。可以简化编码器技术的描述，因为编码器技术与全面地描述的解码器技术相反。仅在某些方面需要更详细的描述，并且在下文提供该描述。
在一些示例中，在操作期间，源编码器(630)可以执行运动补偿预测编码，所述运动补偿预测编码参考来自视频序列的被指定为“参考图片”的一个或更多个先前已编码图片对输入图片进行预测性编码。以此方式，编码引擎(632)对输入图片的像素块与可以被选作该输入图片的(一个或多个)预测参考的(一个或多个)参考图片的像素块之间的差异进行编码。
本地视频解码器(633)可以基于由源编码器(630)创建的符号，对可以被指定为参考图片的图片的已编码视频数据进行解码。编码引擎(632)的操作可以有利地为有损处理。当已编码视频数据可以在视频解码器(图6中未示出)处被解码时，重构的视频序列通常可以是源视频序列的带有一些误差的副本。本地视频解码器(633)复制可以由视频解码器对参考图片执行的解码处理，并且可以使重构的参考图片存储在参考图片缓存(634)中。以此方式，视频编码器(603)可以在本地存储重构的参考图片的副本，所述副本与将由远端视频解码器获得的重构参考图片具有共同内容(不存在传输错误)。
预测器(635)可以针对编码引擎(632)执行预测搜索。也就是说，对于要被编码的新图片，预测器(635)可以在参考图片存储器(634)中搜索可以用作针对新图片的合适预测参考的样本数据(作为候选参考像素块)或特定元数据，例如参考图片运动矢量、块形状等。预测器(635)可以在逐样本块-像素块的基础上操作，以找到合适的预测参考。在一些情况下，如通过预测器(635)获得的搜索结果所确定的，输入图片可以具有从存储在参考图片存储器(634)中的多个参考图片取得的预测参考。
控制器(650)可以管理源编码器(630)的编码操作，包括例如设置用于对视频数据进行编码的参数和子群组参数。
所有以上提及的功能单元的输出可以在熵编码器(645)中经受熵编码。熵编码器(645)通过根据诸如霍夫曼编码、可变长度编码、算术编码等的技术对由各种功能单元生成的符号进行无损压缩来将这些符号转换为已编码视频序列。
传输器(640)可以缓冲由熵编码器(645)创建的(一个或多个)已编码视频序列，从而为经由通信信道(660)进行传输做准备，通信信道(660)可以是到存储已编码视频数据的存储装置的硬件/软件链路。传输器(640)可以将来自视频编码器(603)的已编码视频数据与要传输的其他数据合并，所述其他数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
控制器(650)可以管理视频编码器(603)的操作。在编码期间，控制器(650)可以向每个已编码图片分配某一已编码图片类型，这可能影响可以应用于相应的图片的编码技术。例如，通常可以向图片分配以下图片类型之一：
帧内图片(I图片)，其可以是可以在不将序列中的任何其他图片用作预测源的情况下进行编码和解码的图片。一些视频编解码器容许不同类型的帧内图片，包括例如独立解码器刷新(Independent Decoder Refresh，“IDR”)图片。本领域技术人员了解I图片的那些变型及其相应的应用和特征。
预测性图片(P图片)，其可以是可以使用——利用至多一个运动矢量和参考索引来预测每个块的样本值的——帧间预测或帧内预测进行编码和解码的图片。
双向预测性图片(B图片)，其可以是可以使用——利用至多两个运动矢量和参考索引来预测每个块的样本值的——帧间预测或帧内预测进行编码和解码的图片。类似地，多个预测性图片可以使用多于两个参考图片和相关联元数据以用于单个块的重构。
源图片通常可以在空间上细分成多个样本块(例如，分别为4×4、8×8、4×8或16×16样本的块)，并且逐块地被编码。可以参考其他(已编码的)块对这些块进行预测性编码，所述其他块是通过应用于块的相应图片的编码分配而确定的。例如，可以对I图片的块进行非预测性编码，或者可以参考同一图片的已编码块对I图片的块进行预测性编码(空间预测或帧内预测)。可以参考一个先前已编码的参考图片经由空间预测或经由时间预测对P图片的像素块进行预测性编码。可以参考一个或两个先前已编码的参考图片经由空间预测或经由时间预测对B图片的块进行预测性编码。
视频编码器(603)可以根据诸如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在其操作中，视频编码器(603)可以执行各种压缩操作，包括利用输入视频序列中的时间和空间冗余的预测性编码操作。因此，已编码视频数据可以符合由所使用的视频编码技术或标准指定的语法。
在实施方式中，传输器(640)可以连同已编码视频一起传输附加数据。源编码器(630)可以包括这样的数据作为已编码视频序列的一部分。附加数据可以包括时间/空间/SNR增强层、其他形式的冗余数据例如冗余图片和切片、SEI消息、VUI参数集片段等。
视频可以被按时间序列捕获为多个源图片(视频图片)。帧内图片预测(通常被简化为帧内预测)利用给定图片中的空间相关性，而帧间图片预测利用图片之间的(时间或其他)相关性。在示例中，正在被编码/解码的特定图片——其被称为当前图片——被分割成块。在当前图片中的块与视频中先前已编码且又被缓冲的参考图片中的参考块类似的情况下，可以通过被称作运动矢量的矢量对当前图片中的块进行编码。运动矢量指向参考图片中的参考块，并且在使用多个参考图片的情况下，运动矢量可以具有标识参考图片的第三维度。
在一些实施方式中，可以将双向预测技术用于帧间图片预测。根据双向预测技术，使用两个参考图片，例如按解码次序均在视频中的当前图片之前(但按显示次序可能分别在过去和将来)的第一参考图片和第二参考图片。可以通过指向第一参考图片中的第一参考块的第一运动矢量和指向第二参考图片中的第二参考块的第二运动矢量对当前图片中的块进行编码。可以通过第一参考块和第二参考块的组合来预测所述块。
此外，可以在帧间图片预测中使用合并模式技术以提高编码效率。
根据本公开内容的一些实施方式，以块为单位执行诸如帧间图片预测和帧内图片预测的预测。例如，根据HEVC标准，将视频图片序列中的图片分割成编码树单元(codingtree unit，CTU)以用于压缩，图片中的CTU具有相同大小，例如64×64像素、32×32像素或16×16像素。一般来说，CTU包括三个编码树块(coding tree block，CTB)，即一个亮度CTB和两个色度CTB。每个CTU可以被递归地以四叉树分成一个或多个编码单元(coding unit，CU)。例如，可以将64×64像素的CTU分成一个64×64像素的CU，或4个32×32像素的CU，或16个16×16像素的CU。在示例中，对每个CU进行分析以确定针对该CU的预测类型，例如帧间预测类型或帧内预测类型。根据时间和/或空间可预测性，将CU分成一个或更多个预测单元(prediction unit，PU)。通常，每个PU包括亮度预测块(prediction block，PB)和两个色度PB。在实施方式中，以预测块为单位来执行编解码(编码/解码)中的预测操作。使用亮度预测块作为预测块的示例，预测块包括诸如8×8像素、16×16像素、8×16像素、16×8像素等的像素的值(例如，亮度值)的矩阵。
图7示出了根据本公开内容的另一实施方式的视频编码器(703)的图。视频编码器(703)被配置成接收视频图片序列中的当前视频图片内的样本值的处理块(例如，预测块)，并且将处理块编码到作为已编码视频序列的一部分的已编码图片中。在示例中，视频编码器(703)用来代替图4的示例中的视频编码器(403)。
在HEVC示例中，视频编码器(703)接收针对处理块例如8×8样本的预测块等的样本值的矩阵。视频编码器(703)使用例如率失真优化来确定是使用帧内模式、帧间模式还是双向预测模式对处理块进行最佳编码。在将以帧内模式对处理块进行编码的情况下，视频编码器(703)可以使用帧内预测技术将处理块编码到已编码图片中；以及在将以帧间模式或双向预测模式对处理块进行编码的情况下，视频编码器(703)可以分别使用帧间预测或双向预测技术将处理块编码到已编码图片中。在某些视频编码技术中，合并模式可以是帧间图片预测子模式，在帧间图片预测子模式下，从一个或更多个运动矢量预测器得出运动矢量，而无需借助于所述预测器外部的已编码运动矢量分量。在某些其他视频编码技术中，可以存在适用于对象块的运动矢量分量。在示例中，视频编码器(703)包括其他部件，例如，用于确定处理块的模式的模式决策模块(未示出)。
在图7的示例中，视频编码器(703)包括如图7所示的耦接在一起的帧间编码器(730)、帧内编码器(722)、残差计算器(723)、开关(726)、残差编码器(724)、总体控制器(721)以及熵编码器(725)。
帧间编码器(730)被配置成：接收当前块(例如，处理块)的样本；将所述块与参考图片中的一个或更多个参考块(例如，先前图片与随后图片中的块)进行比较；生成帧间预测信息(例如，根据帧间编码技术的冗余信息、运动矢量、合并模式信息的描述)；以及基于帧间预测信息使用任何合适的技术计算帧间预测结果(例如，预测块)。在一些示例中，参考图片是基于已编码视频信息进行解码的已解码参考图片。
帧内编码器(722)被配置成：接收当前块(例如，处理块)的样本；在一些情况下将所述块与同一图片中已经编码的块进行比较；在变换之后生成量化系数，并且在一些情况下还生成帧内预测信息(例如，根据一个或更多个帧内编码技术的帧内预测方向信息)。在示例中，帧内编码器(722)还基于帧内预测信息和同一图片中的参考块来计算帧内预测结果(例如，预测块)。
总体控制器(721)被配置成确定总体控制数据并且基于总体控制数据来控制视频编码器(703)的其他部件。在示例中，总体控制器(721)确定块的模式，并且基于该模式将控制信号提供至开关(726)。例如，当所述模式是帧内模式时，总体控制器(721)控制开关(726)选择帧内模式结果以供残差计算器(723)使用，并且控制熵编码器(725)选择帧内预测信息并将所述帧内预测信息包括在比特流中；以及当所述模式是帧间模式时，总体控制器(721)控制开关(726)选择帧间预测结果以供残差计算器(723)使用，并且控制熵编码器(725)选择帧间预测信息并将所述帧间预测信息包括在比特流中。
残差计算器(723)被配置成计算所接收的块与选自帧内编码器(722)或帧间编码器(730)的预测结果之间的差(残差数据)。残差编码器(724)被配置成基于残差数据进行操作，以对残差数据进行编码，从而生成变换系数。在示例中，残差编码器(724)被配置成将残差数据从空间域转换到频域，并且生成变换系数。然后，变换系数经受量化处理以获得经量化的变换系数。在各种实施方式中，视频编码器(703)还包括残差解码器(728)。残差解码器(728)被配置成执行逆变换并且生成已解码残差数据。已解码残差数据可以由帧内编码器(722)和帧间编码器(730)适当地使用。例如，帧间编码器(730)可以基于已解码残差数据和帧间预测信息来生成已解码块，并且帧内编码器(722)可以基于已解码残差数据和帧内预测信息来生成已解码块。在一些示例中，适当处理已解码块以生成已解码图片，并且这些已解码图片可以缓冲在存储器电路(未示出)中并且用作参考图片。
熵编码器(725)被配置成对比特流进行格式化以包括已编码块。熵编码器(725)被配置成包括根据合适的标准例如HEVC标准的各种信息。在示例中，熵编码器(725)被配置成将总体控制数据、所选择的预测信息(例如，帧内预测信息或帧间预测信息)、残差信息和其他合适的信息包括在比特流中。注意，根据所公开的主题，当在帧间模式或双向预测模式的合并子模式下对块进行编码时，不存在残差信息。
图8示出了根据本公开内容的另一实施方式的视频解码器(810)的图。视频解码器(810)被配置成接收作为已编码视频序列的一部分的已编码图片并且对已编码图片进行解码以生成重构的图片。在示例中，视频解码器(810)用来代替图4的示例中的视频解码器(410)。
在图8的示例中，视频解码器(810)包括如图8所示的耦接在一起的熵解码器(871)、帧间解码器(880)、残差解码器(873)、重构模块(874)以及帧内解码器(872)。
熵解码器(871)可以被配置成根据已编码图片来重构某些符号，这些符号表示构成已编码图片的语法元素。这样的符号可以包括例如对块进行编码的模式(例如，帧内模式、帧间模式、双向预测模式、后两者的合并子模式或另一子模式)、可以标识分别供帧内解码器(872)或帧间解码器(880)使用以进行预测的某些样本或元数据的预测信息(例如，帧内预测信息或帧间预测信息)、呈诸如经量化的变换系数的形式的残差信息等。在示例中，当预测模式是帧间模式或双向预测模式时，将帧间预测信息提供给帧间解码器(880)；以及当预测类型是帧内预测类型时，将帧内预测信息提供给帧内解码器(872)。残差信息可以经受逆量化并且被提供给残差解码器(873)。
帧间解码器(880)被配置成接收帧间预测信息以及基于该帧间预测信息来生成帧间预测结果。
帧内解码器(872)被配置成接收帧内预测信息以及基于该帧内预测信息来生成预测结果。
残差解码器(873)被配置成：执行逆量化以提取经去量化的变换系数，以及对所述经去量化的变换系数进行处理以将残差从频域转换到空间域。残差解码器(873)还可能需要某些控制信息(以包括量化器参数(Quantizer Parameter，QP))，并且所述信息可以由熵解码器(871)提供(未描绘出数据路径，因为这可能仅是少量控制信息)。
重构模块(874)被配置成在空间域中将由残差解码器(873)输出的残差与预测结果(根据情况由帧间预测模块或帧内预测模块输出)进行组合以形成重构的块，所述重构的块可以是重构的图片的一部分，所述重构的图片又可以是重构的视频的一部分。注意，可以执行其他合适的操作例如去块操作等来改善视觉质量。
注意，可以使用任何合适的技术来实现视频编码器(403)、(603)和(703)以及视频解码器(410)、(510)和(810)。在实施方式中，可以使用一个或更多个集成电路来实现视频编码器(403)、(603)和(703)以及视频解码器(410)、(510)和(810)。在另一实施方式中，可以使用执行软件指令的一个或更多个处理器来实现视频编码器(403)、(603)和(603)以及视频解码器(410)、(510)和(810)。
基于块的补偿可以用于帧间预测和帧内预测。对于帧间预测，根据不同图片的基于块的补偿被称为运动补偿。基于块的补偿还可以例如在帧内预测中根据同一图片内的先前重构区域完成。来自同一图片内的重构区域的基于块的补偿被称为帧内图片块补偿，当前图片参考(current picture referencing，CPR)或帧内块复制(intra block copy，IBC)。指示同一图片中当前块与参考块(也称为预测块)之间的偏移的位移矢量被称为块矢量(block vector，BV)，其中可以基于参考块对当前块进行编码/解码。与可以是任何值(在x或y方向上为正值或负值)的运动补偿中的运动矢量不同，BV具有一些约束以确保参考块可用且已被重构。此外，在一些示例中，出于并行处理的考虑，排除作为图块边界，切片边界或波前梯形边界的一些参考区域。
块矢量的编码可以是显式的或隐式的。在显式模式中，用信号指示块矢量与其预测器之间的BV差。在隐式模式中，以与合并模式中的运动矢量类似的方式，从预测器(称为块矢量预测器)恢复块矢量，而不使用BV差。显式模式可以被称为非合并BV预测模式。隐式模式可以被称为合并BV预测模式。
在一些实现方式中，块矢量的分辨率限于整数位置。在其他系统中，允许块矢量指向小数位置。
在一些示例中，可以使用块级别标志例如IBC标志来用信号指示在块级别处使用帧内块复制。在实施方式中，当显式地编码当前块时，用信号指示块级别标志。在一些示例中，可以利用参考索引方法来用信号指示在块级别处使用帧内块复制。解码中的当前图片然后被视为参考图片或特殊参考图片。在示例中，这样的参考图片被放置在参考图片的列表最后的位置。还在缓冲器例如解码图片缓冲器(decoded picture buffer，DPB)中管理该特殊参考图片以及其他时间参考图片。
IBC模式可以存在变型。在示例中，IBC模式被视为不同于帧内预测模式和帧间预测模式的第三模式。因此，隐式模式(或合并模式)和显式模式下的BV预测与常规帧间模式分离。可以针对IBC模式定义单独的合并候选列表，在IBC模式下，该单独的合并候选列表中的条目是BV。类似地，在示例中，IBC显式模式下的BV预测候选列表仅包括BV。应用于这两个列表(即，单独的合并候选列表和BV预测候选列表)的通用规则是：在候选得出处理方面，这两个列表可以遵循与常规合并模式中使用的合并候选列表或常规AMVP模式中使用的AMVP预测器列表相同的逻辑。例如，针对IBC模式访问五个空间相邻位置(例如，图2中的A0、A1和B0、B1、B2)例如HEVC或VVC帧间合并模式，以得出针对IBC模式的单独合并候选列表。
如上所述，图片中正在重构的当前块的BV可以具有某些约束，并且因此，当前块的参考块在搜索范围内。搜索范围是指图片的可以从中选择参考块的部分。例如，搜索范围可以在图片中已重构区域的某些部分内。可以限制搜索范围的大小、位置、形状等。可替选地，可以约束BV。在示例中，BV是包括x分量和y分量的二维矢量，并且可以对x分量和y分量中的至少之一进行约束。可以针对BV、搜索范围或者BV和搜索范围的组合来指定约束。在各种示例中，当针对BV指定某些约束时，搜索范围相应地受到约束。类似地，当针对搜索范围指定某些约束时，BV相应地受到约束。
图9示出了根据本公开内容的实施方式的帧内块复制的示例。将在解码时重构当前图片(900)。当前图片(900)包括重构区域(910)(灰色区域)和待解码区域(920)(白色区域)。正在通过解码器对当前块(930)进行重构。可以根据处于重构区域(910)中的参考块(940)来重构当前块(930)。参考块(940)与当前块(930)之间的位置偏移被称为块矢量(950)(或BV(950))。在图9的示例中，搜索范围(960)在重构区域(910)内，参考块(940)在搜索范围(960)内，并且块矢量(950)被约束为指向搜索范围(960)内的参考块(940)。
可以将各种约束应用于BV和/或搜索范围。在实施方式中，当前CTB中正在重构的当前块的搜索范围被限制在当前CTB内。
在实施方式中，存储要在帧内块复制中使用的参考样本的有效存储器要求是一个CTB大小。在示例中，CTB大小为128×128个样本。当前CTB包括重构中的当前区域。当前区域的大小为64×64个样本。由于参考存储器还可以存储当前区域中的重构样本，因此在参考存储器大小等于128×128个样本的CTB大小的情况下，参考存储器可以再存储3个64×64样本的区域。因此，搜索范围可以包括先前重构的CTB的某些部分，而用于存储参考样本的总存储器要求不变(例如具有128×128个样本或者总共4个64×64参考样本的1个CTB大小)。在示例中，如图10所示，先前重构的CTB是当前CTB的左邻近者。
图10示出了根据本公开内容的实施方式的帧内块复制的示例。当前图片(1001)包括正在重构的当前CTB(1015)以及作为当前CTB(1015)的左邻近者的先前重构的CTB(1010)。当前图片(1001)中的CTB具有例如128×128个的CTB大小以及例如128个样本的CTB宽度。当前CTB
(1015)包括4个区域(1016)至(1019)，其中当前区域(1016)处于重构中。当前区域(1016)包括多个编码块(1021)至(1029)。类似地，先前重构的CTB(1010)包括4个区域(1011)至(1014)。编码块(1021)至(1025)已被重构，当前块(1026)处于重构中，而编码块(1026)至(1027)以及区域(1017)至(1019)将被重构。
当前区域(1016)具有并置区域(即，先前重构的CTB(1010)中的区域(1011))。并置区域(1011)相对于先前重构的CTB(1010)的相对位置可以与当前区域(1016)相对于当前CTB(1015)的相对位置相同。在图10所示的示例中，当前区域(1016)是当前CTB(1015)中的左上区域，因此，并置区域(1011)也是先前重构的CTB(1010)中的左上区域。由于先前重构的CTB(1010)的位置从当前CTB(1015)的位置偏移了CTB宽度，因此并置区域(1011)的位置从当前区域(1016)的位置偏移了CTB宽度。
在实施方式中，当前区域(1016)的并置区域在先前重构的CTB中，其中先前重构的CTB的位置从当前CTB(1015)的位置偏移了一个或更多个CTB宽度，因此，并置区域的位置也从当前区域(1016)的位置偏移了相应的一个或更多个CTB宽度。并置区域的位置可以从当前区域
(1016)左移、上移等。
如上所述，当前块(1026)的搜索范围的大小受CTB大小的限制。在图10的示例中，搜索范围可以包括先前重构的CTB(1010)中的区域(1012)至(1014)，以及当前区域(1016)中已经重构的部分例如编码块(1021)至(1025)。搜索范围进一步排除了并置区域(1011)，使得搜索范围的大小在CTB大小之内。参照图10，参考块(1091)位于先前重构的CTB(1010)的区域(1014)中。块矢量(1020)指示当前块(1026)与相应参考块(1091)之间的偏移。参考块(1091)在搜索范围内。
图10所示的示例可以适当地适用于当前区域位于当前CTB(1015)中的另一位置处的其他场景。在示例中，在当前块处于区域(1017)中时，当前块的并置区域是区域(1012)。因此，搜索范围可以包括区域(1013)至(1014)、区域(1016)以及区域(1017)中已经重构的部分。搜索范围进一步排除了区域(1011)和并置区域(1012)，使得搜索范围的大小在CTB大小之内。在示例中，在当前块处于区域(1018)中时，当前块的并置区域是区域(1013)。因此，搜索范围可以包括区域(1014)、区域(1016)至(1017)以及区域(1018)中已经重构的部分。搜索范围进一步排除了区域(1011)至(1012)和并置区域(1013)，使得搜索范围的大小在CTB大小之内。在示例中，在当前块处于区域(1019)中时，当前块的并置区域是区域(1014)。因此，搜索范围可以包括区域(1016)至(1018)以及区域(1019)中已经重构的部分。搜索范围进一步排除了先前重构的CTB(1010)，使得搜索范围的大小在CTB大小内。
在以上描述中，参考块可以处于先前重构的CTB(1010)或当前CTB(1015)中。
在实施方式中，可以如下指定搜索范围。在示例中，当前图片是亮度图片并且当前CTB是包括多个亮度样本的亮度CTB，并且BV(mvL)满足针对比特流一致性的以下约束。在示例中，BV(mvL)具有分数分辨率(例如，1/16像素分辨率)。
约束包括第一条件，即，当前块的参考块已经被重构。当参考块具有矩形形状时，可以实施邻近块可用性检查处理(或参考块可用性检查处理)以检查参考块的左上样本和右下样本是否被重构。在参考块的左上样本和右下样本两者均被重构的情况下，确定参考块被重构。
例如，在将当前块的左上样本的位置(xCurr，yCurr)设置为(xCb，yCb)并且将参考块的左上样本的位置(xCb+(mvL[0]>>4)，yCb+(mvL[1]>>4))作为输入的情况下调用参考块可用性的导出处理时，在参考块的左上样本被重构的情况下，输出等于真(TRUE)，其中块矢量mvL是具有x分量mvL[0]和y分量mvL[1]的二维矢量。在BV(mvL)具有分数分辨率例如1/16像素分辨率的情况下，x分量mvL[0]和y分量mvL[1]分别被移位以具有整数分辨率，如由mvL[0]>>4和mvL[1]>>4所指示的。
类似地，在将当前块的左上样本的位置(xCurr，yCurr)设置为(xCb，yCb)并且将参考块的右下样本的位置(xCb+(mvL[0]>>4)+cbWidth-1,yCb+(mvL[1]>>4)+cbHeight-1)作为输入的情况下调用块可用性的导出处理时，在参考块的右下样本被重构的情况下，输出等于TRUE。参数cbWidth和cbHeight表示参考块的宽度和高度。
约束还可以包括以下第二条件中的至少一个：1)(mvL[0]>>4)+cbWidth的值小于或等于0，这指示参考块在当前块的左侧并且不与当前块交叠；2)(mvL[1]>>4)+cbHeight的值小于或等于0，这指示参考块在当前块上方且不与当前块交叠。
约束还可以包括：块矢量mvL满足以下第三条件：
(yCb+(mvL[1]＞＞4))＞＞CtbLog2SizeY＝yCb＞＞CtbLog2SizeY (1)
(yCb+(mvL[1]＞＞4+cbHeighy-1)＞＞CtbLog2SizeY＝yCb＞＞CtbLog2Size(2)
(xCb+(mvL[0]＞＞4))＞＞CtbLog2SizeY＞＝(xCb＞＞CtbLog2SizeY)-1 (3)
(xCb+(mvL[0]＞＞4)+cbWidth-1)＞＞CtbLog2SizeY＜＝(xCb＞＞CtbLog2SizeY) (4)
其中，参数CtbLog2SizeY表示log2形式的CTB宽度。例如，当CTB宽度为128个样本时，CtbLog2SizeY是7。式(1)至式(2)指定：包括参考块的CTB与当前CTB在同一CTB行中(例如，当参考块在先前重构的CTB(1010)中时，先前重构的CTB(1010)与当前CTB(1015)在同一行中)。式(3)至式(4)指定：包括参考块的CTB在当前CTB的左CTB列中或者与当前CTB在同一CTB列中。类似于参考图10的描述，如式(1)至式(4)所描述的第三条件指定：包括参考块的CTB是当前CTB例如当前CTB(1015)，或者是当前CTB的左邻近者例如先前重构的CTB(1010)。
约束还可以包括第四条件：当参考块处于当前CTB的左邻近者中时，参考块的并置区域没有被重构(即，并置区域中没有样本被重构)。此外，参考块的并置区域在当前CTB中。在图10的示例中，参考块(1091)的并置区域是从参考块(1091)所在的区域(1014)偏移了CTB宽度的区域(1019)并且区域(1019)尚未被重构。因此，块矢量(1020)和参考块(1091)满足上述第四条件。
在示例中，第四条件可以被指定如下：当(xCb+(mvL[0]＞＞4))＞＞CtbLog2SizeY等于(xCb＞＞CtbLog2SizeY)-1时，在将当前块的位置(xCurr，yCurr)设置为(xCb，yCb)并将位置(((xCb+
(mvL[0]＞＞4)+CtbSizeY)＞＞(CtbLog2SizeY-1)))＜＜(CtbLog2SizeY-1)、
((yCb+(mvL[1]>>4))>>(CtbLog2SizeY-1))＜＜(CtbLog2SizeY-1))作为输入的情况下调用用于参考块可用性的导出处理，输出等于假(FALSE)，这指示并置区域没有被重构，如图10所示。
针对搜索范围和/或块矢量的约束可以包括上述第一条件、第二条件、第三条件和第四条件的适当组合。在示例中，如图10所示，约束包括第一条件、第二条件、第三条件和第四条件。在示例中，可以修改第一条件、第二条件、第三条件和/或第四条件并且约束包括经修改的第一条件、第二条件、第三条件和/或第四条件。
根据第四条件，在编码块(1022)至(1029)中的一个编码块是当前块的情况下，参考块不能在区域(1011)中，并且因此，针对编码块(1022)至(1029)中的所述一个编码块的搜索范围排除了区域(1011)。排除区域(1011)的原因如下：如果参考块在区域(1011)中，则参考块的并置区域为区域(1016)，然而，至少编码块(1021)中的样本已经被重构，因此违反了第四条件。另一方面，对于当前区域中首先要重构的编码块例如图11中的区域(1116)中的编码块(1121)，由于尚未对参考块的并置区域(1116)进行重构，因此第四条件不阻止参考块在区域(1111)中。
图11示出了根据本公开内容的实施方式的帧内块复制的示例。当前图片(1101)包括正在重构的当前CTB(1115)以及作为当前CTB(1115)的左邻近者的先前重构的CTB(1110)。当前图片(1101)中的CTB具有CTB大小和CTB宽度。当前CTB(1115)包括4个区域(1116)至(1119)，其中，当前区域(1116)正在重构中。当前区域(1116)包括多个编码块(1121)至(1129)。类似地，先前重构的CTB(1110)包括4个区域(1111)至(1114)。在当前区域(1116)中首先要重构正在重构的当前块(1121)，并且要重构编码块(1122)至(1129)。在示例中，CTB大小为128×128个样本，区域(1111)至(1114)和(1116)至(1119)中的每个区域为64×64个样本。参考存储器大小等于CTB大小并且是128×128个样本，并且因此，当受参考存储器大小限制时，搜索范围包括3个区域和附加区域的一部分。
与参照图10所描述的类似，当前区域(1116)具有并置区域(即，先前重构的CTB(1110)中的区域(1111))。根据上述第四条件，当前块(1121)的参考块可以在区域(1111)中，并且因此搜索范围可以包括区域(1111)至(1114)。例如，当参考块在区域(1111)中时，参考块的并置区域为区域(1116)，其中，在重构当前块(1121)之前，区域(1116)中的样本没有被重构。然而，如参照图10和第四条件所描述的，例如，在重构编码块(1121)之后，区域(1111)不再可用于被包括在用于重构编码块(1122)的搜索范围中。因此，将使用参考存储器缓冲器的严格同步和定时控制，并且该严格同步和定时控制可能具有挑战性。
根据一些实施方式，在当前块在当前CTB的当前区域中首先要被重构时，搜索范围可以排除当前区域的位于先前重构的CTB中的并置区域，其中，当前CTB和先前重构的CTB在同一当前图片中。可以确定块矢量，使得参考块在排除了先前重构的CTB中的并置区域的搜索范围内。在实施方式中，搜索范围包括按照解码顺序在并置区域之后并且在当前块之前重构的编码块。
在下面的描述中，CTB大小可以变化并且最大CTB大小被设置为与参考存储器大小相同。在示例中，参考存储器大小或最大CTB大小为128×128个样本。这些描述可以适当地适于其他参考存储器大小或最大CTB大小。
在实施方式中，CTB大小等于参考存储器大小。先前重构的CTB是当前CTB的左邻近者，并置区域的位置从当前区域的位置偏移CTB宽度，并且搜索范围内的编码块在以下中的至少一个中：当前CTB和先前重构的CTB。
图12A至图12D示出了根据本公开内容的实施方式的帧内块复制的示例。参照图12A至图12D，当前图片(1201)包括正在重构的当前CTB(1215)以及作为当前CTB(1215)的左邻近者的先前重构的CTB(1210)。当前图片(1201)中的CTB具有CTB大小和CTB宽度。当前CTB(1215)包括4个区域(1216)至(1219)。类似地，先前重构的CTB(1210)包括4个区域(1211)至(1214)。在实施方式中，CTB大小是最大CTB大小并且等于参考存储器大小。在示例中，CTB大小和参考存储器大小是128×128个样本，并且因此，区域(1211)至(1214)和(1216)至(1219)中的每一个具有64×64个样本的大小。
在图12A至图12D所示的示例中，当前CTB(1215)包括分别与区域(1216)至(1219)对应的左上区域、右上区域、左下区域和右下区域。先前重构的CTB(1210)包括分别与区域(1211)至(1214)对应的左上区域、右上区域、左下区域和右下区域。
参照图12A，当前区域(1216)正在重构中。当前区域(1216)可以包括多个编码块(1221)至(1229)。当前区域(1216)具有在先前重构的CTB(1210)中的并置区域，即区域(1211)。要重构的编码块(1221)至(1229)中的一个的搜索范围可以排除并置区域(1211)。搜索范围可以包括先前重构的CTB(1210)的按照解码顺序在并置区域(1211)之后且在当前区域(1216)之前重构的区域(1212)至(1214)。
参照图12A，并置区域(1211)的位置从当前区域(1216)的位置偏移了CTB宽度，例如128个样本。例如，并置区域(1211)的位置从当前区域(1216)的位置左移了128个样本。
再次参照图12A，在当前区域(1216)是当前CTB(1215)的左上区域时，并置区域(1211)是先前重构的CTB(1210)的左上区域，并且搜索区域排除了先前重构的CTB的左上区域。
参照图12B，当前区域(1217)正在重构中。当前区域(1217)可以包括多个编码块(1241)至(1249)。当前区域(1217)具有并置区域(即，先前重构的CTB(1210)中的区域(1212))。多个编码块(1241)至(1249)中的一个的搜索范围可以排除并置区域(1212)。搜索范围包括先前重构的CTB(1210)的区域(1213)至(1214)以及当前CTB(1215)中的在并置区域(1212)之后且在当前区域(1217)之前重构的区域(1216)。由于参考存储器大小的限制(即一个CTB大小)，搜索范围进一步排除了区域(1211)。类似地，并置区域(1212)的位置从当前区域(1217)的位置偏移CTB宽度，例如128个样本。
在图12B的示例中，当前区域(1217)是当前CTB(1215)的右上区域，并置区域(1212)也是先前重构的CTB(1210)的右上区域，并且搜索区域排除了先前重构的CTB(1210)的右上区域。
参照图12C，当前区域(1218)正在重构中。当前区域(1218)可以包括多个编码块(1261)至(1269)。当前区域(1218)具有在先前重构的CTB(1210)中的并置区域(即，区域(1213))。多个编码块(1261)至(1269)中的一个的搜索范围可以排除并置区域(1213)。搜索范围包括先前重构的CTB(1210)的区域(1214)以及当前CTB(1215)中的在并置区域(1213)之后且在当前区域(1218)之前重构的区域(1216)至(1217)。类似地，由于参考存储器大小的限制，搜索范围进一步排除了区域(1211)至(1212)。并置区域(1213)的位置从当前区域(1218)的位置偏移了CTB宽度，例如128个样本。在图12C的示例中，在当前区域(1218)是当前CTB(1215)的左下区域时，并置区域(1213)也是先前重构的CTB(1210)的左下区域，并且搜索区域排除了先前重构的CTB(1210)的左下区域。
参照图12D，当前区域(1219)正在重构中。当前区域(1219)可以包括多个编码块(1281)至(1289)。当前区域(1219)具有在先前重构的CTB(1210)中的并置区域(即，区域(1214))。多个编码块(1281)至(1289)中的一个的搜索范围可以排除并置区域(1214)。搜索范围包括当前CTB(1215)中的按照解码顺序在并置区域(1214)之后且在当前区域(1219)之前重构的区域(1216)至(1218)。由于参考存储器大小的限制，搜索范围排除了区域(1211)至(1213)，并且因此，搜索范围排除了先前重构的CTB(1210)。类似地，并置区域(1214)的位置从当前区域(1219)的位置偏移了CTB宽度，例如128个样本。在图12D的示例中，在当前区域(1219)是当前CTB(1215)的右下区域时，并置区域(1214)也是先前重构的CTB(1210)的右下区域，并且搜索区域排除了先前重构的CTB(1210)的右下区域。
返回来参照图2，与表示为A0、A1和B0、B1、B2的五个周围样本(或位置)(分别为202至206)相关联的MV可以被称为空间合并候选。可以基于空间合并候选来形成候选列表(例如，合并候选列表)。可以使用任何合适的顺序来根据位置形成候选列表。在示例中，顺序可以是A0、B0、B1、A1和B2，其中，A0是第一个以及B2是最后一个。在示例中，顺序可以是A1、B1、B0、A0和B2，其中，A1是第一个以及B2是最后一个。
根据一些实施方式，用于当前块(例如，编码块(coding block，CB)或当前CU)的先前编码块的运动信息可以被存储在基于历史的运动矢量预测(history-based motionvector prediction，HMVP)缓冲器(例如，表)中，以为当前块提供运动矢量预测(motionvector prediction，MVP)候选(也称为HMVP候选)。HMVP缓冲器可以包括一个或更多个HMVP候选，并且可以在编码/解码处理期间被保持。在示例中，HMVP缓冲器中的HMVP候选对应于先前编码块的运动信息。HMVP缓冲器可以用于任何合适的编码器和/或解码器。HMVP候选可以在一个或更多个空间MVP和TMVP之后被添加至合并候选列表。
当遇到新的CTU(或新的CTB)行时，HMVP缓冲器可以被重置(例如，清空)。当存在非子块帧间编码块时，相关联的运动信息可以作为新的HMVP候选被添加至HMVP缓冲器的最后一个条目。
在示例中，例如在VTM3中，将HMVP缓冲器的缓冲器大小(由S表示)设置为6，指示最多达6个HMVP候选可以被添加至HMVP缓冲器。在一些实施方式中，HMVP缓冲器可以按照先进先出(first-in-first-out，FIFO)规则操作，并且因此，例如当HMVP缓冲器已满时，首先存储在HMVP缓冲器中的运动信息(或HMVP候选)最先从HMVP缓冲器中被移除。当将新的HMVP候选插入到HMVP缓冲器时，可以使用受约束的FIFO规则，其中，首先应用冗余检验来确定相同或相似的HMVP候选是否在HMVP缓冲器中。如果确定相同或相似的HMVP候选在HMVP缓冲器中，则可以从HMVP缓冲器中移除相同或相似的HMVP候选，并且可以在HMVP缓冲器中向前移动剩余的HMVP候选。
HMVP候选可以用于合并候选列表构建处理，例如，用于合并模式。可以按顺序检查HMVP缓冲器中最近存储的HMVP候选，并且在TMVP候选之后将这些HMVP候选插入至合并候选列表。可以关于合并候选列表中的空间或时间合并候选对HMVP候选应用冗余检验。这些描述可以适当地适于AMVP模式以构建AMVP候选列表。
为了减少冗余校验操作的数量，可以使用以下简化。
(i)用于生成合并候选列表的HMVP候选的数量可以设置为(N<＝4)？M:(8–N)。N指示合并候选列表中现有候选的数量，以及M指示HMVP缓冲器中可用HMVP候选的数量。当合并候选列表中的现有候选的数量(N)小于或等于4时，用于生成合并候选列表的HMVP候选的数量等于M。否则，用于生成合并候选列表的HMVP候选的数量等于(8-N)。
(ii)当可用合并候选的总数达到最大允许合并候选减1时，来自HMVP缓冲器的合并候选列表构建处理终止。
当IBC模式作为与帧间预测模式分离的模式操作时，可以使用IBC模式的简化BV导出处理。基于历史的块矢量预测缓冲器(称为HBVP缓冲器)可以用于执行BV预测。HBVP缓冲器可以用于存储当前图片中的当前块(例如，CB或CU)的先前编码块的BV信息(例如，BV)。在示例中，HBVP缓冲器是与其他缓冲器(例如HMVP缓冲器)分开的历史缓冲器。HBVP缓冲器可以是表。
HBVP缓冲器可以为当前块提供BV预测器(BV predictor，BVP)候选(也称为HBVP候选)。HBVP缓冲器(例如，表)可以包括一个或更多个HBVP候选，并且可以在编码/解码处理期间被保持。在示例中，HBVP缓冲器中的HBVP候选对应于当前图片中的先前编码块的BV信息。HBVP缓冲器可以用于任何合适的编码器和/或解码器。可以在当前块的空间相邻块的BV之后将HBVP候选添加到为BV预测配置的合并候选列表。为BV预测配置的合并候选列表可以用于合并BV预测模式和/或非合并BV预测模式。
当遇到新的CTU(或新的CTB)行时，可以重置(例如，清空)HBVP缓冲器。
在示例中，例如在VVC中，HBVP缓冲器的缓冲器大小被设置为6，这指示最多达6个HBVP候选可以被添加至HBVP缓冲器。在一些实施方式中，HBVP缓冲器可以按照FIFO规则进行操作，并且因此，例如当HBVP缓冲器已满时，首先存储在HBVP缓冲器中的BV信息(或HBVP候选)首先从HBVP缓冲器中被移除。当将新的HBVP候选插入到HBVP缓冲器中时，可以使用受限的FIFO规则，其中，首先应用冗余校验来确定HBVP缓冲器中是否有相同或相似的HBVP候选。如果确定相同或相似的HBVP候选在HBVP缓冲器中，则可以从HBVP缓冲器中移除相同或相似的HBVP候选，并且可以在HBVP缓冲器中向前移动剩余的HBVP候选。
HBVP候选可以用于合并候选列表构建处理，例如用于合并BV预测模式。可以按顺序检查HBVP缓冲器中最近存储的HBVP候选，并且可以在空间候选之后将这些HBVP候选插入到合并候选列表中。可以关于合并候选列表中的空间合并候选对HBVP候选应用冗余校验。
在实施方式中，建立HBVP缓冲器以存储以IBC模式编码的一个或更多个先前编码块的一条或更多条BV信息。一条或更多条BV信息可以包括以IBC模式编码的一个或更多个先前编码块的一个或更多个BV。此外，一条或更多条BV信息中的每一个可以包括边信息(或附加信息)，例如以IBC模式编码的各个先前编码块的块大小、块位置等。
在基于类且基于历史的块矢量预测(也称为CBVP(class-based history-basedblock vector prediction，CBVP))中，对于当前块，可以将HBVP缓冲器中满足一定条件的一条或更多条BV信息分类到对应的类别(也称为作为类)，并且因此形成CBVP缓冲器。在示例中，HBVP缓冲器中的每条BV信息用于例如以IBC模式编码的相应的先前编码块。先前编码块的该条BV信息可以包括BV、块大小、块位置等。先前编码块具有块宽度、块高度和块面积。块面积可以是块宽度与块高度的乘积。在示例中，块大小由块面积表示。先前编码块的块位置可以用先前编码块的左上角(例如4×4区域的左上角)或左上样本表示。
图13示出了根据本公开内容的实施方式的用于当前块(例如，CB、CU)(1310)的IBCBV预测的空间类的示例。左区域(1302)可以在当前块(1310)的左方。左区域(1302)中具有相应块位置的先前编码块的BV信息可以被称为左候选或左BV候选。上区域(1303)可以在当前块(1310)的上方。在上区域(1303)中具有相应块位置的先前编码块的BV信息可以被称为上候选或上BV候选。左上区域(1304)可以位于当前块(1310)的左上方。在左上区域(1304)中具有相应块位置的先前编码块的BV信息可以被称为左上候选或左上BV候选。右上区域(1305)可以在当前块(1310)的右上方。右上区域(1305)中具有相应块位置的先前编码块的BV信息可以被称为右上候选或右上BV候选。左下区域(1306)可以位于当前块(1310)的左下方。左下区域(1306)中具有相应块位置的先前编码块的BV信息可以被称为左下候选或左下BV候选。在CBVP缓冲器中还可以定义和使用其他类型的空间类。
如果先前编码块的BV信息满足以下条件，则可以将BV信息分类到对应类别(或类)中。
(i)类0：块大小(例如块面积)大于或等于阈值(例如，64个像素)。
(ii)类1：BV的出现次数(或频率)大于或等于2。BV的出现次数可以指BV用于预测先前编码块的次数。当使用修剪(pruning)处理来形成CBVP缓冲器时，当BV被多次用于预测先前编码块时，可以将BV存储在一个条目中(而不是存储在具有相同BV的多个条目中)。可以记录BV的出现次数。
(iii)类2：块位置在左区域(1302)中，其中，先前编码块的一部分(例如，4×4区域的左上角)在当前块(1310)的左方。先前编码块可以在左区域(1302)内。可替选地，先前编码块可以跨越包括左区域(1302)在内的多个区域，其中，块位置在左区域(1302)中。
(iv)类3：块位置在上区域(1303)中，其中，先前编码块的一部分(例如，4×4区域的左上角)在当前块(1310)的上方。先前编码块可以在上区域(1303)内。可替选地，先前编码块可以跨越包括上区域(1303)在内的多个区域，其中，块位置在上区域(1303)中。
(v)类4：块位置在左上区域(1304)中，其中，先前编码块的一部分(例如，4×4区域的左上角)在当前块(1310)的左上方。先前编码块可以在左上区域(1304)内。可替选地，先前编码块可以跨越包括左上区域(1304)在内的多个区域，其中，块位置在左上区域(1304)中。
(vi)类5：块位置在右上区域(1305)中，其中，先前编码块的一部分(例如4×4区域的左上角)在当前块(1310)的右上方。先前编码块可以在右上区域(1305)内。可替选地，先前编码块可以跨越包括右上区域(1305)在内的多个区域，其中，块位置在右上区域(1305)中。
(vii)类6：块位置在左下区域(1306)中，其中，编码块的一部分(例如4×4区域的左上角)在当前块(1310)的左下方。先前编码块可以在左下区域(1306)内。可替选地，先前编码块可以跨越包括左下区域(1306)在内的多个区域，其中，块位置在左下区域(1306)中。
对于每个类别(或类)，最近编码块的BV可以被导出为BVP候选。可以通过按从类0到类6的顺序附加每个类别的BV预测器来构建CBVP缓冲器。CBVP的上述描述可以适当地适于包括上面没有描述的更少的类或附加的类。可以修改类0至6中的一个或更多个。在示例中，将HBVP缓冲器中的每个条目分类到七个类0至6中的一个。可以用信号指示索引以指示选择了类0至6中的哪一个。在解码器侧，所选类中的第一个条目可以用于预测当前块的BV。
本公开内容的各方面提供用于串复制模式下的参考位置约束的技术。串复制模式也称为串匹配(模式)或串预测(模式)。串匹配模式类似于帧内块复制(intra block copy,IBC)，并且可以在同一图片内重构基于样本串的重构区域。此外，串匹配模式提供关于样本串的形状的更多灵活性。例如，块具有矩形形状并且串可以形成非矩形形状。
图14示出了根据本公开内容的实施方式的串复制模式的示例。当前图片(1410)包括重构区域(灰色区域)(1420)以及正在重构的区域(1421)。区域(1421)中的当前块(1435)正在重构中。当前块(1435)可以是CB、CU等。当前块(1435)可以包括多个串，例如图14的示例中的串(1430)和串(1431)。在示例中，当前块(1435)被划分成多个连续的串，其中，沿着扫描顺序，一个串之后是下一个串。扫描顺序可以是任何合适的扫描顺序，例如光栅扫描顺序、横向扫描顺序等。
重构区域(1420)可以用作参考区域以重构串(1430)和(1431)。
对于多个串中的每一个，可以用信号指示串偏移矢量(也称为串矢量(SV))和串的长度(称为串长度)。SV可以是指示要重构的串与位于参考区域(1420)中并已被重构的参考串之间的位移偏移的位移矢量。参考串可以用于重构要重构的串。例如，SV0是指示串(1430)与参考串(1400)之间的位移偏移的位移矢量，以及SV1是指示串(1431)与参考串(1401)之间的位移偏移的位移矢量。因此，SV可以指示对应的参考串位于参考区域(1420)中的何处。串的串长度指示串中的样本的数量。通常，要重构的串与参考串具有相同的长度。
参照图14，当前块(1435)是包括64个样本的8×8CB。使用光栅扫描顺序将当前块(1435)划分成串(1430)和串(1431)。串(1430)包括当前块(1435)的前29个样本，以及串(1431)包括当前块(1435)的其余35个样本。用于重构串(1430)的参考串(1400)可以由对应的串偏移矢量SV0指示，以及用于重构串(1431)的参考串(1401)可以由对应的串偏移矢量SV1指示。
通常，串大小可以指串的长度或者串中的样本数。参照图14，串(1430)包括29个样本，并且因此串(1430)的串大小为29。串(1431)包括35个样本，并且因此串(1431)的串大小为35。串位置(或串定位)可以由串中的样本(例如，按解码顺序的第一个样本)的样本位置来表示。
以上描述可以适当地适于重构包括任何合适数量的串的当前块。可替选地，在示例中，在当前块中的样本在参考区域中没有匹配的样本时，用信号指示逸出样本，并且可以直接对逸出样本的值进行编码，而无需参考参考区域中的重构样本。
在一些示例中，在串匹配中使用的可用参考样本可以与用于IBC模式的参考区域对准。此外，在IBC模式下可以应用于当前CTU的重构部分与左CTU的某个区域的组合的参考样本可用性逻辑也可以类似地应用于串匹配。
在一些示例中，使用参考存储器来存储最近重构的样本，并且在IBC模式下可以访问参考存储器以重构当前块，或者在串匹配模式下可以访问参考存储器以重构当前串。然后，可以基于参考存储器来约束串矢量，以确保用于当前块或当前串的重构的参考样本被存储在参考存储器中。在示例中，假设参考存储器大小的大小与CTU大小(例如128×128个样本)相同。在一些示例中，参考存储器被实现得访问速度快。
图15示出了在一些示例中用于IBC模式的参考存储器更新的处理，并且参考存储器更新处理可以类似地用于串匹配模式。
在图15的示例中，每个CTU具有128×128个样本的大小，因此参考存储器具有用于存储128×128个样本的大小。在图15中，参考存储器被划分成各自具有64×64个样本的大小的4个子部分。在一些示例中，在对当前CTU进行编码的操作期间，一个子部分接着一个子部分地更新参考存储器。图15示出了在当前CTU的编码期间参考存储器的状态(参考存储器视图)，以及基于CTU的对应编码/解码处理(CTU视图)。在图15中，已编码部分由灰色示出，未编码部分由白色示出，当前编码块由条纹图案示出，以及当前编码块的参考块由虚线示出。
例如，最初，参考存储器处于如(1510)所示的状态(0)，并且存储当前CTU的左CTU中的重构样本。例如，可以将左CTU划分为被标记为0、1、2和3的4个子块，并且如由(1510)所示，参考存储器存储左CTU的子块0至3的重构样本。可以将当前CTU划分为被标记为4、5、6和7的4个子块。
为了对当前CTU中的子块4进行编码/解码，参考存储器进入如(1520)所示的状态(1)。参考存储器仍然可以存储左CTU的子块1、2和3的重构样本。参考存储器的用于存储左CTU的子块0的重构样本的子部分将用于存储当前CTU的子块4的重构样本。在示例中，在对当前CTU的子块4进行编码之前，可以清除参考存储器的用于存储子块0的重构样本的子部分。
从CTU视图来看，如(1525)所示，左CTU的子块0不在参考存储器中，并且用“X”标记。左CTU中的子块1至3仍然在参考存储器中。
为了对当前CTU中的子块5进行编码/解码，参考存储器进入如(1530)所示的状态(2)。参考存储器仍然可以存储左CTU的子块2和3以及当前CTU的子块4的重构样本。参考存储器的用于存储左CTU的子块1的重构样本的子部分将用于存储当前CTU的子块5的重构样本。
从CTU视图来看，如(1535)所示，左CTU的子块0和1不在参考存储器中，并且用“X”标记。左CTU中的子块2和3仍然在参考存储器中。
为了对当前CTU中的子块6进行编码/解码，参考存储器进入如(1540)所示的状态(3)。参考存储器仍然可以存储左CTU的子块3以及当前CTU的子块4和5的重构样本。参考存储器的用于存储左CTU的子块2的重构样本的子部分将用于存储当前CTU的子块6的重构样本。
从CTU视图来看，如(1545)所示，左CTU的子块0、1和2不在参考存储器中，并且用“X”标记。左CTU中的子块3仍然在参考存储器中。
为了对当前CTU中的子块7进行编码/解码，参考存储器进入如(1550)所示的状态(4)。参考存储器仍然可以存储当前CTU的子块4、5和6的重构样本。参考存储器的用于存储左CTU的子块3的重构样本的子部分将用于存储当前CTU的子块7的重构样本。
从CTU视图来看，如(1555)所示，左CTU的子块0、1、2和3不在参考存储器中，并且用“X”标记。
在图15的示例中，在每个状态下(在对当前CTU的每个64×64子块进行编码的开始)，具有在参考存储器中可用的对应样本的可用参考区域以灰色示出，而没有“X”标记。
根据本公开内容的一些方面，可以针对串匹配模式放松参考样本约束，从而更多潜在的参考样本可供使用，并且可以提高编码效率。
在示例中，IBC模式具有要求参考块与当前块不交叠的不交叠约束。不交叠约束可以类似地应用于串匹配模式。例如，串匹配模式下的不交叠约束要求参考串的样本不应当与当前串中的样本交叠。不交叠约束用于避免在执行复制参考样本以填充当前串时访问参考串中的尚未重构的样本。在相关示例中，可以通过将存储在与参考串对应的第一存储器空间中的值复制到与当前串对应的第二存储器空间的存储器复制操作来执行当前串的重构。为了执行存储器复制操作，需要重构参考串的样本并且将其存储在第一存储器空间中，从而需要当前串与参考串不交叠。不交叠约束可能限制串矢量并且限制编码效率。
在下文中，术语块可以被解释为预测块、编码块或编码单元，即CU。
本公开内容的一些方面提供允许在当前串与参考串之间具有交叠样本的串匹配模式的技术。当前串的串矢量由SV(svx,svy)表示，其中，svx是水平分量以及svy是垂直分量。在一些示例中，将图片的左上角视为图片的二维平面的原点，二维平面的水平值(例如，x值)在从左到右的方向上增加，并且二维平面的垂直值(例如，y值)在从上到下的方向上增加。
根据本公开内容的一些方面，当前串中的样本可以例如在逐部分处理中按部分重构。在逐部分处理中，在重构当前串的第二部分之前重构当前串的第一部分。在重构当前串的第一部分之后，可以基于当前串的第一部分来重构当前串的第二部分。在一些示例中，当前串的重构可以通过多个存储器复制操作来执行。例如，当前串的第一部分的重构通过将样本值存储在与当前串的第一部分对应的第一存储器空间中的第一存储器复制操作来执行，并且当前串的第二部分的重构通过将样本值存储在与当前串的第二部分对应的第二存储器空间中的第二存储器复制操作来执行。第二存储器复制操作至少复制第一存储器空间中的样本值以存储在第二存储器空间中。
应注意，在以上描述中，当前串的部分可以分别具有任何合适数量的样本，并且可以具有任何合适的形状。在示例中，串的一部分是包括该串中的样本的行的样本行。在另一示例中，串的一部分是包括该串中的样本的列的样本列。在另一示例中，串的一部分是该串中的样本。
为了便于描述，假设水平扫描顺序以用于以下对串匹配模式中的参考位置约束的技术的描述。可以以类似的方式适当地得到具有垂直扫描顺序的串匹配模式下的参考位置约束的对应技术。
根据本公开内容的一方面，当当前串包括多排(例如，水平方向上的样本行、垂直方向上的样本列)时，可以以逐排的方式(例如，逐行的方式、逐列的方式)执行当前串的重构。
在示例中，当前串包括各自可以被以水平扫描顺序扫描的多个样本行，可以以逐行的方式执行当前串的重构。具体地，在当前串的一行中的样本已经被重构时，可以执行当前串的后一行(按照扫描顺序)中的样本的重构。
图16示出了根据一些示例的串的重构处理的示例。图16示出了块(1610)中的当前串(1615)的重构处理。针对当前串(1615)确定串矢量SV。串矢量SV指向与当前串(1615)交叠的参考串。在图16的示例中，当前串(1615)包括可以根据水平扫描顺序扫描的三个行例如第一样本行(1611)、第二样本行(1612)和第三样本行(1613)中的样本。
以逐行的方式重构当前串(1615)。例如，在第一步骤(步骤1)中，基于参考串的像素(1621)来重构当前串(1615)的第一样本行(1611)。在示例中，可以执行存储器复制操作以将存储在与像素(1621)对应的存储器空间中的样本值复制到与第一样本行(1611)对应的存储器空间。
此外，在第二步骤(步骤2)中，基于参考串的像素(1622)来重构当前串(1615)的第二样本行(1612)。在示例中，可以执行存储器复制操作以将存储在与像素(1622)对应的存储器空间中的样本值复制到与第二样本行(1612)对应的存储器空间。
此外，在第三步骤(步骤3)中，基于参考串的像素(1623)来重构当前串(1615)的第三样本行(1613)。在示例中，可以执行存储器复制操作以将存储在与像素(1623)对应的存储器空间中的样本值复制到与第三样本行(1613)对应的存储器空间。
根据本公开内容的方面，可以放松不交叠约束而不进行强加。在一些示例中，当串矢量的垂直分量和水平分量中的至少一者为负时，串矢量满足允许当前串与参考串部分交叠的要求，并且不强加不交叠约束。
在使用水平扫描顺序的示例中，当串矢量SV的垂直分量svy为负(svy<0)时，参考串在当前串上方。然后，不管串矢量SV的水平分量svx的值如何，都允许当前串与参考串之间交叠，从而不强加交叠约束。
然而，当串矢量SV的垂直分量svy不为负(svy≥0)时，参考串与当前串在同一行或者参考串在当前串下方。然后，不管水平分量svx的值如何，都需要强加交叠约束，使得不允许当前串与其参考串之间交叠。
注意，在上述示例中，整个参考串应当在可允许的参考区域内。
通常，参考存储器由多个部分例如多个页等形成。在一些示例中，可以例如在无需计算大偏移值的情况下容易地执行对相同部分(例如，相同页)中的存储器空间的访问。在一些示例中，参考串的样本被约束在与存储器空间的页对应的区域中。
根据本公开内容的方面，允许参考串的样本跨越与存储器空间的两页对应的两个区域的边界。
图17示出了跨越区域边界的参考串的示例。在图17的示例中，块(1700)可以是128×128(样本)块，例如CTU。块(1700)被分成四个64×64子块A至D。子块A、B和C已经被重构，并且待重构的当前串在子块D中。在图17的示例中，要重构的当前串(1710)在子块D中，并且参考串(1720)跨越子块A和子块C的边界。
图18示出了跨越区域边界的参考串的另一示例。在图18的示例中，块(1800)可以是128×128(样本)块，例如CTU。块(1800)被划分成四个64×64子块A至D。子块A、B和C被重构，并且待重构的当前串在子块D中。在图18的示例中，要重构的当前串(1810)在子块D中，并且参考串(1820)跨越子块A和子块C的边界。
在一些示例中，对于存储器重用，将参考存储器划分为相同大小的多个区域。可以分配多个区域以存储子块的样本。例如，在重构子块D时，参考存储器的第一区域可以存储子块A的重构样本；参考存储器的第二区域可以存储子块B的重构样本；参考存储器的第三区域可以存储子块C的重构样本；并且可以分配参考存储器的第四区域以存储子块D的要重构的样本。
在一些实施方式中，可以使用跨越边界约束。在实施方式中，当整个参考串在可允许的参考区域内时，应用垂直跨越边界约束。垂直跨越边界约束不允许当前串的参考串垂直地跨越两个子块的边界，而可以允许参考串水平地跨越两个子块的边界。例如，允许参考串(1720)而不允许参考串(1820)。在示例中，参考串的起始位置是(px0，py0)。对于参考串中的任何样本(pxi，pyi)，垂直跨越边界约束要求(floor(py0/64))等于(floor(pyi/64))。
在另一实施方式中，当整个参考串在可允许的参考区域内时，应用水平跨越边界约束。水平跨越边界约束不允许当前串的参考串水平地跨越两个子块的边界，而可以允许参考串垂直地跨越两个子块的边界。例如，允许参考串(1820)而不允许参考串(1720)。在示例中，参考串的起始位置是(px0，py0)，对于参考串的任何样本(pxi，pyi)，水平跨越边界约束要求(floor(px0/64))等于(floor(pxi/64))。
根据本公开内容的方面，可以放松将参考串限制在当前CTU中的约束。例如，当前CTU上方的样本行也可以用作参考串中的参考样本。
图19示出了具有在当前CTU上方的样本的参考串的示例。在图19的示例中，当前CTU(1901)是128×128(样本)块。当前CTU(1901)被划分成四个64×64子块A至D。子块A、B和C被重构，并且待重构的当前串在子块D中。在图19的示例中，要重构的当前串(1910)在子块D中，并且参考串(1920)具有在当前CTU(1901)上方的样本行(1930)中的至少一个样本。允许参考串(1920)与当前CTU(1901)上方的样本行(1930)之间的交叠。在示例中，解码器包括特定缓冲器(在示例中称为行缓冲器)，以存储样本行例如当前CTU(1901)上方的样本行(1930)中的样本，并且可以在串匹配模式期间访问该特定缓冲器。因此，当参考串(1920)包括与样本行(1930)交叠的样本时，可以访问特定缓冲器以复制交叠的样本来重构当前串(1910)。
图20示出了根据本公开内容的实施方式的概述处理(2000)的流程图。处理(2000)可以用于重构已编码视频序列的图片中的块或串。处理(2000)可以用于块的重构以生成重构中的块的预测块。本公开内容中的术语块可以被解释为预测块、CB、CU等。在各种实施方式中，处理(2000)由处理电路系统执行，所述处理电路系统例如：终端装置(310)、(320)、(330)和(340)中的处理电路系统，执行视频编码器(403)的功能的处理电路系统，执行视频解码器(410)的功能的处理电路系统，执行视频解码器(510)的功能的处理电路系统，执行视频编码器(603)的功能的处理电路系统等。在一些实施方式中，处理(2000)以软件指令实现，因此，当处理电路系统执行软件指令时，处理电路系统执行处理(2000)。处理在(S2001)处开始，并且行进至(S2010)。
在(S2010)处，确定CTU中的当前串的(潜在)串矢量。(潜在)串矢量指向当前串的参考串。
在(S2020)处，确定(潜在)串矢量满足允许当前串与参考串部分交叠的要求。
在一些示例中，响应于(潜在)串矢量的垂直分量和水平分量中的至少一者为负，确定(潜在)串矢量满足允许当前串与参考串部分交叠的要求。
在示例中，响应于满足允许当前串与参考串部分交叠的要求，可以跳过交叠约束。在另一示例中，响应于不满足允许当前串与参考串部分交叠的要求，对(潜在)串矢量应用交叠约束。
在(S2030)处，基于参考串来重构当前串。
在一些示例中，当前串是按部分重构的。例如，在重构当前串的第二部分之前重构当前串的第一部分。然后，可以基于当前串的第一部分来重构当前串的第二部分。
在示例中，使用针对串的水平扫描顺序。然后，响应于串矢量的垂直分量为负，以逐行的方式重构当前串。例如，重构当前串的第一样本行，然后基于当前串的第一样本行来重构当前串的第二样本行。
在另一示例中，使用针对串的垂直扫描顺序。然后，响应于串矢量的水平分量为负，以逐列的方式重构当前串。例如，重构当前串的第一样本列，并且基于当前串的第一样本列来重构当前串的第二样本列。
在一些实施方式中，参考串与当前CTU上方的样本行交叠，然后可以访问存储样本行中的样本的缓冲器，以重构当前串。
然后，处理进行到(S2099)并终止。
可以适当地调整处理(2000)。可以修改和/或省略处理(2000)中的(一个或更多个)步骤。可以添加(一个或更多个)附加步骤。可以使用任何合适的实现顺序。例如，当确定当前矢量信息是独特的时，如上所述，可以将当前矢量信息存储到历史缓冲器中。在一些示例中，在当前矢量信息存储到历史缓冲器中时，使用修剪处理并且移除历史缓冲器中的矢量信息之一。
上述技术可以实现为使用计算机可读指令的计算机软件，并且物理存储在一个或更多个计算机可读介质中。例如，图21示出了适于实现所公开的主题的某些实施方式的计算机系统(2100)。
可以使用任何合适的机器代码或计算机语言对计算机软件进行编码，机器代码或计算机语言可以经受汇编、编译、链接等机制以创建包括指令的代码，所述指令可以由一个或更多个计算机中央处理单元(central processing unit，CPU)、图形处理单元(GraphicsProcessing Unit，GPU)等直接执行或者通过解译、微代码执行等执行。
指令可以在各种类型的计算机或其部件上执行，其包括例如个人计算机、平板计算机、服务器、智能电话、游戏装置、物联网装置等。
图21中示出的用于计算机系统(2100)的部件本质上是示例性的，并且不旨在对实现本公开内容的实施方式的计算机软件的使用范围或功能提出任何限制。部件的配置也不应当被解释为具有与计算机系统(2100)的示例性实施方式中示出的部件中的任何一个部件或部件的组合有关的任何依赖性或要求。
计算机系统2100可以包括某些人机接口输入装置。这样的人机接口输入装置可以对由一个或更多个人类用户通过例如触觉输入(例如：击键、滑动、数据手套移动)、音频输入(例如：语音、拍打)、视觉输入(例如：姿势)、嗅觉输入(未示出)的输入做出响应。人机接口装置还可以用于捕获不一定与人的意识输入直接有关的某些介质，例如，音频(例如：语音、音乐、环境声音)、图像(例如：扫描图像、从静态图像摄像装置获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
输入人机接口装置可以包括以下各项中的一个或更多个(每项仅绘出一个)：键盘(2101)、鼠标(2102)、触控板(2103)、触摸屏(2110)、数据手套(未示出)、操纵杆(2105)、麦克风(2106)、扫描仪(2107)、摄像装置(2108)。
计算机系统(2100)还可以包括某些人机接口输出装置。这样的人机接口输出装置可以通过例如触觉输出、声音、光和气味/味道来刺激一个或更多个人类用户的感官。这样的人机接口输出装置可以包括：触觉输出装置(例如，通过触摸屏(2110)、数据手套(未示出)或操纵杆(2105)进行的触觉反馈，但是也可以存在不用作输入装置的触觉反馈装置)；音频输出装置(例如：扬声器(2109)、头戴式耳机(未描绘))；视觉输出装置(例如，屏幕(2110)，包括CRT屏幕、LCD屏幕、等离子屏幕、OLED屏幕，每个均具有或不具有触摸屏输入能力，每个均具有或不具有触觉反馈能力——其中的一些可能能够通过诸如立体图像输出的方式输出二维视觉输出或多于三维输出；虚拟现实眼镜(未描绘)；全息显示器和烟罐(未描绘))；以及打印机(未描绘)。
计算机系统(2100)还可以包括人类可访问存储装置及其相关联的介质，例如包括具有CD/DVD等介质(2121)的CD/DVD ROM/RW(2120)的光学介质、拇指驱动器(2122)、可移除硬盘驱动器或固态驱动器(2123)、传统磁介质(例如磁带和软盘(未描绘))、基于专用ROM/ASIC/PLD的装置(例如安全加密狗(未描绘))等。
本领域技术人员还应当理解，结合当前公开的主题使用的术语“计算机可读介质”不包含传输介质、载波或其他暂态信号。
计算机系统(2100)还可以包括至一个或更多个通信网络(2155)的接口(2154)。网络可以是例如无线网络、有线网络、光网络。网络还可以是局域网、广域网、城域网、车载和工业网络、实时网络、延迟容忍网络等。网络的示例包括：局域网(例如以太网、无线LAN)，包括GSM、3G、4G、5G、LTE等的蜂窝网络，包括有线电视、卫星电视和地面广播电视的电视有线连接或无线广域数字网络，包括CAN总线的车辆和工业网络等。某些网络通常需要附接至某些通用数据端口或外围总线(2149)(例如，计算机系统(2100)的USB端口)的外部网络接口适配器；其他的网络通常通过附接至如下所述的系统总线而集成到计算机系统(2100)的核中(例如，通过以太网接口集成到PC计算机系统，或通过蜂窝网络接口集成到智能电话计算机系统)。计算机系统(2100)可以通过使用这些网络中的任何网络与其他实体进行通信。这样的通信可以是仅单向接收的(例如，广播电视)、仅单向发送的(例如，到某些CAN总线装置的CAN总线)、或双向的(例如，使用局域数字网络或广域数字网络到其他计算机系统)。可以在如上面所描述的这些网络和网络接口中的每一个上使用某些协议和协议栈。
上述人机接口装置、人类可访问存储装置和网络接口可以附接至计算机系统(2100)的核(2140)。
核(2140)可以包括一个或更多个中央处理单元(Central Processing Unit，CPU)(2141)、图形处理单元(Graphics Processing Unit，GPU)(2142)、现场可编程门区域(Field Programmable Gate Area，FPGA)(2143)形式的专用可编程处理单元、用于某些任务的硬件加速器(2144)、图形适配器(2150)等。这些装置以及只读存储器(ROM)(2145)、随机存取存储器(2146)、内部大容量存储装置(例如，内部非用户可访问的硬盘驱动器、SSD等)(2147)可以通过系统总线(2148)连接。在一些计算机系统中，可以以一个或更多个物理插头的形式访问系统总线(2148)，以使得能够通过附加的CPU、GPU等进行扩展。外围装置可以直接地或通过外围总线(2149)附接至核的系统总线(2148)。在示例中，屏幕(2110)可以连接至图形适配器(2150)。外围总线的架构包括PCI、USB等。
CPU(2141)、GPU(2142)、FPGA(2143)和加速器(2144)可以执行某些指令，这些指令组合起来可以构成以上提及的计算机代码。所述计算机代码可以被存储在ROM(2145)或RAM(2146)中。暂态数据也可以被存储在RAM(2146)中，而永久数据可以被存储在例如内部大容量存储装置(2147)中。可以通过使用缓存存储器来实现对存储装置中的任何存储装置的快速存储和检索，该缓存存储器可以与一个或更多个CPU(2141)、GPU(2142)、大容量存储装置(2147)、ROM(2145)、RAM(2146)等紧密关联。
计算机可读介质上可以具有用于执行各种计算机实现的操作的计算机代码。介质和计算机代码可以是为本公开内容的目的而专门设计和构造的介质和计算机代码，或者它们可以有计算机软件领域的技术人员公知和可用的类型。
作为示例而非限制，具有架构的计算机系统(2100)并且特别是核(2140)可以提供作为处理器(包括CPU、GPU、FPGA、加速器等)执行体现在一个或更多个有形计算机可读介质中的软件的结果而提供的功能。这样的计算机可读介质可以是与如上文介绍的用户可访问的大容量存储装置相关联的介质，以及具有非暂态性质的核(2140)的某些存储装置，例如核内大容量存储装置(2147)或ROM(2145)。可以将实现本公开内容的各种实施方式的软件存储在这样的装置中并且由核(2140)执行。根据特定需求，计算机可读介质可以包括一个或更多个存储器装置或芯片。软件可以使核(2140)——并且特别是其中的处理器(包括CPU、GPU、FPGA等)——执行本文中描述的特定处理或特定处理的特定部分，包括定义存储在RAM(2146)中的数据结构以及根据由软件定义的处理修改这样的数据结构。另外地或可替选地，计算机系统可以提供作为硬连线或以其他方式体现在电路(例如：加速器(2144))中的逻辑的结果的功能，该逻辑可以代替软件操作或与软件一起操作以执行本文中描述的特定处理或特定处理的特定部分。在适当的情况下，提及软件可以包含逻辑，并且反之亦然。在适当的情况下，提及计算机可读介质可以包含存储用于执行的软件的电路(例如，集成电路(IC))、实施用于执行的逻辑的电路或上述两者。本公开内容包括硬件与软件的任何合适的组合。
附录A：首字母缩略词
JEM：联合探索模型
VVC：通用视频编码
BMS：基准集
MV：运动矢量
HEVC：高效视频编码
MPM：最可能模式
WAIP：广角帧内预测
SEI：补充增强信息
VUI：视频可用性信息
GOP：图片组
TU：变换单元
PU：预测单元
CTU：编码树单元
CTB：编码树块
PB：预测块
HRD：假设参考解码器
SDR：标准动态范围
SNR：信噪比
CPU：中央处理单元
GPU：图形处理单元
CRT：阴极射线管
LCD：液晶显示器
OLED：有机发光二极管
CD：致密盘
DVD：数字视频光盘
ROM：只读存储器
RAM：随机存取存储器
ASIC：专用集成电路
PLD：可编程逻辑装置
LAN：局域网
GSM：全球移动通信系统
LTE：长期演进
CANBus：控制器局域网总线
USB：通用串行总线
PCI：外围部件互连
FPGA：现场可编程门区域
SSD：固态驱动器
IC：集成电路
CU：编码单元
PDPC：位置相关预测组合
ISP：帧内子划分
SPS：序列参数集
虽然本公开内容已经描述了若干示例性实施方式，但是存在落入本公开内容的范围内的变更、置换和各种替代等同内容。因此将认识到，虽然本文中没有明确示出或描述，但是本领域技术人员能够设想实施本公开内容的原理并且因此在其精神和范围内的许多系统和方法。

Claims (20)

1.一种用于在解码器中进行视频解码的方法，包括：
由处理器确定当前编码树单元(CTU)中的当前串的串矢量，所述串矢量指向所述当前串的参考串；
由所述处理器确定所述串矢量满足允许所述当前串与所述参考串部分交叠的要求；以及
由所述处理器基于所述参考串来重构所述当前串。
2.根据权利要求1所述的方法，还包括：
在重构所述当前串的第二部分之前重构所述当前串的第一部分。
3.根据权利要求2所述的方法，还包括：
基于所述当前串的第一部分来重构所述当前串的第二部分。
4.根据权利要求1所述的方法，还包括：
响应于所述串矢量的垂直分量和水平分量中的至少一者为负，确定所述串矢量满足允许所述当前串与所述参考串部分交叠的要求。
5.根据权利要求1所述的方法，还包括：
响应于满足允许所述当前串与所述参考串部分交叠的要求，跳过交叠约束；以及
响应于不满足允许所述当前串与所述参考串部分交叠的要求，对所述串矢量应用所述交叠约束。
6.根据权利要求1所述的方法，其中，使用针对串的水平扫描顺序，并且所述方法还包括：
确定所述串矢量的垂直分量为负；
重构所述当前串的第一样本行；以及
基于所述当前串的第一样本行来重构所述当前串的第二样本行。
7.根据权利要求1所述的方法，其中，使用针对串的垂直扫描顺序，并且所述方法还包括：
确定所述串矢量的水平分量为负；
重构所述当前串的第一样本列；以及
基于所述当前串的第一样本列来重构所述当前串的第二样本列。
8.根据权利要求1所述的方法，还包括：
响应于所述参考串与所述当前CTU上方的样本行交叠，访问存储所述样本行中的样本的缓冲器以重构所述当前串。
9.一种用于视频解码的设备，其包括处理电路系统，所述处理电路系统被配置成：
确定当前编码树单元(CTU)中的当前串的串矢量，所述串矢量指向所述当前串的参考串；
确定所述串矢量满足允许所述当前串与所述参考串部分交叠的要求；以及
基于所述参考串来重构所述当前串。
10.根据权利要求9所述的设备，其中，所述处理电路系统被配置成：
在重构所述当前串的第二部分之前重构所述当前串的第一部分。
11.根据权利要求10所述的设备，其中，所述处理电路系统被配置成：
基于所述当前串的第一部分来重构所述当前串的第二部分。
12.根据权利要求9所述的设备，其中，所述处理电路系统被配置成：
响应于所述串矢量的垂直分量和水平分量中的至少一者为负，确定所述串矢量满足允许所述当前串与所述参考串部分交叠的要求。
13.根据权利要求9所述的设备，其中，所述处理电路系统被配置成：
响应于满足允许所述当前串与所述参考串部分交叠的要求，跳过交叠约束；以及
响应于不满足允许所述当前串与所述参考串部分交叠的要求，对所述串矢量应用所述交叠约束。
14.根据权利要求9所述的设备，其中，使用针对串的水平扫描顺序，并且所述处理电路系统被配置成：
确定所述串矢量的垂直分量为负；
重构所述当前串的第一样本行；以及
基于所述当前串的第一样本行来重构所述当前串的第二样本行。
15.根据权利要求9所述的设备，其中，使用针对串的垂直扫描顺序，并且所述处理电路系统被配置成：
确定所述串矢量的水平分量为负；
重构所述当前串的第一样本列；以及
基于所述当前串的第一样本列来重构所述当前串的第二样本列。
16.根据权利要求9所述的设备，其中，所述处理电路系统被配置成：
响应于所述参考串与所述当前CTU上方的样本行交叠，访问存储所述样本行中的样本的缓冲器以重构所述当前串。
17.一种非暂态计算机可读介质，其存储有指令，所述指令在由用于视频解码的计算机执行时，使所述计算机执行以下操作：
确定当前编码树单元(CTU)中的当前串的串矢量，所述串矢量指向所述当前串的参考串；
确定所述串矢量满足允许所述当前串与所述参考串部分交叠的要求；以及
基于所述参考串来重构所述当前串。
18.根据权利要求17所述的非暂态计算机可读介质，其中，所述指令使所述计算机执行以下操作：
在重构所述当前串的第二部分之前重构所述当前串的第一部分；以及
基于所述当前串的第一部分来重构所述当前串的第二部分。
19.根据权利要求17所述的非暂态计算机可读介质，其中，所述指令使所述计算机执行以下操作：
确定所述串矢量的垂直分量为负；
重构所述当前串的第一样本行；以及
基于所述当前串的第一样本行来重构所述当前串的第二样本行。
20.根据权利要求17所述的非暂态计算机可读介质，其中，所述指令使所述计算机执行以下操作：
确定所述串矢量的水平分量为负；
重构所述当前串的第一样本列；以及
基于所述当前串的第一样本列来重构所述当前串的第二样本列。
CN202180016126.6A 2020-12-07 2021-08-03 用于视频译码的方法和设备 Pending CN115152149A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063122342P 2020-12-07 2020-12-07
US63/122,342 2020-12-07
US17/368,616 2021-07-06
US17/368,616 US11949894B2 (en) 2020-12-07 2021-07-06 Method and apparatus for string matching with reference location constraints
PCT/US2021/044375 WO2022125152A1 (en) 2020-12-07 2021-08-03 Method and apparatus for video coding

Publications (1)

Publication Number Publication Date
CN115152149A true CN115152149A (zh) 2022-10-04

Family

ID=81848560

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180016126.6A Pending CN115152149A (zh) 2020-12-07 2021-08-03 用于视频译码的方法和设备

Country Status (6)

Country Link
US (1) US11949894B2 (zh)
EP (1) EP4070460A4 (zh)
JP (1) JP7378631B2 (zh)
KR (1) KR20220122749A (zh)
CN (1) CN115152149A (zh)
WO (1) WO2022125152A1 (zh)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104378644B (zh) 2013-08-16 2020-12-04 上海天荷电子信息有限公司 定宽度变长度像素样值串匹配增强的图像压缩方法和装置
US20150071357A1 (en) * 2013-09-12 2015-03-12 Qualcomm Incorporated Partial intra block copying for video coding
AU2013228045A1 (en) 2013-09-13 2015-04-02 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data
US10390034B2 (en) 2014-01-03 2019-08-20 Microsoft Technology Licensing, Llc Innovations in block vector prediction and estimation of reconstructed sample values within an overlap area
US20150264348A1 (en) * 2014-03-17 2015-09-17 Qualcomm Incorporated Dictionary coding of video content
WO2016049839A1 (en) * 2014-09-30 2016-04-07 Microsoft Technology Licensing, Llc Rules for intra-picture prediction modes when wavefront parallel processing is enabled
CN106797475B (zh) 2014-10-08 2019-12-10 联发科技股份有限公司 视频编码方法
CN107071450B (zh) * 2016-02-10 2021-07-27 同济大学 数据压缩的编码、解码方法及装置
US10986349B2 (en) * 2017-12-29 2021-04-20 Microsoft Technology Licensing, Llc Constraints on locations of reference blocks for intra block copy prediction

Also Published As

Publication number Publication date
EP4070460A1 (en) 2022-10-12
US20220182650A1 (en) 2022-06-09
KR20220122749A (ko) 2022-09-02
WO2022125152A1 (en) 2022-06-16
JP2023516177A (ja) 2023-04-18
US11949894B2 (en) 2024-04-02
JP7378631B2 (ja) 2023-11-13
EP4070460A4 (en) 2023-05-31

Similar Documents

Publication Publication Date Title
CN111903127B (zh) 用于解码器的视频解码的方法、装置、介质以及解码器
CN112272949B (zh) 视频解码的方法、装置及可读介质
CN113330749A (zh) 用于变换跳过模式和块差分脉冲编码调制的改进的残差编解码
CN113196782A (zh) 视频编解码方法和装置
CN110944202A (zh) 视频编解码方法、装置、计算机设备和存储介质
CN113615174A (zh) 对用于帧内图片块补偿的已解码块矢量的转换
CN113396590B (zh) 视频解码的方法和装置、计算机设备及存储介质
CN112753223B (zh) 用于视频解码的方法、装置和计算机可读介质
CN113424541A (zh) 用于变换跳过模式和块差分脉冲编码调制的残差编解码
CN113615185A (zh) 用于视频编码的方法和装置
CN113273200A (zh) 用于帧内图片块补偿的参考样本存储器复用的方法和装置
CN113632465A (zh) 发信号通知用于帧内图像块补偿的预测器候选列表尺寸的方法和装置
CN110971902A (zh) 视频解码的方法和装置、计算机设备
CN113647100A (zh) 用于通过信号发送预测候选列表大小的方法及装置
CN113170095A (zh) 用于视频编码的方法和装置
CN111836056A (zh) 视频解码的方法和装置、计算机设备和存储介质
CN112154663A (zh) 用于基于子块的时间运动矢量预测的方法和设备
CN111726622A (zh) 视频解码的方法和装置
CN112771869A (zh) 小型编码块的简化合并列表构建
JP7419506B2 (ja) 映像コーディングのための方法及び装置
CN111919440A (zh) 用于视频编码的方法和装置
CN111989929B (zh) 视频解码方法、装置及计算机可读介质
CN113475078A (zh) 用于小帧间块的存储器带宽减小的方法和装置
CN112399180B (zh) 视频解码方法、装置及存储介质
CN115486072A (zh) 用于视频译码的方法和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40075482

Country of ref document: HK