TW202143734A - 視訊譯碼中的低頻不可分離變換索引信號傳遞 - Google Patents

視訊譯碼中的低頻不可分離變換索引信號傳遞 Download PDF

Info

Publication number
TW202143734A
TW202143734A TW110111513A TW110111513A TW202143734A TW 202143734 A TW202143734 A TW 202143734A TW 110111513 A TW110111513 A TW 110111513A TW 110111513 A TW110111513 A TW 110111513A TW 202143734 A TW202143734 A TW 202143734A
Authority
TW
Taiwan
Prior art keywords
block
syntax element
coefficients
video
transform
Prior art date
Application number
TW110111513A
Other languages
English (en)
Inventor
希勒米艾內斯 艾吉爾梅茲
瓦迪姆 賽萊金
瑪塔 卡克基維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202143734A publication Critical patent/TW202143734A/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/635Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一種用於對視訊資料進行譯碼的示例性設備包括:被配置為儲存視訊資料的記憶體,以及在電路系統中實現並通訊地耦合到記憶體的一或多個處理器。該一或多個處理器被配置為從經編碼的視訊位元串流中解析該視訊資料的區塊的所有亮度係數,或向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數。該一或多個處理器被配置為在從經編碼的視訊位元串流中解析該區塊的所有亮度係數或向經編碼的視訊位元串流以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項。該一或多個處理器亦被配置為根據該至少一個語法元素來對區塊進行譯碼。

Description

視訊譯碼中的低頻不可分離變換索引信號傳遞
本專利申請案主張享有於2020年3月30日提出申請的美國臨時專利申請案第63/002,052的權益,將其全部內容經由引用的方式合併入本文。
本案內容係關於視訊編碼和視訊解碼。
數位視訊能力可以被合併到各種各樣的設備中,包括數位電視機、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型電腦或桌上型電腦、平板電腦、電子書閱讀器、數位相機、數位記錄設備、數位媒體播放機、視訊遊戲設備、視訊遊戲控制台、蜂巢或衛星無線電電話(所謂的「智慧型電話」)、視訊電話會議設備、視訊串流設備等。數位視訊設備實現視訊譯碼技術(諸如在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4(第10部分,高級視訊譯碼(AVC))、ITU-T H.265/高效率視訊譯碼(HEVC)所定義的標準以及此類標準的擴展中描述的彼等技術)。經由實現此種視訊譯碼技術,視訊設備可以更加高效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊譯碼技術包括空間(圖片內)預測及/或時間(圖片間)預測以減少或去除在視訊序列中固有的冗餘。對於基於區塊的視訊譯碼,視訊切片(例如,視訊圖片或視訊圖片的一部分)可以被分割為視訊區塊,視訊區塊亦可以被稱為譯碼樹單元(CTU)、譯碼單元(CU)及/或譯碼節點。圖片的經訊框內譯碼(I)的切片中的視訊區塊是使用相對於同一圖片中的相鄰區塊中的參考取樣的空間預測來編碼的。圖片的經訊框間譯碼(P或B)的切片中的視訊區塊可以使用相對於同一圖片中的相鄰區塊中的參考取樣的空間預測或者相對於其他參考圖片中的參考取樣的時間預測。圖片可以被稱為訊框,並且參考圖片可以被稱為參考訊框。
通常,本案內容描述用於變換譯碼的技術,其是視訊壓縮的元素。本案內容描述了低頻不可分離變換(LFNST)信號傳遞技術,其可以減少在用於通用視訊譯碼(VVC)標準或其他高級視訊轉碼器的解碼器架構或流水線中的時延,包括高效視訊譯碼(HEVC)標準的擴展。本案內容的技術可以適用於下一代視訊譯碼標準和其他視訊標準。
在一個實例中,一種方法包括以下步驟:從經編碼的視訊位元串流中解析該視訊資料的區塊的所有亮度係數;在該經編碼的視訊位元串流中解析該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
在另一實例中,一種方法包括以下步驟:向經編碼的視訊位元串流以信號發送該視訊資料的區塊的所有亮度係數;在該經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
在另一實例中,一種方法包括以下步驟:決定是否使用雙樹分割模式對該視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在從該經編碼的視訊位元串流中解析所有色度係數或者向經編碼的視訊位元串流以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
在另一實例中,一種設備包括:被配置為儲存該視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:從經編碼的視訊位元串流中解析該視訊資料的區塊的所有亮度係數;在從該經編碼的視訊位元串流中解析該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
在另一實例中,一種設備包括:被配置為儲存該視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:向經編碼的視訊位元串流以信號發送該視訊資料的區塊的所有亮度係數;在該經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
在另一實例中,一種設備包括:被配置為儲存該視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:決定是否使用雙樹分割模式對該視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在該經編碼的視訊位元串流中解析或者以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
在另一實例中,一種使用指令進行編碼的電腦可讀取儲存媒體,該等指令當被執行時使得一或多個處理器執行以下操作:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
在另一實例中,一種使用指令進行編碼的電腦可讀取儲存媒體,該等指令當被執行時使得一或多個處理器執行以下操作:決定是否使用雙樹分割模式對視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在該經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
在另一實例中,一種設備包括:用於從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數的構件;用於在該經編碼的視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,用於根據該至少一個語法元素對該區塊進行譯碼的構件。
在另一實例中,一種設備包括:用於決定是否使用雙樹分割模式對視訊資料的區塊進行譯碼的構件;用於從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數的構件;用於在該經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及用於根據該至少一個語法元素,對該區塊進行譯碼的構件。
在附圖和以下描述中闡述了一或多個實例的細節。根據描述、附圖和請求項,其他特徵、目的和優點將是清楚的。
變換信號傳遞可能需要視訊解碼器在解析低頻不可分離變換(LFNST)索引和多重變換選擇(MTS)索引語法元素之前首先從所有分量中解碼所有係數。由於視訊解碼器在視訊解碼器從視訊資料的區塊的所有分量中解碼係數之前可能不啟動逆變換處理,所以該變換信號傳遞設計可能會在某些常見解碼器流水線中引入過多的時延(尤其是在LFNST中)。本案內容經由提前以變換單元(TU)級別以信號發送必要的變換語法元素來解決該問題。
根據本案內容的技術,可以經由移動變換語法元素(例如,lfnst_idx和mts_idx)的信號傳遞來減少時延,從而可以在TU中解碼必要的顏色分量的係數之後立刻解析變換語法元素。如此,視訊解碼器可以在從視訊資料的區塊的所有分量中解碼所有係數之前開始逆變換處理。
圖1是圖示可以執行本案內容的技術的示例性視訊編碼和解碼系統100的方塊圖。概括而言,本案內容的技術係關於對視訊資料進行譯碼(編碼及/或解碼)。通常,視訊資料包括用於處理視訊的任何資料。因此,視訊資料可以包括原始的未經編碼的視訊、經編碼的視訊、經解碼(例如,經重構)的視訊,以及視訊中繼資料(例如,信號傳遞資料)。
如圖1中所示,在該實例中,系統100包括源設備102,源設備102提供要被目的地設備116解碼和顯示的、經編碼的視訊資料。具體地,源設備102經由電腦可讀取媒體110來將視訊資料提供給目的地設備116。源設備102和目的地設備116可以包括各種各樣的設備中的任何一種,包括桌上型電腦、筆記本(亦即,膝上型)電腦、平板電腦、機上盒、諸如智慧型電話之類的電話手機、電視機、相機、顯示設備、數位媒體播放機、視訊遊戲控制台、視訊串流設備等。在一些情況下,源設備102和目的地設備116可以被配備用於無線通訊,並且因此可以被稱為無線通訊設備。
在圖1的實例中,源設備102包括視訊源104、記憶體106、視訊編碼器200以及輸出介面108。目的地設備116包括輸入介面122、視訊解碼器300、記憶體120以及顯示設備118。根據本案內容,源設備102的視訊編碼器200和目的地設備116的視訊解碼器300可以被配置為應用用於可以減少時延的低頻不可分離變換及/或多重變換選擇信號傳遞的技術。因此,源設備102表示視訊編碼設備的實例,而目的地設備116表示視訊解碼設備的實例。在其他實例中,源設備和目的地設備可以包括其他元件或佈置。例如,源設備102可以從諸如外部相機之類的外部視訊源接收視訊資料。同樣,目的地設備116可以與外部顯示設備對接,而不是包括整合顯示設備。
如圖1所示的系統100僅是一個實例。通常,任何數位視訊編碼及/或解碼設備可以執行用於可以減少時延的低頻不可分離變換信號傳遞的技術。源設備102和目的地設備116僅是此種譯碼設備的實例,其中源設備102產生經譯碼的視訊資料以用於傳輸給目的地設備116。本案內容將「譯碼」設備代表為執行對資料的譯碼(例如,編碼及/或解碼)的設備。因此,視訊編碼器200和視訊解碼器300分別表示譯碼設備(具體地,視訊編碼器和視訊解碼器)的實例。在一些實例中,源設備102和目的地設備116可以以基本上對稱的方式進行操作,使得源設備102和目的地設備116中的每一個皆包括視訊編碼和解碼用元件。因此,系統100可以支援在源設備102與目的地設備116之間的單向或雙向視訊傳輸,例如,以用於視訊串流、視訊重播、視訊廣播或視訊電話。
通常,視訊源104表示視訊資料(亦即原始的未經編碼的視訊資料)的源,並且將視訊資料的順序的一系列圖片(亦被稱為「訊框」)提供給視訊編碼器200,視訊編碼器200對用於圖片的資料進行編碼。源設備102的視訊源104可以包括視訊擷取設備,諸如相機、包含先前擷取的原始視訊的視訊存檔單元,及/或用於從視訊內容提供者接收視訊的視訊饋送介面。作為另外的替代方式,視訊源104可以產生基於電腦圖形的資料作為源視訊,或者產生即時視訊、被存檔的視訊和電腦產生的視訊的組合。在每種情況下,視訊編碼器200可以對被擷取的、預擷取的或電腦產生的視訊資料進行編碼。視訊編碼器200可以將圖片從所接收的順序(有時被稱為「顯示順序」)重新排列為用於譯碼的譯碼順序。視訊編碼器200可以產生包括經編碼的視訊資料的位元串流。隨後,源設備102可以經由輸出介面108將經編碼的視訊資料輸出到電腦可讀取媒體110上,以便由例如目的地設備116的輸入介面122接收及/或取得。
源設備102的記憶體106和目的地設備116的記憶體120表示通用記憶體。在一些實例中,記憶體106、120可以儲存原始視訊資料,例如,來自視訊源104的原始視訊以及來自視訊解碼器300的原始的經解碼的視訊資料。補充或替代地,記憶體106、120可以儲存可由例如視訊編碼器200和視訊解碼器300分別執行的軟體指令。儘管在該實例中記憶體106和記憶體120被示為與視訊編碼器200和視訊解碼器300分開,但是應當理解的是,視訊編碼器200和視訊解碼器300亦可以包括用於在功能上類似或等效目的的內部記憶體。此外,記憶體106、120可以儲存例如從視訊編碼器200輸出並且輸入到視訊解碼器300的經編碼的視訊資料。在一些實例中,記憶體106、120的部分可以被分配為一或多個視訊緩衝器,例如,以儲存原始的經解碼及/或經編碼的視訊資料。
電腦可讀取媒體110可以表示能夠將經編碼的視訊資料從源設備102輸送到目的地設備116的任何類型的媒體或設備。在一個實例中,電腦可讀取媒體110表示通訊媒體,其使得源設備102能夠例如經由射頻網路或基於電腦的網路,來即時地向目的地設備116直接傳輸經編碼的視訊資料。根據諸如無線通訊協定之類的通訊標準,輸出介面108可以對包括經編碼的視訊資料的傳輸信號進行解調,並且輸入介面122可以對所接收的傳輸信號進行解調。通訊媒體可以包括任何無線或有線通訊媒體,例如,射頻(RF)頻譜或者一或多條實體傳輸線。通訊媒體可以形成諸如以下各項的基於封包的網路的一部分:區域網路、廣域網路,或諸如網際網路之類的全球網路。通訊媒體可以包括路由器、交換機、基地站,或對於促進從源設備102到目的地設備116的通訊而言可以有用的任何其他設備。
在一些實例中,源設備102可以將經編碼的資料從輸出介面108輸出到儲存設備112。類似地,目的地設備116可以經由輸入介面122從儲存設備112存取經編碼的資料。儲存設備112可以包括各種分散式或本端存取的資料儲存媒體中的任何一種,諸如硬碟、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體,或用於儲存經編碼的視訊資料的任何其他適當的數位儲存媒體。
在一些實例中,源設備102可以將經編碼的視訊資料輸出到檔案伺服器114或者可以儲存由源設備102產生的經編碼的視訊資料的另一中間儲存設備。目的地設備116可以經由串流或下載來從檔案伺服器114存取被儲存的視訊資料。檔案伺服器114可以是能夠儲存經編碼的視訊資料並且將該經編碼的視訊資料傳輸給目的地設備116的任何類型的伺服器設備。檔案伺服器114可以表示網頁伺服器(例如,用於網站)、檔案傳輸通訊協定(FTP)伺服器、內容遞送網路設備,或網路附加儲存(NAS)設備。目的地設備116可以經由任何標準資料連接(包括網際網路連接)來從檔案伺服器114存取經編碼的視訊資料。該連接可以包括適於存取被儲存在檔案伺服器114上的經編碼的視訊資料的無線通道(例如,Wi-Fi連接)、有線連接(例如,數位用戶線路(DSL)、纜線數據機等),或該兩者的組合。檔案伺服器114和輸入介面122可以被配置為根據以下各項來操作:串流傳輸協定、下載傳輸協定,或其組合。
輸出介面108和輸入介面122可以表示無線傳輸器/接收器、數據機、有線聯網元件(例如,乙太網路卡)、根據各種IEEE 802.11標準中的任何一種標準進行操作的無線通訊元件,或其他實體元件。在其中輸出介面108和輸入介面122包括無線元件的實例中,輸出介面108和輸入介面122可以被配置為根據蜂巢通訊標準(諸如4G、4G-LTE(長期進化)、改進的LTE、5G等)來傳輸資料(諸如經編碼的視訊資料)。在其中輸出介面108包括無線傳輸器的一些實例中,輸出介面108和輸入介面122可以被配置為根據其他無線標準(諸如IEEE 802.11規範、IEEE 802.15規範(例如,ZigBee )、藍芽 標準等)來傳輸資料(諸如經編碼的視訊資料)。在一些實例中,源設備102及/或目的地設備116可以包括相應的晶片上系統(SoC)元件。例如,源設備102可以包括用於執行被賦予視訊編碼器200及/或輸出介面108的功能的SoC元件,並且目的地設備116可以包括用於執行被賦予視訊解碼器300及/或輸入介面122的功能的SoC元件。
本案內容的技術可以應用於視訊譯碼,以支援各種多媒體應用中的任何一種,諸如空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如基於HTTP的動態自我調整串流(DASH))、被編碼到資料儲存媒體上的數位視訊、對被儲存在資料儲存媒體上的數位視訊的解碼,或其他應用。
目的地設備116的輸入介面122從電腦可讀取媒體110(例如,通訊媒體、儲存設備112、檔案伺服器114等)接收經編碼的視訊位元串流。經編碼的視訊位元串流110可以包括由視訊編碼器200定義的諸如以下語法元素之類的信號傳遞資訊(其亦被視訊解碼器300使用):該等語法元素具有描述視訊區塊或其他譯碼單元(例如,切片、圖片、圖片群組、序列等)的特性及/或處理的值。顯示設備118將經解碼的視訊資料的經解碼的圖片顯示給使用者。顯示設備118可以表示各種顯示設備中的任何一種,諸如,陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器,或另一類型的顯示設備。
儘管在圖1中未圖示,但是在一些實例中,視訊編碼器200和視訊解碼器300可以各自與音訊編碼器及/或音訊解碼器整合,並且可以包括適當的MUX-DEMUX單元或其他硬體及/或軟體,以處理包括共用資料串流中的音訊和視訊兩者的經多工的串流。若適用,MUX-DEMUX單元可以遵循ITU H.223多工器協定或其他協定(諸如,使用者資料包通訊協定(UDP))。
視訊編碼器200和視訊解碼器300各自可以被實現為各種適當的編碼器及/或解碼器電路系統中的任何一種,諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)、個別邏輯、軟體、硬體、韌體,或其任何組合。當該等技術部分地用軟體實現時,設備可以將用於軟體的指令儲存在適當的非暫時性電腦可讀取媒體中,並且使用一或多個處理器,用硬體來執行指令以執行本案內容的技術。視訊編碼器200和視訊解碼器300中的每一者可以被包括在一或多個編碼器或解碼器中,編碼器或解碼器中的任一者可以被整合為相應設備中的組合編碼器/解碼器(CODEC)的一部分。包括視訊編碼器200及/或視訊解碼器300的設備可以包括積體電路、微處理器,及/或無線通訊設備(諸如,蜂巢式電話)。
視訊編碼器200和視訊解碼器300可以根據視訊譯碼標準(諸如ITU-T H.265(亦被稱為高效率視訊譯碼(HEVC)標準)或對其的擴展(諸如多視圖及/或可伸縮視訊譯碼擴展))進行操作。或者,視訊編碼器200和視訊解碼器300可以根據其他專有或行業標準(例如,ITU-T H.266,亦被稱為多功能視訊譯碼(VVC))進行操作。VVC標準的最新草案是在ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET)於2020年1月7日至17日在比利時布魯塞爾的第17次會議,JVET-Q2001-vE,Bross等人的「Versatile Video Coding (Draft 8)」(後面被稱為「VVC Draft 8」)中描述的。然而,本案內容的技術不限於任何具體的譯碼標準。
如前述,本案內容描述了關於低頻不可分離變換和多重變換選擇的技術,但是示例性技術亦可以適用於其他類型的變換。在一或多個實例中,本案內容描述了可以去除VVC草案8中的冗餘信號傳遞的情況的信號傳遞的實例。經由此種方式,示例性技術可以提供對技術問題的技術方案,該技術方案提供了源於視訊譯碼技術的實際應用。
通常,視訊編碼器200和視訊解碼器300可以執行對圖片的基於區塊的譯碼。術語「區塊」通常代表包括要被處理的(例如,在編碼及/或解碼程序中要被編碼、被解碼或以其他方式使用的)資料的結構。例如,區塊可以包括亮度及/或色度資料的取樣的二維矩陣。通常,視訊編碼器200和視訊解碼器300可以對以YUV(例如,Y、Cb、Cr)格式表示的視訊資料進行譯碼。亦即,並不是對用於圖片的取樣的紅色、綠色和藍色(RGB)資料進行譯碼,視訊編碼器200和視訊解碼器300可以對亮度和色度分量進行譯碼,其中色度分量可以包括紅色色相和藍色色相色度分量兩者。在一些實例中,視訊編碼器200在進行編碼之前將所接收的經RGB格式化的資料轉換為YUV表示,並且視訊解碼器300將YUV表示轉換為RGB格式。或者,預處理和後處理單元(未圖示)可以執行該等轉換。
本案內容可以通常關於對圖片的譯碼(例如,編碼和解碼)以包括對圖片的資料進行編碼或解碼的程序。類似地,本案內容可以涉及對圖片的區塊的譯碼以包括對用於區塊的資料進行編碼或解碼(例如,預測及/或殘差譯碼)的程序。經編碼的視訊位元串流通常包括用於表示譯碼決策(例如,譯碼模式)以及將圖片分割為區塊的語法元素的一系列值。因此,關於對圖片或區塊進行譯碼的引用通常應當被理解為對用於形成圖片或區塊的語法元素的值進行譯碼。
HEVC定義了各種區塊,包括譯碼單元(CU)、預測單元(PU)和變換單元(TU)。根據HEVC,視訊譯碼器(諸如視訊編碼器200)根據四叉樹結構來將譯碼樹單元(CTU)分割為CU。亦即,視訊譯碼器將CTU和CU分割為四個相等的、不重疊的正方形,並且四叉樹的每個節點具有零個或四個子節點。沒有子節點的節點可以被稱為「葉節點」,並且此種葉節點的CU可以包括一或多個PU及/或一或多個TU。視訊譯碼器可以進一步分割PU和TU。例如,在HEVC中,殘差四叉樹(RQT)表示對TU的分割。在HEVC中,PU表示訊框間預測資料,而TU表示殘差資料。經訊框內預測的CU包括訊框內預測資訊,諸如,訊框內模式指示。
作為另一實例,視訊編碼器200和視訊解碼器300可以被配置為根據VVC進行操作。根據VVC,視訊譯碼器(諸如,視訊編碼器200)將圖片分割為複數個譯碼樹單元(CTU)。視訊編碼器200可以根據樹結構(諸如,四叉樹-二叉樹(QTBT)結構或多類型樹(MTT)結構)來分割CTU。QTBT結構去除了多種分割類型的概念,諸如在HEVC的CU、PU和TU之間的分隔。QTBT結構包括兩個級別:根據四叉樹分割而被分割的第一級別,以及根據二叉樹分割而被分割的第二級別。QTBT結構的根節點對應於CTU。二叉樹的葉節點對應於譯碼單元(CU)。
在MTT分割結構中,可以使用四叉樹(QT)分割、二叉樹(BT)分割以及一或多個類型的三叉樹(TT)(亦被稱為三元樹(TT))分割來對區塊進行分割。三叉樹或三元樹分割是其中區塊被分離為三個子區塊的分割。在一些實例中,三叉樹或三元樹分割將區塊劃分為三個子區塊,而不經由中心劃分原始區塊。MTT中的分割類型(例如,QT、BT和TT)可以是對稱的或不對稱的。
在一些實例中,視訊編碼器200和視訊解碼器300可以使用單個QTBT或MTT結構來表示亮度分量和色度分量中的每一者,而在其他實例中,視訊編碼器200和視訊解碼器300可以使用兩個或更多個QTBT或MTT結構,諸如用於亮度分量的一個QTBT/MTT結構以及用於兩個色度分量的另一個QTBT/MTT結構(或者用於相應色度分量的兩個QTBT/MTT結構)。
視訊編碼器200和視訊解碼器300可以被配置為使用每HEVC的四叉樹分割、QTBT分割、MTT分割,或其他分割結構。為了解釋的目的,關於QTBT分割提供了本案內容的技術的描述。然而,應當理解的是,本案內容的技術亦可以應用於被配置為使用四叉樹分割或者亦使用其他類型的分割的視訊譯碼器。
在一些實例中,CTU包括:亮度取樣的譯碼樹區塊(CTB)、具有三個取樣陣列的圖片的色度取樣的兩個相應CTB,或者黑白圖片或使用三個獨立的色彩平面和用於對取樣進行譯碼的語法結構進行譯碼的圖片的取樣的CTB。一個CTB可以是針對某個N值的取樣的NxN區塊,使得一個分量到多個CTB的劃分是一次分割。一個分量是來自以4:2:0、4:2:2或4:4:4顏色格式構成一張圖片的三個陣列(亮度和兩個色度)之一的陣列或單個取樣,或者是構成黑白格式的圖片的陣列或陣列的單個取樣。在一些實例中,譯碼區塊是針對一些值M和N的取樣的M×N區塊,使得一個CTB到多個譯碼區塊的劃分是一次分割。
可以以各種方式在圖片中對區塊(例如,CTU或CU)進行分類。舉一個實例,磚塊(brick)可以代表圖片中的特定瓦片(tile)內的CTU行的矩形區域。瓦片可以是圖片中的特定瓦片列和特定瓦片行內的CTU的矩形區域。瓦片列代表CTU的矩形區域,其具有等於圖片的高度的高度以及由語法元素(例如,諸如在圖片參數集中)指定的寬度。瓦片行代表CTU的矩形區域,其具有由語法元素指定的高度(例如,諸如在圖片參數集中)以及與圖片的寬度相等的寬度。
在一些實例中,可以將一個瓦片分割為多個磚塊,每個磚塊可以包括瓦片內的一或多個CTU行。沒有被分割為多個磚塊的瓦片亦可以被稱為磚塊。然而,作為瓦片的真實子集的磚塊可以不被稱為瓦片。
圖片中的磚塊亦可以以切片來排列。切片可以是圖片的整數個磚塊,其可以唯一地被包含在單個網路抽象層(NAL)單元中。在一些實例中,切片包括多個完整的瓦片或者僅包括一個瓦片的完整磚塊的連續序列。
本案內容可以互換地使用「N×N」和「N乘N」來代表區塊(諸如CU或其他視訊區塊)在垂直和水平維度態樣的取樣大小,例如,16×16個取樣或16乘16個取樣。通常,16×16 CU將在垂直方向上具有16個取樣(y=16),並且在水平方向上將具有16個取樣(x=16)。同樣地,NxN CU通常在垂直方向上具有N個取樣,並且在水平方向上具有N個取樣,其中N表示非負整數值。CU中的取樣可以按行和列來排列。此外,CU不一定需要在水平方向上具有與在垂直方向上相同的數量的取樣。例如,CU可以包括N×M個取樣,其中M不一定等於N。
視訊編碼器200對用於CU的表示預測及/或殘差資訊以及其他資訊的視訊資料進行編碼。預測資訊指示將如何預測CU以便形成用於CU的預測區塊。殘差資訊通常表示在編碼之前的CU的取樣與預測區塊之間的逐個取樣差。
為了預測CU,視訊編碼器200通常可以經由訊框間預測或訊框內預測來形成用於CU的預測區塊。訊框間預測通常代表根據先前譯碼的圖片的資料來預測CU,而訊框內預測通常代表根據同一圖片的先前譯碼的資料來預測CU。為了執行訊框間預測,視訊編碼器200可以使用一或多個運動向量來產生預測區塊。視訊編碼器200通常可以執行運動搜尋,以辨識例如在CU與參考區塊之間的差異態樣與CU緊密匹配的參考區塊。視訊編碼器200可以使用絕對差之和(SAD)、平方差之和(SSD)、平均絕對差(MAD)、均方差(MSD),或其他此種差計算來計算差度量,以決定參考區塊是否與當前CU緊密匹配。在一些實例中,視訊編碼器200可以使用單向預測或雙向預測來預測當前CU。
VVC的一些實例亦提供仿射運動補償模式,其可以被認為是訊框間預測模式。在仿射運動補償模式下,視訊編碼器200可以決定表示非平移運動(諸如,放大或縮小、旋轉、透視運動或其他不規則的運動類型)的兩個或更多個運動向量。
為了執行訊框內預測,視訊編碼器200可以選擇訊框內預測模式來產生預測區塊。VVC的一些實例提供六十七種訊框內預測模式,包括各種方向性模式,以及平面模式和DC模式。通常,視訊編碼器200選擇訊框內預測模式,訊框內預測模式描述要根據其來預測當前區塊(例如,CU的區塊)的取樣的、當前區塊的相鄰取樣。假定視訊編碼器200以光柵掃瞄順序(從左到右、從上到下)對CTU和CU進行譯碼,則此種取樣通常可以是在與當前區塊相同的圖片中在當前區塊的上方、左上方或左側。
視訊編碼器200對表示用於當前區塊的預測模式的資料進行編碼。例如,對於訊框間預測模式,視訊編碼器200可以對表示使用各種可用訊框間預測模式中的何種的資料以及用於對應模式的運動資訊進行編碼。對於單向或雙向訊框間預測,例如,視訊編碼器200可以使用高級運動向量預測(AMVP)或合併模式來對運動向量進行編碼。視訊編碼器200可以使用類似的模式來對用於仿射運動補償模式的運動向量進行編碼。
在諸如對區塊的訊框內預測或訊框間預測之類的預測之後,視訊編碼器200可以計算用於該區塊的殘差資料。殘差資料(諸如殘差區塊)表示在區塊與用於該區塊的預測區塊之間的逐個取樣差,該預測區塊是使用對應的預測模式來形成的。視訊編碼器200可以將一或多個變換應用於殘差區塊,以在變換域中而非在取樣域中產生經變換的資料。例如,視訊編碼器200可以將離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換應用於殘差視訊資料。另外,視訊編碼器200可以在第一變換之後應用二次變換,諸如模式相關的不可分離二次變換(MDNSST)、信號相關變換、Karhunen-Loeve變換(KLT)等。視訊編碼器200在應用一或多個變換之後產生變換係數。
如前述,在任何變換以產生變換係數之後,視訊編碼器200可以執行對變換係數的量化。量化通常代表如下的程序:在該程序中,對變換係數進行量化以可能減少用於表示該等變換係數的資料量,從而提供進一步的壓縮。經由執行量化程序,視訊編碼器200可以減小與一些或所有變換係數相關聯的位元深度。例如,視訊編碼器200可以在量化期間將n 位元的值向下捨入為m 位元的值,其中n 大於m 。在一些實例中,為了執行量化,視訊編碼器200可以執行對要被量化的值的按位元右移。
在量化之後,視訊編碼器200可以掃瞄變換係數,從而從包括經量化的變換係數的二維矩陣產生一維向量。可以將掃瞄設計為將較高能量(並且因此較低頻率)的變換係數放在向量的前面,並且將較低能量(並且因此較高頻率)的變換係數放在向量的後面。在一些實例中,視訊編碼器200可以利用預定義的掃瞄順序來掃瞄經量化的變換係數以產生經序列化的向量,並且隨後對向量的經量化的變換係數進行熵編碼。在其他實例中,視訊編碼器200可以執行自我調整掃瞄。在掃瞄經量化的變換係數以形成一維向量之後,視訊編碼器200可以例如根據上下文自我調整二進位算術譯碼(CABAC)來對一維向量進行熵編碼。視訊編碼器200亦可以對用於描述與經編碼的視訊資料相關聯的中繼資料的語法元素的值進行熵編碼,以供視訊解碼器300在對視訊資料進行解碼時使用。
為了執行CABAC,視訊編碼器200可以將上下文模型內的上下文分配給要被傳輸的符號。上下文可以關於例如符號的相鄰值是否為零值。概率決定可以是基於被分配給符號的上下文的。
視訊編碼器200亦可以例如在圖片標頭、區塊標頭、切片標頭中為視訊解碼器300產生語法資料(諸如,基於區塊的語法資料、基於圖片的語法資料和基於序列的語法資料),或其他語法資料(諸如,序列參數集(SPS)、圖片參數集(PPS)或視訊參數集(VPS))。同樣地,視訊解碼器300可以對此種語法資料進行解碼以決定如何解碼對應的視訊資料。
以此種方式,視訊編碼器200可以產生位元串流,其包括經編碼的視訊資料,例如,描述將圖片分割為區塊(例如,CU)以及用於該等區塊的預測及/或殘差資訊的語法元素。最終,視訊解碼器300可以接收位元串流並且對經編碼的視訊資料進行解碼。
通常,視訊解碼器300執行與由視訊編碼器200執行的程序相反的程序,以對位元串流的經編碼的視訊資料進行解碼。例如,視訊解碼器300可以使用CABAC,以與視訊編碼器200的CABAC編碼程序基本上類似的、但是相反的方式來對用於位元串流的語法元素的值進行解碼。語法元素可以定義用於將圖片分割為CTU,以及根據對應的分割結構(諸如,QTBT結構)對每個CTU進行分割,以定義CTU的CU的分割資訊。語法元素亦可以定義用於視訊資料的區塊(例如,CU)的預測和殘差資訊。
殘差資訊可以由例如經量化的變換係數來表示。視訊解碼器300可以對區塊的經量化的變換係數進行逆量化和逆變換以重構用於該區塊的殘差區塊。視訊解碼器300使用經信號發送的預測模式(訊框內預測或訊框間預測)和相關的預測資訊(例如,用於訊框間預測的運動資訊)來形成用於該區塊的預測區塊。視訊解碼器300隨後可以對預測區塊和殘差區塊(在逐個取樣的基礎上)進行組合以重構原始區塊。視訊解碼器300可以執行額外處理,諸如執行去區塊程序以減少沿著區塊的邊界的視覺偽影。
如上文提到的,在一些實例中,變換信號傳遞可能需要視訊解碼器(例如,視訊解碼器300)在解析低頻不可分離變換(LFNST)索引和多重變換選擇(MTS)索引語法元素之前首先從視訊資料的區塊的所有分量中解碼所有係數。由於視訊解碼器在視訊解碼器從視訊資料的區塊的所有分量中解碼係數之前可能不啟動逆變換處理,因此該變換信號傳遞設計可能會在某些常見解碼器流水線中引入過多的時延(尤其是在LFNST中)。本案內容經由更早地以變換單元(TU)級別以信號發送必要的變換語法元素來解決該問題。
根據本案內容的技術,可以經由移動變換語法元素(例如,lfnst_idx和mts_idx)的信號傳遞來減少時延,從而可以在TU中解碼必要的顏色分量的係數之後立刻解析變換語法元素。如此,視訊解碼器可以在從視訊資料的區塊的所有分量中解碼所有係數之前開始逆變換處理。
根據本案內容的技術,一種方法包括以下步驟:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中解析區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
根據本案內容的技術,一種方法包括以下步驟:向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在向經編碼的視訊位元串流以信號發送該區塊的所有亮度係數之後,以信號發送用於區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
根據本案內容的技術,一種方法包括以下步驟:決定是否使用雙樹分割模式來對視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流中以信號發送該區塊的所有色度係數;在經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行譯碼。
根據本案內容的技術,一種設備包括:被配置為儲存視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:從經編碼的視訊位元串流中解析該視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中解析該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
根據本案內容的技術,一種設備包括:被配置為儲存視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:向經編碼的視訊位元串流以信號發送該視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素;其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
根據本案內容的技術,一種設備包括:被配置為儲存視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:決定是否使用雙樹分割模式對該視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
根據本案內容的技術,一種使用指令進行編碼的電腦可讀取儲存媒體,該等指令當被執行時使得一或多個處理器執行以下操作:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
根據本案內容的技術,一種使用指令進行編碼的電腦可讀取儲存媒體,該等指令當被執行時使得一或多個處理器執行以下操作:決定是否使用雙樹分割模式對視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在該經編碼的視訊位元串流中解析或者以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
根據本案內容的技術,一種設備包括:用於從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數的構件;用於在該經編碼的視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,用於根據該至少一個語法元素對該區塊進行譯碼的構件。
根據本案內容的技術,一種設備包括:用於決定是否使用雙樹分割模式對視訊資料的區塊進行譯碼的構件;用於從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數的構件;用於在該經編碼的視訊位元串流中解析或者以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及用於根據該至少一個語法元素,對該區塊進行譯碼的構件。
本案內容可以通常涉及「以信號發送」某些資訊(諸如語法元素)。術語「以信號發送」通常可以代表對用於語法元素的值及/或用於對經編碼的視訊資料進行解碼的其他資料的傳送。亦即,視訊編碼器200可以在位元串流中以信號發送用於語法元素的值。通常,以信號發送代表在位元串流中產生值。如前述,源設備102可以基本上即時地或不是即時地(諸如,可能在將語法元素儲存到儲存設備112以供目的地設備116稍後取得時發生)將位元串流輸送給目的地設備116。本案內容亦可能通常提到「解析」語法元素。術語「解析」通常可以指由目的地設備116對位元串流中的值的決定。
本案內容亦可以通常指在解析或以信號發送另一語法元素「之後」解析或以信號發送一個語法元素。從此意義上講,術語「之後」通常可以指在位元串流中的另一語法元素的位置之後的該位元串流中的位置。
圖2A和圖2B是圖示示例性四叉樹二叉樹(QTBT)結構130以及對應的譯碼樹單元(CTU)132的概念圖。實線表示四叉樹分離,而虛線指示二叉樹分離。在二叉樹的每個分離(亦即非葉)節點中,以信號發送一個標誌以指示使用何種分離類型(亦即,水平或垂直),其中在該實例中,0指示水平分離,而1指示垂直分離。對於四叉樹分離,因為四叉樹節點將一個區塊水平地並且垂直地分離為具有相等大小的4個子區塊,所以無需指示分離類型。因此,視訊編碼器200可以對以下各項進行編碼,而視訊解碼器300可以對以下各項進行解碼:用於QTBT結構130的區域樹級別(亦即實線)的語法元素(諸如分離資訊),以及用於QTBT結構130的預測樹級別(亦即虛線)的語法元素(諸如分離資訊)。視訊編碼器200可以對用於由QTBT結構130的終端葉節點表示的CU的視訊資料(諸如預測和變換資料)進行編碼,而視訊解碼器300可以對視訊資料進行解碼。
通常,圖2B的CTU 132可以與定義與QTBT結構130的處於第一和第二級別的節點相對應的區塊的大小的參數相關聯。該等參數可以包括CTU大小(表示取樣中的CTU 132的大小)、最小四叉樹大小(MinQTSize,其表示最小允許四叉樹葉節點大小)、最大二叉樹大小(MaxBTSize,其表示最大允許二叉樹根節點大小)、最大二叉樹深度(MaxBTDepth,其表示最大允許二叉樹深度),以及最小二叉樹大小(MinBTSize,其表示最小允許二叉樹葉節點大小)。
QTBT結構的與CTU相對應的根節點可以在QTBT結構的第一級別處具有四個子節點,每個子節點可以是根據四叉樹分割來分割的。亦即,第一級別的節點是葉節點(沒有子節點)或者具有四個子節點。QTBT結構130的實例將此種節點表示為包括具有實線分支的父節點和子節點。若第一級別的節點不大於最大允許二叉樹根節點大小(MaxBTSize),則可以經由相應的二叉樹進一步對節點進行分割。可以對一個節點的二叉樹分離進行反覆運算,直到從分離產生的節點達到最小允許二叉樹葉節點大小(MinBTSize)或最大允許二叉樹深度(MaxBTDepth)。QTBT結構130的實例將此種節點表示為具有虛線分支。二叉樹葉節點被稱為譯碼單元(CU),其用於預測(例如,圖片內或圖片間預測)和變換,而不進行任何進一步分割。如上所論述的,CU亦可以被稱為「視訊區塊」或「區塊」。
在QTBT分割結構的一個實例中,CTU大小被設置為128×128(亮度取樣和兩個對應的64×64色度取樣),MinQTSize被設置為16×16,MaxBTSize被設置為64×64,MinBTSize(對於寬度和高度兩者)被設置為4,並且MaxBTDepth被設置為4。首先對CTU應用四叉樹分割以產生四叉樹葉節點。四叉樹葉節點可以具有從16×16(亦即MinQTSize)到128×128(亦即CTU大小)的大小。若四叉樹葉節點為128×128,則因為該大小超過MaxBTSize(亦即,在該實例中為64×64),因此葉四叉樹節點將不被二叉樹進一步分離。否則,四叉樹葉節點將被二叉樹進一步分割。因此,四叉樹葉節點亦是用於二叉樹的根節點,並且具有為0的二叉樹深度。當二叉樹深度達到MaxBTDepth(在該實例中為4)時,不允許進一步分離。當二叉樹節點具有等於MinBTSize(在該實例中為4)的寬度時,其意味著不允許進一步的垂直分離。類似地,具有等於MinBTSize的高度的二叉樹節點意味著不允許針對該二叉樹節點進行進一步的水平分離。如前述,二叉樹的葉節點被稱為CU,並且根據預測和變換而被進一步處理,而無需進一步分割。
圖3是圖示可以執行本案內容的技術的示例性視訊編碼器200的方塊圖。圖3是出於解釋的目的而提供的,並且不應當被認為對在本案內容中泛泛地舉例說明和描述的技術進行限制。出於解釋的目的,根據VVC(正在開發的ITU-T H.266)和HEVC(ITU-T H.265)的技術,本案內容描述了視訊編碼器200。然而,本案內容的技術可以由被配置為其他視訊譯碼標準的視訊編碼設備來執行。
在圖3的實例中,視訊編碼器200包括視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、解碼圖片緩衝器(DPB)218和熵編碼單元220。視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、DPB 218和熵編碼單元220中的任何一者或全部可以在一或多個處理器中或者在處理電路系統中實現。例如,視訊編碼器200的單元可以被實現為一或多個電路或邏輯元件,作為硬體電路系統的一部分,或者作為處理器、ASIC或FPGA的一部分。此外,視訊編碼器200可以包括額外或替代的處理器或處理電路系統以執行該等和其他功能。
視訊資料記憶體230可以儲存要由視訊編碼器200的元件來編碼的視訊資料。視訊編碼器200可以從例如視訊源104(圖1)接收被儲存在視訊資料記憶體230中的視訊資料。DPB 218可以充當參考圖片記憶體,其儲存參考視訊資料以在由視訊編碼器200對後續視訊資料進行預測時使用。視訊資料記憶體230和DPB 218可以由各種記憶體設備中的任何一種形成,諸如動態隨機存取記憶體(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、電阻性RAM(RRAM),或其他類型的記憶體設備。視訊資料記憶體230和DPB 218可以由相同的記憶體設備或單獨的記憶體設備來提供。在各個實例中,視訊資料記憶體230可以與視訊編碼器200的其他元件在晶片上(如圖所示),或者相對於彼等元件在晶片外。
在本案內容中,對視訊資料記憶體230的引用不應當被解釋為限於在視訊編碼器200內部的記憶體(除非如此具體地描述),或者不限於在視訊編碼器200外部的記憶體(除非如此具體地描述)。確切而言,對視訊資料記憶體230的引用應當被理解為儲存視訊編碼器200接收以用於編碼的視訊資料(例如,用於要被編碼的當前區塊的視訊資料)的參考記憶體。圖1的記憶體106亦可以提供對來自視訊編碼器200的各個單元的輸出的臨時儲存。
圖示圖3的各個單元以幫助理解由視訊編碼器200執行的操作。該等單元可以被實現為固定功能電路、可程式設計電路,或其組合。固定功能電路代表提供特定功能並且關於可以執行的操作而預先設置的電路。可程式設計電路代表能夠被程式設計以執行各種任務並且以能夠執行的操作來提供靈活功能的電路。例如,可程式設計電路可以執行軟體或韌體,軟體或韌體使得可程式設計電路以軟體或韌體的指令所定義的方式進行操作。固定功能電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能電路執行的操作類型通常是不可變的。在一些實例中,該等單元中的一或多個單元可以是不同的電路區塊(固定功能或可程式設計),並且在一些實例中,該等單元中的一或多個單元可以是積體電路。
視訊編碼器200可以包括由可程式設計電路形成的算術邏輯單位(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式設計核。在其中使用由可程式設計電路執行的軟體來執行視訊編碼器200的操作的實例中,記憶體106(圖1)可以儲存視訊編碼器200接收並且執行的軟體的指令(例如,目標代碼),或者視訊編碼器200內的另一記憶體(未圖示)可以儲存此種指令。
視訊資料記憶體230被配置為儲存所接收的視訊資料。視訊編碼器200可以從視訊資料記憶體230取得視訊資料的圖片,並且將視訊資料提供給殘差產生單元204和模式選擇單元202。視訊資料記憶體230中的視訊資料可以是要被編碼的原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224和訊框內預測單元226。模式選擇單元202可以包括額外功能單元,其根據其他預測模式來執行視訊預測。作為實例,模式選擇單元202可以包括調色板單元、區塊內複製單元(其可以是運動估計單元222及/或運動補償單元224的一部分)、仿射單元、線性模型(LM)單元等。
模式選擇單元202通常協調多個編碼通路(pass),以測試編碼參數的組合以及針對此種組合所得到的率失真值。編碼參數可以包括將CTU分割為CU、用於CU的預測模式、用於CU的殘差資料的變換類型、用於CU的殘差資料的量化參數等。模式選擇單元202可以最終選擇編碼參數的具有比其他測試的組合更佳的率失真值的組合。
視訊編碼器200可以將從視訊資料記憶體230取得的圖片分割為一系列CTU,並且將一或多個CTU封裝在切片內。模式選擇單元202可以根據樹結構(諸如上述HEVC的QTBT結構或四叉樹結構)來分割圖片的CTU。如前述,視訊編碼器200可以經由根據樹結構來分割CTU,從而形成一或多個CU。此種CU通常亦可以被稱為「視訊區塊」或「區塊」。
通常,模式選擇單元202亦控制其元件(例如,運動估計單元222、運動補償單元224和訊框內預測單元226)以產生用於當前區塊(例如,當前CU,或者在HEVC中為PU和TU的重疊部分)的預測區塊。為了對當前區塊進行訊框間預測,運動估計單元222可以執行運動搜尋以辨識在一或多個參考圖片(例如,被儲存在DPB 218中的一或多個先前譯碼的圖片)中的一或多個緊密匹配的參考區塊。具體地,運動估計單元222可以例如根據絕對差之和(SAD)、平方差之和(SSD)、平均絕對差(MAD)、均方差(MSD)等,來計算表示潛在參考區塊將與當前區塊的類似程度的值。運動估計單元222通常可以使用在當前區塊與所考慮的參考區塊之間的逐個取樣差來執行該等計算。運動估計單元222可以辨識從該等計算所得到的具有最低值的參考區塊,其指示與當前區塊最緊密匹配的參考區塊。
運動估計單元222可以形成一或多個運動向量(MV),該等運動向量限定相對於當前區塊在當前圖片中的位置而言參考區塊在參考圖片中的的位置。隨後,運動估計單元222可以將運動向量提供給運動補償單元224。例如,對於單向訊框間預測,運動估計單元222可以提供單個運動向量,而對於雙向訊框間預測,運動估計單元222可以提供兩個運動向量。隨後,運動補償單元224可以使用運動向量來產生預測區塊。例如,運動補償單元224可以使用運動向量來取得參考區塊的資料。作為另一實例,若運動向量具有分數取樣精度,則運動補償單元224可以根據一或多個內插濾波器來對用於預測區塊的值進行內插。此外,對於雙向訊框間預測,運動補償單元224可以取得用於由相應的運動向量辨識的兩個參考區塊的資料並且例如經由逐個取樣平均或加權平均來將所取得的資料進行組合。
作為另一實例,對於訊框內預測或訊框內預測譯碼,訊框內預測單元226可以根據與當前區塊相鄰的取樣來產生預測區塊。例如,對於方向性模式,訊框內預測單元226通常可以在數學上將相鄰取樣的值進行組合,並且跨當前區塊在所定義的方向上填充該等計算出的值以產生預測區塊。作為另一實例,對於DC模式,訊框內預測單元226可以計算當前區塊的相鄰取樣的平均值,並且產生預測區塊以包括針對預測區塊的每個取樣的該得到的平均值。
模式選擇單元202將預測區塊提供給殘差產生單元204。殘差產生單元204從視訊資料記憶體230接收當前區塊的原始的未經編碼的版本,並且從模式選擇單元202接收預測區塊。殘差產生單元204計算在當前區塊與預測區塊之間的逐個取樣差。所得到的逐個取樣差定義了用於當前區塊的殘差區塊。在一些實例中,殘差產生單元204亦可以決定殘差區塊中的取樣值之間的差,以使用殘差差分脈衝譯碼調制(RDPCM)來產生殘差區塊。在一些實例中,可以使用執行二進位減法的一或多個減法器電路來形成殘差產生單元204。
在其中模式選擇單元202將CU分割為PU的實例中,每個PU可以與亮度預測單元和對應的色度預測單元相關聯。視訊編碼器200和視訊解碼器300可以支援具有各種大小的PU。如上所指出的,CU的大小可以代表CU的亮度譯碼區塊的大小,而PU的大小可以代表PU的亮度預測單元的大小。假定特定CU的大小為2N×2N,則視訊編碼器200可以支援用於訊框內預測的2N×2N或N×N的PU大小,以及用於訊框間預測的2N×2N、2N×N、N×2N、N×N或類似的對稱PU大小。視訊編碼器200和視訊解碼器300亦可以支援針對用於訊框間預測的2N×nU、2N×nD、nL×2N和nR×2N的PU大小的非對稱分割。
在其中模式選擇單元不將CU進一步分割為PU的實例中,每個CU可以與亮度譯碼區塊和對應的色度譯碼區塊相關聯。如前述,CU的大小可以代表CU的亮度譯碼區塊的大小。視訊編碼器200和視訊解碼器300可以支援2N×2N、2N×N或N×2N的CU大小。
對於其他視訊譯碼技術(舉幾個實例,諸如區塊內複製模式譯碼、仿射模式譯碼和線性模型(LM)模式譯碼),模式選擇單元202經由與譯碼技術相關聯的相應單元來產生用於正被編碼的當前區塊的預測區塊。在一些實例中(諸如調色板模式譯碼),模式選擇單元202可以不產生預測區塊,而是替代地產生指示基於所選擇的調色板來重構區塊的方式的語法元素。在此種模式下,模式選擇單元202可以將該等語法元素提供給熵編碼單元220以進行編碼。
如前述,殘差產生單元204接收用於當前區塊和對應的預測區塊的視訊資料。隨後,殘差產生單元204為當前區塊產生殘差區塊。為了產生殘差區塊,殘差產生單元204計算在預測區塊與當前區塊之間的逐個取樣差。
變換處理單元206將一或多個變換應用於殘差區塊,以產生變換係數的區塊(本文中被稱為「變換係數區塊」)。變換處理單元206可以將各種變換應用於殘差區塊,以形成變換係數區塊。例如,變換處理單元206可以將離散餘弦變換(DCT)、方向變換、Karhunen-Loeve變換(KLT),或概念上類似的變換應用於殘差區塊。在一些實例中,變換處理單元206可以對殘差區塊執行多種變換,例如,主變換和二次變換(諸如,旋轉變換)。在一些實例中,變換處理單元206不對殘差區塊應用變換。
在一些實例中,變換處理單元206可以根據LFNST索引來執行LFNST。在一些實例中,變換處理單元206可以根據MTS索引來執行變換。在一些實例中,基於正在解析的視訊資料的區塊的所有亮度係數,變換處理單元206可以決定用於該區塊的至少一個語法元素。例如,變換處理單元206可以決定用於區塊的亮度係數的LFNST索引及/或MTS索引。在一些實例中,變換處理單元206可以經由將根據LFNST索引及/或MTS索引的變換應用於區塊的亮度係數,來對視訊資料的區塊進行變換。
在一些實例中,基於使用雙樹分割模式並且解析所有Cr係數和所有Cb係數,變換處理單元206可以決定至少一個語法元素。例如,變換處理單元206可以決定用於區塊的色度係數的LFNST索引及/或MTS索引。在一些實例中,變換處理單元206可以經由將根據LFNST索引及/或MTS索引的變換應用於區塊的Cr和Cb係數來對視訊資料的區塊進行編碼。
量化單元208可以對變換係數區塊中的變換係數進行量化,以產生經量化的變換係數區塊。量化單元208可以根據與當前區塊相關聯的QP值來對變換係數區塊的變換係數進行量化。視訊編碼器200(例如,經由模式選擇單元202)可以經由調整與CU相關聯的QP值來調整被應用於與當前區塊相關聯的變換係數區塊的量化程度。量化可能引起資訊損失,並且因此,經量化的變換係數可能具有與變換處理單元206所產生的原始變換係數相比更低的精度。
逆量化單元210和逆變換處理單元212可以將逆量化和逆變換分別應用於經量化的變換係數區塊,以從變換係數區塊重構殘差區塊。重構單元214可以基於經重構的殘差區塊和由模式選擇單元202產生的預測區塊來產生與當前區塊相對應的重構區塊(儘管潛在地具有某種程度的失真)。例如,重構單元214可以將經重構的殘差區塊的取樣與來自模式選擇單元202所產生的預測區塊的對應取樣相加,以產生經重構的區塊。在一些實例中,在視訊編碼器200中的解碼循環(例如,逆量化單元210、逆變換處理單元212和重構單元214)可以決定是否解析了視訊資料的區塊的所有亮度係數。在一些實例中,在視訊編碼器200中的解碼循環可以決定是否解析了所有Cr係數和所有Cb係數。如前述,可以由變換處理單元206使用該等決定。
濾波器單元216可以對經重構的區塊執行一或多個濾波器操作。例如,濾波器單元216可以執行去區塊操作以減少沿著CU的邊緣的區塊效應偽影。在一些實例中,可以跳過濾波器單元216的操作。
視訊編碼器200將經重構的區塊儲存在DPB 218中。例如,在其中不需要濾波器單元216的操作的實例中,重構單元214可以將經重構的區塊儲存到DPB 218中。在其中需要濾波器單元216的操作的實例中,濾波器單元216可以將經濾波的重構區塊儲存到DPB 218中。運動估計單元222和運動補償單元224可以從DPB 218取得由經重構的(並且潛在地經濾波的)區塊形成的參考圖片,以對後續編碼的圖片的區塊進行訊框間預測。另外,訊框內預測單元226可以使用在DPB 218中的當前圖片的經重構的區塊來對當前圖片中的其他區塊進行訊框內預測。
通常,熵編碼單元220可以對從視訊編碼器200的其他功能元件接收的語法元素進行熵編碼。例如,熵編碼單元220可以對來自量化單元208的經量化的變換係數區塊進行熵編碼。作為另一實例,熵編碼單元220可以對來自模式選擇單元202的預測語法元素(例如,用於訊框間預測的運動資訊或用於訊框內預測的訊框內模式資訊)進行熵編碼。熵編碼單元220可以對作為視訊資料的另一實例的語法元素執行一或多個熵編碼操作,以產生經熵編碼的資料。例如,熵編碼單元220可以執行上下文自我調整變長譯碼(CAVLC)操作、CABAC操作、可變-可變(V2V)長度譯碼操作、基於語法的上下文自我調整二進位算術譯碼(SBAC)操作、概率區間分割熵(PIPE)譯碼操作、指數哥倫布編碼操作,或對資料的另一種類型的熵編碼操作。在一些實例中,熵編碼單元220可以在其中語法元素未被熵編碼的旁路模式下操作。
視訊編碼器200可以輸出位元串流,其包括用於重構切片或圖片的區塊所需要的經熵編碼的語法元素。具體地,熵編碼單元220可以輸出位元串流。
關於區塊描述了上述操作。此種描述應當被理解為用於亮度譯碼區塊及/或色度譯碼區塊的操作。如前述,在一些實例中,亮度譯碼區塊和色度譯碼區塊是CU的亮度分量和色度分量。在一些實例中,亮度譯碼區塊和色度譯碼區塊是PU的亮度分量和色度分量。
在一些實例中,不需要針對色度譯碼區塊重複關於亮度譯碼區塊執行的操作。作為一個實例,不需要重複用於辨識用於亮度譯碼區塊的運動向量(MV)和參考圖片的操作來辨識用於色度區塊的MV和參考圖片。確切而言,可以對用於亮度譯碼區塊的MV進行縮放以決定用於色度區塊的MV,並且參考圖片可以是相同的。作為另一實例,對於亮度譯碼區塊和色度譯碼區塊,訊框內預測程序可以是相同的。
視訊編碼器200表示被配置為對視訊資料進行編碼的設備的實例,該設備包括:被配置為儲存視訊資料的記憶體;及一或多個處理器,其在電路系統中實現以及通訊地耦合到該記憶體並且被配置為:向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
視訊編碼器200亦表示被配置為對視訊資料進行編碼的設備的實例,該設備包括被配置為儲存視訊資料的記憶體以及一或多個處理器,該一或多個處理器在電路系統中實現以及通訊地耦合到該記憶體並且被配置為:決定是否使用雙樹分割模式用於對視訊資料的區塊進行譯碼;向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在經編碼的視訊位元串流中以信號發送所有色度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
圖4是圖示可以執行本案內容的技術的示例性視訊解碼器300的方塊圖。圖4是出於解釋的目的而提供的,並且不對在本案內容中泛泛地舉例說明和描述的技術進行限制。出於解釋的目的,本案內容根據VVC(正在開發的ITU-T H.266)和HEVC(ITU-T H.265)的技術,描述了視訊解碼器300。然而,本案內容的技術可以由被配置用於其他視訊譯碼標準的視訊譯碼設備來執行。
在圖4的實例中,視訊解碼器300包括經譯碼圖片緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和經解碼圖片緩衝器(DPB)314。CPB記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和DPB 134中的任何一者或全部可以在一或多個處理器中或者在處理電路系統中實現。例如,視訊解碼器300的單元可以被實現為一或多個電路或邏輯元件,作為硬體電路系統的一部分,或者作為處理器、ASIC或FPGA的一部分。此外,視訊解碼器300可以包括額外或替代的處理器或處理電路系統以執行該等和其他功能。
預測處理單元304包括運動補償單元316和訊框內預測單元318。預測處理單元304可以包括根據其他預測模式來執行預測的附加單元。作為實例,預測處理單元304可以包括調色板單元、區塊內複製單元(其可以形成運動補償單元316的一部分)、仿射單元、線性模型(LM)單元等。在其他實例中,視訊解碼器300可以包括更多、更少或不同的功能元件。
CPB記憶體320可以儲存要由視訊解碼器300的元件解碼的視訊資料,諸如經編碼的視訊位元串流。例如,可以從電腦可讀取媒體110(圖1)獲得被儲存在CPB記憶體320中的視訊資料。CPB記憶體320可以包括儲存來自經編碼的視訊位元串流的經編碼的視訊資料(例如,語法元素)的CPB。此外,CPB記憶體320可以儲存除了經譯碼的圖片的語法元素之外的視訊資料,諸如表示來自視訊解碼器300的各個單元的輸出的臨時資料。DPB 314通常儲存經解碼的圖片,視訊解碼器300可以輸出經解碼的圖片,及/或在解碼經編碼的視訊位元串流的後續資料或圖片時使用經解碼的圖片作為參考視訊資料。CPB記憶體320和DPB 314可以由各種記憶體設備中的任何一種形成,諸如,DRAM(包括SDRAM)、MRAM、RRAM,或者其他類型的記憶體設備。CPB記憶體320和DPB 314可以由相同的記憶體設備或單獨的記憶體設備來提供。在各個實例中,CPB記憶體320可以與視訊解碼器300的其他元件在晶片上,或者相對於彼等元件在晶片外。
補充或替代地,在一些實例中,視訊解碼器300可以從記憶體120(圖1)取得經譯碼的視訊資料。亦即,記憶體120可以如上文所論述地利用CPB記憶體320來儲存資料。同樣,當視訊解碼器300的一些或全部功能是用要被視訊解碼器300的處理電路系統執行的軟體來實現時,記憶體120可以儲存要被視訊解碼器300執行的指令。
圖示圖4中圖示的各個單元以幫助理解由視訊解碼器300執行的操作。該等單元可以被實現為固定功能電路、可程式設計電路,或其組合。類似於圖3,固定功能電路代表提供特定功能並且關於可以執行的操作而預先設置的電路。可程式設計電路代表可以被程式設計以執行各種任務並且以可以執行的操作來提供靈活功能的電路。例如,可程式設計電路可以執行軟體或韌體,軟體或韌體使得可程式設計電路以軟體或韌體的指令所定義的方式進行操作。固定功能電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能電路執行的操作的類型通常是不可變的。在一些實例中,該等單元中的一或多個單元可以是不同的電路區塊(固定功能或可程式設計),並且在一些實例中,該等單元中的一或多個單元可以是積體電路。
視訊解碼器300可以包括由可程式設計電路形成的ALU、EFU、數位電路、類比電路及/或可程式設計核。在其中由在可程式設計電路上執行的軟體執行視訊解碼器300的操作的實例中,晶片上或晶片外記憶體可以儲存視訊解碼器300接收並且執行的軟體的指令(例如,目標代碼)。
熵解碼單元302可以從CPB接收經編碼的視訊資料,並且對視訊資料進行熵解碼以重構語法元素。預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310和濾波器單元312可以基於從位元串流中提取的語法元素來產生經解碼的視訊資料。
通常,視訊解碼器300逐個區塊地重構圖片。視訊解碼器300可以單獨地對每個區塊執行重構操作(其中當前正在被重構(亦即,被解碼)的區塊可以被稱為「當前區塊」)。
熵解碼單元302可以對定義經量化的變換係數區塊的經量化的變換係數的語法元素以及諸如量化參數(QP)及/或變換模式指示之類的變換資訊進行熵解碼。在一些實例中,熵解碼單元302可以對視訊資料的區塊的所有亮度係數進行解析。熵解碼單元302可在對區塊的所有亮度係數進行解析之後對至少一個語法元素(例如,LFNST索引或MTS索引)進行解析。在一些實例中,熵解碼單元302可以決定是否使用雙樹分割模式來對視訊資料的區塊進行譯碼(例如,經由對語法元素進行解析)。在此種實例中,熵解碼單元302可以對視訊資料的區塊的所有色度係數進行解析。熵解碼單元302可以在對區塊的所有色度係數進行解析之後對至少一個語法元素(例如,LFNST索引或MTS索引)進行解析。
逆量化單元306可以使用與經量化的變換係數區塊相關聯的QP來決定量化程度,並且同樣地,決定供逆量化單元306應用的逆量化程度。逆量化單元306可以例如執行按位元左移操作以對經量化的變換係數進行逆量化。逆量化單元306從而可以形成包括變換係數的變換係數區塊。在一些實例中,逆量化單元306。
在逆量化單元306形成變換係數區塊之後,逆變換處理單元308可以將一或多個逆變換應用於變換係數區塊,以產生與當前區塊相關聯的殘差區塊。例如,逆變換處理單元308可以將逆DCT、逆整數變換、逆Karhunen-Loeve變換(KLT)、逆旋轉變換、逆方向變換或另一逆變換應用於變換係數區塊。在一些實例中,逆變換處理單元308可以根據LFNST索引來應用LFNST及/或根據MTS索引來應用變換。在下文更詳細地描述LFNST和MTS。
此外,預測處理單元304根據由熵解碼單元302進行熵解碼的預測資訊語法元素來產生預測區塊。例如,若預測資訊語法元素指示當前區塊是經訊框間預測的,則運動補償單元316可以產生預測區塊。在此種情況下,預測資訊語法元素可以指示在DPB 314中的要從其取得參考區塊的參考圖片,以及辨識相對於當前區塊在當前圖片中的位置而言參考區塊在參考圖片中的位置的運動向量。運動補償單元316通常可以以與關於運動補償單元224(圖3)所描述的方式基本類似的方式來執行訊框間預測程序。
作為另一實例,若預測資訊語法元素指示當前區塊是經訊框內預測的,則訊框內預測單元318可以根據由預測資訊語法元素指示的訊框內預測模式來產生預測區塊。再次,訊框內預測單元318通常可以以與關於訊框內預測單元226(圖3)所描述的方式基本上類似的方式來執行訊框內預測程序。訊框內預測單元318可以從DPB 314取得當前區塊的相鄰取樣的資料。
重構單元310可以使用預測區塊和殘差區塊來重構當前區塊。例如,重構單元310可以將殘差區塊的取樣與預測區塊的對應取樣相加來重構當前區塊。
濾波器單元312可以對經重構的區塊執行一或多個濾波器操作。例如,濾波器單元312可以執行去區塊操作以減少沿著經重構的區塊的邊緣的區塊效應偽影。不一定在所有實例中皆執行濾波器單元312的操作。
視訊解碼器300可以將經重構的區塊儲存在DPB 314中。例如,在不執行濾波器單元312的操作的實例中,重構單元310可將重構區塊儲存到DPB 314。在執行濾波器單元312的操作的實例中,濾波器單元312可以將濾波後的重構區塊儲存到DPB 314。如上所論述的,DPB 314可以將參考資訊(諸如用於訊框內預測的當前圖片以及用於後續運動補償的先前解碼的圖片的取樣)提供給預測處理單元304。此外,視訊解碼器300可以從DPB 314輸出經解碼的圖片(例如,經解碼的視訊),以用於在諸如圖1的顯示設備118之類的顯示設備上的後續呈現。
經由此種方式,視訊解碼器300表示視訊解碼設備的實例,其包括:記憶體,其被配置為儲存視訊資料,以及一或多個處理器,該一或多個處理器在電路系統中實現以及通訊地耦合到該記憶體並且被配置為:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中解析該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
視訊解碼器300亦表示視訊解碼設備的實例,該視訊解碼設備包括被配置為儲存視訊資料的記憶體,以及一或多個處理器,該一或多個處理器在電路系統中實現並通訊地耦合到該記憶體並且被配置為:決定是否使用雙樹分割模式來對視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數;在經編碼的視訊位元串流中解析所有色度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
在HEVC之前的視訊譯碼標準中,僅有固定可分離變換(例如,DCT-2)垂直地和水平地應用於對視訊資料的區塊進行變換。在HEVC中,除了DCT-2以外,DST-7亦用於4×4區塊,作為固定可分離變換。
下文的美國專利和共同待決的美國專利申請案描述了多重變換選擇(MTS)技術:於2019年5月28日公告的美國專利案第10,306,229和於2019年5月30日提出申請的美國專利申請案第16/426,749。MTS以前被稱為自我調整多重變換(AMT)。MTS技術是與先前描述的AMT技術大體上相同的。聯合視訊專家組(JVET)的聯合實驗模型(JEM-7.0)中已經採納於2019年5月30日提出申請的美國專利申請案第16/426,749中描述的MTS的實例(參見ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET),JEM軟體),並且後來在VVC中採用了MTS的簡化版本。
圖5是圖示視訊編碼器(例如,視訊編碼器200)和視訊解碼器(例如,視訊解碼器300)上的低頻不可分離變換(LFNST)的實例的概念圖。在圖5的實例中,在視訊編碼器上的可分離變換和量化之間以及在視訊解碼器上的逆量化和逆變換(逆LFNST)之間的階段引入了LFNST。例如,視訊編碼器200的變換處理單元206可以包括圖5的示例性LFNST,並且視訊解碼器300的逆變換處理單元308可以包括圖5的示例性逆LFNST。如圖5中所示,LFNST用於JEM-7.0中,以便進一步提高MTS的譯碼效率,其中LFNST的實現方式是基於在2019年10月15日公告的美國專利案第10,448,053中描述的示例性Hyper-Cube Givens變換(HyGT)。於2019年11月26日公告的美國專利案第10,491,922、於2019年7月9日公告的美國專利案第10,349,085和於2019年9月26日揭示的美國專利公開案第2019/0297351-A1描述了其他示例性設計和進一步細節。此外,LFNST已經在VVC標準中採用。參見ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET)於2019年10月1-11日在瑞士日內瓦的第14次會議,Koo等人的「CE6: Reduced Secondary Transform (RST) (CE6-3.1)」,JVET-N0193。應當注意,LFNST以前被稱為不可分離二次變換(NSST)或使用相同縮寫的二次變換。
現在描述使用LFNST的解碼程序。圖6是圖示當使用LFNST時的逆變換技術的實例的方塊圖。例如,視訊解碼器300可以採用圖6的逆變換處理。具有LFNST的逆變換技術涉及如圖6中所示的以下步驟。
例如,視訊解碼器300可以經由經由預定掃瞄/排序首先將2-D區塊轉換為係數的1-D列表(或向量),來將經解碼的變換係數(子區塊400)用作逆LFNST的輸入。視訊解碼器300可將逆LFNST應用於輸入係數的1-D列表,並且經由預定掃瞄/排序將輸出係數重新組織成2-D區塊(子區塊410)。視訊解碼器300可以將逆變換LFNST係數用作可分離逆DCT-2的輸入以獲得重構殘差420。
在VVC草案8中,LFNST可以應用於4×4和8×8子區塊。例如,視訊編碼器200可以將LFNST應用於4×4和8×8子區塊,或者視訊解碼器300可以將逆LFNST應用於4×4和8×8子區塊。對於視訊解碼器300,在4×4子區塊和8×8子區塊的兩種情況下,將4×4子區塊中的16個解碼係數(其中一些解碼係數可以規範地歸零)輸入到逆LFNST。
圖7是用於從16個輸入係數的列表重新構建16個中間係數的4×4逆LFNST的概念圖。對於4×4的情況,如圖7所示,在可分離逆DCT-2之前,使用16×16逆LFNST來構建16個中間係數430。
圖8是用於重新構建48個中間係數以形成16個輸入係數的列表的8×8逆LFNST的概念圖。對於8×8子區塊的情況,視訊解碼器300可以在應用可分離逆DCT-2之前使用16×48逆LFNST來構建48個中間係數440,如圖8中所示。注意,48個中間係數是以L形模式進行重組的。
可以基於(i)變換(例如,LFNST)矩陣和(ii)針對中間係數的重組模式/掃瞄,來完全定義逆LFNST程序。在2020年5月13日提出申請的美國專利申請案第15/931,271中論述了VVC草案8中的歸零程序的細節。
對於4×4 LFNST,根據訊框內模式來使用以下兩種模式/掃瞄: const int g_lfnstRGScan4x4[16] = { // 0   1   2   3   4   5   6   7   8   9  10  11  12  13  14  15 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15 }; const int g_lfnstRGTranScan4x4[16] = { // 0   1   2   3   4   5   6   7   8   9  10  11  12  13  14  15 0,  4,  8, 12,  1,  5,  9, 13,  2,  6, 10, 14,  3,  7, 11, 15 }; 其中以上兩種模式/掃瞄指示了中間係數的重新排序。例如,g_lfnstRGScan4x4不會改變行或執行係數的主重新排序。但是,lfnstRGTranScan4x4經由對係數的順序進行轉置來對係數進行重新排序(例如,分別將位於1、2、3、6、7和11處的係數與位於4、8、12、9、13和14處的係數進行交換)。
對於4×4 LFNST,根據VVC草案8,8個16×16矩陣用作候選,該等矩陣在ITU-T SG 16 WP 3 和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET)於2019年7月3-12日在瑞典哥德堡的第15次會議,Bross等人的「Versatile Video Coding (Draft 6)」,JVET-O2001-vE(以下簡稱「VVC草案6」)的第8.7.4.3節中列出。
對於8×8 LFNST,根據訊框內模式來使用以下兩種模式/掃瞄: const int g_lfnstRGScan8x8    [48] = { // 0   1   2   3   4   5   6   7   8   9  10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  37  38  39  40  41  42  43  44  45  46  47 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 40, 41, 42, 43, 48, 49, 50, 51, 56, 57, 58, 59 }; const int g_lfnstRGTranScan8x8[48] = { // 0   1   2   3   4   5   6   7   8   9  10  11  12  13  14  15  16  17  18  19  20  21  22  23  24  25  26  27  28  29  30  31  32  33  34  35  36  37  38  39  40  41  42  43  44  45  46  47 0,  8, 16, 24, 32, 40, 48, 56,  1,  9, 17, 25, 33, 41, 49, 57,  2, 10, 18, 26, 34, 42, 50, 58,  3, 11, 19, 27, 35, 43, 51, 59,  4, 12, 20, 28,  5, 13, 21, 29,  6, 14, 22, 30,  7, 15, 23, 31 }; 其中以上兩種模式/掃瞄指示了中間係數的重新排序。具體地,g_lfnstRGScan8x8以L形圖案重組48個中間係數(例如,第48個係數被映射到圖8中的位置59)。掃瞄lfnstRGTranScan4x4經由對係數進行轉置(例如,將第48個係數映射到圖8中的位置31)來對L形模式進行重新排序。
對於8×8 LFNST,在VVC草案8中,8個16×48矩陣用作候選,此情形亦在VVC草案6的第8.7.4.3節中列出。
在VVC草案8中(使用參考軟體VTM-8.0),在以CU級別進行殘差譯碼之後執行變換相關信號傳遞,並且依賴於譯碼係數的位置。此種依賴引入了額外的時延,此舉對於兩階段LFNST處理可能會有影響,因為對LFNST索引的解析和(逆)變換處理可能僅在對來自所有顏色分量的係數進行解碼之後才開始。本案內容描述了視訊編碼器200更早地(例如,與VVC草案8相比)以TU級別以信號發送變換語法元素,並且視訊解碼器300更早地(例如,與VVC草案8相比)以TU級別對變換語法元素進行解析。TU級,以便減輕或減少LFNST處理的時延。
根據VVC草案8,在以譯碼單元(CU)級別對所有顏色分量進行殘差譯碼之後,以信號發送MTS索引和LFNST索引(mts_idx和lfnst_idx),如下所示: 譯碼單元語法
coding_unit( x0, y0, cbWidth, cbHeight, cqtDepth, treeType, modeType ) { 描述符
   chType = treeType = = DUAL_TREE_CHROMA ? 1 : 0  
   if( slice_type  !=  I  | |  sps_ibc_enabled_flag ) {  
      if( treeType  !=  DUAL_TREE_CHROMA  &&            ( ( !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&            modeType  !=  MODE_TYPE_INTRA )  | |            ( sps_ibc_enabled_flag  &&  cbWidth  <=  64  &&  cbHeight  <=  64 ) ) )  
        cu_skip_flag[ x0 ][ y0 ] ae(v)
      if( cu_skip_flag[ x0 ][ y0 ]  = =  0  &&  slice_type  !=  I  &&            !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&  modeType  = =  MODE_TYPE_ALL )  
        pred_mode_flag ae(v)
         …  
      if( sps_act_enabled_flag  &&  CuPredMode[ chType ][ x0 ][ y0 ]  !=  MODE_INTRA  &&            treeType  = =  SINGLE_TREE )  
        cu_act_enabled_flag ae(v)
      LfnstDcOnly = 1  
      LfnstZeroOutSigCoeffFlag = 1  
      MtsDcOnly = 1  
      MtsZeroOutSigCoeffFlag = 1  
      transform_tree( x0, y0, cbWidth, cbHeight, treeType, chType )  
      lfnstWidth = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbWidth / SubWidthC :                        ( ( IntraSubPartitionsSplitType  = =  ISP_VER_SPLIT ) ?                          cbWidth / NumIntraSubPartitions : cbWidth )  
      lfnstHeight = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbHeight / SubHeightC :                        ( ( IntraSubPartitionsSplitType  = =  ISP_HOR_SPLIT) ?                          cbHeight / NumIntraSubPartitions : cbHeight )  
      lfnstNotTsFlag = ( treeType  = =  DUAL_TREE_CHROMA  | |                              transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0 )  &&                           ( treeType  = =  DUAL_TREE_LUMA  | |                              ( transform_skip_flag[ x0 ][ y0 ][ 1 ]  = =  0  &&                                transform_skip_flag[ x0 ][ y0 ][ 2 ]  = =  0 ) )  
   
      if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&            CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  lfnstNotTsFlag  = =  1  &&            ( treeType  = =  DUAL_TREE_CHROMA  | |  !intra_mip_flag[ x0 ][ y0 ]  | |               Min( lfnstWidth, lfnstHeight )  >=  16 )   &&            Max( cbWidth, cbHeight )  <=  MaxTbSizeY) {  
        if( ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  LfnstDcOnly  = =  0 )  &&               LfnstZeroOutSigCoeffFlag  = =  1 )  
           lfnst_idx ae(v)
      }  
      if( treeType  !=  DUAL_TREE_CHROMA  &&  lfnst_idx  = =  0  &&            transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  &&  Max( cbWidth, cbHeight )  <=  32  &&            IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  cu_sbt_flag  = =  0  &&            MtsZeroOutSigCoeffFlag  = =  1  &&  MtsDcOnly  = =  0 ) {  
        if( ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&               sps_explicit_mts_inter_enabled_flag )  | |               ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&               sps_explicit_mts_intra_enabled_flag ) ) )  
           mts_idx ae(v)
      }  
   }  
}  
VVC草案8中的變換信號傳遞設計需要諸如視訊解碼器300之類的視訊解碼器首先對來自所有分量的所有係數進行解碼,並且隨後解析lfnst_idx和mts_idx語法元素。該變換信號傳遞設計可能在某些共用解碼器流水線中(尤其是在LFNST中)(例如視訊解碼器300)引入過多的時延,因為在解碼器對來自所有元件的係數進行解碼之前,逆變換程序可能不開始。本案內容經由更早地以TU級別以信號發送必要的變換語法元素來解決該問題。以下部分描述了根據本案內容的技術的對VVC草案8的提議的更改。
為了減少變換程序中的時延,本案內容描述了變換語法元素(例如,lfnst_idx和mts_idx)的移動信號傳遞,使得可以在以TU對必要的顏色分量的係數進行解碼之後立即解析變換語法元素。為了實現該點,描述了以下更改以用於對亮度和色度TB進行譯碼。
亮度TB譯碼:在對亮度區塊進行譯碼時,可以在解析所有必要的亮度係數之後立即以信號發送lfnst_idx和mts_idx語法元素。例如,視訊編碼器200可以在所有必要的亮度係數之後立即以信號發送lfnst_idx和mts_idx語法元素,並且視訊解碼器300可以從位元串流中解析lfnst_idx和mts_idx語法元素以便決定lfnst_idx和mts_idx語法元素。因此,若使用訊框內子分割(ISP),則視訊編碼器200可以在解析來自所有TU的亮度係數之後立即以信號發送lfnst_idx(例如,用經由ISP獲得的上一個TU以信號發送lfnst_index)。例如,視訊編碼器200可以基於在視訊編碼器200的解碼循環(例如,逆量化單元210、逆變換處理單元212等)中解析亮度係數來決定何時解析來自所有TU的亮度係數。
色度TB譯碼:在對色度區塊進行譯碼時,僅對於分離樹(雙樹)分割模式才需要lfnst_idx(在所有其他情況中,禁用並且不以信號發送MTS和LFNST兩者)。因此,視訊編碼器200可以在解析Cr和Cb分量的係數之後立即以信號發送lfnst_idx。例如,視訊編碼器200可以基於在視訊編碼器200的解碼循環中解析Cr和Cb係數來決定何時解析Cr和Cb分量兩者的係數。
該等信號傳遞技術亦可以用於存在多個TU分離的情況,以便在解析所有必要的亮度係數之後立即以信號發送變換元素。因此,可以在解析上一個TU的亮度/色度分量的係數之後執行變換信號傳遞。例如,視訊編碼器200可以在解析上一個TU的亮度/色度分量的係數之後執行變換信號傳遞。
舉另一個實例,於2020年9月23日提出申請的美國專利申請案第17/029,416並主張於2019年9月26日提出申請的美國臨時專利申請案第62/906,671的優先權,揭示在分離樹分割模式中去除用於色度的LFNST以進一步降低了複雜度並與VVC草案8設計保持一致,其中在單樹分割模式中禁用用於色度的LFNST。若完全禁用用於色度的LFNST,則上文論述的色度TB譯碼項變得不必要,並且可以被去除。在此種情況下,VVC草案8可以如下更改,其中(i)以<ADD TU>標記的添加的開始和以</ADD TU>標記的添加的結束表示與將語法元素從CU級別移動到TU級別有關的添加,而以<DELETE TU>標記的刪除的開始和以</DELETE TU>標記的刪除的結束表示與將語法元素從CU級別移動到TU級別有關的刪除,以及(ii)以<CHANGE>標記的更改的開始和以</CHANGE>標記的更改的結束表示額外的更改,而以<DELETE>標記的刪除的開始和以</DELETE>標記的刪除的結束表示額外的刪除(例如,與處理其中使用ISP的情況有關的更改):
coding_unit( x0, y0, cbWidth, cbHeight, cqtDepth, treeType, modeType ) { 描述符
     chType = treeType = = DUAL_TREE_CHROMA ? 1 : 0  
     if( slice_type  !=  I  | |  sps_ibc_enabled_flag ) {  
          if( treeType  !=  DUAL_TREE_CHROMA  &&                    ( ( !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&                    modeType  !=  MODE_TYPE_INTRA )  | |                    ( sps_ibc_enabled_flag  &&  cbWidth  <=  64  &&  cbHeight  <=  64 ) ) )  
              cu_skip_flag[ x0 ][ y0 ] ae(v)
          if( cu_skip_flag[ x0 ][ y0 ]  = =  0  &&  slice_type  !=  I  &&                    !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&  modeType  = =  MODE_TYPE_ALL )  
              pred_mode_flag ae(v)
          if( ( ( slice_type  = =  I  &&  cu_skip_flag[ x0 ][ y0 ] = =0 )  | |                    ( slice_type  !=  I  &&  ( CuPredMode[ chType ][ x0 ][ y0 ] !=  MODE_INTRA  | |                    ( ( ( cbWidth  = =  4  &&  cbHeight  = =  4 )  | |  modeType  = = MODE_TYPE_INTRA )                         &&  cu_skip_flag[ x0 ][ y0 ]  = =  0 ) ) ) )  &&                    cbWidth  <=  64  &&  cbHeight  <= 64  &&  modeType  !=  MODE_TYPE_INTER  &&                    sps_ibc_enabled_flag  &&  treeType  !=  DUAL_TREE_CHROMA )  
              pred_mode_ibc_flag ae(v)
     }  
     if( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  sps_palette_enabled_flag  &&               cbWidth  <=  64  &&  cbHeight  <=  64  &&  cu_skip_flag[ x0 ][ y0 ]  = =  0  &&               modeType  !=  MODE_TYPE_INTER  &&  ( ( cbWidth * cbHeight ) >                ( treeType  !=  DUAL_TREE_CHROMA ? 16 : 16 * SubWidthC * SubHeightC ) ) )  
          pred_mode_plt_flag ae(v)
     if( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  sps_act_enabled_flag  &&               treeType  = =  SINGLE_TREE )  
          cu_act_enabled_flag ae(v)
     if( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  | |               CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_PLT ) {  
          if( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_LUMA ) {  
              if( pred_mode_plt_flag )  
                   palette_coding( x0, y0, cbWidth, cbHeight, treeType )  
              else {  
                   if( sps_bdpcm_enabled_flag  &&                              cbWidth  <=  MaxTsSize  &&  cbHeight  <=  MaxTsSize )  
                        intra_bdpcm_luma_flag ae(v)
                   if( intra_bdpcm_luma_flag )  
                        intra_bdpcm_luma_dir_flag ae(v)
                   else {  
                        if( sps_mip_enabled_flag )  
                             intra_mip_flag[ x0 ][ y0 ] ae(v)
                        if( intra_mip_flag[ x0 ][ y0 ] ) {  
                             intra_mip_transposed_flag[ x0 ][ y0 ] ae(v)
                             intra_mip_mode[ x0 ][ y0 ] ae(v)
                        } else {  
                             if( sps_mrl_enabled_flag  &&  ( ( y0 % CtbSizeY ) > 0 ) )  
                                  intra_luma_ref_idx[ x0 ][ y0 ] ae(v)
                             if( sps_isp_enabled_flag  &&  intra_luma_ref_idx[ x0 ][ y0 ]  = =  0  &&                                       ( cbWidth  <=  MaxTbSizeY  &&  cbHeight  <=  MaxTbSizeY )  &&                                       ( cbWidth * cbHeight > MinTbSizeY * MinTbSizeY )  &&                                       !cu_act_enabled_flag )  
                                  intra_subpartitions_mode_flag[ x0 ][ y0 ] ae(v)
                             if( intra_subpartitions_mode_flag[ x0 ][ y0 ]  = =  1 )  
                                  intra_subpartitions_split_flag[ x0 ][ y0 ] ae(v)
                             if( intra_luma_ref_idx[ x0 ][ y0 ]  = =  0 )  
                                  intra_luma_mpm_flag[ x0 ][ y0 ] ae(v)
                             if( intra_luma_mpm_flag[ x0 ][ y0 ] ) {  
                                  if( intra_luma_ref_idx[ x0 ][ y0 ]  = =  0 )  
                                      intra_luma_not_planar_flag[ x0 ][ y0 ] ae(v)
                                  if( intra_luma_not_planar_flag[ x0 ][ y0 ] )  
                                      intra_luma_mpm_idx[ x0 ][ y0 ] ae(v)
                             } else  
                                  intra_luma_mpm_remainder[ x0 ][ y0 ] ae(v)
                        }  
                   }  
              }  
          }  
          if( ( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_CHROMA ) &&                    ChromaArrayType  !=  0 ) {  
              if( pred_mode_plt_flag   &&  treeType  = =  DUAL_TREE_CHROMA )  
                   palette_coding( x0, y0, cbWidth / SubWidthC, cbHeight / SubHeightC, treeType )  
              else if( !pred_mode_plt_flag ) {  
                   if( !cu_act_enabled_flag ) {  
                        if( cbWidth / SubWidthC  <=  MaxTsSize  &&  cbHeight / SubHeightC  <=  MaxTsSize                                   &&  sps_bdpcm_enabled_flag )  
                             intra_bdpcm_chroma_flag ae(v)
                        if( intra_bdpcm_chroma_flag )  
                             intra_bdpcm_chroma_dir_flag ae(v)
                        else {  
                             if( CclmEnabled )  
                                  cclm_mode_flag ae(v)
                             if( cclm_mode_flag )  
                                  cclm_mode_idx ae(v)
                             else  
                                  intra_chroma_pred_mode ae(v)
                        }  
                   }  
              }  
          }  
     } else if( treeType  !=  DUAL_TREE_CHROMA ) { /* MODE_INTER or MODE_IBC */  
          if( cu_skip_flag[ x0 ][ y0 ]  = =  0 )  
              general_merge_flag[ x0 ][ y0 ] ae(v)
          if( general_merge_flag[ x0 ][ y0 ] )  
              merge_data( x0, y0, cbWidth, cbHeight, chType )  
          else if( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_IBC ) {  
              mvd_coding( x0, y0, 0, 0 )  
              if( MaxNumIbcMergeCand > 1 )  
                   mvp_l0_flag[ x0 ][ y0 ] ae(v)
              if( sps_amvr_enabled_flag  &&                         ( MvdL0[ x0 ][ y0 ][ 0 ]  !=  0  | |  MvdL0[ x0 ][ y0 ][ 1 ]  !=  0 ) )  
                   amvr_precision_idx[ x0 ][ y0 ] ae(v)
          } else {  
              if( slice_type  = =  B )  
                   inter_pred_idc[ x0 ][ y0 ] ae(v)
              if( sps_affine_enabled_flag  &&  cbWidth  >=  16  &&  cbHeight  >=  16 ) {  
                   inter_affine_flag[ x0 ][ y0 ] ae(v)
                   if( sps_affine_type_flag  &&  inter_affine_flag[ x0 ][ y0 ] )  
                        cu_affine_type_flag[ x0 ][ y0 ] ae(v)
              }  
              if( sps_smvd_enabled_flag  &&  !mvd_l1_zero_flag  &&                         inter_pred_idc[ x0 ][ y0 ]  = =  PRED_BI  &&                         !inter_affine_flag[ x0 ][ y0 ]  &&  RefIdxSymL0 > −1  &&  RefIdxSymL1 > −1 )  
                   sym_mvd_flag[ x0 ][ y0 ] ae(v)
              if( inter_pred_idc[ x0 ][ y0 ]  !=  PRED_L1 ) {  
                   if( NumRefIdxActive[ 0 ] > 1  &&  !sym_mvd_flag[ x0 ][ y0 ] )  
                        ref_idx_l0[ x0 ][ y0 ] ae(v)
                   mvd_coding( x0, y0, 0, 0 )  
                   if( MotionModelIdc[ x0 ][ y0 ] > 0 )  
                        mvd_coding( x0, y0, 0, 1 )  
                   if(MotionModelIdc[ x0 ][ y0 ] > 1 )  
                        mvd_coding( x0, y0, 0, 2 )  
                   mvp_l0_flag[ x0 ][ y0 ] ae(v)
              } else {  
                   MvdL0[ x0 ][ y0 ][ 0 ] = 0  
                   MvdL0[ x0 ][ y0 ][ 1 ] = 0  
              }  
              if( inter_pred_idc[ x0 ][ y0 ]  !=  PRED_L0 ) {  
                   if( NumRefIdxActive[ 1 ] > 1  &&  !sym_mvd_flag[ x0 ][ y0 ] )  
                        ref_idx_l1[ x0 ][ y0 ] ae(v)
                   if( mvd_l1_zero_flag  &&  inter_pred_idc[ x0 ][ y0 ]  = =  PRED_BI ) {  
                        MvdL1[ x0 ][ y0 ][ 0 ] = 0  
                        MvdL1[ x0 ][ y0 ][ 1 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 0 ][ 0 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 0 ][ 1 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 1 ][ 0 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 1 ][ 1 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 2 ][ 0 ] = 0  
                        MvdCpL1[ x0 ][ y0 ][ 2 ][ 1 ] = 0  
                   } else {  
                        if( sym_mvd_flag[ x0 ][ y0 ] ) {  
                             MvdL1[ x0 ][ y0 ][ 0 ] = −MvdL0[ x0 ][ y0 ][ 0 ]  
                             MvdL1[ x0 ][ y0 ][ 1 ] = −MvdL0[ x0 ][ y0 ][ 1 ]  
                        } else  
                             mvd_coding( x0, y0, 1, 0 )  
                        if( MotionModelIdc[ x0 ][ y0 ] > 0 )  
                             mvd_coding( x0, y0, 1, 1 )  
                        if(MotionModelIdc[ x0 ][ y0 ] > 1 )  
                             mvd_coding( x0, y0, 1, 2 )  
                   }  
                   mvp_l1_flag[ x0 ][ y0 ] ae(v)
              } else {  
                   MvdL1[ x0 ][ y0 ][ 0 ] = 0  
                   MvdL1[ x0 ][ y0 ][ 1 ] = 0  
              }  
              if( ( sps_amvr_enabled_flag  &&  inter_affine_flag[ x0 ][ y0 ]  = =  0  &&                         ( MvdL0[ x0 ][ y0 ][ 0 ]  !=  0  | |  MvdL0[ x0 ][ y0 ][ 1 ]  !=  0  | |                         MvdL1[ x0 ][ y0 ][ 0 ]  !=  0  | |  MvdL1[ x0 ][ y0 ][ 1 ]  !=  0 ) )  | |                         ( sps_affine_amvr_enabled_flag  &&  inter_affine_flag[ x0 ][ y0 ]  = =  1  &&                         ( MvdCpL0[ x0 ][ y0 ][ 0 ][ 0 ]  !=  0  | |  MvdCpL0[ x0 ][ y0 ][ 0 ][ 1 ]  !=  0  | |                         MvdCpL1[ x0 ][ y0 ][ 0 ][ 0 ]  !=  0  | |  MvdCpL1[ x0 ][ y0 ][ 0 ][ 1 ]  !=  0  | |                         MvdCpL0[ x0 ][ y0 ][ 1 ][ 0 ]  !=  0  | |  MvdCpL0[ x0 ][ y0 ][ 1 ][ 1 ]  !=  0  | |                         MvdCpL1[ x0 ][ y0 ][ 1 ][ 0 ]  !=  0  | |  MvdCpL1[ x0 ][ y0 ][ 1 ][ 1 ]  !=  0  | |                         MvdCpL0[ x0 ][ y0 ][ 2 ][ 0 ]  !=  0  | |  MvdCpL0[ x0 ][ y0 ][ 2 ][ 1 ]  !=  0  | |                         MvdCpL1[ x0 ][ y0 ][ 2 ][ 0 ]  !=  0  | |  MvdCpL1[ x0 ][ y0 ][ 2 ][ 1 ]  !=  0 ) ) {  
                   amvr_flag[ x0 ][ y0 ] ae(v)
                   if( amvr_flag[ x0 ][ y0 ] )  
                        amvr_precision_idx[ x0 ][ y0 ] ae(v)
              }  
              if( sps_bcw_enabled_flag  &&  inter_pred_idc[ x0 ][ y0 ]  = =  PRED_BI  &&                         luma_weight_l0_flag[ ref_idx_l0 [ x0 ][ y0 ] ]  = =  0  &&                         luma_weight_l1_flag[ ref_idx_l1 [ x0 ][ y0 ] ]  = =  0  &&                         chroma_weight_l0_flag[ ref_idx_l0 [ x0 ][ y0 ] ]  = =  0  &&                         chroma_weight_l1_flag[ ref_idx_l1 [ x0 ][ y0 ] ]  = =  0  &&                         cbWidth * cbHeight  >=  256 )  
                   bcw_idx[ x0 ][ y0 ] ae(v)
          }  
     }  
     if( CuPredMode[ chType ][ x0 ][ y0 ]  !=  MODE_INTRA  && !pred_mode_plt_flag  &&               general_merge_flag[ x0 ][ y0 ]  = =  0 )  
          cu_coded_flag ae(v)
     if( cu_coded_flag ) {  
          if( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&  sps_sbt_enabled_flag  &&                !ciip_flag[ x0 ][ y0 ]  &&  cbWidth  <=  MaxTbSizeY  &&  cbHeight  <=  MaxTbSizeY ) {  
              allowSbtVerH  =  cbWidth  >=  8  
              allowSbtVerQ  =  cbWidth  >=  16  
              allowSbtHorH  =  cbHeight  >=  8  
              allowSbtHorQ  =  cbHeight  >=  16  
              if( allowSbtVerH  | |  allowSbtHorH )  
                   cu_sbt_flag ae(v)
              if( cu_sbt_flag ) {  
                   if( ( allowSbtVerH  | |  allowSbtHorH )  &&  ( allowSbtVerQ  | |  allowSbtHorQ ) )  
                        cu_sbt_quad_flag ae(v)
                   if( ( cu_sbt_quad_flag  &&  allowSbtVerQ  &&  allowSbtHorQ )  | |                              ( !cu_sbt_quad_flag  &&  allowSbtVerH  &&  allowSbtHorH ) )  
                        cu_sbt_horizontal_flag ae(v)
                   cu_sbt_pos_flag ae(v)
              }  
          }  
          if( sps_act_enabled_flag  &&  CuPredMode[ chType ][ x0 ][ y0 ]  !=  MODE_INTRA  &&                    treeType  = =  SINGLE_TREE )  
              cu_act_enabled_flag ae(v)
          LfnstDcOnly = 1  
          LfnstZeroOutSigCoeffFlag = 1  
          MtsDcOnly = 1  
          MtsZeroOutSigCoeffFlag = 1  
        <CHANGE> ISPTuFlag = 1 </CHANGE>  
          transform_tree( x0, y0, cbWidth, cbHeight, treeType, chType )  
          <DELETE TU> lfnstWidth = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbWidth / SubWidthC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_VER_SPLIT ) ?                                            cbWidth / NumIntraSubPartitions : cbWidth )  
          lfnstHeight = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbHeight / SubHeightC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_HOR_SPLIT) ?                                            cbHeight / NumIntraSubPartitions : cbHeight )  
          lfnstNotTsFlag = ( treeType  = =  DUAL_TREE_CHROMA  | |                                                  transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0 )  &&                                             ( treeType  = =  DUAL_TREE_LUMA  | |                                                  ( transform_skip_flag[ x0 ][ y0 ][ 1 ]  = =  0  &&                                                    transform_skip_flag[ x0 ][ y0 ][ 2 ]  = =  0 ) )  
          if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&                    CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  lfnstNotTsFlag  = =  1  &&                    ( treeType  = =  DUAL_TREE_CHROMA  | |  !intra_mip_flag[ x0 ][ y0 ]  | |                         Min( lfnstWidth, lfnstHeight )  >=  16 )   &&                    Max( cbWidth, cbHeight )  <=  MaxTbSizeY) {  
              if( ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  LfnstDcOnly  = =  0 )  &&                         LfnstZeroOutSigCoeffFlag  = =  1 )  
                   lfnst_idx <DELETE TU> ae(v)
          }  
          if( treeType  !=  DUAL_TREE_CHROMA  &&  lfnst_idx  = =  0  &&                    transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  &&  Max( cbWidth, cbHeight )  <=  32  &&                    IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  cu_sbt_flag  = =  0  &&                    MtsZeroOutSigCoeffFlag  = =  1  &&  MtsDcOnly  = =  0 ) {  
              if( ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&                         sps_explicit_mts_inter_enabled_flag )  | |                         ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&                         sps_explicit_mts_intra_enabled_flag ) ) )  
                   mts_idx ae(v) </DELETE TU>
          } </DELETE>  
     }  
}  
變換單元語法
transform_unit( x0, y0, tbWidth, tbHeight, treeType, subTuIndex, chType ) { 描述符
     if( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  &&               treeType  = =  SINGLE_TREE  &&  subTuIndex  = =  NumIntraSubPartitions − 1 ) {  
          xC = CbPosX[ chType ][ x0 ][ y0 ]  
          yC = CbPosY[ chType ][ x0 ][ y0 ]  
          wC = CbWidth[ chType ][ x0 ][ y0 ] / SubWidthC  
          hC = CbHeight[ chType ][ x0 ][ y0 ] / SubHeightC  
     } else {  
          xC = x0  
          yC = y0  
          wC = tbWidth / SubWidthC  
          hC = tbHeight / SubHeightC  
     }  
     chromaAvailable = treeType  !=  DUAL_TREE_LUMA  &&  ChromaArrayType  !=  0  &&           ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT   | |           ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  &&           subTuIndex  = =  NumIntraSubPartitions − 1 ) )  
     if( ( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_CHROMA )  &&               ChromaArrayType  !=  0  &&  ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&               ( ( subTuIndex  = = 0  &&  cu_sbt_pos_flag )  | |               ( subTuIndex  = = 1  &&  !cu_sbt_pos_flag ) ) ) )  | |               ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  &&               ( subTuIndex  = =  NumIntraSubPartitions − 1 ) ) ) {  
          tu_cb_coded_flag[ xC ][ yC ] ae(v)
          tu_cr_coded_flag[ xC ][ yC ] ae(v)
     }  
     if( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_LUMA ) {  
          if( ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  !( cu_sbt_flag  &&                    ( ( subTuIndex  = = 0  &&  cu_sbt_pos_flag )  | |                    ( subTuIndex  = = 1  &&  !cu_sbt_pos_flag ) ) )  &&                    ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  | |                    ( chromaAvailable  &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |                    tu_cr_coded_flag[ xC ][ yC ] ) )  | |                    CbWidth[ chType ][ x0 ][ y0 ] > MaxTbSizeY  | |                    CbHeight[ chType ][ x0 ][ y0 ] > MaxTbSizeY ) )  | |                    ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT &&                    ( subTuIndex < NumIntraSubPartitions − 1  | |  !InferTuCbfLuma ) ) )  
              tu_y_coded_flag[ x0 ][ y0 ] ae(v)
          <CHANGE> if(IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT )  
              InferTuCbfLuma  = InferTuCbfLuma  &&  !tu_y_coded_flag[ x0 ][ y0 ]  
     }  
     if (IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT &&                                     subTuIndex  = = NumIntraSubPartitions − 1)  
         ISPTuFlag = 0 </CHANGE>  
     if( ( CbWidth[ chType ][ x0 ][ y0 ]  >  64  | |  CbHeight[ chType ][ x0 ][ y0 ]  >  64  | |               tu_y_coded_flag[ x0 ][ y0 ]  | |  ( chromaAvailable  &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |               tu_cr_coded_flag[ xC ][ yC ] ) )  &&  treeType  !=  DUAL_TREE_CHROMA  &&               cu_qp_delta_enabled_flag  &&  !IsCuQpDeltaCoded ) {  
          cu_qp_delta_abs ae(v)
          if( cu_qp_delta_abs )  
              cu_qp_delta_sign_flag ae(v)
     }  
     if( ( CbWidth[ chType ][ x0 ][ y0 ]  >  64  | |  CbHeight[ chType ][ x0 ][ y0 ]  >  64  | |               ( chromaAvailable  &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |               tu_cr_coded_flag[ xC ][ yC ] ) ) )  &&               treeType  !=  DUAL_TREE_LUMA  &&  cu_chroma_qp_offset_enabled_flag  &&               !IsCuChromaQpOffsetCoded ) {  
          cu_chroma_qp_offset_flag ae(v)
          if( cu_chroma_qp_offset_flag  &&  chroma_qp_offset_list_len_minus1 > 0 )  
              cu_chroma_qp_offset_idx ae(v)
     }  
     if( sps_joint_cbcr_enabled_flag  &&  ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA               &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |  tu_cr_coded_flag[ xC ][ yC ] ) )  | |               ( tu_cb_coded_flag[ xC ][ yC ]  &&  tu_cr_coded_flag[ xC ][ yC ] ) )  &&               chromaAvailable )  
          tu_joint_cbcr_residual_flag[ xC ][ yC ] ae(v)
     if( tu_y_coded_flag[ x0 ][ y0 ]  &&  treeType  !=  DUAL_TREE_CHROMA ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 0 ]  &&                    tbWidth  <=  MaxTsSize  &&  tbHeight  <=  MaxTsSize  &&                    ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT )  &&  !cu_sbt_flag )  
              transform_skip_flag[ x0 ][ y0 ][ 0 ] ae(v)
          if( !transform_skip_flag[ x0 ][ y0 ][ 0 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( x0, y0, Log2( tbWidth ), Log2( tbHeight ), 0 )  
          else  
               residual_ts_coding( x0, y0, Log2( tbWidth ), Log2( tbHeight ), 0 )  
     }  
   <ADD TU> lfnstWidth </ADD TU> = <CHANGE> tbWidth </CHANGE> <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA ) ? cbWidth / SubWidthC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_VER_SPLIT ) ?                                            cbWidth / NumIntraSubPartitions : cbWidth ) </DELETE TU>  
   <ADD TU>  lfnstHeight </ADD TU> = <CHANGE> tbHeight </CHANGE> <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA ) ? cbHeight / SubHeightC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_HOR_SPLIT) ?                                            cbHeight / NumIntraSubPartitions : cbHeight ) </DELETE TU>  
   <CHANGE> if(treeType  !=  DUAL_TREE_CHROMA ) {</CHANGE>  
     <ADD TU>   if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&                    CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  </ADD TU>             <CHANGE>     transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  </CHANGE> <DELETE TU> lfnstNotTsFlag  = =  1  </DELETE TU> <ADD TU> && </ADD TU>                    <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA  | | </DELETE TU> <ADD TU> !intra_mip_flag[ x0 ][ y0 ]  | |                         Min( lfnstWidth, lfnstHeight )  >=  16 )   &&                    Max </ADD TU> <CHANGE> (CbWidth[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbWidth </DELETE TU>, <CHANGE> CbHeight[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbHeight  </DELETE TU> <ADD TU> )  <=  MaxTbSizeY) <CHANGE> && (IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT && ISPTuFlag = = 0) </CHANGE> <ADD TU> {  
              if( ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  LfnstDcOnly  = =  0 )  &&                         LfnstZeroOutSigCoeffFlag  = =  1 )  
                   lfnst_idx <ADD TU> ae(v)
          }  
          if( </ADD TU> <DELETE TU> treeType  !=  DUAL_TREE_CHROMA  && </DELETE TU> <ADD TU> lfnst_idx  = =  0  &&                    transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  &&  Max( </ADD TU> <CHANGE> CbWidth[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbWidth </DELETE TU>, <CHANGE> CbHeight[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbHeight </DELETE TU> <ADD TU>)  <=  32  &&                    IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  cu_sbt_flag  = =  0  &&                    MtsZeroOutSigCoeffFlag  = =  1  &&  MtsDcOnly  = =  0 ) {  
              if( ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&                         sps_explicit_mts_inter_enabled_flag )  | |                         ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&                         sps_explicit_mts_intra_enabled_flag ) ) )  
                   mts_idx ae(v) </ADD TU>
          }</ADD TU>  
     <CHANGE> } </CHANGE>  
     if( tu_cb_coded_flag[ xC ][ yC ]  &&  treeType  !=  DUAL_TREE_LUMA ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 1 ]  &&                    wC  <=  MaxTsSize  &&  hC  <=  MaxTsSize  &&  !cu_sbt_flag )  
              transform_skip_flag[ xC ][ yC ][ 1 ] ae(v)
          if( !transform_skip_flag[ xC ][ yC ][ 1 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( xC, yC, Log2( wC ), Log2( hC ), 1 )  
          else  
              residual_ts_coding( xC, yC, Log2( wC ), Log2( hC ), 1 )  
     }  
     if( tu_cr_coded_flag[ xC ][ yC ]  &&  treeType  !=  DUAL_TREE_LUMA  &&               !( tu_cb_coded_flag[ xC ][ yC ]  &&  tu_joint_cbcr_residual_flag[ xC ][ yC ] ) ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 2 ]  &&                    wC  <=  MaxTsSize  &&  hC  <=  MaxTsSize  &&  !cu_sbt_flag )  
              transform_skip_flag[ xC ][ yC ][ 2 ] ae(v)
          if( !transform_skip_flag[ xC ][ yC ][ 2 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( xC, yC, Log2( wC ), Log2( hC ), 2 )  
          else  
              residual_ts_coding( xC, yC, Log2( wC ), Log2( hC ), 2 )  
     }  
}  
变量ApplyLfnstFlag被推導如下: <DELETE>若treeType等於SINGLE_TREE,則如下應用:</DELETE> ApplyLfnstFlag = ( lfnst_idx > 0 && cIdx  = =  0 ) ? 1 : 0       (176) <DELETE>否則,如下應用: ApplyLfnstFlag = ( lfnst_idx > 0 ) ? 1 : 0                      (177) </DELETE>
若如前述沒有完全禁用用於色度的LFNST,則提議的更改可能會如下反映到VVC草案8中,其中(i)以<ADD TU>標記的添加的開始和以</ADD TU>標記的添加的結束表示與將語法元素從CU級別移動至TU級別有關的添加,而以<DELETE TU>標記的刪除的開始和以</DELETE TU>標記的刪除的結束表示與將語法元素從CU級別移動到TU級別有關的刪除,以及(ii)以<CHANGE>標記的更改的開始和以</CHANGE>標記的更改的結束表示所需要的額外更改(例如,與處理其中使用ISP的情況有關的更改): 譯碼單元語法
coding_unit( x0, y0, cbWidth, cbHeight, cqtDepth, treeType, modeType ) { 描述符
     chType = treeType = = DUAL_TREE_CHROMA ? 1 : 0  
     if( slice_type  !=  I  | |  sps_ibc_enabled_flag ) {  
          if( treeType  !=  DUAL_TREE_CHROMA  &&                    ( ( !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&                    modeType  !=  MODE_TYPE_INTRA )  | |                    ( sps_ibc_enabled_flag  &&  cbWidth  <=  64  &&  cbHeight  <=  64 ) ) )  
              cu_skip_flag[ x0 ][ y0 ] ae(v)
          if( cu_skip_flag[ x0 ][ y0 ]  = =  0  &&  slice_type  !=  I  &&                    !( cbWidth  = =  4  &&  cbHeight  = =  4 )  &&  modeType  = =  MODE_TYPE_ALL )  
              pred_mode_flag ae(v)
 
          if( sps_act_enabled_flag  &&  CuPredMode[ chType ][ x0 ][ y0 ]  !=  MODE_INTRA  &&                    treeType  = =  SINGLE_TREE )  
              cu_act_enabled_flag ae(v)
          LfnstDcOnly = 1  
          LfnstZeroOutSigCoeffFlag = 1  
          MtsDcOnly = 1  
          MtsZeroOutSigCoeffFlag = 1  
   <CHANGE> ISPTuFlag = 1 </CHANGE>  
          transform_tree( x0, y0, cbWidth, cbHeight, treeType, chType )  
          <DELETE TU> lfnstWidth = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbWidth / SubWidthC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_VER_SPLIT ) ?                                            cbWidth / NumIntraSubPartitions : cbWidth )  
          lfnstHeight = ( treeType  = =  DUAL_TREE_CHROMA ) ? cbHeight / SubHeightC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_HOR_SPLIT) ?                                            cbHeight / NumIntraSubPartitions : cbHeight )  
          lfnstNotTsFlag = ( treeType  = =  DUAL_TREE_CHROMA  | |                                                  transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0 )  &&                                             ( treeType  = =  DUAL_TREE_LUMA  | |                                                  ( transform_skip_flag[ x0 ][ y0 ][ 1 ]  = =  0  &&                                                    transform_skip_flag[ x0 ][ y0 ][ 2 ]  = =  0 ) )  
          if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&                    CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  lfnstNotTsFlag  = =  1  &&                    ( treeType  = =  DUAL_TREE_CHROMA  | |  !intra_mip_flag[ x0 ][ y0 ]  | |                         Min( lfnstWidth, lfnstHeight )  >=  16 )   &&                    Max( cbWidth, cbHeight )  <=  MaxTbSizeY) {  
              if( ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  LfnstDcOnly  = =  0 )  &&                         LfnstZeroOutSigCoeffFlag  = =  1 )  
                   lfnst_idx <DELETE TU > ae(v)
          }  
          if( treeType  !=  DUAL_TREE_CHROMA  &&  lfnst_idx  = =  0  &&                    transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  &&  Max( cbWidth, cbHeight )  <=  32  &&                    IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  cu_sbt_flag  = =  0  &&                    MtsZeroOutSigCoeffFlag  = =  1  &&  MtsDcOnly  = =  0 ) {  
              if( ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&                         sps_explicit_mts_inter_enabled_flag )  | |                         ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&                         sps_explicit_mts_intra_enabled_flag ) ) )  
                   mts_idx ae(v) </DELETE TU>
          }</DELETE TU>  
     }  
}  
變換單元語法
transform_unit( x0, y0, tbWidth, tbHeight, treeType, subTuIndex, chType ) { 描述符
     if( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  &&               treeType  = =  SINGLE_TREE  &&  subTuIndex  = =  NumIntraSubPartitions − 1 ) {  
          xC = CbPosX[ chType ][ x0 ][ y0 ]  
          yC = CbPosY[ chType ][ x0 ][ y0 ]  
          wC = CbWidth[ chType ][ x0 ][ y0 ] / SubWidthC  
          hC = CbHeight[ chType ][ x0 ][ y0 ] / SubHeightC  
     } else {  
          xC = x0  
          yC = y0  
          wC = tbWidth / SubWidthC  
          hC = tbHeight / SubHeightC  
     }  
  …  
     if( ( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_CHROMA )  &&               ChromaArrayType  !=  0  &&  ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&               ( ( subTuIndex  = = 0  &&  cu_sbt_pos_flag )  | |               ( subTuIndex  = = 1  &&  !cu_sbt_pos_flag ) ) ) )  | |               ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  &&               ( subTuIndex  = =  NumIntraSubPartitions − 1 ) ) ) {  
          tu_cb_coded_flag[ xC ][ yC ] ae(v)
          tu_cr_coded_flag[ xC ][ yC ] ae(v)
     }  
     if( treeType  = =  SINGLE_TREE  | |  treeType  = =  DUAL_TREE_LUMA ) {  
          if( ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  !( cu_sbt_flag  &&                    ( ( subTuIndex  = = 0  &&  cu_sbt_pos_flag )  | |                    ( subTuIndex  = = 1  &&  !cu_sbt_pos_flag ) ) )  &&                    ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  | |                    ( chromaAvailable  &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |                    tu_cr_coded_flag[ xC ][ yC ] ) )  | |                    CbWidth[ chType ][ x0 ][ y0 ] > MaxTbSizeY  | |                    CbHeight[ chType ][ x0 ][ y0 ] > MaxTbSizeY ) )  | |                    ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT &&                    ( subTuIndex < NumIntraSubPartitions − 1  | |  !InferTuCbfLuma ) ) )  
              tu_y_coded_flag[ x0 ][ y0 ] ae(v)
          if(IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT )  
              InferTuCbfLuma  = InferTuCbfLuma  &&  !tu_y_coded_flag[ x0 ][ y0 ]  
     }  
     <CHANGE> if (IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT &&                                     subTuIndex  = = NumIntraSubPartitions − 1)  
         ISPTuFlag = 0 </CHANGE>  
  …  
     if( sps_joint_cbcr_enabled_flag  &&  ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA               &&  ( tu_cb_coded_flag[ xC ][ yC ]  | |  tu_cr_coded_flag[ xC ][ yC ] ) )  | |               ( tu_cb_coded_flag[ xC ][ yC ]  &&  tu_cr_coded_flag[ xC ][ yC ] ) )  &&               chromaAvailable )  
          tu_joint_cbcr_residual_flag[ xC ][ yC ] ae(v)
     if( tu_y_coded_flag[ x0 ][ y0 ]  &&  treeType  !=  DUAL_TREE_CHROMA ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 0 ]  &&                    tbWidth  <=  MaxTsSize  &&  tbHeight  <=  MaxTsSize  &&                    ( IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT )  &&  !cu_sbt_flag )  
              transform_skip_flag[ x0 ][ y0 ][ 0 ] ae(v)
          if( !transform_skip_flag[ x0 ][ y0 ][ 0 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( x0, y0, Log2( tbWidth ), Log2( tbHeight ), 0 )  
          else  
               residual_ts_coding( x0, y0, Log2( tbWidth ), Log2( tbHeight ), 0 )  
     }  
   <ADD TU> lfnstWidth = </ADD TU> <CHANGE> tbWidth </CHANGE> <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA ) ? cbWidth / SubWidthC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_VER_SPLIT ) ?                                            cbWidth / NumIntraSubPartitions : cbWidth ) </DELETE TU>  
    <ADD TU> lfnstHeight = </ADD TU> <CHANGE> tbHeight </CHANGE> <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA ) ? cbHeight / SubHeightC :                                       ( ( IntraSubPartitionsSplitType  = =  ISP_HOR_SPLIT) ?                                            cbHeight / NumIntraSubPartitions : cbHeight ) </DELETE TU>  
   <CHANGE> if(treeType  !=  DUAL_TREE_CHROMA ) { </CHANGE>  
     <ADD TU>   if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&                    CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  </ADD TU>               <CHANGE>   transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  </CHANGE> <DELETE TU > lfnstNotTsFlag  = =  1 </DELETE TU> &&                    <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA  | | </DELETE TU>  !intra_mip_flag[ x0 ][ y0 ]  | |                         Min( lfnstWidth, lfnstHeight )  >=  16 )   &&                    Max <CHANGE> (CbWidth[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbWidth </DELETE TU>, <CHANGE> CbHeight[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbHeight </DELETE> <ADD TU>)  <=  MaxTbSizeY) <ADD TU> <CHANGE>&& (IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT && ISPTuFlag = = 0) </CHANGE> <ADD TU> {  
              if( ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  LfnstDcOnly  = =  0 )  &&                         LfnstZeroOutSigCoeffFlag  = =  1 )  
                   lfnst_idx <ADD TU> ae(v)
          }  
          if( <ADD TU> <DELETE TU> treeType  !=  DUAL_TREE_CHROMA  && </DELETE TU> <ADD TU> lfnst_idx  = =  0  &&                    transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0  &&  Max( </ADD TU> <CHANGE> CbWidth[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbWidth </DELETE TU>, <CHANGE> CbHeight[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbHeight </DELETE TU> <ADD TU>)  <=  32  &&                    IntraSubPartitionsSplitType  = =  ISP_NO_SPLIT  &&  cu_sbt_flag  = =  0  &&                    MtsZeroOutSigCoeffFlag  = =  1  &&  MtsDcOnly  = =  0 ) {  
              if( ( ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTER  &&                         sps_explicit_mts_inter_enabled_flag )  | |                         ( CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&                         sps_explicit_mts_intra_enabled_flag ) ) )  
                   mts_idx ae(v) </ADD TU>
          } </ADD TU>  
     <CHANGE>} </CHANGE>  
     if( tu_cb_coded_flag[ xC ][ yC ]  &&  treeType  !=  DUAL_TREE_LUMA ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 1 ]  &&                    wC  <=  MaxTsSize  &&  hC  <=  MaxTsSize  &&  !cu_sbt_flag )  
              transform_skip_flag[ xC ][ yC ][ 1 ] ae(v)
          if( !transform_skip_flag[ xC ][ yC ][ 1 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( xC, yC, Log2( wC ), Log2( hC ), 1 )  
          else  
              residual_ts_coding( xC, yC, Log2( wC ), Log2( hC ), 1 )  
     }  
     if( tu_cr_coded_flag[ xC ][ yC ]  &&  treeType  !=  DUAL_TREE_LUMA  &&               !( tu_cb_coded_flag[ xC ][ yC ]  &&  tu_joint_cbcr_residual_flag[ xC ][ yC ] ) ) {  
          if( sps_transform_skip_enabled_flag  &&  !BdpcmFlag[ x0 ][ y0 ][ 2 ]  &&                    wC  <=  MaxTsSize  &&  hC  <=  MaxTsSize  &&  !cu_sbt_flag )  
              transform_skip_flag[ xC ][ yC ][ 2 ] ae(v)
          if( !transform_skip_flag[ xC ][ yC ][ 2 ]  | |  slice_ts_residual_coding_disabled_flag )  
              residual_coding( xC, yC, Log2( wC ), Log2( hC ), 2 )  
          else  
              residual_ts_coding( xC, yC, Log2( wC ), Log2( hC ), 2 )  
     }  
   <CHANGE> if(treeType  = =  DUAL_TREE_CHROMA ) { </CHANGE>  
     <ADD TU> lfnstNotTsFlag = </ADD TU> <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA  | |                                                  transform_skip_flag[ x0 ][ y0 ][ 0 ]  = =  0 )  &&                                             ( treeType  = =  DUAL_TREE_LUMA  | |  </DELTE TU> <ADD TU>                                                 ( transform_skip_flag[ x0 ][ y0 ][ 1 ]  = =  0  &&                                                    transform_skip_flag[ x0 ][ y0 ][ 2 ]  = =  0 ) )  
          if( Min( lfnstWidth, lfnstHeight )  >=  4  &&  sps_lfnst_enabled_flag  = =  1  &&                    CuPredMode[ chType ][ x0 ][ y0 ]  = =  MODE_INTRA  &&  lfnstNotTsFlag  = =  1  && </ADD TU>                    <DELETE TU> ( treeType  = =  DUAL_TREE_CHROMA  | |  !intra_mip_flag[ x0 ][ y0 ]  | |                         Min( lfnstWidth, lfnstHeight )  >=  16 )   && </DELTE TU>                    <ADD TU> Max ( </ADD TU> <CHANGE> CbWidth[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbWidth </DELETE TU> , <CHANGE> CbHeight[ chType ][ x0 ][ y0 ] </CHANGE> <DELETE TU> cbHeight </DELETE TU> <ADD TU> )  <=  MaxTbSizeY) {  
              if( </ADD TU> <DELETE TU> ( IntraSubPartitionsSplitType  !=  ISP_NO_SPLIT  | |  </DELETE TU> <ADD TU> LfnstDcOnly  = =  0 )  &&                         LfnstZeroOutSigCoeffFlag  = =  1 )  
                   lfnst_idx <ADD TU> ae(v) </ADD TU>
          }</ADD TU>  
   <CHANGE> } </CHANGE>  
}  
圖9是圖示根據本案內容的用於語法元素決定的示例性解碼技術的流程圖。視訊解碼器300可以從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數(450)。例如,視訊解碼器300可以解析該區塊的所有亮度係數。
視訊解碼器300可以在經編碼的視訊位元串流中解析該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項(452)。例如,視訊解碼器300可以經由對位元串流中的LFNST索引及/或MTS索引進行解析,來對該至少一個語法元素進行解析。
視訊解碼器300可以根據至少一個語法元素來對區塊進行解碼(454)。例如,視訊解碼器300可以解析LFNST索引及/或MTS索引,並且使用LFNST索引及/或MTS索引對區塊進行解碼。例如,當對區塊進行解碼時,視訊解碼器300可以應用如由LFNST索引所指示的逆LFNST或者如由MTS索引所指示的逆變換。
在一些實例中,在對區塊的所有亮度係數進行解析之後對用於該區塊的至少一個語法元素進行解析包括:解析在經編碼的視訊位元串流中的位於所有亮度係數之後的位置處的用於該區塊的至少一個語法元素。在一些實例中,視訊解碼器300可以按照變換單元級別來解析至少一個語法元素。在一些實例中,視訊解碼器300可以在解析該至少一個語法元素之後解析該區塊的所有色度係數。在一些實例中,視訊解碼器300可以決定是否使用內部子分割用於該區塊,並且基於使用內部子分割用於該區塊,使用用於該區塊的上一個TU來解析至少一個語法元素。在一些實例中,作為決定是否使用內部子分割的一部分,視訊解碼器300可以解析指示是否使用內部子分割的標誌。在一些實例中,視訊解碼器300可以基於語法元素來應用低頻不可分離逆變換或多重逆變換中的至少一項。
圖10是圖示根據本案內容的用於語法元素決定的示例性編碼技術的流程圖。視訊編碼器200可以將視訊資料的區塊的所有亮度係數進行解析或以信號發送給經編碼的視訊位元串流(456)。例如,視訊編碼器200可以以信號發送該區塊的所有亮度係數。
在經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,視訊編碼器200可以以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項(457)。例如,視訊編碼器200可以完成對區塊的亮度係數的多次編碼遍歷,並且執行速率失真比較以決定要應用於該區塊的亮度係數的LFNST參數及/或MTS參數。隨後,視訊編碼器200可以基於LFNST參數及/或MTS參數來決定用於亮度係數的LFNST索引及/或MTS索引,並且可以在位元串流中以信號發送LFNST索引及/或MTS索引給視訊解碼器300。
視訊編碼器200可以根據至少一個語法元素來對區塊進行編碼(458)。例如,視訊編碼器200可以使用LFNST索引及/或MTS索引所基於的經決定的LFNST參數及/或MTS參數來對區塊進行編碼。
在一些實例中,在以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素包括:在經編碼的視訊位元串流中的位於所有亮度係數後面的位置處以信號發送用於該區塊的至少一個語法元素。在一些實例中,視訊編碼器200可以以變換單元級別以信號發送至少一個語法元素。在一些實例中,視訊編碼器200可以在解析或以信號發送至少一個語法元素之後以信號發送該區塊的所有色度係數。在一些實例中,視訊編碼器200可以決定內部子分割是否用於該區塊,並且基於內部子分割用於該區塊,使用針對該區塊的上一個TU以信號發送該至少一個語法元素。在一些實例中,視訊編碼器200可以根據語法元素來應用低頻不可分離變換或多重變換中的至少一項。
圖11是圖示根據本案內容的用於語法元素決定的示例性技術的流程圖。視訊編碼器200或視訊解碼器300可以決定是否使用雙樹分割模式來對視訊資料的區塊進行譯碼(460)。例如,視訊編碼器200可以完成對區塊的多次編碼遍歷並且執行速率失真比較以決定使用雙樹分割模式並在位元串流中以信號發送用於指示雙樹分割模式被用於該區塊的語法元素。視訊解碼器300可以解析語法元素以決定使用雙樹分割模式來對區塊進行譯碼。
視訊編碼器200或視訊解碼器300可以解析或以信號發送該區塊的所有色度係數(462)。例如,視訊編碼器200可以以信號發送該區塊的Cr係數和Cb係數。視訊解碼器300可以解析該區塊的Cr和Cb係數。
在解析或以信號發送所有色度係數之後,視訊解碼器300可以解析或視訊編碼器200可以以信號發送至少一個語法元素,其中該至少一個語法元素包括用於亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項(464)。例如,視訊編碼器200可以完成對區塊的Cr和Cb係數的多次編碼遍歷,並且執行速率失真比較以決定要應用於區塊的Cr和Cb係數的LFNST參數及/或MTS參數。隨後,視訊編碼器200可以基於LFNST參數及/或MTS參數來決定用於色度係數的LFNST索引及/或MTS索引,並且可以在位元串流中以信號發送LFNST索引及/或MTS索引給視訊解碼器300。視訊解碼器300可以解析位元串流中的LFNST索引及/或MTS索引。
視訊編碼器200或視訊解碼器300可以根據至少一個語法元素來對區塊進行譯碼(466)。例如,視訊編碼器200可以使用LFNST索引及/或MTS索引所基於的經決定的LFNST參數及/或MTS參數來對區塊進行編碼。視訊解碼器300可以解析LFNST索引及/或MTS索引,並且使用LFNST索引及/或MTS索引來對該區塊進行解碼。例如,當對區塊進行解碼時,視訊解碼器300可以應用如由LFNST索引所指示的逆LFNST或如由MTS索引所指示的逆變換。
在一些實例中,視訊編碼器200可以以信號發送或視訊解碼器300可以以變換單元級別來解析至少一個語法元素。在一些實例中,視訊解碼器300可以基於語法元素來應用低頻不可分離逆變換或多重逆變換中的至少一項。在一些實例中,視訊編碼器200可以根據語法元素來應用低頻不可分離變換或多重變換中的至少一項。
圖12是圖示用於對當前區塊進行編碼的示例性方法的流程圖。當前區塊可以包括當前CU。儘管關於視訊編碼器200(圖1和圖3)進行了描述,但是應當理解的是,其他設備可以被配置為執行與圖12的方法類似的方法。
在本實例中,視訊編碼器200起初預測當前區塊(350)。例如,視訊編碼器200可以形成用於當前區塊的預測區塊。隨後,視訊編碼器200可以計算用於當前區塊的殘差區塊(352)。為了計算殘差區塊,視訊編碼器200可以計算在原始的未經編碼的區塊與用於當前區塊的預測區塊之間的差。隨後,視訊編碼器200可以對殘差區塊進行變換,並且對該殘差區塊的變換係數進行量化(354)。接下來,視訊編碼器200可以掃瞄殘差區塊的經量化的變換係數(356)。在掃瞄期間或在掃瞄之後,視訊編碼器200可以對變換係數進行熵編碼(358)。例如,視訊編碼器200可以使用CAVLC或CABAC來對變換係數進行編碼。隨後,視訊編碼器200可以輸出該區塊的經熵編碼的資料(360)。在一些實例中,視訊編碼器200可以執行圖10及/或圖11的技術。
圖13是圖示用於對視訊資料的當前區塊進行解碼的示例性方法的流程圖。當前區塊可以包括當前CU。儘管關於視訊解碼器300(圖1和圖4)進行了描述,但是應當理解的是,其他設備可以被配置為執行與圖13的方法類似的方法。
視訊解碼器300可以接收用於當前區塊的經熵編碼的資料(例如,經熵編碼的預測資訊和用於與當前區塊相對應的殘差區塊的變換係數的經熵編碼的資料)(370)。視訊解碼器300可以對經熵編碼的資料進行熵解碼以決定用於當前區塊的預測資訊並且重構殘差區塊的變換係數(372)。視訊解碼器300可以例如使用如用於當前區塊的預測資訊所指示的訊框內或訊框間預測模式來預測當前區塊(374),以便計算用於當前區塊的預測區塊。隨後,視訊解碼器300可以對重構的變換係數進行逆掃瞄(376),以建立經量化的變換係數的區塊。隨後,視訊解碼器300可以對變換係數進行逆量化,並將逆變換應用於變換係數以產生殘差區塊(378)。視訊解碼器300可以經由組合預測區塊和殘差區塊來對當前區塊進行最終解碼(380)。在一些實例中,視訊解碼器300可以執行圖9及/或圖11的技術。
經由移動變換語法元素(例如,lfnst_idx和mts_idx)的信號傳遞,使得可以在TU中解碼必要顏色分量的係數之後立即解析變換語法元素,可以減少解碼時延。如此,視訊解碼器可以在對來自視訊資料的區塊的所有分量的所有係數進行解碼之前開始逆變換處理。
本案內容包括以下實例。
條款1A.一種對視訊資料進行譯碼的方法,該方法包括以下步驟:決定是否解析了視訊資料的區塊的所有必要亮度係數;基於解析了該區塊的所有必要的亮度分量,決定用於該區塊的語法元素;及,基於語法元素,來對視訊資料進行譯碼。
條款2A.根據條款1A之方法,亦包括以下步驟:決定是否使用內部子分割用於該區塊;及,基於使用內部子分割用於該區塊,使用針對該區塊的上一個TU來決定用於該區塊的語法元素。
條款3A.根據條款1A或條款2A之方法,亦包括以下步驟:決定是否解析了係數Cr和係數Cb兩者;及,基於解析了係數Cr和係數Cb兩者,決定色度語法元素。
條款4A.根據條款1A-3A之任何組合的方法,其中該等語法元素是以TU級別以信號發送的。
條款5A.根據條款1A-4A中任一項之方法,其中譯碼包括解碼。
條款6A. 根據條款1A-5A中任一項之方法,其中譯碼包括編碼。
條款7A.一種用於對視訊資料進行譯碼的設備,該設備包括:用於執行條款1A-6A中任一項之方法的一或多個構件。
條款8A.根據條款7A之設備,其中該一或多個構件包括:在電路系統中實施的一或多個處理器。
條款9A.根據條款7A和8A中任一項之設備,亦包括:用於儲存該視訊資料的記憶體。
條款10A.根據條款7A-9A中任一項之設備,亦包括:被配置為顯示經解碼的視訊資料的顯示器。
條款11A.根據條款7A-10A中任一項之設備,其中該設備包括以下各項中的一項或多項:相機、電腦、行動設備、廣播接收器設備,或者機上盒。
條款12A.根據條款7A-11A中任一項之設備,其中該設備包括視訊解碼器。
條款13A.根據條款7A-12A中任一項之設備,其中該設備包括視訊編碼器。
條款14A.一種其上儲存有指令的電腦可讀取儲存媒體,該等指令當被執行時使得一或多個處理器執行條款1A-6A中任一項之方法。
條款15A.一種用於對視訊資料進行譯碼的設備,該設備包括:用於決定是否解析了該視訊資料的區塊的所有必要亮度係數的構件;及用於基於解析了該區塊的所有必要亮度係數,來決定用於該區塊的語法元素的構件;及,用於基於語法元素來對該視訊資料進行譯碼的構件。
條款1B.一種對視訊資料進行解碼的方法,該方法包括以下步驟:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數;在解析了經編碼的視訊位元串流中的該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行解碼。
條款2B.根據條款1B之方法,其中在解析了該區塊的所有亮度係數之後解析用於該區塊的該至少一個語法元素包括:解析在經編碼的視訊位元串流中的位於所有亮度係數之後的位置處的用於該區塊的該至少一個語法元素。
條款3B.根據條款1B或2B之方法,亦包括以下步驟:以變換單元級別來解析該至少一個語法元素。
條款4B.根據條款1B-3B的任何組合之方法,亦包括以下步驟:在解析至少一個語法元素之後,解析區塊的所有色度係數。
條款5B.根據條款1B-4B的任何組合之方法,亦包括以下步驟:決定是否使用內部子分割用於該區塊;及,基於使用內部子分割用於該區塊,使用針對該區塊的上一個TU來解析該至少一個語法元素。
條款6B.根據條款5B之方法,其中決定是否使用內部子分割包括:解析用於指示是否使用內部子分割的標誌。
條款7B.根據條款1B-6B的任何組合之方法,亦包括以下步驟:基於該語法元素,應用低頻不可分離逆變換或多重逆變換中的至少一項。
條款8B.一種對視訊資料進行編碼的方法,該方法包括以下步驟:以信號發送該視訊資料區塊的所有亮度係數給經編碼的視訊位元串流;在經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行編碼。
條款9B.根據條款8B之方法,其中在以信號發送該區塊的所有亮度係數之後以信號發送用於該區塊的該至少一個語法元素包括:在經編碼的視訊位元串流中的位於所有亮度係數之後的位置處以信號發送用於該區塊的至少一個語法元素。
條款10B.根據條款8B或9B之方法,亦包括以下步驟:以變換單元級別以信號發送該至少一個語法元素。
條款11B.根據條款8B-10B的任何組合之方法,亦包括以下步驟:在以信號發送該至少一個語法元素之後,以信號發送該區塊的所有色度係數。
條款12B.根據條款8B-11B的任何組合之方法,亦包括以下步驟:決定是否使用內部子分割用於該區塊;及,基於使用內部子分割用於該區塊,用針對該區塊的上一個TU以信號發送該至少一個語法元素。
條款13B.根據條款8B-12B的任何組合之方法,亦包括以下步驟:根據語法元素,應用低頻不可分離變換或多重變換中的至少一項。
條款14B.一種對視訊資料進行譯碼的方法,該方法包括以下步驟:決定是否使用雙樹分割模式對該視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行譯碼。
條款15B.根據條款14B之方法,其中在解析或以信號發送所有色度係數之後解析或以信號發送用於該區塊的至少一個語法元素包括:解析或以信號發送在經編碼的視訊位元串流中的位於所有色度係數之後的位置處的用於該區塊的至少一個語法元素。
條款16B.根據條款14B或15B之方法,亦包括以下步驟:以變換單元級別以信號發送或解析該至少一個語法元素。
條款17B.根據條款14B-16B的任何組合之方法,其中譯碼包括解碼,並且其中該方法亦包括以下步驟:基於該語法元素,應用逆低頻不可分離變換或多重逆變換中的至少一項。
條款18B.根據條款14B-16B的任何組合之方法,其中譯碼包括編碼,並且其中該方法亦包括以下步驟:根據該語法元素,應用低頻不可分離變換或多重變換中的至少一項。
條款19B.一種用於對視訊資料進行解碼的設備,該設備包括:記憶體,被配置為儲存該視訊資料;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數;在解析了經編碼的視訊位元串流中的該區塊的所有亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行解碼。
條款20B.根據條款19B之設備,其中作為在解析了所有亮度係數之後解析用於該區塊的至少一個語法元素的一部分,該一或多個處理器被配置為:解析在經編碼的視訊位元串流中的位於所有亮度係數之後的位置處的用於該區塊的至少一個語法元素。
條款21B.根據條款19B或20B之設備,其中該一或多個處理器亦被配置為:以變換單元級別來解析該至少一個語法元素。
條款22B.根據條款19B-21B的任何組合之設備,其中該一或多個處理器亦被配置為:在解析該至少一個語法元素之後,解析該區塊的所有色度係數。
條款23B.根據條款19B-22B的任何組合之設備,其中該一或多個處理器亦被配置為:決定內部子分割是否用於該區塊;及,基於內部子分割用於該區塊,以針對該區塊的上一個TU來解析該至少一個語法元素。
條款24B.根據條款23B之設備,其中作為決定是否使用內部子分割的一部分,該一或多個處理器被配置為解析用於指示是否使用內部子分割的標誌。
條款25B.根據條款19B-24B的任何組合之設備,亦包括:顯示設備,被配置為顯示經解碼的視訊資料。
條款26B.一種用於對視訊資料進行編碼的設備,該設備包括:被配置為儲存該視訊資料的記憶體;及在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中以信號發送該區塊的所有亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行編碼。
條款27B.根據條款26B之設備,其中作為在以信號發送所有亮度係數之後以信號發送用於該區塊的至少一個語法元素的一部分,該一或多個處理器被配置為:在經編碼的視訊位元串流中的位於所有亮度係數之後的位置處以信號發送用於該區塊的該至少一個語法元素。
條款28B.根據條款26B或27B之設備,其中該一或多個處理器亦被配置為:以變換單元級別以信號發送該至少一個語法元素。
條款29B.根據條款26B-28B的任何組合之設備,其中該一或多個處理器亦被配置為:在解析或以信號發送該至少一個語法元素之後,以信號發送該區塊的所有色度係數。
條款30B.根據條款26B-29B的任何組合之設備,其中該一或多個處理器亦被配置為:決定內部子分割是否用於該區塊;及,基於內部子分割用於該區塊,用針對該區塊的上一個TU來以信號發送該至少一個語法元素。
條款31B.根據條款26B-30B的任何組合之設備,亦包括:被配置為擷取該視訊資料的相機。
條款32B.一種用於對視訊資料進行譯碼的設備,該設備包括:被配置為儲存該視訊資料的記憶體;及,在電路系統中實現並通訊地耦合到該記憶體的一或多個處理器,該一或多個處理器被配置為:決定是否使用雙樹分割模式來對該視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在該經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素,對該區塊進行譯碼。
條款33B.根據條款32B之設備,其中作為在解析或以信號發送所有色度係數之後解析或以信號發送用於該區塊的該至少一個語法元素的一部分,該一或多個處理器亦被配置為:解析或以信號發送在經編碼的視訊位元串流中的位於所有色度係數之後的位置處的用於該區塊的該至少一個語法元素。
條款34B.根據條款32B或33B之設備,其中該一或多個處理器亦被配置為:以變換單元級別以信號發送或解析該至少一個語法元素。
條款35B.根據條款32B-34B的任何組合之設備,其中譯碼包括編碼,該設備亦包括:被配置為擷取視訊資料的相機。
條款36B.根據條款32B-34B的任何組合之設備,其中譯碼包括解碼,該設備亦包括:被配置為顯示經解碼的視訊資料的顯示設備。
條款37B.一種非暫時性電腦可讀取儲存媒體,其儲存指令,該等指令在被執行時使得一或多個處理器執行以下操作:從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數;在經編碼的視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行譯碼。
條款38B.一種非暫時性電腦可讀取儲存媒體,其儲存指令,該等指令在被執行時使得一或多個處理器執行以下操作:決定是否使用雙樹分割模式對視訊資料的區塊進行譯碼;從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數;在經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,根據該至少一個語法元素對該區塊進行譯碼。
條款39B.一種用於對視訊資料進行譯碼的設備,該設備包括:用於從經編碼的視訊位元串流中解析視訊資料的區塊的所有亮度係數,或者向經編碼的視訊位元串流以信號發送視訊資料的區塊的所有亮度係數的構件;用於在經編碼的視訊位元串流中解析或以信號發送該區塊的所有亮度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,用於根據該至少一個語法元素對該區塊進行譯碼的構件。
條款40B.一種用於對視訊資料進行譯碼的設備,該設備包括:用於決定是否使用雙樹分割模式對該視訊資料的區塊進行譯碼的構件;用於從經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向經編碼的視訊位元串流以信號發送該區塊的所有色度係數的構件;用於在經編碼的視訊位元串流中解析或以信號發送所有色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素的構件,其中該至少一個語法元素包括:用於該等亮度係數的低頻不可分離變換索引或多重變換選擇索引中的至少一項;及,用於根據該至少一個語法元素對該區塊進行譯碼的構件。
要認識到,依據實例,本文描述的任何技術的某些動作或事件可以以不同的順序執行,可以被添加、合併或完全省略(例如,並非所有描述的動作或事件是對於實施該等技術皆是必要的)。此外,在某些實例中,動作或事件可以例如經由多執行緒處理、中斷處理或多個處理器併發地而不是順序地執行。
在一或多個實例中,所描述的功能可以用硬體、軟體、韌體或其任何組合來實現。若用軟體來實現,則該等功能可以作為一或多個指令或代碼儲存在電腦可讀取媒體上或者經由其進行傳輸並且由基於硬體的處理單元執行。電腦可讀取媒體可以包括電腦可讀取儲存媒體,其對應於諸如資料儲存媒體之類的有形媒體或者通訊媒體,該等通訊媒體包括例如根據通訊協定來促進電腦程式從一個地方傳輸到另一個地方的任何媒體。以此種方式,電腦可讀取媒體通常可以對應於(1)非暫時性的有形電腦可讀取儲存媒體,或者(2)諸如信號或載波之類的通訊媒體。資料儲存媒體可以是可以由一或多個電腦或者一或多個處理器存取以取得用於實現在本案內容中描述的技術的指令、代碼及/或資料結構的任何可用的媒體。電腦程式產品可以包括電腦可讀取媒體。
舉例而言而非進行限制,此種電腦可讀取儲存媒體可以包括RAM、ROM、EEPROM、CD-ROM或其他光碟儲存、磁碟儲存或其他磁儲存設備、快閃記憶體,或者能夠用於以指令或資料結構形式儲存期望的程式碼以及能夠由電腦存取的任何其他媒體。此外,任何連接被適當地稱為電腦可讀取媒體。例如,若使用同軸電纜、光纖光纜、雙絞線、數位用戶線路(DSL)或者無線技術(例如,紅外線、無線電和微波)從網站、伺服器或其他遠端源傳輸指令,則同軸電纜、光纖光纜、雙絞線、DSL或者無線技術(例如,紅外線、無線電和微波)被包括在媒體的定義中。然而,應當理解的是,電腦可讀取儲存媒體和資料儲存媒體不包括連接、載波、信號或其他暫時性媒體,而是替代地針對非暫時性的有形儲存媒體。如本文所使用的,磁碟和光碟包括壓縮光碟(CD)、鐳射光碟、光碟、數位多功能光碟(DVD)、軟碟和藍光光碟,其中磁碟通常磁性地複製資料,而光碟利用鐳射來光學地複製資料。上述各項的組合亦應當被包括在電腦可讀取媒體的範疇之內。
指令可以由一或多個處理器來執行,諸如一或多個數位信號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA),或其他等效的整合或個別邏輯電路系統。因此,如本文所使用的術語「處理器」和「處理電路系統」可以代表前述結構中的任何一者或者適於實現本文描述的技術的任何其他結構。另外,在一些態樣中,本文描述的功能可以在被配置用於編碼和解碼的專用硬體及/或軟體模組內提供,或者被併入經組合的轉碼器中。此外,該等技術可以完全在一或多個電路或邏輯元件中實現。
本案內容的技術可以在多種多樣的設備或裝置中實現,包括無線手機、積體電路(IC)或一組IC(例如,晶片組)。在本案內容中描述了各種元件、模組或單元以強調被配置為執行所揭示的技術的設備的功能性態樣,但是不一定需要經由不同的硬體單元來實現。確切而言,如前述,各種單元可以被組合在轉碼器硬體單元中,或者由可交互操作的硬體單元的集合(包括如前述的一或多個處理器)結合適當的軟體及/或韌體來提供。
已經描述了各個實例。該等和其他實例在所附的請求項的範疇內。
100:視訊編碼和解碼系統 102:源設備 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀取媒體 112:儲存設備 114:檔案伺服器 116:目的地設備 118:顯示設備 120:記憶體 122:輸入介面 130:四叉樹二叉樹(QTBT)結構 132:譯碼樹單元(CTU) 200:視訊編碼器 202:模式選擇單元 204:殘差產生單元 206:變換處理單元 208:量化單元 210:逆量化單元 212:逆變換處理單元 214:重構單元 216:濾波器單元 218:解碼圖片緩衝器(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:訊框內預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:逆量化單元 308:逆變換處理單元 310:重構單元 312:濾波器單元 314:經解碼圖片緩衝器(DPB) 316:運動補償單元 318:訊框內預測單元 320:CPB記憶體 350:步驟 352:步驟 354:步驟 356:步驟 358:步驟 360:步驟 370:步驟 372:步驟 374:步驟 376:步驟 378:步驟 380:步驟 400:子區塊 410:子區塊 420:重構殘差 430:中間係數 440:中間係數 450:步驟 452:步驟 454:步驟 456:步驟 457:步驟 458:步驟 460:步驟 462:步驟 464:步驟 466:步驟
圖1是圖示可以執行本案內容的技術的示例性視訊編碼和解碼系統的方塊圖。
圖2A和圖2B是圖示示例性四叉樹二叉樹(QTBT)結構以及相應的譯碼樹單元(CTU)的概念圖。
圖3是圖示可以執行本案內容的技術的示例性視訊編碼器的方塊圖。
圖4是圖示可以執行本案內容的技術的示例性視訊解碼器的方塊圖。
圖5是圖示編碼器和解碼器上的低頻不可分離變換(LFNST)的概念圖。
圖6是圖示當使用LFNST時的逆變換處理的實例的方塊圖。
圖7是用於重構16個中間係數以形成16個輸入係數的列表的4×4逆LFNST的概念圖。
圖8是用於重構48個中間係數以形成16個輸入係數的列表的8×8逆LFNST的概念圖。
圖9是圖示根據本案內容的用於語法元素決定的示例性解碼技術的流程圖。
圖10是圖示根據本案內容的用於語法元素決定的示例性編碼技術的流程圖。
圖11是圖示根據本案內容的用於語法元素決定的示例性技術的流程圖。
圖12是圖示視訊編碼的示例性技術的流程圖。
圖13是圖示視訊解碼的示例性技術的流程圖。
國內寄存資訊(請依寄存機構、日期、號碼順序註記) 無 國外寄存資訊(請依寄存國家、機構、日期、號碼順序註記) 無
450:步驟
452:步驟
454:步驟

Claims (36)

  1. 一種對視訊資料進行解碼的方法,該方法包括以下步驟: 從一經編碼的視訊位元串流中解析該視訊資料的一區塊的所有亮度係數; 在從該經編碼的視訊位元串流中解析該區塊的所有該等亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行解碼。
  2. 根據請求項1之方法,其中在解析該區塊的所有該等亮度係數之後解析用於該區塊的該至少一個語法元素之步驟包括以下步驟:解析在該經編碼的視訊位元串流中的位於所有該等亮度係數之後的一位置處的用於該區塊的該至少一個語法元素。
  3. 根據請求項1之方法,亦包括以下步驟: 以一變換單元級別來解析該至少一個語法元素。
  4. 根據請求項1之方法,亦包括以下步驟: 在解析該至少一個語法元素之後,解析該區塊的所有色度係數。
  5. 根據請求項1之方法,亦包括以下步驟: 決定內部子分割是否用於該區塊;及 基於內部子分割用於該區塊,用針對該區塊的一上一個TU來解析該至少一個語法元素。
  6. 根據請求項5之方法,其中決定是否使用內部子分割之步驟包括以下步驟:解析用於指示是否使用內部子分割的一標誌。
  7. 根據請求項1之方法,亦包括以下步驟: 基於該語法元素,應用一低頻不可分離逆變換或多重逆變換中的至少一項。
  8. 一種對視訊資料進行編碼的方法,該方法包括以下步驟: 向一經編碼的視訊位元串流以信號發送該視訊資料的一區塊的所有亮度係數; 在向該經編碼的視訊位元串流以信號發送該區塊的所有該等亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行編碼。
  9. 根據請求項8之方法,其中在以信號發送該區塊的所有該等亮度係數之後以信號發送用於該區塊的該至少一個語法元素之步驟包括以下步驟:在該經編碼的視訊位元串流中的位於所有該等亮度係數之後的一位置處以信號發送用於該區塊的該至少一個語法元素。
  10. 根據請求項8之方法,亦包括以下步驟: 以一變換單元級別來以信號發送該至少一個語法元素。
  11. 根據請求項8之方法,亦包括以下步驟: 在以信號發送該至少一個語法元素之後,以信號發送該區塊的所有色度係數。
  12. 根據請求項8之方法,亦包括以下步驟: 決定內部子分割是否用於該區塊;及 基於內部子分割用於該區塊,用針對該區塊的一上一個TU來以信號發送該至少一個語法元素。
  13. 如請求項8之方法,亦包括以下步驟: 根據語法元素,應用一低頻不可分離變換或多重變換中的至少一項。
  14. 一種對視訊資料進行譯碼的方法,該方法包括以下步驟: 決定是否使用雙樹分割模式對該視訊資料的一區塊進行譯碼; 從一經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向一經編碼的視訊位元串流以信號發送該區塊的所有色度係數; 在從該經編碼的視訊位元串流中解析所有該等色度係數或者向該經編碼的視訊位元串流以信號發送所有該等色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行譯碼。
  15. 如請求項14之方法,其中在解析或以信號發送所有該等色度係數之後解析或以信號發送用於該區塊的該至少一個語法元素之步驟包括以下步驟:解析或以信號發送在該經編碼的視訊位元串流中的位於所有該等色度係數之後的一位置處的用於該區塊的該至少一個語法元素。
  16. 如請求項14之方法,亦包括以下步驟: 以一變換單元級別來以信號發送或解析該至少一個語法元素。
  17. 根據請求項14之方法,其中譯碼包括解碼,並且其中該方法亦包括以下步驟: 基於該語法元素,應用一低頻不可分離逆變換或多重逆變換中的至少一項。
  18. 根據請求項15之方法,其中譯碼包括編碼,並且其中該方法亦包括以下步驟: 根據語法元素,應用一低頻不可分離變換或多重變換中的至少一項。
  19. 一種用於對視訊資料進行解碼的設備,該設備包括: 記憶體,其被配置為儲存該視訊資料;及 一或多個處理器,其在電路系統中實現並通訊地耦合到該記憶體,該一或多個處理器被配置為: 從一經編碼的視訊位元串流中解析該視訊資料的一區塊的所有亮度係數; 在從該經編碼的視訊位元串流中解析該區塊的所有該等亮度係數之後,解析用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行解碼。
  20. 根據請求項19之設備,其中作為在解析所有該等亮度係數之後解析用於該區塊的該至少一個語法元素的一部分,該一或多個處理器被配置為: 解析在該經編碼的視訊位元串流中的位於所有該等亮度係數之後的一位置處的用於該區塊的該至少一個語法元素。
  21. 根據請求項19之設備,其中該一或多個處理器亦被配置為: 以一變換單元級別來解析該至少一個語法元素。
  22. 根據請求項19之設備,其中該一或多個處理器亦被配置為: 在解析該至少一個語法元素之後,解析該區塊的所有色度係數。
  23. 根據請求項19之設備,其中該一或多個處理器亦被配置為: 決定內部子分割是否用於該區塊;及 基於內部子分割用於該區塊,用針對該區塊的一上一個TU來解析該至少一個語法元素。
  24. 根據請求項23之設備,其中作為決定是否使用內部子分割的一部分,該一或多個處理器被配置為解析用於指示是否使用內部子分割的一標誌。
  25. 根據請求項19之設備,亦包括: 一顯示設備,其被配置為顯示經解碼的視訊資料。
  26. 一種用於對視訊資料進行編碼的設備,該設備包括: 記憶體,其被配置為儲存該視訊資料;及 一或多個處理器,其在電路系統中實現並通訊地耦合到該記憶體,該一或多個處理器被配置為: 向一經編碼的視訊位元串流以信號發送該視訊資料的一區塊的所有亮度係數; 在向該經編碼的視訊位元串流以信號發送該區塊的所有該等亮度係數之後,以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等亮度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行編碼。
  27. 根據請求項26之設備,其中作為在以信號發送所有該等亮度係數之後以信號發送用於該區塊的該至少一個語法元素的一部分,該一或多個處理器被配置為: 在該經編碼的視訊位元串流中的位於所有該等亮度係數之後的一位置處以信號發送用於該區塊的該至少一個語法元素。
  28. 根據請求項26之設備,其中該一或多個處理器亦被配置為: 以一變換單元級別以信號發送該至少一個語法元素。
  29. 根據請求項26之設備,其中該一或多個處理器亦被配置為: 在解析或以信號發送該至少一個語法元素之後,以信號發送該區塊的所有色度係數。
  30. 根據請求項26之設備,其中該一或多個處理器亦被配置為: 決定內部子分割是否用於該區塊;及 基於內部子分割用於該區塊,用針對該區塊的一上一個TU來以信號發送該至少一個語法元素。
  31. 根據請求項26之設備,亦包括: 一相機,其被配置為擷取該視訊資料。
  32. 一種用於對視訊資料進行譯碼的設備,該設備包括: 記憶體,其被配置為儲存該視訊資料;及 一或多個處理器,其在電路系統中實現並通訊地耦合到該記憶體,該一或多個處理器被配置為: 決定是否使用雙樹分割模式對該視訊資料的一區塊進行譯碼; 從一經編碼的視訊位元串流中解析該區塊的所有色度係數,或者向一經編碼的視訊位元串流以信號發送該區塊的所有色度係數; 在從該經編碼的視訊位元串流中解析所有該等色度係數或者向該經編碼的視訊位元串流以信號發送所有該等色度係數之後,解析或以信號發送用於該區塊的至少一個語法元素,其中該至少一個語法元素包括用於該等色度係數的一低頻不可分離變換索引或一多重變換選擇索引中的至少一項;及 根據該至少一個語法元素,對該區塊進行譯碼。
  33. 根據請求項32之設備,其中作為在解析或以信號發送所有該等色度係數之後解析或以信號發送用於該區塊的該至少一個語法元素的一部分,該一或多個處理器亦被配置為: 解析或以信號發送在該經編碼的視訊位元串流中的位於所有該等色度係數之後的一位置處的用於該區塊的該至少一個語法元素。
  34. 根據請求項32之設備,其中該一或多個處理器亦被配置為: 以一變換單元級別以信號發送或解析該至少一個語法元素。
  35. 根據請求項32之設備,其中譯碼包括編碼,並且其中該設備亦包括: 一相機,其被配置為擷取該視訊資料。
  36. 根據請求項32之設備,其中譯碼包括解碼,該設備亦包括: 一顯示設備,其被配置為顯示經解碼的視訊資料。
TW110111513A 2020-03-30 2021-03-30 視訊譯碼中的低頻不可分離變換索引信號傳遞 TW202143734A (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US202063002052P 2020-03-30 2020-03-30
US63/002,052 2020-03-30
US17/214,184 US20210321137A1 (en) 2020-03-30 2021-03-26 Low-frequency non-separable transform index signaling in video coding
US17/214,184 2021-03-26

Publications (1)

Publication Number Publication Date
TW202143734A true TW202143734A (zh) 2021-11-16

Family

ID=75639971

Family Applications (1)

Application Number Title Priority Date Filing Date
TW110111513A TW202143734A (zh) 2020-03-30 2021-03-30 視訊譯碼中的低頻不可分離變換索引信號傳遞

Country Status (7)

Country Link
US (1) US20210321137A1 (zh)
EP (1) EP4091325A1 (zh)
KR (1) KR20220159965A (zh)
CN (1) CN115349255A (zh)
BR (1) BR112022019172A2 (zh)
TW (1) TW202143734A (zh)
WO (1) WO2021202384A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220042209A (ko) * 2019-10-08 2022-04-04 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
WO2021244420A1 (en) * 2020-05-31 2021-12-09 Beijing Bytedance Network Technology Co., Ltd. Palette mode with local dual tree modetype definition

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10306229B2 (en) 2015-01-26 2019-05-28 Qualcomm Incorporated Enhanced multiple transforms for prediction residual
US10491922B2 (en) 2015-09-29 2019-11-26 Qualcomm Incorporated Non-separable secondary transform for video coding
US10349085B2 (en) 2016-02-15 2019-07-09 Qualcomm Incorporated Efficient parameter storage for compact multi-pass transforms
US10448053B2 (en) 2016-02-15 2019-10-15 Qualcomm Incorporated Multi-pass non-separable transforms for video coding
US10863199B2 (en) 2018-03-26 2020-12-08 Qualcomm Incorporated Minimization of transform memory and latency via parallel factorizations
CN116055745A (zh) * 2019-06-25 2023-05-02 三星电子株式会社 使用二次变换的视频信号处理方法及装置
KR20220050967A (ko) * 2019-10-04 2022-04-25 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
WO2021141478A1 (ko) * 2020-01-12 2021-07-15 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치

Also Published As

Publication number Publication date
WO2021202384A1 (en) 2021-10-07
BR112022019172A2 (pt) 2022-11-08
CN115349255A (zh) 2022-11-15
US20210321137A1 (en) 2021-10-14
KR20220159965A (ko) 2022-12-05
EP4091325A1 (en) 2022-11-23

Similar Documents

Publication Publication Date Title
US20190246122A1 (en) Palette coding for video coding
US11206400B2 (en) Low-frequency non-separable transform (LFNST) simplifications
TW202115977A (zh) 用於視訊編碼的跨分量自我調整迴路濾波
US20210235124A1 (en) Decoded picture buffer (dpb) parameter signaling for video coding
US20210058620A1 (en) Chroma quantization parameter (qp) derivation for video coding
US11716488B2 (en) Subpicture signaling in high-level syntax for video coding
TW202044836A (zh) 用於視訊寫碼中的調色板語法的分組寫碼
US11991387B2 (en) Signaling number of subblock merge candidates in video coding
US20210092406A1 (en) Inter-layer reference picture signaling in video coding
TW202133621A (zh) 支援有損解碼和無損解碼兩者的殘差解碼
TW202143734A (zh) 視訊譯碼中的低頻不可分離變換索引信號傳遞
JP2024514103A (ja) インター予測モードにおけるテンプレートマッチングの改善
JP2024500663A (ja) ビデオコーディングにおける最確モードリスト構築のためのデコーダ側イントラモード導出
TW202141988A (zh) 用於視訊譯碼中的變換跳過區塊的高級約束
US20230421769A1 (en) Adaptively deriving rice parameter values for high bit-depth video coding
TW202133615A (zh) 基於色度變換跳過的用於色度的lfnst信號傳遞
TW202131679A (zh) 在視訊編碼中利用縮減的歸零項的低頻不可分變換(lfnst)
US11683489B2 (en) Monochrome palette mode for video coding
US11706425B2 (en) Multiple transform set signaling for video coding
US20210314567A1 (en) Block partitioning for image and video coding
US11330305B2 (en) Signaling constraints and sequence parameter set sharing in video coding
US11863787B2 (en) Maximum allowed block size for BDPCM mode
TW202143712A (zh) 視訊轉碼中的低頻不可分離變換處理
CN115462072A (zh) 视频译码中的高级去块滤波(dbf)、自适应环路滤波(alf)和采样自适应偏移(sao)控制以及自适应参数集(aps)数量约束
TW202131686A (zh) 視訊解碼中對多重變換選擇訊號傳遞的基於係數組的約束