TW202143722A - 在視訊解碼中的經解碼視訊序列起點存取單元 - Google Patents

在視訊解碼中的經解碼視訊序列起點存取單元 Download PDF

Info

Publication number
TW202143722A
TW202143722A TW110108484A TW110108484A TW202143722A TW 202143722 A TW202143722 A TW 202143722A TW 110108484 A TW110108484 A TW 110108484A TW 110108484 A TW110108484 A TW 110108484A TW 202143722 A TW202143722 A TW 202143722A
Authority
TW
Taiwan
Prior art keywords
picture
layers
layer
output
sub
Prior art date
Application number
TW110108484A
Other languages
English (en)
Inventor
瓦迪姆 賽萊金
勇 何
莫哈美德塞伊德 克班
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202143722A publication Critical patent/TW202143722A/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440227Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by decomposing into layers, e.g. base layer and one or more enhancement layers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

視訊解碼器可以被配置為:根據在輸出層集合模式中指定的層以及基於在存取單元中接收到的實際的層來輸出視訊資料的層。因此,視訊解碼器可以被配置為:在實際接收到的層與在輸出層集合模式中指定的層不匹配的情況下,輸出實際接收到的層,而不是重啟視訊位元流。在另一實例中,在當前的經解碼的圖片中的子圖片的子圖片ID與在參考圖片中的子圖片的子圖片ID不匹配時,視訊轉碼器可以禁用訊框間預測。

Description

在視訊解碼中的經解碼視訊序列起點存取單元
本專利申請案請求於2020年3月10日提出申請的、編號為62/987,765的美國臨時申請、於2020年4月2日提出申請的、編號為63/004,241的美國臨時申請以及於2020年4月13日提出申請的、編號為63/009,230的美國臨時申請的利益,上述申請之每一個申請的全部內容藉由引用的方式併入本文中。
本案內容涉及視訊編碼和視訊解碼。
數位視訊能力可以併入範圍廣泛的設備中,包括數位電視、數位直接廣播系統、無線廣播系統、個人數位助理(PDA)、筆記型電腦或桌上型電腦、平板電腦、電子書閱讀器、數位照相機、數位錄音設備、數位媒體播放機、視訊遊戲裝置、視訊遊戲主控台、蜂巢式電話或衛星無線電電話、所謂的「智慧型電話」、視訊電話會議設備、視訊串流傳輸設備等。數位視訊設備實現視訊解碼技術,例如,在藉由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、部分10,改進的視訊解碼(AVC)、ITU-T H.265/高效率視訊解碼(HEVC)定義的標準中所描述的視訊解碼技術,以及對此種標準的擴展。視訊設備可以藉由實現此種視訊解碼技術來更有效地發送、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊解碼技術包括空間(圖片內)預測及/或時間(圖片間)預測,以減少或移除視訊序列中的固有的冗餘。針對基於區塊的視訊解碼,視訊切片(例如,視訊圖片或視訊圖片的一部分)可以劃分為視訊區塊,其亦可以稱為解碼樹單元(CTU)、解碼單元(CU)及/或解碼節點。圖片的訊框內解碼(I)的切片中的視訊區塊是使用相對於同一圖片中的鄰近的區塊中的參考取樣的空間預測來進行編碼的。圖片的訊框間解碼(P或B)的切片中的視訊區塊可以使用相對於同一圖片中的鄰近的區塊中的參考取樣的空間預測,或者相對於在其他參考圖片中的參考取樣的時間預測。圖片可以稱為訊框,以及參考圖片可以稱為參考訊框。
一般而言,本案內容描述用於對視訊資料進行解碼的技術。在一個實例中,本案內容描述用於根據輸出層集合模式來輸出視訊資料的層的技術。更具體地,視訊解碼器可以被配置為根據在輸出層集合模式中指定的層以及基於在存取單元中接收到的實際的層來輸出視訊資料的層。用此種方法,視訊解碼器300可以被配置為:在實際接收到的層與在輸出層集合模式中指定的層不匹配的情況下,輸出實際接收到的層而不是重啟視訊位元流。照此,可以減少視訊輸出中的延遲,以及可以改善使用者體驗。
在另一實例中,本案內容描述用於當使用子圖片時對視訊資料進行編碼的技術。特別地,本案內容描述用於當已經從一個圖片到下一圖片對子圖片進行重新排序時處理預測決定的技術。在一個實例中,視訊轉碼器可以被配置為仍然針對具有被重新排序的子圖片的圖片使用訊框間預測,而不是要求僅使用訊框內預測要對此種圖片進行解碼,但是在當前經解碼的圖片中的子圖片的子圖片ID與在參考圖片中的子圖片的子圖片ID不匹配時,可以禁用訊框間預測。用此種方法,可以避免針對已經被重新排序的特定的子圖片進行訊框間預測,而不要求要針對整個圖片使用訊框內預測。照此,可以提高解碼效率。
在本案內容的一個實例中,對視訊資料進行解碼的方法包括:接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID,接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層,以及基於所指定的要輸出的層和所接收的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,本案內容描述被配置為對視訊資料進行解碼的裝置,該裝置包括:被配置為儲存視訊資料的一或多個層的記憶體,以及在電路系統中實現的以及與該記憶體相通訊的一或多個處理器,該一或多個處理器被配置為接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID,接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層,以及基於所指定的要輸出的層和所接收的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,本案內容描述被配置為對視訊資料進行解碼的設備,該設備包括:用於接收對輸出層集合模式的指示的構件,其中該輸出層集合模式指定要輸出的層的層ID,用於接收視訊資料的一或多個層的構件,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層,以及用於基於所指定的要輸出的層和所接收的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的至少一個層的構件。
在另一實例中,本案內容描述儲存指令的非暫時性電腦可讀取儲存媒體,該等指令當執行時,使得被配置為對視訊資料進行解碼的設備的一或多個處理器進行以下操作:接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID,接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層,以及基於所指定的要輸出的層和所接收的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,本案內容描述對視訊資料進行編碼的方法,該方法包括:決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID,基於對在當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的決定,來決定可用的解碼模式,以及利用可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
在另一實例中,本案內容描述被配置為對視訊資料進行編碼的裝置,該裝置包括:被配置為儲存視訊資料的一或多個層的記憶體,以及在電路系統中實現的以及與該記憶體相通訊的一或多個處理器,該一或多個處理器被配置為進行以下操作:決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID,基於對在當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的決定,來決定可用的解碼模式,以及利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
在另一實例中,本案內容描述被配置為對視訊資料進行編碼的設備,該設備包括:用於決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID的構件,用於基於對在當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的該決定,來決定可用的解碼模式的構件,以及用於利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼的構件。
在另一實例中,本案內容描述儲存指令的非暫時性電腦可讀取儲存媒體,該等指令當執行時,使得被配置為對視訊資料進行編碼的設備的一或多個處理器進行以下操作:決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID,基於對在當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的該決定,來決定可用的解碼模式,以及利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
在附圖和下文的描述中闡述了一或多個實例的細節。其他特徵、目的和優勢根據描述、附圖和申請專利範圍將是顯而易見的。
一般而言,本案內容描述用於對視訊資料進行解碼的技術。在一個實例中,本案內容描述用於根據輸出層集合模式來輸出視訊資料的層的技術。更具體地,視訊解碼器可以被配置為根據在輸出層集合模式中指定的層以及基於在存取單元中接收到的實際的層來輸出視訊資料的層。用此種方法,視訊解碼器300可以被配置為:在實際接收到的層與在輸出層集合模式中指定的層不匹配的情況下,輸出實際接收到的層而不是重啟視訊位元流。照此,可以減少視訊輸出中的延遲,以及可以改善使用者體驗。
在另一實例中,本案內容描述用於在使用子圖片時對視訊資料進行編碼的技術。特別地,本案內容描述用於在已經從一個圖片到下一圖片對子圖片進行重新排序時處理預測決定的技術。在一個實例中,視訊轉碼器可以被配置為仍然針對具有被重新排序的子圖片的圖片使用訊框間預測,而不是要求僅使用訊框內預測要對此種圖片進行解碼,但是在當前經解碼的圖片中的子圖片的子圖片ID與在參考圖片中的子圖片的子圖片ID不匹配時,可以禁用訊框間預測。用此種方法,可以避免針對已經被重新排序的特定的子圖片進行訊框間預測,而不要求要針對整個圖片使用訊框內預測。照此,可以提高解碼效率。
圖1是圖示可以執行本案內容的技術的示例視訊編碼和解碼系統100的方塊圖。本案內容的技術通常針對於對視訊資料進行解碼(編碼及/或解碼)。一般而言,視訊資料包括用於處理視訊的任何資料。因此,視訊資料可以包括原始的未經編碼的視訊、經編碼的視訊、經解碼的(例如,經重構的)視訊以及視訊中繼資料(例如,訊號傳遞資料)。
如圖1所示,在該實例中,系統100包括提供要由目的地設備116進行解碼和顯示的經編碼的視訊資料的源設備102。特別地,源設備102經由電腦可讀取媒體110來將視訊資料提供給目的地設備116。源設備102和目的地設備116可以包括範圍廣泛的設備中的任何設備,包括桌上型電腦、筆記型電腦(亦即,膝上型電腦)、平板電腦、機上盒、電話手機(例如,智慧手機)、電視機、照相機、顯示裝置、數位媒體播放機、視訊遊戲主控台、視訊串流傳輸設備等。在一些情況下,源設備102和目的地設備116可以配備用於無線通訊,因此可以稱為無線通訊設備。
在圖1的實例中,源設備102包括視訊源104、記憶體106、視訊轉碼器200以及輸出介面108。目的地設備116包括輸入介面122、視訊解碼器300、記憶體120以及顯示裝置118。根據本案內容,源設備102的視訊轉碼器200和目的地設備116的視訊解碼器300可以被配置為應用用於對視訊資料進行解碼的技術。因此,源設備102表示視訊編碼設備的實例,而目的地設備116表示視訊解碼設備的實例。在其他實例中,源設備和目的地設備可以包括其他元件或佈置。例如,源設備102可以從外部視訊源(例如,外部照相機)接收視訊資料。同樣地,目的地設備116可以與外部顯示裝置相連接,而不是包括整合的顯示裝置。
如圖1所示的系統100僅僅是一個實例。一般而言,任何數位視訊編碼及/或解碼設備可以執行用於對視訊資料進行解碼的技術。源設備102和目的地設備116僅僅是在其中源設備102產生用於傳輸給目的地設備116的經解碼的視訊資料的此種解碼設備的實例。本案內容將「解碼」設備稱作執行對資料的解碼(編碼及/或解碼)的設備。因此,視訊轉碼器200和視訊解碼器300分別表示解碼設備(具體地,視訊轉碼器和視訊解碼器)的實例。在一些實例中,源設備102和目的地設備116可以以大體上對稱的方式進行操作,使得源設備102和目的地設備116中的每一項包括視訊編碼和解碼元件。因此,系統100可以支援在源設備102與目的地設備116之間的單向或雙向視訊傳輸,例如,用於視訊串流傳輸、視訊重播、視訊廣播或視訊電話。
一般而言,視訊源104表示視訊資料(亦即,原始的、未經編碼的視訊資料)的源,以及將視訊資料的連續的一系列圖片(亦稱為「訊框」)提供給視訊轉碼器200,該視訊轉碼器200對用於圖片的資料進行編碼。源設備102的視訊源104可以包括視訊拍攝設備,例如,攝像機、包含先前拍攝的原始的視訊的視訊存檔及/或用於從視訊內容提供者接收視訊的視訊饋送介面。作為進一步的替代方式,視訊源104可以產生基於電腦圖形的資料作為源視訊,或者產生即時視訊、經存檔的視訊和電腦產生的視訊的組合。在每種情況下,視訊轉碼器200可以對拍攝的、預先拍攝的或電腦產生的視訊資料進行編碼。視訊轉碼器200可以將圖片從所接收的順序(有時稱為「顯示順序」)重新排列為用於解碼的解碼次序。視訊轉碼器200可以產生包括經編碼的視訊資料的位元流。源設備102可以接著經由輸出介面108將經編碼的視訊資料輸出到電腦可讀取媒體110上,用於由例如目的地設備116的輸入介面122進行的接收及/或取回。
源設備102的記憶體106和目的地設備116的記憶體120表示通用記憶體。在一些實例中,記憶體106、記憶體120可以儲存原始的視訊資料,例如,來自視訊源104的原始的視訊以及來自視訊解碼器300的原始的、經解碼的視訊資料。另外地或替代地,記憶體106、記憶體120可以儲存可由例如視訊轉碼器200和視訊解碼器300分別執行的軟體指令。儘管記憶體106和記憶體120是在該實例中與視訊轉碼器200和視訊解碼器300分開圖示的,但是應當理解的是,視訊轉碼器200和視訊解碼器300亦可以包括出於在功能上類似的或等效目的的內部記憶體。此外,記憶體106、記憶體120可以儲存例如從視訊轉碼器200輸出以及輸入到視訊解碼器300的經編碼的視訊資料。在一些實例中,記憶體106、記憶體120中的一部分可以分配為一或多個視訊緩衝區,例如,以儲存原始的、經解碼的及/或經編碼的視訊資料。
電腦可讀取媒體110可以表示能夠將經編碼的視訊資料從源設備102傳輸到目的地設備116的任何類型的媒體或設備。在一個實例中,電腦可讀取媒體110表示通訊媒體,以使得源設備102能夠例如經由射頻網路或基於電腦的網路來即時地向目的地設備116直接地發送經編碼的視訊資料。輸出介面108可以根據諸如無線通訊協定的通訊標準來對包括經編碼的視訊資料的傳輸信號進行解調,以及輸入介面122可以根據諸如無線通訊協定的通訊標準來對所接收的傳輸信號進行解調。通訊媒體可以包括任何無線通訊媒體或有線通訊媒體,例如,射頻(RF)頻譜或一或多條實體傳輸線。通訊媒體可以形成基於封包的網路(例如,區域網路、廣域網或諸如網際網路的全球網路)的一部分。通訊媒體可以包括路由器、交換機、基地台或對於促進從源設備102到目的地設備116的通訊而言可能有用的任何其他設備。
在一些實例中,源設備102可以將經編碼的資料從輸出介面108輸出到存放裝置112。類似地,目的地設備116可以經由輸入介面122從存放裝置112存取經編碼的資料。存放裝置112可以包括各種分散式資料儲存媒體或本地存取的資料儲存媒體中的任何一者,例如,硬碟、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性記憶體或非揮發性記憶體,或用於儲存經編碼的視訊資料的任何其他合適的數位儲存媒體。
在一些實例中,源設備102可以將經編碼的視訊資料輸出到檔案伺服器114或者可以儲存由源設備102產生的經編碼的視訊資料的另一中間存放裝置。目的地設備116可以經由串流傳輸或下載來從檔案伺服器114存取儲存的視訊資料。檔案伺服器114可以是能夠儲存經編碼的視訊資料以及將該經編碼的視訊資料發送給目的地設備116的任何類型的伺服器設備。檔案伺服器114可以表示(例如,針對網站的)網頁伺服器、檔案傳送協定(FTP)伺服器、內容遞送網路設備或網路附加儲存(NAS)設備。目的地設備116可以經由任何標準資料連接(包括網際網路連接)來從檔案伺服器114存取經編碼的視訊資料。此可以包括適合於存取儲存在檔案伺服器114上的經編碼的視訊資料的無線通道(例如,Wi-Fi連接)、有線連接(例如,數位用戶線路(DSL)、纜線數據機等)或此兩者的組合。檔案伺服器114和輸入介面122可以被配置為根據串流傳輸傳輸協定、下載傳輸協定或其組合來進行操作。
輸出介面108和輸入介面122可以表示無線發射器/接收器、數據機、有線聯網單元(例如,乙太網路卡)、根據各種IEEE 802.11標準中的任何標準進行操作的無線通訊元件或其他實體元件。在其中輸出介面108和輸入介面122包括無線元件的實例中,輸出介面108和輸入介面122可以被配置為根據蜂巢通訊標準(例如,4G、4G-LTE(長期進化)、改進的LTE、5G等)來傳送資料(例如,經編碼的視訊資料)。在其中輸出介面108包括無線發射器的一些實例中,輸出介面108和輸入介面122可以被配置為根據其他無線標準(例如,IEEE 802.11規範、IEEE 802.15規範(例如,紫蜂™)、藍芽™標準等)來傳送資料(例如,經編碼的視訊資料)。在一些實例中,源設備102及/或目的地設備116可以包括各自的片上系統(SoC)設備。例如,源設備102可以包括用於執行歸屬於視訊轉碼器200及/或輸出介面108的功能的SoC設備,以及目的地設備116可以包括用於執行歸屬於視訊解碼器300及/或輸入介面122的功能的SoC設備。
本案內容的技術可以應用於視訊解碼,以支援各種多媒體應用中的任何多媒體應用,例如,空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流傳輸視訊傳輸,例如,藉由HTTP的動態自我調整串流傳輸(DASH)、編碼到資料儲存媒體上的數位視訊、對儲存在資料儲存媒體上的數位視訊的解碼或其他應用。
目的地設備116的輸入介面122從電腦可讀取媒體110(例如,通訊媒體、存放裝置112、檔案伺服器114等)接收經編碼的視訊位元流。經編碼的視訊位元流可以包括藉由視訊轉碼器200定義的、亦由視訊解碼器300使用的訊號傳遞資訊,例如,具有描述視訊區塊或其他經解碼的構件(例如,切片、圖片、圖片組、序列等)的特性及/或對視訊區塊或其他經解碼的單元的處理的值的語法元素。顯示裝置118將經解碼的視訊資料的經解碼的圖片顯示給使用者。顯示裝置118可以表示各種顯示裝置中的任何顯示裝置,例如,陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一種類型的顯示裝置。
儘管在圖1中未圖示,但是在一些實例中,視訊轉碼器200和視訊解碼器300可以均與音訊編碼器及/或音訊解碼器整合,以及可以包括適當的MUX-DEMUX單元或其他硬體及/或軟體,以處理包括共用資料串流中的音訊和視訊兩者的經多工的串流。若可適用的話,MUX-DEMUX單元可以符合ITU H.223多工器協定或其他協定(例如,使用者資料包通訊協定(UDP))。
視訊轉碼器200和視訊解碼器300均可以實現為各種合適的編碼器電路及/或解碼器電路中的任何一者,例如,一或多個微處理器、數位訊號處理器(DSP)、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)、個別的邏輯單元、軟體、硬體、韌體或其任何組合。當技術部分地在軟體中實現時,設備可以將針對軟體的指令儲存在合適的非暫時性電腦可讀取媒體中,以及使用一或多個處理器來執行硬體中的指令,以執行本案內容的技術。視訊轉碼器200和視訊解碼器300中的每一項可以是包括在一或多個編碼器或解碼器中的,該編碼器或解碼器中的任一者可以整合為各自的設備中的組合的編碼器/解碼器(CODEC)的一部分。包括視訊轉碼器200及/或視訊解碼器300的設備可以包括積體電路、微處理器及/或無線通訊設備,例如,蜂巢式電話。
視訊轉碼器200和視訊解碼器300可以根據視訊解碼標準(例如,ITU-T H.265(亦稱為高效率視訊解碼(HEVC)標準)或對其的擴展(例如,多視點及/或可縮放的視訊解碼擴展))進行操作。或者,視訊轉碼器200和視訊解碼器300可以根據其他專有標準或行業標準(例如ITU-T H.266標準,亦稱為多功能視訊解碼(VVC))進行操作。VVC標準的最新草案是在Bross等人的「Versatile Video Coding (Draft 8)」(「多功能視訊解碼(草案8)」)中進行描述的,ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET),第17次會議:布魯塞爾,比利時,2020年1月7日至17日,JVET-Q2001-vD(以下為「VVC草案8」)。然而,本案內容的技術不受限於任何特定的解碼標準。
一般而言,視訊轉碼器200和視訊解碼器300可以執行對圖片的基於區塊的解碼。術語「區塊」通常指的是包括要處理的(例如,在編碼及/或解碼過程中要被編碼、被解碼或以其他方式使用的)資料的結構。例如,區塊可以包括亮度資料及/或色度資料的取樣的二維矩陣。一般而言,視訊轉碼器200和視訊解碼器300可以對以YUV(例如,Y、Cb、Cr)格式表示的視訊資料進行解碼。亦即,視訊轉碼器200和視訊解碼器300可以對亮度分量和色度分量進行解碼,而不是對針對圖片的取樣的紅、綠和藍(RGB)資料進行解碼,其中色度分量可以包括紅色色調色度分量和藍色色調色度分量兩者。在一些實例中,視訊轉碼器200在編碼之前將接收到的RGB格式的資料轉換為YUV表示,以及視訊解碼器300將YUV表示轉換為RGB格式。或者,預處理單元和後處理單元(未圖示)可以執行該等轉換。
本案內容通常可以涉及對圖片的解碼(例如,編碼和解碼)以包括對圖片的資料進行編碼或解碼的過程。類似地,本案內容可以涉及對圖片的區塊的解碼以包括對針對區塊的資料進行編碼或解碼的過程(例如,預測及/或殘差解碼)。經編碼的視訊位元流通常包括針對表示解碼決定(例如,解碼模式)以及將圖片劃分為區塊的語法元素的一系列值。因此,對圖片或區塊進行解碼的參考通常應當理解為對針對形成圖片或區塊的語法元素的值進行解碼。
HEVC定義各種區塊,包括解碼單元(CU)、預測單元(PU)和變換單元(TU)。根據HEVC,視訊解碼器(例如,視訊轉碼器200)根據四叉樹結構將解碼樹單元(CTU)劃分為CU。亦即,視訊解碼器將CTU和CU劃分為四個相等的、非重疊的正方形,以及四叉樹的每個節點具有零個子節點或者四個子節點。沒有子節點的節點可以稱為「葉節點」,以及此種葉節點的CU可以包括一或多個PU及/或一或多個TU。視訊解碼器可以進一步劃分PU和TU。例如,在HEVC中,殘差四叉樹(RQT)表示對TU的劃分。在HEVC中,PU表示訊框間預測資料,而TU表示殘差資料。訊框內預測的CU包括訊框內預測資訊,例如,訊框內模式指示。
作為另一實例,視訊轉碼器200和視訊解碼器300可以被配置為根據VVC進行操作。根據VVC,視訊解碼器(例如,視訊轉碼器200)將圖片劃分為複數個解碼樹單元(CTU)。視訊轉碼器200可以根據樹結構來劃分CTU,例如,四叉樹-二叉樹(QTBT)結構或多類型樹(MTT)結構。QTBT結構移除多個劃分類型的概念,例如,對HEVC的CU、PU與TU之間的分開。QTBT結構包括兩個級別:根據四叉樹劃分進行劃分的第一級別,以及根據二叉樹劃分進行劃分的第二級別。QTBT結構的根節點對應於CTU。二叉樹的葉節點對應於解碼單元(CU)。
在MTT劃分結構中,區塊可以是使用四叉樹(QT)劃分、二叉樹(BT)劃分和一或多個類型的三叉樹(TT)(亦稱為三元樹(TT))劃分來進行劃分的。三叉樹劃分或三元樹劃分是將區塊拆分為三個子區塊的劃分。在一些實例中,三叉樹劃分或三元樹劃分在不通過中心分割原始區塊的情況下將區塊分成三個子區塊。MTT中的劃分類型(例如,QT、BT和TT)可以是對稱的或非對稱的。
在一些實例中,視訊轉碼器200和視訊解碼器300可以使用單個QTBT或MTT結構來表示亮度分量和色度分量中的每一項,而在其他實例中,視訊轉碼器200和視訊解碼器300可以使用兩個或更多個QTBT或MTT結構,例如,用於亮度分量的一個QTBT/MTT結構和用於全部兩個色度分量的另一QTBT/MTT結構(或用於各自的色度分量的兩個QTBT/MTT結構)。
視訊轉碼器200和視訊解碼器300可以被配置為使用每HEVC的四叉樹劃分、QTBT劃分、MTT劃分或其他劃分結構。出於解釋的目的,對本案內容的技術的描述是相對於QTBT劃分提供的。然而,應當理解的是,本案內容的技術亦可以應用於被配置為使用四叉樹劃分或此外使用其他類型的劃分的視訊解碼器。
可以用各種方法在圖片中對區塊(例如,CTU或CU)進行群組。舉例而言,磚塊(brick)可以指的是圖片中的特定的圖塊(tile)內的CTU行的矩形區域。圖塊可以是圖片中的特定的圖塊列和特定的圖塊行內的CTU的矩形區域。圖塊列指的是CTU的矩形區域,其具有等於圖片的高度的高度以及藉由(例如,諸如,在圖片參數集中的)語法元素指定的寬度。圖塊行指的是CTU的矩形區域,其具有藉由(例如,諸如在圖片參數集中的)語法元素指定的高度以及等於圖片的寬度的寬度。
在一些實例中,可以將圖塊劃分為多個磚塊,磚塊之每一個磚塊可以包括圖塊內的一或多個CTU行。未劃分為多個磚塊的圖塊亦可以稱為磚塊。然而,是圖塊的真正的子集的磚塊可以不稱為圖塊。
在圖片中的磚塊亦可以是以切片來排列的。切片可以是圖片的整數數量的磚塊,其可以是獨佔地包含在單個網路抽象層(NAL)單元中的。在一些實例中,切片包括多個完整的圖塊或者一個圖塊的僅一連續序列的完整磚塊。
本案內容可以可交換地使用「NxN」和「N乘N」來指按照垂直維度和水平維度的區塊(例如,CU或其他視訊區塊)的取樣維度,例如,16x16取樣或16乘16取樣。一般而言,16x16 CU將在垂直方向上具有16個取樣(y=16),以及將在水平方向上具有16個取樣(x=16)。同樣地,NxN CU通常在垂直方向上具有N個取樣,以及在水平方向上具有N個取樣,其中N表示非負整數值。CU中的取樣可以是以行和列來佈置的。此外,CU不需要必然地在水平方向上具有與在垂直方向上相同數量的取樣。例如,CU可以包括NxM個取樣,其中M不必然地等於N。
視訊轉碼器200對針對表示預測及/或殘差資訊以及其他資訊的CU的視訊資料進行編碼。預測資訊指示要如何預測CU,以便形成針對CU的預測區塊。殘差資訊通常表示在編碼之前的CU的取樣與預測區塊之間的逐個取樣差。
為了預測CU,視訊轉碼器200通常可以經由訊框間預測或訊框內預測來形成針對CU的預測區塊。訊框間預測通常指的是根據先前經解碼的圖片的資料來預測CU,而訊框內預測通常指的是根據同一圖片的先前經解碼的資料來預測CU。為了執行訊框間預測,視訊轉碼器200可以使用一或多個運動向量來產生預測區塊。視訊轉碼器200通常可以執行運動搜尋以辨識與CU緊密地匹配的參考區塊,例如,按照在CU與參考區塊之間的差異。視訊轉碼器200可以使用絕對差之和(SAD)、差平方和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此種差分計算來對差分度量進行計算,以決定參考區塊是否與當前的CU緊密地匹配。在一些實例中,視訊轉碼器200可以使用單向預測或雙向預測來預測當前的CU。
VVC的一些實例亦提供仿射運動補償模式,其可以被認為是訊框間預測模式。在仿射運動補償模式中,視訊轉碼器200可以決定表示非平移運動的兩個或更多個運動向量,例如,放大或縮小、旋轉、透視運動或其他不規則的運動類型。
為了執行訊框內預測,視訊轉碼器200可以選擇訊框內預測模式以產生預測區塊。VVC的一些實例提供六十七種訊框內預測模式,包括各種方向的模式以及平面模式和DC模式。一般而言,視訊轉碼器200選擇訊框內預測模式,該訊框內預測模式描述對於當前區塊(例如,CU的區塊)而言的根據其預測當前區塊的取樣的鄰近的取樣。假設視訊轉碼器200以光柵掃瞄順序(左到右、上到下)來對CTU和CU進行解碼,則此種取樣通常可以在與當前區塊相同的圖片中的當前區塊的上方、上方並且左邊,或左邊。
視訊轉碼器200對表示針對當前區塊的預測模式的資料進行編碼。例如,針對訊框間預測模式,視訊轉碼器200可以對表示使用各種可用的訊框間預測模式中的哪種訊框間預測模式以及針對相應的模式的運動資訊的資料進行編碼。針對單向訊框間預測或雙向訊框間預測,例如,視訊轉碼器200可以使用改進的運動向量預測(AMVP)或合併模式來對運動向量進行編碼。視訊轉碼器200可以使用類似的模式來對用於仿射運動補償模式的運動向量進行編碼。
在預測(例如,對區塊的訊框內預測或訊框間預測)之後,視訊轉碼器200可以計算針對區塊的殘差資料。殘差資料(例如,殘差區塊)表示在區塊與針對區塊的使用相應的預測模式形成的預測區塊之間的逐個取樣差。視訊轉碼器200可以對殘差區塊應用一或多個變換,以在變換域而不是取樣域中產生經變換的資料。例如,視訊轉碼器200可以對殘差視訊資料應用離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換。另外地,視訊轉碼器200可以在第一變換之後應用二次變換,例如取決於模式的不可分的二次變換(MDNSST)、取決於信號的變換、卡洛南-洛伊(Karhunen-Loeve)變換(KLT)等。視訊轉碼器200在對一或多個變換的應用之後產生變換係數。
如前述,在任何變換以產生變換係數之後,視訊轉碼器200可以執行對變換係數的量化。量化通常指的是在其中對變換係數進行量化以可能地減少用於表示變換係數的資料的量,提供進一步的壓縮的過程。藉由執行量化過程,視訊轉碼器200可以減少與變換係數中的一些變換係數或所有變換係數相關聯的位元深度。例如,視訊轉碼器200可以在量化期間將n 位元值向下四捨五入到m 位元值,其中n 大於m 。在一些實例中,為了執行量化,視訊轉碼器200可以執行對要量化的值的逐位元右移。
在量化之後,視訊轉碼器200可以掃瞄變換係數,從包括經量化的變換係數的二維矩陣產生一維向量。掃瞄可以被設計為在向量的前面放置較高的能量(因此較低的頻率)變換係數,以及在向量的後面放置較低的能量(因此較高的頻率)變換係數。在一些實例中,視訊轉碼器200可以利用預先定義的掃瞄順序來掃瞄經量化的變換係數以產生序列化的向量,以及接著對向量的經量化的變換係數進行熵編碼。在其他實例中,視訊轉碼器200可以執行自我調整掃瞄。在掃瞄經量化的變換係數以形成一維向量之後,視訊轉碼器200可以例如根據上下文自我調整的二進位算術解碼(CABAC)對一維向量進行熵編碼。視訊轉碼器200亦可以對針對描述與經編碼的視訊資料相關聯的中繼資料的語法元素的值進行熵編碼,用於由視訊解碼器300在對視訊資料進行解碼中使用。
為了執行CABAC,視訊轉碼器200可以將在上下文模型內的上下文分配給要發送的符號。上下文可以涉及例如符號的鄰近的值是否是零值。概率決定可以是基於分配給符號的上下文。
視訊轉碼器200可以進一步例如在圖片標頭、區塊標頭、切片標頭或其他語法資料(例如,序列參數集(SPS)、圖片參數集(PPS),或視訊參數集(VPS))中向視訊解碼器300產生語法資料(例如,基於區塊的語法資料、基於圖片的語法資料和基於序列的語法資料)。視訊解碼器300同樣地可以對此種語法資料進行解碼以決定如何對相應的視訊資料進行解碼。
以此種方式,視訊轉碼器200可以產生包括經編碼的視訊資料的位元流,例如,描述對圖片到區塊(例如,CU)的劃分的語法元素和針對區塊的預測及/或殘差資訊。最終,視訊解碼器300可以接收位元流以及對經編碼的視訊資料進行解碼。
一般而言,視訊解碼器300執行與由視訊轉碼器200執行的過程相互的過程,以對位元流的經編碼的視訊資料進行解碼。例如,視訊解碼器300可以使用CABAC以大體上類似於(儘管是相互的)視訊轉碼器200的CABAC編碼過程的方式來對針對位元流的語法元素的值進行解碼。語法元素可以定義用於對圖片到CTU的劃分以及根據相應的劃分結構(例如,QTBT結構)來對每個CTU的劃分的劃分資訊,以定義CTU的CU。語法元素可以進一步定義針對視訊資料的區塊(例如,CU)的預測資訊和殘差資訊。
殘差資訊可以是藉由例如經量化的變換係數來表示的。視訊解碼器300可以對區塊的經量化的變換係數進行逆量化和逆變換,以再現針對該區塊的殘差區塊。視訊解碼器300使用以信號發送的預測模式(訊框內預測或訊框間預測)和相關的預測資訊(例如,用於訊框間預測的運動資訊)以形成針對該區塊的預測區塊。視訊解碼器300可以接著組合預測區塊和殘差區塊(在逐取樣的基礎上)以再現原始區塊。視訊解碼器300可以執行另外的處理,例如,執行解區塊過程以減少沿著區塊的邊界的視覺偽像。
根據本案內容的技術,視訊解碼器300可以接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的層,其中輸出層集合模式輸出具有已經被接收的最高層id的層。在一個實例中,視訊解碼器300可以被配置為接收對輸出層集合模式的指示,其中輸出層集合模式指定要輸出的層的層ID,接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層,以及基於所指定的要輸出的層和所接收的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,視訊解碼器300可以接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的所有層,其中輸出層集合模式輸出存在於所接收的一或多個層的所有層。
在另一實例中,在當前的圖片的nuh_layer_id(nuh_層_id)不等於在輸出層集合中指定的輸出層的nuh_layer_id的情況下,視訊轉碼器200和視訊解碼器300可以將圖片輸出標記設置為零。
在另一實例中,視訊轉碼器200和視訊解碼器300可以對在圖片標頭或切片標頭中的一者或多者中的自我調整參數集合進行解碼,以及根據在自我調整參數集合中的資訊來對視訊資料進行解碼。
在另一實例中,在先前經解碼的圖片已經對子圖片進行重新排序並且先前經解碼的圖片由當前的圖片用作參考圖片的情況下,視訊轉碼器200和視訊解碼器300應用用於對針對當前的圖片的子圖片進行重新排序的約束,以及根據約束來對當前的圖片進行解碼。例如,視訊轉碼器200可以被配置為:決定當前的圖片中的第一子圖片的第一子圖片ID是否不同於參考圖片中的相應的子圖片的第二子圖片ID,基於對當前的圖片中的第一子圖片的第一子圖片ID是否不同於參考圖片中的相應的子圖片的第二子圖片ID的決定來決定可用的解碼模式,以及利用可用的解碼模式中的一或多個解碼模式來對第一子圖片進行編碼。
本案內容通常可以涉及「以信號發送」某些資訊,例如,語法元素。術語「以信號發送」通常可以指的是對針對語法元素的值及/或用於對經編碼的視訊資料進行解碼的其他資料的傳送。亦即,視訊轉碼器200可以在位元流中以信號發送針對語法元素的值。一般而言,以信號發送指的是產生在位元流中的值。如前述,源設備102可以大體上即時地或不是即時地將位元流傳輸到目的地設備116(例如,可能在將語法元素儲存到存放裝置112以供目的地設備116稍後取回時發生)。
圖2A和圖2B是圖示示例四叉樹二叉樹(QTBT)結構130和相應的解碼樹單元(CTU)132的概念圖。實線表示四叉樹拆分,以及虛線指示二叉樹拆分。在二叉樹的每個拆分(亦即,非葉)節點中,一個標記是以信號發送為指示使用哪種拆分類型(亦即,水平的或垂直的)的,其中在該實例中0指示水平的拆分,以及1指示垂直的拆分。針對四叉樹拆分,不需要指示拆分的類型,此是因為四叉樹節點將區塊水平地和垂直地拆分為具有相等的大小的4個子區塊。因此,視訊轉碼器200可以對針對QTBT結構130的區域樹級別(亦即,實線)的語法元素(例如,拆分資訊)和針對QTBT結構130的預測樹級別(亦即,虛線)的語法元素(例如,拆分資訊)進行編碼,以及視訊解碼器300可以對針對QTBT結構130的區域樹級別(亦即,實線)的語法元素(例如,拆分資訊)和針對QTBT結構130的預測樹級別(亦即,虛線)的語法元素(例如,拆分資訊)進行解碼。視訊轉碼器200可以對針對由QTBT結構130的終端葉節點表示的CU的視訊資料(例如,預測資料和變換資料)進行編碼,以及視訊解碼器300可以對針對由QTBT結構130的終端葉節點表示的CU的視訊資料(例如,預測資料和變換資料)進行解碼。
一般而言,圖2B的CTU 132可以與定義與QTBT結構130在第一級別處和在第二級別處的節點相對應的區塊的大小的參數相關聯。該等參數可以包括CTU大小(表示取樣中的CTU 132的大小)、最小四叉樹大小(MinQTSize,表示最小的允許的四叉樹葉節點大小)、最大二叉樹大小(MaxBTSize,表示最大的允許的二叉樹根節點大小)、最大二叉樹深度(MaxBTDepth,表示最大的允許的二叉樹深度)和最小二叉樹大小(MinBTSize,表示最小的允許的二叉樹葉節點大小)。
與CTU相對應的QTBT結構的根節點可以在QTBT結構的第一級別處具有四個子節點,該四個子節點之每一個子節點可以是根據四叉樹劃分進行劃分的。亦即,第一級別的節點是葉節點(沒有子節點)或者具有四個子節點。QTBT結構130的實例表示如包括父節點和具有用於分支的實線的子節點的此種節點。若第一級別的節點不大於最大的允許的二叉樹根節點大小(MaxBTSize),則節點可以是藉由各自的二叉樹進行進一步地劃分的。可以反覆運算對一個節點的二叉樹拆分,直到來源於拆分的節點達到最小的允許的二叉樹葉節點大小(MinBTSize)或最大的允許的二叉樹深度(MaxBTDepth)為止。QTBT結構130的實例表示如具有用於分支的虛線的此種節點。二叉樹葉節點稱為解碼單元(CU),其在不進行任何進一步的劃分的情況下用於預測(例如,圖片內預測或圖片間預測)和變換。如上文所論述的,CU亦可以稱為「視訊區塊」或「區塊」。
在QTBT劃分結構的一個實例中,CTU大小設置為128x128(亮度取樣和兩個相應的64x64色度取樣),MinQTSize設置為16x16,MaxBTSize設置為64x64,MinBTSize(針對寬度和高度兩者)設置為4,以及MaxBTDepth設置為4。四叉樹劃分首先應用於CTU以產生四叉樹葉節點。四叉樹葉節點可以具有從16x16(亦即,MinQTSize)到128x128(亦即,CTU大小)的大小。若四叉樹葉節點是128x128,則葉四叉樹節點將不會藉由二叉樹進行進一步地拆分,此是因為大小超過MaxBTSize(亦即,在該實例中為64x64)。否則,四叉樹葉節點將藉由二叉樹來進一步地劃分。因此,四叉樹葉節點亦是針對二叉樹的根節點,以及具有為0的二叉樹深度。當二叉樹深度達到MaxBTDepth(在該實例中為4)時,進一步地拆分是不允許的。具有等於MinBTSize(在該實例中為4)的寬度的二叉樹節點暗示進一步的垂直的拆分是不允許的。類似地,具有等於MinBTSize的高度的二叉樹節點暗示針對該二叉樹節點的進一步的水平的拆分是不允許的。如前述,二叉樹的葉節點稱為CU,以及是在無進一步的劃分的情況下根據預測和變換來進一步地處理的。
圖3是圖示可以執行本案內容的技術的示例視訊轉碼器200的方塊圖。圖3是出於解釋的目的提供的,以及不應當被認為是對本案內容中所廣泛地例證的和所描述的技術的限制。出於解釋的目的,本案內容描述根據VVC(在發展中的ITU-T H.266)和HEVC(ITU-T H.265)的技術的視訊轉碼器200。然而,本案內容的技術可以是由被配置為其他視訊解碼標準的視訊編碼設備來執行的。
在圖3的實例中,視訊轉碼器200包括視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、經解碼的圖片緩衝區(DPB)218和熵編碼單元220。視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、DPB 218和熵編碼單元220中的任何一者或全部可以是在一或多個處理器中或在處理電路系統中實現的。例如,視訊轉碼器200的單元可以實現為一或多個電路系統或邏輯元件作為硬體電路系統的一部分,或者作為FPGA的處理器、ASIC的一部分。此外,視訊轉碼器200可以包括另外的或替代的處理器或處理電路系統以執行該等功能和其他功能。
視訊資料記憶體230可以儲存要由視訊轉碼器200的元件進行編碼的視訊資料。視訊轉碼器200可以從例如視訊源104(圖1)接收儲存在視訊資料記憶體230中的視訊資料。DPB 218可以充當參考圖片記憶體,該參考圖片記憶體儲存參考視訊資料用於由視訊轉碼器200進行的對隨後的視訊資料的預測。視訊資料記憶體230和DPB 218可以是藉由各種記憶體設備中的任何記憶體設備形成的,例如,動態隨機存取記憶體(DRAM),其包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、電阻RAM(RRAM)或其他類型的記憶體設備。視訊資料記憶體230和DPB 218可以是由相同的記憶體設備或單獨的記憶體設備來提供的。在各種實例中,如所圖示的,視訊資料記憶體230可以是與視訊轉碼器200中的其他元件一起在晶片上的,或者是相對於該等元件在晶片外的。
在本案內容中,對視訊資料記憶體230的引用不應當解釋為受限於視訊轉碼器200內部的記憶體(除非明確地描述為此)或視訊轉碼器200外部的記憶體(除非明確地描述為此)。而是,對視訊資料記憶體230的引用應當理解為儲存視訊轉碼器200接收用於編碼的視訊資料(例如,針對要進行編碼的當前區塊的視訊資料)的參考記憶體。圖1的記憶體106亦可以提供來自視訊轉碼器200的各個單元的輸出的臨時的儲存。
圖示圖3的各個單元以輔助理解由視訊轉碼器200執行的操作。該等單元可以實現為固定功能的電路、可程式設計的電路或其組合。固定功能的電路指的是提供特定的功能的,以及是對可以執行的操作來預設置的電路。可程式設計的電路指的是可以程式設計以執行各種任務,以及提供在可以執行的操作中的靈活的功能的電路。例如,可程式設計的電路可以執行使得可程式設計的電路以藉由由軟體或韌體的指令定義的方式來操作的軟體或韌體。固定功能的電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能的電路執行的操作的類型通常是不變的。在一些實例中,單元中的一或多個單元可以是有區別的電路區塊(固定功能的或可程式設計的),以及在一些實例中,單元中的一或多個單元可以是積體電路。
視訊轉碼器200可以包括從可程式設計的電路形成的算數邏輯單位(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式設計核心。在使用由可程式設計的電路執行的軟體來執行對視訊轉碼器200的操作的實例中,記憶體106(圖1)可以儲存視訊轉碼器200接收和執行的軟體的指令(例如,目標代碼),或者視訊轉碼器200內的另一記憶體(未圖示)可以儲存此種指令。
視訊資料記憶體230被配置為儲存接收的視訊資料。視訊轉碼器200可以從視訊資料記憶體230取回視訊資料的圖片,以及向殘差產生單元204和模式選擇單元202提供視訊資料。視訊資料記憶體230中的視訊資料可以是要編碼的原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224和訊框內預測單元226。模式選擇單元202可以包括另外的功能單元以根據其他預測模式來執行視訊預測。舉例而言,模式選擇單元202可以包括調色板單元、區塊內複製單元(其可以是運動估計單元222及/或運動補償單元224的一部分)、仿射單元、線性模型(LM)單元等。
模式選擇單元202通常協調多個編碼階段以測試編碼參數的組合以及針對此種組合的作為結果的速率失真值。編碼參數可以包括對CTU到CU的劃分、針對CU的預測模式、針對CU的殘差資料的變換類型、針對CU的殘差資料的量化參數等。模式選擇單元202可以最終選擇具有比另一些測試的組合更好的速率失真值的編碼參數的組合。
視訊轉碼器200可以將從視訊資料記憶體230取回的圖片劃分為一系列的CTU,以及將一或多個CTU封裝在切片內。模式選擇單元202可以根據樹結構(例如,上文所描述的HEVC的QTBT結構或四叉樹結構)來劃分圖片的CTU。如上文所描述的,視訊轉碼器200可以根據樹結構經由劃分CTU來形成一或多個CU。此種CU通常亦可以稱為「視訊區塊」或「區塊」。
一般而言,模式選擇單元202亦控制其元件(例如,運動估計單元222、運動補償單元224和訊框內預測單元226),以產生針對當前區塊(例如,當前的CU,或在HEVC中,PU和TU的重疊部分)的預測區塊。針對對當前區塊的訊框間預測,運動估計單元222可以執行運動搜尋以辨識一或多個參考圖片(例如,DPB 218中儲存的一或多個先前經解碼的圖片)中的一或多個緊密地匹配的參考區塊。特別地,運動估計單元222可以例如根據絕對差之和(SAD)、差平方和(SSD)、平均絕對差(MAD)、均方差(MSD)等來計算表示潛在的參考區塊與當前區塊的相似程度的值。運動估計單元222通常可以使用在當前區塊與正在考慮的參考區塊之間的逐個取樣差來執行該等計算。運動估計單元222可以辨識具有來源於該等計算的最低值的參考區塊,其指示與當前區塊最緊密地匹配的參考區塊。
運動估計單元222可以形成一或多個運動向量(MV),該MV定義參考圖片中的參考區塊相對於當前圖片中的當前區塊的位置的位置。運動估計單元222可以接著向運動補償單元224提供運動向量。例如,針對單向訊框間預測,運動估計單元222可以提供單個運動向量,而針對雙向訊框間預測,運動估計單元222可以提供兩個運動向量。運動補償單元224可以接著使用運動向量來產生預測區塊。例如,運動補償單元224可以使用運動向量來取回參考區塊的資料。舉另一實例,若運動向量具有分數取樣精度,則運動補償單元224可以根據一或多個內插濾波器來內插針對預測區塊的值。此外,針對雙向訊框間預測,運動補償單元224可以取回針對藉由各自的運動向量標識的兩個參考區塊的資料,以及例如經由逐個取樣平均或加權平均來對所取回的資料進行組合。
舉另一實例,針對訊框內預測或訊框內預測解碼,訊框內預測單元226可以由與當前區塊鄰近的取樣產生預測區塊。例如,針對方向模式,訊框內預測單元226通常可以在數學上對鄰近的取樣的值進行組合,以及在跨越當前區塊定義的方向上填充該等計算的值以產生預測區塊。舉另一實例,針對DC模式,訊框內預測單元226可以計算鄰近的取樣到當前區塊的平均,以及產生預測區塊以包括針對預測區塊的每個取樣的該得到的平均。
模式選擇單元202向殘差產生單元204提供預測區塊。殘差產生單元204從視訊資料記憶體230接收當前區塊的原始的、未經編碼的版本,以及從模式選擇單元202接收預測區塊。殘差產生單元204計算在當前區塊與預測區塊之間的逐個取樣差。作為結果的逐個取樣差定義針對當前區塊的殘差區塊。在一些實例中,殘差產生單元204亦可以決定在殘差區塊中的取樣值之間的差,以使用殘差差分脈衝解碼調變(RDPCM)產生殘差區塊。在一些實例中,殘差產生單元204可以是使用執行二進位減法的一或多個減法器電路來形成的。
在模式選擇單元202將CU劃分為PU的實例中,每個PU可以與亮度預測單元和相應的色度預測單元相關聯。視訊轉碼器200和視訊解碼器300可以支援具有各種大小的PU。如上文所指示的,CU的大小可以指的是CU的亮度解碼區塊的大小,以及PU的大小可以指的是PU的亮度預測單元的大小。假定特定的CU的大小是2Nx2N,視訊轉碼器200可以支援2Nx2N或NxN的PU大小用於訊框內預測,以及支援2Nx2N、2NxN、Nx2N、NxN或類似的對稱的PU大小用於訊框間預測。視訊轉碼器200和視訊解碼器300亦可以支援針對2NxnU、2NxnD、nLx2N和nRx2N的PU大小的非對稱的劃分用於訊框間預測。
在模式選擇單元202不將CU進一步地劃分為PU的實例中,每個CU可以與亮度解碼區塊和相應的色度解碼區塊相關聯。如上文,CU的大小可以指的是CU的色度解碼區塊的大小。視訊轉碼器200和視訊解碼器300可以支援2Nx2N、2NxN或Nx2N的CU大小。
針對其他視訊解碼技術(例如,區塊內複製模式解碼、仿射模式解碼和線性模型(LM)模式解碼),作為少數實例,模式選擇單元202經由與解碼技術相關聯的各自的單元,產生針對正在被編碼的當前區塊的預測區塊。在一些實例中(例如,調色板模式解碼),模式選擇單元202可以不產生預測區塊,而是產生指示在其中基於選擇的調色板來重構區塊的方式的語法元素。在此種模式中,模式選擇單元202可以將該等語法元素提供給熵編碼單元220以進行編碼。
如上文所描述的,殘差產生單元204接收針對當前區塊和相應的預測區塊的視訊資料。殘差產生單元204接著產生針對當前區塊的殘差區塊。為了產生殘差區塊,殘差產生單元204計算在預測區塊與當前區塊之間的逐個取樣差。
變換處理單元206將一或多個變換應用於殘差區塊以產生變換係數的區塊(本文中稱為「變換係數區塊」)。變換處理單元206可以將各種變換應用於殘差區塊以形成變換係數區塊。例如,變換處理單元206可以將離散餘弦變換(DCT)、方向變換、卡洛南-洛伊變換(KLT)或概念上類似的變換應用於殘差區塊。在一些實例中,變換處理單元206可以執行對殘差區塊的多個變換,例如,主變換和輔變換,例如,旋轉變換。在一些實例中,變換處理單元206不將變換應用於殘差區塊。
量化單元208可以對變換係數區塊中的變換係數進行量化,以產生經量化的變換係數區塊。量化單元208可以根據與當前區塊相關聯的量化參數(QP)值來對變換係數區塊的變換係數進行量化。視訊轉碼器200(例如,經由模式選擇單元202)可以藉由調整與CU相關聯的QP值來調整應用於與當前區塊相關聯的變換係數區塊的量化的程度。量化可能引入資訊的損耗,因此經量化的變換係數可能具有比由變換處理單元206產生的原始變換係數要低的精度。
逆量化單元210和逆變換處理單元212可以分別地將逆量化和逆變換應用於經量化的變換係數區塊,以從變換係數區塊重構殘差區塊。重構單元214可以基於重構的殘差區塊和由模式選擇單元202產生的預測區塊來產生與當前區塊相對應的重構的區塊(儘管潛在地具有某種程度的失真)。例如,重構單元214可以將重構的殘差區塊的取樣增加到來自由模式選擇單元202產生的預測區塊的相應的取樣中,以產生重構的區塊。
濾波器單元216可以對重構的區塊執行一或多個濾波器操作。例如,濾波器單元216可以執行解區塊操作以減少沿著CU的邊緣的區塊效應偽像。在一些實例中,可以跳過對濾波器單元216的操作。
視訊轉碼器200在DPB 218中儲存重構的區塊。例如,在不執行對濾波器單元216的操作的實例中,重構單元214可以將重構的區塊儲存到DPB 218。在執行對濾波器單元216的操作的實例中,濾波器單元216可以將經濾波的重構的區塊儲存到DPB 218。運動估計單元222和運動補償單元224可以從DPB 218取回從重構的(和潛在地濾波的)區塊形成的參考圖片,以對隨後編碼的圖片的區塊進行訊框間預測。此外,訊框內預測單元226可以使用當前的圖片的DPB 218中的重構的區塊以對當前的圖片中的其他區塊進行訊框內預測。
一般而言,熵編碼單元220可以對從視訊轉碼器200的其他功能元件接收到的語法元素進行熵編碼。例如,熵編碼單元220可以對來自量化單元208的經量化的變換係數區塊進行熵編碼。舉另一實例,熵編碼單元220可以對來自模式選擇單元202的預測語法元素(例如,用於訊框間預測的運動資訊或用於訊框內預測的訊框內模式資訊)進行熵編碼。熵編碼單元220可以對語法元素執行一或多個熵編碼操作(其是視訊資料的另一實例)以產生經熵編碼的資料。例如,熵編碼單元220可以對資料執行上下文自我調整可變長度解碼(CAVLC)操作、CABAC操作、變數到變數(V2V)長度解碼操作、基於語法的上下文自我調整二進位算術解碼(SBAC)操作、概率間隔劃分熵(PIPE)解碼操作,指數哥倫布碼編碼操作或另一類型的熵編碼操作。在一些實例中,熵編碼單元220可以在語法元素未經熵編碼的旁路模式中操作。
視訊轉碼器200可以輸出位元流,該位元流包括對切片或圖片的區塊進行重構所需要的經熵編碼的語法元素。特別是,熵編碼單元220可以輸出位元流。
上文所描述的操作是相對於區塊來描述的。此種描述應當理解為是針對亮度解碼區塊及/或色度解碼區塊的操作。如上文所描述的,在一些實例中,亮度解碼區塊和色度解碼區塊是CU的亮度分量和色度分量。在一些實例中,亮度解碼區塊和色度解碼區塊是PU的亮度分量和色度分量。
在一些實例中,相對於亮度解碼區塊執行的操作不需要針對色度解碼區塊來重複。舉例而言,用於辨識針對色度解碼區塊的運動向量(MV)和參考圖片的操作,不需要針對辨識針對色度區塊的MV和參考圖片來重複。而是,可以縮放針對亮度解碼區塊的MV以決定針對色度區塊的MV,以及參考圖片可以是相同的。舉另一實例,訊框內預測過程可以是針對亮度解碼區塊和色度解碼區塊而相同的。
視訊轉碼器200表示設備的實例,該設備被配置為:對圖片標頭或切片標頭中的一者或多者中的自我調整參數集合進行解碼,以及根據自我調整參數集合中的資訊來對視訊資料進行解碼。
在另一實例中,在先前經解碼的圖片具有被重新排序的子圖片並且先前經解碼的圖片由當前的圖片用作參考圖片的情況下,視訊轉碼器200應用用於對針對當前的圖片的子圖片進行重新排序的約束,以及根據約束來對當前的圖片進行解碼。如下文將更詳細地解釋的,視訊轉碼器200可以被配置為:決定當前的圖片中的第一子圖片的第一子圖片ID是否不同於參考圖片中的相應的子圖片的第二子圖片ID,基於對當前的圖片中的第一子圖片的第一子圖片ID是否不同於參考圖片中的相應的子圖片的第二子圖片ID的決定來決定可用的解碼模式,以及利用可用的解碼模式中的一或多個解碼模式來對第一子圖片進行編碼。
圖4是圖示可以執行本案內容的技術的示例視訊解碼器300的方塊圖。圖4是出於解釋的目的而提供的,以及不受限於本案內容中所廣泛地例證的和所描述的技術。出於解釋的目的,本案內容根據VVC(在發展中的ITU-T H.266)和HEVC(ITU-T H.265)的技術來描述視訊解碼器300。然而,本案內容的技術可以是由被配置為其他視訊解碼標準的視訊解碼設備來執行的。
在圖4的實例中,視訊解碼器300包括經解碼的圖片緩衝區(CPB)記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和經解碼的圖片緩衝區(DPB)314。CPB記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和DPB 314中的任何一者或全部可以是在一或多個處理器中或是在處理電路系統中實現的。例如,視訊解碼器300的單元可以實現為一或多個電路或邏輯元件作為硬體電路系統的一部分,或者作為FPGA的處理器、ASIC的一部分。此外,視訊解碼器300可以包括另外的或替代的處理器或處理電路系統,以執行該等功能和其他功能。
預測處理單元304包括運動補償單元316和訊框內預測單元318。預測處理單元304可以包括另外的單元以根據其他預測模式來執行預測。舉例而言,預測處理單元304可以包括調色板單元、區塊內複製單元(其可以形成運動補償單元316的一部分)、仿射單元、線性模型(LM)單元等。在其他實例中,視訊解碼器300可以包括更多的、更少的或不同的功能元件。
CPB記憶體320可以儲存要由視訊解碼器300的元件進行解碼的視訊資料,例如,經編碼的視訊位元流。儲存在CPB記憶體320中的視訊資料可以是例如從電腦可讀取媒體110(圖1)獲得的。CPB記憶體320可以包括儲存來自經編碼的視訊位元流的經編碼的視訊資料(例如,語法元素)的CPB。另外,CPB記憶體320可以儲存不同於經解碼的圖片的語法元素的視訊資料,例如,表示從視訊解碼器300的各個單元輸出的臨時資料。DPB 314通常儲存經解碼的圖片,視訊解碼器300可以當對經編碼的視訊位元流的隨後的資料或圖片進行解碼時輸出該經解碼的圖片及/或將該經解碼的圖片用作參考視訊資料。CPB記憶體320和DPB 314可以是藉由各種記憶體設備中的任何記憶體設備(例如,DRAM,包括SDRAM、MRAM、RRAM或其他類型的記憶體設備)來形成的。CPB記憶體320和DPB 314可以是藉由相同的記憶體設備或單獨的記憶體設備來提供的。在各種實例中,CPB記憶體320可以是與視訊解碼器300的其他元件一起在晶片上的,或者是相對於該等元件在晶片外的。
另外地或替代地,在一些實例中,視訊解碼器300可以從記憶體120(圖1)取回經解碼的視訊資料。亦即,記憶體120可以如上文所論述的與CPB記憶體320一起儲存資料。同樣地,當視訊解碼器300的功能中的一些功能或全部功能是在要由視訊解碼器300的處理電路系統執行的軟體中實現時,記憶體120可以儲存要由視訊解碼器300執行的指令。
圖示圖4所示的各種單元以輔助理解由視訊解碼器300執行的操作。該等單元可以實現為固定功能的電路、可程式設計的電路或其組合。與圖3類似,固定功能的電路指的是提供特定的功能的,以及是對可以執行的操作來預設置的電路。可程式設計的電路指的是可以程式設計以執行各種任務,以及提供在可以執行的操作中的靈活的功能的電路。例如,可程式設計的電路可以執行使得可程式設計的電路以藉由軟體或韌體的指令定義的方式來操作的軟體或韌體。固定功能的電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能的電路執行的操作的類型通常是不變的。在一些實例中,單元中的一或多個單元可以是有區別的電路區塊(固定功能的或可程式設計的),以及在一些實例中,單元中的一或多個單元可以是積體電路。
視訊解碼器300可以包括ALU、EFU、數位電路、類比電路及/或從可程式設計的電路形成的可程式設計的核心。在對視訊解碼器300的操作是由在可程式設計的電路上執行的軟體執行的實例中,片上記憶體或片外記憶體可以儲存視訊解碼器300接收和執行的軟體的指令(例如,目標代碼)。
熵解碼單元302可以從CPB接收經編碼的視訊資料,以及對視訊資料進行熵解碼以再現語法元素。預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310和濾波器單元312可以基於從位元流提取的語法元素來產生經解碼的視訊資料。
一般而言,視訊解碼器300以逐區塊為基礎來重構圖片。視訊解碼器300可以個別地對每個區塊執行重構操作(其中當前正在重構的(亦即,經解碼的)區塊可以稱為「當前區塊」)。
熵解碼單元302可以對定義經量化的變換係數區塊的經量化的變換係數的語法元素以及變換資訊(例如,量化參數(QP)及/或變換模式指示)進行熵解碼。逆量化單元306可以使用與經量化的變換係數區塊相關聯的QP來決定量化的程度以及同樣地,針對逆量化單元306要應用的逆量化的程度。逆量化單元306可以例如執行逐位元左移操作以對經量化的變換係數進行逆量化。逆量化單元306可以從而形成包括變換係數的變換係數區塊。
在逆量化單元306形成變換係數區塊之後,逆變換處理單元308可以將一或多個逆變換應用於變換係數區塊,以產生與當前區塊相關聯的殘差區塊。例如,逆變換處理單元308可以將逆DCT、逆整數變換、逆卡洛南-洛伊變換(KLT)、逆旋轉變換、逆方向變換或另一逆變換應用於變換係數區塊。
此外,預測處理單元304根據由熵解碼單元302進行熵解碼的預測資訊語法元素來產生預測區塊。例如,若預測資訊語法元素指示當前區塊是訊框間預測的,則運動補償單元316可以產生預測區塊。在此種情況下,預測資訊語法元素可以指示要從其中取回參考區塊的DPB 314中的參考圖片,以及標識參考圖片中的參考區塊相對於當前的圖片中的當前區塊的位置的位置的運動向量。運動補償單元316通常可以以大體上類似於相對於運動補償單元224(圖3)所描述的方式來執行訊框間預測過程。
舉另一實例,若預測資訊語法元素指示當前區塊是訊框內預測的,則訊框內預測單元318可以根據藉由預測資訊語法元素指示的訊框內預測模式來產生預測區塊。再一次地,訊框內預測單元318通常可以以大體上類似於相對於訊框內預測單元226(圖3)所描述的方式來執行訊框內預測過程。訊框內預測單元318可以從DPB 314取回到當前區塊的鄰近的取樣的資料。
重構單元310可以使用預測區塊和殘差區塊來重構當前區塊。例如,重構單元310可以將殘差區塊的取樣增加到預測區塊的相應的取樣中,以重構當前區塊。
濾波器單元312可以對重構的區塊執行一或多個濾波器操作。例如,濾波器單元312可以執行解區塊操作以減少沿著重構的區塊的邊緣的區塊效應偽像。濾波器單元312的操作不是必然地在所有實例中執行的。
視訊解碼器300可以在DPB 314中儲存重構的區塊。例如,在未執行對濾波器單元312的操作的實例中,重構單元310可以將重構的區塊儲存到DPB 314。在執行對濾波器單元312的操作的實例中,濾波器單元312可以將經濾波的重構的區塊儲存到DPB 314。如上文所論述的,DPB 314可以向預測處理單元304提供參考資訊,例如,用於訊框內預測的當前的圖片和用於隨後的運動補償的先前經解碼的圖片的取樣。此外,視訊解碼器300可以從DPB 314輸出經解碼的圖片(例如,經解碼的視訊)用於在顯示裝置(例如,圖1的顯示裝置118)上的隨後的展示。
如下文將更詳細地解釋的,視訊解碼器300表示視訊解碼設備的實例,該視訊解碼設備包括被配置為儲存視訊資料的記憶體,以及在電路系統中實現的以及被配置為進行以下操作的一或多個處理單元:接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的層,其中輸出層集合模式輸出具有已經被接收的最高層id的層。在另一實例中,視訊解碼器300可以被配置為接收對輸出層集合模式的指示(其中輸出層集合模式指定要輸出的層的層ID),接收視訊資料的一或多個層(其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層),以及基於所指定的要輸出的層和所接收的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,視訊解碼器300可以接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的所有層,其中輸出層集合模式輸出存在於所接收的一或多個層中的所有層。
在另一實例中,在當前的圖片的nuh_layer_id不等於在輸出層集合中指定的輸出層的nuh_layer_id的情況下,視訊解碼器300可以將圖片輸出標記設置為零。
在另一實例中,視訊解碼器300可以對在圖片標頭或切片標頭中的一者或多者中的自我調整參數集合進行解碼,以及根據自我調整參數集合中的資訊來對視訊資料進行解碼。
在另一實例中,在先前經解碼的圖片具有被重新排序的子圖片並且先前經解碼的圖片由當前的圖片用作參考圖片的情況下,視訊解碼器300應用用於對針對當前的圖片的子圖片進行重新排序的約束,以及根據約束來對當前的圖片進行解碼。
VVC草案8包括以下定義,其包括針對經解碼視訊序列起點(CVSS)存取單元(AU)的定義。CVSS AU是在位元流中的第一AU。 經解碼視訊序列(CVS):由CVSS AU 組成的按照解碼順序AU 序列,跟隨有不是CVSS AU 的零個或更多個AU (包括所有隨後的AU ,但是不包括是CVSS AU 的任何隨後的AU )。 經解碼視訊序列起點(CVSS)AU:在其中針對CVS中的每層存在PU ,並且在每個PU 中的經解碼的圖片CLVSS 圖片AU 。 7.4.2.4.2 AU的順序以及其與CVS的關聯 位元流由一或多個CVS組成。 CVS由一或多個AU組成。在條款7.4.2.4.3中對PU的順序以及其與AU的關聯進行描述 CVS的第一AU是CVSS AU,其中每個目前的PU是CLVSS PU,其是具有等於1的NoOutputBeforeRecoveryFlag(在恢復前沒有輸出標記)的IRAP PU或者具有等於1的NoOutputBeforeRecoveryFlag的GDR PU。 每個CVSS AU應當具有針對存在於CVS中的層之每一個層的PU。 位元流一致性的要求是,當存在時,在包含EOS NAL單元的AU之後的下一個AU應當是CVSS AU。
VVC草案8亦包括以下定義: 存取單元(AU)-PU集合,其屬於不同的層並且包含與同一時間相關聯的用於從DPB輸出的經解碼的圖片。 圖片單元(PU)-NAL單元集合,其根據指定的分類規則互相關聯,其在解碼順序上是連續的,並且恰好包含一個經解碼的圖片。 解碼層視訊序列起點(CLVSS)PU-在其中經解碼的圖片是CLVSS圖片的PU。 訊框內隨機存取點(IRAP)-在其中針對CVS中的每層存在PU並且在每個PU中的經解碼的圖片是IRAP圖片的AU。 IRAP PU-在其中經解碼的圖片是IRAP圖片的PU。 逐漸解碼刷新(GDR)PU-在其中經解碼的圖片是GDR圖片的PU。 序列末端(EOS) 視訊解碼層(VCL)網路抽象層(NAL)單元-針對經解碼的切片NAL單元和NAL單元的子集的集合術語,該NAL單元具有在本說明書中被分類為VCL NAL單元的nal_unit_type(nal_單元_類型)的預留值。
VVC草案8亦指定包括在輸出層集合之每一個層應當存在至少一個VLC NAL(例如,切片)的約束: 存在具有等於在BitstreamToDecode(要進行解碼的位元流)中的LayerIdInOls[ opOlsIdx ](在Ols中的層Id[ opOlsIdx ])中的nuh_layer_id值之每一個nuh_layer_id值的nuh_layer_id的至少一個VCL NAL單元。
輸出層集合(OLS)模式(亦即,輸出哪些層)是由在VPS中以信號發送的ols_mode_idc(ols_模式_idc)定義的: ols_mode_idc等於0指定:藉由VPS指定的OLS的總數量等於vps_max_layers_minus1+1,第i個OLS包括具有從0到i(包括0和i)的層索引的層,以及針對每個OLS,僅輸出OLS中的最高層。 在該上下文中,「最高層」是具有最高層id值的層。 ols_mode_idc等於1指定:藉由VPS指定的OLS的總數量等於vps_max_layers_minus1+1,第i個OLS包括具有從0到i(包括0和i)的層索引的層,以及針對每個OLS,僅輸出OLS中的所有層。 ols_mode_idc等於2指定:藉由VPS指定的OLS的總數量是明確地以信號發送的,以及針對每個OLS,明確地以信號發送輸出層,並且其他層是OLS的輸出層的直接的或間接的參考層的層。 ols_mode_idc的值應當在0至2的範圍中(包括0和2)。預留ols_mode_idc的值3以供ITU-T | ISO/IEC將來使用。 當vps_all_independent_layers_flag等於1並且each_layer_is_an_ols_flag等於0時,推斷ols_mode_idc的值等於2。
在VVC草案8中,解碼過程從子位元流提取開始,其中視訊解碼器300被配置為移除不包括在藉由OLS索引標識的OLS中的層的NAL單元。由於指定該過程用於OLS索引,因此當OLS索引改變時,視訊解碼器300應當被配置為重新發起子位元流提取過程,此意味著第一AU應當是包含針對存在於CVS中的層之每一個層的PU的CVSS AU。此意味著應當僅使用訊框內切片來對在最低層(例如,基本層)中的圖片進行解碼。
當OLS模式指定輸出僅最高層時,或者當(例如,基於ols_mode_idc的值)輸出包括在OLS中的所有層時,基於在VVC草案8中的第一圖片(CVSS AU)應當包含所有層的VCL NAL(切片)的當前的約束,視訊解碼器300僅輸出在OLS中指定的最高層或者輸出在OLS中指定的所有層。然而,在一些解碼場景中,最高層可能不存在於AU中,或者並非OLS中指定的所有層均存在於AU中。
例如,在頻寬低的視訊會議場景中,客戶端(例如,視訊解碼器300)可以僅接收基本層(例如,較低品質的)圖片。當頻寬增加時,客戶端可以在不使用CVSS AU的情況下,開始接收基本層和一或多個增強層圖片(例如,更好品質的圖片)。例如,在增加增強層VCL NAL單元的情況下,可以僅使用層間預測來繼續進行基本層解碼。然而,VVC草案8中的約束禁止此種解碼場景,此是因為需要改變OLS索引以指定其他輸出層。改變OLS索引,因此OLS模式重啟位元流。例如,視訊轉碼器200可以被配置為以信號發送針對基本層的I圖片,此導致額外的管理負擔。
在另一實例中,針對當輸出所有層時的一些解碼場景,該等層可能具有不同的畫面播放速率,此意味著一些AU可能不具有所有層存在的圖片。然而,基於在VVC草案8中的當前的定義,第i個OLS包括具有從0到i(包括0和i)的層索引的層,以及針對每個OLS,輸出OLS中的所有層。然而,並非所有層均可以存在於AU中。
本案內容描述解決上述問題的各種技術。本案內容的技術可以獨立地使用或任意地組合使用。下文相對於VVC草案8描述本案內容的示例實現方式。對VVC草案8的添加是在標籤<ADD>與</ADD>之間示出的。從VVC草案8中的刪除是在標籤<DEL>與</DEL>之間示出的。
在本案內容的一個實例中,建議修改OLS模式定義,使得視訊解碼器300可以被配置為僅輸出AU中的目前的層,以及不要求令所有層均存在於CVSS AU中。例如,當僅利用輸出模式中的最高層時,代替輸出在VPS中指示的OLS中指定的最高層,視訊解碼器300可以被配置為僅輸出實際存在於特定的AU中的最高層。
在一個實例中,視訊解碼器300可以接收包括複數個AU的視訊資料的位元流。視訊解碼器300可以接收與視訊資料的位元流相關聯的語法元素(例如,ols_mode_idc),以及對與視訊資料的位元流相關聯的語法元素(例如,ols_mode_idc)進行解碼,其中語法元素指示針對位元流的OLS模式。可以從VPS接收語法元素(例如,ols_mode_idc)以及對語法元素(例如,ols_mode_idc)進行解碼。視訊解碼器300可以被配置為根據藉由針對與在其中接收語法元素的VPS相關聯的AU的語法元素所指示的OLS模式來進行操作。
在一個實例中,語法元素(例如,ols_mode_idc)指示OLS模式指定:在OLS中指定的最高層是要輸出的。在該實例中,視訊解碼器300可以被配置為輸出在位元流的AU中實際接收到的最高層,而不是限制為僅輸出在OLS中指定的最高層。亦即,在一些情況下,在AU中實際接收到的最高層可能與在OLS中指定的最高層不匹配。
更詳細地,假設存在包括在OLS中的兩個層(層0和層1)並且輸出最高層(例如,層1)。VVC草案8要求視訊解碼器300始終輸出層1。根據本案內容的技術,視訊解碼器300可以被配置為僅輸出存在於AU中的最高層。若AU僅包括層0,則視訊解碼器300被配置為對層0進行解碼並且輸出層0。若另一AU具有層0和層1兩者,則視訊解碼器300被配置為對層1進行解碼並且輸出層1。
因此,在本案內容的一個實例中,視訊解碼器300可以被配置為接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的層,其中輸出層集合模式輸出具有存在於所接收的一或多個層中的最高層id的層。換句話說,視訊解碼器300可以被配置為接收對輸出層集合模式的指示,其中輸出層集合模式指定要輸出的層的層ID,接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層,以及基於所指定的要輸出的層和所接收的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在更具體的實例中,視訊解碼器300可以在視訊解碼層(VCL)網路抽象層(NAL)單元(例如,切片)中接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層。在一個實例中,視訊解碼器300可以接收少於在輸出層集合中指定的層的所有VCL NAL單元(例如,切片)。視訊解碼器300將根據輸出層集合模式來輸出實際接收到的層,而不是重啟位元流。例如,輸出層集合模式可以指定:特定的層(例如,輸出層集合中的最高層)是要輸出的。若未接收到在輸出層集合模式中指定的實際最高層,則視訊解碼器300將輸出實際接收到的最高層。同樣地,若輸出層集合模式指定在輸出層集合中的所有層是要輸出的,則視訊解碼器300將輸出實際接收到的所有層,即使少於未實際接收到的輸出層集合中指定的層中的所有層。
在進一步的實例中,為了接收視訊資料的一或多個層,視訊解碼器300被配置為在存取單元中接收視訊資料的一或多個層。此外,為了輸出一或多個層中的至少一個層,視訊解碼器300被配置為:基於所指定的要輸出的層的層ID和在存取單元中實際接收到的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。在一個實例中,輸出層集合模式指定最高層是要輸出的。在該實例中,為了輸出一或多個層中的至少一個層,視訊解碼器300被配置為輸出具有已經在存取單元中實際接收到的最高層id的層。用此種方法,視訊解碼器300可以被配置為:在AU中接收的輸出層的數量和類型改變的情況下,在不重啟位元流的情況下,根據特定的OLS模式來對層進行解碼以及輸出層。照此,可以減少視訊輸出中的延遲,以及可以改善使用者體驗。
類似的技術可以是針對指定輸出所有層的OLS模式的情況來應用的。根據本案內容的技術,視訊解碼器300可以被配置為輸出實際存在於特定的AU中的所有層,而不是要求視訊解碼器300總是輸出針對VPS中的OLS模式指定的所有層。因此,即使針對相同的OLS模式,視訊解碼器300可以針對一些AU輸出與其他AU相比的更少或更多的層。
在該實例中,與上文類似,視訊解碼器300可以接收包括複數個AU的視訊資料的位元流。視訊解碼器300可以接收與視訊資料的位元流相關聯的語法元素(例如,ols_mode_idc),以及對與視訊資料的位元流相關聯的語法元素(例如,ols_mode_idc)進行解碼,其中語法元素指示針對位元流的OLS模式。可以從VPS接收語法元素(例如,ols_mode_idc)以及對語法元素(例如,ols_mode_idc)進行解碼。視訊解碼器300可以被配置為根據藉由針對與在其中接收到語法元素的VPS相關聯的AU的語法元素所指示的OLS模式來進行操作。
在該實例中,語法元素(例如,ols_mode_idc)指示OLS模式指定:OLS中指定的所有層是要輸出的。在該實例中,視訊解碼器300可以被配置為輸出在位元流的AU中實際接收到的所有層,而不是限制為輸出在OLS中指定的層中的所有層。
更詳細地,假設存在包括在OLS中的三個層(層0、層1和層2)。在一種OLS模式(例如,ols_mode_idc等於1)中,VVC草案8要求視訊解碼器300始終輸出指定的層中的所有層(例如,層0、層1和層2)。根據本案內容的技術,視訊解碼器300可以被配置為僅輸出實際存在於AU中的層。若AU僅包括層0和層2,則視訊解碼器300被配置為對層0和層2進行解碼以及輸出層0和層2。若另一AU具有層0和層1兩者,則視訊解碼器300被配置為對層0和層1進行解碼以及輸出層0和層1。若又一AU具有層0、層1和層2中的每一項,則視訊解碼器300被配置為對層0、層1和層2進行解碼以及輸出層0、層1和層2。
因此,在本案內容的另一實例中,視訊解碼器300可以被配置為接收視訊資料的一或多個層,以及根據輸出層集合模式來輸出一或多個層中的所有層,其中輸出層集合模式輸出存在於所接收的一或多個層中的所有層。例如,輸出層集合模式指定所接收的所有層是要輸出的。為了輸出一或多個層中的至少一個層,視訊解碼器300被配置為輸出已經在存取單元中實際接收到的所有層。再一次地,根據本案內容的技術,視訊解碼器300可以被配置為:在AU中接收到的輸出層的數量和類型改變的情況下,在不重啟位元流的情況下,根據特定的OLS模式來對層進行解碼和輸出層。照此,可以減少視訊輸出中的延遲,以及可以改善使用者體驗。
當使用OLS的自訂模式(例如,ols_mode_idc=2)時,由於此可以是要輸出所有指定的層的意圖,因此可以不應用僅輸出目前的層,並且替代地,視訊解碼器300被配置為輸出OLS中指定的層。在一些實例中,可以應用僅輸出AU中的目前的層的技術。
例如,在視訊會議場景中,指定OLS不輸出包括在OLS中的最高層,而是輸出存在於特定的AU中的最高層。此允許在不指定新的OLS索引以及避免位元流重置或重啟CVS的情況下,從基本層逐漸轉變為增強層。由於在最低層(基本層)中不要求I圖片,因此所提出的方法在壓縮效率上具有優勢。
在另一實例中,在當OLS中指定超過一個的層時的視訊解碼場景中,視訊解碼器300可以被配置為從CVSS AU開始解碼過程,其中存在可以輸出的僅一個層,例如最低(基本)層。稍後在位元流中,當頻寬增加時,視訊解碼器300可以轉變到增強層。在另一實例中,第一個圖片(例如,CVSS AU)應當包括OLS/CVS中指定的至少最低層或者包括在OLS/CVS中的所有獨立層。
所提出的技術的另一個優勢是:在不針對此種情況指定另一OLS的情況下,允許視訊轉碼器200及/或視訊解碼器300從位元流中移除不獨立的較高層。在一些情況下,由於OLS是在VPS中指定的,因此指定另一OLS可能意味著重寫VPS。
在VVC草案8中,在一個實例中,所提出的方法可以是如下來實現的。對VVC草案8的添加是在標籤<ADD>與</ADD>之間示出的。從VVC草案8中的刪除是在標籤<DEL>與</DEL>之間示出的。 每個CVSS AU應當具有針對存在於CVS之每一個<ADD>獨立</ADD>層的PU。 每個CVSS AU應當具有針對存在於CVS中的<ADD>最低的nuh_layer_id層</ADD>的PU。 另外地,修改ols_mode_idc的語義如下: ols_mode_idc等於0指定:藉由VPS指定的OLS的總數量等於vps_max_layers_minus1+1,第i個OLS包括具有從0到i(包括0和i)的層索引的層,以及針對每個OLS,僅輸出<DEL>OLS</DEL>中的最高的<ADD>目前的</ADD>層。 ols_mode_idc等於1指定:藉由VPS指定的OLS的總數量等於vps_max_layers_minus1+1,第i個OLS包括具有從0到i(包括0和i)的層索引的層,以及針對每個OLS,輸出在OLS</DEL>中的所有<ADD>目前的</ADD>層。
上文的ols_mode_idc語義中的目前的層可能意味著輸出AU中的目前的層或輸出在CVS中的目前的層。另外地,在上文的語義中的「輸出」(「is output」)和「輸出」(「are output」)可以修改為「可以輸出」,此是因為可能將針對輸出層的PictureOutputFlag(圖片輸出標記)設置為0,在此種情況下,可以輸出其他層圖片。
另外地,移除要求存在具有等於在BitstreamToDecode中的LayerIdInOls[ opOlsIdx ]中的nuh_layer_id值之每一個nuh_layer_id值的nuh_layer_id的至少一個VCL NAL單元的約束。
在一個實例中,將以下語言從VVC草案8中移除: <DEL>存在具有等於在BitstreamToDecode中的LayerIdInOls[ opOlsIdx ]中的nuh_layer_id值之每一個nuh_layer_id值的nuh_layer_id的至少一個VCL NAL單元。</DEL>
上文的移除允許在不要求在位元流中具有其他層的情況下,僅一個層(例如,最低層或基本層)始終存在的情況以及包括在OLS中的超過一個的層的情況。在此種情況下,例如在輸出最高的目前的層的模式中,可以使用相同的OLS,而VVC草案8要求視訊轉碼器200為此種輸出指定另一OLS。
在另一實例中,不是移除要求存在具有等於在BitstreamToDecode中的LayerIdInOls[ opOlsIdx ]中的nuh_layer_id值之每一個nuh_layer_id值的nuh_layer_id的至少一個VCL NAL單元的約束,而是修改該約束使得在要進行解碼的位元流中,在位元流中存在每個獨立層的至少一個VCL NAL或存在CVSS AU中存在的層的至少一個VCL NAL。
在一個實例中,經修改的約束可以是如下表達的: 存在具有等於在BitstreamToDecode中的LayerIdInOls[ opOlsIdx ]中的獨立層的nuh_layer_id值之每一個nuh_layer_id值的nuh_layer_id的至少一個VCL NAL單元。
在另一實例中,若仍然期望保持VVC草案8中的當前的設計,亦即,可以輸出在OLS中指定為輸出層的唯一層,則針對不是OLS中的輸出層的層的所有圖片,控制是否輸出圖片的圖片輸出標記PictureOutputFlag應當設置為0。
在一個實例中,上文的實例可以是在VVC草案8中如下實現的: PictureOutputFlag設置如下: –若以下條件中的一個條件為真,則將PictureOutputFlag設置為0: –當前的圖片是RASL圖片,並且相關聯的IRAP圖片的NoOutputBeforeRecoveryFlag等於1。 –gdr_enabled_flag(gdr_啟用的_標記)等於1,並且當前的圖片是具有等於1的NoOutputBeforeRecoveryFlag的GDR圖片。 –gdr_enabled_flag等於1,當前的圖片與具有等於1的NoOutputBeforeRecoveryFlag的GDR圖片相關聯,並且當前的圖片的PicOrderCntVal小於相關聯的GDR圖片的RpPicOrderCntVal。 –sps_video_parameter_set_id大於0,ols_mode_idc等於0,並且當前的AU包含滿足以下條件中的所有條件的圖片picA: –<DEL>PicA具有等於1的PictureOutputFlag。 –PicA具有比當前的圖片的nuh_layer_id nuhLid要大的nuh_layer_id nuhLid。</DEL> –<ADD>當前的圖片的nuh_layer_id不等於OLS中指定的輸出層的nuh_layer_id,亦即OutputLayerIdInOls[ TargetOlsIdx ][ 0 ]不等於當前的圖片的nuh_layer_id。</ADD> –PicA屬於OLS的輸出層(亦即,OutputLayerIdInOls[ TargetOlsIdx ][ 0 ]等於nuhLid)。 –sps_video_parameter_set_id大於0,ols_mode_idc等於2,並且ols_output_layer_flag[ TargetOlsIdx ][ GeneralLayerIdx[ nuh_layer_id ] ]等於0。 –否則,PictureOutputFlag設置為等於pic_output_flag。
在又一實例中,針對屬於在OLS中的輸出層的圖片,pic_output_flag或PictureOutputFlag應當始終設置為1,或者AU或PU中的至少一個圖片應當具有等於1的pic_output_flag或PictureOutputFlag。
為了考慮到不完整的CVSS AU(例如,並非存在OLS中指定的所有層),在本案內容的另一實例中,視訊轉碼器200和視訊解碼器300可以被配置為使用對CVSS AU和IRAP AU的修訂的定義來對CVSS AU進行解碼,以考慮到上述的不完整的情況。修訂的定義如下,其中對VVC草案8的添加是在標籤<ADD>與</ADD>之間示出的。從VVC草案8中的刪除是在標籤<DEL>與</DEL>之間示出的。
經解碼視訊序列起點(CVSS)AU:在其中<DEL>存在針對CVS之每一個層的PU 並且</DEL>在每個<ADD>目前的</ADD>PU 中的經解碼的圖片CLVSS 圖片AU
訊框內隨機存取點(IRAP)AU:在其中<DEL>存在針對CVS之每一個層的PU 並且</DEL>在每個<ADD>目前的</ADD>PU 中的經解碼的圖片IRAP 圖片AU
下文示出(例如,無標籤的)最終決定的定義。
經解碼視訊序列起點(CVSS)AU:在其中在每個目前的PU 中的經解碼的圖片CLVSS 圖片AU
訊框內隨機存取點(IRAP)AU:在其中在每個目前的PU 中的經解碼的圖片IRAP 圖片AU
在另一實例中,本案內容提出從一個層到另一層的層轉變(例如,用於輸出)可以僅發生在具有僅IRAP圖片單元(PU)或GDR圖片單元(PU)或IRAP圖片或GDR圖片的存取單元(AU)處。此是為了禁止層可以從不具有較低的層作為IRAP圖片或GDR圖片的AU開始解碼的情況。在一個實例中,前述技術可以是如下來實現的: 經解碼層視訊序列起點(CLVSS)圖片:是具有等於1的NoOutputBeforeRecoveryFlag的IRAP 圖片 或具有等於1的NoOutputBeforeRecoveryFlag的GDR 圖片經解碼的圖片
此外,可以對CLVSS定義添加CLVSS是針對所有目前的層僅具有IRAP PU或GDR PU的AU的圖片的約束。
在另一實例中,對CLVSS PU的定義可以表達為如下: 經解碼層視訊序列起點(CLVSS)PU:在其中經解碼的圖片 是<ADD>IRAP AU GDR AU </ADD>CLVSS 圖片PU 。 經解碼層視訊序列起點(CLVSS)PU:在其中經解碼的圖片 是<ADD>在其中所有 PU IRAP PU GDR PU AU <ADD>/CLVSS 圖片PU
在可以使用代替上文的技術或除了上文的技術之外的技術的另一實例中,視訊轉碼器200和視訊解碼器300可以被配置為根據以下約束來進行操作:要求不存在在先前的IRAP AU或GDR AU中不存在的其他層的VCL NAL單元。在一個實例中,此種約束是如下實現的: 針對不是僅具有IRAP PUS或GDR PUS的AU的CLVSS PU的任何PU,不應當存在具有不存在於相關聯的IRAP AU或GDR AU中的nuh_layer_id的VLC NAL。
在另一實例中,約束可以是表達如下的: CLVSS PU應當是在針對所有目前的層僅具有IRAP PU或GDR PU的AU中的PU。
將APS嵌入到圖片標頭或切片標頭中
本案內容的另一技術包括在圖片標頭(PH)或切片標頭(SH)中嵌入自我調整參數集合(APS)訊號傳遞。
在VVC草案8中,APS是在單獨的NAL單元中以信號發送的,該NAL單元在APS的末端具有NAL標頭和位元組對準。若(例如在每個圖片處)以信號發送許多APS,則以信號發送NAL標頭和位元組對準所需的位元可能添加達相當大的管理負擔,從而降低解碼效率。
為了避免此種額外的管理負擔,本案內容提出將視訊轉碼器200配置為將APS嵌入其他現在的NAL單元(例如PH NAL單元或VCL NAL(切片)單元)中。在此種情況下,不存在與APS NAL標頭和ALS位元組對準相關聯的額外的管理負擔。
為了指示在其中將APS嵌入PH或SH中的解碼模式,視訊轉碼器200可以被配置為在另一參數集合(例如,VPS、SPS、PPS)中以信號發送標記。在其他實例中,視訊轉碼器200可以在PH、SH中或在別處以信號發送標記。視訊轉碼器200可以被配置為在超過一個的位置(例如,在SPS中)中對指示在其中將APS嵌入PH或SH中的解碼模式的標記進行編碼,以及以信號發送該標記,以指示此種模式可以是在CVS中使用的,以及接著在PH或SH中以指示將APS嵌入該PH或SH中。
當視訊解碼器300解析APS有效載荷或原始位元組序列有效載荷(RBSP)時,視訊解碼器300以與在單獨的APS NAL單元中以信號發送的APS相同的方式來處理有效載荷中的任一有效載荷。例如,視訊解碼器300可以將APS有效載荷儲存在APS緩衝區中,以及可以在舊APS和接收到的APS具有相同的APS參數集合id時,將緩衝區中的先前的APS內容替換為在嵌入的APS中接收到的APS內容。
由於可以以信號發送超過一個的APS,因此當使用此種嵌入模式時,視訊轉碼器200可以以信號發送語法元素以指定嵌入的APS的數量。該語法元素可能取決於指示使用嵌入APS模式的標記。例如,視訊轉碼器200和視訊解碼器300可以被配置為:當標記指示啟用嵌入的APS模式時,對指定嵌入的APS的數量的語法元素進行解碼。
在一些實例中,可以嵌入僅一個APS。在此種情況下,可能不需要以信號發送嵌入的APS的數量。可以使用現有的機制(例如,使用APS NAL)來以信號發送其他APS。另外地,在其他實例中,可以嵌入僅特定類型的APS(例如ALF APS),其包括針對一或多個ALF集合的參數。
上文描述的相同的技術可以應用於其他參數集合,例如VPS、SPS、PPS及/或其他參數集合。在此種情況下,可以在一個NAL單元中以信號發送所有參數集合。
針對被重新排序的子圖片的IRAP NAL單元類型(NUT)約束
在VVC的一些實例中,視訊轉碼器200可以被配置為在SPS中以信號發送子圖片佈局。子圖片是被視為針對一些解碼技術(例如,預測)的圖片的圖片的子區域。子圖片佈局定義圖片內的子圖片的大小和位置。在一些實例中,視訊轉碼器200可以被配置為在圖片之間對子圖片進行重新排序,其中在PPS中以信號發送子圖片ID到子圖片佈局的映射。在該上下文中,子圖片重新排序意味著在先前經解碼的圖片和當前的圖片中的相應的子圖片(亦即,覆蓋圖片的相同部分的子圖片)可以是不同的,亦即,該等子圖片具有不同的子圖片ID。
下文提供VVC草案8的相關的部分: 當當前的圖片不是CLVS的第一圖片時,針對在0至sps_num_subpics_minus1(包括0和sps_num_subpics_minus1)的範圍中的i的每個值,若SubpicIdVal[ i ]的值不等於在相同的層中的解碼順序中的先前的圖片的SubpicIdVal[ i ]的值,則針對在當前的圖片中的具有子圖片索引i的子圖片的所有經解碼的切片NAL單元的nal_unit_type應當等於在IDR_W_RADL 至CRA_NUT(包括IDR_W_RADL和CRA_NUT)的範圍中的特定的值。
根據上文的約束,若發生子圖片重新排序,則在當前的圖片子圖片中的所有切片應當是IRAP切片。在VVC草案8的約束下的問題是:即使先前經解碼的圖片亦具有被重新排序的子圖片,亦要求IRAP切片。照此,先前的圖片可能不由當前的圖片用作參考圖片,以及VVC草案8的約束要求編碼器以信號發送相關的子圖片作為IRAP切片(亦即,不使用訊框間預測)。
在本案內容的一個實例中,視訊轉碼器200可以被配置為根據相對於VVC草案8的寬鬆的約束來對具有被重新排序的子圖片的圖片進行編碼。例如,視訊轉碼器200可以被配置為:僅當先前經解碼的圖片具有被重新排序的子圖片並且由當前的圖片用作參考圖片時,對針對某些子圖片的預測應用約束。在另一實例中,視訊轉碼器200可以被配置為:若先前經解碼的圖片具有被重新排序的子圖片並且由當前的圖片用作活躍的參考圖片(亦即,圖片是包括在參考圖片清單中的),則對針對某些子圖片的預測應用約束。
在另一實例中,不是在使用子圖片重新排序時要求IRAP切片類型,而是若參考圖片具有被重新排序的子圖片,則將此種要求替換為禁用及/或不允許對訊框間預測的使用。在一個實例中,要求切片應當具有I切片類型。若允許層間預測,則可以使用任何切片類型,但是僅允許層內預測和層間預測。
在另一實例中,約束可以表達如下。若重新排序在參考圖片(例如,活躍的參考圖片)中的相應的子圖片(亦即,具有與當前經解碼的子圖片相比不同的子圖片ID),則視訊轉碼器200可以被配置為不使用此種參考圖片用於預測當前的圖片中的相應的子圖片的切片。
例如,視訊轉碼器200可以被配置為決定針對當前的經編碼的子圖片的參考圖片是否具有重新排序的子圖片。若是,則視訊轉碼器200可以決定針對當前經編碼的子圖片的子圖片ID是否不同於針對參考圖片中的相應的位置的子圖片ID。若針對當前經編碼的子圖片的子圖片ID不同於針對參考圖片中的相應的位置的子圖片ID,則視訊轉碼器200可以禁用對參考圖片的訊框間預測。若針對當前經編碼的子圖片的子圖片ID不與針對參考圖片中相應的位置的子圖片ID不同,則視訊轉碼器200可以啟用對參考圖片的訊框間預測作為可能的解碼模式。
上文的實例可以實現為VVC中的約束,如下:
針對在0至sps_num_subpics_minus1(包括0和sps_num_subpics_minus1)的範圍中的i的每個值,若SubpicIdVal[i]的值不等於參考圖片的SubpicIdVal[i]的值,則此種參考圖片不應當用於預測在當前的圖片中的具有子圖片索引i的子圖片的切片NAL單元。
因此,在本案內容的一個實例中,視訊轉碼器200可以被配置為決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於參考圖片中的相應的子圖片的第二子圖片ID。在參考圖片中的相應的子圖片是具有與在當前的圖片中的當前經解碼的子圖片相同的位置的子圖片。視訊轉碼器200可以基於對在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID的決定來決定可用的解碼模式。視訊轉碼器200可以接著利用可用的解碼模式中的一或多個解碼模式來對第一子圖片進行編碼。
例如,視訊轉碼器200可以進一步被配置為:若在參考圖片中的相應的子圖片的第二子圖片ID不同於在當前的圖片中的第一子圖片的第一子圖片ID,則禁用對參考圖片的訊框間預測。代替地,視訊轉碼器200可以使用不同的解碼模式來對第一子圖片進行編碼。其他解碼模式可以包括訊框內預測、相對於不同的參考圖片的訊框間預測(例如,在其中子圖片ID匹配)或另一解碼模式。視訊轉碼器200可以進一步被配置為:若在參考圖片中的相應的子圖片的第二子圖片ID與在當前的圖片中的第一子圖片的第一子圖片ID相同,則啟用對參考圖片的訊框間預測。此不意味著視訊轉碼器200必須使用此種參考圖片作為在訊框間預測中的參考,只是允許對該參考圖片進行訊框間預測。
上文提及的技術中的所有技術可以是獨立地使用的或者可以是任意地組合使用的。
圖5是圖示用於對當前區塊進行編碼的示例方法的流程圖。當前區塊可以包括當前的CU。儘管相對於視訊轉碼器200進行描述(圖1和圖3),但是應當理解的是,其他設備可以被配置為執行與圖5的方法類似的方法。
在該實例中,視訊轉碼器200最初預測當前區塊(350)。例如,視訊轉碼器200可以形成針對當前區塊的預測區塊。視訊轉碼器200可以接著計算針對當前區塊的殘差區塊(352)。為了計算殘差區塊,視訊轉碼器200可以計算在原始的、未經編碼的區塊與針對當前區塊的預測區塊之間的差。視訊轉碼器200可以接著對殘差區塊進行變換以及對殘差區塊的變換係數進行量化(354)。接著,視訊轉碼器200可以掃瞄殘差區塊的經量化的變換係數(356)。在掃瞄期間或跟隨在掃瞄之後,視訊轉碼器200可以對變換係數進行熵編碼(358)。例如,視訊轉碼器200可以使用CAVLC或CABAC來對變換係數進行編碼。視訊轉碼器200可以接著輸出區塊的經熵編碼的資料(360)。
圖6是圖示用於對視訊資料的當前區塊進行解碼的示例方法的流程圖。當前區塊可以包括當前的CU。儘管相對於視訊解碼器300進行描述(圖1和圖4),但是應當理解的是,其他設備可以被配置為執行與圖6的方法類似的方法。
視訊解碼器300可以接收針對當前區塊的經熵編碼的資料(例如,經熵編碼的預測資訊和針對與當前區塊相對應的殘差區塊的變換係數的經熵編碼的資料)(370)。視訊解碼器300可以對經熵編碼的資料進行熵解碼以決定針對當前區塊的預測資訊以及再現殘差區塊的變換係數(372)。視訊解碼器300可以例如使用如藉由針對當前區塊的預測資訊指示的訊框內預測模式或訊框間預測模式來預測當前區塊(374),以計算針對當前區塊的預測區塊。視訊解碼器300可以接著對所再現的變換係數進行逆掃瞄(376),以建立經量化的變換係數的區塊。視訊解碼器300可以接著對變換係數進行逆量化以及將逆變換應用於變換係數以產生殘差區塊(378)。視訊解碼器300可以最終藉由將預測區塊和殘差區塊進行組合來對當前區塊進行解碼(380)。
圖7是圖示另一示例視訊編碼方法的流程圖。圖7的技術可以由視訊轉碼器200的一或多個結構單元來執行。
在本案內容的一個實例中,視訊轉碼器200可以被配置為:決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID(700),以及基於對在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID的決定來決定可用的解碼模式(702)。視訊轉碼器200可以進一步利用可用的解碼模式中的一或多個解碼模式來對第一子圖片進行編碼(704)。
在一個實例中,為了決定可用的解碼模式,視訊轉碼器200可以進一步被配置為:若在參考圖片中的相應的子圖片的第二子圖片ID不同於在當前的圖片中的第一子圖片的第一子圖片ID,則禁用對參考圖片的訊框間預測。在進一步的實例中,為了利用可用的解碼模式中的一或多個解碼模式來對第一子圖片進行編碼,視訊轉碼器200可以進一步被配置為利用不同於對參考圖片的訊框間預測的解碼模式來對第一子圖片進行編碼。
在另一實例中,為了決定可用的解碼模式,視訊轉碼器200可以進一步被配置為:若在參考圖片中的相應的子圖片的第二子圖片ID不與在當前的圖片中的第一子圖片的第一子圖片ID不同,則啟用對參考圖片的訊框間預測。
在一個實例中,參考圖片中的相應的子圖片具有與當前的圖片中的第一子圖片相同的位置。
在進一步的實例中,視訊轉碼器200可以進一步被配置為在當前的圖片的圖片標頭或切片標頭中的一者或多者中對自我調整參數集合進行編碼。例如,為了在當前的圖片的圖片標頭或切片標頭中的一者或多者中對自我調整參數集合進行編碼,視訊轉碼器200可以進一步被配置為:在當前的圖片的圖片標頭網路抽象層(NAL)單元或切片標頭NAL單元中的一者或多者中對自我調整參數集合進行編碼。視訊轉碼器200可以進一步被配置為:對指示在圖片標頭或切片標頭中的一者或多者中編碼的自我調整參數集合的數量的語法元素進行編碼。
圖8是圖示另一示例視訊解碼方法的流程圖。圖8的技術可以由視訊解碼器300中的一或多個結構單元來執行。
在一個實例中,視訊解碼器300可以被配置為接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID(800),以及接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層(802)。視訊解碼器300可以進一步被配置為基於所指定的要輸出的層和所接收的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層(804)。
在特定的實例中,為了接收視訊資料的一或多個層,視訊解碼器300可以進一步被配置為:在視訊解碼層(VCL)網路抽象層(NAL)單元中接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由輸出層集合模式指定的層中的所有層。
在一個實例中,為了接收視訊資料的一或多個層,視訊解碼器300可以進一步被配置為:在存取單元中接收視訊資料的一或多個層,並且其中為了輸出所接收的一或多個層中的至少一個層,視訊解碼器300可以進一步被配置為:基於所指定的要輸出的層和在存取單元中接收到的一或多個層,根據輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
在另一實例中,輸出層集合模式指定:所指定的層ID中的最高層是要輸出的,並且其中為了輸出所接收的一或多個層中的至少一個層,視訊解碼器300可以進一步被配置為輸出具有已經在存取單元中實際接收到的最高層ID的層。
在進一步的實例中,輸出層集合模式指定:所指定的層ID中的所有層是要輸出的,並且其中為了輸出所接收的一或多個層中的至少一個層,視訊解碼器300可以進一步被配置為輸出已經在存取單元中實際接收到的所有層。
在另一實例中,視訊解碼器300可以進一步被配置為:在當前的圖片的層id不等於在輸出層集合模式中指定的層索引的情況下,將圖片輸出標記設置為零,以及基於圖片輸出標記來輸出一或多個層中的至少一個層。
下文描述本案內容的其他說明性的態樣。
態樣1A-一種對視訊資料進行解碼的方法,該方法包括:接收視訊資料的一或多個層;及根據輸出層集合模式來輸出該一或多個層中的層,其中該輸出層集合模式輸出具有已經接收的最高層id的該層。
態樣2A-根據態樣1A所述的方法,其中接收視訊資料的該一或多個層包括:在存取單元中接收視訊資料的一或多個層。
態樣3A-根據態樣1A所述的方法,其中接收視訊資料的該一或多個層包括:在經解碼的視訊序列中接收視訊資料的一或多個層。
態樣4A-一種對視訊資料進行解碼的方法,該方法包括:接收視訊資料的一或多個層;及根據輸出層集合模式來輸出該一或多個層中的所有層,其中該輸出層集合模式輸出存在於所接收的一或多個層中的所有層。
態樣5A-一種對視訊資料進行解碼的方法,該方法包括:在當前的圖片的nuh_layer_id不等於在輸出層集合中指定的輸出層的nuh_layer_id的情況下,將圖片輸出標記設置為零。
態樣6A-一種對視訊資料進行解碼的方法,該方法包括:在圖片標頭或切片標頭中的一者或多者中對自我調整參數集合進行解碼;及根據在該自我調整參數集合中的資訊來對視訊資料進行解碼。
態樣7A-一種對視訊資料進行解碼的方法,該方法包括:在先前經解碼的圖片具有被重新排序的子圖片並且該先前經解碼的圖片由當前的圖片用作參考圖片的情況下,應用用於對針對當前的圖片的子圖片進行重新排序的約束;及根據該約束來對該當前的圖片進行解碼。
態樣8A-一種對視訊資料進行解碼的方法,該方法包括:對經解碼視訊序列起點(CVSS)存取單元(AU)進行解碼,其中並非所有層均存在於CVSS AU中。
態樣9A-一種對視訊資料進行解碼的方法,該方法包括:對解碼層視訊序列起點(CLVSS)圖片進行解碼,其中該CLVSS圖片是訊框內隨機存取點(IRAP)圖片或逐漸解碼刷新(GDR)圖片的經解碼的圖片。
態樣10A-根據態樣1A-9A的任何組合所述的方法。
態樣11A-根據態樣1A-10A中的任何態樣所述的方法,其中解碼包括解碼。
態樣12A-根據態樣1A-10A中的任何態樣所述的方法,其中解碼包括編碼。
態樣13A-一種用於對視訊資料進行解碼的設備,該設備包括用於執行態樣1A-12A中的任何態樣的方法的一或多個單元。
態樣14A-根據態樣13A所述的設備,其中該一或多個構件包括在電路系統中實現的一或多個處理器。
態樣15A-根據態樣13A和態樣14A中的任何態樣所述的設備,進一步包括用於儲存視訊資料的記憶體。
態樣16A-根據態樣13A-15A中的任何態樣所述的設備,進一步包括被配置為顯示經解碼的視訊資料的顯示器。
態樣17A-根據態樣13A-16A中的任何態樣所述的設備,其中該設備包括照相機、電腦、行動設備、廣播接收器設備或機上盒中的一者或多者。
態樣18A-根據態樣13A-17A中的任何態樣所述的設備,其中該設備包括視訊解碼器。
態樣19A-根據態樣13A-18A中的任何態樣所述的設備,其中該設備包括視訊轉碼器。
態樣20A-一種電腦可讀取儲存媒體,其具有儲存在其上的指令,該等指令當執行時,使得一或多個處理器執行態樣1A-12A中的任何態樣的方法。
態樣1B-一種對視訊資料進行解碼的方法,該方法包括:接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID;接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層;及基於所指定的要輸出的層和所接收的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
態樣2B-根據態樣1B所述的方法,其中接收視訊資料的一或多個層包括:在視訊解碼層(VCL)網路抽象層(NAL)單元中接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層。
態樣3B-根據態樣1B所述的方法,其中接收視訊資料的一或多個層包括:在存取單元中接收該視訊資料的一或多個層,並且其中輸出所接收的一或多個層中的該至少一個層包括:基於所指定的要輸出的層和在該存取單元中接收到的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的該至少一個層。
態樣4B-根據態樣3B所述的方法,其中該輸出層集合模式指定:所指定的層ID中的最高層是要輸出的,並且其中輸出所接收的一或多個層中的該至少一個層包括:輸出具有已經在該存取單元中實際接收的該最高層ID的該層。
態樣5B-根據態樣3B所述的方法,其中該輸出層集合模式指定:所指定的層ID的所有層是要輸出的,並且其中輸出該一或多個層中的該至少一個層包括:輸出已經在該存取單元中實際接收到的所有層。
態樣6B-根據態樣1B-5B的任何組合所述的方法,進一步包括:在當前的圖片的層id不等於在該輸出層集合模式中指定的層索引的情況下,將圖片輸出標記設置為零;及基於該圖片輸出標記來輸出該一或多個層中的該至少一個層。
態樣7B-根據態樣1B-6B的任何組合所述的方法,進一步包括:顯示包括該一或多個層中的至少一個層的輸出的圖片。
態樣8B-一種被配置為對視訊資料進行解碼的裝置,該裝置包括:記憶體,其被配置為儲存視訊資料的一或多個層;及一或多個處理器,其在電路系統中實現並且與該記憶體相通訊,該一或多個處理器被配置為接收對輸出層集合模式的指示,其中該輸出層集合模式指定要輸出的層的層ID;接收視訊資料的一或多個層,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層;及基於所指定的要輸出的層和所接收的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的至少一個層。
態樣9B-根據態樣8B所述的裝置,其中為了接收視訊資料的該一或多個層,該一或多個處理器進一步被配置為:在視訊解碼層(VCL)網路抽象層(NAL)單元中接收該視訊資料的一或多個層,其中所接收的一或多個層少於藉由該輸出層集合模式指定的層中的所有層。
態樣10B-根據請求項8B所述的裝置,其中為了接收視訊資料的一或多個層,該一或多個處理器進一步被配置為:在存取單元中接收該視訊資料的一或多個層,並且其中為了輸出所接收的一或多個層中的該至少一個層,該一或多個處理器進一步被配置為:基於所指定的要輸出的層和在該存取單元中接收到的一或多個層,根據該輸出層集合模式來輸出所接收的一或多個層中的該至少一個層。
態樣11B-根據態樣10B所述的裝置,其中該輸出層集合模式指定:所指定的層ID中的最高層是要輸出的,並且其中為了輸出所接收的一或多個層中的至少一個層,該一或多個處理器進一步被配置為:輸出具有已經在該存取單元中實際接收到的最高層ID的層。
態樣12B-根據態樣10B所述的裝置,其中該輸出層集合模式指定:所指定的層ID中的所有層是要輸出的,並且其中為了輸出所接收的一或多個層中的該至少一個層,該一或多個處理器進一步被配置為:輸出已經在該存取單元中實際接收到的所有層。
態樣13B-根據態樣8B-12B的任何組合所述的裝置,其中該一或多個處理器進一步被配置為:在當前的圖片的層id不等於在該輸出層集合模式中指定的層索引的情況下,將圖片輸出標記設置為零;及基於該圖片輸出標記來輸出該一或多個層中的該至少一個層。
態樣14B-根據態樣8B-12B的任何組合所述的裝置,進一步包括:被配置為顯示包括輸出該一或多個層中的至少一個層的圖片的顯示器。
態樣15B-一種對視訊資料進行編碼的方法,該方法包括:決定在當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID;基於對該當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的該決定來決定可用的解碼模式;及利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
態樣16B-根據態樣15B所述的方法,其中決定該等可用的解碼模式包括:若在該參考圖片中的該相應的子圖片的該第二子圖片ID不同於在該當前的圖片中的該第一子圖片的該第一子圖片ID,則禁用對該參考圖片的訊框間預測。
態樣17B-根據態樣16B所述的方法,其中利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼包括:利用不同於對該參考圖片的訊框間預測的解碼模式來對該第一子圖片進行編碼。
態樣18B-根據態樣15B所述的方法,其中決定該等可用的解碼模式包括:若在該參考圖片中的該相應的子圖片的該第二子圖片ID不與在該當前的圖片中的該第一子圖片的該第一子圖片ID不同,則啟用對該參考圖片的訊框間預測。
態樣19B-根據態樣15B-18B的任何組合所述的方法,其中在該參考圖片中的相應的子圖片具有與在該當前的圖片中的該第一子圖片相同的位置。
態樣20B-根據態樣15B-19B的任何組合所述的方法,進一步包括:在該當前的圖片的圖片標頭或切片標頭中的一者或多者中對自我調整參數集合進行編碼。
態樣21B-根據態樣20B所述的方法,其中在該當前的圖片的該圖片標頭或該切片標頭中的一者或多者中對該自我調整參數集合進行編碼包括:在該當前的圖片的圖片標頭網路抽象層(NAL)單元或切片標頭NAL單元中的一者或多者中對該自我調整參數集合進行編碼。
態樣22B–根據態樣20B所述的方法,進一步包括:對指示在該圖片標頭或該切片標頭中的一者或多者中編碼的自我調整參數集合的數量的語法元素進行編碼。
態樣23B-根據態樣15B-22B的任何組合所述的方法,進一步包括:利用照相機來拍攝該當前的圖片。
態樣24B-一種被配置為對視訊資料進行編碼的裝置,該裝置包括:記憶體,其被配置為儲存視訊資料的當前的圖片;及一或多個處理器,其在電路系統中實現並且與該記憶體相通訊,該一或多個處理器被配置為進行以下操作:決定在該當前的圖片中的第一子圖片的第一子圖片ID是否不同於在參考圖片中的相應的子圖片的第二子圖片ID;基於對在該當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的相應的子圖片的該第二子圖片ID的該決定來決定可用的解碼模式;及利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
態樣25B-根據態樣24B所述的裝置,其中為了決定可用的解碼模式,該一或多個處理器進一步被配置為:若在該參考圖片中的該相應的子圖片的該第二子圖片ID不同於在該當前的圖片中的該第一子圖片的該第一子圖片ID,則禁用對該參考圖片的訊框間預測。
態樣26B-根據態樣25B所述的裝置,其中為了利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼,該一或多個處理器進一步被配置為:利用不同於對該參考圖片的訊框間預測的解碼模式來對該第一子圖片進行編碼。
態樣27B-根據態樣24B所述的裝置,其中為了決定該等可用的解碼模式,該一或多個處理器進一步被配置為:若在該參考圖片中的該相應的子圖片的該第二子圖片ID不與在該當前的圖片中的該第一子圖片的該第一子圖片ID不同,則啟用對該參考圖片的訊框間預測。
態樣28B-根據態樣24B-27B的任何組合所述的裝置,其中在該參考圖片中的該相應的子圖片具有與在該當前的圖片中的該第一子圖片相同的位置。
態樣29B-根據態樣24B-28B的任何組合所述的裝置,其中該一或多個處理器進一步被配置為:在該當前的圖片的圖片標頭或切片標頭中的一者或多者中對自我調整參數集合進行編碼。
態樣30B-根據態樣29B所述的裝置,其中為了在該當前的圖片的該圖片標頭或該切片標頭中的一者或多者中對該自我調整參數集合進行編碼,該一或多個處理器進一步被配置為:在該當前的圖片的圖片標頭網路抽象層(NAL)單元或切片標頭NAL單元中的一者或多者中對該自我調整參數集合進行編碼。
態樣31B–根據態樣29B所述的裝置,其中該一或多個處理器進一步被配置為:對指示在該圖片標頭或該切片標頭中的一者或多者中編碼的自我調整參數集合的數量的語法元素進行編碼。
態樣32B-根據態樣24B-31B的任何組合所述的裝置,進一步包括:被配置為拍攝該當前的圖片的照相機。
要認識到的是,取決於實例,本文中描述的技術中的任何技術的某些行動或事件可以是以不同的次序執行的,可以增加、合併或完全不考慮本文中描述的技術中的任何技術的某些行動或事件(例如,並非所有描述的行動或事件對於對技術的實施而言是必要的)。此外,在某些實例中,行動或事件可以是例如經由多執行緒處理、中斷處理或多個處理器併發地執行的,而不是順序地執行的。
在一或多個實例中,所描述的功能可以是在硬體、軟體、韌體或其任何組合中實現的。若在軟體中實現,則功能可以作為一或多個指令或代碼儲存在電腦可讀取媒體上或者經由電腦可讀取媒體進行發送,以及由基於硬體的處理單元執行。電腦可讀取媒體可以包括電腦可讀取儲存媒體,其對應於諸如資料儲存媒體之類的有形媒體或者通訊媒體,該通訊媒體包括例如根據通訊協定來促進電腦程式從一個地方傳送到另一地方的任何媒體。以此種方式,電腦可讀取媒體通常可以對應於(1)是非暫時性的有形電腦可讀取儲存媒體或(2)諸如信號或載波之類的通訊媒體。資料儲存媒體可以是可以由一或多個電腦或者一或多個處理器存取的以取回用於對在本案內容中描述的技術的實現的指令、代碼及/或資料結構的任何可用的媒體。電腦程式產品可以包括電腦可讀取媒體。
藉由舉例而非限制的方式,此種電腦可讀取儲存媒體可以包括RAM、ROM、EEPROM、CD-ROM或其他光碟儲存、磁碟儲存或其他磁儲存裝置、快閃記憶體,或者可以用於以指令或資料結構的形式儲存預期的程式碼以及能夠由電腦存取的任何其他媒體。另外,任何連接適當地稱為電腦可讀取媒體。例如,若使用同軸電纜、光纖光纜、雙絞線、數位用戶線路(DSL)或無線技術(例如,紅外線、無線電和微波)從網站、伺服器或其他遠端源傳輸指令,則同軸電纜、光纖光纜、雙絞線、DSL或者無線技術(例如,紅外線、無線電和微波)是包括在對媒體的定義中的。然而,應當理解的是,電腦可讀取儲存媒體和資料儲存媒體不包括連接、載波、信號或其他臨時性媒體,而是針對於非臨時性的有形儲存媒體。如本文所使用的,磁碟和光碟包括壓縮光碟(CD)、鐳射光碟、光碟、數位多功能光碟(DVD)、軟碟和藍光光碟,其中磁碟通常磁性地複製資料,而光碟利用鐳射來光學地複製資料。上述的組合亦應當包括在電腦可讀取媒體的範圍內。
指令可以由一或多個處理器(例如,一或多個數位訊號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)或其他等效的整合邏輯電路或個別邏輯電路系統)來執行。因此,如本文所使用的,術語「處理器」和「處理電路系統」可以指的是前述結構中的任何一者或者適合於對本文中描述的技術的實現的任何其他結構。此外,在一些態樣中,本文中描述的功能可以是在被配置用於編碼和解碼的專用硬體模組及/或專用軟體模組內提供的,或者是併入經組合的編碼器/解碼器中的。另外,該技術可以是完全地在一或多個電路或邏輯元件中實現的。
本案內容的技術可以是在各種各樣的設備或裝置中實現的,該設備或裝置包括無線手機、積體電路(IC)或IC集合(例如,晶片集)。在本案內容中描述了各種元件、模組或單元以強調被配置為執行所揭示的技術的設備的功能性態樣,但是不一定要求藉由不同的硬體單元進行的實現。而是,如上文所描述的,各種單元可以是組合在編碼器/解碼器硬體單元中的,或者是由可交互動操作的硬體單元的集合(包括如上文所描述的一或多個處理器)與合適的軟體及/或韌體協力來提供的。
已經描述各個實例。該等實例和其他實例在所附的申請專利範圍的範圍內。
100:示例視訊編碼和解碼系統 102:源設備 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀取媒體 112:存放裝置 114:檔案伺服器 116:目的地設備 118:顯示裝置 120:記憶體 122:輸入介面 130:示例四叉樹二叉樹(QTBT)結構 132:解碼樹單元(CTU) 200:視訊轉碼器 202:模式選擇單元 204:殘差產生單元 206:變換處理單元 208:量化單元 210:逆量化單元 212:逆變換處理單元 214:重構單元 216:濾波器單元 218:經解碼的圖片緩衝區(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:訊框內預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:逆量化單元 308:逆變換處理單元 310:重構單元 312:濾波器單元 314:經解碼的圖片緩衝區(DPB) 316:運動補償單元 318:訊框內預測單元 320:經解碼的圖片緩衝區(CPB)記憶體 350-360:操作 370-380:操作 700-704:操作 800-804:操作
圖1是圖示可以執行本案內容的技術的示例視訊編碼和解碼系統的方塊圖。
圖2A和圖2B是圖示示例四叉樹二叉樹(QTBT)結構以及相應的解碼樹單元(CTU)的概念圖。
圖3是圖示可以執行本案內容的技術的示例視訊轉碼器的方塊圖。
圖4是圖示可以執行本案內容的技術的示例視訊解碼器的方塊圖。
圖5是圖示示例視訊編碼方法的流程圖。
圖6是圖示示例視訊解碼方法的流程圖。
圖7是圖示另一示例視訊編碼方法的流程圖。
圖8是圖示另一示例視訊解碼方法的流程圖。
國內寄存資訊(請依寄存機構、日期、號碼順序註記) 無 國外寄存資訊(請依寄存國家、機構、日期、號碼順序註記) 無
800-804:操作

Claims (32)

  1. 一種對視訊資料進行解碼的方法,該方法包括以下步驟: 接收對一輸出層集合模式的一指示,其中該輸出層集合模式指定要輸出的層的層ID; 接收視訊資料的一或多個層,其中該所接收的一或多個層少於藉由該輸出層集合模式指定的該等層中的所有層;及 基於該所指定的要輸出的層和該所接收的一或多個層,根據該輸出層集合模式來輸出該所接收的一或多個層中的至少一個層。
  2. 如請求項1所述之方法,其中接收該視訊資料的一或多個層之步驟包括以下步驟: 在視訊解碼層(VCL)網路抽象層(NAL)單元中接收該視訊資料的一或多個層,其中該所接收的一或多個層少於藉由該輸出層集合模式指定的該等層中的所有層。
  3. 如請求項1所述之方法,其中接收該視訊資料的一或多個層之步驟包括以下步驟:在一存取單元中接收該視訊資料的一或多個層,並且 其中輸出該所接收的一或多個層中的該至少一個層包括:基於該所指定的要輸出的層和在該存取單元中該所接收的一或多個層,根據該輸出層集合模式來輸出該所接收的一或多個層中的該至少一個層。
  4. 如請求項3所述之方法,其中該輸出層集合模式指定:該等所指定的層ID中的最高層是要輸出的,並且 其中輸出該所接收的一或多個層中的該至少一個層包括:輸出具有已經在該存取單元中實際接收到的該最高層ID的該層。
  5. 如請求項3所述之方法,其中該輸出層集合模式指定:該等所指定的層ID中的所有層是要輸出的,並且 其中輸出該一或多個層中的該至少一個層包括:輸出已經在該存取單元中實際接收到的所有層。
  6. 如請求項1所述之方法,進一步包括以下步驟: 在一當前的圖片的一層id不等於在該輸出層集合模式中指定的一層索引的情況下,將一圖片輸出標記設置為零;及 基於該圖片輸出標記來輸出該一或多個層中的該至少一個層。
  7. 如請求項1所述之方法,進一步包括以下步驟: 顯示包括該輸出該一或多個層中的至少一個層的一圖片。
  8. 一種被配置為對視訊資料進行解碼的裝置,該裝置包括: 一記憶體,其被配置為儲存視訊資料的一或多個層;及 一或多個處理器,其在電路系統中實現並且與該記憶體相通訊,該一或多個處理器被配置為進行以下操作: 接收對一輸出層集合模式的一指示,其中該輸出層集合模式指定要輸出的層的層ID; 接收視訊資料的一或多個層,其中該所接收的一或多個層少於藉由該輸出層集合模式指定的該等層中的所有層;及 基於該所指定的要輸出的層和該所接收的一或多個層,根據該輸出層集合模式來輸出該所接收的一或多個層中的至少一個層。
  9. 如請求項8所述之裝置,其中為了接收該視訊資料的一或多個層,該一或多個處理器進一步被配置為: 在視訊解碼層(VCL)網路抽象層(NAL)單元中接收該視訊資料的一或多個層,其中該所接收的一或多個層少於藉由該輸出層集合模式指定的該等層中的所有層。
  10. 如請求項8所述之裝置,其中為了接收該視訊資料的一或多個層,該一或多個處理器進一步被配置為在一存取單元中接收該視訊資料的一或多個層,並且 其中為了輸出該所接收的一或多個層中的該至少一個層,該一或多個處理器進一步被配置為:基於該所指定的要輸出的層和在該存取單元中該所接收的一或多個層,根據該輸出層集合模式來輸出該所接收的一或多個層中的該至少一個層。
  11. 如請求項10所述之裝置,其中該輸出層集合模式指定:該等所指定的層ID中的最高層是要輸出的,並且 其中為了輸出該所接收的一或多個層中的該至少一個層,該一或多個處理器進一步被配置為:輸出具有已經在該存取單元中實際接收到的該最高層ID的該層。
  12. 如請求項10所述之裝置,其中該輸出層集合模式指定:該等所指定的層ID中的所有層是要輸出的,並且 其中為了輸出該所接收的一或多個層中的該至少一個層,該一或多個處理器進一步被配置為:輸出已經在該存取單元中實際接收到的所有層。
  13. 如請求項8所述之裝置,其中該一或多個處理器進一步被配置為進行以下操作: 在一當前的圖片的一層id不等於在該輸出層集合模式中指定的一層索引的情況下,將一圖片輸出標記設置為零;及 基於該圖片輸出標記來輸出該一或多個層中的該至少一個層。
  14. 如請求項8所述之裝置,進一步包括: 一顯示器,其被配置為顯示包括該輸出該一或多個層中的至少一個層的一圖片。
  15. 一種對視訊資料進行編碼的方法,該方法包括以下步驟: 決定在一當前的圖片中的一第一子圖片的一第一子圖片ID是否不同於在一參考圖片中的一相應的子圖片的一第二子圖片ID; 基於對在該當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的一相應的子圖片的該第二子圖片ID的該決定來決定可用的解碼模式;及 利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
  16. 如請求項15所述之方法,其中決定該等可用的解碼模式之步驟包括以下步驟: 若在該參考圖片中的該相應的子圖片的該第二子圖片ID不同於在該當前的圖片中的該第一子圖片的該第一子圖片ID,則禁用對該參考圖片的訊框間預測。
  17. 如請求項16所述之方法,其中利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼之步驟包括以下步驟: 利用不同於對該參考圖片的訊框間預測的一解碼模式來對該第一子圖片進行編碼。
  18. 如請求項15所述之方法,其中決定該等可用的解碼模式之步驟包括以下步驟: 若在該參考圖片中的該相應的子圖片的該第二子圖片ID不與在該當前的圖片中的該第一子圖片的該第一子圖片ID不同,則啟用對該參考圖片的訊框間預測。
  19. 如請求項15所述之方法,其中在該參考圖片中的該相應的子圖片具有與在該當前的圖片中的該第一子圖片相同的位置。
  20. 如請求項15所述之方法,進一步包括以下步驟: 在該當前的圖片的一圖片標頭或一切片標頭中的一者或多者中對一自我調整參數集合進行編碼。
  21. 如請求項20所述之方法,其中在該當前的圖片的該圖片標頭或該切片標頭中的一者或多者中對該自我調整參數集合進行編碼之步驟包括以下步驟: 在該當前的圖片的該圖片標頭網路抽象層(NAL)單元或該切片標頭NAL單元中的一者或多者中對該自我調整參數集合進行編碼。
  22. 如請求項20所述之方法,進一步包括以下步驟: 對一語法元素進行編碼,該語法元素指示在該圖片標頭或該切片標頭中的該一者或多者中編碼的自我調整參數集合的一數量。
  23. 如請求項13所述之方法,進一步包括以下步驟: 利用一照相機來拍攝該當前的圖片。
  24. 一種被配置為對視訊資料進行編碼的裝置,該裝置包括: 一記憶體,其被配置為儲存視訊資料的一當前的圖片;及 一或多個處理器,其在電路系統中實現並且與該記憶體相通訊,該一或多個處理器被配置為進行以下操作: 決定在該當前的圖片中的一第一子圖片的一第一子圖片ID是否不同於在一參考圖片中的一相應的子圖片的一第二子圖片ID; 基於對在該當前的圖片中的該第一子圖片的該第一子圖片ID是否不同於在該參考圖片中的一相應的子圖片的該第二子圖片ID的該決定來決定可用的解碼模式;及 利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼。
  25. 如請求項24所述之裝置,其中為了決定該等可用的解碼模式,該一或多個處理器進一步被配置為: 若在該參考圖片中的該相應的子圖片的該第二子圖片ID不同於在該當前的圖片中的該第一子圖片的該第一子圖片ID,則禁用對該參考圖片的訊框間預測。
  26. 如請求項25所述之裝置,其中為了利用該等可用的解碼模式中的一或多個解碼模式來對該第一子圖片進行編碼,該一或多個處理器進一步被配置為: 利用不同於對該參考圖片的訊框間預測的一解碼模式來對該第一子圖片進行編碼。
  27. 如請求項24所述之裝置,其中為了決定該等可用的解碼模式,該一或多個處理器進一步被配置為: 若在該參考圖片中的該相應的子圖片的該第二子圖片ID不與在該當前的圖片中的該第一子圖片的該第一子圖片ID不同,則啟用對該參考圖片的訊框間預測。
  28. 如請求項24所述之裝置,其中在該參考圖片中的該相應的子圖片具有與在該當前的圖片中的該第一子圖片相同的位置。
  29. 如請求項24所述之裝置,其中該一或多個處理器進一步被配置為: 在該當前的圖片的一圖片標頭或一切片標頭中的一者或多者中對一自我調整參數集合進行編碼。
  30. 如請求項27所述之裝置,其中為了在該當前的圖片的該圖片標頭或該切片標頭中的一者或多者中對該自我調整參數集合進行編碼,該一或多個處理器進一步被配置為: 在該當前的圖片的該圖片標頭網路抽象層(NAL)單元或該切片標頭NAL單元中的一者或多者中對該自我調整參數集合進行編碼。
  31. 如請求項29所述之裝置,其中該一或多個處理器進一步被配置為: 對一語法元素進行編碼,該語法元素指示在該圖片標頭或該切片標頭中的該一者或多者中編碼的自我調整參數集合的一數量。
  32. 如請求項24所述之裝置,進一步包括: 一照相機,其被配置為拍攝該當前的圖片。
TW110108484A 2020-03-10 2021-03-10 在視訊解碼中的經解碼視訊序列起點存取單元 TW202143722A (zh)

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
US202062987765P 2020-03-10 2020-03-10
US62/987,765 2020-03-10
US202063004241P 2020-04-02 2020-04-02
US63/004,241 2020-04-02
US202063009230P 2020-04-13 2020-04-13
US63/009,230 2020-04-13
US17/196,444 US11546623B2 (en) 2020-03-10 2021-03-09 Coded video sequence start access unit in video coding
US17/196,444 2021-03-09

Publications (1)

Publication Number Publication Date
TW202143722A true TW202143722A (zh) 2021-11-16

Family

ID=77663887

Family Applications (1)

Application Number Title Priority Date Filing Date
TW110108484A TW202143722A (zh) 2020-03-10 2021-03-10 在視訊解碼中的經解碼視訊序列起點存取單元

Country Status (8)

Country Link
US (1) US11546623B2 (zh)
EP (1) EP4118828A1 (zh)
JP (1) JP2023517892A (zh)
KR (1) KR20220146494A (zh)
CN (1) CN115280776A (zh)
BR (1) BR112022017383A2 (zh)
TW (1) TW202143722A (zh)
WO (1) WO2021183654A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11228776B1 (en) * 2020-03-27 2022-01-18 Tencent America LLC Method for output layer set mode in multilayered video stream
WO2021252978A1 (en) 2020-06-12 2021-12-16 Bytedance Inc. Constraints on picture output ordering in a video bitstream

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013067687A1 (en) 2011-11-08 2013-05-16 Mediatek Singapore Pte. Ltd. Residue quad tree depth for chroma components
WO2015194183A1 (en) * 2014-06-18 2015-12-23 Sharp Kabushiki Kaisha Slice Type and Decoder Conformance

Also Published As

Publication number Publication date
US20210289219A1 (en) 2021-09-16
US11546623B2 (en) 2023-01-03
KR20220146494A (ko) 2022-11-01
CN115280776A (zh) 2022-11-01
BR112022017383A2 (pt) 2022-10-18
JP2023517892A (ja) 2023-04-27
WO2021183654A1 (en) 2021-09-16
EP4118828A1 (en) 2023-01-18

Similar Documents

Publication Publication Date Title
TW202110189A (zh) 用於視訊寫碼的環繞運動補償
TW202121903A (zh) 低頻不可分離變換(lfnst)簡化
US20210235124A1 (en) Decoded picture buffer (dpb) parameter signaling for video coding
US20210297704A1 (en) Independent subpicture signaling in video coding
TW202127886A (zh) 用於視頻譯碼的圖像標頭信令
TW202127873A (zh) 用於視頻寫碼中的子圖片的參考子圖片縮放比率
KR20230008733A (ko) 비디오 코딩에서의 파라미터 세트 신택스 엘리먼트들 및 변수들
US11659207B2 (en) General constraints of syntax elements for video coding
US11825073B2 (en) High level syntax for video with mixed NAL unit types
US20210195175A1 (en) Shared decoder picture buffer for multiple layers
TW202143722A (zh) 在視訊解碼中的經解碼視訊序列起點存取單元
TW202143735A (zh) 用於視訊資料的語法元素的訊號傳遞
TW202143715A (zh) 視訊譯碼中的子區塊合併候選的信令數目
TW202141988A (zh) 用於視訊譯碼中的變換跳過區塊的高級約束
TW202127874A (zh) 用於視訊編碼中的自我調整色彩變換的qp 偏移的靈活訊號傳遞
TW202133615A (zh) 基於色度變換跳過的用於色度的lfnst信號傳遞
US11943429B2 (en) Subpicture signaling in video coding
TW202143712A (zh) 視訊轉碼中的低頻不可分離變換處理
TW202139716A (zh) 在視訊解碼中共享的信號傳遞約束和序列參數集
TW202127891A (zh) 用於視訊編碼的高階語法中子圖像的訊令編號
RU2806784C1 (ru) Способ и устройство кодирования/декодирования изображений на основе смешанного типа nal-единицы и способ для передачи потока битов
TW202141987A (zh) 用於視訊編解碼的縮放清單訊號傳遞
TW202126039A (zh) 用於視訊解碼的參數集訊號傳遞