TW202126040A - 用於視訊編碼的簡化的調色板預測器更新 - Google Patents

用於視訊編碼的簡化的調色板預測器更新 Download PDF

Info

Publication number
TW202126040A
TW202126040A TW109133103A TW109133103A TW202126040A TW 202126040 A TW202126040 A TW 202126040A TW 109133103 A TW109133103 A TW 109133103A TW 109133103 A TW109133103 A TW 109133103A TW 202126040 A TW202126040 A TW 202126040A
Authority
TW
Taiwan
Prior art keywords
palette
block
entries
video
predictor
Prior art date
Application number
TW109133103A
Other languages
English (en)
Inventor
趙詠萱
承泰 謝
瑪塔 卡克基維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202126040A publication Critical patent/TW202126040A/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一種實例設備包括:記憶體,其被配置為儲存經編碼的視訊位元串流的至少一部分;及一或多個處理器,其在電路中實現並且被配置為:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於視訊資料的第一塊的調色板,調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;從經編碼的視訊位元串流中並且針對視訊資料的第一塊來解碼用於第一塊的取樣的索引值,索引值標識調色板中的條目;及基於索引值來重構第一塊的取樣。

Description

用於視訊編碼的簡化的調色板預測器更新
本專利申請案主張享受於2019年9月24日提出申請的美國臨時申請案第62/905,105號的權益,將上述申請案的全部內容經由引用的方式併入本文中。
本案內容係關於視訊編碼和視訊解碼。
數位視訊能力可以被合併到各種各樣的設備中,包括數位電視機、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型電腦或桌上型電腦、平板電腦、電子書閱讀器、數位相機、數位記錄設備、數位媒體播放機、視訊遊戲裝置、視訊遊戲控制台、蜂巢或衛星無線電電話(所謂的「智慧型電話」)、視訊電話會議設備、視訊流式設備等。數位視訊設備實現視訊編碼技術(諸如在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4(第10部分,高級視訊編碼(AVC))、ITU-T H.265/高效率視訊編碼(HEVC)、以及此類標準的擴展所定義的標準中描述的那些技術)。經由實現此類視訊編碼技術,視訊設備可以更加高效地發送、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊編碼技術包括空間(訊框內圖片)預測及/或時間(訊框間圖片)預測以減少或去除在視訊序列中固有的冗餘。對於基於塊的視訊編碼,視訊切片(例如,視訊圖片或視訊圖片的一部分)可以被分割為視訊塊,視訊塊亦可以被稱為編碼樹單元(CTU)、編碼單元(CU)及/或編碼節點。圖片的經訊框內編碼(I)的切片中的視訊塊是使用相對於同一圖片中的相鄰塊中的參考取樣的空間預測來編碼的。圖片的經訊框間編碼(P或B)的切片中的視訊塊可以使用相對於同一圖片中的相鄰塊中的參考取樣的空間預測或者相對於其他參考圖片中的參考取樣的時間預測。圖片可以被稱為訊框,並且參考圖片可以被稱為參考訊框。
概括而言,本案內容描述了用於視訊資料的調色板模式編碼的技術。對視訊資料執行調色板模式編碼可以涉及在調色板之間複製條目,諸如將條目從第一調色板複製到第二調色板。例如,視訊編碼裝置(video coder)可以將條目從預測器調色板複製到用於視訊資料的當前塊的調色板。在行動設備或其他電池供電的設備的情況下,每個複製操作皆可能消耗系統資源,諸如記憶體、處理功率和電池壽命。因此,可能期望減少執行的複製操作的數量。複製操作的數量可能與調色板中的條目數量成正相關。因此,減少調色板中條目的數量可以減少執行的複製操作的數量。然而,減少調色板中的最大條目數量可能會降低調色板模式編碼的效率,這可能是不期望的。
根據本案內容的一或多個技術,視訊編碼裝置可以動態地調整要用於調色板模式編碼的最大條目數量。例如,基於視訊資料的第一塊的參數,視訊編碼裝置可以決定要用於當前塊的調色板模式編碼的條目的數量。作為一個特定實例,視訊編碼裝置可以基於具有第一值的參數來將最大條目數量限制為第一值(例如,16),或者基於具有第二值的參數來將最大條目數量限制為第二值(例如,32)。因此,在一些實例中,第二值大於第一值。以這種方式,視訊編碼裝置可以減少用於調色板模式編碼的系統資源量。例如,視訊編碼裝置可以在不過度地降低調色板模式編碼的效率的情況下減少複製操作的數量。
在一個實例中,一種設備包括:記憶體,其被配置為儲存經編碼的視訊位元串流的至少一部分;及一或多個處理器,其在電路中實現並且被配置為:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於該視訊資料的第一塊的調色板,該調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;從該經編碼的視訊位元串流中並且針對該視訊資料的第一塊來解碼用於該第一塊的取樣的索引值,該等索引值標識該調色板中的條目;及基於該等索引值來重構該第一塊的該等取樣。
在另一實例中,一種方法包括:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於該視訊資料的第一塊的調色板,該調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;從該經編碼的視訊位元串流中並且針對該視訊資料的第一塊來解碼用於該第一塊的取樣的索引值,該索引值標識該調色板中的條目;及基於該等索引值來重構該第一塊的該等取樣。
在另一實例中,一種設備包括:記憶體,其被配置為儲存經編碼的視訊位元串流的至少一部分;及一或多個處理器,其在電路中實現並且被配置為:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於該視訊資料的第一塊的調色板,該調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;及在經編碼的視訊位元串流中並且針對該視訊資料的第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
在另一實例中,一種方法包括:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於該視訊資料的第一塊的調色板,該調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;及在經編碼的視訊位元串流中並且針對該視訊資料的第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
在另一實例中,一種電腦可讀取儲存媒體儲存指令,該等指令在被執行時使得視訊轉碼器的一或多個處理器進行以下操作:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於該視訊資料的第一塊的調色板,該調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;及在經編碼的視訊位元串流中並且針對該視訊資料的第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
在附圖和以下描述中闡述了一或多個實例的細節。根據描述和附圖並且根據請求項,本案內容的其他特徵、目的和優點將是顯而易見的。
本案內容描述了用於視訊編碼和壓縮的技術。特別地,本案內容描述用於視訊資料的基於調色板的編碼的技術。例如,本案內容描述了用於支援對視訊內容,特別是具有調色板編碼的螢幕內容的編碼的技術,諸如用於改進的調色板構造的技術,以及用於針對調色板編碼的訊號傳遞的技術。
在傳統的視訊編碼中,假設圖像是連續色調和空間平滑的。基於這些假設,已經開發了各種工具,諸如基於塊的變換、濾波等,並且這些工具對於自然內容視訊顯示出良好的效能。
然而,在諸如遠端桌面、協調工作和無線顯示之類的應用中,電腦產生的螢幕內容可能是要壓縮的主要內容。這種類型的內容往往具有離散的色調和特徵鮮明的線條以及高對比的物件邊界。連續色調和平滑性的假設可能不再適用,並且因此傳統的視訊編碼技術可能不是壓縮視訊資料的有效方法。
基於螢幕內容視訊的特性,引入了調色板編碼,以提高螢幕內容編碼(SCC)的效率,如在以下項中提出的:Guo等人的「Palette Mode for Screen Content Coding」,ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的視訊編碼聯合協調組(JCT-VC),第13次會議:韓國仁川,2013年4月18-26日,文件:JCTVC-M0323,網址為http:// phenix.it-sudparis.eu/jct/doc_end_user/documents/13_Incheon/wg11/JCTVC-M0323-v3.zip(以下簡稱「JCTVC-M0323」)。具體地,調色板編碼引入了查閱資料表,即調色板,以基於以下事實來壓縮重複圖元值:在SCC中,一個CU內的顏色通常集中在幾個峰值上。給定用於特定CU的調色板,CU內的圖元被映射到調色板索引。在第二階段,提出了一種有效的從左游程(run)長度複製的方法,以有效地壓縮索引塊的重複模式。在一些實例中,調色板索引編碼模式可以被廣義化為具有游程長度編碼的從左側複製和從上方複製。請注意,在一些實例中,不可以為調色板編碼調用任何變換程序,以避免模糊銳利邊緣,模糊銳利邊緣可能對螢幕內容的視覺品質產生巨大的負面影響。
如前述,本案內容描述了基於調色板的編碼,其可能特別適合於螢幕產生的內容編碼。例如,假設視訊資料的特定區域具有相對少量的顏色。視訊編碼裝置(video coder)(視訊轉碼器(video encoder)或視訊解碼器(video decoder))可以將所謂的「調色板」編碼為用於表示特定區域(例如,給定塊)的視訊資料的顏色表。每個圖元可以與調色板中表示圖元顏色的條目相關聯。例如,視訊編碼裝置可以對將圖元值映射到調色板中的適當值的索引進行編碼。
在上面的實例中,視訊編碼裝置可以經由以下操作來對視訊資料的塊進行編碼:決定用於塊的調色板,在調色板中定位條目以表示每個圖元的顏色值,以及利用用於圖元的將圖元值映射到調色板的索引值來對調色板進行編碼。視訊解碼器可以從經編碼的位元串流中獲得用於塊的調色板以及用於塊的圖元的索引值。視訊解碼器可以將圖元的索引值映射到調色板的條目,以重構塊的亮度和色度圖元值。
上面的實例意欲提供對基於調色板的編碼的一般描述。在各種實例中,在本案內容中描述的技術可以包括用於以下各項中的一項或多項的各種組合的技術:用訊號通知基於調色板的編碼模式、發送調色板、預測調色板、推導調色板、以及發送基於調色板的編碼圖和其他語法元素。此類技術可以提高視訊編碼效率,例如,需要更少的位元來表示螢幕產生的內容。
例如,根據本案內容的態樣,視訊編碼裝置(視訊轉碼器或視訊解碼器)可以對用於使用調色板編碼模式進行編碼的每個區塊的一或多個語法元素進行編碼。例如,視訊編碼裝置可以對palette_mode_flag進行編碼以指示是否將基於調色板的編碼模式用於對特定塊進行編碼。在該實例中,視訊轉碼器可以利用等於一的值來對palette_mode_flag進行編碼,以指定當前正在被編碼的塊(「當前塊」)是使用調色板模式來編碼的。在這種情況下,視訊解碼器可以從經編碼的位元串流中獲得palette_mode_flag,並且應用基於調色板的編碼模式來對該塊進行解碼。在存在一種以上的基於調色板的編碼模式可用的情況下(例如,存在一種以上的基於調色板的技術可用於編碼),一或多個語法元素可以指示複數個不同調色板模式之一用於該塊。
在一些情況下,視訊轉碼器可以利用等於零的值來對palette_mode_flag進行編碼,以指定當前塊不是使用調色板模式來編碼的。在這種情況下,視訊轉碼器可以使用各種訊框間預測、訊框內預測或其他編碼模式中的任何一種來對塊進行編碼。當palette_mode_flag等於零時,視訊轉碼器可以對額外的資訊(例如,語法元素)進行編碼以指示用於對相應的塊進行編碼的特定模式。在一些實例中,如下所述,該模式可以是HEVC編碼模式。為了實例的目的描述了palette_mode_flag的使用。在其他實例中,諸如多位元碼之類的其他語法元素可以用於指示是否將基於調色板的編碼模式用於一或多個塊,或者指示要使用複數種模式中的哪一種。
當使用基於調色板的編碼模式時,可以由編碼器在經編碼的視訊資料位元串流中發送調色板以供解碼器使用。可以針對每個區塊發送調色板,或者可以在圖片或切片中的多個塊之間共享調色板。調色板可以代表塊的主要及/或代表性的多個圖元值,包括例如亮度值和兩個色度值。
在一些實例中,諸如轉置標誌之類的語法元素可以被編碼以指示是否將轉置程序應用於當前調色板的調色板索引。若轉置標誌為零,則可以在水平遍歷掃瞄中對用於取樣的調色板索引進行編碼。類似地,若轉置標誌為1,則可以在垂直遍歷掃瞄中對用於取樣的調色板索引進行編碼。可以將這想像為在假設水平遍歷掃瞄的情況下對索引值進行解碼,並且隨後對塊進行轉置(行到列)。
如前述,調色板編碼被設計為處理螢幕內容的聚類顏色。調色板編碼採用基色和索引圖來表示輸入圖像塊。可以針對每個編碼單元(CU)發送標誌,以用訊號通知在當前CU中是否使用調色板模式。若利用調色板模式,則CU中的圖元值由代表性顏色值的小集合表示。該集合被稱為調色板。對於具有接近調色板顏色的值的圖元,用訊號通知調色板索引。對於具有在調色板之外的值的圖元,利用逸出符號來表示該圖元,並且直接用訊號通知經量化的圖元值。
為了對經調色板編碼的塊進行解碼,解碼器需要對調色板顏色和索引進行解碼。調色板顏色由調色板表描述,並且由調色板表編碼工具進行編碼。針對每個CU用訊號通知逸出標誌以指示當前CU中是否存在逸出符號。若存在逸出符號,則調色板表將增加一個,並且將最後一個索引指派給逸出模式。CU中所有圖元的調色板索引形成調色板索引圖,並且由調色板索引圖編碼工具進行編碼。
為了對調色板索引圖進行編碼,視訊編碼裝置可以使用水平和垂直遍歷掃瞄來對索引進行編碼。圖7是示出使用水平和垂直遍歷掃瞄的索引的實例編碼的概念圖。
使用兩個主要的調色板取樣模式來對調色板索引進行編碼:「INDEX」和「COPY_ABOVE」。使用標誌來用訊號通知模式,除了以下情況:當使用水平掃瞄時的最高行,當使用垂直掃瞄時的第一列,或者當先前模式為「COPY_ABOVE」時。在「COPY_ABOVE」模式下,複製上一行中取樣的調色板索引。在「INDEX」模式下,顯式地用訊號通知調色板索引。對於「INDEX」和「COPY_ABOVE」模式兩者,用訊號通知游程值,游程值指定使用相同模式編碼的圖元數量。
索引圖的編碼順序可以如下:首先,用訊號通知CU的索引值的數量。這之後使用截斷的二進位編碼來用訊號通知整個CU的實際索引值。索引數量以及索引值兩者都以旁路模式進行編碼。這將與索引相關的旁路倉(bin)封包在一起。隨後,以交錯方式用訊號通知調色板模式(INDEX或COPY_ABOVE)和游程。最後,將與整個CU的逸出取樣相對應的分量逸出值封包在一起並且以旁路模式進行編碼。在用訊號通知索引值之後,可以用訊號通知額外的語法元素(例如,last_run_type_flag)。該語法元素結合索引數量可以消除用訊號通知與塊中的最後一個游程相對應的游程值的需要。
在瑞典哥德堡舉行的第15屆JVET會議上,調色板模式被用於針對YUV4:4:4格式的通用視訊編碼(VVC)。調色板模式語法與HEVC SCM中的語法相同(請參見R.Joshi, J.Xu, R.Cohen, S.Liu, Y.Ye,「Screen Content Coding Test Model 7 Encoder Description (SCM 7)」, JCTVC-W1014, 2016;及R.Joshi, S.Liu, G.J.Sullivan, Y.-K.Wang, J.Xu, Y.Ye,「HEVC Screen Content Coding Draft Text 6」, JCTVC-W1005, 2016),其中修改了調色板模式訊號傳遞並且針對將雙樹用於亮度和色度分量的切片包括單獨的調色板模式(用於亮度編碼樹和色度編碼樹的切片的單獨的調色板預測器/表/語法解析)。
在調色板模式下,視訊編碼裝置(例如,如下文例如參照圖1、圖3和圖4描述的視訊轉碼器200及/或視訊解碼器300)可以對每個CU的標誌進行編碼以用訊號通知在當前CU中是否使用調色板模式(例如,palette_mode_flag)。調色板模式允許的最大CU大小為64x64(HEVC中的最大CU大小)。若利用調色板模式,則CU中的圖元值由代表性顏色值的小集合表示。該集合可以被稱為調色板。對於具有接近調色板顏色的值的圖元,視訊編碼裝置可以用訊號通知調色板索引。對於具有在調色板之外的值的圖元,視訊編碼裝置可以利用逸出符號來表示這些圖元,並且可以直接用訊號通知經量化的圖元值。
為了對經調色板編碼的塊進行解碼,解碼器可以對調色板顏色和索引進行解碼。調色板顏色由調色板表描述,並且由調色板表編碼工具進行編碼。視訊編碼裝置可以針對每個CU用訊號通知逸出標誌以指示當前CU中是否存在逸出符號。若存在逸出符號,則視訊編碼裝置可以將調色板表增加一個,並且將最後一個索引指派給逸出模式。CU中所有圖元的調色板索引形成調色板索引圖,並且由調色板索引圖編碼工具進行編碼。
視訊編碼裝置可以維持用於調色板表的編碼的調色板預測器。視訊編碼裝置可以週期性地初始化調色板預測器。例如,視訊編碼裝置可以在每個切片的開始處初始化調色板預測器。在一些實例中,為了初始化調色板預測器,視訊編碼裝置可以將調色板預測器重置為0。視訊編碼裝置可以針對調色板預測器之每一者條目用訊號通知重用標誌,以指示該條目是否是當前調色板的一部分。在一些實例中,視訊編碼裝置可以使用零的游程長度編碼來對重用標誌進行編碼。視訊編碼裝置可以使用階數為0的指數Golomb碼來用訊號通知新調色板條目的數量。視訊編碼裝置可以用訊號通知新調色板條目的分量值。在對當前CU進行編碼之後,視訊編碼裝置可以使用當前調色板來更新調色板預測器。在一些實例中,視訊編碼裝置可以在新調色板預測器的末尾添加來自先前調色板預測器的當前調色板中不被重用的條目,直到達到所允許的最大大小為止。添加來自先前調色板預測器的條目可以被稱為調色板填充。
圖1是示出可以執行本案內容的技術的實例視訊編碼和解碼系統100的方塊圖。概括而言,本案內容的技術涉及對視訊資料進行編碼(coding)(編碼(encoding)及/或解碼(decoding))。通常,視訊資料包括用於處理視訊的任何資料。因此,視訊資料可以包括原始的未經編碼的視訊、經編碼的視訊、經解碼(例如,經重構)的視訊、以及視訊中繼資料(諸如訊號傳遞資料)。
如圖1所示,在該實例中,系統100包括源設備102,源設備102提供要被目的地設備116解碼和顯示的、經編碼的視訊資料。具體地,源設備102經由電腦可讀取媒體110來將視訊資料提供給目的地設備116。源設備102和目的地設備116可以包括各種各樣的設備中的任何一種,包括桌上型電腦、筆記型電腦(亦即,膝上型電腦)、平板電腦、機上盒、電話手機(諸如智慧型電話)、電視機、相機、顯示裝置、數位媒體播放機、視訊遊戲控制台、視訊流式設備等。在一些情況下,源設備102和目的地設備116可以被配備用於無線通訊,並且因此可以被稱為無線通訊設備。
在圖1的實例中,源設備102包括視訊源104、記憶體106、視訊轉碼器200以及輸出介面108。目的地設備116包括輸入介面122、視訊解碼器300、記憶體120以及顯示裝置118。根據本案內容,源設備102的視訊轉碼器200和目的地設備116的視訊解碼器300可以被配置為應用用於調色板模式編碼的技術。因此,源設備102表示視訊編碼設備的實例,而目的地設備116表示視訊解碼設備的實例。在其他實例中,源設備和目的地設備可以包括其他部件或佈置。例如,源設備102可以從諸如外部相機之類的外部視訊源接收視訊資料。同樣,目的地設備116可以與外部顯示裝置對接,而不是包括整合顯示裝置。
在圖1中所示的系統100僅是一個實例。通常,任何數位視訊編碼及/或解碼設備可以執行用於調色板模式編碼的技術。源設備102和目的地設備116僅是此類編碼設備的實例,其中源設備102產生經編碼的視訊資料以用於傳輸給目的地設備116。本案內容將「編碼」設備代表為執行對資料的編碼(例如,編碼及/或解碼)的設備。因此,視訊轉碼器200和視訊解碼器300分別表示編碼設備(具體地,視訊轉碼器和視訊解碼器)的實例。在一些實例中,設備102、116可以以基本上對稱的方式進行操作,使得設備102、116中的每一者皆包括視訊編碼和解碼用部件。因此,系統100可以支援在視訊設備102、116之間的單向或雙向視訊傳輸,例如,以用於視訊流式、視訊重播、視訊廣播或視訊電話。
通常,視訊源104表示視訊資料(即原始的未經編碼的視訊資料)的源,並且將視訊資料的連續的一系列圖片(亦被稱為「訊框」)提供給視訊轉碼器200,視訊轉碼器200對用於圖片的資料進行編碼。源設備102的視訊源104可以包括視訊擷取裝置,諸如攝像機、包含先前擷取的原始視訊的視訊存檔單元、及/或用於從視訊內容提供者接收視訊的視訊饋送介面。作為另外的替代方式,視訊源104可以產生基於電腦圖形的資料作為源視訊,或者產生即時視訊、被存檔的視訊和電腦產生的視訊的組合。在每種情況下,視訊轉碼器200可以對被擷取的、預擷取的或電腦產生的視訊資料進行編碼。視訊轉碼器200可以將圖像從所接收的次序(有時被稱為「顯示次序」)重新排列為用於編碼的編碼次序。視訊轉碼器200可以產生包括經編碼的視訊資料的位元串流。隨後,源設備102可以經由輸出介面108將經編碼的視訊資料輸出到電腦可讀取媒體110上,以便由例如目的地設備116的輸入介面122接收及/或取回。
源設備102的記憶體106和目的地設備116的記憶體120表示通用記憶體。在一些實例中,記憶體106、120可以儲存原始視訊資料,例如,來自視訊源104的原始視訊以及來自視訊解碼器300的原始的經解碼的視訊資料。補充或可替代地,記憶體106、120可以儲存可由例如視訊轉碼器200和視訊解碼器300分別執行的軟體指令。儘管在該實例中與視訊轉碼器200和視訊解碼器300分開示出,但是應當理解的是,視訊轉碼器200和視訊解碼器300亦可以包括用於在功能上類似或等效目的的內部記憶體。此外,記憶體106、120可以儲存例如從視訊轉碼器200輸出並且輸入到視訊解碼器300的經編碼的視訊資料。在一些實例中,記憶體106、120的部分可以被分配為一或多個視訊緩衝器,例如,以儲存原始的經解碼及/或經編碼的視訊資料。
電腦可讀取媒體110可以表示能夠將經編碼的視訊資料從源設備102移動到目的地設備116的任何類型的媒體或設備。在一個實例中,電腦可讀取媒體110表示通訊媒體,其使得源設備102能夠例如經由射頻網路或基於電腦的網路,來即時地向目的地設備116直接發送經編碼的視訊資料。輸出介面108可以根據諸如無線通訊協定之類的通訊標準,來對包括經編碼的視訊資料的傳輸訊號進行調制,並且輸入介面122可以根據諸如無線通訊協定之類的通訊標準,來對所接收的傳輸資訊進行解調。通訊媒體可以包括任何無線或有線通訊媒體,例如,射頻(RF)頻譜或一或多條實體傳輸線。通訊媒體可以形成諸如以下各項的基於封包的網路的一部分:區域網路、廣域網、或諸如網際網路之類的全球網路。通訊媒體可以包括路由器、交換機、基地台、或對於促進從源設備102到目的地設備116的通訊而言可以有用的任何其他設備。
在一些實例中,源設備102可以將經編碼的資料從輸出介面108輸出到存放裝置116。類似地,目的地設備116可以經由輸入介面122從存放裝置116存取經編碼的資料。存放裝置116可以包括各種分散式或本端存取的資料儲存媒體中的任何一種,諸如硬碟、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體、或用於儲存經編碼的視訊資料的任何其他適當的數位儲存媒體。
在一些實例中,源設備102可以將經編碼的視訊資料輸出到檔案伺服器114或者可以儲存由源設備102產生的經編碼的視訊的另一中間存放裝置。目的地設備116可以經由流式或下載來從檔案伺服器114存取被儲存的視訊資料。檔案伺服器114可以是能夠儲存經編碼的視訊資料並且將該經編碼的視訊資料發送給目的地設備116的任何類型的伺服器設備。檔案伺服器114可以表示網頁伺服器(例如,用於網站)、檔案傳輸通訊協定(FTP)伺服器、內容傳送網路(CDN)設備、或網路附加儲存(NAS)設備。目的地設備116可以經由任何標準資料連接(包括網際網路連接)來從檔案伺服器114存取經編碼的視訊資料。這可以包括適於存取被儲存在檔案伺服器114上的經編碼的視訊資料的無線通道(例如,Wi-Fi連接)、有線連接(例如,DSL、纜線數據機等)、或這兩者的組合。檔案伺服器114和輸入介面122可以被配置為根據流式協定、下載傳輸協定或其組合進行操作。
輸出介面108和輸入介面122可以表示無線發射器/接收器、數據機、有線聯網單元(例如,乙太網路卡)、根據各種IEEE 802.11標準中的任何一種標準進行操作的無線通訊部件、或其他實體部件。在其中輸出介面108和輸入介面122包括無線部件的實例中,輸出介面108和輸入介面122可以被配置為根據蜂巢通訊標準(諸如4G、4G-LTE(長期進化)、改進的LTE、5G等)來傳輸資料(諸如經編碼的視訊資料)。在其中輸出介面108包括無線發射器的一些實例中,輸出介面108和輸入介面122可以被配置為根據其他無線標準(諸如IEEE 802.11規範、IEEE 802.15規範(例如,ZigBee™)、Bluetooth™標準等)來傳輸資料(諸如經編碼的視訊資料)。在一些實例中,源設備102及/或目的地設備116可以包括相應的片上系統(SoC)設備。例如,源設備102可以包括用於執行被賦予視訊轉碼器200及/或輸出介面108的功能的SoC設備,並且目的地設備116可以包括用於執行被賦予視訊解碼器300及/或輸入介面122的功能的SoC設備。
本案內容的技術可以應用於視訊編碼,以支援各種多媒體應用中的任何一種,諸如空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路流式視訊傳輸(諸如基於HTTP的動態自我調整流式(DASH))、被編碼到資料儲存媒體上的數位視訊、對被儲存在資料儲存媒體上的數位視訊的解碼、或其他應用。
目的地設備116的輸入介面122從電腦可讀取媒體110(例如,存放裝置112、檔案伺服器114等)接收經編碼的視訊位元串流。經編碼的視訊位元串流電腦可讀取媒體110可以包括由視訊轉碼器200定義的諸如以下語法元素之類的訊號傳遞資訊(其亦被視訊解碼器300使用),該語法元素具有描述視訊塊或其他編碼單元(例如,切片、圖片、圖片組、序列等)的特性及/或處理的值。顯示裝置118將經解碼的視訊資料的經解碼的圖片顯示給使用者。顯示裝置118可以表示各種顯示裝置中的任何一種,諸如陰極射線管(CRT)、液晶顯示器(LCD)、等離子顯示器、有機發光二極體(OLED)顯示器、或另一種類型的顯示裝置。
儘管在圖1中未圖示,但是在一些實例中,視訊轉碼器200和視訊解碼器300可以各自與音訊編碼器及/或音訊解碼器整合,並且可以包括適當的MUX-DEMUX單元或其他硬體及/或軟體,以處理包括公共資料串流中的音訊和視訊兩者的經多工的流。若適用,MUX-DEMUX單元可以遵循ITU H.223多工器協定或其他協定(諸如使用者資料包通訊協定(UDP))。
視訊轉碼器200和視訊解碼器300各自可以被實現為各種適當的編碼器及/或解碼器電路中的任何一種,諸如一或多個微處理器、數位訊號處理器(DSP)、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)、個別邏輯、軟體、硬體、韌體、或其任何組合。當所述技術部分地用軟體實現時,設備可以將用於軟體的指令儲存在適當的非暫時性電腦可讀取媒體中,並且使用一或多個處理器,用硬體來執行指令以執行本案內容的技術。視訊轉碼器200和視訊解碼器300中的每一者可以被包括在一或多個編碼器或解碼器中,編碼器或解碼器中的任一者可以被整合為相應設備中的組合編碼器/解碼器(CODEC)的一部分。包括視訊轉碼器200及/或視訊解碼器300的設備可以包括積體電路、微處理器、及/或無線通訊設備(諸如蜂巢式電話)。
視訊轉碼器200和視訊解碼器300可以根據視訊編碼標準(諸如ITU-T H.265(亦被稱為高效率視訊編碼(HEVC)標準)或對其的擴展(諸如多視圖或可伸縮視訊編碼擴展))進行操作。替代地,視訊轉碼器200和視訊解碼器300可以根據其他專有或行業標準(諸如聯合探索測試模型(JEM)或ITU-T H.266標準,亦被稱為多功能視訊編碼(VVC))進行操作。VVC標準的最近草案是在以下各項中描述的:Bross等人,「Versatile Video Coding (Draft 6)」,ITU-T SG 16 WP 3和ISO/IEC JTC 1/SC 29/WG 11的聯合視訊專家組(JVET),第15次會議,瑞典哥德堡,2019年7月3-12日,JVET-O2001-v14(下文中稱為「VVC草案6」)。然而,本案內容的技術不限於任何特定的編碼標準。
通常,視訊轉碼器200和視訊解碼器300可以執行對圖片的基於塊的編碼。術語「塊」通常代表包括要被處理的(例如,在編碼及/或解碼程序中要被編碼、被解碼或以其他方式使用的)資料的結構。例如,塊可以包括亮度及/或色度資料的取樣的二維矩陣。通常,視訊轉碼器200和視訊解碼器300可以對以YUV(例如,Y、Cb、Cr)格式表示的視訊資料進行編碼。亦即,並不是對用於圖片的取樣的紅色、綠色和藍色(RGB)資料進行編碼,視訊轉碼器200和視訊解碼器300可以對亮度和色度分量進行編碼,其中色度分量可以包括紅色和藍色色相色度分量兩者。在一些實例中,視訊轉碼器200在進行編碼之前將所接收的經RGB格式化的資料轉換為YUV表示,並且視訊解碼器300將YUV表示轉換為RGB格式。替代地,預處理和後處理單元(未圖示)可以執行這些轉換。
概括而言,本案內容可以涉及對圖片的編碼(例如,編碼和解碼)以包括對圖片的資料進行編碼或解碼的程序。類似地,本案內容可以涉及對圖片的塊的編碼以包括對用於塊的資料進行編碼或解碼(例如,預測及/或殘差編碼)的程序。經編碼的視訊位元串流通常包括用於表示編碼決策(例如,編碼模式)以及將圖片分割為塊的語法元素的一系列值。因此,關於對圖片或塊的編碼的引用通常應當被理解為用於形成圖片或塊的語法元素的編碼值。
HEVC定義了各種塊,包括編碼單元(CU)、預測單元(PU)和變換單元(TU)。根據HEVC,視訊編碼裝置(諸如視訊轉碼器200)根據四叉樹結構來將編碼樹單元(CTU)分割為CU。亦即,視訊編碼裝置將CTU和CU分割為四個相等的、不重疊的正方形,並且四叉樹的每個節點具有零個或四個子節點。沒有子節點的節點可以被稱為「葉節點」,並且這種葉節點的CU可以包括一或多個PU及/或一或多個TU。視訊編碼裝置可以進一步分割PU和TU。例如,在HEVC中,殘差四叉樹(RQT)表示對TU的分割。在HEVC中,PU表示訊框間預測資料,而TU表示殘差資料。經訊框內預測的CU包括訊框內預測資訊,諸如訊框內模式指示。
作為另一實例,視訊轉碼器200和視訊解碼器300可以被配置為根據JEM或VVC進行操作。根據JEM或VVC,視訊編碼裝置(諸如視訊轉碼器200)將圖片分割為複數個編碼樹單元(CTU)。視訊轉碼器200可以根據樹結構(諸如四叉樹-二叉樹(QTBT)結構或多類型樹(MTT)結構)分割CTU。QTBT結構去除了多種分割類型的概念,諸如在HEVC的CU、PU和TU之間的區分。QTBT結構包括兩個級別:根據四叉樹分割而被分割的第一級、以及根據二叉樹分割而被分割的第二級。QTBT結構的根節點對應於CTU。二叉樹的葉節點對應於編碼單元(CU)。
在MTT分割結構中,可以使用四叉樹(QT)分割、二叉樹(BT)分割以及一或多個類型的三叉樹(TT)分割來對塊進行分割。三叉樹分割是其中塊被分為三個子塊的分割。在一些實例中,三叉樹分割將塊劃分為三個子塊,而不經由中心劃分原始塊。MTT中的分割類型(例如,QT、BT和TT)可以是對稱的或不對稱的。
在一些實例中,視訊轉碼器200和視訊解碼器300可以使用單個QTBT或MTT結構來表示亮度和色度分量中的每一者,而在其他實例中,視訊轉碼器200和視訊解碼器300可以使用兩個或更多個QTBT或MTT結構,諸如用於亮度分量的一個QTBT/MTT結構和以及用於兩個色度分量的另一個QTBT/MTT結構(或者用於相應色度分量的兩個QTBT/MTT結構)。
視訊轉碼器200和視訊解碼器300可以被配置為使用根據HEVC的四叉樹分割、QTBT分割、MTT分割、或其他分割結構。為了解釋的目的,關於QTBT分割提供了本案內容的技術的描述。然而,應當理解的是,本案內容的技術亦可以應用於被配置為使用四叉樹分割或者亦使用其他類型的分割的視訊編碼裝置。
本案內容可以互換地使用「NxN」和「N乘N」來代表塊(諸如CU或其他視訊塊)在垂直和水平維度態樣的取樣大小,例如,16x16個取樣或16乘16個取樣。通常,16x16 CU在垂直方向上將具有16個取樣(y = 16),並且在水平方向上將具有16個取樣(x = 16)。同樣地,NxN CU通常在垂直方向上具有N個取樣,並且在水平方向上具有N個取樣,其中N表示非負整數值。CU中的取樣可以按行和列來排列。此外,CU不一定需要在水平方向上具有與在垂直方向上相同的數量的取樣。例如,CU可以包括NxM個取樣,其中M不一定等於N。
視訊轉碼器200對用於CU的表示預測及/或殘差資訊以及其他資訊的視訊資料進行編碼。預測資訊指示將如何預測CU以便形成用於CU的預測塊。殘差資訊通常表示在編碼之前的CU的取樣與預測塊之間的逐取樣差。
為了預測CU,視訊轉碼器200通常可以經由訊框間預測或訊框內預測來形成用於CU的預測塊。訊框間預測通常代表根據先前編碼的圖片的資料來預測CU,而訊框內預測通常代表根據同一圖片的先前編碼的資料來預測CU。為了執行訊框間預測,視訊轉碼器200可以使用一或多個運動向量來產生預測塊。視訊轉碼器200通常可以執行運動搜尋,以辨識例如在CU與參考塊之間的差異態樣與CU緊密匹配的參考塊。視訊轉碼器200可以使用絕對差之和(SAD)、平方差之和(SSD)、平均絕對差(MAD)、均方差(MSD)、或其他這種差計算來計算差度量,以決定參考塊是否與當前CU緊密匹配。在一些實例中,視訊轉碼器200可以使用單向預測或雙向預測來預測當前CU。
JEM和VVC的一些實例亦提供仿射運動補償模式,其可以被認為是訊框間預測模式。在仿射運動補償模式下,視訊轉碼器200可以決定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則的運動類型)的兩個或更多個運動向量。
為了執行訊框內預測,視訊轉碼器200可以選擇訊框內預測模式來產生預測塊。JEM和VVC的一些實例提供了六十七種訊框內預測模式,包括各種方向性模式、以及平面模式和DC模式。通常,視訊轉碼器200選擇訊框內預測模式,訊框內預測模式描述要根據其來預測當前塊(例如,CU的塊)的取樣的、當前塊的相鄰取樣。假定視訊轉碼器200以光柵掃瞄次序(從左到右、從上到下)對CTU和CU進行編碼,則此類取樣通常可以是在與當前塊相同的圖片中在當前塊的上方、左上方或左側的。
視訊轉碼器200對表示用於當前塊的預測模式的資料進行編碼。例如,對於訊框間預測模式,視訊轉碼器200可以對表示使用各種可用訊框間預測模式中的哪一種的資料以及用於對應模式的運動資訊進行編碼。對於單向或雙向訊框間預測,例如,視訊轉碼器200可以使用高級運動向量預測(AMVP)或合併模式來對運動向量進行編碼。視訊轉碼器200可以使用類似的模式來對用於仿射運動補償模式的運動向量進行編碼。
在諸如對塊的訊框內預測或訊框間預測之類的預測之後,視訊轉碼器200可以計算用於該塊的殘差資料。殘差資料(諸如殘差塊)表示在塊與用於該塊的預測塊之間的逐取樣差,該預測塊是使用對應的預測模式來形成的。視訊轉碼器200可以將一或多個變換應用於殘差塊,以在變換域中而非在取樣域中產生經變換的資料。例如,視訊轉碼器200可以將離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換應用於殘差視訊資料。另外,視訊轉碼器200可以在第一變換之後應用二次變換,諸如依賴於模式相關的不可分離二次變換(MDNSST)、訊號相關變換、Karhunen-Loeve變換(KLT)等。視訊轉碼器200在應用一或多個變換之後產生變換係數。
如前述,在任何變換以產生變換係數之後,視訊轉碼器200可以執行對變換係數的量化。量化通常代表如下的程序:在該程序中,對變換係數進行量化以可能減少用於表示係數的資料量,從而提供進一步的壓縮。經由執行量化程序,視訊轉碼器200可以減小與一些或所有係數相關聯的位元深度。例如,視訊轉碼器200可以在量化期間將n位元的值向下捨入為m位元的值,其中n大於m。在一些實例中,為了執行量化,視訊轉碼器200可以執行對要被量化的值的按位右移。
在量化之後,視訊轉碼器200可以掃瞄變換係數,從而從包括經量化的變換係數的二維矩陣產生一維向量。可以將掃瞄設計為將較高能量(並且因此較低頻率)的係數放在向量的前面,並且將較低能量(並且因此較高頻率)的變換係數放在向量的後面。在一些實例中,視訊轉碼器200可以利用預定義的掃瞄次序來掃瞄經量化的變換係數以產生經序列化的向量,並且隨後對向量的經量化的變換係數進行熵編碼。在其他實例中,視訊轉碼器200可以執行自我調整掃瞄。在掃瞄經量化的變換係數以形成一維向量之後,視訊轉碼器200可以例如根據上下文自我調整二進位算術編碼(CABAC)來對一維向量進行熵編碼。視訊轉碼器200亦可以對用於描述與經編碼的視訊資料相關聯的中繼資料的語法元素的值進行熵編碼,以供視訊解碼器300在對視訊資料進行解碼時使用。
為了執行CABAC,視訊轉碼器200可以將上下文模型內的上下文分配給要被發送的符號。上下文可以涉及例如符號的相鄰值是否為零值。概率決定可以是基於被分配給符號的上下文的。
視訊轉碼器200亦可以例如在圖片標頭、塊標頭、切片標頭中產生針對視訊解碼器300的語法資料(諸如基於塊的語法資料、基於圖片的語法資料和基於序列的語法資料)、或其他語法資料(諸如序列參數集(SPS)、圖片參數集(PPS)或視訊參數集(VPS))。同樣地,視訊解碼器300可以對此類語法資料進行解碼以決定如何解碼對應的視訊資料。
以這種方式,視訊轉碼器200可以產生位元串流,其包括經編碼的視訊資料,例如,描述將圖片分割為塊(例如,CU)以及用於該塊的預測及/或殘差資訊的語法元素。最終,視訊解碼器300可以接收位元串流並且對經編碼的視訊資料進行解碼。
通常,視訊解碼器300執行與由視訊轉碼器200執行的程序相反的程序,以對位元串流的經編碼的視訊資料進行解碼。例如,視訊解碼器300可以使用CABAC,以與視訊轉碼器200的CABAC編碼程序基本上類似的、但是相反的方式來對用於位元串流的語法元素的值進行解碼。語法元素可以定義由於將圖片分割為CTU的分割資訊、以及根據對應的分割結構(諸如QTBT結構)對每個CTU的分割,以定義CTU的CU。語法元素亦可以定義用於視訊資料的塊(例如,CU)的預測和殘差資訊。
殘差資訊可以由例如經量化的變換係數來表示。視訊解碼器300可以對塊的經量化的變換係數進行逆量化和逆變換以重現用於該塊的殘差塊。視訊解碼器300使用經訊號通知的預測模式(訊框內預測或訊框間預測)和相關的預測資訊(例如,用於訊框間預測的運動資訊)來形成用於該塊的預測塊。視訊解碼器300隨後可以對預測塊和殘差塊(在逐個取樣的基礎上)進行組合以重現原始塊。視訊解碼器300可以執行額外處理,諸如執行去塊化處理以減少沿著塊的邊界的視覺偽影。
本案內容通常可能涉及「用訊號通知」某些資訊(諸如語法元素)。術語「用訊號通知」通常可以代表對用於語法元素的值及/或用於對經編碼的視訊資料進行解碼的其他資料的傳送。亦即,視訊轉碼器200可以在位元串流中用訊號通知用於語法元素的值。通常,用訊號通知代表在位元串流中產生值。如前述,源設備102可以基本上即時地或不是即時地(諸如可能在將語法元素儲存到存放裝置112以供目的地設備116稍後取回時發生)將位元串流傳輸到目的地設備116。
圖2A和圖2B是示出實例四叉樹二叉樹(QTBT)結構130以及對應的編碼樹單元(CTU)132的概念圖。實線表示四叉樹拆分,而虛線表示二叉樹拆分。在二叉樹的每個拆分(即非葉)節點中,用訊號通知一個標記以指示使用哪種拆分類型(亦即,水平或垂直),在該實例中,0指示水平拆分,而1指示垂直拆分。對於四叉樹拆分,由於四叉樹節點將塊水平地並且垂直地拆分為具有相等大小的4個子塊,因此無需指示拆分類型。因此,視訊轉碼器200可以對以下各項進行編碼,以及視訊解碼器300可以對以下各項進行解碼:用於QTBT結構130的區域樹級別(即實線)的語法元素(諸如拆分資訊)、以及用於QTBT結構130的預測樹級別(即虛線)的語法元素(諸如拆分資訊)。視訊轉碼器200可以對用於由QTBT結構130的終端葉節點表示的CU的視訊資料(諸如預測和變換資料)進行編碼,以及視訊解碼器300可以對上述視訊資料進行解碼。
通常,圖2B的CTU 132可以與定義與QTBT結構130的處於第一和第二級別的節點相對應的塊的大小的參數相關聯。這些參數可以包括CTU大小(以取樣表示CTU 132的大小)、最小四叉樹大小(MinQTSize,其表示最小允許四叉樹葉節點大小)、最大二叉樹大小(MaxBTSize,其表示最大允許二叉樹根節點大小)、最大二叉樹深度(MaxBTDepth,其表示最大允許二叉樹深度)、以及最小二叉樹大小(MinBTSize,其表示最小允許二叉樹葉節點大小)。
QTBT結構的與CTU相對應的根節點可以在QTBT結構的第一級別處具有四個子節點,每個子節點可以是根據四叉樹分割來分割的。亦即,第一級別的節點是葉節點(沒有子節點)或者具有四個子節點。QTBT結構130的實例將此類節點表示為包括具有實線分支的父節點和子節點。若第一級別的節點不大於最大允許二叉樹根節點大小(MaxBTSize),則可以經由相應的二叉樹對它們進行進一步分割。可以對一個節點的二叉樹拆分進行反覆運算,直到從拆分產生的節點達到最小允許二叉樹葉節點大小(MinBTSize)或最大允許二叉樹深度(MaxBTDepth)。QTBT結構130的實例將此類節點表示為具有虛線分支。二叉樹葉節點被稱為編碼單元(CU),其用於預測(例如,圖片內或圖片間預測)和變換,而不進行任何進一步分割。如上所論述的,CU亦可以被稱為「視訊塊」或「塊」。
在QTBT分割結構的一個實例中,CTU大小被設置為128x128(亮度取樣和兩個對應的64x64色度取樣),MinQTSize被設置為16x16,MaxBTSize被設置為64x64,MinBTSize(對於寬度和高度兩者)被設置為4,並且MaxBTDepth被設置為4。首先對CTU應用四叉樹分割以產生四叉樹葉節點。四叉樹葉節點可以具有從16x16(即MinQTSize)到128x128(即CTU大小)的大小。若四叉樹葉節點為128x128,則由於該大小超過MaxBTSize(亦即,在該實例中為64x64),因此其將不經由二叉樹進一步拆分。否則,四叉樹葉節點將經由二叉樹進一步分割。因此,四叉樹葉節點亦是用於二叉樹的根節點,並且具有為0的二叉樹深度。當二叉樹深度達到MaxBTDepth(在該實例中為4)時,不允許進一步拆分。當二叉樹節點具有等於MinBTSize(在該實例中為4)的寬度時,其意味著不允許進一步的水平拆分。類似地,具有等於MinBTSize的高度的二叉樹節點意味著針對該二叉樹節點不允許進一步的垂直拆分。如前述,二叉樹的葉節點被稱為CU,並且根據預測和變換而被進一步處理,而無需進一步分割。
圖3是示出可以執行本案內容的技術的實例視訊轉碼器200的方塊圖。圖3是出於解釋的目的而提供的,並且不應當被認為對在本案內容中泛泛地舉例說明和描述的技術進行限制。出於解釋的目的,本案內容在諸如HEVC視訊編碼標準和開發中的H.266視訊編碼標準之類的視訊編碼標準的背景下描述了視訊轉碼器200。然而,本案內容的技術不限於這些視訊編碼標準,並且通常適用於視訊編碼和解碼。
在圖3的實例中,視訊轉碼器200包括視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、解碼圖片緩衝器(DPB)218和熵編碼單元220。視訊資料記憶體230、模式選擇單元202、殘差產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重構單元214、濾波器單元216、DPB 218和熵編碼單元220中的任何一者或全部可以在一或多個處理器中或者在處理電路中實現。此外,視訊轉碼器200可以包括額外或替代的處理器或處理電路以執行這些和其他功能。
視訊資料記憶體230可以儲存要由視訊轉碼器200的部件來編碼的視訊資料。視訊轉碼器200可以從例如視訊源104(圖1)接收被儲存在視訊資料記憶體230中的視訊資料。DPB 218可以充當參考圖片記憶體,其儲存參考視訊資料以在由視訊轉碼器200對後續視訊資料進行預測時使用。視訊資料記憶體230和DPB 218可以由各種記憶體設備中的任何一種形成,諸如動態隨機存取記憶體(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、電阻性RAM(RRAM)、或其他類型的記憶體設備。視訊資料記憶體230和DPB 218可以由相同的記憶體設備或單獨的記憶體設備來提供。在各個實例中,視訊資料記憶體230可以與視訊轉碼器200的其他部件在晶片上(如圖所示),或者相對於那些部件在晶片外。
在本案內容中,對視訊資料記憶體230的引用不應當被解釋為限於在視訊轉碼器200內部的記憶體(除非如此具體地描述),或者不限於在視訊轉碼器200外部的記憶體(除非如此具體地描述)。確切而言,對視訊資料記憶體230的引用應當被理解為儲存視訊轉碼器200接收以用於編碼的視訊資料(例如,用於要被編碼的當前塊的視訊資料)的參考記憶體。圖1的記憶體106亦可以提供對來自視訊轉碼器200的各個單元的輸出的臨時儲存。
圖示圖3的各個單元以説明理解由視訊轉碼器200執行的操作。這些單元可以被實現為固定功能電路、可程式設計電路、或其組合。固定功能電路代表提供特定功能並且預先設置在可以執行的操作上的電路。可程式設計電路代表可以被程式設計以執行各種任務並且在可以執行的操作中提供靈活功能的電路。例如,可程式設計電路可以執行軟體或韌體,軟體或韌體使得可程式設計電路以軟體或韌體的指令所定義的方式進行操作。固定功能電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能電路執行的操作類型通常是不可變的。在一些實例中,這些單元中的一或多個單元可以是不同的電路塊(固定功能或可程式設計),並且在一些實例中,一或多個單元可以是積體電路。
視訊轉碼器200可以包括由可程式設計電路形成的算數邏輯單位(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式設計核心。在其中使用由可程式設計電路執行的軟體來執行視訊轉碼器200的操作的實例中,記憶體106(圖1)可以儲存視訊轉碼器200接收並且執行的軟體的目標代碼,或者在視訊轉碼器200內的另一記憶體(未圖示)可以儲存此類指令。
視訊資料記憶體230被配置為儲存所接收的視訊資料。視訊轉碼器200可以從視訊資料記憶體230取回視訊資料的圖片,並且將視訊資料提供給殘差產生單元204和模式選擇單元202。在視訊資料記憶體230中的視訊資料可以是要被編碼的原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224和訊框內預測單元226。模式選擇單元202可以包括額外功能單元,其根據其他預測模式來執行視訊預測。作為實例,模式選擇單元202可以包括調色板單元、塊內複製單元(其可以是運動估計單元222及/或運動補償單元224的一部分),仿射單元、線性模型(LM)單元等。
模式選擇單元202通常協調多個編碼通路(pass),以測試編碼參數的組合以及針對此類組合所得到的率失真值。編碼參數可以包括將CTU分割為CU、用於CU的預測模式、用於CU的殘差資料的變換類型、用於CU的殘差資料的量化參數等。模式選擇單元202可以最終選擇編碼參數的具有比其他測試的組合更佳的率失真值的組合。
視訊轉碼器200可以將從視訊資料記憶體230取回的圖片分割為一系列CTU,並且將一或多個CTU封裝在切片內。模式選擇單元202可以根據樹結構(諸如,上述HEVC的QTBT結構或四叉樹結構)來分割圖片的CTU。如前述,視訊轉碼器200可以經由根據樹結構來分割CTU,從而形成一或多個CU。此類CU通常亦可以被稱為「視訊塊」或「塊」。
通常,模式選擇單元202亦控制其部件(例如,運動估計單元222、運動補償單元224和訊框內預測單元226)以產生用於當前塊(例如,當前CU,或者在HEVC中為PU和TU的重疊部分)的預測塊。為了對當前塊進行訊框間預測,運動估計單元222可以執行運動搜尋以辨識在一或多個參考圖片(例如,被儲存在DPB 218中的一或多個先前編碼的圖片)中的一或多個緊密匹配的參考塊。具體地,運動估計單元222可以例如根據絕對差之和(SAD)、平方差之和(SSD)、平均絕對差(MAD)、均方差(MSD)等,來計算表示潛在參考塊將與當前塊的多麼類似的值。運動估計單元222通常可以使用在當前塊與所考慮的參考塊之間的逐取樣差來執行這些計算。運動估計單元222可以從這些計算中辨識具有最低值的參考塊,其指示與當前塊最緊密匹配的參考塊。
運動估計單元222可以形成一或多個運動向量(MV),該運動向量限定相對於在當前圖片中的當前塊的位置而言參考塊在參考圖片中的位置。隨後,運動估計單元222可以將運動向量提供給運動補償單元224。例如,對於單向訊框間預測,運動估計單元222可以提供單個運動向量,而對於雙向訊框間預測,運動估計單元222可以提供兩個運動向量。隨後,運動補償單元224可以使用運動向量來產生預測塊。例如,運動補償單元224可以使用運動向量來取回參考塊的資料。作為另一實例,若運動向量具有分數取樣精度,則運動補償單元224可以根據一或多個內插濾波器來對用於預測塊的值進行內插。此外,對於雙向訊框間預測,運動補償單元224可以例如經由逐取樣平均或加權平均來取回用於由相應的運動向量標識的兩個參考塊的資料,並且將所取回的資料進行組合。
作為另一實例,對於訊框內預測或訊框內預測編碼,訊框內預測單元226可以根據與當前塊相鄰的取樣來產生預測塊。例如,對於方向性模式,訊框內預測單元226通常可以在數學上將相鄰取樣的值進行組合,並且跨越當前塊沿著所定義的方向來填充這些計算出的值以產生預測塊。作為另一實例,對於DC模式,訊框內預測單元226可以計算當前塊的相鄰取樣的平均值,並且產生預測塊以包括針對預測塊的每個取樣的該得到的平均值。
模式選擇單元202將預測塊提供給殘差產生單元204。殘差產生單元204從視訊資料記憶體230接收當前塊的原始的未經編碼的版本,並且從模式選擇單元202接收預測塊。殘差產生單元204計算在當前塊與預測塊之間的逐取樣差。所得到的逐取樣差定義了用於當前塊的殘差塊。在一些實例中,殘差產生單元204亦可以決定在殘差塊中的取樣值之間的差,以使用殘餘差分脈衝碼調制(RDPCM)來產生殘差塊。在一些實例中,可以使用執行二進位減法的一或多個減法器電路來形成殘差產生單元204。
在其中模式選擇單元202將CU分割為PU的實例中,每個PU可以與亮度預測單元和對應的色度預測單元相關聯。視訊轉碼器200和視訊解碼器300可以支援具有各種大小的PU。如上所指出的,CU的大小可以代表CU的亮度編碼塊的大小,以及PU的大小可以代表PU的亮度預測單元的大小。假定特定CU的大小為2Nx2N,則視訊轉碼器200可以支援用於訊框內預測的2Nx2N或NxN的PU大小、以及用於訊框間預測的2Nx2N、2NxN、Nx2N、NxN或類似的對稱的PU大小。視訊轉碼器200和視訊解碼器300亦可以支援針對用於訊框間預測的2NxnU、2NxnD、nLx2N和nRx2N的PU大小的非對稱分割。
在其中模式選擇單元不將CU進一步分割為PU的實例中,每個CU可以與亮度編碼塊和對應的色度編碼塊相關聯。如前述,CU的大小可以代表CU的亮度編碼塊的大小。視訊轉碼器200和視訊解碼器300可以支援2N×2N、2N×N或N×2N的CU大小。
對於其他視訊編碼技術(諸如塊內複製模式編碼、仿射模式編碼和線性模型(LM)模式編碼),作為少數實例,模式選擇單元202經由與編碼技術相關聯的相應單元來產生用於正被編碼的當前塊的預測塊。在一些實例中(諸如調色板模式編碼),模式選擇單元202可以不產生預測塊,並且替代產生指示基於所選擇的調色板來重構塊的方式的語法元素。在此類模式下,模式選擇單元202可以將這些語法元素提供給熵編碼單元220以進行編碼。
如前述,殘差產生單元204接收用於當前塊和對應的預測塊的視訊資料。隨後,殘差產生單元204產生針對當前塊的殘差塊。為了產生殘差塊,殘差產生單元204計算在預測塊與當前塊之間的逐取樣差。
變換處理單元206將一或多個變換應用於殘差塊,以產生變換係數的塊(本文中被稱為「變換係數塊」)。變換處理單元206可以將各種變換應用於殘差塊,以形成變換係數塊。例如,變換處理單元206可以將離散餘弦變換(DCT)、方向變換、Karhunen-Loeve變換(KLT)、或概念上類似的變換應用於殘差塊。在一些實例中,變換處理單元206可以對殘差塊執行多種變換,例如,初級變換和二次變換(諸如旋轉變換)。在一些實例中,變換處理單元206不對殘差塊應用變換。
量化單元208可以對變換係數塊中的變換係數進行量化,以產生經量化的變換係數塊。量化單元208可以根據與當前塊相關聯的量化參數(QP)值來對變換係數塊的變換係數進行量化。視訊轉碼器200(例如,經由模式選擇單元202)可以經由調整與CU相關聯的QP值來調整被應用於與當前塊相關聯的係數塊的量化程度。量化可能導致資訊丟失,並且因此,經量化的變換係數可以具有與變換處理單元206所產生的原始變換係數相比較低的精度。
逆量化單元210和逆變換處理單元212可以將逆量化和逆變換分別應用於經量化的變換係數塊,以從變換係數塊來重構殘差塊。重構單元214可以基於經重構的殘差塊和模式選擇單元202所產生的預測塊來產生與當前塊相對應的重構塊(儘管潛在地具有某種程度的失真)。例如,重構單元214可以將經重構的殘差塊的取樣與來自模式選擇單元202所產生的預測塊的對應取樣相加,以產生經重構的塊。
濾波器單元216可以對經重構的塊執行一或多個濾波操作。例如,濾波器單元216可以執行去塊化操作以減少沿著CU的邊緣的塊狀偽影。在一些實例中,可以跳過濾波器單元216的操作。
視訊轉碼器200將經重構的塊儲存在DPB 218中。例如,在其中不需要濾波器單元216的操作的實例中,重構單元214可以將經重構的塊儲存到DPB 218中。在其中需要濾波器單元216的操作的實例中,濾波器單元216可以將經濾波的重構塊儲存到DPB 218中。運動估計單元222和運動補償單元224可以從DPB 218取回由經重構的(並且潛在地經濾波的)塊形成的參考圖片,以對後續編碼的圖片的塊進行訊框間預測。另外,訊框內預測單元226可以使用在DPB 218中的當前圖片的經重構的塊來對當前圖片中的其他塊進行訊框內預測。
通常,熵編碼單元220可以對從視訊轉碼器200的其他功能部件接收的語法元素進行熵編碼。例如,熵編碼單元220可以對來自量化單元208的經量化的變換係數塊進行熵編碼。作為另一實例,熵編碼單元220可以對來自模式選擇單元202的預測語法元素(例如,用於訊框間預測的運動資訊或用於訊框內預測的訊框內模式資訊)進行熵編碼。熵編碼單元220可以對作為視訊資料的另一實例的語法元素執行一或多個熵編碼操作,以產生經熵編碼的資料。例如,熵編碼單元220可以執行上下文自我調整變長編碼(CAVLC)操作、CABAC操作、可變-可變(V2V)長度編碼操作、基於語法的上下文自我調整二進位算術編碼(SBAC)操作、概率區間分割熵(PIPE)編碼操作、指數哥倫布編碼操作、或對資料的另一種熵編碼操作。在一些實例中,熵編碼單元220可以在其中語法元素未被熵編碼的旁路模式下操作。
視訊轉碼器200可以輸出位元串流,其包括用於切片或圖片的重構塊所需要的經熵編碼的語法元素。具體地,熵編碼單元220可以輸出位元串流。
關於塊描述了上述操作。此類描述應當被理解為用於亮度編碼塊及/或色度編碼塊的操作。如前述,在一些實例中,亮度編碼塊和色度編碼塊是CU的亮度分量和色度分量。在一些實例中,亮度編碼塊和色度編碼塊是PU的亮度分量和色度分量。
在一些實例中,不需要針對色度編碼塊重複關於亮度編碼塊執行的操作。作為一個實例,不需要重多工於辨識用於亮度編碼塊的運動向量(MV)和參考圖片的操作來用於辨識用於色度塊的MV和參考圖片。確切而言,可以對用於亮度編碼塊的MV進行縮放以決定用於色度塊的MV,並且參考圖片可以是相同的。作為另一實例,對於亮度編碼塊和色度編碼塊,訊框內預測程序可以是相同的。
如圖3所示,模式選擇單元202可以包括調色板預測單元227,其可以被配置為使用調色板模式編碼來執行視訊壓縮。為了使用調色板模式編碼來對視訊資料的當前塊進行編碼,調色板預測單元227可以產生用於當前塊的調色板。調色板可以包括具有與當前塊中最常用的顏色(例如,使用長條圖決定)相對應的顏色值的條目。調色板預測單元227可以對調色板的表示和用於映射到調色板中的條目的當前塊的取樣的索引值進行編碼。
根據本案內容的一或多個技術,調色板預測單元227可以動態地調整要用於調色板模式編碼的最大條目數量。例如,基於視訊資料的第一塊的參數,調色板預測單元227可以決定要用於當前塊的調色板模式編碼的條目的數量。作為一個特定實例,調色板預測單元227可以基於具有第一值的參數來將最大條目數量限制為第一值(例如,16),或者基於具有第二值的參數來將最大條目數量限制為與第一值不同的第二值(例如,32)。因此,在一些實例中,第二值大於第一值。換句話說,調色板預測單元227可以將最大條目數量限制為16或32。以這種方式,調色板預測單元227可以減少用於調色板模式編碼的系統資源量。
視訊轉碼器200表示被配置為對視訊資料進行編碼的設備的實例,該設備包括:被配置為儲存視訊資料的記憶體;及一或多個處理單元,其在電路中實現並且被配置為:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於視訊資料的第一塊的調色板,調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;從經編碼的視訊位元串流中並且針對視訊資料的第一塊來解碼用於第一塊的取樣的索引值,索引值標識調色板中的條目;及基於索引值來重構第一塊的取樣。
圖4是示出可以執行本案內容的技術的實例視訊解碼器300的方塊圖。圖4是出於解釋的目的而提供的,並且不對在本案內容中泛泛地舉例說明和描述的技術進行限制。出於解釋的目的,本案內容根據JEM、VVC和HEVC的技術描述了視訊解碼器300。然而,本案內容的技術可以由被配置用於其他視訊編碼標準的視訊編碼設備來執行。
在圖4的實例中,視訊解碼器300包括編碼圖片緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和解碼圖片緩衝器(DPB)314。CPB記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310、濾波器單元312和DPB 134中的任何一者或全部可以在一或多個處理器中或者在處理電路中實現。此外,視訊解碼器300可以包括額外或替代的處理器或處理電路以執行這些和其他功能。
預測處理單元304包括運動補償單元316和訊框內預測單元318。預測處理單元304可以包括根據其他預測模式來執行預測的額外單元。作為實例,預測處理單元304可以包括調色板單元、塊內複製單元(其可以形成運動補償單元316的一部分)、仿射單元、線性模型(LM)單元等。在其他實例中,視訊解碼器300可以包括更多、更少或不同的功能部件。
CPB記憶體320可以儲存要由視訊解碼器300的部件解碼的視訊資料,諸如經編碼的視訊位元串流。例如,可以從電腦可讀取媒體110(圖1)獲得被儲存在CPB記憶體320中的視訊資料。CPB記憶體320可以包括儲存來自經編碼的視訊位元串流的經編碼的視訊資料(例如,語法元素)的CPB。此外,CPB記憶體320可以儲存除了經編碼的圖片的語法元素之外的視訊資料,諸如表示來自視訊解碼器300的各個單元的輸出的臨時資料。DPB 314通常儲存經解碼的圖片,視訊解碼器300可以輸出經解碼的圖片,及/或在解碼經編碼的視訊位元串流的後續資料或圖片時使用經解碼的圖片作為參考視訊資料。CPB記憶體320和DPB 314可以由各種記憶體設備中的任何一種形成,諸如動態隨機存取記憶體(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、電阻RAM(RRAM)、或其他類型的記憶體設備。CPB記憶體320和DPB 314可以由相同的記憶體設備或單獨的記憶體設備來提供。在各個實例中,CPB記憶體320可以與視訊解碼器300的其他部件在晶片上,或者相對於那些部件在晶片外。
補充或替代地,在一些實例中,視訊解碼器300可以從記憶體120(圖1)取回經編碼的視訊資料。亦即,記憶體120可以如上文所論述地利用CPB記憶體320來儲存資料。同樣,當視訊解碼器300的一些或全部功能是用要被視訊解碼器300的處理電路執行的軟體來實現時,記憶體120可以儲存要被視訊解碼器300執行的指令。
圖示圖4中示出的各個單元以説明理解由視訊解碼器300執行的操作。這些單元可以被實現為固定功能電路、可程式設計電路、或其組合。類似於圖3,固定功能電路代表提供特定功能並且預先設置在可以執行的操作上的電路。可程式設計電路代表可以被程式設計以執行各種任務並且在可以執行的操作中提供靈活功能的電路。例如,可程式設計電路可以執行軟體或韌體,軟體或韌體使得可程式設計電路以軟體或韌體的指令所定義的方式進行操作。固定功能電路可以執行軟體指令(例如,以接收參數或輸出參數),但是固定功能電路執行的操作類型通常是不可變的。在一些實例中,這些單元中的一或多個單元可以是不同的電路塊(固定功能或可程式設計),並且在一些實例中,一或多個單元可以是積體電路。
視訊解碼器300可以包括由可程式設計電路形成的ALU、EFU、數位電路、類比電路及/或可程式設計核心。在其中由在可程式設計電路上執行的軟體執行視訊解碼器300的操作的實例中,片上或片外記憶體可以儲存視訊解碼器300接收並且執行的軟體的指令(例如,目標代碼)。
熵解碼單元302可以從CPB接收經編碼的視訊資料,並且對視訊資料進行熵解碼以重現語法元素。預測處理單元304、逆量化單元306、逆變換處理單元308、重構單元310和濾波器單元312可以基於從位元串流中提取的語法元素來產生經解碼的視訊資料。
通常,視訊解碼器300在逐塊的基礎上重構圖片。視訊解碼器300可以單獨地對每個區塊執行重構操作(其中當前正在被重構(亦即,被解碼)的塊可以被稱為「當前塊」)。
熵解碼單元302可以對定義經量化的變換係數塊的經量化的變換係數的語法元素以及諸如量化參數(QP)及/或變換模式指示之類的變換資訊進行熵解碼。逆量化單元306可以使用與經量化的變換係數塊相關聯的QP來決定量化程度,並且同樣地,決定逆量化單元306應用的逆量化程度。逆量化單元306可以例如執行按位左移操作以對經量化的變換係數進行逆量化。逆量化單元306從而可以形成包括變換係數的變換係數塊。
在逆量化單元306形成變換係數塊之後,逆變換處理單元308可以將一或多個逆變換應用於變換係數塊,以產生與當前塊相關聯的殘差塊。例如,逆變換處理單元308可以將逆DCT、逆整數變換、逆Karhunen-Loeve變換(KLT)、逆旋轉變換、逆方向變換或另一逆變換應用於係數塊。
此外,預測處理單元304根據由熵解碼單元302進行熵解碼的預測資訊語法元素來產生預測塊。例如,若預測資訊語法元素指示當前塊是經訊框間預測的,則運動補償單元316可以產生預測塊。在這種情況下,預測資訊語法元素可以指示在DPB 314中的要從其取回參考塊的參考圖片、以及標識相對於在當前圖片中的當前塊的位置而言在參考圖片中的參考塊的位置的運動向量。運動補償單元316通常可以以與關於運動補償單元224(圖3)所描述的方式基本類似的方式來執行訊框間預測程序。
作為另一實例,若預測資訊語法元素指示當前塊是經訊框內預測的,則訊框內預測單元318可以根據由預測資訊語法元素指示的訊框內預測模式來產生預測塊。再次,訊框內預測單元318通常可以以與關於訊框內預測單元226(圖3)所描述的方式基本上類似的方式來執行訊框內預測程序。訊框內預測單元318可以從DPB 314取回當前塊的相鄰取樣的資料。
重構單元310可以使用預測塊和殘差塊來重構當前塊。例如,重構單元310可以將殘差塊的取樣與預測塊的對應取樣相加來重構當前塊。
濾波器單元312可以對經重構的塊執行一或多個濾波操作。例如,濾波器單元312可以執行去塊化操作以減少沿著經重構的塊的邊緣的塊狀偽影。不一定在所有實例中皆執行濾波器單元312的操作。
視訊解碼器300可以將經重構的塊儲存在DPB 314中。如上所論述的,DPB 314可以將參考資訊(諸如用於訊框內預測的當前圖片以及用於後續運動補償的先前解碼的圖片的取樣)提供給預測處理單元304。此外,視訊解碼器300可以從DPB輸出經解碼的圖片,以用於在諸如圖1的顯示裝置118之類的顯示裝置上的後續呈現。
如圖4所示,預測處理單元304可以包括調色板預測單元319,其可以被配置為使用調色板模式解碼來執行視訊壓縮。為了使用調色板模式編碼來對視訊資料的當前塊進行解碼,調色板預測單元319可以產生用於當前塊的調色板。調色板可以包括具有與當前塊中最常用的顏色(例如,使用長條圖決定)相對應的顏色值的條目。調色板預測單元319可以用於映射到調色板中的條目的當前塊的取樣的索引值的表示進行解碼。調色板預測單元319可以基於索引值(例如,以及任何單獨用訊號通知的逸出取樣)來重構當前塊的取樣。
根據本案內容的一或多個技術,調色板預測單元319可以動態地調整要用於調色板模式編碼的最大條目數量。例如,基於視訊資料的第一塊的參數,調色板預測單元319可以決定要用於當前塊的調色板模式編碼的條目的數量。作為一個特定實例,調色板預測單元319可以基於具有第一值的參數來將最大條目數量限制為第一值(例如,16),或者基於具有第二值的參數來將最大條目數量限制為與第一值不同的第二值(例如,32)。換句話說,調色板預測單元319可以將最大條目數量限制為16或32。因此,在一些實例中,第二值大於第一值。以這種方式,調色板預測單元319可以減少用於調色板模式編碼的系統資源量。
以這種方式,視訊解碼器300表示視訊解碼設備的實例,該視訊解碼設備包括:被配置為儲存視訊資料的記憶體;及一或多個處理單元,其在電路中實現的並且被配置為:基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量;基於所決定的最大條目數量以及基於調色板預測器來產生用於視訊資料的第一塊的調色板,調色板包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引;從經編碼的視訊位元串流中並且針對視訊資料的第一塊來解碼用於第一塊的取樣的索引值,索引值標識調色板中的條目;及基於索引值來重構第一塊的取樣。
圖5是示出與本案內容的技術一致的決定用於對視訊資料進行編碼的調色板的實例的概念圖。圖5包括圖片1780,其具有與第一調色板1840相關聯的第一編碼單元(CU)1800和與第二調色板1920相關聯的第二CU 1880。如在下文並且根據本案內容的技術更詳細地描述的,第二調色板1920是基於第一調色板1840的。圖片1780亦包括利用訊框內預測編碼模式進行編碼的塊1960和利用訊框間預測編碼模式進行編碼的塊2000。
出於解釋的目的,在視訊轉碼器200(圖1和圖2)和視訊解碼器300(圖1和圖4)的上下文中並且關於HEVC標準描述了圖5的技術。然而,應當理解,本案內容的技術不限於這種方式,並且可以由其他視訊編碼處理器及/或設備在其他視訊編碼程序及/或標準(例如,VVC)中應用。
通常,調色板是指對於當前正在被編碼的CU(例如,圖5的實例中的CU 1880)是主要的及/或代表性的多個圖元值。第一調色板1840和第二調色板1920被示為包括多個調色板。在一些實例中,視訊編碼裝置(諸如視訊轉碼器200或視訊解碼器300)可以單獨地對用於CU的每個顏色分量的調色板進行編碼。例如,視訊轉碼器200可以對用於CU的亮度(Y)分量的調色板、用於CU的色度(U)分量的另一調色板、以及用於CU的色度(V)分量的又一調色板進行編碼。在該實例中,Y調色板的條目可以表示CU的圖元的Y值,U調色板的條目可以表示CU的圖元的U值,並且V調色板的條目可以表示CU的圖元的V值。在另一實例中,視訊轉碼器200可以對用於CU的亮度(Y)分量的調色板、以及用於CU的兩個分量(U, V)的另一調色板進行編碼。在該實例中,Y調色板的條目可以表示CU的圖元的Y值,並且U-V調色板的條目可以表示CU的圖元的U-V值對。
在其他實例中,視訊轉碼器200可以對用於CU的所有顏色分量的單個調色板進行編碼。在該實例中,視訊轉碼器200可以對具有第i條目的調色板進行編碼,該第i條目是三元值,包括Yi、Ui和Vi。在此種情況下,調色板包括針對圖元的分量之每一者分量的值。因此,將調色板1840和1920表示為具有多個單獨調色板的調色板集合僅是一個實例,並且不意欲進行限制。
在圖5的實例中,第一調色板1840包括三個條目2020-2060,分別具有條目索引值1、條目索引值2和條目索引值3。條目2020-2060將索引值分別與包括圖元值A、圖元值B和圖元值C的圖元值相關。如本文描述的,視訊編碼裝置(例如,視訊轉碼器200或視訊解碼器300)可以使用基於調色板的編碼來使用索引1-3對塊的圖元進行編碼,而不是對第一CU 180的實際圖元值進行編碼。亦即,對於第一CU 1800的每個圖元位置,視訊轉碼器200可以對針對圖元的索引值進行編碼,其中索引值是與第一調色板1840中的一或多個第一調色板1840中的圖元值相關聯的。視訊解碼器300可以從位元串流獲得索引值,並且使用索引值和第一調色板1840中的一或多個第一調色板1840來重構圖元值。因此,視訊轉碼器200在經編碼的視訊資料位元串流中發送第一調色板1840,以供視訊解碼器300在基於調色板的解碼中使用。通常,可以針對每個CU發送一或多個調色板,或者可以在不同的CU之間共享一或多個調色板。
視訊轉碼器200和視訊解碼器300可以基於第一調色板1840來決定第二調色板1920。例如,視訊轉碼器200可以對用於每個CU(例如,包括第二CU 1880)的pred_palette_flag進行編碼,以指示用於CU的調色板是否是根據與一或多個其他CU(諸如相鄰CU(在空間上或基於掃瞄順序)或因果鄰點的最頻繁取樣)相關聯的一或多個調色板預測出的。例如,當此類標誌的值等於一時,視訊解碼器300可以決定用於第二CU 1880的第二調色板1920是根據一或多個已經解碼的調色板預測出的,並且因此在包含pred_palette_flag的位元串流中不包括用於第二CU 1880的新的調色板。當此類標誌等於零時,視訊解碼器300可以決定將用於第二CU 1880的調色板1920作為新的調色板包括在位元串流中。在一些實例中,可以針對CU的每個不同顏色分量單獨地對pred_palette_flag進行編碼(例如,對於YUV視訊中的CU,為三個標誌,一個標誌用於Y,一個標誌用於U,以及一個標誌用於V)。在其他實例中,可以針對CU的所有顏色分量對單個pred_palette_flag進行編碼。
在上面的實例中,每CU用訊號通知pred_palette_flag以指示是否預測了用於當前塊的調色板的條目中的任何條目。在一些實例中,可以在每條目的基礎上用訊號通知一或多個語法元素。亦即,可以針對調色板預測器的每個條目用訊號通知標誌,以指示該條目是否存在於當前調色板中。如前述,若沒有預測調色板條目,則可以顯式地用訊號通知調色板條目。
當相對於第一調色板1840決定第二調色板1920(例如,pred_palette_flag等於一)時,視訊轉碼器200及/或視訊解碼器300可以定位從中決定預測調色板(在該實例中,為第一調色板1840)的一或多個塊。預測調色板可以與當前正在被編碼的CU(亦即,第二CU 1880)的一或多個相鄰CU(例如,諸如相鄰CU(在空間上或基於掃瞄順序)或因果鄰點的最頻繁取樣)相關聯。一或多個相鄰CU的調色板可以與預測器調色板相關聯。在一些實例(諸如在圖5中示出的實例)中,當決定用於第二CU 1880的預測調色板時,視訊轉碼器200及/或視訊解碼器300可以定位左相鄰CU,即第一CU 1800。在其他實例中,視訊轉碼器200及/或視訊解碼器300可以在相對於第二CU 1880的其他位置定位一或多個CU,諸如上方CU,即CU 1960。
視訊轉碼器200及/或視訊解碼器300可以基於層級來決定用於調色板預測的CU。例如,視訊轉碼器200及/或視訊解碼器300可以最初辨識用於調色板預測的左相鄰CU,即第一CU 1800。若左相鄰CU不可用於預測(例如,左相鄰CU是以除了基於調色板的編碼模式之外的模式(諸如訊框內預測模式或訊框內預測模式)來編碼的,或者位於圖片或切片的最左邊緣),則視訊轉碼器200及/或視訊解碼器300可以辨識上相鄰CU,即CU 1960。視訊轉碼器200及/或視訊解碼器300可以根據位置的預定順序繼續搜尋可用的CU,直到定位具有可用於調色板預測的調色板的CU為止。在一些實例中,視訊轉碼器200及/或視訊解碼器300可以基於多個塊及/或相鄰塊的經重構的取樣來決定預測調色板。
儘管圖1的實例將第一調色板1840示為來自單個CU(即第一CU 1800)的預測調色板,但是在其他實例中,視訊轉碼器200及/或視訊解碼器300可以從相鄰CU的組合來定位用於預測的調色板。例如,視訊轉碼器200及/或視訊解碼器可以應用一或多個公式、函數,規則等,以基於複數個相鄰CU之一或組合的調色板來產生調色板。
在其他實例中,視訊轉碼器200及/或視訊解碼器300可以構造候選列表,該候選列表包括用於調色板預測的多個潛在候選。可以在視訊轉碼器200和視訊解碼器300兩者處應用修剪程序以去除列表中的重複候選。在此類實例中,視訊轉碼器200可以對候選清單的索引進行編碼,以指示根據其來選擇用於調色板預測的當前CU(例如,複製調色板)的在列表中的候選CU。視訊解碼器300可以以相同方式構造候選清單,對索引進行解碼,並且使用經解碼的索引來選擇與當前CU一起使用的對應CU的調色板。
在出於說明目的的實例中,視訊轉碼器200和視訊解碼器300可以構造候選列表,其包括位於當前正在被編碼的CU的上方的一個CU和位於當前正在被編碼的CU的左側的一個CU。在該實例中,視訊轉碼器200可以對一或多個語法元素進行編碼以指示候選選擇。例如,視訊轉碼器200可以對具有為零的值的標誌進行編碼,以指示用於當前CU的調色板是從位於當前CU的左側的CU複製的。視訊轉碼器200可以對具有為一的值的標誌進行編碼,以指示用於當前CU的調色板是從位於當前CU的上方的CU複製的。視訊解碼器300對標誌進行解碼並且選擇適當的CU用於調色板預測。
在其他實例中,視訊轉碼器200及/或視訊解碼器300基於包括在一或多個其他調色板中的取樣值在一或多個相鄰CU中出現的頻率來決定用於當前正在被編碼的CU的調色板。例如,視訊轉碼器200及/或視訊解碼器300可以在對預定數量的CU進行編碼期間追蹤與最頻繁使用的索引值相關聯的顏色。視訊轉碼器200及/或視訊解碼器300可以在用於當前正在被編碼的CU的調色板中包括最頻繁使用的顏色。
在一些實例中,視訊轉碼器200及/或視訊解碼器300可以執行基於條目的調色板預測。例如,視訊轉碼器200可以針對預測調色板的每個條目對一或多個語法元素(諸如一或多個標誌)進行編碼,該語法元素指示相應的預測調色板條目是否在當前調色板中被重用(例如,另一CU的調色板中的圖元值是否被當前調色板重用)。在該實例中,當條目是來自預測調色板的預測值(例如,與相鄰CU相關聯的調色板的對應條目)時,視訊轉碼器200可以針對給定條目對具有等於一的值的標誌進行編碼。視訊轉碼器200可以針對特定條目對具有等於零的值的標誌進行編碼,以指示該特定條目不是從另一CU的調色板預測出的。在該實例中,視訊轉碼器200亦可以對指示非預測的調色板條目的值的額外資料進行編碼。
在圖5的實例中,第二調色板1920包括四個條目2080-2140,分別具有條目索引值1、條目索引值2、條目索引值3和條目索引4。條目2080–2140將索引值分別與包括圖元值A、圖元值B、圖元值C和圖元值D的圖元值相關。出於調色板預測的目的,視訊轉碼器200及/或視訊解碼器300可以使用任何上述技術來定位第一CU 1800,並且將第一調色板1840的條目1-3複製到第二調色板1920的條目1-3以對第二編碼CU 1880進行編碼。以這種方式,視訊轉碼器200及/或視訊解碼器300可以基於第一調色板1840決定第二調色板1920。此外,視訊轉碼器200及/或視訊解碼器300可以對要包括在第二調色板1920中的條目4的資料進行編碼。此類資訊可以包括不是從預測器調色板預測出的調色板條目的數量以及與那些調色板條目相對應的圖元值。
在一些實例中,根據本案內容的各態樣,一或多個語法元素可以指示調色板(諸如第二調色板1920)是否是完全從預測性調色板(在圖5中示為第一調色板1840,但是其可以由來自一或多個塊的條目組成)預測出的或者第二調色板1920的特定條目是否被預測。例如,初始語法元素可以指示是否所有條目都被預測。若初始語法元素指示並非所有條目都被預測(例如,具有為0的值的標誌),則一或多個額外的語法元素可以指示第二調色板1920的哪些條目是從預測調色板預測出的。
圖6是示出與本案內容的技術一致的決定用於圖元的塊的調色板的索引的實例的概念圖。例如,圖6包括索引值(值1、2和3)的圖2400,其將與索引值相關聯的圖元的相應位置與調色板2440的條目相關聯。可以以與上面參照圖5描述的第一調色板1840和第二調色板1920類似的方式來決定調色板2440。
再次,出於解釋的目的,在視訊轉碼器200(圖1和圖3)和視訊解碼器300(圖1和圖4)的上下文中並且關於HEVC視訊編碼標準描述了圖6的技術。然而,應當理解,本案內容的技術不限於這種方式,並且可以由其他視訊編碼處理器及/或設備在其他視訊編碼程序及/或標準(例如,VVC)中應用。
儘管在圖6的實例中將圖2400示出包括用於每個圖元位置的索引值,但是應當理解,在其他實例中,並非所有圖元位置皆可以與將圖元值與調色板2440的條目相關的索引值相關聯。亦即,如前述,在一些實例中,若調色板2440中不包括用於圖2400中的位置的實際圖元值(或其量化版本),則視訊轉碼器200可以對該圖元值的指示進行編碼(並且視訊解碼器300可以從經編碼的位元串流獲得該指示)。
在一些實例中,視訊轉碼器200和視訊解碼器300可以被配置為對指示哪些圖元位置與索引值相關聯的額外的圖進行編碼。例如,假設圖中的(i,j)條目對應於CU的(i,j)位置。視訊轉碼器200可以對用於圖的每個條目(亦即,每個圖元位置)的一或多個語法元素進行編碼,該語法元素指示該條目是否具有關聯的索引值。例如,視訊轉碼器200可以對具有為一的值的標誌進行編碼,以指示CU中的(i,j)位置處的圖元值是調色板2440中的值之一。在此類實例中,視訊轉碼器200亦可以對調色板索引(在圖6的實例中示為值1-3)進行編碼,以指示調色板中的圖元值並且允許視訊解碼器重構圖元值。在調色板2440包括單個條目和關聯的圖元值的情況下,視訊轉碼器200可以跳過索引值的訊號傳遞。視訊轉碼器200可以將標誌編碼為具有為零的值,以指示CU中的(i,j)位置處的圖元值不是調色板2440中的值之一。在該實例中,視訊轉碼器200亦可以對圖元值的指示進行編碼,以供視訊解碼器300用於重構圖元值。在一些情況下,可以有損方式對圖元值進行編碼。
在CU的一個位置中的圖元的值可以提供對在CU的其他位置中的一或多個其他圖元的值的指示。例如,CU的相鄰圖元位置將具有相同圖元值或可以被映射到相同索引值(在有損編碼的情況下,一個以上的圖元值可以被到單個索引值)的概率相對較高。
因此,視訊轉碼器200可以對一或多個語法元素進行編碼,該語法元素指示在給定掃瞄順序中具有相同圖元值或索引值的連續圖元或索引值的數量。如前述,相似值的圖元或索引值的字串在本文中可以被稱為游程。在出於說明目的的實例中,若在給定掃瞄順序中兩個連續圖元或索引具有不同的值,則游程等於零。若在給定掃瞄順序中兩個連續圖元或索引具有相同的值,但是在掃瞄順序中的第三圖元或索引具有不同的值,則游程等於一。對於具有相同值的三個連續索引或圖元,游程為二,以此類推。視訊解碼器300可以從經編碼的位元串流獲得指示游程的語法元素,並且使用該資料來決定具有相同圖元或索引值的連續位置的數量。
游程中可以包括的索引數量可能受掃瞄順序的影響。例如,考慮對圖2400的行2660、2680和2700進行光柵掃瞄。假設水平左至右掃瞄方向(諸如光柵掃瞄順序),行2660包括為「1」的三個索引值、為「2」的兩個索引值和為「3」的三個索引值。行2680包括為「1」的五個索引值和為「3」的三個索引值。在該實例中,對於行2660,視訊轉碼器200可以對語法元素進行編碼,該語法元素指示行2660的第一值(該行的最左值)為1,其中游程為2,接著是為2的索引值,其中游程為1,接著是為3的索引值,其中游程為2。跟在光柵掃瞄之後,視訊轉碼器200隨後可以開始利用最左值對行2680進行編碼。例如,視訊轉碼器200可以對語法元素進行編碼,該語法元素指示行2680的第一值為1,其中游程為4,接著是為3的索引值,其中游程為2。視訊轉碼器200可以以相同的方式進行行2700。
因此,按照光柵掃瞄順序,可以直接在前一行的最後一個索引之後掃瞄當前行的第一索引。然而,在一些實例中,可能不希望以光柵掃瞄順序掃瞄索引。例如,可能不希望以光柵掃瞄順序掃瞄索引,其中視訊資料區塊的第一行(例如,行2660)包括與視訊資料區塊的第一邊緣相鄰的第一圖元(例如,行2660的最左圖元,其具有為1的索引值)和與視訊資料區塊的第二邊緣相鄰的最後一個圖元(例如,行2660的最右圖元,其具有為3的索引值),視訊資料的塊的第二行(例如,行2680)包括與視訊資料區塊的第一邊緣相鄰的第一圖元(例如,行2680的最左圖元,其具有為1的索引值)和與視訊資料區塊的第二邊緣相鄰的最後一個圖元(例如,行2680的最右圖元,其具有為3的索引值),第一行的最後一個圖元與第二行的最後一個圖元相鄰,並且第一邊緣和第二邊緣平行,並且第一行中的最後一個圖元具有與第二行中的最後一個圖元相同的索引值,但是具有與第二行中的第一圖元不同的索引值。與其他類型的視訊內容相比,這種情況(亦即,其中第一行中的最後一個圖元的索引值與第二行中的最後一個圖元相同,但是不同於第二行中的第一圖元)可能更頻繁地出現在電腦產生的螢幕內容中。
在一些實例中,視訊轉碼器200在對圖的索引進行編碼時可以利用蛇形掃瞄順序(例如,遍歷掃瞄順序)。例如,視訊轉碼器200可以在第一行的最後一個圖元之後直接掃瞄第二行的最後一個圖元。以這種方式,視訊轉碼器200可提高游程長度編碼的效率。
例如,與使用光柵掃瞄順序相反,視訊轉碼器200可以使用蛇形掃瞄順序對圖2400的值進行編碼。在出於說明目的的實例中,考慮圖2400的行2660、2680和2700。使用蛇形掃瞄(scan)順序(諸如蛇形掃瞄(scanning)順序),視訊轉碼器200可以對圖2400的值進行編碼,從行2660的左側位置開始,一直進行到行2660的最右側位置,隨後向下移動到行2680的最左側位置,一直進行到行2680的最左側位置,隨後向下移動到行2700的最左側位置。例如,視訊轉碼器200可以對一或多個語法元素進行編碼,該語法元素指示行2600的第一位置2660為一,並且在掃瞄方向上的兩個連續條目的下一個游程與行2660的第一位置相同。
視訊轉碼器200可以對一或多個語法元素進行編碼,該語法元素指示行2660的下一個位置(亦即,第四位置,從左到右)為二,並且在掃瞄方向上的下一個連續條目與行2660的第四位置相同。視訊轉碼器200可以對一或多個語法元素進行編碼,該語法元素指示行2660的下一個位置(亦即,第六位置)為三,並且在掃瞄方向上的五個連續條目的下一個游程與行2660的第六位置相同。視訊轉碼器200可以對一或多個語法元素進行編碼,該語法元素指示行2680在掃瞄方向上的下一個位置(亦即,行268的第四位置,從右到左)為一,並且掃瞄方向上的九個連續條目的下一個游程與行2680的第四位置相同。
以這種方式,經由使用蛇形掃瞄順序,視訊轉碼器200可以對更長的游程進行編碼,這可以提高編碼效率。例如,使用光柵掃瞄,行2660的最後的游程(對於索引值3)等於2。然而,使用蛇形掃瞄,行2660的最後的游程延伸到行2680並且等於5。
視訊解碼器300可以接收上述語法元素,並且重構行2660、2680和2700。例如,視訊解碼器300可以從經編碼的位元串流獲得指示用於當前正被編碼的圖2400的位置的索引值的資料。視訊解碼器300亦可以獲得指示在掃瞄順序中具有相同索引值的連續位置的數量的資料。
如前述,視訊編碼裝置可以使用水平和垂直遍歷掃瞄(例如,如圖7所示)來對調色板索引圖的索引進行編碼。在一些實例中,視訊編碼裝置可以用訊號通知顯式地指示掃瞄順序的語法元素(例如,palette_transpose_flag)。
視訊編碼裝置可以使用兩個主要的調色板取樣模式來對調色板索引進行編碼:「INDEX」和「COPY_ABOVE」。視訊編碼裝置可以用訊號通知使用哪種模式。例如,使用標誌來用訊號通知模式,除了以下情況:當使用水平掃瞄時的最高行,當使用垂直掃瞄時的第一列,或者當先前模式為「COPY_ABOVE」時。在「COPY_ABOVE」模式下,複製上一行中取樣的調色板索引。在「INDEX」模式下,顯式地用訊號通知調色板索引。對於「INDEX」和「COPY_ABOVE」模式兩者,用訊號通知游程值,游程值指定使用相同模式編碼的圖元數量。
視訊編碼裝置可以將特定編碼順序用於索引圖。索引圖的一個實例編碼順序如下:首先,用訊號通知用於CU的索引值的數量。這之後使用截斷的二進位編碼來用訊號通知用於整個CU的實際索引值。索引數量以及索引值兩者皆以旁路模式進行編碼。這將與索引相關的旁路倉封包在一起。隨後,以交錯方式用訊號通知調色板模式(INDEX或COPY_ABOVE)和游程。最後,將與用於整個CU的逸出取樣相對應的分量逸出值封包在一起並且以旁路模式進行編碼。在用訊號通知索引值之後,可以用訊號通知額外的語法元素(last_run_type_flag)。結合索引數量,該語法元素可以消除用訊號通知與塊中的最後一個游程相對應的游程值的需要。
如前述,視訊編碼裝置可以維護用於對調色板表進行編碼的調色板預測器,在VVC的虛擬測試模型6.0(VTM6.0)中,調色板預測器的最大大小等於63。在處理調色板編碼單元(CU)之後,視訊編碼裝置可以利用CU的調色板表來更新調色板預測器,該調色板表可以包括從先前的調色板預測器預測出的條目和新的用訊號通知的顏色,並且將未被用於預測調色板表的預測器條目(來自先前的調色板預測器)插入在經更新的預測器的末尾,直到達到最大預測器大小為止。如前述,後一程序可以被稱為調色板填充。圖8和圖9是示出調色板表推導和對調色板預測器的更新的概念圖。
如圖8所示,可以根據輸入調色板預測器802推導出調色板表804。例如,視訊解碼器可以決定用於輸入調色板預測器802的每個相應條目的二進位標誌,該二進位標誌指示相應條目是否將被包括在調色板表802中。在圖8的實例中,視訊解碼器可以基於該標誌來決定具有對角填充(即陰影)的條目將被包括在調色板表802中。視訊解碼器亦可以接收未被包括在輸入調色板預測器802中的、將被包括在調色板表804中的一或多個新條目的值。在圖8的實例中,視訊解碼器可以接收針對每個新顏色806的值。
如圖9所示,可以基於調色板表804來更新輸入調色板預測器802,以產生經更新的調色板預測器902。例如,視訊解碼器可以經由以下操作來產生經更新的調色板預測器902:將調色板表804的條目放置在開始處,並且隨後利用來自輸入調色板預測器802的條目(除了調色板表804中已經包括的條目之外)來「填充」調色板預測器,直到經更新的調色板預測器902的大小達到最大預測器大小為止。如圖9所示。並非輸入調色板預測器802的所有條目皆可以被包括在經更新的調色板預測器902中。
然而,調色板填充可能需要多個週期才能完成,因為視訊編碼裝置(例如,編碼器/解碼器)可能需要順序地檢查預測器之每一者條目是否用於預測調色板表。在檢查預測器條目之後,填充經更新的顏色條目亦將是順序程序。由於當前在VVC的虛擬測試模型6.0(VTM6.0)中設置的最大調色板預測器大小為63,並且在對下一個調色板編碼的編碼單元進行編碼/解碼之前必須對預測器進行更新,因此對於小塊(諸如4x4、4x8或8x4),調色板預測器更新程序可能是複雜的資源密集型程序,這可能會導致瓶頸並且在編碼流水線中引入時延。
本案內容描述了用於降低調色板模式編碼的複雜度的多種技術,諸如調色板預測器更新。這些技術對於小編碼單元可能特別有益。
根據本案內容的第一技術,視訊編碼裝置可以從受限制的(例如,有限的)條目集合預測調色板預測器。例如,在調色板預測器中可以用於預測調色板表的條目可能受到限制。
在第一技術的第一實例中,對於大小為WxH的編碼單元(CU),視訊編碼裝置可以僅使用調色板預測器中的前WxH個條目來預測CU中的調色板表。圖10是示出僅使用調色板預測器中的前WxH個條目來預測調色板預測器的實例的概念圖。因此,編碼器或解碼器針對調色板填充需要檢查(元素是否用於預測)的預測器條目的數量減少為WxH。對於第WxH位置之後的預測器條目(圖10中具有分隔號紋填充(即陰影)的條目),由於這些條目不用於預測,因此可以直接複製元素,直到達到最大調色板大小為止。
在第一技術的第二實例中,除了限制可以用於預測的元素之外,亦限制在預測器中更新的元素的數量。例如,如圖11所示,對於大小為WxH的編碼單元(CU),除了將用於預測的調色板預測器限於調色板預測器中的僅前WxH個條目(與第一技術的第一實例相同)之外,允許利用調色板填充進行更新的預測器元素的數量亦限於前WxH個元素。在第WxH元素之後,預測器保持與前一個預測器相同(例如,與先前的預測器相同)。
根據本案內容的第二技術,視訊編碼裝置可以限制調色板(諸如調色板預測器)的最大大小。在第二技術的第一實例中,視訊編碼裝置可以將調色板預測器的最大大小動態地限制為較小的值,例如,32或16(相對於預設值較小)。以這種方式,視訊編碼裝置可以減少完成調色板預測器更新所需的整體週期。此外,以這種方式,視訊編碼裝置可以減小維護調色板預測器所需的緩衝器大小。在第二技術的第二實例中,視訊編碼裝置可以針對小編碼單元將調色板預測器的最大大小限制為較小的值。例如,對於大小W×H小於塊大小閥值(例如,63)的塊,視訊編碼裝置可以將經更新的調色板預測器的最大大小限制為W×H。例如,視訊編碼裝置可以基於塊大小來選擇性地限制調色板預測器的最大大小。
根據本案內容的第三技術,視訊編碼裝置可以針對小編碼單元省略或繞過調色板預測器填充。作為第三技術的第一實例,針對大小小於最大調色板預測器大小(當前在VTM6.0中為63)的編碼單元(CU)或者針對大小小於當前調色板預測器大小的CU,視訊編碼裝置可以不更新調色板預測器。當在對當前CU編碼之前未更新調色板預測器時,視訊編碼裝置可以利用與先前CU相同的調色板預測器。作為第三技術的第二實例,針對大小小於調色板預測器的最大調色板預測器大小(當前在VTM6.0中為63)的編碼單元,視訊編碼裝置可以將調色板預測器更新為CU的調色板表。
圖12是示出用於對當前塊進行編碼的實例方法的流程圖。當前塊可以包括當前CU。儘管關於視訊轉碼器200(圖1和圖3)進行了描述,但是應當理解的是,其他設備可以被配置為執行與圖12的方法類似的方法。
在該實例中,視訊轉碼器200初始預測當前塊(350)。例如,視訊轉碼器200可以形成用於當前塊的預測塊。隨後,視訊轉碼器200可以計算用於當前塊的殘差塊(352)。為了計算殘差塊,視訊轉碼器200可以計算在原始的未經編碼的塊與用於當前塊的預測塊之間的差。隨後,視訊轉碼器200可以對殘差塊的係數進行變換和量化(354)。接下來,視訊轉碼器200可以掃瞄殘差塊的經量化的變換係數(356)。在掃瞄期間或在掃瞄之後,視訊轉碼器200可以對係數進行熵編碼(358)。例如,視訊轉碼器200可以使用CAVLC或CABAC來對係數進行編碼。隨後,視訊轉碼器200可以輸出塊的經熵編碼的資料(360)。
圖13是示出用於對視訊資料的當前塊進行解碼的實例方法的流程圖。當前塊可以包括當前CU。儘管關於視訊解碼器300(圖1和圖4)進行了描述,但是應當理解的是,其他設備可以被配置為執行與圖13的方法類似的方法。
視訊解碼器300可以接收用於當前塊的經熵編碼的資料(諸如用於與當前塊相對應的殘差塊的係數的經熵編碼的預測資訊和經熵編碼的資料)(370)。視訊解碼器300可以對經熵編碼的資料進行熵解碼以決定用於當前塊的預測資訊並且重現殘差塊的係數(372)。視訊解碼器300可以例如使用如由用於當前塊的預測資訊所指示的訊框內或訊框間預測模式來預測當前塊(374),以計算用於當前塊的預測塊。隨後,視訊解碼器300可以對所重現的係數進行逆掃瞄(376),以建立經量化的變換係數的塊。隨後,視訊解碼器300可以對係數進行逆量化和逆變換以產生殘差塊(378)。最終,視訊解碼器300可以經由將預測塊和殘差塊組合來對當前塊進行解碼(380)。
圖14是示出根據本案內容的一或多個技術的用於使用調色板模式壓縮來對塊進行編碼的實例方法的流程圖。儘管關於視訊解碼器300(圖1和圖4)進行了描述,但是應當理解,其他設備可以被配置為執行與圖14的方法類似的方法。例如,視訊轉碼器200可以執行圖14的方法。
視訊解碼器300可以基於視訊資料的第一塊的參數來決定要用於當前塊的調色板模式編碼的最大條目數量(1402)。例如,視訊解碼器300的調色板預測單元319可以基於參數的值來決定是否將最大條目數限制為16或32。在一些實例中,參數可以表示第一塊的大小,例如,如編碼器在經編碼的位元串流中用訊號通知的。例如,調色板預測單元319可以將最大條目數量限制為W×H,其中W是第一塊的寬度並且H是第一塊的高度。因此,在第一塊是4x4的情況下,調色板預測單元319可以將最大條目數量限制為16。類似地,在第一塊是4x8的情況下,調色板預測單元319可以將最大條目數量限制為32。所決定的最大條目數量可以是針對第一塊構造的調色板、用於構造調色板的調色板預測器、或用於對第一塊進行編碼的任何其他調色板中的最大條目數量。
視訊解碼器300可以基於所決定的最大條目數量以及基於調色板預測器來產生用於視訊資料的第一塊的調色板(1404)。所產生的調色板可以包括一或多個條目,每個條目包括與顏色值相關聯的調色板索引。為了基於所決定的最大條目數量來產生調色板,調色板預測單元319可以將調色板中的條目數量限制為所決定的最大數量,或者可以根據包括被限制為所決定的最大數量的條目數目的調色板預測器來產生調色板。經由將調色板中的條目數量限制為所決定的最大數量,調色板可以具有小於或等於所決定的最大數量的條目數量。類似地,在根據包括被限制為所決定的最大數量的條目數目的調色板預測器來產生調色板的情況下,調色板預測器可以具有小於或等於所決定的最大數量的條目數量。
視訊解碼器300可以從經編碼的視訊位元串流中並且針對視訊資料的第一塊來解碼用於第一塊的取樣的索引值(1406)。例如,熵解碼單元302可以從經編碼的視訊位元串流中解碼索引值的陣列,並且將其提供給調色板預測單元319。
視訊解碼器300可以基於索引值來重構第一塊的取樣(1408)。例如,調色板預測單元319可以使用所產生的調色板作為查閱資料表來將索引值轉換為用於相應取樣的顏色值(例如,如上面參照圖5-圖7所論述的)。
視訊解碼器300可以基於所產生的調色板來更新輸入調色板預測器,以產生經更新的調色板預測器。例如,調色板預測單元319可以產生經更新的調色板預測器,如上面參照圖8-圖11所論述的。作為一個實例,調色板預測單元319可以將來自用於第一塊的調色板的條目複製到經更新的調色板預測器中;並且將來自輸入調色板預測器中的未被包括在用於第一塊的調色板中的受限部分的條目複製到經更新的調色板預測器中並且在來自用於第一塊的調色板的條目之後的位置處。在該實例中,調色板預測單元319可將來自輸入調色板預測器的不受限部分的條目複製到經更新的調色板預測器中並且在來自輸入調色板預測器的受限部分的條目之後的位置處,直到達到經更新的調色板預測器的最大大小為止。從受限部分複製條目可以包括從受限部分複製有限數量的條目。
作為另一實例,調色板預測單元319可以將來自用於第一塊的調色板的條目複製到經更新的調色板預測器中;並且利用輸入調色板預測器中的未被包括在用於第一塊的調色板中的條目來填充經更新的調色板預測器。在一些實例中,為了填充調色板,調色板預測單元319可以回應於決定第一塊的大小大於閥值大小來填充經更新的調色板預測器。類似地,調色板預測單元319可以回應於決定第一塊的大小小於閥值大小來避免填充經更新的調色板預測器。
視訊解碼器300可以基於經更新的調色板預測器來產生用於視訊資料的第二塊的調色板。例如,視訊解碼器300可以將一或多個條目從經更新的調色板預測器複製到用於視訊資料的第二塊的調色板中。
以下具有編號的實例可以示出本案內容的一或多個態樣:
實例1。一種對視訊資料進行編碼的方法,該方法包括:獲得輸入調色板預測器;基於輸入調色板預測器來產生用於視訊資料的第一塊的調色板;基於所產生的調色板來更新輸入調色板預測器,以產生經更新的調色板預測器,其中更新輸入調色板預測器包括:將來自用於第一塊的調色板的條目複製到經更新的調色板預測器中;及將來自輸入調色板預測器中的未被包括在用於第一塊的調色板中的受限部分的條目複製到經更新的調色板預測器中並且在來自用於第一塊的調色板的條目之後的位置處。
實例2。根據實例1之方法,其中更新輸入調色板預測器亦包括:將來自輸入調色板預測器的不受限部分的條目複製到經更新的調色板預測器中並且在來自輸入調色板預測器的受限部分的條目之後的位置處,直到達到經更新的調色板預測器的最大大小為止。
實例3。根據實例1或2中任一項所述的方法,其中來自受限部分的條目包括:從受限部分複製有限數量的條目。
實例4。一種對視訊資料進行編碼的方法,該方法包括:獲得輸入調色板預測器,其中輸入調色板預測器的大小被限制為小於63的值;基於輸入調色板預測器來產生用於視訊資料的第一塊的調色板;基於所產生的調色板來更新輸入調色板預測器,以產生經更新的調色板預測器;及基於經更新的調色板預測器產生用於視訊資料的第二塊的調色板。
實例5。根據實例4之方法,其中值是32。
實例6。根據實例4之方法,其中值是16。
實例7。根據實例4-6中任一項所述的方法,亦包括:回應於決定第一塊的大小小於閥值塊大小來限制輸入調色板預測器的大小。
實例8。根據實例7之方法,其中限制輸入調色板預測器的大小包括:將輸入調色板預測器的大小限制為等於第一塊的長度乘以寬度的大小。
實例9。一種對視訊資料進行編碼的方法,該方法包括:獲得輸入調色板預測器;基於輸入調色板預測器來產生用於視訊資料的第一塊的調色板;基於所產生的調色板來更新輸入調色板預測器,以產生經更新的調色板預測器,其中更新輸入調色板預測器包括:將來自用於第一塊的調色板的條目複製到經更新的調色板預測器中;及利用輸入調色板預測器中的未被包括在用於第一塊的調色板中的條目來填充經更新的調色板預測器;及基於經更新的調色板預測器來產生用於視訊資料的第二塊的調色板。
實例10。根據實例9之方法,其中填充調色板包括:回應於決定第一塊的大小大於閥值大小來填充經更新的調色板預測器。
實例11。根據實例10之方法,亦包括:回應於決定第一塊的大小小於閥值大小而不填充經更新的調色板預測器。
實例12。一種方法,包括根據實例1-11中任一項該的方法。
實例13。根據實例1-12中任一項所述的方法,其中第一塊是視訊資料的第一編碼單元(CU)。
實例14。根據實例1-13中任一項所述的方法,其中編碼包括解碼。
實例15。根據實例1-14中任一項所述的方法,其中編碼包括編碼。
實例16。一種用於對視訊資料進行編碼的設備,該設備包括:用於執行根據實例1-15中任一項所述的方法的一或多個單元。
實例17。根據實例16之設備,其中該一或多個單元包括在電路中實現的一或多個處理器。
實例18。根據實例16和17中任一項所述的設備,亦包括:用於儲存該視訊資料的記憶體。
實例19。根據實例16-18中任一項所述的設備,亦包括:被配置為顯示經解碼的視訊資料的顯示器。
實例20。根據實例16-19中任一項所述的設備,其中該設備包括以下各項中的一項或多項:相機、電腦、行動設備、廣播接收器設備、或機上盒。
實例21。根據實例16-20中任一項所述的設備,其中該設備包括視訊解碼器。
實例22。根據實例16-21中任一項所述的設備,其中該設備包括視訊轉碼器。
實例23。一種具有儲存在其上的指令的電腦可讀取儲存媒體,該等指令在被執行時使得一或多個處理器執行根據實例1-15中任一項所述的方法。
要認識到的是,根據實例,本文描述的任何技術的某些動作或事件可以以不同的循序執行,可以被添加、合併或完全省略(例如,並非所有描述的動作或事件是對於實施所述技術都是必要的)。此外,在某些實例中,動作或事件可以例如經由多執行緒處理、中斷處理或多個處理器併發地而不是順序地執行。
在一或多個實例中,所描述的功能可以用硬體、軟體、韌體或其任何組合來實現。若用軟體來實現,則所述功能可以作為一或多個指令或代碼儲存在電腦可讀取媒體上或者經由其進行傳輸並且由基於硬體的處理單元執行。電腦可讀取媒體可以包括電腦可讀取儲存媒體,其對應於諸如資料儲存媒體之類的有形媒體或者通訊媒體,該通訊媒體包括例如根據通訊協定來促進電腦程式從一個地方傳送到另一個地方的任何媒體。以這種方式,電腦可讀取媒體通常可以對應於(1)非暫時性的有形電腦可讀取儲存媒體、或者(2)諸如訊號或載波之類的通訊媒體。資料儲存媒體可以是可以由一或多個電腦或者一或多個處理器存取以取得用於實現在本案內容中描述的技術的指令、代碼及/或資料結構的任何可用的媒體。電腦程式產品可以包括電腦可讀取媒體。
經由舉例而非限制性的方式,此類電腦可讀取儲存媒體可以包括RAM、ROM、EEPROM、CD-ROM或其他光碟儲存、磁碟儲存或其他磁存放裝置、快閃記憶體、或者能夠用於以指令或資料結構形式儲存期望的程式碼以及能夠由電腦存取的任何其他媒體。此外,任何連接被適當地稱為電腦可讀取媒體。例如,若使用同軸電纜、光纖光纜、雙絞線、數位用戶線路(DSL)或者無線技術(例如,紅外線、無線電和微波)從網站、伺服器或其他遠端源傳輸指令,則同軸電纜、光纖光纜、雙絞線、DSL或者無線技術(例如,紅外線、無線電和微波)被包括在媒體的定義中。然而,應當理解的是,電腦可讀取儲存媒體和資料儲存媒體不包括連接、載波、訊號或其他臨時性媒體,而是替代地針對非臨時性的有形儲存媒體。如本文所使用的,磁碟和光碟包括壓縮光碟(CD)、鐳射光碟、光碟、數位多功能光碟(DVD)、軟碟和藍光光碟,其中磁碟通常磁性地複製資料,而光碟則利用鐳射來光學地複製資料。上述各項的組合亦應當被包括在電腦可讀取媒體的範疇之內。
指令可以由一或多個處理器來執行,諸如一或多個數位訊號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、現場可程式設計閘陣列(FPGA)、或其他等效的整合或個別邏輯電路。因此,如本文所使用的術語「處理器」和「處理電路」可以代表前述結構中的任何一者或者適於實現本文描述的技術的任何其他結構。另外,在一些態樣中,本文描述的功能可以在被配置用於編碼和解碼的專用硬體及/或軟體模組內提供,或者被併入經組合的轉碼器中。此外,該等技術可以完全在一或多個電路或邏輯元件中實現。
本案內容的技術可以在多種多樣的設備或裝置中實現,包括無線手機、積體電路(IC)或一組IC(例如,晶片組)。在本案內容中描述了各種部件、模組或單元以強調被配置以執行所揭示的技術的設備的功能性態樣,但是不一定需要經由不同的硬體單元來實現。確切而言,如前述,各種單元可以被組合在轉碼器硬體單元中,或者由可交互動操作的硬體單元的集合(包括如前述的一或多個處理器)結合適當的軟體及/或韌體來提供。
已經描述了各個實例。這些和其他實例在所附的請求項的範疇內。
100:視訊編碼和解碼系統 102:源設備 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀取媒體 112:輸入介面 114:檔案伺服器 116:目的地設備 118:顯示裝置 120:記憶體 122:輸入介面 130:四叉樹二叉樹(QTBT)結構 132:對應的編碼樹單元(CTU) 200:視訊轉碼器 202:模式選擇單元 204:殘差產生單元 206:變換處理單元 208:量化單元逆量化單元 210:逆變換處理單元 212:逆變換處理單元 214:重構單元 216:濾波器單元 218:解碼圖片緩衝器(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:訊框內預測單元 227:調色板預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:逆量化單元 308:逆變換處理單元 310:重構單元 312:濾波器單元 314:解碼圖片緩衝器(DPB) 316:運動補償單元 318:訊框內預測單元 319:調色板預測單元 320:編碼圖片緩衝器(CPB)記憶體 350:方塊 352:方塊 354:方塊 356:方塊 358:方塊 360:方塊 370:方塊 372:方塊 374:方塊 376:方塊 378:方塊 380:方塊 802:輸入調色板預測器 804:調色板表 806:顏色 902:經更新的調色板預測器 1402:方塊 1404:方塊 1406:方塊 1408:方塊 1780:圖片 1800:第一編碼單元(CU) 1840:第一調色板 1880:CU 1920:第二調色板 1960:CU 2000:塊 2020:條目 2040:條目 2060:條目 2080:條目 2100:條目 2120:條目 2140:條目 2400:圖 2440:調色板 2660:行 2680:行 2700:行
圖1是示出可以執行本案內容的技術的實例視訊編碼和解碼系統的方塊圖。
圖2A和圖2B是示出實例四叉樹二叉樹(QTBT)結構以及對應的編碼樹單元(CTU)的概念圖。
圖3是示出可以執行本案內容的技術的實例視訊轉碼器的方塊圖。
圖4是示出可以執行本案內容的技術的實例視訊解碼器的方塊圖。
圖5是示出與本案內容的技術一致的決定用於對視訊資料進行編碼的調色板的實例的概念圖。
圖6是示出與本案內容的技術一致的決定針對用於區塊的調色板的索引的實例的概念圖。
圖7是示出使用水平和垂直遍歷掃瞄的索引的實例編碼的概念圖。
圖8和圖9是示出調色板表推導和調色板預測器的更新的概念圖。
圖10是示出僅使用調色板預測器中的前WxH個條目來預測調色板預測器的實例的概念圖。
圖11是圖示在填充被限制於前WxH個元素的情況下僅使用調色板預測器中的前WxH個條目來預測調色板預測器的實例的概念圖。
圖12是示出用於對視訊資料的當前塊進行解碼的實例方法的流程圖。
圖13是示出用於對視訊資料的當前塊進行解碼的實例方法的流程圖。
圖14是示出根據本案內容的一或多個技術的用於使用調色板模式壓縮來對塊進行編碼的實例方法的流程圖。
國內寄存資訊(請依寄存機構、日期、號碼順序註記) 無 國外寄存資訊(請依寄存國家、機構、日期、號碼順序註記) 無
1402:方塊
1404:方塊
1406:方塊
1408:方塊

Claims (27)

  1. 一種用於對視訊資料進行解碼的設備,該設備包括: 一記憶體,其被配置為儲存一經編碼的視訊位元串流的至少一部分;及 一或多個處理器,其在電路中實現並且被配置為: 基於視訊資料的一第一塊的一參數來決定要用於當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的一調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引; 從該經編碼的視訊位元串流中並且針對視訊資料的該第一塊來解碼用於該第一塊的取樣的索引值,該等索引值標識該調色板中的條目;及 基於該等索引值來重構該第一塊的該等取樣。
  2. 根據請求項1之設備,其中該最大條目數量被限制為小於63的一值。
  3. 根據請求項2之設備,其中為了決定該最大條目數量,該一或多個處理器被配置為: 回應於該參數具有一第一值來將該最大條目數量限制為16;及 回應於該參數具有與該第一值不同的一第二值來將該最大條目數量限制為32。
  4. 根據請求項1之設備,其中該一或多個處理器亦被配置為: 獲得一輸入調色板預測器,其中為了產生該調色板,該一或多個處理器被配置為:基於該輸入調色板預測器來產生該調色板; 基於該所產生的調色板來更新該輸入調色板預測器,以產生一經更新的調色板預測器,其中為了更新該輸入調色板預測器,該一或多個處理器被配置為: 將來自用於該第一塊的該調色板的條目複製到該經更新的調色板預測器中;及 將來自該輸入調色板預測器中的未被包括在用於該第一塊的該調色板中的一受限部分的條目複製到給經更新的調色板預測器中並且複製在來自用於該第一塊的該調色板的條目之後的一位置處;及 基於該經更新的調色板預測器來產生用於視訊資料的一第二塊的一調色板。
  5. 根據請求項4之設備,其中為了更新該輸入調色板預測器,該一或多個處理器被配置為: 將來自該輸入調色板預測器的一不受限部分的條目複製到該經更新的調色板預測器中並且複製在來自該輸入調色板預測器的該受限部分的條目之後的一位置處,直到達到該經更新的調色板預測器的一最大大小為止。
  6. 根據請求項5之設備,其中為了從該受限部分複製條目,該一或多個處理器被配置為: 從該受限部分複製一有限數量的條目。
  7. 根據請求項1之設備,其中該一或多個處理器亦被配置為: 獲得一輸入調色板預測器,其中為了產生該調色板,該一或多個處理器被配置為:基於該輸入調色板預測器來產生該調色板; 基於該所產生的調色板來更新該輸入調色板預測器,以產生一經更新的調色板預測器,其中為了更新該輸入調色板預測器,該一或多個處理器被配置為: 將來自用於該第一塊的該調色板的條目複製到該經更新的調色板預測器中;及 利用該輸入調色板預測器中的未被包括在用於該第一塊的該調色板中的條目來填充該經更新的調色板預測器;及 基於該經更新的調色板預測器來產生用於視訊資料的一第二塊的調色板。
  8. 根據請求項7之設備,其中為了填充該調色板,該一或多個處理器被配置為:回應於決定該第一塊的一大小大於一閥值大小來填充該經更新的調色板預測器。
  9. 根據請求項8之設備,其中為了填充該調色板,該一或多個處理器被配置為:回應於決定該第一塊的該大小小於該閥值大小而不填充該經更新的調色板預測器。
  10. 根據請求項1之設備,亦包括:被配置為輸出視訊資料的該經重構的第一塊的一顯示器。
  11. 一種對視訊資料進行解碼的方法,該方法包括以下步驟: 基於視訊資料的一第一塊的一參數來決定要用於該當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引; 從經編碼的視訊位元串流中並且針對視訊資料的該第一塊來解碼用於該第一塊的取樣的索引值,該等索引值標識該調色板中的條目;及 基於該等索引值來重構該第一塊的該等取樣。
  12. 根據請求項11之方法,其中該最大條目數量被限制為小於63的一值。
  13. 根據請求項12之方法,其中決定該最大條目數量包括:選擇性地將該最大條目數量限制為16或32。
  14. 根據請求項11之方法,亦包括以下步驟: 獲得一輸入調色板預測器,其中產生該調色板包括以下步驟:基於該輸入調色板預測器來產生該調色板; 基於該所產生的調色板來更新該輸入調色板預測器,以產生一經更新的調色板預測器,其中更新該輸入調色板預測器包括以下步驟: 將來自用於該第一塊的該調色板的條目複製到該經更新的調色板預測器中;及 將來自該輸入調色板預測器中的未被包括在用於該第一塊的該調色板中的一受限部分的條目複製到該經更新的調色板預測器中並且複製在來自用於該第一塊的該調色板的條目之後的一位置處;及 基於該經更新的調色板預測器來產生用於視訊資料的一第二塊的一調色板。
  15. 根據請求項14之方法,其中更新該輸入調色板預測器亦包括以下步驟: 將來自該輸入調色板預測器的一不受限部分的條目複製到該經更新的調色板預測器中並且複製在來自該輸入調色板預測器的該受限部分的條目之後的一位置處,直到達到該經更新的調色板預測器的一最大大小為止。
  16. 根據請求項15之方法,其中從該受限部分複製該條目包括以下步驟: 從該受限部分複製一有限數量的條目。
  17. 根據請求項11之方法,亦包括以下步驟: 獲得一輸入調色板預測器,其中產生該調色板包括:基於該輸入調色板預測器來產生該調色板; 基於該所產生的調色板來更新該輸入調色板預測器,以產生一經更新的調色板預測器,其中更新該輸入調色板預測器包括: 將來自用於該第一塊的該調色板的條目複製到該經更新的調色板預測器中;及 利用該輸入調色板預測器中的未被包括在用於該第一塊的該調色板中的條目來填充該經更新的調色板預測器;及 基於該經更新的調色板預測器來產生用於視訊資料的一第二塊的一調色板。
  18. 根據請求項17之方法,其中填充該調色板包括:回應於決定該第一塊的一大小大於一閥值大小來填充該經更新的調色板預測器。
  19. 根據請求項18之方法,亦包括以下步驟:回應於決定該第一塊的該大小小於該閥值大小而不填充該經更新的調色板預測器。
  20. 一種用於對視訊資料進行編碼的設備,該設備包括: 一記憶體,其被配置為儲存一經編碼的視訊位元串流的至少一部分;及 一或多個處理器,其在電路中實現並且被配置為: 基於視訊資料的一第一塊的一參數來決定要用於當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的一調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引;及 在該經編碼的視訊位元串流中並且針對視訊資料的該第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
  21. 根據請求項20之設備,其中該最大條目數量被限制為小於63的一值。
  22. 根據請求項21之設備,其中為了決定該最大條目數量,該一或多個處理器被配置為: 回應於該參數具有一第一值來將該最大條目數量限制為16;及 回應於該參數具有一第二值來將該最大條目數量限制為32。
  23. 一種對視訊資料進行編碼的方法,該方法包括以下步驟: 基於視訊資料的一第一塊的一參數來決定要用於當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引;及 在一經編碼的視訊位元串流中並且針對視訊資料的該第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
  24. 根據請求項23之方法,其中該最大條目數量被限制為小於63的一值。
  25. 根據請求項24之方法,其中決定該最大條目數量包括:選擇性地將該最大條目數量限制為16或32。
  26. 一種具有儲存在其上的指令的電腦可讀取儲存媒體,該等指令在被執行時使得一視訊解碼器的一或多個處理器進行以下操作: 基於視訊資料的一第一塊的一參數來決定要用於當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的一調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引; 從一經編碼的視訊位元串流中並且針對視訊資料的該第一塊來解碼用於該第一塊的取樣的索引值,該等索引值標識該調色板中的條目;及 基於該等索引值來重構該第一塊的該等取樣。
  27. 一種具有儲存在其上的指令的電腦可讀取儲存媒體,該等指令在被執行時使得一視訊轉碼器的一或多個處理器進行以下操作: 基於視訊資料的一第一塊的一參數來決定要用於當前塊的調色板模式編碼的一最大條目數量; 基於該所決定的最大條目數量以及基於一調色板預測器來產生用於視訊資料的該第一塊的調色板,該調色板包括一或多個條目,每個條目包括與一顏色值相關聯的一調色板索引;及 在一經編碼的視訊位元串流中並且針對視訊資料的該第一塊來對用於該第一塊的取樣的索引值進行編碼,該等索引值標識該調色板中的條目。
TW109133103A 2019-09-24 2020-09-24 用於視訊編碼的簡化的調色板預測器更新 TW202126040A (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962905105P 2019-09-24 2019-09-24
US62/905,105 2019-09-24
US17/029,767 US11240507B2 (en) 2019-09-24 2020-09-23 Simplified palette predictor update for video coding
US17/029,767 2020-09-23

Publications (1)

Publication Number Publication Date
TW202126040A true TW202126040A (zh) 2021-07-01

Family

ID=74881393

Family Applications (1)

Application Number Title Priority Date Filing Date
TW109133103A TW202126040A (zh) 2019-09-24 2020-09-24 用於視訊編碼的簡化的調色板預測器更新

Country Status (5)

Country Link
US (1) US11240507B2 (zh)
EP (1) EP4035385A1 (zh)
CN (1) CN114402604A (zh)
TW (1) TW202126040A (zh)
WO (1) WO2021061998A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021027774A1 (en) 2019-08-10 2021-02-18 Beijing Bytedance Network Technology Co., Ltd. Subpicture dependent signaling in video bitstreams
WO2021060844A1 (ko) * 2019-09-23 2021-04-01 엘지전자 주식회사 팔레트 모드를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
CN114631317B (zh) 2019-10-18 2024-03-15 北京字节跳动网络技术有限公司 子图片的参数集信令中的语法约束
WO2021139806A1 (en) * 2020-01-12 2021-07-15 Beijing Bytedance Network Technology Co., Ltd. Constraints for video coding and decoding
EP3873096A1 (en) * 2020-02-25 2021-09-01 Koninklijke Philips N.V. Improved hdr color processing for saturated colors
US20230179760A1 (en) * 2020-03-19 2023-06-08 Lg Electronics Inc. Image encoding/decoding method and apparatus based on palette mode, and recording medium that stores bitstream
WO2021202667A1 (en) * 2020-03-31 2021-10-07 Alibaba Group Holding Limited Methods for palette prediction

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9558567B2 (en) * 2013-07-12 2017-01-31 Qualcomm Incorporated Palette prediction in palette-based video coding
US10687064B2 (en) * 2014-08-04 2020-06-16 Qualcomm Incorporated Palette mode encoding and decoding with inferred pixel scan order
US20160360205A1 (en) * 2015-06-08 2016-12-08 Industrial Technology Research Institute Video encoding methods and systems using adaptive color transform
US10924750B2 (en) * 2019-03-01 2021-02-16 Alibaba Group Holding Limited Palette size constraint in palette mode for video compression system

Also Published As

Publication number Publication date
US20210092393A1 (en) 2021-03-25
EP4035385A1 (en) 2022-08-03
CN114402604A (zh) 2022-04-26
WO2021061998A1 (en) 2021-04-01
US11240507B2 (en) 2022-02-01

Similar Documents

Publication Publication Date Title
JP7548939B2 (ja) ビデオコーディングにおけるアフィン線形重み付けイントラ予測
TWI845688B (zh) 用於視訊寫碼之合併模式寫碼
US20160373745A1 (en) Grouping palette bypass bins for video coding
CN113940069A (zh) 用于视频译码中的低频不可分离变换的变换和最后有效系数位置信令
JP2019530367A (ja) ビデオコーディングのための可変数のイントラモード
US11240507B2 (en) Simplified palette predictor update for video coding
TW202115977A (zh) 用於視訊編碼的跨分量自我調整迴路濾波
TW202110189A (zh) 用於視訊寫碼的環繞運動補償
US11202101B2 (en) Grouped coding for palette syntax in video coding
TW202041009A (zh) 用於轉換跳過模式之係數寫碼
US20210092434A1 (en) Adaptive motion vector resolution for affine motion model in video coding
JP7566014B2 (ja) ビデオコーディングのためのクロスコンポーネント適応ループフィルタリングのためのビットシフティング
TW202041003A (zh) 用於視訊資料之框間-框內預測模式
JP2022524375A (ja) 異なるクロマフォーマットを使用した三角予測ユニットモードでのビデオコーディング
TW202106023A (zh) 調色板模式下的增量量化參數訊令
TW202131676A (zh) 視訊編碼中針對參考圖片重取樣的環繞偏移
US12113981B2 (en) Adaptively deriving rice parameter values for high bit-depth video coding
TW202139696A (zh) 在進行視訊解碼時對區塊的色度變換跳過和聯合色度解碼賦能
TW202133621A (zh) 支援有損解碼和無損解碼兩者的殘差解碼
TW202133615A (zh) 基於色度變換跳過的用於色度的lfnst信號傳遞
TW202143712A (zh) 視訊轉碼中的低頻不可分離變換處理
TW202133619A (zh) 用於合併估計區域的基於歷史的運動向量預測約束
TW202143715A (zh) 視訊譯碼中的子區塊合併候選的信令數目
TW202141988A (zh) 用於視訊譯碼中的變換跳過區塊的高級約束
TW202131696A (zh) 用於視訊編碼中的一般變換係數的基於方程的萊斯參數推導