TW202005385A

TW202005385A - 寫碼用於視訊寫碼之自適應多重轉換資訊

Info

Publication number: TW202005385A
Application number: TW108119087A
Authority: TW
Inventors: 席爾米伊恩斯埃伊爾梅茲; 趙詠萱; 阿米爾塞德; 法迪姆塞瑞金; 馬塔卡茲維克茲; 錢威俊
Original assignee: 美商高通公司
Priority date: 2018-06-01
Filing date: 2019-05-31
Publication date: 2020-01-16
Also published as: WO2019232382A1; TWI815896B; EP3804317A1; US10986340B2; CN112204969A; CN112204969B; US20190373261A1

Abstract

一種用於對視訊資料進行解碼之實例裝置包括：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以執行以下操作：對表示用於該視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。該MT方案可包括複數個轉換，諸如一水平轉換及一豎直轉換、一初級轉換及一第二轉換，或可分離及/或不可分離轉換之任何組合。因此，一單個截斷一元碼字可表示整個MT方案，亦即，該MT方案之複數個轉換中之每一者。

Description

寫碼用於視訊寫碼之自適應多重轉換資訊

本發明係關於視訊寫碼，包括視訊編碼及視訊解碼。

數位視訊能力可併入至廣泛範圍之裝置中，該等裝置包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄裝置、數位媒體播放器、視訊遊戲裝置、視訊遊戲控制台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電話會議裝置、視訊串流裝置及其類似者。數位視訊裝置實施視訊寫碼技術，諸如由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分進階視訊寫碼(AVC)所定義之標準、高效率視訊寫碼(HEVC)標準、ITU-T H.265/高效率視訊寫碼(HEVC)及此等標準之擴展中描述的彼等視訊寫碼技術。視訊裝置可藉由實施此類視訊寫碼技術來更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。

視訊寫碼技術包括空間(圖像內)預測及/或時間(圖像間)預測以減少或移除視訊序列中固有的冗餘。對於基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖像或視訊圖像的一部分)可分割成視訊區塊，視訊區塊亦可被稱作寫碼樹型單元(CTU)、寫碼單元(CU)及/或寫碼節點。圖像之經框內寫碼(I)圖塊中之視訊區塊係使用關於同一圖像中的相鄰區塊中之參考樣本的空間預測進行編碼。圖像之經框間寫碼(P或B)圖塊中之視訊區塊可使用關於同一圖像中的相鄰區塊中之參考樣本的空間預測或關於其他參考圖像中之參考樣本的時間預測。圖像可被稱作圖框，且參考圖像可被稱作參考圖框。

一般而言，本發明描述與視訊寫碼中之轉換寫碼相關的技術。轉換寫碼係現代視訊壓縮標準之一重要元素。本發明描述相較於先前AMT設計使用較少發訊負擔的多重轉換(MT)(例如，自適應多重轉換(AMT))設計。由於本發明中描述之MT設計具有較少發訊負擔，因此此等技術可改良寫碼增益且可用於進階視訊編解碼器之上下文中，諸如HEVC之擴展或下一代視訊寫碼標準。

在一個實例中，一種對視訊資料進行解碼之方法包括：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。

在另一實例中，一種用於解碼視訊資料之裝置包括：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以：對表示用於該視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。

在另一實例中，一種電腦可讀儲存媒體上儲存有指令，該等指令當經執行時使得一處理器執行以下操作：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。

在另一實例中，一種用於對視訊資料進行解碼的裝置包括：用於對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案的構件；用於將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料的構件；及用於使用該殘餘資料對該當前區塊進行解碼的構件。

在另一實例中，一種對視訊資料進行編碼之方法包括：將一多重轉換(MT)方案應用於視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。

在另一實例中，一種用於對視訊資料進行編碼之裝置包括：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以執行以下操作：將一多重轉換(MT)方案應用於該視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。

在另一實例中，一種電腦可讀儲存媒體上儲存有指令，該等指令當經執行時使得一處理器執行以下操作：將一多重轉換(MT)方案應用於該視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。

在另一實例中，一種對視訊資料進行編碼之裝置包括：用於將一多重轉換(MT)方案應用於該視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊的構件；用於對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼的構件；及用於使用該轉換係數區塊對該當前區塊進行編碼的構件。

在以下隨附圖式及描述中闡述一或多個實例之細節。其他特徵、目標及優點將自實施方式及圖式以及申請專利範圍而顯而易見。

本申請案主張2018年6月1日申請之美國臨時申請案第62/679,570 號之權益，該申請案之全部內容特此以引用之方式併入。

本發明描述與轉換寫碼相關之技術，該轉換寫碼為現代視訊壓縮標準之重要元素，例如，如2015年柏林施普林格出版社M. Wien的高效率視訊寫碼：寫碼工具與規範中所論述。本發明描述相較於先前AMT設計使用較少發訊負擔的多重轉換(MT) (例如，自適應多重轉換(AMT))技術，該等技術諸如2016年1月25日申請的經公開為美國專利公開案第2016/0219290號的美國專利申請案第15/005,736號及2017年7月13日申請的經公開為美國專利公開案第2018/0020218號的美國專利申請案第15/649,612號中所描述的彼等。由於本發明中描述之AMT設計具有較少發訊負擔，因此此等技術可改良寫碼增益且可用於進階視訊編解碼器之上下文中，諸如HEVC之擴展或下一代視訊寫碼標準。

一般而言，視訊資料表示為一系列圖像。視訊寫碼器將該等圖像分割成區塊，且對該等區塊中之每一者進行寫碼。寫碼一般包括預測及殘餘寫碼。在預測期間，視訊寫碼器可使用框內預測(其中，預測區塊係由相同圖像的相鄰的先前經寫碼區塊形成)或框間預測(其中，預測區塊係由先前經寫碼圖像之先前經寫碼區塊形成)形成預測區塊。殘餘區塊表示預測區塊與原始的未經寫碼區塊之間的逐像素差。視訊編碼器可將轉換應用於殘餘區塊以產生包括轉換係數之轉換區塊，而視訊解碼器可將反轉換應用於轉換區塊以再生殘餘區塊之版本。

轉換一般對應於導出輸入信號(例如，原始區塊之殘餘)之替代性表示的過程。在給定N點向量 x =[x ₀ ,x ₁ ,…,x _N-1 ]^T 及一組給定向量{ ɸ ₀ , ɸ ₁ , …, ɸ _M-1 }的情況下， x 可使用 ɸ ₀ 、 ɸ ₁ 、……、 ɸ _M-1 之線性組合進行估算或精確表示，其可如下進行公式化：

其中

可為x 之近似值或等值，向量 f = [f _i , f ₂ , ..., f _M-1 ]被稱作轉換係數向量，且{ɸ₀ , ɸ₁ , …, ɸ_M-1 }為轉換基礎向量。

在視訊寫碼之情境中，轉換係數大致不相關且稀疏。亦即，輸入向量x 之能量僅僅在幾個轉換係數上係集中的，且剩餘大多數轉換係數通常接近於0。

在給定特定輸入資料的情況下，就能量集中性而言最優轉換為所謂的Karhunen-Loeve轉換(KLT)，其使用之輸入資料之協方差矩陣本徵向量作為轉換基礎向量。因此，KLT實際上為資料獨立之轉換且不具有通用數學公式。然而，在某些假定(例如，輸入資料形成一階靜止馬爾可夫程序)下，文獻中已證實對應KLT實際上為單一轉換的正弦族中之成員，在1979年模式分析及機器智能IEEE彙刊，1,356，Jain, A.K.之單一轉換的正弦族中描述單一轉換。單一轉換的正弦族可使用經公式化如下的轉換基礎向量指示轉換： ɸ _m (k) =A ·e ^ikɵ +B ·e ^-ikɵ 其中e 為近似於2.71828之自然對數之底，A 、B 及ɵ 通常為複雜的且取決於m 之值。

包括離散傅里葉(Fourier)、餘弦、正弦及KLT (用於一階靜止馬爾可夫程序)之若干公認轉換為單一轉換之正弦族之成員。根據IEEE彙刊信號處理SP-42, 1038-1051 (1994) S. A. Martucci的「Symmetric convolution and the discrete sine and cosine transforms」，整個離散餘弦轉換(DCT)及離散正弦轉換(DST)族總共包括基於不同類型(亦即，不同的A 、B 及ɵ 值)之16個轉換，且下文給出不同類型之DCT及DST之完整定義。

在假定輸入N 點向量表示為x=[x ₀ ,x ₁ ,…,x _N-1 ]^T 且其藉由乘以矩陣經轉換至被表示為y=[y ₀ ,y ₁ ,…,y _N-1 ]^T 之另一N 點轉換係數向量的情況下，此轉換之過程可根據以下轉換公式中之一者進一步說明，其中k 在0至N-1 (包括端點)之範圍：DCT 類型 I (DCT-1) ：

，其中

DCT 類型 II (DCT-2) ：

，其中

DCT 類型 III (DCT-3) ：

，其中

DCT 類型 IV (DCT-4) ：

，DCT 類型 V (DCT-5) ：

，其中

DCT 類型 VI (DCT-6) ：

，其中

DCT 類型 VII (DCT-7) ：

，其中

DCT 類型 VIII (DCT-8) ：

，DST 類型 I (DST-1) ：

，DST 類型 II (DST-2) ：

，其中

DST 類型 III (DST-3) ：

，其中

DST 類型 IV (DST-4) ：

，DST 類型 V (DST-5) ：

，DST 類型 VI (DST-6) ：

，DST 類型 VII (DST-7) ：

，DST 類型 VIII (DST-8) ：

，其中

轉換類型由轉換基礎函數之數學公式來指定。舉例而言，4點DST-VII及8點DST-VII具有相同轉換類型，不管N之值如何。

在不損失一般性的情況下，所有上文轉換類型可使用下文的通用公式來表示：

，其中T為藉由一個特定轉換(例如，DCT類型I～DCT類型VIII，或DST類型I～DST類型VIII)之定義所指定的轉換矩陣，且T之列向量(例如，[T_i,0 , T_i,1 , T_i,2 , …, T_i,N-1 ])為第i 轉換基礎向量。應用於N點輸入向量上之轉換被稱作N點轉換。

亦應注意，上文被應用於一維(1-D)輸入資料x 之轉換公式可如下表示為矩陣乘法形式

其中T指示轉換矩陣，x 指示輸入資料向量，及y 指示輸出轉換係數向量。

如上文引入的轉換被應用於1-D輸入資料，且轉換亦可針對二維(2-D)輸入資料源進行擴展。假設X 為輸入M×N資料陣列。將轉換應用於2-D輸入資料上之典型方法包括可分離的及非可分離的2-D轉換。

可分離的2-D轉換連續應用X之水平向量及豎直向量之1-D轉換，公式如下：

其中C及R分別指示給定M×M及N×N轉換矩陣。自該公式，可見C應用用於X之行向量之1-D轉換，而R應用用於X之列向量之1-D轉換。在本發明之稍後部分中，為簡單起見，C及R表示為左側(豎直)轉換及右側(水平)轉換，且兩者形成轉換對。存在C等於R且為正交矩陣的情況。在此狀況下，可分離的2-D轉換僅由一個轉換矩陣所判定。

非可分離的2-D轉換藉由進行作為一實例的下列數學映射首先將X之所有分量重組成單個向量，即X'：

隨後1-D轉換T'如下應用於X'：

其中T'為(M*N)×(M*N)轉換矩陣。

在視訊寫碼中，一般應用可分離的2-D轉換，此係由於其相較於1-D轉換需要的運算(加法及乘法)計數少得多。

在一些實例視訊編解碼器中，諸如H.264/AVC，4點及8點離散餘弦轉換(DCT)類型II的整數近似值始終用於框內及框間預測殘餘兩者。為更好地適應剩餘樣本之各種統計，除DCT類型II外之更可撓類型之轉換用於新一代視訊編解碼器中。舉例而言，在HEVC中，4點類型VII離散正弦轉換(DST)之整數近似值用於框內預測殘餘，其在理論上及實驗上均得以驗證(在J. Han、A. Saxena及K. Rose的「Towards jointly optimal spatial prediction and adaptive transform in video/image coding」中，IEEE國際聲學會議，話語與信號處理(ICASSP)，2010年3月第726-729頁)，即對於沿框內預測方向產生的殘餘向量，DST類型VII比DCT類型II更高效。舉例而言，對於藉由水平框內預測方向產生的列殘餘向量，DST類型VII比DCT類型II更高效。在HEVC中，4點DST類型VII之整數近似值僅僅應用於4×4明度框內預測殘餘區塊。用於HEVC中之4點DST-VII在下文展示：4 ×4 DST-VII: {29, 55, 74, 84} {74, 74, 0,-74} {84,-29,-74, 55} {55,-84, 74,-29}

在HEVC中，對於不為4×4明度框內預測殘餘區塊之殘餘區塊，亦應用4點、8點、16點及32點DCT類型II之整數近似值，如下文所示：4 點 DCT-II ： {64, 64, 64, 64} {83, 36,-36,-83} {64,-64,-64, 64} {36,-83, 83,-36}8 點 DCT-II ： {64, 64, 64, 64, 64, 64, 64, 64} {89, 75, 50, 18,-18,-50,-75,-89} {83, 36,-36,-83,-83,-36, 36, 83} {75,-18,-89,-50, 50, 89, 18,-75} {64,-64,-64, 64, 64,-64,-64, 64} {50,-89, 18, 75,-75,-18, 89,-50} {36,-83, 83,-36,-36, 83,-83, 36} {18,-50, 75,-89, 89,-75, 50,-18}16 點 DCT-II ： {64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64, 64} {90, 87, 80, 70, 57, 43, 25, 9, -9,-25,-43,-57,-70,-80,-87,-90} {89, 75, 50, 18,-18,-50,-75,-89,-89,-75,-50,-18, 18, 50, 75, 89} {87, 57, 9,-43,-80,-90,-70,-25, 25, 70, 90, 80, 43, -9,-57,-87} {83, 36,-36,-83,-83,-36, 36, 83, 83, 36,-36,-83,-83,-36, 36, 83} {80, 9,-70,-87,-25, 57, 90, 43,-43,-90,-57, 25, 87, 70, -9,-80} {75,-18,-89,-50, 50, 89, 18,-75,-75, 18, 89, 50,-50,-89,-18, 75} {70,-43,-87, 9, 90, 25,-80,-57, 57, 80,-25,-90, -9, 87, 43,-70} {64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64, 64,-64,-64, 64} {57,-80,-25, 90, -9,-87, 43, 70,-70,-43, 87, 9,-90, 25, 80,-57} {50,-89, 18, 75,-75,-18, 89,-50,-50, 89,-18,-75, 75, 18,-89, 50} {43,-90, 57, 25,-87, 70, 9,-80, 80, -9,-70, 87,-25,-57, 90,-43} {36,-83, 83,-36,-36, 83,-83, 36, 36,-83, 83,-36,-36, 83,-83, 36} {25,-70, 90,-80, 43, 9,-57, 87,-87, 57, -9,-43, 80,-90, 70,-25} {18,-50, 75,-89, 89,-75, 50,-18,-18, 50,-75, 89,-89, 75,-50, 18} {9, -25, 43,-57, 70,-80, 87,-90, 90,-87, 80,-70, 57,-43, 25, -9}32 點 DCT-II ： {64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64,64} {90,90,88,85,82,78,73,67,61,54,46,38,31,22,13,4,-4,-13,-22,-31,-38,-46,-54,-61,-67,-73,-78,-82,-85,-88,-90,-90} {90,87,80,70,57,43,25,9,-9,-25,-43,-57,-70,-80,-87,-90,-90,-87,-80,-70,-57,-43,-25,-9,9,25,43,57,70,80,87,90} {90,82,67,46,22,-4,-31,-54,-73,-85,-90,-88,-78,-61,-38,-13,13,38,61,78,88,90,85,73,54,31,4,-22,-46,-67,-82,-90} {89,75,50,18,-18,-50,-75,-89,-89,-75,-50,-18,18,50,75,89,89,75,50,18,-18,-50,-75,-89,-89,-75,-50,-18,18,50,75,89} {88,67,31,-13,-54,-82,-90,-78,-46,-4,38,73,90,85,61,22,-22,-61,-85,-90,-73,-38,4,46,78,90,82,54,13,-31,-67,-88} {87,57,9,-43,-80,-90,-70,-25,25,70,90,80,43,-9,-57,-87,-87,-57,-9,43,80,90,70,25,-25,-70,-90,-80,-43,9,57,87} {85,46,-13,-67,-90,-73,-22,38,82,88,54,-4,-61,-90,-78,-31,31,78,90,61,4,-54,-88,-82,-38,22,73,90,67,13,-46,-85} {83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83,83,36,-36,-83,-83,-36,36,83} {82,22,-54,-90,-61,13,78,85,31,-46,-90,-67,4,73,88,38,-38,-88,-73,-4,67,90,46,-31,-85,-78,-13,61,90,54,-22,-82} {80,9,-70,-87,-25,57,90,43,-43,-90,-57,25,87,70,-9,-80,-80,-9,70,87,25,-57,-90,-43,43,90,57,-25,-87,-70,9,80} {78,-4,-82,-73,13,85,67,-22,-88,-61,31,90,54,-38,-90,-46,46,90,38,-54,-90,-31,61,88,22,-67,-85,-13,73,82,4,-78} {75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75,75,-18,-89,-50,50,89,18,-75,-75,18,89,50,-50,-89,-18,75} {73,-31,-90,-22,78,67,-38,-90,-13,82,61,-46,-88,-4,85,54,-54,-85,4,88,46,-61,-82,13,90,38,-67,-78,22,90,31,-73} {70,-43,-87,9,90,25,-80,-57,57,80,-25,-90,-9,87,43,-70,-70,43,87,-9,-90,-25,80,57,-57,-80,25,90,9,-87,-43,70} {67,-54,-78,38,85,-22,-90,4,90,13,-88,-31,82,46,-73,-61,61,73,-46,-82,31,88,-13,-90,-4,90,22,-85,-38,78,54,-67} {64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64,64,-64,-64,64} {61,-73,-46,82,31,-88,-13,90,-4,-90,22,85,-38,-78,54,67,-67,-54,78,38,-85,-22,90,4,-90,13,88,-31,-82,46,73,-61} {57,-80,-25,90,-9,-87,43,70,-70,-43,87,9,-90,25,80,-57,-57,80,25,-90,9,87,-43,-70,70,43,-87,-9,90,-25,-80,57} {54,-85,-4,88,-46,-61,82,13,-90,38,67,-78,-22,90,-31,-73,73,31,-90,22,78,-67,-38,90,-13,-82,61,46,-88,4,85,-54} {50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50,50,-89,18,75,-75,-18,89,-50,-50,89,-18,-75,75,18,-89,50} {46,-90,38,54,-90,31,61,-88,22,67,-85,13,73,-82,4,78,-78,-4,82,-73,-13,85,-67,-22,88,-61,-31,90,-54,-38,90,-46} {43,-90,57,25,-87,70,9,-80,80,-9,-70,87,-25,-57,90,-43,-43,90,-57,-25,87,-70,-9,80,-80,9,70,-87,25,57,-90,43} {38,-88,73,-4,-67,90,-46,-31,85,-78,13,61,-90,54,22,-82,82,-22,-54,90,-61,-13,78,-85,31,46,-90,67,4,-73,88,-38} {36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36,36,-83,83,-36,-36,83,-83,36} {31,-78,90,-61,4,54,-88,82,-38,-22,73,-90,67,-13,-46,85,-85,46,13,-67,90,-73,22,38,-82,88,-54,-4,61,-90,78,-31} {25,-70,90,-80,43,9,-57,87,-87,57,-9,-43,80,-90,70,-25,-25,70,-90,80,-43,-9,57,-87,87,-57,9,43,-80,90,-70,25} {22,-61,85,-90,73,-38,-4,46,-78,90,-82,54,-13,-31,67,-88,88,-67,31,13,-54,82,-90,78,-46,4,38,-73,90,-85,61,-22} {18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18,18,-50,75,-89,89,-75,50,-18,-18,50,-75,89,-89,75,-50,18} {13,-38,61,-78,88,-90,85,-73,54,-31,4,22,-46,67,-82,90,-90,82,-67,46,-22,-4,31,-54,73,-85,90,-88,78,-61,38,-13} {9,-25,43,-57,70,-80,87,-90,90,-87,80,-70,57,-43,25,-9,-9,25,-43,57,-70,80,-87,90,-90,87,-80,70,-57,43,-25,9} {4,-13,22,-31,38,-46,54,-61,67,-73,78,-82,85,-88,90,-90,90,-90,88,-85,82,-78,73,-67,61,-54,46,-38,31,-22,13,-4}

圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體上係針對寫碼(編碼及/或解碼)視訊資料。大體而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經寫碼的視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如發訊之資料。

如圖1中所示，在此實例中，系統100包括源裝置102，其提供待由目的地裝置116解碼及顯示之經編碼視訊資料。特定而言，源裝置102經由電腦可讀媒體110 (其可為有線或無線的)將視訊資料提供至目的地裝置116。源裝置102及目的地裝置116可包含廣泛範圍裝置中之任一者，包括桌上型電腦、筆記型(亦即，膝上型)電腦、平板電腦、機上盒、電話手持機(諸如智慧型電話)、電視、攝影機、顯示裝置、數字媒體播放器、視訊遊戲控制台、視訊串流裝置或其類似者。在一些情況下，源裝置102及目的地裝置116可經裝備用於無線通信，且由此可稱為無線通信裝置。同樣，另外地或替代性地，源裝置102及目的地裝置116可經裝備用於有線通信。

在圖1之實例中，源裝置102包括視訊源104、記憶體106、視訊編碼器200及輸出介面108。目的地裝置116包括輸入介面122、視訊解碼器300、記憶體120及顯示裝置118。根據本發明，源裝置102之視訊編碼器200及目的地裝置116之視訊解碼器300可經組態以將技術應用於對AMT資料進行寫碼。由此，源裝置102表示視訊編碼裝置之實例，而目的地裝置116表示視訊解碼裝置之實例。在其他實例中，源裝置及目的地裝置可包括其他組件或配置。舉例而言，源裝置102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地裝置116可與外部顯示裝置介接，而非包括整合式顯示裝置。

如圖1中所示之系統100僅為一個實例。一般而言，任何數位視訊編碼及/或解碼裝置可執行用於對AMT資料進行寫碼之技術。源裝置102及目的地裝置116僅為源裝置102產生經寫碼視訊資料以供傳輸至目的地裝置116之此類寫碼裝置的實例。本發明將「寫碼」裝置稱為對資料執行寫碼(編碼及/或解碼)之裝置。由此，視訊編碼器200及視訊解碼器300表示寫碼裝置之實例，特定而言分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，裝置102、116可以實質上對稱的方式操作，使得裝置102、116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援視訊裝置102、116之間的單向或雙向視訊傳播以用於(例如)視訊串流、視訊播放、視訊廣播或視訊電話。

一般而言，視訊源104表示視訊資料源(亦即，原始未經寫碼的視訊資料)且將視訊資料之依序圖像(亦稱為「圖框」)序列提供至視訊編碼器200，該視訊編碼器對圖像之資料進行編碼。源裝置102之視訊源104可包括視訊捕捉裝置，諸如視訊攝影機、含有先前捕捉之原始視訊的視訊存檔及/或用於自視訊內容提供者接收視訊的視訊饋入介面。作為另一替代，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊與電腦產生之視訊的組合。在每一狀況下，視訊編碼器200對所捕捉、預先捕捉或電腦產生之視訊資料進行編碼。視訊編碼器200可將圖像之接收次序(有時稱作「顯示次序」)重新配置成寫碼次序以進行寫碼。視訊編碼器200可產生包括經編碼視訊資料之位元串流。源裝置102可接著經由輸出介面108將經編碼視訊資料輸出至電腦可讀媒體110上，以供藉由(例如)目的地裝置116之輸入介面122接收及/或擷取。

源裝置102之記憶體106及目的地裝置116之記憶體120表示通用記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器300之原始經解碼視訊資料。另外或替代地，記憶體106、120可儲存可分別由(例如)視訊編碼器200及視訊解碼器300執行之軟體指令。儘管在此實例中展示為與視訊編碼器200及視訊解碼器300分開，但應理解，視訊編碼器200及視訊解碼器300亦可包括功能上類似或同等目的之內部記憶體。此外，記憶體106、120可儲存例如自視訊編碼器200輸出及輸入至視訊解碼器300的經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。

電腦可讀媒體110可表示能夠將經編碼視訊資料自源裝置102傳送至目的地裝置116的任何類型之媒體或裝置。在一個實例中，電腦可讀媒體110表示允許源裝置102 (例如)經由射頻網路或基於電腦之網路即時地將經編碼視訊資料直接傳輸至目的地裝置116的通信媒體。輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可根據通信標準(諸如無線通信協定)對所接收傳輸信號進行解調變。通信媒體可包含任何無線或有線通信媒體，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或可用於促進自源裝置102至目的地裝置116之通信的任何其他設備。

在一些實例中，源裝置102可將經編碼資料自輸出介面108輸出至儲存裝置112。類似地，目的地裝置116可經由輸入介面122自儲存裝置112存取經編碼資料。儲存裝置112可包括各種分佈式或本端存取之資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體或用於儲存經編碼視訊資料之任何其他合適的數位儲存媒體。

在一些實例中，源裝置102可將經編碼視訊資料輸出至檔案伺服器114，或可儲存源裝置102所產生之經編碼視訊的另一中間儲存裝置。目的地裝置116可經由串流傳輸或下載而自檔案伺服器114存取所儲存之視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料且將該經編碼視訊資料傳輸至目的地裝置116的任何類型之伺服器裝置。檔案伺服器114可代表網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路裝置或網路附接儲存(NAS)裝置。目的地裝置116可經由包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線通道(例如，Wi-Fi連接)、有線連接(例如，數位用戶線(DSL)、纜線數據機等)，或適合於存取儲存於檔案伺服器114上之經編碼視訊資料的兩者之一組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合操作。

輸出介面108及輸入介面122可表示無線傳輸器/接收器、數據機、有線網路連接組件(例如，乙太網卡)、根據各種IEEE 802.11標準中之任一者來操作的無線通信組件或其他實體組件。在輸出介面108及輸入介面122包含無線組件之實例中，輸出介面108及輸入介面122可經組態以根據蜂巢式通信標準(諸如4G、4G-LTE(長期演進)、LTE進階、5G或其類似者)來傳送資料，諸如經編碼視訊資料。在輸出介面108包含無線傳輸器的一些實例中，輸出介面108及輸入介面122可經組態以根據諸如IEEE 802.11規範、IEEE 802.15規範(例如，ZigBee™)、Bluetooth™標準或其類似者的其他無線標準傳送資料(諸如經編碼視訊資料)。在一些實例中，源裝置102及/或目的地裝置116可包括各別系統單晶片(SoC)裝置。舉例而言，源裝置102可包括SoC裝置以執行歸於視訊編碼器200及/或輸出介面108之功能性，且目的地裝置116可包括SoC裝置以執行歸於視訊解碼器300及/或輸入介面122之功能性。

本發明之技術可應用於支援多種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上的數位視訊之解碼或其他應用。

目的地裝置116之輸入介面122自電腦可讀媒體110 (例如，儲存裝置112、檔案伺服器114或其類似者)接收經編碼視訊位元串流。經編碼視訊位元串流可包括由視訊編碼器200定義之發訊資訊(其亦由視訊解碼器300使用)，諸如具有描述視訊區塊或其他經寫碼單元(例如，圖塊、圖像、圖像群組、序列或其類似者)之特性及/或處理的值的語法元素。顯示裝置118向使用者顯示經解碼視訊資料之經解碼圖像。顯示裝置118可表示各種顯示裝置中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示裝置。

儘管圖1中未示出，但在一些實例中，視訊編碼器200及視訊解碼器300可各自與音訊編碼器及/或音訊解碼器整合，且可包括適當的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。

視訊編碼器200及視訊解碼器300各自可被實施為各種合適編碼器及/或解碼器電路系統中之任一者，諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合。當該等技術部分以軟體實施時，裝置可將用於軟體之指令儲存於合適之非暫時性電腦可讀媒體中，且在硬體中使用一或多個處理器執行指令以執行本發明之技術。視訊編碼器200及視訊解碼器300中之每一者可包括於一或多個編碼器或解碼器中，編碼器或解碼器中之任一者可整合為各別裝置中之組合式編碼器/解碼器(編碼解碼器)的部分。包括視訊編碼器200及/或視訊解碼器300之裝置可包含積體電路、微處理器及/或無線通信裝置(諸如蜂巢式電話)。

視訊編碼器200及視訊解碼器300可根據視訊寫碼標準操作，諸如ITU-T H.265，亦被稱作高效率視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。替代地，視訊編碼器200及視訊解碼器300可根據其他專屬或工業標準操作，諸如聯合探索測試模型(JEM)或ITU-T H.266，其亦被稱作多功能視訊寫碼(VVC)。VVC標準之最新草案描述於2019年3月19日至27日於CH日內瓦的ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)第14次會議JVET-N1001-v3上，Bross等人的「Versatile Video Coding(草案5)」中(在下文中「VVC草案5」)。然而，本發明之技術受限於不限於任何特定寫碼標準。

一般而言，視訊編碼器200及視訊解碼器300可執行圖像之基於區塊寫碼。術語「區塊」一般係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼程序中使用)之資料的結構。舉例而言，區塊可包括明度及/或色度資料樣本之二維矩陣。一般而言，視訊編碼器200及視訊解碼器300可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器200及視訊解碼器300可寫碼明度及色度分量，而非寫碼圖像之樣本的紅色、綠色及藍色(RGB)資料，其中該等色度分量可包括紅色調及藍色調分量兩者。在一些實例中，視訊編碼器200在編碼之前將所接收的RGB格式資料轉變成YUV表示，且視訊解碼器300將YUV表示轉變成RGB格式。或者，預處理單元及後處理單元(圖中未示)可執行此等轉變。

本發明大體可指對圖像進行寫碼(例如編碼及解碼)以包括編碼或解碼圖像之資料的過程。類似地，本發明可指對圖像之區塊進行寫碼以包括對區塊之資料進行編碼或解碼的過程(例如，預測及/或殘餘寫碼)經編碼視訊位元串流一般包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分割的語法元素的一系列值。因此，對寫碼圖像或區塊之提及一般應理解為寫碼形成該圖像或區塊之語法元素的值。

HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)及轉換單元(TU)。根據HEVC，視訊寫碼器(諸如視訊編碼器200)根據四分樹結構將寫碼樹型單元(CTU)分割成CU。亦即，視訊寫碼器將CTU及CU分割成四個相同的非重疊正方形，且四分樹之每一節點具有零個或四個子節點。不具有子節點之節點可被稱作「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可進一步分割PU及TU。舉例而言，在HEVC中，殘餘四分樹(RQT)表示TU之分割。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。經框內預測之CU包括框內預測資訊，諸如框內模式指示。

作為另一實例，視訊編碼器200及視訊解碼器300可經組態以根據JEM操作。根據JEM，視訊寫碼器(諸如視訊編碼器200)將圖像分割成複數個寫碼樹型單元(CTU)。視訊編碼器200可根據樹型結構(諸如四分樹二元樹(QTBT)結構)分割CTU。JEM之QTBT結構移除多個分割類型之概念，諸如HEVC之CU、PU及TU之間的間距。QTBT結構包括兩個層級：根據四分樹分割進行分割的第一層級，及根據二元樹分割進行分割的第二層級。QTBT結構之根節點對應於CTU。二元樹之葉節點對應於寫碼單元(CU)。

在一些實例中，視訊編碼器200及視訊解碼器300可使用單一QTBT結構以表示明度及色度分量中之每一者，而在其他實例中，視訊編碼器200及視訊解碼器300可使用兩個或大於兩個QTBT結構，諸如用於明度分量之一個QTBT結構及用於兩個色度分量之另一QTBT結構(或用於各別色度分量之兩個QTBT結構)。

視訊編碼器200及視訊解碼器300可經組態以使用根據HEVC之四分樹分割、根據JEM之QTBT分割，或其他分割結構。出於解釋之目的，關於QTBT分割呈現本發明之技術的描述。然而，應理解本發明之技術亦可應用於經組態以使用四分樹分割亦或其他類型之分割的視訊寫碼器。

本發明可能可互換地使用「N×N」及「N乘N」以指區塊(諸如CU或其他視訊區塊)在豎直及水平尺寸方面之樣本尺寸，例如16×16樣本或16乘16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y = 16)且在水平方向上將具有16個樣本(x = 16)。同樣地，N×N區塊通常在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可按列及行來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包含N×M個樣本，其中M未必等於N。

視訊編碼器200編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將如何對CU進行預測以形成CU之預測區塊。殘餘資訊一般表示編碼前CU與預測區塊之樣本之間的逐樣本差。

為了預測CU，視訊編碼器200一般可經由框間預測或框內預測形成CU之預測區塊。框間預測一般係指自先前經寫碼圖像之資料預測CU，而框內預測一般係指自同一圖像之先前經寫碼資料預測CU。為了執行框間預測，視訊編碼器200可使用一或多個運動向量來產生預測區塊。視訊編碼器200可一般執行運動搜尋以識別緊密匹配CU的參考區塊(例如，在CU與參考區塊之間的差方面)。視訊編碼器200可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器200可使用單向預測或雙向預測來預測當前CU。

JEM亦提供仿射運動補償模式，其可被視為框間預測模式。在仿射運動補償模式中，視訊編碼器200可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或大於兩個運動向量。

為執行框內預測，視訊編碼器200可選擇框內預測模式以產生預測區塊。JEM提供六十七種框內預測模式，包括各種定向模式以及平面模式及DC模式。一般而言，視訊編碼器200選擇描述當前區塊(例如，CU之區塊)的相鄰樣本的框內預測模式，其中自該框內預測模式預測當前區塊之樣本。此類樣本一般可與當前區塊在同一圖像中，在當前區塊之上方、左上方或左側，假定視訊編碼器200以光柵掃描次序(左至右、上至下)寫碼CTU及CU。

視訊編碼器200對表示當前區塊之預測模式的資料進行編碼。舉例而言，針對框間預測模式，視訊編碼器200可對表示使用多種可用框間預測模式中之哪一者以及對應模式之運動資訊的資料進行編碼。舉例而言，對於單向或雙向框間預測，視訊編碼器200可使用進階運動向量預測(AMVP)或合併模式來編碼運動向量。視訊編碼器200可使用類似模式來對仿射運動補償模式之運動向量進行編碼。

在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器200可計算用於該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊之使用對應預測模式所形成的預測區塊之間的逐樣本差。視訊編碼器200可將一或多個轉換應用於殘餘區塊，以在轉換域而非樣本域中產生經轉換資料。舉例而言，視訊編碼器200可將離散餘弦轉換(DCT)、整數轉換、小波轉換或概念上類似的轉換應用於殘餘視訊資料。另外，視訊編碼器200可在一級轉換之後應用次級轉換，諸如模式依賴不可分次級轉換(MDNSST)、信號依賴轉換、Karhunen-Loeve轉換(KLT)或其類似者。視訊編碼器200在應用一或多個轉換之後產生轉換係數。

如上文所提及，在任何轉換以產生轉換係數後，視訊編碼器200可執行轉換係數之量化。量化通常指轉換係數經量化以可能減少用以表示係數的資料的量從而提供進一步壓縮之過程。藉由執行量化過程，視訊編碼器200可減少與係數中之一些或所有相關聯的位元深度。舉例而言，視訊編碼器200可在量化期間將n 位元值下捨入至m 位元值，其中n 大於m 。在一些實例中，為了進行量化，視訊編碼器200可進行待量化值之按位元右移位。

在量化之後，視訊編碼器200可掃描轉換係數，從而自包括經量化轉換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)係數置於向量前部，且將較低能量(且因此較高頻率)轉換係數置於向量後部。在一些實例中，視訊編碼器200可利用預定義掃描次序來掃描經量化轉換係數以產生串列化向量，且隨後對向量之經量化轉換係數進行熵編碼。在其他實例中，視訊編碼器200可執行自適應掃描。在掃描經量化轉換係數以形成一維向量之後，視訊編碼器200可(例如)根據上下文適應性二進位算術寫碼(CABAC)對一維向量進行熵編碼。視訊編碼器200亦可熵編碼描述與經編碼視訊資料相關聯的後設資料之語法元素之值，以供由視訊解碼器300用於解碼視訊資料。

為執行CABAC，視訊編碼器200可將上下文模型內之上下文指派給待傳輸之符號。該上下文可能涉及(例如)符號之鄰近值是否為零值。機率判定可基於經指派至符號之上下文而進行。

視訊編碼器200可進一步(例如)在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中產生語法資料，諸如基於區塊之語法資料、基於圖像之語法資料及基於序列之語法資料至視訊解碼器300中。視訊解碼器300可同樣地對此類語法資料進行解碼以判定如何對對應視訊資料進行解碼。

以此方式，視訊編碼器200可產生位元串流，包括經編碼視訊資料，例如，描述圖像至區塊(例如，CU)之分割的語法元素，及用於該等區塊的預測及/或殘餘資訊。最後，視訊解碼器300可接收位元串流並對經編碼視訊資料進行解碼。

大體而言，視訊解碼器300執行與藉由視訊編碼器200執行之程序互逆的過程，以對位元串流之經編碼視訊資料進行解碼。舉例而言，視訊解碼器300可使用CABAC以與視訊編碼器200之CABAC編碼過程實質上類似但互逆的方式對位元串流之語法元素的值進行解碼。語法元素可定義圖像至CTU之分割資訊及每一CTU根據對應分區結構(諸如QTBT結構)之分割，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如，CU)的預測及殘餘資訊。

殘餘資訊可由例如經量化轉換係數表示。視訊解碼器300可將區塊之經量化轉換係數反量化及反轉換，以再生區塊之殘餘區塊。視訊解碼器300使用經發訊預測模式(框內或框間預測)及相關預測資訊(例如，用於框間預測之運動資訊)，以形成用於該區塊之預測區塊。視訊解碼器300可接著(在逐樣本基礎上)使預測區塊與殘餘區塊組合以再生原始區塊。視訊解碼器300可執行額外處理，諸如執行解區塊過程以減少沿區塊邊界之視覺假影。

本揭示通常可指「發訊」某些資訊，諸如語法元素。術語「發訊」一般可指用於解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器200可在位元串流中發訊語法元素的值。大體而言，發訊指在位元串流中產生值。如上文所提及，源裝置102可實質上即時地將位元串流運送至目的地裝置116，或不即時運送，諸如可在將語法元素儲存至儲存裝置112以供目的地裝置116稍後擷取時發生。

圖2A及圖2B為說明實例四分樹二元樹(QTBT)結構130及對應寫碼樹型單元(CTU) 132之概念圖。實線表示四分樹分裂，且點線指示二元樹分裂。在二元樹之每一分裂(亦即，非葉)節點中，一個旗標經發訊以指示使用哪一分裂類型(亦即，水平或豎直)，其中在此實例中，0指示水平分裂且1指示豎直分裂。對於四分樹分裂，不存在對於指示分裂類型之需要，此係由於四分樹節點分裂將區塊水平地及豎直地分裂成具有相等大小之4個子區塊。因此，視訊編碼器200可編碼，且視訊解碼器300可解碼用於QTBT結構130之區域樹層級(亦即實線)的語法元素(諸如分裂資訊)及用於QTBT結構130之預測樹層級(亦即虛線)的語法元素(諸如分裂資訊)。視訊編碼器200可編碼，且視訊解碼器300可解碼用於由QTBT結構130之端葉節點表示之CU的視訊資料(諸如預測及轉換資料)。

大體而言，圖2B之CTU 132可與定義對應於在第一及第二層級處的QTBT結構130之節點的區塊之大小的參數相關聯。此等參數可包括CTU大小(表示樣本中之CTU 132之大小)、最小四分樹大小(MinQTSize，表示最小允許四分樹葉節點大小)、最大二元樹大小(MaxBTSize，表示最大允許二元樹根節點大小)、最大二元樹深度(MaxBTDepth，表示最大允許二元樹深度)，及最小二元樹大小(MinBTSize，表示最小允許二元樹葉節點大小)。

QTBT結構中對應於CTU之根節點可具有在QTBT結構之第一層級處的四個子節點，該等節點中之每一者可根據四分樹分割來分割。亦即，第一層級之節點為葉節點(不具有子節點)或具有四個子節點。QTBT結構130之實例表示諸如包括具有用於分枝之實線之父節點及子節點的節點。若第一層級之節點不大於最大允許二元樹根節點大小(MaxBTSize)，則其可藉由各別二元樹進一步分割。一個節點之二元樹分裂可重複，直至由分裂產生之節點達到最小允許之二元樹葉節點大小(MinBTSize)，或最大允許之二元樹深度(MaxBTDepth)為止。QTBT結構130之實例表示諸如具有用於分枝之虛線的節點。二元樹葉節點被稱作寫碼單元(CU)，其用於在無更進一步分割的情況下的預測(例如，圖像內或圖像間預測)及轉換。如上文所論述，CU亦可被稱作「視訊區塊」或「區塊」。

在QTBT分割結構之一個實例中，CTU大小經設定為128×128(明度樣本及兩個對應64×64色度樣本)，MinQTSize經設定為16×16，MaxBTSize經設定為64×64，MinBTSize(對於寬度及高度兩者)經設定為4，且MaxBTDepth經設定為4。四分樹分割首先應用於CTU以產生四分樹葉節點。四分樹葉節點可具有16×16 (亦即，MinQTSize)至128×128 (亦即，CTU大小)之大小。若葉四分樹節點為128×128，將不會藉由二元樹進一步分裂，此係由於大小超過MaxBTSize(亦即，在此實例中，64×64)。否則，葉四分樹節點將藉由二元樹進一步分割。因此，四分樹葉節點亦為二元樹之根節點並具有為0之二元樹深度。當二元樹深度達至MaxBTDepth (在此實例中為4)時，不准許進一步分裂。當二元樹節點具有等於MinBTSize (在此實例中，4)之寬度時，其意指不准許進一步水平分裂。類似地，具有等於MinBTSize之高度的二元樹節點意指不准許對該二元樹節點進行進一步豎直分裂。如上文所提及，二元樹之葉節點被稱作CU，且根據預測及轉換來進一步處理而不進一步分割。

圖3A及圖3B為說明基於HEVC之殘餘四分樹的實例轉換方案之概念圖。在HEVC中，應用使用殘餘四分樹(RQT)之轉換寫碼結構以調適殘餘區塊之各種特性，其如下簡要描述，自www.hhi.fraunhofer.de/fields-of-competence/image-processing/research-groups/image-video-coding/hevc-high-efficiency-video-coding/transform-coding-using-the-residual-quadtree-rqt.html調適。

在HEVC中，每一圖像被劃分成寫碼樹型單元(CTU)，其針對特定塊或圖塊以光柵掃描次序進行寫碼。CTU為方形區塊且表示四分樹(亦即，寫碼樹)之根。CTU大小可在8×8至64×64明度樣本範圍內，但通常使用64×64。每一CTU可進一步分裂成被稱作寫碼單元(CU)之更小方形區塊。

在CTU以遞歸方式分裂成CU之後，每一CU經進一步分成預測單元(PU)及轉換單元(TU)。基於四分樹方法以遞歸方式進行將CU分割成TU，因此每一CU之殘餘信號藉由樹型結構(即，殘餘四分樹(RQT))來寫碼。RQT允許自4×4達32×32明度樣本之TU大小。

圖3A展示其中CU 134包括10個TU (標記有字母a至j)及對應區塊分割之實例。圖3B中所示的RQT 136之每一節點實際上為對應於圖3A之轉換單元(TU)。以深度優先樹遍歷次序處理個別TU，該次序在圖3A中繪示為字母表次序，該次序之後為具有深度優先遍歷之遞歸Z掃描。四分樹方法使得能夠將調適轉換至殘餘信號之變化空間頻率特性。

通常，具有更大空間支援之更大轉換區塊大小提供更好的頻率解析度。然而，具有更小空間支援之更小轉換區塊大小提供更好的空間解析率。(例如)基於速率-失真最佳化技術藉由編碼器模式決策選擇兩個(空間及頻率)解析度之間的折衷。速率-失真最佳化技術針對每一寫碼模式(例如，特定RQT分裂結構)計算寫碼位元及重建構失真之加權總和(亦即，速率-失真成本)，並選擇具有最小速率-失真成本之寫碼模式作為最佳模式。

三個參數根據HEVC定義於RQT中：樹之最大深度、最小允許之轉換大小及最大允許之轉換大小。最小及最大轉換大小可在自4×4至32×32樣本範圍內變化，對應於先前段落中提到之所支援區塊轉換。RQT之最大允許之深度限制TU之數目。最大深度等於零意謂：若每一所包括TB達至最大允許轉換大小(例如，32×32)，則不能更進一步分裂CB。

在HEVC中，所有此等參數與RQT結構互動且影響該RQT結構。考慮根CB大小為64×64，最大深度等於零且最大轉換大小等於32×32的狀況。在此狀況下，CB不得不被分割至少一次，因為否則的話其將產生不被允許的64×64 TB。RQT參數(亦即，最大RQT深度、最小轉換大小及最大轉換大小)根據HEVC以序列參數集位準於位元串流中傳輸。考慮RQT深度，可針對經框內及框間寫碼CU指定且發訊不同值。

在HEVC中，四分樹轉換被應用於框內及框間殘餘區塊兩者。通常，將當前殘餘四分樹分區之相同大小的DCT-II轉換應用於殘餘區塊。然而，若當前殘餘四分樹區塊為4×4且由框內預測產生，則應用上述4×4 DST-VII轉換。

在HEVC中，不採用更大之大小轉換(例如，64×64轉換)，此主要歸因於其在考慮對於相對較小解析度視訊之相對高的複雜度時的受限之益處。

圖4為說明具有自適應轉換選擇的用於混合型視訊編碼之實例系統140的方塊圖。在此實例中，系統140包括區塊分隔單元142、區塊轉換單元144、量化單元146、區塊預測單元148、轉換組150、熵寫碼單元152、圖框緩衝器154、反轉換單元156、反量化單元158、殘餘產生單元160及區塊再生單元162。

一般而言，區塊分隔單元142自視訊資料之圖像(亦即，圖框)產生區塊。區塊預測單元148產生用於當前區塊之預測區塊(p)，且殘餘產生單元160自當前(未經寫碼)區塊及預測區塊(p)產生殘餘區塊(r)。圖框緩衝器154 (亦被稱作經解碼圖像緩衝器(DPB))儲存當前圖像及先前經解碼圖框之經解碼資料(若存在的話)。區塊預測單元148可自儲存於圖框緩衝器154中之一或多個圖像的先前經解碼資料產生預測區塊。

區塊轉換單元144將一或多個轉換(T^(t) )應用於殘餘區塊(包括空間域中之殘餘資料)，以產生表示頻域中之殘餘資料的轉換區塊(T^(t) r)。轉換(^T(t) )可為(例如)離散餘弦轉換(DCT)、離散正弦轉換(DST)、水平及/或豎直轉換、Karhunen-Loeve轉換(KLT)或任何其他此類轉換。區塊轉換單元144將轉換區塊(T^(t) r)提供至量化單元146，且將轉換(t)之一指示提供至轉換組150及熵寫碼單元152。轉換組150將一或多個轉換矩陣提供至區塊轉換單元144及反轉換單元156。

根據本發明之技術，區塊轉換單元144可將多重轉換方案應用於殘餘區塊。類似地，反轉換單元156可將反多重轉換方案應用於轉換區塊。多重轉換(或反多重轉換)方案可包括初級轉換及二級轉換，諸如旋轉轉換。另外地或替代性地，多重轉換(或反多重轉換)方案可表示水平轉換及豎直轉換兩者。更一般而言，多重轉換(或反多重轉換)方案可表示可分離及/或不可分離轉換之任何組合。

量化單元146將轉換區塊之轉換係數量化且將經量化轉換區塊提供至熵寫碼單元152及反量化單元158。熵寫碼單元152對表示(例如)轉換指示(t)、經量化轉換係數、預測資訊(例如，預測模式及諸如待用於預測模式中之參考資料的位置的對應資訊，例如，用於框間預測之運動資訊)的語法元素進行編碼。熵寫碼單元152可使用本發明之技術，使用截斷一元碼字對轉換指示(t)進行熵編碼。亦即，一個截斷一元碼字可表示多重轉換(MT)方案，例如，初級轉換及二級轉換兩者、水平轉換及豎直轉換兩者，及/或可分離及/或不可分離轉換之任何組合。

反量化單元158可將自量化單元146接收之經量化轉換係數反量化(亦即，解量化)。反轉換單元156可將反多重轉換方案應用於自反量化單元158接收之轉換係數，以再生用於當前區塊之殘餘區塊(r')。區塊再生單元162進一步將來自區塊預測單元148之預測區塊(p)與經再生殘餘區塊(r')組合以形成經解碼區塊，該經解碼區塊被儲存於圖框緩衝器154中。

本發明之技術可由系統140或對應解碼系統執行。一般而言，本發明之技術適用於自適應轉換寫碼方案，其中對於預測殘餘之每一區塊，不同轉換可藉由視訊編碼器選擇，作為旁側資訊予以發訊，且藉由視訊解碼器使用旁側資訊判定。

圖5A以及圖5B為將水平轉換及豎直轉換說明為單獨轉換實施的概念圖。圖5A表示一組H水平轉換170，而圖5B表示一組W豎直轉換172。特定而言，殘餘值之水平線及豎直線可分別使用水平轉換170及豎直轉換172進行獨立轉換。

在HEVC之前的視訊寫碼標準中，僅僅使用固定可分離轉換，其中既豎直地且亦水平地使用DCT-2。在HEVC中，除DCT-2之外，亦針對4×4區塊使用DST-7作為固定可分離轉換。美國專利申請案第15/005,736號及第15/649,612號涵蓋彼等固定轉換之自適應擴展，且聯合視訊專家小組(JVET)之聯合實驗模型(JEM)中已採用AMT之實例。

圖6為說明用於發訊轉換之實例技術的概念圖。特定而言，圖6表示根據美國專利申請案第15/005,736號及第15/649,612號中所描述之技術的碼字180之實例集合。美國專利申請案第15/005,736號及第15/649,612號中所描述的AMT設計為編碼器提供5個轉換選項以在每區塊之基礎上選擇(此選擇一般基於速率-失真度量進行)。隨後，將選定轉換索引發訊至解碼器。

圖6說明美國專利申請案第15/005,736號及第15/649,612號中所提議的發訊，其中使用1位元發訊預設轉換，且使用2個額外位元(亦即，總計3個位元)發訊一組四個其他轉換中之一者。在美國專利申請案第15/005,736號及第15/649,612號中，選擇預設轉換作為可分離2-D DCT，其既豎直地且亦水平地應用DCT-2。剩餘AMT係基於美國專利申請案第15/005,736號中之框內模式資訊進行定義。美國專利申請案第15/649,612號藉由基於預測模式及區塊大小資訊兩者定義該組彼等四個轉換來提議美國專利申請案第15/005,736號之擴展。特定而言，在圖6之實例中，於五個轉換中，該等轉換中之一者(預設轉換)使用0 (亦即，一個位元)發訊，且其他四個轉換使用三個位元(亦即，100、101、110及111)發訊。

美國專利申請案第15/005,736號及第15/649,612號中的AMT設計之發訊負擔可縮減，此係由於發訊3個位元以識別用於每一區塊的四個轉換中之一個。因此，不管具有四個轉換選項與否，寫碼效率可能降低，此係由於發訊負擔可能不會產生良好的速率-失真取捨。為了降低美國專利申請案第15/005,736號及第15/649,612號中之3位元發訊負擔，本發明描述用於在具有較少發訊負擔的情況下使用較少數目個轉換的技術。舉例而言，本發明之技術可包括針對五個可能轉換使用一位元或兩位元發訊。另外地或替代性地，可針對每一可能轉換定義截斷一元碼字。在使用此方法的情況下，相較於美國專利申請案第15/005,736號及第15/649,612號之技術，所提議設計亦減少在編碼器側搜尋更多轉換之複雜度。

圖7為說明可執行本發明之技術的實例視訊編碼器200的方塊圖。出於解釋之目的而提供圖7，且不應將其視為對如本發明中廣泛例示及描述之技術的限制。出於解釋之目的，本發明在諸如HEVC視訊寫碼標準及研發中之H.266視訊寫碼標準的視訊寫碼標準之情況下描述視訊編碼器200。然而，本發明之技術不限於此等視訊寫碼標準，且大體可適用於視訊編碼及解碼。

在圖7之實例中，視訊編碼器200包括視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、轉換處理單元206、量化單元208、反量化單元210、反轉換處理單元212、重建構單元214、濾波器單元216、經解碼圖像緩衝器(DPB) 218及熵編碼單元220。圖7可進一步包括轉換組，其中轉換處理單元206及反轉換處理單元212自該轉換組選擇根據本發明之技術的轉換，如上文圖4中所示。同樣，如圖4中所示，轉換處理單元206可將選定轉換之一指示提供至熵編碼單元220，該熵編碼單元可根據本發明之技術對資料進行編碼，該資料表示針對視訊資料之當前區塊選擇用於AMT方案之多種轉換中的哪一者。

視訊資料記憶體230可儲存待由視訊編碼器200之組件編碼的視訊資料。視訊編碼器200可自(例如)視訊源104 (圖1)接收儲存於視訊資料記憶體230中之視訊資料。DPB 218可充當參考圖像記憶體，其儲存參考視訊資料以供用於藉由視訊編碼器200預測後續視訊資料。視訊資料記憶體230及DPB 218可由諸如動態隨機存取記憶體(DRAM)之多種記憶體裝置中之任一者形成，包括同步DRAM (SDRAM)、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置。視訊資料記憶體230及DPB 218可由同一記憶體裝置或單獨記憶體裝置提供。在各種實例中，視訊資料記憶體230可在晶片上具有視訊編碼器200之其他組件，如所說明，或晶片外與彼等組件有關。

在本發明中，對視訊資料記憶體230之參考不應解釋為將記憶體限於在視訊編碼器200內部(除非特定地如此描述)，或將記憶體限於在視訊編碼器200外部(除非特定地如此描述)。實情為，對視訊資料記憶體230之參考應理解為對儲存視訊編碼器200所接收以用於編碼的視訊資料(例如，待被編碼的當前區塊之視訊資料)記憶體的參考。圖1之記憶體106亦可提供對來自視訊編碼器200之各種單元的輸出的臨時儲存。

圖7之各種單元經說明以輔助理解藉由視訊編碼器200執行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。固定功能電路指提供特定功能性且預設可被執行之操作的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可執行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型通常係不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。

視訊編碼器200可包括由可程式化電路形成的算術邏輯單元(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式化核心。在視訊編碼器200之操作係使用由可程式化電路執行之軟體執行的實例中，記憶體106 (圖1)可儲存視訊編碼器200接收並執行的軟體之目標程式碼，或視訊編碼器200內之另一記憶體(未展示)可儲存此類指令。

視訊資料記憶體230經組態以儲存所接收視訊資料。視訊編碼器200可自視訊資料記憶體230擷取視訊資料之圖像，並將視訊資料提供至殘餘產生單元204及模式選擇單元202。視訊資料記憶體230中之視訊資料可為待編碼之原始視訊資料。

模式選擇單元202包括運動估計單元222、運動補償單元224及框內預測單元226。模式選擇單元202可包括額外功能單元以根據其他預測模式執行視訊預測。作為實例，模式選擇單元202可包括調色板單元、區塊內複製單元(其可為運動估計單元222及/或運動補償單元224之部分)、仿射單元、線性模型(LM)單元或其類似者。

模式選擇單元202大體協調多個編碼遍次，以測試編碼參數之組合及用於此等組合之所得速率-失真值。編碼參數可包括CTU至CU之分割、用於CU之預測模式、用於CU之殘餘資料的轉換類型、用於CU之殘餘資料的量化參數等。模式選擇單元202可最終選擇相比其他所測試組合具有更佳速率-失真值的編碼參數之組合。

視訊編碼器200可將自視訊資料記憶體230擷取之圖像分割成一系列CTU，並將一或多個CTU囊封於圖塊內。模式選擇單元202可根據樹型結構(諸如上文所描述之HEVC的QTBT結構或四分樹結構)分割圖像之CTU。如上文所描述，視訊編碼器200可藉由根據樹型結構分割CTU來形成一或多個CU。此CU亦可大體被稱為「視訊區塊」或「區塊」。

一般而言，模式選擇單元202亦控制其組件(例如，運動估計單元222、運動補償單元224及框內預測單元226)以產生用於當前區塊(例如，當前CU，或在HEVC中之PU與TU之重疊部分)之預測區塊。對於當前區塊之框間預測，運動估計單元222可執行運動搜尋以識別一或多個參考圖像(例如，儲存於DPB 218中之一或多個先前經寫碼圖像)中的一或多個緊密匹配之參考區塊。詳言之，運動估計單元222可(例如)根據絕對差總和(SAD)、平方差總和(SSD)、平均值絕對差(MAD)、均方差(MSD)或其類似者來計算表示潛在參考區塊與當前區塊之類似程度的值。運動估計單元222可大體使用當前區塊與所考慮之參考區塊之間的逐樣本差來執行此等計算。運動估計單元222可識別具有由此等計算產生之最小值的參考區塊，從而指示最緊密匹配當前區塊之參考區塊。

運動估計單元222可形成一或多個運動向量(MV)，其關於當前圖像中之當前區塊的位置界定參考圖像中之參考區塊的位置。運動估計單元222可接著將運動向量提供至運動補償單元224。舉例而言，對於單方向框間預測，運動估計單元222可提供單個運動向量，而對於雙向框間預測，運動估計單元222可提供兩個運動向量。運動補償單元224可接著使用運動向量產生預測區塊。舉例而言，運動補償單元224可使用運動向量擷取參考區塊之資料。作為另一實例，若運動向量具有分數樣本精確度，則運動補償單元224可根據一或多個內插濾波器為預測區塊內插值。此外，對於雙向框間預測，運動補償單元224可擷取用於藉由各別運動向量識別之兩個參考區塊的資料，並(例如)經由逐樣本求平均值或經加權求平均值來組合所擷取之資料。

作為另一實例，對於框內預測，或框內預測寫碼，框內預測單元226可自鄰近當前區塊之樣本產生預測區塊。舉例而言，對於方向模式，框內預測單元226可在數學上大體組合相鄰樣本之值，且在橫跨當前區塊之所定義方向上填入此等計算值以產生預測區塊。作為另一實例，對於DC模式，框內預測單元226可計算至當前區塊之相鄰樣本的平均值，並產生預測區塊以針對預測區塊之每一樣本包括此所得平均值。

模式選擇單元202將預測區塊提供至殘餘產生單元204。殘餘產生單元204自視訊資料記憶體230接收當前區塊之原始的未經寫碼版本，且自模式選擇單元202接收預測區塊之原始的未經寫碼版本。殘餘產生單元204計算當前區塊與預測區塊之間的逐樣本差。所得逐樣本差定義用於當前區塊之殘餘區塊。在一些實例中，殘餘產生單元204亦可判定殘餘區塊中之樣本值之間的差，以使用殘餘差分脈碼調變(RDPCM)產生殘餘區塊。在一些實例中，可使用執行二進位減法之一或多個減法器電路形成殘餘產生單元204。

在模式選擇單元202將CU分割成PU之實例中，每一PU可與明度預測單元及對應色度預測單元相關聯。視訊編碼器200及視訊解碼器300可支援具有各種大小之PU。如上文所指示，CU之大小可指CU之明度寫碼區塊的大小，且PU之大小可指PU之明度預測單元的大小。假定特定CU之大小為2N×2N，則視訊編碼器200可支援用於框內預測的2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器200及視訊解碼器300亦可支援用於框間預測的2N×nU、2N×nD、nL×2N及nR×2N之PU大小的不對稱分割。

在模式選擇單元未將CU進一步分割為PU的實例中，每一CU可與明度寫碼區塊及對應色度寫碼區塊相關聯。如上，CU之大小可指CU之明度寫碼區塊的大小。視訊編碼器200及視訊解碼器300可支援2N×2N、2N×N或N×2N之CU大小。

對於諸如區塊內複製模式寫碼、仿射模式寫碼及線性模型(LM)模式寫碼之另一視訊寫碼技術，如少數實例，模式選擇單元202經由與寫碼技術相關聯之各別單元產生用於正編碼之當前區塊的預測區塊。在諸如調色板模式寫碼的一些實例中，模式選擇單元202可能不會產生預測區塊，而是產生指示基於所選擇調色板重建構區塊之方式的語法元素。在此等模式中，模式選擇單元202可將此等語法元素提供至熵編碼單元220以待編碼。

如上文所描述，殘餘產生單元204接收用於當前區塊及對應預測區塊之視訊資料。殘餘產生單元204隨後產生用於當前區塊之殘餘區塊。為產生殘餘區塊，殘餘產生單元204計算預測區塊與當前區塊之間的逐樣本差。

轉換處理單元206將一或多個轉換應用於殘餘區塊以產生轉換係數之區塊(在本文中被稱作「轉換係數區塊」)。轉換處理單元206可將各種轉換應用於殘餘區塊以形成轉換係數區塊。舉例而言，轉換處理單元206可將離散餘弦轉換(DCT)、定向轉換、Karhunen-Loeve轉換(KLT)或概念上類似之轉換應用於殘餘區塊。在一些實例中，轉換處理單元206可對殘餘區塊執行多個轉換(例如，初級轉換及二級轉換)，諸如旋轉轉換或水平轉換及豎直轉換。在一些實例中，轉換處理單元206不將轉換應用於殘餘區塊。

根據本發明之技術，轉換處理單元206可將多重轉換(MT)方案之多個轉換應用於當前區塊之殘餘區塊。MT方案可定義(例如)待應用於殘餘區塊之初級轉換及二級轉換。另外地或替代性地，MT方案可定義水平轉換及豎直轉換，諸如圖5A及圖5B中所示之彼等，如上文所論述。在任何狀況下，轉換處理單元206可將MT方案之每一轉換應用於殘餘區塊以產生轉換係數區塊之轉換係數。

量化單元208可量化轉換係數區塊中之轉換係數，以產生經量化轉換係數區塊。量化單元208可根據與當前區塊相關聯之量化參數(QP)值量化轉換係數區塊之轉換係數。視訊編碼器200 (例如，經由模式選擇單元202)可藉由調整與CU相關聯之QP值，來調整被應用於與當前區塊相關聯之轉換係數區塊的量化程度。量化可引入資訊之損耗，且因此，經量化轉換係數可相比由轉換處理單元206產生之原始轉換係數具有較低精確度。

反量化單元210及反轉換處理單元212可將反量化及反轉換分別應用於經量化轉換係數區塊，以用轉換係數區塊重建構殘餘區塊。重建構單元214可基於經重建構殘餘區塊及藉由模式選擇單元202產生之預測區塊，產生對應於當前區塊之經重建構區塊(儘管可能具有一些程度的失真)。舉例而言，重建構單元214可將經重建構殘餘區塊之樣本添加至來自模式選擇單元202所產生之預測區塊的對應樣本，以產生經重建構區塊。

濾波器單元216可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元216可執行解區塊操作以沿CU之邊緣減少區塊效應偽影。在一些實例中，可跳過濾波器單元216之操作。

視訊編碼器200將經重建構區塊儲存於DPB 218中。舉例而言，在不需要濾波器單元216之操作的實例中，重建構單元214可將經重建構區塊儲存至DPB 218。在需要濾波器單元216之操作的實例中，濾波器單元216可將經濾波經重建構區塊儲存至DPB 218。運動估計單元222及運動補償單元224可自DPB 218擷取參考圖像，由經重建構(及可能經濾波)區塊形成，至隨後進行編碼之圖像的框間預測區塊。另外，框內預測單元226可使用當前圖像之DPB 218中的經重建構區塊，以對當前圖像中之其他區塊框內預測。

大體而言，熵編碼單元220可對自視訊編碼器200之其他功能組件接收的語法元素進行熵編碼。舉例而言，熵編碼單元220可對來自量化單元208之經量化轉換係數區塊進行熵編碼。作為另一實例，熵編碼單元220可對來自模式選擇單元202的預測語法元素(例如，用於框間預測之運動資訊或用於框內預測之框內模式資訊)進行熵編碼。熵編碼單元220可對語法元素(其為視訊資料之另一實例)執行一或多個熵編碼操作以產生經熵編碼資料。舉例而言，熵編碼單元220可對資料執行上下文自適應性可變長度寫碼(CAVLC)操作、CABAC操作、可變至可變(V2V)長度寫碼操作、基於語法的上下文自適應性二進位算術寫碼(SBAC)操作、機率區間分割熵(PIPE)寫碼操作、指數-哥倫布編碼操作或另一類型之熵編碼操作。在一些實例中，熵編碼單元220可在旁路模式中操作，其中語法元素未經熵編碼。

根據本發明之技術，熵編碼單元220可對表示多重轉換(MT)方案之截斷一元碼字進行熵編碼，其中該MT方案可包括兩個或兩個以上轉換。舉例而言，MT方案可包括初級轉換及二級轉換，諸如旋轉轉換。另外地或替代性地，MT方案可包括水平轉換及豎直轉換，其中該豎直轉換可為不同類型之轉換。舉例而言，水平轉換可基於DCT，且豎直轉換可基於DST，或反之亦然。同樣，可在各種MT方案中使用不同類型的DCT及DST。視訊編碼器200可包括多種MT方案，其各者可包括兩個或兩個以上轉換，且熵編碼單元220可經組態以根據MT方案對一個截斷一元碼字進行編碼。以此方式，每一截斷一元碼字可表示用於對應MT方案之複數個轉換。熵編碼單元220可使用諸如區塊大小、區塊類型(明度或色度)、預測模式及/或來自相鄰區塊的任何其他旁側資訊之旁側資訊選擇用於對截斷一元碼字進行熵編碼的上下文。在一些實例中，可使用表(具有使用任何旁側資訊規定的項)來定義熵寫碼上下文。

視訊編碼器200可輸出位元串流，其包括重建構圖塊或圖像之區塊所需的經熵編碼語法元素。特定而言，根據本發明之技術，假定多個轉換被應用於當前區塊，熵編碼單元220可輸出位元串流，該位元串流包括(例如)表示用於當前區塊之MT方案之截斷一元碼字的經熵編碼資料。

上文所描述之操作關於區塊進行描述。此描述應理解為用於明度寫碼區塊及/或色度寫碼區塊的操作。如上文所描述，在一些實例中，明度寫碼區塊及色度寫碼區塊為CU之明度及色度分量。在一些實例中，明度寫碼區塊及色度寫碼區塊為PU之明度分量及色度分量。

在一些實例中，無需針對色度寫碼區塊重複關於明度寫碼區塊執行之操作。作為一個實例，無需重複識別明度寫碼區塊之運動向量(MV)及參考圖像的操作用於識別色度區塊之MV及參考圖像。實情為，明度寫碼區塊之MV可經按比例縮放以判定色度區塊之MV，且參考圖像可為相同的。作為另一實例，框內預測過程可針對明度寫碼區塊及色度寫碼區塊係相同的。

視訊編碼器200表示一種用於對視訊資料進行編碼之裝置的實例，該裝置包括：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以執行以下操作：將一多重轉換(MT)方案應用於該視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。

圖8為說明可執行本發明之技術的實例視訊解碼器300之方塊圖。出於解釋之目的而提供圖8，且其並不限制如本發明中所廣泛例示及描述之技術。出於解釋之目的，本發明根據JEM及HEVC之技術描述視訊解碼器300。然而，本發明之技術可由經組態為其他視訊寫碼標準的視訊寫碼裝置執行。

在圖8之實例中，視訊解碼器300包括經寫碼圖像緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、反量化單元306、反轉換處理單元308、重建構單元310、濾波器單元312及經解碼圖像緩衝器(DPB) 314。圖8可進一步包括一轉換組，其中反轉換處理單元308根據本發明之技術自該轉換組選擇轉換，如上文圖4中所示。同樣，與圖4中所示之技術互逆，熵解碼單元302可根據本發明之技術對表示針對視訊資料之當前區塊選擇用於AMT方案的多種轉換中之哪一者的資料進行解碼，且將該轉換之一指示提供至反轉換處理單元308。

預測處理單元304包括運動補償單元316及框內預測單元318。預測處理單元304可包括根據其他預測模式執行預測的疊加單元。作為實例，預測處理單元304可包括調色板單元、區塊內複製單元(其可形成運動補償單元316之部分)、仿射單元、線性模型(LM)單元或其類似者。在其他實例中，視訊解碼器300可包括更多、更少或不同的功能組件。

CPB記憶體320可儲存待由視訊解碼器300之組件解碼之視訊資料，諸如經編碼視訊位元串流。可(例如)自電腦可讀媒體110 (圖1)獲得儲存於CPB記憶體320中之視訊資料。CPB記憶體320可包括儲存來自經編碼視訊位元串流之經編碼視訊資料(例如，語法元素)的CPB。又，CPB記憶體320可儲存除經寫碼圖像之語法元素之外的視訊資料，諸如表示來自視訊解碼器300之各種單元之輸出的臨時資料。DPB 314總體上儲存經解碼圖像，其中視訊解碼器300可在解碼經編碼視訊位元串流之後續資料或圖像時輸出該等經解碼圖像及/或將其用作參考視訊資料。CPB記憶體320及DPB 314可由諸如動態隨機存取記憶體(DRAM)之多種記憶體裝置中之任一者形成，包括同步DRAM (SDRAM)、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置。CPB記憶體320及DPB 314可藉由同一記憶體裝置或獨立記憶體裝置提供。在各種實例中，CPB記憶體320可與視訊解碼器300之其他組件一起在晶片上，或相對於彼等組件在晶片外。

另外地或或者，在一些實例中，視訊解碼器300可自記憶體120 (圖1)擷取經寫碼視訊資料。亦即，記憶體120可運用CPB 記憶體320儲存如上文所論述之資料。同樣，當視訊解碼器300之一些或所有功能性實施於軟體中以藉由視訊解碼器300之處理電路系統執行時，記憶體120可儲存待由視訊解碼器300執行之指令。

圖8中所示之各種單元經說明為輔助理解由視訊解碼器300執行之操作。單元可經實施為固定功能電路、可程式化電路或其組合。類似於圖7，固定功能電路指代提供特定功能性，且在可執行之操作上預設定的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可執行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型通常係不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。

視訊解碼器300可包括ALU、EFU、數位電路、類比電路及/或由可程式化電路形成之可程式化核心。在由在可程式化電路上執行之軟體進行視訊解碼器300之操作的實例中，晶片上或晶片外記憶體可儲存視訊解碼器300接收及執行之軟體之指令(例如目標程式碼)。

熵解碼單元302可自CPB接收經編碼視訊資料，並對視訊資料進行熵解碼以再生語法元素。預測處理單元304、反量化單元306、反轉換處理單元308、重建構單元310、及濾波器單元312可基於自位元串流提取之語法元素產生經解碼視訊資料。

大體而言，視訊解碼器300在逐區塊基礎上重建構圖像。視訊解碼器300可個別地對每一區塊執行重建構操作(其中，當前正重建構(亦即，解碼)之區塊可被稱作「當前區塊」)。

熵解碼單元302可對定義經量化轉換係數區塊之經量化轉換係數的語法元素以及諸如量化參數(QP)及/或轉換模式指示之轉換資訊進行熵解碼。反量化單元306可使用與經量化轉換係數區塊相關聯之QP判定量化程度，且同樣判定反量化程度供反量化單元306應用。反量化單元306可(例如)執行按位元左移位操作以將經量化轉換係數反量化。反量化單元306可從而形成包括轉換係數之轉換係數區塊。

根據本發明之技術，熵解碼單元302可對表示用於正在解碼之資料之當前區塊的多重轉換(MT)方案的截斷一元碼字進行解碼。截斷一元碼字可對應於數個各種MT方案之一個MT方案，且MT方案中之每一者可包括多個反轉換。舉例而言，反轉換可為呈任何組合的反DCT、反DST、反KLT、反水平轉換、反豎直轉換、反識別碼轉換、反可分離轉換及/或反不可分離轉換。熵解碼單元302可使用諸如區塊大小、區塊類型(明度或色度)、預測模式及/或來自相鄰區塊的任何其他旁側資訊之旁側資訊選擇用於對截斷一元碼字進行熵解碼的上下文。在一些實例中，可使用表(具有使用任何旁側資訊規定的項)來定義熵寫碼上下文。以此方式，熵解碼單元302可對一個截斷一元碼字進行解碼，該截斷一元碼字表示該截斷一元碼字所對應的MT方案之多個反轉換。同樣，熵解碼單元302表示用於對表示用於視訊資料之當前區塊的多重轉換(MT)方案的截斷一元碼字進行解碼以判定MT方案的構件之實例。

熵解碼單元302可將碼字提供至(例如)反轉換處理單元308。因此，在反量化單元306形成轉換係數區塊之後，反轉換處理單元308可將對應於截斷一元碼字之一或多個反轉換應用於轉換係數區塊以產生與當前區塊相關聯之殘餘區塊。因此，反轉換處理單元308表示用於將MT方案應用於當前區塊之轉換係數以產生用於視訊資料之當前區塊的殘餘資料的構件之實例。

此外，預測處理單元304根據藉由熵解碼單元302熵解碼之預測資訊語法元素產生預測區塊。舉例而言，若預測資訊語法元素指示當前區塊經框間預測，則運動補償單元316可產生預測區塊。在此狀況下，預測資訊語法元素可指示DPB 314中之參考圖像(自其擷取參考區塊)，以及運動向量，其識別參考圖像中之參考區塊相對於當前圖像中之當前區塊之位置的位置。運動補償單元316可總體上以實質上類似於關於運動補償單元224所描述之方式的方式執行框間預測過程(圖7)。

作為另一實例，若預測資訊語法元素指示當前區塊經框內預測，則框內預測單元318可根據藉由預測資訊語法元素指示之框內預測模式產生預測區塊。又，框內預測單元318可總體上以實質上類似於關於框內預測單元226所描述之方式的方式執行框內預測過程(圖7)。框內預測單元318可將相鄰樣本之資料自DPB 314擷取至當前區塊。

重建構單元310可使用預測區塊及殘餘區塊重建構當前區塊。舉例而言，重建構單元310可將殘餘區塊之樣本添加至預測區塊之對應樣本以重建構當前區塊。就此而論，重建構單元310連同圖8之視訊解碼器300的其他組件表示用於使用殘餘資料對當前區塊進行解碼之實例的構件。

濾波器單元312可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元312可執行解區塊操作以減少沿經重建構區塊之邊緣的區塊效應偽影。濾波器單元312之操作不一定在所有實例中執行。

視訊解碼器300可將經重建構區塊儲存於DPB 314中。舉例而言，在不需要濾波器單元312之操作的實例中，重建構單元310可將經重建構區塊儲存至DPB 314。在需要濾波器單元312之操作的實例中，濾波器單元312可將經濾波經重建構區塊儲存至DPB 314。如上文所論述，DPB 314可將參考資訊提供至預測處理單元304，諸如用於框內預測之當前圖像及用於後續運動補償之經先前解碼圖像的樣本。此外，視訊解碼器300可輸出來自DPB 314之經解碼圖像用於後續呈現於顯示裝置上，諸如圖1之顯示裝置118。

視訊解碼器300表示一種視訊解碼裝置之實例，該視訊解碼裝置包括：一記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其以電路系統實施且經組態以執行以下操作：對表示用於該視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。

如上文所論述，視訊編碼器200及/或視訊解碼器300可根據本發明之技術進行組態。特定而言，根據本發明之AMT方案可藉由將轉換指派至所規定發訊方法之碼字來定義。因此，AMT完全藉由規定以下項來定義：(i)單組轉換或多組轉換；及(ii)發訊方法。

圖9A至圖9E為說明根據本發明之技術用於各種AMT方案的實例發訊技術之概念圖。本發明之AMT設計可基於圖9A至圖9E中所示之發訊方法中的一或多者進行定義。

在一個實例中，(例如)如圖9A中所示，可使用一位元(例如，0/1布爾型旗標)來識別/發訊來自一組預定義兩個轉換的一個轉換。亦即，圖9A說明用以識別兩個轉換之實例AMT發訊。圖9C說明用於圖9A之發訊方法的兩個轉換(T0、T1)之實例指派。

在另一實例中，使用一或兩個位元來識別/發訊來自一組預定義三個轉換的一個轉換。特定言之，在一個實例中，將以下三個二進位碼字用於發訊：「0」、「10」及「11」。圖9B說明用以識別三個轉換之AMT發訊的實例。圖9D說明用於圖9B之發訊方法的三個轉換(T0、T1、T2)之實例指派。圖9B之實例表示用於三個轉換之截斷一元碼字的實例。此外，圖9B之實例可經擴展以建構用於N轉換之碼字，其各自具有一各別截斷一元碼字。此等碼字可對於碼字集合i ∈ {1, N-1}中之碼字i為1^i-1 0，且對於碼字N為1^N 。標號「1^K 0」表示繼之以0的K 1之一序列。因此，舉例而言，對於一組六個轉換，截斷一元碼字可為0、10、110、1110、11110及11111。或者，值1及0可交換，例如，對於N個轉換而言，碼字可對於碼字集合i ∈ {1, N-1}中之碼字i為0^i-1 1，且對於碼字N為0^N 。

在另一實例中，圖9E說明根據圖6之發訊方法的五個轉換之實例指派。

用於表示轉換之資料的對應位元子之發訊方法及熵寫碼可取決於諸如區塊大小、區塊類型(明度或色度)、預測模式及/或來自相鄰區塊之任何其他旁側資訊之旁側資訊。舉例而言，可使用表(具有使用任何旁側資訊規定的項)來定義熵寫碼上下文。

可使用本發明中所提議的發訊方法與美國專利申請案第15/005,736號及第15/649,612號之組合來設計更複雜的發訊方案。此等設計亦可與區塊大小及預測模式相關。作為一具體實例，對於較大區塊，可使用美國專利申請案第15/005,736號及第15/649,612號中的方法，且對於較小區塊，可使用本發明中所呈現的方法。亦即，可在當前區塊之大小小於臨限大小時應用本發明之技術；否則，可實際上使用美國專利申請案第15/005,736號及第15/649,612號的技術。

在AMT方案中，對於任何發訊方法，包括圖6、圖9A及圖9B中所描繪之彼等方法，可將一組轉換指派至對應碼字，如圖9C、圖9D及圖9E中所示。一組轉換可滿足以下性質中之一或多者： ● 一組轉換可包括可分離及/或不可分離區塊轉換。 ● 一組轉換可僅僅包括可分離轉換。舉例而言，可基於自一種類型之DCT及DST選擇的一對轉換導出可分離轉換。 ● 可基於諸如區塊大小及預測模式之任何旁側資訊定義一組轉換。 ● 可將該組轉換用於所有區塊及預測模式組合。舉例而言，連同可分離DCT-2，可使用自DCT-8及DST-7導出的額外可分離轉換。舉例而言，在圖9E中，T0可為2-D DCT(自水平地且豎直地應用之DCT-2導出)。可使用水平地且豎直地應用之DCT-8及DST-7之組合來定義圖9E中的四個轉換(自T1至T4)的剩餘轉換。作為另一實例，在圖9A中，T0可為2-D DCT(自水平地且豎直地應用之DCT-2導出)，且T1可為既水平地且亦豎直地應用DST 7的可分離轉換。 ● 對於矩形明度或色度區塊，可將DST-7或DST-4應用於區塊之一側，且對於另一側可應用識別碼轉換。舉例而言，T_h 可為DST-7，且T_v 可為識別碼轉換，或反之亦然。

圖10為說明使用兩個一維轉換的被應用於矩形區塊之可分離轉換之概念圖。特定而言，一維轉換包括T_h (水平)及T_v (豎直)。

在某些條件下，可跳過轉換發訊過程，且可應用並不需要任何發訊的預定義固定轉換(例如，DST-7、DCT-2或識別碼轉換)。可基於在編碼器/解碼器處可用的任何旁側資訊定義此等某些條件，諸如以下。舉例而言，若在執行轉換之後非零係數之數目小於某一臨限，則視訊編碼器200可跳過轉換之發訊。作為另一實例，若非零轉換係數之數目小於臨限，則視訊解碼器300可基於該等非零轉換係數之數目導出轉換。

可針對小區塊應用轉換跳過(其等效於既豎直地且亦水平地應用識別碼轉換)。作為一具體實例，對於2×2色度區塊可跳過轉換。

圖11為說明用於根據本發明之技術對當前區塊進行編碼之實例方法的流程圖。當前區塊可包含當前CU。儘管相對於視訊編碼器200 (圖1及圖7)加以描述，但應理解，其他裝置可經組態以進行類似於圖11之方法的方法。

在此實例中，視訊編碼器200初始地預測當前區塊(350)。舉例而言，視訊編碼器200可形成當前區塊之預測區塊。視訊編碼器200接著可計算當前區塊之殘餘區塊(352)。為了計算殘餘區塊，視訊編碼器200可計算當前區塊的原始未經寫碼區塊與經預測區塊之間的差。視訊編碼器200可接著選擇多重轉換(MT)方案，且使用該MT方案轉換殘餘區塊，並量化所得轉換係數(354)。接著，視訊編碼器200可掃描殘餘區塊之經量化轉換係數(356)。在掃描期間或在掃描之後，視訊編碼器200可對係數以及表示選定MT方案之資料進行熵編碼(358)。舉例而言，視訊編碼器200可使用如上文所論述的本發明之各種技術中之任一者對表示MT方案之截斷一元碼字進行熵編碼。視訊編碼器200可使用CAVLC或CABAC對係數進行編碼。視訊編碼器200可接著輸出表示MT方案之經熵寫碼資料及當前區塊之係數(360)。

以此方式，圖11之方法表示一種對視訊資料進行編碼之方法的實例，該方法包括：將一多重轉換(MT)方案應用於視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。

圖12為說明根據本發明之技術對視訊資料之當前區塊進行解碼之實例方法的流程圖。當前區塊可包含當前CU。儘管相對於視訊解碼器300 (圖1及圖8)加以描述，但應理解，其他裝置可經組態以進行類似於圖12之方法的方法。

視訊解碼器300可接收當前區塊之經熵寫碼資料，諸如經熵寫碼預測資訊及對應於當前區塊之殘餘區塊的係數之經熵寫碼資料(370)。視訊解碼器300可對經熵寫碼資料進行熵解碼，以判定當前區塊之預測資訊、當前區塊之多重轉換(MT)方案，且再生殘餘區塊之係數(372)。特定而言，根據本發明之技術，視訊解碼器300可對表示MT方案之截斷一元碼字進行熵解碼。視訊解碼器300可根據本發明之各種技術中之任一者對MT方案資訊進行熵解碼。視訊解碼器300可例如使用如由當前區塊之預測資訊所指示的框內或框間預測來預測當前區塊(374)，以計算當前區塊之預測區塊。視訊解碼器300接著可反掃描經再生之係數(376)以產生經量化轉換係數之區塊。視訊解碼器300可接著使用所指示之MT方案對係數進行反量化及反轉換以產生殘餘區塊(378)。視訊解碼器300可最終藉由組合預測區塊與殘餘區塊來解碼當前區塊(380)。

以此方式，圖12之方法表示一種對視訊資料進行解碼之方法的實例，該方法包括：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。

應認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同序列被執行、可被添加、合併或完全省去(例如，並非所有所描述動作或事件為實踐該等技術所必要)。此外，在某些實例中，可(例如)經由多執行緒處理、中斷處理或多個處理器同時而非依序執行動作或事件。

在一或多個實例中，所描述之功能可實施於硬體、軟體、韌體或其任何組合中。若實施於軟體中，則該等功能可作為一或多個指令或程式碼而儲存於電腦可讀媒體上或經由電腦可讀媒體進行傳輸，且由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體(其對應於諸如資料儲存媒體之有形媒體)或通信媒體，該通信媒體包括(例如)根據通信協定促進電腦程式自一處傳送至另一處的任何媒體。以此方式，電腦可讀媒體大體可對應於(1)為非暫時性的有形電腦可讀儲存媒體，或(2)通信媒體，諸如，信號或載波。資料儲存媒體可為可藉由一或多個電腦或一或多個處理器存取以擷取指令、程式碼及/或資料結構以用於實施本發明所描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。

藉由實例而非限制，此等電腦可讀儲存媒體可包含RAM、ROM、EEPROM、CD-ROM或其他光碟儲存器、磁碟儲存器或其他磁性儲存裝置、快閃記憶體或可用於儲存呈指令或資料結構形式之所要程式碼且可由電腦存取的任何其他媒體。又，任何連接被恰當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纖纜線、雙絞線、數位用戶線(DSL)或諸如紅外線、無線電及微波之無線技術，自網站、伺服器或其他遠端源來傳輸指令，則同軸纜線、光纖纜線、雙絞線、DSL或諸如紅外線、無線電及微波之無線技術包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而實情為關於非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位多功能光碟(DVD)、軟性磁碟及藍光光碟，其中磁碟通常以磁性方式再現資料，而光碟用雷射以光學方式再現資料。以上各者的組合亦應包括於電腦可讀媒體之範疇內。

指令可由一或多個處理器執行，該一或多個處理器諸如一或多個數位信號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)或其他等效的整合或離散邏輯電路。因此，如本文中所使用之術語「處理器」可指上述結構或適合於實施本文中所描述之技術的任何其他結構中之任一者。另外，在一些態樣中，本文所描述之功能性可經提供於經組態以供編碼及解碼或併入於經組合編解碼器中之專用硬體及/或軟體模組內。此外，該等技術可完全實施於一或多個電路或邏輯元件中。

本發明之技術可實施於廣泛多種裝置或設備中，包括無線手持機、積體電路(IC)或IC集合(例如，晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以執行所揭示技術之裝置的功能態樣，但未必要求由不同硬體單元來實現。相反地，如上所述，可將各種單元組合於編碼解碼器硬體單元中，或由互操作性硬體單元(包括如上文所描述之一或多個處理器)之集合結合合適軟體及/或韌體來提供該等單元。

各種實例已予以描述。此等及其他實例在以下申請專利範圍之範疇內。

100‧‧‧實例視訊編碼及解碼系統 102‧‧‧源裝置 104‧‧‧視訊源 106‧‧‧記憶體 108‧‧‧輸出介面 110‧‧‧電腦可讀媒體 112‧‧‧儲存裝置 114‧‧‧檔案伺服器 116‧‧‧目的地裝置 118‧‧‧顯示裝置 120‧‧‧記憶體 122‧‧‧輸入介面 130‧‧‧四分樹二元樹(QTBT)結構 132‧‧‧寫碼樹型單元(CTU) 134‧‧‧寫碼單元(CU) 136‧‧‧殘餘四分樹(RQT) 140‧‧‧系統 142‧‧‧區塊分隔單元 144‧‧‧區塊轉換單元 146‧‧‧量化單元 148‧‧‧區塊預測單元 150‧‧‧轉換組 152‧‧‧熵寫碼單元 154‧‧‧圖框緩衝器 156‧‧‧反轉換單元 158‧‧‧反量化單元 160‧‧‧殘餘產生單元 162‧‧‧區塊再生單元 170‧‧‧水平轉換 172‧‧‧豎直轉換 180‧‧‧碼字 200‧‧‧視訊編碼器 202‧‧‧模式選擇單元 204‧‧‧殘餘產生單元 206‧‧‧轉換處理單元 208‧‧‧量化單元 210‧‧‧反量化單元 212‧‧‧反轉換處理單元 214‧‧‧重建構單元 216‧‧‧濾波器單元 218‧‧‧經解碼圖像緩衝器(DPB) 220‧‧‧熵編碼單元 222‧‧‧運動估計單元 224‧‧‧運動補償單元 226‧‧‧框內預測單元 230‧‧‧視訊資料記憶體 300‧‧‧視訊解碼器 302‧‧‧熵解碼單元 304‧‧‧預測處理單元 306‧‧‧反量化單元 308‧‧‧反轉換處理單元 310‧‧‧重建構單元 312‧‧‧濾波器單元 314‧‧‧經解碼圖像緩衝器(DPB) 316‧‧‧運動補償單元 318‧‧‧框內預測單元 320‧‧‧經寫碼圖像緩衝器(CPB)記憶體 350‧‧‧步驟 352‧‧‧步驟 354‧‧‧步驟 356‧‧‧步驟 358‧‧‧步驟 360‧‧‧步驟 370‧‧‧步驟 372‧‧‧步驟 374‧‧‧步驟 376‧‧‧步驟 378‧‧‧步驟 380‧‧‧步驟

圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統的方塊圖。

圖2A及圖2B為說明實例四分樹二元樹(QTBT)結構及對應寫碼樹型單元(CTU)之概念圖。

圖3A及圖3B為說明基於高效率視訊寫碼(HEVC)之殘餘四分樹的實例轉換方案之概念圖。

圖4為說明具有自適應轉換選擇的用於混合型視訊編碼之實例系統的方塊圖。

圖5A以及圖5B為將水平轉換及豎直轉換說明為單獨轉換實施的概念圖。

圖6為說明用於發訊轉換之實例技術的概念圖。

圖7為說明可執行本發明之技術的實例視訊編碼器的方塊圖。

圖8為說明可執行本發明之技術的實例視訊解碼器之方塊圖。

圖9A至圖9E為說明根據本發明之技術的用於各種多重轉換(MT)方案之實例發訊技術的概念圖。

圖10為說明使用兩個一維轉換的被應用於矩形區塊之可分離轉換之概念圖。

圖11為說明用於根據本發明之技術對當前區塊進行編碼之實例方法的流程圖。

圖12為說明根據本發明之技術對視訊資料之當前區塊進行解碼之實例方法的流程圖。

370‧‧‧步驟

372‧‧‧步驟

374‧‧‧步驟

376‧‧‧步驟

378‧‧‧步驟

380‧‧‧步驟

Claims

一種對視訊資料進行解碼之方法，該方法包含：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。
如請求項1之方法，其中對該截斷一元碼字進行解碼包含根據一發訊方法對該截斷一元碼字進行解碼，其中該發訊方法包含以下項中之一者：使用一個一位元旗標來表示一組預定義兩個轉換之兩個轉換中的一者，或使用一位元或兩位元旗標之一集合來表示一組預定義三個轉換之三個轉換中的一者，該MT方案包含該組預定義兩個轉換之該等兩個轉換中的該一者或該組預定義三個轉換之該等三個轉換中的該一者。
如請求項2之方法，其中當該發訊方法包含使用該一位元旗標時，表示該MT方案之該截斷一元碼字包含「0」或「1」之一值中之一者，且其中當該發訊方法包含使用該一位元或兩位元旗標時，表示該MT方案之該截斷一元碼字包含「0」、「10」或「11」中之一者。
如請求項1之方法，其中對該截斷一元碼字進行解碼包含使用自該當前區塊之一大小、該當前區塊之一類型、該當前區塊之一預測模式或該當前區塊之一或多個相鄰區塊的資料中之一或多者判定的上下文資訊對該截斷一元碼字進行熵解碼。
如請求項4之方法，其中該當前區塊之該類型包含一明度區塊或一色度區塊中之一者。
如請求項1之方法，其進一步包含判定該當前區塊之一大小小於一臨限大小，其中對表示該MT方案之該截斷一元碼字進行解碼包含回應於該當前區塊之該大小小於該臨限大小而對表示該MT方案之該截斷一元碼字進行解碼。
如請求項1之方法，該當前區塊包含一第一區塊，該方法進一步包含：判定不同於該第一區塊的一第二區塊之一大小大於一臨限大小；回應於判定該第二區塊之該大小大於該臨限大小：對表示是否將使用一預設反轉換對該第二區塊進行反轉換的一第一位元進行解碼；回應於該第一位元指示將使用該預設反轉換對該第二區塊進行反轉換，使用該預設反轉換對該第二區塊之轉換係數進行反轉換以產生該第二區塊之一殘餘區塊；及回應於該第一位元指示將不使用該預設反轉換對該第二區塊進行反轉換，對指示一組四個其他反轉換中之一者的兩個位元進行解碼，且使用藉由該等經解碼兩個位元指示的該組四個其他反轉換中之該一者對該第二區塊之該等轉換係數進行反轉換。
如請求項1之方法，其中該MT方案包含複數組轉換中之一組轉換，該等組轉換中之每一者包括各別複數個轉換，且其中應用該MT方案包含執行該組轉換之該複數個轉換中之每一者。
如請求項8之方法，該組轉換包含可分離轉換或不可分離轉換之任何組合。
如請求項8之方法，其進一步包含根據包括該當前區塊之一大小或該當前區塊之一預測模式中之一或多者的旁側資訊判定該複數組轉換。
如請求項1之方法，其中該MT方案包含一水平轉換及一豎直轉換，該豎直轉換不同於該水平轉換。
如請求項11之方法，其中該水平轉換或該豎直轉換中之一者包含一識別碼轉換。
如請求項1之方法，其中該當前區塊包含一第一區塊，該方法進一步包含基於用於一第二區塊之旁側資訊跳過表示用於該第二區塊之一MT方案的一截斷一元碼字之寫碼。
如請求項13之方法，其中該旁側資訊包含小於一臨限值的該第二區塊之非零轉換係數之一數目，該方法進一步包含判定該第一區塊之非零轉換係數的一數目大於或等於該臨限值。
如請求項1之方法，其中對該當前區塊進行解碼包含：對表示該當前區塊之一預測模式的資料進行解碼；使用該預測模式產生用於該當前區塊之一預測區塊；及將該預測區塊與該殘餘資料進行組合以再生該當前區塊。
一種用於對視訊資料進行解碼之裝置，該裝置包含：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以執行以下操作：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。
如請求項16之裝置，其中該處理器經組態以根據一發訊方法對該截斷一元碼字進行解碼，其中該發訊方法包含以下項中之一者：使用一個一位元旗標來表示一組預定義兩個轉換之兩個轉換中的一者，或使用一位元或兩位元旗標之一集合來表示一組預定義三個轉換之三個轉換中的一者，該MT方案包含該組預定義兩個轉換之該等兩個轉換中的該一者或該組預定義三個轉換之該等三個轉換中的該一者。
如請求項16之裝置，其中該處理器經組態以使用自該當前區塊之一大小、該當前區塊之一類型、該當前區塊之一預測模式或該當前區塊之一或多個相鄰區塊的資料中之一或多者判定的上下文資訊對該截斷一元碼字進行解碼。
如請求項16之裝置，其中該MT方案包含複數組轉換中之一組轉換，該等組轉換中之每一者包括各別複數個轉換，且其中為應用該MT方案，該處理器經組態以執行該組轉換之該複數個轉換中之每一者。
如請求項16之裝置，其中該MT方案包含一水平轉換及一豎直轉換，該豎直轉換不同於該水平轉換。
如請求項16之裝置，其中為對該當前區塊進行解碼，該處理器經組態以執行以下操作：對表示該當前區塊之一預測模式的資料進行解碼；使用該預測模式產生用於該當前區塊之一預測區塊；及將該預測區塊與該殘餘資料進行組合以再生該當前區塊。
如請求項16之裝置，其進一步包含經組態以顯示該經解碼視訊資料之一顯示器。
如請求項16之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒中之一或多者。
如請求項16之裝置，其中該裝置包含以下項中之至少一者：一積體電路；一微處理器；或一無線通信裝置。
一種其上儲存有指令之電腦可讀儲存媒體，該等指令在執行時使得一處理器執行以下操作：對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案；將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料；及使用該殘餘資料對該當前區塊進行解碼。
如請求項25之電腦可讀儲存媒體，其中使得該處理器對該截斷一元碼字進行解碼之該等指令包含使得該處理器根據一發訊方法對該截斷一元碼字進行解碼之指令，其中該發訊方法包含以下項中之一者：使用一個一位元旗標來表示一組預定義兩個轉換之兩個轉換中的一者，或使用一位元或兩位元旗標之一集合來表示一組預定義三個轉換之三個轉換中的一者，該MT方案包含該組預定義兩個轉換之該等兩個轉換中的該一者或該組預定義三個轉換之該等三個轉換中的該一者。
如請求項25之電腦可讀儲存媒體，其中使得該處理器對該截斷一元碼字進行解碼之該等指令包含使得該處理器使用自該當前區塊之一大小、該當前區塊之一類型、該當前區塊之一預測模式或該當前區塊之一或多個相鄰區塊的資料中之一或多者判定的上下文資訊對該截斷一元碼字進行解碼的指令。
如請求項25之電腦可讀儲存媒體，其中該MT方案包含複數組轉換中之一組轉換，該等組轉換中之每一者包括各別複數個轉換，且其中使得該處理器應用該MT方案之該等指令包含使得該處理器執行該組轉換之該複數個轉換中之每一者的指令。
如請求項25之電腦可讀儲存媒體，其中該MT方案包含一水平轉換及一豎直轉換，該豎直轉換不同於該水平轉換。
如請求項25之電腦可讀儲存媒體，其中使得該處理器對該當前區塊進行解碼之該等指令包含使得該處理器執行以下操作之指令：對表示該當前區塊之一預測模式的資料進行解碼；使用該預測模式產生用於該當前區塊之一預測區塊；及將該預測區塊與該殘餘資料進行組合以再生該當前區塊。
一種用於對視訊資料進行解碼之裝置，該裝置包含：用於對表示用於視訊資料之一當前區塊之一多重轉換(MT)方案的一截斷一元碼字進行解碼，以判定該MT方案的構件；用於將該MT方案應用於該當前區塊之轉換係數，以產生用於視訊資料之該當前區塊的殘餘資料的構件；及用於使用該殘餘資料對該當前區塊進行解碼的構件。
一種對視訊資料進行編碼之方法，該方法包含：將一多重轉換(MT)方案應用於視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。
如請求項32之方法，其中對該截斷一元碼字進行編碼包含根據一發訊方法對該截斷一元碼字進行編碼，其中該發訊方法包含以下項中之一者：使用一個一位元旗標來表示一組預定義兩個轉換之兩個轉換中的一者，或使用一位元或兩位元旗標之一集合來表示一組預定義三個轉換之三個轉換中的一者，該MT方案包含該組預定義兩個轉換之該等兩個轉換中的該一者或該組預定義三個轉換之該等三個轉換中的該一者。
如請求項32之方法，其中對該截斷一元碼字進行編碼包含使用自該當前區塊之一大小、該當前區塊之一類型、該當前區塊之一預測模式或該當前區塊之一或多個相鄰區塊的資料中之一或多者判定的上下文資訊對該截斷一元碼字進行熵編碼。
如請求項32之方法，其中該MT方案包含複數組轉換中之一組轉換，該等組轉換中之每一者包括各別複數個轉換，且其中應用該MT方案包含執行該組轉換之該複數個轉換中之每一者。
如請求項32之方法，其中該MT方案包含一水平轉換及一豎直轉換，該豎直轉換不同於該水平轉換。
如請求項32之方法，其進一步包含：根據一預測方法產生一預測區塊；及將該殘餘資料計算為該當前區塊與該預測區塊之間的一差，其中對該當前區塊進行編碼包含：對表示該預測方法之資料進行編碼；及對表示該等轉換係數之資料進行編碼。
一種用於對視訊資料進行編碼之裝置，該裝置包含：一記憶體，其經組態以儲存視訊資料；及一處理器，其以電路系統實施且經組態以執行以下操作：將一多重轉換(MT)方案應用於該視訊資料之一當前區塊的殘餘資料，以產生一轉換係數區塊；對表示用於該當前區塊之該MT方案的一截斷一元碼字進行編碼；及使用該轉換係數區塊對該當前區塊進行編碼。
如請求項38之裝置，其中該處理器經組態以使用自該當前區塊之一大小、該當前區塊之一類型、該當前區塊之一預測模式或該當前區塊之一或多個相鄰區塊的資料中之一或多者判定的上下文資訊對該截斷一元碼字進行熵編碼。
如請求項38之裝置，其中該MT方案包含複數組轉換中之一組轉換，該等組轉換中之每一者包括各別複數個轉換，且其中為應用該MT方案，該處理器經組態以執行該組轉換之該複數個轉換中之每一者。
如請求項38之裝置，其中該MT方案包含一水平轉換及一豎直轉換，該豎直轉換不同於該水平轉換。
如請求項38之裝置，其中該處理器經進一步組態以執行以下操作：根據一預測方法產生一預測區塊；及將該殘餘資料計算為該當前區塊與該預測區塊之間的一差，其中為對該當前區塊進行編碼，該處理器經組態以執行以下操作：對表示該預測方法之資料進行編碼；及對表示該等轉換係數之資料進行編碼。
如請求項38之裝置，其進一步包含一攝影機，該攝影機經組態以捕捉該視訊資料。
如請求項38之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒中之一或多者。
如請求項38之裝置，其中該裝置包含以下項中之至少一者：一積體電路；一微處理器；或一無線通信裝置。