TW201924343A - 視訊寫碼中之仿射預測 - Google Patents

視訊寫碼中之仿射預測 Download PDF

Info

Publication number
TW201924343A
TW201924343A TW107135856A TW107135856A TW201924343A TW 201924343 A TW201924343 A TW 201924343A TW 107135856 A TW107135856 A TW 107135856A TW 107135856 A TW107135856 A TW 107135856A TW 201924343 A TW201924343 A TW 201924343A
Authority
TW
Taiwan
Prior art keywords
block
affine prediction
parameter affine
syntax element
syntax
Prior art date
Application number
TW107135856A
Other languages
English (en)
Other versions
TWI805627B (zh
Inventor
張凱
陳建樂
趙欣
馬塔 卡茲維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW201924343A publication Critical patent/TW201924343A/zh
Application granted granted Critical
Publication of TWI805627B publication Critical patent/TWI805627B/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/537—Motion estimation other than block-based
    • H04N19/54—Motion estimation other than block-based using feature points or meshes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本發明提供一種用於視訊解碼之裝置，其可經組態以：自包含該視訊資料之一經編碼表示之一位元串流中之一語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊；基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生用於該第一區塊之一預測性區塊；及使用該預測性區塊及殘餘資料重建構該第一區塊。

Description

視訊寫碼中之仿射預測
本發明係關於用於視訊寫碼之裝置、系統及方法。
數位視訊頻能力可併入至廣泛範圍之裝置中，該等裝置包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄裝置、數位媒體播放器、視訊遊戲裝置、視訊遊戲控制台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電話會議裝置、視訊串流裝置及其類似者。數位視訊 裝置實施視訊壓縮技術，諸如由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、進階視訊寫碼(AVC)第10部分、ITU-T H.265、高效率視訊寫碼(HEVC)標準所定義的標準及此等標準之擴展中所描述的彼等技術。視訊裝置可藉由實施此類視訊壓縮技術來更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊壓縮技術執行空間(圖像內)預測及/或時間(圖像間)預測以減少或移除視訊序列中固有的冗餘。對於基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖框或視訊圖框之一部分)可分割成視訊區塊(其亦可被稱作樹型區塊)、寫碼單元(CU)及/或寫碼節點。使用關於同一圖像中之相鄰區塊中之參考樣本的空間預測來編碼圖像之經框內寫碼(I)之圖塊中的視訊區塊。圖像之框間寫碼(P或B)圖塊中之視訊區塊可使用關於同一圖像中之相鄰區塊中的參考樣本的空間預測或關於其他參考圖像中之參考樣本的時間預測。空間或時間預測產生用於待寫碼之區塊的預測性區塊。殘餘資料表示待寫碼之原始區塊與預測性區塊之間的像素差。經框間寫碼區塊係根據指向形成預測性區塊之參考樣本之區塊的運動向量及指示經寫碼區塊與預測性區塊之間的差的殘餘資料來編碼。經框內寫碼區塊係根據框內寫碼模式及殘餘資料編碼。為了進一步壓縮，可將殘餘資料自像素域變換至變換域，從而產生可接著進行量化之殘餘變換係數。
一般而言，本發明描述與基於區塊之視訊寫碼中之圖像間預測(更具體而言仿射運動補償)相關的技術。本發明之技術可應用於當前或未來視訊寫碼標準。
在一個實例中，一種用於解碼視訊資料之方法包括：自包含該視訊資料之經編碼表示之位元串流中之語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊；基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生該第一區塊之預測性區塊；及使用該預測性區塊及殘餘資料重建構該第一區塊。
在另一實例中，一種用於編碼視訊資料之方法包括：判斷針對對應於語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之區塊包含第一區塊；回應於判定針對對應於語法結構之區塊啟用6-參數仿射預測，使用4-參數仿射預測或6-參數仿射預測中之一者來產生用於第一區塊之預測性區塊；使用該預測性區塊來判定第一區塊之殘餘資料；及使殘餘資料及包含一語法元素之語法結構包括於位元串流中，該語法元素指示針對對應於該語法結構之區塊啟用該6-參數仿射預測。
在另一實例中，一種用於解碼視訊資料之裝置包括：記憶體，其經組態以儲存視訊資料，及一或多個處理器，其耦接至該記憶體，實施於處理電路中且經組態以：自包含該視訊資料之經編碼表示之位元串流中之語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊；基於該語法元素指示針對對應於該語法結構之區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生該第一區塊之預測性區塊；及使用該預測性區塊及殘餘資料重建構該第一區塊。
在另一實例中，一種用於編碼視訊資料之裝置，該裝置包括：記憶體，其經組態以儲存視訊資料，及一或多個處理器，其耦接至該記憶體，實施於處理電路中且經組態以：判斷針對對應於語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之區塊包含第一區塊；回應於判定針對對應於語法結構之區塊啟用6-參數仿射預測，使用4-參數仿射預測或6-參數仿射預測中之一者來產生用於第一區塊之預測性區塊；使用該預測性區塊來判定第一區塊之殘餘資料；及使殘餘資料及包含一語法元素之語法結構包括於位元串流中，該語法元素指示針對對應於該語法結構之區塊啟用該6-參數仿射預測。
在另一實例中，一種儲存指令之電腦可讀儲存媒體，該等指令在由一或多個處理器執行使該一或多個處理器：自包含視訊資料之經編碼表示之位元串流中之語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之區塊包含第一區塊；基於該語法元素指示針對對應於該語法結構之區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生該第一區塊之預測性區塊；及使用該預測性區塊及殘餘資料重建構該第一區塊。
在另一實例中，一種用於解碼視訊資料之設備包括：用於自包含視訊資料之經編碼表示之位元串流中之語法結構獲得一語法元素的構件，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之區塊包含第一區塊；用於基於該語法元素指示針對對應於該語法結構之區塊啟用該6-參數仿射預測而使用該6-參數仿射預測產生該第一區塊之預測性區塊的構件；及用於使用該預測性區塊及殘餘資料重建構該第一區塊的構件。
在隨附圖式及以下描述中闡述本發明之一或多個態樣的細節。本發明中所描述之技術的其他特徵、目標及優點將自描述、圖式及申請專利範圍顯而易見。
本申請案主張2017年10月10日申請的美國臨時申請案第62/570,417號之權益，該申請案之全部內容特此以引用之方式併入。
已經提出使用仿射運動模型以提供視訊資料之進一步壓縮。用於區塊之仿射運動模型表示一系列圖像中之區塊的旋轉。區塊之仿射運動模型可基於區塊之控制點的運動向量而判定。在一些實施中，區塊之控制點為區塊之左上方拐角及右上方拐角。在一些實施中，區塊之控制點進一步包括區塊之左下方拐角。視訊寫碼器(亦即，視訊編碼器或視訊解碼器)可基於區塊之控制點之運動向量計算區塊之子區塊的運動向量。
已經提出兩種用於傳信區塊之控制點的運動向量之主要技術。第一技術被稱作仿射框間模式。第二技術被稱作仿射合併模式。在仿射框間模式中，視訊編碼器產生當前區塊之仿射運動向量預測子(MVP)集合候選清單。仿射MVP集合候選清單為仿射MVP集合之清單。每一仿射MVP集合為對應於當前區塊之不同控制點的MVP之集合。視訊編碼器向視訊解碼器傳信一索引，該索引識別仿射MVP集合候選清單中之所選擇仿射MVP集合。另外，視訊編碼器傳信當前區塊之控制點中之每一者的運動向量差(MVD)。控制點之運動向量可等於控制點之MVD加上所選擇仿射MVP集合中之用於控制點之運動向量預測子。視訊編碼器亦傳信識別視訊解碼器與當前區塊一起使用之參考圖像的參考索引。視訊解碼器產生相同仿射MVP集合候選清單並使用所傳信索引以判定所選擇仿射MVP集合。視訊解碼器可添加MVD至所選擇仿射MVP集合之運動向量以判定當前區塊之控制點的運動向量。
在仿射合併模式中，視訊編碼器及視訊解碼器識別當前區塊之相同仿射源區塊。仿射源區塊可為在空間上與當前區塊相鄰之仿射寫碼區塊。視訊編碼器及視訊解碼器自仿射源區塊之控制點的運動向量外推當前區塊之控制點的運動向量。舉例而言，視訊編碼器及視訊解碼器可建構描述當前區塊內之位置之運動向量的仿射運動模型。仿射運動模型係由仿射參數之集合定義。視訊編碼器及視訊解碼器可基於當前區塊之控制點的運動向量判定仿射參數。視訊編碼器及視訊解碼器可基於仿射源區塊之控制點的運動向量判定當前區塊之控制點的運動向量。
如下文將更詳細解釋，本發明之技術可藉由就可針對給定區塊執行之仿射預測之類型而言實現更多靈活性來改良與仿射預測相關聯之總體成本，同時亦保持高效傳信開銷。根據本發明之技術，可使用指示是否針對對應於語法結構之區塊啟用6-參數仿射預測的語法元素(可能結合其他語法元素)，以在某些類型之仿射預測導致經改良之視訊壓縮時實現彼等類型之仿射預測，而且可在某些類型之仿射預測不會使壓縮改良達一定量時降低與仿射預測相關聯之位元開銷。因此，實施本發明之技術可使得視訊編碼及視訊解碼裝置能夠達成經改良之速率-失真折衷。
圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體上係針對寫碼(編碼及/或解碼)視訊資料。一般而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經寫碼的視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如傳信資料。
如圖1中所示，在此實例中，系統100包括源裝置102，其提供待由目的地裝置116解碼及顯示之經編碼視訊資料。特定言之，源裝置102經由電腦可讀媒體110將視訊資料提供至目的地裝置116。源裝置102及目的地裝置116可為廣泛範圍裝置中之任一者，包括桌上型電腦、筆記型(亦即，膝上型)電腦、平板電腦、機上盒、電話手持機(諸如智慧型電話)、電視、攝影機、顯示裝置、數字媒體播放器、視訊遊戲主控台、視訊串流裝置或其類似者。在一些情況下，源裝置102及目的地裝置116可經裝備用於無線通信，且由此可稱為無線通信裝置。
在圖1之實例中，源裝置102包括視訊源104、記憶體106、視訊編碼器20及輸出介面108。目的地裝置116包括輸入介面122、視訊解碼器30、記憶體120及顯示裝置118。根據本發明，源裝置102之視訊編碼器20及目的裝置116之視訊解碼器30可經組態以應用用於仿射預測之技術。由此，源裝置102表示視訊編碼裝置之實例，而目的地裝置116表示視訊解碼裝置之實例。在其他實例中，源裝置及目的地裝置可包括其他組件或配置。舉例而言，源裝置102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地裝置116可與外部顯示裝置介接，而非包括整合式顯示裝置。
如圖1中所示之系統100僅為一個實例。一般而言，任何數位視訊編碼及/或解碼裝置可執行用於仿射預測之技術。源裝置102及目的地裝置116僅為源裝置102產生經寫碼視訊資料以供傳輸至目的地裝置116之此類寫碼裝置的實例。本發明將「寫碼」裝置稱為對資料執行寫碼(編碼及/或解碼)之裝置。因此，視訊編碼器20及視訊解碼器30表示寫碼裝置之實例，特定言之，分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，裝置102、116可以實質上對稱的方式操作，使得裝置102、116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援視訊裝置102、116之間的單向或雙向視訊傳輸以用於(例如)視訊串流、視訊播放、視訊廣播或視訊電話。
一般而言，視訊源104表示視訊資料源(亦即，原始未經寫碼的視訊資料)且將視訊資料之依序圖像(亦稱為「圖框」)序列提供至編碼圖像之資料的視訊編碼器20。源裝置102之視訊源104可包括視訊捕捉裝置，諸如，視訊攝影機、含有先前捕捉之原始視訊的視訊存檔及/或用以自視訊內容提供者接收視訊的視訊饋入介面。作為另一替代，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊及電腦產生之視訊的組合。在每一情況下，視訊編碼器20對所捕捉、預先捕捉或電腦產生之視訊資料進行編碼。視訊編碼器20可將圖像之接收次序(有時稱作「顯示次序」)重新排列成寫碼次序以用於寫碼。視訊編碼器20可產生包括經編碼視訊資料之位元串流。源裝置102接著可經由輸出介面108將經編碼視訊資料輸出至電腦可讀媒體110上以供由例如目的地裝置116之輸入介面122接收及/或擷取。
源裝置102之記憶體106及目的地裝置116之記憶體120表示通用記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器30之原始經解碼視訊資料。另外或可替代地，記憶體106、120可儲存可分別由例如視訊編碼器20及視訊解碼器30執行的軟體指令。儘管在此實例中展示為與視訊編碼器20及視訊解碼器30分開，但應理解，視訊編碼器20及視訊解碼器30亦可包括用於功能上類似或同等目的之內部記憶體。此外，記憶體106、120可儲存(例如)自視訊編碼器20輸入且輸入至視訊解碼器30之經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。
電腦可讀媒體110可表示能夠將經編碼視訊資料自源裝置102傳送至目的地裝置116的任何類型的媒體或裝置。在一個實例中，電腦可讀媒體110表示用以使源裝置102能夠(例如)經由射頻網路或基於電腦之網路即時地將經編碼視訊資料直接傳輸至目的地裝置116的通信媒體。根據諸如無線通信協定之通信標準，輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可調變所接收的傳輸信號。通信媒體可包括無線或有線通信媒體中之一者或兩者，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或任何其他可用於促進自源裝置102至目的地裝置116之通信的設備。
在一些實例中，源裝置102可將經編碼資料自輸出介面108輸出至儲存裝置112。類似地，目的地裝置116可經由輸入介面122自儲存裝置112存取經編碼資料。儲存裝置112可包括多種分散式或本端存取之資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體或用於儲存經編碼視訊資料之任何其他合適的數位儲存媒體。
在一些實例中，源裝置102可將經編碼視訊資料輸出至檔案伺服器114，或可儲存由源裝置102產生之經編碼視訊的另一中間儲存裝置。目的地裝置116可經由串流或下載而自檔案伺服器114存取所儲存之視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料且將該經編碼視訊資料傳輸至目的地裝置116的任何類型之伺服器裝置。檔案伺服器114可表示網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路裝置或網路附接儲存(NAS)裝置。目的地裝置116可經由包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線頻道(例如Wi-Fi連接)、有線連接(例如，DSL、電纜數據機等)或該兩者的適合於存取儲存於檔案伺服器114上之經編碼視訊資料的組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合操作。
輸出介面108及輸入介面122可表示無線傳輸器/接收器、有線網路連接組件(例如，乙太網卡)、根據各種IEEE 802.11標準中之任一者操作的無線通信組件或其他實體組件。在輸出介面108及輸入介面122包括無線組件之實例中，輸出介面108及輸入介面122可經組態以根據諸如4G、4G-LTE (長期演進)、進階LTE、5G或類似者之蜂巢式通信標準來傳送資料，諸如經編碼視訊資料。在輸出介面108包括無線傳輸器之一些實例中，輸出介面108及輸入介面122可經組態以根據其他無線標準(諸如，IEEE 802.11規格、IEEE 802.15規格(例如ZigBee™)、Bluetooth™標準或類似者)傳送資料，諸如經編碼視訊資料。在一些實例中，源裝置102及/或目的地裝置116可包括各別晶片上系統(SoC)裝置。舉例而言，源裝置102可包括SoC裝置以執行歸於視訊編碼器20及/或輸出介面108之功能性，且目的地裝置116可包括SoC裝置以執行歸於視訊解碼器30及/或輸入介面122之功能性。
本發明之技術可應用於支援多種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上的數位視訊之解碼或其他應用。
目的地裝置116之輸入介面122自電腦可讀媒體110 (例如，儲存裝置112、檔案伺服器114或類似者)接收經編碼視訊位元串流。經編碼視訊位元串流電腦可讀媒體110可包括由視訊編碼器20定義之傳信資訊，其亦由視訊解碼器30使用，諸如具有描述視訊區塊或其他經寫碼單元(例如，圖塊、圖像、圖像群組、序列或類似者)之特徵及/或處理的值的語法元素。顯示裝置118向使用者顯示經解碼視訊資料之經解碼圖像。顯示裝置118可表示各種顯示裝置中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示裝置。
儘管圖1中未示出，但在一些實例中，視訊編碼器20及視訊解碼器30可各自與音訊編碼器及/或音訊解碼器整合，且可包括合適的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。
視訊編碼器20及視訊解碼器30各自可實施為多種合適的編碼器及/或解碼器電路中之任一者，諸如，一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合。當該等技術部分以軟體實施時，裝置可將用於軟體之指令儲存於適合的非暫時性電腦可讀媒體中，且使用一或多個處理器在硬體中執行該等指令，以執行本發明之技術。視訊編碼器20及視訊解碼器30中之每一者可包括在一或多個編碼器或解碼器中，編碼器或解碼器中之任一者可整合為各別裝置中之組合式編碼器/解碼器(編解碼器)之部分。包括視訊編碼器20及/或視訊解碼器30之裝置可包括積體電路、微處理器及/或無線通信裝置(諸如蜂巢式電話)。
視訊編碼器20及視訊解碼器30可根據視訊寫碼標準操作，諸如ITU-T H.265，亦稱為高效率視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。可替代地，視訊編碼器20及視訊解碼器30可根據其他專用或工業標準(諸如聯合探索測試模型(JEM))操作。然而，本發明之技術受限於不限於任何特定寫碼標準。
ITU-T VCEG (Q6/16)及ISO/IEC MPEG (JTC 1/SC 29/WG 11)現正研究對於將具有顯著超過當前HEVC標準(包括其當前擴展及針對螢幕內容寫碼及高動態範圍寫碼的近期擴展)之壓縮能力的壓縮能力之未來視訊寫碼技術標準化的潛在需要。有跡象表明，寫碼效率之顯著改良可藉由利用視訊內容(尤其用於如4K之高解析度內容)之特徵來獲得，其中新穎的專用寫碼工具超出H.265/HEVC。基於ITU-T VCEG (Q6/16)及ISO/IEC MPEG (JTC 1/SC 29/WG 11)之著作，被稱作多功能視訊寫碼(VVC)標準的視訊寫碼標準正由VCEG及MPEG之聯合視訊專家小組(JVET)開發。VVC之早期草案可在文件JVET-J1001「Versatile Video Coding (Draft 1)」中獲得且其演算法描述可在文件JVET-J1002「Algorithm description for Versatile Video Coding and Test Model 1 (VTM 1)」中獲得。
一般而言，視訊編碼器20及視訊解碼器30可執行圖像之基於區塊的寫碼。術語「區塊」一般係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼處序中使用)之資料的結構。舉例而言，區塊可包括照度及/或彩度資料樣本之二維矩陣。一般而言，視訊編碼器20及視訊解碼器30可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器20及視訊解碼器30可對照度及彩度分量進行寫碼，而非對圖像之樣本的紅色、綠色及藍色(RGB)資料進行寫碼，其中該等彩度分量可包括紅色調及藍色調色度分量兩者。在一些實例中，視訊編碼器20在編碼之前將所接收的RGB格式資料轉換成YUV表示，且視訊解碼器30將YUV表示轉換成RGB格式。可替代地，預處理單元及後處理單元(圖中未示)可執行此等轉換。
本發明一般可提及對圖像的寫碼(例如編碼及解碼)包括編碼或解碼圖像資料之程序。類似地，本發明可提及對圖像區塊之寫碼包括編碼或解碼區塊資料之程序(例如，預測及/或殘餘寫碼)。經編碼視訊位元串流一般包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分割的語法元素的一系列值。因此，對圖像或區塊之寫碼的提及一般應理解為對形成圖像或區塊之語法元素的值進行寫碼。
HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)及變換單元(TU)。根據HEVC，視訊寫碼器(諸如，視訊編碼器20)根據四分樹結構將寫碼樹型單元(CTU)分割成CU。亦即，視訊寫碼器將CTU及CU分割成四個相同的非重疊正方形，且四分樹之每一節點具有零個或四個子節點。不具有子節點之節點可稱為「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可進一步分割PU及TU。舉例而言，在HEVC中，殘餘四分樹(RQT)表示TU之分割。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。經框內預測之CU包括框內預測資訊，諸如框內模式指示。
作為另一實例，視訊編碼器20及視訊解碼器30可經組態以根據JEM或VVC操作。根據JEM，視訊寫碼器(諸如視頻編碼器20)將圖像分割成複數個CU。視訊編碼器20可根據樹狀結構(諸如四分樹-二元樹(QTBT)結構)分割CTU。JEM之QTBT結構移除多個分割類型之概念，諸如HEVC之CU、PU及TU之間的間距。JEM之QTBT結構包括兩個層級：根據四分樹分割分割的第一層級，及根據二元樹分割分割的第二層級。QTBT結構之根節點對應於CTU。二元樹之葉節點對應於寫碼單元(CU)。
在一些實例中，視訊編碼器20及視訊解碼器30可使用單一QTBT結構來表示照度及彩度分量中之每一者，而在其他實例中，視訊編碼器20及視訊解碼器30可使用兩個或更多個QTBT結構，諸如用於照度分量之一個QTBT結構及用於兩個彩度分量之另一QTBT結構(或用於各別色度分量之兩個QTBT結構)。
視訊編碼器20及視訊解碼器30可經組態以使用根據HEVC之四分樹分割、根據JEM之QTBT分割，或其他分割結構。出於解釋之目的，關於QTBT分割呈現本發明之技術的描述。然而，應理解，本發明之技術亦可應用於經組態以使用四分樹分割亦或其他類型之分割的視訊寫碼器。
本發明可互換地使用「N×N」及「N乘以N」以指代關於豎直及水平尺寸之區塊(諸如，CU或其他視訊區塊)的樣本尺寸，例如16×16樣本或16乘以16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y = 16)且在水平方向上將具有16個樣本(x = 16)。同樣地，N×N區塊通常在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可按列及行來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包括N×M個樣本，其中M未必等於N。
視訊編碼器20編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將對CU進行預測以形成CU之預測區塊的方式。殘餘資訊一般表示編碼前之CU與預測區塊之樣本之間的逐樣本差。
為了預測CU，視訊編碼器20一般可經由框間預測或框內預測形成CU之預測區塊。框間預測一般係指自先前經寫碼圖像之資料預測CU，而框內預測一般係指自同一圖像之先前經寫碼資料預測CU。為了執行框間預測，視訊編碼器20可使用一或多個運動向量來產生預測區塊。視訊編碼器20可大體上執行運動搜索以識別(例如)就CU與參考區塊之間的差異而言緊密地匹配CU的參考區塊。視訊編碼器20可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器20可使用單向預測或雙向預測來預測當前CU。
JEM亦提供仿射運動補償模式，其可被視為框間預測模式。在仿射運動補償模式中，視訊編碼器20可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或更多個運動向量。
為了執行框內預測，視訊編碼器20可選擇框內預測模式以產生預測區塊。JEM提供六十七種框內預測模式，包括各種定向模式以及平面模式及DC模式。大體而言，視訊編碼器20選擇自其預測當前區塊之樣本的框內預測模式，其描述相鄰樣本至當前區塊(例如CU之區塊)。此類樣本一般可與當前區塊在同一圖像中，在當前區塊之上方、左上方或左側，假定視訊編碼器20以光柵掃描次序(左至右、上至下)寫碼CTU及CU。
視訊編碼器20編碼表示當前區塊之預測模式的資料。舉例而言，對於框間預測模式，視訊編碼器20可編碼表示使用多種可用框間預測模式中之哪一者以及對應模式之運動資訊的資料。例如，對於單向或雙向框間預測，視訊編碼器20可使用進階運動向量預測(AMVP)或合併模式來編碼運動向量。視訊編碼器20可使用類似模式來編碼仿射運動補償模式之運動向量。
在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器20可計算該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊之使用對應預測模式所形成的預測區塊之間的逐樣本差。視訊編碼器20可將一或多個變換應用於殘餘區塊，以在變換域而非樣本域中產生經變換資料。舉例而言，視訊編碼器20可將離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換應用於殘餘視訊資料。另外，視訊編碼器20可在一級變換之後應用次級變換，諸如模式依賴性不可分次級變換(MDNSST)、信號依賴性變換、Karhunen-Loeve變換(KLT)或其類似者。視訊編碼器20在應用一或多個變換之後產生變換係數。
如上文所提及，在任何變換以產生變換係數後，視訊編碼器20可執行變換係數之量化。量化大體上係指量化變換係數以可能地減少用以表示係數之資料量從而提供進一步壓縮的程序。藉由執行量化程序，視訊編碼器20可減少與係數中之一些或所有相關聯的位元深度。舉例而言，視訊編碼器20可在量化期間將n 位元值捨入至m 位元值，其中n 大於m 。在一些實例中，為了執行量化，視訊編碼器20可執行待量化值之按位元右移位。
在量化之後，視訊編碼器20可掃描變換係數，從而自包括量化變換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)係數置於向量前部，且將較低能量(且因此較高頻率)變換係數置於向量後部。在一些實例中，視訊編碼器20可利用預定義掃描次序來掃描經量化變換係數以產生串列化向量，且隨後對向量之經量化變換係數進行熵編碼。在其他實例中，視訊編碼器20可執行自適應掃描。在掃描經量化變換係數以形成一維向量之後，視訊編碼器20可例如根據上下文自適應二進位算術寫碼(CABAC)對一維向量進行熵編碼。視訊編碼器20亦可對描述與經編碼視訊資料相關聯的後設資料之語法元素之值進行熵編碼，以供由視訊解碼器30用於解碼視訊資料。
為了執行CABAC，視訊編碼器20可將上下文模型內之上下文指派給待傳輸之符號。該上下文可能涉及(例如)符號之相鄰值是否為零值。機率判定可基於經指派至符號之上下文而進行。
視訊編碼器20可進一步(例如)在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中將語法資料(諸如，基於區塊之語法資料、基於圖像之語法資料及基於序列之語法資料)產生至視訊解碼器30。視訊解碼器30可同樣地解碼此類語法資料以判定解碼對應視訊資料之方式。
以此方式，視訊編碼器20可產生位元串流，包括經編碼視訊資料(例如，描述將圖像分割成區塊(例如CU)之語法元素)及區塊之預測及/或殘餘資訊。最後，視訊解碼器30可接收位元串流並解碼經編碼視訊資料。
一般而言，視訊解碼器30執行與由視訊編碼器20執行之程序互逆的程序，以解碼位元串流之經編碼視訊資料。舉例而言，視訊解碼器30可使用CABAC以與視訊編碼器20之CABAC編碼程序實質上類似但互逆的方式解碼位元串流之語法元素的值。語法元素可定義圖像至CTU之分割資訊及每一CTU根據對應分區結構(諸如QTBT結構)之分割，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如CU)之預測及殘餘資訊。
殘餘資訊可由例如經量化變換係數表示。視訊解碼器30可反量化及反變換區塊之經量化變換係數，以再生區塊之殘餘區塊。視訊解碼器30使用經傳信預測模式(框內或框間預測)及相關預測資訊(例如，用於框間預測之運動資訊)來形成用於區塊之預測區塊。視訊解碼器30接著可(在逐樣本基礎上)使預測區塊與殘餘區塊組合以再生原始區塊。視訊解碼器30可執行額外處理，諸如執行解區塊程序以減少沿區塊邊界之視覺假影。
本發明通常可指「傳信」某些資訊，諸如語法元素。術語「傳信」一般可指用於解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器20可在位元串流中傳信語法元素的值。一般而言，傳信係指在位元串流中產生值。如上文所提及，源裝置102可實質上即時地將位元串流傳送至目的地裝置116，或不即時傳送，諸如可在將語法元素儲存至儲存裝置112以供目的地裝置116稍後擷取時發生。
圖3A及圖3B為說明實例QTBT結構130及對應CTU 132之概念圖。實線表示四分樹分裂，且點線指示二元樹分裂。在二元樹之每一分裂(亦即，非葉)節點中，一個旗標經傳信以指示使用哪一分裂類型(亦即，水平或豎直)，其中在此實例中，0指示水平分裂且1指示豎直分裂。對於四分樹分裂，不存在對於指示分裂類型之需要，此係由於四分樹節點將區塊水平地及豎直地分裂成具有相等大小之4個子區塊。因此，視訊編碼器20可編碼，且視訊解碼器30可解碼用於QTBT結構130之區域樹層級(亦即實線)的語法元素(諸如分裂資訊)及用於QTBT結構130之預測樹層級(亦即虛線)的語法元素(諸如分裂資訊)。視訊編碼器20可編碼，且視訊解碼器30可解碼用於由QTBT結構130之端葉節點表示之CU的視訊資料(諸如預測及變換資料)。
一般而言，圖3B之CTU 132可與定義對應於在第一及第二層級處的QTBT結構130之節點的區塊之大小的參數相關聯。此等參數可包括CTU大小(表示樣本中之CTU 132之大小)、最小四分樹大小(MinQTSize，表示最小允許四分樹葉節點大小)、最大二元樹大小(MaxBTSize，表示最大允許二元樹根節點大小)、最大二元樹深度(MaxBTDepth，表示最大允許二元樹深度)，及最小二元樹大小(MinBTSize，表示最小允許二元樹葉節點大小)。
對應於CTU之QTBT結構的根節點可具有在QTBT結構之第一層級處的四個子節點，該等節點中之每一者可根據四分樹分割來分割。亦即，第一層級之節點為葉節點(不具有子節點)或具有四個子節點。QTBT結構130之實例表示諸如包括具有用於分枝之實線之父節點及子節點的節點。若第一層級之節點不大於最大允許二元樹根節點大小(MaxBTSize)，則其可藉由各別二元樹進一步分割。一個節點之二元樹分裂可重複，直至由分裂產生之節點達到最小允許二元樹葉節點大小(MinBTSize)，或最大允許二元樹深度(MaxBTDepth)為止。QTBT結構130之實例表示諸如具有用於分枝之虛線的節點。二元樹葉節點被稱為寫碼單元(CU)，其用於預測(例如圖像內或圖像間預測)及變換而不需任何進一步分割。如上文所論述，CU亦可被稱作「視訊區塊」或「區塊」。
在QTBT分割結構之一個實例中，CTU大小經設定為128×128 (明度樣本及兩個對應64×64色度樣本)，MinQTSize經設定為16×16，MaxBTSize經設定為64×64，MinBTSize (對於寬度及高度兩者)經設定為4，且MaxBTDepth經設定為4。四分樹分割首先應用於CTU以產生四分樹葉節點。四分樹葉節點可具有自16×16 (亦即，MinQTSize)至128×128 (亦即，CTU大小)之大小。若葉四分樹節點為128×128，則該節點不會由二元樹進一步分裂，此係由於大小超過MaxBTSize (亦即，在此實例中為64×64)。否則，葉四分樹節點將藉由二元樹進一步分割。因此，四分樹葉節點亦為二元樹之根節點並具有為0之二元樹深度。當二元樹深度達到MaxBTDepth (在此實例中為4)時，不准許進一步分裂。二元樹節點具有等於MinBTSize (在此實例中為4)之寬度意指不准許進一步水平分裂。類似地，二元樹節點具有等於MinBTSize之高度意指對於彼二元樹節點不准許進一步豎直分裂。如上文所提及，二元樹之葉節點被稱作CU，且根據預測及變換來進一步處理而無需進一步分割。
在H.265/HEVC中，對於每一區塊，運動資訊集合可為可用的。運動資訊集合含有用於前向及後向預測方向之運動資訊。此處，前向及後向預測為雙向預測模式之兩個預測方向。術語「前向」及「後向」未必具有幾何含義，而是相反對應於兩個參考圖像清單：當前圖像之參考圖像清單0 (RefPicList0)及參考圖像清單1 (RefPicList1)。當僅一個參考圖像清單可供用於圖像或圖塊時，僅RefPicList0可為可用的，且圖塊之每一區塊之運動資訊始終為前向的。
對於每一預測方向，運動資訊必須含有參考索引及運動向量。在一些情況下，為簡單起見，可以假定運動向量自身具有相關聯參考索引的方式參考該運動向量。參考索引用於識別當前參考圖像清單(RefPicList0或RefPicList1)中之參考圖像。運動向量具有水平分量及豎直分量。
視訊寫碼標準中廣泛使用圖像次序計數(POC)以識別圖像之顯示次序。雖然存在一個經寫碼視訊序列內之兩個圖像可具有相同POC值的情況，但經寫碼視訊序列內通常不發生此類情況。當位元串流中存在多個經寫碼視訊序列時，就解碼次序而言，具有同一POC值之圖像可更接近於彼此。圖像之POC值通常用於參考圖像清單建構、如HEVC中之參考圖像集之導出及運動向量縮放。
視訊寫碼器可對於當前區塊(例如，CU或PU)執行單向框間預測或雙向框間預測。當對於當前區塊執行單向框間預測時，視訊寫碼器使用運動向量來判定參考圖像中之位置。視訊寫碼器接著可產生當前區塊之預測性區塊。預測性區塊可包括參考圖像中由運動向量指示之位置處之樣本的區塊，或自參考圖像之樣本內插的樣本之區塊。當執行雙向框間預測時，視訊寫碼器可用第二參考圖像及第二運動向量執行此程序，由此產生當前區塊之第二預測性區塊。在雙向框間預測中，由單一參考圖像產生的預測性區塊在本文中可被稱作預先預測性區塊。另外，在雙向框間預測中，視訊寫碼器可基於兩個預先區塊產生當前區塊之最終預測性區塊。在一些實例中，視訊寫碼器可產生最終預測性區塊，使得最終預測性區塊中之每一樣本為預先預測性區塊中之對應樣本的加權平均值。
為支援圖像中之框間預測，視訊寫碼器產生圖像之兩個參考圖像清單。圖像之參考圖像清單包括可用於執行圖像中之區塊之框間預測的參考圖像。兩個參考圖像清單通常被稱作清單0及清單1。在一個實例中，圖像之清單0中的每一參考圖像按輸出次序在圖像之前出現。在此實例中，圖像之清單1中的每一參考圖像按輸出次序在圖像之後出現。因此，清單0中之參考圖像的使用可被視為第一框間預測方向且清單1中之參考圖像的使用可被視為第二框間預測方向。視訊編碼器20及視訊解碼器30用參考圖像按同一次序產生圖像之清單0。同樣，視訊編碼器20及視訊解碼器30用參考圖像按同一次序產生圖像之清單1。因此，視訊編碼器20可藉由傳信指示參考圖像在參考圖像清單中之位置的參考索引向視訊解碼器30指示參考圖像清單之參考圖像。
HEVC標準提供多個框間預測模式，包括合併模式及進階運動向量預測(AMVP)模式。換言之，在HEVC標準中，對於預測單元(PU)存在兩個框間預測模式，分別命名為合併(跳過被視為合併之特殊情況)及進階運動向量預測(AMVP)模式。在AMVP或合併模式中，針對多個運動向量預測子維持運動向量(MV)候選清單。當前PU之運動向量以及合併模式中之參考索引係藉由自MV候選清單獲取一個候選而產生。MV候選清單含有用於合併模式之至多5個候選及用於AMVP模式之僅兩個候選。合併候選可含有一組運動資訊，例如，對應於兩個參考圖像清單(清單0及清單1)之運動向量及參考索引。若由合併索引來識別合併候選，則參考圖像用於當前區塊之預測，以及判定相關聯之運動向量。然而，在針對自清單0或清單1的每一潛在預測方向的AMVP模式下，需要明確地將參考索引連同MVP索引傳信至MV候選清單，因為AMVP候選僅含有運動向量。在AMVP模式中，可進一步改進經預測運動向量。如可自上文看出，合併候選對應於運動資訊之整個集合，而AMVP候選僅含有用於特定預測方向之一個運動向量及參考索引。以類似方式自相同空間及時間相鄰區塊導出用於兩個模式之候選。
更具體言之，在合併模式下，視訊編碼器20及視訊解碼器30產生匹配用於PU之合併運動向量(MV)候選清單。用於PU之合併MV候選清單包括一或多個合併候選，其亦可被稱作運動向量預測子(MVP)。在HEVC中，合併MV候選清單含有至多5個合併候選。合併MV候選清單中之每一各別合併候選指定一或多個運動向量及一或多個參考索引。舉例而言，合併候選可指定清單0運動向量及/或清單1運動向量，且可指定清單0參考索引及/或清單1參考索引。清單0運動向量為指示清單0中之參考圖像中之位置的運動向量。清單1運動向量為指示清單1中之參考圖像中之位置的運動向量。視訊編碼器20可傳信指示用於PU之所選擇合併候選在合併MV候選清單中之位置的合併索引。視訊解碼器30可使用合併索引以識別所選擇合併候選。視訊解碼器30接著可使用所選擇合併候選的運動向量及參考索引作為PU之運動向量及參考索引。
在AMVP模式中，視訊編碼器20產生用於PU之清單0 AMVP候選清單及/或清單1 AMVP候選清單，其中之任一者可被稱為AMVP候選清單。視訊解碼器30產生匹配由視訊編碼器20產生之AMVP候選清單的AMVP候選清單。在HEVC中，AMVP候選清單含有兩個AMVP候選。清單0 AMVP候選清單中之每一各別AMVP候選指定各別清單0運動向量。清單1 AMVP候選清單中之每一各別AMVP候選指定各別清單1運動向量。在AMVP模式中，若PU係自清單0單向框間預測或經雙向框間預測，則視訊編碼器20傳信清單0 MVP索引、清單0參考索引，及清單0運動向量差(MVD)。清單0 MVP索引指定清單0 AMVP候選清單中之所選擇AMVP候選的位置。清單0參考索引指定所選擇清單0參考圖像之位置。清單0 MVD指定PU之清單0運動向量與由清單0 AMVP候選清單中之所選擇AMVP候選指定的清單0運動向量之間的差。因此，視訊解碼器30可使用清單0 MVP索引及清單0 MVD以判定PU之清單0運動向量。視訊解碼器30接著可判定PU之預先或最終預測性區塊，包括對應於藉由PU之清單0運動向量識別之所選擇的清單0參考圖像中之位置的樣本。視訊編碼器20可傳信用於清單1之類似語法元素且視訊解碼器30可以類似方式使用用於清單1之語法元素。
如上文可見，合併候選者對應於運動資訊之整個集合，而AMVP候選者僅含有用於特定預測方向之一個運動向量。合併模式及AMVP模式兩者之候選可類似地自相同空間及時間相鄰區塊導出。
圖3A及圖3B展示可用以導出空間MV候選之相鄰區塊的實例。儘管自區塊產生候選之方法對於合併及AMVP模式而言不同，但對於特定PU(PU0 )，空間MV候選係自圖3A及圖3B中展示之相鄰區塊所導出。圖3A說明用於合併模式之空間相鄰MV候選。在合併模式中，至多四個空間MV候選可以圖3A中以數字展示之次序導出，且次序如下：左(0)、上(1)、右上(2)、左下(3)及左上(4)。
圖3B說明用於AMVP模式之空間相鄰MV候選。在AMVP模式中，相鄰區塊分成兩個群組：由區塊0及1組成的左群組，及由區塊2、3及4組成的上群組，如圖3B中所示。對於每一群組，參考與由傳信之參考索引指示之相同參考圖像的相鄰區塊中之潛在候選具有待選擇之最高優先級以形成群組之最終候選。有可能所有相鄰區塊均不含有指向相同參考圖像的運動向量。因此，若無法發現此類候選，則將縮放第一可用候選以形成最終候選，因此可補償時間距離差。舉例而言，作為產生清單0 AMVP候選清單之部分，視訊寫碼器檢查區塊0是否係自清單0預測，且若如此，檢查區塊0之清單0參考圖像是否與當前PU之清單0參考圖像相同。若區塊0係自清單0預測且區塊0之清單0參考圖像與當前PU之清單0參考圖像相同，則視訊寫碼器包括清單0 AMVP候選清單中之區塊0之清單0運動向量。否則，視訊寫碼器檢查區塊0是非係自清單1預測，且若如此，則檢查區塊0之清單1參考圖像是否與當前PU之清單0參考圖像相同。若區塊0係自清單0預測且區塊0之清單1參考圖像與當前PU之清單0參考圖像相同，則視訊寫碼器將區塊0之清單1運動向量包括於清單0 AMVP候選清單中。若區塊0之清單1參考圖像並不與當前PU之清單0參考圖像相同，則視訊寫碼器以區塊1而非區塊0重複此程序。
然而，若區塊1並非自清單1預測或區塊1之清單1參考圖像並不與當前PU之清單0參考圖像相同，則視訊寫碼器判定區塊0是否係自清單0預測，且若如此，則判定區塊0之清單0參考圖像及當前PU之清單0參考圖像係均為長期參考圖像抑或均為短期參考圖像。若區塊0之清單0參考圖像及當前PU之清單0參考圖像均為長期參考圖像或區塊0之清單0參考圖像及當前PU之清單0參考圖像均為短期參考圖像，則視訊寫碼器可基於區塊0之清單0參考圖像與當前PU之清單0參考圖像之間的時間差縮放區塊0之清單0運動向量。視訊寫碼器將經縮放之清單0運動向量包括至清單0 AMVP候選清單中。若區塊0之清單0參考圖像為長期參考圖像且當前PU之清單0參考圖像為短期參考圖像，或反之亦然，則視訊寫碼器判定區塊0是否係自清單1預測，且若如此，則判定區塊0之清單1參考圖像及當前PU之清單0參考圖像係均為長期參考圖像抑或均為短期參考圖像。若區塊0之清單1參考圖像及當前PU之清單0參考圖像均為長期參考圖像或區塊0之清單1參考圖像及當前PU之清單0參考圖像均為短期參考圖像，則視訊寫碼器可基於區塊0之清單1參考圖像與當前PU之清單0參考圖像之間的時間差縮放區塊0之清單1運動向量。視訊寫碼器將經縮放之清單0運動向量包括至清單0 AMVP候選清單中。若區塊0之清單1參考圖像為長期參考圖像且當前PU之清單0參考圖像為短期參考圖像，或反之亦然，則視訊寫碼器用區塊1而非區塊0重複此程序。
視訊寫碼器可對於區塊2、3及4執行類似程序以使第二候選包括在當前PU之清單0 AMVP候選清單中。另外，視訊寫碼器可重複此整個程序(調換對於清單0與清單1之參考，及調換對於清單1與清單0之參考)，以產生當前PU之清單1 AMVP候選清單。
因此，在AVMP模式中，如圖3B中所示，相鄰區塊被分成兩個群組：由區塊0及1組成之左群組及由區塊2、3及4組成之上群組。對於每一群組，參考與由傳信之參考索引指示之相同參考圖像的相鄰區塊中之潛在候選具有待選擇之最高優先級以形成群組之最終候選。有可能所有相鄰區塊均不含有指向相同參考圖像的運動向量。因此，若不能發現此候選，則可縮放第一可用候選以形成最終候選；因此，可補償時間距離差。
視訊寫碼器可將時間運動向量預測子(TMVP)候選(若啟用及可用)包括至合併MV候選清單(在空間運動向量候選之後)中或AMVP候選清單中。舉例而言，在AMVP之情況下，若空間相鄰區塊不可用(例如，因為空間相鄰區塊在圖像、圖塊或圖像塊邊界外部，因為空間相鄰區塊經框內預測，等)，則視訊寫碼器可使TMVP候選包括在AMVP候選清單中。在合併模式中，TMVP候選可指定時間相鄰區塊之清單0及/或清單1運動向量。用於合併模式中之TMVP候選的參考索引始終設定成0。在AMVP模式中，TMVP候選指定時間相鄰區塊之清單0運動向量或時間相鄰區塊之清單1運動向量。時間相鄰區塊為參考圖像中之區塊。對於合併模式及AMVP模式兩者，用於TMVP候選之運動向量導出之程序可為相同的。
如上文所提及，視訊寫碼器可縮放運動向量。當縮放運動向量時，假定運動向量之值與呈現時間中之圖像之距離成比例。運動向量與兩個圖像相關聯：參考圖像及含有運動向量之圖像(即，內含圖像)。當運動向量用以預測其他運動向量時，內含圖像與參考圖像之距離係基於參考圖像及內含圖像之圖像次序計數(POC)值而計算。
為了預測運動向量，可基於含有參考圖像之經預測區塊之圖像的POC值計算新距離(基於POC)。例如基於此兩個POC值縮放運動向量。對於空間相鄰候選，用於兩個運動向量之內含圖像相同，而參考圖像不同。在HEVC中，運動向量縮放適用於空間及時間相鄰候選之TMVP及AMVP兩者。
此外，在一些實施中，若MV候選列表(例如，合併MV候選清單或AMVP候選清單)不完整(例如包括少於預定數目之候選)，則視訊寫碼器可在MV候選清單末尾處產生及插入人工運動向量候選，直至MV候選列表具有所需數目之候選。在合併模式中，存在兩種類型之人工MV候選：僅針對B圖塊導出之組合候選，及零候選者。組合候選指定來自一個合併候選之清單0運動向量與不同合併候選之清單1運動向量的組合。僅當第一類型(亦即，組合候選)不提供足夠人工候選時，零候選者才用於運動向量預測。零候選為指定MV的候選，該MV之水平及水平分量各自等於0。
對於已在候選清單中且具有必要運動資訊之每一對候選，雙向合併運動向量候選藉由參考清單0中之圖像之第一候選的運動向量與參考清單1中之圖像之第二候選的運動向量之組合導出。
另外，視訊寫碼器可應用修剪程序用於候選插入。來自不同區塊之候選可恰巧相同，此可降低合併/AMVP候選清單之效率。應用修剪程序以解決此問題。該修剪程序比較當前候選清單中之一個候選與其他，以在一定程度上避免插入相同候選。為減小複雜度，應用僅僅受限制數目個修剪程序，而非比較每一潛在候選與所有其他現有候選。
H.265/HEVC中之運動補償用於產生用於當前經框間寫碼區塊之預測子。使用四分之一像素準確度運動向量，且使用用於明度及色度分量之相鄰整數像素值來內插分率位置處之像素值。
在許多實例視訊編解碼器標準中，僅將平移運動模型應用於運動補償預測(MCP)。然而，在真實世界中，存在許多種類之運動，例如放大/縮小、旋轉、透視運動及其他不規則運動。若利用不規則運動在此類測試序列中僅將平移運動模型應用於MCP，則其將影響預測準確度且可導致低寫碼效率。多年來，視訊專家嘗試設計許多演算法來改良MCP以達成較高寫碼效率。在JEM中，應用仿射變換運動補償預測以改良寫碼效率。提出仿射合併及仿射框間模式來如下處理具有4個參數之仿射移動模型：
(1)
在方程式(1)中，vx 為區塊內的位置(x,y)之運動向量的水平分量，且vy 為區塊內的位置(x,y)之運動向量的豎直分量。在方程式(1)中，a、b、c、d、e及f為參數。應注意，在仿射運動模型中，區塊內之不同位置具有不同運動向量。
圖4為說明具有四個仿射參數之兩點MV仿射模式之實例的概念圖。4-參數仿射運動模型可由左上方控制點(V0) 之運動向量及右上方控制點(V1 )之運動向量表示。圖4說明用於當前區塊300之簡化仿射運動模型。如圖4中所示，區塊之仿射運動場由兩個控制點運動向量MV0及MV1描述。MV1為當前區塊300之左上方控制點302之控制點運動向量。MV1為當前區塊300之右上方控制點304之控制點運動向量。
區塊之運動向量場(MVF)係藉由以下方程式描述：
(2)
在方程式(2)中，vx 為區塊中之位置(x,y)的運動向量之水平分量；vy 為區塊中之位置(x,y)的運動向量之豎直分量；(v0x ,v0y )為左上方拐角控制點(例如，左上方控制點402)之運動向量；(v1x ,v1y )為右上方拐角控制點(例如，右上方控制點404)之運動向量；且w 為區塊之寬度。因此，視訊寫碼器可使用方程式(2)基於區塊之控制點的運動向量來「外推」位置(x,y)之運動向量。在JEM軟體之實例中，僅將仿射運動預測應用於正方形區塊。作為自然擴展，可將仿射運動預測應用於非正方形區塊。
為進一步簡化運動補償預測，可應用基於區塊之仿射變換預測。因此，視訊寫碼器可導出區塊之子區塊的運動向量，而非導出區塊中之每一位置的運動向量。在JEM中，子區塊為4×4區塊。為導出子區塊之運動向量，視訊寫碼器可根據方程式(2)計算子區塊之中心樣本的運動向量。視訊寫碼器接著可將所計算運動向量降值捨位至1/16分率準確度。經捨入之運動向量在本文中可被稱作高準確度運動向量。接著，視訊寫碼器可應用運動補償內插濾波器以利用導出之運動向量產生子區塊中的每一者之預測(亦即，預測性區塊)。
圖5說明每一子區塊之實例仿射運動向量場(MVF)。如圖5之實例中所示，當前區塊400具有左上方控制點402及右上方控制點404。視訊寫碼器可基於左上方控制點402之運動向量406及右上方控制點404之運動向量408計算當前區塊400之子區塊的運動向量。圖5將子區塊之運動向量展示為小箭頭。
在MCP之後，每一子區塊之高準確度運動向量經捨入並以與正常運動向量相同之準確度保存。在一些實例中，當所儲存運動向量之精度小於高準確度運動向量時，僅僅執行高準確度運動向量之降值捨位。
在JEM之一個實例中，存在兩種仿射運動模式：AF_INTER模式及AF_MERGE模式。在JEM中，AF_INTER模式可應用於寬度及高度均大於8之CU。在位元串流中在CU層級處傳信仿射旗標以指示是否使用AF_INTER模式。在AF_INTER模式中，視訊編碼器20傳信當前區塊的清單0參考索引及/或清單1參考索引以指示清單0參考圖像及/或清單1參考圖像。
在AF_INTER模式中，視訊編碼器20及視訊解碼器30各自建構當前區塊之一或多個候選清單(亦即，仿射MVP集合候選清單)。舉例而言，視訊編碼器20及視訊解碼器30可各自建構清單0仿射MVP集合候選清單及/或清單1仿射MVP集合候選清單。仿射MVP集合候選清單中之每一者包括仿射MVP集合之各別集合。在4-參數仿射運動模型中，清單0仿射MVP集合候選清單中之仿射MVP集合指定兩個清單0運動向量(亦即，運動向量對)。在4-參數仿射運動模型中，清單1仿射MVP集合候選清單中之仿射MVP集合指定兩個清單1運動向量。
最初，視訊寫碼器(例如，視訊編碼器20或視訊解碼器30)嘗試使用相鄰區塊以類型之運動向量填充仿射MVP集合候選列表。圖6A為說明如以AF_INTER模式使用的當前區塊500及相鄰區塊之方塊圖。如圖6A中所示，V0 選自區塊A、B或C之運動向量。來自相鄰區塊之運動向量係根據參考清單以及相鄰區塊的參考之POC、當前CU的參考之POC及當前CU的POC之間的關係而縮放。舉例而言，假設視訊寫碼器選擇相鄰區塊(例如，區塊A、B或C)之清單0運動向量作為V0 。在此實例中，相鄰區塊之清單0運動向量指示相鄰區塊之參考圖像(亦即，相鄰區塊之參考)中的位置。此外，在此實例中，視訊編碼器20可選擇清單0參考索引並將其傳信，該清單0參考索引指示當前CU之參考圖像(亦即，當前CU之參考)。若相鄰區塊之參考圖像並不與當前CU之參考圖像相同，則視訊寫碼器可基於參考時間距離與當前時間距離之間的差縮放相鄰區塊之清單0運動向量。參考時間距離為相鄰區塊之參考圖像的POC與當前CU之POC之間的時間距離。當前時間距離為當前CU之POC與當前CU之參考圖像的POC之間的時間距離。視訊寫碼器可對於清單1運動向量執行類似程序。自相鄰區塊D及E選擇的方法係類似的。
若候選清單中之候選的數目小於2，則候選清單藉由藉由複製AMVP候選{AMVP0,AMVP0}及{AMVP1,AMVP1}中之每一者而組成的運動向量對填補。換言之，視訊寫碼器可以上文所描述的方式產生兩個AMVP候選。兩個AMVP候選表示為AMVP0及AMVP1。視訊寫碼器接著可使將AMVP0指定為第一控制點之運動向量且將AMVP0指定為第二控制點之運動向量的第一仿射運動向量預測子候選包括在圖6B之候選清單520中。若在使第一仿射MVP候選包括於候選清單520中之後候選清單中之候選的數目仍小於2，則視訊寫碼器將第二仿射MVP候選包括於候選清單520中，其中第二仿射MVP候選將AMVP1指定為第一控制點之運動向量且將AMVP1指定為第二控制點之運動向量。
當候選清單520大於2時，視訊寫碼器首先根據相鄰運動向量之一致性(一對候選中之兩個運動向量的類似性)分類候選清單520中之候選。視訊寫碼器僅僅保留前兩個候選者，如圖6B中以直線標記「大小=2」所示。視訊編碼器20可使用速率-失真成本檢查以判定哪一運動向量集合候選者經選擇為當前CU之控制點運動向量預測(CPMVP)。視訊編碼器20可在位元串流中傳信指示候選清單520中之CPMVP之位置的索引。視訊解碼器30可自位元串流獲得索引並使用該索引以判定候選清單620中之候選中的哪一者為CPMVP。在判定當前仿射CU之CPMVP之後，應用仿射運動估計且發現控制點運動向量(CPMV)。視訊編碼器20在位元串流中傳信CPMV與CPMVP之間的差。換言之，視訊編碼器20在位元串流中傳信運動向量差(MVD)。
對於大小等於或大於16×16之每一CU/PU，可如下應用AF_INTER模式。若當前CU/PU處於AF_INTER模式，則在位元串流中傳信CU/PU層級中之仿射旗標。使用相鄰的有效經重建構區塊來建置候選清單 。如圖6A中所示，選自區塊A、B或C之運動向量。來自相鄰區塊之運動向量係根據參考清單以及相鄰區塊的參考之POC、當前CU/PU的參考之POC及當前CU/PU的POC之間的關係而縮放。自相鄰區塊D及E選擇的方法係類似的。若候選項清單之數目小於2，則AMVP之候選經指派至及。當前CU/PU之速率-失真最佳化(RDO)成本用於判定哪一經選擇為當前CU/PU之控制點運動向量預測(CPMVP)。用以指示候選清單中之CPMVP之位置之索引係在位元串流傳信。在判定當前仿射CU/PU之CPMVP之後，應用仿射運動估計且發現CPMV。接著，在位元串流中對CPMV及CPMVP之差進行寫碼。應用上文所提及之仿射運動補償預測以產生當前CU/PU之殘餘。最後，作為傳統程序，將當前CU/PU之殘餘變換、量化且寫碼成位元串流。
圖7A為展示用於基於JEM之編碼器之實例運動估計(ME)演算法程序的流程圖。仿射ME應用反覆策略，如圖7B中所示。搜尋開始於晶種(MV0, MV1)。在每一重複下，導出經改進之(MV0, MV1)。在MaxIteration 乘以迭代後，輸出具有最小絕對經變換失真總和(SATD)成本之最佳(MV0, MV1)作為此區塊之仿射運動。
晶種(MV0, MV1)找到真實最佳仿射運動至關重要。在仿射ME程序中，將仿射運動之(MVP0, MVP1)之若干集合用作候選。亦可將針對非仿射框間預測藉由普通ME發現之MV視為用於仿射框間預測之候選(MV, MV)。藉由仿射運動補償之SATD成本比較此等候選。將具有最小成本之運動視為晶種運動。
在圖7B的實例中，視訊編碼器20將輸入晶種MV判定為(MV0, MV1)[0]，計算cost[0]，判定Bestl = 0 (650)。視訊編碼器20將i設定為等於零(652)。對於i=0至i+1 ≥ MaxIteration，視訊編碼器20自(MV0, MV1)[i] 導出(MV0, MV1)[i+1] (654)。視訊編碼器20計算cost[i+1]且若(cost[i+1]小於cost[i])，則視訊編碼器20將Bestl設定為等於i+1 (656)。若(MV0, MV1)[i+1] 等於(MV0, MV1)[i] (658，是)，則視訊編碼器20輸出(MV0, MV1)[Best] (660)。換言之，若改進程序不會對先前晶種MV改良，則改進程序停止。(MV0, MV1)[Best] 可為MV0, MV1)[i+1] 或(MV0, MV1)[i] 中之任一者。若(MV0, MV1)[i+1] 不等於(MV0, MV1)[i] (658，否)且i+1不≥ MaxIteration (662，否)，則視訊編碼器20使I遞增 (664)且重複步驟654及656直至滿足步驟658或662中之一者的條件為止。
在當前CU/PU以AF_MERGE模式應用時，則使第一區塊以來自有效相鄰經重建構區塊之仿射模式寫碼。用於候選區塊之選擇次序如圖8A中所示係自左側、上方、右上方、左下方至左上方。圖8A展示在以AF_MERGE模式寫碼當前區塊700時使用的相鄰區塊。對於相鄰區塊之訪視次序(亦即，選擇次序)如圖8A中所示係自左側(A)、上方(B)、右上方(C)、左下方(D)至左上方(E)。舉例而言，若相鄰左下方區塊A係以如圖8B中所示之仿射模式寫碼，則導出含有區塊A的CU/PU之左上拐角右上拐角及左下拐角之運動向量、及。根據、及計算當前CU/PU之左上拐角的運動向量。類似地，基於v2 、v3 及v4 計算當前CU/PU之右上方之運動向量。在達成當前CU/PU及v1 之CPMV之後，根據以上方程式(2)中定義之簡化仿射運動模型，產生當前CU/PU之MVF。隨後，如本發明別處所描述來應用仿射MCP。為識別當前CU/PU是否係用AF_MERGE模式寫碼，當存在以仿射模式中寫碼的至少一個相鄰區塊時在位元串流中傳信仿射旗標。若如圖8A中所展示不存在與當前區塊相鄰之仿射區塊，則不會在位元串流編寫仿射旗標。
舉例而言，在此實例中，對於X=0及/或X=1，視訊寫碼器可外推相鄰區塊B的左上方控制點之清單X運動向量以產生當前區塊700的左上方控制點之清單X運動向量，使用相鄰區塊B的左上方控制點之清單X參考索引作為當前區塊700的左上方控制點之清單X參考索引，外推相鄰區塊B的右上方控制點之清單X運動向量以產生當前區塊700的右上方控制點之清單X運動向量，且使用相鄰區塊B的右上方控制點之清單X參考索引作為當前區塊700的右上方控制點之清單X參考索引。在此實例中，視訊寫碼器可使用當前區塊700之控制點的(x,y)位置作為方程式(2)中之x及y，使用上述方程式(2)來外推相鄰區塊B的控制點之運動向量來判定當前區塊700的控制點之運動向量。
在HEVC中，使用上下文自適應二進位算術寫碼(CABAC)來將符號轉換為二進位化值。此程序被稱作二進位化。二進位化經由非二進位語法元素與一連串位元之唯一映射來實現有效二進位算術寫碼，該等位元被稱作位元字串。
在JEM2.0參考軟體中，對於仿射合併模式，僅對仿射旗標進行寫碼，且推斷合併索引為呈預定義檢查次序A-B-C-D-E之第一可用相鄰仿射模型。對於仿射框間模式，針對每一預測清單對兩個MVD語法進行寫碼，從而指示經導出仿射運動向量與經預測運動向量之間的運動向量差。
在2017年5月4日提交之美國專利申請案15/587,044中，描述可切換的仿射運動預測方案。具有仿射預測之區塊可自適應性地選擇使用四參數仿射模型或六參數仿射模型。具有6個參數之仿射模型可定義為：

具有6個參數之仿射模型具有三個控制點。換言之，具有6個參數之仿射模型係藉由如圖9中所展示之三個運動向量判定。MV0為左上方拐角之第一控制點運動向量，MV1為區塊之右上方拐角之第二控制點運動向量，且MV2為區塊之左下方拐角的第三控制點運動向量，如圖9中所示。用三個運動向量建置之仿射模型經計算為：

其中w及h分別為區塊之寬度及高度。
亦可使用與如本發明別處描述之導出左上方拐角及右上方拐角之運動向量的仿射-合併類似的方式來導出左上方拐角、右上方拐角及左下方拐角之MVP。
本發明提出用以改良仿射預測之若干技術。可個別地應用以下詳細列舉之技術。替代地，可一起應用以下技術的任何組合。
根據本發明之第一技術，視訊編碼器20及/或視訊解碼器30可經組態以利用不同數目個參數在序列層級、圖像層級、圖塊層級或預定義區塊之群組(例如CTU)處控制不同類型的仿射預測。舉例而言，如以下之兩個旗標
係在圖塊標頭中傳信。若在圖塊中啟用具有四個參數之仿射預測，則語法元素affine4_enable_flag等於1；否則，在圖塊中停用具有四個參數之仿射預測。若在圖塊中啟用具有六個參數之仿射預測，則語法元素affine6_enable_flag等於1；否則，在圖塊中停用具有六個參數之仿射預測。
視訊編碼器20可經組態以在語法參數集之多個層級下傳信此類控制旗標。舉例而言，在序列層級及圖塊層級下傳信旗標，且將序列層級之旗標用作用於圖塊層級旗標傳信的條件。作為另一實例，視訊編碼器20可經組態以在圖像層級及圖塊層級下傳信旗標，將圖像層級之旗標用作用於圖塊層級旗標傳信的條件。
SPS參數集
圖塊標頭語法
根據本發明之第二技術，視訊編碼器20可經組態以獨立地將語法元素affine4_enable_flag及affine6_enable_flag設定為0或1。在語法元素affine4_enable_flag = 1且affine6_enable_flag = 1時，啟用具有四個參數及六個參數之兩種仿射預測。在語法元素affine4_enable_flag = 1且affine6_enable_flag = 0時，僅啟用具有四個參數之仿射預測。在語法元素affine4_enable_flag = 0且affine6_enable_flag = 1時，僅啟用具有六個參數之仿射預測。在語法元素affine4_enable_flag = 0且affine6_enable_flag = 0時，停用具有四個參數及六個參數之兩種仿射預測。在此情況下，亦停用仿射合併模式。
根據本發明之第三技術，視訊編碼器20可經組態以取決於序列層級、圖像層級或圖塊層級處之仿射控制旗標而對於仿射預測執行區塊層級傳信。舉例而言，在語法元素affine4_enable_flag = 0且affine6_enable_flag = 0時，其指示不會在圖塊中啟用仿射預測，不會在區塊層級處傳信語法元素aff_merge_flag及aff_inter_flag。不會傳信指示區塊層級處之仿射類型(四參數仿射模型或六參數仿射模型)之語法元素aff_type。當語法元素affine4_enable_flag = 0且affine6_enable_flag = 1或語法元素affine4_enable_flag = 1且affine6_enable_flag = 0時，其指示在圖塊中僅使用具有四個參數之仿射預測，或僅使用具有六個參數之仿射預測，在區塊層級處傳信語法元素aff_merge_flag及aff_inter_flag。然而，在此情況下未傳信語法元素aff_type，係因為僅使用一種類型之仿射預測。當語法元素affine4_enable_flag = 1且affine6_enable_flag = 1時，其指示在圖塊中使用具有四個參數之仿射預測及具有六個參數之仿射預測兩者，在區塊層級處傳信語法元素aff_merge_flag及aff_inter_flag。亦在此情況下傳信語法元素aff_type，以指示在此區塊中使用哪一類仿射預測。下表展示區塊層級處之邏輯。
根據本發明之第四技術，視訊編碼器20及視訊解碼器30可經組態以決定是否基於此前經寫碼圖像使用具有X個參數之仿射預測。可在編碼器或解碼器處作出此決策。若在視訊編碼器20處作出該決策，則語法元素affineX_enable_flag可自視訊編碼器20傳信至視訊解碼器30。舉例而言，X可為4或6。
根據本發明之第五技術，視訊編碼器20及視訊解碼器30可經組態以基於當前圖像之同一時間層中之先前經寫碼圖像決定是否使用具有X個參數之仿射預測。先前經寫碼/解碼之此等指定的圖像被稱作當前圖像或圖塊之「同一類別之圖像」。
根據本發明之第六技術，視訊編碼器20及視訊解碼器30可經組態以基於具有相同POC%M值之先前經寫碼圖像判定是否使用具有X個參數之仿射預測，其中%指示模數運算子。POC為圖像之圖像次序計數且M為諸如4、8或16之整數。先前經寫碼/解碼之此等指定的圖像被稱作當前圖像或圖塊之「同一類別之圖像」。
根據本發明之第七技術，視訊編碼器20及視訊解碼器30可經組態以在當前圖像之同一類別中之先前經寫碼圖像中對使用具有X個參數之仿射預測進行寫碼之區塊的面積S 進行計數。當前圖像之同一類別中之先前經寫碼/解碼之經框間寫碼的圖像中之區塊(或經框間寫碼之區塊，或經框間寫碼而非經跨越寫碼區塊)的總面積為P 。計算比率S/P 。若S/P ＜T ，則停用具有X個參數之仿射預測，亦即，將語法元素affineX_enable_flag設定為0。否則，啟用具有X個參數之仿射預測，亦即，將語法元素affineX_enable_flag設定為1。T為臨限值，其可為固定實數或自編碼器發送至解碼器。
根據本發明之第八技術，視訊編碼器20及視訊解碼器30可經組態以在當前圖像之同一類別中之先前經寫碼圖像中對使用仿射框間模式及仿射合併寫碼之所有區塊的面積S 進行計數。仿射框架模式包括具有任何可能參數之所有仿射框間模式，例如，包括具有4個參數之仿射框間模式及具有6個參數之仿射框間模式。當前圖像之同一類別中之此前經寫碼/解碼之經框間寫碼圖像中之區塊的總面積為P 。計算比率S/P 。若S/P ＜T ，則停用具有任何X個參數之仿射，亦即，對於所有X，將語法元素affineX_enable_flag設定為0，例如將語法元素affine4_enable_flag及affine6_enable_flag設定至0。
根據本發明之第九技術，視訊編碼器20及視訊解碼器30可經組態以在對第一經框間寫碼圖像進行寫碼之前將P 及S 初始化為0並自第一圖像對其進行計數。在對圖像群組進行寫碼/解碼之後將P 及S 重初始化為0，且再次自下一編碼/解碼圖像對其進行計數。舉例而言，在對階層B結構中之圖像群組(GOP)進行寫碼/解碼之後將P 及S 重初始化為0，且再次自下一編碼/解碼圖像對其進行計數。在另一實例中，在對各M個圖像(諸如，16個圖像、32個圖像等)進行寫碼/解碼之後將P 及S 重初始化為0，且再次自下一編碼/解碼圖像對其進行計數。
根據本發明之第十技術，視訊編碼器20及視訊解碼器30可經組態以始終利用如方程式(4)中所例示之具有6個參數之仿射模型之運動導出方法執行運動補償(MC)程序。若利用具有4個參數之仿射模型對當前區塊進行寫碼，則首先根據其中x=0且y=h之方程式(2)自MV0及MV1導出MV2。隨後，利用具有6個參數之仿射模型之運動導出方法，利用第一步驟中之MV0、MV1及經導出MV2進行運動補償。
根據本發明之第十一技術，視訊編碼器20及視訊解碼器30可經組態以執行ME以首先用於具有4個參數之仿射預測，接著用於具有6個參數之ME仿射預測。用於具有4個參數之仿射預測的ME的輸出(MV0, MV1)係用以產生用於具有6個參數之仿射預測之ME的晶種運動。舉例而言，MV2係根據其中x=0且y=h之方程式(2)自MV0及MV1導出。隨後，將(MV0, MV1, MV2)視為用於具有6個參數之仿射預測之ME的一種候選晶種運動。將其與其他候選比較以產生最佳晶種運動。
根據本發明之第十二技術，視訊編碼器20及視訊解碼器30可經組態以執行ME以首先用於具有6個參數之仿射預測，接著用於具有4個參數之ME仿射預測。用於具有4個參數之仿射預測的ME的輸出(MV0, MV1, MV2)係用以產生用於具有6個參數之仿射預測之ME的晶種運動。舉例而言，將(MV0, MV1)視為用於具有4個參數之仿射預測之ME的一種候選晶種運動。將其與其他候選比較以產生最佳晶種運動。在另一實例中，若MV2等於根據其中x=0且y=h之方程式(2)自MV0及MV1導出之運動，則跳過具有4個參數之ME仿射預測。可用具有4個參數之仿射預測對當前區塊進行寫碼，得到運動(MV0, MV1)。
根據本發明之第十三技術，視訊編碼器20及視訊解碼器30可經組態以針對當前區塊自父區塊繼承用於仿射預測之ME之運動晶種。圖10A展示具有4個參數之仿射ME之實例。在對大型區塊進行寫碼後，儲存所得仿射運動(MV0, MV1)。當對大型區塊內部之小型區塊進行寫碼時，使用方程式(2)自MV0及MV1導出(MV0', MV1')。將(MV0', MV1')用作用於具有4個參數之仿射預測之ME之候選晶種。圖10B展示具有6個參數之仿射ME之實例。在對較大區塊進行寫碼後，儲存所得仿射運動 (MV0, MV1, MV2)。當對大型區塊內部之小型區塊進行寫碼時，使用方程式(4)自MV0、MV1及MV2導出(MV0', MV1', MV2')。將(MV0', MV1', MV2')用作用於具有6個參數之仿射預測之ME之候選晶種。
根據本發明之第十四技術，視訊編碼器20及視訊解碼器30可經組態以使得不允許MV0等於用於具有4個參數之仿射預測的MV1。在一個實例中，若MV1x==MV0x，則MV1y可不等於MV0y。在另一實例中，不允許控制點之運動向量太接近彼此。在一個實例中，若abs(MV0x-MV1x)及abs(MV0y-MV1y)可不小於給定臨限值。
根據本發明之第十五技術，視訊編碼器20可經組態以取決於CPMVP是否接近於彼此而有條件地傳信語法元素aff_inter_flag。若CPMVP接近於彼此，例如，絕對差總和小於給定臨限值，則語法元素aff_inter_flag未經傳信且導出為0。
根據本發明之第十六技術，若語法元素affine4_enable_flag為1，則視訊編碼器20可經組態以基於自給定準則計算之成本來自適應地選擇兩個控制點，且將使成本將至最低的兩個點(例如，選自左上方、右上方及左下方)用作兩個控制點，且將相應地取決於選擇哪兩個控制點來適應(2)中所描述之運動向量導出。該準則可包括運動向量差、經重建構之值差異。
圖11為說明可實施本發明之技術之實例視訊編碼器20的方塊圖。出於解釋之目的而提供圖11，且不應將所述圖視為對如本發明中廣泛例示及描述之技術的限制。本發明之技術可適用於各種寫碼標準或方法。
在圖11之實例中，視訊編碼器20包括預測處理單元1200、視訊資料記憶體1201、殘餘產生單元1202、變換處理單元1204、量化單元1206、反量化單元1208、反變換處理單元1210、重建構單元1212、濾波器單元1214、經解碼圖像緩衝器1216及熵編碼單元1218。預測處理單元1200包括框間預測處理單元1220及框內預測處理單元1222。框間預測處理單元1220可包括運動估計單元及運動補償單元(未展示)。
視訊資料記憶體1201可經組態以儲存待由視訊編碼器20之組件編碼的視訊資料。可(例如)自視訊源18獲得儲存於視訊資料記憶體1201中之視訊資料。經解碼圖像緩衝器1216可為參考圖像記憶體，其儲存參考視訊資料以供視訊編碼器20在例如以框內或框間寫碼模式編碼視訊資料時使用。視訊資料記憶體1201及經解碼圖像緩衝器1216可由多種記憶體裝置中之任一者形成，諸如動態隨機存取記憶體(DRAM)，包括同步DRAM (SDRAM)；磁阻式RAM (MRAM)；電阻式RAM (RRAM)或其他類型之記憶體裝置。可由同一記憶體裝置或單獨記憶體裝置提供視訊資料記憶體1201及經解碼圖像緩衝器1216。在各種實例中，視訊資料記憶體1201可與視訊編碼器20之其他組件一起在晶片上，或相對於彼等組件在晶片外。視訊資料記憶體1201可與圖1之儲存媒體19相同或為其一部分。
視訊編碼器20接收視訊資料。視訊編碼器20可編碼視訊資料之圖像之圖塊中的每一CTU。該等CTU中之每一者可與圖像之相等大小的明度寫碼樹型區塊(CTB)及對應CTB相關聯。作為編碼CTU之部分，預測處理單元1200可執行分割以將CTU之CTB劃分成逐漸較小的區塊。該等較小區塊可為CU之寫碼區塊。舉例而言，預測處理單元1200可根據樹狀結構分割與CTU相關聯的CTB。
視訊編碼器20可編碼CTU之CU以產生該等CU之經編碼的表示(亦即，經寫碼的CU)。作為編碼CU之部分，預測處理單元1200可在CU之一或多個PU當中分割與CU相關聯之寫碼區塊。因此，每一PU可與明度預測區塊及對應的色度預測區塊相關聯。視訊編碼器20及視訊解碼器30可支援具有各種大小之PU。如上文所指示，CU之大小可指CU之明度寫碼區塊的大小，且PU之大小可指PU之明度預測區塊的大小。假定特定CU之大小為2N×2N，則視訊編碼器20及視訊解碼器30可支援用於框內預測的2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器20及視訊解碼器30亦可支援用於框間預測的2N×nU、2N×nD、nL×2N及nR×2N之PU大小的非對稱分割。
框間預測處理單元1220可產生用於PU之預測性資料。作為產生用於PU之預測性資料之部分，框間預測處理單元1220對PU執行框間預測。用於PU之預測性資料可包括PU之預測性區塊及用於PU之運動資訊。取決於PU係在I圖塊中、P圖塊中抑或B圖塊中，框間預測處理單元1220可針對CU之PU執行不同操作。在I圖塊中，所有PU經框內預測。因此，若PU在I圖塊中，則框間預測處理單元1220並不對PU執行框間預測。因此，對於以I模式編碼之區塊，經預測之區塊係使用空間預測自相同圖框內的先前經編碼之相鄰區塊而形成。若PU在P圖塊中，則框間預測處理單元1220可使用單向框間預測來產生PU之預測性區塊。若PU在B圖塊中，則框間預測處理單元1220可使用單向或雙向框間預測以產生PU之預測性區塊。框間預測處理單元1220可應用如在本發明中別處所描述的用於仿射運動模型之技術。
框內預測處理單元1222可藉由對PU執行框內預測而產生用於PU之預測性資料。用於PU之預測性資料可包括PU之預測性區塊及各種語法元素。框內預測處理單元1222可對I圖塊、P圖塊及B圖塊中之PU執行框內預測。
為對PU執行框內預測，框內預測處理單元1222可使用多個框內預測模式來產生用於PU之預測性資料的多個集合。框內預測處理單元1222可使用來自相鄰PU之樣本區塊的樣本以產生PU之預測性區塊。對於PU、CU及CTU，假定自左至右、自上而下之編碼次序，則該等相鄰PU可在PU上方、右上方、左上方或左邊。框內預測處理單元1222可使用各種數目之框內預測模式，例如，33個定向框內預測模式。在一些實例中，框內預測模式之數目可取決於與PU相關聯之區域的大小。
預測處理單元1200可自由框間預測處理單元1220針對PU產生的預測性資料或由框內預測處理單元1222針對PU產生的預測性資料中選擇用於CU之PU的預測性資料。在一些實例中，預測處理單元1200基於預測性資料之集合之速率/失真量度而選擇用於CU之PU的預測性資料。所選擇預測性資料的預測性區塊在本文中可被稱作所選擇預測性區塊。
殘餘產生單元1202可基於CU之寫碼區塊(例如，明度、Cb及Cr寫碼區塊)及CU之PU的所選擇預測性區塊(例如，預測性明度、Cb及Cr區塊)而產生CU之殘餘區塊(例如，明度、Cb及Cr殘餘區塊)。舉例而言，殘餘產生單元1202可產生CU之殘餘區塊，使得殘餘區塊中之每一樣本的值等於CU之寫碼區塊中的樣本與CU之PU之對應所選擇預測性樣本區塊中的對應樣本之間的差。
變換處理單元1204可執行將CU之殘餘區塊分割成CU之TU的變換區塊。舉例而言，變換處理單元1204可執行四分樹分割以將CU之殘餘區塊分割成CU之TU的變換區塊。因此，TU可與明度變換區塊及兩個色度變換區塊相關聯。CU之TU的明度變換區塊及色度變換區塊的大小及位置可基於或可不基於CU之PU的預測區塊之大小及位置。被稱為「殘餘四分樹」(RQT)之四分樹結構可包括與區域中之每一者相關聯的節點。CU之TU可對應於RQT之葉節點。
變換處理單元1204可藉由將一或多個變換應用於TU之變換區塊而產生CU之每一TU的變換係數區塊。變換處理單元1204可將各種變換應用於與TU相關聯之變換區塊。舉例而言，變換處理單元1204可將離散餘弦變換(DCT)、定向變換或概念上類似之變換應用於變換區塊。在一些實例中，變換處理單元1204並不將變換應用於變換區塊。在此等實例中，變換區塊可被視為變換係數區塊。
量化單元1206可量化係數區塊中之變換係數。量化程序可減少與該等變換係數中之一些或全部相關聯的位元深度。舉例而言，n 位元變換係數可在量化期間被捨入至m 位元變換係數，其中n 大於m 。量化單位1206可基於與CU相關聯之量化參數(QP)值量化與CU之TU相關聯之係數區塊。視訊編碼器20可藉由調整與CU相關聯之QP值來調整應用於與CU相關聯之係數區塊的量化程度。量化可引入資訊的損失。因此，經量化變換係數可具有比最初變換係數低的精度。
反量化單元1208及反變換處理單元1210可分別將反量化及反變換應用於係數區塊，以自係數區塊重建構殘餘區塊。重建構單元1212可將經重建構之殘餘區塊添加至來自由預測處理單元1200產生之一或多個預測性區塊的對應樣本，以產生與TU相關聯之經重建構變換區塊。藉由以此方式重建構CU之各TU的變換區塊，視訊編碼器20可重建構CU之寫碼區塊。
濾波器單元1214可執行一或多個解區塊操作以減小與CU相關聯之寫碼區塊中的區塊假影。在濾波器單元1214對經重建構之寫碼區塊執行一或多個解區塊操作之後，經解碼圖像緩衝器1216可儲存經重建構之寫碼區塊。框間預測處理單元1220可使用含有經重建構之寫碼區塊之參考圖像來對其他圖像之PU執行框間預測。另外，框內預測處理單元1222可使用經解碼圖像緩衝器1216中之經重建構寫碼區塊，以對處於與CU相同之圖像中的其他PU執行框內預測。
熵編碼單元1218可自視訊編碼器20之其他功能組件接收資料。舉例而言，熵編碼單元1218可自量化單元1206接收係數區塊，且可自預測處理單元1200接收語法元素。熵編碼單元1218可對資料執行一或多個熵編碼操作，以產生經熵編碼之資料。舉例而言，熵編碼單元1218可對資料執行CABAC操作、上下文自適應可變長度寫碼(CAVLC)操作、可變至可變(V2V)長度寫碼操作、基於語法之上下文自適應二進位算術寫碼(SBAC)操作、概率區間分割熵(PIPE)寫碼操作、指數哥倫布編碼操作或另一類型之熵編碼操作。視訊編碼器20可輸出包括由熵編碼單元1218產生之經熵編碼之資料的位元串流。舉例而言，位元串流可包括表示用於CU之變換係數之值的資料。
以此方式，視訊編碼器20表示裝置之實例，該裝置經組態以編碼視訊資料且包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以使第一語法元素或第二語法元素中之至少一者包括於位元串流中之語法結構中，該位元串流包括視訊資料之經編碼表示。語法結構可為SPS、PPS、圖塊標頭或CTU中之一者。第一語法元素可指示是否針對對應於語法結構之區塊啟用4-參數仿射預測，且第二語法元素可指示是否針對對應於語法結構之區塊啟用6-參數仿射預測。該一或多個處理單元可經組態以獨立地設定第一語法元素及第二語法元素。基於針對視訊資料之當前區塊啟用4-參數仿射預測或針對當前區塊啟用6-參數仿射預測，該一或多個處理單元可經組態以使用仿射預測來產生當前區塊之預測性區塊且使用預測性區塊及當前區塊產生殘餘資料。
該一或多個處理單元可經組態以基於第一語法元素指示針對區塊啟用4-參數仿射預測或第二語法元素指示針對區塊啟用6-參數仿射預測而使第三語法元素、第四語法元素及第五語法元素中之至少一者包括於位元串流中。第三語法元素可指示仿射合併模式是否用於當前區塊，且第四語法元素可指示仿射框間模式是否用於當前區塊。第五語法元素可指示係用4-參數仿射預測抑或6-參數仿射預測來編碼當前區塊。
該一或多個處理單元可經組態以基於第一語法元素指示針對區塊啟用4-參數仿射預測或第二語法元素指示針對區塊啟用6-參數仿射預測而非該兩者來使第三語法元素及第四語法元素中之至少一者而非第五語法元素包括於位元串流中。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以：基於視訊資料之一或多個先前經解碼圖像，判定是否針對視訊資料之當前圖像中之區塊啟用使用特定數目之參數的仿射預測模式；基於針對當前圖像之區塊啟用仿射預測，使用仿射預測來產生用於當前圖像之當前區塊的預測性區塊；及使用預測性區塊及當前區塊產生殘餘資料。
該一或多個先前經解碼圖像可與當前圖像處於相同時間層中。該一或多個先前經解碼圖像中之每一者可具有相同POC模數M值，其中M為整數。為判定是否針對當前圖像中之區塊啟用仿射預測模式，該一或多個處理單元可經組態以基於使用仿射預測模式編碼之一或多個先前經解碼圖像中之區塊的面積來判定是否針對當前圖像之區塊啟用仿射預測模式。用仿射預測模式編碼之一或多個先前經解碼圖像中之區塊之面積可包括用呈仿射框間模式及仿射合併模式之仿射預測模式編碼之先前經解碼圖像中之區塊的面積。該一或多個處理單元可經組態以回應於到達GOP之末端而重設指示區塊面積之變數。
視訊編碼器20亦表示裝置之實例，該裝置經組態以編碼視訊資料且包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以：基於視訊資料之當前區塊之左上方控制點的運動向量及當前區塊之右上方控制點的運動向量，導出當前區塊之左下方控制點之運動向量；使用當前區塊之左上方、右上方及左下方控制點之運動向量來產生預測性區塊；及基於預測性區塊及當前區塊產生殘餘資料。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以使第一語法元素或第二語法元素中之至少一者包括於位元串流中之語法結構中，該位元串流包括視訊資料之經編碼表示。第一語法元素可指示是否針對對應於語法結構之區塊啟用4-參數仿射預測，且第二語法元素可指示是否針對對應於語法結構之區塊啟用6-參數仿射預測。基於針對視訊資料之當前區塊啟用4-參數仿射預測或針對當前區塊啟用6-參數仿射預測，該一或多個處理單元可經組態以使用仿射預測來產生當前區塊之預測性區塊且使用預測性區塊及當前區塊產生殘餘資料。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以藉由對於當前區塊之4-參數仿射預測執行運動估計而判定視訊資料之當前圖像之當前區塊之左上方控制點的第一運動向量及當前區塊之右上方控制點之第二運動向量；基於第一運動向量及第二運動向量，導出當前區塊之左下方控制點之第三運動向量；使用第一運動向量、第二運動向量及第三運動向量作為晶種運動候選以用於對於當前區塊之6-參數仿射預測執行運動估計；使用6-參數仿射仿射來產生預測性區塊；及基於預測性區塊及當前區塊產生殘餘資料。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以：藉由對於視訊資料之當前圖像之當前區塊的6-參數仿射預測執行運動估計而判定第一運動向量、第二運動向量及第三運動向量，該第一運動向量為用於當前區塊之左上方控制點之運動向量，該第二運動向量為用於當前區塊之右上方控制點之運動向量，且第三運動向量為用於當前區塊之左下方控制點的運動向量；使用第一運動向量及第二運動向量作為晶種運動候選以用於對於當前區塊之4-參數仿射預測執行運動估計；使用4-參數仿射仿射來產生預測性區塊；及基於預測性區塊及當前區塊產生殘餘資料。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以：使用視訊資料之當前區塊之父區塊的控制點的運動向量作為候選晶種運動以用於對於視訊資料之當前圖像之當前區塊的仿射預測執行運動估計；使用該仿射預測產生預測性區塊；及基於預測性區塊及當前區塊產生殘餘資料。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以：回應於判定視訊資料之當前圖像之經仿射寫碼區塊之第一控制點的運動向量中之至少一者等於區塊之第二控制點的運動向量或第一控制點及第二控制點之運動向量之間的差小於預定臨限值，判定位元串流不符合視訊寫碼標準。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以：判定視訊資料之當前區塊之控制點運動向量預測子之間的差的度量大於預定臨限值；基於該度量大於預定臨限值，使指示是否使用仿射框間模式傳信當前區塊之控制點的運動向量的語法元素包括於包括視訊資料之經編碼表示的位元串流中；及基於當前區塊之控制點之運動向量係使用仿射框間模式傳信，在位元串流中使用仿射框間模式傳信當前區塊之控制點之運動向量。
視訊編碼器20亦表示經組態以編碼視訊資料之裝置之實例，該裝置包括：記憶體，其經組態以儲存視頻數據，及一或多個處理單元，其實施於電路中且經組態以：基於自預定準則計算之成本自當前區塊之左上方控制點、當前區塊之右上方控制點及當前區塊之左下方控制點當中自適應地選擇兩個控制點，該當前區塊處於視訊資料之當前圖像中；使用4-參數仿射運動模型中之兩個所選擇的控制點的運動向量以產生用於當前區塊之預測性區塊；及基於預測性區塊及當前區塊產生殘餘資料。
圖12為說明經組態以實施本發明之技術之實例視訊解碼器30的方塊圖。出於解釋之目的而提供圖12，且其並不限制如本發明中所廣泛例示及描述之技術。出於解釋之目的，本發明描述在HEVC寫碼之上下文中的視訊解碼器30。然而，本發明之技術可適用於其他寫碼標準或方法。
在圖12之實例中，視訊解碼器30包括熵解碼單元1300、視訊資料記憶體1301、預測處理單元1302、反量化單元1304、反變換處理單元1306、重建構單元1308、濾波器單元1310，及經解碼圖像緩衝器1312。預測處理單元1302包括運動補償單元1314及框內預測處理單元1316。在其他實例中，視訊解碼器30可包括更多、更少或不同功能組件。
視訊資料記憶體1301可儲存待由視訊解碼器30之組件解碼的經編碼視訊資料，諸如經編碼視訊位元串流。儲存於視訊資料記憶體1301中之視訊資料可經由視訊資料之有線或無線網路通信或藉由存取實體資料儲存媒體例如自電腦可讀媒體16 (例如，自本端視訊源，諸如攝影機)獲得。視訊資料記憶體1301可形成儲存來自經編碼視訊位元串流之經編碼視訊資料的經寫碼圖像緩衝器(CPB)。經解碼圖像緩衝器1312可為參考圖像記憶體，其儲存參考視訊資料以供視訊解碼器30在例如以框內或框間寫碼模式解碼視訊資料時使用或以供輸出。視訊資料記憶體1301及經解碼圖像緩衝器1312可藉由多種記憶體裝置中之任一者形成，諸如DRAM，包括SDRAM、MRAM、RRAM或其他類型之記憶體裝置。可由同一記憶體裝置或單獨記憶體裝置提供視訊資料記憶體1301及經解碼圖像緩衝器1312。在各種實例中，視訊資料記憶體1301可與視訊解碼器30之其他組件一起在晶片上，或相對於彼等組件在晶片外。視訊資料記憶體1301可與圖1之儲存媒體28相同或為其一部分。
視訊資料記憶體1301接收並儲存位元串流之經編碼視訊資料(例如，NAL單元)。熵解碼單元1300可自視訊資料記憶體1301接收經編碼視訊資料(例如，NAL單元)，且可剖析NAL單元以獲得語法元素。熵解碼單元1300可對NAL單元中之經熵編碼語法元素進行熵解碼。預測處理單元1302、反量化單元1304、反變換處理單元1306、重建構單元1308及濾波器單元1310可基於自位元串流提取之語法元素而產生經解碼視訊資料。熵解碼單元1300可執行大體上與熵編碼單元1218之彼程序互逆的程序。
除了獲得來自位元串流之語法元素之外，視訊解碼器30可對CU執行重建構操作。為對CU執行重建構操作，視訊解碼器30可對CU之每一TU執行重建構操作。藉由對CU之每一TU執行重建構操作，視訊解碼器30可重建構CU之殘餘區塊。
作為對CU之TU執行重建構操作之部分，反量化單元1304可反量化(亦即，解量化)與TU相關聯之變換係數區塊。在反量化單元1304反量化係數區塊之後，反變換處理單元1306可將一或多個反變換應用於係數區塊以便產生與TU相關聯之殘餘區塊。舉例而言，反轉變處理單元1306可將反DCT、反整數變換、反Karhunen-Loeve變換(KLT)、反旋轉變換、反定向變換或另一反變換應用於係數區塊。
反量化單元1304可執行本發明之特定技術。舉例而言，對於視訊資料之圖像的CTU之CTB內的複數個量化群組之至少一個各別量化群組，反量化單元1304可至少部分地基於在位元串流中傳信的本端量化資訊導出用於各別量化群組之各別量化參數。另外，在此實例中，反量化單元1304可基於用於各別量化群組之各別量化參數反量化CTU之CU的TU之變換區塊的至少一個變換係數。在此實例中，各別量化群組經定義為連續(在寫碼次序中)CU或寫碼區塊之群組，以使得各別量化群組之邊界必須為CU或寫碼區塊之邊界且各別量化群組之大小大於或等於臨限值。視訊解碼器30 (例如，反變換處理單元1306、重建構單元1308及濾波器單元1310)可基於變換區塊之經反量化變換係數重建構CU之寫碼區塊。
若使用框內預測編碼PU，則框內預測處理單元1316可執行框內預測以產生PU之預測性區塊。框內預測處理單元1316可使用框內預測模式來基於樣本空間相鄰區塊產生PU之預測性區塊。框內預測處理單元1316可基於自位元串流獲得之一或多個語法元素判定用於PU之框內預測模式。
若使用框間預測編碼PU，則運動補償單元1314可判定PU之運動資訊。運動補償單元1314可基於PU之運動資訊而判定一或多個參考區塊。運動補償單元1314可基於一或多個參考區塊產生PU之預測性區塊(例如，預測性明度、Cb及Cr區塊)。運動補償單元1314可應用如在本發明中別處所描述的用於仿射運動模型之技術。
重建構單元1308可使用CU之TU之變換區塊(例如，明度、Cb及Cr變換區塊)及CU之PU之預測性區塊(例如，明度、Cb及Cr區塊)(亦即，可適用之框內預測資料或框間預測資料)來重建構CU之寫碼區塊(例如，明度、Cb及Cr寫碼區塊)。舉例而言，重建構單元1308可將變換區塊(例如，明度、Cb及Cr變換區塊)之樣本添加至預測性區塊(例如，明度、Cb及Cr預測性區塊)之對應樣本來重建構CU之寫碼區塊(例如，明度、Cb及Cr寫碼區塊)。
濾波器單元1310可執行解區塊操作以減少與CU之寫碼區塊相關聯的區塊假影。視訊解碼器30可將CU之寫碼區塊儲存於經解碼圖像緩衝器1312中。經解碼圖像緩衝器1312可提供參考圖像以用於後續運動補償、框內預測及在顯示裝置(諸如，圖1之顯示裝置32)上呈現。舉例而言，視訊解碼器30可基於經解碼圖像緩衝器1312中之區塊對其他CU之PU執行框內預測或框間預測操作。
以此方式，視訊解碼器30表示視訊解碼裝置之實例，該視訊解碼裝置包括記憶體，其經組態以儲存視訊資料，及一或多個處理單元，其實施於電路中且經組態以：自包括視訊資料之經編碼表示之位元串流中的語法結構獲得第一語法元素或第二語法元素中之至少一者。第一語法元素指示是否針對對應於語法結構之區塊啟用4-參數仿射預測，且第二語法元素指示是否針對對應於語法結構之區塊啟用6-參數仿射預測。基於第一語法元素指示針對視訊資料之當前區塊啟用4-參數仿射預測或第二語法元素指示針對當前區塊啟用6-參數仿射預測，該一或多個處理單元可使用仿射預測產生用於當前區塊之預測性區塊且使用預測性區塊及殘餘資料重建構當前區塊。語法結構可例如為SPS、PPS、圖塊標頭或CTU中之一者。可獨立地設定第一語法元素及第二語法元素。
該一或多個處理單元亦可經組態以基於第一語法元素指示針對區塊啟用4-參數仿射預測或第二語法元素指示針對區塊啟用6-參數仿射預測而自位元串流獲得第三語法元素、第四語法元素及第五語法元素中之至少一者。第三語法元素可指示仿射合併模式是否用於當前區塊，且第四語法元素可指示仿射框間模式是否用於當前區塊。第五語法元素可指示係用4-參數仿射預測抑或6-參數仿射預測來編碼當前區塊。該一或多個處理單元亦可經組態以基於第一語法元素指示針對區塊啟用4-參數仿射預測或第二語法元素指示針對區塊啟用6-參數仿射預測而非該兩者而自位元串流獲得第三語法元素及第四語法元素中之至少一者而非第五語法元素。
視訊解碼器30亦表示視訊解碼裝置之實例，該視訊解碼裝置包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以：基於視訊資料之一或多個先前經解碼圖像判定是否針對視訊資料之當前圖像中之區塊啟用使用特定數目之參數的仿射預測模式；基於針對當前圖像之區塊啟用仿射預測，使用仿射預測來產生用於當前圖像之當前區塊的預測性區塊；及使用預測性區塊及殘餘資料來重建構當前區塊。該一或多個先前經解碼圖像可與當前圖像處於相同時間層中。該一或多個先前經解碼圖像中之每一者可具有相同POC模數M值，其中M為整數。
為判定是否針對當前圖像中之區塊啟用仿射預測模式，該一或多個處理單元可經組態以基於使用仿射預測模式編碼之一或多個先前經解碼圖像中之區塊的面積來判定是否針對當前圖像之區塊啟用仿射預測模式。用仿射預測模式編碼之一或多個先前經解碼圖像中之區塊之面積可包括用呈仿射框間模式及仿射合併模式之仿射預測模式編碼之先前經解碼圖像中之區塊的面積。該一或多個處理單元亦可經組態以回應於到達GOP之末端而重設指示區塊面積之變數。
視訊解碼器30亦表示視訊解碼裝置之實例，該視訊解碼裝置包括記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以：基於視訊資料之當前區塊之左上方控制點的運動向量及當前區塊之右上方控制點的運動向量，導出當前區塊之左下方控制點之運動向量；使用當前區塊之左上方、右上方及左下方控制點之運動向量來產生預測性區塊；及基於預測性區塊及殘餘資料重建構當前區塊。
視訊解碼器30表示視訊解碼裝置之實例，該視訊解碼裝置包括記憶體，其經組態以儲存視訊資料，及一或多個處理單元，其實施於電路中且經組態以：自包括視訊資料之經編碼表示之位元串流中的語法結構獲得第一語法元素或第二語法元素中之至少一者。第一語法元素指示是否針對對應於語法結構之區塊啟用4-參數仿射預測，且第二語法元素指示是否針對對應於語法結構之區塊啟用6-參數仿射預測。基於第一語法元素指示針對視訊資料之當前區塊啟用4-參數仿射預測或第二語法元素指示針對當前區塊啟用6-參數仿射預測，該一或多個處理單元經組態以使用仿射預測產生用於當前區塊之預測性區塊且使用預測性區塊及殘餘資料重建構當前區塊。
圖13為說明實例視訊編碼程序的流程圖。視訊編碼器20 (包括框間預測單元1220及熵編碼單元1218)可經組態以執行圖13之技術。在本發明之一個實例中，視訊編碼器20可經組態以判定針對對應於語法結構之區塊(包括第一區塊)啟用6-參數仿射預測(1400)。回應於判定針對對應於語法結構之區塊啟用6-參數仿射預測，視訊編碼器20可經組態以使用4-參數仿射預測或6-參數仿射預測中之一者來產生用於第一區塊之預測性區塊(1402)。視訊編碼器20可使用預測性區塊來判定第一區塊之殘餘資料(1404)且使殘餘資料及包含語法元素之語法結構包括於位元串流中，該語法元素指示針對對應於該語法結構之區塊啟用6-參數仿射預測(1406)。語法結構可例如為序列參數集。
視訊編碼器20可經組態以：回應於針對對應於語法結構之區塊啟用6-參數仿射預測，使指示係用4-參數仿射預測抑或6-參數仿射預測來編碼第一區塊的第二語法元素包括於位元串流中。第二語法元素可例如為語法結構之一部分或可為區塊層級語法元素，其並非語法結構之一部分。
圖14為說明實例視訊解碼程序的流程圖。視訊解碼器30 (包括熵解碼單元1300及運動補償單元1314)可經組態以執行圖14之技術。在本發明之一個實例中，視訊解碼器30可經組態以：自包含視訊資料之經編碼表示之位元串流中之語法結構獲得指示是否針對對應於語法結構之區塊啟用6-參數仿射預測的語法元素(1410)。基於語法元素指示針對對應於語法結構之區塊啟用6-參數仿射預測，視訊解碼器30可使用6-參數仿射預測來產生用於對應於語法結構之區塊中之第一區塊之預測性區塊(1412)。視訊解碼器30可使用預測性區塊及殘餘資料來重建構第一區塊(1414)。語法結構可例如為序列參數集。
在一些實例中，回應於語法元素指示針對對應於語法結構之區塊啟用6-參數仿射預測，視訊解碼器30可經組態以自位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測編碼第一區塊的第二語法元素。第二語法元素可例如為語法結構之一部分或可為區塊層級語法元素，其並非語法結構之一部分。
對應於語法結構之區塊可包括第二區塊，且視訊解碼器30可經組態以：回應於語法元素指示針對對應於語法結構之區塊啟用6-參數仿射預測，自位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測來編碼第二區塊的第二語法元素。基於第二語法元素指示第二區塊係用4-參數仿射預測編碼，視訊解碼器30可使用4-參數仿射預測以產生用於第二區塊之第二預測性區塊且使用第二預測性區塊及第二殘餘資料來重建構第二區塊。
在一些實例中，視訊解碼器30可經組態以：自位元串流中之語法結構獲得指示是否針對對應於語法結構之區塊啟用4-參數仿射預測的語法元素；及基於該語法元素指示針對對應於語法結構之區塊停用4-參數仿射預測，使用6-參數仿射預測來產生用於第一區塊之預測性區塊。
出於說明之目的，已經關於HEVC標準之擴展而描述本發明之某些態樣。然而，本發明中描述的技術可用於其他視訊寫碼程序，包括當前在開發中或尚未開發的其他標準或專屬視訊寫碼程序。
如本發明中所描述，視訊寫碼器可指視訊編碼器或視訊解碼器。類似地，視訊寫碼單元可指視訊編碼器或視訊解碼器。同樣地，若適用，則視訊寫碼可指視訊編碼或視訊解碼。在本發明中，片語「基於」可指示僅僅基於、至少部分地基於，或以某一方式基於。本發明可使用術語「視訊單元」或「視訊區塊」或「區塊」以指代一或多個樣本區塊及用以寫碼樣本之一或多個區塊之樣本的語法結構。視訊單元之實例類型可包括CTU、CU、PU、變換單元(TU)、巨集區塊、巨集區塊分區，等等。在一些情形中，PU之論述可與巨集區塊或巨集區塊分區之論述互換。視訊區塊之實例類型可包括寫碼樹型區塊、寫碼區塊及其他類型之視訊資料區塊。
應認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同序列被執行、可被添加、合併或完全省去(例如，並非所有所描述動作或事件為實踐該等技術所必要)。此外，在某些實例中，可例如經由多線程處理、中斷處理或多個處理器同時而非循序執行動作或事件。
在一或多個實例中，所描述功能可以硬體、軟體、韌體或其任何組合來實施。若以軟體實施，則該等功能可作為一或多個指令或程式碼而儲存於電腦可讀媒體上或經由電腦可讀媒體進行傳輸，且由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體(其對應於諸如資料儲存媒體之有形媒體)或通信媒體，該通信媒體包括(例如)根據通信協定促進電腦程式自一處傳送至另一處的任何媒體。以此方式，電腦可讀媒體通常可對應於(1)非暫時性之有形電腦可讀儲存媒體，或(2)諸如信號或載波之通信媒體。資料儲存媒體可為可藉由一或多個電腦或一或多個處理電路存取以擷取指令、程式碼及/或資料結構以用於實施本發明中描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。
藉由實例而非限制，此等電腦可讀儲存媒體可為以下中之任何一或多者：RAM、ROM、EEPROM、CD-ROM或其他光碟儲存裝置、磁碟儲存裝置或其他磁性儲存裝置、快閃記憶體或可用以儲存呈指令或資料結構形式之所要程式碼且可藉由電腦存取的任何其他媒體。而且，任何連接被恰當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纖纜線、雙絞線、數位用戶線(DSL)或諸如紅外線、無線電及微波之無線技術，自網站、伺服器或其他遠端源來傳輸指令，則同軸纜線、光纖纜線、雙絞線、DSL或諸如紅外線、無線電及微波之無線技術包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而實情為係關於非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位影音光碟(DVD)、軟碟及藍光光碟，其中磁碟通常以磁性方式再生資料，而光碟藉由雷射以光學方式再生資料。以上各者的組合亦應包括於電腦可讀媒體之範疇內。
本發明中所描述之功能性可藉由固定功能及/或可程式化處理電路執行。舉例而言，指令可藉由固定功能及/或可程式化處理電路執行。此處理電路系統可包括一或多個處理器，諸如一或多個DSP、通用微處理器、ASIC、FPGA或其他等效積體或離散邏輯電路。因此，如本文中所使用之術語「處理器」可指上述結構或適合於實施本文中所描述之技術的任何其他結構中之任一者。另外，在一些態樣中，本文所描述之功能性可提供於經組態以供編碼及解碼或併入於經組合編解碼器中之專用硬體及/或軟體模組內。此外，該等技術可完全實施於一或多個電路或邏輯元件中。處理電路可以各種方式耦接至其他組件。舉例而言，處理電路可經由內部裝置互連件、有線或無線網路連接或另一通信媒體耦接至其他組件。
本發明之技術可實施於廣泛多種裝置或設備中，包括無線手持機、積體電路(IC)或一組IC (例如晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以執行所揭示技術之裝置的功能態樣，但未必要求由不同硬體單元來實現。確切而言，如上文所描述，各種單元可與合適的軟體及/或韌體一起組合於編解碼器硬體單元中或由互操作性硬體單元之集合提供，硬件單元包括如上文所描述之一或多個處理器。
各種實例已予以描述。此等及其他實例在以下申請專利範圍之範疇內。
18‧‧‧視訊源
19‧‧‧儲存媒體
20‧‧‧視訊編碼器
30‧‧‧視訊解碼器
100‧‧‧視訊編碼及解碼系統
102‧‧‧源裝置
104‧‧‧視訊源
106‧‧‧記憶體
108‧‧‧輸出介面
110‧‧‧電腦可讀媒體
112‧‧‧儲存裝置
114‧‧‧檔案伺服器
116‧‧‧目的地裝置
118‧‧‧顯示裝置
120‧‧‧記憶體
122‧‧‧輸入介面
130‧‧‧QTBT結構
132‧‧‧CTU
200‧‧‧視訊編碼器
300‧‧‧視訊解碼器
302‧‧‧左上方控制點
304‧‧‧右上方控制點
402‧‧‧左上方控制點
404‧‧‧右上方控制點
406‧‧‧運動向量
408‧‧‧運動向量
500‧‧‧當前區塊
520‧‧‧候選清單
620‧‧‧候選清單
700‧‧‧當前區塊
1200‧‧‧預測處理單元
1201‧‧‧視訊資料記憶體
1202‧‧‧殘餘產生單元
1204‧‧‧變換處理單元
1206‧‧‧量化單元
1208‧‧‧反量化單元
1210‧‧‧反變換處理單元
1212‧‧‧重建構單元
1214‧‧‧濾波器單元
1216‧‧‧經解碼圖像緩衝器
1218‧‧‧熵編碼單元
1220‧‧‧框間預測處理單元
1222‧‧‧框內預測處理單元
1300‧‧‧熵解碼單元
1301‧‧‧視訊資料記憶體
1302‧‧‧預測處理單元
1304‧‧‧反量化單元
1306‧‧‧反變換處理單元
1308‧‧‧重建構單元
1310‧‧‧濾波器單元
1312‧‧‧經解碼圖像緩衝器
1314‧‧‧運動補償單元
1316‧‧‧框內預測處理單元
1410‧‧‧步驟
1412‧‧‧步驟
1414‧‧‧步驟
圖1為說明可利用本發明中所描述之一或多種技術的實例視訊編碼及解碼系統之方塊圖。
圖2A及圖2B為說明實例四分樹二元樹(QTBT)結構及對應寫碼樹型單元(CTU)之概念圖。
圖3A說明用於合併模式之空間相鄰運動向量(MV)候選。
圖3B說明用於進階運動向量預測(AMVP)模式之空間相鄰MV候選。
圖4為說明具有四個仿射參數之兩點MV仿射模式之實例的概念圖。
圖5說明每一子區塊之仿射運動向量場(MVF)。
圖6A為說明如在AF_INTER模式中所使用的當前區塊及相鄰區塊之方塊圖。
圖6B說明實例仿射運動向量預測子集合候選清單。
圖7A為說明用於如聯合探測模型中所採用的仿射運動估計之實例策略的流程圖。
圖7B為用於仿射運動估計之實例反覆策略的流程圖。
圖8A展示在以AF_MERGE模式寫碼當前區塊時使用的相鄰區塊。
圖8B說明在以仿射模式寫碼相鄰左下區塊時的AF_MERGE。
圖9為具有六個參數之仿射模型的概念圖。
圖10A為說明來自父區塊之仿射MV的實例運動晶種的方塊圖。
圖10B為說明來自上代區塊之仿射MV的實例運動晶種的方塊圖。
圖11為說明可實施本發明中所描述之一或多種技術的實例視訊編碼器之方塊圖。
圖12為說明可實施本發明中所描述之一或多種技術的實例視訊解碼器的方塊圖。
圖13為說明實例視訊編碼程序的流程圖。
圖14為說明實例視訊解碼程序的流程圖。

Claims (24)

  1. 一種解碼視訊資料之方法，該方法包含： 自包含該視訊資料之一經編碼表示之一位元串流中之一語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生用於該第一區塊之一預測性區塊；及 使用該預測性區塊及殘餘資料來重建構該第一區塊。
  2. 如請求項1之方法，其中該語法元素包含一序列參數集。
  3. 如請求項1之方法，其進一步包含： 回應於該語法元素指示針對對應於該語法結構之該等區塊啟用6-參數仿射預測，自該位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測來編碼該第一區塊的一第二語法元素，其中該第二語法元素之一值指示用6-參數仿射預測編碼該第一區塊。
  4. 如請求項3之方法，其中該第二語法元素包含一區塊層級語法元素，其並非該語法結構之一部分。
  5. 如請求項1之方法，其中對應於該語法結構之該等區塊包含一第二區塊，該方法進一步包含： 回應於該語法元素指示針對對應於該語法結構之該等區塊啟用6-參數仿射預測，自該位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測來編碼該第二區塊的一第二語法元素，其中該第二語法元素之一值指示使用4-參數仿射預測編碼該第二區塊；及 基於該第二語法元素指示用4-參數仿射預測編碼該第二區塊，使用仿射預測以產生使用該4-參數仿射預測之該第二區塊之一第二預測性區塊；及 使用該第二預測性區塊及第二殘餘資料以重建構該第二區塊。
  6. 如請求項1之方法，其進一步包含： 自該位元串流中之該語法結構獲得指示是否針對對應於該語法結構之該等區塊啟用4-參數仿射預測的一語法元素； 基於該語法元素指示針對對應於該語法結構之該等區塊停用4-參數仿射預測，使用仿射預測以產生使用該6-參數仿射預測之該第一區塊之該預測性區塊。
  7. 一種編碼視訊資料之方法，該方法包含： 判定針對對應於一語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 回應於判定針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用4-參數仿射預測或該6-參數仿射預測中之一者來產生用於該第一區塊之一預測性區塊； 使用該預測性區塊來判定該第一區塊之殘餘資料；及 使該殘餘資料及包含一語法元素之一語法結構包括於一位元串流中，該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測。
  8. 如請求項7之方法，其中該語法元素包含一序列參數集。
  9. 如請求項7之方法，其進一步包含： 回應於針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使指示該第一區塊係用4-參數仿射預測抑或6-參數仿射預測編碼的一第二語法元素包括於該位元串流中，其中該第二語法元素之一值指示該第一區塊係用6-參數仿射預測編碼。
  10. 如請求項9之方法，其中該第二語法元素包含一區塊層級語法元素，其並非該語法結構之一部分。
  11. 如請求項9之方法，其中該語法元素包含該第二語法元素。
  12. 一種用於解碼視訊資料之裝置，該裝置包含： 一記憶體，其經組態以儲存視訊資料；及 一或多個處理器，其耦接至該記憶體，實施於處理電路中且經組態以： 自包含該視訊資料之一經編碼表示之一位元串流中之一語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生用於該第一區塊之一預測性區塊；及 使用該預測性區塊及殘餘資料來重建構該第一區塊。
  13. 如請求項12之裝置，其中該語法元素包含一序列參數集。
  14. 如請求項12之裝置，其中該一或多個處理器進一步經組態以： 回應於該語法元素指示針對對應於該語法結構之該等區塊啟用6-參數仿射預測，自該位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測來編碼該第一區塊的一第二語法元素，其中該第二語法元素之一值指示使用6-參數仿射預測編碼該第一區塊。
  15. 如請求項14之裝置，其中該第二語法元素包含一區塊層級語法元素，其並非該語法結構之一部分。
  16. 如請求項12之裝置，其中對應於該語法結構之該等區塊包含一第二區塊，且其中該一或多個處理器進一步經組態以： 回應於該語法元素指示針對對應於該語法結構之該等區塊啟用6-參數仿射預測，自該位元串流獲得指示係用4-參數仿射預測抑或6-參數仿射預測來編碼該第二區塊的一第二語法元素，其中該第二語法元素之一值指示使用4-參數仿射預測編碼該第二區塊；及 基於該第二語法元素指示用4-參數仿射預測編碼該第二區塊，使用仿射預測以產生使用該4-參數仿射預測之該第二區塊之一第二預測性區塊；及 使用該第二預測性區塊及第二殘餘資料以重建構該第二區塊。
  17. 如請求項12之裝置，其中該一或多個處理器進一步經組態以： 自該位元串流中之該語法結構獲得指示是否針對對應於該語法結構之該等區塊啟用4-參數仿射預測的一語法元素； 基於該語法元素指示針對對應於該語法結構之該等區塊停用4-參數仿射預測，使用仿射預測以產生使用該6-參數仿射預測之該第一區塊之該預測性區塊。
  18. 一種用於編碼視訊資料之裝置，該裝置包含： 一記憶體，其經組態以儲存視訊資料；及 一或多個處理器，其耦接至該記憶體，實施於處理電路中且經組態以： 判定針對對應於一語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 回應於判定針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用4-參數仿射預測或該6-參數仿射預測中之一者來產生用於該第一區塊之一預測性區塊； 使用該預測性區塊來判定該第一區塊之殘餘資料；及 使該殘餘資料及包含一語法元素之一語法結構包括於一位元串流中，該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測。
  19. 如請求項18之裝置，其中該語法元素包含一序列參數集。
  20. 如請求項18之裝置，其中該一或多個處理器進一步經組態以： 回應於針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使指示該第一區塊係用4-參數仿射預測抑或6-參數仿射預測編碼的一第二語法元素包括於該位元串流中，其中該第二語法元素之一值指示該第一區塊係用6-參數仿射預測編碼。
  21. 如請求項20之裝置，其中該第二語法元素包含一區塊層級語法元素，其並非該語法結構之一部分。
  22. 如請求項20之裝置，其中該語法元素包含該第二語法元素。
  23. 一種儲存指令之電腦可讀儲存媒體，該等指令在由一或多個處理器執行時使該一或多個處理器： 自包含該視訊資料之一經編碼表示之一位元串流中之一語法結構獲得一語法元素，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測，使用該6-參數仿射預測產生該第一區塊之一預測性區塊；及 使用該預測性區塊及殘餘資料來重建構該第一區塊。
  24. 一種用於解碼視訊資料之設備，該設備包含： 用於自包含該視訊資料之一經編碼表示之一位元串流中之一語法結構獲得一語法元素的構件，該語法元素指示是否針對對應於該語法結構之區塊啟用6-參數仿射預測，其中對應於該語法結構之該等區塊包含一第一區塊； 用於基於該語法元素指示針對對應於該語法結構之該等區塊啟用該6-參數仿射預測來使用該6-參數仿射預測產生用於該第一區塊之一預測性區塊的構件；及 用於使用該預測性區塊及殘餘資料來重建構該第一區塊的構件。
TW107135856A 2017-10-10 2018-10-11 視訊寫碼中之仿射預測 TWI805627B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201762570417P 2017-10-10 2017-10-10
US62/570,417 2017-10-10
US16/155,744 US11877001B2 (en) 2017-10-10 2018-10-09 Affine prediction in video coding
US16/155,744 2018-10-09

Publications (2)

Publication Number Publication Date
TW201924343A true TW201924343A (zh) 2019-06-16
TWI805627B TWI805627B (zh) 2023-06-21

Family

ID=65992744

Family Applications (1)

Application Number Title Priority Date Filing Date
TW107135856A TWI805627B (zh) 2017-10-10 2018-10-11 視訊寫碼中之仿射預測

Country Status (11)

Country Link
US (2) US11877001B2 (zh)
EP (1) EP3695604A1 (zh)
KR (1) KR20200055015A (zh)
CN (1) CN111164977B (zh)
AU (1) AU2018348143B2 (zh)
BR (1) BR112020006588A2 (zh)
CA (1) CA3074931A1 (zh)
CL (1) CL2020000873A1 (zh)
SG (1) SG11202001985VA (zh)
TW (1) TWI805627B (zh)
WO (1) WO2019075058A1 (zh)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3432578A4 (en) * 2016-03-24 2019-11-20 LG Electronics Inc. METHOD AND APPARATUS FOR INTER-PREDICTION IN A VIDEO CODING SYSTEM
US11082721B2 (en) * 2017-09-07 2021-08-03 Lg Electronics Inc. Method and apparatus for entropy-encoding and entropy-decoding video signal
US11877001B2 (en) 2017-10-10 2024-01-16 Qualcomm Incorporated Affine prediction in video coding
CN117354538A (zh) * 2017-10-27 2024-01-05 松下电器（美国）知识产权公司 编码装置、解码装置、生成装置、发送装置和存储介质
US11172229B2 (en) 2018-01-12 2021-11-09 Qualcomm Incorporated Affine motion compensation with low bandwidth
WO2019183906A1 (zh) * 2018-03-29 2019-10-03 华为技术有限公司 帧间预测的方法和装置
KR20200133327A (ko) * 2018-04-12 2020-11-27 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
EP4351146A3 (en) * 2018-04-13 2024-06-12 LG Electronics Inc. Method and apparatus for inter prediction in video processing system
CN116668677A (zh) * 2018-05-10 2023-08-29 Lg电子株式会社 解码设备、编码设备和数据发送设备
EP3815375A1 (en) * 2018-06-29 2021-05-05 VID SCALE, Inc. Adaptive control point selection for affine motion model based video coding
US10805624B2 (en) * 2018-07-16 2020-10-13 Tencent America LLC Determination of parameters of an affine model
SG11202100434TA (en) * 2018-07-17 2021-02-25 Huawei Tech Co Ltd Motion model signaling
US11057617B2 (en) * 2018-08-03 2021-07-06 Tencent America LLC Method and apparatus for video coding
CN110868587B (zh) 2018-08-27 2023-10-20 华为技术有限公司 一种视频图像预测方法及装置
EP3700216B1 (en) * 2018-09-10 2022-08-03 LG Electronics Inc. Affine motion prediction-based image coding using affine mvp candidate list
SG11202102788YA (en) * 2018-09-21 2021-04-29 Guangdong Oppo Mobile Telecommunications Corp Ltd Image signal encoding/decoding method and device therefor
CA3115689A1 (en) * 2018-10-10 2020-04-16 Interdigital Vc Holdings, Inc. Affine mode signaling in video encoding and decoding
GB2578150C (en) 2018-10-18 2022-05-18 Canon Kk Video coding and decoding
WO2020124040A1 (en) * 2018-12-13 2020-06-18 Beijing Dajia Internet Information Technology Co., Ltd. Method for deriving constructed affine merge candidates
US11202089B2 (en) * 2019-01-28 2021-12-14 Tencent America LLC Method and apparatus for determining an inherited affine parameter from an affine model
US11985330B2 (en) * 2019-04-12 2024-05-14 Hfi Innovation Inc. Method and apparatus of simplified affine subblock process for video coding system
BR112021021352A2 (pt) * 2019-04-25 2022-02-01 Op Solutions Llc Candidatos de previsão de vetor de movimento adaptativo em quadros com movimento global
CN114128288A (zh) 2019-04-25 2022-03-01 Op方案有限责任公司 运动矢量帧间预测的全局运动模型
SG11202111755TA (en) * 2019-04-25 2021-11-29 Op Solutions Llc Selective motion vector prediction candidates in frames with global motion
EP3959884A4 (en) 2019-04-25 2022-06-01 OP Solutions, LLC SIGNALING A GLOBAL MOTION VECTOR IN AN IMAGE HEAD
BR112021021331A2 (pt) * 2019-04-25 2021-12-14 Op Solutions Llc Sinalização de vetor de movimento global em cabeçalho de imagem
EP3959883A4 (en) 2019-04-25 2022-07-20 OP Solutions, LLC GLOBAL MOTION CONSTRAINED MOTION VECTOR DURING INTER PREDICTION
JP7377894B2 (ja) * 2019-05-21 2023-11-10 北京字節跳動網絡技術有限公司 サブブロックマージモードでのシンタックスシグナリング
JP7275326B2 (ja) * 2019-06-14 2023-05-17 ヒョンダイ モーター カンパニー インター予測を利用した映像符号化方法、映像復号化方法、及び映像復号化装置
US11076167B2 (en) * 2019-06-24 2021-07-27 FG Innovation Company Limited Device and method for coding video data
US11432002B2 (en) * 2019-07-08 2022-08-30 Hyundai Motor Company Method and apparatus for encoding and decoding video using inter-prediction
WO2021063418A1 (en) * 2019-10-05 2021-04-08 Beijing Bytedance Network Technology Co., Ltd. Level-based signaling of video coding tools

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5654771A (en) * 1995-05-23 1997-08-05 The University Of Rochester Video compression system using a dense motion vector field and a triangular patch mesh overlay model
WO1998042134A1 (en) 1997-03-17 1998-09-24 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
US6735249B1 (en) 1999-08-11 2004-05-11 Nokia Corporation Apparatus, and associated method, for forming a compressed motion vector field utilizing predictive motion coding
US6738423B1 (en) 2000-01-21 2004-05-18 Nokia Mobile Phones Ltd. Method for encoding and decoding video information, a motion compensated video encoder and a corresponding decoder
US6711211B1 (en) 2000-05-08 2004-03-23 Nokia Mobile Phones Ltd. Method for encoding and decoding video information, a motion compensated video encoder and a corresponding decoder
KR100359115B1 (ko) 2000-05-24 2002-11-04 삼성전자 주식회사 영상 코딩 방법
WO2003063502A1 (en) 2002-01-18 2003-07-31 Kabushiki Kaisha Toshiba Moving picture coding method and apparatus and decoding method and apparatus
US7426285B2 (en) 2004-09-21 2008-09-16 Euclid Discoveries, Llc Apparatus and method for processing video data
KR101366242B1 (ko) 2007-03-29 2014-02-20 삼성전자주식회사 움직임 모델 파라메터의 부호화, 복호화 방법 및 움직임모델 파라메터를 이용한 영상의 부호화, 복호화 방법 및장치
KR101350723B1 (ko) 2008-06-16 2014-01-16 돌비 레버러토리즈 라이쎈싱 코오포레이션 비디오 코딩을 위한 슬라이스 종속성에 기초한 레이트 제어 모델 적응 방법
JP2012080151A (ja) 2009-02-09 2012-04-19 Toshiba Corp 幾何変換動き補償予測を用いる動画像符号化及び動画像復号化の方法と装置
WO2011013253A1 (ja) 2009-07-31 2011-02-03 株式会社 東芝 幾何変換動き補償予測を用いる予測信号生成装置、動画像符号化装置及び動画像復号化装置
US8411750B2 (en) 2009-10-30 2013-04-02 Qualcomm Incorporated Global motion parameter estimation using block-based motion vectors
RS63059B1 (sr) 2010-04-13 2022-04-29 Ge Video Compression Llc Kodiranje videa primenom podele sa više stabala na slikama
WO2012012582A1 (en) 2010-07-21 2012-01-26 Dolby Laboratories Licensing Corporation Reference processing using advanced motion models for video coding
EP3703373B1 (en) * 2010-10-08 2024-04-17 GE Video Compression, LLC Picture coding supporting block partitioning and block merging
US9807424B2 (en) 2011-01-10 2017-10-31 Qualcomm Incorporated Adaptive selection of region size for identification of samples in a transition zone for overlapped block motion compensation
RU2480941C2 (ru) 2011-01-20 2013-04-27 Корпорация "Самсунг Электроникс Ко., Лтд" Способ адаптивного предсказания кадра для кодирования многоракурсной видеопоследовательности
US9282338B2 (en) 2011-06-20 2016-03-08 Qualcomm Incorporated Unified merge mode and adaptive motion vector prediction mode candidates selection
US9883203B2 (en) 2011-11-18 2018-01-30 Qualcomm Incorporated Adaptive overlapped block motion compensation
US9532046B2 (en) 2012-04-16 2016-12-27 Qualcomm Incorporated Reference picture set prediction for video coding
US9762903B2 (en) 2012-06-01 2017-09-12 Qualcomm Incorporated External pictures in video coding
CN104704819B (zh) 2012-10-03 2016-12-21 联发科技股份有限公司 3d视频编码的视差矢量推导和视图间运动矢量预测的方法及装置
CN104704827B (zh) * 2012-11-13 2019-04-12 英特尔公司 用于下一代视频的内容自适应变换译码
JP6472441B2 (ja) * 2013-10-11 2019-02-20 シャープ株式会社 ビデオを復号するための方法
WO2015169200A1 (en) 2014-05-06 2015-11-12 Mediatek Singapore Pte. Ltd. Method of block vector prediction for intra block copy mode coding
WO2016008157A1 (en) 2014-07-18 2016-01-21 Mediatek Singapore Pte. Ltd. Methods for motion compensation using high order motion model
CN104539966B (zh) * 2014-09-30 2017-12-22 华为技术有限公司 图像预测方法及相关装置
CN104363451B (zh) 2014-10-27 2019-01-25 华为技术有限公司 图像预测方法及相关装置
CN112188206B (zh) 2014-10-31 2023-10-20 三星电子株式会社 使用高精度跳过编码的视频编码设备和视频解码设备及其方法
CA2979082C (en) 2015-03-10 2021-07-27 Huawei Technologies Co., Ltd. Picture processing using an affine motion model and a motion vector 2-tuple
WO2017051072A1 (en) 2015-09-23 2017-03-30 Nokia Technologies Oy A method, an apparatus and a computer program product for coding a 360-degree panoramic video
EP3355578B1 (en) 2015-09-24 2020-12-09 LG Electronics Inc. Motion vector predictor derivation and candidate list construction
KR102646890B1 (ko) 2015-10-13 2024-03-12 삼성전자주식회사 영상을 부호화 또는 복호화하는 방법 및 장치
US11082713B2 (en) 2015-11-20 2021-08-03 Mediatek Inc. Method and apparatus for global motion compensation in video coding system
US20190028731A1 (en) 2016-01-07 2019-01-24 Mediatek Inc. Method and apparatus for affine inter prediction for video coding system
WO2017130696A1 (ja) 2016-01-29 2017-08-03 シャープ株式会社 予測画像生成装置、動画像復号装置、および動画像符号化装置
EP3414900A4 (en) 2016-03-15 2019-12-11 Mediatek Inc. METHOD AND DEVICE FOR VIDEO CODING WITH AFFINE MOTION COMPENSATION
US10623774B2 (en) 2016-03-22 2020-04-14 Qualcomm Incorporated Constrained block-level optimization and signaling for video coding tools
US10560712B2 (en) 2016-05-16 2020-02-11 Qualcomm Incorporated Affine motion prediction for video coding
CN109076234A (zh) 2016-05-24 2018-12-21 华为技术有限公司 图像预测方法和相关设备
US10448010B2 (en) 2016-10-05 2019-10-15 Qualcomm Incorporated Motion vector prediction for affine motion models in video coding
US11877001B2 (en) 2017-10-10 2024-01-16 Qualcomm Incorporated Affine prediction in video coding

Also Published As

Publication number Publication date
TWI805627B (zh) 2023-06-21
AU2018348143B2 (en) 2022-08-25
EP3695604A1 (en) 2020-08-19
US11877001B2 (en) 2024-01-16
CN111164977A (zh) 2020-05-15
CL2020000873A1 (es) 2020-09-25
CA3074931A1 (en) 2019-04-18
US20240137556A1 (en) 2024-04-25
KR20200055015A (ko) 2020-05-20
SG11202001985VA (en) 2020-04-29
BR112020006588A2 (pt) 2020-10-06
CN111164977B (zh) 2024-05-24
AU2018348143A1 (en) 2020-03-26
WO2019075058A1 (en) 2019-04-18
US20190110064A1 (en) 2019-04-11

Similar Documents

Publication Publication Date Title
CN111164977B (zh) 视频译码中的仿射预测
TWI819100B (zh) 用於仿射模式之以歷史為基礎之運動向量預測
US11606575B2 (en) Multiple history based non-adjacent MVPs for wavefront processing of video coding
US11025903B2 (en) Coding video data using derived chroma mode
KR20210046677A (ko) 애파인 모션 예측
TW201924345A (zh) 寫碼用於視頻寫碼之仿射預測移動資訊
TW202044839A (zh) 用於視訊寫碼之區塊內複製合併資料語法
TW201924350A (zh) 視訊寫碼中之仿射運動向量預測
TW202021354A (zh) 運動向量預測器清單產生
TW201933873A (zh) 多模型局部照明補償
TW202034694A (zh) 用於視訊寫碼中之區塊內複製模式之運動向量預測器清單產生
TW202038609A (zh) 用於視訊寫碼之共享候選清單及平行候選清單推導
US11172214B2 (en) Derivation of processing area for parallel processing in video coding
TW202106021A (zh) 使用非矩形預測模式減少視訊資料之預測之運動場儲存
TW202114426A (zh) 視訊編碼中的ｂｄｏｆ和ｄｍｖｒ的協調提前終止
TW202110183A (zh) 具有運動資訊收集緩衝器之運動向量預測
US12034965B2 (en) Multiple history based non-adjacent MVPs for wavefront processing of video coding
TWI843809B (zh) 用於視訊寫碼中具有運動向量差之合併模式之信令傳輸
TW202041024A (zh) 用於視訊寫碼中具有運動向量差之合併模式之信令傳輸
TW202101984A (zh) 用於視訊寫碼之合併模式寫碼
TW202038611A (zh) 用於視訊寫碼之三角運動資訊