TW202019177A - 結合模式相依內平滑濾波與內插濾波器內切換 - Google Patents

結合模式相依內平滑濾波與內插濾波器內切換 Download PDF

Info

Publication number
TW202019177A
TW202019177A TW108123327A TW108123327A TW202019177A TW 202019177 A TW202019177 A TW 202019177A TW 108123327 A TW108123327 A TW 108123327A TW 108123327 A TW108123327 A TW 108123327A TW 202019177 A TW202019177 A TW 202019177A
Authority
TW
Taiwan
Prior art keywords
block
condition
intra
frame
true
Prior art date
Application number
TW108123327A
Other languages
English (en)
Other versions
TWI821324B (zh
Inventor
德 艾瓦拉 吉特 范
阿達許 克里許納 瑞瑪蘇布雷蒙尼安
法迪姆 塞瑞金
馬塔 卡茲維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202019177A publication Critical patent/TW202019177A/zh
Application granted granted Critical
Publication of TWI821324B publication Critical patent/TWI821324B/zh

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Abstract

本發明提供一種視訊寫碼器，該視訊寫碼器經組態以判定一條件對於視訊資料之一當前圖像的一區塊是否為真。基於該條件對於該區塊為真，該視訊寫碼器可將一非平滑內插濾波器應用於第一區塊之未經濾波參考樣本以產生該區塊之預測性樣本。基於該條件對於該區塊為假，該視訊寫碼器可將一平滑內插濾波器應用於第二區塊之未經濾波參考樣本以產生該第二區塊之預測性樣本。

Description

結合模式相依內平滑濾波與內插濾波器內切換
本發明係關於視訊編碼及視訊解碼。
數位視訊能力可併入至廣泛範圍之裝置中，該等裝置包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄裝置、數位媒體播放器、視訊遊戲裝置、視訊遊戲控制台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電傳話會議裝置、視訊串流裝置及其類似者。數位視訊裝置實施視訊寫碼技術，諸如由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分進階視訊寫碼(AVC)所定義之標準、高效率視訊寫碼(HEVC)標準、ITU-T H.265/高效率視訊寫碼(HEVC)及此等標準之擴展中描述的彼等視訊寫碼技術。視訊裝置可藉由實施此類視訊寫碼技術來更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊寫碼技術包括空間(圖像內)預測及/或時間(圖像間)預測以減少或移除視訊序列中固有的冗餘。對於基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖像或視訊圖像的一部分)可分割成視訊區塊，視訊區塊亦可被稱作寫碼樹型單元(CTU)、寫碼單元(CU)及/或寫碼節點。使用相對於同一圖像中之相鄰區塊中之參考樣本的空間預測來編碼圖像之經框內寫碼(I)之圖塊中的視訊區塊。圖像之框間寫碼(P或B)圖塊中之視訊區塊可使用相對於同一圖像中之相鄰區塊中的參考樣本的空間預測或相對於其他參考圖像中之參考樣本的時間預測。圖像可被稱作圖框，且參考圖像可被稱作參考圖框。
大體而言，本發明描述用於合併用於定向模式之框內預測的兩個平滑濾波操作的技術：模式相依內平滑(MDIS)濾波及高斯內插濾波。在一些實例中，此可藉由在兩個內插濾波器之間決定直接應用MDIS條件及去除獨立內插濾波器條件而完成。
在一個實例中，本發明描述一種解碼視訊資料之方法，該方法包含：判定一條件對於該視訊資料之一當前圖像的一第一區塊是否為真；基於該條件對於該第一區塊為真，將一非平滑內插濾波器應用於該第一區塊之未經濾波參考樣本以產生該第一區塊的預測性樣本；判定該條件對於該當前圖像之一第二區塊是否為真；基於該條件對於該第二區塊為假，將一平滑內插濾波器應用於該第二區塊之未經濾波參考樣本以產生該第二區塊的預測性樣本；基於該第一區塊之該等預測性樣本重建構該第一區塊；及基於該第二區塊之該等預測性樣本重建構該第二區塊。
在另一實例中，本發明描述一種編碼視訊資料之方法，該方法包含：判定一條件對於該視訊資料之一當前圖像的一第一區塊是否為真；基於該條件對於該第一區塊為真，將一非平滑內插濾波器應用於該第一區塊之未經濾波參考樣本以產生該第一區塊的預測性樣本；判定該條件對於該當前圖像之一第二區塊是否為真；基於該條件對於該第二區塊為假，將一平滑內插濾波器應用於該第二區塊之未經濾波參考樣本以產生該第二區塊的預測性樣本；基於該第一區塊之該等預測性樣本產生該第一區塊之殘餘資料；基於該第二區塊之該等預測性樣本產生該第二區塊之殘餘資料；及將表示該第一區塊之該殘餘資料及該第二區塊之該殘餘資料的資料包括於包括該視訊資料之一經編碼表示的一位元串流中。
在另一實例中，本發明描述一種用於編碼或解碼視訊資料之裝置，該裝置包含：一記憶體，其儲存該視訊資料；及一或多個處理器，其經組態以：判定一條件對於該視訊資料之一當前圖像的一區塊是否為真；基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本；及基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊的該等預測性樣本。
在另一實例中，本發明描述一種用於編碼或解碼視訊資料之裝置，該裝置包含：用於判定一條件對於該視訊資料之一當前圖像的一區塊是否為真的構件；用於基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本的構件；及用於基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊的該等預測性樣本的構件。
在另一實例中，本發明描述一種在上面儲存有指令之電腦可讀儲存媒體，該等指令當經執行時使得一或多個處理器：判定一條件對於該視訊資料之一當前圖像的一區塊是否為真；基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本；及基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊的該等預測性樣本。
在以下隨附圖式及描述中闡述一或多個實例之細節。其他特徵、目標及優勢自描述、圖式及申請專利範圍將係顯而易見的。
本申請案主張2018年7月2日申請之美國臨時專利申請案第62/693,266號、2018年9月5日申請之美國臨時專利申請案第62/727,341號及2018年9月14日申請之美國臨時專利申請案第62/731,723號的權益，該等案中之每一者的全部內容以引用的方式併入。
在視訊寫碼中，視訊寫碼器(例如視訊編碼器或視訊解碼器)可寫碼(例如編碼或解碼)當前圖像之當前區塊。作為寫碼當前區塊之程序的部分，視訊寫碼器可使用框內預測以產生當前區塊之預測性區塊。為使用框內預測產生預測性區塊，視訊寫碼器可基於一組參考樣本判定預測性區塊之樣本的值。該組參考樣本可包括在當前區塊左邊成一行的當前圖像之樣本及在當前區塊上方成一列的當前圖像之樣本。視訊寫碼器可使用參考樣本以取決於預測性區塊之框內預測模式以不同方式判定預測性區塊之樣本的值。
在基於該組參考樣本判定預測性區塊之樣本的值之前，視訊寫碼器可將一濾波器應用於該等參考樣本。將濾波器應用於參考樣本可改良壓縮效率。多個技術已經開發用於將各種類型濾波器應用於參考樣本。舉例而言，模式相依內平滑(MDIS)為用於將濾波器應用於參考樣本的一種技術。在MDIS中，視訊寫碼器可取決於框內預測模式及預測性區塊之大小判定是否將任何濾波器應用於參考樣本。此外，若視訊寫碼器進行將濾波器應用於參考圖像的判定，則視訊寫碼器可取決於框內預測模式及預測性區塊之大小將不同濾波器應用於參考樣本。視訊寫碼器可同時儲存初始未經濾波參考樣本(例如出於輸出參考樣本或再次用於預測其他區塊之目的)且可需要儲存經濾波參考樣本。
除了作為執行MDIS之部分將濾波器應用於參考樣本之外，視訊寫碼器可將內插濾波器應用於參考樣本。視訊寫碼器將內插濾波器應用於整數參考樣本以判定整數參考樣本之間的參考樣本之值。整數參考樣本為當前圖像內在整數值座標處的參考樣本。視訊寫碼器可使用經內插參考樣本以判定預測性區塊中之樣本的值。當應用內插濾波器時，視訊寫碼器可將一組權重應用於整數參考樣本。對於不同子整數位置，可存在不同權重。舉例而言，在個別整數參考樣本之間存在31個相異位置的實例中，可存在32組不同權重：31組權重用於個人參考樣本之間的位置且1組權重用於整數參考樣本。因此，視訊寫碼器可需要儲存全部32組不同權重。此外，視訊寫碼器可經組態以在不同情況下應用不同類型之內插濾波器。舉例而言，視訊寫碼器可經組態以在一些情況下應用三次內插濾波器且在其他情況下應用高斯內插濾波器。因此，視訊寫碼器亦可需要儲存數組權重用於此等類型內插濾波器中之每一者。類似於作為執行MDIS之部分應用的濾波器，高斯內插濾波器可提供平滑效應。因此，視訊寫碼器實際上可連續應用兩個平滑濾波操作。一平滑濾波器為使低於截止頻率之信號通過的低通濾波器。一非平滑濾波器為全通濾波器或具有高於該平滑濾波器之截止頻率的截止頻率的濾波器。
儲存數組權重及儲存經濾波參考樣本及未經濾波參考樣本兩者可消耗寶貴的儲存空間。此外，連續應用兩個平滑濾波操作可增加寫碼程序之複雜度，此可增加建構實施寫碼程序的電路之成本。
本發明描述可減小儲存需求及/或可減小寫碼程序之複雜度的技術。舉例而言，如本文所描述，視訊寫碼器可實施其中MDIS及高斯內插濾波之平滑濾波操作出於定向框內預測模式的目的而統一的程序。如本文所描述，此可藉由使用相同條件用於選擇在MDIS及高斯內插濾波兩者中之濾波器而完成。因此，在一個實例中，視訊寫碼器可經組態以判定一條件對於視訊資料之一當前圖像的一區塊是否為真。基於該條件對於該區塊為真，視訊寫碼器可將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本。然而，基於該條件對於該區塊為假，視訊寫碼器可將一平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本。因此，伴隨對儲存MDIS經濾波樣本之需求，視訊寫碼器可將濾波器應用於未經濾波參考樣本，而非應用獨立MDIS濾波器及內插濾波器。
圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體上係針對寫碼(編碼及/或解碼)視訊資料。大體而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經寫碼視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如語法資料。
如圖1中所示，在此實例中，系統100包括源裝置102，其提供待由目的地裝置116解碼及顯示之經編碼視訊資料。詳言之，源裝置102經由電腦可讀媒體110將視訊資料提供至目的地裝置116。源裝置102及目的地裝置116可為廣泛範圍之裝置中之任一者，包括桌上型電腦、筆記型(例如，膝上型)電腦、平板電腦、行動裝置、機上盒、諸如智慧型電話之電話手持機、電視、攝影機、顯示裝置、數位媒體播放器、視訊遊戲控制台、視訊串流裝置或其類似者。在一些情況下，源裝置102及目的地裝置116可經裝備用於無線通信，且由此可稱為無線通信裝置。
在圖1之實例中，源裝置102包括視訊源104、記憶體106、視訊編碼器200及輸出介面108。目的地裝置116包括輸入介面122、視訊解碼器300、記憶體120及顯示裝置118。根據本發明，源裝置102之視訊編碼器200及目的地裝置116之視訊解碼器300可經組態以應用用於合併MDIS及高斯內插濾波之技術。因此，源裝置102表示視訊編碼裝置之實例，而目的地裝置116表示視訊解碼裝置之實例。在其他實例中，源裝置及目的地裝置可包括其他組件或配置。舉例而言，源裝置102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地裝置116可與外部顯示裝置介接，而非包括整合顯示裝置。
如圖1中所示的系統100僅為一個實例。大體而言任何數位視訊編碼及/或解碼裝置可執行本發明之用於合併MDIS及高斯內插濾波的技術。源裝置102及目的地裝置116僅為源裝置102產生經寫碼視訊資料以供傳輸至目的地裝置116的此類寫碼裝置之實例。本發明將「寫碼」裝置稱為對資料執行寫碼(編碼及/或解碼)之裝置。由此，視訊編碼器200及視訊解碼器300表示寫碼裝置之實例，詳言之分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，裝置102、116可以實質上對稱之方式操作，使得裝置102、116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援視訊裝置102、116之間的單向或雙向視訊傳輸以(例如)用於視訊串流、視訊播放、視訊廣播或視訊電話。
大體而言，視訊源104表示視訊資料源(亦即，原始未經寫碼的視訊資料)且將視訊資料之依序圖像(亦稱為「圖框」)提供至視訊編碼器200，該視訊編碼器編碼圖像之資料。源裝置102之視訊源104可包括視訊俘獲裝置，諸如視訊攝影機、含有先前俘獲之原始視訊的視訊存檔及/或用於自視訊內容提供者接收視訊的視訊饋入介面。作為另一替代方案，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊及電腦產生之視訊的組合。在每一情況下，視訊編碼器200對所俘獲、所預先俘獲或電腦產生之視訊資料進行編碼。視訊編碼器200可將圖像之接收次序(有時稱作「顯示次序」)重新配置成寫碼次序以供寫碼。視訊編碼器200可產生包括經編碼視訊資料之位元串流。源裝置102可接著經由輸出介面108輸出經編碼視訊資料至電腦可讀媒體110上以由例如目的地裝置116之輸入介面122接收及/或擷取。
源裝置102之記憶體106及目的地裝置116之記憶體120表示通用記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器300之原始經解碼視訊資料。另外或替代地，記憶體106、120可儲存可分別由例如視訊編碼器200及視訊解碼器300執行之軟體指令。儘管在此實例中展示為與視訊編碼器200及視訊解碼器300分開，但應理解，視訊編碼器200及視訊解碼器300亦可包括功能上類似或同等目的之內部記憶體。此外，記憶體106、120可儲存例如自視訊編碼器200輸出及輸入至視訊解碼器300的經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。
電腦可讀媒體110可表示能夠將經編碼視訊資料自源裝置102傳送至目的地裝置116的任何類型之媒體或裝置。在一個實例中，電腦可讀媒體110表示用以使源裝置102能即時例如經由射頻網路或基於電腦之網路直接傳輸經編碼視訊資料至目的地裝置116的通信媒體。根據諸如無線通信協定之通信標準，輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可調變所接收之傳輸信號。通信媒體可包括無線或有線通信媒體中之一者或兩者，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或可用於促進自源裝置102至目的地裝置116的通信之任何其他裝備。
在一些實例中，源裝置102可將經編碼資料自輸出介面108輸出至儲存裝置112。類似地，目的地裝置116可經由輸入介面122自儲存裝置112存取經編碼資料。儲存裝置112可包括多種分散式或本端存取式資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體，或用於儲存經編碼視訊資料的任何其他合適之數位儲存媒體。
在一些實例中，源裝置102可將經編碼視訊資料輸出至檔案伺服器114，或可儲存由源裝置102產生之經編碼視訊的另一中間儲存裝置。目的地裝置116可經由串流傳輸或下載而自檔案伺服器114存取所儲存之視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料且將彼經編碼視訊資料傳輸至目的地裝置116的任何類型之伺服器裝置。檔案伺服器114可表示網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路裝置或網路附接儲存(NAS)裝置。目的地裝置116可經由包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線通道(例如Wi-Fi連接)、有線連接(例如DSL、電纜數據機等)，或適於存取儲存於檔案伺服器114上的經編碼視訊資料的兩者之組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合操作。
輸出介面108及輸入介面122可表示無線傳輸器/接收器、數據機、有線網路連接組件(例如，乙太網卡)、根據各種IEEE 802.11標準中之任一者來操作的無線通信組件或其他實體組件。在輸出介面108及輸入介面122包括無線組件之實例中，輸出介面108及輸入介面122可經組態以根據諸如4G、4G-LTE (長期演進)、進階LTE、5G或類似者之蜂巢式通信標準來傳送資料，諸如經編碼視訊資料。在輸出介面108包括無線傳輸器之一些實例中，輸出介面108及輸入介面122可經組態以根據諸如IEEE 802.11說明書、IEEE 802.15說明書(例如，ZigBee™)、Bluetooth™標準或類似者之其他無線標準來傳送資料，諸如經編碼視訊資料。在一些實例中，源裝置102及/或目的地裝置116可包括各別晶片上系統(SoC)裝置。舉例而言，源裝置102可包括SoC裝置以執行歸於視訊編碼器200及/或輸出介面108之功能性，且目的地裝置116可包括SoC裝置以執行歸於視訊解碼器300及/或輸入介面122之功能性。
本發明之技術可應用於支援多種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上的數位視訊之解碼或其他應用。
目的地裝置116之輸入介面122自電腦可讀媒體110 (例如儲存裝置112、檔案伺服器114或類似者)接收經編碼視訊位元串流。經編碼視訊位元串流電腦可讀媒體110可包括由視訊編碼器200界定的發信資訊(其亦由視訊解碼器300使用)，諸如具有描述視訊區塊或其他經寫碼單元(例如圖塊、圖像、圖像之群組、序列或類似者)的特性及/或處理之值的語法元素。顯示裝置118向使用者顯示經解碼視訊資料之經解碼圖像。顯示裝置118可表示各種顯示裝置中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示裝置。
儘管圖1中未展示，但在一些實例中，視訊編碼器200及視訊解碼器300可各自與音訊編碼器及/或音訊解碼器整合，且可包括適當的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。
視訊編碼器200及視訊解碼器300各自可被實施為多種合適編碼器及/或解碼器電路中的任一者，諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合的電路。當該等技術以軟體部分地實施時，裝置可將用於軟體之指令儲存於合適之非暫時性電腦可讀媒體中，且在硬體中使用一或多個處理器執行指令以執行本發明之技術。視訊編碼器200及視訊解碼器300中之每一者可包括於一或多個編碼器或解碼器中，編碼器或解碼器中的任一者可整合為各別裝置中之組合式編碼器/解碼器(編解碼器)的部分。包括視訊編碼器200及/或視訊解碼器300之裝置可包括積體電路、微處理器及/或無線通信裝置(諸如蜂巢式電話)。
視訊編碼器200及視訊解碼器300可根據視訊寫碼標準操作，諸如ITU-T H.265，亦被稱作高效率視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。替代地，視訊編碼器200及視訊解碼器300可根據其他專屬或工業標準操作，諸如當前處於開發中的聯合探索測試模型(JEM)或多功能視訊寫碼(VVC)標準。然而，本發明之技術不限於任何特定寫碼標準。
視訊寫碼標準包括ITU-T H.261、ISO/IEC MPEG-1 Visual、ITU-T H.262或ISO/IEC MPEG-2 Visual、ITU-T H.263、ISO/IEC MPEG-4 Visual、ITU-T H.264 (亦稱為ISO/IEC MPEG-4 AVC)，包括其可調式視訊寫碼(SVC)及多視圖視訊寫碼(MVC)擴展及具有其擴展之ITU-T H.265(亦稱為ISO/IEC MPEG-4 HEVC)。在聯合視訊專家組(JVET)之2018年4月的會議期間，多功能視訊寫碼標準化活動(亦稱為ITU-T H.266)在評估提交給提議徵集之視訊壓縮技術情況下開始。視訊編碼器200及視訊解碼器300可根據H.266視訊寫碼標準或另一編解碼器操作。
大體而言，視訊編碼器200及視訊解碼器300可執行圖像之基於區塊寫碼。術語「區塊」一般係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼程序中使用)之資料的結構。舉例而言，區塊可包括明度及/或色度資料之樣本的二維矩陣。大體而言，視訊編碼器200及視訊解碼器300可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器200及視訊解碼器300可寫碼明度及色度分量，而非寫碼圖像之樣本的紅色、綠色及藍色(RGB)資料，其中該等色度分量可包括紅色調及藍色調色度分量兩者。在一些實例中，視訊編碼器200在編碼之前將所接收的RGB格式資料轉換成YUV表示，且視訊解碼器300將YUV表示轉換成RGB格式。替代地，預處理單元及後處理單元(圖中未示)可執行此等轉換。
本發明大體上可指對圖像進行寫碼(例如編碼及解碼)以包括編碼或解碼圖像之資料的程序。類似地，本發明可指對圖像之區塊進行寫碼以包括編碼或解碼區塊之資料的程序，例如，預測及/或殘餘寫碼。經編碼視訊位元串流大體上包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分割的語法元素的一系列值。因此，對寫碼圖像或區塊之參考大體上應理解為寫碼形成該圖像或區塊之語法元素的值。
HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)，及變換單元(TU)。根據HEVC，視訊寫碼器(諸如視訊編碼器200)根據四分樹結構將寫碼樹型單元(CTU)分割成CU。亦即，視訊寫碼器將CTU及CU分割成四個相同的非重疊正方形，且四分樹之每一節點具有零個或四個子節點。不具有子節點之節點可被稱作「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可進一步分割PU及TU。舉例而言，在HEVC中，殘餘四分樹(RQT)表示TU之分割。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。經框內預測之CU包括框內預測資訊，諸如框內模式指示。
作為另一實例，視訊編碼器200及視訊解碼器300可經組態以根據JEM操作。根據JEM，視訊寫碼器(諸如視訊編碼器200)將圖像分割成複數個CTU。視訊編碼器200可根據樹型結構(諸如四分樹二進位樹(QTBT)結構)分割CTU。JEM之QTBT結構移除多個分割類型之概念，諸如HEVC之CU、PU及TU之間的間距。JEM之QTBT結構包括兩個層級：根據四分樹分割分割的第一層級，及根據二進位樹分割分割的第二層級。QTBT結構之根節點對應於CTU。二進位樹之葉節點對應於寫碼單元(CU)。
在一些實例中，視訊編碼器200及視訊解碼器300可使用單一QTBT結構以表示明度及色度分量中之每一者，而在其他實例中，視訊編碼器200及視訊解碼器300可使用兩個或大於兩個QTBT結構，諸如用於明度分量之一個QTBT結構及用於兩個色度分量之另一QTBT結構(或用於各別色度分量之兩個QTBT結構)。
視訊編碼器200及視訊解碼器300可經組態以使用根據HEVC之四分樹分割、根據JEM之QTBT分割，或其他分割結構。出於解釋之目的，關於QTBT分割呈現本發明之技術的描述。然而，應理解本發明之技術亦可應用於經組態以使用四分樹分割亦或其他類型之分割的視訊寫碼器。
本發明可能可互換地使用「N×N」及「N乘N」以指區塊(諸如CU或其他視訊區塊)在豎直及水平尺寸方面之樣本尺寸，例如16×16樣本或16乘16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y=16)且在水平方向上將具有16個樣本(x=16)。同樣地，N×N CU大體上在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可按列及行來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包括N×M個樣本，其中M不必等於N。
視訊編碼器200編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將如何對CU進行預測以便形成CU之預測區塊。殘餘資訊大體上表示編碼前CU與預測區塊之樣本之間的逐樣本差。
為了預測CU，視訊編碼器200大體上可經由框間預測或框內預測形成CU之預測區塊。框間預測一般係指自先前經寫碼圖像之資料預測CU，而框內預測一般係指自同一圖像之先前經寫碼資料預測CU。為了執行框間預測，視訊編碼器200可使用一或多個運動向量來產生預測區塊。視訊編碼器200可大體執行運動搜尋以例如依據在CU與參考區塊之間的差識別緊密匹配CU的參考區塊。視訊編碼器200可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器200可使用單向預測或雙向預測來預測當前CU。
JEM亦提供仿射運動補償模式，其可被視為框間預測模式。在仿射運動補償模式中，視訊編碼器200可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或大於兩個運動向量。
為了執行框內預測，視訊編碼器200可選擇框內預測模式以產生預測區塊。JEM提供六十七種框內預測模式，包括各種定向模式以及平面模式及DC模式。大體而言，視訊編碼器200選擇描述預測當前區塊之樣本所藉以的當前區塊(例如CU之區塊)之相鄰樣本的框內預測模式。此類樣本大體上可在與當前區塊相同之圖像中，在當前區塊之上方、左上方或左側，假定視訊編碼器200以光柵掃描次序(左至右、上至下)寫碼CTU及CU。
圖2為說明框內預測模式之實例的概念圖。在JEM 7 (2017年7月意大利都靈第7次JVET會議，J. Chen, E. Alshina等人之「Algorithm description of Joint Exploration Test Model 7」JVET-G1001，下文中「JEM 7」)中，存在用於明度區塊之框內預測的67種模式，包括平面模式(亦即，平面框內預測模式)、DC模式及65種角度模式(亦即，角度框內預測模式)，如圖2中指示。
圖3為說明用於根據角度框內預測模式產生視訊資料區塊之預測樣本之實例技術的概念圖。舉例而言，在圖3之實例中，視訊編碼器200可判定相鄰樣本L與R之間的分數位置α，相鄰樣本L及R為鄰近當前PU之兩個經重建構樣本。視訊編碼器200可藉由沿與選定框內預測模式相關聯之預測方向將各別樣本之座標投影至含有兩個相鄰經重建構樣本之相鄰經重建構樣本列或行而判定分數位置。舉例而言，在圖3之實例中，線130展示與選定框內預測模式相關聯之預測方向，且(x,y)為各別樣本62之座標。在此實例中，視訊編碼器200可使用內插濾波器計算各別樣本之預測值，該內插濾波器使用兩個相鄰經重建構樣本之值在經判定分數位置處內插值。在一些實例中，視訊編碼器200可使用除了在圖3之實例中展示的兩個相鄰經重建構樣本之外的一或多個相鄰經重建構樣本之值。此內插可以1/32像素準確度進行。另外，在此實例中，作為編碼視訊資料區塊的部分，視訊編碼器200可產生表示當前區塊與預測性區塊之間的像素差的殘餘資料。視訊編碼器200可變換及量化殘餘資料，且將表示所得經量化變換係數之經熵編碼語法元素包括於位元串流中。視訊解碼器300可以相同方式產生預測樣本。
視訊編碼器200編碼表示當前區塊之預測模式的資料。舉例而言，針對框間預測模式，視訊編碼器200可編碼表示使用多種可用框間預測模式中之何者以及對應模式之運動資訊的資料。舉例而言，對於單向或雙向框間預測，視訊編碼器200可使用進階運動向量預測(AMVP)或合併模式來編碼運動向量。視訊編碼器200可使用類似模式來對仿射運動補償模式之運動向量進行編碼。
在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器200可計算該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊之使用對應預測模式所形成的預測區塊之間的逐樣本差。視訊編碼器200可將一或多個變換應用於殘餘區塊，以在變換域而非樣本域中產生經變換資料。舉例而言，視訊編碼器200可將離散餘弦轉換(DCT)、整數變換、小波變換或概念上類似變換應用於殘餘視訊資料。另外，視訊編碼器200可在一級變換之後應用二次變換，諸如模式相依不可分離二次變換(MDNSST)、信號相依變換、Karhunen-Loeve變換(KLT)或類似者。視訊編碼器200在應用一或多個變換之後產生變換係數。
如上文所提及，在產生變換係數的任何變換之後，視訊編碼器200可執行變換係數之量化。量化一般係指對變換係數進行量化以可能減少用以表示係數的資料之量，從而提供進一步壓縮之程序。藉由執行量化程序，視訊編碼器200可減少與係數中之一些或所有相關聯的位元深度。舉例而言，視訊編碼器200可在量化期間將n 位元值捨入至m 位元值，其中n 大於m 。在一些實例中，為了執行量化，視訊編碼器200可執行待量化值之按位元右移位。
在量化之後，視訊編碼器200可掃描變換係數，從而自包括經量化變換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)係數置於向量前部，且將較低能量(且因此較高頻率)變換係數置於向量後部。在一些實例中，視訊編碼器200可利用預定義掃描次序來掃描經量化變換係數以產生串列化向量，且隨後熵編碼向量之經量化變換係數。在其他實例中，視訊編碼器200可執行適應性掃描。在掃描經量化變換係數以形成一維向量之後，視訊編碼器200可例如根據上下文適應性二進位算術寫碼(CABAC)來熵編碼一維向量。視訊編碼器200亦可熵編碼描述與經編碼視訊資料相關聯的後設資料之語法元素之值，以供由視訊解碼器300用於解碼視訊資料。
為了執行CABAC，視訊編碼器200可將上下文模型內之上下文指派給待傳輸之符號。上下文可係關於(例如)符號之相鄰值是否為零值。機率判定可基於經指派至符號之上下文而進行。
視訊編碼器200可進一步(例如)在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中向視訊解碼器300產生語法資料(諸如基於區塊之語法資料、基於圖像之語法資料以及基於序列之語法資料)。視訊解碼器300可同樣解碼此類語法資料以判定解碼對應視訊資料之方式。
以此方式，視訊編碼器200可產生包括經編碼視訊資料(例如，描述圖像成區塊(例如CU)之分割的語法元素及用於區塊之預測及/或殘餘資訊)之位元串流。最後，視訊解碼器300可接收位元串流並對經編碼視訊資料進行解碼。
大體而言，視訊解碼器300執行與藉由視訊編碼器200執行之程序互逆的程序，以解碼位元串流之經編碼視訊資料。舉例而言，視訊解碼器300可使用CABAC以與視訊編碼器200之CABAC編碼程序實質上類似但互逆的方式解碼位元串流之語法元素的值。語法元素可定義圖像成CTU之分割資訊及每一CTU根據對應分割結構(諸如QTBT結構)之分割，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如CU)的預測及殘餘資訊。
殘餘資訊可由例如經量化變換係數表示。視訊解碼器300可將區塊之經量化變換係數逆量化及逆變換，以再生區塊之殘餘區塊。視訊解碼器300使用發信之預測模式(框內或框間預測)及相關預測資訊(例如用於框間預測之運動資訊)以形成區塊之預測區塊。視訊解碼器300可接著(在逐樣本基礎上)使經預測區塊與殘餘區塊組合以再生初始區塊。視訊解碼器300可執行額外處理，諸如執行解區塊程序以減少沿區塊邊界之視覺假影。
在HEVC中，在框內預測之前，使用2抽頭線性或3抽頭(1、2、1)/4濾波器潛在地濾波相鄰參考樣本。濾波器之抽頭為由濾波器使用以判定輸出值的輸入值，諸如樣本值。術語(x 、 y 、 z ) /α 指示第一抽頭具有權重x ，第二抽頭具有權重y ，且第三抽頭具有權重z ，權重之總和乘以各別抽頭除以α 為指派給第二抽頭之經濾波值。此程序稱為內參考平滑，或MDIS。在MDIS中，給定框內預測模式索引(predModeIntra)及區塊大小(nTbS)，視訊寫碼器(例如視訊編碼器或視訊解碼器)決定參考平滑程序是否將被執行，且若是，則決定使用哪一平滑濾波器。以下文字為來自HEVC說明書之相關段落：8.4.4.2.3 相鄰樣本之濾波程序 對此程序之輸入為： -  相鄰樣本p[x][y]，其中x = −1, y = −1..nTbS * 2 − 1且x = 0..nTbS * 2 − 1, y = −1， -  指定變換區塊大小之變數nTbS。 此程序之輸出為經濾波樣本pF[x][y]，其中x = −1, y = −1..nTbS * 2 − 1且x = 0..nTbS * 2 − 1, y = −1。 如下導出變數filterFlag： -  若以下條件中之一或多者為真，則將filterFlag設定為等於0： –  predModeIntra等於INTRA_DC。 nTbS等於4。 -  否則，以下適用： –  將變數minDistVerHor設定為等於Min(Abs(predModeIntra - 26), Abs(predModeIntra - 10))。 –  在表8-3中指定變數intraHorVerDistThres[nTbS]。 –  如下導出變數filterFlag： –  若minDistVerHor大於intraHorVerDistThres[nTbS]，則將filterFlag設定為等於1。 否則，將filterFlag設定為等於0。表 8 - 3 - 用於各種變換區塊大小之 intraHorVerDistThres [ nTbS ] 的說明書
Figure 108123327-A0304-0001
 當filterFlag等於1時，以下情形適用： -  如下導出變數biIntFlag： -  若以下條件中之全部為真，則將biIntFlag設定為等於1： –   strong_intra_smoothing_enabled_flag等於1 –   nTbS等於32 –  Abs( p[ −1 ][ −1 ] + p[ nTbS * 2 − 1 ][ −1 ] - 2 * p[ nTbS − 1 ][ −1 ] ) ＜ ( 1  ＜＜  ( BitDepthY − 5 ) ) –  Abs( p[ −1 ][ −1 ] + p[ −1 ][ nTbS * 2 − 1 ] - 2 * p[ −1 ][ nTbS − 1 ] ) ＜ ( 1  ＜＜  ( BitDepthY − 5 ) ) -  否則，將biIntFlag設定為等於0。 -  如下執行濾波： -  若biIntFlag等於1，則如下導出經濾波樣本值pF[x][y]，其中x=−1，y=−1..63且x = 0..63, y = −1： pF[ −1 ][ −1 ] = p[ −1 ][ −1 ]                                     (8-30) pF[ −1 ][ y ] = ( ( 63 − y ) * p[ −1 ][ −1 ] + ( y + 1 ) * p[ −1 ][ 63 ] + 32 )  ＞＞  6 for y = 0..62                                                 (8-31) pF[ −1 ][ 63 ] = p[ −1 ][ 63 ]                                     (8-32) pF[ x ][ −1 ] = ( ( 63 − x ) * p[ −1 ][ −1 ] + ( x + 1 ) * p[ 63 ][ −1 ] + 32 )  ＞＞  6 for x = 0..62    (8-33) pF[ 63 ][ −1 ] = p[ 63 ][ −1 ]                                     (8-34) -  否則(biIntFlag等於0)，如下導出經濾波樣本值pF[x][y]，其中x = −1, y = −1..nTbS * 2 − 1且x = 0..nTbS * 2 − 1, y = −1： pF[ −1 ][ −1 ] = ( p[ −1 ][ 0 ] + 2 * p[ −1 ][ −1 ] + p[ 0 ][ −1 ] + 2 )  ＞＞  2                                                                             (8-35) pF[ −1 ][ y ] = ( p[ −1 ][ y + 1 ] + 2 * p[ −1 ][ y ] + p[ −1 ][ y − 1 ] + 2 )  ＞＞  2 for y = 0..nTbS * 2 − 2        (8-36) pF[ −1 ][ nTbS * 2 − 1 ] = p[ −1 ][ nTbS * 2 − 1 ]             (8-37) pF[ x ][ −1 ] = ( p[ x − 1 ][ −1 ] + 2 * p[ x ][ −1 ] + p[ x + 1 ][ −1 ] + 2 )  ＞＞  2 for x = 0..nTbS * 2 − 2       (8-38) pF[ nTbS * 2 − 1 ][ −1 ] = p[ nTbS * 2 − 1 ][ −1 ]        (8-39)''
在聯合視訊探索組(JVET)活動期間，JEM 7被定義且MDIS表之以下版本經包括用於明度區塊。表 1
Figure 108123327-A0304-0002
此外，在JEM7中如下定義區塊大小索引： sizeIndex = (log2(BlockWidth) - 2 + log2(BlockHeight) - 2) / 2 + 2 – 1                                                                                               (1) 在等式(1)中，BlockWidth為區塊之寬度，BlockHeight為區塊之高度，且log2(.)為以2為底的對數函數。
是否將[1 2 1]/4平滑濾波器應用於內參考樣本經判定如下： IntraModeDiff = min(abs(IntraModeIdx - HOR_IDX), abs(IntraModeIdx - VER_IDX))                                                       (2)
在以上等式(2)中，HOR_IDX為水平框內預測模式之索引且VER_IDX為豎直框內預測模式之索引。HOR_IDX等於18且VER_IDX等於50，此係因為JEM 7具有除了平面(IntraModeIdx=0)及DC(IntraModeIdx=1)模式之外的65種定向框內模式(IntraModeIdx2-66)。65種定向框內預測模式具有在2至66範圍內之IntraModeIdx的值。對於平面框內預測模式為0，IntraModeIdx等於0。對於DC框內預測模式，IntraModeIdx等於1。
以下條件判定是否應用平滑濾波器： 若IntraModeDiff＞Threshold[sizeIndex]，則「應用平滑濾波器」(3) 在等式(3)中，視訊寫碼器使用等式(1)以判定sizeIndex的值且使用表1之MDIS表以判定Threshold[sizeIndex]之彼值。
在2018年4月美國聖地亞哥第10次JVET會議，J. Chen, E. Alshina之「Algorithm description for Versatile Video Coding and Test Model 1 (VTM1)」JVET-J1002，下文中「VTM1」及基準模型版本1 (「BMS1」)中，包括以下MDIS表：表 2
Figure 108123327-A0304-0003
在VTM1及BMS1中，如下定義區塊大小索引： sizeIndex = (log2(BlockWidth) + log2(BlockHeight)) / 2             (4)
此外，在VTM1及BMS1中，是否將[1 2 1]/4平滑濾波器應用於內參考樣本經判定如下： IntraModeDiff = min(abs(IntraModeIdx - HOR_IDX), abs(IntraModeIdx - VER_IDX))                                                       (5)
在以上等式(5)中，HOR_IDX為水平框內預測模式之索引且VER_IDX為豎直框內預測模式之索引。在VTM1及BMS1中，HOR_IDX等於18且VER_IDX等於50，此係因為VTM1及BMS1除了平面框內預測模式及DC框內預測模式(IntraModeIdx=1)模式之外具有65種定向框內模式。65種定向框內預測模式具有在2至66範圍內之IntraModeIdx的值。對於平面框內預測模式為0，IntraModeIdx等於0。對於DC框內預測模式，IntraModeIdx等於1。 若IntraModeDiff＞Threshold[sizeIndex]，則「應用平滑濾波器」(6)
在等式(3)及(6)中表達的條件可被稱作MDIS條件，此係因為此等條件可控制平滑濾波器是否應用於參考樣本。在JEM 7、VTM1及BMS1中，若平滑濾波器應用於參考樣本，則在視訊寫碼器將內插濾波器應用於參考樣本以判定參考樣本之間的子像素位置之值之前，視訊寫碼器將平滑濾波器應用於參考樣本。
在HEVC中，兩抽頭線性內插濾波器用以在定向預測模式(亦即，除平面及DC框內預測模式之外的框內預測模式)中產生框內預測區塊。在JEM 7 (2017年7月意大利都靈第7次JVET會議，J. Chen, E. Alshina等人之「Algorithm description of Joint Exploration Test Model 7」JVET-G1001，下文中「JEM 7」)及2018年4月美國聖地亞哥第10次JVET會議，J. Chen, E. Alshina之「Algorithm description for Versatile Video Coding and Test Model 1 (VTM1)」JVET-J1002，下文中「BMS1」或「VTM1」)中，四抽頭框內內插濾波器用於定向框內預測濾波。使用兩種類型之四抽頭內插濾波器： •     針對豎直定向預測模式(IntraModeIdx＞=DIA_IDX(=34))，針對小於或等於8個樣本之區塊寬度的4抽頭三次內插濾波器。DIA_IDX表示用於具有為34之框內預測模式索引的框內預測模式之索引。 •     針對水平定向預測模式(IntraModeIdx＜=DIA_IDX(=34))，針對小於或等於8個樣本之區塊高度的4抽頭三次內插濾波器 •     針對豎直定向預測模式(IntraModeIdx＞=DIA_IDX(=34))，針對大於8個樣本之區塊寬度的4抽頭高斯內插濾波器 •     針對水平定向預測模式(IntraModeIdx＜DIA_IDX(=34))，針對大於8個樣本之區塊高度的4抽頭高斯內插濾波器
內插濾波器之相位可指可使用內插濾波器判定的相對於整數位置之位置數。以下4抽頭三次(32相位)內插濾波器用於JEM7及BMS1： intraCubic4TapFilter32[32][4] = { {   0, 256,   0,   0 }, //  0 整數像素 {  -3, 252,   8,  -1 }, //  1 {  -5, 247,  17,  -3 }, //  2 {  -7, 242,  25,  -4 }, //  3 {  -9, 236,  34,  -5 }, //  4 { -10, 230,  43,  -7 }, //  5 { -12, 224,  52,  -8 }, //  6 { -13, 217,  61,  -9 }, //  7 { -14, 210,  70, -10 }, //  8 { -15, 203,  79, -11 }, //  9 { -16, 195,  89, -12 }, // 10 { -16, 187,  98, -13 }, // 11 { -16, 179, 107, -14 }, // 12 { -16, 170, 116, -14 }, // 13 { -17, 162, 126, -15 }, // 14 { -16, 153, 135, -16 }, // 15 { -16, 144, 144, -16 }, // 16 半像素 { -16, 135, 153, -16 }, // 17 { -15, 126, 162, -17 }, // 18 { -14, 116, 170, -16 }, // 19 { -14, 107, 179, -16 }, // 20 { -13,  98, 187, -16 }, // 21 { -12,  89, 195, -16 }, // 22 { -11,  79, 203, -15 }, // 23 { -10,  70, 210, -14 }, // 24 {  -9,  61, 217, -13 }, // 25 {  -8,  52, 224, -12 }, // 26 {  -7,  43, 230, -10 }, // 27 {  -5,  34, 236,  -9 }, // 28 {  -4,  25, 242,  -7 }, // 29 {  -3,  17, 247,  -5 }, // 30 {  -1,   8, 252,  -3 }, // 31 };
以下4抽頭高斯濾波器(32相位)用於JEM7及BMS1： intraGauss4TapFilter32[32][4] = { {  47, 161,  47,   1 }, //  0 整數像素 {  43, 161,  51,   1 }, //  1 {  40, 160,  54,   2 }, //  2 {  37, 159,  58,   2 }, //  3 {  34, 158,  62,   2 }, //  4 {  31, 156,  67,   2 }, //  5 {  28, 154,  71,   3 }, //  6 {  26, 151,  76,   3 }, //  7 {  23, 149,  80,   4 }, //  8 {  21, 146,  85,   4 }, //  9 {  19, 142,  90,   5 }, // 10 {  17, 139,  94,   6 }, // 11 {  16, 135,  99,   6 }, // 12 {  14, 131, 104,   7 }, // 13 {  13, 127, 108,   8 }, // 14 {  11, 123, 113,   9 }, // 15 {  10, 118, 118,  10 }, // 16 半像素 {   9, 113, 123,  11 }, // 17 {   8, 108, 127,  13 }, // 18 {   7, 104, 131,  14 }, // 19 {   6,  99, 135,  16 }, // 20 {   6,  94, 139,  17 }, // 21 {   5,  90, 142,  19 }, // 22 {   4,  85, 146,  21 }, // 23 {   4,  80, 149,  23 }, // 24 {   3,  76, 151,  26 }, // 25 {   3,  71, 154,  28 }, // 26 {   2,  67, 156,  31 }, // 27 {   2,  62, 158,  34 }, // 28 {   2,  58, 159,  37 }, // 29 {   2,  54, 160,  40 }, // 30 {   1,  51, 161,  43 }, // 31 };
高斯內插濾波器可運用以下實例Matlab程式碼導出。在此實例中，平滑強度西格瑪經設定為0.9：表 3
Figure 108123327-A0304-0004
 在表3中，exp(.)表示指數函數且西格瑪表示標準差
在另一實例中，可使用以下6抽頭內插濾波器(64相位)，而非4抽頭內插濾波器： intraCubic6TapFilter64[64][6] = { {      0, 0, 256, 0, 0, 0,    }, //  0 {      0, -2, 255, 4, -1, 0,    }, //  1 {      0, -4, 254, 8, -2, 0,    }, //  2 {      1, -6, 252, 12, -3, 0,    }, //  3 {      1, -7, 249, 16, -4, 1,    }, //  4 {      1, -9, 247, 21, -5, 1,    }, //  5 {      1, -11, 245, 26, -6, 1,    }, //  6 {      1, -12, 243, 30, -7, 1,    }, //  7 {      1, -13, 241, 34, -8, 1,    }, //  8 {      2, -15, 238, 39, -9, 1,    }, //  9 {      2, -16, 235, 44, -10, 1,    }, // 10 {      2, -17, 232, 49, -11, 1,    }, // 11 {      2, -18, 229, 53, -12, 2,    }, // 12 {      2, -19, 226, 58, -13, 2,    }, // 13 {      2, -20, 223, 63, -14, 2,    }, // 14 {      2, -21, 220, 67, -14, 2,    }, // 15 {      2, -22, 217, 72, -15, 2,    }, // 16 {      2, -22, 213, 77, -16, 2,    }, // 17 {      3, -23, 209, 82, -17, 2,    }, // 18 {      3, -24, 206, 87, -18, 2,    }, // 19 {      3, -24, 202, 92, -19, 2,    }, // 20 {      3, -24, 198, 97, -20, 2,    }, // 21 {      3, -25, 194, 102, -21, 3,    }, // 22 {      3, -25, 190, 106, -21, 3,    }, // 23 {      3, -25, 186, 111, -22, 3,    }, // 24 {      3, -25, 181, 116, -22, 3,    }, // 25 {      3, -25, 177, 121, -23, 3,    }, // 26 {      3, -26, 173, 126, -23, 3,    }, // 27 {      3, -26, 169, 131, -24, 3,    }, // 28 {      3, -26, 164, 136, -24, 3,    }, // 29 {      3, -25, 159, 140, -24, 3,    }, // 30 {      3, -25, 155, 145, -25, 3,    }, // 31 {      3, -25, 150, 150, -25, 3,    }, // 32 {      3, -25, 145, 155, -25, 3,    }, // 33 {      3, -24, 140, 159, -25, 3,    }, // 34 {      3, -24, 136, 164, -26, 3,    }, // 35 {      3, -24, 131, 169, -26, 3,    }, // 36 {      3, -23, 126, 173, -26, 3,    }, // 37 {      3, -23, 121, 177, -25, 3,    }, // 38 {      3, -22, 116, 181, -25, 3,    }, // 39 {      3, -22, 111, 186, -25, 3,    }, // 40 {      3, -21, 106, 190, -25, 3,    }, // 41 {      3, -21, 102, 194, -25, 3,    }, // 42 {      2, -20, 97, 198, -24, 3,    }, // 43 {      2, -19, 92, 202, -24, 3,    }, // 44 {      2, -18, 87, 206, -24, 3,    }, // 45 {      2, -17, 82, 209, -23, 3,    }, // 46 {      2, -16, 77, 213, -22, 2,    }, // 47 {      2, -15, 72, 217, -22, 2,    }, // 48 {      2, -14, 67, 220, -21, 2,    }, // 49 {      2, -14, 63, 223, -20, 2,    }, // 50 {      2, -13, 58, 226, -19, 2,    }, // 51 {      2, -12, 53, 229, -18, 2,    }, // 52 {      1, -11, 49, 232, -17, 2,    }, // 53 {      1, -10, 44, 235, -16, 2,    }, // 54 {      1, -9, 39, 238, -15, 2,    }, // 55 {      1, -8, 34, 241, -13, 1,    }, // 56 {      1, -7, 30, 243, -12, 1,    }, // 57 {      1, -6, 26, 245, -11, 1,    }, // 58 {      1, -5, 21, 247, -9, 1,    }, // 59 {      1, -4, 16, 249, -7, 1,    }, // 60 {      0, -3, 12, 252, -6, 1,    }, // 61 {      0, -2, 8, 254, -4, 0,    }, // 62 {      0, -1, 4, 255, -2, 0,    }, // 63 };
在另一實例中，可使用以下6抽頭三次內插濾波器(32相位)： intraCubic6TapFilter32[32][6] = { { 0,   0, 256,   0,   0, 0 },  //  0 { 0,  -4, 253,   9,  -2, 0 },  //  1 { 1,  -7, 249,  17,  -4, 0 },  //  2 { 1, -10, 245,  25,  -6, 1 },  //  3 { 1, -13, 241,  34,  -8, 1 },  //  4 { 2, -16, 235,  44, -10, 1 },  //  5 { 2, -18, 229,  53, -12, 2 },  //  6 { 2, -20, 223,  63, -14, 2 },  //  7 { 2, -22, 217,  72, -15, 2 },  //  8 { 3, -23, 209,  82, -17, 2 },  //  9 { 3, -24, 202,  92, -19, 2 },  // 10 { 3, -25, 194, 101, -20, 3 },  // 11 { 3, -25, 185, 111, -21, 3 },  // 12 { 3, -26, 178, 121, -23, 3 },  // 13 { 3, -25, 168, 131, -24, 3 },  // 14 { 3, -25, 159, 141, -25, 3 },  // 15 { 3, -25, 150, 150, -25, 3 },  // 16 { 3, -25, 141, 159, -25, 3 },  // 17 { 3, -24, 131, 168, -25, 3 },  // 18 { 3, -23, 121, 178, -26, 3 },  // 19 { 3, -21, 111, 185, -25, 3 },  // 20 { 3, -20, 101, 194, -25, 3 },  // 21 { 2, -19,  92, 202, -24, 3 },  // 22 { 2, -17,  82, 209, -23, 3 },  // 23 { 2, -15,  72, 217, -22, 2 },  // 24 { 2, -14,  63, 223, -20, 2 },  // 25 { 2, -12,  53, 229, -18, 2 },  // 26 { 1, -10,  44, 235, -16, 2 },  // 27 { 1,  -8,  34, 241, -13, 1 },  // 28 { 1,  -6,  25, 245, -10, 1 },  // 29 { 0,  -4,  17, 249,  -7, 1 },  // 30 { 0,  -2,   9, 253,  -4, 0 },  // 31 };
MDIS (模式相依內平滑)濾波器(例如[1 2 1]/4)取決於MDIS條件可首先應用於內參考樣本。此需要儲存用於框內預測的內參考樣本之未經濾波及經濾波線。在定向框內預測模式之情況下，兩個內插濾波器(例如三次及高斯)可取決於與內插濾波相關聯之獨立條件應用於未經濾波參考樣本或經濾波參考樣本。在高斯內插(其中濾波經應用於MDIS經濾波參考樣本之頂部上)之情況下，連續應用兩個平滑濾波操作。此意謂複雜度增加且對於未經濾波及經濾波內參考樣本線需要雙倍儲存。
本發明提議合併用於定向模式之框內預測的兩個平滑濾波操作：MDIS濾波及高斯內插濾波。此可藉由在兩個內插濾波器之間決定直接應用MDIS條件及去除獨立內插濾波器條件而完成。此可減少儲存內參考樣本線所需要的儲存空間量。本發明之技術亦可導致視訊編碼器200或視訊解碼器300能夠更快執行框內預測，此減小視訊編碼及解碼速度。
在聯合視訊專家組(JVET)及其VVC測試模型版本1 (VTM)、VVC測試模型版本2 (VTM2) (2018年7月Ljubljana，SI第11次JVET會議，J. Chen, Y. Ye, S. Kim之「Algorithm description for Versatile Video Coding and Test Model 2 (VTM2)」JVET-K1002)、基準模型版本1 (BMS1)軟體，及基準模型版本2 (BMS2)中，包括以下MDIS表：表 4
Figure 108123327-A0304-0005
在VTM1、VTM2、BMS1及BMS2中，如下定義區塊大小索引： sizeIndex = (log2(BlockWidth) + log2(BlockHeight)) / 2             (7) 定義定向框內模式與對應地索引或水平及豎直模式之間的最小索引差： IntraModeDiff = min(abs(IntraModeIdx - HOR_IDX),                                       abs(IntraModeIdx - VER_IDX))                              (8) 水平模式對應於平行於圖像之頂部及底部邊緣的方向。豎直模式對應於平行於圖像之左側及右側的方向。
用於在定向框內預測中切換內插濾波器的新條件如下：表 5
Figure 108123327-A0304-0006
因此，具有平滑性質之高斯內插濾波器作為唯一平滑濾波步驟被應用且僅僅未經濾波參考樣本線需要經儲存用於定向框內模式預測。因此，可能無需視訊寫碼器儲存經濾波參考樣本以用作內插濾波之基礎。此可減少視訊寫碼器的複雜度。
因此，在此實例中，視訊寫碼器可判定條件(例如IntraModeDiff＞MDISthreshold[sizeIndex])對於視訊資料之當前圖像的區塊是否為真。基於條件對於區塊為真，視訊寫碼器可將非平滑內插濾波器(例如三次內插濾波器)應用於區塊之未經濾波參考樣本以產生區塊之預測性樣本。基於條件對於區塊為假，視訊寫碼器可將平滑內插濾波器(例如高斯內插濾波器)應用於區塊之未經濾波參考樣本以產生區塊之預測性樣本。
應注意額外條件存在於VTM1及BMS1中以控制內參考樣本之平滑濾波，該等額外條件諸如對於明度或色度之相依性、PDPC工具(位置相依框內預測組合)之使用、NSST(不可分離二次變換)之使用等。額外條件可被添加以控制MDIS。
在一些實例中，三次內插濾波器為intraCubic6TapFilter32 且高斯濾波器為藉由[1 2 1]/4 MDIS濾波器與intraGauss4TapFilter32 濾波器之卷積獲得的6抽頭濾波器，從而產生以下intraGauss6TapFilter32 ： intraGauss6TapFilter32[32][6] = { { 47, 256, 418, 256,  47,  0 },  //  0 { 43, 247, 416, 264,  53,  1 },  //  1 { 40, 240, 414, 270,  58,  2 },  //  2 { 37, 233, 413, 277,  62,  2 },  //  3 { 34, 226, 412, 284,  66,  2 },  //  4 { 31, 218, 410, 292,  71,  2 },  //  5 { 28, 210, 407, 299,  77,  3 },  //  6 { 26, 203, 404, 306,  82,  3 },  //  7 { 23, 195, 401, 313,  88,  4 },  //  8 { 21, 188, 398, 320,  93,  4 },  //  9 { 19, 180, 393, 327, 100,  5 },  // 10 { 17, 173, 389, 333, 106,  6 },  // 11 { 16, 167, 385, 339, 111,  6 },  // 12 { 14, 159, 380, 346, 118,  7 },  // 13 { 13, 153, 375, 351, 124,  8 },  // 14 { 11, 145, 370, 358, 131,  9 },  // 15 { 10, 138, 364, 364, 138, 10 },  // 16 { 9,  131, 358, 370, 145, 11 },  // 17 { 8,  124, 351, 375, 153, 13 },  // 18 { 7,  118, 346, 380, 159, 14 },  // 19 { 6,  111, 339, 385, 167, 16 },  // 20 { 6,  106, 333, 389, 173, 17 },  // 21 { 5,  100, 327, 393, 180, 19 },  // 22 { 4,   93, 320, 398, 188, 21 },  // 23 { 4,   88, 313, 401, 195, 23 },  // 24 { 3,   82, 306, 404, 203, 26 },  // 25 { 3,   77, 299, 407, 210, 28 },  // 26 { 2,   71, 292, 410, 218, 31 },  // 27 { 2,   66, 284, 412, 226, 34 },  // 28 { 2,   62, 277, 413, 233, 37 },  // 29 { 2,   58, 270, 414, 240, 40 },  // 30 { 1,   53, 264, 416, 247, 43 },  // 31 };
在另一實例中，三次內插濾波器為intraCubic4TapFilter32(如上文所定義)且高斯濾波器為具有運用設定為1.3 (參見上文表3中之Matlab程式碼)之西格瑪獲得的增加之平滑強度的4抽頭濾波器，從而產生以下intraGauss4TapFilter32strong ： intraGauss4TapFilter32strong[32][4] = { { 65, 116, 64, 11 }或簡化零相位：  { 64, 128, 64, 0 }, //0 { 61, 116, 67, 12 }, { 59, 115, 69, 13 }, { 57, 115, 71, 13 }, { 55, 114, 73, 14 }, { 53, 113, 75, 15 }, { 50, 112, 78, 16 }, { 47, 111, 80, 18 }, { 45, 110, 82, 19 }, // 8 { 43, 109, 84, 20 }, { 41, 108, 86, 21 }, { 40, 106, 88, 22 }, { 37, 105, 90, 24 }, { 36, 103, 92, 25 }, { 34, 101, 94, 27 }, { 32, 100, 96, 28 }, { 30, 98, 98, 30 }, // 16 { 28, 96, 100, 32 }, { 27, 94, 101, 34 }, { 25, 92, 103, 36 }, { 24, 90, 105, 37 }, { 22, 88, 106, 40 }, { 21, 86, 108, 41 }, { 20, 84, 109, 43 }, { 19, 82, 110, 45 }, // 24 { 18, 80, 111, 47 }, { 16, 78, 112, 50 }, { 15, 75, 113, 53 }, { 14, 73, 114, 55 }, { 13, 71, 115, 57 }, { 13, 69, 115, 59 }, { 12, 67, 116, 61 }, // 31 };
在另一實例中，三次內插濾波器為intraCubic4TapFilter32 (如上文所定義)且在減少儲存濾波器係數所需要的位元的數目(9位元/減小至7位元之係數/係數)之後，獲得濾波器intraCubic4TapFilter32 _ 7bitcoeff ： intraCubic4TapFilter32_7bitcoeff[32][4] = { { 0, 64, 0, 0 },     // 零相位 { -1, 63, 2, 0 }, { -1, 62, 4, -1 }, { -2, 61, 6, -1 }, { -3, 59, 9, -1 }, { -3, 58, 11, -2 }, { -3, 56, 13, -2 }, { -3, 54, 15, -2 }, { -4, 53, 18, -3 },  // 8 { -4, 51, 20, -3 }, { -4, 49, 22, -3 }, { -5, 47, 25, -3 }, { -4, 45, 27, -4 }, { -4, 43, 29, -4 }, { -5, 41, 32, -4 }, { -4, 38, 34, -4 }, { -4, 36, 36, -4 },  // 16 { -4, 34, 38, -4 }, { -5, 32, 41, -4 }, { -4, 29, 43, -4 }, { -4, 27, 45, -4 }, { -4, 25, 47, -4 }, { -3, 22, 49, -4 }, { -3, 20, 51, -4 }, { -3, 18, 53, -4 },  // 24 { -2, 15, 54, -3 }, { -2, 13, 56, -3 }, { -2, 11, 58, -3 }, { -2, 9, 59, -2 }, { -1, 6, 61, -2 }, { -1, 4, 62, -1 }, { 0, 2, 63, -1 }     // 31 };
在又一實例中，高斯內插濾波器為intraGauss4TapFilter32strong (如上文所定義)且在減少儲存濾波器係數所需要的位元的數目(7位元/減小至5位元之係數/係數)之後，獲得以下濾波器intraGauss4TapFilter32strong _ 5bitcoeff ： intraGauss4TapFilter32strong_5bitcoeff[32][4] = { { 16, 29, 16, 3 }，或簡化零相位：  { 16, 32, 16, 0 }, { 15, 29, 17, 3 }, { 15, 29, 17, 3 }, { 14, 29, 18, 3 }, { 13, 29, 18, 4 }, { 13, 28, 19, 4 }, { 13, 28, 19, 4 }, { 12, 28, 20, 4 }, { 11, 28, 20, 5 },  // 8 { 11, 27, 21, 5 }, { 10, 27, 22, 5 }, { 9, 27, 22, 6 }, { 9, 26, 23, 6 }, { 9, 26, 23, 6 }, { 8, 25, 24, 7 }, { 8, 25, 24, 7 }, { 8, 24, 24, 8 },   //16 { 7, 24, 25, 8 }, { 7, 24, 25, 8 }, { 6, 23, 26, 9 }, { 6, 23, 26, 9 }, { 6, 22, 27, 9 }, { 5, 22, 27, 10 }, { 5, 21, 27, 11 }, { 5, 20, 28, 11 },   // 24 { 4, 20, 28, 12 }, { 4, 19, 28, 13 }, { 4, 19, 28, 13 }, { 4, 18, 29, 13 }, { 3, 18, 29, 14 }, { 3, 17, 29, 15 }, { 3, 17, 29, 15 }    // 31 };
應注意在計算整數參考樣本位置情況下，使用兩個濾波器之0相位。
在一般情況下，若MDIS條件為真，則視訊寫碼器應用非平滑內插濾波器，且若MDIS條件為假，則視訊寫碼器應用具有平滑性質之內插濾波器。濾波器抽頭的數目亦可改變，例如： •     4抽頭非平滑內插濾波器(例如intraCubic4TapFilter32或intraCubic4TapFilter32_7bitcoeff)及4抽頭平滑內插濾波器(例如intraGauss4TapFilter32或intraGauss4TapFilter32strong或intraGauss4TapFilter32strong_5bitcoeff) •     4抽頭非平滑內插濾波器(例如intraCubic4TapFilter32或intraCubic4TapFilter32_7bitcoeff)及6抽頭平滑內插濾波器(例如intraGauss6TapFilter32) •     6抽頭非平滑內插濾波器(例如intraCubic6TapFilter32)及4抽頭平滑內插濾波器(例如intraGauss4TapFilter32或intraGauss4TapFilter32strong或intraGauss4TapFilter32strong_5bitcoeff) •     等。
另外，非平滑及平滑內插濾波器之相位的數目可相同或不同，例如，32相位或64相位。
在進一步概括中，MDIS條件可判定具有不同平滑性質之多於兩個內插濾波器的使用。舉例而言，平滑強度可取決於框內模式、距區塊邊界之距離、區塊尺寸等。舉例而言，視訊寫碼器可選擇具有逐漸變大之平滑強度的內插濾波器以用於判定距當前區塊之邊界逐漸變遠之參考樣本值。與具有較小平滑強度之濾波器相比，具有較大平滑強度之濾波器更減少樣本值之間的差。
在進一步概括中，多個內參考線可用於預測及選擇內插濾波器且其性質可取決於參考線索引。舉例而言，視訊寫碼器可基於MDIS條件及基於參考樣本之參考線索引選擇內插濾波器以應用於當前區塊之不同參考樣本。舉例而言，在一個實例中，當MDIS條件為真時，視訊寫碼器可選擇第一內插濾波器用於判定第一參考線中之參考樣本的值，選擇第二內插濾波器用於判定第二參考線中之參考樣本的值，等；當MDIS條件為假時，視訊寫碼器可選擇第三內插濾波器用於判定第一參考線中之參考樣本的值，選擇第四內插濾波器用於判定第二參考線中之參考樣本的值，等。參考線索引為參考樣本之列或行的索引。
在一些替代方案中，除了MDIS條件之外或替換MDIS條件，可藉由檢查一或多個相鄰區塊中使用的內插濾波器之性質判定平滑濾波器之選擇。舉例而言，在一個實例中，若視訊寫碼器在相鄰區塊情況下使用非平滑內插濾波器，則視訊寫碼器可判定條件對於區塊是否為真(且因此應用非平滑內插濾波器)。在此實例中，若視訊寫碼器在相鄰區塊情況下使用平滑內插濾波器，則視訊寫碼器可判定條件對於區塊為假(且因此應用平滑內插濾波器)。
在其他替代方案中，可應用雙向框內預測寫碼(自兩個方向自兩個或大於兩個樣本預測)，且選擇內插濾波器及其性質亦可取決於雙向框內預測是否應用且亦可取決於與雙向預測相關聯之特定模式/方向。舉例而言，在此實例中，當雙向框內預測應用於區塊且同時框內模式差大於臨限值(例如使用表4判定之臨限值)時，視訊寫碼器可判定條件為真；且當雙向框內預測未應用或框內模式差不大於臨限值時，視訊寫碼器可判定條件為假。
本發明大體上可指「發信」某一資訊，諸如語法元素。術語「發信」大體上可指用以解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器200可在位元串流中發信語法元素的值。大體而言，發信係指在位元串流中產生值。如上文所提及，源裝置102可實質上即時地將位元串流輸送至目的地裝置116，或不即時輸送，諸如可在將語法元素儲存至儲存裝置112以供目的地裝置116稍後擷取時發生。
圖4A及圖4B為說明實例QTBT結構140及對應寫碼樹型單元(CTU) 142之概念圖。實線表示四分樹分裂，且點線指示二進位樹分裂。在二進位樹之每一分裂(亦即，非葉)節點中，一個旗標經發信以指示使用哪一分裂類型(亦即，水平或豎直)，其中在此實例中，0指示水平分裂且1指示豎直分裂。對於四分樹分裂，不存在對於指示分裂類型之需要，此係由於四分樹節點將區塊水平地及豎直地分裂成具有相等大小之4個子區塊。因此，視訊編碼器200可編碼，且視訊解碼器300可解碼用於QTBT結構140之區域樹層級(亦即實線)的語法元素(諸如分裂資訊)及用於QTBT結構140之預測樹層級(亦即虛線)的語法元素(諸如分裂資訊)。視訊編碼器200可編碼，且視訊解碼器300可解碼用於由QTBT結構140之端葉節點表示之CU的視訊資料(諸如預測及變換資料)。
大體而言，圖4B之CTU 142可與定義對應於在第一及第二層級處的QTBT結構140之節點的區塊之大小的參數相關聯。此等參數可包括CTU大小(表示樣本中之CTU 142之大小)、最小四分樹大小(MinQTSize，表示最小允許四分樹葉節點大小)、最大二進位樹大小(MaxBTSize，表示最大允許二進位樹根節點大小)、最大二進位樹深度(MaxBTDepth，表示最大允許二進位樹深度)，及最小二進位樹大小(MinBTSize，表示最小允許二進位樹葉節點大小)。
對應於CTU之QTBT結構的根節點可具有在QTBT結構之第一層級處的四個子節點，該等節點中之每一者可根據四分樹分割來分割。亦即，第一層級之節點為葉節點(不具有子節點)或具有四個子節點。QTBT結構140之實例表示諸如包括具有用於分枝之實線之父節點及子節點的節點。若第一層級之節點不大於最大允許二進位樹根節點大小(MaxBTSize)，則該等節點可藉由各別二進位樹進一步分割。一個節點之二進位樹分裂可重複，直至由分裂產生之節點達到最小允許之二進位樹葉節點大小(MinBTSize)，或最大允許之二進位樹深度(MaxBTDepth)為止。QTBT結構140之實例表示諸如具有用於分枝之虛線的節點。二進位樹葉節點被稱作不更進一步分割之寫碼單元(CU)，其用於預測(例如圖像內或圖像間預測)及變換。如上文所論述，CU亦可被稱作「視訊區塊」或「區塊」。
在QTBT分割結構之一個實例中，CTU大小經設定為128×128(明度樣本及兩個對應64×64色度樣本)，MinQTSize經設定為16×16，MaxBTSize經設定為64×64，MinBTSize(對於寬度及高度兩者)經設定為4，且MaxBTDepth經設定為4。四分樹分割首先應用於CTU以產生四分樹葉節點。四分樹葉節點可具有自16×16(亦即，MinQTSize)至128×128(亦即，CTU大小)之大小。若葉四分樹節點為128×128，則該節點不由二進位樹進一步分裂，此係由於大小超過MaxBTSize(在此實例中，亦即，64×64)。否則，葉四分樹節點將藉由二進位樹進一步分割。因此，四分樹葉節點亦為二進位樹之根節點並具有為0之二進位樹深度。當二進位樹深度達到MaxBTDepth (在此實例中，4)時，不准許進一步分裂。二進位樹節點具有等於MinBTSize (在此實例中，4)之寬度，其意指不准許進一步水平分裂。類似地，具有等於MinBTSize之高度的二進位樹節點意指對於彼二進位樹節點不准許進一步豎直分裂。如上文所提及，二進位樹之葉節點被稱作CU，且根據預測及變換來進一步處理而不進一步分割。
圖5為說明可執行本發明之技術之實例視訊編碼器200的方塊圖。出於解釋之目的提供圖5，且不應將該圖視為對如本發明中廣泛例示及描述之技術的限制。出於解釋之目的，本發明在諸如HEVC視訊寫碼標準及研發中之H.266視訊寫碼標準的視訊寫碼標準之情況下描述視訊編碼器200。然而，本發明之技術不限於此等視訊寫碼標準，且大體可適用於視訊編碼及解碼。
在圖5之實例中，視訊編碼器200包括視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、變換處理單元206、量化單元208、逆量化單元210、逆變換處理單元212、重建構單元214、濾波器單元216、經解碼圖像緩衝器(DPB) 218及熵編碼單元220。
視訊資料記憶體230可儲存待由視訊編碼器200之組件編碼的視訊資料。視訊編碼器200可自(例如)視訊源104 (圖1)接收存儲於視訊資料記憶體230中之視訊資料。DPB 218可充當參考圖像記憶體，其儲存參考視訊資料以供用於藉由視訊編碼器200預測後續視訊資料。視訊資料記憶體230及DPB 218可由諸如動態隨機存取記憶體(DRAM)(包括同步DRAM (SDRAM))、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置的各種記憶體裝置中之任一者形成。視訊資料記憶體230及DPB 218可由同一記憶體裝置或單獨記憶體裝置提供。在各種實例中，視訊資料記憶體230可與視訊編碼器200之其他組件一起在晶片上，如所說明，或相對於彼等組件在晶片外。
在本發明中，對視訊資料記憶體230之參考不應解譯為將記憶體限於在視訊編碼器200內部(除非特定地如此描述)，或將記憶體限於在視訊編碼器200外部(除非特定地如此描述)。實際上，對視訊資料記憶體230之參考應理解為對儲存視訊編碼器200所接收以用於編碼的視訊資料(例如，待被編碼的當前區塊之視訊資料)之記憶體的參考。圖1之記憶體106亦可提供對來自視訊編碼器200之各種單元的輸出的臨時儲存。
圖5之各種單元經說明以輔助理解視訊編碼器200執行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。固定功能電路指提供特定功能性且預設可被執行之操作的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可變功能性的電路。舉例而言，可程式化電路可實行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可實行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型通常係不可變的。在一些實例中，單元中之一或多者可為相異的電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊編碼器200可包括算術邏輯單元(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或由可程式化電路形成的可程式化核心。在視訊編碼器200之操作係使用由可程式化電路執行之軟體執行的實例中，記憶體106 (圖1)可儲存視訊編碼器200接收並實行的軟體之目標程式碼，或視訊編碼器200內之另一記憶體(圖中未示)可儲存此類指令。
視訊資料記憶體230經組態以儲存所接收視訊資料。視訊編碼器200可自視訊資料記憶體230擷取視訊資料之圖像，並將視訊資料提供至殘餘產生單元204及模式選擇單元202。視訊資料記憶體230中之視訊資料可為待編碼之原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224及框內預測單元226。模式選擇單元202可包括額外的功能單元以根據其他預測模式執行視訊預測。作為實例，模式選擇單元202可包括調色板單元、區塊內拷貝單元(其可為運動估計單元222及/或運動補償單元224之部分)、仿射單元、線性模型(LM)單元或其類似者。
模式選擇單元202大體上協調多個編碼遍次，以測試編碼參數之組合，及用於此等組合之所得速率失真值。編碼參數可包括CTU成CU之分割、用於CU之預測模式、用於CU之殘餘資料的變換類型、用於CU之殘餘資料的量化參數等。模式選擇單元202可最後選擇相比其他所測試組合具有更佳速率失真值的編碼參數之組合。
視訊編碼器200可將自視訊資料記憶體230擷取之圖像分割成一系列CTU，並將一或多個CTU囊封於圖塊內。模式選擇單元202可根據樹狀結構分割圖像之CTU，諸如上文所描述之HEVC的QTBT結構或四分樹結構。如上文所描述，視訊編碼器200可用根據樹狀結構分割CTU來形成一或多個CU。此CU亦可大體上被稱為「視訊區塊」或「區塊」。
大體而言，模式選擇單元202亦控制其組件(例如運動估計單元222、運動補償單元224及框內預測單元226)以產生當前區塊(例如當前CU，或在HEVC中，PU與TU之重疊部分)之預測區塊。對於當前區塊之框間預測，運動估計單元222可執行運動搜尋以識別一或多個參考圖像(例如儲存於DPB 218中的一或多個先前經寫碼圖像)中之一或多個緊密匹配參考區塊。詳言之，運動估計單元222可(例如)根據絕對差總和(SAD)、平方差總和(SSD)、平均值絕對差(MAD)、均方差(MSD)或其類似者，計算表示潛在參考區塊與當前區塊類似程度的值。運動估計單元222可使用當前區塊與所考慮之參考區塊之間的逐樣本差大體上執行此等計算。運動估計單元222可識別具有由此等計算產生之最小值的參考區塊，從而指示最緊密匹配當前區塊之參考區塊。
運動估計單元222可形成一或多個運動向量(MV)，其相對於當前圖像中之當前區塊的位置定義參考圖像中之參考區塊的位置。運動估計單元222接著可將運動向量提供至運動補償單元224。舉例而言，對於單向框間預測，運動估計單元222可提供單個運動向量，而對於雙向框間預測，運動估計單元222可提供兩個運動向量。運動補償單元224接著可使用運動向量產生預測區塊。舉例而言，運動補償單元224可使用運動向量擷取參考區塊之資料。作為另一實例，若運動向量具有分數樣本精確度，則運動補償單元224可根據一或多個內插濾波器為預測區塊內插值。此外，對於雙向框間預測，運動補償單元224可擷取用於藉由各別運動向量識別之兩個參考區塊的資料，並(例如)經由逐樣本求平均值或經加權求平均值來組合所擷取之資料。
作為另一實例，對於框內預測，或框內預測寫碼，框內預測單元226可自鄰近當前區塊之樣本產生預測區塊。舉例而言，對於方向模式，框內預測單元226可在數學上大體組合相鄰樣本之值，且在橫跨當前區塊之所定義方向上填入此等計算值以產生預測區塊。作為另一實例，對於DC模式，框內預測單元226可計算至當前區塊之相鄰樣本的平均值，並產生預測區塊以針對預測區塊之每一樣本包括此所得平均值。
模式選擇單元202將預測區塊提供至殘餘產生單元204。殘餘產生單元204接收來自視訊資料記憶體230之當前區塊及來自模式選擇單元202之預測區塊的原始未經編碼版本。殘餘產生單元204計算當前區塊與預測區塊之間的逐樣本差。所得逐樣本差定義用於當前區塊之殘餘區塊。在一些實例中，殘餘產生單元204亦可判定殘餘區塊中之樣本值之間的差，以使用殘餘差分脈碼調變(RDPCM)產生殘餘區塊。在一些實例中，可使用執行二進位減法之一或多個減法器電路形成殘餘產生單元204。
在模式選擇單元202將CU分割成PU之實例中，每一PU可與明度預測單元及對應色度預測單元相關聯。視訊編碼器200視訊解碼器300可支援具有各種大小之PU。如上文所指示，CU之大小可指CU之明度寫碼區塊的大小，且PU之大小可指PU之明度預測單元的大小。假定特定CU之大小為2N×2N，則視訊編碼器200可支援用於框內預測之2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器200及視訊解碼器300亦可支援用於框間預測的2N×nU、2N×nD、nL×2N及nR×2N之PU大小的不對稱分割。
在模式選擇單元未將CU進一步分割為PU的實例中，每一CU可與明度寫碼區塊及對應色度寫碼區塊相關聯。如上，CU之大小可指CU之明度寫碼區塊的大小。視訊編碼器200及視訊解碼器300可支援2N×2N、2N×N或N×2N之CU大小。
對於諸如區塊內拷貝模式寫碼、仿射模式寫碼及線性模型(LM)模式寫碼之其他視訊寫碼技術，如少數實例，模式選擇單元202經由與寫碼技術相關聯之各別單元產生用於正編碼之當前區塊的預測區塊。在諸如調色板模式寫碼的一些實例中，模式選擇單元202可能不會產生預測區塊，而是產生指示基於所選擇調色板重建構區塊之方式的語法元素。在此等模式中，模式選擇單元202可將此等語法元素提供至熵編碼單元220以待編碼。
如上文所描述，殘餘產生單元204接收用於當前區塊及對應預測區塊之視訊資料。殘餘產生單元204接著產生用於當前區塊之殘餘區塊。為產生殘餘區塊，殘餘產生單元204計算預測區塊與當前區塊之間的逐樣本差。
變換處理單元206將一或多個變換應用於殘餘區塊以產生變換係數之區塊(在本文中被稱作「變換係數區塊」)。變換處理單元206可將各種變換應用於殘餘區塊以形成變換係數區塊。舉例而言，變換處理單元206可將離散餘弦變換(DCT)、定向變換、Karhunen-Loeve變換(KLT)或概念上類似之變換應用於殘餘區塊。在一些實例中，變換處理單元206可對殘餘區塊執行多個變換，例如初級變換及二次變換，諸如旋轉變換。在一些實例中，變換處理單元206不將變換應用於殘餘區塊。
量化單元208可量化變換係數區塊中之變換係數，以產生經量化變換係數區塊。量化單元208可根據與當前區塊相關聯之量化參數(QP)值量化變換係數區塊之變換係數。視訊編碼器200 (例如經由模式選擇單元202)可藉由調整與CU相關聯之QP值而調整應用於與當前區塊相關聯之係數區塊的量化程度。量化可引入資訊之損耗，且因此，經量化變換係數可相比由變換處理單元206產生之初始變換係數具有較低精確度。
逆量化單元210及逆變換處理單元212可將逆量化及逆變換分別應用於經量化變換係數區塊，以用變換係數區塊重建構殘餘區塊。重建構單元214可基於經重建構殘餘區塊及藉由模式選擇單元202產生之預測區塊來產生對應於當前區塊之經重建構區塊(儘管可能具有一定程度的失真)。舉例而言，重建構單元214可將經重建構殘餘區塊之樣本添加至來自由模式選擇單元202產生之預測區塊的對應樣本，以產生經重建構區塊。
濾波器單元216可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元216可執行解區塊操作以沿CU之邊緣減少區塊效應偽影。在一些實例中，可跳過濾波器單元216之操作。
視訊編碼器200將經重建構區塊儲存於DPB 218中。舉例而言，在不需要濾波器單元216之操作的實例中，重建構單元214可將經重建構區塊儲存至DPB 218。在需要濾波器單元216之操作的實例中，濾波器單元216可將經濾波經重建構區塊儲存至DPB 218。運動估計單元222及運動補償單元224可自DPB 218擷取由經重建構(及可能經濾波)區塊形成之參考圖像，以對隨後經編碼圖像之區塊進行框間預測。另外，框內預測單元226可使用當前圖像之DPB 218中的經重建構區塊，以對當前圖像中之其他區塊進行框內預測。
大體而言，熵編碼單元220可熵編碼自視訊編碼器200之其他功能組件接收的語法元素。舉例而言，熵編碼單元220可熵編碼來自量化單元208之經量化變換係數區塊。作為另一實例，熵編碼單元220可熵編碼來自模式選擇單元202之預測語法元素(例如用於框間預測之運動資訊或用於框內預測之框內模式資訊)。熵編碼單元220可對語法元素(其為視訊資料之另一實例)執行一或多個熵編碼操作以產生經熵編碼資料。舉例而言，熵編碼單元220可對資料執行上下文自適應性可變長度寫碼(CAVLC)操作、CABAC操作、可變至可變(V2V)長度寫碼操作、基於語法的上下文自適應性二進位算術寫碼(SBAC)操作、機率區間分割熵(PIPE)寫碼操作、指數-哥倫布編碼操作或另一類型之熵編碼操作。在一些實例中，熵編碼單元220可在旁路模式中操作，其中語法元素未經熵編碼。視訊編碼器200可輸出位元串流，其包括重建構圖塊或圖像之區塊所需的經熵編碼語法元素。
上文所描述之操作關於區塊進行描述。此描述應理解為用於明度寫碼區塊及/或色度寫碼區塊的操作。如上文所描述，在一些實例中，明度寫碼區塊及色度寫碼區塊為CU之明度及色度分量。在一些實例中，明度寫碼區塊及色度寫碼區塊為PU之明度分量及色度分量。
在一些實例中，無需針對色度寫碼區塊重複關於明度寫碼區塊執行之操作。作為一個實例，無需重複識別明度寫碼區塊之運動向量(MV)及參考圖像的操作用於識別色度區塊之MV及參考圖像 。實情為，明度寫碼區塊之MV可經按比例縮放以判定色度區塊之MV，且參考圖像可為相同的。作為另一實例，框內預測程序可針對明度寫碼區塊及色度寫碼區塊係相同的。
視訊編碼器200表示經組態以編碼視訊資料的裝置之實例，該裝置包括經組態以儲存視訊資料之記憶體及實施於電路中且經組態以判定條件對於視訊資料之當前圖像的第一區塊是否為真的一或多個處理單元。基於條件對於第一區塊為真，視訊編碼器200可將非平滑內插濾波器應用於第一區塊之未經濾波參考樣本以產生第一區塊之預測性樣本。此外，視訊編碼器200可判定條件對於當前圖像之第二區塊是否為真。基於條件對於第二區塊為假，視訊編碼器200可將平滑內插濾波器應用於第二區塊之未經濾波參考樣本以產生第二區塊的預測性樣本。視訊編碼器200可基於第一區塊之預測性樣本產生第一區塊之殘餘資料。此外，視訊編碼器200可基於第二區塊之預測性樣本產生第二區塊之殘餘資料。視訊編碼器200可將表示第一區塊之殘餘資料及第二區塊之殘餘資料的資料包括於包括視訊資料之經編碼表示的位元串流中。舉例而言，視訊編碼器200可藉由將一或多個變換應用於殘餘資料以成變換係數、量化變換係數、熵編碼指示經量化變換係數之語法元素等而產生表示殘餘資料的資料。
在此實例中，視訊編碼器200可判定用於第一區塊之框內模式差並判定用於第二區塊之框內模式差。視訊編碼器200可至少部分地基於用於第一區塊之框內模式差是否大於臨限值而判定條件對於第一區塊是否為真。視訊編碼器200可至少部分地基於用於第二區塊之框內模式差是否小於臨限值而判定條件對於第二區塊是否為真。視訊編碼器200可將用於第一區塊之框內模式差判定為以下各者中之一最小值：(1)用於第一區塊之框內模式索引與水平框內預測模式之框內模式索引之間的差的一絕對值；及(2)用於第一區塊之框內模式索引與豎直框內預測模式之框內模式索引之間的差的一絕對值。類似地，視訊編碼器200可將用於第二區塊之框內模式差判定為以下各者中之一最小值：(1)用於第二區塊之框內模式索引與水平框內預測模式之框內模式索引之間的差的一絕對值；及(2)用於第二區塊之框內模式索引與豎直框內預測模式之框內模式索引之間的差的一絕對值。
此外，在一些實例中，視訊編碼器200可基於一或多個額外條件判定條件對於第一區塊是否為真。同樣地，視訊編碼器200可基於一或多個額外條件判定條件對於第二區塊是否為真。該一或多個額外條件可包括以下各者中的一或多者：對於明度或色度之相依性、一位置相依框內預測組合工具之使用，及一不可分離二次變換之使用。在一些實例中，視訊編碼器200可至少部分地基於在第一區塊之一或多個相鄰區塊中使用的內插濾波器之性質判定條件對於第一區塊是否為真，且可至少部分地基於在第二區塊之一或多個相鄰區塊中使用的內插濾波器之性質判定條件對於第二區塊是否為真。在一些實例中，視訊編碼器200可至少部分地基於雙向框內預測寫碼是否應用於第一區塊而判定條件對於第一區塊是否為真且可至少部分地基於雙向框內預測寫碼是否應用於第二區塊而判定條件對於第二區塊是否為真。
在一些實例中，平滑內插濾波器為高斯內插濾波器。在一些實例中，非平滑內插濾波器為三次內插濾波器。在一些實例中，平滑內插濾波器及非平滑內插濾波器具有不同數目個相位。在一些實例中，平滑內插濾波器及非平滑內插濾波器具有不同數目個抽頭。
圖6為說明可執行本發明之技術的實例視訊解碼器300的方塊圖。出於解釋之目的而提供圖6，且其並不限制如本發明中所廣泛例示及描述之技術。出於解釋之目的，本發明描述視訊解碼器300係根據JEM及HEVC之技術來描述的。然而，本發明之技術可由經組態為其他視訊寫碼標準的視訊寫碼裝置執行。
在圖6之實例中，視訊解碼器300包括經寫碼圖像緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、逆量化單元306、逆變換處理單元308、重建構單元310、濾波器單元312及經解碼圖像緩衝器(DPB) 314。預測處理單元304包括運動補償單元316及框內預測單元318。預測處理單元304可包括根據其他預測模式執行預測的額外單元。作為實例，預測處理單元304可包括調色板單元、區塊內拷貝單元(其可形成運動補償單元316之部分)、仿射單元、線性模型(LM)單元或其類似者。在其他實例中，視訊解碼器300可包括更多、更少或不同功能組件。
CPB記憶體320可儲存待由視訊解碼器300之組件解碼的視訊資料，諸如經編碼視訊位元串流。可(例如)自電腦可讀媒體110 (圖1)獲得存儲於CPB記憶體320中之視訊資料。CPB記憶體320可包括儲存來自經編碼視訊位元串流之經編碼視訊資料(例如，語法元素)的CPB。另外，CPB記憶體320可儲存除經寫碼圖像之語法元素之外的視訊資料，諸如表示來自視訊解碼器300之各種單元之輸出的臨時資料。DPB 314大體上儲存經解碼圖像，其中視訊解碼器300可在解碼經編碼視訊位元串流之後續資料或圖像時輸出該等經解碼圖像及/或將其用作參考視訊資料。CPB記憶體320及DPB 314可由諸如動態隨機存取記憶體(DRAM)之多種記憶體裝置中之任一者形成，包括同步DRAM (SDRAM)、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置。CPB記憶體320及DPB 314可藉由同一記憶體裝置或獨立記憶體裝置提供。在各種實例中，CPB記憶體320可與視訊解碼器300之其他組件一起在晶片上，或相對於彼等組件在晶片外。
另外或替代地，在一些實例中，視訊解碼器300可自記憶體120 (圖1)擷取經寫碼視訊資料。亦即，記憶體120可運用CPB 記憶體320儲存如上文所論述之資料。同樣地，當視訊解碼器300之一些或所有功能性實施於軟體中以藉由視訊解碼器300之處理電路執行時，記憶體120可儲存待由視訊解碼器300執行之指令。
圖6中展示之各種單元經說明以輔助理解藉由視訊解碼器300執行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。類似於圖5，固定功能電路指提供特定功能性且預設可被執行之操作的電路。可程式化電路指可經程式化以執行各種任務並在可被執行之操作中提供可變功能性的電路。舉例而言，可程式化電路可實行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可實行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作之類型通常係不可變的。在一些實例中，單元中之一或多者可為相異的電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊解碼器300可包括ALU、EFU、數位電路、類比電路及/或由可程式化電路形成之可程式化核心。在視訊解碼器300之操作藉由在可程式化電路上實行之軟體執行的實例中，晶片上或晶片外記憶體可儲存視訊解碼器300接收並實行的軟體之指令(例如目標碼)。
熵解碼單元302可自CPB接收經編碼視訊資料，並熵解碼視訊資料以再生語法元素。預測處理單元304、逆量化單元306、逆變換處理單元308、重建構單元310、及濾波器單元312可基於自位元串流提取之語法元素產生經解碼視訊資料。
大體而言，視訊解碼器300在逐區塊基礎上重建構圖像。視訊解碼器300可對每一區塊(其中當前經重建構(亦即經解碼)之區塊可被稱作「當前區塊」)個別地執行重建構操作。
熵解碼單元302可對定義經量化變換係數區塊之經量化變換係數的語法元素以及諸如量化參數(QP)及/或變換模式指示之變換資訊進行熵解碼。逆量化單元306可使用與經量化變換係數區塊相關聯之QP判定量化程度，且同樣判定逆量化程度供逆量化單元306應用。逆量化單元306可(例如)執行按位元左移位操作以將經量化變換係數逆量化。逆量化單元306可從而形成包括變換係數之變換係數區塊。
在逆量化單元306形成變換係數區塊之後，逆變換處理單元308可將一或多個逆變換應用於變換係數區塊以產生與當前區塊相關聯之殘餘區塊。舉例而言，逆變換處理單元308可將反DCT、反整數變換、反Karhunen-Loeve變換(KLT)、反旋轉變換、反定向變換或另一逆變換應用於係數區塊。
此外，預測處理單元304根據藉由熵解碼單元302熵解碼之預測資訊語法元素產生預測區塊。舉例而言，若預測資訊語法元素指示當前區塊經框間預測，則運動補償單元316可產生預測區塊。在此情況下，預測資訊語法元素可指示DPB 314中之參考圖像(自其擷取參考區塊)，以及運動向量，其識別參考圖像中之參考區塊相對於當前圖像中之當前區塊之位置的位置。運動補償單元316可大體上以實質上類似於關於運動補償單元224所描述之方式的方式執行框間預測程序(圖5)。
作為另一實例，若預測資訊語法元素指示當前區塊經框內預測，則框內預測單元318可根據藉由預測資訊語法元素指示之框內預測模式產生預測區塊。又，框內預測單元318可大體上以實質上類似於關於框內預測單元226 (圖5)所描述之方式的方式執行框內預測程序。框內預測單元318可將相鄰樣本之資料自DPB 314擷取至當前區塊。
重建構單元310可使用預測區塊及殘餘區塊重建構當前區塊。舉例而言，重建構單元310可將殘餘區塊之樣本添加至預測區塊之對應樣本以重建構當前區塊。
濾波器單元312可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元312可執行解區塊操作以減少沿經重建構區塊之邊緣的區塊效應偽影。濾波器單元312之操作未必在所有實例中執行。
視訊解碼器300可將經重建構區塊存儲於DPB 314中。如上文所論述，DPB 314可將參考資訊提供至預測處理單元304，諸如用於框內預測之當前圖像及用於後續運動補償之經先前解碼圖像的樣本。此外，視訊解碼器300可輸出來自DPB之經解碼圖像用於後續呈現於顯示裝置上，諸如圖1之顯示裝置118。
以此方式，視訊解碼器300表示視訊解碼裝置之實例，該視訊解碼裝置包括經組態以儲存視訊資料之記憶體，及實施於電路中且經組態以判定條件對於視訊資料之當前圖像的第一區塊是否為真的一或多個處理單元。基於條件對於第一區塊為真，視訊解碼器300可將非平滑內插濾波器應用於第一區塊之未經濾波參考樣本以產生第一區塊之預測性樣本。此外，視訊解碼器300可判定條件對於當前圖像之第二區塊是否為真。基於條件對於第二區塊為假，視訊解碼器300可將平滑內插濾波器應用於第二區塊之未經濾波參考樣本以產生第二區塊的預測性樣本。視訊解碼器300可基於第一區塊之預測性樣本重建構第一區塊。此外，視訊解碼器300可基於第二區塊之預測性樣本重建構第二區塊。視訊解碼器300可基於區塊之預測性樣本藉由將區塊之預測性樣本添加至區塊之殘餘資料而重建構區塊。
在此實例中，視訊解碼器300可判定用於第一區塊之框內模式差並判定用於第二區塊之框內模式差。視訊解碼器300可至少部分地基於用於第一區塊之框內模式差是否大於臨限值來判定條件對於第一區塊是否為真。舉例而言，當框內模式差大於臨限值時條件可為真且否則，條件為假。視訊解碼器300可至少部分地基於用於第二區塊之框內模式差是否小於臨限值而判定條件對於第二區塊是否為真。視訊解碼器300可將用於第一區塊之框內模式差判定為以下各者中之一最小值：(1)用於第一區塊之框內模式索引與水平框內預測模式之框內模式索引之間的差的一絕對值；及(2)用於第一區塊之框內模式索引與豎直框內預測模式之框內模式索引之間的差的一絕對值。類似地，視訊解碼器300可將用於第二區塊之框內模式差判定為以下各者中之一最小值：(1)用於第二區塊之框內模式索引與水平框內預測模式之框內模式索引之間的差的一絕對值；及(2)用於第二區塊之框內模式索引與豎直框內預測模式之框內模式索引之間的差的一絕對值。
此外，在一些實例中，視訊解碼器300可基於一或多個額外條件判定條件對於第一區塊是否為真。同樣地，視訊解碼器300可基於一或多個額外條件判定條件對於第二區塊是否為真。該一或多個額外條件可包括以下各者中的一或多者：對於明度或色度之相依性、一位置相依框內預測組合工具之使用，及一不可分離二次變換之使用。在一些實例中，視訊解碼器300可至少部分地基於在第一區塊之一或多個相鄰區塊中使用的內插濾波器之性質判定條件對於第一區塊是否為真，且可至少部分地基於在第二區塊之一或多個相鄰區塊中使用的內插濾波器之性質判定條件對於第二區塊是否為真。在一些實例中，視訊解碼器300可至少部分地基於雙向框內預測寫碼是否應用於第一區塊而判定條件對於第一區塊是否為真且可至少部分地基於雙向框內預測寫碼是否應用於第二區塊而判定條件對於第二區塊是否為真。
在一些實例中，平滑內插濾波器為高斯內插濾波器。在一些實例中，非平滑內插濾波器為三次內插濾波器。在一些實例中，平滑內插濾波器及非平滑內插濾波器具有不同數目個相位。在一些實例中，平滑內插濾波器及非平滑內插濾波器具有不同數目個抽頭。
圖7為說明用於編碼當前區塊之實例方法的流程圖。當前區塊可為當前CU。儘管關於視訊編碼器200 (圖1及圖5)加以描述，但應理解，其他裝置可經組態以執行類似於圖7之方法的方法。
在此實例中，視訊編碼器200初始地預測當前區塊(350)。舉例而言，視訊編碼器200可形成當前區塊之預測區塊。視訊編碼器200可執行本發明之框內濾波技術作為預測當前區塊之部分。視訊編碼器200接著可計算當前區塊之殘餘區塊(352)。為了計算殘餘區塊，視訊編碼器200可計算當前區塊的初始未經寫碼區塊與預測區塊之間的差。視訊編碼器200接著可變換並量化殘餘區塊之係數(354)。接下來，視訊編碼器200可掃描殘餘區塊之經量化變換係數(356)。在掃描期間或在掃描之後，視訊編碼器200可熵編碼係數(358)。舉例而言，視訊編碼器200可使用CAVLC或CABAC來編碼係數。視訊編碼器200接著可輸出區塊之經熵寫碼資料(360)。
圖8為說明用於解碼視訊資料之當前區塊的實例方法之流程圖。當前區塊可為當前CU。儘管關於視訊解碼器300 (圖1及圖6)加以描述，但應理解，其他裝置可經組態以執行類似於圖8之方法的方法。
視訊解碼器300可接收當前區塊之經熵寫碼資料，諸如經熵寫碼預測資訊及對應於當前區塊之殘餘區塊的係數之經熵寫碼資料(370)。視訊解碼器300可對經熵編碼資料進行熵解碼，以判定當前區塊之預測資訊且再生殘餘區塊之係數(372)。視訊解碼器300可例如使用如由當前區塊之預測資訊所指示的框內或框間預測模式來預測當前區塊(374)，以計算當前區塊之預測區塊。視訊解碼器300可執行本發明之框內濾波技術作為預測當前區塊之部分。視訊解碼器300接著可反掃描經再生之係數(376)以產生經量化變換係數之區塊。視訊解碼器300接著可逆量化及逆變換係數以產生殘餘區塊(378)。視訊解碼器300可最後藉由組合預測區塊與殘餘區塊來解碼當前區塊(380)。
圖9為說明根據本發明之一或多種技術的藉由視訊寫碼器在用於視訊資料區塊之框內預測程序期間執行的實例操作之流程圖。圖9之操作可藉由視訊編碼器200或視訊解碼器300執行。舉例而言，在圖5之情形下，框內預測單元226可執行圖9之操作。在圖6之情形下，框內預測單元318可執行圖9之操作。在圖7之情形下，視訊編碼器200可執行圖9之操作作為動作350中預測區塊之部分。在圖8之情形下，視訊解碼器300可執行圖9之操作作為動作374中預測區塊之部分。
如圖9之實例中所示，視訊寫碼器可判定條件對於視訊資料之當前圖像的區塊是否為真(400)。視訊寫碼器可以各種方式中之一或多者判定條件是否為真。舉例而言，圖10描述用以判定條件是否為真之實例操作。在本發明中別處詳細描述圖10。在一些實例中，條件可基於由一或多個相鄰區塊使用的內插濾波器之性質，雙向框內預測寫碼是否經應用等，如在本發明中別處所描述。
在圖9的實例中，基於條件對於區塊為真(400之「是」分枝)，視訊寫碼器可將非平滑內插濾波器應用於區塊之未經濾波參考樣本以產生區塊之預測性樣本(402)。舉例而言，視訊寫碼器可應用在本發明中別處描述的三次內插濾波器中之任一者，或其他。應注意圖9中之視訊寫碼器將非平滑內插濾波器應用於未經濾波參考樣本。此與JEM 7相反，其中視訊寫碼器可在一些情況下將非平滑內插濾波器應用於經濾波參考樣本(例如，視訊寫碼器已經將MDIS濾波器應用於的參考樣本)。根據本發明之技術，因為不存在視訊寫碼器需要將非平滑內插濾波器應用於經濾波參考樣本所根據的情況，因此視訊寫碼器不需要儲存或擷取經濾波參考樣本，此可減少視訊寫碼器之複雜度。
為了將非平滑內插濾波器應用於區塊之未經濾波參考樣本以產生區塊的預測性樣本，視訊寫碼器可對於區塊樣本中之每一者，使用非平滑內插濾波器內插在兩個整數參考樣本之間的分數位置的值，例如，如上文關於圖3所描述。視訊寫碼器可接著指派該內插值給區塊之樣本，籍此產生區塊之預測性樣本。在視訊寫碼器應用雙向框內預測之實例中，區塊可具有兩個框內預測模式且視訊寫碼器可基於區塊之兩個框內預測模式為區塊之每一樣本內插兩個值。視訊寫碼器可以與在本發明中別處描述的方式相同之方式內插該等值中之每一者。視訊寫碼器可接著基於兩個經內插值產生樣本之預測性值。舉例而言，視訊寫碼器可將樣本之預測性值產生為兩個經內插值的平均值。
然而，基於條件對於區塊為假(400之「否」分枝)，視訊寫碼器可將平滑內插濾波器應用於區塊之未經濾波參考樣本以產生區塊的預測性樣本(404)。舉例而言，視訊寫碼器可應用在本發明中別處描述的高斯內插濾波器中之任一者，或其他。為了將平滑內插濾波器應用於區塊之未經濾波參考樣本以產生區塊的預測性樣本，視訊寫碼器可對於區塊樣本中之每一者，使用平滑內插濾波器內插在兩個整數參考樣本之間的分數位置的值，例如，如上文關於圖3所描述。視訊寫碼器可接著指派該內插值給區塊之樣本，籍此產生區塊之預測性樣本。
應注意圖9中之視訊寫碼器將平滑內插濾波器應用於未經濾波參考樣本。此與JEM 7相反，其中視訊寫碼器可在一些情況下將平滑內插濾波器應用於經濾波參考樣本(例如，視訊寫碼器已經將MDIS濾波器應用於的參考樣本)。根據本發明之技術，因為不存在視訊寫碼器需要將平滑內插濾波器應用於經濾波參考樣本所根據的情況，因此視訊寫碼器不需要儲存或擷取經濾波參考樣本，此可減少視訊寫碼器之複雜度。
在本發明中，關於用以判定係應用非平滑內插濾波器抑或非平滑內插濾波器的條件，「真」可對應於一個布爾型值且「假」可對應於另一個布爾型值。在本發明之實例的任一者中，對「真」及「假」之參考可互換。舉例而言，視訊寫碼器可回應於判定條件為假而應用非平滑內插濾波器且可回應於判定條件為真而應用平滑內插濾波器。
隨後，在視訊寫碼器為視訊編碼器200之實例中，視訊編碼器200可基於第一區塊之預測性樣本產生區塊之殘餘資料。在此類實例中，視訊編碼器200可將表示區塊之殘餘資料的資料包括於包括視訊資料之經編碼表示的位元串流中。舉例而言，在圖5之情形下，視訊編碼器200之殘餘產生單元204可計算區塊與預測區塊(亦即，區塊之預測性樣本)之間的逐樣本差。在圖7之情形下，視訊編碼器200可在動作352中產生殘餘資料。此外，在圖7之情形下，作為動作360中輸出用於係數之經熵編碼資料之部分，視訊編碼器200可將表示區塊之殘餘資料的資料包括於位元串流中。
在視訊寫碼器為視訊解碼器300之實例中，視訊解碼器300可基於區塊之預測性樣本重建構區塊。舉例而言，在圖5之情形下，視訊解碼器300之重建構單元310可添加殘餘區塊之樣本至預測區塊之對應樣本(亦即，區塊之預測性樣本)以重建構區塊。在圖8之情形下，作為在動作380中組合經預測區塊與殘餘資料之部分，視訊解碼器300可重建構區塊。
視訊寫碼器可對於當前圖像中之多個區塊執行圖9之操作。因此，視訊寫碼器可對於當前圖像之第一區塊、當前圖像之第二區塊等執行圖9之操作。對於當前圖像之一些區塊，視訊寫碼器可判定條件為真且可對於當前圖像之其他區塊判定條件為假。在視訊寫碼器為視訊編碼器200之實例中，視訊編碼器200可將表示第一區塊之殘餘資料及第二區塊之殘餘資料等的資料包括於包括視訊資料之經編碼表示的位元串流中。
圖10為說明根據本發明之一或多種技術的藉由視訊寫碼器執行以判定圖9之操作的條件是否為真的實例操作之流程圖。在圖10的實例中，視訊寫碼器可判定用於區塊之框內模式差。視訊寫碼器可將用於第一區塊之框內模式差判定為以下各者中之一最小值：(1)用於第一區塊之框內模式索引與水平框內預測模式之框內模式索引之間的差的一絕對值；及(2)用於第一區塊之框內模式索引與豎直框內預測模式之框內模式索引之間的差的一絕對值。亦即，視訊寫碼器可判定如上述等式(2)及等式(8)中所闡述之用於區塊的框內模式差。
在圖10的實例中，視訊寫碼器可至少部分地基於用於區塊之框內模式差是否大於臨限值(422)判定條件對於區塊是否為真。舉例而言，若框內模式差大於臨限值，則視訊寫碼器可判定條件為真，例如，如表5中所描述。同樣地，若框內模式差不大於臨限值，則視訊寫碼器可判定條件為假。因此，在圖10的實例中，回應於判定框內模式差大於臨限值(422之「是」分枝)，視訊寫碼器可判定條件為真(424)。相反地，回應於判定框內模式差不大於臨限值(422之「否」分枝)，視訊寫碼器可判定條件不為真(426)。在一些實例中，視訊寫碼器使用等式(7)及表4來判定臨限值。
在一些實例中，視訊寫碼器可基於一或多個額外條件(亦即，除了用於區塊之框內模式差是否大於臨限值之外的條件)判定條件對於區塊是否為真。舉例而言，該一或多個額外條件可包括以下各者中的一或多者：對於明度或色度之相依性、一位置相依框內預測組合工具之使用，及一不可分離二次變換之使用。
在一些實例中，視訊寫碼器可至少部分地基於在區塊之一或多個相鄰區塊中使用的內插濾波器之性質來判定條件對於區塊是否為真。舉例而言，在一個實例中，若視訊寫碼器在相鄰區塊情況下使用非平滑內插濾波器，則視訊寫碼器可判定條件對於區塊是否為真(且因此應用非平滑內插濾波器)。在此實例中，若視訊寫碼器在相鄰區塊情況下使用平滑內插濾波器，則視訊寫碼器可判定條件對於區塊為假(且因此應用平滑內插濾波器)。
在一些實例中，視訊寫碼器可至少部分地基於雙向框內預測寫碼是否應用於區塊而判定條件對於區塊是否為真。舉例而言，當雙向框內預測應用於區塊且同時框內模式差大於臨限值(例如使用表4判定之臨限值)時，視訊寫碼器可判定條件為真(且因此應用非平滑內插濾波器)。在此實例中，當雙向框內預測未應用或框內模式差不大於臨限值時，視訊寫碼器可判定條件為假(且因此應用平滑內插濾波器)。舉例而言，在此實例中，當雙向框內預測應用於區塊且同時框內模式差大於臨限值(例如使用表4判定之臨限值)時，視訊寫碼器可判定條件為真；且當雙向框內預測未應用或框內模式差不大於臨限值時，視訊寫碼器可判定條件為假。在另一實例中，當雙向框內預測未應用於區塊時，視訊寫碼器可判定條件為真(且因此應用非平滑內插濾波器)，且當雙向框內預測應用時，判定條件為假(且因此應用平滑內插濾波器)。
應認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同序列被執行、可被添加、合併或完全省去(例如，並非所有所描述動作或事件為實踐該等技術所必要)。此外，在某些實例中，可例如經由多執行緒處理、中斷處理或多個處理器同時而非順序執行動作或事件。
在一或多個實例中，所描述功能可以硬體、軟體、韌體或其任何組合來實施。若以軟體實施，則該等功能可作為一或多個指令或程式碼而在一電腦可讀媒體上儲存或傳輸，且由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體(其對應於諸如資料儲存媒體之有形媒體)或通信媒體(其包括(例如)根據通信協定促進電腦程式自一處傳送至另一處的任何媒體)。以此方式，電腦可讀媒體大體上可對應於(1)為非暫時性的有形電腦可讀儲存媒體，或(2)諸如信號或載波之通信媒體。資料儲存媒體可為可藉由一或多個電腦或一或多個處理器存取以擷取指令、程式碼及/或資料結構以用於實施本發明所描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。
藉由實例說明而非限制，此等電腦可讀儲存媒體可包括RAM、ROM、EEPROM、CD-ROM或其他光碟儲存器、磁碟儲存器或其他磁性儲存裝置、快閃記憶體，或可用以儲存呈指令或資料結構形式之所要程式碼且可藉由電腦存取的任何其他媒體。而且，任何連接被恰當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纖纜線、雙絞線、數位用戶線(DSL)或諸如紅外線、無線電及微波之無線技術，自網站、伺服器或其他遠端源來傳輸指令，則同軸纜線、光纖纜線、雙絞線、DSL或諸如紅外線、無線電及微波之無線技術包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而實情為關於非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位多功能光碟(DVD)、軟性磁碟及藍光光碟，其中磁碟通常以磁性方式再現資料，而光碟用雷射以光學方式再現資料。以上各者的組合亦應包括於電腦可讀媒體之範疇內。
指令可由一或多個處理器執行，該一或多個處理器諸如一或多個數位信號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)或其他等效的整合或離散邏輯電路。因此，如本文中所使用之術語「處理器」可指上述結構或適合於實施本文中所描述之技術的任何其他結構中之任一者。在此實例中 此外，該等技術可完全實施於一或多個電路或邏輯元件中。
本發明之技術可實施於多種裝置或設備中，包括無線手機、積體電路(IC)或IC集合(例如晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以執行所揭示技術之裝置的功能態樣，但未必要求由不同硬體單元來實現。確切地說，如上文所描述，可將各種單元組合於編解碼器硬體單元中，或藉由互操作性硬體單元(包括如上文所描述之一或多個處理器)之集合而結合合適軟體及/或韌體來提供該等單元。
各種實例已予以描述。此等及其他實例在以下申請專利範圍之範疇內。
62:各別樣本 100:視訊編碼及解碼系統 102:源裝置 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀媒體 112:儲存裝置 114:檔案伺服器 116:目的地裝置 118:顯示裝置 120:記憶體 122:輸入介面 130:線 140:四分樹二進位樹(QTBT)結構 142:寫碼樹型單元(CTU) 200:視訊編碼器 202:模式選擇單元 204:殘餘產生單元 206:變換處理單元 208:量化單元 210:逆量化單元 212:逆變換處理單元 214:重建構單元 216:濾波器單元 218:經解碼圖像緩衝器(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:框內預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:逆量化單元 308:逆變換處理單元 310:重建構單元 312:濾波器單元 314:經解碼圖像緩衝器(DPB) 316:運動補償單元 318:框內預測單元 320:經寫碼圖像緩衝器(CPB)記憶體 350:步驟 352:步驟 354:步驟 356:步驟 358:步驟 360:步驟 370:步驟 372:步驟 374:步驟 376:步驟 378:步驟 380:步驟 400:步驟 402:步驟 404:步驟 420:步驟 422:步驟 424:步驟 426:步驟 L:相鄰樣本 R:相鄰樣本 α:分數位置
圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統的方塊圖。
圖2為說明框內預測模式之實例的概念圖。
圖3為說明用於根據角度框內預測模式產生視訊資料區塊之預測樣本之實例技術的概念圖。
圖4A及圖4B為說明實例四分樹二進位樹(QTBT)結構及對應寫碼樹型單元(CTU)之概念圖。
圖5為說明可執行本發明之技術之實例視訊編碼器的方塊圖。
圖6為說明可執行本發明之技術的實例視訊解碼器的方塊圖。
圖7為說明用於編碼當前區塊之實例方法的流程圖。
圖8為說明用於解碼視訊資料之當前區塊的實例方法之流程圖。
圖9為說明根據本發明之一或多種技術的藉由視訊寫碼器在用於視訊資料區塊之框內預測程序期間執行的實例操作之流程圖。
圖10為說明根據本發明之一或多種技術的藉由視訊寫碼器執行以判定圖9之操作的條件是否為真的實例操作之流程圖。
400:步驟
402:步驟
404:步驟

Claims (29)

  1. 一種解碼視訊資料之方法，該方法包含： 判定一條件對於該視訊資料之一當前圖像的一第一區塊是否為真； 基於該條件對於該第一區塊為真，將一非平滑內插濾波器應用於該第一區塊之未經濾波參考樣本以產生該第一區塊的預測性樣本； 判定該條件對於該當前圖像之一第二區塊是否為真； 基於該條件對於該第二區塊為假，將一平滑內插濾波器應用於該第二區塊之未經濾波參考樣本以產生該第二區塊的預測性樣本； 基於該第一區塊之該等預測性樣本重建構該第一區塊；及 基於該第二區塊之該等預測性樣本重建構該第二區塊。
  2. 如請求項1之方法，其中： 該方法進一步包含： 判定用於該第一區塊之一框內模式差，其中判定用於該第一區塊之該框內模式差包含將用於該第一區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該第一區塊之一框內模式索引與一水平框內預測模式之一框內模式索引之間的一差的一絕對值；及(2)用於該第一區塊之該框內模式索引與一豎直框內預測模式之一框內模式索引之間的一差的一絕對值；及 判定用於該第二區塊之一框內模式差，其中判定用於該第二區塊之該框內模式差包含將用於該第二區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該第二區塊之一框內模式索引與該水平框內預測模式之該框內模式索引之間的一差的一絕對值；及(2)用於該第二區塊之該框內模式索引與該豎直框內預測模式之該框內模式索引之間的一差的一絕對值， 判定該條件對於該第一區塊是否為真包含至少部分地基於用於該第一區塊之該框內模式差是否大於一臨限值而判定該條件對於該第一區塊是否為真， 判定該條件對於該第二區塊是否為真包含至少部分地基於用於該第二區塊之該框內模式差是否小於該臨限值而判定該條件對於該第二區塊是否為真。
  3. 如請求項2之方法，其中： 判定該條件對於該第一區塊是否為真進一步包含基於一或多個額外條件判定該條件對於該第一區塊是否為真，且 判定該條件對於該第二區塊是否為真進一步包含基於該一或多個額外條件判定該條件對於該第二區塊是否為真。
  4. 如請求項3之方法，其中該一或多個額外條件包括以下各者中的一或多者：對於明度或色度之相依性、一位置相依框內預測組合工具之使用，及一不可分離二次變換之使用。
  5. 如請求項1之方法，其中： 判定該條件對於該第一區塊是否為真包含至少部分地基於在該第一區塊之一或多個相鄰區塊中使用的內插濾波器之一性質判定該條件對於該第一區塊是否為真，且 判定該條件對於該第二區塊是否為真包含至少部分地基於在該第二區塊之一或多個相鄰區塊中使用的內插濾波器之一性質判定該條件對於該第二區塊是否為真。
  6. 如請求項1之方法，其中： 判定該條件對於該第一區塊是否為真包含至少部分地基於雙向框內預測寫碼是否應用於該第一區塊而判定該條件對於該第一區塊是否為真，且 判定該條件對於該第二區塊是否為真包含至少部分地基於雙向框內預測寫碼是否應用於該第二區塊而判定該條件對於該第二區塊是否為真。
  7. 如請求項1之方法，其中該平滑內插濾波器為一高斯內插濾波器且該非平滑內插濾波器為一三次內插濾波器。
  8. 一種編碼視訊資料之方法，該方法包含： 判定一條件對於該視訊資料之一當前圖像的一第一區塊是否為真； 基於該條件對於該第一區塊為真，將一非平滑內插濾波器應用於該第一區塊之未經濾波參考樣本以產生該第一區塊的預測性樣本； 判定該條件對於該當前圖像之一第二區塊是否為真； 基於該條件對於該第二區塊為假，將一平滑內插濾波器應用於該第二區塊之未經濾波參考樣本以產生該第二區塊的預測性樣本； 基於該第一區塊之該等預測性樣本產生該第一區塊之殘餘資料； 基於該第二區塊之該等預測性樣本產生該第二區塊之殘餘資料；及 將表示該第一區塊之該殘餘資料及該第二區塊之該殘餘資料的資料包括於包括該視訊資料之一經編碼表示的一位元串流中。
  9. 如請求項8之方法， 該方法進一步包含： 判定用於該第一區塊之一框內模式差，其中判定用於該第一區塊之該框內模式差包含將用於該第一區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該第一區塊之一框內模式索引與一水平框內預測模式之一框內模式索引之間的一差的一絕對值；及(2)用於該第一區塊之該框內模式索引與一豎直框內預測模式之一框內模式索引之間的一差的一絕對值；及 判定用於該第二區塊之一框內模式差，其中判定用於該第二區塊之該框內模式差包含將用於該第二區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該第二區塊之一框內模式索引與該水平框內預測模式之該框內模式索引之間的一差的一絕對值；及(2)用於該第二區塊之該框內模式索引與該豎直框內預測模式之該框內模式索引之間的一差的一絕對值， 判定該條件對於該第一區塊是否為真包含至少部分地基於用於該第一區塊之該框內模式差是否大於一臨限值而判定該條件對於該第一區塊是否為真， 判定該條件對於該第二區塊是否為真包含至少部分地基於用於該第二區塊之該框內模式差是否小於該臨限值而判定該條件對於該第二區塊是否為真。
  10. 如請求項8之方法，其中該平滑內插濾波器為一高斯內插濾波器且該非平滑內插濾波器為一三次內插濾波器。
  11. 一種用於編碼或解碼視訊資料之裝置，該裝置包含： 一記憶體，其儲存該視訊資料；及 一或多個處理器，其經組態以執行以下操作： 判定一條件對於該視訊資料之一當前圖像的一區塊是否為真； 基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本；及 基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊之該等預測性樣本。
  12. 如請求項11之裝置，其中： 該一或多個處理器經進一步組態以判定用於該區塊之一框內模式差，及 至少部分地基於用於該區塊之該框內模式差是否大於一臨限值而判定該條件對於該區塊是否為真。
  13. 如請求項12之裝置，其中該一或多個處理器經組態以將用於該區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該區塊之一框內模式索引與一水平框內預測模式之一框內模式索引之間的一差的一絕對值；及(2)用於該區塊之該框內模式索引與一豎直框內預測模式之一框內模式索引之間的一差的一絕對值。
  14. 如請求項12之裝置，其中該一或多個處理器經組態以基於一或多個額外條件判定該條件對於該區塊是否為真。
  15. 如請求項14之裝置，其中該一或多個額外條件包括以下各者中的一或多者：對於明度或色度之相依性、一位置相依框內預測組合工具之使用，及一不可分離二次變換之使用。
  16. 如請求項11之裝置，其中該一或多個處理器經組態以至少部分地基於在該區塊之一或多個相鄰區塊中使用的內插濾波器之一性質判定該條件對於該區塊是否為真。
  17. 如請求項11之裝置，其中該一或多個處理器經組態以至少部分地基於雙向框內預測寫碼是否應用於該區塊而判定該條件對於該區塊是否為真。
  18. 如請求項11之裝置，其中該平滑內插濾波器為一高斯內插濾波器且該非平滑內插濾波器為一三次內插濾波器。
  19. 如請求項11之裝置，其中該一或多個處理器經組態以基於該區塊之該等預測性樣本重建構該區塊。
  20. 如請求項11之裝置，其中該一或多個處理器經組態以： 基於該區塊之該等預測性樣本產生該區塊之殘餘資料；及 將表示該區塊之該殘餘資料及該區塊之該殘餘資料的資料包括於包括該視訊資料之一經編碼表示的一位元串流中。
  21. 如請求項11之裝置，其中該條件取決於以下各者中之一或多者：一框內模式、一樣本距一區塊邊界的一距離，或區塊尺寸。
  22. 如請求項11之裝置，其進一步包含經組態以顯示經解碼視訊資料之一顯示器。
  23. 如請求項11之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置或一機上盒中之一或多者。
  24. 一種用於編碼或解碼視訊資料之裝置，該裝置包含： 用於判定一條件對於該視訊資料之一當前圖像的一區塊是否為真的構件； 用於基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本的構件；及 用於基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊之該等預測性樣本的構件。
  25. 如請求項24之裝置，其中該裝置進一步包含： 用於判定用於該區塊之一框內模式差的構件，及 用於至少部分地基於用於該區塊之該框內模式差是否大於一臨限值而判定該條件對於該區塊是否為真的構件。
  26. 如請求項25之裝置，其進一步包含用於將用於該區塊之該框內模式差判定為以下各者中之一最小值的構件：(1)用於該區塊之一框內模式索引與一水平框內預測模式之一框內模式索引之間的一差的一絕對值；及(2)用於該區塊之該框內模式索引與一豎直框內預測模式之一框內模式索引之間的一差的一絕對值。
  27. 一種在上面儲存有指令之電腦可讀儲存媒體，該等指令在經執行時使得一或多個處理器執行以下操作： 判定一條件對於該視訊資料之一當前圖像的一區塊是否為真； 基於該條件對於該區塊為真，將一非平滑內插濾波器應用於該區塊之未經濾波參考樣本以產生該區塊之預測性樣本；及 基於該條件對於該區塊為假，將一平滑內插濾波器應用於該區塊之該等未經濾波參考樣本以產生該區塊之該等預測性樣本。
  28. 如請求項27之電腦可讀儲存媒體，其中該等指令在經執行時使得該一或多個處理器執行以下操作： 判定用於該區塊之一框內模式差，及 至少部分地基於用於該區塊之該框內模式差是否大於一臨限值而判定該條件對於該區塊是否為真。
  29. 如請求項28之電腦可讀儲存媒體，其中該等指令在經執行時使得該一或多個處理器將用於該區塊之該框內模式差判定為以下各者中之一最小值：(1)用於該區塊之一框內模式索引與一水平框內預測模式之一框內模式索引之間的一差的一絕對值；及(2)用於該區塊之該框內模式索引與一豎直框內預測模式之一框內模式索引之間的一差的一絕對值。
TW108123327A 2018-07-02 2019-07-02 結合模式相依內平滑濾波與內插濾波器內切換 TWI821324B (zh)

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
US201862693266P 2018-07-02 2018-07-02
US62/693,266 2018-07-02
US201862727341P 2018-09-05 2018-09-05
US62/727,341 2018-09-05
US201862731723P 2018-09-14 2018-09-14
US62/731,723 2018-09-14
US16/459,024 US11277644B2 (en) 2018-07-02 2019-07-01 Combining mode dependent intra smoothing (MDIS) with intra interpolation filter switching
US16/459,024 2019-07-01

Publications (2)

Publication Number Publication Date
TW202019177A true TW202019177A (zh) 2020-05-16
TWI821324B TWI821324B (zh) 2023-11-11

Family

ID=69007696

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108123327A TWI821324B (zh) 2018-07-02 2019-07-02 結合模式相依內平滑濾波與內插濾波器內切換

Country Status (7)

Country Link
US (1) US11277644B2 (zh)
EP (1) EP3818706A1 (zh)
CN (1) CN112385223A (zh)
BR (1) BR112020026713A2 (zh)
SG (1) SG11202011605XA (zh)
TW (1) TWI821324B (zh)
WO (1) WO2020010087A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11463689B2 (en) 2015-06-18 2022-10-04 Qualcomm Incorporated Intra prediction and intra mode coding
US10834393B2 (en) * 2018-09-10 2020-11-10 Tencent America LLC Intra interpolation filter for multi-line intra prediction
CN112740685A (zh) * 2018-09-19 2021-04-30 韩国电子通信研究院 图像编码/解码方法和装置以及存储有比特流的记录介质
US11303885B2 (en) 2018-10-25 2022-04-12 Qualcomm Incorporated Wide-angle intra prediction smoothing and interpolation
US20200162737A1 (en) 2018-11-16 2020-05-21 Qualcomm Incorporated Position-dependent intra-inter prediction combination in video coding
US11652984B2 (en) 2018-11-16 2023-05-16 Qualcomm Incorporated Position-dependent intra-inter prediction combination in video coding
CN113475078A (zh) * 2019-01-08 2021-10-01 腾讯美国有限责任公司 用于小帧间块的存储器带宽减小的方法和装置
US11019360B2 (en) 2019-03-21 2021-05-25 Qualcomm Incorporated Generalized reference sample derivation methods for intra prediction in video coding
WO2020257484A1 (en) * 2019-06-21 2020-12-24 Vid Scale, Inc. Precision refinement for motion compensation with optical flow
CN114651441B (zh) * 2019-09-19 2023-12-19 Lg电子株式会社 使用参考样本滤波的图像编码/解码方法和装置及发送比特流的方法
US11611770B2 (en) * 2020-10-14 2023-03-21 Tencent America LLC Method and apparatus for video coding
MX2023000279A (es) * 2020-10-16 2023-02-09 Guangdong Oppo Mobile Telecommunications Corp Ltd Metodo de intra prediccion, codificador, decodificador y medio de almacenamiento.
MX2023007190A (es) * 2020-12-22 2023-07-03 Qualcomm Inc Intraprediccion usando filtros de interpolacion mejorados.

Family Cites Families (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006081156A (ja) 2004-08-13 2006-03-23 Fuji Photo Film Co Ltd 画像処理装置および方法並びにプログラム
US8644382B2 (en) 2007-06-29 2014-02-04 Sharp Kabushiki Kaisha Image encoding device, image encoding method, image decoding device, image decoding method, program, and storage medium
US8750378B2 (en) 2008-09-23 2014-06-10 Qualcomm Incorporated Offset calculation in switched interpolation filters
JP5169978B2 (ja) 2009-04-24 2013-03-27 ソニー株式会社 画像処理装置および方法
JP5581688B2 (ja) 2009-12-24 2014-09-03 ソニー株式会社 画像処理装置および方法、並びにプログラム
WO2011083573A1 (ja) 2010-01-07 2011-07-14 株式会社 東芝 動画像符号化装置及び動画像復号化装置
CN105635737B (zh) 2010-04-09 2019-03-15 Lg电子株式会社 处理视频数据的方法和装置
KR101791242B1 (ko) 2010-04-16 2017-10-30 에스케이텔레콤 주식회사 영상 부호화/복호화 장치 및 방법
PL2563020T3 (pl) 2010-04-23 2016-01-29 M&K Holdings Inc Urządzenie do kodowania obrazu
US9094658B2 (en) 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
US8902978B2 (en) 2010-05-30 2014-12-02 Lg Electronics Inc. Enhanced intra prediction mode signaling
US9008175B2 (en) 2010-10-01 2015-04-14 Qualcomm Incorporated Intra smoothing filter for video coding
US20120106640A1 (en) 2010-10-31 2012-05-03 Broadcom Corporation Decoding side intra-prediction derivation for video coding
PT2645715T (pt) 2010-11-25 2020-01-29 Lg Electronics Inc Método para sinalizar informação de imagem, e método para descodificar informação de imagem utilizando a mesma
EP2466976B1 (en) 2010-12-15 2017-09-27 OCT Circuit Technologies International Limited IP-based paging for DSDS
US20120183041A1 (en) 2011-01-14 2012-07-19 Sony Corporation Interpolation filter for intra prediction of hevc
KR101383775B1 (ko) 2011-05-20 2014-04-14 주식회사 케이티 화면 내 예측 방법 및 장치
US9654785B2 (en) 2011-06-09 2017-05-16 Qualcomm Incorporated Enhanced intra-prediction mode signaling for video coding using neighboring mode
EP3223521A1 (en) 2011-06-17 2017-09-27 HFI Innovation Inc. Method and apparatus for coding of intra prediction mode
WO2012173315A1 (ko) 2011-06-17 2012-12-20 엘지전자 주식회사 인트라 예측 모드 부호화/복호화 방법 및 장치
KR20120140181A (ko) 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
WO2013000324A1 (en) 2011-06-28 2013-01-03 Mediatek Singapore Pte. Ltd. Method and apparatus of intra mode coding
PT2887670T (pt) 2011-06-28 2017-09-18 Samsung Electronics Co Ltd Método e aparelho para codificar vídeo e método e aparelho para descodificar vídeo, acompanhados com intra previsão
CN105100808B (zh) 2011-06-28 2018-06-15 三星电子株式会社 用于使用帧内预测进行图像编码和解码的方法和设备
JP2013012995A (ja) 2011-06-30 2013-01-17 Sony Corp 画像処理装置および方法
CN102857750B (zh) 2011-07-01 2015-05-06 华为技术有限公司 帧内预测编解码处理方法、装置和系统
JP2013058939A (ja) 2011-09-08 2013-03-28 Sharp Corp 画像復号装置、および画像符号化装置
EP3139596B1 (en) 2011-09-13 2019-09-25 HFI Innovation Inc. Method and apparatus for intra mode coding in hevc
CN107197309B (zh) 2011-10-07 2020-02-18 英迪股份有限公司 对视频信号进行解码的方法
JP2013090120A (ja) 2011-10-18 2013-05-13 Nippon Telegr & Teleph Corp <Ntt> 画像符号化方法，画像復号方法，画像符号化装置，画像復号装置およびそれらのプログラム
CN105338345B (zh) 2011-10-24 2019-01-04 英孚布瑞智有限私人贸易公司 用于图像解码的方法和装置
US20130107949A1 (en) 2011-10-26 2013-05-02 Intellectual Discovery Co., Ltd. Scalable video coding method and apparatus using intra prediction mode
US9154796B2 (en) 2011-11-04 2015-10-06 Qualcomm Incorporated Intra-mode video coding
KR20130049522A (ko) 2011-11-04 2013-05-14 오수미 인트라 예측 블록 생성 방법
US20150003524A1 (en) 2012-01-13 2015-01-01 Sharp Kabushiki Kaisha Image decoding device, image encoding device, and data structure of encoded data
US9538172B2 (en) 2012-04-11 2017-01-03 Qualcomm Incorporated Grouping bypass coded syntax elements in video coding
KR20140129423A (ko) 2013-04-29 2014-11-07 인텔렉추얼디스커버리 주식회사 인트라 예측 방법 및 장치
CN103248892A (zh) 2013-05-07 2013-08-14 北京大学 一种帧内预测方法及装置
WO2015000168A1 (en) 2013-07-05 2015-01-08 Mediatek Singapore Pte. Ltd. A simplified dc prediction method in intra prediction
US9451254B2 (en) * 2013-07-19 2016-09-20 Qualcomm Incorporated Disabling intra prediction filtering
KR20170023000A (ko) 2014-06-20 2017-03-02 삼성전자주식회사 인터 레이어 비디오 부복호화를 위한 깊이 영상의 예측 모드 전송 방법 및 장치
JP6432214B2 (ja) * 2014-08-25 2018-12-05 株式会社リコー 画像処理装置、画像処理方法、記憶媒体及びプログラム
US10856009B2 (en) 2014-09-04 2020-12-01 Mediatek Inc. Method of block vector clipping and coding for screen content coding and video coding
KR101700410B1 (ko) 2015-02-10 2017-01-26 주식회사 아리스케일 인트라 모드를 이용한 쿼터 픽셀 해상도를 갖는 영상 보간 방법 및 장치
CN104702962B (zh) 2015-03-03 2019-04-16 华为技术有限公司 帧内编解码方法、编码器和解码器
WO2016159631A1 (ko) 2015-03-29 2016-10-06 엘지전자(주) 비디오 신호의 인코딩/디코딩 방법 및 장치
US20160373782A1 (en) 2015-06-18 2016-12-22 Qualcomm Incorporated Intra prediction and intra mode coding
US11463689B2 (en) 2015-06-18 2022-10-04 Qualcomm Incorporated Intra prediction and intra mode coding
US10142627B2 (en) 2015-06-18 2018-11-27 Qualcomm Incorporated Intra prediction and intra mode coding
US20160373742A1 (en) 2015-06-18 2016-12-22 Qualcomm Incorporated Intra prediction and intra mode coding
US20160373770A1 (en) 2015-06-18 2016-12-22 Qualcomm Incorporated Intra prediction and intra mode coding
US10841593B2 (en) 2015-06-18 2020-11-17 Qualcomm Incorporated Intra prediction and intra mode coding
US10425648B2 (en) * 2015-09-29 2019-09-24 Qualcomm Incorporated Video intra-prediction using position-dependent prediction combination for video coding
US10194170B2 (en) 2015-11-20 2019-01-29 Mediatek Inc. Method and apparatus for video coding using filter coefficients determined based on pixel projection phase
US10230961B2 (en) 2016-06-03 2019-03-12 Mediatek Inc. Method and apparatus for template-based intra prediction in image and video coding
US10382781B2 (en) 2016-09-28 2019-08-13 Qualcomm Incorporated Interpolation filters for intra prediction in video coding
EP3487177A1 (en) * 2017-11-21 2019-05-22 Thomson Licensing Method and apparatus for low-complexity bi-directional intra prediction in video encoding and decoding

Also Published As

Publication number Publication date
BR112020026713A2 (pt) 2021-03-23
CN112385223A (zh) 2021-02-19
US20200007895A1 (en) 2020-01-02
US11277644B2 (en) 2022-03-15
WO2020010087A1 (en) 2020-01-09
EP3818706A1 (en) 2021-05-12
SG11202011605XA (en) 2021-01-28
TWI821324B (zh) 2023-11-11

Similar Documents

Publication Publication Date Title
TWI821324B (zh) 結合模式相依內平滑濾波與內插濾波器內切換
TW202101989A (zh) 用於視訊寫碼之參考圖像重採樣及框間寫碼工具
TW202025752A (zh) 用於仿射模式之以歷史為基礎之運動向量預測
TW202114418A (zh) 用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸
US11962796B2 (en) Gradient-based prediction refinement for video coding
TW202007148A (zh) 具有位置依賴之內部預測組合(pdpc)之合併模式依賴的內部平化(mdis)及內部插值濾波器切換
TW202038611A (zh) 用於視訊寫碼之三角運動資訊
TW202115977A (zh) 用於視訊編碼的跨分量自我調整迴路濾波
TW202106012A (zh) 用於視訊寫碼之多重自適應迴路濾波器集合
TW202038609A (zh) 用於視訊寫碼之共享候選清單及平行候選清單推導
TWI826487B (zh) 用於視訊寫碼中之適應性運動向量差解析度及增加的運動向量儲存精確度的運動向量捨位
TW202118297A (zh) 用於視訊寫碼之縮放矩陣及傳訊
TW202123705A (zh) 低頻不可分離變換（ｌｆｎｓｔ）訊號傳遞
US20200288130A1 (en) Simplification of sub-block transforms in video coding
TW202044833A (zh) 使用不同色度格式之三角預測單元模式中之視訊寫碼
TW202110177A (zh) 用於視訊寫碼之適應性迴路濾波之非線性延伸
TW202034695A (zh) 用於視訊寫碼之限制仿射運動繼承
TW202029774A (zh) 藉由轉換域濾波之量化假影抑制及信號恢復
TW202101996A (zh) 用於視訊寫碼之以梯度為基礎之預測精細化
TW202041003A (zh) 用於視訊資料之框間-框內預測模式
TW202123711A (zh) 解碼器側優化工具開關控制
TW202027507A (zh) 在視訊寫碼中框內區塊複本之預測限制
CN114731394A (zh) 用于视频编解码的角度帧内预测模式的位置相关帧内预测组合
TW202101994A (zh) 視訊寫碼中之雙向光學流
CN114402620A (zh) 用于视频编解码的交叉分量自适应环路滤波的比特移位