TW201939952A - 用於360度視訊之框內預測 - Google Patents

用於360度視訊之框內預測 Download PDF

Info

Publication number
TW201939952A
TW201939952A TW108104782A TW108104782A TW201939952A TW 201939952 A TW201939952 A TW 201939952A TW 108104782 A TW108104782 A TW 108104782A TW 108104782 A TW108104782 A TW 108104782A TW 201939952 A TW201939952 A TW 201939952A
Authority
TW
Taiwan
Prior art keywords
block
current
projection
video
sample
Prior art date
Application number
TW108104782A
Other languages
English (en)
Inventor
伏努 亨利
德 艾瓦拉 吉特 范
穆漢麥德 傑德 柯本
馬塔 卡茲維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW201939952A publication Critical patent/TW201939952A/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本發明提供一種視訊寫碼器，其可基於360度視訊資料之一當前圖像之一當前區塊的一定位及定義該當前圖像中之複數個區之一配置的一封裝配置來判定參考樣本。該當前圖像處於一投影域中且該複數個區中之每一各別區為由360度視訊資料之一投影定義之一各別面。該等區根據該封裝配置而配置於該當前圖像中。基於該當前區塊之該定位在鄰近於該第二區之該第一區之一邊界處且在該邊界處存在因該封裝配置所致之一不連續性，該等參考樣本為在空間上與在一球面域中且不在該投影域中之該當前區塊相鄰之該當前圖像之樣本。

Description

用於360度視訊之框內預測
本發明係關於視訊編碼及視訊解碼。
數位視訊能力可併入至廣泛範圍之器件中，該等器件包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄器件、數位媒體播放機、視訊遊戲器件、視訊遊戲主控台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電傳會議器件、視訊串流器件及其類似者。數位視訊器件實施視訊寫碼技術，諸如由MPEG-2、MPEG-4、ITU-T H.261、ISO/IEC MPEG-1 Visual、ITU-T H.262或ISO/IEC MPEG-2 Visual、ITU-T H.263、ISO/IEC MPEG-4 Visual、ITU-T H.264/MPEG-4第10部分進階視訊寫碼(AVC)、高效視訊寫碼(HEVC)標準、ITU-T H.265/高效視訊寫碼(HEVC)定義之標準，及此類標準之擴展中所描述之彼等技術。視訊器件可藉由實施此類視訊寫碼技術來更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊寫碼技術包括空間(圖像內)預測及/或時間(圖像間)預測以減少或移除為視訊序列所固有的冗餘。針對基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖像或視訊圖像之一部分)可分割成視訊區塊，視訊區塊亦可被稱作寫碼樹單元(CTU)、寫碼單元(CU)及/或寫碼節點。圖像之經框內寫碼(I)圖塊中之視訊區塊係使用相對於同一圖像中之相鄰區塊中之參考樣本的空間預測來編碼。圖像之經框間寫碼(P或B)圖塊中之視訊區塊可使用相對於同一圖像中之相鄰區塊中之參考樣本的空間預測或相對於其他參考圖像中之參考樣本的時間預測。圖像可被稱作圖框，且參考圖像可被稱作參考圖框。
大體而言，本發明描述選擇用於針對具有立方圖投影(CMP)及其衍生投影(諸如經調整立方圖投影(ACP)及赤道圓柱投影(ECP))之360°視訊之框內預測之參考的技術。由於360°視訊之立方圖投影可包含或由若干不連續區組成，故選擇用於框內預測之參考的現有方法(其大體使用來自當前區塊之上方或左方或右方之鄰近區塊之參考樣本)不起作用，因為參考樣本可能取決於投影之面如何經封裝/結構化而在不同區中。
在一個實例中，本發明描述一種寫碼360度視訊資料之方法，該方法包含：基於360度視訊資料之當前圖像之當前區塊的定位及定義當前圖像中之複數個區之配置的封裝配置來判定參考樣本，其中：當前圖像處於投影域中，複數個區中之每一各別區為由360度視訊資料之投影定義之各別面，投影為立方圖投影(CMP)或CMP之衍生投影，該等區包括第一區及第二區，該等區根據封裝配置而配置於當前圖像中，基於當前區塊之定位在鄰近於第二區之第一區之邊界處且在邊界處存在因封裝配置所致之不連續性，參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之當前圖像之樣本；及基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊的預測區塊。
在另一實例中，本發明描述一種用於寫碼360度視訊資料之器件，該器件包含：記憶體，其經組態以儲存360度視訊資料；及一或多個處理器，其實施於電路中，一或多個處理器經組態以：基於360度視訊資料之當前圖像之當前區塊的定位及定義進入當前圖像之複數個區之配置的封裝配置來判定參考樣本，其中：當前圖像處於投影域中，複數個區中之每一各別區為由360度視訊資料之投影定義之各別面，投影為立方圖投影(CMP)或CMP之衍生投影，該等區包括第一區及第二區，該等區根據封裝配置而配置於當前圖像中，基於當前區塊之定位在鄰近於第二區之第一區之邊界處且在邊界處存在因封裝配置所致之不連續性，參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之當前圖像之樣本；及基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊的預測區塊。
在另一實例中，本發明描述一種用於寫碼視訊資料之器件，該器件包含：構件，用於基於360度視訊資料之當前圖像之當前區塊的定位及定義當前圖像中之複數個區之配置的封裝配置來判定參考樣本，其中：當前圖像處於投影域中，複數個區中之每一各別區為由360度視訊資料之投影定義之各別面，投影為立方圖投影(CMP)或CMP之衍生投影，該等區包括第一區及第二區，該等區根據封裝配置而配置於當前圖像中，基於當前區塊之定位在鄰近於第二區之第一區之邊界處且在邊界處存在因封裝配置所致之不連續性，參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之當前圖像之樣本；及構件，用於基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊的預測區塊。
在另一實例中，本發明描述一種電腦可讀儲存媒體，其具有儲存於其上之指令，該等指令在執行時使得一或多個處理器：基於360度視訊資料之當前圖像之當前區塊的定位及定義進入當前圖像之複數個區之配置的封裝配置來判定參考樣本，其中：當前圖像處於投影域中，複數個區中之每一各別區為由360度視訊資料之投影定義之各別面，投影為立方圖投影(CMP)或CMP之衍生投影，該等區包括第一區及第二區，該等區根據封裝配置而配置於當前圖像中，基於當前區塊之定位在鄰近於第二區之第一區之邊界處且在邊界處存在因封裝配置所致之不連續性，參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之當前圖像之樣本；及基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊的預測區塊。
在以下隨附圖式及描述中闡述一或多個實例之細節。其他特徵、目標及優勢自描述、圖式及申請專利範圍將係顯而易見的。
本申請案主張2018年2月14日遞交的美國臨時專利申請案第62/630,714號之權益，該申請案之全部內容以引用方式併入。
360度視訊可包括觀看者可在任何時間情況下均可能在該觀看者周圍之球面看見任何可見物之視訊。360度視訊可應用於觀看者可自由改變其觀看方向之沉浸式虛擬實境(VR)體驗中。在360度視訊中，每一圖像可對應於觀看者周圍之3維球面中之可見內容。
視訊編碼編碼解碼器(codec)主要經設計用於編碼2維影像，諸如適用於習知電視或電影投影儀上之顯示器的彼等視訊編碼編碼解碼器。因此，為使360度視訊適應視訊編碼解碼器中之編碼，將360度視訊之圖像投影至2維域(亦即投影域)中。接著可以相同方式將投影域中之2維圖像編碼為習知2維圖像。
立方圖投影為將360度視訊之圖像投影至2維域中的常見方式。在立方圖投影中，立方體居中於觀看者之視點上。因此，立方體可具有用於觀看者之前方內容的前面、用於觀看者之右方內容的右面、用於觀看者之左方內容的左面、用於觀看者上方內容的頂面及用於觀看者下方內容的底面。將來自觀看者周圍之3維球面之樣本投影至立方體之面上。因此，立方體之每一面可包含樣本之2維陣列。立方體之面本身可根據進入2維圖像之封裝配置而配置。所得2維圖像接著可編碼。
使用立方圖投影之一個問題為當根據封裝配置來配置立方體之面時，第一區(亦即第一面)之邊界處之樣本可在空間上與未在球面域中鄰近之第二區(亦即第二面)之樣本相鄰。舉例而言，上區與左區之間的邊界之任一側上之樣本可實際上未在球面域中彼此鄰近。此可限制分析區之間的邊界上之參考樣本的效用。舉例而言，在上文實例中，當進行上區與左區之間的邊界處之上區之區塊之框內預測時，邊界之另一側上的左區之樣本可具有極小預測值。不能使用某些區間邊界上的樣本可削弱潛在編碼效率，導致視訊資料之更少壓縮。
本發明描述可解決此等問題且可能提高編碼效率的技術。在本發明中，應瞭解，在第一區與第二區之間的邊界處之第一區之樣本可在球面域中鄰近於不在第一區與第二區之間的邊界上的樣本。舉例而言，在立方圖投影之一些封裝配置中，在上區與左區之間的邊界處之上區之樣本可在球面域中鄰近於在左區之頂部邊界處之樣本。因此，當前圖像可含有針對在空間上與在球面域中但不在投影域中之當前區塊相鄰之當前區塊之參考樣本(例如，在編碼當前圖像之當前區塊中使用之當前圖像之樣本)。
因此，在本發明之一個實例中，視訊寫碼器(例如，視訊編碼器或視訊解碼器)可基於當前圖像之當前區塊之定位來判定參考樣本。在此實例中，當前圖像處於投影域中且包含複數個區。複數個區中之每一各別區為由360度視訊資料之投影定義之各別面。投影為立方圖投影(CMP)或CMP之衍生投影。該等區根據封裝配置而配置於當前圖像中。換言之，封裝配置定義當前圖像中之複數個區之配置。此外，在此實例中，視訊寫碼器可基於當前區塊之定位來判定參考樣本，使得參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之樣本。在此實例中，視訊寫碼器可基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊之預測區塊。針對當前圖像之其他區塊，參考樣本可在空間上與在球面域及投影域兩者中之其他區塊相鄰。
圖1為說明可進行本發明之技術的實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體係針對寫碼(編碼及/或解碼)視訊資料。大體而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經編碼的視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如傳信資料。
如圖1中所展示，在此實例中，系統100包括源器件102，其提供待由目的地器件116解碼及顯示之經編碼視訊資料。詳言之，源器件102經由電腦可讀媒體110將視訊資料提供至目的地器件116。源器件102及目的地器件116可包含廣泛範圍之器件中之任一者，包括桌上型電腦、筆記型(亦即膝上型)電腦、平板電腦、機頂盒、廣播接收器器件、行動器件、諸如智慧型電話之電話手持機、電視、攝影機、顯示器件、數位媒體播放機、視訊遊戲主控台、視訊串流器件或其類似者。在一些情況下，源器件102及目的地器件116可經裝備用於無線通信，且由此可被稱作無線通信器件。
在圖1之實例中，源器件102包括視訊源104、記憶體106、視訊編碼器200及輸出介面108。目的地器件116包括輸入介面122、視訊解碼器300、記憶體120及顯示器件118。根據本發明，源器件102之視訊編碼器200及目的地器件116之視訊解碼器300可經組態以應用選擇用於針對具有立方圖投影(CMP)及其衍生投影的360°視訊之框內預測之參考的技術。由此，源器件102表示視訊編碼器件之實例，而目的地器件116表示視訊解碼器件之實例。在其他實例中，源器件及目的地器件可包括其他組件或配置。舉例而言，源器件102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地器件116可與外部顯示器件介接，而非包括整合式顯示器件。
如圖1中所展示之系統100僅為一個實例。大體而言，任何數位視訊編碼及/或解碼器件均可進行選擇用於針對具有立方圖投影(CMP)及其衍生投影的360°視訊之框內預測之參考樣本的技術。源器件102及目的地器件116僅為源器件102產生經寫碼視訊資料以供傳輸至目的地器件116之此類寫碼器件的實例。本發明將「寫碼」器件稱作對資料進行寫碼(編碼及/或解碼)之器件。由此，視訊編碼器200及視訊解碼器300表示寫碼器件之實例，特定而言分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，器件102、116可以實質上對稱的方式操作，使得器件102、116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援器件102、116之間的單向或雙向視訊傳輸以用於(例如)視訊串流、視訊播放、視訊廣播或視訊電話。
大體而言，視訊源104表示視訊資料源(亦即，原始未經編碼的視訊資料)且將視訊資料之依序圖像(亦被稱作「圖框」)序列提供至視訊編碼器200，該視訊編碼器編碼圖像之資料。源器件102之視訊源104可包括視訊俘獲器件，諸如視訊攝影機、含有先前俘獲之原始視訊的視訊存檔及/或用以自視訊內容提供者接收視訊的視訊饋入介面。作為另一替代，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊及電腦產生之視訊的組合。在每一情況下，視訊編碼器200對所俘獲、所預先俘獲或電腦產生之視訊資料進行編碼。視訊編碼器200可將圖像之接收次序(有時稱作「顯示次序」)重新配置成寫碼次序以供寫碼。視訊編碼器200可產生包括經編碼視訊資料之位元串流。源器件102接著可經由輸出介面108將經編碼視訊資料輸出至電腦可讀媒體110上以供藉由例如目的地器件116之輸入介面122接收及/或擷取。
源器件102之記憶體106及目的地器件116之記憶體120表示通用記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器300之原始經解碼視訊資料。另外或替代地，記憶體106、120可儲存可分別由例如視訊編碼器200及視訊解碼器300執行之軟體指令。儘管在此實例中展示為與視訊編碼器200及視訊解碼器300分開，但應理解，視訊編碼器200及視訊解碼器300亦可包括功能上類似或同等目的之內部記憶體。此外，記憶體106、120可儲存(例如)自視訊編碼器200輸出及輸入至視訊解碼器300之經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。
電腦可讀媒體110可表示能夠將經編碼視訊資料自源器件102傳送至目的地器件116的任何類型之媒體或器件。在一個實例中，電腦可讀媒體110表示用以使得源器件102能夠即時地將經編碼視訊資料(例如)經由射頻網路或基於電腦之網路直接傳輸至目的地器件116之通信媒體。根據諸如無線通信協定之通信標準，輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可調變所接收之傳輸信號。通信媒體可包含任何無線或有線通信媒體，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或任何其他可用於促進自源器件102至目的地器件116之通信的設備。
在一些實例中，源器件102可將經編碼資料自輸出介面108輸出至儲存器件112。類似地，目的地器件112可經由輸入介面122自儲存器件112存取經編碼資料。儲存器件112可包括各種分散式或本端存取之資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體或用於儲存經編碼視訊資料之任何其他合適的數位儲存媒體。
在一些實例中，源器件102可將經編碼視訊資料輸出至檔案伺服器114，或可儲存源器件102所產生之經編碼視訊的另一中間儲存器件。目的地器件116可經由串流或下載而自檔案伺服器114存取經儲存視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料且將該經編碼視訊資料傳輸至目的地器件116的任何類型之伺服器器件。檔案伺服器114可表示網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路器件或網路附接儲存(NAS)器件。目的地器件116可經由包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線通道(例如Wi-Fi連接)、有線連接(例如DSL、有線電視數據機等)，或適用於存取儲存於檔案伺服器114上之經編碼視訊資料的兩者之組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合來操作。
輸出介面108及輸入介面122可表示無線傳輸器/接收器、數據機、有線網路連接組件(例如，乙太網卡)、根據各種IEEE 802.11標準中之任一者來操作的無線通信組件或其他實體組件。在輸出介面108及輸入介面122包含無線組件之實例中，輸出介面108及輸入介面122可經組態以根據蜂巢式通信標準(諸如4G、4G-LTE(長期演進)、LTE進階、5G或其類似者)來傳送資料，諸如經編碼視訊資料。在輸出介面108包含無線傳輸器的一些實例中，輸出介面108及輸入介面122可經組態以根據其他無線標準(諸如IEEE 802.11規格、IEEE 802.15規格(例如ZigBee™)、Bluetooth™標準或其類似者)傳送資料，諸如經編碼視訊資料。在一些實例中，源器件102及/或目的地器件116可包括各別晶片上系統(SoC)器件。舉例而言，源器件102可包括SoC器件以進行歸於視訊編碼器200及/或輸出介面108之功能性，且目的地器件116可包括SoC器件以進行歸於視訊解碼器300及/或輸入介面122之功能性。
本發明之技術可應用於支援各種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上之數位視訊之解碼或其他應用。
目的地器件116之輸入介面122自電腦可讀媒體110(例如儲存器件112、檔案伺服器114或其類似者)接收經編碼視訊位元串流。自電腦可讀媒體110所接收之經編碼視訊位元串流可包括由視訊編碼器200定義之傳信資訊(其亦由視訊解碼器300使用)，諸如具有描述視訊區塊或其他經寫碼單元(例如圖塊、圖像、圖像組、序列或其類似者)之特性及/或處理之值之語法元素。顯示器件118向使用者顯示經解碼視訊資料之經解碼圖像。顯示器件118可表示各種顯示器件中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示器件。
本發明大體可指「傳信」某些資訊，諸如語法元素。術語「傳信」大體可指用於解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器200可在位元串流中傳信語法元素的值。大體而言，傳信係指在位元串流中產生值。如上文所提及，源器件102可實質上即時地將位元串流傳送至目的地器件116，或不即時傳送，諸如可在將語法元素儲存至儲存器件112以供目的地器件116稍後擷取時發生。
儘管圖1中未展示，但在一些實例中，視訊編碼器200及視訊解碼器300可各自與音訊編碼器及/或音訊解碼器整合，且可包括合適的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。
視訊編碼器200及視訊解碼器300各自可被實施為各種合適編碼器及/或解碼器電路中之任一者，諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合。當該等技術以軟體部分地實施時，器件可將用於軟體之指令儲存於合適之非暫時性電腦可讀媒體中，且在硬體中使用一或多個處理器執行指令以進行本發明之技術。視訊編碼器200及視訊解碼器300中之每一者可包括於一或多個編碼器或解碼器中，編碼器或解碼器中之任一者可整合為各別器件中之組合式編碼器/解碼器(CODEC)之部分。包括視訊編碼器200及/或視訊解碼器300之器件可包含積體電路、微處理器及/或無線通信器件，諸如蜂巢式電話。
視訊編碼器200及視訊解碼器300可根據視訊寫碼標準操作，諸如ITU-T H.265，亦被稱作高效視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。可替代地，視訊編碼器200及視訊解碼器300可根據其他專有或工業標準(諸如聯合探索測試模型(JEM)或多功能視訊寫碼(VVC))來操作。然而，本發明之技術不限於任何特定寫碼標準。
大體而言，視訊編碼器200及視訊解碼器300可進行圖像之基於區塊之寫碼。術語「區塊」大體係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼程序中使用)之資料的結構。舉例而言，區塊可包括照度及/或彩度資料樣本之二維矩陣。大體而言，視訊編碼器200及視訊解碼器300可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器200及視訊解碼器300可寫碼照度及彩度分量，而非寫碼圖像之樣本的紅色、綠色及藍色(RGB)資料，其中該等彩度分量可包括紅色調及藍色調彩度分量兩者。在一些實例中，視訊編碼器200在編碼之前將所接收之RGB格式資料轉換成YUV表示，且視訊解碼器300將YUV表示轉換成RGB格式。可替代地，預處理單元及後處理單元(未展示)可進行此等轉換。
本發明大體可指對圖像進行寫碼(例如編碼及解碼)以包括編碼或解碼圖像之資料的程序。類似地，本發明可指對圖像之區塊進行寫碼以包括編碼或解碼區塊之資料的程序，例如預測及/或殘餘寫碼。經編碼視訊位元串流大體包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分割的語法元素的一系列值。因此，對寫碼圖像或區塊之提及大體應理解為寫碼形成該圖像或區塊之語法元素的值。
HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)及變換單元(TU)。根據HEVC，視訊寫碼器(諸如視訊編碼器200)根據四分樹結構將寫碼樹單元(CTU)分割成CU。亦即，視訊寫碼器將CTU及CU分割成四個相同的非重疊正方形，且四分樹之每一節點具有零個或四個子節點。不具有子節點之節點可被稱作「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可進一步分割PU及TU。舉例而言，在HEVC中，殘餘四分樹(RQT)表示TU之分割。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。經框內預測之CU包括框內預測資訊，諸如框內模式指示。
作為另一實例，視訊編碼器200及視訊解碼器300可經組態以根據JEM或VVC來操作。根據JEM及VVC，視訊寫碼器(諸如視訊編碼器200)將圖像分割成複數個寫碼樹單元(CTU)。視訊編碼器200可根據樹狀結構(諸如四分樹二元樹(QTBT)結構)分割CTU。JEM之QTBT結構移除多個分割類型之概念，諸如HEVC之CU、PU及TU之間的間距。JEM之QTBT結構包括兩個層級：根據四分樹分割進行分割的第一層級，及根據二元樹分割進行分割的第二層級。QTBT結構之根節點對應於CTU。二元樹之葉節點對應於寫碼單元(CU)。
在一些實例中，視訊編碼器200及視訊解碼器300可使用單一QTBT結構以表示照度及彩度分量中之每一者，而在其他實例中，視訊編碼器200及視訊解碼器300可使用兩個或大於兩個QTBT結構，諸如用於照度分量之一個QTBT結構及用於兩個彩度分量之另一QTBT結構(或用於各別彩度分量之兩個QTBT結構)。
為實現對CTU之更可撓式分割，提出基於混合變換樹(MTT)之CU結構以取代基於四分樹、二元樹及/或QTBT之CU結構。本發明之MTT分割結構仍為遞歸樹狀結構。然而，使用多個不同分割結構(例如三個或大於三個)。舉例而言，在MTT分割結構中，可在樹狀結構之每一深度處使用三個或大於三個不同分割結構。在此情況下，樹狀結構中之節點的深度可指自節點至樹狀結構之根的路徑之長度(例如，分裂之數目)。如本發明中所使用，分割結構大體可指一區塊可劃分成多少不同區塊。舉例而言，四分樹分割結構可將區塊劃分成四個區塊，二元樹分割結構可將區塊劃分成兩個區塊，且三叉樹分割結構可將區塊劃分成三個區塊。分割結構可具有多個不同分割類型，如將在下文更詳細地解釋。分割類型可另外定義如何劃分區塊，包括對稱或不對稱分割、均勻或非均勻分割及/或水平或豎直分割。視訊編碼器200及視訊解碼器300可經組態以使用根據HEVC之四分樹分割、根據JEM之QTBT分割、MTT或其他分割結構。
本發明可能可互換地使用「N×N」及「N乘N」以指區塊(諸如CU或其他視訊區塊)在豎直及水平尺寸方面之樣本尺寸，例如16×16樣本或16乘16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y = 16)且在水平方向上將具有16個樣本(x = 16)。同樣地，N×N CU大體在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可按列及行來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包含N×M個樣本，其中M未必等於N。
視訊編碼器200編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將如何對CU進行預測以形成CU之預測區塊。殘餘資訊大體表示編碼前CU與預測區塊之樣本之間的逐樣本差。
為了預測CU，視訊編碼器200大體可經由框間預測或框內預測形成CU之預測區塊。框間預測大體係指自先前經寫碼圖像之資料預測CU，而框內預測大體係指自同一圖像之先前經寫碼資料預測CU。為了進行框間預測，視訊編碼器200可使用一或多個運動向量來產生預測區塊。視訊編碼器200大體可進行運動搜索以識別(例如在CU與參考區塊之間的差方面)緊密匹配CU之參考區塊。視訊編碼器200可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器200可使用單向預測或雙向預測來預測當前CU。
JEM及VVC亦提供仿射運動補償模式，其可被視為框間預測模式。在仿射運動補償模式中，視訊編碼器200可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或大於兩個運動向量。
為了進行框內預測，視訊編碼器200可選擇框內預測模式以產生預測區塊。JEM提供六十七種框內預測模式，包括各種定向模式以及planar模式及DC模式。大體而言，視訊編碼器200選擇描述與當前區塊(例如CU區塊)相鄰之樣本的框內預測模式，自該等樣本預測當前區塊之樣本。此類樣本可被稱作用於框內預測之「參考樣本」。用於框內預測之參考樣本大體在與當前區塊處於同一圖像中之當前區塊上方、上方及左方或左方，假定視訊編碼器200以光柵掃描次序(從左至右、從上至下)寫碼CTU及CU。在當前區塊上方之樣本的列中之參考樣本在本文中可被稱作上方參考樣本。在當前區塊左方之樣本的行中之參考樣本在本文中可被稱作左方參考樣本。
諸如視訊編碼器200或視訊解碼器300之視訊寫碼器可使用自複數個可用框內預測模式選擇之框內預測模式進行框內預測。框內預測模式可包括非定向框內預測模式及定向框內預測模式，其亦可被稱作框內預測方向。不同定向框內預測模式對應於不同角度。在一些實例中，為使用定向框內預測模式判定預測符區塊之當前樣本之值，視訊寫碼器可判定以對應於定向框內預測模式之角度穿過當前樣本之線與參考樣本集相交之點。參考樣本可包含緊靠預測符區塊左方的行中之樣本(左方參考樣本)及緊靠預測符區塊上方的列中之樣本(上方參考樣本)。若該點在參考樣本中之兩者之間，則視訊寫碼器可內插或以其他方式判定對應於該點的值。若該點僅對應於參考樣本中之一者，則視訊寫碼器可判定該點之值等於參考樣本。視訊寫碼器可將預測符區塊之當前樣本的值設定為等於該點的所判定值。
視訊編碼器200可編碼表示當前區塊之預測模式的資料。舉例而言，針對框間預測模式，視訊編碼器200可編碼表示使用各種可用框間預測模式中之哪一者以及對應模式之運動資訊的資料。舉例而言，針對單向或雙向框間預測，視訊編碼器200可使用進階運動向量預測(AMVP)或合併模式來編碼運動向量。視訊編碼器200可使用類似模式來編碼仿射運動補償模式之運動向量。
在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器200可計算該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊之使用對應預測模式所形成的預測區塊之間的逐樣本差。視訊編碼器200可將一或多個變換應用於殘餘區塊，以在變換域而非樣本域中產生經變換資料。舉例而言，視訊編碼器200可將離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換應用於殘餘視訊資料。另外，視訊編碼器200可在一級變換之後應用次級變換，諸如模式依賴不可分次級變換(MDNSST)、信號依賴變換、Karhunen-Loeve變換(KLT)或其類似者。視訊編碼器200在應用一或多個變換之後產生變換係數。
如上文所提及，在任何變換以產生變換係數後，視訊編碼器200可進行變換係數之量化。量化大體係指量化變換係數以可能地減少用以表示係數之資料量從而提供進一步壓縮的程序。藉由進行量化程序，視訊編碼器200可減少與係數中之一些或所有相關聯的位元深度。舉例而言，視訊編碼器200可在量化期間將n 位元值下捨入至m 位元值，其中n 大於m 。在一些實例中，為了進行量化，視訊編碼器200可進行待量化值之按位元右移位。
在量化之後，視訊編碼器200可掃描變換係數，從而自包括經量化變換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)係數置於向量前部，且將較低能量(且因此較高頻率)變換係數置於向量後部。在掃描經量化變換係數以形成一維向量之後，視訊編碼器200可例如根據上下文適應性二進位算術寫碼(CABAC)來熵編碼一維向量。視訊編碼器200亦可熵編碼描述與經編碼視訊資料相關聯的後設資料之語法元素之值，以供由視訊解碼器300用於解碼視訊資料。
視訊編碼器200可進一步(例如)在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中為視訊解碼器300產生語法資料，諸如基於區塊之語法資料、基於圖像之語法資料及基於序列之語法資料。視訊解碼器300可同樣地解碼此類語法資料以判定如何解碼對應視訊資料。
以此方式，視訊編碼器200可產生包括經編碼視訊資料(例如描述將圖像分割成區塊(例如CU)及區塊之預測及/或殘餘資訊之語法元素)之位元串流。最後，視訊解碼器300可接收位元串流並解碼經編碼視訊資料。
大體而言，視訊解碼器300進行與視訊編碼器200所進行之程序互逆的程序，以解碼位元串流之經編碼視訊資料。舉例而言，視訊解碼器300可使用CABAC以與視訊編碼器200之CABAC編碼程序實質上類似但互逆的方式解碼位元串流之語法元素的值。語法元素可定義圖像至CTU之分割資訊及每一CTU根據對應分割結構(諸如QTBT結構)之分割，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如CU)之預測及殘餘資訊。
殘餘資訊可由例如經量化變換係數表示。視訊解碼器300可反量化及反變換區塊之經量化變換係數，以再生區塊之殘餘區塊。視訊解碼器300使用傳信預測模式(框內或框間預測)及相關預測資訊(例如框間預測之運動資訊)以形成區塊之預測區塊。視訊解碼器300接著可(在逐樣本基礎上)使預測區塊與殘餘區塊組合以再生原始區塊。視訊解碼器300可進行額外處理，諸如進行解區塊程序以減少沿區塊邊界之視覺假影。
如上文所提及，為使360度視訊適應視訊編解碼器中之編碼，可根據立方圖投影(CMP)或立方圖投影之衍生物將360度視訊之圖像投影至2維「投影」域中。將立方圖投影(及其衍生物)中之區封裝成2維配置，諸如如在圖2A、2B及2C中說明之2x3或3x4表示。
具體而言，圖2A說明展示立方圖投影中之區之間的關係的實例3維立方體。舉例而言，在圖2A中，「前」區以對角線交叉圖案展示，「右」區以小點圖案展示，「左」區以豎直線圖案展示，「底部」區以密集點圖案展示，「後」區以水平/豎直交叉圖案展示，且「頂部」區以對角線圖案展示。
如圖2B之實例中所展示，可根據封裝配置來配置區，使得「左」、「前」及「右」區形成圖像之上半部且「底部」、「後」及「頂部」區形成圖像之下半部。在圖2B之實例中，「底部」、「後」及「頂部」區之文字豎直地書寫以指示「底部」、「後」及「頂部」區中之樣本係根據自樣本經掃描至「左」、「前」及「右」區中之次序去除90度之次序經掃描至此等區中。舉例而言，「右」區可對應於使用者將其頭部轉向右方時觀看者將具有的視圖。在此實例中，當觀看者將其頭部轉向右方時，對應於觀看者之視場左上方的樣本可經掃描至「右」區之左上方中且對應於觀看者之視場右上方的樣本可經掃描至「右」區之右上方中。在此實例中，「頂部」區可對應於使用者向上轉動其頭部時觀看者將具有的視圖。在此實例中，當觀看者向上轉動其頭部時，對應於觀看者之視場左上方的樣本可經掃描至「頂部」區之右上角中且對應於觀看者之視場右上方的樣本可經掃描至「頂部」區之右下角中。圖2C說明另一實例封裝配置。
此類封裝配置打破面之間的圖像連續性，從而可能阻礙使用基於使用空間相鄰樣本(例如頂部、左方及/或右方樣本)作為參考來起作用的框內預測方法最優地進行。舉例而言，在圖2B之實例中，「底部」區之沿與「左」區之邊界的樣本在空間上在投影域中彼此鄰近但不在原始球面域中鄰近。由此，使用「左」區之樣本作為參考樣本以供「底部」區之沿「底部」區與「左」區之間的邊界之區塊之框內預測的益處將極小。
圖3說明具有CMP投影之360°視訊之實例緊湊表示。更具體而言，圖3說明具有CMP投影之圖框之2x3封裝配置之實例。此類配置為如由圖2B所說明之2x3封裝配置之實例。由此，圖3的圖框之上半部之左方第三者為「左」區且圖3的圖框之下半部之左方第三者為「底部」區。如圖3中所展示，在圖框之上半部與圖框之下半部之間存在不連續性。此種不連續性將影響框內預測之效能，尤其影響圖框之下半部之第一列寫碼區塊。相反，圖框之上半部內之鄰近區中之區塊之間及圖框之下半部內之鄰近區中之區塊之間存在更小的不連續性。由此，在圖框之上半部中之區之間的邊界及圖框之下半部中之區之間的邊界上進行框內預測仍可為有利的。
基於使用空間相鄰樣本作為參考來起作用的框內預測方法無法最優地進行，此係因為至少兩個問題。首先，位於第一面之邊界處之區塊的校正參考樣本可能在未在空間上與第一面相鄰之第二面中。舉例而言，位於圖2B中之底、後及頂面之頂部邊界處之區塊的參考樣本並非鄰近於彼等區塊之樣本。其次，針對360度視訊，大體不可供用於非360度視訊之框內預測之用途之利用的參考樣本可能可供用於在360度視訊中之框內預測之利用。舉例而言，在圖2B中之「底部」面之左方邊界處之區塊的左方參考樣本可獲自「前」面之底部，在圖2C中之「右」面之頂部邊界處之區塊的頂部參考樣本可獲自「頂部」面之右部。此等參考樣本可用性僅應用於360°視訊且未在當前框內預測方法中採用。
本發明描述可解決此等問題且可藉此改良360度視訊之寫碼效率的技術。此章節中所揭示之以下技術可獨立及/或彼此組合應用以改良360度視訊處理中之框內預測之效能。
根據本發明之技術，視訊寫碼器(例如視訊編碼器200或視訊解碼器300)可基於當前區塊之定位及投影區之封裝結構來判定針對具有CMP投影及其衍生投影(例如經調整立方圖投影(ACP)及赤道圓柱投影(ECP))之360°視訊的框內預測之參考樣本。可基於在空間上與在球面域中而非在投影域中之區B相鄰之區A來選擇鄰近於其中存在不連續性的區B之區A之邊界處的參考區塊。以此方式，視訊寫碼器可以可消除不連續性之方式自區塊選擇參考樣本。
圖4A及圖4B說明位於2x3封裝配置中之「底部」面之邊界處的當前區塊之上方參考樣本。亦即，圖4A及4B說明在先前框內預測程序中使用之參考樣本、在本發明之框內預測程序中使用之參考樣本及剖析及寫碼參考樣本之方向。根據本發明之技術所判定之參考樣本可能不與當前區塊中之樣本在同一方向上。如圖4A之實例中所展示，底面中之當前區塊(其自左至右經剖析及寫碼)之所提出之頂部參考樣本位於「右」面之底部列處且在自左至右方向上經剖析及寫碼。如圖4B之實例中所展示，「後」面中之當前區塊(其自左至右經剖析及寫碼)之所提出之頂部參考樣本位於「右」面之最右區域處且在自下至上方向上經剖析及寫碼。
針對2x3封裝配置(諸如圖2B、圖3、圖4A及圖4B中所展示之2x3封裝配置)，視訊寫碼器可將本發明之所提出之參考樣本選擇方案應用於如下區塊：
-圖框之下半部中之第一列區塊。
-圖框之左下區中之最左區塊。
針對3x4封裝配置(諸如圖2C中所展示之3x4封裝配置)，視訊寫碼器可將本發明之所提出之參考樣本選擇應用於如下區塊：
-圖框之第二列面中之第一列區塊，其中其頂部空間相鄰者不可用。
-圖框之左下區中之最左區塊。
圖5A及圖5B說明實例區域，其中區塊之參考樣本選擇使用本發明之所提出之技術。換言之，圖5A及圖5B說明區塊之區域，其中根據本發明之技術來應用所提出之參考樣本選擇。具體而言，在圖5A之實例中，箭頭500指示本發明之所提出之參考樣本選擇方案可應用於圖框502之下半部中之第一列區塊。箭頭504指示本發明之所提出之參考樣本選擇方案可應用於圖框502之左下區中之最左區塊。在圖5B之實例中，箭頭510指示本發明之所提出之參考樣本選擇方案可應用於圖框512之第二列面(區)中之第一列區塊(其中其頂部空間相鄰者不可用)。箭頭514指示本發明之所提出之參考樣本選擇方案可應用於圖框512之左下區中之最左區塊。
所提出之參考樣本選擇取決於投影之封裝配置。圖6A至6F說明針對可能之封裝配置的非窮盡性參考樣本選擇。換言之，圖6A至6F說明針對不同類型之封裝配置的參考樣本選擇。在圖6A至6F中，對應的線虛線式樣指示對應的邊緣。舉例而言，在圖6A之實例中，沿「頂部」區之頂部列之區塊的上方參考樣本自右至左沿「左」區之頂部列經掃描；沿「頂部」區之左方行之區塊的左方參考樣本自左至右沿「前」區之頂部列經掃描；沿「後」區之頂部列之區塊的上方參考樣本自上至下沿「左」區之左方行經掃描；且沿「底部」區之頂部列之區塊的上方參考樣本自左至右沿「左」區之底部列經掃描。解釋箭頭之類似方式相對於圖6B至6F而應用。
上文相對於圖4A、4B、5A、5B及6A至6F提供之實例揭示位於投影面之邊界處的區塊之參考樣本定位之選擇。然而，投影面內之失真不均勻。因此，給出參考樣本定位，實際參考樣本值可藉由基於幾何形狀之方法進一步優化。
在一個實例中，視訊寫碼器(例如視訊編碼器200或視訊解碼器300)可進行參考樣本複製方法，其中視訊寫碼器藉由自如上文相對於圖4A至9D之實例所描述之定位複製值來判定參考樣本之值。
圖7說明根據本發明之技術之實例參考樣本複製方法。在圖7之實例中，圖像700之「頂部」區包括「頂部」區中之區塊之頂部列中之當前區塊702。當前區塊702之頂部列包括樣本C1至C4。此外，如相對於圖6A所描述，針對「頂部」區之頂部列中之區塊選擇之上方參考樣本自右至左沿圖像700之「左」區中之樣本之頂部列經掃描。在圖7之實例中，將參考樣本標記為R0至R8。
使用參考樣本複製方法之一個優勢為該參考樣本複製方法可允許傳統上不可用於某些區塊之參考樣本變成可用的。可受益於此之區塊之兩個定位為在圖8A及圖8B中說明之區塊。圖框之下半部中之最右區塊的參考樣本中之一些大體並不可用。然而，使用本發明之技術，彼等參考樣本可用且存在可使用之兩個候選集，如在圖8A及圖8B中所說明。換言之，圖8A及圖8B說明最右邊界處之區塊的參考樣本。
圖8A說明根據本發明之技術之實例參考樣本複製方法。在圖8A之實例中，圖像800之「底部」區包括「底部」區中之區塊之頂部列及右方行中之當前區塊802。當前區塊802之頂部列包括樣本C1至C4。此外，如相對於圖6A所描述，針對「底部」區之頂部列中之區塊選擇之上方參考樣本自左至右沿圖像800之「左」區中之樣本之底部列經掃描，且可延續至圖像800之「前」區中之樣本之底部列中。在圖8A之實例中，將參考樣本標記為R0至R8。
圖8B說明根據本發明之技術之實例參考樣本複製方法。在圖8A之實例中，圖像810之「底部」區包括「底部」區中之區塊之頂部列及右方行中之當前區塊812。當前區塊812之頂部列包括樣本C1至C4。此外，如相對於圖6A所描述，針對「底部」區之頂部列中之區塊選擇之上方參考樣本自左至右沿圖像810之「左」區中之樣本之底部列經掃描，且可延續至圖像810之「左」區中之樣本之最右行中。在圖8B之實例中，將參考樣本標記為R0至R8。
同樣地，圖框之下半部中之最左下區塊的參考樣本中之一些大體並不可用。然而，使用所提出之技術，彼等參考樣本可用且存在可使用之兩個候選集，如在圖9A至9D中所說明。換言之，圖9A至9D說明圖像之最左下邊界處之區塊的參考樣本。
舉例而言，在圖9A之實例中，圖像900之「頂部」區包括「頂部」區中之區塊之底部列及左方行中之當前區塊902。當前區塊902之左方行列包括樣本C1至C4。此外，如相對於圖6A所描述，針對「頂部」區之左方行中之區塊選擇之左方參考樣本自左至右沿圖像900之「前」區中之樣本之頂部列經掃描，且可延續至圖像900之「右」區中之樣本之頂部列中。在圖9A之實例中，將參考樣本標記為R0至R8。
在圖9B之實例中，圖像910之「頂部」區包括「頂部」區中之區塊之底部列及左方行中之當前區塊912。當前區塊912之左方行列包括樣本C1至C4。此外，如相對於圖6D所描述，針對「頂部」區之左方行中之區塊選擇之左方參考樣本自左至右沿圖像910之「前」區中之樣本之底部列經掃描，且可延續至圖像910之「右」區中之樣本之底部列中。在圖9B之實例中，將參考樣本標記為R0至R8。
在圖9C之實例中，圖像920之「頂部」區包括「頂部」區中之區塊之底部列及左方行中之當前區塊922。當前區塊922之左方行列包括樣本C1至C4。此外，如相對於圖6A所描述，針對「頂部」區之左方行中之區塊選擇之左方參考樣本自左至右沿圖像900之「前」區中之樣本之頂部列經掃描，且可沿圖像920之「前」區中之樣本之最右行向下延續。在圖9C之實例中，將參考樣本標記為R0至R8。
在圖9D之實例中，圖像930之「頂部」區包括「頂部」區中之區塊之底部列及左方行中之當前區塊932。當前區塊932之左方行列包括樣本C1至C4。此外，如相對於圖6D所描述，針對「頂部」區之左方行中之區塊選擇之左方參考樣本自左至右沿圖像930之「前」區中之樣本之底部列經掃描，且可沿圖像930之「前」區中之樣本之最右行向上延續。在圖9D之實例中，將參考樣本標記為R0至R8。
視訊寫碼器(例如視訊編碼器200或視訊解碼器300)判定參考樣本之值的第二種方式為藉由考慮面/區中之參考樣本之定位基於幾何計算來推導值。針對幾何推導，視訊寫碼器可判定如在本發明中之他處(例如相對於圖4A至9D)所描述之參考樣本定位以判定球面上之相關聯定位。一旦視訊寫碼器定位球面上之定位，則視訊寫碼器接著可將該定位投影回至投影圖像且視訊寫碼器可使用投影圖像之樣本值作為最終參考樣本。
在一些實例中，視訊寫碼器可使用以下等式及表格以在圖像內之2D座標與球面上之3D座標之間變換。舉例而言，區中之任一者之尺寸可標示為A ×A 。針對2D至3D座標變換，給出給出區r中之位置(m,n)及圖2B之封裝配置，視訊寫碼器可將(u,v)判定為：
視訊寫碼器可使用給出位置(u,v)及面索引r的下表來推導3D座標(X,Y,Z)。
針對自3D座標至2D座標之變換，根據下表計算給出之(X,Y,Z)、(u,v)及區索引r。視訊寫碼器接著可判定對等式(1)及(2)求解之區上的(m,n)。
圖10說明根據本發明之技術之針對參考樣本的實例幾何推導程序。在圖10之實例中，圖像1000包括當前區塊1002。當前區塊1002在圖10中被標記為「C1」。當前區塊1002在圖像1000之「頂部」區中之區塊之頂部列中。與圖6A之實例一致，視訊寫碼器可判定當前區塊之上方參考樣本1004在圖像1000之「左」區之樣本之頂部列中。參考樣本1004亦在圖10中被標記為「R1」。此係展示於圖10之上部部分中。
此外，在圖10之實例中，視訊寫碼器可判定參考樣本1004在球面1008上之位置1006，如由箭頭1010所展示。圖10亦展示當前區塊1002在球面1008上之位置1012。視訊寫碼器接著可將參考樣本1004之位置1006投影回至圖像1000上，如由箭頭1014所展示。當視訊寫碼器將位置1006投影回至圖像1000上時，參考樣本(R1)在圖像1000中之位置1016處。注意，位置1016不同於參考樣本1004之原始位置。視訊寫碼器可使用位置1016處之樣本作為當前區塊1002之上方參考樣本。
相較於簡單複製方法，幾何推導方法(諸如相對於圖10之實例所描述之彼等幾何推導方法)可使得視訊寫碼器能夠判定更佳的參考樣本值。然而，幾何推導方法可具有以下不足之處：所推導出的參考樣本位置可能在尚不可用之區域(例如尚未經解碼之區域)中。為了處置此類情況，本發明提出組合該等兩種方法以使得使用幾何推導方法，然而當參考樣本之最終位置在不可用區域中時，使用來自複製方法的參考樣本。
圖11為說明根據本發明之技術的用於判定參考樣本之方法的流程圖。圖11之流程圖為組合幾何推導方法及複製方法之方法的一個實例。
特定而言，在圖11之實例中，視訊寫碼器(例如視訊編碼器200或視訊解碼器300)可判定當前區塊之定位(1100)。舉例而言，視訊寫碼器可判定當前區塊之拐角的x 及y 座標。另外，視訊寫碼器可判定當前區塊是否位於可應用的邊界處(1102)。舉例而言，在2x3封裝配置(諸如圖2B、圖3、圖4A及圖4B中所展示之2x3封裝配置)中，若當前區塊在當前圖像之下半部中之區塊之頂部列中或若當前區塊在當前圖像之左下區中之區塊之最左行中，則當前區塊可能在可應用的邊界處。在3x4封裝配置(諸如圖2C中所展示之3x4封裝配置)中，若當前區塊在當前圖像之第二列面中之第一列區塊(其中其頂部空間相鄰者不可用)中或若當前區塊在當前圖像之左下區中之區塊之最左行中，則當前區塊可能在可應用的邊界處。
回應於判定當前區塊不在可應用的邊界處(1102之「否」分支)，視訊寫碼器可自當前區塊之空間相鄰樣本複製樣本值(1104)。舉例而言，視訊寫碼器可使用當前區塊上方之一列樣本中之樣本的值(若可用)作為當前區塊之上方參考樣本。另外，在此實例中，視訊寫碼器可使用當前區塊左方之一行樣本中之樣本的值(若可用)作為當前區塊之左方參考樣本。若空間相鄰樣本中之一或多者不可用，則視訊寫碼器可根據此項技術中已知的各種技術(諸如填補、外插及內插)來判定不可用空間相鄰樣本之值。判定參考樣本之程序接著可結束。
然而，回應於判定當前區塊在可應用的邊界處(1102之「是」分支)，視訊寫碼器可應用幾何推導方法以尋找參考樣本(1106)。應用幾何推導方法來尋找參考樣本之實例在本發明中之他處(例如相對於圖10)經描述。
此外，在圖11之實例中，視訊寫碼器可判定藉由幾何推導方法找到的參考樣本是否位於可用區域中(1108)。舉例而言，在一個實例中，若參考樣本在當前區塊之正右方、當前區塊下方、當前區塊之下方及右方、圖像邊界外部、圖塊邊界外部或另一類型之邊界外部的定位處，則視訊寫碼器可判定參考樣本不可用。
回應於判定藉由幾何推導方法找到的參考樣本不在可用區域中(1108之「否」分支)，視訊寫碼器可在無幾何投影之情況下複製最初所判定之參考樣本的值(例如如相對於圖4A至6D所描述)(1112)。視訊寫碼器接著可結束判定參考樣本之值的程序。另一方面，回應於判定藉由幾何推導方法找到的參考樣本在可用區域中(1108之「是」分支)，視訊寫碼器可使用來自藉由幾何推導方法所判定之最終定位的樣本值(例如如相對於圖10所描述)(1112)。視訊寫碼器接著可結束判定參考樣本之值的程序。
圖12為說明可進行本發明之技術的實例視訊編碼器200的方塊圖。出於解釋之目的而提供圖12，且不應將該圖視為對如本發明中廣泛例示及描述之技術的限制。出於解釋之目的，本發明在諸如HEVC視訊寫碼標準及研發中之H.266視訊寫碼標準的視訊寫碼標準之情況下描述視訊編碼器200。然而，本發明之技術不限於此等視訊寫碼標準，且大體可適用於視訊編碼及解碼。
在圖12之實例中，視訊編碼器200包括視訊資料記憶體1230、模式選擇單元1202、殘餘產生單元1204、變換處理單元1206、量化單元1208、反量化單元1210、反變換處理單元1212、重建構單元1214、濾波器單元1216、經解碼圖像緩衝器(DPB) 1218及熵編碼單元1220。
視訊資料記憶體1230可儲存待由視訊編碼器200之組件編碼的視訊資料。視訊編碼器200可自(例如)視訊源104 (圖1)接收儲存於視訊資料記憶體1230中之視訊資料。DPB 1218可充當參考圖像記憶體，其儲存參考視訊資料以供用於藉由視訊編碼器200預測後續視訊資料。視訊資料記憶體1230及DPB 1218可由諸如動態隨機存取記憶體(DRAM)(包括同步DRAM (SDRAM))、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體器件的各種記憶體器件中之任一者形成。視訊資料記憶體1230及DPB 1218可由同一記憶體器件或獨立記憶體器件提供。在各種實例中，視訊資料記憶體1230可與視訊編碼器200之其他組件一起在晶片上，如所說明，或關於彼等組件在晶片外。
在本發明中，對視訊資料記憶體1230之參考不應解釋為將記憶體限於在視訊編碼器200內部(除非具體地如此描述)，或將記憶體限於在視訊編碼器200外部(除非具體地如此描述)。實情為，對視訊資料記憶體1230之參考應理解為儲存視訊編碼器200所接收以用於編碼的視訊資料(例如，待編碼的當前區塊之視訊資料)的參考記憶體。圖1之記憶體106亦可提供對來自視訊編碼器200之各種單元的輸出的暫時儲存。
圖13之各種單元經說明以輔助理解藉由視訊編碼器200進行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。固定功能電路指提供特定功能性且預設定可進行之操作的電路。可程式化電路指可經程式化以進行各種任務並在可進行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可執行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路進行的操作之類型大體係不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊編碼器200可包括由可程式化電路形成的算術邏輯單元(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式化核心。在視訊編碼器200之操作係使用由可程式化電路執行之軟體進行的實例中，記憶體106 (圖1)可儲存視訊編碼器200接收並執行的軟體之目標程式碼，或視訊編碼器200內之另一記憶體(未展示)可儲存此類指令。
視訊資料記憶體1230經組態以儲存所接收視訊資料。視訊編碼器200可自視訊資料記憶體1230擷取視訊資料之圖像，並將視訊資料提供至殘餘產生單元1204及模式選擇單元1202。視訊資料記憶體1230中之視訊資料可為待編碼之原始視訊資料。
模式選擇單元1202包括運動估計單元1222、運動補償單元1224及框內預測單元1226。模式選擇單元1202可包括額外功能單元以根據其他預測模式進行視訊預測。作為實例，模式選擇單元1202可包括調色板單元、區塊內複製單元(其可為運動估計單元1222及/或運動補償單元1224之部分)、仿射單元、線性模型(LM)單元或其類似者。
模式選擇單元1202大體協調多個編碼遍次，以測試編碼參數之組合，及用於此類組合之所得速率失真值。編碼參數可包括CTU至CU之分割、用於CU之預測模式、用於CU之殘餘資料的變換類型、用於CU之殘餘資料的量化參數等。模式選擇單元1202可最終選擇相比其他所測試組合具有更佳速率失真值的編碼參數之組合。
視訊編碼器200可將自視訊資料記憶體1230擷取之圖像分割成一系列CTU，並將一或多個CTU囊封於圖塊內。模式選擇單元210可根據樹狀結構分割圖像之CTU，諸如上文所描述之HEVC的QTBT結構或四分樹結構。如上文所描述，視訊編碼器200可用根據樹狀結構分割CTU來形成一或多個CU。此CU大體亦可被稱作「視訊區塊」或「區塊」。
大體而言，模式選擇單元1202亦控制其組件(例如運動估計單元1222、運動補償單元1224及框內預測單元1226)以產生當前區塊(例如，當前CU或HEVC中之PU及TU的重疊部分)之預測區塊。針對當前區塊之框間預測，運動估計單元1222可進行運動搜索以識別一或多個參考圖像(例如，儲存於DPB 1218中之一或多個先前經寫碼圖像)中之一或多個緊密匹配參考區塊。詳言之，運動估計單元1222可(例如)根據絕對差總和(SAD)、平方差總和(SSD)、平均值絕對差(MAD)、均方差(MSD)或其類似者來計算表示潛在參考區塊與當前區塊類似程度的值。運動估計單元1222可大體使用當前區塊與所考慮之參考區塊之間的逐樣本差來進行此等計算。運動估計單元1222可識別具有由此等計算產生之最低值的參考區塊，從而指示最緊密匹配當前區塊之參考區塊。
運動估計單元1222可形成一或多個運動向量(MV)，其關於當前圖像中之當前區塊的位置定義參考圖像中之參考區塊的位置。運動估計單元1222接著可將運動向量提供至運動補償單元1224。舉例而言，對於單向框間預測，運動估計單元1222可提供單個運動向量，而對於雙向框間預測，運動估計單元1222可提供兩個運動向量。運動補償單元1224接著可使用運動向量產生預測區塊。舉例而言，運動補償單元1224可使用運動向量擷取參考區塊之資料。作為另一實例，若運動向量具有分數樣本精確度，則運動補償單元1224可根據一或多個內插濾波器為預測區塊內插值。此外，對於雙向框間預測，運動補償單元1224可擷取用於藉由各別運動向量識別之兩個參考區塊的資料，並(例如)經由逐樣本求平均值或經加權求平均值來組合所擷取之資料。
作為另一實例，對於框內預測，或框內預測寫碼，框內預測單元1226可自與當前區塊相鄰之樣本產生預測區塊。舉例而言，對於定向模式，框內預測單元1226可在數學上大體組合相鄰樣本之值，且在橫跨當前區塊之所定義方向上填入此等計算值以產生預測區塊。作為另一實例，對於DC模式，框內預測單元1226可計算至當前區塊之相鄰樣本的平均值，並產生預測區塊以針對預測區塊之每一樣本包括此所得平均值。
模式選擇單元1202將預測區塊提供至殘餘產生單元1204。殘餘產生單元1204接收來自視訊資料記憶體1230之當前區塊及來自模式選擇單元1202之預測區塊的原始未經編碼型式。殘餘產生單元1204計算當前區塊與預測區塊之間的逐樣本差。所得逐樣本差定義用於當前區塊之殘餘區塊。在一些實例中，殘餘產生單元1204亦可判定殘餘區塊中之樣本值之間的差，以使用殘餘差分脈碼調變(RDPCM)產生殘餘區塊。在一些實例中，可使用進行二進位減法之一或多個減法器電路形成殘餘產生單元1204。
在模式選擇單元1202將CU分割成PU之實例中，每一PU可與明度預測單元及對應色度預測單元相關聯。視訊編碼器200及視訊解碼器300可支援具有各種大小之PU。如上文所指示，CU之大小可指CU之明度寫碼區塊的大小，且PU之大小可指PU之明度預測單元的大小。假定特定CU之大小為2N×2N，則視訊編碼器200可支援用於框內預測的2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器200及視訊解碼器300亦可支援用於框間預測的2N×nU、2N×nD、nL×2N及nR×2N之PU大小的不對稱分割。
在模式選擇單元未將CU進一步分割為PU的實例中，每一CU可與明度寫碼區塊及對應色度寫碼區塊相關聯。如上，CU之大小可指CU之明度寫碼區塊的大小。視訊編碼器200及視訊解碼器300可支援2N×2N、2N×N或N×2N之CU大小。
對於諸如區塊內複製模式寫碼、仿射模式寫碼及線性模型(LM)模式寫碼之其他視訊寫碼技術，如少數實例，模式選擇單元1202經由與寫碼技術相關聯之各別單元產生用於正編碼之當前區塊的預測區塊。在諸如調色板模式寫碼的一些實例中，模式選擇單元1202可能不會產生預測區塊，而是產生指示基於所選擇調色板重建構區塊之方式的語法元素。在此類模式中，模式選擇單元1202可將此等語法元素提供至熵編碼單元1220以待編碼。
如上文所描述，殘餘產生單元1204接收用於當前區塊及對應預測區塊之視訊資料。殘餘產生單元1204接著產生用於當前區塊之殘餘區塊。為產生殘餘區塊，殘餘產生單元1204計算預測區塊與當前區塊之間的逐樣本差。
變換處理單元1206將一或多個變換應用於殘餘區塊以產生變換係數之區塊(在本文中被稱作「變換係數區塊」)。變換處理單元1206可將各種變換應用於殘餘區塊以形成變換係數區塊。舉例而言，變換處理單元1206可將離散餘弦變換(DCT)、定向變換、Karhunen-Loeve變換(KLT)或概念上類似之變換應用於殘餘區塊。在一些實例中，變換處理單元1206可對殘餘區塊進行多個變換，例如初級變換及次級變換，諸如旋轉變換。在一些實例中，變換處理單元1206不將變換應用於殘餘區塊。
量化單元216可量化變換係數區塊中之變換係數，以產生經量化變換係數區塊。量化單元216可根據與當前區塊相關聯之量化參數(QP)值量化變換係數區塊之變換係數。視訊編碼器200(例如經由模式選擇單元1202)可藉由調節與CU相關聯之QP值來調節應用於與當前區塊相關聯之係數區塊的量化程度。量化可引入資訊之損耗，且因此，經量化變換係數可相比由變換處理單元1206產生之原始變換係數而具有較低精確度。
反量化單元1210及反變換處理單元1212可將反量化及反變換分別應用於經量化變換係數區塊，以用變換係數區塊重建構殘餘區塊。重建構單元1214可基於經重建構殘餘區塊及藉由模式選擇單元1202產生之預測區塊，產生對應於當前區塊之經重建構區塊(儘管可能具有一些程度的失真)。舉例而言，重建構單元1214可將經重建構殘餘區塊之樣本添加至來自由模式選擇單元1202產生之預測區塊的對應樣本，以產生經重建構區塊。
濾波器單元1216可對經重建區塊進行一或多個濾波操作。舉例而言，濾波器單元1216可進行解區塊操作以沿CU之邊緣減少區塊效應偽影。在一些實例中，可跳過濾波器單元1216之操作。
視訊編碼器200將經重建構區塊儲存於DPB 1218中。舉例而言，在不需要濾波器單元224之操作的實例中，重建構單元1214可將經重建構區塊儲存至DPB 1218。在需要濾波器單元224之操作的實例中，濾波器單元1216可將經濾波經重建構區塊儲存至DPB 1218。運動估計單元1222及運動補償單元1224可自DPB 1218擷取由經重建構(及可能經濾波)區塊形成之參考圖像，以對隨後經編碼圖像之區塊進行框間預測。另外，框內預測單元1226可使用當前圖像之DPB 1218中的經重建構區塊，以對當前圖像中之其他區塊進行框內預測。
大體而言，熵編碼單元1220可熵編碼自視訊編碼器200之其他功能組件所接收之語法元素。舉例而言，熵編碼單元1220可熵編碼來自量化單元1208之經量化變換係數區塊。作為另一實例，熵編碼單元1220可熵編碼來自模式選擇單元1202之預測語法元素(例如用於框間預測之運動資訊或用於框內預測之框內模式資訊)。熵編碼單元1220可對語法元素(其為視訊資料之另一實例)進行一或多個熵編碼操作以產生經熵編碼資料。舉例而言，熵編碼單元1220可對資料進行上下文自適應性可變長度寫碼(CAVLC)操作、CABAC操作、可變至可變(V2V)長度寫碼操作、基於語法的上下文自適應性二進位算術寫碼(SBAC)操作、機率區間分割熵(PIPE)寫碼操作、指數-哥倫布編碼操作或另一類型之熵編碼操作。在一些實例中，熵編碼單元1220可在旁路模式中操作，其中語法元素未經熵編碼。
視訊編碼器200可輸出位元串流，其包括重建構圖塊或圖像之區塊所需的經熵編碼語法元素。詳言之，熵編碼單元1220可輸出該位元串流。
上文所描述之操作相對於區塊進行描述。此描述應理解為用於明度寫碼區塊及/或色度寫碼區塊的操作。如上文所描述，在一些實例中，明度寫碼區塊及色度寫碼區塊為CU之明度及色度分量。在一些實例中，明度寫碼區塊及色度寫碼區塊為PU之明度及色度分量。
在一些實例中，無需針對色度寫碼區塊重複相對於明度寫碼區塊進行之操作。作為一個實例，無需重複識別明度寫碼區塊之運動向量(MV)及參考圖像的操作用於識別色度區塊之MV及參考圖像。實情為，明度寫碼區塊之MV可經按比例縮放以判定色度區塊之MV，且參考圖像可為相同的。作為另一實例，框內預測程序可針對明度寫碼區塊及色度寫碼區塊係相同的。
視訊編碼器200表示經組態以編碼視訊資料之器件的實例，該器件包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以基於當前圖像之當前區塊的定位來判定參考樣本。在此實例中，當前圖像包括複數個區，該複數個區中之每一各別區為由360度視訊資料之投影定義的面。投影可為立方圖投影(CMP)或CMP之衍生投影。該等區根據封裝配置而配置於當前圖像中。此外，在此實例中，視訊編碼器200之框內預測單元1226可基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊之預測區塊。
圖13為說明可進行本發明之技術的實例視訊解碼器300的方塊圖。出於解釋之目的而提供圖13，且其並不限制如本發明中所廣泛例示及描述之技術。出於解釋之目的，本發明描述視訊解碼器300係根據JEM、VVC及HEVC之技術來描述的。然而，本發明之技術可由經組態為其他視訊寫碼標準的視訊寫碼器件進行。
在圖13之實例中，視訊解碼器300包括經寫碼圖像緩衝器(CPB)記憶體1320、熵解碼單元1302、預測處理單元1304、反量化單元1306、反變換處理單元1308、重建構單元1310、濾波器單元1312及經解碼圖像緩衝器(DPB) 1314。預測處理單元1304包括運動補償單元1316及框內預測單元1318。預測處理單元1304可包括根據其他預測模式進行預測的額外單元。作為實例，預測處理單元1304可包括調色板單元、區塊內複製單元(其可形成運動補償單元1316之部分)、仿射單元、線性模型(LM)單元或其類似者。在其他實例中，視訊解碼器300可包括較多、較少或不同功能組件。
CPB記憶體1320可儲存待由視訊解碼器300之組件解碼之視訊資料，諸如經編碼視訊位元串流。可(例如)自電腦可讀媒體110 (圖1)獲得儲存於CPB記憶體1320中之視訊資料。CPB記憶體1320可包括儲存來自經編碼視訊位元串流之經編碼視訊資料(例如，語法元素)的CPB。又，CPB記憶體1320可儲存除經寫碼圖像之語法元素之外的視訊資料，諸如表示來自視訊解碼器300之各種單元之輸出的臨時資料。DPB 1314大體儲存經解碼圖像，其中視訊解碼器300可在解碼經編碼視訊位元串流之後續資料或圖像時輸出該等經解碼圖像及/或將其用作參考視訊資料。CPB記憶體1320及DPB 1314可由諸如動態隨機存取記憶體(DRAM)(包括同步DRAM (SDRAM))、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體器件的各種記憶體器件中之任一者形成。CPB記憶體1320及DPB 1314可由同一記憶體器件或獨立記憶體器件提供。在各種實例中，CPB記憶體1320可與視訊解碼器300之其他組件一起在晶片上，或關於彼等組件在晶片外。
另外或替代地，在一些實例中，視訊解碼器300可自記憶體120 (圖1)擷取經寫碼視訊資料。亦即，記憶體120可用CPB記憶體1320儲存如上文所論述之資料。同樣，當視訊解碼器300之一些或所有功能性實施於軟體中以藉由視訊解碼器300之處理電路執行時，記憶體120可儲存待由視訊解碼器300執行之指令。
圖13中所展示之各種單元經說明以輔助理解由視訊解碼器300進行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。類似於圖12，固定功能電路指提供特定功能性，且在可進行之操作上預設定的電路。可程式化電路指可經程式化以進行各種任務並在可進行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可執行使得可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路進行的操作之類型大體係不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊解碼器300可包括ALU、EFU、數位電路、類比電路及/或由可程式化電路形成之可程式化核心。在由在可程式化電路上執行之軟體進行視訊解碼器300之操作的實例中，晶片上或晶片外記憶體可儲存視訊解碼器300接收及執行之軟體之指令(例如目標程式碼)。
熵解碼單元1302可自CPB接收經編碼視訊資料，並熵解碼視訊資料以再生語法元素。預測處理單元1304、反量化單元1306、反變換處理單元1308、重建構單元1310及濾波器單元1312可基於自位元串流提取的語法元素而產生經解碼視訊資料。
大體而言，視訊解碼器300在逐區塊基礎上重建構圖像。視訊解碼器300可單獨對每一區塊進行重建構操作(其中當前經重建構(亦即經解碼)之區塊可被稱作「當前區塊」)。
熵解碼單元1302可熵解碼定義經量化變換係數區塊之經量化變換係數的語法元素，以及變換資訊，諸如量化參數(QP)及/或變換模式指示。反量化單元1306可使用與經量化變換係數區塊相關聯之QP判定量化程度，且同樣判定反量化程度供反量化單元1306應用。反量化單元1306可(例如)進行按位元左移操作以將經量化變換係數反量化。反量化單元1306可從而形成包括變換係數之變換係數區塊。
在反量化單元1306形成變換係數區塊後，反變換處理單元1308可將一或多個反變換應用於變換係數區塊以產生與當前區塊相關聯之殘餘區塊。舉例而言，反變換處理單元1308可將反DCT、反整數變換、反Karhunen-Loeve變換(KLT)、反旋轉變換、反定向變換或另一反變換應用於係數區塊。
此外，預測處理單元1304根據藉由熵解碼單元1302熵解碼之預測資訊語法元素產生預測區塊。舉例而言，若預測資訊語法元素指示當前區塊經框間預測，則運動補償單元1316可產生預測區塊。在此情況下，預測資訊語法元素可指示DPB 1314中之參考圖像(自其擷取參考區塊)，以及運動向量，其識別參考圖像中之參考區塊關於當前圖像中之當前區塊之定位的定位。運動補償單元1316可大體上以實質上類似於相對於運動補償單元1224所描述之方式的方式進行框間預測程序(圖13)。
作為另一實例，若預測資訊語法元素指示當前區塊經框內預測，則框內預測單元1318可根據藉由預測資訊語法元素指示之框內預測模式產生預測區塊。又，框內預測單元1318可大體上以實質上類似於相對於框內預測單元1226所描述之方式的方式進行框內預測程序(圖12)。框內預測單元1318可將相鄰樣本之資料自DPB 1314擷取至當前區塊。
重建構單元1310可使用預測區塊及殘餘區塊重建構當前區塊。舉例而言，重建構單元1310可將殘餘區塊之樣本添加至預測區塊之對應樣本以重建構當前區塊。
濾波器單元1312可對經重建構區塊進行一或多個濾波操作。舉例而言，濾波器單元1312可進行解區塊操作以沿經重建構區塊之邊緣減少區塊效應偽影。濾波器單元1312之操作不一定在所有實例中進行。
視訊解碼器300可將經重建構區塊儲存於DPB 1314中。如上文所論述，DPB 1314可將參考資訊提供至預測處理單元1304，諸如用於框內預測之當前圖像及用於後續運動補償之經先前解碼圖像的樣本。此外，視訊解碼器300可輸出來自DPB之經解碼圖像用於後續呈現於顯示器件上，諸如圖1之顯示器件118。
以此方式，視訊解碼器300表示視訊解碼器件之實例，該視訊解碼器件包括：記憶體，其經組態以儲存視訊資料；及一或多個處理單元，其實施於電路中且經組態以基於當前圖像之當前區塊之定位來判定參考樣本。在此實例中，當前圖像包括複數個區，該複數個區中之每一各別區為由360度視訊資料之投影定義的面。投影可為立方圖投影(CMP)或CMP之衍生投影。該等區根據封裝配置而配置於當前圖像中。此外，在此實例中，視訊解碼器300之框內預測單元1318可基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊之預測區塊。
圖14為說明用於編碼當前區塊之實例方法的流程圖。當前區塊可包含當前CU。儘管相對於視訊編碼器200(圖1及圖12)加以描述，但應理解，其他器件可經組態以進行類似於圖14之方法的方法。
在此實例中，視訊編碼器200初始地預測當前區塊(1400)。舉例而言，視訊編碼器200可形成當前區塊之預測區塊。在一些實例中，視訊編碼器200使用框內預測以形成預測區塊。作為使用框內預測形成預測區塊之部分，視訊編碼器200可判定當前區塊之上方參考樣本及左方參考樣本。根據本發明之技術，上方及/或左方參考樣本可對應於立方圖投影中之上方及/或左方參考樣本，但不一定在投影域(例如在當前圖像中)中，諸如當封裝配置使得立方圖投影之相鄰面在投影域中彼此分開時。由此，視訊編碼器200可根據本發明之技術及實例中之任一者判定當前區塊之上方及左方參考樣本，例如如下文中相對於圖16更詳細地解釋。
視訊編碼器200接著可計算當前區塊之殘餘區塊(1402)。為了計算殘餘區塊，視訊編碼器200可計算當前區塊的原始未經編碼區塊與預測區塊之間的差。視訊編碼器200接著可變換並量化殘餘區塊之係數(1404)。接著，視訊編碼器200可掃描殘餘區塊之經量化變換係數(1406)。在掃描期間或在掃描之後，視訊編碼器200可熵編碼係數(1408)。舉例而言，視訊編碼器200可使用CAVLC或CABAC來編碼係數。視訊編碼器200接著可輸出區塊之經熵寫碼資料(1410)。
圖15為說明用於解碼視訊資料之當前區塊的實例方法的流程圖。當前區塊可包含當前CU。儘管相對於視訊解碼器300 (圖1及圖13)加以描述，但應理解，其他器件可經組態以進行類似於圖15之方法的方法。
視訊解碼器300可接收當前區塊之經熵寫碼資料，諸如經熵寫碼預測資訊及對應於當前區塊之殘餘區塊的係數之經熵寫碼資料(1500)。視訊解碼器300可熵解碼經熵寫碼資料，以判定當前區塊之預測資訊且再生殘餘區塊之係數(1502)。
視訊解碼器300可例如使用如由當前區塊之預測資訊所指示的框內或框間預測模式來預測當前區塊(1504)，以計算當前區塊之預測區塊。在一些實例中，視訊解碼器300使用框內預測以形成預測區塊。作為使用框內預測形成預測區塊之部分，視訊解碼器300可判定當前區塊之上方參考樣本及左方參考樣本。視訊解碼器300可根據本發明之技術及實例中之任一者判定當前區塊之上方及左方參考樣本。
視訊解碼器300可反掃描經再生之係數(1506)以產生經量化變換係數之區塊。視訊解碼器300接著可反量化及反變換係數以產生殘餘區塊(1508)。視訊解碼器300可最終藉由組合預測區塊及殘餘區塊來解碼當前區塊(1510)。
圖16為說明根據本發明之技術的用於寫碼360度視訊資料之實例操作的流程圖。圖16中之用於寫碼360度視訊資料的操作可為用以編碼360度視訊資料之程序或用以解碼360度視訊資料之程序的部分。圖16之實例操作可藉由視訊寫碼器(諸如視訊編碼器200或視訊解碼器300)進行。
在圖16之實例中，視訊寫碼器可基於360度視訊資料之當前圖像之當前區塊的定位及定義當前圖像中之複數個區之配置的封裝配置來判定參考樣本(1600)。在圖16之實例中，當前圖像處於投影域中。複數個區中之每一各別區為由360度視訊資料之投影定義之各別面。在圖16之實例中，投影為立方圖投影(CMP)或CMP之衍生投影。此外，該等區包括至少第一區及第二區，諸如「底部」區及「左」區。該等區根據封裝配置而配置於當前圖像中，諸如圖2A及圖2B中展示之彼等區。
基於當前區塊之定位在鄰近於第二區之第一區之邊界處且在邊界處存在因封裝配置所致之不連續性，視訊寫碼器可判定參考樣本為在空間上與在球面域中且不在投影域中之當前區塊相鄰之當前圖像之樣本。舉例而言，視訊寫碼器可根據圖4A-9D、圖10或圖11中之任一者中所描述之技術來判定參考樣本。
由此，在一些實例中，第一區之邊界可在投影域中鄰近於第二區之邊界且第一區之邊界未在球面域中鄰近於第二區之邊界。舉例而言，圖4A之實例，第一區(例如圖4A之「底部」區)之邊界在投影域中鄰近於第二區(例如圖4A之「左」區)之邊界且第一區之邊界未在球面域中鄰近於第二區之邊界。實情為，在一些此類實例中，第一區之邊界未在投影域中鄰近於複數個區中之第三區(例如圖4A之「右」區)之邊界且參考樣本為第三區中之樣本之複本。
在一個實例中，區塊(諸如圖8A之當前區塊802或圖8B之當前區塊812)為投影域中之當前圖像中之最右區塊且處於當前圖像之下半部中。在此實例中，在空間上與球面域中之區塊相鄰之參考樣本各自在當前圖像內。此外，在一些實例中，區塊(諸如圖9A之當前區塊902、圖9B之當前區塊912、圖9C之當前區塊922或圖9D之當前區塊932)為當前圖像中之最左下區塊，且在空間上與球面域中之區塊相鄰之參考樣本各自在當前圖像內。
根據一些實例，諸如圖10之實例，視訊寫碼器可(作為在圖16之動作1600中判定參考樣本之部分)基於參考樣本之定位來判定球面上之相關聯定位。視訊寫碼器接著可將相關聯定位投影回至當前圖像以判定投影定位。視訊寫碼器接著可使用投影定位來判定在空間上與球面域中之當前區塊相鄰之樣本。在其他實例中，視訊寫碼器可自在空間上與球面域中之當前區塊相鄰之樣本複製參考樣本。
根據一些實例，諸如圖11之實例，當當前區塊位於該等區中之一者之邊界(例如第一區之邊界)處時，視訊寫碼器可(作為在圖16之動作1600中判定參考樣本之部分)應用幾何推導以判定參考樣本定位。此外，視訊寫碼器可判定參考樣本之值。當參考樣本定位未處於任何可用區域中時，參考樣本為與球面域中之當前樣本相鄰的相鄰樣本之複本(例如使用相對於圖4A-9D所描述的)。然而，在此實例中，當參考樣本定位處於可用區域中時，視訊寫碼器可使用在所判定之參考樣本定位處的樣本作為參考樣本。若當前區塊不位於該等區中之任一者之邊界處時，視訊寫碼器可判定參考樣本之值作為在空間上與投影域中之當前區塊相鄰的樣本之複本。
此外，在圖16之實例中，視訊寫碼器可基於所判定之參考樣本中之一或多者使用框內預測來產生當前區塊之預測區塊(1602)。舉例而言，視訊寫碼器可使用利用參考樣本的定向或非定向框內預測模式，如在本發明中之他處所描述。在圖16之操作在視訊編碼之情況下進行的實例中，視訊寫碼器可基於預測區塊及當前區塊之樣本產生殘餘資料。在圖16之操作在視訊解碼之情況下進行的實例中，視訊寫碼器可基於預測區塊之樣本及殘餘樣本重建構當前區塊之樣本。
應認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同序列進行、可被添加、合併或完全省去(例如，並非所有所描述動作或事件為實踐該等技術所必要)。此外，在某些實例中，可(例如)經由多執行緒處理、中斷處理或多個處理器同時而非依序進行動作或事件。
在一或多個實例中，所描述功能可以硬體、軟體、韌體或其任何組合來實施。若以軟體實施，則該等功能可作為一或多個指令或程式碼而儲存於電腦可讀媒體上或經由電腦可讀媒體進行傳輸，且藉由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體(其對應於諸如資料儲存媒體之有形媒體)或通信媒體，該通信媒體包括(例如)根據通信協定促進電腦程式自一處傳送至另一處的任何媒體。以此方式，電腦可讀媒體大體可對應於(1)非暫時性之有形電腦可讀儲存媒體，或(2)諸如信號或載波之通信媒體。資料儲存媒體可為可藉由一或多個電腦或一或多個處理器存取以擷取指令、程式碼及/或資料結構以用於實施本發明所描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。
作為實例而非限制，此類電腦可讀儲存媒體可包含RAM、ROM、EEPROM、CD-ROM或其他光碟儲存器、磁碟儲存器或其他磁性儲存器件、快閃記憶體或可用以儲存呈指令或資料結構形式之所要程式碼且可由電腦存取的任何其他媒體。又，任何連接被適當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纜、雙絞線、數位用戶線(DSL)或無線技術(諸如紅外線、無線及微波)自網站、伺服器或其他遠端源傳輸指令，則同軸纜線、光纜、雙絞線、DSL或無線技術(諸如紅外線、無線及微波)包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而實情為關於非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位影音光碟(DVD)、軟碟及Blu-ray光碟，其中磁碟通常以磁性方式再生資料，而光碟藉由雷射以光學方式再生資料。以上之組合亦應包括於電腦可讀媒體之範疇內。
指令可由一或多個處理器執行，該一或多個處理器諸如一或多個數位信號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)或其他等效的整合或離散邏輯電路。因此，如本文所用之術語「處理器」可指前述結構或適用於實施本文中所描述之技術的任何其他結構中之任一者。另外，在一些實例中，本文所描述之功能性可提供於經組態以供編碼及解碼或併入於經組合編碼解碼器中之專用硬體及/或軟體模組內。此外，該等技術可完全實施於一或多個電路或邏輯元件中。
本發明之技術可實施於廣泛多種器件或裝置中，包括無線手持機、積體電路(IC)或一組IC(例如晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以進行所揭示技術之器件的功能態樣，但未必需要藉由不同硬體單元來實現。確切地說，如上文所描述，可將各種單元組合於編碼解碼器硬體單元中，或藉由互操作性硬體單元(包括如上文所描述之一或多個處理器)之集合結合合適之軟體及/或韌體來提供該等單元。
各種實例已予以描述。此等及其他實例在以下申請專利範圍之範疇內。
100‧‧‧視訊編碼及解碼系統
102‧‧‧源器件
104‧‧‧視訊源
106‧‧‧記憶體
108‧‧‧輸出介面
110‧‧‧電腦可讀媒體
112‧‧‧儲存器件
114‧‧‧檔案伺服器
116‧‧‧目的地器件
118‧‧‧顯示器件
120‧‧‧記憶體
122‧‧‧輸入介面
200‧‧‧視訊編碼器
300‧‧‧視訊解碼器
500‧‧‧箭頭
502‧‧‧圖框
504‧‧‧箭頭
510‧‧‧箭頭
512‧‧‧圖框
514‧‧‧箭頭
700‧‧‧圖像
702‧‧‧當前區塊
800‧‧‧圖像
802‧‧‧當前區塊
810‧‧‧圖像
812‧‧‧當前區塊
900‧‧‧圖像
902‧‧‧當前區塊
910‧‧‧圖像
912‧‧‧當前區塊
920‧‧‧圖像
922‧‧‧當前區塊
930‧‧‧圖像
932‧‧‧當前區塊
1000‧‧‧圖像
1002‧‧‧當前區塊
1004‧‧‧參考樣本
1006‧‧‧位置
1008‧‧‧球面
1010‧‧‧箭頭
1012‧‧‧位置
1014‧‧‧箭頭
1016‧‧‧位置
1100‧‧‧動作
1102‧‧‧動作
1104‧‧‧動作
1106‧‧‧動作
1108‧‧‧動作
1110‧‧‧動作
1112‧‧‧動作
1202‧‧‧模式選擇單元
1204‧‧‧殘餘產生單元
1206‧‧‧變換處理單元
1208‧‧‧量化單元
1210‧‧‧反量化單元
1212‧‧‧反變換處理單元
1214‧‧‧重建構單元
1216‧‧‧濾波器單元
1218‧‧‧經解碼圖像緩衝器
1220‧‧‧熵編碼單元
1222‧‧‧運動估計單元
1224‧‧‧運動補償單元
1226‧‧‧框內預測單元
1230‧‧‧視訊資料記憶體
1302‧‧‧熵解碼單元
1304‧‧‧預測處理單元
1306‧‧‧反量化單元
1308‧‧‧反變換處理單元
1310‧‧‧重建構單元
1312‧‧‧濾波器單元
1314‧‧‧經解碼圖像緩衝器
1316‧‧‧運動補償單元
1318‧‧‧框內預測單元
1320‧‧‧經寫碼圖像緩衝器記憶體
1400‧‧‧動作
1402‧‧‧動作
1404‧‧‧動作
1406‧‧‧動作
1408‧‧‧動作
1410‧‧‧動作
1500‧‧‧動作
1502‧‧‧動作
1504‧‧‧動作
1506‧‧‧動作
1508‧‧‧動作
1510‧‧‧動作
1600‧‧‧動作
1602‧‧‧動作
C1‧‧‧樣本
C2‧‧‧樣本
C3‧‧‧樣本
C4‧‧‧樣本
R0‧‧‧參考樣本
R1‧‧‧參考樣本
R2‧‧‧參考樣本
R3‧‧‧參考樣本
R4‧‧‧參考樣本
R5‧‧‧參考樣本
R6‧‧‧參考樣本
R7‧‧‧參考樣本
R8‧‧‧參考樣本
圖1為說明可進行本發明之技術的實例視訊編碼及解碼系統的方塊圖。
圖2A、2B及2C說明實例立方體及呈2維圖框之立方圖之實例表示。
圖3說明具有立方圖(CMP)投影之360度視訊之實例緊湊表示。
圖4A及4B說明在先前框內預測程序中使用之參考樣本、在本發明之框內預測程序中使用之參考樣本及剖析及寫碼參考樣本之方向。
圖5A及5B說明其中可根據本發明之技術來應用參考樣本選擇之區塊之實例區域。
圖6A至6F說明針對不同類型之封裝配置之參考樣本選擇。
圖7說明根據本發明之技術的實例參考樣本複製方法。
圖8A及8B說明最右邊界處之區塊的參考樣本。
圖9A至9D說明最左下邊界處之區塊的參考樣本。
圖10說明根據本發明之技術的針對參考樣本的實例幾何推導程序。
圖11為說明根據本發明之技術的用於判定參考樣本之實例方法的流程圖。
圖12為說明可進行本發明之技術的實例視訊編碼器的方塊圖。
圖13為說明可進行本發明之技術的實例視訊解碼器的方塊圖。
圖14為說明用於編碼當前區塊之實例方法的流程圖。
圖15為說明用於解碼視訊資料之當前區塊的實例方法的流程圖。
圖16為說明根據本發明之技術的用於寫碼360度視訊資料之實例操作的流程圖。

Claims (23)

  1. 一種寫碼360度視訊資料之方法，該方法包含： 基於該360度視訊資料之一當前圖像之一當前區塊的一定位及定義該當前圖像中之複數個區之一配置的一封裝配置來判定參考樣本，其中： 該當前圖像處於一投影域中， 該複數個區中之每一各別區為由360度視訊資料之一投影定義之一各別面，該投影為一立方圖投影(CMP)或該CMP之一衍生投影，該等區包括一第一區及一第二區， 該等區根據該封裝配置而配置於該當前圖像中， 基於該當前區塊之該定位在鄰近於該第二區之該第一區之一邊界處且在該邊界處存在因該封裝配置所致之一不連續性，該等參考樣本為在空間上與在一球面域中且不在該投影域中之該當前區塊相鄰之該當前圖像之樣本；及 基於所判定之參考樣本中之一或多者使用框內預測來產生該當前區塊的一預測區塊。
  2. 如請求項1之方法，其中寫碼包含編碼且該方法進一步包含基於該預測區塊及該當前區塊之樣本來產生殘餘資料。
  3. 如請求項1之方法，其中寫碼包含解碼且該方法進一步包含基於該預測區塊之樣本及殘餘樣本來重建構該當前區塊之樣本。
  4. 如請求項1之方法，其中該第一區之該邊界在該投影域中鄰近於該第二區之一邊界且該第一區之該邊界未在該球面域中鄰近於該第二區之該邊界。
  5. 如請求項4之方法，其中該第一區之該邊界未在該投影域中鄰近於該複數個區中之一第三區之一邊界，且該等參考樣本為該第三區中之樣本之複本。
  6. 如請求項4之方法，其中該當前區塊為一第一區塊且以下中之一者適用： 該當前區塊之一第二區塊為該投影域中之該當前圖像中之一最右區塊且處於該當前圖像之一下半部分中，且在空間上與該球面域中之該第二區塊相鄰之參考樣本各自在該當前圖像內，或 該第二區塊為該當前圖像中之一最左下區塊，且在空間上與該球面域中之該第二區塊相鄰之該等參考樣本各自在該當前圖像內。
  7. 如請求項1之方法，其中判定該等參考樣本包含： 基於該等參考樣本之定位來判定一球面上之相關聯定位； 將該等相關聯定位投影回至該當前圖像以判定投影定位；及 使用該等投影定位來判定在空間上與該球面域中之該當前區塊相鄰之該等樣本。
  8. 如請求項1之方法，其中判定該等參考樣本包含自在空間上與該球面域中之該當前區塊相鄰之樣本複製該等參考樣本。
  9. 如請求項1之方法，判定該等參考樣本包含基於該當前區塊位於該第一區之該邊界處來： 應用幾何推導來判定一參考樣本定位；及 判定一參考樣本之一值，其中： 當該參考樣本定位未處於任何可用區域中時，該參考樣本為與該球面域中之該當前樣本相鄰之一相鄰樣本之一複本，且 當該參考樣本定位處於可用區域中時，使用該參考樣本定位處之一樣本作為該參考樣本。
  10. 如請求項9之方法，其中該當前區塊為該當前圖像之一第一區塊，且該方法進一步包含： 基於該圖像之一第二區塊不位於該等區中之任一者之一邊界處，判定作為在空間上與該投影域中之該第二區塊相鄰之一樣本之一複本的針對該第二區塊之一參考樣本之一值。
  11. 一種用於寫碼360度視訊資料之器件，該器件包含： 一記憶體，其經組態以儲存該360度視訊資料；及 一或多個處理器，其實施於電路中，該一或多個處理器經組態以： 基於該360度視訊資料之一當前圖像之一當前區塊的一定位及定義進入該當前圖像之複數個區之一配置的一封裝配置來判定參考樣本，其中： 該當前圖像處於一投影域中， 該複數個區中之每一各別區為由360度視訊資料之一投影定義之一各別面，該投影為一立方圖投影(CMP)或該CMP之一衍生投影，該等區包括一第一區及一第二區， 該等區根據該封裝配置而配置於該當前圖像中， 基於該當前區塊之該定位在鄰近於該第二區之該第一區之一邊界處且在該邊界處存在因該封裝配置所致之一不連續性，該等參考樣本為在空間上與在一球面域中且不在該投影域中之該當前區塊相鄰之該當前圖像之樣本；及 基於所判定之參考樣本中之一或多者使用框內預測來產生該當前區塊的一預測區塊。
  12. 如請求項11之器件，其中寫碼包含編碼且該一或多個處理器經組態以基於該預測區塊及該當前區塊之樣本來產生殘餘資料。
  13. 如請求項11之器件，其中寫碼包含解碼且該一或多個處理器經組態以基於該預測區塊之樣本及殘餘樣本來重建構該當前區塊之樣本。
  14. 如請求項11之器件，其中該第一區之該邊界在該投影域中鄰近於該第二區之一邊界且該第一區之該邊界未在該球面域中鄰近於該第二區之該邊界。
  15. 如請求項14之器件，其中該第一區之該邊界未在該投影域中鄰近於該複數個區中之一第三區之一邊界，且該等參考樣本為該第三區中之樣本之複本。
  16. 如請求項14之器件，其中該當前區塊為一第一區塊且以下中之一者適用： 該當前區塊之一第二區塊為該投影域中之該當前圖像中之一最右區塊且處於該當前圖像之一下半部分中，且在空間上與該球面域中之該第二區塊相鄰之參考樣本各自在該當前圖像內，或 該第二區塊為該當前圖像中之一最左下區塊，且在空間上與該球面域中之該第二區塊相鄰之該等參考樣本各自在該當前圖像內。
  17. 如請求項11之器件，其中該一或多個處理器經組態以使得作為判定該等參考樣本之部分，該一或多個處理器： 基於該等參考樣本之定位來判定一球面上之相關聯定位； 將該等相關聯定位投影回至該當前圖像以判定投影定位；及 使用該等投影定位來判定在空間上與該球面域中之該當前區塊相鄰之該等樣本。
  18. 如請求項11之器件，其中該一或多個處理器經組態以使得作為判定該等參考樣本之部分，該一或多個處理器自在空間上與該球面域中之該當前區塊相鄰之樣本複製該等參考樣本。
  19. 如請求項11之器件，其中該一或多個處理器經組態以使得作為判定該等參考樣本之部分，該一或多個處理器： 當該當前區塊位於該第一區之該邊界處時： 應用幾何推導來判定一參考樣本定位；及 判定一參考樣本之一值，其中： 當該參考樣本定位未處於任何可用區域中時，該參考樣本為與該球面域中之該當前樣本相鄰之一相鄰樣本之一複本，且 當該參考樣本定位處於可用區域中時，使用該參考樣本定位處之一樣本作為該參考樣本；且 當該當前區塊不位於該等區中之任一者之一邊界處時，將該參考樣本之一值判定為在空間上與該投影域中之該當前區塊相鄰之一樣本之一複本。
  20. 如請求項11之器件，其進一步包含經組態以顯示經解碼視訊資料之一顯示器。
  21. 如請求項11之器件，其中該器件包含一攝影機、一電腦、一行動器件、一廣播接收器器件或一機上盒中之一或多者。
  22. 一種用於寫碼視訊資料之器件，該器件包含： 用於基於360度視訊資料之一當前圖像之一當前區塊的一定位及定義該當前圖像中之複數個區之一配置的一封裝配置來判定參考樣本的構件，其中： 該當前圖像處於一投影域中， 該複數個區中之每一各別區為由360度視訊資料之一投影定義之一各別面，該投影為一立方圖投影(CMP)或該CMP之一衍生投影，該等區包括一第一區及一第二區， 該等區根據該封裝配置而配置於該當前圖像中， 基於該當前區塊之該定位在鄰近於該第二區之該第一區之一邊界處且在該邊界處存在因該封裝配置所致之一不連續性，該等參考樣本為在空間上與在一球面域中且不在該投影域中之該當前區塊相鄰之該當前圖像之樣本；及 用於基於所判定之參考樣本中之一或多者使用框內預測來產生該當前區塊的一預測區塊的構件。
  23. 一種電腦可讀儲存媒體，其具有儲存於其上之指令，該等指令在執行時使得一或多個處理器： 基於360度視訊資料之一當前圖像之一當前區塊的一定位及定義進入該當前圖像之複數個區之一配置的一封裝配置來判定參考樣本，其中： 該當前圖像處於一投影域中， 該複數個區中之每一各別區為由360度視訊資料之一投影定義之一各別面，該投影為一立方圖投影(CMP)或該CMP之一衍生投影，該等區包括一第一區及一第二區， 該等區根據該封裝配置而配置於該當前圖像中， 基於該當前區塊之該定位在鄰近於該第二區之該第一區之一邊界處且在該邊界處存在因該封裝配置所致之一不連續性，該等參考樣本為在空間上與在一球面域中且不在該投影域中之該當前區塊相鄰之該當前圖像之樣本；及 基於所判定之參考樣本中之一或多者使用框內預測來產生該當前區塊的一預測區塊。
TW108104782A 2018-02-14 2019-02-13 用於360度視訊之框內預測 TW201939952A (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201862630714P 2018-02-14 2018-02-14
US62/630,714 2018-02-14
US16/271,065 US10764605B2 (en) 2018-02-14 2019-02-08 Intra prediction for 360-degree video
US16/271,065 2019-02-08

Publications (1)

Publication Number Publication Date
TW201939952A true TW201939952A (zh) 2019-10-01

Family

ID=67540345

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108104782A TW201939952A (zh) 2018-02-14 2019-02-13 用於360度視訊之框內預測

Country Status (4)

Country Link
US (1) US10764605B2 (zh)
CN (1) CN111684807B (zh)
TW (1) TW201939952A (zh)
WO (1) WO2019160795A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101762819B1 (ko) * 2010-09-02 2017-07-28 엘지전자 주식회사 영상 부호화 및 복호화 방법과 이를 이용한 장치
US10839480B2 (en) * 2017-03-22 2020-11-17 Qualcomm Incorporated Sphere equator projection for efficient compression of 360-degree video
WO2020001790A1 (en) * 2018-06-29 2020-01-02 Huawei Technologies Co., Ltd. Apparatuses and methods for encoding and decoding a video signal
EP3895425A4 (en) * 2018-12-14 2021-12-15 ZTE Corporation PROCESSING AN IMMERSIVE VIDEO BITSTREAM
KR102476057B1 (ko) * 2019-09-04 2022-12-09 주식회사 윌러스표준기술연구소 클라우드 가상 현실을 위한 imu 센서 데이터를 활용한 비디오 인코딩 및 디코딩 가속 방법 및 장치
WO2024007789A1 (en) * 2022-07-06 2024-01-11 Mediatek Inc. Prediction generation with out-of-boundary check in video coding

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9998727B2 (en) * 2012-09-19 2018-06-12 Qualcomm Incorporated Advanced inter-view residual prediction in multiview or 3-dimensional video coding
US10412387B2 (en) * 2014-08-22 2019-09-10 Qualcomm Incorporated Unified intra-block copy and inter-prediction
US11778231B2 (en) * 2016-05-26 2023-10-03 Vid Scale, Inc. Geometric conversion for 360-degree video coding
CN109417632B (zh) * 2016-07-08 2023-08-04 Vid拓展公司 使用几何图形投影的360度视频编码
US20180054613A1 (en) * 2016-08-22 2018-02-22 Mediatek Inc. Video encoding method and apparatus with in-loop filtering process not applied to reconstructed blocks located at image content discontinuity edge and associated video decoding method and apparatus
JP2019530311A (ja) * 2016-09-02 2019-10-17 ヴィド スケール インコーポレイテッド ３６０度ビデオ情報をシグナリングするための方法およびシステム
US20190253624A1 (en) * 2017-07-17 2019-08-15 Ki Baek Kim Image data encoding/decoding method and apparatus
US20190238888A1 (en) * 2017-07-17 2019-08-01 Ki Baek Kim Image data encoding/decoding method and apparatus
CN117041600A (zh) * 2016-10-04 2023-11-10 有限公司B1影像技术研究所 图像编码/解码方法和计算机可读记录介质
KR20180042098A (ko) * 2016-10-17 2018-04-25 에스케이텔레콤 주식회사 영상 부호화 또는 복호화하기 위한 장치 및 방법
US20180109810A1 (en) * 2016-10-17 2018-04-19 Mediatek Inc. Method and Apparatus for Reference Picture Generation and Management in 3D Video Compression
GB2555788A (en) * 2016-11-08 2018-05-16 Nokia Technologies Oy An apparatus, a method and a computer program for video coding and decoding
US20190082183A1 (en) * 2017-09-13 2019-03-14 Mediatek Inc. Method and Apparatus for Video Coding of VR images with Inactive Areas

Also Published As

Publication number Publication date
US20190253732A1 (en) 2019-08-15
US10764605B2 (en) 2020-09-01
WO2019160795A1 (en) 2019-08-22
CN111684807A (zh) 2020-09-18
CN111684807B (zh) 2023-10-27

Similar Documents

Publication Publication Date Title
TWI722341B (zh) 用於在視訊寫碼中自適應之迴路濾波之線路緩衝減少
US10484682B2 (en) Reference picture derivation and motion compensation for 360-degree video coding
TWI688262B (zh) 用於視訊寫碼之重疊運動補償
TWI719053B (zh) 內區塊複製合併模式及不可用內區塊複製參考區域之填充
TW202025752A (zh) 用於仿射模式之以歷史為基礎之運動向量預測
TW201943272A (zh) 以角度模式延伸之位置相關框內預測組合
TW201832562A (zh) 具有減低複雜性之視訊寫碼中之雙邊濾波器
TW201946448A (zh) 用於三百六十度視訊寫碼之環路濾波器填補
US10764605B2 (en) Intra prediction for 360-degree video
TW202123699A (zh) 具有協調的運動場儲存及運動補償的幾何分區模式
US10721465B2 (en) Motion compensation for cubemap packed frames
CN110754091B (zh) 用于360度视频编码的解块滤波
TWI826487B (zh) 用於視訊寫碼中之適應性運動向量差解析度及增加的運動向量儲存精確度的運動向量捨位
TW202044833A (zh) 使用不同色度格式之三角預測單元模式中之視訊寫碼
TW202038609A (zh) 用於視訊寫碼之共享候選清單及平行候選清單推導
TW202041003A (zh) 用於視訊資料之框間-框內預測模式
US12010325B2 (en) Intra block copy scratch frame buffer
TW202029774A (zh) 藉由轉換域濾波之量化假影抑制及信號恢復
TW202027507A (zh) 在視訊寫碼中框內區塊複本之預測限制
TW202038613A (zh) 在視訊寫碼中用於平行處理之處理區域之推導
KR20230145063A (ko) 비디오 코딩에서의 인트라-예측을 위한 레퍼런스 픽셀들의업샘플링
TW202002654A (zh) 具有群組分流位元子之係數寫碼
TW202029753A (zh) 用於視訊寫碼之廣角框內預測
CN111713106A (zh) 用信号发送360度视频信息
CN115516866A (zh) 用于图片和视频编解码的块分割