TW202404351A - 編碼裝置及解碼裝置 - Google Patents

編碼裝置及解碼裝置 Download PDF

Info

Publication number
TW202404351A
TW202404351A TW112138228A TW112138228A TW202404351A TW 202404351 A TW202404351 A TW 202404351A TW 112138228 A TW112138228 A TW 112138228A TW 112138228 A TW112138228 A TW 112138228A TW 202404351 A TW202404351 A TW 202404351A
Authority
TW
Taiwan
Prior art keywords
block
unit
motion vector
image
inter prediction
Prior art date
Application number
TW112138228A
Other languages
English (en)
Inventor
李靜雅
宗順 林
史寇敘 P 夏西達
廖如伶
海威 孫
漢文 張
安倍清史
遠間正真
西孝啓
Original Assignee
美商松下電器(美國)知識產權公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商松下電器(美國)知識產權公司 filed Critical 美商松下電器(美國)知識產權公司
Publication of TW202404351A publication Critical patent/TW202404351A/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Abstract

編碼裝置具備:電路;及連接於電路的記憶體,電路在動作中,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引指定的補正值將成為基準的移動向量補正至預定的方向而使用,且前述索引之間各自具有間隔不同的補正值,前述第1表格使用在前述動態圖像中的圖像之編碼對象的分區,又,寫入表示在第1表格所具有的索引之中選擇的第1索引之參數,,並且使用已利用藉由第1索引所指定的補正值進行補正的成為基準的移動向量,將分區編碼。

Description

編碼裝置及解碼裝置
本揭示是有關於一種編碼裝置、解碼裝置、編碼方法及解碼方法。
迄今,作為用來將動態圖像進行編碼的規格已有H.265。H.265亦被稱為HEVC(High Efficiency Video Coding/高效率視訊編碼)。 先行技術文獻
非專利文獻 非專利文獻1:H.265(ISO/IEC 23008-2 HEVC(High Efficiency Video Coding))
發明概要 發明欲解決之課題 在如此的編碼方法及解碼方法中,為了處理效率的提升、畫質的改善、以及電路規模的削減等,期望能有新方式的提案。
本揭示中的實施形態或者其一部分中所揭示的構成或者方法之每一個,例如在編碼效率的改善、編碼/解碼處理量的削減、電路規模的削減、編碼/解碼速度的改善、編碼及解碼之中,能對濾波器、區塊、尺寸、移動向量、參考圖片、及參考區塊等之構成要素/動作的適當的選擇等之中的至少任1者有所貢獻。
另,本揭示也包含可提供上述以外的益處之構成或者方法的揭示。例如一邊抑制處理量的增加,一邊改善編碼效率之構成或者方法等。 用於解決課題之手段
本揭示一態樣之編碼裝置是將動態圖像進行編碼的編碼裝置,具備:電路;及連接於前述電路的記憶體,前述電路在動作中,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在前述動態圖像中的圖像之編碼對象的分區(partition),又,寫入表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行編碼。
本揭示一態樣之解碼裝置是將動態圖像進行解碼的解碼裝置,具備:電路;及連接於前述電路的記憶體,前述電路在動作中,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在前述動態圖像中的圖像之解碼對象的分區,又,解析表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行解碼。
另,該等概括性或者是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式,或者電腦可讀取之CD-ROM等之非暫時性記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
已揭示的實施形態所提供的其他益處及優點,能從說明書及圖式明瞭。該等益處及優點有時能藉各種實施形態或說明書及圖式的特徵各自來獲取,不必為了得到1個以上的益處及優點而一定要全部提供。 發明效果
本揭示可以提供能提升編碼效率的編碼裝置、解碼裝置、編碼方法及解碼方法。
用以實施發明之形態 例如,本揭示一態樣之編碼裝置是將動態圖像進行編碼的編碼裝置,具備:電路;及連接於前述電路之記憶體,前述電路在動作中,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格是使用在前述動態圖像中的圖像的編碼對象之分區,又,寫入表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行編碼。
依此,在使用精度比成為基準的移動向量高的移動向量時,使用從複數個表格所選擇的第1表格之中的較小數值(少的資訊)的索引,就能進行該精度高的移動向量的指定。藉此,該編碼裝置有能提升間預測處理的編碼性能的可能性。
在此,例如前述電路解析用來指定前述複數個表格之中的前述第1表格的第1參數,藉此來選擇前述第1表格。
又,例如前述電路取得含有前述分區的當前切片的切片標頭,且前述切片標頭寫入有前述第1參數。
又,例如前述電路使用已編碼完畢的幀之中的移動向量,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用已編碼完畢的幀之中的差分移動向量,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述編碼對象的分區所屬之圖片的解析度,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述編碼對象的分區所屬之圖片的時間ID(temporal ID),從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述編碼對象的分區所屬之圖片的時間ID,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述編碼對象的分區之移動向量預測子的值,從前述複數個表格來選擇前述第1表格。
又,本揭示一態樣之解碼裝置是將動態圖像進行解碼的解碼裝置,具備:電路;及連接於前述電路的記憶體,前述電路在動作中,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在前述動態圖像中的圖像之解碼對象的分區,又,解析表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行解碼。
依此,在使用精度比成為基準的移動向量高的移動向量時,使用從複數個表格所選擇的第1表格之中的較小數值(少的資訊)的索引,就能進行該精度高的移動向量的指定。藉此,該解碼裝置有能提升間預測處理的編碼性能的可能性。
在此,例如前述電路解析用來指定前述複數個表格之中的前述第1表格的第1參數,藉此來選擇前述第1表格。
又,例如前述電路取得含有前述分區的當前切片之切片標頭,且前述切片標頭寫入有前述第1參數。
又,例如前述電路使用已解碼完畢的幀中的移動向量,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用已解碼完畢的幀中的差分移動向量,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述解碼對象的分區所屬之圖片的解析度,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述解碼對象的分區所屬之圖片的時間ID,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述解碼對象的分區所屬之當前圖片與參考圖片的距離,從前述複數個表格來選擇前述第1表格。
又,例如前述電路使用前述解碼對象的分區之移動向量預測子的值,從前述複數個表格來選擇前述第1表格。
又,例如本揭示一態樣之編碼方法是將動態圖像進行編碼的編碼方法,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格是使用在前述動態圖像中的圖像的編碼對象之分區,又,寫入表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行編碼。
依此,在使用精度比成為基準的移動向量高的移動向量時,使用從複數個表格所選擇的第1表格中的較小數值(少的資訊)的索引,就能進行該精度高的移動向量的指定。藉此,該編碼方法有能提升間預測處理的編碼性能的可能性。
又,例如本揭示一態樣之解碼方法是將動態圖像進行解碼的解碼方法,從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格是使用在前述動態圖像中的圖像的解碼對象之分區,又,解析表示在前述第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由前述第1索引所指定的補正值進行補正的前述成為基準的移動向量,將前述分區進行解碼。
依此,在使用精度比成為基準的移動向量高的移動向量時,使用從複數個表格所選擇的第1表格中的較小數值(少的資訊)的索引,就能進行該精度高的移動向量的指定。藉此,該解碼方法有能提升間預測處理的編碼性能的可能性。
又,例如本揭示一態樣之解碼裝置是將動態圖像進行解碼的解碼裝置,具備:電路;及連接於前述電路的記憶體,前述電路在動作中,使用將成為基準的移動向量補正至預定的方向的補正值,補正前述移動向量,並且使用已補正的前述移動向量,來將前述動態圖像中的圖像之處理對象的分區進行解碼,前述補正值是以表示表格所具有的複數個值之任一者的第1參數來指定,前述表格是選擇複數個表格之中的一個來使用。
依此,在使用比成為基準的移動向量更高精度的移動向量時,使用從複數個表格所選擇的第1表格中的較小數值(少的資訊)的索引,就能進行該精度高的移動向量的指定。藉此,該解碼方法有能提升間預測處理的編碼性能的可能性。
進而,該等概括性或者是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式或者電腦可讀取之CD-ROM等之非暫時性的記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式及記錄媒體的任意組合來實現。
以下,一邊參考圖式,一邊具體地說明實施形態。
另,以下所說明的實施形態每一個都是顯示概括性或具體性的例子。在以下的實施形態之中所示的數值、形狀、材料、構成要素、構成要素的配置位置及連接形態、步驟、步驟的關係及順序等都只是一例罷了,其主旨並非是來限定請求的範圍。
以下,說明編碼裝置及解碼裝置的實施形態。實施形態是可適用本揭示各態樣中所說明的處理及/或構成之編碼裝置及解碼裝置的例子。處理及/或構成也可以在與實施形態不同的編碼裝置及解碼裝置中來實施。例如,有關於對實施形態來適用的處理及/或構成,例如也可以實施以下的任一者:
(1) 本揭示各態樣中所說明的實施形態之編碼裝置或者解碼裝置的複數個構成要素之中任一個,也可以替換成或者是組合在本揭示各態樣之任一個所說明的其他構成要素。
(2) 在實施形態之編碼裝置或者解碼裝置中,也可以對於藉由該編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所進行的功能或者處理,進行功能或者處理的追加、替換、刪除等任意的變更。例如,任一個功能或者處理也可以替換成或者是組合在本揭示各態樣之任一個所說明的其他功能或者處理。
(3) 在實施形態之編碼裝置或者解碼裝置所要實施的方法中,也可以針對該方法所含的複數個處理之中的一部分處理,進行追加、替換及刪除等任意的變更。例如,方法中的任一個處理也可以替換成或者是組合在本揭示各態樣之任一個所說明的其他處理。
(4)構成實施形態之編碼裝置或者解碼裝置的複數個構成要素中之一部分的構成要素,也可以與本揭示各態樣之任一個所說明的構成要素組合,也可以與具備本揭示各態樣之任一個所說明的功能之一部分的構成要素組合,也可以與實施本揭示各態樣所說明的構成要素所要實施的處理之一部分的構成要素組合。
(5) 具備實施形態之編碼裝置或者解碼裝置的功能之一部分的構成要素,或者是,實施實施形態之編碼裝置或者解碼裝置的處理之一部分的構成要素,也可以與本揭示各態樣之任一個所說明的構成要素、具備本揭示各態樣之任一個所說明的功能之一部分的構成要素、或者實施本揭示各態樣之任一個所說明的處理之一部分的構成要素組合或者是替換。
(6) 在實施形態之編碼裝置或者解碼裝置所要實施的方法中,該方法所含的複數個處理之任一個也可以替換成或者是組合在本揭示各態樣之任一個所說明的處理,或者同樣的任一個處理。
(7) 實施形態之編碼裝置或者解碼裝置所要實施的方法所含之複數個處理之中的一部分處理,也可以與本揭示各態樣之任一個所說明的處理組合。
(8) 本揭示各態樣所說明之處理及/或構成的實施方式並不限於實施形態的編碼裝置或者解碼裝置。例如,處理及/或構成也可在以異於實施形態中所揭示的動態圖像編碼或者動態圖像解碼的目的來利用的裝置中實施。 (實施形態1) [編碼裝置]
首先,說明本實施形態之編碼裝置。圖1是顯示本實施形態之編碼裝置100之功能構成之方塊圖。編碼裝置100是將動態圖像以區塊單位進行編碼的動態圖像編碼裝置。
如圖1所示,編碼裝置100為將圖像以區塊單位進行編碼之裝置,包含有:分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、區塊記憶體118、迴路濾波部120、幀記憶體122、內預測部124、間預測部126、及預測控制部128。
編碼裝置100是藉由例如通用處理器及記憶體來實現。此時,當儲存在記憶體的軟體程式藉由處理器來執行時,處理器是作為分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128而發揮功能。又,編碼裝置100也可作為對應於分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128之專用的1個以上的電子電路來實現。
以下,先說明編碼裝置100整體的處理之流程,之後再針對編碼裝置100所包含的各構成要素進行說明。 [編碼處理的整體流程]
圖2是顯示編碼裝置100之整體性的編碼處理一例之流程圖。
首先,編碼裝置100的分割部102將動態圖像即輸入圖像所含的各圖片分割成複數個固定尺寸的區塊(128×128像素)(步驟Sa_1)。接著,分割部102對該固定尺寸的區塊選擇分割圖案(也稱為區塊形狀)(步驟Sa_2)。即,分割部102將固定尺寸的區塊,進一步分割成複數個區塊,前述複數個區塊構成該已選擇的分割圖案。然後,編碼裝置100針對該等複數個區塊之各個,對於該區塊(即編碼對象區塊)進行步驟Sa_3至Sa_9的處理。
也就是說,由內預測部124、間預測部126及預測控制部128之全部或者一部分所構成的預測處理部會產生編碼對象區塊(也稱為當前區塊)的預測訊號(也稱為預測區塊)(步驟Sa_3)。
接著,減法部104產生編碼對象區塊與預測區塊之差分,作為預測殘差(也稱為差分區塊)(步驟Sa_4)。
接著,轉換部106及量化部108對該差分區塊進行轉換及量化,藉此產生複數個量化係數(步驟Sa_5)。另,由複數個量化係數所構成的區塊也被稱為係數區塊。
接著,熵編碼部110對該係數區塊與關於預測訊號之產生的預測參數進行編碼(具體來說,是指熵編碼),藉此產生編碼訊號(步驟Sa_6)。另,編碼訊號也被稱為編碼位元流、壓縮位元流或者串流。
接著,反量化部112及反轉換部114對於係數區塊進行反量化及反轉換,藉此將複數個預測殘差(即差分區塊)進行復原(步驟Sa_7)。
接著,加法部116對該已復原的差分區塊加上預測區塊,藉此將當前區塊再構成為再構成圖像(也稱為再構成區塊或者解碼圖像區塊)(步驟Sa_8)。藉此,來產生再構成圖像。
該再構成圖像一產生,迴路濾波部120因應需要而對該再構成圖像進行濾波(步驟Sa_9)。
然後,編碼裝置100判定圖片整體的編碼是否已完成(步驟Sa_10),當判定為未完成時(步驟Sa_10的否),重複執行從步驟Sa_2開始的處理。
另,在上述之例中,編碼裝置100是對於固定尺寸的區塊選擇1個分割圖案,依照該分割圖案來進行各區塊的編碼,但是也可依照複數個分割圖案之各個來進行各區塊的編碼。此時,編碼裝置100也可以評價對於複數個分割圖案之各個的成本,並選擇例如依照最小成本的分割圖案之藉由編碼得到的編碼訊號,來作為最後要輸出的編碼訊號。
又,該等步驟Sa_1至Sa_10的處理也可藉由編碼裝置100而按序進行,也可將該等處理之中一部分的複數個處理並列進行,也可把順序對調。 [分割部]
分割部102是將輸入動態圖像所含之各圖片分割成複數個區塊,並將各區塊輸出至減法部104。例如,分割部102首先將圖片分割成固定尺寸(例如128×128)的區塊。該固定尺寸的區塊有時被稱為編碼樹單元(CTU)。接著,分割部102例如根據遞迴性的四元樹(quadtree)及/或二元樹(binary tree)區塊分割,將每一個固定尺寸的區塊分割成可變尺寸(例如64×64以下)的區塊。即,分割部102選擇分割圖案。這個可變尺寸的區塊有時被稱為編碼單元(CU)、預測單元(PU)或者轉換單元(TU)。另,在各種安裝例中,沒有區別CU、PU及TU的必要,也可以是圖片內的一部分或者全部的區塊成為CU、PU、TU的處理單位。
圖3是顯示本實施形態中的區塊分割一例之圖。在圖3中,實線是表示透過四元樹區塊分割所得到的區塊邊界,虛線是表示透過二元樹區塊分割所得到的區塊邊界。
在此,區塊10是128×128像素的正方形區塊(128×128區塊)。這個128×128區塊10,首先是被分割成4個正方形的64×64區塊(四元樹區塊分割)。
左上的64×64區塊進一步被垂直分割成2個矩形的32×64區塊,左邊的32×64區塊進一步被垂直分割成2個矩形的16×64區塊(二元樹區塊分割)。其結果,左上的64×64區塊被分割成2個16×64區塊11、12、及32×64區塊13。
右上的64×64區塊被水平分割成2個矩形的64×32區塊14、15(二元樹區塊分割)。
左下的64×64區塊被分割成4個正方形的32×32區塊(四元樹區塊分割)。4個32×32區塊之中,左上的區塊及右下的區塊被進一步分割。左上的32×32區塊被垂直分割成2個矩形的16×32區塊,右邊的16×32區塊進一步被水平分割成2個16×16區塊(二元樹區塊分割)。右下的32×32區塊被水平分割成2個32×16區塊(二元樹區塊分割)。其結果,左下的64×64區塊被分割成16×32區塊16;2個16×16區塊17、18;2個32×32區塊19、20;及2個32×16區塊21、22。
右下的64×64區塊23不分割。
如上,在圖3中,區塊10是根據遞迴性的四元樹及二元樹區塊分割,而被分割成13個可變尺寸的區塊11至23。如此之分割有時被稱為QTBT(quad-tree plus binary tree)分割。
另,在圖3中,1個區塊已被分割成4個或者2個區塊(四元樹或者二元樹區塊分割),但是分割並不限於此。例如,1個區塊也可被分割成3個區塊(三元樹區塊分割)。包括如此之三元樹區塊分割的分割有時被稱為MBT(multi type tree)分割。 [圖片的構成  切片/圖塊]
為了將圖片並列地進行解碼,圖片有時以切片(slice)單位或者圖塊(tile)單位來構成。由切片單位或者圖塊單位構成的圖片也可藉由分割部102來構成。
切片是構成圖片的基本的編碼單位。圖片例如由1個以上的切片所構成。又,切片是由1個以上的連續之CTU(Coding Tree Unit)所構成。
圖4A是顯示切片的構成一例之圖。例如,圖片是含有11×8個CTU,且被分割成4個切片(切片1至4)。切片1是由16個CTU所構成,切片2是由21個CTU所構成,切片3是由29個CTU所構成,切片4是由22個CTU所構成。在此,圖片內的各CTU是屬於任一個切片。切片的形狀形成為沿水平方向分割圖片的形狀。切片的邊界不必在畫面端,只要在畫面內的CTU的邊界,任何地方都可以。切片之中的CTU的處理順序(編碼順序或者解碼順序),例如為逐線掃描(raster scan)順序。又,切片包括標頭資訊及編碼資料。標頭資訊中也可記述切片的前頭的CTU位址、切片類型等該切片的特徵。
圖塊為構成圖片之矩形區域的單位。對各圖塊,也可以按照逐線掃描順序來分配被稱為TileId的號碼。
圖4B是顯示圖塊之構成一例的圖。例如,圖片含有11×8個CTU,且被分割成4個矩形區域的圖塊(圖塊1至4)。比起不使用圖塊的時候,在使用圖塊時,會變更CTU的處理順序。在不使用圖塊時,圖片內的複數個CTU是按照逐線掃描順序來處理。在使用圖塊時,在複數個圖塊之各個中,至少1個CTU會按照逐線掃描順序來處理。例如圖4B所示,圖塊1所含的複數個CTU的處理順序是指:從圖塊1的第1列左端前往圖塊1的第1列右端為止,接著從圖塊1的第2列左端前往圖塊1的第2列右端為止的順序。
另,1個圖塊有時候包括1個以上的切片,1個切片有時候包括1個以上的圖塊。 [減法部]
減法部104是以從分割部102輸入且藉分割部102所分割的區塊單位,從原訊號(原樣本)減去預測訊號(從後文中所示的預測控制部128輸入的預測樣本)。即,減法部104是算出編碼對象區塊(以下,稱為當前區塊)的預測誤差(也稱為殘差)。然後,減法部104將所算出的預測誤差(殘差)輸出至轉換部106。
原訊號是編碼裝置100的輸入訊號,為表示構成動態圖像之各圖片之圖像的訊號(例如亮度(luma)訊號及2個色差(chroma)訊號)。在以下,有時也將表示圖像的訊號稱為樣本。 [轉換部]
轉換部106將空間域的預測誤差轉換成頻率域的轉換係數,且將轉換係數輸出至量化部108。具體來說,轉換部106例如對於空間域的預測誤差,進行已事先決定的離散餘弦轉換(DCT)或者離散正弦轉換(DST)。
另,轉換部106也可從複數個轉換類型之中適應性地選擇轉換類型,使用對應於所選擇的轉換類型之轉換基底函數(transform basis function),將預測誤差轉換成轉換係數。如此之轉換有時被稱為EMT(explicit multiple core transform)或者AMT(adaptive multiple transform)。
複數個轉換類型,例如包括有DCT-II、DCT-V、DCT-VIII、DST-I及DST-VII。圖5A是顯示對應於各轉換類型之轉換基底函數之表格。在圖5A中,N表示輸入像素的數。從該等複數個轉換類型之中的轉換類型的選擇,例如也可依據預測的種類(內預測及間預測),也可依據內預測模式。
表示是否適用如此的EMT或者AMT之資訊(例如被稱為EMT旗標或者AMT旗標)以及表示已選擇的轉換類型的資訊,通常是以CU等級而被訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如位元序列等級、圖片等級、切片等級、圖塊等級或者CTU等級)。
又,轉換部106也可將轉換係數(轉換結果)進行再轉換。如此之再轉換有時被稱為AST(adaptive secondary transform)或者NSST(non-separable secondary transform)。例如,轉換部106是依對應於內預測誤差之轉換係數的區塊所含之各個子區塊(例如4×4子區塊)進行再轉換。表示是否適用NSST之資訊及有關於使用在NSST之轉換矩陣之資訊,通常是以CU等級而被訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級或者CTU等級)。
在轉換部106中,也可適用可分離(Separable)的轉換及不可分離(Non-Separable)的轉換。可分離的轉換是指依方向分離輸入的維度之數,來進行複數次轉換的方式,不可分離的轉換是指在輸入為多維時,將2個以上的維度匯整而視為1維,再一起進行轉換的方式。
例如,以不可分離的轉換之一例來說,可舉例有:在輸入為4×4的區塊時,將該區塊視為具有16個要素之一個陣列,並對該陣列,以16×16的轉換矩陣進行轉換處理。
又,在不可分離的轉換之另一例中,亦可進行如同將4×4的輸入區塊視為具有16個要素之一個陣列,之後對該陣列進行複數次吉文斯旋轉(Givens rotation)的轉換(Hypercube Givens Transform/超立方體吉文斯轉換)。
在於轉換部106的轉換中,也可因應CU內的區域,將轉換成頻率域的基底的類型進行切換。以一例來說,有SVT(Spatially Varying Transform)。在SVT中,如圖5B所示,沿水平或者垂直方向將CU分成2等份,只對其中任一邊的區域進行成為頻率域的轉換。轉換基底的類型可以依每區域進行設定,例如會採用DST7及DCT8。在本例中,在CU內的2個區域之中,只對其中任一邊進行轉換,另一邊則不進行轉換,但也可對2個區域都進行轉換。又,分割方法也不只有2等份,也可為4等份,或者是將顯示分割的資訊另外進行編碼再與CU分割同樣地傳訊等,進行更靈活的方式。另,SVT有時也稱為SBT(Sub-block Transform)。 [量化部]
量化部108將從轉換部106所輸出的轉換係數進行量化。具體來說,量化部108是以預定的掃描順序來掃描當前區塊的轉換係數,根據對應於已掃描的轉換係數的量化參數(QP),而將該轉換係數進行量化。然後,量化部108將當前區塊之業經量化的轉換係數(以下稱為量化係數)輸出至熵編碼部110及反量化部112。
預定的掃描順序是用於轉換係數的量化/反量化的順序。例如,預定的掃描順序是以頻率的升序(從低頻到高頻的順序)或者降序(從高頻到低頻的順序)來定義。
量化參數(QP)是指定義量化步階(量化幅寬)的參數。例如,若量化參數的值增加,則量化步階也會增加。即,若量化參數的值增加,量化誤差也會變大。
又,在量化中,有使用量化矩陣的時候。例如,有對應於4×4及8×8等之頻率轉換尺寸、內預測及間預測等之預測模式、以及亮度及色差等之像素成分,來使用數種量化矩陣的時候。另,量化意指:讓已透過事先訂定的間隔來取樣的值對應於已事先訂定的等級來進行數位化,在這技術領域中,有時也會採用取整、捨入(rounding)、縮放(scaling)之表示方式。
以使用量化矩陣的方法來說,有使用直接在編碼裝置側設定的量化矩陣的方法、以及使用預設的量化矩陣(default matrix)的方法。在編碼裝置側,直接設定量化矩陣,藉此可設定對應於圖像的特徵之量化矩陣。惟,此時有因為量化矩陣的編碼而造成編碼量增加的缺點。
另一方面,也有不使用量化矩陣,高頻成分的係數及低頻成分的係數都一樣進行量化的方法。另,該方法是等於使用係數全部為同一值的量化矩陣(平面式的矩陣)的方法。
量化矩陣例如也可以SPS(序列參數集:Sequence Parameter Set)或者PPS(圖片參數集:Picture Parameter Set)來指定。SPS包括對序列使用的參數,PPS包括對圖片使用的參數。SPS及PPS有簡稱為參數集的時候。 [熵編碼部]
熵編碼部110根據從量化部108所輸入的量化係數,來產生編碼訊號(編碼位元流)。具體來說,熵編碼部110例如是將量化係數二值化,將二值訊號進行算術編碼,並輸出已壓縮的位元流或者序列。 [反量化部]
反量化部112將從量化部108所輸入之量化係數進行反量化。具體來說,反量化部112是以預定的掃描順序將當前區塊的量化係數進行反量化。然後,反量化部112將當前區塊的業經反量化的轉換係數輸出至反轉換部114。 [反轉換部]
反轉換部114將從反量化部112所輸入的轉換係數進行反轉換,藉此將預測誤差(殘差)復原。具體來說,反轉換部114是對轉換係數進行與轉換部106所進行之轉換對應的反轉換,藉此將當前區塊的預測誤差進行復原。然後,反轉換部114將已復原的預測誤差輸出至加法部116。
另,已復原的預測誤差通常是因為量化而失去了資訊,因此和減法部104所算出的預測誤差不一致。即,在已復原的預測誤差中通常含有量化誤差。 [加法部]
加法部116將從反轉換部114所輸入的預測誤差、與從預測控制部128所輸入的預測樣本相加,藉此再構成當前區塊。然後,加法部116將已再構成的區塊輸出至區塊記憶體118及迴路濾波部120。再構成區塊有時也被稱為局部解碼區塊。 [區塊記憶體]
區塊記憶體118是用以儲存於內預測被參考的區塊且為編碼對象圖片(稱為當前圖片)內的區塊的記憶部。具體來說,區塊記憶體118儲存從加法部116輸出的再構成區塊。 [幀記憶體]
幀記憶體122例如是用於儲存使用在間預測之參考圖片的記憶部,有時也被稱為幀緩衝器。具體來說,幀記憶體122儲存已藉迴路濾波部120進行濾波的再構成區塊。 [迴路濾波部]
迴路濾波部120對已藉加法部116再構成的區塊施行迴路濾波,且將已濾波的再構成區塊輸出至幀記憶體122。迴路濾波是指在編碼迴路內所使用的濾波器(迴路內濾波器),例如包括解區塊濾波器(DF或DBF)、樣本適應性偏移(SAO)及適應性迴路濾波器(ALF)等。
在ALF中,適用用於移除編碼失真的最小平方誤差濾波器,例如按當前區塊內的各個2×2子區塊,根據局部性的梯度(gradient)的方向及活性度(activity),適用從複數個濾波器之中所選擇的1個濾波器。
具體來說,首先子區塊(例如2×2子區塊)被分類成複數個類別(例如15或者25類)。子區塊的分類是根據梯度的方向及活性度來進行。例如,使用梯度的方向值D(例如0至2或者0至4)與梯度的活性值A(例如0至4),而算出分類值C(例如C=5D+A)。然後,根據分類值C,使子區塊被分類成複數個類別。
梯度的方向值D例如是藉由比較複數個方向(例如水平、垂直及2個對角方向)的梯度來導出。又,梯度的活性值A例如是藉由將複數個方向的梯度相加,並將加法結果進行量化來導出。
根據如此分類的結果,從複數個濾波器之中,決定子區塊用的濾波器。
以ALF所使用的濾波器的形狀來說,例如利用圓對稱形狀。圖6A至圖6C是顯示ALF所使用的濾波器的形狀的複數例之圖。圖6A顯示5×5菱形形狀濾波器,圖6B顯示7×7菱形形狀濾波器,圖6C是顯示9×9菱形形狀濾波器。顯示濾波器的形狀之資訊通常是以圖片等級而被訊號化。另,顯示濾波器的形狀之資訊的訊號化並不須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、圖塊等級、CTU等級或者是CU等級)。
ALF的開啟/關閉,例如也可以圖片等級或者CU等級來決定。例如,針對亮度,也可以CU等級來決定是否適用ALF,針對色差,也可以圖片等級來決定是否適用ALF。顯示ALF的開啟/關閉的資訊,通常是以圖片等級或者CU等級而被訊號化。另,顯示ALF的開啟/關閉的資訊之訊號化並無須限定在圖片等級或者CU等級,也可為其他等級(例如序列等級、切片等級、圖塊等級、或者CTU等級)。
可選擇的複數個濾波器(例如迄至15或25的濾波器)的係數集,通常是以圖片等級而被訊號化。另,係數集的訊號化並無須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、圖塊等級、CTU等級、CU等級或者是子區塊等級)。 [迴路濾波部>解區塊濾波器]
在解區塊濾波器中,迴路濾波部120對再構成圖像的區塊邊界進行濾波處理,藉此減少在該區塊邊界所產生的失真。
圖7是顯示作為解區塊濾波器而發揮功能的迴路濾波部120的詳細構成一例之方塊圖。
迴路濾波部120包含有:邊界判定部1201、濾波判定部1203、濾波處理部1205、處理判定部1208、濾波特性決定部1207、開關1202、1204及1206。
邊界判定部1201判定欲進行解區塊濾波處理的像素(即對象像素)是否存在區塊邊界附近。然後,邊界判定部1201將其判定結果輸出至開關1202及處理判定部1208。
在已藉由邊界判定部1201判定為對象像素存在於區塊邊界附近時,開關1202將濾波處理前的圖像輸出至開關1204。反之,在已藉由邊界判定部1201判定為對象像素不存在於區塊邊界附近時,開關1202將濾波處理前的圖像輸出至開關1206。
濾波判定部1203基於位在對象像素的周邊之至少1個周邊像素的像素值,判定是否對於對象像素進行解區塊濾波處理。然後,濾波判定部1203將其判定結果輸出至開關1204及處理判定部1208。
在已藉由濾波判定部1203判定為對於對象像素進行解區塊濾波處理時,開關1204將已經透過開關1202所取得的濾波處理前的圖像輸出至濾波處理部1205。反之,在已藉由濾波判定部1203判定為對於對象像素不進行解區塊濾波處理時,開關1204將已經透過開關1202所取得的濾波處理前的圖像輸出至開關1206。
在已透過開關1202及1204取得濾波處理前的圖像時,濾波處理部1205對於對象像素執行解區塊濾波處理,前述解區塊濾波處理具有已藉由濾波特性決定部1207所決定的濾波特性。然後,濾波處理部1205將其濾波處理後的像素輸出至開關1206。
開關1206因應處理判定部1208的控制,選擇性地輸出未進行解區塊濾波處理的像素、與已藉由濾波處理部1205進行解區塊濾波處理的像素。
處理判定部1208根據邊界判定部1201及濾波判定部1203各自的判定結果來控制開關1206。即,在已藉由邊界判定部1201判定為對象像素存在於區塊邊界附近,且,已藉由濾波判定部1203判定為對於對象像素進行解區塊濾波處理時,處理判定部1208從開關1206來輸出業經解區塊濾波處理的像素。又,上述的時候以外,處理判定部1208則從開關1206來輸出未經解區塊濾波處理的像素。藉由重複進行如此的像素的輸出,來從開關1206輸出濾波處理後的圖像。
圖8是顯示對區塊邊界具有對稱的濾波特性的解區塊濾波器的例子之圖。
在解區塊濾波處理中,例如使用像素值及量化參數來選擇特性相異的2個解區塊濾波器,即選擇強濾波器及弱濾波器之中任1種。在強濾波器中,如圖8所示,當隔著區塊邊界存在有像素p0至p2、及像素q0至q2時,藉由進行如下式子所示的運算,將像素q0至q2之各個像素值變更成像素值q’0至q’2。 q’0=(p1+2×p0+2×q0+2×q1+q2+4)/8 q’1=(p0+q0+q1+q2+2)/4 q’2=(p0+q0+q1+3×q2+2×q3+4)/8
另,在上述式子中,p0至p2及q0至q2是像素p0至p2及像素q0至q2各自的像素值。又,q3是在區塊邊界的相反側鄰接於像素q2的像素q3的像素值。又,在上述各式子的右邊,與使用在解區塊濾波處理的各像素的像素值相乘的係數為濾波係數。
進而,在解區塊濾波處理中,為了不讓運算後的像素值變化超過閾值,也可進行剪裁(Clip)處理。在該剪裁處理中,上述的式子所進行的運算後的像素值是使用從量化參數所決定的閾值,而剪裁成「運算前的像素值±2×閾值」。藉此,可防止過度的平滑化。
圖9是用於說明進行解區塊濾波處理的區塊邊界的圖。圖10是顯示Bs值一例之圖。
進行解區塊濾波處理的區塊邊界,例如為如圖9所示的8×8像素區塊的PU(Prediction Unit)或者TU (Transform Unit)的邊界。解區塊濾波處理是以4列或者4行為單位來進行。首先,對於圖9所示的區塊P及區塊Q,如圖10所示,決定Bs(Boundary Strength)值。
就算屬於相同圖像的區塊邊界,依照圖10的Bs值,也能決定是否進行不同強度的解區塊濾波處理。對於色差訊號的解區塊濾波處理是在Bs值為2的時候進行。對於亮度訊號之解區塊濾波處理是在Bs值為1以上且滿足預定的條件的時候進行。另,Bs值的判定條件不限定於圖10所示者,也可根據其他參數來決定。 [預測處理部(內預測部/間預測部/預測控制部)]
圖11是顯示以編碼裝置100的預測處理部所進行的處理一例的圖。另,預測處理部是由內預測部124、間預測部126及預測控制部128的全部或者一部分的構成要素所構成。
預測處理部產生當前區塊的預測圖像(步驟Sb_1)。該預測圖像也稱為預測訊號或者預測區塊。另,在預測訊號,例如有內預測訊號或者間預測訊號。具體來說,預測處理部使用再構成圖像,來產生當前區塊的預測圖像,其中再構成圖像是已藉由進行預測區塊的產生、差分區塊的產生、係數區塊的產生、差分區塊的復原及解碼圖像區塊的產生而得到的圖像。
再構成圖像例如也可為參考圖片的圖像,也可為含有當前區塊的圖片即當前圖片內的編碼完畢的區塊之圖像。當前圖片內的編碼完畢的區塊,例如為當前區塊的鄰接區塊。
圖12是顯示編碼裝置100的預測處理部所進行的處理的另一例之圖。
預測處理部以第1方式產生預測圖像(步驟Sc_1a),以第2方式產生預測圖像(步驟Sc_1b),以第3方式產生預測圖像(步驟Sc_1c)。第1方式、第2方式及第3方式為用於產生預測圖像且相異的方式,分別也可為例如間預測方式、內預測方式及該等以外的預測方式。在該等預測方式中,也可使用上述之再構成圖像。
其次,預測處理部選擇步驟Sc_1a、Sc_1b及Sc_1c所產生的複數個預測圖像之中的任一者(步驟Sc_2)。該預測圖像的選擇,即用於得到最後的預測圖像的方式或者模式的選擇,也可算出對於已產生的各預測圖像的成本,根據該成本來進行。或者,該預測圖像的選擇也可根據使用在編碼的處理的參數來進行。編碼裝置100也可將用於特定該已選擇的預測圖像、方式或者模式的資訊進行訊號化,使其成為編碼訊號(也稱為編碼位元流)。該資訊也可為例如旗標等。藉此,解碼裝置可根據該資訊,依照在編碼裝置100中所選擇的方式或者模式,來產生預測圖像。另,在圖12所示的例子中,預測處理部在以各方式產生預測圖像之後,選擇任一個預測圖像。惟,預測處理部也可在產生該等預測圖像之前,根據使用在上述之編碼之處理的參數,選擇方式或者模式,依照該方式或者模式,來產生預測圖像。
例如,第1方式及第2方式也可分別為內預測及間預測,預測處理部從依照該等預測方式所產生的預測圖像,來選擇對於當前區塊之最後的預測圖像。
圖13是顯示編碼裝置100的預測處理部所進行的處理的另一例的圖。
首先,預測處理部藉由內預測來產生預測圖像(步驟Sd_1a),且藉由間預測來產生預測圖像(步驟Sd_1b)。另,藉由內預測所產生的預測圖像也稱之為內預測圖像,藉由間預測所產生的預測圖像也稱之為間預測圖像。
其次,預測處理部評價內預測圖像及間預測圖像之各個(步驟Sd_2)。在該評價也可使用成本。也就是說,預測處理部算出內預測圖像及間預測圖像各自的成本C。該成本C是藉R-D最適化模型的式子,例如C=D+λ×R所算出。在該式中,D為預測圖像的編碼失真,例如藉當前區塊的像素值與預測圖像的像素值的絕對差值和等來表示。又,R為預測圖像的產生編碼量,具體來說,是用來產生預測圖像的移動資訊等之編碼所必須的編碼量等。又,λ例如為拉格朗日(Lagrange)的未定乘數。
接著,預測處理部從內預測圖像及間預測圖像,選擇算出了最小成本C的預測圖像,作為當前區塊的最後的預測圖像(步驟Sd_3)。也就是說,選擇用於產生當前區塊的預測圖像的預測方式或者模式。 [內預測部]
內預測部124是藉由參考區塊記憶體118儲存的當前圖片內的區塊,進行當前區塊的內預測(也稱為畫面內預測),以產生預測訊號(內預測訊號)。具體來說,內預測部124是藉由參考鄰接於當前區塊之區塊的樣本(例如亮度值、色差值)進行內預測,以產生內預測訊號,且將內預測訊號輸出至預測控制部128。
例如,內預測部124利用已事先規定的複數個內預測模式之中的1個,來進行內預測。複數個內預測模式通常包括1個以上的非方向性預測模式、及複數個方向性預測模式。
1個以上的非方向性預測模式,例如包括以H.265/HEVC規格所規定的平面(Planar)預測模式及直流(DC)預測模式。
複數個方向性預測模式例如包括以H.265/HEVC規格所規定的33個方向的預測模式。另,複數個方向性預測模式除了33個方向外,也可進一步包括32個方向的預測模式(合計共65個方向性預測模式)。圖14是顯示內預測中的全67個內預測模式(2個非方向性預測模式及65個方向性預測模式)之圖。實線箭頭符號是表示以H.265/HEVC規格所規定的33個方向,虛線箭頭符號是表示追加的32個方向(2個非方向性預測模式未圖示於圖14中)。
在各種安裝例中,在色差區塊的內預測中,也可參考亮度區塊。也就是說,根據當前區塊的亮度成分,也可預測當前區塊的色差成分。如此之內預測有時也被稱為CCLM (cross-component linear model)預測。像這種參考亮度區塊之色差區塊的內預測模式(例如被稱為CCLM模式),也可作為1種色差區塊的內預測模式而加入。
內預測部124也可根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。像這樣伴隨著補正的內預測有時被稱為PDPC(position dependent intra prediction combination)。顯示有無PDPC的適用之資訊(例如被稱為PDPC旗標)通常是以CU等級而被訊號化。另,該資訊的訊號化並無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、或者CTU等級)。 [間預測部]
間預測部126參考參考圖片來進行當前區塊的間預測(也稱為畫面間預測),以產生預測訊號(間預測訊號),其中參考圖片是幀記憶體122所儲存的參考圖片,且為與當前圖片不同的參考圖片。間預測是以當前區塊或者當前區塊內的當前子區塊(例如4×4區塊)的單位來進行。例如,間預測部126針對當前區塊或者當前子區塊,在參考圖片內進行移動估測(motion estimation),找到與該當前區塊或者當前子區塊最一致的參考區塊或者子區塊。接著,間預測部126從參考區塊或者子區塊,取得對當前區塊或者子區塊的移動或者變化進行補償的移動資訊(例如移動向量)。間預測部126根據該移動資訊,進行移動補償(或者移動預測),來產生當前區塊或者子區塊的間預測訊號。間預測部126將已產生的間預測訊號輸出至預測控制部128。
移動補償所使用的移動資訊也可以多種形態被訊號化,作為間預測訊號。例如,移動向量也可被訊號化。以另一例來說,移動向量與移動向量預測子(motion vector predictor)之差分也可被訊號化。 [間預測的基本流程]
圖15是顯示間預測的基本流程的流程圖。
首先,間預測部126產生預測圖像(步驟Se_1至Se_3)。其次,減法部104產生當前區塊與預測圖像之差分,作為預測殘差(步驟Se_4)。
在此,間預測部126在預測圖像的產生中,進行當前區塊的移動向量(MV)的決定(步驟Se_1及Se_2)及移動補償(步驟Se_3),藉此產生該預測圖像。又,間預測部126在MV的決定上,進行候選移動向量(候選MV)的選擇(步驟Se_1)及MV的導出(步驟Se_2),藉此決定該MV。候選MV的選擇,例如藉從候選MV清單選擇至少1個候選MV來進行。又,在MV的導出中,間預測部126也可從至少1個候選MV,進一步選擇至少1個候選MV,藉此決定該已選擇的至少1個候選MV來作為當前區塊的MV。或者,間預測部126也可對該已選擇的至少1個候選MV的每個,估測以該候選MV所指示的參考圖片的區域,來決定當前區塊的MV。另,也可將估測參考圖片的區域一事稱為移動估測(motion estimation)。
又,在上述的例子中,步驟Se_1至Se_3是藉由間預測部126來進行,但例如步驟Se_1或者步驟Se_2等之處理也可藉由編碼裝置100所具備的其他構成要素來進行。 [導出移動向量的流程]
圖16是顯示移動向量導出的一例的流程圖。
間預測部126以將移動資訊(例如MV)進行編碼的模式,來導出當前區塊的MV。此時,例如將移動資訊作為預測參數來進行編碼,並進行訊號化。也就是說,已編碼的移動資訊包含在編碼訊號(也稱為編碼位元流)。
或者,間預測部126以不將移動資訊進行編碼的模式來導出MV。此時,移動資訊不包含在編碼訊號。
在此,在導出MV的模式中有後述的正常間模式、合併模式、FRUC模式及仿射模式等。該等模式之中,將移動資訊進行編碼的模式有正常間模式、合併模式及仿射模式(具體來說是仿射間模式及仿射合併模式)等。另,在移動資訊中,不只MV,也可含有後述的移動向量預測子選擇資訊。又,在不將移動資訊進行編碼的模式中有FRUC模式等。間預測部126從該等複數個模式,選擇用於導出當前區塊的MV的模式,並使用該已選擇的模式來導出當前區塊的MV。
圖17是顯示移動向量導出的另一例之流程圖。
間預測部126以將差分MV進行編碼的模式,來導出當前區塊的MV。此時,例如差分MV作為預測參數來進行編碼,並進行訊號化。也就是說,已編碼的差分MV包含在編碼訊號。該差分MV為當前區塊的MV與其預測MV之差。
或者,間預測部126以不將差分MV進行編碼的模式來導出MV。此時,已編碼的差分MV不包含在編碼訊號。
在此,如上述,在導出MV的模式中有後述的正常間模式、合併模式、FRUC模式及仿射模式等。該等模式之中,在將差分MV進行編碼的模式中有正常間模式及仿射模式(具體來說是仿射間模式)等。又,在不將差分MV進行編碼的模式中有FRUC模式、合併模式及仿射模式(具體來說是仿射合併模式)等。間預測部126從該等複數個模式,選擇用於導出當前區塊的MV的模式,並使用該已選擇的模式來導出當前區塊的MV。 [導出移動向量的流程]
圖18是顯示移動向量導出的另一例的流程圖。導出MV的模式,即間預測模式中有複數個模式,大致上可以分成:將差分MV進行編碼的模式、不將差分移動向量進行編碼的模式。在不將差分MV進行編碼的模式中有合併模式、FRUC模式及仿射模式(具體來說是仿射合併模式)。關於該等模式容後詳述,簡單來說,合併模式是從周邊的編碼完畢區塊選擇移動向量,藉此來導出當前區塊的MV的模式,FRUC模式是在編碼完畢區域間進行估測,藉此來導出當前區塊的MV的模式。又,仿射模式是假設仿射轉換來導出構成當前區塊的複數個子區塊各自的移動向量,作為當前區塊的MV的模式。
具體來說,在間預測模式資訊顯示0時(在Sf_1為0),間預測部126藉由合併模式來導出移動向量(Sf_2)。又,在間預測模式資訊顯示1時(在Sf_1為1),間預測部126藉由FRUC模式來導出移動向量(Sf_3)。又,在間預測模式資訊顯示2時(在Sf_1為2),間預測部126藉由仿射模式(具體來說是仿射合併模式)來導出移動向量(Sf_4)。又,在間預測模式資訊顯示3時(在Sf_1為3),間預測部126藉由將差分MV進行編碼的模式(例如正常間模式)來導出移動向量(Sf_5)。 [MV導出>正常間模式]
正常間模式是從藉由候選MV所示的參考圖片的區域,找出類似於當前區塊的圖像的區塊,藉此導出當前區塊的MV的間預測模式。又,在該正常間模式中,差分MV會被編碼。
圖19是顯示依正常間模式所進行的間預測之例的流程圖。
間預測部126首先根據時間上或者空間上位於當前區塊周圍的複數個編碼完畢區塊的MV等的資訊,對該當前區塊取得複數個候選MV(步驟Sg_1)。即,間預測部126作成候選MV清單。
其次,間預測部126從已在步驟Sg_1取得的複數個候選MV之中,依照已事先決定的優先順位擷取N個(N為2以上的整數)候選MV,將每一個作為移動向量預測子候選(也稱為預測MV候選)(步驟Sg_2)。另,該優先順位是對於N個候選MV之每一個已事先決定的。
接著,間預測部126從該N個移動向量預測子候選之中,選擇1個移動向量預測子候選來作為當前區塊的移動向量預測子(也稱為預測MV)(步驟Sg_3)。此時,間預測部126將用於識別已選擇的移動向量預測子的移動向量預測子選擇資訊編碼成串流。另,串流是上述的編碼訊號或者編碼位元流。
其次,間預測部126參考編碼完畢參考圖片,導出當前區塊的MV(步驟Sg_4)。此時,間預測部126進一步將該已導出的MV與移動向量預測子之差分值,作為差分MV編碼成串流。另,編碼完畢參考圖片是藉編碼後再構成的複數個區塊所構成的圖片。
最後,間預測部126使用該已導出的MV及編碼完畢參考圖片,對當前區塊進行移動補償,藉此產生該當前區塊的預測圖像(步驟Sg_5)。另,預測圖像為上述的間預測訊號。
又,顯示編碼訊號所含之用於產生預測圖像的間預測模式(在上述之例中是正常間模式)的資訊,例如作為預測參數而被編碼。
另,候選MV清單也可和其他模式所使用的清單共通地使用。又,也可將關於候選MV清單的處理適用在關於其他模式所使用的清單的處理。關於該候選MV清單的處理,例如為從候選MV清單之候選MV的擷取或者是選擇、候選MV的重新排列,或者是候選MV的刪除等。 [MV導出>合併模式]
合併模式為從候選MV清單,選擇候選MV來作為當前區塊的MV,藉此導出該MV的間預測模式。
圖20是顯示依合併模式所進行的間預測之例的流程圖。
間預測部126首先根據時間上或空間上位於當前區塊周圍的複數個編碼完畢區塊的MV等的資訊,對該當前區塊取得複數個候選MV(步驟Sh_1)。也就是說,間預測部126作成候選MV清單。
其次,間預測部126從已在步驟Sh_1所取得的複數個候選MV之中選擇1個候選MV,藉此導出當前區塊的MV(步驟Sh_2)。此時,間預測部126將用於識別已選擇的候選MV的MV選擇資訊編碼成串流。
最後,間預測部126使用該已導出的MV及編碼完畢參考圖片,對當前區塊進行移動補償,藉此產生該當前區塊的預測圖像(步驟Sh_3)。
又,顯示編碼訊號所含之用於產生預測圖像的間預測模式(在上述之例中是合併模式)的資訊,例如作為預測參數而被編碼。
圖21是用於說明合併模式之當前圖片的移動向量導出處理的一例之圖。
首先,產生已登錄有預測MV的候選的預測MV清單。以預測MV的候選來說,有如下MV等:空間鄰接預測MV,空間上位於對象區塊的周邊之複數個編碼完畢區塊所具有的MV;時間鄰接預測MV,編碼完畢參考圖片中的投影了對象區塊的位置附近的區塊所具有的MV;結合預測MV,組合空間鄰接預測MV及時間鄰接預測MV的MV值而產生的MV;及零預測MV,其值為零的MV。
其次,從已登錄在預測MV清單的複數個預測MV之中選擇1個預測MV,以此決定為對象區塊的MV。
進而,在可變長度編碼部中,將顯示已選擇了哪一個預測MV的訊號即merge_idx記述在串流中並進行編碼。
另,登錄在圖21所說明的預測MV清單的預測MV為一例,也可為與圖中的個數不同的個數,或者是不含有圖中的預測MV之一部分種類的構成,或者是追加了圖中的預測MV的種類以外的預測MV的構成。
也可使用藉由合併模式所導出的對象區塊的MV,進行後述的DMVR(dynamic motion vector refreshing)處理,藉此決定最後的MV。
另,預測MV的候選為上述候選MV,預測MV清單為上述的候選MV清單。又,也可將候選MV清單稱為候選清單。又,merge_idx為MV選擇資訊。 [MV導出>FRUC模式]
移動資訊也可不從編碼裝置側被訊號化,而是在解碼裝置側導出。另,如上述,也可使用以H.265/HEVC規格所規定的合併模式。又,例如也可在解碼裝置側進行移動估測,藉此來導出移動資訊。此時,在解碼裝置側不使用當前區塊的像素值來進行移動估測。
在此,針對在解碼裝置側進行移動估測之模式來說明。該在解碼裝置側進行移動估測的模式有時被稱為PMMVD(pattern matched motion vector derivation)模式或者FRUC(frame rate up-conversion)模式。
FRUC處理之一例是顯示在圖22中。首先,參考空間上或時間上鄰接於當前區塊的編碼完畢區塊之移動向量,產生複數個候選的清單(即候選MV清單,也可與合併清單為共通),複數個候選的清單各自具有移動向量(MV)預測子(步驟Si_1)。其次,從已登錄在候選MV清單的複數個候選MV之中選擇最佳候選MV(步驟Si_2)。例如,算出候選MV清單所含之各候選MV的評價值,根據評價值而選擇1個候選MV。接著,根據選擇的候選之移動向量,導出當前區塊用的移動向量(步驟Si_4)。具體來說,例如將選擇的候選之移動向量(最佳候選MV)直接作為當前區塊用的移動向量而導出。又,例如也可在對應於選擇的候選之移動向量的參考圖片內之位置的周邊區域中進行圖案匹配,藉此來導出當前區塊用的移動向量。即,也可以對於最佳候選MV之周邊的區域,進行參考圖片中的圖案匹配及使用了評價值之估測,在有評價值為更好的值的MV時,將最佳候選MV更新為前述MV,並將前述MV當作當前區塊之最後的MV。也可以構成為不實施進行更新之處理,而不更新成具有更好的評價值的MV。
最後,間預測部126使用該已導出的MV及編碼完畢參考圖片,對當前區塊進行移動補償,藉此產生該當前區塊的預測圖像(步驟Si_5)。
在以子區塊單位進行處理時,也可設成完全同樣的處理。
評價值也可以藉由各種的方法來算出。例如,比較對應於移動向量之參考圖片內的區域的再構成圖像與預定的區域(其區域例如後文所示,也可為其他參考圖片的區域或者當前圖片的鄰接區塊的區域鄰)的再構成圖像。然後,也可以算出2個再構成圖像的像素值的差分,使用在移動向量的評價值。另,除了差分值外,也可以使用除此以外的資訊來算出評價值。
其次,就圖案匹配來詳細說明。首先,選擇候選MV清單(例如合併清單)所含的1個候選MV來作為依圖案匹配所進行的估測的起始點。作為圖案匹配,是使用第1圖案匹配或者第2圖案匹配。第1圖案匹配及第2圖案匹配,有時分別被稱為雙向匹配(bilateral matching)以及模板匹配(template matching)。 [MV導出>FRUC>雙向匹配]
在第1圖案匹配中,是在2個區塊之間進行圖案匹配,其中前述2個區塊是不同的2個參考圖片內的2個區塊,且沿著當前區塊的移動軌跡(motion trajectory)。因此,在第1圖案匹配中,是使用沿著當前區塊的移動軌跡的其他參考圖片內之區域,來作為算出上述候選的評價值之用的預定區域。
圖23是用於說明在沿著移動軌跡的2個參考圖片中的2個區塊間之第1圖案匹配(雙向匹配)的一例之圖。如圖23所示,在第1圖案匹配下,在沿著當前區塊(Cur block)的移動軌跡之2個區塊且為不同的2個參考圖片(Ref0、Ref1)內的2個區塊之配對(pair)之中,估測最為相配的配對,藉此導出2個移動向量(MV0、MV1)。具體來說,對於當前區塊,導出以候選MV所指定的第1編碼完畢參考圖片(Ref0)內的指定位置之再構成圖像、與已將前述候選MV以顯示時間間隔進行縮放的對稱MV所指定的第2編碼完畢參考圖片(Ref1)內的指定位置之再構成圖像間的差分,使用所得到的差分值來算出評價值。在複數個候選MV之中,選擇評價值成為最佳值的候選MV作為最後MV即可。
在連續的移動軌跡的假設之下,指示2個參考區塊的移動向量(MV0、MV1)相對於當前圖片(Cur Pic)與2個參考圖片(Ref0、Ref1)間之時間上的距離(TD0、TD1)成比例。例如,當前圖片是時間上位於2個參考圖片之間,在從當前圖片到2個參考圖片的時間上的距離相等時,在第1圖案匹配上,能導出鏡射對稱的雙向的移動向量。 [MV導出>FRUC>模板匹配]
在第2圖案匹配(模板匹配)中,在當前圖片內的模板(在當前圖片內鄰接於當前區塊的區塊(例如上及/或左鄰接區塊))與參考圖片內的區塊之間進行圖案匹配。因此,在第2圖案匹配中,使用鄰接於當前圖片內的當前區塊的區塊,來作為上述之候選的評價值之算出用的預定區域。
圖24是用於說明在當前圖片內的模板與參考圖片內的區塊之間的圖案匹配(模板匹配)的一例之圖。如圖24所示,在第2圖案匹配中,在參考圖片(Ref0)內估測與在當前圖片(Cur Pic)內鄰接於當前區塊(Cur block)之區塊最匹配的區塊,藉此導出當前區塊的移動向量。具體來說,對於當前區塊,導出:左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以候選MV所指定的編碼完畢參考圖片(Ref0)內的同等位置的再構成圖像間之差分,且使用所得到的差分值算出評價值,在複數個候選MV之中選擇評價值成為最佳之值的候選MV,作為最佳候選MV即可。
如此之顯示是否適用FRUC模式之資訊(例如被稱為FRUC旗標)也可以CU等級而被訊號化。又,在適用FRUC模式時(例如FRUC旗標為真時),顯示可適用的圖案匹配之方法(第1圖案匹配或者第2圖案匹配)之資訊也可以CU等級而被訊號化。另,該等資訊之訊號化並不須限定於CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、CTU等級或者子區塊等級)。 [MV導出>仿射模式]
其次,說明根據複數個鄰接區塊的移動向量,且以子區塊單位來導出移動向量的仿射模式。該模式有時被稱為仿射移動補償預測(affine motion compensation prediction)模式。
圖25A是用於說明根據複數個鄰接區塊的移動向量之子區塊單位的移動向量之導出的一例之圖。在圖25A中,當前區塊含有16個4×4子區塊。在此,根據鄰接區塊的移動向量,導出當前區塊的左上角控制點的移動向量v 0,同樣地,根據鄰接區塊的移動向量,導出當前區塊的右上角控制點的移動向量v 1。接著,經由以下的式(1A),投影2個移動向量v 0及v 1,而導出當前區塊內的各子區塊的移動向量(v x,v y)。 (數1)
在此,x及y分別表示子區塊的水平位置及垂直位置,w表示已事先訂定的權重係數。
顯示如此之仿射模式之資訊(例如被稱為仿射旗標)是以CU等級而被訊號化。另,該顯示仿射模式之資訊的訊號化無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、CTU等級或者子區塊等級)。
又,在如此的仿射模式中,也可含有左上角及右上角控制點的移動向量的導出方法為相異的幾個模式。例如,在仿射模式中有仿射間(也稱為仿射正常間)模式、及仿射合併模式2個模式。 [MV導出>仿射模式]
圖25B是用於說明具有3個控制點之仿射模式中的子區塊單位的移動向量之導出的一例之圖。在圖25B中,當前區塊含有16個4×4子區塊。在此,根據鄰接區塊的移動向量,導出當前區塊的左上角控制點的移動向量v 0,同樣地,根據鄰接區塊的移動向量,導出當前區塊的右上角控制點的移動向量v 1,根據鄰接區塊的移動向量,導出當前區塊的左下角控制點的移動向量v 2。接著,經由以下的式(1B),投影3個移動向量v 0、v 1及v 2,而導出當前區塊內的各子區塊的移動向量(v x,v y)。 (數2)
在此,x及y分別表示子區塊中心的水平位置及垂直位置,w表示當前區塊的寬度,h表示當前區塊的高度。
控制點數量不同(例如2個及3個)的仿射模式也可以CU等級切換而被訊號化。另,表示在CU等級下使用的仿射模式的控制點數量之資訊也可以其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、CTU等級或者子區塊等級)來被訊號化。
又,在如此之具有3個控制點的仿射模式中,也可含有左上、右上及左下角控制點的移動向量的導出方法為不同的幾個模式。例如在仿射模式中有仿射間(也稱為仿射正常間)模式及仿射合併模式2個模式。 [MV導出>仿射合併模式]
圖26A、圖26B及圖26C是用於說明仿射合併模式的概念圖。
在仿射合併模式中,如圖26A所示,例如在鄰接於當前區塊的編碼完畢區塊A(左)、區塊B(上)、區塊C(右上)、區塊D(左下)及區塊E(左上)之中,根據對應於藉仿射模式所編碼的區塊的複數個移動向量,來算出當前區塊的控制點各自的移動向量預測子。具體來說,以編碼完畢區塊A(左)、區塊B(上)、區塊C(右上)、區塊D(左下)及區塊E(左上)的順序檢查該等區塊,來特定已藉仿射模式編碼的最初的有效的區塊。根據對應於該已特定的區塊之複數個移動向量,來算出當前區塊的控制點的移動向量預測子。
例如,如圖26B所示,在以鄰接於當前區塊的左邊之區塊A具有2個控制點的仿射模式進行編碼時,會導出投影在含有區塊A的編碼完畢區塊的左上角及右上角的位置的移動向量v 3及v 4。然後,從所導出的移動向量v 3及v 4,算出當前區塊的左上角的控制點的移動向量預測子v 0、及右上角的控制點的移動向量預測子v 1
例如,如圖26C所示,在以鄰接於當前區塊的左邊之區塊A具有3個控制點的仿射模式進行編碼時,會導出投影在含有區塊A的編碼完畢區塊的左上角、右上角及左下角的位置的移動向量v 3、v 4及v 5。然後,從所導出的移動向量v 3、v 4及v 5,算出當前區塊的左上角的控制點的移動向量預測子v 0、右上角的控制點的移動向量預測子v 1及左下角的控制點的移動向量預測子v 2
另,後述之圖29的步驟Sj_1中的當前區塊的控制點各自的移動向量預測子的導出,也可使用該移動向量預測子導出方法。
圖27是顯示仿射合併模式的一例之流程圖。
在仿射合併模式中,首先,間預測部126導出當前區塊的控制點各自的預測MV(步驟Sk_1)。控制點如圖25A所示,為當前區塊的左上角及右上角的點,或者如圖25B所示,為當前區塊的左上角、右上角及左下角的點。
也就是說,間預測部126如圖26A所示,按編碼完畢區塊A(左)、區塊B(上)、區塊C(右上)、區塊D(左下)及區塊E(左上)的順序檢查該等區塊,來特定已藉仿射模式所編碼的最初的有效的區塊。
接著,在區塊A已被特定且區塊A具有2個控制點時,如圖26B所示,間預測部126從含有區塊A的編碼完畢區塊的左上角及右上角的移動向量v 3及v 4,算出當前區塊的左上角的控制點的移動向量v 0、及右上角的控制點的移動向量v 1。例如,間預測部126將編碼完畢區塊的左上角及右上角的移動向量v 3及v 4投影到當前區塊,藉此算出當前區塊的左上角的控制點的移動向量預測子v 0及右上角的控制點的移動向量預測子v 1
或者,在區塊A已被特定且區塊A具有3個控制點時,如圖26C所示,間預測部126從含有區塊A的編碼完畢區塊的左上角、右上角及左下角的移動向量v 3、v 4及v 5,算出當前區塊的左上角的控制點的移動向量v 0、右上角的控制點的移動向量v 1、左下角的控制點的移動向量v 2。例如,間預測部126將編碼完畢區塊的左上角、右上角及左下角的移動向量v 3、v 4及v 5投影到當前區塊,藉此算出當前區塊的左上角的控制點的移動向量預測子v 0、右上角的控制點的移動向量預測子v 1及左下角的控制點的移動向量v 2
其次,間預測部126對當前區塊所含的複數個子區塊之各個來進行移動補償。即,間預測部126針對該等複數個子區塊的各個,使用2個移動向量預測子v 0及v 1與上述之式(1A)、或者3個移動向量預測子v 0、v 1及v 2與上述之式(1B),算出該等子區塊的移動向量,來作為仿射MV(步驟Sk_2)。然後,間預測部126使用該等仿射MV及編碼完畢參考圖片,對該等子區塊進行移動補償(步驟Sk_3)。其結果,能對當前區塊進行移動補償,產生該當前區塊的預測圖像。 [MV導出>仿射間模式]
圖28A是用於說明具有2個控制點的仿射間模式的圖。
在該仿射間模式中,如圖28A所示,從鄰接於當前區塊的編碼完畢區塊A、區塊B及區塊C的移動向量所選擇的移動向量,會作為當前區塊的左上角的控制點的移動向量預測子v 0來使用。同樣地,從鄰接於當前區塊的編碼完畢區塊D及區塊E的移動向量所選擇的移動向量,會作為當前區塊的右上角的控制點的移動向量預測子v 1來使用。
圖28B是用於說明具有3個控制點的仿射間模式的圖。
在該仿射間模式中,如圖28B所示,從鄰接於當前區塊的編碼完畢區塊A、區塊B及區塊C的移動向量所選擇的移動向量,會作為當前區塊的左上角的控制點的移動向量預測子v 0來使用。同樣地,從鄰接於當前區塊的編碼完畢區塊D及區塊E的移動向量所選擇的移動向量,會作為當前區塊的右上角的控制點的移動向量預測子v 1來使用。進而,從鄰接於當前區塊的編碼完畢區塊F及區塊G的移動向量所選擇的移動向量,會作為當前區塊的左下角的控制點的移動向量預測子v 2來使用。
圖29是顯示仿射間模式的一例之流程圖。
在仿射間模式中,首先,間預測部126導出當前區塊的2個或者3個控制點各自的預測MV(v 0,v 1)或者(v 0,v 1,v 2)(步驟Sj_1)。如圖25A或者圖25B所示,控制點為當前區塊的左上角、右上角或者左下角的點。
也就是說,間預測部126選擇圖28A或者圖28B所示的當前區塊的各控制點附近的編碼完畢區塊之中的任一個區塊的移動向量,藉此導出當前區塊的控制點的移動向量預測子(v 0,v 1)或者(v 0,v 1,v 2)。此時,間預測部126將用於識別已選擇的2個移動向量的移動向量預測子選擇資訊編碼成串流。
例如,間預測部126也可使用成本評價等,來決定要從鄰接於當前區塊的編碼完畢區塊,選擇哪一個區塊的移動向量,來作為控制點的移動向量預測子,並將表示已選擇了哪一個移動向量預測子的旗標記述在位元流。
其次,間預測部126一邊更新在步驟Sj_1所選擇或者所導出的每一個移動向量預測子(步驟Sj_2),一邊進行移動估測(步驟Sj_3及Sj_4)。也就是說,間預測部126使用上述的式(1A)或者式(1B),算出對應於所更新的移動向量預測子之各子區塊的移動向量,來作為仿射MV(步驟Sj_3)。然後,間預測部126使用該等仿射MV及編碼完畢參考圖片,對各子區塊進行移動補償(步驟Sj_4)。其結果,間預測部126在移動估測迴路中,將例如得到最小成本的移動向量預測子,決定為控制點的移動向量(步驟Sj_5)。此時,間預測部126進一步將該已決定的MV與移動向量預測子各自的差分值,作為差分MV來編碼成串流。
最後,間預測部126使用該已決定的MV及編碼完畢參考圖片,對當前區塊進行移動補償,藉此產生該當前區塊的預測圖像(步驟Sj_6)。 [MV導出>仿射間模式]
在CU等級下切換控制點數量不同(例如2個及3個)的仿射模式並進行訊號化時,有在編碼完畢區塊與當前區塊中控制點的數量不同的情況。圖30A及圖30B是用於說明在編碼完畢區塊與當前區塊中控制點的數量不同時的控制點之預測向量導出方法的概念圖。
例如,如圖30A所示,在以當前區塊具有左上角、右上角及左下角之3個控制點、且鄰接於當前區塊的左邊之區塊A具有2個控制點的仿射模式進行編碼時,會導出投影到含有區塊A的編碼完畢區塊的左上角及右上角的位置之移動向量v 3及v 4。然後,從已導出的移動向量v 3及v 4,來算出當前區塊的左上角的控制點的移動向量預測子v 0、及右上角的控制點的移動向量預測子v 1。進而,從已導出的移動向量v 0及v 1,來算出左下角的控制點的移動向量預測子v 2
例如,如圖30B所示,在以當前區塊具有左上角及右上角之2個控制點、且鄰接於當前區塊的左邊之區塊A具有3個控制點的仿射模式進行編碼時,會導出投影到含有區塊A的編碼完畢區塊的左上角、右上角及左下角的位置之移動向量v 3、v 4及v 5。然後,從已導出的移動向量v 3、v 4及v 5,來算出當前區塊的左上角的控制點的移動向量預測子v 0、及右上角的控制點的移動向量預測子v 1
對於圖29的步驟Sj_1中的當前區塊的控制點各自的移動向量預測子的導出,也可使用該移動向量預測子導出方法。 [MV導出>DMVR]
圖31A是顯示合併模式及DMVR的關係之圖。
間預測部126以合併模式來導出當前區塊的移動向量(步驟Sl_1)。其次,間預測部126判定是否進行移動向量的估測,即判定是否進行移動估測(步驟Sl_2)。在此,間預測部126在判定為不進行移動估測時(步驟Sl_2之否),將步驟Sl_1所導出的移動向量決定為對於當前區塊的最後的移動向量(步驟Sl_4)。即,在此時,以合併模式來決定當前區塊的移動向量。
另一方面,在步驟Sl_1判定為進行移動估測時(步驟Sl_2的是),間預測部126估測藉由步驟Sl_1所導出的移動向量所示的參考圖片的周邊區域,藉此對於當前區塊導出最後的移動向量(步驟Sl_3)。即,在此時,以DMVR來決定當前區塊的移動向量。
圖31B是用於說明用來決定MV的DMVR處理的一例之概念圖。
首先,(例如在合併模式中)令設定在當前區塊的最適MVP為候選MV。接著,依照候選MV(L0),從L0方向的編碼完畢圖片即第1參考圖片(L0)特定出參考像素。同樣地,依照候選MV(L1),從L1方向的編碼完畢圖片即第2參考圖片(L1)特定出參考像素。取該等參考像素的平均,以此產生模板。
其次,使用前述模板,分別估測第1參考圖片(L0)及第2參考圖片(L1)的候選MV之周邊區域,將成本成為最小的MV決定為最後的MV。另,成本值例如也可利用模板的各像素值與估測區域的各像素值之差分值及候選MV值等來算出。
另,在編碼裝置及後述之解碼裝置中,在此所說明的處理之構成及動作基本上是共通的。
就算不是在此所說明的處理本身,只要是能估測候選MV的周邊而導出最後的MV之處理,使用任何處理皆可。 [移動補償>BIO/OBMC]
在移動補償中,有產生預測圖像且補正該預測圖像的模式。該模式例如為後述的BIO及OBMC。
圖32是顯示預測圖像之產生的一例的流程圖。
間預測部126產生預測圖像(步驟Sm_1),且藉由上述任一種模式來補正該預測圖像(步驟Sm_2)。
圖33是顯示預測圖像之產生的另一例的流程圖。
間預測部126決定當前區塊的移動向量(步驟Sn_1)。其次,間預測部126產生預測圖像(步驟Sn_2),判定是否進行補正處理(步驟Sn_3)。在此,間預測部126在判定為進行補正處理時(步驟Sn_3之是),補正該預測圖像,藉此產生最後的預測圖像(步驟Sn_4)。另一方面,間預測部126在判定為不進行補正處理時(步驟Sn_3之否),不進行補正,將該預測圖像作為最後的預測圖像來輸出(步驟Sn_5)。
又,在移動補償中,有在產生預測圖像時補正亮度的模式。該模式例如為後述的LIC。
圖34是顯示預測圖像之產生的更另一例的流程圖。
間預測部126導出當前區塊的移動向量(步驟So_1)。其次,間預測部126判定是否進行亮度補正處理(步驟So_2)。在此,間預測部126在判定為進行亮度補正處理時(步驟So_2之是),一邊進行亮度補正,一邊產生預測圖像(步驟So_3)。也就是說,藉LIC來產生預測圖像。另一方面,間預測部126在判定為不進行亮度補正處理時(步驟So_2之否),不進行亮度補正,且藉由通常的移動補償來產生預測圖像(步驟So_4)。 [移動補償>OBMC]
也可不僅使用透過移動估測所得到的當前區塊的移動資訊,還使用鄰接區塊的移動資訊,來產生間預測訊號。具體來說,也可將基於透過(參考圖片內的)移動估測所得到的移動資訊之預測訊號、與基於(當前圖片內的)鄰接區塊的移動資訊之預測訊號進行加權加總,藉此以當前區塊內的子區塊單位來產生間預測訊號。如此之間預測(移動補償)有時被稱為OBMC (overlapped block motion compensation)。
在OBMC模式中,顯示OBMC用的子區塊的尺寸之資訊(例如被稱為OBMC區塊尺寸)也可以序列等級而被訊號化。進而,顯示是否適用OBMC模式的資訊(例如被稱作OBMC旗標)也可以CU等級而被訊號化。另,該等資訊的訊號化的等級並無須限定在序列等級及CU等級,也可為其他等級(例如圖片等級、切片等級、圖塊等級、CTU等級、或者子區塊等級)。
更具體地來說明OBMC模式。圖35及圖36是用來說明OBMC處理所進行的預測圖像補正處理的概要之流程圖及概念圖。
首先,如圖36所示,使用被分配到處理對象(當前)區塊之移動向量(MV),來取得依通常的移動補償所得到之預測圖像(Pred)。在圖36中,“MV”箭頭符號指向參考圖片,表示為了獲得預測圖像,當前圖片的當前區塊正在參考何者。
其次,將已對編碼完畢的左鄰接區塊導出的移動向量(MV_L)適用(再利用)在編碼對象區塊,以取得預測圖像(Pred_L)。移動向量(MV_L)是藉由從當前區塊指向參考圖片的”MV_L”箭頭符號所表示。接著,將2個預測圖像Pred與Pred_L重疊,以此進行預測圖像的第1次補正。這具有將鄰接區塊間的邊界混合的效果。
同樣地,將已對編碼完畢的上鄰接區塊導出的移動向量(MV_U)適用(再利用)在編碼對象區塊,以取得預測圖像(Pred_U)。移動向量(MV_U)是藉由從當前區塊指向參考圖片的”MV_U”箭頭符號所表示。然後,將預測圖像Pred_U重疊在已進行第1次補正的預測圖像(例如Pred及Pred_L),以此進行預測圖像的第2次補正。這具有將鄰接區塊間的邊界混合的效果。藉由第2次補正所獲得的預測圖像,為與鄰接區塊的邊界已被混合(已平滑化)之當前區塊的最後的預測圖像。
另,上述之例是使用左鄰接與上鄰接的區塊之2階段的補正方法,但該補正方法也能為連右鄰接及/或下鄰接的區塊都使用的3階段或者比這更多階段的補正方法。
另,進行重疊的區域也可僅為區塊邊界附近之一部分的區域,而非區塊整體的像素區域。
另,在此說明的是用於從1張參考圖片重疊追加的預測圖像Pred_L及Pred_U並藉此得到1個預測圖像Pred的OBMC之預測圖像補正處理。但是在根據複數張參考圖像來補正預測圖像時,同樣的處理也可適用在複數張參考圖片之各張。如此情況下,是進行根據複數張參考圖片的OBMC之圖像補正,藉此從各個參考圖片取得已補正的預測圖像,之後將其所取得的複數個補正預測圖像進一步重疊,以此取得最後的預測圖像。
另,在OBMC中,對象區塊的單位可為預測區塊單位,也可為將預測區塊進一步分割的子區塊單位。
作為判定是否適用OBMC處理的方法,例如有使用obmc_flag的方法,obmc_flag是顯示是否適用OBMC處理的訊號。以一具體例來說,編碼裝置也可判定對象區塊是否屬於移動複雜的區域。在屬於移動複雜的區域時,編碼裝置設定值1來作為obmc_flag,適用OBMC處理來進行編碼,在不屬於移動複雜的區域時,則設定值0來作為obmc_flag,不適用OBMC處理來進行區塊的編碼。另一方面,在解碼裝置中,將記述在串流(例如壓縮序列)的obmc_flag進行解碼,藉此因應該值切換是否適用OBMC處理,來進行解碼。
間預測部126在上述之例中,對於矩形當前區塊,產生1個矩形預測圖像。惟,間預測部126也可對於該矩形當前區塊,產生與矩形不同形狀的複數個預測圖像,將該等複數個預測圖像結合,藉此產生最後的矩形預測圖像。與矩形不同的形狀例如也可為三角形。
圖37是用於說明產生2個三角形預測圖像的圖。
間預測部126對當前區塊內的三角形第1分區,使用該第1分區的第1MV來進行移動補償,藉此產生三角形預測圖像。同樣地,間預測部126對當前區塊內的三角形第2分區,使用該第2分區的第2MV來進行移動補償,藉此產生三角形預測圖像。然後,間預測部126結合該等預測圖像,產生與當前區塊同為矩形的預測圖像。
另,在圖37所示之例中,第1分區及第2分區各自為三角形,但也可為梯形,也可分別為互相不同的形狀。進而,在圖37所示之例中,當前區塊是由2個分區所構成,但也可由3個以上的分區所構成。
又,第1分區及第2分區也可以重複。即,第1分區及第2分區也可含有相同的像素區域。此時,也可使用第1分區中的預測圖像及第2分區中的預測圖像,來產生當前區塊的預測圖像。
又,在該例中,是顯示了2個分區都是以間預測來產生預測圖像的例子,但也可針對至少1個分區,藉內預測來產生預測圖像。
[移動補償>BIO] 其次,針對導出移動向量的方法進行說明。首先針對根據模型來導出移動向量的模式進行說明,其中前述模型為假設為等速直線運動之模型。該模式有時被稱為BIO (bi-directional optical flow,雙向光流)模式。
圖38是用於說明假設為等速直線運動的模型之圖。在圖38中,(v x,v y)是表示速度向量,τ 0、τ 1各表示當前圖片(Cur Pic)與2個參考圖片(Ref 0,Ref 1)間的時間上的距離。(MVx 0,MVy 0)是表示對應於參考圖片Ref 0之移動向量,(MVx 1、MVy 1)是表示對應於參考圖片Ref 1之移動向量。
此時,在速度向量(v x,v y)為等速直線運動的假設之下,(MVx 0,MVy 0)及(MVx 1,MVy 1)各表示為(v xτ 0,v yτ 0)及(-v xτ 1,-v yτ 1),以下的光流等式(2)成立。 (數3)
在此,I (k)是表示移動補償後之參考圖像k(k=0,1)的亮度值。該光流等式表示(i)亮度值的時間微分、(ii)水平方向的速度及參考圖像的空間梯度的水平成分的乘積、與(iii)垂直方向的速度及參考圖像的空間梯度的垂直成分的乘積之和等於零。也可根據該光流等式與赫米特內插法(Hermite interpolation)之組合,將從合併清單等所得到的區塊單位之移動向量以像素單位進行補正。
另,也可以藉由與根據假設為等速直線運動之模型來導出移動向量的方法不同的方法,在解碼裝置側導出移動向量。例如,也可根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量。 [移動補償>LIC]
其次,針對使用LIC(local illumination compensation)處理來產生預測圖像(預測)的模式之一例進行說明。
圖39是用於說明使用依LIC處理所進行的亮度補正處理的預測圖像產生方法的一例之圖。
首先,從編碼完畢的參考圖片導出MV,取得對應於當前區塊的參考圖像。
其次,對當前區塊擷取顯示亮度值在參考圖片與當前圖片是如何變化的資訊。該擷取是根據當前圖片中的編碼完畢左鄰接參考區域(周邊參考區域)及編碼完畢上鄰接參考區域(周邊參考區域)的亮度像素值、與藉已導出的MV所指定的參考圖片內的同等位置的亮度像素值來進行。然後,使用顯示亮度值如何變化的資訊,來算出亮度補正參數。
對藉MV所指定的參考圖片內的參考圖像,進行適用前述亮度補正參數的亮度補正處理,以此產生對於當前區塊的預測圖像。
另,圖39中的前述周邊參考區域的形狀只是一個例子而已,也可使用除此之外的形狀。
又,在此已針對從1張參考圖片來產生預測圖像的處理進行說明,但從複數張的參考圖片來產生預測圖像的情況也是同樣,也可以先對已從各個參考圖片所取得的參考圖像,以與上述同樣的方法進行亮度補正處理,之後再產生預測圖像。
以判定是否適用LIC處理之方法來說,例如有使用lic_flag之方法,該lic_flag是表示是否適用LIC處理的訊號。以具體的一例來說,在編碼裝置中,判定當前區塊是否屬於發生了亮度變化之區域,若屬於發生了亮度變化的區域時,對lic_flag設定其值為1,適用LIC處理進行編碼,若不屬於發生了亮度變化之區域時,則對lic_flag設定其值為0,不適用LIC處理進行編碼。另一方面,在解碼裝置中,也可以將記述於串流之lic_flag進行解碼,藉此因應其值切換是否適用LIC處理來進行解碼。
以判定是否適用LIC處理之另一方法來說,例如還有如下方法,即,依照在周邊區塊是否適用過LIC處理來判定。以具體的一例來說,在當前區塊為合併模式時,判定在合併模式處理中的MV之導出時所選擇的周邊的編碼完畢區塊是否已適用LIC處理而進行編碼。因應其結果,切換是否適用LIC處理而進行編碼。另,在該例的情況,相同處理也適用在解碼裝置側的處理。
已使用圖39來說明LIC處理(亮度補正處理),詳細說明如下。
首先,間預測部126從編碼完畢圖片即參考圖片導出移動向量,該移動向量用於取得對應於編碼對象區塊的參考圖像。
其次,間預測部126對於編碼對象區塊,使用左鄰接及上鄰接的編碼完畢周邊參考區域的亮度像素值、以移動向量所指定的參考圖片內的同等位置的亮度像素值,擷取顯示亮度值在參考圖片與編碼對象圖片如何變化的資訊,來算出亮度補正參數。例如,令編碼對象圖片內的周邊參考區域內的某像素的亮度像素值為p0,與該像素同等位置的參考圖片內的周邊參考區域內的像素的亮度像素值為p1。間預測部126對於周邊參考區域內的複數個像素,算出將A×p1+B=p0進行最適化的係數A及B,來作為亮度補正參數。
其次,間預測部126對於以移動向量所指定的參考圖片內的參考圖像使用亮度補正參數來進行亮度補正處理,藉此產生對於編碼對象區塊之預測圖像。例如,令參考圖像內的亮度像素值為p2,亮度補正處理後的預測圖像的亮度像素值為p3。間預測部126對於參考圖像內的各像素,算出A×p2+B=p3,藉此產生亮度補正處理後的預測圖像。
另,圖39中的周邊參考區域的形狀只是一個例子而已,也可使用除此之外的形狀。又,也可使用圖39所示的周邊參考區域的一部分。例如,也可使用含有從上鄰接像素及左鄰接像素各自減去預定數的像素之區域來作為周邊參考區域。又,周邊參考區域不限於鄰接於編碼對象區塊的區域,也可為不鄰接於編碼對象區塊的區域。又,在圖39所示之例中,參考圖片內的周邊參考區域為從編碼對象圖片內的周邊參考區域以編碼對象圖片的移動向量所指定的區域,但也可為以其他移動向量所指定的區域。例如,該其他移動向量也可為編碼對象圖片內的周邊參考區域的移動向量。
另,在此說明的雖然是編碼裝置100的動作,但是解碼裝置200的動作也是同樣。
另,LIC處理不只可適用於亮度,也可適用於色差。此時,可對Y、Cb及Cr各自個別地導出補正參數,也可對任一個使用共通的補正參數。
又,LIC處理也可在子區塊單位下適用。例如,也可使用當前子區塊的周邊參考區域、及以當前子區塊的MV所指定的參考圖片內的參考子區塊的周邊參考區域,來導出補正參數。 [預測控制部]
預測控制部128選擇內預測訊號(從內預測部124所輸出的訊號)及間預測訊號(從間預測部126所輸出的訊號)之任一種,且將所選擇的訊號作為預測訊號,輸出至減法部104及加法部116。
如圖1所示,在各種的安裝例中,預測控制部128也可輸出輸入於熵編碼部110的預測參數。熵編碼部110也可根據從預測控制部128所輸入的其預測參數、及從量化部108所輸入的量化係數,產生編碼位元流(或者序列)。預測參數也可使用在解碼裝置。解碼裝置也可接收編碼位元流來進行解碼,並進行與內預測部124、間預測部126及預測控制部128中所進行的預測處理相同的處理。預測參數也可含有:選擇預測訊號(例如移動向量、預測類型、或者在內預測部124或間預測部126使用的預測模式),或者,根據內預測部124、間預測部126及預測控制部128中所進行的預測處理、或者顯示該預測處理的任意的索引、旗標、或者值。 [編碼裝置的安裝例]
圖40是顯示編碼裝置100的安裝例的方塊圖。編碼裝置100具備處理器a1及記憶體a2。例如,圖1所示的編碼裝置100的複數個構成要素是藉由圖40所示的處理器a1及記憶體a2來安裝。
處理器a1是進行資訊處理的電路,且為可對記憶體a2進行存取的電路。例如,處理器a1是將動態圖像進行編碼之專用或者通用的電子電路。處理器a1也可為如CPU般之處理器。又,處理器a1也可為複數個電子電路的集合體。又,例如處理器a1也可實現圖1等所示之編碼裝置100之複數個構成要素中除了用來儲存資訊的構成要素之外的複數個構成要素的作用。
記憶體a2是專用或者通用的記憶體,儲存有處理器a1用來將動態圖像進行編碼之資訊。記憶體a2也可為電子電路,也可連接於處理器a1。又,記憶體a2也可包含在處理器a1。又,記憶體a2也可為複數個電子電路的集合體。又,記憶體a2也可為磁碟或者是光碟等,也可呈現為儲存裝置(storage)或者是記錄媒體等。又,記憶體a2也可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體a2也可儲存要編碼的動態圖像,也可儲存對應於已進行編碼的動態圖像之位元列。又,記憶體a2也可儲存處理器a1用來將動態圖像進行編碼的程式。
又,例如,記憶體a2也可實現在圖1等所示之編碼裝置100之複數個構成要素中用來儲存資訊之構成要素的作用。具體來說,記憶體a2也可實現圖1所示之區塊記憶體118及幀記憶體122之作用。更具體來說,記憶體a2也可儲存再構成完畢區塊及再構成完畢圖片等。
另,在編碼裝置100中,也可不安裝圖1等所示的複數個構成要素的全部,也可不進行上述之複數個處理的全部。圖1等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可藉其他裝置來執行。 [解碼裝置]
其次,針對可將從上述之編碼裝置100所輸出的編碼訊號(編碼位元流)進行解碼的解碼裝置來說明。圖41是顯示本實施形態之解碼裝置200的功能構成的方塊圖。解碼裝置200是以區塊單位來將動態圖像進行解碼的動態圖像解碼裝置。
如圖41所示,解碼裝置200包含有熵解碼部202、反量化部204、反轉換部206、加法部208、區塊記憶體210、迴路濾波部212、幀記憶體214、內預測部216、間預測部218、及預測控制部220。
解碼裝置200例如可藉由通用處理器及記憶體來實現。此時,記憶體所儲存的軟體程式藉由處理器來執行時,處理器是作為熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220而運作。又,解碼裝置200也可作為對應於熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220之專用的1個以上的電子電路來實現。
以下,在說明過解碼裝置200的整體的處理的流程之後,再針對解碼裝置200包含的各構成要素進行說明。 [解碼處理的整體流程]
圖42是顯示解碼裝置200的整體的解碼處理的一例之流程圖。
首先,解碼裝置200的熵解碼部202特定出固定尺寸的區塊(128×128像素)的分割圖案(步驟Sp_1)。該分割圖案為藉由編碼裝置100所選擇的分割圖案。然後,解碼裝置200對於構成該分割圖案的複數個區塊之各個進行步驟Sp_2至Sp_6的處理。
也就是說,熵解碼部202將解碼對象區塊(也稱為當前區塊)的已編碼的量化係數及預測參數進行解碼(具體來說是熵解碼)(步驟Sp_2)。
其次,反量化部204及反轉換部206對複數個量化係數進行反量化及反轉換,藉此將複數個預測殘差(即差分區塊)復原(步驟Sp_3)。
其次,由內預測部216、間預測部218及預測控制部220的全部或者一部分所構成的預測處理部產生當前區塊的預測訊號(也稱為預測區塊)(步驟Sp_4)。
其次,加法部208在差分區塊加上預測區塊,藉此來將當前區塊再構成為再構成圖像(也稱為解碼圖像區塊)(步驟Sp_5)。
且,一產生該再構成圖像,迴路濾波部212就對該再構成圖像進行濾波(步驟Sp_6)。
然後,解碼裝置200判定圖片整體的解碼是否已完成(步驟Sp_7),判定為未完成時(步驟Sp_7之否),重複執行從步驟Sp_1起之處理。
另,該等步驟Sp_1至Sp_7的處理也可藉解碼裝置200而按序進行,也可將該等處理之中一部分的複數個處理並列進行,也可把順序對調。 [熵解碼部]
熵解碼部202將編碼位元流進行熵解碼。具體來說,熵解碼部202例如是從編碼位元流進行算術解碼而變成二值訊號。接著,熵解碼部202將二值訊號進行多值化(debinarize)。熵解碼部202是以區塊單位將量化係數輸出至反量化部204。熵解碼部202也可將編碼位元流(參考圖1)所含的預測參數輸出到內預測部216、間預測部218及預測控制部220。內預測部216、間預測部218及預測控制部220可執行與編碼裝置側中的內預測部124、間預測部126及預測控制部128所進行的處理相同的預測處理。 [反量化部]
反量化部204將解碼對象區塊(以下稱為當前區塊)的量化係數進行反量化,其中解碼對象區塊為來自熵解碼部202的輸入。具體來說,反量化部204針對當前區塊的量化係數之各個,根據對應於該量化係數之量化參數,將該量化係數進行反量化。然後,反量化部204將當前區塊的業經反量化之量化係數(即轉換係數)輸出至反轉換部206。 [反轉換部]
反轉換部206將轉換係數進行反轉換,藉此復原預測誤差,其中轉換係數為來自反量化部204之輸入。
例如在已從編碼位元流解讀的資訊是顯示適用EMT或者AMT的時候(例如AMT旗標為真),反轉換部206根據顯示已解讀的轉換類型的資訊,將當前區塊的轉換係數進行反轉換。
又,例如已從編碼位元流解讀的資訊是顯示適用NSST的時候,反轉換部206對轉換係數適用反再轉換。 [加法部]
加法部208將預測誤差與預測樣本相加,藉此再構成當前區塊,其中預測誤差是來自反轉換部206之輸入,預測樣本是來自預測控制部220之輸入。然後,加法部208將業經再構成的區塊輸出至區塊記憶體210及迴路濾波部212。 [區塊記憶體]
區塊記憶體210是用於儲存在內預測中被參考的區塊且為解碼對象圖片(以下稱為當前圖片)內的區塊之記憶部。具體來說,區塊記憶體210儲存從加法部208所輸出的再構成區塊。 [迴路濾波部]
迴路濾波部212對已藉由加法部208而再構成的區塊施行迴路濾波,且將業已濾波的再構成區塊輸出至幀記憶體214及顯示裝置等。
在已從編碼位元流解讀之顯示ALF之開啟/關閉的資訊是顯示ALF之開啟的時候,根據一部分的梯度的方向及活性度,從複數個濾波器之中選擇1個濾波器,將所選擇的濾波器適用於再構成區塊。 [幀記憶體]
幀記憶體214是用於儲存使用在間預測的參考圖片之記憶部,有時也被稱為幀緩衝器。具體來說,幀記憶體214是儲存經由迴路濾波部212所濾波的再構成區塊。 [預測處理部(內預測部・間預測部・預測控制部)]
圖43是顯示在解碼裝置200的預測處理部所進行的處理的一例之圖。另,預測處理部是由內預測部216、間預測部218、及預測控制部220的全部或者一部分的構成要素所構成。
預測處理部產生當前區塊的預測圖像(步驟Sq_1)。該預測圖像也稱為預測訊號或者預測區塊。另,預測訊號例如有內預測訊號或者間預測訊號。具體來說,預測處理部使用藉由進行了預測區塊的產生、差分區塊的產生、係數區塊的產生、差分區塊的復原、及解碼圖像區塊的產生而得到的再構成圖像,來產生當前區塊的預測圖像。
再構成圖像例如也可為參考圖片的圖像,也可為含有當前區塊的圖片即當前圖片內的解碼完畢的區塊的圖像。當前圖片內的解碼完畢的區塊例如為當前區塊的鄰接區塊。
圖44是顯示在解碼裝置200的預測處理部所進行的處理之另一例的圖。
預測處理部判定用來產生預測圖像的方式或者模式(步驟Sr_1)。例如,該方式或者模式也可根據例如預測參數等來判定。
預測處理部在判定用來產生預測圖像的模式為第1方式時,依照該第1方式來產生預測圖像(步驟Sr_2a)。又,預測處理部在判定用來產生預測圖像的模式為第2方式時,依照該第2方式來產生預測圖像(步驟Sr_2b)。又,預測處理部在判定用來產生預測圖像的模式為第3方式時,依照該第3方式來產生預測圖像(步驟Sr_2c)。
第1方式、第2方式、及第3方式為用來產生預測圖像之互相不同的方式,也可分別為例如間預測方式、內預測方式及這些以外的預測方式。在該等預測方式中,也可使用上述之再構成圖像。 [內預測部]
內預測部216根據已從編碼位元流解讀的內預測模式,參考區塊記憶體210所儲存的當前圖片內的區塊來進行內預測,藉此產生預測訊號(內預測訊號)。具體來說,內預測部216參考鄰接於當前區塊的區塊的樣本(例如亮度值、色差值)來進行內預測,藉此產生內預測訊號,且將內預測訊號輸出至預測控制部220。
另,當在色差區塊的內預測中選擇了參考亮度區塊的內預測模式時,內預測部216也可根據當前區塊的亮度成分,預測當前區塊的色差成分。
又,在已從編碼位元流解讀的資訊顯示PDPC的適用時,內預測部216根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。 [間預測部]
間預測部218參考幀記憶體214所儲存的參考圖片來預測當前區塊。預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位進行。例如,間預測部218使用已從編碼位元流(例如,從熵解碼部202輸出的預測參數)解讀的移動資訊(例如移動向量)來進行移動補償,藉此產生當前區塊或者子區塊的間預測訊號,且將間預測訊號輸出至預測控制部220。
另,在已從編碼位元流解讀的資訊是顯示適用OBMC模式時,間預測部218不只是利用藉由移動估測而得到的當前區塊的移動資訊,還利用鄰接區塊的移動資訊來產生間預測訊號。
又,在已從編碼位元流解讀的資訊是顯示適用FRUC模式時,間預測部218依照已從編碼串流解讀的圖案匹配的方法(雙向匹配或者模板匹配)來進行移動估測,藉此導出移動資訊。然後,間預測部218使用所導出的移動資訊,來進行移動補償(預測)。
又,間預測部218在適用BIO模式時,根據假設等速直線運動的模型,來導出移動向量。又,在已從編碼位元流解讀的資訊顯示適用仿射移動補償預測模式時,間預測部218根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量。 [MV導出>正常間模式]
在已從編碼位元流解讀的資訊顯示適用正常間模式時,間預測部218根據已從編碼串流解讀的資訊來導出MV,且使用該MV來進行移動補償(預測)。
圖45是顯示解碼裝置200中依正常間模式所進行的間預測之例的流程圖。
解碼裝置200的間預測部218依每區塊而對該區塊進行移動補償。此時,間預測部218首先根據時間上或者空間上位於當前區塊的周圍之複數個解碼完畢區塊的MV等之資訊,對該當前區塊取得複數個候選MV(步驟Ss_1)。也就是說,間預測部218作成候選MV清單。
其次,間預測部218從步驟Ss_1所取得的複數個候選MV之中,依照事先決定的優先順位擷取N個(N為2以上的整數)候選MV,將各個候選MV作為移動向量預測子候選(也稱為預測MV候選)(步驟Ss_2)。另,該優先順位是對N個預測MV候選之各個事先決定的。
接著,間預測部218從已輸入的串流(即編碼位元流)將移動向量預測子選擇資訊進行解碼,使用該已解碼的移動向量預測子選擇資訊,從該N個預測MV候選之中選擇1個預測MV候選,來作為當前區塊的移動向量預測子(也稱為預測MV)(步驟Ss_3)。
接著,間預測部218從已輸入的串流將差分MV進行解碼,將該已解碼的差分MV即差分值及已選擇的移動向量預測子相加,藉此導出當前區塊的MV(步驟Ss_4)。
最後,間預測部218使用該已導出的MV及解碼完畢參考圖片,來對當前區塊進行移動補償,藉此產生該當前區塊的預測圖像(步驟Ss_5)。 [預測控制部]
預測控制部220選擇內預測訊號及間預測訊號之任一者,將已選擇的訊號作為預測訊號而輸出至加法部208。整體上,解碼裝置側的預測控制部220、內預測部216及間預測部218的構成、功能及處理也可對應於編碼裝置側的預測控制部128、內預測部124及間預測部126的構成、功能及處理。 [解碼裝置的安裝例]
圖46是顯示解碼裝置200的安裝例的方塊圖。解碼裝置200具備處理器b1及記憶體b2。例如,圖41所示的解碼裝置200的複數個構成要素是藉由圖46所示的處理器b1及記憶體b2來安裝。
處理器b1是進行資訊處理的電路,且為可對記憶體b2進行存取的電路。例如,處理器b1是將已編碼之動態圖像(即編碼位元流)進行解碼之專用或者通用的電子電路。處理器b1也可為如CPU般之處理器。又,處理器b1也可為複數個電子電路的集合體。又,例如處理器b1也可實現圖41等所示之解碼裝置200之複數個構成要素中除了用來儲存資訊的構成要素之外的複數個構成要素的作用。
記憶體b2是專用或者通用的記憶體,儲存有處理器b1用來將編碼位元流進行解碼之資訊。記憶體b2也可為電子電路,也可連接於處理器b1。又,記憶體b2也可包含在處理器b1。又,記憶體b2也可為複數個電子電路的集合體。又,記憶體b2也可為磁碟或者是光碟等,也可呈現為儲存裝置或者是記錄媒體等。又,記憶體b2也可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體b2也可儲存動態圖像,也可儲存編碼位元流。又,記憶體b2也可儲存處理器b1用來將編碼位元流進行解碼的程式。
又,例如,記憶體b2也可實現在圖41等所示之解碼裝置200之複數個構成要素中用來儲存資訊之構成要素的作用。具體來說,記憶體b2也可實現圖41所示之區塊記憶體210及幀記憶體214之作用。更具體來說,記憶體b2也可儲存再構成完畢區塊及再構成完畢圖片等。
另,在解碼裝置200中,也可不安裝圖41等所示的複數個構成要素的全部,也可不進行上述之複數個處理的全部。圖41等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可藉其他裝置來執行。 [各用語的定義]
舉一例來說,各用語也可為如下的定義。
圖片為單色(monochrome)格式的複數個亮度樣本的陣列,或者是4:2:0、4:2:2及4:4:4的彩色格式的複數個亮度樣本的陣列及複數個色差樣本的2個對應陣列。圖片也可為幀(frame)或者場(field)。
幀是複數個樣本列0、2、4、・・・所產生的上場(top field),以及複數個樣本列1、3、5、・・・所產生的下場(bottom field)的組成物。
切片是1個獨立切片區段、以及在(如果有)相同存取單元內的(如果有)下一個獨立切片區段之前的全部的後續之附屬切片區段所包含的整數個編碼樹單元。
圖塊是圖片中的特定的圖塊行及特定的圖塊列內的複數個編碼樹區塊的矩形區域。圖塊依然可適用跨越圖塊的邊緣的迴路濾波器,但也可為刻意令其可獨立地解碼及編碼之幀的矩形區域。
區塊為複數個樣本的M×N(M行N列)陣列,或者複數個轉換係數的M×N陣列。區塊也可為由1個亮度及2個色差的複數個矩陣所構成之複數個像素的正方形或者矩形的區域。
CTU(編碼樹單元)也可為具有3個樣本陣列的圖片之複數個亮度樣本的編碼樹區塊,也可為複數個色差樣本的2個對應編碼樹區塊。或者,CTU也可為單色圖片與使用語法(syntax)構造來編碼的圖片之任一種圖片的複數個樣本的編碼樹區塊,其中前述語法構造是使用在3個已分離的彩色平面及複數個樣本的編碼中。
超級區塊構成1個或者2個模式資訊區塊,或者遞迴性地分割成4個32×32區塊,也可為可進一步分割的64×64像素的正方形圖塊。 [間預測處理的第1態樣]
以下,編碼裝置100及解碼裝置200導入移動向量導入處理來進行間預測處理,其中前述移動向量導入處理會導入將成為基準的移動向量擴大後的移動向量。另,該技術被稱為UMVE(Ultimate Motion Vector Expression),有時也被稱為MMVD(Merge mode Motion Vector Difference)。
又,以下,導入選擇處理來進行移動向量導入處理,其中前述選擇處理會選擇要使用複數個表格之中哪個表格的哪個索引。以下說明解碼裝置200的動作來作為代表,但是編碼裝置100的動作也是同樣的。
在本實施形態之第1態樣中,不使用旗標,而是使用已解碼完畢之區塊的資訊來進行該選擇處理。
圖47是在實施形態1之間預測處理所使用的差量移動向量的說明圖。
在圖47所示的例子中,成為基準的移動向量假設是位於X軸及Y軸的原點位置。又,在圖47所示的例子中,第1方向或者第2方向為將XY軸方向傾斜45度的方向(斜向方向)。在此,第1方向與第2方向是垂直的。
差量移動向量(Delta motion vector)位於第1方向或者第2方向的正負任一方向上,且是以具有從原點到以圓點所示的位置的大小(距離)之向量來表現。另,成為基準的移動向量例如是從合併模式中的預測MV清單所選擇的1個預測MV等。
在本態樣中,間預測部218令第1方向為+X軸方向,從複數個表格中之1個表格得到差量移動向量的大小(距離)。在此,複數個表格含有複數個具有複數個索引的表格,各個表格在索引之間各自具有間隔不同的值。間預測部218可選擇複數個表格中的1個表格中的1個索引,藉此得到差量移動向量。然後,間預測部218使用已得到的差量移動向量及成為基準的移動向量,來進行間預測處理。另,進行所謂1個表格的選擇以及選擇已選擇的1個表格中的1個索引這種選擇處理,藉此就可得到差量移動向量,因此在後文中有時將該選擇處理稱為移動向量選擇處理。
圖48是顯示實施形態1之第1態樣之解碼裝置200的間預測部218所進行的間預測處理中的移動向量選擇處理之流程圖。圖49是顯示包含有實施形態1之第1態樣之移動向量選擇處理中所使用的複數個表格的表1之例的圖。
首先,解碼裝置200中的間預測部218如圖48所示,從複數個表格來選擇使用於解碼對象之分區的第1表格(S1001)。在此,解碼對象之分區也稱為當前分區。當前分區也可被解釋為當前區塊。複數個表格是為了以藉由索引所指定的補正值來將成為基準的移動向量朝預定的方向補正成差量移動向量而使用,且索引之間各自具有間隔不同的補正值。在圖49中顯示表1的例子,表1含有以表格索引(table index) 0至3來區別的4個表格。表1所含的4個表格各自的行值即大小值(magnitude value)的間隔(大小)相異。在圖49所示的例子中,以表格索引0至3之任一個所示的列符合第1表格,第1表格中的任一個行值符合補正值。該補正值是為了從成為基準的移動向量導出差量移動向量而使用,因此也可以稱為移動向量資訊。
其次,間預測部218解析表示第1索引的參數,其中前述第1索引是從在步驟S1001所選擇之第1表格所具有的移動向量資訊來指定應選擇的移動向量資訊(S1002)。在圖49所示的例子中,第1索引雖未示於圖中,但該索引為指定第1表格中的行值(magnitude value)之位置的索引,且該索引是藉由圖47所示的大小參數(magnitude parameter)等的參數來表示。
其次,間預測部218藉由在步驟S1002解析參數,至少使用已選擇的移動向量資訊,將解碼對象的分區進行解碼,即,產生解碼對象之分區的預測訊號(S1003)。更具體來說,間預測部218藉由在步驟S1002解析參數,而使用從已選擇的移動向量資訊所得到的差量移動向量及成為基準的移動向量,將解碼對象之分區進行解碼。另,步驟S1001中所選擇的移動向量資訊,如上述,例如也可為表示差量移動向量的大小之值。又,作為步驟S1002中所解析的參數,也可為將如圖47所示的成為基準的移動向量作為原點之表示差量移動向量的大小參數及方向參數。
以下就步驟S1001的處理,即,從複數個表格來選擇第1表格的處理之具體例進行說明。該處理有變化(variation)。
以下,就合併模式所進行的間預測處理中進行該處理的複數個具體例進行說明。另,下述所說明的具體例也可以合併模式以外的間預測處理來進行。 [第1例]
在第1例中,說明根據從解碼對象的區塊的周邊的區塊所選擇的移動向量預測子,從複數個表格來選擇第1表格的處理。移動向量預測子是成為基準的移動向量之一例。間預測部218在移動向量預測子的值大時,在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第1例中,間預測部218依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。在圖49所示之例中,間預測部218決定為了選擇4個表格(表格索引0至3)之任一者而使用的4個範圍。
其次,間預測部218進行第2步驟:依照移動向量預測子的值即移動向量預測子的成分值的合計、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。在圖48所示之例中,成為基準的移動向量即移動向量預測子的成分是由水平方向的值mv_x及垂直方向的值mv_y所構成,因此移動向量預測子的成分值的合計可以|mv_x|+|mv_y|來表示。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=32、T2=64、T3=128。此時,在第1步驟中,間預測部218可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。又,令第2步驟所使用的移動向量預測子例如為[-14,41]時,間預測部218可以計算出移動向量預測子的值即移動向量預測子的成分值的合計:|-14|+|41|=55。此時,在第2步驟中,因為移動向量預測子的成分值的合計包含在(T1,T2]的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2]所示的範圍的表格之表格索引1來作為第1表格。 [第2例]
在第2例中,說明根據已分配到解碼對象的區塊的周邊的區塊的差分移動向量的值,從複數個表格來選擇第1表格的處理。以下,將已分配到周邊的區塊的差分移動向量稱為周邊的差分移動向量。間預測部218在周邊的差分移動向量的值大時,在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第2例中,間預測部218也是依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照周邊的差分移動向量的值的平均值、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=32、T2=64、T3=128。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的周邊的差分移動向量之值例如為[-21,14]、[-3,0]、[102,40]、[120,5]、[100,18]時,間預測部218可以計算出周邊的差分移動向量的值的平均值:|-21|+|14|+|-3|+|0|+|102|+|40|+|120|+|5|+|100|+|18|=42。
因此,在第2步驟中,因為周邊的差分移動向量的值的平均值包含在(T1,T2]的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2]所示的範圍的表格之表格索引1來作為第1表格。
另,在第2例中雖說明了間預測部218根據周邊的差分移動向量的值的平均值,從複數個表格來選擇第1表格,但並不限於此。間預測部218也可根據周邊的差分移動向量的值的分散值,從複數個表格來選擇第1表格。
又,第2例在解碼對象的區塊的周邊的區塊是使用合併模式進行預測處理的區塊時,也可使用0作為周邊的差分移動向量的值,來進行第2步驟的處理。 [第3例]
在第3例中,說明根據已分配到解碼對象的區塊的周邊的區塊的移動向量的值,從複數個表格來選擇第1表格的處理。
以下,將已分配到周邊的區塊的移動向量稱為周邊的移動向量。間預測部218在周邊的移動向量的值大時,在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第3例中,間預測部218也是依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照周邊的移動向量的值的平均值、及已決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=32、T2=64、T3=128。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的周邊的移動向量的值例如為[-21,14]、[-3,0]、[102,40]、[120,5]、[100,18]時,間預測部218可以計算出周邊的移動向量的值的平均值:|-21|+|14|+|-3|+|0|+|102|+|40|+|120|+|5|+|100|+|18|=42。
因此,在第2步驟中,因為周邊的移動向量的值的平均值包含在(T1,T2]的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2]所示的範圍的表格之表格索引1來作為第1表格。
另,在第2例中雖說明了間預測部218根據周邊的移動向量的值的平均值,從複數個表格來選擇第1表格,但並不限於此。間預測部218也可根據周邊的移動向量的值的分散值,從複數個表格來選擇第1表格。 [第4例]
在第4例中,說明根據從鄰接於解碼對象的區塊之解碼完畢的區塊的移動向量所導出的移動向量預測子候選的清單的值,從複數個表格來選擇第1表格的處理。以下,將移動向量預測子候選的清單稱為移動向量預測子候選清單。
間預測部218在移動向量預測子候選的清單的值大時,在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第4例中,間預測部218也是依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照移動向量預測子候選清單的值的平均值、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=32、T2=64、T3=128。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的移動向量預測子候選清單的值例如為[-21,14]、[-3,0]、[102,40]、[120,5]、[100,18]時,間預測部218可以計算出移動向量預測子候選清單的值的平均值:|-21|+|14|+|-3|+|0|+|102|+|40|+|120|+|5|+|100|+|18|=42。
因此,在第2步驟中,因為移動向量預測子候選清單的值的平均值包含在(T1,T2]的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2]所示的範圍的表格之表格索引1來作為第1表格。
另,在第4例中雖說明了間預測部218根據移動向量預測子候選清單的值的平均值,從複數個表格來選擇第1表格,但並不限於此。間預測部218也可根據移動向量預測子候選清單的值的分散值,從複數個表格來選擇第1表格。 [第5例]
在第5例中,說明根據解碼對象的分區(區塊)的尺寸,從複數個表格來選擇第1表格的處理。以下,將解碼對象的分區(區塊)稱為當前分區。間預測部218在當前分區的尺寸大時,在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第5例中,間預測部218也是依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照當前分區的尺寸(大小)、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=3×3、T2=16×16、T3=32×32。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞]來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的當前分區的尺寸(大小)例如為16×8。此時,在第2步驟中,因為當前分區的尺寸(大小)包含在(T1,T2)的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2)所示的範圍的表格之表格索引1來作為第1表格。 [第6例]
在第6例中,說明根據解碼對象的分區(區塊)所屬的圖片的解析度,從複數個表格來選擇第1表格的處理。該圖片的解析度也可表現為構成該圖片的像素數。以下,將解碼對象的分區(區塊)所屬的圖片稱為當前區塊所屬圖片。間預測部218在當前區塊所屬圖片的解析度大時,在複數個表格之中選擇能夠以小的索引指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第6例中,間預測部218是依每圖片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照當前區塊所屬圖片的解析度、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=832×580、T2=1920×1080、T3=3840×2160。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,在第2步驟所使用的當前區塊所屬圖片的解析度,例如為416×240。此時,在第2步驟中,因為當前區塊所屬圖片的解析度包含在(0,T1]的範圍,所以間預測部218可以選擇顯示有對應於以(0,T1]所示的範圍的表格之表格索引0來作為第1表格。
另,當前區塊所屬圖片的解析度,可藉由解碼裝置200取得的編碼位元流所含的語法(資料列的表現規則)來得到。 [第7例]
在第7例中,說明根據解碼對象的分區(區塊)所屬的切片或者圖片的時間ID,從複數個表格來選擇第1表格的處理。在此,時間ID為表示空間可調式編碼使用的時間層的階層的號碼。空間可調式編碼是階層式地(分層)將粗略的資訊往細緻的資訊來進行編碼的技術。藉由將分成複數個階層的層作為時間層進行編碼,來實現空間可調式編碼。在圖57或者圖58所示之例中,依每層來編碼圖片,以基本層的上位的加強層來實現可調性。此時,時間ID可取0至2的值。另,也可以依每層來編碼切片,以基本層的上位的加強層來實現可調性。以下,將解碼對象的分區(區塊)所屬的切片或者圖片稱為當前切片或者當前圖片。
在當前切片或者當前圖片的時間ID的值大時,間預測部218從複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第7例中,間預測部218依每切片或者圖片,來進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照當前切片或者當前圖片的時間ID的值、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=1、T2=2、T3=3。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的當前切片或者當前圖片的時間ID的值例如為2。此時,在第2步驟中,因為當前切片或者當前圖片的時間ID的值包含在(T1,T2]的範圍,所以間預測部218可以選擇顯示有對應於以(T1,T2]所示的範圍的表格之表格索引1來作為第1表格。 [第8例]
在第8例中,說明根據解碼對象的分區(區塊)所屬的圖片與解碼對象的分區(區塊)的參考圖片之間的距離,從複數個表格來選擇第1表格的處理。以下,將解碼對象的分區(區塊)所屬的圖片稱為當前圖片,將解碼對象的分區(區塊)稱為當前分區。在當前圖片與當前分區的參考圖片之間的距離大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第8例中,間預測部218是依每分區(區塊),進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照當前圖片與當前分區的參考圖片之間的距離、以及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=1、T2=2、T3=3。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟中所使用的當前圖片的POC(顯示順序)為16,當前分區的參考圖片的POC為0。此時,在第2步驟中,因為當前圖片與當前分區的參考圖片之間的距離為16,包含在(T3,+∞)的範圍,因此間預測部218可以選擇顯示有對應於以(T3,+∞)所示的範圍的表格之表格索引3來作為第1表格。 [第9例]
另,也可根據在第1例至第8例所說明的方法的組合,來進行從複數個表格選擇第1表格的處理。
圖50是顯示包含有實施形態1的第1態樣之移動向量選擇處理中所使用的複數個表格的表2之例的圖。圖50中顯示了含有以表格索引0至7來區別的7個表格的表2之例。表2中所含的7個表格各自的行值即大小值的間隔(大小)相異。在圖50所示之例中,以表格索引0至7之任一者所示的列符合第1表格,第1表格中的任一個行值符合補正值。
以下舉一例來說明根據第1例及第5例的組合,從圖50所示的複數個表格選擇第1表格的處理。即,在第9例中,說明根據從當前區塊的周邊的區塊所選擇的移動向量預測子、及當前分區的尺寸兩者,從複數個表格來選擇第1表格的處理。
在當前分區的尺寸大,且移動向量預測子的值大時,間預測部218在複數個表格之中,選擇能夠以小的索引指定大的行值(magnitude value)的位置之表格,來作為第1表格。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:將表2所含的複數個表格分割成分別由複數個表格所構成的2組,即,將由表2所含的複數個表格的一部分所構成的組決定為第1組,將由另一部分所構成的組決定為第2組。例如,間預測部218在圖50所示的表2所含的表格索引0至7之中,將表格索引0至3決定為第1組,且將表格索引4至7決定為第2組。
其次,間預測部218進行第2步驟:根據預定的閾值的第1清單,決定為了選擇第1組或者第2組而使用的範圍。
接著,間預測部218進行第3步驟:依照移動向量預測子的值、及第2步驟所決定的範圍,選擇第1組或者第2組。
接著,間預測部218進行第4步驟:根據預定的閾值的第2清單,決定為了選擇複數個表格之任一者而使用的複數個範圍,其中前述複數個表格構成第3步驟中所選擇的第1組或者第2組。
接著,間預測部218進行第5步驟:依照當前分區的尺寸、及在第4步驟所決定的複數個範圍,從構成第3步驟所選擇的第1組或者第2組的複數個表格之中,選擇第1表格。
在此,第2步驟所使用的第1清單所含的預定的閾值為用來區分第1組及第2組的閾值(T 21),例如T 21=32,其中第1組是以圖50所示的表格索引0至3所構成,第2組是以表格索引4至7所構成。此時,在第2步驟中,間預測部218可以決定(0,T 21]、(T 21,+∞),來作為為了選擇第1組或者第2組而使用的2個範圍。
又,令第3步驟中所使用的移動向量預測子例如為[-14,41],間預測部218可以計算出移動向量預測子的值即移動向量預測子的成分值的合計:|-14|+|41|=55。此時,在第3步驟中,因為移動向量預測子的成分值的合計包含在(T 21,+∞)的範圍,所以間預測部218可以選擇對應於以(T 21,+∞)所示的範圍的第2組。
又,在第4步驟所使用的第2清單所含的預定的閾值,在第1步驟所使用的預定的閾值,為3個閾值(T 411至T 43),用於區分以圖50所示的表格索引4至7所示的第2組所含的4個表格,例如為T 41=8×8、T 42=16×16、T 43=32×32。此時,在第4步驟中,間預測部218也可以決定(0,T 41]、(T 41,T 42]、(T 42,T 43]、(T 43,+∞),來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第5步驟所使用的當前分區的尺寸例如為16×8時,當前分區的尺寸包含在(T 41,T 42]的範圍。此時,在第5步驟中,間預測部218可以選擇顯示有對應於以(T 41,T 42]所示的範圍的表格之第2組的第2個表格即表格索引5,來作為第1表格。 [第10例]
在第10例中,說明根據已解碼完畢的圖片的差分移動向量的平均值,從複數個表格來選擇第1表格的處理。在已解碼完畢的圖片的差分移動向量的平均值大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第10例中,間預測部218依每圖片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照已解碼完畢的圖片的差分移動向量的平均值、及在第1步驟所決定的複數個範圍,從複數個表格之中,選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=32、T2=64、T3=128。此時,在第1步驟中,間預測部218可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的已解碼完畢的圖片的差分移動向量例如為[100,18]時,間預測部218可以計算出已解碼完畢的圖片的差分移動向量的平均值:|100|+|18|=118。
因此,在第2步驟中,因為已解碼完畢的圖片的差分移動向量的平均值包含在(T2,T3]的範圍,所以間預測部218可以選擇顯示有對應於以(T2,T3]所示的範圍的表格之表格索引2來作為第1表格。
另,在第10例中雖說明了間預測部218根據已解碼完畢的圖片的差分移動向量的值,從複數個表格來選擇第1表格,但並不限於此。間預測部218也可根據已解碼完畢的圖片的移動向量的值,從複數個表格來選擇第1表格。
又,在第10例中雖說明了間預測部218根據已解碼完畢的圖片的差分移動向量的平均值,從複數個表格來選擇第1表格,但並不限於此。間預測部218也可根據已解碼完畢的圖片的差分移動向量的分散值,從複數個表格來選擇第1表格。
又,已解碼完畢的圖片也可為顯示與當前圖片相同的時間ID的層之圖片,也可為解碼順序在當前圖片的上一張的圖片。 [第11例]
在第11例中,說明根據已解碼完畢的圖片的區塊尺寸的平均值,從複數個表格來選擇第1表格的處理。在已解碼完畢的圖片的區塊尺寸的平均值大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第11例中,間預測部218依每圖片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照已解碼完畢的圖片的區塊尺寸的平均值、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=8×8、T2=16×16、T3=32×32。此時,在第1步驟中,間預測部218也可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞]來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的已解碼完畢的圖片的區塊尺寸的水平與垂直的尺寸相乘的平均值例如為128時,已解碼完畢的圖片的區塊尺寸的平均值包含在(T1,T2)的範圍。此時,在第2步驟中,間預測部218可以選擇顯示有對應於以(T1,T2)所示的範圍的表格之表格索引1,來作為第1表格。
另,已解碼完畢的圖片也可為顯示與當前圖片相同的時間ID的層之圖片,也可為解碼順序在當前圖片的上一張的圖片。 [第12例]
在第12例中,說明根據已解碼完畢的圖片的QP(量化參數)的平均值,從複數個表格來選擇第1表格的處理。在已解碼完畢的圖片的QP的平均值大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第12例中,間預測部218依每圖片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照已解碼完畢的圖片的QP的平均值、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=22、T2=27、T3=32。此時,在第1步驟中,間預測部218可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的已解碼完畢的圖片的QP的平均值例如為40。此時,在第2步驟中,因為已解碼完畢的圖片的QP的平均值包含在(T3,+∞)的範圍,所以間預測部218可以選擇顯示有對應於以(T3,+∞)所示的範圍的表格之表格索引3,來作為第1表格。
另,已解碼完畢的圖片也可為顯示與當前圖片相同的時間ID的層之圖片,也可為解碼順序在當前圖片的上一張的圖片。 [第13例]
在第13例中,說明根據已解碼完畢的圖片的切片QP,從複數個表格來選擇第1表格的處理。在已解碼完畢的圖片的切片QP大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第13例中,間預測部218依每圖片或者切片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照已解碼完畢的圖片的切片QP、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=22、T2=27、T3=32。此時,在第1步驟中,間預測部218可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的已解碼完畢的圖片的切片QP例如為40。此時,在第2步驟中,因為已解碼完畢的圖片的切片QP包含在(T3,+∞)的範圍,所以間預測部218可以選擇顯示有對應於以(T3,+∞)所示的範圍的表格之表格索引3,來作為第1表格。
另,已解碼完畢的圖片也可為顯示與當前圖片相同的時間ID的層之圖片,也可為解碼順序在當前圖片的上一張的圖片。 [第14例]
在第14例中,說明根據解碼對象的分區(區塊)所屬的圖片的切片QP,從複數個表格來選擇第1表格的處理。以下,將解碼對象的分區(區塊)所屬的圖片稱為當前圖片。在當前圖片的切片QP大時,間預測部218在複數個表格之中,選擇能夠以小的索引來指定大的行值(magnitude value)的位置之表格,來作為第1表格。在第14例中,間預測部218也是依每圖片或者切片,進行選擇第1表格的處理。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:根據預定的閾值的清單,決定為了選擇複數個表格之任一者而使用的複數個範圍。
其次,間預測部218進行第2步驟:依照當前圖片的切片QP、及在第1步驟所決定的複數個範圍,從複數個表格之中選擇第1表格。
在此,在第1步驟所使用的預定的閾值為用於區分圖49所示之4個表格的3個閾值(T1至T3),例如T1=22、T2=27、T3=32。此時,在第1步驟中,間預測部218可決定(0,T1]、(T1,T2]、(T2,T3]、(T3,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第2步驟所使用的當前圖片的切片QP例如為40。此時,在第2步驟中,因為當前圖片的切片QP包含在(T3,+∞)的範圍,所以間預測部218可以選擇顯示有對應於以(T3,+∞)所示的範圍的表格之表格索引3,來作為第1表格。 [第15例]
另,也可根據在第10例至第14例所說明的方法的組合,來進行從複數個表格選擇第1表格的處理。
以下舉一例來說明根據第10例及第14例的組合,從圖50所示的複數個表格選擇第1表格的處理。即,在第15例中,說明根據已解碼完畢的圖片的差分移動向量的平均值、及當前圖片的切片QP兩者,從複數個表格來選擇第1表格的處理。
在當前圖片的切片QP大,且已解碼完畢的圖片的差分移動向量的平均值大時,間預測部218在複數個表格之中,選擇能夠以小的索引指定大的行值(magnitude value)的位置之表格,來作為第1表格。
更具體來說,在步驟S1001中,間預測部218首先進行第1步驟:將表2所含的複數個表格分割成分別由複數個表格所構成的2組,即,將由表2所含的複數個表格的一部分所構成的組決定為第1組,將由另一部分所構成的組決定為第2組。例如,間預測部218在圖50所示的表2所含的表格索引0至7之中,將表格索引0至3決定為第1組,且將表格索引4至7決定為第2組。
其次,間預測部218進行第2步驟:根據預定的閾值的第1清單,決定為了選擇第1組或者第2組而使用的範圍。
接著,間預測部218進行第3步驟:依照當前圖片的切片QP、及第2步驟所決定的範圍,選擇第1組或者第2組。
接著,間預測部218進行第4步驟:根據預定的閾值的第2清單,決定為了選擇複數個表格之任一者而使用的複數個範圍,其中前述複數個表格構成第3步驟中所選擇的第1組或者第2組。
接著,間預測部218進行第5步驟:依照已解碼完畢的圖片的差分移動向量的平均值、及第4步驟所決定的複數個範圍,從構成第3步驟所選擇的第1組或者第2組的複數個表格之中,選擇第1表格。
在此,第2步驟所使用的第1清單所含的預定的閾值為用來區分第1組及第2組的閾值(T 21),例如為T 21=30,其中第1組是以圖50所示的表格索引0至3所構成,第2組是以表格索引4至7所構成。此時,在第2步驟中,間預測部218可以決定(0,T 21]、(T 21,+∞)來作為為了選擇第1組或者第2組而使用的2個範圍。又,令第3步驟中所使用的當前圖片的切片QP例如為40。此時,在第3步驟中,因為移動向量預測子的成分值的合計包含在(T 21,+∞)的範圍,所以間預測部218可以選擇對應於以(T 21,+∞)所示的範圍的第2組。
又,在第4步驟所使用的第2清單所含的預定的閾值為3個閾值(T 411至T 43),用於區分以圖50所示的表格索引4至7所示的第2組所含的4個表格,例如為T 41=32、T 42=64、T 43=128。此時,在第4步驟中,間預測部218可以決定(0,T 41]、(T 41,T 42]、(T 42,T 43]、(T 43,+∞)來作為為了選擇4個表格之任一者而使用的4個範圍。
又,令第5步驟所使用的已解碼完畢的圖片的差分移動向量的平均值例如為[100,18]時,間預測部218可以計算出已解碼完畢的圖片的差分移動向量的平均值:|100|+|18|=118。因此,已解碼完畢的圖片的差分移動向量的平均值包含在(T 42,T 43]的範圍。此時,在第5步驟中,間預測部218可以選擇顯示有對應於以(T 42,T 43]所示的範圍的表格之第2組的第3個表格即表格索引6,來作為第1表格。
另,已解碼完畢的圖片也可為顯示與當前圖片相同的時間ID的層之圖片,也可為解碼順序在當前圖片的上一張的圖片。
另,在第1態樣中,雖使用具有圖49所示的4個表格之例來說明,但並不限於此,就算是具有2個以上的複數個表格的構成,也是同樣的。例如,也可為具有以圖49中的表格索引0及表格索引2所示的2個表格的構成。此時,也可令其為使用1個閾值來區分成2個範圍的構成,代替在第1例至第15例中使用3個閾值來區分成4個範圍的構成。 [第1態樣的效果]
依第1態樣,對本揭示的間預測處理導入移動向量導出處理,藉此就能在間預測處理中,使用精度比成為基準的移動向量高的移動向量,來進行移動補償。藉此,可提升間預測處理的編碼效率。
進而,依第1態樣,對移動向量導出處理導入上述之第1例至第15例中所示的移動向量選擇處理。藉此,在使用精度比成為基準的移動向量高的移動向量之際,就能使用從複數個表格所選擇的第1表格中的較小數值(少的資訊)的索引,來進行該精度高的移動向量的指定。即,依第1態樣,藉由對移動向量導出處理導入移動向量選擇處理,就有可能可以提升間預測處理的編碼性能。
另,在第1態樣所揭示的內容的至少一部分,可與其他態樣之中的1個或者複數個態樣所揭示的至少一部分來組合。
又,圖48的流程圖的說明中所揭示的處理的一部分、元件的一部分、語法及/或其他功能,可與其他態樣來組合。
又,在第1態樣所揭示的處理/要素並非全部必要。裝置/方法可含有處理/要素的一部分。又,上述的處理也可藉由與編碼器相同的解碼器來執行。 [間預測處理的第2態樣]
本實施形態之第2態樣也是編碼裝置100及解碼裝置200導入選擇處理來進行移動向量導入處理,前述移動向量導入處理是在進行間預測處理時所導入的處理,前述選擇處理是在複數個表格之中選擇使用哪一表格的哪一索引的處理。以下,說明解碼裝置200的動作來作為代表,但編碼裝置100的動作也是一樣的。
在本實施形態之第2態樣中,針對使用旗標(參數)來進行該選擇處理的情況加以說明。以下是以異於第1態樣之部分為中心來說明。
圖51是顯示實施形態1之第2態樣的解碼裝置200的間預測部218所進行的間預測處理中的移動向量選擇處理的流程圖。
首先,如圖51所示,解碼裝置200中的間預測部218解析表示第1索引的第1參數,其中第1索引用來從複數個表格指定使用在解碼對象的分區的表格(S2001)。也就是說,間預測部218藉由解析第1參數,來進行用於當前分區的第1表格的選擇。且,第1參數是表示可指定第1表格的第1索引。另,第1索引並非必要,第1參數也可直接指定用於當前分區的第1表格。
例如,間預測部218藉由解析第1參數,而從圖49所示的表1所含的4個表格,進行用於當前分區的第1表格之選擇。
其次,間預測部218解析表示第2索引的第2參數,其中第2索引從複數個移動向量資訊指定須選擇的移動向量資訊(S2002)。也就是說,間預測部218可藉由解析第2參數,從第1表格得到顯示須選擇的移動向量資訊的第2索引。
例如,間預測部218藉由解析第2參數來得到第2索引,其中第2索引顯示(指定)圖49所示的表1所含的第1表格中的行值(magnitude value)的位置。
接著,間預測部218至少使用藉由第2索引所指定的移動向量資訊,來將解碼對象的分區解碼,即產生解碼對象的分區的預測訊號(S2003)。
另,上述的移動向量資訊為有關於差量移動向量的資訊,藉由第2索引所指定的移動向量資訊也可為例如表示差量移動向量的大小的值(magnitude value)。
在此,在步驟S2001中所解析的第1參數,例如與第1態樣的第6例同樣是以如下方式來決定:根據當前區塊所屬圖片的解析度,指定從複數個表格選擇的第1表格。即,在步驟S2001所解析的第1參數中,記述有根據當前區塊所屬圖片的解析度來指定從複數個表格選擇的第1表格之第1索引等的內容。在步驟S2001所解析的第1參數例如與第1態樣的第10例同樣,也可以如下方式來決定:根據已解碼完畢的圖片的差分移動向量的平均值,指定從複數個表格選擇的第1表格。另,決定在步驟S2001所解析的第1參數的方法並不限於第1例及第10例。即,在步驟S2001所解析的第1參數也可以如下方式來決定:根據第1態樣的第1例至第15例所示的基準,指定從複數個表格選擇的第1表格。
在步驟S2001所解析的第1參數及在步驟S2002所解析的第2參數也可記述在切片單位的標頭。第1參數及第2參數不限於記述在切片單位的標頭的情況,也可記述在圖片單位、序列單位、區塊單位的標頭。又,第1參數及第2參數之中的至少第1參數可為CTU等級的參數,也可為分區等級的參數。
另,在圖49之例中,第1參數是以表格索引所示的縱值,表示在圖的縱方向上按值小的順序從0逐次增加1的值。第2參數雖未示於圖中,但其為在圖的橫方向上與第1參數同樣地按值小的順序從0逐次增加1的值。
另,在第2態樣中是使用了具有圖49所示的4個表格之例來說明,但並不限於此,即使是具有2個以上的複數個表格的構成也是同樣的。例如,也可為具有以圖49的表格索引0及表格索引2所示的2個表格的構成。此時,也可令其為從2個表格指定1個表格之具有2值的第1參數的構成,來代替從4個表格指定1個表格之具有4值的第1參數的構成。 [第2態樣的效果]
依第2態樣,對本揭示的間預測處理導入移動向量導出處理,藉此就能在間預測處理中,使用精度比成為基準的移動向量高的移動向量,來進行移動補償。藉此,可提升間預測處理的編碼效率。
進而,依第2態樣,對移動向量導出處理導入移動向量選擇處理,且前述移動向量選擇處理是使用根據上述之第1例至第15例中所示的基準所決定的參數來進行。藉此,在使用精度比成為基準的移動向量高的移動向量之際,就能使用從複數個表格所選擇的第1表格中的較小數值(少的資訊)的索引,來進行該精度高的移動向量的指定。即,依第2態樣,藉由對移動向量導出處理導入使用參數來進行的移動向量選擇處理,就有可能可以提升間預測處理的編碼性能。
另,在第2態樣所揭示的內容的至少一部分,可與其他態樣之中的1個或者複數個態樣所揭示的至少一部分來組合。
又,圖51的流程圖的說明中所揭示的處理的一部分、元件的一部分、語法及/或其他功能,可與其他態樣來組合。
又,在第2態樣所揭示的處理/要素並非全部必要。裝置/方法可含有處理/要素的一部分。又,上述的處理也可藉由與編碼器相同的解碼器來執行。 [編碼裝置的安裝例]
圖52是顯示實施形態1之編碼裝置100之安裝例的方塊圖。編碼裝置100具備電路160及記憶體162。例如,圖1所示的編碼裝置100之複數個構成要素是藉由圖52所示之電路160及記憶體162來安裝。
電路160是進行資訊處理的電路,且為可對記憶體162進行存取的電路。例如,電路160是將動態圖像進行編碼之專用或者通用的電子電路。電路160也可為如CPU般之處理器。又,電路160也可為複數個電子電路的集合體。又,例如電路160也可實現圖1等所示之編碼裝置100之複數個構成要素中除了用來儲存資訊的構成要素之外的複數個構成要素的作用。
記憶體162是儲存電路160用來將動態圖像進行編碼的資訊之專用或者通用的記憶體。記憶體162可為電子電路,也可連接於電路160。又,記憶體162也可包含在電路160。又,記憶體162也可為複數個電子電路的集合體。又,記憶體162也可為磁碟或者是光碟等,也可呈現為儲存裝置或者是記錄媒體等。又,記憶體162可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體162也可儲存要編碼的動態圖像,也可儲存對應於已編碼的動態圖像之位元列。又,記憶體162也可儲存電路160用來將動態圖像進行編碼的程式。
又,例如,記憶體162也可實現在圖1等所示之編碼裝置100之複數個構成要素中用來儲存資訊之構成要素的作用。具體來說,記憶體162也可實現圖1所示之區塊記憶體118及幀記憶體122之作用。更具體來說,記憶體162也可儲存再構成完畢區塊及再構成完畢圖片等。
另,在編碼裝置100中,也可不用安裝圖1等所示的複數個構成要素的全部,也可不用進行上述之複數個處理的全部。圖1等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可藉其他裝置來執行。然後,藉由在編碼裝置100中安裝圖1等所示的複數個構成要素之中的一部分,且進行上述之複數個處理的一部分,能有效率地進行在間預測模式中的預測處理。
以下顯示圖52所示的編碼裝置100的動作例。在以下的動作例中,圖53是顯示圖52所示的編碼裝置100的動作例之流程圖。例如,圖52所示的編碼裝置100在將動態圖像進行編碼時,進行圖53所示的動作。
具體來說,編碼裝置100的電路160在動作中進行以下的處理。即,首先,電路160從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在動態圖像中的圖像之編碼對象的分區(S311)。其次,電路160寫入表示在第1表格所具有的索引之中選擇的第1索引之參數(S312)。接著,電路160使用已利用藉由第1索引所指定的補正值進行補正的成為基準的移動向量,來將編碼對象的分區進行編碼(S313)。
藉此,編碼裝置100對間預測處理導入移動向量導出處理之際,對移動向量導出處理導入移動向量選擇處理,藉此便可提升間預測處理的編碼性能。因此,編碼裝置100可提升編碼效率。 [解碼裝置的安裝例]
圖54是顯示實施形態1之解碼裝置200之安裝例的方塊圖。解碼裝置200具備電路260及記憶體262。例如,圖41所示之解碼裝置200的複數個構成要素是藉圖54所示之電路260及記憶體262來安裝。
電路260為進行資訊處理的電路,且為可對記憶體262進行存取的電路。例如,電路260是將動態圖像進行解碼之專用或者通用的電子電路。電路260也可為像CPU之處理器。又,電路260也可為複數個電子電路的集合體。又,例如電路260也可實現圖41等所示之解碼裝置200之複數個構成要素中除了用以儲存資訊的構成要素之外的複數個構成要素的作用。
記憶體262是儲存電路260用來將動態圖像進行解碼的資訊之專用或者通用的記憶體。記憶體262也可為電子電路,也可連接於電路260。又,記憶體262也可包含在電路260。又,記憶體262也可為複數個電子電路的集合體。又,記憶體262也可為磁碟或者是光碟等,也可呈現為儲存裝置或者是記錄媒體等。又,記憶體262也可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體262也可儲存對應於已編碼之動態圖像的位元列,也可儲存對應於已被解碼的位元列之動態圖像。又,記憶體262也可儲存電路260用來將動態圖像進行解碼的程式。
又,例如,記憶體262也可實現在圖41等所示之解碼裝置200之複數個構成要素中用來儲存資訊之構成要素的作用。具體來說,記憶體262也可實現圖41所示之區塊記憶體210及幀記憶體214的作用。更具體來說,記憶體262也可儲存再構成完畢區塊及再構成完畢圖片等。
另,在解碼裝置200中,也可不用安裝圖41等所示的複數個構成要素的全部,也可不用進行上述之複數個處理的全部。圖41等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可藉其他裝置來執行。然後,藉由在解碼裝置200中安裝圖41等所示的複數個構成要素之中的一部分,且進行上述之複數個處理的一部分,能有效率地進行移動補償。
以下顯示圖54所示之解碼裝置200的動作例。圖55是顯示圖54所示之解碼裝置200之動作例的流程圖。例如,圖54所示的解碼裝置200在將動態圖像進行解碼時,進行圖55所示的動作。
具體來說,解碼裝置200的電路260在動作中進行以下的處理。即,首先,電路260從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在動態圖像中的圖像之解碼對象的分區(S411)。其次,電路260解析表示在第1表格所具有的索引之中選擇的第1索引之參數(S412)。接著,電路260使用已利用藉由第1索引所指定的補正值進行補正的成為基準的移動向量,來將解碼對象的分區進行解碼(S413)。
藉此,解碼裝置200對間預測處理導入移動向量導出處理之際,對移動向量導出處理導入移動向量選擇處理,藉此便可提升間預測處理的編碼性能。因此,解碼裝置200可提升編碼效率。 [補充]
又,本實施形態中之編碼裝置100及解碼裝置200可各自作為圖像編碼裝置及圖像解碼裝置來利用,也可作為動態圖像編碼裝置及動態圖像解碼裝置來利用。或者,編碼裝置100及解碼裝置200可各自作為間預測裝置(畫面間預測裝置)來利用。
即,編碼裝置100及解碼裝置200也可各自只對應於間預測部(畫面間預測部)126及間預測部(畫面間預測部)218。然後,轉換部106及反轉換部206等其他構成要素也可包含在其他裝置。
又,在本實施形態中,各構成要素可以專用的硬體構成,或透過執行適合各構成要素的軟體程式來實現。也可讓CPU或者處理器等之程式執行部讀出記錄在硬碟或者半導體記憶體等之記錄媒體的軟體程式並執行,藉此來實現各構成要素。
具體來說,編碼裝置100及解碼裝置200也可各自具有處理電路(Processing Circuitry)及儲存裝置(Storage),該儲存裝置是電連接於該處理電路,可由該處理電路進行存取。例如,處理電路是對應於電路160或260,儲存裝置是對應於記憶體162或262。
處理電路含有專用的硬體及程式執行部之至少一者,使用儲存裝置來執行處理。又,在處理電路含有程式執行部時,儲存裝置儲存藉該程式執行部所執行之軟體程式。
在此,實現本實施形態之編碼裝置100或者解碼裝置200等之軟體為如下的程式。
即,該程式也可以讓電腦執行編碼方法,該編碼方法是將動態圖像進行編碼的編碼方法,且從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在動態圖像中的圖像之編碼對象的分區,又,寫入表示在第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由第1索引所指定的補正值進行補正的前述成為基準的移動向量,來將分區進行編碼。
或者,該程式也可以讓電腦執行解碼方法,該解碼方法是將動態圖像進行解碼的解碼方法,且從複數個表格來選擇第1表格,其中前述複數個表格是為了以藉由索引所指定的補正值將成為基準的移動向量補正至預定的方向而使用,且索引之間各自具有間隔不同的補正值,前述第1表格使用在動態圖像中的圖像之解碼對象的分區,又,解析表示在第1表格所具有的索引之中選擇的第1索引之參數,並且使用已利用藉由第1索引所指定的補正值進行補正的成為基準的移動向量,來將分區進行解碼。
又,如上述,各構成要素也可為電路。該等電路也可整體構成為1個電路,也可分別為個別的電路。又,各構成要素也可以通用的處理器來實現,也可以專用的處理器來實現。
又,也可讓別的構成要素來執行特定的構成要素所要執行的處理。又,也可變更執行處理的順序,也可並行地執行複數個處理。又,編碼解碼裝置也可具備編碼裝置100及解碼裝置200。
在說明中使用過的第1及第2等序數也可適當地更換。又,對構成要素等也可重新給予序數,也可移除之。
以上,針對編碼裝置100及解碼裝置200之態樣,已根據實施形態來說明,但編碼裝置100及解碼裝置200的態樣並不限於前述實施形態。只要不脫離本揭示的旨趣,所屬技術領域中具有通常知識者將可思及之各種變形施加在本實施形態者、或者將不同實施形態的構成要素組合所構建的形態,皆可包括在編碼裝置100及解碼裝置200之態樣的範圍內。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法的一部分等與其他態樣組合來實施。 (實施形態2) [實施及應用]
在以上之各實施形態中,功能性或者是作用性的區塊之每一個通常可藉MPU(micro proccessing unit)及記憶體等來實現。又,藉功能區塊之每一個所進行的處理,也可以作為讀出記錄在ROM等之記錄媒體的軟體(程式)後執行的處理器等之程式執行部來實現。該軟體也可以被分發。該軟體也可記錄在半導體記憶體等各式各樣的記錄媒體。另,也可以透過硬體(專用電路)來實現各功能區塊。
又,在各實施形態中所說明的處理也可以藉由使用單一裝置(系統)進行集中處理來實現,或者也可以藉由使用複數個裝置進行分散處理來實現。又,執行上述程式的處理器也可為單數個,也可為複數個。即,可進行集中處理,或者也可進行分散處理。
本揭示的態樣並不限於以上的實施例,可做各種變更,其等也包括在本揭示的態樣之範圍內。
進而在此,說明在上述各實施形態中所示之動態圖像編碼方法(圖像編碼方法)或者動態圖像解碼方法(圖像解碼方法)之應用例及實施其應用例之各種系統。如此的系統之特徵也可以是具有使用圖像編碼方法之圖像編碼裝置、使用圖像解碼方法之圖像解碼裝置、或具備兩者之圖像編碼解碼裝置。針對如此的系統的其他構成,可配合情況的需要適當地變更。 [使用例]
圖56是顯示實現內容(contents)分發服務之適當的內容供給系統ex100之整體構成的圖。將通訊服務之提供區域分割成期望之大小,在各細胞(cell)內分別設置有圖示之例子中的固定無線台即基地台ex106、ex107、ex108、ex109、ex110。
在該內容供給系統ex100中,經由網際網路服務提供者ex102或通訊網ex104、及基地台ex106至ex110,而將電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各種機器連接於網際網路ex101。該內容供給系統ex100也可構成為組合上述任一裝置來連接。在各種實施中,也可不經由固定無線台即基地台ex106至ex110,而是使各機器經由電話網或者近距離無線等直接或間接地互相連接。進而,串流伺服器ex103也可以經由網際網路ex101等而與電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等之各機器連接。又,串流伺服器ex103也可經由衛星ex116而與飛機ex117內之熱點內的終端機等連接。
另,也可利用無線存取點或熱點等,來替代基地台ex106至ex110。又,串流伺服器ex103也可以不經由網際網路ex101或者網際網路服務提供者ex102而直接與通訊網ex104連接,也可不經由衛星ex116而直接與飛機ex117連接。
攝像機ex113是數位相機等可進行靜態圖攝影及動態圖攝影之機器。又,智慧型手機ex115是指對應於2G、3G、3.9G、4G、接著今後是被稱為5G之行動通訊系統的方式之智慧型話機、行動電話機、或者PHS(Personal Handyphone System)等。
家電ex114是冰箱、或者包含在家用燃料電池熱電共生系統之機器等。
在內容供給系統ex100中,藉由讓具有攝影功能的終端機透過基地台ex106等而連接到串流伺服器ex103,可進行現場直播等。在現場直播中,終端機(電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、及飛機ex117內內之終端機等)也可對用戶使用該終端機所攝影的靜態圖或者動態圖內容進行在上述各實施形態所說明的編碼處理,也可將藉編碼所得到的影像資料及已將對應於影像的聲音編碼後的聲音資料進行多工,也可將所得到的資料發送到串流伺服器ex103。即,各終端機是作為本揭示之一態樣的圖像編碼裝置而發揮功能。
另一方面,串流伺服器ex103對有請求的客戶端將被發送的內容資料進行串流分發。客戶端是指可將上述經過編碼處理的資料進行解碼之電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、或者飛機ex117內的終端機等。已接收到分發的資料的各機器將所接收的資料進行解碼處理後播放。即,各機器也可以作為本揭示之一態樣的圖像解碼裝置而發揮功能。 [分散處理]
又,串流伺服器ex103也可為複數個伺服器或者是複數個電腦,且為將資料分散處理或記錄並分發者。例如,串流伺服器ex103也可藉由CDN(Contents Delivery Network)來實現,藉由連結分散在世界各地的多數個邊緣伺服器(edge server)與邊緣伺服器之間的網路來實現內容分發。在CDN中,因應客戶端而動態地分配實體上較接近的邊緣伺服器。然後,內容被該邊緣伺服器快取及分發,藉此可減少延遲的情況。又,在產生一些類型的錯誤時或者因流量增加等而使通訊狀態改變時,可以複數個邊緣伺服器來分散處理,或者將分發主體切換成其他邊緣伺服器,而繞過產生障礙的網路部分來持續進行分發,因此可實現高速且穩定的分發。
又,不只是分發自身的分散處理,所攝影的資料的編碼處理也可在各終端機進行,也可在伺服器側進行,也可互相分擔來進行。舉一例來說,一般在編碼處理中進行2次處理迴路。在第1次的迴路,會檢測以幀或者場景為單位的圖像之複雜度或者編碼量。又,在第2次的迴路,會進行維持畫質並使編碼效率提高的處理。例如,終端機進行第1次的編碼處理,已收到內容的伺服器側進行第2次的編碼處理,藉此可減少在各終端機的處理負荷,同時提高內容的品質及效率。此時,若有幾乎以實時接收而要解碼的請求時,也可將終端機已進行過第一次的編碼完畢資料在其他終端機接收且播放,因此也能達到更靈活的實時分發。
舉另一例來說,攝像機ex113等從圖像進行特徵量擷取,將有關於特徵量的資料進行壓縮,作為元資料(metadata)而發送到伺服器。伺服器例如從特徵量來判斷目標(object)的重要性而切換量化精度等,因應圖像的意義(或是內容的重要性)來進行壓縮。特徵量資料對於伺服器上之再次壓縮時的移動向量預測之精度及效率提升特別有效。又,也可在終端機進行VLC(可變長度編碼)等之簡易性編碼,在伺服器進行CABAC(上下文適應型二值算術編碼方式)等處理負荷大的編碼。
進而,以其他例來說,在體育場、購物商場、或者工廠等之中,會有藉由複數個終端機而拍攝到幾乎相同的場景之複數個影像資料存在的情況。在該時候,使用進行過拍攝的複數個終端機、因應需要而未拍攝的其他終端機及伺服器,以諸如GOP(Group of Picture)單位、圖片單位、或者將圖片分割之圖塊單位等分別分配編碼處理,來進行分散處理。藉此,能減少延遲,實現更佳的實時性。
由於複數個影像資料為幾乎相同的場景,因此也能在伺服器進行管理及/或指示,俾使在各終端機所拍攝的影像資料可相互參考。又,也可使伺服器接收來自各終端機的編碼完畢資料,在複數個資料之間變更參考關係,或者將圖片本身進行補正或交換,來重新進行編碼。藉此,可產生將一個個資料的品質及效率提高的串流。
進而,伺服器也可先進行將影像資料的編碼方式變更的轉碼,再分發影像資料。例如,伺服器也可將MPEG系的編碼方式轉換成VP系(例如VP9),也可將H.264轉換成H.265。
如此,編碼處理可藉由終端機或者是1個以上的伺服器來進行。因此,以下,作為進行處理的主體,雖採用「伺服器」或者是「終端機」等的記述,但也可讓在伺服器所進行的處理的一部分或者全部在終端機進行,也可讓在終端機所進行的處理的一部分或者全部在伺服器進行。又,有關於該等,針對解碼處理也是同樣。 [3D、多角度]
將藉由幾乎互相同步的複數個攝像機ex113及/或智慧型手機ex115等之終端機所攝影的不同場景或者是相同場景以不同的角度拍攝的圖像或影像整合來利用的情形變多了。以各終端機所拍攝的影像是根據另外取得的終端機間之相對的位置關係、或者影像所含的特徵點一致的區域等來整合。
伺服器不只將二維的動態圖像進行編碼,還可根據動態圖像的場景解析等,而自動或者是在用戶所指定的時刻,將靜態圖進行編碼,再發送到接收終端機。伺服器進而在可取得攝影終端機之間的相對的位置關係時,不只是二維的動態圖像,還可根據從不同角度對相同場景拍攝的影像,產生該場景的三維形狀。伺服器也可另外將藉由點雲(point cloud)等所產生的三維的資料進行編碼,也可根據使用三維資料來辨識或者追蹤人物或目標的結果,從以複數個終端機拍攝的影像中選擇或者再構成而產生要發送到接收終端機的影像。
如此進行後,用戶也可任意選擇對應於各攝影終端機的各影像來觀賞場景,也可觀賞從使用複數個圖像或者影像而再構成的三維資料切出選擇視點之影像的內容。進而,聲音也可與影像一起從複數個相異的角度收音,令伺服器將來自特定角度或空間的聲音和對應的影像進行多工,之後再發送已多工的影像及聲音。
又,近年來,Virtual Reality(VR/虛擬實境)及Augmented Reality(AR/擴增實境)等使現實世界及虛擬世界相對應的內容也漸漸普及了。在VR的圖像的情況,也可使伺服器分別作出左眼用及右眼用的視點圖像,藉由Multi-View Coding(MVC)(多視角編碼)等進行在各視點影像之間容許參考的編碼,也可不互相參考而作為不同串流來進行編碼。在解碼不同串流時,以因應用戶的視點而將虛擬的三維空間重現的方式,使其互相同步地播放即可。
在AR的圖像的情況,伺服器會根據三維性質的位置或者用戶的視點的移動,而將虛擬空間上的虛擬物體資訊重疊在現實空間的攝像機資訊。解碼裝置也可取得或者保持虛擬物體資訊及三維資料,因應用戶的視點的移動來產生二維圖像,並藉由平滑地接續該等來作成重疊資料。或者,解碼裝置也可在虛擬物體資訊的請求外,將用戶的視點的移動也發送到伺服器。伺服器也可配合接收到的視點的移動而從保持在伺服器的三維資料來作成重疊資料,且將重疊資料進行編碼,再分發到解碼裝置。另,重疊資料除了RGB以外還具有顯示穿透度的α值,伺服器也可將從三維資料所作成的目標以外的部分之α值設定為0等,且在該部分為穿透的狀態下進行編碼。或者,伺服器也可如同色鍵(Chroma key)將預定的值之RGB值設定為背景,並產生目標以外的部分皆設成背景色的資料。
同樣地分發的資料的解碼處理也可在客戶端即各終端機進行,也可在伺服器側進行,也可相互分擔進行。以一例來說,也可是某終端機暫且將接收請求送到伺服器,再在其他終端機接收因應該請求的內容,進行解碼處理,將已解碼完畢的訊號發送到具有顯示器的裝置。藉由在不依賴可通訊的終端機本身的性能之狀態下將處理分散而選擇適合的內容,可播放畫質佳的資料。又,以另一例來說,也可一邊在TV等接收大尺寸的圖像資料,一邊將圖片分割後的圖塊等一部分的區域在觀眾的個人終端進行解碼而顯示。藉此,可共享整體圖像,並可在手邊確認本身的負責領域或者想更加詳細確認的區域。
又,在可使用室內外的近距離、中距離、或者長距離之複數種無線通訊的狀況下,也許可以利用MPEG-DASH等之分發系統規格無縫地接收內容。用戶也可以一邊自由地選擇用戶的終端機、配置在室內外的顯示器等之解碼裝置或者顯示裝置,一邊實時地進行切換。又,可使用本身的位置資訊等,一邊切換解碼的終端機及顯示的終端機一邊進行解碼。藉此,用戶在往目的地移動的期間,可在埋設有可進行顯示的元件之旁邊的建築物的壁面或者是地面的一部分映射及顯示資訊。又,也可基於網路上之對編碼資料的存取容易性來切換接收資料的位元率,前述對編碼資料的存取容易性是指編碼資料被快取到可在短時間內從接收終端機存取的伺服器,或者是被複製到內容傳遞服務(Contents Delivery Service)中的邊緣伺服器等。 [可調式編碼]
有關於內容的切換,是利用顯示於圖57之可調式串流來說明,前述可調式串流是應用在上述各實施形態所示的動態圖像編碼方法而被壓縮編碼的串流。雖然伺服器具有內容相同但品質不同的複數個串流來作為個別的串流也無妨,但也可為靈活運用時間型/空間型可調式的串流之特徵來切換內容的構成,其中前述時間型/空間型可調式的串流是如圖所示藉由分層進行編碼而實現。也就是說,解碼側因應所謂性能的內在因素及通訊頻帶的狀態等之外在因素,來決定要解碼到哪一層,藉此解碼側可自由地切換低解析度的內容及高解析度的內容而進行解碼。例如想要把用戶在移動中於智慧型手機ex115收看的影像的後續部分例如回家後以網路TV等的機器收看時,該機器只要將相同的串流解碼到不同層即可,因此可減輕伺服器側的負擔
進而,如上述,在每層將圖片進行編碼,且以基本層的上位的加強層來實現可調性(scalability)之構成以外,也可為加強層含有基於圖像的統計資訊等之元資訊。解碼側也可根據元資訊將基本層的圖片進行超解析,藉此產生已高畫質化的內容。超解析也可維持及/或放大解析度,同時提升SN比。元資訊包括用以特定出超解析處理所使用的線性或非線性的濾波係數的資訊、或者用以特定出超解析處理所使用的濾波處理、機械學習或最小平方運算中的參數值的資訊等。
或者,也可提供因應圖像內的目標等的含義而將圖片分割成圖塊等的構成。解碼側選擇要解碼的圖塊,藉此只將一部分的區域進行解碼。進而,把目標的屬性(人物、車、球等)與影像內的位置(同一圖像中的座標位置等)作為元資訊來儲存,藉此,解碼側可根據元資訊,特定出期望的目標的位置,決定包含該目標的圖塊。例如,如圖58所示,元資訊也可使用HEVC中的SEI(supplemental enhancement information)訊息等與像素資料不同之資料儲存構造來儲存。該元資訊例如顯示主目標的位置、尺寸、或者色彩等。
又,也可以串流、序列或者隨機存取單位等由複數個圖片所構成的單位來儲存元資訊。解碼側可取得特定人物出現在影像內的時刻等,藉由對照圖片單位的資訊與時間資訊,便可特定出目標存在的圖片,可決定在圖片內之目標的位置。 [網頁的最適化]
圖59是顯示電腦ex111等中之網頁(web page)的顯示畫面例之圖。圖60是顯示智慧型手機ex115等中之網頁的顯示畫面例之圖。如圖59及圖60所示,網頁有包括複數個鏈接圖像的情況,其中該等鏈接圖像為前往圖像內容的鏈接,該等鏈接圖像的看到方式會依據閱覽的元件而有所不同。在畫面上看得到複數個鏈接圖像時,迄至用戶明確地選擇鏈接圖像為止,或者是迄至鏈接圖像靠近畫面的中央附近或者鏈接圖像整體進入畫面內為止,顯示裝置(解碼裝置)可顯示各內容所具有的靜態圖或I圖片來作為鏈接圖像,也可以複數個靜態圖或I圖片等來顯示像gif動畫般的影像,也可只接收基本層並解碼及顯示影像。
在由用戶選擇了鏈接圖像時,顯示裝置會將基本層視為最優先來進行解碼。另,在構成網頁的HTML具有表示可調式的內容的資訊時,顯示裝置也可解碼至加強層為止。進而,為了保證實時性,在被選擇之前或者通訊頻帶非常吃緊時,顯示裝置只將參考前方的圖片(I圖片、P圖片、僅參考前方的B圖片)進行解碼及顯示,藉此可減少前頭圖片的解碼時刻與顯示時刻間的延遲(從內容的解碼開始迄至顯示開始之延遲)。又進而,顯示裝置也可硬是忽視圖片的參考關係,而使全部的B圖片及P圖片參考前方粗略地進行解碼,經過一段時間,隨著接收的圖片增加,再進行正常的解碼。 [自動行駛]
又,為了車輛的自動行駛或者支援行駛而發送及接收二維或者三維的地圖資訊等之靜態圖或者是影像資料時,接收終端機除了屬於1層以上的層之圖像資料以外,也可接收天氣或者施工的資訊等來作為元資訊,並使該等資訊對應而進行解碼。另,元資訊也可屬於層,也可單純地與圖像資料進行多工。
此時,含有接收終端機的車輛、空拍機或者飛機等會移動,因此接收終端機可藉由發送該接收終端機的位置資訊,一邊切換基地台ex106至ex110一邊實現無縫的接收及解碼之執行。又,接收終端機可因應用戶的選擇、用戶的狀況及/或通訊頻帶的狀態,而動態地切換將元資訊接收到何種程度,或者是將地圖資訊逐步更新到何種程度。
在內容供給系統ex100中,客戶端可實時地接收並解碼、播放用戶所發送的已編碼資訊。 [個人內容的分發]
又,在內容供給系統ex100中,不只可分發透過影像分發業者所進行的高畫質且長時間的內容,還能分發透過個人所進行的低畫質且短時間的內容的單點傳播(unicast)或者多點播送(multicast)。像這樣的個人的內容認為今後也會增加。為了將個人內容做成更優異的內容,伺服器也可進行編輯處理之後再進行編碼處理。這例如可用如下的構成來實現。
在攝影時實時或者累積到攝影後,伺服器從原圖資料或者編碼完畢資料,進行攝影錯誤、場景搜尋、意義的解析、及目標檢測等之辨識處理。接著,伺服器根據辨識結果進行以下編輯:手動或者自動地補正失焦或手震等,或者是刪除明度比其他圖片低或未對到焦距的場景等重要性低的場景,或者是強調目標的邊緣,或者是變化色調等。伺服器根據編輯結果,將編輯後的資料進行編碼。又,已知道攝影時間太長時,收視率會下降,伺服器也可因應撮影時間,如上述般不只是對重要性低的場景,亦對移動少的場景等,根據圖像處理結果自動地進行剪輯,以成為特定的時間範圍內的內容。或者,伺服器也可根據場景的意義解析的結果來產生摘要(digest),且進行編碼。
在個人內容中,有若保持原狀,成為侵害著作權、著作人格權、或者肖像權的東西會被拍進去的事例,也有共享的範圍超過所意圖的範圍等對個人來說不妥的情況。因此,例如,伺服器也可刻意地將畫面的周邊部的人臉或者是家裡等,變更成不對焦的圖像再進行編碼。進而,伺服器也可辨識在編碼對象圖像內是否有拍到與事先登錄的人物不同人物的臉,若有拍到時,也可進行對臉的部分加上馬賽克等之處理。或者,作為編碼的前處理或者後處理,用戶也可基於著作權等的觀點來指定圖像中想要加工的人物或者背景區域。伺服器也可將指定的區域替換成別的影像,或者進行模糊焦點等的處理。若是人物,在動態圖像中,可一邊追蹤人物,一邊將人物的臉的部分的影像替換。
又,由於資料量小的個人內容的收看對實時性的要求高,雖然依頻帶寬度有所差異,但解碼裝置首先是最優先地接收基本層,然後進行解碼及播放。解碼裝置也可在這期間接收加強層,在循環播放等播放2次以上的時候,連同加強層在內播放高畫質的影像。若是像這樣進行可調式編碼的串流,就能提供如下體驗,即,在未選擇時或者剛開始看的階段是粗糙的動態圖,但串流漸漸地智慧化,圖像變好。除了可調式編碼以外,將第1次播放的粗糙的串流、及參考第1次動態圖來編碼的第2次的串流構成為1個串流,也可提供同樣的體驗。 [其他實施應用例]
又,該等編碼或者解碼處理,一般來說是在各終端機所具有的LSIex500中來處理。LSI(large scale integration circuitry)ex500(參考圖56)可以是單晶片,也可以是由複數個晶片所構成的構成。另,也可將動態圖像編碼或者解碼用的軟體裝入電腦ex111等可讀取的某些記錄媒體(CD-ROM、軟碟、或者硬碟等),並使用該軟體來進行編碼或者解碼處理。進而,智慧型手機ex115附有攝像機時,也可發送以該攝像機取得的動態圖資料。此時的動態圖資料是已經透過智慧型手機ex115所具有的LSIex500進行編碼處理的資料。
另,LSIex500也可為下載應用軟體來啟動(activate)之構成。此時,首先,終端機判斷該終端機是否對應內容的編碼方式,或者是否具有特定服務的執行能力。在終端機未對應內容的編碼方式時,或者不具有特定服務的執行能力時,終端機下載編解碼器(codec)或者應用軟體,之後取得及播放內容。
又,不限於經由網際網路ex101的內容供給系統ex100,在數位廣播用系統,也可裝入上述各實施形態之至少動態圖像編碼裝置(圖像編碼裝置)或者動態圖像解碼裝置(圖像解碼裝置)之任一者。由於是利用衛星等而在廣播用的電波乘載已將影像與聲音進行多工的多工資料來進行收發,所以相對於內容供給系統ex100的易於進行單點傳播的構成,數位廣播用系統雖有利於多點播送的差異,但有關於編碼處理及解碼處理,仍可做同樣的應用。 [硬體構成]
圖61是顯示圖56所示的智慧型手機ex115的更詳細的圖。又,圖62是顯示智慧型手機ex115的構成例之圖。智慧型手機ex115包含有:天線ex450,用於在與基地台ex110之間收發電波;攝像機部ex465,可拍攝影像及靜態圖;以及顯示部ex458,顯示已將以攝像機部ex465所拍攝的影像、及以天線ex450所接收的影像等進行解碼之資料。智慧型手機ex115更包含有:操作部ex466,為觸控面板等;聲音輸出部ex457,為用以輸出聲音或者音響的揚聲器等;聲音輸入部ex456,為用以輸入聲音之麥克風等;記憶體部ex467,可保存拍攝的影像或者靜態圖、錄音的聲音、已接收的影像或者靜態圖、郵件等之已編碼的資料或者已解碼的資料;及插槽部ex464,為與SIMex468的介面部,其中SIMex468用以特定用戶,且對以網路為首的各種資料之存取進行認證。另,也可使用外接式記憶體來替代記憶體部ex467。
又,將顯示部ex458及操作部ex466等總括地控制的主控制部ex460、電源電路部ex461、操作輸入控制部ex462、影像訊號處理部ex455、攝像機介面部ex463、顯示器控制部ex459、調變/解調部ex452、多工/分離部ex453、聲音訊號處理部ex454、插槽部ex464、以及記憶體部ex467是經由同步匯流排ex470來連接。
藉由用戶的操作使電源鍵成為開啟狀態時,電源電路部ex461就起動智慧型手機ex115成為可動作的狀態,且從電池組對各部供應電力。
智慧型手機ex115是基於具有CPU、ROM及RAM等之主控制部ex460的控制,進行通話及資料通訊等的處理。在通話時是將以聲音輸入部ex456所收音的聲音訊號在聲音訊號處理部ex454轉換成數位聲音訊號,在調變/解調部ex452實施展頻處理,在發送/接收部ex451實施數位類比轉換處理以及頻率轉換處理,之後再將其結果的訊號經由天線ex450發送。又,將接收資料放大,並實施頻率轉換處理以及類比數位轉換處理,在調變/解調部ex452進行解展頻處理,在聲音訊號處理部ex454轉換成類比聲音訊號,之後再將該訊號從聲音輸出部ex457輸出。在資料通訊模式時,根據本體部的操作部ex466等的操作,將正文(text)、靜態圖或者影像資料經由操作輸入控制部ex462而送出至主控制部ex460。進行同樣的收發處理。在資料通訊模式時,於發送影像、靜態圖或者影像及聲音的情況,影像訊號處理部ex455是將記憶體部ex467所保存的影像訊號、或者從攝像機部ex465所輸入的影像訊號透過上述各實施形態所示的動態圖像編碼方法進行壓縮編碼,且將業經編碼的影像資料送出至多工/分離部ex453。又,聲音訊號處理部ex454將在以攝像機部ex465將影像或者靜態圖等攝影中於聲音輸入部ex456所收音的聲音訊號進行編碼,且將業經編碼的聲音資料送出至多工/分離部ex453。多工/分離部ex453將編碼完畢影像資料及編碼完畢聲音資料以預定的方式進行多工,且於調變/解調部(調變/解調電路部)ex452及發送/接收部ex451實施調變處理及轉換處理,再經由天線ex450來發送。
在接收到電子郵件或對話(chat)所附的影像、或者鏈接到網頁等的影像時等,為了將經由天線ex450所接收到的多工資料進行解碼,多工/分離部ex453將多工資料分離,藉此把多工資料分成影像資料的位元串流及聲音資料的位元串流,經由同步匯流排ex470而將業經編碼的影像資料供給至影像訊號處理部ex455,並將業經編碼的聲音資料供給至聲音訊號處理部ex454。影像訊號處理部ex455藉由對應於上述各實施形態所示的動態圖像編碼方法之動態圖像解碼方法,將影像訊號進行解碼,且經由顯示器控制部ex459,從顯示部ex458顯示被鏈接的動態圖像檔所含之影像或者靜態圖。又,聲音訊號處理部ex454將聲音訊號進行解碼,且從聲音輸出部ex457輸出聲音。由於實時串流傳輸(real-time streaming)愈來愈普及,依用戶的狀況,聲音的播放也可能會有就社會觀感而言不合適的情況。為此,作為初始值,聲音訊號不要播放而只播放影像資料的構成是較被希望的,也可以只有在用戶進行了點擊影像資料等操作的時候才將聲音同步地播放。
又,在此,是以智慧型手機ex115為例進行了說明,但以終端機而言也可考慮如下3種其他安裝形式:除了具有編碼器及解碼器兩者的收發型終端機之外,還有只具有編碼器的發送終端機、及只具有解碼器的接收終端機。在數位廣播用系統中,是以接收或者發送在影像資料上已多工有聲音資料之多工資料的情形來說明。但多工資料上除了聲音資料以外,也可多工有與影像有關聯的文字資料等。又,也可接收或者發送影像資料本身,而不是多工資料。
另,雖以包含有CPU的主控制部ex460控制編碼或者解碼處理的情形進行了說明,但各種終端機具備GPU的情況也居多。因此,也可構成如下,即,藉由在CPU與GPU共通化的記憶體、或者將位址加以管理以形成可共通使用之狀態的記憶體,靈活運用GPU的性能,一次性地處理廣大的區域。藉此,可縮短編碼時間,確保實時性,可實現低延遲。尤其,不是利用CPU,而是利用GPU,以圖片等的單位一次性地進行移動估測、解區塊濾波、SAO(Sample Adaptive Offset)、及轉換/量化的處理時,是有效率的。 產業上之可利用性
本揭示可利用在諸如電視機、數位影像錄影機、車用導航、行動電話、數位照相機、數位影像攝影機、視訊會議系統、或者電子鏡等。
10至20:區塊 100:編碼裝置 102:分割部 104:減法部 106:轉換部 108:量化部 110:熵編碼部 112,204:反量化部 114,206:反轉換部 116,208:加法部 118,210:區塊記憶體 120,212:迴路濾波部 122,214:幀記憶體 124,216:內預測部 126,218:間預測部 128,220:預測控制部 132:圖片類型決定部 134,234:候選清單產生部 136,236:候選區塊資訊記憶體 160,260:電路 162,262:記憶體 200:解碼裝置 202:熵解碼部 1201:邊界判定部 1202,1204,1206:開關 1203:濾波判定部 1205:濾波處理部 1207:濾波器特性決定部 1208:處理判定部 a1,b1:處理器 a2,b2:記憶體 ex100:內容供給系統 ex101:網際網路 ex102:網際網路服務提供者 ex103:串流伺服器 ex104:通訊網 ex106至ex110:基地台 ex111:電腦 ex112:遊戲機 ex113:攝像機 ex114:家電 ex115:智慧型手機 ex116:衛星 ex117:飛機 ex450:天線 ex451:發送/接收部 ex452:調變/解調部 ex453:多工/分離部 ex454:聲音訊號處理部 ex455:影像訊號處理部 ex456:聲音輸入部 ex457:聲音輸出部 ex458:顯示部 ex459:顯示器控制部 ex460:主控制部 ex461:電源電路部 ex462:操作輸入控制部 ex463:攝像機介面部 ex464:插槽部 ex465:攝像機部 ex466:操作部 ex467:記憶體部 ex468:SIM ex470:匯流排 ex500:LSI Sa_1至Sa_10,Sb_1,Sc_1a至Sc_1c,Sc_2,Sd_1a至Sd_1b,Sd_2至Sd_3,Se_1至Se_4,Sf_1至Sf_5,Sg_1至Sg_5,Sh_1至Sh_3,Si_1至Si_5,Sk_1至Sk_3,Sj_1至Sj_6,Sl_1至Sl_4,Sm_1至Sm_2,Sn_1至Sn_5,So_1至So_4,Sp_1至Sp_7,Sq_1,Sr_1,Sr_2a至Sr_2c,Ss_1至Ss_5,S1001至S1003,S2001至S2003,S311至S313,S411至S413:步驟
圖1是顯示實施形態之編碼裝置之功能構成的方塊圖。
圖2是顯示依編碼裝置所進行的整體的編碼處理之一例的流程圖。
圖3是顯示區塊分割的一例之圖。
圖4A是顯示切片之構成的一例的圖。
圖4B是顯示圖塊之構成的一例的圖。
圖5A是顯示對應於各轉換類型之轉換基底函數的表格。
圖5B是顯示SVT(Spatially Varying Transform)的圖。
圖6A是顯示ALF(adaptive loop filter)所使用之濾波器的形狀的一例之圖。
圖6B是顯示ALF所使用之濾波器的形狀的另一例之圖。
圖6C是顯示ALF所使用之濾波器的形狀的另一例之圖。
圖7是顯示作為DBF而發揮功能的迴路濾波部之詳細構成的一例的方塊圖。
圖8是顯示對區塊邊界具有對稱的濾波特性之解區塊濾波器之例的圖。
圖9是用於說明進行解區塊濾波處理的區塊邊界的圖。
圖10是顯示Bs值之一例的圖。
圖11是顯示在編碼裝置的預測處理部所進行的處理之一例的圖。
圖12是顯示在編碼裝置的預測處理部所進行的處理之另一例的圖。
圖13是顯示在編碼裝置的預測處理部所進行的處理之另一例的圖。
圖14是顯示內預測中之67個內預測模式的一例之圖。
圖15是顯示間預測之基本處理之流程之流程圖。
圖16是顯示導出移動向量的一例的流程圖。
圖17是顯示導出移動向量的另一例的流程圖。
圖18是顯示導出移動向量的另一例的流程圖。
圖19是顯示依正常間模式所進行的間預測之例的流程圖。
圖20是顯示依合併模式所進行的間預測之例的流程圖。
圖21是用於說明依合併模式所進行之移動向量導出處理之一例的流程圖。
圖22是顯示FRUC(frame rate up conversion)之一例的流程圖。
圖23是用於說明在沿著移動軌跡的2個區塊間的圖案匹配(雙向匹配)之一例的圖。
圖24是用於說明在當前圖片內的模板與參考圖片內的區塊間的圖案匹配(模板匹配)之一例的圖。
圖25A是用於說明基於複數個鄰接區塊的移動向量而導出子區塊單位的移動向量之一例的圖。
圖25B是用於說明具有3個控制點的仿射模式中導出子區塊單位之移動向量的一例之圖。
圖26A是用於說明仿射合併模式的概念圖。
圖26B是用於說明具有2個控制點的仿射合併模式的概念圖。
圖26C是用於說明具有3個控制點的仿射合併模式的概念圖。
圖27是顯示仿射合併模式之處理的一例的流程圖。
圖28A是用於說明具有2個控制點的仿射間模式的圖。
圖28B是用於說明具有3個控制點的仿射間模式的圖。
圖29是顯示仿射間模式之處理的一例的流程圖。
圖30A是用於說明當前區塊具有3個控制點,鄰接區塊具有2個控制點的仿射間模式的圖。
圖30B是用於說明當前區塊具有2個控制點,鄰接區塊具有3個控制點的仿射間模式的圖。
圖31A是顯示合併模式及DMVR(dynamic motion vector refreshing)之關係的圖。
圖31B是用於說明DMVR處理的一例的概念圖。
圖32是顯示產生預測圖像的一例之流程圖。
圖33是顯示產生預測圖像的另一例之流程圖。
圖34是顯示產生預測圖像的又另一例之流程圖。
圖35是用於說明依OBMC(overlapped block motion compensation)處理所進行的預測圖像補正處理之一例的流程圖。
圖36是用於說明依OBMC處理所進行的預測圖像補正處理之一例的概念圖。
圖37是用於說明產生2個三角形之預測圖像的圖。
圖38是用於說明假設等速直線運動之模型的圖。
圖39是用於說明使用了依LIC(local illumination compensation)處處理所進行的亮度補正處理之預測圖像產生方法之一例的圖。
圖40是顯示編碼裝置的安裝例的方塊圖。
圖41是顯示實施形態之解碼裝置的功能構成的方塊圖。
圖42是顯示依解碼裝置所進行的整體的解碼處理的一例之流程圖。
圖43是顯示在解碼裝置的預測處理部所進行的處理之一例的圖。
圖44是顯示在解碼裝置的預測處理部所進行的處理之另一例的圖。
圖45是顯示依解碼裝置中的正常間模式所進行的間預測之例的流程圖。
圖46是顯示解碼裝置的安裝例的方塊圖。
圖47是在實施形態1之間預測處理所使用的差量移動向量的說明圖。
圖48是顯示實施形態1之第1態樣之解碼裝置的間預測部所進行的間預測處理中的移動向量選擇處理的流程圖。
圖49是顯示含有在實施形態1之第1態樣之移動向量選擇處理之中所使用的複數個表格的表1之例的圖。
圖50是顯示含有在實施形態1之第1態樣之移動向量選擇處理之中所使用的複數個表格的表2之例的圖。
圖51是顯示實施形態1之第2態樣之解碼裝置的間預測部所進行的間預測處理中的移動向量選擇處理的流程圖。
圖52是顯示實施形態1之編碼裝置的安裝例的方塊圖。
圖53是顯示圖52所示的編碼裝置之動作例的流程圖。
圖54是顯示實施形態1之解碼裝置的安裝例的方塊圖。
圖55是顯示圖54所示的解碼裝置之動作例的流程圖。
圖56是實現內容分發服務之內容供給系統的整體構成圖。
圖57是顯示可調式(scalable)編碼時之編碼構造的一例之圖。
圖58是顯示可調式編碼時之編碼構造的一例之圖。
圖59是顯示網頁的顯示畫面例之圖。
圖60是顯示網頁的顯示畫面例之圖。
圖61是顯示智慧型手機的一例之圖。
圖62是顯示智慧型手機之構成例的方塊圖。
S311,S312,S313:步驟

Claims (2)

  1. 一種編碼裝置,包含: 記憶體;及 電路,連接於前述記憶體,並且配置來進行以下動作: 從複數個表格中選擇第1表格,每個前述表格將複數個索引與各自的補正值建立關聯,每個前述表格是使用來改變包含於圖像的當前區塊之移動向量; 寫入參數至位元流,前述參數是表示在前述第1表格的複數個索引之中的第1索引; 特定出與前述第1索引相關聯的補正值; 藉由前述補正值在預定的方向上改變前述移動向量;及 基於已改變的前述移動向量來編碼前述當前區塊; 其中在前述補正值之中的2個前述補正值之間的差異是因表格而變化,且在每個前述表格中的前述2個補正值與相同的2個索引相關聯。
  2. 一種解碼裝置,包含: 記憶體;及 電路,連接於前述記憶體,並且配置來進行以下動作: 從複數個表格來選擇第1表格,每個前述表格將複數個索引與各自的補正值建立關聯,每個前述表格是使用來改變包含於圖像的當前區塊之移動向量; 解析表示從前述第1表格所包含的複數個索引之中被選擇的第1索引之參數; 特定出與前述第1索引相關聯的補正值; 藉由前述補正值在預定的方向上改變前述移動向量;及 基於已改變的前述移動向量來解碼前述當前區塊; 其中在前述補正值之中的2個前述補正值之間的差異是因表格而變化,且在每個前述表格中的前述2個補正值與相同的2個索引相關聯。
TW112138228A 2018-07-18 2019-07-17 編碼裝置及解碼裝置 TW202404351A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201862699930P 2018-07-18 2018-07-18
US62/699,930 2018-07-18

Publications (1)

Publication Number Publication Date
TW202404351A true TW202404351A (zh) 2024-01-16

Family

ID=69164364

Family Applications (2)

Application Number Title Priority Date Filing Date
TW112138228A TW202404351A (zh) 2018-07-18 2019-07-17 編碼裝置及解碼裝置
TW108125293A TW202013971A (zh) 2018-07-18 2019-07-17 編碼裝置、解碼裝置、編碼方法及解碼方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
TW108125293A TW202013971A (zh) 2018-07-18 2019-07-17 編碼裝置、解碼裝置、編碼方法及解碼方法

Country Status (13)

Country Link
US (4) US11012706B2 (zh)
EP (1) EP3826305A4 (zh)
JP (3) JP6950095B2 (zh)
KR (1) KR20210030357A (zh)
CN (1) CN112425171A (zh)
AU (3) AU2019303651B2 (zh)
BR (1) BR112020025664A2 (zh)
CA (1) CA3105938A1 (zh)
MX (1) MX2021000357A (zh)
SG (1) SG11202100230PA (zh)
TW (2) TW202404351A (zh)
WO (1) WO2020017367A1 (zh)
ZA (1) ZA202203500B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112425171A (zh) * 2018-07-18 2021-02-26 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法和解码方法
US10999589B2 (en) 2018-10-04 2021-05-04 Tencent America LLC Method and apparatus for video coding
JP7391958B2 (ja) 2018-11-08 2023-12-05 オッポ広東移動通信有限公司 ビデオ信号符号化/復号方法及び前記方法に用いられる機器
CN113039788A (zh) 2018-11-08 2021-06-25 Oppo广东移动通信有限公司 视频信号编码/解码方法以及用于所述方法的设备
US11122272B2 (en) * 2018-12-26 2021-09-14 Mediatek Inc. Triangle prediction with applied-block settings and motion storage settings
US10904553B2 (en) * 2019-01-22 2021-01-26 Tencent America LLC Method and apparatus for video coding
JP7268409B2 (ja) * 2019-03-08 2023-05-08 株式会社Jvcケンウッド 画像符号化装置、画像符号化方法及び画像符号化プログラム
EP3937489A4 (en) * 2019-03-08 2022-08-03 Jvckenwood Corporation MOVING PICTURE CODING DEVICE, MOVING PICTURE CODING METHOD, MOVING PICTURE CODING PROGRAM, MOVING PICTURE DECODING DEVICE, MOVING PICTURE DECODING METHOD, AND MOVING PICTURE DECODING PROGRAM
JP2023005871A (ja) * 2021-06-29 2023-01-18 Kddi株式会社 画像復号装置、画像復号方法及びプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999003284A1 (en) * 1997-07-09 1999-01-21 Nippon Telegraph And Telephone Corporation Method for encoding and decoding moving vector, encoder and decoder for moving vector, and recording medium stored with encoding and decoding programs for moving vector
JP2918546B2 (ja) * 1997-07-09 1999-07-12 日本電信電話株式会社 動きベクトル符号化方法および復号方法、動きベクトル符号化装置および復号装置、並びに、動きベクトル符号化プログラムおよび復号プログラムを記録した記録媒体
JP4418762B2 (ja) * 2004-05-07 2010-02-24 キヤノン株式会社 画像符号化装置及び画像復号装置及びそれらの制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP5100495B2 (ja) * 2008-05-09 2012-12-19 株式会社東芝 画像処理装置
AU2012311021B2 (en) * 2011-09-19 2016-07-14 Sun Patent Trust Image coding method, image decoding method, image coding apparatus, image decoding apparatus, and image coding and decoding apparatus
US20150098508A1 (en) * 2011-12-30 2015-04-09 Humax Co., Ltd. Method and device for encoding three-dimensional image, and decoding method and device
WO2013128832A1 (ja) * 2012-03-02 2013-09-06 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置および画像符号化復号装置
MX2017005651A (es) * 2014-10-31 2017-06-29 Samsung Electronics Co Ltd Dispositivo de codificacion de video y dispositivo de decodificacion de video que usa la codificacion de salto de alta precision y metodo del mismo.
EP3306935A4 (en) * 2015-06-05 2019-01-02 Intellectual Discovery Co., Ltd. Image encoding and decoding method and image decoding device
JP6172324B2 (ja) * 2016-04-27 2017-08-02 株式会社Jvcケンウッド 画像復号装置、画像復号方法、画像復号プログラム、受信装置、受信方法及び受信プログラム
US10812791B2 (en) * 2016-09-16 2020-10-20 Qualcomm Incorporated Offset vector identification of temporal motion vector predictor
EP3747193A4 (en) * 2018-01-30 2021-11-03 Sharp Kabushiki Kaisha SYSTEMS AND METHODS FOR PERFORMING MOTION VECTOR PREDICTION FOR VIDEO ENCODING USING MOTION VECTOR PREDICATOR ORIGINS
KR102220474B1 (ko) * 2018-02-28 2021-02-25 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
WO2019225933A1 (ko) * 2018-05-21 2019-11-28 엘지전자 주식회사 영상 코딩 시스템에서 lut를 기반으로 도출된 mvd 를 사용하는 영상 디코딩 방법 및 그 장치
CN112425171A (zh) 2018-07-18 2021-02-26 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法和解码方法

Also Published As

Publication number Publication date
JPWO2020017367A1 (ja) 2021-03-11
WO2020017367A1 (ja) 2020-01-23
AU2019303651B2 (en) 2023-04-20
JP6950095B2 (ja) 2021-10-13
MX2021000357A (es) 2021-03-25
US11463725B2 (en) 2022-10-04
JP7187640B2 (ja) 2022-12-12
AU2019303651A1 (en) 2021-01-28
US20210243469A1 (en) 2021-08-05
KR20210030357A (ko) 2021-03-17
US20200195963A1 (en) 2020-06-18
CA3105938A1 (en) 2020-01-23
US11805273B2 (en) 2023-10-31
TW202013971A (zh) 2020-04-01
US20240015322A1 (en) 2024-01-11
JP2022008483A (ja) 2022-01-13
US20220385939A1 (en) 2022-12-01
ZA202203500B (en) 2023-08-30
AU2023201643B2 (en) 2024-02-15
EP3826305A1 (en) 2021-05-26
JP2023014255A (ja) 2023-01-26
EP3826305A4 (en) 2021-08-18
AU2023201643A1 (en) 2023-04-20
SG11202100230PA (en) 2021-02-25
AU2024200587A1 (en) 2024-02-22
US11012706B2 (en) 2021-05-18
CN112425171A (zh) 2021-02-26
BR112020025664A2 (pt) 2021-03-23

Similar Documents

Publication Publication Date Title
JP7187640B2 (ja) 符号化方法及び復号方法
TWI825176B (zh) 編碼裝置、解碼裝置及電腦可讀取之非暫時性媒體
JP7389283B2 (ja) 符号化装置及び復号装置
TWI812414B (zh) 編碼裝置、解碼裝置及記錄媒體
JPWO2020184555A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
JP7314382B2 (ja) 復号装置
JP7432022B2 (ja) 符号化装置及び復号装置
JPWO2019240050A1 (ja) 符号化装置、復号装置、符号化方法および復号方法
JP2023068203A (ja) 復号装置及び復号方法
JP2023159317A (ja) 符号化装置及び復号装置
TWI813740B (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
JP2023174956A (ja) 復号装置及び符号化装置
JP2023001298A (ja) 復号装置及び復号方法
TW201909631A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TWI827605B (zh) 解碼裝置及解碼方法
TW202101982A (zh) 編碼裝置、解碼裝置、編碼方法、及解碼方法
KR20210055044A (ko) 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법
TWI831724B (zh) 非暫時性記憶媒體
TWI827394B (zh) 非暫時性記憶媒體
WO2021025080A1 (ja) 符号化装置、復号装置、符号化方法、および復号方法
TW202415073A (zh) 編碼裝置、解碼裝置及電腦可讀取之非暫時性媒體
TW202034697A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法