TW201904293A - 編碼裝置、編碼方法、解碼裝置及解碼方法 - Google Patents

編碼裝置、編碼方法、解碼裝置及解碼方法 Download PDF

Info

Publication number
TW201904293A
TW201904293A TW107118739A TW107118739A TW201904293A TW 201904293 A TW201904293 A TW 201904293A TW 107118739 A TW107118739 A TW 107118739A TW 107118739 A TW107118739 A TW 107118739A TW 201904293 A TW201904293 A TW 201904293A
Authority
TW
Taiwan
Prior art keywords
conversion
target block
base
predetermined
mode
Prior art date
Application number
TW107118739A
Other languages
English (en)
Inventor
大川真人
齋藤秀雄
遠間正真
西孝啓
安倍清史
加納龍一
Original Assignee
美商松下電器（美國）知識產權公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商松下電器（美國）知識產權公司 filed Critical 美商松下電器（美國）知識產權公司
Publication of TW201904293A publication Critical patent/TW201904293A/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一種編碼裝置，判定是否使用幀內預測，當判定使用幀內預測時，判定是否使用適應基底選擇模式，以及編碼對象區塊之尺寸是否與預定尺寸一致，當判定使用適應基底選擇模式，且編碼對象區塊之尺寸與預定尺寸一致時：(i) 在適應基底選擇模式中，將編碼對象區塊用的第1轉換基底固定為第1預定轉換基底，且使用第1預定轉換基底來對編碼對象區塊之殘差訊號進行第1轉換，藉此產生第1轉換係數，(ii-1) 當編碼對象區塊之幀內預測模式為預定模式時，量化第1轉換係數，(ii-2) 當編碼對象區塊之幀內預測模式非預定模式時，使用第2轉換基底來對第1轉換係數進行第2轉換，藉此產生第2轉換係數，且量化第2轉換係數。

Description

編碼裝置、編碼方法、解碼裝置及解碼方法
發明領域 本揭示係有關於在區塊單位的圖像/影像之編碼及解碼。
發明背景 稱為HEVC (High-Efficiency Video Coding)的影像編碼標準規格，是藉由JCT-VC (Joint Collaborative Team on Video Coding)而標準化。
先行技術文獻 非專利文獻 非專利文獻1：H.265(ISO/IEC 23008-2 HEVC (High Efficiency Video Coding))
發明概要 發明欲解決之課題 在如此的編碼及解碼技術中，要求抑制壓縮效率之低落，同時減輕處理之負載。
因此，本揭示是提供一種可實現抑制壓縮效率之低落，同時減輕處理之負載的編碼裝置、解碼裝置、編碼方法或者解碼方法。
用以解決課題之手段 本揭示一態樣之編碼裝置，是對圖片之編碼對象區塊做編碼的編碼裝置，其包含處理器及記憶體，其中，前述處理器使用前述記憶體，判定是否對前述編碼對象區塊使用幀內預測，當判定對前述編碼對象區塊使用幀內預測時，判定是否對前述編碼對象區塊使用可從複數個第1轉換基底的候選之中選擇第1轉換基底的適應基底選擇模式，以及前述編碼對象區塊之尺寸是否與預定尺寸一致，當判定對前述編碼對象區塊使用前述適應基底選擇模式，且前述編碼對象區塊之尺寸與前述預定尺寸一致時：(i) 在前述適應基底選擇模式中，將前述編碼對象區塊用的第1轉換基底固定為第1預定轉換基底，且使用前述第1預定轉換基底來對前述編碼對象區塊之殘差訊號進行第1轉換，藉此產生第1轉換係數，(ii-1) 當前述編碼對象區塊之幀內預測模式為預定模式時，量化前述第1轉換係數，(ii-2) 當前述編碼對象區塊之幀內預測模式非前述預定模式時，使用第2轉換基底來對前述第1轉換係數進行第2轉換，藉此產生第2轉換係數，且量化前述第2轉換係數。
另，該等概括性或者是具體性的態樣，可以透過系統、方法、積體電路、電腦程式，或者電腦可讀取之CD-ROM等之記錄媒體來實現，也可以透過系統、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
發明效果 本揭示可提供一種可實現抑制壓縮效率之低落，同時減輕處理之負載的編碼裝置、解碼裝置、編碼方法或者解碼方法。
用以實施發明之形態 以下，一邊參考附圖，一邊具體地說明實施形態。
另，在以下所說明的實施形態每一個都是顯示概括性或具體性的例子。在以下的實施形態中所示的數值、形狀、材料、構成要件、構成要件的配置位置及連接形態、步驟、步驟的順序等都只是一例罷了，其宗旨並非限定請求的範圍。又，以下的實施形態之構成要件中，針對未記載於表示最上位概念的獨立請求項之構成要件，是作為任意的構成要件來說明。
(實施形態1) 首先，作為可適用後述本揭示之各態樣中所說明的處理及/或構成之編碼裝置及解碼裝置的一例，說明實施形態1的概要。惟，實施形態1只不過是可適用本揭示之各態樣所說明之處理及/或構成的編碼裝置及解碼裝置之一例罷了，在本揭示之各態樣所說明的處理及/或構成也可實施於與實施形態1不同的編碼裝置及解碼裝置。
對於實施形態1適用在本揭示之各態樣所說明的處理及/或構成時，例如亦可進行以下任一種方式。 (1)對於實施形態1之編碼裝置或者解碼裝置，在構成該編碼裝置或者解碼裝置之複數個構成要件之中，將與本揭示的各態樣中所說明的構成要件相對應的構成要件，替換成本揭示的各態樣中所說明的構成要件； (2) 對於實施形態1之編碼裝置或者解碼裝置，針對構成該編碼裝置或者解碼裝置之複數個構成要件中一部分的構成要件，先施予功能或者欲實施之處理的追加、替換、刪除等之任意的變更後，進一步將與本揭示之各態樣中所說明的構成要件相對應的構成要件，替換成本揭示之各態樣中所說明的構成要件； (3) 對於實施形態1之編碼裝置或者解碼裝置所要實施的方法，針對處理的追加、及/或該方法所包含的複數個處理中一部分的處理先施予替換、刪除等之任意的變更後，進一步將與本揭示的各態樣中所說明的處理相對應的處理，替換成本揭示的各態樣中所說明的處理； (4) 將構成實施形態1之編碼裝置或者解碼裝置之複數個構成要件中一部分的構成要件，和本揭示之各態樣中所說明的構成要件、具有本揭示之各態樣中所說明的構成要件所具備的功能之一部分的構成要件、或者要實施本揭示之各態樣中所說明之構成要件所要實施的處理之一部分的構成要件相組合而實施； (5)將具有構成實施形態1之編碼裝置或者解碼裝置之複數個構成要件中一部分的構成要件所具備的功能之一部分的構成要件、或者實施構成實施形態1之編碼裝置或者解碼裝置之複數個構成要件中一部分的構成要件所實施的處理之一部分的構成要件，和本揭示之各態樣中所說明之構成要件、具有在本揭示之各態樣中所說明之構成要件所具備的功能之一部分的構成要件、或者是實施本揭示之各態樣中所說明之構成要件所實施的處理之一部分的構成要件相組合來實施； (6)對於實施形態1之編碼裝置或者解碼裝置所要實施的方法，在該方法所包含的複數個處理之中，將對應於本揭示之各態樣中所說明之處理的處理，替換成本揭示之各態樣中所說明的處理； (7)將實施形態1之編碼裝置或者解碼裝置所要實施的方法所包含之複數個處理中的一部分處理，和本揭示之各態樣中所說明的處理相組合來實施。
另，本揭示之各態樣中所說明之處理及/或構成的實施方式並不限於上述例子。例如，可以在與實施形態1中所揭示之動態圖像/圖像編碼裝置或者是動態圖像/圖像解碼裝置以不同目的被利用的裝置中實施，也可以單獨地實施已在各態樣中說明的處理及/或構成。又，也可將已在不同態樣中說明的處理及/或構成進行組合來實施。
[編碼裝置的概要] 首先，說明實施形態1之編碼裝置之概要。圖1是顯示實施形態1之編碼裝置100之功能構成之方塊圖。編碼裝置100是將動態圖像/圖像，以區塊單位進行編碼之動態圖像/圖像編碼裝置。
如圖1所示，編碼裝置100為將圖像以區塊單位進行編碼之裝置，包含有：分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、區塊記憶體118、迴路濾波部120、幀記憶體122、幀內預測部124、幀間預測部126、及預測控制部128。
編碼裝置100例如是藉由通用處理器及記憶體來實現。此時，當儲存在記憶體的軟體程式藉由處理器來執行時，處理器是作為分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、幀內預測部124、幀間預測部126、及預測控制部128而發揮功能。又，編碼裝置100也可作為一種專用的1個以上的電子電路來實現，該專用的1個以上的電子電路是對應於分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、幀內預測部124、幀間預測部126、及預測控制部128。
以下，針對編碼裝置100所包含之各構成要件予以說明。
[分割部] 分割部102是將輸入動態圖像所包含之各圖片分割成複數個區塊，將各區塊輸出至減法部104。例如，分割部102首先將圖片分割成固定尺寸(例如128×128)之區塊。該固定尺寸的區塊有時亦被稱為編碼樹單元(CTU)。接著，分割部102根據遞迴性的四元樹(quadtree)及/或二元樹(binary tree)區塊分割，將固定尺寸的區塊之每一個分割成可變尺寸(例如64×64以下)的區塊。這個可變尺寸的區塊有時亦被稱為編碼單元(CU)、預測單元(PU)或者轉換單元(TU)。另，在本實施形態中，CU、PU及TU沒有區別的必要，圖片內的一部分或者全部的區塊皆可成為CU、PU、TU的處理單位。
圖2是顯示實施形態1中的區塊分割一例之圖。在圖2中，實線是表示透過四元樹區塊分割所得到的區塊邊界，虛線是表示透過二元樹區塊分割所得到的區塊邊界。
在此，區塊10是128×128像素的正方形區塊(128×128區塊)。該128×128區塊10首先是被分割成4個正方形的64×64區塊(四元樹區塊分割)。
左上的64×64區塊是進一步被垂直分割成2個矩形的32×64區塊，左邊的32×64區塊是進一步被垂直分割成2個矩形的16×64區塊(二元樹區塊分割)。其結果，左上的64×64區塊是被分割成2個16×64區塊11、12、及32×64區塊13。
右上的64×64區塊是被水平分割成2個矩形的64×32區塊14、15(二元樹區塊分割)。
左下的64×64區塊是被分割成4個正方形的32×32區塊(四元樹區塊分割)。4個32×32區塊之中，左上的區塊及右下的區塊被進一步分割。左上的32×32區塊是垂直分割成2個矩形的16×32區塊，右邊的16×32區塊是進一步被水平分割成2個16×16區塊(二元樹區塊分割)。右下的32×32區塊是被水平分割成2個32×16區塊(二元樹區塊分割)。其結果，左下的64×64區塊是被分割成1個16×32區塊16、2個16×16區塊17、18、2個32×32區塊19、20、及2個32×16區塊21、22。
右下的64×64區塊23不分割。
如上，在圖2中，區塊10是根據遞迴性的四元樹及二元樹區塊分割，而被分割成13個可變尺寸的區塊11至23。如此分割，有時亦被稱為QTBT(quad-tree plus binary tree)分割。
另，在圖2中，1個區塊是被分割成4個或者2個區塊(四元樹或者二元樹區塊分割)，而分割並不限於此。例如，1個區塊也可被分割成3個區塊(三元樹區塊分割)。如此包含三元樹區塊分割的分割有時亦被稱為MBT(multi type tree)分割。
[減法部] 減法部104是以由分割部102所分割的區塊單位，從原訊號(原樣本)減去預測訊號(預測樣本)。即，減法部104是算出編碼對象區塊(以下稱為當前區塊)的預測誤差(也稱為殘差)。接著，減法部104將所算出的預測誤差輸出至轉換部106。
原訊號是編碼裝置100的輸入訊號，為表示構成動態圖像之各圖片的圖像之訊號(例如亮度(luma)訊號及2個色差(chroma)訊號)。在下面內容中，也將表示圖像的訊號稱為樣本。
[轉換部] 轉換部106是將空間區域的預測誤差轉換成頻率區域的轉換係數，且將轉換係數輸出至量化部108。具體來說，轉換部106例如對於空間區域的預測誤差，進行已事先決定的離散餘弦轉換(DCT)或者離散正弦轉換(DST)。
另，轉換部106也可從複數個轉換類型中適應性地選擇轉換類型，使用對應於所選擇的轉換類型之轉換基底函數(transform basis function)，將預測誤差轉換成轉換係數。如此轉換有時亦被稱為EMT(explicit multiple core transform)或者AMT(adaptive multiple transform)。
複數個轉換類型，例如包括有DCT-II、DCT-V、DCT-VIII、DST-I及DST-VII。圖3是顯示對應於各轉換類型之轉換基底函數之表。在圖3中，N是顯示輸入像素的數量。從該等複數個轉換類型中選擇轉換類型，例如可依據預測的種類(幀內預測及幀間預測)，也可依據幀內預測模式。
顯示是否適用如此的EMT或者AMT之資訊(例如被稱為AMT旗標)以及顯示被選擇的轉換類型之資訊，是以CU等級而被訊號化。另，該等資訊的訊號化不必限定在CU等級，也可為其他等級(例如序列等級(sequence level)、圖片等級(picture level)、切片等級(slice level)、圖塊等級(tile level)或者CTU等級)。
又，轉換部106也可將轉換係數(轉換結果)再轉換。如此再轉換有時亦被稱為AST(adaptive secondary transform)或者NSST(non-separable secondary transform)。例如，轉換部106是依對應於幀內預測誤差之轉換係數的區塊所包含之子區塊(例如4×4子區塊)的每一個而進行再轉換。顯示是否適用NSST的資訊及有關於使用在NSST之轉換矩陣的資訊是以CU等級進行訊號化。另，該等資訊的訊號化沒有必要限定在CU等級，也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級或者CTU等級)。
在此，Separable(可分離)的轉換是指以輸入的維度之數來按各個方向分離並進行複數次轉換的方式，Non-Separable(不可分離)的轉換是指在輸入為多維時將2個以上的維度統整視為1維而一次進行轉換的方式。
例如，作為Non-Separable的轉換之1例，可舉例有如下者：在輸入為4×4的區塊時，將該區塊視為具有16個要件之一個陣列，對該陣列以16×16的轉換矩陣進行轉換處理。
又，同樣，將4×4的輸入區塊視為具有16個要件的一個陣列，之後對該陣列進行數次吉文斯旋轉(Givens rotation)之構成(Hypercube Givens Transform/超立方體吉文斯轉換)，也是Non- Separable轉換的例子。
[量化部] 量化部108是將從轉換部106所輸出的轉換係數進行量化。具體來說，量化部108是以預定的掃描順序來掃描當前區塊的轉換係數，並根據對應於所掃描的轉換係數的量化參數(QP)而將該轉換係數進行量化。然後，量化部108將當前區塊之業經量化的轉換係數(以下稱為量化係數)輸出至熵編碼部110及反量化部112。
預定的順序是轉換係數的量化/反量化用的順序。例如，預定的掃描順序是以頻率的升序(從低頻到高頻的順序)或者降序(從高頻到低頻的順序)來下定義。
量化參數係指定義量化步距(量化寬度)的參數。例如，若量化參數的值增加時，量化步距也會增加。即，若量化參數的值增加，量化誤差也會變大。
[熵編碼部] 熵編碼部110是將從量化部108輸入的量化係數進行可變長度編碼，藉此產生編碼訊號(編碼位元串流)。具體來說，熵編碼部110例如將量化係數二進位化，且將二進位訊號進行算術編碼。
[反量化部] 反量化部112是將從量化部108輸入的量化係數進行反量化。具體來說，反量化部112是以預定的掃描順序將當前區塊的量化係數進行反量化。然後，反量化部112將當前區塊的業經反量化的轉換係數輸出至反轉換部114。
[反轉換部] 反轉換部114是將從反量化部112輸入的轉換係數進行反轉換，藉此將預測誤差進行復原。具體來說，反轉換部114是對轉換係數進行與轉換部106所進行的轉換對應之反轉換，藉此將當前區塊的預測誤差進行復原。然後，反轉換部114將業已復原的預測誤差輸出至加法部116。
另，業已復原的預測誤差是因為量化而失去了資訊，因此和減法部104所算出的預測誤差不一致。即，在業已復原的預測誤差中含有量化誤差。
[加法部] 加法部116是將從反轉換部114輸入的預測誤差、與從預測控制部128輸入的預測樣本相加，藉此再構成當前區塊。然後，加法部116將業經再構成的區塊輸出至區塊記憶體118及迴路濾波部120。再構成區塊有時也被稱為局部解碼區塊。
[區塊記憶體] 區塊記憶體118是用以儲存區塊的記憶部，其中該區塊為於幀內預測被參考的區塊，且為編碼對象圖片(以下稱為當前圖片)內的區塊。具體來說，區塊記憶體118是儲存從加法部116所輸出的再構成區塊。
[迴路濾波部] 迴路濾波部120是對藉由加法部116而再構成的區塊施加迴路濾波，且將業經濾波的再構成區塊輸出至幀記憶體122。迴路濾波器是指在編碼迴路內所使用的濾波器(In-loop filter，迴路內濾波器)，例如包括解區塊濾波器(Deblocking Filter，DF)、樣本適應性偏移(Sample Adaptive Offset，SAO)及適應性迴路濾波器(Adaptive Loop Filter，ALF)等。
在ALF中是適用用以移除編碼失真的最小平方誤差濾波器，例如按當前區塊內的2×2子區塊之每一個，根據局部性的梯度(gradient)的方向及活性度(activity)，適用從複數個濾波器之中所選擇的1個濾波器。
具體來說，首先子區塊(例如2×2子區塊)被分類成複數個類別(例如15或者25類)。子區塊的分類是根據梯度的方向及活性度來進行。例如，使用梯度的方向值D(例如0至2或者0至4)與梯度的活性值A(例如0至4)而算出分類值C(例如C=5D+A)。然後，根據分類值C，使子區塊被分類成複數個類別(例如15或者25類)。
梯度的方向值D例如是藉由比較複數個方向(例如水平、垂直及2個對角方向)的梯度而導出。又，梯度的活性值A例如是將複數個方向的梯度相加，並藉由將相加結果進行量化來導出。
根據如此分類的結果，從複數個濾波器之中決定子區塊用的濾波器。
作為ALF所使用的濾波器的形狀，例如是利用圓對稱形狀。圖4A至圖4C是顯示ALF所使用的濾波器的形狀的數例之圖。圖4A是顯示5×5菱形形狀濾波器，図4B是顯示7×7菱形形狀濾波器，圖4C是顯示9×9菱形形狀濾波器。顯示濾波器的形狀之資訊是以圖片等級來進行訊號化。另，顯示濾波器的形狀之資訊的訊號化並不須限定在圖片等級，也可為其他等級(例如序列等級、切片等級、圖塊等級、CTU等級或者是CU等級)。
ALF的開啟/關閉，例如是以圖片等級或者CU等級來決定。例如，針對亮度，是以CU等級來決定是否適用ALF，針對色差，是以圖片等級來決定是否適用ALF。顯示ALF的開啟/關閉的資訊，是以圖片等級或者CU等級來進行訊號化。另，顯示ALF的開啟/關閉的資訊之訊號化，並無須限定在圖片等級或者CU等級，也可為其他等級(例如序列等級、切片等級、圖塊等級、或者CTU等級)。
可選擇的複數個濾波器(例如迄至15或25的濾波器)的係數組合是以圖片等級進行訊號化。另，係數組合的訊號化並無須限定在圖片等級，也可為其他等級(例如序列等級、切片等級、圖塊等級、CTU等級、CU等級或者是子區塊等級)。
[幀記憶體] 幀記憶體122是一種用以儲存被使用在幀間預測的參考圖片之記憶部，有時也被稱為幀緩衝器。具體來說，幀記憶體122是儲存已藉由迴路濾波部120濾波的再構成區塊。
[幀內預測部] 幀內預測部124是參考區塊記憶體118所儲存的當前圖片內的區塊，進行當前區塊的幀內預測(也稱為畫面內預測)，以此產生預測訊號(幀內預測訊號)。具體來說，幀內預測部124是參考鄰接於當前區塊之區塊的樣本(例如亮度值、色差值)進行幀內預測，以此產生幀內預測訊號，且將幀內預測訊號輸出至預測控制部128。
例如，幀內預測部124利用已事先規定的複數個幀內預測模式之中的1個，來進行幀內預測。複數個幀內預測模式是包括1個以上的非方向性預測模式、及複數個方向性預測模式。
1個以上的非方向性預測模式包括例如以H.265/HEVC(High-Efficiency Video Coding/高效率視訊編碼)規格(非專利文獻1)所規定的Planar (平面)預測模式及DC(直流)預測模式。
複數個方向性預測模式包括例如以H.265/ HEVC規格所規定的33方向的預測模式。另，複數個方向性預測模式除了33方向外，也可進一步包括32方向的預測模式(合計共65個方向性預測模式)。圖5A是顯示幀內預測中的67個幀內預測模式(2個非方向性預測模式及65個方向性預測模式)之圖。實線箭頭符號是表示以H.265/HEVC規格所規定的33方向，虛線箭頭符號是表示追加的32方向。
另，在色差區塊的幀內預測中，亮度區塊也可被參考。即，也可根據當前區塊的亮度成分，預測當前區塊的色差成分。如此之幀內預測有時也被稱為CCLM (cross- component linear model)預測。像這種參考亮度區塊之色差區塊的幀內預測模式(例如被稱為CCLM模式)，也可作為1種色差區塊的幀內預測模式而加入。
幀內預測部124也可根據水平/垂直方向的參考像素的梯度，來補正幀內預測後的像素值。像這樣伴隨著補正的幀內預測有時被稱為PDPC(position dependent intra prediction combination)。顯示有無適用PDPC的資訊(例如被稱為PDPC旗標)，例如是以CU等級而進行訊號化。另，該資訊的訊號化並無須限定在CU等級，也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、或者CTU等級)。
[幀間預測部] 幀間預測部126是參考參考圖片，來進行當前區塊的幀間預測(也叫做畫面間預測)，以此產生預測訊號(幀間預測訊號)，其中該參考圖片是幀記憶體122所儲存的參考圖片，且為與當前圖片相異的參考圖片。幀間預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位來進行。例如，幀間預測部126是針對當前區塊或者子區塊，在參考圖片內進行移動估測(motion estimation)。接著，幀間預測部126是利用藉由移動估測而得到的移動資訊(例如移動向量)來進行移動補償，以此產生當前區塊或者子區塊的幀間預測訊號。然後，幀間預測部126是將所產生的幀間預測訊號輸出至預測控制部128。
用於移動補償的移動資訊被進行訊號化。對於移動向量的訊號化，也可使用移動向量預測子(motion vector predictor)。即，移動向量與移動向量預測子間之差分也可被訊號化。
另，不僅使用透過移動估測所得到的當前區塊的移動資訊，也可使用鄰接區塊的移動資訊，來產生幀間預測訊號。具體來說，也可將以透過移動估測所得到的移動資訊為基準的預測訊號、與以鄰接區塊的移動資訊為基準的預測訊號予以加權加總，藉此以當前區塊內的子區塊單位來產生幀間預測訊號。如此之幀間預測(移動補償)有時被稱為OBMC (overlapped block motion compensation)。
在如此之OBMC模式中，顯示OBMC用的子區塊的尺寸之資訊(例如被稱為OBMC區塊尺寸)是以序列等級而被訊號化。又，顯示是否適用OBMC模式之資訊(例如被叫做OBMC旗標)是以CU等級而被訊號化。另，該等資訊的訊號化的等級並無須限定在序列等級及CU等級，也可為其他等級(例如圖片等級、切片等級、圖塊等級、CTU等級、或者子區塊等級)。
針對OBMC模式，更具體地來進行說明。圖5B及圖5C是用以說明OBMC處理所進行的預測圖像補正處理的概要之流程圖及概念圖。
首先，使用被分配到編碼對象區塊之移動向量(MV)，取得依通常的移動補償所得到之預測圖像(Pred)。
其次，將已編碼完畢的左鄰接區塊的移動向量(MV_L)適用在編碼對象區塊，取得預測圖像(Pred_L)，將前述預測圖像與Pred_L加權、重疊，藉此進行預測圖像的第1次補正。
以同樣方式，將已編碼完畢之上鄰接區塊的移動向量(MV_U)適用在編碼對象區塊，取得預測圖像 (Pred_U)，將前述已進行第1次補正的預測圖像與Pred_U加權、重疊，藉此進行預測圖像的第2次補正，並將其作為最後的預測圖像。
另，在此說明了使用左鄰接區塊與上鄰接區塊的2階段補正的方法，但也能作成如下構成，即，使用右鄰接區塊或下鄰接區塊，進行比2階段更多次數的補正。
另，進行重疊的區域也可僅為區塊邊界附近之一部分的區域，而非區塊整體的像素區域。
另，在此雖是針對來自1張參考圖片的預測圖像補正處理進行說明，但是在從複數張參考圖片補正預測圖像的情況下也是同樣，在取得從各參考圖片補正的預測圖像後，將得到的預測圖像進一步重疊，以此作為最後的預測圖像。
另，前述處理對象區塊也可為預測區塊單位，也可為將預測區塊進一步加以分割的子區塊單位。
作為判斷是否適用OBMC處理的方法，例如有一種使用obmc_flag之方法，該obmc_flag是顯示是否適用OBMC處理的訊號。以一具體例來說，在編碼裝置中，判斷編碼對象區塊是否屬於移動為複雜的區域，在屬於移動為複雜的區域時，設定值為1來作為obmc_flag，並適用OBMC處理而進行編碼，在不屬於移動為複雜的區域時，則設定值為0來作為obmc_flag，不適用OBMC處理而進行編碼。另一方面，在解碼裝置中，將記述在串流的obmc_flag解碼，藉此因應該值切換是否適用OBMC處理而進行解碼。
另，移動資訊也可在不被訊號化之狀態下在解碼裝置側導出。例如，也可採用以H.265/HEVC規格所規定的合併模式。又，例如也可於解碼裝置側進行移動估測，藉此導出移動資訊。此時，移動估測能在不使用當前區塊的像素值之狀態下進行。
在此，針對在解碼裝置側進行移動估測的模式來說明。在該解碼裝置側進行移動估測的模式有時被稱為PMMVD(pattern matched motion vector derivation)模式或者FRUC(frame rate up-conversion)模式。
FRUC處理之一例是顯示在圖5D中。首先，參考空間上或時間上鄰接於當前區塊的編碼完畢區塊之移動向量，產生複數個候選的清單(也可與合併清單為共通)，該複數個候選的清單各自具有移動向量預測子。其次，從已登錄在候選清單的複數個候選MV之中選擇最佳候選MV。例如，算出候選清單所包含之各候選的評價值，根據評價值而選擇1個候選。
接著，根據所選擇的候選移動向量，導出當前區塊用的移動向量。具體來說，例如將所選擇的候選移動向量(最佳候選MV)直接導出而作為當前區塊用的移動向量。又，例如在參考圖片內的位置的周邊區域中進行圖案(pattern)匹配，藉此也可以導出當前區塊用的移動向量，其中該參考圖片是對應於所選擇之候選移動向量。即，亦可對於最佳候選MV之周邊的區域，以同樣的方法進行搜索，且在有評價值為更好的值之MV時，將最佳候選MV更新為前述MV，將該MV當作當前區塊之最後的MV。另，也可做成不實施該處理之構成。
在以子區塊單位進行處理時，也可構成為完全同樣的處理。
另，可透過對應於移動向量之參考圖片內的區域與預定區域之間的圖案匹配而求出再構成圖像的差分值，藉此算出評價值。另，除了差分值外，也可使用除此以外的資訊來算出評價值。
作為圖案匹配，是使用第1圖案匹配或者第2圖案匹配。第1圖案匹配及第2圖案匹配有時分別被稱為雙向匹配(bilateral matching)以及模板匹配(template matching)。
在第1圖案匹配中，是在2個區塊之間進行圖案匹配，該2個區塊是不同的2個參考圖片內的2個區塊，且是沿著當前區塊的移動軌跡(motion trajectory)。因此，在第1圖案匹配中，是使用沿著當前區塊的移動軌跡的其他參考圖片內之區域，來作為算出上述候選評價值用的預定區域。
圖6是用以說明在沿著移動軌跡的2個區塊間之圖案匹配(雙向匹配)的一例之圖。如圖6所示，在第1圖案匹配下，在沿著當前區塊(Cur block)的移動軌跡之2個區塊且為不同的2個參考圖片(Ref0、Ref1)內的2個區塊之配對(pair)中，搜索最為相配的配對，藉此導出2個移動向量(MV0、MV1)。具體來說，對於當前區塊，導出以候選MV所指定的第1編碼完畢參考圖片(Ref0)內的指定位置之再構成圖像、與以對稱MV所指定的第2編碼完畢參考圖片(Ref1)內的指定位置之再構成圖像間的差分，並使用所得到的差分值來算出評價值，其中該對稱MV是將前述候選MV以顯示時間間隔進行定標(scaling)的MV。在複數個候選MV之中選擇評價值為最佳值的候選MV作為最後MV即可。
在假設移動軌跡是連續的情況下，指示2個參考區塊的移動向量(MV0、MV1)是相對於當前圖片(Cur Pic)與2個參考圖片(Ref0、Ref1)間之時間上的距離(TD0、TD1)成比例。例如，當前圖片在時間上是位於2個參考圖片之間，且在從當前圖片到2個參考圖片的時間上的距離相等時，在第1圖案匹配中，能導出鏡射對稱的雙向之移動向量。
在第2圖案匹配中，是在當前圖片內的模板(在當前圖片內鄰接於當前區塊的區塊(例如上及/或左鄰接區塊))與參考圖片內的區塊之間進行圖案匹配。因此，在第2圖案匹配中，是使用鄰接於當前圖片內的當前區塊的區塊，來作為上述候選評價值算出用的預定區域。
圖7是用以說明在當前圖片內的模板(Template)與參考圖片內的區塊之間的圖案匹配(模板匹配)的一例之圖。如圖7所示，在第2圖案匹配中，是在參考圖片(Ref0)內搜索與當前圖片(Cur Pic)內鄰接於當前區塊(Cur block)之區塊最匹配的區塊，藉此導出當前區塊的移動向量。具體來說，對於當前區塊，導出左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以候選MV所指定的編碼完畢參考圖片(Ref0)內的同等位置的再構成圖像間的差分，且使用所得到的差分值算出評價值，並且在複數個候選MV之中選擇評價值為最佳值的候選MV作為最佳候選MV即可。
如此之顯示是否適用FRUC模式的資訊(例如被稱為FRUC旗標)是以CU等級而被訊號化。又，在適用FRUC模式時(例如FRUC旗標為真時)，顯示圖案匹配之方法(第1圖案匹配或者第2圖案匹配)的資訊(例如被稱為FRUC模式旗標)是以CU等級而被訊號化。另，該等資訊之訊號化並不須限定於CU等級，也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、CTU等級或者子區塊等級)。
在此，針對根據模型來導出移動向量的模式進行說明，其中該模型是假設為等速直線運動的模型。該模式有時被稱為BIO (bi-directional optical flow，雙向光流)模式。
圖8是用以說明假設為等速直線運動的模型之圖。在圖8中，(vx ,vy )是表示速度向量，τ0 、τ1 各表示當前圖片 (Cur Pic)與2個參考圖片(Ref0 ,Ref1 )間的時間上的距離。(MVx0 ,MVy0 )是表示對應於參考圖片Ref0 的移動向量，(MVx1 、MVy1 )是表示對應於參考圖片Ref1 的移動向量。
此時，在速度向量(vx ,vy )為等速直線運動的假設下，(MVx0 ,MVy0 )及(MVx1 ,MVy1 )各表示為(vx τ0 ,vy τ0 )及(-vx τ1 ,-vy τ1 )，以下的光流等式(1)成立。 (數式1)
在此，I(k) 是表示移動補償後之參考圖像k(k=0,1)的亮度值。該光流等式是表示：(i)亮度值的時間微分、(ii)水平方向的速度及參考圖像的空間梯度的水平成分的乘積、與(iii)垂直方向的速度及參考圖像的空間梯度的垂直成分的乘積之和等於零。根據該光流等式與赫米特內插法(Hermite interpolation)之組合，將從合併清單等所得到的區塊單位之移動向量以像素單位進行補正。
另，也可利用與根據假設等速直線運動的模型之移動向量的導出不同的方法，在解碼裝置側導出移動向量。例如，也可根據複數個鄰接區塊的移動向量，而以子區塊單位導出移動向量。
在此，針對根據複數個鄰接區塊的移動向量而以子區塊單位導出移動向量的模式進行說明。該模式有時被稱為仿射移動補償預測(affine motion compensation prediction)模式。
圖9A是用以說明子區塊單位的移動向量之導出之圖，該導出是根據複數個鄰接區塊的移動向量來進行。在圖9A中，當前區塊含有16個4×4子區塊。在此，根據鄰接區塊的移動向量，導出當前區塊的左上角控制點的移動向量v0 ，且根據鄰接子區塊的移動向量，導出當前區塊的右上角控制點的移動向量v1 。接著，使用2個移動向量v0 及v1 ，藉由以下的式(2)，導出當前區塊內的各子區塊的移動向量(vx ,vy )。 (數式2)
在此，x及y各表示子區塊的水平位置及垂直位置，w表示已事先訂定的權重係數。
在如此之仿射移動補償預測模式中，也可包括左上及右上角控制點的移動向量之導出方法相異的幾個模式。顯示如此之仿射移動補償預測模式的資訊(例如被稱為仿射旗標)是以CU等級而被進行訊號化。另，該顯示仿射移動補償預測模式之資訊的訊號化無須限定在CU等級，也可為其他等級(例如序列等級、圖片等級、切片等級、圖塊等級、CTU等級或者子區塊等級)。
[預測控制部] 預測控制部128是選擇幀內預測訊號及幀間預測訊號之任一種，且將所選擇的訊號作為預測訊號而輸出至減法部104及加法部116。
在此，說明藉由合併模式而導出編碼對象圖片的移動向量之例。圖9B是用以說明藉由合併模式而進行之移動向量導出處理之概要的圖。
首先，產生已登錄預測MV之候選的預測MV清單。作為預測MV的候選，包括有：空間鄰接預測MV，是編碼對象區塊之空間性質上位於周邊的複數個編碼完畢區塊所具有的MV；時間鄰接預測MV，是投影了編碼完畢參考圖片中的編碼對象區塊之位置的附近區塊所具有的MV；結合預測MV，是組合空間鄰接預測MV及時間鄰接預測MV之MV值而產生的MV；以及零預測MV，是值為零的MV等。
其次，藉由從已登錄在預測MV清單的複數個預測MV之中選擇1個預測MV，而將之決定為編碼對象區塊的MV。
進而，在可變長度編碼部中，將merge_idx記述在串流中並進行編碼，其中該merge_idx是顯示已選擇哪一預測MV的訊號。
另，登錄在圖9B中所說明的預測MV清單的預測MV只是一個例子，也可為和圖中的個數不同的個數，或者構成為不包含圖中的預測MV之一部分的種類，或者構成為追加了圖中的預測MV種類以外的預測MV。
另，也可使用藉由合併模式所導出之編碼對象區塊的MV，進行後述的DMVR處理，藉此來決定最後的MV。
在此，針對使用DMVR處理來決定MV之例進行說明。
圖9C是用以說明DMVR處理的概要之概念圖。
首先，以已設定於處理對象區塊的最適合的MVP作為候選MV，並依照前述候選MV，從L0方向的處理完畢圖片即第1參考圖片、及L1方向的處理完畢圖片即第2參考圖片分別取得參考像素，取各參考像素的平均，藉此產生模板。
其次，使用前述模板，分別搜索第1參考圖片及第2參考圖片的候選MV之周邊區域，將成本成為最小的MV決定為最後的MV。另，成本值是利用模板的各像素值與搜索區域的各像素值之差分值及MV值等來算出。
另，在此所說明的處理之概要在編碼裝置及解碼裝置中基本上是共通的。
另，就算不是在此所說明的處理內容，只要是能搜索候選MV的周邊而導出最後的MV之處理，也可使用其他處理。
在此，針對使用LIC處理來產生預測圖像的模式進行說明。
圖9D是用以說明使用LIC處理之亮度補正處理的預測圖像產生方法之概要的圖。
首先，從參考圖片導出MV，其中該參考圖片是編碼完畢圖片，該MV是用以取得對應於編碼對象區塊之參考圖像的MV。
其次，對於編碼對象區塊，利用左鄰接及上鄰接之編碼完畢周邊參考區域的亮度像素值、與位於以MV所指定的參考圖片內之同等位置的亮度像素值來擷取資訊，算出亮度補正參數，其中該資訊是顯示亮度值在參考圖片與編碼對象圖片中如何變化的資訊。
對於以MV所指定的參考圖片內之參考圖像，使用前述亮度補正參數進行亮度補正處理，藉此產生相對於編碼對象區塊之預測圖像。
另，圖9D中的前述周邊參考區域的形狀只是其中一例，也可使用除此以外的形狀。
又，在此已針對從1張參考圖片來產生預測圖像的處理進行說明，但從複數張參考圖片來產生預測圖像的情況也是同樣，先對已從各個參考圖片所取得的參考圖像以同樣的方法進行亮度補正處理，之後再產生預測圖像。
作為判斷是否適用LIC處理的方法，例如有使用lic_flag的方法，該lic_flag是顯示是否適用LIC處理的訊號。以具體的一例來說，在編碼裝置中，判斷編碼對象區塊是否屬於發生亮度變化之區域，若屬於發生亮度變化的區域，對lic_flag設定其值為1，適用LIC處理而進行編碼，若不屬於發生亮度變化之區域，則對lic_flag設定其值為0且不適用LIC處理而進行編碼。另一方面，在解碼裝置中，將記述於串流之lic_flag進行解碼，藉此因應該值而切換是否適用LIC處理來進行解碼。
作為判斷是否適用LIC處理之另一方法，例如還有如下方法，該方法是依照是否已在周邊區塊適用LIC處理而進行判斷。以具體的一例來說，編碼對象區塊為合併模式時，判斷在合併模式處理中的MV導出時所選擇的周邊之編碼完畢區塊是否已適用LIC處理而進行編碼，再因應該結果切換是否適用LIC處理而進行編碼。另，在該例的情況，解碼的處理也是完全相同。
[解碼裝置的概要] 其次，針對解碼裝置之概要進行說明，該解碼裝置可將從上述編碼裝置100所輸出的編碼訊號(編碼位元串流)進行解碼。圖10是顯示實施形態1之解碼裝置200的功能構成之方塊圖。解碼裝置200是以區塊單位而將動態圖像/圖像進行解碼的動態圖像/圖像解碼裝置。
如圖10所示，解碼裝置200包含有：熵解碼部202、反量化部204、反轉換部206、加法部208、區塊記憶體210、迴路濾波部212、幀記憶體214、幀內預測部216、幀間預測部218、及預測控制部220。
解碼裝置200例如可藉由通用處理器及記憶體來實現。此時，記憶體所儲存的軟體程式藉由處理器來執行時，處理器是作為熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、幀內預測部216、幀間預測部218、及預測控制部220而運作。又，解碼裝置200也可作為對應於熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、幀內預測部216、幀間預測部218、及預測控制部220之專用的1個以上的電子電路而實現。
以下，針對解碼裝置200所包含之各構成要件予以說明。
[熵解碼部] 熵解碼部202是將編碼位元串流進行熵解碼。具體來說，熵解碼部202例如是從編碼位元串流進行算術解碼而變成二進位訊號。接著，熵解碼部202將二進位訊號多值化(debinarize)。藉此，熵解碼部202以區塊單位而將量化係數輸出至反量化部204。
[反量化部] 反量化部204是將從熵解碼部202輸入的解碼對象區塊(以下稱為當前區塊)的量化係數進行反量化。具體來說，反量化部204是針對當前區塊的量化係數之各個，根據對應於該量化係數之量化參數，而將該量化係數進行反量化。然後，反量化部204將當前區塊的業經反量化之量化係數(即轉換係數)輸出至反轉換部206。
[反轉換部] 反轉換部206是將從反量化部204輸入的轉換係數進行反轉換，藉此復原預測誤差。
例如已從編碼位元串流解讀的資訊是顯示適用EMT或者AMT的時候(例如AMT旗標為真)，反轉換部206根據顯示已解讀的轉換類型的資訊，將當前區塊的轉換係數進行反轉換。
又，例如已從編碼位元串流解讀的資訊是顯示適用NSST的時候，反轉換部206對轉換係數適用反再轉換。
[加法部] 加法部208是將預測誤差與預測樣本相加，藉此再構成當前區塊，其中該預測誤差是來自反轉換部206之輸入，該預測樣本是來自預測控制部220之輸入。然後，加法部208將業經再構成的區塊輸出至區塊記憶體210及迴路濾波部212。
[區塊記憶體] 區塊記憶體210是用以儲存在幀內預測中被參考的區塊且為解碼對象圖片(以下稱為當前圖片)內的區塊之記憶部。具體來說，區塊記憶體210是儲存從加法部208所輸出的再構成區塊。
[迴路濾波部] 迴路濾波部212是對已藉由加法部208再構成的區塊施行迴路濾波，且將業已濾波的再構成區塊輸出至幀記憶體214及顯示裝置等。
當顯示已從編碼位元串流解讀的ALF之開啟/關閉的資訊是顯示ALF開啟的時候，根據一部分的梯度方向及活性度，從複數個濾波器之中選擇1個濾波器，將所選擇的濾波器適用於再構成區塊。
[幀記憶體] 幀記憶體214是用以儲存使用在幀間預測的參考圖片之記憶部，有時候也被稱為幀緩衝器。具體來說，幀記憶體214是儲存藉由迴路濾波部212所濾波的再構成區塊。
[幀內預測部] 幀內預測部216是根據已從編碼位元串流解讀的幀內預測模式，而參考區塊記憶體210所儲存的當前圖片內之區塊來進行幀內預測，藉此產生預測訊號(幀內預測訊號)。具體來說，幀內預測部216是參考鄰接於當前區塊的區塊之樣本(例如亮度值、色差值)而進行幀內預測，藉此產生幀內預測訊號，且將幀內預測訊號輸出至預測控制部220。
另，在色差區塊的幀內預測中選擇了參考亮度區塊的幀內預測模式時，幀內預測部216也可根據當前區塊的亮度成分，預測當前區塊的色差成分。
又，在已從編碼位元串流解讀的資訊是顯示適用PDPC時，幀內預測部216是根據水平/垂直方向的參考像素的梯度，來補正幀內預測後的像素值。
[幀間預測部] 幀間預測部218是參考幀記憶體214所儲存的參考圖片來預測當前區塊。預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位進行。例如，幀間預測部218使用已從編碼位元串流解讀的移動資訊(例如移動向量)來進行移動補償，藉此產生當前區塊或者子區塊的幀間預測訊號，且將幀間預測訊號輸出至預測控制部220。
另，在已從編碼位元串流解讀的資訊是顯示適用OBMC模式時，幀間預測部218不只是利用藉由移動估測而得到的當前區塊的移動資訊，還利用鄰接區塊的移動資訊，產生幀間預測訊號。
又，在已從編碼位元串流解讀的資訊是顯示適用FRUC模式時，幀間預測部218依照已從編碼串流解讀的圖案匹配的方法(雙向匹配或者模板匹配)進行移動估測，藉此導出移動資訊。然後，幀間預測部218使用所導出的移動資訊來進行移動補償。
又，幀間預測部218在適用BIO模式時，是根據假設等速直線運動之模型而導出移動向量。又，在已從編碼位元串流解讀的資訊顯示適用仿射移動補償預測模式時，幀間預測部218是根據複數個鄰接區塊的移動向量，而以子區塊單位導出移動向量。
[預測控制部] 預測控制部220是選擇幀內預測訊號及幀間預測訊號之任一者，且將所選擇的訊號作為預測訊號，輸出至加法部208。
(實施形態2) 接下來，針對實施形態2予以說明。本實施形態中，會針對轉換及反轉換詳細說明。另，本實施形態之編碼裝置及解碼裝置之構成與實施形態1實質上為相同，因而省略圖示及說明。
[編碼裝置之轉換部及量化部的處理] 首先，針對本實施形態的編碼裝置100之轉換部106及量化部108的處理，一邊參考圖11一邊做具體說明。圖11是流程圖，顯示實施形態2之編碼裝置100中的轉換及量化處理。
首先，轉換部106判定要對編碼對象區塊使用幀內預測及幀間預測中的哪一者(S101)。例如，轉換部106會依據原圖像與再構成圖像的差分及/或基於編碼量的成本，來判定要使用幀內預測及幀間預測中的哪一者，其中再構成圖像是將壓縮圖像做局部解碼所得。又例如，轉換部106也可依據與差分及/或基於編碼量的成本不同的資訊(例如圖片類型)，來判定要使用幀內預測及幀間預測中的哪一者。
在此，若判定要對編碼對象區塊使用幀間預測(S101的幀間)，轉換部106會從1個以上的第1轉換基底之候選中，選擇編碼對象區塊用的第1轉換基底(S102)。例如，轉換部106會固定地選擇DCT-II之轉換基底，作為編碼對象區塊用的第1轉換基底。又例如，轉換部106也可從複數個第1轉換基底之候選中，選擇第1轉換基底。
接著，轉換部106會使用在步驟S102所選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S103)。量化部108會對所產生的第1轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，若判定要對編碼對象區塊使用幀內預測(S101的幀內)，轉換部106會從1個以上的第1轉換基底之候選中，選擇編碼對象區塊用的第1轉換基底(S104)。例如，轉換部106可使用適應基底選擇模式來選擇第1轉換基底。適應基底選擇模式為依據原圖像與再構成圖像的差分及/或基於編碼量的成本，而從預定的複數個轉換基底之候選中適應地選擇轉換基底之模式。此適應基底選擇模式也可稱為EMT模式或AMT模式。可使用例如圖6所示的複數個轉換基底，來作為複數個轉換基底之候選。另，複數個轉換基底之候選並不限定於圖6的複數個轉換基底。複數個轉換基底之候選中，例如也可包含有等效於不實施轉換的轉換基底。
又例如，轉換部106也可使用非適應基底選擇模式(即不使用適應基底選擇模式)來選擇第1轉換基底。非適應基底選擇模式中，例如，轉換部106可依據編碼參數(例如區塊尺寸、量化參數、幀內預測模式等)來選擇第1轉換基底。又，轉換部106也可固定地選擇在標準規格等中預先定義過的轉換基底(例如DCT-II之轉換基底)。此時，轉換基底之選擇則意味著固定地採用1個預先定義過的轉換基底。又，轉換部106也可適應地切換適應基底轉換模式及非適應基底轉換模式。
接著，轉換部106會使用在步驟S104選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S105)。轉換部106會判定編碼對象區塊之幀內預測模式是否為預定模式(S106)。例如，轉換部106會依據原圖像與再構成圖像的差分及/或基於編碼量的成本，來判定幀內預測模式是否為預定模式。另，幀內預測模式是否為預定模式的判定，也可依據與成本不同的資訊來進行。
預定模式也可以例如標準規格等預先定義。又例如，預定模式也可依據編碼參數等來決定。
若幀內預測模式為預定模式時(S106的YES)，轉換部106會判定在步驟S104選擇的第1轉換基底與預定轉換基底是否一致(S107)。預定轉換基底例如也可以標準規格等預先定義。又例如，預定轉換基底也可依據編碼參數等來決定。
若幀內預測模式非預定模式時(S106的NO)，或第1轉換基底與預定轉換基底一致時(S107的YES)，轉換部106會從1個以上的第2轉換基底之候選中選擇編碼對象區塊用的第2轉換基底(S108)。轉換部106使用所選擇的第2轉換基底對第1轉換係數進行第2轉換，藉此產生第2轉換係數(S109)。量化部108會對所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
第2轉換中，可進行稱為NSST的2次轉換，也可進行選擇性地使用複數個第2轉換基底中任一者的轉換。此時，於第2轉換基底之選擇中，也可使欲選擇的轉換基底為固定。即，也可將預定的固定之轉換基底作為第2轉換基底來供選擇。又，也可使用等效於不實施第2轉換的轉換基底來作為第2轉換基底。
若幀內預測模式為預定模式(S106的YES)且第1轉換基底與預定轉換基底相異時(S107的NO)，轉換部106會跳過第2轉換基底的選擇步驟(S108)及第2轉換步驟(S109)。即，轉換部106不會進行第2轉換。此時，步驟S105中所產生的第1轉換係數會被量化(S110)，轉換及量化處理則會結束。
如此跳過第2轉換步驟時，亦可將顯示不實施第2轉換的資訊通知給解碼裝置。又，跳過第2轉換步驟時，也可使用等價於不實施轉換的第2轉換基底來實施第2轉換，再將顯示該第2轉換基底的資訊通知給解碼裝置。
另，編碼裝置100之反量化部112及反轉換部114可進行與轉換部106及量化部108之處理相反的處理，藉此再構成編碼對象區塊。
[解碼裝置之反量化部及反轉換部之處理] 其次，針對本實施形態之解碼裝置200的反量化部204及反轉換部206之處理，一邊參考圖12一邊做具體說明。圖12是流程圖，顯示實施形態2之解碼裝置200中的反轉換及反量化處理。
首先，反量化部204會對解碼對象區塊之量化係數做反量化(S501)。反轉換部206會判定要對解碼對象區塊使用幀內預測及幀間預測中的哪一者(S502)。例如，反轉換部206會依據由位元串流取得的資訊，來判定要使用幀內預測及幀間預測中的哪一者。
若判定要對解碼對象區塊使用幀間預測(S502的 幀間)，反轉換部206會選擇解碼對象區塊用的第1反轉換基底(S503)。在解碼裝置200中選擇反轉換基底(第1反轉換基底或第2反轉換基底)，是意味著依據預定資訊來決定反轉換基底。例如，可使用基底選擇訊號作為預定資訊。又，也可使用幀內預測模式或區塊尺寸等作為預定資訊。
反轉換部206會使用步驟S503中所選擇的第1反轉換基底，對解碼對象區塊被反量化的係數進行第1反轉換(S504)，且結束反量化及反轉換處理。
若判定要對解碼對象區塊使用幀內預測(S502的幀內)，反轉換部206會判定解碼對象區塊之幀內預測模式是否為預定模式(S505)。使用於解碼裝置200的預定模式與使用於編碼裝置100的預定模式相同。
若幀內預測模式為預定模式時(S505的YES)，反轉換部206會判定第1反轉換基底是否與預定反轉換基底一致(S506)。被用作預定反轉換基底的是與用於編碼裝置100的預定轉換基底相對應的反轉換基底。
若幀內預測模式非預定模式時(S505的NO)，或者第1反轉換基底與預定反轉換基底一致時(S506的YES)，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S507)。反轉換部206會使用所選擇的第2反轉換基底，對解碼對象區塊被反量化的係數進行第2反轉換(S508)。反轉換部206會選擇第1反轉換基底(S509)。反轉換部206使用所選擇的第1反轉換基底，對在步驟S508中藉由第2反轉換所得的係數進行第1反轉換(S510)，且結束反量化及反轉換處理。
另一方面，若幀內預測模式為預定模式(S505的YES)且第1反轉換基底與預定反轉換基底相異時(S506的NO)，反轉換部206會跳過第2反轉換基底的選擇步驟(S507)及第2反轉換步驟(S508)。即，反轉換部206不進行第2反轉換，而會選擇第1反轉換基底(S509)。反轉換部206使用所選擇的第1反轉換基底，對在步驟S501中反量化的係數進行第1反轉換(S510)，且結束反量化及反轉換處理。
[效果等] 發明人等在習知的編碼中看出了課題，該課題為：在第1轉換及第2轉換雙方中，探索轉換基底及轉換參數(例如濾波器之係數)之最適組合所需的處理量頗為龐大。對此，根據本實施形態之編碼裝置100及解碼裝置200，可對應於幀內預測模式及第1轉換基底而跳過第2轉換。結果，在第1轉換及第2轉換雙方中探索轉換基底及轉換參數之最適組合所需的處理得以減少，而可抑制壓縮效率之低落，同時實現處理負載之減輕。
另，本實施形態中，對編碼對象區塊使用幀間預測時，雖不會進行第2轉換，但不限定於此。即，對編碼對象區塊使用幀間預測時，也可對藉由第1轉換所產生的第1轉換係數進行第2轉換。此時，藉由第2轉換所產生的第2轉換係數會被量化。
另，圖11及圖12之流程圖中的步驟順序不限定於圖11及圖12記載的順序。例如，圖11中，幀內預測模式是否為預定模式的判定步驟(S106)、以及第1轉換基底與預定轉換基底是否一致的判定步驟(S107)，可以反向順序進行，也可同時進行。
另，也可將本態樣與本揭示中的其他態樣的至少一部分作組合來實施。又，也可將本態樣之流程圖記載的一部分之處理、裝置之一部分的構成、語法之一部分等，與其他的態樣組合實施。
(實施形態3) 接下來，針對實施形態3予以說明。本實施形態中，以下的點與上述實施形態2相異：用於幀內預測模式之判定的預定模式被限定為非方向性預測模式。以下，針對本實施形態，以與上述實施形態2相異的點為中心，一邊參考圖式一邊予以說明。另，於以下各圖中，針對與實施形態2實質上為相同的步驟附上相同的符號，並省略或簡化重複的說明。
[編碼裝置之轉換部及量化部之處理] 首先，針對本實施形態之編碼裝置100之轉換部106及量化部108之處理，一邊參考圖13一邊做具體說明。圖13是流程圖，顯示實施形態3之編碼裝置100中的轉換及量化處理。
首先，轉換部106判定要對編碼對象區塊使用幀內預測及幀間預測中的哪一者(S101)。在此，若判定要對編碼對象區塊使用幀間預測(S101的幀間)，轉換部106會選擇第1轉換基底(S102)，且使用所選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S103)。量化部108會對所產生的第1轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，若判定要對編碼對象區塊使用幀內預測(S101的幀內)，轉換部106會判定編碼對象區塊之幀內預測模式是否為非方向性預測模式(S201)。非方向性預測模式是在解碼對象區塊之預測上不利用特定方向的模式。具體來說，非方向性預測模式例如是DC預測模式及/或Planar預測模式。非方向性預測模式中，例如是使用參考像素之平均值或參考像素之插值等來預測像素值。反之，在解碼對象區塊之預測上利用特定方向的模式則稱為方向性預測模式。方向性預測模式中，是藉由將參考像素的值向特定方向延伸而預測像素值。另，像素值為構成圖片的像素單位之值，例如是亮度值或者色差值。
在此，判定幀內預測模式與非方向性預測模式相異時(S201的NO)，轉換部106會選擇編碼對象區塊用的第1轉換基底(S202)。轉換部106會使用在步驟S202所選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S203)。進一步，轉換部106會選擇編碼對象區塊用的第2轉換基底(S204)。轉換部106使用在步驟S204所選擇的第2轉換基底，對在步驟S203所產生的第1轉換係數進行第2轉換，藉此產生第2轉換係數(S205)。該等步驟S202~S205之處理，與圖11中步驟S106為NO時的步驟S104~S109之處理實質上相同。之後，量化部108會對在步驟S205所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，判定幀內預測模式與非方向性預測模式一致時(S201的YES)，轉換部106會選擇編碼對象區塊用的第1轉換基底(S206)。轉換部106會使用在步驟S206選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S207)。轉換部106會判定在步驟S206選擇的第1轉換基底是否與預定轉換基底一致(S208)。可使用例如DCT-II之轉換基底及/或與其類似的轉換基底來作為預定轉換基底。
在此，若第1轉換基底與預定轉換基底一致時(S208的YES)，轉換部106會選擇編碼對象區塊用的第2轉換基底(S209)。接著，轉換部106使用在步驟S209所選擇的第2轉換基底，對在步驟S207產生的第1轉換係數進行第2轉換，藉此產生第2轉換係數(S210)。之後，量化部108會對在步驟S210所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，若第1轉換基底與預定轉換基底相異時(S208的NO)，轉換部106會跳過第2轉換基底的選擇步驟(S209)及第2轉換步驟(S210)。即，轉換部106不會進行第2轉換。此時，步驟S207中所產生的第1轉換係數會被量化(S110)，轉換及量化處理則會結束。
該等步驟S206~S209之處理，與圖11中步驟S106為YES時的步驟S104~S109之處理實質上相同。
[解碼裝置之反量化部及反轉換部之處理] 接下來，針對本實施形態之解碼裝置200的反量化部204及反轉換部206之處理，一邊參考圖14一邊做具體說明。圖14是流程圖，顯示實施形態3之解碼裝置200中的反量化及反轉換處理。
首先，反量化部204會將解碼對象區塊之量化係數反量化(S501)。反轉換部206會判定要對解碼對象區塊使用幀內預測及幀間預測中的哪一者(S502)。
若判定要對解碼對象區塊使用幀間預測(S502的 幀間)，反轉換部206會選擇解碼對象區塊用的第1反轉換基底(S503)。反轉換部206使用在步驟S503所選擇的第1反轉換基底，來對解碼對象區塊被反量化的係數進行第1反轉換(S504)，且結束反量化及反轉換處理。
另一方面，若判定要對解碼對象區塊使用幀內預測(S502的幀內)，反轉換部206會判定解碼對象區塊之幀內預測模式是否為非方向性預測模式(S601)。
在此，當幀內預測模式不是非方向性預測模式時(S601的NO)，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S602)。反轉換部206會使用所選擇的第2反轉換基底，對解碼對象區塊被反量化的係數進行第2反轉換(S603)。反轉換部206會選擇第1反轉換基底(S604)。反轉換部206會使用所選擇的第1反轉換基底，對在步驟S603藉由第2反轉換所得的係數進行第1反轉換(S605)，且結束反量化及反轉換處理。
另一方面，當幀內預測模式為非方向性預測模式時(S601的YES)，反轉換部206會判定第1反轉換基底與預定反轉換基底是否一致(S606)。用於解碼裝置200的預定反轉換基底，是與用於編碼裝置100的預定轉換基底相對應的反轉換基底。
在此，當第1反轉換基底與預定反轉換基底一致時(S606的YES)，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S607)。反轉換部206會使用所選擇的第2反轉換基底，對解碼對象區塊被反量化的係數進行第2反轉換(S608)。反轉換部206會選擇第1反轉換基底(S609)。反轉換部206會使用所選擇的第1反轉換基底，對在步驟S608中藉由第2反轉換所得的係數進行第1反轉換(S610)，且結束反量化及反轉換處理。
另一方面，若第1反轉換基底與預定反轉換基底相異時(S606的NO)，反轉換部206會跳過第2反轉換基底的選擇步驟(S607)及第2反轉換步驟(S608)。即，反轉換部206不會進行第2反轉換，而會選擇第1反轉換基底(S609)。反轉換部206會使用所選擇的第1反轉換基底，對在步驟S501中被反量化的係數進行第1反轉換(S610)，且結束反量化及反轉換處理。
[效果等] 如以上所述，藉由本實施形態之編碼裝置100及解碼裝置200，在幀內預測模式為非方向性預測模式時可跳過第2轉換。非方向性預測模式中，殘差於區塊內變平坦的情況居多。因此，若使用DCT-II之轉換基底及與其類似的轉換基底以外的轉換基底，高頻成分較易殘留，轉換係數之分布較易呈隨機。此時，第2轉換帶來的壓縮效率提升效果會降低，因此藉由跳過第2轉換，可抑制壓縮效率之低落，同時實現處理負載之減輕。
另，本實施形態中，對編碼對象區塊使用幀間預測時雖不進行第2轉換，但不限定於此。即，對編碼對象區塊使用幀間預測時，也可對藉由第1轉換所產生的第1轉換係數進行第2轉換。此時，藉由第2轉換所產生的第2轉換係數會被量化。
另，圖13及圖14之流程圖中的步驟順序，不限定於圖13及圖14記載的順序。
另，也可將本態樣與本揭示中的其他態樣的至少一部分作組合來實施。又，也可將本態樣之流程圖記載的一部分之處理、裝置之一部分的構成、語法之一部分等，與其他的態樣組合實施。
(實施形態4) 接下來，針對實施形態4予以說明。本實施形態中，與上述實施形態2相異的點如下：在適應基底選擇模式中是對應於區塊尺寸而使第1轉換基底被固定。以下，針對本實施形態，以與上述實施形態2及3相異的點為中心，一邊參考圖式一邊予以說明。另，於以下各圖中，針對與實施形態2及3實質上為相同的步驟附上相同的符號，並省略或簡化重複的說明。
[編碼裝置之轉換部及量化部之處理] 首先，針對本實施形態之編碼裝置100之轉換部106及量化部108之處理，一邊參考圖15一邊做具體說明。圖15是流程圖，顯示實施形態4之編碼裝置100中的轉換及量化處理。
首先，轉換部106判定要對編碼對象區塊使用幀內預測及幀間預測中的哪一者(S101)。在此，若判定要對編碼對象區塊使用幀間預測(S101的幀間)，轉換部106會選擇第1轉換基底(S102)，使用所選擇的第1轉換基底對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S103)。量化部108會對所產生的第1轉換係數做量化(S110)，結束轉換及量化處理。
另一方面，若判定要對編碼對象區塊使用幀內預測(S101的幀內)，轉換部106會判定編碼對象區塊之尺寸是否與預定尺寸一致，以及是否對編碼對象區塊使用適應基底選擇模式(S301)。適應基底選擇模式之使用與否，可依據例如原圖像與再構成圖像之差分及/或基於編碼量之成本來判定。
可使用例如以標準規格等預先定義的特定之區塊尺寸來作為預定尺寸。具體來說，可使用例如4×4像素來作為預定尺寸。又，也可使用複數個區塊尺寸來作為預定尺寸。具體來說，例如也可使用4×4像素、8×4像素及4×8像素來作為預定尺寸。又，也可藉由判定編碼對象區塊之尺寸是否滿足預定條件，而判定編碼對象區塊之尺寸是否與預定尺寸一致。此時，例如可使用如下條件來作為預定條件：水平尺寸及垂直尺寸雙方皆在預定像素以下、或者是水平尺寸及垂直尺寸中至少一者在預定像素以下。
若編碼對象區塊之尺寸與預定尺寸相異時、或者不使用適應基底選擇模式時(S301的NO)，轉換部106會判定編碼對象區塊之幀內預測模式是否為非方向性預測模式(S201)。
在此，判定幀內預測模式與非方向性預測模式相異時(S201的NO)，轉換部106會選擇編碼對象區塊用的第1轉換基底(S202)。例如，判定使用適應基底選擇模式時，轉換部106會從複數個第1轉換基底之候選中，適應地選擇第1轉換基底。又例如，判定不使用適應基底選擇模式時，轉換部106會固定地選擇預先定義的轉換基底(例如DCT-II之轉換基底)。
轉換部106會使用在步驟S202中選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S203)。進一步，轉換部106會選擇編碼對象區塊用的第2轉換基底(S204)。轉換部106使用步驟S204中所選擇的第2轉換基底，對步驟S203中所產生的第1轉換係數進行第2轉換，藉此產生第2轉換係數(S205)。之後，量化部108會對步驟S205中所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，判定幀內預測與非方向性預測模式一致時(S201的YES)，轉換部106會選擇編碼對象區塊用的第1轉換基底(S206)。例如，若判定要使用適應基底選擇模式時，轉換部106會從複數個第1轉換基底之候選中，適應地選擇第1轉換基底。又例如，判定不使用適應基底選擇模式時，轉換部106會固定地選擇預先定義的轉換基底(例如DCT-II之轉換基底)。
轉換部106會使用在步驟S206選擇的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S207)。轉換部106會判定在步驟S206所選擇的第1轉換基底是否與第2預定轉換基底一致(S208)。可使用例如DCT-II之轉換基底及/或與其類似的轉換基底來作為第2預定轉換基底。
在此，若第1轉換基底與第2預定轉換基底一致時(S208的YES)，轉換部106會選擇編碼對象區塊用的第2轉換基底(S209)。接著，轉換部106使用在步驟S209所選擇的第2轉換基底，對在步驟S207產生的第1轉換係數進行第2轉換，藉此產生第2轉換係數(S210)。之後，量化部108會對在步驟S210所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，若第1轉換基底與第2預定轉換基底相異時(S208的NO)，轉換部106會跳過第2轉換基底的選擇步驟(S209)及第2轉換步驟(S210)。即，轉換部106不會進行第2轉換。此時，步驟S207中所產生的第1變化係數會被量化(S110)，轉換及量化處理則會結束。
編碼對象區塊之尺寸與預定尺寸一致，且使用適應基底選擇模式時(S301的YES)，轉換部106會將第1轉換基底固定成第1預定轉換基底(S302)。可使用例如DST-VII之轉換基底來作為第1預定轉換基底。另，第1預定轉換基底不限定於DST-VII之轉換基底。例如，也可使用DCT-V之轉換基底作為第1預定轉換基底。
轉換部106會使用在步驟S302所固定的第1轉換基底，對編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數(S303)。轉換部106會判定編碼對象區塊之幀內預測模式是否為非方向性預測模式(S304)。
在此，判定幀內預測模式與非方向性預測模式相異時(S304的NO)，轉換部106會選擇第2轉換基底(S305)。接著，轉換部106會使用在步驟S305所選擇的第2轉換基底，對在步驟S303所產生的第1轉換係數進行第2轉換，藉此產生第2轉換係數(S306)。之後，量化部108會對步驟S306所產生的第2轉換係數做量化(S110)，且結束轉換及量化處理。
另一方面，若幀內預測模式與非方向性預測模式一致時(S304的YES)，轉換部106會跳過第2轉換基底的選擇步驟(S305)及第2轉換步驟(S306)。即，轉換部106不會進行第2轉換。此時，步驟S303中所產生的第1轉換係數會被量化(S110)，轉換及量化處理則會結束。
[編碼裝置之熵編碼部之處理] 其次，針對與本實施形態之編碼裝置100的熵編碼部110之轉換有關的編碼處理，一邊參考圖16一邊做具體說明。圖16是流程圖，顯示實施形態4之編碼裝置100中的編碼處理。
若對編碼對象區塊使用幀間預測(S401的幀間)，熵編碼部110會將第1基底選擇訊號編碼在位元串流內(S402)。在此，第1基底選擇訊號是顯示在步驟S102中所選擇的第1轉換基底之資訊或資料。
將訊號編碼在位元串流內，意味著將顯示資訊的碼配置於位元串流內。碼例如是由前後文適應性二進位算術編碼(CABAC)所產生。另，碼之產生並非一定要使用CABAC，也並非一定要使用熵編碼。例如，碼也可為資訊本身(例如0或1之旗標)。
其次，熵編碼部110會將在步驟S110中量化的係數編碼(S403)，且結束編碼處理。
若對編碼對象區塊使用幀內預測(S401的幀內)，熵編碼部110會將顯示有編碼對象區塊之幀內預測模式的幀內預測模式訊號，編碼在位元串流內(S404)。進一步，熵編碼部110會將顯示是否對編碼對象區塊使用適應基底選擇模式的適應選擇模式訊號，編碼在位元串流內(S405)。
在此，若有使用適應基底選擇模式，且編碼對象區塊之尺寸與預定尺寸相異時(S406的YES)，熵編碼部110會將第1基底選擇訊號編碼在位元串流內(S407)。在此，第1基底選擇訊號是顯示在步驟S202或S206中所選擇的第1轉換基底之資訊或資料。另一方面，若未使用適應基底選擇模式、或有使用適應基底選擇模式，且編碼對象區塊之尺寸與預定尺寸一致時(S406的NO)，熵編碼部110會跳過第1基底選擇訊號之編碼步驟(S407)。即，熵編碼部110不會對第1基底選擇訊號做編碼。
在此，若有實施第2轉換時(S408的YES)，熵編碼部110會將第2基底選擇訊號編碼在位元串流內(S409)。在此，第2基底選擇訊號是顯示在步驟S204、S209或S305中所選擇的第2轉換基底之資訊或資料。另一方面，若未實施第2轉換時(S408的NO)，熵編碼部110會跳過第2基底選擇訊號之編碼步驟(S409)。即，熵編碼部110不會對第2基底選擇訊號做編碼。
最後，熵編碼部110會對在步驟S110中被量化的係數做編碼(S410)，並且結束編碼處理。
[解碼裝置之熵解碼部之處理] 接下來，針對本實施形態之解碼裝置200之熵解碼部202的處理，一邊參考圖17一邊做具體說明。圖17是流程圖，顯示實施形態4之解碼裝置200中的解碼處理。
若對解碼對象區塊使用幀間預測(S701的幀間)，熵解碼部202會從位元串流中將第1基底選擇訊號解碼(S702)。
從位元串流中將訊號解碼，意味著從位元串流中解讀顯示資訊的碼，且從已解讀的碼復原資訊。從碼到資訊的復原，例如是使用前後文適應性二進位算術解碼(CABAD)。另，從碼到資訊的復原，並非一定要使用CABAD，也並非一定要使用熵解碼。例如，已解讀的碼本身即顯示資訊時(例如0或1之旗標)，只要單純地解讀碼即可。
其次，熵解碼部202會從位元串流將量化係數解碼(S703)，並且結束解碼處理。
若對解碼對象區塊使用幀內預測(S701的幀內)，熵解碼部202會從位元串流將幀內預測模式訊號解碼(S704)。進一步，熵解碼部202會將適應選擇模式訊號解碼(S705)。
在此，若有使用適應基底選擇模式，且解碼對象區塊之尺寸與預定尺寸相異時(S706的YES)，熵解碼部202會從位元串流將第1基底選擇訊號解碼(S707)。另一方面，若未使用適應基底選擇模式、或有使用適應基底選擇模式，且解碼對象區塊之尺寸與預定尺寸一致時(S706的NO)，熵解碼部202會跳過第1基底選擇訊號之解碼步驟(S707)。即，熵解碼部202不會對第1基底選擇訊號做解碼。
在此，若實施第2反轉換(S708的YES)，熵解碼部202會從位元串流將第2基底選擇訊號解碼(S709)。另一方面，若未實施第2反轉換(S708的NO)，熵解碼部202會跳過第2基底選擇訊號之解碼步驟(S709)。即，熵解碼部202不會對第2基底選擇訊號做解碼。
最後，熵解碼部202會從位元串流將量化係數解碼(S710)，並且結束解碼處理。
[解碼裝置之反量化部及反轉換部之處理] 接下來，針對與本實施形態之編碼裝置200之反量化部204及反轉換部206的處理，一邊參考圖18一邊做具體說明。圖18是流程圖，顯示實施形態4之解碼裝置200中的反轉換及反量化處理。
首先，反量化部204會將解碼對象區塊之量化係數反量化(S501)。反轉換部206會判定要對解碼對象區塊使用幀內預測及幀間預測中的哪一者(S502)。若判定要對解碼對象區塊使用幀間預測(S502的幀間)，反轉換部206會選擇解碼對象區塊用的第1反轉換基底(S503)。反轉換部206使用在步驟S503選擇的第1反轉換基底，來對解碼對象區塊被反量化的係數進行第1反轉換(S504)，且結束反量化及反轉換處理。
若判定要對解碼對象區塊使用幀內預測(S502的幀內)，反轉換部206會判定解碼對象區塊之尺寸是否與預定尺寸一致，以及是否已對解碼對象區塊使用適應基底選擇模式(S801)。例如，反轉換部206會依據圖17之步驟S705中所解碼的適應選擇模式訊號，來判定是否已使用適應基底選擇模式。
若解碼對象區塊之尺寸與預定尺寸相異，或者未使用適應基底選擇模式(S801之NO)時，反轉換部206會判定幀內預測模式是否為非方向性預測模式(S601)。
在此，判定幀內預測模式不是非方向性預測模式時(S601的NO)時，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S602)。例如，反轉換部206會依據圖17之步驟S709中所解碼的第2基底選擇訊號，來選擇第2反轉換基底。反轉換部206會使用所選擇的第2反轉換基底，對解碼對象區塊被反量化的係數進行第2反轉換(S603)。反轉換部206會選擇第1反轉換基底(S604)。例如，若已使用適應基底選擇模式，反轉換部206會依據圖17之步驟S707中所解碼的第1基底選擇訊號，來選擇第1反轉換基底。反轉換部206會使用所選擇的第1反轉換基底，對在步驟S603中藉由第2反轉換所得的係數進行第1反轉換(S605)，且結束反量化及反轉換處理。
另一方面，判定幀內預測模式為非方向性預測模式時(S601的YES)時，反轉換部206會判定第1反轉換基底是否與第2預定反轉換基底一致(S606)。例如，已使用適應基底選擇模式時，反轉換部206會依據圖17之步驟S707中所解碼的第1基底選擇訊號，來判定第1反轉換基底是否與第2預定反轉換基底一致。第2預定反轉換基底使用的是與編碼裝置100所用的第2預定轉換基底相對應的反轉換基底。
在此，第1反轉換基底與第2預定反轉換基底一致時(S606的YES)，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S607)。例如，反轉換部206會依據圖17之步驟S709中所解碼的第2基底選擇訊號，來選擇第2反轉換基底。反轉換部206會使用所選擇的第2反轉換基底，來對解碼對象區塊被反量化的係數進行第2反轉換(S608)。反轉換部206會選擇第1反轉換基底(S609)。例如，若已使用適應基底選擇模式，反轉換部206會依據圖17之步驟S707中所解碼的第1基底選擇訊號，來選擇第1反轉換基底。反轉換部206會使用所選擇的第1反轉換基底，來對在步驟S608中藉由第2反轉換所得的係數進行第1反轉換(S610)，且結束反量化及反轉換處理。
若解碼對象區塊之尺寸與預定尺寸一致，且已使用適應基底選擇模式時(S801的YES)，反轉換部206會判定解碼對象區塊之幀內預測模式是否為非方向性預測模式(S802)。
在此，幀內預測模式不是非方向性預測模式時(S802的NO)，反轉換部206會選擇解碼對象區塊用的第2反轉換基底(S803)。例如，反轉換部206會依據圖17之步驟S709中所解碼的第2基底選擇訊號，來選擇第2反轉換基底。反轉換部206會使用所選擇的第2反轉換基底，來對解碼對象區塊被反量化的係數進行第2反轉換(S804)。反轉換部206會將第1反轉換基底固定成第1預定反轉換基底(S805)。第1預定反轉換基底使用的是與編碼裝置100所用的第1預定轉換基底相對應的反轉換基底。反轉換部206會使用已固定的第1反轉換基底，來對在步驟S804中藉由第2反轉換所得的係數進行第1反轉換(S806)，且結束反量化及反轉換處理。
另一方面，幀內預測模式為非方向性預測模式時(S802的YES)，反轉換部206會跳過第2反轉換基底的選擇步驟(S803)及第2反轉換步驟(S804)。即，反轉換部206不會進行第2反轉換，而會將第1反轉換基底固定成第1預定反轉換基底(S805)。反轉換部206會使用已固定的第1反轉換基底，來對在步驟S501中被反量化的係數進行第1反轉換(S806)，且結束反量化及反轉換處理。
[效果等] 如以上所述，藉由本實施形態之編碼裝置100及解碼裝置200，在使用適應基底選擇模式時，可對應區塊尺寸來固定第1轉換基底。因此，可減少在適應基底選擇模式的第1轉換之負載。
另，本實施形態中，對編碼對象區塊使用幀間預測時雖不進行第2轉換，但不限定於此。即，對編碼對象區塊使用幀間預測時，也可對藉由第1轉換所產生的第1轉換係數進行第2轉換。此時，藉由第2轉換所產生的第2轉換係數會被量化。
另，圖15~圖18之流程圖中的步驟順序不限定於圖15~圖18記載的順序。例如，在圖16中，訊號之編碼的順序也可為在標準規格等已預先定義的其他順序。
另，本實施形態中，雖有複數個訊號(幀內預測模式訊號、適應選擇模式訊號、第1基底選擇訊號、及第2基底選擇訊號)被編碼在位元串流內，但該等複數個訊號也可不被編碼在位元串流內。例如，該等複數個訊號也可有別於位元串流而從編碼裝置100通知到解碼裝置200。
另，本實施形態中，複數個訊號(幀內預測模式訊號、適應選擇模式訊號、第1基底選擇訊號、及第2基底選擇訊號)之各個訊號在位元串流內的位置無特別限定。複數個訊號例如會被編碼在複數個標頭中的至少1個。可使用例如影片參數組合、序列參數組合、圖片參數組合、及切片標頭來作為複數個標頭。另，若訊號位於複數個階層(例如圖片參數組合及切片標頭)時，在低階層(例如切片標頭)的訊號會將在較高階層(例如圖片參數組合)的訊號覆寫。
另，也可將本態樣與本揭示中的其他態樣的至少一部分作組合來實施。又，也可將本態樣之流程圖記載的一部分之處理、裝置之一部分的構成、語法之一部分等，與其他的態樣組合實施。
(實施形態5) 在以上之各實施形態及各變形例中，功能區塊的每一個通常可藉由MPU及記憶體等來實現。又，功能區塊的每一個所進行的處理，通常可藉由處理器等程式執行部讀出ROM等記錄媒體所記錄的軟體(程式)來執行而予以實現。該軟體可藉由下載等來分發，也可記錄在半導體記憶體等記錄媒體來分發。另，將各功能區塊透過硬體(專用電路)來實現，當然也可以。
又，在各實施形態及各變形例中所說明的處理可藉由使用單一裝置(系統)進行集中處理來實現，或者也可藉由使用複數個裝置進行分散處理來實現。又，執行上述程式的處理器可為單數個，也可為複數個。即，可進行集中處理，或者也可進行分散處理。
本發明並不限於以上的實施例，可做各種變更，其等變更也包括在本發明之範圍內。
進而在此，說明在上述實施形態及各變形例中所示之動態圖像編碼方法(圖像編碼方法)或動態圖像解碼方法(圖像解碼方法)的應用例及使用該應用例之系統。該系統之特徵在於具有使用圖像編碼方法之圖像編碼裝置、使用圖像解碼方法之圖像解碼裝置、及具備兩者之圖像編碼解碼裝置。針對系統中的其他構成，可視情況適當地變更。
[使用例] 圖19係顯示實現內容(contents)發布服務之內容供給系統ex100之整體構成圖。將通訊服務之提供區域分割成所期望之大小，在各細胞(cell)內分別設置有為固定無線台之基地台ex106、ex107、ex108、ex109、ex110。
在該內容供給系統ex100中，經由網際網路服務提供者ex102或通訊網ex104、及基地台ex106至ex110，而將電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各種機器連接於網際網路ex101。該內容供給系統ex100亦可構成為組合上述任意要件而連接。也可不經由為固定無線台之基地台ex106至ex110，而是使各機器經由電話線路網或者近距離無線裝置等直接或間接地互相連接。又，串流伺服器ex103是經由網際網路ex101等而與電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各機器連接。又，串流伺服器ex103是經由衛星ex116而與飛機ex117內之熱點內的終端機等連接。
另，也可使用無線存取點或熱點等來替代基地台ex106至ex110。又，串流伺服器ex103也可不經由網際網路ex101或者網際網路服務提供者ex102而直接與通訊網ex104連接，也可不經由衛星ex116而直接與飛機ex117連接。
攝像機ex113是數位相機等可進行靜止圖攝影及動圖攝影之機器。又，智慧型手機ex115一般是指對應於2G、3G、3.9G、4G、接著是今後被稱為5G的行動通訊系統之方式的智慧型話機、行動電話機、或者PHS(Personal Handyphone System)等。
家電ex118是包括在冰箱、或者家用燃料電池熱電共生系統的機器等。
在內容供給系統ex100中，藉由讓具有攝影功能的終端機透過基地台ex106等而連接到串流伺服器ex103，可進行現場直播等。在現場直播中，終端機(電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、及飛機ex117内之終端機等)是將以如下方式所得到的資料發送到串流伺服器ex103：對於用戶使用該終端機所攝影的靜止圖或動圖內容，進行在上述實施形態及各變形例所說明的編碼處理，且將藉由編碼所得到的影像資料、及將對應於影像的聲音編碼後的聲音資料進行多工。即，各終端機是作為本發明之一態樣的圖像編碼裝置而發揮功能。
另一方面，串流伺服器ex103是對有請求的客戶端將被發送的內容資料進行串流發布。客戶端是指可將上述經過編碼處理的資料進行解碼之電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、或者飛機ex117內的終端機等。已接收到所發布的資料的各機器將接收到的資料進行解碼處理後再生。即，各機器是作為本發明之一態樣的圖像解碼裝置而發揮功能。
[分散處理] 又，串流伺服器ex103也可為複數個伺服器或者是複數個電腦，將資料分散處理或記錄並發布。例如，串流伺服器ex103也可藉由CDN(Contents Delivery Network)來實現，透過連接分散在世界各地的多數邊緣伺服器(edge server)彼此之間的網路來實現內容發布。在CDN中是因應客戶端而動態地發布物理上較接近的邊緣伺服器。然後，內容被該邊緣伺服器快取及發布，藉此可減少延遲的情況。又，在發生任何錯誤時或者因流量增加等而使通訊狀態改變時，可以複數個邊緣伺服器分散處理，或者將發布主體切換到其他邊緣伺服器，而繞過已發生障礙的網路部分來持續進行發布，因此可實現高速且穩定的發布。
又，不只是發布本身的分散處理，也可讓所攝影的資料的編碼處理在各終端機進行，也可在伺服器側進行，也可互相分擔來進行。舉一例來說，一般在編碼處理中是進行2次處理循環。第1次的循環會檢測以幀或者場景為單位的圖像之複雜度或編碼量。又，第2次的循環會維持畫質，並進行使編碼效率提高的處理。例如，終端機進行第1次的編碼處理，已收到內容的伺服器側進行第2次的編碼處理，藉此可一邊減少在各終端機的處理負載，一邊提高內容的品質及效率。此時，若有幾乎即時接收且解碼的請求時，也可以其他終端機接收且再生終端機已進行過第一次的編碼完畢資料，因此能達到更靈活的即時發布。
舉另一例來說，攝像機ex113等是從圖像進行特徵量擷取，將有關於特徵量的資料壓縮成詮釋資料(metadata)而發送到伺服器。伺服器是因應圖像的意義來進行壓縮，例如從特徵量來判斷目標的重要性而切換量化精度等。特徵量資料對於伺服器上之再次壓縮時的移動向量預測之精度及效率提升特別有效。又，也可在終端機進行VLC(可變長度編碼)等之簡易性編碼，在伺服器進行CABAC(前後文適應性二進位算術編碼)等處理負載大的編碼。
進而，以其他例來說，在體育場、購物商場、或者工廠等之中，會有藉由複數個終端機而拍攝到幾乎相同的場景之複數個影像資料存在的情況。在該時候，使用進行過拍攝的複數個終端機、及因應需要而未拍攝的其他終端機及伺服器，以諸如GOP(Group of Picture)單位、圖片單位、或者將圖片分割之圖塊單位等分別發布編碼處理，來進行分散處理。藉此，減少延遲，能實現更佳的即時性。
又，複數個影像資料為幾乎相同的場景，因此也可在伺服器進行管理及/或指示，以相互參考各終端機所拍攝的影像資料。或者，也可使伺服器接收來自各終端機的編碼完畢資料，在複數個資料之間變更參考關係，或者將圖片本身進行補正或交換，來重新進行編碼。藉此，可產生一個一個資料的品質及效率都提高的串流。
又，伺服器也可先進行將影像資料的編碼方式變更的轉碼，再發布影像資料。例如，伺服器也可將MPEG系的編碼方式轉換成VP系，也可將H.264轉換成H.265。
如此，編碼處理可透過終端機或者是1個以上的伺服器來進行。因此，在下文中，進行處理的主體是採用「伺服器」或者是「終端機」等的記述，但也可讓伺服器所進行的處理的一部分或者全部在終端機進行，也可讓終端機所進行的處理的一部分或者全部在伺服器進行。又，有關於該等，針對解碼處理也是同樣。
[3D、多角度] 近年來，將彼此幾乎同步的複數個攝像機ex113及/或智慧型手機ex115等之終端機所攝影的不同場景、或從不同角度拍攝相同場景的圖像或影像整合來利用的情形也變多了。以各終端機所拍攝的影像是根據另外取得的終端機間之相對的位置關係、或者影像所包含的特徵點為一致的區域等來整合。
伺服器不只將二維的動態圖像進行編碼，還可根據動態圖像的場景解析等，而自動或者是在用戶所指定的時刻，將靜止圖進行編碼，再發送到接收終端機。伺服器進而在可取得攝影終端機之間的相對的位置關係時，不只是根據二維的動態圖像，還可根據從不同角度對相同場景拍攝的影像，而產生該場景的三維形狀。另，伺服器可將透過點雲(point cloud)等所產生的三維資料另外進行編碼，也可根據使用三維資料而辨識或追蹤人物或目標的結果，從以複數個終端機拍攝的影像中選擇、或再構成並產生要發送到接收終端機的影像。
如此，用戶可任意選擇對應於各攝影終端機的各影像來觀賞場景，也可觀賞從三維資料切出任意視點的影像之內容，其中該三維資料是使用複數個圖像或影像而再構成。進而，與影像同樣，聲音也可從複數個不同的角度收音，令伺服器配合影像，將來自特定角度或空間的聲音和影像進行多工，之後再發送。
又，近年來， Virtual Reality(VR/虛擬實境)及Augmented Reality(AR/擴增實境)等使現實世界及虛擬世界相對應的內容也漸漸普及了。在VR的圖像的情況，可使伺服器分別作出左眼用及右眼用的視點圖像，透過Multi-View Coding(MVC/多視角編碼)等，進行在各視點影像之間容許參考的編碼，也可不互相參考而作為獨立的串流來進行編碼。在解碼獨立的串流時，可使其互相同步而再生，以因應用戶的視點而重現虛擬的三維空間。
在AR的圖像的情況，伺服器會根據三維性質的位置或者用戶視點的移動，而將虛擬空間上的虛擬物體資訊重疊在現實空間的攝像機資訊。解碼裝置也可取得或者保持虛擬物體資訊及三維資料，並因應用戶視點的移動而產生二維圖像，且藉由平順地連結該等來作成重疊資料。或者，解碼裝置也可在虛擬物體資訊的請求指令外，還將用戶視點的移動也發送到伺服器，伺服器配合接收到的視點移動而從保持在伺服器的三維資料作成重疊資料，且將重疊資料進行編碼，再發布到解碼裝置。另，也可是重疊資料除了RGB以外還具有顯示穿透度的α值，伺服器將從三維資料作成的目標以外的部分之α值設定為0等，且在該部分為穿透的狀態下進行編碼。或者，伺服器也可產生資料，該資料如同色度鍵(Chroma key)，是將預定值之RGB值設定為背景，且將目標以外的部分設成背景色。
同樣，被發布的資料的解碼處理可在客戶端之各終端機進行，也可在伺服器側進行，或者也可相互分擔進行。以一例來說，也可是某終端機一旦將接收請求送到伺服器，便以其他終端機接收因應該請求的內容並進行解碼處理，且解碼完畢的訊號會發送到具有顯示器的裝置。藉由不依賴可通訊的終端機本身的性能而分散處理並選擇適合的內容，可再生畫質佳的資料。又，以另一例來說，也可一邊在TV等接收大尺寸的圖像資料，一邊將圖片分割後的圖塊等一部分的區域在觀眾的個人終端進行解碼而顯示。藉此，可共享整體圖像，並可在手邊確認本身的負責領域或者想更加詳細確認的區域。
又，今後不管是室內或室外，在可使用近距離、中距離、或者長距離之複數種無線通訊的狀況下，利用MPEG-DASH等之發布系統規格，一邊對於連線中的通訊切換適合的資料一邊無縫地接收內容是可預想得到的。藉此，用戶除了本身的終端機，也可一邊自由地選擇設在室內或室外之顯示器等解碼裝置或顯示裝置，一邊即時地進行切換。又，根據本身的位置資訊等，可一邊切換解碼的終端機及顯示的終端機一邊進行解碼。藉此，可在往目的地的移動中，一邊讓埋設有可進行顯示的元件之旁邊建築物的壁面或地面的一部分顯示地圖資訊一邊移動。又，也可基於在網路上對編碼資料的存取容易性，來切換接收資料的位元率，其中在網路上對編碼資料的存取容易性諸如有編碼資料會被可在短時間內從接收終端機進行存取的伺服器快取、或者是被複製到內容發布服務（Contents Delivery Service）中的邊緣伺服器等。
[可適性編碼] 有關於內容的切換，是利用顯示於圖20之可適性串流來說明，該串流是應用上述實施形態及各變形例所示的動態圖像編碼方法而被壓縮編碼的串流。伺服器具有內容相同但品質不同的複數個串流來作為個別串流雖無妨，但也可為靈活運用時間型/空間型可適性串流之特徵來切換內容的構成，其中該時間型/空間型可適性串流是如圖所示藉由分層進行編碼而實現。即，解碼側因應例如性能之內在因素及通訊頻帶的狀態等之外在因素，來決定要解碼到哪一層，藉此解碼側可自由地切換低解析度的內容及高解析度的內容並進行解碼。例如想要把曾在移動中於智慧型手機ex115收看的影像的後續部分在回家後以網路TV等的機器收看時，該機器只要將相同的串流解碼到不同層即可，因此可減輕伺服器側的負擔。
進而，如上述，除了在每層將圖片進行編碼、且在基本層的上位有加強層(enhancement layer)存在之實現可適性(scalability)的構成以外，也可是加強層包含有基於圖像的統計資訊等之詮釋資訊，且解碼側根據詮釋資訊將基本層的圖片進行超解析，藉此產生高畫質化的內容。所謂超解析也可是同一解析度下的SN比的提升、以及解析度的放大之任一者。詮釋資訊包含有用以特定超解析處理所使用的線性或非線性濾波係數之資訊、或用以特定超解析處理所使用的濾波處理、機械學習或最小平方運算中的參數值之資訊等。
或者，也可為如下構成，即，因應圖像內的目標(object)等的意涵將圖片分割成圖塊等，解碼側藉由選擇要解碼的圖塊而只將一部分的區域解碼。又，把目標的屬性(人物、車、球等)與影像內的位置(同一圖像中的座標位置等)當作詮釋資訊來儲存，藉此，解碼側可根據詮釋資訊特定出希望的目標的位置，來決定包含該目標的圖塊。例如，如圖21所示，詮釋資訊是使用HEVC中的SEI訊息等與像素資料不同之資料儲存構造來儲存。該詮釋資訊是顯示例如主目標的位置、尺寸、或者色彩等。
又，也可以串流、序列或者隨機存取單位等由複數個圖片所構成的單位來儲存詮釋資訊。藉此，解碼側可取得特定人物出現在影像內的時刻等，藉由配合圖片單位的資訊，便可特定出目標存在的圖片、及目標在圖片內的位置。
[網頁的最適化] 圖22是顯示電腦ex111等中之網頁(web page)的顯示畫面例之圖。圖23是顯示智慧型手機ex115等中之網頁的顯示畫面例之圖。如圖22及圖23所示，網頁有包含複數個鏈接圖像的情況，其中該等鏈接圖像為前往圖像內容的鏈接，該等鏈接圖像的看到方式會依據閱覽的元件而有所不同。在畫面上看得到複數個鏈接圖像時，迄至用戶明確地選擇鏈接圖像為止，或者是迄至鏈接圖像靠近畫面的中央附近或鏈接圖像整體進入畫面內為止，顯示裝置(解碼裝置)是顯示各內容所具有的靜止圖或I圖片來作為鏈接圖像，或以複數個靜止圖或I圖片等來顯示像gif動畫般的影像，或只接收基本層而將影像解碼及顯示。
在由用戶選擇了鏈接圖像時，顯示裝置會將基本層視為最優先來進行解碼。另，若構成網頁的HTML中具有表示是可適性內容的資訊時，顯示裝置也可解碼至加強層為止。又，為了保證即時性，在被選擇之前或者通訊頻帶極窄時，顯示裝置只對參考前方的圖片(I圖片、P圖片、只參考前方的B圖片)進行解碼及顯示，藉此可減少前頭圖片的解碼時刻與顯示時刻間的延遲(從內容解碼開始至顯示開始的延遲)。又，顯示裝置也可硬是忽視圖片的參考關係而使全部的B圖片及P圖片參考前方，先粗略地進行解碼，經過一段時間，隨著接收的圖片增加，再進行正常的解碼。
[自動行駛] 又，為了汽車的自動行駛或者支援行駛，而發送及接收二維或三維的地圖資訊等靜止圖或影像資料時，接收終端機除了屬於1層以上的層之圖像資料以外，也可接收天氣或者施工的資訊等來作為詮釋資訊，並使該等資訊相對應而進行解碼。另，詮釋資訊可屬於層，也可單純地與圖像資料進行多工。
此時，包含有接收終端機的車、空拍機或者飛機等會移動，因此接收終端機會在請求接收時，將該接收終端機的位置資訊進行發送，藉此可一邊切換基地台ex106至ex110，一邊實現無縫的接收及解碼。又，接收終端機可因應用戶的選擇、用戶的狀況或者通訊頻帶的狀態，而動態地切換將詮釋資訊接收到哪一程度，或者是將地圖資訊更新到何種程度。
如此，在內容供給系統ex100中，可讓客戶端即時接收用戶所發送的已編碼資訊並將其解碼，且進行再生。
[個人內容的發布] 又，在內容供給系統ex100中，不只是來自影像發布業者的高畫質且長時間的內容，來自個人的低畫質且短時間的內容也可進行單播(unicast)或多播(multicast)發布。又，像這樣的個人內容，認為今後也會增加。為了將個人內容做成更優異的內容，伺服器也可進行編輯處理後再進行編碼處理。這例如可以如下的構成來實現。
伺服器即時地在攝影時或者累積到攝影後，從原圖或者編碼完畢資料中進行攝影錯誤、場景搜尋、意義的解析、及目標檢測等辨識處理。接著，伺服器根據辨識結果而手動或者自動地進行以下編輯：補正失焦或手震等、刪除明度比其他圖片低或未對到焦距的場景等重要性低的場景、強調目標的邊緣、或者是變化色調等。伺服器根據編輯結果，而將編輯後的資料進行編碼。又，已知道攝影時間太長時收視率會下降，伺服器也可根據圖像處理結果，不只是對如上述般重要性低的場景，亦對動作少的場景等自動地進行剪輯，以因應攝影時間而成為特定時間範圍內的內容。或者，伺服器也可根據場景的意義解析的結果來產生摘要(digest)，且進行編碼。
另，在個人內容中，有保持原狀會拍到侵害著作權、著作人格權、或者肖像權等的東西的事例，也有共享的範圍超過意圖的範圍等對個人來說不便的情況。因此，例如，伺服器也可刻意地將畫面周邊部的人臉或者是家裡等變更成不對焦的圖像再進行編碼。又，伺服器也可辨識在編碼對象圖像內是否有拍到與事先登錄的人物不同之人物的臉，若有拍到時，對臉的部分進行加上馬賽克等之處理。或者，作為編碼的前處理或者後處理，用戶也可從著作權等的觀點來對圖像指定想要加工的人物或者背景區域，且伺服器將指定的區域替換成別的影像或進行模糊焦點等的處理。若是人物時，可在動態圖像中一邊追蹤人物，一邊替換臉的部分的影像。
又，由於資料量小的個人內容的收看對即時性的要求高，所以雖也會取決於頻帶寬，但解碼裝置首先是最優先地接收基本層，且進行解碼及再生。解碼裝置也可在這期間接收加強層，且在循環再生等再生2次以上的情況下，連同加強層在內而再生高畫質的影像。若是這種進行可適性編碼的串流，就能提供如下體驗，即，在未選擇時或者剛開始看的階段是粗糙的動圖，但串流漸漸地智能化(smart)而使圖像變好。除了可適性編碼以外，將第1次再生的粗糙串流、及參考第1次動圖來編碼的第2次串流構成為1個串流，也可提供同樣的體驗。
[其他使用例] 又，該等編碼或者解碼處理，一般來說是在各終端機所具有的LSIex500中處理。LSIex500可以是單晶片，也可以是由複數個晶片所構成。另，動態圖像編碼或解碼用的軟體也可安裝到可以電腦ex111等讀取的某些記錄媒體(CD-ROM、軟碟、或者硬碟等)，並使用該軟體來進行編碼或解碼處理。進而，智慧型手機ex115附有攝像機時，也可發送以該攝像機取得的動圖資料。此時的動圖資料是已經透過智慧型手機ex115所具有的LSIex500進行編碼處理的資料。
另，LSIex500也可為下載應用程式來起動之構成。此時，首先，終端機要判斷該終端機是否對應內容的編碼方式，或者是否具有特定服務的執行能力。在終端機未對應內容的編碼方式時，或者不具有特定服務的執行能力時，終端機要下載編解碼器(CODEC)或者應用程式，之後進行內容的取得及再生。
又，不限於經由網際網路ex101的內容供給系統ex100，在數位播放用系統，也可安裝上述實施形態及各變形例之動態圖像編碼裝置(圖像編碼裝置)或動態圖像解碼裝置(圖像解碼裝置)的至少任一者。由於是利用衛星等而使播放用的電波承載影像與聲音已進行多工處理的多工資料來進行傳送接收，所以相對於內容供給系統ex100之易於進行單播的構成，數位播放用系統的不同點雖在於適合多播，但有關於編碼處理及解碼處理，仍可做同樣的應用。
[硬體構成] 圖24是顯示智慧型手機ex115的圖。又，圖25是顯示智慧型手機ex115的構成例之圖。智慧型手機ex115包含有：天線ex450，用以與基地台ex110之間收發電波；攝像機部ex465，可拍攝影像及靜止圖；以及顯示部ex458，顯示已將以攝像機部ex465所拍攝的影像、及以天線ex450所接收的影像等進行解碼之資料。智慧型手機ex115更包含有：操作部ex466，為觸控面板等；聲音輸出部ex457，為用以輸出聲音或音響的揚聲器等；聲音輸入部ex456，為用以輸入聲音之麥克風等；記憶體部ex467，可將拍攝的影像或靜止圖、已錄音的聲音、已接收的影像或靜止圖、郵件等已編碼的資料或已解碼的資料加以保存；及插槽部ex464，為與SIMex468之間的介面部，其中SIMex468是用以特定出用戶，且對以網路為首的各種資料進行存取的認證。另，也可使用外接式記憶體來替代記憶體部ex467。
又，統合性地控制顯示部ex458及操作部ex466等的主控制部ex460，是經由匯流排ex470而與電源電路部ex461、操作輸入控制部ex462、影像訊號處理部ex455、攝像機I/F部ex463、LCD控制部ex459、調變/解調部ex452、多工/分離部ex453、聲音訊號處理部ex454、插槽部ex464、以及記憶體部ex467連接。
當藉由用戶的操作而使電源開關成為開啟狀態時，電源電路部ex461從電池組(battery pack)對各部供應電力，藉此使智慧型手機ex115起動成可動作的狀態。
智慧型手機ex115是基於具有CPU、ROM及RAM等之主控制部ex460的控制，而進行通話及資料通訊等的處理。在通話時，是將以聲音輸入部ex456所收音的聲音訊號，在聲音訊號處理部ex454轉換成數位聲音訊號，將該訊號在調變/解調部ex452進行展頻處理，在發送/接收部ex451實施數位類比轉換處理及頻率轉換處理，之後再經由天線ex450進行發送。又，將接收資料放大，並實施頻率轉換處理及類比數位轉換處理，在調變/解調部ex452進行解展頻處理，在聲音訊號處理部ex454轉換成類比聲音訊號，之後再將該訊號從聲音輸出部ex457進行輸出。在資料通訊模式時，透過本體部的操作部ex466等的操作，將正文(text)、靜止圖、或影像資料經由操作輸入控制部ex462而送出至主控制部ex460，同樣進行收發處理。在資料通訊模式時，於發送影像、靜止圖、或影像及聲音的情況下，影像訊號處理部ex455是將記憶體部ex467所保存的影像訊號或從攝像機部ex465所輸入的影像訊號，透過上述實施形態及各變形例所示的動態圖像編碼方法而進行壓縮編碼，且將業經編碼的影像資料送出至多工/分離部ex453。又，聲音訊號處理部ex454是將在以攝像機部ex465攝影影像或靜止圖等的同時以聲音輸入部ex456所收音的聲音訊號進行編碼，且將業經編碼的聲音資料送出至多工/分離部ex453。多工/分離部ex453是將編碼完畢的影像資料及編碼完畢的聲音資料以預定的方式進行多工，且於調變/解調部(調變/解調電路部)ex452、及發送/接收部ex451實施調變處理及轉換處理，再經由天線ex450來發送。
在接收到電子郵件或對話(chat)所附的影像、或連結到網頁等的影像時，為了將經由天線ex450所接收到的多工資料進行解碼，多工/分離部ex453將多工資料進行分離，藉此把多工資料分成影像資料的位元串流及聲音資料的位元串流，經由同步匯流排ex470而將業經編碼的影像資料供給至影像訊號處理部ex455，並將業經編碼的聲音資料供給至聲音訊號處理部ex454。影像訊號處理部ex455藉由對應於上述實施形態及各變形例所示的動態圖像編碼方法之動態圖像解碼方法，而將影像訊號進行解碼，且經由LCD控制部ex459而從顯示部ex458顯示被連結的動態圖像檔所包含的影像或者靜止圖。又，聲音訊號處理部ex454是將聲音訊號進行解碼，且從聲音輸出部ex457輸出聲音。另，由於即時串流傳輸(real-time streaming)已經普及，依用戶的狀況，亦可能發生聲音的再生就社會觀點而言不妥的情況。為此，作為初始值，不要再生聲音訊號而只再生影像資料的構成是較被希望的。也可以是只有在用戶進行了操作，如點選影像資料等的時候，才將聲音同步地再生。
又，在此是以智慧型手機ex115為例進行說明，但以終端機而言，也可考慮如下3種組裝形式：除了具有編碼器及解碼器兩者的收發型終端機之外，還有只具有編碼器的發送終端機、及只具有解碼器的接收終端機。進而，雖已說明在數位播放用系統中接收或發送在影像資料上已有聲音資料等被多工處理之多工資料的情形，但多工資料上除了聲音資料以外，也可有與影像有關聯的文字資料等被多工處理，且也可接收或發送影像資料本身而不是多工資料。
另，雖已說明包含有CPU的主控制部ex460控制編碼或解碼處理的情形，但終端機具備GPU的情況也居多。因此，如後述構成也可，即，藉由在CPU與GPU共通化的記憶體、或以可共通使用的方式管理位址的記憶體，靈活運用GPU的性能而一次處理廣大的區域。藉此，可縮短編碼時間，確保即時性，可實現低延遲。尤其，不是利用CPU，而是利用GPU，以圖片等的單位一次進行移動估測、解區塊濾波、SAO(Sample Adaptive Offset)、及轉換、量化的處理時就極具效率。
產業上之可利用性 本揭示是可利用在諸如電視、數位視訊錄影機、車用導航、行動電話機、數位照相機，或者數位視訊攝影機等。
10～19、20～23‧‧‧區塊
100‧‧‧編碼裝置
102‧‧‧分割部
104‧‧‧減法部
106‧‧‧轉換部
108‧‧‧量化部
110‧‧‧熵編碼部
112、204‧‧‧反量化部
114、206‧‧‧反轉換部
116、208‧‧‧加法部
118、210‧‧‧區塊記憶體
120、212‧‧‧迴路濾波部
122、214‧‧‧幀記憶體
124、216‧‧‧幀內預測部
126、218‧‧‧幀間預測部
128、220‧‧‧預測控制部
132‧‧‧圖片類型決定部
134、234‧‧‧候選清單產生部
136、236‧‧‧候選區塊資訊記憶體
160、260‧‧‧電路
162、262‧‧‧記憶體
200‧‧‧解碼裝置
202‧‧‧熵解碼部
ex100‧‧‧內容供給系統
ex101‧‧‧網際網路
ex102‧‧‧網際網路服務提供者
ex103‧‧‧串流伺服器
ex104‧‧‧通訊網
ex106～ex110‧‧‧基地台
ex111‧‧‧電腦
ex112‧‧‧遊戲機
ex113‧‧‧攝像機
ex114‧‧‧家電
ex115‧‧‧智慧型手機
ex116‧‧‧衛星
ex117‧‧‧飛機
ex450‧‧‧天線
ex451‧‧‧發送/接收部
ex452‧‧‧調變/解調部
ex453‧‧‧多工/分離部
ex454‧‧‧聲音訊號處理部
ex455‧‧‧影像訊號處理部
ex456‧‧‧聲音輸入部
ex457‧‧‧聲音輸出部
ex458‧‧‧顯示部
ex459‧‧‧LCD控制部
ex460‧‧‧主控制部
ex461‧‧‧電源電路部
ex462‧‧‧操作輸入控制部
ex463‧‧‧攝像機I/F部
ex464‧‧‧插槽部
ex465‧‧‧攝像機部
ex466‧‧‧操作部
ex467‧‧‧記憶體部
ex468‧‧‧SIM
ex470‧‧‧匯流排
S101～S110、S201～S210、S301～S306、S401～S410、S501～S510、S601～S610、S701～S710、S801～S806‧‧‧步驟
圖1是顯示實施形態1之編碼裝置之功能構成的方塊圖。
圖2是顯示實施形態1之區塊分割之一例之圖。
圖3是顯示對應於各轉換類型之轉換基底函數之表。
圖4A是顯示在ALF所使用之濾波器之形狀一例之圖。
圖4B是顯示ALF所使用之濾波器的形狀另一例之圖。
圖4C是顯示ALF所使用之濾波器的形狀另一例之圖。
圖5A是顯示幀內預測中之67個幀內預測模式之圖。
圖5B是流程圖，用以說明OBMC處理之預測圖像補正處理之概要。
圖5C是概念圖，用以說明OBMC處理之預測圖像補正處理之概要。
圖5D是顯示FRUC一例之圖。
圖6是用以說明在沿著移動軌跡的2個區塊之間的圖案匹配(雙向匹配)之圖。
圖7是用以說明當前圖片內的模板與參考圖片內的區塊之間的圖片匹配(模板匹配)之圖。
圖8是用以說明假設等速直線運動之模型的圖。
圖9A是用以說明子區塊單位的移動向量之導出之圖，該子區塊單位的移動向量是以複數個鄰接區塊之移動向量為基準。
圖9B是用以說明合併模式之移動向量導出處理之概要之圖。
圖9C是用以說明DMVR處理之概要之概念圖。
圖9D是用以說明預測圖像產生方法之概要之圖，該預測圖像產生方法使用了LIC處理之亮度補正處理。
圖10是方塊圖，顯示實施形態1之解碼裝置的功能構成。
圖11是流程圖，顯示實施形態2之編碼裝置中的轉換及量化處理。
圖12是流程圖，顯示實施形態2之解碼裝置中的反量化及反轉換處理。
圖13是流程圖，顯示實施形態3之編碼裝置中的轉換及量化處理。
圖14是流程圖，顯示實施形態3之解碼裝置中的反量化及反轉換處理。
圖15是流程圖，顯示實施形態4之編碼裝置中的轉換及量化處理。
圖16是流程圖，顯示實施形態4之編碼裝置中的編碼處理。
圖17是流程圖，顯示實施形態4之解碼裝置中的解碼處理。
圖18是流程圖，顯示實施形態4之解碼裝置中的反量化及反轉換處理。
圖19是實現內容發布服務之內容供給系統的整體構成圖。
圖20是顯示可適性編碼時之編碼構造一例之圖。
圖21是顯示可適性編碼時之編碼構造一例之圖。
圖22是顯示網頁的顯示畫面例之圖。
圖23是顯示網頁的顯示畫面例之圖。
圖24是顯示智慧型手機一例之圖。
圖25是顯示智慧型手機的構成例之方塊圖。

Claims (18)

  1. 一種編碼裝置，是對圖片之編碼對象區塊做編碼的編碼裝置， 其包含處理器及記憶體，其中，前述處理器使用前述記憶體， 判定是否對前述編碼對象區塊使用幀內預測， 當判定對前述編碼對象區塊使用幀內預測時，判定是否對前述編碼對象區塊使用可從複數個第1轉換基底的候選之中選擇第1轉換基底的適應基底選擇模式，以及前述編碼對象區塊之尺寸是否與預定尺寸一致， 當判定對前述編碼對象區塊使用前述適應基底選擇模式，且前述編碼對象區塊之尺寸與前述預定尺寸一致時： (i) 在前述適應基底選擇模式中，將前述編碼對象區塊用的第1轉換基底固定為第1預定轉換基底，且使用前述第1預定轉換基底來對前述編碼對象區塊之殘差訊號進行第1轉換，藉此產生第1轉換係數， (ii-1) 當前述編碼對象區塊之幀內預測模式為預定模式時，量化前述第1轉換係數， (ii-2) 當前述編碼對象區塊之幀內預測模式非前述預定模式時，使用第2轉換基底來對前述第1轉換係數進行第2轉換，藉此產生第2轉換係數，且量化前述第2轉換係數。
  2. 如請求項1之編碼裝置，其中前述預定模式為非方向性預測模式。
  3. 如請求項1之編碼裝置，其中前述第1預定轉換基底為第VII型的離散正弦轉換之基底。
  4. 如請求項1之編碼裝置，當其判定不使用前述適應基底選擇模式，或者前述編碼對象區塊之尺寸與前述預定尺寸相異時： (i) 使用第1轉換基底，對前述編碼對象區塊之殘差進行第1轉換，藉此產生第1轉換係數， (ii-1) 當前述編碼對象區塊之幀內預測模式為預定模式，且前述第1轉換基底與第2預定轉換基底相異時，量化前述第1轉換係數， (ii-2) 當前述編碼對象區塊之幀內預測模式非前述預定模式時，或者前述第1轉換基底與前述第2預定轉換基底一致時，使用第2轉換基底對前述第1轉換係數進行第2轉換，藉此產生第2轉換係數，且量化前述第2轉換係數。
  5. 如請求項4之編碼裝置，其中前述處理器進而判定使用前述適應基底選擇模式，且前述編碼對象區塊之尺寸與前述預定尺寸相異時： (i) 從前述複數個第1轉換基底的候選之中，適應地選擇前述第1轉換基底， (ii) 將顯示所選擇的前述第1轉換基底之第1基底選擇訊號，編碼在位元串流內。
  6. 如請求項4之編碼裝置，其中前述第2預定轉換基底為第II型的離散餘弦轉換之基底。
  7. 如請求項1之編碼裝置，其中前述處理器進而將適應選擇模式訊號編碼在位元串流內，前述適應選擇模式訊號顯示是否要對前述編碼對象區塊使用前述適應基底選擇模式的判定結果。
  8. 如請求項1~7中任一項之編碼裝置，其中前述處理器進而從複數個第2轉換基底的候選之中，選擇前述第2轉換基底， 並且將顯示所選擇的前述第2轉換基底的第2基底選擇訊號，編碼在位元串流內。
  9. 一種編碼方法，是對圖片之編碼對象區塊做編碼的編碼方法， 其判定是否對前述編碼對象區塊使用幀內預測， 當判定對前述編碼對象區塊使用幀內預測時，判定是否對前述編碼對象區塊使用可從複數個第1轉換基底的候選之中選擇第1轉換基底的適應基底選擇模式，以及前述編碼對象區塊之尺寸是否與預定尺寸一致， 當判定對前述編碼對象區塊使用前述適應基底選擇模式，且前述編碼對象區塊之尺寸與前述預定尺寸一致時： (i) 在前述適應基底選擇模式中，將前述編碼對象區塊用的第1轉換基底固定為第1預定轉換基底，且使用前述第1預定轉換基底來對前述編碼對象區塊之殘差訊號進行第1轉換，藉此產生第1轉換係數， (ii-1) 當前述編碼對象區塊之幀內預測模式為預定模式時，量化前述第1轉換係數， (ii-2) 當前述編碼對象區塊之幀內預測模式非前述預定模式時，使用第2轉換基底對前述第1轉換係數進行第2轉換，藉此產生第2轉換係數，且量化前述第2轉換係數。
  10. 一種解碼裝置，是對圖片之解碼對象區塊做解碼的解碼裝置， 其包含處理器及記憶體，其中，前述處理器使用前述記憶體， 判定是否對前述解碼對象區塊使用幀內預測， 當判定對前述解碼對象區塊使用幀內預測時，判定是否已對前述解碼對象區塊使用可從複數個第1轉換基底的候選之中選擇第1轉換基底的適應基底選擇模式，以及前述解碼對象區塊之尺寸是否與預定尺寸一致， 當已對前述解碼對象區塊使用前述適應基底選擇模式，且前述解碼對象區塊之尺寸與前述預定尺寸一致時： (i) 將前述解碼對象區塊用的第1反轉換基底固定為第1預定反轉換基底， (ii-1) 當前述解碼對象區塊之幀內預測模式非預定模式時，對於前述解碼對象區塊之被反量化的係數，使用第2反轉換基底進行第2反轉換，進一步使用前述第1預定反轉換基底進行第1反轉換， (ii-2) 當前述解碼對象區塊之幀內預測模式為前述預定模式時，跳過前述第2反轉換，對於前述解碼對象區塊之被反量化的係數，使用前述第1預定反轉換基底進行第1反轉換。
  11. 如請求項10之解碼裝置，其中前述預定模式為非方向性預測模式。
  12. 如請求項10之解碼裝置，其中前述第1預定反轉換基底為第VII型的離散正弦轉換之反轉換基底。
  13. 如請求項10之解碼裝置，其中當未對前述解碼對象區塊使用前述適應基底選擇模式時，或者當前述解碼對象區塊之尺寸與前述預定尺寸相異時，判定前述解碼對象區塊之幀內預測模式是否為預定模式，以及前述解碼對象區塊用的第1反轉換基底是否與第2預定反轉換基底一致， 當前述幀內預測模式非前述預定模式時，或者前述第1反轉換基底與前述第2預定反轉換基底一致時，對前述解碼對象區塊之被反量化的係數，使用第2反轉換基底來進行第2反轉換，進而使用前述第1反轉換基底來進行第1反轉換， 當前述幀內預測模式為前述預定模式，且前述第1反轉換基底與前述第2預定反轉換基底相異時，跳過前述第2反轉換，對於前述解碼對象區塊之被反量化的係數，使用前述第1反轉換基底來進行第1反轉換。
  14. 如請求項13之解碼裝置，其中當已對前述解碼對象區塊使用前述適應基底選擇模式，且前述解碼對象區塊之尺寸與前述預定尺寸相異時，前述處理器會進行以下步驟： (i) 將顯示前述解碼對象區塊之第1轉換所用的第1轉換基底之第1基底選擇訊號，從位元串流解碼， (ii) 根據前述第1基底選擇訊號，來選擇前述第1反轉換基底， (iii) 根據前述第1基底選擇訊號，來判定前述解碼對象區塊用的第1反轉換基底與第2預定反轉換基底是否一致。
  15. 如請求項13之解碼裝置，其中前述第2預定反轉換基底為第II型的離散餘弦轉換之反轉換基底。
  16. 如請求項10之解碼裝置，其中前述處理器進而將顯示是否已對前述解碼對象區塊使用前述適應基底選擇模式的適應選擇模式訊號，從位元串流解碼， 並且根據前述適應選擇模式訊號，來判定是否已對前述解碼對象區塊使用前述適應基底選擇模式。
  17. 如請求項10~16中任一項之解碼裝置，其中前述處理器進而將顯示前述第2反轉換基底的第2基底選擇訊號，從位元串流解碼。
  18. 一種解碼方法，是對圖片之解碼對象區塊做解碼的解碼方法， 其判定是否對前述解碼對象區塊使用幀內預測， 當判定對前述解碼對象區塊使用幀內預測時，判定是否已對前述解碼對象區塊使用可從複數個第1轉換基底的候選之中選擇第1轉換基底的適應基底選擇模式，以及前述解碼對象區塊之尺寸是否與預定尺寸一致， 當已對前述解碼對象區塊使用前述適應基底選擇模式，且前述解碼對象區塊之尺寸與前述預定尺寸一致時： (i) 將前述解碼對象區塊用的第1反轉換基底固定為第1預定反轉換基底， (ii-1) 當前述解碼對象區塊之幀內預測模式非預定模式時，對於前述解碼對象區塊之被反量化的係數，使用第2反轉換基底來進行第2反轉換，進而使用前述第1預定反轉換基底來進行第1反轉換， (ii-2) 當前述解碼對象區塊之幀內預測模式為前述預定模式時，跳過前述第2反轉換，對於前述解碼對象區塊之被反量化的係數，使用前述第1預定反轉換基底進行第1反轉換。
TW107118739A 2017-06-01 2018-05-31 編碼裝置、編碼方法、解碼裝置及解碼方法 TW201904293A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201762513685P 2017-06-01 2017-06-01
US62/513,685 2017-06-01

Publications (1)

Publication Number Publication Date
TW201904293A true TW201904293A (zh) 2019-01-16

Family

ID=64455133

Family Applications (1)

Application Number Title Priority Date Filing Date
TW107118739A TW201904293A (zh) 2017-06-01 2018-05-31 編碼裝置、編碼方法、解碼裝置及解碼方法

Country Status (4)

Country Link
US (3) US11102489B2 (zh)
JP (4) JP6770192B2 (zh)
TW (1) TW201904293A (zh)
WO (1) WO2018221554A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6770192B2 (ja) * 2017-06-01 2020-10-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 符号化装置、符号化方法、復号装置及び復号方法
KR20210008105A (ko) * 2018-05-30 2021-01-20 디지털인사이트 주식회사 영상 부호화/복호화 방법 및 장치
CN110636313B (zh) * 2019-09-18 2022-07-15 浙江大华技术股份有限公司 变换、二次变换矩阵训练方法、编码器及相关装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60104480A (ja) * 1983-11-10 1985-06-08 ヤマハ発動機株式会社 自動二輪車等の緩衝装置
JP4819940B2 (ja) * 2009-12-04 2011-11-24 株式会社日立国際電気 動画像符号化装置
WO2011083573A1 (ja) * 2010-01-07 2011-07-14 株式会社 東芝 動画像符号化装置及び動画像復号化装置
KR20110113561A (ko) * 2010-04-09 2011-10-17 한국전자통신연구원 적응적인 필터를 이용한 인트라 예측 부호화/복호화 방법 및 그 장치
WO2011127964A2 (en) * 2010-04-13 2011-10-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus for intra predicting a block, apparatus for reconstructing a block of a picture, apparatus for reconstructing a block of a picture by intra prediction
KR101373814B1 (ko) * 2010-07-31 2014-03-18 엠앤케이홀딩스 주식회사 예측 블록 생성 장치
WO2012134046A2 (ko) * 2011-04-01 2012-10-04 주식회사 아이벡스피티홀딩스 동영상의 부호화 방법
KR20120140181A (ko) * 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
CN107835414B (zh) * 2011-10-18 2020-11-06 株式会社Kt 视频信号解码方法
CN103931186B (zh) * 2011-10-24 2018-03-09 英孚布瑞智有限私人贸易公司 图像解码装置
KR20130049522A (ko) * 2011-11-04 2013-05-14 오수미 인트라 예측 블록 생성 방법
WO2014078068A1 (en) * 2012-11-13 2014-05-22 Intel Corporation Content adaptive transform coding for next generation video
JP5537695B2 (ja) * 2013-04-10 2014-07-02 株式会社東芝 画像復号化装置、方法およびプログラム
US10491922B2 (en) * 2015-09-29 2019-11-26 Qualcomm Incorporated Non-separable secondary transform for video coding
US11095893B2 (en) * 2016-10-12 2021-08-17 Qualcomm Incorporated Primary transform and secondary transform in video coding
WO2018221553A1 (ja) * 2017-06-01 2018-12-06 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、符号化方法、復号装置及び復号方法
JP6770192B2 (ja) * 2017-06-01 2020-10-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 符号化装置、符号化方法、復号装置及び復号方法

Also Published As

Publication number Publication date
JPWO2018221554A1 (ja) 2020-04-02
US11102489B2 (en) 2021-08-24
JP2020202597A (ja) 2020-12-17
JP2022179772A (ja) 2022-12-02
JP7161636B2 (ja) 2022-10-26
US20210321117A1 (en) 2021-10-14
US20230336741A1 (en) 2023-10-19
US11729398B2 (en) 2023-08-15
JP2022069458A (ja) 2022-05-11
US20200099939A1 (en) 2020-03-26
JP7026747B2 (ja) 2022-02-28
JP6770192B2 (ja) 2020-10-14
WO2018221554A1 (ja) 2018-12-06

Similar Documents

Publication Publication Date Title
TW201806392A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TWI778137B (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
JP7331052B2 (ja) 復号装置及び符号化装置
KR20190137806A (ko) 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법
TWI761551B (zh) 編碼裝置、編碼方法、解碼裝置及解碼方法
TWI826214B (zh) 編碼方法及解碼方法
TWI812414B (zh) 編碼裝置、解碼裝置及記錄媒體
JP7114773B2 (ja) 復号装置及び符号化装置
TW202002648A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TWI814726B (zh) 編碼裝置及解碼裝置
TW201826796A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
JP2023126387A (ja) 符号化装置及び符号化方法
JP6770192B2 (ja) 符号化装置、符号化方法、復号装置及び復号方法
JP2022058478A (ja) 符号化装置及び復号装置
TWI825966B (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201826794A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201826795A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW202011740A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201921924A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TWI827394B (zh) 非暫時性記憶媒體
TW201946468A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201826793A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法