TW201909631A - 編碼裝置、解碼裝置、編碼方法及解碼方法 - Google Patents

編碼裝置、解碼裝置、編碼方法及解碼方法 Download PDF

Info

Publication number
TW201909631A
TW201909631A TW107124816A TW107124816A TW201909631A TW 201909631 A TW201909631 A TW 201909631A TW 107124816 A TW107124816 A TW 107124816A TW 107124816 A TW107124816 A TW 107124816A TW 201909631 A TW201909631 A TW 201909631A
Authority
TW
Taiwan
Prior art keywords
block
target block
processing
correction processing
brightness correction
Prior art date
Application number
TW107124816A
Other languages
English (en)
Inventor
安倍清史
西孝啓
遠間正真
加納龍一
Original Assignee
美商松下電器(美國)知識產權公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商松下電器(美國)知識產權公司 filed Critical 美商松下電器(美國)知識產權公司
Publication of TW201909631A publication Critical patent/TW201909631A/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

編碼裝置包含有記憶體及電路,電路使用記憶體,在對象區塊的間預測處理中,根據第1條件,決定是否允許對對象區塊使用亮度補正處理,其中該亮度補正處理為使用從對象區塊周邊的編碼完畢區塊的亮度值預測到的補正值,進行預測圖像的亮度值之補正。

Description

編碼裝置、解碼裝置、編碼方法及解碼方法
發明領域 本揭示是有關於編碼裝置、解碼裝置、編碼方法及解碼方法。
發明背景 迄今,作為用來編碼動態圖像之規格已有H.265。H.265亦被稱為HEVC(High Efficiency Video Coding/高效率視訊編碼)。
先行技術文獻 非專利文獻 非專利文獻1:H.265(ISO/IEC 23008-2 HEVC(High Efficiency Video Coding)
發明概要 發明欲解決之課題 在像這樣的編碼方法及解碼方法中,希望能減少處理量。
本揭示之目的在於提供可減少處理量的編碼裝置、解碼裝置、編碼方法或者解碼方法。 為解決課題的手段
本揭示一態樣之編碼裝置包含有記憶體及電路,前述電路使用前述記憶體,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理為使用補正值,進行預測圖像的亮度值之補正,該補正值為從前述對象區塊周邊的編碼完畢區塊的亮度值預測到的值。
本揭示一態樣之解碼裝置包含有記憶體及電路,前述電路使用前述記憶體,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理為使用補正值,進行預測圖像的亮度值之補正,該補正值為從前述對象區塊周邊的編碼完畢區塊的亮度值預測到的值。
另,此等之概括性或者是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式、或者、電腦可讀取之CD-ROM等之非暫時性記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。 發明的效果
本揭示可提供能減輕處理量的編碼裝置、解碼裝置、編碼裝置或者解碼方法。
用以實施發明的形態 本揭示一態樣之編碼裝置包含有記憶體及電路,前述電路使用前述記憶體,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理為使用補正值,進行預測圖像的亮度值之補正,該補正值為從前述對象區塊周邊的編碼完畢區塊的亮度值預測到的值。
依此,該編碼裝置有不允許亮度補正處理的情形。藉此,例如變成不用處理是否進行亮度補正的判定,因此可減輕編碼裝置的處理量。
例如也可構成為:在複數個間預測模式之中,將第1間預測模式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測模式是對差值移動向量作編碼之模式,該差值移動向量是相對於從前述對象區塊周邊的編碼完畢區塊預測到的移動向量之差值;而在前述複數個間預測模式之中,將第2間預測模式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測模式是不對前述差值移動向量作編碼之模式。
依此,該編碼裝置在使用對差值移動向量作編碼的間預測模式時,不允許亮度補正處理。使用對差值移動向量作編碼之間預測模式時,由於對象區塊有不同於周邊區塊之動作的情形居多,所以亮度補正處理的效果低的情形居多。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在藉由第1移動補償產生前述對象區塊的預測圖像時,不允許對前述對象區塊使用前述亮度補正處理,其中前述第1移動補償為使用時間上在前述對象區塊前方的編碼完畢參考圖片、與時間上在前述對象區塊後方之編碼完畢參考圖片之雙方的圖片;在藉由第2移動補償產生前述對象區塊的預測圖像時,允許對前述對象區塊使用前述亮度補正處理,其中前述第2移動補償為不使用前述雙方的圖片。
依此,該編碼裝置在使用對象區塊前後的2張參考圖片來產生預測圖像時,不允許亮度補正處理。使用對象區塊前後的2張參考圖片來產生預測圖像,以此可與亮度補正處理同樣地補正亮度的變化。藉此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的編碼完畢區塊不存在時,不允許對前述對象區塊使用前述亮度補正處理;在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的編碼完畢區塊存在時,允許對前述對象區塊使用前述亮度補正處理。
依此,該編碼裝置在沒有周邊區塊存在時,不允許亮度補正處理,該周邊區塊為具有與對象區塊之移動向量一致的移動向量。在周邊區塊不存在時,由於對象區塊有不同於周邊區塊的動作的情形居多,所以亮度補正處理的效果低的情況很多,該周邊區塊為具有與對象區塊之移動向量一致的移動向量。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減少處理量。
例如也可構成為:在具有與前述對象區塊的移動向量一致的移動向量、且空間上鄰接於前述對象區塊的編碼完畢區塊存在時,使用屬於該編碼完畢區塊中的像素,導出使用在前述對象區塊之前述亮度補正處理的亮度補正參數。
依此,該編碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在滿足如下條件時,允許對前述對象區塊使用前述亮度補正處理,其中該條件為將前述對象區塊以合併模式編碼、且在前述合併模式中,選擇空間上鄰接於前述對象區塊之編碼完畢區塊,預測移動向量,在不滿足前述條件時,不允許對前述對象區塊使用前述亮度補正處理。
依此,該編碼裝置在於合併模式之中未選擇空間鄰接區塊時,不允許亮度補正處理。在於合併模式之中未選擇空間鄰接區塊時,由於對象區塊有不同於周邊區塊之動作的情形居多,所以亮度補正處理的效果小的情形居多。藉此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,能一邊抑制編碼效率的降低,且一邊減輕處理量。
例如也可構成為:在滿足前述條件時,使用屬於在前述合併模式之中所選擇的前述編碼完畢區塊中的像素,導出使用於前述亮度補正處理的亮度補正參數。
依此,該編碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在將第1間預測方式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測方式是使用鄰接於前述對象區塊的對象圖片內的區域之第1再構成圖像、與參考圖片內的區域之第2再構成圖像之適合程度;在將第2間預測方式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測方式是使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度。
依此,該編碼裝置在使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度的間預測方式被使用時,不允許亮度補正處理。在使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度的間預測方式被使用時,由於對象區塊有不同於周邊區塊之動作的情形居多,所以亮度補正處理的效果小的情形居多。因此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,能一邊抑制編碼效率的降低,且一邊減輕處理量。
例如也可構成為:在將前述第1間預測方式使用在前述對象區塊時,使用屬於前述第1再構成圖像及前述第2再構成圖像之像素,導出使用於前述亮度補正處理的亮度補正參數。
依此,該編碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在允許對前述對象區塊使用前述亮度補正處理時,根據與前述第1條件不同的第2條件,決定是否對前述對象區塊使用前述亮度補正處理,(i)在已決定對前述對象區塊使用前述亮度補正處理時,使用前述亮度補正處理,產生前述對象區塊的預測圖像,(ii)在已決定對前述對象區塊不使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像,在不允許對前述對象區塊使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像。
例如也可構成為:在允許對前述對象區塊使用前述亮度補正處理時,對一資訊作編碼,其中該資訊為顯示是否對前述對象區塊使用前述亮度補正處理,且顯示是否對前述對象區塊使用前述亮度補正處理的決定結果;在不允許對前述對象區塊使用前述亮度補正處理時,不將顯示是否對前述對象區塊使用前述亮度補正處理的資訊編碼。
依此,可減少串流的編碼量。
例如也可構成為:在允許對前述對象區塊使用前述亮度補正處理時,對一資訊作編碼,其中該資訊是顯示是否對前述對象區塊使用前述亮度補正處理,且顯示是否對前述對象區塊使用前述亮度補正處理的決定結果;在不允許對前述對象區塊使用前述亮度補正處理時,將前述資訊設定為顯示對前述對象區塊不使用前述亮度補正處理,並將該資訊編碼。
依此,提昇算術編碼處理的編碼效率,因此可抑制串流的編碼量。
本揭示一態樣之解碼裝置包含有電路及記憶體,前述電路使用前述記憶體,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,該亮度補正處理是使用從前述對象區塊周邊的解碼完畢區塊的亮度值所預測到的補正值,進行預測圖像的亮度值的補正。
依此,有亮度補正處理不被允許的情形。藉此,例如,變成在編碼裝置或解碼裝置中不需要判定是否進行亮度補正處理的處理,因此可減輕編碼裝置或解碼裝置中的處理量。
例如也可構成為:在將第1間預測模式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測模式是在複數個間預測模式之中,將差值移動向量解碼,該差值移動向量是相對於從前述對象區塊周邊的解碼完畢區塊預測到的移動向量之差值;在將第2間預測模式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測模式是在前述複數個間預測模式之中,不將前述差值移動向量解碼。
依此,該解碼裝置在使用將差值移動向量解碼的間預測模式時,不允許亮度補正處理。在使用將差值移動向量解碼的間預測模式時,由於對象區塊有不同於周邊區塊之動作的情形居多,所以亮度補正處理的效果小的情形居多。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在藉第1移動補償產生前述對象區塊的預測圖像時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1移動補償是使用在時間上在前述對象區塊前方的解碼完畢參考圖片;及在時間上在前述對象區塊後方的解碼完畢參考圖片之雙方的圖片;在藉第2移動補償產生前述對象區塊的預測圖像時,允許對前述對象區塊使用前述亮度補正處理,其中該第2移動補償不使用前述雙方的圖片。
依此,該解碼裝置在使用對象區塊前後的2張參考圖片來產生預測圖像時,不允許亮度補正處理。以使用對象區塊前後的2張參考圖片產生預測圖像,可與亮度補正處理同樣,補正亮度的變化。藉此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊不存在時,不允許對前述對象區塊使用前述亮度補正處理;在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊存在時,允許對前述對象區塊使用前述亮度補正處理。
依此,該解碼裝置在具有與對象區塊的移動向量一致的移動向量的周邊區塊不存在時,不允許亮度補正處理。在具有與對象區塊的移動向量一致的移動向量的周邊區塊不存在時,由於對象區塊有不同於周邊區塊之動作的情形居多,所以亮度補正處理的效果低的情形居多。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也構成為:在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊存在時,使用屬於該解碼完畢區塊中的像素,導出使用在前述對象區塊的前述亮度補正處理的亮度補正參數。
依此,該解碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在滿足如下條件時,允許對前述對象區塊使用前述亮度補正處理,其中該條件是將前述對象區塊以合併模式解碼,且在前述合併模式中,選擇空間上鄰接於前述對象區塊之解碼完畢區塊,預測移動向量,在不滿足前述條件時,不允許對前述對象區塊使用前述亮度補正處理。
依此,該解碼裝置在於合併模式中未選擇空間鄰接區塊時,不允許亮度補正處理。在於合併模式中未選擇空間鄰接區塊時,對象區塊有不同於周邊區塊的動作的情形居多,因此亮度補正處理的效果小的情形居多。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在滿足前述條件時,使用屬於在前述合併模式中所選擇的前述解碼完畢區塊中的像素,導出使用於前述亮度補正處理之亮度補正參數。
依此,該解碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在將第1間預測方式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測方式為使用對象圖片內的區域之第1再構成圖像、與參考圖片內的區域之第2再構成圖像的適合程度,該對象圖片為鄰接於前述對象區塊;在將第2間預測方式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測方式為使用相異的2個參考圖片內之2個區域的2個再構成圖像的適合程度。
依此,該解碼裝置在採用使用相異的2個參考圖片內的2個區域之2個再構成圖像的適合程度之間預測方式時,不允許亮度補正處理。在採用使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度之間預測方式時,對象區塊有不同於周邊區塊的動作的情形居多,亮度補正處理的效果小的情形居多。因此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
例如也可構成為:在將前述第1間預測方式使用在前述對象區塊時,使用屬於前述第1再構成圖像及前述第2再構成圖像之像素,導出使用於前述亮度補正處理的亮度補正參數。
依此,該解碼裝置可算出適當的亮度補正參數,因此可提昇編碼效率。
例如也可構成為:在允許對前述對象區塊使用前述亮度補正處理時,根據與前述第1條件不同的第2條件,決定是否對前述對象區塊使用前述亮度補正處理,(i)在已決定為對前述對象區塊使用前述亮度補正處理時,使用前述亮度補正處理,產生前述對象區塊的預測圖像,(ii)在已決定為不對前述對象區塊使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像,在不允許對前述對象區塊使用前述對象區塊時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像。
例如也可構成為:在允許對前述對象區塊使用前述亮度補正處理時,將顯示是否對前述對象區塊使用前述亮度補正處理的資訊進行解碼,依照解碼後的資訊,決定是否對前述對象區塊使用前述亮度補正處理,在不允許對前述對象區塊使用前述亮度補正處理時,則不將顯示是否對前述對象區塊使用前述亮度補正處理的資訊解碼。
依此,可減少串流的編碼量。
本揭示一態樣之編碼方法,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,前述亮度補正處理是使用補正值,進行預測圖像的亮度值的補正,該補正值為從前述對象區塊周邊的編碼完畢區塊的亮度值所預測的值。
依此,該編碼方法有不允許亮度補正處理的情形。藉此,例如不需要判定是否進行亮度補正處理的處理,因此可減輕編碼裝置之處理量。
本揭示一態樣的解碼方法在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,前述亮度補正處理使用從前述對象區塊周邊的解碼完畢區塊的亮度值所預測的補正值,進行預測圖像的亮度值的補正。
依此,有亮度補正處理不被允許的情形。藉此,例如在編碼裝置或者解碼裝置中不需要判定是否進行亮度補正處理的處理,因此可減輕編碼裝置或者解碼裝置之處理量。
另,該等概括性或者是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式或者電腦可讀取之CD-ROM等之非暫時性的記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
以下,一邊參考圖式,一邊具體地說明實施形態。
另,在以下所說明的實施形態每一個都是顯示概括性或具體性的例子。在以下的實施形態中所示的數值、形狀、材料、構成要素、構成要素的配置位置及連接形態、步驟、步驟的順序等都只是例示罷了,其旨趣並非是來限定請求的範圍。又,以下的實施形態中之構成要素之中,針對未記載於顯示最上位概念的獨立請求項之構成要素,是當做為任意的構成要素來說明的。 (實施形態1)
首先針對可適用後述的本揭示之各態樣中所說明的處理及/或構成之編碼裝置及解碼裝置的一例,說明實施形態1的概要。惟,實施形態1只不過是可適用本揭示之各態樣所說明之處理及/或構成的編碼裝置及解碼裝置之一例罷了,在本揭示所說明的處理及/或構成也可實施於與實施形態1不同的編碼裝置及解碼裝置中。
對於實施形態1,例如亦可以進行以下任一種方式,來適用在本揭示之各態樣所說明的處理及/或構成。 (1)關於實施形態1之編碼裝置或者解碼裝置,對於構成該編碼裝置或者解碼裝置之複數個構成要素之中,與本揭示的各態樣中所說明的構成要素相對應的構成要素,將其替換成本揭示的各態樣中所說明的構成要素; (2) 對於實施形態1之編碼裝置或者解碼裝置,針對構成該編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,在對其功能或者欲實施之處理進行追加、替換、刪除等之任意的變更後,再將其中與本揭示之各態樣中所說明的構成要素對應的構成要素,替換成本揭示之各態樣中所說明的構成要素; (3) 對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,在追加處理的、及/或對該方法所含的複數個處理之中一部分的處理,先施予替換、刪除等之任意的變更後,再將與本揭示的各態樣中所說明的處理相對應的處理,替換成本揭示的各態樣中所說明的處理; (4) 將構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,和本揭示之各態樣中所說明的構成要素、具有本揭示之各態樣中所說明的構成要素所具備的功能之一部分之構成要素、或者要實施本揭示之各態樣中所說明之構成要素所要實施的處理之一部分的構成要素組合,來實施; (5)將具備構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所具備的功能之一部分的構成要素、或者實施構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所實施的處理之一部分的構成要素,和本揭示之各態樣中所說明之構成要素、具備在本揭示之各態樣中所說明之構成要素所具備的功能之一部分之構成要素、或者是實施本揭示之各態樣中所說明之構成要素所實施之處理之一部分的構成要素組合來實施; (6)對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,在該方法所含的複數個處理之中,將對應於本揭示之各態樣中所說明之處理的處理,替換成本揭示之各態樣中所要說明的處理; (7)將實施形態1之編碼裝置或者解碼裝置所要實施的方法所含之複數個處理之中的一部分處理,和本揭示之各態樣中所說明之處理相組合來實施。
另,本揭示之各態樣中所說明之處理及/或構成的實施方式並不限於上述例子。例如,也可以實施在與實施形態1中所揭示之動態圖像/圖像編碼裝置或者是動態圖像/圖像解碼裝置不同的目的而被利用的裝置中,也可以單獨地實施在各態樣中所說明之處理及/或構成。又,也可將在不同的態樣中所說明的處理及/或構成組合來實施。 [編碼裝置的概要]
首先,說明實施形態1之編碼裝置之概要。圖1是顯示實施形態1之編碼裝置100之功能構成之方塊圖。編碼裝置100是將動態圖像/圖像,以區塊單位進行編碼之動態圖像/圖像編碼裝置。
如圖1所示,編碼裝置100為將圖像以區塊單位進行編碼之裝置,包含有:分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、區塊記憶體118、迴路過濾部120、訊框記憶體122、內預測部124、間預測部126、及預測控制部128。
編碼裝置100是例如藉由通用處理器及記憶體來實現。此時,當儲存在記憶體的軟體程式藉由處理器來執行時,處理器是發揮分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路過濾部120、內預測部124、間預測部126、及預測控制部128等之功能。又,編碼裝置100也可對應分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路過濾部120、內預測部124、間預測部126、及預測控制部128,以專用的1個以上的電子電路來實現。
以下,針對編碼裝置100所含之各構成要素予以說明。 [分割部]
分割部102是將輸入動態圖像所含之各圖片分割成複數個區塊,並將各區塊輸出至減法部104。例如,分割部102,首先將圖片分割成固定尺寸(例如128×128)之區塊。該固定尺寸的區塊有時被稱為編碼樹單元(CTU)。接著,分割部102根據遞迴性的四元樹(quadtree)及/或二元樹(binary tree)區塊分割,將固定尺寸的區塊之每一個分割成可變尺寸(例如64×64以下)的區塊。這個可變尺寸的區塊有時被稱為編碼單元(CU)、預測單元(PU)或者轉換單元(TU)。另,在本實施形態中,沒有區別CU、PU及TU的必要,圖片內的一部分或者全部的區塊,都可以使用作為CU、PU、TU的處理單位。
圖2是顯示實施形態1中的區塊分割之一例。在圖2中,實線是表示透過四元樹區塊分割所得到的區塊邊界,虛線是表示透過二元樹區塊分割所得到的區塊邊界。
在此,區塊10是128×128像素的正方形區塊(128×128區塊)。該128×128區塊10,首先是被分割成4個正方形的64×64區塊(四元樹區塊分割)。
左上的64×64區塊是進一步被垂直分割成2個矩形的32×64區塊,左邊的32×64區塊是進一步被垂直分割成2個矩形的16×64區塊(二元樹區塊分割)。其結果,左上的64×64區塊是被分割成2個16×64區塊11、12、及32×64區塊13。
右上的64×64區塊是被水平分割成2個矩形的64×32區塊14、15(二元樹區塊分割)。
左下的64×64區塊是被分割成4個正方形的32×32區塊(四元樹區塊分割)。4個32×32區塊之中,左上的區塊及右下的區塊被進一步分割。左上的32×32區塊是被垂直分割成2個矩形的16×32區塊,右邊的16×32區塊是進一步被水平分割成2個16×16區塊(二元樹區塊分割)。右下的32×32區塊是被水平分割成2個32×16區塊(二元樹區塊分割)。其結果,左下的64×64區塊是被分割成1個16×32區塊16、2個16×16區塊17、18、2個32×32區塊19、20、及2個32×16區塊21、22。
右下的64×64區塊23不分割。
如上,在圖2中,區塊10是根據遞迴性的四元樹及二元樹區塊分割,而被分割成13個可變尺寸的區塊11至23。如此分割,有時被稱為QTBT(quad-tree plus binary tree)分割。
另,在圖2中,1個區塊是被分割成4個或者2個區塊(四元樹或者二元樹區塊分割),而分割法並不限於此。例如,1個區塊也可被分割成3個區塊(三元樹區塊分割)。如此包括三元樹區塊分割的分割有時被稱為MBT(multi type tree)分割。 [減法部]
減法部104是以分割部102所分割的區塊單位,從原訊號(原樣本)減去預測訊號(預測樣本)。即,減法部104是算出編碼對象區塊(以下,稱為目前區塊)的預測誤差(也稱為殘差)。接著,減法部104將所算出的預測誤差輸出至轉換部106。
原訊號是編碼裝置100的輸入訊號,為表示構成動態圖像之各圖片的圖像之訊號(例如亮度(luma)訊號及2個色差(chroma)訊號)。在下面內容中,也將表示圖像的訊號稱為樣本。 [轉換部]
轉換部106是將空間區域的預測誤差轉換成頻率區域的轉換係數,且將轉換係數輸出至量化部108。具體來說,轉換部106,例如對於空間區域的預測誤差,進行事先所決定的離散餘弦轉換(DCT)或者離散正弦轉換(DST)。
另,轉換部106也可從複數個轉換型式之中適應性地選擇轉換型式,使用對應於所選擇的轉換型式之轉換基底函數(transform basis function),將預測誤差轉換成轉換係數。如此轉換有時被稱為EMT(explicit multiple core transform)或者AMT(adaptive multiple transform)。
複數個轉換型式,例如包括有DCT-II、DCT-V、DCT-VIII、DST-I及DST-VII。圖3是顯示對應於各轉換型式之轉換基底函數之表。在圖3中,N是顯示輸入像素的數量。從該等複數個轉換型式之中,選擇轉換型式的依據,例如也可依據預測的種類(內預測及間預測),也可依據內預測模式。
如此顯示是否適用EMT或者AMT之資訊(例如被稱為AMT旗標)以及顯示所選擇的轉換型式的資訊,是以CU等級來進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級(sequence level)、圖片等級(picture level)、切片等級(slice level)、方塊(tile)等級或者CTU等級)。
又,轉換部106也可將轉換係數(轉換結果)再轉換。如此再轉換有時被稱為AST(adaptive secondary transform)或者NSST(non-separable secondary transform)。例如,轉換部106是依對應於內預測誤差之轉換係數的區塊所含之各個子區塊(例如4×4子區塊)個別地進行再轉換。顯示是否適用NSST之資訊及有關於使用在NSST之轉換矩陣之資訊是以CU等級來進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級或者CTU等級)。
在此,可分離(Separable)的轉換是指依方向分離輸入的維數,來進行數次轉換的方式,不可分離(Non-Separable)的轉換是指在輸入為多維時,將2以上的的維度匯整而視為1維,再一起進行轉換的方式。
例如,關於不可分離的轉換之1例,可舉例有如下者:在輸入為4×4的區塊時,將該區塊視為具有16個要素之一個陣列,對該陣列,以16×16的轉換矩陣進行轉換處理。
又,同樣地,將4×4的輸入區塊視為如同具有16個要素之一整個排列,之後對該排列進行數次吉文斯旋轉(Givens rotation)之構成(Hypercube Givens Transform/超立方體吉文斯轉換),也是不可分離(Non- Separable)性轉換的例子。 [量化部]
量化部108是將從轉換部106所輸出的轉換係數進行量化。具體來說,量化部108是以預定的掃描順序來掃描當前區塊的轉換係數,根據對應於所掃描的轉換係數的量化參數(QP),而將該轉換係數進行量化。然後,量化部108將當前區塊之業經量化後的轉換係數(以下稱為量化係數)輸出至熵編碼部110及反量化部112。
預定的順序是轉換係數的量化/反量化之用的順序。例如,預定的掃描順序是定義為頻率的升冪排序(從低頻到高頻的順序)或者降冪排序(從高頻到低頻的順序)。
量化參數是指定義量化步階(量化幅寬)的參數。例如,若量化參數的值增加時,量化步階也會增加。即,若量化參數的值增加,量化誤差也會變大。 [熵編碼部]
熵編碼部110是將從量化部108輸入的量化係數進行可變長度編碼,藉此產生編碼訊號(編碼位元流)。具體來說,熵編碼部110是例如將量化係數進行二值化,且將二值化訊號進行算術編碼。 [反量化部]
反量化部112是將來自量化部108的輸入之量化係數進行反量化。具體來說,反量化部112是以預定的掃描順序而將當前區塊的量化係數進行反量化。然後,反量化部112是將當前區塊的業經反量化的轉換係數輸出至反轉換部114。 [反轉換部]
反轉換部114是將輸入自反量化部112之的轉換係數進行反轉換,藉此將預測誤差復原。具體來說,反轉換部114是對轉換係數進行與轉換部106所進行的轉換對應之反轉換,藉此將當前區塊的預測誤差進行復原。然後,反轉換部114是將復原後的預測誤差輸出至加法部116。
另,復原後的預測誤差是因為量化的進行而有失去資訊,因此和減法部104所算出的預測誤差不一致。即,在復原後的預測誤差中包含有量化誤差。 [加法部]
加法部116是將來自反轉換部114之輸入的預測誤差、與來自預測控制部128之輸入的預測樣本相加,藉此再構成當前區塊。然後,加法部116將經再構成的區塊輸出至區塊記憶體118及迴路過濾部120。再構成區塊有時也被稱為局部解碼區塊。 [區塊記憶體]
區塊記憶體118是用以儲存區塊的記憶體,其中該區塊為於內預測被參考的區塊、且為編碼對象圖片(以下稱為當前圖片)內的區塊。具體來說,區塊記憶體118是儲存從加法部116所輸出的再構成區塊。 [迴路過濾部]
迴路過濾部120是對透過加法部116而再構成的區塊施加迴路過濾,且將經過濾的再構成區塊輸出至訊框記憶體122。迴路過濾是指在編碼迴路內所使用的過濾器(迴路內過濾器),例如包括解區塊過濾器(DF)、樣本適應性偏移(SAO)及適應性迴路過濾器(ALF)等。
在ALF中,適用用以移除編碼變形的最小平方誤差過濾器,例如按當前區塊內的各個2×2子區塊,從複數個過濾器之中,根據局部性的梯度(gradient)的方向及活性度(activity),選擇1個過濾器,而適用該過濾器。
具體來說,首先子區塊(例如2×2子區塊)被分類成複數個類別(例如15或者25類)。子區塊的分類是根據梯度的方向及活性度來進行。例如,使用梯度的方向值D(例如0至2或者0至4)與梯度的活性值A(例如0至4),而算出分類值C(例如C=5D+A)。然後,根據分類值C,使子區塊被分類成複數個類別(例如15或者25類)。
梯度的方向值D,例如是藉由比較複數個方向(例如水平、垂直及2個對角方向)的梯度導出。又,梯度的活性值A,例如是藉由將複數個方向的梯度相加,將加法結果進行量化來導出。
根據如此分類的結果,從複數個過濾器之中,決定子區塊用的過濾器。
以於ALF所使用的過濾器的形狀來說,例如利用圓對稱形狀。如圖4A至圖4C是顯示ALF所使用的過濾器的形狀的數例之圖。圖4A顯示5×5菱形形狀過濾器,圖4B顯示7×7菱形形狀過濾器,圖4C是顯示9×9菱形形狀過濾器。顯示過濾器的形狀之資訊是以圖片等級來被進行訊號化。另,顯示過濾器的形狀之資訊的訊號化並不須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級或者是CU等級)。
ALF的開啟/關閉,例如是以圖片等級或者CU等級來決定。例如,針對亮度,是以CU等級來決定是否適用ALF,針對色差,是以圖片等級來決定是否適用ALF。顯示ALF的開啟/關閉的資訊,是以圖片等級或者CU等級來進行訊號化。另,顯示ALF的開啟/關閉的資訊,並無須限定在圖片等級或者CU等級,也可為其他等級(例如序列等級、切片等級、方塊等級、或者CTU等級)。
可選擇的複數個過濾器(例如迄至15或25的過濾器)的係數組合是以圖片等級進行訊號化。另,係數組合的訊號化並無須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級、CU等級或者是子區塊等級)。 [訊框記憶體]
訊框記憶體122是一種用以儲存被使用在間預測的參考圖片之記憶部,有時也被稱為訊框緩衝器。具體來說,訊框記憶體122是儲存已經由迴路過濾部120過濾後的再構成區塊。 [內預測部]
內預測部124是藉由參考區塊記憶體118所儲存的當前圖片內的區塊,進行當前區塊的內預測(也稱為畫面內預測),以產生預測訊號(內預測訊號)。具體來說,內預測部124是藉由參考鄰接於當前區塊之區塊的樣本(例如亮度值、色差值)進行內預測,以產生內預測訊號,且將內預測訊號輸出至預測控制部128。
例如,內預測部124利用事先所規定的複數個內預測模式之中的1個,來進行內預測。複數個內預測模式是包括1個以上的非方向性預測模式、及複數個方向性預測模式。
1個以上的非方向性預測模式,例如包括以H.265/HEVC(High-Efficiency Video Coding/高效率視訊編碼)規格(非專利文獻1)所規定的平面(Planar)預測模式及直流(DC)預測模式。
複數個方向性預測模式,例如包括以H.265/ HEVC規格所規定的33個方向的預測模式。另,複數個方向性預測模式,除了33個方向外,也可進一步包括32個方向的預測模式(合計共65個方向性預測模式)。圖5A是顯示內預測中的67個內預測模式(2個非方向性預測模式及65個方向性預測模式)之圖。實線箭頭符號是表示以H.265/HEVC規格所規定的33個方向,虛線箭頭符號是表示所追加的32個方向。
另,在色差區塊的內預測中,亮度區塊也可被參考。即,根據當前區塊的亮度成分,當前區塊的色差成分也可被預測。如此之內預測有時被稱為CCLM (cross- component linear model)預測。像這種參考亮度區塊之色差區塊的內預測模式(例如被稱為CCLM模式),也可作為1種色差區塊的內預測模式而加入。
內預測部124,也可根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。像這樣伴隨著補正的內預測有時被稱為PDPC(position dependent intra prediction combination)。顯示是否適用PDPC之資訊(例如被稱為PDPC旗標),例如是以CU等級來進行訊號化。另,該資訊的訊號化並無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、或者CTU等級)。 [間預測部]
間預測部126是參考參考圖片,來進行當前區塊的間預測(也叫做畫面間預測),以此產生預測訊號(間預測訊號),其中該參考圖片是訊框記憶體122所儲存的參考圖片,且為與當前圖片相異的參考圖片。間預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位來進行。例如,間預測部126是針對當前區塊或者子區塊,在參考圖片內進行移動估測(motion estimation)。接著,間預測部126是利用藉由移動估測而得到的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號。然後,間預測部126是將所產生的間預測訊號輸出至預測控制部128。
用於移動補償的移動資訊被進行訊號化。對於移動向量的訊號化,移動向量預測子(motion vector predictor)也可被使用。即,移動向量與移動向量預測子之間的差值也可被訊號化。
另,不僅使用透過移動估測所得到的當前區塊的移動資訊,也可使用鄰接區塊的移動資訊,來產生間預測訊號。具體來說,也可將根據透過移動估測所得到的移動資訊之預測訊號、與根據鄰接區塊的移動資訊之預測訊號予以加權加總,藉此以當前區塊內的子區塊單位來產生間預測訊號。如此之間預測(移動補償)有時被稱為OBMC (overlapped block motion compensation)。
在如此之OBMC模式中,顯示OBMC用的子區塊的尺寸之資訊(例如被稱為OBMC區塊尺寸)是以序列等級而被訊號化。又,顯示是否適用OBMC模式之資訊(例如被叫做OBMC旗標)是以CU等級而被訊號化。另,該等資訊的訊號化的等級並無須限定在序列等級及CU等級,也可為其他等級(例如圖片等級、切片等級、方塊等級、CTU等級、或者子區塊等級)。
針對OBMC模式,更具體地來進行說明。圖5B及圖5C是用以說明OBMC處理所進行的預測圖像補正處理的概要之流程及概念圖。
首先,使用被分配到編碼對象區塊之移動向量(MV),取得依通常的移動補償所得到之預測圖像(Pred)。
其次,將編碼完畢的左鄰接區塊的移動向量(MV_L)適用在編碼對象區塊,取得預測圖像(Pred_L),將前述預測圖像與Pred_L加權、疊合,以此進行預測圖像的第1次補正。
以同樣方式,將編碼完畢之上鄰接區塊的移動向量(MV_U)適用在編碼對象區塊,取得預測圖像 (Pred_U),將前述已經進行過第1次補正的預測圖像與Pred_U賦予權重、疊合,以此進行預測圖像的第2次補正,將此作為最後的預測圖像。
另,在此說明了使用左鄰接區塊與上鄰接區塊的2階段補正的方法,但也能作成如下構成,即,使用右鄰接區塊或下鄰接區塊,進行比2階段更多次數的補正之構成。
另,進行疊合的區域,也可為僅只區塊邊界附近之一部分的區域,而非區塊整體的像素區域。
另,在此雖是針對來自1張參考圖片的預測圖像補正處理進行說明,但是在從複數張參考圖片來補正預測圖像的情況也是同樣的方式,從各參考圖片取得補正後的預測圖像後,將所得到的預測圖像進一步疊合,以此作為最後的預測圖像。
另,前述處理對象區塊也可為預測區塊單位,也可為將預測區塊進一步加以分割的子區塊單位。
作為判定是否適用OBMC處理的方法,例如有一種使用obmc_flag之方法,該obmc_flag是顯示是否適用OBMC處理的訊號。以一具體例來說,在編碼裝置中,判定編碼對象區塊是否屬於移動為複雜的區域,在屬於移動為複雜的區域時,設定值為1來作為obmc_flag,適用OBMC處理進行編碼,在不屬於移動為複雜的區域時,則設定值為0來作為obmc_flag,不適用OBMC處理來進行編碼。另一方面,在解碼裝置中,將記述在串流的obmc_flag解碼,以此因應該值,切換是否適用OBMC處理,來進行解碼。
另,移動資訊可在不被訊號化,而在解碼裝置側導出。例如也可採用以H.265/HEVC規格所規定的合併(merge)模式。又,例如也可於解碼裝置側進行移動估測,藉此導出移動資訊。此時,不使用當前區塊的像素值而進行移動估測。
在此,針對在解碼裝置側進行移動估測之模式來說明。在該解碼裝置側進行移動估測的模式有時被稱為PMMVD(pattern matched motion vector derivation)模式或者FRUC(frame rate up-conversion)模式。
FRUC處理之一例是顯示在圖5D中。首先,參考空間上或時間上鄰接於當前區塊的編碼完畢區塊之移動向量,產生複數個候選的清單(也可與合併清單為共通),該複數個候選的清單各自具有預測移動向量。其次,從已登錄在候選清單的複數個候選MV之中選擇最佳候選MV。例如,算出候選清單所含之各候選的評價值,根據評價值,而選擇1個候選。
接著,根據所選擇的候選之移動向量,導出當前區塊用的移動向量。具體來說,例如將所選擇的候選之移動向量(最佳候選MV),就這樣導出來作為當前區塊用的移動向量。又,例如在參考圖片內之位置的周邊區域中進行圖案匹配,藉此也可以導出當前區塊用的移動向量,其中該參考圖片是對應於所選擇之候選的移動向量。即,對於最佳候選MV之周邊的區域,以同樣的方法進行搜索,進而有評價值為好的數字之MV時,將最佳候選MV更新為前述MV,將該MV當做為當前區塊之最後的MV亦可。另,也可做成不實施該處理之構成。
在以子區塊單位進行處理時,也可構成為完全同樣的處理。
另,評價值是可透過對應於移動向量之參考圖片內的區域、與預定區域之間的圖案匹配,來求取再構成圖像的差值,藉此而算出。另,除了差值外,也可使用除此以外的資訊,來算出評價值。
對於圖案匹配,是使用第1圖案匹配或者第2圖案匹配。第1圖案匹配及第2圖案匹配,有時分別被稱為雙向匹配(bilateral matching)以及模板匹配(template matching)。
在第1圖案匹配中,是在2個區塊之間進行圖案匹配,該2個區塊是不同的2個參考圖片內的2個區塊、且是沿著當前區塊的移動軌跡(motion trajectory)。因此,在第1圖案匹配中,是使用沿著當前區塊的移動軌跡的其他參考圖片內之區域,來作為算出上述候選的評價值之用的預定區域。
圖6是用以說明在沿著移動軌跡的2個區塊間之圖案匹配(雙向匹配)一例之圖。如圖6所示,在第1圖案匹配下,在沿著當前區塊(Cur block)的移動軌跡之2個區塊、且為不同的2個參考圖片(Ref0、Ref1)內的2個區塊之配對(pair)之中,搜索最為相配的配對,藉此導出2個移動向量(MV0、MV1)。具體來說,對於當前區塊,使用以候選MV所指定的第1編碼完畢參考圖片(Ref0)內的指定位置中之再構成圖像、與以顯示時間間隔對前述候選MV進行定標(scaling)後的對稱MV所指定的第2編碼完畢參考圖片(Ref1)內的指定位置中之再構成圖像,導出兩圖像間之差值,再使用所得到的差值來算出評價值。在複數個候選MV之中,選擇評價值為最佳值的候選MV,作為最後MV即可。
在連續的移動軌跡的假設之下,指示2個參考區塊的移動向量(MV0、MV1)相對於當前圖片(Cur Pic)與2個參考圖片(Ref0、Ref1)間之時間上的距離(TD0、TD1)成比例。例如,當前圖片是時間上位於2個參考圖片之間,在從當前圖片到2個參考圖片的時間上的距離相等時,在第1圖案匹配上,能導出鏡射對稱的雙向之移動向量。
在第2圖案匹配上,在當前圖片內的模板(在當前圖片內鄰接於當前區塊的區塊(例如上及/或左鄰接區塊))與參考圖片內的區塊之間,進行圖案匹配。因此,在第2圖案匹配上,使用鄰接於當前圖片內的當前區塊的區塊,以作為上述之候選的評價值之算出用的預定區域。
圖7是用以說明在當前圖片內的模板(Template)與參考圖片內的區塊之間的圖案匹配(模板匹配)一例之圖。如圖7所示,在第2圖案匹配中,在參考圖片(Ref0)內搜索在當前圖片(Cur Pic)內和鄰接於當前區塊(Cur block)之區塊最匹配的區塊,藉此導出當前區塊的移動向量。具體來說,對於當前區塊,導出:左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以候選MV所指定的編碼完畢參考圖片(Ref0)內的同等位置中的再構成圖像間之差值,且使用所得到的差值,算出評價值,在複數個候選MV之中選擇評價值為最佳之值的候選MV,作為最佳候選MV,即可。
如此之顯示是否適用FRUC模式之資訊(例如被稱為FRUC旗標)是以CU等級而被訊號化。又,在適用FRUC模式時(例如FRUC旗標為真時),顯示圖案匹配之方法(第1圖案匹配或者第2圖案匹配)之資訊(例如被稱為FRUC模式旗標)是以CU等級而被訊號化。另,該等資訊之訊號化並不須限定於CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。
在此,針對根據模型來導出移動向量的模式進行說明,其中該模型為假設為等速直線運動之模型。該模式有時被稱為BIO(bi-directional optical flow,雙向光流)模式。
圖8是用以說明假設為等速直線運動的模型之圖。在圖8中,(vx ,vy )是表示速度向量,τ0 、τ1 各表示為當前圖片(Cur Pic)與2個參考圖片(Ref0 ,Ref1 )間的時間上的距離。(MVx0 ,MVy0 )是表示對應於參考圖片Ref0 之移動向量,(MVx1 、MVy1 )是表示對應於參考圖片Ref1 之移動向量。
此時,速度向量(vx ,vy )在等速直線運動的假設之下,(MVx0 ,MVy0 )及(MVx1 ,MVy1 )各表示為(vx τ0 ,vy τ0 )及(-vx τ1 ,-vy τ1 ),使以下的光流等式(1)成立。 (數1)在此,I(k) 是表示移動補償後之參考圖像k(k=0,1)的亮度值。該光流等式是顯示(i)亮度值的時間微分、(ii)水平方向的速度及參考圖像的空間梯度的水平成分的乘積、與(iii)垂直方向的速度及參考圖像的空間梯度的垂直成分的乘積之和等於零者。根據該光流等式與埃爾米特插值(Hermite interpolation)之組合,將從合併清單等所得到的區塊單位之移動向量以像素單位進行補正。
另,也能以異於根據假設等速直線運動之模型之移動向量的導出之方法,在解碼裝置側導出移動向量。例如,也可根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量。
在此,針對根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量的模式進行說明。該模式有時被稱為仿射移動補償預測(affine motion compensation prediction)模式。
圖9A是用以說明子區塊單位的移動向量之導出之圖,該導出是根據複數個鄰接區塊的移動向量來進行。在圖9A中,當前區塊含有16個4×4子區塊。在此,根據鄰接區塊的移動向量,導出當前區塊的左上角控制點的移動向量v0 ,且根據鄰接子區塊的移動向量,導出當前區塊的右上角控制點的移動向量v1 。接著,使用2個移動向量v0 及v1 ,經由以下的式(2),而導出當前區塊內的各子區塊的移動向量(vx ,vy )。 (數2)在此,x及y各表示子區塊的水平位置及垂直位置,w表示事先所訂定的權重係數。
在如此之仿射移動補償預測模式中,也可包括左上及右上角控制點的移動向量之導出方法相異之幾個模式。顯示如此之仿射移動補償預測模式之資訊(例如被稱為仿射旗標)是以CU等級來進行訊號化。另,該顯示仿射移動補償預測模式之資訊的訊號化,無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。 [預測控制部]
預測控制部128是選擇內預測訊號及間預測訊號之任一種,且將所選擇的訊號作為預測訊號,而輸出至減法部104及加法部116。
在此,說明經由合併模式而導出編碼對象圖片的移動向量之例。圖9B是用以說明藉合併模式進行之移動向量導出處理之概要之圖。
首先,產生登錄有預測MV之候選的預測MV清單。關於預測MV的候選對象,包括有:空間鄰接預測MV,是編碼對象區塊之空間上位於周邊的複數個編碼完畢區塊所具有之MV;時間鄰接預測MV,是投影到編碼完畢參考圖片中的編碼對象區塊之位置的附近區塊所具有的MV;結合預測MV,是組合空間鄰接預測MV及時間鄰接預測MV之MV值而產生的MV;以及零預測MV,其值為零的MV等。
其次,從登錄在預測MV清單中的複數個預測MV之中,選擇1個預測MV,以此將之決定作為編碼對象區塊的MV。
進而,在可變長度編碼部中,將merge_idx記述在串流中,並進行編碼,其中該merge_idx是顯示選擇了哪一個預測MV之訊號。
另,登錄在圖9B中所說明之預測MV清單之預測MV只是一個例子,也可為和圖中的個數不同的個數,或者不含圖中的預測MV之一部分的種類之構成,或者追加了圖中的預測MV之種類以外的預測MV之構成。
另,也可使用藉合併模式所導出之編碼對象區塊的MV,進行後述的DMVR處理,藉此來決定最後的MV。
在此,針對使用DMVR處理來決定MV之例進行說明。
圖9C是用以說明DMVR處理的概要之概念圖。
首先,將設定於處理對象區塊的最適合的MVP設為候選MV,依照前述候選MV,從L0方向的處理完畢圖片即第1參考圖片、及L1方向之處理完畢圖片即第2參考圖片,分別取得參考像素,取各參考像素的平均,以此產生模板。
其次,使用前述模板,分別搜尋第1參考圖片及第2參考圖片的候選MV之周邊區域,將成本為最小的MV決定為最後的MV。另,成本值是利用模板的各像素值與搜索區域的各像素值之差值及MV值等來算出。
另,在編碼裝置及解碼裝置中,在此所說明的處理之概要基本上是共通的。
另,就算不是在此所說明的處理內容,其他處理只要是能搜索候選MV的周邊而導出最後的MV之處理,也可使用。
在此,針對使用LIC處理來產生預測圖像的模式進行說明。
圖9D是用以說明使用依LIC處理之亮度補正處理的預測圖像產生方法之概要之圖。
首先,從參考圖片導出MV,其中該參考圖片是編碼完畢圖片,該MV是用以取得對應於編碼對象區塊之參考圖像。
其次,對於編碼對象區塊,利用左鄰接及上鄰接之編碼完畢周邊參考區域的亮度像素值、與位於以MV所指定的參考圖片內之同等位置之亮度像素值,擷取顯示亮度值在參考圖片與編碼對象圖片是如何變化的資訊,而算出亮度補正參數。
對於以MV所指定的參考圖片內之參考圖像,使用前述亮度補正參數,進行亮度補正處理,以此產生相對於編碼對象區塊之預測圖像。
另,圖9D中的前述周邊參考區域的形狀只是其中一例而已,也可使用除此以外的形狀。
又,在此已經說明了針對從1張參考圖片來產生預測圖像的處理,但從複數張的參考圖片來產生預測圖像的情況也是同樣地,先對從各個參考圖片取得到的參考圖像,以同樣的方法進行亮度補正處理,之後再產生預測圖像。
關於判定是否適用LIC處理之方法,例如有使用lic_flag之方法,該lic_flag是顯示是否適用LIC處理的訊號。以具體的一例來說,在編碼裝置中,判定編碼對象區塊是否為屬於發生亮度變化之區域,若為屬於發生亮度變化的區域時,對lic_flag設定其值為1,適用LIC處理而進行編碼,若不屬於發生亮度變化之區域時,則對lic_flag設定其值為0,不適用LIC處理而進行編碼。另一方面,在解碼裝置中,將記述於串流之lic_flag進行解碼,以此因應該值來切換是否適用LIC處理,而進行解碼。
關於判定是否適用LIC處理之另一方法,例如還有如下方法,該方法是依照在周邊區塊是否適用過LIC處理而判定。以具體的一例來說,編碼對象區塊為合併模式時,判定在於合併模式處理中的MV之導出時所選擇的周邊的編碼完畢區塊是否適用LIC處理而進行編碼,因應該結果,切換是否適用LIC處理,而進行編碼。另,在該例的情況,解碼中的處理也是完全相同。 [解碼裝置的概要]
其次,針對解碼裝置之概要進行說明,該解碼裝置可將從上述編碼裝置100所輸出的編碼訊號(編碼位元流)進行解碼。圖10是顯示實施形態1之解碼裝置200的功能構成之方塊圖。解碼裝置200是以區塊單位而將動態圖像/圖像進行解碼的動態圖像/圖像解碼裝置。
如圖10所示,解碼裝置200包含有:熵解碼部202、反量化部204、反轉換部206、加法部208、區塊記憶體210、迴路過濾部212、訊框記憶體214、內預測部216、間預測部218、及預測控制部220。
解碼裝置200,例如可透過通用處理器及記憶體來實現。此時,記憶體所儲存的軟體程式經由處理器來執行時,處理器是作為熵解碼部202、反量化部204、反轉換部206、加法部208、迴路過濾部212、內預測部216、間預測部218、及預測控制部220而運作。又,解碼裝置200也可作為對應於熵解碼部202、反量化部204、反轉換部206、加法部208、迴路過濾部212、內預測部216、間預測部218、及預測控制部220之專用的1個以上的電子電路而附諸實現。
以下,針對解碼裝置200所含之各構成要素予以說明。 [熵解碼部]
熵解碼部202是將編碼位元流進行熵解碼。具體來說,熵解碼部202是例如進行從編碼位元流變成二值訊號的算術解碼。接著,熵解碼部202將二值訊號進行多值化(debinarize)。藉此,熵解碼部202是以區塊單位而將量化係數輸出至反量化部204。 [反量化部]
反量化部204是將解碼對象區塊(以下稱為當前區塊)的量化係數進行反量化,其中該解碼對象區塊為來自熵解碼部202的輸入。具體來說,反量化部204是針對當前區塊的量化係數之各個,根據對應於該量化係數之量化參數,而將該量化係數進行反量化。然後,反量化部204是將當前區塊的業經反量化之量化係數(即轉換係數)輸出至反轉換部206。 [反轉換部]
反轉換部206是將轉換係數進行反轉換,藉此將預測誤差復原,其中該轉換係數為來自反量化部204之輸入。
例如從編碼位元流解讀到的資訊是顯示適用EMT或者AMT的時候(例如AMT旗標為真),反轉換部206是根據顯示所解讀的轉換型式的資訊,將當前區塊的轉換係數進行反轉換。
又,例如從編碼位元流解讀到的資訊是顯示適用NSST的時候,反轉換部206是對轉換係數適用反再轉換。 [加法部]
加法部208是將預測誤差與預測樣本相加,藉此再構成當前區塊,其中該預測誤差是來自反轉換部206之輸入,該預測樣本是來自預測控制部220之輸入。然後,加法部208是將業經再構成的區塊輸出至區塊記憶體210及迴路過濾部212。 [區塊記憶體]
區塊記憶體210是用以儲存在內預測中被參考的區塊且為解碼對象圖片(以下稱為當前圖片)內的區塊之記憶部。具體來說,區塊記憶體210是儲存從加法部208所輸出的再構成區塊。 [迴路過濾部]
迴路過濾部212是對已經由加法部208所再構成後的區塊施行迴路過濾,且將業已過濾後的再構成區塊輸出至訊框記憶體214及顯示裝置等。
顯示從編碼位元流解讀到之ALF之開啟/關閉的資訊是顯示ALF之開啟的時候,根據一部分的梯度的方向及活性度,從複數個過濾器之中,選擇1個過濾器,將所選擇的過濾器適用於再構成區塊。 [訊框記憶體]
訊框記憶體214是用以儲存使用在間預測的參考圖片之記憶部,有時候也被稱為訊框緩衝器。具體來說,訊框記憶體214是儲存經由迴路過濾部212所過濾的再構成區塊。 [內預測部]
內預測部216是根據從編碼位元流解讀到的內預測模式,參考區塊記憶體210所儲存的當前圖片內的區塊,來進行內預測,以此產生預測訊號(內預測訊號)。具體來說,內預測部216是參考鄰接於當前區塊的區塊之樣本(例如亮度值、色差值)來進行內預測,以此產生內預測訊號,且將內預測訊號輸出至預測控制部220。
另,在色差區塊的內預測中,選擇了參考亮度區塊的內預測模式時,內預測部216也可根據當前區塊的亮度成分,預測當前區塊的色差成分。
又,在從編碼位元流解讀到的資訊顯示要適用PDPC時,內預測部216是根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。 [間預測部]
間預測部218是參考訊框記憶體214所儲存的參考圖片,來預測當前區塊。預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位進行。例如,間預測部218是使用從編碼位元流解讀到的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號,且將間預測訊號輸出至預測控制部220。
另,在從編碼位元流解讀到的資訊是顯示適用OBMC模式時,間預測部218不只是利用經由移動估測而得到的當前區塊的移動資訊,還利用鄰接區塊的移動資訊,產生間預測訊號。
又,在從編碼位元流解讀到的資訊是顯示適用FRUC模式時,間預測部218是依照從編碼串流解讀到的圖案匹配的方法(雙向匹配或者模板匹配)來進行移動估測,藉此導出移動資訊。然後,間預測部218是使用所導出的移動資訊,來進行移動補償。
又,間預測部218是適用BIO模式時,根據假設等速直線運動之模型,導出移動向量。又,在從編碼位元流解讀到的資訊顯示適用仿射移動補償預測模式時,間預測部218是根據複數個鄰接區塊的移動向量,而以子區塊單位導出移動向量。 [預測控制部]
預測控制部220是選擇內預測訊號及間預測訊號之任一個,且將所選擇的訊號作為預測訊號,而輸出至加法部208。 [間預測處理之第1例]
圖11是顯示本實施形態之編碼裝置100所包含的間預測部126之間預測處理的第1例之流程圖。圖11所示的處理是以畫面間預測處理的處理單位即預測區塊單位反覆進行。另,以下是以編碼裝置100所包含的間預測部126的動作為主來說明,而解碼裝置200所包含的間預測部218的動作也是同樣。
間預測部126從複數個模式(合併模式、FRUC模式、及常態間模式等),選擇間預測模式,該間預測模式是使用在對象區塊,該對區塊為編碼對象或者解碼對象的區塊。間預測部126是使用所選擇的間預測模式,導出移動向量(MV)。具體來說,在顯示使用在對象區塊的間預測模式之間預測模式資訊顯示0時(在S101,0),間預測部126藉由合併模式,導出移動向量(S102)。在間預測模式資訊顯示1時,(在S101,1),間預測部126藉由FRUC模式,導出移動向量(S103)。在間預測模式資訊顯示2時(在S101,2),間預測部126藉由常態間模式,導出移動向量(S104)。
在此,常態間模式意指:對差值移動向量作編碼(解碼)的模式。具體來說,編碼側是從對象區塊周邊的編碼完畢區塊預測預測移動向量,將作為對象區塊的移動向量與預測移動向量之差值之差值移動向量傳送到解碼側。解碼側是從對象區塊周邊的解碼完畢區塊預測預測移動向量,對預測移動向量加上傳送來的差值移動向量,以此導出對象區塊的移動向量。另,以下也將對象區塊周邊的編碼完畢或解碼完畢區塊稱為周邊區塊。又,周邊區塊,例如是鄰接於對象區塊的區塊。
又,合併模式及FRUC模式為不對差值移動向量作編碼(解碼)的模式。在合併模式中,在編碼側及解碼側之中,從周邊區塊選擇移動向量而予以取得。在FRUC模式中,在編碼側及解碼側之中,在編碼完畢(解碼完畢)區域間進行搜尋,以此取得移動向量。
其次,間預測部126判定是否對對象區塊適用LIC處理(亮度補正處理)(S105)。在被判定為適用LIC處理時(在S105,是),間預測部126使用屬於周邊區塊之像素,算出使用在亮度補正處理的亮度補正處理的亮度補正參數(S106)。間預測部126依照在步驟S102至S104之任一個步驟所導出的移動向量及亮度補正參數,進行使用依LIC處理所進行的亮度補正的移動補償,以此產生預測圖像(S107)。
另一方面,在被判斷為不適用LIC處理時(在S105,否),間預測部126依照在步驟S102至S104之任一個步驟所導出的移動向量,進行不使用依LIC處理所作的亮度補正之移動補償,以此產生預測圖像(S108)。
關於是否適用LIC處理 (S105)之判定方法,例如有使用lic_flag之方法,該lic_flag是顯示是否適用LIC處理之信號。以具體性的一例來說,包含在編碼裝置100的間預測部126是判定對象區塊是否屬於發生有亮度變化之區域。在對象區塊屬於發生有亮度變化之區域時,間預測部126設定1之值,作為lic_flag,在適用LIC處理之狀態下進行編碼。另一方面,在對象區塊不屬於發生有亮度變化之區域時,間預測部126設定0之值,作為lic_flag,在不適用LIC處理之狀態下進行編碼。
或者,間預測部126在適用LIC處理的時候與不適用LIC處理的時候,算出基於編碼量的成本值。間預測部126,在適用LIC處理的時候比起不適用LIC處理的時候,成本值變少(編碼量變少)時,判定為適用LIC處理,設定1之值作為lic_flag。若不是的時候,間預測部126則判定為不適用LIC處理,設定0之值,作為lic_flag。
另一方面,在解碼裝置200中,將記述在串流的lic_flag解碼,以此因應其值,來切換是否適用LIC處理,來進行解碼。
又,關於是否適用LIC處理 (S105)的另一判定方法,例如,間預測部126以周邊區塊依照是否適用LIC處理,判定是否對對象區塊適用LIC處理。以具體性的一例來說,對對象區塊使用合併模式時,間預測部126判定在於合併模式處理中的移動向量之導出之時所選擇的周邊區塊是否適用LIC處理而予以編碼,因應其結果,切換是否適用LIC處理,來進行編碼。另,在該例的時候,編碼裝置100不須要將顯示是否使用LIC處理之訊號即lic_flag編碼至串流,在解碼裝置200中,也進行與編碼裝置100同樣的處理。
藉此,編碼裝置100能一邊對每一對象區塊切換是否適用LIC處理,一邊進行適當的處理。惟,以間預測模式來說在以哪一模式編碼的時候,也是經常需要像上述所說明之是否適用LIC處理之判定處理,而有造成了處理量增加的可能性。
另,解碼裝置200中的處理流程,也是只有將lic_flag編碼至串流,或者從串流將lic_flag解碼的不同,除此以外,與在此所說明的處理同樣。 [間預測處理之第2例]
圖12是顯示編碼裝置100所包含的間預測部126所進行的間預測處理之第2例之流程圖。與圖11所說明之例的不同點在於間預測模式為常態間模式時(S104),間預測部126不進行是否適用LIC處理之判定,除此以外的處理是與圖11所示的處理同樣。
即,間預測部126在對對象區塊使用的間預測模式為合併模式或者FRUC模式時(S102或S103),判定是否對對象區塊適用LIC處理(S105)。在被判定為適用LIC處理時(在S105,是),間預測部126使用屬於周邊區塊之像素,算出亮度補正參數(S106)。間預測部126依照在步驟S102或者S103所導出的移動向量及亮度補正參數,進行使用依LIC處理所進行的亮度補正之移動補償,以此產生預測圖像(S107)。
另一方面,在被判定為不適用LIC處理時(在S105,否),間預測部126依照步驟S102或者S103所導出的移動向量,進行不使用LIC處理所進行的亮度補正之移動補償,以此產生預測圖像(S108)。
又,對對象區塊所使用的間預測模式為常態間模式時(S104),間預測部126不作對對象區塊進行是否適用LIC處理之判定,而是依照在步驟S104所導出的移動向量,進行不使用依LIC處理之亮度補正之移動補償,以此產生預測圖像(S108)。換言之,間預測部126,在對對象區塊所使用的間預測模式為合併模式及FRUC模式時,允許LIC處理的適用,除此以外的間預測模式(在本例中,常態間模式)時,禁止LIC處理的適用。 [間預測處理之第2例的效果]
在使用圖11而說明的第1例中,間預測部126不管間預測模式為哪一模式,也始終進行是否適用LIC處理之判定,因應判定結果,在適用LIC處理之狀態下進行編碼。對此,在使用圖12而說明的第2例中,間預測部126在間預測模式為常態間模式時,不進行是否適用LIC處理之判定,在不適用LIC處理之狀態下進行編碼。
藉此,由於不需要是否適用LIC處理之判定處理,進而不需要使用LIC處理之預測圖像的產生處理,因此有能抑制處理量增加的可能性。進而,常態間模式是將相對於從周邊區塊預測到的移動向量之差值移動向量作編碼,導出移動向量,因此對象區塊做出不同於周邊區塊的動作的時候居多。在如此的時候,在LIC處理之中發生從周邊區塊所包含的像素之亮度值所導出的亮度補正參數不適當的情況之可能性很高。因此,就算在不允許亮度補正處理的時候,編碼效率降低的可能性也很低。即,可一邊抑制編碼效率之降低,一邊減輕處理量。
又,編碼裝置100在間預測模式為常態間模式時,能將顯示是否適用LIC處理之訊號即lic_flag之編碼予以省略。即,在間預測模式為常態間模式時,編碼裝置100不將lic_flag編碼至串流,在不適用LIC處理之狀態下進行編碼。在間預測模式為常態間模式時,解碼裝置200不將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。藉此,有可抑制串流之編碼量的可能性。
另,編碼裝置100在間預測模式為常態間模式時,也可將顯示是否適用LIC處理的訊號即lic_flag始終設定為顯示不適用LIC處理之值,將該lic_flag編碼。此時,記述在串流的語法之個數本身不會變,而lic_flag始終成為相同值,以此提高算術編碼處理中的編碼效率,有可抑制串流之編碼量的可能性。又,此時,解碼裝置200也可與編碼裝置100同樣,不進行是否允許LIC處理之判定,根據lic_flag來判定是否適用LIC處理。或者,解碼裝置200也可與編碼裝置100同樣,進行是否允許LIC處理之判定,在不允許時,不進行將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。
又,在圖12中,是說明關於在常態間模式時不適用LIC處理之構成,但只要是對於從周邊區塊所預測到的移動向量,對其差值移動向量作編碼,來導出移動向量之模式時,就算是常態間模式以外的模式,也能作成同樣的構成。
另,解碼裝置200中的處理流程,也是只有將lic_flag編碼至串流,或者從串流將lic_flag解碼的不同,除此以外,與在此所說明的處理同樣。 [間預測處理之第3例]
圖13是顯示編碼裝置100所包含的間預測部126所進行的間預測處理之第3例之流程圖。圖13所示的處理,相對於圖11所示的處理,不同點在於是否適用LIC處理之判定處理(S105)之前追加有步驟S109,除此以外的處理是與圖11所示的處理同樣。
在步驟S102、S103或S104之後,間預測部126判定對象區塊是否為從時間上為前方及後方之2張編碼完畢參考圖片進行預測,就產生預測圖像之區塊(以下稱為雙方向預測區塊)(S109)。
間預測部126在對象區塊不是雙方向預測區塊時(在S109,否),判定對對象區塊是否適用LIC處理(S105)。在被判定為適用LIC處理時(在S105,是),間預測部126使用屬於對象區塊之周邊區塊的像素,算出亮度補正參數(S106)。間預測部126依照在步驟S102至S104之任一個步驟所導出的移動向量及亮度補正參數,進行使用依LIC處理所進行的亮度補正之移動補償,以此產生預測圖像(S107)。
另一方面,在被判定為不適用LIC處理時(在S105,否),間預測部126依照在步驟S102至S104之任一個步驟所導出的移動向量,進行不使用LIC處理所進行的亮度補正之移動補償,以此產生預測圖像(S108)。
另一方面,在對象區塊為雙方向預測區塊的時候(在S109,是),間預測部126不進行是否適用LIC處理之判定,而是依照步驟S102至S104之任一個步驟所導出的移動向量,進行不使用LIC處理所進行的亮度補正之移動補償,以此產生預測圖像(S108)。換言之,間預測部126在對象區塊不是雙方向預測區塊的時候,允許LIC處理的適用,在對象區塊為雙方向預測區塊時,禁止LIC處理的適用。在此,不是雙方向預測區塊的情況是意指,例如從1張參考圖片進行預測的時候,或者從只有前方或是只有後方之複數張參考圖片進行預測的時候等。 [間預測處理的第3例的效果]
在使用圖11所說明的第1例中,對象區塊就算是從1張編碼完成參考圖片進行預測之區塊,或者是從前方及後方的2張參考圖片進行預測之雙方向預測區塊,間預測部126進行是否始終適用LIC處理之判定,因應判定結果,在適用LIC處理之狀態下進行編碼。對此,在使用圖13所說明的第3例中,間預測部126在對象區塊為雙方向預測區塊時,就不進行是否適用LIC處理之判定,在不適用LIC處理之狀態下將對象區塊編碼。藉此,就不需要是否適用LIC處理之判定處理,進而不進行LIC處理的預測圖像產生處理,因此有可抑制處理量增加的可能性。進而,在雙方向預測區塊中有如下的作用,即,將如下兩種圖像予以平均,產生預測圖像,以此消除亮度變化的影響,該等圖像為相對於作為編碼對象或者解碼對象之圖片即對象圖片,在時間上位於前面的亮度變化途中的圖像、以及時間上位於後面的亮度變化途中的圖像。藉此,LIC處理不適用在雙方向預測區塊,以此可迴避徒勞地重複適用了諸如與補正亮度變化的影響之LIC處理相同的處理。又,在雙方向預測區塊之中,因為與LIC處理同樣,可補正亮度的變化,所以就算在不允許亮度補正處理的時候,編碼效率降低的可能能也低。即,可一邊抑制編碼效率的降低,且可一邊減輕處理量。
又,編碼裝置100在對象區塊為雙方向預測區塊時,可以省略lic_flag的編碼,該lic_flag是顯示是否適用LIC處理之訊號。即,對象區塊為雙方向預測區塊時,編碼裝置100不將lic_flag編碼至串流,在不適用LIC處理之狀態下進行編碼。在對象區塊為雙方向預測區塊時,解碼裝置200不將lic_flag從串流解碼,在不適用LIC處理的狀態下進行解碼。藉此,有可以抑制串流的編碼量的可能性。
另,編碼裝置100也可在對象區塊為雙方向預測區塊時,將作為顯示是否適用LIC處理的訊號之lic_flag始終設定在顯示不適用LIC處理之值,將該lic_flag編碼。此時,記述在串流之語法的個數本身是不變的,但始終將lic_flag成為相同的值,以此可提昇算術編碼處理中之編碼效率,有可以抑制串流的編碼量之可能性。又,此時,解碼裝置200也可不進行是否允許LIC處理之判定(S109),根據lic_flag,判定是否適用LIC處理。或者,解碼裝置200也可進行是否允許LIC處理之判定(S109),在不允許時,不將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。
又,在圖13中,說明了圖11中之第1例之另一形態,也能組合圖12之第2例使用。
又,解碼裝置200中的處理流程也只是將lic_flag編碼至串流、或者將lic_flag從串流解碼的不同,除此之外與在此說明過的處理同樣。
又,本實施形態之第1例至第3例所記載的全部的構成要素或者處理未必一直都是必要的。例如,編碼裝置100或者解碼裝置200也可只進行本實施形態所記載的處理之一部分,也可進行本實施形態所記載的處理以外的處理。
例如,在圖11至圖13所說明的間預測處理中,說明了採用對應於以間預測模式資訊所顯示之0至2之3種模式之例,號碼及模式只是一個例子,也可使用這個以外的號碼及模式。特別是在圖11中,在全部模式進行是否適用LIC處理之判定,例如像仿射模式,和本實施形態所說明的內容無關,在始終適用LIC處理之情況下,也可追加產生預測圖像的模式。
又,在圖11至圖13說明過的間預測處理中,只針對與LIC處理有關聯的預測圖像產生方法予以說明,也可進一步加上除此以外的處理,產生預測圖像。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態2)
在本實施形態中,針對採用常態間模式時之處理的另一例予以說明。 [常態間模式中的處理之第1例]
圖14是顯示常態間模式中的處理之第1例之流程圖。圖14所示之處理是使用在圖11中採用常態間模式作為間預測模式時之處理的另一例。即,圖14所示的處理,例如是以預測區塊單位反覆進行。
圖14所示的處理,對於圖11所示的處理,不同點在於是否適用LIC處理的判定處理 (S105)之前追加有步驟S110之點,除此之外的處理是與圖11所示的處理同樣。間預測部126是藉常態間模式來導出移動向量(S104)。其次,間預測部126判定在空間上鄰接於對象區塊之周邊區塊之中,是否存在有其移動向量與分配給對象區塊的移動向量相同的移動向量的區塊(S110)。
在判定為其移動向量與對象區塊的移動向量相同的周邊區塊存在時(在S110,是),間預測部126,與在圖11所說明之例同樣,進行是否對對象區塊適用LIC處理之判定(S105),依照其結果,產生預測圖像(S106至S108)。
另一方面,在判定其移動向量與對象區塊的移動向量相同的周邊區塊不存在時(在S110,否),間預測部126無須進行是否對對象區塊適用LIC處理的判定,在不適用LIC處理之狀態下,產生預測圖像(S108)。 [常態間模式中的處理之第1例的效果]
在利用圖14說明的本實施形態之第1例中,被判定為在周邊區塊具有與對象區塊相同移動向量之區塊不存在時,間預測部126不會進行是否適用LIC處理之判定,在不適用LIC處理之狀態下進行編碼。藉此,就不需要適用LIC處理與否之判定處理,進而也不需要進行LIC處理之預測圖像產生處理,因此有可以抑制處理量增加的可能性。進而,在於周邊區塊不具有與對象區塊相同移動向量的區塊時,對象區塊會做出與周邊區塊不同的動作。在如此情形下,在LIC處理中,會使周邊區塊所含的像素的亮度值所導出的亮度補正參數不適當的可能性變高。藉此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可抑制編碼效率的降低,並減輕處理量。
又,編碼裝置100在判定為與對象區塊相同移動向量之周邊區塊不存在時,就能省略lic_flag的編碼,該lic_flag為顯示是否適用LIC處理的訊號。即,編碼裝置100,不會將lic_flag編碼至串流,在不適用LIC處理之狀態下進行編碼。解碼裝置200不將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。藉此,有可抑制串流之編碼量的可能性。
另,編碼裝置100在被判定為具有與對象區塊相同移動向量之周邊區塊不存在時,也可將作為顯示是否適用LIC處理的訊號之lic_flag始終設定在顯示不適用LIC處理之值,將該lic_flag編碼。此時,記述在串流之語法的個數本身不變,但lic_flag始終成為相同值,以此可提高算術編碼處理中的編碼效率,有可抑制串流之編碼量的可能性。又,此時,解碼裝置200也可不進行是否允許LIC處理的判定(S110),根據lic_flag,來判定是否適用LIC處理。或者,解碼裝置200也可進行是否允許LIC處理的判定(S110),在不允許時,不將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。
又,解碼裝置200中的處理流程也是只有在串流將lic_flag編碼,或是從串流將lic_flag解碼的不同,除此以外與在此所說明的處理同樣。 [常態間模式中的處理之第2例]
圖15是顯示常態間模式中的處理之第2例之流程圖。圖15所示之處理是使用在圖11中採用常態間模式作為間預測模式時之處理的另一例。即,圖15所示的處理,例如是以預測區塊單位反覆進行。
圖15所示的處理,相對於圖14所示的處理,除了步驟S106變更成步驟S106A之點有所不同,除此以外的處理是與在圖14說明的處理同樣。
間預測部126是使用屬於區塊的像素來導出亮度補正參數,其中該區塊是具有在周邊區塊之中與分配給對象區塊的移動向量相同的移動向量的區塊,該亮度補正參數是在適用LIC處理時導出的參數(S106A)。 [常態間模式中的處理之第2例的效果]
在使用圖15說明的本實施形態之第2例中,在具有與對象區塊相同移動向量的周邊區塊存在時,且適用LIC處理時,間預測部126使用屬於具有與對象區塊相同之移動向量的周邊區塊之像素,導出使用在LIC處理的亮度補正參數。藉此,提高可取得更適當的亮度補正參數的可能性,且有可將適用LIC處理來編碼時的編碼效率提昇的可能性。
另,解碼裝置200中的處理流程也是只有在將lic_flag編碼成串流,或從串流解碼的不同,除此之外和在此說明的處理同樣。
又,記載於本實施形態的全部構成要素或者處理未必都是必要的。例如,編碼裝置100或者解碼裝置200也可只進行記載於本實施形態的處理中的一部分,也可以進行記載於本實施形態的處理以外的處理。例如,對於圖14及圖15說明的判定條件,也可追加圖中記載的判定條件以外之事項,或者變更一部分的判定條件來使用。
又,在圖14及圖15中,是說明了以常態間模式編碼的情形,但對於合併模式、FRUC模式或者除此之外的模式編碼的時候也適用同樣的處理。
又,在此是以實施形態1的圖11中的第1例之其他形態,來說明了本實施形態的處理,但也能將本實施形態的處理組合實施形態1的圖12中的第2例,或者實施形態1的圖13中的第3例來使用。
又,在圖14及圖15中,間預測部126在排除LIC處理的適用時,判定是否有周邊區塊,該周邊區塊具有與對象區塊相同的移動向量,但也可以判定是否具有如下的周邊區塊,該周邊區塊的移動向量具有接近對象區塊的移動向量的值,該值並非完全與對象區塊的移動向量一致。具體來說,例如在周邊區塊的移動向量與對象區塊的移動向量之差的絕對值其中水平成分及垂直成分都小於事先訂定的特定的值時,間預測部126也可判定周邊區塊的移動向量與對象區塊的移動向量相同。上述特定的值,例如以整數精度時,為1像素,或者以小數精度時,為1/2像素等。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態3)
在本實施形態中,針對採用合併模式時之處理的另一例予以說明。 [合併模式中的處理之第1例]
圖16是顯示合併模式中的處理的第1例的流程圖。圖16所示的處理是在圖11中,使用合併模式來作為間預測模式時的處理的另一例。即,圖16所示的處理,例如是以預測區塊單位反覆進行。
圖16所示的處理相對於圖11所示的處理,在是否適用LIC處理的判定處理(S105)之前追加有步驟S111之事項有所不同,除此以外的處理是和圖11所示的處理同樣。間預測部126由合併模式來導出移動向量(S102)。其次,間預測部126在以合併模式導出移動向量時,判定合併參考區塊是否為空間鄰接區塊(S111),其中該合併參考區塊是為了移動向量之預測而選擇的編碼完畢參考區塊,該空間鄰接區塊是空間性地位於對象區塊的周邊的編碼完畢區塊。
當合併參考區塊被判定為空間鄰接區塊時(在S111,是),間預測部126,與在圖11說明過的例子同樣,進行是否對對象區塊適用LIC處理的判定(S105),依照其結果來產生預測圖像(S106至S108)。
另一方面,當判定合併參考區塊不是空間鄰接區塊時(在S111,否),間預測部126不進行是否對對象區塊適用LIC處理的判定,在不適用LIC處理的狀態下產生預測圖像(S108)。另,合併參考區塊不是空間鄰接區塊的時候是指如下的時候等,例如,合併參考區塊為投影編碼完畢參考圖片中的對象區塊的位置的附近的區塊即時間鄰接區塊;選擇了組合空間鄰接區塊的空間鄰接預測MV與時間鄰接區塊的時間鄰接預測MV的MV值而產生的MV即結合預測MV;或者,選擇了值為零的MV即零預測MV。 [合併模式中的處理之第1例的效果]
在使用圖16說明過的本實施形態的第1例中,當判定合併參考區塊不是空間鄰接區塊時,間預測部126不進行是否適用LIC處理的判定,在不適用LIC處理的狀態下進行編碼。藉此,就不需要是否適用LIC處理的判定處理,進而,也不需要進行使用LIC處理的預測圖像產生處理,因此有可抑制處理量增加的可能性。進而,在合併參考區塊不是空間鄰接區塊時,對象區塊有不同於周邊區塊的動作的情形居多。在如此的時候,在LIC處理中,從周邊區塊所含的像素的亮度值所導出的亮度補正參數不適當的可能性就變高。因此,就算在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並可一邊減輕處理量。
又,編碼裝置100在合併參考區塊被判定為不是空間鄰接區塊時,能將lic_flag的編碼省略,該lic_flag為顯示是否適用LIC處理的訊號。即,編碼裝置100不將lic_flag編碼成串流,在不適用LIC處理的狀態下進行編碼。解碼裝置200不從串流將lic_flag解碼,在不適用LIC處理的狀態下進行解碼。藉此,有能抑制串流的編碼量的可能性。
另,編碼裝置100在合併參考區塊被判定為不是空間鄰接區塊時,也可將顯示是否適用LIC處理的訊號即lic_flag始終設定在顯示不適用LIC處理的值,將該lic_flag編碼。此時,記述在串流的語法的個數本身不變,但lic_flag始終成為相同值,藉此提昇算術編碼處理中的編碼效率,有可抑制串流的編碼量的可能性。又,此時,編碼裝置200也可不進行是否允許LIC處理的判定(S111),根據lic_flag,判定是否適用LIC處理。或者,解碼裝置200進行是否允許LIC處理的判定(S111),在不允許時,不從串流將lic_flag解碼,在不適用LIC處理的狀態下進行解碼。
又,解碼裝置200中的處理流程也只在將lic_flag編碼成串流,或將lic_flag從串流解碼的不同,除此之外與在此說明的處理同樣。 [合併模式中的處理之第2例]
圖17是顯示合併模式中的處理的第2例的流程圖。顯示在圖17的處理是在圖11中使用合併模式作為間預測模式時的處理的另一例。即,圖17所示的處理,例如以預測區塊單位反覆進行。
圖17所示的處理相對於圖16所示的處理,是步驟S106變更成步驟S106B之點有所不同,除此以外的處理是與圖16所說明的處理同樣。
間預測部126使用屬於合併參考區塊的像素,導出亮度補正參數,其中該亮度補正參數是在適用LIC處理時導出(S106B)。 [合併模式中的處理之第2例的效果]
在使用圖17說明的本實施形態之第2例中,當用於預測移動向量而選擇的合併參考區塊為空間鄰接區塊、且適用LIC處理時,其中間預測部126使用屬於合併參考區塊的像素,來導出使用在LIC處理的亮度補正參數。在此,合併參考區塊為在合併模式中為了移動向量的預測而選擇的編碼完畢參考區塊、且為具有與對象區塊相同的移動向量的區塊。藉此,使用合併參考區塊來導出亮度補正參數,以此使得能取得更適當的亮度補正參數的可能性變高,因此有可提昇適用LIC處理而編碼時的編碼效率的可能性。
另,解碼裝置的處理流程也只是在將lic_flag編碼至串流,或將lic_flag從串流解碼的不同,除此以外與在此說明的處理同樣。
又,本實施形態所記載的全部的構成要素或者處理未必一直都是必要的。例如,編碼裝置100或者解碼裝置200也可只進行本實施形態所記載的處理之一部分,也可進行本實施形態所記載的處理以外的處理。例如關於圖16及圖17所說明的判定條件,可追加圖所記載的判定條件以外的事項,也可變更一部分的判定條件來使用。
又,在此說明了本實施形態的處理,作為實施形態1的圖11中的第1例的另一個形態,但也可以將本實施形態的處理與實施形態1的圖12中的第2例、或者實施形態1的圖13中的第3例組合來使用。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態4)
在本實施形態中,說明使用FRUC模式時之處理的另一例。 [FRUC模式中的處理之第1例]
圖18是顯示FRUC模式中的處理的第1例之流程圖。圖18所示的處理是在圖11中使用FRUC模式時的處理流程的另一例。即,圖18所示的處理,例如以預測區塊單位反覆進行。
圖18所示的處理相對於圖11所示的處理,是在於是否適用LIC處理的判定處理(S105)之前追加有步驟S112之點有所不同,除此以外的處理是與圖11所示的處理同樣。間預測部126經由FRUC模式來導出移動向量(S103)。例如,間預測部126對於FRUC模式,使用上述之模板匹配方式、及雙向匹配方式之其中一者。
其次,間預測部126在以FRUC模式導出移動向量時,判定是否使用模板匹配方式(S112)。
當判定為使用了模板匹配方式時(在S112,是(Yes)),間預測部126,與圖11所說明的例同樣,進行是否對對象區塊適用LIC處理的判定(S105),依照其結果來產生預測圖像(S106至S108)。
另一方面,當被判定了未使用模板匹配方式時(在S112,否),間預測部126不進行是否對對象區塊適用LIC處理之判定,在不適用LIC處理的狀態下產生預測圖像(S108)。在此,未使用模板匹配方式時意指,例如使用了雙向匹配方式的時候。 [FRUC模式中的處理之第1例的效果]
在使用圖18說明的本實施形態之第1例中,當被判定了未使用模板匹配方式時,間預測部126不進行是否適用LIC處理的判定,在不適用LIC處理的狀態下進行編碼。藉此,變成不需要是否適用LIC處理的判定處理,進而變成不需要進行使用了LIC處理的預測圖像的產生處理,因此有可抑制處理量的增加之可能性。進而,當被判定了未使用模板匹配方式時,對象區塊大多有與周邊區塊不同的動作。在如此情形下,在LIC處理中,從周邊區塊所含的像素的亮度值所導出的亮度補正參數不適當的可能性會變高。藉此,在不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,且可一邊減輕處理量。
又,編碼裝置100在判定為未使用模板匹配方式時,可將lic_flag的編碼省略,該lic_flag是顯示是否適用LIC處理的訊號。即,編碼裝置100不將lic_flag編碼至串流,在不適用LIC處理之狀態下進行編碼。解碼裝置200不將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。藉此,有可抑制串流之編碼量的可能性。
另,編碼裝置100在被判定為未使用模板匹配方式時,也可將顯示是否適用LIC處理的訊號即lic_flag始終設定為顯示不適用LIC處理之值,將該lic_flag編碼。此時,記述在串流的語法之個數本身不會變,而lic_flag始終成為相同值,以此提高算術編碼處理中的編碼效率,有可抑制串流之編碼量的可能性。又,此時,解碼裝置200也可不進行是否允許LIC處理之判定(S112),根據lic_flag來判定是否適用LIC處理。或者,解碼裝置200也可進行是否允許LIC處理之判定(S112),在不允許時,不進行將lic_flag從串流解碼,在不適用LIC處理之狀態下進行解碼。
又,解碼裝置200中的處理流程,也是只有將lic_flag編碼至串流,或者從串流將lic_flag解碼的不同,除此以外,與在此所說明的處理同樣。 [FRUC模式中的處理之第2例]
圖19是顯示FRUC模式中的處理之第2例之流程圖。圖19所示之處理是使用在圖11中採用FRUC作為間預測模式時之處理的另一例。即,圖19所示的處理,例如是以預測區塊單位反覆進行。
圖19所示的處理相對於圖18所示的處理,其中步驟S106變更成步驟S106C之點有所不同,除此以外的處理與圖18說明的處理同樣。
間預測部126使用像素來導出適用LIC處理時導出的亮度補正參數,其中該像素屬於使用模板匹配方式導出移動向量時所使用的模板(S106C)。在此模板意指,如圖7所示,對象區塊的左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以移動向量所指定的編碼完畢參考圖片內的同等位置中的再構成圖像。另,模板也可為對象區塊的左鄰接的區域的一部分,或者對象區塊的上鄰接的區域的一部分。 [FRUC模式中的處理之第2例的效果]
在使用圖19說明的本實施形態之第2例中,當使用了模板匹配方式時,且在適用LIC處理時,其中間預測部126使用像素來導出使用在LIC處理的亮度補正參數,該像素屬於使用模板匹配方式導出移動向量時所使用的模板。在此,在使用模板匹配方式時,對象圖片與參考圖片之模板內的像素值比起其他區域的像素較為靠近的可性高。藉此,透過使用模板內的像素來導出亮度補正參數,使可取得更適合的亮度補正參數的可能性變高,因此有提高適用LIC處理而編碼時之編碼效率的可能性。
另,解碼裝置200中的處理流程,也是只有將lic_flag編碼至串流,或者從串流將lic_flag解碼的不同,除此以外,與在此所說明的處理同樣。
又,記載於本實施形態的全部構成要素或者處理未必一直都是必要的。例如,編碼裝置100或者解碼裝置200也可只進行本實施形態所記載的處理之一部分,也可進行本實施形態所記載的處理以外的處理。例如,關於圖18及圖19說明的判定條件,也可追加圖記載的判定條件以外之條件,也可變更一部分判定條件來使用。
又,在此對於實施形態1之圖11中的第1例之另一形態,是說明了本實施形態的處理,但是也可將本實施形態與實施形態1的圖12中的第2例、或者實施形態1之圖13中的第3例組合來使用。 [LIC處理]
針對LIC處理(亮度補正處理)是使用圖9D來說明,詳細說明如下。
首先まず、間預測部126は、符号化済みピクチャである参照ピクチャから符号化對象區塊に対応する参照画像を取得するための動きベクトルを導出する。
其次,間預測部126使用相對於編碼對象區塊為左鄰接及上鄰接的編碼完畢周邊參考區域的亮度像素值、及以移動向量所指定的參考圖片內的同等位置中的亮度像素值,擷取顯示參考圖片與編碼對象圖片之中亮度值是如何變化的資訊,算出亮度補正參數。例如,令編碼對象圖片內的周邊參考區域內的某像素的亮度像素值為p0,與該像素同等位置的參考圖片內的周邊參考區域內的像素的亮度像素值為p1。間預測部126對於周邊參考區域內的複數個像素,算出將A×p1+B=p0最適化的係數A及B,作為亮度補正參數。
其次,間預測部126對於以移動向量所指定的參考圖片內的參考圖像,使用亮度補正參數進行亮度補正處理,以此產生對於編碼對象區塊的預測圖像。例如令參考圖像內的亮度像素值作為p2,令亮度補正處理後的預測圖像的亮度像素值作為p3。間預測部126對於參考圖像內的各像素,算出A×p2+B=p3,以此產生亮度補正處理後的預測圖像。
另,圖9D中的周邊參考區域的形狀只是一個例子,也可使用這個以外的形狀。又,也可使用圖9D所示的周邊參考區域的一部分。又,周邊參考區域不限於鄰接於編碼對象區塊的區域,也可為不鄰接於編碼對象區塊的區域。又,在圖9D所示之例子中,參考圖片內的周邊參考區域是從編碼對象圖片內的周邊參考區域,以編碼對象圖片的移動向量所指定的區域,不過也可以是以其他移動向量所指定的區域。例如,該其他的移動向量也可為編碼對象圖片內的周邊參考區域的移動向量。
另,在此,是說明了編碼裝置100中的動作,但解碼裝置200中的動作也是同樣。 [總結]
如上,如實施形態1至實施形態4中所述者,編碼裝置100進行圖20所示的處理。首先,編碼裝置100在對象區塊的間預測處理中,根據第1條件,決定是否允許對對象區塊使用亮度補正處理(LIC處理)(S121),該亮度補正處理是使用從對象區塊周邊的編碼完畢區塊的亮度值所預測的補正值來進行預測圖像的亮度值的補正。
依此,編碼裝置100有不允許亮度補正處理的情形。藉此,例如不需要判定是否進行亮度補正處理之處理(例如步驟S105),因此可減輕編碼裝置100中的處理量。
在此,第1條件係指:例如對象區塊是否和周邊區塊有相同動作(或者為是否相同動作的可能性高),該周邊區塊為對象區塊周邊的編碼完畢區塊。編碼裝置100在對象區塊有與周邊區塊相同動作時,允許對對象區塊使用亮度補正處理,而在對象區塊不具與周邊區塊相同動作時,不允許對對象區塊使用亮度補正處理。
具體來說,如實施形態1的第2例(圖12)所示,編碼裝置100在第1間預測模式(常態間模式)使用在對象區塊時(S104),不允許對對象區塊使用亮度補正處理,其中該第1間預測模式是複數個間預測模式之中,將對差值移動向量作編碼的模式,該差值移動向量是相對於從對象區塊周邊的編碼完畢區塊預測之移動向量的差值移動向量。編碼裝置100在第2間預測模式(例如合併模式或者FRUC模式)使用在對象區塊時(S102或S103),允許對對象區塊使用亮度補正處理,其中該第2間預測模式是複數個間預測模式之中,不對差值移動向量作編碼的模式。。
依此,編碼裝置100在採用對差值移動向量作編碼的間預測模式時,不允許亮度補正處理。當採用對差值移動向量作編碼的間預測模式時,對象區塊大多有不同於周邊區塊的動作的情況,使得亮度補正處理的效果低的情況居多。因此就算在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
或者,如實施形態2的第1例(圖14)所示,編碼裝置100在沒有如下的編碼完畢區塊存在時(在S110,否),不允許對對象區塊使用亮度補正處理,其中該編碼完畢區塊具有與對象區塊的移動向量一致的移動向量,且空間性地鄰接於對象區塊。編碼裝置在有如下的編碼完畢區塊存在時(在S110,是),允許對對象區塊使用亮度補正處理,其中該編碼完畢區塊為具有與對象區塊的移動向量一致的移動向量,且空間性地鄰接於對象區塊。
依此,編碼裝置100在不存在具有與對象區塊的移動向量一致的移動向量的周邊區塊時,不允許亮度補正處理。在不存在具有對象區塊的移動向量一致的移動向量的周邊區塊時,對象區塊大多有不同於周邊區塊的動作的情形,因此亮度補正處理的效果少的情形也居多。藉此,就算不允許亮度補正處理時,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並一邊減輕處理量。
或者,如實施形態3的第1例(圖16)所示,編碼裝置100以合併模式將對象區塊編碼(S102),且在合併模式中滿足如下條件時(在S111,是),允許對對象區塊使用前述亮度補正處理,其中該條件係指選擇空間性地鄰接於對象區塊的編碼完畢區塊,預測移動向量。編碼裝置100在不滿足上述條件時(在S111,否),不允許對對象區塊使用亮度補正處理。
依此,編碼裝置100在於合併模式中未選擇空間鄰接區塊時,不允許亮度補正處理。在於合併模式中未選擇空間鄰接區塊時,對象區塊有不同於周邊區塊的動作的情形居多,因此亮度補正處理的效果小的情形居多。藉此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,能一邊抑制編碼效率的降低,且一邊減輕處理量。
或者,如實施形態4之第1例(圖18)所示,編碼裝置100將第1間預測方式(模板FRUC方式)使用在對象區塊時(在S112,是),允許對對象區塊使用亮度補正處理,其中該第1間預測方式是使用鄰接於對象區塊的對象圖片內的區域之第1再構成圖像、與參考圖片內的區域之第2再構成圖像之適合程度。編碼裝置100在將第2間預測方式(雙向匹配方式)使用在對象區塊時(在S112,否),不允許對對象區塊使用亮度補正處理,其中該第2間預測方式是使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度。
依此,編碼裝置100採用如下的間預測方式時不允許亮度補正處理,該間預測方式為使用相異的2個參考圖片內的2個區域的2個再構成圖像的適合程度。在採用著使用相異2個參考圖片內的2個區域的2個再構成圖像的適合程度的間預測方式時,由於對象區塊大多有不同於周邊區塊的動作的情形,所以亮度補正處理的效果低的情形居多。因此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並一邊減輕處理量。
或者,第1條件意指,如實施形態1之第3例(圖13)所示,例如,藉由使用了時間上較對象區塊更為前方之編碼完畢參考圖片、及時間上較對象區塊更為後方之編碼完畢參考圖片之雙方的圖片之第1移動補償,是否產生對象區塊之預測圖像。編碼裝置100藉由使用了時間上較對象區塊更為前方之解碼完畢參考圖片、及時間上較對象區塊為後方之解碼完畢參考圖片之雙方的圖片之第1移動補償,產生對象區塊的預測圖像時(在S109,是),不允許對對象區塊使用亮度補正處理。又,編碼裝置100在藉由不使用上述雙方的圖片之第2移動補償,產生對象區塊的預測圖片時(在S109,否),允許對對象區塊使用亮度補正處理。
依此,編碼裝置100在使用對象區塊之前後之2張參考圖片來產生預測圖像時,不允許亮度補正處理。使用對象區塊之前後之2張參考圖片,產生預測圖像,以此與亮度補正處理同樣,可補正亮度的變化。藉此,在不允許亮度補正處理的時候,使編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並一邊減輕處理量。
在允許對於對象區塊使用亮度補正處理時(在S121中,是),編碼裝置100根據與第1條件不同的第2條件,決定是否對於對象區塊使用亮度補正處理(S105)。第2條件意指,如上述,對象區塊是否屬於發生有亮度變化的區域,或者成本值等。
編碼裝置在決定對對象區塊使用亮度補正處理時(在S105,是),使用亮度補正處理,產生對象區塊的預測圖像 (S106及S107)。編碼裝置100在決定對對象區塊不使用亮度補正處理時(在S105,否),在不使用亮度補正處理之狀態下產生對象區塊的預測圖像(S108)。
又,編碼裝置100在不允許將亮度補正處理使用在對象區塊時(在S121,否),在不使用亮度補正處理之狀態下產生對象區塊的預測圖像(S108)。
又,如實施形態2之第2例(圖15)所示,編碼裝置100在有空間上鄰接於對象區塊的編碼完畢區塊存在時(在S110,是),使用屬於該編碼完畢區塊中的像素,導出使用在對象區塊的亮度補正處理的亮度補正參數(S106A)。
依此,編碼裝置100可算出適當的亮度補正參數,因此可提昇編碼效率。
又,如實施形態3的第2例(圖17)所示,編碼裝置100以合併模式將對象區塊編碼,且在合併模式中滿足如下條件時(在S111,是),使用屬於在合併模式中所選擇的編碼完畢區塊中的像素,導出使用在亮度補正處理的亮度補正參數(S106B),其中該條件為選擇空間性地鄰接於對象區塊的編碼完畢區塊,預測移動向量。
依此,編碼裝置100可算出適當的亮度補正參數,因此可提昇編碼效率。
又,如實施形態4之第2例(圖19)所示,編碼裝置100在將第1間預測方式(模板匹配方式)使用在對象區塊時(在S112,是(Yes)),使用屬於鄰接於對象區塊的對象圖片內的區域的第1再構成圖像及參考圖片內的區域的第2再構成圖像的像素,導出使用在亮度補正處理的亮度補正參數。
依此,編碼裝置100可算出適當的亮度補正參數,因此可提昇編碼效率。
又,編碼裝置100是在允許將亮度補正處理使用在對象區塊時,將資訊(lic_flag)編碼,該資訊(lic_flag)是顯示是否對對象區塊使用前述亮度補正處理,且顯示是否對對象區塊使用亮度補正處理的決定結果。編碼裝置100在不允許將亮度補正處理使用在對象區塊時,不將顯示是否對對象區塊使用亮度補正處理的資訊(lic_flag)編碼。依此,可減輕串流的編碼量。
又,編碼裝置100是在允許將亮度補正處理使用在對象區塊時,將資訊(lic_flag)編碼,該資訊(lic_flag)為顯示是否對對象區塊使用亮度補正處理的資訊,且顯示是否對對象區塊使用亮度補正處理的決定結果。編碼裝置100在不允許將亮度補正處理使用在對象區塊時,將述資訊(lic_flag)設定在顯示不對對象區塊使用亮度補正處理,且將該資訊編碼。依此,可提昇算術編碼處理中的編碼效率,因此可抑制串流的編碼量。
又,解碼裝置200進行圖20所示的處理。首先,解碼裝置200根據第1條件,決定是否允許將亮度補正處理(LIC處理)使用在對象區塊(S121),其中該亮度補正處理是在對象區塊的間預測處理中,使用從對象區塊周邊的解碼完畢區塊的亮度值預測的補正值,進行預測圖像的亮度值的補正。
依此,而有亮度補正處理不被允許的情況。藉此,例如在編碼裝置100或者解碼裝置200中,就不需要判定是否進行亮度補正處理的處理,因此可減輕編碼裝置100或者解碼裝置200之中的處理量。
在此,第1條件是指,例如對象區塊是否有與周邊區塊相同的動作(或者相同動作的可能性高),該周邊區塊為對象區塊周邊的解碼完畢區塊,解碼裝置200在對象區塊有與周邊區塊相同的動作時,允許對對象區塊使用亮度補正處理,當對象區塊不具與周邊區塊相同的動作時,不允許對對象區塊使用亮度補正處理。
具體來說,如實施形態1之第2例(圖12)所示,解碼裝置200將第1間預測模式(常態間預測)使用在對象區塊時(S104),不允許對對象區塊使用亮度補正處理,其中該第1間預測模式在複數個間預測模式之中,將差值移動向量解碼的模式,該差值移動向量是相對於從對象區塊周邊的解碼完畢區塊預測到之移動向量的差值移動向量。解碼裝置200將第2間預測模式(例如合併模式或者FRUC模式)使用在對象區塊時(S102或S103),允許對對象區塊使用亮度補正處理,其中該第2間預測模式是複數個間預測模式之中,不將差值移動向量解碼的模式。
依此,解碼裝置200在採用將差值移動向量解碼的間預測模式時,不允許亮度補正處理。在採用將差值移動向量解碼的間預測模式時,由於對象區塊大多有不同於周邊區塊的動作的情形,所以亮度補正處理的效果低的情形居多。因此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並一邊減輕處理量。
或者,如在實施形態2之第1例(圖14)顯示,解碼裝置200在具有與對象區塊之移動向量一致之移動向量且空間上鄰接於對象區塊之解碼完畢區塊不存在時(在S110,否),不允許對對象區塊使用亮度補正處理。解碼裝置在存在具有與對象區塊之移動向量一致之移動向量且空間上鄰接於對象區塊之解碼完畢區塊時(在S110,是),允許對對象區塊使用亮度補正處理。
依此,解碼裝置200在具有與對象區塊之移動向量一致之移動向量之周邊區塊不存在時,不允許亮度補正處理。在具有與對象區塊之移動向量一致之移動向量之周邊區塊不存在時,由於對象區塊做著與周邊區塊不同的動作的情形居多,所以亮度補正處理的效果低的情形也多。藉此,在不允許亮度補正處理的時候,使編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
或者,如在實施形態3之第1例(圖16)所示,解碼裝置200以合併模式將對象區塊解碼(S102),且在滿足如下條件,即:於合併模式中,選擇空間上鄰接於對象區塊之解碼完畢區塊,預測移動向量時(在S111,是),允許對對象區塊使用前述亮度補正處理。解碼裝置200在不滿足上述條件時(在S111,否),不允許對對象區塊使用亮度補正處理。
依此,解碼裝置200在於合併模式中未選擇空間鄰接區塊時,不允許亮度補正處理。在合併模式中,未選擇空間鄰接區塊時,由於對象區塊大多有著不同於周邊區塊的動作的情形,所以亮度補正處理的效果低的情形也多。因此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
或者,如在實施形態4之第1例(圖18)顯示,解碼裝置200將使用鄰接於對象區塊之對象圖片內的區域之第1再構成圖像、及參考圖片內之區域之第2再構成圖片之適合程度之第1間預測方式(模板FRUC方式)使用在對象區塊時(在S112,是),允許對對象區塊使用亮度補正處理。解碼裝置200將使用相異的2個參考圖片內之2個區域之2個再構成圖像之適合程度之第2間預測方式(雙向匹配方式)使用在對象區塊(在S112,否),不允許對對象區塊使用亮度補正處理。
依此,解碼裝置200在採用使用相異的2個參考圖片內之2個區域之2個再構成圖像的適合程度之間預測方式時,不允許亮度補正處理。在採用使用相異的2個參考圖片內之2個區域之2個再構成圖像之適合程度之間預測方式時,因為對象區塊大多有不同於周邊區塊的動作的情形,所以亮度補正處理的效果少的情形也很多。藉此,在不允許亮度補正處理的時候,編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,一邊減輕處理量。
或者,第1條件意指,如實施形態1之第3例(圖13)所示,例如,藉由使用了時間上較對象區塊更為前方之解碼完畢參考圖片、及時間上較對象區塊更為後方之解碼完畢參考圖片之雙方的圖片之第1移動補償,是否產生對象區塊之預測圖像。解碼裝置200藉由使用了時間上較對象區塊更為前方之解碼完畢參考圖片、及時間上較對象區塊為後方之解碼完畢參考圖片之雙方的圖片之第1移動補償,產生對象區塊的預測圖像時(在S109,是),不允許對對象區塊使用亮度補正處理。又,解碼裝置200在藉由不使用上述雙方的圖片之第2移動補償,產生對象區塊的預測圖片時(在S109,否),允許對對象區塊使用亮度補正處理。
依此,解碼裝置200在使用對象區塊之前後之2張參考圖片來產生預測圖像時,不允許亮度補正處理。使用對象區塊之前後之2張參考圖片,產生預測圖像,以此與亮度補正處理同樣,可補正亮度的變化。藉此,在不允許亮度補正處理的時候,使編碼效率降低的可能性也低。即,可一邊抑制編碼效率的降低,並一邊減輕處理量。
在允許對於對象區塊使用亮度補正處理時(在S121中,是),解碼裝置200根據與第1條件不同的第2條件,決定是否對於對象區塊使用亮度補正處理(S105)。例如,解碼裝置200將顯示是否對於對象區塊使用亮度補正處理的資訊(lic_flag)解碼。解碼裝置200根據該資訊,決定是否對於對象區塊使用亮度補正處理。
解碼裝置200在決定了對於對象區塊使用亮度補正處理時(在S105中,是),使用亮度補正處理產生對象區塊的預測圖像(S106及S107)。解碼裝置200在決定了對於對象區塊不使用亮度補正處理時(在S105中,否),便不使用亮度補正處理,產生對象區塊的預測圖像(S108)。
又,解碼裝置200在不允許將亮度補正處理使用在對象區塊時(在S121,否),不使用亮度補正處理,就產生對象區塊之預測圖像(S108)。
又,如在實施形態2之第2例(圖15)顯示,解碼裝置200在存在具有與對象區塊之移動向量一致之移動向量且空間上鄰接於對象區塊之解碼完畢區塊時(在S110,是),使用該解碼完畢區塊所屬之像素,導出使用在對象區塊之亮度補正處理之亮度補正參數(S106A)。
依此,解碼裝置200可算出適當的亮度補正參數,因此可提昇編碼效率。
又,如實施形態3之第2例(圖17)所示,解碼裝置200以合併模式將對象區塊解碼,且在滿足如下條件,即:在合併模式中,選擇空間上鄰接於對象區塊之解碼完畢區塊,預測移動向量時(在S111,是),使用屬於合併模式中所選擇的解碼完畢區塊之像素,導出使用在亮度補正處理之亮度補正參數(S106B)。
依此,解碼裝置200可算出適當的亮度補正參數,因此可提昇編碼效率。
又,如實施形態4之第2例(圖19)所示,解碼裝置200在對對象區塊使用第1間預測方式(模板匹配方式)時(在S112,是),使用屬於鄰接於對象區塊之對象圖片內的區域之第1再構成圖像、及參考圖片內之區域的第2再構成圖像之像素,導出使用在亮度補正處理之亮度補正參數。
依此,解碼裝置200可算出適當的亮度補正參數,因此可提昇編碼效率。
又,解碼裝置200在不允許將亮度補正處理使用在對象區塊時,不將顯示是否對對象區塊使用亮度補正處理的上述資訊(lic_flag)解碼。依此,可減輕串流的編碼量。
或者,解碼裝置200在不允許將亮度補正處理使用在對象區塊時,將顯示不對對象區塊使用亮度補正處理的上述資訊(lic_flag)解碼。依此,使算術解碼處理中的編碼效率提高,因此可抑制串流的編碼量。 [編碼裝置的安裝例]
圖21是顯示實施形態1之編碼裝置100的安裝例之方塊圖。編碼裝置100包含有電路160及記憶體162。例如,圖1及圖11所示的編碼裝置100的複數個構成要素是透過圖21所示的電路160及記憶體162來安裝。
電路160是進行資訊處理的電路,且為可對記憶體162進行存取的電路。例如,電路160是將圖像資訊編碼之專用或者通用的電子電路。電路160也可為如CPU般之處理器。又,電路160也可為複數個電子電路的集合體。又,例如電路160也可實現圖1等所示之編碼裝置100之複數個構成要素中除了用以記憶資訊的構成要素之外的複數個構成要素的作用。
記憶體162是通用或者專用的記憶體,記憶用以使電路160將圖像資訊編碼之資訊。記憶體162可為電子電路,也可連接於電路160。又,記憶體162也可包含在電路160。又,記憶體162也可為複數個電子電路的集合體。又,記憶體162也可為磁碟或者是光碟,也可表現為儲存器(storage)或者是記錄媒體等。又,記憶體162可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體162也可記憶被編碼的圖像資訊,也可記憶對應於經編碼後的圖像資訊之位元列。又,在記憶體162也可記憶用以使電路160將圖像資訊編碼的程式。
又,例如,記憶體162也可展現在圖1等所示之編碼裝置100之複數個構成要素之中用以記憶資訊之構成要素的作用。具體來說,記憶體162也可以展現圖1所示的區塊記憶體118及訊框記憶體122的作用。更具體來說,記憶體162也可以記憶再構成完畢區塊及再構成完畢圖片等。
另,在編碼裝置100中,也可不用安裝圖1等所示的複數個構成要素全部,也可不用進行上述之複數個處理全部。圖1等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可透過其他裝置來執行。然後,在編碼裝置100中,安裝圖1等所示的複數個構成要素之中的一部分,且進行上述之複數個處理的一部分,藉此能有效率地進行移動補償。 [解碼裝置的安裝例]
圖22是顯示實施形態1之解碼裝置200的安裝例之方塊圖。解碼裝置200包含有電路260及記憶體262。例如,圖10及圖12所示的解碼裝置200的複數個構成要素是藉由圖22所示的電路260及記憶體262來安裝。
電路260是進行資訊處理的電路,且為可對記憶體262進行存取的電路。例如,電路260是將圖像資訊編碼之專用或者通用的電子電路。電路260也可為如CPU般之處理器。又,電路260也可為複數個電子電路的集合體。又,例如電路260也可實現圖10等所示之解碼裝置200之複數個構成要素中除了用以記憶資訊的構成要素之外的複數個構成要素的作用。
記憶體262是通用或者專用的記憶體,記憶用以使電路260將動態圖像進行解碼之資訊。記憶體262也可為電子電路,也可連接於電路260。又,記憶體262也可包含在電路260。又,記憶體262也可為複數個電子電路的集合體。又,記憶體262也可為磁碟或者是光碟等,也可表現為儲存器(storage)或者是記錄媒體等。又,記憶體262也可為非揮發性記憶體,也可為揮發性記憶體。
例如,在記憶體262中也可記憶對應於經編碼後的動態圖像之位元列,也可記憶對應於經解碼後之位元列之動態圖像。又,在記憶體262中也可記憶用以使電路260將動態圖像解碼之程式。
又,例如,記憶體262在圖10等所示之解碼裝置200的複數個構成要素之中,也可發揮用以記憶資訊的構成要素的作用。具體來說,記憶體262也可發揮圖10所示的區塊記憶體210及訊框記憶體214的作用。更具體來說,記憶體262也可記憶再構成完畢區塊及再構成完畢圖片等。
另,在解碼裝置200中,也可無須安裝圖10等所示之複數個構成要素全部,也可無須進行上述之複數個處理全部。圖10等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可藉其他裝置來執行。接著,在解碼裝置200中,安裝圖10等所示的複數個構成要素之中的一部分,藉由執行上述之複數個處理之一部分,而有效率地進行移動補償。 [補充]
又,本實施形態之編碼裝置100及解碼裝置200各自也可作為圖像編碼裝置及圖像解碼裝置而被利用,也可作為動態圖像裝置及動態圖像解碼裝置而被利用。或者,編碼裝置100及解碼裝置200各自可作為間預測裝置(畫面間預測裝置)而被利用。
即,編碼裝置100及解碼裝置200也可各自只對應於間預測部(畫面間預測部)126及間預測部(畫面間預測部)218。接著,轉換部106及反轉換部206等之其他構成要素也可包含在其他裝置。
又,在本實施形態中,各構成要素可以專用的硬體所構成,或透過執行適於各構成要素的軟體程式來實現。各構成要素也可讓CPU或者處理器等之程式執行部讀出記錄在硬碟或者半導體記憶體等之記錄媒體的軟體程式來執行,藉此來實現。
具體來說,編碼裝置100及解碼裝置200各自也可具有處理電路(Processing Circuitry)、及記憶裝置(Storage),該記憶裝置是電連接於該處理電路,可由該處理電路進行存取。例如,處理電路是對應於電路160或260、記憶裝置是對應記憶體162或262。
處理電路包含有專用的硬體及程式執行部至少一者,使用記憶裝置來執行處理。又,記憶裝置在處理電路含有程式執行部時,記憶藉該程式執行部所執行之軟體程式。
在此,實現本實施形態之編碼裝置100或者解碼裝置200等之軟體為如下的程式。
又,如上述,各構成要素也可為電路。該等電路也可以整體構成為1個電路,也可分別為個別的電路。又,各構成要素也可以通用式的處理器來實現,也可以專用的處理器來實現。
又,也可讓別的構成要素來執行特定的構成要素所要執行的處理。又,要執行處理的順序也可變更,複數個處理也可並行地執行。又,編碼解碼裝置也可包含有編碼裝置100及解碼裝置200。
以上,是根據實施形態來說明編碼裝置100及解碼裝置200之態樣,但編碼裝置100及解碼裝置200的態樣並不限於該實施形態。只要在不脫離本揭示的旨趣之狀態下,熟悉此項技藝之人士可思及之各種變形實施在本實施形態者、或者將不同實施形態的構成要素組合而所構建的形態,也可包括在編碼裝置100及解碼裝置200之態樣的範圍內。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。 (實施形態5)
在以上之各實施形態中,功能區塊每一個通常可藉MPU及記憶體等來實現。又,藉功能區塊每一個所進行的處理通常可以經由處理器等之程式執行部讀出ROM等之記錄媒體所記錄的軟體(程式)來執行,而予以實現。該軟體也可藉下載等來發布,也可記錄在半導體記憶體等之記錄媒體來發布。另,當然也可以將各功能區塊透過硬體(專用電路)來實現。
又,在各實施形態中所說明的處理也可以使用單一裝置(系統)進行集中處理來實現,或者也可以使用複數個裝置進行分散處理來實現。又,執行上述程式的處理器也可為單數個,也可為複數個。即,可進行集中處理,或者也可進行分散處理。
本揭示的態樣並不限於以上的實施例,可做各種變更,其等變更也包括在本揭示的態樣之範圍內。
進而在此,說明在上述各實施形態中所示之動態圖像編碼方法(圖像編碼方法)或動態圖像解碼方法(圖像解碼方法)之應用例及使用該方法之系統。該系統是以具有使用圖像編碼方法之圖像編碼裝置、使用圖像解碼方法之圖像解碼裝置、及具有兩者之圖像編碼解碼裝置為特徵所在。針對系統中的其他構成,配合情況的需要,可適當地變更。 [使用例]
圖23是顯示實現內容發布服務之內容供給系統ex100之整體構成圖。將通訊服務之提供領域分割成所期望之大小,在各胞元內分別設置有為固定無線台之基地台ex106、ex107、ex108、ex109、ex110。
在該內容供給系統ex100中,經由網際網路服務提供者ex102或通訊網ex104、及基地台ex106至ex110,而將電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各機器連接於網際網路ex101。該內容供給系統ex100可構成為組合上述任意要素而連接。也可不經過為固定無線台之基地台ex106至ex110,而是使各機器經由電話網路或者近距離無線等直接或間接地互相連接。又,串流伺服器ex103是經由網際網路ex101等而與電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等之各機器連接。又,串流伺服器ex103是經由衛星ex116而與飛機ex117內之熱點內的終端機等連接。
另,也可利用無線存取點或熱點等,來替代基地台ex106至ex110。又,串流伺服器ex103也可以不經由網際網路ex101或者網際網路服務提供者ex102,而直接與通訊網ex104連接,也可不經由衛星ex116,而直接與飛機ex117連接。
攝像機ex113是數位相機等可進行靜態圖像攝影及動態圖像攝影之機器。又,智慧型手機ex115一般是指對應於2G、3G、3.9G、4G、以及今後被稱為5G之行動通訊系統的方式之智慧型話機、行動電話機、或者PHS(Personal Handyphone System)等。
家電ex118是包括在冰箱、或者家用燃料電池熱電共生系統之機器等。
在內容供給系統ex100中,讓具有攝影功能的終端機經由基地台ex106等而連接到串流伺服器ex103,以此可進行現場直播等。在現場直播中,終端機(電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、及飛機ex117内之終端機等)是將如下所得到的資料發送到串流伺服器ex103,該資料是對使用者使用該終端機所攝影的靜態圖像或者動態圖像內容進行在上述各實施形態所說明的編碼處理,且對藉編碼所得到的影像資料、及對應於影像的聲音經編碼後的聲音資料進行多工而所得到者。即,各終端機是發揮本揭示一態樣的圖像編碼裝置的功能。
另一方面,串流伺服器ex103是對於有了請求的客戶端將被發送的內容資料進行串流發布。客戶端是指可將上述經過編碼處理的資料進行解碼之電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、或者飛機ex117內的終端機等。接收到所發布的資料的各機器將所接收的資料進行解碼處理後進行播放。即,各機器是發揮本揭示一態樣之圖像解碼裝置的功能。 [分散處理]
又,串流伺服器ex103也可為複數個伺服器或者是複數個電腦,將資料分散處理或記錄發布者。例如,串流伺服器ex103也可藉由CDN(Contents Delivery Network)來實現,透過連接分散在世界各地的多數邊緣伺服器(edge server)與邊緣伺服器間的網路來實現內容之發布。在CDN中,因應客戶端而動態地分配實體上接近的邊緣伺服器。然後,內容被該邊緣伺服器快取及發布,以此可減少延遲的情況。又,在發生有任何錯誤時或者因流量增加等而使通訊狀態改變時,可以複數個邊緣伺服器分散處理,或者將發布主體切換到其他邊緣伺服器,而可繞過網路中有發生障礙的部分,以繼續進行發布,因此可實現高速且穩定的發布。
又,不只是發布自身的分散處理,也可將所攝影的資料的編碼處理在各終端機進行,也可在伺服器側進行,也可互相分擔來進行。例如,一般在編碼處理中,進行處理循環2次。第1次的循環,會檢測以訊框或者場景單位的圖像之複雜度、或者編碼量。又,在第2次的循環,會進行維持畫質,並使編碼效率提高的處理。例如,終端機進行第1次的編碼處理,已收到內容的伺服器側進行第2次的編碼處理,以此可一邊減少在各終端機的處理負擔,又能一邊提高內容的品質及效率。此時,若有幾乎以即時接收而要解碼的請求時,也可將終端機已進行過第1次的編碼完畢資料在其他終端機接收且進行播放,因此能達到更柔軟的即時發布。
又例如,攝像機ex113等是從圖像進行特徵量擷取,將有關於特徵量的資料作為詮釋(meta)資料進行壓縮,而發送到伺服器。伺服器是例如從特徵量來判斷物件的重要性,而切換量化精度等因應圖像的意義來進行壓縮。特徵量資料對於伺服器上之再次壓縮時的移動向量預測之精度及效率提昇特別有效。又,也可在終端機進行VLC(可變長度編碼)等之簡易性編碼,在伺服器進行CABAC(Context適應型二值算術編碼方式)等處理負荷大的編碼。
另外,又可以例如,在體育場、購物商場、或者工廠等之中,會有經由複數個終端機而拍攝到幾乎相同的場景的複數個影像資料存在的情況。在該情況下,使用進行過拍攝的複數個終端機、及因應需要而未進行拍攝的其他終端機及伺服器,以例如GOP(Group of Picture)單位、圖片單位、或者將圖片分割之方塊單位等,分別分配編碼處理,來進行分散處理。藉此,可減少延遲,並實現更佳的即時性。
又,由於複數個影像資料為幾乎相同的場景,因此也可在伺服器進行管理及/或指示,將在各終端機所拍攝的影像資料相互參考。或者,也可使伺服器接收來自各終端機的編碼完畢資料,在複數個資料之間變更參考關係,或者將圖片本身進行補正或更換,來重新進行編碼。藉此,可產生將一個一個資料的品質及效率提高的串流。
又,伺服器也可先進行將影像資料的編碼方式變更的轉碼,再發布影像資料。例如,伺服器也可將MPEG系的編碼方式轉換成VP系,也可將H.264轉換成H.265。
如此,編碼處理可透過終端機或者是1個以上的伺服器來進行。藉此,在下文中,作為進行處理的主體是採用「伺服器」或者是「終端機」等的記述,但也可讓以伺服器所進行的處理的一部分或者全部在終端機來進行,也可讓以終端機所進行的處理的一部分或者全部在伺服器來進行。又,有關於該等部分,針對解碼處理也是同樣。 [3D、多視角]
近年來,將幾乎互相同步的複數個攝像機ex113及/或智慧型手機ex115等之終端機所攝影的不同場景、或者是相同場景以不同的視角拍攝的圖像或影像整合來利用的情形也變多了。以各終端機所拍攝的影像是根據另外取得的終端機間之相對的位置關係、或者影像所含的特徵點一致的區域等來整合。
伺服器不只將2維的動態圖像進行編碼,還可根據動態圖像的場景解析等,而自動或者是在使用者所指定的時刻,將靜態圖像進行編碼,再發送到接收終端機。伺服器進而在可取得攝影終端機之間的相對的位置關係時,不只是2維的動態圖像,還可根據從不同視角對相同場景拍攝的影像,來產生該場景的3維形狀。另,伺服器也可另外將透過點雲(point cloud)等所產生的3維的資料進行編碼,也可根據使用3維資料來辨識或者追蹤人物或物件的結果,從以複數個終端機拍攝的影像中選擇、或再構成,以產生要發送到接收終端機的影像。
如此進行後,使用者要任意選擇對應於各攝影終端機的各影像來觀賞場景也可,要觀賞從使用複數個圖像或者影像而再構成的3維資料剪出任意視點的影像的內容也可。進而,與影像同樣,也可從複數個不同視角收取聲音,令伺服器配合影像,與來自特定視角或空間的聲音和影像進行多工而發送。
又,近年來,Virtual Reality(VR/虛擬實境)及Augmented Reality(AR/擴增實境)等對現實世界與虛擬世界建立對應關係的內容也漸漸普及了。在VR的圖像的情況,也可使伺服器分別作出右眼用及左眼用的視點圖像,透過Multi-View Coding(MVC/多視角編碼)等,進行在各視點影像之間容許參考的編碼,也可不互相參考而作為不同串流來進行編碼。在解碼不同串流時,宜以因應使用者的視點而將虛擬的3維空間重現的方式,使其互相同步且播放。
在AR的圖像的情況,伺服器會根據3維上的位置或者使用者的視點的移動,而將虛擬空間上的虛擬物體資訊重疊在現實空間的攝像機資訊。解碼裝置也可取得或者保持虛擬物體資訊及3維資料,並因應使用者的視點的移動來產生2維圖像,而順利地接續,以此作成重疊資料。或者,解碼裝置也可除了虛擬物體資訊的請求指令外,將使用者的視點的移動也發送到伺服器,伺服器配合接收的視點的移動而從保持在伺服器的3維資料來作成重疊資料,且將重疊資料進行編碼,再發布到解碼裝置。另,也可以是:重疊資料除了RGB以外還具有顯示穿透度的α值,伺服器將從3維資料所作成的物件以外的部分之α值設定為0等,且使該部分為穿透的狀態下進行編碼。或者,伺服器也可如同色鍵(Chroma key)產生資料,該資料為將預定的值之RGB值設定為背景,物件以外的部份則設定為背景色。
同樣,被進行發布的資料的解碼處理也可在客戶端的各終端機進行,或是也可在伺服器側進行,或者也可相互分擔進行。例如,某終端機也可先將接收請求送到伺服器,以其他終端機接收因應該請求的內容,進行解碼處理,並將解碼完畢的訊號發送到具有顯示器的裝置。能在不依賴可通訊的終端機本身的性能之狀態下,將處理分散而選擇適合的內容,以此可播放畫質佳的資料。又例如,也可一邊在TV等接收大尺寸的圖像資料,一邊將圖片分割後的方塊等一部分的區域在觀眾的個人終端進行解碼而顯示。藉此,可共享整體圖像,並可在身邊確認本身的負責領域或者想更加詳細確認的區域。
又,今後不管是室內或室外,在可使用近距離、中距離、或者長距離之數種無線通訊的狀況下,利用MPEG-DASH等之發布系統規格,一邊對於連線中的通訊切換適合的資料,一邊無縫地接收內容,這是可預想得到的。藉此,使用者不只是本身的終端機,也可一邊自由地選擇設在室內或室外之顯示器等之解碼裝置或者顯示裝置,一邊即時地進行切換。又,根據本身的位置資訊等,可一邊切換解碼的終端機及顯示的終端機,一邊進行解碼。藉此,使得如下方式也可變得可行,即:在往目的地的移動中,一邊讓埋設有可進行顯示的設備之旁邊的建築物的壁面或者是地面的一部分顯示地圖資訊,一邊移動。又,也可以基於網路上之對編碼資料的存取容易性,諸如有編碼資料會被可在短時間內從接收終端機進行存取的伺服器快取、或者是被複製到內容發布服務(Contents Delivery Service)中的邊緣伺服器等,來切換接收資料的位元率。 [可調式編碼]
有關於內容的切換,是利用顯示於圖24之可調式之串流來說明,該串流是應用在上述各實施形態所示的動態圖像編碼方法而被壓縮編碼的串流。伺服器雖然具有作為個別的串流,為內容相同但品質不同的複數個串流也無妨,但也可為如下構成,即:靈活運用時間型/空間型可調式的串流之特徵,來切換內容,其中該時間型/空間型可調式的串流是如圖所示藉由分層來進行編碼而實現。即,解碼側因應例如性能的內在因素及通訊頻帶的狀態等之外在因素,來決定要解碼到哪一層,以此解碼側可自由地切換低影像解析度的內容及高影像解析度的內容,而進行解碼。例如想要把曾在移動中於智慧型手機ex115收看的影像的後續部分放到回家後以網路TV等的機器收看時,該機器只要將相同的串流進行解碼到不同層即可,因此可減輕伺服器側的負擔。
進而,如上述,在每層將圖片進行編碼,且在基本層的上位有加強層存在之實現可調性(scalability)之構成以外,也可為加強層含有基於圖像的統計資訊等之詮釋資訊,解碼側根據詮釋資訊,將基本層的圖片進行超影像解析,以此產生已高畫質化的內容。所謂超影像解析也可是同一解析度下的SN比的提昇、以及解析度的擴大之任一者。詮釋資訊是包括用以特定超影像解析處理所使用的線性或者是非線性的過濾係數的資訊、或者、用以特定超影像解析處理所使用的過濾處理、機械學習或者是最小平方運算中的參數值的資訊等。
或者,也可為如下構成,即:因應圖像內的物件(object)等的意涵,將圖片分割成方塊等,解碼側選擇要解碼的方塊,以此只將一部分的區域進行解碼。又,把物件的屬性(人物、車、球等)與影像內的位置(同一圖像中的座標位置等),當做為詮釋資訊來儲存,以此,解碼側可根據詮釋資訊來特定所希望的物件的位置,並決定包含該物件的方塊。例如,如圖25所示,詮釋資訊是使用HEVC中的SEI訊息等與像素資料不同之資料儲存構造來儲存。該詮釋資訊是例如顯示主物件的位置、尺寸、或者色彩等。
又,也可以串流、序列或者隨機存取單位等由複數個圖片所構成的單位來儲存詮釋資訊。藉此,解碼側可取得特定人物出現在影像內的時刻等,配合圖片單位的資訊,以此便可特定物件存在的圖片、及在圖片內之物件的位置。 [網頁的最適化]
圖26是顯示電腦ex111等之中網頁(web page)的顯示畫面例之圖。圖27是顯示智慧型手機ex115等之網頁的顯示畫面例之圖。如圖26及圖27所示,網頁有包括複數個鏈接圖像的情況,其中該等鏈接圖像為朝圖像內容的鏈接,該等鏈接圖像的看到方式會依據閱覽的設備而有所不同。在於畫面上看得到複數個鏈接圖像時,迄至使用者明白表示選擇鏈接圖像為止,或者是迄至鏈接圖像靠近畫面的中央附近或者鏈接圖像整體進入畫面內為止,顯示裝置(解碼裝置)是顯示各內容所具有的靜態圖像或I圖片來作為鏈接圖像,或以複數個靜態圖像或I圖片等顯示像gif動畫般的影像,或只有接收基本層而將影像進行解碼及顯示。
在由使用者選擇了鏈接圖像時,顯示裝置會將基本層視為最優先,來進行解碼。另,若在構成網頁的HTML中,有顯示可調式的內容的資訊時,顯示裝置也可進行解碼迄至加強層為止。又,為了保證即時性,在被選擇之前或者通訊頻帶極窄時,顯示裝置只對參考前方的圖片(I圖片、P圖片、僅只參考前方的B圖片)進行解碼及顯示,以此可減少前頭圖片的解碼時刻與顯示時刻間的延遲(從內容的解碼開始迄至顯示開始之延遲)。又,顯示裝置也可硬是忽視圖片的參考關係,而使全部的B圖片及P圖片為參考前方,先粗略地進行解碼,然後經過一段時間,隨著所接收的圖片的增加,再進行正常的解碼。 [自動行駛]
又,為了汽車的自動行駛或者支援行駛,而發送及接收2維或者3維的地圖資訊等之靜態圖像或者是影像資料時,接收終端機除了屬於1層以上的層級之圖像資料以外,也可接收天氣或者施工的資訊等來作為詮釋資訊,並對該等資訊建立對應關係而進行解碼。另,詮釋資訊也可屬於層,也可只單純地與圖像資料進行多工。
此時,由於含有接收終端機的汽車、空拍機或者飛機等會移動,因此接收終端機會在請求接收時,發送該接收終端機的位置資訊,以此可一邊切換基地台ex106至ex110,一邊實現無縫的接收及解碼。又,接收終端機可因應使用者的選擇、使用者的狀況或者通訊頻帶的狀態,而動態地切換將詮釋資訊接收到哪一程度,或者將地圖資訊更新到何種程度。
如上進行,在內容供給系統ex100中,可讓客戶端即時接收使用者所發送的已編碼的資訊並將其解碼,且進行播放。 [個人內容的發布]
又,在內容供給系統ex100中,不只以透過影像發布業者所進行的高畫質進行長時間的內容,還能以透過個人所進行的低畫質進行短時間的內容的單點傳播(unicast)、或者多點傳播(multicast)進行發布。又,像這樣的個人的內容,認為今後也會增加。為了將個人內容做成更優異的內容,伺服器也可進行編輯處理,之後再進行編碼處理。這是例如可以如下的構成來實現。
在攝影時即時或者先儲存後於攝影後,伺服器從原圖或者編碼完畢資料,進行攝影錯誤、場景搜尋、意義的解析、及物件檢測等之辨識處理。接著,伺服器根據辨識結果,而以手動或者自動地進行補正失焦或手震等、或者是刪除亮度比其他圖片低或未對焦的場景等重要性低的場景、或者是強調物件的邊緣、或者是變化色調等之編輯。伺服器根據編輯結果,而將編輯後的資料進行編碼。又,已知道攝影時間太長時,收視率會下降,伺服器也可根據圖像處理結果,不只是對如上述般重要性低的場景,亦對動作少的場景等自動地進行剪輯,以因應撮影時間而成為特定的時間範圍內的內容。或者,伺服器也可根據場景的意義解析的結果,來產生摘要(digest),且進行編碼。
另,在個人內容中,若保持原狀,也有成為著作權、著作人格權、或者肖像權等侵害的東西被拍進去的事例,也有共享的範圍超過所意圖的範圍等,對個人來說是不宜的情況。因此,例如,伺服器也可刻意地將畫面的周邊部的人臉或者是家裡等,變更成不對焦的圖像,來進行編碼。又,伺服器也可辨識在編碼對象圖像內是否有拍到與事先登錄的人物不同之人物的臉,若有拍到時,對臉的部分進行加上馬賽克等之處理。或者,在編碼的前處理或者後處理上,從著作權等的觀點來看,使用者對圖像指定想要加工的人物或者背景區域,伺服器將所指定的區域替換成別的影像,或者進行模糊焦點等的處理,也可。若是人物時,在動態圖像中,可一邊追蹤人物,一邊將臉的部分影像替換。
又,由於資料量小的個人內容的收看在即時性的要求高,因此雖然依頻帶寬度有所差異,但解碼裝置首先是以基本層最優先地接收,並進行解碼及播放。解碼裝置也可在這期間接收加強層,在有循環播放的情況等有播放2次以上的時候,連同加強層在內將高畫質的影像播放。若是已如此地進行有可調地編碼之串流的話,就能提供如下體驗,即,雖然在未選擇時或者剛開始看的階段,是粗糙的動畫,但會漸漸地串流變精緻了,圖像變好。除了可調式編碼以外,以在第1次播放的粗糙的串流、及參考第1次動畫來編碼的第2次的串流,當做為1個串流來構成,也可提供同樣的體驗。 [其他使用例]
又,該等編碼或者解碼處理,一般來說是在各終端機所具有的LSIex500中來處理。LSIex500可以是單晶片,也可以是由複數個晶片所構成。另,也可將動態圖像編碼或者解碼用的軟體裝入能以電腦ex111等讀取的某些記錄媒體(CD-ROM、軟碟、或者硬碟等),並使用該軟體來進行編碼或者解碼處理。進而,智慧型手機ex115是附有攝像機時,也可發送以該攝像機取得的動畫資料。此時的動畫資料是已經透過智慧型手機ex115所具有的LSIex500進行編碼處理的資料。
另,LSIex500也可為下載應用軟體程式來啟動之構成。此時,首先,終端機要判定該終端機是否支援內容的編碼方式,或者是否具有特定服務的執行能力。在終端機未支援內容的編碼方式時,或者不具有特定服務的執行能力時,終端機要下載編解碼器或者應用軟體程式,之後進行內容的取得及播放。
又,不限於經由網際網路ex101的內容供給系統ex100,在數位式廣播用系統也可裝入上述各實施形態之至少動態圖像編碼裝置(圖像編碼裝置)或者動態圖像解碼裝置(圖像解碼裝置)之任一者。由於是利用衛星等而在廣播用的電波乘載已將影像與聲音進行多工處理的多工資料,來進行傳送接收,所以相對於內容供給系統ex100的易於進行單點傳播的構成,數位式廣播用系統雖有利於多點播送的差異,但有關於編碼處理及解碼處理,仍可做同樣的應用。 [硬體構成]
圖28是顯示智慧型手機ex115的圖。又,圖29是顯示智慧型手機ex115的構成例之圖。智慧型手機ex115包含有:天線ex450,是用以於與基地台ex110之間收發電波;攝像機部ex465,是可拍攝影像及靜態圖像;以及顯示部ex458,是顯示已將以攝像機部ex465所拍攝的影像、及以天線ex450所接收的影像等進行解碼之資料。智慧型手機ex115更包含有:操作部ex466,為觸控面板等;聲音輸出部ex457,為用以輸出聲音或者音響的揚聲器等;聲音輸入部ex456,為用以輸入聲音之麥克風等;記憶部ex467,可保存將所拍攝的影像或者靜態圖像、已錄取的聲音、已接收的影像或者靜態圖像、郵件等的已編碼的資料、或者解碼後的資料;及插槽部ex464,為與SIMex468之間的介面部,其中SIMex468為用以特定使用者,並以網路為首,實行對各種資料進行存取的認證。另,也可使用外接式記憶體代替記憶部ex467。
又,將顯示部ex458及操作部ex466等統合性地控制的主控制部ex460,與電源電路部ex461、操作輸入控制部ex462、影像訊號處理部ex455、攝像機介面部ex463、顯示器控制部ex459、調變/解調部ex452、多工/分離部ex453、聲音訊號處理部ex454、插槽部ex464、以及記憶部ex467是經由匯流排ex470來連接。
電源電路部ex461是藉由使用者的操作使電源開關成為開啟狀態時,從電池組對各部供應電力,藉此使智慧型手機ex115啟動成可動作的狀態。
智慧型手機ex115是基於具有CPU、ROM及RAM等之主控制部ex460的控制,進行通話及資料通訊等的處理。在通話時是將以聲音輸入部ex456所收音的聲音訊號在聲音訊號處理部ex454轉換成數位式聲音訊號,將該訊號在調變/解調部ex452進行頻譜擴散處理,在發送/接收部ex451實施數位類比轉換處理以及頻率轉換處理,之後再經由天線ex450進行發送。又,將接收資料放大,並實施頻率轉換處理以及類比數位轉換處理,在調變/解調部ex452進行頻譜反擴散處理,在聲音訊號處理部ex454轉換成類比聲音訊號,之後再將該訊號從聲音輸出部ex457進行輸出。在資料通訊模式時,透過本體部的操作部ex466等的操作,將正文、靜態圖像、或者影像資料經由操作輸入控制部ex462而送出至主控制部ex460,並同樣地被進行收發處理。在資料通訊模式時,於發送影像、靜態圖像、或者影像及聲音的情況,影像訊號處理部ex455是將記憶部ex467所保存的影像訊號、或者從攝像機部ex465所輸入的影像訊號透過上述各實施形態所示的動態圖像編碼方法進行壓縮編碼,且將業經編碼的影像資料送出至多工/分離部ex453。又,聲音訊號處理部ex454是將在以攝像機部ex465將影像或者靜態圖像等攝影中於聲音輸入部ex456所收音的聲音訊號進行編碼,且將業經編碼的聲音資料送出至多工/分離部ex453。多工/分離部ex453是將業經編碼完畢的影像資料及業經編碼完畢的聲音資料以預定的方式進行多工,且於調變/解調部(調變/解調電路部)ex452、及發送/接收部ex451實施調變處理及轉換處理,並經由天線ex450來發送。
在接收到電子郵件或者對話(chat)所附的影像、或者連結到網頁等的影像時,為了將經由天線ex450所接收到的多工資料進行解碼,多工/分離部ex453將多工資料進行分離,藉此把多工資料分成影像資料的位元串流及聲音資料的位元串流,經由同步匯流排ex470,而將業經編碼的影像資料供給至影像訊號處理部ex455,並將業經編碼的聲音資料供給至聲音訊號處理部ex454。影像訊號處理部ex455透過對應於上述各實施形態所示的動態圖像編碼方法之動態圖像解碼方法,而將影像訊號進行解碼,且透過顯示器控制部ex459,而從顯示部ex458,顯示被連結的動態圖像檔所含之影像或者靜態圖像。又,聲音訊號處理部ex454是將聲音訊號進行解碼,且從聲音輸出部ex457輸出聲音。另,由於即時串流傳輸(real-time streaming)已經普及了,依使用者的狀況,聲音的播放也可能會有對社會上不合適的場面發生。為此,作為初始值,聲音訊號不要播放,而只將影像資料播放的構成是較被希望的。也可以是只有在使用者進行了操作,如點選影像資料等的時候,將聲音同步地播放。
又,在此,是以智慧型手機ex115為例進行了說明,以終端機而言也可考慮如下3種安裝形式,除了具有編碼器及解碼器兩者的訊號收發型終端機之外,只具有編碼器的發訊終端機、及只具有解碼器的收訊終端機。進而,在數位廣播用系統中,是以接收或者發送在影像資料上已有聲音資料等進行多工處理之多工資料的情形來說明,但多工資料上除了聲音資料以外,也可有與影像有關聯的文字資料等進行多工處理,也可接收或者發送影像資料本身,而不是多工資料。
另,以含有CPU的主控制部ex460控制編碼處理或者解碼處理的情形來說明,但終端機具備GPU的情況也居多。因此,如後述構成也可,即,透過在CPU與GPU共通化的記憶體、或者有將位址加以管理以形成可以共通使用之狀態的記憶體,來靈活運用GPU的性能,並將廣大區域匯整來一起處理者。藉此,可縮短編碼時間,確保即時性,可實現低延遲。尤其,不是利用CPU,而是透過GPU,以圖片等的單位匯整來一起進行移動估測、解區塊過濾器、SAO(Sample Adaptive Offset)、及轉換、量化的處理時,是有效率的。
也可將本態樣與本揭示中的其他態樣的至少一部分組合來實施。又,記載於本態樣的流程圖之一部分處理、裝置的一部分構成、語法的一部分等也可與其他態樣組合來實施。 (產業利用性)
本揭示是可利用在諸如電視接收機、數位視頻錄影機、車用導航、行動電話機、數位照相機、數位視頻攝影機、視訊會議系統、或者電子鏡等。
100‧‧‧編碼裝置
102‧‧‧分割部
104‧‧‧減法部
106‧‧‧轉換部
108‧‧‧量化部
110‧‧‧熵編碼部
112、204‧‧‧反量化部
114、206‧‧‧反轉換部
116、208‧‧‧加法部
118、210‧‧‧區塊記憶體
120、212‧‧‧迴路過濾部
122、214‧‧‧訊框記憶體
124、216‧‧‧內預測部
126、218‧‧‧間預測部
128、220‧‧‧預測控制部
160、260‧‧‧電路
162、262‧‧‧記憶體
200‧‧‧解碼裝置
202‧‧‧熵解碼部
ex100‧‧‧內容供給系統
ex101‧‧‧網際網路
ex102‧‧‧網際網路服務提供者
ex103‧‧‧串流伺服器
ex104‧‧‧通訊網
ex106至ex110‧‧‧基地台
ex111‧‧‧電腦
ex112‧‧‧遊戲機
ex113‧‧‧攝像機
ex114‧‧‧家電
ex115‧‧‧智慧型手機
ex116‧‧‧衛星
ex117‧‧‧飛機
ex450‧‧‧天線
ex451‧‧‧發送/接收部
ex452‧‧‧調變/解調部
ex453‧‧‧多工/分離部
ex454‧‧‧聲音訊號處理部
ex455‧‧‧影像訊號處理部
ex456‧‧‧聲音輸入部
ex457‧‧‧聲音輸出部
ex458‧‧‧顯示部
ex459‧‧‧顯示器控制部
ex460‧‧‧主控制部
ex461‧‧‧電源電路部
ex462‧‧‧操作輸入控制部
ex463‧‧‧攝像機介面部
ex464‧‧‧插槽部
ex465‧‧‧攝像機部
ex466‧‧‧操作部
ex467‧‧‧記憶部
ex468‧‧‧SIM
ex470‧‧‧匯流排
圖1是顯示實施形態1之編碼裝置之功能構成的方塊圖。
圖2是顯示實施形態1之區塊分割之一例之圖。
圖3是顯示對應於各轉換型式之轉換基底函數之表格。
圖4A是顯示ALF所使用之過濾器之形狀一例之圖。
圖4B是顯示ALF所使用之過濾器的形狀另一例之圖。
圖4C是顯示ALF所使用之過濾器的形狀另一例之圖。
圖5A是顯示內預測中之67個內預測模式之圖。
圖5B是用以說明藉OBMC處理之預測圖像補正處理之概要的流程圖。
圖5C是用以說明藉OBMC處理之預測圖像補正處理之概要的概念圖。
圖5D是顯示FRUC一例之圖。
圖6是用以說明在沿著移動軌跡的2個區塊間的圖案匹配(雙向匹配)之圖。
圖7是用以說明當前圖片內的模板與參考圖片內的區塊之間的圖案匹配(模板匹配)之圖。
圖8是用以說明假設等速直線運動之模型的圖。
圖9A是用以說明子區塊單位的移動向量之導出之圖,該子區塊單位的移動向量是基於複數個鄰接區塊的移動向量。
圖9B是用以說明合併模式之移動向量導出處理之概要之圖。
圖9C是用以說明DMVR處理之概要之概念圖。
圖9D是用以說明預測圖像產生方法之概要之圖,該預測圖像產生方法是使用了LIC處理的亮度補正處理。
圖10是顯示實施形態1之解碼裝置的功能構成的方塊圖。
圖11是實施形態1之間預測處理之第1例的流程圖。
圖12是實施形態1之間預測處理之第2例的流程圖。
圖13是實施形態1之間預測處理之第3例的流程圖。
圖14是實施形態2之間預測處理之第1例的流程圖。
圖15是實施形態2之間預測處理第2例的流程圖。
圖16是實施形態3之間預測處理之第1例的流程圖。
圖17是實施形態3之間預測處理之第2例的流程圖。
圖18是實施形態4之間預測處理之第1例的流程圖。
圖19是實施形態4之間預測處理之第2例的流程圖。
圖20是實施形態之間預測處理的流程圖。
圖21是顯示編碼裝置之安裝例的方塊圖。
圖22是顯示解碼裝置之安裝例的方塊圖。
圖23是實現內容發布服務之內容供給系統的整體構成圖。
圖24是顯示可調式編碼時之編碼構造一例之圖。
圖25是顯示可調式編碼時之編碼構成一例之圖。
圖26是顯示網頁的顯示畫面例之圖。
圖27是顯示網頁的顯示畫面例之圖。
圖28是顯示智慧型手機一例之圖。
圖29是顯示智慧型手機的構成例之方塊圖。

Claims (25)

  1. 一種編碼裝置,包含有: 電路;及 記憶體; 前述電路使用前述記憶體, 在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理為使用補正值,進行預測圖像之亮度值的補正,該補正值為從前述對象區塊周邊的編碼完畢區塊之亮度值預測到的值。
  2. 如請求項1之編碼裝置,其中在複數個間預測模式之中,將第1間預測模式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測模式是對差值移動向量作編碼之模式,該差值移動向量是相對於從前述對象區塊周邊的編碼完畢區塊預測到的移動向量之差值; 在前述複數個間預測模式之中,將第2間預測模式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測模式是不對前述差值移動向量作編碼之模式。
  3. 如請求項1之編碼裝置,其中藉由第1移動補償,產生前述對象區塊的預測圖像時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1移動補償是使用了時間上在前述對象區塊前方之編碼完畢參考圖片、及時間上在前述對象區塊後方之編碼完畢參考圖片之雙方的圖片, 藉由第2移動補償,產生前述對象區塊的預測圖像時,允許對前述對象區塊使用前述亮度補正處理,其中該第2移動補償是不使用前述雙方的圖片。
  4. 如請求項1之編碼裝置,其中在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的編碼完畢區塊不存在時,不允許對前述對象區塊使用前述亮度補正處理; 在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的編碼完畢區塊存在時,允許對前述對象區塊使用前述亮度補正處理。
  5. 如請求項4之編碼裝置,其中在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的編碼完畢區塊存在時,使用屬於該編碼完畢區塊中的像素,導出使用在前述對象區塊之前述亮度補正處理的亮度補正參數。
  6. 如請求項1之編碼裝置,其中在滿足如下條件時,允許對前述對象區塊使用前述亮度補正處理,其中該條件為將前述對象區塊以合併模式編碼,且在前述合併模式中,選擇空間上鄰接於前述對象區塊之編碼完畢區塊,預測移動向量, 在不滿足前述條件時,不允許對前述對象區塊使用前述亮度補正處理。
  7. 如請求項6之編碼裝置,其中在滿足前述條件時,使用屬於在前述合併模式之中已選擇的前述編碼完畢區塊中的像素,導出使用於前述亮度補正處理的亮度補正參數。
  8. 如請求項1之編碼裝置,其中在將第1間預測方式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測方式是使用鄰接於前述對象區塊的對象圖片內的區域之第1再構成圖像、與參考圖片內的區域之第2再構成圖像之適合程度; 在將第2間預測方式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測方式是使用相異的2個參考圖片內的2個區域的2個再構成圖像之適合程度。
  9. 如請求項8之編碼裝置,其中在將前述第1間預測方式使用在前述對象區塊時,使用屬於前述第1再構成圖像及前述第2再構成圖像之像素,導出使用於前述亮度補正處理的亮度補正參數。
  10. 如請求項1至9中任一項之編碼裝置,其中在允許對前述對象區塊使用前述亮度補正處理時,根據與前述第1條件不同的第2條件,決定是否對前述對象區塊使用前述亮度補正處理, (i)在已決定對前述對象區塊使用前述亮度補正處理時,使用前述亮度補正處理,產生前述對象區塊的預測圖像, (ii)在已決定對前述對象區塊不使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像, 在不允許對前述對象區塊使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像。
  11. 如請求項10之編碼裝置,其中在允許對前述對象區塊使用前述亮度補正處理時,對一資訊作編碼,其中該資訊為顯示是否對前述對象區塊使用前述亮度補正處理,且顯示是否對前述對象區塊使用前述亮度補正處理的決定結果, 在不允許對前述對象區塊使用前述亮度補正處理時,不將顯示是否對前述對象區塊使用前述亮度補正處理的資訊編碼。
  12. 如請求項10之編碼裝置,其中在允許對前述對象區塊使用前述亮度補正處理時,對一資訊作編碼,其中該資訊是顯示是否對前述對象區塊使用前述亮度補正處理,且顯示是否對前述對象區塊使用前述亮度補正處理的決定結果, 在不允許對前述對象區塊使用前述亮度補正處理時,將前述資訊設定為顯示對前述對象區塊不使用前述亮度補正處理,並將該資訊編碼。
  13. 一種解碼裝置,包含有: 電路;及 記憶體, 前述電路使用前述記憶體, 在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,該亮度補正處理是使用補正值,進行預測圖像的亮度值的補正,其中該補正值為從前述對象區塊周邊的解碼完畢區塊的亮度值所預測到的值。
  14. 如請求項13之解碼裝置,其中在將第1間預測模式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測模式是在複數個間預測模式之中,將差值移動向量解碼,該差值移動向量是相對於從前述對象區塊周邊的解碼完畢區塊預測到的移動向量之差值;在將第2間預測模式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測模式是在前述複數個間預測模式之中,不將前述差值移動向量解碼。
  15. 如請求項13之解碼裝置,其中在藉第1移動補償產生前述對象區塊的預測圖像時,不允許對前述對象區塊使用前述亮度補正處理,其中該第1移動補償是使用了在時間上在前述對象區塊而前方的解碼完畢參考圖片;及在時間上在前述對象區塊後方的解碼完畢參考圖片之雙方的圖片;在藉第2移動補償產生前述對象區塊的預測圖像時,允許對前述對象區塊使用前述亮度補正處理,其中該第2移動補償不使用前述雙方的圖片。
  16. 如請求項13之解碼裝置,其中在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊不存在時,不允許對前述對象區塊使用前述亮度補正處理, 在空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊存在時,允許對前述對象區塊使用前述亮度補正處理。
  17. 如請求項16之解碼裝置,其中空間上鄰接於前述對象區塊、且具有與前述對象區塊的移動向量一致的移動向量的解碼完畢區塊存在時,使用屬於該解碼完畢區塊,導出使用在前述對象區塊之前述亮度補正處理的亮度補正參數。
  18. 如請求項13之解碼裝置,其中在滿足如下條件時,允許對前述對象區塊使用前述亮度補正處理,其中該條件是將前述對象區塊以合併模式解碼,且在前述合併模式中,選擇空間上鄰接於前述對象區塊之解碼完畢區塊,預測移動向量, 在不滿足前述條件時,不允許對前述對象區塊使用前述亮度補正處理。
  19. 如請求項18之解碼裝置,其中在滿足前述條件時,使用屬於在前述合併模式中已被選擇的前述解碼完畢區塊之像素,導出使用於前述亮度補正處理之亮度補正參數。
  20. 如請求項13之解碼裝置,其中在將第1間預測方式使用在前述對象區塊時,允許對前述對象區塊使用前述亮度補正處理,其中該第1間預測方式為使用鄰接於前述對象區塊之對象圖片內之區域之第1再構成圖像、及參考圖片內之區域之第2再構成圖像之適合程度之方式, 在將第2間預測方式使用在前述對象區塊時,不允許對前述對象區塊使用前述亮度補正處理,其中該第2間預測方式為使用相異的2個參考圖片內之2個區域的2個再構成圖像之適合程度之方式。
  21. 如請求項20之解碼裝置,其中在將前述第1間預測方式使用在前述對象區塊時,使用屬於前述第1再構成圖像及前述第2再構成圖像之像素,導出使用於前述亮度補正處理的亮度補正參數。
  22. 如請求項13至21中任一項之解碼裝置,其中在允許對前述對象區塊使用前述亮度補正處理時,根據與前述第1條件不同的第2條件,決定是否對前述對象區塊使用前述亮度補正處理, (i)在已決定對前述對象區塊使用前述亮度補正處理時,使用前述亮度補正處理,產生前述對象區塊的預測圖像, (ii)在已決定不對前述對象區塊使用前述亮度補正處理時,不使用前述亮度補正處理,就產生前述對象區塊的預測圖像, 在不允許對前述前述對象區塊使用前述亮度補正處理時,不使用前述亮度補正處理,產生前述對象區塊的預測圖像。
  23. 如請求項22之解碼裝置,其中在允許對前述對象區塊使用前述亮度補正處理時,將顯示是否對前述對象區塊使用前述亮度補正處理的資訊進行解碼,並依照解碼後的資訊,決定是否對前述對象區塊使用前述亮度補正處理, 在不允許對前述對象區塊使用前述亮度補正處理時,不將顯示是否對前述對象區塊使用前述亮度補正處理的資訊進行解碼。
  24. 一種編碼方法,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理是使用補正值,進行預測圖像的亮度值的補正,該補正值為從前述對象區塊周邊的編碼完畢區塊的亮度值所預測到的值。
  25. 一種解碼方法,在對象區塊的間預測處理中,根據第1條件,決定是否允許對前述對象區塊使用亮度補正處理,其中該亮度補正處理為使用補正值,進行預測圖像的亮度值的補正,該補正值為從前述對象區塊周邊的解碼完畢區塊的亮度值所預測到的值。
TW107124816A 2017-07-24 2018-07-18 編碼裝置、解碼裝置、編碼方法及解碼方法 TW201909631A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201762536054P 2017-07-24 2017-07-24
US62/536,054 2017-07-24

Publications (1)

Publication Number Publication Date
TW201909631A true TW201909631A (zh) 2019-03-01

Family

ID=65040096

Family Applications (1)

Application Number Title Priority Date Filing Date
TW107124816A TW201909631A (zh) 2017-07-24 2018-07-18 編碼裝置、解碼裝置、編碼方法及解碼方法

Country Status (2)

Country Link
TW (1) TW201909631A (zh)
WO (1) WO2019021803A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020162536A1 (ja) * 2019-02-08 2020-08-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
CN117014634A (zh) * 2019-03-11 2023-11-07 阿里巴巴集团控股有限公司 用于对视频数据进行编码的帧间预测方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9948951B2 (en) * 2012-12-26 2018-04-17 Sharp Kabushiki Kaisha Image decoding device which generates a predicted image of a target prediction unit
WO2014109594A1 (ko) * 2013-01-10 2014-07-17 삼성전자 주식회사 휘도차를 보상하기 위한 인터 레이어 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
JP6360053B2 (ja) * 2013-06-18 2018-07-18 シャープ株式会社 照度補償装置、画像復号装置、画像符号化装置

Also Published As

Publication number Publication date
WO2019021803A1 (ja) 2019-01-31

Similar Documents

Publication Publication Date Title
TWI820019B (zh) 圖像解碼裝置及解碼方法
CN110495177B (zh) 解码装置、解码方法及存储介质
WO2018212110A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
CN111684805B (zh) 编码装置、解码装置、编码方法和解码方法
TWI782974B (zh) 解碼裝置、解碼方法及非暫時性電腦可讀取媒體
TWI812414B (zh) 編碼裝置、解碼裝置及記錄媒體
WO2018193968A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
TW201828705A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
WO2019003993A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
TW202002648A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
JP2024015159A (ja) 符号化装置、復号装置、符号化方法、及び復号方法
TW201834457A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201909631A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201924338A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
WO2018097078A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
WO2019082985A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
TW201842781A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TW201830959A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法
TWI827605B (zh) 解碼裝置及解碼方法
WO2018193967A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
WO2019049912A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
WO2019146718A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
WO2018225595A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
WO2018097079A1 (ja) 符号化装置、復号装置、符号化方法及び復号方法
TW201921948A (zh) 編碼裝置、解碼裝置、編碼方法及解碼方法