JP2021027464A - Prediction block generation device, image coding device, image decoding device, and program - Google Patents

Prediction block generation device, image coding device, image decoding device, and program Download PDF

Info

Publication number
JP2021027464A
JP2021027464A JP2019143892A JP2019143892A JP2021027464A JP 2021027464 A JP2021027464 A JP 2021027464A JP 2019143892 A JP2019143892 A JP 2019143892A JP 2019143892 A JP2019143892 A JP 2019143892A JP 2021027464 A JP2021027464 A JP 2021027464A
Authority
JP
Japan
Prior art keywords
prediction
block
unit
intra
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019143892A
Other languages
Japanese (ja)
Other versions
JP7361522B2 (en
Inventor
慎平 根本
Shimpei Nemoto
慎平 根本
俊輔 岩村
Shunsuke Iwamura
俊輔 岩村
市ヶ谷 敦郎
Atsuro Ichigaya
敦郎 市ヶ谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2019143892A priority Critical patent/JP7361522B2/en
Publication of JP2021027464A publication Critical patent/JP2021027464A/en
Priority to JP2023172326A priority patent/JP2023168518A/en
Application granted granted Critical
Publication of JP7361522B2 publication Critical patent/JP7361522B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

To improve a prediction accuracy by appropriately determining a weighting coefficient in a CIIP.SOLUTION: A prediction object block generation device generates an inter-prediction block and an intra prediction block by predicting a prediction object block obtained by dividing an image by an inter prediction and an intra prediction, respectively, and outputs the prediction block to the prediction object block by synthesizing the inter-prediction block and the intra prediction block by a weighting synthesis. The prediction block generation device comprises: a mode specification part that specifies an intra-prediction mode of the intra-prediction applied to a circumference block when there is the circumference block to which the intra-prediction is applied to the circumference of the prediction object block; and a weighting coefficient determination part that determines a weighting coefficient used for the weighting synthesis on the basis of the intra-prediction mode specified by the mode specification part.SELECTED DRAWING: Figure 4

Description

本発明は、予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムに関する。 The present invention relates to a predictive block generator, an image coding device, an image decoding device, and a program.

従来から、伝送時や保存時の静止画像や動画像のデータ量を圧縮するため映像符号化方式の研究が行われている。近年、映像符号化技術では8K−SHVに代表されるような超高解像度映像の普及が進んでおり、膨大なデータ量の動画像を伝送するための手法としてAVC/H.264やHEVC/H.265などの符号化方式が知られている。 Conventionally, research on a video coding method has been conducted in order to compress the amount of data of still images and moving images during transmission and storage. In recent years, in video coding technology, ultra-high resolution video represented by 8K-SHV has become widespread, and AVC / H.A. is used as a method for transmitting a moving image of a huge amount of data. 264 and HEVC / H. Coding methods such as 265 are known.

MPEG及びITUが合同で標準化を行っている次世代符号化方式であるVVCでは、フレーム内の空間的な相関を利用したイントラ予測、及びフレーム間の相関を利用したインター予測が利用されている(例えば、非特許文献1参照)。これらの予測では、画像を分割して得たブロック単位での予測を行う。 In VVC, which is a next-generation coding method jointly standardized by MPEG and ITU, intra-prediction using spatial correlation within frames and inter-prediction using correlation between frames are used (). For example, see Non-Patent Document 1). In these predictions, predictions are made in block units obtained by dividing an image.

また、VVCでは、Combined Inter and Intra Prediction(CIIP)という技術が採用される見込みである。CIIPは、予測対象のブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する技術である。なお、CIIPにおけるイントラ予測のイントラ予測モードはPlanarモードに固定されている。 In addition, VVC is expected to adopt a technology called Combined Inter and Intra Prediction (CIIP). CIIP is a technology that predicts a block to be predicted by inter-prediction and intra-prediction, respectively, generates an inter-prediction block and an intra-prediction block, and outputs a prediction block by synthesizing the inter-prediction block and the intra-prediction block by weighted synthesis. Is. The intra-prediction mode of intra-prediction in CIIP is fixed to Planar mode.

CIIPにおける重み付け合成に用いる重み係数の情報は、画像符号化装置から画像復号装置へ送られることはなく、予測対象のブロックの上ブロック及び左ブロックにおいてイントラ予測が適用されているか又はインター予測が適用されているかに応じて暗黙的に決定される。 The weighting coefficient information used for weighting synthesis in CIIP is not sent from the image encoding device to the image decoding device, and intra-prediction is applied or inter-prediction is applied in the upper and left blocks of the block to be predicted. It is implicitly determined depending on whether it is done.

具体的な重み係数は、イントラ予測ブロックの重みを「Intra」、インター予測ブロックの重みを「Inter」としたとき、
(a)両方でイントラ予測が用いられている場合、Intra:Inter=3:1
(b)どちらか片方でイントラ予測が用いられている場合、Intra:Inter=2:2
(c)両方でインター予測が用いられている場合、Intra:Inter=1:3
となっている。つまり、周辺ブロックでイントラ予測が適用されているときはイントラ予測ブロックの重みが大きく、周辺ブロックでインター予測が適用されているときはインター予測ブロックの重みが大きくなるように設計されている。
The specific weighting factor is when the weight of the intra prediction block is "Intra" and the weight of the inter prediction block is "Inter".
(A) If intra prediction is used in both, Intra: Inter = 3: 1
(B) When intra prediction is used in either one, Intra: Inter = 2: 2
(C) When inter-prediction is used in both, Intra: Inter = 1: 3
It has become. That is, it is designed so that the weight of the intra-prediction block is large when the intra-prediction is applied in the peripheral block, and the weight of the inter-prediction block is large when the inter-prediction is applied in the peripheral block.

JVET−N1001 Versatile Video Coding (Draft 5)JVET-N1001 Versatile Video Coding (Draft 5)

上述のように、CIIPにおける重み係数は、周辺ブロックにイントラ予測が適用されているか否かに応じて決定されている。 As mentioned above, the weighting factor in CIIP is determined depending on whether or not the intra prediction is applied to the peripheral blocks.

しかしながら、周辺ブロックでイントラ予測が適用されていても、周辺ブロックのイントラ予測モードがPlanar予測でない場合には、予測対象のブロックと周辺ブロックとで相関性がなく絵柄やテクスチャが大きく異なる可能性がある。そのような場合、イントラ予測ブロックの重みを大きくすることが逆効果になり、予測対象のブロックに対する予測精度が低くなり得るという課題がある。 However, even if the intra prediction is applied to the peripheral block, if the intra prediction mode of the peripheral block is not Planar prediction, there is a possibility that there is no correlation between the block to be predicted and the peripheral block, and the pattern and texture are significantly different. is there. In such a case, increasing the weight of the intra prediction block has an adverse effect, and there is a problem that the prediction accuracy for the block to be predicted may be lowered.

そこで、本発明は、CIIPにおける重み係数を適切に決定することで予測精度を改善する予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。 Therefore, an object of the present invention is to provide a prediction block generator, an image coding device, an image decoding device, and a program that improve prediction accuracy by appropriately determining a weighting coefficient in CIIP.

第1の態様に係る予測対象ブロック生成装置は、画像を分割して得た予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、前記インター予測ブロック及び前記イントラ予測ブロックを重み付け合成により合成することで前記予測対象ブロックに対する予測ブロックを出力する。前記予測ブロック生成装置は、前記予測対象ブロックの周辺にイントラ予測が適用された周辺ブロックがある場合、前記周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定するモード特定部と、前記モード特定部が特定した前記イントラ予測モードに基づいて、前記重み付け合成に用いる重み係数を決定する重み係数決定部とを備える。 The prediction target block generation device according to the first aspect predicts the prediction target block obtained by dividing the image by inter prediction and intra prediction, respectively, and generates an inter prediction block and an intra prediction block, and generates the inter prediction block and the intra prediction block. The prediction block for the prediction target block is output by synthesizing the intra prediction block by weighted synthesis. When there is a peripheral block to which the intra prediction is applied around the prediction target block, the prediction block generation device has a mode specifying unit for specifying the intra prediction mode of the intra prediction applied to the peripheral block, and the mode specifying unit. A weight coefficient determining unit for determining the weighting coefficient used for the weighting synthesis is provided based on the intra prediction mode specified by the unit.

第2の態様に係る画像符号化装置は、第1の態様に係る予測ブロック生成装置を備える。 The image coding device according to the second aspect includes the prediction block generation device according to the first aspect.

第3の態様に係る画像復号装置は、第1の態様に係る予測ブロック生成装置を備える。 The image decoding device according to the third aspect includes the prediction block generation device according to the first aspect.

第4の態様に係るプログラムは、コンピュータを第1の態様に係る予測ブロック生成装置として機能させる。 The program according to the fourth aspect causes the computer to function as the predictive block generator according to the first aspect.

本発明によれば、CIIPにおける重み係数を適切に決定することで予測精度を改善する予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムを提供できる。 According to the present invention, it is possible to provide a prediction block generator, an image coding device, an image decoding device, and a program that improve prediction accuracy by appropriately determining a weighting coefficient in CIIP.

実施形態に係る画像符号化装置の構成を示す図である。It is a figure which shows the structure of the image coding apparatus which concerns on embodiment. 実施形態に係るイントラ予測モードの候補を示す図である。It is a figure which shows the candidate of the intra prediction mode which concerns on embodiment. イントラ予測のイントラ予測モードとしてのPlanarモードを示す図である。It is a figure which shows the Planar mode as the intra prediction mode of the intra prediction. 実施形態に係る画像符号化装置の合成処理部の構成を示す図である。It is a figure which shows the structure of the synthesis processing part of the image coding apparatus which concerns on embodiment. 実施形態に係る上ブロック及び左ブロックを示す図である。It is a figure which shows the upper block and the left block which concerns on embodiment. 実施形態に係る画像復号装置の構成を示す図である。It is a figure which shows the structure of the image decoding apparatus which concerns on embodiment. 実施形態に係る画像復号装置の合成処理部の構成を示す図である。It is a figure which shows the structure of the synthesis processing part of the image decoding apparatus which concerns on embodiment. 実施形態に係る画像復号装置における予測ブロック生成の動作フロー例を示す図である。It is a figure which shows the operation flow example of the prediction block generation in the image decoding apparatus which concerns on embodiment. その他の実施形態に係る合成処理部の構成を示す図である。It is a figure which shows the structure of the synthesis processing part which concerns on other embodiment.

図面を参照して、実施形態に係る画像符号化装置及び画像復号装置について説明する。実施形態に係る画像符号化装置及び画像復号装置は、MPEGに代表される動画像の符号化及び復号をそれぞれ行う。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。 The image coding apparatus and the image decoding apparatus according to the embodiment will be described with reference to the drawings. The image coding device and the image decoding device according to the embodiment respectively perform coding and decoding of a moving image represented by MPEG. In the description of the drawings below, the same or similar parts are designated by the same or similar reference numerals.

<画像符号化装置の構成>
まず、本実施形態に係る画像符号化装置の構成について説明する。図1は、本実施形態に係る画像符号化装置1の構成を示す図である。
<Configuration of image coding device>
First, the configuration of the image coding apparatus according to the present embodiment will be described. FIG. 1 is a diagram showing a configuration of an image coding device 1 according to the present embodiment.

図1に示すように、画像符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170とを有する。本実施形態において、予測部170は、画像符号化装置1に設けられる予測ブロック生成装置に相当する。 As shown in FIG. 1, the image coding apparatus 1 includes a block division unit 100, a subtraction unit 110, a conversion / quantization unit 120, an entropy coding unit 130, an inverse quantization / inverse conversion unit 140, and the like. It has a synthesis unit 150, a memory 160, and a prediction unit 170. In the present embodiment, the prediction unit 170 corresponds to the prediction block generation device provided in the image coding device 1.

ブロック分割部100は、動画像を構成するフレーム(或いはピクチャ)単位の入力画像である原画像を複数の画像ブロックに分割し、分割により得た画像ブロックを減算部110に出力する。画像ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。画像ブロックの形状は正方形に限らず長方形(非正方形)であってもよい。画像ブロックは、画像符号化装置1が符号化を行う単位(すなわち、符号化対象ブロック)であり、且つ画像復号装置が復号を行う単位(すなわち、復号対象ブロック)である。このような画像ブロックはCU(Coding Unit)と呼ばれることがある。 The block division unit 100 divides the original image, which is an input image for each frame (or picture) constituting a moving image, into a plurality of image blocks, and outputs the image block obtained by the division to the subtraction unit 110. The size of the image block is, for example, 32 × 32 pixels, 16 × 16 pixels, 8 × 8 pixels, 4 × 4 pixels, or the like. The shape of the image block is not limited to a square and may be a rectangle (non-square). The image block is a unit for encoding by the image coding device 1 (that is, a block to be encoded) and a unit for decoding by the image decoding device (that is, a block to be decoded). Such an image block is sometimes called a CU (Coding Unit).

減算部110は、ブロック分割部100から出力される符号化対象ブロックと、符号化対象ブロックを予測部170が予測して得た予測ブロックとの差分(誤差)を表す予測残差を算出する。具体的には、減算部110は、ブロックの各画素値から予測ブロックの各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。 The subtraction unit 110 calculates a prediction residual representing a difference (error) between the coding target block output from the block division unit 100 and the prediction block obtained by predicting the coding target block by the prediction unit 170. Specifically, the subtraction unit 110 calculates the prediction residual by subtracting each pixel value of the prediction block from each pixel value of the block, and outputs the calculated prediction residual to the conversion / quantization unit 120.

変換・量子化部120は、ブロック単位で直交変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを有する。 The conversion / quantization unit 120 performs orthogonal conversion processing and quantization processing in block units. The conversion / quantization unit 120 includes a conversion unit 121 and a quantization unit 122.

変換部121は、減算部110から出力される予測残差に対して直交変換処理を行って直交変換係数を算出し、算出した直交変換係数を量子化部122に出力する。直交変換とは、例えば、離散コサイン変換(DCT:Discrete Cosine Transform)や離散サイン変換(DST:Discrete Sine Transform)、カルーネンレーブ変換(KLT: Karhunen-Loeve Transform)等をいう。 The conversion unit 121 performs orthogonal conversion processing on the predicted residual output from the subtraction unit 110 to calculate the orthogonal conversion coefficient, and outputs the calculated orthogonal conversion coefficient to the quantization unit 122. The orthogonal transform refers to, for example, a discrete cosine transform (DCT), a discrete sine transform (DST), a Karhunen-Loeve transformation (KLT), and the like.

量子化部122は、変換部121から出力される直交変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化した直交変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。なお、量子化パラメータ(Qp)は、ブロック内の各直交変換係数に対して共通して適用されるパラメータであって、量子化の粗さを定めるパラメータである。量子化行列は、各直交変換係数を量子化する際の量子化値を要素として有する行列である。 The quantization unit 122 quantizes the orthogonal conversion coefficient output from the conversion unit 121 using the quantization parameter (Qp) and the quantization matrix, and the quantization unit is the entropy coding unit 130 and the inverse quantization. Output to the inverse conversion unit 140. The quantization parameter (Qp) is a parameter commonly applied to each orthogonal conversion coefficient in the block, and is a parameter that determines the roughness of quantization. The quantization matrix is a matrix having a quantization value as an element when quantizing each orthogonal conversion coefficient.

エントロピー符号化部130は、量子化部122から出力される直交変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを画像符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context−based Adaptive Binary Arithmetic Coding;コンテキスト適応型2値算術符号)等を用いることができる。なお、エントロピー符号化部130は、予測部170から予測に関する情報が入力され、入力された情報のエントロピー符号化も行う。 The entropy coding unit 130 performs entropy coding on the orthogonal conversion coefficient output from the quantization unit 122, performs data compression to generate coded data (bit stream), and image-codes the coded data. Output to the outside of device 1. For the entropy coding, a Huffman code, a CABAC (Context-based Adaptive Binary Arithmetic Coding) or the like can be used. In addition, the entropy coding unit 130 receives information about prediction from the prediction unit 170, and also performs entropy coding of the input information.

逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを有する。 The inverse quantization / inverse conversion unit 140 performs inverse quantization processing and inverse orthogonal conversion processing in block units. The inverse quantization / inverse conversion unit 140 includes an inverse quantization unit 141 and an inverse conversion unit 142.

逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から出力される直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより直交変換係数を復元し、復元した直交変換係数を逆変換部142に出力する。 The inverse quantization unit 141 performs an inverse quantization process corresponding to the quantization process performed by the quantization unit 122. Specifically, the inverse quantization unit 141 restores the orthogonal transformation coefficient by inversely quantizing the orthogonal transformation coefficient output from the quantization unit 122 using the quantization parameter (Qp) and the quantization matrix. , The restored orthogonal conversion coefficient is output to the inverse conversion unit 142.

逆変換部142は、変換部121が行う直交変換処理に対応する逆直交変換処理を行う。例えば、変換部121が離散コサイン変換を行った場合には、逆変換部142は逆離散コサイン変換を行う。逆変換部142は、逆量子化部141から出力される直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差である復元予測残差を合成部150に出力する。 The inverse conversion unit 142 performs an inverse orthogonal conversion process corresponding to the orthogonal conversion process performed by the conversion unit 121. For example, when the conversion unit 121 performs the discrete cosine transform, the inverse transform unit 142 performs the inverse discrete cosine transform. The inverse conversion unit 142 performs an inverse orthogonal conversion process on the orthogonal conversion coefficient output from the inverse quantization unit 141 to restore the predicted residual, and the restored predicted residual, which is the restored predicted residual, is combined with the composite unit 150. Output to.

合成部150は、逆変換部142から出力される復元予測残差を、予測部170から出力される予測ブロックと画素単位で合成する。合成部150は、復元予測残差の各画素値と予測ブロックの各画素値を加算して符号化対象ブロックを復号(再構成)し、復号済みブロックをメモリ160に出力する。なお、復号済みブロックは、再構成ブロックと呼ばれることもある。 The synthesizing unit 150 synthesizes the restoration prediction residual output from the inverse conversion unit 142 with the prediction block output from the prediction unit 170 in pixel units. The synthesis unit 150 adds each pixel value of the restoration prediction residual and each pixel value of the prediction block to decode (reconstruct) the coded block, and outputs the decoded block to the memory 160. The decrypted block is sometimes called a reconstructed block.

メモリ160は、合成部150から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ160は、記憶している復号済みブロック若しくは復号済み画像を予測部170に出力する。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。本実施形態において、メモリ160は、各復号済みブロックに適用された予測に関する情報(以下、「ブロック予測情報」と呼ぶ)をさらに記憶する。 The memory 160 stores the decoded blocks output from the compositing unit 150, and stores the decoded blocks as a decoded image in frame units. The memory 160 outputs the stored decoded block or decoded image to the prediction unit 170. A loop filter may be provided between the compositing unit 150 and the memory 160. In the present embodiment, the memory 160 further stores information regarding the prediction applied to each decoded block (hereinafter, referred to as “block prediction information”).

予測部170は、ブロック単位で予測を行う。予測部170が取り扱う符号化対象ブロックを「予測対象ブロック」と呼ぶ。予測部170は、イントラ予測部171と、インター予測部172と、合成処理部173と、切替部174とを有する。 The prediction unit 170 makes a prediction in block units. The coded block handled by the prediction unit 170 is called a “prediction target block”. The prediction unit 170 includes an intra prediction unit 171, an inter prediction unit 172, a synthesis processing unit 173, and a switching unit 174.

イントラ予測部171は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部171は、メモリ160に記憶された復号済み画像のうち、イントラ予測の予測対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部174に出力する。一般的に、イントラ予測部171は、複数のイントラ予測モードの中から、イントラ予測の予測対象ブロックに適用するイントラ予測モードを選択し、選択したイントラ予測モードを用いて対象ブロックを予測する。イントラ予測部171は、選択したイントラ予測モードに関する情報をエントロピー符号化部130に出力する。 The intra prediction unit 171 makes an intra prediction using the spatial correlation in the frame. Specifically, the intra prediction unit 171 generates an intra prediction block by referring to the decoded pixels around the prediction target block of the intra prediction among the decoded images stored in the memory 160, and the generated intra. The prediction block is output to the switching unit 174. Generally, the intra prediction unit 171 selects an intra prediction mode to be applied to the prediction target block of the intra prediction from a plurality of intra prediction modes, and predicts the target block using the selected intra prediction mode. The intra prediction unit 171 outputs information regarding the selected intra prediction mode to the entropy encoding unit 130.

図2は、本実施形態に係るイントラ予測モードの候補を示す図である。図2に示すように、イントラ予測モードの候補は、0から66までの67通りのイントラ予測モードがある。イントラ予測モードのモード「0」はPlanar予測であり、イントラ予測モードのモード「1」はDC予測であり、イントラ予測モードのモード「2」乃至「66」は方向性予測である。方向性予測において、矢印の方向は参照方向を示し、矢印の起点は予測対象の画素の位置を示し、矢印の終点はこの予測対象画素の予測に用いる参照画素の位置を示す。ブロックの右上頂点及び左下頂点を通る対角線に平行な参照方向として、左下方向を参照するイントラ予測モードであるモード「2」と、右上方向を参照するイントラ予測モードであるモード「66」とがあり、モード「2」からモード「66」まで時計回りに所定角度ごとにモード番号が割り振られている。 FIG. 2 is a diagram showing candidates for the intra prediction mode according to the present embodiment. As shown in FIG. 2, there are 67 intra-prediction modes from 0 to 66 as candidates for the intra-prediction mode. The mode "0" of the intra prediction mode is Planar prediction, the mode "1" of the intra prediction mode is DC prediction, and the modes "2" to "66" of the intra prediction mode are directional prediction. In the directionality prediction, the direction of the arrow indicates the reference direction, the starting point of the arrow indicates the position of the pixel to be predicted, and the end point of the arrow indicates the position of the reference pixel used to predict the pixel to be predicted. As reference directions parallel to the diagonal line passing through the upper right and lower left vertices of the block, there are an intra prediction mode "2" that refers to the lower left direction and a mode "66" that is an intra prediction mode that refers to the upper right direction. , Mode numbers are assigned to each predetermined angle clockwise from the mode "2" to the mode "66".

インター予測部172は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部172は、メモリ160に記憶された復号済み画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、インター予測の予測対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部174に出力する。ここで、インター予測部172は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。インター予測部172は、インター予測に関する情報(動きベクトル等)をエントロピー符号化部130に出力する。 The inter-prediction unit 172 performs inter-prediction using the correlation between frames. Specifically, the inter prediction unit 172 uses the decoded image stored in the memory 160 as a reference image, calculates a motion vector by a method such as block matching, predicts the prediction target block of the inter prediction, and inter predicts the inter. A prediction block is generated, and the generated inter-prediction block is output to the switching unit 174. Here, the inter-prediction unit 172 selects the optimum inter-prediction method from inter-prediction using a plurality of reference images (typically bi-prediction) and inter-prediction using one reference image (one-way prediction). Select and perform inter-prediction using the selected inter-prediction method. The inter-prediction unit 172 outputs information (motion vector, etc.) related to the inter-prediction to the entropy coding unit 130.

本実施形態において、予測部170は、CIIPの機能を有する。以下において、CIIPは、インター予測に属する機能であるものとする。予測部170は、予測対象ブロックにCIIPを適用する場合、CIIPの予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する。予測部170は、予測対象ブロックにCIIPを適用する場合、このブロックにCIIPを適用することを示す情報をエントロピー符号化部130に出力する。 In the present embodiment, the prediction unit 170 has a CIIP function. In the following, CIIP shall be a function belonging to inter-prediction. When CIIP is applied to the prediction target block, the prediction unit 170 predicts the prediction target block of CIIP by inter prediction and intra prediction, respectively, generates an inter prediction block and an intra prediction block, and generates an inter prediction block and an intra prediction block. The prediction block is output by synthesizing by weighted composition. When the CIIP is applied to the prediction target block, the prediction unit 170 outputs information indicating that the CIIP is applied to this block to the entropy encoding unit 130.

具体的には、予測対象ブロックにCIIPを適用する場合、イントラ予測部171及びインター予測部172は、同一の予測対象ブロックに対してイントラ予測及びインター予測をそれぞれ行う。そして、イントラ予測部171がイントラ予測ブロックを合成処理部173に出力するとともに、インター予測部172がインター予測ブロックを合成処理部173に出力する。 Specifically, when CIIP is applied to the prediction target block, the intra prediction unit 171 and the inter prediction unit 172 perform intra prediction and inter prediction for the same prediction target block, respectively. Then, the intra prediction unit 171 outputs the intra prediction block to the synthesis processing unit 173, and the inter prediction unit 172 outputs the inter prediction block to the synthesis processing unit 173.

CIIPにおいて、イントラ予測部171は、イントラ予測のイントラ予測モードとしてPlanarモードを適用する。図3に示すように、Planar予測は、4つの矢印の始点にある上下左右の4つの参照画素を用いて内挿予測により予測画素値を生成するイントラ予測モードである。或いは、CIIPにおいて、イントラ予測部171は、Planarモード以外のイントラ予測モードを適用してもよい。 In CIIP, the intra prediction unit 171 applies the Planar mode as the intra prediction mode of the intra prediction. As shown in FIG. 3, Planar prediction is an intra prediction mode in which prediction pixel values are generated by interpolation prediction using four reference pixels on the top, bottom, left, and right at the start points of the four arrows. Alternatively, in CIIP, the intra prediction unit 171 may apply an intra prediction mode other than the Planar mode.

合成処理部173は、イントラ予測部171から出力されるイントラ予測ブロック及びインター予測部172から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部174に出力する。本実施形態において、合成処理部173が出力する予測ブロックは、インター予測ブロックの一種であるものとする。合成処理部173の詳細については後述する。 The synthesis processing unit 173 generates a prediction block by synthesizing the intra prediction block output from the intra prediction unit 171 and the inter prediction block output from the inter prediction unit 172 by weighting synthesis, and the generated prediction block is switched. Output to 174. In the present embodiment, the prediction block output by the synthesis processing unit 173 is assumed to be a kind of inter-prediction block. The details of the synthesis processing unit 173 will be described later.

切替部174は、インター予測部172又は合成処理部173から出力されるインター予測ブロックとイントラ予測部171から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを減算部110及び合成部150に出力する。 The switching unit 174 switches between the inter-prediction block output from the inter-prediction unit 172 or the synthesis processing unit 173 and the intra-prediction block output from the intra-prediction unit 171, and subtracts one of the prediction blocks from the subtraction unit 110 and the synthesis unit. Output to 150.

図4は、本実施形態に係る画像符号化装置1の合成処理部173の構成を示す図である。 FIG. 4 is a diagram showing a configuration of a synthesis processing unit 173 of the image coding apparatus 1 according to the present embodiment.

図4に示すように、合成処理部173は、モード特定部173aと、重み係数決定部173bと、重み付け合成部173cとを有する。 As shown in FIG. 4, the synthesis processing unit 173 includes a mode specifying unit 173a, a weighting coefficient determining unit 173b, and a weighting combining unit 173c.

モード特定部173aは、メモリ160に記憶された各復号済みブロックのブロック予測情報に基づいて、予測対象ブロックの周辺にイントラ予測が適用された周辺ブロック(復号済みブロック)がある場合、当該周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定する。また、モード特定部173aは、予測対象ブロックの周辺にイントラ予測が適用された複数の周辺ブロックがある場合、当該複数の周辺ブロックのそれぞれに適用されたイントラ予測のイントラ予測モードを特定する。 When the mode specifying unit 173a has a peripheral block (decrypted block) to which the intra prediction is applied around the prediction target block based on the block prediction information of each decoded block stored in the memory 160, the peripheral block Identify the intra-prediction mode of the intra-prediction applied to. Further, when there are a plurality of peripheral blocks to which the intra prediction is applied around the prediction target block, the mode specifying unit 173a specifies the intra prediction mode of the intra prediction applied to each of the plurality of peripheral blocks.

本実施形態において、予測対象ブロックの上にある隣接ブロックである上ブロック及び予測対象ブロックの左にある隣接ブロックである左ブロックを周辺ブロックとして用いる。予測対象ブロック及び周辺ブロックは、ブロック形状やブロックサイズが互いに異なっている場合ある。このため、図5に示すように、上ブロックは、予測対象ブロックの最も右上にある画素の上側に隣接する画素を含む隣接ブロックとする。また、左ブロックは、予測対象ブロックの最も左下にある画素の左側に隣接する画素を含む隣接ブロックとする。 In the present embodiment, the upper block, which is an adjacent block above the prediction target block, and the left block, which is an adjacent block to the left of the prediction target block, are used as peripheral blocks. The block shape and block size of the prediction target block and the peripheral block may be different from each other. Therefore, as shown in FIG. 5, the upper block is an adjacent block including a pixel adjacent to the upper side of the pixel at the upper right of the prediction target block. Further, the left block is an adjacent block including a pixel adjacent to the left side of the pixel at the lower left of the prediction target block.

モード特定部173aは、予測対象ブロックのイントラ予測に適用されたイントラ予測モードと、複数の周辺ブロック(上ブロック及び左ブロック)のそれぞれのイントラ予測モードとを比較する。具体的には、モード特定部173aは、複数の周辺ブロックのそれぞれのイントラ予測モードのうち予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を特定し、特定したモード一致数を重み係数決定部173bに出力する。 The mode specifying unit 173a compares the intra prediction mode applied to the intra prediction of the prediction target block with the respective intra prediction modes of the plurality of peripheral blocks (upper block and left block). Specifically, the mode specifying unit 173a identifies and specifies the number of mode matches, which is the number that matches the intra prediction mode applied to the intra prediction of the prediction target block among the intra prediction modes of the plurality of peripheral blocks. The number of mode matches is output to the weighting coefficient determination unit 173b.

CIIPにおいて予測対象ブロックに適用されるイントラ予測モードがPlanarモードで固定である場合、モード特定部173aは、周辺ブロックのイントラ予測モードの情報をメモリ160から読み出し、周辺ブロックのイントラ予測モードのうちPlanarモードの個数をモード一致数として特定する。本実施形態においては周辺ブロックを上ブロック及び左ブロックとしているため、モード一致数は、0、1、又は2となる。 When the intra-prediction mode applied to the prediction target block in CIIP is fixed in Planar mode, the mode identification unit 173a reads the information of the intra-prediction mode of the peripheral block from the memory 160, and the Planar in the intra-prediction mode of the peripheral block. The number of modes is specified as the number of mode matches. In the present embodiment, since the peripheral blocks are the upper block and the left block, the number of mode matches is 0, 1, or 2.

一方、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードが可変である場合、モード特定部173aは、周辺ブロックのイントラ予測モードの情報をメモリ160から読み出すとともに、予測対象ブロックに適用されるイントラ予測モードの情報をイントラ予測部171から取得する。そして、モード特定部173aは、周辺ブロックのイントラ予測モードのうち、予測対象ブロックに適用されるイントラ予測モードの個数をモード一致数として特定する。本実施形態においては周辺ブロックを上ブロック及び左ブロックとしているため、モード一致数は、0、1、又は2となる。 On the other hand, when the intra prediction mode applied to the prediction target block in CIIP is variable, the mode specifying unit 173a reads the information of the intra prediction mode of the peripheral block from the memory 160 and the intra prediction applied to the prediction target block. The mode information is acquired from the intra prediction unit 171. Then, the mode specifying unit 173a specifies the number of intra prediction modes applied to the prediction target block among the intra prediction modes of the peripheral blocks as the number of mode matches. In the present embodiment, since the peripheral blocks are the upper block and the left block, the number of mode matches is 0, 1, or 2.

重み係数決定部173bは、モード特定部173aが特定した周辺ブロックのイントラ予測モードに基づいて、CIIPにおける重み付け合成に用いる重み係数を決定し、決定した重み係数を重み付け合成部173cに出力する。本実施形態において、重み係数決定部173bは、モード特定部173aが出力するモード一致数に基づいて重み係数を決定する。 The weighting coefficient determining unit 173b determines the weighting coefficient used for the weighting synthesis in CIIP based on the intra prediction mode of the peripheral block specified by the mode specifying unit 173a, and outputs the determined weighting coefficient to the weighting combining unit 173c. In the present embodiment, the weighting coefficient determining unit 173b determines the weighting coefficient based on the number of mode matches output by the mode specifying unit 173a.

例えば、重み係数決定部173bは、表1に示すように、モード一致数の増加につれて、インター予測ブロックに対するイントラ予測ブロックの重みの比が大きくなるように、重み係数を決定する。 For example, as shown in Table 1, the weighting coefficient determining unit 173b determines the weighting coefficient so that the ratio of the weight of the intra prediction block to the inter prediction block increases as the number of mode matches increases.

Figure 2021027464
Figure 2021027464

ここでは、イントラ予測ブロックの重み及びインター予測ブロックの重みの合計が4になるようにしている。例えば、重み係数決定部173bは、イントラ予測ブロックの重みを重み係数wtとして重み付け合成部173cに出力する。 Here, the total of the weights of the intra prediction block and the weights of the inter prediction block is set to 4. For example, the weighting coefficient determination unit 173b outputs the weight of the intra prediction block as the weighting coefficient wt to the weighting synthesis unit 173c.

重み付け合成部173cは、重み係数決定部173bから出力される重み係数wtに基づいて、イントラ予測部171から出力されるイントラ予測ブロック及びインター予測部172から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部174に出力する。 The weighting synthesis unit 173c synthesizes the intra prediction block output from the intra prediction unit 171 and the inter prediction block output from the inter prediction unit 172 by weighting synthesis based on the weight coefficient wt output from the weight coefficient determination unit 173b. By doing so, a prediction block is generated, and the generated prediction block is output to the switching unit 174.

具体的には、重み付け合成部173cは、イントラ予測ブロック及びインター予測ブロックを画素単位で重み付け合成により合成する。例えば、イントラ予測ブロックの画素値をPintra、インター予測ブロックの画素値をPinterとした場合、重み付け合成部173cは、予測ブロックの画素値PCIIPを次の式(1)により算出する。 Specifically, the weighted synthesis unit 173c synthesizes the intra prediction block and the inter prediction block by weighted synthesis on a pixel-by-pixel basis. For example, the pixel value P intra intra prediction block, if the pixel value of the inter prediction block was P inter, weighting combining unit 173c has a pixel value P CIIP prediction block is calculated by the following equation (1).

Figure 2021027464
Figure 2021027464

<画像復号装置の構成>
次に、本実施形態に係る画像復号装置の構成について説明する。図6は、本実施形態に係る画像復号装置2の構成を示す図である。
<Configuration of image decoding device>
Next, the configuration of the image decoding device according to the present embodiment will be described. FIG. 6 is a diagram showing a configuration of an image decoding device 2 according to the present embodiment.

図6に示すように、画像復号装置2は、エントロピー復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240とを有する。本実施形態において、予測部240は、画像復号装置2に設けられる予測ブロック生成装置に相当する。 As shown in FIG. 6, the image decoding device 2 includes an entropy decoding unit 200, an inverse quantization / inverse conversion unit 210, a synthesis unit 220, a memory 230, and a prediction unit 240. In the present embodiment, the prediction unit 240 corresponds to the prediction block generation device provided in the image decoding device 2.

エントロピー復号部200は、画像符号化装置1により生成された符号化データを復号し、量子化された直交変換係数を逆量子化・逆変換部210に出力する。また、エントロピー復号部200は、予測(イントラ予測及びインター予測)に関する情報を取得し、取得した情報を予測部240に出力する。本実施形態において、エントロピー復号部200は、復号対象ブロックにCIIPが適用されている場合、復号対象ブロックにCIIPが適用されていることを示す情報を取得し、取得した情報を予測部240に出力する。 The entropy decoding unit 200 decodes the coded data generated by the image coding device 1 and outputs the quantized orthogonal conversion coefficient to the inverse quantization / inverse conversion unit 210. Further, the entropy decoding unit 200 acquires information on prediction (intra-prediction and inter-prediction), and outputs the acquired information to the prediction unit 240. In the present embodiment, when CIIP is applied to the decoding target block, the entropy decoding unit 200 acquires information indicating that CIIP is applied to the decoding target block, and outputs the acquired information to the prediction unit 240. To do.

逆量子化・逆変換部210は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを有する。 The inverse quantization / inverse conversion unit 210 performs the inverse quantization process and the inverse orthogonal conversion process on a block-by-block basis. The inverse quantization / inverse conversion unit 210 includes an inverse quantization unit 211 and an inverse conversion unit 212.

逆量子化部211は、画像符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー復号部200から出力される量子化直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、復号対象ブロックの直交変換係数を復元し、復元した直交変換係数を逆変換部212に出力する。 The inverse quantization unit 211 performs the inverse quantization process corresponding to the quantization process performed by the quantization unit 122 of the image coding apparatus 1. The inverse quantization unit 211 reverse-quantizes the quantization orthogonal conversion coefficient output from the entropy decoding unit 200 using the quantization parameter (Qp) and the quantization matrix to obtain the orthogonal conversion coefficient of the block to be decoded. It is restored and the restored orthogonal conversion coefficient is output to the inverse conversion unit 212.

逆変換部212は、画像符号化装置1の変換部121が行う直交変換処理に対応する逆直交変換処理を行う。逆変換部212は、逆量子化部211から出力される直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差(復元予測残差)を合成部220に出力する。 The inverse conversion unit 212 performs an inverse orthogonal conversion process corresponding to the orthogonal conversion process performed by the conversion unit 121 of the image coding apparatus 1. The inverse conversion unit 212 performs an inverse orthogonal conversion process on the orthogonal conversion coefficient output from the inverse quantization unit 211 to restore the predicted residual, and the restored predicted residual (restored predicted residual) is combined with the composite unit 220. Output to.

合成部220は、逆変換部212から出力される予測残差と、予測部240から出力される予測ブロックとを画素単位で合成することにより、元のブロックを復号(再構成)し、復号済みブロックをメモリ230に出力する。 The synthesis unit 220 decodes (reconstructs) the original block by synthesizing the prediction residual output from the inverse conversion unit 212 and the prediction block output from the prediction unit 240 in pixel units, and has already been decoded. The block is output to the memory 230.

メモリ230は、合成部220から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ230は、復号済みブロック若しくは復号済み画像を予測部240に出力する。また、メモリ230は、フレーム単位の復号済み画像を画像復号装置2の外部に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。本実施形態において、メモリ230は、各復号済みブロックに適用された予測に関するブロック予測情報をさらに記憶する。 The memory 230 stores the decoded blocks output from the compositing unit 220, and stores the decoded blocks as a decoded image in frame units. The memory 230 outputs the decoded block or the decoded image to the prediction unit 240. Further, the memory 230 outputs the decoded image in frame units to the outside of the image decoding device 2. A loop filter may be provided between the synthesis unit 220 and the memory 230. In this embodiment, the memory 230 further stores block prediction information regarding the prediction applied to each decoded block.

予測部240は、ブロック単位で予測を行う。予測部240は、イントラ予測部241と、インター予測部242と、合成処理部243と、切替部244とを有する。 The prediction unit 240 makes a prediction in block units. The prediction unit 240 has an intra prediction unit 241, an inter prediction unit 242, a synthesis processing unit 243, and a switching unit 244.

イントラ予測部241は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部241は、エントロピー復号部200から出力されるイントラ予測に関する情報(例えば、イントラ予測モードの情報)に基づいて、メモリ230に記憶された復号済み画像のうちイントラ予測の予測対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部244に出力する。 The intra prediction unit 241 makes an intra prediction using the spatial correlation in the frame. Specifically, the intra prediction unit 241 determines the intra prediction among the decoded images stored in the memory 230 based on the information regarding the intra prediction output from the entropy decoding unit 200 (for example, the information of the intra prediction mode). An intra prediction block is generated with reference to the decoded pixels around the prediction target block, and the generated intra prediction block is output to the switching unit 244.

インター予測部242は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部242は、エントロピー復号部200から出力されるインター予測に関する情報(例えば、動きベクトル情報)に基づいて、メモリ230に記憶された復号済み画像を参照画像として用いてインター予測の予測対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部244に出力する。 The inter-prediction unit 242 performs inter-prediction using the correlation between frames. Specifically, the inter-prediction unit 242 uses the decoded image stored in the memory 230 as a reference image based on the inter-prediction information (for example, motion vector information) output from the entropy decoding unit 200. An inter-prediction block is generated by predicting a prediction target block for prediction, and the generated inter-prediction block is output to the switching unit 244.

本実施形態において、予測部240は、CIIPの機能を有する。予測部240は、エントロピー復号部200から出力される情報が予測対象ブロックにCIIPを適用することを示す情報を含む場合、CIIPの予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する。 In the present embodiment, the prediction unit 240 has a CIIP function. When the information output from the entropy decoding unit 200 includes information indicating that CIIP is applied to the prediction target block, the prediction unit 240 predicts the prediction target block of CIIP by inter-prediction and intra-prediction, respectively. And the intra prediction block is generated, and the prediction block is output by synthesizing the inter prediction block and the intra prediction block by weighted synthesis.

具体的には、予測対象ブロックにCIIPを適用する場合、イントラ予測部241及びインター予測部242は、同一の予測対象ブロックに対してイントラ予測及びインター予測をそれぞれ行う。そして、イントラ予測部241がイントラ予測ブロックを合成処理部243に出力するとともに、インター予測部242がインター予測ブロックを合成処理部243に出力する。CIIPにおいて、イントラ予測部241は、イントラ予測のイントラ予測モードとしてPlanarモードを適用する。或いは、CIIPにおいて、イントラ予測部241は、Planarモード以外のイントラ予測モードを適用してもよい。 Specifically, when CIIP is applied to the prediction target block, the intra prediction unit 241 and the inter prediction unit 242 perform intra prediction and inter prediction for the same prediction target block, respectively. Then, the intra prediction unit 241 outputs the intra prediction block to the synthesis processing unit 243, and the inter prediction unit 242 outputs the inter prediction block to the synthesis processing unit 243. In CIIP, the intra prediction unit 241 applies the Planar mode as the intra prediction mode of the intra prediction. Alternatively, in CIIP, the intra prediction unit 241 may apply an intra prediction mode other than the Planar mode.

合成処理部243は、イントラ予測部241から出力されるイントラ予測ブロック及びインター予測部242から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部244に出力する。 The synthesis processing unit 243 generates a prediction block by synthesizing the intra prediction block output from the intra prediction unit 241 and the inter prediction block output from the inter prediction unit 242 by weighting synthesis, and the generated prediction block is switched. Output to 244.

切替部244は、インター予測部242又は合成処理部243から出力されるインター予測ブロックとイントラ予測部241から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを合成部220に出力する。 The switching unit 244 switches between the inter prediction block output from the inter prediction unit 242 or the synthesis processing unit 243 and the intra prediction block output from the intra prediction unit 241, and outputs one of the prediction blocks to the synthesis unit 220. ..

図7は、本実施形態に係る画像復号装置2の合成処理部243の構成を示す図である。 FIG. 7 is a diagram showing a configuration of a synthesis processing unit 243 of the image decoding apparatus 2 according to the present embodiment.

図7に示すように、合成処理部243は、モード特定部243aと、重み係数決定部243bと、重み付け合成部243cとを有する。モード特定部243a、重み係数決定部243b、及び重み付け合成部243cは、図4に示すモード特定部173a、重み係数決定部173b、及び重み付け合成部173cとそれぞれ同様な動作を行う。 As shown in FIG. 7, the synthesis processing unit 243 includes a mode specifying unit 243a, a weighting coefficient determining unit 243b, and a weighting combining unit 243c. The mode specifying unit 243a, the weighting coefficient determining unit 243b, and the weighting combining unit 243c perform the same operations as the mode specifying unit 173a, the weighting coefficient determining unit 173b, and the weighting combining unit 173c shown in FIG.

<予測ブロック生成の動作例>
次に、本実施形態に係る予測ブロック生成の動作フロー例について説明する。画像符号化装置1及び画像復号装置2で予測ブロック生成の動作は同じであるが、ここでは画像復号装置2における予測ブロック生成(予測部240)の動作を説明する。
<Operation example of predictive block generation>
Next, an operation flow example of predictive block generation according to this embodiment will be described. The operation of the prediction block generation is the same in the image coding device 1 and the image decoding device 2, but here, the operation of the prediction block generation (prediction unit 240) in the image decoding device 2 will be described.

図8は、本実施形態に係る画像復号装置2における予測ブロック生成(予測部240)の動作フロー例を示す図である。 FIG. 8 is a diagram showing an operation flow example of the prediction block generation (prediction unit 240) in the image decoding device 2 according to the present embodiment.

図8に示すように、ステップS1において、予測部240は、エントロピー復号部200から出力される情報に基づいて、予測対象ブロックにCIIPを適用するか否かを判定する。 As shown in FIG. 8, in step S1, the prediction unit 240 determines whether or not to apply CIIP to the prediction target block based on the information output from the entropy decoding unit 200.

予測対象ブロックにCIIPを適用する場合(ステップS1:YES)、ステップS2において、イントラ予測部241及びインター予測部242は、予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成する。 When CIIP is applied to the prediction target block (step S1: YES), in step S2, the intra prediction unit 241 and the inter prediction unit 242 predict the prediction target block by inter prediction and intra prediction, respectively, and the inter prediction block and intra prediction. Generate a prediction block.

ステップS3において、モード特定部243aは、予測対象ブロックの周辺にある周辺ブロックに適用されたイントラ予測のイントラ予測モードの情報をメモリ230から取得する。本実施形態において、予測対象ブロックの上にある隣接ブロックである上ブロック及び予測対象ブロックの左にある隣接ブロックである左ブロックを周辺ブロックとして用いる。 In step S3, the mode specifying unit 243a acquires the information of the intra prediction mode of the intra prediction applied to the peripheral blocks around the prediction target block from the memory 230. In the present embodiment, the upper block, which is an adjacent block above the prediction target block, and the left block, which is an adjacent block to the left of the prediction target block, are used as peripheral blocks.

ステップS4において、モード特定部243aは、複数の周辺ブロックのそれぞれのイントラ予測モードのうち予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を特定する。 In step S4, the mode specifying unit 243a specifies the number of mode matches, which is the number that matches the intra prediction mode applied to the intra prediction of the prediction target block among the intra prediction modes of the plurality of peripheral blocks.

上述したように、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードがPlanarモードで固定である場合、モード特定部243aは、周辺ブロックのイントラ予測モードの情報をメモリ230から読み出し、周辺ブロックのイントラ予測モードのうちPlanarモードの個数をモード一致数として特定する。 As described above, when the intra prediction mode applied to the prediction target block in CIIP is fixed to the Planar mode, the mode specifying unit 243a reads the information of the intra prediction mode of the peripheral block from the memory 230 and intra of the peripheral block. The number of Planar modes among the prediction modes is specified as the number of mode matches.

一方、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードが可変である場合、モード特定部243aは、周辺ブロックのイントラ予測モードの情報をメモリ230から読み出すとともに、予測対象ブロックに適用されるイントラ予測モードの情報をイントラ予測部241から取得する。そして、モード特定部243aは、周辺ブロックのイントラ予測モードのうち、予測対象ブロックに適用されるイントラ予測モードの個数をモード一致数として特定する。 On the other hand, when the intra prediction mode applied to the prediction target block in CIIP is variable, the mode specifying unit 243a reads the information of the intra prediction mode of the peripheral block from the memory 230 and the intra prediction applied to the prediction target block. The mode information is acquired from the intra prediction unit 241. Then, the mode specifying unit 243a specifies the number of intra prediction modes applied to the prediction target block among the intra prediction modes of the peripheral blocks as the number of mode matches.

ステップS5において、重み係数決定部243bは、モード特定部243aが出力するモード一致数に基づいて、CIIPにおける重み付け合成に用いる重み係数を表1により決定し、決定した重み係数を重み付け合成部243cに出力する。 In step S5, the weighting coefficient determining unit 243b determines the weighting coefficient used for weighting synthesis in CIIP based on the number of mode matches output by the mode specifying unit 243a according to Table 1, and the determined weighting coefficient is assigned to the weighting combining unit 243c. Output.

ステップS6において、重み付け合成部243cは、重み係数決定部243bから出力される重み係数に基づいて、イントラ予測部241から出力されるイントラ予測ブロック及びインター予測部242から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを出力する。 In step S6, the weighting synthesis unit 243c weights the intra prediction block output from the intra prediction unit 241 and the inter prediction block output from the inter prediction unit 242 based on the weight coefficient output from the weight coefficient determination unit 243b. A prediction block is generated by synthesizing by synthesis, and the generated prediction block is output.

<実施形態のまとめ>
上述したように、本実施形態に係る合成処理部173及び合成処理部243は、予測対象ブロックにCIIPを適用する場合、周辺ブロックのイントラ予測モードに基づいてCIIPにおける重み付け合成に用いる重み係数を決定する。
<Summary of Embodiment>
As described above, when the synthesis processing unit 173 and the synthesis processing unit 243 according to the present embodiment apply the CIIP to the prediction target block, the weighting coefficient used for the weighting synthesis in the CIIP is determined based on the intra prediction mode of the peripheral blocks. To do.

これにより、周辺ブロックでイントラ予測が適用されていても、予測対象ブロックと周辺ブロックとでイントラ予測モードが一致しない場合には、イントラ予測ブロックの重みを大きくしないことで、CIIPにおける予測精度の低下を抑制できる。 As a result, even if the intra prediction is applied in the peripheral block, if the intra prediction mode does not match between the prediction target block and the peripheral block, the weight of the intra prediction block is not increased, so that the prediction accuracy in CIIP is lowered. Can be suppressed.

また、予測対象ブロックと周辺ブロックとでイントラ予測モードが一致する場合は、予測対象ブロックと周辺ブロックとで相関性が高いといえるため、イントラ予測ブロックの重みを大きくすることで、CIIPにおける予測精度を向上させることができる。 In addition, when the intra prediction mode matches between the prediction target block and the peripheral block, it can be said that the prediction target block and the peripheral block have a high correlation. Therefore, by increasing the weight of the intra prediction block, the prediction accuracy in CIIP Can be improved.

<その他の実施形態>
上述した実施形態において、合成処理部173及び合成処理部243は、予測対象ブロックにCIIPを適用する場合、周辺ブロックのイントラ予測モードに基づいてCIIPにおける重み付け合成に用いる重み係数を決定していた。しかしながら、重み係数の決定にあたり、周辺ブロックのイントラ予測モードだけではなく、周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを考慮してもよい。
<Other Embodiments>
In the above-described embodiment, when the synthesis processing unit 173 and the synthesis processing unit 243 apply the CIIP to the prediction target block, the weighting coefficient used for the weighting synthesis in the CIIP is determined based on the intra prediction mode of the peripheral blocks. However, in determining the weighting coefficient, not only the intra-prediction mode of the peripheral block but also whether the prediction method applied to the peripheral block is intra-prediction or inter-prediction may be considered.

図9は、その他の実施形態に係る合成処理部173の構成を示す図である。ここでは合成処理部173の構成を例に挙げて説明するが、合成処理部243も同様に構成されるものとする。 FIG. 9 is a diagram showing a configuration of a synthesis processing unit 173 according to another embodiment. Here, the configuration of the synthesis processing unit 173 will be described as an example, but the synthesis processing unit 243 is also configured in the same manner.

図9に示すように、合成処理部173は、周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを特定する予測方式特定部173dをさらに有する。例えば、予測方式特定部173dは、上ブロック及び左ブロック(図5参照)のそれぞれについて、適用された予測方式がイントラ予測であるか又はインター予測であるかを示す予測方式情報を取得し、取得した予測方式情報を重み係数決定部173bに出力する。 As shown in FIG. 9, the synthesis processing unit 173 further includes a prediction method specifying unit 173d that specifies whether the prediction method applied to the peripheral block is an intra prediction or an inter prediction. For example, the prediction method specifying unit 173d acquires and acquires prediction method information indicating whether the applied prediction method is intra prediction or inter prediction for each of the upper block and the left block (see FIG. 5). The predicted prediction method information is output to the weighting coefficient determination unit 173b.

重み係数決定部173bは、予測方式特定部173dが特定した周辺ブロックの予測方式と、モード特定部173aが特定した周辺ブロックのイントラ予測モードとに基づいて、CIIPにおける重み付け合成に用いる重み係数を決定する。例えば、重み係数決定部173bは、表2に示すように重み係数を決定する。 The weighting coefficient determining unit 173b determines the weighting coefficient used for weighting synthesis in CIIP based on the prediction method of the peripheral block specified by the prediction method specifying unit 173d and the intra prediction mode of the peripheral block specified by the mode specifying unit 173a. To do. For example, the weighting coefficient determining unit 173b determines the weighting coefficient as shown in Table 2.

Figure 2021027464
Figure 2021027464

ここでは、イントラ予測ブロックの重み及びインター予測ブロックの重みの合計が8になるようにしている。例えば、重み係数決定部173bは、イントラ予測ブロックの重みを重み係数wtとして重み付け合成部173cに出力する。 Here, the total of the weights of the intra prediction block and the weights of the inter prediction block is set to 8. For example, the weighting coefficient determination unit 173b outputs the weight of the intra prediction block as the weighting coefficient wt to the weighting synthesis unit 173c.

なお、画像符号化装置1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。画像復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD−ROMやDVD−ROM等の記録媒体であってもよい。 A program for causing the computer to execute each process performed by the image coding apparatus 1 may be provided. A program that causes a computer to execute each process performed by the image decoding device 2 may be provided. The program may be recorded on a computer-readable medium. Computer-readable media can be used to install programs on a computer. Here, the computer-readable medium on which the program is recorded may be a non-transient recording medium. The non-transient recording medium is not particularly limited, but may be, for example, a recording medium such as a CD-ROM or a DVD-ROM.

画像符号化装置1が行う各処理を実行する回路を集積化し、画像符号化装置1を半導体集積回路(チップセット、SoC)により構成してもよい。画像復号装置2が行う各処理を実行する回路を集積化し、画像復号装置2を半導体集積回路(チップセット、SoC)により構成してもよい。 A circuit that executes each process performed by the image coding device 1 may be integrated, and the image coding device 1 may be configured by a semiconductor integrated circuit (chipset, SoC). A circuit that executes each process performed by the image decoding device 2 may be integrated, and the image decoding device 2 may be configured by a semiconductor integrated circuit (chipset, SoC).

以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。 Although the embodiments have been described in detail with reference to the drawings, the specific configuration is not limited to the above, and various design changes and the like can be made without departing from the gist.

1 :画像符号化装置
2 :画像復号装置
100 :ブロック分割部
110 :減算部
120 :変換・量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆量子化・逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :イントラ予測部
172 :インター予測部
173 :合成処理部
173a :モード特定部
173b :重み係数決定部
173c :重み付け合成部
173d :予測方式特定部
174 :切替部
200 :エントロピー復号部
210 :逆量子化・逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :イントラ予測部
242 :インター予測部
243 :合成処理部
243a :モード特定部
243b :重み係数決定部
243c :重み付け合成部
243d :予測方式特定部
244 :切替部
1: Image coding device 2: Image decoding device 100: Block division unit 110: Subtraction unit 120: Conversion / quantization unit 121: Conversion unit 122: Quantization unit 130: Entropy coding unit 140: Inverse quantization / inverse conversion Part 141: Inverse quantization unit 142: Inverse conversion unit 150: Synthesis unit 160: Memory 170: Prediction unit 171: Intra prediction unit 172: Inter prediction unit 173: Synthesis processing unit 173a: Mode specification unit 173b: Weight coefficient determination unit 173c : Weighted synthesis unit 173d: Prediction method specification unit 174: Switching unit 200: Entropy decoding unit 210: Inverse quantization / inverse conversion unit 211: Inverse quantization unit 212: Inverse conversion unit 220: Synthesis unit 230: Memory 240: Prediction unit 241: Intra prediction unit 242: Inter prediction unit 243: Synthesis processing unit 243a: Mode specification unit 243b: Weight coefficient determination unit 243c: Weight composition unit 243d: Prediction method specification unit 244: Switching unit

Claims (8)

画像を分割して得た予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、前記インター予測ブロック及び前記イントラ予測ブロックを重み付け合成により合成することで前記予測対象ブロックに対する予測ブロックを出力する予測ブロック生成装置であって、
前記予測対象ブロックの周辺にイントラ予測が適用された周辺ブロックがある場合、前記周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定するモード特定部と、
前記モード特定部が特定した前記イントラ予測モードに基づいて、前記重み付け合成に用いる重み係数を決定する重み係数決定部と、を備えることを特徴とする予測ブロック生成装置。
The prediction target block obtained by dividing the image is predicted by inter-prediction and intra-prediction, respectively, an inter-prediction block and an intra-prediction block are generated, and the inter-prediction block and the intra-prediction block are combined by weighted synthesis. A prediction block generator that outputs a prediction block for a prediction target block.
When there is a peripheral block to which the intra prediction is applied around the prediction target block, a mode specifying unit that specifies the intra prediction mode of the intra prediction applied to the peripheral block, and
A prediction block generation device including a weighting coefficient determining unit that determines a weighting coefficient used for the weighting synthesis based on the intra prediction mode specified by the mode specifying unit.
前記モード特定部は、
前記予測対象ブロックの周辺にイントラ予測が適用された複数の周辺ブロックがある場合、前記複数の周辺ブロックのそれぞれに適用されたイントラ予測のイントラ予測モードを特定し、
前記予測対象ブロックのイントラ予測に適用されたイントラ予測モードと、前記複数の周辺ブロックのそれぞれのイントラ予測モードとを比較し、
前記重み係数決定部は、
前記比較の結果に基づいて前記重み係数を決定することを特徴とする請求項1に記載の予測ブロック生成装置。
The mode specific part is
When there are a plurality of peripheral blocks to which the intra prediction is applied around the prediction target block, the intra prediction mode of the intra prediction applied to each of the plurality of peripheral blocks is specified.
The intra prediction mode applied to the intra prediction of the prediction target block is compared with the intra prediction mode of each of the plurality of peripheral blocks.
The weighting coefficient determining unit
The predictive block generator according to claim 1, wherein the weighting factor is determined based on the result of the comparison.
前記モード特定部は、
前記複数の周辺ブロックのそれぞれのイントラ予測モードのうち前記予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を前記比較により特定し、
前記重み係数決定部は、
前記モード一致数に基づいて前記重み係数を決定することを特徴とする請求項2に記載の予測ブロック生成装置。
The mode specific part is
Among the intra prediction modes of the plurality of peripheral blocks, the number of mode matches that matches the intra prediction mode applied to the intra prediction of the prediction target block is specified by the comparison.
The weighting coefficient determining unit
The predictive block generator according to claim 2, wherein the weighting coefficient is determined based on the number of mode matches.
前記重み係数決定部は、
前記モード一致数の増加につれて、前記インター予測ブロックに対する前記イントラ予測ブロックの重みの比が大きくなるように、前記重み係数を決定することを特徴とする請求項3に記載の予測ブロック生成装置。
The weighting coefficient determining unit
The prediction block generation device according to claim 3, wherein the weighting coefficient is determined so that the ratio of the weight of the intra prediction block to the inter prediction block increases as the number of mode matches increases.
前記周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを特定する予測方式特定部をさらに備え、
前記重み係数決定部は、前記予測方式特定部が特定した前記予測方式と、前記モード特定部が特定した前記イントラ予測モードとに基づいて、前記重み係数を決定することを特徴とする請求項1乃至4のいずれか1項に記載の予測ブロック生成装置。
Further provided with a prediction method specifying unit for specifying whether the prediction method applied to the peripheral block is an intra prediction or an inter prediction.
1. The weighting coefficient determining unit determines the weighting coefficient based on the prediction method specified by the prediction method specifying unit and the intra prediction mode specified by the mode specifying unit. The predictive block generator according to any one of items 4 to 4.
請求項1乃至5のいずれか1項に記載の予測ブロック生成装置を備えることを特徴とする画像符号化装置。 An image coding device including the prediction block generation device according to any one of claims 1 to 5. 請求項1乃至5のいずれか1項に記載の予測ブロック生成装置を備えることを特徴とする画像復号装置。 An image decoding device comprising the prediction block generation device according to any one of claims 1 to 5. コンピュータを請求項1乃至5のいずれか1項に記載の予測ブロック生成装置として機能させることを特徴とするプログラム。 A program characterized in that a computer functions as a predictive block generator according to any one of claims 1 to 5.
JP2019143892A 2019-08-05 2019-08-05 Predictive block generation device, image encoding device, image decoding device, and program Active JP7361522B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019143892A JP7361522B2 (en) 2019-08-05 2019-08-05 Predictive block generation device, image encoding device, image decoding device, and program
JP2023172326A JP2023168518A (en) 2019-08-05 2023-10-03 Prediction block generation device, image encoder, image decoder, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019143892A JP7361522B2 (en) 2019-08-05 2019-08-05 Predictive block generation device, image encoding device, image decoding device, and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023172326A Division JP2023168518A (en) 2019-08-05 2023-10-03 Prediction block generation device, image encoder, image decoder, and program

Publications (2)

Publication Number Publication Date
JP2021027464A true JP2021027464A (en) 2021-02-22
JP7361522B2 JP7361522B2 (en) 2023-10-16

Family

ID=74662541

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019143892A Active JP7361522B2 (en) 2019-08-05 2019-08-05 Predictive block generation device, image encoding device, image decoding device, and program
JP2023172326A Pending JP2023168518A (en) 2019-08-05 2023-10-03 Prediction block generation device, image encoder, image decoder, and program

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023172326A Pending JP2023168518A (en) 2019-08-05 2023-10-03 Prediction block generation device, image encoder, image decoder, and program

Country Status (1)

Country Link
JP (2) JP7361522B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887732A (en) * 2021-04-30 2021-06-01 浙江智慧视频安防创新中心有限公司 Method and device for inter-frame and intra-frame joint prediction coding and decoding with configurable weight
WO2023277104A1 (en) * 2021-06-29 2023-01-05 Kddi株式会社 Image decoding device, image decoding method, and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3117933C (en) 2018-11-08 2023-05-23 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image signal encoding/decoding method and apparatus therefor
WO2020156536A1 (en) 2019-02-01 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Harmonization between different video process mode

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887732A (en) * 2021-04-30 2021-06-01 浙江智慧视频安防创新中心有限公司 Method and device for inter-frame and intra-frame joint prediction coding and decoding with configurable weight
WO2022227622A1 (en) * 2021-04-30 2022-11-03 浙江智慧视频安防创新中心有限公司 Weight-configurable inter-frame and intra-frame joint prediction coding and decoding methods and devices
WO2023277104A1 (en) * 2021-06-29 2023-01-05 Kddi株式会社 Image decoding device, image decoding method, and program

Also Published As

Publication number Publication date
JP2023168518A (en) 2023-11-24
JP7361522B2 (en) 2023-10-16

Similar Documents

Publication Publication Date Title
WO2020036132A1 (en) Image encoding device, image decoding device, and program
JP2023168518A (en) Prediction block generation device, image encoder, image decoder, and program
US20210014489A1 (en) Intra prediction device, image encoding device, image decoding device and program
JP7357736B2 (en) Encoding device, decoding device, and program
JP2024053019A (en) Encoding device, decoding device, and program
JP2023138826A (en) Intra prediction device, image coding device, image decoding device, and program
JP7415067B2 (en) Intra prediction device, image decoding device, and program
JP2017103810A (en) Moving picture decoding method
CN113056918B (en) Image encoding device, image decoding device, and program
JP2020137119A (en) Intra prediction device, image coding device, image decoding device, and program
JP7219030B2 (en) Chroma intra prediction candidate generation device, image coding device, image decoding device, and program
JP2007266861A (en) Image encoding device
JP7361498B2 (en) Intra prediction device, image encoding device, image decoding device, and program
JP7444599B2 (en) Intra prediction device, image encoding device, image decoding device, and program
JP2020053725A (en) Predictive image correction device, image encoding device, image decoding device, and program
JP7396883B2 (en) Encoding device, decoding device, and program
JP7100194B2 (en) Image coding device, image decoding device, and program
WO2021100450A1 (en) Intra prediction device, image encoding device, image decoding device, and program
WO2021132404A1 (en) Encoding device, decoding device, and program
JP2020156087A (en) Intra prediction device, image encoding device, image decoding device and program
JP2023086397A (en) Intra prediction device, decoding device, and program
JP2021093575A (en) Coding device, decoding device and program
JP2012120086A (en) Video encoder

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200529

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20200612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231003

R150 Certificate of patent or registration of utility model

Ref document number: 7361522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150