JP2021005755A - Picture encoder, picture encoding method and picture encoding program - Google Patents
Picture encoder, picture encoding method and picture encoding program Download PDFInfo
- Publication number
- JP2021005755A JP2021005755A JP2019117515A JP2019117515A JP2021005755A JP 2021005755 A JP2021005755 A JP 2021005755A JP 2019117515 A JP2019117515 A JP 2019117515A JP 2019117515 A JP2019117515 A JP 2019117515A JP 2021005755 A JP2021005755 A JP 2021005755A
- Authority
- JP
- Japan
- Prior art keywords
- block
- prediction
- motion vector
- unit
- merge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title description 220
- 239000013598 vector Substances 0.000 claims abstract description 667
- 238000012545 processing Methods 0.000 claims abstract description 196
- 238000009795 derivation Methods 0.000 claims abstract description 157
- 238000012937 correction Methods 0.000 claims description 37
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000033001 locomotion Effects 0.000 description 518
- 238000010586 diagram Methods 0.000 description 35
- 238000006243 chemical reaction Methods 0.000 description 24
- 238000013139 quantization Methods 0.000 description 23
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 15
- 230000009466 transformation Effects 0.000 description 14
- 230000006870 function Effects 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 8
- 230000003044 adaptive effect Effects 0.000 description 5
- 238000012790 confirmation Methods 0.000 description 5
- 241001482237 Pica Species 0.000 description 4
- 101150103552 cagE gene Proteins 0.000 description 4
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 4
- 239000000872 buffer Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000009469 supplementation Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本発明は、画像をブロックに分割して予測を行う画像符号化及び復号技術に関する。 The present invention relates to an image coding and decoding technique for dividing an image into blocks and performing prediction.
画像の符号化及び復号では、処理の対象となる画像を所定数の画素の集合であるブロックに分割し、ブロック単位で処理をする。適切なブロックに分割し、画面内予測(イントラ予測)、画面間予測(インター予測)を適切に設定することにより、符号化効率が向上する。 In image coding and decoding, an image to be processed is divided into blocks which are a set of a predetermined number of pixels, and processing is performed in block units. Coding efficiency is improved by dividing into appropriate blocks and appropriately setting in-screen prediction (intra prediction) and inter-screen prediction (inter prediction).
特許文献1には符号化・復号対象のブロックに隣接する復号済みの画素を用いて予測画像を得るイントラ予測技術が開示されている。
しかしながら、特許文献1の技術は符号化・復号対象のブロックに隣接する復号済みの画素のみを予測に用いるものであり、予測効率が悪い。
However, the technique of
上記課題を解決する本発明のある態様では、符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出するブロックベクトル候補導出部と、前記ブロックベクトル候補から選択ブロックベクトルを選択する選択部と、複数の参照可能領域から、前記選択ブロックベクトルにより参照する参照ブロックの所定位置を含む参照可能領域を決定し、前記参照ブロックの所定位置を含む前記参照可能領域に含まれる第1の分割参照ブロックに対しては、前記参照ブロックの参照位置に基づいて前記処理対象ピクチャ内の復号済み画素を、前記処理対象ブロックの予測値として復号画像メモリ部から取得し、前記参照ブロックの所定位置を含まない参照可能領域に含まれる第2の分割参照ブロックに対しては、所定値を前記処理対象ブロックの予測値とする参照領域境界補正部と、を備える。 In one aspect of the present invention that solves the above problems, a block vector candidate derivation unit for deriving a block vector candidate of a block to be processed in a picture to be processed from coded information stored in a coded information storage memory, and the block vector From the selection unit that selects the selection block vector from the candidates and the plurality of referenceable areas, the referenceable area including the predetermined position of the reference block to be referenced by the selection block vector is determined, and the reference including the predetermined position of the reference block is determined. For the first divided reference block included in the possible area, the decoded pixels in the process target picture are acquired from the decoded image memory unit as the predicted value of the process target block based on the reference position of the reference block. The second divided reference block included in the referable area that does not include the predetermined position of the reference block is provided with a reference area boundary correction unit whose predetermined value is a predicted value of the processing target block.
本発明によれば、高効率な画像符号化・復号処理を低負荷で実現することができる。 According to the present invention, highly efficient image coding / decoding processing can be realized with a low load.
本実施の形態において使用する技術、及び技術用語を定義する。 The technology and technical terms used in this embodiment are defined.
<ツリーブロック>
実施の形態では、所定の大きさで符号化・復号処理対象画像を均等分割する。この単位をツリーブロックと定義する。図4では、ツリーブロックのサイズを128x128画素としているが、ツリーブロックのサイズはこれに限定されるものではなく、任意のサイズを設定してよい。処理対象(符号化処理においては符号化対象、復号処理においては復号対象に対応する。)のツリーブロックは、ラスタスキャン順、すなわち左から右、上から下の順序で切り替わる。各ツリーブロックの内部は、さらに再帰的な分割が可能である。ツリーブロックを再帰的に分割した後の、符号化・復号の対象となるブロックを符号化ブロックと定義する。また、ツリーブロック、符号化ブロックを総称してブロックと定義する。適切なブロック分割を行うことにより効率的な符号化が可能となる。ツリーブロックのサイズは、符号化装置と復号装置で予め取り決めた固定値とすることもできるし、符号化装置が決定したツリーブロックのサイズを復号装置に伝送するような構成をとることもできる。ここでは、ツリーブロックの最大サイズを128x128画素、ツリーブロックの最小サイズを16×16画素とする。また、符号化ブロックの最大サイズを64x64画素、符号化ブロックの最小サイズを4x4画素とする。
<Tree block>
In the embodiment, the image to be encoded / decoded is evenly divided into a predetermined size. This unit is defined as a tree block. In FIG. 4, the size of the tree block is 128 x 128 pixels, but the size of the tree block is not limited to this, and any size may be set. The tree blocks of the processing target (corresponding to the coding target in the coding process and the decoding target in the decoding process) are switched in the raster scan order, that is, in the order of left to right and top to bottom. The inside of each tree block can be further recursively divided. The block to be coded / decoded after the tree block is recursively divided is defined as the coded block. In addition, tree blocks and coded blocks are collectively defined as blocks. Efficient coding is possible by performing appropriate block division. The size of the tree block may be a fixed value previously agreed between the coding device and the decoding device, or the size of the tree block determined by the coding device may be transmitted to the decoding device. Here, the maximum size of the tree block is 128 x 128 pixels, and the minimum size of the tree block is 16 x 16 pixels. Further, the maximum size of the coded block is 64x64 pixels, and the minimum size of the coded block is 4x4 pixels.
<予測モード>
処理対象符号化ブロック単位で、処理対象画像の処理済み(符号化処理においては符号化が完了した信号を復号した画像、画像信号、ツリーブロック、ブロック、符号化ブロック等に用い、復号処理においては復号が完了した画像、画像信号、ツリーブロック、ブロック、符号化ブロック等に用いる。)の周囲の画像信号から予測を行うイントラ予測(MODE_INTRA)、及び処理済み画像の画像信号から予測を行うインター予測(MODE_INTER)を切り替える。このイントラ予測(MODE_INTRA)とインター予測(MODE_INTER)を識別するモードを予測モード(PredMode)と定義する。予測モード(PredMode)はイントラ予測(MODE_INTRA)、またはインター予測(MODE_INTER)を値として持つ。
<Prediction mode>
Processed image to be processed in units of coded blocks to be processed (in the coding process, the coded signal is used for decoded images, image signals, tree blocks, blocks, coded blocks, etc., and in the decoding process Intra-prediction (MODE_INTRA) that predicts from the image signal around the image, image signal, tree block, block, coded block, etc. that have been decoded, and inter-prediction that predicts from the image signal of the processed image. Switch (MODE_INTER). The mode that distinguishes between the intra prediction (MODE_INTRA) and the inter prediction (MODE_INTER) is defined as the prediction mode (PredMode). The prediction mode (PredMode) has an intra prediction (MODE_INTRA) or an inter prediction (MODE_INTER) as a value.
<イントラブロックコピー予測>
イントラブロックコピー(Intra Block Copy)予測は、処理対象ピクチャにおける復号済みの画素を予測値として参照し、処理対象ブロックを符号化/復号する処理である。そして、処理対象ブロックから参照する画素までの距離は、ブロックベクトルで表す。ブロックベクトルは処理対象ピクチャを参照し、参照ピクチャは一意に定まるため、参照インデックスは不要である。ブロックベクトルと動きベクトルの違いは、参照するピクチャが処理対象ピクチャか処理済みピクチャかである。また、ブロックベクトルは、適応動きベクトル解像度(AMVR)を用いて、1画素精度または4画素精度を選択できる。
<Intrablock copy prediction>
Intra Block Copy prediction is a process of encoding / decoding a block to be processed by referring to a decoded pixel in a picture to be processed as a predicted value. Then, the distance from the processing target block to the reference pixel is represented by a block vector. Since the block vector refers to the picture to be processed and the reference picture is uniquely determined, the reference index is unnecessary. The difference between the block vector and the motion vector is whether the referenced picture is a processed picture or a processed picture. In addition, the block vector can be selected from 1-pixel accuracy or 4-pixel accuracy using the adaptive motion vector resolution (AMVR).
イントラブロックコピーでは、予測イントラブロックコピーモードと、マージイントラブロックコピーモードの2つのモードを選択可能である。 In the intra-block copy, two modes, a predictive intra-block copy mode and a merge intra-block copy mode, can be selected.
予測イントラブロックコピーモードは、処理済みの情報から導出する予測ブロックベクトルと、差分ブロックベクトルから、処理対象ブロックのブロックベクトルを決定するモードである。予測ブロックベクトルは、処理対象ブロックに隣接する処理済みブロックと、予測ブロックベクトルを特定するためのインデックスから導出する。予測ブロックベクトルを特定するためのインデックス、差分ブロックベクトルはビットストリームで伝送する。 The prediction intra-block copy mode is a mode in which the block vector of the block to be processed is determined from the prediction block vector derived from the processed information and the difference block vector. The prediction block vector is derived from the processed block adjacent to the processing target block and the index for identifying the prediction block vector. The index and difference block vector for specifying the predicted block vector are transmitted as a bit stream.
マージイントラブロックコピーモードは、差分動きベクトルを伝送せずに、処理対象ブロックに隣接する処理済みブロックのイントラブロックコピー予測情報から、処理対象ブロックのイントラブロックコピー予測情報を導出するモードである。 The merge intra-block copy mode is a mode in which the intra-block copy prediction information of the processing target block is derived from the intra-block copy prediction information of the processed block adjacent to the processing target block without transmitting the differential motion vector.
<インター予測>
処理済み画像の画像信号から予測を行うインター予測では、複数の処理済み画像を参照ピクチャとして用いることができる。複数の参照ピクチャを管理するため、L0(参照リスト0)とL1(参照リスト1)の2種類の参照リストを定義し、それぞれ参照インデックスを用いて参照ピクチャを特定する。PスライスではL0予測(Pred_L0)が利用可能である。BスライスではL0予測(Pred_L0)、L1予測(Pred_L1)、双予測(Pred_BI)が利用可能である。L0予測(Pred_L0)はL0で管理されている参照ピクチャを参照するインター予測であり、L1予測(Pred_L1)はL1で管理されている参照ピクチャを参照するインター予測である。双予測(Pred_BI)はL0予測とL1予測が共に行われ、L0とL1のそれぞれで管理されている1つずつの参照ピクチャを参照するインター予測である。L0予測、L1予測、双予測を特定する情報を、インター予測モードと定義する。以降の処理において出力に添え字LXが付いている定数、変数に関しては、L0、L1ごとに処理が行われることを前提とする。
<Inter prediction>
In the inter-prediction that predicts from the image signal of the processed image, a plurality of processed images can be used as reference pictures. In order to manage a plurality of reference pictures, two types of reference lists, L0 (reference list 0) and L1 (reference list 1), are defined, and the reference pictures are specified by using the reference indexes of each. L0 prediction (Pred_L0) is available for P-slices. For B slices, L0 prediction (Pred_L0), L1 prediction (Pred_L1), and dual prediction (Pred_BI) can be used. The L0 prediction (Pred_L0) is an inter-prediction that refers to a reference picture managed by L0, and the L1 prediction (Pred_L1) is an inter-prediction that refers to a reference picture managed by L1. The bi-prediction (Pred_BI) is an inter-prediction in which both L0 prediction and L1 prediction are performed, and one reference picture managed in each of L0 and L1 is referred to. Information that identifies L0 prediction, L1 prediction, and bi-prediction is defined as an inter-prediction mode. In the subsequent processing, it is assumed that the constants and variables with the subscript LX attached to the output are processed for each L0 and L1.
<予測動きベクトルモード>
予測動きベクトルモードは、予測動きベクトルを特定するためのインデックス、差分動きベクトル、インター予測モード、参照インデックスを伝送し、処理対象ブロックのインター予測情報を決定するモードである。予測動きベクトルは、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近(近傍)に位置するブロックから導出した予測動きベクトル候補と、予測動きベクトルを特定するためのインデックスから導出する。
<Predicted motion vector mode>
The predicted motion vector mode is a mode in which an index for specifying a predicted motion vector, a differential motion vector, an inter-prediction mode, and a reference index are transmitted to determine inter-prediction information of a block to be processed. The predicted motion vector is a predicted motion vector candidate derived from a processed block adjacent to the processing target block or a block belonging to the processed image and located at the same position as or near (near) the processing target block, and a predicted motion. Derived from the index to identify the vector.
<マージモード>
マージモードは、差分動きベクトル、参照インデックスを伝送せずに、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近(近傍)に位置するブロックのインター予測情報から、処理対象ブロックのインター予測情報を導出するモードである。
<Merge mode>
In the merge mode, the processed block adjacent to the processed block or the block belonging to the processed image and located at the same position as or near (near) the processed block without transmitting the differential motion vector and the reference index. In this mode, the inter-prediction information of the block to be processed is derived from the inter-prediction information of.
処理対象ブロックに隣接する処理済みブロック、およびその処理済みブロックのインター予測情報を空間マージ候補と定義する。処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近(近傍)に位置するブロック、およびそのブロックのインター予測情報から導出されるインター予測情報を時間マージ候補と定義する。各マージ候補はマージ候補リストに登録され、マージインデックスにより処理対象ブロックの予測で使用するマージ候補を特定する。 The processed block adjacent to the processing target block and the inter-prediction information of the processed block are defined as spatial merge candidates. Blocks that belong to the processed image and are located at the same position as or near (near) the block to be processed, and inter-prediction information derived from the inter-prediction information of that block are defined as time merge candidates. Each merge candidate is registered in the merge candidate list, and the merge index identifies the merge candidate used in the prediction of the block to be processed.
<隣接ブロック>
図11は、予測動きベクトルモード、マージモードで、インター予測情報を導出するために参照する参照ブロックを説明する図である。A0,A1,A2,B0,B1,B2,B3は、処理対象ブロックに隣接する処理済みブロックである。T0は、処理済画像に属するブロックで、処理対象画像の処理対象符号化ブロックと同一位置またはその付近(近傍)に位置するブロックである。
<Adjacent block>
FIG. 11 is a diagram illustrating a reference block referred to for deriving inter-prediction information in the predicted motion vector mode and the merge mode. A0, A1, A2, B0, B1, B2, and B3 are processed blocks adjacent to the processing target block. T0 is a block belonging to the processed image, and is a block located at the same position as or near (near) the processing target coding block of the processing target image.
A1,A2は、処理対象符号化ブロックの左側に位置し、処理対象符号化ブロックに隣接するブロックである。B1,B3は、処理対象符号化ブロックの上側に位置し、処理対象符号化ブロックに隣接するブロックである。A0,B0,B2はそれぞれ、処理対象符号化ブロックの左下、右上、左上に位置するブロックである。 A1 and A2 are blocks located on the left side of the processing target coding block and adjacent to the processing target coding block. B1 and B3 are blocks located above the processing target coding block and adjacent to the processing target coding block. A0, B0, and B2 are blocks located at the lower left, upper right, and upper left of the coded block to be processed, respectively.
予測動きベクトルモード、マージモードにおいて隣接ブロックをどのように扱うかの詳細については後述する。 The details of how to handle adjacent blocks in the predicted motion vector mode and the merge mode will be described later.
<アフィン変換動き補償>
アフィン変換動き補償は、符号化ブロックを所定単位のサブブロックに分割し、各サブブロックに対して個別に動きベクトルを設定して動き補償を行うものである。各サブブロックの動きベクトルは、処理対象ブロックに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近(近傍)に位置するブロックのインター予測情報から導出する1つ以上の制御点に基づき導出する。本実施の形態では、サブブロックのサイズを4x4画素とするが、サブブロックのサイズはこれに限定されるものではないし、画素単位で動きベクトルを導出してもよい。
<Affine transformation motion compensation>
In the affine transformation motion compensation, the coding block is divided into sub-blocks of a predetermined unit, and the motion vector is set individually for each sub-block to perform the motion compensation. The motion vector of each sub-block is derived from the inter-prediction information of the processed block adjacent to the processing target block or the block belonging to the processed image and located at the same position as or near (near) the processing target block. Derived based on one or more control points. In the present embodiment, the size of the subblock is 4x4 pixels, but the size of the subblock is not limited to this, and the motion vector may be derived in pixel units.
図14に、制御点が2つの場合のアフィン変換動き補償の例を示す。この場合、2つの制御点が水平方向成分、垂直方向成分の2つのパラメータを有するため、制御点が2つの場合のアフィン変換を、4パラメータアフィン変換と呼称する。図14のCP1、CP2が制御点である。図15に、制御点が3つの場合のアフィン変換動き補償の例を示す。この場合、3つの制御点が水平方向成分、垂直方向成分の2つのパラメータを有するため、制御点が3つの場合のアフィン変換を、6パラメータアフィン変換と呼称する。図15のCP1、CP2、CP3が制御点である。 FIG. 14 shows an example of affine transformation motion compensation when there are two control points. In this case, since the two control points have two parameters, a horizontal component and a vertical component, the affine transformation when there are two control points is called a four-parameter affine transformation. CP1 and CP2 in FIG. 14 are control points. FIG. 15 shows an example of affine transformation motion compensation when there are three control points. In this case, since the three control points have two parameters, a horizontal component and a vertical component, the affine transformation when there are three control points is called a six-parameter affine transformation. CP1, CP2, and CP3 in FIG. 15 are control points.
アフィン変換動き補償は、予測動きベクトルモードおよびマージモードのいずれのモードにおいても利用可能である。予測動きベクトルモードでアフィン変換動き補償を適用するモードをサブブロック予測動きベクトルモードと定義し、マージモードでアフィン変換動き補償を適用するモードをサブブロックマージモードと定義する。 Affine transformation motion compensation is available in both predictive motion vector mode and merge mode. The mode in which the affine transformation motion compensation is applied in the predicted motion vector mode is defined as the subblock predicted motion vector mode, and the mode in which the affine transformation motion compensation is applied in the merge mode is defined as the subblock merge mode.
<符号化ブロックのシンタックス>
図12(a)、図12(b)、および図13を用いて、符号化ブロックの予測モードを符号化/復号するためのシンタックス(符号化ビット列の構文規則)を説明する。図12(a)のpred_mode_flagは、インター予測か否かを示すフラグである。pred_mode_flagが0であればインター予測となり、pred_mode_flagが1であればイントラ予測となる。イントラ予測の場合には、イントラブロックコピー予測であるかを示すフラグであるpred_mode_ibc_flagを符号化/復号する。イントラブロックコピー予測である場合(pred_mode_ibc_flag=1)は、merge_flagを符号化/復号する。merge_flagは、マージイントラブロックコピーモードとするか、予測イントラブロックコピーモードとするかを示すフラグである。マージイントラブロックコピーモードである場合(merge_flag=1)は、マージインデックスmerge_idxを符号化/復号する。イントラブロックコピー予測でない場合(pred_mode_ibc_flag=0)、通常イントラ予測とし、通常イントラ予測の情報intra_pred_modeを符号化/復号する。
<Syntax of coded block>
The syntax (syntax rule of the coded bit string) for encoding / decoding the prediction mode of the coded block will be described with reference to FIGS. 12 (a), 12 (b), and 13. The pred_mode_flag in FIG. 12A is a flag indicating whether or not it is an inter-prediction. If pred_mode_flag is 0, it is an inter-prediction, and if pred_mode_flag is 1, it is an intra-prediction. In the case of intra prediction, the pred_mode_ibc_flag, which is a flag indicating whether or not it is an intra block copy prediction, is encoded / decoded. In the case of intra-block copy prediction (pred_mode_ibc_flag = 1), merge_flag is encoded / decoded. merge_flag is a flag indicating whether to use the merge intrablock copy mode or the predicted intrablock copy mode. In the merge intrablock copy mode (merge_flag = 1), the merge index merge_idx is encoded / decrypted. If it is not an intra-block copy prediction (pred_mode_ibc_flag = 0), it is regarded as a normal intra-prediction, and the information intra_pred_mode of the normal intra-prediction is encoded / decoded.
インター予測の場合にはmerge_flagを符号化/復号する。merge_flagは、マージモードとするか、予測動きベクトルモードとするかを示すフラグである。予測動きベクトルモードの場合(merge_flag=0)、サブブロック予測動きベクトルモードを適用するか否かを示すフラグinter_affine_flagを符号化/復号する。サブブロック予測動きベクトルモードを適用する場合(inter_affine_flag=1)、cu_affine_type_flagを符号化/復号する。cu_affine_type_flagは、サブブロック予測動きベクトルモードにおいて、制御点の数を決定するためのフラグである。 In the case of inter-prediction, merge_flag is encoded / decoded. The merge_flag is a flag indicating whether to use the merge mode or the predicted motion vector mode. In the case of the predicted motion vector mode (merge_flag = 0), the flag inter_affine_flag indicating whether or not to apply the subblock predicted motion vector mode is encoded / decoded. When applying the subblock prediction motion vector mode (inter_affine_flag = 1), encode / decode cu_affine_type_flag. cu_affine_type_flag is a flag for determining the number of control points in the subblock prediction motion vector mode.
一方、マージモードの場合(merge_flag=1)、図12(b)のregular_merge_flagを符号化/復号する。regular_merge_flagは、通常マージモードを適用するか否かを示すフラグである。通常マージモードの場合(regular_merge_flag=1)、通常マージモードのマージインデックスmerge_idxを符号化/復号する。一方、通常マージモードでない場合(regular_merge_flag=0)、サブブロックマージモードを適用するか否かを示すフラグmerge_subblock_flagを符号化/復号する。サブブロックマージモードの場合(merge_subblock_flag=1)、マージインデックスmerge_subblock_idxを符号化/復号する。一方、サブブロックマージモードでない場合(merge_subblock_flag=0)、ブロックを分割する方向merge_triangle_split_dir、および分割された2つのパーティションごとにマージ三角インデックスmerge_triangle_idx0,merge_triangle_idx1を符号化/復号する。 On the other hand, in the case of the merge mode (merge_flag = 1), the regular_merge_flag in FIG. 12B is encoded / decoded. The regular_merge_flag is a flag indicating whether or not to apply the normal merge mode. In the case of normal merge mode (regular_merge_flag = 1), the merge index merge_idx in normal merge mode is encoded / decrypted. On the other hand, when it is not in the normal merge mode (regular_merge_flag = 0), the flag merge_subblock_flag indicating whether or not to apply the subblock merge mode is encoded / decrypted. In subblock merge mode (merge_subblock_flag = 1), the merge index merge_subblock_idx is encoded / decrypted. On the other hand, when it is not in the subblock merge mode (merge_subblock_flag = 0), the direction to divide the block merge_triangle_split_dir and the merge triangular indexes merge_triangle_idx0 and merge_triangle_idx1 are encoded / decoded for each of the two divided partitions.
図13に各シンタックス要素の値と、それに対応する予測モードを示す。merge_flag=0,inter_affine_flag=0は、通常予測動きベクトルモード(Inter Pred Mode)に対応する。merge_flag=0,inter_affine_flag=1は、サブブロック予測動きベクトルモード(Inter Affine Mode)に対応する。merge_flag=1,regular_merge_flag=1は、通常マージモード(Merge Mode)に対応する。merge_flag=1,regular_merge_flag=0,merge_subblock_flag=0は、三角マージモード(Triangle Merge Mode)に対応する。merge_flag=1,regular_merge_flag=0,merge_subblock_flag=1は、サブブロックマージモード(Affine Merge Mode)に対応する。 FIG. 13 shows the values of each syntax element and the corresponding prediction modes. merge_flag = 0 and inter_affine_flag = 0 correspond to the normal predicted motion vector mode (Inter Pred Mode). merge_flag = 0 and inter_affine_flag = 1 correspond to the subblock predicted motion vector mode (Inter Affine Mode). merge_flag = 1 and regular_merge_flag = 1 correspond to the normal merge mode (Merge Mode). merge_flag = 1, regular_merge_flag = 0, merge_subblock_flag = 0 correspond to Triangle Merge Mode. merge_flag = 1, regular_merge_flag = 0, merge_subblock_flag = 1 correspond to the subblock merge mode (Affine Merge Mode).
<POC>
POC(Picture Order Count)は符号化されるピクチャに関連付けられる変数とし、ピクチャの出力順序で1ずつ増加する値が設定される。POCの値によって、同じピクチャであるかを判別したり、出力順序でのピクチャ間の前後関係を判別したり、ピクチャ間の距離を導出したりすることができる。例えば、2つのピクチャのPOCが同じ値を持つ場合、同一のピクチャであると判断できる。2つのピクチャのPOCが違う値を持つ場合、POCの値が小さいピクチャのほうが、先に出力されるピクチャであると判断でき、2つのピクチャのPOCの差が時間軸方向でのピクチャ間距離を示す。
<POC>
The POC (Picture Order Count) is a variable associated with the encoded picture, and a value that increases by 1 in the output order of the picture is set. Depending on the value of POC, it is possible to determine whether the pictures are the same, determine the context between the pictures in the output order, and derive the distance between the pictures. For example, if the POCs of the two pictures have the same value, it can be determined that they are the same picture. If the POCs of the two pictures have different values, it can be determined that the picture with the smaller POC value is the picture to be output first, and the difference between the POCs of the two pictures is the distance between the pictures in the time axis direction. Shown.
(第1の実施の形態)
本発明の第1の実施の形態に係る画像符号化装置100及び画像復号装置200について説明する。
(First Embodiment)
The
図1は、第1の実施の形態に係る画像符号化装置100のブロック図である。実施の形態の動画像符号化装置は、画像符号化装置100、ブロック分割部101、インター予測部102、イントラ予測部103、復号画像メモリ104、予測方法決定部105、残差信号生成部106、直交変換・量子化部107、ビット列符号化部108、逆量子化・逆直交変換部109、復号画像信号重畳部110、および符号化情報格納メモリ111を備える。
FIG. 1 is a block diagram of the
ブロック分割部101は、入力した画像を再帰的に分割して、符号化ブロックを生成する。ブロック分割部101は、分割対象となるブロックを水平方向と垂直方向にそれぞれ分割する4分割部と、分割対象となるブロックを水平方向または垂直方向のいずれかに分割する2−3分割部を含む。生成した処理対象符号化ブロックの画像信号を、インター予測部102、イントラ予測部103および残差信号生成部106に供給する。また、決定した再帰分割構造を示す情報をビット列符号化部108に供給する。ブロック分割部101の詳細な動作は後述する。
The
インター予測部102は、処理対象符号化ブロックのインター予測を行う。符号化情報格納メモリに格納されているインター予測情報、復号画像メモリ104に格納されている復号済みの画像信号から複数のインター予測情報の候補を導出し、複数の候補の中から適したインター予測モードを選択し、選択されたインター予測モード、及び選択されたインター予測モードに応じた予測画像信号を予測方法決定部105に供給する。インター予測部102の詳細な構成と動作は後述する。
The
イントラ予測部103は、処理対象符号化ブロックのイントラ予測を行う。イントラ予測は、復号画像メモリ104に格納されている処理対象符号化ブロックと同一の画像信号の、復号済みの領域から予測画像信号を作成し、予測方法決定部105に供給する。イントラ予測部103の詳細な構成と動作は後述する。
The
復号画像メモリ104は、復号画像信号重畳部110で生成した復号画像を格納する。また、復号画像メモリに格納されている復号画像を、インター予測部102、イントラ予測部103に供給する。
The decoded
予測方法決定部105は、各予測に対して、符号化情報及び残差信号の符号量、予測画像信号と処理対象画像信号との間の歪量等を用いて評価することにより、最適な予測モード(インター予測またはイントラ予測)を決定する。インター予測のマージモードの場合は、マージインデックス、サブブロックマージモードか否かを示す情報(サブブロックマージフラグ)の符号化情報をビット列符号化部108に供給し、インター予測の予測動きベクトルモードの場合はインター予測モード、予測動きベクトルインデックス、L0、L1の参照インデックス、差分動きベクトル、サブブロックモードか否かを示す情報(サブブロック予測動きベクトルフラグ)等の符号化情報をビット列符号化部108に供給する。決定した符号化情報を符号化情報格納メモリ111に供給する。
The prediction
残差信号生成部106は、処理対象の画像信号から予測画像信号を減ずることにより残差信号を生成し、直交変換・量子化部107に供給する。
The residual
直交変換・量子化部107は、残差信号に対して量子化パラメータに応じて直交変換及び量子化を行い直交変換・量子化された残差信号を生成し、ビット列符号化部108と逆量子化・逆直交変換部109に供給する。
The orthogonal conversion /
ビット列符号化部108は、シーケンス、ピクチャ、スライス、符号化ブロック単位の情報に加えて、符号化ブロック毎に予測方法決定部105によって決定された予測方法に応じた符号化情報を符号化する。具体的には、符号化ブロック毎の予測モードPredMode、分割モードPartModeを符号化する。予測モードがイントラ予測(PRED_INTRA)の場合、イントラブロックコピーか否かを判別するフラグ(pred_mode_ibc_flag)を符号化する。イントラブロックコピーの場合は、マージモードならばマージインデックス、マージモードでないならば予測ブロックベクトルインデックス、差分ブロックベクトル等の符号化情報を規定のシンタックス(符号化ビット列の構文規則)に従って符号化し、第1の符号化ビット列を生成する。インター予測(PRED_INTER)の場合、マージモードか否かを判別するフラグ、サブブロックマージフラグ、マージモードの場合はマージインデックス、マージモードでない場合はインター予測モード、予測動きベクトルインデックス、差分動きベクトルに関する情報、サブブロック予測動きベクトルフラグ等の符号化情報を後述する規定のシンタックス(符号化ビット列の構文規則)に従って符号化し、第1の符号化ビット列を生成する。また、ビット列符号化部108は、直交変換及び量子化された残差信号を規定のシンタックスに従ってエントロピー符号化して第2の符号化ビット列を生成する。第1の符号化ビット列と第2の符号化ビット列を規定のシンタックスに従って多重化し、ビットストリームを出力する。
The bit string coding unit 108 encodes the coding information according to the prediction method determined by the prediction
逆量子化・逆直交変換部109は、直交変換・量子化部107から供給された直交変換・量子化された残差信号を逆量子化及び逆直交変換して残差信号を算出し、復号画像信号重畳部110に供給する。
The inverse quantization / inverse
復号画像信号重畳部110は、予測方法決定部105による決定に応じた予測画像信号と逆量子化・逆直交変換部109で逆量子化及び逆直交変換された残差信号を重畳して復号画像を生成し、復号画像メモリ104に格納する。なお、復号画像に対して符号化によるブロック歪等の歪を減少させるフィルタリング処理を施した後、復号画像メモリ104に格納してもよい。
The decoded image
符号化情報格納メモリ111は、予測方法決定部105で決定した、予測モード(インター予測またはイントラ予測)等の符号化情報を格納する。符号化情報格納メモリ111が格納する符号化情報は、インター予測の場合は、決定した動きベクトル、参照リスト、参照インデックスに加え、インター予測のマージモードの場合は、マージインデックス、サブブロックマージモードか否かを示す情報(サブブロックマージフラグ)の符号化情報、インター予測の予測動きベクトルモードの場合はインター予測モード、予測動きベクトルインデックス、L0、L1の参照インデックス、差分動きベクトル、サブブロックモードか否かを示す情報(サブブロック予測動きベクトルフラグ)、イントラ予測の場合は、決定したイントラ予測モード等である。符号化情報格納メモリ111で管理される履歴候補リストの構築については後述する。
The coding
図2は図1の動画像符号化装置に対応した本発明の実施の形態に係る動画像復号装置の構成を示すブロックである。実施の形態の動画像復号装置は、ビット列復号部201、ブロック分割部202、インター予測部203、イントラ予測部204、符号化情報格納メモリ205、逆量子化・逆直交変換部206、復号画像信号重畳部207、および復号画像メモリ208を備える。
FIG. 2 is a block showing a configuration of a moving image decoding device according to an embodiment of the present invention corresponding to the moving image coding device of FIG. The moving image decoding device of the embodiment includes a bit
図2の動画像復号装置の復号処理は、図1の動画像符号化装置の内部に設けられている復号処理に対応するものであるから、図2の符号化情報格納メモリ205、逆量子化・逆直交変換部206、復号画像信号重畳部207、および復号画像メモリ208の各構成は、図1の動画像符号化装置の逆量子化・逆直交変換部109、復号画像信号重畳部110、符号化情報格納メモリ111、および復号画像メモリ104の各構成とそれぞれ対応する機能を有する。
Since the decoding process of the moving image decoding device of FIG. 2 corresponds to the decoding process provided inside the moving image coding device of FIG. 1, the coding
ビット列復号部201に供給されるビットストリームは規定のシンタックスの規則に従って分離する。分離された第1の符号化ビット列を復号し、シーケンス、ピクチャ、スライス、符号化ブロック単位の情報、及び、符号化ブロック単位の符号化情報を得る。具体的には、符号化ブロック単位でインター予測(PRED_INTER)かイントラ予測(PRED_INTRA)かを判別する予測モードPredMode、分割モードPartModeを復号する。イントラ予測(PRED_INTRA)の場合、イントラブロックコピーか否かを判別するフラグ(pred_mode_ibc_flag)を復号する。イントラブロックコピーの場合は、マージモードならばマージインデックス、マージモードでないならば予測ブロックベクトルインデックス、差分ブロックベクトル等の符号化情報を規定のシンタックス(符号化ビット列の構文規則)に従って復号し、符号化情報をインター予測部203またはイントラ予測部204、および符号化情報格納メモリ205に供給する。インター予測(PRED_INTER)の場合、マージモードか否かを判別するフラグ、マージモードの場合はマージインデックス、サブブロックマージフラグ、予測動きベクトルモードである場合はインター予測モード、予測動きベクトルインデックス、差分動きベクトル、サブブロック予測動きベクトルフラグ等に関する符号化情報を後述する規定のシンタックスに従って復号し、符号化情報をインター予測部203またはイントラ予測部204、および符号化情報格納メモリ205に供給する。分離した第2の符号化ビット列を復号して直交変換・量子化された残差信号を算出し、直交変換・量子化された残差信号を逆量子化・逆直交変換部206に供給する。
The bit stream supplied to the bit
インター予測部203は、処理対象の符号化ブロックの予測モードPredModeがインター予測(PRED_INTER)で予測動きベクトルモードである時に、符号化情報格納メモリ205に記憶されている既に復号された画像信号の符号化情報を用いて、複数の予測動きベクトルの候補を導出して後述する予測動きベクトル候補リストに登録し、予測動きベクトル候補リストに登録された複数の予測動きベクトルの候補の中から、ビット列復号部201で復号され供給される予測動きベクトルインデックスに応じた予測動きベクトルを選択し、ビット列復号部201で復号された差分ベクトルと選択された予測動きベクトルから動きベクトルを算出し、他の符号化情報とともに符号化情報格納メモリ205に格納する。ここで供給・格納する符号化ブロックの符号化情報は、予測モードPredMode、分割モードPartMode、L0予測、及びL1予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlagL1[xP][yP]、L0、L1の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、L0、L1の動きベクトルmvL0[xP][yP], mvL1[xP][yP]等である。ここで、xP、yPはピクチャ内での符号化ブロックの左上の画素の位置を示すインデックスである。予測モードPredModeがインター予測(MODE_INTER)で、インター予測モードがL0予測(Pred_L0)の場合、L0予測を利用するか否かを示すフラグpredFlagL0は1, L1予測を利用するか否かを示すフラグpredFlagL1は0である。インター予測モードがL1予測(Pred_L1)の場合、L0予測を利用するか否かを示すフラグpredFlagL0は0, L1予測を利用するか否かを示すフラグpredFlagL1は1である。インター予測モードが双予測(Pred_BI)の場合、L0予測を利用するか否かを示すフラグpredFlagL0、L1予測を利用するか否かを示すフラグpredFlagL1は共に1である。さらに、処理対象の符号化ブロックの予測モードPredModeがインター予測(PRED_INTER)でマージモードの時に、マージ候補を導出する。符号化情報格納メモリ205に記憶されている既に復号された符号化ブロックの符号化情報を用いて、複数のマージの候補を導出して後述するマージ候補リストに登録し、マージ候補リストに登録された複数のマージ候補の中からビット列復号部201で復号され供給されるマージインデックスに対応したマージ候補を選択し、選択されたマージ候補のL0予測、及びL1予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlagL1[xP][yP]、L0、L1の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、L0、L1の動きベクトルmvL0[xP][yP], mvL1[xP][yP]等のインター予測情報を符号化情報格納メモリ205に格納する。ここで、xP、yPはピクチャ内での符号化ブロックの左上の画素の位置を示すインデックスである。インター予測部の詳細な構成と動作は後述する。
The
イントラ予測部204は、処理対象の符号化ブロックの予測モードPredModeがイントラ予測(PRED_INTRA)の時に、イントラ予測を行う。ビット列復号部201で復号された符号化情報にはイントラ予測モードが含まれており、イントラ予測モードに応じて、復号画像メモリ208に格納されている復号済みの画像信号からイントラ予測により予測画像信号を生成し、予測画像信号を復号画像信号重畳部207に供給する。イントラ予測部204は、画像符号化装置100のイントラ予測部103に対応するものであるから、イントラ予測部103と同様の処理を行う。
The
逆量子化・逆直交変換部206は、ビット列復号部201で復号された直交変換・量子化された残差信号に対して逆直交変換及び逆量子化を行い、逆直交変換・逆量子化された残差信号を得る。
The inverse quantization / inverse
復号画像信号重畳部207は、インター予測部203でインター予測された予測画像信号、またはイントラ予測部204でイントラ予測された予測画像信号と、逆量子化・逆直交変換部206により逆直交変換・逆量子化された残差信号とを重畳することにより、復号画像信号を復号し、復号画像メモリ208に格納する。復号画像メモリ208に格納する際には、復号画像に対して符号化によるブロック歪等を減少させるフィルタリング処理を施した後、復号画像メモリ208に格納してもよい。
The decoded image
次に、画像符号化装置100におけるブロック分割部101の動作について説明する。図3は、画像をツリーブロックに分割し、各ツリーブロックをさらに分割する動作を示すフローチャートである。まず、入力された画像を、所定サイズのツリーブロックに分割する(ステップS1001)。各ツリーブロックについては、所定の順序、すなわちラスタスキャン順に走査し(ステップS1002)、処理対象のツリーブロックの内部を分割する(ステップS1003)。
Next, the operation of the
図7は、ステップS1003の分割処理の詳細動作を示すフローチャートである。まず、処理対象のブロックを4分割するか否かを判断する(ステップS1101)。 FIG. 7 is a flowchart showing a detailed operation of the division process in step S1003. First, it is determined whether or not to divide the block to be processed into four (step S1101).
処理対象ブロックを4分割すると判断した場合は、処理対象ブロックを4分割する(ステップS1102)。処理対象ブロックを分割した各ブロックについて、Zスキャン順、すなわち左上、右上、左下、右下の順に走査する(ステップS1103)。図5は、Zスキャン順の例であり、図6の601は、処理対象ブロックを4分割した例である。図6の601の番号0〜3は処理の順番を示したものである。そしてステップS1101で分割した各ブロックについて、図7の分割処理を再帰的に行う(ステップS1104)。
When it is determined that the processing target block is divided into four, the processing target block is divided into four (step S1102). Each block obtained by dividing the block to be processed is scanned in the Z scan order, that is, in the order of upper left, upper right, lower left, and lower right (step S1103). FIG. 5 is an example of the Z scan order, and FIG. 6 601 is an example of dividing the processing target block into four.
処理対象ブロックを4分割しないと判断した場合は、2−3分割を行う(ステップS1105)。 If it is determined that the block to be processed is not divided into four, it is divided into 2-3 (step S1105).
図8は、ステップS1105の2−3分割処理の詳細動作を示すフローチャートである。まず、処理対象のブロックを2−3分割するか否か、すなわち2分割または3分割の何れかを行うか否かを判断する(ステップS1201)。 FIG. 8 is a flowchart showing a detailed operation of the 2-3 division process of step S1105. First, it is determined whether or not the block to be processed is divided into 2-3, that is, whether or not to perform either 2-division or 3-division (step S1201).
処理対象ブロックを2−3分割すると判断しない場合、すなわち分割しないと判断した場合は、分割を終了し(ステップS1211)、上位階層のブロックに戻る。 If it is not determined that the block to be processed is divided into 2-3, that is, if it is determined not to be divided, the division is terminated (step S1211), and the block returns to the upper layer.
処理対象のブロックを2−3分割すると判断した場合は、さらに処理対象ブロックを2分割するか否か(ステップS1202)を判断する。 When it is determined that the block to be processed is divided into 2-3, it is determined whether or not to further divide the block to be processed into two (step S1202).
処理対象ブロックを2分割すると判断した場合は、処理対象ブロックを垂直方向に分割するか否かを判断し(ステップS1203)、その結果に基づき、処理対象ブロックを垂直方向に分割する(ステップS1204)か、処理対象ブロックを水平方向に分割する(ステップS1205)。ステップS1204の結果、処理対象ブロックは、図6の602に示す通り、垂直方向2分割に分割され、ステップS1205の結果、処理対象ブロックは、図6の604に示す通り、水平方向2分割に分割される。 When it is determined that the processing target block is divided into two, it is determined whether or not to divide the processing target block in the vertical direction (step S1203), and based on the result, the processing target block is divided in the vertical direction (step S1204). Alternatively, the block to be processed is divided in the horizontal direction (step S1205). As a result of step S1204, the processing target block is divided into two vertical divisions as shown in 602 of FIG. 6, and as a result of step S1205, the processing target block is divided into two horizontal divisions as shown in 604 of FIG. Will be done.
ステップS1202において、処理対象のブロックを2分割すると判断しなかった場合、すなわち3分割すると判断した場合は、処理対象ブロックを垂直方向に分割するか否かを判断し(ステップS1206)、その結果に基づき、処理対象ブロックを垂直方向に分割する(ステップS1207)か、処理対象ブロックを水平方向に分割する(ステップS1208)。ステップS1207の結果、処理対象ブロックは、図6の603に示す通り、垂直方向3分割に分割され、ステップS1208の結果、処理対象ブロックは、図6の605に示す通り、水平方向3分割に分割される。 In step S1202, if it is not determined that the block to be processed is divided into two, that is, if it is determined to be divided into three, it is determined whether or not to divide the block to be processed in the vertical direction (step S1206), and the result is Based on this, the processing target block is divided in the vertical direction (step S1207), or the processing target block is divided in the horizontal direction (step S1208). As a result of step S1207, the processing target block is divided into three vertical divisions as shown in 603 of FIG. 6, and as a result of step S1208, the processing target block is divided into three horizontal divisions as shown in 605 of FIG. Will be done.
ステップS1204からステップS1205のいずれかを実行後、処理対象ブロックを分割した各ブロックについて、左から右、上から下の順に走査する(ステップS1209)。図6の602から605の番号0〜3は処理の順番を示したものである。分割した各ブロックについて、図8の2−3分割処理を再帰的に実行する(ステップS1210)。
After executing any one of steps S1204 to S1205, each block obtained by dividing the processing target block is scanned in the order of left to right and top to bottom (step S1209).
ここで説明した再帰的なブロック分割は、分割する回数、または、処理対象のブロックのサイズ等により、分割要否を制限してもよい。分割要否を制限する情報は、符号化装置と復号化装置の間で予め取り決めを行うことで、情報の伝達を行わない構成で実現してもよいし、符号化装置が分割要否を制限する情報を決定し、符号化ビット列に記録することにより、復号化装置に伝達する構成で実現してもよい。 In the recursive block division described here, the necessity of division may be limited depending on the number of divisions, the size of the block to be processed, and the like. The information that limits the necessity of division may be realized in a configuration that does not transmit information by making an agreement in advance between the coding device and the decoding device, or the coding device limits the necessity of division. It may be realized by the configuration which transmits to the decoding apparatus by determining the information to be performed and recording it in the coded bit string.
ここで、あるブロックを分割した場合、分割前のブロックを親ブロックと呼び、分割後の各ブロックを子ブロックと呼ぶ。 Here, when a certain block is divided, the block before the division is called a parent block, and each block after the division is called a child block.
次に、画像復号装置200におけるブロック分割部202の動作について説明する。ブロック分割部202は、画像符号化装置100のブロック分割部101と同様の処理手順でツリーブロックを分割するものである。ただし、画像符号化装置100のブロック分割部101では、画像認識による最適形状の推定や歪レート最適化等最適化手法を適用し、最適なブロック分割の形状を決定するのに対し、画像復号装置200におけるブロック分割部202は、符号化ビット列に記録されたブロック分割情報を復号することにより、ブロック分割形状を決定する点が異なる。
Next, the operation of the
第1の実施の形態のブロック分割に関するシンタックス(符号化ビット列の構文規則)を図9に示す。coding_quadtree()はブロックの4分割処理にかかるシンタックスを表し、multi_type_tree()はブロックの2分割または3分割処理にかかるシンタックスを表す。qt_splitはブロックを4分割するか否かを示すフラグであり、ブロックを4分割する場合は、qt_split=1、4分割しない場合は、qt_split=0とする。4分割する場合(qt_split=1)、4分割した各ブロックについて、再帰的に4分割処理をする(coding_quadtree(0), coding_quadtree(1), coding_quadtree(2), coding_quadtree(3))。4分割しない場合(qt_split=0)は、multi_type_tree()に従い、後続の分割を決定する。mtt_splitは、さらに分割をするか否かを示すフラグである。さらに分割をする場合(mtt_split=1)、垂直方向に分割するか水平方向に分割するかを示すフラグであるmtt_split_verticalと、2分割するか3分割するかを決定するフラグであるmtt_split_binaryを参照する。mtt_split_vertical=1は、垂直方向に分割することを示し、mtt_split_vertical=0は、水平方向に分割することを示す。mtt_split_binary=1は、2分割することを示し、mtt_split_binary=0は3分割することを示す。mtt_split=0となるまで、再帰的にmulti_type_treeを呼び出すことにより、階層的なブロック分割を行う。 The syntax (syntax rule of the coded bit string) regarding the block division of the first embodiment is shown in FIG. coding_quadtree () represents the syntax for the block 4-split processing, and multi_type_tree () represents the syntax for the block 2-split or 3-split processing. qt_split is a flag indicating whether or not to divide the block into four. If the block is divided into four, qt_split = 1, and if not divided into four, qt_split = 0. When dividing into four (qt_split = 1), each block divided into four is recursively divided into four (coding_quadtree (0), coding_quadtree (1), coding_quadtree (2), coding_quadtree (3)). When not dividing into four (qt_split = 0), the subsequent division is determined according to multi_type_tree (). mtt_split is a flag indicating whether or not to further divide. When further dividing (mtt_split = 1), refer to mtt_split_vertical, which is a flag indicating whether to divide vertically or horizontally, and mtt_split_binary, which is a flag that determines whether to divide into two or three. mtt_split_vertical = 1 indicates splitting in the vertical direction, and mtt_split_vertical = 0 indicates splitting in the horizontal direction. mtt_split_binary = 1 indicates that it is divided into two, and mtt_split_binary = 0 indicates that it is divided into three. Hierarchical block division is performed by recursively calling multi_type_tree until mtt_split = 0.
<イントラ予測>
実施の形態に係るイントラ予測方法は、図1の動画像符号化装置のイントラ予測部103および図2の動画像復号装置のインター予測部203において実施される。
<Intra forecast>
The intra prediction method according to the embodiment is carried out by the
実施の形態によるイントラ予測方法について、図面を用いて説明する。イントラ予測方法は符号化ブロック単位で符号化及び復号の処理の何れでも実施される。 The intra prediction method according to the embodiment will be described with reference to the drawings. The intra prediction method is carried out in either coding or decoding processing in units of coded blocks.
<符号化側のイントラ予測部103の説明>
図41は図1の動画像符号化装置のイントラ予測部103の詳細な構成を示す図である。通常イントラ予測部351は、処理対象の符号化ブロックに隣接する復号済み画素から、通常イントラ予測により予測画像信号を生成し、複数のイントラ予測モードの中から適したイントラ予測モードを選択し、選択されたイントラ予測モード、及び選択されたイントラ予測モードに応じた予測画像信号を予測方法決定部105に供給する。図10に通常イントラ予測の例を示す。図10(a)は、通常イントラ予測の予測方向とイントラ予測モード番号の対応を示したものである。例えば、イントラ予測モード50は、垂直方向に画素をコピーすることによりイントラ予測画像を生成する。イントラ予測モード1は、DCモードであり、処理対象ブロックのすべての画素値を参照画素の平均値とするモードである。イントラ予測モード0はPlanarモードであり、垂直方向・水平方向の参照画素から2次元的なイントラ予測画像を作成するモードである。図10(b)は、イントラ予測モード40の場合のイントラ予測画像を生成する例である。処理対象ブロックの各画素に対し、イントラ予測モードの示す方向の参照画素の値をコピーする。イントラ予測モードの参照画素が整数位置でない場合には、周辺の整数位置の参照画素値から補間により参照画素値を決定する。
<Explanation of
FIG. 41 is a diagram showing a detailed configuration of the
イントラブロックコピー予測部352は、復号画像メモリ104から処理対象の符号化ブロックと同一の画像信号の復号済み領域を取得し、イントラブロックコピー処理により、予測画像信号を生成し、予測方法決定部105に供給する。イントラブロックコピー予測部352の詳細な構成と処理については後述する。
The intra-block
<復号側のイントラ予測部204の説明>
図42は図2の動画像復号装置のイントラ予測部204の詳細な構成を示す図である。
<Explanation of
FIG. 42 is a diagram showing a detailed configuration of the
通常イントラ予測部361は、処理対象の符号化ブロックに隣接する復号済み画素から、通常イントラ予測により予測画像信号を生成し、複数のイントラ予測モードの中から適したイントラ予測モードを選択し、選択されたイントラ予測モード、及び選択されたイントラ予測モードに応じた予測画像信号を得る。この予測画像信号がスイッチ364を経由して復号画像信号重畳部207に供給される。図42の通常イントラ予測部361の処理は、図41の通常イントラ予測部351に対応するものであるため、詳細の説明を省略する。
The normal
イントラブロックコピー予測部362は、復号画像メモリ208から処理対象の符号化ブロックと同一の画像信号の復号済み領域を取得し、イントラブロックコピー処理により、予測画像信号を得る。この予測画像信号がスイッチ364を経由して復号画像信号重畳部207に供給される。イントラブロックコピー予測部362の詳細な構成と処理については後述する。
The intra-block copy prediction unit 362 acquires a decoded area of the same image signal as the coded block to be processed from the decoded
<インター予測>
実施の形態に係るインター予測方法は、図1の動画像符号化装置のインター予測部102および図2の動画像復号装置のインター予測部203において実施される。
<Inter prediction>
The inter-prediction method according to the embodiment is carried out by the
実施の形態によるインター予測方法について、図面を用いて説明する。インター予測方法は符号化ブロック単位で符号化及び復号の処理の何れでも実施される。 The inter-prediction method according to the embodiment will be described with reference to the drawings. The inter-prediction method is performed in either coding or decoding processing in units of coded blocks.
<符号化側のインター予測部102の説明>
図16は図1の動画像符号化装置のインター予測部102の詳細な構成を示す図である。通常予測動きベクトルモード導出部301は複数の通常予測動きベクトル候補を導出して予測動きベクトルを選択し、検出した動きベクトルとの差分ベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、算出された差分ベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がインター予測モード判定部305に供給される。通常予測動きベクトルモード導出部301の詳細な構成と処理については後述する。
<Explanation of
FIG. 16 is a diagram showing a detailed configuration of the
通常マージモード導出部302では複数の通常マージ候補を導出して通常マージ候補を選択し、通常マージモードのインター予測情報を得る。このインター予測情報がインター予測モード判定部305に供給される。通常マージモード導出部302の詳細な構成と処理については後述する。
The normal merge
サブブロック予測動きベクトルモード導出部303では複数のサブブロック予測動きベクトル候補を導出してサブブロック予測動きベクトルを選択し、検出した動きベクトルとの差分ベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、算出された差分ベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がインター予測モード判定部305に供給される。サブブロック予測動きベクトルモード導出部303の詳細な構成と処理については後述する。
The sub-block prediction motion vector
サブブロックマージモード導出部304では複数のサブブロックマージ候補を導出してサブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る。このインター予測情報がインター予測モード判定部305に供給される。サブブロックマージモード導出部304の詳細な構成と処理については後述する。
The sub-block merge
インター予測モード判定部305では通常予測動きベクトルモード導出部301、通常マージモード導出部302、サブブロック予測動きベクトルモード導出部303、サブブロックマージモード導出部304から供給されるインター予測情報に基づいて、インター予測モードを判定する。インター予測モード判定部の305から判定結果に応じたインター予測情報が動き補償予測部306に供給される。
The inter prediction
動き補償予測部306では判定されたインター予測情報に基づいて、復号画像メモリ104に格納されている参照画像信号に対してインター予測を行う。詳細な構成と処理については後述する。
The motion
<復号側のインター予測部203の説明>
図22は図2の動画像復号装置のインター予測部203の詳細な構成を示す図である。
<Explanation of
FIG. 22 is a diagram showing a detailed configuration of the
通常予測動きベクトルモード導出部401は複数の通常予測動きベクトル候補を導出して予測動きベクトルを選択し、検出した動きベクトルとの差分ベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、差分ベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がスイッチ408を経由して動き補償予測部406に供給される。通常予測動きベクトルモード導出部401の詳細な構成と処理については後述する。
The normal predicted motion vector
通常マージモード導出部402では複数の通常マージ候補を導出して通常マージ候補を選択し、通常マージモードのインター予測情報を得る。このインター予測情報がスイッチ408を経由して動き補償予測部406に供給される。通常マージモード導出部402の詳細な構成と処理については後述する。
The normal merge
サブブロック予測動きベクトルモード導出部403では複数のサブブロック予測動きベクトル候補を導出してサブブロック予測動きベクトルを選択し、検出した動きベクトルとの差分ベクトルを算出する。検出されたインター予測モード、参照インデックス、動きベクトル、算出された差分ベクトルが通常予測動きベクトルモードのインター予測情報となる。このインター予測情報がスイッチ408を経由して動き補償予測部406に供給される。
The sub-block prediction motion vector
サブブロックマージモード導出部404では複数のサブブロックマージ候補を導出してサブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る。このインター予測情報がスイッチ408を経由して動き補償予測部406に供給される。 動き補償予測部406では判定されたインター予測情報に基づいて、復号画像メモリ208に格納されている参照画像信号に対してインター予測を行う。詳細な構成と処理については符号化側と同様である。
The sub-block merge
<通常予測動きベクトルモード導出部(通常AMVP)>
図17の通常予測動きベクトルモード導出部301は、空間予測動きベクトル候補導出部321、時間予測動きベクトル候補導出部322、履歴予測動きベクトル候補導出部323、予測動きベクトル候補補充部325、通常動きベクトル検出部326、予測動きベクトル候補選択部327、動きベクトル減算部328を含む。
<Normal prediction motion vector mode derivation unit (normal AMVP)>
The normal prediction motion vector
図23の通常予測動きベクトルモード導出部401は、空間予測動きベクトル候補導出部421、時間予測動きベクトル候補導出部422、履歴予測動きベクトル候補導出部423、予測動きベクトル候補補充部425、予測動きベクトル候補選択部426、動きベクトル加算部427を含む。
The normal prediction motion vector
符号化側の通常予測動きベクトルモード導出部301および復号側の通常予測動きベクトルモード導出部401の処理手順について、それぞれ図19、図25のフローチャートを用いて説明する。図19は符号化側の通常動きベクトルモード導出部301による通常予測動きベクトルモード導出処理手順を示すフローチャートであり、図25は復号側の通常動きベクトルモード導出部401による通常予測動きベクトルモード導出処理手順を示すフローチャートである。
The processing procedure of the normal prediction motion vector
<通常予測動きベクトルモード導出部(通常AMVP):符号化側の説明>
図19を参照して符号化側の通常予測動きベクトルモード導出処理手順を説明する。図19の処理手順の説明において、明細書の動きベクトルという用語と、図19の通常動きベクトルという用語は対応するものとする。
<Normal prediction motion vector mode derivation unit (normal AMVP): Explanation on the coding side>
The procedure for deriving the normal predicted motion vector mode on the coding side will be described with reference to FIG. In the description of the processing procedure of FIG. 19, the term motion vector in the specification and the term normal motion vector of FIG. 19 correspond to each other.
まず、通常動きベクトル検出部326でインター予測モードおよび参照インデックス毎に通常動きベクトルを検出する(図19のステップS100)。
First, the normal motion
続いて、空間予測動きベクトル候補導出部321、時間予測動きベクトル候補導出部322、履歴予測動きベクトル候補導出部323、予測動きベクトル候補補充部325、予測動きベクトル候補選択部327、動きベクトル減算部328で、通常予測動きベクトルモードのインター予測で用いる動きベクトルの差分動きベクトルをL0、L1毎にそれぞれ算出する(図19のステップS101〜S106)。具体的には処理対象ブロックの予測モードPredModeがインター予測(MODE_INTER)で、インター予測モードがL0予測(Pred_L0)の場合、L0の予測動きベクトル候補リストmvpListL0を算出して、予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0の差分動きベクトルmvdL0を算出する。処理対象ブロックのインター予測モードがL1予測(Pred_L1)の場合、L1の予測動きベクトル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、L1の動きベクトルmvL1の差分動きベクトルmvdL1を算出する。処理対象ブロックのインター予測モードが双予測(Pred_BI)の場合、L0予測とL1予測が共に行われ、L0の予測動きベクトル候補リストmvpListL0を算出して、L0の予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0の差分動きベクトルmvdL0を算出するとともに、L1の予測動きベクトル候補リストmvpListL1を算出して、L1の予測動きベクトルmvpL1を算出し、L1の動きベクトルmvL1の差分動きベクトルmvdL1をそれぞれ算出する。
Subsequently, the spatial prediction motion vector
L0、L1それぞれについて、差分動きベクトル算出処理を行うが、L0、L1ともに共通の処理となる。したがって、以下の説明においてはL0、L1を共通のLXとして表す。L0の差分動きベクトルを算出する処理ではXが0であり、L1の差分動きベクトルを算出する処理ではXが1である。また、LXの差分動きベクトルを算出する処理中に、LXではなく、もう一方のリストの情報を参照する場合、もう一方のリストをLYとして表す。 The difference motion vector calculation process is performed for each of L0 and L1, but both L0 and L1 are common processes. Therefore, in the following description, L0 and L1 are represented as a common LX. X is 0 in the process of calculating the differential motion vector of L0, and X is 1 in the process of calculating the differential motion vector of L1. Further, when the information of the other list is referred to instead of the LX during the process of calculating the differential motion vector of the LX, the other list is represented as LY.
LXの動きベクトルmvLXを使用する場合(図19のステップS102:YES)、LXの予測動きベクトルの候補を算出してLXの予測動きベクトル候補リストmvpListLXを構築する(図19のステップS103)。通常予測動きベクトルモード導出部301の中の空間予測動きベクトル候補導出部321、時間予測動きベクトル候補導出部322、履歴予測動きベクトル候補導出部323、予測動きベクトル候補補充部325で複数の予測動きベクトルの候補を導出して予測動きベクトル候補リストmvpListLXを構築する。図19のステップS103の詳細な処理手順については図20のフローチャートを用いて後述する。
When the motion vector mvLX of LX is used (step S102: YES in FIG. 19), the candidates of the predicted motion vector of LX are calculated to construct the predicted motion vector candidate list mvpListLX of LX (step S103 of FIG. 19). Multiple predicted motions in the space predicted motion vector candidate derived
続いて、予測動きベクトル候補選択部327により、LXの予測動きベクトル候補リストmvpListLXからLXの予測動きベクトルmvpLXを選択する(図19のステップS104)。動きベクトルmvLXと予測動きベクトル候補リストmvpListLXの中に格納された各予測動きベクトルの候補mvpListLX[i]との差分であるそれぞれの差分動きベクトルを算出する。それら差分動きベクトルを符号化したときの符号量を予測動きベクトル候補リストmvpListLXの要素ごとに算出する。そして、予測動きベクトル候補リストmvpListLXに登録された各要素の中で、予測動きベクトルの候補毎の符号量が最小となる予測動きベクトルの候補mvpListLX[i]を予測動きベクトルmvpLXとして選択し、そのインデックスiを取得する。予測動きベクトル候補リストmvpListLXの中で最小の発生符号量となる予測動きベクトルの候補が複数存在する場合には、予測動きベクトル候補リストmvpListLXの中のインデックスiが小さい番号で表される予測動きベクトルの候補mvpListLX[i]を最適予測動きベクトルmvpLXとして選択し、そのインデックスiを取得する。
Subsequently, the predicted motion vector
続いて、動きベクトル減算部328で、LXの動きベクトルmvLXから選択されたLXの予測動きベクトルmvpLXを減算し、
mvdLX = mvLX - mvpLX
としてLXの差分動きベクトルmvdLXを算出する(図19のステップS105)。
Subsequently, the motion
mvdLX = mvLX --mvpLX
The difference motion vector mvdLX of LX is calculated as (step S105 in FIG. 19).
<通常予測動きベクトルモード導出部(通常AMVP):復号側の説明>
次に、図25を参照して復号側の通常予測動きベクトルモード処理手順を説明する。復号側では、空間予測動きベクトル候補導出部421、時間予測動きベクトル候補導出部422、履歴予測動きベクトル候補導出部423、予測動きベクトル候補補充部425で、通常予測動きベクトルモードのインター予測で用いる動きベクトルをL0,L1毎にそれぞれ算出する(図25のステップS201〜S206)。具体的には処理対象ブロックの予測モードPredModeがインター予測(MODE_INTER)で、処理対象ブロックのインター予測モードがL0予測(Pred_L0)の場合、L0の予測動きベクトル候補リストmvpListL0を算出して、予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0を算出する。処理対象ブロックのインター予測モードがL1予測(Pred_L1)の場合、L1の予測動きベクトル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、L1の動きベクトルmvL1を算出する。処理対象ブロックのインター予測モードが双予測(Pred_BI)の場合、L0予測とL1予測が共に行われ、L0の予測動きベクトル候補リストmvpListL0を算出して、L0の予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0を算出するとともに、L1の予測動きベクトル候補リストmvpListL1を算出して、L1の予測動きベクトルmvpL1を算出し、L1の動きベクトルmvL1をそれぞれ算出する。
<Normal prediction motion vector mode derivation unit (normal AMVP): Explanation on the decoding side>
Next, the normal predicted motion vector mode processing procedure on the decoding side will be described with reference to FIG. On the decoding side, the spatial prediction motion vector
符号化側と同様に、復号側でもL0、L1それぞれについて、動きベクトル算出処理を行うが、L0、L1ともに共通の処理となる。したがって、以下の説明においてはL0、L1を共通のLXとして表す。LXは処理対象の符号化ブロックのインター予測に用いるインター予測モードを表す。L0の動きベクトルを算出する処理ではXが0であり、L1の動きベクトルを算出する処理ではXが1である。また、LXの動きベクトルを算出する処理中に、算出対象のLXと同じ参照リストではなく、もう一方の参照リストの情報を参照する場合、もう一方の参照リストをLYとして表す。 Similar to the coding side, the decoding side also performs motion vector calculation processing for each of L0 and L1, but both L0 and L1 are common processing. Therefore, in the following description, L0 and L1 are represented as a common LX. LX represents an inter-prediction mode used for inter-prediction of the coded block to be processed. X is 0 in the process of calculating the motion vector of L0, and X is 1 in the process of calculating the motion vector of L1. Further, when the information of the other reference list is referred to instead of the same reference list as the LX to be calculated during the process of calculating the motion vector of the LX, the other reference list is represented as LY.
LXの動きベクトルmvLXを使用する場合(図25のステップS202:YES)、LXの予測動きベクトルの候補を算出してLXの予測動きベクトル候補リストmvpListLXを構築する(図25のステップS203)。通常予測動きベクトルモード導出部401の中の空間予測動きベクトル候補導出部421、時間予測動きベクトル候補導出部422、履歴予測動きベクトル候補導出部423、予測動きベクトル候補補充部425で複数の予測動きベクトルの候補を算出し、予測動きベクトル候補リストmvpListLXを構築する。図25のステップS203の詳細な処理手順については図20のフローチャートを用いて後述する。
When the motion vector mvLX of LX is used (step S202: YES in FIG. 25), the candidates of the predicted motion vector of LX are calculated to construct the predicted motion vector candidate list mvpListLX of LX (step S203 of FIG. 25). Multiple predicted motions in the space predicted motion vector candidate derived
続いて、予測動きベクトル候補選択部426で予測動きベクトル候補リストmvpListLXからビット列復号部201にて復号されて供給される予測動きベクトルのインデックスmvpIdxLXに対応する予測動きベクトルの候補mvpListLX[mvpIdxLX]を選択された予測動きベクトルmvpLXとして取り出す(図25のステップS204)。
Subsequently, the predicted motion vector
続いて、動きベクトル加算部427でビット列復号部201にて復号されて供給されるLXの差分動きベクトルmvdLXとLXの予測動きベクトルmvpLXを加算し、
mvLX = mvpLX + mvdLX
としてLXの動きベクトルmvLXを算出する(図25のステップS205)。
Subsequently, the motion
mvLX = mvpLX + mvdLX
The motion vector mvLX of LX is calculated as (step S205 in FIG. 25).
<通常予測動きベクトルモード導出部(通常AMVP):動きベクトルの予測方法>
図20は本発明の実施の形態に係る動画像符号化装置の通常予測動きベクトルモード導出部301及び動画像復号装置の通常予測動きベクトルモード導出部401とで共通する機能を有する通常予測動きベクトルモード導出処理の処理手順を表すフローチャートである。
<Normal prediction motion vector mode derivation unit (normal AMVP): Motion vector prediction method>
FIG. 20 shows a normal predicted motion vector having a function common to the normal predicted motion vector
通常予測動きベクトルモード導出部301及び通常予測動きベクトルモード導出部401では、予測動きベクトル候補リストmvpListLXを備えている。予測動きベクトル候補リストmvpListLXはリスト構造を成し、予測動きベクトル候補リスト内部の所在を示す予測動きベクトルインデックスと、インデックスに対応する予測動きベクトル候補を要素として格納する記憶領域が設けられている。予測動きベクトルインデックスの数字は0から開始され、予測動きベクトル候補リストmvpListLXの記憶領域に、予測動きベクトル候補が格納される。本実施の形態においては、予測動きベクトル候補リストmvpListLXは少なくとも2個の予測動きベクトル候補(インター予測情報)を登録することができるものとする。さらに、予測動きベクトル候補リストmvpListLXに登録されている予測動きベクトル候補数を示す変数numCurrMvpCandに0を設定する。
The normal prediction motion vector
空間予測動きベクトル候補導出部321及び421は、左側に隣接するブロックからの予測動きベクトルの候補を導出する。この処理では、左側に隣接するブロック(A0またはA1)の予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXA、及び動きベクトルmvLXA、参照インデックスrefIdxAを導出し、mvLXAを予測動きベクトル候補リストmvpListLXに追加する(図20のステップS301)。なお、L0のときXは0、L1のときXは1とする(以下同様)。続いて、空間予測動きベクトル候補導出部321及び421は、上側に隣接するブロック(B0,B1またはB2)からの予測動きベクトルの候補を導出する。この処理では、上側に隣接するブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXB、及び動きベクトルmvLXB、参照インデックスrefIdxBを導出し、mvLXAとmvLXBが等しくなければ、mvLXBを予測動きベクトル候補リストmvpListLXに追加する(図20のステップS302)。図20のステップS301とS302の処理は参照する隣接ブロックの位置と数が異なる点以外は共通であり、符号化ブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXN、及び動きベクトルmvLXN、参照インデックスrefIdxN(NはAまたはB、以下同様)を導出する。
Spatial prediction motion vector
続いて、時間予測動きベクトル候補導出部322及び422は、現在の処理対象ピクチャとは時間が異なるピクチャにおける符号化ブロックからの予測動きベクトルの候補を導出する。この処理では、異なる時間のピクチャにおける符号化ブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLXCol、及び動きベクトルmvLXCol、参照インデックスrefIdxCol、参照リストlistColを導出し、mvLXColを予測動きベクトル候補リストmvpListLXに追加する(図20のステップS303)。このステップS303の導出処理手順の詳細の説明は省略する。
Subsequently, the time prediction motion vector
なお、シーケンス(SPS)、ピクチャ(PPS)またはスライスの単位で時間予測動きベクトル候補導出部322及び422の処理を省略することができるものとする。
It should be noted that the processing of the time prediction motion vector
続いて、履歴予測動きベクトル候補導出部323及び423は履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補を予測動きベクトル候補リストmvpListLXに追加する。(図20のステップS304)。このステップS304の登録処理手順の詳細については図29のフローチャートを用いて後述する。
Subsequently, the history prediction motion vector
続いて予測動きベクトル候補補充部325及び425は予測動きベクトル候補リストmvpListLXを満たすまで(0,0)等、所定の値の動きベクトルを追加する(図20のS305)。
Subsequently, the predicted motion vector
<通常マージモード導出部(通常マージ)>
図18の通常マージモード導出部302は、空間マージ候補導出部341、時間マージ候補導出部342、平均マージ候補導出部344、履歴マージ候補導出部345、マージ候補補充部346、マージ候補選択部347を含む。
<Normal merge mode derivation section (normal merge)>
The normal merge
図24の通常マージモード導出部402は、空間マージ候補導出部441、時間マージ候補導出部442、平均マージ候補導出部444、履歴マージ候補導出部445、マージ候補補充部446、マージ候補選択部447を含む。
The normal merge
図21は本発明の実施の形態に係る動画像符号化装置の通常マージモード導出部302及び動画像復号装置の通常マージモード導出部402とで共通する機能を有する通常マージモード導出処理の手順を説明するフローチャートである。
FIG. 21 shows a procedure of the normal merge mode derivation process having a function common to the normal merge
以下、諸過程を順を追って説明する。なお、以下の説明においては特に断りのない限りスライスタイプslice_typeがBスライスの場合について説明するが、Pスライスの場合にも適用できる。ただし、スライスタイプslice_typeがPスライスの場合、インター予測モードとしてL0予測(Pred_L0)だけがあり、L1予測(Pred_L1)、双予測(Pred_BI)がないので、L1に纏わる処理を省略することができる。 The various processes will be described below in order. In the following description, unless otherwise specified, the case where the slice type slice_type is B slice is described, but it can also be applied to the case of P slice. However, when the slice type slice_type is P slice, there is only L0 prediction (Pred_L0) as the inter-prediction mode, and there is no L1 prediction (Pred_L1) and double prediction (Pred_BI), so that the processing related to L1 can be omitted.
通常マージモード導出部302及び通常マージモード導出部402では、マージ候補リストmergeCandListを備えている。マージ候補リストmergeCandListはリスト構造を成し、マージ候補リスト内部の所在を示すマージインデックスと、インデックスに対応するマージ候補を要素として格納する記憶領域が設けられている。マージインデックスの数字は0から開始され、マージ候補リストmergeCandListの記憶領域に、マージ候補が格納される。以降の処理では、マージ候補リストmergeCandListに登録されたマージインデックスiのマージ候補は、mergeCandList[i]で表すこととする。本実施の形態においては、マージ候補リストmergeCandListは少なくとも6個のマージ候補(インター予測情報)を登録することができるものとする。さらに、マージ候補リストmergeCandListに登録されているマージ候補数を示す変数numCurrMergeCandに0を設定する。
The normal merge
空間マージ候補導出部341及び空間マージ候補導出部441では、動画像符号化装置の符号化情報格納メモリ111または動画像復号装置の符号化情報格納メモリ205に格納されている符号化情報から、処理対象ブロックの左側と上側に隣接するブロックからの空間マージ候補A,Bを導出して、導出された空間マージ候補をマージ候補リストmergeCandListに登録する(図21のステップS401)。ここで、空間マージ候補A,Bまたは時間マージ候補Colのいずれかを示すNを定義する。ブロックNのインター予測情報が空間マージ候補Nとして利用できるか否かを示すフラグavailableFlagN、空間マージ候補NのL0の参照インデックスrefIdxL0N及びL1の参照インデックスrefIdxL1N、L0予測が行われるか否かを示すL0予測フラグpredFlagL0NおよびL1予測が行われるか否かを示すL1予測フラグpredFlagL1N、L0の動きベクトルmvL0N、L1の動きベクトルmvL1Nを導出する。ただし、本実施の形態においては処理対象となる符号化ブロックを含むブロックに含まれる他の符号化ブロックを参照せずに、マージ候補を導出するので、処理対象の符号化ブロックを含むブロックに含まれる空間マージ候補は導出しない。
The spatial merge
続いて、時間マージ候補導出部342及び時間マージ候補導出部442では、異なる時間のピクチャからの時間マージ候補を導出して、導出された時間マージ候補をマージ候補リストmergeCandListに登録する(図21のステップS402)。時間マージ候補が利用できるか否かを示すフラグavailableFlagCol、時間マージ候補のL0予測が行われるか否かを示すL0予測フラグpredFlagL0ColおよびL1予測が行われるか否かを示すL1予測フラグpredFlagL1Col、及びL0の動きベクトルmvL0Col、L1の動きベクトルmvL1Colを導出する。ステップS402の詳細な処理手順については説明を省略する。
Subsequently, the time merge candidate derivation unit 342 and the time merge
なお、シーケンス(SPS)、ピクチャ(PPS)またはスライスの単位で時間マージ候補導出部342及び時間マージ候補導出部442の処理を省略することができるものとする。
It should be noted that the processing of the time merge candidate derivation unit 342 and the time merge
続いて、履歴マージ候補導出部345及び履歴マージ候補導出部445では、履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補をマージ候補リストmergeCandListに追加する(図21のステップS403)。ステップS403の詳細な処理手順については図38のフローチャートを用いて後述する。
Subsequently, the history merge
続いて、平均マージ候補導出部344及び平均マージ候補導出部444では、マージ候補リストmergeCandListから平均マージ候補を導出して、導出された平均マージ候補をマージ候補リストmergeCandListに登録する(図21のステップS404)。ステップS404の詳細な処理手順については図29のフローチャートを用いて後述する。
Subsequently, the average merge candidate derivation unit 344 and the average merge
続いて、マージ候補補充部346及びマージ候補補充部446では、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCandを上限として追加マージ候補を導出して、マージ候補リストmergeCandListに登録する(図21のステップS405)。最大マージ候補数MaxNumMergeCandを上限として、Pスライスでは、異なる参照インデックスで動きベクトルが(0,0)の値を持つ予測モードがL0予測(Pred_L0)のマージ候補を追加する。Bスライスでは、異なる参照インデックスで動きベクトルが(0,0)の値を持つ予測モードが双予測(Pred_BI)のマージ候補を追加する。
Subsequently, in the merge
続いて、マージ候補選択部347及びマージ候補選択部447では、マージ候補リストmergeCandList内に登録されているマージ候補からマージ候補を選択する。符号化側のマージ候補選択部347では、符号量とひずみ量を算出することによりマージ候補を選択し、選択されたマージ候補を示すマージインデックス、マージ候補のインター予測情報を動き補償予測部306に供給する。一方、復号側のマージ候補選択部447では、復号されたマージインデックスに基づいて、マージ候補を選択し、選択されたマージ候補を動き補償予測部406に供給する。
Subsequently, the merge candidate selection unit 347 and the merge
<履歴予測動きベクトル候補リストの更新>
次に、符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ205に備える履歴予測動きベクトル候補リストHmvpCandListの初期化と更新方法について詳細に説明する。図26は履歴予測動きベクトル候補リスト初期化・更新処理手順を説明するフローチャートである。
<Update of history prediction motion vector candidate list>
Next, a method of initializing and updating the history prediction motion vector candidate list HmvpCandList provided in the coding
本実施の形態では、履歴予測動きベクトル候補リストHmvpCandListの更新は、符号化情報格納メモリ111及び符号化情報格納メモリ205で実施されるものとする。インター予測部102及びインター予測部203の中に履歴候補リスト更新部を設置して履歴予測動きベクトル候補リストHmvpCandListの更新を実施させてもよい。
In the present embodiment, the history prediction motion vector candidate list HmvpCandList is updated by the coded
スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListの初期設定を行い、符号化側では予測方法決定部105で通常予測ベクトルモードまたは通常マージモードが選択された場合に履歴予測動きベクトル候補リストHmvpCandListを更新し、復号側では、ビット列復号部201で復号されたインター予測モードが通常予測ベクトルモードまたは通常マージモードの場合に履歴予測動きベクトル候補リストHmvpCandListを更新する。
Initialize the history prediction motion vector candidate list HmvpCandList at the beginning of the slice, and update the history prediction motion vector candidate list HmvpCandList on the coding side when the normal prediction vector mode or the normal merge mode is selected in the prediction
通常予測ベクトルモードまたは通常マージモードでインター予測を行う際に用いるインター予測情報を、インター予測情報候補hMvpCandとして履歴予測動きベクトル候補リストHmvpCandListに登録する。インター予測情報候補hMvpCandには、L0の参照インデックスrefIdxL0及びL1の参照インデックスrefIdxL1、L0予測が行われるか否かを示すL0予測フラグpredFlagL0およびL1予測が行われるか否かを示すL1予測フラグpredFlagL1、L0の動きベクトルmvL0、L1の動きベクトルmvL1が含まれる。符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ205に備える履歴予測動きベクトル候補リストHmvpCandListに登録されている要素(すなわち、インター予測情報)の中に、インター予測情報候補hMvpCandと同じ値のインター予測情報が存在する場合は、履歴予測動きベクトル候補リストHmvpCandListからその要素を削除する。一方、インター予測情報候補hMvpCandと同じ値のインター予測情報が存在しない場合は、履歴予測動きベクトル候補リストHmvpCandListの先頭の要素を削除し、履歴予測動きベクトル候補リストHmvpCandListの最後に、インター予測情報候補hMvpCandを追加する。
The inter-prediction information used when performing inter-prediction in the normal prediction vector mode or the normal merge mode is registered in the historical prediction motion vector candidate list HmvpCandList as the inter-prediction information candidate hMvpCand. The inter-prediction information candidate hMvpCand includes the reference index refIdxL0 of L0 and the reference index refIdxL1 of L1, the L0 prediction flag predFlag L0 indicating whether L0 prediction is performed, and the L1 prediction flag predFlag L1 indicating whether L1 prediction is performed. The motion vector mvL0 of L0 and the motion vector mvL1 of L1 are included. Inter-prediction information candidate among the elements (that is, inter-prediction information) registered in the history prediction motion vector candidate list HmvpCandList provided in the coding
本発明の符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ205に備える履歴予測動きベクトル候補リストHmvpCandListの要素の数は6とする。
The number of elements of the history prediction motion vector candidate list HmvpCandList provided in the coding
まず、スライス単位での履歴予測動きベクトル候補リストHmvpCandListの初期化を行う(図26のステップS2101)。スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListのすべての要素を空にし、履歴予測動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補の数NumHmvpCandの値は0に設定する。 First, the history prediction motion vector candidate list HmvpCandList for each slice is initialized (step S2101 in FIG. 26). Empty all the elements of the historical prediction motion vector candidate list HmvpCandList at the beginning of the slice, and set the value of the number of historical prediction motion vector candidates registered in the historical prediction motion vector candidate list HmvpCandList to 0.
なお、履歴予測動きベクトル候補リストHmvpCandListの初期化をスライス単位(スライスの最初の符号化ブロック)で実施するとしたが、ピクチャ単位、タイル単位やツリーブロック行単位で実施しても良い。 Although the history prediction motion vector candidate list HmvpCandList is initialized in slice units (the first coded block of the slice), it may be performed in picture units, tile units, or tree block line units.
続いて、スライス内の符号化ブロック毎に以下の履歴予測動きベクトル候補リストHmvpCandListの更新処理を繰り返し行なう(図26のステップS2102〜S2107)。 Subsequently, the following history prediction motion vector candidate list HmvpCandList update process is repeated for each coded block in the slice (steps S2102 to S2107 in FIG. 26).
まず、符号化ブロック単位での初期設定を行う。同一候補が存在するか否かを示すフラグidenticalCandExistにFALSE(偽)の値を設定し、削除対象インデックスremoveIdxに0を設定する(図26のステップS2103)。 First, the initial setting is performed for each coded block. A FALSE (false) value is set in the flag identicalCandExist indicating whether or not the same candidate exists, and 0 is set in the removal target index removeIdx (step S2103 in FIG. 26).
履歴予測動きベクトル候補リストHmvpCandListに登録対象のインター予測情報候補hMvpCandが存在するか否かを判定する(図26のステップS2104)。符号化側の予測方法決定部105で通常予測動きベクトルモードまたは通常マージモードと判定された場合、または復号側のビット列復号部201で通常予測動きベクトルモードまたは通常マージモードとして復号された場合、そのインター予測モードをhMvpCandとする。符号化側の予測方法決定部105でイントラ予測モード、サブブロック予測動きベクトルモードまたはサブブロックマージモードと判定された場合、または復号側のビット列復号部201でイントラ予測モード、サブブロック予測動きベクトルモードまたはサブブロックマージモードとして復号された場合、履歴予測動きベクトル候補リストHmvpCandListの更新処理を行わず、登録対象のインター予測情報候補hMvpCandは存在しない。登録対象のインター予測情報候補hMvpCandが存在しない場合はステップS2105〜S2106をスキップする(図26のステップS2104:NO)。登録対象のインター予測情報候補hMvpCandが存在する場合はステップS2105以下の処理を行う(図26のステップS2104:YES)。
It is determined whether or not the inter-prediction information candidate hMvpCand to be registered exists in the history prediction motion vector candidate list HmvpCandList (step S2104 in FIG. 26). When the prediction
続いて、履歴予測動きベクトル候補リストHmvpCandListの各要素の中に登録対象のインター予測情報候補hMvpCandと同一の要素が存在するか否かを判定する(図26のステップS2105)。図27はこの同一要素確認処理手順のフローチャートである。履歴予測動きベクトル候補の数NumHmvpCandの値が0の場合(図27のステップS2121:NO)、履歴予測動きベクトル候補リストHmvpCandListは空で、同一候補は存在しないので図27ステップS2122〜S2125をスキップし、本同一要素確認処理手順を終了する。履歴予測動きベクトル候補の数NumHmvpCandの値が0より大きい場合(図27のステップS2121:YES)、履歴予測動きベクトルインデックスhMvpIdxが0からNumHmvpCand-1まで、ステップS2123の処理を繰り返す(図27のステップS2122〜S2125)。まず、履歴予測動きベクトル候補リストの0から数えてhMvpIdx番目の要素HmvpCandList[hMvpIdx]がインター予測情報候補hMvpCandと同一か否かを比較する(図27のステップS2123)。同一の場合(図27のステップS2123:YES)、同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE(真)の値を設定し、削除対象インデックスremoveIdxにhMVpIndexの値を設定し、本同一要素確認処理を終了する。同一でない場合(図27のステップS2123:NO)、hMvpIdxを1インクリメントし、履歴予測動きベクトルインデックスhMvpIdxがNumHmvpCand-1以下であれば、ステップS2123以降の処理を行う(図27のステップS2122〜S2125)。 Subsequently, it is determined whether or not the same element as the inter-prediction information candidate hMvpCand to be registered exists in each element of the history prediction motion vector candidate list HmvpCandList (step S2105 in FIG. 26). FIG. 27 is a flowchart of the same element confirmation processing procedure. Number of history prediction motion vector candidates When the value of NumHmvpCand is 0 (step S2121: NO in FIG. 27), the history prediction motion vector candidate list HmvpCandList is empty and the same candidate does not exist, so skip steps S212 to S2125 in FIG. 27. , This same element confirmation processing procedure is terminated. When the number of historically predicted motion vector candidates NumHmvpCand is greater than 0 (step S2121: YES in FIG. 27), the process of step S2123 is repeated from 0 to NumHmvpCand-1 in the historical predicted motion vector index hMvpIdx (step in FIG. 27). S2122-S2125). First, it is compared whether or not the hMvpCandList [hMvpIdx], which is the xth element of the historical prediction motion vector candidate list counting from 0, is the same as the inter-prediction information candidate hMvpCand (step S2123 in FIG. 27). If they are the same (step S2123: YES in FIG. 27), a TRUE (true) value is set in the flag identicalCandExist indicating whether or not the same candidate exists, and a value of hMVpIndex is set in the removeIdx index to be deleted. The element confirmation process ends. If they are not the same (step S2123: NO in FIG. 27), hMvpIdx is incremented by 1, and if the historical prediction motion vector index hMvpIdx is NumHmvpCand-1 or less, the processes after step S2123 are performed (steps S212 to S2125 in FIG. 27). ..
再び図26のフローチャートに戻り、履歴予測動きベクトル候補リストHmvpCandListの要素のシフト及び追加処理を行う(図26のステップS2106)。図28は図26のステップS2106の履歴予測動きベクトル候補リストHmvpCandListの要素シフト/追加処理手順のフローチャートである。まず、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除いてから新たな要素を追加するか、要素を除かずに新たな要素を追加するかを判定する。具体的には、同一候補が存在するか否かを示すフラグidenticalCandExistがTRUE(真)またはNumHmvpCandが6か否かを比較する(図28のステップS2141)。同一候補が存在するか否かを示すフラグidenticalCandExistがTRUE(真)またはNumHmvpCandが6のいずれかの条件を満たす場合(図28のステップS2141:YES)、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除いてから新たな要素を追加する。インデックスiの初期値をremoveIdx + 1の値に設定する。この初期値からNumHmvpCandまで、ステップS2143の要素シフト処理を繰り返す。(図28のステップS2142〜S2144)。HMVPCandList[ i - 1 ]にHMVPCandList[ i ]の要素をコピーすることで要素を前方にシフトし(図28のステップS2143)、iを1インクリメントする(図28のステップS2142〜S2144)。インデックスiがNumHmvpCand+1となり、ステップS2143の要素シフト処理が完了したら、履歴予測動きベクトル候補リストの最後にインター予測情報候補hMvpCandを追加する(図28のステップS2145)。ここで、履歴予測動きベクトル候補リストの最後とは、0から数えて(NumHmvpCand-1)番目のHMVPCandList[NumHmvpCand-1]である。以上で、本履歴予測動きベクトル候補リストHMVPCandListの要素シフト・追加処理を終了する。一方、同一候補が存在するか否かを示すフラグidenticalCandExistがTRUE(真)およびNumHmvpCandが6のいずれの条件も満たさない場合(図28のステップS2141:NO)、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除かずに、履歴予測動きベクトル候補リストの最後にインター予測情報候補hMvpCandを追加する(図28のステップS2146)。ここで、履歴予測動きベクトル候補リストの最後とは、0から数えてNumHmvpCand番目のHMVPCandList[NumHmvpCand]である。また、NumHmvpCandを1インクリメントして、本履歴予測動きベクトル候補リストHMVPCandListの要素シフト/追加処理を終了する。
Returning to the flowchart of FIG. 26 again, the elements of the history prediction motion vector candidate list HmvpCandList are shifted and added (step S2106 of FIG. 26). FIG. 28 is a flowchart of the element shift / addition processing procedure of the history prediction motion vector candidate list HmvpCandList in step S2106 of FIG. First, it is determined whether to remove the elements stored in the historical prediction motion vector candidate list HmvpCandList and then add a new element, or to add a new element without removing the elements. Specifically, it compares whether or not the flag identicalCandExist indicating whether or not the same candidate exists is TRUE (true) or NumHmvpCand is 6 (step S2141 in FIG. 28). If the flag identicalCandExist indicating whether or not the same candidate exists satisfies either TRUE (true) or NumHmvpCand satisfies either of 6 (step S2141: YES in FIG. 28), it is stored in the historical prediction motion vector candidate list HmvpCandList. Remove the existing element and then add a new element. Set the initial value of index i to the value of
図31は履歴予測動きベクトルリストの更新処理の一例を説明する図である。履歴予測動きベクトル候補リストHMVPCandListに6つの要素(インター予測情報)が登録されている際に、新たなインター予測情報を追加する場合、履歴予測動きベクトル候補リストHMVPCandListの各要素と前方から新たなインター予測情報を比較して(図31(a))、新たなインター予測情報が履歴予測動きベクトル候補リストHMVPCandListの先頭から3番目の要素HMVP2と同じ値であれば、履歴予測動きベクトル候補リストHMVPCandListから要素HMVP2を削除して後方の要素HMVP3〜HMVP5を前方に1つずつシフト(コピー)し、履歴予測動きベクトル候補リストHMVPCandListの最後に新たなインター予測情報を追加して(図31(b))、履歴予測動きベクトル候補リストHMVPCandListの更新を完了する(図31(c))。 FIG. 31 is a diagram illustrating an example of the update process of the history prediction motion vector list. When 6 elements (inter prediction information) are registered in the history prediction motion vector candidate list HMVPCandList and new inter prediction information is added, each element of the history prediction motion vector candidate list HMVPCandList and a new inter from the front Comparing the prediction information (Fig. 31 (a)), if the new inter-prediction information has the same value as the third element from the beginning of the historical prediction motion vector candidate list HMVPCandList, HMVP2, from the historical prediction motion vector candidate list HMVPCandList. Delete the element HMVP2, shift (copy) the rear elements HMVP3 to HMVP5 one by one, and add new inter-prediction information to the end of the history prediction motion vector candidate list HMVPCandList (Fig. 31 (b)). , The update of the history prediction motion vector candidate list HMVPCandList is completed (Fig. 31 (c)).
<履歴予測動きベクトル候補導出処理>
次に、符号化側の通常予測動きベクトルモード導出部301の履歴予測動きベクトル候補導出部323、復号側の通常予測動きベクトルモード導出部401の履歴予測動きベクトル候補導出部423で共通の処理である図20のステップS304の処理手順である履歴予測動きベクトル候補リストHMVPCandListからの履歴予測動きベクトル候補の導出方法について詳細に説明する。図29は履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。
<History prediction motion vector candidate derivation process>
Next, the history prediction motion vector
現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数(ここでは2とする)以上または履歴予測動きベクトル候補の数NumHmvpCandの値が0の場合(図29のステップS2201:NO)、図29のステップS2202からS2209の処理を省略し、履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2より小さい場合、かつ履歴予測動きベクトル候補の数NumHmvpCandの値が0より大きい場合(図29のステップS2201:YES)、図29のステップS2202からS2209の処理を行う。 When the current number of predicted motion vector candidates numCurrMvpCand is equal to or greater than the maximum number of elements in the predicted motion vector candidate list mvpListLX (here, 2) or the number of historical predicted motion vector candidates is 0 (step S2201: in FIG. 29). NO), the process of steps S2202 to S2209 of FIG. 29 is omitted, and the history prediction motion vector candidate derivation process procedure is completed. When the current number of predicted motion vector candidates numCurrMvpCand is less than 2, which is the maximum number of elements in the predicted motion vector candidate list mvpListLX, and when the value of the number of historical predicted motion vector candidates NumHmvpCand is greater than 0 (step S2201: in FIG. 29). YES), the processes of steps S2202 to S2209 of FIG. 29 are performed.
続いて、インデックスiが1から、4と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値まで、図41のステップS2203からS2208の処理を繰り返す(図29のステップS2202〜S2209)。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2以上の場合(図29のステップS2203:NO)、図29のステップS2204からS2209の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2より小さい場合(図29のステップS2203:YES)、図29のステップS2204以降の処理を行う。 Subsequently, the processes of steps S2203 to S2208 of FIG. 41 are repeated until the index i is 1 to 4 and the number of historical prediction motion vector candidates NuMHmvpCand, whichever is smaller (steps S2202 to S2209 of FIG. 29). When the current number of predicted motion vector candidates numCurrMvpCand is 2 or more, which is the maximum number of elements of the predicted motion vector candidate list mvpListLX (steps S2203: NO in FIG. 29), the processing of steps S2204 to S2209 in FIG. 29 is omitted. The history prediction motion vector candidate derivation processing procedure ends. When the current number of predicted motion vector candidates numCurrMvpCand is smaller than 2, which is the maximum number of elements of the predicted motion vector candidate list mvpListLX (step S2203: YES in FIG. 29), the processes after step S2204 in FIG. 29 are performed.
続いて、ステップS2205からS2207までの処理をYが0と1(L0とL1)についてそれぞれ行う(図29のステップS2204〜S2208)。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2以上の場合(図29のステップS2205:NO)、図29のステップS2206からS2209の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2より小さい場合(図29のステップS2205:YES)、図29のステップS2206以降の処理を行う。 Subsequently, the processes from steps S2205 to S2207 are performed for 0 and 1 (L0 and L1) in Y, respectively (steps S2204 to S2208 in FIG. 29). When the current number of predicted motion vector candidates numCurrMvpCand is 2 or more, which is the maximum number of elements of the predicted motion vector candidate list mvpListLX (steps S2205: NO in FIG. 29), the processing of steps S2206 to S2209 in FIG. 29 is omitted. The history prediction motion vector candidate derivation processing procedure ends. When the current number of predicted motion vector candidates numCurrMvpCand is smaller than 2, which is the maximum number of elements of the predicted motion vector candidate list mvpListLX (step S2205: YES in FIG. 29), the processes after step S2206 in FIG. 29 are performed.
続いて、履歴予測動きベクトル候補リストHmvpCandList[NumHmvpCand - i]のLYの参照インデックスが、符号化/復号対象動きベクトルの参照インデックスrefIdxLXと同じ場合(図29のステップS2206:YES)、予測動きベクトル候補リストの最後の要素として、予測動きベクトル候補リストの0から数えてnumCurrMvpCand番目の要素mvpListLX[numCurrMvpCand]に履歴予測動きベクトル候補リストの0から数えて(NumHmvpCand-i)番目の要素HmvpCandList[[NumHmvpCand - i]のLYの動きベクトルを追加し(図29のステップS2207)、現在の予測動きベクトル候補の数numCurrMvpCandを1インクリメントする。履歴予測動きベクトル候補リストHmvpCandList[NumHmvpCand - i]のLYの参照インデックスが、符号化/復号対象動きベクトルの参照インデックスrefIdxLXと同じでない場合(図29のステップS2206:NO)、ステップS2207の追加処理をスキップする。 Next, when the reference index of LY in the historical prediction motion vector candidate list HmvpCandList [NumHmvpCand --i] is the same as the reference index refIdxLX of the encoded / decoded motion vector (step S2206: YES in FIG. 29), the predicted motion vector candidate. As the last element of the list, numCurrMvpCand th element mvpListLX [numCurrMvpCand] counting from 0 in the predicted motion vector candidate list (NumHmvpCand-i) th element HmvpCandList [[NumHmvpCand-] The motion vector of LY of i] is added (step S2207 in FIG. 29), and the number of current predicted motion vector candidates numCurrMvpCand is incremented by 1. If the reference index of LY in the historical prediction motion vector candidate list HmvpCandList [NumHmvpCand --i] is not the same as the reference index refIdxLX of the motion vector to be encoded / decoded (step S2206: NO in FIG. 29), the additional processing of step S2207 is performed. skip.
以上の図29のステップS2205からS2207の処理をL0とL1で双方ともに行う(図29のステップS2204〜S2208)。 The above processes of steps S2205 to S2207 of FIG. 29 are performed at both L0 and L1 (steps S2204 to S2208 of FIG. 29).
インデックスiを1インクリメントし、インデックスiが4と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値以下の場合、再びステップS2203以降の処理を行う(図29のステップS2202〜S2209)。 When the index i is incremented by 1 and the index i is 4 or less than the smaller value of the number of historical prediction motion vector candidates NuMHmvpCand, the processes after step S2203 are performed again (steps S2202 to S2209 in FIG. 29).
<履歴マージ候補導出処理>
次に、符号化側の通常マージモード導出部302の履歴マージ候補導出部345、復号側の通常マージモード導出部402の履歴マージ候補導出部445で共通の処理である図21のステップS403の処理手順である履歴マージ候補リストHmvpCandListからの履歴マージ候補の導出方法について詳細に説明する。図30は履歴マージ候補導出処理手順を説明するフローチャートである。
<History merge candidate derivation process>
Next, the process of step S403 in FIG. 21, which is a process common to the history merge
まず、初期化処理を行う(図30のステップS2301)。isPruned[i]の0から(numCurrMergeCand -1)番目のそれぞれの要素にFALSEの値を設定し、変数numOrigMergeCandに現在のマージ候補リストに登録されている要素の数numCurrMergeCandを設定する。 First, the initialization process is performed (step S2301 in FIG. 30). Set the value of FALSE to each element from 0 to (numCurrMergeCand -1) of isPruned [i], and set the variable numOrigMergeCand to the number of elements registered in the current merge candidate list, numCurrMergeCand.
続いて、インデックスhMvpIdxの初期値を1に設定し、この初期値からNumHmvpCandまで、図30のステップS2303からステップS2310までの追加処理を繰り返す(図30のステップS2302〜S2311)。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下でなければ、マージ候補リストのすべての要素にマージ候補が追加されたので、本履歴マージ候補導出処理を終了する(図30のステップS2303:NO)。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下の場合(図30のステップS2303:YES)、ステップS2304以降の処理を行う。 Subsequently, the initial value of the index hMvpIdx is set to 1, and the additional processing from step S2303 to step S2310 in FIG. 30 is repeated from this initial value to NuMHmvpCand (steps S2302 to S2311 in FIG. 30). If the number of elements registered in the current merge candidate list numCurrMergeCand is not less than or equal to (maximum number of merge candidates MaxNumMergeCand-1), merge candidates have been added to all the elements in the merge candidate list. The process ends (step S2303: NO in FIG. 30). When the number of elements registered in the current merge candidate list numCurrMergeCand is (maximum number of merge candidates MaxNumMergeCand-1) or less (step S2303: YES in FIG. 30), the processes after step S2304 are performed.
まず、sameMotionにFALSE(偽)の値を設定する(図30のステップS2304)。続いて、インデックスiの初期値を0に設定し、この初期値から1まで図30のステップS2306、S2307の処理を行う(図30のS2305〜S2308)。 First, a FALSE value is set in sameMotion (step S2304 in FIG. 30). Subsequently, the initial value of the index i is set to 0, and the processes of steps S2306 and S2307 of FIG. 30 are performed from this initial value to 1 (S2305 to S2308 of FIG. 30).
次に、履歴動きベクトル予測候補リストの0から数えて(NumHmvpCand-hMvpIdx)番目の要素HmvpCandList[NumHmvpCand-hMvpIdx]と、マージ候補リストの0から数えてi番目の要素mergeCandList[i]が同じ値か否かを比較する(図30のステップS2306)。ここで、マージ候補が同じ値とは、マージ候補が持つすべての構成要素(インター予測モード、参照インデックス、動きベクトル)の値が同じであることを示す。ただし、このステップS2306の処理は、hMvpIdxがNumHmvpCand-2より大きく、かつmergeCandList[i]が空間マージ候補で、かつisPruned[i]がFALSE(偽)の場合に限る。同じ値の場合(図30のステップS2306:YES)、sameMotionおよびisPruned[i]共にTRUE(真)を設定する(図30のステップS2307)。同じ値でない場合(図30のステップS2306:NO)、ステップS2307の処理をスキップする。図30のステップS2305からステップS2308までの繰り返し処理が完了したらsameMotionがFALSE(偽)か否かを比較し(図30のステップS2309)、sameMotionが FALSE(偽)の場合(図30のステップS2309:YES)、マージ候補リストのnumCurrMergeCand番目のmergeCandList[numCurrMergeCand]に履歴予測動きベクトル候補リストの0から数えて(NumHmvpCand - hMvpIdx)番目の要素HmvpCandList[NumHmvpCand - hMvpIdx]を追加し、numCurrMergeCandを1インクリメントする(図30のステップS2310)。インデックスhMvpIdxを1インクリメントし(図30のステップS2302)、図30のステップS2302〜S2311の繰り返し処理を行う。 Next, is the (NumHmvpCand-hMvpIdx) th element HmvpCandList [NumHmvpCand-hMvpIdx] counted from 0 in the historical motion vector prediction candidate list and the i-th element mergeCandList [i] counted from 0 in the merge candidate list the same value? Whether or not they are compared (step S2306 in FIG. 30). Here, the same value of the merge candidate indicates that the values of all the components (inter-prediction mode, reference index, motion vector) of the merge candidate are the same. However, the processing in step S2306 is limited to the case where hMvpIdx is larger than NuMHmvpCand-2, mergeCandList [i] is a spatial merge candidate, and isPruned [i] is FALSE (false). If the values are the same (step S2306: YES in FIG. 30), TRUE (true) is set for both sameMotion and isPruned [i] (step S2307 in FIG. 30). If the values are not the same (step S2306: NO in FIG. 30), the process of step S2307 is skipped. When the iterative processing from step S2305 to step S2308 in FIG. 30 is completed, it is compared whether or not sameMotion is FALSE (false) (step S2309 in FIG. 30), and when sameMotion is FALSE (false) (step S2309 in FIG. 30: YES), add the (NumHmvpCand --hMvpIdx) th element HmvpCandList [NumHmvpCand --hMvpIdx] to the mergeCandList [numCurrMergeCand] of the numCurrMergeCand of the merge candidate list, and increment numCurrMergeCand1. Step S2310 in FIG. 30). The index hMvpIdx is incremented by 1 (step S2302 in FIG. 30), and the iterative processing of steps S2302 to S2311 in FIG. 30 is repeated.
履歴予測動きベクトル候補リストのすべての要素の確認が完了するか、マージ候補リストのすべての要素にマージ候補が追加されたら、本履歴マージ候補の導出処理を完了する。 When the confirmation of all the elements of the history prediction motion vector candidate list is completed or the merge candidates are added to all the elements of the merge candidate list, the derivation process of this history merge candidate is completed.
<平均マージ候補導出処理>
次に、符号化側の通常マージモード導出部302の平均マージ候補導出部344、復号側の通常マージモード導出部402の平均マージ候補導出部444で共通の処理である図21のステップS404の処理手順である平均マージ候補の導出方法について詳細に説明する。図38は平均マージ候補導出処理手順を説明するフローチャートである。
<Average merge candidate derivation process>
Next, the process of step S404 of FIG. 21, which is a process common to the average merge candidate derivation unit 344 of the normal merge
まず、初期化処理を行う(図38のステップS1301)。変数numOrigMergeCandに現在のマージ候補リストに登録されている要素の数numCurrMergeCandを設定する。 First, the initialization process is performed (step S1301 in FIG. 38). Set the variable numOrigMergeCand to the number of elements registered in the current merge candidate list, numCurrMergeCand.
続いて、マージ候補リストの先頭から順に走査し、2つの動き情報を決定する。1つ目の動き情報を示すインデックスi=0、2つ目の動き情報を示すインデックスj=1とする。(図38のステップS1302〜S1303)。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下でなければ、マージ候補リストのすべての要素にマージ候補が追加されたので、本履歴マージ候補導出処理を終了する(図38のステップS1304)。現在のマージ候補リストに登録されている要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下の場合は、ステップS1305以降の処理を行う。 Then, the merge candidate list is scanned in order from the beginning, and two motion informations are determined. It is assumed that the index i = 0 indicating the first motion information and the index j = 1 indicating the second motion information. (Steps S1302 to S1303 in FIG. 38). If the number of elements registered in the current merge candidate list numCurrMergeCand is not less than or equal to (maximum number of merge candidates MaxNumMergeCand-1), merge candidates have been added to all the elements in the merge candidate list. The process ends (step S1304 in FIG. 38). If the number of elements registered in the current merge candidate list numCurrMergeCand is (maximum number of merge candidates MaxNumMergeCand-1) or less, the processing of step S1305 and subsequent steps is performed.
マージ候補リストのi番目の動き情報mergeCandList[i]とマージ候補リストのj番目の動き情報mergeCandList[j]がともに無効であるか否かを判定し(図38のステップS1305)、ともに無効である場合は、mergeCandList[i]とmergeCandList[j]の平均マージ候補の導出を行わず、次の要素に移る。mergeCandList[i]とmergeCandList[j]がともに無効でない場合は、Xを0と1として以下の処理を繰り返す(図38のステップS1306からS1314)。 It is determined whether the i-th motion information mergeCandList [i] of the merge candidate list and the j-th motion information mergeCandList [j] of the merge candidate list are both invalid (step S1305 in FIG. 38), and both are invalid. In that case, move to the next element without deriving the average merge candidates of mergeCandList [i] and mergeCandList [j]. If both mergeCandList [i] and mergeCandList [j] are not invalid, the following processing is repeated with X as 0 and 1 (steps S1306 to 1314 in FIG. 38).
mergeCandList[i]のLX予測が有効であるかを判定する(図38のステップS1307)。mergeCandList[i]のLX予測が有効である場合は、mergeCandList[j]のLX予測が有効であるかを判定する(図38のステップS1308)。mergeCandList[j]のLX予測が有効である場合、すなわち、mergeCandList[i]のLX予測とmergeCandList[j]のLX予測がともに有効である場合は、mergeCandList[i]のLX予測の動きベクトルとmergeCandList[j]のLX予測の動きベクトルを平均したLX予測の動きベクトルとmergeCandList[i]のLX予測の参照インデックスを有するLX予測の平均マージ候補を導出してaverageCandのLX予測に設定し、averageCandのLX予測を有効とする(図38のステップS1309)。図38のステップS1308で、mergeCandList[j]のLX予測が有効でない場合、すなわち、mergeCandList[i]のLX予測が有効、かつmergeCandList[j]のLX予測が無効である場合は、mergeCandList[i]のLX予測の動きベクトルと参照インデックスを有するLX予測の平均マージ候補を導出してaverageCandのLX予測に設定し、averageCandのLX予測を有効とする(図38のステップS1310)。図38のステップS1307で、mergeCandList[i]のLX予測が有効でない場合、mergeCandList[j]のLX予測が有効であるか否かを判定する(図38のステップS1311)。mergeCandList[j]のLX予測が有効である場合、すなわちmergeCandList[i]のLX予測が無効、かつmergeCandList[j] のLX予測が有効である場合は、mergeCandList[j]のLX予測の動きベクトルと参照インデックスを有するLX予測の平均マージ候補を導出してaverageCandのLX予測に設定し、averageCandのLX予測を有効とする(図38のステップS1312)。図38のステップS1311で、mergeCandList[j]のLX予測が有効でない場合、すなわちmergeCandList[i]のLX予測、mergeCandList[j]のLX予測がともに無効である場合は、averageCandのLX予測を無効とする(図38のステップS1312)。 It is determined whether the LX prediction of mergeCandList [i] is valid (step S1307 of FIG. 38). When the LX prediction of mergeCandList [i] is valid, it is determined whether the LX prediction of mergeCandList [j] is valid (step S1308 in FIG. 38). If the LX prediction of mergeCandList [j] is valid, that is, if both the LX prediction of mergeCandList [i] and the LX prediction of mergeCandList [j] are valid, then the motion vector of the LX prediction of mergeCandList [i] and the mergeCandList The average merge candidate of the LX prediction having the motion vector of the LX prediction obtained by averaging the movement vectors of the LX prediction of [j] and the reference index of the LX prediction of mergeCandList [i] is derived and set to the LX prediction of the averageCand, and the averageCand Enable LX prediction (step S1309 in FIG. 38). In step S1308 of FIG. 38, if the LX prediction of mergeCandList [j] is not valid, that is, if the LX prediction of mergeCandList [i] is valid and the LX prediction of mergeCandList [j] is invalid, then mergeCandList [i] The average merge candidate of the LX prediction having the motion vector and the reference index of the LX prediction is derived and set to the LX prediction of the averageCand, and the LX prediction of the averageCand is valid (step S1310 in FIG. 38). If the LX prediction of mergeCandList [i] is not valid in step S1307 of FIG. 38, it is determined whether or not the LX prediction of mergeCandList [j] is valid (step S1311 of FIG. 38). If the LX prediction of mergeCandList [j] is valid, that is, if the LX prediction of mergeCandList [i] is invalid and the LX prediction of mergeCandList [j] is valid, then the motion vector of the LX prediction of mergeCandList [j] The average merge candidate of the LX prediction having the reference index is derived and set to the LX prediction of the averageCand to enable the LX prediction of the averageCand (step S1312 in FIG. 38). In step S1311 of FIG. 38, if the LX prediction of mergeCandList [j] is not valid, that is, if both the LX prediction of mergeCandList [i] and the LX prediction of mergeCandList [j] are invalid, the LX prediction of averageCand is invalidated. (Step S1312 in FIG. 38).
以上のように生成されたL0予測、L1予測またはBI予測の平均マージ候補averageCandを、マージ候補リストのnumCurrMergeCand番目のmergeCandList[numCurrMergeCand]に追加し、numCurrMergeCandを1インクリメントする(図38のステップS1315)。以上で、平均マージ候補の導出処理を完了する。 The average merge candidate averageCand of the L0 prediction, L1 prediction or BI prediction generated as described above is added to the mergeCandList [numCurrMergeCand] of the numCurrMergeCand th numCurrMergeCand of the merge candidate list, and the numCurrMergeCand is incremented by 1 (step S1315 in FIG. 38). This completes the process of deriving the average merge candidate.
なお、平均マージ候補は動きベクトルの水平成分と動きベクトルの垂直成分それぞれで平均される。 The average merge candidate is averaged for each of the horizontal component of the motion vector and the vertical component of the motion vector.
<動き補償予測処理>
動き補償予測部306は、符号化において現在予測処理の対象となっているブロックの位置およびサイズを取得する。また、動き補償予測部306は、インター予測情報をインター予測モード判定部305から取得する。取得したインター予測情報から参照インデックスおよび動きベクトルを導出し、復号画像メモリ内の参照インデックスで特定される参照ピクチャを、動きベクトルの分だけ予測ブロックの画像信号と同一位置より移動させた位置の画像信号を取得した後に予測信号を生成する。
<Motion compensation prediction processing>
The motion
インター予測におけるインター予測モードがL0予測やL1予測のような、単一の参照ピクチャからの予測の場合には、1つの参照ピクチャから取得した予測信号を動き補償予測信号とし、インター予測モードがBI予測のような、予測モードが2つの参照ピクチャからの予測の場合には、2つの参照ピクチャから取得した予測信号を重みづけ平均したものを動き補償予測信号とし、動き補償予測信号を予測方法決定部に供給する。ここでは双予測の重みづけ平均の比率を1:1とするが、他の比率を用いて重みづけ平均を行っても良い。例えば、予測対象となっているピクチャと参照ピクチャとのピクチャ間隔が近いものほど重みづけの比率が大きくなるようにしてもよい。また、重みづけ比率の算出をピクチャ間隔の組み合わせと重みづけ比率との対応表を用いて行うようにしても良い。 When the inter-prediction mode in inter-prediction is prediction from a single reference picture such as L0 prediction or L1 prediction, the prediction signal acquired from one reference picture is used as the motion compensation prediction signal, and the inter-prediction mode is BI. When the prediction mode is prediction from two reference pictures such as prediction, the weighted average of the prediction signals acquired from the two reference pictures is used as the motion compensation prediction signal, and the motion compensation prediction signal is used to determine the prediction method. Supply to the department. Here, the ratio of the weighted averages of the biprediction is 1: 1, but weighted averages may be performed using other ratios. For example, the weighting ratio may be increased as the distance between the picture to be predicted and the reference picture is closer. Further, the weighting ratio may be calculated by using the correspondence table between the combination of picture intervals and the weighting ratio.
動き補償予測部406は、符号化側の動き補償予測部306と同様の機能をもつ。動き補償予測部406は、インター予測情報を、通常予測動きベクトルモード導出部401、通常マージモード導出部402、サブブロック予測動きベクトルモード導出部403、サブブロックマージモード導出部404から、スイッチ408を介して取得する。
The motion
動き補償予測部406は、得られた動き補償予測信号を、復号画像信号重畳部207に供給する。
The motion
<インター予測モードについて>
単一の参照ピクチャからの予測を行う処理を単予測と定義し、単予測の場合はL0予測またはL1予測という、参照リストL0、L1に登録された2つの参照ピクチャのいずれか一方を利用した予測を行う。L0予測およびL1予測は前方向予測(前方の参照画像を参照する予測)であっても後方向予測(後方の参照画像を参照する予測)であってもよい。図33〜図34は、L0予測(単予測)での動き補償予測を説明するための図である。
<About inter-prediction mode>
The process of making a prediction from a single reference picture is defined as a simple prediction, and in the case of a single prediction, one of the two reference pictures registered in the reference lists L0 and L1, which is L0 prediction or L1 prediction, is used. Make a prediction. The L0 prediction and the L1 prediction may be forward prediction (prediction that refers to a front reference image) or backward prediction (prediction that refers to a rear reference image). 33 to 34 are diagrams for explaining motion compensation prediction in L0 prediction (single prediction).
図33はインター予測モードがL0予測であってL0の参照ピクチャ(RefL0Pic)が処理対象ピクチャ(CurPic)より前の時刻にある場合を示している。図33はL0予測であってL0の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。同様に、図33および図34のL0予測の参照ピクチャをL1予測の参照ピクチャ(RefL1Pic)に置き換えて単予測を行うこともできる。 FIG. 33 shows a case where the inter-prediction mode is L0 prediction and the reference picture (RefL0Pic) of L0 is at a time before the processing target picture (CurPic). FIG. 33 shows a case where the reference picture of L0 is at a time after the picture to be processed in the L0 prediction. Similarly, the reference picture for the L0 prediction in FIGS. 33 and 34 can be replaced with the reference picture for the L1 prediction (RefL1Pic) to perform simple prediction.
2つの参照ピクチャからの予測を行う処理を双予測と定義し、双予測の場合はL0予測とL1予測の双方を利用して双予測と表現する。図35〜図37は、双予測での動き補償予測を説明するための図である。図35は双予測であってL0予測の参照ピクチャが処理対象ピクチャより前の時刻にあって、L1予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。図36は双予測であってL0予測の参照ピクチャとL1予測の参照ピクチャが処理対象ピクチャより前の時刻にある場合を示している。図37は双予測であってL0予測の参照ピクチャとL1予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。 The process of making a prediction from two reference pictures is defined as a double prediction, and in the case of a double prediction, both the L0 prediction and the L1 prediction are used to express the double prediction. FIGS. 35 to 37 are diagrams for explaining motion compensation prediction in bi-prediction. FIG. 35 shows a case where the reference picture of the L0 prediction is at a time before the processing target picture and the reference picture of the L1 prediction is at a time after the processing target picture in the bi-prediction. FIG. 36 shows a case where the reference picture of the L0 prediction and the reference picture of the L1 prediction are at a time before the processing target picture in the bi-prediction. FIG. 37 shows a case where the reference picture of the L0 prediction and the reference picture of the L1 prediction are at a time after the processing target picture in the bi-prediction.
このように、L0/L1の予測種別と時間の関係は、L0が前方向予測(前方の参照画像を参照する予測)、L1が後方向予測(後方の参照画像を参照する予測)とは限定されずに用いることが可能である。また双予測の場合に、同一の参照ピクチャを用いてL0予測及びL1予測のそれぞれを行ってもよい。なお、動き補償予測を単予測で行うか双予測で行うかの判断は、例えばL0予測を利用するか否か及びL1予測を利用するか否かを示す情報(例えば、フラグ)に基づき判断される。 In this way, the relationship between the prediction type of L0 / L1 and time is limited to L0 for forward prediction (prediction that refers to the front reference image) and L1 for backward prediction (prediction that refers to the rear reference image). It can be used without it. Further, in the case of bi-prediction, L0 prediction and L1 prediction may be performed using the same reference picture. It should be noted that the determination of whether the motion compensation prediction is performed by simple prediction or double prediction is determined based on, for example, information (for example, a flag) indicating whether or not to use L0 prediction and whether or not to use L1 prediction. To.
<参照インデックスについて>
本発明の実施の形態では、動き補償予測の精度向上のために、動き補償予測において複数の参照ピクチャの中から最適な参照ピクチャを選択することを可能とする。そのため、動き補償予測で利用した参照ピクチャを参照インデックスとして利用するとともに、参照インデックスを符号化ベクトルとともに符号化ストリーム中に符号化する。
<About reference index>
In the embodiment of the present invention, in order to improve the accuracy of motion compensation prediction, it is possible to select the optimum reference picture from a plurality of reference pictures in motion compensation prediction. Therefore, the reference picture used in the motion compensation prediction is used as the reference index, and the reference index is encoded together with the coding vector in the coding stream.
<通常予測動きベクトルモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示されるように、インター予測モード判定部305において、通常予測動きベクトルモード導出部301によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部305から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部105に供給される。
<Motion compensation processing based on normal predicted motion vector mode>
As shown in the
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも示されるように、復号の過程でスイッチ408が通常予測動きベクトルモード導出部401に接続された場合には、通常予測動きベクトルモード導出部401によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部207に供給される。
Similarly, the motion
<通常マージモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示されるように、インター予測モード判定部305において、通常マージモード導出部302によるインター予測情報が選択された場合には、このインター予測情報をインター予測モード判定部305から取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、予測方法決定部105に供給される。
<Motion compensation processing based on normal merge mode>
As shown in the
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも示されるように、復号の過程でスイッチ408が通常マージモード導出部402に接続された場合には、通常マージモード導出部402によるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重畳部207に供給される。
<マージ差分動きベクトル(MMVD)>
マージ候補の上位2つ(マージ候補リスト内のマージインデックスが0および1のマージ候補)の動きベクトルに対し、差分動きベクトルを加算することができる。この差分動きベクトルを、マージ差分動きベクトルと呼ぶ。
Similarly, the motion
<Merge differential motion vector (MMVD)>
A differential motion vector can be added to the motion vectors of the top two merge candidates (merge candidates with
符号化側のマージ候補選択部347においてマージ差分動きベクトルを加算する場合、マージ差分動きベクトルが加算された動きベクトルは、インター予測モード判定部305を介して動き補償予測部306に供給される。また、ビット列符号化部108は、マージ差分動きベクトルに関する情報を符号化する。マージ差分動きベクトルに関する情報とは、動きベクトルに加算する距離を示すインデックスmmvd_distance_idxと、動きベクトルを加算する方向を示すインデックスmmvd_direction_idxである。これらのインデックスは、図39(a)および図39(b)に示す表のように定義される。そして、マージ差分動きベクトルオフセットMmvdOffsetのx,y成分をそれぞれMmvdOffset[0], MmvdOffset[1]で表すと、
MmvdOffset[0] = ( MmvdDistance << 2 ) * MmvdSign[0]
MmvdOffset[1] = ( MmvdDistance << 2 ) * MmvdSign[1]
となる。マージ差分動きベクトルは、上式のマージ差分動きベクトルオフセットMmvdOffsetより導出される。マージ差分動きベクトルを導出する詳細は、以下の復号側の場合において説明する。
When the merge difference motion vector is added in the merge candidate selection unit 347 on the coding side, the motion vector to which the merge difference motion vector is added is supplied to the motion
MmvdOffset [0] = (MmvdDistance << 2) * MmvdSign [0]
MmvdOffset [1] = (MmvdDistance << 2) * MmvdSign [1]
Will be. The merged difference motion vector is derived from the merged difference motion vector offset MmvdOffset in the above equation. The details of deriving the merged difference motion vector will be described in the case of the decoding side below.
復号側において、マージ差分動きベクトルが存在する場合、ビット列復号部201に供給されるビットストリームからマージ差分動きベクトルに関する情報を分離し、マージ差分動きベクトルオフセットMmvdOffsetを導出する。また、マージ候補選択部447は、復号されたマージ差分動きベクトルオフセットから、マージ差分動きベクトルを導出する。このマージ差分動きベクトルを動きベクトルに加算してから、その動きベクトルを動き補償予測部406に供給する。
When the merge differential motion vector exists on the decoding side, the information about the merge differential motion vector is separated from the bit stream supplied to the bit
マージ候補選択部447におけるマージ差分動きベクトルmMvdLXの導出について、図40のフローチャートを参照して説明する。まず、符号化ブロックのインター予測モードが双予測(PRED_BI)であるか否かを判定する(S4402)。双予測でない場合(S4402:No)、L0予測(PRED_L0)であるか否かを判定する(S4404)。L0予測の場合(S4404:Yes)、
mMvdL0 = MmvdOffset
mMvdL1 = 0
として(S4406)、マージ差分動きベクトルを導出する処理は終了する。L1予測の場合(S4404:No)、
mMvdL0 = 0
mMvdL1 = MmvdOffset
として(S4408)、マージ差分動きベクトルを導出する処理は終了する。
The derivation of the merge difference motion vector mMvdLX in the merge
mMvdL0 = MmvdOffset
mMvdL1 = 0
(S4406), the process of deriving the merge differential motion vector ends. In the case of L1 prediction (S4404: No),
mMvdL0 = 0
mMvdL1 = MmvdOffset
(S4408), the process of deriving the merged difference motion vector is completed.
一方、双予測の場合(S4402:Yes)、処理対象ピクチャcurrPicと参照ピクチャのPOCの差を、参照リストごとに計算し、それぞれcurrPocDiffL0, currPocDiffL1とする(S4410)。ここで、picAとpicBのPOCの差DiffPicOrderCnt(picA, picB)は、
DiffPicOrderCnt( picA, picB ) = [picAのPOC] - [picBのPOC]
を示す。また、参照ピクチャRefPicList0[ refIdxL0 ]は、参照リストL0の参照インデックスrefIdxL0が示すピクチャである。同様に、参照ピクチャRefPicList1[ refIdxL1 ]は、参照リストL1の参照インデックスrefIdxL1が示すピクチャである。
On the other hand, in the case of bi-prediction (S4402: Yes), the difference between the POC of the picture to be processed and the POC of the reference picture is calculated for each reference list and is set to currPocDiffL0 and currPocDiffL1, respectively (S4410). Here, the difference between the POCs of picA and picB, DiffPicOrderCnt (picA, picB), is
DiffPicOrderCnt (picA, picB) = [picA POC]-[picB POC]
Is shown. Further, the reference picture RefPicList0 [refIdxL0] is a picture indicated by the reference index refIdxL0 of the reference list L0. Similarly, the reference picture RefPicList1 [refIdxL1] is a picture indicated by the reference index refIdxL1 of the reference list L1.
次に、-currPocDiffL0 * currPocDiffL1 >= 0か否かを判定する(ステップS4412)。この判定が真の場合(ステップS4412:Yes)、
mMvdL0 = MmvdOffset
mMvdL1 = -MmvdOffset
として(ステップS4414)、マージ差分動きベクトルを導出する処理は終了する。一方、この判定が偽の場合(ステップS4412:No)、
mMvdL0 = MmvdOffset
mMvdL1 = MmvdOffset
とする(ステップS4416)。次に、参照リストL0とのPOCの差の絶対値が、参照リストL1とのPOCの差の絶対値以上か否かを判定する(ステップS4418)。この判定が真の場合(ステップS4418:Yes)、X=0, Y=1とし(ステップS4420)、L1のマージ差分動きベクトルmMvdL1をスケーリングする(ステップS4424)。ここで、mMvdLYは、Y=0の場合はmMvdL0、Y=1の場合はmMvdL1であることを示す。一方、この判定が偽の場合(ステップS4418:No)、X=1, Y=0とし(ステップS4422)、L0のマージ差分動きベクトルmMvdL0をスケーリングする(ステップS4424)。マージ差分動きベクトルmMvdLYのスケーリングは、
td = Clip3( -128, 127, currPocDiffLX )
tb = Clip3( -128, 127, currPocDiffLY )
tx = ( 16384 + Abs( td ) >> 1 ) / td
distScaleFactor = Clip3( -4096, 4095, ( tb * tx + 32 ) >> 6 )
mMvdLY = Clip3( -131072, 131071, Sign( distScaleFactor * mMvdLY )
* ( (Abs( distScaleFactor * mMvdLY ) + 127 ) >> 8 ) )
として導出する。ここで、currPocDiffLXは、X=0の場合はcurrPocDiffL0、X=1の場合はcurrPocDiffL1であることを示す。同様に、currPocDiffLYは、Y=0の場合はcurrPocDiffL0、Y=1の場合はcurrPocDiffL1であることを示す。また、Clip3(x,y,z)は値zについて、最小値をx、最大値をyに制限する関数である。Sign(x)は値xの符号を返す関数であり、値xが正の場合1、値xが0の場合0、値xが負の場合−1となる。Abs(x)は値xの絶対値を返す関数である。また、>>は左側の被演算数を右側の被演算数のビット数分右にビットシフトすることを示すビット演算子である。以上により、マージ差分動きベクトルを導出する処理は終了する。
Next, it is determined whether or not -currPocDiffL0 * currPocDiffL1> = 0 (step S4412). If this determination is true (step S4412: Yes),
mMvdL0 = MmvdOffset
mMvdL1 = -MmvdOffset
(Step S4414), the process of deriving the merged difference motion vector ends. On the other hand, when this determination is false (step S4412: No),
mMvdL0 = MmvdOffset
mMvdL1 = MmvdOffset
(Step S4416). Next, it is determined whether or not the absolute value of the difference in POC from the reference list L0 is equal to or greater than the absolute value of the difference in POC from the reference list L1 (step S4418). If this determination is true (step S4418: Yes), then X = 0, Y = 1 (step S4420), and the merged difference motion vector mMvdL1 of L1 is scaled (step S4424). Here, mMvdLY indicates that it is mMvdL0 when Y = 0 and mMvdL1 when Y = 1. On the other hand, when this determination is false (step S4418: No), X = 1, Y = 0 (step S4422), and the merge differential motion vector mMvdL0 of L0 is scaled (step S4424). The scaling of the merge differential motion vector mMvdLY is
td = Clip3 (-128, 127, currPocDiffLX)
tb = Clip3 (-128, 127, currPocDiffLY)
tx = (16384 + Abs (td) >> 1) / td
distScaleFactor = Clip3 (-4096, 4095, (tb * tx + 32) >> 6)
mMvdLY = Clip3 (-131072, 131071, Sign (distScaleFactor * mMvdLY)
* ((Abs (distScaleFactor * mMvdLY) + 127) >> 8))
Derived as. Here, it is shown that currPocDiffLX is currPocDiffL0 when X = 0 and currPocDiffL1 when X = 1. Similarly, currPocDiffLY indicates that it is currPocDiffL0 when Y = 0 and currPocDiffL1 when Y = 1. Clip3 (x, y, z) is a function that limits the minimum value to x and the maximum value to y for the value z. Sign (x) is a function that returns the sign of the value x, which is 1 when the value x is positive, 0 when the value x is 0, and -1 when the value x is negative. Abs (x) is a function that returns the absolute value of the value x. >> is a bit operator indicating that the operand on the left side is bit-shifted to the right by the number of bits of the operand on the right side. This completes the process of deriving the merged difference motion vector.
マージ差分動きベクトルは、サブブロックマージ候補の上位2つの動きベクトルに対して加算しても良い。この場合、動きベクトルに加算する距離を示すインデックスmmvd_distance_idxは、図39(c)に示す表のように定義される。サブブロックマージ候補選択部386の動作は、マージ候補選択部347と同じであるため、説明を省略する。また、サブブロックマージ候補選択部486の動作は、マージ候補選択部447と同じであるため、説明を省略する。
The merge difference motion vector may be added to the top two motion vectors of the subblock merge candidates. In this case, the index mmvd_distance_idx indicating the distance to be added to the motion vector is defined as shown in the table shown in FIG. 39 (c). Since the operation of the subblock merge candidate selection unit 386 is the same as that of the merge candidate selection unit 347, the description thereof will be omitted. Further, since the operation of the subblock merge candidate selection unit 486 is the same as that of the merge
前述の通り、MmvdDistanceは、図39(a)や図39(c)に示す表のように定義される。これらの表は1/4画素精度で定義されているので、生成されるマージ差分動きベクトルは、小数画素精度を含むことがある。ただし、これらの表の画素精度が1であることを示すフラグをスライス単位で符号化/復号することにより、生成されるマージ差分動きベクトルが、小数画素精度を含まないように変更することができる。 As described above, MmvdDistance is defined as shown in the tables shown in FIGS. 39 (a) and 39 (c). Since these tables are defined with 1/4 pixel precision, the merged difference motion vector generated may include decimal pixel precision. However, by encoding / decoding the flag indicating that the pixel precision of these tables is 1 in slice units, the generated merge difference motion vector can be changed so as not to include the decimal pixel precision. ..
<適応動きベクトル解像度(AMVR)>
符号化ブロック単位で、差分動きベクトルの解像度を適応的に変更することができる。この解像度を、適応動きベクトル解像度と呼ぶ。
<Adaptive motion vector resolution (AMVR)>
The resolution of the differential motion vector can be adaptively changed for each coded block. This resolution is called the adaptive motion vector resolution.
通常予測動きベクトルモードに対して適応動きベクトル解像度を用いる場合について説明する。この場合、空間予測動きベクトル候補導出部321および421と、時間予測動きベクトル候補導出部322および422と、履歴予測動きベクトル候補導出部323および423において、導出された候補の動きベクトルは解像度に応じて丸められる。解像度は1/4,1,4画素精度から選択でき、解像度を変更しない場合は1/4画素精度となる。丸め処理は、処理対象の符号化ブロックにおける動きベクトルの解像度に合わせてなされる。つまり、導出された候補の動きベクトルmvXは、
rightShift = leftShift = MvShift + 2
offset = ( 1 << ( rightShift - 1 ) )
mvX = ( ( mvX + offset - ( mvX >= 0 ) ) >> rightShift ) << leftShift
と丸め処理される。ただし、rightShift=0の場合は、offset=0となる。ここで、処理対象の符号化ブロックにおける動きベクトルの解像度が1/4画素精度の場合、MvShift=0である。同様に、動きベクトルの解像度が1画素精度の場合はMvShift=2であり、動きベクトルの解像度が4画素精度の場合はMvShift=4である。上式により、mvXのx,y成分それぞれが処理される。
A case where the adaptive motion vector resolution is used for the normal predicted motion vector mode will be described. In this case, the motion vectors of the derived candidates in the spatial prediction motion vector
rightShift = leftShift =
offset = (1 << (rightShift --1))
mvX = ((mvX + offset-(mvX> = 0)) >> rightShift) << leftShift
Is rounded. However, when rightShift = 0, offset = 0. Here, when the resolution of the motion vector in the coded block to be processed is 1/4 pixel accuracy, MvShift = 0. Similarly, when the resolution of the motion vector is 1 pixel accuracy, MvShift = 2, and when the resolution of the motion vector is 4 pixels accuracy, MvShift = 4. According to the above equation, each of the x and y components of mvX is processed.
適応動きベクトル解像度は、サブブロック予測動きベクトルモードに対して用いることもできる。この場合、上記の通常予測動きベクトルモードに対して、解像度が異なる。すなわち、アフィン継承予測動きベクトル候補導出部361および461と、アフィン構築予測動きベクトル候補導出部362および462と、アフィン同一予測動きベクトル候補導出部363および463において、導出された候補の動きベクトルは解像度に応じて丸められる。解像度は1/16,1/4,1画素精度から選択でき、解像度を変更しない場合は1/4画素精度となる。丸め処理は、処理対象の符号化ブロックにおける動きベクトルの解像度に合わせてなされる。つまり、導出された候補の動きベクトルmvXは、上記の式により丸め処理される。ここで、処理対象の符号化ブロックにおける動きベクトルの解像度が1/4画素精度の場合、MvShift=0である。同様に、動きベクトルの解像度が1/16画素精度の場合はMvShift=-2であり、動きベクトルの解像度が1画素精度の場合はMvShift=2である。上記の式により、mvXのx,y成分それぞれが処理される。
Adaptive motion vector resolution can also be used for subblock predictive motion vector modes. In this case, the resolution is different from the above-mentioned normal predicted motion vector mode. That is, in the Affin inheritance prediction motion vector
<イントラブロックコピー(IBC)>
図32を参照してイントラブロックコピーの有効参照領域を説明する。図32(a)は符号化ツリーブロック単位をイントラブロックコピー基準ブロックとして、有効参照領域を決定する場合の例である。図32(a)の500、501、502、503、504は符号化ツリーブロックであり、504が処理対象の符号化ツリーブロックである。505は、処理対象符号化ブロックである。符号化ツリーブロックの処理順は、500、501、502、503、504の順とする。この場合、処理対象符号化ブロック505を含む符号化ツリーブロック504の直前に処理された3つの符号化ツリーブロック501、502、503を処理対象符号化ブロック505の有効参照領域とする。符号化ツリーブロック501より前に処理された符号化ツリーブロック、及び処理対象符号化ブロック505より前に処理が完了しているか否かに関わらず、処理対象符号化ブロック505を含む符号化ツリーブロック504に含まれる領域はすべて無効参照領域とする。
<Intrablock copy (IBC)>
The effective reference area of the intra-block copy will be described with reference to FIG. FIG. 32A is an example in which the effective reference area is determined by using the coded tree block unit as the intra-block copy reference block.
図32(b)は、符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブロックとして、有効参照領域を決定する場合の例である。図32(b)の515、516は符号化ツリーブロックであり、516が処理対象の符号化ツリーブロックである。符号化ツリーブロック515は506、507、508、509に4分割され、516は510、511、512、513に4分割される。514は処理対象符号化ブロックである。イントラブロックコピー基準ブロックの処理順は、506、507、508、509、510、511、512、513の順とする。この場合、処理対象符号化ブロック514を含むイントラブロックコピー基準ブロック511の直前に処理された3つのイントラブロックコピー基準ブロック508、509、510を処理対象符号化ブロック514の有効参照領域とする。イントラブロックコピー基準ブロック508より前に処理された符号化ツリーブロック、及び処理対象符号化ブロック514より前に処理が完了しているか否かに関わらず、処理対象符号化ブロック514を含むイントラブロックコピー基準ブロック511に含まれる領域はすべて無効参照領域とする。
FIG. 32B is an example in which the effective reference area is determined by using the unit obtained by dividing the coded tree block into four as the intra-block copy reference block.
<参照領域のメモリ空間>
参照領域の処理済み画像を記憶するメモリ空間について説明する。図57は、符号化ツリーブロック単位をイントラブロックコピー基準ブロックとしたときの参照領域のメモリ空間を説明するための図である。図57(a)の500,501,502,503,504,505は符号化ツリーブロックである。符号化ツリーブロック503は処理対象の符号化ツリーブロックである。符号化ツリーブロック500,符号化ツリーブロック501,符号化ツリーブロック502,処理済の符号化ツリーブロックであり、処理対象の符号化ツリーブロック503の参照領域に相当する。符号化ツリーブロック504,505は未処理の符号化ツリーブロックである。図57(a)の600,601,602,603は、メモリ空間であり、メモリ空間600は符号化ツリーブロック500の処理済み画像を記憶している。同様に、メモリ空間601は符号化ツリーブロック501の処理済み画像を記憶し、メモリ空間602は符号化ツリーブロック502の処理済み画像を記憶している。メモリ空間603は処理対象の符号化ツリーブロック503の処理に従い、処理済み画像を順次記憶する。符号化ツリーブロック503の処理が完了すると、次に符号化ツリーブロック504の処理を開始する。
<Memory space of reference area>
The memory space for storing the processed image in the reference area will be described. FIG. 57 is a diagram for explaining the memory space of the reference area when the coded tree block unit is used as the intra-block copy reference block.
図57(b)を用いて、符号化ツリーブロック503の処理が完了したときの処理を説明する。このとき、符号化ツリーブロック504が処理対象の符号化ツリーブロックとなる。さらに、符号化ツリーブロック503が参照領域となり、符号化ツリーブロック500が参照領域ではなくなる。このとき、符号化ツリーブロック503の処理済み画像を順次記憶していたメモリ空間603には、符号化ツリーブロック503の処理済み画像が記憶されている。メモリ空間600に記憶されていた符号化ツリーブロック500の処理済み画像は、符号化ツリーブロック504の参照領域ではなく不要な情報となる。従って、メモリ空間600に、処理対象の符号化ツリーブロック504の処理済み画像を順次記憶する。符号化ツリーブロック504の処理が完了すると、次に符号化ツリーブロック505の処理を開始する。
The process when the process of the coded
図57(c)を用いて、符号化ツリーブロック503の処理が完了したときの処理を説明する。このとき、符号化ツリーブロック505が処理対象の符号化ツリーブロックとなる。さらに、符号化ツリーブロック504が参照領域となり、符号化ツリーブロック501が参照領域ではなくなる。上述の例と同様に、メモリ空間601に、処理対象の符号化ツリーブロック505の処理済み画像を順次記憶する。
The processing when the processing of the coded
図58は、符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブロックとして、有効参照領域を決定するときの参照領域のメモリ空間を説明するための図である。図58(a)の510,511は、符号化ツリーブロックである。符号化ツリーブロック510は処理済みの符号化ツリーブロックであり、符号化ツリーブロック511は処理対象の符号化ツリーブロックである。符号化ツリーブロック510は、ブロック500,501,502,503により構成され、符号化ツリーブロック511は、ブロック504,505,506,507により構成される。ブロック504は処理対象のブロックである。501,502,503は処理済のブロックであり、処理対象のブロック504の参照領域に相当する。ブロック505,506,507は未処理のブロックである。図58(a)の600,601,602,603は、メモリ空間であり、メモリ空間601はブロック501の処理済み画像を記憶している。同様に、メモリ空間602はブロック502の処理済み画像を記憶し、メモリ空間603はブロック503の処理済み画像を記憶している。メモリ空間600は処理対象のブロック504の処理に従い、処理済み画像を順次記憶する。ブロック504の処理が完了すると、次にブロック505の処理を開始する。
FIG. 58 is a diagram for explaining the memory space of the reference area when determining the effective reference area, using the unit obtained by dividing the coded tree block into four as the intra-block copy reference block. 510 and 511 in FIG. 58 (a) are coded tree blocks. The coded
図58(b)を用いて、ブロック504の処理が完了したときの処理を説明する。このとき、ブロック505が処理対象の符号化ツリーブロックとなる。さらに、ブロック504が参照領域となり、ブロック501が参照領域ではなくなる。このとき、ブロック504の処理済み画像を順次記憶していたメモリ空間600には、ブロック504の処理済み画像が記憶されている。メモリ空間601に記憶されていたブロック501の処理済み画像は、ブロック505の参照領域ではなく不要な情報となる。従って、メモリ空間601に、処理対象のブロック505の処理済み画像を順次記憶する。ブロック505の処理が完了すると、次に符号化ツリーブロック506の処理を開始する。
The processing when the processing of the
図58(c)を用いて、ブロック504の処理が完了したときの処理を説明する。このとき、ブロック506が処理対象のブロックとなる。さらに、ブロック505が参照領域となり、符号化ツリーブロック502が参照領域ではなくなる。上述の例と同様に、メモリ空間602に、処理対象の符号化ツリーブロック506の処理済み画像を順次記憶する。
The processing when the processing of the
図58(d)を用いて、ブロック505の処理が完了したときの処理を説明する。このとき、ブロック507が処理対象のブロックとなる。さらに、ブロック506が参照領域となり、符号化ツリーブロック503が参照領域ではなくなる。上述の例と同様に、メモリ空間603に、処理対象の符号化ツリーブロック507の処理済み画像を順次記憶する。
The process when the process of the
<予測イントラブロックコピー:符号化側の説明>
図45を参照して符号化側の予測イントラブロックコピー処理手順を説明する。
<Predictive intra-block copy: Explanation on the coding side>
The predictive intra-block copy processing procedure on the coding side will be described with reference to FIG. 45.
まず、ブロックベクトル検出部375でブロックベクトルmvLを検出する(図45のステップS4500)。
First, the block
続いて、IBC空間ブロックベクトル候補導出部371、IBC履歴予測ブロックベクトル候補導出部372、IBC予測ブロックベクトル候補補充部373、IBC予測ブロックベクトル候補選択部376、ブロックベクトル減算部378で、予測ブロックベクトルモードで用いるブロックベクトルの差分ブロックベクトルを算出する(図45のステップS4501〜S4503)。
Subsequently, the IBC space block vector
予測ブロックベクトルの候補を算出してブロックベクトル候補リストmvpListを構築する(図45のステップS4501)。イントラブロックコピー予測部352の中のIBC空間ブロックベクトル候補導出部371、IBC履歴ブロックベクトル候補導出部372、IBC予測ブロックベクトル候補補充部373で複数の予測ブロックベクトルの候補を導出して予測ブロックベクトル候補リストmvpListを構築する。図45のステップS4501の詳細な処理手順については図48のフローチャートを用いて後述する。
A block vector candidate list mvpList is constructed by calculating candidates for the prediction block vector (step S4501 in FIG. 45). IBC space block vector
続いて、IBC予測ブロックベクトル候補選択部376により、予測ブロックベクトル候補リストmvpListLから予測ブロックベクトルmvpLを選択する(図45のステップS4502)。ブロックベクトルmvLと予測ブロックベクトル候補リストmvpListLの中に格納された各予測ブロックベクトルの候補mvpListL[i]との差分であるそれぞれの差分ブロックベクトルを算出する。それら差分ブロックベクトルを符号化したときの符号量を予測ブロックベクトル候補リストmvpListLの要素ごとに算出する。そして、予測ブロックベクトル候補リストmvpListLに登録された各要素の中で、予測ブロックベクトルの候補毎の符号量が最小となる予測ブロックベクトルの候補mvpListL[i]を予測ブロックベクトルmvpLとして選択し、そのインデックスiを取得する。予測ブロックベクトル候補リストmvpListLの中で最小の発生符号量となる予測ブロックベクトルの候補が複数存在する場合には、予測ブロックベクトル候補リストmvpListLの中のインデックスiが小さい番号で表される予測ブロックベクトルの候補mvpListL[i]を最適予測ブロックベクトルmvpLとして選択し、そのインデックスiを取得する。 Subsequently, the IBC prediction block vector candidate selection unit 376 selects the prediction block vector mvpL from the prediction block vector candidate list mvpListL (step S4502 in FIG. 45). Calculate each difference block vector which is the difference between the block vector mvL and the candidate mvpListL [i] of each prediction block vector stored in the prediction block vector candidate list mvpListL. The amount of code when these difference block vectors are encoded is calculated for each element of the predicted block vector candidate list mvpListL. Then, among the elements registered in the prediction block vector candidate list mvpListL, the prediction block vector candidate mvpListL [i] having the minimum sign amount for each candidate of the prediction block vector is selected as the prediction block vector mvpL, and the candidate mvpListL [i] is selected. Get index i. When there are multiple candidates for the predicted block vector that is the smallest generated code in the predicted block vector candidate list mvpListL, the predicted block vector whose index i in the predicted block vector candidate list mvpListL is represented by a small number. The candidate mvpListL [i] of is selected as the optimal prediction block vector mvpL, and its index i is acquired.
続いて、ブロックベクトル減算部378で、ブロックベクトルmvLから選択された予測ブロックベクトルmvpLを減算し、
mvdL = mvL - mvpL
として差分ブロックベクトルmvdLを算出する(図45のステップS4503)。
Subsequently, the block
mvdL = mvL --mvpL
The difference block vector mvdL is calculated as (step S4503 in FIG. 45).
<イントラブロックコピー(予測):復号側の説明>
次に、図46を参照して復号側の予測ブロックベクトルモード処理手順を説明する。復号側では、IBC空間予測ブロックベクトル候補導出部471、IBC履歴ブロックベクトル候補導出部472、IBC予測ブロックベクトル補充部473で、予測ブロックベクトルモードで用いるブロックベクトルを算出する(図46のステップS4600〜S4602)。具体的には予測ブロックベクトル候補リストmvpListLを算出して、予測ブロックベクトルmvpLを選択し、ブロックベクトルmvLを算出する。
<Intrablock copy (prediction): Explanation on the decoding side>
Next, the prediction block vector mode processing procedure on the decoding side will be described with reference to FIG. On the decoding side, the IBC spatial prediction block vector
予測ブロックベクトルの候補を算出して予測ブロックベクトル候補リストmvpListLを構築する(図46のステップS4601)。イントラブロックコピー予測部362の中のIBC空間ブロックベクトル候補導出部471、IBC履歴ブロックベクトル候補導出部472、IBCブロックベクトル補充部473で複数の予測ブロックベクトルの候補を算出し、予測ブロックベクトル候補リストmvpListLを構築する。図46のステップS4601の詳細な処理手順については説明を省略する。
Prediction block vector candidates are calculated to construct a prediction block vector candidate list mvpListL (step S4601 in FIG. 46). IBC space block vector
続いて、IBC予測ブロックベクトル候補選択部476で予測ブロックベクトル候補リストmvpListLからビット列復号部201にて復号されて供給される予測ブロックベクトルのインデックスmvpIdxLに対応する予測ブロックベクトルの候補mvpListL[mvpIdxL]を選択された予測ブロックベクトルmvpLとして取り出す(図46のステップS4601)。
Subsequently, the IBC prediction block vector candidate selection unit 476 obtains the prediction block vector candidate mvpListL [mvpIdxL] corresponding to the prediction block vector index mvpIdxL decoded and supplied by the bit
続いて、ブロックベクトル加算部478でビット列復号部201にて復号されて供給される差分ブロックベクトルmvdLと予測ブロックベクトルmvpLを加算し、
mvL = mvpL + mvdL
としてブロックベクトルmvLを算出する(図46のステップS4602)。
Subsequently, the difference block vector mvdL decoded and supplied by the bit
mvL = mvpL + mvdL
The block vector mvL is calculated as (step S4602 in FIG. 46).
<予測ブロックベクトルモード:ブロックベクトルの予測方法>
図48は本発明の実施の形態に係る動画像符号化装置のイントラブロックコピー予測部352及び動画像復号装置のイントラブロックコピー予測部362とで共通する機能を有する予測イントラブロックコピーモード導出処理の処理手順を表すフローチャートである。
<Prediction block vector mode: Block vector prediction method>
FIG. 48 shows a prediction intra-block copy mode derivation process having a function common to the intra-block
イントラブロックコピー予測部352及びイントラブロックコピー予測部362では、予測ブロックベクトル候補リストmvpListLを備えている。予測ブロックベクトル候補リストmvpListLはリスト構造を成し、予測ブロックベクトル候補リスト内部の所在を示す予測ブロックベクトルインデックスと、インデックスに対応する予測ブロックベクトル候補を要素として格納する記憶領域が設けられている。予測ブロックベクトルインデックスの数字は0から開始され、予測ブロックベクトル候補リストmvpListLの記憶領域に、予測ブロックベクトル候補が格納される。本実施の形態においては、予測ブロックベクトル候補リストmvpListLは3個の予測ブロックベクトル候補を登録することができるものとする。さらに、予測ブロックベクトル候補リストmvpListLに登録されている予測ブロックベクトル候補数を示す変数numCurrMvpIbcCandに0を設定する。
IBC空間ブロックベクトル候補導出部371及び471は、左側に隣接するブロックからの予測ブロックベクトルの候補を導出する(図48のステップS4801)。この処理では、左側に隣接するブロック(A0またはA1)の予測ブロックベクトル候補が利用できるか否かを示すフラグavailableFlagLA、及びブロックベクトルmvLAを導出し、mvLAを予測ブロックベクトル候補リストmvpListLに追加する。続いて、IBC空間ブロックベクトル候補導出部371及び471は、上側に隣接するブロック(B0,B1またはB2)からの予測ブロックベクトルの候補を導出する(図48のステップS4802)。この処理では、上側に隣接するブロックの予測動きベクトル候補が利用できるか否かを示すフラグavailableFlagLB、及びブロックベクトルmvLBを導出し、mvLAとmvLBが等しくなければ、mvLBを予測ブロックベクトル候補リストmvpListLに追加する。図48のステップS4801とS4802の処理は参照する隣接ブロックの位置と数が異なる点以外は共通であり、符号化ブロックの予測ブロックベクトル候補が利用できるか否かを示すフラグavailableFlagLN、及び動きベクトルmvLN(NはAまたはB、以下同様)を導出する。
The intra-block
The IBC spatial block vector
続いて、IBC履歴ブロックベクトル候補導出部372及び472は履歴ブロックベクトル候補リストHmvpIbcCandListに登録されている履歴ブロックベクトル候補を予測ブロックベクトル候補リストmvpListLに追加する。(図48のステップS4803)。このステップS4803の登録処理手順の詳細については図29のフローチャートで示された動作の説明において、動きベクトルをブロックベクトル、参照インデックスのリストをL0、履歴予測動きベクトル候補リストHmvpCandListを履歴ブロックベクトル候補リストHmvpIbcCandListとした場合の動作と同様であれば良いため、説明を省略する。
Subsequently, the IBC history block vector
続いてIBC予測ブロックベクトル補充部373及び473は予測ブロックベクトル候補リストmvpListLを満たすまで(0,0)等、所定の値のブロックベクトルを追加する(図48のS4804)。
Subsequently, the IBC prediction block
<マージイントラブロックコピーモード導出部>
図43のイントラブロックコピー予測部352は、IBC空間ブロックベクトル候補導出部371、IBC履歴ブロックベクトル候補導出部372、IBCブロックベクトル補充部373、参照位置補正部380、参照領域境界補正部381、IBCマージ候補選択部374、IBC予測モード判定部377を含む。
<Merge Intrablock Copy Mode Derivation Unit>
The intra block
図44のイントラブロックコピー予測部362は、IBC空間ブロックベクトル候補導出部471、IBC履歴ブロックベクトル候補導出部472、IBCブロックベクトル補充部473、IBCマージ候補選択部474、参照位置補正部480、参照領域境界補正部481、ブロックコピー部477を含む。
The intra-block copy prediction unit 362 of FIG. 44 is referred to by the IBC space block vector
図47は本発明の実施の形態に係る動画像符号化装置のイントラブロックコピー予測部352及び動画像復号装置のイントラブロックコピー予測部362とで共通する機能を有するマージイントラブロックコピーモード導出処理の手順を説明するフローチャートである。
FIG. 47 shows a merge intra-block copy mode derivation process having a function common to the intra-block
イントラブロックコピー予測部352及びイントラブロックコピー予測部362では、マージイントラブロックコピー候補リストmergeIbcCandListを備えている。マージイントラブロックコピー候補リストmergeIbcCandListはリスト構造を成し、マージイントラブロックコピー候補内部の所在を示すマージインデックスと、インデックスに対応するマージイントラブロックコピー候補を要素として格納する記憶領域が設けられている。マージインデックスの数字は0から開始され、マージイントラブロックコピー候補リストmergeIbcCandListの記憶領域に、マージイントラブロックコピー候補が格納される。以降の処理では、マージイントラブロックコピー候補リストmergeIbcCandListに登録されたマージインデックスiのマージ候補は、mergeIbcCandList [i]で表すこととする。本実施の形態においては、マージ候補リストmergeCandListは少なくとも3個のマージイントラブロックコピー候補を登録することができるものとする。さらに、マージイントラブロックコピー候補リストmergeIbcCandListに登録されているマージイントラブロックコピー候補数を示す変数numCurrMergeIbcCandに0を設定する。
The intra-block
IBC空間ブロックベクトル候補導出部371及びIBC空間ブロックベクトル候補導出部471では、動画像符号化装置の符号化情報格納メモリ111または動画像復号装置の符号化情報格納メモリ205に格納されている符号化情報から、処理対象ブロックの左側と上側に隣接するブロックからの空間マージ候補A,Bを導出して、導出された空間マージ候補をマージイントラブロックコピー候補リストmergeIbcCandListに登録する(図47のステップS4701)。ここで、空間マージ候補A,Bのいずれかを示すNを定義する。ブロックNのイントラブロックコピー予測情報が空間ブロックベクトルマージ候補Nとして利用できるか否かを示すフラグavailableFlagN、ブロックベクトルmvLを導出する。ただし、本実施の形態においては処理対象となる符号化ブロックを含むブロックに含まれる他の符号化ブロックを参照せずに、ブロックベクトルマージ候補を導出するので、処理対象の符号化ブロックを含むブロックに含まれる空間ブロックベクトルマージ候補は導出しない。
In the IBC space block vector
続いて、IBC履歴ブロックベクトル候補導出部372及びIBC履歴ブロックベクトル候補導出部472では、履歴予測ブロックベクトル候補リストHmvpIbcCandListに登録されている履歴予測ブロックベクトル候補をマージイントラブロックコピー候補リストmergeIbcCandListに追加する(図47のステップS4702)。本実施例においては、mergeIbcCandListに追加済みのブロックベクトルと履歴予測ブロックベクトル候補のブロックベクトルが同一の値を持つ場合には、mergeIbcCandListへの追加を行わないものとする。
Subsequently, the IBC history block vector
続いて、IBC予測ブロックベクトル補充部373及びIBC予測ブロックベクトル補充部473は、マージイントラブロックコピー候補リストmergeIbcCandList内に登録されているマージ候補数numCurrMergeIbcCandが、最大イントラブロックマージ候補数MaxNumMergeIbcCandより小さい場合、マージイントラブロックコピー候補リストmergeIbcCandList内に登録されているマージ候補数numCurrMergeIbcCandが最大マージ候補数MaxNumMergeIbcCandを上限として追加イントラブロックマージ候補を導出して、マージイントラブロックコピー候補リストmergeIbcCandListに登録する(図47のステップS4703)。最大マージ候補数MaxNumMergeIbcCandを上限として、(0,0)の値を持つブロックベクトルをマージイントラブロックコピー候補リストmergeIbcCandListに追加する。
Next, when the number of merge candidates numCurrMergeIbcCand registered in the mergeintra block copy candidate list mergeIbcCandList is smaller than the maximum number of intrablock merge candidates MaxNumMergeIbcCand, the IBC prediction block
続いて、IBCマージ候補選択部374及びIBCマージ候補選択部474では、マージイントラブロックコピー候補リストmergeIbcCandList内に登録されているイントラブロックマージ候補から1つを選択する(図47のステップS4704)。IBCマージ候補選択部374では、参照位置の復号画像を復号画像メモリ104から取得して符号量とひずみ量を算出することによりマージ候補を選択し、選択されたイントラブロックマージ候補を示すマージインデックスをIBC予測モード判定部377に供給する。IBC予測モード判定部377は、符号量とひずみ量を算出することによりマージモードか否かを選択し、その結果を予測方法決定部105に供給する。一方、復号側のIBCマージ候補選択部474では、復号されたマージインデックスに基づいて、イントラブロックマージ候補を選択し、選択したイントラブロックマージ候補を参照位置補正部480に供給する。
Subsequently, the IBC merge
続いて、参照位置補正部380及び参照位置補正部480では、イントラブロックマージ候補に対し参照位置を補正する処理を行う(図47のステップS4705)。参照位置補正部380及び参照位置補正部480の処理の詳細は後述する。
Subsequently, the reference
続いて、参照領域境界補正部381及び参照領域境界補正部481では、イントラブロックマージ候補に対し参照領域境界を補正する処理を行う(図47のステップS4706)。参照位置補正部381及び参照位置補正部481の処理の詳細は後述する。
Subsequently, the reference area
ブロックコピー部477は、参照位置の復号画像を復号画像メモリ208から取得し、復号画像信号重畳部207に供給する。ここで、ブロックコピー部477では、輝度成分と色差成分がコピーされる。
The
上記のブロックベクトルmvLは輝度のブロックベクトルを示す。色差のブロックベクトルmvCは、色差フォーマットが420の場合、
mvC = ( ( mvL >> ( 3 + 2 ) ) * 32
となる。上式により、mvCのx,y成分それぞれが処理される。
The above block vector mvL indicates the brightness block vector. The color difference block vector mvC is when the color difference format is 420.
mvC = ((mvL >> (3 + 2))) * 32
Will be. According to the above equation, each of the x and y components of mvC is processed.
<参照位置補正部>
図49は、参照位置補正部380及び参照位置補正部480の処理を説明する図である。いま、イントラブロックコピー基準ブロックの単位は符号化ツリーブロック(CTU)であり、その大きさは128x128画素でないものとする。
<Reference position correction unit>
FIG. 49 is a diagram illustrating the processing of the reference
まず、参照ブロックの左上および右下の位置を算出する(S6001)。参照ブロックとは、処理対象符号化ブロックがブロックベクトルを用いて参照するブロックを示す。参照ブロックの左上を( xRefTL, yRefTL )、右下を( xRefBR, yRefBR )とすると、
( xRefTL, yRefTL ) = ( xCb + ( mvL[ 0 ] >> 4 ), yCb + ( mvL[ 1 ] >> 4 ) )
( xRefBR, yRefBR ) = ( xRefTL + cbWidth - 1, yRefTL + cbHeight - 1 )
となる。ここで、処理対象符号化ブロックの位置を(xCb,yCb)、ブロックベクトルを(mvL[0],mvL[1])とし、処理対象符号化ブロックの幅はcbWidth、高さはcbHeightとする。
First, the upper left and lower right positions of the reference block are calculated (S6001). The reference block refers to a block that the coded block to be processed refers to using a block vector. If the upper left of the reference block is (xRefTL, yRefTL) and the lower right is (xRefBR, yRefBR),
(xRefTL, yRefTL) = (xCb + (mvL [0] >> 4), yCb + (mvL [1] >> 4))
(xRefBR, yRefBR) = (xRefTL + cbWidth --1, yRefTL + cbHeight --1)
Will be. Here, the position of the coded block to be processed is (xCb, yCb), the block vector is (mvL [0], mvL [1]), the width of the coded block to be processed is cbWidth, and the height is cbHeight.
次に、CTUの大きさが128x128画素か否かを判定する(S6002)。いま、その大きさは128x128画素でないので(S6002:NO)、参照可能領域の左上および右下の位置を算出する(S6003)。参照可能領域の左上を( xAvlTL, yAvlTL )、右下を( xAvlBR, yAvlBR )とすると、
NL = Min( 1, 7 - CtbLog2SizeY ) - ( 1 << ((7 - CtbLog2SizeY) << 1) )
( xAvlTL, yAvlTL ) = ( ((xCb >> CtbLog2SizeY) + NL) << CtbLog2SizeY,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY )
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 )
となる。ここで、CTUのサイズはCtbLog2SizeYとする。
Next, it is determined whether or not the size of the CTU is 128x128 pixels (S6002). Since the size is not 128x128 pixels (S6002: NO), the upper left and lower right positions of the referenceable area are calculated (S6003). If the upper left of the referenceable area is (xAvlTL, yAvlTL) and the lower right is (xAvlBR, yAvlBR),
NL = Min (1, 7 --CtbLog2SizeY)-(1 << ((7 --CtbLog2SizeY) << 1))
(xAvlTL, yAvlTL) = (((xCb >> CtbLog2SizeY) + NL) << CtbLog2SizeY,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY)
(xAvlBR, yAvlBR) = (((xCb >> CtbLog2SizeY) << CtbLog2SizeY)-1,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) ―― 1)
Will be. Here, the size of CTU is CtbLog2SizeY.
次に、参照ブロックのx方向の参照位置が、参照可能領域の左上より小さいか否かを判定する(S6004)。判定が偽ならば(S6004:NO)、次の処理(S6006)に進む。一方、判定が真ならば(S6004:YES)、参照可能領域の左上に合わせてx方向の参照位置を補正する(S6005)。 Next, it is determined whether or not the reference position of the reference block in the x direction is smaller than the upper left of the referenceable area (S6004). If the determination is false (S6004: NO), the process proceeds to the next process (S6006). On the other hand, if the determination is true (S6004: YES), the reference position in the x direction is corrected according to the upper left of the referenceable area (S6005).
図50は、参照位置を補正する様子を示す図である。6001は処理対象符号化ツリーブロックを、6002は処理対象符号化ブロックを、6003は参照可能領域を示す。いま、参照ブロックr2が6011に位置していたとすると、x方向の参照位置が、参照可能領域の左上より小さい(S6004:YES)。よって、xRefTL=xAvlTLとして6012の位置に参照位置を補正する(S6005)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1であるから、xRefTLを補正したことに伴ってxRefBRも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlTL - xCb) << 4
と補正する。これにより、xRefTL=xAvlTLとなるので、参照位置を補正できる。
FIG. 50 is a diagram showing how the reference position is corrected. 6001 indicates a processing target coding tree block, 6002 indicates a processing target coding block, and 6003 indicates a referenceable area. Assuming that the reference block r2 is located at 6011, the reference position in the x direction is smaller than the upper left of the referenceable area (S6004: YES). Therefore, the reference position is corrected to the position of 6012 with xRefTL = xAvlTL (S6005). Here, since xRefBR = xRefTL + cbWidth-1 as in S6001, xRefBR is also corrected as xRefTL is corrected. In the correction of this reference position, the block vector mvL [0] may be corrected. In other words
mvL [0] = (xAvlTL-xCb) << 4
To correct. As a result, xRefTL = xAvlTL, so the reference position can be corrected.
このように、参照ブロックが参照可能領域の外部に位置していた場合に、その参照位置を補正することによって、参照可能となる。 In this way, when the reference block is located outside the referenceable area, it can be referred to by correcting the reference position.
いま、イントラブロックコピー予測部352において構築したブロックベクトル候補リストのうち、いくつかのブロックベクトルが参照可能領域の外側であったとする。参照位置を補正しない場合には、それらのブロックベクトルによる参照が不可能なので、それらのブロックベクトルをIBCマージモードの候補とすることが出来ない。一方、本発明において参照位置を補正する場合には、構築したブロックベクトル候補リストの全てのブロックベクトルは、参照可能領域の内側となる。よって、全てのブロックベクトルによる参照が可能であり、全てのブロックベクトルをIBCマージモードの候補とすることが出来る。従って、IBCマージモード選択部374において、全てのブロックベクトルに対応するそれぞれのIBCマージモードの候補から最適な予測モードを選択できるので、符号化効率が向上する。
It is assumed that some block vectors in the block vector candidate list constructed by the intra-block
いま、イントラブロックコピー予測部362において構築したブロックベクトル候補リストのうち、いくつかのブロックベクトルが参照可能領域の外側であったとする。参照位置を補正しない場合には、それらのブロックベクトルによる参照が不可能なので、それらのブロックベクトルを用いたIBCマージモードは、復号することが出来ない。本発明ではない符号化装置では、それらのブロックベクトルを用いたIBCマージモードを示すマージインデックスは、符号化しないものとして動作する。しかし、動作不良などのため、そのようなマージインデックスが符号化されて、ビットストリームが生成される可能性がある。あるいはパケットロスなどによりビットストリームの一部が欠けるなどして、復号結果がそのようなマージインデックスとなる可能性がある。このような不完全なビットストリームを復号しようとすると、参照可能領域の外側を参照しようとして正しくない位置の復号画像メモリにアクセスする可能性がある。その結果、復号装置によって復号結果が異なったり、復号処理が停止したりする。一方、本発明において参照位置を補正する場合には、構築したブロックベクトル候補リストの全てのブロックベクトルは、参照可能領域の内側となる。従って、このような不完全なビットストリームを復号しても、参照可能領域の内側に参照位置が補正されて参照が可能となる。このように、参照位置を補正することにより、メモリアクセス範囲を保証する。その結果、復号装置によって復号結果が同じになり、復号処理を継続できるので、復号装置のロバスト性を向上させることができる。 It is assumed that some block vectors in the block vector candidate list constructed by the intra-block copy prediction unit 362 are outside the referenceable area. If the reference position is not corrected, reference by those block vectors is impossible, so the IBC merge mode using those block vectors cannot be decoded. In a coding device other than the present invention, the merge index indicating the IBC merge mode using those block vectors operates as unencoded. However, due to malfunction or the like, such a merge index may be encoded to generate a bitstream. Alternatively, a part of the bitstream may be missing due to packet loss or the like, and the decoding result may become such a merge index. Attempting to decode such an incomplete bitstream may access the decoded image memory at the wrong location in an attempt to reference outside the referable area. As a result, the decoding result may differ depending on the decoding device, or the decoding process may stop. On the other hand, when the reference position is corrected in the present invention, all the block vectors of the constructed block vector candidate list are inside the referenceable area. Therefore, even if such an incomplete bit stream is decoded, the reference position is corrected inside the referenceable area and reference is possible. By correcting the reference position in this way, the memory access range is guaranteed. As a result, the decoding result becomes the same depending on the decoding device, and the decoding process can be continued, so that the robustness of the decoding device can be improved.
また、参照位置の補正においてブロックベクトルを補正する場合、その対象は輝度のブロックベクトルである。ここで、色差のブロックベクトルは、輝度のブロックベクトルから算出される。つまり、輝度のブロックベクトルを補正すれば、色差のブロックベクトルも補正されることになる。よって、色差において、再び参照位置を補正する必要はない。ブロックベクトルを補正しない場合に輝度と色差の両方で参照可能か否かを判定する必要があるのに比べて、処理量を削減することができる。 Further, when the block vector is corrected in the correction of the reference position, the target is the brightness block vector. Here, the color difference block vector is calculated from the luminance block vector. That is, if the luminance block vector is corrected, the color difference block vector is also corrected. Therefore, it is not necessary to correct the reference position again in the color difference. Compared with the need to determine whether or not reference is possible based on both the luminance and the color difference when the block vector is not corrected, the amount of processing can be reduced.
加えて、参照位置の補正においてブロックベクトルを補正する場合、補正したブロックベクトルは、処理対象符号化ブロックのブロックベクトルとして、符号化情報格納メモリ111または符号化情報格納メモリ205に格納される。つまり、補正した参照位置とブロックベクトルが指す位置が同じである。ここで、復号結果を復号画像メモリに保存する際にデブロックフィルタ処理をすることがある。このフィルタ処理において、ブロック境界に面した2つのブロックが持つブロックベクトルの差分によって、フィルタの強度を制御する。ブロックベクトルを補正しない場合には補正した参照位置とブロックベクトルが指す位置が異なるのに比べて、より適切なフィルタの強度となるため、符号化効率を向上させることができる。
In addition, when the block vector is corrected in the correction of the reference position, the corrected block vector is stored in the coding
続いて、参照ブロックのy方向の参照位置が、参照可能領域の左上より小さいか否かを判定する(S6006)。判定が偽ならば(S6006:NO)、次の処理(S6008)に進む。一方、判定が真ならば(S6006:YES)、参照可能領域の左上に合わせてy方向の参照位置を補正する(S6007)。 Subsequently, it is determined whether or not the reference position of the reference block in the y direction is smaller than the upper left of the referenceable area (S6006). If the determination is false (S6006: NO), the process proceeds to the next process (S6008). On the other hand, if the determination is true (S6006: YES), the reference position in the y direction is corrected according to the upper left of the referenceable area (S6007).
いま、参照ブロックr4が6021に位置していたとすると、y方向の参照位置が、参照可能領域の左上より小さい(S6006:YES)。よって、yRefTL=yAvlTLとして6022の位置に参照位置を補正する(S6007)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1であるから、yRefTLを補正したことに伴ってyRefBRも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[1]を補正しても良い。つまり、
mvL[1] = (yAvlTL - yCb) << 4
と補正する。これにより、yRefTL=yAvlTLとなるので、参照位置を補正できる。
Assuming that the reference block r4 is located at 6021, the reference position in the y direction is smaller than the upper left of the referenceable area (S6006: YES). Therefore, the reference position is corrected to the position of 6022 with yRefTL = yAvlTL (S6007). Here, since yRefBR = yRefTL + cbHeight-1 as in S6001, yRefBR is also corrected as yRefTL is corrected. In the correction of this reference position, the block vector mvL [1] may be corrected. In other words
mvL [1] = (yAvlTL --yCb) << 4
To correct. As a result, yRefTL = yAvlTL, so the reference position can be corrected.
続いて、参照ブロックのx方向の参照位置が、参照可能領域の右下より大きいか否かを判定する(S6008)。判定が偽ならば(S6008:NO)、次の処理(S6010)に進む。一方、判定が真ならば(S6008:YES)、参照可能領域の右下に合わせてx方向の参照位置を補正する(S6009)。 Subsequently, it is determined whether or not the reference position of the reference block in the x direction is larger than the lower right of the referenceable area (S6008). If the determination is false (S6008: NO), the process proceeds to the next process (S6010). On the other hand, if the determination is true (S6008: YES), the reference position in the x direction is corrected according to the lower right of the referenceable area (S6009).
いま、参照ブロックr7が6031に位置していたとすると、x方向の参照位置が、参照可能領域の右下より大きい(S6008:YES)。よって、xRefBR=xAvlBRとして6032の位置に参照位置を補正する(S6009)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1、つまりxRefTL=xRefBR-(cbWidth-1)であるから、xRefBRを補正したことに伴ってxRefTLも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlBR - (xCb + cbWidth - 1)) << 4
と補正する。これにより、xRefBR=xAvlBRとなるので、参照位置を補正できる。
Assuming that the reference block r7 is located at 6031, the reference position in the x direction is larger than the lower right of the referenceable area (S6008: YES). Therefore, the reference position is corrected to the position of 6032 by setting xRefBR = xAvlBR (S6009). Here, since xRefBR = xRefTL + cbWidth-1 as in S6001, that is, xRefTL = xRefBR- (cbWidth-1), xRefTL is also corrected as xRefBR is corrected. In the correction of this reference position, the block vector mvL [0] may be corrected. In other words
mvL [0] = (xAvlBR-(xCb + cbWidth --1)) << 4
To correct. As a result, xRefBR = xAvlBR, so the reference position can be corrected.
続いて、参照ブロックのy方向の参照位置が、参照可能領域の右下より大きいか否かを判定する(S6010)。判定が偽ならば(S6010:NO)、処理を終了する。一方、判定が真ならば(S6010:YES)、参照可能領域の右下に合わせてy方向の参照位置を補正する(S6011)。 Subsequently, it is determined whether or not the reference position of the reference block in the y direction is larger than the lower right of the referenceable area (S6010). If the determination is false (S6010: NO), the process ends. On the other hand, if the determination is true (S6010: YES), the reference position in the y direction is corrected according to the lower right of the referenceable area (S6011).
いま、参照ブロックr5が6041に位置していたとすると、y方向の参照位置が、参照可能領域の右下より大きい(S6010:YES)。よって、yRefBR=yAvlBRとして6042の位置に参照位置を補正する(S6011)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1、つまりyRefTL=yRefBR-(cbHeight-1)であるから、yRefBRを補正したことに伴ってyRefTLも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[1]を補正しても良い。つまり、
mvL[1] = (yAvlBR - (yCb + cbHeitght - 1)) << 4
と補正する。これにより、yRefBR=yAvlBRとなるので、参照位置を補正できる。
Assuming that the reference block r5 is located at 6041, the reference position in the y direction is larger than the lower right of the referenceable area (S6010: YES). Therefore, the reference position is corrected to the position of 6042 by setting yRefBR = yAvlBR (S6011). Here, since yRefBR = yRefTL + cbHeight-1 as in S6001, that is, yRefTL = yRefBR- (cbHeight-1), yRefTL is also corrected as yRefBR is corrected. In the correction of this reference position, the block vector mvL [1] may be corrected. In other words
mvL [1] = (yAvlBR-(yCb + cbHeitght --1)) << 4
To correct. As a result, yRefBR = yAvlBR, so the reference position can be corrected.
ここで、参照ブロックr1が6051に位置している場合について説明する。この場合は、参照ブロックがr2の場合と同様に、x方向の参照位置を補正する。さらに、参照ブロックがr4の場合と同様に、y方向の参照位置を補正する。その結果、参照ブロックr1は、参照可能領域の内部である6052に位置する。 Here, the case where the reference block r1 is located at 6051 will be described. In this case, the reference position in the x direction is corrected as in the case where the reference block is r2. Further, the reference position in the y direction is corrected as in the case where the reference block is r4. As a result, the reference block r1 is located at 6052, which is inside the referenceable area.
参照ブロックr3が6061に位置している場合、参照ブロックr6が6062に位置している場合、参照ブロックr8が6063に位置している場合は、上記と同様にx,y各方向の参照位置を補正する。その結果、それぞれの参照ブロックは、参照可能領域の内部に位置する。 If the reference block r3 is located at 6061, the reference block r6 is located at 6062, and the reference block r8 is located at 6063, the reference positions in the x and y directions are set in the same manner as above. to correct. As a result, each reference block is located inside the referenceable area.
以上により、CTUの大きさが128x128画素でない場合の処理は終了する。一方、CTUの大きさが128x128画素の場合(S6002:YES)、参照可能領域を矩形状とした場合の左上および右下の位置を算出する(S6012)。 With the above, the processing when the size of CTU is not 128x128 pixels is completed. On the other hand, when the size of the CTU is 128x128 pixels (S6002: YES), the upper left and lower right positions when the referenceable area is rectangular are calculated (S6012).
図51は、参照可能領域を矩形状とした場合の左上および右下の位置を説明する図である。図51(a)の場合、処理対象の符号化ツリーブロック6101は4分割されており、その分割の左上に処理対象の符号化ブロック6102が位置している。このとき、参照可能領域は6103内の斜線部のように逆L字形となる。参照可能領域を矩形状とした場合、その範囲は6103の矩形状の範囲とする。参照可能領域を矩形状とした場合、参照ブロックの左上を( xRefTL, yRefTL )、右下を( xRefBR, yRefBR )とすると、
offset[4] = {0, 64, 128, 128}
NL = -offset[3 - blk_idx], NR = offset[blk_idx]
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY + NL,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY )
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1 + NR,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 )
となる。ここで、blk_idxは、処理対象の符号化ブロックの位置を示すインデックスである。処理対象の符号化ツリーブロックを4分割したうち、処理対象の符号化ブロックが左上に位置している場合は、blk_idx=0とする。同様に、処理対象の符号化ブロックがそれぞれ右上、左下、右下に位置している場合は、blk_idxは1,2,3とする。図51(a)はblk_idx=0の場合を示す図である。同様に、図51(b)から図51(d)は、それぞれblk_idx=1から3の場合を示す図である。
FIG. 51 is a diagram for explaining the upper left and lower right positions when the referenceable area is rectangular. In the case of FIG. 51 (a), the coded
offset [4] = {0, 64, 128, 128}
NL = -offset [3 --blk_idx], NR = offset [blk_idx]
(xAvlTL, yAvlTL) = ((xCb >> CtbLog2SizeY) << CtbLog2SizeY + NL,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY)
(xAvlBR, yAvlBR) = (((xCb >> CtbLog2SizeY) << CtbLog2SizeY) -1 + NR,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) ―― 1)
Will be. Here, blk_idx is an index indicating the position of the coded block to be processed. If the coded block to be processed is divided into four and the coded block to be processed is located in the upper left, blk_idx = 0 is set. Similarly, if the coded blocks to be processed are located at the upper right, lower left, and lower right, respectively, blk_idx is set to 1, 2, and 3. FIG. 51 (a) is a diagram showing the case of blk_idx = 0. Similarly, FIGS. 51 (b) to 51 (d) are diagrams showing the cases of blk_idx = 1 to 3, respectively.
次に、参照可能領域が矩形でない部分の参照位置を補正する(S6013)。図52は、参照可能領域が矩形でない部分の参照位置を補正する処理を説明する図である。まず、参照可能領域の左上の位置を算出する(S6021)。参照可能領域は図51の斜線部なので、blk_idx=3の場合を除いて、左上の位置は6111と6112の2点ある。それぞれ(X1, Y1),(X2, Y2)とすると、
offset[4] = {64, 128, 64, 0}, NL = offset[blk_idx]
(X1, Y1) = (xAvlTL, yAvlTL + 64)
(X2, Y2) = (xAvlTL + NL, yAvlTL)
となる。
Next, the reference position of the portion where the referenceable area is not rectangular is corrected (S6013). FIG. 52 is a diagram illustrating a process of correcting a reference position in a portion where the referenceable area is not rectangular. First, the upper left position of the referenceable area is calculated (S6021). Since the referenceable area is the shaded area in FIG. 51, there are two upper left positions, 6111 and 6112, except when blk_idx = 3. If they are (X1, Y1) and (X2, Y2), respectively,
offset [4] = {64, 128, 64, 0}, NL = offset [blk_idx]
(X1, Y1) = (xAvlTL, yAvlTL + 64)
(X2, Y2) = (xAvlTL + NL, yAvlTL)
Will be.
次に、参照可能領域の左上に合わせて参照位置を補正するか否かを判定する(S6022)。この判定では、blk_idx=3でなく、かつ参照ブロックがX2とY1より小さい領域に位置している場合に真と判定する(S6022:YES)。偽の場合(S6022:NO)、次の処理(S6026)に進む。 Next, it is determined whether or not to correct the reference position according to the upper left of the referenceable area (S6022). In this determination, if blk_idx = 3 is not satisfied and the reference block is located in a region smaller than X2 and Y1, it is determined to be true (S6022: YES). If false (S6022: NO), the process proceeds to the next process (S6026).
次に、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さいか否かを判定する(S6023)。判定が真の場合(S6023:YES)、x方向の参照位置を補正する(S6024)。一方、判定が偽の場合(S6023:NO)、y方向の参照位置を補正する(S6025)。 Next, it is determined whether or not the difference between the reference block and the referenceable area in the x direction is smaller than the difference between the reference block and the referenceable area in the y direction (S6023). If the determination is true (S6023: YES), the reference position in the x direction is corrected (S6024). On the other hand, when the determination is false (S6023: NO), the reference position in the y direction is corrected (S6025).
図53(a)は、S6024とS6025において、参照位置を補正する様子を示す図である。いま、blk_idx=0である。参照ブロックr1が6201に位置していたとすると、blk_idx=3でなく、かつ参照ブロックの左上がX2(6112のx方向)とY1(6111のy方向)より小さい領域に位置している(S6022:YES)。また、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さい(S6023:YES)。よって、xRefTL=xAvlTL+NLとして6202の位置にx方向の参照位置を補正する(S6024)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1であるから、xRefTLを補正したことに伴ってxRefBRも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlTL + NL - xCb) << 4
と補正する。これにより、xRefTL=xAvlTL+NLとなるので、参照位置を補正できる。
FIG. 53A is a diagram showing how the reference position is corrected in S6024 and S6025. Now, blk_idx = 0. Assuming that the reference block r1 is located at 6201, blk_idx = 3 is not satisfied, and the upper left of the reference block is located in a region smaller than X2 (x direction of 6112) and Y1 (y direction of 6111) (S6022: YES). Further, the difference between the reference block and the referenceable area in the x direction is smaller than the difference between the reference block and the referenceable area in the y direction (S6023: YES). Therefore, xRefTL = xAvlTL + NL is set to correct the reference position in the x direction to the position of 6202 (S6024). Here, since xRefBR = xRefTL + cbWidth-1 as in S6001, xRefBR is also corrected as xRefTL is corrected. In the correction of this reference position, the block vector mvL [0] may be corrected. In other words
mvL [0] = (xAvlTL + NL-xCb) << 4
To correct. As a result, xRefTL = xAvlTL + NL, so the reference position can be corrected.
一方、参照ブロックr2が6203に位置していたとすると、blk_idx=3でなく、かつ参照ブロックの左上がX2(6112のx方向)とY1(6111のy方向)より小さい領域に位置している(S6022:YES)。また、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さくない(S6023:NO)。よって、yRefTL=yAvlTL+64として6204の位置にy方向の参照位置を補正する(S6025)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1であるから、yRefTLを補正したことに伴ってyRefBRも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[1] = (yAvlTL + 64 - yCb) << 4
と補正する。これにより、yRefTL=yAvlTL+64となるので、参照位置を補正できる。
On the other hand, if the reference block r2 is located at 6203, blk_idx = 3 is not satisfied, and the upper left of the reference block is located in a region smaller than X2 (x direction of 6112) and Y1 (y direction of 6111) ( S6022: YES). Further, the difference between the reference block and the referenceable area in the x direction is not smaller than the difference between the reference block and the referenceable area in the y direction (S6023: NO). Therefore, the reference position in the y direction is corrected to the position of 6204 by setting yRefTL = yAvlTL + 64 (S6025). Here, since yRefBR = yRefTL + cbHeight-1 as in S6001, yRefBR is also corrected as yRefTL is corrected. In the correction of this reference position, the block vector mvL [0] may be corrected. In other words
mvL [1] = (yAvlTL + 64 --yCb) << 4
To correct. As a result, yRefTL = yAvlTL + 64, so the reference position can be corrected.
ここで、参照ブロックr3が6205に位置していたとする。この場合、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さい(S6023:YES)。よって、参照ブロックr1と同様にx方向の参照位置を補正することで、6206に位置する(S6024)。この時点において、参照ブロックは参照可能領域の外側である。しかし、後述のS6006とS6007の処理により、y方向の参照位置を補正する。結局、参照ブロックは、参照可能領域の内側となる。 Here, it is assumed that the reference block r3 is located at 6205. In this case, the difference between the reference block and the referenceable area in the x direction is smaller than the difference between the reference block and the referenceable area in the y direction (S6023: YES). Therefore, it is located at 6206 by correcting the reference position in the x direction in the same manner as the reference block r1 (S6024). At this point, the reference block is outside the referenceable area. However, the reference position in the y direction is corrected by the processing of S6006 and S6007 described later. After all, the reference block is inside the referenceable area.
続いて、参照可能領域の右下の位置を算出する(S6026)。参照可能領域は図51の斜線部なので、blk_idx=0の場合を除いて、右下の位置は6113と6114の2点ある。それぞれ(X3, Y3),(X4, Y4)とすると、
offset[4] = {0, 64, 128, 64}, NR = offset[blk_idx]
(X3, Y3) = (xAvlBR, yAvlBR - 64)
(X4, Y4) = (xAvlBR - NR, yAvlBR)
となる。
Subsequently, the lower right position of the referenceable area is calculated (S6026). Since the referenceable area is the shaded area in FIG. 51, there are two lower right positions, 6113 and 6114, except when blk_idx = 0. If each is (X3, Y3), (X4, Y4),
offset [4] = {0, 64, 128, 64}, NR = offset [blk_idx]
(X3, Y3) = (xAvlBR, yAvlBR --64)
(X4, Y4) = (xAvlBR --NR, yAvlBR)
Will be.
次に、参照可能領域の右下に合わせて参照位置を補正するか否かを判定する(S6027)。この判定では、blk_idx=0でなく、かつ参照ブロックがX4とY3より大きい領域に位置している場合に真と判定する(S6027:YES)。偽の場合(S6027:NO)、処理を終了する。 Next, it is determined whether or not to correct the reference position according to the lower right of the referenceable area (S6027). In this determination, if blk_idx = 0 and the reference block is located in a region larger than X4 and Y3, it is determined to be true (S6027: YES). If false (S6027: NO), the process ends.
次に、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さいか否かを判定する(S6028)。判定が真の場合(S6028:YES)、x方向の参照位置を補正する(S6029)。一方、判定が偽の場合(S6028:NO)、y方向の参照位置を補正する(S6030)。 Next, it is determined whether or not the difference between the reference block and the referenceable area in the x direction is smaller than the difference between the reference block and the referenceable area in the y direction (S6028). If the determination is true (S6028: YES), the reference position in the x direction is corrected (S6029). On the other hand, when the determination is false (S6028: NO), the reference position in the y direction is corrected (S6030).
図53(b)は、S6029とS6030において、参照位置を補正する様子を示す図である。いま、blk_idx=3である。参照ブロックr1が6211に位置していたとすると、blk_idx=0でなく、かつ参照ブロックの右下がX4(6114のx方向)とY3(6113のy方向)より大きい領域に位置している(S6027:YES)。また、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さい(S6028:YES)。よって、xRefBR=xAvlBRとして6212の位置にx方向の参照位置を補正する(S6029)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1、つまりxRefTL=xRefBR-(cbWidth-1)であるから、xRefBRを補正したことに伴ってxRefTLも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlBR - NR - (xCb + cbWitdh - 1)) << 4
と補正する。これにより、xRefBR=xAvlBRとなるので、参照位置を補正できる。
FIG. 53B is a diagram showing how the reference position is corrected in S6029 and S6030. Now, blk_idx = 3. Assuming that the reference block r1 is located at 6211, blk_idx = 0 is not present, and the lower right corner of the reference block is located in a region larger than X4 (x direction of 6114) and Y3 (y direction of 6113) (S6027). : YES). Further, the difference between the reference block and the referenceable area in the x direction is smaller than the difference between the reference block and the referenceable area in the y direction (S6028: YES). Therefore, the reference position in the x direction is corrected to the position of 6212 by setting xRefBR = xAvlBR (S6029). Here, since xRefBR = xRefTL + cbWidth-1 as in S6001, that is, xRefTL = xRefBR- (cbWidth-1), xRefTL is also corrected as xRefBR is corrected. In the correction of this reference position, the block vector mvL [0] may be corrected. In other words
mvL [0] = (xAvlBR --NR-(xCb + cbWitdh --1)) << 4
To correct. As a result, xRefBR = xAvlBR, so the reference position can be corrected.
一方、参照ブロックr2が6213に位置していたとすると、blk_idx=0でなく、かつ参照ブロックの右下がX4(6114のx方向)とY3(6113のy方向)より大きい領域に位置している(S6027:YES)。また、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さくない(S6028:NO)。よって、yRefBR=yAvlBRとして6214の位置にy方向の参照位置を補正する(S6030)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1、つまりyRefTL=yRefBR-(cbHeight-1)であるから、yRefBRを補正したことに伴ってyRefTLも補正されることになる。この参照位置の補正において、ブロックベクトルmvL[1]を補正しても良い。つまり、
mvL[1] = (yAvlBR - 64 - (yCb + cbHeight - 1)) << 4
と補正する。これにより、yRefBR=yAvlBRとなるので、参照位置を補正できる。
On the other hand, if the reference block r2 is located at 6213, blk_idx = 0 is not satisfied, and the lower right of the reference block is located in a region larger than X4 (x direction of 6114) and Y3 (y direction of 6113). (S6027: YES). Further, the difference between the reference block and the referenceable area in the x direction is not smaller than the difference between the reference block and the referenceable area in the y direction (S6028: NO). Therefore, the reference position in the y direction is corrected to the position of 6214 by setting yRefBR = yAvlBR (S6030). Here, since yRefBR = yRefTL + cbHeight-1 as in S6001, that is, yRefTL = yRefBR- (cbHeight-1), yRefTL is also corrected as yRefBR is corrected. In the correction of this reference position, the block vector mvL [1] may be corrected. In other words
mvL [1] = (yAvlBR --64-(yCb + cbHeight --1)) << 4
To correct. As a result, yRefBR = yAvlBR, so the reference position can be corrected.
ここで、参照ブロックr3が6215に位置していたとする。この場合、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さくない(S6028:NO)。よって、参照ブロックr2と同様にy方向の参照位置を補正することで、6216に位置する(S6030)。この時点において、参照ブロックは参照可能領域の外側である。しかし、後述のS6008とS6009の処理により、x方向の参照位置を補正する。結局、参照ブロックは、参照可能領域の内側となる。 Here, it is assumed that the reference block r3 is located at 6215. In this case, the difference between the reference block and the referenceable area in the x direction is not smaller than the difference between the reference block and the referenceable area in the y direction (S6028: NO). Therefore, it is located at 6216 by correcting the reference position in the y direction in the same manner as the reference block r2 (S6030). At this point, the reference block is outside the referenceable area. However, the reference position in the x direction is corrected by the processing of S6008 and S6009 described later. After all, the reference block is inside the referenceable area.
図53では、blk_idx=0と3の場合を例に参照位置を補正する処理を説明した。blk_idx=1や2の場合、blk_idx=0と3の場合と同様に参照位置を補正する処理をする。 In FIG. 53, the process of correcting the reference position has been described by taking the cases of blk_idx = 0 and 3 as an example. When blk_idx = 1 or 2, the reference position is corrected in the same way as when blk_idx = 0 and 3.
参照可能領域が矩形でない部分の参照位置を補正する処理(S6013)の後、S6004からS6011の処理をする。以上により、CTUの大きさが128x128画素の場合の処理は終了する。 After the process of correcting the reference position of the portion where the referenceable area is not rectangular (S6013), the processes of S6004 to S6011 are performed. With the above, the processing when the size of CTU is 128x128 pixels is completed.
いま、参照可能領域が矩形でない部分の参照位置を補正する処理(S6013)において、参照可能領域の左上に合わせてx方向の参照位置を補正する処理(S6024)をしたとする。すると、参照ブロックのx方向の参照位置が、参照可能領域の左上より小さくなることはないので、S6004の判定は常に偽(S6004:NO)となる。従って、S6024の処理をした場合は、S6004とS6005の処理をしないようにしても良い。同様に、S6025の処理をした場合はS6006とS6007の処理をしないようにしても良いし、S6029の処理をした場合はS6008とS6009の処理をしないようにしても良いし、S6030の処理をした場合はS6010とS6011の処理をしないようにしても良い。 Now, it is assumed that in the process of correcting the reference position of the portion where the referenceable area is not rectangular (S6013), the process of correcting the reference position in the x direction according to the upper left of the referenceable area (S6024) is performed. Then, since the reference position of the reference block in the x direction is not smaller than the upper left of the referenceable area, the determination of S6004 is always false (S6004: NO). Therefore, when the processing of S6024 is performed, the processing of S6004 and S6005 may not be performed. Similarly, when the processing of S6025 is performed, the processing of S6006 and S6007 may be omitted, when the processing of S6029 is performed, the processing of S6008 and S6009 may not be performed, or the processing of S6030 may be performed. In that case, the processing of S6010 and S6011 may not be performed.
また、図52のフローチャートにおいて、ステップS6023の比較処理を省略し、常にステップS6024を実行するような構成を取っても良いし、常にステップS6025を実行するような構成を取っても良い。同様に、ステップS6028の比較処理を省略し、常にステップS6029を実行するような構成を取っても良いし、常にステップS6030を実行するような構成を取っても良い。そのような構成においては、簡便な処理で参照位置を補正することが可能となる。 Further, in the flowchart of FIG. 52, the comparison process of step S6023 may be omitted and the configuration may be such that step S6024 is always executed, or the configuration may be such that step S6025 is always executed. Similarly, the comparison process of step S6028 may be omitted, and the configuration may be such that step S6029 is always executed, or the configuration may be such that step S6030 is always executed. In such a configuration, the reference position can be corrected by a simple process.
図49では、CTUの大きさが128x128画素の場合において、S6012、S6013およびS6004からS6011の処理を用いて参照位置を補正している。これに代わり、図54のように、参照可能領域を2つに分解し、それぞれの参照位置を補正する処理(S6101)によっても実現出来る。 In FIG. 49, when the size of the CTU is 128x128 pixels, the reference position is corrected by using the processes of S6012, S6013, and S6004 to S6011. Instead of this, as shown in FIG. 54, it can also be realized by a process (S6101) of decomposing the referenceable area into two and correcting each reference position.
図55は、参照可能領域を2つに分解する様子を説明する図である。図51において参照可能領域を矩形状としているのとは異なり、図55では参照可能領域を2つに分解している。処理対象の符号化ツリーブロック(6101)を4分割したうち、処理対象の符号化ブロック(6102)が左上に位置している場合は、blk_idx=0とする。同様に、処理対象の符号化ブロックがそれぞれ右上、左下、右下に位置している場合は、blk_idxは1,2,3とする。図55(a)はblk_idx=0の場合を示す図である。同様に、図55(b)から図55(d)は、それぞれblk_idx=1から3の場合を示す図である。また、一方の参照可能領域(6301)を参照可能領域Aとし、他方の参照可能領域(6302)を参照可能領域Bとする。 FIG. 55 is a diagram illustrating how the referenceable region is decomposed into two. Unlike the rectangular shape of the referenceable area in FIG. 51, the referenceable area is decomposed into two in FIG. 55. If the coded block (6102) to be processed is located in the upper left of the coded tree block (6101) to be processed, blk_idx = 0 is set. Similarly, if the coded blocks to be processed are located at the upper right, lower left, and lower right, respectively, blk_idx is set to 1, 2, and 3. FIG. 55 (a) is a diagram showing the case where blk_idx = 0. Similarly, FIGS. 55 (b) to 55 (d) are diagrams showing the cases of blk_idx = 1 to 3, respectively. Further, one referenceable area (6301) is designated as a referenceable area A, and the other referenceable area (6302) is designated as a referenceable area B.
図56は、参照可能領域を2つに分解し、それぞれの参照位置を補正する処理(S6101)を説明する図である。図56において、図49と同じ処理には同じステップ番号を付し、説明を省略する。まず、参照可能領域Aの左上および右下の位置を算出する(S6111)。参照可能領域Aの左上を( xAvlTL, yAvlTL )、右下を( xAvlBR, yAvlBR )とすると、
xOffsetTL[4] = {-128, -128, -64, 0}, yOffsetTL[4] = {64, 64, 64, 0}
xOffsetBR[4] = {0, 0, 0, 128}, yOffsetBR[4] = {128, 128, 128, 64}
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL[blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL[blk_idx])
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1
+ xOffsetBR[blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 + yOffsetBR[blk_idx] )となる。
FIG. 56 is a diagram illustrating a process (S6101) of decomposing a referenceable region into two and correcting each reference position. In FIG. 56, the same process as in FIG. 49 is assigned the same step number, and the description thereof will be omitted. First, the upper left and lower right positions of the referenceable area A are calculated (S6111). If the upper left of the referenceable area A is (xAvlTL, yAvlTL) and the lower right is (xAvlBR, yAvlBR),
xOffsetTL [4] = {-128, -128, -64, 0}, yOffsetTL [4] = {64, 64, 64, 0}
xOffsetBR [4] = {0, 0, 0, 128}, yOffsetBR [4] = {128, 128, 128, 64}
(xAvlTL, yAvlTL) = ((xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL [blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL [blk_idx])
(xAvlBR, yAvlBR) = (((xCb >> CtbLog2SizeY) << CtbLog2SizeY) -1
+ xOffsetBR [blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) -1 + yOffsetBR [blk_idx]).
次に、参照ブロックが参照可能領域Aの外部か否かについて、
out_xRefTL = xRefTL < xAvlTL
out_yRefTL = yRefTL < yAvlTL
out_xRefBR = xRefBR > xAvlBR
out_yRefBR = yRefBR > yAvlBR
として算出する(S6112)。
Next, regarding whether or not the reference block is outside the referenceable area A,
out_xRefTL = xRefTL <xAvlTL
out_yRefTL = yRefTL <yAvlTL
out_xRefBR = xRefBR> xAvlBR
out_yRefBR = yRefBR> yAvlBR
Is calculated as (S6112).
次に、参照可能領域Bの左上および右下の位置を算出する(S6113)。参照可能領域Bの左上を( xAvlTL, yAvlTL )、右下を( xAvlBR, yAvlBR )とすると、
xOffsetTL[4] = {-64, 0, 0, 0}, yOffsetTL[4] = {0, 0, 0, 0}
xOffsetBR[4] = {0, 64, 128, 64}, yOffsetBR[4] = {128, 64, 64, 128}
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL[blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL[blk_idx])
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1
+ xOffsetBR[blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 + yOffsetBR[blk_idx] )
となる。
Next, the upper left and lower right positions of the referenceable area B are calculated (S6113). If the upper left of the referenceable area B is (xAvlTL, yAvlTL) and the lower right is (xAvlBR, yAvlBR),
xOffsetTL [4] = {-64, 0, 0, 0}, yOffsetTL [4] = {0, 0, 0, 0}
xOffsetBR [4] = {0, 64, 128, 64}, yOffsetBR [4] = {128, 64, 64, 128}
(xAvlTL, yAvlTL) = ((xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL [blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL [blk_idx])
(xAvlBR, yAvlBR) = (((xCb >> CtbLog2SizeY) << CtbLog2SizeY) -1
+ xOffsetBR [blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) -1 + yOffsetBR [blk_idx])
Will be.
次に、参照ブロックのx方向の参照位置が参照可能領域Aの左上より小さく、かつ参照ブロックのx方向の参照位置が参照可能領域Bの左上より小さいか否かを判定する(S6114)。判定が偽ならば(S6114:NO)、次の処理(S6116)に進む。一方、判定が真ならば(S6114:YES)、参照可能領域Bの左上に合わせてx方向の参照位置を補正する(S6005)。S6005の処理はすでに説明しているため、説明を省略する。 Next, it is determined whether or not the reference position of the reference block in the x direction is smaller than the upper left of the referenceable area A and the reference position of the reference block in the x direction is smaller than the upper left of the referenceable area B (S6114). If the determination is false (S6114: NO), the process proceeds to the next process (S6116). On the other hand, if the determination is true (S6114: YES), the reference position in the x direction is corrected according to the upper left of the referenceable area B (S6005). Since the process of S6005 has already been described, the description thereof will be omitted.
続いて、参照ブロックのy方向の参照位置が参照可能領域Aの左上より小さく、かつ参照ブロックのy方向の参照位置が参照可能領域Bの左上より小さいか否かを判定する(S6116)。判定が偽ならば(S6116:NO)、次の処理(S6118)に進む。一方、判定が真ならば(S6116:YES)、参照可能領域Bの左上に合わせてy方向の参照位置を補正する(S6007)。S6007の処理はすでに説明しているため、説明を省略する。 Subsequently, it is determined whether or not the reference position of the reference block in the y direction is smaller than the upper left of the referenceable area A and the reference position of the reference block in the y direction is smaller than the upper left of the referenceable area B (S6116). If the determination is false (S6116: NO), the process proceeds to the next process (S6118). On the other hand, if the determination is true (S6116: YES), the reference position in the y direction is corrected according to the upper left of the referenceable area B (S6007). Since the process of S6007 has already been described, the description thereof will be omitted.
次に、参照ブロックのx方向の参照位置が参照可能領域Aの右下より大きく、かつ参照ブロックのx方向の参照位置が参照可能領域Bの右下より大きいか否かを判定する(S6118)。判定が偽ならば(S6118:NO)、次の処理(S6120)に進む。一方、判定が真ならば(S6118:YES)、参照可能領域Bの右下に合わせてx方向の参照位置を補正する(S6009)。S6009の処理はすでに説明しているため、説明を省略する。 Next, it is determined whether or not the reference position of the reference block in the x direction is larger than the lower right of the referenceable area A and the reference position of the reference block in the x direction is larger than the lower right of the referenceable area B (S6118). .. If the determination is false (S6118: NO), the process proceeds to the next process (S6120). On the other hand, if the determination is true (S6118: YES), the reference position in the x direction is corrected according to the lower right of the referenceable area B (S6009). Since the process of S6009 has already been described, the description thereof will be omitted.
次に、参照ブロックのy方向の参照位置が参照可能領域Aの右下より大きく、かつ参照ブロックのy方向の参照位置が参照可能領域Bの右下より大きいか否かを判定する(S6120)。判定が偽ならば(S6120:NO)、処理を終了する。一方、判定が真ならば(S6120:YES)、参照可能領域Bの右下に合わせてy方向の参照位置を補正する(S6011)。S6011の処理はすでに説明しているため、説明を省略する。 Next, it is determined whether or not the reference position of the reference block in the y direction is larger than the lower right of the referenceable area A and the reference position of the reference block in the y direction is larger than the lower right of the referenceable area B (S6120). .. If the determination is false (S6120: NO), the process ends. On the other hand, if the determination is true (S6120: YES), the reference position in the y direction is corrected according to the lower right of the referenceable area B (S6011). Since the process of S6011 has already been described, the description thereof will be omitted.
以上により、CTUの大きさが128x128画素の場合において、参照ブロックが参照可能領域の外部に位置していたとしても、参照位置を補正して参照可能となる。また、参照可能領域を2つに分解してそれぞれの参照位置を補正することで、処理を簡易化して演算量を削減することが出来る。ここでは、一方の参照可能領域(6301)を参照可能領域Aとし、他方の参照可能領域(6302)を参照可能領域Bとしている。代わりに、参照可能領域Aと参照可能領域Bを入れ替えて、一方の参照可能領域(6301)を参照可能領域Bとし、他方の参照可能領域(6302)を参照可能領域Aとして処理しても良い。 As described above, when the size of the CTU is 128x128 pixels, even if the reference block is located outside the referenceable area, the reference position can be corrected and the reference can be made. Further, by decomposing the referenceable area into two and correcting each reference position, the processing can be simplified and the amount of calculation can be reduced. Here, one referenceable area (6301) is designated as a referenceable area A, and the other referenceable area (6302) is designated as a referenceable area B. Alternatively, the referenceable area A and the referenceable area B may be exchanged so that one referenceable area (6301) becomes the referenceable area B and the other referenceable area (6302) is treated as the referenceable area A. ..
本実施例では、CTUの大きさが128x128画素か否かを判定し(S6002)、処理を切り替えている。これは、イントラブロックコピー基準ブロックが、符号化ツリーブロックを4分割した単位か否か判定するようにしても良いし、CTUの大きさが符号化ブロックの最大サイズより大きいか否かを判定するようにしても良い。 In this embodiment, it is determined whether or not the size of the CTU is 128x128 pixels (S6002), and the processing is switched. This may determine whether the intra-block copy reference block is a unit obtained by dividing the coded tree block into four, or whether the size of the CTU is larger than the maximum size of the coded block. You may do so.
<参照領域境界補正部>
図59は、参照領域境界補正部381及び参照領域境界補正部481の処理を説明するためのフローチャートである。
<Reference area boundary correction unit>
FIG. 59 is a flowchart for explaining the processing of the reference area
まず、参照ブロックの左上の位置を、
( xRefTL, yRefTL ) = ( xCb + ( mvL[ 0 ] >> 4 ), yCb + ( mvL[ 1 ] >> 4 ) )
( xRefBR, yRefBR ) = ( xRefTL + cbWidth - 1, yRefTL + cbHeight - 1 )
により導出する(ステップS1401)。この手順は、図49のステップS6001と同様の手順となるため説明を省略する。
First, the upper left position of the reference block,
(xRefTL, yRefTL) = (xCb + (mvL [0] >> 4), yCb + (mvL [1] >> 4))
(xRefBR, yRefBR) = (xRefTL + cbWidth --1, yRefTL + cbHeight --1)
(Step S1401). Since this procedure is the same as that of step S6001 in FIG. 49, the description thereof will be omitted.
続いて、参照可能領域A,B,Cそれぞれの左上と右下の位置を算出する(ステップS1402〜ステップS1403)。ここで、参照可能領域Aは処理対象のイントラブロックコピー基準ブロックの直前に処理したイントラブロックコピー基準ブロックであり、参照可能領域Bは参照可能領域Aの直前に処理したイントラブロックコピー基準ブロックであり、参照可能領域Cは参照可能領域Bの直前に処理したイントラブロックコピー基準ブロックであるとする。図57は、符号化ツリーブロック単位をイントラブロックコピー基準ブロックとしたときの例である。図57(a)の例では、符号化ツリーブロック503が処理対象の符号化ツリーブロックである。このとき、符号化ツリーブロック502が参照可能領域Aに対応し、符号化ツリーブロック501が参照可能領域Bに対応し、符号化ツリーブロック500が参照可能領域Cに対応する。図58は、符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブロックとしたときの例である。図57(a)の例では、符号化ツリーブロック504が処理対象のイントラブロックコピー基準ブロックである。このとき、符号化ツリーブロック503が参照可能領域Aに対応し、符号化ツリーブロック502が参照可能領域Bに対応し、符号化ツリーブロック501が参照可能領域Cに対応する。
Subsequently, the upper left and lower right positions of the referenceable areas A, B, and C are calculated (steps S1402 to S1403). Here, the referenceable area A is an intrablock copy reference block processed immediately before the intrablock copy reference block to be processed, and the referenceable area B is an intrablock copy reference block processed immediately before the referenceable area A. , It is assumed that the referenceable area C is an intrablock copy reference block processed immediately before the referenceable area B. FIG. 57 is an example when the coded tree block unit is an intra-block copy reference block. In the example of FIG. 57A, the coded
参照可能領域A,B,Cの左上位置をそれぞれ、(xAvlATL, yAvlATL)、(xAvlBTL, yAvlBTL)、(xAvlCTL, yAvlCTL)とする。また、参照可能領域A,B,Cの右下位置をそれぞれ、(xAvlABR, yAvlABR)、(xAvlBBR, yAvlBBR)、(xAvlCBR, yAvlCBR)とする。符号化ツリーブロック単位をイントラブロックコピー基準ブロックとしたときは、(xAvlATL, yAvlATL)、(xAvlBTL, yAvlBTL)、(xAvlCTL, yAvlCTL)、(xAvlABR, yAvlABR)、(xAvlBBR, yAvlBBR)、(xAvlCBR, yAvlCBR)をそれぞれ、
(xAvlATL, yAvlATL) = ( (xCb >> CtbLog2SizeY) << (CtbLog2SizeY) - (1 << CtbLog2SizeY),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlABR, yAvlABR) = (xAvlATL + cbWidth - 1, yAvlATL + cbHeight - 1 )
(xAvlATL, yAvlATL) = ( (xCb >> CtbLog2SizeY) << (CtbLog2SizeY) - 2*(1 << CtbLog2SizeY)),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlBBR, yAvlBBR) = (xAvlBTL + cbWidth -1, yAvlBTL + cbHeight - 1 )
(xAvlATL, yAvlATL) = ( (xCb >> CtbLog2SizeY) << (CtbLog2SizeY) - 3*(1 << CtbLog2SizeY),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlCBR, yAvlCBR) = (xAvlCTL + cbWidth -1, yAvlCTL + cbHeight - 1 )
とする。符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブロックとしたときは、(xAvlATL, yAvlATL)、(xAvlBTL, yAvlBTL)、(xAvlCTL, yAvlCTL)をそれぞれ、
(xAvlATL, yAvlATL) = ( (xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1) - (1 << (CtbLog2SizeY-1)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1))+ (1<<(CtbLog2SizeY-1)))
(xAvlABR, yAvlABR) = (xAvlATL + cbWidth - 1, yAvlATL + cbHeight - 1 )
(xAvlBTL, yAvlBTL) = ( (xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1) - (1 << (CtbLog2SizeY)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1))+ (1<<(CtbLog2SizeY-1)))
(xAvlBBR, yAvlBBR) = (xAvlBTL + cbWidth -1, yAvlBTL + cbHeight - 1 )
(xAvlCTL, yAvlCTL) = ( (xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1) - (1 << (CtbLog2SizeY-1)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1))+ (1<<(CtbLog2SizeY-1)))
(xAvlCBR, yAvlCBR) = (xAvlCTL + cbWidth -1, yAvlCTL + cbHeight - 1 )
とする。
The upper left positions of the referenceable areas A, B, and C are (xAvlATL, yAvlATL), (xAvlBTL, yAvlBTL), and (xAvlCTL, yAvlCTL), respectively. The lower right positions of the referenceable areas A, B, and C are (xAvlABR, yAvlABR), (xAvlBBR, yAvlBBR), and (xAvlCBR, yAvlCBR), respectively. When the coded tree block unit is the intra-block copy reference block, (xAvlATL, yAvlATL), (xAvlBTL, yAvlBTL), (xAvlCTL, yAvlCTL), (xAvlABR, yAvlABR), (xAvlBBR, yAvlBBR), (xAvlBBR, yAvlBBR) ), Each
(xAvlATL, yAvlATL) = ((xCb >> CtbLog2SizeY) << (CtbLog2SizeY)-(1 << CtbLog2SizeY),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlABR, yAvlABR) = (xAvlATL + cbWidth --1, yAvlATL + cbHeight --1)
(xAvlATL, yAvlATL) = ((xCb >> CtbLog2SizeY) << (CtbLog2SizeY)-2 * (1 << CtbLog2SizeY)),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlBBR, yAvlBBR) = (xAvlBTL + cbWidth -1, yAvlBTL + cbHeight -1)
(xAvlATL, yAvlATL) = ((xCb >> CtbLog2SizeY) << (CtbLog2SizeY) --3 * (1 << CtbLog2SizeY),
(yCb >> CtbLog2SizeY) << (CtbLog2SizeY))
(xAvlCBR, yAvlCBR) = (xAvlCTL + cbWidth -1, yAvlCTL + cbHeight -1)
And. When the unit obtained by dividing the coded tree block into four is used as the intra-block copy reference block, (xAvlATL, yAvlATL), (xAvlBTL, yAvlBTL), and (xAvlCTL, yAvlCTL) are used, respectively.
(xAvlATL, yAvlATL) = ((xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1)-(1 << (CtbLog2SizeY-1)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1)) + (1 << (CtbLog2SizeY-1)))
(xAvlABR, yAvlABR) = (xAvlATL + cbWidth --1, yAvlATL + cbHeight --1)
(xAvlBTL, yAvlBTL) = ((xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1)-(1 << (CtbLog2SizeY)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1)) + (1 << (CtbLog2SizeY-1)))
(xAvlBBR, yAvlBBR) = (xAvlBTL + cbWidth -1, yAvlBTL + cbHeight -1)
(xAvlCTL, yAvlCTL) = ((xCb >> (CtbLog2SizeY-1)) << (CtbLog2SizeY-1)-(1 << (CtbLog2SizeY-1)),
(yCb >> (CtbLog2SizeY-1)) << ((CtbLog2SizeY-1)) + (1 << (CtbLog2SizeY-1)))
(xAvlCBR, yAvlCBR) = (xAvlCTL + cbWidth -1, yAvlCTL + cbHeight -1)
And.
次に、参照ブロックの左上位置を含む参照可能領域を決定する。(ステップS1405)。具体的には、参照可能領域A,B,Cの左上と右下位置と、参照ブロックの左上位置を比較し、参照ブロックの左上位置を内包する参照可能領域を、参照ブロックを含む参照可能領域とする。 Next, the referenceable area including the upper left position of the reference block is determined. (Step S1405). Specifically, the upper left and lower right positions of the referenceable areas A, B, and C are compared with the upper left position of the reference block, and the referenceable area including the upper left position of the reference block is the referenceable area including the reference block. And.
次に、参照ブロックの左上位置を含む参照可能領域が、参照ブロックの右下位置を含むか否かを判定する(ステップS1406)。参照ブロックの左上位置を含む参照可能領域が、参照ブロックの右下位置を含む場合は、図59のフローチャートを終了する。 Next, it is determined whether or not the referenceable area including the upper left position of the reference block includes the lower right position of the reference block (step S1406). When the referenceable area including the upper left position of the reference block includes the lower right position of the reference block, the flowchart of FIG. 59 ends.
参照ブロックの左上位置を含む参照可能領域が、参照ブロックの右下位置を含まない場合は、参照ブロックの補正を行う(ステップS1407)。参照ブロックの補正について、図60を用いて説明する。図60は、符号化ツリーブロック単位をイントラブロックコピー基準ブロックとした場合の例である。図60(a)は、処理対象の符号化ブロック505に対し、ブロックベクトル507を設定した場合である。参照可能領域B(503)は、参照ブロックの左上位置を含み、参照ブロックの右下位置を含まない。このとき、図60(b)に示す通り、参照ブロック508は、メモリ空間上は分割参照ブロック509と分割参照ブロック510に分割して配置される。分割参照ブロック509は、参照ブロックの左上を含む参照可能領域である、参照可能領域B(503)に含まれる領域であり、分割参照ブロック510は、参照可能領域B(503)とは異なる参照領域に含まれる参照ブロックである。本実施例においては、参照ブロック510の参照画像を構築する際に、分割参照ブロック509に相当する領域と、分割参照ブロック510に相当する領域に対して異なる処理を行う。具体的には、分割参照ブロック509に相当する領域については、ブロックベクトルが指し示す位置に基づいて、参照画像を作成する。一方、分割参照ブロック510に相当する領域については、メモリ空間600への参照を行わずに、所定の値を設定することにより参照画像を作成する。ここで所定の値は、画素値の最大値をMaxPixelValueとすると、MaxPixelValue/2とする。ただし、分割参照ブロック510に相当する領域に対しては、所定の値の代わりに、分割参照ブロック509を含むメモリ空間603から参照画像を構築するような構成を取ってもよい。例えば、分割参照ブロック509の最も右に位置する画素を水平方向にコピーすることにより、参照画像を構築してもよい。
If the referenceable area including the upper left position of the reference block does not include the lower right position of the reference block, the reference block is corrected (step S1407). The correction of the reference block will be described with reference to FIG. FIG. 60 is an example in which the coded tree block unit is an intra-block copy reference block. FIG. 60A shows a case where the
図61は、符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブロックとした場合の例である。図61(a)は、処理対象の符号化ブロック509に対し、ブロックベクトル508を設定した場合である。参照可能領域C(501)は、参照ブロックの左上位置を含み、参照ブロックの右下位置を含まない。このとき、図61(b)に示す通り、参照ブロック510は、メモリ空間上は分割参照ブロック511と分割参照ブロック512に分割して配置される。分割参照ブロック511は、参照ブロックの左上を含む参照可能領域である、参照可能領域C(501)に含まれる領域であり、分割参照ブロック512は、参照可能領域C(501)とは異なる参照領域に含まれる参照ブロックである。本実施例においては、参照ブロック510の参照画像を構築する際に、分割参照ブロック511に相当する領域と、分割参照ブロック512に相当する領域に対して異なる処理を行う。具体的には、分割参照ブロック511に相当する領域については、ブロックベクトルが指し示す位置に基づいて、参照画像を作成する。一方、分割参照ブロック511に相当する領域については、メモリ空間602への参照を行わずに、所定の値を設定することにより参照画像を作成する。ここで所定の値は、画素値の最大値をMaxPixelValueとすると、MaxPixelValue/2とする。ただし、分割参照ブロック512に相当する領域に対しては、所定の値の代わりに、分割参照ブロック511を含むメモリ空間601から参照画像を構築するような構成を取ってもよい。例えば、分割参照ブロック511の最も下に位置する画素を垂直方向にコピーすることにより、参照画像を構築してもよい。
FIG. 61 is an example in which the unit obtained by dividing the coded tree block into four is used as the intra-block copy reference block. FIG. 61A shows a case where the
本構成を取ることにより、イントラブロックコピーの参照ブロックを決定する際に、参照画像がメモリ空間上に分割して配置された場合において、分割されたメモリ空間に複数回アクセスすることを回避することができる。従って、イントラブロックコピーの参照ブロックを構成する処理量を削減することができる。 By adopting this configuration, when determining the reference block of the intra-block copy, when the reference image is divided and arranged in the memory space, it is possible to avoid accessing the divided memory space multiple times. Can be done. Therefore, the amount of processing that constitutes the reference block of the intra-block copy can be reduced.
以上に述べた全ての実施の形態において、画像符号化装置が出力する符号化ビットストリームは、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデータフォーマットを有している。符号化ビットストリームは、HDD、SSD、フラッシュメモリ、光ディスク等のコンピュータ等で読み解き可能な記録媒体に記録して提供しても良いし、有線あるいは無線のネットワークを通してサーバから提供しても良い。従って、この画像符号化装置に対応する画像復号装置は、提供手段によらず、この特定のデータフォーマットの符号化ビットストリームを復号することができる。 In all of the embodiments described above, the coded bitstream output by the image coding apparatus has a specific data format so that it can be decoded according to the coding method used in the embodiment. doing. The coded bit stream may be recorded and provided on a recording medium readable by a computer such as an HDD, SSD, flash memory, or optical disk, or may be provided from a server via a wired or wireless network. Therefore, the image decoding device corresponding to this image coding device can decode the coded bit stream of this specific data format regardless of the providing means.
画像符号化装置と画像復号装置の間で符号化ビットストリームをやりとりするために、有線または無線のネットワークが用いられる場合、通信路の伝送形態に適したデータ形式に符号化ビットストリームを変換して伝送してもよい。その場合、画像符号化装置が出力する符号化ビットストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する送信装置と、ネットワークから符号化データを受信して符号化ビットストリームに復元して画像復号装置に供給する受信装置とが設けられる。 送信装置は、画像符号化装置が出力する符号化ビットストリームをバッファするメモリと、符号化ビットストリームをパケット化するパケット処理部と、ネットワークを介してパケット化された符号化データを送信する送信部とを含む。受信装置は、ネットワークを介してパケット化された符号化データを受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理して符号化ビットストリームを生成し、画像復号装置に提供するパケット処理部とを含む。 When a wired or wireless network is used to exchange the coded bitstream between the image encoding device and the image decoding device, the coded bitstream is converted into a data format suitable for the transmission mode of the communication path. It may be transmitted. In that case, the transmission device that converts the coded bit stream output by the image coding device into coded data in a data format suitable for the transmission form of the communication path and transmits it to the network, and the transmission device that receives the coded data from the network A receiving device that restores the coded bitstream and supplies it to the image decoding device is provided. The transmission device includes a memory that buffers the coded bit stream output by the image coding device, a packet processing unit that packets the coded bit stream, and a transmission unit that transmits the packetized coded data via the network. And include. The receiving device generates a coded bit stream by packet processing the coded data and a receiver that receives the coded data packetized via the network, a memory that buffers the received coded data, and the coded data. Includes a packet processing unit provided to the image decoding device.
画像符号化装置と画像復号装置の間で符号化ビットストリームをやりとりするために、有線または無線のネットワークが用いられる場合、送信装置、受信装置に加え、さらに、送信装置が送信する符号化データを受信し、受信装置に供給する中継装置が設けられても良い。中継装置は、送信装置が送信するパケット化された符号化データを受信する受信部と、受信された符号化データをバッファするメモリと、パケットされた符号化データとネットワークに送信する送信部とを含む。さらに、中継装置は、パケット化された符号化データをパケット処理して符号化ビットストリームを生成する受信パケット処理部と、符号化ビットストリームを蓄積する記録媒体と、符号化ビットストリームをパケット化する送信パケット処理部を含んでも良い。 When a wired or wireless network is used to exchange a coded bitstream between the image encoding device and the image decoding device, in addition to the transmitting device and the receiving device, the coded data transmitted by the transmitting device is further transmitted. A relay device that receives and supplies to the receiving device may be provided. The relay device includes a receiving unit that receives the packetized encoded data transmitted by the transmitting device, a memory that buffers the received encoded data, and a transmitting unit that transmits the packetized encoded data to the network. Including. Further, the relay device packetizes the received packet processing unit that packet-processes the packetized encoded data to generate the encoded bit stream, the recording medium that stores the encoded bit stream, and the encoded bit stream. A transmission packet processing unit may be included.
また、画像復号装置で復号された画像を表示する表示部を構成に追加することで、表示装置としても良い。その場合、表示部は、復号画像信号重畳部207により生成され、復号画像メモリ208に格納された復号画像信号を読み出して画面に表示する。
Further, the display device may be used by adding a display unit for displaying the image decoded by the image decoding device to the configuration. In that case, the display unit reads the decoded image signal generated by the decoded image
また、撮像部を構成に追加し、撮像した画像を画像符号化装置に入力することで、撮像装置としても良い。その場合、撮像部は、撮像した画像信号をブロック分割部101に入力する。
Further, by adding an image pickup unit to the configuration and inputting the captured image into the image coding device, the image pickup device may be used. In that case, the image pickup unit inputs the captured image signal to the
以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現しても良いのは勿論のこと、ROM(リード・オンリー・メモリ)やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによって実現しても良い。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供しても良いし、有線あるいは無線のネットワークを通してサーバから提供しても良いし、地上波あるいは衛星ディジタル放送のデータ放送として提供しても良い。 The above processing related to coding and decoding may be realized as a transmission, storage, and reception device using hardware, and is stored in a ROM (read-only memory), a flash memory, or the like. It may be realized by firmware or software such as a computer. The firmware program and software program may be recorded on a recording medium readable by a computer or the like and provided, or may be provided from a server via a wired or wireless network, or terrestrial or satellite digital broadcasting data broadcasting. May be provided as.
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。 The present invention has been described above based on the embodiments. Embodiments are examples, and it is understood by those skilled in the art that various modifications are possible for each of these components and combinations of each processing process, and that such modifications are also within the scope of the present invention. ..
100 画像符号化装置、 101 ブロック分割部、 102 インター予測部、 103 イントラ予測部、104 復号画像メモリ、 105 予測方法決定部、 106 残差信号生成部、 107 直交変換・量子化部、 108 ビット列符号化部、 109 逆量子化・逆直交変換部、 110 復号画像信号重畳部、 111 符号化情報格納メモリ、 200 画像復号装置、 201 ビット列復号部、 202 ブロック分割部、 203 インター予測部 204 イントラ予測部、 205 符号化情報格納メモリ、 206 逆量子化・逆直交変換部、 207 復号画像信号重畳部、 208 復号画像メモリ。
100 image coding device, 101 block division unit, 102 inter-prediction unit, 103 intra-prediction unit, 104 decoded image memory, 105 prediction method determination unit, 106 residual signal generation unit, 107 orthogonal conversion / quantization unit, 108-bit string code Quantization unit, 109 inverse quantization / inverse orthogonal conversion unit, 110 decoded image signal superimposition unit, 111 coded information storage memory, 200 image decoding device, 201 bit string decoding unit, 202 block division unit, 203
Claims (1)
前記ブロックベクトル候補から選択ブロックベクトルを選択する選択部と、
複数の参照可能領域から、前記選択ブロックベクトルにより参照する参照ブロックの所定位置を含む参照可能領域を決定し、
前記参照ブロックの所定位置を含む前記参照可能領域に含まれる第1の分割参照ブロックに対しては、前記参照ブロックの参照位置に基づいて前記処理対象ピクチャ内の復号済み画素を、前記処理対象ブロックの予測値として復号画像メモリ部から取得し、
前記参照ブロックの所定位置を含まない参照可能領域に含まれる第2の分割参照ブロックに対しては、所定値を前記処理対象ブロックの予測値とする参照領域境界補正部と、
を備えることを特徴とする画像符号化装置。 A block vector candidate derivation unit that derives block vector candidates for the block to be processed in the picture to be processed from the coded information stored in the coded information storage memory,
A selection unit that selects a selection block vector from the block vector candidates,
From a plurality of referenceable areas, a referenceable area including a predetermined position of the reference block to be referenced by the selected block vector is determined.
For the first divided reference block included in the referenceable area including the predetermined position of the reference block, the decoded pixels in the processing target picture are converted into the processing target block based on the reference position of the reference block. Obtained from the decoded image memory section as the predicted value of
For the second divided reference block included in the referable area that does not include the predetermined position of the reference block, a reference area boundary correction unit that sets a predetermined value as a predicted value of the processing target block, and
An image coding apparatus comprising.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019117515A JP7354610B2 (en) | 2019-06-25 | 2019-06-25 | Image encoding device, image encoding method, and image encoding program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019117515A JP7354610B2 (en) | 2019-06-25 | 2019-06-25 | Image encoding device, image encoding method, and image encoding program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021005755A true JP2021005755A (en) | 2021-01-14 |
JP7354610B2 JP7354610B2 (en) | 2023-10-03 |
Family
ID=74098284
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019117515A Active JP7354610B2 (en) | 2019-06-25 | 2019-06-25 | Image encoding device, image encoding method, and image encoding program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7354610B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015144324A (en) * | 2013-12-27 | 2015-08-06 | 三菱電機株式会社 | Image encoder, image decoder, image encoding method and image decoding method |
JP2016539542A (en) * | 2013-10-14 | 2016-12-15 | マイクロソフト テクノロジー ライセンシング,エルエルシー | Features of intra block copy prediction mode for video and image encoding and decoding |
-
2019
- 2019-06-25 JP JP2019117515A patent/JP7354610B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016539542A (en) * | 2013-10-14 | 2016-12-15 | マイクロソフト テクノロジー ライセンシング,エルエルシー | Features of intra block copy prediction mode for video and image encoding and decoding |
JP2015144324A (en) * | 2013-12-27 | 2015-08-06 | 三菱電機株式会社 | Image encoder, image decoder, image encoding method and image decoding method |
Also Published As
Publication number | Publication date |
---|---|
JP7354610B2 (en) | 2023-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6958768B2 (en) | Moving image coding device, moving image coding method, and moving image coding program, moving image decoding device, moving image decoding method and moving image decoding program | |
JP7209801B2 (en) | Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program | |
JP7375890B2 (en) | Video encoding device, video encoding method, video encoding program, video decoding device, video decoding method, and video decoding program | |
JP7063416B2 (en) | Moving image coding device, moving image coding method, and moving image coding program, moving image decoding device, moving image decoding method and moving image decoding program | |
WO2020262506A1 (en) | Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program | |
KR102521261B1 (en) | Moving picture encoding apparatus, moving picture encoding method and moving picture encoding program, moving picture decoding apparatus, moving picture decoding method and moving picture decoding program | |
JP7354610B2 (en) | Image encoding device, image encoding method, and image encoding program | |
JP7338262B2 (en) | Image encoding device, image encoding method and image encoding program | |
JP2021002704A (en) | Image encoding device, image encoding method, and image encoding program | |
JP2021002748A (en) | Image encoding device, image encoding method, and image encoding program | |
JP2021002749A (en) | Image decoding device, image decoding method, and image decoding program | |
JP2021002752A (en) | Image decoding device, image decoding method, and image decoding program | |
JP2021002751A (en) | Image encoding device, image encoding method, and image encoding program | |
WO2020262505A1 (en) | Image coding device, image coding method, image coding program, image decoding device, image decoding method, and image decoding program | |
JP2021005756A (en) | Image encoding device, image encoding method, and image encoding program | |
JP2021005757A (en) | Image encoding device, image encoding method, and image encoding program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220428 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230530 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230726 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230822 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230904 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7354610 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |